Arm KleidiAI助力提升PyTorch上LLM推理性能

生成式人工智能 (AI) 正在科技領(lǐng)域發(fā)揮關(guān)鍵作用，許多企業(yè)已經(jīng)開始將大語言模型 (LLM) 集成到云端和邊緣側(cè)的應(yīng)用中。生成式 AI 的引入也使得許多...

2024-12-03 標(biāo)簽：處理器ARM聊天機(jī)器人 2.2k 0

淺析AmpereOne的效率優(yōu)勢(shì)

無論是移動(dòng)應(yīng)用程序或數(shù)字商務(wù)等可見應(yīng)用程序，還是航空公司定價(jià)算法或每次刷卡時(shí)激活的欺詐檢測(cè)系統(tǒng)等幕后流程，AI 都已成為我們?nèi)粘Ｉ钪胁豢苫蛉钡囊徊糠帧?..

2024-11-21 標(biāo)簽：處理器服務(wù)器Ampere 1.1k 0

掌握4G模組SPI|技術(shù)指南

本次我要分享的是4G模組SPI的技術(shù)指南，以合宙Air724UG為例，學(xué)完本章幫你實(shí)現(xiàn)技術(shù)提升。

2024-12-14 標(biāo)簽：處理器芯片SPI 2.3k 0

超帶寬域成為業(yè)內(nèi)技術(shù)探索新領(lǐng)域

AI大模型的迅猛發(fā)展，使得網(wǎng)絡(luò)基礎(chǔ)設(shè)施技術(shù)的進(jìn)步速度超乎想象。產(chǎn)業(yè)鏈上的每一個(gè)環(huán)節(jié)都需緊密追蹤AI驅(qū)動(dòng)的技術(shù)革新，并據(jù)此進(jìn)行同步的創(chuàng)新升級(jí)。

2024-11-18 標(biāo)簽：處理器NVIDIA網(wǎng)絡(luò) 2.2k 0

Achronix Speedcore eFPGA的特性和功能

Speedcore嵌入式FPGA（embedded FPGA，eFPGA）知識(shí)產(chǎn)權(quán)（IP）產(chǎn)品是Achronix公司于2016年推出的顛覆性技術(shù)，并于當(dāng)...

2024-11-15 標(biāo)簽：處理器嵌入式Achronix 1.9k 0

基于Arm Neoverse N2實(shí)現(xiàn)自動(dòng)語音識(shí)別技術(shù)

自動(dòng)語音識(shí)別 (Automatic Speech Recognition) 技術(shù)已經(jīng)深入到現(xiàn)代生活的方方面面，廣泛應(yīng)用于從語音助手、轉(zhuǎn)錄服務(wù)，到呼叫中心...

2024-11-15 標(biāo)簽：處理器ARMcpu 2k 0

流水線中Half-Buffer與Skid-Buffer的使用

引發(fā)上述問題的原因是未能及時(shí)阻塞之前的流水線，再深究其原因，是因?yàn)槠漭斎雮?cè)和輸出側(cè)的握手允許在相同時(shí)鐘周期完成，所以阻塞的信息沒有同步到上級(jí)。

2024-11-05 標(biāo)簽：處理器流水線模型 1.7k 0

淺析FPGA的重要用途

FPGA 允許在單個(gè)芯片中實(shí)現(xiàn)大量數(shù)字邏輯，其運(yùn)行速度相對(duì)較高，并且只需很少或不需要在 CPU 內(nèi)核上運(yùn)行的傳統(tǒng)順序程序即可完成其工作。

2024-11-05 標(biāo)簽：處理器FPGA芯片 2.8k 0

存算一體技術(shù)的分類

近年間，云計(jì)算與人工智能技術(shù)的蓬勃興起，計(jì)算中心面臨著數(shù)據(jù)效率低、能耗大等核心挑戰(zhàn)，這促使學(xué)術(shù)界和工業(yè)界重新聚焦。

2024-11-05 標(biāo)簽：處理器存儲(chǔ)器算力 2.5k 0

基于Arm架構(gòu)的珠峰芯片加速極致視頻體驗(yàn)

視頻編解碼技術(shù)作為支撐超高清視頻及泛音視頻產(chǎn)業(yè)發(fā)展的基石，其重要性愈發(fā)凸顯。H.264/AVC 是目前廣泛使用的編解碼標(biāo)準(zhǔn)，能夠在較低的數(shù)據(jù)速率下提供高...

2024-11-01 標(biāo)簽：處理器芯片ARM 4.6k 0

一文詳解計(jì)算型存儲(chǔ)協(xié)議框架

近年來，AI應(yīng)用態(tài)勢(shì)迅猛增加，對(duì)計(jì)算側(cè)的算力和內(nèi)存提出了更高的要求。GPU、HBM這些高性能高密計(jì)算部件和內(nèi)存部件，在AI計(jì)算場(chǎng)景中作為必需品，成為市場(chǎng)...

2024-10-31 標(biāo)簽：處理器存儲(chǔ)SSD 2k 0

如何通過Docker使用香山

資源包在通過Docker形式提供了運(yùn)行香山必須的Linux操作系統(tǒng)、香山開發(fā)環(huán)境、香山和仿真相關(guān)工具的代碼，會(huì)大大降低自己部署環(huán)境和工具的難度，理論上比...

2024-10-29 標(biāo)簽：處理器操作系統(tǒng)開源 1.3k 0

使用第二級(jí)濾波器來減少電壓紋波

本期，為大家?guī)淼氖恰妒褂玫诙?jí)濾波器來減少電壓紋波》，我們將深入探討實(shí)現(xiàn) 1mV 輸出電壓紋波的三種不同控制架構(gòu)，并提供使用相同電氣規(guī)格的測(cè)試數(shù)據(jù)以及...

2024-10-27 標(biāo)簽：處理器濾波器穩(wěn)壓器 1.8k 0

異構(gòu)計(jì)算下緩存一致性的重要性

在眾多回復(fù)中，李博杰同學(xué)的回答被認(rèn)為質(zhì)量最高。他首先將緩存一致性分為兩個(gè)主要場(chǎng)景：一是主機(jī)內(nèi)CPU與設(shè)備間的一致性；二是跨主機(jī)的一致性。

2024-10-24 標(biāo)簽：處理器cpu緩存 3.2k 0

網(wǎng)卡的演進(jìn)和應(yīng)用

隨著云計(jì)算和虛擬化技術(shù)的發(fā)展，網(wǎng)卡在功能和硬件結(jié)構(gòu)方面也經(jīng)歷了四個(gè)階段，即網(wǎng)卡、智能網(wǎng)卡、基于FPGA的DPU和DPU SoC網(wǎng)卡。本文將重點(diǎn)介紹這些不...

2024-10-24 標(biāo)簽：處理器計(jì)算機(jī)網(wǎng)卡 2.2k 0

Linux內(nèi)存管理中HVO的實(shí)現(xiàn)原理

代碼閱讀工具：vim+ctags+cscope本文主要介紹內(nèi)存管理中的HVO（HugeTLB Vmemmap Optimization）特性，通過HVO...

2024-10-22 標(biāo)簽：處理器內(nèi)核Linux 1.4k 0