基于深度神經(jīng)網(wǎng)絡(luò)開發(fā)AI編譯器
概述
我們正在開發(fā)的 AI 編譯器是可以從預(yù)訓(xùn)練的深度神經(jīng)網(wǎng)絡(luò)為瑞薩的 R-Car 設(shè)備生成高性能可執(zhí)行代碼的軟件。
背景
實時執(zhí)行 CNN 推理是一項非常具有挑戰(zhàn)性的工作，因為嵌入式硬件在計算和功耗的硬件資源方面面臨著嚴(yán)格的限制。為了在 R-Car V 系列設(shè)備上有效地執(zhí)行 CNN 推理，瑞薩設(shè)計了異構(gòu)架構(gòu)，該架構(gòu)分為可編程處理器 （CPU） 和專用于計算網(wǎng)絡(luò)各層的加速器。
至于AI編譯器，常見的軟件架構(gòu)包含兩部分：編譯器“前端”和編譯器“后端”，如圖所示。深度神經(jīng)網(wǎng)絡(luò)在 AI 編譯器中被翻譯成多級 IR。編譯器前端負(fù)責(zé)與硬件無關(guān)的轉(zhuǎn)換（圖 IR）和圖優(yōu)化，而編譯器后端負(fù)責(zé)特定于硬件的優(yōu)化、代碼生成。
例子
瑞薩主要開發(fā)硬件相關(guān)的優(yōu)化算法，最大限度地利用R-Car V系列的異構(gòu)架構(gòu)。為了進(jìn)一步提高性能，有必要了解與深度神經(jīng)網(wǎng)絡(luò)相關(guān)的最新論文，并與工程師進(jìn)行技術(shù)討論。我們正在尋找該領(lǐng)域積極進(jìn)取的工程師。
結(jié)論
深度神經(jīng)網(wǎng)絡(luò)是近年來得到廣泛研究并不斷發(fā)展的技術(shù)領(lǐng)域之一。瑞薩將提供先進(jìn)的人工智能工具來協(xié)助自動駕駛技術(shù)的發(fā)展。
圖像
審核編輯：郭婷
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4838瀏覽量
107810 -
AI
+關(guān)注
關(guān)注
91文章
39795瀏覽量
301460 -
編譯器
+關(guān)注
關(guān)注
1文章
1672瀏覽量
51627
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
神經(jīng)網(wǎng)絡(luò)的初步認(rèn)識
日常生活中的智能應(yīng)用都離不開深度學(xué)習(xí)，而深度學(xué)習(xí)則依賴于神經(jīng)網(wǎng)絡(luò)的實現(xiàn)。什么是神經(jīng)網(wǎng)絡(luò)？神經(jīng)網(wǎng)絡(luò)的核心思想是模仿生物
NMSIS神經(jīng)網(wǎng)絡(luò)庫使用介紹
NMSIS NN 軟件庫是一組高效的神經(jīng)網(wǎng)絡(luò)內(nèi)核，旨在最大限度地提高 Nuclei N 處理器內(nèi)核上的神經(jīng)網(wǎng)絡(luò)的性能并最??大限度地減少其內(nèi)存占用。
該庫分為多個功能，每個功能涵蓋特定類別
發(fā)表于 10-29 06:08
在Ubuntu20.04系統(tǒng)中訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的一些經(jīng)驗
本帖欲分享在Ubuntu20.04系統(tǒng)中訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的一些經(jīng)驗。我們采用jupyter notebook作為開發(fā)IDE，以TensorFlow2為訓(xùn)練框架，目標(biāo)是訓(xùn)練一個手寫數(shù)字識別的神經(jīng)網(wǎng)絡(luò)
發(fā)表于 10-22 07:03
CICC2033神經(jīng)網(wǎng)絡(luò)部署相關(guān)操作
在完成神經(jīng)網(wǎng)絡(luò)量化后，需要將神經(jīng)網(wǎng)絡(luò)部署到硬件加速器上。首先需要將所有權(quán)重數(shù)據(jù)以及輸入數(shù)據(jù)導(dǎo)入到存儲器內(nèi)。
在仿真環(huán)境下，可將其存于一個文件，并在 Verilog 代碼中通過 read
發(fā)表于 10-20 08:00
液態(tài)神經(jīng)網(wǎng)絡(luò)（LNN）：時間連續(xù)性與動態(tài)適應(yīng)性的神經(jīng)網(wǎng)絡(luò)
1.算法簡介液態(tài)神經(jīng)網(wǎng)絡(luò)（LiquidNeuralNetworks，LNN）是一種新型的神經(jīng)網(wǎng)絡(luò)架構(gòu)，其設(shè)計理念借鑒自生物神經(jīng)系統(tǒng)，特別是秀麗隱桿線蟲的神經(jīng)結(jié)構(gòu)，盡管這種微生物的
【「AI芯片：科技探索與AGI愿景」閱讀體驗】+神經(jīng)形態(tài)計算、類腦芯片
AI芯片不僅包括深度學(xué)細(xì)AI加速器，還有另外一個主要列別：類腦芯片。類腦芯片是模擬人腦神經(jīng)網(wǎng)絡(luò)架構(gòu)的芯片。它結(jié)合微電子技術(shù)和新型
發(fā)表于 09-17 16:43
神經(jīng)網(wǎng)絡(luò)的并行計算與加速技術(shù)
隨著人工智能技術(shù)的飛速發(fā)展，神經(jīng)網(wǎng)絡(luò)在眾多領(lǐng)域展現(xiàn)出了巨大的潛力和廣泛的應(yīng)用前景。然而，神經(jīng)網(wǎng)絡(luò)模型的復(fù)雜度和規(guī)模也在不斷增加，這使得傳統(tǒng)的串行計算方式面臨著巨大的挑戰(zhàn)，如計算速度慢、訓(xùn)練時間長等
【「AI芯片：科技探索與AGI愿景」閱讀體驗】+第二章 實現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)
Transformer和視覺Transformer模型。
ViTA是一種高效數(shù)據(jù)流AI加速器，用于在邊緣設(shè)備上部署計算密集型視覺Transformer模型。
2、射頻神經(jīng)網(wǎng)絡(luò)
2.1線性射頻模擬處理
發(fā)表于 09-12 17:30
如何在機器視覺中部署深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)
圖 1：基于深度學(xué)習(xí)的目標(biāo)檢測可定位已訓(xùn)練的目標(biāo)類別，并通過矩形框（邊界框）對其進(jìn)行標(biāo)識。 在討論人工智能（AI）或深度學(xué)習(xí)時，經(jīng)常會出現(xiàn)“神經(jīng)網(wǎng)絡(luò)”、“黑箱”、“標(biāo)注”等術(shù)語。這些概
邊緣設(shè)備AI部署：編譯器如何實現(xiàn)輕量化與高性能？
電子發(fā)燒友網(wǎng)綜合報道 AI編譯器是專門為人工智能（AI）和機器學(xué)習(xí)（ML）模型設(shè)計的編譯器，其核心目標(biāo)是將高級的AI模型描述（如計算圖、
Nordic收購 Neuton.AI 關(guān)于產(chǎn)品技術(shù)的分析
Nordic Semiconductor 于 2025 年收購了 Neuton.AI，這是一家專注于超小型機器學(xué)習(xí)（TinyML）解決方案的公司。
Neuton 開發(fā)了一種獨特的神經(jīng)網(wǎng)絡(luò)框架，能夠
發(fā)表于 06-28 14:18
無刷電機小波神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)子位置檢測方法的研究
摘要:論文通過對無刷電機數(shù)學(xué)模型的推導(dǎo),得出轉(zhuǎn)角:與三相相電壓之間存在映射關(guān)系,因此構(gòu)建了一個以三相相電壓為輸人,轉(zhuǎn)角為輸出的小波神經(jīng)網(wǎng)絡(luò)來實現(xiàn)轉(zhuǎn)角預(yù)測,并采用改進(jìn)遺傳算法來訓(xùn)練網(wǎng)絡(luò)結(jié)構(gòu)與參數(shù),借助
發(fā)表于 06-25 13:06
神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)在電機故障診斷中的應(yīng)用
摘要:針對傳統(tǒng)專家系統(tǒng)不能進(jìn)行自學(xué)習(xí)、自適應(yīng)的問題,本文提出了基于種經(jīng)網(wǎng)絡(luò)專家系統(tǒng)的并步電機故障診斷方法。本文將小波神經(jīng)網(wǎng)絡(luò)和專家系統(tǒng)相結(jié)合,充分發(fā)揮了二者故障診斷的優(yōu)點,很大程度上降低了對電機
發(fā)表于 06-16 22:09
神經(jīng)網(wǎng)絡(luò)RAS在異步電機轉(zhuǎn)速估計中的仿真研究
眾多方法中，由于其結(jié)構(gòu)簡單，穩(wěn)定性好廣泛受到人們的重視，且已被用于產(chǎn)品開發(fā)。但是MRAS仍存在在低速區(qū)速度估計精度下降和對電動機參數(shù)變化非常敏感的問題。本文利用神經(jīng)網(wǎng)絡(luò)的特點，使估計更為簡單、快速
發(fā)表于 06-16 21:54
NVIDIA實現(xiàn)神經(jīng)網(wǎng)絡(luò)渲染技術(shù)的突破性增強功能
近日，NVIDIA 宣布了 NVIDIA RTX 神經(jīng)網(wǎng)絡(luò)渲染技術(shù)的突破性增強功能。NVIDIA 與微軟合作，將在 4 月的 Microsoft DirectX 預(yù)覽版中增加神經(jīng)網(wǎng)絡(luò)著色技術(shù)，讓開發(fā)
工商網(wǎng)監(jiān)
評論