AI芯片通過(guò)內(nèi)存神經(jīng)網(wǎng)絡(luò)突破消除了馮·諾依曼構(gòu)架瓶頸

馮·諾依曼體系結(jié)構(gòu)一直是計(jì)算機(jī)體系結(jié)構(gòu)的主要組成部分，不久后可能會(huì)發(fā)現(xiàn)自己在人工智能領(lǐng)域的用處不大。

自成立以來(lái)，計(jì)算機(jī)體系結(jié)構(gòu)是一個(gè)高度動(dòng)態(tài)的領(lǐng)域。

自1940年代以來(lái)，在該領(lǐng)域的所有變革和創(chuàng)新中，一個(gè)概念一直是不可或缺的：馮·諾依曼架構(gòu)。近年來(lái)，隨著人工智能的發(fā)展，構(gòu)架設(shè)計(jì)人員開(kāi)始打破常規(guī)，挑戰(zhàn)馮·諾依曼的構(gòu)架。

具體來(lái)說(shuō)，兩家公司已經(jīng)合作創(chuàng)建了一個(gè)AI芯片，該芯片可以在硬件內(nèi)存中執(zhí)行神經(jīng)網(wǎng)絡(luò)計(jì)算。

馮·諾依曼構(gòu)架

馮·諾依曼體系結(jié)構(gòu)是由約翰·馮·諾依曼（John von Neumann）在其1945年的論文“ EDVAC報(bào)告的初稿 ”中首次提出的。簡(jiǎn)單地說(shuō)，馮·諾依曼體系結(jié)構(gòu)是將程序指令和數(shù)據(jù)一起存儲(chǔ)在內(nèi)存中以供以后使用的體系結(jié)構(gòu)進(jìn)行操作。

馮·諾依曼體系結(jié)構(gòu)中包含三個(gè)主要組件：CPU，內(nèi)存和I / O接口。在這種體系結(jié)構(gòu)中，CPU負(fù)責(zé)所有計(jì)算和控制信息流，內(nèi)存用于存儲(chǔ)數(shù)據(jù)和指令，而I / O接口則允許內(nèi)存與外圍設(shè)備進(jìn)行通信。

對(duì)于一般的工程師來(lái)說(shuō)，這個(gè)概念似乎很明顯，但這是因?yàn)樵摳拍钜呀?jīng)變得如此普遍，以至于大多數(shù)人無(wú)法理解計(jì)算機(jī)是否可以正常工作。

在馮·諾依曼（von Neumann）提出構(gòu)想之前，大多數(shù)機(jī)器會(huì)將內(nèi)存分為程序內(nèi)存和數(shù)據(jù)內(nèi)存。這使計(jì)算機(jī)非常復(fù)雜，并限制了它們的性能。如今，大多數(shù)計(jì)算機(jī)在設(shè)計(jì)中都采用了馮·諾伊曼（von Neumann）架構(gòu)概念。

馮·諾依曼架構(gòu)的瓶頸

馮·諾依曼架構(gòu)的主要缺點(diǎn)之一就是所謂的馮·諾依曼瓶頸。由于在這種體系結(jié)構(gòu)中內(nèi)存和CPU是分開(kāi)的，因此系統(tǒng)的性能通常受到訪問(wèn)內(nèi)存速度的限制。從歷史上看，內(nèi)存訪問(wèn)速度比實(shí)際處理速度要慢幾個(gè)數(shù)量級(jí)，這在系統(tǒng)性能方面造成了瓶頸。

此外，由于互連寄生效應(yīng)，數(shù)據(jù)的物理移動(dòng)消耗大量能量。在給定的情況下，已經(jīng)觀察到，數(shù)據(jù)從內(nèi)存的物理移動(dòng)所消耗的能量最多是實(shí)際處理該數(shù)據(jù)的500倍。這種趨勢(shì)只會(huì)隨著芯片規(guī)模的擴(kuò)大而惡化。

人工智能需要大量的電源和內(nèi)存

馮·諾依曼瓶頸因其內(nèi)存密集型特性而在人工智能應(yīng)用上帶來(lái)了一個(gè)特別具有挑戰(zhàn)性的問(wèn)題。神經(jīng)網(wǎng)絡(luò)的操作取決于大型矢量矩陣乘法以及諸如權(quán)重之類的大量數(shù)據(jù)的移動(dòng)，所有這些數(shù)據(jù)都存儲(chǔ)在內(nèi)存中。

由于數(shù)據(jù)在內(nèi)存中進(jìn)出的移動(dòng)所造成的功率和時(shí)序限制，使得像智能手機(jī)這樣的小型計(jì)算設(shè)備幾乎不可能運(yùn)行神經(jīng)網(wǎng)絡(luò)。相反，必須通過(guò)基于云的引擎為數(shù)據(jù)提供服務(wù)，從而帶來(lái)過(guò)多的隱私和延遲問(wèn)題。

AI芯片的“突破”：內(nèi)存中的NN處理

對(duì)許多人而言，對(duì)這一問(wèn)題的反應(yīng)是在設(shè)計(jì)AI芯片時(shí)放棄了馮·諾依曼架構(gòu)。

最近，Imec和GLOBALFOUNDRIES展示了一種新的人工智能芯片的硬件演示，該演示否認(rèn)了處理和內(nèi)存存儲(chǔ)必須完全獨(dú)立的功能這一觀念。

相反，他們采用的新架構(gòu)稱為內(nèi)存模擬計(jì)算（AiMC）。顧名思義，計(jì)算是在內(nèi)存中執(zhí)行的，而無(wú)需將數(shù)據(jù)從內(nèi)存?zhèn)鬏數(shù)紺PU。與數(shù)字芯片相反，此計(jì)算在模擬域中進(jìn)行。

該加速器在SRAM單元中執(zhí)行模擬計(jì)算，可以本地處理傳感器的模式識(shí)別，否則傳感器可能依賴于數(shù)據(jù)中心的機(jī)器學(xué)習(xí)。

邊緣能源效率

這款新芯片聲稱已實(shí)現(xiàn)了高達(dá)2900 TOPS / W的驚人能源效率，據(jù)說(shuō)“比數(shù)字加速器好十到一百倍”。

節(jié)省這么多的能量將使在邊緣設(shè)備上運(yùn)行神經(jīng)網(wǎng)絡(luò)更加可行。隨之而來(lái)的是減輕了與云計(jì)算有關(guān)的隱私，安全性和延遲問(wèn)題。

GF的300mm生產(chǎn)線目前正在德國(guó)德累斯頓開(kāi)發(fā)這種新芯片，并有望在不久的將來(lái)進(jìn)入市場(chǎng)。
責(zé)任編輯：tzh