賓夕法尼亞大學(xué)（UPenn）研究人員最近使用新材料展示了模擬內(nèi)存計(jì)算電路如何為人工智能計(jì)算提供可編程解決方案。

為了推進(jìn)人工智能，賓夕法尼亞大學(xué)的研究人員最近開發(fā)了一種用于數(shù)據(jù)密集型計(jì)算的新型內(nèi)存計(jì)算 (CIM) 架構(gòu)。CIM 在大數(shù)據(jù)應(yīng)用方面具有諸多優(yōu)勢(shì)，UPenn研究小組在生產(chǎn)小型、強(qiáng)大的 CIM 電路方面邁出了第一步。

在本文中，我們將更深入地了解 CIM 的原理以及使研究人員能夠?qū)崿F(xiàn)無晶體管 CIM 架構(gòu)的器件物理特性。

為什么要內(nèi)存中計(jì)算？

傳統(tǒng)上，計(jì)算主要依賴于基于馮諾依曼架構(gòu)的互連設(shè)備。在此架構(gòu)的簡(jiǎn)化版本中，存在三個(gè)計(jì)算構(gòu)建：內(nèi)存、輸入/輸出 (I/O) 接口和中央處理單元 (CPU)。

馮諾依曼架構(gòu)，其中內(nèi)存與CPU不位于同一位置。圖片由Nature提供

每個(gè)構(gòu)建塊都可以根據(jù) CPU 給出的指令與其他構(gòu)建塊交互。然而，隨著 CPU 速度的提高，內(nèi)存訪問速度會(huì)大大降低整個(gè)系統(tǒng)的性能。這在需要大量數(shù)據(jù)的人工智能等數(shù)據(jù)密集型用例中更為復(fù)雜。此外，如果內(nèi)存未與處理器位于同一位置，則由于光速限制會(huì)進(jìn)一步降低性能。

所有這些問題都可以通過 CIM 系統(tǒng)來解決。在 CIM 系統(tǒng)中，內(nèi)存塊和處理器之間的距離大大縮短，內(nèi)存?zhèn)鬏斔俣瓤赡軙?huì)更高，從而可以實(shí)現(xiàn)更快的計(jì)算。

氮化鈧鋁：內(nèi)置高效內(nèi)存

UPenn 的 CIM 系統(tǒng)利用氮化鈧鋁(AlScN) 的獨(dú)特材料特性來生產(chǎn)小型高效的內(nèi)存塊。AlScN 是一種鐵電材料，這意味著它可能在外部電場(chǎng)的響應(yīng)下產(chǎn)生極化。通過改變施加的電場(chǎng)超過一定的閾值，鐵電二極管(FeD)可以被編程到低電阻或高電阻狀態(tài)(分別為L(zhǎng)RS或HRS)。

顯示兩種極化狀態(tài)的 AlScN 鐵電二極管插圖。每個(gè)狀態(tài)都表現(xiàn)出低電阻或高電阻狀態(tài)，使其成為一種有效的記憶形式。圖片由UPenn ESE提供

除了作為存儲(chǔ)單元的可操作性之外，AlScN 還可用于創(chuàng)建沒有晶體管的三元內(nèi)容可尋址存儲(chǔ) (TCAM) 單元。TCAM 單元對(duì)于大數(shù)據(jù)應(yīng)用非常重要，因?yàn)槭褂民T諾依曼架構(gòu)搜索數(shù)據(jù)可能非常耗時(shí)。使用 LRS 和 HRS 狀態(tài)的組合，研究人員實(shí)現(xiàn)了一個(gè)有效的三態(tài)并聯(lián)，所有這些都沒有使用晶體管。

使用無晶體管 CIM 陣列的神經(jīng)網(wǎng)絡(luò)

為了展示 AlScN 執(zhí)行 CIM 操作的能力，UPenn 小組開發(fā)了一個(gè)使用 FeD 陣列的卷積神經(jīng)網(wǎng)絡(luò) (CNN)。該陣列通過對(duì)輸入電壓產(chǎn)生的輸出電流求和來有效地完成矩陣乘法。權(quán)重矩陣（即輸出電流和輸入電壓之間的關(guān)系）可以通過修改單元的電導(dǎo)率來調(diào)整到離散水平。這種調(diào)諧是通過偏置 AlScN 薄膜以表現(xiàn)出所需的電導(dǎo)來實(shí)現(xiàn)的。

由 AlScN FeD 陣列組成的神經(jīng)網(wǎng)絡(luò)。通過調(diào)整每個(gè) FeD 的電導(dǎo)率，可以修改權(quán)重/電導(dǎo)矩陣以實(shí)現(xiàn)矩陣乘法。圖片由UPenn ESE提供

AlScN CNN 僅使用 4 位電導(dǎo)率分辨率就成功地從MNIST 數(shù)據(jù)集中識(shí)別出手寫數(shù)字，與 32 位浮點(diǎn)軟件相比，性能僅下降約為 2%。此外，由于沒有晶體管，架構(gòu)簡(jiǎn)單且可擴(kuò)展，使其成為未來需要高性能矩陣代數(shù)的人工智能應(yīng)用的優(yōu)秀計(jì)算技術(shù)。

打破馮諾依曼瓶頸

在其存在的大部分時(shí)間里，人工智能計(jì)算主要是一個(gè)軟件領(lǐng)域。然而，隨著數(shù)據(jù)變得更加密集，馮諾依曼瓶頸對(duì)系統(tǒng)有效計(jì)算的能力產(chǎn)生了更深的影響，使得非常規(guī)架構(gòu)變得更加有價(jià)值。

基于AlScN FeDs的模擬CIM系統(tǒng)消除了訓(xùn)練和評(píng)估神經(jīng)網(wǎng)絡(luò)的一個(gè)主要延遲原因，使其更容易在現(xiàn)場(chǎng)部署。AlScN器件與現(xiàn)有硅硬件集成的多功能性可能會(huì)提供一種突破性的方法，將人工智能集成到更多的領(lǐng)域。

審核編輯：劉清