華為申請的此項(xiàng)專利，能夠在保證神經(jīng)網(wǎng)絡(luò)精度的前提下，壓縮網(wǎng)絡(luò)模型，同時還能極大地減小了憶阻器器件噪音對神經(jīng)網(wǎng)絡(luò)準(zhǔn)確性的影響。

集微網(wǎng)消息，憶阻器全稱記憶電阻，即表示具有記憶能力的電阻，被認(rèn)為是能夠突破摩爾定律的新方向。有數(shù)據(jù)統(tǒng)計稱，一個憶阻器的工作量相當(dāng)于一枚CPU芯片中十幾個晶體管共同產(chǎn)生的效用，而國內(nèi)巨頭華為公司也開始“低調(diào)”研發(fā)。

近年來，神經(jīng)網(wǎng)絡(luò)(neural network，NN)計算取得了突破性進(jìn)展，在圖像識別、語言識別、自然語言處理等諸多領(lǐng)域均取得了很高的準(zhǔn)確率。然而神經(jīng)網(wǎng)絡(luò)需要海量計算資源，傳統(tǒng)的通用處理器已經(jīng)很難滿足深度學(xué)習(xí)的計算需求，設(shè)計專用芯片已經(jīng)成為了一個重要的發(fā)展方向。憶阻器具有高密度、非易失、低功耗、存算合一、易于3D等優(yōu)點(diǎn)，為神經(jīng)網(wǎng)絡(luò)芯片設(shè)計提供了一種高效的解決方案。憶阻器陣列作為神經(jīng)網(wǎng)絡(luò)加速芯片，以加速矩陣乘法運(yùn)算為主要的設(shè)計目標(biāo)，整個過程在模擬電路下實(shí)現(xiàn)，具有速度快，面積小的優(yōu)點(diǎn)。

但是，憶阻器器件在實(shí)際應(yīng)用中，存在噪音的問題，即設(shè)置的憶阻器電導(dǎo)值并不精確的等于所需要的值，而是落在期望值附近的一個分布中。如何降低憶阻器器件噪聲對神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確性的影響，是亟待解決的問題。

為此，華為申請了一項(xiàng)名為“一種神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法及裝置”的發(fā)明專利（申請?zhí)枺?01810702883 .9），申請人為華為技術(shù)有限公司。

圖1 神經(jīng)網(wǎng)絡(luò)示意圖

神經(jīng)網(wǎng)絡(luò)的建模通常以若干神經(jīng)元為一層，層與層之間相互連接來構(gòu)建，如圖1所示，是一種鏈狀的神經(jīng)網(wǎng)絡(luò)示意圖。其中圖1中每一個圓表示一個神經(jīng)元，每一個箭頭表示神經(jīng)元之間的連接，每個連接均有權(quán)重。

在神經(jīng)網(wǎng)絡(luò)的應(yīng)用中，矩陣向量乘運(yùn)算是常見的操作，可以利用憶阻器交叉開關(guān)陣列具有的存儲和計算在同一個物理位置的特性，用憶阻器交叉開關(guān)陣列來進(jìn)行矩陣向量乘運(yùn)算來提高神經(jīng)網(wǎng)絡(luò)的計算效率。

圖2 憶阻器開關(guān)陣列

本專利提出的神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法可以應(yīng)用于如圖2所示的憶阻器開關(guān)陣列，如圖2所示，輸入向量為不同的電壓值V0-Vn，可以表示為向量V，經(jīng)過憶阻器交叉開關(guān)陣列計算后，輸出為新的電壓值V '0-V 'm，可以表示為向量V '。其中，V '＝VGRs，向量Rs包括元素 rs0, rs1,…, rsm其中rsj表示第j列的接地電阻值。

實(shí)際應(yīng)用中，憶阻器器件的噪音會給基于憶阻器的神經(jīng)網(wǎng)絡(luò)的表達(dá)能力帶來負(fù)面影響，為了消除噪音對于實(shí)際神經(jīng)網(wǎng)絡(luò)性能的影響，可以在神經(jīng)網(wǎng)絡(luò)訓(xùn)練時引入噪音，通過將底層器件噪音暴露給軟件訓(xùn)練層面，來抵消一部分硬件層面的噪音所帶來的精度影響。

圖3 神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法示意圖

該專利中提出的可用于圖1、2的神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法示意圖如上所示，該訓(xùn)練方法主要包括如下幾個步驟：

首先，將第一權(quán)重矩陣中絕對值小于或者等于預(yù)設(shè)門限的元素進(jìn)行剪枝操作獲取第二權(quán)重矩陣。其中，第一權(quán)重矩陣為預(yù)設(shè)權(quán)重矩陣，可以將神經(jīng)網(wǎng)絡(luò)中需要進(jìn)行訓(xùn)練的權(quán)重矩陣設(shè)置為預(yù)設(shè)權(quán)重矩陣。然后為第二權(quán)重矩陣的每個元素附加一個噪音，該噪音用于模擬憶阻器器件噪音，以此獲得第三權(quán)重矩陣。接著，根據(jù)第三權(quán)重矩陣進(jìn)行前向傳播，并將相應(yīng)的結(jié)果與目標(biāo)值進(jìn)行比較，獲得損失值。最后再將損失值和第一權(quán)重矩陣進(jìn)行反向傳播以獲取目標(biāo)權(quán)重矩陣。

華為申請的此項(xiàng)專利，能夠在保證神經(jīng)網(wǎng)絡(luò)精度的前提下，壓縮網(wǎng)絡(luò)模型，同時還能極大地減小了憶阻器器件噪音對神經(jīng)網(wǎng)絡(luò)準(zhǔn)確性的影響。

雖然憶阻器前景較好，但國內(nèi)市場進(jìn)行憶阻器芯片研發(fā)的企業(yè)較少，憶阻器的大部分技術(shù)仍停留在實(shí)驗(yàn)室階段，而作為國內(nèi)科技“領(lǐng)頭羊”的華為公司也開始展開阻器的研究，可謂給其他企業(yè)吃了一顆“定心丸”，勢必會引起國內(nèi)憶阻器行業(yè)的研發(fā)浪潮。