世界正在朝著交互設(shè)備的智能和分布式計(jì)算模型發(fā)展。這些設(shè)備中的智能將由機(jī)器學(xué)習(xí)算法驅(qū)動。然而，將機(jī)器學(xué)習(xí)擴(kuò)展到邊緣并非沒有挑戰(zhàn)。本文將討論這些挑戰(zhàn)的前景，然后描述神經(jīng)形態(tài) - 大腦啟發(fā) - 計(jì)算將如何實(shí)現(xiàn)廣泛的智能應(yīng)用來應(yīng)對這些挑戰(zhàn)。提供了該技術(shù)的示例，包括手寫識別和連續(xù)語音識別。

世界正在朝著智能和分布式計(jì)算模式發(fā)展，其中數(shù)百萬智能設(shè)備將直接與他們的世界以及彼此進(jìn)行交互和通信，以實(shí)現(xiàn)更快，響應(yīng)更快，更智能的未來。這個世界將使一種新型的邊緣設(shè)備和系統(tǒng)成為可能，從可穿戴設(shè)備、智能燈泡、智能鎖到智能汽車和建筑，對任何中央?yún)f(xié)調(diào)或處理實(shí)體（如云）的需求最小。這個智能世界的核心是機(jī)器學(xué)習(xí)算法，這些算法在處理器上運(yùn)行，這些處理器直接對這些設(shè)備收集的數(shù)據(jù)進(jìn)行操作，以學(xué)習(xí)進(jìn)行智能推理，并在動態(tài)變化的環(huán)境中實(shí)時有效地對其世界采取行動。

圖 1.具有學(xué)習(xí)、推理和快速交互能力的智能邊緣模型將使未來的智能設(shè)備成為可能。

在邊緣設(shè)備中啟用智能的模型基于在邊緣設(shè)備與環(huán)境和其他設(shè)備交互期間感知-學(xué)習(xí)-推斷-行動的能力（圖 1）。我們相信，使這些智能邊緣設(shè)備既敏捷（即快速響應(yīng)）又高效（即從電源角度來看）的解決方案將主導(dǎo)這個動態(tài)變化和分布式的網(wǎng)絡(luò)傳感器和對象世界。但是，與任何新技術(shù)一樣，在邊緣提供低功耗智能時需要解決一些挑戰(zhàn)。我們回顧了一些關(guān)鍵挑戰(zhàn)，并討論了Eta計(jì)算如何努力解決這些問題。

圖 2.DIAL技術(shù)可實(shí)現(xiàn)電壓調(diào)節(jié)，從而以無縫方式解決功耗和性能限制應(yīng)用。

一個關(guān)鍵的挑戰(zhàn)是能夠在這些邊緣設(shè)備上使用非常有限的電源資源智能地處理數(shù)據(jù)。埃塔計(jì)算一直在開發(fā)一種名為DIAL的基礎(chǔ)技術(shù)。斷續(xù)器（即，延遲不敏感的異步邏輯）將傳統(tǒng)微處理器和數(shù)字信號處理器的操作從同步模式轉(zhuǎn)換為異步模式（即，沒有任何時鐘）。與傳統(tǒng)邏輯不同（參見圖 2），其基本原理是以事件驅(qū)動的方式運(yùn)行處理器，在不通過握手協(xié)議使用時，可以按需喚醒以進(jìn)行處理并進(jìn)入睡眠狀態(tài)。此外，該處理器可以自動控制為以任務(wù)要求的最低頻率運(yùn)行，并在該頻率下能夠?qū)⒐ぷ麟妷嚎s放到盡可能小的值以運(yùn)行任務(wù)。DIAL的一項(xiàng)重要創(chuàng)新是，電路設(shè)計(jì)中沒有面積損失，同時還提供了一種可正式驗(yàn)證的方法來驗(yàn)證電路功能是否正確。這些重要特性使 Eta Compute 能夠以業(yè)界最低的功率水平提供微處理器技術(shù)，并在工作頻率下提供約 10 μW/MHz 的擴(kuò)展。執(zhí)行電壓調(diào)節(jié)還可以實(shí)現(xiàn)高能效（即低功耗）和性能高效（即高吞吐量）計(jì)算任務(wù)之間的無縫轉(zhuǎn)換。

另一個重要的挑戰(zhàn)是能夠支持ML模型，這些模型可以直接在內(nèi)存資源非常有限的設(shè)備上學(xué)習(xí)。此功能為許多應(yīng)用程序提供了所需的隱私和安全性，同時還確保了與其環(huán)境的敏捷交互。今天解決這個問題的方法是使用深度學(xué)習(xí)模型和谷歌的TensorFlow等工具在云中訓(xùn)練ML模型，然后將這些訓(xùn)練的模型轉(zhuǎn)換為在邊緣運(yùn)行的推理模型。

圖 3.SNN 模型中的核心思想。（a）從信息理論和能源效率的角度來看，基于事件的稀疏和離散的信號表示非常有效（b）興奮性（綠色）和抑制性（紅色）神經(jīng)元之間的循環(huán)結(jié)構(gòu)約束和平衡的峰值活動。

我們正在探索一種基于大腦計(jì)算或神經(jīng)形態(tài)計(jì)算原理的新方法［1］，既能夠直接從數(shù)據(jù)流中學(xué)習(xí)，又可以通過有限數(shù)量的訓(xùn)練示例和有限的記憶要求來存儲所學(xué)知識。這里的基本思想是明確地表示數(shù)據(jù)/信號（圖3），方法是以動作電位或尖峰的形式合并時間，然后將芯片操作的異步模式（如上所述）與使用尖峰學(xué)習(xí)的異步模式相結(jié)合。峰值神經(jīng)網(wǎng)絡(luò) （SNN） 計(jì)算提供了非常稀疏的數(shù)據(jù)表示，并且使用 DIAL 實(shí)現(xiàn)起來非常節(jié)能，因?yàn)橛?jì)算僅在出現(xiàn)峰值事件時才發(fā)生。此外，學(xué)習(xí)僅使用具有稀疏連接的本地學(xué)習(xí)規(guī)則來啟用，因此不像傳統(tǒng)的ML模型那樣參數(shù)密集，從而節(jié)省了存儲所需的內(nèi)存和訓(xùn)練模型所需的時間［2］。SNN的最后一個但同樣重要的方面是利用結(jié)構(gòu)約束（圖3）對事件序列的存儲器進(jìn)行編碼，以便快速學(xué)習(xí)，而無需在訓(xùn)練期間進(jìn)行多個數(shù)據(jù)演示。將模型的這些方面與由DIAL提供支持的處理器相結(jié)合，可以產(chǎn)生一個可以互換學(xué)習(xí)和推理的邊緣設(shè)備，從而實(shí)現(xiàn)敏捷的感知 - 學(xué)習(xí) - 推斷 - 行為模型。

Eta Compute正在使用這項(xiàng)技術(shù)開發(fā)用于模式識別的實(shí)際應(yīng)用程序，我們將討論兩個這樣的例子。首先是使用語音命令數(shù)據(jù)集 ［3］ 中的數(shù)據(jù)連續(xù)識別語音數(shù)字。此數(shù)據(jù)集由來自 2，300 個不同揚(yáng)聲器的個位數(shù)音頻片段組成，總共 60000 個話語。我們的 SNN 使用每個訓(xùn)練樣本的單次通過進(jìn)行訓(xùn)練，同時在測試集上實(shí)現(xiàn)了 95.2% 的準(zhǔn)確率，可與其他 ML 模型相媲美。從模型效率的角度來看，我們的 SNN 模型的效率提高了幾個數(shù)量級（通過所需的訓(xùn)練樣本數(shù)量和要學(xué)習(xí)的網(wǎng)絡(luò)參數(shù)數(shù)量來衡量），同時執(zhí)行的準(zhǔn)確性相當(dāng)。

SNN還能夠泛化以在連續(xù)模式下穩(wěn)健地識別數(shù)字，這是由于固有的短期記憶，可以可靠地檢測10位數(shù)話語的開頭，即使由于其他數(shù)字而重疊的頻譜圖也是如此。此模型已移植到我們的異步 Eta 核心芯片上。音頻從麥克風(fēng)捕獲，并使用片上低功耗ADC進(jìn)行數(shù)字化，數(shù)字化信號被轉(zhuǎn)換為頻譜圖，然后使用DSP編碼為尖峰。ARM M3 執(zhí)行 SNN 計(jì)算（圖 4（a））。該型號的總內(nèi)存為36 KB。從數(shù)據(jù)到?jīng)Q策（即包括I/O、DSP和M3）的總功耗為2 mW，推理速率為6-8字/秒。

同樣的原理應(yīng)用于基于MNIST基準(zhǔn)測試［4］的訓(xùn)練數(shù)據(jù)的手寫數(shù)字識別問題。二進(jìn)制圖像由 DSP 直接轉(zhuǎn)換為尖峰，同時在 M3 上執(zhí)行 SNN 學(xué)習(xí)（圖 4（b））。該芯片在MNIST測試設(shè)備上實(shí)現(xiàn)了98.3%的精度，需要64 KB的內(nèi)存。該解決方案需要 1 mW 的功率從數(shù)據(jù)到?jīng)Q策，吞吐量為 8 張圖像/秒。

圖 4.我們的連續(xù)語音數(shù)字和手寫數(shù)字識別芯片實(shí)現(xiàn)具有很高的功率和內(nèi)存效率，同時在準(zhǔn)確性方面可與傳統(tǒng)ML模型相媲美。（a） 連續(xù)語音數(shù)字識別 （b） 手寫數(shù)字識別。

這些結(jié)果表明，正如 Gartner 集團(tuán)所預(yù)測的那樣，實(shí)現(xiàn)智能、敏捷和高效的邊緣設(shè)備的潛力將推動快速擴(kuò)張的物聯(lián)網(wǎng)市場，到 2020 年將有超過 250 億臺設(shè)備投入使用［5］。例如，其他基礎(chǔ)設(shè)施的共同開發(fā)，如設(shè)備互操作性標(biāo)準(zhǔn)和5G無線技術(shù)，可以使新的健身追蹤器能夠可靠地檢測用戶狀態(tài)，例如入睡，然后自動關(guān)燈。未來似乎正在向由智能和高效邊緣設(shè)備提供支持的智能和分布式計(jì)算模型邁進(jìn)，Eta Compute正在開發(fā)新技術(shù)，以在其中發(fā)揮關(guān)鍵作用。

審核編輯：郭婷