目前約有十幾種加速用戶(hù)端機(jī)器學(xué)習(xí)(machine learning)任務(wù)的處理器核心正在角逐系統(tǒng)SoC市場(chǎng)，其中一些已經(jīng)被設(shè)計(jì)于智能手機(jī)中。其目標(biāo)在于取得比處理器IP巨擘Arm更早進(jìn)入市場(chǎng)的先發(fā)優(yōu)勢(shì)，但預(yù)計(jì)Arm很快就會(huì)發(fā)布自家的產(chǎn)品。

市場(chǎng)觀察家The Linley Group的首席分析師Linley Gwennap在Linley處理器大會(huì)(Linley Processor Conference)發(fā)表專(zhuān)題演講之前接受《EE Times》的訪問(wèn)。他表示，這場(chǎng)競(jìng)爭(zhēng)態(tài)勢(shì)顯示機(jī)器學(xué)習(xí)芯片的許多舉動(dòng)正開(kāi)始轉(zhuǎn)向低功耗的用戶(hù)端區(qū)塊(block)。然而，在高性能的資料中心芯片之間，競(jìng)爭(zhēng)仍處于初期階段。

Gwennap說(shuō)：「Arm已經(jīng)主宰了CPU的IP領(lǐng)域，也接管了GPU，但人工智能(AI)引擎為核心芯片創(chuàng)造了一個(gè)全新的市場(chǎng)，讓其它公司也能取得一個(gè)好的開(kāi)始?！?/p>

這一市場(chǎng)中值得關(guān)注的新競(jìng)爭(zhēng)對(duì)手與產(chǎn)品包括：

蘋(píng)果(Apple) iPhone智能手機(jī)中，A11 SoC內(nèi)建的Bionic生物神經(jīng)網(wǎng)路引擎

三星(Samsung )Galaxy S9手機(jī)中，Exynos 9810處理器內(nèi)建的DeePhi區(qū)塊

華為(Huawei)麒麟970 (Kirin 970)手機(jī)中的寒武紀(jì)(Cambricon)神經(jīng)引擎

聯(lián)發(fā)科(MediaTek) P30 SoC中用于視覺(jué)和AI加速的Cadence P5 DSP

英特爾(Intel)未來(lái)PC芯片組中可能使用Movidius加速芯片

現(xiàn)有的AI芯片設(shè)計(jì)訂單已經(jīng)鎖定了在整個(gè)手機(jī)市場(chǎng)中約占三分之一的高階智能手機(jī)應(yīng)用。Gwennap并預(yù)計(jì)，AI加速將在未來(lái)2~3年內(nèi)滲透到手機(jī)市場(chǎng)的其它部份。

除了智能手機(jī)，汽車(chē)對(duì)AI芯片來(lái)說(shuō)也是一個(gè)越來(lái)越大的市場(chǎng)。還有個(gè)人電腦(PC)、平板電腦和物聯(lián)網(wǎng)(IoT)裝置很快地也將充斥整個(gè)市場(chǎng)。

為了跟上步伐，Arm在今年二月宣布了一項(xiàng)名為'Project Trillium'的完整平臺(tái)。但是，Gwennap說(shuō)：「他們必須在一些最佳化電源效率的特定硬體加速器方面更具有競(jìng)爭(zhēng)力?！?/p>

「Arm目前正著手開(kāi)發(fā)這一類(lèi)加速器，并計(jì)畫(huà)在今年夏天發(fā)布其首款產(chǎn)品…但事實(shí)上，他們的進(jìn)度已經(jīng)落后了，這讓一些新公司有機(jī)會(huì)盡快卡位。」

去年10月，Arm宣布組建了一個(gè)機(jī)器學(xué)習(xí)小組。今年2月更進(jìn)一步提供該計(jì)畫(huà)的若干細(xì)節(jié)。

Arm可能會(huì)在今年10月份于矽谷舉行的年度活動(dòng)中發(fā)表產(chǎn)品詳情。但這并不能保證Arm將收復(fù)失地，因?yàn)樯窠?jīng)網(wǎng)路引擎和CPU之間并不一定存在密切關(guān)系。

迄今所宣布的用戶(hù)端推論加速器之原始性能數(shù)據(jù)，僅能反映部份現(xiàn)實(shí)（來(lái)源：The Linley Group）

基準(zhǔn)和資料中心的競(jìng)爭(zhēng)

最終，能在這場(chǎng)仍算是新戰(zhàn)場(chǎng)中獲勝的芯片將是集性能、功耗和芯片尺寸等優(yōu)勢(shì)于一的最佳組合。

Gwennap說(shuō)：「問(wèn)題在于我們看到了原始性能，但它實(shí)際上可歸納為在神經(jīng)網(wǎng)路上提供的性能。所以，我們需要的是一個(gè)良好的基準(zhǔn)，例如每秒鐘可分類(lèi)多少影像等?！?/p>

百度(Baidu)率先將AI基準(zhǔn)作為開(kāi)放來(lái)源發(fā)布，但尚未被廣泛采用。交易處理委員會(huì)(Transaction Processing Council)去年底成立了一個(gè)工作小組來(lái)處理這個(gè)問(wèn)題，但尚未提報(bào)任何進(jìn)展。

他說(shuō)：「提出基準(zhǔn)并不難，但要讓各家公司同意并比較結(jié)果可不簡(jiǎn)單…如今事情正在改觀，所以，任何基準(zhǔn)都必須發(fā)展，才能與時(shí)俱進(jìn)。」。

目前為止，Gwennap的報(bào)告稱(chēng)，Videantis的多核心v-MP6000表現(xiàn)較其最接近的競(jìng)爭(zhēng)對(duì)手Ceva NeuPro略具有原始性能優(yōu)勢(shì)。Ceva NeuPro將SIMD DSP與脈動(dòng)MAC陣列相結(jié)合。

其它廠商還包括新思科技(Synopsys)的EV64，它結(jié)合了SIMD DSP與用于啟動(dòng)和池化(pooling)的客制邏輯。如同Videantis一樣，AImotive AIware也使用了許多客制硬體區(qū)塊。

在低成本的區(qū)塊中，芯原微電子(VeriSilicon)的VIP8000-O采用具有多達(dá)8個(gè)深度學(xué)習(xí)引擎的GPU提供大部份的原始性能。令人不解的是，在所發(fā)布的芯片中，寒武紀(jì)的CPU采用小型矩陣引擎所提供的性能最低，但仍取得華為智能手機(jī)應(yīng)用的重要訂單。

英國(guó)芯片公司Imagination也攜其PowerVR 2NX入局，PowerVR 2NX采用支援MAC陣列的客制非GPU架構(gòu)。Nvidia則為其Xavier處理器的深度學(xué)習(xí)加速器(NVDLA)核心架構(gòu)提供免費(fèi)且開(kāi)放的IP，并獲得Arm的支持。

整體而言，Gwennap表示有多達(dá)40家公司都在設(shè)計(jì)客制的AI芯片。其中許多都鎖定了資料中心應(yīng)用，但在這個(gè)領(lǐng)域，Nvidia Volta GPU的地位穩(wěn)固，并成為亞馬遜(Amazon)等巨擘所選擇的訓(xùn)練引擎。

Gwennap說(shuō)：「我們現(xiàn)在看到的競(jìng)爭(zhēng)對(duì)手是Google TPU和微軟(Microsoft)基于FPGA的Brainwave——目前正被廣泛部署，但至今還沒(méi)有許多商用替代方案可供選擇。」

「今年，在將新的AI資料中心架構(gòu)投入生產(chǎn)方面，Wave Computing似乎領(lǐng)先一步?！?/p>

Wave Computing銷(xiāo)售完整系統(tǒng)的決定顯示其目標(biāo)放在二線和三線(tier)業(yè)者，而不是喜歡制造自家最佳化產(chǎn)品的大型資料中心。

英特爾旗下的Nervana最近明確表示，要到2019年才會(huì)投產(chǎn)芯片。深度學(xué)習(xí)新創(chuàng)公司Graphcore聲稱(chēng)將在今年稍晚發(fā)布新芯片。另一家新創(chuàng)公司Cerebrus則仍保持緘默，而比特幣ASIC制造商比特大陸(BitMain)已在去年底宣布用于資料中心的AI芯片計(jì)畫(huà)。

Gwennap說(shuō)：「業(yè)界多家公司正一窩蜂地投入AI芯片領(lǐng)域，他們將其視為下一波淘金熱，因而競(jìng)相搶搭這班列車(chē)。」