人工智能(AI)正在藉由智能型手機(jī)和消費(fèi)電子產(chǎn)品內(nèi)建的臉部辨識(shí)、語(yǔ)音辨識(shí)、影像分析和自然語(yǔ)言處理功能滲透到每個(gè)人的生活中。未來(lái)幾年中，大多數(shù)消費(fèi)裝置將在本地運(yùn)行AI，而越來(lái)越多功能將自動(dòng)化。為解決AI應(yīng)用過(guò)于耗電及占用大量資源的問(wèn)題，芯片大廠正在積極研發(fā)AI系統(tǒng)單芯片(SoC)。

根據(jù)Silicon Angle報(bào)導(dǎo)，目前大多數(shù)行動(dòng)裝置中的處理器并未針對(duì)AI最佳化，因此AI在手機(jī)和物聯(lián)網(wǎng)(IoT)終端上運(yùn)行速度緩慢，快速消耗電池電力及過(guò)多帶寬，并因數(shù)據(jù)在云端往返傳輸而會(huì)暴露敏感的本地信息(local information)。

因此越來(lái)越多行動(dòng)和IoT裝置將配備針對(duì)本地AI處理而優(yōu)化的SoC。AI SoC具有專用神經(jīng)網(wǎng)絡(luò)處理器，如GPU、TPU及FPGA。這些AI最佳化芯片可從裝置的CPU中卸載神經(jīng)網(wǎng)絡(luò)處理，從而實(shí)現(xiàn)更多的本地自主AI處理，并減少云端通訊的需求。

目前一般會(huì)將多個(gè)專用處理器芯片，如CPU、GPU和數(shù)碼訊號(hào)處理器(DSP)整合到行動(dòng)或IoT終端外型設(shè)計(jì)(form factor)中。整個(gè)配置可能是針對(duì)非常特定的工作負(fù)載，如臉部辨識(shí)、語(yǔ)音辨識(shí)、自然語(yǔ)言處理或擴(kuò)增實(shí)境(AR)，也可能是針對(duì)可在行動(dòng)裝置上直接執(zhí)行的一系列AI功能進(jìn)行最佳化。

此外，AI SoC通常有應(yīng)用程序接口、程序庫(kù)和工具，讓開發(fā)人員可從頭開發(fā)在裝置上執(zhí)行的AI，或?qū)?a href="http://m.makelele.cn/v/tag/557/" target="_blank">機(jī)器學(xué)習(xí)和TensorFlow、Caffe2、PyTorch等架構(gòu)內(nèi)建的深度學(xué)習(xí)模型。

近幾個(gè)月來(lái)有跡象顯示，越來(lái)越多復(fù)雜的AI SoC芯片正在進(jìn)入市場(chǎng)?？沈?qū)動(dòng)iPhone X的Face ID功能的蘋果(Apple)A11 Bionic SoC亦為這類芯片。而英特爾(Intel)亦于2017年推出Movidius Myriad X SoC，用于智能相機(jī)和其它邊緣裝置中的AI視覺(jué)處理。而華為麒麟970亦內(nèi)建嵌入式AI神經(jīng)處理引擎。有傳聞指出，Google和亞馬遜(Amazon)正在為其商業(yè)裝置開發(fā)AI SoC。

NVIDIA最近宣布與安謀(ARM)合作，將NVIDIA深度學(xué)習(xí)加速器(NVDLA)整合到ARM Prroject Trillium機(jī)器學(xué)習(xí)平臺(tái)中。Project Trillium能在整合CPU、GPU、DSP和硬件加速器，以及搭配第二代ARM物體檢測(cè)處理器(object detection processor)和ARM神經(jīng)網(wǎng)絡(luò)軟件的SoC上，實(shí)現(xiàn)高效的AI推論或機(jī)器學(xué)習(xí)算法操作。

ARM會(huì)向制造商授權(quán)芯片設(shè)計(jì)，這意味著最終的NVDLA/Trillium SoC設(shè)計(jì)將可整合到各種IoT邊緣裝置中，以實(shí)現(xiàn)高性能、低功耗的行動(dòng)AI推論。

此外，高通(Qualcomm)亦推出兩款低功耗AI SoC，QCS605和QCS603。這兩款SoC用于計(jì)算機(jī)視覺(jué)應(yīng)用，特別是在安全、運(yùn)動(dòng)、穿戴裝置、虛擬實(shí)境(VR)和機(jī)器人上使用的智能視訊/靜態(tài)鏡頭。其嵌入式AI功能可協(xié)助鏡頭在極低光條件下運(yùn)行，確保鏡頭在移動(dòng)或不穩(wěn)定平臺(tái)時(shí)的影像穩(wěn)定性，并為諸如無(wú)人機(jī)等平臺(tái)提供避障指引。

這兩款高通SoC包含大量行動(dòng)/IoT終端功能。每種技術(shù)都包含Adreno GPU、多個(gè)Cryo ARM CPU核心、Hexagon 685矢量處理器、Snapdragon神經(jīng)處理引擎，雙14位元Spectra 270影像訊號(hào)處理器、雙1,600萬(wàn)畫素傳感器和Wi-Fi網(wǎng)絡(luò)。

8核心QCS605可同時(shí)處理高達(dá)60 fps的4K和1080p視訊輸入訊號(hào)，以及更低分辨率的同步視訊串流．而功耗更低、體積更小的4核心QCS603能以30 fps進(jìn)行4K和720p視訊串流。對(duì)于深度神經(jīng)網(wǎng)絡(luò)推論，這兩顆SoC每秒運(yùn)算性能可達(dá)2.1 TOPS。支持此功能的是雙14位元Spectra 270影像訊號(hào)處理器。

高通軟件開發(fā)套件能讓在TensorFlow、Caffe和Caffe2中創(chuàng)建的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)模型，以及Android Neural Networks API和高通的Hexagon神經(jīng)網(wǎng)絡(luò)庫(kù)移植到這兩款SoC的AI引擎。

而在2018年肯定能看到更多AI SoC上市。許多AI芯片供應(yīng)商正在積極為各種行動(dòng)和IoT邊緣裝置應(yīng)用建構(gòu)SoC。