在人工智能迅猛發(fā)展的當(dāng)下，幾乎每一家企業(yè)都在探索行業(yè)的切入點(diǎn)，試圖在人工智能大潮中分一杯羹。

而在追尋 AI 商業(yè)化的道路上，人們逐漸發(fā)現(xiàn)，要實(shí)現(xiàn)技術(shù)的落地，不僅需要性能優(yōu)越的算法模型以及可靠的硬件支持，還需要把 AI 技術(shù)和硬件環(huán)境進(jìn)行有機(jī)結(jié)合，再應(yīng)用到具體的實(shí)際場(chǎng)景中，進(jìn)而滿足用戶的需求。而「嵌入式 AI」就是當(dāng)前最熱門(mén)的 AI 商業(yè)化途徑之一。

「通過(guò)觀察市場(chǎng)我們發(fā)現(xiàn)，在 AI 領(lǐng)域主要有兩撥人。一方是高大上的算法團(tuán)隊(duì)，一方則是以深圳老板為代表的實(shí)體出貨商。有趣的是這兩撥人是完全不溝通的，就像一幫人看愛(ài)奇藝，一幫人看快手一樣?！筆erceptln 公司聯(lián)合創(chuàng)始人劉少山根據(jù)算法與硬件之間存在的壁壘，舉了一個(gè)有意思的例子。

Perceptln 于 2016 年成立于硅谷，旨在提供機(jī)器人整體軟硬件解決方案。創(chuàng)始人劉少山先后就職于 LinkedIn、英特爾、微軟研究院，曾擔(dān)任百度無(wú)人車(chē)高級(jí)架構(gòu)師，對(duì)于嵌入式 AI 有一些獨(dú)到的見(jiàn)解。

「我們做的就是把 AI 技術(shù)帶給那些應(yīng)用廠商，推動(dòng)整個(gè)市場(chǎng)發(fā)展?！箵?jù)劉少山介紹，Perceptln 已針對(duì)高、中、低端等不同場(chǎng)景的應(yīng)用推出三條產(chǎn)品線，分別將 AI 技術(shù)嵌入到智能玩具、服務(wù)類機(jī)器人以及自動(dòng)駕駛等應(yīng)用中。

事實(shí)上，嵌入式并非是一個(gè)新鮮或者「高大上」的概念。所謂嵌入式，就是指一種可被內(nèi)置于設(shè)備或裝置的專用計(jì)算機(jī)系統(tǒng)。通常來(lái)說(shuō)，具有數(shù)字接口的設(shè)備都具有嵌入式系統(tǒng)，如手機(jī)、車(chē)載電腦、智能手表等等。而嵌入式 AI，則是一種讓 AI 算法可以在終端設(shè)備上運(yùn)行的技術(shù)概念。很簡(jiǎn)單，換句話說(shuō)，它的作用就是能讓音箱、手機(jī)、機(jī)器人等智能硬件在不聯(lián)網(wǎng)的情況下實(shí)時(shí)完成環(huán)境感知、人機(jī)交互、決策控制等功能。

而一位資深算法工程師告訴機(jī)器之能，通常來(lái)講他把程序編完了扔給公司里的嵌入式工程師，后者再負(fù)責(zé)把它嵌入到板子里。其實(shí)傳統(tǒng)做嵌入也是這個(gè)思路，兩端都要考慮，俗稱「兩頭堵」：「按照我的理解，那些專注做嵌入式 AI 的可能是在針對(duì) AI 模型做一些優(yōu)化或是板子的優(yōu)化，讓算法更高效地跑在板子上?！?/span>

那么嵌入式 AI 到底能做到什么？與云端 AI 相比，更適合應(yīng)用到哪些場(chǎng)景里？還有什么是它做不到的？我們來(lái)聽(tīng)聽(tīng)更多業(yè)內(nèi)做這一行的專家們的意見(jiàn)：什么樣的垂直場(chǎng)景更需要嵌入式 AI？眾所周知，神經(jīng)網(wǎng)絡(luò)包括模型訓(xùn)練和推斷兩個(gè)過(guò)程。而一提訓(xùn)練，就必定會(huì)涉及海量的數(shù)據(jù)輸入，計(jì)算規(guī)模也會(huì)根據(jù)場(chǎng)景復(fù)雜性的遞增而變得愈加龐大。

因此，受到計(jì)算資源的限制，嵌入式端很難實(shí)現(xiàn)模型訓(xùn)練的過(guò)程，也是我們下面要說(shuō)的「幾個(gè)挑戰(zhàn)之一」。而在推斷環(huán)節(jié)，云端推斷和嵌入式推斷，二者訴求不同，因此也在不同的應(yīng)用場(chǎng)景能夠發(fā)揮自己的優(yōu)勢(shì)：前者的好處是，能夠承受高吞吐量并滿足復(fù)雜計(jì)算對(duì)資源的要求，因此多用于深度學(xué)習(xí)模型和計(jì)算較復(fù)雜的情況；而后者，則更多的應(yīng)用于對(duì)「實(shí)時(shí)處理」有更高要求的場(chǎng)景中。

什么是「實(shí)時(shí)處理」？我們來(lái)舉個(gè)最實(shí)際的例子。無(wú)人駕駛汽車(chē)需要實(shí)時(shí)監(jiān)測(cè)周?chē)h(huán)境，但是如果無(wú)人車(chē)突然進(jìn)入隧道，或者進(jìn)入某個(gè)連不了網(wǎng)的環(huán)境中呢？是的，駕駛場(chǎng)景復(fù)雜多變，并不能保證時(shí)刻都能有一個(gè)百分之百可用的網(wǎng)絡(luò)。因此，嵌入式 AI 憑借其實(shí)時(shí)性優(yōu)勢(shì)及脫機(jī)運(yùn)行的能力得以自動(dòng)駕駛領(lǐng)域展現(xiàn)實(shí)力。

國(guó)內(nèi)自動(dòng)駕駛卡車(chē)技術(shù)研發(fā)公司圖森未來(lái) COO 郝佳男就曾在接受機(jī)器之能采訪時(shí)表示：「從理論上講，在云端處理傳感器信號(hào)并不可行，存在延遲和可用性問(wèn)題。」因此，信號(hào)的本地處理也是整個(gè)自動(dòng)駕駛領(lǐng)域的一大訴求，因?yàn)樵O(shè)備端采集到數(shù)據(jù)后上傳到計(jì)算完成返回終端的過(guò)程會(huì)不可避免地帶來(lái)一定的延時(shí)，駕駛的危險(xiǎn)系數(shù)也隨之提升。

而中科創(chuàng)達(dá)副總裁孫力在前天舉辦的嵌入式人工智能技術(shù)論壇上也提到了這一問(wèn)題：「自動(dòng)駕駛汽車(chē)每秒鐘可以產(chǎn)生 1G 的數(shù)據(jù)，必須及時(shí)的、迅速的在本地來(lái)處理決策，不可能移到云端?！?span style="text-indent: 2em;">除了無(wú)人駕駛，在智能家居方面，試想一下如果用戶家中安裝了一個(gè)監(jiān)控?cái)z像頭，那么把數(shù)據(jù)傳到云端很可能會(huì)增加個(gè)人隱私泄露的風(fēng)險(xiǎn)。而由于嵌入式 AI 是在本地處理數(shù)據(jù)，數(shù)據(jù)沒(méi)有上云的過(guò)程，就可以保證用戶的信息安全，免除不必要的麻煩。

除了這些特定的應(yīng)用場(chǎng)景，一些 AI 技術(shù)公司對(duì)嵌入式 AI 也有著廣泛的需求。?而近來(lái)因巨額融資引起廣泛熱議的 Face++就是其中的一員。「雖然我們主攻金融、安防以及手機(jī)智能這三個(gè)垂直領(lǐng)域。」公司 CTO 唐文斌向機(jī)器之能表示，「但是我們?cè)谑謾C(jī)端遇到了第一個(gè)問(wèn)題?！顾忉尩?。

他們?cè)谑謾C(jī)端做實(shí)名認(rèn)證及人臉解鎖的時(shí)候發(fā)現(xiàn)，算法會(huì)不斷「吃」計(jì)算力。也就是說(shuō)，即便計(jì)算力不斷增長(zhǎng)，算法對(duì)計(jì)算力也總是處于「欲求不滿」的狀態(tài)。

其次是在攝像機(jī)端。他談到算法研發(fā)人員希望在做人臉識(shí)別的時(shí)候，可以讓人臉在視頻中的檢測(cè)、抓拍環(huán)節(jié)在相機(jī)端實(shí)現(xiàn)。這樣一來(lái)，就可以只傳輸有價(jià)值的信息，而非原始的大容量視頻，能夠有效減少傳輸帶寬以及后端部署服務(wù)器的計(jì)算量及存儲(chǔ)量，讓系統(tǒng)的整體架構(gòu)變得更加輕便。