AI 將允許開發(fā)人員實現(xiàn)更復(fù)雜的嵌入式系統(tǒng)行為，而新工具正在允許更多開發(fā)人員實現(xiàn) AI。

作者：Richard Quinnell，AspenCore 全球總編輯

向某人詢問人工智能 (AI) 的應(yīng)用——無論如何是技術(shù)人員——最有可能提到的兩個是亞馬遜的 Alexa 和自動駕駛汽車。巧合的是，這兩者也代表了實現(xiàn)人工智能的兩種最常見的方法。Alexa 以云為中心，它的幾乎所有處理都發(fā)生在遠離客廳那個圓柱體的某個地方的大型計算機集群上。另一方面，自動駕駛汽車的所有處理都在車內(nèi)的大量 CPU 中完成。但是第三種方法正在興起，最近的創(chuàng)新提高了它的實用性。

第三種方法是在云中進行部分 AI 處理，而在使用點（即邊緣）的設(shè)備中進行另一部分處理。此細分遵循 AI 實施的兩個階段性質(zhì)：學習和推理。學習階段，其中人工智能框架幫助開發(fā)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和權(quán)重，需要大量的計算資源，因此發(fā)生在云中。推理階段，其中神經(jīng)網(wǎng)絡(luò)處理輸入數(shù)據(jù)以做出決策和反應(yīng)，可以用相當少的資源實現(xiàn)，因此可以在邊緣進行。

這種拆分方法有幾個好處?；谠频耐评硪鬀Q策過程中使用的所有數(shù)據(jù)都必須通過網(wǎng)絡(luò)傳輸。這不僅需要大量帶寬，還會在決策和反應(yīng)步驟中增加顯著的延遲。將推理引擎放置在邊緣可以減少這種延遲以及將原始數(shù)據(jù)傳輸?shù)皆频男枰?，從而緩解帶寬問題。而且由于邊緣設(shè)備不執(zhí)行任何機器學習，它可以利用有限的資源——例如，使用微控制器而不是大型 CPU。這在使用時節(jié)省了成本和電力。

將 AI 應(yīng)用程序的一部分處理放在邊緣有助于節(jié)省帶寬并減少延遲。（圖片：快速邏輯）

然而，無論使用何種方法，在應(yīng)用程序中實施人工智能都需要相當多的專業(yè)知識。例如，有許多 AI 框架可供選擇，開發(fā)人員必須利用大量數(shù)據(jù)來訓練系統(tǒng)。推理引擎必須具有足夠的正確處理能力，以便在訓練后執(zhí)行 AI 算法。訓練數(shù)據(jù)也需要經(jīng)過深思熟慮，以避免訓練 AI 做出錯誤的推斷。例如，經(jīng)過訓練以區(qū)分照片中的汽車和坦克的人工智能在現(xiàn)場失敗了，因為訓練數(shù)據(jù)集使用了在陽光直射的露天拍攝的汽車照片和在模糊和光線不足的條件下拍攝的坦克照片。推理引擎訓練基于照明差異而不是物體差異。

幸運的是，越來越多的創(chuàng)新工具和硬件進入市場，可以幫助開發(fā)人員應(yīng)對所有這些挑戰(zhàn)。最近的一個例子來自 QuickLogic。該公司上個月推出了帶有 SensiML 數(shù)據(jù)分析工具包的Merced 硬件開發(fā)工具包(HDK)，供尋求將 AI 轉(zhuǎn)移到邊緣的開發(fā)人員使用。分析工具包可幫助非數(shù)據(jù)科學家或 AI 專家的開發(fā)人員自動選擇 AI 框架、訓練 AI 以及評估訓練數(shù)據(jù)。HDK 幫助開發(fā)人員提升邊緣設(shè)備的硬件設(shè)計，包括傳感器和 AI 加速 IP 集成。

最近，該公司與 SiFive 合作創(chuàng)建Freedom Aware SoC 模板系列，以進一步加速定制邊緣 AI 硬件設(shè)計。這些模板針對特定的邊緣 AI 應(yīng)用程序領(lǐng)域，包括物聯(lián)網(wǎng) (IoT)、始終在線的語音處理和預(yù)測性維護，提供預(yù)先測試的 IP 塊和工具，以減少開發(fā)時間和第一塊芯片的總成本。IP 塊包括 CPU 內(nèi)核、傳感器接口、AI 加速器和電源管理。

隨著越來越多的此類工具可用，開發(fā)人員將越來越多地發(fā)現(xiàn)自己采用了一種新的嵌入式系統(tǒng)控制設(shè)計方法。開發(fā)人員將創(chuàng)建一個 AI 加速處理器，該處理器運行通過機器學習開發(fā)的推理算法，而不是傳統(tǒng)的處理器運行代碼來實現(xiàn)人為定義的算法。如果做得好，人工智能推理引擎將能夠處理過于復(fù)雜的任務(wù)，無法通過傳統(tǒng)的編碼方法實現(xiàn)經(jīng)濟高效且可靠的實施。現(xiàn)在出現(xiàn)的創(chuàng)新工具將有助于讓 AI 新手更容易正確地做這件事。

本文是 AspenCore Media 深入研究邊緣 AI 應(yīng)用的一部分，超越了吸引大量媒體的語音和視覺系統(tǒng)。如需進一步了解人工智能在語音和視覺之外的硬件、實現(xiàn)和影響，請查看特別項目中的其他文章：

人工智能會進入測試行業(yè)嗎？— 人工智能和機器學習正在逐步進入半導(dǎo)體測試領(lǐng)域，但尚未進入功能系統(tǒng)測試領(lǐng)域，至少目前還沒有。

人工智能如何改變邊緣計算的未來——雖然將人工智能與邊緣計算相結(jié)合是有意義的，但硬件和軟件組件需要解決幾個挑戰(zhàn)，包括功耗、處理能力、數(shù)據(jù)存儲和安全性。

硬件幫助將 AI 遷移到邊緣——將 AI 遷移到邊緣需要什么類型的處理能力？供應(yīng)商提出了一系列答案。

人工智能使數(shù)據(jù)存儲更有效地進行分析——將數(shù)據(jù)轉(zhuǎn)化為智能需要分析。正如這個概念驗證演示所示，在存儲控制器中實施的 AI 可以大大加快分析速度。

連接性仍然是人工智能、機器學習工作負載主流化的核心——一場讓人工智能結(jié)果相關(guān)、可靠和隨時可用的競賽。只有那些在最好的機器/深度學習基礎(chǔ)設(shè)施上訓練過的人工智能模型，來自最大的數(shù)據(jù)集，才能生存下來。

審核編輯 黃昊宇