TinyML是世界上最新的深度學(xué)習(xí)和人工智能技術(shù)。它增強了微控制器中運行機器學(xué)習(xí)模型的能力。

微控制器是我們幾乎每天使用的許多設(shè)備的大腦，從電視遙控器到電梯再到智能音箱，它們無處不在。它連接了多個傳感器、執(zhí)行器（如開關(guān)和電機）。同時它擁有計算能力，可以執(zhí)行嵌入式代碼，從傳感器中獲取數(shù)據(jù)并控制執(zhí)行器。

TinyML的興起標(biāo)志著終端用戶享受人工智能方式的重大轉(zhuǎn)變。來自硬件和軟件行業(yè)的供應(yīng)商正在合作將人工智能模型引入微控制器。

在電子設(shè)備中運行復(fù)雜的深度學(xué)習(xí)模型的能力開辟了許多途徑。TinyML不需要邊緣、云或互聯(lián)網(wǎng)連接。它在同一個微控制器上進行本地運行，可以進行傳感器和執(zhí)行器的邏輯管理。

TinyML的演變

為了看到TinyML的力量，我們需要了解AI在云端和邊緣的演變。

第一階段-云計算中的人工智能

在人工智能早期，機器學(xué)習(xí)模型是在云中訓(xùn)練和托管的。運行人工智能所需的巨大計算能力使云計算成為理想。開發(fā)人員和數(shù)據(jù)科學(xué)家利用高端CPU和GPU來訓(xùn)練模型，然后利用它們進行推理。每一個使用人工智能的應(yīng)用都與云通信，最終與微控制器通信來管理傳感器和執(zhí)行器。

第二階段-邊緣AI

雖然云仍然是人工智能的主要發(fā)源地，但它卻同時引入了延遲。想象一下，每次與智能揚聲器通話時，都需要云處理。往返通信中的延誤扼殺了體驗。其他場景，如工業(yè)自動化、智能醫(yī)療、聯(lián)網(wǎng)車輛等，都要求人工智能模型在本地運行。

邊緣計算是云和本地物聯(lián)網(wǎng)設(shè)備之間的管道，成為本地托管人工智能模型的理想選擇。在邊緣運行的人工智能不會受到延遲的影響。

但鑒于邊緣資源有限，訓(xùn)練和再訓(xùn)練模式仍然需要云。經(jīng)過訓(xùn)練的模型可以托管在邊緣進行推理（即使用機器學(xué)習(xí)模型的過程），但不能用于訓(xùn)練。因此，在云中訓(xùn)練模型并將其部署到邊緣變得很常見。這種方法提供了最好的兩個世界-一個強大的用于訓(xùn)練的計算環(huán)境（云）和一個用于推理的低延遲托管環(huán)境（邊緣端）。

第三階段-微控制器中的人工智能

雖然在邊緣運行AI對于許多用例來說是一個完美的解決方案，但是在某些情況下部署邊緣計算層是不實際的。例如，將智能音箱和遙控器等消費類設(shè)備連接到一個邊緣上就太過分了。它增加了設(shè)備的總擁有成本和供應(yīng)商的支持成本。但這些消費設(shè)備實實在在是人工智能發(fā)展的溫床。

在工業(yè)場景中，預(yù)測性維護正成為設(shè)備的重要組成部分。昂貴的機器和設(shè)備需要嵌入機器學(xué)習(xí)模型來實時檢測異常情況，以提供預(yù)測性維護。通過主動檢測故障，客戶可以節(jié)省數(shù)百萬美元的維護成本。

將人工智能直接嵌入微控制器成為消費者和工業(yè)物聯(lián)網(wǎng)場景的關(guān)鍵。這種方法不依賴于外部應(yīng)用程序、邊緣計算層或云。人工智能模型運行的同時，將嵌入式代碼導(dǎo)入微控制器。它成為整體邏輯的一個組成部分，提供無與倫比的速度。

傳統(tǒng)上，機器學(xué)習(xí)模型總是部署在資源豐富的環(huán)境中。由于TinyML模型可以嵌入到微控制器中，所以它們不是資源密集型的。這種方法是將人工智能注入到物聯(lián)網(wǎng)設(shè)備的最有效和最具成本效益的方法。

TinyML的生態(tài)系統(tǒng)

雖然TinyML還處于初級階段，但它的生態(tài)系統(tǒng)正在形成。芯片和物聯(lián)網(wǎng)套件制造商，如Adafruit、聯(lián)發(fā)科、Arduino和ST都在其設(shè)備中支持TinyML。微軟的Azure Sphere認證的安全微控制器，也可以運行TinyML模型。Tensor Flow Lite是流行的開源深度學(xué)習(xí)框架的延伸，可以移植到支持的設(shè)備上。另一個開源機器學(xué)習(xí)編譯器Apache TVM也可以用來將模型轉(zhuǎn)換成TinyML。

新興的AutoML和TinyML平臺，如Always AI、Cartesiam、EdgeImpulse、OctoML和Queexo正在構(gòu)建工具和開發(fā)環(huán)境，以簡化微控制器的訓(xùn)練和優(yōu)化模型過程。

TinyML使人工智能無處不在，并為消費者所接受。它將為我們每天使用的數(shù)以百萬計的設(shè)備帶來人工智能元素。
責(zé)任編輯人：CC