作者：Hou-I Liu, Marco Galindo, Hongxia Xie, Lai-Kuan Wong, Hong-Han Shuai, Yung-Hui Li, Wen-Huang Cheng

1. 摘要

過去的十年里，深度學(xué)習(xí)的主導(dǎo)地位在人工智能的各個領(lǐng)域中占據(jù)了主導(dǎo)地位，包括自然語言處理、計算機視覺和生物醫(yī)學(xué)信號處理。雖然模型準(zhǔn)確性有了顯著提高，但在輕量級設(shè)備上部署這些模型，比如手機和微控制器，受到資源限制的約束。在這項調(diào)查中，我們提供了專門針對這些設(shè)備的全面設(shè)計指南，詳細介紹了輕量級模型的精心設(shè)計、壓縮方法和硬件加速策略。這項工作的主要目標(biāo)是探索方法和概念，以克服硬件限制，而不損害模型的準(zhǔn)確性。此外，我們還探討了未來輕量級深度學(xué)習(xí)的兩條顯著途徑：TinyML 和大型語言模型的部署技術(shù)。盡管這些途徑無疑具有潛力，但它們也帶來了重大挑戰(zhàn)，鼓勵研究未開發(fā)的領(lǐng)域。

2. 介紹

近年來，神經(jīng)網(wǎng)絡(luò)（NNs）的重要性急劇上升，它們的應(yīng)用滲透到日常生活的各個方面，并擴展到支持復(fù)雜任務(wù)。然而，自2012年AlexNet發(fā)布以來，創(chuàng)建更深層次、更復(fù)雜的網(wǎng)絡(luò)以提高準(zhǔn)確性的趨勢已經(jīng)普遍存在。例如，Model Soups在ImageNet數(shù)據(jù)集上取得了顯著的準(zhǔn)確性，但代價是超過18.43億個參數(shù)。同樣，GPT-4在自然語言處理（NLP）基準(zhǔn)測試上表現(xiàn)出色，盡管參數(shù)多達1.76萬億。深度學(xué)習(xí)（DL）的計算需求急劇增加，從2012年到2018年增加了約300,000倍。這種規(guī)模的急劇增加為本文探討的挑戰(zhàn)和發(fā)展奠定了基礎(chǔ)。

針對上述實際需求，近年來出現(xiàn)了大量的研究，重點放在輕量級建模、模型壓縮和加速技術(shù)上。年度移動人工智能（MAI）研討會已連續(xù)舉辦了CVPR 2021-2023，重點是在資源受限的設(shè)備上部署DL模型，例如ARM Mali GPU和樹莓派4上的圖像處理。此外，在ICCV 2019、ICCV 2021和ECCV 2022進行的圖像處理（AIM）研討會組織了圍繞圖像/視頻處理、恢復(fù)和增強在移動設(shè)備上的挑戰(zhàn)。

從這篇工作，作者發(fā)現(xiàn)了分析高效輕量級模型的發(fā)展的最有效方法，從設(shè)計階段到部署階段，涉及將三個關(guān)鍵元素納入流程中：NN架構(gòu)設(shè)計、壓縮方法和輕量級DL模型的硬件加速。以往的調(diào)查往往只專注于此流程的特定方面，比如只討論量化方法，提供了這些領(lǐng)域的詳細見解。然而，這些調(diào)查可能無法提供對整個流程的全面了解，可能忽視了重要的替代方法和技術(shù)。相比之下，這篇綜述涵蓋了輕量級架構(gòu)、壓縮方法和硬件加速算法。

3. 神經(jīng)網(wǎng)絡(luò)設(shè)計

作者研究了經(jīng)典的輕量級架構(gòu)，并將它們分類為系列以提高清晰度。這些架構(gòu)中的一些通過引入創(chuàng)新的卷積塊取得了重大進展。例如，深度可分離卷積優(yōu)先考慮高準(zhǔn)確性和降低計算需求。值得注意的是，參數(shù)和FLOPs與推理時間并不一致。早期的輕量級架構(gòu)，如SqueezeNet和MobileNet ，旨在減少參數(shù)和FLOPs。然而，這種減少通常會增加內(nèi)存訪問成本（MAC），導(dǎo)致推理速度較慢。因此，作者的目標(biāo)是通過提供更全面和富有見地的審查來促進輕量級模型的應(yīng)用。

4. 神經(jīng)網(wǎng)絡(luò)壓縮

除了輕量級架構(gòu)設(shè)計外，作者提到了可以應(yīng)用于壓縮給定架構(gòu)的各種高效算法。例如，量化方法 旨在減少數(shù)據(jù)所需的存儲空間，通常是通過用8位或16位數(shù)字代替32位浮點數(shù)，甚至使用二進制值表示數(shù)據(jù)。修剪算法，在其最簡單的形式中，從模型中刪除參數(shù)以消除網(wǎng)絡(luò)內(nèi)部的不必要的冗余。然而，更復(fù)雜的算法可能會從網(wǎng)絡(luò)中刪除整個通道或過濾器。知識蒸餾（KD）技術(shù)探索了從一個模型（稱為"老師"）轉(zhuǎn)移知識到另一個模型（稱為"學(xué)生"）的概念。老師代表具有所需知識的大型預(yù)訓(xùn)練模型，而學(xué)生代表一個未經(jīng)訓(xùn)練的較小模型，負責(zé)從老師那里提取知識。然而，隨著方法的發(fā)展，一些算法通過兩次使用相同的網(wǎng)絡(luò)修改了方法，消除了額外的老師模型的需要。隨著這些各種壓縮方法的進展，通常會觀察到兩種或更多技術(shù)的采用，例如在同一模型中融合修剪和量化方法。

?

?

此外，作者討論了神經(jīng)架構(gòu)搜索（NAS）算法，這是一組旨在自動化模型創(chuàng)建過程的技術(shù)，同時減少人類干預(yù)。這些算法自主搜索定義搜索空間內(nèi)的最佳因素，如網(wǎng)絡(luò)深度和過濾器設(shè)置。該領(lǐng)域的研究主要集中在優(yōu)化搜索空間的定義、遍歷和評估，以在不過度消耗時間和資源的情況下實現(xiàn)高準(zhǔn)確性。

5. 神經(jīng)網(wǎng)絡(luò)部署

作者深入探討了專用于DL應(yīng)用的流行硬件加速器的景觀，包括圖形處理單元（GPUs）、現(xiàn)場可編程門陣列（FPGAs）和張量處理單元（TPUs）。此外，描述了各種數(shù)據(jù)流類型，并深入探討了數(shù)據(jù)局部性優(yōu)化方法，探索支撐DL工作流程的高效處理的復(fù)雜技術(shù)。隨后，討論了專為加速DL過程而量身定制的流行DL庫。這一審查涵蓋了多樣化的工具和框架，在優(yōu)化硬件加速器的利用方面發(fā)揮了重要作用。此外，調(diào)查了協(xié)同設(shè)計解決方案，在加速DL方面取得了優(yōu)化和全面結(jié)果，需要認真考慮硬件架構(gòu)和壓縮方法。

?

6. 挑戰(zhàn)和未來工作

這項綜述探討了輕量級模型、壓縮方法和硬件加速等復(fù)雜領(lǐng)域，展示了它們在廣泛的通用應(yīng)用領(lǐng)域中的先進技術(shù)能力。然而，在資源受限的環(huán)境中部署這些模型仍然面臨著重大挑戰(zhàn)。本節(jié)致力于揭示在微型機器學(xué)習(xí)（TinyML）和LLMs中加速和應(yīng)用深度學(xué)習(xí)模型的新技術(shù)，重點關(guān)注需要進一步研究的未解決問題。

TinyML是一種新興技術(shù)，可以使深度學(xué)習(xí)算法在功耗低于1mW的超低端物聯(lián)網(wǎng)設(shè)備上運行。 然而，極度受限的硬件環(huán)境使得設(shè)計和開發(fā)TinyML模型具有挑戰(zhàn)性。低端物聯(lián)網(wǎng)設(shè)備主要采用MCU，因為它們的成本效益高于CPU和GPU。然而，MCU庫（如CMSIS-NN和TinyEngine）通常是平臺依賴性的，不像PyTorch和TensorFlow等GPU庫提供跨平臺支持。因此，TinyML的設(shè)計重點更多地傾向于專用應(yīng)用，而不是促進通用研究，這可能會妨礙整體研究進展的速度。

基于MCU的庫。 由于TinyML中的資源受限環(huán)境，基于MCU的庫通常設(shè)計用于特定用例。例如，CMSIS-NN是在ARM Cortex-M設(shè)備上開發(fā)的基于MCU的庫的開創(chuàng)性工作，它提出了一個高效的內(nèi)核，分為NNfunctions和NNsupportfunctions。NNfunctions執(zhí)行網(wǎng)絡(luò)中的主要函數(shù)，如卷積、池化和激活。NNsupportfunctions包含數(shù)據(jù)轉(zhuǎn)換和激活表。CMIX-NN提出了一種開源的混合和低精度工具，可以將模型的權(quán)重和激活量化為8、4和2位任意位數(shù)。MCUNet提出了一個針對商用MCU的DL實現(xiàn)的協(xié)同設(shè)計框架。該框架整合了TinyNAS，以有效地搜索最準(zhǔn)確和輕量級的模型。此外，它利用了TinyEngine，其中包括基于代碼生成器的編譯和原地深度卷積，有效地解決了內(nèi)存約束問題。MCUNetV2引入了一種基于補丁的推斷機制，只在特征圖的小空間區(qū)域上運行，進一步減少了峰值內(nèi)存使用。MicroNet采用了可微分NAS（DNAS）來搜索具有低操作數(shù)量的高效模型，并支持開源平臺Tensorflow Lite Micro（TFLM）。MicroNet在所有TinyMLperf行業(yè)標(biāo)準(zhǔn)基準(zhǔn)任務(wù)上取得了最先進的結(jié)果，即視覺喚醒詞、谷歌語音命令和異常檢測。

什么阻礙了TinyML的快速發(fā)展？ 盡管取得了進展，但TinyML的增長受到幾個固有關(guān)鍵約束的限制，包括資源約束、硬件和軟件異構(gòu)性以及缺乏數(shù)據(jù)集。極端的資源約束，如SRAM的極小尺寸和不到1MB的閃存內(nèi)存大小，在設(shè)計和部署邊緣設(shè)備上的TinyML模型時帶來了挑戰(zhàn)。此外，由于硬件異構(gòu)性和缺乏框架兼容性，當(dāng)前的TinyML解決方案被調(diào)整以適應(yīng)每個單獨設(shè)備，使得TinyML算法的廣泛部署變得復(fù)雜。此外，現(xiàn)有數(shù)據(jù)集可能不適用于TinyML架構(gòu)，因為數(shù)據(jù)可能不符合邊緣設(shè)備外部傳感器的數(shù)據(jù)生成特征。需要一組適用于訓(xùn)練TinyML模型的標(biāo)準(zhǔn)數(shù)據(jù)集，以推動有效TinyML系統(tǒng)的發(fā)展。在能夠在物聯(lián)網(wǎng)和邊緣設(shè)備上進行大規(guī)模部署之前，這些開放性研究挑戰(zhàn)需要解決。

輕量級大型語言模型的構(gòu)建。 在過去的兩年中，LLMs在各種任務(wù)中始終表現(xiàn)出色。LLMs在實踐中具有重要的應(yīng)用潛力，尤其是與人類監(jiān)督配對時。例如，它們可以作為自主代理人的副駕駛員，或者作為靈感和建議的來源。然而，這些模型通常具有數(shù)十億規(guī)模的參數(shù)。將這樣的模型部署到推斷中通常需要GPU級別的硬件和數(shù)十吉字節(jié)的內(nèi)存，這給日常LLM利用帶來了重大挑戰(zhàn)。例如，Tao等人發(fā)現(xiàn)很難對生成式預(yù)訓(xùn)練語言模型進行量化，因為詞嵌入是同質(zhì)的，權(quán)重分布各異。因此，將大型、資源密集的LLM模型轉(zhuǎn)化為適合部署在資源受限移動設(shè)備上的緊湊版本已成為未來研究的一個突出方向。

世界知名企業(yè)在LLM部署方面取得了重大進展。 2023年，高通展示了文本到圖像模型穩(wěn)定擴散和圖像到圖像模型控制網(wǎng)絡(luò)在移動設(shè)備上的獨立執(zhí)行，從而加速了大型模型部署到邊緣計算環(huán)境。谷歌還推出了其最新通用大型模型PaLM 2的幾個版本，其中包括專為移動平臺量身定制的輕量級變體。這一進展為將大型模型從基于云的系統(tǒng)遷移到邊緣設(shè)備創(chuàng)造了新的機會。然而，某些大型模型仍然需要數(shù)十吉字節(jié)的物理存儲和運行時內(nèi)存。因此，正在努力實現(xiàn)少于1GB的內(nèi)存占用，這意味著在這個領(lǐng)域仍然需要進行大量工作。本節(jié)概述了在資源受限環(huán)境中簡化LLM實施的一些關(guān)鍵舉措。

不需重新訓(xùn)練的剪枝。 最近，大量工作應(yīng)用常見的DL量化和剪枝技術(shù)構(gòu)建輕量級LLMs。一些方法專注于實現(xiàn)量化，其中數(shù)值精度大大降低。SparseGPT首次證明，可以在單一步驟中將大規(guī)模生成式預(yù)訓(xùn)練Transformer（GPT）模型剪枝至至少50%的稀疏度，而無需任何后續(xù)重新訓(xùn)練，并且準(zhǔn)確度損失最小。隨后，Wanda（Pruning by Weights and Activations）專門設(shè)計用于在預(yù)訓(xùn)練的LLMs中引入稀疏性。Wanda剪枝了具有最小幅度的權(quán)重，不需要重新訓(xùn)練或權(quán)重更新。剪枝的LLM可以直接使用，增加了其實用性。值得注意的是，Wanda超越了幅度剪枝的已建立基線，并與最近涉及大量權(quán)重更新的方法有效競爭。這些工作為未來設(shè)計LLM剪枝方法而不需要重新訓(xùn)練設(shè)定了重要的里程碑。

模型設(shè)計。 從模型設(shè)計的角度來看，可以從一開始就創(chuàng)建輕量級LLMs，重點是減少模型參數(shù)的數(shù)量。在這方面的一個有前景的途徑是提示調(diào)優(yōu)，它旨在在保持效率和模型大小的同時優(yōu)化LLMs的性能。在這方面的一個值得注意的方法是視覺提示調(diào)優(yōu)（VPT），它成為視覺相關(guān)任務(wù)中大規(guī)模Transformer模型的全面微調(diào)的高效和有效替代方法。VPT在輸入空間內(nèi)引入了僅占一小部分，小于1%的可訓(xùn)練參數(shù)，同時保持了模型骨干的完整性。另一個值得注意的貢獻是CALIP，它引入了無參數(shù)的注意機制，以促進視覺和文本特征之間的有效交互和通信。它產(chǎn)生了文本感知的圖像特征和視覺引導(dǎo)的文本特征，有助于開發(fā)更加簡潔和高效的視覺-語言模型。在不久的將來，推進輕量級LLM設(shè)計的一個有前景的途徑是開發(fā)自適應(yīng)微調(diào)策略。這些策略將動態(tài)調(diào)整模型的架構(gòu)和參數(shù)，以與特定任務(wù)要求對齊。這種適應(yīng)性確保了模型能夠在特定應(yīng)用中優(yōu)化其性能，而不會產(chǎn)生不必要的參數(shù)膨脹。

構(gòu)建輕量級擴散模型。 近年來，基于去噪擴散的生成模型，特別是基于得分的模型，在創(chuàng)建多樣化和真實數(shù)據(jù)方面取得了顯著進展。然而，將擴散模型的推斷階段轉(zhuǎn)移到邊緣設(shè)備上面臨著重大挑戰(zhàn)。推斷階段反轉(zhuǎn)了轉(zhuǎn)換過程，從高斯噪聲生成真實數(shù)據(jù)，通常稱為去噪過程。此外，當(dāng)這些模型被壓縮以減少其占用的空間和計算需求時，存在嚴(yán)重降低圖像質(zhì)量的風(fēng)險。壓縮過程可能需要簡化、近似或甚至刪除必要的模型組件，這可能會對模型從高斯噪聲準(zhǔn)確重建數(shù)據(jù)的能力產(chǎn)生不利影響。因此，在減小模型尺寸的同時保持高質(zhì)量圖像生成之間出現(xiàn)了關(guān)鍵問題，從而在資源受限場景下開發(fā)擴散模型面臨著嚴(yán)峻挑戰(zhàn)。

部署視覺Transformer（ViTs）。 盡管輕量級ViTs越來越普遍，但在硬件受限環(huán)境中部署ViT仍然是一個持續(xù)關(guān)注的問題。根據(jù)報道，移動設(shè)備上的ViT推斷的延遲和能耗是CNN模型的40倍。因此，如果不加修改，移動設(shè)備無法支持ViT的推斷。ViTs中的自注意操作需要計算圖像補丁之間的成對關(guān)系，并且隨著補丁數(shù)量的增加，計算量呈二次增長。此外，與注意力層相比，F(xiàn)FN層的計算時間更長。通過去除冗余的注意力頭和FFN層，DeiT-Tiny可以將延遲降低23.2%，幾乎不損失0.75%的準(zhǔn)確性。

一些工作設(shè)計了用于嵌入式系統(tǒng)（如FPGA）的NLP模型。 最近，DiVIT和VAQF提出了ViTs的硬件-軟件協(xié)同設(shè)計解決方案。DiVIT提出了一種在算法級別利用補丁局部性的差分注意的增量補丁編碼。在DiVIT中，使用節(jié)省位的技術(shù)設(shè)計了帶有差分?jǐn)?shù)據(jù)流通信的差分注意處理引擎陣列。此外，指數(shù)操作使用查找表執(zhí)行，無需額外計算，且硬件開銷最小化。VAQF首次將二進制化引入ViTs中，可用于FPGA映射和量化訓(xùn)練。具體來說，VAQF可以根據(jù)目標(biāo)幀率生成所需的量化精度和加速器描述，用于直接軟件和硬件實現(xiàn)。

為了在資源受限設(shè)備中無縫部署ViTs，作者重點介紹了兩個潛在的未來方向：

1）算法優(yōu)化。 除了描述的設(shè)計高效ViT模型外，還應(yīng)考慮ViTs的瓶頸。例如，由于MatMul操作在ViTs中造成了瓶頸，可以加速或減少這些操作。此外，可以考慮整數(shù)量化和運算融合的改進。

2）硬件可訪問性。 與CNN不同，大多數(shù)移動設(shè)備和AI加速器都支持CNNs，而ViTs沒有專門的硬件支持。例如，ViT無法在移動GPU和英特爾NCS2 VPU上運行。根據(jù)我們的研究結(jié)果，某些重要操作符在特定硬件上不受支持。具體而言，在移動GPU上，連接操作符在TFLiteGPUDelegate中需要4維輸入張量，但ViTs中的張量為3維。另一方面，英特爾VPU不支持LayerNorm，在變壓器架構(gòu)中存在，但在CNN中不常見。因此，需要進一步調(diào)查在資源受限設(shè)備上ViTs的硬件支持。

7. 貢獻

本文旨在簡單但準(zhǔn)確地描述如何利用輕量級架構(gòu)、壓縮方法和硬件技術(shù)來實現(xiàn)在資源受限設(shè)備上的準(zhǔn)確模型。主要貢獻總結(jié)如下：

(1) 以往的調(diào)查只簡要提及少數(shù)輕量級架構(gòu)的作品。作者將輕量級架構(gòu)組織成系列，例如將MobileNetV1-V3和MobileNeXt分組到MobileNet系列中，并提供了從它們誕生到現(xiàn)在的輕量級架構(gòu)的歷史。

(2) 為了涵蓋整個輕量級DL應(yīng)用，這篇文章還涵蓋了壓縮和硬件加速方法。與許多其他調(diào)查不明確建立這些技術(shù)之間聯(lián)系的不同，對每個領(lǐng)域提供了全面的概述，深入了解它們之間的相互關(guān)系。

(3) 作為輕量級DL前沿進展的一部分，作者審查了當(dāng)前的挑戰(zhàn)并探索未來的工作。首先，探索了TinyML，這是一種新興的方法，專為在資源極度有限的設(shè)備上部署DL模型而設(shè)計。隨后，調(diào)查了在邊緣設(shè)備上利用LLMs的各種當(dāng)代倡議，這是輕量級DL領(lǐng)域的一個有希望的方向。

8. 總結(jié)

最近，計算機視覺應(yīng)用越來越注重能源節(jié)約、碳足跡減少和成本效益，突顯了輕量級模型在邊緣人工智能背景下的重要性。本文對輕量級深度學(xué)習(xí)（DL）進行了全面考察，探討了MobileNet和Efficient變換器變體等重要模型，以及用于優(yōu)化這些模型的流行策略，包括剪枝、量化、知識蒸餾和神經(jīng)結(jié)構(gòu)搜索。除了詳細解釋這些方法外，還提供了定制輕量級模型的實用指導(dǎo)，通過分析它們各自的優(yōu)勢和劣勢來提供清晰度。此外，討論了DL模型的硬件加速，深入探討了硬件架構(gòu)、不同數(shù)據(jù)流類型和數(shù)據(jù)局部性優(yōu)化技術(shù)，以增強對加速訓(xùn)練和推斷過程的理解。這項調(diào)查揭示了硬件和軟件之間的復(fù)雜互動關(guān)系（協(xié)同設(shè)計），提供了從硬件角度加速訓(xùn)練和推斷過程的見解。最后，作者將目光轉(zhuǎn)向未來，認識到在TinyML和LLM技術(shù)中部署輕量級DL模型存在挑戰(zhàn)，需要在這些不斷發(fā)展的領(lǐng)域探索創(chuàng)造性解決方案。

審核編輯：黃飛