邊緣 AI 是指在邊緣設(shè)備（例如智能手機(jī)、物聯(lián)網(wǎng)設(shè)備和嵌入式系統(tǒng)）上實(shí)現(xiàn) AI 算法，而不是依賴于基于云的基礎(chǔ)設(shè)施。AI手機(jī)和AI PC等邊緣AI主力應(yīng)用，被視為是2024年整個(gè)電子供應(yīng)鏈在云端AI以外，最有能力帶動(dòng)整體出貨動(dòng)能的關(guān)鍵應(yīng)用。

IDC數(shù)據(jù)顯示，中國生成式AI投資2022到2027年五年的復(fù)合年增長率達(dá)到86.2%。Gartner預(yù)測，到2026年，80%的全球企業(yè)將使用生成式AI，50%的全球邊緣部署將包含AI。根據(jù)全球技術(shù)市場咨詢公司ABI Research的數(shù)據(jù)顯示，預(yù)計(jì)到2025年，邊緣AI芯片市場的收入將達(dá)到122億美元，云AI芯片市場的收入達(dá)到119億美元。邊緣AI芯片市場有望超越云AI芯片市場規(guī)模。

目前，AI正在重塑全球科技產(chǎn)業(yè)，以微軟、谷歌為代表的國際巨頭加緊布局多模態(tài)大模型，以英偉達(dá)、AMD為代表的芯片巨頭主導(dǎo)云端AI算力芯片市場。邊緣AI終端有哪些類型？國際大廠、國內(nèi)芯片公司在邊緣AI芯片公司有哪些旗艦產(chǎn)品？本文進(jìn)行匯總。

未來邊緣AI落地產(chǎn)品形態(tài)，3+N成為可能

近日，在科創(chuàng)板開市五周年峰會(huì)上，云天勵(lì)飛董事長兼CEO陳寧表示，今后，大模型的參數(shù)規(guī)模會(huì)越來越大，且AI能力會(huì)無線提升，直至突破通用人工智能（AGI）。邊緣AI未來幾年落地的產(chǎn)品形態(tài)是“3+N”，3即人形機(jī)器人、無人駕駛汽車、低空的無人機(jī)三大硬件產(chǎn)品形態(tài)；“N”即各類AI硬件產(chǎn)品，包括AI PC、AI手機(jī)、智能眼鏡等。

海通證券的研報(bào)顯示，小模型展現(xiàn)性能，邊緣AI芯片有望加速落地。邊緣AI芯片有望搭載小模型彌補(bǔ)大模型的局限，盡管云端大模型在性能上全面超越小模型，但是存在三大局限，包括較高的成本、運(yùn)行速度以及對互聯(lián)網(wǎng)連接的依賴。相比之下，小模型允許用戶在沒有網(wǎng)絡(luò)的情況下與虛擬助手進(jìn)行互動(dòng)，能夠解決AI領(lǐng)域的一部分弊端。未來這類模型有望與智能手機(jī)集成，甚至內(nèi)置在家電中，還有IoT終端設(shè)備，為用戶提供個(gè)性化建議。

英特爾推出邊緣AI芯片和平臺(tái)，助力客戶終端產(chǎn)品落地

近日，在北京舉辦的2024年英特爾網(wǎng)絡(luò)與邊緣計(jì)算行業(yè)大會(huì)上，英特爾公司高級副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti表示：“英特爾專注于幫助企業(yè)簡化在PC、邊緣和數(shù)據(jù)中心部署AI的復(fù)雜流程，以實(shí)現(xiàn)讓‘AI無處不在’的愿景。英特爾具備全面廣泛的芯片基礎(chǔ)。從凌動(dòng)到至強(qiáng)，我們推出了Atom x7000RE/x7000C系列、Core和Core Ultra系列、Xeon 6700E系列、面向邊緣的Arc GPU以及IPU E2100網(wǎng)絡(luò)適配器。通過軟件定義的簡便性以及開放多元的生態(tài)系統(tǒng)，英特爾能為客戶帶來豐富的選擇?！?br />
以英特爾酷睿處理器為例，酷睿處理器不僅技術(shù)含量高，還集成了圖形處理能力和AI功能。這使得每一個(gè)應(yīng)用案例都能充分利用多用途處理器（MPU）的優(yōu)勢?？犷．a(chǎn)品的設(shè)計(jì)非常出色，結(jié)合了GPU和客戶的需求，以及大模型應(yīng)用需求等?？蛻艨梢岳?a href="http://m.makelele.cn/v/tag/132/" target="_blank">CPU和GPU，結(jié)合英特爾的OpenVINO工具套件，更容易地在平臺(tái)上運(yùn)行AI應(yīng)用。

例如，科東LLM機(jī)械臂控制方案基于LLM推理部署在Intel Core Ultra平臺(tái)上，同時(shí)集成了機(jī)械臂的控制系統(tǒng)，還有伺服器驅(qū)動(dòng)機(jī)械臂本體。這款方案基于科東的機(jī)器人操作系統(tǒng)和語言類大模型結(jié)合的案例，案例體現(xiàn)了基于AI大模型的視覺識(shí)別和運(yùn)動(dòng)規(guī)劃的能力，AI大模型加快了開發(fā)層面的高效率，滿足了工業(yè)場景中輕量化本地部署需求，同時(shí)做到數(shù)據(jù)不出廠。這款方案已經(jīng)應(yīng)用在智能工廠。

此外，記者看到寶德AI數(shù)字人解決方案基于Intel至強(qiáng)處理器和采用Intel CPU的寶德服務(wù)器和工作站為AI算力底座，可以廣泛應(yīng)用于智能語音助手、網(wǎng)絡(luò)直播、線上教育、零售等。英特爾的多款芯片把 NPU 概念下放到邊緣的物聯(lián)網(wǎng)應(yīng)用上，使物聯(lián)網(wǎng)也能在作業(yè)時(shí)有人工智能的功能。

AMD發(fā)力邊緣AI市場，推出第二代Versal自適應(yīng)SoC

今年，繼第一代VersalI AI Edge自適應(yīng)SoC之后，AMD又發(fā)布了第二代Versal自適應(yīng)SoC。在AMD第二代Versal自適應(yīng)SoC媒體發(fā)布會(huì)上，AMD自適應(yīng)與嵌入式計(jì)算事業(yè)部（AECG）Versal產(chǎn)品營銷總監(jiān)Manuel Uhm表示：“現(xiàn)在的邊緣也在發(fā)生一場革命，也有越來越多的挑戰(zhàn)，因?yàn)檫吘墪?huì)面臨更多限制，例如功耗和尺寸?！?br />
AMD新發(fā)布的第二代Versal 自適應(yīng)SoC系列為嵌入式系統(tǒng)帶來了單芯片的智能性。兩款芯片分別是面向AI驅(qū)動(dòng)型嵌入式系統(tǒng)的第二代Versal AI Edge系列和面向經(jīng)典嵌入式系統(tǒng)的第二代Versal Prime系列。

據(jù)悉，面向通用嵌入式領(lǐng)域的第二代Versal Prime系列則著重于將高性能標(biāo)量計(jì)算能力與靈活可編程邏輯相結(jié)合，著眼于視頻處理、工業(yè)控制、軟件無線電等對算力和適配性要求極高的場合。相較上一代產(chǎn)品，該系列的CPU性能實(shí)現(xiàn)多達(dá)10倍的大幅躍升，而繼承自Xilinx的可編程邏輯架構(gòu)則為適配不同接口和加速需求提供了充分保障。

據(jù)AMD官方消息，第二代Versal系列芯片的工程樣片預(yù)計(jì)最快將于2025年上半年面世，屆時(shí)還將推出配套的評估板和系統(tǒng)級模塊；而規(guī)模化量產(chǎn)也有望在年底實(shí)現(xiàn)。
意法半導(dǎo)體推出第二代STM32 MPU和邊緣AI套件

意法半導(dǎo)體（ST）推出了邊緣AI加速微處理器——第二代STM32 MPU。該處理器提高了工業(yè)和物聯(lián)網(wǎng)邊緣應(yīng)用的性能和安全性，預(yù)計(jì)在2024上半年批量生產(chǎn)。

7月8日，在慕尼黑上海電子展上的AIoT創(chuàng)新應(yīng)用論壇上， 意法半導(dǎo)體中國區(qū)微控制器、數(shù)字IC與射頻產(chǎn)品部市場經(jīng)理丁曉磊分享了ST Edge AI套件的最新進(jìn)展。ST Edge AI套件，幫助嵌入式開發(fā)者優(yōu)化機(jī)器學(xué)習(xí)模型，幫助數(shù)據(jù)科學(xué)工作者在嵌入式設(shè)備上運(yùn)行機(jī)器學(xué)習(xí)模型，以及幫助產(chǎn)品設(shè)計(jì)師和創(chuàng)客重新定義產(chǎn)品的重要特性。

本土芯片公司爭奪邊緣AI市場機(jī)會(huì)，新品加速上市

近期，兩家物聯(lián)網(wǎng)芯片公司公布上半年業(yè)績報(bào)告，樂鑫科技2024年上半年實(shí)現(xiàn)營收9.2億，同比增長37.9%，凈利潤1.52億元，同比增長134.85%。除了傳統(tǒng)的Wi-Fi芯片產(chǎn)品線帶來營收增長外，樂鑫科技推出的ESP32-S系列是邊緣側(cè)AI應(yīng)用芯片，增加了用于加速神經(jīng)網(wǎng)絡(luò)計(jì)算和信號(hào)處理等工作的向量指令，并且已可對接OpenAI的ChatGPT或百度“文心一言”等云端AI應(yīng)用。

樂鑫科技表示，計(jì)算“邊緣化”趨勢將更多AI和計(jì)算能力賦予邊緣設(shè)備，為SoC設(shè)計(jì)公司提供更多機(jī)會(huì)，但同時(shí)也提出了更高的PPA要求。

晶晨股份預(yù)計(jì)2024年上半年實(shí)現(xiàn)凈利潤3.62億，同比增長95.98%。晶晨股份在業(yè)績預(yù)告中顯示，晶晨股份基于新一代ARM V9架構(gòu)和自主研發(fā)邊緣AI能力的6nm商用芯片已成功流片，并已獲首批商用訂單。

上海為旌科技成立于2020年8月成立，這家公司的市場總監(jiān)黃智向業(yè)界展示了最新的海山VS839系列及其在智能機(jī)器人領(lǐng)域的應(yīng)用潛力。海山VS839系列芯片是專為AIOT和智能駕駛設(shè)計(jì)的高性能智慧視覺芯片。該系列芯片采用12納米工藝，具備四核A55 CPU、雙核DSP和4TOPS的NPU算力。海山VS839系列支持星光全彩、紅外熱成像、3D視覺和環(huán)視攝像頭等功能，能夠提供專業(yè)級的圖像處理效果，并支撐復(fù)雜的AI計(jì)算。

7月30日，此芯科技聚焦AI PC領(lǐng)域，發(fā)布首款異構(gòu)高能效SoC此芯P1。此芯科技創(chuàng)始人、CEO孫文劍表示：“此芯科技致力于以高能效算力解決方案，推動(dòng)端側(cè)AI生態(tài)發(fā)展，通過AI技術(shù)應(yīng)用，讓生活、學(xué)習(xí)、工作變得更智能、高效、人性化?！?br />
此芯P1使用6nm制造工藝，提供豐富的AI異構(gòu)計(jì)算資源、全方位的安全引擎、多樣化的外設(shè)接口以及多操作系統(tǒng)支持等特性。強(qiáng)大的多媒體引擎支持4K120幀顯示、8K60幀視頻解碼以及8K30幀視頻編碼等；高性能的訪存子系統(tǒng)配置128-bit LPDDR5低功耗內(nèi)存，容量可達(dá)64GB，數(shù)據(jù)傳輸率可達(dá)6400Mbps、帶寬可達(dá)100GB/s。

小結(jié)：

邊緣AI終端市場迎來發(fā)展的熱潮，但現(xiàn)在也面臨三重挑戰(zhàn)：一、芯片和硬件選擇，企業(yè)要根據(jù)具體需求做出決定；二是部署和管理的邊緣裝置規(guī)模從 50 臺(tái)至上萬臺(tái)不等，且要運(yùn)行不同模型，管理上不易；三是模型迭代，企業(yè)需要花費(fèi)心力進(jìn)行更新。

隨著算力從云端向終端的轉(zhuǎn)移，邊緣AI設(shè)備的急速增加給芯片廠商帶來市場增長機(jī)會(huì)。哪些芯片廠商能抓住AI PC、智慧工廠、智慧城市、自動(dòng)駕駛領(lǐng)域等細(xì)分市場的增長機(jī)會(huì)，我們將拭目以待。