電子發(fā)燒友網(wǎng)報道（文/莫婷婷））2025年，AI正加速向終端大規(guī)模落地。據(jù)Gartner等行業(yè)機(jī)構(gòu)數(shù)據(jù)顯示，2025年，搭載端側(cè)大模型的AI終端設(shè)備出貨量同比增長超過165%。這一爆發(fā)式增長標(biāo)志著AI從“云中心”向“端智能”的戰(zhàn)略轉(zhuǎn)移已成行業(yè)共識。

億道研究院伍俊龍博士在“億道科技日”活動中指出，在行業(yè)應(yīng)用層面，純云端大模型雖具備高度靈活性，卻面臨成本高、延遲大、隱私風(fēng)險突出等瓶頸。相比之下，端側(cè)AI展現(xiàn)出獨(dú)特優(yōu)勢：更低的響應(yīng)延遲、可靠的離線運(yùn)行能力，以及最關(guān)鍵的——數(shù)據(jù)不出設(shè)備的隱私保障機(jī)制。

從智能手機(jī)、AI眼鏡到智能家居、工業(yè)工控設(shè)備，端側(cè)AI正在重塑人機(jī)交互邊界，例如智能手機(jī)結(jié)合AI與分布式計算，智能調(diào)用最適合的終端執(zhí)行特定任務(wù)，市場調(diào)研機(jī)構(gòu)IDC預(yù)測明年國內(nèi)新一代AI手機(jī)出貨量將達(dá)到1.47億臺，同比增長31.6%，占據(jù)整體市場的53%。又比如AI智能眼鏡在AI的賦能下，成為具備理解、交互與決策能力的個人智能終端，可以通過端云協(xié)同架構(gòu)，在端側(cè)完成簡單的手勢識別等任務(wù)，還能進(jìn)一步通過調(diào)用云端大模型完成跨語言會議記錄等任務(wù)。

億道信息認(rèn)為，Edge AI不僅是云端能力的補(bǔ)充，更是AI計算架構(gòu)中的核心節(jié)點(diǎn)。而億道信息致力于成為AI應(yīng)用生態(tài)的服務(wù)商。

然而，端側(cè)AI的現(xiàn)實(shí)挑戰(zhàn)不容忽視。伍俊龍表示，當(dāng)前端側(cè)算力資源受限，難以承載超大規(guī)模模型；同時，跨終端數(shù)據(jù)分散、標(biāo)準(zhǔn)不一，導(dǎo)致單一端側(cè)智能難以構(gòu)建完整體驗(yàn)閉環(huán)。“‘端云協(xié)同’是當(dāng)前技術(shù)水平限制下智能分工的最優(yōu)解”，他指出。

端云協(xié)同指的是云端負(fù)責(zé)高智力水平的模型訓(xùn)練與復(fù)雜推理，端側(cè)則聚焦實(shí)時交互、隱私保護(hù)與離線可用性。二者分工協(xié)作，形成“云讓端更聰明，端讓云更真實(shí)”的智能新范式。

2024年科技日，億道信息正式發(fā)布AI戰(zhàn)略并成立AI研究院。過去一年，研究院聚焦七大核心技術(shù)方向，系統(tǒng)推進(jìn)端側(cè)大模型落地：端側(cè)推理輕量化、端側(cè)模型訓(xùn)練、交互歷史與記憶、云端能力構(gòu)建與優(yōu)化、Agent智能體、多模態(tài)數(shù)據(jù)管理、隱私與邊緣計算。



但將大模型真正部署到端側(cè)遠(yuǎn)非易事。億道信息指出，端側(cè)智能絕非簡單“把云模型搬下來”，而需攻克四大系統(tǒng)性難題，包括模型結(jié)構(gòu)差異、計算與//0瓶頸、硬件異構(gòu)與功耗、系統(tǒng)環(huán)境復(fù)雜等。

伍俊龍指出模型結(jié)構(gòu)到芯片知識能力之間的強(qiáng)差異性，會導(dǎo)致在端側(cè)推理適配的過程中有巨大的成本，這也使得跨模型跨硬件的統(tǒng)一執(zhí)行變得極具挑戰(zhàn)。在系統(tǒng)環(huán)境方面，每一種系統(tǒng)在模型的部署方式，推理庫的加載以及設(shè)備交互的方面都存在巨大的差異。這決定了端側(cè)AI的框架必須具備高度的跨系統(tǒng)兼容性以及動態(tài)適配能力。

為此，億道信息基于AESOF框架，形成跨芯片、跨系統(tǒng)、跨形態(tài)的大模型的部署能力，由此構(gòu)建一個可以復(fù)用的高效的推理框架，實(shí)現(xiàn)“一套邏輯打通所有AI設(shè)備”。該框架已成功支撐AI PC、AI NAS、工控終端、可穿戴產(chǎn)品等多形態(tài)終端的大模型部署。

目前，億道信息圍繞個人、家庭、企業(yè)、工業(yè)、可穿戴、機(jī)器人六大核心場景，推動端側(cè)AI落地。在AI智能眼鏡的布局上，億道信息通過旗下子公司億境虛擬加速推進(jìn)。就在11月，億境虛擬與恩智浦達(dá)成合作，宣布將在其新一代 AI 眼鏡解決方案SW3021中采用恩智浦i.MX RT685跨界MCU，滿足端側(cè)多模態(tài)交互、即時響應(yīng)、持續(xù)感知等需求對低功耗的需求。在AI PC的布局上，億道數(shù)碼提出以“端側(cè)優(yōu)先，云端增強(qiáng)”為核心的L0-L4智商等級進(jìn)化路徑，公司還宣布將與芯片、存儲企業(yè)展開合作，例如優(yōu)化NPU性能等。