個人智能體今年的演進(jìn)出現(xiàn)哪些趨勢？在以O(shè)penClaw（小龍蝦）大熱的當(dāng)下，芯片廠商如何考慮智能體在終端的應(yīng)用前景和機(jī)會？這些熱點問題在3月27日的CFMS MemoryS 2026 峰會上，來自高通公司AI產(chǎn)品技術(shù)中國區(qū)負(fù)責(zé)人萬衛(wèi)星給出了前瞻的技術(shù)分析和AI全棧技術(shù)解決方案。

AI應(yīng)用四大階段演進(jìn)，端側(cè)AI部署面臨三大挑戰(zhàn)

萬衛(wèi)星指出，AI在行業(yè)應(yīng)用經(jīng)歷三個重要階段，從感知AI、生成式AI向智能體AI演進(jìn)，未來將進(jìn)入物理AI時代。

感知AI主要包括多媒體信號、語音信號的理解，對圖像的分類識別和智能降噪等傳統(tǒng)領(lǐng)域的用例；生成式AI的特點是，在基于大量數(shù)據(jù)預(yù)訓(xùn)練的情況下，AI可以在有監(jiān)督的情況下去解決一些具體的問題，比如說OpenAI的ChatGPT模型，以及文生圖模型等等。智能體AI與生成式AI的重要區(qū)別是，基本上可以在無監(jiān)督的情況下，自主的去理解用戶意圖，進(jìn)行行動和決策，幫我們解決稍微復(fù)雜的任務(wù)。第四階段物理AI，AI可以真正去理解我們的物理世界，根據(jù)真實物理世界的物理規(guī)定，對輸入進(jìn)行反饋和輸出。這一技術(shù)還在早期應(yīng)用階段。

目前行業(yè)關(guān)注的第二階段和第三階段，我們看到的明顯趨勢是：能夠在端側(cè)運(yùn)行的生成式AI模型，它的智能正在快速的提升。首先，端側(cè)設(shè)備能夠支持的模型參數(shù)量正在變得越來越大，比如在手機(jī)上我們已經(jīng)可以運(yùn)行10億到100億參數(shù)級別的大模型，在PC上可以運(yùn)行130億到200億參數(shù)量的大模型。在車上，我們可以支持的模型參數(shù)量可能會更大，達(dá)到200~600億的級別。

在更小型的設(shè)備上，比如AR眼鏡和低功耗設(shè)備，我們也實現(xiàn)了讓參數(shù)規(guī)模在10億-40億之間的模型完全在端側(cè)運(yùn)行。萬衛(wèi)星強(qiáng)調(diào)，相較于云端大模型，端側(cè)模型的參數(shù)量仍然相對較小，但行業(yè)內(nèi)的各種技術(shù)正在推動端側(cè)大模型支持體量的提升，比如內(nèi)存帶寬提升，量化位寬技術(shù)的優(yōu)化可以進(jìn)一步壓縮模型尺寸，這都意味著終端設(shè)備可以承載更豐富的模型。

尤其值得關(guān)注的是，高通已經(jīng)將具備推理能力的大模型部署到端側(cè)。而且在端側(cè)大模型對應(yīng)的各種的各類場景中，其支持的上下文長度也在提升。3年前，端側(cè)上下文長度普遍僅限于1k-2k，2年前，大部分場景的上下文已經(jīng)擴(kuò)展到2k-4k；而2025年，高通在與合作伙伴的場景探索中，這個區(qū)間已提升到4k-8k。在一些特定場景中，甚至已經(jīng)可以支持32k-128k的上下文長度。

在面對支持更多上下文的端側(cè)部署挑戰(zhàn)時，高通認(rèn)為有三點：一、端側(cè)內(nèi)存規(guī)模的限制。雖然我們有很多技術(shù)手段能夠壓縮模型體積，但有限的內(nèi)存終究會對可運(yùn)行的模型大小設(shè)置上限，而模型大小的上限也意味著端側(cè)AI能力的上限。二、內(nèi)存帶寬有限制，有限的帶寬會影響大模型輸出token（詞元）的速度，進(jìn)而影響到具體場景里面的用戶體驗。三、終端設(shè)備部署大模型，能效比和散熱的問題不可避免。在多終端設(shè)備中，能效非常重要。我們要避免AI推理在運(yùn)行時觸發(fā)溫控限制，避免引起設(shè)備發(fā)熱。

智能體演進(jìn)三大趨勢，從端側(cè)AI芯片到AI推理芯片全面覆蓋

萬衛(wèi)星指出，個人AI將始于端側(cè)，我們正在邁向以AI和用戶為中心的多終端體驗，終端側(cè)智能體將能夠提供更低時延、更好的個性化以及持續(xù)無感的用戶體驗。

當(dāng)下，智能體從端側(cè)智能體、智能體專業(yè)化、高度個性化和多模態(tài)為主要發(fā)展趨勢，終端側(cè)智能體不再是以前那種簡單的對話類語音助手，而是變成能夠充分理解用戶意圖、理解上下文、理解用戶感知信息的真正懂你的AI助手。

在過去，個人AI更多是以手機(jī)為中心，耳機(jī)、眼鏡、手表等其他設(shè)備是作為附屬與手機(jī)連接。未來，我們正在邁向以AI和用戶為中心的多終端體驗。也就是說AI不再綁定某一個具體的設(shè)備，如果是通過個人AI或者智能體去理解用戶的意圖，再去執(zhí)行用戶的任務(wù)。個人AI通過混合架構(gòu)在終端側(cè)進(jìn)行部署。在終端側(cè)、本地邊緣、網(wǎng)絡(luò)邊緣和中央云協(xié)同工作。

高通在去年也發(fā)布了多款可以提供充分算力去支撐個人AI場景的產(chǎn)品，包括第五代驍龍8至尊版移動平臺、驍龍X2 Elite計算平臺等。在數(shù)據(jù)中心側(cè)，高通在MWC2026上正式發(fā)布了基于Qualcomm? AI200和AI250芯片的加速卡和機(jī)架系統(tǒng)。我們以行業(yè)領(lǐng)先的總體擁有成本(TCO)為高速數(shù)據(jù)中心生成式AI推理提供機(jī)架級性能與卓越內(nèi)存容量。

在演講最后，萬衛(wèi)星強(qiáng)調(diào)：“高通AI全棧能力，從手機(jī)、耳機(jī)、可穿戴設(shè)備、PC等消費電子產(chǎn)品，再到汽車、機(jī)器人，甚至到下一代的數(shù)據(jù)中心，我們都在用統(tǒng)一的AI架構(gòu)去賦能所有的產(chǎn)品，核心就在于我們能夠通過統(tǒng)一的技術(shù)路線，提供高性能、高能效的軟硬件技術(shù)底座，讓高通的AI能力得以從單個產(chǎn)品或者單顆芯片擴(kuò)展成為規(guī)?；目缃K端、跨場景的平臺級能力?！?/p>