12月13日，GAIR 2025「AI 算力新十年」專場(chǎng)在深圳舉行。作為國內(nèi)前沿技術(shù)與產(chǎn)業(yè)變革的重要風(fēng)向標(biāo)，GAIR大會(huì)歷經(jīng)七屆積淀，見證并推動(dòng)了中國 AI 產(chǎn)業(yè)從算法突破、硬件迭代，到商業(yè)落地的完整過程。本屆論壇直面智能體系的底層核心——算力，從架構(gòu)、生態(tài)、工具鏈到產(chǎn)業(yè)化落地，探尋未來十年的關(guān)鍵變量。

云天勵(lì)飛副總裁羅憶出席并發(fā)表主題演講，圍繞大模型從“訓(xùn)練競(jìng)賽”走向“推理規(guī)模化”的產(chǎn)業(yè)拐點(diǎn)，分享了面向推理時(shí)代的關(guān)鍵判斷與實(shí)踐思考。

羅憶指出，過去幾年行業(yè)主要通過更大算力、更大數(shù)據(jù)、更大參數(shù)推動(dòng)智能上限持續(xù)提升，但隨著應(yīng)用從簡(jiǎn)單問答走向長(zhǎng)上下文、工具調(diào)用與更復(fù)雜的智能體形態(tài)，產(chǎn)業(yè)關(guān)注點(diǎn)正在發(fā)生遷移：不再止步于“把模型煉得更強(qiáng)”，而是更強(qiáng)調(diào)“把推理做得更便宜、更穩(wěn)定、更可規(guī)模化交付”。

在這一背景下，大模型應(yīng)用面臨的核心挑戰(zhàn)正逐步呈現(xiàn)為“經(jīng)濟(jì)學(xué)困境”——模型規(guī)模擴(kuò)大帶來的算力與帶寬成本上升具有明顯的放大效應(yīng)，只有通過稀疏化、蒸餾、量化等技術(shù)與工程優(yōu)化持續(xù)降低門檻，AI 才可能從“高成本探索”走向“規(guī)?；栈荨?。

圍繞推理時(shí)代的衡量標(biāo)準(zhǔn)，羅憶進(jìn)一步強(qiáng)調(diào)，競(jìng)爭(zhēng)指標(biāo)不應(yīng)僅停留在芯片的理論算力峰值，而應(yīng)回到“單位投入能夠產(chǎn)出多少有效 token”。

這意味著，系統(tǒng)瓶頸往往不在算力本身，而在內(nèi)存與互連帶寬，以及由此帶來的算力等待與利用率下降;在相近硬件條件下，誰能提升 MFU(算力/模型利用率)、減少無效等待，誰就更有機(jī)會(huì)把單位 token 成本攤薄到更具商業(yè)可行性的區(qū)間，從而支撐推理應(yīng)用的規(guī)?；涞亍?/p>

在國產(chǎn) AI 推理芯片的發(fā)展方向上，羅憶提出三點(diǎn)思路：一是加強(qiáng)軟件生態(tài)兼容，在更好承接算法迭代的同時(shí)提升算力利用效率;二是突破存儲(chǔ)與帶寬相關(guān)瓶頸，積極支持 3D memory 等技術(shù)路線;三是面向異構(gòu)計(jì)算持續(xù)優(yōu)化整體性價(jià)比，以更可持續(xù)的成本結(jié)構(gòu)推動(dòng)應(yīng)用滲透。

他同時(shí)表示，行業(yè)的共同目標(biāo)應(yīng)是讓推理服務(wù)的成本持續(xù)下探，并在未來三到五年推動(dòng)“百萬 token 成本降至 1 元以內(nèi)”成為可觸達(dá)的目標(biāo)區(qū)間，從而更好支撐“人工智能+”在千行百業(yè)的普及。

云天勵(lì)飛自2014年成立以來，一直堅(jiān)持算法與芯片的協(xié)同迭代，聚焦推理場(chǎng)景推動(dòng)技術(shù)與產(chǎn)品的持續(xù)演進(jìn)。目前，公司正探索面向云端推理的新型架構(gòu)方向——GPNPU，力求在兼顧通用性與效率的同時(shí)，最大限度降低開發(fā)和遷移的門檻。

面向推理規(guī)模化的新階段，云天勵(lì)飛將繼續(xù)以“更高效、更普惠的推理算力”為目標(biāo)，推動(dòng)從芯片到系統(tǒng)再到交付的工程能力建設(shè)，與產(chǎn)業(yè)伙伴共同完善生態(tài)與應(yīng)用路徑，讓算力投入更高效地轉(zhuǎn)化為可度量、可復(fù)制的業(yè)務(wù)價(jià)值，形成從“算力基建”到“價(jià)值閉環(huán)”的正向循環(huán)。