電子發(fā)燒友網(wǎng)綜合報(bào)道，在人工智能迅猛發(fā)展的當(dāng)下，AI推理芯片需求正呈爆發(fā)式增長。

AI推理，即支撐如ChatGPT這類AI模型響應(yīng)用戶問題和請求的計(jì)算過程。過去，英偉達(dá)在訓(xùn)練大型AI模型所需芯片領(lǐng)域占據(jù)主導(dǎo)，其GPU憑借強(qiáng)大的海量數(shù)據(jù)處理能力，成為全球AI爆炸式增長的重要基石。但隨著AI不斷演進(jìn)，重點(diǎn)正從大規(guī)模訓(xùn)練轉(zhuǎn)向?qū)σ延?xùn)練模型的推理和推斷，推理已然成為新的競爭戰(zhàn)場。業(yè)內(nèi)普遍分析，到2026年，全球AI推理需求將超越AI訓(xùn)練場景。

推理與訓(xùn)練對芯片要求差異明顯。訓(xùn)練側(cè)重海量數(shù)據(jù)處理，推理則對內(nèi)存需求更高，因芯片需花更多時(shí)間從內(nèi)存獲取數(shù)據(jù)。英偉達(dá)和AMD的GPU依賴外部內(nèi)存，這會(huì)增加處理時(shí)間，降低用戶與聊天機(jī)器人交互速度。以O(shè)penAI為例，其用于生成計(jì)算機(jī)代碼且大力推廣的產(chǎn)品Codex，部分性能不足就歸因于基于英偉達(dá)GPU的硬件。OpenAI首席執(zhí)行官Sam Altman稱，使用其編程模型的客戶愿為編碼速度支付高溢價(jià)，為滿足需求，OpenAI最近與Cerebras達(dá)成合作。

自去年起，OpenAI積極尋找GPU替代方案，重點(diǎn)關(guān)注在同一塊硅片上集成大量內(nèi)存（SRAM）的芯片制造商。在每顆芯片上集成更多昂貴的SRAM，能在聊天機(jī)器人等AI系統(tǒng)處理海量用戶請求時(shí)帶來速度優(yōu)勢。

面對推理市場的巨大潛力，其他企業(yè)也紛紛布局。Anthropic的Claude和谷歌的Gemini等競爭產(chǎn)品，更多依賴谷歌自研的TPU進(jìn)行部署。TPU專為推理計(jì)算設(shè)計(jì)，性能可能優(yōu)于英偉達(dá)GPU這類通用型AI芯片。

英偉達(dá)也未坐視不理。不久前，它以200億美元收購一家AI推理芯片初創(chuàng)企業(yè)Groq的技術(shù)授權(quán)，并將核心團(tuán)隊(duì)招入麾下。Groq專注極致推理，其創(chuàng)始人Jonathan Ross帶領(lǐng)谷歌TPU原班人馬，耗時(shí)七年打造出LPU（語言處理單元）架構(gòu)，曾宣稱推理性能是英偉達(dá)H100 GPU的10倍，成本僅為其十分之一。

國內(nèi)企業(yè)同樣在積極布局。曦望董事長徐冰預(yù)計(jì)，到2030年，AI推理在整個(gè)AI計(jì)算市場將占80%份額，聚焦極致推理的AI芯片未來爆發(fā)性更強(qiáng)。1月27日，國產(chǎn)GPU廠商曦望發(fā)布新一代推理GPU芯片——啟望S3。這款專為大模型推理打造的定制化GPGPU芯片，在典型推理場景下，整體性價(jià)比較上一代提升超10倍。在算力與存儲(chǔ)設(shè)計(jì)上，支持FP16至FP4精度切換，采用LPDDR6顯存方案，顯存容量提升4倍，有效緩解大模型推理的顯存瓶頸，成為國內(nèi)首款采用此顯存方案的芯片。在主流大模型推理中，單位Token成本較上一代降低約90%，極大推動(dòng)了大模型推理的大規(guī)模普惠應(yīng)用。

云天勵(lì)飛自2014年成立便持續(xù)投入AI推理芯片研發(fā)，已推出四代基于深度神經(jīng)網(wǎng)絡(luò)架構(gòu)的自研NPU，并基于最新NPU架構(gòu)推出多款芯片，應(yīng)用于端側(cè)與邊緣側(cè)AI推理場景。公司副總裁鄭文先表示，正在研發(fā)的新一代芯片采用GPNPU架構(gòu)，既適應(yīng)GPU的CUDA生態(tài)，方便客戶模型牽引，又兼顧NPU的高效靈活，成本更具優(yōu)勢，符合未來大模型在端側(cè)與邊緣側(cè)規(guī)模化落地的需求。董事長陳寧博士稱，未來AI需求轉(zhuǎn)向推理，對AI芯片需求也將從訓(xùn)練芯片轉(zhuǎn)向推理芯片，GPNPU架構(gòu)是通用型大算力云端推理芯片架構(gòu)的最優(yōu)解，公司將全力投入大算力AI推理芯片研發(fā)，打造極致推理效率和性價(jià)比的大模型云推理芯片。