近日，上海人工智能實驗室推出DeepLink多元算力混合推理加速方案（以下簡稱“DeepLink混推方案”），首次實現(xiàn)對壁仞科技等四家國產(chǎn)算力廠商多款芯片的混合調(diào)度與協(xié)同推理。

DeepLink混推方案的發(fā)布，既為全國智能算力互聯(lián)互通、高效盤活分散算力資源探索出新路徑，也為“人工智能+”行動落地提供穩(wěn)定、靈活、高效、低成本的算力支撐。

在傳統(tǒng)大模型推理架構(gòu)中，在單一芯片集群的PD分離推理策略，已成為業(yè)界主流推理優(yōu)化應(yīng)用方向。然而，面向國產(chǎn)異構(gòu)芯片的協(xié)同推理，仍是當前行業(yè)亟待攻克的關(guān)鍵難題。本次，上海人工智能實驗室推出的方案，為激活多元國產(chǎn)算力生態(tài)提供了新模式。

基于統(tǒng)一推理中間件、低時延通信、智能流量路由、策略求解器等原創(chuàng)技術(shù)，DeepLink混推方案具有精準匹配算力密集型、訪存密集型硬件的能力，并同時兼顧推理時延與吞吐性能。另外，該方案還具備良好的可擴展性，能有效地應(yīng)用于Attention-FFN（AF）分離等其他場景。

在此基礎(chǔ)上，DeepLink 混推方案首次實現(xiàn)包括壁仞科技等四家廠商在內(nèi)的多款國產(chǎn)芯片的深度混合調(diào)度與協(xié)同推理，并完成國產(chǎn)異構(gòu)芯片“1+1>2”的效能躍升。

壁仞科技秉持 “技術(shù)開放、產(chǎn)業(yè)協(xié)同、標準共建” 理念，在異構(gòu)混訓(xùn)、異構(gòu)混推等異構(gòu)算力關(guān)鍵技術(shù)領(lǐng)域深入探索，推動多元算力高效融通。2024年底，壁仞科技在業(yè)界首次實現(xiàn)四種異構(gòu)芯片混合訓(xùn)練，隨后在人工智能產(chǎn)業(yè)工委會的推動下，牽頭成立智算集群異構(gòu)混訓(xùn)工作組，并在全國信標委主導(dǎo)下制定異構(gòu)混訓(xùn)國家標準，深度參與DeepLink跨域混訓(xùn)合作；2025年世界人工智能大會期間，壁仞科技再度取得突破，首次實現(xiàn)基于壁仞科技、英偉達等多款芯片異構(gòu)算力混推，與中國電信聯(lián)合發(fā)布異構(gòu)算力協(xié)同白皮書。今年，壁仞科技與上海人工智能實驗室合作進一步深化，推出全新的DeepLink混推方案。

值得關(guān)注的是，壁仞科技與上海人工智能實驗室聯(lián)合發(fā)起并牽頭推進異構(gòu)混推標準制定工作，打造技術(shù)攻關(guān)、應(yīng)用落地、標準引領(lǐng)閉環(huán)，以實際行動響應(yīng)落實2026年初工信部等八部門聯(lián)合印發(fā)《“人工智能+制造“專項行動實施意見》中提出的加快突破異構(gòu)算力等關(guān)鍵技術(shù)的工作，共建異構(gòu)算力開放生態(tài)，支持多元算力高效落地，為人工智能產(chǎn)業(yè)筑牢堅實算力底座。