2026年2月11日，寒武紀(jì)已基于 vLLM 推理框架同步實(shí)現(xiàn)對智譜最新開源旗艦?zāi)Ｐ?GLM-5 的適配。寒武紀(jì)一直高度重視大模型軟件生態(tài)建設(shè)，借助于成熟的自研 Neuware 軟件生態(tài)和長期的技術(shù)積累，寒武紀(jì)得以快速實(shí)現(xiàn)對 GLM-5 的 Day 0 適配。

寒武紀(jì)一直重視芯片和算法的聯(lián)合創(chuàng)新，致力于以軟硬件協(xié)同的方式，優(yōu)化大模型部署性能，降低部署成本。此前，我們對 GLM 系列模型進(jìn)行了深入的軟硬件協(xié)同性能優(yōu)化，達(dá)成了業(yè)界領(lǐng)先的算力利用率。針對本次 GLM-5 模型，寒武紀(jì)依托深度集成的 Triton 的兼容能力完成快速適配，利用 BangC 和原生 FP8 數(shù)據(jù)類型進(jìn)行 DeepSeek Sparse Attention 等熱點(diǎn)算子的極致性能優(yōu)化，再次達(dá)成了業(yè)界領(lǐng)先的計(jì)算效率。依托 GLM-5 強(qiáng)大的模型能力，疊加寒武紀(jì)極致的計(jì)算效率，可大幅降低訓(xùn)推成本，共同為客戶在 Coding 和 Agent 等重要領(lǐng)域提供極具競爭力的軟硬件解決方案。