來(lái)源：硅基流動(dòng)

今天，硅基流動(dòng)聯(lián)合沐曦集成電路(上海)股份有限公司(簡(jiǎn)稱(chēng)“沐曦”)，全球首發(fā)基于沐曦曦云 C550 集群的月之暗面 Kimi-K2 大模型商業(yè)化服務(wù)部署。該服務(wù)運(yùn)行于匯天網(wǎng)絡(luò)科技有限公司(簡(jiǎn)稱(chēng)“匯天網(wǎng)絡(luò)”)運(yùn)營(yíng)的沐曦曦云C550 三千卡通用 GPU 國(guó)產(chǎn)集群。此次合作標(biāo)志著硅基流動(dòng)正式將該國(guó)產(chǎn)集群納入算力網(wǎng)絡(luò)，進(jìn)一步為大模型產(chǎn)業(yè)落地提供充沛的高性能?chē)?guó)產(chǎn)算力。

技術(shù)突破層面，三方通過(guò)芯片層、框架層、模型層的深度協(xié)同優(yōu)化，顯著提升了 Kimi-K2 在曦云 C550 集群上的推理效率。沐曦自主研發(fā)的曦云 C550 通用 GPU 為模型提供了高性能、高穩(wěn)定的核心硬件支撐，可以大幅增加集群算力，縮短大模型計(jì)算及推理時(shí)間;硅基流動(dòng)將曦云 C550 集群接入一站式算力納管平臺(tái)，豐富了算力資源，并依托自研推理加速引擎，將集群利用率提升至業(yè)界領(lǐng)先水平，最終在其大模型云服務(wù)平臺(tái)提供金融級(jí)高可靠性、高速響應(yīng)、高性?xún)r(jià)比的 Kimi-K2 推理服務(wù)。

此次落地在匯天網(wǎng)絡(luò)的沐曦國(guó)產(chǎn) GPU 集群，是華北地區(qū)首個(gè)專(zhuān)為大模型規(guī)?；逃迷O(shè)計(jì)的高性能算力基礎(chǔ)設(shè)施。該集群納入硅基流動(dòng)大模型云服務(wù)平臺(tái)后，將重點(diǎn)服務(wù)于金融、政務(wù)、教育、科研等領(lǐng)域的頭部客戶(hù)，提供企業(yè)級(jí) AI 推理部署解決方案。

下一步，硅基流動(dòng)、匯天網(wǎng)絡(luò)與沐曦三方將圍繞"北京國(guó)產(chǎn)萬(wàn)卡集群"建設(shè)目標(biāo)，持續(xù)推進(jìn)集群硬件擴(kuò)容與綠色 AIDC 技術(shù)研發(fā)。同時(shí)，三方將深化與國(guó)內(nèi)主流大模型企業(yè)的生態(tài)合作，通過(guò)"算力-算法-應(yīng)用"的全鏈路協(xié)同創(chuàng)新，突破產(chǎn)業(yè)鏈應(yīng)用瓶頸，助力“國(guó)產(chǎn)算力+大模型產(chǎn)業(yè)”實(shí)現(xiàn)從技術(shù)突破到商業(yè)化落地的跨越式發(fā)展。

關(guān)于沐曦

沐曦致力于自主研發(fā)全棧高性能GPU芯片及計(jì)算平臺(tái)，為智算、通用計(jì)算、云渲染等前沿領(lǐng)域提供高能效、高通用性的算力支撐，助力數(shù)字經(jīng)濟(jì)發(fā)展。