沐曦股份開(kāi)源生態(tài)介紹

沐曦股份堅(jiān)持“自主創(chuàng)新與開(kāi)放兼容”雙軌戰(zhàn)略，以自研MXMACA軟件棧為核心，構(gòu)建硬件與應(yīng)用的橋梁，并承載開(kāi)源核心使命。該棧于2025年2月正式開(kāi)源，致力于打造開(kāi)放的GPU編程接口標(biāo)準(zhǔn)，大幅降低開(kāi)發(fā)門(mén)檻，有效破解跨平臺(tái)兼容難題，驅(qū)動(dòng)AI算力生態(tài)協(xié)同創(chuàng)新。

技術(shù)落地方面，沐曦深度融入全球開(kāi)源社區(qū)：成為vLLM官方支持的中國(guó)GPU廠商，與紅帽聯(lián)合推出MXAIE優(yōu)化方案，實(shí)現(xiàn)對(duì)龍蜥、OpenCloudOS、麒麟、RHEL等主流OS的適配，并深度參與vLLM、PaddlePaddle、OpenXLA、BigDL等上游項(xiàng)目，確保主流框架和大模型的“Day 0”級(jí)支持。截至2025年底，已發(fā)布30余個(gè)開(kāi)源項(xiàng)目，MXMACA用戶超25萬(wàn)，支持超4500個(gè)模型“即插即用”。通過(guò)技術(shù)賽事、高校推廣及算力服務(wù)平臺(tái)建設(shè)，沐曦正加速構(gòu)建覆蓋開(kāi)發(fā)者、產(chǎn)業(yè)與科研的開(kāi)放生態(tài)，目標(biāo)是鑄就AI時(shí)代的“Android式”開(kāi)放共贏算力基礎(chǔ)。

HUATUO 華佗

HUATUO（華佗）是由滴滴開(kāi)源并依托 CCF （中國(guó)計(jì)算機(jī)學(xué)會(huì)）孵化的操作系統(tǒng)深度觀測(cè)項(xiàng)目，專注為云原生通用計(jì)算，AI 計(jì)算，云服務(wù)，基礎(chǔ)服務(wù)等提供操作系統(tǒng)內(nèi)核級(jí)深度觀測(cè)能力，《滴滴操作系統(tǒng)可觀測(cè) HUATUO 項(xiàng)目正式入駐 CCF》。

適配介紹

HUATUO 通過(guò)調(diào)用 MetaX libmxsml 獲取實(shí)時(shí)的 GPU 數(shù)據(jù)，在開(kāi)啟了 MetaX GPU 監(jiān)控后，可以在華佗中查詢到 GPU 相關(guān)的數(shù)據(jù)，如：

1. GPU 基礎(chǔ)信息：如 GPU 型號(hào)、GPU 標(biāo)識(shí)、驅(qū)動(dòng)版本等
2. GPU 狀態(tài)：如 GPU 功耗、溫度、利用率、時(shí)鐘頻率等
3. GPU 通信：如 PCIe 速度、帶寬，MetaXLink 速度、帶寬等

這些數(shù)據(jù)可以幫助我們更加清晰地定位生產(chǎn)環(huán)境中的各種問(wèn)題。有關(guān)指標(biāo)的詳細(xì)說(shuō)明，請(qǐng)見(jiàn)后續(xù)的"指標(biāo)介紹"章節(jié)。如果想要啟用 MetaX GPU 的監(jiān)控，需要將以下內(nèi)容掛載到容器中的對(duì)應(yīng)位置：

1./opt/maca:/opt/maca
2./opt/mxdriver:/opt/mxdriver
3./dev/dri:/dev/dri

Docker 容器的啟動(dòng)命令為：

docker run --privileged --cgroupns=host --network=host
    -v /sys:/sys
    -v /proc:/proc
    -v /run:/run
    -v /opt/maca:/opt/maca
    -v /opt/mxdriver:/opt/mxdriver
    -v /dev/dri:/dev/dri
    huatuo/huatuo-bamai:latest

如果是在 K8s 中使用，則創(chuàng)建相應(yīng)的 PV 與 PVC 即可。在容器啟動(dòng)完畢后，訪問(wèn)其服務(wù)地址的/metricsendpoint，如果輸出中包含帶有 metax 字樣的指標(biāo)，則成功采集了 GPU 數(shù)據(jù)。

指標(biāo)介紹

說(shuō)明

1. GPU index：GPU 的索引，根據(jù) GPU 模式的不同有所區(qū)分：
  - Native 模式和 VF 模式的 GPU 索引從 0 開(kāi)始。
  - PF 模式的 GPU 索引從 100 開(kāi)始。
2. CE：Correctable Errors, 可糾正錯(cuò)誤
3. UE：Uncorrectable Errors, 不可糾正錯(cuò)誤
4. MetaXLink：MetaXLink 是用于 GPU 間通信的專有互聯(lián)技術(shù)。每塊 GPU 可擁有多條 MetaXLink 連接，索引從 1 開(kāi)始。

結(jié)語(yǔ)

開(kāi)源，正成為連接技術(shù)創(chuàng)新與產(chǎn)業(yè)升級(jí)的關(guān)鍵紐帶。在政策引領(lǐng)、產(chǎn)業(yè)協(xié)同與生態(tài)共建的合力推動(dòng)下，開(kāi)源創(chuàng)新高地正加速構(gòu)筑。面向未來(lái)，沐曦股份將持續(xù)以開(kāi)源為橋梁，與產(chǎn)業(yè)各方同心共策、聚力共建、攜手共贏，夯實(shí)AI時(shí)代的算力底座與軟件基礎(chǔ)設(shè)施，為中國(guó)數(shù)字經(jīng)濟(jì)的高質(zhì)量發(fā)展注入澎湃動(dòng)能。

Pull request:

https://github.com/ccfos/huatuo/pull/133

關(guān)于沐曦股份

沐曦股份致力于自主研發(fā)全棧高性能GPU芯片及計(jì)算平臺(tái)，為智算、通用計(jì)算、云渲染等前沿領(lǐng)域提供高能效、高通用性的算力支撐，助力數(shù)字經(jīng)濟(jì)發(fā)展。