Gitee AI 剛剛上線了DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B四個較小尺寸的 DeepSeek 模型。值得關(guān)注的是，本次上線的四個模型均部署在國產(chǎn)沐曦曦云 GPU 上。

與全尺寸 DeepSeek 模型相比，較小尺寸的 DeepSeek 蒸餾版本模型更適合企業(yè)內(nèi)部實施部署，可以極大的降低落地成本。

同時，這次 Deepseek R1 模型 + 沐曦曦云 GPU + Gitee AI 平臺，更是實現(xiàn)了從芯片到平臺，從算力到模型，全國產(chǎn)研發(fā)、中國制造。

100%國產(chǎn)AI的力量

國產(chǎn)模型 DeepSeek R1

DeepSeek R1 是一款大型混合專家（MoE）模型，擁有 6710 億個參數(shù)，支持 128000 個 Token 的大輸入上下文長度。在數(shù)學(xué)、代碼和自然語言推理等任務(wù)上表現(xiàn)出色。

本次部署在沐曦曦云 GPU 上的是四個 DeepSeek R1 蒸餾模型，以更小參數(shù)量的資源占用，實現(xiàn)了性能與大參數(shù)模型旗鼓相當(dāng)。

國產(chǎn) GPU 沐曦曦云

曦云系列通用 GPU 產(chǎn)品（包括 C550、C500、C500X、C290、C280、N260 等型號）采用完全自主研發(fā)的 GPU IP，擁有完整的知識產(chǎn)權(quán)，并具備強大的多精度混合計算能力及高帶寬顯存支持。同時，沐曦產(chǎn)品搭載先進的時空互聯(lián)技術(shù)和全球兼容的 MXMACA 軟件棧，可廣泛應(yīng)用于智能、通用計算和數(shù)據(jù)處理等場景。

在本次部署適配工作中，得益于沐曦曦云良好的 CUDA 兼容性，同時得到沐曦的算力供應(yīng)商超訊通信的鼎力支持，最終實現(xiàn)了模型的快速部署、穩(wěn)定調(diào)用。

國產(chǎn)平臺 Gitee AI

2024 年初上線以來，Gitee AI 平臺以 Serverless API、模型引擎、AI 應(yīng)用為核心功能與服務(wù)，致力于讓開發(fā)者輕松構(gòu)建和部署 AI 應(yīng)用，為企業(yè)客戶提供更加智能、高效的 AI 應(yīng)用解決方案。

100%國產(chǎn)AI免費跑

目前 Gitee AI 上的DeepSeek-R1-Distill系列模型現(xiàn)已面向全體開發(fā)者免費使用！免費使用！免費使用！

本次上線的模型參數(shù)雖小，但它們表現(xiàn)并不亞于大參數(shù)模型，如下圖中的DeepSeek-R1-Distill-Qwen-14B，雖然參數(shù)較小，但簡單任務(wù)相較于大參數(shù)模型其響應(yīng)速度更快，同時也具備體現(xiàn)思考過程的能力：

模型自強、算力自強、平臺自強，100%國產(chǎn)AI的新時代已然來臨。與其在“制裁-替代-再制裁”的循環(huán)中疲于奔命，不如和我們一起在國產(chǎn) AI 的土壤上，種出下一個時代的參天大樹。

訪問 Gitee AI，體驗基于沐曦算力的 DeepSeek R1，開啟你的100%國產(chǎn)AI開發(fā)之旅！

審核編輯 黃宇