英偉達發(fā)布DeepSeek R1于NIM平臺
英偉達近日宣布，其DeepSeek R1 671b版本已正式上線英偉達NIM(NVIDIA Inference Microservices)平臺，并以預覽版的形式在build.nvidia.com網(wǎng)站上發(fā)布。
據(jù)悉，DeepSeek R1 NIM微服務(wù)是英偉達在人工智能領(lǐng)域的一項重要創(chuàng)新，旨在為用戶提供高效、精準的推理服務(wù)。在單個英偉達HGX H200系統(tǒng)上，該微服務(wù)每秒最多可處理3872個token，展現(xiàn)出強大的處理能力和高效性。
此次上線的DeepSeek R1 NIM微服務(wù)預覽版，允許開發(fā)人員對其進行測試和實驗，以更好地了解其性能和功能。英偉達表示，未來該API將作為英偉達AI Enterprise軟件平臺的一部分，以可下載的NIM微服務(wù)形式正式推出，為用戶提供更加便捷、高效的使用體驗。
英偉達一直致力于推動人工智能技術(shù)的發(fā)展和應用，此次發(fā)布的DeepSeek R1 NIM微服務(wù)預覽版，不僅展示了英偉達在人工智能領(lǐng)域的強大技術(shù)實力，也為用戶提供了更加高效、精準的推理服務(wù)。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
軟件
+關(guān)注
關(guān)注
69文章
5331瀏覽量
91561 -
NIM
+關(guān)注
關(guān)注
0文章
10瀏覽量
8254 -
人工智能
+關(guān)注
關(guān)注
1817文章
50091瀏覽量
265207 -
英偉達
+關(guān)注
關(guān)注
23文章
4084瀏覽量
99160 -
DeepSeek
+關(guān)注
關(guān)注
2文章
835瀏覽量
3249
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
百度騰訊搶灘布局！DeepSeek-R1升級和開源背后，國產(chǎn)AI的逆襲之路
Hugging Face平臺開源。用戶可通過官方網(wǎng)頁、App、小程序進入對話界面后，開啟“深度思考”功能體驗最新版本。API也已同步更新，調(diào)用方式不變。 ? DeepSeek-R1-0528編程能力提升
DeepSeek R1 MTP在TensorRT-LLM中的實現(xiàn)與優(yōu)化
TensorRT-LLM 在 NVIDIA Blackwell GPU 上創(chuàng)下了 DeepSeek-R1 推理性能的世界紀錄，Multi-Token Prediction (MTP) 實現(xiàn)了大幅提速
如何在NVIDIA Blackwell GPU上優(yōu)化DeepSeek R1吞吐量
開源 DeepSeek R1 模型的創(chuàng)新架構(gòu)包含多頭潛在注意力機制 (MLA) 和大型稀疏混合專家模型 (MoE)，其顯著提升了大語言模型 (LLM) 的推理效率。
速看！EASY-EAI教你離線部署Deepseek R1大模型
1.Deepseek簡介DeepSeek-R1，是幻方量化旗下AI公司深度求索（DeepSeek）研發(fā)的推理模型。DeepSeek-R1采用強化學習進行后訓練，旨在提升推理能力，尤其擅
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗】書籍介紹+第一章讀后心得
的展望，大模型的訓練方法、推理部署，到 GPU 硬件及推理模型的發(fā)展趨勢，以前瞻性的視角為讀者描繪了大模型的發(fā)展藍圖。
技驚四座的DeepSeek -R1模型發(fā)布歷程
2025年年初，全球人工智能領(lǐng)域
發(fā)表于 07-17 11:59
DeepSeek開源新版R1 媲美OpenAI o3
DeepSeek“悄悄”地又放了一個大招，DeepSeek開源了R1最新0528版本。盡管DeepSeek目前還沒有對該版本進行任何說明，但是根據(jù)著名代碼測試
DeepSeek創(chuàng)始人梁文鋒入選《時代》最具影響力100人
大模型，在使用少部分英偉達尖端芯片情況下，通過更高效地處理數(shù)據(jù)，使得DeepSeek的性能與OpenAI的ChatGPT可以相媲美。 而且業(yè)界也多認為DeepSeek的
SL1680 SoC本地運行DeepSeek R1 1.5B大模型
深蕾半導體SL1680 SoC本地成功運行DeepSeek R1 Distill Qwen2.5 1.5B大模型，展示了執(zhí)行過程及本地小參數(shù)大模型與云端大模型結(jié)合的應用場景，并簡要介紹了ASTRA SL1680 SoC的性能特點。
科大訊飛深度解析DeepSeek-V3/R1推理系統(tǒng)成本
本篇分析來自科大訊飛技術(shù)團隊，深度解析了DeepSeek-V3 / R1 推理系統(tǒng)成本，旨在助力開發(fā)者實現(xiàn)高性價比的MoE集群部署方案。感謝訊飛研究院副院長&AI工程院常務(wù)副院長龍明康、AI工程院AI云平臺研發(fā)部總監(jiān)李珍松、訊飛
英偉達、高通布局AI投資版圖，這些明星企業(yè)被收入囊中！
電子發(fā)燒友原創(chuàng) 章鷹 今年以來，AI界新秀DeepSeek帶來的大模型平權(quán)推動AI應用，云計算市場景氣度上行，推動資本開支增長。對于DeepSeek的橫空出世，英偉達CEO黃仁勛表示，
【幸狐Omni3576邊緣計算套件試用體驗】DeepSeek 部署及測試
和強大的多場景適應能力受到廣泛關(guān)注。業(yè)務(wù)范圍包括為用戶提供智能對話、推理、AI搜索、文件處理、翻譯、解題、創(chuàng)意寫作、編程等多種服務(wù)。
最新發(fā)布的 DeepSeek R1 大型語言模型可提供流暢精準
發(fā)表于 03-21 19:31
顯存也能疊疊樂，雙 Intel Arc A770 顯卡低成本部署 DeepSeek R1 32B 蒸餾模型體驗
今年春節(jié)后，DeepSeek R1 風暴般地席卷全國，小到手機 App，大到新能源汽車，似乎一夜間所有產(chǎn)品都接入了 DeepSeek R1。不得不說
如何使用OpenVINO運行DeepSeek-R1蒸餾模型
DeepSeek-R1在春節(jié)期間引發(fā)了全球科技界的熱度，DeepSeek-R1 是由 DeepSeek 開發(fā)的開源推理模型，用于解決需要邏輯推理、數(shù)學問題解決和實時決策的任務(wù)。
工商網(wǎng)監(jiān)
評論