91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DeepSeek 推理型AI盡顯高效訓(xùn)練的小模型之威

全球TMT ? 來(lái)源:全球TMT ? 作者:全球TMT ? 2025-02-10 15:04 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

——在IBM院士Kush Varshney看來(lái),全球AI競(jìng)賽中的地緣政治差異,可能沒(méi)有人們想象的那么重要,他說(shuō):"一旦模型開(kāi)源,它源自何處在很多方面就不再重要了。"

作者:Aili McConnon,IBM

2025年1月27日發(fā)表與IBM官網(wǎng)Think頻道,點(diǎn)擊閱讀英文原文

北京2025年2月10日/美通社/ --DeepSeek-R1是中國(guó)初創(chuàng)公司DeepSeek 推出的人工智能模型,不久前,在人工智能開(kāi)源平臺(tái)Hugging Face上發(fā)布數(shù)小時(shí),便躍居下載量和活躍度最高模型的榜首;同時(shí)因其促使投資者重新考慮英偉達(dá)(NVIDIA)等芯片制造商的估值,以及AI巨頭為擴(kuò)大其AI業(yè)務(wù)規(guī)模而進(jìn)行的巨額投資,從而給金融市場(chǎng)也帶來(lái)了震蕩。


DeepSeek 推理型AI盡顯高效訓(xùn)練的小模型之威

為何掀起如此大的波瀾?DeepSeek-R1 是一款所謂"推理模型"的數(shù)字助理,在某些數(shù)學(xué)和編碼任務(wù)的人工智能基準(zhǔn)測(cè)試中,它的表現(xiàn)與OpenAI 的 o1 不相上下;而據(jù)該公司稱(chēng),訓(xùn)練該系統(tǒng)所使用的芯片數(shù)量卻要少得多,使用成本低約96%。

IBM AI 硬件部門(mén)的一位首席研究科學(xué)家兼經(jīng)理Kaoutar El Maghraoui 說(shuō):"DeepSeek 無(wú)疑正在重塑人工智能的格局,它以開(kāi)源的雄心和最先進(jìn)的創(chuàng)新技術(shù)向巨頭們發(fā)起挑戰(zhàn)。"

與此同時(shí),TikTok 母公司、中國(guó)科技巨頭字節(jié)跳動(dòng)最近發(fā)布了自己的推理型代理(智能體)UI-TARS,并聲稱(chēng)該智能體在某些基準(zhǔn)測(cè)試中優(yōu)于OpenAI 的 GPT-4o、Anthropic 的Claude 和谷歌的 Gemini。字節(jié)跳動(dòng)的智能體可以讀取圖形界面,進(jìn)行推理,并采取自主和一步接一步的行動(dòng)。

從初創(chuàng)公司到成熟巨頭,中國(guó)的人工智能公司似乎正在縮小與美國(guó)競(jìng)爭(zhēng)對(duì)手的差距,這在很大程度上要?dú)w功于它們?cè)敢忾_(kāi)源或與其他企業(yè)和軟件開(kāi)發(fā)商共享底層軟件代碼。IBM花崗巖(Granite)模型高級(jí)技術(shù)產(chǎn)品經(jīng)理Abraham Daniels說(shuō):"DeepSeek已經(jīng)能夠在整個(gè)社區(qū)推廣一些相當(dāng)強(qiáng)大的模型。DeepSeek真的有可能加速人工智能的民主化。"DeepSeek-R1在Hugging Face 上提供,根據(jù)MIT 許可證,允許不受限制地用于商業(yè)用途。

去年夏天,中國(guó)公司快手(Kuaishou)發(fā)布了一款視頻生成工具,它與OpenAI 的索拉(Sora)類(lèi)似,但公眾可以直接使用。Sora于去年2 月亮相,但直到12 月才正式發(fā)布,即便如此,也只有訂閱了ChatGPT Pro 的用戶(hù)才能使用其全部功能。Hugging Face 上的開(kāi)發(fā)者還搶購(gòu)了中國(guó)科技巨頭騰訊和阿里巴巴的新開(kāi)源模式。雖然Meta 已將其Llama 模型開(kāi)源,但OpenAI 和谷歌在模型開(kāi)發(fā)方面都主要采用閉源方式。

除了開(kāi)源帶來(lái)的好處外,DeepSeek 工程師在訓(xùn)練系統(tǒng)時(shí)使用的英偉達(dá)(NVIDIA)高度專(zhuān)業(yè)化芯片也僅為美國(guó)競(jìng)爭(zhēng)對(duì)手的一小部分。例如,DeepSeek 工程師在發(fā)布DeepSeek-V3 模型時(shí)發(fā)表的研究論文稱(chēng),他們只需要2000 個(gè)GPU(圖形處理單元)或芯片就能訓(xùn)練出他們的模型。

推理模型

IBM院士(IBMFellow)Kush Varshney說(shuō):"真正令人印象深刻的是DeepSeek模型的推理能力。"推理模型本質(zhì)上是自我驗(yàn)證或檢查,代表了一種"元認(rèn)知"或 "關(guān)于思考的思考"。"我們正開(kāi)始將智慧融入到這些模型中,這是巨大的進(jìn)步," Varshney 說(shuō)。

去年9 月,當(dāng)OpenAI 預(yù)覽其o1 推理模型時(shí),推理模型成為熱門(mén)話(huà)題。與以往只給出答案而不解釋推理過(guò)程的人工智能模型不同,它通過(guò)將復(fù)雜問(wèn)題分成幾個(gè)步驟來(lái)解決。推理模型可能需要多花幾秒或幾分鐘來(lái)回答問(wèn)題,因?yàn)樗鼈儠?huì)一步一步或以"思維鏈"的方式來(lái)反思自己的分析。

強(qiáng)化學(xué)習(xí)

DeepSeek-R1將思維鏈推理與強(qiáng)化學(xué)習(xí)相結(jié)合,在強(qiáng)化學(xué)習(xí)中,自主智能體在沒(méi)有人類(lèi)用戶(hù)任何指令的情況下,通過(guò)反復(fù)試錯(cuò)學(xué)會(huì)執(zhí)行任務(wù)。強(qiáng)化學(xué)習(xí)有別于更常用的學(xué)習(xí)形式,如監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí),前者使用人工標(biāo)注的數(shù)據(jù)進(jìn)行預(yù)測(cè)或分類(lèi),后者旨在從無(wú)標(biāo)注的數(shù)據(jù)中發(fā)現(xiàn)和學(xué)習(xí)隱藏的模式。

DeepSeek-R1 質(zhì)疑了這樣一種假設(shè),即通過(guò)對(duì)正確或錯(cuò)誤行為的標(biāo)記示例進(jìn)行訓(xùn)練,或者從隱藏模式中提取信息,模型的推理能力就會(huì)得到提高。密歇根州立大學(xué)博士生張逸驊撰寫(xiě)了數(shù)十篇機(jī)器學(xué)習(xí)方面的論文,他說(shuō):"它的核心假設(shè)很簡(jiǎn)約,卻不那么簡(jiǎn)單:我們能否只通過(guò)獎(jiǎng)勵(lì)信號(hào)來(lái)教會(huì)模型正確回答,從而讓它自己摸索出最優(yōu)的思考方式?"

張逸驊說(shuō),對(duì)于他和像他一樣習(xí)慣了傳統(tǒng)監(jiān)督微調(diào)的專(zhuān)家而言,"眼見(jiàn)DeepSeek這樣的大型語(yǔ)言模型僅靠強(qiáng)化學(xué)習(xí)獎(jiǎng)勵(lì)就能學(xué)會(huì)‘更好地思考',著實(shí)令人驚艷",尤其是看到"模型出現(xiàn)真正的‘a(chǎn)ha(頓悟)時(shí)刻',它能后退一步,發(fā)現(xiàn)錯(cuò)誤并自我糾正"。

成本計(jì)算

DeepSeek 引發(fā)的熱議部分源于其低廉的價(jià)格。根據(jù)該公司發(fā)布的技術(shù)報(bào)告,在圣誕節(jié)當(dāng)天發(fā)布的DeepSeek-V3 的訓(xùn)練成本為550 萬(wàn)美元,而對(duì)于希望試用它的開(kāi)發(fā)人員來(lái)說(shuō),價(jià)格要便宜得多。IBM杰出工程師Chris Hay說(shuō):"他們?cè)谀P统杀痉矫嫠龅墓ぷ?,以及他們?xùn)練模型所花費(fèi)的時(shí)間,確實(shí)令人印象深刻。"

然而,IBM研究院Granite技術(shù)產(chǎn)品管理總監(jiān)Kate Soule表示,低廉的價(jià)格標(biāo)簽可能并不是故事的全部。她說(shuō),550 萬(wàn)美元的成本"只代表了所需計(jì)算量的一小部分"。她說(shuō),這還不包括公司即使采用開(kāi)源模型也要保持專(zhuān)有的成本細(xì)節(jié),比如"強(qiáng)化學(xué)習(xí)、數(shù)據(jù)消減和超參數(shù)搜索的計(jì)算成本"。

無(wú)可置疑的是,DeepSeek 通過(guò)使用專(zhuān)家混合(MoE)架構(gòu)實(shí)現(xiàn)了更高的成本效益,而這種架構(gòu)大大降低了訓(xùn)練所需的資源。MoE 架構(gòu)將人工智能模型劃分為不同的子網(wǎng)絡(luò)(或"專(zhuān)家"),每個(gè)子網(wǎng)絡(luò)專(zhuān)門(mén)處理輸入數(shù)據(jù)的一個(gè)子集。模型只激活特定任務(wù)所需的特定專(zhuān)家,而不是激活整個(gè)神經(jīng)網(wǎng)絡(luò)。因此,MoE 架構(gòu)大大降低了預(yù)訓(xùn)練期間的計(jì)算成本,并在推理期間實(shí)現(xiàn)了更快的性能。在過(guò)去一年中,包括法國(guó)領(lǐng)先的人工智能公司Mistral和IBM在內(nèi)的全球多家公司著力推廣了MoE 架構(gòu),并通過(guò)將MoE 與開(kāi)源相結(jié)合實(shí)現(xiàn)了更高的效率。(例如,IBM在2024年Think大會(huì)宣布與紅帽一起推出InstructLab,一個(gè)推動(dòng)大模型開(kāi)源創(chuàng)新的革命性大模型對(duì)齊方法。)

就 IBM 的一系列開(kāi)源Granite模型(采用MoE 架構(gòu)開(kāi)發(fā))而言,企業(yè)能夠以極低的成本實(shí)現(xiàn)前沿模型的性能,因?yàn)樗麄兛梢葬槍?duì)特定應(yīng)用或用例調(diào)整大型預(yù)訓(xùn)練模型,從而有效創(chuàng)建更小的適用模型。將強(qiáng)大的功能集成到更小的稠密模型上,意味著這些模型可用于智能手機(jī)和其他在邊緣運(yùn)行的移動(dòng)設(shè)備,如汽車(chē)計(jì)算機(jī)或工廠(chǎng)車(chē)間的智能傳感器。

這種采用較大模型并將其蒸餾成資源密集度較低的較小模型的過(guò)程也為DeepSeek 的成功做出了貢獻(xiàn)。在發(fā)布其標(biāo)志性的 R1 模型的同時(shí),這家中國(guó)初創(chuàng)公司還發(fā)布了一系列更小的適合不同用途的模型。有趣的是,他們用實(shí)踐證明,與一開(kāi)始就對(duì)小型模型進(jìn)行強(qiáng)化學(xué)習(xí)相比,將大型模型蒸餾成小型模型的推理效果更好。

全球性的人工智能洗牌?

隨著這些新模型在某些基準(zhǔn)測(cè)試中與老一代競(jìng)爭(zhēng)對(duì)手相抗衡或超越它們時(shí),它們將如何影響全球人工智能格局?El Maghraoui說(shuō):"全球人工智能格局不只關(guān)乎基準(zhǔn)測(cè)試的原始性能,更關(guān)系到是否能以安全和道德的方式對(duì)這些模型進(jìn)行端到端的整合。" 因此,El Maghraoui 表示,現(xiàn)在判斷DeepSeek-R1 及其他產(chǎn)品是否會(huì)"改變?nèi)祟?lèi)互動(dòng)、技術(shù)和企業(yè)應(yīng)用",還為時(shí)尚早。

最終,"開(kāi)發(fā)人員的采用率將決定DeepSeek 模型的受歡迎程度,"Daniels說(shuō)。他表示期待"看到他們?yōu)槟P桶l(fā)掘出的各種用例"。

在IBM院士Kush Varshney看來(lái),全球AI競(jìng)賽中的地緣政治差異,可能沒(méi)有人們想象的那么重要,他說(shuō):"一旦模型開(kāi)源,它源自何處在很多方面就不再重要了。"

即刻開(kāi)始在IBM watsonx.ai上使用DeepSeek——通過(guò)本教程,了解如何使用watsonx.ai以安全的方式部署DeepSeek-R1的精餾變體進(jìn)行推理。



審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39944

    瀏覽量

    301570
  • 模型
    +關(guān)注

    關(guān)注

    1

    文章

    3758

    瀏覽量

    52131
  • DeepSeek
    +關(guān)注

    關(guān)注

    2

    文章

    836

    瀏覽量

    3287
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    模型 ai coding 比較

    框架:llm-coding-bench v1.0 統(tǒng)一代碼執(zhí)行超時(shí):10秒 統(tǒng)一隨機(jī)種子:42 統(tǒng)一裁判模型DeepSeek-Chat(第三方交叉驗(yàn)證) ? 綜合評(píng)分公式: scss 體驗(yàn)AI代碼
    發(fā)表于 02-19 13:43

    AI推理芯片需求爆發(fā),OpenAI欲尋求新合作伙伴

    電子發(fā)燒友網(wǎng)綜合報(bào)道,在人工智能迅猛發(fā)展的當(dāng)下,AI推理芯片需求正呈爆發(fā)式增長(zhǎng)。 ? AI推理,即支撐如ChatGPT這類(lèi)AI
    的頭像 發(fā)表于 02-03 17:15 ?2946次閱讀

    什么是AI模型推理能力

    NVIDIA 的數(shù)據(jù)工廠(chǎng)團(tuán)隊(duì)為 NVIDIA Cosmos Reason 等 AI 模型奠定了基礎(chǔ),該模型近日在 Hugging Face 的物理推理模型排行榜中位列榜首。
    的頭像 發(fā)表于 09-23 15:19 ?1297次閱讀

    速看!EASY-EAI教你離線(xiàn)部署Deepseek R1大模型

    1.Deepseek簡(jiǎn)介DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研發(fā)的推理模型。
    的頭像 發(fā)表于 07-25 15:22 ?1392次閱讀
    速看!EASY-EAI教你離線(xiàn)部署<b class='flag-5'>Deepseek</b> R1大<b class='flag-5'>模型</b>

    【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】+混合專(zhuān)家

    :路由專(zhuān)家) 這種創(chuàng)新讓AI推理過(guò)程更接近人類(lèi)思維,為解決復(fù)雜問(wèn)題提供了新的思路。 共享專(zhuān)家宛如一位知識(shí)淵博的通才,它始終參與模型的每一次運(yùn)算,就像一個(gè)穩(wěn)定的基石,為整個(gè)模型提供著通
    發(fā)表于 07-22 22:14

    【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】--全書(shū)概覽

    講解Deepseek的使用方法 第三章 深入剖析Deepseek-V3的模型架構(gòu)、訓(xùn)練框架、推理階段優(yōu)化、后
    發(fā)表于 07-21 00:04

    【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】第三章:探索 DeepSeek - V3 技術(shù)架構(gòu)的奧秘

    時(shí)間減少,數(shù)據(jù)處理更流暢。這讓我聯(lián)想到工業(yè)生產(chǎn)中的流水線(xiàn),AI 訓(xùn)練在此處借鑒類(lèi)似思路,通過(guò)優(yōu)化任務(wù)分配和流程,突破硬件限制,追求更高效率,體現(xiàn)了技術(shù)發(fā)展中持續(xù)優(yōu)化、突破瓶頸的智慧。 三、細(xì)粒度
    發(fā)表于 07-20 15:07

    【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】書(shū)籍介紹+第一章讀后心得

    剖析 DeepSeek-V3 的模型架構(gòu)、訓(xùn)練框架、推理階段優(yōu)化、后訓(xùn)練優(yōu)化等關(guān)鍵技術(shù)。從混合專(zhuān)家模型
    發(fā)表于 07-17 11:59

    信而泰×DeepSeekAI推理引擎驅(qū)動(dòng)網(wǎng)絡(luò)智能診斷邁向 “自愈”時(shí)代

    DeepSeek-R1:強(qiáng)大的AI推理引擎底座DeepSeek是由杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司開(kāi)發(fā)的新一代AI
    發(fā)表于 07-16 15:29

    【書(shū)籍評(píng)測(cè)活動(dòng)NO.62】一本書(shū)讀懂 DeepSeek 全家桶核心技術(shù):DeepSeek 核心技術(shù)揭秘

    MoE 訓(xùn)練中的通信瓶頸,實(shí)現(xiàn)了高效穩(wěn)定的訓(xùn)練。DeepSeek-V3 是業(yè)界率先使用 FP8 進(jìn)行混合精度訓(xùn)練的開(kāi)源
    發(fā)表于 06-09 14:38

    Deepseek海思SD3403邊緣計(jì)算AI產(chǎn)品系統(tǒng)

    訓(xùn)練樣本和訓(xùn)練 模型,具體商業(yè)價(jià)值和保密性,采用海思SD3403邊緣計(jì)算AI服務(wù)器+多路安防監(jiān)控IPC,讓差異化AI視頻系統(tǒng), 成本控制極
    發(fā)表于 04-28 11:05

    首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手

    應(yīng)用開(kāi)發(fā)不用“等平臺(tái)”,徹底釋放開(kāi)發(fā)效率和模型接入自由度。 自DeepSeek橫空出世以來(lái),這種更適合端側(cè)部署,回答效率更高效訓(xùn)練模式快速引爆了A
    發(fā)表于 04-13 19:52

    中科馭數(shù)高性能網(wǎng)卡產(chǎn)品 成就DeepSeek推理模型網(wǎng)絡(luò)底座

    2025年初,DeepSeek-V3與DeepSeek-R1推理模型的開(kāi)源引爆了AI社區(qū),這兩款產(chǎn)品作為通用千億級(jí)模型與專(zhuān)用
    的頭像 發(fā)表于 03-31 11:56 ?699次閱讀
    中科馭數(shù)高性能網(wǎng)卡產(chǎn)品 成就<b class='flag-5'>DeepSeek</b><b class='flag-5'>推理模型</b>網(wǎng)絡(luò)底座

    DeepSeek推動(dòng)AI算力需求:800G光模塊的關(guān)鍵作用

    的100G光模塊已無(wú)法滿(mǎn)足高效AI訓(xùn)練推理所需的大規(guī)模數(shù)據(jù)傳輸。為了應(yīng)對(duì)這一挑戰(zhàn),400G、800G乃至1.6T光模塊的出現(xiàn)成為行業(yè)必然趨勢(shì)。特別是隨著
    發(fā)表于 03-25 12:00

    【幸狐Omni3576邊緣計(jì)算套件試用體驗(yàn)】DeepSeek 部署及測(cè)試

    和強(qiáng)大的多場(chǎng)景適應(yīng)能力受到廣泛關(guān)注。業(yè)務(wù)范圍包括為用戶(hù)提供智能對(duì)話(huà)、推理、AI搜索、文件處理、翻譯、解題、創(chuàng)意寫(xiě)作、編程等多種服務(wù)。 最新發(fā)布的 DeepSeek R1 大型語(yǔ)言模型
    發(fā)表于 03-21 19:31