91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

用國產(chǎn)通用GPU打造中國版ChatGPT的算力底座

Felix分析 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:吳子鵬 ? 2023-03-01 01:05 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)據(jù)國信證券統(tǒng)計(jì),ChatGPT今年1月的月活躍用戶超過1億,用戶過億只用了2至3個(gè)月,其速度遠(yuǎn)超過去的推特、海外版抖音等。ChatGPT爆火之后,如何打造中國版的ChatGPT成為熱門話題,并且與之相關(guān)的AIGC以及其他AI大模型應(yīng)用也都受到廣泛關(guān)注。

作為國內(nèi)頭部通用GPU高端芯片及超級算力系統(tǒng)提供商,天數(shù)智芯認(rèn)為,ChatGPT的推廣進(jìn)一步驗(yàn)證了人工智能給工作、生活帶來很大幫助,甚至不亞于工業(yè)革命的影響,可以親身體驗(yàn)到其帶來的效率上的提升。這種應(yīng)用是建立在巨大算力模型訓(xùn)練基礎(chǔ)上帶來的智能處理,因此也帶動了0座的需求。

確實(shí),隨著以ChatGPT為代表的AIGC應(yīng)用大火,背后大模型訓(xùn)練所需要的算力也隨之暴漲。統(tǒng)計(jì)數(shù)據(jù)顯示,ChatGPT的總算力消耗約為3640PF-days(即假如每秒計(jì)算一千萬億次,需要計(jì)算3640天),整體部署大約需要7-8個(gè)500P算力的數(shù)據(jù)中心。而根據(jù)微軟官網(wǎng)的消息,微軟Azure為OpenAI建設(shè)了一個(gè)單獨(dú)的超算中心,具有超過28.5萬個(gè)CPU核心、1萬個(gè)GPU和400 GB/s的GPU服務(wù)器網(wǎng)絡(luò)傳輸帶寬。

從成本上看,ChatGPT就像一個(gè)吞金獸。數(shù)據(jù)顯示,其運(yùn)行一次的費(fèi)用大概需要430萬美元。這主要是因?yàn)镃hatGPT背后的預(yù)訓(xùn)練大模型——GPT大模型的GPT-3.5版本是一個(gè)“龐然大物”。目前,GPT-3.5模型的參數(shù)規(guī)模已經(jīng)達(dá)1750億,原始數(shù)據(jù)規(guī)模達(dá)45TB。

天數(shù)智芯表示,目前大模型參數(shù)已經(jīng)突破千億,并有更高的要求,對于訓(xùn)練芯片的通用性及兼容性有更高的要求。訓(xùn)練芯片要能支持更多的算法及改進(jìn),而且由于算力需求的規(guī)模越來越大,甚至單個(gè)算力集群無法滿足,對于異構(gòu)算力、多集群協(xié)同等方面有更高的要求,進(jìn)而對于異構(gòu)算力上的兼容性就會有更高的要求。同時(shí),由于數(shù)據(jù)量的急劇提升,對于數(shù)據(jù)的隱私保護(hù)也會有所要求,對于隱私計(jì)算在訓(xùn)練芯片上的支持也會有要求。

從微軟對ChatGPT的介紹能夠看出,這套系統(tǒng)除了模型預(yù)訓(xùn)練和日常運(yùn)行,F(xiàn)inetune模型調(diào)優(yōu)也是關(guān)鍵一環(huán)。因此,確實(shí)如天數(shù)智芯所言,雖然ChatGPT目前的算力規(guī)模和運(yùn)行費(fèi)用很高,但是這些數(shù)字還會與日俱增。

隨著ChatGPT在全球范圍內(nèi)大火,目前國內(nèi)眾多科技巨頭也相繼宣布,將推出自己的類ChatGPT應(yīng)用。比如國內(nèi)的百度,根據(jù)百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏在一封名為“百度站在AI浪潮之巔”的內(nèi)部信中表示,百度即將在3月份推出新一代的大語言模型“文心一言”。這也是繼“文心一格”(AI作畫)、“文心百中”(產(chǎn)業(yè)搜索)之后,百度推出的又一大重磅的AI大模型應(yīng)用。

在中國版ChatGPT不斷涌現(xiàn)后,算力芯片作為供給端核心環(huán)節(jié)將率先受益,而其中又以擁有數(shù)量眾多的計(jì)算單元和超長的流水線的通用GPU需求最為迫切。天數(shù)智芯表示,大規(guī)模的普及應(yīng)用會對大模型算法有更高的要求,很多科研及企業(yè)也投入到大模型算法的研究中,對于算法模型會有優(yōu)化和改進(jìn),因此對于算力底座支持的通用性及擴(kuò)展性有很高要求,因此一定程度上會降低對于定制化AI芯片的需求,促進(jìn)通用GPU市場的發(fā)展。

天數(shù)智芯自2021年3月推出云端訓(xùn)練通用GPU產(chǎn)品--天垓100,并于2022年12月推出云端推理通用GPU產(chǎn)品--智鎧100,截止目前,天數(shù)智芯訂單規(guī)模就已經(jīng)突破5億元。目前,基于天垓100訓(xùn)練的模型種類超過了兩百種。天數(shù)智芯表示,公司在訓(xùn)練芯片上堅(jiān)持通用GPU架構(gòu)、主流生態(tài)兼容等發(fā)展路線,對于通用性、兼容性、安全性等方面都進(jìn)行了支持,可以為ChatGPT的發(fā)展提供有效安全的算力底座。

當(dāng)然,正如中信證券在研報(bào)中指出的,目前在通用GPU方面,國際廠商在高精度浮點(diǎn)計(jì)算及CUDA生態(tài)方面還手握核心的技術(shù)壁壘,***和方案在軟硬件方面都還有一定的差距。對此,天數(shù)智芯回應(yīng)稱,堅(jiān)持通用GPU發(fā)展的路線,全面覆蓋訓(xùn)練和推理兩條產(chǎn)品發(fā)展主線。結(jié)合行業(yè)解決方案為各行業(yè)、各產(chǎn)業(yè)發(fā)展提供完整成熟的軟硬件一體化方案。在未來的產(chǎn)品發(fā)展上,逐步縮小和國際先進(jìn)產(chǎn)品的差距,為國內(nèi)人工智能發(fā)展提供強(qiáng)有力的支持。

從中長期來看,ChatGPT的火爆以及中國版ChatGPT的陸續(xù)推出,對通用GPU有著巨大的需求。同時(shí),國內(nèi)AIGC市場將和信創(chuàng)市場出現(xiàn)疊加效應(yīng),讓天數(shù)智芯等相關(guān)廠商長期收益,并借此機(jī)會提升產(chǎn)品迭代的速度,逐漸達(dá)到國際領(lǐng)先水平。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5196

    瀏覽量

    135512
  • ChatGPT
    +關(guān)注

    關(guān)注

    31

    文章

    1598

    瀏覽量

    10282
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    英偉達(dá)失守中國區(qū)!推理需求爆發(fā),國產(chǎn)GPU搶灘上市

    億元。而在此前,另一家國產(chǎn)GPU公司摩爾線程已于9月26日率先過會。這兩大GPU企業(yè)接連沖刺IPO,背后是中國AI
    的頭像 發(fā)表于 10-22 09:09 ?8226次閱讀
    英偉達(dá)失守<b class='flag-5'>中國</b>區(qū)!推理需求爆發(fā),<b class='flag-5'>國產(chǎn)</b><b class='flag-5'>GPU</b>搶灘上市

    “四合一”平臺,芯片國產(chǎn)化率超九成,兼容8種國產(chǎn)AI芯片

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)4月11日消息,由中國移動承建的全國首個(gè)“四合一”網(wǎng)絡(luò)調(diào)度平臺正式投入使用。四合一是指將
    的頭像 發(fā)表于 04-13 00:03 ?4027次閱讀

    科大訊飛正式發(fā)布基于全國產(chǎn)訓(xùn)練的星火X2大模型

    這次面向關(guān)鍵行業(yè)落地的實(shí)用化升級,標(biāo)志著我國基于全國產(chǎn)訓(xùn)練的大模型底座在算法和工程創(chuàng)新方面邁入新階段。星火X2在實(shí)現(xiàn)通用能力全面升級的同
    的頭像 發(fā)表于 02-25 10:05 ?518次閱讀

    壁仞科技助力湖南移動國產(chǎn)資源池成功點(diǎn)亮

    12月15日,由湖南移動、壁仞科技、中興通訊三方聯(lián)合打造的湖南移動國產(chǎn)資源池全面建成并成功點(diǎn)亮。
    的頭像 發(fā)表于 12-25 09:57 ?385次閱讀

    湘軍,讓變成生產(chǎn)?

    腦極體
    發(fā)布于 :2025年11月25日 22:56:58

    國產(chǎn)AI芯片真能扛住“內(nèi)卷”?海思昇騰的這波操作藏了多少細(xì)節(jié)?

    最近行業(yè)都在說“是AI的命門”,但國產(chǎn)芯片真的能接住這波需求嗎? 前陣子接觸到海思昇騰910B,實(shí)測下來有點(diǎn)超出預(yù)期——7nm工藝下
    發(fā)表于 10-27 13:12

    首款全國產(chǎn)通用GPU芯片發(fā)布 沐曦集成推出曦云C600

    沐曦集成電路(南京)有限公司近日正式發(fā)布了首款全國產(chǎn)通用GPU——曦云C600,這標(biāo)志著國產(chǎn)高性能GPU實(shí)現(xiàn)歷史性突破。 據(jù)新華日報(bào)報(bào)道顯示
    的頭像 發(fā)表于 10-19 20:04 ?4.6w次閱讀

    昆侖芯科技亮相2025中國大會

    8月22日至24日,2025中國大會在山西大同舉辦,本屆大會以“網(wǎng)筑基 智引未來”為主題,聚焦
    的頭像 發(fā)表于 08-27 15:11 ?1854次閱讀

    摩爾線程副總裁王華:AI工廠全棧技術(shù)重構(gòu)基建,開啟國產(chǎn) GPU 黃金時(shí)代

    協(xié)同,重新定義了?AI?基礎(chǔ)設(shè)施的生產(chǎn)公式 ——AI?工廠生產(chǎn)效率?=?加速計(jì)算通用性 × 單芯片有效 × 單節(jié)點(diǎn)效率 × 集群效率 × 集群穩(wěn)定性。作為國內(nèi)率先實(shí)現(xiàn)單芯片集成?
    的頭像 發(fā)表于 08-02 14:21 ?5375次閱讀
    摩爾線程副總裁王華:AI工廠全棧技術(shù)重構(gòu)<b class='flag-5'>算</b><b class='flag-5'>力</b>基建,開啟<b class='flag-5'>國產(chǎn)</b> <b class='flag-5'>GPU</b> 黃金時(shí)代

    壁仞科技聯(lián)合三方打造國產(chǎn)集群落地

    近日,由浙江聯(lián)通、壁仞科技、中興通訊、優(yōu)云科技四方聯(lián)合打造國產(chǎn)集群,在浙江烏鎮(zhèn)智中心正式點(diǎn)亮。該集群項(xiàng)目的建成,不僅極大地豐富了浙江
    的頭像 發(fā)表于 08-01 15:26 ?1480次閱讀

    云XR(AR/VR)底座關(guān)鍵特征與技術(shù)路徑

    據(jù)處理,依托AIDC(人工智能數(shù)據(jù)中心)提供智能,2024年中國智能增速超65%。 邊緣節(jié)點(diǎn)?:通過本地化
    的頭像 發(fā)表于 06-19 08:10 ?740次閱讀
    云XR(AR/VR)<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>底座</b>關(guān)鍵特征與技術(shù)路徑

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】+NVlink技術(shù)從應(yīng)用到原理

    前言 【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」書中的芯片知識是比較接近當(dāng)前的頂尖芯片水平的,同時(shí)包含了芯片架構(gòu)的基礎(chǔ)知識,但該部分知識比較晦澀難懂,或許是由于我一直從事的事芯片
    發(fā)表于 06-18 19:31

    華為助力湖北移動打造“九州”互聯(lián)網(wǎng)區(qū)域標(biāo)桿

    數(shù)字經(jīng)濟(jì)時(shí)代,是關(guān)鍵新質(zhì)生產(chǎn)中國移動“九州”互聯(lián)網(wǎng)是促進(jìn)
    的頭像 發(fā)表于 05-13 16:11 ?877次閱讀

    點(diǎn)動科技戰(zhàn)略聚焦AI智,領(lǐng)航服務(wù)新征程

    Al智業(yè)務(wù)收入占比已突破40%,標(biāo)志著點(diǎn)動從傳統(tǒng)業(yè)務(wù)向智能化轉(zhuǎn)型的戰(zhàn)略跨越取得階段性勝利! 技術(shù)賦能構(gòu)建核心壁壘,全棧能力驅(qū)動行業(yè)智能化升級 在技術(shù)布局上,點(diǎn)動科技聚焦行業(yè)模型和Al應(yīng)用,以GPU
    的頭像 發(fā)表于 05-07 09:29 ?626次閱讀

    搭建中心,從了解的GPU 特性開始

    ABSTRACT摘要本文介紹如何搭建,并介紹A100、H100、H200和B200這些GPU的特性。JAEALOT2025年4月23日隨著人工智能、大數(shù)據(jù)和高性能計(jì)算(HPC)的快速發(fā)展,市場上
    的頭像 發(fā)表于 04-24 11:08 ?3395次閱讀
    搭建<b class='flag-5'>算</b><b class='flag-5'>力</b>中心,從了解的<b class='flag-5'>GPU</b> 特性開始