91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

2024年,GPU還會維持天價嗎?

AI芯天下 ? 來源:AI芯天下 ? 2024-01-14 11:28 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

前言: 錯過了GPU,也就錯過了第四次工業(yè)革命的入場券? ChatGPT橫空出世,大模型風起云涌,在算力激增的背景下,英偉達的GPU100/H100成為“搶手貨”。 GPU成為新的王者

云廠商作為AI算力需求的主要承載方,一場由GPU主導的變革正在悄然興起,這場變革的突出表現(xiàn)在云廠商紛紛下場造芯,結(jié)合GPU的短缺、高昂成本、應對云服務更加智能化、自主化、靈活化和可擴展化的需求和廣闊前景。

微軟、Meta、Google、亞馬遜特斯拉以及國內(nèi)的阿里、百度、騰訊等都在投入更多資源研發(fā)AI芯片,甚至OpenAI都開始籌備芯片項目。

從時間節(jié)點來看,谷歌TPU v5e于2023年8月發(fā)布,成為人工智能硬件領(lǐng)域的強大力量,專為大型語言模型和生成式人工智能量身定制。

11月初,微軟也采取了類似的思路,首款人工智能芯片Maia 100問世。隨后亞馬遜宣布推出最新的Trainium2,其性能是其前一代的四倍,能源效率是其兩倍。

國內(nèi)華為、阿里、百度等云巨頭在自研AI芯片方面也在傾力押注,逐級迭代。

英偉達GPU全球貨源緊張

據(jù)Verified Market Research數(shù)據(jù)統(tǒng)計,2027年全球GPU市場規(guī)模有望達到1853.1億美元,年平均增速高達32.82%,千億級賽道風口已至。

據(jù)行業(yè)曝料,2023年第四季度,NVIDIA GPU供應量在全球范圍內(nèi)都被嚴格限制,導致全球市場都出現(xiàn)了明顯的供不應求。

在這種情況下,無論是歐美還是中國,廠商和銷售渠道都在拼命搶貨。

對于中國市場來說,情況更加不樂觀,尤其是1月份屬于季度末期,2月份又有春節(jié)假期。

因此,預計近期NVIDIA GPU和顯卡的供應量都會非常有限,不排除部分產(chǎn)品價格上漲。

至于NVIDIA為何會控制供應量,確切原因不得而知,猜測很大可能是優(yōu)先將產(chǎn)能供給加速計算卡所用的高性能GPU。

畢竟,計算GPU的利潤要比游戲GPU豐厚得多,尤其是眼下AI需求一浪高過一浪,而計算GPU規(guī)模龐大、技術(shù)復雜,對于產(chǎn)能的要求也更高。

2024年英偉達市場

在AIGC浪潮爆發(fā)下,英偉達可以說是2023年半導體市場最大贏家,該公司營收也躍居全球最大半導體公司。

據(jù)媒體猜測,GPT-4至少需要8192張H100芯片,以每小時2美元的價格,在約55天內(nèi)可以完成預訓練,成本約為1.5億元人民幣。

而且 ,ChatGPT所需要的AI芯片并不是固定的,而是逐次遞增。ChatGPT越聰明,背后的代價是所需算力越來越多。

據(jù)摩根士丹利預測,到了GPT-5大概需要使用2.5萬個GPU,約是GPT-4的三倍之多。

英偉達正在經(jīng)歷一場比“挖礦時代”更瘋狂的市場浪潮,一方面英偉達產(chǎn)能受限于臺積電、HBM、CoWos封裝等產(chǎn)能,H100的“嚴重缺貨問題”至少會持續(xù)到2024年底。

另一方面,巨大缺口也導致英偉達H100暴漲,有報道稱,英偉達的H100 AI加速卡的物料成本約為3000美元,而在年中售價已經(jīng)達到了3.5萬美元左右,甚至在eBay上賣出了超過4w美元的價格。

研究機構(gòu)Omdia披露,英偉達在2023年第二季度的H100出貨量為900噸。按照單片H100GPU的重量約為3千克,那么英偉達在二季度售出了約30萬片H100。

到了三季度,英偉達大約賣出了50萬臺H100和A100 GPU。每家能夠分到的GPU數(shù)量有限,Meta和微軟各自采購了15萬個H100GPU,谷歌、亞馬遜、甲骨文和騰訊則各采購了5萬片。

如此龐大的GPU需求量,導致基于H100的服務器需要36~52周的時間才能交付。按照英偉達官方的說法,2024年一季度之前的GPU芯片早已全部售罄。業(yè)內(nèi)預估,明年英偉達的出貨量將達到150萬-200萬顆。

735503ae-b210-11ee-8b88-92fbcf53809c.png

國產(chǎn)GPU2024年表現(xiàn)

國產(chǎn)GPU正迅速走過進入“從可用到好用”的迭代階段。華為海思、燧原科技、壁仞、天數(shù)智芯、沐曦、珠海芯動力、摩爾線程、海光等廠商在GPU產(chǎn)品、集群、生態(tài)和應用層面全面發(fā)力,表現(xiàn)可圈可點。

深存科技創(chuàng)始人&CEO袁靜豐總結(jié),2023年國產(chǎn)GPU廠商面對國內(nèi)市場,在更加務實地在做產(chǎn)品、建生態(tài)、推應用,在這些層面各家都有一定的優(yōu)勢,而準確定位是關(guān)鍵。

去年9月28日,燧原科技宣布完成D輪融資,總額為20 億元,超過15家機構(gòu)參與,成為AI芯片領(lǐng)域最大規(guī)模的融資事件之一。

摩爾線程首個全國產(chǎn)千卡千億模型訓練平臺——摩爾線程KUAE智算中心揭幕儀式舉辦,宣告國內(nèi)首個以國產(chǎn)全功能GPU為底座的大規(guī)模算力集群正式落地。

展望2024年,無論是禁運以及供應缺口等問題,國產(chǎn)GPU的機遇依舊“在線”。

結(jié)尾:

總而言之,2024年的GPU還充滿變數(shù)。

從市場的角度看,無論是當下多先進的技術(shù),到最后終將會越來越普世,就看在2024年如何進攻戰(zhàn)場了。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5194

    瀏覽量

    135432
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    2126

    瀏覽量

    36771
  • 摩爾線程
    +關(guān)注

    關(guān)注

    2

    文章

    279

    瀏覽量

    6450

原文標題:趨勢丨2024年,GPU還會維持天價嗎?

文章出處:【微信號:World_2078,微信公眾號:AI芯天下】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    又一家GPU廠商IPO!

    GPU芯片量產(chǎn)的公司,也是首家采用先進7nm工藝技術(shù)達成該等里程碑的公司。 ? 營收方面,天數(shù)智芯于2022、20232024及截至
    的頭像 發(fā)表于 12-20 07:35 ?1w次閱讀
    又一家<b class='flag-5'>GPU</b>廠商IPO!

    航盛電子榮獲廣汽豐田2024度品質(zhì)改善先鋒獎

    廣汽豐田2024度整體納入品質(zhì)提升顯著,經(jīng)過廣汽豐田評選審核,航盛憑借持續(xù)的質(zhì)量體系建設與卓越的質(zhì)量改善成果,榮獲廣汽豐田“2024度品質(zhì)改善先鋒”獎,這也是航盛連續(xù)兩
    的頭像 發(fā)表于 08-12 18:12 ?1567次閱讀

    aicube的n卡gpu索引該如何添加?

    請問有人知道aicube怎樣才能讀取n卡的gpu索引呢,我已經(jīng)安裝了cuda和cudnn,在全局的py里添加了torch,能夠調(diào)用gpu,當還是只能看到默認的gpu0,顯示不了gpu1
    發(fā)表于 07-25 08:18

    TLE9893最高可以維持多少電壓?

    TLE989x 數(shù)據(jù)表中提到 VS 引腳可以維持 40v 的負載轉(zhuǎn)儲 400mSec。 我們有以下問題: 1.根據(jù)標準 16750-2:2023,電壓可根據(jù)嚴重程度在 27V 至 35V 之間
    發(fā)表于 07-21 08:09

    Claroty-2024全球CPS安全狀況:中斷對業(yè)務的影響

    2024 全球 CPS 安全狀況: 中斷對業(yè)務的影響?網(wǎng)絡攻擊影響關(guān)鍵任務型基礎設施,分析其造成的財務損失和運營后果
    發(fā)表于 06-17 17:29 ?9次下載

    廣汽埃安2024年年度股東會順利召開

    近日,廣汽埃安新能源汽車股份有限公司2024年年度股東會在廣州順利召開,60家股東單位代表出席會議,會議回顧了廣汽埃安2024的經(jīng)營情況,并提出了2025
    的頭像 發(fā)表于 06-04 14:37 ?1051次閱讀

    光峰科技發(fā)布2024ESG報告

    近日,科創(chuàng)板首批上市企業(yè)光峰科技正式發(fā)布了2024ESG報告。報告全面且深入地展示了公司在環(huán)境、社會和公司治理三大核心領(lǐng)域的具體實踐與創(chuàng)新成果,并從科創(chuàng)企業(yè)的獨特視角,重點介紹了公司在AI融合與科技創(chuàng)新方面的突破進展。
    的頭像 發(fā)表于 05-09 11:41 ?1075次閱讀

    提升AI訓練性能:GPU資源優(yōu)化的12個實戰(zhàn)技巧

    在人工智能與機器學習技術(shù)迅速發(fā)展的背景下,GPU計算資源的高效利用已成為關(guān)鍵技術(shù)指標。優(yōu)化的GPU資源分配不僅能顯著提升模型訓練速度,還能實現(xiàn)計算成本的有效控制。根據(jù)AI基礎設施聯(lián)盟2024
    的頭像 發(fā)表于 05-06 11:17 ?1544次閱讀
    提升AI訓練性能:<b class='flag-5'>GPU</b>資源優(yōu)化的12個實戰(zhàn)技巧

    恩智浦發(fā)布2024企業(yè)可持續(xù)發(fā)展報告

    恩智浦《2024企業(yè)可持續(xù)發(fā)展報告》新鮮出爐,全面總結(jié)了2024恩智浦在可持續(xù)發(fā)展方面取得的進展和主要成就。
    的頭像 發(fā)表于 04-28 11:24 ?2691次閱讀

    華為2024營收8621億凈利潤626億 華為2024年年報完整版免費下載

    華為2024營收8621億凈利潤626億 華為2024年年報完整版免費下載
    的頭像 發(fā)表于 03-31 18:01 ?6572次閱讀
    華為<b class='flag-5'>2024</b><b class='flag-5'>年</b>營收8621億凈利潤626億  華為<b class='flag-5'>2024</b><b class='flag-5'>年年</b>報完整版免費下載

    可以手動構(gòu)建imx-gpu-viv嗎?

    使用 imx-gpu-viv-6.4.3.p4.2.aarch64.bin。 https://www.nxp.com/lgfiles/NMG/MAD/YOCTO//imx-gpu-viv-6.4.3.p4.2-aarch64.bin 我需要
    發(fā)表于 03-28 06:35

    商湯集團發(fā)布2024度業(yè)績

    近日,商湯集團發(fā)布截至202412月31日經(jīng)審核全年業(yè)績。
    的頭像 發(fā)表于 03-27 16:32 ?1124次閱讀

    富昌電子榮獲Diodes授予的“2024度亞洲最佳分銷商獎”

    中國上海–20253月13日–近日,全球知名的電子元器件授權(quán)代理商富昌電子(Future Electronics)榮獲Diodes 公司頒發(fā)的“2024度亞洲最佳分銷商獎(Asia Best
    發(fā)表于 03-18 09:29 ?492次閱讀
    富昌電子榮獲Diodes授予的“<b class='flag-5'>2024</b><b class='flag-5'>年</b>度亞洲最佳分銷商獎”

    砥礪創(chuàng)新 芯耀未來——武漢芯源半導體榮膺21ic電子網(wǎng)2024度“創(chuàng)新驅(qū)動獎”

    2024,芯途璀璨,創(chuàng)新不止。武漢芯源半導體有限公司(以下簡稱“武漢芯源半導體”)在21ic電子網(wǎng)主辦的2024度榮耀獎項評選中,憑借卓越的技術(shù)創(chuàng)新實力與行業(yè)貢獻,榮膺“年度創(chuàng)新驅(qū)
    發(fā)表于 03-13 14:21