91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

AI計算需求激增,英偉達H100功耗成挑戰(zhàn)

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2023-12-28 09:29 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

伴隨著人工智能技術飛躍式的進步,對于計算機運算能力的需求同樣大幅提升。目前,英偉達公司的H100芯片銷售火爆。值得關注的是,單片H100芯片的峰值功率高達700瓦。隨著此類芯片的廣泛使用,預計到2024年末,其總體功耗將相當于甚至超越某些歐洲小型國家。

根據(jù)預測,若H100的年利用率保持在61%,那么單臺設備每年將耗電3740千瓦小時左右。如果英偉達在2023年售出150萬塊H100,2024年再增加至200萬塊,那么到2024年底,將有350萬塊H100芯片投入使用,其總年用電量將高達130.91億千瓦小時(13091.82GWh)。相對而言,一些國家的年平均發(fā)電水平,如格魯吉亞、立陶宛和危地馬拉,也是這個數(shù)量級。

盡管H100的電力消耗數(shù)字讓人瞠目結舌,但我們可以看到,AI以及高性能計算GPU的能效正逐步改善。英偉達下一代Blackwell架構的B100芯片不僅可能擁有超過H100的功耗,而且還能實現(xiàn)更高的性能表現(xiàn),從而在相同能耗下完成更多任務。

很明顯,隨著AI技術的持續(xù)發(fā)展,如何妥善處理算力與能耗之間的矛盾,成為了未來亟待解決的重大問題。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    463

    文章

    54017

    瀏覽量

    466321
  • 人工智能
    +關注

    關注

    1817

    文章

    50102

    瀏覽量

    265517
  • 英偉達
    +關注

    關注

    23

    文章

    4087

    瀏覽量

    99224
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    AI推理需求井噴!英偉Q1營收大漲,H20禁售難擋增長步伐

    電子發(fā)燒友原創(chuàng) 章鷹 在中美科技企業(yè)爭奪人工智能高地的競爭中,處于第一方陣的美國AI芯片公司英偉公司最新交出了讓市場滿意的答卷。 5月28日,英偉
    的頭像 發(fā)表于 05-31 01:13 ?8224次閱讀
    <b class='flag-5'>AI</b>推理<b class='flag-5'>需求</b>井噴!<b class='flag-5'>英偉</b><b class='flag-5'>達</b>Q1營收大漲,<b class='flag-5'>H</b>20禁售難擋增長步伐

    英偉電話會看Agentic AI推理與FPGA價值

    需求、低延遲。英偉明確判斷:Agentic AI 已達到實用拐點,算力已經(jīng)具備盈利性,推理延遲成為 AI 基礎設施的競爭焦點。
    的頭像 發(fā)表于 03-04 17:07 ?1067次閱讀
    從<b class='flag-5'>英偉</b><b class='flag-5'>達</b>電話會看Agentic <b class='flag-5'>AI</b>推理與FPGA價值

    英偉 Q3 狂攬 308 億

    英偉 2025 財年第三季度交出亮眼成績單,數(shù)據(jù)中心業(yè)務營收飆至 308 億美元,同比增長 112%,占總銷售額的 88%。這一爆發(fā)式增長,核心源于全球 AI 算力需求
    的頭像 發(fā)表于 11-20 18:11 ?1258次閱讀

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求挑戰(zhàn)

    的我我們講解了這幾種芯片的應用場景,設計流程、結構等。 CPU: 還為我們講解了一種算法:哈希表算法 GPU: 介紹了英偉H100GPU芯片。使用了一下關鍵技術: ①張量核
    發(fā)表于 09-12 16:07

    英偉 H100 GPU 掉卡?做好這五點,讓算力穩(wěn)如泰山!

    H100服務器停工一天損失的算力成本可能比維修費還高。今天,我們給大家總結一套“防掉卡秘籍”,從日常管理到環(huán)境把控,手把手教你把掉卡風險壓到最低。一、供電是“生命線”,這3點必須盯緊H100滿載功耗
    的頭像 發(fā)表于 09-05 11:03 ?1163次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b> <b class='flag-5'>H100</b> GPU 掉卡?做好這五點,讓算力穩(wěn)如泰山!

    英偉被傳暫停生產(chǎn)H20芯片 外交部回應

    韓國三星電子、美國安靠科技、富士康等關鍵零部件供應商。 據(jù)悉,美國安靠科技(Amkor)負責H20芯片的封裝,而三星電子負責提供高帶寬的內(nèi)存芯片。 業(yè)界人士分析稱,一方面英偉H20芯
    的頭像 發(fā)表于 08-22 15:58 ?2845次閱讀

    搞定英偉 H100 ECC 報錯:從原理到維修,一步到位解煩憂

    最近,捷智算GPU維修室收到了不少H100服務器需要維修,故障問題集中為ECC報錯。為了幫大家更好地認識和了解情況,下面就詳細分享一下ECC報錯系統(tǒng)化排查方法和維修流程。一、ECC報錯
    的頭像 發(fā)表于 08-14 18:05 ?2250次閱讀
    搞定<b class='flag-5'>英偉</b><b class='flag-5'>達</b> <b class='flag-5'>H100</b> ECC 報錯:從原理到維修,一步到位解煩憂

    H20中國區(qū)賣爆!英偉緊急向臺積電加訂30萬塊

    ,性能上相當于英偉另一款主流GPU芯片H100的20%左右。 ? 盡管如此,在美國解禁對H20芯片的出口后,需求仍然超出了想象。據(jù)路透社報
    的頭像 發(fā)表于 07-30 08:08 ?3318次閱讀

    AI服務器電源技術研討會部分演講嘉賓確認

    英偉Blackwell B100/B200或H100的機架)功率需求已從傳統(tǒng)服務器的800W提升至4kW甚至更高,部分機架總功率超過198
    的頭像 發(fā)表于 06-24 10:07 ?1174次閱讀
    <b class='flag-5'>AI</b>服務器電源技術研討會部分演講嘉賓確認

    總功率超198kW,AI服務器電源對元器件提出了哪些要求?

    芯片GB200功率到2700W,是傳統(tǒng)服務器電源的5-7倍,但其面臨的挑戰(zhàn)同樣不小。 超高功率需求與空間限制。 AI服務器(如搭載英偉Bl
    的頭像 發(fā)表于 06-17 10:36 ?1305次閱讀
    總功率超198kW,<b class='flag-5'>AI</b>服務器電源對元器件提出了哪些要求?

    GPU 維修干貨 | 英偉 GPU H100 常見故障有哪些?

    上漲,英偉H100GPU憑借其強大的算力,成為AI訓練、高性能計算領域的核心硬件。然而,隨著使用場景的復雜化,
    的頭像 發(fā)表于 05-05 09:03 ?3004次閱讀
    GPU 維修干貨 | <b class='flag-5'>英偉</b><b class='flag-5'>達</b> GPU <b class='flag-5'>H100</b> 常見故障有哪些?

    特朗普要叫停英偉對華特供版 英偉H20出口限制 或損失55億美元

    是“中國特供版”人工智能芯片;是英偉公司為符合美國出口規(guī)定專門為中國市場開發(fā)的定制芯片,H20芯片在訓練AI模型方面不如英偉
    的頭像 發(fā)表于 04-16 16:59 ?2097次閱讀

    英偉、高通布局AI投資版圖,這些明星企業(yè)被收入囊中!

    的模型并不會減少芯片的需求,相反,未來的計算需求只會增加,尤其是對計算基礎設施的需求。 英偉
    的頭像 發(fā)表于 03-25 09:22 ?2119次閱讀

    IBM攜手英偉AI數(shù)據(jù)平臺推動企業(yè)級AI創(chuàng)新

    近日,IBM(紐約證券交易所:IBM)宣布與英偉(納斯達克股票代碼:NVDA)開展全新合作,雙方將基于英偉 AI 數(shù)據(jù)平臺參考架構(re
    發(fā)表于 03-24 19:20 ?519次閱讀