91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大算力芯片里的HBM,你了解多少?

貞光科技 ? 2023-12-05 16:14 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

最近,隨著人工智能行業(yè)的高速崛起,大算力芯片業(yè)成為半導(dǎo)體行業(yè)為數(shù)不多的熱門領(lǐng)域

HBM (高寬帶內(nèi)存:High-bandwidth memory)作為大算力芯片里不可或缺的組成部分,也因此走入了行業(yè)內(nèi)外人士的視野

wKgaomVu29qAc42KAAT5uH-zMbE687.jpg

和傳統(tǒng)的GDDR相比,HBM不僅僅提供了更大的位數(shù)寬度,而且通過(guò)TSV和Interposer的連接方式,大幅降低了數(shù)據(jù)通訊上的能量損耗。這對(duì)于大算力芯片的性能效率提升是起到?jīng)Q定性作用的

如果GPU通過(guò)PCB板和傳統(tǒng)GDDR內(nèi)存交換數(shù)據(jù),那在高速運(yùn)算時(shí)其大多數(shù)的能耗都會(huì)消耗在數(shù)據(jù)通訊本身而非計(jì)算上。這對(duì)于能耗成本高企的AI模型訓(xùn)練來(lái)說(shuō)是幾乎不可接受的

而采用HBM以后,通訊相關(guān)的能耗可以成倍降低,甚至有可能把能耗占比降到20%,甚至更低。所以目前AI相關(guān)的算力芯片都幾乎采用了HBM的技術(shù)方案。HBM的市場(chǎng)也隨之爆發(fā)(見(jiàn)下圖)

wKgZomVu29mAMxEIAAVMovWcDV8129.jpg

我趁這個(gè)熱度,也收集了不少資料好好學(xué)習(xí)了一下HBM相關(guān)的知識(shí)

HBM到目前為止基本發(fā)展了四代:

第一代和第二代的技術(shù)規(guī)范標(biāo)準(zhǔn)被定義在了JEDEC的JESD235里,后更新為JESD235A。HBM2相對(duì)于HBM1的區(qū)別是通道模式由原來(lái)的Legacy變成了Pseudo Channel:用兩個(gè)虛擬的64位通道等效成一個(gè)128位通道

后來(lái)在JESD235C和JESD235D里定義了HBM2E,較大幅度地提升了數(shù)據(jù)通訊能力等參數(shù)。行業(yè)里習(xí)慣把這個(gè)稱為第三代HBM

而JESD238開始定義的HBM3則被順延地稱為了第四代HBM。需要注意的是,這次JEDEC標(biāo)準(zhǔn)文檔的編號(hào)也從235改成了238

wKgaomVu29mAWxFzAAFhEZSBp8I183.jpg

和之前的版本相比,HBM3的最大變化是每個(gè)Stack的通道(Channel)數(shù)量從2個(gè)增加到了4個(gè),從而使得數(shù)據(jù)容量翻倍

后來(lái)在JEDEC的標(biāo)準(zhǔn)上,Micron、Hynix等制造商也分別推出了自己的增強(qiáng)型版本至于第五代的HBM4,目前JEDEC的標(biāo)準(zhǔn)還沒(méi)有正式推出。我在網(wǎng)上也只能找到一些簡(jiǎn)單的指標(biāo)數(shù)據(jù)作為參考

為了整理各個(gè)版本HBM的具體指標(biāo)參數(shù)和相關(guān)信息,我不僅下載了JEDEC的各個(gè)版本文檔,也參考不少其它的資料,然后收集整理了下面這個(gè)表格供大家參考?xì)g迎大家?guī)兔Υ_認(rèn),如果發(fā)現(xiàn)任何問(wèn)題,請(qǐng)和我溝通或者在公眾號(hào)給我留言,謝謝了

wKgaomVu29qAFf0aAAft7E7AVtY562.jpg

注:轉(zhuǎn)載至 半導(dǎo)體綜研 文中觀點(diǎn)僅供分享交流,不代表貞光科技立場(chǎng),如涉及版權(quán)等問(wèn)題,請(qǐng)您告知,我們將及時(shí)處理!

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    463

    文章

    54010

    瀏覽量

    465984
  • 半導(dǎo)體
    +關(guān)注

    關(guān)注

    339

    文章

    30735

    瀏覽量

    264069
  • HBM
    HBM
    +關(guān)注

    關(guān)注

    2

    文章

    431

    瀏覽量

    15831
  • 算力芯片
    +關(guān)注

    關(guān)注

    0

    文章

    58

    瀏覽量

    5171
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    “四合一”平臺(tái),芯片國(guó)產(chǎn)化率超九成,兼容8種國(guó)產(chǎn)AI芯片

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)4月11日消息,由中國(guó)移動(dòng)承建的全國(guó)首個(gè)“四合一”網(wǎng)絡(luò)調(diào)度平臺(tái)正式投入使用。四合一是指將通用
    的頭像 發(fā)表于 04-13 00:03 ?4003次閱讀

    “上天入海”之革命:“海風(fēng)直連”海底數(shù)據(jù)中心開啟綠色新紀(jì)元

    上海臨港外10公的海面上,風(fēng)機(jī)葉片在海風(fēng)中緩緩轉(zhuǎn)動(dòng),產(chǎn)生的電力沿著專用電纜直抵海底深處一個(gè)圓筒形艙體,艙內(nèi)數(shù)千臺(tái)服務(wù)器正為AI大模型運(yùn)行提供。2026年2月初,全球首個(gè)“海風(fēng)直連”海底
    的頭像 發(fā)表于 02-11 10:17 ?1716次閱讀
    “上天入?!敝?b class='flag-5'>算</b><b class='flag-5'>力</b>革命:“海風(fēng)直連”海底數(shù)據(jù)中心開啟綠色<b class='flag-5'>算</b><b class='flag-5'>力</b>新紀(jì)元

    云天勵(lì)飛正式舉辦大芯片戰(zhàn)略前瞻會(huì)

    2月3日,云天勵(lì)飛正式舉辦“大芯片戰(zhàn)略前瞻會(huì)”,首次對(duì)外公布未來(lái)三年的大 AI 推理芯片
    的頭像 發(fā)表于 02-06 17:23 ?3653次閱讀

    中國(guó)芯片的拐點(diǎn)時(shí)刻

    作者|Taylor出品|芯片技術(shù)與工藝當(dāng)OpenAI的GPT-5在得克薩斯州的機(jī)房中晝夜轟鳴,當(dāng)Nvdia的H200芯片被炒至數(shù)十萬(wàn)美元仍一卡難求,中國(guó)的
    的頭像 發(fā)表于 01-31 07:00 ?1667次閱讀
    中國(guó)<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>的拐點(diǎn)時(shí)刻

    HBM3E反常漲價(jià)20%,AI競(jìng)賽重塑存儲(chǔ)芯片市場(chǎng)格局

    明年HBM3E價(jià)格,漲幅接近20%。 ? 此次漲價(jià)背后,是AI需求爆發(fā)與供應(yīng)鏈瓶頸的共同作用。隨著英偉達(dá)H200、谷歌TPU、 亞馬遜Trainium 等AI芯片需求激增,
    的頭像 發(fā)表于 12-28 09:50 ?3005次閱讀

    AI大的存儲(chǔ)技術(shù), HBM 4E轉(zhuǎn)向定制化

    在積極配合這一客戶需求。從HMB4的加速量產(chǎn)、HBM4E演進(jìn)到邏輯裸芯片的定制化等HBM技術(shù)正在創(chuàng)新中發(fā)展。 ? HBM4 E的 基礎(chǔ)裸片 集成內(nèi)存控制器 ? 外媒報(bào)道,臺(tái)積電在近日的
    的頭像 發(fā)表于 11-30 00:31 ?8460次閱讀
    AI大<b class='flag-5'>算</b><b class='flag-5'>力</b>的存儲(chǔ)技術(shù), <b class='flag-5'>HBM</b> 4E轉(zhuǎn)向定制化

    湘軍,讓變成生產(chǎn)

    腦極體
    發(fā)布于 :2025年11月25日 22:56:58

    捷智重大更新|API接口全面開放,調(diào)用更高效

    人工調(diào)度太耗時(shí)?業(yè)務(wù)系統(tǒng)對(duì)接總卡殼?捷智重磅升級(jí)——租賃平臺(tái)API接口正式開放,讓
    的頭像 發(fā)表于 11-21 18:41 ?852次閱讀
    捷智<b class='flag-5'>算</b>重大更新|API接口全面開放,<b class='flag-5'>算</b><b class='flag-5'>力</b>調(diào)用更高效

    國(guó)產(chǎn)AI芯片真能扛住“內(nèi)卷”?海思昇騰的這波操作藏了多少細(xì)節(jié)?

    最近行業(yè)都在說(shuō)“是AI的命門”,但國(guó)產(chǎn)芯片真的能接住這波需求嗎? 前陣子接觸到海思昇騰910B,實(shí)測(cè)下來(lái)有點(diǎn)超出預(yù)期——7nm工藝下
    發(fā)表于 10-27 13:12

    不夠、交付太慢?捷智裸金屬租賃對(duì)標(biāo)物理機(jī)性能,讓立馬用上高

    2025年國(guó)產(chǎn)大模型升級(jí)帶動(dòng)租賃需求爆發(fā),高性能服務(wù)器“一機(jī)難求”。中研普華預(yù)測(cè),今年我國(guó)
    的頭像 發(fā)表于 09-12 20:06 ?1321次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>不夠、交付太慢?捷智<b class='flag-5'>算</b>裸金屬租賃對(duì)標(biāo)物理機(jī)性能,讓<b class='flag-5'>你</b>立馬用上高<b class='flag-5'>算</b><b class='flag-5'>力</b>!

    一文看懂AI集群

    最近這幾年,AI浪潮席卷全球,成為整個(gè)社會(huì)的關(guān)注焦點(diǎn)。大家在討論AI的時(shí)候,經(jīng)常會(huì)提到AI集群。AI的三要素,是、算法和數(shù)據(jù)。而AI
    的頭像 發(fā)表于 07-23 12:18 ?1606次閱讀
    一文看懂AI<b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    搭建中心,從了解的GPU 特性開始

    ABSTRACT摘要本文介紹如何搭建,并介紹A100、H100、H200和B200這些GPU的特性。JAEALOT2025年4月23日隨著人工智能、大數(shù)據(jù)和高性能計(jì)算(HPC)的快速發(fā)展,市場(chǎng)上
    的頭像 發(fā)表于 04-24 11:08 ?3363次閱讀
    搭建<b class='flag-5'>算</b><b class='flag-5'>力</b>中心,從<b class='flag-5'>了解</b>的GPU 特性開始

    芯片的生態(tài)突圍與革命

    電子發(fā)燒友網(wǎng)報(bào)道(文 / 李彎彎)大芯片,即具備強(qiáng)大計(jì)算能力的集成電路芯片,主要應(yīng)用于高性能計(jì)算(HPC)、人工智能(AI)、數(shù)據(jù)中心、自動(dòng)駕駛等需要海量數(shù)據(jù)并行計(jì)算的場(chǎng)景。隨著
    的頭像 發(fā)表于 04-13 00:02 ?3243次閱讀

    領(lǐng)域常用名詞解釋

    本文系統(tǒng)地整理和解釋了領(lǐng)域中常用的數(shù)十個(gè)關(guān)鍵名詞,并按照以下維度進(jìn)行了分類:基礎(chǔ)概念、系統(tǒng)架構(gòu)、硬件架構(gòu)、基礎(chǔ)運(yùn)算類型、計(jì)算模式、相關(guān)軟件架構(gòu)與部署模式、浮點(diǎn)精度格式、類型、
    的頭像 發(fā)表于 04-07 11:21 ?1527次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>領(lǐng)域常用名詞解釋