據(jù)說HBM3E DRAM 速度更快、容量更高、散熱更好且易于兼容。

早在 6 月，就有報(bào)道稱 SK 海力士已收到英偉達(dá)的下一代 HBM3E DRAM 樣品請(qǐng)求，當(dāng) 英偉達(dá)宣布其采用增強(qiáng)型 HBM3E DRAM 的 GH200 GPU（每芯片可提供高達(dá) 5 TB/s 的帶寬）時(shí)，這一請(qǐng)求成為現(xiàn)實(shí)。

SK海力士公司今天宣布成功開發(fā)出HBM3E，這是目前用于人工智能應(yīng)用的下一代最高規(guī)格DRAM，并表示客戶的樣品評(píng)估正在進(jìn)行中。

該公司表示，HBM3E（HBM3的擴(kuò)展版本）的成功開發(fā)得益于其作為業(yè)界唯一的HBM3大規(guī)模供應(yīng)商的經(jīng)驗(yàn)。憑借作為業(yè)界最大HBM產(chǎn)品供應(yīng)商的經(jīng)驗(yàn)和量產(chǎn)準(zhǔn)備水平，SK海力士計(jì)劃在明年上半年量產(chǎn)HBM3E，鞏固其在AI內(nèi)存市場(chǎng)無與倫比的領(lǐng)導(dǎo)地位。

該公司表示，最新產(chǎn)品不僅滿足業(yè)界最高的速度標(biāo)準(zhǔn)（AI內(nèi)存產(chǎn)品的關(guān)鍵規(guī)格），而且所有類別都包括容量、散熱和用戶友好性。

在速度方面，HBM3E 每秒可處理高達(dá) 1.15 TB 的數(shù)據(jù)，相當(dāng)于每秒處理 230 多部 5GB 大小的全高清電影。

此外，該產(chǎn)品在最新產(chǎn)品上采用先進(jìn)質(zhì)量回流成型底部填充（MR-MUF）尖端技術(shù)，散熱性能提高了10%。它還提供向后兼容性，甚至可以在為 HBM3 準(zhǔn)備的系統(tǒng)上采用最新產(chǎn)品，而無需修改設(shè)計(jì)或結(jié)構(gòu)。

MR-MUF是指將芯片附著到電路上并在堆疊芯片時(shí)用液體材料填充芯片之間的空間而不是鋪設(shè)薄膜以提高效率和散熱的工藝。向后兼容性是無需修改設(shè)計(jì)即可實(shí)現(xiàn)新舊系統(tǒng)之間的互操作性的能力，特別是在信息技術(shù)和計(jì)算領(lǐng)域。具有向后兼容性的新型內(nèi)存產(chǎn)品允許繼續(xù)使用現(xiàn)有的 CPU 和 GPU，而無需修改設(shè)計(jì)。

英偉達(dá)Hyperscale和HPC部門副總裁伊恩·巴克（Ian Buck）表示：“英偉達(dá)為了最先進(jìn)加速計(jì)算解決方案(Accelerated Computing Solutions)所應(yīng)用的HBM，與SK海力士進(jìn)行了長期的合作。為展示新一代AI計(jì)算，期待兩家公司在HBM3E領(lǐng)域的持續(xù)合作?！?/p>

SK海力士DRAM商品企劃擔(dān)當(dāng)副社長柳成洙表示：“公司通過HBM3E，在AI技術(shù)發(fā)展的同時(shí)備受矚目的HBM市場(chǎng)中有效提升了產(chǎn)品陣容的完成度，并進(jìn)一步夯實(shí)了市場(chǎng)主導(dǎo)權(quán)。今后隨著高附加值產(chǎn)品HBM的供應(yīng)比重持續(xù)加大，經(jīng)營業(yè)績反彈趨勢(shì)也將隨之加速?！?/p>

根據(jù)TrendForce集邦咨詢調(diào)查顯示，為順應(yīng)AI加速器芯片需求演進(jìn)，各原廠計(jì)劃于2024年推出新產(chǎn)品HBM3E，預(yù)期HBM3與HBM3E將成為明年市場(chǎng)主流。HBM3E將由24Gb mono die堆棧，在8層(8Hi)的基礎(chǔ)下，單顆HBM3E容量將一口氣提升至24GB。除了英偉達(dá)外，Google與AWS正著手研發(fā)次世代自研AI加速芯片，將采用HBM3或HBM3E。

HBM3平均銷售單價(jià)高，2024年HBM整體營收將因此大幅提升。觀察HBM供需變化，2022年供給無虞，2023年受到AI需求突爆式增長導(dǎo)致客戶的預(yù)先加單，即便原廠擴(kuò)大產(chǎn)能但仍無法完全滿足客戶需求。展望2024年，TrendForce集邦咨詢認(rèn)為，基于各原廠積極擴(kuò)產(chǎn)的策略，HBM供需比（Sufficiency Ratio）有望獲改善，預(yù)估將從2023年的-2.4%，轉(zhuǎn)為0.6%。

8月8日，英偉達(dá)創(chuàng)始人兼CEO黃仁勛在計(jì)算機(jī)圖形年會(huì)SIGGRAPH上發(fā)布了HBM3E內(nèi)存新一代GH200 Grace Hopper超級(jí)芯片。這款芯片被黃仁勛稱為“加速計(jì)算和生成式AI時(shí)代的處理器”，旨在用于任何大型語言模型，以降低推理成本。

與今年5月發(fā)布的GH200不同，新一代GH200芯片搭載了全球首款HBM3E內(nèi)存，內(nèi)存容量和帶寬都有顯著提高，專為加速計(jì)算和生成式AI時(shí)代而設(shè)計(jì)。

新版GH200芯片平臺(tái)基于72核Grace CPU，配備480GB ECC LPDDR5X內(nèi)存以及GH100計(jì)算GPU。此外，它還搭配著141GB的HBM3E內(nèi)存，分為六個(gè)24GB的堆棧，并采用了6，144位的內(nèi)存接口。盡管實(shí)際上英偉達(dá)安裝了144GB的內(nèi)存，但可用的內(nèi)存容量為141GB。

借助全球最快的HBM3E內(nèi)存，這款芯片的內(nèi)存容量高達(dá)141GB，帶寬每秒可達(dá)到5TB。每個(gè)GPU的容量比英偉達(dá) H100 GPU多出1.7倍，帶寬比H100高1.55倍。

英偉達(dá)強(qiáng)調(diào)，新版GH200 Grace Hopper芯片使用了與原版相同的Grace CPU和GH100 GPU芯片，因此無需推出新的軟件版本或步進(jìn)。原版GH200和升級(jí)版GH200將共存于市場(chǎng)，后者將以更高的價(jià)格銷售，因?yàn)樗邆涓冗M(jìn)的內(nèi)存技術(shù)帶來的更高性能。

英偉達(dá)表示，新版GH200旨在處理世界上最復(fù)雜的生成式AI工作負(fù)載，包括大型語言模型、推薦系統(tǒng)和矢量數(shù)據(jù)庫，并將提供多種配置。