三星在2月27日發(fā)布了世界上第一款12層堆疊HBM3E 12H高帶寬存儲(chǔ)芯片，其容量做到驚人的36GB，帶寬更達(dá)到驚人的1280GB/s。相較于8層堆疊的HBM3產(chǎn)品，新款HBM3E 12H無論從容量還是帶寬上都有大幅提升，可極大助力AI（人工智能）的訓(xùn)練和推斷速度。

三星電子存儲(chǔ)產(chǎn)品規(guī)劃執(zhí)行副總裁Yongcheol Bae說，隨著AI行業(yè)對(duì)HBM的迫切需求，這就是他們研發(fā)新型HBM3E 12H產(chǎn)品的原因。

三星在技術(shù)上采用了最新的熱壓力傳導(dǎo)性膜（TC NCF）技術(shù)，成功維持了12層產(chǎn)品的高度與其前身8層HBM芯片保持一致，滿足了現(xiàn)有的HBM封裝要求。他預(yù)測(cè)，這種技術(shù)在未來會(huì)帶來更大的突破，尤其是在高層次堆疊方面，因?yàn)槿蚨荚跒榇祟^疼的薄晶圓翹曲問題提供解決之道。他強(qiáng)調(diào)，三星正在努力減少NCF材料的厚度，并且已經(jīng)實(shí)現(xiàn)了當(dāng)今市場(chǎng)上最小的芯片間隙（7微米），如此一來就可以消除分層空隙，且新技術(shù)的進(jìn)步提高了垂直密度超過20％。

另外，三星也表示，TC NCF技術(shù)還可以通過利用不同尺寸的凸塊在芯片之間改善HBM的熱性能。新的芯片鍵合策略中，小凸塊用于釋放信號(hào)處理區(qū)域，而大凸塊則應(yīng)用于需要降溫的地方。

據(jù)目前已知的消息，英偉達(dá)的H200旗艦AI芯片已經(jīng)選擇了HBM3E存儲(chǔ)，接下來的B100芯片同樣將使用該技術(shù)。全球三大存儲(chǔ)芯片制造商——三星、SK海力士以及美光都在大力投資HBM領(lǐng)域。

最后，三星稱，HBM3E 12H將會(huì)成為未來的首選解決方案，它可以大大地降低數(shù)據(jù)中心的總體成本（TCO）。性能方面，新產(chǎn)品比之前的HBM3 8H能讓AI訓(xùn)練速度提高約34%，適用于推理服務(wù)支持的用戶數(shù)量可增長(zhǎng)多達(dá)11.5倍以上。

據(jù)悉，三星已開始向客戶提供HBM3E 12H樣本，并預(yù)期將于今年上半年正式投入量產(chǎn)。