電子發(fā)燒友網(wǎng)報道（文/周凱揚）隨著AI芯片逐漸成為半導(dǎo)體市場的香餑餑，與之相關(guān)的附屬產(chǎn)物也在不斷升值，被一并炒熱。就拿高帶寬內(nèi)存HBM來說，無論是英偉達(dá)的GPU芯片，還是初創(chuàng)公司打造的AI芯片，又或是大型CSP自研的服務(wù)器芯片，都開始引入HBM。

成為新時代另一主流的HBM

過去HBM主要用于AMD或英偉達(dá)的高端GPU產(chǎn)品中，這與成本息息相關(guān)，比如額外的硅中介層、更大的封裝等，增加的系統(tǒng)成本使得HBM只會出現(xiàn)在一些頂級消費級產(chǎn)品中，甚至兩者最終都在消費級產(chǎn)品上放棄了HBM，改用于數(shù)據(jù)中心這樣的企業(yè)級場景。

可隨著人工智能/機(jī)器學(xué)習(xí)的需求驅(qū)動這類產(chǎn)品用量增長，內(nèi)存墻的瓶頸開始顯現(xiàn)。我們不再缺超高性能的CPU，缺的反而是超高性能的GPU/AI加速器，以及更高帶寬的內(nèi)存，應(yīng)對大量低延時的數(shù)據(jù)移動。

所以HBM被認(rèn)為是AI/ML時代下的首選內(nèi)存，為某些算法提供了訓(xùn)練所需的最大帶寬，比如最近英偉達(dá)公布的第二代Grace Hopper Superchip，就分成了不同GPU內(nèi)存配置的版本，率先推出的是搭載96GB HBM3的版本，明年第二季度將推出搭載144GB HBM3e的版本。

HBM的市場供應(yīng)已經(jīng)發(fā)生變動

要說HBM的供應(yīng)商，主要是SK海力士、三星和美光。TrendForce通過當(dāng)下各大供應(yīng)商的生產(chǎn)計劃數(shù)據(jù)分析，內(nèi)存廠商正在提高其產(chǎn)能，比如擴(kuò)大TSV產(chǎn)線等。預(yù)計到2024年，HBM供應(yīng)將增加105%。其中SK海力士因為收獲了來自英偉達(dá)的大量訂單，所以尚且占據(jù)頭號交椅的位置。而在三星的奮起直追下，已經(jīng)拉近了與SK海力士的市占比距離。

三星作為存儲廠商和晶圓代工廠，既提供了HBM方案也提供了對應(yīng)的多HBM封裝方案，這種一站式的方案也收獲了更多的訂單。根據(jù)韓媒的報道，三星與可能會與英偉達(dá)在年末達(dá)成服務(wù)與供應(yīng)協(xié)議，為英偉達(dá)的H100以之后搭載HBM3的芯片提供HBM產(chǎn)能，

至于美光雖然也有HBM產(chǎn)品，但主要優(yōu)勢還是在傳統(tǒng)內(nèi)存上?？呻S著生成式AI一炮走紅之后，美光也開始決心在HBM產(chǎn)品上奮起直追。比如上個月底，美光就基于其先進(jìn)的1β工藝節(jié)點，發(fā)布了業(yè)界首個8-high 24GB HBM3第二代產(chǎn)品，帶寬可達(dá)1.2TB/s以上，并宣布已經(jīng)開始送樣。

美光也在通稿中專門提到了該HBM產(chǎn)品對于GPT-4等生成式AI應(yīng)用起到的助力，比如為AI推理提供更高的能效比，以及為運營者提供更優(yōu)的TCO解決方案。此外，美光已經(jīng)開始準(zhǔn)備12-high的36GB版本，并計劃于2024年第一季度送樣。

至于HBM的價格問題，鑒于目前主流芯片用的還是HBM2和HBM2e，且出貨量仍在增加，所以短期內(nèi)不會有太大的波動。不過，TrendForce預(yù)計隨著HBM3的推出，以及H100等基于HBM3設(shè)計的AI芯片逐漸面世，老一代HBM內(nèi)存的價格應(yīng)該會有所下跌，讓位給ASP價格更高但性價比依然有所提升的HBM3。

小結(jié)

盡管HBM以及后續(xù)迭代的版本解決了當(dāng)下AI計算的內(nèi)存墻問題，但內(nèi)存廠商們考慮到傳統(tǒng)內(nèi)存最近的庫存情況，明顯對于滿足客戶需求、擴(kuò)大市場份額以及避免產(chǎn)能過剩有了新的權(quán)衡，在產(chǎn)能擴(kuò)張的決策上也會更加謹(jǐn)慎。