曾幾何時，我們需要花費一個多小時才能下載一部電影。如今，最新的處理器能夠在一秒鐘內(nèi)處理相當(dāng)于160多部全高清電影的數(shù)據(jù)量。高帶寬內(nèi)存（HBM）是實現(xiàn)這一高效數(shù)據(jù)傳輸?shù)暮诵募夹g(shù)。雖然HBM在2013年首次亮相時曾面臨商用風(fēng)險評估，但是經(jīng)過幾年的發(fā)展和驗證，現(xiàn)已成為人工智能芯片的基本要素。各大芯片制造商，例如英偉達(dá)和AMD，均致力于推動此項尖端技術(shù)，以滿足他們?nèi)找嬖鲩L的處理能力及帶寬需求。

大量數(shù)據(jù)生成式人工智能應(yīng)用對傳統(tǒng)存儲芯片的性能產(chǎn)生了巨大挑戰(zhàn)。為了應(yīng)對這個問題，我們需要更快的數(shù)據(jù)傳輸速度和更高的處理效率，從而導(dǎo)致更密集的芯片布局以及更大的能耗輸出。一直以來，傳統(tǒng)安裝形式均是將芯片平放在同一平面上，然后利用電纜及保險絲進(jìn)行鏈接。這一方式會隨著芯片數(shù)量的增多而降低通信和功耗效率。而HBM改變了這一狀況，它將多個芯片沿垂直方向堆疊，同時利用尖端材料，包括比紙片還要纖小的微型電路板，將模塊匯聚成為立體形態(tài)。這一改進(jìn)對于人工智能芯片制造商來說極為重要，因為當(dāng)芯片間距減小，能耗亦隨之下降，HBM的能耗較之傳統(tǒng)方式低了約四分之三。此外，HBM還擁有高達(dá)五倍的帶寬優(yōu)勢，且占用空間小于現(xiàn)有產(chǎn)品的一半。

盡管如此，HBM的成本仍然較高，為常見內(nèi)存芯片的五倍以上。然而，由于HBM滿足了現(xiàn)代高性能人工智能芯片的特殊需求，因此此類集成了HBM的人工智能芯片也具有較高價值。與十年前相比，現(xiàn)在各大科技巨頭的芯片投資預(yù)算明顯增加。據(jù)TrendForce公司數(shù)據(jù)顯示，全球HBM市場中50%的份額由韓國SK海力士占有，余下市場則被三星和美光瓜分。這兩家公司分別生產(chǎn)了上一代以及即將面世的新款HBM芯片。

總的來說，在當(dāng)前市場環(huán)境下，只有SK海力士公司能夠大規(guī)模生產(chǎn)第三代HBM產(chǎn)品。據(jù)稱，該公司滿足了全球超過60%的客戶需求，而其他競爭者則主要面向市場生產(chǎn)上一代產(chǎn)品。盡管HBM目前尚存在成本較高等問題，但毫無疑問的是，隨著人工智能領(lǐng)域的不斷拓展以及數(shù)據(jù)中心規(guī)模的擴大，對于HBM的需求將會持續(xù)攀升。預(yù)測至2023年6月份，全球HBM需求將同比增加60%。

2024年，人工智能芯片大戰(zhàn)將進(jìn)一步推動這一增長。AMD剛剛推出了一款新產(chǎn)品，希望與英偉達(dá)抗衡。全球市場供不應(yīng)求，再加上人們對價格更低廉的英偉達(dá)產(chǎn)品需求旺盛，這意味著能夠提供規(guī)格相當(dāng)芯片的企業(yè)將有機會獲得豐厚的利潤。但是，撼動英偉達(dá)的關(guān)鍵不僅在于物理芯片本身，還在于其軟件生態(tài)系統(tǒng)，其中包括流行的開發(fā)工具和編程模型。要想復(fù)制這一點，需要數(shù)年時間。

這就是為什么硬件，以及每塊新芯片中的HBM數(shù)量，對英偉達(dá)的競爭者來說變得更加重要。通過使用升級的HBM來提高內(nèi)存容量，是短期內(nèi)獲得競爭力的少數(shù)方法之一。例如，AMD最新的MI300加速器使用了8個HBM，比英偉達(dá)產(chǎn)品的5或6個要多。

芯片歷來是一個周期性行業(yè)，容易出現(xiàn)劇烈的繁榮和蕭條。從目前的趨勢來看，新產(chǎn)品需求的持續(xù)增長應(yīng)該會使未來的衰退期不像過去那么動蕩。