人工智能（AI）無(wú)疑是近幾年最火的技術(shù)。從開發(fā)到部署AI技術(shù)主要可分為兩大步驟，即AI訓(xùn)練和AI推理。

AI訓(xùn)練主要是為AI模型提供數(shù)據(jù)，使其掌握了解將要分析的數(shù)據(jù)類型所需的一切信息的過(guò)程；而AI推理則是通過(guò)經(jīng)過(guò)訓(xùn)練的AI模型運(yùn)行新的實(shí)時(shí)數(shù)據(jù)，從而作出預(yù)測(cè)并產(chǎn)生可執(zhí)行結(jié)果的過(guò)程。

在這兩個(gè)過(guò)程中，它們對(duì)于計(jì)算的需求不同，AI訓(xùn)練的計(jì)算周期長(zhǎng)，需要大量?jī)?yōu)質(zhì)數(shù)據(jù)，是一次性的投資。AI推理則是短時(shí)間的算力需求激增，需要快速、高效能的計(jì)算，是一個(gè)長(zhǎng)期投資。

尤其對(duì)于AI訓(xùn)練，隨著AI大模型的復(fù)雜度不斷提升，AI訓(xùn)練所需的數(shù)據(jù)也在持續(xù)增長(zhǎng)。根據(jù)OpenAI的數(shù)據(jù)，自2012年以來(lái)，最大規(guī)模的AI訓(xùn)練所使用的計(jì)算量以每年10倍的速度增長(zhǎng)。以O(shè)penAI的ChatGPT為例，2022年11月發(fā)布的GPT-3當(dāng)時(shí)使用了1750億個(gè)參數(shù)構(gòu)建，而到2023年3月發(fā)布的GPT-4時(shí)，使用的參數(shù)數(shù)量已經(jīng)超過(guò)1.5萬(wàn)億個(gè)。這一數(shù)據(jù)還在持續(xù)增長(zhǎng)中。

如此大規(guī)模的數(shù)據(jù)總量對(duì)于內(nèi)存提出了較高要求，如高帶寬、高容量、高性能等，傳統(tǒng)的內(nèi)存產(chǎn)品已經(jīng)無(wú)法滿足AI訓(xùn)練的需求。而HBM似乎是為AI訓(xùn)練量身定做的存儲(chǔ)器產(chǎn)品。

HBM（High Bandwidth Memory，高帶寬存儲(chǔ)器）最先是AMD和SK海力士發(fā)起的一種基于3D堆棧工藝的高性能DRAM，它包含了中介層、處理器以及內(nèi)存堆棧。這意味著HBM可以提供非常高的帶寬，而且還具有非常高的能效及低延遲。目前，HBM內(nèi)存已經(jīng)演進(jìn)了了幾代，最新一代為HBM3E，英偉達(dá)即將發(fā)布的H200將是首款提供HBM3E的GPU產(chǎn)品。

人工智能技術(shù)的發(fā)展也帶動(dòng)了HBM市場(chǎng)的不斷發(fā)展，在今年內(nèi)存市場(chǎng)普遍低迷的情況下，HBM需求井噴，未來(lái)幾年的增幅也將擴(kuò)大。據(jù)咨詢機(jī)構(gòu)TrendForce預(yù)測(cè)，2024年全球HBM的位元供給有望增長(zhǎng)105%。到2024年，HBM的市場(chǎng)規(guī)模有望達(dá)到89億美元，同比增長(zhǎng)127%，2025年預(yù)計(jì)將突破100億美元。

在此情況下，作為內(nèi)存控制器IP的主要提供商之一，Rambus也積極布局HBM內(nèi)存市場(chǎng)，近期推出了數(shù)據(jù)傳輸速率高達(dá)9.6Gb/s的HBM3內(nèi)存控制器IP，可幫助大幅提高AI性能。據(jù)Rambus接口IP產(chǎn)品管理和營(yíng)銷副總裁Joe Salvador先生介紹，Rambus的這一內(nèi)存控制器IP產(chǎn)品是經(jīng)過(guò)驗(yàn)證的，可支持所有HBM3產(chǎn)品，也包括最新的HBM3E內(nèi)存設(shè)備。

Rambus HBM3控制器模塊圖

Joe Salvador強(qiáng)調(diào)：“Rambus HBM3控制器不僅僅是一個(gè)獨(dú)立產(chǎn)品，我們還能提供一整套完整的經(jīng)過(guò)驗(yàn)證的解決方案，能夠和市面上目前比較常見的HBM3以及相關(guān)的內(nèi)存模組進(jìn)行匹配，如SK海力士、美光和三星的產(chǎn)品，我們都已經(jīng)完成了一整套的測(cè)試。另外，我們也經(jīng)過(guò)了第三方來(lái)自西門子Avery的驗(yàn)證IP，也可以完整地支持相應(yīng)的功能。”

目前，隨著AI技術(shù)的不斷發(fā)展，對(duì)于算力和內(nèi)存的需求也將不斷增長(zhǎng)。Rambus大中華區(qū)總經(jīng)理蘇雷先生表示：“AI技術(shù)發(fā)展面臨的挑戰(zhàn)將更多集中于存儲(chǔ)墻問(wèn)題，而算力的演進(jìn)將不會(huì)面臨太多的挑戰(zhàn)。目前的內(nèi)存和帶寬的發(fā)展還是太慢，無(wú)法跟上AI技術(shù)的發(fā)展腳步。作為存儲(chǔ)方面的專家，Rambus可以預(yù)見，伴隨著AI的新成長(zhǎng)和驅(qū)動(dòng)，我們會(huì)在這一輪的科技浪潮中發(fā)揮越來(lái)越重要的作用，助力AI的發(fā)展?！?/p>

另外，數(shù)據(jù)安全也是在AI技術(shù)發(fā)展中不可忽視的問(wèn)題。蘇雷表示：“我們也提供安全I(xiàn)P方面的全套方案，讓數(shù)據(jù)傳輸更快、更安全?！?/p>

AI時(shí)代的來(lái)臨，帶來(lái)了很多挑戰(zhàn)和機(jī)遇。而對(duì)于存儲(chǔ)器市場(chǎng)來(lái)說(shuō)，則是一次很好的發(fā)展機(jī)會(huì)。作為存儲(chǔ)行業(yè)的老兵，Rambus未來(lái)也大有可為。

審核編輯：劉清