電子發(fā)燒友網(wǎng)報(bào)道（文 / 吳子鵬）當(dāng)?shù)貢r(shí)間 7 月 3 日，人工智能芯片龍頭英偉達(dá)股價(jià)表現(xiàn)亮眼，盤中一度漲超 2%，觸及 160.98 美元的歷史新高，市值隨之突破 3.92 萬億美元。雖然當(dāng)天未突破 4 萬億美元市值，但 3.92 萬億美元已是有史以來全球科技公司的最高市值。有分析人士認(rèn)為，英偉達(dá)必將正式加冕為歷史上市值最高的公司。

除了股市表現(xiàn)亮眼，英偉達(dá) GB300 服務(wù)器也傳來新消息。同樣在 7 月 3 日，美國 CoreWeave 公司在官網(wǎng)宣布，已收到市場上首個(gè)基于英偉達(dá)最新高端芯片的人工智能服務(wù)器系統(tǒng)。

隨后，戴爾公司專門發(fā)布新聞稿對此事進(jìn)行說明，英偉達(dá)公司也在社交媒體上確認(rèn)了這一事件。

AI 服務(wù)器發(fā)展的里程碑

據(jù)介紹，CoreWeave 此次部署的是基于 PowerEdge XE9712 服務(wù)器的戴爾集成機(jī)架可擴(kuò)展系統(tǒng)，因此戴爾公司在 GB300 服務(wù)器出貨方面拔得頭籌。

PowerEdge XE9712 服務(wù)器是戴爾公司基于 Nvidia GB300 NVL72、專門為推理任務(wù)設(shè)計(jì)的 AI 服務(wù)器，具備高效能、高密度加速技術(shù)，能提供 50 倍的 AI 推理輸出并提升 5 倍的吞吐量，適用于大規(guī)模 AI 部署的 LLM 訓(xùn)練和即時(shí)推論。戴爾公司總結(jié)了 PowerEdge XE9712 服務(wù)器的幾大優(yōu)勢：
·通過 NVIDIA GB300 NVL72 GPU，為 AI 部署提供高性能、高密度加速。
·采用液冷技術(shù)，實(shí)現(xiàn)節(jié)能運(yùn)行。
·具備實(shí)時(shí)萬億參數(shù) LLM 推理能力，增強(qiáng)大規(guī)模 AI 模型訓(xùn)練。

由此可見，PowerEdge XE9712 服務(wù)器包含三大關(guān)鍵技術(shù)：GB300 芯片、NVL72 系統(tǒng)和液冷技術(shù)。其中，GB300 芯片是英偉達(dá)于 2025 年 3 月 18 日 GTC 大會(huì)上發(fā)布的新一代 AI 芯片，基于 Blackwell Ultra 架構(gòu)，定位為高性能計(jì)算與 AI 推理的旗艦產(chǎn)品。作為前沿架構(gòu)，NVIDIA Blackwell 架構(gòu) GPU 擁有 2080 億個(gè)晶體管，采用專門定制的臺(tái)積電 4NP 工藝制造。所有 NVIDIA Blackwell 產(chǎn)品均采用雙倍光刻極限尺寸的裸片，通過 10TB/s 的片間互聯(lián)技術(shù)連接成一塊統(tǒng)一的 GPU。

NVIDIA NVLink 交換機(jī)芯片可在包含 72 個(gè) GPU 的 NVLink 域（NVL72）中實(shí)現(xiàn) 130TB/s 的 GPU 帶寬，并通過 NVIDIA SHARP?技術(shù)對 FP8 的支持，實(shí)現(xiàn) 4 倍于原來的帶寬效率。此外，NVIDIA NVLink 交換機(jī)芯片能以 1.8TB/s 的驚人互連速度為多服務(wù)器集群提供支持。采用 NVLink 的多服務(wù)器集群可在計(jì)算量增加時(shí)同步擴(kuò)展 GPU 通信，因此 NVL72 支持的 GPU 吞吐量是單個(gè) 8 卡 GPU 系統(tǒng)的 9 倍。GB300 NVL72 集成了 72 個(gè) Blackwell Ultra GPU 和 36 個(gè)基于 Arm Neoverse 架構(gòu)的 NVIDIA Grace CPU，理論算力可達(dá) 1 萬億次浮點(diǎn)運(yùn)算 / 秒。GB300 NVL72 還計(jì)劃在 DGX Cloud 上推出，將通過軟件、服務(wù)和 AI 專業(yè)知識(shí)優(yōu)化性能，以應(yīng)對不斷變化的工作負(fù)載。與英偉達(dá)上一代 Hopper 架構(gòu)相比，GB300 NVL72 的用戶響應(yīng)速度提升 10 倍，每瓦吞吐量提高 5 倍，推理模型的推理輸出增加 50 倍。

戴爾在介紹 PowerEdge 服務(wù)器時(shí)表示，其液冷服務(wù)器采用創(chuàng)新的直接芯片冷卻技術(shù)，最多可支持 192 個(gè) Nvidia Blackwell Ultra GPU。

除 PowerEdge XE9712 服務(wù)器外，戴爾與英偉達(dá)的合作還涵蓋風(fēng)冷 PowerEdge XE9780 和 XE9785 服務(wù)器，以及液冷版本的 XE9780L 和 XE9785L 服務(wù)器。分析人士認(rèn)為，首發(fā)設(shè)備交付給 CoreWeave 這一情況，凸顯出英偉達(dá)愈發(fā)專注于向企業(yè)出租強(qiáng)大計(jì)算能力的戰(zhàn)略，這些企業(yè)需要高性能的英偉達(dá)芯片來訓(xùn)練和運(yùn)行 AI 軟件。

綜上，GB300 服務(wù)器出貨具有諸多重要意義，是 AI 服務(wù)器行業(yè)發(fā)展的里程碑事件。作為行業(yè)首款達(dá)到 ExaFLOPS 級(jí)別的算力設(shè)備，它將超算級(jí)算力帶入企業(yè)級(jí)應(yīng)用場景，重新定義了 AI 推理的效率標(biāo)準(zhǔn)，賦能代理式 AI 的工業(yè)化落地、物理模擬的實(shí)時(shí)化突破以及多模型推理的規(guī)?；瘏f(xié)同等核心場景。

GB200 放量，GB300 接班

去年 12 月，摩根士丹利（MS）在研究簡報(bào)中指出，供應(yīng)鏈調(diào)查顯示，銅纜連接器的問題已通過機(jī)柜重新設(shè)計(jì)解決，首批 GB200 已進(jìn)入最終測試階段，并于 12 月正常發(fā)貨。目前，各大服務(wù)器廠商多次提及 GB200 服務(wù)器已實(shí)現(xiàn)規(guī)?；帕?。以鴻海精密為例，根據(jù)該公司一季度財(cái)報(bào)，2025 年一季度其 AI 服務(wù)器收入占比提升至 50%，這主要得益于 3 月底 GB200 的大規(guī)模量產(chǎn)。管理層預(yù)計(jì)二季度 AI 服務(wù)器收入環(huán)比翻倍，全年目標(biāo)機(jī)柜出貨超 3 萬臺(tái)，其中 GB200/GB300 NVL72 約 1 萬臺(tái)。

據(jù)統(tǒng)計(jì)數(shù)據(jù)顯示，得益于 AIGC 技術(shù)的快速迭代，2024 年全球加大了對 AI 算力基礎(chǔ)設(shè)施的投資，全球服務(wù)器市場規(guī)模達(dá)到 2164.0 億美元。預(yù)計(jì) 2023-2028 年，該市場將以 18.8% 的年復(fù)合增長率保持高速增長，2028 年市場規(guī)模將達(dá) 3328.7 億美元，其中 AI 服務(wù)器將占據(jù)近 7 成市場份額。

從采購額來看，2024 年超大規(guī)模云服務(wù)提供商和企業(yè)客戶均在加大對 AI 服務(wù)器的資源投入，成為服務(wù)器市場增長的主力。美系四大 CSP 業(yè)者（Microsoft、Google、AWS、Meta）在全球需求中的占比分別達(dá) 20.2%、16.6%、16% 及 10.8%，合計(jì)超過 6 成，處于全球領(lǐng)先位置。而這些廠商均對英偉達(dá) GB200 服務(wù)器和 GB300 服務(wù)器有著濃厚興趣和廣泛需求。

TrendForce 集邦咨詢此前表示，目前供應(yīng)鏈對 NVIDIA GB200 寄予厚望，預(yù)估 2025 年其出貨量有望突破百萬顆，占 NVIDIA 高端 GPU 的近 4-5 成。在 GB200 服務(wù)器的客戶群中，微軟表現(xiàn)最為活躍。2024 年第四季度，微軟采購 GB200 服務(wù)器的訂單激增 3-4 倍，超過所有其他云服務(wù)商（CSP）的總和。此外，為全面提升 AI 工具的性能，微軟將 GB200 訂單從之前的 300-500 個(gè)機(jī)架增至約 1400-1500 個(gè)機(jī)架，其中約 70% 為 NVL72 型號(hào)。

GB300 預(yù)計(jì)將在第四季度開始真正放量。除戴爾外，其他服務(wù)器廠商也在抓緊推動(dòng) GB300 服務(wù)器出貨。廣達(dá)電腦資深副總暨云達(dá)總經(jīng)理?xiàng)铟枇畋硎?，GB300 目前按計(jì)劃推進(jìn)，正在測試并與客戶進(jìn)行驗(yàn)證，預(yù)計(jì) 9 月出貨。此前有傳聞稱，GB300 服務(wù)器可能會(huì)讓 GB200 服務(wù)器成為 “短命版” 旗艦級(jí)服務(wù)器，但從目前廠商的規(guī)劃來看，兩者之間的升級(jí)仍按部就班地進(jìn)行。

值得注意的是，GB300 服務(wù)器正式出貨后，將帶動(dòng) 1.6T 光模塊上量。GB300 的超級(jí)芯片集群設(shè)計(jì)對跨機(jī)柜數(shù)據(jù)傳輸提出嚴(yán)苛要求，因此跨機(jī)柜互聯(lián)需依賴 1.6T 光模塊實(shí)現(xiàn) TB 級(jí)數(shù)據(jù)傳輸。另外，1.6T 光模塊不僅傳輸速率較 800G 提升 2 倍，功耗也降低 40%，能適配 AI 訓(xùn)練與推理需求。有分析人士稱，GB300 服務(wù)器將加速 1.6T 光模塊的滲透率，2025 年全球需求或達(dá)百萬只級(jí)，頭部廠商正通過擴(kuò)產(chǎn)來應(yīng)對這一需求。

結(jié)語

GB300 服務(wù)器的正式出貨，不僅標(biāo)志著英偉達(dá)在 AI 算力領(lǐng)域的又一次突破，更掀開了全球 AI 基礎(chǔ)設(shè)施升級(jí)的新篇章。作為行業(yè)首款達(dá)到 ExaFLOPS 級(jí)別的企業(yè)級(jí)算力設(shè)備，GB300 NVL72 系統(tǒng)通過 72 顆 Blackwell Ultra GPU 與 36 顆 Grace CPU 的超大規(guī)模集成，將單機(jī)架算力推向 1 萬億次浮點(diǎn)運(yùn)算 / 秒的巔峰。