從 NVIDIA DGX Spark 到 NVIDIA BlueField-4 DPU，新一代網(wǎng)絡(luò)和量子技術(shù)實(shí)現(xiàn)了飛躍。在 SC25 上展示的加速系統(tǒng)突顯了全球超級(jí)計(jì)算和 AI 的進(jìn)展。

在 SC25 (全球超級(jí)計(jì)算大會(huì)) 上，NVIDIA 展示了在 NVIDIA BlueField DPU、新一代網(wǎng)絡(luò)、量子計(jì)算、科學(xué)研究、AI 物理等領(lǐng)域的進(jìn)展。加速系統(tǒng)正推動(dòng) AI 超級(jí)計(jì)算的新篇章。

作為加速吉瓦 (Gigascale – 十億瓦) 級(jí) AI 基礎(chǔ)設(shè)施的 BlueField 全棧平臺(tái)的一部分，NVIDIA 還重點(diǎn)介紹了 NVIDIA BlueField-4 DPU 帶來的存儲(chǔ)創(chuàng)新。

此外，還詳細(xì)介紹了 NVIDIA Quantum-X Photonics InfiniBand CPO 網(wǎng)絡(luò)交換機(jī)，此交換機(jī)如何助力 AI 工廠大幅降低能耗和運(yùn)營(yíng)成本，TACC、Lambda 和 CoreWeave 均計(jì)劃采用此交換機(jī)。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛驚喜現(xiàn)身 St. Louis 活動(dòng)現(xiàn)場(chǎng)，并向出席 SC25 的觀眾分享了 NVIDIA 最新的超級(jí)計(jì)算進(jìn)展。

“今年的重磅消息當(dāng)屬 Grace Blackwell 平臺(tái)，大家或許已經(jīng)關(guān)注到，我們第二代 Grace 平臺(tái)量產(chǎn)進(jìn)展十分順利，”黃仁勛說，“可以說，我們現(xiàn)在制造超級(jí)計(jì)算機(jī)就像生產(chǎn)口香糖一樣?！?/p>

黃仁勛還帶來了一份特別禮物，NVIDIA DGX Spark AI 超級(jí)計(jì)算機(jī)，這是迄今為止全球最小的超級(jí)計(jì)算機(jī)。

黃仁勛說：“這就是 DGX Spark。你們當(dāng)中有十位幸運(yùn)兒將贏得這臺(tái)設(shè)備。這要是放在圣誕樹下作為禮物，是不是很酷？”

上個(gè)月，NVIDIA 開始交付 DGX Spark。這款是迄今為止全球最小的 AI 超級(jí)計(jì)算機(jī)。DGX Spark 將每秒千萬億次的 AI 性能和 128GB 統(tǒng)一內(nèi)存集成于緊湊的臺(tái)式機(jī)外形中，使開發(fā)者能夠在多達(dá) 2000 億個(gè)參數(shù)的模型上運(yùn)行推理，并在本地對(duì)模型進(jìn)行微調(diào)。DGX Spark 基于 Grace Blackwell 架構(gòu)打造，集成了 NVIDIA GPU、CPU、網(wǎng)絡(luò)、CUDA 庫(kù)和完整的 NVIDIA AI 軟件堆棧。

DGX Spark 的統(tǒng)一內(nèi)存和 NVIDIA NVLink-C2C 互連提供了是 PCIe Gen5 的 5 倍帶寬，可實(shí)現(xiàn)更快的 GPU-CPU 數(shù)據(jù)交換。這提高了大型模型的訓(xùn)練效率，降低了延遲，并支持無縫微調(diào)工作流程，所有這些都在桌面外形規(guī)格內(nèi)完成。

最新的 AI 物理開放模型系列 NVIDIA Apollo 正式發(fā)布

NVIDIA 在 SC25 上還推出了面向 AI 物理的開放模型系列NVIDIA Apollo。Applied Materials、Cadence、LAM Research、Luminary Cloud、KLA、PhysicsX、Rescale、西門子和 Synopsys 等行業(yè)領(lǐng)先企業(yè)正采用這些開放模型來模擬和加速電子設(shè)備自動(dòng)化和半導(dǎo)體、計(jì)算流體動(dòng)力學(xué)、結(jié)構(gòu)力學(xué)、電磁學(xué)、氣象等多個(gè)領(lǐng)域的設(shè)計(jì)流程。

該開放模型系列利用 AI 物理領(lǐng)域的最新成果，將神經(jīng)運(yùn)算符、Transformer 和擴(kuò)散技術(shù)等領(lǐng)先的機(jī)器學(xué)習(xí)架構(gòu)，與特定領(lǐng)域的知識(shí)相結(jié)合。Apollo 將提供用于訓(xùn)練、推理和基準(zhǔn)測(cè)試的預(yù)訓(xùn)練檢查點(diǎn)和參考工作流，使開發(fā)者根據(jù)其特定需求集成和自定義模型。

NVIDIA Warp 助力物理模擬

NVIDIA Warp是一個(gè)專門構(gòu)建的開源 Python 框架，可將計(jì)算物理和 AI 的 GPU 加速提升高達(dá) 245 倍。

NVIDIA Warp 為仿真、機(jī)器人和機(jī)器學(xué)習(xí)工作負(fù)載提供了一種結(jié)構(gòu)化方法，它結(jié)合了 Python 的易用性以及與原生 CUDA 代碼相當(dāng)?shù)男阅堋?/p>

Warp 支持創(chuàng)建 GPU 加速的 3D 仿真工作流，這些工作流可與 PyTorch、JAX、NVIDIA PhysicsNeMo 和 NVIDIA Omniverse 中的機(jī)器學(xué)習(xí)（ML）工作流集成。這使開發(fā)者無需離開 Python 編程環(huán)境，即可運(yùn)行復(fù)雜的仿真任務(wù)并大規(guī)模生成數(shù)據(jù)。

通過提供 CUDA 級(jí)性能和 Python 級(jí)生產(chǎn)力，Warp 簡(jiǎn)化了高性能仿真工作流的開發(fā)。它旨在通過降低 GPU 編程的門檻來加速 AI 研究和工程，使高級(jí)仿真和數(shù)據(jù)生成更高效、更易于使用。

西門子、Neural Concept、Luminary Cloud 等公司正在采用 NVIDIA Warp。

展示為 AI 工廠操作系統(tǒng)賦能 NVIDIA BlueField-4

在 GTC 華盛頓特區(qū)上亮相的 NVIDIA BlueField-4 DPU 正在為 AI 工廠操作系統(tǒng)賦能。通過卸載、加速和隔離網(wǎng)絡(luò)、存儲(chǔ)和安全等關(guān)鍵的數(shù)據(jù)中心功能，NVIDIA BlueField-4 DPU 可以釋放 CPU 和 GPU，使其完全專注于計(jì)算密集型工作負(fù)載。

NVIDIA BlueField-4集成了 64 核 NVIDIA Grace CPU 和NVIDIA ConnectX-9，大幅提升了性能效率和零信任安全性。它支持多租戶環(huán)境、快速數(shù)據(jù)訪問和實(shí)時(shí)保護(hù)，并通過原生集成的NVIDIA DOCA微服務(wù)實(shí)現(xiàn)可擴(kuò)展的容器化 AI 操作。這些技術(shù)共同推動(dòng)數(shù)據(jù)中心向智能的、軟件定義引擎轉(zhuǎn)型，助力構(gòu)建萬億級(jí)及更高級(jí)別 Token (詞元) 的 AI 應(yīng)用。

隨著 AI 工廠和超級(jí)計(jì)算中心的規(guī)模和功能不斷擴(kuò)展，需要更快、更智能的存儲(chǔ)基礎(chǔ)設(shè)施來管理結(jié)構(gòu)化、非結(jié)構(gòu)化和 AI 原生數(shù)據(jù)，以進(jìn)行大規(guī)模訓(xùn)練和推理。

領(lǐng)先的存儲(chǔ)創(chuàng)新企業(yè) (DDN、VAST Data 和 WEKA) 正在采用 BlueField-4 來重新定義 AI 和科學(xué)工作負(fù)載的性能和效率。

DDN正在構(gòu)建新一代 AI 工廠，加速數(shù)據(jù)流水線，以更大限度地提高處理 AI 和 HPC 工作負(fù)載的 GPU 利用率。

VAST Data正在通過跨大規(guī)模 AI 集群的智能數(shù)據(jù)傳輸和實(shí)時(shí)效率來推進(jìn) AI 流水線。

WEKA正在 BlueField-4 上推出 NeuralMesh 架構(gòu)，可直接在 DPU 上運(yùn)行存儲(chǔ)服務(wù)，以簡(jiǎn)化和加速 AI 基礎(chǔ)設(shè)施。

這些高性能計(jì)算存儲(chǔ)領(lǐng)域的領(lǐng)先企業(yè)共同展示了 NVIDIA BlueField-4 如何改變數(shù)據(jù)傳輸和管理，將存儲(chǔ)轉(zhuǎn)變?yōu)橄乱淮?jí)計(jì)算和 AI 基礎(chǔ)設(shè)施的性能加速器。

NVIDIA CPO (光電一體化封裝) 技術(shù)，提高速度和可靠性

TACC、Lambda 和 CoreWeave 宣布將于明年初在新一代系統(tǒng)中采用 NVIDIA Quantum-X Photonics CPO 交換機(jī)。

NVIDIA Quantum-X Photonics 網(wǎng)絡(luò)交換機(jī)能夠大幅降低 AI 工廠和超級(jí)計(jì)算中心的能耗和運(yùn)營(yíng)成本。NVIDIA 已經(jīng)實(shí)現(xiàn)了融合電路和光通信一體的大規(guī)模部署。

隨著 AI 工廠發(fā)展到前所未有的規(guī)模，網(wǎng)絡(luò)必須與時(shí)俱進(jìn)。通過取消傳統(tǒng)插拔式光模塊這一導(dǎo)致工作運(yùn)行故障的常見原因，NVIDIA Photonics 交換機(jī)系統(tǒng)不僅將能效提高了 3.5 倍，而且可靠性提高了 10 倍，使應(yīng)用能夠在不中斷的情況下運(yùn)行時(shí)間延長(zhǎng) 5 倍。

在硅谷舉辦的 GTC 2024 上，NVIDIA 推出了 NVIDIA Quantum-X800 InfiniBand 交換機(jī)，專為支持萬億級(jí)參數(shù)的生成式 AI 模型而打造。得益于 SHARPv4 和 FP8 等創(chuàng)新技術(shù)，這些平臺(tái)可提供驚人的 800Gb/s 端到端吞吐量，其帶寬是上一代產(chǎn)品的 2 倍，網(wǎng)絡(luò)計(jì)算能力是前代產(chǎn)品的 9 倍。

隨著 NVIDIA Quantum-X800 在大規(guī)模 AI 場(chǎng)景下的廣泛采用，今年早些時(shí)候在 GTC 上宣布推出的 NVIDIA Quantum-X Photonics 解決了更大規(guī)模部署中面臨的關(guān)鍵功率、可靠性和信號(hào)完整性的挑戰(zhàn)。通過將光引擎直接集成到交換機(jī)上，它可以消除插拔式光模塊帶來的故障和鏈路閃斷等問題，使工作負(fù)載能夠不間斷地大規(guī)模運(yùn)行，并確?；A(chǔ)設(shè)施能夠支持新一代計(jì)算密集型應(yīng)用，可靠性相比插拔式光模塊高 5 倍。

Lambda 云基礎(chǔ)設(shè)施產(chǎn)品經(jīng)理 Maxx Garrison 表示：“NVIDIA Quantum-X Photonics 代表了構(gòu)建高性能、高可靠 AI 網(wǎng)絡(luò)的趨勢(shì)。這些在能效、信號(hào)完整性和可靠性方面的進(jìn)步將成為支撐客戶高效、大規(guī)模工作負(fù)載的關(guān)鍵?！?/p>

SHARPv4 支持網(wǎng)絡(luò)內(nèi)聚合和歸約，大幅減少了 GPU 到 GPU 的通信。SHARPv4 與 FP8 精度相結(jié)合，可以降低對(duì)通信帶寬和計(jì)算的需求，加速萬億級(jí)參數(shù)模型的訓(xùn)練，實(shí)現(xiàn)更快的收斂和更高的吞吐量，是 NVIDIA Quantum-X800 和 Quantum-X Photonics 交換機(jī)的標(biāo)配。

CoreWeave 聯(lián)合創(chuàng)始人兼首席技術(shù)官 Peter Salanki 表示：“CoreWeave 正在構(gòu)建面向 AI 的 Essential Cloud。借助 NVIDIA Quantum-X Photonics，可以提高能效，并進(jìn)一步增強(qiáng) CoreWeave 在支持大規(guī)模 AI 工作負(fù)載方面廣受認(rèn)可的高可靠性，來幫助我們的客戶充分發(fā)揮下一代 AI 的潛力。”

NVIDIA Quantum-X Photonics 平臺(tái)包括 NVIDIA Quantum Q3450 CPO InfiniBand 交換機(jī)和 ConnectX-8 SuperNIC，專為需要顯著降低功耗、提高可靠性和降低延遲的高性能環(huán)境而設(shè)計(jì)。

全球超級(jí)計(jì)算中心采用 NVQLink

全球十余個(gè)頂尖科學(xué)計(jì)算中心正在采用NVQLink，這是一種連接加速計(jì)算和量子處理器的通用互連技術(shù)。

NVIDIA 加速計(jì)算業(yè)務(wù)副總裁兼總經(jīng)理 Ian Buck 表示：“在 SC 上，我們宣布正在與全球各地的超級(jí)計(jì)算中心合作。這些中心致力于構(gòu)建新一代量子 GPU、CPU GPU 超級(jí)計(jì)算機(jī)，以及如何將它們連接到其特定研究領(lǐng)域或量子計(jì)算部署平臺(tái)?！?/p>

NVQLink 可將量子處理器與 NVIDIA GPU 相連接，從而實(shí)現(xiàn)由 CUDA-Q 軟件平臺(tái)提供支持的大規(guī)模工作流。NVQLink 的開放式架構(gòu)為全球超級(jí)計(jì)算中心整合各類量子處理器提供了關(guān)鍵紐帶，同時(shí)在 FP4 精度下提供 40 PetaFLOPS的 AI 性能。

未來，每臺(tái)超級(jí)計(jì)算機(jī)都將利用量子處理器來擴(kuò)展其可以解決的問題范圍，并且每臺(tái)量子處理器都將依賴于 GPU 超級(jí)計(jì)算機(jī)來實(shí)現(xiàn)正常運(yùn)行。

量子計(jì)算公司 Quantinuum 推出的新型 Helios QPU 已通過 NVQLink 與 NVIDIA GPU 集成，實(shí)現(xiàn)了全球首個(gè)可擴(kuò)展 qLDPC 量子糾錯(cuò)碼的實(shí)時(shí)解碼。得益于 NVQLink 微秒級(jí)的低延遲，該系統(tǒng)保持了 99% 的保真度，而在未進(jìn)行校正的情況下，該系統(tǒng)保持了 95% 的保真度。

借助 NVQLink，科學(xué)家和開發(fā)者在量子硬件和經(jīng)典硬件之間架起了通用橋梁，使可擴(kuò)展的糾錯(cuò)、混合應(yīng)用和實(shí)時(shí)量子 GPU 工作流變得切實(shí)可行。

NVQLink 已被亞太地區(qū)、歐洲和中東地區(qū)以及美國(guó)的眾多研究中心、超級(jí)計(jì)算中心和實(shí)驗(yàn)室采用。

開發(fā)現(xiàn)實(shí)世界的混合應(yīng)用

采用 NVQLink 的 Quantinuum Helios QPU 提供：

使用 NVQLink 校正時(shí)，保真度約為 99%，而不使用 NVQLink 校正時(shí)，保真度約為 95%

NVQLink 將量子處理器與 GPU 超級(jí)計(jì)算相結(jié)合，實(shí)現(xiàn)可擴(kuò)展的糾錯(cuò)和混合應(yīng)用?？茖W(xué)家可以通過 CUDA-Q API 獲得統(tǒng)一的編程環(huán)境。開發(fā)者可以實(shí)時(shí)構(gòu)建和測(cè)試量子 – GPU 工作流。

借助 NVQLink，全球超級(jí)計(jì)算中心正在為實(shí)用的量子經(jīng)典系統(tǒng)奠定基礎(chǔ)，以前所未有的速度和規(guī)模將不同的量子處理器與 NVIDIA 加速計(jì)算單元相連接。

NVIDIA 和 RIKEN 推動(dòng)科學(xué)前沿發(fā)展

NVIDIA 和 RIKEN 正在構(gòu)建兩臺(tái)新的 GPU 加速超級(jí)計(jì)算機(jī)擴(kuò)大當(dāng)?shù)卦诳茖W(xué)和量子計(jì)算 AI 領(lǐng)域的領(lǐng)導(dǎo)地位。

用于 AI for Science的 系統(tǒng)：1600 塊 Blackwell GPU 將為生命科學(xué)、材料科學(xué)、氣候和天氣預(yù)報(bào)、制造和實(shí)驗(yàn)室自動(dòng)化領(lǐng)域的研究提供支持。

量子計(jì)算系統(tǒng)：540 塊 Blackwell GPU 將加速量子算法、混合模擬和量子經(jīng)典方法。

在 RIKEN 與 Fujitsu 和 NVIDIA 的合作基礎(chǔ)上，還將共同設(shè)計(jì) Fugaku 超級(jí)計(jì)算機(jī)的后續(xù)產(chǎn)品 FugakuNEXT。預(yù)計(jì)到 2030 年，F(xiàn)ugakuNEXT 將把應(yīng)用性能提高100 倍，，并集成生產(chǎn)級(jí)的量子計(jì)算機(jī)。

這兩個(gè)新的 RIKEN 系統(tǒng)預(yù)計(jì)將于 2026 年春季投入使用。

Arm 采用 NVIDIA NVLink Fusion

AI 正在重塑數(shù)據(jù)中心，每瓦效率成為衡量成功的關(guān)鍵。核心驅(qū)動(dòng)力是 Arm Neoverse，其部署核心數(shù)已超過 10 億。預(yù)計(jì)到 2025 年在超大規(guī)模市場(chǎng)的份額將達(dá)到 50%。AWS、Google、微軟、Oracle 和 Meta 在內(nèi)的各大提供商都基于 Neoverse 構(gòu)建，這凸顯了 Neoverse 在支持大規(guī)模 AI 方面的作用。

為了滿足激增的需求，Arm 正在通過 NVIDIA NVLink Fusion 擴(kuò)展 Neoverse，這是 Grace Blackwell 率先推出的高帶寬、一致性互連技術(shù)。NVLink Fusion 將 CPU、GPU 和加速器連接到一個(gè)統(tǒng)一的機(jī)架級(jí)架構(gòu)中，消除了限制 AI 性能的內(nèi)存和帶寬瓶頸。借助 Arm 的 AMBA CHI C2C 協(xié)議連接，可確?；?Arm 的 CPU 與合作伙伴首選加速器之間實(shí)現(xiàn)無縫數(shù)據(jù)傳輸。

Arm 和 NVIDIA 共同為 AI 基礎(chǔ)設(shè)施設(shè)定了新標(biāo)準(zhǔn)，使生態(tài)系統(tǒng)合作伙伴能夠構(gòu)建差異化、高能效的系統(tǒng)，加速整個(gè) AI 時(shí)代的創(chuàng)新。

Buck 表示：“無論是構(gòu)建自己的 ARM CPU 還是使用 ARM IP ，都可以訪問 NVLink Fusion，將 ARM CPU 與 NVIDIA GPU 或 NVLink 生態(tài)系統(tǒng)的其他部分連接，這一切都發(fā)生在機(jī)架和縱向擴(kuò)展的基礎(chǔ)設(shè)施上?！?/p>

為加速計(jì)算提供更智能的動(dòng)力

隨著 AI 工廠規(guī)模的擴(kuò)大，能源成為新的瓶頸。NVIDIA Domain Power Service (DPS)將這一限制轉(zhuǎn)化為機(jī)會(huì)，將電力轉(zhuǎn)化為一種動(dòng)態(tài)、可協(xié)調(diào)的資源。DPS 作為 Kubernetes 服務(wù)運(yùn)行，能夠?qū)臋C(jī)架到房間再到設(shè)施的整個(gè)數(shù)據(jù)中心的能源使用情況進(jìn)行建模和管理。它使運(yùn)營(yíng)商能夠通過智能地限制電力來提高每兆瓦的性能，在不擴(kuò)展基礎(chǔ)設(shè)施的情況下提高吞吐量。

DPS 與用于設(shè)計(jì)和運(yùn)營(yíng)新一代數(shù)據(jù)中心的平臺(tái)NVIDIA Omniverse DSX Blueprint緊密集成。它與 Power Reservation Steering 等技術(shù)配合使用，以平衡整個(gè)設(shè)施的工作負(fù)載，并與 Workload Power Profile 解決方案配合使用，以根據(jù)特定工作的需求調(diào)整 GPU 的功率。它們共同構(gòu)成了 DSX Boost，一個(gè)能源感知控制層，可在實(shí)現(xiàn)性能目標(biāo)的同時(shí)更大限度地提高效率。

DPS 還延伸到數(shù)據(jù)中心之外。借助面向電網(wǎng)的 API，它支持自動(dòng)減負(fù)和需求響應(yīng)，幫助公共事業(yè)公司在用電高峰事件期間穩(wěn)定電網(wǎng)。最終打造出一個(gè)具有彈性的電網(wǎng)交互式 AI 工廠，將每一瓦電力都轉(zhuǎn)化為可衡量的進(jìn)程。

NVIDIA 與 CoreWeave 獲得 Graph500 BFS基準(zhǔn)測(cè)試冠軍，性能較此前紀(jì)錄提升翻倍

NVIDIA 在第 30 期 Graph500 寬度優(yōu)先搜索 (BFS) 榜單中獲得第一名，使用部署在 CoreWeave 達(dá)拉斯數(shù)據(jù)中心的 8,192 塊 NVIDIA Hopper GPU，取得了每秒遍歷 410 萬億條邊 (TEPS) 的成績(jī)，性能較此前最優(yōu)紀(jì)錄提升超兩倍。

該基準(zhǔn)測(cè)試用于衡量系統(tǒng)處理超大規(guī)模圖數(shù)據(jù)集的能力。在此次測(cè)試中，NVIDIA 使用了包含 2.2 萬億個(gè)頂點(diǎn)和 35 萬億條邊的圖數(shù)據(jù)。

NVIDIA 基于搭載 8192 塊 Hopper GPU 的 CoreWeave 集群提交的測(cè)試，位居第 30 期 Graph500 BFS 榜首。

這一成績(jī)得益于 NVIDIA Hopper GPU 架構(gòu)、NVIDIA Quantum-2 InfiniBand 網(wǎng)絡(luò)、NVIDIA 與 CoreWeave 的協(xié)作，以及基于眾多 NVIDIA 技術(shù)構(gòu)建的定制化軟件實(shí)現(xiàn)。其中包括 CUDA 平臺(tái)、NVSHMEM 并行編程接口、InfiniBand GPUDirect Async 技術(shù)，以及專為高性能 GPU 間主動(dòng)消息傳遞構(gòu)建的庫(kù)。