基于最新 NVIDIA Spectrum-X 網(wǎng)絡(luò)端到端平臺(tái)，助力客戶通過 AI 實(shí)現(xiàn)業(yè)務(wù)轉(zhuǎn)型

NVIDIA 今日宣布，戴爾科技、慧與和聯(lián)想將率先在其服務(wù)器產(chǎn)品陣容中集成專為 AI 量身定制的 NVIDIA Spectrum-X 以太網(wǎng)絡(luò)技術(shù)，幫助企業(yè)客戶加速生成式 AI 業(yè)務(wù)。

Spectrum-X 專為生成式 AI 量身定制，為企業(yè)提供了一種全新的以太網(wǎng)絡(luò)，相較傳統(tǒng)以太網(wǎng)方案，其 AI 通信網(wǎng)絡(luò)性能提高了 1.6 倍。

這三家頭部系統(tǒng)制造商的新系統(tǒng)，整合了 Spectrum-X 與 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 軟件和 NVIDIA AI Workbench 軟件，為企業(yè)通過生成式 AI 來實(shí)現(xiàn)業(yè)務(wù)轉(zhuǎn)型奠定了基礎(chǔ)。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“生成式 AI 和加速計(jì)算正在推動(dòng)新一代的業(yè)務(wù)轉(zhuǎn)型，企業(yè)需要升級(jí)其數(shù)據(jù)中心來滿足新型業(yè)務(wù)的需求。加速網(wǎng)絡(luò)就是 NVIDIA 的頭部服務(wù)器制造商合作伙伴推出新一代系統(tǒng)的催化劑，加快他們邁向生成式 AI 新時(shí)代。”

戴爾科技集團(tuán)董事長兼首席執(zhí)行官 Michael Dell 表示：“加速計(jì)算和加速網(wǎng)絡(luò)是構(gòu)建支撐大語言模型和生成式 AI 應(yīng)用系統(tǒng)的關(guān)鍵。戴爾科技和 NVIDIA 將攜手合作，為客戶提供基礎(chǔ)設(shè)施和軟件，使他們可以快速、安全地發(fā)掘出數(shù)據(jù)的潛力?！?/p>

慧與總裁兼首席執(zhí)行官 Antonio Neri 表示：“毫無疑問，生成式 AI 將推動(dòng)各行各業(yè)的創(chuàng)新。這些強(qiáng)大的新型應(yīng)用將需要一個(gè)全新的架構(gòu)來支持各種不同的動(dòng)態(tài)工作負(fù)載。為使客戶能夠充分挖掘生成式 AI 的潛力，慧與與 NVIDIA 攜手共建系統(tǒng)平臺(tái)，專們面向新型應(yīng)用所需的性能、效率和可擴(kuò)展性等需求。”

聯(lián)想集團(tuán)董事會(huì)主席兼首席執(zhí)行官楊元慶表示：“生成式 AI 推動(dòng)了前所未有的變革，但也對(duì)企業(yè)的基礎(chǔ)設(shè)施提出了更加苛刻的要求。通過與 NVIDIA 密切合作，聯(lián)想正在從網(wǎng)絡(luò)、計(jì)算和軟件等各個(gè)層面全方位構(gòu)建高效的加速系統(tǒng)，滿足現(xiàn)代 AI 應(yīng)用的需求?！?/p>

專門用于加速 AI 的網(wǎng)絡(luò)

為實(shí)現(xiàn) AI 業(yè)務(wù)的最佳效率，Spectrum-X 集性能優(yōu)異的 Spectrum-4 以太網(wǎng)交換機(jī)、NVIDIA BlueField-3 SuperNIC（一款可以大幅提升超大規(guī)模 AI 業(yè)務(wù)性能的新型網(wǎng)絡(luò)加速器）以及多種加速軟件于一體。全球領(lǐng)先的基礎(chǔ)設(shè)施計(jì)算平臺(tái) —— NVIDIA BlueField-3 DPU 就屬于 Spectrum-X 的一部分。

Spectrum-4 是全球首款專門面向 AI 的 51Tb/sec 以太網(wǎng)交換機(jī)，可在大規(guī)模、滿負(fù)荷的場景下提供超高的數(shù)據(jù)吞吐量，同時(shí)在 AI 云業(yè)務(wù)的多租戶場景下將網(wǎng)絡(luò)擁塞降到了最低，其智能的、基于微調(diào)的路由技術(shù)可以保障網(wǎng)絡(luò)基礎(chǔ)設(shè)施的最大利用率。

BlueField-3 SuperNIC 專為網(wǎng)絡(luò)密集型的大規(guī)模并行計(jì)算而設(shè)計(jì)，可在 GPU 服務(wù)器之間提供高達(dá) 400Gb/s 的 RDMA（RoCE - RDMA over Converged Ethernet）網(wǎng)絡(luò)連接，大幅提升了集群內(nèi)部基于東西網(wǎng)絡(luò)流量的 AI 訓(xùn)練和推理性能，還能實(shí)現(xiàn)多租戶數(shù)據(jù)中心環(huán)境的安全隔離，確保租戶業(yè)務(wù)的可預(yù)測性和性能隔離。BlueField-3 SuperNIC 基于低功耗、半高半長的 PCIe 規(guī)格設(shè)計(jì)，是企業(yè)級(jí)服務(wù)器的理想選擇。

NVIDIA 加速軟件包括 Cumulus Linux、SONiC 和 NetQ 三者組成的性能優(yōu)異的 Spectrum-X 軟件開發(fā)套件，以及作為 BlueField 核心的 NVIDIA DOCA 軟件框架。

NVIDIA AI Enterprise 為安全、穩(wěn)定和已經(jīng)支持的生產(chǎn)級(jí) AI 業(yè)務(wù)提供了框架、預(yù)訓(xùn)練模型和開發(fā)工具。NVIDIA AI Workbench 使開發(fā)者能夠在 PC 或工作站上快速創(chuàng)建、測試和自定義預(yù)訓(xùn)練生成式 AI 模型，然后將其擴(kuò)展至幾乎任何數(shù)據(jù)中心或云。

搭載 Spectrum-X 的 NVIDIA 超級(jí)計(jì)算機(jī)

NVIDIA 自己的一臺(tái)超級(jí)計(jì)算機(jī)就在使用 Spectrum-X，這也是新一代 AI 系統(tǒng)的參考架構(gòu)。該超級(jí)計(jì)算機(jī)由 NVIDIA 與戴爾科技聯(lián)合開發(fā)，使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平臺(tái)和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服務(wù)器，并通過 Spectrum-4 交換機(jī)組成了集群系統(tǒng)。

供應(yīng)情況

基于全套 NVIDIA AI 解決方案的戴爾服務(wù)器、慧與服務(wù)器和聯(lián)想服務(wù)器預(yù)計(jì)將于明年一季度推出。

點(diǎn)擊“閱讀原文”，了解更多關(guān)于NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺(tái)相關(guān)內(nèi)容！

?

更多精彩內(nèi)容 阿里云與 NVIDIA 合作測試以太網(wǎng)絡(luò)新架構(gòu)
適用于數(shù)據(jù)中心和 AI 時(shí)代的網(wǎng)絡(luò)
借助 NVIDIA Spectrum 以太網(wǎng)最大限度地提高存儲(chǔ)網(wǎng)絡(luò)性能 ? ?

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會(huì)議中心舉行，線上大會(huì)也將同期開放。掃描下方海報(bào)二維碼，立即注冊(cè) GTC 大會(huì)。