近日 Microsoft Azure 宣布正式推出 ND A100 v4 VM 系列，這是適用于超級計算級 AI 和 HPC 負載的強大虛擬機，由 NVIDIA A100 Tensor Core GPU 和 NVIDIA HDR InfiniBand 提供支持。

NVIDIA 與 Azure 合作構(gòu)建了這款新的縱向擴展和橫向擴展 AI 平臺，整合了開創(chuàng)性 NVIDIA Ampere 架構(gòu) GPU、NVIDIA 網(wǎng)絡(luò)技術(shù)以及 Azure 高性能互聯(lián)和虛擬機網(wǎng)絡(luò)的強大功能，讓人人都能使用 AI 超級計算。

在應(yīng)對 AI 和高性能計算面臨的巨大挑戰(zhàn)時，規(guī)模是重中之重。得益于加速計算，自然語言處理、推薦系統(tǒng)、醫(yī)療健康研究、藥物研發(fā)和能源以及其他領(lǐng)域均取得了巨大進展。

大部分進展源自大規(guī)模運行的應(yīng)用程序。為加速這一趨勢，應(yīng)用程序所基于的運行架構(gòu)必須靈活易用，并且可以縱向擴展和橫向擴展。

ND A100 v4 VM 在單個 VM 中匯集了八個 NVIDIA A100 GPU，并且搭載 NVIDIA HDR InfiniBand，使每個 GPU 都獲得 200 Gb/s 的數(shù)據(jù)帶寬?？傮w每個 VM 的互聯(lián)帶寬高達 1.6 Tb/s。

對于要求嚴苛的 AI 和高性能計算工作負載，可以進一步擴展為數(shù)千個 NVIDIA A100 GPU 規(guī)模同時維持相同的超低延遲 InfiniBand 網(wǎng)絡(luò)，為多節(jié)點分布式計算提供強大的計算和網(wǎng)絡(luò)功能。

適合開發(fā)者

開發(fā)者有多種選擇，可通過 ND A100 v4 VM 中的 NVIDIA A100 GPU 為其應(yīng)用程序提供出色性能，這些應(yīng)用程序部署后，既用于應(yīng)用程序開發(fā)，也用于管理基礎(chǔ)設(shè)施。

為簡化和加速開發(fā)，NVIDIA NGC 目錄提供即用型 GPU 優(yōu)化應(yīng)用程序框架、容器、預(yù)訓(xùn)練模型、庫、SDK 和 Helm 圖表。借助 Azure Marketplace 上適用于 AI 和高性能計算的預(yù)構(gòu)建 NVIDIA GPU 優(yōu)化鏡像，開發(fā)者只需單擊幾下即可開始從 NGC 目錄使用 GPU 加速軟件。

ND A100 v4 VM 還支持在 Azure 機器學(xué)習(xí)服務(wù)中使用，適用于交互式 AI 開發(fā)、分布式訓(xùn)練、批量推理和 ML 運算自動化。

使用 ND A100 v4 VM 在生產(chǎn)環(huán)境中部署機器學(xué)習(xí)管線，這一流程因 NVIDIA Triton 推理服務(wù)器而得到進一步簡化。NVIDIA Triton 推理服務(wù)器是一款開源推理服務(wù)應(yīng)用程序，與 Azure ML 集成，可更大限度地提高 GPU 和 CPU 的性能和利用率，從而將部署運營成本降至更低。

開發(fā)者和基礎(chǔ)設(shè)施經(jīng)理很快也能使用 Azure Kubernetes Service，這是一項完全托管的 Kubernetes 服務(wù)，用于部署和管理 ND A100 v4 VM（支持 NVIDIA A100 GPU）上的容器化應(yīng)用程序。

更多相關(guān)信息，請點擊“閱讀原文”，觀看《Azure：借助勢頭正勁的 AI 和高性能計算賦能世界》 GTC21 主題演講。

原文標題：Microsoft Azure 宣布正式推出 NVIDIA A100 GPU VM

文章出處：【微信公眾號：NVIDIA英偉達】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

責(zé)任編輯：haq