借助 NVIDIA NGC 目錄中的 GPU 優(yōu)化容器，更快地開發(fā)和部署應(yīng)用。

什么是容器？

容器是一種便攜式軟件單元，可將應(yīng)用及其所有依賴項合并為一個軟件包，該軟件包不受底層主機操作系統(tǒng)限制。這樣無需再構(gòu)建復(fù)雜的環(huán)境，并簡化了應(yīng)用開發(fā)到部署的過程。

NVIDIA NGC 目錄包含一系列用于深度學(xué)習(xí)、機器學(xué)習(xí)、可視化和高性能計算（HPC）應(yīng)用的 GPU 優(yōu)化容器，這些容器均已經(jīng)過了性能、安全性和可擴展性測試。

NGC 目錄中的容器的優(yōu)勢

輕松部署

內(nèi)置庫和依賴項可讓您輕松部署和運行應(yīng)用。

加快訓(xùn)練速度

TensorFlow 和 PyTorch 等 NVIDIA AI 容器每月會提供針對性能優(yōu)化的更新版本，以便加快 AI 訓(xùn)練和推理速度。

運行位置不受限制

在 bare metal、虛擬機（VM）和 Kubernetes 上，將容器部署在任意位置（云端、內(nèi)部私有云和邊緣）的多 GPU/多節(jié)點系統(tǒng)上。

放心部署

容器經(jīng)過常見漏洞和暴露（CVE）掃描（附有安全報告），并通過 NVIDIA AI Enterprise 得到了可選的企業(yè)支持。

性能優(yōu)化

NVIDIA 構(gòu)建的 Docker 容器每月都會更新，第三方軟件也會定期更新，以提供所需的功能，便于您從現(xiàn)有基礎(chǔ)架構(gòu)中獲得出色性能，并縮短找出解決方案的時間。

借助 BERT-Large 進行自然語言處理

BERT-Large 利用 VoltaV100 和 Ampere A100 GPU 上的混合精度運算和 Tensor Core，在保持目標準確性的同時縮短訓(xùn)練時間。

在單節(jié)點的 8x V100 (16GB) 和 A100 (40GB) 上使用 TensorFlow 時，BERT-Large 和訓(xùn)練的性能表現(xiàn)?；旌暇?。BERT 的批量大?。? (V100)、24(A100)

用于圖像處理的 ResNet50 v1.5

此模型使用 Volta、Turing 和 NVIDIA Ampere GPU 體系架構(gòu)上的 Tensor Core 進行混合精度訓(xùn)練，以加快訓(xùn)練速度。

在單節(jié)點 8x V100 (16GB) 和 A100 (40GB) 上使用 TensorFlow 時，ResNet 50 的性能表現(xiàn)。混合精度。ResNet50 批量大?。?6

用于深度學(xué)習(xí)的 Matlab

持續(xù)開發(fā) Matlab 深度學(xué)習(xí)容器可提高訓(xùn)練和推理性能。

Windows 10，Intel Xeon E5-2623 @2.4GHz，NVIDIA Titan V 12GB GPU

用于各種工作負載的容器

AI 容器

TensorFlow

TensorFlow 是一個用于高性能數(shù)值計算的開源軟件庫。

PyTorch

PyTorch 是具有 Python 前端的 GPU 加速型張量計算框架。

NVIDIA Triton 推理服務(wù)器

NVIDIA Triton 推理服務(wù)器是一種開源推理解決方案，可更大限度地提高 GPU 的利用率和性能。

NVIDIA TensorRT

NVIDIA TensorRT 是一個C++ 庫，可加快 NVIDIA GPU 上的高性能推理。

應(yīng)用框架

NVIDIA Clara

用于醫(yī)療成像的 NVIDIA Clara Train 是一個應(yīng)用框架，包含超過 20 個先進的預(yù)訓(xùn)練模型、遷移學(xué)習(xí)和聯(lián)合學(xué)習(xí)工具、AutoML，以及 AI 輔助的標記數(shù)據(jù)。

DeepStream

DeepStream 是一款流分析工具包，可用于基于 AI 的視頻、音頻和圖像理解和多傳感器處理。

NVIDIA Riva

NVIDIA Riva 是一個應(yīng)用框架，適用于在 GPU 上提供實時性能的多模態(tài)對話式 AI 服務(wù)。

Merlin Training

Merlin HugeCTR 是 NVIDIA Merlin 的組件，是一款專為推薦系統(tǒng)設(shè)計的深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練框架。

HPC 容器

NAMD

NAMD 是一段并行分子動力學(xué)代碼，旨在實現(xiàn)生物大分子系統(tǒng)的高性能模擬。

GROMACS

GROMACS 是一款熱門的分子動力學(xué)應(yīng)用，用于模擬蛋白質(zhì)和脂質(zhì)。

Relion

Relion 采用經(jīng)驗貝葉斯方法分析低溫電子顯微鏡（cryo EM）。

NVIDIA HPC SDK

NVIDIA HPC SDK 是編譯器、庫和工具的綜合套件，用于構(gòu)建、部署和管理 HPC 應(yīng)用。

點擊閱讀原文，了解更多 AI 和 HPC 容器相關(guān)內(nèi)容

NVIDIA 深度學(xué)習(xí)培訓(xùn)中心

我們的 NVIDIA 深度學(xué)習(xí)培訓(xùn)中心還推出了 AI 和 HPC 容器及 NGC 相關(guān)課程，您可以復(fù)制鏈接查看課程詳情。

使用容器實現(xiàn)高性能計算

學(xué)習(xí)使用容器化環(huán)境開發(fā)高性能計算（HPC）應(yīng)用程序，降低編碼的復(fù)雜性和可移植性，從而提高開發(fā)效率。

原文標題：DevZone | AI和HPC容器

文章出處：【微信公眾號：NVIDIA英偉達企業(yè)解決方案】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

審核編輯：湯梓紅