近日，國際權威AI性能基準評測平臺MLPerf發(fā)布最新推理（Inference v2.0）測試成績，總計超過10家國際知名服務器廠商的數(shù)十種產(chǎn)品參與了本次測試。其中，寧暢X640 G40、X660 G45 、X620 G40人工智能服務器，在Closed（封閉）賽段的3D-UNet99（圖像分割）、SSD-large（目標檢測重量級）與Bert-99（自然語言處理）等模型測試中性能表現(xiàn)出色，共獲得59項第一成績。

MLPerf基準測試在國際AI領域有極高影響力，其基準聯(lián)盟已有谷歌、Intel、NVIDIA、微軟、Facebook等超50家成員。MLPerf Inference v2.0 AI基準測試包括Datacenter（數(shù)據(jù)中心）和Edge（邊緣）兩大場景，參與測試的各計算系統(tǒng)基于同一套參數(shù)運行。

X640 G40獲得Datacenter組全場第一

搭載NVIDIA A100 Tensor Core 80GB GPU，寧暢X640 G40 在Closed（封閉）賽段所有已發(fā)布的產(chǎn)品中，獲得10項Datacenter組總體性能第一成績，也是本次測試中的全場第一。

最新的MLPerf Inference v2.0設置了不同領域的Benchmark子項，貼近前沿AI應用場景。X640 G40在3D-UNet99（圖像分割）、SSD-large（目標檢測重量級）、Rnnt（語音辨識）和Bert-99（自然語言處理）等多個經(jīng)典模型測試中均取得高光表現(xiàn)。

擁有強勁性能的寧暢X640 G40可針對不同AI場景和訓練模型進行互聯(lián)優(yōu)化，滿足不同類型客戶需求。其中，SSD-large模型在線分數(shù)8994.9、離線分數(shù)9279.37，這一成績代表了寧暢X640 G40每秒可完成9200多張圖片中信息的分類、定位與精準檢測，且可應答近9000次實時目標檢測的推理任務；Rnnt模型離線分數(shù)為127213，代表寧暢X640 G40每秒可完成12萬次語音的識別請求。

X660 G45拿下Edge組單項性能冠軍，Datacenter組同配置7項第一

所有產(chǎn)品中，寧暢X660 G45搭載NVIDIA A100 Tensor Core 80GB GPU，在SSD-Mobilenet（目標檢測移動端）模型測試的Multi-Stream（多數(shù)據(jù)流）場景中，以0.44成績擊敗所有參賽產(chǎn)品，獲第一成績。同時， X660 G45還取得Datacenter組同配置的7項第一，在SSD-large、ResNet、Bert-99、Dlrm -99（智能推薦）四項任務中都實現(xiàn)了極佳的性能結果。其ResNet得分在線為286，030、離線為316，636，代表寧暢X660 G45能夠每秒完成超過30萬張圖片中各個事物類別的海量識別。

X660 G45是專為深度學習訓練開發(fā)的高性能計算平臺，采用600GB/s的NVLink總線高速互聯(lián)，每個GPU還可搭配HDR 200Gb/s InfiniBand網(wǎng)絡和NVMe SSD高速緩存，幫助用戶搭建GPU高速集群，同時結合近500TB的本地存儲容量，可極大縮短AI模型訓練時間。

X620 G40贏取Datacenter組同配置15項第一

本次測評中，搭載4顆NVIDIA A2 Tensor Core的寧暢X620 G40獲得Datacenter組同配置15項第一的成績。X620 G40在SSD-large、ResNet、3D-UNet99、Bert-99、Rnnt和Dlrm-99等幾乎所有模型測試中都取得優(yōu)異成績，充分證明產(chǎn)品在推理性能上出類拔萃，能夠應對各種復雜的 AI 挑戰(zhàn)。

X620 G40作為一款2U高度人工智能服務器，支持PCIe4.0高速總線技術，適配NVIDIA各類GPU加速卡，是理想AI推理計算平臺，同時還可勝任桌面虛擬化、云游戲和視頻流轉碼等多IT行業(yè)用途需求。此外，X620 G40還具備關鍵部件健康狀態(tài)監(jiān)控和上報功能，可以為數(shù)據(jù)中心運維保駕護航。

此次MLPerf Inference v2.0榜單的發(fā)布，進一步彰顯了寧暢在AI服務器領域的實力地位。以此為依托，寧暢將持續(xù)推動技術創(chuàng)新，不斷深入各種AI應用場景，以智能定制算力賦能用戶更好發(fā)展。