10月22日，AI基準(zhǔn)性能評測平臺MLPerf官網(wǎng)顯示，寧暢信息產(chǎn)業(yè)（北京）有限公司（以下簡稱“寧暢”）搭載NVIDIA T4_/A100 GPU卡的Nettrix X640 G30 AI服務(wù)器，在ResNet、BERT、DLRM等基準(zhǔn)測試中取得30項世界第一成績。

據(jù)報道，MLPerf是用于衡量AI、邊緣計算等設(shè)備性能的基準(zhǔn)測試平臺，由云服務(wù)廠商、OEM廠商、大學(xué)、軟件公司等超14個組織、50余家知名IT企業(yè)共同驅(qū)動。該基準(zhǔn)測試包括可代表生產(chǎn)級別的測試用例，測試結(jié)果在行業(yè)內(nèi)具有較高權(quán)威性。

同配置測試獲16項世界第一

寧暢工程師介紹，參加MLPerf Inference（推理）基準(zhǔn)測試的X640 G30 AI服務(wù)器，最高可支持10張NVIDIA A100 PCIe卡或21張NVIDIA T4 PCIe卡，堪稱“性能猛獸”。

圖說：寧暢人工智能服務(wù)器X640 G30

對比行業(yè)同配置AI服務(wù)器，X640 G30搭載四張A100 GPU卡的情況下，在Resnet50、SSD、RNN-T、BERT、DLRM等10項測試中分?jǐn)?shù)值取得世界第一；搭載16張T4 GPU卡配置的情況下，X640 G30打破六項世界紀(jì)錄，性能一騎絕塵。

圖說：16卡配置X640 G30部分測試分?jǐn)?shù)對比圖

相同配置下取得第一的MLPerf分?jǐn)?shù)，意味著X640 G30 在圖像分類、目標(biāo)檢測、醫(yī)學(xué)影像、翻譯、推薦、自然語言處理等AI應(yīng)用場景中有更好性能表現(xiàn)，可為用戶帶來多高價值。

將多卡性能發(fā)揮到極致

AI服務(wù)器所能支持異構(gòu)計算GPU卡數(shù)量，是決定其AI吞吐量的首要因素。依托團隊10余年行業(yè)經(jīng)驗，寧暢率先在4U標(biāo)準(zhǔn)機箱中實現(xiàn)21張GPU卡配置，將多GPU卡性能優(yōu)勢發(fā)揮到極致。

搭配21張T4 GPU卡的X640 G30，在圖像分類、語義識別等眾多AI基準(zhǔn)測試中，超越搭配20張T4 GPU卡配置的服務(wù)器，測試分?jǐn)?shù)斬獲14項世界第一。

圖說：21卡配置X640 G30 MLPerf測試成績表

不僅多GPU卡的性能優(yōu)越，在單GPU卡平均性能方面（單卡平均性能=整機測試結(jié)果/搭載GPU卡個數(shù)），橫向比較13家服務(wù)器廠商提交MLPerf 的53個配置測試結(jié)果顯示，X640 G30服務(wù)器平均單卡性能獲得11項第一。

圖說：X640 G30平均單卡測試分?jǐn)?shù)對比

寧暢工程師表示，寧暢服務(wù)器不僅在MLPerf平臺取得多項世界第一成績，今年早先時候?qū)帟畴p路服務(wù)器R620 G30，曾在反映服務(wù)器性能的SPEC CPU2017測試中，刷新24項世界紀(jì)錄。

世界紀(jì)錄的背后，是寧暢工程師為用戶提供更優(yōu)性價比產(chǎn)品，將CPU、GPU等服務(wù)器核心部件性能發(fā)揮到極致，所做的不懈努力。通過提供硬件、軟件等定制化服務(wù)，寧暢服務(wù)器將有效降低用戶TCO（總體擁有成本）。