浪潮是全球領先的AI計算力專業(yè)廠商，擁有業(yè)界最豐富的AI服務器產(chǎn)品陣列，致力于通過創(chuàng)新設計，為用戶提供適用于不同領域、不同場景的領先計算設備，以更好地應對當前海量數(shù)據(jù)爆發(fā)與復雜模型所帶來的巨大的計算挑戰(zhàn)，助推實現(xiàn)AI化轉型。據(jù)國際咨詢機構IDC數(shù)據(jù)，浪潮AI服務器連續(xù)多年在中國的市場份額超過50%。下面我們就一起回顧浪潮推出的極致設計的AI服務器產(chǎn)品。

最快AI訓練服務器NF5488A5

2020年，浪潮全新發(fā)布自研的新一代AI服務器NF5488A5，提供極致的AI性能和超高速帶寬，支持圖像視頻、語音識別、金融分析、智能客服等典型AI應用場景，幫助AI用戶高效完成AI基礎設施和開發(fā)環(huán)境的構建，縮短開發(fā)周期，顯著提升AI開發(fā)和應用效率。這款AI服務器在最新公布的MLPerf全球權威AI測試榜單中，僅用時33.37分鐘，就在包含128萬張圖片的ImageNet數(shù)據(jù)集上完成Resnet50模型的訓練，相當于每秒訓練23000多張圖片，單機計算性能排名第一。

NF5488A5單機訓練性能可達5 PetaOPS，相比上一代服務器計算性能提升234%。兩年前Facebook的科學家用32臺GPU服務器、256塊GPU花了1個小時完成了ImageNet上的Resnet50訓練，而現(xiàn)在僅需一臺NF5488A5，即可在33分鐘完成同樣的訓練，單臺設備訓練效率提升近60倍。同時，浪潮優(yōu)化了NF5488A5的拓撲結構，采用NUMA綁定策略，可實現(xiàn)CPU與最近GPU的指定通信，大幅提升CPU與GPU之間的數(shù)據(jù)傳輸效率，實現(xiàn)更低的數(shù)據(jù)傳輸延遲和更高的帶寬，滿足各種AI負載高效數(shù)據(jù)通信需求。

全球首款在 2U 空間內(nèi)高速互聯(lián)集成 8 顆最高性能 GPU 加速器的服務器AGX-2

2017年，浪潮在GTC大會期間發(fā)布了加速人工智能計算的超高密度服務器AGX-2，它將是全球首款在2U空間內(nèi)高速互聯(lián)集成8顆最高性能GPU加速器的服務器，全面加速人工智能和科學工程計算等領域的研究應用效率。

AGX-2在2U空間內(nèi)支持部署8塊NVLink或PCI-E 接口的NVIDIA Tesla P100 GPU，并在業(yè)界率先支持NVLink 2.0和最新發(fā)布的NVIDIA Tesla V100， GPU間互聯(lián)帶寬高達150GB/s。AGX-2具備良好的I/O擴展能力，提供8塊NVMe/SAS/SATA熱插拔硬盤，可支持最多4塊100Gbps的EDR InfiniBand接口卡的高速集群互聯(lián);AGX-2不僅支持通常的風冷散熱方式，還可支持片上水冷以提供更高的計算能效比。

最強 AI 超級服務器AGX-5

2018年，在2018人工智能計算大會AICC上，浪潮發(fā)布了AI計算性能高達每秒2千萬億次的AI超級服務器AGX-5，這是全球最強大的AI計算主機之一。

浪潮創(chuàng)新研發(fā)設計的AI服務器AGX-5，可在單機內(nèi)支持16顆高速NVSwitch無阻塞互聯(lián)的Tesla V100 Tensor Core GPUs和新一代GPU加速器，提供2 PFlops的強大單機AI計算性能，與之前同類GPU服務器相比，AGX-5可支持4倍超大規(guī)模深度神經(jīng)網(wǎng)絡模型且訓練速度提高10倍。AGX-5在計算性能、芯片互聯(lián)、數(shù)據(jù)吞吐等多方面實現(xiàn)了極大提升，由此帶來AI計算能力的革命性的進步，為全球致力于領先AI科技的商業(yè)公司、科研創(chuàng)新機構提供前所未見的AI創(chuàng)新加速體驗。

最強Transformer 訓練服務器NF5488M5

2019年，浪潮在2019 GPU技術大會（GTC2019）上發(fā)布AI服務器NF5488M5，在業(yè)界首次實現(xiàn)了4U空間內(nèi)集成8顆通過高速NVSwitch無阻塞全互聯(lián)的最新一代NVIDIA Tesla V100 Tensor Core 32GB GPUs，高擴展、高性能、高能效，可靈活部署，AI計算性能可達每秒一千萬億次，適用于圖像視頻、語音識別、金融分析、智能客服等典型AI應用場景。

NF5488M5還配置2顆28核的頂配CPU，配合3UPI連接設計，提供頂級通用計算性能。4U尺寸、6KW供電設計使其適用于更廣泛的數(shù)據(jù)中心部署環(huán)境，特別適合于功耗受限的機柜上架場景。同時使用更加靈活的集群部署方案，能實現(xiàn)從硬件到應用的集成部署。

Transformer是主流 NLP模型，參數(shù)規(guī)?？蛇_數(shù)億，對計算、通信的要求非常高。性能數(shù)據(jù)顯示，相比同類服務器，NF5488M5大幅提升了Transformer的訓練性能，GLUE 基準訓練至 80.4%的時間相比同類產(chǎn)品大幅減少 67%。NF5488M5進一步豐富和優(yōu)化用戶的AI基礎架構選擇，幫助用戶縮短AI模型開發(fā)周期，加速AI技術創(chuàng)新與應用落地。

責任編輯：YYX