作者：Arm 云 AI 事業(yè)部產(chǎn)品經(jīng)理 Shivangi Agrawal

近日發(fā)布的Arm AGI CPU是 Arm 首款面向人工智能 (AI) 數(shù)據(jù)中心的量產(chǎn)級芯片產(chǎn)品。與此同時，Arm 也同步推出一款模塊化、基于標準的 1OU 雙節(jié)點參考服務(wù)器，將基于 Arm Neoverse V3 打造的 Arm AGI CPU 所秉持的機架優(yōu)先設(shè)計理念落到實處。參考服務(wù)器提供貼近實際的生產(chǎn)環(huán)境，可用于工作負載評估、軟件棧優(yōu)化，并加速下一代 Arm 架構(gòu)基礎(chǔ)設(shè)施的落地部署。

隨著 AI 應用加速普及，數(shù)據(jù)中心正邁入一個全新發(fā)展紀元。云服務(wù)規(guī)模快速擴張，受代理式 AI 用例的加速驅(qū)動，AI 工作負載不再局限于模型訓練，而是開始廣泛部署在商用場景中。為緊跟發(fā)展節(jié)奏，基礎(chǔ)設(shè)施必須在供電、散熱與空間限制不變的前提下，實現(xiàn)算力與能效的大幅提升。

性能已不再由單臺服務(wù)器定義，而是由機架級來衡量。提升單機架算力、優(yōu)化能效、最大化基礎(chǔ)設(shè)施密度，已然成為現(xiàn)代數(shù)據(jù)中心架構(gòu)設(shè)計的決定性驅(qū)動因素。

專為機架級部署而生

Arm AGI CPU 1OU 雙節(jié)點參考服務(wù)器另辟蹊徑，以 1OU 機箱雙節(jié)點服務(wù)器形態(tài)面向機架級部署打造，大幅提升單機架的算力密度。這一設(shè)計理念貫穿平臺的多個維度，呈現(xiàn)諸多亮點：

智能體性能調(diào)優(yōu)：每節(jié)點最多搭載 136 個 Neoverse V3 核心，單核內(nèi)存帶寬高達 6 GB/s，延遲低于 100ns，性能穩(wěn)居行業(yè)前列。

機架擴展架構(gòu)：300W TDP 可在標準 36kW 風冷機架中部署多達 8,160 個核心；相較之下，500W TDP 的 x86 方案則需使用 2U 機箱。

出色算力密度：單機架性能達到同類 x86 方案兩倍以上。[注]

[注] 數(shù)值為估算值

參考服務(wù)器的重要意義

放眼整個行業(yè)，芯片廠商都會利用參考平臺為系統(tǒng)設(shè)計與軟件適配提供經(jīng)過驗證的設(shè)計藍本。這類平臺可讓基礎(chǔ)設(shè)施合作伙伴在自研定制服務(wù)器之前，先在接近生產(chǎn)環(huán)境中對全新芯片進行評估。將新一代平臺推向市場，需要一套完整的系統(tǒng)環(huán)境，包括固件、操作系統(tǒng)、內(nèi)存、存儲、網(wǎng)絡(luò)及系統(tǒng)管理等組件。

參考服務(wù)器堪稱量產(chǎn)服務(wù)器的起步基石，可實現(xiàn)：

加快平臺上線時間：開發(fā)者可啟動多種操作系統(tǒng)、部署軟件棧，并即刻開展平臺專項優(yōu)化。

經(jīng)過驗證的系統(tǒng)架構(gòu)：內(nèi)存、I/O、存儲和固件等組件均已完成預先集成和測試。

性能評估：合作伙伴可對實際工作負載進行基準測試、功耗評估，并了解平臺在其生產(chǎn)環(huán)境中的實際表現(xiàn)。

加速生態(tài)系統(tǒng)發(fā)展：OEM/ODM、操作系統(tǒng)廠商、ISV 以及云服務(wù)提供商均可圍繞統(tǒng)一平臺開展協(xié)作。

全新的 Arm AGI CPU 1OU 雙節(jié)點參考服務(wù)器，正是為這些目標而打造。

內(nèi)在核心：Arm AGI CPU

該平臺的核心，正是 Arm AGI CPU。這款處理器基于 Neoverse V3 平臺打造，專為現(xiàn)代云計算與 AI 工作負載量身定制，凝聚了 Arm 近十年在 Neoverse 基礎(chǔ)設(shè)施領(lǐng)域的技術(shù)積淀與創(chuàng)新成果，并轉(zhuǎn)化為可規(guī)?；慨a(chǎn)的服務(wù)器級芯片。Arm AGI CPU 采用臺積公司先進的 3nm N3P 工藝制造，在 300W 風冷功耗范圍內(nèi)，全核頻率最高可達 3.2 GHz。這為現(xiàn)代 AI 與云工作負載帶來了高密度算力與出色的每瓦性能。

Arm AGI CPU 單顆最多集成 136 個高性能 Neoverse V3 核心，其基于 Armv9.2 指令集架構(gòu) (ISA)，每個核心配備雙 128 位第二代可伸縮矢量擴展 (SVE2) 單元。這些特性可高效加速 AI 與機器學習能力，支持 bfloat16 及 INT8 MMLA 指令。Arm AGI CPU 全核主頻最高可達 3.2GHz（boost 最高 3.7GHz），在推理請求處理、數(shù)據(jù)預處理等對延遲敏感的任務(wù)中，展現(xiàn)出強勁的單核性能。其設(shè)計可靈活擴展，高度適配 AI 推理、代理式 AI、云原生計算及各類企業(yè)級實際工作負載。

高內(nèi)存帶寬

滿足數(shù)據(jù)密集型工作負載需求

現(xiàn)代工作負載對系統(tǒng)高效處理海量數(shù)據(jù)傳輸?shù)哪芰μ岢隽烁咭?。Arm AGI CPU 集成 12 通道 DDR5 內(nèi)存，支持最高 8,800 MT/s 速率的 DIMM，提供超過 800 GB/s 的內(nèi)存帶寬。這種高帶寬內(nèi)存架構(gòu)可實現(xiàn)單核 6 GB/s 帶寬，使平臺在 AI 推理、大規(guī)模數(shù)據(jù)分析、高性能數(shù)據(jù)庫等工作負載下保持高吞吐能力。

通過緩解內(nèi)存瓶頸，系統(tǒng)可以更充分地利用 CPU 核心資源，支持數(shù)據(jù)密集型業(yè)務(wù)的更高效運行。

專為異構(gòu)計算設(shè)計

賦能代理式 AI 數(shù)據(jù)中心

CPU 是 AI 數(shù)據(jù)中心的基石，在代理式 AI 領(lǐng)域扮演關(guān)鍵角色，作為 AI 系統(tǒng)的頭節(jié)點承擔以下核心任務(wù)，包括協(xié)調(diào)控制平面、調(diào)度和路由工作負載、管理 I/O、處理網(wǎng)絡(luò)與存儲服務(wù)、執(zhí)行安全策略、管理專用加速器之間的數(shù)據(jù)編排，以及保障整體系統(tǒng)的平衡。

為支撐這類異構(gòu)計算環(huán)境，Arm AGI CPU 提供了豐富的高速 I/O 接口與可組合式架構(gòu)，具體包括：

96 條 PCIe Gen6 通道，用于連接加速器、網(wǎng)絡(luò)和存儲；

原生支持 CXL 3.0，可實現(xiàn)內(nèi)存擴展和池化；

AMBA CHI 擴展鏈路，面向未來芯粒與加速器互聯(lián)架構(gòu)。

憑借這些特性，CPU 可作為核心編排層，協(xié)調(diào)整個系統(tǒng)內(nèi)的數(shù)據(jù)遷移與工作負載執(zhí)行。

基于開放標準構(gòu)建的模塊化平臺

Arm AGI CPU 1OU 雙節(jié)點參考服務(wù)器在設(shè)計上同樣致力于簡化 Arm 合作伙伴的系統(tǒng)評估與平臺開發(fā)工作。它搭載了預先驗證的即用型軟硬件框架，可快速進行設(shè)計、部署以及工作負載性能評估。該服務(wù)器設(shè)計遵循開放計算項目 (OCP) 與 Arm SystemReady 標準。

該服務(wù)器采用 OCP DC-MHS 架構(gòu)，這是超大規(guī)模數(shù)據(jù)中心廣泛使用的模塊化服務(wù)器設(shè)計標準。該方案不僅實現(xiàn)了靈活的系統(tǒng)配置，更與現(xiàn)代數(shù)據(jù)中心基礎(chǔ)設(shè)施高度兼容；尤為關(guān)鍵的是，它支持復用 OCP 網(wǎng)卡 (NIC)、DC-SCM 等現(xiàn)有行業(yè)標準組件，減少了定制化平臺設(shè)計需求。

模塊化 1OU 設(shè)計，符合 OCP DC-MHS（數(shù)據(jù)中心模塊化硬件系統(tǒng)）規(guī)范。

采用 DC-MHS M-SDNO B305 類單路 350W 服務(wù)器主板，適配 21 英寸 ORv3 機架。

Arm SystemReady 與 Server Base Manageability 標準，可保障軟件在持續(xù)擴展的 Neoverse 云平臺上穩(wěn)定運行。Arm AGI CPU 1OU 雙節(jié)點參考服務(wù)器符合 Arm SystemReady 標準，可直接運行全球最大的軟件生態(tài)系統(tǒng)，開箱即用，為開發(fā)者提供熟悉的環(huán)境，輕松融入 Arm 軟件生態(tài)系統(tǒng)。

雙節(jié)點 1U 設(shè)計

提升節(jié)點部署密度

Arm AGI CPU 1OU 雙節(jié)點參考服務(wù)器采用雙節(jié)點 (2N) 配置，可在 1U 機箱內(nèi)配置兩個獨立計算節(jié)點，額定功耗 1,100W。此設(shè)計可讓數(shù)據(jù)中心運營商在相同物理空間內(nèi)，將每機架計算節(jié)點數(shù)翻倍，顯著提升整體算力密度。在大規(guī)模部署場景中，該設(shè)計可實現(xiàn)單機架部署更多核心，同時優(yōu)化空間利用率與基礎(chǔ)設(shè)施效率。

每個節(jié)點配備：一顆 Arm AGI CPU、12 個 DDR5 DIMM 插槽，以及強大的 PCIe Gen 6.0 擴展能力。存儲方面，采用 PCIe Gen5.0 SSD ，位于前端，方便運維，每個節(jié)點支持 E1.S 系統(tǒng)啟動盤與數(shù)據(jù)盤組合，并配備額外的內(nèi)置存儲接口，提供更靈活的擴展選項。每個節(jié)點搭載一張 NIC 3.0 網(wǎng)卡，提供高帶寬網(wǎng)絡(luò)連接，保障機架內(nèi)高效數(shù)據(jù)傳輸，并可無縫集成至現(xiàn)代數(shù)據(jù)中心網(wǎng)絡(luò)。

系統(tǒng)管理通過搭載 ASPEED AST2600 BMC 的 DC-SCM 2.1 模塊實現(xiàn)。標準前面板 I/O 接口（USB 3.0、1GbE、Micro USB、Mini DisplayPort）便于調(diào)試與訪問。散熱采用 19+1 冗余雙轉(zhuǎn)子風扇方案。整機通過符合 OCP ORv3 標準的 48V 總線供電，高度適配現(xiàn)代數(shù)據(jù)中心基礎(chǔ)設(shè)施。

系統(tǒng)經(jīng)過全面驗證

品質(zhì)值得信賴

從信號完整性仿真到硬件壓力測試，Arm AGI CPU 1OU 雙節(jié)點參考服務(wù)器均按照行業(yè)標準完成設(shè)計與驗證。系統(tǒng)針對 PCIe Gen6 和 DDR5 接口執(zhí)行了嚴格的裕量測試，標準認證流程還涵蓋了眼圖測試、電壓/時序校驗及一致性合規(guī)檢測。

在散熱設(shè)計上，該平臺可在 40℃ 環(huán)境溫度下持續(xù)穩(wěn)定支撐 350W 系統(tǒng)級芯片 (SoC) 運行?？煽啃詼y試涵蓋高低溫循環(huán)、耐濕性測試、運行負載測試 (OLT) 以及振動/沖擊評估，全面保障設(shè)備在實際部署環(huán)境中的穩(wěn)定性和可靠性。

此外，該平臺還配備測試點、調(diào)試接口與上電調(diào)試診斷功能，支持固件與芯片驗證團隊的開發(fā)和調(diào)試工作。

芯片生命周期 (SLC) 管理是集群 (fleet) 管理的關(guān)鍵環(huán)節(jié)。隨著該參考服務(wù)器的發(fā)布，Arm 同步推出全新的 Arm 系統(tǒng)診斷工具 (Arm System Diagnostic Tools)。作為一套現(xiàn)代化的 SLC 健康管理工具，它可在靜默數(shù)據(jù)損壞 (SDC) 等系統(tǒng)問題影響工作負載前，實現(xiàn)提前檢測、診斷與預防。壓力與穩(wěn)定性測試模式可保障硬件順利部署，SDC 與 SLT 模式則可確保集群持續(xù)穩(wěn)定運行。

從硬件平臺到開發(fā)環(huán)境

Arm 不止于提供高性能硬件，更致力于在云端與本地環(huán)境中，為開發(fā)者打造全棧式開發(fā)體驗。為此，Arm 持續(xù)深耕工具研發(fā)，讓開發(fā)者能更便捷、更高效地在 Arm 平臺上開展性能分析與優(yōu)化工作。

相關(guān)新增功能將把系統(tǒng)級與硬件級運行數(shù)據(jù)整合，并提供指導性分析，幫助開發(fā)者更輕松地定位 CPU、內(nèi)存及整體系統(tǒng)的性能瓶頸。這些舉措立足于 Arm 更廣泛的軟件戰(zhàn)略，旨在簡化基于 Arm 平臺的遷移、驗證與優(yōu)化流程，讓開發(fā)者滿懷信心地遷移至 Arm 架構(gòu)，輕松達成量產(chǎn)級性能表現(xiàn)。

不斷擴展的行業(yè)合作伙伴生態(tài)系統(tǒng)

Arm AGI CPU 得到了日益壯大的軟硬件合作伙伴生態(tài)系統(tǒng)的鼎力支持。

Arm 攜手各行業(yè)供應商，構(gòu)建了覆蓋內(nèi)存、存儲、網(wǎng)絡(luò)等關(guān)鍵系統(tǒng)組件的認證供應商名錄 (AVL)，只為幫助客戶放心選用經(jīng)過驗證的組件。

與此同時，包括永擎電子、聯(lián)想、Supermicro 等主流服務(wù)器制造商正基于 Arm AGI CPU 積極開發(fā)并驗證量產(chǎn)系統(tǒng)，為客戶提供更加豐富的定制化方案與部署支持。

服務(wù)器離不開固件的支持。Arm 與 AMI 緊密合作，確保其行業(yè)標準的 Aptio BIOS 和 MegaRAC OneTree BMC 產(chǎn)品，結(jié)合 EDK2、OpenBMC 等開源參考實現(xiàn)，為全行業(yè)技術(shù)創(chuàng)新與高效運維奠定堅實基礎(chǔ)。

為支持有意評估此平臺的軟件開發(fā)者與 ISV 合作伙伴，Arm 正與 Canonical、紅帽、SUSE 等主流 Linux 發(fā)行版廠商緊密協(xié)作，確保為量產(chǎn)系統(tǒng)提供官方認證支持。此外，開發(fā)者可借助由適配 Arm 架構(gòu)的 1,000 余款開源及商業(yè)軟件包所構(gòu)成的成熟軟件生態(tài)系統(tǒng)，構(gòu)建并運行自己的工作負載。

設(shè)計軟件包、工具和客戶支持

為加速開發(fā)進程，Arm 提供詳盡的技術(shù)文檔與設(shè)計軟件包，包括全套原理圖、布局文件、SI/PI 模型、電源與散熱方案、固件指南及安裝說明。另外還包含 BIOS 與 BMC 上電調(diào)試流程，方便團隊集成定制固件或擴展平臺功能。

客戶還可訪問板載調(diào)試工具、培訓資源以及持續(xù)完善的自助知識庫。無論客戶是首次部署基于 Arm 架構(gòu)的服務(wù)器，還是將 Arm AGI CPU 集成到更大規(guī)模的平臺，Arm 都將在每一環(huán)節(jié)全程跟進，為其保駕護航。

加速新一代基礎(chǔ)設(shè)施建設(shè)

Arm AGI CPU 1OU 雙節(jié)點參考服務(wù)器，是推動基于 Arm 計算平臺建設(shè)新一代 AI 基礎(chǔ)設(shè)施的重要里程碑。在芯片與參考平臺設(shè)計階段，Arm AGI CPU 便以機架級部署為核心目標，助力基礎(chǔ)設(shè)施提供商為現(xiàn)代數(shù)據(jù)中心提高算力密度、優(yōu)化能效并降低運營成本。

此外，該系統(tǒng)將高性能 Arm 服務(wù)器芯片、模塊化標準平臺與完備的軟件棧相結(jié)合，為開發(fā)者與合作伙伴提供了探索、評估與部署規(guī)?；?Arm 架構(gòu)基礎(chǔ)設(shè)施所需的各種能力。

無論你正在設(shè)計定制化基礎(chǔ)設(shè)施、為基于 Arm 架構(gòu)的系統(tǒng)優(yōu)化工作負載，還是打造新一代具備 AI 功能的云服務(wù)，Arm AGI CPU 1OU 雙節(jié)點參考服務(wù)器都將為你的業(yè)務(wù)發(fā)展提供堅實算力支撐。

* 本文為 Arm 原創(chuàng)文章，轉(zhuǎn)載請留言聯(lián)系獲得授權(quán)并注明出處。