作者：Arm 云 AI 事業(yè)部產(chǎn)品經(jīng)理 Shivangi Agrawal

近日發(fā)布的Arm AGI CPU是 Arm 首款面向人工智能 (AI) 數(shù)據(jù)中心的量產(chǎn)級(jí)芯片產(chǎn)品。與此同時(shí)，Arm 也同步推出一款模塊化、基于標(biāo)準(zhǔn)的 1OU 雙節(jié)點(diǎn)參考服務(wù)器，將基于 Arm Neoverse V3 打造的 Arm AGI CPU 所秉持的機(jī)架優(yōu)先設(shè)計(jì)理念落到實(shí)處。參考服務(wù)器提供貼近實(shí)際的生產(chǎn)環(huán)境，可用于工作負(fù)載評(píng)估、軟件棧優(yōu)化，并加速下一代 Arm 架構(gòu)基礎(chǔ)設(shè)施的落地部署。

隨著 AI 應(yīng)用加速普及，數(shù)據(jù)中心正邁入一個(gè)全新發(fā)展紀(jì)元。云服務(wù)規(guī)?？焖贁U(kuò)張，受代理式 AI 用例的加速驅(qū)動(dòng)，AI 工作負(fù)載不再局限于模型訓(xùn)練，而是開(kāi)始廣泛部署在商用場(chǎng)景中。為緊跟發(fā)展節(jié)奏，基礎(chǔ)設(shè)施必須在供電、散熱與空間限制不變的前提下，實(shí)現(xiàn)算力與能效的大幅提升。

性能已不再由單臺(tái)服務(wù)器定義，而是由機(jī)架級(jí)來(lái)衡量。提升單機(jī)架算力、優(yōu)化能效、最大化基礎(chǔ)設(shè)施密度，已然成為現(xiàn)代數(shù)據(jù)中心架構(gòu)設(shè)計(jì)的決定性驅(qū)動(dòng)因素。

專為機(jī)架級(jí)部署而生

Arm AGI CPU 1OU 雙節(jié)點(diǎn)參考服務(wù)器另辟蹊徑，以 1OU 機(jī)箱雙節(jié)點(diǎn)服務(wù)器形態(tài)面向機(jī)架級(jí)部署打造，大幅提升單機(jī)架的算力密度。這一設(shè)計(jì)理念貫穿平臺(tái)的多個(gè)維度，呈現(xiàn)諸多亮點(diǎn)：

智能體性能調(diào)優(yōu)：每節(jié)點(diǎn)最多搭載 136 個(gè) Neoverse V3 核心，單核內(nèi)存帶寬高達(dá) 6 GB/s，延遲低于 100ns，性能穩(wěn)居行業(yè)前列。

機(jī)架擴(kuò)展架構(gòu)：300W TDP 可在標(biāo)準(zhǔn) 36kW 風(fēng)冷機(jī)架中部署多達(dá) 8,160 個(gè)核心；相較之下，500W TDP 的 x86 方案則需使用 2U 機(jī)箱。

出色算力密度：?jiǎn)螜C(jī)架性能達(dá)到同類 x86 方案兩倍以上。[注]

[注] 數(shù)值為估算值

參考服務(wù)器的重要意義

放眼整個(gè)行業(yè)，芯片廠商都會(huì)利用參考平臺(tái)為系統(tǒng)設(shè)計(jì)與軟件適配提供經(jīng)過(guò)驗(yàn)證的設(shè)計(jì)藍(lán)本。這類平臺(tái)可讓基礎(chǔ)設(shè)施合作伙伴在自研定制服務(wù)器之前，先在接近生產(chǎn)環(huán)境中對(duì)全新芯片進(jìn)行評(píng)估。將新一代平臺(tái)推向市場(chǎng)，需要一套完整的系統(tǒng)環(huán)境，包括固件、操作系統(tǒng)、內(nèi)存、存儲(chǔ)、網(wǎng)絡(luò)及系統(tǒng)管理等組件。

參考服務(wù)器堪稱量產(chǎn)服務(wù)器的起步基石，可實(shí)現(xiàn)：

加快平臺(tái)上線時(shí)間：開(kāi)發(fā)者可啟動(dòng)多種操作系統(tǒng)、部署軟件棧，并即刻開(kāi)展平臺(tái)專項(xiàng)優(yōu)化。

經(jīng)過(guò)驗(yàn)證的系統(tǒng)架構(gòu)：內(nèi)存、I/O、存儲(chǔ)和固件等組件均已完成預(yù)先集成和測(cè)試。

性能評(píng)估：合作伙伴可對(duì)實(shí)際工作負(fù)載進(jìn)行基準(zhǔn)測(cè)試、功耗評(píng)估，并了解平臺(tái)在其生產(chǎn)環(huán)境中的實(shí)際表現(xiàn)。

加速生態(tài)系統(tǒng)發(fā)展：OEM/ODM、操作系統(tǒng)廠商、ISV 以及云服務(wù)提供商均可圍繞統(tǒng)一平臺(tái)開(kāi)展協(xié)作。

全新的 Arm AGI CPU 1OU 雙節(jié)點(diǎn)參考服務(wù)器，正是為這些目標(biāo)而打造。

內(nèi)在核心：Arm AGI CPU

該平臺(tái)的核心，正是 Arm AGI CPU。這款處理器基于 Neoverse V3 平臺(tái)打造，專為現(xiàn)代云計(jì)算與 AI 工作負(fù)載量身定制，凝聚了 Arm 近十年在 Neoverse 基礎(chǔ)設(shè)施領(lǐng)域的技術(shù)積淀與創(chuàng)新成果，并轉(zhuǎn)化為可規(guī)?；慨a(chǎn)的服務(wù)器級(jí)芯片。Arm AGI CPU 采用臺(tái)積公司先進(jìn)的 3nm N3P 工藝制造，在 300W 風(fēng)冷功耗范圍內(nèi)，全核頻率最高可達(dá) 3.2 GHz。這為現(xiàn)代 AI 與云工作負(fù)載帶來(lái)了高密度算力與出色的每瓦性能。

Arm AGI CPU 單顆最多集成 136 個(gè)高性能 Neoverse V3 核心，其基于 Armv9.2 指令集架構(gòu) (ISA)，每個(gè)核心配備雙 128 位第二代可伸縮矢量擴(kuò)展 (SVE2) 單元。這些特性可高效加速 AI 與機(jī)器學(xué)習(xí)能力，支持 bfloat16 及 INT8 MMLA 指令。Arm AGI CPU 全核主頻最高可達(dá) 3.2GHz（boost 最高 3.7GHz），在推理請(qǐng)求處理、數(shù)據(jù)預(yù)處理等對(duì)延遲敏感的任務(wù)中，展現(xiàn)出強(qiáng)勁的單核性能。其設(shè)計(jì)可靈活擴(kuò)展，高度適配 AI 推理、代理式 AI、云原生計(jì)算及各類企業(yè)級(jí)實(shí)際工作負(fù)載。

高內(nèi)存帶寬

滿足數(shù)據(jù)密集型工作負(fù)載需求

現(xiàn)代工作負(fù)載對(duì)系統(tǒng)高效處理海量數(shù)據(jù)傳輸?shù)哪芰μ岢隽烁咭?。Arm AGI CPU 集成 12 通道 DDR5 內(nèi)存，支持最高 8,800 MT/s 速率的 DIMM，提供超過(guò) 800 GB/s 的內(nèi)存帶寬。這種高帶寬內(nèi)存架構(gòu)可實(shí)現(xiàn)單核 6 GB/s 帶寬，使平臺(tái)在 AI 推理、大規(guī)模數(shù)據(jù)分析、高性能數(shù)據(jù)庫(kù)等工作負(fù)載下保持高吞吐能力。

通過(guò)緩解內(nèi)存瓶頸，系統(tǒng)可以更充分地利用 CPU 核心資源，支持?jǐn)?shù)據(jù)密集型業(yè)務(wù)的更高效運(yùn)行。

專為異構(gòu)計(jì)算設(shè)計(jì)

賦能代理式 AI 數(shù)據(jù)中心

CPU 是 AI 數(shù)據(jù)中心的基石，在代理式 AI 領(lǐng)域扮演關(guān)鍵角色，作為 AI 系統(tǒng)的頭節(jié)點(diǎn)承擔(dān)以下核心任務(wù)，包括協(xié)調(diào)控制平面、調(diào)度和路由工作負(fù)載、管理 I/O、處理網(wǎng)絡(luò)與存儲(chǔ)服務(wù)、執(zhí)行安全策略、管理專用加速器之間的數(shù)據(jù)編排，以及保障整體系統(tǒng)的平衡。

為支撐這類異構(gòu)計(jì)算環(huán)境，Arm AGI CPU 提供了豐富的高速 I/O 接口與可組合式架構(gòu)，具體包括：

96 條 PCIe Gen6 通道，用于連接加速器、網(wǎng)絡(luò)和存儲(chǔ)；

原生支持 CXL 3.0，可實(shí)現(xiàn)內(nèi)存擴(kuò)展和池化；

AMBA CHI 擴(kuò)展鏈路，面向未來(lái)芯粒與加速器互聯(lián)架構(gòu)。

憑借這些特性，CPU 可作為核心編排層，協(xié)調(diào)整個(gè)系統(tǒng)內(nèi)的數(shù)據(jù)遷移與工作負(fù)載執(zhí)行。

基于開(kāi)放標(biāo)準(zhǔn)構(gòu)建的模塊化平臺(tái)

Arm AGI CPU 1OU 雙節(jié)點(diǎn)參考服務(wù)器在設(shè)計(jì)上同樣致力于簡(jiǎn)化 Arm 合作伙伴的系統(tǒng)評(píng)估與平臺(tái)開(kāi)發(fā)工作。它搭載了預(yù)先驗(yàn)證的即用型軟硬件框架，可快速進(jìn)行設(shè)計(jì)、部署以及工作負(fù)載性能評(píng)估。該服務(wù)器設(shè)計(jì)遵循開(kāi)放計(jì)算項(xiàng)目 (OCP) 與 Arm SystemReady 標(biāo)準(zhǔn)。

該服務(wù)器采用 OCP DC-MHS 架構(gòu)，這是超大規(guī)模數(shù)據(jù)中心廣泛使用的模塊化服務(wù)器設(shè)計(jì)標(biāo)準(zhǔn)。該方案不僅實(shí)現(xiàn)了靈活的系統(tǒng)配置，更與現(xiàn)代數(shù)據(jù)中心基礎(chǔ)設(shè)施高度兼容；尤為關(guān)鍵的是，它支持復(fù)用 OCP 網(wǎng)卡 (NIC)、DC-SCM 等現(xiàn)有行業(yè)標(biāo)準(zhǔn)組件，減少了定制化平臺(tái)設(shè)計(jì)需求。

模塊化 1OU 設(shè)計(jì)，符合 OCP DC-MHS（數(shù)據(jù)中心模塊化硬件系統(tǒng)）規(guī)范。

采用 DC-MHS M-SDNO B305 類單路 350W 服務(wù)器主板，適配 21 英寸 ORv3 機(jī)架。

Arm SystemReady 與 Server Base Manageability 標(biāo)準(zhǔn)，可保障軟件在持續(xù)擴(kuò)展的 Neoverse 云平臺(tái)上穩(wěn)定運(yùn)行。Arm AGI CPU 1OU 雙節(jié)點(diǎn)參考服務(wù)器符合 Arm SystemReady 標(biāo)準(zhǔn)，可直接運(yùn)行全球最大的軟件生態(tài)系統(tǒng)，開(kāi)箱即用，為開(kāi)發(fā)者提供熟悉的環(huán)境，輕松融入 Arm 軟件生態(tài)系統(tǒng)。

雙節(jié)點(diǎn) 1U 設(shè)計(jì)

提升節(jié)點(diǎn)部署密度

Arm AGI CPU 1OU 雙節(jié)點(diǎn)參考服務(wù)器采用雙節(jié)點(diǎn) (2N) 配置，可在 1U 機(jī)箱內(nèi)配置兩個(gè)獨(dú)立計(jì)算節(jié)點(diǎn)，額定功耗 1,100W。此設(shè)計(jì)可讓數(shù)據(jù)中心運(yùn)營(yíng)商在相同物理空間內(nèi)，將每機(jī)架計(jì)算節(jié)點(diǎn)數(shù)翻倍，顯著提升整體算力密度。在大規(guī)模部署場(chǎng)景中，該設(shè)計(jì)可實(shí)現(xiàn)單機(jī)架部署更多核心，同時(shí)優(yōu)化空間利用率與基礎(chǔ)設(shè)施效率。

每個(gè)節(jié)點(diǎn)配備：一顆 Arm AGI CPU、12 個(gè) DDR5 DIMM 插槽，以及強(qiáng)大的 PCIe Gen 6.0 擴(kuò)展能力。存儲(chǔ)方面，采用 PCIe Gen5.0 SSD ，位于前端，方便運(yùn)維，每個(gè)節(jié)點(diǎn)支持 E1.S 系統(tǒng)啟動(dòng)盤(pán)與數(shù)據(jù)盤(pán)組合，并配備額外的內(nèi)置存儲(chǔ)接口，提供更靈活的擴(kuò)展選項(xiàng)。每個(gè)節(jié)點(diǎn)搭載一張 NIC 3.0 網(wǎng)卡，提供高帶寬網(wǎng)絡(luò)連接，保障機(jī)架內(nèi)高效數(shù)據(jù)傳輸，并可無(wú)縫集成至現(xiàn)代數(shù)據(jù)中心網(wǎng)絡(luò)。

系統(tǒng)管理通過(guò)搭載 ASPEED AST2600 BMC 的 DC-SCM 2.1 模塊實(shí)現(xiàn)。標(biāo)準(zhǔn)前面板 I/O 接口（USB 3.0、1GbE、Micro USB、Mini DisplayPort）便于調(diào)試與訪問(wèn)。散熱采用 19+1 冗余雙轉(zhuǎn)子風(fēng)扇方案。整機(jī)通過(guò)符合 OCP ORv3 標(biāo)準(zhǔn)的 48V 總線供電，高度適配現(xiàn)代數(shù)據(jù)中心基礎(chǔ)設(shè)施。

系統(tǒng)經(jīng)過(guò)全面驗(yàn)證

品質(zhì)值得信賴

從信號(hào)完整性仿真到硬件壓力測(cè)試，Arm AGI CPU 1OU 雙節(jié)點(diǎn)參考服務(wù)器均按照行業(yè)標(biāo)準(zhǔn)完成設(shè)計(jì)與驗(yàn)證。系統(tǒng)針對(duì) PCIe Gen6 和 DDR5 接口執(zhí)行了嚴(yán)格的裕量測(cè)試，標(biāo)準(zhǔn)認(rèn)證流程還涵蓋了眼圖測(cè)試、電壓/時(shí)序校驗(yàn)及一致性合規(guī)檢測(cè)。

在散熱設(shè)計(jì)上，該平臺(tái)可在 40℃ 環(huán)境溫度下持續(xù)穩(wěn)定支撐 350W 系統(tǒng)級(jí)芯片 (SoC) 運(yùn)行。可靠性測(cè)試涵蓋高低溫循環(huán)、耐濕性測(cè)試、運(yùn)行負(fù)載測(cè)試 (OLT) 以及振動(dòng)/沖擊評(píng)估，全面保障設(shè)備在實(shí)際部署環(huán)境中的穩(wěn)定性和可靠性。

此外，該平臺(tái)還配備測(cè)試點(diǎn)、調(diào)試接口與上電調(diào)試診斷功能，支持固件與芯片驗(yàn)證團(tuán)隊(duì)的開(kāi)發(fā)和調(diào)試工作。

芯片生命周期 (SLC) 管理是集群 (fleet) 管理的關(guān)鍵環(huán)節(jié)。隨著該參考服務(wù)器的發(fā)布，Arm 同步推出全新的 Arm 系統(tǒng)診斷工具 (Arm System Diagnostic Tools)。作為一套現(xiàn)代化的 SLC 健康管理工具，它可在靜默數(shù)據(jù)損壞 (SDC) 等系統(tǒng)問(wèn)題影響工作負(fù)載前，實(shí)現(xiàn)提前檢測(cè)、診斷與預(yù)防。壓力與穩(wěn)定性測(cè)試模式可保障硬件順利部署，SDC 與 SLT 模式則可確保集群持續(xù)穩(wěn)定運(yùn)行。

從硬件平臺(tái)到開(kāi)發(fā)環(huán)境

Arm 不止于提供高性能硬件，更致力于在云端與本地環(huán)境中，為開(kāi)發(fā)者打造全棧式開(kāi)發(fā)體驗(yàn)。為此，Arm 持續(xù)深耕工具研發(fā)，讓開(kāi)發(fā)者能更便捷、更高效地在 Arm 平臺(tái)上開(kāi)展性能分析與優(yōu)化工作。

相關(guān)新增功能將把系統(tǒng)級(jí)與硬件級(jí)運(yùn)行數(shù)據(jù)整合，并提供指導(dǎo)性分析，幫助開(kāi)發(fā)者更輕松地定位 CPU、內(nèi)存及整體系統(tǒng)的性能瓶頸。這些舉措立足于 Arm 更廣泛的軟件戰(zhàn)略，旨在簡(jiǎn)化基于 Arm 平臺(tái)的遷移、驗(yàn)證與優(yōu)化流程，讓開(kāi)發(fā)者滿懷信心地遷移至 Arm 架構(gòu)，輕松達(dá)成量產(chǎn)級(jí)性能表現(xiàn)。

不斷擴(kuò)展的行業(yè)合作伙伴生態(tài)系統(tǒng)

Arm AGI CPU 得到了日益壯大的軟硬件合作伙伴生態(tài)系統(tǒng)的鼎力支持。

Arm 攜手各行業(yè)供應(yīng)商，構(gòu)建了覆蓋內(nèi)存、存儲(chǔ)、網(wǎng)絡(luò)等關(guān)鍵系統(tǒng)組件的認(rèn)證供應(yīng)商名錄 (AVL)，只為幫助客戶放心選用經(jīng)過(guò)驗(yàn)證的組件。

與此同時(shí)，包括永擎電子、聯(lián)想、Supermicro 等主流服務(wù)器制造商正基于 Arm AGI CPU 積極開(kāi)發(fā)并驗(yàn)證量產(chǎn)系統(tǒng)，為客戶提供更加豐富的定制化方案與部署支持。

服務(wù)器離不開(kāi)固件的支持。Arm 與 AMI 緊密合作，確保其行業(yè)標(biāo)準(zhǔn)的 Aptio BIOS 和 MegaRAC OneTree BMC 產(chǎn)品，結(jié)合 EDK2、OpenBMC 等開(kāi)源參考實(shí)現(xiàn)，為全行業(yè)技術(shù)創(chuàng)新與高效運(yùn)維奠定堅(jiān)實(shí)基礎(chǔ)。

為支持有意評(píng)估此平臺(tái)的軟件開(kāi)發(fā)者與 ISV 合作伙伴，Arm 正與 Canonical、紅帽、SUSE 等主流 Linux 發(fā)行版廠商緊密協(xié)作，確保為量產(chǎn)系統(tǒng)提供官方認(rèn)證支持。此外，開(kāi)發(fā)者可借助由適配 Arm 架構(gòu)的 1,000 余款開(kāi)源及商業(yè)軟件包所構(gòu)成的成熟軟件生態(tài)系統(tǒng)，構(gòu)建并運(yùn)行自己的工作負(fù)載。

設(shè)計(jì)軟件包、工具和客戶支持

為加速開(kāi)發(fā)進(jìn)程，Arm 提供詳盡的技術(shù)文檔與設(shè)計(jì)軟件包，包括全套原理圖、布局文件、SI/PI 模型、電源與散熱方案、固件指南及安裝說(shuō)明。另外還包含 BIOS 與 BMC 上電調(diào)試流程，方便團(tuán)隊(duì)集成定制固件或擴(kuò)展平臺(tái)功能。

客戶還可訪問(wèn)板載調(diào)試工具、培訓(xùn)資源以及持續(xù)完善的自助知識(shí)庫(kù)。無(wú)論客戶是首次部署基于 Arm 架構(gòu)的服務(wù)器，還是將 Arm AGI CPU 集成到更大規(guī)模的平臺(tái)，Arm 都將在每一環(huán)節(jié)全程跟進(jìn)，為其保駕護(hù)航。

加速新一代基礎(chǔ)設(shè)施建設(shè)

Arm AGI CPU 1OU 雙節(jié)點(diǎn)參考服務(wù)器，是推動(dòng)基于 Arm 計(jì)算平臺(tái)建設(shè)新一代 AI 基礎(chǔ)設(shè)施的重要里程碑。在芯片與參考平臺(tái)設(shè)計(jì)階段，Arm AGI CPU 便以機(jī)架級(jí)部署為核心目標(biāo)，助力基礎(chǔ)設(shè)施提供商為現(xiàn)代數(shù)據(jù)中心提高算力密度、優(yōu)化能效并降低運(yùn)營(yíng)成本。

此外，該系統(tǒng)將高性能 Arm 服務(wù)器芯片、模塊化標(biāo)準(zhǔn)平臺(tái)與完備的軟件棧相結(jié)合，為開(kāi)發(fā)者與合作伙伴提供了探索、評(píng)估與部署規(guī)?；?Arm 架構(gòu)基礎(chǔ)設(shè)施所需的各種能力。

無(wú)論你正在設(shè)計(jì)定制化基礎(chǔ)設(shè)施、為基于 Arm 架構(gòu)的系統(tǒng)優(yōu)化工作負(fù)載，還是打造新一代具備 AI 功能的云服務(wù)，Arm AGI CPU 1OU 雙節(jié)點(diǎn)參考服務(wù)器都將為你的業(yè)務(wù)發(fā)展提供堅(jiān)實(shí)算力支撐。

* 本文為 Arm 原創(chuàng)文章，轉(zhuǎn)載請(qǐng)留言聯(lián)系獲得授權(quán)并注明出處。