最近，Arm 發(fā)布首款自研的數(shù)據(jù)中心 CPU即Arm AGI CPU，專為代理式 AI 基礎(chǔ)設(shè)施打造，可實(shí)現(xiàn)單機(jī)架性能達(dá)到 x86 平臺(tái)的兩倍以上。



Arm看到，隨著企業(yè)不斷擴(kuò)大由智能體驅(qū)動(dòng)的應(yīng)用規(guī)模，數(shù)據(jù)中心對(duì)每吉瓦 (GW) 功耗提供的CPU算力需求將增長(zhǎng)至當(dāng)前的四倍以上。傳統(tǒng)數(shù)據(jù)中心架構(gòu)下每1吉瓦的數(shù)據(jù)中心算力需要3000萬(wàn)個(gè)CPU核，在AGI時(shí)代這一需求將擴(kuò)展至1.2億個(gè)。也就是說(shuō)，相同功耗限制下實(shí)現(xiàn)算力的大幅提升。

面向 AI 規(guī)?；A(chǔ)設(shè)施的ArmCPU既能支撐高吞吐量所需的性能，又能滿足實(shí)際功耗限制下的能效要求，同時(shí)采用簡(jiǎn)化架構(gòu)，擺脫 x86 處理器的額外開銷與復(fù)雜性。如此一來(lái)，以高能效為突出特點(diǎn)的Arm CPU在數(shù)據(jù)中心市場(chǎng)具有巨大的機(jī)會(huì)。



ArmAGI CPU聚焦三大特性，單線程設(shè)計(jì)突破性能天花板

Arm AGI CPU 的核心特性從性能、擴(kuò)展性、能效等方面具體來(lái)看。

首先是性能。單顆CPU集成多達(dá)136個(gè) Arm NeoverseV3 核心，在單核、系統(tǒng)級(jí)芯片 (SoC)、刀片式服務(wù)器及機(jī)架各層級(jí)均實(shí)現(xiàn)行業(yè)領(lǐng)先的性能表現(xiàn)，同時(shí)提供每核心 6GB/s 內(nèi)存帶寬，時(shí)延低于 100 ns。

Arm高管解析，基于臺(tái)積電3nm工藝，該CPU主頻可達(dá)3.7GHz，每個(gè)核配2MB二級(jí)緩存，采用96路PCIe 6.0，CXL3.0支持內(nèi)存擴(kuò)展功能。DDR5支持6GB帶寬，每個(gè)核能夠滿速運(yùn)行。采用雙小芯片設(shè)計(jì)，每個(gè)小芯片直接集成內(nèi)存與IO，不需復(fù)雜的NUMA架構(gòu)（非一致性內(nèi)存訪問(wèn)架構(gòu)），或是在片與片間跳轉(zhuǎn)。

擴(kuò)展性方面，300瓦TDP 設(shè)計(jì)，每線程獨(dú)立核心，可在持續(xù)負(fù)載下提供確定性性能，避免降頻與線程閑置。

能效方面，Arm 的參考服務(wù)器采用 1OU 雙節(jié)點(diǎn)設(shè)計(jì)，每臺(tái)刀片服務(wù)器中集成兩顆 CPU 芯片，并配備獨(dú)立內(nèi)存與 I/O，共計(jì) 272 個(gè)核心。這些刀片服務(wù)器可在標(biāo)準(zhǔn)風(fēng)冷 36 千瓦 (kW) 機(jī)架中滿配部署，30 臺(tái)刀片服務(wù)器可提供總計(jì) 8,160 個(gè)核心。此外，Arm 還與 Supermicro 合作推出 200 千瓦 (kW) 液冷設(shè)計(jì)方案，可容納 336 顆 Arm AGI CPU，提供超過(guò) 45,000 個(gè)核心。

“確保每個(gè)時(shí)鐘周期完成更多工作負(fù)載，這一直是ARM的優(yōu)勢(shì)。傳統(tǒng)上CPU通過(guò)提升頻率、超頻來(lái)提升運(yùn)行速度，但功耗也會(huì)隨之提升。超頻是沒(méi)有辦法長(zhǎng)期穩(wěn)定運(yùn)行的。傳統(tǒng)架構(gòu)多線程狀態(tài)下兩個(gè)任務(wù)一個(gè)核工作，但I(xiàn)O和帶寬并沒(méi)有提升，只是把瓶頸移到了其他地方，而且CPU還要管理這些進(jìn)程。數(shù)據(jù)中心運(yùn)營(yíng)商不得不超配30%或更多來(lái)解決非線程拓展的問(wèn)題。但AGI CPU使用單線程，就可以全程穩(wěn)定和滿性能運(yùn)行，我們可以線性拓展，我們的IO子系統(tǒng)為匹配這些核提供6GB內(nèi)存帶寬。”

這些特性能夠?qū)崿F(xiàn)更高的工作負(fù)載密度，更優(yōu)的加速器利用率，并在現(xiàn)有功耗預(yù)算內(nèi)釋放更多可用算力。Arm AGI CPU 可實(shí)現(xiàn)單機(jī)架性能達(dá)到 x86 平臺(tái)的兩倍以上，每吉瓦 AI 數(shù)據(jù)中心算力的資本支出 (CAPEX) 節(jié)省高達(dá) 100 億美元。

從IP到CSS再到自研芯片全方位方案，市場(chǎng)足夠大客戶認(rèn)可度高

Arm高管表示，合作伙伴可根據(jù)需求，靈活選擇 Arm IP 授權(quán)、 Arm CSS 方案，或直接部署 Arm 自主設(shè)計(jì)的芯片產(chǎn)品。

在談到這種商業(yè)模式是否會(huì)與客戶競(jìng)爭(zhēng)時(shí)，Arm高管直言他們的多元化服務(wù)得到了客戶的積極支持。他說(shuō)，我們認(rèn)為這一市場(chǎng)蘊(yùn)藏著極其巨大的機(jī)遇，足以容納眾多參與者。除自研芯片外，我們將繼續(xù)保留IP授權(quán)、計(jì)算子系統(tǒng) (CSS) 授權(quán)的商業(yè)模式，我們的戰(zhàn)略是通過(guò)產(chǎn)品矩陣的拓展?jié)M足廣泛客戶的多元化需求。包括亞馬遜、谷歌、微軟在內(nèi)的多家Arm技術(shù)授權(quán)客戶均對(duì)此次發(fā)布表示支持，他們不僅為Arm，也為整個(gè)生態(tài)感到振奮。此外，NVIDIA 也在相關(guān)視頻中發(fā)表了積極評(píng)價(jià)，這些足以體現(xiàn)產(chǎn)業(yè)鏈各方對(duì)我們這一布局的態(tài)度。

Arm 已確認(rèn)與Meta、Cerebras、Cloudflare、F5 科技、OpenAI、Positron、Rebellions、SAP、SK 電訊等企業(yè)達(dá)成進(jìn)一步的商務(wù)合作。這些客戶將在代理式 CPU 核心應(yīng)用場(chǎng)景中部署 Arm AGI CPU，覆蓋加速器管理、控制平面處理、云與企業(yè)級(jí) API、任務(wù)與應(yīng)用托管等領(lǐng)域。

為加快產(chǎn)品落地與規(guī)模化部署，Arm 與永擎電子、聯(lián)想、廣達(dá)電腦、Supermicro 等頭部 OEM 廠商及 ODM 廠商展開合作，早期系統(tǒng)現(xiàn)已推出，更廣泛的商用部署預(yù)計(jì)將于今年下半年落地。

超大規(guī)模云服務(wù)商、云計(jì)算、芯片、內(nèi)存、網(wǎng)絡(luò)、軟件、系統(tǒng)設(shè)計(jì)與制造等領(lǐng)域的 50 余家領(lǐng)軍企業(yè)，均對(duì) Arm 計(jì)算平臺(tái)向芯片領(lǐng)域拓展表示支持。其中包括亞馬遜云科技、博通、谷歌、Marvell、美光、微軟、NVIDIA、三星、SK 海力士、臺(tái)積公司等行業(yè)標(biāo)桿企業(yè)。