亞馬遜網(wǎng)絡(luò)服務(wù)公司（Amazon Web Services）不久將擁有一臺(tái)由英偉達(dá)（Nvidia）制造的新型超級(jí)計(jì)算機(jī)，該公司稱這是世界上速度最快的人工智能系統(tǒng)之一。

在使用 FP8 數(shù)據(jù)類型測(cè)試時(shí)，該系統(tǒng)可提供 65 exaflops 的人工智能性能。Nvidia 負(fù)責(zé)超大規(guī)模和 HPC 的副總裁 Ian Buck 在新聞發(fā)布會(huì)上說，這也是世界上第一臺(tái)基于 ARM 的云計(jì)算 AI 超級(jí)計(jì)算機(jī)。

新的DGX Cloud Project Ceiba系統(tǒng)圍繞Nvidia組件構(gòu)建，但經(jīng)過調(diào)整后可連接到AWS的Nitro芯片，后者提供底層網(wǎng)絡(luò)、存儲(chǔ)和安全基礎(chǔ)設(shè)施。

Project Ceiba將于2024年安裝完畢，屆時(shí)可供客戶使用。該系統(tǒng)與其他Nvidia DGX Cloud實(shí)施系統(tǒng)不同，后者已被克隆到微軟的Azure、甲骨文云和谷歌云上。

65 exaflops的性能來自5個(gè)Grace Hopper超級(jí)芯片，機(jī)架由AWS的彈性結(jié)構(gòu)適配器連接，用于超級(jí)計(jì)算應(yīng)用程序。

Buck說："這臺(tái)新的超級(jí)計(jì)算機(jī)將在 AWS 基礎(chǔ)設(shè)施中運(yùn)行，并由 Nvidia 自己的研究和工程團(tuán)隊(duì)開發(fā)用于開發(fā)圖形、大型語言模型研究的新人工智能，并用于數(shù)字生物學(xué)、機(jī)器人研究和自動(dòng)駕駛汽車。

AWS 還發(fā)布了搭載英偉達(dá)H200、L40S和L4 GPU的新虛擬機(jī)。這些產(chǎn)品是在拉斯維加斯舉行的 ReInvent 大會(huì)上發(fā)布的。

AWS 還發(fā)布了其最新 CPU Graviton4，它是 Graviton3 的后繼產(chǎn)品，將被用于 EC2。不過，亞馬遜在一篇博客文章中稱，與 Graviton3 芯片相比，該 CPU 的內(nèi)核增加了 50%，速度提高了 30%，內(nèi)存帶寬增加了 75%。

CCS Insight 首席分析師詹姆斯-桑德斯（James Sanders）說，考慮到 Graviton 處理器與 Arm Neoverse 內(nèi)核設(shè)計(jì)發(fā)布節(jié)奏之間的關(guān)系，Graviton4 的發(fā)布在意料之中。Graviton4 以 Neoverse V2 為藍(lán)本，而 Graviton 3 則以 Neoverse V1 為藍(lán)本。

"兩者在微架構(gòu)上的主要變化是升級(jí)到了Armv9，從而提高了進(jìn)程隔離和向量擴(kuò)展。桑德斯說："前者在云環(huán)境中非常有用，也是對(duì) Spectre 和 Meltdown 等側(cè)信道攻擊的一種反應(yīng)，而后者則對(duì)人工智能推理非常有用。

最新的CPU是Graviton 3E，它是AWS用于超級(jí)計(jì)算的最高性能CPU。桑德斯說，Graviton4全面上市后，將有更多不同價(jià)位的實(shí)例類型可供選擇。

相比之下，微軟新推出的 Cobalt 100 是基于 Arm 的 Neoverse N2 CSS，也是 Armv9。Neoverse N 系列面向主流數(shù)據(jù)中心，而 V 系列則面向更高性能的工作負(fù)載，這將使 Graviton4 更具優(yōu)勢(shì)。

亞馬遜也終于發(fā)布了名為 Trainium2 的下一代訓(xùn)練芯片，其訓(xùn)練速度是近三年前發(fā)布的首款 Trainium 芯片的四倍。

"亞馬遜在一篇博文中說："它將能部署在多達(dá) 10 萬個(gè)芯片的 EC2 UltraClusters 中，使基礎(chǔ)模型和大型語言模型（LLM）的訓(xùn)練只需極少的時(shí)間，同時(shí)能效提高達(dá) 2 倍。

AWS 現(xiàn)在擁有兩款 ARM CPU，包括 Nvidia 的 Grace 和自己的 Graviton4。Nvidia的Grace提供對(duì)GPU的訪問，而Graviton4提供對(duì)Trainium的訪問。Graviton4 目前還不能與 Nvidia GPU 協(xié)同工作。

由于模型開發(fā)和定制的增加，這方面的需求是存在的，盡管這需要對(duì)針對(duì) Nvidia CUDA 環(huán)境的項(xiàng)目進(jìn)行一些工具調(diào)整。

"桑德斯說："奇怪的是，[AWS 首席執(zhí)行官]亞當(dāng)-塞利普斯基（Adam Selipsky）指出，當(dāng)谷歌正在使用第四代 TPU 時(shí)，其他云計(jì)算公司才在談?wù)撍鼈兊?AI 芯片。

審核編輯：劉清