七款全新芯片全面投產(chǎn)，旨在通過為 AI 各階段（從預(yù)訓(xùn)練、后訓(xùn)練、測(cè)試時(shí)擴(kuò)展，到智能體式推理）提供全面優(yōu)化的可配置 AI 基礎(chǔ)設(shè)施，擴(kuò)展全球最大 AI 工廠的規(guī)模。

新聞?wù)?/p>

NVIDIA Vera Rubin 平臺(tái)正開啟下一個(gè) AI 前沿：

Vera Rubin NVL72 GPU 機(jī)架

Vera CPU 機(jī)架

NVIDIA Groq 3 LPX 推理加速器機(jī)架

NVIDIA BlueField-4 STX 存儲(chǔ)機(jī)架

NVIDIA Spectrum-6 SPX 以太網(wǎng)機(jī)架

加利福尼亞州圣何塞 — GTC — 太平洋時(shí)間 2026 年 3 月 16 日— NVIDIA 今日宣布，NVIDIA Vera Rubin 平臺(tái)正開啟代理式 AI 的下一個(gè)前沿。目前，該平臺(tái)搭載的七款新芯片現(xiàn)已全面投產(chǎn)，旨在擴(kuò)展全球最大 AI 工廠的規(guī)模。

該平臺(tái)集成了 NVIDIA Vera CPU、NVIDIA Rubin GPU、NVIDIA NVLink? 6 交換機(jī)、NVIDIA ConnectX?-9 SuperNIC、NVIDIA BlueField?-4 DPU 和 NVIDIA Spectrum?-6 以太網(wǎng)交換機(jī)，以及新納入的 NVIDIA Groq 3 LPU。這些芯片設(shè)計(jì)為協(xié)同運(yùn)作，構(gòu)成一臺(tái)強(qiáng)大的 AI 超級(jí)計(jì)算機(jī)，可為 AI 的各個(gè)階段提供動(dòng)力——從大規(guī)模預(yù)訓(xùn)練、后訓(xùn)練、測(cè)試階段擴(kuò)展到實(shí)時(shí)智能體式推理。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“Vera Rubin 是一次劃時(shí)代的飛躍——七款突破性芯片、五種機(jī)架、一臺(tái)巨型超級(jí)計(jì)算機(jī)——旨在為 AI 的每個(gè)階段提供澎湃動(dòng)力。代理式 AI 的拐點(diǎn)已經(jīng)到來，Vera Rubin 正拉開歷史上最大規(guī)模的基礎(chǔ)設(shè)施建設(shè)序幕。”

“企業(yè)和開發(fā)者正在使用 Claude 進(jìn)行日益復(fù)雜的推理、智能體工作流以及關(guān)鍵任務(wù)的決策，這要求基礎(chǔ)設(shè)施必須能夠跟上步伐?！盇nthropic CEO 兼聯(lián)合創(chuàng)始人 Dario Amodei 表示?！癗VIDIA 的 Vera Rubin 平臺(tái)為我們提供了計(jì)算、網(wǎng)絡(luò)和系統(tǒng)設(shè)計(jì)，使我們?cè)诓粩嗵嵘蛻羲蕾嚨陌踩院涂煽啃缘耐瑫r(shí)，能夠持續(xù)提供卓越性能?！?/p>

OpenAI 首席執(zhí)行官 Sam Altman 表示：“NVIDIA 的基礎(chǔ)設(shè)施是讓我們不斷推動(dòng) AI 前沿發(fā)展的基石。借助 NVIDIA Vera Rubin，我們將能夠以大規(guī)模運(yùn)行更強(qiáng)大的模型和智能體，并為數(shù)億用戶提供更快速、更可靠的系統(tǒng)?！?/p>

轉(zhuǎn)向 POD 級(jí)系統(tǒng)

AI 基礎(chǔ)設(shè)施正快速演進(jìn)——從分立芯片和單機(jī)服務(wù)器，向完全集成的機(jī)架級(jí)擴(kuò)展系統(tǒng)、POD 級(jí)部署、AI 工廠和主權(quán) AI 發(fā)展。這些進(jìn)步正推動(dòng)性能實(shí)現(xiàn)跨越式增長(zhǎng)，并為各個(gè)行業(yè)各種規(guī)模的機(jī)構(gòu)提升成本效益，從初創(chuàng)公司、中型企業(yè)，到公共和私營機(jī)構(gòu)和大型企業(yè)。同時(shí)，這也有助于普及 AI 技術(shù)，并提高能效，從而為全球最嚴(yán)苛的工作負(fù)載提供動(dòng)力。

通過跨計(jì)算、網(wǎng)絡(luò)與存儲(chǔ)的深度協(xié)同設(shè)計(jì)，并依托由 80 多家 NVIDIA MGX 生態(tài)系統(tǒng)合作伙伴組成的全球供應(yīng)鏈，NVIDIA Vera Rubin 提供了迄今規(guī)模最大的 NVIDIA POD 級(jí)平臺(tái)——這是一款超級(jí)計(jì)算機(jī)，其中多個(gè)專為 AI 設(shè)計(jì)的機(jī)架協(xié)同運(yùn)作，構(gòu)成一個(gè)龐大且統(tǒng)一的強(qiáng)大系統(tǒng)。

NVIDIA Vera Rubin NVL72 機(jī)架

Vera Rubin NVL72 集成了通過 NVLink 6 互連的 72 個(gè) Rubin GPU 和 36 個(gè) Vera CPU，并配備了 ConnectX-9 SuperNIC 與 BlueField-4 DPU，從而實(shí)現(xiàn)了突破性的效率表現(xiàn)。與 NVIDIA Blackwell 平臺(tái)相比，Vera Rubin NVL72 僅需四分之一數(shù)量的 GPU 即可訓(xùn)練大型混合專家模型，每瓦特推理吞吐量最高可提升 10 倍的同時(shí)，每 Token 成本僅為原平臺(tái)的十分之一。

NVL72 專為全球超大規(guī)模 AI 工廠設(shè)計(jì)，通過 NVIDIA Quantum-X800 InfiniBand 和 Spectrum-X 以太網(wǎng)實(shí)現(xiàn)無縫擴(kuò)展，保持大規(guī)模 GPU 集群的高利用率，同時(shí)縮短訓(xùn)練時(shí)間并降低總體擁有成本。

NVIDIA Vera CPU 機(jī)架

強(qiáng)化學(xué)習(xí)和代理式 AI 工作負(fù)載依賴大量基于 CPU 的環(huán)境，來測(cè)試和驗(yàn)證在 GPU 系統(tǒng)上運(yùn)行的模型所生成的結(jié)果。

NVIDIA Vera CPU 機(jī)架提供基于 NVIDIA MGX 打造的高密度液冷基礎(chǔ)設(shè)施，單機(jī)架集成 256 個(gè) Vera CPU，以全球領(lǐng)先的單線程性能，提供可擴(kuò)展且高能效的算力，從而解鎖大規(guī)模代理式 AI 的潛力。

與 Spectrum-X 以太網(wǎng)集成后，Vera CPU 機(jī)架確保 CPU 環(huán)境在整個(gè) AI 工廠內(nèi)保持高度同步。與 GPU 計(jì)算機(jī)架協(xié)同，它們?yōu)榇笠?guī)模代理式 AI 與強(qiáng)化學(xué)習(xí)提供堅(jiān)實(shí)的 CPU 基礎(chǔ)——Vera 的性能表現(xiàn)比傳統(tǒng) CPU 效率提升一倍，速度提升了 50%。

NVIDIA Groq 3 LPX 機(jī)架

NVIDIA Groq 3 LPX 標(biāo)志著加速計(jì)算領(lǐng)域的一個(gè)重要里程碑。專為智能體系統(tǒng)的低延遲和長(zhǎng)上下文需求而設(shè)計(jì)，LPX 與 Vera Rubin 強(qiáng)強(qiáng)聯(lián)合，匯聚了兩款處理器的極致性能，使得每兆瓦的推理吞吐量提升高達(dá) 35 倍，并為萬億參數(shù)模型帶來了多達(dá) 10 倍的營收機(jī)遇。

大規(guī)模部署時(shí)，由 LPU 組成的集群能夠作為一個(gè)巨大的單一邏輯處理器運(yùn)行，提供快速、確定性的推理加速。LPX 機(jī)架搭載 256 個(gè) LPU 處理器，配備 128GB 片上 SRAM 和 640 TB/s 的縱向擴(kuò)展帶寬。與 Vera Rubin NVL72 協(xié)同部署時(shí)，Rubin GPU 和 LPU 通過協(xié)同計(jì)算 AI 模型的每一層來生成每一個(gè) Token，從而顯著提升解碼速度。

為萬億參數(shù)模型和百萬級(jí) Token 上下文而優(yōu)化協(xié)同設(shè)計(jì)的 LPX 架構(gòu)，與 Vera Rubin 強(qiáng)強(qiáng)聯(lián)合，最大限度地提高了功耗、內(nèi)存和計(jì)算方面的效率。每瓦特吞吐量和 Token 性能的提升，開啟了超高端、萬億參數(shù)、百萬上下文推理的新紀(jì)元，為所有 AI 提供商拓展了營收機(jī)遇。該架構(gòu)采用全液冷設(shè)計(jì)，并基于 MGX 基礎(chǔ)設(shè)施構(gòu)建，可無縫集成到下一代 Vera Rubin AI 工廠中，預(yù)計(jì)將在今年下半年面世。

NVIDIA BlueField-4 STX 存儲(chǔ)機(jī)架

NVIDIA BlueField-4 STX機(jī)架級(jí)擴(kuò)展系統(tǒng)作為 AI 原生存儲(chǔ)基礎(chǔ)設(shè)施，可在整個(gè) POD 中無縫擴(kuò)展 GPU 內(nèi)存。STX 由 BlueField-4 提供支持，集成了 NVIDIA Vera CPU 與 NVIDIA ConnectX-9 SuperNIC。該平臺(tái)提供了高帶寬共享層，且優(yōu)化了存儲(chǔ)和檢索大語言模型與代理式 AI 工作流產(chǎn)生的海量 KV 緩存數(shù)據(jù)。

全新推出的 DOCA 軟件框架 NVIDIA DOCA Memos? 可顯著提升 BlueField-4 存儲(chǔ)性能。通過專用的 KV 緩存存儲(chǔ)處理技術(shù)，與通用存儲(chǔ)架構(gòu)相比，可將推理吞吐量提升 5 倍，并顯著提高能效。最終實(shí)現(xiàn) POD 范圍內(nèi)的上下文共享，從而加快與 AI 智能體的多輪交互速度，提供更具可擴(kuò)展性的 AI 服務(wù)，并提高整體基礎(chǔ)設(shè)施利用率。

Mistral AI 聯(lián)合創(chuàng)始人兼首席技術(shù)官 Timothée Lacroix 表示：“NVIDIA BlueField-4 STX 機(jī)架級(jí)擴(kuò)展上下文記憶存儲(chǔ)系統(tǒng)將提供關(guān)鍵的性能提升，使我們能夠?qū)崿F(xiàn)代理式 AI 的指數(shù)級(jí)擴(kuò)展。通過提供一個(gè)專為 AI 智能體記憶設(shè)計(jì)的全新存儲(chǔ)層，STX 能夠確保我們的模型在跨海量數(shù)據(jù)集進(jìn)行推理時(shí)依然保持連貫性和速度?！?/p>

NVIDIA Spectrum-6 SPX 以太網(wǎng)機(jī)架

Spectrum-6 SPX 以太網(wǎng)專為加速 AI 工廠“東西向”流量而設(shè)計(jì)。該機(jī)架可靈活配置 Spectrum-X 以太網(wǎng)交換機(jī)或 NVIDIA Quantum-X800 InfiniBand 交換機(jī)，能夠在大規(guī)模部署中提供低延遲、高吞吐量的機(jī)架間互連。

采用光電一體封裝 (CPO) 的 Spectrum-X 以太網(wǎng)硅光技術(shù)，相比傳統(tǒng)可插拔收發(fā)器，光學(xué)能效最高提升 5 倍，系統(tǒng)可靠性提高 10 倍。

提升可靠性與能效

NVIDIA 攜手超過 200 家數(shù)據(jù)中心基礎(chǔ)設(shè)施合作伙伴，共同推出了針對(duì) Vera Rubin 的 NVIDIA DSX 平臺(tái)，其包含 DSX Max-Q，旨在為整個(gè) AI 工廠實(shí)現(xiàn)動(dòng)態(tài)供電，從而在固定功率的數(shù)據(jù)中心內(nèi)部署的 AI 基礎(chǔ)設(shè)施數(shù)量可增加 30%。此外，全新的 DSX Flex 軟件使 AI 工廠轉(zhuǎn)變?yōu)殡娋W(wǎng)柔性資產(chǎn)，從而釋放 1000 億瓦的閑置電網(wǎng)容量。

NVIDIA 今日還發(fā)布了Vera Rubin DSX AI Factory 參考設(shè)計(jì)，為協(xié)同設(shè)計(jì)的 AI 基礎(chǔ)設(shè)施提供藍(lán)圖，旨在最大化每瓦特 Token 產(chǎn)出和整體有效吞吐，增強(qiáng)系統(tǒng)可靠性，并縮短首次投產(chǎn)時(shí)間。

通過深度集成計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)、供電與冷卻系統(tǒng)，該架構(gòu)顯著提升了能源效率，確保 AI 工廠在持續(xù)、高強(qiáng)度負(fù)載下，仍能可靠擴(kuò)展，實(shí)現(xiàn)最大化的正常運(yùn)行時(shí)間。

廣泛的生態(tài)系統(tǒng)支持

今年下半年，合作伙伴將陸續(xù)推出基于 Vera Rubin 的產(chǎn)品，包括領(lǐng)先的云服務(wù)提供商 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure，以及 NVIDIA 云合作伙伴 CoreWeave、Crusoe、Lambda、Nebius、Nscale和 Together AI。

思科、戴爾科技、HPE、聯(lián)想和 Supermicro 等全球系統(tǒng)制造商預(yù)計(jì)將推出一系列基于 Vera Rubin 產(chǎn)品的服務(wù)器，包括Aivres、華碩、Foxconn、技嘉、Inventec、Pegatron、Quanta Cloud Technology (QCT)、Wistron 和 Wiwynn 在內(nèi)的其他廠商也將提供相關(guān)產(chǎn)品。

包括 Anthropic、Meta、Mistral AI 和 OpenAI 在內(nèi)的 AI 實(shí)驗(yàn)室與前沿大模型開發(fā)商，計(jì)劃采用 NVIDIA Vera Rubin 平臺(tái)訓(xùn)練規(guī)模更大、能力更強(qiáng)的模型，并以比以往 GPU 更低的延遲和成本提供長(zhǎng)上下文與多模態(tài)系統(tǒng)服務(wù)。