電子發(fā)燒友網(wǎng)報道（文/梁浩斌）近日，英偉達在AI infra峰會上發(fā)布了專為大規(guī)模上下文推理設計的全新GPU系列Rubin CPX，性能堪稱炸裂！

英偉達創(chuàng)始人兼CEO黃仁勛表示，“正如 RTX 革新了圖形技術與物理 AI，Rubin CPX 則是首款專為大規(guī)模上下文 AI 設計的 CUDA GPU—— 在該場景下，模型可一次性基于數(shù)百萬個token進行推理?！?br />
作為基于Rubin架構(gòu)的一款AI芯片，Rubin CPX采用了成本效益極高的單芯片設計，集成強大的NVFP4計算資源，其GPU專為AI推理任務優(yōu)化，可以實現(xiàn)極高的性能和能效比。按照英偉達的說法，Rubin CPX平臺可實現(xiàn) 30 至 50 倍的投資回報率（ROI），這意味著1億美元的資本性支出（CAPEX）投入，能帶來高達50億美元的收入，又呼應了老黃此前的名言“買得越多賺得越多”，這不是新一代“印鈔機”嗎？

那么Rubin CPX是怎么實現(xiàn)高效AI推理的？

為什么需要Rubin CPX？

要理解Rubin CPX的作用，首先要知道分布式推理的架構(gòu)原理。

AI推理過程包含兩個截然不同的階段：上下文階段與生成階段，這兩個階段對AI基礎設施的需求存在本質(zhì)差異。其中，上下文階段受計算能力限制，需要通過高吞吐量處理來接收并分析大量輸入數(shù)據(jù)，進而生成首個token輸出結(jié)果。

與之不同的是，生成階段受內(nèi)存帶寬限制，需依賴高速內(nèi)存?zhèn)鬏敿癗VLink等高速互聯(lián)方案，以維持逐推理單元（token-by-token）的輸出性能。 為了提高計算效率，英偉達通過分布式推理可以實現(xiàn)這兩個階段的獨立處理，從而對計算和內(nèi)存資源進行針對性優(yōu)化。這一架構(gòu)變革能夠提升吞吐量、降低延遲，并提高整體資源利用率。

具體來說，分布式推理的流程是，文檔 / 數(shù)據(jù)庫 / 視頻等數(shù)據(jù)輸入至上下文處理器；其輸出會傳輸至鍵值緩存（KV 緩存），供 GPU B 生成節(jié)點讀取以生成結(jié)果。GPU A 針對長上下文處理進行了優(yōu)化，而 GPU B 則在上下文階段與生成階段均能實現(xiàn)出色的總擁有成本表現(xiàn)。

然而，分布式架構(gòu)也帶來了新的復雜性層級，需要在低延遲 KV 緩存?zhèn)鬏?、大語言模型感知路由（LLM-aware Routing）及高效內(nèi)存管理之間實現(xiàn)精準協(xié)同。英偉達 Dynamo可作為這些組件的編排層，其功能在最新的 MLPerf 推理基準測試結(jié)果中發(fā)揮了關鍵作用。

而分布式推理要發(fā)揮出其優(yōu)勢，在上下文處理階段的效率提升尤為重要。Rubin CPX GPU就是專為解決這個階段的計算效率的一種解決方案，目標是為高價值長上下文推理工作負載提供高吞吐量性能，同時可無縫集成至分布式基礎設施中。

Vera Rubin NVL144 CPX平臺：GB300 NVL72的7.5倍性能

Rubin CPX 具備30 petaFLOPs的NVFP4計算能力、128 GB的GDDR7內(nèi)存、硬件級別的視頻解碼/編碼支持，以及三倍于NVIDIA GB300的注意力機制加速性能。

比如處理視頻時，AI模型每處理1小時的內(nèi)容可能需要多達100 萬個token，這突破了傳統(tǒng) GPU的計算極限。Rubin CPX在單芯片中集成了視頻解碼器與編碼器，以及長上下文推理處理功能，從而在視頻搜索、高質(zhì)量生成式視頻等長時長應用場景中，實現(xiàn)了前所未有的性能。

同時，英偉達也推出了一套集成Rubin CPX 、NVIDIA Vera CPU、Rubin GPU的完整高性能分布式服務解決方案——NVIDIA Vera Rubin NVL144 CPX。
NVIDIA Vera Rubin NVL144 CPX機架集成144個Rubin CPX GPU、144個Rubin GPU 以及36個 Vera CPU，能夠?qū)崿F(xiàn)8 exaFLOPs的NVFP4計算性能，是GB300 NVL72的7.5倍，同時還提供100 TB的高速內(nèi)存和高達1.7 PB/s的內(nèi)存帶寬。

Vera Rubin NVL144 CPX采用了NVIDIA Quantum-X800 InfiniBand或Spectrum-X以太網(wǎng)技術，與NVIDIA ConnectX-9 SuperNIC配合使用，并由Dynamo平臺進行管理。英偉達表示，在規(guī)?；瘧弥校撈脚_能夠?qū)崿F(xiàn)30至50倍的投資回報。 值得一提的是，對于已經(jīng)訂購Vera Rubin NVL144系統(tǒng)的用戶，英偉達也提供專用的Rubin CPX 計算托盤，可以在現(xiàn)有的Vera Rubin NVL144系統(tǒng)上拓展推理能力。

根據(jù)此前英偉達的上市時間表，Rubin架構(gòu)GPU預計在2026年正式上市，預計在今年9月交付客戶測試。而同為Rubin架構(gòu)的Rubin CPX GPU，英偉達預計會在2026年下半年上市，Vera Rubin NVL144 CPX則預計在2026年底上市。

近日英偉達宣布，年度技術大會GTC2026將會在2026年3月16日至19日舉行，預計在大會上將正式推出Rubin GPU和Vera CPU兩大產(chǎn)品。

寫在最后

Rubin CPX的推出，可以說是AI推理側(cè)的一顆“重磅炸彈”。正如黃仁勛提到的“Rubin CPX 是 AI 推理領域的 RTX”，AI算力硬件正在通過細分場景的優(yōu)化，實現(xiàn)革命性的效率提升。同時借助Rubin CPX，英偉達開拓了算力硬件的新形式，占領長上下文推理領域的“無人區(qū)”。在視頻、代碼生成等用到巨量Token的領域，未來Rubin CPX可能會占據(jù)極為有利的生態(tài)位，繼續(xù)筑牢英偉達在AI基建市場的護城河。