NVIDIA 為 gpt-oss-120b 帶來業(yè)界領(lǐng)先性能，在單個 NVIDIA Blackwell 系統(tǒng)上實現(xiàn)每秒 150 萬個 Token。

OpenAI 發(fā)布了兩個全新開放權(quán)重 AI 邏輯推理模型，為全球各個行業(yè)、規(guī)模的開發(fā)者、愛好者、企業(yè)、初創(chuàng)公司及政府機構(gòu)帶來前沿 AI 開發(fā)技術(shù)。

由 NVIDIA 與 OpenAI 共同開發(fā)的開放模型 gpt-oss-120b 和 gpt-oss-20b，展現(xiàn)了由社區(qū)驅(qū)動創(chuàng)新的力量，并凸顯 NVIDIA 在推動全球 AI 普及中的關(guān)鍵作用。

任何人都可以使用這兩個模型開發(fā)生成式 AI、邏輯推理 AI 和物理 AI 以及醫(yī)療和制造領(lǐng)域的突破性應(yīng)用，甚至在 AI 驅(qū)動的新一輪工業(yè)革命發(fā)展過程中開拓新的行業(yè)領(lǐng)域。

OpenAI 新發(fā)布的靈活、開放權(quán)重的文本推理大語言模型 (LLM) 在 NVIDIA Hopper 架構(gòu) GPU 上訓練而成，能夠在全球數(shù)億顆運行NVIDIA CUDA平臺的 GPU 上實現(xiàn)極佳推理性能。

這些模型現(xiàn)已作為NVIDIA NIM的形式提供，可輕松地部署在任何 GPU 加速基礎(chǔ)設(shè)施上，并同時具有靈活性、數(shù)據(jù)隱私和提供企業(yè)級安全等特性。

憑借專為 NVIDIA Blackwell 平臺開發(fā)的軟件優(yōu)化措施，這兩個模型可在 NVIDIA GB200 NVL72 系統(tǒng)上實現(xiàn)每秒 150 萬個 Token 的卓越推理性能，極大提升推理效率。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“OpenAI 向世界展示了基于 NVIDIA AI 開發(fā)的技術(shù)，現(xiàn)在他們正在推動開源軟件領(lǐng)域的創(chuàng)新。新發(fā)布的 gpt-oss 模型使全球各地的開發(fā)者都能夠在先進的開源基礎(chǔ)上進行開發(fā)，而這一切都要依托領(lǐng)先的 AI 計算基礎(chǔ)設(shè)施?！?/p>

NVIDIA Blackwell 提供先進的推理技術(shù)

隨著 gpt-oss 等先進邏輯推理模型所生成 Token 的數(shù)量指數(shù)級增長，對計算基礎(chǔ)設(shè)施的需求也大幅增加。NVIDIA Blackwell 驅(qū)動的專用 AI 工廠能夠滿足這一需求，該架構(gòu)旨在提供超高性能推理所需的規(guī)模、效率和投資回報。

NVIDIA Blackwell 包含 NVFP4 4 位精度等創(chuàng)新技術(shù)，可在大幅降低功耗和顯存需求的同時，實現(xiàn)極高的推理效率和準確性。這使得實時部署萬億參數(shù)級的大語言模型 (LLM) 成為可能，進而為企業(yè)創(chuàng)造數(shù)十億美元的價值。

幫助全球數(shù)百萬 AI 構(gòu)建者實現(xiàn)開放式開發(fā)

NVIDIA CUDA 是全球廣泛使用的計算基礎(chǔ)設(shè)施。無論是在強大的NVIDIA DGX Cloud平臺，還是NVIDIA GeForce RTX和NVIDIA RTX PRO驅(qū)動的 PC 和工作站，用戶都可以任意部署和運行 AI 模型。

截至目前，NVIDIA CUDA 的下載量已超過 4.5 億次。龐大的 CUDA 開發(fā)者社區(qū)現(xiàn)已能夠使用這兩個最新模型，并在其自身使用的 NVIDIA 技術(shù)棧上運行。

為進一步推動軟件開源，OpenAI 與 NVIDIA 還攜手頂級開源框架提供商，為 FlashInfer、Hugging Face、llama.cpp、Ollama 和 vLLM 等框架以及NVIDIA Tensor-RT LLM等庫提供模型優(yōu)化方案，使開發(fā)者能夠選擇自己常用的框架進行開發(fā)。

建立在開源基礎(chǔ)上的長期合作

新發(fā)布的模型展現(xiàn)了 NVIDIA 的全棧技術(shù)如何將全球前沿的 AI 項目帶給盡可能廣泛的用戶群體。

這個故事可追溯到 NVIDIA 與 OpenAI 的初期合作。2016 年，黃仁勛親自將首臺 NVIDIA DGX-1 AI 超級計算機送至 OpenAI 位于舊金山的總部。

自那時起，兩家公司就一直共同推動 AI 技術(shù)的邊界，為用戶提供大規(guī)模訓練所需的核心技術(shù)與專業(yè)知識。

如今，全球 250 個國家 / 地區(qū)共有 650 萬開發(fā)者正在使用 900 多種 NVIDIA 軟件開發(fā)套件和 AI 模型進行開發(fā)，這一數(shù)字仍在持續(xù)增長。通過對 OpenAI 的 gpt-oss 模型進行 NVIDIA Blackwell 和 RTX GPU 適配優(yōu)化以及推出豐富的軟件堆棧，NVIDIA 正在為這些開發(fā)者提供更加快速、更具有經(jīng)濟效益的先進 AI 技術(shù)。