機(jī)器人技術(shù)正經(jīng)歷一場變革，逐步脫離專用機(jī)器時(shí)代，邁入通用機(jī)器人時(shí)代。這一轉(zhuǎn)變意味著機(jī)器人不再局限于單一用途、功能固定的形態(tài)，而是向更具備適應(yīng)性的機(jī)器人演進(jìn)，以在不同環(huán)境中執(zhí)行多樣化任務(wù)。受人類認(rèn)知模式啟發(fā)，具備適應(yīng)性的機(jī)器人能夠?qū)⒖焖俜磻?yīng)能力與高階推理規(guī)劃能力相結(jié)合，以更高效地學(xué)習(xí)與適應(yīng)環(huán)境。

這一模式為機(jī)器人在不同行業(yè)的靈活應(yīng)用打開了大門，不僅降低了成本，其實(shí)際應(yīng)用范圍也遠(yuǎn)超專用機(jī)器人的能力邊界。NVIDIA 在 2025 年 GTC 大會(huì)上正式推出 NVIDIA Isaac GR00T平臺(tái)，為這場變革奠定了基礎(chǔ)。該平臺(tái)整合了機(jī)器人基礎(chǔ)模型、合成數(shù)據(jù)工作流、仿真環(huán)境與運(yùn)行時(shí)計(jì)算機(jī)，為通用機(jī)器人發(fā)展提供全方位支撐。

NVIDIA Jetson AGX Thor開發(fā)者套件與NVIDIA Jetson T5000模組正式公開發(fā)售。這將為全球開發(fā)者賦能，助力打造物理 AI 的未來。借助 Jetson Thor，機(jī)器人無需為每項(xiàng)新任務(wù)重新編程。Jetson Thor 是面向物理 AI 的卓越平臺(tái)，這一機(jī)器人計(jì)算機(jī)可支持生成式推理，同時(shí)具備多模態(tài)、多傳感器處理能力。將 Jetson Thor 集成至下一代機(jī)器人中，能為基礎(chǔ)模型提速，使其在物體操作、導(dǎo)航、執(zhí)行復(fù)雜指令等挑戰(zhàn)性任務(wù)中具備更高的靈活性。

打造通用人形機(jī)器人需具備哪些條件？

打造一款典型的通用人形機(jī)器人，需構(gòu)建四個(gè)核心層級(jí)：

硬件抽象層：整合所有關(guān)鍵傳感與驅(qū)動(dòng)模態(tài)，使機(jī)器人能夠感知環(huán)境并與物理世界進(jìn)行實(shí)體交互。

實(shí)時(shí)控制框架層：對(duì)機(jī)器人運(yùn)動(dòng)進(jìn)行精準(zhǔn)、低延遲控制。機(jī)器人想要實(shí)現(xiàn)安全運(yùn)行以及迅速響應(yīng)，最大限度降低延遲至關(guān)重要。

感知與規(guī)劃層：為機(jī)器人賦予環(huán)境理解、抓取與運(yùn)動(dòng)規(guī)劃、移動(dòng)、物體識(shí)別及定位能力，使其能與周邊環(huán)境有效交互。與實(shí)時(shí)控制層不同，該層級(jí)可允許稍長的處理時(shí)間，以確保決策的周全性與準(zhǔn)確性。

高階推理層：支撐場景理解、復(fù)雜任務(wù)規(guī)劃、自然語言交互等高級(jí)功能。在此層級(jí)中，為實(shí)現(xiàn)更深層次的推理與更強(qiáng)的適應(yīng)性，稍長的處理時(shí)間是可接受的。

圖 1. 打造人形機(jī)器人需整合一系列硬件與軟件組件

NVIDIA Jetson Thor 為什么是物理 AI 與人形機(jī)器人的卓越平臺(tái)？

NVIDIA Jetson AGX Thor 開發(fā)者套件具備無可比擬的性能與可擴(kuò)展性。該套件使用 NVIDIA Blackwell 架構(gòu) GPU，具備 128 GB 內(nèi)存，AI 計(jì)算性能最高可達(dá) 2070 FP4 TFLOPS，可輕松運(yùn)行最新的生成式 AI 模型，所有這些都在 130 瓦的功率范圍內(nèi)實(shí)現(xiàn)。與 NVIDIA Jetson AGX Orin 相比，其 AI 計(jì)算性能提高至 7.5 倍，能效提高至 3.5 倍。

借助全新的 Blackwell 多實(shí)例 GPU（MIG）與性能強(qiáng)勁的 14 核 Arm Neoverse-V3AE CPU，Jetson Thor 能為低延遲、實(shí)時(shí)性應(yīng)用提速。此外，該平臺(tái)還集成了一整套加速器，包括第三代 Programmable Vision Accelerator（PVA）、雙編碼器與解碼器、光流加速器等。

在高速傳感器融合方面，開發(fā)者套件提供豐富的輸入輸出（I/O）接口選項(xiàng)，包括 1 個(gè)支持 4 路 25GbE 的 QSFP 插槽、1 個(gè)有線 Multi-GbE RJ45 接口、多個(gè) USB 端口及其他連接接口。同時(shí)，其設(shè)計(jì)可與現(xiàn)有人形機(jī)器人平臺(tái)無縫集成，支持便捷的有線連接，能夠快速啟動(dòng)原型開發(fā)。

Transformer 引擎與 FP4 支持

Jetson Thor 基于 NVIDIA Blackwell 架構(gòu)打造，引入原生 FP4 量化技術(shù)，并搭配下一代 Transformer 引擎，該引擎可在 FP4 與 FP8 精度之間動(dòng)態(tài)切換，以實(shí)現(xiàn)最優(yōu)性能。通過將 4 位權(quán)重、激活值與更高內(nèi)存帶寬相結(jié)合，Jetson Thor 能同時(shí)加速生成式 AI 工作負(fù)載中的預(yù)填充與解碼過程。

多實(shí)例 GPU（MIG）

Jetson Thor 引入 MIG 技術(shù)，可將單塊 GPU 劃分為多個(gè)相互隔離的實(shí)例，每個(gè)實(shí)例擁有專屬資源。這一技術(shù)能為關(guān)鍵工作負(fù)載預(yù)留計(jì)算資源，同時(shí)并行運(yùn)行對(duì)時(shí)間敏感度較低的任務(wù)，確保性能的可預(yù)測性，對(duì)于需兼顧多重關(guān)鍵任務(wù)的機(jī)器人應(yīng)用而言，這一特性尤為重要。

表 1 與表 2 分別展示了 Jetson T5000 模組及 NVIDIA Jetson AGX Thor 開發(fā)者套件載板的核心特性與接口規(guī)格。

表 1. NVIDIA Jetson AGX Thor 開發(fā)者套件模組規(guī)格

注：帶*的參數(shù)為初步數(shù)據(jù)，可能存在變動(dòng)

表 2. NVIDIA Jetson AGX Thor 開發(fā)者套件載板規(guī)格

圖 2. NVIDIA Jetson Thor 模組的組件構(gòu)成

Jetson Thor 如何為邊緣端生成式 AI 提速？

Jetson AGX Thor 是全新的機(jī)器人計(jì)算機(jī)，其架構(gòu)從底層重新設(shè)計(jì)，專為驅(qū)動(dòng)下一代人形機(jī)器人打造。該平臺(tái)支持各類生成式 AI 模型，既包括NVIDIA Isaac GR00T N1.5這類視覺語言動(dòng)作模型（VLA），也涵蓋所有主流大型語言模型（LLM）與視覺語言模型（VLM）。

為提供無縫的云端到邊緣端銜接體驗(yàn)，Jetson Thor 可運(yùn)行 NVIDIA 面向物理 AI 應(yīng)用的 AI 軟件棧，包括面向機(jī)器人的 NVIDIA Isaac、面向視覺 AI 智能體的NVIDIA Metropolis，以及面向傳感器處理的NVIDIA Holoscan。開發(fā)者還可以借助視頻搜索與總結(jié)（VSS）的 NVIDIA 代理式 AI 工作流等，在邊緣端構(gòu)建 AI 智能體。

圖 3. Jetson Thor 支持各類 AI 框架與生成式 AI 模型

為什么生成式推理與多模態(tài)傳感器處理對(duì)物理 AI 至關(guān)重要？

生成式推理模型對(duì)于需要仿真可能的動(dòng)作序列、預(yù)測結(jié)果、基于語言或視覺線索推理、靈活生成高階規(guī)劃或低階運(yùn)動(dòng)策略的機(jī)器人平臺(tái)至關(guān)重要。這些模型能讓機(jī)器人系統(tǒng)在真實(shí)場景中具備更高靈活性、更強(qiáng)適應(yīng)性，以及接近人類水平的穩(wěn)健推理能力。

NVIDIA Jetson Thor 在生成式推理領(lǐng)域?qū)崿F(xiàn)了巨大飛躍，與 Jetson Orin 相比，其推理速度提升最高達(dá) 5 倍。借助 FP4 精度優(yōu)化與推測解碼技術(shù)，開發(fā)者還能在 Jetson Thor 上進(jìn)一步實(shí)現(xiàn) 2 倍的性能提升。

圖 4. 在生成式推理方面，Jetson Thor 速度較 Jetson Orin 最高提升至 5 倍

Jetson Thor 還能無縫處理多個(gè)生成式 AI 模型與大量多模態(tài)傳感器輸入，實(shí)現(xiàn)實(shí)時(shí)響應(yīng)。圖 5 通過 Qwen2.5-VL-3B VLM 與 Llama 3.2 3B LLM 兩款模型展示了這一能力，測試中兩款模型需同時(shí)處理 16 個(gè)并發(fā)請(qǐng)求。結(jié)果顯示，兩款模型的“首 token 生成時(shí)間（Time to First Token，TTFT）”均遠(yuǎn)低于 200 毫秒，“輸出 token 生成時(shí)間（Time per Output Token，TPOT）”均遠(yuǎn)低于 50 毫秒——而這兩項(xiàng)指標(biāo)正是衡量系統(tǒng)響應(yīng)速度的核心標(biāo)準(zhǔn)。

圖 5. Jetson Thor 在處理多個(gè)生成式 AI 模型與大量多模態(tài)傳感器輸入時(shí)，仍能保持實(shí)時(shí)響應(yīng)

Jetson Thor 不僅支持 Blackwell 架構(gòu)原生 FP4 精度，還能啟用推測解碼等高級(jí)技術(shù)。在推測解碼技術(shù)中，先由小型草稿模型生成候選 tokens，再由大型模型驗(yàn)證 tokens 的有效性。這種方式在保證生成準(zhǔn)確性的同時(shí)，能加速生成式 AI 推理過程，最終實(shí)現(xiàn)更快、更高質(zhì)量的輸出。

圖 4 顯示了在采用 FP4 量化與基于 Eagle 的推測解碼技術(shù)后，Qwen2.5-VL-7B 模型在 Jetson Thor 上的推理速度較采用 W4A16（4 位權(quán)重、16 位激活值）配置的 Jetson Orin，最高提升至 3.5 倍。

此外，如表 3 所示，在 LLM、VLM、VLA 等各類生成式 AI 模型上，Jetson Thor 的加速性能均實(shí)現(xiàn)突破，較 Jetson Orin 提升最高至 5 倍。

表 3. Jetson Thor 與 Jetson AGX Orin 的基準(zhǔn)測試對(duì)比

基準(zhǔn)測試配置說明：序列長度 2048，輸出序列長度 128；最大并發(fā)數(shù) 8；LLM 與 VLM 模型基于 VLLM 框架運(yùn)行，VLA 模型基于 TensorRT 框架運(yùn)行；Jetson AGX Thor 與 Jetson AGX Orin 均采用 MAXN 功耗模式。

Jetson 軟件如何為邊緣端 AI 提速？

Jetson 軟件通過提供一套高度集成的全棧軟件平臺(tái)，為邊緣端 AI 性能提速。該平臺(tái)針對(duì)機(jī)器人、醫(yī)療、物流、自主系統(tǒng)等領(lǐng)域的實(shí)時(shí)、高吞吐量應(yīng)用進(jìn)行優(yōu)化，可滿足多樣化場景需求。

Jetson 軟件以JetPack 7為核心驅(qū)動(dòng)，搭載 Linux 6.8 內(nèi)核、Ubuntu 24.04 LTS 操作系統(tǒng)及最新 NVIDIA AI 軟件棧，能夠?qū)崿F(xiàn)低延遲、確定性的高階生成式 AI 模型運(yùn)行，為物理 AI 應(yīng)用提供支撐。它融合了硬件加速計(jì)算與系統(tǒng)級(jí)優(yōu)化能力，能夠讓人形機(jī)器人、自主機(jī)器、工業(yè)自動(dòng)化系統(tǒng)等復(fù)雜系統(tǒng)具備響應(yīng)能力及智能行為。

憑借集成式Holoscan Sensor Bridge、MIG 支持以及 Preemptable Realtime Kernel 等特性，Jetson 軟件顯著提升了高速傳感器融合、運(yùn)動(dòng)規(guī)劃等任務(wù)的性能與效率。在 Jetson AI Lab 及廣泛生態(tài)系統(tǒng)的支持下，Jetson 軟件大幅縮短了邊緣 AI 與機(jī)器人應(yīng)用的性能達(dá)標(biāo)時(shí)間（time-to-performance）。

Jetson Thor 平臺(tái)支持全新的Cosmos Reason——這是一款面向物理 AI 與機(jī)器人的開源、可定制、70 億參數(shù)推理型 VLM。

圖 6. Jetson 軟件棧

采用 SBSA 架構(gòu)設(shè)計(jì)的 JetPack 7

借助 JetPack 7，Jetson 軟件實(shí)現(xiàn)了與服務(wù)器基礎(chǔ)系統(tǒng)架構(gòu)（Server Base System Architecture，SBSA）的對(duì)齊，使 Jetson Thor 的設(shè)計(jì)達(dá)到 Arm 服務(wù)器設(shè)計(jì)的行業(yè)標(biāo)準(zhǔn)。SBSA 對(duì)標(biāo)準(zhǔn)化的關(guān)鍵硬件與固件接口，能提供更完善的操作系統(tǒng)支持、更簡便的軟件遷移能力，以及更順暢的企業(yè)級(jí)集成體驗(yàn)。在此基礎(chǔ)上，Jetson Thor 可以支持在所有 Arm 目標(biāo)平臺(tái)上統(tǒng)一安裝 CUDA 13.0，不僅簡化了開發(fā)流程、減少了版本碎片化問題，還確保了從服務(wù)器級(jí)系統(tǒng)到 Jetson Thor 平臺(tái)的體驗(yàn)一致性。

NVIDIA Isaac 如何端到端加速機(jī)器人開發(fā)？

NVIDIA Isaac 是開源的機(jī)器人平臺(tái)，包含一系列 CUDA 加速庫、框架與 AI 模型，可用于開發(fā)自主移動(dòng)機(jī)器人、機(jī)械臂、人形機(jī)器人等各類機(jī)器人產(chǎn)品。現(xiàn)代機(jī)器人需要一個(gè)由控制、視覺與語言模型構(gòu)成的高級(jí)“大腦”，能夠通過實(shí)時(shí)處理多模態(tài)數(shù)據(jù)，實(shí)現(xiàn)從感知到動(dòng)作的無縫銜接。

Jetson Thor 專為運(yùn)行 Isaac GR00T N1.5 這類高負(fù)載模型而設(shè)計(jì)，能為人形機(jī)器人提供實(shí)時(shí)人機(jī)交互、空間感知與穩(wěn)健的環(huán)境感知能力。Isaac 平臺(tái)與 Jetson Thor 協(xié)同配合，可實(shí)現(xiàn)在邊緣部署具備可擴(kuò)展性的多模態(tài) AI，為工業(yè)與科研領(lǐng)域的機(jī)器人技術(shù)創(chuàng)新提速。

圖 7. NVIDIA Isaac GR00T 端到端加速機(jī)器人開發(fā)

如何借助 VSS 從邊緣攝像頭中獲取有價(jià)值的信息？

NVIDIA Metropolis 中用于視頻搜索與總結(jié)的（VSS）NVIDIA Blueprint，為開發(fā)者提供了構(gòu)建和部署視頻分析 AI 智能體的工具。這類 AI 智能體可通過分析實(shí)時(shí)攝像頭流，實(shí)現(xiàn)情境化實(shí)時(shí)警報(bào)、視頻總結(jié)與智能問答功能。

VSS 正為多領(lǐng)域視覺智能體應(yīng)用提供支撐：在制造業(yè)中用于視覺檢測與工人安全監(jiān)測；在體育賽事直播中用于提升粉絲互動(dòng)體驗(yàn)與運(yùn)動(dòng)員數(shù)據(jù)分析；在道路事件處理中則可縮短應(yīng)急響應(yīng)時(shí)間。

圖 8. VSS 應(yīng)用場景包括制造業(yè)視覺檢測、工人安全監(jiān)測，以及縮短道路事件應(yīng)急響應(yīng)時(shí)間

Jetson Thor 上的 Holoscan如何用于實(shí)時(shí)傳感器處理？

NVIDIA Holoscan是一款 AI 傳感器處理平臺(tái)，提供軟件定義的實(shí)時(shí) AI 所需的全棧加速基礎(chǔ)設(shè)施。它可以簡化企業(yè)級(jí)硬件上邊緣 AI 的部署流程并提升可擴(kuò)展性，為實(shí)時(shí) AI 應(yīng)用提供高性能邊緣解決方案。

在 Jetson Thor 上運(yùn)行 Holoscan，可對(duì)并發(fā) AI 工作流進(jìn)行安全分區(qū)與隔離——這一特性能為關(guān)鍵任務(wù)應(yīng)用提升確定性及容錯(cuò)能力，并提供數(shù)據(jù)防泄漏保護(hù)。如此一來，開發(fā)者可在不影響安全性的前提下持續(xù)推進(jìn) AI 創(chuàng)新，使得 Holoscan 成為受監(jiān)管領(lǐng)域內(nèi)實(shí)時(shí)動(dòng)作控制的可信操作層。

現(xiàn)代機(jī)器人依賴各類傳感器實(shí)現(xiàn)智能運(yùn)行，包括攝像頭、IMU、執(zhí)行器等，每一種傳感器對(duì)機(jī)器人的正常工作都至關(guān)重要。借助 NVIDIA Holoscan Sensor Bridge，無論任何傳感器類型，都能通過以太網(wǎng)將所有傳感器無縫連接至 NVIDIA Jetson 平臺(tái)。Jetson Thor 支持全新的以太網(wǎng)攝像頭技術(shù)，可將傳感器數(shù)據(jù)直接傳輸至 GPU 內(nèi)存，大幅降低延遲并減少 CPU 占用率。這種方式用簡潔的軟件定義 API 替代了傳統(tǒng)驅(qū)動(dòng)的復(fù)雜邏輯，使實(shí)時(shí)邊緣 AI 應(yīng)用（無論是機(jī)器人、工業(yè)自動(dòng)化系統(tǒng)還是先進(jìn)醫(yī)療系統(tǒng)）能夠?qū)崿F(xiàn)精準(zhǔn)同步與穩(wěn)健擴(kuò)展。

助力縮短產(chǎn)品上市時(shí)間的全方位生態(tài)系統(tǒng)

Jetson 生態(tài)系統(tǒng)包括超過 1,000 個(gè)合作伙伴，為幫助開發(fā)者更快地將解決方案推向市場，不同類型的合作伙伴可以提供針對(duì)性的支持服務(wù)，為開發(fā)流程的各個(gè)階段提供必要的支持。

表 4. Jetson 生態(tài)系統(tǒng)包含超過 1,000 個(gè)合作伙伴

圖 9. NVIDIA 合作伙伴提供靈活的合作模式，開發(fā)者可根據(jù)自身設(shè)計(jì)需求選擇特定組件與服務(wù)

即刻開始

使用 NVIDIA Jetson Thor 開發(fā)物理 AI

將 Jetson AGX Thor 開發(fā)者套件集成至現(xiàn)有機(jī)器人，即可加速軟件開發(fā)。開發(fā)者無需等待完整的系統(tǒng)集成，即可開始創(chuàng)建并測試應(yīng)用。

加入全球超 200 萬開發(fā)者的行列，開啟下一代物理 AI 項(xiàng)目的開發(fā)。Jetson AGX Thor 開發(fā)者套件（售價(jià)為 3,499 美元）以及 Jetson T5000 量產(chǎn)級(jí)模組，已經(jīng)可以通過 NVIDIA 全球授權(quán)分銷商購買。

開始使用 NVIDIA Jetson AGX Thor 開發(fā)者套件，下載最新的 JetPack 7，并通過 Jetson 下載中心以及生態(tài)系統(tǒng)合作伙伴，獲得全面的文檔、支持資源和工具。