在神經(jīng)網(wǎng)絡(luò)和機器學(xué)習(xí)技術(shù)的推動下，特別是2016年谷歌的AlphaGo在多次與人類頂尖圍棋棋手的對戰(zhàn)中大獲全勝后，給全世界做了一次人工智能（AI）科普，人工智能的新一波發(fā)展浪潮開始了。

“計算技術(shù)正在蓬勃發(fā)展，推動這枚火箭的引擎是加速計算，而燃料則是 AI。” NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛在2022秋季GTC 大會主題演講中表示。也就是說AI加速計算時代已經(jīng)悄然來臨。

近10年來，數(shù)據(jù)量和數(shù)據(jù)處理方式都發(fā)生了很大的改變。大量的數(shù)據(jù)不再是人類事件生成，而是各種類型的傳感器和設(shè)備所生成，數(shù)據(jù)量正在呈指數(shù)級在往上增長。比如說，智能手表會收集用戶運動健身和健康狀況相關(guān)的詳細數(shù)據(jù)，自動駕駛汽車在行駛過程中會不斷收集周圍環(huán)境的信息，據(jù)統(tǒng)計一輛汽車一小時就可以生成5TB的數(shù)據(jù)，未來隨著自動駕駛汽車數(shù)量的持續(xù)增長，將會產(chǎn)生龐大的數(shù)據(jù)量。

隨著數(shù)據(jù)量的爆炸式增長，人們開始使用AI來分析數(shù)據(jù)，因為AI不僅能夠分辨出語音和視頻模式，強化學(xué)習(xí)技術(shù)，還能夠從大量的可能性中識別出最佳結(jié)果，從而為使用者提供最有價值的分析。而NVIDIA在AI加速計算領(lǐng)域這幾年一路狂奔，取得亮眼成績。

談到原因，黃仁勛認為這與NVIDIA這些年來持續(xù)推行“全堆棧計算”策略是分不開的?！盀榱嗽诩铀儆嬎泐I(lǐng)域取得成功，我們不再只是做別人曾經(jīng)做的事情，而是把它整合成一家縱向一體化的公司?！痹谒磥?，“在AI加速計算領(lǐng)域，如果不垂直整合，就不會成功。因為沒有人會專門為你寫操作系統(tǒng)，在云端、超級計算和企業(yè)中，也沒有人會開發(fā)你的分布式操作系統(tǒng)，而沒有完整的堆棧，用戶就無法使用你的平臺，所以你別無選擇，只能自己動手。”

黃仁勛認為，客戶要購買的不是NVIDIA的芯片，而是NVIDIA的計算堆棧。他同時強調(diào)，NVIDIA的全堆棧，主要包括四大平臺，即NVIDIA RTX、NVIDIA HPC、NVIDIA AI和NVIDIA Omniverse。

NVIDIA RTX：推出全新架構(gòu)RTX 40系列GPU

NVIDIA RTX是NVIDIA在Siggraph 2018上推出的全新GPU架構(gòu)，通過兩個全新處理器來擴展可編程著色器。RT Core 用于加速實時光線追蹤，Tensor Core 用于處理矩陣運算，這是深度學(xué)習(xí)的核心。

在2022 秋季 GTC 大會上，NVIDIA宣布推出其第3代RTX架構(gòu)------Ada Lovelace，這代 RTX 以數(shù)學(xué)家 Ada Lovelace 的名字命名，她被公認為世界上第一位計算機程序員。

圖：NVIDIA Racer RTX 是利用 GeForce RTX 40 系列 GPU 和 NVIDIA DLSS 3 創(chuàng)建未來游戲內(nèi)容的例子

同時，NVIDIA還推出了基于Ada Lovelace架構(gòu)的RTX 40系列GPU，該系列GPU采用了TSMC的4N工藝，可集成760億個晶體管和超過16000個CUDA核心。其主要技術(shù)創(chuàng)新包括：

• 流式多處理器具有高達83 TFLOPS 的著色器能力，吞吐量超過上一代產(chǎn)品2倍。
• 第三代RT Core的有效光線追蹤計算能力達到191 TFLOPS，是上一代產(chǎn)品2.8倍。
• 第四代Tensor Core具有高達1.32 Petaflops 的 FP8 張量處理性能，超過上一代使用 FP8 加速性能的5倍。
• 著色器執(zhí)行重排序（SER）通過即時重新安排著色器負載來提高執(zhí)行效率，從而更好地利用 GPU 資源。作為與 CPU 的亂序執(zhí)行一樣的重大創(chuàng)新，SER 為光線追蹤帶來最高可達3倍的性能提升，整體游戲性能提升可高達25%。
• Ada光流加速器帶來2倍的性能提升，使 DLSS 3 能夠預(yù)測場景中的運動，使神經(jīng)網(wǎng)絡(luò)能夠在保持圖像質(zhì)量的同時提高幀率。
• 架構(gòu)上的改進，與 TSMC 4N 定制工藝技術(shù)緊密結(jié)合，實現(xiàn)了高達2倍的性能功耗比飛躍。
• 雙NVIDIA編碼器（NVENC）將輸出時間至多縮短一半，并支持 AV1。OBS、Blackmagic Design DaVinci Resolve、Discord 以及更多的公司都已在采用 NVENC AV1 編碼器。

在產(chǎn)品方面，NVIDIA推出了首款基于Ada Lovelace架構(gòu)的工作站顯卡NVIDIA RTX 6000，該工作站顯卡具有142個第三代RT Core、568個第四代Tensor Core、18,176個CUDA核心，以及48GB顯存，可為工程師、設(shè)計師和科學(xué)家提供助力，滿足在虛擬世界中構(gòu)建世界所需的苛刻的內(nèi)容創(chuàng)建、渲染、人工智能和模擬工作負載的需求。

圖：NVIDIA RTX 6000具體參數(shù)（來源：NVIDIA官網(wǎng)）

據(jù)NVIDIA介紹，與其前代產(chǎn)品相比，全新的RTX 6000可在企業(yè)環(huán)境中提供2~4倍的性能提升，包括最多2倍的光追性能、AI訓(xùn)練性能、及單精度浮點性能等。NVIDIA還為其配備了48GB支持ECC的GDDR6顯存，以支持最大體積的3D模型渲染或AI計算。此外，該RTX 6000采用了PCIe 4×16接口，整卡最大功耗為300W。

值得注意的是，全新的RTX 6000的開始出貨時間應(yīng)該是今年12月。

NVIDIA HPC：具有AI支持的全堆棧科學(xué)計算

NVIDIA HPC是NVIDIA的科學(xué)計算堆棧，在AI的支持下，其GPU、CPU、DPU和軟件將共同幫助數(shù)據(jù)中心擴大規(guī)模，為量子計算、分子動力學(xué)、流體動力學(xué)、氣候研究等科學(xué)研究做出支持。

NVIDIA HPC包括了HOLOSCAN（邊緣計算和人工智能平臺可捕獲和分析來自醫(yī)療設(shè)備和科學(xué)儀器的數(shù)據(jù)）、MODULUS、CUQANTUM（量子計算）等數(shù)據(jù)中心工作負載和技術(shù)。

具體來看，針對HPC的HOLOSCAN SDK可以幫助科學(xué)家和研究人員加速科學(xué)儀器應(yīng)用的相關(guān)發(fā)現(xiàn)。該SDK引入了用于創(chuàng)建管道流邊緣的高性能框架，允許用戶用C++，Python和jax開發(fā)應(yīng)用程序。而且后續(xù)還會推出更多的功能。

NVIDIA Modulus是用于開發(fā)基于物理學(xué)的機器學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)模型的平臺。它允許用戶以治理偏微分方程或PDES的形式融合物理學(xué)的力量。用數(shù)據(jù)建立高保真的參數(shù)化代用模型，具有近乎實時的延時。它可以支持處理AI驅(qū)動的物理問題以及復(fù)雜的非線性多物理系統(tǒng)設(shè)計數(shù)字孿生模型等工作。而且，它在提供相同準(zhǔn)確性的同時，比單獨的模擬快了110萬倍。

在量子計算方面，已經(jīng)有25個國家級的量子計劃在運作了，過去12個月有超過2100篇量子計算相關(guān)的文章得到了發(fā)布。而且，目前已經(jīng)出現(xiàn)了超過250家量子計算初創(chuàng)企業(yè)。NVIDIA也在2022 秋季 GTC 大會上推出了由優(yōu)化庫和工具優(yōu)化構(gòu)建的SDK------cuQuantum和混合量子經(jīng)典應(yīng)用開發(fā)平臺QODA。

其中，cuQuantum可用于量子電路模擬開發(fā)，借助cuQuantum，一臺32個節(jié)點的DGX Pod，可以模擬一臺40量子位的量子計算機。目前，cuQuantum得到廣泛運用，包括AWS、Google、IBM、Oracle以及很多初創(chuàng)公司和超算中心都在采用該SDK，比如Oracle正在為OCI云構(gòu)建量子模擬虛擬機；AWS將cuQuantum集成到其Braket量子計算服務(wù)中，實現(xiàn)了900倍的加速和3.5倍的成本縮減。

而QODA是一個開放的，與處理器無關(guān)的量子平臺，適用于混合量子加速計算，它為研究人員提供了量子加速計算的編程模型。

NVIDIA AI：本質(zhì)上是現(xiàn)代AI的操作系統(tǒng)

在黃仁勛看來，NVIDIA AI本質(zhì)上是現(xiàn)代AI的操作系統(tǒng)，它從數(shù)據(jù)采集、數(shù)據(jù)處理，發(fā)展到深度學(xué)習(xí)，再到如今的的圖表分析和圖表學(xué)習(xí)系統(tǒng)，再到推論工具Triton，不斷在向前演化。“所以這個端到端平臺是NVIDIA人工智能的一部分。如果你在任何地方做機器學(xué)習(xí)或任何類型的人工智能模型，你都可以使用NVIDIA AI。”他表示。

據(jù)他介紹，NVIDIA通過550個SDK和AI模型為約3000個應(yīng)用提供加速。在過去12個月中對超過100個SDK進行了更新，并推出了25個新SDK，且每次更新都會提高計算機組合的性能和吞吐量。

下面看看幾個比較典型的NVIDIA AI應(yīng)用：
Forecast net：以前所未有的需求和準(zhǔn)確性預(yù)測極端天氣。Forecast net在不到兩秒鐘的時間內(nèi)就能生成一個星期的預(yù)報，比歐洲中程天氣預(yù)報中心的綜合預(yù)報系統(tǒng)（一種最先進的數(shù)值天氣預(yù)報模型）快了幾個數(shù)量級。而且它的準(zhǔn)確度相當(dāng)或更好。

Morpheus：它是AI網(wǎng)絡(luò)安全框架，旨在使整個安全數(shù)據(jù)推斷更容易、更快、更強大。它由許多模塊組成，可以以各種方式連接，允許開發(fā)人員創(chuàng)建整個潛能。在輸入方面，Morpheus與數(shù)據(jù)無關(guān)。它提供了以下預(yù)先訓(xùn)練好的模型，以簡化實施并加快它們的模型性能。
1.數(shù)字指紋識別——識別憑證使用行為的變化，將其歸類為人類與機器的互動和機器與機器的互動；
2.釣魚網(wǎng)站檢測——分析整個原始電子郵件，將其分類為掛垃圾郵件或釣魚網(wǎng)站；
3.泄露的敏感數(shù)據(jù)分類——發(fā)現(xiàn)泄露的憑證鑰匙、密碼、信用卡號碼、銀行賬戶號碼等的分類。
4.異常行為分析檢測——以檢測像加密惡意軟件這樣的東西；
5.基于圖形神經(jīng)網(wǎng)絡(luò)的欺詐檢測——幫助你用以前所需的一小部分標(biāo)記數(shù)據(jù)獲得高準(zhǔn)確率的結(jié)果。

Triton推理服務(wù)器：Triton 是一款開源的推理服務(wù)軟件，可助力團隊從任何框架、本地存儲或從任何基于 GPU 或 CPU 的基礎(chǔ)架構(gòu)、云、數(shù)據(jù)中心或邊緣的 Google Cloud 平臺或 AWS S3 中部署經(jīng)過訓(xùn)練的 AI 模型。據(jù)悉，Triton的下載量已超過300萬次，比去年增加了300%。Triton可以在所有主要公有云中使用，并可集成到領(lǐng)先的MLOps平臺中。目前已受到超過35000家公司的青睞。

cuOPT：它是建立在RAPIDS之上的最新庫之一。cuOPT是一個AI物流軟件應(yīng)用程序，可以實現(xiàn)近乎實時的路由優(yōu)化。與最先進的CPU解決方案相比，它的速度提高了100倍以上，在300個humberger基準(zhǔn)問題中的190個問題上的準(zhǔn)確度創(chuàng)下了世界紀(jì)錄，并且可以擴展到數(shù)萬個地點，cuOPT極大地方便了物流和運籌學(xué)開發(fā)人員。

NVIDIA Omniverse：構(gòu)建和運行元宇宙應(yīng)用的平臺

Omniverse是一個實時的大型3D數(shù)據(jù)庫，基于USD構(gòu)建的網(wǎng)絡(luò)，連接3D世界。同時它也是是一個計算平臺，該平臺適用于從產(chǎn)品設(shè)計和造型，到工程策劃、制造、營銷和運營的整個產(chǎn)品生命周期。

在2022秋季GTC 大會上，NVIDIA宣布了Omniverse的重大更新：

• 支持 Ada Lovelace GPU，在光線追蹤和大型場景性能方面實現(xiàn)巨大飛躍；
• 基于 GAN 和擴散模型的新型神經(jīng)渲染工具；
• OmniGraph 是一個圖形執(zhí)行引擎，可通過程序化的方式控制行為、動作和行動；
• Omniverse Physics 的重大更新，用來處理復(fù)雜的多連接部件對象的運動情況；
• 全新的 Cloud XR，支持在 VR 中實現(xiàn) Ada 強大的光線追蹤功能；
• 首個用于合成數(shù)據(jù)生成和數(shù)字孿生模擬的 SimReady 素材庫；
• Replicator 是備受青睞的 Omniverse 應(yīng)用之一，用來生成合成數(shù)據(jù)，從而訓(xùn)練自動駕駛汽車、機器人和各種計算機視覺模型。
• 新的 Omniverse JT 連接器 則是一款大型應(yīng)用，Siemens 發(fā)明了 JT，這是產(chǎn)品生命周期管理的行業(yè)標(biāo)準(zhǔn)語言，也是 NX、Creo、Catia 和 Inventor 等 CAD 系統(tǒng)的互操作格式，JT 連接器使得工業(yè)和制造業(yè)可以運用 Omniverse。目前，Omniverse已擁有150個連接器，這些都是全球市值 100 萬億美元的產(chǎn)業(yè)所使用的工具和平臺。這些連接器將 Omniverse 的應(yīng)用范圍拓展到各種公司，覆蓋零售、交通、電信、制造、媒體和娛樂、消費品和奢侈品，以及供應(yīng)鏈和物流等大型行業(yè)領(lǐng)域。

其實，Omniverse 是一個新的計算平臺，需要采用新的計算系統(tǒng)，Omniverse 計算平臺由三部分構(gòu)成：RTX 計算機（供創(chuàng)作者、設(shè)計師和工程師使用）、OVX 服務(wù)器（用來托管與 Nucleus 數(shù)據(jù)庫的連接并運行虛擬世界模擬），以及第三部分：NVIDIA GDN（進入 Omniverse 的門戶）。

通過 GeForce Now，NVIDIA構(gòu)建了一個全球圖形交付網(wǎng)絡(luò)（即 GDN），該網(wǎng)絡(luò)覆蓋 100 個地區(qū)，為之提供響應(yīng)靈敏的超快 RTX 圖形內(nèi)容交付網(wǎng)絡(luò) (CDN)。通過 NVIDIA RTX PC、云端的 NVIDIA GPU 和 NVIDIA GDN，NVIDIA打造了一個覆蓋全球的 Omniverse 計算平臺。

在今年9月20日，NVIDIA宣布推出第二代NVIDIA OVX，該系統(tǒng)基于Ada Lovelace GPU 架構(gòu)的 NVIDIA? L40 GPU，能夠為構(gòu)建復(fù)雜的工業(yè)數(shù)字孿生提供強大的算力和性能支持。

L40 GPU 包含第三代 RT Core 和第四代 Tensor Core，能夠為在 OVX 系統(tǒng)上運行的 Omniverse 工作負載提供強大功能，包括加速的光線追蹤和路徑追蹤材質(zhì)渲染、物理級精確的模擬以及逼真的 3D 合成數(shù)據(jù)生成。L40 也會在主要 OEM 廠商的 NVIDIA 認證系統(tǒng)服務(wù)器中提供，以驅(qū)動數(shù)據(jù)中心的 RTX 工作負載。

具體規(guī)格方面，每個OVX 服務(wù)器節(jié)點帶有8個NVIDIA L40 GPU和3個ConnectX-7 網(wǎng)卡，可提供100/200/400G網(wǎng)絡(luò)速率。如果 Omniverse工作負載對性能和規(guī)模提出更高要求，這些服務(wù)器可以通過 NVIDIA Spectrum?-3以太網(wǎng)平臺部署在NVIDIA OVX POD和 SuperPOD配置上。

黃仁勛認為，Omniverse是用來構(gòu)建和運行元宇宙應(yīng)用的平臺，無論是數(shù)字世界和現(xiàn)實世界在何處教會，Omniverse都能發(fā)揮作用。此外，Omniverse還有一項重要的用途就是機器人開發(fā)，而機器人將會是AI的新一波浪潮。

結(jié)語

此外， NVIDIA在2022秋季GTC 大會上還帶來了新的邊緣AI計算平臺IGX平臺，IGX平臺由NVIDIA IGX Orin超級計算機驅(qū)動，能更簡便的為制造、物流、醫(yī)療等安全敏感行業(yè)帶來了安全的工作環(huán)境；史詩級的超級芯片DRIVE Thor（雷神），這款SoC將于2025年上市，其AI性能高達2000TOPS；以及Jetson Orin Nano，它可運行NVIDIA Isaac機器人堆棧，并具有ROS 2 GPU加速框架，速度比之前大受歡迎的Jetson Nano快80倍等產(chǎn)品更新。