在 “萬物互聯(lián)” 時代，人工智能成為新一輪產(chǎn)業(yè)革命的引擎。與此同時，智能逐漸成為新熱點，新賣點，以滿足客戶的新需求。人工智能推動了互聯(lián)網(wǎng)新形態(tài)的變化。

在這次 GTC 上來自 NVIDIA 和合作伙伴的技術(shù)專家將帶來互聯(lián)網(wǎng)領(lǐng)域人工智能軟件的新進展。

眾所周知，推薦系統(tǒng)在新時代的互聯(lián)網(wǎng)環(huán)境下已然出現(xiàn)在我們生活的各個角落，我們刷視頻、在網(wǎng)上買東西、使用社交軟件都離不開推薦系統(tǒng)的推薦。推薦系統(tǒng)也是目前互聯(lián)網(wǎng)的增長引擎。根據(jù)麥肯錫的報道，有超過 35% 的亞馬遜購買和超過 75% 的 Netflix 觀看，而這些其實都是基于推薦系統(tǒng)相關(guān)的算法而產(chǎn)生的。推薦系統(tǒng)的推薦質(zhì)量可以直接影響公司收入，可能 0.1% 的推薦準確度都會影響可能上億的收入。

隨著短視頻 APP、視頻會議平臺以及 VR/AR 等技術(shù)的發(fā)展，視頻與圖像已逐漸成為全球互聯(lián)網(wǎng)流量的主要組成部分。我們平時接觸到的這些視頻圖像，也有很多是被 AI 和計算機視覺（CV）算法處理并增強過的。然而，隨著社交媒體和視頻分享服務(wù)的快速增長，作為 AI 圖像算法基礎(chǔ)的視頻圖像處理部分，也早已成為計算流程中不可忽視的成本和瓶頸，那么基于 GPU 的的圖像處理應(yīng)運而生。

ChatGPT 的出現(xiàn)驚喜了很多人，大語言模型（LLM）的熱度也水漲船高。LLM 代表著 AI 領(lǐng)域的重大進步，并有望通過習(xí)得的知識改變該領(lǐng)域。在過去幾年中，LLM 的規(guī)模每年增加 10 倍，而且隨著這些模型的復(fù)雜程度和規(guī)模的增加，其性能也在不斷發(fā)展，但是如何開發(fā)和維護 LLM 其實并非易事。同時，如何快速高效部署 AI 應(yīng)用，如何對企業(yè)的 AI 應(yīng)用進行高效統(tǒng)一的管理，實現(xiàn)流程的自動化等都是擺在互聯(lián)網(wǎng)企業(yè)面前亟待解決的問題。

NVIDIA 借助自身在人工智能領(lǐng)域的經(jīng)驗和積累，為了推動數(shù)據(jù)科學(xué)和 AI 的發(fā)展，開發(fā)和推出了一系列軟件和 SDK，助力企業(yè)從云端、數(shù)據(jù)中心到邊緣都能優(yōu)化其基于 GPU 的系統(tǒng)。

在 3 月 20-23 日舉行的 GTC 2023 春季大會上，NVIDIA 攜手阿里巴巴、百度、快手、騰訊、Roblox、ControlExpert 等合作伙伴，集中展示了當下熱門應(yīng)用的最新進展，涵蓋 NVIDIA Merlin、LLM、Triton 推理服務(wù)器、CV-CUDA、AI Enterprise 等多個領(lǐng)域應(yīng)用。

掃描二維碼免費注冊

預(yù)約觀看互聯(lián)網(wǎng)應(yīng)用精彩演講

以下為 11 個演講的詳細介紹：

1. Merlin 應(yīng)用框架

NVIDIA Merlin 是推薦系統(tǒng)的助推器，它為企業(yè)用戶提供了一個全鏈路的方案，能夠提高訓(xùn)練和推理速度，幫助各種類型的企業(yè)更好地利用數(shù)據(jù)，構(gòu)建由 NVIDIA GPU 加速的推薦系統(tǒng)。改進推薦將有助于提高點擊率、購買率和滿意度。

Merlin 相關(guān)演講推薦：

//

DeepRec：面向推薦場景的高性能深度學(xué)習(xí)框架

會議代碼：[S51544]

演講時間：3 月 23 日 3:00 PM

DeepRec 支持了淘寶搜索、猜你喜歡、定向、直通車等核心業(yè)務(wù)，支撐著千億特征、萬億樣本超大規(guī)模的搜索、推薦、廣告場景的模型訓(xùn)練和推理。自 DeepRec 開源以來，已有數(shù)十家互聯(lián)網(wǎng)公司將 DeepRec 應(yīng)用在他們的搜推廣場景的業(yè)務(wù)中，取得了顯著的業(yè)務(wù)效果提升和性能提升。

DeepRec 中提供的功能和性能優(yōu)化主要分三個方面：1. 模型效果方面；2. 訓(xùn)練和推理優(yōu)化方面；3. 模型部署方面。本次演講中，主要介紹 GPU 場景下，DeepRec 中多級 Embedding 混合存儲功能，圖感知的內(nèi)存/顯存分配器，SessionGroup 中多 CUDA Stream 支持，基于Merlin SOK 的 GPU 同步訓(xùn)練，以及 Embedding 性能優(yōu)化 Group Embedding。

您可以在 github 上體驗 DeepRec：

https://github.com/alibaba/DeepRec

演講嘉賓：

劉童璇，阿里巴巴高級技術(shù)專家

劉仕杰，NVIDIA GPU 計算專家團隊工程師

//

Merlin 的新發(fā)布：GPU 上輕松構(gòu)建和部署任何規(guī)模的推薦系統(tǒng)

會議代碼：[S51335]

演講時間：3 月 23 日 2:00 AM

本演講將介紹 NVIDIA Merlin 的進展，這是 NVIDIA 用于構(gòu)建和部署任何規(guī)模的推薦系統(tǒng)的開源框架。本次分享將通過使用 Merlin 在 NVIDIA 構(gòu)建推薦系統(tǒng)的真實案例來說明 Merlin 的易用性，隨后深入探討 Merlin 加速推薦系統(tǒng)在 GPU 上性能的各種機制和底層庫，并且預(yù)覽了 Grace Hopper Superchip 架構(gòu)給推薦系統(tǒng)帶來的進步。預(yù)約觀看本演講，了解如何在 GPU 上輕松構(gòu)建和部署任何規(guī)模的推薦模型。

您可以在 github 上體驗 Merlin：

https://github.com/NVIDIA-Merlin/Merlin

演講嘉賓：

高文雯，NVIDIA 高級產(chǎn)品經(jīng)理

Angel Martinez，NVIDIA 深度學(xué)習(xí)工程師

2. LLM

LLM 是一種深度學(xué)習(xí)算法，可以通過大規(guī)模數(shù)據(jù)集訓(xùn)練來學(xué)習(xí)識別、總結(jié)、翻譯、預(yù)測和生成文本及其他內(nèi)容。LLM 是 Transformer 模型最成功的應(yīng)用之一。除了加速翻譯軟件、聊天機器人、AI 助手等自然語言處理應(yīng)用之外，LLM 還在醫(yī)療、軟件開發(fā)等許多其他領(lǐng)域被使用。而近期 ChatGPT 的火爆，更是將 LLM 帶到了公眾視野。

LLM相關(guān)演講推薦：

//

飛槳深度學(xué)習(xí)平臺高效支持大模型生產(chǎn)及應(yīng)用

會議代碼：[S52366]

演講時間：3 月 22 日即可在線觀看

源于百度業(yè)務(wù)對人工智能技術(shù)的廣泛應(yīng)用，飛槳深度學(xué)習(xí)平臺結(jié)合應(yīng)用持續(xù)創(chuàng)新，研發(fā)了業(yè)界領(lǐng)先的大規(guī)模分布式訓(xùn)練技術(shù)。飛槳先后發(fā)布了 4D 混合并行訓(xùn)練、端到端自適應(yīng)分布式訓(xùn)練、超大規(guī)模圖訓(xùn)練引擎等核心技術(shù)，并基于這些技術(shù)支持文心大模型的訓(xùn)練和部署。目前，文心大模型已經(jīng)覆蓋基礎(chǔ)大模型、任務(wù)大模型、行業(yè)大模型的三級體系，飛槳+文心大模型賦能千行百業(yè)的智能化升級。

演講嘉賓：

馬艷軍，百度 AI 技術(shù)生態(tài)總經(jīng)理

//

多模態(tài)超大模型在短視頻場景落地應(yīng)用

會議代碼：[SE52361]

演講時間：3 月 22 日 3:00 PM

以 ChatGPT 為代表的大模型面世，帶來了 AI 大模型技術(shù)熱潮，研究表明，知識密集任務(wù)中越大的模型學(xué)習(xí)效率越高（相同訓(xùn)練數(shù)據(jù)量下，模型越大任務(wù)效果越好），主流大模型的參數(shù)大都超過了千億 (100B) 規(guī)模，同時也給模型的高效訓(xùn)練和推理部署帶來嚴峻挑戰(zhàn)。快手圍繞提高模型計算效率和可部署開展技術(shù)攻關(guān)，沉淀了一套通用的混合并行訓(xùn)練、壓縮、推理整體解決方案，并聯(lián)合業(yè)務(wù)實現(xiàn)百億參數(shù) Dense 模型和千億參數(shù) MOE 大模型落地，取得顯著業(yè)務(wù)收益。

演講嘉賓：

張勝卓，快手算法引擎專家

韓青長，快手算法引擎工程師

李杰，快手算法引擎工程師

門春雷，快手算法引擎專家

3. Triton 推理服務(wù)器

NVIDIA Triton 推理服務(wù)器是 NVIDIA 推出的一款開源軟件，可簡化部署深度學(xué)習(xí)模型的過程。對于所有推理模式，都可以簡化模型在任一框架中以及任何 GPU 或 CPU 上的運行方式，從而在生產(chǎn)環(huán)境中使用 AI。Triton 可提供高吞吐量的數(shù)據(jù)中心推理，以實現(xiàn) GPU 使用率的最大化，對行業(yè)產(chǎn)生巨大價值。

Triton 相關(guān)演講推薦：

//

云端 AI 推理加速：一種跨平臺和框架透明的方式

會議代碼：[S52332]

演講時間：3 月 22 日即可在線觀看

從產(chǎn)品推薦到自動駕駛汽車再到在線聊天機器人，AI 在我們的日常生活中變得越來越普及?？紤]到 AI 應(yīng)用程序的廣泛應(yīng)用，AI 推理很可能會在云端的不同硬件目標上運行。這種硬件異構(gòu)性引發(fā)了軟件層面的挑戰(zhàn)，尤其是當開發(fā)人員經(jīng)常發(fā)現(xiàn)自己使用獨立的軟件棧在不同的硬件目標上開發(fā)推理應(yīng)用程序時?；诖耍v訊計算加速套件 TACO Infer 旨在讓所有開發(fā)人員，無論其 AI 開發(fā)經(jīng)驗如何，都可以使用他們選擇的模型、框架和硬件后端來加速深度學(xué)習(xí)推理。TACO Infer 提供了一個跨平臺的統(tǒng)一優(yōu)化接口，對深度學(xué)習(xí)框架透明，如 TensorFlow 或 PyTorch。TACO Infer 的可擴展設(shè)計，還有助于在針對不同設(shè)備時，可集成第三方和社區(qū)開源軟件。

演講嘉賓：

葉帆，騰訊云異構(gòu)計算專家級工程師、異構(gòu)研發(fā)負責(zé)人

//

為元宇宙的發(fā)展大力普及機器學(xué)習(xí)推理

會議代碼：[S51948]

演講時間：3 月 22 日 2:00 AM

本場演講將帶您了解 Roblox ML 平臺推理服務(wù)。您將了解如何將 Triton 推理服務(wù)與 Kubelow 和Kserve 集成。本場演講將分享 Roblox 如何簡化最終用戶的部署，以便為 CPU 和 GPU 上的模型提供服務(wù)。最后，將重點介紹 Roblox 目前的幾個案例，如游戲推薦和其他計算機視覺（CV）模型。

演講嘉賓：

Denis Goupil，Roblox 首席機器學(xué)習(xí)工程師

4. CV-CUDA

CV-CUDA （Computer Vision – Compute Unified Device Architecture）高性能圖像處理加速庫，是一個開源項目，可在 AI 成像和 CV 流程中通過 GPU 加速構(gòu)建高效的預(yù)處理和后處理步驟，可以更快、更高效地大規(guī)模處理圖像。CV-CUDA 前期由 NVIDIA 和字節(jié)跳動的機器學(xué)習(xí)團隊聯(lián)合開發(fā)。如果想試試更快、更好用的視覺預(yù)處理庫，可以試試這一開源工具（GitHub：https://github.com/CVCUDA/CV-CUDA 下載和試用）。

CV-CUDA 相關(guān)演講推薦：

//

使用 NVIDIA DeepStream 的自定義 GPU 驅(qū)動插件推進 AI 應(yīng)用

會議代碼：[S51612]

演講時間：3 月 21 日 2:00 AM

使用創(chuàng)新（且易于訪問）的工具，如用于圖像處理的 NVIDIA DeepStream SDK 和 CV-CUDA，釋放計算機視覺的力量。有了這些強大的工具，開發(fā)人員可以快速創(chuàng)建高度精確的定制實時AI解決方案。本場演講將展示近期宣布的 CV-CUDA（可供早期訪問），這是一個開源項目，能夠使用 GPU 處理構(gòu)建高效的云規(guī)模 AI 成像和 CV 應(yīng)用程序。本場演講將逐步演示如何使用 CV-CUDA 為 DeepStream 構(gòu)建自定義插件，從而加速構(gòu)建端到端視覺 AI 管道。

演講嘉賓：

Alvin Clark，NVIDIA 資深解決方案架構(gòu)師

//

克服基于 AI 的成像和計算機視覺管道中的前處理和后處理瓶頸

會議代碼：[S51182]

演講時間：3 月 23 日 9:00 PM

本演講將介紹如何訪問并部署計算機視覺 kernels，以加速整個基于云的管道的構(gòu)建。

演講嘉賓：

Rodolfo Lima，NVIDIA CV-CUDA 資深工程師

5. NVIDIA AI Enterprise

NVIDIA AI Enterprise 是一套全面的云原生 AI 和數(shù)據(jù)分析軟件套件，為使企業(yè)能夠在熟悉的基礎(chǔ)設(shè)施上使用 AI ，而做了專門的優(yōu)化。這套軟件可以部署在任何地方，包括從企業(yè)數(shù)據(jù)中心到公有云，并且為保證 AI 項目在各地的正常運行，對全球企業(yè)均可提供支持。近期，NVIDIA 還推出了 AI Enterprise 3.0 新版本，擴大了對 NVIDIA NGC 軟件目錄中 50 多個 NVIDIA AI 軟件框架和預(yù)訓(xùn)練模型的支持，大幅推動并簡化全球范圍內(nèi)眾多機構(gòu)的 AI 部署工作。

NVIDIA AI Enterprise 相關(guān)演講推薦：

//

如何構(gòu)建一個集成混合和多云數(shù)據(jù)中心的人工智能平臺

會議代碼：[S51395]

演講時間：3 月 22 日 5:00 AM

AI 應(yīng)用和機器學(xué)習(xí)應(yīng)用已成為主流，幾乎是每家公司競爭戰(zhàn)略的核心。企業(yè)面臨的一個最嚴峻的挑戰(zhàn)，是分布在云和本地數(shù)據(jù)中心上一個個孤立的基礎(chǔ)設(shè)施。人工智能要求它們的環(huán)境作為一個公共平臺來管理，而不是計算孤島。企業(yè) AI 工作負載需要靈活性，以便跨混合云進行移植，無論是在公共云中開發(fā)，還是在數(shù)據(jù)中心的 prem 上部署，或是多個云的組合。了解統(tǒng)一的 NVIDIA AI 平臺如何鏈接混合和多云環(huán)境，從而幫助企業(yè)用戶節(jié)省成本，并加快 AI 應(yīng)用程序的上市時間。

演講嘉賓：

Charu Chaubai，NVIDIA 產(chǎn)品市場經(jīng)理

Christi DeCuir，NVIDIA 云產(chǎn)品 GTM 總監(jiān)

//

AI 實用指南：從試點走向生產(chǎn)

會議代碼：[S51391]

演講時間：3 月 23 日 11:00 PM

我們正在進入 AI 應(yīng)用的新階段。企業(yè)正在從 AI 的試點和實驗轉(zhuǎn)向全面生產(chǎn)和規(guī)?；?，以推動成本節(jié)約和新的收入模式。如果要充分發(fā)揮這些任務(wù)關(guān)鍵型 AI 應(yīng)用的潛力，并推動有意義的業(yè)務(wù)價值，這需要一種全新的思路，以確保這些 AI 應(yīng)用的可靠性、安全性和可擴展性。NVIDIA AI Enterprise 能夠幫助企業(yè)用戶無縫過渡到生產(chǎn)人工智能。預(yù)約觀看本演講，了解最佳實踐、經(jīng)驗教訓(xùn)與常見錯誤。

演講嘉賓：

Anne Hecht，NVIDIA 企業(yè)市場產(chǎn)品資深產(chǎn)品總監(jiān)

David Nixon，Carilion Clinic 技術(shù)服務(wù)組系統(tǒng)工程師

Andreas Witte，ControlExpert 董事總經(jīng)理

//

在端到端人工智能世界中實現(xiàn)組織可持續(xù)性和成功最大化的三種策略

會議代碼：[S51933]

演講時間：3 月 22 日 3:00 AM

AI 是我們這個時代最強大的技術(shù)力量，但采用 AI 可能會給任何致力于可持續(xù)發(fā)展并關(guān)注氣候變化、能源效率和減少浪費的領(lǐng)導(dǎo)者帶來困擾。幸運的是，我們有可能制定一條路線，在最大限度地減少（甚至減少）能源和材料使用、提高生產(chǎn)力、加深對決策和運營的理解和控制的同時，實現(xiàn)使用 AI 的最大效益。本場演講將描述 AI 的三種可持續(xù)性策略。了解技術(shù)選擇如何影響能源和材料的使用，如何在追求 AI 的過程中提高生產(chǎn)力和靈活性，其中技術(shù)杠桿可以加快上市時間，同時降低成本和工作量，以及 AI 支持的建模和模擬如何增強決策和運營，從而助力您的組織能夠在履行可持續(xù)性承諾的同時茁壯成長。

演講嘉賓：

Steve Oberlin，NVIDIA 加速計算 CTO

如何預(yù)約和注冊

想要預(yù)約以上精彩內(nèi)容？掃描海報二維碼 或 點擊 “閱讀原文”，打開 GTC 2023 互聯(lián)網(wǎng)應(yīng)用精選會議 專題頁面，按照會議代碼或標題，找到對應(yīng)演講。通過點擊 “Add to Schedule” 或 “星星” ，將該演講內(nèi)容添加至您的日程，大會開始后登錄即可在線觀看。

進入 互聯(lián)網(wǎng)應(yīng)用精選會議 專題頁面。

按照 會議代碼 或者 演講標題，找到感興趣的內(nèi)容，點擊 “Add to Schedule”，添加至您的日程。

如無 “Add to Schedule” 按鈕，說明該演講為點播，從3月22日開始即可在線觀看，點擊右上方的 星星，將該演講添加至您的日程。

如點擊 “Add to Schedule” 或 星星 時，出現(xiàn)如下界面。

如果您已注冊，請點擊 “Login” 登錄，激活賬戶，繼續(xù)操作；

如果您尚未注冊，請點擊 “Create Account”，詳情參看 GTC23 注冊教程。

掃描下方海報二維碼，即可免費注冊 GTC23，在 3 月 24 日 聽 OpenAI 聯(lián)合創(chuàng)始人與 NVIDIA 創(chuàng)始人的爐邊談話，將由 NVIDIA 專家主持，配中文講解和實時答疑，一起看 AI 的現(xiàn)狀和未來！