AI Factory 的經(jīng)驗(yàn)證設(shè)計(jì)將加速基礎(chǔ)設(shè)施與軟件（包括全新 NVIDIA NIM 微服務(wù)和經(jīng)擴(kuò)展的 NVIDIA Blueprint）相結(jié)合，為各國(guó)和企業(yè)簡(jiǎn)化了全棧式 AI 開(kāi)發(fā)的流程。

歐盟正在投入超過(guò) 2000 億美元發(fā)展 AI，但若要最大限度獲取投資回報(bào)，其開(kāi)發(fā)者必須應(yīng)對(duì)三個(gè)關(guān)鍵制約因素：計(jì)算資源可用性受限、數(shù)據(jù)隱私需求和安全優(yōu)先考量。

在 VivaTech 上的 NVIDIA GTC 巴黎主題演講中公布的一套全新 NVIDIA 技術(shù)，使開(kāi)發(fā)者在 AI 開(kāi)發(fā)和部署周期的每個(gè)階段都能更容易地應(yīng)對(duì)這些挑戰(zhàn)。企業(yè)可以使用這些工具在本地或云端構(gòu)建可擴(kuò)展的 AI 工廠(chǎng)，快速創(chuàng)建安全、優(yōu)化的主權(quán) AI 智能體。

擴(kuò)展的NVIDIA Enterprise AI Factory的經(jīng)驗(yàn)證設(shè)計(jì)將 NVIDIA Blackwell 加速的基礎(chǔ)設(shè)施與新一代軟件堆棧相結(jié)合，為主權(quán) AI 提供了一站式解決方案。

其核心是全新的 NIM，讓企業(yè)能夠?yàn)楦鞣N開(kāi)放的大語(yǔ)言模型 (LLM) 架構(gòu)快速部署極速推理，計(jì)劃支持 Hugging Face 上托管的超過(guò) 10 萬(wàn)個(gè)開(kāi)放、私有和專(zhuān)業(yè)領(lǐng)域的模型。

最上層是全新的NVIDIA AI Blueprint和開(kāi)發(fā)者示例。這些內(nèi)容指導(dǎo)開(kāi)發(fā)者如何在確保強(qiáng)大的安全性、更高程度的隱私保護(hù)，并且能夠持續(xù)改進(jìn)的前提下，簡(jiǎn)化創(chuàng)建并引入 AI 智能體的過(guò)程。

借助這些新工具，包括AI-Q NVIDIA Blueprint和用于數(shù)據(jù)飛輪的 NVIDIA Blueprint，以及基于NVIDIA NeMo用于 AI 安全的藍(lán)圖，歐洲的機(jī)構(gòu)可以在不影響性能、控制或合規(guī)性的前提下大規(guī)模構(gòu)建、部署和運(yùn)行 AI 工廠(chǎng)。

歐洲大陸的主要企業(yè)已經(jīng)在為近乎所有行業(yè)構(gòu)建 NVIDIA 加速的 AI 工廠(chǎng)。該地區(qū)最大的金融公司，包括法國(guó)巴黎銀行 (BNP Paribas) 和 Finanz Informatik，正在擴(kuò)展 AI 工廠(chǎng)來(lái)運(yùn)行金融服務(wù) AI 智能體，以協(xié)助員工和客戶(hù)。由歐萊雅支持的初創(chuàng)公司 Noli.com 正與埃森哲協(xié)作使用其 AI Refinery 開(kāi)發(fā) AI 美容配對(duì)器 (AI Beauty Matchmaker)。IQVIA 正在構(gòu)建 AI 智能體以支持醫(yī)療健康服務(wù)。

在電信行業(yè)，英國(guó)電信集團(tuán) (BT Group) 正在使用 ServiceNow 優(yōu)化客戶(hù)服務(wù)并解決其網(wǎng)絡(luò)中的異常。挪威電信 (Telenor) 正使用其 AI 工廠(chǎng)運(yùn)行 NVIDIA AI Blueprint，以實(shí)現(xiàn)自主網(wǎng)絡(luò)配置。

通過(guò)企業(yè)級(jí) AI 工廠(chǎng)促進(jìn) AI 智能體開(kāi)發(fā)

創(chuàng)建主權(quán) AI 智能體的第一步是模型開(kāi)發(fā)，通常使用針對(duì)特定用例的區(qū)域或企業(yè)特定數(shù)據(jù)。為了訓(xùn)練、管理和擴(kuò)展這些模型，主權(quán) AI 開(kāi)發(fā)者需要 AI 工廠(chǎng)的支持。

本地部署的主權(quán) AI 基礎(chǔ)設(shè)施在政府、金融和醫(yī)療健康等受監(jiān)管行業(yè)中尤其有價(jià)值。NVIDIA Enterprise AI Factory 的經(jīng)驗(yàn)證設(shè)計(jì)通過(guò)本地部署 AI 工廠(chǎng)（其中每個(gè)硬件和軟件層都經(jīng)過(guò)優(yōu)化），幫助這些行業(yè)快速擴(kuò)展 AI 應(yīng)用支持能力。

其涵蓋 NVIDIA Blackwell 加速計(jì)算（包括 NVIDIA RTX PRO 服務(wù)器版）、NVIDIA 網(wǎng)絡(luò)和NVIDIA AI Enterprise軟件，用于加速生成式和代理式 AI 應(yīng)用。

多家區(qū)域軟件提供商，包括 Adaptive ML、ClearML、Dataloop、Deepchecks、deepset、Domino Data Labs、EnterpriseDB、Iguazio、Quantiphi、Teradata、Weaviate 和 Wiz，正在整合這一經(jīng)驗(yàn)證設(shè)計(jì)，幫助開(kāi)發(fā)者大規(guī)模構(gòu)建和部署企業(yè) AI 智能體。

NVIDIA Enterprise AI Factory 還可以與來(lái)自區(qū)域合作伙伴的軟件一起使用，包括 aiOla、DeepL、Elastic、Photoroom、PolyAI、Qodo、Sana Labs、Tabnine 和 ThinkDeep 等。

NIM 在 NVIDIA 基礎(chǔ)設(shè)施上加速 LLM 部署

準(zhǔn)備好部署 AI 模型和智能體后，開(kāi)發(fā)者可以利用NVIDIA NIM微服務(wù)，在不斷擴(kuò)展的全球 LLM 中實(shí)現(xiàn)加速企業(yè)級(jí)推理，包括針對(duì)特定語(yǔ)言和領(lǐng)域定制的模型。

NIM 微服務(wù)即將支持 Hugging Face 上的海量 LLM。NIM 可通過(guò)如NVIDIA TensorRT-LLM、SGLang 或 vLLM 等理想的推理引擎自動(dòng)優(yōu)化模型，使用戶(hù)只需幾個(gè)簡(jiǎn)單命令，就能在任意 NVIDIA 加速基礎(chǔ)設(shè)施上快速部署他們偏好的 LLM 進(jìn)行高性能 AI 推理。

Hugging Face 產(chǎn)品副總裁 Jeff Boudier 表示：“NIM 使得在 NVIDIA GPU 上部署 Hugging Face 的各種 LLM 變得容易。通過(guò)支持 Hugging Face Hub 上托管的超過(guò) 10 萬(wàn)個(gè)開(kāi)放和私有 LLM，NIM 使開(kāi)放模型的性能和多樣性助力企業(yè) AI 智能體?！?/p>

企業(yè)模型構(gòu)建商和軟件開(kāi)發(fā)工具創(chuàng)建者 AI21 Labs、Dream Security、IBM 和 JetBrains，以及歐洲研究和創(chuàng)新機(jī)構(gòu)巴塞羅那超級(jí)計(jì)算中心 (Barcelona Supercomputing Center)、Bielik.AI 和 UTTER，正在以 NIM 微服務(wù)形式提供專(zhuān)業(yè)的 LLM。

這些經(jīng)優(yōu)化的模型支持 35 種區(qū)域語(yǔ)言，包括阿拉伯語(yǔ)、捷克語(yǔ)、荷蘭語(yǔ)、德語(yǔ)、希伯來(lái)語(yǔ)、法語(yǔ)、波蘭語(yǔ)、葡萄牙語(yǔ)和西班牙語(yǔ)，為開(kāi)發(fā)者構(gòu)建具有本地語(yǔ)言和文化理解能力的 AI 智能體提供了更多選擇。

NVIDIA 還與歐洲的多個(gè)模型構(gòu)建商和 AI 聯(lián)盟協(xié)作，使用NVIDIA Nemotron技術(shù)優(yōu)化本地模型。

用于更智能、更安全的 AI 智能體藍(lán)圖

為助力開(kāi)發(fā)者構(gòu)建和部署強(qiáng)大、安全的 AI 模型和智能體，NVIDIA 提供了易于遵循的藍(lán)圖和開(kāi)發(fā)者示例。這些參考設(shè)計(jì)使歐洲開(kāi)發(fā)者能夠?qū)⒛Ｐ秃椭悄荏w連接到專(zhuān)有數(shù)據(jù)、實(shí)施安全策略并持續(xù)更新優(yōu)化，從而根據(jù)區(qū)域需求進(jìn)行定制。

AI-Q NVIDIA Blueprint 提供了一份開(kāi)發(fā)代理式系統(tǒng)的指南，該系統(tǒng)具備快速多模態(tài)數(shù)據(jù)提取和強(qiáng)大信息檢索的能力。該藍(lán)圖包括NVIDIA NeMo Agent工具包，這是一個(gè)用于評(píng)估和優(yōu)化 AI 智能體的開(kāi)源軟件庫(kù)。

NVIDIA NeMo Agent 工具包帶來(lái)智能的代理式 AI 工作流，并與開(kāi)放標(biāo)準(zhǔn)兼容，包括模型上下文協(xié)議 (MCP)，這是一個(gè)用于連接 AI 智能體與工具的開(kāi)源框架。這種集成使其能夠與 MCP 服務(wù)器提供的工具實(shí)現(xiàn)互操作。NeMo Agent 工具包還與智能體框架集成，包括 CrewAI、LangChain、LlamaIndex、Microsoft Semantic Kernel 和 Weights & Biases。

AI-Q NVIDIA Blueprint 為企業(yè)提供了構(gòu)建領(lǐng)域?qū)Ｓ?AI 智能體的基礎(chǔ)，這些智能體可以使用各種企業(yè)數(shù)據(jù)源，根據(jù)組織特定需求生成情境化的洞察。NVIDIA 合作伙伴包括 DDN、戴爾科技、慧與、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data 和 WEKA 使用 AI-Q NVIDIA Blueprint 將他們的數(shù)據(jù)平臺(tái)連接到 AI 智能體。

用于構(gòu)建數(shù)據(jù)飛輪的 NVIDIA AI Blueprint 使企業(yè)能夠不斷優(yōu)化其 AI 智能體，包括用于將推理數(shù)據(jù)轉(zhuǎn)化為新的訓(xùn)練和評(píng)估數(shù)據(jù)集的工具，以及保持高準(zhǔn)確性的同時(shí)自動(dòng)篩選優(yōu)化模型的工具。

基于 NVIDIA AI Enterprise 構(gòu)建的藍(lán)圖整合了生產(chǎn)環(huán)境流量和用戶(hù)反饋，并觸發(fā)重新訓(xùn)練和重新部署管線(xiàn)，創(chuàng)建了一個(gè)持續(xù)反饋循環(huán)以增強(qiáng)模型性能。由模塊化 NVIDIA NeMo 微服務(wù)提供支持，它提供靈活的部署選項(xiàng)，可在本地或是云端的任何加速計(jì)算基礎(chǔ)設(shè)施上運(yùn)行。

該藍(lán)圖可評(píng)估現(xiàn)有和新的候選模型，幫助開(kāi)發(fā)者識(shí)別和部署更小、更快的模型，其精度不亞于大型模型。借助此工具，企業(yè)可以選擇提高計(jì)算效率并降低總擁有成本的模型，獲取更精簡(jiǎn)、更具成本效益的 AI。

NVIDIA 合作伙伴 VAST Data、Weights & Biases 和 Iguazio（由麥肯錫旗下 AI 公司 QuantumBlack 收購(gòu)的 AI 平臺(tái)公司），正在基于用于數(shù)據(jù)飛輪的 NVIDIA AI Blueprint 進(jìn)行構(gòu)建，以整合基于其軟件平臺(tái)的額外功能，如高階監(jiān)控能力。

為了幫助企業(yè)安全采用開(kāi)源模型，用于代理式 AI 安全的藍(lán)圖提供了一個(gè)用于評(píng)估和增強(qiáng)模型安全性的框架，涵蓋內(nèi)容安全、系統(tǒng)安全和隱私保護(hù)。

它指導(dǎo)開(kāi)發(fā)者使用 NVIDIA 精選數(shù)據(jù)集和標(biāo)準(zhǔn)化評(píng)估工具，通過(guò)后訓(xùn)練為模型投入使用做好準(zhǔn)備。該方案還提供可操作的安全和漏洞指標(biāo)，涵蓋破解、提示注入和有害內(nèi)容，使企業(yè)能夠加速部署，同時(shí)不影響合規(guī)性或信任。

企業(yè)已準(zhǔn)備集成新的 NVIDIA 軟件

包括 ActiveFence、Amdocs、思科、Cloudera、CrowdStrike、IBM、IQVIA、SAP、ServiceNow 和趨勢(shì)科技 (Trend Micro) 在內(nèi)的全球企業(yè)正在采用 NVIDIA NIM 微服務(wù)和藍(lán)圖，加速網(wǎng)絡(luò)安全、金融服務(wù)、醫(yī)療健康、電信等領(lǐng)域的 AI 工作流。

Amdocs 是針對(duì)通信和媒體提供商的領(lǐng)先軟件和服務(wù)提供商，將 NVIDIA AI Enterprise（包括 NVIDIA NeMo 和 NVIDIA NIM 微服務(wù)）用于 Amdocs' amAIz AI 產(chǎn)品和服務(wù)套件中。該公司通過(guò) NVIDIA AI Blueprint 在 LLMOps 管線(xiàn)中構(gòu)建數(shù)據(jù)飛輪，以實(shí)現(xiàn)高效的 LLM 微調(diào)。

Amdocs 計(jì)劃整合更多 NIM 微服務(wù)，以支持用于內(nèi)容創(chuàng)建、翻譯、網(wǎng)絡(luò)自動(dòng)化和客戶(hù)服務(wù)的 AI 智能體。

Capgemini、埃森哲、德勤、安永、Infosys、Tata 咨詢(xún)服務(wù)和 Wipro 等全球系統(tǒng)集成商正在借助 NVIDIA 全棧軟件幫助企業(yè)構(gòu)建其 AI 工廠(chǎng)。