NVIDIA 發(fā)布了 NVIDIA Riva 在語音人工智能方面的新突破, NVIDIA NeMo 在大規(guī)模語言建模( LLM )方面的新突破。 Riva 是一款 GPU 加速語音人工智能 SDK ,用于企業(yè)為其品牌和虛擬助手生成富有表現(xiàn)力的類人語音。 NeMo 是語音和 NLU 的加速培訓(xùn)框架,它現(xiàn)在有能力開發(fā)具有數(shù)萬億參數(shù)的大規(guī)模語言模型。
語音和語言人工智能的這些進步使企業(yè)和研究機構(gòu)能夠輕松構(gòu)建針對其行業(yè)和領(lǐng)域定制的最先進的對話人工智能功能。
英偉達 Riva
NVIDIA 發(fā)布了一個具有定制語音功能的新版本,企業(yè)只需 30 分鐘的語音數(shù)據(jù)即可輕松創(chuàng)建獨特的語音來代表其品牌。
此外, NVIDIA 宣布了Riva Enterprise,這是一項付費計劃,包括為需要大規(guī)模 Riva 部署的企業(yè)提供 NVIDIA 專家支持。 Riva 仍然免費提供給工作量較小的客戶和合作伙伴。
亮點包括:
在 A100 上用一天 30 分鐘的音頻數(shù)據(jù)創(chuàng)建一個新的神經(jīng)語音。
細粒度控件以生成富有表現(xiàn)力的聲音。
A100 上的 Fastpitch + HiFiGAN 比 V100 上的 Tacotron2 + WaveGlow 性能高 12 倍。
支持五種其他語言的世界級語音識別。
擴展到成百上千的實時流。
在任何云端、本地和邊緣運行。
注冊以接收有關(guān) Riva Enterprise 的最新消息和更新,以進行大規(guī)模部署 》》
使用 Riva 開發(fā)應(yīng)用程序
閱讀此introductory post to了解 Riva 工作流中的組件。
接下來,按照本教程構(gòu)建您自己的端到端語音識別服務(wù):
Parthart: 1-EC6
Parthart: H2-Em7
Parthut: 3-ECEN-18
有關(guān)構(gòu)建virtual assistants和transcription with entity recognition等語音應(yīng)用程序的更多教程,請訪問Riva Getting Started. 》》
NVIDIA NeMo Megatron 、 Triton 多 – GPU 多節(jié)點推理和 Megatron 530B
NVIDIA 還推出了為企業(yè)構(gòu)建、定制和部署大型語言模型的功能。 NeMo Megatron 是 NeMo 框架中的一項新功能,用于培訓(xùn)多達數(shù)萬億個參數(shù)的大型語言模型( LLM )。
它包括Megatron方面的進步,這是一個由 NVIDIA 研究人員領(lǐng)導(dǎo)的開源項目,旨在開發(fā)有效培訓(xùn)法學(xué)碩士的技術(shù)。企業(yè)可以使用 NeMo Megatron 定制 LLM ,如 Megatron 530B ,并使用 NVIDIA Triton 推理服務(wù)器跨多個 GPU 和節(jié)點進行部署。
亮點包括:
在包含數(shù)十億頁文本的龐大數(shù)據(jù)集上自動化數(shù)據(jù)整理。
為新的域和語言培訓(xùn)Megatron 530B等模型。
從單節(jié)點擴展到超級計算機,包括數(shù)十個DGX A100系統(tǒng)。
導(dǎo)出到多個節(jié)點和 GPU s ,用于使用 NVIDIA Triton 推理服務(wù)器進行實時推理。
關(guān)于作者
Siddharth Sharma 是NVIDIA 加速計算的高級技術(shù)營銷經(jīng)理。在加入NVIDIA 之前, Siddharth 是 Mathworks Simulink 和 Stateflow 的產(chǎn)品營銷經(jīng)理,與汽車和航空航天公司密切合作,采用基于模型的設(shè)計來創(chuàng)建控制軟件。
審核編輯:郭婷
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5600瀏覽量
109819 -
服務(wù)器
+關(guān)注
關(guān)注
14文章
10270瀏覽量
91537 -
人工智能
+關(guān)注
關(guān)注
1818文章
50120瀏覽量
265601 -
LLM
+關(guān)注
關(guān)注
1文章
347瀏覽量
1338
發(fā)布評論請先 登錄
NVIDIA推出代理式AI藍圖與電信推理模型
NVIDIA推動面向數(shù)字與物理AI的開源模型發(fā)展
【CIE全國RISC-V創(chuàng)新應(yīng)用大賽】+ 一種基于LLM的可通過圖像語音控制的元件庫管理工具
NVIDIA宣布開源Aerial軟件
NVIDIA TensorRT LLM 1.0推理框架正式上線
MediaTek攜手NVIDIA開啟個人AI算力新紀元
Votee AI借助NVIDIA技術(shù)加速方言小語種LLM開發(fā)
如何在魔搭社區(qū)使用TensorRT-LLM加速優(yōu)化Qwen3系列模型推理部署
NVIDIA技術(shù)助力企業(yè)創(chuàng)建主權(quán)AI智能體
使用NVIDIA Triton和TensorRT-LLM部署TTS應(yīng)用的最佳實踐
LM Studio使用NVIDIA技術(shù)加速LLM性能
詳解 LLM 推理模型的現(xiàn)狀
Cognizant將與NVIDIA合作部署神經(jīng)人工智能平臺,加速企業(yè)人工智能應(yīng)用
英偉達GTC2025亮點:Oracle與NVIDIA合作助力企業(yè)加速代理式AI推理
Oracle 與 NVIDIA 合作助力企業(yè)加速代理式 AI 推理
NVIDIA發(fā)布Riva語音AI和大型LLM軟件
評論