英偉達(dá)發(fā)布DeepSeek R1于NIM平臺(tái)
英偉達(dá)近日宣布，其DeepSeek R1 671b版本已正式上線英偉達(dá)NIM(NVIDIA Inference Microservices)平臺(tái)，并以預(yù)覽版的形式在build.nvidia.com網(wǎng)站上發(fā)布。
據(jù)悉，DeepSeek R1 NIM微服務(wù)是英偉達(dá)在人工智能領(lǐng)域的一項(xiàng)重要?jiǎng)?chuàng)新，旨在為用戶提供高效、精準(zhǔn)的推理服務(wù)。在單個(gè)英偉達(dá)HGX H200系統(tǒng)上，該微服務(wù)每秒最多可處理3872個(gè)token，展現(xiàn)出強(qiáng)大的處理能力和高效性。
此次上線的DeepSeek R1 NIM微服務(wù)預(yù)覽版，允許開發(fā)人員對(duì)其進(jìn)行測(cè)試和實(shí)驗(yàn)，以更好地了解其性能和功能。英偉達(dá)表示，未來該API將作為英偉達(dá)AI Enterprise軟件平臺(tái)的一部分，以可下載的NIM微服務(wù)形式正式推出，為用戶提供更加便捷、高效的使用體驗(yàn)。
英偉達(dá)一直致力于推動(dòng)人工智能技術(shù)的發(fā)展和應(yīng)用，此次發(fā)布的DeepSeek R1 NIM微服務(wù)預(yù)覽版，不僅展示了英偉達(dá)在人工智能領(lǐng)域的強(qiáng)大技術(shù)實(shí)力，也為用戶提供了更加高效、精準(zhǔn)的推理服務(wù)。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
軟件
+關(guān)注
關(guān)注
69文章
5332瀏覽量
91605 -
NIM
+關(guān)注
關(guān)注
0文章
10瀏覽量
8254 -
人工智能
+關(guān)注
關(guān)注
1817文章
50103瀏覽量
265527 -
英偉達(dá)
+關(guān)注
關(guān)注
23文章
4089瀏覽量
99230 -
DeepSeek
+關(guān)注
關(guān)注
2文章
835瀏覽量
3276
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
百度騰訊搶灘布局！DeepSeek-R1升級(jí)和開源背后，國(guó)產(chǎn)AI的逆襲之路
Hugging Face平臺(tái)開源。用戶可通過官方網(wǎng)頁(yè)、App、小程序進(jìn)入對(duì)話界面后，開啟“深度思考”功能體驗(yàn)最新版本。API也已同步更新，調(diào)用方式不變。 ? DeepSeek-R1-0528編程能力提升
DeepSeek R1 MTP在TensorRT-LLM中的實(shí)現(xiàn)與優(yōu)化
TensorRT-LLM 在 NVIDIA Blackwell GPU 上創(chuàng)下了 DeepSeek-R1 推理性能的世界紀(jì)錄，Multi-Token Prediction (MTP) 實(shí)現(xiàn)了大幅提速
如何在NVIDIA Blackwell GPU上優(yōu)化DeepSeek R1吞吐量
開源 DeepSeek R1 模型的創(chuàng)新架構(gòu)包含多頭潛在注意力機(jī)制 (MLA) 和大型稀疏混合專家模型 (MoE)，其顯著提升了大語(yǔ)言模型 (LLM) 的推理效率。
速看！EASY-EAI教你離線部署Deepseek R1大模型
1.Deepseek簡(jiǎn)介DeepSeek-R1，是幻方量化旗下AI公司深度求索（DeepSeek）研發(fā)的推理模型。DeepSeek-R1采用強(qiáng)化學(xué)習(xí)進(jìn)行后訓(xùn)練，旨在提升推理能力，尤其擅
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】書籍介紹+第一章讀后心得
的展望，大模型的訓(xùn)練方法、推理部署，到 GPU 硬件及推理模型的發(fā)展趨勢(shì)，以前瞻性的視角為讀者描繪了大模型的發(fā)展藍(lán)圖。
技驚四座的DeepSeek -R1模型發(fā)布歷程
2025年年初，全球人工智能領(lǐng)域
發(fā)表于 07-17 11:59
DeepSeek開源新版R1 媲美OpenAI o3
DeepSeek“悄悄”地又放了一個(gè)大招，DeepSeek開源了R1最新0528版本。盡管DeepSeek目前還沒有對(duì)該版本進(jìn)行任何說明，但是根據(jù)著名代碼測(cè)試
瑞薩RZ/V2H平臺(tái)支持部署離線版DeepSeek -R1大語(yǔ)言模型
瑞薩RZ/V2H平臺(tái)支持部署離線版DeepSeek -R1大語(yǔ)言模型
DeepSeek創(chuàng)始人梁文鋒入選《時(shí)代》最具影響力100人
大模型，在使用少部分英偉達(dá)尖端芯片情況下，通過更高效地處理數(shù)據(jù)，使得DeepSeek的性能與OpenAI的ChatGPT可以相媲美。 而且業(yè)界也多認(rèn)為DeepSeek的
SL1680 SoC本地運(yùn)行DeepSeek R1 1.5B大模型
深蕾半導(dǎo)體SL1680 SoC本地成功運(yùn)行DeepSeek R1 Distill Qwen2.5 1.5B大模型，展示了執(zhí)行過程及本地小參數(shù)大模型與云端大模型結(jié)合的應(yīng)用場(chǎng)景，并簡(jiǎn)要介紹了ASTRA SL1680 SoC的性能特點(diǎn)。
科大訊飛深度解析DeepSeek-V3/R1推理系統(tǒng)成本
本篇分析來自科大訊飛技術(shù)團(tuán)隊(duì)，深度解析了DeepSeek-V3 / R1 推理系統(tǒng)成本，旨在助力開發(fā)者實(shí)現(xiàn)高性價(jià)比的MoE集群部署方案。感謝訊飛研究院副院長(zhǎng)&AI工程院常務(wù)副院長(zhǎng)龍明康、AI工程院AI云平臺(tái)研發(fā)部總監(jiān)李珍松、訊飛
英偉達(dá)、高通布局AI投資版圖，這些明星企業(yè)被收入囊中！
電子發(fā)燒友原創(chuàng) 章鷹 今年以來，AI界新秀DeepSeek帶來的大模型平權(quán)推動(dòng)AI應(yīng)用，云計(jì)算市場(chǎng)景氣度上行，推動(dòng)資本開支增長(zhǎng)。對(duì)于DeepSeek的橫空出世，英偉達(dá)CEO黃仁勛表示，
【幸狐Omni3576邊緣計(jì)算套件試用體驗(yàn)】DeepSeek 部署及測(cè)試
和強(qiáng)大的多場(chǎng)景適應(yīng)能力受到廣泛關(guān)注。業(yè)務(wù)范圍包括為用戶提供智能對(duì)話、推理、AI搜索、文件處理、翻譯、解題、創(chuàng)意寫作、編程等多種服務(wù)。
最新發(fā)布的 DeepSeek R1 大型語(yǔ)言模型可提供流暢精準(zhǔn)
發(fā)表于 03-21 19:31
顯存也能疊疊樂，雙 Intel Arc A770 顯卡低成本部署 DeepSeek R1 32B 蒸餾模型體驗(yàn)
今年春節(jié)后，DeepSeek R1 風(fēng)暴般地席卷全國(guó)，小到手機(jī) App，大到新能源汽車，似乎一夜間所有產(chǎn)品都接入了 DeepSeek R1。不得不說
如何使用OpenVINO運(yùn)行DeepSeek-R1蒸餾模型
DeepSeek-R1在春節(jié)期間引發(fā)了全球科技界的熱度，DeepSeek-R1 是由 DeepSeek 開發(fā)的開源推理模型，用于解決需要邏輯推理、數(shù)學(xué)問題解決和實(shí)時(shí)決策的任務(wù)。
工商網(wǎng)監(jiān)
評(píng)論