以DeepSeek-R1和V3為代表的開源模型系列在多語言理解和復(fù)雜推理任務(wù)中表現(xiàn)出色,極大優(yōu)化了算力成本,并進一步改變了訓(xùn)練和部署的算法結(jié)構(gòu),這一技術(shù)創(chuàng)新將快速提升對于推理算力的需求,從而加速推動AI應(yīng)用場景的落地。
作為國產(chǎn)算力領(lǐng)軍企業(yè),燧原科技完成了對DeepSeek全量模型的高效適配,包括DeepSeek-R1/V3 671B原生模型、DeepSeek-R1-Distill-Qwen-1.5B/7B/14B/32B、DeepSeek R1-Distill-Llama-8B/70B等蒸餾模型。整個適配進程中,燧原AI加速卡的計算能力得到充分利用,能夠快速處理海量數(shù)據(jù),同時其穩(wěn)定性為模型的持續(xù)優(yōu)化和大規(guī)模部署提供了堅實的基礎(chǔ)。
目前,DeepSeek的全量模型已在慶陽、無錫、成都等智算中心完成了數(shù)萬卡的快速部署,將為客戶及合作伙伴提供高性能計算資源,提升模型推理效率,同時降低使用門檻,大幅節(jié)省硬件成本。這一成果標志著燧原科技在國內(nèi)率先實現(xiàn)了DeepSeek全量模型的部署和落地,也充分展示了燧原科技超大規(guī)模集群的部署能力和日趨成熟的軟件生態(tài),為2025年更大規(guī)模國產(chǎn)算力的建設(shè)應(yīng)用提供了樣板。
此外,燧原科技與并濟科技、并行科技、東華軟件、道客網(wǎng)絡(luò)、光環(huán)云、邁富時、清程極智、燧弘華創(chuàng)、未來速度、無問芯穹、向量棧、億算智能、中科加禾等合作伙伴緊密合作,積極推進DeepSeek全量模型的更多系統(tǒng)級優(yōu)化,進一步提升模型在推理系統(tǒng)的性價比,從而為客戶帶來更優(yōu)的商業(yè)價值。
與此同時,燧原科技還與萬物安全、飛渡科技、萬物之宜等深度合作,即將推出面向“智慧城市、智慧園區(qū)、智慧交通”等AIoT場景的國內(nèi)首個DeepSeek智算訓(xùn)推一體機,幫助用戶解決國產(chǎn)化私有算力、超清數(shù)字孿生及物聯(lián)網(wǎng)安全等問題。
燧原科技正在推動“國產(chǎn)推理算力系統(tǒng)+國產(chǎn)大模型+國產(chǎn)應(yīng)用+國產(chǎn)智算中心” 全方位生態(tài)的普及和泛化,以慶陽的推理萬卡集群為起點,用“算力普惠”的理念推動更大規(guī)模的國產(chǎn)算力部署,為國產(chǎn)應(yīng)用賦能,為中國人工智能產(chǎn)業(yè)的發(fā)展提供了新的路徑。
-
開源
+關(guān)注
關(guān)注
3文章
4207瀏覽量
46152 -
模型
+關(guān)注
關(guān)注
1文章
3752瀏覽量
52113 -
燧原科技
+關(guān)注
關(guān)注
0文章
152瀏覽量
10432 -
DeepSeek
+關(guān)注
關(guān)注
2文章
835瀏覽量
3272
原文標題:燧原科技實現(xiàn)全國各地智算中心DeepSeek的全量推理服務(wù)部署
文章出處:【微信號:gh_1222367b8780,微信公眾號:燧原科技Enflame】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
太初元碁:40+AI大模型全覆蓋,新版本即發(fā)即適配、上線即可用,實現(xiàn)國產(chǎn)“芯”速度
燧原科技訓(xùn)推一體芯片L600適配階躍星辰基座模型Step 3.5 Flash
中科曙光AI超集群系統(tǒng)和scaleX640超節(jié)點等產(chǎn)品全面適配DeepSeek V3.2
寒武紀成功適配DeepSeek-V3.2-Exp模型
曙光AI超集群系統(tǒng)全面支持DeepSeek-V3.2-Exp
燧原科技DeepSeek一體機與S60卡:引領(lǐng)國產(chǎn)智算新潮流
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗】+混合專家
信而泰×DeepSeek:AI推理引擎驅(qū)動網(wǎng)絡(luò)智能診斷邁向 “自愈”時代
【書籍評測活動NO.62】一本書讀懂 DeepSeek 全家桶核心技術(shù):DeepSeek 核心技術(shù)揭秘
壁仞科技完成Qwen3旗艦模型適配
摩爾線程MTT S4000完成DeepSeek R1-671B大模型適配驗證
摩爾線程GPU成功適配Deepseek-V3-0324大模型
燧原科技完成DeepSeek全量模型高效適配
評論