近日,沐曦集成電路(上海)有限公司(下稱“沐曦”)曦云C500千億參數(shù)AI大模型訓(xùn)練及通用計(jì)算GPU與北京智譜華章科技有限公司(下稱“智譜AI”)開源的中英雙語對(duì)話語言模型ChatGLM2-6B完成適配。測(cè)試結(jié)果顯示,曦云C500在智譜AI的升級(jí)版大模型上充分兼容、高效穩(wěn)定運(yùn)行。
沐曦旗艦產(chǎn)品曦云C500基于自主研發(fā)的高性能GPU IP,特別適合千億參數(shù)AI大模型的訓(xùn)練和推理;基于全自研 GPU 指令集打造的MXMACA軟件棧,全面兼容主流GPU生態(tài),實(shí)現(xiàn)用戶零成本遷移;通過自主知識(shí)產(chǎn)權(quán)的MetaXLink實(shí)現(xiàn)單機(jī)8卡GPU全互聯(lián),提供構(gòu)建高密度算力和云計(jì)算部署的優(yōu)秀國(guó)產(chǎn)GPU解決方案;可廣泛應(yīng)用于千億參數(shù)AI大模型訓(xùn)練與推理、AIGC內(nèi)容生成、推薦系統(tǒng)、自動(dòng)語音識(shí)別、語音合成、圖像分割檢測(cè),以及科學(xué)計(jì)算、數(shù)據(jù)庫(kù)加速等多種場(chǎng)景。
由清華技術(shù)成果轉(zhuǎn)化的智譜AI推出的雙語對(duì)話模型ChatGLM2-6B在初代模型ChatGLM-6B基礎(chǔ)上做了升級(jí),采用監(jiān)督微調(diào)、反饋?zhàn)灾腿祟惙答亸?qiáng)化學(xué)習(xí)等方式,能夠生成符合人類偏好的答案。通過此次聯(lián)合適配測(cè)試,依托曦云C500運(yùn)行的ChatGLM2-6B可節(jié)省大量時(shí)間成本和運(yùn)營(yíng)成本,降低硬件接入AI模型訓(xùn)練和推理的門檻,為國(guó)產(chǎn)大模型提供強(qiáng)大的算力支撐。未來雙方將共同探索國(guó)產(chǎn)GPU大模型訓(xùn)推一體機(jī)在各個(gè)行業(yè)的應(yīng)用,攜手打造軟硬件一體化解決方案,讓企業(yè)可以在國(guó)產(chǎn)自主創(chuàng)新的平臺(tái)上實(shí)現(xiàn)自主、安全、可控的大模型應(yīng)用和迭代。
關(guān)于沐曦
沐曦致力于為異構(gòu)計(jì)算提供安全可靠的GPU芯片及解決方案,打造全棧GPU芯片產(chǎn)品,推出曦思N系列GPU用于AI推理,曦云C系列GPU用于千億參數(shù)AI大模型訓(xùn)練及通用計(jì)算,以及曦彩G系列GPU用于圖形渲染,滿足數(shù)據(jù)中心對(duì)“高能效”及“高通用性”的算力需求。沐曦產(chǎn)品均采用完全自主研發(fā)的GPU IP,擁有完全自主的指令集和架構(gòu),配以兼容主流GPU生態(tài)的完整軟件棧(MXMACA),具備高能效和高通用性的天然優(yōu)勢(shì),能夠?yàn)榭蛻魳?gòu)建軟硬件一體的全面生態(tài)解決方案,是“雙碳”背景下推動(dòng)數(shù)據(jù)中心建設(shè)和產(chǎn)業(yè)數(shù)字化、智能化轉(zhuǎn)型升級(jí)的算力基石。
審核編輯:彭菁
-
gpu
+關(guān)注
關(guān)注
28文章
5191瀏覽量
135400 -
AI
+關(guān)注
關(guān)注
91文章
39665瀏覽量
301272 -
語言模型
+關(guān)注
關(guān)注
0文章
571瀏覽量
11310 -
沐曦
+關(guān)注
關(guān)注
1文章
80瀏覽量
1804 -
大模型
+關(guān)注
關(guān)注
2文章
3644瀏覽量
5173
原文標(biāo)題:沐曦與智譜AI完成兼容性測(cè)試 共建軟硬件一體化解決方案
文章出處:【微信號(hào):沐曦MetaX,微信公眾號(hào):沐曦MetaX】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
沐曦股份曦云C系列GPU全面適配通義千問Qwen3.5三款新模型
沐曦股份曦云C系列GPU深度適配通義千問Qwen3.5模型
沐曦曦云C500/C550 GPU產(chǎn)品深度適配MiniMax M2.5模型
沐曦曦云C500/C550 GPU產(chǎn)品適配智譜GLM-OCR模型
沐曦曦云C600 GPU產(chǎn)品適配階躍星辰基座模型Step 3.5 Flash
沐曦曦云C500/C550 GPU產(chǎn)品適配騰訊混元圖像3.0圖生圖模型
沐曦曦云C500/C550 GPU產(chǎn)品適配PaddleOCR-VL-1.5模型
沐曦曦云C500/C550 GPU產(chǎn)品適配騰訊混元開源翻譯模型1.5版本
DLInfer聯(lián)手沐曦股份實(shí)現(xiàn)數(shù)據(jù)生成場(chǎng)景的實(shí)際落地
完成適配!曦云C500在智譜AI升級(jí)版大模型上充分兼容、高效穩(wěn)定運(yùn)行
評(píng)論