91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

后摩漫界M30芯片成功適配DeepSeek-R1系列模型

后摩智能 ? 來源:后摩智能 ? 2025-02-08 10:42 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

DeepSeek開源模型的熱度席卷全球,其高效性和易用性正在成為推動(dòng)AI技術(shù)普惠化的重要力量。后摩智能作為國產(chǎn)存算一體AI芯片的領(lǐng)軍企業(yè),自研的后摩漫界M30芯片成功適配DeepSeek-R1-Distill-Qwen系列模型,包括1.5B、7B、14B等。這一成果不僅證明了存算一體芯片架構(gòu)在大模型高效部署中的顯著優(yōu)勢,也為端邊大模型的廣泛應(yīng)用提供了強(qiáng)大的技術(shù)支撐。

DeepSeek-R1-Distill-Qwen-7B模型在M30上運(yùn)行

性能數(shù)據(jù):

· 上下文長度:8K

· 首字速度:<1s

· Decode速度:17 tokens/s

后摩智能的M30芯片專為端邊部署大模型而設(shè)計(jì),其低功耗的核心優(yōu)勢使其在端邊應(yīng)用場景中表現(xiàn)出色,M30芯片具備強(qiáng)大的物理算力,達(dá)到100~256 TOPS@INT8,同時(shí)典型功耗僅為12~35W,能夠在保持高性能的同時(shí)顯著降低能耗。此次適配DeepSeek-R1-Distill-Qwen系列模型的成功,進(jìn)一步驗(yàn)證了M30芯片在處理復(fù)雜AI任務(wù)時(shí)的高效性和穩(wěn)定性。隨著AI技術(shù)向端側(cè)和邊緣側(cè)的快速轉(zhuǎn)移,后摩智能的存算一體技術(shù)的突破為國產(chǎn)AI芯片在端邊大模型領(lǐng)域的應(yīng)用樹立了新的標(biāo)桿,也為未來更多創(chuàng)新應(yīng)用的落地奠定了堅(jiān)實(shí)基礎(chǔ)。

為了更好地推動(dòng)端邊大模型的廣泛應(yīng)用,后摩智能推出了基于M30芯片打造的系列產(chǎn)品——力謀SM30計(jì)算模組、力謀LM30智能加速卡、力謀BX30 計(jì)算盒子,以滿足不同場景下的多樣化需求。

力謀SM30計(jì)算模組

以力謀SM30計(jì)算模組為例,這是一款是基于M30芯片打造的智算模組(SoM),支持PCIe EP模式。該模組以其小巧的體積、強(qiáng)勁的性能和極低的功耗,成為小型化設(shè)備和功耗敏感嵌入式場景的理想選擇。力謀SM30計(jì)算模組的物理算力為50/100 TOPS@INT8,典型功耗低于23W,支持8路FHD的編解碼,并兼容PCIe 4.0接口。其低功耗和高性能的特點(diǎn)使其能夠在資源受限的環(huán)境中高效運(yùn)行,為邊緣計(jì)算和端側(cè)設(shè)備提供了強(qiáng)大的算力支持。

DeepSeek開源模型以其高效的推理能力和較低的部署成本,正在推動(dòng)AI技術(shù)的普惠化。后摩智能自研的存算一體架構(gòu),突破了傳統(tǒng)馮·諾依曼架構(gòu)的瓶頸,將存儲(chǔ)與計(jì)算緊密結(jié)合,大幅減少了數(shù)據(jù)傳輸延遲,呈現(xiàn)出大算力、低功耗的獨(dú)特優(yōu)勢,顯著提升了模型運(yùn)行效率。通過后摩智能存算一體芯片與DeepSeek模型的架構(gòu)級(jí)協(xié)同,不僅驗(yàn)證了國產(chǎn)技術(shù)棧的完整競爭力,更創(chuàng)造了AI普惠化的中國范式——讓每瓦特算力都能承載最前沿的智能。

全球AI大模型賽道進(jìn)入戰(zhàn)略窗口期,DeepSeek通過模型創(chuàng)新構(gòu)建輕量化智能基座,后摩智能的存算一體芯片則以物理級(jí)能效突破重構(gòu)計(jì)算邊界。這種從底層芯片到頂層模型的顛覆式創(chuàng)新,必將催生大模型落地新定律,期待國產(chǎn)技術(shù)組合能夠“改寫天命”,開辟出超越摩爾定律的進(jìn)化路徑。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39911

    瀏覽量

    301545
  • 后摩智能
    +關(guān)注

    關(guān)注

    0

    文章

    52

    瀏覽量

    1713
  • DeepSeek
    +關(guān)注

    關(guān)注

    2

    文章

    836

    瀏覽量

    3283

原文標(biāo)題:開源破局 x 低功耗守護(hù) : Deepseek與存算一體如何演繹AI界的"哪吒鬧海"?

文章出處:【微信號(hào):后摩智能,微信公眾號(hào):后摩智能】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    百度騰訊搶灘布局!DeepSeek-R1升級(jí)和開源背后,國產(chǎn)AI的逆襲之路

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)日前,DeepSeek官方宣布DeepSeek-R1模型已完成小版本試升級(jí),當(dāng)前版本為DeepSeek-R1-0528。次日,
    的頭像 發(fā)表于 06-03 06:34 ?6204次閱讀

    M50亮相WAIC 2025

    AI 芯片的領(lǐng)跑者,智能攜全新發(fā)布的端邊大模型 AI 芯片
    的頭像 發(fā)表于 07-31 17:06 ?1300次閱讀

    存算一體技術(shù)加持!智能 160TOPS 端邊大模型AI芯片正式發(fā)布

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)在人工智能技術(shù)飛速發(fā)展的今天,端邊算力的升級(jí)已成為推動(dòng)行業(yè)變革的核心動(dòng)力。7月25日,WAIC 2025前夕,智能正式發(fā)布全新端邊大模型AI芯片——
    的頭像 發(fā)表于 07-30 07:57 ?8423次閱讀
    存算一體技術(shù)加持!<b class='flag-5'>后</b><b class='flag-5'>摩</b>智能 160TOPS 端邊大<b class='flag-5'>模型</b>AI<b class='flag-5'>芯片</b>正式發(fā)布

    智能發(fā)布全新端邊大模型AI芯片

    7月25日,WAIC 2025 前夕,智能正式發(fā)布全新端邊大模型 AI 芯片——
    的頭像 發(fā)表于 07-26 16:09 ?1569次閱讀

    速看!EASY-EAI教你離線部署Deepseek R1模型

    1.Deepseek簡介DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研發(fā)的推理模型。DeepSeek-R1采用
    的頭像 發(fā)表于 07-25 15:22 ?1390次閱讀
    速看!EASY-EAI教你離線部署<b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>

    【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】--全書概覽

    講解Deepseek的使用方法 第三章 深入剖析Deepseek-V3的模型架構(gòu)、訓(xùn)練框架、推理階段優(yōu)化、訓(xùn)練優(yōu)化等關(guān)鍵技術(shù) 第四章關(guān)于Deep
    發(fā)表于 07-21 00:04

    【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】書籍介紹+第一章讀后心得

    可能大家耳熟能詳?shù)氖?b class='flag-5'>DeepSeek-R1,這是在網(wǎng)頁端開啟了“深度思考”模式調(diào)用的模型,如果不開,則是用的V3模型。但是,DeepSeek
    發(fā)表于 07-17 11:59

    Arm Neoverse N2平臺(tái)實(shí)現(xiàn)DeepSeek-R1滿血版部署

    頗具優(yōu)勢。Arm 攜手合作伙伴,在 Arm Neoverse N2 平臺(tái)上使用開源推理框架 llama.cpp 實(shí)現(xiàn) DeepSeek-R1 滿血版的部署,目前已可提供線上服務(wù)。
    的頭像 發(fā)表于 07-03 14:37 ?1258次閱讀
    Arm Neoverse N2平臺(tái)實(shí)現(xiàn)<b class='flag-5'>DeepSeek-R1</b>滿血版部署

    智能NPU適配通義千問Qwen3系列模型

    近日,阿里云重磅推出Qwen3 系列開源混合推理模型。用時(shí)不到1天,智能自研NPU迅速實(shí)現(xiàn)Qwen3
    的頭像 發(fā)表于 05-07 16:46 ?1401次閱讀

    【幸狐Omni3576邊緣計(jì)算套件試用體驗(yàn)】CPU部署DeekSeek-R1模型1B和7B)

    一、DeepSeek簡介 DeepSeek是由中國深度求索公司開發(fā)的開源大語言模型系列,其研發(fā)始于2023年,目標(biāo)是為學(xué)術(shù)和產(chǎn)業(yè)界提供高效
    發(fā)表于 04-21 00:39

    如何基于Android 14在i.MX95 EVK上運(yùn)行Deepseek-R1-1.5B和性能

    圖標(biāo): 3. Download deepseek-R1 models through PocketPal 1. 打開 pocketPal 并單擊右下角的“轉(zhuǎn)到模型”按鈕。 2. 確保您可以訪問
    發(fā)表于 04-04 06:59

    香橙派發(fā)布OrangePi RV2本地部署Deepseek-R1蒸餾模型指南

    繼香橙派昇騰系列產(chǎn)品、OrangePi5系列產(chǎn)品完成與DeepSeek模型的深度適配之后,香橙派日前官方發(fā)布OrangePiRV2運(yùn)行
    的頭像 發(fā)表于 03-28 11:55 ?1712次閱讀
    香橙派發(fā)布OrangePi RV2本地部署<b class='flag-5'>Deepseek-R1</b>蒸餾<b class='flag-5'>模型</b>指南

    NVIDIA RTX 5880 Ada顯卡部署DeepSeek-R1模型實(shí)測報(bào)告

    DeepSeek-R1 模型在 4 張 NVIDIA RTX 5880 Ada 顯卡配置下,面對短文本生成、長文本生成、總結(jié)概括三大實(shí)戰(zhàn)場景,會(huì)碰撞出怎樣的性能火花?參數(shù)規(guī)模差異懸殊的 70B
    的頭像 發(fā)表于 03-17 11:12 ?3138次閱讀
    NVIDIA RTX 5880 Ada顯卡部署<b class='flag-5'>DeepSeek-R1</b><b class='flag-5'>模型</b>實(shí)測報(bào)告

    如何使用OpenVINO運(yùn)行DeepSeek-R1蒸餾模型

    DeepSeek-R1在春節(jié)期間引發(fā)了全球科技的熱度,DeepSeek-R1 是由 DeepSeek 開發(fā)的開源推理模型,用于解決需要邏輯
    的頭像 發(fā)表于 03-12 13:45 ?2395次閱讀
    如何使用OpenVINO運(yùn)行<b class='flag-5'>DeepSeek-R1</b>蒸餾<b class='flag-5'>模型</b>

    在英特爾哪吒開發(fā)套件上部署DeepSeek-R1的實(shí)現(xiàn)方式

    隨著人工智能技術(shù)的快速發(fā)展,企業(yè)對 AI 模型的部署方式有了更多選擇。本地部署 DeepSeek-R1 模型具有以下顯著優(yōu)勢,使其成為許多企業(yè)和開發(fā)者的首選。
    的頭像 發(fā)表于 03-12 13:38 ?1148次閱讀
    在英特爾哪吒開發(fā)套件上部署<b class='flag-5'>DeepSeek-R1</b>的實(shí)現(xiàn)方式