91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

躍昉科技實(shí)現(xiàn)DeepSeek大模型本地化運(yùn)行

躍昉科技LeapFive ? 來(lái)源:躍昉科技LeapFive ? 2025-03-06 14:47 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

LeapFive

從“云端排隊(duì)”到“擁有私人 Co-Pilot”,邊緣AI也能行!

DeepSeek 問(wèn)答響應(yīng)又超時(shí)了?

“無(wú)需機(jī)房,無(wú)需服務(wù)器,一枚U盤(pán)即可驅(qū)動(dòng)DeepSeek大模型?” 是的,我們做到了!

躍昉科技,作為國(guó)內(nèi)領(lǐng)先的RISC-V架構(gòu)SoC芯片公司,成功將DeepSeek大模型本地化運(yùn)行,以U盤(pán)形態(tài)重新定義AI計(jì)算的使用方式。

AMC(AI Mini Computer)由躍昉科技基于自研RISC-V芯片打造,通過(guò)USB 直連主機(jī),兼容多種操作系統(tǒng),支持本地化人工智能推理應(yīng)用部署,如基于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的視覺(jué)應(yīng)用。現(xiàn)在,AMC又有了大模型應(yīng)用的加持,不依賴云端、不受網(wǎng)絡(luò)波動(dòng),即插即用,隨時(shí)推理。讓普通電腦秒變AI工作站,讓AI隨時(shí)待命,快速響應(yīng),成為你的專(zhuān)屬智能助手(Co-Pilot)!

小身材藏著大機(jī)會(huì)|“可用”到“好用”的進(jìn)行時(shí)

即插即用,無(wú)需服務(wù)器,USB接入,10秒完成部署。

3W超低功耗,計(jì)算性能表現(xiàn)與模型本身,都具備優(yōu)化潛力。

本地私有知識(shí)庫(kù),保護(hù)數(shù)據(jù)隱私,隨身攜帶,安全可控。

網(wǎng)頁(yè)本地化訪問(wèn)(測(cè)試版),相比云端排隊(duì)、等待響應(yīng),你的AI助手隨時(shí)在線。

e5c116e6-f998-11ef-9310-92fbcf53809c.jpg

*已經(jīng)實(shí)際部署運(yùn)行成功的模型

UI 界面:設(shè)計(jì)簡(jiǎn)潔直觀,用戶可快速上手,無(wú)需復(fù)雜配置,Less is More。

OTA + 場(chǎng)景化模型,開(kāi)啟邊緣AI計(jì)算新范式!

在 AI 計(jì)算邁向多場(chǎng)景應(yīng)用的今天,開(kāi)發(fā)者希望更靈活地訓(xùn)練和部署模型,用戶則期待AI能夠精準(zhǔn)適配個(gè)性化需求。然而,傳統(tǒng)AI計(jì)算依賴云端,高算力成本、網(wǎng)絡(luò)延遲、數(shù)據(jù)隱私等問(wèn)題,使其難以真正落地到邊緣多樣化應(yīng)用場(chǎng)景。

部署DeepSeek到AMC的過(guò)程,也引發(fā)了我們更深層的思考并發(fā)現(xiàn):DeepSeek 的小型化、低成本、邊緣設(shè)備 OTA(Over the Air 空中升級(jí)) 特性,有機(jī)會(huì)成為邊緣AI計(jì)算全新的應(yīng)用落地方法,推動(dòng)AI計(jì)算從云端走向邊緣,讓AI適配更精細(xì)、更靈活地適配本地化應(yīng)用。

e5e890ea-f998-11ef-9310-92fbcf53809c.png

“大而全”的模型并不適用于邊緣AI應(yīng)用,應(yīng)該按場(chǎng)景的需要做更適配、更精巧、更高效的模型

邊緣 AI 計(jì)算的核心在于精準(zhǔn)解決特定場(chǎng)景問(wèn)題,那么合適的模型從何而來(lái)?我們認(rèn)為可以通過(guò)開(kāi)放的場(chǎng)景化模型市場(chǎng),吸引更多的開(kāi)發(fā)者加入進(jìn)來(lái),針對(duì)教育、工業(yè)、辦公、個(gè)人助手等不同需求,訓(xùn)練更精巧的 AI 模型,以適配本地場(chǎng)景化的應(yīng)用需求。

OTA有可能成為AI場(chǎng)景動(dòng)態(tài)適配的標(biāo)準(zhǔn)方式

傳統(tǒng)OTA僅用于遠(yuǎn)程軟件升級(jí),如果考慮邊緣AI基于場(chǎng)景化的應(yīng)用,則OTA就需要一個(gè)新增的按需拉取和部署AI模型的能力,使邊緣設(shè)備盡管在硬件資源限制條件下,仍可以通過(guò)動(dòng)態(tài)的模型選擇,得到較好的AI交互體驗(yàn)。

商業(yè)模式也將有革新機(jī)會(huì),邊緣AI的生態(tài)將創(chuàng)造更高價(jià)值

“OTA + 場(chǎng)景化模型”這樣的新范式,將為邊緣AI計(jì)算構(gòu)建開(kāi)放的,可訂閱、可迭代的模型市場(chǎng)提供可行性。用戶可以低成本試用AI模型,再按需訂閱,而開(kāi)發(fā)者則可以通過(guò)市場(chǎng)提供AI模型,并接受用戶的反饋不斷優(yōu)化模型體驗(yàn),形成邊緣AI計(jì)算的正向循環(huán),加速AI在邊緣端的落地應(yīng)用。

我們認(rèn)為未來(lái)的AI計(jì)算,不應(yīng)該只存在于云端之上,更應(yīng)該真正地屬于個(gè)人!

而對(duì)于個(gè)人用戶來(lái)說(shuō),專(zhuān)屬AI 將可以變成個(gè)人成長(zhǎng)的長(zhǎng)期伙伴

每個(gè)人的知識(shí)、經(jīng)驗(yàn)、決策方式都是獨(dú)一無(wú)二的,所以AI應(yīng)用也應(yīng)該能做到個(gè)性化的應(yīng)用。AMC的隨身攜帶可以讓AI在不同場(chǎng)景中適應(yīng)用戶需求,即時(shí)響應(yīng)、智能輔助。與此同時(shí),AMC通過(guò)長(zhǎng)期數(shù)據(jù)存儲(chǔ)與學(xué)習(xí),不斷沉淀、優(yōu)化,逐步構(gòu)建屬于個(gè)人的Digital Twins(數(shù)字孿生),讓AI計(jì)算真正理解,持續(xù)成長(zhǎng),成為個(gè)人的長(zhǎng)期智慧資產(chǎn)。

離線運(yùn)行,多場(chǎng)景隨時(shí)調(diào)用,無(wú)論辦公、學(xué)習(xí)還是工業(yè)應(yīng)用,AI即插即用,不依賴云端。

存儲(chǔ)與回傳,依托AMC本體32GB的存儲(chǔ)能力,使用過(guò)程中的數(shù)據(jù)可本地化存儲(chǔ),也可主動(dòng)同步到個(gè)人主機(jī),形成專(zhuān)屬AI記憶 。

讓AI模型個(gè)性化成長(zhǎng),成為“最懂你的聰明助手”并且隨時(shí)隨地即時(shí)響應(yīng)。

從 “大而全” 到 “小而精”,我們看到了AMC在AI計(jì)算領(lǐng)域的潛力,有望讓AI計(jì)算變得更精準(zhǔn)、更高效。場(chǎng)景化模型 OTA能讓開(kāi)發(fā)者更快構(gòu)建AI,用戶更自由地使用AI,推動(dòng)AI計(jì)算從通用向定制、從固定向靈活、從單一向多元發(fā)展,真正賦能千行百業(yè)。

躍昉科技,依托RISC-V計(jì)算架構(gòu),不斷探索芯片、邊緣AI計(jì)算與智能互聯(lián)的創(chuàng)新融合,加速推動(dòng)國(guó)產(chǎn)AI計(jì)算自主化。我們相信,未來(lái)的AI計(jì)算不再是一種昂貴的資源,而是普惠的能力。個(gè)性化的智能,是一股驅(qū)動(dòng)世界躍向更智能未來(lái)的核心動(dòng)力!

廣東躍昉科技有限公司聚焦研發(fā)基于RISC-V架構(gòu)的SoC芯片產(chǎn)品及系統(tǒng)解決方案,并提供從操作系統(tǒng)到云平臺(tái)的全?;A(chǔ)智能軟件服務(wù),通過(guò)融合人工智能、物聯(lián)網(wǎng)區(qū)塊鏈等交叉領(lǐng)域技術(shù)為中國(guó)數(shù)字經(jīng)濟(jì)的創(chuàng)新應(yīng)用賦能。

躍昉科技作為RISC-V架構(gòu)SoC芯片設(shè)計(jì)及產(chǎn)業(yè)應(yīng)用的開(kāi)拓者,已推出系列基于RISC-V架構(gòu)的高性能SoC芯片及產(chǎn)品,覆蓋AIoT邊端物聯(lián)、控制和計(jì)算等應(yīng)用領(lǐng)域,集高效能計(jì)算資源、豐富工業(yè)接口、穩(wěn)定可靠品質(zhì)等特性于一體。依托于全棧技術(shù)能力,躍昉科技正持續(xù)深耕于智慧能源、智慧物流、智慧城市、智慧工廠等領(lǐng)域,旨在為客戶帶來(lái)專(zhuān)業(yè)化、高品質(zhì)的產(chǎn)品和服務(wù)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • RISC-V
    +關(guān)注

    關(guān)注

    48

    文章

    2888

    瀏覽量

    53050
  • 躍昉科技
    +關(guān)注

    關(guān)注

    0

    文章

    85

    瀏覽量

    3189
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3651

    瀏覽量

    5194
  • DeepSeek
    +關(guān)注

    關(guān)注

    2

    文章

    835

    瀏覽量

    3276

原文標(biāo)題:RISC-V計(jì)算新突破!躍昉AMC將DeepSeek大模型裝進(jìn)口袋

文章出處:【微信號(hào):躍昉科技LeapFive,微信公眾號(hào):躍昉科技LeapFive】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    如何在ZYNQ本地部署DeepSeek模型

    一個(gè)將最小號(hào) DeepSeek 模型部署到 AMD Zynq UltraScale+ MPSoC 處理系統(tǒng)的項(xiàng)目。
    的頭像 發(fā)表于 12-19 15:43 ?7587次閱讀
    如何在ZYNQ<b class='flag-5'>本地</b>部署<b class='flag-5'>DeepSeek</b><b class='flag-5'>模型</b>

    科技與米立科技達(dá)成戰(zhàn)略合作

    2025年12月9日,廣東科技有限公司與福州米立科技股份有限公司正式簽署戰(zhàn)略合作協(xié)議,共同宣布在智慧社區(qū)與物聯(lián)網(wǎng)領(lǐng)域展開(kāi)深度合作。科技事業(yè)部總經(jīng)理劉清波與米立科技副總經(jīng)理李偉代
    的頭像 發(fā)表于 12-16 11:15 ?369次閱讀

    發(fā)布元服務(wù)配置本地化基礎(chǔ)信息(應(yīng)用名稱(chēng)、圖標(biāo))

    您可以添加元服務(wù)支持的語(yǔ)言,并配置對(duì)應(yīng)語(yǔ)言的本地化信息。 例如,當(dāng)您設(shè)置簡(jiǎn)體中文為默認(rèn)語(yǔ)言,并且只配置中文的本地化信息,那么元服務(wù)在所有設(shè)置的發(fā)布國(guó)家或地區(qū)的信息都將顯示中文。如果您還設(shè)置了英文
    發(fā)表于 10-24 17:42

    廣和通成功部署DeepSeek-R1-0528-Qwen3-8B模型

    近日,廣和通在MediaTek MT8893平臺(tái)上成功部署并運(yùn)行DeepSeek-R1-0528-Qwen3-8B模型,顯著提升了端側(cè)AI設(shè)備的處理效率與智能水平,特別是在
    的頭像 發(fā)表于 09-26 13:35 ?874次閱讀

    本地部署openWebUI + ollama+DeepSeek 打造智能知識(shí)庫(kù)并實(shí)現(xiàn)遠(yuǎn)程訪問(wèn)

    。 DeepSeek 作為一個(gè)開(kāi)源的大語(yǔ)言模型,我們可以通過(guò) ZeroNews + openWebUI + ollama的方式,輕松的在本地私有部署
    的頭像 發(fā)表于 09-10 16:41 ?5394次閱讀
    <b class='flag-5'>本地</b>部署openWebUI + ollama+<b class='flag-5'>DeepSeek</b> 打造智能知識(shí)庫(kù)并<b class='flag-5'>實(shí)現(xiàn)</b>遠(yuǎn)程訪問(wèn)

    ElfBoard技術(shù)實(shí)戰(zhàn)|ELF 2開(kāi)發(fā)板本地部署DeepSeek模型的完整指南

    ELF 2開(kāi)發(fā)板本地部署DeepSeek模型的完整指南
    的頭像 發(fā)表于 05-16 11:13 ?2565次閱讀
    ElfBoard技術(shù)實(shí)戰(zhàn)|ELF 2開(kāi)發(fā)板<b class='flag-5'>本地</b>部署<b class='flag-5'>DeepSeek</b>大<b class='flag-5'>模型</b>的完整指南

    科技推動(dòng)數(shù)字云平臺(tái)落地應(yīng)用

    科技與開(kāi)源社區(qū)的共同努力下,國(guó)產(chǎn)時(shí)序數(shù)據(jù)庫(kù)IoTDB已成功適配RISC-V高性能平臺(tái)。這一成果為基于RISC-V的數(shù)字云平臺(tái)部署奠定了堅(jiān)實(shí)的技術(shù)基礎(chǔ)。
    的頭像 發(fā)表于 04-28 14:05 ?964次閱讀
    <b class='flag-5'>躍</b><b class='flag-5'>昉</b>科技推動(dòng)數(shù)字<b class='flag-5'>化</b>云平臺(tái)落地應(yīng)用

    DeepSeek R1模型本地部署與產(chǎn)品接入實(shí)操

    針對(duì)VS680/SL1680系列大算力芯片,我們的研發(fā)團(tuán)隊(duì)正在研究將蒸餾后的輕量級(jí)DeepSeek模型DeepSeek-R1-Distill-Qwen-1.5B)部署到SOC本地,以
    的頭像 發(fā)表于 04-19 16:32 ?773次閱讀
    <b class='flag-5'>DeepSeek</b> R1<b class='flag-5'>模型</b><b class='flag-5'>本地</b>部署與產(chǎn)品接入實(shí)操

    SL1680 SoC本地運(yùn)行DeepSeek R1 1.5B大模型

    深蕾半導(dǎo)體SL1680 SoC本地成功運(yùn)行DeepSeek R1 Distill Qwen2.5 1.5B大模型,展示了執(zhí)行過(guò)程及本地小參數(shù)
    的頭像 發(fā)表于 04-17 17:09 ?939次閱讀
    SL1680 SoC<b class='flag-5'>本地</b><b class='flag-5'>運(yùn)行</b><b class='flag-5'>DeepSeek</b> R1 1.5B大<b class='flag-5'>模型</b>

    軟通動(dòng)力助力黑龍江大學(xué)完成DeepSeek模型本地化部署

    DeepSeek作為新一代人工智能技術(shù),憑借其強(qiáng)大的數(shù)據(jù)處理能力和深度學(xué)習(xí)算法為教育提供了新解法,使 AI+教育產(chǎn)業(yè)迸發(fā)更大生機(jī)。緊隨行業(yè)趨勢(shì),黑龍江大學(xué)經(jīng)濟(jì)與工商管理學(xué)院基于軟通動(dòng)力AI+DeepSeek模型一體機(jī)
    的頭像 發(fā)表于 04-03 15:20 ?1113次閱讀

    中科馭數(shù)高性能網(wǎng)卡產(chǎn)品 成就DeepSeek推理模型網(wǎng)絡(luò)底座

    的突破性進(jìn)展,而且開(kāi)源模型發(fā)展帶來(lái)部署成本的極速下降,為定制AGI服務(wù),推理本地化部署,帶來(lái)發(fā)展機(jī)遇,也掀起了新的一輪智算基礎(chǔ)設(shè)施建設(shè)浪潮。 與按Token生成數(shù)量計(jì)費(fèi)的AI云服務(wù)模式不同,出于數(shù)據(jù)安全的考慮,很多用戶選擇采用
    的頭像 發(fā)表于 03-31 11:56 ?696次閱讀
    中科馭數(shù)高性能網(wǎng)卡產(chǎn)品 成就<b class='flag-5'>DeepSeek</b>推理<b class='flag-5'>模型</b>網(wǎng)絡(luò)底座

    AI筑基,智領(lǐng)未來(lái) | DeepSeek-R1本地模型賦能邁威通信智能轉(zhuǎn)型

    在人工智能技術(shù)迅猛發(fā)展的浪潮中,邁威通信始終秉承創(chuàng)新驅(qū)動(dòng)發(fā)展的理念,積極探索AI技術(shù)在企業(yè)級(jí)場(chǎng)景中的深度應(yīng)用。近日,公司成功完成基于DeepSeek-R1大模型本地化部署,標(biāo)志著其在AI技術(shù)自主研發(fā)與落地實(shí)踐領(lǐng)域邁出關(guān)鍵一步,
    的頭像 發(fā)表于 03-26 10:26 ?1044次閱讀
    AI筑基,智領(lǐng)未來(lái) | <b class='flag-5'>DeepSeek</b>-R1<b class='flag-5'>本地</b>大<b class='flag-5'>模型</b>賦能邁威通信智能<b class='flag-5'>化</b>轉(zhuǎn)型

    兆瀚DeepSeek一體機(jī)全新升級(jí):內(nèi)置Agent開(kāi)發(fā)平臺(tái),加速行業(yè)AI應(yīng)用落地

    平臺(tái)-基線產(chǎn)品-行業(yè)應(yīng)用”四位一體的大模型落地方案,打通大模型本地化部署到行業(yè)應(yīng)用的“最后一公里”。作為DeepSeek本地化部署的“最優(yōu)解
    的頭像 發(fā)表于 03-25 17:48 ?1484次閱讀
    兆瀚<b class='flag-5'>DeepSeek</b>一體機(jī)全新升級(jí):內(nèi)置Agent開(kāi)發(fā)平臺(tái),加速行業(yè)AI應(yīng)用落地

    安徽省水利科學(xué)研究院攜手中科曙光完成DeepSeek模型部署

    近日,安徽省(水利部淮河水利委員會(huì))水利科學(xué)研究院攜手中科曙光,成功完成國(guó)產(chǎn)大模型DeepSeek、BGE-M3嵌入模型及重排模型本地化
    的頭像 發(fā)表于 03-25 11:36 ?1047次閱讀

    博實(shí)結(jié)完成DeepSeek模型本地化部署

    近日,公司完成DeepSeek R1 671B大模型本地化部署。通過(guò)構(gòu)建自主可控的AI基礎(chǔ)設(shè)施,公司同步實(shí)現(xiàn)研發(fā)智能升級(jí)、研發(fā)成本重構(gòu)、數(shù)據(jù)安全閉環(huán)與應(yīng)用場(chǎng)景突破,為產(chǎn)業(yè)智能
    的頭像 發(fā)表于 03-19 16:31 ?1341次閱讀