91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大模型在端側(cè)迅速落地,面臨哪些挑戰(zhàn)

Carol Li ? 來(lái)源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-05-15 01:16 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)大模型技術(shù)正在快速發(fā)展,并在不同領(lǐng)域取得顯著進(jìn)展。如在設(shè)計(jì)領(lǐng)域,近日消息,騰訊混元大模型文生圖已經(jīng)深度應(yīng)用在B端和C端,此外,騰訊混元大模型還可以做圖生視頻、視頻生視頻等,為設(shè)計(jì)領(lǐng)域帶來(lái)了更多可能性。

大模型技術(shù)正在向更多行業(yè)滲透。例如,在金融、消費(fèi)、互聯(lián)網(wǎng)等領(lǐng)域,大模型技術(shù)已經(jīng)開(kāi)始被應(yīng)用于數(shù)據(jù)分析、客戶服務(wù)、產(chǎn)品推薦等方面。通過(guò)利用大模型技術(shù),企業(yè)可以更加精準(zhǔn)地了解客戶需求,提高服務(wù)質(zhì)量和效率。

大模型在設(shè)計(jì)領(lǐng)域進(jìn)展迅速

“大模型加速產(chǎn)業(yè)進(jìn)入全新智能時(shí)代,正成為推動(dòng)科技創(chuàng)新、產(chǎn)業(yè)升級(jí)、生產(chǎn)力躍遷的重要驅(qū)動(dòng)力量?!彬v訊設(shè)計(jì)杰出專家、騰訊混元產(chǎn)品負(fù)責(zé)人陳妍妍近日談到。

在她看來(lái),從大模型的能力來(lái)看,各行業(yè)對(duì)大模型有著三大共性需求,包括內(nèi)容生成與創(chuàng)意設(shè)計(jì)、信息提煉與專業(yè)輔助、任務(wù)調(diào)度與智能交互及情感陪伴等。她認(rèn)為,設(shè)計(jì)行業(yè)的應(yīng)用就是大模型落地的一個(gè)代表性的領(lǐng)域。從文生圖、文生視頻到文生3D,多模態(tài)探索是騰訊混元大模型等國(guó)產(chǎn)大模型的重要發(fā)展方向。

大模型在設(shè)計(jì)領(lǐng)域的應(yīng)用進(jìn)展十分迅速。騰訊的混元大模型在設(shè)計(jì)領(lǐng)域就展示了其強(qiáng)大的能力。在文生圖方面,騰訊的混元大模型尤其注重本土化,能夠在很多應(yīng)用場(chǎng)景中利用中國(guó)的歷史和文化元素,這在國(guó)際市場(chǎng)上具有獨(dú)特的優(yōu)勢(shì)。同時(shí),騰訊的混元大模型已經(jīng)深度應(yīng)用于B端和C端,如創(chuàng)意廣告、人像風(fēng)格化等領(lǐng)域。

在文生視頻方面,騰訊的混元大模型已經(jīng)能夠?qū)崿F(xiàn)將視頻拉長(zhǎng)的功能,從之前的4秒擴(kuò)展到現(xiàn)在的16秒,這展示了其在視頻生成和處理方面的能力。此外,該模型還可以進(jìn)行圖生視頻、視頻生視頻等應(yīng)用,為設(shè)計(jì)領(lǐng)域提供了更多的可能性。

雖然文生3D在現(xiàn)階段的應(yīng)用還不夠廣泛,但騰訊已經(jīng)提前進(jìn)行了一些研究。這種技術(shù)生成的模型具有可編輯性,可以導(dǎo)入到3D編輯工具中進(jìn)行重新調(diào)整,這為未來(lái)的3D人物應(yīng)用提供了基礎(chǔ)。

從技術(shù)升級(jí)與開(kāi)放方面來(lái)看,騰訊的混元大模型不斷進(jìn)行技術(shù)升級(jí),目前已擴(kuò)展至萬(wàn)億級(jí)參數(shù)規(guī)模。為了推動(dòng)技術(shù)的發(fā)展和應(yīng)用,騰訊計(jì)劃將文生圖能力進(jìn)行開(kāi)源,這將有助于降低技術(shù)門檻,促進(jìn)更多的開(kāi)發(fā)者和藝術(shù)家利用大模型進(jìn)行設(shè)計(jì)創(chuàng)作。

大模型落地端側(cè)成布局重要方向

過(guò)去一年多時(shí)間,大模型技術(shù)快速發(fā)展,其在端側(cè)的應(yīng)用落地也進(jìn)展迅速。如在智能語(yǔ)音助手方面,大模型可以集成到智能語(yǔ)音助手中,使其能夠更好地理解和處理自然語(yǔ)言。這使得用戶可以通過(guò)語(yǔ)音與設(shè)備進(jìn)行更自然和便捷的交互。智能語(yǔ)音助手已經(jīng)成為手機(jī)、智能家居設(shè)備等端側(cè)設(shè)備的標(biāo)配功能,為用戶提供了更加智能化的服務(wù)體驗(yàn)。

在圖像識(shí)別與處理當(dāng)面,端側(cè)設(shè)備可以利用大模型進(jìn)行圖像識(shí)別和處理。例如,在移動(dòng)設(shè)備上進(jìn)行實(shí)時(shí)的人臉識(shí)別、物體識(shí)別或圖像增強(qiáng)等操作。這種技術(shù)已經(jīng)廣泛應(yīng)用于手機(jī)相機(jī)、安防監(jiān)控、自動(dòng)駕駛等領(lǐng)域,為用戶提供了更加便捷和高效的圖像處理體驗(yàn)。

基于大模型的個(gè)性化推薦系統(tǒng)也可以在端側(cè)應(yīng)用中實(shí)現(xiàn)。通過(guò)分析用戶的興趣和行為,系統(tǒng)可以為用戶推薦符合其喜好的內(nèi)容、商品或服務(wù)。這種技術(shù)在電商、社交、新聞等領(lǐng)域得到了廣泛應(yīng)用,提高了用戶滿意度和轉(zhuǎn)化率。

大模型還可以用于實(shí)時(shí)語(yǔ)音翻譯或文本翻譯,使得用戶能夠在不同語(yǔ)言之間進(jìn)行無(wú)縫交流。這種技術(shù)在跨國(guó)交流、在線教育、旅游等領(lǐng)域具有廣泛應(yīng)用前景,為用戶提供了更加便捷的溝通方式。

在硬件和計(jì)算技術(shù)方面,為了支持大模型在端側(cè)的應(yīng)用,出現(xiàn)了許多新的解決方案。例如,使用邊緣計(jì)算技術(shù)將計(jì)算任務(wù)從中心服務(wù)器下沉到設(shè)備的邊緣,使設(shè)備能夠更快速地處理數(shù)據(jù)和計(jì)算任務(wù)。這有助于減輕端側(cè)設(shè)備的計(jì)算負(fù)擔(dān)和能源消耗,提高響應(yīng)速度和用戶體驗(yàn)。

此外,還有一些研究工作致力于優(yōu)化大模型的訓(xùn)練和推理過(guò)程。例如,使用增量學(xué)習(xí)、遷移學(xué)習(xí)等技術(shù)對(duì)大模型進(jìn)行微調(diào),使其更適合特定任務(wù)和場(chǎng)景。這些技術(shù)能夠降低模型的復(fù)雜度和參數(shù)數(shù)量,提高模型的精度和效率,從而更好地適應(yīng)端側(cè)設(shè)備的性能限制。

當(dāng)然,大模型在端側(cè)的應(yīng)用也面臨一些挑戰(zhàn),如在性能和精度平衡方面,端側(cè)設(shè)備通常具有有限的計(jì)算資源和存儲(chǔ)空間,無(wú)法直接運(yùn)行大模型。因此,需要對(duì)大模型進(jìn)行壓縮、剪枝、量化等技術(shù)處理,以減小模型的大小和計(jì)算復(fù)雜度,使其適應(yīng)端側(cè)設(shè)備的性能要求。然而,這些技術(shù)處理可能會(huì)降低大模型的性能和精度。如何在保持模型精度的同時(shí)降低其復(fù)雜度和大小,是端側(cè)應(yīng)用面臨的一個(gè)重要問(wèn)題。

還有,端側(cè)設(shè)備的電池容量有限,長(zhǎng)時(shí)間的模型推理會(huì)消耗大量的能源,縮短設(shè)備的續(xù)航時(shí)間。如何在保證模型性能的同時(shí)降低能源消耗,是另一個(gè)需要解決的問(wèn)題。

另外,與云端模型不同,端側(cè)模型的部署和升級(jí)更為復(fù)雜。一旦模型出現(xiàn)問(wèn)題,不像云端那樣可以通過(guò)簡(jiǎn)單的部署和代碼更新來(lái)解決。端側(cè)模型的維護(hù)和升級(jí)成本相對(duì)較高,需要更多的技術(shù)支持和人力投入。

寫在最后

如何推進(jìn)大模型落地應(yīng)用已經(jīng)成為當(dāng)下重點(diǎn)關(guān)注的話題,如今,無(wú)論是終端公司、算法公司,還是芯片公司等都在積極為大模型在終端側(cè)的落地應(yīng)用而努力。

從上文可以看到,雖然仍然存在一些挑戰(zhàn),不過(guò)不難看出,大模型在斷側(cè)的應(yīng)用前景十分廣闊,相信隨著技術(shù)的不斷發(fā)展和應(yīng)用場(chǎng)景的不斷拓展,大模型將在端側(cè)應(yīng)用中發(fā)揮越來(lái)越重要的作用,為人們帶來(lái)更加智能化、便捷化和個(gè)性化的服務(wù)。





聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 算法
    +關(guān)注

    關(guān)注

    23

    文章

    4785

    瀏覽量

    98107
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3662

    瀏覽量

    5197
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    基于Arm平臺(tái)的int8 Conformer模型部署

    邊緣側(cè)運(yùn)行高質(zhì)量的語(yǔ)音與音頻模型頗具挑戰(zhàn),需滿足時(shí)延、內(nèi)存、功耗和模型大小等多方面的嚴(yán)苛約束。不同于云端部署,邊緣
    的頭像 發(fā)表于 02-24 10:23 ?274次閱讀
    基于Arm平臺(tái)的<b class='flag-5'>端</b>到<b class='flag-5'>端</b>int8 Conformer<b class='flag-5'>模型</b>部署

    晶晨攜手谷歌,助力側(cè)模型Gemini的硬件落地

    AI)相關(guān)產(chǎn)品的核心芯片供應(yīng)商,雙方人工智能領(lǐng)域緊密協(xié)作,聚焦于谷歌側(cè)模型Gemini的硬件生態(tài)落地。 ? 公司積極推出適配Gemi
    的頭像 發(fā)表于 01-29 10:44 ?2065次閱讀

    側(cè)模型上車:從“語(yǔ)音助手”到“車內(nèi) AI 智能體”的躍遷革命

    生活空間”的可能性。當(dāng)7B級(jí)大模型在車規(guī)級(jí)芯片上流暢運(yùn)行,當(dāng)多模態(tài)交互(語(yǔ)音+視覺(jué)+傳感)成為標(biāo)配,車載助手已從“被動(dòng)響應(yīng)”升級(jí)為“主動(dòng)決策”,成為車內(nèi)真正的“數(shù)字大腦”。這場(chǎng)由側(cè)模型
    的頭像 發(fā)表于 01-13 09:10 ?491次閱讀

    引領(lǐng)側(cè)模型落地!Firefly-RK182X 開(kāi)發(fā)套件上線發(fā)售

    海量參數(shù)的大模型給AI行業(yè)帶來(lái)顛覆性的體驗(yàn),然而在側(cè)設(shè)備中,由于有限的DRAM帶寬、硬件算力、存儲(chǔ)容量等瓶頸,讓
    的頭像 發(fā)表于 11-26 16:33 ?2371次閱讀
    引領(lǐng)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b><b class='flag-5'>落地</b>!Firefly-RK182X 開(kāi)發(fā)套件上線發(fā)售

    悟空?qǐng)D像與華為CANN正式落地PCAI閃繪功能

    近日,基于華為CANN(Compute Architecture for Neural Networks)云協(xié)同架構(gòu)打造的華為PCAI閃繪功能正式落地,標(biāo)志著
    的頭像 發(fā)表于 11-10 14:43 ?843次閱讀

    聚焦側(cè)AI:看美格智能全棧能力如何支撐AI產(chǎn)業(yè)六大趨勢(shì)

    當(dāng)前階段,AI技術(shù)的競(jìng)爭(zhēng)已從模型的“宏大敘事”轉(zhuǎn)向落地應(yīng)用的“精耕細(xì)作”。當(dāng)行業(yè)焦點(diǎn)回歸現(xiàn)實(shí)效能,一個(gè)共識(shí)愈發(fā)清晰:計(jì)算的未來(lái),正從云端向萬(wàn)物互聯(lián)的邊緣側(cè)AI急速擴(kuò)散。1、輕量化革命
    的頭像 發(fā)表于 10-29 16:09 ?1228次閱讀
    聚焦<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI:看美格智能全棧能力如何支撐AI產(chǎn)業(yè)六大趨勢(shì)

    華為CANN與智譜GLM側(cè)模型完成適配

    已于7月28日正式開(kāi)源其新一代基座模型GLM-4.5,其GLM側(cè)模型已完成與CANN的適配。這標(biāo)志著國(guó)產(chǎn)大模型與計(jì)算架構(gòu)
    的頭像 發(fā)表于 08-11 11:00 ?2588次閱讀

    廣和通發(fā)布自研側(cè)語(yǔ)音識(shí)別大模型FiboASR

    7月,全球領(lǐng)先的無(wú)線通信模組及AI解決方案提供商廣和通,發(fā)布其自主研發(fā)的語(yǔ)音識(shí)別大模型FiboASR。該模型專為側(cè)設(shè)備上面臨的面對(duì)面實(shí)時(shí)對(duì)
    的頭像 發(fā)表于 08-04 11:43 ?1619次閱讀

    側(cè)模型迎來(lái)“輕”革命!移遠(yuǎn)通信 × RWKV 打造“輕量AI大腦”

    7月27日,移遠(yuǎn)通信宣布與RWKV公司建立全面合作關(guān)系,雙方將依托移遠(yuǎn)的算力平臺(tái),優(yōu)化并支持RWKV最新模型架構(gòu),共同推動(dòng)大模型側(cè)設(shè)備的
    的頭像 發(fā)表于 07-27 19:02 ?1029次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>迎來(lái)“輕”革命!移遠(yuǎn)通信 × RWKV 打造“輕量AI大腦”

    終于有人把側(cè)模型說(shuō)清楚了

    "側(cè)"大模型聊具體內(nèi)容之前,先解釋一下這個(gè)名字的由來(lái)。計(jì)算機(jī)和通信領(lǐng)域,我們通常把整個(gè)系統(tǒng)分為幾個(gè)層次:云端(Cloud):遠(yuǎn)程的數(shù)
    的頭像 發(fā)表于 07-24 12:03 ?2436次閱讀
    終于有人把<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>說(shuō)清楚了

    廣和通加速通義千問(wèn)Qwen3側(cè)全面落地

    6月,廣和通宣布:率先完成通義千問(wèn)Qwen3系列混合推理模型高通QCS8550平臺(tái)側(cè)的適配部署。廣和通通過(guò)定制化混合精度量化方案與創(chuàng)新硬件加速算法,成功突破Qwen3新型架構(gòu)
    的頭像 發(fā)表于 06-25 15:35 ?1147次閱讀

    德賽西威與面壁智能發(fā)布側(cè)模型語(yǔ)音交互方案

    日前,全球領(lǐng)先的移動(dòng)出行科技公司德賽西威與側(cè)模型技術(shù)領(lǐng)軍企業(yè)面壁智能共同發(fā)布業(yè)界首個(gè)基于高通座艙平臺(tái)(SA8255P,簡(jiǎn)稱8255)的側(cè)
    的頭像 發(fā)表于 05-14 17:40 ?1316次閱讀

    首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓側(cè)AI模型接入得心應(yīng)手

    ,聯(lián)發(fā)科帶來(lái)了全面升級(jí)的天璣AI開(kāi)發(fā)套件2.0,模型庫(kù)規(guī)模、架構(gòu)開(kāi)放程度、前沿側(cè)AI技術(shù)支持和側(cè)
    發(fā)表于 04-13 19:52

    AI大模型側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI大模型解決方案,激活場(chǎng)景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI大模型的應(yīng)用正從云端向側(cè)加速滲透。 作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,移遠(yuǎn)通信憑借深厚的技術(shù)積累與前瞻性的戰(zhàn)略布局,
    發(fā)表于 03-27 11:26 ?615次閱讀
    AI大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端<b class='flag-5'>側(cè)</b>AI大<b class='flag-5'>模型</b>解決方案,激活場(chǎng)景智能新范式

    AI大模型側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI大模型解決方案,激活場(chǎng)景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI大模型的應(yīng)用正從云端向側(cè)加速滲透。作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,移遠(yuǎn)通信憑借深厚的技術(shù)積累與前瞻性的戰(zhàn)略布局,
    的頭像 發(fā)表于 03-26 19:05 ?1276次閱讀
    AI大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端<b class='flag-5'>側(cè)</b>AI大<b class='flag-5'>模型</b>解決方案,激活場(chǎng)景智能新范式