91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

2024 VDC:3B大模型成端側(cè)AI黃金尺寸,“藍科技”給了vivo更多的底氣

晶芯觀察 ? 來源:電子發(fā)燒友 ? 作者:黃晶晶 ? 2024-10-12 17:33 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在日前舉辦的2024 vivo開發(fā)者大會上,vivo高級副總裁、首席技術(shù)官施玉堅表示,在過去三年和今年前三季度,vivo始終穩(wěn)居國產(chǎn)手機銷量第一。去年,vivo推出了自己的技術(shù)品牌——“藍科技”。藍科技是從應(yīng)用創(chuàng)新扎根到底層技術(shù)創(chuàng)新,從硬件驅(qū)動到形成軟硬件一體化能力,這是vivo基于用戶需求,所構(gòu)建的技術(shù)研發(fā)體系。其包含了“藍圖影像”、“藍海續(xù)航系統(tǒng)”、“藍晶芯片技術(shù)?!币约叭律壍摹八{心大模型”和“藍河操作系統(tǒng)”。

在此次大會上,vivo正式發(fā)布全新AI戰(zhàn)略——“藍心智能”,同時帶來全面升級的自研藍心大模型矩陣、原系統(tǒng)5(OriginOS 5)、藍河操作系統(tǒng)2(BlueOS 2)等等。

早在去年,端側(cè)AI便成為各大手機終端廠商進行手機創(chuàng)新的主航道,彼時大家都將AI端側(cè)大模型的參數(shù)集中于7B。然而參數(shù)越大所需的處理器、存儲等資源越多,輕量化小模型或許更適合于智能終端,但是否AI性能會打折扣呢。vivo最新推出的3B小模型給出了答案。

正如vivo對于藍心大模型的定位是,通過豐富中文數(shù)據(jù)與知識的供給,把藍心大模型做成最懂中國人的大模型。我們可以看到,無論是中文詩句的文生圖、方言的采集與支持等等,vivo的一系列底層技術(shù)的創(chuàng)新是實實在在踐行這一定位,并將智能手機AI帶到一個新的階段。

藍晶芯片技術(shù)棧升級,“天璣芯,看藍晶”

vivo一直專注SoC從定義、設(shè)計到研發(fā)調(diào)校的全鏈路技術(shù)閉環(huán),實現(xiàn)底層的“軟硬一體化”設(shè)計,為芯片注入“vivo的靈魂”。

近年來,聯(lián)發(fā)科技發(fā)布的旗艦芯片,均由vivo旗艦手機首發(fā)搭載。隨著雙方合作的持續(xù)深化,vivo藍晶芯片技術(shù)棧也積累了強大的芯片調(diào)校經(jīng)驗,軟硬一體化打造最強綜合能效體驗,并在業(yè)界有了“天璣調(diào)??此{廠”、“天璣芯,看藍晶”等美譽。

vivo X200系列將全球首發(fā)搭載天璣9400,vivo藍晶芯片技術(shù)棧深度調(diào)校,帶來“沖動又冷靜”的最強綜合能效體驗。

天璣9400的第二代全大核CPU架構(gòu)包含1個主頻高達3.62GHz的Cortex-X925超大核,以及3個Cortex-X4超大核和4個Cortex-A720大核,其單核性能相較上一代提升35%,多核性能提升28%。天璣9400采用臺積電第二代3nm制程,相較上一代同性能功耗降低40%。與此同時,天璣9400搭載新一代旗艦12核GPU Immortalis-G925,其峰值性能相較上一代提升 41%,功耗節(jié)省44%,光線追蹤性能較上一代提升40%,游刃有余的性能將大幅提升游戲沉浸感。

vivo藍晶芯片技術(shù)棧的深度調(diào)校,在進一步激發(fā)天璣9400強悍性能的同時,也實現(xiàn)了更優(yōu)秀的能耗控制,達到高能效與低能耗的完美平衡。根據(jù)vivo產(chǎn)品經(jīng)理韓伯嘯發(fā)布的截圖顯示,搭載天璣9400的vivo X200系列,在安兔兔平臺跑出超300萬分的歷史新高,再次樹立安卓旗艦手機的性能標(biāo)桿。

vivo全新AI戰(zhàn)略“藍心智能”:AI與OS的深度融合

在此次大會上,vivo副總裁、OS產(chǎn)品副總裁、vivo AI全球研究院院長周圍正式發(fā)布了vivo的全新AI戰(zhàn)略——藍心智能。

wKgaomcKQvqAWxZFAAEan8j-kZQ531.jpg

藍心智能是將大模型技術(shù)與手機操作系統(tǒng)深度融合的個人智能。藍心智能可以理解用戶的個人情景和偏好,為用戶提供個人化的專屬服務(wù)。

vivo從三個方面用AI重構(gòu)系統(tǒng)體驗。包括重構(gòu)人與設(shè)備的交互體驗,讓交互更自然更符合直覺。重構(gòu)人與數(shù)字世界的服務(wù)體驗,讓智能更加個人化,也就是構(gòu)建簡單高效的服務(wù)獲取能力和主動服務(wù)能力,從而讓手機成為智能溫暖的個人助理。還有,重構(gòu)人與物理世界的連接體驗,讓溝通更順暢和溫暖。vivo利用多模態(tài)大模型,讓手機成為視障人士的眼睛,幫助他們可以獨自安全的走到更遠的陌生的地方。

基于此,vivo基于藍心大模型技術(shù)做出的一次全新探索,即“PhoneGPT”也就是手機智能體。在演示中,藍心小V不僅可以對屏幕界面進行識別和操作,也可以通過接管音頻進行自主對話,以完成用戶交代的任務(wù),例如幫助我們?nèi)ビ啿蛷d、訂咖啡等等。這是手機自動化的一小步,卻是解放用戶雙手的一大步。

未來,藍心智能將以藍心大模型矩陣為技術(shù)底座,繼續(xù)探索AI與OS的深度融合,持續(xù)打造開放共贏的智能體生態(tài)。

全新藍心大模型矩陣,3B端側(cè)大模型打破“不可能三角定律”

為進一步夯實AI能力底座,vivo在今年的開發(fā)者大會上發(fā)布了全新自研藍心大模型矩陣。全面升級語言大模型和端側(cè)大模型能力,并帶來vivo自研的語音大模型、圖像大模型以及多模態(tài)大模型。這預(yù)示藍心智能,向著個人化和多元化發(fā)展邁出重要的一步。

wKgaomcKQweAAkckAAHxTMGrR8M207.jpg

在去年開發(fā)者大會上,vivo 發(fā)布了自研十億、百億、千億三個參數(shù)量級,由5款語言大模型組成的藍心大模型矩陣。并在行業(yè)中率先跑通了1B、7B、13B的端側(cè)大模型,同時基于藍心大模型推出了藍心小V和藍心千詢APP。截至今天,vivo的AI能力已覆蓋全球60多個國家和地區(qū),服務(wù)超過5億手機用戶,大模型token輸出量超過了3萬億個。

繼去年帶來了三款端側(cè)大模型之后,vivo正式發(fā)布全新30億參數(shù)量級的藍心端側(cè)大模型3B。

wKgZomcKQxGAFXZTABTGWrITkg4539.jpg
圖:電子發(fā)燒友網(wǎng)現(xiàn)場拍攝


在對話寫作、摘要總結(jié)、信息抽取等能力上,藍心3B可以越級比肩行業(yè)7B-9B模型。相比藍心7B,藍心 3B極致性能提升300%,平衡模式下功耗優(yōu)化達46%,極致出詞速度可以達到80字/s,系統(tǒng)功耗僅450mA,內(nèi)存占用僅1.4GB。在SuperCLUE和Equal Eval的小模型綜合能力評測中,藍心3B均排名第一,同時獲得了泰爾實驗室端側(cè)大模型綜合能力認證以及AIIA安全防范能力認證。藍心端側(cè)大模型3B真正打破了“模型小、能力強、消耗低“的不可能三角定律”。

wKgaomcKQx6AKBFfAAKvQJp9wSA176.jpg
圖:電子發(fā)燒友網(wǎng)現(xiàn)場拍攝


據(jù)了解,vivo X200系列將全球首發(fā)LPDDR5X Ultra Pro內(nèi)存,為用戶帶去更強悍的手機性能體驗。也就是說,采用參數(shù)量級更小的模型的同時,內(nèi)存性能還頂格提升,這為智能手機的AI極致性能體驗提供了巨大的空間。從另一方面來自,模型輕量化也有利于端側(cè)AI功能從旗艦手機向中低端智能手機的下放,對AI手機的普及起到至關(guān)重要的作用。

云端語言大模型升級方面,BlueLM-70B 2.0新增學(xué)習(xí)了1億知識問答,500w篇的論文,以及1.2億代碼倉庫等高質(zhì)量數(shù)據(jù),模型整體能力提升30%。新增了多模態(tài)多輪對話能力,支持400+手機系統(tǒng)工具和180+三方工具的調(diào)用,以及全面升級了大模型的代碼生成能力,能實現(xiàn)數(shù)理計算和Excel的數(shù)據(jù)分析能力。

語言大模型新增圖像理解能力,通過將文本、圖像抽象成統(tǒng)一的token表示,vivo為語言大模型新增了看世界的“眼睛”,能夠理解手機上的文字和圖片多種模態(tài)的信息。BlueLM-V-3B模型,領(lǐng)跑行業(yè)4B及以下的多模態(tài)大模型。

vivo自研語音大模型基于藍心文本大模型開發(fā),通過離散化編碼結(jié)合文本大模型學(xué)習(xí),實現(xiàn)更智能、豐富和簡單的語音交互。它具備四大核心能力:語音合成、音色復(fù)刻、語音翻譯和方言自由說。未來,vivo計劃將語音大模型能力逐步開放至智能體平臺,以更廣泛地服務(wù)于用戶和開發(fā)者。

vivo的文生圖大模型即藍心圖像大模型BlueLM-Art,精通中文語境,融合了中國特色與東方美學(xué),其在中文理解、中國文化詮釋、人物攝影美學(xué)及中文文字繪制等多個維度都取得了出色的效果,多次榮登SuperCLUE-Image基準(zhǔn)榜單中文領(lǐng)域榜首。

大模型時代,vivo持續(xù)推進各模態(tài)大模型端側(cè)化能力建設(shè),探索大模型在各業(yè)務(wù)場景端側(cè)產(chǎn)品落地,覆蓋“聽、說、讀、寫、畫”各應(yīng)用場景。針對全模態(tài)大模型端側(cè)化,vivo 從算法模型設(shè)計,到量化、性能瓶頸分析工具建設(shè),再到底層運行時異構(gòu)方案設(shè)計和業(yè)務(wù)框架層靈活的多業(yè)務(wù)部署架構(gòu)建設(shè),提供了完整的解決方案。通過軟硬件協(xié)同,充分挖掘芯片潛力,確保大模型在端側(cè)運行時的強悍性能。

AI落地三大挑戰(zhàn),訓(xùn)推一體架構(gòu)協(xié)同

vivo AI工程架構(gòu)專家陳崇沛分享vivo在大規(guī)模高性能計算領(lǐng)域的探索與創(chuàng)新。他指出,大規(guī)模訓(xùn)練、高性能推理及海量算力治理是AI落地面臨的三大挑戰(zhàn)。為此,vivo構(gòu)建了大模型工程體系,解決了大規(guī)模訓(xùn)練的問題,讓模型能按天迭代;解決高性能推理的問題,能秒級生成圖片;搭建了堅如磐石的萬卡集群,算力能持續(xù)穩(wěn)定輸出。這一體系全面支撐了vivo各模態(tài)、模型的訓(xùn)練與推理,廣泛應(yīng)用于vivo的AI產(chǎn)品中。

展望未來,vivo要打造出強有力的個人化智能產(chǎn)品,就要具備o1這類強邏輯推斷能力的模型。而大模型工程的關(guān)鍵是性能和靈活性兼具的強化學(xué)習(xí)訓(xùn)練框架,這樣才能發(fā)揮出強化學(xué)習(xí)Scaling law的威力。為了實現(xiàn)這個目標(biāo),vivo的思路是:以訓(xùn)推一體架構(gòu)為基礎(chǔ),整合自研推理引擎和訓(xùn)練框架,滿足多模型訓(xùn)練推理協(xié)同的要求,支持高性能、高靈活性的自博弈強化學(xué)習(xí)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • vivo
    +關(guān)注

    關(guān)注

    13

    文章

    3340

    瀏覽量

    66829
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    借助谷歌LiteRT構(gòu)建下一代高性能側(cè)AI

    ) 框架。雖然 TFLite 為傳統(tǒng)側(cè)機器學(xué)習(xí)設(shè)定標(biāo)準(zhǔn),但我們的使命是讓開發(fā)者能夠像過去集成傳統(tǒng)側(cè)機器學(xué)習(xí)一樣,無縫地在設(shè)備
    的頭像 發(fā)表于 01-30 11:23 ?1825次閱讀
    借助谷歌LiteRT構(gòu)建下一代高性能<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>

    高性能電流模式PWM控制器UC2842B/3B/4B/5B和UC3842B/3B/4B/5B的全面解析

    高性能電流模式PWM控制器UC2842B/3B/4B/5B和UC3842B/3B/4
    的頭像 發(fā)表于 01-27 13:50 ?1286次閱讀

    高性能電流模式PWM控制器UC2842B/3B/4B/5B - UC3842B/3B/4B/5B解析

    高性能電流模式PWM控制器UC2842B/3B/4B/5B - UC3842B/3B/4
    的頭像 發(fā)表于 01-27 13:50 ?200次閱讀

    高性能電流模式PWM控制器UC2842B/3B/4B/5B - UC3842B/3B/4B/5B詳解

    高性能電流模式PWM控制器UC2842B/3B/4B/5B - UC3842B/3B/4
    的頭像 發(fā)表于 01-27 13:50 ?297次閱讀

    UC2842B/3B/4B/5B - UC3843B/3B/4B/5B高性能電流模式PWM控制器

    UC2842B/3B/4B/5B - UC3843B/3B/4
    的頭像 發(fā)表于 01-27 13:50 ?377次閱讀

    深度解析UC2842B/3B/4B/5B與UC3842B/3B/4B/5B高性能電流模式PWM控制器

    深度解析UC2842B/3B/4B/5B與UC3842B/3B/4
    的頭像 發(fā)表于 01-27 11:35 ?627次閱讀

    側(cè)模型上車:從“語音助手”到“車內(nèi) AI 智能體”的躍遷革命

    生活空間”的可能性。當(dāng)7B級大模型在車規(guī)級芯片上流暢運行,當(dāng)多模態(tài)交互(語音+視覺+傳感)成為標(biāo)配,車載助手已從“被動響應(yīng)”升級為“主動決策”,成為車內(nèi)真正的“數(shù)字大腦”。這場由側(cè)
    的頭像 發(fā)表于 01-13 09:10 ?486次閱讀

    引領(lǐng)側(cè)模型落地!Firefly-RK182X 開發(fā)套件上線發(fā)售

    。Rockchip全新高性能側(cè)模型協(xié)處理器RK182X,以硬核技術(shù)突破瓶頸,重構(gòu)側(cè)智能格局,引領(lǐng)
    的頭像 發(fā)表于 11-26 16:33 ?2320次閱讀
    引領(lǐng)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>落地!Firefly-RK182X 開發(fā)套件上線發(fā)售

    ALINX VD100低功耗側(cè)模型部署方案,運行3B模型功耗僅5W?!

    完整模型,以降低延遲、保護隱私并節(jié)省通信成本。但真正落地時卻發(fā)現(xiàn):功耗吃緊、模型裁剪嚴(yán)重、開發(fā)流程繁瑣,使得“能運行”遠遠達不到“用得好”。 基于 ALINX VD100 開發(fā)平臺,客戶打造出一套面向 AI 終端的大
    的頭像 發(fā)表于 09-03 14:58 ?743次閱讀
    ALINX VD100低功耗<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>部署方案,運行<b class='flag-5'>3B</b><b class='flag-5'>模型</b>功耗僅5W?!

    阿里通義千問發(fā)布小尺寸模型Qwen3-4B,手機也能跑

    的Qwen3-30B-A3B(thinking)。官方表示,2507版本的Qwen3-4B模型對手機等側(cè)硬件部署尤為友好。 ? ? 隨著
    的頭像 發(fā)表于 08-12 17:15 ?6736次閱讀
    阿里通義千問發(fā)布小<b class='flag-5'>尺寸</b><b class='flag-5'>模型</b>Qwen<b class='flag-5'>3-4B</b>,手機也能跑

    Arm率先適配騰訊混元開源模型,助力側(cè)AI創(chuàng)新開發(fā)

    本周初,騰訊混元宣布開源四款小尺寸模型(參數(shù)分別為 0.5B、1.8B、4B、7B),可無縫運行
    的頭像 發(fā)表于 08-08 09:16 ?1400次閱讀
    Arm率先適配騰訊混元開源<b class='flag-5'>模型</b>,助力<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>創(chuàng)新開發(fā)

    首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓側(cè)AI模型接入得心應(yīng)手

    。 側(cè)AI應(yīng)用開發(fā)往往需要調(diào)用各種各樣的大模型能力,需要更豐富、類型更多模型適配。為此,G
    發(fā)表于 04-13 19:52

    AI模型側(cè)部署正當(dāng)時:移遠端側(cè)AI模型解決方案,激活場景智能新范式

    AI模型解決方案備受矚目,為AI設(shè)備的革新注入了澎湃動力。 萬億級市場海顯現(xiàn),側(cè)
    發(fā)表于 03-27 11:26 ?594次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時:移遠端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場景智能新范式

    AI模型側(cè)部署正當(dāng)時:移遠端側(cè)AI模型解決方案,激活場景智能新范式

    AI模型解決方案備受矚目,為AI設(shè)備的革新注入了澎湃動力。萬億級市場海顯現(xiàn),側(cè)
    的頭像 發(fā)表于 03-26 19:05 ?1271次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時:移遠端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場景智能新范式

    兩大芯片廠商比拼側(cè)AI音頻芯片,高算力藍牙6.0亮點

    ,廣泛應(yīng)用于各類智能設(shè)備中。就在近期,炬芯科技、中科訊均發(fā)布公司新一代AI芯片。 ? 不同場景對側(cè)
    的頭像 發(fā)表于 03-24 08:51 ?3356次閱讀