91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

手機(jī)AI大模型來襲,存儲來到16GB+512GB?

晶芯觀察 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2024-01-19 09:54 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/黃晶晶)手機(jī)處理器廠商最先引領(lǐng)了AI大模型在手機(jī)上的落地。去年下半年以來,高通、聯(lián)發(fā)科相繼發(fā)布最新處理器,都開始支持AI大模型。

驍龍8 Gen3是高通首款以生成式AI為核心設(shè)計的移動平臺。驍龍8 Gen 3基于臺積電4nm制程,采1個3.3GHz Cortex-X4+5個3.2GHz Cortex-A720+2個2.3GHz Cortex-A530的八核架構(gòu)設(shè)計。在強(qiáng)大的CPUGPU和NPU的支持下,驍龍8 Gen可以在設(shè)備端運(yùn)行生成式AI,其支持超過100億個參數(shù)的模型,比如Meta Llama2 / Baichuan,并支持20個 tokens/秒。

聯(lián)發(fā)科天璣9300采用全大核設(shè)計,CPU包含4個Cortex-X4超大核,以及4個主頻為2.0GHz的Cortex-A720大核。天璣9300集成的APU 790內(nèi)置生成式AI引擎,與Transformer模型適配進(jìn)行算子加速,可以實現(xiàn)1秒內(nèi)生成圖片。

結(jié)合內(nèi)存硬件壓縮技術(shù)NeuroPilot Compression來減少AI大模型對終端內(nèi)存的占用,天璣9300支持在終端運(yùn)行10億、70億、130億參數(shù)的AI大模型。并且天璣9300成功運(yùn)行了330億參數(shù)的AI大模型。

在這些處理器發(fā)布后,手機(jī)廠商陸續(xù)推出搭載這些最新處理器的旗艦智能手機(jī),當(dāng)然也無一例外的開始搭載AI大模型。

手機(jī)AI大模型涌現(xiàn)

電子發(fā)燒友網(wǎng)統(tǒng)計去年底到今年1月發(fā)布的旗艦智能手機(jī),包括小米14系列、vivo X100系列,OPPO X7系列、榮耀Magic6系列等,以及更早前發(fā)布的華米Mate60系列。它們都已經(jīng)支持AI大模型的運(yùn)行和應(yīng)用。手機(jī)廠商對于AI大模型的擁抱態(tài)度十分積極,在主處理器支持AI功能的基礎(chǔ)上,推出了自研的AI大模型。

wKgaomWp1meAJ9rWAAu-Oba1m-c841.png

例如小米的MiLM大模型支持64億參數(shù),還有支持13億參數(shù)的端側(cè)大模型。

vivo發(fā)布五款自研“藍(lán)心”AI大模型,包括1750億、1300億、700億、70億、10億五款不同參數(shù)規(guī)模,并開源70億“藍(lán)心”大模型。X100系列搭載70億參數(shù)大模型。

在安第斯AndesGPT 大模型70億參數(shù)大語言支持下,OPPO 端側(cè)具備超快的首字響應(yīng)速度。用戶可以體驗全新的 AIGC 消除功能,首個 AI 大模型語音摘要,文字生成圖片等100多種能力。

當(dāng)然,要追溯AI大模型上手機(jī)的進(jìn)程,其實早在去年8月,華為Mate60 Pro發(fā)布,并宣布接入盤古人工智能大模型,為消費(fèi)者提供更智慧的交互體驗。

在AI大模型的加持下,智能手機(jī)變得更加智能化,出現(xiàn)更多便捷而有趣的應(yīng)用,AI大模型成為智能手機(jī)的一大賣點,也將是未來智能手機(jī)創(chuàng)新發(fā)展的趨勢。

需要多少存儲容量?

我們看到,這些基于高通和聯(lián)發(fā)科旗艦芯片的智能手機(jī)比較集中的是支持70億的AI大模型參數(shù)。那么這些旗艦機(jī)型的存儲容量又是多少呢?經(jīng)統(tǒng)計發(fā)現(xiàn),最低的為8GB+256GB,最高達(dá)到16GB+1TB。16GB+512GB這種搭配的存儲容量是最為集中的。

以手機(jī)AI大模型的內(nèi)存容量來看,OPPO影像產(chǎn)品總監(jiān)張璇此前在接受采訪時給出的數(shù)據(jù)是,70億大模型正常的模型大小是28GB,經(jīng)過壓縮和輕量化之后可壓縮到最小的3.9GB左右。

這個數(shù)據(jù),其他手機(jī)廠商也有類似的看法。vivo AI解決方案中心總監(jiān)謝偉欽此前透露,要運(yùn)轉(zhuǎn)一個10億規(guī)模大模型至少需要1G內(nèi)存,70億模型需要4GB內(nèi)存,130億模型目前需要超過7GB內(nèi)存。

這里不能不說輕量化和內(nèi)存壓縮技術(shù)。聯(lián)發(fā)科在介紹天璣 9300支持生成式AI時就特別提到,特有內(nèi)存硬件壓縮技術(shù)和NeuroPilot Compression 混合精度 INT4 量化技術(shù)。采用INT4量化可以將130億參數(shù)大模型壓縮至13GB,再用內(nèi)存硬件壓縮技術(shù)進(jìn)一步減少存儲容量。

我們以70億大模型壓縮后需要4GB來算,再加上6GB App?;睢?GB安卓OS,也就是說,支持70億參數(shù)大模型的智能手機(jī),實現(xiàn)圖像生成功能等,其內(nèi)存至少需要14GB。

若未來要支持超100億參數(shù)的模型,實現(xiàn)數(shù)字AI助手等功能,在現(xiàn)有條件下智能手機(jī)內(nèi)存至少需要17GB。

目前國內(nèi)智能手機(jī)已經(jīng)搭載最高24GB的內(nèi)存,比如一加 12,一加Ace 3、realme 真我 GT5 等已提供24GB版本。

在內(nèi)存規(guī)格上,當(dāng)前旗艦智能手機(jī)的內(nèi)存主要為LPDDR5X。vivo X100系列率先搭載海力士LPDDR5T內(nèi)存(為強(qiáng)調(diào)其超高速度,SK海力士在“LPDDR5”規(guī)格名稱后添加了“Turbo渦輪增壓”字樣),相比LPDDR5X內(nèi)存讀取速度提升達(dá)13%,達(dá)9.6Gbps。

在閃存規(guī)格上,主要為UFS4.0。UFS是一種允許設(shè)備同時讀取和寫入的全雙工接口,并且在標(biāo)準(zhǔn)層面能幫助設(shè)備以更低的功耗實現(xiàn)高速讀寫,UFS4.0理論速度達(dá)到4,640MB/s。如前所述,最新發(fā)布的旗艦智能手機(jī)的閃存容量都配置了512GB這一容量。

隨著AI大模型在手機(jī)上的推進(jìn),手機(jī)處理器、內(nèi)存、閃存的容量和性能需求都將升級到更高的水平。增加容量只是一方面,無論是存儲芯片廠商還是手機(jī)處理器、終端廠商,在存儲技術(shù)、系統(tǒng)優(yōu)化等方面還需更多的創(chuàng)新。

智能手機(jī)回暖,AI手機(jī)拉動存儲市場上升

智能手機(jī)市場經(jīng)歷一段長時間的低迷之后,終于迎來增長。

Counterpoint數(shù)據(jù)顯示,2023年10月全球智能手機(jī)銷量在連續(xù)27個月同比下降后,首次售出交易量(即零售額)同比增長5%。2023年第四季度,智能手機(jī)出貨量增速為同比增長3%,達(dá)到3.12億部。Counterpoint預(yù)測,2024年全球智能手機(jī)出貨量有望同比增長3%。

IDC預(yù)計,2024年中國智能手機(jī)市場出貨量將達(dá)到2.87億部,同比增長3.6%,實現(xiàn)2021年以來首次同比增長。

和PC市場對AI PC給予厚望一樣,AI手機(jī)將成為智能手機(jī)市場一個強(qiáng)勁的增長動力。AI手機(jī)將帶動LPDDR5、UFS 4.0的滲透,加速存儲行業(yè)的復(fù)蘇態(tài)勢。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 聯(lián)發(fā)科
    +關(guān)注

    關(guān)注

    57

    文章

    2748

    瀏覽量

    259644
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39944

    瀏覽量

    301587
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3662

    瀏覽量

    5197
  • 天璣9300
    +關(guān)注

    關(guān)注

    3

    文章

    53

    瀏覽量

    643
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    398

    瀏覽量

    1005
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    智能手機(jī)存儲邁入2TB時代

    ? 電子發(fā)燒友網(wǎng)報道(文/黃晶晶)端側(cè)AI帶動智能終端存儲的不斷升級。當(dāng)前,高端智能手機(jī)的內(nèi)存已經(jīng)來到24GB,例如一加13、REDMI K
    的頭像 發(fā)表于 10-09 04:09 ?9127次閱讀
    智能<b class='flag-5'>手機(jī)</b><b class='flag-5'>存儲</b>邁入2TB時代

    邊緣AI算力臨界點:深度解析176TOPS香橙派AI Station的產(chǎn)業(yè)價值

    、內(nèi)存革命:48GB/96GB LPDDR4X 背后的帶寬博弈 很多開發(fā)者容易陷入唯算力論的誤區(qū),但在實際部署大模型時,內(nèi)存容量和帶寬往往是真正的性能瓶頸。OrangePi AI St
    發(fā)表于 03-10 14:19

    模型推理服務(wù)的彈性部署與GPU調(diào)度方案

    7B 模型 FP16 推理需要約 14GB 顯存,70B 模型需要 140GB+,KV Cache 隨并發(fā)數(shù)線性增長,顯存碎片化導(dǎo)致實際利用
    的頭像 發(fā)表于 03-03 09:29 ?161次閱讀

    【CIE全國RISC-V創(chuàng)新應(yīng)用大賽】基于 K1 AI CPU 的大模型部署落地

    8GB 物理內(nèi)存 (且操作系統(tǒng)還要占用約 500MB+)。 結(jié)論 :如果直接照搬官方文檔下載 Q4 模型, 100% 會因為內(nèi)存不足(OOM)而無法運(yùn)行 。 為了滿足賽題要求,必須采用 “極限
    發(fā)表于 11-27 14:43

    MRAM存儲器EMD4E001G-1Gb的優(yōu)勢介紹

    在當(dāng)今對數(shù)據(jù)持久性與系統(tǒng)可靠性要求極高的企業(yè)基礎(chǔ)設(shè)施和數(shù)據(jù)中心中,Everspin推出的自旋轉(zhuǎn)移扭矩MRAM(STT-MRAM)存儲器——EMD4E001G-1Gb,憑借其卓越的性能與獨(dú)特的技術(shù)優(yōu)勢,成為眾多高性能存儲解決方案中
    的頭像 發(fā)表于 11-05 14:34 ?496次閱讀

    AI模型的配置AI模型該怎么做?

    STM32可以跑AI,這個AI模型怎么搞,知識盲區(qū)
    發(fā)表于 10-14 07:14

    康盈半導(dǎo)體AI應(yīng)用存儲新品震撼發(fā)布,elexcon 2025 現(xiàn)場引爆行業(yè)關(guān)注

    AI眼鏡等AI終端領(lǐng)域應(yīng)用產(chǎn)品:ePOP嵌入式存儲芯片,擁有多容量組合,如8GB+8Gb、32GB+16Gb、32
    的頭像 發(fā)表于 08-28 10:01 ?3.1w次閱讀
    康盈半導(dǎo)體<b class='flag-5'>AI</b>應(yīng)用<b class='flag-5'>存儲</b>新品震撼發(fā)布,elexcon 2025 現(xiàn)場引爆行業(yè)關(guān)注

    華為將于9月4日發(fā)布新款三折疊手機(jī)

    是15000元左右。相比其前代產(chǎn)品有一定的降價;我們查詢看到華為Mate XT非凡大師16GB+256GB版本的價格為19999元、16GB+512GB版本價格是21999元、而16GB+1TB的版本高達(dá)23999元。
    的頭像 發(fā)表于 08-27 11:50 ?884次閱讀

    鎧俠第九代 BiCS FLASH? 512Gb TLC 存儲器開始送樣

    融合現(xiàn)有存儲單元與先進(jìn)的 CMOS 技術(shù),實現(xiàn)投資效益最大化 ? 全球存儲解決方案領(lǐng)導(dǎo)者鎧俠宣布,其采用第九代 BiCS FLASH? 3D 閃存技術(shù)的 512Gb TLC存儲器已開始
    發(fā)表于 07-28 15:30 ?732次閱讀

    后摩智能發(fā)布全新端邊大模型AI芯片

    產(chǎn)品矩陣。M50 芯片實現(xiàn)了160TOPS@INT8、100TFLOPS@bFP16 的物理算力,搭配最大 48GB 內(nèi)存與153.6 GB/s 的超高帶寬,典型功耗僅 10W,相當(dāng)于手機(jī)
    的頭像 發(fā)表于 07-26 16:09 ?1590次閱讀

    GB10超級芯片開賣!正式殺入AI PC

    電子發(fā)燒友網(wǎng)綜合報道,近日,聯(lián)發(fā)科與英偉達(dá)合作開發(fā)的GB10超級芯片,作為首款個人AI超級電腦的核心組件,已經(jīng)獲得了主要PC品牌大廠的青睞,并將于本月起陸續(xù)上市開賣。 ? 在今年1月的CES展會
    的頭像 發(fā)表于 07-09 01:21 ?4127次閱讀

    8999元起!榮耀Magic V5首發(fā),樹立折疊屏手機(jī)新標(biāo)桿

    ,16GB+512GB版本10999元。 Magic V5兩大突破:青海湖刀片電池+魯班大模型,夯實纖薄體驗 榮耀新CEO李健表示,決定折疊屏手機(jī)厚度的核心因素是電
    的頭像 發(fā)表于 07-04 09:10 ?9317次閱讀
    8999元起!榮耀Magic V5首發(fā),樹立折疊屏<b class='flag-5'>手機(jī)</b>新標(biāo)桿

    8999元起!榮耀Magic V5發(fā)布,樹立折疊屏手機(jī)新標(biāo)桿

    。榮耀Magic V5對比OPPO在6月份發(fā)布的Find N5,重量減少了16g,榮耀官宣Magic V5價格8999元起,16GB+512GB版本9999元,16GB+512GB版本10999元。
    的頭像 發(fā)表于 07-03 14:23 ?1.2w次閱讀
    8999元起!榮耀Magic V5發(fā)布,樹立折疊屏<b class='flag-5'>手機(jī)</b>新標(biāo)桿

    手動整理GB 44240電能存儲系統(tǒng)用鋰蓄電池和電池組安全測試設(shè)備

    ?GB 44240-2024是國內(nèi)針對電能存儲系統(tǒng)用鋰蓄電池和電池組的強(qiáng)制性國家標(biāo)準(zhǔn),旨在規(guī)范電能存儲系統(tǒng)中鋰電池的安全要求。?該標(biāo)準(zhǔn)由工業(yè)和信息化部組織制定,歷時三年,將于2025年8月1日
    的頭像 發(fā)表于 03-28 11:16 ?1153次閱讀
    手動整理<b class='flag-5'>GB</b> 44240電能<b class='flag-5'>存儲</b>系統(tǒng)用鋰蓄電池和電池組安全測試設(shè)備

    Banana Pi 發(fā)布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計算與嵌入式開發(fā)

    高效連接 BPI-AI2N 標(biāo)配 8GB LPDDR4X 內(nèi)存、32GB eMMC 存儲及 64MB QSPI Flash,確保數(shù)據(jù)存取高效穩(wěn)定。同時,BPI-
    發(fā)表于 03-19 17:54