91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

閃存破局“內(nèi)存焦慮”,AI微調(diào)訓(xùn)練增加閃存消耗

晶芯觀察 ? 來(lái)源:電子發(fā)燒友 ? 作者:黃晶晶 ? 2025-03-26 09:28 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)面對(duì)蓬勃發(fā)展的AI,在MemoryS 2025上,群聯(lián)電子執(zhí)行長(zhǎng)潘健成表示,面對(duì)AI服務(wù)器成本太高、數(shù)據(jù)上云端不安全等挑戰(zhàn),在地端的AI微調(diào)訓(xùn)練對(duì)于解決問(wèn)題而言是必須的。若一味增加GPU和內(nèi)存數(shù)量,無(wú)疑將導(dǎo)致本地AI訓(xùn)練的成本奇高,無(wú)法獲得普及效應(yīng)。

wKgZO2fiDHGASBv9AAJO4VKl5Gc569.jpg
圖:群聯(lián)電子執(zhí)行長(zhǎng)潘健成


群聯(lián)電子推出了獨(dú)家發(fā)明且也是全球第一家將NAND應(yīng)用于AI服務(wù)器中的滿血版AI訓(xùn)推一體機(jī)平價(jià)方案aiDAPTIV+。通過(guò)aiDAPTIV+,企業(yè)可以在本地邊緣環(huán)境中執(zhí)行AI模型后微調(diào)訓(xùn)練,確保數(shù)據(jù)安全的同時(shí)顯著降低AI訓(xùn)練成本。

群聯(lián)電子aiDAPTIV+ 技術(shù)通過(guò)動(dòng)態(tài)緩存,結(jié)合基于NAND 閃存“aiDAPTIVCache”緩存技術(shù),擴(kuò)展 HBM 和 GDDR 內(nèi)存,顯著提升性能。據(jù)悉,在 GTC 2025 大會(huì)上,群聯(lián)攜手 Maingear 公司推出了搭載 aiDAPTIV+ 技術(shù)的全球首款支援 LLMOps (Large Language Model Operations; 大型語(yǔ)言模型運(yùn)作) 的消費(fèi)級(jí)筆電,用戶將可使用自身企業(yè)或個(gè)人資料來(lái)微調(diào)(Post-training/Fine-tuning) 最多 80億 (8B) 參數(shù)的大型語(yǔ)言模型 (LLM),讓預(yù)訓(xùn)練 (Pre-trained) 的AI模型能依據(jù)邊緣應(yīng)用場(chǎng)景與使用者需求進(jìn)行客制化 (Post-training),以達(dá)到真正的AI落地普及化;此外,通過(guò) aiDAPTIVLink 3.0 新版中間件 (Middleware),負(fù)責(zé) SSD 的 NAND 和 GPU 之間的數(shù)據(jù)傳輸,提供更快的首個(gè) Token 時(shí)間(TTFT)回調(diào)響應(yīng),并支持更大的 LLM(大型語(yǔ)言模型)提示上下文。

“我們的地端AI模型微調(diào)方案aiDAPTIV+,與NVIDIA創(chuàng)辦人黃仁勛于CES演講中提及的地端推論 (Inference) 機(jī)器設(shè)備策略相呼應(yīng),將為AI應(yīng)用的地端模型微調(diào)訓(xùn)練以及推論帶來(lái)更廣泛的應(yīng)用場(chǎng)景及SSD有很大幫助?!迸私〕烧f(shuō)道,本地AI微調(diào)訓(xùn)練將進(jìn)一步增加英偉達(dá)GPU的銷(xiāo)量,也將為閃存產(chǎn)業(yè)鏈打開(kāi)新的市場(chǎng)空間,尤其是企業(yè)級(jí)SSD需求將從云端下沉到邊緣端市場(chǎng)。

群聯(lián)電子2024年業(yè)績(jī)表現(xiàn)亮眼,總營(yíng)收金額達(dá)新臺(tái)幣589.36億元,較2023年增長(zhǎng)達(dá)22%,創(chuàng)下歷史第三高紀(jì)錄。潘健成表示,2024年雖然面臨全球消費(fèi)市場(chǎng)疲軟的挑戰(zhàn),但群聯(lián)憑借堅(jiān)強(qiáng)的技術(shù)實(shí)力與多樣的產(chǎn)品布局,依舊在業(yè)界交出亮眼成績(jī)。我們的存儲(chǔ)解決方案在各大應(yīng)用領(lǐng)域持續(xù)受到市場(chǎng)肯定,展現(xiàn)出群聯(lián)的靈活應(yīng)對(duì)能力與市場(chǎng)競(jìng)爭(zhēng)力。

潘健成在演講中指出,2024年群聯(lián)電子研發(fā)支出近30億元人民幣,巨額研發(fā)支出帶來(lái)了巨大壓力,同樣的,盈利難也導(dǎo)致NAND原廠資本支出開(kāi)始放緩。

在他看來(lái),若談NAND產(chǎn)業(yè)未來(lái)路在何方,如何協(xié)助NAND原廠創(chuàng)造價(jià)值是重要課題之一。渠道市場(chǎng)存儲(chǔ)產(chǎn)品需求快速下滑,“要能夠生存就要長(zhǎng)進(jìn)”,系統(tǒng)整合廠要做NAND存儲(chǔ)差異化、要?jiǎng)?chuàng)造價(jià)值。如在PC應(yīng)用上,群聯(lián)開(kāi)發(fā)了PQC防偽方案,安裝于PC的存儲(chǔ),可辨識(shí)AI合成圖片、視頻、文件,強(qiáng)化PC資料防護(hù),價(jià)值是原來(lái)SSD的3倍。

他進(jìn)一步認(rèn)為,電子產(chǎn)業(yè)經(jīng)歷三大周期,從90年代的PC、到2000年左右的智能手機(jī),再到現(xiàn)在的AI走入端側(cè),回看過(guò)去每一次的產(chǎn)業(yè)大爆發(fā)都帶動(dòng)半導(dǎo)體產(chǎn)業(yè)鏈10多年的成長(zhǎng)動(dòng)能。而這一次AI的到來(lái)也將產(chǎn)生新的長(zhǎng)周期的半導(dǎo)體繁榮。毋庸置疑,端側(cè)AI將帶給存儲(chǔ)巨大的機(jī)會(huì)。




聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 閃存
    +關(guān)注

    關(guān)注

    16

    文章

    1900

    瀏覽量

    117300
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39820

    瀏覽量

    301496
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    HBM不再是主戰(zhàn)場(chǎng)?256TB、QLC、企業(yè)級(jí)…閃存激蕩AI存力

    電子發(fā)燒友網(wǎng)綜合報(bào)道,在今年的MemoryS 2025上最熱的話題當(dāng)然是AI,DeepSeek徹底引爆存儲(chǔ)需求,例如企業(yè)級(jí)SSD不僅用于云端訓(xùn)練,還將拓展到AI訓(xùn)推一體機(jī)等場(chǎng)景。對(duì)數(shù)據(jù)中心AI
    發(fā)表于 03-17 09:14 ?1014次閱讀

    Renesas RX64M/RX71M 系列閃存內(nèi)存硬件接口深度解析

    Renesas RX64M/RX71M 系列閃存內(nèi)存硬件接口深度解析 引言 在嵌入式系統(tǒng)設(shè)計(jì)中,閃存內(nèi)存的高效使用和管理至關(guān)重要。Renesas 的 RX64M 和 RX71M 系列微
    的頭像 發(fā)表于 03-02 16:50 ?147次閱讀

    深入解析RX64M/RX71M組閃存內(nèi)存:特性、操作與安全保障

    深入解析RX64M/RX71M組閃存內(nèi)存:特性、操作與安全保障 引言 在嵌入式系統(tǒng)設(shè)計(jì)中,閃存內(nèi)存是關(guān)鍵的存儲(chǔ)組件,其性能和可靠性直接影響著整個(gè)系統(tǒng)的運(yùn)行。Renesas的RX64M和
    的頭像 發(fā)表于 02-10 10:50 ?302次閱讀

    閃存新標(biāo)桿

    增加。芯天下技術(shù)股份有限公司憑借領(lǐng)先的存儲(chǔ)技術(shù)和豐富的應(yīng)用經(jīng)驗(yàn),傾力推出了 XT25F64F 3.3V Quad I/O 串行閃存產(chǎn)品。本文將詳細(xì)介紹該產(chǎn)品的核心技術(shù)、優(yōu)勢(shì)特點(diǎn)、應(yīng)用場(chǎng)景以及未來(lái)的發(fā)展趨勢(shì),幫助工程師和決策者全面了解這一高性能存儲(chǔ)器件。 一、產(chǎn)品概述與背景
    的頭像 發(fā)表于 10-15 10:40 ?603次閱讀

    AI數(shù)據(jù)周期存儲(chǔ)者:企業(yè)級(jí)SSD激活千億級(jí)市場(chǎng)

    AI服務(wù)器加速部署,邊緣和云端需求持續(xù)升級(jí)的前提下,閃存技術(shù)如何提升以應(yīng)對(duì)數(shù)據(jù)激增的新AI時(shí)代?國(guó)際調(diào)研機(jī)構(gòu)IDC帶來(lái)了哪些前瞻的觀點(diǎn)?全球知名的存儲(chǔ)企業(yè)閃迪面向市場(chǎng)發(fā)布了哪些重磅產(chǎn)品和平臺(tái)?本文進(jìn)行詳細(xì)報(bào)道。
    的頭像 發(fā)表于 10-11 09:27 ?1.1w次閱讀
    <b class='flag-5'>AI</b>數(shù)據(jù)周期存儲(chǔ)<b class='flag-5'>破</b><b class='flag-5'>局</b>者:企業(yè)級(jí)SSD激活千億級(jí)市場(chǎng)

    請(qǐng)問(wèn)在單個(gè)DAVE?項(xiàng)目中是否支持16kb閃存大小的 MCU 和 32kb 閃存大小的 MCU?

    我有一個(gè)應(yīng)用程序,有時(shí)為 14KB,有時(shí)為 18KB,這取決于我們是否啟用或禁用某些功能。18KB 應(yīng)用程序應(yīng)加載到 XMC1302t028x0032(32KB 閃存 MCU),14KB 應(yīng)用程序
    發(fā)表于 07-30 08:02

    紫光閃芯亮相2025全球閃存峰會(huì)

    近日,由DOIT傳媒主辦的“存力覺(jué)醒 AI未來(lái)——2025全球閃存峰會(huì)”在南京盛大召開(kāi)。此次峰會(huì)匯聚了全球存儲(chǔ)領(lǐng)域精英,深入探討在人工智能浪潮中,閃存技術(shù)如何賦能數(shù)字化轉(zhuǎn)型,推動(dòng)產(chǎn)業(yè)發(fā)展邁向新高度。
    的頭像 發(fā)表于 07-15 13:55 ?1777次閱讀

    紫光國(guó)芯亮相2025全球閃存峰會(huì)

    近日,由DOIT傳媒主辦的2025全球閃存峰會(huì)(FMW 2025) 在南京盛大開(kāi)幕。本屆峰會(huì)以“存力覺(jué)醒 AI未來(lái)”為主題,聚焦以閃存內(nèi)存芯片為核心的存儲(chǔ)器產(chǎn)業(yè)生態(tài)創(chuàng)新與變革。作為國(guó)
    的頭像 發(fā)表于 07-11 16:12 ?1583次閱讀

    什么是Flash閃存以及STM32使用NAND Flash

    NAND 文章目錄 NAND 一、FLASH閃存是什么? 二、SD NAND Flash 三、STM32例程 一、FLASH閃存是什么? 簡(jiǎn)介 FLASH閃存是屬于內(nèi)存器件的一種,“F
    發(fā)表于 07-03 14:33

    15%成本撬動(dòng)100%體驗(yàn)!國(guó)產(chǎn)閃存如何改寫(xiě)AI玩具競(jìng)爭(zhēng)規(guī)則

    ,AI玩具還被應(yīng)用于早教、學(xué)習(xí)等領(lǐng)域,例如AI智能早教機(jī)等產(chǎn)品,這些應(yīng)用場(chǎng)景需要存儲(chǔ)大量的教育資源和數(shù)據(jù),進(jìn)一步增加了對(duì)閃存的需求。 ? 并且不同類(lèi)型的
    的頭像 發(fā)表于 06-25 00:22 ?7217次閱讀

    海思SD3403邊緣計(jì)算AI數(shù)據(jù)訓(xùn)練概述

    AI數(shù)據(jù)訓(xùn)練:基于用戶特定應(yīng)用場(chǎng)景,用戶采集照片或視頻,通過(guò)AI數(shù)據(jù)訓(xùn)練工程師**(用戶公司****員工)** ,進(jìn)行特征標(biāo)定后,將標(biāo)定好的訓(xùn)練
    發(fā)表于 04-28 11:11

    MPC5744P C55閃存驅(qū)動(dòng)程序,間歇擦除怎么解決?

    )0x1040000 的內(nèi)存已正確編程。此批處理中的所有其他單元都使用相同的軟件完美編程。 問(wèn)題: 除了閃存的電源電壓不穩(wěn)定之外,是否有其他硬件外部因素會(huì)影響閃存編程能力? 是否有適用于此設(shè)備的更高
    發(fā)表于 04-10 06:55

    3D閃存的制造工藝與挑戰(zhàn)

    3D閃存有著更大容量、更低成本和更高性能的優(yōu)勢(shì),本文介紹了3D閃存的制造工藝與挑戰(zhàn)。
    的頭像 發(fā)表于 04-08 14:38 ?2459次閱讀
    3D<b class='flag-5'>閃存</b>的制造工藝與挑戰(zhàn)

    NAND閃存的工作原理和結(jié)構(gòu)特點(diǎn)

    NAND閃存是一種非易失性存儲(chǔ)技術(shù),廣泛用于固態(tài)硬盤(pán)、USB閃存盤(pán)和手機(jī)存儲(chǔ)中,具有高速讀寫(xiě)和耐用性強(qiáng)的特點(diǎn)。
    的頭像 發(fā)表于 03-12 10:21 ?6618次閱讀
    NAND<b class='flag-5'>閃存</b>的工作原理和結(jié)構(gòu)特點(diǎn)