電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)面對(duì)蓬勃發(fā)展的AI,在MemoryS 2025上,群聯(lián)電子執(zhí)行長(zhǎng)潘健成表示,面對(duì)AI服務(wù)器成本太高、數(shù)據(jù)上云端不安全等挑戰(zhàn),在地端的AI微調(diào)訓(xùn)練對(duì)于解決問(wèn)題而言是必須的。若一味增加GPU和內(nèi)存數(shù)量,無(wú)疑將導(dǎo)致本地AI訓(xùn)練的成本奇高,無(wú)法獲得普及效應(yīng)。

圖:群聯(lián)電子執(zhí)行長(zhǎng)潘健成
群聯(lián)電子推出了獨(dú)家發(fā)明且也是全球第一家將NAND應(yīng)用于AI服務(wù)器中的滿血版AI訓(xùn)推一體機(jī)平價(jià)方案aiDAPTIV+。通過(guò)aiDAPTIV+,企業(yè)可以在本地邊緣環(huán)境中執(zhí)行AI模型后微調(diào)訓(xùn)練,確保數(shù)據(jù)安全的同時(shí)顯著降低AI訓(xùn)練成本。
群聯(lián)電子aiDAPTIV+ 技術(shù)通過(guò)動(dòng)態(tài)緩存,結(jié)合基于NAND 閃存“aiDAPTIVCache”緩存技術(shù),擴(kuò)展 HBM 和 GDDR 內(nèi)存,顯著提升性能。據(jù)悉,在 GTC 2025 大會(huì)上,群聯(lián)攜手 Maingear 公司推出了搭載 aiDAPTIV+ 技術(shù)的全球首款支援 LLMOps (Large Language Model Operations; 大型語(yǔ)言模型運(yùn)作) 的消費(fèi)級(jí)筆電,用戶將可使用自身企業(yè)或個(gè)人資料來(lái)微調(diào)(Post-training/Fine-tuning) 最多 80億 (8B) 參數(shù)的大型語(yǔ)言模型 (LLM),讓預(yù)訓(xùn)練 (Pre-trained) 的AI模型能依據(jù)邊緣應(yīng)用場(chǎng)景與使用者需求進(jìn)行客制化 (Post-training),以達(dá)到真正的AI落地普及化;此外,通過(guò) aiDAPTIVLink 3.0 新版中間件 (Middleware),負(fù)責(zé) SSD 的 NAND 和 GPU 之間的數(shù)據(jù)傳輸,提供更快的首個(gè) Token 時(shí)間(TTFT)回調(diào)響應(yīng),并支持更大的 LLM(大型語(yǔ)言模型)提示上下文。
“我們的地端AI模型微調(diào)方案aiDAPTIV+,與NVIDIA創(chuàng)辦人黃仁勛于CES演講中提及的地端推論 (Inference) 機(jī)器設(shè)備策略相呼應(yīng),將為AI應(yīng)用的地端模型微調(diào)訓(xùn)練以及推論帶來(lái)更廣泛的應(yīng)用場(chǎng)景及SSD有很大幫助?!迸私〕烧f(shuō)道,本地AI微調(diào)訓(xùn)練將進(jìn)一步增加英偉達(dá)GPU的銷(xiāo)量,也將為閃存產(chǎn)業(yè)鏈打開(kāi)新的市場(chǎng)空間,尤其是企業(yè)級(jí)SSD需求將從云端下沉到邊緣端市場(chǎng)。
群聯(lián)電子2024年業(yè)績(jī)表現(xiàn)亮眼,總營(yíng)收金額達(dá)新臺(tái)幣589.36億元,較2023年增長(zhǎng)達(dá)22%,創(chuàng)下歷史第三高紀(jì)錄。潘健成表示,2024年雖然面臨全球消費(fèi)市場(chǎng)疲軟的挑戰(zhàn),但群聯(lián)憑借堅(jiān)強(qiáng)的技術(shù)實(shí)力與多樣的產(chǎn)品布局,依舊在業(yè)界交出亮眼成績(jī)。我們的存儲(chǔ)解決方案在各大應(yīng)用領(lǐng)域持續(xù)受到市場(chǎng)肯定,展現(xiàn)出群聯(lián)的靈活應(yīng)對(duì)能力與市場(chǎng)競(jìng)爭(zhēng)力。
潘健成在演講中指出,2024年群聯(lián)電子研發(fā)支出近30億元人民幣,巨額研發(fā)支出帶來(lái)了巨大壓力,同樣的,盈利難也導(dǎo)致NAND原廠資本支出開(kāi)始放緩。
在他看來(lái),若談NAND產(chǎn)業(yè)未來(lái)路在何方,如何協(xié)助NAND原廠創(chuàng)造價(jià)值是重要課題之一。渠道市場(chǎng)存儲(chǔ)產(chǎn)品需求快速下滑,“要能夠生存就要長(zhǎng)進(jìn)”,系統(tǒng)整合廠要做NAND存儲(chǔ)差異化、要?jiǎng)?chuàng)造價(jià)值。如在PC應(yīng)用上,群聯(lián)開(kāi)發(fā)了PQC防偽方案,安裝于PC的存儲(chǔ),可辨識(shí)AI合成圖片、視頻、文件,強(qiáng)化PC資料防護(hù),價(jià)值是原來(lái)SSD的3倍。
他進(jìn)一步認(rèn)為,電子產(chǎn)業(yè)經(jīng)歷三大周期,從90年代的PC、到2000年左右的智能手機(jī),再到現(xiàn)在的AI走入端側(cè),回看過(guò)去每一次的產(chǎn)業(yè)大爆發(fā)都帶動(dòng)半導(dǎo)體產(chǎn)業(yè)鏈10多年的成長(zhǎng)動(dòng)能。而這一次AI的到來(lái)也將產(chǎn)生新的長(zhǎng)周期的半導(dǎo)體繁榮。毋庸置疑,端側(cè)AI將帶給存儲(chǔ)巨大的機(jī)會(huì)。
-
閃存
+關(guān)注
關(guān)注
16文章
1900瀏覽量
117300 -
AI
+關(guān)注
關(guān)注
91文章
39820瀏覽量
301496
發(fā)布評(píng)論請(qǐng)先 登錄
HBM不再是主戰(zhàn)場(chǎng)?256TB、QLC、企業(yè)級(jí)…閃存激蕩AI存力
Renesas RX64M/RX71M 系列閃存內(nèi)存硬件接口深度解析
深入解析RX64M/RX71M組閃存內(nèi)存:特性、操作與安全保障
閃存新標(biāo)桿
AI數(shù)據(jù)周期存儲(chǔ)破局者:企業(yè)級(jí)SSD激活千億級(jí)市場(chǎng)
請(qǐng)問(wèn)在單個(gè)DAVE?項(xiàng)目中是否支持16kb閃存大小的 MCU 和 32kb 閃存大小的 MCU?
紫光閃芯亮相2025全球閃存峰會(huì)
紫光國(guó)芯亮相2025全球閃存峰會(huì)
什么是Flash閃存以及STM32使用NAND Flash
15%成本撬動(dòng)100%體驗(yàn)!國(guó)產(chǎn)閃存如何改寫(xiě)AI玩具競(jìng)爭(zhēng)規(guī)則
Flash閃存技術(shù)是什么?創(chuàng)世SD NAND Flash又有何獨(dú)特之處?#嵌入式開(kāi)發(fā) #存儲(chǔ)芯片 #閃存
海思SD3403邊緣計(jì)算AI數(shù)據(jù)訓(xùn)練概述
MPC5744P C55閃存驅(qū)動(dòng)程序,間歇擦除怎么解決?
NAND閃存的工作原理和結(jié)構(gòu)特點(diǎn)
閃存破局“內(nèi)存焦慮”,AI微調(diào)訓(xùn)練增加閃存消耗
評(píng)論