91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

探討大模型時代背景下數(shù)據(jù)存儲的變革之道

浪潮存儲 ? 來源:浪潮存儲 ? 2024-12-16 14:05 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在當(dāng)今數(shù)字化浪潮洶涌澎湃的時代背景下,大模型技術(shù)猶如一顆璀璨的明星,照亮了科技發(fā)展的廣闊蒼穹,而存儲技術(shù)的變革,作為這一進(jìn)程中的堅實基石,正日益成為產(chǎn)業(yè)界與學(xué)術(shù)界共同矚目的核心焦點。

為此,浪潮信息聯(lián)合DOIT推出《有數(shù)·高端對話》欄目,分布式存儲產(chǎn)品線總經(jīng)理姜樂果及DOIT傳媒主編李祥敬,與特邀嘉賓上海交通大學(xué)吳晨濤和中科聞歌陳思含共同圍繞大模型的存儲需求變化,展開了一場深度對話。深入探討大模型時代背景下數(shù)據(jù)存儲的變革之道,共話數(shù)字經(jīng)濟(jì)的創(chuàng)新發(fā)展,進(jìn)一步夯實數(shù)據(jù)基礎(chǔ)設(shè)施,充分釋放數(shù)據(jù)資源的巨大價值,為廣大行業(yè)同仁及用戶提供價值參考與啟示。

大模型驅(qū)動存儲變革

大模型技術(shù)的迅猛發(fā)展對存儲系統(tǒng)提出了極為嚴(yán)苛的要求。以GPT-4為例,其參數(shù)量達(dá)到了2200億,每張GPU配備的HBM顯存帶寬達(dá)1.6TB/s,整體訓(xùn)練所需的顯存容量接近400TB。根據(jù)Meta等公司的調(diào)研數(shù)據(jù)顯示,大模型在運行過程中會頻繁遭遇內(nèi)存故障,平均每2-3小時便可能導(dǎo)致一次訓(xùn)練中斷,這無疑對存儲系統(tǒng)的安全可靠性提出了極高的標(biāo)準(zhǔn)。吳晨濤教授以GPT-4等前沿模型作為實例,清晰闡明了大容量HBM顯存、高帶寬以及高可靠性是存儲系統(tǒng)不可或缺的三大核心特性。

同時,從宏觀角度出發(fā),吳教授呼吁建立開放的數(shù)據(jù)生態(tài)。在這一生態(tài)中,通過強(qiáng)化監(jiān)管與隱私保護(hù),旨在打破數(shù)據(jù)孤島,促進(jìn)數(shù)據(jù)的流動與共享,為高質(zhì)量數(shù)據(jù)的充分涌流開辟道路,從而為行業(yè)大模型的發(fā)展提供持續(xù)不斷的動力。

作為存儲廠商的代表,姜樂果從存儲技術(shù)進(jìn)化的視角出發(fā),詳細(xì)闡述了在大模型驅(qū)動下,傳統(tǒng)計算與當(dāng)前智算中心存儲設(shè)施的全方位變革。在性能層面,智算中心對存儲性能的要求已從百GB級躍遷至TB級,與算力協(xié)同攀升;在容量維度,存儲系統(tǒng)已從PB級大步邁向EB級,輕松應(yīng)對海量數(shù)據(jù)洪流的沖擊。同時,數(shù)據(jù)格式與協(xié)議的多元化與復(fù)雜性日益顯著,這對存儲系統(tǒng)突破兼容壁壘提出了迫切需求。

姜樂果還展示了企業(yè)在數(shù)據(jù)要素市場的積極布局與創(chuàng)新探索。浪潮信息緊跟政策導(dǎo)向,與多方合作伙伴攜手,深入挖掘行業(yè)需求,精心研發(fā)端到端的解決方案及高性能存儲新品。例如,新一代分布式存儲平臺AS13000G7系列產(chǎn)品在MLPerf AI存儲基準(zhǔn)評測中表現(xiàn)出色,在3D-UNet(醫(yī)學(xué)圖像分割)和CosmoFlow(宇宙學(xué)參數(shù)預(yù)測)兩個應(yīng)用場景共計8項測試中,斬獲5項全球第一,彰顯強(qiáng)大的性能實力,為行業(yè)大模型數(shù)據(jù)存儲難題提供有力支撐。

中科聞歌作為一家專注于復(fù)雜數(shù)據(jù)解析和AI輔助決策的人工智能公司,陳思含分享了中科聞歌在大模型實踐中的寶貴經(jīng)驗。在大模型的發(fā)展歷程中,存儲需求經(jīng)歷了顯著的動態(tài)演變:從早期對訓(xùn)練速度的追求導(dǎo)致存儲性能需求激增,到參數(shù)量膨脹帶來的數(shù)據(jù)量與參數(shù)規(guī)模指數(shù)級增長,再到多模態(tài)數(shù)據(jù)處理對存儲復(fù)雜性的嚴(yán)格要求,以及混合讀寫模式和多樣化應(yīng)用場景引發(fā)的多元化需求。

數(shù)據(jù)質(zhì)量作為行業(yè)大模型發(fā)展的核心驅(qū)動力,中科聞歌在此方面進(jìn)行了創(chuàng)新實踐。集成了全球多語言媒體數(shù)據(jù)的聞海大數(shù)據(jù)平臺,運用跨模態(tài)AI技術(shù)融合信息,構(gòu)建了垂直領(lǐng)域知識庫,并提供模塊化的智能大屏工具。這一平臺不僅具備全球范圍內(nèi)高效、安全獲取和處理高質(zhì)量數(shù)據(jù)的能力,還成為訓(xùn)練大模型所需高質(zhì)量數(shù)據(jù)的主要數(shù)據(jù)源和知識庫。

在為客戶提供大模型落地產(chǎn)品和系統(tǒng)時,中科聞歌采取了混合模式,即結(jié)合公司自身海量數(shù)據(jù)與用戶的私有行業(yè)數(shù)據(jù)進(jìn)行模型訓(xùn)練和應(yīng)用構(gòu)建,確保了客戶的數(shù)據(jù)安全,避免了數(shù)據(jù)出域的風(fēng)險。

協(xié)同創(chuàng)新下的趨勢展望

展望未來存儲發(fā)展,吳晨濤教授立足學(xué)術(shù)前沿,前瞻性地預(yù)判了關(guān)鍵技術(shù)走向。他認(rèn)為,跨域資源調(diào)度共享技術(shù),特別是基于CXL協(xié)議的內(nèi)存池創(chuàng)新,將打破資源限制,實現(xiàn)全域資源的靈動調(diào)配。同時,優(yōu)化元數(shù)據(jù)管理將提升數(shù)據(jù)檢索與處理效率,而內(nèi)存故障預(yù)測及 Checkpointing 技術(shù)則能確保系統(tǒng)穩(wěn)定運行,最大限度地減少故障對數(shù)據(jù)處理連續(xù)性和完整性的影響。這些技術(shù)的迭代升級將為存儲技術(shù)的發(fā)展指明方向。

作為存儲廠商的代表,浪潮信息積極擁抱變革,從Storage for AI深度適配需求,到AI for Storage智能賦能提效,再到與大模型企業(yè)緊密合作,精準(zhǔn)挖掘系統(tǒng)性能潛能,為用戶提供更貼合業(yè)務(wù)的產(chǎn)品。

作為大模型企業(yè)的代表,中科聞歌致力于打造高效、安全和可靠的存儲系統(tǒng),以適應(yīng)大模型時代的新要求。在架構(gòu)上,采用存算分離架構(gòu)部署AI-Ready數(shù)據(jù)基礎(chǔ)設(shè)施,以加速智能應(yīng)用。在效率提升方面,全閃存存儲憑借其卓越性能成為破局關(guān)鍵,能夠加速數(shù)據(jù)流轉(zhuǎn),激活數(shù)據(jù)價值。而在安全防護(hù)層面,中科聞歌構(gòu)建主動防御體系,從內(nèi)核強(qiáng)化存儲安全,筑牢安全防線。

此次對話欄目的成功舉辦,不僅搭建了產(chǎn)學(xué)研用之間的溝通橋梁,還為各方的深度合作提供了寶貴的機(jī)會。各方代表能夠相互交流思想、碰撞火花,共同探討大模型時代下的存儲技術(shù)變革。這一舉措為產(chǎn)學(xué)研用四方攜手共進(jìn)創(chuàng)造了難得契機(jī),共同迎接大模型時代帶來的存儲變革浪潮,推動我國存儲產(chǎn)業(yè)的繁榮發(fā)展。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 數(shù)據(jù)存儲
    +關(guān)注

    關(guān)注

    5

    文章

    1025

    瀏覽量

    52955
  • 浪潮
    +關(guān)注

    關(guān)注

    1

    文章

    476

    瀏覽量

    25426
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3651

    瀏覽量

    5194

原文標(biāo)題:浪潮信息《有數(shù)·高端對話》:大模型時代存儲變革,產(chǎn)學(xué)研用共探新局

文章出處:【微信號:inspurstorage,微信公眾號:浪潮存儲】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    ReRAM:AI時代的潛力存儲技術(shù)

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)在當(dāng)今科技飛速發(fā)展的時代,存儲技術(shù)作為信息社會的基石,不斷推動著各個領(lǐng)域的創(chuàng)新與變革。其中,ReRAM(阻變存儲器,即電阻式隨機(jī)存取
    的頭像 發(fā)表于 02-25 09:04 ?1269次閱讀

    AI技術(shù)發(fā)展驅(qū)動數(shù)據(jù)存儲體系變革

    存儲與傳輸能力作為支撐。當(dāng)生成式AI爆發(fā)式增長,邊緣AI快速普及,數(shù)據(jù)存儲的容量、速度、能效與定制化需求迎來顛覆性變革
    的頭像 發(fā)表于 02-11 15:09 ?1439次閱讀
    AI技術(shù)發(fā)展驅(qū)動<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>存儲</b>體系<b class='flag-5'>變革</b>

    Aumovio案例研究 | 軟件即產(chǎn)品(SWaap)背景模型系統(tǒng)工程與閉環(huán)系統(tǒng)驗證

    )的應(yīng)用背景,本案例需要基于Level1虛擬ECU,實現(xiàn)電動尾門的模型化系統(tǒng)工程和閉環(huán)系統(tǒng)驗證。同時,需要確保虛擬系統(tǒng)行為與真實系統(tǒng)具有足夠的一致性與準(zhǔn)確性。SW
    的頭像 發(fā)表于 01-07 10:04 ?565次閱讀
    Aumovio案例研究 | 軟件即產(chǎn)品(SWaap)<b class='flag-5'>背景</b><b class='flag-5'>下</b>的<b class='flag-5'>模型</b>系統(tǒng)工程與閉環(huán)系統(tǒng)驗證

    深圳南柯電子|燈具EMC整改:低碳時代,能效與兼容性的平衡之道

    深圳南柯電子|燈具EMC整改:低碳時代,能效與兼容性的平衡之道
    的頭像 發(fā)表于 11-20 10:00 ?441次閱讀

    佰維存儲:AI時代存儲解決方案

    存儲支持。然而,帶寬和容量提升的同時,尺寸和功耗卻成為瓶頸,存儲必須在同等體積里做到更大容量、更高帶寬、更高集成以及更低功耗。 ? ? 何瀚認(rèn)為,在這樣的背景,僅靠傳統(tǒng)的“通用模組
    的頭像 發(fā)表于 09-30 08:40 ?1.2w次閱讀
    佰維<b class='flag-5'>存儲</b>:AI<b class='flag-5'>時代</b>的<b class='flag-5'>存儲</b>解決方案

    數(shù)據(jù)驅(qū)動變革時代,自動駕駛研發(fā)如何破解數(shù)據(jù)跨境合規(guī)難題?

    當(dāng)下正是一個由數(shù)據(jù)驅(qū)動的偉大變革時代。從ADAS到AD,每一次技術(shù)的躍遷都離不開海量道路數(shù)據(jù)的采集、標(biāo)注與分析。以圖像數(shù)據(jù)為例,它們是訓(xùn)練和優(yōu)化感知算法、提升系統(tǒng)安全性的寶貴資源。然而
    的頭像 發(fā)表于 09-12 17:33 ?2688次閱讀
    <b class='flag-5'>數(shù)據(jù)</b>驅(qū)動<b class='flag-5'>變革時代</b>,自動駕駛研發(fā)如何破解<b class='flag-5'>數(shù)據(jù)</b>跨境合規(guī)難題?

    Melexis即將推出新型硅基高壓RC緩沖器

    在當(dāng)今科技以日新月異之勢迅猛發(fā)展的時代背景,電力電子技術(shù)領(lǐng)域正經(jīng)歷著一場深刻且具有劃時代意義的變革。 Melexis憑借其深厚的技術(shù)積淀與卓越的創(chuàng)新能力,推動著行業(yè)不斷邁向新的高度。
    的頭像 發(fā)表于 07-29 17:41 ?973次閱讀

    數(shù)據(jù)標(biāo)注與大模型的雙向賦能:效率與性能的躍升

    ??在人工智能蓬勃發(fā)展的時代,大模型憑借其強(qiáng)大的學(xué)習(xí)與泛化能力,已成為眾多領(lǐng)域創(chuàng)新變革的核心驅(qū)動力。而數(shù)據(jù)標(biāo)注作為大模型訓(xùn)練的基石,為大
    的頭像 發(fā)表于 06-04 17:15 ?2003次閱讀
    <b class='flag-5'>數(shù)據(jù)</b>標(biāo)注與大<b class='flag-5'>模型</b>的雙向賦能:效率與性能的躍升

    模型時代的深度學(xué)習(xí)框架

    量是約為 25.63M,在ImageNet1K數(shù)據(jù)集上,使用單張消費類顯卡 RTX-4090只需大約35~40個小時 ,即可完成ResNet50模型的預(yù)訓(xùn)練。在 大模型時代 ,由于大
    的頭像 發(fā)表于 04-25 11:43 ?852次閱讀
    大<b class='flag-5'>模型</b><b class='flag-5'>時代</b>的深度學(xué)習(xí)框架

    數(shù)智化時代,數(shù)據(jù)存儲“進(jìn)化論”該如何書寫?

    。Gartner預(yù)測,到2028年,企業(yè)軟件應(yīng)用中具備自主性AI的比例將從不到1%升至33%,30%的企業(yè)機(jī)構(gòu)會把數(shù)據(jù)變現(xiàn)或入表納入數(shù)據(jù)戰(zhàn)略。在此背景,作為
    的頭像 發(fā)表于 04-16 11:21 ?684次閱讀
    數(shù)智化<b class='flag-5'>時代</b>,<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>存儲</b>“進(jìn)化論”該如何書寫?

    工業(yè)存儲變革:MK eMMC?引領(lǐng)數(shù)據(jù)存儲時代

    在當(dāng)今科技飛速發(fā)展的工業(yè)領(lǐng)域,數(shù)據(jù)存儲猶如工業(yè)設(shè)備的 “智慧大腦”,承載著生產(chǎn)流程的關(guān)鍵信息。隨著工業(yè) 4.0 的推進(jìn),不同市場應(yīng)用分類對數(shù)據(jù)存儲提出了多樣化且嚴(yán)苛的要求。而 eMMC
    的頭像 發(fā)表于 04-02 14:14 ?1075次閱讀
    工業(yè)<b class='flag-5'>存儲</b>新<b class='flag-5'>變革</b>:MK eMMC?引領(lǐng)<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>存儲</b>新<b class='flag-5'>時代</b>

    華為加速AI時代數(shù)據(jù)存儲產(chǎn)業(yè)發(fā)展

    近日,在華為中國合作伙伴大會2025上,華為數(shù)據(jù)存儲產(chǎn)品線總裁周躍峰發(fā)表“共筑數(shù)智解決方案,共享數(shù)據(jù)存儲產(chǎn)業(yè)大發(fā)展”主題演講,深入探討如何加
    的頭像 發(fā)表于 04-01 15:35 ?1190次閱讀

    麥谷科技即將推出麥聯(lián)智駕AI Agent 1.0

    在當(dāng)今科技迅猛發(fā)展、日新月異的時代背景,人工智能已經(jīng)成為推動各行各業(yè)實現(xiàn)深刻變革的核心動力。
    的頭像 發(fā)表于 04-01 14:02 ?943次閱讀

    適用于數(shù)據(jù)中心和AI時代的800G網(wǎng)絡(luò)

    隨著人工智能(AI)技術(shù)的迅猛發(fā)展,數(shù)據(jù)中心面臨著前所未有的計算和網(wǎng)絡(luò)壓力。從大語言模型(LLM)訓(xùn)練到生成式AI應(yīng)用,海量數(shù)據(jù)處理需求推動了網(wǎng)絡(luò)帶寬的快速增長。在此背景
    發(fā)表于 03-25 17:35

    數(shù)字化時代存儲變革:閃迪引領(lǐng)AI應(yīng)用的數(shù)據(jù)支持

    在數(shù)字化時代,數(shù)據(jù)已成為推動社會和經(jīng)濟(jì)發(fā)展的核心驅(qū)動力。隨著人工智能(AI)、手機(jī)、自動駕駛的快速發(fā)展,數(shù)據(jù)存儲技術(shù)的重要性愈發(fā)凸顯。隨著現(xiàn)階段AI的爆發(fā)式增長,其發(fā)展?fàn)顟B(tài)受到全球用戶
    的頭像 發(fā)表于 03-19 08:59 ?950次閱讀
    數(shù)字化<b class='flag-5'>時代</b>的<b class='flag-5'>存儲</b><b class='flag-5'>變革</b>:閃迪引領(lǐng)AI應(yīng)用的<b class='flag-5'>數(shù)據(jù)</b>支持