91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AIGC加速成長,算力需求變化帶來系統級創(chuàng)新

Monika觀察 ? 來源:電子發(fā)燒友網 ? 作者:莫婷婷 ? 2023-05-30 01:04 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網報道(文/莫婷婷)隨著大模型智能水平的提升,AIGC所需要的算力也在不斷增長。根據OpenAI的研究,AI訓練所需算力指數增長,且增長速度超越硬件的摩爾定律。燧原科技創(chuàng)新研究院負責人、首席科學家姚建國教授認為,算力分為需求、場景,還有芯片和系統四個層次。算力需求的變化給AI芯片以及系統都帶來了一定程度的挑戰(zhàn)。

多家廠商發(fā)布垂直類大模型,AIGC落地場景逐漸清晰

隨著各大公司對AIGC研究的不斷深入和技術投入,國內外廠商積極推出屬于自己的類ChatGPT模型,例如華為的“盤古”,商湯的“日日新”、深蘭科技的“硅基知識”、出門問問的“序列猴子”、深信服的“安全大模型”等等大模型。這么多的大模型,若是放在兩年前,業(yè)內人士可能會頭疼于它的落地場景。

得益于ChatGPT的出現,業(yè)內人士看到了更多AIGC落地的可能性,并且推動AI行業(yè)進入AIGC時代。百度創(chuàng)始人、董事長兼CEO李彥宏近期公開演講時就表示,“大模型即將改變世界”。

那么,大模型究竟會如何改變世界呢?這還得從落地場景看。目前,AIGC的典型應用分為文生文、文生圖、文生視頻。近期中國市場開放一些文生文的應用越來越多,具體的應用包括對話式功能,還支持搜索和營銷的場景。

盡管國內廠商還未推出像GPT-4如此強大的通用模型,但是在垂直領域的人工智能大模型卻迎來飛躍式的發(fā)展,并且有著巨大的想象空間。正如李彥宏提到的,每一個行業(yè)都應該有屬于自己的大模型。未來技術跟業(yè)務深度融合是AIGC發(fā)展的最終方向。


算力需求變化帶來系統級創(chuàng)新

談及大模型對算力的需求,姚建國教授表示,AIGC智算中心可以分為三類大模型:基礎大模型、場景大模型和應用大模型。

基礎大模型通過巨大的算力生成,然后通過預訓練算力、超大訓練算力支撐,例如ChatGPT。場景大模型是在大模型基礎進行調優(yōu),通過Fine Tune算力支撐,可以適應不同場景,也就能賦能到不同行業(yè),可以引用一些普惠訓練算力。應用大模型主要是通過推理算力,包括云端推理和端側推理。

對于芯片的需求,基礎大模型和場景大模型分別需要大算力訓練芯片和中算力訓練芯片,且對機器之間的數據互聯帶寬有較高的要求,都需要高速芯片互聯。而應用大模型只需要云端推理算力,且可以使用分布式/單機訓練和推理,是性價比較高的大模型之一。

算力肉眼可見地不斷增長,燧原科技姚建國教授在公開演講時也提到了一組數據:從2012年到2018年,訓練AI算力增長了30萬倍,摩爾定律相同時間通用算力只有7倍的增長。從這里可以看出AIGC對算力需求之高。

算力需求變化帶來了三大問題,一是存/算性能失配,內存墻導致訪存時延高、效率低;二是馮諾依曼架構下,功耗墻導致傳輸能耗損失;三是滿足大模型需求,性能墻導致算力無法滿足。姚建國教授表示,未來不僅僅是單核芯片去解決算力問題,一定會是通過一個系統級解決方案去實現整個算力適應變化。

目前,單獨的服務器、集群難以解決大模型的預訓練,因此需要有大算力加速,比如說H100提供了Transformer引擎;此外還有機密計算、COP互聯加速、CXL協議等等各方面的創(chuàng)新。業(yè)內人士普遍認為,系統級創(chuàng)新會是未來的發(fā)展趨勢

對于大模型未來的發(fā)展趨勢,IDC中國首席分析師武連峰認為,AI大模型應用深化,從專屬AI到通用AI,會是趨勢之一。當然,最終實現通用AI的道路還有很長。






聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • AIGC
    +關注

    關注

    1

    文章

    391

    瀏覽量

    3231
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    蘇州市智能產業(yè)創(chuàng)新中心正式成立

    2月28日,蘇州市智能產業(yè)創(chuàng)新中心在中國移動云能力中心正式啟動,為蘇州智能高質量發(fā)展按下“加速
    的頭像 發(fā)表于 03-03 14:58 ?358次閱讀

    AI需求的爆發(fā)加速國產晶振替代進程

    AI爆發(fā)推動晶振需求激增,泰晶科技與惠倫晶體憑借高精度、小型化技術搶占光模塊核心賽道,高端產品毛利率達50%,加速下迎來黃金發(fā)展期。 在全球數字經濟
    的頭像 發(fā)表于 02-12 10:44 ?781次閱讀

    2025年曙光存儲以先進存構建開放的底座并加速AI進化

    數據存儲作為AI基礎設施的重要組成,戰(zhàn)略價值日益凸顯。2025年,曙光存儲以先進存構建開放的底座、加速AI進化,穩(wěn)步推進技術創(chuàng)新、產品
    的頭像 發(fā)表于 01-07 09:39 ?451次閱讀

    積木+3D堆疊!GPNPU架構創(chuàng)新,應對AI推理需求

    電子發(fā)燒友網報道(文/李彎彎)2025年,人工智能正式邁入應用推理時代。大模型從實驗室走向千行百業(yè),推理需求呈指數爆發(fā)。然而,高昂的推理成本與有限的供給之間的矛盾日益凸顯,成為制
    的頭像 發(fā)表于 12-11 08:57 ?7849次閱讀

    湘軍,讓變成生產?

    腦極體
    發(fā)布于 :2025年11月25日 22:56:58

    中科曙光以生態(tài)賦能行業(yè)創(chuàng)新

    近日,“橘洲”V1端側版作為國內首個基于國產預訓練的視覺基座大模型在長沙上線,驚艷四座。“橘洲”可在手機端實現1024×1024分辨率圖像的秒生成,具有成本低、質量高、速度快、輕量級、可離線
    的頭像 發(fā)表于 09-24 09:26 ?1231次閱讀

    國產飛騰工控機重大突破:推動國產升級!

    當下,已成為衡量國家綜合實力和產業(yè)競爭的關鍵指標。隨著數字化轉型的加速,各行業(yè)對
    的頭像 發(fā)表于 08-22 10:07 ?496次閱讀

    科技上線赤兔推理引擎服務,創(chuàng)新解鎖FP8大模型

    的模型輕量化部署方案。用戶通過遠程平臺預置的模型鏡像與AI工具,僅需50%的GPU即可解鎖大模型推理、企業(yè)知識庫搭建、智能體開發(fā),加速
    的頭像 發(fā)表于 07-30 21:44 ?933次閱讀

    借勢 RISC-V與 AI 浪潮,元石智打造新范式

    在AI技術飛速發(fā)展的當下,需求呈指數增長,成為推動行業(yè)前行的核心動力。與此同時,RISC-V架構憑借其開源、靈活、可定制等特性,正逐漸嶄露頭角,為AI
    的頭像 發(fā)表于 07-25 14:51 ?700次閱讀
    借勢 RISC-V與 AI 浪潮,元石智<b class='flag-5'>算</b>打造<b class='flag-5'>算</b><b class='flag-5'>力</b>新范式

    軟通智完成超億A輪融資,加速AI產業(yè)布局

    機構跟投。 自2024年成立以來,軟通智積極參與全國一體化網建設,以技術驅動互聯互通體系構建,
    的頭像 發(fā)表于 06-18 15:37 ?591次閱讀

    即國力,比克電池如何為AI時代“蓄能

    從車路協同破解出行困局,到AI醫(yī)生實現千萬問診,再到智能工廠的全球零時差協同——人類正加速邁入以定義生產的“智
    的頭像 發(fā)表于 06-04 14:22 ?1129次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即國力,比克電池如何為AI時代“蓄能

    AIGC基礎設施技術架構與行業(yè)實踐

    代提升1.5倍,內存容量達288GB,適配千億參數模型訓練需求。 國產突破?:國內首款6nm高性能GPU芯片于2025年5月成功點亮,性能對標國際中端產品,已獲億元訂單;國產芯片廠商與高端制程工藝結合,推動
    的頭像 發(fā)表于 05-29 07:44 ?974次閱讀
    <b class='flag-5'>AIGC</b><b class='flag-5'>算</b><b class='flag-5'>力</b>基礎設施技術架構與行業(yè)實踐

    維諦技術(Vertiv)發(fā)布兆瓦UPS新品,破局高密AI負載供電挑戰(zhàn)

    在AI時代,數據中心需要什么樣的供電系統?隨著AIGC業(yè)務需求的快速發(fā)展,導致機柜功率密度迅速增加,高密負載對數據中心的影響正日益加大。
    的頭像 發(fā)表于 04-03 11:01 ?1251次閱讀
    維諦技術(Vertiv)發(fā)布兆瓦<b class='flag-5'>級</b>UPS新品,破局高密AI<b class='flag-5'>算</b><b class='flag-5'>力</b>負載供電挑戰(zhàn)

    RAKsmart服務器如何提升AIGC平臺的運行效率

    AIGC(人工智能生成內容)領域,高效運行意味著更快的模型訓練、更低的推理延遲和更流暢的用戶體驗。RAKsmart服務器憑借其硬件配置、網絡優(yōu)化和生態(tài)支持,為AIGC平臺提供了從底層
    的頭像 發(fā)表于 04-01 10:40 ?667次閱讀
    RAKsmart服務器如何提升<b class='flag-5'>AIGC</b>平臺的運行效率

    DeepSeek推動AI需求:800G光模塊的關鍵作用

    隨著人工智能技術的飛速發(fā)展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓練與推理任務對
    發(fā)表于 03-25 12:00