91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大模型為何成耗能大戶

現(xiàn)代電子技術(shù) ? 來源:經(jīng)濟(jì)日?qǐng)?bào) ? 2024-04-29 17:25 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著人工智能技術(shù)快速發(fā)展,人工智能(AI)大模型的運(yùn)行消耗問題受到越來越多關(guān)注。大模型為何成了耗能大戶?能耗問題會(huì)不會(huì)成為人工智能發(fā)展的“絆腳石”?如何解決能耗問題?

耗電耗水量大

人工智能大模型到底有多耗能?據(jù)斯坦福人工智能研究所發(fā)布的《2023年AI指數(shù)報(bào)告》,AI大語言模型GPT-3一次訓(xùn)練的耗電量為1287兆瓦時(shí),大概相當(dāng)于3000輛特斯拉電動(dòng)汽車共同開跑、每輛車跑20萬英里所耗電量的總和。報(bào)告同時(shí)提出,AI大語言模型GPT-3一次訓(xùn)練,相當(dāng)于排放了552噸二氧化碳。

國外研究顯示,一次標(biāo)準(zhǔn)谷歌搜索耗電0.3瓦時(shí),AI大語言模型ChatGPT響應(yīng)一次用戶請(qǐng)求耗電約2.96瓦時(shí),在AI大模型驅(qū)動(dòng)下的一次谷歌搜索耗電8.9瓦時(shí)。

除了耗電,另有研究顯示,AI大語言模型GPT-3在訓(xùn)練期間耗水近700噸,每回答20個(gè)至50個(gè)問題就要消耗500毫升水。弗吉尼亞理工大學(xué)研究指出,Meta公司在2022年使用了超過260萬立方米的水,主要作用是為數(shù)據(jù)中心提供冷卻。

據(jù)了解,人工智能大模型GPT-4的主要參數(shù)是GPT-3的20倍,計(jì)算量是GPT-3的10倍,能耗也隨之大幅增加。

華泰證券研報(bào)預(yù)測,到2030年,中國與美國的數(shù)據(jù)中心總用電量將分別達(dá)到0.65萬億千瓦時(shí)至0.95萬億千瓦時(shí)、1.2萬億千瓦時(shí)至1.7萬億千瓦時(shí),是2022年的3.5倍和6倍以上。屆時(shí),AI用電量將達(dá)到2022年全社會(huì)用電量的20%和31%。

為何如此耗能

為什么人工智能大模型如此耗能?AI技術(shù)迅速發(fā)展,對(duì)芯片的需求急劇增加,進(jìn)而帶動(dòng)電力需求激增。同時(shí),對(duì)AI進(jìn)行大量訓(xùn)練,也意味著需要更強(qiáng)的算力中心和與之匹配的散熱能力。在AI快速迭代的道路上,電力和水資源的消耗也在快速增加。因?yàn)楹芏鄶?shù)據(jù)中心全年無休,發(fā)熱量巨大,大規(guī)模電耗和水耗主要來自于冷卻需求。

相關(guān)統(tǒng)計(jì)顯示,數(shù)據(jù)中心運(yùn)行成本的六成是電費(fèi),而電費(fèi)里的四成多來自冷卻散熱,相應(yīng)也會(huì)帶來巨量冷卻水的消耗。風(fēng)冷數(shù)據(jù)中心六成多的耗電量都會(huì)用在風(fēng)冷上,只有不到四成電力用在實(shí)際計(jì)算上。如今,全球數(shù)據(jù)中心市場耗電量是10年前的近10倍。

能耗問題會(huì)不會(huì)成為人工智能發(fā)展的“絆腳石”?英偉達(dá)首席執(zhí)行官黃仁勛曾提到,AI和算力耗能巨大,但由于計(jì)算機(jī)性能飛速增長,計(jì)算會(huì)更加高效,相當(dāng)于更節(jié)省能源。當(dāng)前,我國實(shí)施嚴(yán)格的能耗雙控政策,無論是AI大模型本身還是其應(yīng)用行業(yè),對(duì)單位GDP能耗來說均有明顯降低作用。

從整體能耗來看,AI大模型帶來的效率提升也會(huì)抵消一部分能耗增長。隨著綠電廣泛應(yīng)用,再加上我國逐步由能耗雙控向碳排放雙控政策轉(zhuǎn)變,可再生能源對(duì)未來AI大模型發(fā)展的支撐能力也會(huì)越來越強(qiáng)。

此外,相較于其他國家而言,中美等能源消費(fèi)大國和數(shù)據(jù)大國,具備更好發(fā)展AI大模型的資源條件和基礎(chǔ)。

怎樣應(yīng)對(duì)挑戰(zhàn)

據(jù)預(yù)測,到2025年,AI相關(guān)業(yè)務(wù)在全球數(shù)據(jù)中心用電量中的占比將從2%增加至10%。到2030年,智能計(jì)算年耗電量將達(dá)到5000億千瓦時(shí),占全球發(fā)電總量的5%。因此,在大力發(fā)展AI大模型的同時(shí),必須提前做好相關(guān)規(guī)劃布局,以提供必要的電力和水資源等技術(shù)支撐。

有專家認(rèn)為,人工智能的未來發(fā)展與狀態(tài)和儲(chǔ)能緊密相連。因此,不應(yīng)僅關(guān)注計(jì)算力,而是需要更全面地考慮能源消耗問題。OpenAI創(chuàng)始人奧爾特曼認(rèn)為,未來AI技術(shù)取決于能源突破,更綠色的能源尤其是核聚變或更便宜的太陽能以及儲(chǔ)能的可獲得性,是人工智能發(fā)展快慢的重要因素。

為降低電力和水資源消耗,很多企業(yè)在嘗試采用各種方法為數(shù)據(jù)中心散熱。例如,微軟曾嘗試部署海下數(shù)據(jù)中心,臉書(Facebook)數(shù)據(jù)中心選址北極圈附近,阿里云千島湖數(shù)據(jù)中心使用深層湖水制冷等,我國很多企業(yè)則把數(shù)據(jù)中心布局在水電資源豐富的西南地區(qū)。

目前,可通過算法優(yōu)化、開發(fā)和使用更高效的AI專用硬件、調(diào)整神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程以優(yōu)化計(jì)算資源等技術(shù)方式來降低AI大模型的能耗,并更多采用自然冷卻、液冷、三聯(lián)供、余熱回收等新興節(jié)能技術(shù),提高制冷效率以降低數(shù)據(jù)中心能耗。從技術(shù)未來發(fā)展方向上看,光電智能芯片也有助于解決AI大模型的電耗和水耗問題。

AI大模型的發(fā)展,不能僅符合高端化、智能化的要求,更要符合綠色化的發(fā)展要求。為此,從國家和地方層面上看,為緩解AI大模型發(fā)展所帶來的電力和水資源沖擊,有必要將數(shù)據(jù)中心行業(yè)納入高耗能行業(yè)管理體系,并提前做好相關(guān)規(guī)劃布局。同時(shí),加強(qiáng)資源整合,充分發(fā)揮人工智能大模型和數(shù)據(jù)中心的效能,通過使用效能下限設(shè)置等方式,確保其自身的電力和水資源使用效率。還應(yīng)嚴(yán)格落實(shí)國家能耗雙控及碳排放雙控政策,并將其碳足跡與水足跡納入行業(yè)考核范圍,切實(shí)推動(dòng)碳足跡與水足跡逐步降低,以應(yīng)對(duì)日益增長的AI大模型電力和水資源需求。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39911

    瀏覽量

    301556
  • 語言模型
    +關(guān)注

    關(guān)注

    0

    文章

    572

    瀏覽量

    11323
  • 可再生能源
    +關(guān)注

    關(guān)注

    1

    文章

    759

    瀏覽量

    40653
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3660

    瀏覽量

    5196

原文標(biāo)題:大模型為何成耗能大戶

文章出處:【微信號(hào):現(xiàn)代電子技術(shù),微信公眾號(hào):現(xiàn)代電子技術(shù)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    從“耗能大戶”到“零碳標(biāo)桿”:EMS3.0的逆襲之路

    一、零碳轉(zhuǎn)型:工業(yè)園區(qū)的必答題,而非選擇題 在“雙碳”戰(zhàn)略深入推進(jìn)的今天,中國作為制造業(yè)大國,正迎來一場關(guān)乎產(chǎn)業(yè)命運(yùn)的綠色變革。作為工業(yè)經(jīng)濟(jì)的核心載體,工業(yè)園區(qū)承載著全國近三的碳排放,既是減排攻堅(jiān)
    的頭像 發(fā)表于 02-12 14:28 ?310次閱讀

    回饋式與MOSFET耗能型負(fù)載分析

    ,能量利用率可達(dá)95%以上。其優(yōu)勢在于高效能量循環(huán)利用,但依賴電網(wǎng)兼容性設(shè)計(jì)。 2. MOSFET耗能型功率負(fù)載 以功率MOSFET為核心,通過調(diào)節(jié)柵極電壓控制導(dǎo)通狀態(tài),動(dòng)態(tài)調(diào)整等效阻抗。采用PWM調(diào)制和數(shù)字反饋技術(shù)(如FPGA/DSP控制器),支持μs級(jí)動(dòng)態(tài)
    的頭像 發(fā)表于 10-23 10:09 ?579次閱讀
    回饋式與MOSFET<b class='flag-5'>耗能</b>型負(fù)載分析

    供應(yīng)哈默納科減速機(jī)HPG斷面模型使用的內(nèi)部構(gòu)造演示

    模型
    北京北成新控
    發(fā)布于 :2025年08月28日 11:26:27

    被誤解的 “耗電大戶”:鋁電解電容其實(shí)是 “省電小能手” 的真相

    在電子元器件的世界里,鋁電解電容常常背負(fù)著"耗電大戶"的惡名。許多工程師和電子愛好者一提到鋁電解電容,腦海中就會(huì)浮現(xiàn)出漏電流大、損耗高的印象。然而,這種認(rèn)知可能存在著嚴(yán)重的偏差。事實(shí)上,現(xiàn)代鋁電解
    的頭像 發(fā)表于 08-15 16:01 ?881次閱讀
    被誤解的 “耗電<b class='flag-5'>大戶</b>”:鋁電解電容其實(shí)是 “省電小能手” 的真相

    利用自壓縮實(shí)現(xiàn)大型語言模型高效縮減

    隨著語言模型規(guī)模日益龐大,設(shè)備端推理變得越來越緩慢且耗能巨大。一個(gè)直接且效果出人意料的解決方案是剪除那些對(duì)任務(wù)貢獻(xiàn)甚微的完整通道(channel)。我們?cè)缙诘难芯刻岢隽艘环N訓(xùn)練階段的方法——自壓
    的頭像 發(fā)表于 07-28 09:36 ?570次閱讀
    利用自壓縮實(shí)現(xiàn)大型語言<b class='flag-5'>模型</b>高效縮減

    為何化工企業(yè)偏愛GUTOR UPS?

    為何化工企業(yè)偏愛GUTOR UPS?
    發(fā)表于 07-03 14:33

    make sence的XML文件能上傳到自助訓(xùn)練模型上嗎?

    make sence的XML文件能上傳到自助訓(xùn)練模型上嗎
    發(fā)表于 06-23 07:38

    FA模型卡片和Stage模型卡片切換

    卡片切換 卡片切換主要包含如下三部分: 卡片頁面布局:FA模型卡片和Stage模型卡片的布局都采用類web范式開發(fā)可以直接復(fù)用。 卡片配置文件:FA模型的卡片配置在config.json中
    發(fā)表于 06-06 08:10

    FA模型和Stage模型API切換概述

    API切換概述 FA模型和Stage模型由于線程模型和進(jìn)程模型的差異,部分接口僅在FA模型下才能使用,針對(duì)這部分接口在SDK的接口中有FA
    發(fā)表于 06-06 06:29

    從FA模型切換到Stage模型時(shí):module的切換說明

    module的切換 從FA模型切換到Stage模型時(shí),開發(fā)者需要將config.json文件module標(biāo)簽下的配置遷移到module.json5配置文件module標(biāo)簽下,具體差異
    發(fā)表于 06-05 08:16

    FA模型的ServiceAbility的切換介紹

    ServiceAbility切換 FA模型中的ServiceAbility對(duì)應(yīng)Stage模型中的ServiceExtensionAbility。Stage模型
    發(fā)表于 06-05 07:24

    FA模型訪問Stage模型DataShareExtensionAbility說明

    FA模型訪問Stage模型DataShareExtensionAbility 概述 無論FA模型還是Stage模型,數(shù)據(jù)讀寫功能都包含客戶端和服務(wù)端兩部分。 FA
    發(fā)表于 06-04 07:53

    中國為何同時(shí)面臨算力過剩與短缺 ?

    中國為何同時(shí)面臨算力過剩與短缺 ?
    的頭像 發(fā)表于 04-24 15:02 ?1359次閱讀
    中國<b class='flag-5'>為何</b>同時(shí)面臨算力過剩與短缺 ?

    KaihongOS操作系統(tǒng)FA模型與Stage模型介紹

    FA模型與Stage模型介紹 KaihongOS操作系統(tǒng)中,F(xiàn)A模型(Feature Ability)和Stage模型是兩種不同的應(yīng)用模型
    發(fā)表于 04-24 07:27

    為何工程塑料不適合打印圓弧形模型?

    我們經(jīng)常能在3D打印中看到各種形狀的模型,但為什么不建議使用工程塑料來打印圓弧形模型呢?JLC3D小編今天就和大家一起探討下。 我們都知道,工程塑料在FDM(熔融沉積成型)打印中,通常會(huì)采用分層堆疊
    發(fā)表于 04-07 15:31