91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Vicor技術(shù)如何改進生成式人工智能的供電

Vicor ? 來源:Vicor ? 2024-10-16 09:54 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

專訪 Maury Wood,Vicor 戰(zhàn)略營銷副總裁

生成式人工智能(genAI)帶來的文化革命可能像互聯(lián)網(wǎng)普及一樣對人類產(chǎn)生深遠(yuǎn)影響。從您的角度來看,目前情況如何?

過去 18 個月以來,我們見證了整個生成式人工智能生態(tài)系統(tǒng)的飛速創(chuàng)新,涵蓋處理器芯片、專用軟件和超級計算機等多個領(lǐng)域,這些創(chuàng)新加速了特定領(lǐng)域人工智能應(yīng)用的開發(fā),同時,許多企業(yè)紛紛宣布戰(zhàn)略規(guī)劃,這預(yù)示著生成式人工智能將在可預(yù)見的未來對全球經(jīng)濟產(chǎn)生巨大影響。目前,生成式人工智能模型的訓(xùn)練已經(jīng)在計算性能、存儲容量和網(wǎng)絡(luò)帶寬方面達到了前所未有的高水平。一些當(dāng)今性能最高的超級計算機(通常以浮點數(shù)學(xué)性能衡量)專門用于生成式人工智能模型訓(xùn)練。生成式人工智能正推動半導(dǎo)體、基礎(chǔ)設(shè)施硬件、系統(tǒng)軟件和網(wǎng)絡(luò)邊緣等領(lǐng)域的空前投資,這種投資熱潮有望進一步擴展到家庭和工作場所的嵌入式人工智能設(shè)備領(lǐng)域。

生成式人工智能的快速普及會帶來哪些負(fù)面影響?

除了人們普遍擔(dān)憂的問題外,這波創(chuàng)新浪潮的一個主要成本是云數(shù)據(jù)中心的能耗急劇增加,這些數(shù)據(jù)中心承擔(dān)著生成式人工智能的訓(xùn)練和推理任務(wù),而能耗的預(yù)測數(shù)據(jù)令人擔(dān)憂。例如,《紐約時報》的一項預(yù)測顯示,到 2027 年,生成式人工智能的用電量將相當(dāng)于阿根廷、荷蘭或瑞典一年的用電量。生成式人工智能模型的訓(xùn)練和推理帶來日益嚴(yán)重的能耗挑戰(zhàn),與社會減少能源使用和溫室氣體排放的目標(biāo)背道而馳。

為何生成式人工智能計算如此耗電?

首先,讓我們區(qū)分兩個概念。當(dāng)我們個人使用生成式人工智能工具時,我們是在對預(yù)訓(xùn)練的大型語言模型(LLM)進行查詢,這種所謂的"推理"活動并不特別耗電,甚至可以在網(wǎng)絡(luò)邊緣設(shè)備上進行。然而,訓(xùn)練生成式人工智能大型語言模型的過程則需要在我之前提到的超級計算機上進行大量計算(目前這個過程通常需要數(shù)月)。這些超級計算機使用成千上萬個基于圖形處理單元(GPU)的專用處理器,每個處理器包含的晶體管都數(shù)量驚人——通常超過 1000 億。這些訓(xùn)練處理器采用了最先進的半導(dǎo)體工藝技術(shù),如 4 納米 CMOS 工藝,但在運行過程中會漏電。由于這些晶體管的供電電壓約為 0.7VDD,持續(xù)的電流需求可能高達 1000 安培或更高,導(dǎo)致持續(xù)功耗(也稱為熱設(shè)計功耗)達到 700 瓦特或更高。如果每臺生成式人工智能超級計算機的數(shù)千個處理器和全球數(shù)百臺云端生成式人工智能超級計算機都乘以 700 瓦,總體電力消耗就會急劇飆升。

舉個例子,根據(jù)英偉達(Nvidia)的數(shù)據(jù),OpenAI 的 GPT-3 模型有 1750 億個參數(shù),整個訓(xùn)練周期需要約 300 澤字節(jié)浮點運算(300 zettaFLOPS,即每秒 1021 次浮點運算),相當(dāng)于 3X1023 次數(shù)學(xué)運算。而且這些模型的規(guī)模只會不斷增加,目前正在開發(fā)的神經(jīng)網(wǎng)絡(luò)模型參數(shù)已達到萬億級。

229e9bd8-8b53-11ef-a511-92fbcf53809c.jpg

圖 1:生成式人工智能訓(xùn)練處理器的峰值電流需求不斷攀升,似乎沒有盡頭。

常規(guī)開關(guān)模式電源架構(gòu)能否滿足生成式人工智能的供電需求?

直到最近,數(shù)據(jù)中心機架還在使用 12V 直流配電系統(tǒng)。在過去十年中,Vicor 等電源系統(tǒng)創(chuàng)新公司一直倡導(dǎo)在數(shù)據(jù)中心機架中使用 48V 直流電源,因為根據(jù)歐姆定律,電壓更高可以在具有非零電阻的導(dǎo)體中降低功耗。開放計算項目組織(Open Compute Project)標(biāo)準(zhǔn)化的開放機架規(guī)范大大推動了 48V 直流電源在高性能計算應(yīng)用中的采用。在早期的生成式人工智能配電架構(gòu)中,這種 48V 直流電源在加速模塊上轉(zhuǎn)換為中間母線電壓,然后再通過跨電感電壓穩(wěn)壓器(TLVR)供電,然而這種方法在可擴展性和電流密度方面存在明顯的局限性。

概念性加速模塊(AM),展示基于 GPU 的處理器并支持高帶寬內(nèi)存(HBM),是生成式人工智能的基本構(gòu)建模塊。

為何 TLVR 方法不足以滿足生成式人工智能處理器的供電需求?

在用于生成式人工智能訓(xùn)練處理器的加速模塊上,可用的印刷電路板(PCB)空間非常有限,這意味著這些處理器的供電子系統(tǒng)必須具有超高的功率密度(W/mm2)和電流密度(A/mm2)。傳統(tǒng)電源根本無法達到所需的功率和電流密度,既無法提供足夠的電流,也無法適應(yīng)有限的 PCB 面積。此外,生成式人工智能訓(xùn)練處理器的電源組件還必須滿足負(fù)載瞬變引起的動態(tài)性能需求。同樣,傳統(tǒng)的供電方法并不能很好地滿足這些要求。另外,生成式人工智能供電架構(gòu)中的組件必須具有出色的散熱能力。無論生成式人工智能系統(tǒng)采用液冷還是風(fēng)冷,電源組件都必須具有高熱導(dǎo)率,其封裝還要能在整個使用壽命期內(nèi)承受極高水平的熱循環(huán)。最新的生成式人工智能加速模塊采用分級電源架構(gòu),其負(fù)載點轉(zhuǎn)換器使用電流倍增技術(shù),如 Vicor 公司的創(chuàng)新技術(shù)。

Vicor 的分比式電源架構(gòu)(FPA)在負(fù)載點采用具有出色散熱性能的模塊化電流倍增器(MCM),非常適合生成式人工智能訓(xùn)練應(yīng)用。

Vicor 技術(shù)如何改進生成式人工智能的供電?

Vicor 獨特的電源模塊采用模塑成型,然后使用無電鍍鎳浸金(ENIG)工藝進行電鍍。模壓結(jié)構(gòu)確保機械剛性,以及在溫度、濕度和振動等環(huán)境下的穩(wěn)定性。電鍍外表面有利于高良率的表面貼裝組裝,同時為使用冷板強制風(fēng)冷或液冷提供了理想的熱傳導(dǎo)條件。Vicor 電源模塊采用專有的正弦振幅轉(zhuǎn)換器(SAC)電路拓?fù)?,使用零電壓開關(guān)(ZVS)和零電流開關(guān)(ZCS)技術(shù)來最大限度地減少開關(guān)噪聲和雜散輻射,同時最大化 DC-DC 轉(zhuǎn)換效率。Vicor 還使用高頻 MOSFET 開關(guān)來減小高度集成模塊的物理尺寸。此外,Vicor 為人工智能/高性能計算應(yīng)用設(shè)計的負(fù)載點組件非常?。ā?.7mm),并在一系列與 PCB 兼容的封裝中提供可擴展的電流輸出。在可預(yù)見的未來,生成式人工智能無疑將繼續(xù)是現(xiàn)代計算世界中最耗電且散熱挑戰(zhàn)最大的應(yīng)用。Vicor 將繼續(xù)創(chuàng)新,滿足這一激動人心的新業(yè)務(wù)機會不斷攀升的供電需求。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    20260

    瀏覽量

    252597
  • 數(shù)據(jù)中心
    +關(guān)注

    關(guān)注

    18

    文章

    5660

    瀏覽量

    75050
  • 人工智能
    +關(guān)注

    關(guān)注

    1818

    文章

    50119

    瀏覽量

    265600

原文標(biāo)題:隨著人工智能(AI)的發(fā)展,電力挑戰(zhàn)也隨之而來

文章出處:【微信號:Vicor,微信公眾號:Vicor】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    開發(fā)智能體配置-內(nèi)容合規(guī)

    智能體上架前,需完成“人工智能生成合成內(nèi)容標(biāo)識”和“大模型備案信息”填寫 ,以供平臺審核;可在智能體【配置】-【內(nèi)容合規(guī)】中填寫。 人工智能
    發(fā)表于 02-07 11:44

    生成人工智能會讓自動駕駛更靈活嗎?

    [首發(fā)于智駕最前沿微信公眾號]每當(dāng)提到“人工智能”(AI),很多人第一反應(yīng)就是想到它能實現(xiàn)識別圖片、聽懂語音、做出判斷、推薦內(nèi)容等任務(wù)。但在AI領(lǐng)域,還有一個更細(xì)致的分類,那便是生成人工智能
    的頭像 發(fā)表于 12-23 10:05 ?500次閱讀
    <b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>會讓自動駕駛更靈活嗎?

    云邊云科技參與發(fā)布《生成人工智能零售業(yè)全景探索白皮書》

    一、云邊云科技入選生成人工智能零售業(yè)全景探索白皮書生成人工智能在生產(chǎn)力和效率優(yōu)化、關(guān)鍵風(fēng)險防
    的頭像 發(fā)表于 12-15 09:58 ?543次閱讀
    云邊云科技參與發(fā)布《<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>零售業(yè)全景探索白皮書》

    思必馳一鳴智能客服大模型通過生成人工智能服務(wù)備案

    近日,江蘇網(wǎng)信發(fā)布新一批生成人工智能服務(wù)備案信息,其中,由思必馳控股子公司馳必準(zhǔn)自主研發(fā)的一鳴智能客服大模型通過《生成
    的頭像 發(fā)表于 09-16 18:08 ?1224次閱讀

    中車斫輪大模型通過國家生成人工智能服務(wù)備案

    9月14日,國家互聯(lián)網(wǎng)信息辦公室發(fā)布最新公告,“中車斫輪”大模型通過“生成人工智能服務(wù)”備案,標(biāo)志著其在數(shù)據(jù)安全治理、模型機制透明度、內(nèi)容生成合規(guī)性等核心維度已全面對標(biāo)國家監(jiān)管要求,
    的頭像 發(fā)表于 09-16 09:16 ?814次閱讀

    華盛昌DeepSense深度感測大模型通過生成人工智能服務(wù)備案

    近日,深圳市華盛昌科技實業(yè)股份有限公司(以下簡稱“華盛昌”)的“DeepSense深度感測大模型”在歷經(jīng)屬地網(wǎng)信辦初審、中央網(wǎng)信辦終審及六大部委意見征詢后,通過廣東省生成人工智能服務(wù)備案(備案號
    的頭像 發(fā)表于 09-08 14:49 ?1837次閱讀

    挖到寶了!人工智能綜合實驗箱,高校新工科的寶藏神器

    和生態(tài)體系帶到使用者身邊 ,讓我們在技術(shù)學(xué)習(xí)和使用上不再受制于人。 三、多模態(tài)實驗,解鎖AI全流程 它嵌入了2D視覺、深度視覺、機械手臂、語音識別、嵌入傳感器等多種類AI模塊,涵蓋人工智能領(lǐng)域主要
    發(fā)表于 08-07 14:30

    挖到寶了!比鄰星人工智能綜合實驗箱,高校新工科的寶藏神器!

    和生態(tài)體系帶到使用者身邊 ,讓我們在技術(shù)學(xué)習(xí)和使用上不再受制于人。 三、多模態(tài)實驗,解鎖AI全流程 它嵌入了2D視覺、深度視覺、機械手臂、語音識別、嵌入傳感器等多種類AI模塊,涵蓋人工智能領(lǐng)域主要
    發(fā)表于 08-07 14:23

    超小型Neuton機器學(xué)習(xí)模型, 在任何系統(tǒng)級芯片(SoC)上解鎖邊緣人工智能應(yīng)用.

    Neuton 是一家邊緣AI 公司,致力于讓機器 學(xué)習(xí)模型更易于使用。它創(chuàng)建的模型比競爭對手的框架小10 倍,速度也快10 倍,甚至可以在最先進的邊緣設(shè)備上進行人工智能處理。在這篇博文中,我們將介紹
    發(fā)表于 07-31 11:38

    生成人工智能認(rèn)證:解鎖AI時代個人與組織的進化密碼

    當(dāng)人類站在智能革命的奇點回望,會發(fā)現(xiàn)技術(shù)迭代的速度早已超越個體認(rèn)知的進化節(jié)奏。生成人工智能的爆發(fā)式發(fā)展,不僅重構(gòu)了知識生產(chǎn)與傳播的方式,更
    的頭像 發(fā)表于 05-23 09:47 ?567次閱讀

    生成人工智能認(rèn)證:重構(gòu)AI時代的人才培養(yǎng)與職業(yè)躍遷路徑

    當(dāng)人類站在生成人工智能(Generative AI)的技術(shù)奇點上回望,會發(fā)現(xiàn)這場革命早已超越了工具迭代的范疇——它正在重新定義人類與技術(shù)
    的頭像 發(fā)表于 05-23 09:29 ?868次閱讀

    生成人工智能認(rèn)證:重塑AI時代職業(yè)版圖的鑰匙

    在科技浪潮席卷全球的今天,人工智能(AI)已從科幻概念進化為驅(qū)動社會變革的核心力量。其中,生成人工智能(Generative AI)作為技術(shù)
    的頭像 發(fā)表于 05-23 09:18 ?686次閱讀

    生成人工智能認(rèn)證:重塑AI職業(yè)生態(tài)的底層邏輯

    人工智能技術(shù)滲透至社會毛細(xì)血管的今天,生成人工智能(Generative AI)的崛起正在改寫人類與技術(shù)的協(xié)作范式。從ChatGPT引爆
    的頭像 發(fā)表于 05-23 09:17 ?833次閱讀

    生成人工智能認(rèn)證(GAI認(rèn)證)官網(wǎng) - 全國統(tǒng)一認(rèn)證中文服務(wù)平臺上線

    習(xí)并掌握這一技術(shù),成為了眾多專業(yè)人士和求學(xué)者面臨的難題。近日,一個令人振奮的消息傳來——生成人工智能認(rèn)證(GAI認(rèn)證)中文官網(wǎng)正式上線,為這一難題提供了權(quán)威的解決方案。 ?一、GAI
    的頭像 發(fā)表于 05-14 17:30 ?1198次閱讀

    聲智APP通過北京市生成人工智能服務(wù)登記

    近日,聲智APP已正式通過北京市第二批生成人工智能服務(wù)登記,成為《生成人工智能服務(wù)管理暫行辦
    的頭像 發(fā)表于 03-19 16:33 ?968次閱讀