91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

ChatGPT對GPU算力的需求測算與分析

智能計算芯世界 ? 來源:智能計算芯世界 ? 2023-02-21 09:43 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

GPGPU的核心壁壘是高精度浮點(diǎn)計算及CUDA生態(tài)。從高精度浮點(diǎn)計算能力來看,國內(nèi)GPU產(chǎn)品與國外產(chǎn)品的計算性能仍或有一代以上差距;在軟件和生態(tài)層面與英偉達(dá)CUDA生態(tài)的差距則更為明顯。

AI計算GPU領(lǐng)域,國內(nèi)壁仞科技發(fā)布的BR100產(chǎn)品在FP32單精度計算性能上實現(xiàn)超越NVIDIA A100芯片,但是不支持FP64雙精度計算;天數(shù)智芯推出的天垓100的FP32單精度計算性能實現(xiàn)超越A100芯片,但是在INT8整數(shù)計算性能方面卻低于A100;海光推出的DCU實現(xiàn)了FP64雙精度浮點(diǎn)計算,但是其性能為A100的60%左右,大概相當(dāng)于其4年前水平。因此,從高精度浮點(diǎn)計算能力來看,國內(nèi)GPU產(chǎn)品與國外產(chǎn)品的計算性能仍或有一代以上差距。

雖然目前國內(nèi)產(chǎn)品的計算性能和軟件生態(tài)實力與國際廠商還有差距,但是,國內(nèi)廠商依然在奮起直追,努力實現(xiàn)GPGPU的國產(chǎn)化突破。長久來看,美國對中國高端GPU的禁售令反而給國產(chǎn)GPGPU和AI芯片廠商帶來快速發(fā)展的機(jī)會。

短期來看,我們認(rèn)為對高端通用計算GPU的禁令可能會影響英偉達(dá)和AMD的GPU產(chǎn)品在中國的銷售,中國AI計算、超級計算和云計算產(chǎn)業(yè)進(jìn)步受到一定的阻礙。可使用英偉達(dá)和AMD還沒有被禁止的及國產(chǎn)廠商的中高計算性能CPU、GPU、ASIC芯片等替代。

長期來看,國產(chǎn)CPU、GPU、AI芯片廠商受益于龐大的國內(nèi)市場,疊加國內(nèi)信創(chuàng)市場帶來國產(chǎn)化需求增量,我們預(yù)期國內(nèi)AI芯片的國產(chǎn)化比例將顯著提升,借此機(jī)會進(jìn)行產(chǎn)品升級,逐漸達(dá)到國際先進(jìn)水平,突破封鎖。

252d9224-b179-11ed-bfe3-dac502259ad0.png

25601a32-b179-11ed-bfe3-dac502259ad0.png

25c4ce14-b179-11ed-bfe3-dac502259ad0.png

26200658-b179-11ed-bfe3-dac502259ad0.png

26702eee-b179-11ed-bfe3-dac502259ad0.png

269a6c2c-b179-11ed-bfe3-dac502259ad0.png

26e77c10-b179-11ed-bfe3-dac502259ad0.png

2734b1e2-b179-11ed-bfe3-dac502259ad0.png

27a7ff58-b179-11ed-bfe3-dac502259ad0.png

2818d76e-b179-11ed-bfe3-dac502259ad0.png

2871b690-b179-11ed-bfe3-dac502259ad0.png

28bdec54-b179-11ed-bfe3-dac502259ad0.png

2904abf8-b179-11ed-bfe3-dac502259ad0.png

292f6e1a-b179-11ed-bfe3-dac502259ad0.png

29829590-b179-11ed-bfe3-dac502259ad0.png

29baab24-b179-11ed-bfe3-dac502259ad0.png

29f2e7b4-b179-11ed-bfe3-dac502259ad0.png

2a2451f0-b179-11ed-bfe3-dac502259ad0.png

2a734e4a-b179-11ed-bfe3-dac502259ad0.png

2aaf76d6-b179-11ed-bfe3-dac502259ad0.png

2af9dece-b179-11ed-bfe3-dac502259ad0.png

2b16e636-b179-11ed-bfe3-dac502259ad0.png

2b695d94-b179-11ed-bfe3-dac502259ad0.png

2ba82718-b179-11ed-bfe3-dac502259ad0.png

2bdfcee8-b179-11ed-bfe3-dac502259ad0.png

2c1b7f56-b179-11ed-bfe3-dac502259ad0.png

2c82d1ba-b179-11ed-bfe3-dac502259ad0.png

2cc716fe-b179-11ed-bfe3-dac502259ad0.png

2d2c8066-b179-11ed-bfe3-dac502259ad0.png

2d710cb8-b179-11ed-bfe3-dac502259ad0.png

2db79ebc-b179-11ed-bfe3-dac502259ad0.png

2df3a6e6-b179-11ed-bfe3-dac502259ad0.png

本文選自“ChatGPT對GPU算力的需求測算與相關(guān)分析”,以上為部分內(nèi)容,完整報告請參看原文。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關(guān)注

    關(guān)注

    463

    文章

    54023

    瀏覽量

    466348
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5196

    瀏覽量

    135510
  • ChatGPT
    +關(guān)注

    關(guān)注

    31

    文章

    1598

    瀏覽量

    10281

原文標(biāo)題:ChatGPT對GPU算力的需求測算與分析

文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    英偉達(dá)失守中國區(qū)!推理需求爆發(fā),國產(chǎn)GPU搶灘上市

    億元。而在此前,另一家國產(chǎn)GPU公司摩爾線程已于9月26日率先過會。這兩大GPU企業(yè)接連沖刺IPO,背后是中國AI需求爆發(fā)式增長與全球供
    的頭像 發(fā)表于 10-22 09:09 ?8220次閱讀
    英偉達(dá)失守中國區(qū)!推理<b class='flag-5'>需求</b>爆發(fā),國產(chǎn)<b class='flag-5'>GPU</b>搶灘上市

    GPU 利用率<30%?這款開源智云平臺讓不浪費(fèi) 1%

    作為 AI 開發(fā)者,你是否早已受夠這些困境:花數(shù)百萬采購的 GPU 集群,利用率常年低于 30%,閑置如同燒錢;跨 CPU/GPU/NPU 異構(gòu)資源調(diào)度難如登天,模型訓(xùn)練卡在資源分
    的頭像 發(fā)表于 01-26 14:20 ?190次閱讀

    從云端集中到邊緣分布:邊緣智如何重塑網(wǎng)絡(luò)布局

    隨著大模型推理延遲進(jìn)入毫秒級時代,整個科技行業(yè)都意識到:網(wǎng)絡(luò)的規(guī)則正在被改寫。這場變革的核心,正是從云端集中式計算向邊緣分布式智能的范式轉(zhuǎn)移。據(jù)行業(yè)多家分析機(jī)構(gòu)綜合預(yù)測,全球AI基礎(chǔ)設(shè)施正面
    的頭像 發(fā)表于 12-25 11:34 ?455次閱讀
    從云端集中到邊緣分布:邊緣智<b class='flag-5'>算</b>如何重塑<b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡(luò)布局

    湘軍,讓變成生產(chǎn)?

    腦極體
    發(fā)布于 :2025年11月25日 22:56:58

    AI中心的能耗挑戰(zhàn):CM5A 2000 H01霍爾閉環(huán)電流傳感器在AI中心(AIDC)的應(yīng)用分析

    隨著DeepSeek、ChatGPT、Sora等大模型的迭代升級,全球AI中心正經(jīng)歷前所未有的擴(kuò)張。據(jù)統(tǒng)計,單次大模型訓(xùn)練的耗電量相當(dāng)于數(shù)萬戶家庭一個月的用電總和,而AI
    的頭像 發(fā)表于 11-05 17:43 ?888次閱讀
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>中心的能耗挑戰(zhàn):CM5A 2000 H01霍爾閉環(huán)電流傳感器在AI<b class='flag-5'>算</b><b class='flag-5'>力</b>中心(AIDC)的應(yīng)用<b class='flag-5'>分析</b>

    國產(chǎn)AI芯片真能扛住“內(nèi)卷”?海思昇騰的這波操作藏了多少細(xì)節(jié)?

    最近行業(yè)都在說“是AI的命門”,但國產(chǎn)芯片真的能接住這波需求嗎? 前陣子接觸到海思昇騰910B,實測下來有點(diǎn)超出預(yù)期——7nm工藝下
    發(fā)表于 10-27 13:12

    如何看懂GPU架構(gòu)?一分鐘帶你了解GPU參數(shù)指標(biāo)

    分析GPU核心參數(shù)體系:、顯存大小、顯存帶寬、熱門架構(gòu)特性等關(guān)鍵指標(biāo),旨在幫您理解不同應(yīng)用場景下,如何選擇最合適的GPU
    的頭像 發(fā)表于 10-09 09:28 ?1143次閱讀
    如何看懂<b class='flag-5'>GPU</b>架構(gòu)?一分鐘帶你了解<b class='flag-5'>GPU</b>參數(shù)指標(biāo)

    與電力的終極博弈,填上了AIDC的“電力黑洞”

    ),專注于提供人工智能訓(xùn)練與推理所需的服務(wù)、數(shù)據(jù)服務(wù)和算法服務(wù)。AIDC采用異構(gòu)計算架構(gòu),結(jié)合GPU、FPGA、ASIC等多種AI加速芯片,形成高并發(fā)分布式系統(tǒng),以滿足大模型訓(xùn)練和推理的極高
    的頭像 發(fā)表于 09-22 02:43 ?8444次閱讀

    市場上的工控機(jī)改如何選擇?接口與擴(kuò)展性需求分析

    在邊緣計算時代,工控機(jī)的選擇需緊密圍繞實時性、可靠性、環(huán)境適應(yīng)性三大工業(yè)核心需求,同時兼顧、接口與擴(kuò)展性的平衡。以下是關(guān)鍵考量因素及選型策略: 一、
    的頭像 發(fā)表于 08-06 16:52 ?743次閱讀
    市場上的工控機(jī)改如何選擇?接口與擴(kuò)展性<b class='flag-5'>需求</b><b class='flag-5'>分析</b>

    熱插拔集群

    熱插拔集群指在無需停機(jī)的情況下,動態(tài)增減計算節(jié)點(diǎn)或硬件的基礎(chǔ)設(shè)施,其核心價值在于實現(xiàn)資源的彈性伸縮和業(yè)務(wù)連續(xù)性。以下從關(guān)鍵技術(shù)、應(yīng)用場景及優(yōu)勢三個維度
    的頭像 發(fā)表于 06-26 09:20 ?1040次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】+NVlink技術(shù)從應(yīng)用到原理

    前言 【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」書中的芯片知識是比較接近當(dāng)前的頂尖芯片水平的,同時包含了芯片架構(gòu)的基礎(chǔ)知識,但該部分知識比較晦澀難懂,或許是由于我一
    發(fā)表于 06-18 19:31

    搭建中心,從了解的GPU 特性開始

    需求也在不斷攀升。無論是企業(yè)進(jìn)行數(shù)據(jù)分析、模型訓(xùn)練,還是科研機(jī)構(gòu)開展復(fù)雜的科學(xué)計算,都需要強(qiáng)大的
    的頭像 發(fā)表于 04-24 11:08 ?3395次閱讀
    搭建<b class='flag-5'>算</b><b class='flag-5'>力</b>中心,從了解的<b class='flag-5'>GPU</b> 特性開始

    芯片的生態(tài)突圍與革命

    據(jù)的爆發(fā)式增長,大芯片已成為科技競爭的核心領(lǐng)域之一。 ? 大芯片的核心應(yīng)用場景豐富多樣。在人工智能訓(xùn)練與推理方面,大模型(如 GPT、Llama)的訓(xùn)練需要超大規(guī)模
    的頭像 發(fā)表于 04-13 00:02 ?3267次閱讀

    智能最具潛力的行業(yè)領(lǐng)域

    ?; 數(shù)據(jù)治理與聯(lián)合創(chuàng)新?:民生銀行與華為、阿里云等共建AI實驗室,通過“數(shù)據(jù)湖+模型體系”提升服務(wù)精準(zhǔn)度?; 需求驅(qū)動?:金融大模型推理對GPU
    的頭像 發(fā)表于 04-11 08:20 ?1415次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b>最具潛力的行業(yè)領(lǐng)域

    DeepSeek推動AI需求:800G光模塊的關(guān)鍵作用

    隨著人工智能技術(shù)的飛速發(fā)展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓(xùn)練與推理任務(wù)對
    發(fā)表于 03-25 12:00