91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為什么跑AI往往用GPU而不是CPU?

穎脈Imgtec ? 2024-04-24 08:27 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

今天,人工智能AI)已經(jīng)在各個(gè)領(lǐng)域遍地開花,無論身處哪個(gè)行業(yè),使用AI來幫助獲取業(yè)務(wù)洞察,并建立競爭優(yōu)勢,已經(jīng)非常常見。不過一個(gè)有趣的現(xiàn)象是,在用戶采購AI基礎(chǔ)設(shè)施時(shí),幾乎所有廠商都會強(qiáng)調(diào)其支持GPU的能力,并且支持的GPU數(shù)量越多,就代表其AI性能越強(qiáng)大。那么問題來了,為什么是GPU而不是CPU?

GPU難道不是我們?nèi)粘J褂玫?a href="http://www.makelele.cn/v/tag/1247/" target="_blank">電腦里的,用于提高游戲性能或設(shè)計(jì)圖形所需的圖形處理單元嗎?為什么在AI方面,我們計(jì)算機(jī)里的“大腦”(CPU)反而很少提及呢?


一、為什么AI需要GPU?

要了解為什么GPU更適合AI,我們就要從GPU的誕生說起。圖形處理單元 (GPU) 最初開發(fā)用于生成計(jì)算機(jī)圖形,是具有專用內(nèi)存的專用處理器,通常執(zhí)行渲染圖形所需的浮點(diǎn)運(yùn)算。從GPU的誕生我們可以看到,GPU是專為計(jì)算機(jī)開發(fā)的,旨在提高它們處理3D圖形的能力。這種特性決定了GPU僅用于參與任務(wù)或應(yīng)用程序代碼的某些部分,而不是整個(gè)過程。因此,GPU通常有較多的內(nèi)核,用于處理頻繁且彼此獨(dú)立的簡單計(jì)算。而CPU又被稱為通用處理器,因?yàn)樗鼛缀蹩梢赃\(yùn)行任何類型的計(jì)算。不過CPU通常只有幾個(gè)內(nèi)核,即使是服務(wù)器專用的CPU也不過幾十個(gè)內(nèi)核,與GPU動(dòng)輒成百上千個(gè)內(nèi)核相比完全不是一個(gè)數(shù)量級。但這并不意味著CPU不夠好,CPU內(nèi)核雖然更少,但比數(shù)千個(gè)GPU內(nèi)核更強(qiáng)大。例如同時(shí)處理操作系統(tǒng)、處理電子表格、播放高清視頻、提取大型zip文件,這些是GPU根本無法完成的。說到這里,你該明白GPU和CPU的區(qū)別了吧。總結(jié)一下,CPU最擅長按順序處理單個(gè)更復(fù)雜的計(jì)算,而GPU更擅長并行處理多個(gè)但更簡單的計(jì)算。至于為什么AI需要的GPU,答案也很明顯了,因?yàn)橛?xùn)練AI模型的過程需要同時(shí)對所有數(shù)據(jù)樣本執(zhí)行幾乎相同的操作,而GPU的架構(gòu)設(shè)計(jì)具有快速同時(shí)處理多個(gè)任務(wù)所需的并行處理能力。

不過要注意的是,盡管GPU非常適合于AI模型算法,但并不意味著GPU在所有情況下都適用:

1、規(guī)模較小的訓(xùn)練CPU完全可以執(zhí)行訓(xùn)練AI模型所需的算法,特別是如果數(shù)據(jù)集規(guī)模相對較小,可以使用CPU避免高昂的前期成本。2、非并行算法本質(zhì)上,GPU是為圖形處理而設(shè)計(jì)的,因此當(dāng)某個(gè)AI模型算法并不是并行算法時(shí),CPU就是更好的選擇。某些涉及邏輯或密集內(nèi)存要求的AI算法也是CPU的強(qiáng)項(xiàng)。


二、GPU與AI計(jì)算

現(xiàn)在的AI計(jì)算,都在搶購GPU。英偉達(dá)也因此賺得盆滿缽滿,為什么會這樣呢?原因很簡單,因?yàn)锳I計(jì)算和圖形計(jì)算一樣,也包含了大量的高強(qiáng)度并行計(jì)算任務(wù)。深度學(xué)習(xí)是目前最主流的人工智能算法。從過程來看,包括訓(xùn)練(training)和推理(inference)兩個(gè)環(huán)節(jié)。訓(xùn)練環(huán)節(jié),通過投喂大量的數(shù)據(jù),訓(xùn)練出一個(gè)復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型。在推理環(huán)節(jié),利用訓(xùn)練好的模型,使用大量數(shù)據(jù)推理出各種結(jié)論。訓(xùn)練環(huán)節(jié)由于涉及海量的訓(xùn)練數(shù)據(jù),以及復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),所以需要的計(jì)算規(guī)模非常龐大,對芯片的算力性能要求比較高。而推理環(huán)節(jié),對簡單指定的重復(fù)計(jì)算和低延遲的要求很高。它們所采用的具體算法,包括矩陣相乘、卷積、循環(huán)層、梯度運(yùn)算等,分解為大量并行任務(wù),可以有效縮短任務(wù)完成的時(shí)間。GPU憑借自身強(qiáng)悍的并行計(jì)算能力以及內(nèi)存帶寬,可以很好地應(yīng)對訓(xùn)練和推理任務(wù),已經(jīng)成為業(yè)界在深度學(xué)習(xí)領(lǐng)域的首選解決方案。

目前,大部分企業(yè)的AI訓(xùn)練,采用的是英偉達(dá)的GPU集群。如果進(jìn)行合理優(yōu)化,一塊GPU卡,可以提供相當(dāng)于數(shù)十甚至上百臺CPU服務(wù)器的算力。


三、AI與算力

AI與算力是當(dāng)今社會科技進(jìn)步的兩大驅(qū)動(dòng)力,它們的融合與創(chuàng)新正推動(dòng)著各個(gè)行業(yè)的發(fā)展,引領(lǐng)我們進(jìn)入一個(gè)全新的智能時(shí)代。算力,作為AI技術(shù)的基石,為AI提供了強(qiáng)大的計(jì)算能力和數(shù)據(jù)處理能力。隨著技術(shù)的不斷進(jìn)步,算力的提升使得AI模型能夠處理更大規(guī)模的數(shù)據(jù),實(shí)現(xiàn)更復(fù)雜的算法,從而提升AI的性能和準(zhǔn)確度。算力的發(fā)展,使得AI在圖像識別、語音識別、自然語言處理等領(lǐng)域取得了巨大的突破,為我們的生活帶來了諸多便利。而AI的崛起,也反過來促進(jìn)了算力的發(fā)展。隨著AI應(yīng)用領(lǐng)域的不斷拓展,對于算力的需求也日益增長。為了滿足這種需求,人們不斷研發(fā)新的芯片、算法和架構(gòu),推動(dòng)算力的不斷提升。同時(shí),AI技術(shù)的發(fā)展也催生了一系列新的應(yīng)用場景,如自動(dòng)駕駛智能家居、智能醫(yī)療等,這些應(yīng)用都需要強(qiáng)大的算力支持,從而推動(dòng)了算力技術(shù)的不斷突破和創(chuàng)新。AI與算力的結(jié)合,正在推動(dòng)各行各業(yè)的發(fā)展。在制造業(yè)中,AI與算力技術(shù)可以幫助企業(yè)實(shí)現(xiàn)智能制造、智能供應(yīng)鏈等,提高生產(chǎn)效率和產(chǎn)品質(zhì)量。在醫(yī)療領(lǐng)域,AI與算力技術(shù)可以幫助醫(yī)生實(shí)現(xiàn)精準(zhǔn)診斷、個(gè)性化治療等,提高醫(yī)療水平和患者滿意度。在金融領(lǐng)域,AI與算力技術(shù)可以幫助銀行、保險(xiǎn)等機(jī)構(gòu)實(shí)現(xiàn)風(fēng)險(xiǎn)評估、智能投顧等,提高金融服務(wù)的智能化水平。總之,AI與算力是當(dāng)今科技進(jìn)步的重要驅(qū)動(dòng)力,它們的融合與創(chuàng)新正推動(dòng)著我們進(jìn)入一個(gè)全新的智能時(shí)代。在未來的發(fā)展中,我們需要不斷關(guān)注技術(shù)趨勢、加強(qiáng)人才培養(yǎng)、加強(qiáng)監(jiān)管和規(guī)范,推動(dòng)AI與算力技術(shù)的健康發(fā)展,為人類創(chuàng)造更加美好的未來。

本文來源:渲大師

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5196

    瀏覽量

    135504
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39819

    瀏覽量

    301483
  • 人工智能
    +關(guān)注

    關(guān)注

    1817

    文章

    50102

    瀏覽量

    265505
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    使用NORDIC AI的好處

    Nordic 的 Edge AI 主要有以下幾個(gè)好處(基于官方資料總結(jié)): 極低功耗、延長電池壽命 在本地運(yùn)行 AI,減少無線傳輸次數(shù),而無線收發(fā)是最耗電的部分。設(shè)備只需上傳“結(jié)果/事件”,
    發(fā)表于 01-31 23:16

    GPU 利用率<30%?這款開源智算云平臺讓算力不浪費(fèi) 1%

    作為 AI 開發(fā)者,你是否早已受夠這些困境:花數(shù)百萬采購的 GPU 集群,利用率常年低于 30%,算力閑置如同燒錢;跨 CPU/GPU/NPU 異構(gòu)資源調(diào)度難如登天,模型訓(xùn)練卡在資源分
    的頭像 發(fā)表于 01-26 14:20 ?187次閱讀

    瑞芯微SOC智能視覺AI處理器

    RK3568B2: 一款性能均衡、接口豐富的中高端AIoT應(yīng)用處理器,是RK3568的優(yōu)化版本,主打穩(wěn)定與可靠性。CPU/GPU: 延續(xù)RK3568的4核A55 + G52 GPU架構(gòu),性能可靠
    發(fā)表于 12-19 13:44

    AI硬件全景解析:CPU、GPU、NPU、TPU的差異化之路,一文看懂!?

    CPU作為“通用基石”,支撐所有設(shè)備的基礎(chǔ)運(yùn)行;GPU憑借并行算力,成為AI訓(xùn)練與圖形處理的“主力”;TPU在Google生態(tài)中深耕云端大模型訓(xùn)練;NPU則讓AI從“云端”走向“身邊”
    的頭像 發(fā)表于 12-17 17:13 ?1775次閱讀
    <b class='flag-5'>AI</b>硬件全景解析:<b class='flag-5'>CPU</b>、<b class='flag-5'>GPU</b>、NPU、TPU的差異化之路,一文看懂!?

    【RK3568 NPU實(shí)戰(zhàn)】別再閑置你的NPU!手把手帶你迅為資料通Android AI檢測Demo,附完整流程與效果

    【RK3568 NPU實(shí)戰(zhàn)】別再閑置你的NPU!手把手帶你迅為資料通Android AI檢測Demo,附完整流程與效果
    的頭像 發(fā)表于 11-10 15:58 ?1069次閱讀
    【RK3568 NPU實(shí)戰(zhàn)】別再閑置你的NPU!手把手帶你<b class='flag-5'>用</b>迅為資料<b class='flag-5'>跑</b>通Android <b class='flag-5'>AI</b>檢測Demo,附完整流程與效果

    AI模型的配置AI模型該怎么做?

    STM32可以AI,這個(gè)AI模型怎么搞,知識盲區(qū)
    發(fā)表于 10-14 07:14

    適應(yīng)邊緣AI全新時(shí)代的GPU架構(gòu)

    電子發(fā)燒友網(wǎng)站提供《適應(yīng)邊緣AI全新時(shí)代的GPU架構(gòu).pdf》資料免費(fèi)下載
    發(fā)表于 09-15 16:42 ?47次下載

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片的需求和挑戰(zhàn)

    的工作嗎? 從書中也了解到了AI芯片都有哪些?像CPUGPU、FPGA、ASIC都是AI芯片。 其他的還是知道的,F(xiàn)PGA屬于AI芯片這個(gè)
    發(fā)表于 09-12 16:07

    CPUGPU,渲染技術(shù)如何重塑游戲、影視與設(shè)計(jì)?

    渲染技術(shù)是計(jì)算機(jī)圖形學(xué)的核心內(nèi)容之一,它是將三維場景轉(zhuǎn)換為二維圖像的過程。渲染技術(shù)一直在不斷演進(jìn),從最初的CPU渲染到后來的GPU渲染,性能和質(zhì)量都有了顯著提升。從CPUGPU:技術(shù)
    的頭像 發(fā)表于 09-01 12:16 ?992次閱讀
    從 <b class='flag-5'>CPU</b> 到 <b class='flag-5'>GPU</b>,渲染技術(shù)如何重塑游戲、影視與設(shè)計(jì)?

    AI的未來,屬于那些既能寫代碼,又能焊電路的“雙棲人才”

    我們要強(qiáng)調(diào)的是,AI不是取代工程師,而是 成就工程師的最大杠桿 。你不必是Transformer作者,但你可以把Llama壓到你的STM32上;你不必是GPU架構(gòu)師,但你可以RK35
    發(fā)表于 07-30 16:15

    簡單聊聊,AI全棧方案之AI存儲

    已經(jīng)受潮變質(zhì)——這樣怎么可能做出好菜?AI圈子里現(xiàn)在逐漸形成一個(gè)共識:算力決定多快,算法決定以什么姿勢數(shù)據(jù)才真正決定能跑多遠(yuǎn),不管是在訓(xùn)練,還是在推理。一
    的頭像 發(fā)表于 07-29 06:02 ?1380次閱讀
    簡單聊聊,<b class='flag-5'>AI</b>全棧方案之<b class='flag-5'>AI</b>存儲

    【VisionFive 2單板計(jì)算機(jī)試用體驗(yàn)】1、開箱初體驗(yàn)(刷系統(tǒng)+靜態(tài)IP設(shè)置+GPU分測評)

    。 GPU分 首先用clinfo命令查看一下GPU,當(dāng)然也可以在debain-system setting-about界面看到BXE-4-32GPU benchmark軟件一般
    發(fā)表于 07-09 21:50

    術(shù)業(yè)有專攻——AI系統(tǒng)主控CPU英特爾至強(qiáng)6新品處理器淺析

    一、至強(qiáng)6與NVIDIA GPU?協(xié)同的硬件基礎(chǔ) 在 AI 異構(gòu)計(jì)算架構(gòu)中,英特爾至強(qiáng)6處理器作為主控CPU可以與NVIDIA最新GPU 很好地協(xié)同。根據(jù)英偉達(dá)官網(wǎng)信息,目前其DGX
    的頭像 發(fā)表于 06-19 16:37 ?825次閱讀
    術(shù)業(yè)有專攻——<b class='flag-5'>AI</b>系統(tǒng)主控<b class='flag-5'>CPU</b>英特爾至強(qiáng)6新品處理器淺析

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】+NVlink技術(shù)從應(yīng)用到原理

    前言 【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」書中的芯片知識是比較接近當(dāng)前的頂尖芯片水平的,同時(shí)包含了芯片架構(gòu)的基礎(chǔ)知識,但該部分知識比較晦澀難懂,或許是由于我一直從事的事芯片
    發(fā)表于 06-18 19:31

    超越CPU/GPU:NPU如何讓AI“輕裝上陣”?

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)NPU是一種專門為人工智能(AI)計(jì)算設(shè)計(jì)的處理器,主要用于高效執(zhí)行神經(jīng)網(wǎng)絡(luò)相關(guān)的運(yùn)算(如矩陣乘法、卷積、激活函數(shù)等)。相較于傳統(tǒng)CPU/GPU,NPU在能效比
    的頭像 發(fā)表于 04-18 00:05 ?4025次閱讀