提到 AI，大家常說(shuō)它 “算得快”，其實(shí)是指 AI 能在眨眼間處理海量數(shù)據(jù)?？伤鼮樯队羞@本事？答案就藏在 “GPU + 高速內(nèi)存 + 并行計(jì)算” 這 trio（組合）里。

咱們可以把 AI 要處理的數(shù)據(jù)，想象成一大堆 “小任務(wù)”。

比如一張圖片里的每個(gè)像素、一段語(yǔ)音里的每段聲波、一句話里的每個(gè)詞，都得單獨(dú)拿出來(lái)計(jì)算。

而且這些任務(wù)可不是幾十個(gè)，而是幾百萬(wàn)、幾億甚至更多，數(shù)量特別驚人。

CPU：聰明卻“手少”的“學(xué)霸”

以前的電腦，主要靠 CPU 來(lái)做計(jì)算。CPU 就像個(gè)超級(jí)聰明的學(xué)霸，計(jì)算能力超強(qiáng)，復(fù)雜的問(wèn)題都能搞定。

但它有個(gè)小缺點(diǎn) ——“手臂” 太少，通常只有 4 條、8 條，同一時(shí)間能處理的事情很有限。它更擅長(zhǎng)應(yīng)對(duì)少量但難度高的任務(wù)，就像讓學(xué)霸做一堆重復(fù)的簡(jiǎn)單題，雖然能做好，但速度肯定快不起來(lái)。

GPU：“人多力量大”的團(tuán)隊(duì)

GPU（圖形處理器）一開(kāi)始是用來(lái)處理圖像的，可它有個(gè)獨(dú)特優(yōu)勢(shì) —— 擁有成千上萬(wàn)的 “小核心”。這些小核心單獨(dú)看可能不算特別聰明，但勝在能一起干活、同步計(jì)算，這就是咱們說(shuō)的 “并行計(jì)算”。

打個(gè)比方，要是讓一萬(wàn)個(gè)人同時(shí)算簡(jiǎn)單的數(shù)學(xué)題，速度肯定比一個(gè)學(xué)霸單打獨(dú)斗快得多。AI 剛好需要大量這種 “重復(fù)的小計(jì)算”，所以 GPU 就成了它的 “得力助手”。

高速內(nèi)存：GPU的“專屬倉(cāng)庫(kù)”

GPU 的計(jì)算速度快到什么程度呢？快到如果數(shù)據(jù)沒(méi)及時(shí)送過(guò)來(lái)，它就只能 “等米下鍋”，白白浪費(fèi)時(shí)間。于是工程師們給 GPU 配了個(gè) “專屬倉(cāng)庫(kù)”—— 顯存，也就是高速內(nèi)存。

平時(shí)會(huì)把要計(jì)算的數(shù)據(jù)提前存進(jìn)顯存里，這樣 GPU 想用的時(shí)候，一瞬間就能拿到，不用像 CPU 那樣，還得頻繁去訪問(wèn)速度慢不少的普通內(nèi)存。就像一個(gè)超高效的工廠，門口的倉(cāng)庫(kù)里材料備得足足的，工廠才能一直高速運(yùn)轉(zhuǎn)，不耽誤事兒。

不管CPU還是GPU，都離不開(kāi)“內(nèi)存三步曲”

其實(shí)不管是 CPU 還是 GPU，計(jì)算時(shí)都逃不開(kāi)三個(gè)步驟：第一步，從內(nèi)存里把數(shù)據(jù)讀出來(lái)；第二步，對(duì)數(shù)據(jù)進(jìn)行計(jì)算；第三步，把算好的結(jié)果寫回內(nèi)存。

GPU 和 CPU 的區(qū)別在于：GPU 一次能處理好多數(shù)據(jù)，也就是并行計(jì)算；它還有自己專用的高速內(nèi)存（顯存）；整體速度比傳統(tǒng)的 “CPU + 普通內(nèi)存” 快好幾倍。也正因?yàn)檫@樣，現(xiàn)在的 AI 都離不開(kāi) GPU。

一句話總結(jié)。AI 的快，靠的是 GPU 的并行計(jì)算能力，但不管它速度多驚人，本質(zhì)上還是 “從內(nèi)存讀數(shù)據(jù)、計(jì)算、再寫回內(nèi)存” 的過(guò)程，始終離不開(kāi)內(nèi)存。

本文轉(zhuǎn)自：柏睿數(shù)據(jù)