提到 AI，大家常說它 “算得快”，其實是指 AI 能在眨眼間處理海量數(shù)據(jù)?？伤鼮樯队羞@本事？答案就藏在 “GPU + 高速內(nèi)存 + 并行計算” 這 trio（組合）里。

咱們可以把 AI 要處理的數(shù)據(jù)，想象成一大堆 “小任務(wù)”。

比如一張圖片里的每個像素、一段語音里的每段聲波、一句話里的每個詞，都得單獨拿出來計算。

而且這些任務(wù)可不是幾十個，而是幾百萬、幾億甚至更多，數(shù)量特別驚人。

CPU：聰明卻“手少”的“學(xué)霸”

以前的電腦，主要靠 CPU 來做計算。CPU 就像個超級聰明的學(xué)霸，計算能力超強，復(fù)雜的問題都能搞定。

但它有個小缺點 ——“手臂” 太少，通常只有 4 條、8 條，同一時間能處理的事情很有限。它更擅長應(yīng)對少量但難度高的任務(wù)，就像讓學(xué)霸做一堆重復(fù)的簡單題，雖然能做好，但速度肯定快不起來。

GPU：“人多力量大”的團隊

GPU（圖形處理器）一開始是用來處理圖像的，可它有個獨特優(yōu)勢 —— 擁有成千上萬的 “小核心”。這些小核心單獨看可能不算特別聰明，但勝在能一起干活、同步計算，這就是咱們說的 “并行計算”。

打個比方，要是讓一萬個人同時算簡單的數(shù)學(xué)題，速度肯定比一個學(xué)霸單打獨斗快得多。AI 剛好需要大量這種 “重復(fù)的小計算”，所以 GPU 就成了它的 “得力助手”。

高速內(nèi)存：GPU的“專屬倉庫”

GPU 的計算速度快到什么程度呢？快到如果數(shù)據(jù)沒及時送過來，它就只能 “等米下鍋”，白白浪費時間。于是工程師們給 GPU 配了個 “專屬倉庫”—— 顯存，也就是高速內(nèi)存。

平時會把要計算的數(shù)據(jù)提前存進顯存里，這樣 GPU 想用的時候，一瞬間就能拿到，不用像 CPU 那樣，還得頻繁去訪問速度慢不少的普通內(nèi)存。就像一個超高效的工廠，門口的倉庫里材料備得足足的，工廠才能一直高速運轉(zhuǎn)，不耽誤事兒。

不管CPU還是GPU，都離不開“內(nèi)存三步曲”

其實不管是 CPU 還是 GPU，計算時都逃不開三個步驟：第一步，從內(nèi)存里把數(shù)據(jù)讀出來；第二步，對數(shù)據(jù)進行計算；第三步，把算好的結(jié)果寫回內(nèi)存。

GPU 和 CPU 的區(qū)別在于：GPU 一次能處理好多數(shù)據(jù)，也就是并行計算；它還有自己專用的高速內(nèi)存（顯存）；整體速度比傳統(tǒng)的 “CPU + 普通內(nèi)存” 快好幾倍。也正因為這樣，現(xiàn)在的 AI 都離不開 GPU。

一句話總結(jié)。AI 的快，靠的是 GPU 的并行計算能力，但不管它速度多驚人，本質(zhì)上還是 “從內(nèi)存讀數(shù)據(jù)、計算、再寫回內(nèi)存” 的過程，始終離不開內(nèi)存。

本文轉(zhuǎn)自：柏睿數(shù)據(jù)