CPU并行編程與GPU都是高性能計算中的知識，他們到底有啥不一樣。主要有三個區(qū)別，區(qū)別一：緩存管理方式的不同。

CPU 的并行編程技術(shù)，也是高性能計算中的熱點(diǎn)，那么它和 GPU 并行編程有何區(qū)別呢？

本文將做出詳細(xì)的對比，分析各自的特點(diǎn)，為深入學(xué)習(xí) CPU 并行編程技術(shù)打下鋪墊。

區(qū)別一：緩存管理方式的不同

? GPU：緩存對程序員不透明，程序員可根據(jù)實際情況操縱大部分緩存 （也有一部分緩存是由硬件自行管理）。

? CPU：緩存對程序員透明。應(yīng)用程序員無法通過編程手段操縱緩存。

區(qū)別二：指令模型的不同

? GPU：采用 SIMT - 單指令多線程模型，一條指令配備一組硬件，對應(yīng)32個線程 （一個線程束）。

? CPU：采用 MIMD - 多指令多數(shù)據(jù)類型。多條指令構(gòu)成指令流水線，且每個線程都有獨(dú)立的硬件來操縱整個指令流。

用通俗易懂的話來說，GPU 采用頻繁的線程切換來隱藏存儲延遲，而 CPU 采用復(fù)雜的分支預(yù)測技術(shù)來達(dá)到此目的。

區(qū)別三：硬件結(jié)構(gòu)的不同

? GPU 內(nèi)部有很多流多處理器。每個流多處理器都相當(dāng)于一個“核“，而且一個流多處理器每次處理 32 個線程。

? 故 GPU 的數(shù)據(jù)吞吐量非常大，傾向于進(jìn)行數(shù)據(jù)并發(fā)型優(yōu)化；而 CPU 則傾向于任務(wù)并發(fā)型優(yōu)化。