人工智能芯片，目前有兩種發(fā)展路徑：一種是延續(xù)傳統(tǒng)計算架構，加速硬件計算能力，主要以3種類型的芯片為代表，即GPU、FPGA和ASIC，但CPU依舊發(fā)揮著不可替代的作用；另一種是顛覆經(jīng)典的馮諾依曼計算架構，采用人腦神經(jīng)元的結構來提升計算能力，以IBMTrueNorth芯片為代表。由于人腦神經(jīng)元芯片距離產(chǎn)業(yè)化仍然較遠，我們著重討論在人工智能時代GPU，F(xiàn)PGA和ASIC的應用和未來發(fā)展可能性。

按照處理器芯片的效率排序，從低到高依次是CPU、DSP、GPU、FPGA和ASIC。沿著CPU-》ASIC的方向，芯片中晶體管的效率越來越高。因為FPGA&ASIC等芯片實現(xiàn)的算法直接用晶體管門電路實現(xiàn)，比起指令系統(tǒng)，算法直接建筑在物理結構之上，沒有中間層次，因此晶體管的效率最高。CPU&GPU需要軟件支持，而FPGA&ASIC則是軟硬件一體的架構，軟件就是硬件。

而按照晶體管易用性排序是相反的。從ASIC到CPU，芯片的易用性越來越強。CPU&GPU的編程需要編譯系統(tǒng)的支持，編譯系統(tǒng)的作用是把高級軟件語言翻譯成機器可以識別的指令（也叫機器語言）。高級語言帶來了極大的便利性和易用性，因此用CPU&GPU實現(xiàn)同等功能的軟件開發(fā)周期要遠低于FPGA&ASIC芯片。

3.1 CPU仍然是最好的通用處理器之一

CPU作為通用處理器，兼顧計算和控制，70%晶體管用來構建Cache還有一部分控制單元，用來處理復雜邏輯和提高指令的執(zhí)行效率，如圖所示，所以導致計算通用性強，可以處理計算復雜度高，但計算性能一般。

目前，英特爾等芯片制造商主要通過增加CPU核數(shù)來增加計算能力，但是因為每個物理核中只有30%的晶體管是計算單元。通過這種方式來增加計算能力并不劃算，還帶來芯片功耗和價格的增加。

此外，英特爾進行CPU架構調(diào)整的時間也在放緩。原來英特爾按照“Tick-Tock”二年一個周期進行CPU架構調(diào)整，從2016年開始放緩至三年，更新迭代周期較長。

由此可見，CPU仍然最好的通用處理器之一，但是在高性能計算上，CPU越來越無法滿足計算能力提升的需求。

3.2 GPU具有最強大的并行計算能力

GPU主要擅長做類似圖像處理的并行計算，所謂的“粗粒度并行（coarse-grainparallelism）”。圖形處理計算的特征表現(xiàn)為高密度的計算而計算需要的數(shù)據(jù)之間較少存在相關性，GPU提供大量的計算單元（多達幾千個計算單元）和大量的高速內(nèi)存，可以同時對很多像素進行并行處理。

GPU的設計出發(fā)點就是用于計算強度高、多并行的計算。GPU把晶體管更多用于計算單元，而不像CPU用于數(shù)據(jù)Cache和流程控制器。GPU中邏輯控制單元不需要能夠快速處理復雜控制。并行計算時，每個數(shù)據(jù)單元執(zhí)行相同程序，不需要繁瑣的流程控制而更需要高計算能力，因此也不需要大的cache容量。

GPU同CPU一樣也是指令執(zhí)行過程：取指令-》指令譯碼-》指令執(zhí)行，只有在指令執(zhí)行的時候，計算單元才發(fā)揮作用。GPU的邏輯控制單元相比CPU簡單，要想做到指令流水處理，提高指令執(zhí)行效率，必然要求處理的算法本身復雜度低，處理的數(shù)據(jù)之間相互獨立，所以算法本身的串行處理會導致GPU浮點計算能力的顯著降低。

GPU具有最強大的并行計算處理能力。以GP100為例，其雙精度運算能力是5.3Teraflops，單精度為10.6Teraflops（AMD雙芯RadeonProDuo是16TeraFLOPs）。而英偉達在開發(fā)者大會GTC2017上發(fā)布新一代GPU架構Volta，首款核心為GV100據(jù)稱其在推理場景下，V100比上一代搭載GP100CPU的P100板卡，圖像處理能力提升了約10倍，延遲也下降了約30%。

3.3 FPGA：萬能芯片

FPGA即現(xiàn)場可編程門陣列，它不采用指令和軟件，是軟硬件合一的器件。FPGA由于算法是定制的，沒有CPU和GPU的取指令和指令譯碼過程，數(shù)據(jù)流直接根據(jù)定制的算法進行固定操作，計算單元在每個時鐘周期上都可以執(zhí)行，所以可以充分發(fā)揮浮點計算能力，計算效率高于CPU和GPU。