AI芯片通過內(nèi)存神經(jīng)網(wǎng)絡(luò)突破消除了馮·諾依曼構(gòu)架瓶頸

馮·諾依曼體系結(jié)構(gòu)一直是計算機體系結(jié)構(gòu)的主要組成部分，不久后可能會發(fā)現(xiàn)自己在人工智能領(lǐng)域的用處不大。

自成立以來，計算機體系結(jié)構(gòu)是一個高度動態(tài)的領(lǐng)域。

自1940年代以來，在該領(lǐng)域的所有變革和創(chuàng)新中，一個概念一直是不可或缺的：馮·諾依曼架構(gòu)。近年來，隨著人工智能的發(fā)展，構(gòu)架設(shè)計人員開始打破常規(guī)，挑戰(zhàn)馮·諾依曼的構(gòu)架。

具體來說，兩家公司已經(jīng)合作創(chuàng)建了一個AI芯片，該芯片可以在硬件內(nèi)存中執(zhí)行神經(jīng)網(wǎng)絡(luò)計算。

馮·諾依曼構(gòu)架

馮·諾依曼體系結(jié)構(gòu)是由約翰·馮·諾依曼（John von Neumann）在其1945年的論文“ EDVAC報告的初稿 ”中首次提出的。簡單地說，馮·諾依曼體系結(jié)構(gòu)是將程序指令和數(shù)據(jù)一起存儲在內(nèi)存中以供以后使用的體系結(jié)構(gòu)進行操作。

馮·諾依曼體系結(jié)構(gòu)中包含三個主要組件：CPU，內(nèi)存和I / O接口。在這種體系結(jié)構(gòu)中，CPU負(fù)責(zé)所有計算和控制信息流，內(nèi)存用于存儲數(shù)據(jù)和指令，而I / O接口則允許內(nèi)存與外圍設(shè)備進行通信。

對于一般的工程師來說，這個概念似乎很明顯，但這是因為該概念已經(jīng)變得如此普遍，以至于大多數(shù)人無法理解計算機是否可以正常工作。

在馮·諾依曼（von Neumann）提出構(gòu)想之前，大多數(shù)機器會將內(nèi)存分為程序內(nèi)存和數(shù)據(jù)內(nèi)存。這使計算機非常復(fù)雜，并限制了它們的性能。如今，大多數(shù)計算機在設(shè)計中都采用了馮·諾伊曼（von Neumann）架構(gòu)概念。

馮·諾依曼架構(gòu)的瓶頸

馮·諾依曼架構(gòu)的主要缺點之一就是所謂的馮·諾依曼瓶頸。由于在這種體系結(jié)構(gòu)中內(nèi)存和CPU是分開的，因此系統(tǒng)的性能通常受到訪問內(nèi)存速度的限制。從歷史上看，內(nèi)存訪問速度比實際處理速度要慢幾個數(shù)量級，這在系統(tǒng)性能方面造成了瓶頸。

此外，由于互連寄生效應(yīng)，數(shù)據(jù)的物理移動消耗大量能量。在給定的情況下，已經(jīng)觀察到，數(shù)據(jù)從內(nèi)存的物理移動所消耗的能量最多是實際處理該數(shù)據(jù)的500倍。這種趨勢只會隨著芯片規(guī)模的擴大而惡化。

人工智能需要大量的電源和內(nèi)存

馮·諾依曼瓶頸因其內(nèi)存密集型特性而在人工智能應(yīng)用上帶來了一個特別具有挑戰(zhàn)性的問題。神經(jīng)網(wǎng)絡(luò)的操作取決于大型矢量矩陣乘法以及諸如權(quán)重之類的大量數(shù)據(jù)的移動，所有這些數(shù)據(jù)都存儲在內(nèi)存中。

由于數(shù)據(jù)在內(nèi)存中進出的移動所造成的功率和時序限制，使得像智能手機這樣的小型計算設(shè)備幾乎不可能運行神經(jīng)網(wǎng)絡(luò)。相反，必須通過基于云的引擎為數(shù)據(jù)提供服務(wù)，從而帶來過多的隱私和延遲問題。

AI芯片的“突破”：內(nèi)存中的NN處理

對許多人而言，對這一問題的反應(yīng)是在設(shè)計AI芯片時放棄了馮·諾依曼架構(gòu)。

最近，Imec和GLOBALFOUNDRIES展示了一種新的人工智能芯片的硬件演示，該演示否認(rèn)了處理和內(nèi)存存儲必須完全獨立的功能這一觀念。

相反，他們采用的新架構(gòu)稱為內(nèi)存模擬計算（AiMC）。顧名思義，計算是在內(nèi)存中執(zhí)行的，而無需將數(shù)據(jù)從內(nèi)存?zhèn)鬏數(shù)紺PU。與數(shù)字芯片相反，此計算在模擬域中進行。

該加速器在SRAM單元中執(zhí)行模擬計算，可以本地處理傳感器的模式識別，否則傳感器可能依賴于數(shù)據(jù)中心的機器學(xué)習(xí)。

邊緣能源效率

這款新芯片聲稱已實現(xiàn)了高達2900 TOPS / W的驚人能源效率，據(jù)說“比數(shù)字加速器好十到一百倍”。

節(jié)省這么多的能量將使在邊緣設(shè)備上運行神經(jīng)網(wǎng)絡(luò)更加可行。隨之而來的是減輕了與云計算有關(guān)的隱私，安全性和延遲問題。

GF的300mm生產(chǎn)線目前正在德國德累斯頓開發(fā)這種新芯片，并有望在不久的將來進入市場。
責(zé)任編輯：tzh