這些團(tuán)隊(duì)開發(fā)了第一個(gè)內(nèi)存計(jì)算芯片，以比其他平臺(tái)更低的能量和更高的精度來處理一系列 AI 應(yīng)用程序。

邊緣 AI 計(jì)算的圣杯是同時(shí)提供高效率、高性能和多功能性的芯片。獲得所有這三個(gè)一直以來對(duì)設(shè)計(jì)人員構(gòu)成了重大挑戰(zhàn)，因此，許多人已經(jīng)開始完全考慮新的計(jì)算架構(gòu)。

其中一種新架構(gòu)是內(nèi)存計(jì)算，旨在消除數(shù)據(jù)移動(dòng)瓶頸，以實(shí)現(xiàn)比傳統(tǒng)數(shù)字處理單元更高的效率和更好的性能。本周，一組國(guó)際研究人員發(fā)表了一篇論文，描述了一種基于電阻隨機(jī)存取存儲(chǔ)器(RRAM) 的新型內(nèi)存計(jì)算芯片。

NeuRRAM 神經(jīng)形態(tài)芯片。圖片由UCSD提供

在本文中，我們將討論用于內(nèi)存計(jì)算 (CIM) 的 RRAM、這些解決方案的歷史缺陷以及該小組的新“NeuRRAM”神經(jīng)形態(tài)芯片。

用于內(nèi)存計(jì)算的電阻式 RAM

在過去的 30 年中，設(shè)計(jì)人員一直在研究?jī)?nèi)存計(jì)算的想法，最近，基于電阻 RAM 的內(nèi)存計(jì)算。

RRAM CIM 消除了馮諾依曼瓶頸，這是單獨(dú)的內(nèi)存和計(jì)算的結(jié)果，而是將它們合并在一起。在此架構(gòu)中，電阻式 RAM 元件用于存儲(chǔ)器存儲(chǔ)，其中二進(jìn)制數(shù)字基于每個(gè)單元中 RRAM 材料的電阻狀態(tài)存儲(chǔ)。在這里，施加電壓可能會(huì)導(dǎo)致 RRAM 成為高電阻材料，代表數(shù)字 1，反之亦然。讀取存儲(chǔ)器中的位是通過向 RRAM 單元施加電壓并讀取產(chǎn)生的電流來實(shí)現(xiàn)的，該電流將根據(jù) RRAM 的狀態(tài)而變化。

使用 RRAM CIM 單元的乘法示例。圖片由SemiWiki提供

RRAM 是一種非常節(jié)能、小型且非易失性的存儲(chǔ)器。這種架構(gòu)也非常適合人工智能計(jì)算的環(huán)境，因?yàn)?a href="http://www.makelele.cn/v/tag/557/" target="_blank">機(jī)器學(xué)習(xí)計(jì)算嚴(yán)重依賴于可以用 RRAM 輕松實(shí)現(xiàn)的乘法和累加函數(shù)。由于感測(cè)電流能夠讀取 RRAM 結(jié)果，因此可以通過對(duì)一個(gè)或一系列結(jié)中的電流求和來輕松地將 RRAM 值相加和相乘。

RRAM CIM的缺點(diǎn)

盡管 RRAM CIM 有諸多好處，但這項(xiàng)技術(shù)的研發(fā)仍然充滿了障礙。

一方面，早期的研究大多集中在 RRAM 芯片上執(zhí)行 AI 計(jì)算，但仍然依賴片外資源來執(zhí)行其他基本功能，例如模數(shù)轉(zhuǎn)換和神經(jīng)元激活。這不僅限制了系統(tǒng)性能，而且還影響了基準(zhǔn)測(cè)試。從歷史上看，結(jié)果是基于設(shè)備特性的軟件仿真，這幾乎總是樂觀的。

除此之外，RRAM CIM 設(shè)備中的能源效率、多功能性和準(zhǔn)確性之間存在固有的權(quán)衡。根據(jù)加州大學(xué)圣地亞哥分校 (UCSD)、斯坦福大學(xué)、清華大學(xué)和圣母大學(xué)的一組研究人員的說法，以前的研究從未嘗試同時(shí)針對(duì)所有三個(gè)標(biāo)準(zhǔn)進(jìn)行優(yōu)化。

NeuRRAM 達(dá)到效率、準(zhǔn)確性、靈活性

本周，來自加州大學(xué)圣地亞哥分校、斯坦福大學(xué)、清華大學(xué)和圣母大學(xué)的研究人員在 Nature 上發(fā)表了一份報(bào)告，描述了他們稱之為NeuRRAM的 RRAM CIM 芯片。

據(jù)說 NeuRRAM 神經(jīng)形態(tài)芯片由于采用了輸出傳感方法，實(shí)現(xiàn)了效率、準(zhǔn)確性和靈活性的結(jié)合。與讀取輸出電流的傳統(tǒng)技術(shù)相比，NeuRRAM 使用神經(jīng)元電路來感應(yīng)電壓并在芯片上執(zhí)行高效的模數(shù)轉(zhuǎn)換。

CIM 內(nèi)核和 NeuRRAM 架構(gòu)的框圖。圖片由Nature 和 Wan 等人提供

該架構(gòu)包括與 RRAM 位單元共存的 CMOS 神經(jīng)元電路。NeuRRAM 是一種神經(jīng)形態(tài)的 AI 芯片，由 48 個(gè)神經(jīng)突觸核心、256 個(gè) CMOS 神經(jīng)元和 65,536 個(gè) RRAM 單元組成，它們執(zhí)行并行處理，可以支持?jǐn)?shù)據(jù)和模型并行性。這允許將不同的模型層映射到不同的內(nèi)核以實(shí)現(xiàn)最大的多功能性。

國(guó)際研究人員團(tuán)隊(duì)聲稱，該芯片可以實(shí)現(xiàn)比傳統(tǒng)數(shù)字處理器低 2.3 倍的能量延遲積 (EDP)，同時(shí)還提供高達(dá) 13 倍的計(jì)算密度。據(jù)說 NeuRRAM 的手寫數(shù)字識(shí)別準(zhǔn)確率達(dá)到 99%，圖像分類準(zhǔn)確率達(dá)到 85.7%，語(yǔ)音識(shí)別準(zhǔn)確率達(dá)到 84.7%。

總而言之，該研究表明，該芯片與傳統(tǒng)數(shù)字芯片的精度相匹配，但能量消耗顯著減少，密度更高。設(shè)計(jì)該芯片時(shí)考慮到邊緣計(jì)算的研究人員聲稱，NeuRRAM 的低功耗和高性能可能會(huì)啟用目前無法使用現(xiàn)有技術(shù)的新型設(shè)備。

審核編輯 黃昊宇