（文章來(lái)源：至頂網(wǎng)）

在過(guò)去的幾十年中，計(jì)算性能的提高是通過(guò)更快、更精確地處理更大數(shù)量的數(shù)據(jù)來(lái)實(shí)現(xiàn)的。內(nèi)存和存儲(chǔ)空間現(xiàn)在是以千兆字節(jié)和兆字節(jié)來(lái)衡量的，而不是以千字節(jié)和兆字節(jié)。處理器操作64位而不是8位數(shù)據(jù)塊。然而，半導(dǎo)體行業(yè)創(chuàng)造和收集高質(zhì)量數(shù)據(jù)的能力比分析數(shù)據(jù)的能力增長(zhǎng)得更快。

隨著人工智能的不斷發(fā)展，逐漸衍生出了一個(gè)新興技術(shù)，那就是“內(nèi)存內(nèi)計(jì)算”。而近來(lái)，內(nèi)存內(nèi)計(jì)算也一度成了熱門的關(guān)鍵詞。早些時(shí)候，IBM就發(fā)布了基于相變內(nèi)存（PCM）的內(nèi)存內(nèi)計(jì)算，在此之后基于Flash內(nèi)存內(nèi)計(jì)算的初創(chuàng)公司也獲得高額融資；而在中國(guó)，初創(chuàng)公司也開始在做內(nèi)存內(nèi)計(jì)算方面的嘗試。然而“內(nèi)存內(nèi)計(jì)算”倒是什么東西？這種新技術(shù)的誕生，還要從馮 · 諾依曼體系和人工智能講起。

自從計(jì)算機(jī)誕生的那天開始，馮 · 諾依曼架構(gòu)的體系就占據(jù)著主導(dǎo)的地位。這種運(yùn)行計(jì)算方式是先把數(shù)據(jù)存入主存儲(chǔ)器，再按照順序從主存儲(chǔ)器中取出指令，然后一條一條地執(zhí)行。我們都知道，如果內(nèi)存的通訊速度跟不上CPU的性能，就會(huì)導(dǎo)致計(jì)算能力受到限制，這就是內(nèi)存墻了。同時(shí)在效能方面，馮 · 諾依曼體系也存在明顯的缺點(diǎn)，它讀寫一次內(nèi)存數(shù)據(jù)的能量，要比計(jì)算一次數(shù)據(jù)的能量多消耗了足足幾百倍。

而在現(xiàn)在人工智能的技術(shù)中，隨著數(shù)據(jù)量越來(lái)越多，計(jì)算量越來(lái)越大，原始的馮 · 諾依曼結(jié)構(gòu)正承受著越來(lái)越多的挑戰(zhàn)。硬件架構(gòu)不能指望計(jì)算量一大，就擴(kuò)展CPU。因?yàn)榇鎯?chǔ)量一變大，就馬上采用增大內(nèi)存來(lái)存儲(chǔ)的方式是對(duì)過(guò)去架構(gòu)的嚴(yán)重依賴，并且這種方式也非常不適合AI。當(dāng)容量大到一定程度，只能說(shuō)明某些技術(shù)需要革新。從生物角度來(lái)講，大腦存儲(chǔ)了大量的知識(shí)，并且能夠快速訪問(wèn)并提取，而大腦的內(nèi)存和計(jì)算是相容的。未來(lái)的計(jì)算機(jī)不是基于計(jì)算的memory，而是基于memory的計(jì)算。

同時(shí)，目前最主流的人工智能，也是對(duì)計(jì)算能力有著極高的要求。如果想讓人工智能用在移動(dòng)端和嵌入式設(shè)備中，還有能耗大，發(fā)熱降頻等問(wèn)題。這樣一來(lái)，內(nèi)存和效能就變成了馮 · 諾依曼計(jì)算機(jī)體系的一個(gè)瓶頸。為了解決這一系列的問(wèn)題，于是就衍生出了傳說(shuō)中的內(nèi)存內(nèi)計(jì)算。顧名思義就是把計(jì)算單元嵌入到內(nèi)存里面，這樣的話內(nèi)存既是一個(gè)存儲(chǔ)器，也是一個(gè)計(jì)算機(jī)，它并不需要從內(nèi)存中讀取數(shù)據(jù)，數(shù)據(jù)是直接進(jìn)出CPU的。不但不受內(nèi)存的性能限制，而且還提高了效能比（能源轉(zhuǎn)換的效率之比）。

人工智能專用的NPU（嵌入式神經(jīng)網(wǎng)絡(luò)處理器）SPR2801S就使用了內(nèi)存內(nèi)計(jì)算，這種技術(shù)還搭建了人工智能專用的APIM構(gòu)架，它的全稱是AI Processing In Memory。采用了APIM構(gòu)架的計(jì)算機(jī)不需要指令，也不需要總線和DDR（雙倍速率同步動(dòng)態(tài)隨機(jī)存儲(chǔ)器），大數(shù)據(jù)就可以直接進(jìn)出CPU，極大地提高了效能比。此外，它還把算力提高到了5.6T ops，高效能比高達(dá)9.2T ops每瓦。Firefly基于這款SPR2801S則推出了人工智能開源主板AIO-3399EC，以及NCC S1 神經(jīng)網(wǎng)絡(luò)計(jì)算卡和USB神經(jīng)網(wǎng)絡(luò)計(jì)算棒，還搭配了模型訓(xùn)練工具PLAI。可以說(shuō)，這些都加速了人工智能項(xiàng)目的落實(shí)。

雖然內(nèi)存內(nèi)計(jì)算現(xiàn)在還處于探索階段，但是人們?cè)谑嗄曛熬驼J(rèn)識(shí)到了“內(nèi)存墻”的問(wèn)題，但是為什么內(nèi)存內(nèi)計(jì)算直到現(xiàn)在才被人們關(guān)注呢？小編認(rèn)為主要有兩點(diǎn)，第一個(gè)就是基于神經(jīng)網(wǎng)絡(luò)的AI的興起，尤其是人們都希望AI能普及到移動(dòng)端和嵌入式設(shè)備中。而神經(jīng)網(wǎng)絡(luò)的其中1個(gè)特點(diǎn)就是對(duì)于計(jì)算精度的誤差有著比較高的容忍度，所以內(nèi)存內(nèi)計(jì)算的中引入的誤差一般都可以被神經(jīng)網(wǎng)絡(luò)所接受。內(nèi)存內(nèi)計(jì)算和人工智能，尤其是嵌入式人工智能，可以說(shuō)是完美的結(jié)合。

第二個(gè)則是新存儲(chǔ)器分發(fā)展。對(duì)于內(nèi)存內(nèi)計(jì)算來(lái)說(shuō)，存儲(chǔ)器的特性決定了它的效率，所以每當(dāng)帶有新特性的存儲(chǔ)器出現(xiàn)時(shí)，都會(huì)帶動(dòng)內(nèi)存內(nèi)計(jì)算的發(fā)展。此外，從存儲(chǔ)器推廣的角度，新存儲(chǔ)器的誕生也愿意搭上人工智能的風(fēng)潮，這樣一來(lái)新存儲(chǔ)器的廠商也樂(lè)于看到有人做基于自家存儲(chǔ)器的內(nèi)存內(nèi)計(jì)算去加速人工智能，也會(huì)幫助一起推廣內(nèi)存內(nèi)計(jì)算。

內(nèi)存內(nèi)計(jì)算利用存儲(chǔ)器的特點(diǎn)，減少了人工智能在計(jì)算中的讀寫和操作，也正是因?yàn)閮?nèi)存內(nèi)計(jì)算的精度受到了模擬計(jì)算的限制，所以它也是目前為止，最適合追求能效比以及能接受一定精確度損失的嵌入式人工智能的應(yīng)用。
（責(zé)任編輯：fqj）