谷歌發(fā)明的用于神經(jīng)網(wǎng)絡(luò)任務(wù)的AI芯片，通過引入標準人工智能運算管芯，使得AI芯片可以應(yīng)對多種復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)，從而降低了芯片設(shè)計時長以及減少了設(shè)計的工作量。

自從谷歌公司的AlphaGo機器人戰(zhàn)勝人類圍棋之后，人工智能便一直活躍在人們的視野之中，與各種人工智能方法對應(yīng)的是AI芯片。而在18年的Next云計算大會上，谷歌披露了自家搶攻IoT終端運算的戰(zhàn)略武器，其中最引人關(guān)注的就是Edge TPU芯片的發(fā)布。

據(jù)悉，谷歌不僅為在自己的數(shù)據(jù)中心開發(fā)人工智能芯片，還打算在將其設(shè)計的Edge TPU用在其他公司生產(chǎn)的產(chǎn)品中。這種人工智能芯片在物聯(lián)網(wǎng)應(yīng)用以及智能終端設(shè)備中具有巨大的使用空間。

在AI芯片設(shè)計方面，隨著神經(jīng)網(wǎng)絡(luò)的使用在人工智能計算領(lǐng)域中迅速增長，專用集成電路（ASIC）的專用計算機的使用已經(jīng)被用于處理神經(jīng)網(wǎng)絡(luò)，雖然這些方法可以用于設(shè)計AI芯片，但是隨著神經(jīng)網(wǎng)絡(luò)的普及和針對其使用神經(jīng)網(wǎng)絡(luò)的任務(wù)范圍的增長，較長的設(shè)計時間和不可忽略的非重復(fù)性工程成本將會加劇。

為此，谷歌在18年9月21日申請了一項名為“用于使用具有多個相同的管芯的單片封裝處理神經(jīng)網(wǎng)絡(luò)任務(wù)的設(shè)備和機制”的發(fā)明專利（申請?zhí)枺?01880033593.8），申請人為谷歌有限責(zé)任公司。

根據(jù)該專利目前公開的資料，讓我們一起來看看谷歌的這項專利技術(shù)吧。

如上圖，為該專利中發(fā)明的用于處理神經(jīng)網(wǎng)絡(luò)任務(wù)的系統(tǒng)，該系統(tǒng)主要包括主處理單元101和人工智能處理單元102，這種系統(tǒng)可以應(yīng)用在服務(wù)器和物聯(lián)網(wǎng)（IoT）設(shè)備中。AIPU 102是主處理單元101的協(xié)處理器，主處理單元通過通信路徑104a和104b耦合到AIPU。

AIPU包括多個人工智能處理管芯（103a-103f），這些管芯的結(jié)構(gòu)都是相同的，可以用來處理神經(jīng)網(wǎng)絡(luò)相關(guān)的計算任務(wù)，這個示意圖中展示了6個這種處理管芯，而其數(shù)目可以基于由主要計算設(shè)備處理的神經(jīng)網(wǎng)絡(luò)模型的層數(shù)而變化，也正是這種標準處理管芯的引入，使得定制ASIC的挑戰(zhàn)得以減輕。

也就是說，需要多少處理管芯是由要處理的任務(wù)所決定的，例如當這種神經(jīng)網(wǎng)絡(luò)處理器應(yīng)用在智能恒溫器上時，由于智能恒溫器的神經(jīng)網(wǎng)絡(luò)模型的層數(shù)可能小于數(shù)據(jù)中心的計算設(shè)備，因為處理的任務(wù)會更加簡單，因此其需要的管芯數(shù)也會更少。這樣有利于節(jié)省硬件開銷，避免不必要的算力浪費，下面我們來這個處于核心地位的管芯的內(nèi)部邏輯吧。

如上圖，為人工智能處理單元的人工智能處理管芯的功能邏輯示意圖，其中主要包括主機接口單元、緩沖器、控制器、緩沖器、計算單元以及輸入輸出（I/O）模塊?？梢钥吹皆谀K的四個角均有輸入輸出模塊，因為輸入輸出模塊的引腳被配置為雙向的，使得I/O模塊可以從源單元接收數(shù)據(jù)并向目的單元發(fā)送數(shù)據(jù)。

主機接口單元經(jīng)過I/O引腳從控制器中接收數(shù)據(jù)，并經(jīng)過I/O引腳將數(shù)據(jù)發(fā)送到主處理單元控制器。緩沖器中存儲著數(shù)據(jù)，控制器負責(zé)從緩沖器中存取數(shù)據(jù)，這些數(shù)據(jù)包括各種指令數(shù)據(jù)以及神經(jīng)網(wǎng)絡(luò)的待處理數(shù)據(jù)，具體應(yīng)用這種管芯的方法如下圖所示。

在人工智能處理管芯的方法流程圖中可以看到，系統(tǒng)首先會接收輸入數(shù)據(jù)以配置AIPU，這些配置數(shù)據(jù)也會傳遞到AIPU中的每個AIPD上，不同的神經(jīng)網(wǎng)絡(luò)處理任務(wù)會發(fā)送不同的數(shù)據(jù)，只有在管芯依據(jù)所要進行的任務(wù)正確配置的前提下，才可以正確的完成任務(wù)。

例如，如果由AIPU處理的神經(jīng)網(wǎng)絡(luò)的第一層需要第一組權(quán)重值而同時第二層需要另外一組第二組權(quán)重值時，則關(guān)聯(lián)于神經(jīng)網(wǎng)絡(luò)的第一層相關(guān)聯(lián)的配置參數(shù)將會于第二層進行區(qū)分。這樣的設(shè)計方案也是由于神經(jīng)網(wǎng)絡(luò)每層的結(jié)構(gòu)都可以不相同，為了靈活的應(yīng)對層出不窮的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

在當AIPU接收到數(shù)據(jù)信號后，基于配置數(shù)據(jù)來配置每一個AIPD，最后將確認信號發(fā)送到主處理器，以等待任務(wù)的開始。

最后，我們來看看這種基于神經(jīng)網(wǎng)絡(luò)模型來處理神經(jīng)網(wǎng)絡(luò)任務(wù)的流程圖，首先將于神經(jīng)網(wǎng)絡(luò)相關(guān)的初始數(shù)據(jù)發(fā)送到AIPU，AIPU配置好后會執(zhí)行相關(guān)層的計算任務(wù)，同時將計算結(jié)果發(fā)送到第二AIPD，最后將計算的結(jié)果從AIPU發(fā)送到主處理器中，并將神經(jīng)網(wǎng)絡(luò)的處理結(jié)果發(fā)送到用戶。

以上就是谷歌發(fā)明的用于神經(jīng)網(wǎng)絡(luò)任務(wù)的設(shè)備及方法，通過引入標準人工智能運算管芯，使得AI芯片可以從容的應(yīng)對不同復(fù)雜程度的神經(jīng)網(wǎng)絡(luò)以及數(shù)量變化不定的卷積核等參數(shù)，這樣就可以跨多個產(chǎn)品使用標準管芯，從而使得芯片設(shè)計時長和非重復(fù)性工作都可以得以更有效的分攤。

關(guān)于嘉德

深圳市嘉德知識產(chǎn)權(quán)服務(wù)有限公司由曾在華為等世界500強企業(yè)工作多年的知識產(chǎn)權(quán)專家、律師、專利代理人組成，熟悉中歐美知識產(chǎn)權(quán)法律理論和實務(wù)，在全球知識產(chǎn)權(quán)申請、布局、訴訟、許可談判、交易、運營、標準專利協(xié)同創(chuàng)造、專利池建設(shè)、展會知識產(chǎn)權(quán)、跨境電商知識產(chǎn)權(quán)、知識產(chǎn)權(quán)海關(guān)保護等方面擁有豐富的經(jīng)驗。
責(zé)任編輯:tzh