賽靈思發(fā)明的基于FPGA的人工智能芯片，整合了深度神經(jīng)網(wǎng)絡(luò)計(jì)算所需要的必要元素，保證了其可以高效、快速的完成所需要進(jìn)行的AI訓(xùn)練任務(wù)。

集微網(wǎng)消息，18年10月，全球FPGA芯片巨頭賽靈思在中國展示了其基于ACAP架構(gòu)的7nm首款人工智能芯片Versal。ACPA架構(gòu)是賽靈思在18年3月推出的新一代芯片架構(gòu)，目的就是為了推動其人工智能芯片的發(fā)展。

這種人工智能芯片提供了多個為AI推斷和高級信號處理工作負(fù)責(zé)而優(yōu)化的AI引擎，其基于ARM架構(gòu)打造，具有高性能以及低時延的優(yōu)良性能，尤其是針對于云端、網(wǎng)絡(luò)、自動駕駛技術(shù)等做了優(yōu)化。

而在同年18年8月30日，賽靈思則申請了一項(xiàng)名為“在集成電路中實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的系統(tǒng)和方法”的發(fā)明專利（申請?zhí)枺?01880061751.0），申請人為賽靈思公司，這是一項(xiàng)用于人工智能訓(xùn)練的硬件芯片設(shè)計(jì)方案。

根據(jù)該專利目前公開的資料，讓我們一起來看看這項(xiàng)基于FPGA設(shè)計(jì)的人工智能芯片吧。

如上圖，展示了FPGA架構(gòu)的芯片結(jié)構(gòu)，其中包括大量不同的可編程片塊，包括多千兆位收發(fā)器101、可配置邏輯塊102、隨機(jī)存取存儲器塊103、配置和時鐘邏輯塊102、數(shù)字信號處理塊106和其他可編程邏輯塊108。

該專利中，這個圖示是為了展示可用于實(shí)現(xiàn)可編程電路的IC示例性架構(gòu)，例如，一行中邏輯塊的數(shù)量、行的相對寬度、行的數(shù)量和順序、行中包含的邏輯塊的類型、邏輯塊的相對大小在不同的任務(wù)中都可以進(jìn)行相應(yīng)的調(diào)整以及改變。

那么對于人工智能芯片而言，為了完成神經(jīng)網(wǎng)絡(luò)的功能，這種IC如何搭建神經(jīng)網(wǎng)絡(luò)系統(tǒng)呢？具體方案如下圖所示。

該圖中展示了神經(jīng)網(wǎng)絡(luò)系統(tǒng)200，其中包括預(yù)處理單元202、多個神經(jīng)網(wǎng)絡(luò)層及損失計(jì)算單元210，這些層單元均可以通過FPGA或者DSP等模塊實(shí)現(xiàn)。預(yù)處理單元可以接收輸入訓(xùn)練集220，也可以在輸入訓(xùn)練集中人工的增加批次（例如，通過執(zhí)行失真、著色、旋轉(zhuǎn)、縮放等其他操作增加訓(xùn)練集的數(shù)量）。

借助于這套系統(tǒng)，可以實(shí)現(xiàn)各種各樣的訓(xùn)練算法，包括加權(quán)、反向傳播、前向傳播等，而且由于是在硬件層面實(shí)現(xiàn)的，因此這種人工智能芯片會比采用軟件仿真的方式更加快捷并且具有更小的硬件以及軟件上的開銷。

如上圖，為這種使用多個計(jì)算單元實(shí)現(xiàn)的神經(jīng)網(wǎng)絡(luò)系統(tǒng)的框圖，該圖展示了使用多個FPGA及這些可編程芯片之間的通信的流接口的流式架構(gòu)。流式架構(gòu)指的是每個芯片之間通過流接口來實(shí)現(xiàn)，數(shù)據(jù)就在這些接口之中傳遞，當(dāng)主機(jī)1104將訓(xùn)練集發(fā)送到神經(jīng)網(wǎng)絡(luò)系統(tǒng)1102之后，可以從神經(jīng)網(wǎng)絡(luò)系統(tǒng)中接收學(xué)習(xí)后的權(quán)重。

而下圖則展示了使用單個可編程脈動陣列的單個可編程IC架構(gòu)。

可以看到，其中使用單個處理陣列1204（也就是單個FPGA）來實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)系統(tǒng)，其中單個處理陣列也被稱為脈沖陣列，其可以用于計(jì)算神經(jīng)網(wǎng)絡(luò)系統(tǒng)的全連接層、卷積層和最大池化層上的前向以及反向傳播計(jì)算，每個層的權(quán)重將被保存在I/O緩沖器中。

而單個FPGA雖然在算力上比不上多FPGA結(jié)構(gòu)，但是對于一些小型任務(wù)，單個FPGA依舊是游刃有余，這樣通過設(shè)計(jì)多套處理器結(jié)構(gòu)，可以從容的應(yīng)對各種不同的任務(wù)，既減少了硬件的消耗，也使得方案設(shè)計(jì)的更加合理。

以上就是賽靈思發(fā)明的基于FPGA實(shí)現(xiàn)的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，從該系統(tǒng)的結(jié)構(gòu)中可以看出，系統(tǒng)整合了深度神經(jīng)網(wǎng)絡(luò)計(jì)算所需要的必要元素，這樣就保證了多種不同的任務(wù)均可以應(yīng)用在這樣的芯片上。同時，該專利設(shè)計(jì)了單個以及多個處理器陣列，可以應(yīng)對不同的情況，節(jié)省了硬件開銷。

關(guān)于嘉德

深圳市嘉德知識產(chǎn)權(quán)服務(wù)有限公司由曾在華為等世界500強(qiáng)企業(yè)工作多年的知識產(chǎn)權(quán)專家、律師、專利代理人組成，熟悉中歐美知識產(chǎn)權(quán)法律理論和實(shí)務(wù)，在全球知識產(chǎn)權(quán)申請、布局、訴訟、許可談判、交易、運(yùn)營、標(biāo)準(zhǔn)專利協(xié)同創(chuàng)造、專利池建設(shè)、展會知識產(chǎn)權(quán)、跨境電商知識產(chǎn)權(quán)、知識產(chǎn)權(quán)海關(guān)保護(hù)等方面擁有豐富的經(jīng)驗(yàn)。
責(zé)任編輯:tzh