隨著智能駕駛和自動駕駛等應用越發(fā)火熱，汽車AI芯片市場在最近幾年進入了高速發(fā)展期。無論是NXP和瑞薩這樣的傳統(tǒng)汽車芯片廠，還是如英偉達和英特爾這樣的消費芯片大廠，甚至是FPGA龍頭Xilinx，都對這個市場虎視眈眈。此外，國內(nèi)外也有一大波初創(chuàng)芯片企業(yè)涌入這個市場。

Imagination作為全球半導體IP大廠，已推出多代AI加速產(chǎn)品，獲得了良好的市場反響，可以為汽車芯片廠商打造高性能車用AI芯片提供強有力的支持。日前，Imagination發(fā)布其最新一代IMG Series4神經(jīng)網(wǎng)絡加速器（NNA）產(chǎn)品，該公司視覺和人工智能部門高級總監(jiān)Andrew Grant在接受媒體采訪時指出：“雖然目前市場上已經(jīng)有能滿足自動駕駛需求的AI芯片，但功耗不夠理想。所以，我們花兩年時間去了解和評估客戶需求，推出了高性能低功耗的4系列NNA產(chǎn)品，并且將自動駕駛作為主打市場”。

Andrew Grant還介紹道，IMG Series4 NNA采用了全新的多核架構，能提供高達600 TOPS的算力，從而為ADAS和自動駕駛等應用提供高效支持。Imagination之所以能提供性能如此強悍的產(chǎn)品，得益于公司多年來在IP領域的深厚積累。

IP專家的步步為“贏”

在談及Imagination的時候，大家首先想到的就是他們在手機GPU IP市場的影響力。

從Imagination提供的數(shù)據(jù)也可以看到，他們在移動GPU IP市場的份額已經(jīng)達到35.5%，這幫助他們超越Arm Mali系列和高通Adreno系列，登上移動GPU IP龍頭的位置。除了移動GPU以外，Imagination在車載GPU IP市場也幾乎拿下了半壁江山。數(shù)據(jù)顯示，他們在這個市場的占有率高達43%。

此外，Imagination在近來熱門的AI 市場也布局多年。據(jù)介紹，Imagination在過去七年里持續(xù)加大對AI研發(fā)的投入，公司迄今已擁有超過80項針對AI領域的專利，并推出了一系列神經(jīng)網(wǎng)絡加速器IP產(chǎn)品。

這系列IP是一個從0開始設計的完整、獨立式的硬件IP神經(jīng)網(wǎng)絡加速器，可以同時支持CNN、RNN、LSTM三種神經(jīng)網(wǎng)絡類型，并且可支持caff、caffe2、Google TensorFlow等通用機器學習體系架構，還支持可適用于移動端的TensorFlow Lite、caffe2go等機器學習體系架構。再加上這系列內(nèi)核可在最小的硅面積上以非常低的功耗實現(xiàn)高性能的神經(jīng)網(wǎng)絡計算，因此自面世以來獲得了客戶的高度認可。Imagination在過去幾年里也在快速迭代該系列IP。

2017年9月，Imagination發(fā)布了旗下首款神經(jīng)網(wǎng)絡加速器PowerVR Series 2NX NNA，其單核性能僅覆蓋1TOPS到4.1TOPS的范圍；而到了2018年推出的第二代PowerVR 3NX，單核性能不但覆蓋了0.6TOPS到10TOPS，其多核產(chǎn)品性能更是能做到20TOPS到160TOPS，可以滿足從L2級到L5級自動駕駛的邊緣推理需求。

而文章開頭談到的IMG Series 4NNA則是Imagination推出的第三代NNA。

Andrew Grant表示，這款公司歷時兩年打造出來的產(chǎn)品不但在性能上獲得大幅度提升，還擁有靈活的多核設計、創(chuàng)新性的Tensor Tiling（ Imagination’s Tensor Tiling，ITT）技術、低功耗和滿足車規(guī)級安全需求等多項優(yōu)勢，從而能為領先的汽車行業(yè)顛覆者、一級供應商、整車廠（OEM）和汽車系統(tǒng)級芯片（SoC）廠商提供強大助力。

IMG Series4 NNA 的強勢出擊

根據(jù)Andrew Grant的觀點，當前的車載AI芯片擁有三方面的需求，分別是超強性能、超低功耗和超低延遲。當然，作為汽車級別的芯片，安全也是必不可少的，這就是IMG Series 4 NNA的設計指導。

從官方提供的資料我們可以看到，Series4具有以下特性：

首先是多核擴展性和靈活性方面，據(jù)Imagination介紹，其多核架構支持在多個核之間對工作負載進行靈活的分配和同步。Imagination的軟件提供了精細的控制能力，并通過對多個工作負載進行批處理、拆分和調度而提高了靈活性，現(xiàn)在可以在任意數(shù)量的內(nèi)核上使用。Series4可為每個集群配置 2個、4個、6個或者8個核。

其次是性能。據(jù)介紹，Series4的每個單核能夠以不到一瓦的功耗提供12.5 TOPS的性能。舉例來說，一個8核集群在5nm工藝的加持下，可以提供100 TOPS的算力。那就代表著配有6個8核集群的解決方案可以提供600 TOPS的算力。來到AI推理方面，Series4 NNA的性能比嵌入式GPU快20倍以上，與嵌入式CPU相比，更是快了1000倍。

第三，超低延遲也是這一代NNA IP的另一個特性。據(jù)了解，通過將多個單核組成2核、4核、6核或8核的多核集群，所有內(nèi)核可以相互協(xié)作，并行處理一個任務。這就降低了處理延遲，縮短響應時間。數(shù)據(jù)顯示，對于一個8核集群，理想情況下延遲會減少為單核獨立執(zhí)行時的1/8。

節(jié)省大量帶寬則是Imagination新NNA的另一大優(yōu)勢，這主要得益于公司正在申請專利的的Tensor Tiling技術（Imagination’s Tensor Tiling，ITT），這也是Series4中新增的功能。據(jù)介紹，借助這項技術，Imagination的Series4可以通過對計算任務進行tiling，充分利用片上存儲，提升數(shù)據(jù)處理效率，并節(jié)省訪問外部存儲的帶寬。

在具體操作中，針對不同的任務，有不同的操作方式。據(jù)了解，在批處理大量的小型任務時，Tensor Tiling能夠把批處理任務分配到各個NNA單核，讓每個NNA單核獨立工作，提升并行處理的能力；而在面對一些大型網(wǎng)絡的時候，Tensor Tiling則可以從多個維度拆分任務，讓所有NNA單核共同執(zhí)行一個推理任務。這不但減少了網(wǎng)絡推理的延遲，在理想情況下，協(xié)同并行處理的吞吐量與獨立并發(fā)處理也是相同的。

值得一提的是，這里的拆分都是通過Imagination的編譯器來完成的，不需要開發(fā)者手動操作，借助NNA的性能分析工具，開發(fā)者還能對AI任務進行更好的調度和分配。

另外，因為利用本地數(shù)據(jù)的依賴性將中間數(shù)據(jù)保存在片上存儲器中，ITT可以最大限度地減少將數(shù)據(jù)傳輸至外部存儲器，從而將帶寬降低多達90％。作為一種可擴展的算法，ITT在擁有大量輸入數(shù)據(jù)的網(wǎng)絡上具有顯著優(yōu)勢。

車規(guī)級安全性則是Series4不得不提的另一個優(yōu)勢。

眾所周知，汽車芯片對安全提出了更高的要求。Imagination為其全新的NNA引入了IP級別的安全功能，且產(chǎn)品的設計流程符合ISO 26262標準，這就能幫助客戶更容易獲得ISO 26262認證。據(jù)報道，Series4可以在不影響性能的情況下，安全地進行神經(jīng)網(wǎng)絡推理。硬件安全機制可以保護編譯后的網(wǎng)絡、網(wǎng)絡的執(zhí)行和數(shù)據(jù)處理管道。

在IMG Series4 NNA的發(fā)布會上，Andrew Grant除了介紹新IP的硬件性能外，也同時講述公司圍繞這系列芯片打造的軟件生態(tài)系統(tǒng)，這與硬件配合，加速了開發(fā)者的開發(fā)速度，簡化了開發(fā)流程。而為了給汽車運算提供更多的算力支持，Imagination還打通了NNA多核平臺與GPU協(xié)同，給開發(fā)者提供更多的選擇。

Andrew Grant在發(fā)布會上表示，公司的IMG Series4 NNA已經(jīng)開始向客戶提供授權，產(chǎn)品也將于2020年12月在市場上全面供應。

ABI Research智慧出行和汽車首席分析師James Hodgson說道：“在從L2和L3級ADAS向L4和L5級全自動駕駛演進的過程中，神經(jīng)網(wǎng)絡的廣泛應用將是至關重要的因素。這些系統(tǒng)將要處理數(shù)以百計的復雜場景，從多個攝像頭和激光雷達等大量傳感器中提取數(shù)據(jù)，從而實現(xiàn)自動代客泊車、十字路口管理和復雜城市環(huán)境安全導航等解決方案。高性能、低延遲和高能效的結合將是實現(xiàn)高度自動駕駛的關鍵所在。”

由此可見，一個全新的大門正在面向Imagination開啟。
責任編輯:tzh