自動駕駛領域在近兩年被大家所熟悉，主要的市場誘導因素是Tesla在輔助智能駕駛和采用全視覺技術的影子模式為主的FAD(Full Auto Drive)的成功。我們認為，自動駕駛領域將是未來人工智能商業(yè)化落地非常重要的一個場景，并且能帶來百億級以上規(guī)模的企業(yè)的可能性非常之高。構建下一代人工智能基礎設施的架構與工業(yè)化成功成為一個新的熱點和行業(yè)內的必爭高地。
?
作者簡介：
?
作者為黑芝麻智能技術專家，系CCF高性能專委會委員、AAAI終身會員、中國智能計算產(chǎn)業(yè)聯(lián)盟核心會員、上海市人工智能專家委員會委員、中國信通院大模型標準制定委員會委員、國內DSA領域的早期推廣者與踐行者、中國最早將分布式深度學習系統(tǒng)進行商業(yè)化落地并取得一定的社會效益。

文章速覽：
?
? DSA成為下一代AI計算平臺的主流架構，加速異構計算
?
? DSA-oriented Unified AI stack作為統(tǒng)一的 AI 基礎軟件設施，解決碎片化問題
?
? 算法網(wǎng)絡的統(tǒng)一化與多樣化
?
? 黑芝麻智能華山系列芯片采用多核異構架構
?
? 建設易用的以CXE為基礎的人工智能軟件基礎設施是AI落地的關鍵
?
? 打造非歐數(shù)據(jù)形式的融合算法模型是自動駕駛技術穩(wěn)定產(chǎn)業(yè)化的基礎
?
從事自動駕駛解決方案和車載智能芯片的企業(yè)都看到了一個巨大的機會，那就是自動駕駛場景將產(chǎn)生海量的、復雜的、多樣的、高價值的數(shù)據(jù)。在當今數(shù)據(jù)即財富的時代，這一點給所有人帶來了無限的想象空間。怎么把數(shù)據(jù)變現(xiàn)成價值、如何將數(shù)據(jù)變現(xiàn)并實現(xiàn)商業(yè)化，成為所有人的命題。而人工智能技術是普遍被學術界和產(chǎn)業(yè)界都認可的用來解決這個問題的一個技術。所以，構建下一代人工智能基礎設施的架構與工業(yè)化成功成為一個新的熱點，成為行業(yè)內的必爭高地。
?
下一代人工智能基礎設施的特征
?
下一代人工智能基礎設施的重要特征，特別是面向自動駕駛或者機器智能領域，主要體現(xiàn)在：
?
1. Heterogeneous DSA(DSA: Domain Specific Architecture，下同)成為下一代AI計算平臺的主流架構，加速異構計算
?
2. DSA-oriented Unified AI stack成為下一代AI的基礎軟件設施，解決碎片化問題
?
3. 更廣泛算法網(wǎng)絡的統(tǒng)一與支持
?
DSA成為AI計算的主流架構
?
在過去的四十年的體系結構發(fā)展中，架構師們通過利用各種技術來提升單芯片算力、優(yōu)化架構，但最終的效果不盡如人意，特別是在更多復雜應用場景的大數(shù)據(jù)時代和智能應用環(huán)境下，通用計算架構受到了前所未有的挑戰(zhàn)：
?
1、技術上，登納德定律失效導致了功耗的優(yōu)化成為限制；摩爾定律失效使得芯片晶體管的提升受到限制；
?


隨著晶體管密度的增加，每個晶體管的能耗將降低，因此硅芯片上每平方毫米上的能耗幾乎保持恒定。由于每平方毫米硅芯片的計算能力隨著技術的迭代而不斷增強，計算機將變得更加節(jié)能。然而，登納德縮放定律從2007年開始大幅放緩，2012年左右接近失效（如下圖）：
?

?
2、芯片體系架構上：指令集并行和單核性能優(yōu)化已經(jīng)成為瓶頸；阿姆達爾定律失效導致多核優(yōu)化達到瓶頸；當前指令集和體系結構不能處理芯片安全問題；
?
根據(jù)“Iron law”可知，處理器的算力性能直接相關的參數(shù)就是：圖片這個參數(shù)是指執(zhí)行一個程序所花費的時間。該參數(shù)由以下的公式來決定：
?


在以上的公式中，右側式子的前兩項由指令集來影響，第三項由芯片制程和工藝來決定。在微架構中增加指令的亂序執(zhí)行和指令級并行技術來提升算力的性能，也就是上述公式的前兩個因素。
?
3、應用場景上，海量的算力需求從PC和服務器時代，進化到物聯(lián)網(wǎng)、云計算和移動互聯(lián)網(wǎng)時代，海量的、多樣的計算形式被催生出來；當前的算力基礎設施及技術發(fā)展已經(jīng)嚴重落后需求側的算力要求。
?
在這樣的環(huán)境下，數(shù)據(jù)流架構思想和技術由于更適合海量連續(xù)數(shù)據(jù)的處理、緩解內存墻問題的優(yōu)勢，在當前的人工智能領域更加受到關注。融合了數(shù)據(jù)流架構的深度學習處理器也不斷地被設計和研發(fā)出來，用來解決不同場景下海量數(shù)據(jù)的算力“不足”問題。這些變化都是由于軟硬件融合的設計與系統(tǒng)更適合于當前應用場景下對算力資源的需求。
?
人工智能在大數(shù)據(jù)的環(huán)境下得到了爆發(fā)式的增長，為高級編程語言python和tensorflow等特定領域語言通過增加軟件重用、提高抽象級別，顯著地提高了生產(chǎn)力。在此應用環(huán)境下，編譯器與DSA體系結構更要進一步協(xié)同設計，專門解決該領域下的特殊特征。
?


特定領域的體系結構。一種以硬件為中心的設計思路是設計面向特定問題和領域的架構，并給予它們強大且高效的性能，因此它們是特定領域的體系結構（DSA），這是一種特定領域的可編程處理器，通常是圖靈完備的，但針對特定類別的應用進行了定制。DSA通常被稱為加速器，因為與在通用CPU上執(zhí)行整個應用程序相比，它們可以加速某些應用程序。此外，DSA可以實現(xiàn)更好的性能，因為它們更貼近應用的實際需求，比如圖形加速單元（GPU），用于深度學習的神經(jīng)網(wǎng)絡處理器(NPU)，以及軟件定義網(wǎng)絡處理器（SDNs）。DSA效率更高、能耗更低是因為以下四個原因：
?
首先，DSA為特定領域的計算使用了更加有效的并行形式。例如單指令多數(shù)據(jù)并行（SIMD），因為它在一個時鐘步長內只需處理一個指令流和處理單元。DSA也可以使用VLIW方法來實現(xiàn)ILP(指令級并行)，而不是推測性的亂序機制，當前AI處理器普遍采用in-order的流水線形勢。如前文所述，VLIW處理器與通用性代碼不匹配，但對于特定領域更加有效，因為它的控制機制更加簡單。與之相對的是，VLIW在編譯時執(zhí)行必要的分析和調度，這對于顯式并行程序來說可以很好地工作。
?
其次，DSA可以更有效地利用內存層次結構。通用處理器的運行代碼，其中的存儲器訪問通常表現(xiàn)出空間和時間局部性，但在編譯時不是非?？深A測的。因此，CPU使用多級高速緩存來增加帶寬，并掩蓋相對較慢的芯片外DRAM延遲。在那些編譯時可以很好地定義和發(fā)現(xiàn)內存訪問模式的應用程序中(這對于典型的DSL來說是常見的)，程序員和編譯器可以比動態(tài)分配的緩存更好地優(yōu)化內存的使用。
?
再次，DSA可以使用較低的精度。適用于通用任務的CPU通常支持32和64位整型數(shù)和浮點數(shù)數(shù)據(jù)。對于很多機器學習和圖像應用來說，并不需要如此高的精確度。例如在深度神經(jīng)網(wǎng)絡中（DNN），推理通常使用4、8或16位整型數(shù)，從而提高數(shù)據(jù)和計算吞吐量。同樣，對于DNN訓練程序，浮點數(shù)很有意義，但FP32位就夠了。當前移動端的推理過程以INT8精度為主；數(shù)據(jù)中心應用端的推理過程以更廣泛的精度來滿足要求。
?
最后，DSA受益于以特定領域語言（DSL）編寫的目標程序，這些程序可以實現(xiàn)更高的并行性，更好的內存訪問的結構和表示，并使應用程序更有效地映射到特定域的處理器，這也需要面向DSA的編譯器的支持。
?
因此，體系結構領域的大佬(John Hennessy、David Patterson)、AI領域大佬(Jeff Dean、Cliff Young)在近幾年內連續(xù)發(fā)文或分享說明，當下是領域專用架構DSA的黃金時代(Golden Age)。
?


統(tǒng)一的 AI 基礎軟件設施
?
2019 年Chris Lattner(LLVM 發(fā)明者)提出來有關DSA架構下的編譯器的黃金時代:
?

?
在肯定了John Hennessy和David Patterson有關當下是DSA的黃金時代的判斷之后，Chris也隨之對適應于DSA架構的編譯器提出了新的方向：
?

?
隨著應用的爆發(fā)式發(fā)展、專用領域架構DSA的繁榮，比如AI和結構化計算技術發(fā)展領域，出現(xiàn)了標量加速和向量加速等多種層面的加速，當然現(xiàn)在還有多核CPU。這樣一來就會出現(xiàn)多種硬件組合，這些硬件就必須相互通信。但軟件還是很難充分利用它們來提高性能，而且如果軟硬件協(xié)同不到位，性能就會受到巨大影響。
?


我們需要下一代編譯器和編程語言來幫助解決這種碎片化。首先，計算機行業(yè)需要更好的硬件抽象，硬件抽象是允許軟件創(chuàng)新的方式，不需要讓每種不同設備變得過于專用化。
?
其次，我們需要支持異構計算，因為要在一個混合計算矩陣里做矩陣乘法、解碼JPEG、非結構化計算等等。然后，還需要適用專門領域的語言，以及普通人也可以用的編程模型。
?
最后，我們也需要具備高質量、高可靠性和高延展性的架構。
?
在經(jīng)歷了科研范式的AI算法和場景落地之后，專業(yè)的工程化落地才是人工智能技術能力變現(xiàn)的唯一途徑。為了解決AI系統(tǒng)和工具的單一化和碎片化的問題，我們提出來建立統(tǒng)一開放的人工智能軟件基礎設施的目標：建設面向工程化的人工智能軟件基礎設施，包括編譯器、運行時，異構計算、邊緣到數(shù)據(jù)中心并重，并專注于可用性，提升開發(fā)人員的效率。
?
算法網(wǎng)絡的統(tǒng)一化與多樣化
?
?
?
下圖從深度學習算法的發(fā)展歷程來看，總結了自人工智能伊始到現(xiàn)在的主要的算法與網(wǎng)絡結構：
?
?
?
自2012年以后，以深度學習為基礎的算法和網(wǎng)絡帶來了空前的繁榮。


?
從過去幾年的商業(yè)化落地情況來看，算法的碎片化、場景個性化等等嚴重的問題導致了人工智能解決方案在工程化落地和市場化推廣方面的局限性。但是，2017年以來，特別是2020年以后，以 Transformer為基礎的各類大模型“霸占”各主要AI榜單的榜首，成為了名副其實的基礎模型?；A大模型加上場景的小定制化越來越成為人工智能技術在商業(yè)化推廣中的使用范式。
?
當然，也有很多人質疑Transformer的可解釋性，也有人通過借鑒Transformer的思想反哺給CNN來進一步加速和提升，我們認為這都沒有問題，用戶更多地希望從準確率和效果上能有質的提升。CNN與Transformer在網(wǎng)絡架構方面的競爭追根溯源是卷積操作與通用矩陣乘積操作這兩種操作之爭。處理CNN卷積操作時，專用硬件架構有發(fā)揮空間，這也就是之前大家所熟知的為算法和應用而定制的AI加速器出現(xiàn)的原因；而隨著以GEMM為特征的Transformer網(wǎng)絡架構的推廣和規(guī)?；瘧脠鼍暗耐诰?，處理GEMM操作的較通用處理器可能更適合。當然兩種方向會長期存在，但最終以能效和成本為目標的客戶應用來說，通用硬件架構更有可能帶來降本增效的效果。
?
對于Transformer的出現(xiàn)，我們認為其意義重大的原因更多地在于，Transformer為算法工作者提供了一種新的思想和思路方式，在大數(shù)據(jù)訓練的情況下采用分布式的架構更適合當下人工智能算法的發(fā)展。
?
黑芝麻智能華山系列芯片采用多核異構架構
?
我們從以下三個維度進行闡述我們認為的下一代人工智能基礎設施的發(fā)展方向：
?
Heterogeneous DSA是未來異構計算的主流。
?
當前的計算架構正在由單一的體系架構往異構的架構發(fā)展、由單一芯片模式往融合異構多芯片模式發(fā)展。軟硬件融合、異構是當前體系結構發(fā)展的關鍵技術。
?


軟硬件融合是必然帶來以DSA為基礎的異構計算的繁榮。除了芯片和體系結構之外，編譯器、運行系統(tǒng)、編程語言等軟件系統(tǒng)也面臨著DSA帶來的技術迭代周期。
?


隨著應用場景的復雜性和異構計算技術的發(fā)展，我們需要解決以下四類問題：
?
1、 海量數(shù)據(jù)的高效處理：
?
?
?
2、 復雜數(shù)據(jù)的有效處理：
?


3、 海量計算的范式創(chuàng)新和提升：
?

?
4、 高價值數(shù)據(jù)的識別與價值變現(xiàn)：
?
?
?
黑芝麻智能兩大核心自研IP——車規(guī)級圖像處理器NeuralIQ ISP以及DynamAI NN車規(guī)級低功耗神經(jīng)網(wǎng)絡加速引擎，賦能汽車看得更清、更遠、更懂。其中，NeuralIQ ISP可支持多達12路高清相機接入。每秒處理36億3曝光像素，12億單曝光像素的高處理率管道，并且每個管道可并行在線處理兩路視頻，支持在線、離線和混合處理模式。支持HDR處理，符合高動態(tài)曝光、低光降噪、LED閃爍抑制等高質量車規(guī)圖像處理要求，適用于智能駕駛環(huán)視感知、前視感知、駕駛監(jiān)控等應用場景；DynamAI NN引擎具備大算力的架構，支持多形態(tài)、多精度運算。通過可適配量化、結構化剪裁壓縮、硬件可執(zhí)行軟件的子圖規(guī)劃實現(xiàn)軟硬件同步優(yōu)化。支持稀疏加速和配備自動化開發(fā)工具等優(yōu)勢。
?
黑芝麻智能自動駕駛計算芯片SoC集成了多個加速器，有ARM、ARM Neon、GPU、NPU、DSP、ISP、VPU 等多個IP。NPU是主要用來處理AI相關workload的加速器，衡量一個NPU芯片的設計是否優(yōu)化，業(yè)界有三個認可的設計原則：
?
1) 存儲層次化
?
2) 數(shù)據(jù)復用
?
3) 片上互聯(lián)
?
黑芝麻智能A1000芯片在設計層面已經(jīng)充分地將以上三點融合并實現(xiàn)在SoC芯片內，包含多級緩存和數(shù)據(jù)存儲結構、高效的數(shù)據(jù)復用邏輯、統(tǒng)一片上NoC互聯(lián)結構將主要的IP進行并聯(lián)等。
?
我們堅定地認為DSA架構和軟件系統(tǒng)是更適合當前應用的思想和方法。充分融合DSA的思想、結合具體的領域場景，才可以構建出面向該領域的通用計算架構、高性能計算模型、高效的數(shù)據(jù)處理方式，才真正地讓用戶擺脫算力瓶頸、增強用戶體驗。
?
建設易用的以CXE為基礎的人工智能軟件基礎設施是AI落地的關鍵
?
軟件系統(tǒng)和工具鏈體系是量產(chǎn)化芯片走向成功的兩個極為重要的因素。而AI工具集體系和人工智能平臺是AI芯片最重要的軟件系統(tǒng)。能否充分發(fā)揮AI芯片的性能和能效是判斷AI工具集體系優(yōu)劣的很重要的指標。黑芝麻智能構建了面向AI芯片的工具集系統(tǒng)和人工智能平臺：山海人工智能開發(fā)平臺，如下圖所示：


?
基于我們對行業(yè)knowhow的理解、對技術創(chuàng)新的信心，我們構建了面向異構加速計算平臺的軟件基礎設施：CXE(Compiler and eXecution Environment)。這解決了三個問題：
?
1. 數(shù)據(jù)處理需求與算力能力之間的不平衡
?
2. 數(shù)據(jù)處理格式與異構計算體系架構的不一致
?
3. 融合計算在模型正確性和數(shù)學一致性方面的統(tǒng)一，如人工智能計算、工程計算等
?
CXE 系統(tǒng)升級了AI工具鏈和優(yōu)化系統(tǒng)、人工智能訓練系統(tǒng)等基礎軟件。
?
以自動駕駛應用場景為例：
?

?
我們基于底層的硬件平臺，可能是CPU(如 ARM、X86、RISC-V等)、GPU、DSP、NPU、ISP等等處理器或異構加速器，構建了面向人工智能和技術領域的以MLIR為基礎的人工智能編譯器系統(tǒng)、分布式調度機制為基礎的實時推理系統(tǒng)和運行時系統(tǒng)、融合了可解釋性為條件的分布式訓練和構建系統(tǒng)、可觀測可驗證可調試的輔助工具集合，這構成了以DSA為基礎的下一代人工智能基礎架構和平臺。
?
打造非歐數(shù)據(jù)形式的融合算法模型是自動駕駛技術穩(wěn)定產(chǎn)業(yè)化的基礎
?
在過去幾十年的發(fā)展歷程中，人工智能技術主要解決的是以歐幾里得空間的數(shù)據(jù)形式的處理問題：
?
?
?
而物理世界和更廣泛的數(shù)據(jù)處理是非歐空間的數(shù)據(jù)處理問題：
?
?
?
為了更好地解決自動駕駛、機器智能的工程化問題和領域知識的智能化泛化問題，我們還需要解決計算密集型的工程數(shù)學和以強化學習為方向的Simulation的技術閉環(huán)問題。
?




由此可見，我們基于MLIR等框架構建了我們自控的編譯器/優(yōu)化器和運行時系統(tǒng)，不僅支持AI workload相關的內存密集型的計算場景，而且支持如OpenCV、Halide等面向工業(yè)場景的計算密集型場景，還在圖優(yōu)化領域支持靜態(tài)圖的編譯和高效轉換，正在對動態(tài)圖的處理進一步優(yōu)化。未來在多復雜度數(shù)據(jù)處理場景、分布式計算場景、人工智能場景、邊緣計算領域等多個交叉和融合的領域內，將會產(chǎn)生更大的價值和現(xiàn)實意義。
?
“工欲善其事、必先利其器”。我們堅信，好的工具是構建基礎理論、驗證現(xiàn)實問題的至關重要的手段。通過構建先進的人工智能基礎設施和軟件系統(tǒng)，技術人員不僅可以高效完成人工智能場景化解決方案，而且還可以產(chǎn)生創(chuàng)新的靈感，創(chuàng)造性地完成新的場景、新的算法等，又可以解決有限時間下的工程交付需求。
?
開發(fā)工具鏈是否完善是體現(xiàn)黑芝麻智能芯片易用性的重要指標。配合華山系列自動駕駛計算芯片，黑芝麻智能發(fā)布的山海人工智能開發(fā)平臺。它擁有50多種AI參考模型庫轉換用例，降低客戶的算法開發(fā)門檻；能夠實現(xiàn)QAT和訓練后量化的綜合優(yōu)化，保障算法模型精度；支持動態(tài)異構多核任務分配，同時還支持客戶自定義算子開發(fā)，完善的工具鏈開發(fā)包及應用支持，能夠助力客戶快速移植模型和部署落地的一體化流程。