(電子發(fā)燒友網(wǎng)報(bào)道 文/章鷹）2020年，疫情過后，我們看到隨著AI芯片的發(fā)展，智慧醫(yī)療、智能工廠、智能5G網(wǎng)絡(luò)優(yōu)化都已經(jīng)成為可能。AI是新基建里的重要部分，而芯片則是AI新基建發(fā)力的重中之重。在AI應(yīng)用的第一階段，應(yīng)用場(chǎng)景主要為訓(xùn)練和推理，在模型訓(xùn)練方面，算法模型需要對(duì)海量數(shù)據(jù)進(jìn)行處理；隨著算法模型應(yīng)用趨于成熟，AI應(yīng)用步入第二階段，AI算力基建偏向于推理芯片的建設(shè)。AI芯片作為AI應(yīng)用落地重要支撐，出貨量與日俱增，但是對(duì)于行業(yè)的一些性能標(biāo)準(zhǔn)也急需要規(guī)范化。

8月8日，在2020全球人工智能和機(jī)器人峰會(huì)AI芯片專場(chǎng)上，地平線的聯(lián)合創(chuàng)始人兼技術(shù)副總裁黃暢博士，正式提出了面向芯片AI性能的MAPS測(cè)試方法。針對(duì)AI芯片落地應(yīng)用，黃暢也給出了前沿思考。

“縱觀深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)模型的發(fā)展演進(jìn)，我們發(fā)現(xiàn)AI芯片面臨的一大挑戰(zhàn)，是算法演進(jìn)速度遠(yuǎn)超硬件改進(jìn)速度，致使評(píng)估芯片AI性能的方法與算法發(fā)展之間存在脫節(jié)的現(xiàn)象“，黃暢在演講中表示。

黃暢指出，最近四年間AI算法精度和效率持續(xù)提升，2016年，語(yǔ)音合成革命性突破，機(jī)器和人聲難以分辨計(jì)算量巨大，無(wú)法實(shí)時(shí)完成計(jì)算；2017年，WaveNet到Parallel WaveNet，計(jì)算效率提升1000倍，GPU可以20倍實(shí)時(shí)運(yùn)行計(jì)算方式改變，RNN到Dilated CNN 產(chǎn)品化。2018年，計(jì)算方式變化，Dilated CNN到Sparse RNN，手機(jī)CPU（驍龍808）可用。

黃暢分享說，從2016年到2018年，ImageNet精度趨近飽和，2017年最后一屆競(jìng)賽計(jì)算效率優(yōu)化得到重視，在圖像識(shí)別領(lǐng)域，出現(xiàn)新卷積Depthwise convolution, 該結(jié)構(gòu)和常規(guī)卷積操作類似，可用來提取特征，但相比于常規(guī)卷積操作，其參數(shù)量和運(yùn)算成本較低。業(yè)界推出SENet、DenseNet等輕量級(jí)網(wǎng)絡(luò)，而且還出現(xiàn)了NASNet，網(wǎng)絡(luò)結(jié)構(gòu)自動(dòng)搜索。這種技術(shù)導(dǎo)致第一次算法超越算法專家。2019年，EfficientNet（谷歌大腦）出世，震驚整個(gè)行業(yè)，其基準(zhǔn)網(wǎng)絡(luò)限定計(jì)算量，0.4GFLOPS，EfficientNet B0相對(duì)VGG19提升100%，每9個(gè)月翻番。

目前，業(yè)界尚缺乏一個(gè)與時(shí)俱進(jìn)的，能夠有效評(píng)估芯片AI性能的標(biāo)準(zhǔn)。業(yè)界慣常使用的芯片評(píng)測(cè)標(biāo)準(zhǔn)有兩種，一是峰值算力，但峰值算力只反映AI芯片理論上的最大計(jì)算能力，而非在實(shí)際AI應(yīng)用場(chǎng)景中的處理能力，具有很大的局限性；二是目前行業(yè)較為知名的基準(zhǔn)測(cè)試組織MLPerf，其采用的模型少且更新速度滯后于算法演進(jìn)的速度，無(wú)法及時(shí)反映算法效率的提升以及各種精度下芯片能夠達(dá)到的計(jì)算速度，因而無(wú)法描述芯片AI性能的全貌。

為了推動(dòng)芯片AI性能評(píng)估方式與時(shí)俱進(jìn)，地平線提出MAPS評(píng)測(cè)方法，為行業(yè)提供一個(gè)評(píng)估芯片AI性能的視角?！霸u(píng)估芯片AI性能，本質(zhì)上應(yīng)該關(guān)注做AI任務(wù)的速度和精度，即‘多快’和‘多準(zhǔn)’?！秉S暢介紹說：“MAPS評(píng)測(cè)方法，關(guān)注真實(shí)的用戶價(jià)值，將每顆芯片在‘快’和‘準(zhǔn)’這兩個(gè)關(guān)鍵維度上的取舍變化直觀地展現(xiàn)出來，并在合理的精度范圍內(nèi)，評(píng)估芯片的平均處理速度。這個(gè)方法具有可視化和可量化的特點(diǎn)?！?/p>

作為 AI 領(lǐng)域的奧林匹克競(jìng)賽，ImageNet 比賽產(chǎn)生了幾乎所有機(jī)器視覺中最重要的模型，它們?cè)?ImageNet 上的精度可充分遷移到其他機(jī)器視覺任務(wù)（如物體檢測(cè)、語(yǔ)義分割等）。在 ImageNet 的主流精度范圍（75~80%）下，速度最快的模型所代表的點(diǎn)（由精度和幀率確定）所圍多邊形面積大小即為芯片處理ImageNet AI任務(wù)的能力大小，其公式為MAPS = 所圍面積 /（最高精度-最低精度）。在演講現(xiàn)場(chǎng)，黃暢還展示了MAPS評(píng)估方式在在ImageNet上的定義與主流芯片測(cè)試結(jié)果。

上圖為MAPS評(píng)估方式下主流芯片測(cè)試結(jié)果，右一折線為地平線最新一代芯片測(cè)試結(jié)果

黃暢指出，芯片AI效能三要素，主要是峰值算力、有效利潤(rùn)率和AI算法效率的結(jié)合。算力部署在AI芯片上，根據(jù)架構(gòu)特點(diǎn)，解決一個(gè)復(fù)雜的問題，得到算法在芯片上的實(shí)際利用率，整體軟硬件架構(gòu)的整體功耗，2019年，AI算法在新卷積神經(jīng)網(wǎng)絡(luò)技術(shù)推動(dòng)下，效率得到明顯提升。

黃暢舉例分析，他說：“自動(dòng)駕駛或者機(jī)器人領(lǐng)域的話，輸入的數(shù)據(jù)是連續(xù)視頻，連續(xù)視頻之間有巨大冗余。那如何去利用這個(gè)冗余呢？算法就應(yīng)該做相應(yīng)的迭代，地平線采取的方法是把視頻序列當(dāng)成是一個(gè)流，然后用更高效的算法去有針對(duì)性的處理真正在這個(gè)視頻中有變化的，有價(jià)值的信息，面對(duì)越來越復(fù)雜的場(chǎng)景的時(shí)候，算法還有持續(xù)的巨大的提升空間。”

人工智能與產(chǎn)業(yè)的結(jié)合，也需要讓創(chuàng)造的價(jià)值真正體現(xiàn)出來。黃暢認(rèn)為，AI有很多應(yīng)用場(chǎng)景，大數(shù)據(jù)、醫(yī)療、金融，但地平線關(guān)注的是自動(dòng)駕駛和自主機(jī)器人，比如最近地平線和新石器宣布達(dá)成戰(zhàn)略合作，雙方將面向低速自動(dòng)駕駛場(chǎng)景開展深度合作，加速無(wú)人車的應(yīng)用落地和規(guī)?；\(yùn)營(yíng)。按照計(jì)劃，搭載地平線征程2芯片和感知算法的新石器無(wú)人車將于2020年下半年量產(chǎn)部署。中國(guó)是全球最大的物流市場(chǎng)，在疫情影響下，人們對(duì)無(wú)人車服務(wù)的社會(huì)價(jià)值認(rèn)知加強(qiáng)，這一領(lǐng)域，也是將地平線在AI芯片和算法領(lǐng)域的前沿探索轉(zhuǎn)化為賦能產(chǎn)業(yè)的落地實(shí)踐。

在汽車領(lǐng)域，地平線首先取得突破的是智能座艙，后續(xù)的采訪中黃暢指出：“長(zhǎng)安的UNI-T車，采用了第四代人機(jī)交互系統(tǒng)，主動(dòng)發(fā)起的人機(jī)交互系統(tǒng)，上面有很多蠻驚艷的東西，主持人用一個(gè)眼神便輕松喚醒了屏幕。” 據(jù)筆者了解，今年3月，長(zhǎng)安汽車通過全球直播發(fā)布了主力新車 —— UNI-T，是首款搭載國(guó)產(chǎn)人工智能芯片的智能汽車，采用長(zhǎng)安汽車和地平線聯(lián)合開發(fā)的智能駕駛艙 NPU（Neural Processing Unit ，神經(jīng)網(wǎng)絡(luò)處理單元）計(jì)算平臺(tái)，內(nèi)置中國(guó)首款車規(guī)級(jí) AI 芯片——地平線征程二代，具備每秒 4 萬(wàn)億次的算力。在征程二代的賦能下，長(zhǎng)安UNI-T 可全方位實(shí)現(xiàn)車內(nèi)場(chǎng)景感知，并基于感知結(jié)果為用戶提供更精準(zhǔn)的智能推薦、智能車控等服務(wù)。一系列的落地結(jié)果是地平線鼓勵(lì)行業(yè)樹立對(duì)正確目標(biāo)的統(tǒng)一認(rèn)知，形成合力，更好地協(xié)同推動(dòng)AI芯片產(chǎn)業(yè)發(fā)展。

作為邊緣AI芯片領(lǐng)導(dǎo)者，地平線擁有扎實(shí)的技術(shù)積累和領(lǐng)先的商業(yè)探索，也正是基于這兩點(diǎn)地平線提出了重新定義芯片 AI 性能的MAPS 評(píng)測(cè)方法。通過聚焦“快”和“準(zhǔn)”兩個(gè)關(guān)鍵評(píng)測(cè)維度，MAPS 關(guān)注真實(shí)用戶價(jià)值，可為市場(chǎng)動(dòng)態(tài)、直觀的展現(xiàn)芯片 AI 性能，最終鼓勵(lì)行業(yè)樹立對(duì)正確目標(biāo)的統(tǒng)一認(rèn)知，形成合力，更好地協(xié)同推動(dòng)AI芯片產(chǎn)業(yè)發(fā)展。

本文由電子發(fā)燒友網(wǎng)原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。如需轉(zhuǎn)載，請(qǐng)?zhí)砑游?a target="_blank">信號(hào)elecfans999。