NXP Semiconductors 推出了名為 eIQ Auto 的新深度學(xué)習(xí)工具包。恩智浦正在尋求通過使其工具“汽車品質(zhì)”來使自己在競爭中脫穎而出。NXP 的目標(biāo)是讓 AV 設(shè)計(jì)人員更輕松地在車輛中實(shí)施深度學(xué)習(xí)。

自動駕駛汽車 (AV) 的發(fā)展不一定需要人工智能或深度學(xué)習(xí)。簡而言之，并非所有 AV 都需要由 AI 驅(qū)動。然而，深度學(xué)習(xí)的快速進(jìn)步和更高的準(zhǔn)確性正吸引著尋求改進(jìn)其高度自動化車輛的開發(fā)人員。

然而，驗(yàn)證 AI 驅(qū)動的 AV 安全性的困難仍然存在。安全研究人員擔(dān)心深度學(xué)習(xí)的“黑箱”性質(zhì)，而這只是幾個(gè)棘手問題之一。AV 設(shè)計(jì)師是否可以驗(yàn)證和驗(yàn)證持續(xù)學(xué)習(xí)的 AI 系統(tǒng)，或者 AI 功能一旦部署在車輛內(nèi)的專用硬件中，其行為是否與在更大、更強(qiáng)大的計(jì)算機(jī)系統(tǒng)上開發(fā)和訓(xùn)練時(shí)的行為相同仍然不確定.

盡管存在這些擔(dān)憂，但 AV 和安全社區(qū)都認(rèn)識到 AI 不是他們可以避免討論的話題。

隨著上周 UL 4600 規(guī)范草案的發(fā)布，Edge Case Research 的首席技術(shù)官 Phil Koopman 告訴我們，“我們將正面追求完全自治。”

UL 4600 是一種評估目前在 Underwriters' Laboratories 開發(fā)的自動駕駛產(chǎn)品的安全標(biāo)準(zhǔn)，它既不假設(shè)也不強(qiáng)制要求在 AV 內(nèi)部部署深度學(xué)習(xí)。但該標(biāo)準(zhǔn)涵蓋了對生命關(guān)鍵應(yīng)用程序中使用的任何機(jī)器學(xué)習(xí)和其他自主功能的驗(yàn)證。

用于深度學(xué)習(xí)的汽車級軟件工具包

在此背景下，NXP Semiconductors 推出了其 eIQ Auto 深度學(xué)習(xí)工具包。

“迄今為止開發(fā)的大多數(shù)深度學(xué)習(xí)框架和神經(jīng)網(wǎng)絡(luò)都用于視覺、語音和自然語言等消費(fèi)類應(yīng)用，”恩智浦半導(dǎo)體汽車人工智能戰(zhàn)略和合作伙伴關(guān)系總監(jiān) Ali Osman Ors 說。它們的開發(fā)不一定考慮到對生命至關(guān)重要的應(yīng)用程序。

（來源：NXP）點(diǎn)擊這里查看大圖

領(lǐng)先的汽車芯片供應(yīng)商 NXP 正在進(jìn)一步使其軟件工具包符合汽車軟件性能改進(jìn)和能力確定 (A-SPICE) 標(biāo)準(zhǔn)。A-SPICE 是德國汽車制造商為改進(jìn)軟件開發(fā)流程而制定的一套指南。

NXP 解釋說，其 eIQ Auto 工具集——專為 NXP 的 S32V234 處理器設(shè)計(jì)——將幫助 AV 開發(fā)人員“優(yōu)化深度學(xué)習(xí)算法的嵌入式硬件開發(fā)并加快上市時(shí)間。”

當(dāng)被問及是否有類似的汽車級工具包可用于深度學(xué)習(xí)時(shí)，Ors 說：“一些汽車 OEM 可能已經(jīng)在內(nèi)部設(shè)計(jì)了自己的工具。但據(jù)我所知，我還沒有看到其他汽車芯片供應(yīng)商提供像我們這樣用于深度學(xué)習(xí)的汽車級軟件工具包?！?/p>

剪枝、量化和壓縮

數(shù)據(jù)準(zhǔn)備和訓(xùn)練（學(xué)習(xí)）的過程以及在嵌入式系統(tǒng)上的 AI 部署（推理）過程都很好理解。

如今，據(jù)說 AV 開發(fā)人員在測試車輛在公共道路上行駛時(shí)以每秒 4GB 的速度收集數(shù)據(jù)。清理和注釋如此大量的數(shù)據(jù)并為訓(xùn)練數(shù)據(jù)做好準(zhǔn)備可能會非常昂貴。在某些情況下，僅數(shù)據(jù)標(biāo)記處理就可以在財(cái)務(wù)上削弱算法開發(fā)人員和 AV 初創(chuàng)公司。

但對 AV 設(shè)計(jì)人員同樣具有挑戰(zhàn)性的是，盡管很少公開討論，但優(yōu)化訓(xùn)練好的 AI 模型并將其轉(zhuǎn)換為部署（在推理引擎上）所涉及的艱巨任務(wù)。Ors 解釋說，NXP 的工具加速了“量化、修剪和壓縮”神經(jīng)網(wǎng)絡(luò)的過程。

通過剪枝，Ors 意味著通過去除不重要的權(quán)重來移除神經(jīng)網(wǎng)絡(luò)架構(gòu)中存在的冗余連接。當(dāng)然，一個(gè)新的“剪枝”模型會失去準(zhǔn)確性。因此，模型必須在修剪后進(jìn)行微調(diào)以恢復(fù)其準(zhǔn)確性。

接下來，量化創(chuàng)建了一個(gè)“高效的計(jì)算過程”，Ors 說。它涉及通過對權(quán)重進(jìn)行聚類或四舍五入來捆綁權(quán)重，以便可以使用更少的內(nèi)存來表示相同數(shù)量的連接。另一種常見的技術(shù)是通過四舍五入將浮點(diǎn)權(quán)重轉(zhuǎn)換為定點(diǎn)表示。與剪枝一樣，模型必須在量化后進(jìn)行微調(diào)。

AV 設(shè)計(jì)師通過運(yùn)行測試數(shù)據(jù)（深度學(xué)習(xí)系統(tǒng)以前從未見過）來評估轉(zhuǎn)換模型的準(zhǔn)確性，并進(jìn)一步微調(diào)模型。

（來源：NXP）點(diǎn)擊這里查看大圖

分區(qū)工作負(fù)載

恩智浦表示，除此之外，eIQ Auto“對工作負(fù)載進(jìn)行分區(qū)并為神經(jīng)網(wǎng)絡(luò)的每個(gè)部分選擇最佳計(jì)算引擎?！?Ors 解釋說，它加快了手工制作推理引擎的過程，因?yàn)樵摴ぞ呖梢詭椭?AV 設(shè)計(jì)人員確定哪些任務(wù)在 CPU、DSP 或 GPU 中運(yùn)行得最好。他說 eIQ Auto 不能用于非 NXP 設(shè)備，因?yàn)樵摴ぞ弑仨毞浅Ｊ煜ぬ幚砥鲀?nèi)部發(fā)生的事情。