AI通常用于為高級自動駕駛的車輛提供感知能力。但AI也能幫助自動駕駛汽車（AV）在規(guī)劃和控制方面做出更安全的決策嗎？任何習慣于基于控制理論的確定性算法的人都很難被說服。但Infineon提出了一個激進的反駁，并一直在與汽車行業(yè)的利益相關者就其安全問題進行辯論。

AI安全嗎？AI驅(qū)動的汽車可靠嗎？它們能被驗證嗎？

這些都是向高級自動駕駛車輛的開發(fā)人員提出的好問題。

隨著先進的神經(jīng)網(wǎng)絡在計算機視覺方面得到良好發(fā)展，在AV上使用AI已經(jīng)成為一種公認的規(guī)范。不過，這仍然是一個信任的問題。

Infineon的嵌入式AI和自動駕駛專家Florian Hauer表示，AI可以幫助機器感知它所看到的東西（行人、信號燈、自行車……），并獲得對環(huán)境獲的“非常高級的抽象理解”，從而知道如何在該環(huán)境中采取行動。

在自動駕駛的計算鏈中，這些最初的步驟被稱為感知和場景理解。它們是為高級自動駕駛車輛規(guī)控系統(tǒng)做準備的兩個基本模塊。

計算機視覺在前兩個模塊中起著關鍵作用。Hauer說：“你已經(jīng)在使用AI作為主要解決方案。在感知和場景理解方面，我認為沒有人會回到深度學習技術之前。”

然而，他補充說，AI在規(guī)控中卻“很少或幾乎不使用”。

Hauer說：“通過軌跡規(guī)劃，車輛可以在接下來的1-5秒內(nèi)繪制出它必須走的路徑，以執(zhí)行某些操作，如在信號燈前停車或變道。在軌跡控制中，規(guī)劃的路徑在道路上被執(zhí)行。車輛決定向左或向右行駛。它可以選擇在時間和空間中移動的速度，以及何時應該加速或減速?！?/p>

為了執(zhí)行涉及規(guī)控制的安全關鍵計算，今天的高級自動駕駛車輛使用成熟的確定性算法，該算法基于由業(yè)內(nèi)專家在40多年間開發(fā)的控制理論。Tier1和OEM對經(jīng)典算法有著“共同的理解”，對安全的定義也達成了一致。到目前為止，汽車生態(tài)系統(tǒng)中的大多數(shù)參與者還沒有考慮過使用AI進行規(guī)控。

Infineon正在打破這一模式，建議業(yè)界應用AI來增強用于規(guī)控的確定性算法。Hauer說，目標不是取代經(jīng)典算法，而是提高它們的安全性、可靠性和效率。

Infineon在推進嵌入式AI的安全性方面有既得利益，其最新的Auriz MCU具有嵌入式AI能力。但它提出的使用AI進行規(guī)控的建議目前只是一個假設。Hauer承認首先需要回答安全問題，而將AI應用于規(guī)控中“安全意味著什么”是一個“不能由單個公司回答”的復雜問題。

因此，Infineon迫切希望在利益相關者之間建立“共識”。該公司來到TTTech成立的汽車行業(yè)合作論壇The Autonomous，分享其假設，與主要參與者合作，并領導一個關于嵌入式AI安全性的工作組討論。

動機

是什么促使Infineon建議將AI應用于高級自動駕駛的規(guī)控？為什么這對汽車行業(yè)如此重要？

該公司系統(tǒng)架構和應用高級負責人Jürgen Sch?fer表示，答案可以歸結為高級自動駕駛車輛達到量產(chǎn)所需的“成本和能效”。

許多人認為如今的AV設計過度。在Sch?fer的觀點中，“今天的AV原型的利潤率可以降低”。出于安全考慮，AV公司復制計算鏈，在獨立的信號處理鏈上運行兩種算法，使用的不是一個而是一組控制器。考慮到現(xiàn)實駕駛的不確定性，系統(tǒng)可能很難應對意外。因此，工程師們覺得在AV系統(tǒng)中設計一個廣泛的安全冗余更舒服，Sch?fer觀察到，冗余被認為可以增強安全性。

Sch?fer說，雖然在先進的架構中冗余被認為是必要的，但AV公司最終推出了成本過高的AV原型，部署了“消耗2000W的電子控制系統(tǒng)”，并“使用液冷單元，這進一步增加了成本，使系統(tǒng)不可靠”。

使用機器學習算法可以幫助系統(tǒng)設計者避免過度設計。他說：“最終，機器學習算法是唯一能從數(shù)學上預測未來的算法。通過機器學習算法，你可以說，例如，基于系統(tǒng)和環(huán)境在過去20秒的表現(xiàn)，（這就是）下一秒可能發(fā)生的事?！?/p>

在嘗試以線性方向預測未來時，你可以查看系統(tǒng)環(huán)境并謹慎地進行，但是你仍然可能遇到阻礙系統(tǒng)反應能力的緊急情況。Sch?fer表示，以“隨機方式”預測未來的機器學習算法，通過一個涉及隨機確定的事件序列的過程，有望更好地避免這種僵局。

安全用例為AI在規(guī)控中的應用建立一個安全用例并不簡單。Hauer承認，在行業(yè)發(fā)展到這一步之前，許多過程都會發(fā)揮作用。

他說，首先，將AI整合到規(guī)控中會影響開發(fā)過程的不同階段。必須確定和分析相關的開發(fā)步驟，以確定它們對系統(tǒng)其余部分的影響。

接下來要考慮的是數(shù)據(jù)。數(shù)據(jù)是否具有代表性？它是有意義的嗎？Hauer說：“在收集數(shù)據(jù)以處理極端情況時，我們需要了解神經(jīng)網(wǎng)絡是否被正確訓練或過度擬合，或者它是否學習了正確的東西?！?/p>

Hauer指出，理解使用AI的影響和“副作用”是一回事，考慮它的“設計含義”是另一回事?！袄纾覀兡芊駷锳I構建一個安全包裝？如果系統(tǒng)檢測到AI的建議不可取，我們能否構建一個經(jīng)典的算法來介入？”

為了建立安全論點，Hauer說，Infineon的策略是“使用一些非常具體的、特定的用例，看看我們是否可以降低風險”，簡單地告訴工程師“在規(guī)劃中使用AI太抽象且對任何人都沒有幫助，所以我們正在開發(fā)一些具體的規(guī)控示例”。

他重申，目標是降低風險?！拔覀兿胍钊氲郊夹g層面，實際觀察這些例子，看看哪些是問題實例，以及我們?nèi)绾问顾鼈儼踩！痹谶@樣做的過程中，“我們制定或派生一個‘解決方案類型’”。

Hauer說，標準化并不是The Autonomous的工作小組的目標。相反，該小組計劃提供一個參考解決方案，其中可能包括算法建議和最佳實踐。

使用哪種神經(jīng)網(wǎng)絡？

應用于計算機視覺的神經(jīng)網(wǎng)絡有著很長的歷史。但什么樣的神經(jīng)網(wǎng)絡將被用于規(guī)控呢？

Hauer回答說：“我們不會更換整個模塊。相反，我們正在增強它。因此，我們可以在哪里以及如何進行增強，有很多選擇?！?/p>

他指出，單就規(guī)劃而言，“你有一堆不同類別的解決方案，而每一類都有大量不同的技術來運用它們。而對于每一種技術，你都有大量的選擇，如何用AI來增強它?！?/p>

換句話說，沒有一個單一的、標準的網(wǎng)絡可以完成這項工作。

Hauer補充說，一個重要的說明是，計算機視覺和規(guī)控執(zhí)行兩種完全不同的工作。計算機視覺提供檢測、分類和分割。為了增強規(guī)劃，必須執(zhí)行的任務是回歸和預測。回歸使用一種統(tǒng)計方法，試圖確定一個因變量和一系列其他變量之間關系的強度和特征。這為預測接下來發(fā)生的事奠定了基礎。

因此，在計算機視覺和規(guī)控中使用的網(wǎng)絡類型是不同的。后者會小得多，因為規(guī)劃只是想知道下一步是什么樣子。

Hauer說，在解決預測問題時，最有價值的結構是眾所周知的拓撲結構，如循環(huán)神經(jīng)網(wǎng)絡。他描述了一種被稱為LSTM（long short-term memory）的特定網(wǎng)絡類型，它模擬了大腦的工作方式。當你第一次看到某物時，你會把它放入你的短期記憶中，并試圖理解它的來源和含義。如果理解了，那么這個物體或經(jīng)歷就會進入長期記憶。其基本思想是，要預測一個結果，你需要足夠的歷史來理解上下文。

相比之下，MLP（multilayer perceptron）是原始的神經(jīng)網(wǎng)絡結構。它是一個前饋人工神經(jīng)網(wǎng)絡，從一組輸入生成一組輸出。Sch?fer說，MLP是在1960年左右發(fā)展起來的，而LSTM在1998年才首次發(fā)表，從數(shù)學角度來看是非常新的神經(jīng)網(wǎng)絡。

時間表

該公司的嵌入式AI安全工作組今年開始工作。根據(jù)Hauer的說法，該工作組的時間表為18個月，目標是在2024年發(fā)表技術論文或技術報告。

Infineon認為，嵌入式AI控制器，如Aurix MCU，可以在包括高級自動駕駛車輛在內(nèi)的應用中提供低延遲、低處理功耗的解決方案來解決復雜問題。為了獲得車廠的支持，Infineon必須建立一個安全用例論證，將AI應用于AV的規(guī)控等任務，可以降低安全風險。為此，它需要來自行業(yè)利益相關者的合作。