人工智能(AI)通常是一件通用的解決問題的利器,隨時(shí)準(zhǔn)備迎接任何挑戰(zhàn)。而有些時(shí)候,它被認(rèn)為預(yù)示著文明本身的終結(jié)。作為工程師,我們?nèi)绾尾拍茉陂_發(fā)應(yīng)用程序的過程中更好地利用人工智能,或者更正確地利用機(jī)器學(xué)習(xí)(ML)呢? 人工智能領(lǐng)域的最新進(jìn)展真的會(huì)讓我們變得多余嗎?

提到人工智能(AI),無疑是吸引主流媒體注意的一種重要方式。由于互聯(lián)網(wǎng)和云服務(wù)的發(fā)展,再加上時(shí)不時(shí)有問題的數(shù)據(jù)源,新的人工智能驅(qū)動(dòng)的服務(wù)似乎無處不在。點(diǎn)擊幾下鼠標(biāo)后,你的文字可以放進(jìn)Morgan·Freeman的嘴里,或者你的圖像融入到一件新的藝術(shù)品中,這些有趣而發(fā)人深省的想法,要在嵌入式系統(tǒng)中實(shí)現(xiàn)并非易事,但這是該行業(yè)內(nèi)部正在發(fā)生的事情。

大多數(shù)嵌入式系統(tǒng)使用基于規(guī)則的編程方法來實(shí)現(xiàn)其功能。給定一組輸入數(shù)據(jù),一系列if/else或switch語(yǔ)句決定如何響應(yīng)。對(duì)于有限數(shù)量的輸入,這種方法效果很好。然而,在某些時(shí)候,輸入的數(shù)量或它們之間關(guān)系的微妙之處使得很難定義明確的、程序化的規(guī)則。

舉個(gè)例子,想象一下工廠里有一臺(tái)馬達(dá)一周7天、每天24小時(shí)運(yùn)轉(zhuǎn)。經(jīng)驗(yàn)告訴我們,隨著時(shí)間的推移,會(huì)發(fā)生磨損,軸承潤(rùn)滑脂會(huì)變稠,進(jìn)而改變機(jī)器的啟動(dòng)時(shí)間、噪聲、振動(dòng)模式、電機(jī)工作溫度和電流等參數(shù)。定期維護(hù)是當(dāng)今應(yīng)對(duì)這一挑戰(zhàn)的方式,但它會(huì)導(dǎo)致固定的停機(jī)時(shí)間,從而中斷生產(chǎn)。

此外,它不太可能捕捉到由軸、軸承、套管或夾具的細(xì)微斷裂引起的即將發(fā)生的故障。經(jīng)過正確訓(xùn)練后,人工智能方法可以使用復(fù)雜的數(shù)據(jù)源組合來確定潛在故障。如果這種智能可以部署到基于微控制器的系統(tǒng)中,那么就會(huì)得到一個(gè)經(jīng)濟(jì)實(shí)惠的監(jiān)控系統(tǒng),既節(jié)省了時(shí)間和金錢,又減少了不必要的潤(rùn)滑和零件更換造成的浪費(fèi)。

1 將智能引入微控制器中

在微控制器層面,我們談?wù)摰氖菣C(jī)器學(xué)習(xí)(ML),而不是 Al。這意味著對(duì)機(jī)器進(jìn)行編程,使用通過分析可用數(shù)據(jù)制定的規(guī)則來做出決策。雖然微控制器的功能強(qiáng)大到足以執(zhí)行這樣的ML算法,但從訓(xùn)練數(shù)據(jù)中學(xué)習(xí)仍然超出了它們的能力范圍,如果不是云服務(wù)器,至少需要一臺(tái)臺(tái)式計(jì)算機(jī)來執(zhí)行。Edge Impulse成立于2019年,開發(fā)了一個(gè)專門用于嵌入式系統(tǒng)中ML的平臺(tái),并成功地與全球半導(dǎo)體供應(yīng)商進(jìn)行合作推廣。

任何ML應(yīng)用程序的起點(diǎn)都是數(shù)據(jù)。雖然一些應(yīng)用(比如自動(dòng)駕駛)需要TB級(jí)的訓(xùn)練數(shù)據(jù),但簡(jiǎn)單的基于微控制器的系統(tǒng)可以從少量(幾千字節(jié))的數(shù)據(jù)中學(xué)習(xí)。因此,將數(shù)據(jù)從板上取出并放到Edge Impulse環(huán)境中是第一個(gè)挑戰(zhàn)。最初的想法是使用 Arduino的串行接口將其發(fā)送到您的PC,然后從那里將其作為文本文件上傳。然而,他們的平臺(tái)是為了直接獲取數(shù)據(jù)。

2 數(shù)據(jù):Al的食物

其中一個(gè)工具是Data Forwarder,這是一個(gè)命令行(CLI)應(yīng)用程序,可以將數(shù)據(jù)從開發(fā)板直接發(fā)送到Edge Impulse環(huán)境。使用用戶名和密碼即可在PC上的串行端口和服務(wù)器之間建立鏈接。在微控制器方面,所需要的只是通過串行接口以逗號(hào)或制表符分隔的格式輸出數(shù)據(jù)。如果采樣率相對(duì)較低,那么這是直接從傳感器收集代表性數(shù)據(jù)的理想方法(見圖1)。更強(qiáng)大的嵌入式系統(tǒng)(如樹莓派或NVIDIA Jetson Nano)可以使用提供的軟件開發(fā)工具包(SDK)。它也支持麥克風(fēng)和攝像頭等傳感器產(chǎn)生更可觀的數(shù)據(jù)量。

數(shù)據(jù)上傳后,下一步就是定義“脈沖”。它們由兩個(gè)部分組成:第一部分將數(shù)據(jù)切片成更小的塊,并使用信號(hào)處理技術(shù)提取特征,這確保了可用的傳感器數(shù)據(jù)被轉(zhuǎn)換成第二個(gè)信號(hào)處理階段信息的一致性;第二部分是學(xué)習(xí)和分類的過程(見圖2)。在一個(gè)示例項(xiàng)目“連續(xù)運(yùn)動(dòng)識(shí)別”中,很好地解釋了如何配置這些塊來分析加速度計(jì)數(shù)據(jù)并將此輸入分類為4種手勢(shì)之一。

這是任何ML開發(fā)中最關(guān)鍵的一步,通常需要橫向思維和多次迭代來確定最佳方法。有時(shí)候,忽略一些傳感器輸入是最好的解決方案,而其他時(shí)候,則需要更多的數(shù)據(jù)。你甚至可能會(huì)發(fā)現(xiàn)正在過度學(xué)習(xí),或者選擇的神經(jīng)網(wǎng)絡(luò)模型不適合你試圖進(jìn)行的分類。另一個(gè)至關(guān)重要的步驟是異常分類。在示例項(xiàng)目中,有4種定義的手勢(shì)。然而,需要排除其他類似于學(xué)習(xí)手勢(shì)的動(dòng)作。良好的異常檢測(cè)提供了魯棒性更好的ML結(jié)果。

最后一步是部署。通過web界面下載所選設(shè)備的固件,以便集成到你的應(yīng)用程序中。對(duì)于Arduino,會(huì)生成一個(gè)庫(kù),而對(duì)于其他微控制器,則可以生成一個(gè)C++文件。當(dāng)然,微控制器的性能差別很大。為了確保最佳結(jié)果,Edge Impulse提供了EON 調(diào)諧器。該工具可以通過使用目標(biāo)設(shè)備、內(nèi)存大小和延遲等信息進(jìn)一步提高檢測(cè)精度,加快推理速度,并降低內(nèi)存需求(見圖3)。

3 實(shí)際應(yīng)用中的ML

實(shí)際的應(yīng)用程序正在使用這種方法來嵌入ML功能。SlateSafety的BAND集成了一系列生物識(shí)別傳感器,以監(jiān)測(cè)在具有挑戰(zhàn)性的情況下工作的工人(見圖4)。這些人員包括從急救人員到穿戴重型個(gè)人防護(hù)裝備(PPE)的工業(yè)工人,比如消防員。他們的產(chǎn)品通常會(huì)將數(shù)據(jù)上傳到云端,這樣就可以監(jiān)測(cè)用戶的生命體征了。

但是,特別是在災(zāi)難情況下,網(wǎng)絡(luò)連接可能不完整甚至根本不存在。開發(fā)團(tuán)隊(duì)利用Edge Impulse將邊緣ML集成到現(xiàn)有產(chǎn)品中,并對(duì)歷史生物識(shí)別數(shù)據(jù)進(jìn)行了訓(xùn)練。使用EON Tuner,該算法針對(duì)硬件進(jìn)行了優(yōu)化,然后使用無線更新進(jìn)行部署?，F(xiàn)在,即使在沒有無線連接的情況下,BAND也可以在存在熱衰竭風(fēng)險(xiǎn)時(shí)向佩戴者提供警告。

4 利用Al改進(jìn)產(chǎn)品開發(fā)

當(dāng)然,人工智能并不一定要集成到產(chǎn)品中,它也可以用于產(chǎn)品的開發(fā)。今天,許多復(fù)雜的應(yīng)用程序都是使用基于模型的方法開發(fā)的,本質(zhì)上是使用軟件和物理學(xué)的數(shù)學(xué)方程來描述事物是如何工作的。然而,這種方法也有其局限性,這就使Monolith和他們的自學(xué)AI平臺(tái)有了用武之地。

該平臺(tái)能夠根據(jù)已經(jīng)收集到的數(shù)據(jù)學(xué)習(xí)復(fù)雜系統(tǒng)的物理特性。例如,車輛在測(cè)試軌道上進(jìn)行一系列測(cè)試,多個(gè)傳感器監(jiān)測(cè)偏航和滾轉(zhuǎn)以及車輪速度和加速度。收集不同懸架剛度的數(shù)據(jù),可以很好地了解車輛對(duì)一系列駕駛情況的反應(yīng)。通常情況下,這些數(shù)據(jù)將被分析,從而在下一次試車時(shí)應(yīng)用新的設(shè)置。Monolith可以評(píng)估第一組測(cè)試運(yùn)行的數(shù)據(jù),并以很高的精度預(yù)測(cè)懸架變化的結(jié)果。該結(jié)果可用于更快地磨練最佳懸架設(shè)置,減少所需的額外物理測(cè)試運(yùn)行次數(shù)。

這種方法也可以應(yīng)用于計(jì)量。燃?xì)獗肀仨毞浅?zhǔn)確,以確保正確計(jì)費(fèi)。但當(dāng)儀表必須測(cè)量一系列不同的氣體時(shí),這是具有一定挑戰(zhàn)性的。對(duì)客戶來說,模擬超聲波儀表已經(jīng)將純粹的數(shù)學(xué)分析推向了極限,使得重復(fù)的測(cè)試過程成為實(shí)現(xiàn)所需認(rèn)證的唯一校準(zhǔn)解決方案。幸運(yùn)的是,所有的測(cè)試都產(chǎn)生了豐富的數(shù)據(jù)集用于分析。使用自學(xué)習(xí)AI模型,所需的測(cè)試量下降了高達(dá)70%,顯著加快了開發(fā)速度。

5 大幅壓縮AI計(jì)算成本

像DARPA大挑戰(zhàn)賽這樣的比賽,團(tuán)隊(duì)建造了可以穿越蜿蜒路線的自動(dòng)駕駛汽車,引發(fā)了人們對(duì)自動(dòng)駕駛汽車的興趣。近20年后的今天,已經(jīng)投入了大量資金,但收效甚微,似乎只有Waymo提供了真正的自動(dòng)駕駛汽車乘車服務(wù),但這些服務(wù)僅在美國(guó)的鳳凰城和舊金山運(yùn)營(yíng)。其中一個(gè)問題是,讓一臺(tái)計(jì)算機(jī)控制汽車是非常具有挑戰(zhàn)性的。車輛不僅要不斷評(píng)估周圍的情況,還必須預(yù)測(cè)其他司機(jī)和道路使用者的行為,比如行人和騎自行車的人可能不遵守交通規(guī)則。

目前的情況是,汽車的電氣和電子(E/E)架構(gòu)正在發(fā)生變化,以滿足未來自動(dòng)駕駛汽車的需求。隨著大量傳感器提供大量數(shù)據(jù),行業(yè)正在轉(zhuǎn)向自動(dòng)網(wǎng)聯(lián)車。目前,這種方法正在形成先進(jìn)的駕駛員輔助系統(tǒng)(ADAS),它通過控制制動(dòng)、加速和轉(zhuǎn)向,可以在駕駛員犯錯(cuò)時(shí)介入。根據(jù)美國(guó)汽車工程師協(xié)會(huì)(SAE)的車輛自動(dòng)駕駛水平,高檔車輛目前達(dá)到了L2+級(jí),其中一些達(dá)到了L3級(jí)。然而,完全的“解放雙手”級(jí)別的自動(dòng)駕駛是L5級(jí),所以我們還有很長(zhǎng)一段路要走。

Eurotech等公司正在支持該行業(yè)加快必要算法的開發(fā)。目前,一次8小時(shí)的試駕會(huì)收集120 TB的數(shù)據(jù),這些數(shù)據(jù)必須返回實(shí)驗(yàn)室進(jìn)行處理和分析。AI算法的改進(jìn)可以在實(shí)驗(yàn)室中使用收集到的數(shù)據(jù)進(jìn)行測(cè)試,但支持現(xiàn)場(chǎng)測(cè)試和算法開發(fā)的數(shù)據(jù)很少。

利用在液體冷卻方面的經(jīng)驗(yàn),Eurotech提供了一系列能夠勝任這項(xiàng)任務(wù)的邊緣Al硬件,本質(zhì)上是可以放在汽車后備箱里的小型超級(jí)計(jì)算機(jī)。像DYNACOR40 36這樣的設(shè)備經(jīng)過加固,可以在公路和越野車輛中使用。這款無風(fēng)扇計(jì)算機(jī)采用16核英特爾至強(qiáng) CPU(64 GB RAM),最多兩個(gè)NVIDIA GV100 GPU(32 GB RAM),提供237

TFLOPS來處理深度學(xué)習(xí)應(yīng)用程序(見圖5)。幾個(gè)千兆以太網(wǎng)接口支持?jǐn)z取大量傳感器數(shù)據(jù),包括雷達(dá)、攝像頭和激光雷達(dá)等數(shù)據(jù),并將這些數(shù)據(jù)注入32 TB的固態(tài)存儲(chǔ)器中。通過在試駕期間進(jìn)行更多的推理和強(qiáng)化測(cè)試,實(shí)現(xiàn)L5級(jí)自動(dòng)駕駛的過程可能會(huì)顯著加快。

6 AI會(huì)危及我們的工作嗎?

社交媒體上正在討論AI的進(jìn)步是否會(huì)危及創(chuàng)意產(chǎn)業(yè)的工作崗位。OpenAI推出的DALL·E2將自然語(yǔ)言需求轉(zhuǎn)化為圖像(見圖6)。但是,也許更令人印象深刻的是它能夠真實(shí)地編輯現(xiàn)有圖像。例如,它可以移除前景或背景中的物體。此外,如果給它一幅荷蘭畫家維米爾(Vermeer)的作品,Al可以擴(kuò)展它的“戴珍珠耳環(huán)的女孩”,使人們對(duì)畫中她所處的房間有一個(gè)可信的印象。

然而,作家(比如Elektor和其他知名媒體的編輯團(tuán)隊(duì))對(duì)ChatGPT的推出感到震驚。這種Al可以以會(huì)話方式和多種語(yǔ)言與用戶進(jìn)行交互。到目前為止,關(guān)于碳化硅(SiC)MOSFET和氮化鎵(GaN)晶體管優(yōu)點(diǎn)的討論,以及它們相對(duì)于硅MOSFET的優(yōu)點(diǎn),已經(jīng)出現(xiàn)了高度精準(zhǔn)的效果。因此,即使是小眾話題,似乎也被很好地涵蓋了。

雖然這個(gè)工具非常聰明,但它只知道訓(xùn)練之前相關(guān)話題的答案。因?yàn)樗皇浅掷m(xù)學(xué)習(xí)的,所以不會(huì)了解最新的時(shí)事或最新的K pop樂隊(duì)劇(shame)。另一個(gè)小問題是,過了一段時(shí)間,答案似乎變得有點(diǎn)老套和公式化。

總之,嵌入式系統(tǒng)和AI越來越多地被用于創(chuàng)建智能、自主設(shè)備和系統(tǒng)中。嵌入式系統(tǒng)為AI算法的運(yùn)行提供了硬件和軟件平臺(tái),而AI算法使這些系統(tǒng)能夠以更智能和更人性化的方式感知、分析和響應(yīng)其環(huán)境。隨著嵌入式系統(tǒng)和AI的能力不斷提高,我們期待在機(jī)器人、醫(yī)療保健、交通運(yùn)輸?shù)阮I(lǐng)域看到一系列令人興奮的新應(yīng)用。

審核編輯：彭菁