電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）十年前，深度神經(jīng)網(wǎng)絡(luò)模型多還是在云端執(zhí)行，而如今已經(jīng)越來(lái)越多地向邊緣側(cè)轉(zhuǎn)移。從目前的趨勢(shì)來(lái)看，邊緣人工智能將成為主流，調(diào)研機(jī)構(gòu)數(shù)據(jù)顯示，到2030年，深度端側(cè)AI設(shè)備的全球出貨量將達(dá)到25億臺(tái)。

意法半導(dǎo)體在邊緣人工智能領(lǐng)域耕耘多年，在5月12-13日舉辦的主題為“STM32 不止于芯”的第六屆STM32中國(guó)峰會(huì)上，意法半導(dǎo)體中國(guó)通用微控制器市場(chǎng)部丁曉磊主題演講中，詳細(xì)介紹了意法半導(dǎo)體在邊緣人工智能領(lǐng)域的軟硬件布局。

在邊緣AI領(lǐng)域，ST可以提供哪些軟硬件支持

由于具備超低時(shí)延、低數(shù)據(jù)帶寬、隱私性和安全性高等優(yōu)點(diǎn)，邊緣人工智能可以為很多領(lǐng)域提供價(jià)值，比如：一、工業(yè)預(yù)測(cè)性維護(hù)，包括條件檢測(cè)、預(yù)測(cè)性維護(hù)等；二、控制系統(tǒng)，從家電到工業(yè)機(jī)器；三、物聯(lián)網(wǎng)，包括智慧城市、智慧樓宇、智慧家庭和工業(yè)自動(dòng)化等。

那么，在邊緣人工智能領(lǐng)域，意法半導(dǎo)體可以提供哪些支持呢？據(jù)丁曉磊介紹，在硬件層面，首先是STM32 MCU，意法半導(dǎo)體所有MCU，都有工具能夠支持它跑所有主流的神經(jīng)網(wǎng)絡(luò)模型，包括意法半導(dǎo)體最新發(fā)布的STM32N6，它是一顆帶有神經(jīng)網(wǎng)絡(luò)硬件處理單元的MCU；其次提供開(kāi)發(fā)板支持，包括意法半導(dǎo)體自己的開(kāi)發(fā)板，以及很多第三方合作伙伴的開(kāi)發(fā)板。

在軟件工具層面，意法半導(dǎo)體可以提供非常多、好用的開(kāi)發(fā)工具，用來(lái)幫助開(kāi)發(fā)者把人工智能模型部署到硬件端，包括NanoEdge AI和Cube.AI；除了這些開(kāi)發(fā)工具之外，還有模型庫(kù)Model zoo，這里面有很多預(yù)訓(xùn)練的模型，可以用來(lái)做進(jìn)一步的人工智能開(kāi)發(fā)；此外，還有各種軟件包，F(xiàn)unction Packs，可以幫助開(kāi)發(fā)者更好的做模型訓(xùn)練、優(yōu)化，進(jìn)行整個(gè)流程的部署。

ST的產(chǎn)品目前已經(jīng)有相當(dāng)多的成功案例，在工業(yè)自動(dòng)化、智能交通、智慧城市、可穿戴、智慧家庭等領(lǐng)域，都有很多邊緣人工智能的實(shí)際應(yīng)用案例。

這個(gè)案例（上圖），最終產(chǎn)品形態(tài)是一個(gè)震動(dòng)檢測(cè)的盒子，用于在工業(yè)領(lǐng)域做故障檢測(cè)，這里面有用到STM32的MCU，盒子里面還有震動(dòng)傳感器。這個(gè)盒子，通過(guò)震動(dòng)傳感器的數(shù)據(jù)，再通過(guò)NanoEdge AI這樣的邊緣AI算法，來(lái)實(shí)現(xiàn)整個(gè)設(shè)備的異常檢測(cè)。

這是電器解決方案中斷路器的預(yù)測(cè)性維護(hù)的案例，里面用到的是STM32G4，它用到電流、震動(dòng)傳感器，做異常檢測(cè)和分類(lèi)，能夠更好的做斷路器老化的預(yù)測(cè)。

丁曉磊強(qiáng)調(diào)，在這些NanoEdge AI的使用案例中，值得一提的是，并不需要海量的數(shù)據(jù)，對(duì)于使用的公司來(lái)說(shuō)，也并不需要重新請(qǐng)一位AI算法工程師。NanoEdge AI是一個(gè)對(duì)嵌入式開(kāi)發(fā)工程師非常友好，能夠很快上手的工具。

還有一個(gè)支流拉弧檢測(cè)的應(yīng)用案例，用的是Cube.AI，這里面采用的是STM32U5。不過(guò)丁曉磊表示，很多STM32型號(hào)都可以勝任這個(gè)工作，做一些異常檢測(cè)。相比于傳統(tǒng)方案，它可以減少拉弧的誤報(bào)率，提高準(zhǔn)確性，并且提升在噪聲環(huán)境下的適應(yīng)性。

ST的軟件工具都可以應(yīng)用在哪些芯片上呢？丁曉磊介紹，NanoEdge AI和Cube.AI是做全線支持的，可以用在ST整個(gè)的產(chǎn)品線上（如上圖）。開(kāi)發(fā)者可以把所有主流框架的模型，只要能夠轉(zhuǎn)換出足夠小的代碼，就可以在任何STM32 MCU上部署。另外，ST還有一顆MPU，雙核，里面有一顆Cortex-M4內(nèi)核，NanoEdge AI和Cube.AI兩個(gè)平臺(tái)同樣對(duì)這顆MPU支持。

Cube.AI和NanoEdge AI具備哪些優(yōu)秀的功能

Cube.AI和NanoEdge AI這兩款軟件工具有哪些優(yōu)秀的功能呢？Cube.AI，它是一個(gè)能夠很快評(píng)估、轉(zhuǎn)換、和部署機(jī)器學(xué)習(xí)或深度神經(jīng)網(wǎng)絡(luò)在STM32 MCU上的工具。也就是，它的輸入是已經(jīng)被訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型或機(jī)器學(xué)習(xí)模型，它的輸出是可以運(yùn)行在STM32上的代碼。

Cube.AI不僅僅是一個(gè)轉(zhuǎn)換工具，它里面有非常多、非常好的優(yōu)化功能，能夠讓代碼量非常小，使其能夠更優(yōu)化的部署在STM32上。據(jù)丁曉磊介紹，Cube.AI，能夠支持所有主流的AI框架，比如TensorFlow Lite、Carrots、Pytorch、ONNX等，還有一些Machine Learning算法。

Cube.AI工具有兩個(gè)版本：一個(gè)是STM32Cube.AI，是原本的PC版本，為STM32準(zhǔn)備的AI轉(zhuǎn)換和優(yōu)化，可以直接在自己的PC上使用；一個(gè)是STM32Cube.AI開(kāi)發(fā)云，是最新的線上AI服務(wù)器，也就是ST在開(kāi)發(fā)者云上部署好，只要用開(kāi)發(fā)者云，就可以直接用這個(gè)工具。

STM32Cube.AI開(kāi)發(fā)云版本，有一個(gè)工程師很歡迎的功能，就是它有一個(gè)在線的開(kāi)發(fā)板推理時(shí)間的評(píng)估功能。丁曉磊表示，ST實(shí)際上有一個(gè)服務(wù)器，后面連了很多真實(shí)的STM32的開(kāi)發(fā)板。使用者可以非?？熘溃约河?xùn)練好的模型，在這個(gè)開(kāi)發(fā)板上內(nèi)存占用夠不夠，評(píng)估推理時(shí)間。在很多應(yīng)用里，對(duì)推理時(shí)間是有明確要求的。為了很快得到推理時(shí)間，使用者可以非常方便地用在線的開(kāi)發(fā)者云很快評(píng)估一個(gè)訓(xùn)練好的模型。

NanoEdge AI軟件工具，面向嵌入式開(kāi)發(fā)者提供一體化的機(jī)器學(xué)習(xí)方案。從剛開(kāi)始的數(shù)據(jù)收集、模型選擇、數(shù)據(jù)訓(xùn)練，到生成模型、優(yōu)化部署，它是一個(gè)從頭到尾整個(gè)支持機(jī)器學(xué)習(xí)優(yōu)化部署的工具。它的優(yōu)勢(shì)是，不需要非常大的數(shù)據(jù)量，又有比較高的內(nèi)存占用效率。

有一個(gè)洗衣機(jī)應(yīng)用案例，這個(gè)洗衣機(jī)的稱(chēng)重精準(zhǔn)度是100g，如果不用AI算法，業(yè)界普通的稱(chēng)重精準(zhǔn)度是300g到500g。這個(gè)100g的算法是如何實(shí)現(xiàn)的呢？它就是用了NanoEdge AI這個(gè)軟件工具來(lái)實(shí)現(xiàn)的，NanoEdge AI這個(gè)工具需要的數(shù)據(jù)信號(hào)，就是洗衣機(jī)本來(lái)電機(jī)里面的電流的特征信號(hào)，不需要再增加額外的傳感器去實(shí)現(xiàn)這個(gè)功能。

而且它的Flash和SRAM大概都只有10KB左右，意味著你可以在原有的MCU里面增加一點(diǎn)空間，就能實(shí)現(xiàn)非常好的精準(zhǔn)度，非常高的稱(chēng)重檢測(cè)。這就是這個(gè)工具比較好的優(yōu)勢(shì)。

據(jù)丁曉磊介紹，客戶(hù)有越來(lái)越多的算法用例需求，用于創(chuàng)造更多智能產(chǎn)品。比如：1、希望設(shè)備能夠自主適應(yīng)目標(biāo)環(huán)境并檢測(cè)異常狀態(tài)；2、想檢測(cè)任何的異常值；3、想根據(jù)信號(hào)來(lái)檢測(cè)發(fā)生的問(wèn)題的類(lèi)型；4、想預(yù)測(cè)何時(shí)會(huì)達(dá)到特定的振動(dòng)水平，以便在達(dá)到該極限之前有時(shí)間采取糾正措施。而NanoEdge AI就可以為客戶(hù)解決這些問(wèn)題。

小結(jié)

憑借諸多優(yōu)勢(shì)，如今邊緣人工智能逐漸在各個(gè)領(lǐng)域中得到應(yīng)用，甚至說(shuō)，具備AI能力會(huì)成為越來(lái)越多產(chǎn)品的標(biāo)配。意法半導(dǎo)體的STM32 MCU，以及Cube.AI和NanoEdge AI軟件工具，可以幫助開(kāi)發(fā)者方便快速地將訓(xùn)練好的模型部署到終端設(shè)備上，實(shí)現(xiàn)所需要的智能化功能。