如果你關(guān)注最新進(jìn)展，可能已經(jīng)知道 Nordic Semiconductor 收購(gòu)了 Neuton.AI。Neuton 是一家邊緣 AI 公司，致力于使機(jī)器學(xué)習(xí)模型更易于訪問(wèn)。它創(chuàng)建的模型比競(jìng)爭(zhēng)對(duì)手的框架小 10 倍，速度也快 10 倍，甚至可以在最先進(jìn)的邊緣設(shè)備上進(jìn)行人工智能處理。在這篇博文中，我們將介紹這對(duì)開發(fā)人員意味著什么，以及使用 Neuton 模型如何改進(jìn)您的開發(fā)和終端應(yīng)用。

為什么選擇 Neuton

作為開發(fā)人員，在產(chǎn)品中使用邊緣人工智能的兩個(gè)最大障礙是：

ML 模型對(duì)于您所選微控制器的內(nèi)存來(lái)說(shuō)太大。

創(chuàng)建自定義 ML 模型本質(zhì)上是一個(gè)手動(dòng)過(guò)程，需要高度的數(shù)據(jù)科學(xué)知識(shí)才能做好。

現(xiàn)在，這些阻礙即將被解決。

Neuton 是一個(gè)自動(dòng)生成 ML 模型的框架，其大小僅為 TensorFlow Lite 等傳統(tǒng)框架的一小部分。對(duì)于開發(fā)人員來(lái)說(shuō)，這意味著要訓(xùn)練一個(gè)高度優(yōu)化、快速和準(zhǔn)確的 ML 模型，你所需要的只是一個(gè)數(shù)據(jù)集。Neuton 模型可以在任何 Nordic SoC（如我們的旗艦產(chǎn)品 nRF54L15）上運(yùn)行，而且非常高效，也非常適合空間最有限的 SoC（如 nRF52805），只占用幾千字節(jié)的非易失性存儲(chǔ)器（NVM）。這使得以前被認(rèn)為不可能的應(yīng)用也能增加 ML 功能。例如，您現(xiàn)在可以在廣泛的傳感器網(wǎng)絡(luò)的每個(gè)節(jié)點(diǎn)上進(jìn)行人工智能處理，而在這種網(wǎng)絡(luò)中，傳感器的尺寸和成本是關(guān)鍵，空間也非常寶貴。

Neuton 的與眾不同

其他邊緣人工智能框架比比皆是，而且存在已久。Neuton 與 LiteRT（又稱微控制器 TensorFlow Lite）和類似框架的主要區(qū)別在于，其他框架仍然依賴于開發(fā)人員掌握如何手動(dòng)組織神經(jīng)網(wǎng)絡(luò)、神經(jīng)元和網(wǎng)絡(luò)深度的知識(shí)，然后在事后對(duì)模型進(jìn)行壓縮和優(yōu)化，使其適合所需的目標(biāo)設(shè)備。這種方法導(dǎo)致模型在代碼大小、執(zhí)行速度和功耗方面效率較低。

而 Neuton 可以自動(dòng)處理所有這些問(wèn)題。Neuton 不會(huì)從一開始就靜態(tài)定義網(wǎng)絡(luò)參數(shù)，而是自動(dòng)生成網(wǎng)絡(luò)，并檢查每一個(gè)新神經(jīng)元是否能提高模型性能。不增加價(jià)值的神經(jīng)元會(huì)被立即移除，以節(jié)省資源。這為開發(fā)者帶來(lái)了多重好處：

無(wú)需手動(dòng)選擇神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)、參數(shù)或架構(gòu)

無(wú)需資源密集型的自動(dòng)神經(jīng)架構(gòu)搜索 (NAS)

代碼體積盡可能小，無(wú)需壓縮或優(yōu)化

執(zhí)行速度更快，這意味著功耗更低

Neuton 模型以純 C 代碼形式從平臺(tái)下載，沒(méi)有外部依賴性或特殊運(yùn)行要求。它們可隨時(shí)集成到在任何 Arm Cortex-M 系列處理器上運(yùn)行的任何應(yīng)用中，如 nRF52、nRF53、nRF54L 和 nRF54H 系列 SoC 或 nRF91 系列 SiP 的應(yīng)用內(nèi)核。

這對(duì)開發(fā)人員意味著什么

使用 Neuton 框架創(chuàng)建 ML 模型已經(jīng)可以通過(guò) lab.neuton.ai 實(shí)現(xiàn)。如果您迫不及待，現(xiàn)在就可以嘗試使用，但請(qǐng)注意，您需要自己將其集成到 nRF Connect SDK 應(yīng)用程序中，因?yàn)槟壳斑€沒(méi)有這方面的示例。如果您更喜歡 Nordic 眾所周知的更簡(jiǎn)化的開發(fā)流程和開發(fā)體驗(yàn)，我們正計(jì)劃適配我們的開發(fā)者生態(tài)的重大改進(jìn)。因此，如果您不想自己完成所有的集成工作，您可以等待我們nRF Connect SDK 示例和必要開發(fā)工具，來(lái)構(gòu)建與我們的解決方案無(wú)縫集成的模型。

工作原理

盡管通過(guò)專用示例固件與 nRF Connect SDK 的集成仍在進(jìn)行中，但使用 Neuton 框架生成模型已經(jīng)完全實(shí)現(xiàn)自動(dòng)化，而且非常簡(jiǎn)單。

為您的應(yīng)用生成一個(gè)完整、無(wú)依賴性的模型只需三個(gè)步驟。

收集數(shù)據(jù)并上傳數(shù)據(jù)集；該平臺(tái)接收帶標(biāo)簽的 CSV 文件

選擇數(shù)據(jù)集中的目標(biāo)變量，并選擇評(píng)估指標(biāo)

然后，平臺(tái)會(huì)在后臺(tái) “自動(dòng) ”生成神經(jīng)網(wǎng)絡(luò)，一旦算法準(zhǔn)備就緒，平臺(tái)就會(huì)通知您。

將 Neuton 模型下載為一個(gè)完整的 C 語(yǔ)言庫(kù)，并使用僅由 3 個(gè)簡(jiǎn)單函數(shù)調(diào)用組成的應(yīng)用程序接口將其集成到您的應(yīng)用程序中：

neuton_nn_setup - 設(shè)置 Neuton 的內(nèi)部組件，應(yīng)首先調(diào)用，且僅調(diào)用一次

neuton_nn_feed_inputs - 為模型推理提供并準(zhǔn)備實(shí)時(shí)輸入特征

neuton_nn_run_inference - 將實(shí)時(shí)輸入特征輸入 Neuton 模型，計(jì)算輸出結(jié)果

使用案例

Neuton 釋放了以前僅限于我們旗艦硬件的使用案例，使我們所有的 SoC 都能用于邊緣人工智能。例子包括：

預(yù)測(cè)性維護(hù)和樓宇自動(dòng)化系統(tǒng)

在每個(gè)節(jié)點(diǎn)上進(jìn)行本地?cái)?shù)據(jù)分析的智能傳感器網(wǎng)絡(luò)

遙控器和可穿戴設(shè)備的動(dòng)作和手勢(shì)識(shí)別

用于智能健康可穿戴設(shè)備的健康和活動(dòng)監(jiān)測(cè)

還有更多

對(duì)標(biāo)測(cè)試

下表列出了在同一 nRF52840 SoC 上運(yùn)行的 LiteRT 模型（以前稱為微控制器 TensorFlow Lite）和 Neuton 模型之間的對(duì)標(biāo)測(cè)試結(jié)果。該比較使用了眾所周知的 "magic wand "動(dòng)作識(shí)別用例，兩個(gè)模型都在相同的數(shù)據(jù)集上進(jìn)行了訓(xùn)練，并在相同的保留集上進(jìn)行了驗(yàn)證。

有關(guān)比較的完整文章可在此處查閱（外部鏈接）。

下一步工作

在接下來(lái)的幾個(gè)月里，我們將努力把 Neuton 集成到我們的開發(fā)生態(tài)系統(tǒng)中，增加工具、示例和支持，為開發(fā)人員提供便利，為他們的應(yīng)用增值。如果您非常想親自嘗試構(gòu)建和集成 Neuton 模型，現(xiàn)在就可以使用其傳統(tǒng)的在線平臺(tái) lab.neuton.ai 進(jìn)行測(cè)試。

審核編輯 黃宇