超低功耗無(wú)線物聯(lián)網(wǎng)連接領(lǐng)域的全球領(lǐng)先企業(yè) Nordic Semiconductor今日宣布收購(gòu)邊緣設(shè)備全自動(dòng) TinyML 解決方案先驅(qū) Neuton.AI 的知識(shí)產(chǎn)權(quán)和核心技術(shù)資產(chǎn)。此次收購(gòu)將 Nordic 業(yè)界領(lǐng)先的 nRF54L 系列超低功耗無(wú)線 SoC 與 Neuton 革命性的神經(jīng)網(wǎng)絡(luò)框架相結(jié)合，開(kāi)啟邊緣機(jī)器學(xué)習(xí)的新紀(jì)元，即使是資源受限的設(shè)備也能擁有可擴(kuò)展的高性能人工智能 (AI)。

Nordic Semiconductor 首席執(zhí)行官兼總裁 Vegard Wollan 表示：“這是嵌入式計(jì)算能力和效率的重大發(fā)展。通過(guò)將 Nordic 在低功耗無(wú)線領(lǐng)域的領(lǐng)先地位與 Neuton.AI 先進(jìn)的 TinyML 平臺(tái)相結(jié)合，我們使得開(kāi)發(fā)者能夠構(gòu)建出一類全新的始終在線、人工智能驅(qū)動(dòng)的設(shè)備，具備更快速度、更小體積和更高能效。”

智能可擴(kuò)展性與易用性實(shí)現(xiàn)飛躍

Neuton.AI 的技術(shù)突破在于其全自動(dòng)平臺(tái)，該平臺(tái)創(chuàng)建的機(jī)器學(xué)習(xí)模型通常小于 5 KB，比其他方法小 10 倍，速度也更快。這些模型極其易用，無(wú)需手動(dòng)調(diào)優(yōu)或數(shù)據(jù)科學(xué)專業(yè)知識(shí)，并可在 8 位、16 位和 32 位 MCU 上快速部署。

Neuton.AI 通過(guò)其無(wú)需預(yù)定義架構(gòu)即可自動(dòng)構(gòu)建超小型模型的創(chuàng)新神經(jīng)網(wǎng)絡(luò)框架，為消費(fèi)、醫(yī)療保健和工業(yè)市場(chǎng)的邊緣應(yīng)用提供準(zhǔn)確、節(jié)能且快速的人工智能，同時(shí)節(jié)省各種寶貴的設(shè)備和系統(tǒng)資源，例如電源和代碼內(nèi)存。

低功耗與計(jì)算智能的結(jié)合

Nordic Semiconductor 短距離無(wú)線技術(shù)執(zhí)行副總裁 Oyvind Strom 表示：“我們很榮幸能夠?qū)?Neuton 先進(jìn)的機(jī)器學(xué)習(xí)技術(shù)與 Nordic 超低功耗 nRF54L 系列的卓越性能完美結(jié)合，重新定義超高效機(jī)器學(xué)習(xí)應(yīng)用的可能性。雙方攜手合作，將幫助開(kāi)發(fā)者構(gòu)建更智能、超低功耗的設(shè)備，在邊緣實(shí)現(xiàn)真正的機(jī)器學(xué)習(xí)，這不僅適用于 nRF54L 系列，也適用于 Nordic 所有無(wú)線連接 SoC 產(chǎn)品組合。嵌入式人工智能將比以往更唾手可得和易于擴(kuò)展。Neuton 先進(jìn)的機(jī)器學(xué)習(xí)技術(shù)為下一代邊緣人工智能設(shè)備提供了輕松集成和值得信賴的智能?！?/p>

實(shí)現(xiàn)邊緣人工智能的未來(lái)

此次收購(gòu)正值邊緣節(jié)點(diǎn)智能需求加速增長(zhǎng)之際。預(yù)計(jì)到 2030 年，TinyML 芯片組出貨量將達(dá)到 59 億美元*。Nordic 準(zhǔn)備抓住這一機(jī)遇，為開(kāi)發(fā)者提供強(qiáng)大且可擴(kuò)展的人工智能/機(jī)器學(xué)習(xí)(https://www.21ic.com/tags/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0)工具包，用于預(yù)測(cè)性維護(hù)、智能健康監(jiān)測(cè)、流程自動(dòng)化、手勢(shì)識(shí)別、下一代消費(fèi)級(jí)可穿戴設(shè)備和物聯(lián)網(wǎng)(https://www.21ic.com/tags/%E7%89%A9%E8%81%94%E7%BD%91)設(shè)備等應(yīng)用。

融合與展望

此次收購(gòu)涵蓋 Neuton.AI 的所有知識(shí)產(chǎn)權(quán)和部分資產(chǎn)，以及其以績(jī)效為導(dǎo)向、由13位高技能工程師和數(shù)據(jù)科學(xué)家組成的團(tuán)隊(duì)。Neuton.AI 品牌和平臺(tái)將在初始整合階段繼續(xù)運(yùn)營(yíng)，確保繼續(xù)為現(xiàn)有用戶和合作伙伴提供不間斷的服務(wù)。

Neuton 是一家邊緣 AI 公司，致力于使機(jī)器學(xué)習(xí)模型更易于訪問(wèn)。它創(chuàng)建的模型比競(jìng)爭(zhēng)對(duì)手的框架小 10 倍，速度也快 10 倍，甚至可以在最先進(jìn)的邊緣設(shè)備上進(jìn)行人工智能處理。在這篇博文中，我們將介紹這對(duì)開(kāi)發(fā)人員意味著什么，以及使用 Neuton 模型如何改進(jìn)您的開(kāi)發(fā)和終端應(yīng)用。

為什么選擇 Neuton

作為開(kāi)發(fā)人員，在產(chǎn)品中使用邊緣人工智能的兩個(gè)最大障礙是：

1. ML 模型對(duì)于您所選微控制器的內(nèi)存來(lái)說(shuō)太大。
2. 創(chuàng)建自定義 ML 模型本質(zhì)上是一個(gè)手動(dòng)過(guò)程，需要高度的數(shù)據(jù)科學(xué)知識(shí)才能做好。

現(xiàn)在，這些阻礙即將被解決。

Neuton 是一個(gè)自動(dòng)生成 ML 模型的框架，其大小僅為 TensorFlow Lite 等傳統(tǒng)框架的一小部分。對(duì)于開(kāi)發(fā)人員來(lái)說(shuō)，這意味著要訓(xùn)練一個(gè)高度優(yōu)化、快速和準(zhǔn)確的 ML 模型，你所需要的只是一個(gè)數(shù)據(jù)集。Neuton 模型可以在任何 Nordic SoC（如我們的旗艦產(chǎn)品 nRF54L15）上運(yùn)行，而且非常高效，也非常適合空間最有限的 SoC（如 nRF52805），只占用幾千字節(jié)的非易失性存儲(chǔ)器（NVM）。這使得以前被認(rèn)為不可能的應(yīng)用也能增加 ML 功能。例如，您現(xiàn)在可以在廣泛的傳感器網(wǎng)絡(luò)的每個(gè)節(jié)點(diǎn)上進(jìn)行人工智能處理，而在這種網(wǎng)絡(luò)中，傳感器的尺寸和成本是關(guān)鍵，空間也非常寶貴。

Neuton 的與眾不同

其他邊緣人工智能框架比比皆是，而且存在已久。Neuton 與 LiteRT（又稱微控制器 TensorFlow Lite）和類似框架的主要區(qū)別在于，其他框架仍然依賴于開(kāi)發(fā)人員掌握如何手動(dòng)組織神經(jīng)網(wǎng)絡(luò)、神經(jīng)元和網(wǎng)絡(luò)深度的知識(shí)，然后在事后對(duì)模型進(jìn)行壓縮和優(yōu)化，使其適合所需的目標(biāo)設(shè)備。這種方法導(dǎo)致模型在代碼大小、執(zhí)行速度和功耗方面效率較低。

而 Neuton 可以自動(dòng)處理所有這些問(wèn)題。Neuton 不會(huì)從一開(kāi)始就靜態(tài)定義網(wǎng)絡(luò)參數(shù)，而是自動(dòng)生成網(wǎng)絡(luò)，并檢查每一個(gè)新神經(jīng)元是否能提高模型性能。不增加價(jià)值的神經(jīng)元會(huì)被立即移除，以節(jié)省資源。這為開(kāi)發(fā)者帶來(lái)了多重好處：

1. 無(wú)需手動(dòng)選擇神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)、參數(shù)或架構(gòu)
2. 無(wú)需資源密集型的自動(dòng)神經(jīng)架構(gòu)搜索 (NAS)
3. 代碼體積盡可能小，無(wú)需壓縮或優(yōu)化
4. 執(zhí)行速度更快，這意味著功耗更低

Neuton 模型以純 C 代碼形式從平臺(tái)下載，沒(méi)有外部依賴性或特殊運(yùn)行要求。它們可隨時(shí)集成到在任何 Arm Cortex-M 系列處理器上運(yùn)行的任何應(yīng)用中，如 nRF52、nRF53、nRF54L 和 nRF54H 系列 SoC 或 nRF91 系列 SiP 的應(yīng)用內(nèi)核。

這對(duì)開(kāi)發(fā)人員意味著什么

使用 Neuton 框架創(chuàng)建 ML 模型已經(jīng)可以通過(guò) lab.neuton.ai 實(shí)現(xiàn)。如果您迫不及待，現(xiàn)在就可以嘗試使用，但請(qǐng)注意，您需要自己將其集成到 nRF Connect SDK 應(yīng)用程序中，因?yàn)槟壳斑€沒(méi)有這方面的示例。如果您更喜歡 Nordic 眾所周知的更簡(jiǎn)化的開(kāi)發(fā)流程和開(kāi)發(fā)體驗(yàn)，我們正計(jì)劃適配我們的開(kāi)發(fā)者生態(tài)的重大改進(jìn)。因此，如果您不想自己完成所有的集成工作，您可以等待我們nRF Connect SDK 示例和必要開(kāi)發(fā)工具，來(lái)構(gòu)建與我們的解決方案無(wú)縫集成的模型。

工作原理

盡管通過(guò)專用示例固件與 nRF Connect SDK 的集成仍在進(jìn)行中，但使用 Neuton 框架生成模型已經(jīng)完全實(shí)現(xiàn)自動(dòng)化，而且非常簡(jiǎn)單。

為您的應(yīng)用生成一個(gè)完整、無(wú)依賴性的模型只需三個(gè)步驟。

1. 收集數(shù)據(jù)并上傳數(shù)據(jù)集；該平臺(tái)接收帶標(biāo)簽的 CSV 文件
2. 選擇數(shù)據(jù)集中的目標(biāo)變量，并選擇評(píng)估指標(biāo)
3. 然后，平臺(tái)會(huì)在后臺(tái) “自動(dòng) ”生成神經(jīng)網(wǎng)絡(luò)，一旦算法準(zhǔn)備就緒，平臺(tái)就會(huì)通知您。

將 Neuton 模型下載為一個(gè)完整的 C 語(yǔ)言庫(kù)，并使用僅由 3 個(gè)簡(jiǎn)單函數(shù)調(diào)用組成的應(yīng)用程序接口將其集成到您的應(yīng)用程序中：

• neuton_nn_setup - 設(shè)置 Neuton 的內(nèi)部組件，應(yīng)首先調(diào)用，且僅調(diào)用一次
• neuton_nn_feed_inputs - 為模型推理提供并準(zhǔn)備實(shí)時(shí)輸入特征
• neuton_nn_run_inference - 將實(shí)時(shí)輸入特征輸入 Neuton 模型，計(jì)算輸出結(jié)果

使用案例

Neuton 釋放了以前僅限于我們旗艦硬件的使用案例，使我們所有的 SoC 都能用于邊緣人工智能。例子包括：

• 預(yù)測(cè)性維護(hù)和樓宇自動(dòng)化系統(tǒng)
• 在每個(gè)節(jié)點(diǎn)上進(jìn)行本地?cái)?shù)據(jù)分析的智能傳感器網(wǎng)絡(luò)
• 遙控器和可穿戴設(shè)備的動(dòng)作和手勢(shì)識(shí)別
• 用于智能健康可穿戴設(shè)備的健康和活動(dòng)監(jiān)測(cè)
• 還有更多

對(duì)標(biāo)測(cè)試

下表列出了在同一 nRF52840 SoC 上運(yùn)行的 LiteRT 模型（以前稱為微控制器 TensorFlow Lite）和 Neuton 模型之間的對(duì)標(biāo)測(cè)試結(jié)果。該比較使用了眾所周知的 "magic wand "動(dòng)作識(shí)別用例，兩個(gè)模型都在相同的數(shù)據(jù)集上進(jìn)行了訓(xùn)練，并在相同的保留集上進(jìn)行了驗(yàn)證。

有關(guān)比較的完整文章可在此處查閱（外部鏈接）。

下一步工作

在接下來(lái)的幾個(gè)月里，我們將努力把 Neuton 集成到我們的開(kāi)發(fā)生態(tài)系統(tǒng)中，增加工具、示例和支持，為開(kāi)發(fā)人員提供便利，為他們的應(yīng)用增值。如果您非常想親自嘗試構(gòu)建和集成 Neuton 模型，現(xiàn)在就可以使用其傳統(tǒng)的在線平臺(tái) lab.neuton.ai 進(jìn)行測(cè)試。