新聞提要

恩智浦在eIQ AI和機(jī)器學(xué)習(xí)開(kāi)發(fā)軟件中增加了帶有檢索增強(qiáng)生成（RAG）與微調(diào)的生成式人工智能（GenAI）流程和eIQ Time Series Studio，以便在小型微控制器（MCU）、功能更強(qiáng)大的大型應(yīng)用處理器（MPU）等各種邊緣處理器上輕松部署和使用AI。

恩智浦半導(dǎo)體宣布在其eIQ AI和機(jī)器學(xué)習(xí)開(kāi)發(fā)軟件中增加兩款新工具，以便輕松在各種邊緣處理器上部署和使用AI邊緣。

eIQ Time Series Studio提供自動(dòng)機(jī)器學(xué)習(xí)工作流程，可輕松在MCU級(jí)芯片（如MCX系列MCU產(chǎn)品組合或i.MX RT跨界MCU產(chǎn)品組合）上開(kāi)發(fā)和部署基于時(shí)間序列的機(jī)器學(xué)習(xí)模型。

GenAI流程為支持生成式AI解決方案的大語(yǔ)言模型（LLM）提供構(gòu)建模塊。此類(lèi)方案與MPU（如恩智浦i.MX系列應(yīng)用處理器）結(jié)合使用，通過(guò)在特定上下文數(shù)據(jù)中訓(xùn)練LLM，簡(jiǎn)化智能邊緣的部署。例如，配備LLM的電器經(jīng)過(guò)用戶(hù)手冊(cè)訓(xùn)練后，能夠用自然語(yǔ)言與用戶(hù)交流，告知用戶(hù)如何使用特定功能、執(zhí)行特定任務(wù)或優(yōu)化使用和維護(hù)。

重要意義

在邊緣部署AI有諸多好處，包括降低延遲、加強(qiáng)用戶(hù)隱私保護(hù)及減少能耗。恩智浦eIQ工具包擴(kuò)展可顯著簡(jiǎn)化并加速部署流程，開(kāi)發(fā)人員能夠訪(fǎng)問(wèn)更廣泛的使用各類(lèi)模型類(lèi)型，包括生成式AI、基于時(shí)間序列的模型以及基于視覺(jué)的模型。此外，用戶(hù)能夠在各類(lèi)邊緣處理器上部署模型。

恩智浦半導(dǎo)體資深副總裁、工業(yè)和物聯(lián)網(wǎng)總經(jīng)理Charles Dachs表示：“AI是實(shí)現(xiàn)基于用戶(hù)需求進(jìn)行預(yù)測(cè)和自動(dòng)化的關(guān)鍵，但它必須以適用于邊緣部署的方式進(jìn)行開(kāi)發(fā)。恩智浦為MCU（如MCX系列）、i.MX RT700等跨界MCU上的小型AI模型以及在i.MX 95應(yīng)用處理器等更強(qiáng)大的設(shè)備上運(yùn)行的大型生成式AI模型提供即時(shí)可用的工具，為開(kāi)發(fā)人員提供了豐富的選擇，涵蓋各類(lèi)AI模型和支持AI的邊緣處理器，使得邊緣AI真正適用于各行各業(yè)的應(yīng)用開(kāi)發(fā)人員” 。

eIQ Time Series Studio可簡(jiǎn)化并加速基于時(shí)間序列的AI模型的開(kāi)發(fā)與部署，支持多種輸入信號(hào)（如電壓、電流、溫度、振動(dòng)、壓力、聲音、飛行時(shí)間及信號(hào)組合）以及多模態(tài)傳感器融合。借助自動(dòng)機(jī)器學(xué)習(xí)功能，開(kāi)發(fā)人員能夠從原始時(shí)間序列數(shù)據(jù)中提取有意義的見(jiàn)解，快速構(gòu)建符合性能、內(nèi)存、Flash存儲(chǔ)大小和精度要求的AI模型。該工具提供完整的開(kāi)發(fā)環(huán)境，包括數(shù)據(jù)管理、可視化和分析以及模型自動(dòng)生成、優(yōu)化、仿真和部署。界面簡(jiǎn)潔直觀(guān)，軟件開(kāi)發(fā)人員無(wú)需具備深厚的數(shù)據(jù)科學(xué)或AI專(zhuān)業(yè)知識(shí)即可創(chuàng)建經(jīng)過(guò)優(yōu)化的異常檢測(cè)、分類(lèi)和回歸庫(kù)。

恩智浦的GenAI流程使得生成式AI應(yīng)用可以在邊緣設(shè)備上部署。這一軟件流程提供了優(yōu)化生成模型的方法，并提供檢索增強(qiáng)生成（RAG），可在不向模型或處理器提供商披露敏感信息的情況下，利用領(lǐng)域特定知識(shí)和私有數(shù)據(jù)以安全的方式微調(diào)模型。通過(guò)將多個(gè)模塊接入單一流程，客戶(hù)可根據(jù)其任務(wù)輕松定制LLM，并使用恩智浦i.MX 95應(yīng)用處理器等MPU對(duì)其進(jìn)行優(yōu)化，以便在邊緣部署。