AI 將允許開(kāi)發(fā)人員實(shí)現(xiàn)更復(fù)雜的嵌入式系統(tǒng)行為，而新工具正在允許更多開(kāi)發(fā)人員實(shí)現(xiàn) AI。

作者：Richard Quinnell，AspenCore 全球總編輯

向某人詢問(wèn)人工智能 (AI) 的應(yīng)用——無(wú)論如何是技術(shù)人員——最有可能提到的兩個(gè)是亞馬遜的 Alexa 和自動(dòng)駕駛汽車。巧合的是，這兩者也代表了實(shí)現(xiàn)人工智能的兩種最常見(jiàn)的方法。Alexa 以云為中心，它的幾乎所有處理都發(fā)生在遠(yuǎn)離客廳那個(gè)圓柱體的某個(gè)地方的大型計(jì)算機(jī)集群上。另一方面，自動(dòng)駕駛汽車的所有處理都在車內(nèi)的大量 CPU 中完成。但是第三種方法正在興起，最近的創(chuàng)新提高了它的實(shí)用性。

第三種方法是在云中進(jìn)行部分 AI 處理，而在使用點(diǎn)（即邊緣）的設(shè)備中進(jìn)行另一部分處理。此細(xì)分遵循 AI 實(shí)施的兩個(gè)階段性質(zhì)：學(xué)習(xí)和推理。學(xué)習(xí)階段，其中人工智能框架幫助開(kāi)發(fā)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和權(quán)重，需要大量的計(jì)算資源，因此發(fā)生在云中。推理階段，其中神經(jīng)網(wǎng)絡(luò)處理輸入數(shù)據(jù)以做出決策和反應(yīng)，可以用相當(dāng)少的資源實(shí)現(xiàn)，因此可以在邊緣進(jìn)行。

這種拆分方法有幾個(gè)好處?；谠频耐评硪鬀Q策過(guò)程中使用的所有數(shù)據(jù)都必須通過(guò)網(wǎng)絡(luò)傳輸。這不僅需要大量帶寬，還會(huì)在決策和反應(yīng)步驟中增加顯著的延遲。將推理引擎放置在邊緣可以減少這種延遲以及將原始數(shù)據(jù)傳輸?shù)皆频男枰?，從而緩解帶寬?wèn)題。而且由于邊緣設(shè)備不執(zhí)行任何機(jī)器學(xué)習(xí)，它可以利用有限的資源——例如，使用微控制器而不是大型 CPU。這在使用時(shí)節(jié)省了成本和電力。

將 AI 應(yīng)用程序的一部分處理放在邊緣有助于節(jié)省帶寬并減少延遲。（圖片：快速邏輯）

然而，無(wú)論使用何種方法，在應(yīng)用程序中實(shí)施人工智能都需要相當(dāng)多的專業(yè)知識(shí)。例如，有許多 AI 框架可供選擇，開(kāi)發(fā)人員必須利用大量數(shù)據(jù)來(lái)訓(xùn)練系統(tǒng)。推理引擎必須具有足夠的正確處理能力，以便在訓(xùn)練后執(zhí)行 AI 算法。訓(xùn)練數(shù)據(jù)也需要經(jīng)過(guò)深思熟慮，以避免訓(xùn)練 AI 做出錯(cuò)誤的推斷。例如，經(jīng)過(guò)訓(xùn)練以區(qū)分照片中的汽車和坦克的人工智能在現(xiàn)場(chǎng)失敗了，因?yàn)橛?xùn)練數(shù)據(jù)集使用了在陽(yáng)光直射的露天拍攝的汽車照片和在模糊和光線不足的條件下拍攝的坦克照片。推理引擎訓(xùn)練基于照明差異而不是物體差異。

幸運(yùn)的是，越來(lái)越多的創(chuàng)新工具和硬件進(jìn)入市場(chǎng)，可以幫助開(kāi)發(fā)人員應(yīng)對(duì)所有這些挑戰(zhàn)。最近的一個(gè)例子來(lái)自 QuickLogic。該公司上個(gè)月推出了帶有 SensiML 數(shù)據(jù)分析工具包的Merced 硬件開(kāi)發(fā)工具包(HDK)，供尋求將 AI 轉(zhuǎn)移到邊緣的開(kāi)發(fā)人員使用。分析工具包可幫助非數(shù)據(jù)科學(xué)家或 AI 專家的開(kāi)發(fā)人員自動(dòng)選擇 AI 框架、訓(xùn)練 AI 以及評(píng)估訓(xùn)練數(shù)據(jù)。HDK 幫助開(kāi)發(fā)人員提升邊緣設(shè)備的硬件設(shè)計(jì)，包括傳感器和 AI 加速 IP 集成。

最近，該公司與 SiFive 合作創(chuàng)建Freedom Aware SoC 模板系列，以進(jìn)一步加速定制邊緣 AI 硬件設(shè)計(jì)。這些模板針對(duì)特定的邊緣 AI 應(yīng)用程序領(lǐng)域，包括物聯(lián)網(wǎng) (IoT)、始終在線的語(yǔ)音處理和預(yù)測(cè)性維護(hù)，提供預(yù)先測(cè)試的 IP 塊和工具，以減少開(kāi)發(fā)時(shí)間和第一塊芯片的總成本。IP 塊包括 CPU 內(nèi)核、傳感器接口、AI 加速器和電源管理。

隨著越來(lái)越多的此類工具可用，開(kāi)發(fā)人員將越來(lái)越多地發(fā)現(xiàn)自己采用了一種新的嵌入式系統(tǒng)控制設(shè)計(jì)方法。開(kāi)發(fā)人員將創(chuàng)建一個(gè) AI 加速處理器，該處理器運(yùn)行通過(guò)機(jī)器學(xué)習(xí)開(kāi)發(fā)的推理算法，而不是傳統(tǒng)的處理器運(yùn)行代碼來(lái)實(shí)現(xiàn)人為定義的算法。如果做得好，人工智能推理引擎將能夠處理過(guò)于復(fù)雜的任務(wù)，無(wú)法通過(guò)傳統(tǒng)的編碼方法實(shí)現(xiàn)經(jīng)濟(jì)高效且可靠的實(shí)施?，F(xiàn)在出現(xiàn)的創(chuàng)新工具將有助于讓 AI 新手更容易正確地做這件事。

本文是 AspenCore Media 深入研究邊緣 AI 應(yīng)用的一部分，超越了吸引大量媒體的語(yǔ)音和視覺(jué)系統(tǒng)。如需進(jìn)一步了解人工智能在語(yǔ)音和視覺(jué)之外的硬件、實(shí)現(xiàn)和影響，請(qǐng)查看特別項(xiàng)目中的其他文章：

人工智能會(huì)進(jìn)入測(cè)試行業(yè)嗎？— 人工智能和機(jī)器學(xué)習(xí)正在逐步進(jìn)入半導(dǎo)體測(cè)試領(lǐng)域，但尚未進(jìn)入功能系統(tǒng)測(cè)試領(lǐng)域，至少目前還沒(méi)有。

人工智能如何改變邊緣計(jì)算的未來(lái)——雖然將人工智能與邊緣計(jì)算相結(jié)合是有意義的，但硬件和軟件組件需要解決幾個(gè)挑戰(zhàn)，包括功耗、處理能力、數(shù)據(jù)存儲(chǔ)和安全性。

硬件幫助將 AI 遷移到邊緣——將 AI 遷移到邊緣需要什么類型的處理能力？供應(yīng)商提出了一系列答案。

人工智能使數(shù)據(jù)存儲(chǔ)更有效地進(jìn)行分析——將數(shù)據(jù)轉(zhuǎn)化為智能需要分析。正如這個(gè)概念驗(yàn)證演示所示，在存儲(chǔ)控制器中實(shí)施的 AI 可以大大加快分析速度。

連接性仍然是人工智能、機(jī)器學(xué)習(xí)工作負(fù)載主流化的核心——一場(chǎng)讓人工智能結(jié)果相關(guān)、可靠和隨時(shí)可用的競(jìng)賽。只有那些在最好的機(jī)器/深度學(xué)習(xí)基礎(chǔ)設(shè)施上訓(xùn)練過(guò)的人工智能模型，來(lái)自最大的數(shù)據(jù)集，才能生存下來(lái)。

審核編輯 黃昊宇