人工智能開始從云端轉(zhuǎn)移到邊緣。人工智能研究現(xiàn)在提供了一種有趣的可能性,即使用數(shù)千小時的強大計算資源來訓練和改進神經(jīng)網(wǎng)絡,然后能夠在廉價、低功耗的設備上運行。這使得邊緣人工智能設備成為可能,即使在離線時也可以運行,因此網(wǎng)絡連接不是必需的。這種方法利用了進化式神經(jīng)網(wǎng)絡訓練技術(shù)的力量,例如對抗性神經(jīng)網(wǎng)絡。
限制能量和存儲使用的神經(jīng)網(wǎng)絡訓練過程自然會創(chuàng)建一個神經(jīng)網(wǎng)絡,將其有限的資源集中在更有用的路徑上,同時修剪不太關(guān)鍵的區(qū)域。此過程非常適合創(chuàng)建在低功耗、低成本設備上運行的網(wǎng)絡。隨后,神經(jīng)網(wǎng)絡壓縮技術(shù)可以進一步壓縮經(jīng)過訓練的網(wǎng)絡,將內(nèi)存需求減少多達 90%,同時幾乎不影響性能——類似的技術(shù)也有助于減少計算負載。
神經(jīng)網(wǎng)絡壓縮可以像降低變量的精度一樣簡單,還包括分析、重組和修剪網(wǎng)絡。令人驚訝的結(jié)果是,巨大的計算能力(也許也可以被描述為“智能和經(jīng)驗”)可以被提煉成一種在廉價、低功耗設備上運行的形式。(事實上??,從廣義上講,我們可以將這種方法與數(shù)十億年的對抗性進化相比較,最終將智能生命封裝在微小的 DNA 鏈中)。
如果您假設 AI 意味著一種可以學習和改進的人類智能,那么這種邊緣計算策略的目標可能看起來有悖常理。這是因為許多簡單的邊緣應用程序最好由部署后不會更改或顯著改進的設備提供服務——我們只希望它們能夠可靠且可預測地執(zhí)行任務。
對于低成本邊緣設備和物聯(lián)網(wǎng)設備的開發(fā)者來說,AI 工具包在不斷擴展,價格也在下降。新產(chǎn)品包括支持 AI 的FPGA到神經(jīng)網(wǎng)絡加速器,如 Redpine 的 QueSSence智能連接平臺,以及為典型的低功耗計算和連接模塊添加 AI 加速功能的 AAEON UP AI Core X系列,這些都是物聯(lián)網(wǎng)邊緣設備的理想選擇。
人工智能使革命性的新產(chǎn)品成為可能
想象一下添加人工智能如何增強日常設備和物聯(lián)網(wǎng)。板載、低成本的人工智能可以改造最普通的設備——例如,為免提操作的開關(guān)添加可靠的語音識別——但讓我們也看看一些更復雜的潛在應用:
配備 AI 的安全攝像頭可以快速學會識別熟悉的面孔、寵物等,并在看到意外的人或動物時觸發(fā)警報。即使在斷開電源和網(wǎng)絡的情況下也能決定是否發(fā)出警報,這顯然是安全設備的優(yōu)勢!借助機器學習技術(shù),這種智能安全攝像頭的作用可以遠遠超出傳統(tǒng)的自動攝像頭,例如,它可以識別并警告火災、泄漏、結(jié)構(gòu)故障(如損壞的屋頂或窗戶)和各種其他危險和事件。
經(jīng)過訓練的發(fā)動機監(jiān)控系統(tǒng)可以利用其板載 AI 功能通過集成傳感器讀數(shù)、分析振動模式和其他線索來檢測異常并優(yōu)化性能。這種來自廣泛傳感器融合的分析超出了傳統(tǒng)算法的能力,在某些情況下可能超過人類工程師的表現(xiàn)。本地化 AI 在沒有網(wǎng)絡連接的情況下工作的能力允許超低延遲響應以實時微調(diào)性能,并且在由于遠程位置或射頻干擾而網(wǎng)絡連接困難的情況下以及在移動應用程序中是一個巨大的好處,例如車輛和飛機。
機器中的幽靈:問題和解決方案
人工智能可能是不可預測的,并且在我們沒有機會測試的邊緣情況下可能會出錯。考慮減輕這種情況的方法,例如為用戶提供后備模式。這可能會讓他們關(guān)閉“智能”人工智能,并讓設備重新依賴更簡單的老式算法,因此它仍然可以正常工作且有用,盡管沒有高級人工智能功能。此外,雖然板載智能是一個關(guān)鍵賣點,但開發(fā)人員仍然可以權(quán)衡何時在邊緣做出決策以及何時將其推回云端或請求人工指導的利弊(事實上,這種選擇本身可能由設備上的AI實時引導)。
啞設備即將變得智能
將強大的、預先訓練的 AI 封裝到低功耗、低成本設備中的潛力為改造普通商品設備、為其增加價值以及開發(fā)新產(chǎn)品和新市場提供了幾乎無限的機會。
審核編輯:郭婷
-
傳感器
+關(guān)注
關(guān)注
2576文章
55127瀏覽量
791925 -
人工智能
+關(guān)注
關(guān)注
1819文章
50134瀏覽量
265756
發(fā)布評論請先 登錄
陶氏化學借助AI技術(shù)重塑網(wǎng)絡安全
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應用
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰(zhàn)
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+內(nèi)容總覽
RK3576助力智慧安防:8路高清采集與AI識別
【書籍評測活動NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》
制作團隊如何借助NVIDIA RTX AI讓創(chuàng)意成真
最新人工智能硬件培訓AI基礎(chǔ)入門學習課程參考2025版(離線AI語音視覺識別篇)
NVIDIA攜手諾和諾德借助AI加速藥物研發(fā)
如何借助NVIDIA ARC-Compact在基站部署AI-RAN
如何借助AI獲得優(yōu)勢
評論