人工智能研究現(xiàn)在提供了使用數(shù)千小時(shí)的強(qiáng)大計(jì)算資源來訓(xùn)練和完善神經(jīng)網(wǎng)絡(luò)的可能性,然后神經(jīng)網(wǎng)絡(luò)將能夠在廉價(jià)、低功耗設(shè)備上運(yùn)行。
人工智能開始從云端轉(zhuǎn)移到邊緣。人工智能研究現(xiàn)在提供了一種有趣的可能性,即使用數(shù)千小時(shí)的強(qiáng)大計(jì)算資源來訓(xùn)練和完善神經(jīng)網(wǎng)絡(luò),然后能夠在廉價(jià)、低功耗設(shè)備上運(yùn)行。這使得邊緣AI設(shè)備成為可能,即使在離線時(shí)也可以運(yùn)行,因此網(wǎng)絡(luò)連接不是必需的。這種方法利用了進(jìn)化式神經(jīng)網(wǎng)絡(luò)訓(xùn)練技術(shù)(如對抗性神經(jīng)網(wǎng)絡(luò))的強(qiáng)大功能。
對能源和存儲使用有限制的神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程自然會創(chuàng)建一個(gè)神經(jīng)網(wǎng)絡(luò),將其有限的資源集中在更有用的路徑上,同時(shí)修剪不太重要的區(qū)域。此過程非常適合創(chuàng)建在低功耗、低成本設(shè)備上運(yùn)行的網(wǎng)絡(luò)。隨后,神經(jīng)網(wǎng)絡(luò)壓縮技術(shù)可以進(jìn)一步壓縮經(jīng)過訓(xùn)練的網(wǎng)絡(luò),將內(nèi)存需求降低多達(dá) 90%,同時(shí)幾乎不會影響性能——類似的技術(shù)也有助于減少計(jì)算負(fù)載。
神經(jīng)網(wǎng)絡(luò)壓縮可以像降低變量精度一樣簡單,但也包括分析、重組和修剪網(wǎng)絡(luò)。令人驚訝的結(jié)果是,海量計(jì)算能力(也許也可以被描述為“智能和經(jīng)驗(yàn)”)可能會被提煉成一種在廉價(jià)、低功耗設(shè)備上運(yùn)行的形式。(事實(shí)上,從廣義上講,我們可以將這種方法與數(shù)十億年的對抗性進(jìn)化相提并論,后者最終將智能生命封裝在微小的DNA鏈中)。
如果你認(rèn)為人工智能意味著一種學(xué)習(xí)和改進(jìn)的人類式智能,那么這種邊緣計(jì)算策略的目標(biāo)似乎違反直覺。這是因?yàn)樵S多簡單的邊緣應(yīng)用程序最好由部署后不會發(fā)生顯著變化或改進(jìn)的設(shè)備提供服務(wù)——我們只希望它們能夠可靠且可預(yù)測地執(zhí)行任務(wù)。
對于低成本邊緣設(shè)備和物聯(lián)網(wǎng)設(shè)備的開發(fā)人員來說,人工智能工具包正在不斷擴(kuò)大,價(jià)格也在下降。新產(chǎn)品范圍從支持AI的FPGA到神經(jīng)網(wǎng)絡(luò)加速器,如Redpine的QueSSence智能連接平臺,以及研揚(yáng)科技UP AI Core X系列,這些系列為典型的低功耗計(jì)算和連接模塊添加了AI加速功能,非常適合物聯(lián)網(wǎng)邊緣設(shè)備。
人工智能使革命性的新產(chǎn)品成為可能
想象一下,添加 AI 如何增強(qiáng)日常設(shè)備和物聯(lián)網(wǎng)。板載低成本人工智能可以改變最普通的設(shè)備 - 例如,為交換機(jī)添加可靠的語音識別以實(shí)現(xiàn)免提操作 - 但讓我們也看看一些更復(fù)雜的潛在應(yīng)用:
配備人工智能的安全攝像頭可以快速學(xué)會識別熟悉的面孔、寵物等,并在看到意外的人或動物時(shí)觸發(fā)警報(bào)。即使在斷開電源和網(wǎng)絡(luò)連接的情況下,也能決定是否發(fā)出警報(bào),這對于安全設(shè)備來說顯然是一個(gè)加分項(xiàng)!借助機(jī)器學(xué)習(xí)技術(shù),這種智能安全攝像頭的作用可以遠(yuǎn)遠(yuǎn)超出傳統(tǒng)的自動攝像頭,例如,它可以識別和警告火災(zāi)、泄漏、結(jié)構(gòu)故障(如屋頂或窗戶損壞)以及各種其他危險(xiǎn)和事件。
訓(xùn)練有素的發(fā)動機(jī)監(jiān)控系統(tǒng)可以使用其機(jī)載 AI 功能通過集成傳感器讀數(shù)、分析振動模式和其他線索來檢測異常并優(yōu)化性能。這種來自廣泛傳感器融合的分析超出了傳統(tǒng)算法的能力,在某些情況下可能超過人類工程師的表現(xiàn)。本地化 AI 在沒有網(wǎng)絡(luò)連接的情況下工作的能力允許超低延遲響應(yīng),以實(shí)時(shí)微調(diào)性能,并且在由于遠(yuǎn)程位置或射頻干擾而導(dǎo)致網(wǎng)絡(luò)連接困難的情況下以及在車輛和飛機(jī)等移動應(yīng)用中,這是一個(gè)巨大的優(yōu)勢。
機(jī)器中的幽靈:問題和解決方案
人工智能可能是不可預(yù)測的,并且在我們沒有機(jī)會測試的邊緣情況下可能會出錯(cuò)。請考慮緩解此問題的方法,例如為用戶提供回退模式。這可能允許他們關(guān)閉“智能”AI,并允許設(shè)備回退到依賴更簡單的老式算法,因此它仍然有效且有用,盡管沒有先進(jìn)的AI功能。此外,雖然板載智能是一個(gè)關(guān)鍵賣點(diǎn),但開發(fā)人員仍然可以權(quán)衡何時(shí)在邊緣做出決策以及何時(shí)將它們推回云端或請求人工指導(dǎo)的利弊(事實(shí)上,這種選擇本身可能由設(shè)備上的人工智能實(shí)時(shí)指導(dǎo))。
啞設(shè)備即將變得智能
將強(qiáng)大的、預(yù)先訓(xùn)練好的人工智能打包成低功耗、低成本設(shè)備的潛力為改造普通商品設(shè)備、為其增加價(jià)值以及開發(fā)新產(chǎn)品和新市場提供了幾乎無限的機(jī)會。
審核編輯:郭婷
-
FPGA
+關(guān)注
關(guān)注
1661文章
22440瀏覽量
637370 -
AI
+關(guān)注
關(guān)注
91文章
40201瀏覽量
301833
發(fā)布評論請先 登錄
華為發(fā)布AI容器技術(shù)Flex:ai,算力平均利用率提升30%
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片到AGI芯片
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI的科學(xué)應(yīng)用
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI的未來:提升算力還是智力
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+第二章 實(shí)現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片的需求和挑戰(zhàn)
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+可期之變:從AI硬件到AI濕件
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+內(nèi)容總覽
AI 芯片浪潮下,職場晉升新契機(jī)?
【書籍評測活動NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》
最新人工智能硬件培訓(xùn)AI基礎(chǔ)入門學(xué)習(xí)課程參考2025版(離線AI語音視覺識別篇)
全球各大品牌利用NVIDIA AI技術(shù)提升運(yùn)營效率
小智AI移植到ESP32P4-Fucntion-EV-Board實(shí)機(jī)演示
海思SD3403邊緣計(jì)算AI數(shù)據(jù)訓(xùn)練概述
AI眼鏡采用pogopin磁吸充電連接優(yōu)勢分析
利用AI獲得優(yōu)勢
評論