作者：Eleanor Hecks，《Designerly Magazine》主編

人工智能正在推動(dòng)對(duì)更快速、更智能、更高效計(jì)算的需求。然而，隨著每秒產(chǎn)生海量數(shù)據(jù)，將所有數(shù)據(jù)發(fā)送至云端處理已變得不切實(shí)際。這正是邊緣計(jì)算中AI加速器變得不可或缺的原因。

這種專用硬件能夠直接在邊緣設(shè)備上提升AI應(yīng)用的性能。在邊緣計(jì)算中，有多種類型的AI加速器，各自具有不同的優(yōu)勢(shì)、局限性和適用場(chǎng)景。

AI加速器在邊緣計(jì)算中的作用

人工智能正在各行各業(yè)加速普及，但為了滿足實(shí)時(shí)決策和數(shù)據(jù)隱私的需求，需要更快的本地化數(shù)據(jù)處理。云計(jì)算在這方面面臨諸多限制：

首先，設(shè)備與云端之間傳輸海量數(shù)據(jù)需要時(shí)間。即使在高速網(wǎng)絡(luò)下，這種往返傳輸也會(huì)引入延遲，可能造成關(guān)鍵時(shí)刻的反應(yīng)滯后。

其次，帶寬有限且成本較高，尤其是在越來越多智能設(shè)備連接的情況下，將大量數(shù)據(jù)流傳輸?shù)皆贫诉M(jìn)行處理，往往既不現(xiàn)實(shí)又代價(jià)高昂。在網(wǎng)絡(luò)基礎(chǔ)設(shè)施薄弱或偏遠(yuǎn)地區(qū)，連通性差的問題尤為突出。

最后，安全和隱私問題也使得通過網(wǎng)絡(luò)傳輸敏感信息存在風(fēng)險(xiǎn)。國(guó)防、醫(yī)療和金融等行業(yè)要求數(shù)據(jù)盡可能靠近源頭處理，以最小化泄露風(fēng)險(xiǎn)并滿足合規(guī)要求。

AI加速器正是為了解決上述問題而生。它們將AI計(jì)算能力直接部署在邊緣，讓設(shè)備在毫秒級(jí)別完成數(shù)據(jù)處理，無需依賴云端。這使得AI應(yīng)用能夠即時(shí)響應(yīng)，具備更大規(guī)模的本地智能處理能力。

5種邊緣計(jì)算常用的AI加速器

AI加速器因應(yīng)用場(chǎng)景、行業(yè)需求與性能要求不同而差異顯著。有些是高性能處理器，可支持復(fù)雜的機(jī)器學(xué)習(xí)模型；有些則是超低功耗芯片，用于執(zhí)行簡(jiǎn)單AI任務(wù)。以下是推動(dòng)邊緣創(chuàng)新的五類主流AI加速器：

1. 神經(jīng)網(wǎng)絡(luò)處理單元（NPU）

NPU專為神經(jīng)網(wǎng)絡(luò)計(jì)算設(shè)計(jì)，尤其適合處理機(jī)器學(xué)習(xí)推理任務(wù)。深度學(xué)習(xí)模型需要強(qiáng)大的并行處理能力，NPU能將神經(jīng)網(wǎng)絡(luò)的不同部分分配到多個(gè)核心中進(jìn)行并行計(jì)算，其架構(gòu)天然適配人工神經(jīng)網(wǎng)絡(luò)的運(yùn)算方式。

NPU集成了激活函數(shù)、池化、特征提取等常見AI運(yùn)算電路，大幅減少處理時(shí)間與功耗。其內(nèi)置的內(nèi)存緩沖區(qū)可確保數(shù)據(jù)在內(nèi)存與計(jì)算單元之間高效流動(dòng)。

典型應(yīng)用場(chǎng)景：

• 安防系統(tǒng)中的人臉識(shí)別
• 智能助手中的語音和語言處理
• 自動(dòng)駕駛車輛中的物體與行人檢測(cè)

2. 圖形處理單元（GPU）

GPU最初用于圖像和視頻的圖形渲染，如今已成為并行處理任務(wù)的主力硬件，可高效運(yùn)行各種AI負(fù)載。

GPU架構(gòu)包含數(shù)百到上千個(gè)小型處理核心。例如，Nvidia RTX 3090擁有10,496個(gè)CUDA核心，采用單指令多線程（SIMT）模型，可大幅提高吞吐量。GPU雖然性能強(qiáng)大，但功耗較高，對(duì)于輕量AI任務(wù)效率較低。

典型應(yīng)用場(chǎng)景：

• 工業(yè)自動(dòng)化中的實(shí)時(shí)質(zhì)量檢測(cè)
• 無人機(jī)與機(jī)器人中的導(dǎo)航
• 智慧城市基礎(chǔ)設(shè)施中的邊緣分析

3. 數(shù)字信號(hào)處理器（DSP）

DSP是一種專用于音頻、視頻與信號(hào)處理的微處理器，特別適用于通信與多媒體設(shè)備的持續(xù)數(shù)據(jù)流處理。其硬件在執(zhí)行快速傅里葉變換、濾波、矩陣運(yùn)算等重復(fù)性數(shù)學(xué)操作方面表現(xiàn)出色，具備低延遲與低功耗優(yōu)勢(shì)，適合對(duì)響應(yīng)速度要求極高的應(yīng)用。

例如，遠(yuǎn)程辦公需保障視頻會(huì)議流暢和協(xié)作實(shí)時(shí)，DSP可以在本地高效完成音視頻處理。隨著報(bào)告顯示90%的HR領(lǐng)導(dǎo)支持遠(yuǎn)程辦公，DSP能滿足數(shù)字員工對(duì)邊緣計(jì)算的需求。

典型應(yīng)用場(chǎng)景：

• 智能設(shè)備中的語音識(shí)別與降噪
• 視頻流服務(wù)中的實(shí)時(shí)音視頻處理
• 邊緣端的通信與多媒體傳輸

4. 可編程門陣列（FPGA）

FPGA是一種可重構(gòu)的集成電路，開發(fā)者可將其編程為執(zhí)行特定計(jì)算任務(wù)。它由可配置的邏輯單元、互連結(jié)構(gòu)和存儲(chǔ)模塊組成，能夠靈活地以低延遲執(zhí)行特定算法。

工程師常在需要實(shí)時(shí)性和確定性響應(yīng)的場(chǎng)景中使用FPGA。它適合處理大規(guī)模數(shù)據(jù)流且功耗低，特別適合時(shí)間敏感的任務(wù)，如機(jī)器視覺。

典型應(yīng)用場(chǎng)景：

• 航空航天與國(guó)防系統(tǒng)中的實(shí)時(shí)傳感數(shù)據(jù)處理
• 工業(yè)機(jī)器人中的自適應(yīng)AI控制
• 高速安全防護(hù)中的硬件級(jí)威脅檢測(cè)與響應(yīng)

5. AI微控制器（AI-enabled Microcontrollers）

AI微控制器是一種超低功耗計(jì)算單元，適用于資源受限設(shè)備的輕量AI任務(wù)。這類控制器具備基本的硬件支持，可運(yùn)行簡(jiǎn)單的機(jī)器學(xué)習(xí)模型，在本地進(jìn)行數(shù)據(jù)推理。相比通過蜂窩網(wǎng)絡(luò)將數(shù)據(jù)上傳至云端所需的800毫瓦，AI微控制器僅需約5毫瓦，顯著節(jié)能，特別適用于電池供電設(shè)備。

AI微控制器適合對(duì)計(jì)算要求較低、對(duì)功耗與體積有嚴(yán)格限制的邊緣環(huán)境。例如，穿戴式健康監(jiān)測(cè)設(shè)備利用它們來處理傳感器數(shù)據(jù)，實(shí)時(shí)反饋且延長(zhǎng)電池壽命。盡管無法處理復(fù)雜模型或高流量數(shù)據(jù)，但在智能設(shè)備中越來越不可或缺。

典型應(yīng)用場(chǎng)景：

• 可穿戴健康與健身設(shè)備
• 智能家居系統(tǒng)
• 環(huán)境物聯(lián)網(wǎng)傳感器（如溫度、濕度、空氣質(zhì)量監(jiān)測(cè)）

引領(lǐng)邊緣AI的未來

AI加速器正在成為推動(dòng)更快、更高效處理的關(guān)鍵。但不同類型的加速器各有所長(zhǎng)，適配不同的任務(wù)和行業(yè)應(yīng)用，因此選擇合適的加速器至關(guān)重要?？偟膩碚f，AI加速器正在重塑邊緣計(jì)算格局，并將在未來的智能應(yīng)用中扮演越來越重要的角色。

作者簡(jiǎn)介：
Eleanor Hecks 擁有超過8年技術(shù)寫作經(jīng)驗(yàn)，曾為 freeCodeCamp、Smashing Magazine 和 Fast Company 等知名媒體撰稿?，F(xiàn)任《Designerly Magazine》主編，可通過 LinkedIn 關(guān)注她的動(dòng)態(tài)。

本文翻譯自：Embedded