從算法原型到嵌入式產(chǎn)品，中間隔著一道不淺的溝。不少團隊在PC上跑通了模型，信心滿滿地往ARM板上一放，才發(fā)現(xiàn)幀率掉到零點幾，界面卡死，內(nèi)存泄漏……這些問題不是靠調(diào)幾個參數(shù)能解決的，需要系統(tǒng)性地理解整個開發(fā)鏈條。

一、QT界面開發(fā)：算法與界面必須解耦

嵌入式AI應(yīng)用通常需要圖形界面，QT是常見選擇。但開發(fā)中容易陷入一個誤區(qū)：把算法函數(shù)直接寫在界面類的響應(yīng)函數(shù)里。點一下“開始檢測”，界面就卡住，直到檢測完成才能動。

QT的信號與槽機制天然適合處理這類問題。把耗時任務(wù)放在QThread里執(zhí)行，通過信號把結(jié)果傳回主界面，界面就能保持響應(yīng)。更進一步，可以用讀寫者模式管理多路視頻：一個線程負(fù)責(zé)采集，放入環(huán)形緩沖區(qū)；幾個檢測線程從緩沖區(qū)取數(shù)據(jù)；顯示線程統(tǒng)一渲染。這樣各路視頻互不干擾，資源利用率也高。

算法層和界面層應(yīng)當(dāng)徹底分離。定義一套算法接口，YOLOv5、YOLOv8等不同模型都實現(xiàn)這個接口。界面只調(diào)用接口，不關(guān)心具體實現(xiàn)。換模型只需要改配置，界面代碼幾乎不用動。

二、OpenCV算法落地：不能照搬PC代碼

PC上OpenCV怎么方便怎么來，到了嵌入式平臺就得精打細(xì)算。圖像預(yù)處理這條鏈，在PC上可能幾毫秒，在嵌入式上就是幾十毫秒。需要檢查每一步的開銷，看看能否用硬件加速替代。

NPU對輸入格式有特定要求。比如RK3588的NPU需要RGB planar格式，而OpenCV默認(rèn)是interleaved。轉(zhuǎn)換格式本身就會消耗時間，最好能用硬件支持的API直接完成。同樣，圖像解碼、縮放等操作，如果能用硬件解碼器和RGA（Raster Graphics Acceleration）加速，能省下不少CPU資源。

模型部署是另一道坎。PyTorch訓(xùn)練好的模型，需要轉(zhuǎn)換成目標(biāo)平臺支持的格式：RKNN（RK3588）或TensorRT（Jetson）。轉(zhuǎn)換過程中精度會有損失，需要反復(fù)校準(zhǔn)。常見問題包括輸入歸一化參數(shù)不一致、輸出解析錯誤等。轉(zhuǎn)換后的模型最好在板子上用真實數(shù)據(jù)驗證一遍，確保檢測框位置和置信度符合預(yù)期。

三、嵌入式平臺適配：每塊板子有自己的脾氣

RK3588和Jetson Orin是當(dāng)前主流的嵌入式AI平臺，但開發(fā)體驗差異不小。交叉編譯環(huán)境搭建就是個開端，庫依賴容易出問題。用Docker創(chuàng)建編譯環(huán)境是個好習(xí)慣，一次配置，到處使用。

性能調(diào)優(yōu)需要深入硬件細(xì)節(jié)。同樣一個YOLOv8模型，在Jetson上用TensorRT跑，在RK3588上用RKNN跑，代碼路徑不一樣，優(yōu)化技巧也不一樣。需要查閱硬件手冊，了解NPU、CPU、GPU如何協(xié)同工作。有時候檢測瓶頸不在模型推理，而在圖像解碼——用硬件解碼器能快好幾倍。

內(nèi)存管理要特別小心。嵌入式設(shè)備內(nèi)存有限，每幀都動態(tài)分配圖像對象，很快會導(dǎo)致內(nèi)存碎片甚至泄漏。對象池是個有效方案：預(yù)先分配固定數(shù)量的圖像對象，循環(huán)使用，避免頻繁new/delete。

四、多路視頻處理：讀寫者模式

安防監(jiān)控、工業(yè)檢測等場景經(jīng)常需要同時處理多路視頻。如果每路開一個線程，CPU很快就會被壓垮。讀寫者模式更適合：一個采集線程輪詢各路攝像頭，把原始幀放入環(huán)形緩沖區(qū)；幾個檢測線程從緩沖區(qū)取幀，處理完后放入結(jié)果隊列；顯示線程統(tǒng)一渲染。

緩沖區(qū)大小要合理設(shè)置，太小容易丟幀，太大會增加延遲。還要注意幀率匹配，如果檢測速度跟不上采集速度，需要做丟幀策略。

五、從原型到產(chǎn)品，每一步都不能省

嵌入式AI產(chǎn)品開發(fā)，不是“寫個算法然后拷過去”那么簡單。界面要響應(yīng)快，算法要跑得穩(wěn)，硬件資源要榨干，還要考慮設(shè)備長時間運行的散熱和穩(wěn)定性。

現(xiàn)場運行半年后死機，查下來往往是內(nèi)存泄漏——某個cv::Mat沒有釋放。壓力測試、長時間測試必不可少。模型精度在實驗室沒問題，到了現(xiàn)場光照變了，檢測率下降，需要采集真實場景數(shù)據(jù)重新訓(xùn)練或微調(diào)。

工程師高培覺得嵌入式AI開發(fā)需要的不是單點技術(shù)，而是全局視角：QT界面、OpenCV算法、模型部署、多線程優(yōu)化、硬件加速、系統(tǒng)穩(wěn)定性，缺一不可。

審核編輯 黃宇