從算法原型到嵌入式產(chǎn)品，中間隔著一道不淺的溝。不少團(tuán)隊(duì)在PC上跑通了模型，信心滿滿地往ARM板上一放，才發(fā)現(xiàn)幀率掉到零點(diǎn)幾，界面卡死，內(nèi)存泄漏……這些問題不是靠調(diào)幾個(gè)參數(shù)能解決的，需要系統(tǒng)性地理解整個(gè)開發(fā)鏈條。

一、QT界面開發(fā)：算法與界面必須解耦

嵌入式AI應(yīng)用通常需要圖形界面，QT是常見選擇。但開發(fā)中容易陷入一個(gè)誤區(qū)：把算法函數(shù)直接寫在界面類的響應(yīng)函數(shù)里。點(diǎn)一下“開始檢測(cè)”，界面就卡住，直到檢測(cè)完成才能動(dòng)。

QT的信號(hào)與槽機(jī)制天然適合處理這類問題。把耗時(shí)任務(wù)放在QThread里執(zhí)行，通過信號(hào)把結(jié)果傳回主界面，界面就能保持響應(yīng)。更進(jìn)一步，可以用讀寫者模式管理多路視頻：一個(gè)線程負(fù)責(zé)采集，放入環(huán)形緩沖區(qū)；幾個(gè)檢測(cè)線程從緩沖區(qū)取數(shù)據(jù)；顯示線程統(tǒng)一渲染。這樣各路視頻互不干擾，資源利用率也高。

算法層和界面層應(yīng)當(dāng)徹底分離。定義一套算法接口，YOLOv5、YOLOv8等不同模型都實(shí)現(xiàn)這個(gè)接口。界面只調(diào)用接口，不關(guān)心具體實(shí)現(xiàn)。換模型只需要改配置，界面代碼幾乎不用動(dòng)。

二、OpenCV算法落地：不能照搬PC代碼

PC上OpenCV怎么方便怎么來，到了嵌入式平臺(tái)就得精打細(xì)算。圖像預(yù)處理這條鏈，在PC上可能幾毫秒，在嵌入式上就是幾十毫秒。需要檢查每一步的開銷，看看能否用硬件加速替代。

NPU對(duì)輸入格式有特定要求。比如RK3588的NPU需要RGB planar格式，而OpenCV默認(rèn)是interleaved。轉(zhuǎn)換格式本身就會(huì)消耗時(shí)間，最好能用硬件支持的API直接完成。同樣，圖像解碼、縮放等操作，如果能用硬件解碼器和RGA（Raster Graphics Acceleration）加速，能省下不少CPU資源。

模型部署是另一道坎。PyTorch訓(xùn)練好的模型，需要轉(zhuǎn)換成目標(biāo)平臺(tái)支持的格式：RKNN（RK3588）或TensorRT（Jetson）。轉(zhuǎn)換過程中精度會(huì)有損失，需要反復(fù)校準(zhǔn)。常見問題包括輸入歸一化參數(shù)不一致、輸出解析錯(cuò)誤等。轉(zhuǎn)換后的模型最好在板子上用真實(shí)數(shù)據(jù)驗(yàn)證一遍，確保檢測(cè)框位置和置信度符合預(yù)期。

三、嵌入式平臺(tái)適配：每塊板子有自己的脾氣

RK3588和Jetson Orin是當(dāng)前主流的嵌入式AI平臺(tái)，但開發(fā)體驗(yàn)差異不小。交叉編譯環(huán)境搭建就是個(gè)開端，庫依賴容易出問題。用Docker創(chuàng)建編譯環(huán)境是個(gè)好習(xí)慣，一次配置，到處使用。

性能調(diào)優(yōu)需要深入硬件細(xì)節(jié)。同樣一個(gè)YOLOv8模型，在Jetson上用TensorRT跑，在RK3588上用RKNN跑，代碼路徑不一樣，優(yōu)化技巧也不一樣。需要查閱硬件手冊(cè)，了解NPU、CPU、GPU如何協(xié)同工作。有時(shí)候檢測(cè)瓶頸不在模型推理，而在圖像解碼——用硬件解碼器能快好幾倍。

內(nèi)存管理要特別小心。嵌入式設(shè)備內(nèi)存有限，每幀都動(dòng)態(tài)分配圖像對(duì)象，很快會(huì)導(dǎo)致內(nèi)存碎片甚至泄漏。對(duì)象池是個(gè)有效方案：預(yù)先分配固定數(shù)量的圖像對(duì)象，循環(huán)使用，避免頻繁new/delete。

四、多路視頻處理：讀寫者模式

安防監(jiān)控、工業(yè)檢測(cè)等場(chǎng)景經(jīng)常需要同時(shí)處理多路視頻。如果每路開一個(gè)線程，CPU很快就會(huì)被壓垮。讀寫者模式更適合：一個(gè)采集線程輪詢各路攝像頭，把原始幀放入環(huán)形緩沖區(qū)；幾個(gè)檢測(cè)線程從緩沖區(qū)取幀，處理完后放入結(jié)果隊(duì)列；顯示線程統(tǒng)一渲染。

緩沖區(qū)大小要合理設(shè)置，太小容易丟幀，太大會(huì)增加延遲。還要注意幀率匹配，如果檢測(cè)速度跟不上采集速度，需要做丟幀策略。

五、從原型到產(chǎn)品，每一步都不能省

嵌入式AI產(chǎn)品開發(fā)，不是“寫個(gè)算法然后拷過去”那么簡(jiǎn)單。界面要響應(yīng)快，算法要跑得穩(wěn)，硬件資源要榨干，還要考慮設(shè)備長(zhǎng)時(shí)間運(yùn)行的散熱和穩(wěn)定性。

現(xiàn)場(chǎng)運(yùn)行半年后死機(jī)，查下來往往是內(nèi)存泄漏——某個(gè)cv::Mat沒有釋放。壓力測(cè)試、長(zhǎng)時(shí)間測(cè)試必不可少。模型精度在實(shí)驗(yàn)室沒問題，到了現(xiàn)場(chǎng)光照變了，檢測(cè)率下降，需要采集真實(shí)場(chǎng)景數(shù)據(jù)重新訓(xùn)練或微調(diào)。

工程師高培覺得嵌入式AI開發(fā)需要的不是單點(diǎn)技術(shù)，而是全局視角：QT界面、OpenCV算法、模型部署、多線程優(yōu)化、硬件加速、系統(tǒng)穩(wěn)定性，缺一不可。

審核編輯 黃宇