硬件與軟件版本信息

GPU3050ti Windows10 64 VS2017 Python3.8.5 CUDA11.3 + cuDNN8.3

TensorRT8.6版本下載

https://developer.nvidia.com/tensorrt

VS2017+TensorRT8.6開發(fā)環(huán)境配置

下載好TensorRT8.6之后解壓縮到D盤D:TensorRT-8.6.0.12，目錄結構如下：

打開VS2017，新建一個C++控制臺空項目如下圖：

點擊【確定】會生成一個C++控制臺項目。右鍵源文件添加cpp文件 main.cpp

修改項目為：

然后右鍵項目名稱test_trt86, 從彈出菜單中選擇屬性，顯示如下：

在包含目錄中添加TensorRT的include目錄與CUDA的include目錄：

在庫目錄中添加TensorRT的lib目錄與CUDA的lib目錄：

從鏈接器-》輸入中添加庫目錄下面所有包含的的*.lib文件依賴。

最后配置環(huán)境變量：

3跟4安裝好CUDA會自動添加，不用管！添加好2即可。然后重啟VS2017即完成開發(fā)環(huán)境搭建。

YOLOv8實例分割C++推理演示

對YOLOv8實例分割TensorRT 推理代碼已經(jīng)完成C++類封裝，三行代碼即可實現(xiàn)YOLOv8對象檢測與實例分割模型推理，不需要改任何代碼即可支持自定義數(shù)據(jù)訓練部署推理，演示代碼如下：

1intmain(intargc,char**argv){ 2std::vectorlabels=readClassNames(); 3std::stringenginefile="D:/TensorRT-8.6.0.12/bin/yolov8n-seg.engine"; 4cv::VideoCapturecap("D:/bird_test/hongyegu.mp4"); 5cv::Matframe; 6autodetector=std::make_shared(); 7detector->initConfig(enginefile,0.25,0.25); 8std::vectorresults; 9while(true){ 10boolret=cap.read(frame); 11if(frame.empty()){ 12break; 13} 14detector->detect(frame,results); 15for(DetectResultdr:results){ 16cv::Rectbox=dr.box; 17cv::putText(frame,labels[dr.classId],cv::Point(box.tl().x,box.tl().y-10),cv::FONT_HERSHEY_SIMPLEX,.5,cv::Scalar(0,0,0)); 18} 19cv::imshow("YOLOv8+TensorRT8.6實例分割演示",frame); 20charc=cv::waitKey(1); 21if(c==27){//ESC退出 22break; 23} 24//resetfornextframe 25results.clear(); 26} 27return0; 28} 運行結果如下：

YOLOv5與YOLOv8自定義對象檢測 INT8量化推理運行結果：

視頻課程最后一課時獲取源碼：

https://ke.qq.com/course/6011334

掌握TensorRT8.6 C++如何部署圖像分類，對象檢測，實例分割，語義分割主流模型，自定義腳本一鍵INT8量化模型，使用OpenCV CUDA加速圖像預處理等各種工程化部署推理技巧，實現(xiàn)推理部署的工程化封裝支持，客戶端三行代碼即可調(diào)用！全部解鎖上述技能與源碼獲取，掃碼下面視頻課程加入即可獲?。?/p>

審核編輯 ：李倩