TensorRT 8.6 C++开发环境配置与YOLOv8实例分割推理演示

硬件与软件版本信息

 

GPU3050ti Windows10 64 VS2017 Python3.8.5 CUDA11.3 + cuDNN8.3

 

TensorRT8.6版本下载

 

https://developer.nvidia.com/tensorrt

 

VS2017+TensorRT8.6开发环境配置

下载好TensorRT8.6之后解压缩到D盘D:TensorRT-8.6.0.12，目录结构如下：

打开VS2017，新建一个C++控制台空项目如下图：

点击【确定】会生成一个C++控制台项目。右键源文件添加cpp文件 main.cpp

修改项目为：

然后右键项目名称test_trt86, 从弹出菜单中选择属性，显示如下：

在包含目录中添加TensorRT的include目录与CUDA的include目录：

在库目录中添加TensorRT的lib目录与CUDA的lib目录：

从链接器-》输入中添加库目录下面所有包含的的*.lib文件依赖。

最后配置环境变量：

3跟4安装好CUDA会自动添加，不用管！添加好2即可。然后重启VS2017即完成开发环境搭建。

YOLOv8实例分割C++推理演示

对YOLOv8实例分割TensorRT 推理代码已经完成C++类封装，三行代码即可实现YOLOv8对象检测与实例分割模型推理，不需要改任何代码即可支持自定义数据训练部署推理，演示代码如下：

1int main(int argc, char** argv) { 2    std::vector labels = readClassNames(); 3    std::string enginefile = "D:/TensorRT-8.6.0.12/bin/yolov8n-seg.engine"; 4    cv::VideoCapture cap("D:/bird_test/hongyegu.mp4"); 5    cv::Mat frame; 6    auto detector = std::make_shared(); 7    detector->initConfig(enginefile, 0.25, 0.25); 8    std::vector results; 9    while (true) { 10        bool ret = cap.read(frame); 11        if (frame.empty()) { 12            break; 13        } 14        detector->detect(frame, results); 15        for (DetectResult dr : results) { 16            cv::Rect box = dr.box; 17            cv::putText(frame, labels[dr.classId], cv::Point(box.tl().x, box.tl().y - 10), cv::FONT_HERSHEY_SIMPLEX, .5, cv::Scalar(0, 0, 0)); 18        } 19        cv::imshow("YOLOv8 + TensorRT8.6 实例分割演示", frame); 20        char c = cv::waitKey(1); 21        if (c == 27) { // ESC 退出 22            break; 23        } 24        // reset for next frame 25        results.clear(); 26    } 27    return 0; 28}  运行结果如下：

 

YOLOv5与YOLOv8自定义对象检测 INT8量化推理运行结果：

视频课程最后一课时获取源码：

 

https://ke.qq.com/course/6011334

 

掌握TensorRT8.6 C++如何部署图像分类，对象检测，实例分割，语义分割主流模型，自定义脚本一键INT8量化模型，使用OpenCV CUDA加速图像预处理等各种工程化部署推理技巧，实现推理部署的工程化封装支持，客户端三行代码即可调用！全部解锁上述技能与源码获取，扫码下面视频课程加入即可获取：

审核编辑 ：李倩