TensorRT 8.6 C++开发环境配置与YOLOv8实例分割推理演示

描述

硬件与软件版本信息

 

GPU3050ti Windows10 64 VS2017 Python3.8.5 CUDA11.3 + cuDNN8.3

 

TensorRT8.6版本下载

 

https://developer.nvidia.com/tensorrt

 

VS2017+TensorRT8.6开发环境配置

下载好TensorRT8.6之后解压缩到D盘D:TensorRT-8.6.0.12,目录结构如下:

变量

打开VS2017,新建一个C++控制台空项目如下图:

变量

变量

点击【确定】会生成一个C++控制台项目。右键源文件添加cpp文件 main.cpp

变量

修改项目为:

变量

然后右键项目名称test_trt86, 从弹出菜单中选择属性,显示如下:

变量

在包含目录中添加TensorRT的include目录与CUDA的include目录:

变量

在库目录中添加TensorRT的lib目录与CUDA的lib目录:

变量

从链接器-》输入中添加库目录下面所有包含的的*.lib文件依赖。

变量

最后配置环境变量:

变量

3跟4安装好CUDA会自动添加,不用管!添加好2即可。然后重启VS2017即完成开发环境搭建。

YOLOv8实例分割C++推理演示

对YOLOv8实例分割TensorRT 推理代码已经完成C++类封装,三行代码即可实现YOLOv8对象检测与实例分割模型推理,不需要改任何代码即可支持自定义数据训练部署推理,演示代码如下:

1int main(int argc, char** argv) { 2    std::vector labels = readClassNames(); 3    std::string enginefile = "D:/TensorRT-8.6.0.12/bin/yolov8n-seg.engine"; 4    cv::VideoCapture cap("D:/bird_test/hongyegu.mp4"); 5    cv::Mat frame; 6    auto detector = std::make_shared(); 7    detector->initConfig(enginefile, 0.25, 0.25); 8    std::vector results; 9    while (true) { 10        bool ret = cap.read(frame); 11        if (frame.empty()) { 12            break; 13        } 14        detector->detect(frame, results); 15        for (DetectResult dr : results) { 16            cv::Rect box = dr.box; 17            cv::putText(frame, labels[dr.classId], cv::Point(box.tl().x, box.tl().y - 10), cv::FONT_HERSHEY_SIMPLEX, .5, cv::Scalar(0, 0, 0)); 18        } 19        cv::imshow("YOLOv8 + TensorRT8.6 实例分割演示", frame); 20        char c = cv::waitKey(1); 21        if (c == 27) { // ESC 退出 22            break; 23        } 24        // reset for next frame 25        results.clear(); 26    } 27    return 0; 28}  运行结果如下:

 

变量

YOLOv5与YOLOv8自定义对象检测 INT8量化推理运行结果:

变量

变量

变量

视频课程最后一课时获取源码:

 

https://ke.qq.com/course/6011334

 

掌握TensorRT8.6 C++如何部署图像分类,对象检测,实例分割,语义分割主流模型,自定义脚本一键INT8量化模型,使用OpenCV CUDA加速图像预处理等各种工程化部署推理技巧,实现推理部署的工程化封装支持,客户端三行代码即可调用!全部解锁上述技能与源码获取,扫码下面视频课程加入即可获取:

审核编辑 :李倩

 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分