计算机视觉应用之OpenCV基础教程

从工业检测系统到自动驾驶系统，计算机视觉是一个包括许多有趣应用的广泛领域。许多这样的系统在原型和实现阶段都要用到开源计算机视觉 (Open Source Computer Vision Library，OpenCV)。OpenCV优化了许多功能函数，并在实时的计算机视觉程序中得到应用。但是，由于嵌入式优化策略得天独厚的优势，仍然值得大家尝试利用逻辑硬件来加速OpenCV的性能。

目前，OpenCV被广泛用于开发计算机视觉应用中。OpenCV包含2500多个优化的视频函数的函数库，并且专门针对台式机处理器和图形处理器（Graphic Processing Unit，GPU）进行优化。

Xilinx提供的Vivado HLS高层次综合工具能够通过C/C++ 编写的代码直接创建RTL硬件，显著提高设计效率；同时，Xilinx Zynq全可编程SOC系列器件嵌入双核ARM Cortex-A9处理器将软件可编程能力与FPGA的硬件可编程能力实现完美结合，以低功耗和低成本等系统优势实现单芯片无以伦比的系统性能、灵活性、可扩展性，加速图形处理产品设计上市时间。OpenCV拥有成千上万的用户，而且OpenCV的设计无需修改即可在 Zynq器件的ARM处理器上运行。但是，利用OpenCV实现的高清处理经常受外部存储器的限制，尤其是存储带宽会成为性能瓶颈，存储访问也限制了功耗效率。通过Xilinx公司提供的Vivado HLS高级语言综合工具，设计者可以轻松实现OpenCV C++视频处理设计到RTL代码的转换，将其转换为可以在Zynq实现的硬件加速器或者在FPGA上实现的实时硬件视频处理单元。

1、 OpenCV和HLS视频库

如图15.83所示，OpenCV在视频处理系统中可以有不同的应用方式。在图15.83(a)中，算法的设计和实现完全依赖于OpenCV的函数调用，利用文件的访问功能进行图片的输入、输出和处理；在图15.83(b)中，算法可以在嵌入式系统（例如Zynq Base TRD）中实现，利用特定平台的函数调用访问输入输出图像，但是，视频处理的实现依赖于嵌入式系统中处理器（例如Cortex™-A9）对OpenCV功能函数的调用；在图15.83(c）中，处理算法的OpenCV功能函数被Xilinx Vivado HLS视频库函数替换，而OpenCV函数则用于访问输入和输出图像，提供视频处理算法实现的设计原型。Vivado HLS提供的视频库函数可以被综合，在对这些函数综合后，可以将处理程序模块整合到诸如Zynq的可编程逻辑中。这样，这些程序逻辑块就可以处理由处理器生产的视频流、从文件中读取的数据、外部输入的实时视频流。

图15.83 OpenCV应用的不同方式

Vivado HLS包含大量的视频库函数，方便于构建各种各样的视频处理程序。通过可综合的C++代码，实现这些视频库函数。在视频处理功能和数据结构方面，这些综合后的代码与OpenCV基本对应。许多视频概念与抽象和OpenCV非常相似，很多图像处理模块函数和OpenCV库函数一致。

例如，OpenCV中用于代表图片的很重要的一个类便是cv::Mat类，cv::Mat对象定义如下：
cv::Mat image(1080, 1920, CV_8UC3);

该行代码声明了一个1080×1920像素，每一个像素都是由3个8位无符号数表示的变量image。对应的HLS视频库模板类hls::Mat<>声明如下：
hls::Mat<2047, 2047, HLS_8UC3> image(1080, 1920);

这两行代码的参数形式、图像尺寸最大值、语法规则不同，生成的对象是相似的。如果图像规定的最大尺寸和图像的实际尺寸相同的话，也可以用下面的代码替代：
hls::Mat<1080, 1920, HLS_8UC3> image( );

表15.14给出了一个简单的图像转换函数应用对比（功能实现dst=src*2.0+0.0）。

表15.15和表15.16给出了OpenCV和HLS视频库的核心结构和HLS视频库。

2、AXI4流和视频接口

通过AXI4流协议，Xilinx提供的视频处理模块实现像素数据通信。尽管底层AXI4流媒体协议不需要限制图片尺寸，但是，若图片尺寸相同，则将会大大简化大部分的复杂视频处理计算。对于遵循AXI4流协议的输入接口，可以保证每一帧都包含ROWS * COLS的像素。在保证前面视频帧保持完整性和矩形性的情况下，后续模块实现对视频帧有效地处理。

如表15.17所示，Vivado HLS包含2个可综合的视频接口转换函数。

视频库还提供了其他不可综合的视频接口函数，这些函数用于在基于OpenCV测试平台与综合后的函数结合。表15.18给出了不可综合的接口函数。

VivadoHLS视频处理函数库使用hls::Mat<>数据类型，这种类型用于模型化视频像素流处理，实质等同于hls::steam<>流的类型，而不是OpenCV中在外部memory中存储的matrix矩阵类型。因此，在用Vivado HLS实现OpenCV的设计中，需要将输入和输出HLS可综合的视频设计接口，修改为Video stream接口，也就是采用HLS提供的video接口可综合函数，实现AXI4 video stream到VivadoHLS中hls::Mat<>类型的转换。

3、 OpenCV到RTL代码转换的流程

OpenCV图像处理是基于存储器帧缓存而构建的，它总是假设视频帧数据存放在外部DDR存储器中。由于处理器的小容量高速缓存性能的限制，因此，OpenCV访问局部图像性能较差。并且，从性能的角度来说，基于OpenCV设计的架构比较复杂，功耗更高。在对分辨率或帧速率要求低，或者在更大的图像中对需要的特征或区域进行处理时，OpenCV似乎足以满足很多应用的要求；但是，对于高分辨率和高帧率实时处理的应用中，OpenCV很难满足高性能和低功耗的需求。

基于视频流的架构能提供高性能和低功耗，链条化的图像处理函数减少了外部存储器访问。针对视频优化的行缓存和窗口缓存比处理器高速缓存更简单高效，更易于使用Xilinx提供的Vivado HLS 在FPGA器件中采用数据流优化来实现。

Vivado HLS对OpenCV的支持，不是指可以将OpenCV的函数库直接综合成RTL代码，而是需要将代码转换为可综合的代码。这些可综合的视频库称为Vivado HLS视频库，它们由Vivado HLS工具提供。

由于OpenCV函数一般都包含动态的内存分配、浮点以及假设图像在外部存储器中存放或者修改，所以不能直接通过Vivado HLS对OpenCV函数进行综合。

Vivado HLS视频库用于替换很多基本的 OpenCV函数，它与OpenCV具有相似的接口和算法，它主要针对在FPGA架构中实现的图像处理函数，其中包含了专门面向FPGA的优化，比如定点运算而非浮点运算（不必精确到比特位），片上的行缓存（line buffer）和窗口缓存（window buffer）。

下面列出了在FPGA/Zynq开发中使用VivadoHLS实现OpenCV的设计流程：

（1） 如图15.84所示，给出了开发OpenCV的应用流程。在计算机上开发OpenCV的应用时，由于是开源的设计，采用C++的编译器对其进行编译，仿真和调试，最后产生可执行文件。无需修改这些设计，就可以在ARM内核上运行OpenCV应用。

图15.84 开发OpenCV应用

（2）如图15.85所示，使用I/O函数抽取FPGA实现的部分，并且使用可综合的Vivado HLS 视频库函数代码来代替OpenCV函数的调用。

（3）运行Vivado HLS生成RTL代码。并且，在Vivado HLS工程中启动co-sim，HLS工具自动重用OpenCV的测试激励，来验证所生成的RTL代码。在Xilinx的ISE/Vivado开发环境中，对RTL进行集成，并且在SoC/FPGA中实现它们。

图15.85 OpenCV应用的软硬划分