重新思考跨域行人检测:无实例单阶段检测器的背景聚焦分布对齐框架

描述

大家好!我是蔡彦成https://cademic.html,目前是即将入学的剑桥大学一年级博士生。

我很高兴向大家介绍我于复旦大学陈涛老师组完成的第一作者研究工作Rethinking Cross-Domain Pedestrian Detection: A Background-Focused Distribution Alignment Framework for Instance-free One-Stage Detectors,该文章已经被顶级期刊IEEE Transactions on Image Processing (T-IP)接收。

框架

文章链接:

https://ieeexplore.ieee.org/document/10231122

在CVer公众号后台回复:BFDA,可下载本论文pdf

在进行跨域目标检测和行人检测任务时,研究人员针对诸如 Faster RCNN 等双阶段检测器,提出了许多有效的算法框架,例如实例级特征对齐等。然而,从实际应用的角度来看,像 YOLOv5 这样的单阶段检测器具备更快的处理速度。然而,由于单阶段检测器实例级特征难以获得,其跨域对齐存在前景-背景错误对齐问题,即【源域图像中的前景特征与目标域图像中的背景特征被错误地对齐】或【源域背景与目标域前景被错误地对齐】。下图展示了前景-背景错误对齐问题。

框架

Figure 1. 前景-背景特征错误对齐问题和背景特征的重要性。

框架

Figure 2. 典型图像级跨域自适应(第一行)和BFDA(第二行)的特征图演化过程图示。

为了解决这一问题,我们系统地分析了前景和背景在图像级跨域对齐中的重要性,并认识到在图像级跨域对齐中,背景起着更为关键的作用。因此,本文提出了一种新颖的框架,即背景聚焦分布对齐(Background-Focused Distribution Alignment,BFDA),来训练域自适应的单阶段行人检测器。具体来说,BFDA 首先将背景特征与整个图像特征图解耦,然后通过一种长短程域判别器将它们进行对齐。

框架

Figure 3. 完整的BFDA框架结构,分为四个核心部分:YOLOv5基检测器,背景解耦模块(BDM),特征生成模块(FGM),长短程域判别器(LSD)。

大量实验表明,与主流领域适应技术相比,BFDA 显著增强了单阶段和双阶段检测器的跨域行人检测性能。此外,通过采用高效的单阶段检测器(YOLOv5),BFDA在NVIDIA Tesla V100上可以达到217.4 FPS(640×480像素)(是现有框架FPS的7~12倍),这对于实际应用具有非常重要的意义。

框架

Figure 4. 在 Cityscapes -> Foggy Cityscapes 和 Cityscapes -> Caltech 两个实验设置下的跨域行人检测结果对比,明显BFDA可以解决传统图像级跨域对齐方法存在的前景-背景特征错误对齐问题。

我们的贡献总结如下:

(1)我们的研究揭示了单阶段行人检测器在执行图像级特征对齐时所面临的前景-背景特征错误对齐问题。此外,我们发现在实现跨域行人检测时,确保背景特征的域间一致性是至关重要但未被充分重视的方面。据我们所知,我们是第一个提出在跨域检测中专注于背景对齐的研究。

(2)我们提出了一种新的背景聚焦跨域行人检测框架,包括三个关键模块:背景解耦模块(BDM)、特征生成模块(FGM)和基于并行Transformer-CNN的长短程域鉴别器(LSD)。这一框架通过将背景特征从原始特征图中解耦,实现了纯背景特征对齐,从而有效缓解了前景-背景特征不匹配问题。

(3)我们使用BFDA在跨域行人检测上进行了实验,结果表明所提出的BFDA在单阶段检测器YOLOv5上能够实现最先进的性能。

 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分