相机和激光雷达的时间戳同步问题

相机和激光雷达之间的时间戳同步问题一直是实时跑SLAM的先决条件。本文试图以最清晰的思路去讲明白这个事情。

01 相机特性-曝光和读出

相机获取一帧图像分为曝光和读出两个阶段。相机使用的传感器不同，相机的曝光时间和读出时间的重叠关系也有所不同，分为交叠曝光和非交叠曝光两种。交叠曝光和非交叠曝光相比，交叠曝光可以减少曝光时间对出图时间的影响。

非交叠曝光是指当前帧的曝光和读出都完成后，再进行下一帧的曝光和读出。非交叠曝光帧周期大于曝光时间与帧读出时间的和。

　　

内触发模式非交叠曝光交叠曝光是指当前帧的曝光和前一帧的读出过程有重叠，即前一帧读出的同时，下一帧已经开始曝光。交叠曝光帧周期小于等于曝光时间与帧读出时间的和。

内触发模式交叠曝光对！上一段就是为了告诉你：后文叙述中无论当前帧曝光时间和上一帧的读出时间是否重叠都不要惊讶。02 图像采集：触发模式（外部输入）相机的触发模式分为内触发模式和外触发模式 2 种。

内触发模式：相机通过设备内部给出的信号采集图像。

外触发模式：相机通过外部给出的信号采集图像。外部信号可以是软件信号，也可以是硬件信号，主要包含软触发和硬件触发。外触发模式如图：

　　

外触发模式软触发：触发信号由软件发出（也可以利用相机SDK提供的API接口进行软触发）。硬件触发：外部设备通过相机的 I/O 接口与相机进行连接，触发脉冲信号由外部设备给到相机进行采图。其实是直接对相机内部寄存器进行读写。下图是海康相机的电源IO的6-pin线缆：

海康相机电源及IO接口（6-pin Hirose）其中，海康相机有1个光耦隔离输入Line0+，1个可配置输入输出Line2+，可选择一个配置为输入信号。03 触发输出相机触发输出信号为开关信号，可用于控制报警灯、光源、PLC等外部设备。触发输出信号可通过Strobe 信号实现。相机的曝光发生时，会立即输出一个Strobe信号，该信号为高电平有效。后文我们主要使用该信号对Lidar等其他传感器进行硬触发。这里有一个Strobe的预输出的概念。Strobe信号早于曝光生效。其工作原理为延迟曝光先进行Strobe输出。该功能可应用于响应比较慢的外部设备。Strobe预输出时序如图所示。（后面会讲为啥要延迟曝光）

Strobe信号预输出时序现在我们回到正题吧，现在讲起来就很快了。要同步相机和激光雷达的时间戳主要有三个方式，硬触发、软触发、软触发+硬触发。下面我以手绘示意图的形式一一介绍。先说硬触发吧。一个MCU产生脉冲信号对三个传感器设备进行硬触发。

对于软触发+硬触发来说，可以先用相机SDK的API对一个相机进行软触发，然后利用相机的外触发信号Strobe对雷达和相机等其他传感器进行硬触发。

这里需要注意一个问题，如果进行软触发的第一个相机在曝光的同时发出Strobe信号，其他被硬触发的传感器总归是晚了一步，不能完全同步。因此引出了之前Strobe的预输出的概念，即先进行Strobe输出再延迟曝光。配置该模式时注意四点：1.上升沿or下降沿的触发方式；2.有效电平宽度，电平幅值，你要知道能触发Lidar的最低幅值；3.Strobe预输出4.两边电平信号是否一样，3v or 5v是否需要升压。。.最后讲讲不被推荐的软触发。首先调用API操作相比于硬触发（对传感器内部寄存器直接进行读写操作）明显是慢了，执行第二句命令API（2）前API（1）就已经花了些时间

//读取lidar和image数据的线程1
while(1)
{
API(1); //软触发第一个sensor
API(2); //软触发第二个sensor
//假设脉冲周期为0.5s
}
//处理数据线程2
for(i=0;i
{  
    t1 = getTickCount();
//部分程序有互斥锁
    t2 = getTickCount();
    Time = (t2 - t1) / getTickFrequency(); //当前帧处理时间
    sleep(1/fps-Time);
}

如上图示意，如果处理单帧数据的时间超过0.5s，线程1就会读到下一帧数据，就会导致线程2数据混乱。因此线程2单帧处理时间需要小于0.5s，且每帧需要等待（1/fps-当前帧处理时间)。

 

审核编辑：郭婷