引言

当我们想使用D435i相机去跑VINS-Fusion时,如果不把标定过的相机信息写入config文件中就运行,这样运动轨迹会抖动十分严重,里程计很容易漂。接下来将介绍如何标定D435i相机,并设置VINS-Fusion的config文件。

一 标定前的准备工作

在标定前我们需要查看相机的加速度在静止时是否正常,标准是加速度计的N:9.8左右。
通过打开realsense-viewer,点击Motion Module按键,然后放在Accel上观察。
D435i相机的标定及VINS-Fusion config文件修改
如果你的此数值不在9.8附近,就需要对IMU进行校准,不然最后运行VINS-Fusion会发生抖动。

1.1校准IMU

若IMU加速度计正常,可跳过下面的校准过程。
realsense官方给了进行IMU校准的方法,参考网址为:https://dev.intelrealsense.com/docs/imu-calibration-tool-for-intel-realsense-depth-camera
下载对应的pdf文件,直接从第三节开始看即可。
D435i相机的标定及VINS-Fusion config文件修改
校准完会发现加速度计的值在9.8左右,恢复正常。

1.2检查相机的健康状态

参考realsense官网给出的相机健康检查方法
https://www.intelrealsense.com/best-known-methods-for-optimal-camera-performance-over-lifetime
具体的校准方法在第三节部分,如下图所示
D435i相机的标定及VINS-Fusion config文件修改
具体步骤参考官方教程

二 D435i相机标定

2.1 标定工具准备

2.1.1 code_utils

1.创建工作空间,将code_utils及imu_utils放入其中,工作空间名称自己定(当然也可以放在你已有的工作空间内)。这两个工具都是imu标定需要用到的,可以标定出imu的噪声密度和随机游走。

mkdir -p ~/catkin_ws/src
cd ~/catkin_ws/src
catkin_init_workspace
cd ..
catkin_make

2.下载编译code_utils

cd ~/catkin_ws/src
git clone https://github.com/gaowenliang/code_utils.git
cd ..
catkin_make

2.1.2 imu_utils

cd ~/catkin_ws/src
git clone https://github.com/gaowenliang/imu_utils.git
cd ..
catkin_make

2.1.3 Kalibr

参考官方的Installation步骤
https://github.com/ethz-asl/kalibr/wiki/installation

2.2 IMU标定

1.找到你安装的realsense-ros包,复制launch文件中的rs_camera.launch文件,并重命名为rs_camera2.launch(命名自定),修改如下的参数:
修改前:

<arg name="unite_imu_method"          default=""/>

修改后

<arg name="unite_imu_method"          default="linear_interpolation"/>

修改该参数的目的是为了将加速度计(accel)和陀螺仪(gyro)的数据合并得到imu话题。

运行相机启动文件

roslaunch realsense2_camera rs_camera2.launch

2.打开~/catkin_ws/src/imu_utils/launch(参考自己的安装路径),在此位置打开终端并运行命令

gedit d435i_imu_calibration.launch

写入如下内容:

<launch>
    <node pkg="imu_utils" type="imu_an" name="imu_an" output="screen">
    	<!--TOPIC名称和上面一致-->
        <param name="imu_topic" type="string" value= "/camera/imu"/>
        <!--imu_name 无所谓-->
        <param name="imu_name" type="string" value= "d435i"/>
        <!--标定结果存放路径-->
        <param name="data_save_path" type="string" value= "$(find imu_utils)/data/"/>
        <!--数据录制时间-min-->
        <param name="max_time_min" type="int" value= "50"/>
        <!--采样频率,即是IMU频率,采样频率可以使用rostopic hz /camera/imu查看,设置为200,为后面的rosbag play播放频率-->
        <param name="max_cluster" type="int" value= "200"/>
    </node>
</launch>

在imu_utils下创建data文件夹,标定结果将存放到此处。
3.录制数据包,将realsense相机静止放置,放置时间要略大于d435i_imu_calibration.launch中设置的录制时间,即大于50min(参考别的博客有设置120min的,也有50min的,经过自己测试50min是可以的)

rosbag record -O imu_calibration /camera/imu

其中imu_calibration是录制bag包的名字,可自己定义,录制的包会生成在当前终端的目录下,/camera/imu是相机发布的IMU话题。

4.运行标定程序

cd /catkin_ws
source ./devel/setup.bash
roslaunch imu_utils d435i_imu_calibration.launch

5.打开新终端,播放录制的数据包

cd 数据包所在路径
rosbag play -r 200 imu_calibration.bag

标定结束后,我们打开/catkin_ws/src/imu_utils/data,其中d435i_imu_param.yaml是我们需要的结果,内容如下:

%YAML:1.0
---
type: IMU
name: d435i
Gyr:
   unit: " rad/s"
   avg-axis:
      gyr_n: 1.9243758665672117e-03
      gyr_w: 2.7254175454049154e-05
   x-axis:
      gyr_n: 1.7617583709168296e-03
      gyr_w: 3.4288470593085246e-05
   y-axis:
      gyr_n: 2.5899357735630793e-03
      gyr_w: 3.5865484306354172e-05
   z-axis:
      gyr_n: 1.4214334552217264e-03
      gyr_w: 1.1608571462708043e-05
Acc:
   unit: " m/s^2"
   avg-axis:
      acc_n: 1.6855999652754222e-02
      acc_w: 7.0793241968111124e-04
   x-axis:
      acc_n: 1.1503084845270073e-02
      acc_w: 5.7285080233574772e-04
   y-axis:
      acc_n: 1.7596343469737430e-02
      acc_w: 8.4920699202932677e-04
   z-axis:
      acc_n: 2.1468570643255160e-02
      acc_w: 7.0173946467825925e-04

2.3 相机标定

1.自己下载打印标定板或购买标定板
进入https://github.com/ethz-asl/kalibr/wiki/downloads
D435i相机的标定及VINS-Fusion config文件修改
但是我选择的Aprilgrid 6x6 0.5x0.5 m已经无法下载了,但不要怕,官方还给我们指令生成标定板的方法,参考https://github.com/ethz-asl/kalibr/wiki/calibration-targets
在kalibr文件路径下运行指令:

source ./devel/setup.bash
kalibr_create_target_pdf --type apriltag --nx 6 --ny 6 --tsize 0.055 --tspace 0.3

即可在该路径下生成标定板pdf文件,打印时缩放40%。
D435i相机的标定及VINS-Fusion config文件修改
打印出来后的格子参数为:
大格子边长:2.2cm
小格子边长:0.66cm
小个子与大格子边长比例:0.3
新建april_6x6_A4.yaml文件,内容如下:

target_type: 'aprilgrid' #gridtype
tagCols: 6               #number of apriltags
tagRows: 6               #number of apriltags
tagSize: 0.022           #size of apriltag, edge to edge [m]
tagSpacing: 0.3          #ratio of space between tags to tagSize

2.关闭相机的结构光
相机启动默认打开结构光,此时双目图像会有很多点,会对标定有影响,所以我们需要关闭结构光。
关闭结构光的两种方法:
(1)方法一:
先启动

 roslaunch realsense2_camera rs_camera.launch

新开终端,运行

rosrun rqt_reconfigure rqt_reconfigure

打开后将camera->stereo_module中的emitter_enabled设置为off(0) ,如下图所示:
D435i相机的标定及VINS-Fusion config文件修改
(2)方法二:
打开终端,运行realsense-viewer

realsense-viewer

D435i相机的标定及VINS-Fusion config文件修改

3.将相机对准标定板准备标定
打开新终端,运行rviz

rviz

添加rgb相机和双目对应的话题,/camera/color/image_raw、/camera/infra1/image_rect_raw、/camera/infra2/image_rect_raw
效果如下:
D435i相机的标定及VINS-Fusion config文件修改
开始移动相机,同时确保标定板一直在三个图像中,录制过程参考官方操作https://www.youtube.com/watch?app=desktop
步骤如下:
(1)俯仰角摆动3次
(2)偏航角摆动3次
(3)翻滚角摆动3次
(4)上下移动3次
(5)左右移动3次
(6)前后移动3次
(7)自由移动,摆动幅度大一些,但要移动缓慢些,使得标定目标尽可能出现在相机的所有视野范围内
整体标定时间在90s以上

4.修改相机帧数
官方推荐4Hz,通过如下命令更改topic发布频率

rosrun topic_tools throttle messages /camera/color/image_raw 4.0 /color
rosrun topic_tools throttle messages /camera/infra1/image_rect_raw 4.0 /infra_left
rosrun topic_tools throttle messages /camera/infra2/image_rect_raw 4.0 /infra_right

5.录制ROS bag

rosbag record -O multicameras_calibration_biaoding /infra_left /infra_right /color

/infra_left 、/infra_right、 /color为频率转换后的topic

6.使用Kalibr进行标定

cd kalibr_workspace/
source ./devel/setup.bash
kalibr_calibrate_cameras --target ~/kalibr_workspace/april_6x6_A4.yaml --bag ~/multicameras_calibration_biaoding.bag --models pinhole-radtan pinhole-radtan pinhole-radtan --topics /infra_left /infra_right /color --bag-from-to 10 145 --show-extraction --approx-sync 0.04

其中–target ~/kalibr_workspace/april_6x6_A4.yaml是标定板的配置文件
–bag ~/multicameras_calibration_biaoding.bag是录制的ROS bag数据包
–models pinhole-radtan pinhole-radtan pinhole-radtan表示三个摄像头的相机模型和畸变模型(VINS使用的畸变模型为radtan)
–topics /infra_left /infra_right /color表示双目相机和rgb相机的话题
–bag-from-to 10 145表示处理bag中10s-145s的数据(根据自己录制的数据包时间设置,rosbag info 你自己的数据包 即可查看数据包信息)
–show-extraction表示显示检测特征点的过程D435i相机的标定及VINS-Fusion config文件修改
得到三个文件
D435i相机的标定及VINS-Fusion config文件修改
查看results-cam-homeubuntumulticameras_calibration_biaoding.txt中的重投影误差reprojection error数值是多少,理想范围是0.1-0.2。

2.4 IMU+双目相机联合标定

1.编写chain_biaoding.yaml文件
格式参考Kalibr官方https://github.com/ethz-asl/kalibr/wiki/yaml-formats
中的chain.yaml
文件中的参数需要根据之前相机标定的参数进行修改,示例如下:

cam0:
  camera_model: pinhole
  distortion_coeffs: [0.002403959808138445, 0.001212094600722141, 0.0027975318922339606,
    0.0013305451339391025]
  distortion_model: radtan
  intrinsics: [389.1883630968763, 389.9466918297371, 322.6505040434058, 244.3879141231001]
  resolution: [640, 480]
  rostopic: /infra_left
cam1:
  T_cn_cnm1:
  - [0.9999926028685168, -0.001487673332607009, -0.0035469756557070867, -0.04984719672282643]
  - [0.0014555068111333671, 0.9999579513465346, -0.00905411722710673, -0.0008787616669883903]
  - [0.0035602960789059574, 0.009048887605385341, 0.9999527198447602, -0.001377119612210997]
  - [0.0, 0.0, 0.0, 1.0]
  camera_model: pinhole
  distortion_coeffs: [0.0030741870441258153, -0.0007281728041349596, 0.005821862258640268,
    0.002985916170301623]
  distortion_model: radtan
  intrinsics: [388.3951195864708, 388.5489092325429, 324.7077416689968, 248.62827656157992]
  resolution: [640, 480]
  rostopic: /infra_right

T_cn_cnm1表示的是左目相机到右目相机的旋转和平移,参考之前相机标定的结果。

2.编写imu_biaoding.yaml
格式参考https://github.com/ethz-asl/kalibr/wiki/yaml-formats
中的imu.yaml,文件中的参数参考之前imu标定得到的参数,示例如下:

#Accelerometers
accelerometer_noise_density: 1.6855999652754222e-02  #Noise density (continuous-time)
accelerometer_random_walk:   7.0793241968111124e-04  #Bias random walk
#Gyroscopes
gyroscope_noise_density:     1.9243758665672117e-03   #Noise density (continuous-time)
gyroscope_random_walk:       2.7254175454049154e-05  #Bias random walk
rostopic:                    /imu      #the IMU ROS topic
update_rate:          200.0      #Hz (for discretization of the values above)

3.准备好之前的april_6x6_A4.yaml

target_type: 'aprilgrid' #gridtype
tagCols: 6               #number of apriltags
tagRows: 6               #number of apriltags
tagSize: 0.022           #size of apriltag, edge to edge [m]
tagSpacing: 0.3          #ratio of space between tags to tagSize
# codeOffset: 0            #code offset for the first tag in the aprilboard

4.修改之前rs_camera2.launch中的文件,内容如下:
(1)imu和双目数据时间对齐

<arg name="enable_sync"               default="true"/>

(2)合并加速度计和陀螺仪的topic(之前设置过了,再检查一下)

<arg name="unite_imu_method"          default="linear_interpolation"/>

5.启动realsense相机

roslaunch realsense2_camera rs_camera2.launch

6.关闭结构光
参考2.3

7.打开rviz
添加imu、infra1和infra2的话题,同时调整相机位置,保证双目图像一直包含标定板的全部内容

8.调整imu和双目的话题发布频率并以新的话题发布

rosrun topic_tools throttle messages /camera/infra1/image_rect_raw 20.0 /infra_left
rosrun topic_tools throttle messages /camera/infra2/image_rect_raw 20.0 /infra_right
rosrun topic_tools throttle messages /camera/imu 200.0 /imu

9.录制ROS bag数据包
录制过程和之前相机的相同,只是录制命令不同:

rosbag record -O imu_stereo_biaoding.bag /infra_left /infra_right /imu

D435i相机的标定及VINS-Fusion config文件修改

10.录制完毕后开始标定
将准备的文件放在kalibr_workspace文件夹下,包括chain_biaoding.yaml、imu_biaoding.yaml、april_6x6_A4.yaml和imu_stereo_biaoding.bag
标定命令如下:

kalibr_calibrate_imu_camera --bag imu_stereo_biaoding.bag --cam chain_biaoding.yaml --imu imu_biaoding.yaml --target april_6x6_A4.yaml --bag-from-to 10 140 --show-extraction

最终的到结果如下:
D435i相机的标定及VINS-Fusion config文件修改
标定结果好坏查看results-imucam-imu_stereo_biaoding.txt中的重投影误差Reprojection error,两个相机的数值都在0.15以下说明标定结果良好
D435i相机的标定及VINS-Fusion config文件修改

三 VINS-Fusion config文件修改

1.根据联合标定结果中的camchain-imucam-imu_stereo_biaoding.yaml和imu-imu_stereo_biaoding.yaml文件修改realsense_stereo_imu_config.yaml
标定结果如下图:
D435i相机的标定及VINS-Fusion config文件修改
D435i相机的标定及VINS-Fusion config文件修改
realsense_stereo_imu_config.yaml修改后效果如下:

%YAML:1.0
#common parameters
#support: 1 imu 1 cam; 1 imu 2 cam: 2 cam; 
imu: 1         
num_of_cam: 2  
imu_topic: "/camera/imu"
image0_topic: "/camera/infra1/image_rect_raw"
image1_topic: "/camera/infra2/image_rect_raw"
output_path: "/home/rgmj/VINS_output"
cam0_calib: "left2.yaml"
cam1_calib: "right2.yaml"
image_width: 640
image_height: 480
# Extrinsic parameter between IMU and Camera.
estimate_extrinsic: 1   # 0  Have an accurate extrinsic parameters. We will trust the following imu^R_cam, imu^T_cam, don't change it.
                        # 1  Have an initial guess about extrinsic parameters. We will optimize around your initial guess.
body_T_cam0: !!opencv-matrix # 坐在body(imu)坐标系观察cam0的位姿变换
   rows: 4
   cols: 4
   dt: d
   data: [ 0.9999993832317373, 0.0009498105637405862, -0.0005756700769978489, -0.004096761362748715,
           -0.0009472848529416895,  0.9999069833564751, 0.0043719340357627045, 0.007922599699420767,
           0.0005798168261883756, -0.004371386015748314, 0.9999902773511096,0.021127332420393354,
           0.0, 0.0, 0.0, 1.0 ]
body_T_cam1: !!opencv-matrix
   rows: 4
   cols: 4
   dt: d
   data: [ 0.9999926149847198, 0.0024104887232695715, 0.002993245752838787, 0.04566374129029725,
           -0.002450443436845407, 0.9999069833564751, 0.013417151781077788, 0.008603776023262497,
            -0.002960625438098929, -0.013424387474616776, 0.9999055057943959, 0.022560558159854246,
           0.0, 0.0, 0.0, 1.0 ]
#Multiple thread support
multiple_thread: 1
#feature traker paprameters
max_cnt: 150            # max feature number in feature tracking
min_dist: 30            # min distance between two features 
freq: 10                # frequence (Hz) of publish tracking result. At least 10Hz for good estimation. If set 0, the frequence will be same as raw image 
F_threshold: 1.0        # ransac threshold (pixel)
show_track: 1           # publish tracking image as topic
flow_back: 1            # perform forward and backward optical flow to improve feature tracking accuracy
#optimization parameters
max_solver_time: 0.04  # max solver itration time (ms), to guarantee real time
max_num_iterations: 8   # max solver itrations, to guarantee real time
keyframe_parallax: 10.0 # keyframe selection threshold (pixel)
#imu parameters       The more accurate parameters you provide, the better performance
acc_n: 0.016855999652754222          # accelerometer measurement noise standard deviation. #0.2   0.04
gyr_n: 0.0019243758665672117         # gyroscope measurement noise standard deviation.     #0.05  0.004
acc_w: 0.0007079324196811112         # accelerometer bias random work noise standard deviation.  #0.002
gyr_w: 2.7254175454049154e-05       # gyroscope bias random work noise standard deviation.     #4.0e-5
g_norm: 9.805         # gravity magnitude
#unsynchronization parameters
estimate_td: 1                      # online estimate time offset between camera and imu
td: 0.00                             # initial value of time offset. unit: s. readed image clock + td = real image clock (IMU clock)
#loop closure parameters
load_previous_pose_graph: 0        # load and reuse previous pose graph; load from 'pose_graph_save_path'
pose_graph_save_path: "/home/rgmj/VINS_output/pose_graph/" # save and load path
save_image: 1                   # save image in pose graph for visualization prupose; you can close this function by setting 0 

(1)cam0:T_cam_imu表示的是imu到相机的变换矩阵,我们填写到body_T_cam0的矩阵应该是相机到imu的矩阵,所以对T_cam_imu矩阵取逆,,因为旋转矩阵是正交矩阵,它的逆矩阵就等于它的转置矩阵,平移向量的逆,三轴取反就可以了,cam1的同理
(2)加速度计和陀螺仪的噪声和随机游走填入相应位置

2.修改config文件中的相机配置文件left.yaml和right.yaml
根据camchain-imucam-imu_stereo_biaoding.yaml中的相机内参和畸变参数进行修改,结果如下:
(1)left.yaml

%YAML:1.0
---
model_type: PINHOLE
camera_name: camera
image_width: 640
image_height: 480
distortion_parameters:
   k1: 0.002403959808138445
   k2: 0.001212094600722141
   p1: 0.0027975318922339606
   p2: 0.0013305451339391025
projection_parameters:
   fx: 389.1883630968763
   fy: 389.9466918297371
   cx: 322.6505040434058
   cy: 244.3879141231001

(3)right.yaml

%YAML:1.0
---
model_type: PINHOLE
camera_name: camera
image_width: 640
image_height: 480
distortion_parameters:
   k1: 0.0030741870441258153
   k2: -0.0007281728041349596
   p1: 0.005821862258640268
   p2: 0.002985916170301623
projection_parameters:
   fx: 388.3951195864708
   fy: 388.5489092325429
   cx: 324.7077416689968
   cy: 248.62827656157992

四 运行VINS-Fusion

1.启动相机

cd ~/catkin_ws
source ./devel/setup.bash
roslaunch realsense2_camera rs_camera2.launch

2.新开一个终端,启动rviz
我的VINS-Fusion放在工作空间vins_fusion_ws中

cd vins_fusion_ws
source ./devel/setup.bash
roslaunch vins vins_rviz.launch

3.再新开一个终端,运行起来

cd vins_fusion_ws
source ./devel/setup.bash
rosrun vins vins_node ~/vins_fusion_ws/src/VINS-Fusion/config/realsense_d435i/realsense_stereo_imu_config.yaml

参考文章:https://blog.csdn.net/qq_40186909/article/details/113104595

发表回复