CN112907674B - 一种用于无人驾驶车辆的相机标定方法及装置 - Google Patents
一种用于无人驾驶车辆的相机标定方法及装置 Download PDFInfo
- Publication number
- CN112907674B CN112907674B CN201911132111.7A CN201911132111A CN112907674B CN 112907674 B CN112907674 B CN 112907674B CN 201911132111 A CN201911132111 A CN 201911132111A CN 112907674 B CN112907674 B CN 112907674B
- Authority
- CN
- China
- Prior art keywords
- image
- camera
- dimensional
- vehicle
- axis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明实施例公开一种用于无人驾驶车辆的相机标定方法及装置。该方法包括:获取针对目标相机采集的三张包括标定板的图像;分别检测每张图像中位于标定板中轴线处黑白格子的交点,计算每个交点在标定板上对应的三维点在相机坐标系中的三维坐标信息;确定车辆坐标系的Z轴表示;根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及车辆坐标系的Z轴表示,确定车辆坐标系的X轴表示和Y轴表示;获取根据测距设备得到的目标相机距离无人驾驶车辆车头的距离;计算目标相机到无人驾驶车辆车身左侧的距离、右侧的距离、以及目标相机的高度。应用本发明实施例提供的方案,能够提高相机标定的便捷性。
Description
技术领域
本发明涉及智能驾驶技术领域,具体而言,涉及一种用于无人驾驶车辆的相机标定方法及装置。
背景技术
在无人驾驶车辆行驶过程中,其需要检测道路上的车道线、指示牌、行人、以及其他车辆等目标的位置信息,从而才可以在正确的区域行驶,保证其行驶的安全性。例如,可以在无人驾驶车辆安装相机,通过相机采集车辆行驶过程中周围环境的图像,进而可以通过对图像进行检测,得到车辆周围环境相关目标的位置信息。
具体的,可以提前对相机进行标定,得到相机与车身的相对位置,也即相机与车身的位置姿态关系,从而在后续的定位过程中,可以根据标定得到的结果,对车辆周围环境的目标位置进行检测。
已知的相机标定方法,可以在铺设了很多编码图案的室内标定场进行。然而,每次进行相机标定都需要车辆去到标定场进行,路程耗时较长,标定过程繁琐。因此,为了提高相机标定的便捷性,亟需一种相机标定方法。
发明内容
本发明提供了一种用于无人驾驶车辆的相机标定方法及装置,以提高相机标定的便捷性。具体的技术方案如下。
第一方面,本发明实施例提供一种用于无人驾驶车辆的相机标定方法,所述方法包括:
获取针对目标相机采集的三张包括标定板的图像;所述目标相机为所述无人驾驶车辆中安装的任一相机;所述标定板包括按预设方式排列的黑白格子图案;各所述图像为分别将所述标定板放置于与所述目标相机对应的预设位置后所述目标相机采集的图像;
分别检测每张所述图像中位于所述标定板中轴线处黑白格子的交点,得到所述每个交点在各所述图像中的二维坐标信息;
根据所述每个交点在各所述图像中的二维坐标信息、所述目标相机的内参矩阵、以及所述每个格子的间距,计算所述每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息;
根据所述每个三维点在所述相机坐标系中的三维坐标信息,选择处于同一高度的目标三维点,并根据所述目标三维点构建目标平面,将所述目标平面的方向向量确定为车辆坐标系的Z轴表示;所述车辆坐标系的X轴为沿车辆前后轮连线朝车辆行进方向,Y轴与X轴位于同一平面且朝车辆左侧,Z轴与X轴与Y轴组成的平面垂直且朝上;
根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及所述车辆坐标系的Z轴表示,确定所述车辆坐标系的X轴表示和Y轴表示;所述第一图像和所述第二图像为将所述标定板放置于与所述无人驾驶车辆的预设部件处于同一直线的两个位置后,所述目标相机分别采集的图像;所述预设部件与所述目标相机相对应;
根据所述车辆坐标系的Z轴表示、X轴表示和Y轴表示,构建所述车辆坐标系和所述相机坐标系之间的旋转矩阵;
获取根据测距设备得到的所述目标相机距离所述无人驾驶车辆车头的距离;根据所述第一图像和所述第二图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身左侧的距离;根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身右侧的距离;根据所述旋转矩阵、所述标定板的高度、以及任一所述图像中检测得到的最高处交点的高度,计算所述目标相机的高度。
可选的,所述根据所述每个交点在各所述图像中的二维坐标信息、所述目标相机的内参矩阵、以及所述每个格子的间距,计算所述每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息的步骤包括:
针对每张所述图像中检测得到的每个交点,根据以下公式,计算该图像中检测得到的每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息:
Pi=P0+i*d*v
pi=Proj(K*Pi)
其中,Pi为第i个交点pi对应的三维点,P0为该图像中检测得到的最高处的交点对应的三维点,i为整数,d为相邻三维点Pi之间的距离,v为沿所述标定板中轴线的单位方向向量,K为所述目标相机的内参矩阵,Proj函数为(x,y,z)→(x/z,y/z)。
可选的,所述根据所述旋转矩阵、所述标定板的高度、以及任一所述图像中检测得到的最高处交点的高度,计算所述目标相机的高度的步骤包括:
构建所述相机坐标系对应的位移T=transpose(R)*P0;
将所述目标相机的高度H确定为:
H=-T(2)+D
R为所述旋转矩阵,transpose(R)为求R的转置矩阵,P0为任一所述图像中检测得到的最高处交点的高度,D为所述标定板的高度。
可选的,所述预设位置位于所述目标相机采集范围;
所述目标相机为所述无人驾驶车辆中前视相机或后视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆左侧前后轮外边缘线处于同一直线的第一位置和第二位置,以及所述标定板中轴线与所述无人驾驶车辆右侧前后轮外边缘线处于同一直线的第三位置;
所述目标相机为所述无人驾驶车辆中侧左前视相机或侧右前视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆车头切线处于同一直线的第四位置和第五位置,以及距离所述第四位置和所述第五位置的连线大于预设距离阈值的第六位置;所述第四位置和所述第五位置的间距大于所述预设距离阈值;
所述目标相机为所述无人驾驶车辆中侧左后视相机或侧右后视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆车尾切线处于同一直线的第七位置和第八位置,以及距离所述第七位置和所述第八位置的连线大于预设距离阈值的第九位置;所述第七位置和所述第八位置的间距大于所述预设距离阈值。
可选的,所述目标相机为所述无人驾驶车辆中前视相机或后视相机,所述根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及所述车辆坐标系的Z轴表示,确定所述车辆坐标系的X轴表示和Y轴表示的步骤包括:
根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,计算所述第一图像对应的三维点的第一平均点的第一均值坐标,以及所述第二图像对应的三维点的第二平均点的第二均值坐标;
根据所述第一平均点的第一均值坐标,以及所述第二平均点的第二均值坐标,将所述第一平均点和所述第二平均点的连线确定为所述车辆坐标系的X轴表示;其中,采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距,小于采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距;
根据所述车辆坐标系的Z轴表示和X轴表示,确定所述车辆坐标系的Y轴表示。
可选的,所述根据所述第一图像和所述第二图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身左侧的距离的步骤包括:
将所述第一均值坐标和所述第二均值坐标中沿Y轴坐标值的均值,确定为所述目标相机到所述无人驾驶车辆车身左侧的距离;
所述根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身右侧的距离的步骤包括:
根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述第三图像对应的三维点的第三平均点的第三均值坐标;将所述第三均值坐标中沿Y轴坐标值的均值,确定为所述目标相机到所述无人驾驶车辆车身右侧的距离。
可选的,所述目标相机为所述无人驾驶车辆中侧左前视相机、侧右前视相机、侧左后视相机或侧右后视相机,所述根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及所述车辆坐标系的Z轴表示,确定所述车辆坐标系的X轴表示和Y轴表示的步骤包括:
根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,计算所述第一图像对应的三维点的第一平均点的第一均值坐标,以及所述第二图像对应的三维点的第二平均点的第二均值坐标;
根据所述第一平均点的第一均值坐标,以及所述第二平均点的第二均值坐标,将所述第一平均点和所述第二平均点的连线确定为所述车辆坐标系的Y轴表示;其中,采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距,小于采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距;
根据所述车辆坐标系的Z轴表示和Y轴表示,确定所述车辆坐标系的X轴表示。
第二方面,本发明实施例提供一种用于无人驾驶车辆的相机标定装置,所述装置包括:
图像获取模块,用于获取针对目标相机采集的三张包括标定板的图像;所述目标相机为所述无人驾驶车辆中安装的任一相机;所述标定板包括按预设方式排列的黑白格子图案;各所述图像为分别将所述标定板放置于与所述目标相机对应的预设位置后所述目标相机采集的图像;
交点检测模块,用于分别检测每张所述图像中位于所述标定板中轴线处黑白格子的交点,得到所述每个交点在各所述图像中的二维坐标信息;
坐标转换模块,用于根据所述每个交点在各所述图像中的二维坐标信息、所述目标相机的内参矩阵、以及所述每个格子的间距,计算所述每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息;
平面构建模块,用于根据所述每个三维点在所述相机坐标系中的三维坐标信息,选择处于同一高度的目标三维点,并根据所述目标三维点构建目标平面,将所述目标平面的方向向量确定为车辆坐标系的Z轴表示;所述车辆坐标系的X轴为沿车辆前后轮连线朝车辆行进方向,Y轴与X轴位于同一平面且朝车辆左侧,Z轴与X轴与Y轴组成的平面垂直且朝上;
坐标映射模块,用于根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及所述车辆坐标系的Z轴表示,确定所述车辆坐标系的X轴表示和Y轴表示;所述第一图像和所述第二图像为将所述标定板放置于与所述无人驾驶车辆的预设部件处于同一直线的两个位置后,所述目标相机分别采集的图像;所述预设部件与所述目标相机相对应;
矩阵构建模块,用于根据所述车辆坐标系的Z轴表示、X轴表示和Y轴表示,构建所述车辆坐标系和所述相机坐标系之间的旋转矩阵;
距离计算模块,用于获取根据测距设备得到的所述目标相机距离所述无人驾驶车辆车头的距离;根据所述第一图像和所述第二图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身左侧的距离;根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身右侧的距离;根据所述旋转矩阵、所述标定板的高度、以及任一所述图像中检测得到的最高处交点的高度,计算所述目标相机的高度。
可选的,所述坐标转换模块,具体用于针对每张所述图像中检测得到的每个交点,根据以下公式,计算该图像中检测得到的每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息:
Pi=P0+i*d*v
pi=Proj(K*Pi)
其中,Pi为第i个交点pi对应的三维点,P0为该图像中检测得到的最高处的交点对应的三维点,i为整数,d为相邻三维点Pi之间的距离,v为沿所述标定板中轴线的单位方向向量,K为所述目标相机的内参矩阵,Proj函数为(x,y,z)→(x/z,y/z)。
可选的,所述距离计算模块,具体用于:
构建所述相机坐标系对应的位移T=transpose(R)*P0;
将所述目标相机的高度H确定为:
H=-T(2)+D
R为所述旋转矩阵,transpose(R)为求R的转置矩阵,P0为任一所述图像中检测得到的最高处交点的高度,D为所述标定板的高度。
可选的,所述预设位置位于所述目标相机采集范围;
所述目标相机为所述无人驾驶车辆中前视相机或后视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆左侧前后轮外边缘线处于同一直线的第一位置和第二位置,以及所述标定板中轴线与所述无人驾驶车辆右侧前后轮外边缘线处于同一直线的第三位置;
所述目标相机为所述无人驾驶车辆中侧左前视相机或侧右前视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆车头切线处于同一直线的第四位置和第五位置,以及距离所述第四位置和所述第五位置的连线大于预设距离阈值的第六位置;所述第四位置和所述第五位置的间距大于所述预设距离阈值;
所述目标相机为所述无人驾驶车辆中侧左后视相机或侧右后视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆车尾切线处于同一直线的第七位置和第八位置,以及距离所述第七位置和所述第八位置的连线大于预设距离阈值的第九位置;所述第七位置和所述第八位置的间距大于所述预设距离阈值。
可选的,所述目标相机为所述无人驾驶车辆中前视相机或后视相机,所述坐标映射模块包括:
第一均值坐标计算子模块,用于根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,计算所述第一图像对应的三维点的第一平均点的第一均值坐标,以及所述第二图像对应的三维点的第二平均点的第二均值坐标;
第一X轴确定子模块,用于根据所述第一平均点的第一均值坐标,以及所述第二平均点的第二均值坐标,将所述第一平均点和所述第二平均点的连线确定为所述车辆坐标系的X轴表示;其中,采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距,小于采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距;
第一Y轴确定子模块,用于根据所述车辆坐标系的Z轴表示和X轴表示,确定所述车辆坐标系的Y轴表示。
可选的,所述距离计算模块包括:
左侧距离计算子模块,用于将所述第一均值坐标和所述第二均值坐标中沿Y轴坐标值的均值,确定为所述目标相机到所述无人驾驶车辆车身左侧的距离;
右侧距离计算子模块,用于根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述第三图像对应的三维点的第三平均点的第三均值坐标;将所述第三均值坐标中沿Y轴坐标值的均值,确定为所述目标相机到所述无人驾驶车辆车身右侧的距离。
可选的,所述坐标映射模块包括:
第二均值坐标计算子模块,用于根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,计算所述第一图像对应的三维点的第一平均点的第一均值坐标,以及所述第二图像对应的三维点的第二平均点的第二均值坐标;
第二Y轴确定子模块,用于根据所述第一平均点的第一均值坐标,以及所述第二平均点的第二均值坐标,将所述第一平均点和所述第二平均点的连线确定为所述车辆坐标系的Y轴表示;其中,采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距,小于采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距;
第二X轴确定子模块,用于根据所述车辆坐标系的Z轴表示和Y轴表示,确定所述车辆坐标系的X轴表示。
由上述内容可知,本发明实施例提供的用于无人驾驶车辆的相机标定方法及装置,可以获取针对目标相机采集的三张包括标定板的图像;目标相机为无人驾驶车辆中安装的任一相机;标定板包括按预设方式排列的黑白格子图案;各图像为分别将标定板放置于与目标相机对应的预设位置后目标相机采集的图像;分别检测每张图像中位于标定板中轴线处黑白格子的交点,得到每个交点在各图像中的二维坐标信息;根据每个交点在各图像中的二维坐标信息、目标相机的内参矩阵、以及每个格子的间距,计算每个交点在标定板上对应的三维点在相机坐标系中的三维坐标信息;根据每个三维点在相机坐标系中的三维坐标信息,选择处于同一高度的目标三维点,并根据目标三维点构建目标平面,将目标平面的方向向量确定为车辆坐标系的Z轴表示;车辆坐标系的X轴为沿车辆前后轮连线朝车辆行进方向,Y轴与X轴位于同一平面且朝车辆左侧,Z轴与X轴与Y轴组成的平面垂直且朝上;根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及车辆坐标系的Z轴表示,确定车辆坐标系的X轴表示和Y轴表示;第一图像和第二图像为将标定板放置于与无人驾驶车辆的预设部件处于同一直线的两个位置后,目标相机分别采集的图像;预设部件与目标相机相对应;根据车辆坐标系的Z轴表示、X轴表示和Y轴表示,构建车辆坐标系和相机坐标系之间的旋转矩阵;获取根据测距设备得到的目标相机距离无人驾驶车辆车头的距离;根据第一图像和第二图像对应的三维点的三维坐标信息,计算目标相机到无人驾驶车辆车身左侧的距离;根据除第一图像和第二图像之外的第三图像对应的三维点的三维坐标信息,计算目标相机到无人驾驶车辆车身右侧的距离;根据旋转矩阵、标定板的高度、以及任一图像中检测得到的最高处交点的高度,计算目标相机的高度,因此能够基于标定板完成对无人驾驶车辆中相机的标定,标定板安装简便且可以随身携带,使用标定板对相机进行标定时,只需要将无人驾驶车辆停放在较为空旷的平地上,采集到满足条件的图像即可,不需要去到专用的标定场地,因此能够提高相机标定的便捷性。并且,专用的标定场地建设费用昂贵,本方案中使用的标定设备成本较低,能够降低相机标定的成本。当然,实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。
本发明实施例的创新点包括:
1、基于标定板完成对无人驾驶车辆中相机的标定,标定板安装简便且可以随身携带,使用标定板对相机进行标定时,只需要将无人驾驶车辆停放在较为空旷的平地上,采集到满足条件的图像即可,不需要去到专用的标定场地,因此能够提高相机标定的便捷性。并且,专用的标定场地建设费用昂贵,本方案中使用的标定设备成本较低,能够降低相机标定的成本。
2、通过在无人驾驶车辆不同位置安装多个相机,对每个相机进行标定,能够在车辆行驶过程中采集到周围环境中不同方向的图像,进而通过对每张图像进行检测得到车辆周围存在的所有的目标,提高车辆行驶的安全性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单介绍。显而易见地,下面描述中的附图仅仅是本发明的一些实施例。对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例中标定板图案示意图;
图2为本发明实施例的无人驾驶车辆中相机安装位置示意图;
图3为本发明实施例中不同相机对应的标定板安装位置示意图;
图4为本发明实施例的用于无人驾驶车辆的相机标定方法的一种流程示意图;
图5为本发明实施例的在图像中检测得到的交点示意图;
图6为本发明实施例的图像中交点与标定板中三维点的对应关系示意图;
图7为本发明实施例中通过三维点所构建的平面示意图;
图8为本发明实施例中相机到车头距离示意图;
图9为本发明实施例的用于无人驾驶车辆的相机标定装置的一种结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整的描述。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,本发明实施例及附图中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。例如包含的一系列步骤或单元的过程、方法、***、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
本发明实施例公开了一种用于无人驾驶车辆的相机标定方法及装置,能够提高相机标定的便捷性。下面对本发明实施例进行详细说明。
在本发明实施例中,可以通过设置的标定板对无人驾驶车辆中的相机进行标定。其中,标定板可以由两部分组成:标定板图案和标定板支架。标定板支架可以自由上下升高降低,以适应不同车型。
如图1所示,标定板图案可以由黑白格子组成,黑白格子按预设方式排列,黑色表示0,白色表示1。图1中黑白格子编码从低到高设计如下:
[0,0,1,1]
[0,1,0,1]
[0,0,1,1]
[1,1,0,1]
[1,0,1,1]
[1,1,0,1]
[1,0,1,1]
[1,1,0,1]
[0,0,1,1]
[0,1,0,1]
[0,0,1,1]
[0,1,0,1]
[0,0,1,1]
[0,1,0,0]
[0,0,1,0]
[0,1,0,0]
[0,0,1,0]
[0,1,0,0]
上述为4-4非相关编码,每个4*4的模板从上到下,每次滑动一行,得到的编码均不相同,因此可以在有部分遮挡的时候也能辨别出黑白交点的编码。
在本发明实施例中,可以在无人驾驶车辆安装多个相机。如图2所示,可以安装位置如图所示的6个相机,分别为前视相机210,侧左前视相机220,侧右前视相机230,侧左后视相机240,侧右后视相机250和后视相机260。
可以对每个相机分别进行标定。具体的,可以针对每个相机,分别将标定板放置在该相机采集范围内的3个位置处,之后通过该相机采集包含标定板的图像,进而通过采集的图像得到该相机的标定结果。
其中,针对前视相机或后视相机,可以将标定板放置于标定板中轴线与无人驾驶车辆左侧前后轮外边缘线处于同一直线的第一位置和第二位置,以及标定板中轴线与无人驾驶车辆右侧前后轮外边缘线处于同一直线的第三位置;针对侧左前视相机或侧右前视相机,可以将标定板放置于标定板中轴线与无人驾驶车辆车头切线处于同一直线的第四位置和第五位置,以及距离第四位置和第五位置的连线大于预设距离阈值的第六位置;针对侧左后视相机或侧右后视相机,可以将标定板放置于标定板中轴线与无人驾驶车辆车尾切线处于同一直线的第七位置和第八位置,以及距离第七位置和第八位置的连线大于预设距离阈值的第九位置。
其中,标定板中轴线为位于黑白格子图案中间的直线,如图1所示的直线110。为了保证标定的精度,上述第四位置和第五位置的间距大于预设距离阈值;第七位置和第八位置的间距大于预设距离阈值。上述预设距离阈值例如可以为0.8米、1米、1.2米等,本发明实施例对此不做限定。
针对每个相机标定板的放置位置如图3所示。针对前视相机,可以依次将标定板放置在位置1、位置2和位置3处;针对侧左前视相机,可以依次将标定板放置在位置4、位置5和位置6处;针对侧右前视相机,可以依次将标定板放置在位置7、位置8和位置9处;针对侧左后视相机,可以依次将标定板放置在位置10、位置11和位置12处;针对侧右后视相机,可以依次将标定板放置在位置13、位置14和位置15处;针对后视相机,可以依次将标定板放置在位置16、位置17和位置18处。
放置标定板时,可以利用水平地线仪来确定其位置。水平地线仪可以发射出人眼可见的水平和垂直的激光线束。因此,利用水平地线仪,可以准确的将标定板放置在上述与每个相机对应的位置处。
如图4所示,本发明实施例提供的用于无人驾驶车辆的相机标定方法,可以包括以下步骤:
S410:获取针对目标相机采集的三张包括标定板的图像;目标相机为无人驾驶车辆中安装的任一相机;标定板包括按预设方式排列的黑白格子图案;各图像为分别将标定板放置于与目标相机对应的预设位置后目标相机采集的图像。
以前视相机为例,可以按照以下方式分别放置标定板:
第一次放置标定板,使标定板的中轴线与车左边前后车轮外边缘在同一直线上。
第二次放置标定板,使标定板向远离车辆的方向移动至少1m,同时保持标定板的中轴线与车左车轮外边缘线在同一直线。
第三次重新放置标定板,利用激光水平移使标定板的中轴线与车辆右车轮的边缘在同一直线上。
每次放置标定板后,可以通过前视相机采集包括标定板的图像,也就是可以采集到三张图像,以通过采集的图像对前视相机进行标定。
S420:分别检测每张图像中位于标定板中轴线处黑白格子的交点,得到每个交点在各图像中的二维坐标信息。
具体的,可以分别针对每张图像,采用已知的任一种图像检测方法,检测位于标定板中轴线处黑白格子的交点。例如,当采集到的图像为如图1所示图像时,检测得到的交点可以为如图5所示的交点510。
S430:根据每个交点在各图像中的二维坐标信息、目标相机的内参矩阵、以及每个格子的间距,计算每个交点在标定板上对应的三维点在相机坐标系中的三维坐标信息。
在本发明实施例中,可以分别定义车辆坐标系和相机坐标系。车辆坐标系定义如下:X轴朝前,也就是沿着车辆前进方向,与前后车轮连线在同一直线,Y轴朝左,Z轴朝上,坐标系原点在车头中心点垂直的地面上。相机坐标系定义如下:x轴朝右,y轴朝下,z轴朝前,坐标系原点为光心,z轴垂直于像平面,XOY平面平行于像平面。
在一种实现方式中,计算每个交点在标定板上对应的三维点在相机坐标系中的三维坐标信息时,可以针对每张图像中检测得到的每个交点,根据以下公式,计算该图像中检测得到的每个交点在标定板上对应的三维点在相机坐标系中的三维坐标信息:
Pi=P0+i*d*v (1)
pi=Proj(K*Pi) (2)
其中,Pi为第i个交点pi对应的三维点,P0为该图像中检测得到的最高处的交点对应的三维点,i为整数,d为相邻三维点Pi之间的距离,设计标定板时d值为定值;v为沿标定板中轴线的单位方向向量,K为目标相机的内参矩阵,Proj函数为(x,y,z)→(x/z,y/z)。
具体的,可以针对每张图像,将该图像中检测得到的每个交点的二维坐标代入上述公式(1)和(2),得到v和P0的值,然后通过公式(1)得到各Pi的值。
例如,如图6所示,610为相机,p0、p1、p2、p3为图像中检测得到的交点,P0、P1、P2、P3为各交点p0、p1、p2、p3对应的三维点。(u0,v0)为图像中最高点处交点p0的二维坐标。
S440:根据每个三维点在相机坐标系中的三维坐标信息,选择处于同一高度的目标三维点,并根据目标三维点构建目标平面,将目标平面的方向向量确定为车辆坐标系的Z轴表示;车辆坐标系的X轴为沿车辆前后轮连线朝车辆行进方向,Y轴与X轴位于同一平面且朝车辆左侧,Z轴与X轴与Y轴组成的平面垂直且朝上。
通过步骤S430能够得到三列空间中的三维点的坐标Pi(Xi,Yi,Zi)。将统一高度的三个点连接起来可以构成一个平面。该平面可以用(N,d)表示,N为平面方向量,d是平面和坐标原点的距离。
该平面与地面平行,因为无人驾驶车辆停放在平面上,因此,车辆坐标系的Z轴即为:Z=N。
如图7所示,当在像平面检测到四个交点,也即前述步骤中在每个图像均检测到四个交点时,通过三个图像中交点对应的三维点,可以确定出四个平面710、720、730、740。可以将任一平面的方向向量确定为车辆坐标系的Z轴表示。
S450:根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及车辆坐标系的Z轴表示,确定车辆坐标系的X轴表示和Y轴表示;第一图像和第二图像为将标定板放置于与无人驾驶车辆的预设部件处于同一直线的两个位置后,目标相机分别采集的图像;预设部件与目标相机相对应。
当目标相机为前视相机或后视相机时,由于前两次放置的标定板与车辆前后车轮位于同一直线,且车辆坐标系的X轴也与车辆前后车轮位于同一直线,因此,通过前两次图像对应的交点可以确定车辆坐标系的X轴表示。
具体的,可以根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,计算第一图像对应的三维点的第一平均点的第一均值坐标,以及第二图像对应的三维点的第二平均点的第二均值坐标;进而根据第一平均点的第一均值坐标,以及第二平均点的第二均值坐标,将第一平均点和第二平均点的连线确定为车辆坐标系的X轴表示;其中,采集第一图像时标定板所处位置与无人驾驶车辆的间距,小于采集第一图像时标定板所处位置与无人驾驶车辆的间距。
例如,当第一平均点和第二平均点分别为Pi,Pj时,由于前两次放置标定板的位置均在前后车轮外边缘相连的直线上,所以连接第一次的点Pi和第二次板上等高的点Pj,即得到X轴方向:
X=Pi-Pj
得到车辆坐标系的Z轴表示和X轴表示后,可以根据车辆坐标系的Z轴表示和X轴表示,确定车辆坐标系的Y轴表示。
具体的,车辆坐标系的Y轴表示可以为:
Y=cross(Z,X)
cross为叉乘函数。
当目标相机为侧左前视相机、侧右前视相机、侧左后视相机或侧右后视相机时,由于前两次放置的标定板与车头切线或车尾切线位于同一直线,且车辆坐标系的Y轴也与车头切线或车尾切线位于同一直线,因此,通过前两次图像对应的交点可以确定车辆坐标系的Y轴表示。
具体的,可以根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,计算第一图像对应的三维点的第一平均点的第一均值坐标,以及第二图像对应的三维点的第二平均点的第二均值坐标;进而根据第一平均点的第一均值坐标,以及第二平均点的第二均值坐标,将第一平均点和第二平均点的连线确定为车辆坐标系的Y轴表示;其中,采集第一图像时标定板所处位置与无人驾驶车辆的间距,小于采集第一图像时标定板所处位置与无人驾驶车辆的间距。
例如,当第一平均点和第二平均点分别为Pi,Pj时,由于前两次放置标定板的位置与车头切线或车尾切线在同一直线上,所以连接第一次的点Pi和第二次板上等高的点Pj,即得到Y轴方向:
Y=Pi-Pj
得到车辆坐标系的Z轴表示和Y轴表示后,可以根据车辆坐标系的Z轴表示和Y轴表示,确定车辆坐标系的X轴表示。
具体的,车辆坐标系的X轴表示可以为:
X=cross(Z,Y)。
S460:根据车辆坐标系的Z轴表示、X轴表示和Y轴表示,构建车辆坐标系和相机坐标系之间的旋转矩阵。
例如,车辆坐标系和相机坐标系之间的旋转矩阵可以构建为R=(X,Y,Z)。
S470:获取根据测距设备得到的目标相机距离无人驾驶车辆车头的距离;根据第一图像和第二图像对应的三维点的三维坐标信息,计算目标相机到无人驾驶车辆车身左侧的距离;根据除第一图像和第二图像之外的第三图像对应的三维点的三维坐标信息,计算目标相机到无人驾驶车辆车身右侧的距离;根据旋转矩阵、标定板的高度、以及任一图像中检测得到的最高处交点的高度,计算目标相机的高度。
在本发明实施例中,目标相机到车辆车头的距离可以通过单线激光测距器测量得到。例如,如图8所示,相机到车辆车头的距离即为如图中线段810所示距离。
具体的,针对前视相机或后视相机,可以根据除第一图像和第二图像之外的第三图像对应的三维点的三维坐标信息,计算第三图像对应的三维点的第三平均点的第三均值坐标。
也就是说,可以计算得到第一平均点的第一均值坐标、第二平均点的第二均值坐标、和第三平均点的第三均值坐标。此时,可以将第一均值坐标和第二均值坐标中沿Y轴坐标值的均值,确定为目标相机到无人驾驶车辆车身左侧的距离;将第三均值坐标中沿Y轴坐标值的均值,确定为目标相机到无人驾驶车辆车身右侧的距离。
例如,当计算得到第一平均点Pi、第二平均点Pj、和第三平均点Pk时,目标相机到车辆车身左侧的距离可以表示为:
D_left=Absolute((Piy+Pjy)/2)
目标相机到车辆车身右侧的距离可以表示为:
D_right=Absolute(Pky)
其中Absolute表示取绝对值。
当目标相机为侧左前视相机或侧左后视相机时,目标相机到车辆车身左侧的距离即为0,目标相机到车辆车身右侧的距离即为车辆宽度。当目标相机为侧右前视相机或侧右后视相机时,目标相机到车辆车身左侧的距离即为车辆宽度,目标相机到车辆车身右侧的距离即为0。
计算目标相机高度时,在一种实现方式中,可以构建相机坐标系对应的位移T=transpose(R)*P0;之后将目标相机的高度H确定为:
H=-T(2)+D
R为旋转矩阵,transpose(R)为求R的转置矩阵,P0为任一图像中检测得到的最高处交点的高度,D为标定板的高度。
或者,可以将目标相机的高度表示为:
camera_height=-T(2)+board_height
camera_height为目标相机高度,board_height为标定板的高度。
由上述内容可知,本发明实施例提供的用于无人驾驶车辆的相机标定方法,可以获取针对目标相机采集的三张包括标定板的图像;目标相机为无人驾驶车辆中安装的任一相机;标定板包括按预设方式排列的黑白格子图案;各图像为分别将标定板放置于与目标相机对应的预设位置后目标相机采集的图像;分别检测每张图像中位于标定板中轴线处黑白格子的交点,得到每个交点在各图像中的二维坐标信息;根据每个交点在各图像中的二维坐标信息、目标相机的内参矩阵、以及每个格子的间距,计算每个交点在标定板上对应的三维点在相机坐标系中的三维坐标信息;根据每个三维点在相机坐标系中的三维坐标信息,选择处于同一高度的目标三维点,并根据目标三维点构建目标平面,将目标平面的方向向量确定为车辆坐标系的Z轴表示;车辆坐标系的X轴为沿车辆前后轮连线朝车辆行进方向,Y轴与X轴位于同一平面且朝车辆左侧,Z轴与X轴与Y轴组成的平面垂直且朝上;根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及车辆坐标系的Z轴表示,确定车辆坐标系的X轴表示和Y轴表示;第一图像和第二图像为将标定板放置于与无人驾驶车辆的预设部件处于同一直线的两个位置后,目标相机分别采集的图像;预设部件与目标相机相对应;根据车辆坐标系的Z轴表示、X轴表示和Y轴表示,构建车辆坐标系和相机坐标系之间的旋转矩阵;获取根据测距设备得到的目标相机距离无人驾驶车辆车头的距离;根据第一图像和第二图像对应的三维点的三维坐标信息,计算目标相机到无人驾驶车辆车身左侧的距离;根据除第一图像和第二图像之外的第三图像对应的三维点的三维坐标信息,计算目标相机到无人驾驶车辆车身右侧的距离;根据旋转矩阵、标定板的高度、以及任一图像中检测得到的最高处交点的高度,计算目标相机的高度,因此能够基于标定板完成对无人驾驶车辆中相机的标定,标定板安装简便且可以随身携带,使用标定板对相机进行标定时,只需要将无人驾驶车辆停放在较为空旷的平地上,采集到满足条件的图像即可,不需要去到专用的标定场地,因此能够提高相机标定的便捷性。并且,专用的标定场地建设费用昂贵,本方案中使用的标定设备成本较低,能够降低相机标定的成本。
如图9所示,本发明实施例提供的一种用于无人驾驶车辆的相机标定装置包括:
图像获取模块910,用于获取针对目标相机采集的三张包括标定板的图像;所述目标相机为所述无人驾驶车辆中安装的任一相机;所述标定板包括按预设方式排列的黑白格子图案;各所述图像为分别将所述标定板放置于与所述目标相机对应的预设位置后所述目标相机采集的图像;
交点检测模块920,用于分别检测每张所述图像中位于所述标定板中轴线处黑白格子的交点,得到所述每个交点在各所述图像中的二维坐标信息;
坐标转换模块930,用于根据所述每个交点在各所述图像中的二维坐标信息、所述目标相机的内参矩阵、以及所述每个格子的间距,计算所述每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息;
平面构建模块940,用于根据所述每个三维点在所述相机坐标系中的三维坐标信息,选择处于同一高度的目标三维点,并根据所述目标三维点构建目标平面,将所述目标平面的方向向量确定为车辆坐标系的Z轴表示;所述车辆坐标系的X轴为沿车辆前后轮连线朝车辆行进方向,Y轴与X轴位于同一平面且朝车辆左侧,Z轴与X轴与Y轴组成的平面垂直且朝上;
坐标映射模块950,用于根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及所述车辆坐标系的Z轴表示,确定所述车辆坐标系的X轴表示和Y轴表示;所述第一图像和所述第二图像为将所述标定板放置于与所述无人驾驶车辆的预设部件处于同一直线的两个位置后,所述目标相机分别采集的图像;所述预设部件与所述目标相机相对应;
矩阵构建模块960,用于根据所述车辆坐标系的Z轴表示、X轴表示和Y轴表示,构建所述车辆坐标系和所述相机坐标系之间的旋转矩阵;
距离计算模块970,用于获取根据测距设备得到的所述目标相机距离所述无人驾驶车辆车头的距离;根据所述第一图像和所述第二图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身左侧的距离;根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身右侧的距离;根据所述旋转矩阵、所述标定板的高度、以及任一所述图像中检测得到的最高处交点的高度,计算所述目标相机的高度。
作为本发明实施例的一种实施方式,所述坐标转换模块930,具体用于针对每张所述图像中检测得到的每个交点,根据以下公式,计算该图像中检测得到的每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息:
Pi=P0+i*d*v
pi=Proj(K*Pi)
其中,Pi为第i个交点pi对应的三维点,P0为该图像中检测得到的最高处的交点对应的三维点,i为整数,d为相邻三维点Pi之间的距离,v为沿所述标定板中轴线的单位方向向量,K为所述目标相机的内参矩阵,Proj函数为(x,y,z)→(x/z,y/z)。
作为本发明实施例的一种实施方式,所述距离计算模块970,具体用于:
构建所述相机坐标系对应的位移T=transpose(R)*P0;
将所述目标相机的高度H确定为:
H=-T(2)+D
R为所述旋转矩阵,transpose(R)为求R的转置矩阵,P0为任一所述图像中检测得到的最高处交点的高度,D为所述标定板的高度。
作为本发明实施例的一种实施方式,所述预设位置位于所述目标相机采集范围;
所述目标相机为所述无人驾驶车辆中前视相机或后视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆左侧前后轮外边缘线处于同一直线的第一位置和第二位置,以及所述标定板中轴线与所述无人驾驶车辆右侧前后轮外边缘线处于同一直线的第三位置;
所述目标相机为所述无人驾驶车辆中侧左前视相机或侧右前视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆车头切线处于同一直线的第四位置和第五位置,以及距离所述第四位置和所述第五位置的连线大于预设距离阈值的第六位置;所述第四位置和所述第五位置的间距大于所述预设距离阈值;
所述目标相机为所述无人驾驶车辆中侧左后视相机或侧右后视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆车尾切线处于同一直线的第七位置和第八位置,以及距离所述第七位置和所述第八位置的连线大于预设距离阈值的第九位置;所述第七位置和所述第八位置的间距大于所述预设距离阈值。
作为本发明实施例的一种实施方式,所述目标相机为所述无人驾驶车辆中前视相机或后视相机,所述坐标映射模块950包括:
第一均值坐标计算子模块,用于根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,计算所述第一图像对应的三维点的第一平均点的第一均值坐标,以及所述第二图像对应的三维点的第二平均点的第二均值坐标;
第一X轴确定子模块,用于根据所述第一平均点的第一均值坐标,以及所述第二平均点的第二均值坐标,将所述第一平均点和所述第二平均点的连线确定为所述车辆坐标系的X轴表示;其中,采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距,小于采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距;
第一Y轴确定子模块,用于根据所述车辆坐标系的Z轴表示和X轴表示,确定所述车辆坐标系的Y轴表示。
作为本发明实施例的一种实施方式,所述距离计算模块970包括:
左侧距离计算子模块,用于将所述第一均值坐标和所述第二均值坐标中沿Y轴坐标值的均值,确定为所述目标相机到所述无人驾驶车辆车身左侧的距离;
右侧距离计算子模块,用于根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述第三图像对应的三维点的第三平均点的第三均值坐标;将所述第三均值坐标中沿Y轴坐标值的均值,确定为所述目标相机到所述无人驾驶车辆车身右侧的距离。
作为本发明实施例的一种实施方式,所述坐标映射模块950包括:
第二均值坐标计算子模块,用于根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,计算所述第一图像对应的三维点的第一平均点的第一均值坐标,以及所述第二图像对应的三维点的第二平均点的第二均值坐标;
第二Y轴确定子模块,用于根据所述第一平均点的第一均值坐标,以及所述第二平均点的第二均值坐标,将所述第一平均点和所述第二平均点的连线确定为所述车辆坐标系的Y轴表示;其中,采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距,小于采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距;
第二X轴确定子模块,用于根据所述车辆坐标系的Z轴表示和Y轴表示,确定所述车辆坐标系的X轴表示。
由上述内容可知,本发明实施例提供的用于无人驾驶车辆的相机标定装置,可以获取针对目标相机采集的三张包括标定板的图像;目标相机为无人驾驶车辆中安装的任一相机;标定板包括按预设方式排列的黑白格子图案;各图像为分别将标定板放置于与目标相机对应的预设位置后目标相机采集的图像;分别检测每张图像中位于标定板中轴线处黑白格子的交点,得到每个交点在各图像中的二维坐标信息;根据每个交点在各图像中的二维坐标信息、目标相机的内参矩阵、以及每个格子的间距,计算每个交点在标定板上对应的三维点在相机坐标系中的三维坐标信息;根据每个三维点在相机坐标系中的三维坐标信息,选择处于同一高度的目标三维点,并根据目标三维点构建目标平面,将目标平面的方向向量确定为车辆坐标系的Z轴表示;车辆坐标系的X轴为沿车辆前后轮连线朝车辆行进方向,Y轴与X轴位于同一平面且朝车辆左侧,Z轴与X轴与Y轴组成的平面垂直且朝上;根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及车辆坐标系的Z轴表示,确定车辆坐标系的X轴表示和Y轴表示;第一图像和第二图像为将标定板放置于与无人驾驶车辆的预设部件处于同一直线的两个位置后,目标相机分别采集的图像;预设部件与目标相机相对应;根据车辆坐标系的Z轴表示、X轴表示和Y轴表示,构建车辆坐标系和相机坐标系之间的旋转矩阵;获取根据测距设备得到的目标相机距离无人驾驶车辆车头的距离;根据第一图像和第二图像对应的三维点的三维坐标信息,计算目标相机到无人驾驶车辆车身左侧的距离;根据除第一图像和第二图像之外的第三图像对应的三维点的三维坐标信息,计算目标相机到无人驾驶车辆车身右侧的距离;根据旋转矩阵、标定板的高度、以及任一图像中检测得到的最高处交点的高度,计算目标相机的高度,因此能够基于标定板完成对无人驾驶车辆中相机的标定,标定板安装简便且可以随身携带,使用标定板对相机进行标定时,只需要将无人驾驶车辆停放在较为空旷的平地上,采集到满足条件的图像即可,不需要去到专用的标定场地,因此能够提高相机标定的便捷性。并且,专用的标定场地建设费用昂贵,本方案中使用的标定设备成本较低,能够降低相机标定的成本。
上述装置实施例与方法实施例相对应,与该方法实施例具有同样的技术效果,具体说明参见方法实施例。装置实施例是基于方法实施例得到的,具体的说明可以参见方法实施例部分,此处不再赘述。
本领域普通技术人员可以理解:附图只是一个实施例的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
本领域普通技术人员可以理解:实施例中的装置中的模块可以按照实施例描述分布于实施例的装置中,也可以进行相应变化位于不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。
Claims (10)
1.一种用于无人驾驶车辆的相机标定方法,其特征在于,所述方法包括:
获取针对目标相机采集的三张包括标定板的图像;所述目标相机为所述无人驾驶车辆中安装的任一相机;所述标定板包括按预设方式排列的黑白格子图案;各所述图像为分别将所述标定板放置于与所述目标相机对应的预设位置后所述目标相机采集的图像;
分别检测每张所述图像中位于所述标定板中轴线处黑白格子的交点,得到所述每个交点在各所述图像中的二维坐标信息;
根据所述每个交点在各所述图像中的二维坐标信息、所述目标相机的内参矩阵、以及所述每个格子的间距,计算所述每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息;
根据所述每个三维点在所述相机坐标系中的三维坐标信息,选择处于同一高度的目标三维点,并根据所述目标三维点构建目标平面,将所述目标平面的方向向量确定为车辆坐标系的Z轴表示;所述车辆坐标系的X轴为沿车辆前后轮连线朝车辆行进方向,Y轴与X轴位于同一平面且朝车辆左侧,Z轴与X轴与Y轴组成的平面垂直且朝上;
根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及所述车辆坐标系的Z轴表示,确定所述车辆坐标系的X轴表示和Y轴表示;所述第一图像和所述第二图像为将所述标定板放置于与所述无人驾驶车辆的预设部件处于同一直线的两个位置后,所述目标相机分别采集的图像;所述预设部件与所述目标相机相对应;
根据所述车辆坐标系的Z轴表示、X轴表示和Y轴表示,构建所述车辆坐标系和所述相机坐标系之间的旋转矩阵;
获取根据测距设备得到的所述目标相机距离所述无人驾驶车辆车头的距离;根据所述第一图像和所述第二图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身左侧的距离;根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身右侧的距离;根据所述旋转矩阵、所述标定板的高度、以及任一所述图像中检测得到的最高处交点的高度,计算所述目标相机的高度。
2.根据权利要求1所述的方法,其特征在于,所述根据所述每个交点在各所述图像中的二维坐标信息、所述目标相机的内参矩阵、以及所述每个格子的间距,计算所述每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息的步骤包括:
针对每张所述图像中检测得到的每个交点,根据以下公式,计算该图像中检测得到的每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息:
Pi=P0+i*d*v
pi=Proj(K*Pi)
其中,Pi为第i个交点pi对应的三维点,P0为该图像中检测得到的最高处的交点对应的三维点,i为整数,d为相邻三维点Pi之间的距离,v为沿所述标定板中轴线的单位方向向量,K为所述目标相机的内参矩阵,Proj函数为(x,y,z)→(x/z,y/z)。
3.根据权利要求1所述的方法,其特征在于,所述根据所述旋转矩阵、所述标定板的高度、以及任一所述图像中检测得到的最高处交点的高度,计算所述目标相机的高度的步骤包括:
构建所述相机坐标系对应的位移T=transpose(R)*P0;
将所述目标相机的高度H确定为:
H=-T(2)+D
R为所述旋转矩阵,transpose(R)为求R的转置矩阵,P0为任一所述图像中检测得到的最高处交点的高度,D为所述标定板的高度。
4.根据权利要求1-3任一项所述的方法,其特征在于,
所述预设位置位于所述目标相机采集范围;
所述目标相机为所述无人驾驶车辆中前视相机或后视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆左侧前后轮外边缘线处于同一直线的第一位置和第二位置,以及所述标定板中轴线与所述无人驾驶车辆右侧前后轮外边缘线处于同一直线的第三位置;
所述目标相机为所述无人驾驶车辆中侧左前视相机或侧右前视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆车头切线处于同一直线的第四位置和第五位置,以及距离所述第四位置和所述第五位置的连线大于预设距离阈值的第六位置;所述第四位置和所述第五位置的间距大于所述预设距离阈值;
所述目标相机为所述无人驾驶车辆中侧左后视相机或侧右后视相机,所述预设位置为:所述标定板中轴线与所述无人驾驶车辆车尾切线处于同一直线的第七位置和第八位置,以及距离所述第七位置和所述第八位置的连线大于预设距离阈值的第九位置;所述第七位置和所述第八位置的间距大于所述预设距离阈值。
5.根据权利要求4所述的方法,其特征在于,所述目标相机为所述无人驾驶车辆中前视相机或后视相机,所述根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及所述车辆坐标系的Z轴表示,确定所述车辆坐标系的X轴表示和Y轴表示的步骤包括:
根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,计算所述第一图像对应的三维点的第一平均点的第一均值坐标,以及所述第二图像对应的三维点的第二平均点的第二均值坐标;
根据所述第一平均点的第一均值坐标,以及所述第二平均点的第二均值坐标,将所述第一平均点和所述第二平均点的连线确定为所述车辆坐标系的X轴表示;其中,采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距,小于采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距;
根据所述车辆坐标系的Z轴表示和X轴表示,确定所述车辆坐标系的Y轴表示。
6.根据权利要求5所述的方法,其特征在于,所述根据所述第一图像和所述第二图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身左侧的距离的步骤包括:
将所述第一均值坐标和所述第二均值坐标中沿Y轴坐标值的均值,确定为所述目标相机到所述无人驾驶车辆车身左侧的距离;
所述根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身右侧的距离的步骤包括:
根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述第三图像对应的三维点的第三平均点的第三均值坐标;将所述第三均值坐标中沿Y轴坐标值的均值,确定为所述目标相机到所述无人驾驶车辆车身右侧的距离。
7.根据权利要求4所述的方法,其特征在于,所述目标相机为所述无人驾驶车辆中侧左前视相机、侧右前视相机、侧左后视相机或侧右后视相机,所述根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及所述车辆坐标系的Z轴表示,确定所述车辆坐标系的X轴表示和Y轴表示的步骤包括:
根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,计算所述第一图像对应的三维点的第一平均点的第一均值坐标,以及所述第二图像对应的三维点的第二平均点的第二均值坐标;
根据所述第一平均点的第一均值坐标,以及所述第二平均点的第二均值坐标,将所述第一平均点和所述第二平均点的连线确定为所述车辆坐标系的Y轴表示;其中,采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距,小于采集所述第一图像时所述标定板所处位置与所述无人驾驶车辆的间距;
根据所述车辆坐标系的Z轴表示和Y轴表示,确定所述车辆坐标系的X轴表示。
8.一种用于无人驾驶车辆的相机标定装置,其特征在于,所述装置包括:
图像获取模块,用于获取针对目标相机采集的三张包括标定板的图像;所述目标相机为所述无人驾驶车辆中安装的任一相机;所述标定板包括按预设方式排列的黑白格子图案;各所述图像为分别将所述标定板放置于与所述目标相机对应的预设位置后所述目标相机采集的图像;
交点检测模块,用于分别检测每张所述图像中位于所述标定板中轴线处黑白格子的交点,得到所述每个交点在各所述图像中的二维坐标信息;
坐标转换模块,用于根据所述每个交点在各所述图像中的二维坐标信息、所述目标相机的内参矩阵、以及所述每个格子的间距,计算所述每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息;
平面构建模块,用于根据所述每个三维点在所述相机坐标系中的三维坐标信息,选择处于同一高度的目标三维点,并根据所述目标三维点构建目标平面,将所述目标平面的方向向量确定为车辆坐标系的Z轴表示;所述车辆坐标系的X轴为沿车辆前后轮连线朝车辆行进方向,Y轴与X轴位于同一平面且朝车辆左侧,Z轴与X轴与Y轴组成的平面垂直且朝上;
坐标映射模块,用于根据第一图像和第二图像中检测得到的交点对应的三维点的三维坐标信息,以及所述车辆坐标系的Z轴表示,确定所述车辆坐标系的X轴表示和Y轴表示;所述第一图像和所述第二图像为将所述标定板放置于与所述无人驾驶车辆的预设部件处于同一直线的两个位置后,所述目标相机分别采集的图像;所述预设部件与所述目标相机相对应;
矩阵构建模块,用于根据所述车辆坐标系的Z轴表示、X轴表示和Y轴表示,构建所述车辆坐标系和所述相机坐标系之间的旋转矩阵;
距离计算模块,用于获取根据测距设备得到的所述目标相机距离所述无人驾驶车辆车头的距离;根据所述第一图像和所述第二图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身左侧的距离;根据除所述第一图像和所述第二图像之外的第三图像对应的三维点的三维坐标信息,计算所述目标相机到所述无人驾驶车辆车身右侧的距离;根据所述旋转矩阵、所述标定板的高度、以及任一所述图像中检测得到的最高处交点的高度,计算所述目标相机的高度。
9.根据权利要求8所述的装置,其特征在于,所述坐标转换模块,具体用于针对每张所述图像中检测得到的每个交点,根据以下公式,计算该图像中检测得到的每个交点在所述标定板上对应的三维点在所述相机坐标系中的三维坐标信息:
Pi=P0+i*d*v
pi=Proj(K*Pi)
其中,Pi为第i个交点pi对应的三维点,P0为该图像中检测得到的最高处的交点对应的三维点,i为整数,d为相邻三维点Pi之间的距离,v为沿所述标定板中轴线的单位方向向量,K为所述目标相机的内参矩阵,Proj函数为(x,y,z)→(x/z,y/z)。
10.根据权利要求8所述的装置,其特征在于,所述距离计算模块,具体用于:
构建所述相机坐标系对应的位移T=transpose(R)*P0;
将所述目标相机的高度H确定为:
H=-T(2)+D
R为所述旋转矩阵,transpose(R)为求R的转置矩阵,P0为任一所述图像中检测得到的最高处交点的高度,D为所述标定板的高度。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911132111.7A CN112907674B (zh) | 2019-11-19 | 2019-11-19 | 一种用于无人驾驶车辆的相机标定方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911132111.7A CN112907674B (zh) | 2019-11-19 | 2019-11-19 | 一种用于无人驾驶车辆的相机标定方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112907674A CN112907674A (zh) | 2021-06-04 |
CN112907674B true CN112907674B (zh) | 2022-06-07 |
Family
ID=76103301
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911132111.7A Active CN112907674B (zh) | 2019-11-19 | 2019-11-19 | 一种用于无人驾驶车辆的相机标定方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112907674B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116202424B (zh) * | 2023-04-28 | 2023-08-04 | 深圳一清创新科技有限公司 | 车身区域检测方法、牵引车及牵引车避障*** |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103679693A (zh) * | 2013-01-25 | 2014-03-26 | 杭州先临三维科技股份有限公司 | 一种多相机单视图标定装置及其标定方法 |
CN107633536A (zh) * | 2017-08-09 | 2018-01-26 | 武汉科技大学 | 一种基于二维平面模板的相机标定方法及*** |
-
2019
- 2019-11-19 CN CN201911132111.7A patent/CN112907674B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103679693A (zh) * | 2013-01-25 | 2014-03-26 | 杭州先临三维科技股份有限公司 | 一种多相机单视图标定装置及其标定方法 |
CN107633536A (zh) * | 2017-08-09 | 2018-01-26 | 武汉科技大学 | 一种基于二维平面模板的相机标定方法及*** |
Non-Patent Citations (1)
Title |
---|
车载摄像机的立体标定方法;谭华春等;《吉林大学学报(工学版)》;20130315;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN112907674A (zh) | 2021-06-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108663681B (zh) | 基于双目摄像头与二维激光雷达的移动机器人导航方法 | |
CN109074668B (zh) | 路径导航方法、相关装置及计算机可读存储介质 | |
CN109752701B (zh) | 一种基于激光点云的道路边沿检测方法 | |
CN110275181A (zh) | 一种车载移动测量***及其数据处理方法 | |
JP5588812B2 (ja) | 画像処理装置及びそれを用いた撮像装置 | |
CN107422730A (zh) | 基于视觉导引的agv运输***及其驾驶控制方法 | |
CN109031346A (zh) | 一种基于3d激光雷达的周边泊车位辅助检测方法 | |
CN110361717B (zh) | 激光雷达-摄像机联合标定靶和联合标定方法 | |
CN108106562A (zh) | 一种接触网测量方法及装置 | |
KR102327901B1 (ko) | 이동하는 오브젝트 센서의 정렬을 교정하기 위한 방법 | |
JP5811327B2 (ja) | カメラキャリブレーション装置 | |
CN109597097A (zh) | 基于多线激光的扫描式障碍物检测方法 | |
CN105551020A (zh) | 一种检测目标物尺寸的方法及装置 | |
CN111208493A (zh) | 一种车载激光雷达在整车坐标系下的快速标定方法 | |
CN110827361A (zh) | 基于全局标定架的相机组标定方法及装置 | |
CN110597249A (zh) | 一种机器人及其回充定位方法和装置 | |
CN115079143B (zh) | 一种用于双桥转向矿卡的多雷达外参快速标定方法及装置 | |
CN112907674B (zh) | 一种用于无人驾驶车辆的相机标定方法及装置 | |
CN109712198B (zh) | 一种高级驾驶辅助***的标定方法 | |
CN112446915B (zh) | 一种基于图像组的建图方法及装置 | |
Csaba et al. | Differences between Kinect and structured lighting sensor in robot navigation | |
JP2013187564A (ja) | パラメータ算出方法、情報処理装置及びプログラム | |
CN105758411A (zh) | 一种基于车载摄像头提升车载gps定位精度的***和方法 | |
CN109087361B (zh) | 一种基于单目摄像头的前向物体横向距离标定方法 | |
CN112530010A (zh) | 数据获取方法和*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20211124 Address after: 215100 floor 23, Tiancheng Times Business Plaza, No. 58, qinglonggang Road, high speed rail new town, Xiangcheng District, Suzhou, Jiangsu Province Applicant after: MOMENTA (SUZHOU) TECHNOLOGY Co.,Ltd. Address before: Room 601-a32, Tiancheng information building, No. 88, South Tiancheng Road, high speed rail new town, Xiangcheng District, Suzhou City, Jiangsu Province Applicant before: MOMENTA (SUZHOU) TECHNOLOGY Co.,Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |