CN112802126A - 一种标定方法、装置、计算机设备和存储介质 - Google Patents

一种标定方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN112802126A
CN112802126A CN202110218895.6A CN202110218895A CN112802126A CN 112802126 A CN112802126 A CN 112802126A CN 202110218895 A CN202110218895 A CN 202110218895A CN 112802126 A CN112802126 A CN 112802126A
Authority
CN
China
Prior art keywords
target
point
point cloud
determining
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110218895.6A
Other languages
English (en)
Inventor
马涛
刘知正
闫国行
李怡康
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Sensetime Lingang Intelligent Technology Co Ltd
Original Assignee
Shanghai Sensetime Lingang Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Sensetime Lingang Intelligent Technology Co Ltd filed Critical Shanghai Sensetime Lingang Intelligent Technology Co Ltd
Priority to CN202110218895.6A priority Critical patent/CN112802126A/zh
Publication of CN112802126A publication Critical patent/CN112802126A/zh
Priority to PCT/CN2022/077622 priority patent/WO2022179549A1/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本公开提供了一种标定方法、装置、计算机设备和存储介质,其中,该方法包括:获取同一场景下的目标图像和点云数据;确定所述目标图像中具有直线形状的目标对象的目标像素点,并获取所述点云数据中具有所述直线形状的目标对象的目标点云;所述目标对象为与道路关联的交通元素;基于所述目标像素点和所述目标点云,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息。本公开实施例利用道路本身的具有直线形状的目标对象进行外参标定,能够有效降低计算量,提高标定速度和外参标定的精度。

Description

一种标定方法、装置、计算机设备和存储介质
技术领域
本公开涉及自动驾驶技术领域,具体而言,涉及一种标定方法、装置、计算机设备和存储介质。
背景技术
在自动驾驶领域,经常使用激光雷达和相机联合对物体进行识别和检测,为了保证物体识别和检测的精度,需要对激光雷达和相机进行精准的外参标定。现有技术中,外参标定的过程大多是通过激光雷达和相机对提前摆放的特定标志物,例如棋盘格标定板,进行特征提取和特征匹配,之后,基于特征匹配结果,标定激光雷达和相机之间的外参。
但是,上述方案摆放特定标志物的过程繁琐,灵活性较差且需要消耗大量的时间,影响了外参标定的速度和效率。
发明内容
本公开实施例至少提供一种标定方法、装置、计算机设备和存储介质。
第一方面,本公开实施例提供了一种标定方法,包括:
获取同一场景下的目标图像和点云数据;
确定所述目标图像中具有直线形状的目标对象的目标像素点,并获取所述点云数据中具有所述直线形状的目标对象的目标点云;所述目标对象为与道路关联的交通元素;
基于所述目标像素点和所述目标点云,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息。
由于目标对象都是与道路关联的交通元素,是道路本身具有的特征,所以利用目标对象对应的目标像素点和目标点云确定外参标定信息,在不需要使用额外设置的标定物的基础上,整个过程还可以自动完成,既节省了设置标定物的时间,又提高了外参标定的效率和速度,另外,利用道路本身的具有直线形状的目标对象进行外参标定,能够有效降低计算量,提高标定速度和外参标定的精度。
在一种可能的实施方式中,所述目标对象包括位于不同平面内的多个目标对象,其中,不同平面包括道路平面以及与道路平面垂直的平面。
基于不同平面内的多个目标对象进行外参标定,能够有效提高标定精度。
在一种可能的实施方式中,所述确定所述目标图像中具有直线形状的目标对象的目标像素点,包括:
获取所述具有直线形状的目标对象的目标类别;
基于所述目标图像,确定所述目标图像中每一像素点的类别;
基于所述每一像素点的类别,从所述每一像素点中筛选出所述目标类别对应的目标像素点。
通过目标图像中每一像素点的类别,能够准确得到与目标类别相一致的目标像素点,提高了得到的目标像素点的准确性。
在一种可能的实施方式中,所述目标类别包括地面直线类别;
所述基于所述每一像素点的类别,从所述每一像素点中筛选出所述目标类别对应的目标像素点,包括:
基于所述每一像素点的类别,确定属于地面类别的像素点;
基于所述地面类别的像素点中每一像素点的像素亮度信息,确定属于所述地面直线类别的像素点,并将所述属于地面直线类别的像素点作为所述目标像素点。
针对地面类别的像素点而言,每一个像素点都具有对应的像素亮度信息,属于地面直线类别的像素点的亮度会更加明显,例如道路上的车道线,因此利用每一像素点的像素亮度信息,能够准确地提取到属于地面直线类别的目标像素点,从而有利于提高外参标定的准确度。
在一种可能的实施方式中,所述目标类别包括路杆类别;
所述基于所述每一像素点的类别,从所述每一像素点中筛选出所述目标类别对应的目标像素点,包括:
基于所述每一像素点的类别,确定属于所述路杆类别的像素点,并将属于所述路杆类别的像素点作为所述目标像素点。
路杆属于与道路关联的交通元素中具有直线形状的对象,提取属于路杆类别的目标像素点,能够提高外参标定的准确度和速度。另外,基于每一像素点的类别来提取属于路杆类别的像素点,能够提高目标像素点提取的准确度,实现了对外参标定精度的进一步提高。
在一种可能的实施方式中,所述获取所述点云数据中具有所述直线形状的目标对象的目标点云,包括:
基于所述点云数据,确定所述点云数据中每一点的地面特征信息;
基于所述每一点的地面特征信息,从所述点云数据中确定具有所述直线形状的目标对象的目标点云。
地面特征信息能够反映点云数据中每一点的是否属于地面类别,基于地面特征信息中的地面类别,能够准确地提取到点云数据中具有直线形状的目标对象的目标点云。
在一种可能的实施方式中,所述基于所述每一点的地面特征信息,从所述点云数据中确定具有所述直线形状的目标对象的目标点云,包括:
基于所述每一点的地面特征信息,确定属于地面上的点;
基于所述地面上的点中的每一点的反射强度信息,确定属于地面直线类别的点,并将所述属于地面直线类别的点作为具有所述直线形状的目标对象的目标点云。
针对地面类别的点而言,每一个点都具有对应的反射强度信息,属于地面直线类别的点云的反射强度会更高,例如道路上的车道线,因此利用每一点的反射强度信息,能够准确地提取到属于地面直线类别的点,从而有利于提高外参标定的准确度。
在一种可能的实施方式中,所述基于所述每一点的地面特征信息,从所述点云数据中确定具有所述直线形状的目标对象的目标点云,包括:
基于所述每一点的地面特征信息,确定不属于地面上的点;
基于所述不属于地面上的点所属的对象的高度,从所述不属于地面上的点中筛选高度大于第一预设值的对象所包括的点;
从筛选出的所述高度大于第一预设值的对象所包括的点中筛选出具有所述直线形状的目标对象所包括的点,并将筛选出的具有所述直线形状的目标对象所包括的点作为所述目标点云。
点云数据中的每一点对应的对象都存在高度,因此,利用第一预设值能够筛选出具有一定高度的对象,然后,再经过二次筛选,能准确地得到具有直线形状的目标对象的点,例如路杆类别的目标对象的点。
在一种可能的实施方式中,所述从筛选出的所述高度大于第一预设值的对象所包括的点中筛选出所述具有直线形状的目标对象所包括的点,包括:
确定所述筛选出的所述高度大于第一预设值的对象所包括的点所属的每一对象距离路面边界的距离;
将所述距离小于第二预设值的对象所包括的点作为具有所述直线形状的目标对象的目标点云;其中具有所述直线形状的目标对象的类别为路杆类别。
路杆类别的目标对象距离道路的距离相对较近,其他具有直线形状的对象(例如写字楼等)距离道路的距离相对较远,因此,利用第二预设值能够准确地筛选出距离道路的距离相对较近的目标对象,即路杆类别的目标对象,进而,能够准确地得到目标点云。
在一种可能的实施方式中,所述从筛选出的所述高度大于第一预设值的对象所包括的点中筛选出所述具有直线形状的目标对象所包括的点,包括:
确定所述筛选出的所述高度大于第一预设值的对象所包括的点所属的每一对象包括的点的数量;
将所述数量小于第三预设值的对象所包括的点作为具有所述直线形状的目标对象的目标点云。
路杆类别的目标对象的体积相对较小,包括的点云数量也相对较少,而其他具有直线形状的对象(例如写字楼等)体积相对较大,包括的点云数量也相对较多,因此,利用第三预设值能够准确地筛选出点云数量也相对较少的目标对象,即路杆类别的目标对象,进而,能够准确地得到目标点云。
在一种可能的实施方式中,所述基于所述目标像素点和所述目标点云,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息,包括:
基于所述目标像素点,确定所述目标像素点对应的目标对象在二维平面上的第一方程;
基于所述目标点云,确定所述目标点云对应的目标对象的在三维空间中的第二方程;
基于所述第一方程和所述第二方程,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息。
第一方程和第二方程能够准确表征目标对象在不同坐标系下的位置信息,利用在二维平面上的第一方程和在三维空间中的第二方程,能够简化确定外参标定信息的步骤,并且能够降低外参标定信息的计算量,提高外参标定信息的计算速度。
在一种可能的实施方式中,所述基于所述第一方程和所述第二方程,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息,包括:
从所述第一方程中选取预设数量的目标对象对应的第一方程;
确定与每个选取的目标对象对应的第一方程相匹配的第二方程;
基于匹配成功的第一方程和第二方程,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的初始外参信息;
基于所述初始外参信息、所述目标像素点和所述目标点云,确定所述外参标定信息。
通过预设数量的第一方程以及相匹配的第二方程确定初始外参信息,能够在保证外参标定精度的基础上,减少第一方程和第二方程的使用数量,进一步减少了确定外参标定的计算量,提高了外参标定的速度。
在一种可能的实施方式中,所述预设数量包括第一数量和第二数量;
所述从所述第一方程中选取预设数量的目标对象对应的第一方程,包括:
从所述第一方程中选取所述第一数量的路杆类别的目标对象对应的第一方程和所述第二数量的地面直线类别的目标对象对应的第一方程;
所述确定与每个选取的目标对象对应的第一方程相匹配的第二方程,包括:
确定与每个选取的地面直线类别的目标对象对应的第一方程相匹配的第二方程,以及,与每个选取的路杆类别的目标对象对应的第一方程相匹配的第二方程。
通过选取第一数量和第一方程和第二数量的第一方程,能够保证选取的第一方程和第二方程是在不同平面上,进而,能够实现在不同平面的维度上进行外参标定,提高了外参标定的精度。
在一种可能的实施方式中,所述基于所述初始外参信息、所述目标像素点和所述目标点云,确定所述外参标定信息,包括:
基于所述目标像素点,将所述目标图像转化为二值化图像;
基于所述二值化图像、所述目标像素点、所述初始外参信息和所述目标点云,确定所述目标点云与所述目标像素点的匹配程度信息;
基于所述匹配程度信息,对所述初始外参信息进行调整,得到所述外参标定信息。
利用二值化图像能够准确的显示出目标像素点和其他像素点之间的区别,基于二值化图像确定的匹配程度信息,能够准确地反映出目标点云投影到二值化图像上之后,与目标像素点之间的重叠程度,利用该匹配程度信息,能够提高外参标定的精度。
在一种可能的实施方式中,所述基于所述二值化图像、所述目标像素点、所述初始外参信息和所述目标点云,确定所述目标点云与所述目标像素点的匹配程度信息,包括:
基于所述二值化图像,确定所述二值化图像中每一像素点与所述目标像素点所属的目标对象的距离信息;
基于所述初始外参信息,从所述二值化图像中的每一像素点中确定与所述目标点云中每一点相匹配的匹配像素点;
将所述匹配像素点与所述目标像素点所属的目标对象的距离信息作为目标点云中与该匹配像素点对应的点的距离信息;
基于目标点云中每一点的距离信息和所述初始外参信息,确定所述匹配程度信息。
通过初始外参信息将目标点云投影到二值化图像中,再结合每一像素点与目标像素点对应的目标对象的距离信息,能够准确的确定投影到二值化图像中的点云与二值化图像中目标像素点的重叠程度,即能够准确地确定投影到二值化图像中的点云与目标像素点的匹配程度信息。
在一种可能的实施方式中,所述基于所述匹配程度信息,对所述初始外参信息进行调整,得到所述外参标定信息,包括:
基于所述匹配程度信息,对所述初始外参信息进行调整,直至所述匹配程度信息对应的匹配程度最大,将匹配程度最大时的调整后的初始外参信息作为所述外参标定信息。
匹配程度最大时,说明目标像素点与投影到二值化图像中的点云的匹配程度最高,此时用于将目标点云投影到二值化图像中的初始外参信息最为准确,将该最为准确的初始外参信息作为外参标定信息,能够保证外参标定的精度。
第二方面,本公开实施例还提供一种标定装置,包括:
第一获取模块,用于获取同一场景下的目标图像和点云数据;
第二获取模块,用于确定所述目标图像中具有直线形状的目标对象的目标像素点,并获取所述点云数据中具有所述直线形状的目标对象的目标点云;所述目标对象为与道路关联的交通元素;
确定模块,用于基于所述目标像素点和所述目标点云,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息。
在一种可能的实施方式中,所述目标对象包括位于不同平面内的多个目标对象,其中,不同平面包括道路平面以及与道路平面垂直的平面。
在一种可能的实施方式中,所述第二获取模块,用于获取所述具有直线形状的目标对象的目标类别;
基于所述目标图像,确定所述目标图像中每一像素点的类别;
基于所述每一像素点的类别,从所述每一像素点中筛选出所述目标类别对应的目标像素点。
在一种可能的实施方式中,所述目标类别包括地面直线类别;
所述第二获取模块,用于基于所述每一像素点的类别,确定属于地面类别的像素点;
基于所述地面类别的像素点中每一像素点的像素亮度信息,确定属于所述地面直线类别的像素点,并将所述属于地面直线类别的像素点作为所述目标像素点。
在一种可能的实施方式中,所述目标类别包括路杆类别;
所述第二获取模块,用于基于所述每一像素点的类别,确定属于所述路杆类别的像素点,并将属于所述路杆类别的像素点作为所述目标像素点。
在一种可能的实施方式中,所述第二获取模块,用于基于所述点云数据,确定所述点云数据中每一点的地面特征信息;
基于所述每一点的地面特征信息,从所述点云数据中确定具有所述直线形状的目标对象的目标点云。
在一种可能的实施方式中,所述第二获取模块,用于基于所述每一点的地面特征信息,确定属于地面上的点;
基于所述地面上的点中的每一点的反射强度信息,确定属于地面直线类别的点,并将所述属于地面直线类别的点作为具有所述直线形状的目标对象的目标点云。
在一种可能的实施方式中,所述第二获取模块,用于基于所述每一点的地面特征信息,确定不属于地面上的点;
基于所述不属于地面上的点所属的对象的高度,从所述不属于地面上的点中筛选高度大于第一预设值的对象所包括的点;
从筛选出的所述高度大于第一预设值的对象所包括的点中筛选出具有所述直线形状的目标对象所包括的点,并将筛选出的具有所述直线形状的目标对象所包括的点作为所述目标点云。
在一种可能的实施方式中,所述第二获取模块,用于确定所述筛选出的所述高度大于第一预设值的对象所包括的点所属的每一对象距离路面边界的距离;
将所述距离小于第二预设值的对象所包括的点作为具有所述直线形状的目标对象的目标点云;其中具有所述直线形状的目标对象的类别为路杆类别。
在一种可能的实施方式中,所述第二获取模块,用于确定所述筛选出的所述高度大于第一预设值的对象所包括的点所属的每一对象包括的点的数量;
将所述数量小于第三预设值的对象所包括的点作为具有所述直线形状的目标对象的目标点云。
在一种可能的实施方式中,所述确定模块,用于基于所述目标像素点,确定所述目标像素点对应的目标对象在二维平面上的第一方程;
基于所述目标点云,确定所述目标点云对应的目标对象在三维空间中的第二方程;
基于所述第一方程和所述第二方程,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息。
在一种可能的实施方式中,所述确定模块,用于从所述第一方程中选取预设数量的目标对象对应的第一方程;
确定与每个选取的目标对象对应的第一方程相匹配的第二方程;
基于匹配成功的第一方程和第二方程,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的初始外参信息;
基于所述初始外参信息、所述目标像素点和所述目标点云,确定所述外参标定信息。
在一种可能的实施方式中,所述预设数量包括第一数量和第二数量;
所述确定模块,用于从所述第一方程中选取所述第一数量的路杆类别的目标对象对应的第一方程和所述第二数量的地面直线类别的目标对象对应的第一方程;
以及,用于确定与每个选取的地面直线类别的目标对象对应的第一方程相匹配的第二方程,以及,与每个选取的路杆类别的目标对象对应的第一方程相匹配的第二方程。
在一种可能的实施方式中,所述确定模块,用于基于所述目标像素点,将所述目标图像转化为二值化图像;
基于所述二值化图像、所述目标像素点、所述初始外参信息和所述目标点云,确定所述目标点云与所述目标像素点的匹配程度信息;
基于所述匹配程度信息,对所述初始外参信息进行调整,得到所述外参标定信息。
在一种可能的实施方式中,所述确定模块,用于基于所述二值化图像,确定所述二值化图像中每一像素点与所述目标像素点所属的目标对象的距离信息;
基于所述初始外参信息,从所述二值化图像中的每一像素点中确定与所述目标点云中每一点相匹配的匹配像素点;
将所述匹配像素点与所述目标像素点所属的目标对象的距离信息作为目标点云中与该匹配像素点对应的点的距离信息;
基于目标点云中每一点的距离信息和所述初始外参信息,确定所述匹配程度信息。
在一种可能的实施方式中,所述确定模块,用于基于所述匹配程度信息,对所述初始外参信息进行调整,直至所述匹配程度信息对应的匹配程度最大,将匹配程度最大时的调整后的初始外参信息作为所述外参标定信息。
第三方面,本公开可选实现方式还提供一种计算机设备,处理器、存储器,所述存储器存储有所述处理器可执行的机器可读指令,所述处理器用于执行所述存储器中存储的机器可读指令,所述机器可读指令被所述处理器执行时,所述机器可读指令被所述处理器执行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
第四方面,本公开可选实现方式还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被运行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
关于上述标定装置、计算机设备、及计算机可读存储介质的效果描述参见上述标定方法的说明,这里不再赘述。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本公开实施例所提供的一种标定方法的流程图;
图2示出了本公开实施例所提供的一种二值化图像示意图;
图3示出了本公开实施例所提供的一种将目标点云投影到二值化图像中的示意图;
图4示出了本公开实施例所提供的一种标定装置的示意图;
图5示出了本公开实施例所提供的一种计算机设备结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
另外,本公开实施例中的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。
在本文中提及的“多个或者若干个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
经研究发现,在自动驾驶领域,经常使用激光雷达和相机联合对物体进行识别和检测,为了保证物体识别和检测的精度,需要对激光雷达和相机进行精准的外参标定。现有技术中,外参标定的过程大多是通过激光雷达和相机对提前摆放的特定标志物,例如棋盘格标定板,进行特征提取和特征匹配,之后,基于特征匹配结果,标定激光雷达和相机之间的外参。但是,上述方案摆放特定标志物的过程繁琐,灵活性较差且需要消耗大量的时间,影响了外参标定的速度和效率。
基于上述研究,本公开提供了标定方法、装置、计算机设备和存储介质,由于目标对象都是与道路关联的交通元素,是道路本身具有的特征,所以利用目标对象对应的目标像素点和目标点云确定外参标定信息,在不需要使用额外设置的标定物的基础上,整个过程还可以自动完成,既节省了设置标定物的时间,又提高了外参标定的效率和速度,另外,利用道路本身的具有直线形状的目标对象进行外参标定,能够有效降低计算量,提高标定速度和外参标定的精度。
针对以上方案所存在的缺陷,均是发明人在经过实践并仔细研究后得出的结果,因此,上述问题的发现过程以及下文中本公开针对上述问题所提出的解决方案,都应该是发明人在本公开过程中对本公开做出的贡献。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
需要说明的是,本公开实施例中所提到的特定名词包括:
CRF:Conditional Random Fields,条件随机场,是一种判别式的概率无向图模型,在给定一组输入随机变量条件下,输出另外一组随机变量的条件概率分布模型;
RANSAC:Random Sample Consensus,随机抽样一致算法,输入是一组观测数据(往往含有较大的噪声或无效点),一个用于解释观测数据的参数化模型以及一些可信的参数,然后通过反复选择数据中的一组随机子集来达成目标;
直线霍夫变换:一种特征检测,可以用来辨别找出物件中的直线特征。
为便于对本实施例进行理解,首先对本公开实施例所公开的一种标定方法进行详细介绍,本公开实施例所提供的标定方法的执行主体一般为具有一定计算能力的计算机设备,该计算机设备例如包括:终端设备或服务器或其它处理设备,终端设备可以为用户设备(User Equipment,UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字助理(Personal Digital Assistant,PDA)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该标定方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
下面以执行主体为计算机设备为例对本公开实施例提供的标定方法加以说明。
如图1所示,为本公开实施例提供的一种标定方法的流程图,可以包括以下步骤:
S101:获取同一场景下的目标图像和点云数据。
这里,场景可以是道路场景,目标图像可以是安装在车辆上的拍摄设备拍摄的道路图像,点云数据可以是安装在同一车辆上的雷达(例如,激光雷达)获取的道路点云。
目标图像对应于相机坐标系,包括多个对象,例如,路杆、道路、车道线、车辆、树木等,每一个对象在目标图像中可以由若干数量的像素点组成,每一个像素点在相机坐标系下对应一个相机坐标。点云数据对应于雷达坐标系,包括组成不同对象的若干个点云,每一个点云在雷达坐标系下对应一个雷达坐标。
同一场景可以保障目标图像中所有像素点对应的对象和点云数据包括的所有点云对应的对象是相同的,具体实施时,可以是在同一时间和同一位置获取的目标图像和点云数据,然后,可以利用表征相同对象的目标像素点和目标点云来确定外参标定信息。
S102:确定目标图像中具有直线形状的目标对象的目标像素点,并获取点云数据中具有直线形状的目标对象的目标点云,目标对象为与道路关联的交通元素。
这里,目标对象在目标图像中是从目标图像包括的多个对象中选取的,在点云数据是从点云数据中对应的多个对象中选取的,且选取的目标对象在现实世界中是相同的对象。
直线形状的目标对象的形状清晰,便于提取且存在着能够表述目标对象所在直线的直线方程,因此,本公开实施例将具有直线形状的对象作为目标对象。并且,目标对象可以为与道路关联的交通元素,属于道路本身的特征,例如,具有直线形状的目标对象可以是设置在道路两旁的路杆和道路上划分的车道线。
具体实施时,可以利用语义分割的方式对目标图像中包括的所有像素点进行类别划分,以确定每一像素点的类别,然后可以根据每一像素点的类别,在所有像素点中确定组成目标对象的目标像素点。
针对目标点云,在获取点云数据之后,可以利用RANSAC算法将点云数据中属于地面上的点进行拟合,得到拟合地平面,进而,利用拟合地平面,可以将整个点云数据分为两部分:一部分是属于地面上的点,一部分是不属于地面上的点,然后,可以从两部分点云数据中,确定具有直线形状的目标对象的目标点云。
S103:基于目标像素点和目标点云,确定拍摄目标图像的拍摄设备与采集点云数据的雷达之间的外参标定信息。
本公开实施例所提供的标定方法可以应用在自动驾驶技术领域中,具体实施时,可以应用在相机坐标系对应的拍摄设备和雷达坐标系对应的雷达之间的外参标定。
这里,在确定目标像素点和目标点云之后,由于目标像素点所在的相机坐标系是属于二维平面上的坐标系的,目标点云所在的雷达坐标系是属于三维空间中的坐标系,目标像素点和目标点云所对应的维度不同,因此,可以对目标像素点和目标点云在不同维度下的对应关系进行标定,确定表述该对应关系的外参标定信息,并且,该外参标定信息同时也能够反映拍摄目标图像的拍摄设备与采集点云数据的雷达之间的对应关系,即可以确定拍摄目标图像的拍摄设备与采集点云数据的雷达之间的外参标定信息。
具体实施时,可以利用目标像素点的相机坐标,确定目标像素点对应的目标对象所在的直线在二维平面上的第一方程,再利用目标点云的雷达坐标,确定目标点云对应的目标对象所在的直线在三维空间中的第二方程,进而,可以利用第一方程和第二方程,确定外参标定信息。
在该实施例中,由于目标对象都是与道路关联的交通元素,是道路本身具有的特征,所以利用目标对象对应的目标像素点和目标点云确定外参标定信息,在不需要使用额外设置的标定物的基础上,整个过程还可以自动完成,既节省了设置标定物的时间,又提高了外参标定的效率和速度,另外,利用道路本身的具有直线形状的对象进行外参标定,能够有效降低计算量,提高标定速度和外参标定的精度。
在一种可能的实施例中,在获取目标图像和点云数据之后,可以利用以下步骤确定目标像素点:
步骤一、获取具有直线形状的目标对象的目标类别;
步骤二、基于目标图像,确定目标图像中每一像素点的类别;
步骤三、基于每一像素点的类别,从每一像素点中筛选出目标类别对应的目标像素点。
这里,基于语义分割的结果,可以确定每一像素点的类别,然后可以根据每一像素点的类别和目标类别,筛选出目标类别对应的目标像素点。
在一种可能的实施例中,目标对象包括位于不同平面内的多个目标对象,其中,不同平面包括道路平面以及与道路平面垂直的平面。目标类别包括路杆类别和地面直线类别,地面直线类别可以包括车道线类别,并且属于地面直线类别的目标对象要互相平行,属于路杆类别的目标对象和属于车道线类别的目标对象不存在平行关系,且属于路杆类别的目标对象需要垂直于道路所在的平面。目标类别不同,确定目标像素点的方式不同,下面针对两种不同的目标类别分别进行介绍。
在目标类别为地面直线类别的情况下,基于语义分割的结果,可以确定属于地面类别的所有像素点,由于目标图像中为道路信息,所以可以确定属于地面类别的像素点包括道路对应的像素点,另外,目标图像包括的所有像素点都存在对应的像素亮度信息,并且属于地面直线类别的像素点的像素亮度信息与道路上其他位置的像素点的像素亮度信息不同,因此,在确定属于地面类别的所有像素点之后,可以根据属于地面类别的所有像素点中每一像素点的像素亮度信息,确定属于地面直线类别的像素点,并将该像素点作为目标像素点。
在目标类别为路杆类别的情况下,基于语义分割的结果,可以直接确定出属于路杆类别的像素点,然后将其作为目标像素点。这里,利用两种类别的目标像素点进行外参标定,能够实现在不同平面的维度上进行外参标定,进而,能够提高得到的外参标定结果的精度。
另外,在确定属于路杆类别的像素点之后,可以利用CRF技术对每一个目标对象的像素点进行稠密化处理,进而,可以得到更加光滑完整的像素点,这样,能够提高得到的目标像素点的密集程度,有利于提高后续确定目标像素点对应的第一方程的准确性。
具体实施时,基于语义分割的结果,完成目标像素点的提取,整个过程大概需要5S,进而,能够提高后续确定外参标定信息的速度。
另外,在确定目标像素点之后,还需要获取目标像素点对应的目标对象在点云数据中对应的目标点云,然后可以基于目标点云和目标像素点,确定外参标定信息。
具体实施时,可以基于对获取的点云数据中的每一点的分析,确定每一点的地面特征信息,其中,地面特征信息可以表示点云数据中的点是否属于地面类别,进而,可以根据每一点的地面特征信息和目标对象的目标类别,确定获取目标点云的过程。
其中,点云数据包括的每一点都存在对应的反射强度信息,并且属于地面直线类别的点的反射强度信息与地面上其他位置的点的反射强度信息不同,其中,属于地面直线类别的点的反射强度信息对应的反射强度比较高。
具体实施时,在获取点云数据之后,可以利用RANSAC算法对点云数据中的每一点的进行分析,确定每一点的地面特征信息,其中,地面特征信息可以表示点云数据中的点是否属于地面类别,然后可以利用每一点的地面特征信息,将属于地面类别的点进行拟合,得到拟合地平面,进而,利用拟合地平面,可以将整个点云数据分为两部分:一部分是属于地面上的点,一部分是不属于地面上的点,然后,可以根据目标对象包括的目标类别,确定获取目标点云的具体步骤。
在一种可能的实施例中,在目标类别为地面直线类别的情况下,可以基于每一点的地面特征信息,确定属于地面上的点,然后,根据属于地面上的点的每一点的反射强度信息,将反射强度信息对应的反射强度较高的点作为属于地面直线类别的点,将确定的属于地面直线类别的点作为具有直线形状的目标对象的目标点云,例如,属于地面直线类别的点对应的目标对象在道路中可以表现为具有直线形状的车道线。
在目标类别为路杆类别的情况下,则需要在不属于地面上的点中确定属于路杆类别的目标点云,具体实施时,针对不属于地面上的点,可以根据每一点所在的对象的高度,确定出目标点云。具体实施时,针对点云数据而言,可能除了包括路杆和车道线等物体的点云,其中还会包括比如写字楼、房屋、石块障碍物等具有直线形状的物体的点云,因此,可以利用预先设置的关于高度的第一预设值,并基于属于地面上的点所属的对象的高度,从不属于地面上的点中筛选出高度大于第一预设值的对象所包括的点,这样,可以过滤掉高度较矮的对象(如石块障碍物)所包括的点,然后根据筛选出的具有一定高度的对象所包括的点所属的每一对象距离路面边界的距离,利用预先设置的关于距离的第二预设值,筛选出距离小于第二预设值的对象所包括的点,这样,能够过滤掉距离路面边界较远的对象所包括的点,例如,写字楼和房屋等物体所包括的点,因为在修建道路的过程中,会优先选择远离写字楼和房屋等建筑的地方,这些对象距离路面边界较远,而在安装路杆的过程中,会优先选择距离路面边界较近的地方,以起到指示行驶的作用,因此,利用第二预设值可以筛选出距离路面边界较近的对象(如路杆)所包括的点,然后可以将筛选出的点作为具有直线形状的目标对象的目标点云。
为了进一步提高确定目标点云的准确性,在利用第二预设值筛选出距离路面边界较近的对象之后,还可以利用关于点的数量的第三预设值对其进行进一步筛选。具体实施时,路杆的形状大多为细长形,而房屋或者写字楼等物体形状相对路杆的宽度更宽、长度更高,因此,每一个路杆所包括的点的数量要远远小于房屋或者写字楼等物体所包括的点,所以,可以利用第三预设值筛选出数量小于第三预设值的对象所包括的点,这样,能够过滤掉高度大于第一预设值且距离路面边界较近的对象中包括点的数量较多的对象,然后可以将数量小于第三预设值的对象作为具有直线形状的目标对象,并将目标对象的点作为目标点云。这样,通过第一预设值、第二预设值和第三预设值对不属于地面上的点所属的每一对象进行三次筛选,能够提高得到的目标点云的准确性。
然后,可以将筛选出的属于地面直线类别的目标点云和属于路杆类别的目标点云进行整合,得到只包括的目标对象的点的点云数据。具体实施时,筛选出目标点云的过程可以在1s内完成。
在另一种实施例中,也可以只利用第一预设值、第二预设值和第三预设值中的一种或多种对不属于地面上的点进行筛选,以确定目标点云,这里不进行限定。
另外,由于确定的目标像素点所在的目标对象不在同一平面上,所以在确定目标点云的过程中,确定的目标点云也需要不在同一平面上,且与目标像素点具有相同的目标类别。
进一步的,在确定目标像素点和目标点云之后,可以按照以下步骤确定拍摄目标图像的拍摄设备与采集点云数据的雷达之间的外参标定信息:
步骤一、基于目标像素点,确定目标像素点对应的目标对象在二维平面上的第一方程;
步骤二、基于目标点云,确定目标点云对应的目标对象在三维空间中的第二方程;
步骤三、基于第一方程和第二方程,确定拍摄目标图像的拍摄设备与采集点云数据的雷达之间的外参标定信息。
具体实施时,针对确定出的不同的目标对象所包括的目标像素点,可以利用直线霍夫变换确定出每一个目标对象所包括目标像素点所在直线在相机坐标系下的第一方程,针对确定出的不同的目标对象所包括的目标点云,可以再次利用RANSAC算法对每一个目标对象所包括的目标点云进行拟合,确定出目标点云所在的直线在雷达坐标系下的第二方程,进而,利用第一方程和第二方程,可以将外参标定的过程简化为基于给定的二维平面上的第一方程和三维空间中的第二方程,求解外参标定信息的过程,具体实施时,外参标定信息可以是表示拍摄设备与雷达之间的位姿关系的外参矩阵,外参矩阵包括旋转矩阵和平移矩阵。
在一种可能的实施方式中,可以按照以下过程确定外参标定信息,在确定目标像素点之后,可以利用目标像素点将目标图像转化为二值化图像,其中,每一个目标对象对应的目标像素点在二值化图像的数值为1,目标图像其他的像素点的数值为0,这样,利用二值化图像能够准确的反映出目标对象在目标图像中的位置,如图2所示,为本公开实施例所提供的一种二值化图像示意图,其中,白色部分表示目标像素点对应的目标对象,黑色部分表示其他像素点对应的其他对象。或者,还可以直接将目标像素点提取出来,然后基于目标像素点确定预设大小的二值化图像,这里不进行限定。
进一步的,可以从第一方程中,选取预设数量的目标图像中的目标对象,然后将目标对象对应的第一方程作为目标方程,进而,基于选中的目标图像中的目标对象,可以从点云数据中的目标对象中筛选出与其匹配的预设数量的目标对象,并将该预设数量的目标对象对应的第二方程作为匹配的第二方程,进而,可以利用相匹配的第一方程和第二方程确定初始外参信息,其中,初始外参信息可以粗略的反映拍摄设备与雷达之间的位姿关系,具有一定的精度,但为了进一步得到更精准的外参标定信息,需要对确定的二值化图像进行逆距离变化,为二值化图像中的包括的每一像素点分别赋予对应的数值,其中,数值用于表征二值化图像中每一像素点与目标像素点所属的目标对象的距离信息,其中,每一个目标像素点的距离信息的数值为1,然后,可以根据除目标像素点以外的其他像素点与目标像素点所属的目标对象的距离远近程度,依次为每一个其他像素点赋予不同的距离信息,具体实施时,与目标对象的距离可以为其他像素点与目标对象对应的第一方程所在的直线上的、且处于同一高度的目标像素点的距离,针对处于第一方程所在的直线上却不属于目标对象的其他像素点,可以根据与该像素点距离最近的目标像素点之间的距离确定其数值。例如,与目标像素点距离为1的其他像素点的数值为0.999,与目标像素点距离为2的其他像素点的数值为0.998,依次类推,距离目标像素点越远,对应的数值越小。
进而,可以利用初始外参信息,将匹配成功的第二方程对应的目标对象所包括的目标点云投影到进行过逆距离变换的二值化图像中,从二值化图像中的每一像素点中确定出与目标点云中每一个点相匹配的匹配像素点,将匹配像素点与目标像素点所属的目标对象的距离信息作为目标点云中与该匹配像素点对应的点的距离信息,并且目标点云中的每一点的距离信息可以反映出目标点云与目标像素点的匹配程度,如图3所示,为本公开实施例所提供的一种将目标点云投影到二值化图像中的示意图,其中,灰色点状部分表示投影后的目标点云的位置。
然后,可以根据每一个目标对象所包括的每一点的距离信息和初始外参信息,确定目标点云与目标像素点的匹配程度信息,其中,匹配程度信息可以反映目标点云与目标像素点的匹配程度,匹配程度对应的数值越大,表示确定的初始外参信息越准确。具体实施时,匹配程度信息可以是根据目标点云中每一点的距离信息对应的数值之和和初始外参信息确定的,且匹配程度信息可以用具体的函数表示。
例如,匹配程度信息可以利用公式一表示:
Figure BDA0002953636810000151
其中,J表示匹配程度信息,∑line表示对目标点云中每一点的距离信息对应的数值进行求和,R表示初始外参信息中的旋转矩阵,p表示目标点云在雷达坐标系下点的坐标,t表示初始外参信息中的平移向量,pole表示路杆类别,lane表示车道线类别。K表示相机内参矩阵,Hline表示表示逆距离变换后的二值化图像,
Figure BDA0002953636810000152
表示点云中所有属于路杆类别的目标对象或者车道线类别的目标对象的点的集合。
Figure BDA0002953636810000153
表示所有属于路杆类别的目标对象或者车道线类别的目标对象的点的个数。
这里,在确定初始外参信息的过程中,需要在选定预设数量的第一方程之后,从目标对象对应的第二方程中确定与第一方程相匹配的第二方程,为了减少该过程的计算量,可以从目标图像中选取第一数量的路杆类别的目标对象对应的第一方程和第二数量的地面直线类别的目标对象对应的第一方程作为目标第一方程,这里,在第二数量的数值大于2的情况下,选取的地面直线类别的目标对象需要平行,然后针对第一数量的第一方程,可以从目标点云对应的目标对象中的所有属于路杆类别的目标对象中,依次选取第一数量的属于路杆类别的目标对象对应的第二方程,然后从目标点云中对应的目标对象中的所有属于地面直线类别的目标对象中,依次选取第二数量的属于地面直线类别的目标对象对应的第二方程,然后利用每一次选中的第二方程和目标第一方程,确定其对应的初始外参信息,然后在利用该初始外参信息将选中的第二方程对应的目标点云投影到进行过逆距离变换的二值化图像中,以确定该初始外参信息对应的匹配程度信息。
具体实施时,利用三个第一方程及其对应的第二方程就可以确定初始外参信息,例如,第一数量的数值可以为1,第二数量的数值可以为2,在一种可能的实施方式中,也可以利用所有的第一方程和第二方程,确定初始外参信息,这里不进行限定。
基于此,可以利用目标第一方程依次与目标点云中对应类别的目标对象的第二方程进行匹配,得到若干个初始外参信息及其分别对应的匹配程度信息,然后可以将每一个匹配程度信息对应的匹配程度的数值进行比较,将数值最大的匹配程度对应的匹配程度信息作为最终的匹配程度信息,并将该匹配程度信息对应的初始外参信息作为最终的初始外参信息,将确定该初始外参信息用到的第一方程和第二方程作为匹配正确的方程。
这样,利用多次匹配的方式,既能够提高第一方程和第二方程的匹配准确度,又能够确定出精度最高的初始外参信息,进而,能够提高得到的外参标定信息的精度。
在另一种实施例中,在确定初始外参信息的过程中,可以先在目标图像中选取预设数量目标对象,然后再确定目标对象对应的第一方程,这样,不需要确定所有目标对象的第一方程,只需要确定选取的目标对象对应的方程,能够减少计算量,提高外参标定的速度,进一步的,可以确定目标点云所属的所有目标对象的第二方程,依次选取预设数量的第二方程作为与第一方程相匹配的第二方程,并分别确定不同的初始外参信息和匹配程度信息,进而,可以确定最终的初始外参信息和匹配程度信息,关于确定初始外参信息和匹配程度信息的方法,这里不进行限定。
在另一种实施例中,也可以先选取预设数量的第二方程,然后确定与第二方程相匹配的第一方程,最后,确定初始外参信息和匹配程度信息,这里不进行限定。
进一步的,在确定初始外参信息和匹配程度信息之后,可以利用调整初始外参信息的方式,改变匹配程度信息对应的匹配程度的数值,直至匹配程度信息对应的匹配程度的数值最大,确定此时调整得到的初始外参信息,并将调整得到的初始外参信息作为外参标定信息,其中,匹配程度的数值越大,投影到二值化图像上的目标点云与目标像素点的匹配程度越高,所以匹配程度的数值最大,表示匹配程度最高。
由于得到的初始外参信息已经具有较高的精度,因此,可以在初始外参信息对应的目标点云的坐标处的预设范围内对其进行调整,即可以得到外参标定信息,具体实施时,初始外参信息可以用公式二表示:
Figure BDA0002953636810000161
其中,T表示初始外参信息或者调整后的外参标定信息,R表示初始外参信息中的旋转矩阵,t表示初始外参信息中的平移向量,x,y,z为该平移向量在三维空间中的分量。
以匹配程度信息为函数为例,可以将匹配程度信息在预设范围内的极值点作为匹配程度最大时的数值,具体实施时,可以通过对T在预设范围内进行搜索,确定不同的R和t,然后利用不同的R和t确定不同的匹配程度的数值,在确定匹配程度的数值为极值点的情况下,确定此时的初始外参信息,并将该初始外参信息作为最终的外参标定信息T,这样,可以得到精度更高的外参标定信息T,利用该外参标定信息T能够实现对拍摄设备与雷达之间的位姿关系的精确标定。另外,确定外参标定信息的过程可以在1s左右完成,基于此,可以在10s内自动完成整个外参标定的过程,大幅度的提高了外参标定的速度。
本公开实施例基于提取的属于道路本身的特征(车道线和路杆)的目标对象来确定外参标定信息,在不需要使用额外设置的标定物的基础上,整个过程还可以自动完成,既节省了设置标定物的时间,又提高了外参标定的效率和速度,另外,利用道路本身的具有直线形状的目标对象进行外参标定,能够有效降低计算量,提高标定速度和外参标定的精度。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于同一发明构思,本公开实施例中还提供了与标定方法对应的标定装置,由于本公开实施例中的装置解决问题的原理与本公开实施例上述标定方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
如图4所示,为本公开实施例提供的一种标定装置的示意图,包括:
第一获取模块401,用于获取同一场景下的目标图像和点云数据;
第二获取模块402,用于确定所述目标图像中具有直线形状的目标对象的目标像素点,并获取所述点云数据中具有所述直线形状的目标对象的目标点云;所述目标对象为与道路关联的交通元素;
确定模块403,用于基于所述目标像素点和所述目标点云,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息。
在一种可能的实施方式中,所述目标对象包括位于不同平面内的多个目标对象,其中,不同平面包括道路平面以及与道路平面垂直的平面。
在一种可能的实施方式中,所述第二获取模块402,用于获取所述具有直线形状的目标对象的目标类别;
基于所述目标图像,确定所述目标图像中每一像素点的类别;
基于所述每一像素点的类别,从所述每一像素点中筛选出所述目标类别对应的目标像素点。
在一种可能的实施方式中,所述目标类别包括地面直线类别;
所述第二获取模块402,用于基于所述每一像素点的类别,确定属于地面类别的像素点;
基于所述地面类别的像素点中每一像素点的像素亮度信息,确定属于所述地面直线类别的像素点,并将所述属于地面直线类别的像素点作为所述目标像素点。
在一种可能的实施方式中,所述目标类别包括路杆类别;
所述第二获取模块402,用于基于所述每一像素点的类别,确定属于所述路杆类别的像素点,并将属于所述路杆类别的像素点作为所述目标像素点。
在一种可能的实施方式中,所述第二获取模块402,用于基于所述点云数据,确定所述点云数据中每一点的地面特征信息;
基于所述每一点的地面特征信息,从所述点云数据中确定具有所述直线形状的目标对象的目标点云。
在一种可能的实施方式中,所述第二获取模块402,用于基于所述每一点的地面特征信息,确定属于地面上的点;
基于所述地面上的点中的每一点的反射强度信息,确定属于地面直线类别的点,并将所述属于地面直线类别的点作为具有所述直线形状的目标对象的目标点云。
在一种可能的实施方式中,所述第二获取模块402,用于基于所述每一点的地面特征信息,确定不属于地面上的点;
基于所述不属于地面上的点所属的对象的高度,从所述不属于地面上的点中筛选高度大于第一预设值的对象所包括的点;
从筛选出的所述高度大于第一预设值的对象所包括的点中筛选出具有所述直线形状的目标对象所包括的点,并将筛选出的具有所述直线形状的目标对象所包括的点作为所述目标点云。
在一种可能的实施方式中,所述第二获取模块402,用于确定所述筛选出的所述高度大于第一预设值的对象的所包括的点所属的每一对象距离路面边界的距离;
将所述距离小于第二预设值的对象所包括的点作为具有所述直线形状的目标对象的目标点云;其中具有所述直线形状的目标对象的类别为路杆类别。
在一种可能的实施方式中,所述第二获取模块402,用于确定所述筛选出的所述高度大于第一预设值的对象所包括的点所属的每一对象包括的点的数量;
将所述数量小于第三预设值的对象所包括的点作为具有所述直线形状的目标对象的目标点云。
在一种可能的实施方式中,所述确定模块402,用于基于所述目标像素点,确定所述目标像素点对应的目标对象在二维平面上的第一方程;
基于所述目标点云,确定所述目标点云对应的目标对象在三维空间中的第二方程;
基于所述第一方程和所述第二方程,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息。
在一种可能的实施方式中,所述确定模块403,用于从所述第一方程中选取预设数量的目标对象对应的第一方程;
确定与每个选取的目标对象对应的第一方程相匹配的第二方程;
基于匹配成功的第一方程和第二方程,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的初始外参信息;
基于所述初始外参信息、所述目标像素点和所述目标点云,确定所述外参标定信息。
在一种可能的实施方式中,所述预设数量包括第一数量和第二数量;
所述确定模块403,用于从所述第一方程中选取所述第一数量的路杆类别的目标对象对应的第一方程和所述第二数量的地面直线类别的目标对象对应的第一方程;
以及,用于确定与每个选取的地面直线类别的目标对象对应的第一方程相匹配的第二方程,以及,与每个选取的路杆类别的目标对象对应的第一方程相匹配的第二方程。
在一种可能的实施方式中,所述确定模块403,用于基于所述目标像素点,将所述目标图像转化为二值化图像;
基于所述二值化图像、所述目标像素点、所述初始外参信息和所述目标点云,确定所述目标点云与所述目标像素点的匹配程度信息;
基于所述匹配程度信息,对所述初始外参信息进行调整,得到所述外参标定信息。
在一种可能的实施方式中,所述确定模块403,用于基于所述二值化图像,确定所述二值化图像中每一像素点与所述目标像素点所属的目标对象的距离信息;
基于所述初始外参信息,从所述二值化图像中的每一像素点中确定与所述目标点云中每一点相匹配的匹配像素点;
将所述匹配像素点与所述目标像素点所属的目标对象的距离信息作为目标点云中与该匹配像素点对应的点的距离信息;
基于目标点云中每一点的距离信息和所述初始外参信息,确定所述匹配程度信息。
在一种可能的实施方式中,所述确定模块403,用于基于所述匹配程度信息,对所述初始外参信息进行调整,直至所述匹配程度信息对应的匹配程度最大,将匹配程度最大时的调整后的初始外参信息作为所述外参标定信息。
关于装置中的各模块的处理流程、以及各模块之间的交互流程的描述可以参照上述方法实施例中的相关说明,这里不再详述。
本公开实施例还提供了一种计算机设备,如图5所示,为本公开实施例提供的一种计算机设备结构示意图,包括:
处理器51和存储器52;所述存储器52存储有处理器51可执行的机器可读指令,处理器51用于执行存储器52中存储的机器可读指令,所述机器可读指令被处理器51执行时,处理器51执行下述步骤:S101:获取同一场景下的目标图像和点云数据;S102:确定目标图像中具有直线形状的目标对象的目标像素点,并获取点云数据中具有直线形状的目标对象的目标点云,目标对象为与道路关联的交通元素以及S103:基于目标像素点和目标点云,确定拍摄目标图像的拍摄设备与采集点云数据的雷达之间的外参标定信息。
上述存储器52包括内存521和外部存储器522;这里的内存521也称内存储器,用于暂时存放处理器51中的运算数据,以及与硬盘等外部存储器522交换的数据,处理器51通过内存521与外部存储器522进行数据交换。
上述指令的具体执行过程可以参考本公开实施例中所述的标定方法的步骤,此处不再赘述。
本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的标定方法的步骤。其中,该存储介质可以是易失性或非易失的计算机可读取存储介质。
本公开实施例所提供的标定方法的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行上述方法实施例中所述的标定方法的步骤,具体可参见上述方法实施例,在此不再赘述。
该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software Development Kit,SDK)等等。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的***和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本公开所提供的几个实施例中,应该理解到,所揭露的***、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本公开的具体实施方式,用以说明本公开的技术方案,而非对其限制,本公开的保护范围并不局限于此,尽管参照前述实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本公开实施例技术方案的精神和范围,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应所述以权利要求的保护范围为准。

Claims (19)

1.一种标定方法,其特征在于,包括:
获取同一场景下的目标图像和点云数据;
确定所述目标图像中具有直线形状的目标对象的目标像素点,并获取所述点云数据中具有所述直线形状的目标对象的目标点云;所述目标对象为与道路关联的交通元素;
基于所述目标像素点和所述目标点云,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息。
2.根据权利要求1所述的方法,其特征在于,所述目标对象包括位于不同平面内的多个目标对象,其中,不同平面包括道路平面以及与道路平面垂直的平面。
3.根据权利要求1或2所述的方法,其特征在于,所述确定所述目标图像中具有直线形状的目标对象的目标像素点,包括:
获取所述具有直线形状的目标对象的目标类别;
基于所述目标图像,确定所述目标图像中每一像素点的类别;
基于所述每一像素点的类别,从所述每一像素点中筛选出所述目标类别对应的目标像素点。
4.根据权利要求3所述的方法,其特征在于,所述目标类别包括地面直线类别;
所述基于所述每一像素点的类别,从所述每一像素点中筛选出所述目标类别对应的目标像素点,包括:
基于所述每一像素点的类别,确定属于地面类别的像素点;
基于所述地面类别的像素点中每一像素点的像素亮度信息,确定属于所述地面直线类别的像素点,并将所述属于地面直线类别的像素点作为所述目标像素点。
5.根据权利要求3或4所述的方法,其特征在于,所述目标类别包括路杆类别;
所述基于所述每一像素点的类别,从所述每一像素点中筛选出所述目标类别对应的目标像素点,包括:
基于所述每一像素点的类别,确定属于所述路杆类别的像素点,并将属于所述路杆类别的像素点作为所述目标像素点。
6.根据权利要求1至5任一项所述的方法,其特征在于,所述获取所述点云数据中具有所述直线形状的目标对象的目标点云,包括:
基于所述点云数据,确定所述点云数据中每一点的地面特征信息;
基于所述每一点的地面特征信息,从所述点云数据中确定具有所述直线形状的目标对象的目标点云。
7.根据权利要求6所述的方法,其特征在于,所述基于所述每一点的地面特征信息,从所述点云数据中确定具有所述直线形状的目标对象的目标点云,包括:
基于所述每一点的地面特征信息,确定属于地面上的点;
基于所述地面上的点中的每一点的反射强度信息,确定属于地面直线类别的点,并将所述属于地面直线类别的点作为具有所述直线形状的目标对象的目标点云。
8.根据权利要求6所述的方法,其特征在于,所述基于所述每一点的地面特征信息,从所述点云数据中确定具有所述直线形状的目标对象的目标点云,包括:
基于所述每一点的地面特征信息,确定不属于地面上的点;
基于所述不属于地面上的点所属的对象的高度,从所述不属于地面上的点中筛选高度大于第一预设值的对象所包括的点;
从筛选出的所述高度大于第一预设值的对象所包括的点中筛选出具有所述直线形状的目标对象所包括的点,并将筛选出的具有所述直线形状的目标对象所包括的点作为所述目标点云。
9.根据权利要求8所述的方法,其特征在于,所述从筛选出的所述高度大于第一预设值的对象所包括的点中筛选出具有所述直线形状的目标对象所包括的点,包括:
确定所述筛选出的所述高度大于第一预设值的对象所包括的点所属的每一对象距离路面边界的距离;
将所述距离小于第二预设值的对象所包括的点作为具有所述直线形状的目标对象的目标点云;其中具有所述直线形状的目标对象的类别为路杆类别。
10.根据权利要求8所述的方法,其特征在于,所述从筛选出的所述高度大于第一预设值的对象所包括的点中筛选出具有所述直线形状的目标对象所包括的点,包括:
确定所述筛选出的所述高度大于第一预设值的对象所包括的点所属的每一对象包括的点的数量;
将所述数量小于第三预设值的对象所包括的点作为具有所述直线形状的目标对象的目标点云。
11.根据权利要求1至10任一项所述的方法,其特征在于,所述基于所述目标像素点和所述目标点云,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息,包括:
基于所述目标像素点,确定所述目标像素点对应的目标对象在二维平面上的第一方程;
基于所述目标点云,确定所述目标点云对应的目标对象在三维空间中的第二方程;
基于所述第一方程和所述第二方程,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息。
12.根据权利要求11所述的方法,其特征在于,所述基于所述第一方程和所述第二方程,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息,包括:
从所述第一方程中选取预设数量的目标对象对应的第一方程;
确定与每个选取的目标对象对应的第一方程相匹配的第二方程;
基于匹配成功的第一方程和第二方程,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的初始外参信息;
基于所述初始外参信息、所述目标像素点和所述目标点云,确定所述外参标定信息。
13.根据权利要求12所述的方法,其特征在于,所述预设数量包括第一数量和第二数量;
所述从所述第一方程中选取预设数量的目标对象对应的第一方程,包括:
从所述第一方程中选取所述第一数量的路杆类别的目标对象对应的第一方程和所述第二数量的地面直线类别的目标对象对应的第一方程;
所述确定与每个选取的目标对象对应的第一方程相匹配的第二方程,包括:
确定与每个选取的地面直线类别的目标对象对应的第一方程相匹配的第二方程,以及,与每个选取的路杆类别的目标对象对应的第一方程相匹配的第二方程。
14.根据权利要求12或13所述的方法,其特征在于,所述基于所述初始外参信息、所述目标像素点和所述目标点云,确定所述外参标定信息,包括:
基于所述目标像素点,将所述目标图像转化为二值化图像;
基于所述二值化图像、所述目标像素点、所述初始外参信息和所述目标点云,确定所述目标点云与所述目标像素点的匹配程度信息;
基于所述匹配程度信息,对所述初始外参信息进行调整,得到所述外参标定信息。
15.根据权利要求14所述的方法,其特征在于,所述基于所述二值化图像、所述目标像素点、所述初始外参信息和所述目标点云,确定所述目标点云与所述目标像素点的匹配程度信息,包括:
基于所述二值化图像,确定所述二值化图像中每一像素点与所述目标像素点所属的目标对象的距离信息;
基于所述初始外参信息,从所述二值化图像中的每一像素点中确定与所述目标点云中每一点相匹配的匹配像素点;
将所述匹配像素点与所述目标像素点所属的目标对象的距离信息作为目标点云中与该匹配像素点对应的点的距离信息;
基于目标点云中每一点的距离信息和所述初始外参信息,确定所述匹配程度信息。
16.根据权利要求14或15所述的方法,其特征在于,所述基于所述匹配程度信息,对所述初始外参信息进行调整,得到所述外参标定信息,包括:
基于所述匹配程度信息,对所述初始外参信息进行调整,直至所述匹配程度信息对应的匹配程度最大,将匹配程度最大时的调整后的初始外参信息作为所述外参标定信息。
17.一种标定装置,其特征在于,包括:
第一获取模块,用于获取同一场景下的目标图像和点云数据;
第二获取模块,用于确定所述目标图像中具有直线形状的目标对象的目标像素点,并获取所述点云数据中具有所述直线形状的目标对象的目标点云;所述目标对象为与道路关联的交通元素;
确定模块,用于基于所述目标像素点和所述目标点云,确定拍摄所述目标图像的拍摄设备与采集所述点云数据的雷达之间的外参标定信息。
18.一种计算机设备,其特征在于,包括:处理器、存储器,所述存储器存储有所述处理器可执行的机器可读指令,所述处理器用于执行所述存储器中存储的机器可读指令,所述机器可读指令被所述处理器执行时,所述处理器执行如权利要求1至16任意一项所述的标定方法的步骤。
19.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被计算机设备运行时,所述计算机设备执行如权利要求1至16任意一项所述的标定方法的步骤。
CN202110218895.6A 2021-02-26 2021-02-26 一种标定方法、装置、计算机设备和存储介质 Pending CN112802126A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110218895.6A CN112802126A (zh) 2021-02-26 2021-02-26 一种标定方法、装置、计算机设备和存储介质
PCT/CN2022/077622 WO2022179549A1 (zh) 2021-02-26 2022-02-24 一种标定方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110218895.6A CN112802126A (zh) 2021-02-26 2021-02-26 一种标定方法、装置、计算机设备和存储介质

Publications (1)

Publication Number Publication Date
CN112802126A true CN112802126A (zh) 2021-05-14

Family

ID=75816077

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110218895.6A Pending CN112802126A (zh) 2021-02-26 2021-02-26 一种标定方法、装置、计算机设备和存储介质

Country Status (2)

Country Link
CN (1) CN112802126A (zh)
WO (1) WO2022179549A1 (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114241063A (zh) * 2022-02-22 2022-03-25 聚时科技(江苏)有限公司 一种基于深度霍夫变换的多传感器外参在线标定方法
CN114862866A (zh) * 2022-07-11 2022-08-05 深圳思谋信息科技有限公司 标定板的检测方法、装置、计算机设备和存储介质
WO2022179549A1 (zh) * 2021-02-26 2022-09-01 上海商汤智能科技有限公司 一种标定方法、装置、计算机设备和存储介质
CN115861439A (zh) * 2022-12-08 2023-03-28 重庆市信息通信咨询设计院有限公司 一种深度信息测量方法、装置、计算机设备和存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010271969A (ja) * 2009-05-22 2010-12-02 Fuji Heavy Ind Ltd 車線検出装置
US20180203113A1 (en) * 2017-01-17 2018-07-19 Delphi Technologies, Inc. Ground classifier system for automated vehicles
CN108304749A (zh) * 2017-01-13 2018-07-20 比亚迪股份有限公司 道路减速线识别方法、装置及车辆
CN108345822A (zh) * 2017-01-22 2018-07-31 腾讯科技(深圳)有限公司 一种点云数据处理方法及装置
CN111127563A (zh) * 2019-12-18 2020-05-08 北京万集科技股份有限公司 联合标定方法、装置、电子设备及存储介质
CN112017248A (zh) * 2020-08-13 2020-12-01 河海大学常州校区 一种基于点线特征的2d激光雷达相机多帧单步标定方法
CN112017240A (zh) * 2020-08-18 2020-12-01 浙江大学 一种面向无人叉车的托盘识别定位方法
WO2020248614A1 (zh) * 2019-06-10 2020-12-17 商汤集团有限公司 地图生成方法、驾驶控制方法、装置、电子设备及***

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2993575C (en) * 2017-02-03 2024-06-18 Richard Pollock Active driving map for self-driving road vehicle
CN111383279B (zh) * 2018-12-29 2023-06-20 阿里巴巴集团控股有限公司 外参标定方法、装置及电子设备
CN112154446B (zh) * 2019-09-19 2024-03-19 深圳市大疆创新科技有限公司 立体车道线确定方法、装置和电子设备
CN110766731A (zh) * 2019-10-21 2020-02-07 武汉中海庭数据技术有限公司 一种全景影像与点云自动配准的方法、装置及存储介质
CN112802126A (zh) * 2021-02-26 2021-05-14 上海商汤临港智能科技有限公司 一种标定方法、装置、计算机设备和存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010271969A (ja) * 2009-05-22 2010-12-02 Fuji Heavy Ind Ltd 車線検出装置
CN108304749A (zh) * 2017-01-13 2018-07-20 比亚迪股份有限公司 道路减速线识别方法、装置及车辆
US20180203113A1 (en) * 2017-01-17 2018-07-19 Delphi Technologies, Inc. Ground classifier system for automated vehicles
CN108334819A (zh) * 2017-01-17 2018-07-27 德尔福技术有限公司 用于自动化车辆的地面分类器***
CN108345822A (zh) * 2017-01-22 2018-07-31 腾讯科技(深圳)有限公司 一种点云数据处理方法及装置
WO2020248614A1 (zh) * 2019-06-10 2020-12-17 商汤集团有限公司 地图生成方法、驾驶控制方法、装置、电子设备及***
CN111127563A (zh) * 2019-12-18 2020-05-08 北京万集科技股份有限公司 联合标定方法、装置、电子设备及存储介质
CN112017248A (zh) * 2020-08-13 2020-12-01 河海大学常州校区 一种基于点线特征的2d激光雷达相机多帧单步标定方法
CN112017240A (zh) * 2020-08-18 2020-12-01 浙江大学 一种面向无人叉车的托盘识别定位方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
WEIMIN WANG 等: "SOIC: Semantic Online Initialization and Calibration for LiDAR and Camera", 《ARXIV》, 9 March 2020 (2020-03-09), pages 3 *
肖军浩 等: "单目相机-3维激光雷达的外参标定及融合里程计研究", 《机器人》, vol. 43, no. 1, 31 January 2021 (2021-01-31) *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022179549A1 (zh) * 2021-02-26 2022-09-01 上海商汤智能科技有限公司 一种标定方法、装置、计算机设备和存储介质
CN114241063A (zh) * 2022-02-22 2022-03-25 聚时科技(江苏)有限公司 一种基于深度霍夫变换的多传感器外参在线标定方法
CN114862866A (zh) * 2022-07-11 2022-08-05 深圳思谋信息科技有限公司 标定板的检测方法、装置、计算机设备和存储介质
CN114862866B (zh) * 2022-07-11 2022-09-20 深圳思谋信息科技有限公司 标定板的检测方法、装置、计算机设备和存储介质
CN115861439A (zh) * 2022-12-08 2023-03-28 重庆市信息通信咨询设计院有限公司 一种深度信息测量方法、装置、计算机设备和存储介质
CN115861439B (zh) * 2022-12-08 2023-09-29 重庆市信息通信咨询设计院有限公司 一种深度信息测量方法、装置、计算机设备和存储介质

Also Published As

Publication number Publication date
WO2022179549A1 (zh) 2022-09-01

Similar Documents

Publication Publication Date Title
CN112802126A (zh) 一种标定方法、装置、计算机设备和存储介质
CN113592989B (zh) 一种三维场景的重建***、方法、设备及存储介质
CN109520500B (zh) 一种基于终端拍摄图像匹配的精确定位及街景库采集方法
CN111028358B (zh) 室内环境的增强现实显示方法、装置及终端设备
CN112634340A (zh) 基于点云数据确定bim模型的方法、装置、设备和介质
US20220004740A1 (en) Apparatus and Method For Three-Dimensional Object Recognition
CN112989995B (zh) 文本检测方法、装置及电子设备
CN111259958B (zh) 物体识别方法及装置、存储介质
CN111915657A (zh) 一种点云配准方法、装置、电子设备及存储介质
CN116229007B (zh) 利用bim建模的四维数字图像构建方法、装置、设备及介质
CN115457212A (zh) 树木影像图处理方法、装置、终端设备及存储介质
CN112907746A (zh) 电子地图的生成方法、装置、电子设备及存储介质
CN112950622A (zh) 一种目标检测方法、装置、计算机设备和存储介质
CN113313765B (zh) 定位方法、装置、电子设备和存储介质
CN113642582B (zh) 电表读数识别方法、装置、电子设备和存储介质
CN110415130A (zh) 农业保险理赔方法、装置、设备及计算机可读存储介质
CN110348333A (zh) 物体检测方法、装置、存储介质及电子设备
CN113610967A (zh) 三维点检测的方法、装置、电子设备及存储介质
CN113077523A (zh) 一种标定方法、装置、计算机设备及存储介质
CN114913246B (zh) 相机标定方法、装置、电子设备及存储介质
CN110910379A (zh) 一种残缺检测方法及装置
CN114937265A (zh) 点云检测方法和模型训练方法、装置、设备及存储介质
CN111612894B (zh) 基于航拍图像与cim的植被模型辅助生成方法与***
CN112700428A (zh) 一种交换机背板元件识别方法及装置
CN113177903B (zh) 前景点云和背景点云的融合方法、***及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40046312

Country of ref document: HK