CN114593751A - 外参标定方法、装置、介质及电子设备 - Google Patents
外参标定方法、装置、介质及电子设备 Download PDFInfo
- Publication number
- CN114593751A CN114593751A CN202210238284.2A CN202210238284A CN114593751A CN 114593751 A CN114593751 A CN 114593751A CN 202210238284 A CN202210238284 A CN 202210238284A CN 114593751 A CN114593751 A CN 114593751A
- Authority
- CN
- China
- Prior art keywords
- search
- determining
- key frame
- point cloud
- level
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 238000005259 measurement Methods 0.000 claims description 8
- 238000005070 sampling Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 7
- 238000004590 computer program Methods 0.000 claims description 2
- 230000006870 function Effects 0.000 description 25
- 238000010586 diagram Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C25/00—Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C25/00—Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass
- G01C25/005—Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass initial alignment, calibration or starting-up of inertial devices
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/497—Means for monitoring or calibrating
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Manufacturing & Machinery (AREA)
- Computer Networks & Wireless Communication (AREA)
- Traffic Control Systems (AREA)
- Navigation (AREA)
Abstract
本公开实施例提供了一种外参标定方法、装置、介质及电子设备,涉及自动驾驶技术领域。该方法包括:根据采集到的组合惯导的位姿轨迹提取激光雷达的多个点云关键帧;根据各个点云关键帧之间的相对位姿信息,确定多个关键帧匹配对;通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参;确定各个层级的搜索外参对应的各个关键帧匹配对中两个关键帧之间的距离,基于距离确定激光雷达与组合惯导的标定外参。根据本公开实施例的技术方案,能够使得标定外参具有较高的标定精度,实现了搜索速度与搜索粒度的平衡。
Description
技术领域
本公开涉及自动驾驶技术领域,具体而言,涉及一种外参标定方法、外参标定装置、计算机可读介质及电子设备。
背景技术
在自动驾驶领域中,多线激光雷达与组合惯导例如GNSS(Global NavigationSatellite System,全球导航卫星***)/IMU(Inertial Measurement Unit,惯性测量单元)是高精地图制作、无人车定姿定位以及点云物体检测任务中常用的传感器配置。因此,精确标定激光雷达与组合惯导两者之间的外参具有重要意义。
目前,在一种技术方案中,利用激光雷达里程计或者SLAM(SimultaneousLocalization And Mapping,即时定位与地图构建)技术计算出多线激光雷达帧间相对位姿,然后结合组合惯导提供的位姿信息,基于手眼标定等方法进行外参数求解。
然而,这种技术方案需要对场景或位姿信息进行一些先验假设或近似,当实际场景与先验假设出现差异时,标定精度难以保障。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开实施例的目的在于提供一种外参标定方法、外参标定装置、计算机可读介质及电子设备,进而至少在一定程度上得到具有较高的标定精度的标定外参。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开实施例的第一方面,提供了一种激光雷达与组合惯导的外参标定方法,所述方法包括:根据采集到的所述组合惯导的位姿轨迹提取所述激光雷达的多个点云关键帧;根据各个所述点云关键帧之间的相对位姿信息,确定多个关键帧匹配对;通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参;确定各个层级的搜索外参对应的各个关键帧匹配对中两个关键帧之间的距离,基于所述距离确定所述激光雷达与组合惯导的标定外参。
根据第一方面,在一些示例实施例中,所述通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参,包括:通过逐层级缩小步长的方式确定所述预定搜索范围内的当前层级的搜索步长以及搜索范围;基于所述当前层级的搜索步长以及搜索范围确定所述当前层级对应的搜索外参。
根据第一方面,在一些示例实施例中,所述多层级迭代搜索为角元素与线元素交替迭代搜索,所述通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参,包括:通过角元素多层级迭代搜索确定预定角元素搜索范围内各个层级的角元素搜索外参;以及通过线元素多层级迭代搜索确定预定线元素搜索范围内各个层级的线元素搜索外参。
根据第一方面,在一些示例实施例中,所述基于所述距离确定所述激光雷达与组合惯导的标定外参,包括:基于所述距离确定各个关键帧匹配对对应的损失函数,所述损失函数为所述关键帧匹配对中两个关键帧间之间的目标三维点的平均距离度量函数;基于所述损失函数确定所述激光雷达与组合惯导的标定外参。
根据第一方面,在一些示例实施例中,所述根据采集到的所述组合惯导的位姿轨迹提取所述激光雷达的多个点云关键帧,包括:根据采集到的所述组合惯导的位姿轨迹,按照预定条件提取对应的所述激光雷达的点云关键帧,所述预定条件包括:所述位姿轨迹对应的点云的首帧或尾帧为点云关键帧;与上一关键帧经过的累积轨迹长度大于预定长度阈值的当前帧为点云关键帧;与上一关键帧间的航偏角的变化量大于预定角度阈值的当前帧为点云关键帧。
根据第一方面,在一些示例实施例中,所述根据各个所述点云关键帧之间的相对位姿信息,确定多个关键帧匹配对,包括:根据各个所述点云关键帧之间的相对位姿信息,确定时间上前后邻接的两个帧作为关键帧匹配对;和/或,根据各个所述点云关键帧之间的相对位姿信息,确定空间上邻近的两个帧作为关键帧匹配对。
根据第一方面,在一些示例实施例中,所述方法还包括:在进行搜索之前,以等概率随机采样的方式从多个关键帧匹配对中抽取一定比例关键帧匹配对,构成关键帧匹配对子集,以对所述关键帧匹配对子集进行搜索。
根据本公开实施例的第二方面,提供了一种激光雷达与组合惯导的外参标定装置,所述装置包括:帧提取模块,用于根据采集到的所述组合惯导的位姿轨迹提取所述激光雷达的多个点云关键帧;匹配对确定模块,用于根据各个所述点云关键帧之间的相对位姿信息,确定多个关键帧匹配对;搜索模块,用于通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参;外参确定模块,用于确定各个层级的搜索外参对应的各个关键帧匹配对中两个关键帧之间的距离,基于所述距离确定所述激光雷达与组合惯导的标定外参。
根据第二方面,在一些示例实施例中,所述搜索模块还用于:通过逐层级缩小步长的方式确定所述预定搜索范围内的当前层级的搜索步长以及搜索范围;基于所述当前层级的搜索步长以及搜索范围确定所述当前层级对应的搜索外参。
根据第二方面,在一些示例实施例中,所述多层级迭代搜索为角元素与线元素交替迭代搜索,所述搜索模块还用于:通过角元素多层级迭代搜索确定预定角元素搜索范围内各个层级的角元素搜索外参;以及通过线元素多层级迭代搜索确定预定线元素搜索范围内各个层级的线元素搜索外参。
根据第二方面,在一些示例实施例中,所述外参确定模块还用于:基于所述距离确定各个关键帧匹配对对应的损失函数,所述损失函数为所述关键帧匹配对中两个关键帧间之间的目标三维点的平均距离度量函数;基于所述损失函数确定所述激光雷达与组合惯导的标定外参。
根据第二方面,在一些示例实施例中,所述帧提取模块还用于:根据采集到的所述组合惯导的位姿轨迹,按照预定条件提取对应的所述激光雷达的点云关键帧,所述预定条件包括:所述位姿轨迹对应的点云的首帧或尾帧为点云关键帧;与上一关键帧经过的累积轨迹长度大于预定长度阈值的当前帧为点云关键帧;与上一关键帧间的航偏角的变化量大于预定角度阈值的当前帧为点云关键帧。
根据第二方面,在一些示例实施例中,所述匹配对确定模块还用于:根据各个所述点云关键帧之间的相对位姿信息,确定时间上前后邻接的两个帧作为关键帧匹配对;和/或,根据各个所述点云关键帧之间的相对位姿信息,确定空间上邻近的两个帧作为关键帧匹配对。
根据第二方面,在一些示例实施例中,所述装置还包括:采样模块,用于在进行搜索之前,以等概率随机采样的方式从多个关键帧匹配对中抽取一定比例关键帧匹配对,构成关键帧匹配对子集,以对所述关键帧匹配对子集进行搜索。
根据本公开实施例的第三方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述实施例第一方面中所述的外参标定方法。
根据本公开实施例的第四方面,提供一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上述实施例第一方面所述的外参标定方法。
本公开实施例提供的技术方案可以包括以下有益效果:
在本公开的一些实施例中,一方面,根据组合惯导的位姿轨迹提取点云关键帧,根据点云关键帧之间的相对位姿信息,确定多个关键帧匹配对,能够准确地获取具有一致的空间分布特性的关键帧;另一方面,通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参,基于关键帧之间的距离确定激光雷达与组合惯导的标定外参,不仅能够使得标定外参具有较高的标定精度,而且实现了搜索速度与搜索粒度的平衡,保障了标定结果的精确性和鲁棒性。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了本公开示例性实施例中的外参标定方法的应用场景的示意图;
图2示出了根据本公开的一些示例实施例的外参标定方法的流程示意图;
图3示出了根据本公开的另一些示例实施例的外参标定方法的流程示意图;
图4示出了根据本公开的一些示例实施例中的两种数据采集方式的示意图;
图5示出了根据本公开的一些示例实施例中的层级迭代搜索的示意图;
图6示出了根据本公开的另一实施例的外参标定装置的结构示意图;
图7示出本公开示例性实施例中电子设备的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本公开的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
为了清楚地说明本公开实施例中的技术方案,在具体展开说明本公开实施例之前,首先对实施例中应用到的一些名词术语进行说明。
下面,结合附图对本公开示例实施例中的外参标定方法进行详细的说明。
图1示出了根据本公开的一些实施例提供的应用场景的示意图。
图1示出了根据本公开的一些实施例提供的应用场景的示意图。如图1所示的高精地图采集***中,激光雷达110被水平放置于车顶以获得360度无遮挡的感知范围,而组合惯导120被水平安置于激光器的正下方,以便于计算出两者间的相对位姿。
在本公开的示例实施例中,根据采集得到的组合惯导120的位姿轨迹提取激光雷达110的点云关键帧,并根据点云关键帧间的相对位姿变化提取每一关键帧周边满足一定条件的匹配帧,得到整个区域的关键帧匹配对(Keyframe-pair)集合。以不同时刻和位置感知到的同一局部空间激光点云具有一致的空间分布特性为假设,以两帧间最近邻点的平均距离作为标定参数可靠性的度量指标。在事先给定的外参初值和领域搜索范围基础上,以最小化Keyframe-pair集合中所有帧间最近邻距离为目标,通过多尺度层次搜索和角元素与线元素交替迭代搜索策略,得到外参标定结果。
根据示例实施例中的技术方案,基于不同时刻和位置感知到的同一局部空间激光点云具有一致的空间分布特性的假设,通过角元素与线元素的层次化与交替迭代两种参数空间搜索策略,实现了搜索速度与搜索粒度的平衡,保障了标定结果的精确性和鲁棒性。
图2示出了根据本公开的一些示例实施例的外参标定方法的流程示意图。本公开实施例提供的外参标定方法的执行主体可以是具有计算处理功能的计算设备,例如台式计算机或服务器。该外参标定方法包括步骤S210至步骤S240,下面结合附图对示例实施例中的外参标定方法进行详细的说明。
参照图2所示,在步骤S210中,根据采集到的组合惯导的位姿轨迹提取激光雷达的多个点云关键帧。
在示例实施例中,组合惯导为GNSS和IMU。需要说明的是,组合惯导也可以为其他适当的形式例如GPS和IMU,这同样在本公开的保护范围内。通过车体搭载的组合惯导采集车体的位姿轨迹数据,通过车体搭载的激光雷达采集激光点云。例如,通过GNSS获取车体定位数据,通过IMU获取加速度与旋转运动的数据。根据采集到的组合惯导的位姿轨迹对应的时间获取对应时间的激光点云的点云关键帧。
进一步地,在示例实施例中,根据采集到的组合惯导的位姿轨迹,按照预定条件提取对应的激光雷达的点云关键帧,预定条件包括:位姿轨迹对应的点云的首帧或尾帧为关键帧;与上一关键帧经过的累积轨迹长度大于预定长度阈值的当前帧为点云关键帧;与上一关键帧间的航偏角的变化量大于预定角度阈值的当前帧为点云关键帧。
在步骤S220中,根据各个点云关键帧之间的相对位姿信息,确定多个关键帧匹配对。
在示例实施例中,由于不同时刻和位置感知到的同一局部空间激光点云具有一致的空间分布特性,因此,根据各个点云关键帧之间的相对位姿信息,确定时间上前后邻接的两个帧作为关键帧匹配对;和/或,根据各个点云关键帧之间的相对位姿信息,确定空间上邻近的两个帧作为关键帧匹配对。
在步骤S230中,通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参。
在示例实施例中,通过逐层级缩小步长的方式确定所述预定搜索范围内的当前层级的搜索步长以及搜索范围;基于当前层级的搜索步长以及搜索范围确定当前层级对应的搜索外参。
举例而言,设初始标定参数值为20,初始搜索步长为10,则第一层级的搜索范围为[10,30];第二层级的搜索步长为5,搜索范围为[5,15],第三层级的搜索步长为2.5,搜索范围为[2.5,7.5],基于各个层级的搜索步长和搜索范围确定对应的搜索外参。
在步骤S240中,确定各个层级的搜索外参对应的各个关键帧匹配对中两个关键帧之间的距离,基于该距离确定激光雷达与组合惯导的标定外参。
在示例实施例中,基于当前标定参数确定进行坐标变换后的两关键帧间所有最近邻三维点的平均距离,基于平均距离确定各个关键帧匹配对对应的损失函数,损失函数为关键帧匹配对中两个关键帧间之间的目标三维点的平均距离度量函,基于损失函数确定所述激光雷达与组合惯导的标定外参。
在一些示例实施例中,基于不同时刻和位置感知到的同一局部空间激光点云具有一致的空间分布特性,在事先给定的外参初值和领域搜索范围基础上,以最小化关键帧匹配对集合中所有帧间最近邻距离为目标,通过多尺度层次搜索和角元素与线元素交替迭代搜索策略,得到外参标定结果。
根据图2的示例实施例中的技术方案,一方面,根据组合惯导的位姿轨迹提取点云关键帧,根据点云关键帧之间的相对位姿信息,确定多个关键帧匹配对,能够准确地获取具有一致的空间分布特性的关键帧;另一方面,通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参,基于关键帧之间的距离确定激光雷达与组合惯导的标定外参,不仅能够使得标定外参具有较高的标定精度,而且实现了搜索速度与搜索粒度的平衡,保障了标定结果的精确性和鲁棒性。
图3示出了根据本公开的另一些示例实施例的外参标定方法的流程示意图。
参照图3所示,在步骤S310中,进行数据采集。
在示例实施例中,通过激光雷达采集点云数据,通过组合惯导例如GNSS/IMU采集车辆的定位数据。在标定数据采集过程中,需要遵循两个基本原则,一是要保证采集场地的GNSS信号良好,以使组合惯导获取精确的位姿信息;二是,采集路线的布设应尽量使各角轴和各运动方向充分激活,以获取各外参的有效约束。
在示例实施例中,以下图4的两种采集方案进行数据采集。如图4所示,第一种采集方案(a)是8字路线方案,第二种采集方案(b)是十字路线方案,并且在十字路线方案中横竖两交叉环的顺逆时针方向应相反。
在步骤S320中,进行关键帧提取。
在示例实施例中,在完成标定数据采集后,基于组合惯导记录的轨迹位姿信息,按照以下三个准则进行激光点云关键帧提取,设组合惯导记录的轨迹为S,激光点云的当前帧为fi:1)若当前帧fi为轨迹S的首帧或尾帧则记为点云关键帧,如式(1)所示;2)若当前帧fi与上一关键帧kprev间经过的累积轨迹长度大于长度阈值thpath则记为关键帧,如式(2)所示;3)若当前帧fi与上一关键帧kprev间的航偏角yaw变化量大于角度阈值thyaw则记为关键帧,如式(3)所示。
i=1||i=size(S) (1)
||path(fi,kprev)||>thpath (2)
||yaw(fi,kprev)||>thyaw (3)
其中,size(S)为轨迹中包含的总帧数,path(fi,kprev)为两帧间经过的累积轨迹长度度量函数,yaw(fi,kprev)为两帧间航偏角变化量度量函数。
在步骤S330中,构建关键帧匹配对集合。
在示例实施例中,根据各关键帧间的相对位姿信息,构建关键帧匹配对(Keyframe-pair)集合。关键帧匹配对集合由两类关键帧匹配对Keyframe-pair组成。第一类是时间上前后邻接的Keyframe-pair,第二类是空间上邻近的Keyframe-pair。
在示例实施例中,对于第二类Keyframe-pair而言,其应满足以下两个条件:其一是两关键帧之间的欧式距离dist(ki,kj)小于阈值如下式(4)所示;其二是两关键帧间的累积轨迹长度||path(ki,kj)||大于阈值如式(5)所示。
在步骤S340中,进行随机采样,得到关键帧匹配对子集。
在示例实施例中,在每次迭代搜索前,以等概率随机采样的方式从关键帧匹配对集合中抽取一定比例Keyframe-pair构成Keyframe-pair子集,并搜索出使得该子集损失最小的外参。此后,以Keyframe-pair全集损失最小为目标,对各次迭代结果进行比较,筛选出使Keyframe-pair全集损失最小的外参作为最终标定结果。
在步骤S350中,进行角元素多层级搜索。
在示例实施例中,将外参中的角元素与线元素进行解耦,并通过交替迭代搜索的方式将6自由度的搜索范围降维为两个3自由度的搜索范围。举例而言,可以先保持线元素不变,对角元素进行多层级迭代搜索。
在角元素与线元素的搜索过程中,均采用如图5所示的多尺度由粗到精的层级式搜索策略,如图5所示。具体而言,设给定的初始标定参数值为θ0,初始搜索步长为θσ,设定的最终标定精度为θε,则依据本发明,第一层级的搜索范围为[θ0-θσ,θ0+θσ],搜索步长为θσ,第i(i>1)层级的搜索范围为搜索步长为当时停止该次层级搜索。参照图5所示,初始标定参数值为20,初始搜索步长为10,第一层级的搜索范围为[10,30];第二层级的搜索步长为5,搜索范围为[5,15],第三层级的搜索步长为2.5,搜索范围为[2.5,7.5]。
在步骤S360中,进行线元素多层级搜索。
在示例实施例中,保持角元素不变,对线元素进行多层级迭代搜索。当搜索步长小于预定角度精度阈值时,停止该层级搜索。
在步骤S370中,确定搜索是否结束。
在示例实施例中,确定层级搜索结果对应的损失函数,若损失函数的取值小于预定阈值,则确定搜索结束。
在示例实施例中,利用参数空间搜索的方式进行最优外参θ*求解,即使得损失函数取值最小的6自由度外参组合为最终的目标标定参数,如下式(6)所示。
其中,P为上一节得到的Keyframe-pair集合,(ki,kj)为集合中的一对关键帧,N为集合P中包含的Keyframe-pair总数,Avg_dist(ki,kj)为基于当前标定参数θ进行坐标变换后的两关键帧间所有最近邻三维点的平均距离度量函数。
在步骤S380中,输出标定结果。
根据图3的示例实施例中的技术方案,一方面,基于不同时刻和位置感知到的同一局部空间激光点云具有一致的空间分布特性假设,通过层次化与交替迭代两种参数空间搜索策略,实现了搜索速度与搜索粒度的平衡,保障了标定结果的精确性和鲁棒性;另一方面,将外参数中的角元素与线元素进行解耦,并通过交替迭代搜索的方式将6自由度的搜索范围降维为两个3自由度的搜索范围,能够以较少的搜索次数获得较高的标定精度。
需要注意的是,上述附图仅是根据本公开示例性实施方式的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
以下介绍本公开的装置实施例,可以用于执行本公开上述的外参标定方法。
图6示出了根据本公开的一实施例的外参标定装置的结构示意图。
参照图6所示,提供了一种激光雷达与组合惯导的外参标定装置600,所述装置600包括:帧提取模块610,用于根据采集到的所述组合惯导的位姿轨迹提取所述激光雷达的多个点云关键帧;匹配对确定模块620,用于根据各个所述点云关键帧之间的相对位姿信息,确定多个关键帧匹配对;搜索模块630,用于通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参;外参确定模块640,用于确定各个层级的搜索外参对应的各个关键帧匹配对中两个关键帧之间的距离,基于所述距离确定所述激光雷达与组合惯导的标定外参。
根据第二方面,在一些示例实施例中,所述搜索模块630还用于:通过逐层级缩小步长的方式确定所述预定搜索范围内的当前层级的搜索步长以及搜索范围;基于所述当前层级的搜索步长以及搜索范围确定所述当前层级对应的搜索外参。
根据第二方面,在一些示例实施例中,所述多层级迭代搜索为角元素与线元素交替迭代搜索,所述搜索模块630还用于:通过角元素多层级迭代搜索确定预定角元素搜索范围内各个层级的角元素搜索外参;以及通过线元素多层级迭代搜索确定预定线元素搜索范围内各个层级的线元素搜索外参。
根据第二方面,在一些示例实施例中,所述外参确定模块640还用于:基于所述距离确定各个关键帧匹配对对应的损失函数,所述损失函数为所述关键帧匹配对中两个关键帧间之间的目标三维点的平均距离度量函数;基于所述损失函数确定所述激光雷达与组合惯导的标定外参。
根据第二方面,在一些示例实施例中,所述帧提取模块610还用于:根据采集到的所述组合惯导的位姿轨迹,按照预定条件提取对应的所述激光雷达的点云关键帧,所述预定条件包括:所述位姿轨迹对应的点云的首帧或尾帧为点云关键帧;与上一关键帧经过的累积轨迹长度大于预定长度阈值的当前帧为点云关键帧;与上一关键帧间的航偏角的变化量大于预定角度阈值的当前帧为点云关键帧。
根据第二方面,在一些示例实施例中,所述匹配对确定模块620还用于:根据各个所述点云关键帧之间的相对位姿信息,确定时间上前后邻接的两个帧作为关键帧匹配对;和/或,根据各个所述点云关键帧之间的相对位姿信息,确定空间上邻近的两个帧作为关键帧匹配对。
根据第二方面,在一些示例实施例中,所述装置600还包括:采样模块,用于在进行搜索之前,以等概率随机采样的方式从多个关键帧匹配对中抽取一定比例关键帧匹配对,构成关键帧匹配对子集,以对所述关键帧匹配对子集进行搜索。
由于本公开的示例实施例的外参标定装置600的各个功能模块与上述外参标定方法的示例实施例的步骤对应,因此对于本公开装置实施例中未披露的细节,请参照本公开上述的外参标定方法的实施例。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。
在本公开示例性实施方式中,还提供了一种能够实现上述方法的计算机存储介质。其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施例中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当上述程序产品在终端设备上运行时,上述程序代码用于使上述终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。
上述程序产品可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
上述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
在介绍了本公开示例性实施例的方法、装置和介质之后,接下来,介绍根据本公开的另一示例性实施例的计算设备。
所属技术领域的技术人员能够理解,本公开的各个方面可以实现为***、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“***”。
在一些可能的实施例中,根据本公开实施例的计算设备可以至少包括至少一个处理器、以及至少一个存储器。其中,所述存储器存储有程序代码,当所述程序代码被所述处理器执行时,使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施例的语音验证方法中的步骤。例如,所述处理器可以执行如图2中所示的步骤:步骤S210,根据采集到的组合惯导的位姿轨迹提取激光雷达的多个点云关键帧;步骤S220,根据各个点云关键帧之间的相对位姿信息,确定多个关键帧匹配对;步骤S230,通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参;步骤S240,确定各个层级的搜索外参对应的各个关键帧匹配对中两个关键帧之间的距离,基于该距离确定激光雷达与组合惯导的标定外参。
下面参照图7来描述根据本公开的示例实施例的电子设备700。图7所示的电子设备700仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图7所示,电子设备700以通用计算设备的形式表现。电子设备700的组件可以包括但不限于:上述至少一个处理单元710、上述至少一个存储单元720、连接不同***组件(包括存储单元720和处理单元710)的总线730。
总线730表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器、***总线、图形加速端口、处理器或者使用多种总线结构中的任意总线结构的局域总线。
存储单元720可以包括易失性存储器形式的可读介质,例如RAM(Random AccessMemory,随机存取存储器)721和/或高速缓存存储器722,还可以进一步包括ROM(Read-OnlyMemory,只读存储器)723。
存储单元720还可以包括具有一组(至少一个)程序模块724的程序/实用工具725,这样的程序模块724包括但不限于:操作***、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
电子设备700也可以与一个或多个外部设备740(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与电子设备700交互的设备通信,和/或与使得电子设备700能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口750进行。并且,电子设备700还可以通过网络适配器760与一个或者多个网络(例如局域网,广域网和/或公共网络,例如因特网)通信。如图所示,网络适配器760通过总线730与电子设备700的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备700使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID(Redundant Arrays of IndependentDisks,独立冗余磁盘阵列)***、磁带驱动器以及数据备份存储***等。
应当注意,尽管在上文详细描述中提及了语音验证装置的若干单元或子单元,但是这种划分仅仅是示例性的,并非是强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或单元的特征和功能可以在一个模块或单元中具体化。反之,上文描述的一个模块或单元的特征和功能可以进一步划分为由多个模块或单元来具体化。
此外,尽管在附图中以特定顺序描述了本公开方法的操作,但是,这并非要求或者暗示必须按照该特定顺序来执行这些操作,或是必须执行全部所示的操作才能实现期望的结果。附加地或备选地,可以省略某些步骤,将多个步骤合并为一个步骤执行,和/或将一个步骤分解为多个步骤执行。
虽然已经参考若干具体实施方式描述了本公开的精神和原理,但是应该理解,本公开并不限于所公开的具体实施方式,对各方面的划分也不意味着这些方面中的特征不能组合以进行受益,这种划分仅是为了表述的方便。本公开旨在涵盖所附权利要求的精神和范围内所包括的各种修改和等同布置。
Claims (10)
1.一种激光雷达与组合惯导的外参标定方法,其特征在于,所述方法包括:
根据采集到的所述组合惯导的位姿轨迹提取所述激光雷达的多个点云关键帧;
根据各个所述点云关键帧之间的相对位姿信息,确定多个关键帧匹配对;
通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参;
确定各个层级的搜索外参对应的各个关键帧匹配对中两个关键帧之间的距离,基于所述距离确定所述激光雷达与组合惯导的标定外参。
2.根据权利要求1所述的方法,其特征在于,所述通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参,包括:
通过逐层级缩小步长的方式确定所述预定搜索范围内的当前层级的搜索步长以及搜索范围;
基于所述当前层级的搜索步长以及搜索范围确定所述当前层级对应的搜索外参。
3.根据权利要求1或2所述的方法,其特征在于,所述多层级迭代搜索为角元素与线元素交替迭代搜索,所述通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参,包括:
通过角元素多层级迭代搜索确定预定角元素搜索范围内各个层级的角元素搜索外参;以及
通过线元素多层级迭代搜索确定预定线元素搜索范围内各个层级的线元素搜索外参。
4.根据权利要求1所述的方法,其特征在于,所述基于所述距离确定所述激光雷达与组合惯导的标定外参,包括:
基于所述距离确定各个关键帧匹配对对应的损失函数,所述损失函数为所述关键帧匹配对中两个关键帧间之间的目标三维点的平均距离度量函数;
基于所述损失函数确定所述激光雷达与组合惯导的标定外参。
5.根据权利要求1所述的方法,其特征在于,所述根据采集到的所述组合惯导的位姿轨迹提取所述激光雷达的多个点云关键帧,包括:
根据采集到的所述组合惯导的位姿轨迹,按照预定条件提取对应的所述激光雷达的点云关键帧,所述预定条件包括:
所述位姿轨迹对应的点云的首帧或尾帧为点云关键帧;
与上一关键帧经过的累积轨迹长度大于预定长度阈值的当前帧为点云关键帧;
与上一关键帧间的航偏角的变化量大于预定角度阈值的当前帧为点云关键帧。
6.根据权利要求1所述的方法,其特征在于,所述根据各个所述点云关键帧之间的相对位姿信息,确定多个关键帧匹配对,包括:
根据各个所述点云关键帧之间的相对位姿信息,确定时间上前后邻接的两个帧作为关键帧匹配对;和/或,
根据各个所述点云关键帧之间的相对位姿信息,确定空间上邻近的两个帧作为关键帧匹配对。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在进行搜索之前,以等概率随机采样的方式从多个关键帧匹配对中抽取一定比例关键帧匹配对,构成关键帧匹配对子集,以对所述关键帧匹配对子集进行搜索。
8.一种激光雷达与组合惯导的外参标定装置,其特征在于,所述装置包括:
帧提取模块,用于根据采集到的所述组合惯导的位姿轨迹提取所述激光雷达的多个点云关键帧;
匹配对确定模块,用于根据各个所述点云关键帧之间的相对位姿信息,确定多个关键帧匹配对;
搜索模块,用于通过多层级迭代搜索确定预定搜索范围内各个层级的搜索外参;
外参确定模块,用于确定各个层级的搜索外参对应的各个关键帧匹配对中两个关键帧之间的距离,基于所述距离确定所述激光雷达与组合惯导的标定外参。
9.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至7中任一项所述的外参标定方法。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1至7中任一项所述的外参标定方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210238284.2A CN114593751B (zh) | 2022-03-11 | 2022-03-11 | 外参标定方法、装置、介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210238284.2A CN114593751B (zh) | 2022-03-11 | 2022-03-11 | 外参标定方法、装置、介质及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114593751A true CN114593751A (zh) | 2022-06-07 |
CN114593751B CN114593751B (zh) | 2024-06-18 |
Family
ID=81816747
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210238284.2A Active CN114593751B (zh) | 2022-03-11 | 2022-03-11 | 外参标定方法、装置、介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114593751B (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170142438A1 (en) * | 2015-11-18 | 2017-05-18 | Thomson Licensing | Enhanced search strategies for hierarchical motion estimation |
CN106996795A (zh) * | 2016-01-22 | 2017-08-01 | 腾讯科技(深圳)有限公司 | 一种车载激光外参标定方法和装置 |
CN109949372A (zh) * | 2019-03-18 | 2019-06-28 | 北京智行者科技有限公司 | 一种激光雷达与视觉联合标定方法 |
US20200041623A1 (en) * | 2018-02-05 | 2020-02-06 | Centre Interdisciplinaire De Developpement En Cartographie Des Oceans (Cidco) | METHOD AND APPARATUS FOR AUTOMATIC CALIBRATION OF MOBILE LiDAR SYSTEMS |
CN110849362A (zh) * | 2019-11-28 | 2020-02-28 | 湖南率为控制科技有限公司 | 一种基于车载惯性的激光雷达与视觉组合导航算法 |
US20210181745A1 (en) * | 2019-12-17 | 2021-06-17 | Motional Ad Llc | Automated object annotation using fused camera/lidar data points |
CN113671530A (zh) * | 2021-08-06 | 2021-11-19 | 北京京东乾石科技有限公司 | 位姿确定方法、装置及存储介质和电子设备 |
CN113674399A (zh) * | 2021-08-16 | 2021-11-19 | 杭州图灵视频科技有限公司 | 一种移动机器人室内三维点云地图构建方法及*** |
CN113781582A (zh) * | 2021-09-18 | 2021-12-10 | 四川大学 | 基于激光雷达和惯导联合标定的同步定位与地图创建方法 |
CN113933818A (zh) * | 2021-11-11 | 2022-01-14 | 阿波罗智能技术(北京)有限公司 | 激光雷达外参的标定的方法、设备、存储介质及程序产品 |
CN113985464A (zh) * | 2021-11-01 | 2022-01-28 | 中国人民解放***箭军工程大学 | 一种用于车载卫星动中通的零位标定方法及*** |
-
2022
- 2022-03-11 CN CN202210238284.2A patent/CN114593751B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170142438A1 (en) * | 2015-11-18 | 2017-05-18 | Thomson Licensing | Enhanced search strategies for hierarchical motion estimation |
CN106996795A (zh) * | 2016-01-22 | 2017-08-01 | 腾讯科技(深圳)有限公司 | 一种车载激光外参标定方法和装置 |
US20200041623A1 (en) * | 2018-02-05 | 2020-02-06 | Centre Interdisciplinaire De Developpement En Cartographie Des Oceans (Cidco) | METHOD AND APPARATUS FOR AUTOMATIC CALIBRATION OF MOBILE LiDAR SYSTEMS |
CN109949372A (zh) * | 2019-03-18 | 2019-06-28 | 北京智行者科技有限公司 | 一种激光雷达与视觉联合标定方法 |
CN110849362A (zh) * | 2019-11-28 | 2020-02-28 | 湖南率为控制科技有限公司 | 一种基于车载惯性的激光雷达与视觉组合导航算法 |
US20210181745A1 (en) * | 2019-12-17 | 2021-06-17 | Motional Ad Llc | Automated object annotation using fused camera/lidar data points |
CN113671530A (zh) * | 2021-08-06 | 2021-11-19 | 北京京东乾石科技有限公司 | 位姿确定方法、装置及存储介质和电子设备 |
CN113674399A (zh) * | 2021-08-16 | 2021-11-19 | 杭州图灵视频科技有限公司 | 一种移动机器人室内三维点云地图构建方法及*** |
CN113781582A (zh) * | 2021-09-18 | 2021-12-10 | 四川大学 | 基于激光雷达和惯导联合标定的同步定位与地图创建方法 |
CN113985464A (zh) * | 2021-11-01 | 2022-01-28 | 中国人民解放***箭军工程大学 | 一种用于车载卫星动中通的零位标定方法及*** |
CN113933818A (zh) * | 2021-11-11 | 2022-01-14 | 阿波罗智能技术(北京)有限公司 | 激光雷达外参的标定的方法、设备、存储介质及程序产品 |
Non-Patent Citations (3)
Title |
---|
CHRISTOPHER DOER; GERT F. TROMMER: "Radar Inertial Odometry With Online Calibration", 2020 EUROPEAN NAVIGATION CONFERENCE (ENC), 18 January 2021 (2021-01-18) * |
叶珏磊,周志峰,王立端,庞正雅: "一种多线激光雷达与GNSS/INS***标定方法", 激光与红外, vol. 50, no. 1, 31 January 2020 (2020-01-31) * |
张勤;贾庆轩;席宁;姜勇;: "基于双视点特征匹配的激光-相机***标定方法", 仪器仪表学报, vol. 33, no. 11, 30 November 2012 (2012-11-30) * |
Also Published As
Publication number | Publication date |
---|---|
CN114593751B (zh) | 2024-06-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109345596B (zh) | 多传感器标定方法、装置、计算机设备、介质和车辆 | |
US20240249430A1 (en) | Localization method and apparatus, electronic device, and storage medium | |
CN110260870B (zh) | 基于隐马尔可夫模型的地图匹配方法、装置、设备和介质 | |
US10380890B2 (en) | Autonomous vehicle localization based on walsh kernel projection technique | |
CN109215372B (zh) | 路网信息更新方法、装置及设备 | |
CN110095752B (zh) | 定位方法、装置、设备和介质 | |
CN109870698B (zh) | 一种超声波阵列障碍物检测结果处理方法及*** | |
US10645668B2 (en) | Indoor positioning system and method based on geomagnetic signals in combination with computer vision | |
CN111279391A (zh) | 一种构建移动设备运动模型的方法及相关*** | |
CN105606102A (zh) | 一种基于格网模型的pdr室内定位方法及*** | |
CN112834249B (zh) | 转向参数检测方法、装置、设备及存储介质 | |
US9910878B2 (en) | Methods for processing within-distance queries | |
CN109635868B (zh) | 障碍物类别的确定方法、装置、电子设备及存储介质 | |
EP4258078A1 (en) | Positioning method and apparatus, and vehicle | |
US20230281867A1 (en) | Methods performed by electronic devices, electronic devices, and storage media | |
CN112148817B (zh) | 一种基于全景图的slam优化方法、装置和*** | |
CN114593751B (zh) | 外参标定方法、装置、介质及电子设备 | |
CN109188419B (zh) | 障碍物速度的检测方法、装置、计算机设备及存储介质 | |
CN110853098A (zh) | 机器人定位方法、装置、设备及存储介质 | |
CN114578401B (zh) | 一种车道航迹点的生成方法、装置、电子设备及存储介质 | |
CN115952248A (zh) | 终端设备的位姿处理方法、装置、设备、介质及产品 | |
CN115265570A (zh) | 一种自动泊车性能评价方法、装置、存储介质及设备 | |
CN114964204A (zh) | 地图构建方法、地图使用方法、装置、设备和存储介质 | |
CN115406452A (zh) | 一种实时定位及建图方法、装置及终端设备 | |
CN114861295A (zh) | 一种侧面碰撞仿真分析的建模方法、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |