CN112184822B - 相机俯仰角的调整方法和装置、存储介质、电子设备 - Google Patents
相机俯仰角的调整方法和装置、存储介质、电子设备 Download PDFInfo
- Publication number
- CN112184822B CN112184822B CN201910585360.5A CN201910585360A CN112184822B CN 112184822 B CN112184822 B CN 112184822B CN 201910585360 A CN201910585360 A CN 201910585360A CN 112184822 B CN112184822 B CN 112184822B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- camera
- vanishing point
- coordinate
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 238000001914 filtration Methods 0.000 claims description 27
- 230000004044 response Effects 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 9
- 238000001514 detection method Methods 0.000 claims description 7
- 238000009499 grossing Methods 0.000 claims description 3
- 238000012935 Averaging Methods 0.000 claims description 2
- 238000004364 calculation method Methods 0.000 description 21
- 238000010586 diagram Methods 0.000 description 13
- 238000012545 processing Methods 0.000 description 9
- 230000008901 benefit Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000003068 static effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
Abstract
本公开实施例公开了一种相机俯仰角的调整方法和装置、存储介质、电子设备,其中,方法包括:根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标;其中,所述图像包括位于所述车辆前方的至少一个前方车辆;根据所述相机的预设俯仰角确定所述相机的第二消失点坐标;基于所述第一消失点坐标和所述第二消失点坐标确定所述坐标差值;根据所述坐标差值对所述相机的预设俯仰角进行调整。本公开实施例通过对车辆进行结构化感知,计算真实消失点,可以方便地在直道场景下进行俯仰角的动态实时标定,相比于静态标定,本公开提供的调整方法的计算速度更快,实时性更好。
Description
技术领域
本公开涉及相机外参标定技术,尤其是一种相机俯仰角的调整方法和装置、存储介质、电子设备。
背景技术
相机在车辆上安装后都会有安装误差,而对这个安装误差的估算就是相机外参标定中的重要内容。由于标定对视觉感知结果的准确性存在着很大的影响,而在相机的外参中俯仰角Pitch是最为重要的一个参数,因此稳定可靠的Pitch标定方案非常重要。
现有技术通过静态标定offline calibration方法实现俯仰角的调整,该标定方法需要将车辆静止停“正”在一定场景下,根据现场布置的参照物来进行相机外参的计算,由于对车辆和参照物的相对位置要求非常高,因此标定过程十分耗时耗力。
发明内容
为了解决上述技术问题,提出了本公开。本公开的实施例提供了一种相机俯仰角的调整方法和装置、存储介质、电子设备。
根据本公开实施例的一方面,提供了一种相机俯仰角的调整方法,包括:
根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标;其中,所述图像包括位于所述车辆前方的至少一个前方车辆;
根据所述相机的预设俯仰角确定所述相机的第二消失点坐标;
基于所述第一消失点坐标和所述第二消失点坐标确定所述第一消失点坐标与所述第二消失点坐标之间的坐标差值;
根据所述坐标差值对所述相机的预设俯仰角进行调整。
根据本公开实施例的另一方面,提供了一种相机俯仰角的调整装置,包括:
第一坐标确定模块,用于根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标;其中,所述图像包括位于所述车辆前方的至少一个前方车辆;
第二坐标确定模块,用于根据所述相机的预设俯仰角确定所述相机的第二消失点坐标;
坐标差值确定模块,用于基于所述第一坐标确定模块确定的第一消失点坐标和所述第二坐标确定模块确定的第二消失点坐标确定所述第一消失点坐标与所述第二消失点坐标之间的坐标差值;
俯仰角调整模块,用于根据所述坐标差值确定模块确定的坐标差值对所述相机的预设俯仰角进行调整。
根据本公开实施例的又一方面,提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述实施例提供的相机俯仰角的调整方法。
根据本公开实施例的还一方面,提供了一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述实施例提供的相机俯仰角的调整方法。
基于本公开上述实施例提供的一种相机俯仰角的调整方法和装置、存储介质、电子设备,根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标;其中,所述图像包括位于所述车辆前方的至少一个前方车辆;根据所述相机的预设俯仰角确定所述相机的第二消失点坐标;基于所述第一消失点坐标和所述第二消失点坐标确定所述坐标差值;根据所述坐标差值对所述相机的预设俯仰角进行调整,通过对车辆进行结构化感知,计算真实消失点,可以方便地在直道场景下进行俯仰角的动态实时标定,相比于静态标定,本公开提供的调整方法的计算速度更快,实时性更好。
下面通过附图和实施例,对本公开的技术方案做进一步的详细描述。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是本公开实施例提供的***结构框图。
图2是本公开实施例涉及到的消失点计算原理图。
图3是本公开实施例涉及到的消失点的计算流程示意图。
图4是本公开图3所示的实施例中步骤301的一个流程示意图。
图5是本公开实施例涉及到的车辆直道行驶的判断逻辑图。
图6是本公开一示例性实施例提供的相机俯仰角的调整方法的流程示意图。
图7是本公开图6所示的实施例中步骤601的一个流程示意图。
图8是本公开图7所示的实施例中步骤6012的一个流程示意图。
图9是本公开图7所示的实施例中步骤6013的一个流程示意图。
图10是本公开图6所示的实施例中步骤604的一个流程示意图。
图11是本公开一示例性实施例提供的相机俯仰角的调整装置的结构示意图。
图12是本公开另一示例性实施例提供的相机俯仰角的调整装置的结构示意图。
图13是本公开一示例性实施例提供的电子设备的结构图。
具体实施方式
下面,将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。
应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。
还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
另外,本公开中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。
还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本公开实施例可以应用于终端设备、计算机***、服务器等电子设备,其可与众多其它通用或专用计算***环境或配置一起操作。适于与终端设备、计算机***、服务器等电子设备一起使用的众所周知的终端设备、计算***、环境和/或配置的例子包括但不限于:个人计算机***、服务器计算机***、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的***、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机***、大型计算机***和包括上述任何***的分布式云计算技术环境,等等。
终端设备、计算机***、服务器等电子设备可以在由计算机***执行的计算机***可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机***/服务器可以在分布式云计算环境中实施,分布式云计算环境中,任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算***存储介质上。
申请概述
在实现本公开的过程中,发明人发现,现有的相机俯仰角标定方案为静态标定(offline),但该标定方法至少存在以下问题:需要将车辆静止停“正”在一定场景下,根据现场布置的参照物来进行相机外参的计算,由于对车辆和参照物的相对位置要求非常高,因此标定过程十分耗时耗力。
示例性***
图1是本公开实施例提供的***结构框图。如图1所示,该***包括:
PID控制子模块101,采用经典的PID控制算法,根据实时偏差(根据正前方车辆估算出来的消失点y坐标与当前图像使用俯仰角计算出来的消失点y坐标之差)进行俯仰角增量缩放系数(scale)的计算。
增量step计算子模块102,根据当前实时偏差的大小,选择合适的基础增量值(step),当偏差(Error)较大时,选用较大的Step值;当偏差(Error)较小时,选用较小的Step值。
增量方向确定子模块103,根据偏差(Error)或者其它特征,判断当前被控对象应该增加还是减小。具体地,控制对象:根据正前方车辆估算出来的消失点y坐标与当前图像使用Pitch计算出来的消失点y坐标之差;增量方向:当“真”消失点与“假”消失点的y坐标之差为正值时,Pitch需要减小;当“真”消失点与“假”消失点的y坐标之差为负值时,Pitch需要增加。
限定子模块104,实现对增量scale最大最小值进行限定,对PID控制子模块101的输出结果进行最大最小值的限定(大于最大值的情况会被限定在最大值,小于最小值的情况会被限定在最小值),防止Pitch值变得很大或者很小,而导致后续控制出现异常。
增量计算子模块105,根据限定子模块104输出的scale,增量step计算子模块102输出的step和增量方向确定子模块103输出的增量方向进行增量的计算,如公式(1)所示:
Delta=scale*step(增量值(Delta)等于增量缩放系数scale乘以基础增量值(step)) 公式(1)
并且,不同的增量方向有着不同的step值,即从方向上看step有两种,分别是代表增加的正值step和代表减小的负值step,由103模块进行step方向计算;每个方向上又有大step和小step这两种级别的step值,由102模块进行计算。
滤波子模块106,对增量计算子模块105计算结果进行滤波处理,保证平滑输出,获得最终的增量值;这里可以选用简单的一阶滤波,例如:Yn=(1-a)*Yn-1+a*Xn。
最后以滤波子模块106输出的增量值和增量方向确定子模块103确定的增量方向对相机的Pitch进行调整。
可选地,在上述实施例确定相机的俯仰角的增量方向和增量值之后,实现在图像(Image)处理流的基础上进行反馈调节。即从已经完成感知处理的图像中提取车道线感知结果,并基于变道前后车道线间距的差确定相机的俯仰角的增量方向和增量值,从而改变新输入图像使用的Pitch,直至不再需要计算增量为止。
本公开的关键在于如何根据正前方车辆来计算真实消失点的y坐标,图2是本公开实施例涉及到的消失点计算原理图。如图2所示,以地面(ground plane)为横轴,图像平面(image plane)的垂直y方向为纵轴,来进行消失点的投影分析,可见如果能够确定相机在图像空间的高度,就可以根据ground plane上的某一参考点,来计算消失点在图像平面的y坐标,可通过公式(2)计算:
消失点y坐标=ground plane参考点y坐标-相机图像高度(注意图像平面的y轴方向是垂直向下的) 公式(2)
因为车辆是一直在地面ground plane上运行的对象,所以可以选择相机视野内正前方车辆bottom的点为ground plane上的参考点。
具体流程图如图3所示,图3是本公开实施例涉及到的消失点的计算流程示意图。包括:步骤301,按照一定的方法对正前方车辆进行过滤,选择合适的参考车辆;步骤302,计算车辆的实际高度:假定所有车辆的实际宽度为某一默认值(例如,一个经验值),再根据以下公式(3)来计算车辆实际高度:
车辆实际高度/车辆实际宽度=车辆像素高度/车辆像素宽度 公式(3);
步骤303,计算相机的像素高度:相机实际安装高度是已知参数,所以可以根据公式(4)来计算相机像素高度:
相机像素高度/相机实际高度=车辆像素高度/车辆实际高度 公式(4);
步骤304,基于公式(5)计算真实消失点的y坐标:
消失点y坐标=车辆bounding box的右下角点y坐标(ground plane参考点)-相机像素高度 公式(5)
其中,车辆bounding box的右下角点坐标是已知输入,具体可由车辆的包含右下角点坐标的结构化感知结果获得车辆的右下角点坐标;
步骤305,对于每个过滤后的车辆都采用上述方法计算一个消失点的y坐标,然后求取平均值;
步骤306,考虑到实际路况下前方车辆位置可能会变化频繁,为了保证结果平滑输出,需要对结果进行滤波处理。即步骤305得到的平均值是单帧的计算结果,而由步骤301得到的车辆位置可能会变化频繁,因此根据滑动平均滤波方法对多个连续单帧的计算结果进行滤波,从而减少最终值的抖动。
图4是图3所示实施例中步骤301的一个可选示例流程图。如图4所示,车辆过滤过程包括:
步骤3011,对于同一车辆而言,其2D感知结果中一般有车头和车尾两种模型,考虑到需要对车辆默认实际宽度进行统一选择,因此车尾模型会更加合适;
步骤3012,正前方观测到的车辆,很可能与当前车辆不在同一ground plane上,不符合图2计算消失点的理论依据,因此需要过滤掉,过滤方法为判断车辆是否在driveableregion可驱动区域的范围内,即根据图像空间上,如果有driveable region边界点(点的类型为车辆)落在车辆的bounding box内,则认为与当前车辆在同一ground plane上;
步骤3013,以车辆的bounding box的像素面积确定其他车辆与当前车辆的距离,对于Pitch而言,优先选择远处的参照物进行标定,以车辆的bounding box的像素面积为距离远近的判断标准;
步骤3014,本实施例以乘用车为例,并以车辆的bounding box的像素高宽比小于一定阈值来判断车辆类型(即认为像素宽度比高度大的车辆是乘用车,比如一般的Sedan,SUV等,都是车宽比高大;
步骤3015,从上述过滤结果中挑选距离最远的N辆车作为最终的参考车辆,例如,N为1~3。
本公开提供的俯仰角调整方法理论上车辆在非直行的情况下也可以实现调整,但是由于本公开需要使用车尾模型,也就是需要尽量观测到完整的车尾,所以在直行时观测效果最佳,并且实际测试下来,直行下标定结果也比非直行会更加稳定,因此,可限制车辆在直行情况下进行俯仰角调整,具体实现可通过对车辆当前运行工况进行判断,避免***在弯道等场景下进行标定。主要基于车辆底盘CAN报文中的车速和yaw rate信号,进行车辆状态的计算,其逻辑如图5所示,图5是本公开实施例涉及到的车辆直道行驶的判断逻辑图。具体地,当车辆速度足够快(大于或等于速度阈值),且方向盘基本稳定(yaw rate小于yawrate阈值)时,认为车辆行驶在直线道路上,否则将认为车辆没有行驶在直线道路上,场景不适合进行标定。
示例性方法
图6是本公开一示例性实施例提供的相机俯仰角的调整方法的流程示意图。本实施例可应用在电子设备上,如图6所示,包括如下步骤:
步骤601,根据设置在车辆上的相机获得至少一帧图像,基于至少一帧图像确定相机的第一消失点坐标。
其中,图像包括位于车辆前方的至少一个前方车辆,其中,第一消失点坐标可以为真实消失点的y轴坐标。消失点指任意一组不平行于投影平面的平行直线,投影到投影平面后所得到的直线,必将汇聚于同一点,该点即为消失点。
步骤602,根据相机的预设俯仰角确定相机的第二消失点坐标。
在一实施例中,第二消失点坐标为当前俯仰角对应的消失点的y轴坐标。
步骤603,基于第一消失点坐标和第二消失点坐标确定第一消失点坐标与第二消失点坐标之间的坐标差值。
例如,坐标差值是指在y轴方向上的坐标差值。
步骤604,根据坐标差值对相机的预设俯仰角进行调整。
可选地,根据坐标差值对相机的预设俯仰角进行增大或减小。
本公开上述实施例提供的一种相机俯仰角的调整方法,根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标;其中,所述图像包括位于所述车辆前方的至少一个前方车辆;根据所述相机的预设俯仰角确定所述相机的第二消失点坐标;基于所述第一消失点坐标和所述第二消失点坐标确定所述坐标差值;根据所述坐标差值对所述相机的预设俯仰角进行调整,通过对车辆进行结构化感知,计算真实消失点,可以方便地在直道场景下进行俯仰角的动态实时标定,相比于静态标定,本公开提供的调整方法的计算速度更快,实时性更好。
如图7所示,在上述图6所示实施例的基础上,步骤601可包括如下步骤:
步骤6011,从至少一帧图像中包括的多个前方车辆进行过滤,获得预设数量的参考车辆。
可选地,可通过图3所示的实施例中的步骤301,通过过滤获得预设数量的参考车辆,其中预设数量可以根据不同情况设定不同值。
步骤6012,针对至少一帧图像中的每帧图像,对预设数量的参考车辆中每个参考车辆分别确定相机的消失点,获得至少一个消失点坐标。
可选地,可通过图3所示的实施例中的步骤302、303和304对每个参考车辆确定一个消失点坐标,具体可通过公式(3)、(4)和(5)获得消失点的坐标,该消失点坐标可以为消失点y坐标。
步骤6013,基于至少一个消失点坐标确定相机的第一消失点坐标。
通过上述步骤可得到至少一个消失点坐标(分别针对每个参考车辆),为了确定一个相机的第一消失点坐标,可选地,可通过图3所示的实施例中的步骤305提供的方法对至少一个消失点坐标求平均值,以该平均值作为相机的第一消失点坐标;通过设定数量的参考车辆确定相机的第一消失点坐标,提高了获得的消失点坐标的准确度。
在一些可选的实施例中,步骤6011可包括:基于设定条件对多个前方车辆进行过滤,获得预设数量的参考车辆。
其中,设定条件包括但不限于以下至少之一:前方车辆是否与车辆在同一地平面、前方车辆与车辆之间的距离、多个前方车辆的车型、前方车辆在图像中是否为车尾等。
可选地,考虑到需要对车辆默认实际宽度进行统一选择,因此车尾模型会更加合适,而车头的宽度无法统一,因此将前方车辆在图像中为车尾作为设定条件之一。由于有些车型的车辆宽度难以确定,例如,商用车;因此将车辆作为设定条件之一,将车型限制在可以确定车辆宽度的车型,例如,乘用车。由于前方车辆和车辆分别具有不同车速,当前方车辆与车辆之间的距离过近时,可能出现前方车辆在几帧图像之后消失(如,被本车辆超车),因此,将前方车辆与车辆之间的距离作为设定条件之一。
可选地,可通过上述图4提供的实施例实现对多个前方车辆进行过滤,在本实施例中如果将前方车辆都作为参考车辆可能存在计算量加大,并且由于参考车辆不合适导致最终计算得到的第一消失点坐标的偏差比较大;因此,本实施例通过设定条件对前方车辆进行过滤,获得预设数量的前方车辆作为参考车辆,减小计算量的同时减少了偏差。
在一些可选的实施例中,基于设定条件对多个前方车辆进行过滤,获得预设数量的参考车辆,包括:
根据图像中包括的可行驶区域中的至少一个点是否在前方车辆的检测框内,确定前方车辆是否与车辆在同一地平面;响应于前方车辆与车辆在同一地平面,确定前方车辆为参考车辆。
观测到的前方车辆,很可能与当前车辆不在同一地平面(ground plane)上,此时,不符合图2计算消失点的理论依据,因此需要过滤掉,过滤方法为判断车辆是否在可驱动区域(driveable region)的范围内,即根据图像空间上,如果有driveable region边界点(点的类型为车辆)落在车辆的边界框(bounding box)内,则认为与当前车辆在同一groundplane上,通过本实施例将与车辆不属于同一地平面的车辆过滤掉,即去除了不符合计算消失点的理论的点,提高了计算获得的第一消失点坐标的准确度。
如图8所示,在上述图7所示实施例的基础上,步骤6012可包括如下步骤:
步骤801,针对每个参考车辆,基于车辆实际宽度、车辆像素宽度和车辆像素高度确定参考车辆的车辆实际高度。
可选地,通过上述图3所示的实施例中的公式(3)来确定车辆实际高度。
步骤802,基于相机的实际高度、车辆实际高度和车辆像素高度,确定相机的像素高度。
可选地,通过上述图3所示的实施例中的公式(4)来确定相机的像素高度,其中,相机实际安装高度是已知参数(例如,车辆高度等)。
步骤803,基于车辆的检测框的右下角坐标和相机的像素高度,确定相机的消失点,获得至少一个消失点坐标。
可选地,通过上述图3所示的实施例中的公式(5)来确定消失点坐标,其中,车辆bounding box的右下角点坐标是已知输入(例如,通过图像处理获得的结构化感知结果可以包括车辆检测框的右下角点坐标)。本实施例通过基于已知数据和数据之间的关系对消失点坐标(y轴坐标)进行基于公式的计算,提高了获得的消失点坐标的精度。
如图9所示,在上述图7所示实施例的基础上,步骤6013可包括如下步骤:
步骤901,对每帧图像对应的至少一个消失点坐标求平均,获得平均坐标。
步骤902,对至少一帧图像对应的至少一个平均坐标平滑处理,获得相机的第一消失点坐标。
本实施例在获得至少一个消失点坐标之后,可选地,可通过上述图3所示提供的步骤305对至少一个消失点坐标进行求平均,并通过上述图3所示提供的步骤306对该平均坐标进行滤波处理,以保证平滑输出,由于参考车辆是动态的,其位置可能会变化频繁,通过对多个连续单帧图像对应的平均坐标进行滤波,可以减少最终值的抖动。
如图10所示,在上述图6所示实施例的基础上,步骤604可包括如下步骤:
步骤6041,根据坐标差值确定相机的俯仰角的增量值和增量方向。
可选地,根据坐标差值确定相机的俯仰角的增量缩放系数和基础增量值;基于增量缩放系数和基础增量值确定增量值。
其中,响应于坐标差值的绝对值大于或等于设定阈值,确定第一设定值作为基础增量值;响应于坐标差值的绝对值小于设定阈值,确定第二设定值作为基础增量值,第一设定值大于第二设定值。即通过设定阈值确定两个基础增量值,以设定值作为基础增量值保证了相机俯仰角的每次调整在可控范围内。
其中,响应于增量缩放系数大于设定最大值,以设定最大值作为增量缩放系数;响应于增量缩放系数小于设定最小值,以设定最小值作为增量缩放系数。
可选地,响应于坐标差值为正值,相机的俯仰角的增量方向为减小;响应于坐标差值为负值,相机的俯仰角的增量方向为增大。
步骤6042,基于增量方向和增量值对相机的俯仰角进行调整。
本实施例确定增量值的方法可通过图1提供的实施例实现,分别通过不同模块获得增量缩放系数和确定基础增量值,其中基础增量值可预先设置其取值,例如,如图1提供的实施例中提供的设置两个基础增量值(大step和小step);增量值可通过公式Delta=scale*step确定,即增量值(Delta)等于增量缩放系数scale乘以基础增量值(step),通过增量缩放系数和基础增量值结合的方式确定增量值,实现了增量值的多样可调节性,并且通过增量缩放系数实现对基础增量值的倍数增长,使增量值的取值更具规律性,易于操作;本实施例实现了在确定的增量方向通过获得的增量值对俯仰角进行快速调整。
在一些可选的实施例中,在步骤601之前,还包括:
获取车辆的车速信息和偏航率信息,确定车辆是否处于直行状态。
可选地,可通过图5所示的判断逻辑图实现确定车辆是否处于直行状态。
在该实施例中步骤601包括:响应于车辆处于直行状态,根据设置在车辆上的相机获得至少一帧图像,基于至少一帧图像确定相机的第一消失点坐标。
本实施例提供的方法中第一消失点坐标的确定在直行时观测效果最佳,并且实际测试下来,直行下标定结果也比非直行会更加稳定,因此,本实施例限制车辆在直行情况下进行俯仰角调整,具体实现可通过对车辆当前运行工况进行判断,避免***在弯道等场景下进行标定。例如,当车辆速度足够快(大于或等于速度阈值),且方向盘基本稳定(yawrate小于yaw rate阈值)时,认为车辆行驶在直线道路上,否则将认为车辆没有行驶在直线道路上,场景不适合进行标定。
本公开实施例提供的任一种相机俯仰角的调整方法可以由任意适当的具有数据处理能力的设备执行,包括但不限于:终端设备和服务器等。或者,本公开实施例提供的任一种相机俯仰角的调整方法可以由处理器执行,如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种相机俯仰角的调整方法。下文不再赘述。
示例性装置
图11是本公开一示例性实施例提供的相机俯仰角的调整装置的结构示意图。本实施例提供的装置包括:
第一坐标确定模块111,用于根据设置在车辆上的相机获得至少一帧图像,基于至少一帧图像确定相机的第一消失点坐标。
其中,图像包括位于车辆前方的至少一个前方车辆。
第二坐标确定模块112,用于根据相机的预设俯仰角确定相机的第二消失点坐标。
坐标差值确定模块113,用于基于第一坐标确定模块111确定的第一消失点坐标和第二坐标确定模块112确定的第二消失点坐标确定第一消失点坐标与第二消失点坐标之间的坐标差值。
俯仰角调整模块114,用于根据坐标差值确定模块113确定的坐标差值对相机的预设俯仰角进行调整。
本公开上述实施例提供的一种相机俯仰角的调整装置,根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标;其中,所述图像包括位于所述车辆前方的至少一个前方车辆;根据所述相机的预设俯仰角确定所述相机的第二消失点坐标;基于所述第一消失点坐标和所述第二消失点坐标确定所述坐标差值;根据所述坐标差值对所述相机的预设俯仰角进行调整,通过对车辆进行结构化感知,计算真实消失点,可以方便地在直道场景下进行俯仰角的动态实时标定,相比于静态标定,本公开提供的调整方法的计算速度更快,实时性更好。
图12是本公开另一示例性实施例提供的相机俯仰角的调整装置的结构示意图。本实施例提供的装置包括:
第一坐标确定模块111包括:
车辆过滤单元1111,用于从对至少一帧图像中包括的多个前方车辆进行过滤,获得预设数量的参考车辆。
在一实施例中,车辆过滤单元1111,具体用于基于设定条件对多个前方车辆进行过滤,获得预设数量的参考车辆;设定条件包括但不限于以下至少之一:前方车辆是否与车辆在同一地平面、前方车辆与车辆之间的距离、多个前方车辆的车型、前方车辆在图像中是否为车尾等。
可选地,车辆过滤单元1111,具体用于根据图像中包括的可行驶区域中的至少一个点是否在前方车辆的检测框内,确定前方车辆是否与车辆在同一地平面;响应于前方车辆与车辆在同一地平面,确定前方车辆为参考车辆。
消失点确定单元1112,用于针对至少一帧图像中的每帧图像,对车辆过滤单元1111获得的预设数量的参考车辆中每个参考车辆分别确定相机的消失点,获得至少一个消失点坐标。
可选地,消失点确定单元1112,具体用于针对每个参考车辆,基于车辆实际宽度、车辆像素宽度和车辆像素高度确定参考车辆的车辆实际高度;基于相机的实际高度、车辆实际高度和车辆像素高度,确定相机的像素高度;基于车辆的检测框的右下角坐标和相机的像素高度,确定相机的消失点,获得至少一个消失点坐标。
坐标确定单元1113,用于基于消失点确定单元1112获得的至少一个消失点坐标确定相机的第一消失点坐标。
可选地,坐标确定单元1113,具体用于对每帧图像对应的至少一个消失点坐标求平均,获得平均坐标;对至少一帧图像对应的至少一个平均坐标平滑处理,获得相机的第一消失点坐标。
在本实施例中,俯仰角调整模块114,具体用于根据坐标差值确定相机的俯仰角的增量值和增量方向;基于增量方向和增量值对相机的俯仰角进行调整。
可选地,该实施例提供的装置还包括:
直行确定模块121,用于获取车辆的车速信息和偏航率信息,确定车辆是否处于直行状态。
此时,第一坐标确定模块111,用于响应于车辆处于直行状态,根据设置在车辆上的相机获得至少一帧图像,基于至少一帧图像确定相机的第一消失点坐标。
示例性电子设备
下面,参考图13来描述根据本公开实施例的电子设备。该电子设备可以是第一设备100和第二设备200中的任一个或两者、或与它们独立的单机设备,该单机设备可以与第一设备和第二设备进行通信,以从它们接收所采集到的输入信号。
图13图示了根据本公开实施例的电子设备的框图。
如图13所示,电子设备130包括一个或多个处理器131和存储器132。
处理器131可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备130中的其他组件以执行期望的功能。
存储器132可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器131可以运行所述程序指令,以实现上文所述的本公开的各个实施例的相机俯仰角的调整方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在一个示例中,电子设备130还可以包括:输入装置133和输出装置134,这些组件通过总线***和/或其他形式的连接机构(未示出)互连。
例如,在该电子设备是第一设备100或第二设备200时,该输入装置133可以是上述的麦克风或麦克风阵列,用于捕捉声源的输入信号。在该电子设备是单机设备时,该输入装置133可以是通信网络连接器,用于从第一设备100和第二设备200接收所采集的输入信号。
此外,该输入设备133还可以包括例如键盘、鼠标等等。
该输出装置134可以向外部输出各种信息,包括确定出的距离信息、方向信息等。该输出设备134可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图13中仅示出了该电子设备130中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备130还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的相机俯仰角的调整方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的相机俯仰角的调整方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于***实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本公开实施为记录在记录介质中的程序,这些程序包括用于实现根据本公开的方法的机器可读指令。因而,本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (11)
1.一种相机俯仰角的调整方法,包括:
根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标;其中,所述图像包括位于所述车辆前方的至少一个前方车辆;
根据所述相机的预设俯仰角确定所述相机的第二消失点坐标;
基于所述第一消失点坐标和所述第二消失点坐标确定所述第一消失点坐标与所述第二消失点坐标之间的坐标差值;
根据所述坐标差值对所述相机的预设俯仰角进行调整。
2.根据权利要求1所述的方法,其中,所述根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标,包括:
对所述至少一帧图像中包括的多个前方车辆进行过滤,获得预设数量的参考车辆;
针对所述至少一帧图像中的每帧图像,对所述预设数量的参考车辆中每个参考车辆分别确定所述相机的消失点,获得至少一个消失点坐标;
基于所述至少一个消失点坐标确定所述相机的第一消失点坐标。
3.根据权利要求2所述的方法,其中,所述对所述至少一帧图像中包括的多个前方车辆进行过滤,获得预设数量的参考车辆,包括:
基于设定条件对所述多个前方车辆进行过滤,获得预设数量的参考车辆;所述设定条件包括以下至少之一:所述前方车辆是否与所述车辆在同一地平面、所述前方车辆与所述车辆之间的距离、所述多个前方车辆的车型、所述前方车辆在所述图像中是否为车尾。
4.根据权利要求3所述的方法,其中,所述基于设定条件对所述多个前方车辆进行过滤,获得预设数量的参考车辆,包括:
根据所述图像中包括的可行驶区域中的至少一个点是否在所述前方车辆的检测框内,确定所述前方车辆是否与所述车辆在同一地平面;
响应于所述前方车辆与所述车辆在同一地平面,确定所述前方车辆为参考车辆。
5.根据权利要求2所述的方法,其中,所述对所述至少一个参考车辆中每个参考车辆分别确定所述相机的消失点,获得至少一个消失点坐标,包括:
针对每个所述参考车辆,基于车辆实际宽度、车辆像素宽度和车辆像素高度确定所述参考车辆的车辆实际高度;
基于所述相机的实际高度、所述车辆实际高度和所述车辆像素高度,确定所述相机的像素高度;
基于所述车辆的检测框的右下角坐标和所述相机的像素高度,确定所述相机的消失点,获得至少一个消失点坐标。
6.根据权利要求2所述的方法,其中,所述基于所述至少一个消失点坐标确定所述相机的第一消失点坐标,包括:
对所述每帧图像对应的至少一个消失点坐标求平均,获得平均坐标;
对所述至少一帧图像对应的至少一个平均坐标平滑处理,获得所述相机的第一消失点坐标。
7.根据权利要求1-6任一所述的方法,其中,所述根据所述坐标差值对所述相机的预设俯仰角进行调整,包括:
根据所述坐标差值确定所述相机的俯仰角的增量值和增量方向;
基于所述增量方向和所述增量值对所述相机的俯仰角进行调整。
8.根据权利要求1所述的方法,在根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标之前,还包括:
获取所述车辆的车速信息和偏航率信息,确定所述车辆是否处于直行状态;
所述根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标,包括:
响应于所述车辆处于直行状态,根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标。
9.一种相机俯仰角的调整装置,包括:
第一坐标确定模块,用于根据设置在车辆上的相机获得至少一帧图像,基于所述至少一帧图像确定所述相机的第一消失点坐标;其中,所述图像包括位于所述车辆前方的至少一个前方车辆;
第二坐标确定模块,用于根据所述相机的预设俯仰角确定所述相机的第二消失点坐标;
坐标差值确定模块,用于基于所述第一坐标确定模块确定的第一消失点坐标和所述第二坐标确定模块确定的第二消失点坐标确定所述第一消失点坐标与所述第二消失点坐标之间的坐标差值;
俯仰角调整模块,用于根据所述坐标差值确定模块确定的坐标差值对所述相机的预设俯仰角进行调整。
10.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-8任一所述的相机俯仰角的调整方法。
11.一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于执行上述权利要求1-8任一所述的相机俯仰角的调整方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910585360.5A CN112184822B (zh) | 2019-07-01 | 2019-07-01 | 相机俯仰角的调整方法和装置、存储介质、电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910585360.5A CN112184822B (zh) | 2019-07-01 | 2019-07-01 | 相机俯仰角的调整方法和装置、存储介质、电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112184822A CN112184822A (zh) | 2021-01-05 |
CN112184822B true CN112184822B (zh) | 2024-01-30 |
Family
ID=73914749
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910585360.5A Active CN112184822B (zh) | 2019-07-01 | 2019-07-01 | 相机俯仰角的调整方法和装置、存储介质、电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112184822B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113160322A (zh) * | 2021-03-17 | 2021-07-23 | 地平线(上海)人工智能技术有限公司 | 摄像装置标定方法和设备、介质以及电子设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014059793A (ja) * | 2012-09-19 | 2014-04-03 | Nissan Motor Co Ltd | カメラ取り付け誤差補正装置及びカメラ取り付け誤差補正方法 |
CN109345593A (zh) * | 2018-09-04 | 2019-02-15 | 海信集团有限公司 | 一种摄像机姿态的检测方法及装置 |
CN109685858A (zh) * | 2018-12-29 | 2019-04-26 | 北京茵沃汽车科技有限公司 | 一种单目摄像头在线标定方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6354425B2 (ja) * | 2014-07-30 | 2018-07-11 | 株式会社デンソー | 車載カメラの取り付け姿勢検出方法およびその装置 |
EP3174007A1 (en) * | 2015-11-30 | 2017-05-31 | Delphi Technologies, Inc. | Method for calibrating the orientation of a camera mounted to a vehicle |
-
2019
- 2019-07-01 CN CN201910585360.5A patent/CN112184822B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014059793A (ja) * | 2012-09-19 | 2014-04-03 | Nissan Motor Co Ltd | カメラ取り付け誤差補正装置及びカメラ取り付け誤差補正方法 |
CN109345593A (zh) * | 2018-09-04 | 2019-02-15 | 海信集团有限公司 | 一种摄像机姿态的检测方法及装置 |
CN109685858A (zh) * | 2018-12-29 | 2019-04-26 | 北京茵沃汽车科技有限公司 | 一种单目摄像头在线标定方法 |
Non-Patent Citations (1)
Title |
---|
用于视频中车速自动检测的摄像机自动标定方法;陈珂;;计算机应用(08);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN112184822A (zh) | 2021-01-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112818778B (zh) | 车道线拟合方法、装置、介质以及电子设备 | |
US11138756B2 (en) | Three-dimensional object detection method and device, method and device for controlling smart driving, medium and apparatus | |
CN111627066B (zh) | 一种摄像头的外参数调整方法及装置 | |
JP6465982B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
WO2009116590A1 (ja) | 縞模様検知システム、縞模様検知方法および縞模様検知用プログラム | |
CN112184799B (zh) | 车道线空间坐标确定方法、装置、存储介质和电子设备 | |
EP4068220A1 (en) | Image processing device, image processing method, moving device, and storage medium | |
JP6547452B2 (ja) | 車線逸脱回避装置 | |
CN114170826B (zh) | 自动驾驶控制方法和装置、电子设备和存储介质 | |
CN112184822B (zh) | 相机俯仰角的调整方法和装置、存储介质、电子设备 | |
CN114092913A (zh) | 车道线的确定方法和装置、电子设备和存储介质 | |
WO2023093306A1 (zh) | 车辆换道的控制方法和装置、电子设备和存储介质 | |
CN115147683A (zh) | 位姿估计网络模型的训练方法、位姿估计方法及装置 | |
CN113160322A (zh) | 摄像装置标定方法和设备、介质以及电子设备 | |
JP2021529370A (ja) | ターゲット対象の向きの決定方法、スマート運転制御方法及び装置並びに機器 | |
CN112184821B (zh) | 相机翻滚角的调整方法和装置、存储介质、电子设备 | |
CN112406884B (zh) | 车辆行驶状态的识别方法和装置、存储介质、电子设备 | |
CN112132902B (zh) | 车载摄像头外参调整方法、装置、电子设备以及介质 | |
CN111080792B (zh) | 模型简化处理方法、装置以及电子设备、存储介质 | |
CN115205388A (zh) | 车载相机姿态矫正方法和装置、存储介质、电子设备 | |
CN112308923B (zh) | 基于车道线的相机位姿调整方法和装置、存储介质、设备 | |
CN114620040A (zh) | 车辆的控制方法、装置、电子设备和存储介质 | |
CN114743174A (zh) | 观测车道线的确定方法、装置、电子设备和存储介质 | |
CN115131757A (zh) | 车道线的确定方法、装置、电子设备和存储介质 | |
CN111216723A (zh) | 车辆的行驶控制方法、装置和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |