CN108460767B - 车载路面裂纹检测***路面单应主动解算装置与方法 - Google Patents
车载路面裂纹检测***路面单应主动解算装置与方法 Download PDFInfo
- Publication number
- CN108460767B CN108460767B CN201810423468.XA CN201810423468A CN108460767B CN 108460767 B CN108460767 B CN 108460767B CN 201810423468 A CN201810423468 A CN 201810423468A CN 108460767 B CN108460767 B CN 108460767B
- Authority
- CN
- China
- Prior art keywords
- road surface
- laser
- line
- coordinates
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 60
- 238000000034 method Methods 0.000 title claims abstract description 45
- 238000004364 calculation method Methods 0.000 claims abstract description 22
- 239000011159 matrix material Substances 0.000 claims description 44
- 239000013598 vector Substances 0.000 claims description 42
- 238000012937 correction Methods 0.000 claims description 27
- 229910000831 Steel Inorganic materials 0.000 claims description 13
- 239000010959 steel Substances 0.000 claims description 13
- 206010034701 Peroneal nerve palsy Diseases 0.000 claims description 12
- 238000013519 translation Methods 0.000 claims description 9
- 238000003466 welding Methods 0.000 claims description 9
- 238000004088 simulation Methods 0.000 claims description 8
- 238000000354 decomposition reaction Methods 0.000 claims description 6
- 238000004422 calculation algorithm Methods 0.000 claims description 3
- 238000005266 casting Methods 0.000 claims description 3
- 230000009977 dual effect Effects 0.000 claims description 3
- 239000000203 mixture Substances 0.000 claims description 3
- 230000000694 effects Effects 0.000 claims description 2
- 238000000605 extraction Methods 0.000 claims description 2
- 238000012545 processing Methods 0.000 claims description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000003754 machining Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8887—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30132—Masonry; Concrete
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Quality & Reliability (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明公开了一种车载路面裂纹检测***路面单应主动解算装置与方法,旨在解决车载路面裂纹检测***路面单应主动解算问题。车载路面裂纹检测***路面单应主动解算装置主要由底座(1)、线激光器(2)、激光投线仪支架(3)、摄像机(4)、摄像机支架(5)、激光投线仪长支架(6)、投线仪套(7)与二维靶标板(8)组成。车载路面裂纹检测***路面单应主动解算方法由图像采集、投影点重建、激光线标定、路面动态重建与单应实时解算五个步骤组成,提供了一种结构简单、性能可靠的车载路面裂纹检测***路面单应主动解算装置与方法。
Description
技术领域
本发明涉及一种交通检测领域的检测设备的辅助设备,更具体的说,它是一种车载路面裂纹检测***路面单应主动解算装置与方法。
背景技术
目前,车载路面裂纹检测***在重建摄像机拍摄的路面裂纹图像时,将路面看作一个整体的平面,假定路面平面与摄像机的相对位置不变。在标定摄像机时,要求汽车固定不动,拍摄多张靶标板图像进行摄像机标定,获取路面图像单应矫正矩阵H。每安装一次摄像机时,都需要摄像机标定,获取路面图像单应矫正矩阵H,标定的结果只能体现标定时汽车所处姿态的路面图像单应矫正矩阵H,这使得检测繁琐、效率低下、耗时长。因此,设计一种车载路面裂纹检测***路面单应主动解算装置与方法就十分必要。
发明内容
本发明针对解决在车辆运动过程中,车载路面裂纹检测***到路面之间的单应关系的动态标定的问题及每次安装摄像机时,需要对摄像机进行重新标定的问题,提出了一种车载路面裂纹检测***路面单应主动解算装置与方法。该方法主要由一部工业摄像机和四条与摄像机相对位置不变的线结构光构成,以四条线结构光在路面上的投影点作为基准,实现对路面图像单应矫正矩阵H的动态解算。
结合说明书附图,本发明采用如下技术方案予以实现:
一种车载路面裂纹检测***路面单应主动解算装置包括有底座、线激光器、激光投线仪支架、摄像机、摄像机支架、激光投线仪长支架、投线仪套与二维靶标板;
四个线激光器***四个投线仪套的内孔,螺栓穿过四个投线仪套侧面的螺纹孔,螺栓顶部与四个线激光器侧面面接触紧配合,螺栓穿过激光投线仪支架圆形底座的圆孔与底座螺纹固定连接,两个投线仪套侧面的螺纹孔与激光投线仪支架顶部的螺纹杆螺纹固定连接,螺栓穿过摄像机支架圆形底座的圆孔与底座螺纹固定连接,摄像机底部的螺纹孔与摄像机支架顶部的螺纹杆螺纹固定连接,螺栓穿过激光投线仪长支架圆形底座的圆孔与底座螺纹固定连接,两个投线仪套侧面的螺纹孔与激光投线仪长支架顶部的螺纹杆螺纹固定连接;
底座为钻有螺纹孔的钢板制成的方形零件;
线激光器为可发射一条线激光的圆柱形零件;
激光投线仪支架由一个圆形底座和一个圆杆焊接而成,圆杆顶部加工一段螺纹杆,激光投线仪支架的圆形底座加工三个圆孔;
摄像机支架由一个圆形底座和一个圆杆焊接而成,圆杆顶部加工一段螺纹杆,摄像机支架的圆形底座加工三个圆孔,摄像机支架的圆杆长于激光投线仪支架的圆杆;
激光投线仪长支架由一个圆形底座和一个圆杆焊接而成,圆杆顶部加工一段螺纹杆,激光投线仪长支架的圆形底座加工三个圆孔,激光投线仪长支架的圆杆长于摄像机支架的圆杆;
投线仪套为钢管加工制成圆型零件,投线仪套的侧面加工三个螺纹通孔;
二维靶标板为钢板加工的矩形零件,二维靶标板表面贴有规则几何图案。
一种车载路面裂纹检测***路面单应主动解算方法具体步骤如下:
第一步:车载路面裂纹检测***路面单应主动解算方法的图像采集:
底座放置在汽车前方与汽车前端螺纹固定连接。二维靶标板放置在摄像机前的多个位置,开启四个线激光器,摄像机采集N幅二维靶标板以及四个线激光器投影点的图像;
第二步:车载路面裂纹检测***路面单应主动解算方法的标定靶标激光投影点重建:
首先,对于第1条激光线,从N个包含线结构光的激光线与靶标板交点的靶标图像中得到N个交点的图像坐标。其次,对N个靶标板的图像采用Zhang标定法进行标定,可以获取摄像机的内参数和每幅图片对应的旋转矩阵平移向量tj=[t1 t2 t3]T。
其中,旋转矩阵Rj由3个列向量rj,1,rj,2,rj,3组成。然后,利用N个交点的图像坐标摄像机的内参数A,各个所属的图片对应的旋转矩阵Rj包含的列向量rj,1、rj,2和对应的平移向量tj求得N个交点在靶标坐标系下的三维坐标其数学表达式如下:
对于另外三条结构光的激光线,可以根据以上步骤求出每条激光线所对应的N个交点在摄像机坐标系下的三维坐标。
第三步:车载路面裂纹检测***路面单应主动解算方法的基准激光线的标定:
首先,对于第1条激光线,设该条激光的两点式参数为a1、a2、a3、a4、a5、a6,则线激光方程为从第二步获得的该条线激光的N个交点在摄像机坐标系下的三维坐标中选取两个点将中的X轴坐标、Y轴坐标、Z轴坐标赋予a1、a2、a3作为其初值。将三维向量的X轴坐标、Y轴坐标、Z轴坐标赋予a4、a5、a6作为其初值。其次,构造N个向量对于每个向量使其与向量做向量积并取模得到N个向量积的模,将这些向量积的模分别除以向量的模,得到每个交点到线激光的距离dj(j=1,2,3,…,N),其数学表达式如下
最后,令dj(j=1,2,3,…,N)的和最小,采用LM算法解算出优化后的a1、a2、a3、a4、a5、a6的值。根据优化后的激光线上的两点(a4+a1 a5+a2 a6+a3)T和(a1 a2 a3)T以及Plücker点坐标的对偶形式可以将该线激光表示为
第四步:车载路面裂纹检测***路面单应主动解算方法的路面平面动态重建:
第五步:车载路面裂纹检测***路面单应主动解算方法的路面图像单应实时解算:
在汽车行驶过程中,第二步到第五步是循环进行的步骤。
本发明的有益效果是:
1.本发明采用了路面单应动态解算方法在真实的路面条件下,利用摄像机与四个线结构光实现了路面图像单应矫正矩阵H的解算。
2.本***将一台工业摄像机固定安装在汽车车头的一个主架上,四个线结构光的激光器两两一组通过两端焊有矩形钢板的圆柱形钢杆固定在主架上,使四个线激光的投影点处于像平面上的左上、右上、左下、右下四个区域,将线激光器通电并调好摄像机。这样既可以实现调整线激光发射方向的功能又可以在不影响路面裂纹识别的基础上便于投影点的识别。
附图说明
图1是车载路面裂纹检测***路面单应主动解算装置的轴测图;
图2是车载路面裂纹检测***路面单应主动解算装置中底座1的轴测图;
图3是车载路面裂纹检测***路面单应主动解算装置中线激光器2的轴测图;
图4是车载路面裂纹检测***路面单应主动解算装置中激光投线仪支架3的轴测图;
图5是车载路面裂纹检测***路面单应主动解算装置中摄像机4的轴测图;
图6是车载路面裂纹检测***路面单应主动解算装置中摄像机支架5的轴测图;
图7是车载路面裂纹检测***路面单应主动解算装置中激光投线仪长支架6的轴测图;
图8是车载路面裂纹检测***路面单应主动解算装置中投线仪套7的轴测图;
图9是车载路面裂纹检测***路面单应主动解算装置中二维靶标板8的轴测图;
图10是车载路面裂纹检测***路面单应主动解算方法中求得在摄像机坐标系下激光线与靶标交点坐标的流程图;
图11是车载路面裂纹检测***路面单应主动解算方法中求得在摄像机坐标系下激光线Plücker坐标的流程图;
图12是车载路面裂纹检测***路面单应主动解算方法中求得在摄像机坐标系下路面平面坐标的流程图;
图13是车载路面裂纹检测***路面单应主动解算方法中求得路面图像单应矫正矩阵H的流程图;
图中:1.底座,2.线激光器,3.激光投线仪支架,4.摄像机,5.摄像机支架,6.激光投线仪长支架,7.投线仪套,8.二维靶标板。
具体实施方式
下面结合附图对本发明作进一步的详细描述:
参阅图1至图9,车载路面裂纹检测***路面单应主动解算装置包括有底座1、线激光器2、激光投线仪支架3、摄像机4、摄像机支架5、激光投线仪长支架6、投线仪套7与二维靶标板8。
底座1为钻有螺纹孔的钢板制成的方形零件,线激光器2为可发射一条线激光的圆柱形零件,投线仪套7为钢管加工制成圆型零件,投线仪套7的侧面加工三个螺纹通孔,四个线激光器2***四个投线仪套7的内孔,螺栓穿过四个投线仪套7侧面的螺纹孔,螺栓顶部与四个线激光器2侧面面接触紧配合。激光投线仪支架3由一个圆形底座和一个圆杆焊接而成,圆杆顶部加工一段螺纹杆,激光投线仪支架3的圆形底座加工三个圆孔,螺栓穿过激光投线仪支架3圆形底座的圆孔与底座1螺纹固定连接,两个投线仪套7侧面的螺纹孔与激光投线仪支架3顶部的螺纹杆螺纹固定连接。摄像机支架5由一个圆形底座和一个圆杆焊接而成,圆杆顶部加工一段螺纹杆,摄像机支架5的圆形底座加工三个圆孔,摄像机支架5的圆杆长于激光投线仪支架3的圆杆。螺栓穿过摄像机支架5圆形底座的圆孔与底座1螺纹固定连接,摄像机4底部的螺纹孔与摄像机支架5顶部的螺纹杆螺纹固定连接。激光投线仪长支架6由一个圆形底座和一个圆杆焊接而成,圆杆顶部加工一段螺纹杆,激光投线仪长支架6的圆形底座加工三个圆孔,激光投线仪长支架6的圆杆长于摄像机支架5的圆杆,螺栓穿过激光投线仪长支架6圆形底座的圆孔与底座1螺纹固定连接,两个投线仪套7侧面的螺纹孔与激光投线仪长支架6顶部的螺纹杆螺纹固定连接,二维靶标板8为钢板加工的矩形零件,二维靶标板8表面贴有规则几何图案。
参阅图10至图13,本发明所提供的车载路面裂纹检测***路面单应主动解算方法可分为以下五步:
第一步:车载路面裂纹检测***路面单应主动解算方法的图像采集:
本装置将一台工业摄像机固定安装在汽车车头的一个主架上,四个线结构光的激光器两两一组通过两端焊有矩形钢板的圆柱形钢杆固定在主架上,使四个线激光的投影点处于像平面上的左上、右上、左下、右下四个区域,将线激光器通电并调好摄像机。这样既可以实现调整线激光发射方向的功能又可以在不影响路面裂纹识别的基础上便于投影点的识别。
底座1放置在汽车前方与汽车前端螺纹固定连接。二维靶标板8放置在摄像机4前的多个位置,开启四个线激光器2,摄像机4采集N幅二维靶标板8以及四个线激光器2投影点的图像;
第二步:车载路面裂纹检测***路面单应主动解算方法的标定靶标激光投影点重建:
在汽车行驶过程中,汽车的位置相对于路面是实时变化的,而摄像机坐标系相对汽车车身坐标系相对固定,因此选取摄像机坐标系作为路面裂纹检测的全局坐标系。由于四个线结构光激光器相对于摄像机位置固定,因此需要在摄像机坐标系下解算四条线激光的坐标。考虑到每条线激光在路面上有一个投影点,路面图像单应矫正矩阵H是3×3的矩阵,含有8个自由度的,一组图像坐标系-世界坐标系对应点可以提供2个方程,这样至少需要四组对应点就可以解算出路面图像单应矫正矩阵H。理论上采用的对应点越多,解出的路面图像单应矫正矩阵H越精确,但同时会增加计算时间,影响解算效率并影响路面裂纹的提取效果。因此,本***采用四条线结构光在路面上的投影点作为基准。
首先,对于第1条激光线,从N个包含线结构光的激光线与靶标板交点的靶标图像中得到N个交点的图像坐标。其次,对N个靶标板的图像采用Zhang标定法进行标定,可以获取摄像机的内参数和每幅图片对应的旋转矩阵平移向量tj=[t1 t2 t3]T。
其中,旋转矩阵Rj由3个列向量rj,1,rj,2,rj,3组成。然后,利用N个交点的图像坐标摄像机的内参数A,各个所属的图片对应的旋转矩阵Rj包含的列向量rj,1、rj,2和对应的平移向量tj求得N个交点在靶标坐标系下的三维坐标其数学表达式如下:
对于另外三条结构光的激光线,可以根据以上步骤求出每条激光线所对应的N个交点在摄像机坐标系下的三维坐标。
第三步:车载路面裂纹检测***路面单应主动解算方法的基准激光线的标定:
由于四个线结构光激光器相对于摄像机位置固定,可以用激光线作为基准,且为了解算出激光线在路面上的投影点在摄像机坐标系下的坐标,因此,需要在摄像机坐标系下解算四条线激光的Plücker坐标。以一条线激光为例,两个交点就可以确定线激光的Plücker坐标,但是这种做法解算的线激光误差较大,为了减小误差,车载路面裂纹检测***使用了多个交点解算线激光。解算线激光时,先使用两点式表示线激光,并对其6个参数赋予初值,然后计算出N个交点各自到该直线的距离,利用LM优化法使距离的和最小,可以获取优化后的6个参数,最后使用这6个参数表示这条线激光的Plücker坐标。
首先,对于第1条激光线,设该条激光的两点式参数为a1、a2、a3、a4、a5、a6,则线激光方程为从第二步获得的该条线激光的N个交点在摄像机坐标系下的三维坐标中选取两个点将中的X轴坐标、Y轴坐标、Z轴坐标赋予a1、a2、a3作为其初值。将三维向量的X轴坐标、Y轴坐标、Z轴坐标赋予a4、a5、a6作为其初值。其次,构造N个向量对于每个向量使其与向量做向量积并取模得到N个向量积的模,将这些向量积的模分别除以向量的模,得到每个交点到线激光的距离dj(j=1,2,3,…,N),其数学表达式如下
最后,令dj(j=1,2,3,…,N)的和最小,采用LM算法解算出优化后的a1、a2、a3、a4、a5、a6的值。根据优化后的激光线上的两点(a4+a1 a5+a2 a6+a3)T和(a1 a2 a3)T以及Plücker点坐标的对偶形式可以将该线激光表示为
第四步:车载路面裂纹检测***路面单应主动解算方法的路面平面动态重建:
当使用四条线结构光在路面上的投影点作为基准解算路面图像单应矫正矩阵H时,要求这四个投影点处于共面的状态,但受路面凹凸不平的影响,这四个点是不共面的,因此,需要先建立一个模拟平面来模拟路面平面,再利用投影到模拟路面平面上的四个点来解算路面图像单应矫正矩阵H。以一幅路面图像的单应矫正矩阵H为例,在录像过程中可以获取一帧图像中的四个投影点,这四个点同时满足投影点在激光线上的关系和摄像机-图像的投影关系,可以结算出这四个投影点在摄像机坐标系下的坐标,进而用这四个投影点求解模拟路面平面在摄像机坐标系下的坐标。
第五步:车载路面裂纹检测***路面单应主动解算方法的路面图像单应实时解算:
车载路面裂纹检测***的摄像机在拍摄路面裂纹图像时,为了消除路面裂纹信息失真的问题,需要对路面裂纹到摄像机拍摄的图像间的单应关系进行解算。每一帧图像都对应一个路面图像单应矫正矩阵H,在使用四条线结构光在路面上的投影点作为基准解算路面图像单应矫正矩阵H时,要求这四个投影点处于共面的状态。在第四步中已经解算出模拟平面在摄像机坐标系下的坐标,因此,需要将四个投影点向模拟平面上进行投影,得到四个投影点的像点,这四个像点是共面的,进而获取四个像点在摄像机坐标系下的坐标。然后,以左上角的像点作为原点,右上角的像点与原点的连线作为X轴建立平面坐标系,这样,就可以获取四个像点在模拟平面坐标系下的二维坐标。最后,利用四个像点在模拟平面坐标系下的二维坐标与四个投影点在图像坐标系下的二维坐标求解出路面图像单应矫正矩阵H。
在汽车行驶过程中,第二步到第五步是循环进行的步骤。
Claims (9)
1.一种车载路面裂纹检测***路面单应主动解算装置,其特征在于,所述的车载路面裂纹检测***路面单应主动解算装置包括有底座(1)、线激光器(2)、激光投线仪支架(3)、摄像机(4)、摄像机支架(5)、激光投线仪长支架(6)、投线仪套(7)与二维靶标板(8);
四个线激光器(2)***四个投线仪套(7)的内孔,螺栓穿过四个投线仪套(7)侧面的螺纹孔,螺栓顶部与四个线激光器(2)侧面面接触紧配合,螺栓穿过激光投线仪支架(3)圆形底座的圆孔与底座(1)螺纹固定连接,两个投线仪套(7)侧面的螺纹孔与激光投线仪支架(3)顶部的螺纹杆螺纹固定连接,螺栓穿过摄像机支架(5)圆形底座的圆孔与底座(1)螺纹固定连接,摄像机(4)底部的螺纹孔与摄像机支架(5)顶部的螺纹杆螺纹固定连接,螺栓穿过激光投线仪长支架(6)圆形底座的圆孔与底座(1)螺纹固定连接,两个投线仪套(7)侧面的螺纹孔与激光投线仪长支架(6)顶部的螺纹杆螺纹固定连接。
2.按照权利要求1所述的车载路面裂纹检测***路面单应主动解算装置,其特征在于所述的底座(1)为钻有螺纹孔的钢板制成的方形零件。
3.按照权利要求1所述的车载路面裂纹检测***路面单应主动解算装置,其特征在于所述的线激光器(2)为可发射一条线激光的圆柱形零件。
4.按照权利要求1所述的车载路面裂纹检测***路面单应主动解算装置,其特征在于所述的激光投线仪支架(3)由一个圆形底座和一个圆杆焊接而成,圆杆顶部加工一段螺纹杆,激光投线仪支架(3)的圆形底座加工三个圆孔。
5.按照权利要求1所述的车载路面裂纹检测***路面单应主动解算装置,其特征在于所述的摄像机支架(5)由一个圆形底座和一个圆杆焊接而成,圆杆顶部加工一段螺纹杆,摄像机支架(5)的圆形底座加工三个圆孔,摄像机支架(5)的圆杆长于激光投线仪支架(3)的圆杆。
6.按照权利要求1所述的车载路面裂纹检测***路面单应主动解算装置,其特征在于所述的激光投线仪长支架(6)由一个圆形底座和一个圆杆焊接而成,圆杆顶部加工一段螺纹杆,激光投线仪长支架(6)的圆形底座加工三个圆孔,激光投线仪长支架(6)的圆杆长于摄像机支架(5)的圆杆。
7.按照权利要求1所述的车载路面裂纹检测***路面单应主动解算装置,其特征在于所述的投线仪套(7)为钢管加工制成圆型零件,投线仪套(7)的侧面加工三个螺纹通孔。
8.按照权利要求1所述的车载路面裂纹检测***路面单应主动解算装置,其特征在于所述的二维靶标板(8)为钢板加工的矩形零件,二维靶标板(8)表面贴有规则几何图案。
9.按照权利要求1-8所述的车载路面裂纹检测***路面单应主动解算装置的解算方法,其特征在于,具体步骤如下:
第一步:车载路面裂纹检测***路面单应主动解算方法的图像采集:
底座(1)放置在汽车前方与汽车前端螺纹固定连接;二维靶标板(8)放置在摄像机(4)前的多个位置,开启四个线激光器(2),摄像机(4)采集N幅二维靶标板(8)以及四个线激光器(2)投影点的图像;
第二步:车载路面裂纹检测***路面单应主动解算方法的标定靶标激光投影点重建:
在汽车行驶过程中,汽车的位置相对于路面是实时变化的,而摄像机坐标系相对汽车车身坐标系相对固定,因此选取摄像机坐标系作为路面裂纹检测的全局坐标系;由于四个线结构光激光器相对于摄像机位置固定,因此需要在摄像机坐标系下解算四条线激光的坐标,考虑到每条线激光在路面上有一个投影点,路面图像单应矫正矩阵H是3×3的矩阵,含有8个自由度的,一组图像坐标系-世界坐标系对应点可以提供2个方程,这样至少需要四组对应点就可以解算出路面图像单应矫正矩阵H;理论上采用的对应点越多,解出的路面图像单应矫正矩阵H越精确,但同时会增加计算时间,影响解算效率并影响路面裂纹的提取效果;因此,本***采用四条线结构光在路面上的投影点作为基准;
首先,对于第1条激光线,从N个包含线结构光的激光线与靶标板交点的靶标图像中得到N个交点的图像坐标;其次,对N个靶标板的图像采用Zhang标定法进行标定,可以获取摄像机的内参数和每幅图片对应的旋转矩阵平移向量tj=[t1 t2 t3]T;其中,旋转矩阵Rj由3个列向量rj,1,rj,2,rj,3组成;然后,利用N个交点的图像坐标摄像机的内参数A,各个所属的图片对应的旋转矩阵Rj包含的列向量rj,1、rj,2和对应的平移向量tj求得N个交点在靶标坐标系下的三维坐标其数学表达式如下:
<mrow><msubsup><mi>C</mi><mi>j</mi><mi>W</mi></msubsup><mo>=</mo><msup><mrow><mo>[</mo><mrow><mi>A</mi><mfenced open = "[" close = "]"><mtable><mtr><mtd><msub><mi>r</mi><mrow><mi>j</mi><mo>,</mo><mn>1</mn></mrow></msub></mtd><mtd><msub><mi>r</mi><mrow><mi>j</mi><mo>,</mo><mn>2</mn></mrow></msub></mtd><mtd><msub><mi>t</mi><mi>j</mi></msub></mtd></mtr></mtable></mfenced></mrow><mo>]</mo></mrow><mrow><mo>-</mo><mn>1</mn></mrow></msup><msubsup><mi>c</mi><mi>j</mi><mi>M</mi></msubsup><mo>=</mo><msup><mfenced open = "[" close = "]"><mtable><mtr><mtd><msubsup><mi>C</mi><mrow><mi>j</mi><mo>,</mo><mn>1</mn></mrow><mi>W</mi></msubsup></mtd><mtd><msubsup><mi>C</mi><mrow><mi>j</mi><mo>,</mo><mn>2</mn></mrow><mi>W</mi></msubsup></mtd><mtd><msubsup><mi>C</mi><mrow><mi>j</mi><mo>,</mo><mn>3</mn></mrow><mi>W</mi></msubsup></mtd></mtr></mtable></mfenced><mi>T</mi></msup></mrow>
<mrow><msubsup><mi>C</mi><mi>j</mi><mi>C</mi></msubsup><mo>=</mo><mfenced open = "[" close = "]"><mtable><mtr><mtd><msub><mi>R</mi><mi>j</mi></msub></mtd><mtd><msub><mi>t</mi><mi>j</mi></msub></mtd></mtr></mtable></mfenced><msubsup><mi>C</mi><mi>j</mi><mi>W</mi></msubsup><mo>=</mo><msup><mfenced open = "[" close = "]"><mtable><mtr><mtd><msubsup><mi>C</mi><mrow><mi>j</mi><mo>,</mo><mn>1</mn></mrow><mi>C</mi></msubsup></mtd><mtd><msubsup><mi>C</mi><mrow><mi>j</mi><mo>,</mo><mn>2</mn></mrow><mi>C</mi></msubsup></mtd><mtd><msubsup><mi>C</mi><mrow><mi>j</mi><mo>,</mo><mn>3</mn></mrow><mi>C</mi></msubsup></mtd></mtr></mtable></mfenced><mi>T</mi></msup></mrow>
对于另外三条结构光的激光线,可以根据以上步骤求出每条激光线所对应的N个交点在摄像机坐标系下的三维坐标;
第三步:车载路面裂纹检测***路面单应主动解算方法的基准激光线的标定:
由于四个线结构光激光器相对于摄像机位置固定,可以用激光线作为基准,且为了解算出激光线在路面上的投影点在摄像机坐标系下的坐标,需要在摄像机坐标系下解算四条线激光的Plücker坐标;以一条线激光为例,两个交点就可以确定线激光的Plücker坐标,但是这种做法解算的线激光误差较大,为了减小误差,车载路面裂纹检测***使用了多个交点解算线激光;解算线激光时,先使用两点式表示线激光,并对其6个参数赋予初值,然后计算出N个交点各自到该直线的距离,利用最小二乘法使点到直线距离的和最小,可以获取优化后的6个参数,最后使用这6个优化后的参数表示这条线激光的Plücker坐标;
首先,对于第1条激光线,设该条激光的两点式参数为a1、a2、a3、a4、a5、a6,则线激光方程为从第二步获得的该条线激光的N个交点在摄像机坐标系下的三维坐标中选取两个点将中的X轴坐标、Y轴坐标、Z轴坐标赋予a1、a2、a3作为其初值;将三维向量的X轴坐标、Y轴坐标、Z轴坐标赋予a4、a5、a6作为其初值;其次,构造N个向量对于每个向量使其与向量做向量积并取模得到N个向量积的模,将这些向量积的模分别除以向量的模,得到每个交点到线激光的距离dj(j=1,2,3,…,N),其数学表达式如下
最后,令dj(j=1,2,3,…,N)的和最小,采用LM算法解算出优化后的a1、a2、a3、a4、a5、a6的值;根据优化后的激光线上的两点(a4+a1 a5+a2 a6+a3)T和(a1 a2 a3)T以及Plücker点坐标的对偶形式可以将该线激光表示为
<mrow><msup><mi>L</mi><mo>*</mo></msup><mo>=</mo><mfenced open = "[" close = "]"><mtable><mtr><mtd><mn>0</mn></mtd><mtd><mrow><msub><mi>a</mi><mn>5</mn></msub><msub><mi>a</mi><mn>6</mn></msub></mrow></mtd><mtd><mrow><mo>-</mo><msubsup><mi>a</mi><mn>5</mn><mn>2</mn></msubsup></mrow></mtd><mtd><mrow><msub><mi>a</mi><mn>5</mn></msub><mrow><mo>(</mo><msub><mi>a</mi><mn>3</mn></msub><msub><mi>a</mi><mn>5</mn></msub><mo>-</mo><msub><mi>a</mi><mn>2</mn></msub><msub><mi>a</mi><mn>6</mn></msub><mo>)</mo></mrow></mrow></mtd></mtr><mtr><mtd><mrow><mo>-</mo><msub><mi>a</mi><mn>5</mn></msub><msub><mi>a</mi><mn>6</mn></msub></mrow></mtd><mtd><mn>0</mn></mtd><mtd><mrow><mo>-</mo><msub><mi>a</mi><mn>4</mn></msub><msub><mi>a</mi><mn>5</mn></msub></mrow></mtd><mtd><mrow><msub><mi>a</mi><mn>1</mn></msub><msub><mi>a</mi><mn>5</mn></msub><msub><mi>a</mi><mn>6</mn></msub><mo>-</mo><msub><mi>a</mi><mn>3</mn></msub><msub><mi>a</mi><mn>4</mn></msub><msub><mi>a</mi><mn>5</mn></msub></mrow></mtd></mtr><mtr><mtd><msubsup><mi>a</mi><mn>5</mn><mn>2</mn></msubsup></mtd><mtd><mrow><mo>-</mo><msub><mi>a</mi><mn>4</mn></msub><msub><mi>a</mi><mn>5</mn></msub></mrow></mtd><mtd><mn>0</mn></mtd><mtd><mrow><msub><mi>a</mi><mn>5</mn></msub><mrow><mo>(</mo><msub><mi>a</mi><mn>2</mn></msub><msub><mi>a</mi><mn>4</mn></msub><mo>-</mo><msub><mi>a</mi><mn>1</mn></msub><msub><mi>a</mi><mn>5</mn></msub><mo>)</mo></mrow></mrow></mtd></mtr><mtr><mtd><mrow><msub><mi>a</mi><mn>5</mn></msub><mrow><mo>(</mo><msub><mi>a</mi><mn>2</mn></msub><msub><mi>a</mi><mn>6</mn></msub><mo>-</mo><msub><mi>a</mi><mn>3</mn></msub><msub><mi>a</mi><mn>5</mn></msub><mo>)</mo></mrow></mrow></mtd><mtd><mrow><msub><mi>a</mi><mn>3</mn></msub><msub><mi>a</mi><mn>4</mn></msub><msub><mi>a</mi><mn>5</mn></msub><mo>-</mo><msub><mi>a</mi><mn>1</mn></msub><msub><mi>a</mi><mn>5</mn></msub><msub><mi>a</mi><mn>6</mn></msub></mrow></mtd><mtd><mrow><msub><mi>a</mi><mn>5</mn></msub><mrow><mo>(</mo><msub><mi>a</mi><mn>1</mn></msub><msub><mi>a</mi><mn>5</mn></msub><mo>-</mo><msub><mi>a</mi><mn>2</mn></msub><msub><mi>a</mi><mn>4</mn></msub><mo>)</mo></mrow></mrow></mtd><mtd><mn>0</mn></mtd></mtr></mtable></mfenced></mrow>
第四步:车载路面裂纹检测***路面单应主动解算方法的路面平面动态重建:
当使用四条线结构光在路面上的投影点作为基准解算路面图像单应矫正矩阵H时,要求这四个投影点处于共面的状态,但受路面凹凸不平的影响,这四个点是不共面的,因此,需要先建立一个模拟平面来模拟路面平面,再利用投影到模拟平面上的四个点来解算路面图像单应矫正矩阵H;以一幅路面图像的单应矫正矩阵H为例,在图像采集过程中可以获取一帧图像中的四个投影点,这四个点同时满足投影点在激光线上的关系和摄像机-图像的投影关系,可以解算出这四个投影点在摄像机坐标系下的坐标,进而用这四个投影点求解模拟平面在摄像机坐标系下的坐标;
<mrow><mfenced open = "[" close = "]"><mtable><mtr><mtd><msubsup><mi>C</mi><mn>1</mn><mrow><msup><mi>RC</mi><mi>T</mi></msup></mrow></msubsup></mtd></mtr><mtr><mtd><msubsup><mi>C</mi><mn>2</mn><mrow><msup><mi>RC</mi><mi>T</mi></msup></mrow></msubsup></mtd></mtr><mtr><mtd><msubsup><mi>C</mi><mn>3</mn><mrow><msup><mi>RC</mi><mi>T</mi></msup></mrow></msubsup></mtd></mtr><mtr><mtd><msubsup><mi>C</mi><mn>4</mn><mrow><msup><mi>RC</mi><mi>T</mi></msup></mrow></msubsup></mtd></mtr></mtable></mfenced><mfenced open = "[" close = "]"><mtable><mtr><mtd><msubsup><mi>π</mi><mn>1</mn><mrow><mi>R</mi><mi>C</mi></mrow></msubsup></mtd></mtr><mtr><mtd><msubsup><mi>π</mi><mn>2</mn><mrow><mi>R</mi><mi>C</mi></mrow></msubsup></mtd></mtr><mtr><mtd><msubsup><mi>π</mi><mn>3</mn><mrow><mi>R</mi><mi>C</mi></mrow></msubsup></mtd></mtr><mtr><mtd><msubsup><mi>π</mi><mn>4</mn><mrow><mi>R</mi><mi>C</mi></mrow></msubsup></mtd></mtr></mtable></mfenced><mo>=</mo><mfenced open = "[" close = "]"><mtable><mtr><mtd><mn>0</mn></mtd></mtr><mtr><mtd><mn>0</mn></mtd></mtr><mtr><mtd><mn>0</mn></mtd></mtr><mtr><mtd><mn>0</mn></mtd></mtr></mtable></mfenced></mrow>
第五步:车载路面裂纹检测***路面单应主动解算方法的路面图像单应实时解算:
车载路面裂纹检测***的摄像机在拍摄路面裂纹图像时,为了消除路面裂纹信息失真的问题,需要对路面裂纹到摄像机拍摄的图像间的单应关系进行解算;每一帧图像都对应一个路面图像单应矫正矩阵H,在使用四条线结构光在路面上的投影点作为基准解算路面图像单应矫正矩阵H时,要求这四个投影点处于共面的状态;在第四步已经解算出路面平面在摄像机坐标系下的坐标,因此,需要将四个投影点向路面平面上进行投影,得到四个投影点的像点,这四个像点是共面的,进而获取四个像点在摄像机坐标系下的坐标;然后,以左上角的像点作为原点,右上角的像点与原点的连线作为X轴建立平面坐标系,这样,就可以获取四个像点在路面平面坐标系下的二维坐标;最后,利用四个像点在路面平面坐标系下的二维坐标与四个投影点在图像坐标系下的二维坐标求解出路面图像单应矫正矩阵H;
在汽车行驶过程中,第二步到第五步是循环进行的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810423468.XA CN108460767B (zh) | 2018-05-06 | 2018-05-06 | 车载路面裂纹检测***路面单应主动解算装置与方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810423468.XA CN108460767B (zh) | 2018-05-06 | 2018-05-06 | 车载路面裂纹检测***路面单应主动解算装置与方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108460767A CN108460767A (zh) | 2018-08-28 |
CN108460767B true CN108460767B (zh) | 2023-05-09 |
Family
ID=63214801
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810423468.XA Active CN108460767B (zh) | 2018-05-06 | 2018-05-06 | 车载路面裂纹检测***路面单应主动解算装置与方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108460767B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109540041B (zh) * | 2019-01-14 | 2020-05-08 | 吉林大学 | 双目主动视觉矢量正交归一化汽车形貌测量***与方法 |
CN111174725B (zh) * | 2019-12-31 | 2024-06-04 | 吉林大学 | 同心二次曲线极线几何的轴端接地单目重建***与方法 |
CN113344990B (zh) * | 2021-04-27 | 2022-09-20 | 成都飞机工业(集团)有限责任公司 | 孔位表征投影***及自适应拟合的孔位对齐方法 |
CN113420732B (zh) * | 2021-08-23 | 2022-02-01 | 深圳市城市交通规划设计研究中心股份有限公司 | 一种路面病害检测方法、装置和存储介质 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006128282A1 (en) * | 2005-06-02 | 2006-12-07 | Institut National D'optique | A vision system and a method for scanning a traveling surface to detect surface defects thereof |
CN102518029A (zh) * | 2011-12-23 | 2012-06-27 | 同济大学 | 沥青路面损坏综合智能检测车 |
CN102535316A (zh) * | 2011-12-23 | 2012-07-04 | 同济大学 | 新型沥青路面损坏综合智能检测车 |
CN102706880A (zh) * | 2012-06-26 | 2012-10-03 | 哈尔滨工业大学 | 基于二维图像和深度信息的路面信息提取装置及使用该装置实现路面裂纹信息的检测方法 |
CN103194956A (zh) * | 2013-04-15 | 2013-07-10 | 南京道润交通科技有限公司 | 道路检测车及利用其进行道路检测的方法 |
CN103669182A (zh) * | 2013-11-15 | 2014-03-26 | 上海嘉珏实业有限公司 | 基于相机与线激光器的路面裂缝识别装置及其识别方法 |
CN104101309A (zh) * | 2014-08-05 | 2014-10-15 | 吉林大学 | 基于面结构光主动视觉的动态汽车车体形貌重建*** |
CN104240233A (zh) * | 2014-08-19 | 2014-12-24 | 长春理工大学 | 一种摄像机单应性矩阵和投影机单应性矩阵的求解方法 |
CN104359913A (zh) * | 2014-12-02 | 2015-02-18 | 吉林大学 | 基于线结构光动态测量基准的车载路面初生裂纹采集*** |
CN105113375A (zh) * | 2015-05-15 | 2015-12-02 | 南京航空航天大学 | 一种基于线结构光的路面裂缝检测***及其检测方法 |
KR20160039316A (ko) * | 2014-10-01 | 2016-04-11 | 한국도로공사 | 도로의 균열 측정시스템 및 그 방법 |
CN208061259U (zh) * | 2018-05-06 | 2018-11-06 | 吉林大学 | 车载路面裂纹检测***路面单应主动解算装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9256791B2 (en) * | 2012-12-04 | 2016-02-09 | Mobileye Vision Technologies Ltd. | Road vertical contour detection |
-
2018
- 2018-05-06 CN CN201810423468.XA patent/CN108460767B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006128282A1 (en) * | 2005-06-02 | 2006-12-07 | Institut National D'optique | A vision system and a method for scanning a traveling surface to detect surface defects thereof |
CN102518029A (zh) * | 2011-12-23 | 2012-06-27 | 同济大学 | 沥青路面损坏综合智能检测车 |
CN102535316A (zh) * | 2011-12-23 | 2012-07-04 | 同济大学 | 新型沥青路面损坏综合智能检测车 |
CN102706880A (zh) * | 2012-06-26 | 2012-10-03 | 哈尔滨工业大学 | 基于二维图像和深度信息的路面信息提取装置及使用该装置实现路面裂纹信息的检测方法 |
CN103194956A (zh) * | 2013-04-15 | 2013-07-10 | 南京道润交通科技有限公司 | 道路检测车及利用其进行道路检测的方法 |
CN103669182A (zh) * | 2013-11-15 | 2014-03-26 | 上海嘉珏实业有限公司 | 基于相机与线激光器的路面裂缝识别装置及其识别方法 |
CN104101309A (zh) * | 2014-08-05 | 2014-10-15 | 吉林大学 | 基于面结构光主动视觉的动态汽车车体形貌重建*** |
CN104240233A (zh) * | 2014-08-19 | 2014-12-24 | 长春理工大学 | 一种摄像机单应性矩阵和投影机单应性矩阵的求解方法 |
KR20160039316A (ko) * | 2014-10-01 | 2016-04-11 | 한국도로공사 | 도로의 균열 측정시스템 및 그 방법 |
CN104359913A (zh) * | 2014-12-02 | 2015-02-18 | 吉林大学 | 基于线结构光动态测量基准的车载路面初生裂纹采集*** |
CN105113375A (zh) * | 2015-05-15 | 2015-12-02 | 南京航空航天大学 | 一种基于线结构光的路面裂缝检测***及其检测方法 |
CN208061259U (zh) * | 2018-05-06 | 2018-11-06 | 吉林大学 | 车载路面裂纹检测***路面单应主动解算装置 |
Non-Patent Citations (6)
Title |
---|
J. Choi 等.DETECTION OF CRACKS IN PAVED ROAD SURFACE USING LASER SCAN IMAGE DATA.《The International Archives of the Photogrammetry, Remote Sensing and Spatial Information Sciences》.2016,第XLI-B1卷559-562. * |
Miguel Gavilán 等.Adaptive Road Crack Detection System by Pavement Classification.《Sensors 2011》.2011,9628-9657. * |
刘换平.车载路面裂纹检测***图像标定与裂纹辨识方法研究.《中国优秀硕士学位论文全文数据库 工程科技II辑》.2016,(2016年第09期),C034-38. * |
刘晓丰 等.沥青混凝土路面裂缝的研究现状.《大众科技》.2010,(第4期),90-91. * |
许海标.基于结构光的公路路面裂缝检测关键技术.《科技与企业》.2016,118-119. * |
马建 等.路面检测技术综述.《交通运输工程学报》.2017,第17卷(第5期),121-137. * |
Also Published As
Publication number | Publication date |
---|---|
CN108460767A (zh) | 2018-08-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108460767B (zh) | 车载路面裂纹检测***路面单应主动解算装置与方法 | |
CN106920261B (zh) | 一种机器人手眼静态标定方法 | |
CN105716527B (zh) | 激光焊缝跟踪传感器标定方法 | |
CN103778649B (zh) | 用于相机建模和虚拟视图合成的成像表面建模 | |
CN110728715A (zh) | 一种智能巡检机器人像机角度自适应调整方法 | |
CN105894511B (zh) | 标定靶设置方法、装置及停车辅助*** | |
CN114792337B (zh) | 一种焊接坡口尺寸和焊枪相对位姿高精度检测方法和装置 | |
CN109827521B (zh) | 一种快速多线结构光视觉测量***标定方法 | |
KR101286096B1 (ko) | 타원 시각 특성에 기반한 자동차의 휠 정렬 검사방법 | |
JP2009288152A (ja) | 車載カメラのキャリブレーション方法 | |
KR20130113306A (ko) | 차량 휠 얼라인먼트를 결정하는 시스템 및 관련 방법 | |
CN109712232B (zh) | 一种基于光场的物体表面轮廓三维成像方法 | |
CN111009030A (zh) | 一种多视高分辨率纹理图像与双目三维点云映射方法 | |
CN111220129A (zh) | 一种带旋转云台的聚焦测量方法及终端 | |
CN108871190B (zh) | 一种用于双目立体视觉测量中的手持球型靶标及测量方法 | |
CN110926373A (zh) | 铁路异物检测场景下结构光光平面标定方法及其*** | |
CN104807405A (zh) | 一种基于光线角度标定的三维坐标测量方法 | |
CN113288424A (zh) | 用于光学手术导航***视场标定的标定板及标定方法 | |
CN108053491A (zh) | 动态视角条件下实现平面目标三维跟踪和增强现实的方法 | |
CN111220399A (zh) | 一种基于图像测定车轮前束角的方法及其*** | |
CN116402890A (zh) | 一种抗遮挡的光学跟踪定位方法 | |
CN1928490A (zh) | 一种用于视觉***标定的柔性平面靶标 | |
CN110849285A (zh) | 基于单目相机的焊点深度测量方法、***及介质 | |
CN211060857U (zh) | 基于一维参考物的汽车特征点视觉重建*** | |
CN104376560A (zh) | 基于光学投影仪的相机多功能标定方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |