CN108734219A - 一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法 - Google Patents
一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法 Download PDFInfo
- Publication number
- CN108734219A CN108734219A CN201810499889.0A CN201810499889A CN108734219A CN 108734219 A CN108734219 A CN 108734219A CN 201810499889 A CN201810499889 A CN 201810499889A CN 108734219 A CN108734219 A CN 108734219A
- Authority
- CN
- China
- Prior art keywords
- impact crater
- impact
- crater
- candidate frame
- scale
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/13—Satellite images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Astronomy & Astrophysics (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法,该方法同步实现天体遥感图像中撞击坑的检测与识别,该方法建立的网络命名为CraterIDNet,建立的网络由两个撞击坑检测通道与一个撞击坑识别通道构成,网络权重参数仅由卷积层构成,无全链接层。本发明针对撞击坑检测通道提出了候选框尺度优化及密度调整机制,实现了最优的候选框选择,大幅提高了小撞击坑目标的检测性能,同时利用不同感受野对多尺度撞击坑目标同步检测,使网络具有检测大尺度范围变化撞击坑目标的能力。针对撞击坑识别通道提出了栅格模式层生成具有旋转和尺度不变性的栅格模式图实现撞击坑识别,无需构建匹配特征数据库。本发明增强了识别鲁棒性。
Description
技术领域
本发明涉及遥感图像处理与天文自主导航技术领域,具体涉及一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法。
背景技术
撞击坑是天体表面最丰富的地形结构,其形态特征与空间分布是行星地质学研究的重要依据。此外,撞击坑也是航天器自主导航的理想陆标。撞击坑的检测与识别技术对行星地质研究以及航天器自主导航的实现极为重要。目前,撞击坑检测与识别作为两种独立算法分别展开研究。撞击坑检测的目标是判断图像中是否包含撞击坑并标注其在图像中的位置。撞击坑识别的目标是将检测到的撞击坑与数据库中已知坐标位置的陆标进行匹配,匹配结果可用来进行航天器位置估计。
目前,撞击坑检测算法主要通过对撞击坑边缘,形状,明暗分布等特征信息进行模式识别和匹配的方式实现。这种算法较复杂,查全率低,泛化能力差,对小尺度撞击坑目标检测精度低,对高度侵蚀,不规则形状,多撞击坑交叠等复杂目标检测效果差。撞击坑识别算法主要利用检测到的撞击坑目标,构建一定的特征模式,并在特征数据库中搜索唯一的特征匹配实现。这种算法需要存储特征数据库,占用存储空间大,且搜索匹配耗时长。当视场中出现假目标时会严重影响识别性能,且这种算法对撞击坑目标的位置检测误差和视直径检测误差异常敏感,鲁棒性不足。目前还没有一种可同时实现大尺度变化范围撞击坑检测与识别,且准确率高,鲁棒性强的方法。
发明内容
为了实现撞击坑目标的高效高精度同步检测与识别,本发明提出了一种基于全卷积神经网络结构的端到端撞击坑检测识别模型——CraterIDNet。网络输入为任意分辨率的遥感图像,输出为检测到的撞击坑位置、直径及识别结果。网络由撞击坑检测通道和撞击坑识别通道两部分构成。本发明提出了一种具有较强泛化能力的预训练网络模型。在此基础上,对CraterIDNet网络进行迁移学***。
本发明采用的技术方案为:一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法,该方法同步实现天体遥感图像中撞击坑的检测与识别,该方法建立的网络命名为CraterIDNet,建立的网络由两个撞击坑检测通道与一个撞击坑识别通道构成,网络权重参数仅由卷积层构成,无全链接层,其中,
1)建立撞击坑检测通道,用于对图像中撞击坑目标进行检测,输出撞击坑目标质心坐标以及视半径,CraterIDNet中的两个撞击坑通道分别连接在不同分辨率的特征映射上,可同步实现不同尺度撞击坑目标的检测,两个撞击坑通道共享网络的前4层卷积层;
2)建立撞击坑识别通道,用于对撞击坑检测通道输出的撞击坑目标进行识别,撞击坑识别通道首先通过栅格模式层生成撞击坑目标对应的栅格模式图,再通过后续二分类卷积神经网络架构对撞击坑进行识别,网络分类结果对应撞击坑识别结果。
其中,所述撞击坑检测通道中,一种候选框优化选择策略,其步骤如下:
(1)对候选框尺度进行优化,候选框的检测范围必须涵盖撞击坑目标实例的尺度变化范围,各尺度候选框检测范围以一定的重叠率相互交叠,候选框尺度进行优化的目标是保证在满足上述条件基础上使得候选框的种类数量最少,于是得到优化后的各候选框尺度表示为:
其中TIou表示候选框被标记为正样本的重叠度阈值,Sgmin表示样本集最小撞击坑尺寸,Sgmax表示样本集最大撞击坑尺寸,λ为相邻两尺度候选框可检测撞击坑尺度范围的重叠率;
(2)基于平均有效候选框数量,训练集场景中平均目标数量以及密度调节因子三个参量,对候选框产生密度进行优化,达到平衡训练场景内各尺度候选框数量的目的,按下式计算各尺度候选框的最优密度调整因子:
其中为第i个尺度候选框对应的总平均有效候选框数量,由平均有效候选框数量与训练集场景中平均目标数量的乘积得到,Nbatch为训练中每个批次的候选框数量,ω为惩罚系数;
(3)根据得到的候选框最优密度调整因子,对各尺度候选框进行密度调整,当τi>0时,增加对应候选框的生成数量为原来的倍,当τi<0时,减少对应候选框的生成数量为原来的倍,当τi=0时,维持原候选框数量不变。
其中,所述撞击坑检测通道中,一种3步式交互训练法,其步骤如下:
(1)以预训练模型为初值,对撞击坑检测通道的网络参数进行初始化,新添加的卷积层使用“xavier”方法进行初始化,利用撞击坑检测通道2的训练集对网络进行微调,其中撞击坑检测通道1独有卷积层(conv4_1~conv4_3)的学习率设为0,不进行训练;
(2)第二步网络以第一步训练的模型为初值,固定卷积层conv5~conv7及撞击坑检测通道2独有的卷积层(conv7_1~conv7_3),利用撞击坑检测通道1训练集对网络进行微调;
(3)第三步固定共享卷积层conv1~conv4及撞击坑检测通道1独有卷积层,利用撞击坑检测通道2训练集对上一步训练好的模型进行微调;
经过以上3步交互式训练后CraterIDNet的两个撞击坑检测通道实现共享卷积层。
其中,所述撞击坑识别通道中,栅格模式层工作步骤如下:
(1)首先进行撞击坑尺度筛选,设遥感相机的工作轨道高度为Hmin~Hmax,Href为训练样本所对应的参考轨道高度,可被有效识别的撞击坑尺度应在遥感相机工作的轨道高度范围内均能被撞击坑检测通道检测到,因此选择直径范围满足下式的撞击坑作为候选撞击坑:
其中Dmin表示撞击坑检测通道可检测的撞击坑最小直径,Dmax表示撞击坑检测通道可检测的撞击坑最大直径;
(2)主撞击坑选择,通常视场内需要至少3个撞击坑目标才能解算航天器的相对天体表面的位置关系,选择最靠近视场中心的10个候选撞击坑目标为主撞击坑,构建其栅格模式图,如果视场内不足10个撞击坑目标,则全部标记为主撞击坑;
(3)尺度标准化,对于每一个主撞击坑,分别计算其到其他候选撞击坑的距离,将其称为主距,然后将主距与所有撞击坑的直径统一至参考尺度,设H为成像时遥感相机所处的轨道高度,则主距和候选撞击坑直径乘以尺度变换因子Href/H;
(4)栅格模式图生成,以主撞击坑为中心,主撞击坑到最近的邻近撞击坑的连线方向为正方向,建立17×17的栅格模式图,每个栅格元边长为Lg,以标准化后的主距判定落入栅格内的邻近撞击坑,当至少一个邻近撞击坑落入栅格元(i,j)中时,该栅格元处于激活状态,输出幅值等于落入此栅格元内的撞击坑标准化直径的累加和,不包含撞击坑的栅格元幅值为0,最后将主撞击坑标准化直径累加进中心栅格元幅值中。
其中,所述撞击坑识别通道中,撞击坑识别训练集构建步骤如下:
(1)首先根据式(3),选定数据集中候选撞击坑,针对每一个撞击坑训练目标,赋予其用于识别的唯一编号;
(2)针对每一个撞击坑训练目标,取栅格元边长Lg=24像素,利用样本集中的邻近撞击坑目标构建2000个栅格模式图,为每个栅格模式图中的撞击坑目标加入均值为0,标准差为2.5像素,服从正态分布的位置噪声及均值为1.5像素,方差1.5像素,服从正态分布的视直径噪声;
(3)从生成的2000个栅格模式图中随机选择400个模式图,随机去掉模式图中的一个邻近撞击坑目标的信息,以模拟撞击坑检测通道未检测到该撞击坑的情况;
(4)随机选取700个和400个栅格模式图分别添加1个和2个假撞击坑目标,以模拟撞击坑检测通道检测到假撞击坑目标的情况,添加的假撞击坑视直径为服从[20,50]像素均匀分布的随机变量,位置在栅格模式图内随机选取;
(5)随机选取8组每组100个栅格模式图,分别对应图7所示的8种情况去除浅灰色区域内的撞击坑目标信息,以模拟主撞击坑靠近视场边界的情况;
(6)在最终生成的栅格模式图样本集,随机选取其中的60%样本生成训练集,剩余样本生成测试集。
本发明与现有技术相比的优点在于:
本发明提出一种同步实现撞击坑检测与识别的端到端全卷积神经网络模型——CraterIDNet。该网络模型具有检测识别率高,对小尺度撞击坑检测能力强,占用空间小,鲁棒性强的优点。针对撞击坑检测通道提出了候选框尺度优化及密度调整机制,实现了最优的候选框选择,大幅提高了小撞击坑目标的检测性能,同时利用不同感受野对多尺度撞击坑目标同步检测,使网络具有检测大尺度范围变化撞击坑目标的能力。针对撞击坑识别通道提出了栅格模式层生成具有旋转和尺度不变性的栅格模式图实现撞击坑识别,无需构建匹配特征数据库。栅格模式图融合了撞击坑的分布特征以及尺度特征,增强了方法的识别鲁棒性。本发明在提供了一种用独立网络模型同时实现撞击坑的检测与识别的解决方案的同时,达到了撞击坑检测与识别的领先性能水平。
附图说明
图1为CraterIDNet网络结构;
图2为预训练网络结构图;
图3为有效候选框判据;
图4为候选框密度调整,其中,图4(a)为密度调整因子τi=‐1时,候选框密度减半,图4(b)为密度调整因子τi=0时,候选框密度不变,图4(c)为密度调整因子τi=1时,候选框密度增倍;
图5为栅格模式生成过程,其中,图5(a)为撞击坑尺度筛选及主撞击坑选择,图5(b)为尺度标准化,图5(c)为建立栅格模式图,图5(d)为最终生成的栅格模式图;
图6为模拟主撞击坑靠近视场边界的情况(去除浅灰色区域内的撞击坑目标信息)。
具体实施方式
下面结合附图以及具体实施方式进一步说明本发明。
1)网络结构
本发明提出的网络***,称为CraterIDNet,是一个端到端的全卷积神经网络模型。整个***是一个独立统一的撞击坑检测与识别网络。网络结构如图1所示:
CraterIDNet接受任意分辨率的输入遥感图像,输出检测到撞击坑的位置,直径及识别到的撞击坑编号。网络包含了两个主要部分,撞击坑检测通道和撞击坑识别通道。整个***采用全卷积架构,无全链接层,大幅减小了网络规模。为了在保证检测识别效果的情况下进一步减小网络规模,本发明首先训练一个小规模预训练网络来初始化卷积特征层conv1‐7。预训练网络使用不同尺度、不同照明条件、不同形态、分布于不同区域的火星撞击坑遥感图像作为训练样本,以扩展网络的适用范围及泛化能力。CraterIDNet接收到输入图像后,卷积层conv4和conv7的特征映射随后输入进两个撞击坑检测通道和,以实现不同尺度特征映射上的撞击坑目标同步检测。撞击坑检测检测通道由3个卷积层及目标生成层构成,这些额外的卷积层在特征映射上生成特定形状的候选框候选框,通过判定候选框框中目标类别并回归输出目标相对与候选框框的偏移及缩放量实现撞击坑位置及视直径的检测。两个检测通道输出的检测结果在目标生成层融合并输入进撞击坑识别通道,撞击坑识别通道由栅格模式层及4个卷积层构成。栅格模式层利用前层信息生成待识别撞击坑对应的具有旋转及尺度不变性的栅格模式图。再通过训练后续卷积层对栅格模式图进行分类,类别对应撞击坑识别结果。
整个CraterIDNet通过全卷积层及额外功能层实现端到端的撞击坑检测与识别,最终生成模型大小仅约4Mbyte。
2)预训练模型构建
①预训练模型结构
预训练模型网络架构为经典的二分类卷积神经网络。输入图像经一系列卷积层,浅层卷积使用5×5大小的滤波器,深层使用3×3大小的滤波器,深层卷积跨度固定为1像素,边界填充1像素以保持卷积后特征映射的分辨率。网络使用3个最大值池化层进行空间池化。卷积层最后连接了两个全链接层,第一个全链接有256个通道,第二个全链接层有2个通道,对应预训练网络的最终分类:撞击坑目标或非撞击坑目标。最后一层为soft‐max层,将输出结果表示为撞击坑目标与非撞击坑目标间的概率分布。预训练网络的结构如图2所示。
②预训练模型的训练
本发明根据欧洲宇航局火星快车号探测卫星采集的高分辨率全色图像及Robbins撞击坑数据库,人工选择了1600个不同尺度及不同光照条件下的撞击坑目标作为初始正样本集。然后通过随机旋转,随机移动,随机缩放处理对样本进行数据增强,以提高样本的多样性。最终,得到包含8000个样例的正样本集。同时,在选定场景中随机选择8000个具有其他地形特征的图像区域作为负样本(如平原、峡谷、河床等)。从这16000个样本中随机选择70%样本作为训练样本,30%作为测试样本,其中正负样本比例为1:1。
样本在输送至网络训练前,先将样本图像进行尺度变换为固定大小125×125像素。预训练网络利用批动量梯度下降法进行训练。批大小设置为128,动量系数0.9。训练过程中利用权重衰减和dropout对网络进行正则化,L2惩罚系数设为0.0005,dropout比率为0.5。。网络权值使用“xavier”方法进行初始化,偏置初始化为常数0.1。网络以基础学习率0.01开始进行40轮训练,每500次迭代学习率以衰减率0.5逐步降低。
3)撞击坑检测通道构建
本发明通过以下三个方面构建高效的撞击坑检测通道:检测通道结构,候选框优化选择策略,以及3步式交互训练方法。
①撞击坑检测通道网络结构
CraterIDNet在卷积层conv4和conv7之后分别连接两个撞击坑检测通道,两个检测通道共享网络低层卷积层。候选框捷联卷积层(conv4_1,conv7_1)的卷积模板尺寸为3×3像素,滑动卷积模板过程中,在特征映射对应的每个位置上生成n个候选框。候选框捷联卷积层的输出特征映射进而作为1×1分类卷积层(conv4_2,conv7_2)和回归卷积层(conv4_3,conv7_3)的输入。每个候选框在分类卷积层上对应2个输出,即属于撞击坑和背景的概率,在回归卷积层上对应3个输出,分别为预测的撞击坑质心相对于候选框中心的水平方向偏移,垂直方向偏移,以及预测的撞击坑直径相对于候选框框宽度的比例系数。卷积层conv4和conv7的输出特征映射感受野分别为37像素和101像素,本发明利用连接在卷积层conv4的检测通道实现小尺度撞击坑的检测,利用连接在卷积层conv7的检测通道实现大尺度撞击坑的检测。这种在不同分辨率特征映射上检测对应的不同尺度范围目标的多尺度检测结构可以有效的解决多尺度撞击坑目标的检测问题。最终在目标层上对前层输出的分类及回归参数进行整合。对于输入撞击坑目标概率大于一定阈值的候选框,判定为候选撞击坑目标,计算回归后在原图分辨率上的位置及直径。最终,经过极大值抑制后输出检测到的撞击坑目标位置及直径。
②候选框优化选择策略
由于撞击坑目标近似于圆形,本发明选择方形候选框作为默认候选框比例。候选框与撞击坑标注框尺度应该满足的关系以及网络的极限撞击坑检测尺度可表示为:
其中Sg表示正方形撞击坑标注框的边长,Sa表示正方形候选框边长,TIou表示候选框被标记为正样本的重叠度阈值,d表示特征映射上相邻两特征点所对应的候选框在原图上的间隔步长。设优化后的最小尺度候选框边长为Sa1,则Sa1应满足Sgmin表示样本集最小撞击坑尺寸。由于不存在小于Sgmin的目标,因此Sa1倾向于选取此范围内的较大值。设:
则该尺度候选框可以检测的目标尺度范围为[(1‐λ)Sgmin,(1‐λ)Sgmin/TIou]。为保证候选框对数据集中各尺度目标检测的有效性,设λ为相邻两尺度候选框可检测撞击坑尺度范围的重叠率,由此可得,第n个候选框对应的可检测目标范围为:
Sgn上界必须大于最大目标标注框尺寸,由此可得选取候选框的尺度种类数量n应满足的条件为:
取则候选框优化尺度可表示为:
本发明根据训练集目标特性最终得到最优候选框尺度分别为15,27,49,89,143,255像素。尺度为15和27的候选框与小尺度撞击坑检测通道关联,尺度为49,89,143和255的候选框与大尺度撞击坑检测通道关联。
考虑到撞击坑数据集尺度分布的严重不一致性,为了保证各尺度的候选框获得近似等概率的训练机会,本发明提出候选框密度调整机制,基于平均有效候选框数量,训练集场景中平均目标数量以及密度调节因子三个参量,提出了候选框密度调节的优化方程,达到平衡训练场景内各尺度候选框数量的目的,使得网络对各尺度撞击坑目标获得一致性的训练效果。
如图3所示,Bg表示撞击坑边界框,Ba表示候选框,Sg与Sa分别表示Bg与Ba的尺度大小。设(xa,ya)表示Ba的中心坐标,Bg中心位于坐标原点。当候选框原点位于蓝色有效区域内时,当前候选框记为可以被标记为正样本的有效候选框,即满足:
Iou(Bg,Ba)≥TIou (7)
定义不考虑跨越图像边界影响时,满足式(7)的候选框数量为候选框的有效数量。本发明中将Sg=Sa时对应的候选框有效数量近似为该尺度候选框可探测尺度范围内目标的平均有效候选框数量,记为根据重叠度的定义,满足式(7)时,候选框中心坐标应满足判别式:
将平均候选框有效数量近似为有效区域面积与候选框间隔平方之比,即:
其中da表示候选框在原图分辨率上的跨度间隔。则由式(8)和式(9)可得:
定义训练集场景内的某尺度候选框的总平均有效候选框数量为:
其中表示统计得到的训练集中尺度满足的撞击坑目标的平均数量。候选框密度调整的目的就是平衡各尺度候选框的总平均有效候选框数量,使他们获得近似概率的训练机会。因此,本发明提出候选框密度调整的目标是最小化如下的平方损失函数:
其中τi表示对应尺度候选框的密度调节因子,取值为整数,n为候选框尺度种类数量。进一步考虑网络生成的候选框不宜过多或过少,过多则会大幅增加训练时间,过少则将导致训练不充分。因此引入基于总有效候选框数量的惩罚项,得到最终优化目标函数为:
其中Nbatch为训练中每个批次的候选框数量,ω为惩罚系数,本发明中取ω=0.02。通过引入惩罚项,在保证经验损失最小的同时,也保证了结构风险最小。训练过程中,每次迭代会随机选取总计Nbatch个候选框进行训练,其中包含一半正样本和一半负样本。为了在保证网络生成足够的训练候选框的同时,也为训练过程留出了随机选择的余地,取Nbatch的值作为网络生成的理想总有效候选框数量。根据式(13),求得优化的密度调节因子,当τi>0时,增加对应候选框的生成数量为原来的倍,当τi<0时,减少对应候选框的生成数量为原来的倍,当τi=0时,维持原候选框数量不变。候选框密度调整后的结果如图4所示。图4(a)表示τi=‐1时,候选框密度减半,图4(b)表示τi=0时,候选框密度不变,da表示候选框间隔,图4(c)表示τi=1时,候选框密度增加一倍。
③3步式交互训练法
撞击坑检测通道利用动量随机梯度下降法进行端到端的训练。每次迭代随机选取图像中Nbatch=256个候选框来计算一个批次的损失函数,其中正样本和负样本比例为1:1。如果正样本不足128个,则用负样本补齐。由于两个撞击坑检测通道共享卷积层conv1~conv4,因此需要一种允许两个检测通道共享卷积层的训练方法,而不是训练两个独立的检测通道。本发明提出3步式交互训练法,具体步骤如下:
(1)以预训练模型为初值,对撞击坑检测通道的网络参数进行初始化,新添加的卷积层使用“xavier”方法进行初始化,偏置初始化为常数0。网络利用撞击坑检测通道2的训练集,以基础学习率0.005,动量系数0.9,权重衰减系数0.0005的参数设置进行微调。其中撞击坑检测通道1独有卷积层(conv4_1~conv4_3)的学习率设为0,不进行训练。进行50轮训练,每10000次迭代学习率以衰减率0.8逐步降低。
(2)第二步网络以第一步训练的模型为初值,固定卷积层conv5~conv7及撞击坑检测通道2独有的卷积层(conv7_1~conv7_3),利用撞击坑检测通道1训练集对网络进行微调。设置基础学习率0.001,动量系数0.9,权重衰减系数0.0005。网络进行30轮训练,每20000次迭代学习率以衰减率0.6逐步降低。
(3)第三步固定共享卷积层conv1~conv4及撞击坑检测通道1独有卷积层,利用撞击坑检测通道2训练集对上一步训练好的模型进行微调。设置基础学习率0.0002,动量系数0.9,权重衰减系数0.0005。网络进行30轮训练,每15000次迭代学习率以衰减率0.8逐步降低。
经过以上3步交互式训练后CraterIDNet的两个撞击坑检测通道实现共享卷积层。
4)撞击坑识别通道构建
本发明通过以下两个方面构建高效的撞击坑识别通道:栅格模式层以及撞击坑识别通道训练方法。
①栅格模式层
栅格模式层输入为撞击坑检测通道检测到的撞击坑特征信息(位置及直径),输出为撞击坑目标对应的具有旋转及尺度不变性的栅格模式图。本发明将撞击坑分布及尺度两种特征信息融合进栅格模式中,并将其图形化。利用后续卷积网络对栅格模式图进行分类,完成识别过程。
栅格模式层工作步骤如下:
(1)首先进行撞击坑尺度筛选。设遥感相机的工作轨道高度为Hmin~Hmax,Href为训练样本所对应的参考轨道高度。可被有效识别的撞击坑尺度应在遥感相机工作的轨道高度范围内均能被撞击坑检测通道检测到,因此选择直径范围满足下式的撞击坑作为候选撞击坑:
其中Dmin表示撞击坑检测通道可检测的撞击坑最小直径,Dmax表示撞击坑检测通道可检测的撞击坑最大直径。
(2)主撞击坑选择。通常视场内需要至少3个撞击坑目标才能解算航天器的相对天体表面的位置关系。本发明中选择最靠近视场中心的10个候选撞击坑目标为主撞击坑,构建其栅格模式图,如果视场内不足10个撞击坑目标,则全部标记为主撞击坑。
(3)尺度标准化。对于每一个主撞击坑,分别计算其到其他候选撞击坑的距离,将其称为主距。然后将主距与所有撞击坑的直径统一至参考尺度。设H为成像时遥感相机所处的轨道高度,则主距和候选撞击坑直径乘以尺度变换因子Href/H。
(4)栅格模式图生成。以主撞击坑为中心,主撞击坑到最近的邻近撞击坑的连线方向为正方向,建立17×17的栅格模式图。每个栅格元边长为Lg。以标准化后的主距判定落入栅格内的邻近撞击坑,当至少一个邻近撞击坑落入栅格元(i,j)中时,该栅格元处于激活状态,输出幅值等于落入此栅格元内的撞击坑标准化直径的累加和,不包含撞击坑的栅格元幅值为0。最后将主撞击坑标准化直径累加进中心栅格元幅值中。
栅格模式图的生成过程如图5所示,深灰色色圆圈表示主撞击坑,浅灰色圆圈表示其他候选撞击坑。图5(b)表示进行尺度标准化,箭头方向表示主撞击坑到最近临近撞击坑的连线方向。图5(c)中以该方向为正方向建立栅格模式,图5(d)给出最终生成的栅格模式图。最终栅格模式层输出栅格模式图融合了撞击坑目标的分布特征和尺度特征,并将两种特征图形化。撞击坑检测通道产生的撞击坑位置检测误差和尺度检测误差转化为图像中的位置噪声和灰度噪声,进而在卷积网络对栅格特征的处理中,增强识别结果对撞击坑位置及尺度误差的鲁棒性。
②撞击坑识别通道训练方法
首先根据式(14),选定数据集中候选撞击坑,然后根据以下步骤构建撞击坑识别通道训练集:
(1)针对每一个撞击坑训练目标,赋予其用于识别的唯一编号。
(2)针对每一个撞击坑训练目标,取栅格元边长Lg=24像素,利用样本集中的邻近撞击坑目标构建2000个栅格模式图。为每个栅格模式图中的撞击坑目标加入均值为0,标准差为2.5像素,服从正态分布的位置噪声及均值为1.5像素,方差1.5像素,服从正态分布的视直径噪声。
(3)从生成的2000个栅格模式图中随机选择400个模式图,随机去掉模式图中的一个邻近撞击坑目标的信息,以模拟撞击坑检测通道未检测到该撞击坑的情况。
(4)随机选取700个和400个栅格模式图分别添加1个和2个假撞击坑目标,以模拟撞击坑检测通道检测到假撞击坑目标的情况。添加的假撞击坑视直径为服从[20,50]像素均匀分布的随机变量,位置在栅格模式图内随机选取。
(5)随机选取8组每组100个栅格模式图,分别对应图7所示的8种情况去除浅灰色区域内的撞击坑目标信息,以模拟主撞击坑靠近视场边界的情况。
(6)在最终生成的栅格模式图样本集,随机选取其中的60%样本生成训练集,剩余样本生成测试集。
撞击坑识别通道利用批动量梯度下降法进行训练。批大小设置为512,动量系数0.9,权重衰减系数为0.0005。卷积层conv8~conv11网络权值使用“xavier”方法进行初始化,偏置初始化为常数0.1。CIP以基础学习率0.01开始进行30轮训练,每10000次迭代学习率以衰减率0.5逐步降低。最终撞击坑识别通道在测试集上的识别准确率达到99.22%,说明撞击坑识别通道识别准确率高,泛化能力强。
以上就是本发明提出的一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法。需要注意的是,以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和范围之内所作的任何修改、等同替换和改进等,均包含在本发明的保护范围之内。
Claims (5)
1.一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法,其特征在于:该方法同步实现天体遥感图像中撞击坑的检测与识别,该方法建立的网络命名为CraterIDNet,建立的网络由两个撞击坑检测通道与一个撞击坑识别通道构成,网络权重参数仅由卷积层构成,无全链接层,其中,
1)建立撞击坑检测通道,用于对图像中撞击坑目标进行检测,输出撞击坑目标质心坐标以及视半径,CraterIDNet中的两个撞击坑通道分别连接在不同分辨率的特征映射上,可同步实现不同尺度撞击坑目标的检测,两个撞击坑通道共享网络的前4层卷积层;
2)建立撞击坑识别通道,用于对撞击坑检测通道输出的撞击坑目标进行识别,撞击坑识别通道首先通过栅格模式层生成撞击坑目标对应的栅格模式图,再通过后续二分类卷积神经网络架构对撞击坑进行识别,网络分类结果对应撞击坑识别结果。
2.根据权利要求1所述的一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法,其特征在于:所述撞击坑检测通道中,一种候选框优化选择策略,其步骤如下:
(1)对候选框尺度进行优化,候选框的检测范围必须涵盖撞击坑目标实例的尺度变化范围,各尺度候选框检测范围以一定的重叠率相互交叠,候选框尺度进行优化的目标是保证在满足上述条件基础上使得候选框的种类数量最少,于是得到优化后的各候选框尺度表示为:
其中TIou表示候选框被标记为正样本的重叠度阈值,Sgmin表示样本集最小撞击坑尺寸,Sgmax表示样本集最大撞击坑尺寸,λ为相邻两尺度候选框可检测撞击坑尺度范围的重叠率;
(2)基于平均有效候选框数量,训练集场景中平均目标数量以及密度调节因子三个参量,对候选框产生密度进行优化,达到平衡训练场景内各尺度候选框数量的目的,按下式计算各尺度候选框的最优密度调整因子:
其中为第i个尺度候选框对应的总平均有效候选框数量,由平均有效候选框数量与训练集场景中平均目标数量的乘积得到,Nbatch为训练中每个批次的候选框数量,ω为惩罚系数;
(3)根据得到的候选框最优密度调整因子,对各尺度候选框进行密度调整,当τi>0时,增加对应候选框的生成数量为原来的倍,当τi<0时,减少对应候选框的生成数量为原来的倍,当τi=0时,维持原候选框数量不变。
3.根据权利要求1所述的一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法,其特征在于:所述撞击坑检测通道中,一种3步式交互训练法,其步骤如下:
(1)以预训练模型为初值,对撞击坑检测通道的网络参数进行初始化,新添加的卷积层使用“xavier”方法进行初始化,利用撞击坑检测通道2的训练集对网络进行微调,其中撞击坑检测通道1独有卷积层(conv4_1~conv4_3)的学习率设为0,不进行训练;
(2)第二步网络以第一步训练的模型为初值,固定卷积层conv5~conv7及撞击坑检测通道2独有的卷积层(conv7_1~conv7_3),利用撞击坑检测通道1训练集对网络进行微调;
(3)第三步固定共享卷积层conv1~conv4及撞击坑检测通道1独有卷积层,利用撞击坑检测通道2训练集对上一步训练好的模型进行微调;
经过以上3步交互式训练后CraterIDNet的两个撞击坑检测通道实现共享卷积层。
4.根据权利要求1所述的一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法,其特征在于:所述撞击坑识别通道中,栅格模式层工作步骤如下:
(1)首先进行撞击坑尺度筛选,设遥感相机的工作轨道高度为Hmin~Hmax,Href为训练样本所对应的参考轨道高度,可被有效识别的撞击坑尺度应在遥感相机工作的轨道高度范围内均能被撞击坑检测通道检测到,因此选择直径范围满足下式的撞击坑作为候选撞击坑:
其中Dmin表示撞击坑检测通道可检测的撞击坑最小直径,Dmax表示撞击坑检测通道可检测的撞击坑最大直径;
(2)主撞击坑选择,通常视场内需要至少3个撞击坑目标才能解算航天器的相对天体表面的位置关系,选择最靠近视场中心的10个候选撞击坑目标为主撞击坑,构建其栅格模式图,如果视场内不足10个撞击坑目标,则全部标记为主撞击坑;
(3)尺度标准化,对于每一个主撞击坑,分别计算其到其他候选撞击坑的距离,将其称为主距,然后将主距与所有撞击坑的直径统一至参考尺度,设H为成像时遥感相机所处的轨道高度,则主距和候选撞击坑直径乘以尺度变换因子Href/H;
(4)栅格模式图生成,以主撞击坑为中心,主撞击坑到最近的邻近撞击坑的连线方向为正方向,建立17×17的栅格模式图,每个栅格元边长为Lg,以标准化后的主距判定落入栅格内的邻近撞击坑,当至少一个邻近撞击坑落入栅格元(i,j)中时,该栅格元处于激活状态,输出幅值等于落入此栅格元内的撞击坑标准化直径的累加和,不包含撞击坑的栅格元幅值为0,最后将主撞击坑标准化直径累加进中心栅格元幅值中。
5.根据权利要求4所述的一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法,其特征在于:所述撞击坑识别通道中,撞击坑识别训练集构建步骤如下:
(1)首先根据式(3),选定数据集中候选撞击坑,针对每一个撞击坑训练目标,赋予其用于识别的唯一编号;
(2)针对每一个撞击坑训练目标,取栅格元边长Lg=24像素,利用样本集中的邻近撞击坑目标构建2000个栅格模式图,为每个栅格模式图中的撞击坑目标加入均值为0,标准差为2.5像素,服从正态分布的位置噪声及均值为1.5像素,方差1.5像素,服从正态分布的视直径噪声;
(3)从生成的2000个栅格模式图中随机选择400个模式图,随机去掉模式图中的一个邻近撞击坑目标的信息,以模拟撞击坑检测通道未检测到该撞击坑的情况;
(4)随机选取700个和400个栅格模式图分别添加1个和2个假撞击坑目标,以模拟撞击坑检测通道检测到假撞击坑目标的情况,添加的假撞击坑视直径为服从[20,50]像素均匀分布的随机变量,位置在栅格模式图内随机选取;
(5)随机选取8组每组100个栅格模式图,分别对应图7所示的8种情况去除浅灰色区域内的撞击坑目标信息,以模拟主撞击坑靠近视场边界的情况;
(6)在最终生成的栅格模式图样本集,随机选取其中的60%样本生成训练集,剩余样本生成测试集。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810499889.0A CN108734219B (zh) | 2018-05-23 | 2018-05-23 | 一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810499889.0A CN108734219B (zh) | 2018-05-23 | 2018-05-23 | 一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108734219A true CN108734219A (zh) | 2018-11-02 |
CN108734219B CN108734219B (zh) | 2022-02-01 |
Family
ID=63935222
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810499889.0A Active CN108734219B (zh) | 2018-05-23 | 2018-05-23 | 一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108734219B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110334645A (zh) * | 2019-07-02 | 2019-10-15 | 华东交通大学 | 一种基于深度学习的月球撞击坑识别方法 |
CN110399884A (zh) * | 2019-07-10 | 2019-11-01 | 浙江理工大学 | 一种特征融合自适应锚框模型车辆检测方法 |
CN110796048A (zh) * | 2019-10-18 | 2020-02-14 | 武汉大学 | 一种基于深度神经网络的船舰目标实时检测方法 |
CN111046756A (zh) * | 2019-11-27 | 2020-04-21 | 武汉大学 | 高分辨率遥感影像目标尺度特征的卷积神经网络检测方法 |
CN112836571A (zh) * | 2020-12-18 | 2021-05-25 | 华中科技大学 | 遥感sar图像中的舰船目标检测识别方法、***及终端 |
CN113076962A (zh) * | 2021-05-14 | 2021-07-06 | 电子科技大学 | 一种基于可微神经网络搜索技术的多尺度目标检测方法 |
CN113537098A (zh) * | 2021-07-21 | 2021-10-22 | 北京航空航天大学 | 一种着陆图像中撞击坑的检测和识别方法 |
CN117809190A (zh) * | 2024-02-23 | 2024-04-02 | 吉林大学 | 基于深度学习的撞击坑溅射物识别方法 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102419865A (zh) * | 2011-10-31 | 2012-04-18 | 国家***第二海洋研究所 | 一种图像对象层次的变化检测方法 |
CN102567701A (zh) * | 2010-12-08 | 2012-07-11 | 中国科学院地理科学与资源研究所 | 一种利用霍夫变换在嫦娥dem数据上自动提取环形撞击坑的方法 |
CN102999915A (zh) * | 2012-12-03 | 2013-03-27 | 哈尔滨工业大学 | 一种基于面积比的陨石坑匹配方法 |
CN103093463A (zh) * | 2013-01-15 | 2013-05-08 | 南京航空航天大学 | 一种基于灰度图像的陨石坑检测方法 |
CN103514448A (zh) * | 2013-10-24 | 2014-01-15 | 北京国基科技股份有限公司 | 船形识别方法和*** |
CN103927543A (zh) * | 2014-04-24 | 2014-07-16 | 山东大学(威海) | 一种基于dem的月表撞击坑自动识别和边界提取方法 |
CN104700115A (zh) * | 2014-07-30 | 2015-06-10 | 北京航空航天大学 | 基于稀疏提升集成分类器的火星探测器软着陆过程中陨石坑的检测方法 |
AU2017100063A4 (en) * | 2016-12-01 | 2017-02-23 | Macau University Of Science And Technology | Omnidirectional Roughness Algorithm for Topographic Signature Analysis of Lunar Craters |
US20170235996A1 (en) * | 2015-07-28 | 2017-08-17 | Chiman KWAN | Method and system for collaborative multi-satellite remote sensing |
CN107665498A (zh) * | 2017-08-29 | 2018-02-06 | 北京航空航天大学 | 基于典型示例挖掘的全卷积网络飞机检测方法 |
CN107729801A (zh) * | 2017-07-11 | 2018-02-23 | 银江股份有限公司 | 一种基于多任务深度卷积神经网络的车辆颜色识别*** |
CN107871126A (zh) * | 2017-11-22 | 2018-04-03 | 西安翔迅科技有限责任公司 | 基于深层神经网络的车型识别方法和*** |
CN107871119A (zh) * | 2017-11-01 | 2018-04-03 | 西安电子科技大学 | 一种基于目标空间知识和两阶段预测学习的目标检测方法 |
CN107895369A (zh) * | 2017-11-28 | 2018-04-10 | 腾讯科技(深圳)有限公司 | 图像分类方法、装置、存储介质及设备 |
-
2018
- 2018-05-23 CN CN201810499889.0A patent/CN108734219B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102567701A (zh) * | 2010-12-08 | 2012-07-11 | 中国科学院地理科学与资源研究所 | 一种利用霍夫变换在嫦娥dem数据上自动提取环形撞击坑的方法 |
CN102419865A (zh) * | 2011-10-31 | 2012-04-18 | 国家***第二海洋研究所 | 一种图像对象层次的变化检测方法 |
CN102999915A (zh) * | 2012-12-03 | 2013-03-27 | 哈尔滨工业大学 | 一种基于面积比的陨石坑匹配方法 |
CN103093463A (zh) * | 2013-01-15 | 2013-05-08 | 南京航空航天大学 | 一种基于灰度图像的陨石坑检测方法 |
CN103514448A (zh) * | 2013-10-24 | 2014-01-15 | 北京国基科技股份有限公司 | 船形识别方法和*** |
CN103927543A (zh) * | 2014-04-24 | 2014-07-16 | 山东大学(威海) | 一种基于dem的月表撞击坑自动识别和边界提取方法 |
CN104700115A (zh) * | 2014-07-30 | 2015-06-10 | 北京航空航天大学 | 基于稀疏提升集成分类器的火星探测器软着陆过程中陨石坑的检测方法 |
US20170235996A1 (en) * | 2015-07-28 | 2017-08-17 | Chiman KWAN | Method and system for collaborative multi-satellite remote sensing |
AU2017100063A4 (en) * | 2016-12-01 | 2017-02-23 | Macau University Of Science And Technology | Omnidirectional Roughness Algorithm for Topographic Signature Analysis of Lunar Craters |
CN107729801A (zh) * | 2017-07-11 | 2018-02-23 | 银江股份有限公司 | 一种基于多任务深度卷积神经网络的车辆颜色识别*** |
CN107665498A (zh) * | 2017-08-29 | 2018-02-06 | 北京航空航天大学 | 基于典型示例挖掘的全卷积网络飞机检测方法 |
CN107871119A (zh) * | 2017-11-01 | 2018-04-03 | 西安电子科技大学 | 一种基于目标空间知识和两阶段预测学习的目标检测方法 |
CN107871126A (zh) * | 2017-11-22 | 2018-04-03 | 西安翔迅科技有限责任公司 | 基于深层神经网络的车型识别方法和*** |
CN107895369A (zh) * | 2017-11-28 | 2018-04-10 | 腾讯科技(深圳)有限公司 | 图像分类方法、装置、存储介质及设备 |
Non-Patent Citations (5)
Title |
---|
LOURENÇO BANDEIRA等: "Impact Crater Recognition on Mars Based on a Probability Volume Created by Template Matching", 《IEEE TRANSACTIONS ON GEOSCIENCE AND REMOTE SENSING》 * |
S. VIJAYAN等: "Crater detection, classification and contextual information extraction in lunar images using a novel algorithm", 《ICARUS》 * |
XIAOZHI CHEN等: "Multi-View 3D Object Detection Network for Autonomous Driving", 《2017 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION(CVPR)》 * |
张雯: "月球撞击坑的自动识别与空间分异研究", 《中国优秀硕士学位论文全文数据库 基础科学辑》 * |
王兴坤: "基于嫦娥卫星探月数据的撞击坑自动提取与分析", 《中国优秀硕士学位论文全文数据库 基础科学辑》 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110334645A (zh) * | 2019-07-02 | 2019-10-15 | 华东交通大学 | 一种基于深度学习的月球撞击坑识别方法 |
CN110399884A (zh) * | 2019-07-10 | 2019-11-01 | 浙江理工大学 | 一种特征融合自适应锚框模型车辆检测方法 |
CN110399884B (zh) * | 2019-07-10 | 2021-08-20 | 浙江理工大学 | 一种特征融合自适应锚框模型车辆检测方法 |
CN110796048A (zh) * | 2019-10-18 | 2020-02-14 | 武汉大学 | 一种基于深度神经网络的船舰目标实时检测方法 |
CN110796048B (zh) * | 2019-10-18 | 2022-11-04 | 武汉大学 | 一种基于深度神经网络的船舰目标实时检测方法 |
CN111046756A (zh) * | 2019-11-27 | 2020-04-21 | 武汉大学 | 高分辨率遥感影像目标尺度特征的卷积神经网络检测方法 |
CN112836571A (zh) * | 2020-12-18 | 2021-05-25 | 华中科技大学 | 遥感sar图像中的舰船目标检测识别方法、***及终端 |
CN113076962A (zh) * | 2021-05-14 | 2021-07-06 | 电子科技大学 | 一种基于可微神经网络搜索技术的多尺度目标检测方法 |
CN113537098A (zh) * | 2021-07-21 | 2021-10-22 | 北京航空航天大学 | 一种着陆图像中撞击坑的检测和识别方法 |
CN113537098B (zh) * | 2021-07-21 | 2024-06-21 | 北京航空航天大学 | 一种着陆图像中撞击坑的检测和识别方法 |
CN117809190A (zh) * | 2024-02-23 | 2024-04-02 | 吉林大学 | 基于深度学习的撞击坑溅射物识别方法 |
CN117809190B (zh) * | 2024-02-23 | 2024-05-24 | 吉林大学 | 基于深度学习的撞击坑溅射物识别方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108734219B (zh) | 2022-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108734219A (zh) | 一种基于全卷积神经网络结构的端到端撞击坑检测与识别方法 | |
CN108710875B (zh) | 一种基于深度学习的航拍公路车辆计数方法及装置 | |
CN108596101A (zh) | 一种基于卷积神经网络的遥感图像多目标检测方法 | |
Chauhan et al. | Landslide susceptibility zonation through ratings derived from artificial neural network | |
CN104392228B (zh) | 基于条件随机场模型的无人机图像目标类检测方法 | |
CN110032949A (zh) | 一种基于轻量化卷积神经网络的目标检测与定位方法 | |
CN110163187A (zh) | 基于f-rcnn的远距离交通标志检测识别方法 | |
CN107730881A (zh) | 基于深度卷积神经网络的交通拥堵视觉检测*** | |
CN107871126A (zh) | 基于深层神经网络的车型识别方法和*** | |
CN108460382A (zh) | 基于深度学习单步检测器的光学遥感图像舰船检测方法 | |
CN106841216A (zh) | 基于全景图像cnn的隧道病害自动识别装置 | |
CN107229929A (zh) | 一种基于r‑cnn的车牌定位方法 | |
CN106780546B (zh) | 基于卷积神经网络的运动模糊编码点的身份识别方法 | |
CN105427309A (zh) | 面向对象高空间分辨率遥感信息提取的多尺度分层处理方法 | |
CN105421200B (zh) | 一种基于振动检测的平整度检测方法与检测装置 | |
CN104102928B (zh) | 一种基于纹理基元的遥感图像分类方法 | |
CN107392929A (zh) | 一种基于人眼视觉模型的智能化目标检测及尺寸测量方法 | |
CN109978032A (zh) | 基于空间金字塔空洞卷积网络的桥梁裂缝检测方法 | |
CN107967474A (zh) | 一种基于卷积神经网络的海面目标显著性检测方法 | |
CN105096300A (zh) | 对象检测方法和设备 | |
CN104680151B (zh) | 一种顾及雪覆盖影响的高分辨全色遥感影像变化检测方法 | |
Vamshi et al. | An object-based classification method for automatic detection of lunar impact craters from topographic data | |
CN107341800A (zh) | 基于超像素显著性分析的sar图像变化检测方法 | |
CN107397658A (zh) | 一种多尺度全卷积网络及视觉导盲方法和装置 | |
CN108573277A (zh) | 一种受电弓碳滑板表面病害自动识别***及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |