CN104992139A - 一种基于运动矢量与圆形度匹配的落石检测方法 - Google Patents
一种基于运动矢量与圆形度匹配的落石检测方法 Download PDFInfo
- Publication number
- CN104992139A CN104992139A CN201510195307.6A CN201510195307A CN104992139A CN 104992139 A CN104992139 A CN 104992139A CN 201510195307 A CN201510195307 A CN 201510195307A CN 104992139 A CN104992139 A CN 104992139A
- Authority
- CN
- China
- Prior art keywords
- target
- falling rocks
- potential falling
- circularity
- sigma
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Analysis (AREA)
Abstract
本发明公开了一种落石检测方法,包括采集若干帧背景图像序列,构建背景模型图像;将进行滤波处理后的落石图像的每个像素点与背景模型图像中的像素点进行比较,确定出差值并对差值的绝对值进行二值化处理;对二值化后的图像进行区域标记,分割出潜在落石目标,记录每个目标的质心位置,根据每个质心位置,判断每两个目标是否为同一目标;若是则存储记录目标的位置链,并根据该位置链确定目标的方向系数;根据目标的方向系数,判断目标是否为干扰目标;若是则排除;计算排除后所剩下的目标的圆形度,并与预定的阈值进行比较,若目标的圆形度大于阈值,则判断该目标为干扰目标,并排除;对排除后所剩下的目标,判定为落石目标。
Description
技术领域
本发明涉及数字图像处理技术领域,具体来说,涉及一种基于运动矢量与圆形度匹配的落石检测方法。
背景技术
中国是一个多山的国家,是世界上山体滑坡较多的国家之一,而随着自然环境的不断恶化和人为工程建设的越来越多,山体滑坡数目每年都在增多,强度都在增大,每年由山体滑坡带来的损失超过4亿美元。山体滑坡带来巨大的财产损失、人员伤亡,早期预警***的建立非常必要。
目前,山体滑坡预警***都采用监测仪器进行监测,传统的用于山体滑坡监测的方法大概有如下几种:常规大地测量法;液体静力水准测量、重力测量法;地下水位监测法;电测法、地下钻孔倾斜等。尽管这些方法都在山体滑坡预警方面起到了积极作用,但它们具有一些弊端,如受地形影响,不能连续观测,自动化程度不高,人力投入过大,数据不能实时处理。
针对相关技术中的问题,目前尚未提出有效的解决方案。
发明内容
针对相关技术中的问题,本发明提出一种基于运动矢量与圆形度匹配的落石检测方法,其基于山体滑坡前会出现落石的征兆,采用高清视频设备对山体进行监控,采用图像处理技术对落石进行识别,并实时给出预警信息。算法简单高效,适用于野外实时监控环境。
本发明的技术方案是这样实现的:
一种基于运动矢量与圆形度匹配的落石检测方法,包括以下步骤:
通过预先配置的视频设备,采集若干帧背景图像序列,并根据所采集的背景图像序列,确定背景模型图像;
对预先采集的落石图像进行滤波处理,并将滤波处理后的图像的每个像素点与所述背景模型图像中对应的像素点进行比较,确定出差值,并对差值的绝对值进行二值化处理;
对二值化后的图像进行区域标记,分割出潜在落石目标,记录每个潜在落石目标的质心位置,并根据每个潜在落石目标的质心位置,判断每两个潜在落石目标是否为同一目标;
在判断结果为两个潜在落石目标为同一目标的情况下,存储记录潜在落石目标的位置链,并根据该位置链,确定潜在落石目标的方向系数;
根据潜在落石目标的方向系数,对潜在落石目标进行判断,判断对应的潜在落石目标是否为干扰目标;并在判断结果为对应的潜在落石目标为干扰目标的情况下,对其进行排除;
对排除后所剩下的潜在落石目标进行圆形度计算,并将计算结果与预先设定的圆形度阈值进行比较,在比较结果为对应潜在落石目标的圆形度大于所述圆形度阈值的情况下,判断该潜在落石目标为干扰目标,并对其进行排除;
对排除后所剩下的潜在落石目标,判定为落石目标。
进一步的,在根据所采集的背景图像序列,确定背景模型图像时,通过以下公式确定背景模型图像:
其中,Bk(i,j)为背景模型图像,N为背景图像序列帧数,fk(i,j)为第k帧图像,i和j分别代表图像的行和列。
进一步的,所述二值化处理的公式如下:
其中,fL(i,j)为滤波处理后的图像,Bk(i,j)为背景模型图像,fB(i,j)为二值化处理结果;T为二值化阈值。
进一步的,根据每个潜在落石目标的质心位置,判断每两个潜在落石目标是否为同一目标包括:
以每个潜在落石目标的质心位置为圆心,以预先设定的半径阈值为半 径,开目标相关窗,其中,若所述相关窗内存在上一帧的某个质心,则认为两个潜在落石目标为同一目标。
进一步的,根据潜在落石目标的位置链,确定潜在落石目标的方向系数包括:
对所述位置链中的位置点进行最小二乘线性拟合,并根据拟合结果系数,确定潜在落石目标的方向系数,
其中,最小二乘线性拟合的公式为:
其中,xk和yk(k=1,2,3,4,5,6)为存储的潜在落石目标的位置链中的横坐标和纵坐标,a和b为线性拟合系数,并且,|a|<Tv,其中,Tv为运动方向倾斜阈值。
进一步的,在根据潜在落石目标的方向系数,对潜在落石目标进行判断,判断对应的潜在落石目标是否为干扰目标时,通过以下公式来判断对应的潜在落石目标是否为干扰目标:
其中,Ck为中间变量值,yk(k=1,2,3,4,5)为存储的潜在落石目标的位置链中的纵坐标;并且,若潜在落石目标不满足上述公式的情况下,判定为干扰目标。
进一步的,对排除后所剩下的潜在落石目标进行圆形度计算时,通过以下公式计算潜在落石目标进行圆形度:
其中,L为每个潜在落石目标的轮廓线长度,A为单个潜在落石目标的面积A,e为潜在落石目标的圆形度。
本发明的有益效果:本发明引入了数字图像处理技术,基于运动目标速度矢量与圆形度匹配相结合的方法对山体落石目标进行识别定位,算法简单高效,较传统仪器监测方法具有无接触测量、不间断数据实时处理等优势。
具体实施方式
下面将对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员所获得的所有其他实施例,都属于本发明保护的范围。
根据本发明的实施例,提供了一种基于运动矢量与圆形度匹配的落石检测方法,包括以下步骤:
通过预先配置的视频设备,采集若干帧背景图像序列,并根据所采集的背景图像序列,确定背景模型图像;
对预先采集的落石图像进行滤波处理,并将滤波处理后的图像的每个像素点与所述背景模型图像中对应的像素点进行比较,确定出差值,并对差值的绝对值进行二值化处理;
对二值化后的图像进行区域标记,分割出潜在落石目标,记录每个潜在落石目标的质心位置,并根据每个潜在落石目标的质心位置,判断每两个潜在落石目标是否为同一目标;
在判断结果为两个潜在落石目标为同一目标的情况下,存储记录潜在落石目标的位置链,并根据该位置链,确定潜在落石目标的方向系数;
根据潜在落石目标的方向系数,对潜在落石目标进行判断,判断对应的潜在落石目标是否为干扰目标;并在判断结果为对应的潜在落石目标为干扰目标的情况下,对其进行排除;
对排除后所剩下的潜在落石目标进行圆形度计算,并将计算结果与预先设定的圆形度阈值进行比较,在比较结果为对应潜在落石目标的圆形度大于所述圆形度阈值的情况下,判断该潜在落石目标为干扰目标,并对其进行排除;
对排除后所剩下的潜在落石目标,判定为落石目标。
进一步的,在根据所采集的背景图像序列,确定背景模型图像时,通过以下公式确定背景模型图像:
其中,Bk(i,j)为背景模型图像,N为背景图像序列帧数,fk(i,j)为第k帧 图像,i和j分别代表图像的行和列。
进一步的,所述二值化处理的公式如下:
其中,fL(i,j)为滤波处理后的图像,Bk(i,j)为背景模型图像,fB(i,j)为二值化处理结果;T为二值化阈值。
进一步的,根据每个潜在落石目标的质心位置,判断每两个潜在落石目标是否为同一目标包括:
以每个潜在落石目标的质心位置为圆心,以预先设定的半径阈值为半径,开目标相关窗,其中,若所述相关窗内存在上一帧的某个质心,则认为两个潜在落石目标为同一目标。
进一步的,根据潜在落石目标的位置链,确定潜在落石目标的方向系数包括:
对所述位置链中的位置点进行最小二乘线性拟合,并根据拟合结果系数,确定潜在落石目标的方向系数,
其中,最小二乘线性拟合的公式为:
其中,xk和yk(k=1,2,3,4,5,6)为存储的潜在落石目标的位置链中的横坐标和纵坐标,a和b为线性拟合系数,并且,|a|<Tv,其中,Tv为运动方向倾斜阈值。
进一步的,在根据潜在落石目标的方向系数,对潜在落石目标进行判断,判断对应的潜在落石目标是否为干扰目标时,通过以下公式来判断对应的潜在落石目标是否为干扰目标:
其中,Ck为中间变量值,yk(k=1,2,3,4,5)为存储的潜在落石目标的位置链中的纵坐标;并且,若潜在落石目标不满足上述公式的情况下,判定为干扰目标。
进一步的,对排除后所剩下的潜在落石目标进行圆形度计算时,通过以下公式计算潜在落石目标进行圆形度:
其中,L为每个潜在落石目标的轮廓线长度,A为单个潜在落石目标的面积A,e为潜在落石目标的圆形度。
为了方便理解本发明的上述技术方案,以下通过具体使用步骤对本发明的上述技术方案进行详细描述。
第一步 建立背景模型
图像处理模块控制视频设备采集建立背景模型所需的100帧背景图像序列,此背景图像不包含运动区域,利用100帧背景图像的均值作为背景模型图像,
式中,Bk(i,j)为重建的背景模型图像,fk(i,j)为第k帧图像,i和j分别代表图像的行和列,背景模型中每个像素点的值为该像素点100帧图像灰度的累加平均。
第二步 图像预处理
对预处理的图像首先采用5×5模板中值滤波,滤波后的图像为fL(i,j),将其每个像素点与背景模型图像Bk(i,j)对应的像素点做差值,取绝对值,并将差值二值化,二值化的结果为fB(i,j),具体公式为:
式中,T为二值化阈值,设定为30。
第三步计算运动目标的速度矢量
首先对二值化后的图像进行区域标记,分割出潜在目标。记录每个潜在目标的质心位置,并以每个质心位置为圆心,以R=7(取值根据落石速度范围、落石大小等实际情况定)为半径开目标相关窗,如果相关窗内存在上一帧的某个质心,则认为两个潜在目标为同一个目标。以此方法存储记录每个目标的位置链,链内存储6帧位置点,当记录数目满足6帧后,则对 这些位置点进行最小二乘线性拟合,依据拟合结果系数,便可以得到落石目标的方向系数。拟合公式如下,
式中,xk和yk(k=1,2,3,4,5,6)为存储的目标位置点链中的横坐标和纵坐标,a和b为线性拟合系数,Σ为求和操作符号。a系数表征了其运动方向范围,其绝对值需满足如下条件
|a|<Tv
Tv表示运动方向倾斜阈值,设置为1。
另外还需判别运动目标的上下运动方向,判别规则为:目标链中相邻位置点后点的纵坐标值大于前点纵坐标值的数目不小于3个,用公式表示如下,
式中,Ck为中间变量值,yk(k=1,2,3,4,5)表示目标链存储位置点的纵坐标。
如果潜在目标不满足上述两个条件,则判别其为干扰,将其排除掉。
第四步计算运动目标圆形度
对上步排除剩下的目标进行圆形度的计算,计算方法如下
首先对每个目标采用边界追踪法提取其轮廓线,轮廓线的长度为目标的周长L,其次对单个目标所有的像素点进行遍历统计,其数目便为目标的面积A,目标的圆形度e则采用如下公式进行计算:
如果潜在目标不满足如下条件,则判别为干扰,并将其排除掉。
e>Te
Te表示圆形度阈值范围,在实际操作中,应对大量落石样本进行圆形度统计,综合制定其阈值Te,这里取值为0.5。
完成上述步骤后,剩余的目标还可以采用面积等特性进行筛选,筛选 后的目标则可以确认为落石目标。
至此,实现了基于运动目标速度矢量与圆形度匹配相结合的落石检测方法。
综上所述,本发明引入了数字图像处理技术,基于运动目标速度矢量与圆形度匹配相结合的方法对山体落石目标进行识别定位,算法简单高效,较传统仪器监测方法具有无接触测量、不间断数据实时处理等优势。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (7)
1.一种基于运动矢量与圆形度匹配的落石检测方法,其特征在于,包括:
通过预先配置的视频设备,采集若干帧背景图像序列,并根据所采集的背景图像序列,确定背景模型图像;
对预先采集的落石图像进行滤波处理,并将滤波处理后的图像的每个像素点与所述背景模型图像中对应的像素点进行比较,确定出差值,并对差值的绝对值进行二值化处理;
对二值化后的图像进行区域标记,分割出潜在落石目标,记录每个潜在落石目标的质心位置,并根据每个潜在落石目标的质心位置,判断每两个潜在落石目标是否为同一目标;
在判断结果为两个潜在落石目标为同一目标的情况下,存储记录潜在落石目标的位置链,并根据该位置链,确定潜在落石目标的方向系数;
根据潜在落石目标的方向系数,对潜在落石目标进行判断,判断对应的潜在落石目标是否为干扰目标;并在判断结果为对应的潜在落石目标为干扰目标的情况下,对其进行排除;
对排除后所剩下的潜在落石目标进行圆形度计算,并将计算结果与预先设定的圆形度阈值进行比较,在比较结果为对应潜在落石目标的圆形度大于所述圆形度阈值的情况下,判断该潜在落石目标为干扰目标,并对其进行排除;
对排除后所剩下的潜在落石目标,判定为落石目标。
2.根据权利要求1所述的基于运动矢量与圆形度匹配的落石检测方法,其特征在于,在根据所采集的背景图像序列,确定背景模型图像时,通过以下公式确定背景模型图像:
其中,Bk(i,j)为背景模型图像,N为背景图像序列帧数,fk(i,j)为第k帧图像,i和j分别代表图像的行和列。
3.根据权利要求1所述的基于运动矢量与圆形度匹配的落石检测方法,其特征在于,所述二值化处理的公式如下:
其中,fL(i,j)为滤波处理后的图像,Bk(i,j)为背景模型图像,fB(i,j)为二值化处理结果;T为二值化阈值。
4.根据权利要求1所述的基于运动矢量与圆形度匹配的落石检测方法,其特征在于,根据每个潜在落石目标的质心位置,判断每两个潜在落石目标是否为同一目标包括:
以每个潜在落石目标的质心位置为圆心,以预先设定的半径阈值为半径,开目标相关窗,其中,若所述相关窗内存在上一帧的某个质心,则认为两个潜在落石目标为同一目标。
5.根据权利要求1所述的基于运动矢量与圆形度匹配的落石检测方法,其特征在于,根据潜在落石目标的位置链,确定潜在落石目标的方向系数包括:
对所述位置链中的位置点进行最小二乘线性拟合,并根据拟合结果系数,确定潜在落石目标的方向系数,
其中,最小二乘线性拟合的公式为:
其中,xk和yk(k=1,2,3,4,5,6)为存储的潜在落石目标的位置链中的横坐标和纵坐标,a和b为线性拟合系数,并且,|a|<Tv,其中,Tv为运动方向倾斜阈值。
6.根据权利要求1所述的基于运动矢量与圆形度匹配的落石检测方法,其特征在于,在根据潜在落石目标的方向系数,对潜在落石目标进行判断,判断对应的潜在落石目标是否为干扰目标时,通过以下公式来判断对应的潜在落石目标是否为干扰目标:
其中,Ck为中间变量值,yk(k=1,2,3,4,5)为存储的潜在落石目标的位置链中的纵坐标;并且,若潜在落石目标不满足上述公式的情况下,判定为干扰目标。
7.根据权利要求1所述的基于运动矢量与圆形度匹配的落石检测方法,其特征在于,对排除后所剩下的潜在落石目标进行圆形度计算时,通过以下公式计算潜在落石目标进行圆形度:
其中,L为每个潜在落石目标的轮廓线长度,A为单个潜在落石目标的面积A,e为潜在落石目标的圆形度。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510195307.6A CN104992139B (zh) | 2015-04-23 | 2015-04-23 | 一种基于运动矢量与圆形度匹配的落石检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510195307.6A CN104992139B (zh) | 2015-04-23 | 2015-04-23 | 一种基于运动矢量与圆形度匹配的落石检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104992139A true CN104992139A (zh) | 2015-10-21 |
CN104992139B CN104992139B (zh) | 2019-04-09 |
Family
ID=54303952
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510195307.6A Active CN104992139B (zh) | 2015-04-23 | 2015-04-23 | 一种基于运动矢量与圆形度匹配的落石检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104992139B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109886219A (zh) * | 2019-02-26 | 2019-06-14 | 中兴飞流信息科技有限公司 | 抛洒物检测方法、装置及计算机可读存储介质 |
CN111626204A (zh) * | 2020-05-27 | 2020-09-04 | 北京伟杰东博信息科技有限公司 | 一种铁路异物入侵监测方法及*** |
CN113344964A (zh) * | 2021-06-23 | 2021-09-03 | 江苏三恒科技股份有限公司 | 一种基于图像处理的矿井机器人落石监测预警方法 |
CN113362390A (zh) * | 2021-06-21 | 2021-09-07 | 武汉理工大学 | 一种基于椭圆检测的快速圆形目标定位视频处理方法 |
CN115641467A (zh) * | 2022-09-30 | 2023-01-24 | 北京霍里思特科技有限公司 | 一种矿石中杂质的识别方法、装置、介质及电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101098465A (zh) * | 2007-07-20 | 2008-01-02 | 哈尔滨工程大学 | 一种视频监控中运动目标检测与跟踪方法 |
US20120148103A1 (en) * | 2009-08-23 | 2012-06-14 | Iad Gesellschaft Fur Informatik, Automatisierung Und Datenverarbeitung Mbh | Method and system for automatic object detection and subsequent object tracking in accordance with the object shape |
CN102663869A (zh) * | 2012-04-23 | 2012-09-12 | 国家消防工程技术研究中心 | 基于视频监控平台的室内火灾检测方法 |
CN103093190A (zh) * | 2012-12-13 | 2013-05-08 | 长安大学 | 一种施工安全监控方法和*** |
CN104050477A (zh) * | 2014-06-27 | 2014-09-17 | 西北工业大学 | 基于道路辅助信息和显著性检测的红外图像车辆检测方法 |
-
2015
- 2015-04-23 CN CN201510195307.6A patent/CN104992139B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101098465A (zh) * | 2007-07-20 | 2008-01-02 | 哈尔滨工程大学 | 一种视频监控中运动目标检测与跟踪方法 |
US20120148103A1 (en) * | 2009-08-23 | 2012-06-14 | Iad Gesellschaft Fur Informatik, Automatisierung Und Datenverarbeitung Mbh | Method and system for automatic object detection and subsequent object tracking in accordance with the object shape |
CN102663869A (zh) * | 2012-04-23 | 2012-09-12 | 国家消防工程技术研究中心 | 基于视频监控平台的室内火灾检测方法 |
CN103093190A (zh) * | 2012-12-13 | 2013-05-08 | 长安大学 | 一种施工安全监控方法和*** |
CN104050477A (zh) * | 2014-06-27 | 2014-09-17 | 西北工业大学 | 基于道路辅助信息和显著性检测的红外图像车辆检测方法 |
Non-Patent Citations (1)
Title |
---|
逯新华 等: "基于动态模板匹配的空中运动目标检测与跟踪控制", 《电子测量与仪器学报》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109886219A (zh) * | 2019-02-26 | 2019-06-14 | 中兴飞流信息科技有限公司 | 抛洒物检测方法、装置及计算机可读存储介质 |
CN111626204A (zh) * | 2020-05-27 | 2020-09-04 | 北京伟杰东博信息科技有限公司 | 一种铁路异物入侵监测方法及*** |
CN113362390A (zh) * | 2021-06-21 | 2021-09-07 | 武汉理工大学 | 一种基于椭圆检测的快速圆形目标定位视频处理方法 |
CN113344964A (zh) * | 2021-06-23 | 2021-09-03 | 江苏三恒科技股份有限公司 | 一种基于图像处理的矿井机器人落石监测预警方法 |
CN113344964B (zh) * | 2021-06-23 | 2024-02-23 | 江苏三恒科技股份有限公司 | 一种基于图像处理的矿井机器人落石监测预警方法 |
CN115641467A (zh) * | 2022-09-30 | 2023-01-24 | 北京霍里思特科技有限公司 | 一种矿石中杂质的识别方法、装置、介质及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN104992139B (zh) | 2019-04-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106910203B (zh) | 一种视频监测中运动目标的快速检测方法 | |
CN111160125B (zh) | 基于铁路监控的铁路异物入侵检测方法 | |
CN106096577B (zh) | 一种摄像头分布地图中的目标追踪方法 | |
CN104992139A (zh) | 一种基于运动矢量与圆形度匹配的落石检测方法 | |
CN104992429A (zh) | 一种基于图像局部增强的山体裂缝检测方法 | |
CN104463903B (zh) | 一种基于目标行为分析的行人图像实时检测方法 | |
CN101339655B (zh) | 基于目标特征和贝叶斯滤波的视觉跟踪方法 | |
CN104978567B (zh) | 基于场景分类的车辆检测方法 | |
CN103810717B (zh) | 一种人体行为检测方法及装置 | |
CN105678811A (zh) | 一种基于运动检测的人体异常行为检测方法 | |
CN108197583A (zh) | 基于图割优化和影像结构特征的建筑物变化检测方法 | |
CN105761261A (zh) | 一种检测摄像头遭人为恶意破坏的方法 | |
CN105404857A (zh) | 一种基于红外的夜间智能车前方行人检测方法 | |
CN106845325B (zh) | 一种信息检测方法及装置 | |
CN104268872A (zh) | 基于一致性的边缘检测方法 | |
CN114049477A (zh) | 一种过鱼鱼道***、鱼类数量和种类的动态识别跟踪方法 | |
CN108009556A (zh) | 一种基于定点图像分析的河道漂浮物检测方法 | |
CN104866827A (zh) | 基于视频监控平台的人员翻越行为的检测方法 | |
CN115035182B (zh) | 一种山区滑坡灾害预警方法及*** | |
CN113240735B (zh) | 一种边坡位移活动性监测方法 | |
CN104463121A (zh) | 人群密度信息获取方法 | |
CN108471497A (zh) | 一种基于云台摄像机的船目标实时检测方法 | |
CN108596032B (zh) | 一种视频中打架行为检测方法、装置、设备及介质 | |
CN103793715A (zh) | 基于场景信息挖掘的井下人员目标跟踪方法 | |
CN103150552A (zh) | 一种基于人头计数的驾驶培训管理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |