CN110443259B - 一种从中等分辨率遥感影像中提取甘蔗的方法 - Google Patents

一种从中等分辨率遥感影像中提取甘蔗的方法 Download PDF

Info

Publication number
CN110443259B
CN110443259B CN201910686410.9A CN201910686410A CN110443259B CN 110443259 B CN110443259 B CN 110443259B CN 201910686410 A CN201910686410 A CN 201910686410A CN 110443259 B CN110443259 B CN 110443259B
Authority
CN
China
Prior art keywords
data set
neural network
identified
convolutional neural
sugarcane
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910686410.9A
Other languages
English (en)
Other versions
CN110443259A (zh
Inventor
王宏基
刘辉
张莉
聂岩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Abdas Space Information Technology Co ltd
Original Assignee
Abdas Space Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Abdas Space Information Technology Co ltd filed Critical Abdas Space Information Technology Co ltd
Priority to CN201910686410.9A priority Critical patent/CN110443259B/zh
Publication of CN110443259A publication Critical patent/CN110443259A/zh
Application granted granted Critical
Publication of CN110443259B publication Critical patent/CN110443259B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种从中等分辨率遥感影像中提取甘蔗的方法,属于遥感监测技术领域,首先获取卫星遥感数据,将所述遥感数据分为训练数据集、测试数据集和待识别数据集;构建卷积神经网络;对所述训练数据集中的甘蔗进行标记,利用标记后的训练数据集对所述卷积神经网络进行训练,得到训练后的卷积神经网络;对所述测试数据集中的甘蔗进行标记,利用标记后的测试数据集对训练后的卷积神经网络进行测试,直到卷积神经网络正确率达到预设值;对待识别数据集进行处理,并将处理后的待识别数据集输入卷积神经网络,输出得到待识别数据集中甘蔗的提取结果;本发明减少提取时间,增加提取精度,降低人力成本,大大提高生产效率。

Description

一种从中等分辨率遥感影像中提取甘蔗的方法
技术领域
本发明涉及遥感影像数据自动化提取技术领域,具体涉及一种从中等分辨率遥感影像中提取甘蔗的方法。
背景技术
目前利用遥感技术提取甘蔗信息,主要采用人工提取的方式,而目前人工提取甘蔗主要运用监督分类、非监督分类或面向对象等常用的分类方法,前期需要人工选择需要提取的样本,然后根据样本,分类出甘蔗,或者用面向对象的方法人工选择特征,根据人工判定特征设定阈值提取甘蔗,采用这种方式,对选择样本的人经验依赖较大,根据经验选择出来的样本好坏,对提取精度影像较大,同时分类消耗时间长,操作不具有泛化能力,每景影像都需要花费大量时间人工选择样本,进行提取。
发明内容
本发明的目的在于:本发明为了解决现有存在的上述技术问题,提供了一种从中等分辨率遥感影像中提取甘蔗的方法。
本发明采用的技术方案如下:
一种从中等分辨率遥感影像中提取甘蔗的方法,包括以下步骤:
步骤1:获取卫星遥感数据,将所述遥感数据分为训练数据集、测试数据集和待识别数据集;
步骤2:构建卷积神经网络;
步骤3:对所述训练数据集中的甘蔗进行标记,利用标记后的训练数据集对所述卷积神经网络进行训练,得到训练后的卷积神经网络;
步骤4:对所述测试数据集中的甘蔗进行标记,利用标记后的测试数据集对训练后的卷积神经网络进行测试,重复步骤3-4,直到卷积神经网络正确率达到预设值;
步骤5:对待识别数据集进行处理,并将处理后的待识别数据集输入卷积神经网络,输出得到待识别数据集中甘蔗的提取结果。
进一步的,所述步骤1中,所述遥感数据由红边波段、红光波段和绿光波段合成。
进一步的,所述步骤2中,所述卷积神经网络的下采样过程包括依次连接的下采样层、两次卷积层、BN层、ReLU层和池化层,所述卷积神经网络的上采样过程包括依次连接的上采样层、两次卷积层、BN层和ReLU层。
进一步的,所述步骤3中,训练卷积神经网络采用选择公式为:
Figure BDA0002146446050000021
其中,k表示精确度的指标,Precision表示准确率,Recall表示召回率。
进一步的,所述步骤5中,对待识别数据进行处理具体为:
步骤51:补全待识别数据,采用的公式如下:
Figure BDA0002146446050000022
Figure BDA0002146446050000023
其中,H表示补全后待识别数据的长度,W表示补全后待识别数据的宽度,S表示识别滑动窗口的长度,2/S表示识别滑动窗口的滑动步长,H1表示待识别数据的长度,W1表示待识别数据的宽度;
步骤52:在补全后的待识别数据上,按照窗口S*S滑动进行截取;
步骤53:将截取后的矩形区域输入卷积神经网络进行识别;
步骤54:提取识别结果中的四分之一矩形区域,所述矩形区域左上角顶点坐标M(x,y)为:
Figure BDA0002146446050000024
Figure BDA0002146446050000025
其中,补全后数据的左上角定为原点坐标M(0,0),i表示提取的矩形区域位于结果图(由提取的四分之一矩形区域补成的图)中的行数,j表示提取的矩形区域位于结果图中的列数,Mx表示M点的横坐标值,My表示M点的纵坐标值。
综上所述,由于采用了上述技术方案,本发明的有益效果是:
本发明采用的数据处理方式,解决了不同遥感影像的色彩差异对神经网络精度的影响,从而增强了神经网络泛化能力,提高模型整体识别精度;采用的补全滑动窗口识别方法,解决了遥感影像过大,由于计算机内存限制,无法整张输入神经网络的问题,同时解决了窗口滑动识别后拼接成一张大图接边明显,边缘识别较弱的问题。
目前遥感影像中甘蔗的提取主要依靠各种软件在人工参与的情况下,提取甘蔗图斑数据,需要人工干预较多,导致消耗时间长,人力成本较大,提取精度不高。本方法主要通过构建卷积神经网络,将人工从遥感影像提取后的甘蔗数据作为样本,训练神经网络从而学习到遥感影像中甘蔗的特征,实现代替人工自动化从遥感影像中提取甘蔗,从而减少提取时间,增加提取精度,降低人力成本,大大提高生产效率。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明的整体流程图;
图2为本发明中高分辨率卫星影像;
图3为同一地区的图像采用直接拼接和采用本发明中的拼接方法进行拼接得到的对比结果图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明,即所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,术语“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以下结合实施例对本发明的特征和性能作进一步的详细描述。
实施例
本实施例用于对本发明进行说明。
一种从中等分辨率遥感影像中提取甘蔗的方法,包括以下步骤:
步骤1:获取哨兵二号卫星遥感数据(以广西地区中等分辨率遥感影像为例),将所述遥感数据分为训练数据集、测试数据集和待识别数据集,对卫星遥感影像做大气校正等处理,保存为16为的tif格式类型的文件;所述遥感数据由红边波段、红光波段和绿光波段合成,使甘蔗提取的特征选择效果最佳,易于与其他植被区分。
步骤2:构建卷积神经网络,本实施例中,开发环境为win10,神经网络搭建框架为keras,开发语言为python3.0.以上;所述卷积神经网络的下采样过程包括依次连接的下采样层、两次卷积层、BN层(Batch Normalization)、ReLU层和池化层,所述卷积神经网络的上采样过程包括依次连接的上采样层、两次卷积层、BN层和ReLU层;在卷积之后加入BN层可以使神经网络学习快速进行的同时抑制过拟合,经过批标准化后的数据输入激活函数Relu,此函数可以使神经网络输出变的非线性,让结果可以逼近任意函数,最后将经过卷积的数据,输入softmax函数分类输出。
步骤3:将中等分辨率的训练数据集用红边、红光和绿光波段代替RGB中的红光、蓝光和绿光波段合成影像,对所述训练数据集中的甘蔗采用监督分类等方式进行标记,并结合高分影像和样本对提取甘蔗区域进行验证,保证样本的准确,并对训练数据集中的数据进行增强;利用增强后的训练数据集对所述卷积神经网络进行训练,得到训练后的卷积神经网络;
训练时利用F0.5score来选择模型,让准确率权重大于召回率同时为了防止输入数据中没有甘蔗标记,训练卷积神经网络采用选择公式为:
Figure BDA0002146446050000041
其中,k表示精确度的指标,Precision表示准确率,Recall表示召回率。
步骤4:将中等分辨率的测试数据集用红边、红光和绿光波段代替RGB中的红光、蓝光和绿光波段合成影像,对所述测试数据集中的甘蔗采用监督分类等方式进行标记,并结合高分影像和样本对提取甘蔗区域进行验证,保证样本的准确,利用标记后的测试数据集对训练后的卷积神经网络进行测试,重复步骤3-4,直到卷积神经网络正确率达到预设值;
步骤5:对待识别数据集进行处理,并将处理后的待识别数据集输入卷积神经网络,输出得到待识别数据集中甘蔗的提取结果。
对待识别数据进行处理具体为:
步骤51:补全待识别数据,采用的公式如下:
Figure BDA0002146446050000051
Figure BDA0002146446050000052
其中,H表示补全后待识别数据的长度,W表示补全后待识别数据的宽度,S表示识别滑动窗口的长度,2/S表示识别滑动窗口的滑动步长,H1表示待识别数据的长度,W1表示待识别数据的宽度;
步骤52:在补全后的待识别数据上,按照窗口S*S滑动进行截取;
步骤53:将截取后的矩形区域输入卷积神经网络进行识别;
步骤54:提取识别结果中的四分之一矩形区域,所述矩形区域左上角顶点坐标M(x,y)为:
Figure BDA0002146446050000053
Figure BDA0002146446050000054
其中,补全后数据的左上角定为原点坐标M(0,0),i表示提取的矩形区域位于结果图(由提取的四分之一矩形区域补成的图)中的行数,j表示提取的矩形区域位于结果图中的列数,Mx表示M点的横坐标值,My表示M点的纵坐标值。
如图3所示,采用本发明的数据处理方法能够有效的解决了窗口滑动识别后拼接成一张大图接边明显,边缘识别较弱的问题。
还包括步骤6,对结果进行验证,结合目视解译、外业采样数据和高分辨率卫星影像(图2所示,箭头指向甘蔗区域)对甘蔗提取结果进行验证,若甘蔗提取精度满足85%-90%之间,卷积神经网络各参数满足需求,对误提漏提结果进行人工修正,若提取精度低于85%,返回步骤3和步骤5调整网络中参数。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。

Claims (4)

1.一种从中等分辨率遥感影像中提取甘蔗的方法,其特征在于:包括以下步骤:
步骤1:获取卫星遥感数据,将所述遥感数据分为训练数据集、测试数据集和待识别数据集;
步骤2:构建卷积神经网络;
步骤3:对所述训练数据集中的甘蔗进行标记,利用标记后的训练数据集对所述卷积神经网络进行训练,得到训练后的卷积神经网络;
步骤4:对所述测试数据集中的甘蔗进行标记,利用标记后的测试数据集对训练后的卷积神经网络进行测试,重复步骤3-4,直到卷积神经网络正确率达到预设值;
步骤5:对待识别数据集进行处理,并将处理后的待识别数据集输入卷积神经网络,输出得到待识别数据集中甘蔗的提取结果;
所述步骤5中,对待识别数据进行处理具体为:
步骤51:补全待识别数据,采用的公式如下:
Figure FDA0004043090650000011
Figure FDA0004043090650000012
其中,H表示补全后待识别数据的长度,W表示补全后待识别数据的宽度,S表示识别滑动窗口的长度,2/S表示识别滑动窗口的滑动步长,H1表示待识别数据的长度,W1表示待识别数据的宽度;
步骤52:在补全后的待识别数据上,按照窗口S*S滑动进行截取;
步骤53:将截取后的矩形区域输入卷积神经网络进行识别;
步骤54:提取识别结果中的四分之一矩形区域,所述矩形区域左上角顶点坐标M(x,y)为:
Figure FDA0004043090650000013
Figure FDA0004043090650000014
其中,补全后数据的左上角定为原点坐标M(0,0),i表示提取的矩形区域位于结果图中的行数,j表示提取的矩形区域位于结果图中的列数,Mx表示M点的横坐标值,My表示M点的纵坐标值。
2.根据权利要求1所述的一种从中等分辨率遥感影像中提取甘蔗的方法,其特征在于:所述步骤1中,所述遥感数据由红边波段、红光波段和绿光波段合成。
3.根据权利要求2所述的一种从中等分辨率遥感影像中提取甘蔗的方法,其特征在于:所述步骤2中,所述卷积神经网络的下采样过程包括依次连接的下采样层、两次卷积层、BN层、ReLU层和池化层,所述卷积神经网络的上采样过程包括依次连接的上采样层、两次卷积层、BN层和ReLU层。
4.根据权利要求3所述的一种从中等分辨率遥感影像中提取甘蔗的方法,其特征在于:所述步骤3中,训练卷积神经网络采用选择公式为:
Figure FDA0004043090650000021
其中,k表示精确度的指标,Precision表示准确率,Recall表示召回率。
CN201910686410.9A 2019-07-29 2019-07-29 一种从中等分辨率遥感影像中提取甘蔗的方法 Active CN110443259B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910686410.9A CN110443259B (zh) 2019-07-29 2019-07-29 一种从中等分辨率遥感影像中提取甘蔗的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910686410.9A CN110443259B (zh) 2019-07-29 2019-07-29 一种从中等分辨率遥感影像中提取甘蔗的方法

Publications (2)

Publication Number Publication Date
CN110443259A CN110443259A (zh) 2019-11-12
CN110443259B true CN110443259B (zh) 2023-04-07

Family

ID=68431916

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910686410.9A Active CN110443259B (zh) 2019-07-29 2019-07-29 一种从中等分辨率遥感影像中提取甘蔗的方法

Country Status (1)

Country Link
CN (1) CN110443259B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113657276A (zh) * 2021-08-18 2021-11-16 江苏天汇空间信息研究院有限公司 一种遥感影像语义分割的模型迁移训练方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011039833A (ja) * 2009-08-12 2011-02-24 Fujitsu Ltd 車両検出装置、車両検出プログラム、および車両検出方法
CN108052966A (zh) * 2017-12-08 2018-05-18 重庆邮电大学 基于卷积神经网络的遥感图像场景自动提取和分类方法
CN108229425A (zh) * 2018-01-29 2018-06-29 浙江大学 一种基于高分辨率遥感图像的水体识别方法
CN108319949A (zh) * 2018-01-26 2018-07-24 中国电子科技集团公司第十五研究所 一种高分辨率遥感图像中多朝向舰船目标检测与识别方法
CN108596248A (zh) * 2018-04-23 2018-09-28 上海海洋大学 一种基于改进深度卷积神经网络的遥感影像分类模型
WO2018187953A1 (zh) * 2017-04-12 2018-10-18 邹霞 基于神经网络的人脸识别方法
WO2018214195A1 (zh) * 2017-05-25 2018-11-29 中国矿业大学 一种基于卷积神经网络的遥感图像桥梁检测方法
CN109285168A (zh) * 2018-07-27 2019-01-29 河海大学 一种基于深度学习的sar图像湖泊边界提取方法
CN109325395A (zh) * 2018-04-28 2019-02-12 二十世纪空间技术应用股份有限公司 图像的识别方法、卷积神经网络模型的训练方法及装置
CN109886997A (zh) * 2019-01-23 2019-06-14 平安科技(深圳)有限公司 基于目标检测的识别框确定方法、装置及终端设备

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011039833A (ja) * 2009-08-12 2011-02-24 Fujitsu Ltd 車両検出装置、車両検出プログラム、および車両検出方法
WO2018187953A1 (zh) * 2017-04-12 2018-10-18 邹霞 基于神经网络的人脸识别方法
WO2018214195A1 (zh) * 2017-05-25 2018-11-29 中国矿业大学 一种基于卷积神经网络的遥感图像桥梁检测方法
CN108052966A (zh) * 2017-12-08 2018-05-18 重庆邮电大学 基于卷积神经网络的遥感图像场景自动提取和分类方法
CN108319949A (zh) * 2018-01-26 2018-07-24 中国电子科技集团公司第十五研究所 一种高分辨率遥感图像中多朝向舰船目标检测与识别方法
CN108229425A (zh) * 2018-01-29 2018-06-29 浙江大学 一种基于高分辨率遥感图像的水体识别方法
CN108596248A (zh) * 2018-04-23 2018-09-28 上海海洋大学 一种基于改进深度卷积神经网络的遥感影像分类模型
CN109325395A (zh) * 2018-04-28 2019-02-12 二十世纪空间技术应用股份有限公司 图像的识别方法、卷积神经网络模型的训练方法及装置
CN109285168A (zh) * 2018-07-27 2019-01-29 河海大学 一种基于深度学习的sar图像湖泊边界提取方法
CN109886997A (zh) * 2019-01-23 2019-06-14 平安科技(深圳)有限公司 基于目标检测的识别框确定方法、装置及终端设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于深度卷积神经网络的遥感影像目标检测;孙梓超等;《上海航天》;20181025(第05期);全文 *

Also Published As

Publication number Publication date
CN110443259A (zh) 2019-11-12

Similar Documents

Publication Publication Date Title
CN110059694B (zh) 电力行业复杂场景下的文字数据的智能识别方法
CN111986099B (zh) 基于融合残差修正的卷积神经网络的耕地监测方法及***
CN106971152B (zh) 一种基于航拍图像的检测输电线路中鸟巢的方法
CN112241699A (zh) 物体缺陷类别识别方法、装置、计算机设备和存储介质
CN110991511A (zh) 一种基于深度卷积神经网络的向日葵作物种子分拣方法
CN110032928B (zh) 一种适用于颜色敏感的卫星遥感影像水体识别方法
CN112132206A (zh) 图像识别方法及相关模型的训练方法及相关装置、设备
CN112766155A (zh) 一种基于深度学习的海水养殖区提取方法
CN114973002A (zh) 一种基于改进的YOLOv5的麦穗检测方法
CN115147418B (zh) 缺陷检测模型的压缩训练方法和装置
CN110689065A (zh) 一种基于扁平混合卷积神经网络的高光谱图像分类方法
CN110443259B (zh) 一种从中等分辨率遥感影像中提取甘蔗的方法
CN115497010A (zh) 一种基于深度学习的地理信息的识别方法及***
CN112348820B (zh) 基于深度辨别性增强网络的遥感影像语义分割方法
CN112465821A (zh) 一种基于边界关键点感知的多尺度害虫图像检测方法
CN117274702A (zh) 一种基于机器视觉的手机钢化玻璃膜裂纹自动分类方法和***
CN106682676A (zh) 一种图像测试方法及装置
CN113159154B (zh) 一种面向农作物分类的时间序列特征重建及动态识别方法
CN113673534B (zh) 一种基于Faster RCNN的RGB-D图像果实检测方法
CN115019044A (zh) 单株植物的分割方法、装置、终端设备和可读存储介质
CN115100068A (zh) 一种红外图像校正方法
CN114298229A (zh) 作物类别确定方法、装置、电子设备及存储介质
CN113989632A (zh) 一种遥感图像桥梁检测方法、装置、电子设备及存储介质
Deng et al. A paddy field segmentation method combining attention mechanism and adaptive feature fusion
CN111160079A (zh) 一种快速识别柑橘花期的方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant