CN105894518A - 一种基于格点排列的十字绣模板识别方法 - Google Patents

一种基于格点排列的十字绣模板识别方法 Download PDF

Info

Publication number
CN105894518A
CN105894518A CN201610256430.9A CN201610256430A CN105894518A CN 105894518 A CN105894518 A CN 105894518A CN 201610256430 A CN201610256430 A CN 201610256430A CN 105894518 A CN105894518 A CN 105894518A
Authority
CN
China
Prior art keywords
lattice point
point
lattice
arrangement
corner
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610256430.9A
Other languages
English (en)
Other versions
CN105894518B (zh
Inventor
丁新涛
胡桂银
罗永龙
郭良敏
接标
郑孝遥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anhui Normal University
Original Assignee
Anhui Normal University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Anhui Normal University filed Critical Anhui Normal University
Priority to CN201610256430.9A priority Critical patent/CN105894518B/zh
Publication of CN105894518A publication Critical patent/CN105894518A/zh
Application granted granted Critical
Publication of CN105894518B publication Critical patent/CN105894518B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30124Fabrics; Textile; Paper

Landscapes

  • Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Sewing Machines And Sewing (AREA)

Abstract

本发明公开了一种基于格点排列的十字绣模板识别方法,属于十字绣领域,对图像中的绣孔格点进行识别排列,方法步骤包括:步骤一、提取绣孔格点坐标设为点集D,移除点集D的内点,得到边界格点加入边界格点集;步骤二、在边界格点集中检测4个角落格点;步骤三、在求出4个角落格点之后,具有较小横坐标的2个格点为左下、左上角落格点,其中纵坐标较小的为左下角落格点,另一个则为左上角落格点;步骤四、从下向上、从左向右排列点集D中的格点,完成点集的格点排列。本发明通过采集十字绣图像,对十字绣上的绣孔坐标建立点集,并对点集进行排列,解决了十字绣模板中格点的排列问题,具有自动格点排列的优点,以便实现十字绣机绣的智能化。

Description

一种基于格点排列的十字绣模板识别方法
技术领域
本发明属于十字绣技术领域,涉及图像识别方向,具体涉及一种基于格点排列的十字绣模板识别方法。
背景技术
十字绣是一种流行的以线程计算为核心的刺绣,它是全世界流行的一种刺绣(Gillow John,and Sentance Bryan,World Textiles:A visual guide to traditional techniques,Thames&Hudson,2005)。通常十字绣需要全手工制作完成,为使十字绣的制作走向简单化、巨型化、批量化,Karen提出了一些相关的计算机视觉技术用于十字绣(Graphics and Visualization within Cross-Stitch,Eurographics UK 1999Conference Proceedings,129-141),其主要视觉化技术贡献在于将彩色信息映射到格点上,用于产生十字绣模板。目前十字绣绣花机的智能性仍有待提高,它需要先用刺绣CAD软件制版,然后在程序控制下,实现十字绣机绣作业。为了刺绣过程更加智能化、自动化,刺绣模板首先需要通过计算机视觉技术进行自动识别。由于十字绣的模板为一织线可数的织物,每个织线交叉重合的小矩形四周有4个供绣针穿刺的孔洞(绣点),从而,十字绣模板的自动识别可归结为格点的排列。
对于点的排列而言,它是计算机视觉领域的一个重要研究课题(Lezama等,A contrario 2D point alignment detection,Pattern Analysis and Machine Intelligence,IEEE Transactions on,2015(3):499-512)。点的排列之所以困难,在于需要从检测点集中提取其蕴含的结构(Lezama等,A contrario 2D point alignment detection,Pattern Analysis and Machine Intelligence,IEEE Transactions on,2015(3):499-512),目前,即使是在点集中检测直线仍是一个有待研究的开放问题(Lv Jixin等,Straight line segments extraction and EKF-slam in indoor environment,Journal of Automation and Control Engineering,2014,2(3):270-276;Zhang,Lijun等,A straight line detection method based on edge following and line segments integration,IEEE International Conference on 2015 6th Software Engineering and Service Science(ICSESS),2015:297-300)。在相机标定经典文献中通常需要借助棋盘模板中的格点来估计相机的参数,但是相机标定文献不涉及格点排列问题本身,而是令其默认已知,也即在检测出格点之后,他们之间的相对位置关系默认已知,这对于 十字绣模板并不现实:一是十字绣模板上格点的数量众多,人工干预坐标排列不现实;二是模板的姿态可能会倾斜或旋转,增加排列难度;三是织物本身存在一定程度的形变,如波纹状变形,进一步增加排列难度;四是织物本身织线粗细可能存在误差,也会增加排列的难度。从而十字绣模板中格点的排列是一个值得关注的问题。
本发明针对十字绣模板,对模板中针孔进行排列,对其坐标相对位置进行识别,是计算机视觉应用于十字绣智能化机绣的一项基础技术。
发明内容
根据以上现有技术的不足,本发明所要解决的技术问题是提出一种基于格点排列的十字绣模板识别方法,通过采集十字绣图像,通过图像处理技术得到十字绣上的绣孔坐标点集之后,对点集进行排列,解决了十字绣模板中格点的排列问题,具有自动排列格点的优点,以便实现十字绣机绣的智能化。
为了解决上述技术问题,本发明采用的技术方案为:一种基于格点排列的十字绣模板识别方法,对十字绣模板拍照得到格点图像,检测格点坐标,对图像中的绣孔格点进行识别排列。所述识别方法步骤包括:步骤一、设绣孔格点坐标提取后,为点集D,移除点集D的内点,得到边界格点,将边界格点加入边界格点集;步骤二、在边界格点集中检测4个角落格点;步骤三、在求出4个角落格点之后,具有较小横坐标的2个格点为左下、左上角落格点,其中纵坐标较小的为左下角落格点,另一个则为左上角落格点;步骤四、从下向上、从左向右排列点集D中的格点,完成点集中的格点排列。
上述方法中,所述方法步骤一中的移除方法为:遍历点集D中所有点,对于点集D中的某格点,将图像坐标系的坐标原点平移到该格点处,如果平移后坐标系的某个象限内不包含点集的任何格点,则判定该格点是边界格点。所述方法步骤二中角落格点的检测方法为:对于每一个边界格点,将其与格点集D中的4-邻域相邻格点相连,连线两两之间的夹角中边界邻边构成的夹角最大,记为格点处的夹角,将所有边界格点处的夹角从小到大排序,最小的4个夹角对应的格点即为4个角落格点。所述方法步骤四中的格点排列方法为:从左下角落格点开始从下向上搜索排列格点阵的第1列,并将其从待排列点集中移除;重复步骤一,在更新后的排列点集中检测边界格点集,左下角落格点更新为新边界格点集中与原左下角落格点距离最近的格点,左上角落格点更新为新边界格点集中与原 左上角落格点距离最近的格点;从新的左下角落点开始从下向上搜索排列格点阵的第2列;循环执行,逐列排列点集中的格点。
所述方法步骤四中的从左下角落点开始从下向上搜索排列格点阵的排列,包括非最后列上格点的排列方式与最后列上格点的排列方式。所述非最后列上格点的排列方式为:步骤1、将已排列的左下角落格点从点集D中移除形成待排列点集,在待排列点集中,从当前格点出发,求其最近的3个或4个相连格点,其中位于当前格点的上部且横坐标最小的格点为当前格点的下一格点;步骤2、重复上述步骤二中角落格点搜索过程,直到当前格点更新为左上角落格点;如果当前格点首次更新为左上角落格点,搜索域更新次数m即为点集(点阵)的行数。所述最后列上格点的排列方式为:步骤1:在搜索域中,与当前格点距离最近的格点即为当前格点的下一格点;步骤2:更新当前格点;重复上述步骤1、步骤2,直到最后一个格点被排列完毕。
本发明有益效果是:本发明给出了一种基于格点排列的十字绣模板识别方法,本发明将十字绣模板的识别归结为刺绣针孔格点的排列,对模板中绣孔坐标的相对位置进行识别。该排列方法首先移除内点得到边界点;其次在边界点集中检测四个角落点;再次,在4个角落点中定位出左下和左上角落点;最后,从左下角落点开始从下向上、从左至右进行搜索,对格点进行逐步排列,完成十字绣模板的格点排列工作,以便实现十字绣机绣的智能化。
附图说明
下面对本说明书附图所表达的内容及图中的标记作简要说明:
图1是本发明的具体实施方式的十字绣模板图像的边界提取图。
图2是本发明的具体实施方式的内点滤除示意图。
图3是本发明的具体实施方式的角落格点的检测示意图。
图4是本发明的具体实施方式的左下角落格点和左上角落格点示意图。
图5是本发明的具体实施方式的格点排列检测方向示意图。
图6是本发明的具体实施方式的格点排列方法示意图
具体实施方式
下面对照附图,通过对实施例的描述,本发明的具体实施方式如所涉及的各构件的形状、构造、各部分之间的相互位置及连接关系、各部分的作用及工作原理、制造工艺及操作使用方法等,作进一步详细的说明,以帮助本领域技术人员 对本发明的发明构思、技术方案有更完整、准确和深入的理解。
一种基于格点排列的十字绣模板识别方法,将十字绣模板平置于黑色背景上,经正面拍摄成像,图像中格点的坐标经由Harris角点检测得到。设十字绣上的绣孔坐标已经通过图像处理技术提取出来,设为点集D={di},本发明所要解决的问题是对所有的di的坐标进行排列,识别它们之间的相邻关系,以便实现十字绣机绣的智能化。
本发明将十字绣绣孔的识别问题归结为格点排列问题,在杂乱无序的格点中搜索感兴趣点,并逐一填入排列矩阵,方法如下:假设模板上待排列的格点已经排列完毕,它们从上到下、从左至右的排列矩阵为P:其中pij=(xij,yij),(i=1,2,…,m,j=1,2,…,n)是格点在模板中第i行第j列的坐标。对于所有位于第i行的格点,它们位于同一水平线上。类似地,对于所有位于第j列的格点,它们位于同一垂直线上。在检测了模板中所有格点的坐标之后,格点的排列等价于模板中拟合线的提取,也即:格点被正确排列后,根据排列矩阵P可以得出所有水平和垂直拟合线。
该排列方法的梗概如图1-5所示。首先,移除内点,得到边界点,如图1、2所示;其次在边界点集中检测四个角落点,如图3中4个黑色点所示;再次,在4个角落点中定位出左下和左上角落点,如图4所示;最后,从左下角落点开始从下向上、从左至右进行搜索,对格点进行排列,如图5所示。
格点排列算法:
步骤一、滤除内点:提取绣孔格点坐标设为点集D,移除点集D的内点,得到边界格点。移除方法为:遍历点集D中所有点,将坐标原点平移至该格点di=(xi,yi),如果平移后坐标系的某个象限内不包含点集的任何格点,如图2所示,则判定该格点为边界格点,将其加入D1,其中D1是边界格点集。内点处建立的坐标系其4个象限都含有格点,如图2中P点处4个象限中均包含十字形的格点;边界格点处建立的坐标系下,某个象限内无格点,如点Q处所示第2象限内不包含任何格点。
步骤二、检测P的4个角落格点,即边界格点集D1的四个角落格点。角落格 点的检测方法为:
对于每一个边界格点,将其与格点集D中4-邻域相邻格点相连(如图6中θi处格点所示,它有3个4-邻域格点),连线两两之间的夹角中,边界邻边构成的夹角最大,记为格点处的夹角(如图6中θi所示),将所有边界格点处的夹角从小到大排序,最小的4个夹角对应的格点即为4个角落格点。
步骤(1):对于任意的di∈D1,(i=1,2,…,nb),求其在D中的最近的3个邻近格点
步骤(2):求di相连的三个向量:
步骤(3):求出上述3个向量所成夹角的最大夹角θi,如图6所示:
&theta; i = m a x { arccos < v i k 1 , v i k 2 > , arccos < v i k 1 , v i k 3 > , arccos < v i k 2 , v i k 3 > }
步骤(4):对di∈D1遍历可得{θi},设是Θ中最小的四个元素,它们对应的4个格点即为P的4个角落点,如图6中所示:对应于P中格点pmn,也即:
{ p 11 , p 1 n , p m 1 , p m n } = { d i | &theta; i &Element; &Theta; min 4 , i = 1 , 2 , 3 , 4 } = &Delta; E
步骤三、确定p11和pm1:在求出4个角落格点之后,E中4个格点中横坐标最小的2个格点为p11和pm1,其中具有较小纵坐标的为左下角落格点p11,记为pld;另一个即为左上角落格点pm1,记为plu
步骤四、确定排列矩阵P:从下向上、从左向右排列点集D中的格点,完成点集中的格点排列。具体的格点排列方法为:从左下角落格点开始从下向上搜索排列格点阵的第1列,并将其从待排列点集中移除;重复步骤一,在更新后的排列点集中检测边界格点集,左下角落格点更新为新边界格点集中与原左下角落格点距离最近的格点,左上角落格点更新为新边界格点集中与原左上角落格点距离最近的格点;从新的左下角落点开始从下向上搜索排列格点阵的第2列;循环执行,逐列排列点集中的格点。
从左下角落点开始从下向上搜索排列格点阵的排列,包括非最后列上格点的 排列方式与最后列上格点的排列方式。非最后列上格点的排列方式为:将已排列的左下角落格点从点集D中移除形成待排列点集,在待排列点集中,从当前格点出发,求其最近的3个或4个相连格点,其中位于当前格点的上部且横坐标最小的格点为当前格点的下一格点;重复上述过程,直到当前格点更新为左上角落格点;如果当前格点首次更新为左上角落格点,搜索域更新次数m即为点集(点阵)的行数。最后列上格点的排列方式为:在搜索域中,与当前格点距离最近的格点即为当前格点的下一格点;在更新当前格点之后,重复上述过程,直到最后一个格点被排列完毕。
步骤四的具体方法:
步骤(1):将搜索域更新为D与p11的差集:D11=D-p11,求p11在D11中的最近的3个相连格点,其中横坐标最小的格点为p21,如图6中情形1所示。接下来更新搜索域:D21=D11-p21,当前工作格点(即搜索格点)更新为:p21,求p21在D21中最近的4个相连格点,其中在p21的上部且横坐标最小的格点为p31,如图6中情形2所示。重复上述8-邻域4格点搜索过程,直到当前工作格点已更新为plu,如图6中情形3所示。此时搜索域更新次数m即为矩阵P的行数,然后执行步骤(2)。
步骤(2):确定p12。重复步骤一和步骤二,求出搜索域Dm1的4个角落点,其中最邻近pld的格点即为p12。在确定p12之后,将pld更新为p12;类似地,将plu更新为pm2。从p12开始,重复步骤四中的步骤(1)和步骤(2),直到搜索域中的格点数为m时,执行步骤3.
步骤(3):从当前格点p1n开始,在搜索域中,与其距离最近的格点即为p2n,如图6中情形4所示。更新当前节点为p2n,当前搜索域为D2n=D1n-p2n,重复上述过程直到pmn被处理完毕。
上面结合附图对本发明进行了示例性描述,显然本发明具体实现并不受上述方式的限制,只要采用了本发明的方法构思和技术方案进行的各种非实质性的改进,或未经改进将本发明的构思和技术方案直接应用于其它场合的,均在本发明的保护范围之内。本发明的保护范围应该以权利要求书所限定的保护范围为准。

Claims (7)

1.一种基于格点排列的十字绣模板识别方法,其特征在于,对十字绣模板拍照检测得到格点图像,对图像中的绣孔格点进行识别排列,所述识别方法步骤包括:
步骤一、提取绣孔格点坐标设为点集D,移除点集D中的内点,得到边界格点及边界格点集;
步骤二、在边界格点集中检测4个角落格点;
步骤三、在求出4个角落格点之后,具有较小横坐标的2个格点为左下、左上角落格点,其中纵坐标较小的为左下角落格点,另一个则为左上角落格点;
步骤四、从下向上、从左向右排列点集D中的格点,完成点集D中格点的排列。
2.根据权利要求1所述的基于格点排列的十字绣模板识别方法,其特征在于,所述方法步骤一中的移除方法为:遍历点集D中所有格点,对于点集D中的某格点,将图像坐标系的坐标原点平移到该格点处,如果平移后坐标系的某个象限内不包含点集的任何格点,则判定该格点是边界格点。
3.根据权利要求1所述的基于格点排列的十字绣模板识别方法,其特征在于,所述方法步骤二中角落格点的检测方法为:对于每一个边界格点,将其与格点集D中的4-邻域相邻格点相连,连线两两之间的夹角中边界邻边构成的夹角最大,记为格点处的夹角,将所有边界格点处的夹角从小到大排序,最小的4个夹角对应的格点即为4个角落格点。
4.根据权利要求1所述的基于格点排列的十字绣模板识别方法,其特征在于,所述方法步骤四中的格点排列方法为:从左下角落格点开始从下向上搜索排列格点阵的第1列,并将其从待排列点集中移除;重复步骤一,在更新后的排列点集中检测边界格点集,左下角落格点更新为新边界格点集中与原左下角落格点距离最近的格点,左上角落格点更新为新边界格点集中与原左上角落格点距离最近的格点;从新的左下角落点开始从下向上搜索排列格点阵的第2列;循环执行,逐列排列点集中的格点。
5.根据权利要求1所述的基于格点排列的十字绣模板识别方法,其特征在于,所述方法步骤四中的从左下角落点开始从下向上搜索排列格点阵的排列,包括非最后列上格点的排列方式与最后列上格点的排列方式。
6.根据权利要求5所述的基于格点排列的十字绣模板识别方法,其特征在于,所述非最后列上格点的排列方式为:步骤1、将已排列的左下角落格点从点集D中移除形成待排列点集,在待排列点集中,从当前格点出发,求其最近的3个或4个相连格点,其中位于当前格点的上部且横坐标最小的格点为当前格点的下一格点;步骤2、重复上述步骤二中角落格点搜索过程,直到当前格点更新为左上角落格点;如果当前格点首次更新为左上角落格点,搜索域更新次数m即为点集的行数。
7.根据权利要求5所述的基于格点排列的十字绣模板识别方法,其特征在于,所述最后列上格点的排列方式为:步骤1:在搜索域中,与当前格点距离最近的格点即为当前格点的下一格点;步骤2:更新当前格点;重复上述步骤1、步骤2,直到最后一个格点被排列完毕。
CN201610256430.9A 2016-04-22 2016-04-22 一种基于格点排列的十字绣模板识别方法 Active CN105894518B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610256430.9A CN105894518B (zh) 2016-04-22 2016-04-22 一种基于格点排列的十字绣模板识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610256430.9A CN105894518B (zh) 2016-04-22 2016-04-22 一种基于格点排列的十字绣模板识别方法

Publications (2)

Publication Number Publication Date
CN105894518A true CN105894518A (zh) 2016-08-24
CN105894518B CN105894518B (zh) 2019-04-16

Family

ID=56705235

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610256430.9A Active CN105894518B (zh) 2016-04-22 2016-04-22 一种基于格点排列的十字绣模板识别方法

Country Status (1)

Country Link
CN (1) CN105894518B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101271576A (zh) * 2008-05-08 2008-09-24 上海交通大学 复杂光照与表面条件下棋盘格模式识别定位方法
CN101477687A (zh) * 2009-01-22 2009-07-08 上海交通大学 复杂背景下的棋盘格角点检测方法
CN104036516A (zh) * 2014-06-30 2014-09-10 山东科技大学 基于对称性分析的摄像机标定棋盘图像角点检测方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101271576A (zh) * 2008-05-08 2008-09-24 上海交通大学 复杂光照与表面条件下棋盘格模式识别定位方法
CN101477687A (zh) * 2009-01-22 2009-07-08 上海交通大学 复杂背景下的棋盘格角点检测方法
CN104036516A (zh) * 2014-06-30 2014-09-10 山东科技大学 基于对称性分析的摄像机标定棋盘图像角点检测方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
ARTURO DE LA ESCALERA AND JOSE MARIA ARMINGOL: "Automatic Chessboard Detection for Intrinsic and Extrinsic Camera Parameter Calibration", 《SENSORS》 *
MARKETA DUBSKA ET AL.: "Real-time precise detection of regular grids and matrix codes", 《JOURNAL OF REAL-TIME IMAGE PROCESSING》 *
张江雯: "皮革轮廓智能跟踪及测量的技术研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Also Published As

Publication number Publication date
CN105894518B (zh) 2019-04-16

Similar Documents

Publication Publication Date Title
DE102014016069B4 (de) Vorrichtung und Verfahren zum Aufnehmen eines Gegenstandes im 3- dimensionalen Raum mit einem Roboter
TWI480833B (zh) 具高解析度之共軛焦顯微鏡影像拼接方法
DE102016201673B4 (de) Vorrichtung zur erfassung der oberfläche einer befahrenen strasse und verfahren zur erfassung der oberfläche einer befahrenen strasse
CN109767445B (zh) 一种高精度的pcb缺陷智能检测方法
DE112014004190T5 (de) Positurschätzverfahren und Roboter
CN103530644A (zh) 条纹织物组织结构自动识别方法
WO2019041516A1 (zh) 屏幕状态自动检测机器人、方法及计算机可读存储介质
CN105550660A (zh) 一种机织物组织结构种类的识别方法
DE102017116853A1 (de) System und Verfahren zur automatischen Auswahl von 3D-Ausrichtungsalgorithmen in einem Sehsystem
CN110453395B (zh) 一种智能机器人刺绣方法、电子设备、存储介质
CN105243663A (zh) 一种pcb扫描图像的自动匹配方法及***
CN109829910B (zh) 一种基于邻域查找的pcb缺陷检测方法
CN104091325A (zh) 汽车仪表盘视觉检测中基于尺度不变特征变换的图像roi定位方法及装置
CN106709883A (zh) 基于联合双边滤波和尖锐特征骨架提取的点云去噪方法
CN105404900B (zh) 一种并排二极管的定位方法及装置
CN109766892A (zh) 一种基于边缘检测的射线检测图像标记信息字符分割方法
CN101464953A (zh) 轮廓提取装置和轮廓提取方法
CN106022337A (zh) 一种基于连续边缘特征的平面目标检测方法
CN106446472B (zh) 数控加工几何仿真中基于stl模型的交线环求取方法
CN105894518A (zh) 一种基于格点排列的十字绣模板识别方法
CN110223356A (zh) 一种基于能量生长的单目相机全自动标定方法
CN106023169B (zh) 一种基于图像匹配的制衣裁片对横条的方法
DE10297595T5 (de) Verfahren zum automatischen Definieren eines Teilemodells
CN109345548B (zh) 一种基于总变差的织物疵点分割方法
CN103353984A (zh) 一种非几何约束多幅图像线段匹配的方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant