CN113807413A - 对象的识别方法、装置、电子设备 - Google Patents
对象的识别方法、装置、电子设备 Download PDFInfo
- Publication number
- CN113807413A CN113807413A CN202111003571.7A CN202111003571A CN113807413A CN 113807413 A CN113807413 A CN 113807413A CN 202111003571 A CN202111003571 A CN 202111003571A CN 113807413 A CN113807413 A CN 113807413A
- Authority
- CN
- China
- Prior art keywords
- feature
- feature set
- processing
- parameter
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 78
- 238000012545 processing Methods 0.000 claims abstract description 141
- 239000011159 matrix material Substances 0.000 claims abstract description 75
- 238000003062 neural network model Methods 0.000 claims abstract description 61
- 238000005070 sampling Methods 0.000 claims abstract description 28
- 230000010354 integration Effects 0.000 claims abstract description 16
- 230000006870 function Effects 0.000 claims description 83
- 230000008569 process Effects 0.000 claims description 19
- 238000010586 diagram Methods 0.000 claims description 16
- 238000012549 training Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 13
- 238000010606 normalization Methods 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000004458 analytical method Methods 0.000 claims description 5
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000004891 communication Methods 0.000 description 8
- 238000013527 convolutional neural network Methods 0.000 description 4
- 238000005315 distribution function Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 241001465754 Metazoa Species 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- OAICVXFJPJFONN-UHFFFAOYSA-N Phosphorus Chemical compound [P] OAICVXFJPJFONN-UHFFFAOYSA-N 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了对象的识别方法、装置、电子设备,涉及人工智能技术领域,具体为计算机视觉和深度学习技术领域,可应用于人脸识别等场景。具体实现方案为:获取待识别对象的第一特征集,其中,所述第一特征集表征所述待识别对象的原始生物特征;对所述第一特征集进行特征采样处理,得到特征图矩阵,其中,所述特征图矩阵用于表征所述第一特征集中每个特征的权重值;对所述第一特征集和所述特征图矩阵进行求积处理,得到第二特征集;利用神经网络模型分析处理所述第二特征集,得到所述待识别对象的识别结果。本公开解决相关技术中对待识别对象进行识别的速度较低的技术问题。
Description
技术领域
本公开涉及人工智能技术领域,具体为计算机视觉和深度学习技术领域,可应用于人脸识别等场景,尤其涉及一种对象的识别方法、装置以及电子设备。
背景技术
目前的对象识别算法大多数采用卷积神经网络提取对象的特征,但是,卷积神经网络在提取对象特征的过程中会存在较多的冗余计算,且在计算资源有限的情况下,其对象识别算法的运行速度较慢。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本公开提供了一种对象的识别方法、装置、电子设备。
根据本公开的一方面,提供了一种对象的识别方法,包括:获取待识别对象的第一特征集,其中,第一特征集表征待识别对象的原始生物特征;对第一特征集进行特征采样处理,得到特征图矩阵,其中,特征图矩阵用于表征第一特征集中每个特征的权重值;对第一特征集和特征图矩阵进行求积处理,得到第二特征集;利用神经网络模型分析处理第二特征集,得到待识别对象的识别结果。
根据本公开的另一方面,提供了一种对象的识别装置,包括:获取模块,用于获取待识别对象的第一特征集,其中,第一特征集表征待识别对象的原始生物特征;第一处理模块,用于对第一特征集进行特征采样处理,得到特征图矩阵,其中,特征图矩阵用于表征第一特征集中每个特征的权重值;第二处理模块,用于对第一特征集和特征图矩阵进行求积处理,得到第二特征集;第三处理模块,用于利用神经网络模型分析处理第二特征集,得到待识别对象的识别结果。
根据本公开的又一方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行上述任一方法。
根据本公开的又一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行上述任一项的对象的识别方法。
根据本公开的又一方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现根据上述任一项的对象的识别方法。
在本公开中,可以先获取待识别对象的第一特征集,其中,第一特征集表征待识别对象的原始生物特征,然后对第一特征集进行特征采样处理,得到特征图矩阵,其中,特征图矩阵用于表征第一特征集中每个特征的权重值,将第一特征集和特征图矩阵进行求积处理,得到第二特征集,利用神经网络模型分析处理第二特征集,得到待识别对象的识别结果,达到了对待识别对象的第一特征集进行精简的目的,通过对第一特征集进行特征采样处理,得到特征图矩阵,可以准确的对第一特征集进行精简,从而得到特征准确度较高且包含特征数量较少的第二特征集,通过神经网络模型对第二特征集进行识别,可以在提高待识别对象的识别速度的同时确保识别结果的准确度,进而解决相关技术中对待识别对象进行识别的速度较低的技术问题。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例的一种对象的识别方法的流程图;
图2是根据本公开实施例的另一种对象的识别方法的流程图;
图3是根据本公开实施例的一种神经网络模型的训练示意图;
图4是根据本公开实施例的另一种对象的识别方法的流程图;
图5是根据本公开实施例的一种对象的识别装置的示意图;
图6是根据本公开实施例的示例电子设备600的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例1
根据本公开实施例,提供了一种对象的识别方法,需要说明的是,在附图的流程图中示出的步骤可以在诸如一组计算机可执行指令的计算机***中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
图1是根据本公开实施例的一种对象的识别方法的流程图,如图1所示,该方法包括如下步骤:
步骤S102,获取待识别对象的第一特征集。
其中,第一特征集表征待识别对象的原始生物特征。
上述的待识别对象可以为待识别的人体图像、视频等。
步骤S104,对第一特征集进行特征采样处理,得到特征图矩阵。
其中,特征图矩阵用于表征第一特征集中每个特征的权重值。
上述的特征图矩阵可以为特征图掩膜矩阵。
步骤S106,对第一特征集和特征图矩阵进行求积处理,得到第二特征集。
在一种可选的实施例中,可以将第一特征集和特征图矩阵进行求积处理,从而得到感兴趣区域所对应的第二特征集。
步骤S108,利用神经网络模型分析处理第二特征集,得到待识别对象的识别结果。
上述的神经网络模型可以为卷积神经网络模型。
通过上述步骤,可以先获取待识别对象的第一特征集,其中,第一特征集表征待识别对象的原始生物特征,然后对第一特征集进行特征采样处理,得到特征图矩阵,其中,特征图矩阵用于表征第一特征集中每个特征的权重值,将第一特征集和特征图矩阵进行求积处理,得到第二特征集,利用神经网络模型分析处理第二特征集,得到待识别对象的识别结果,达到了对待识别对象的第一特征集进行精简的目的,通过对第一特征集进行特征采样处理,得到特征图矩阵,可以准确的对第一特征集进行精简,从而得到特征准确度较高且包含特征数量较少的第二特征集,通过神经网络模型对第二特征集进行识别,可以在提高待识别对象的识别速度的同时确保识别结果的准确度,进而解决相关技术中对待识别对象进行识别的速度较低的技术问题。
实施例2
根据本公开实施例,提供了一种对象的识别方法,需要说明的是,在附图的流程图中示出的步骤可以在诸如一组计算机可执行指令的计算机***中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
图2是根据本公开实施例的另一种对象的识别方法的流程图,如图2所示,该方法包括如下步骤:
步骤S202,获取待识别对象的第一特征集。
其中,第一特征集表征待识别对象的原始生物特征。
上述的待识别对象还可以是待识别的人体的各个部位图像、视频等,例如,人脸图像等。
上述的待识别对象还可以为待识别的动物图像可以是待识别的动物的各个部位图像,例如,动物四肢图像等。
上述的待识别对象还可以为待识别的用户语音特征。
上述的原始生物特征可以为未经过特征处理的生物特征。
本公开中以待识别对象为人脸图像为例进行说明,具体实现中待识别对象还可以为其他对象的图像,本申请不构成具体限制。
在一种可选的实施例中,可以获取人脸图像中的第一特征集,其中,第一特征中包括多个有关于人脸的特征点。
在另一种可选的实施例中,可以获取原始图像,其中,原始图像中包括有人脸图像,可以通过特征提取网络从原始图像中提取到人脸图像的第一特征集,其中,第一特征集中包括有待识别对象的原始生物特征。
上述的特征提取网络可以为卷积神经网络。
步骤S204,对第一特征集进行特征采样处理,得到特征图矩阵。
其中,特征图矩阵用于表征第一特征集中每个特征的权重值。
上述的特征图矩阵可以为特征图掩膜矩阵。其中,特征图掩膜矩阵能够提取到第一特征集中的感兴趣区域,通过掩膜对第一特征集中的某些区域做屏蔽,使其不参加处理或者不参加处理特征的计算。
需要说明的是,特征图矩阵中的感兴趣区域为第一特征集中权重值较大的特征对应的区域,而需要屏蔽的区域则是第一特征集中权重值较小的特征对应的区域。
示例性的,第一特征集中处于感兴趣区域中的特征对应的权重值为1,第一特征集中处于屏蔽区域中的特征对应的权重值为0。
在一种可选的实施例中,可以通过耿贝尔采样方式对第一特征集进行特征采样处理,得到特征图矩阵;还可以通过随机初始化函数对第一特征集进行特征采样处理,得到特征图矩阵;还可以通过其他采样方式对第一特征集进行特征采样处理,得到特征图矩阵。此处对具体的采样方式不做限定。
步骤S206,对第一特征集和特征图矩阵进行求积处理,得到第二特征集。
在一种可选的实施例中,通过对第一特征集和特征图矩阵进行求积处理,可以减少第一特征集中冗余的特征,从而得到与人脸相关度更高的第二特征集,需要说明的是,第二特征集中所包含的特征小于或等于第一特征集中所包含的特征。通过对精简后的第二特征集进行分析处理,可以提高识别待识别对象的速度,从而提高识别待识别对象的效率。
步骤S208,利用神经网络模型分析处理第二特征集,得到待识别对象的识别结果。
在一种可选的实施例中,第二特征集为对待识别对象的第一特征集进行精简后的特征集,即,第二特征集中所包含的特征数量就会减少,因此,利用神经网络分析处理第二特征集的速度就会提高,进一步的可以提高对待识别对象的识别速度,从而提高识别待识别对象的效率。
在待识别对象为人脸图像的情况下,待识别对象的识别结果可以为该人脸图像对应的用户身份信息,例如,该人脸图像中的人脸对应的用户名称、用户性别、用户年龄等。
在待识别对象为人脸视频的情况下,待识别对象的识别结果可以为该人脸视频对应的用户身份信息,例如,该人脸视频中人脸对应的用户名称、用户性别、用户年龄等。
在待识别对象为目标用户的语音数据的情况下,待识别对象的识别结果可以为目标用户的身份信息,例如,该目标用户对应的用户的名称、性别、年龄等。
在待识别对象为语音数据的情况下,待识别对象的识别结果可以为语音内容,该语音内容可以以文字的形式进行显示。
步骤S209,通过训练得到神经网络模型。
通过训练得到神经网络模型,包括:获取第一特征集样本;将第一特征集样本输入至待训练模型中,输出第二特征集样本;将第二特征集样本输入至待训练模型中,得到神经网络模型。
可选地,对第一特征集进行特征采样处理,得到特征图矩阵,包括:利用第一预设函数对第一特征集进行分类处理,得到第一参数;利用第二预设函数对第一参数进行对数处理,得到第二参数;利用第三预设函数对第一特征集进行分布处理,得到第三参数;对第二参数和第三参数进行求和处理,确定特征图矩阵。
上述的第一预设函数可以为分类函数,其中,分类函数可以为二分类函数(softmax),还可以是其他的分类函数。
其中,利用第一预设函数对第一特征集进行分类处理,得到的第一参数可以表示为:π1(p),其中,π1()为第一预设函数,p为第一特征集。
上述的第二预设函数可以为对数函数(logarithmic function)。
其中,利用第二预设函数对第一参数进行处理,得到的第二参数可以表示为:-log(π1(p)),其中-log()为第二预设函数。
上述的第三预设函数可以为分布函数,其中,分布函数可以为耿贝尔分布函数,还可以是其他分布函数。
其中,利用第三预设函数对第一特征集进行分布处理,得到的第三参数可以表示为:g1(p),其中g1()为第三预设函数。
上述的对第二参数和第三参数进行求和处理的过程可以表示为:-log(π1(p))+g1(p),可以对求和处理的结果进行处理,确定特征图矩阵。
在一种可选的实施例中,通过对第一特征集进行特征采样处理,可以得到第一特征集中的特征权重值,根据第一特征集中每个特征的权重值可以得到用于表示第一特征集中每个特征值重要程度的特征图矩阵,通过该特征图矩阵对第一特征集进行处理,可以去除第一特征集中冗余的特征,从而得到更加精简的第二特征集。
可选地,对第二参数和第三参数进行求和处理,确定特征图矩阵,包括:对第二参数和第三参数进行求和处理,得到第一和值;对第一和值和第一预设参数进行求商处理,得到第一商值;利用第四预设函数对第一商值进行指数处理,得到第四参数;利用预设矩阵对第四参数进行求和处理,得到第二和值;对第一商值和第二和值进行求商处理,确定特征图矩阵。
其中,对第二参数和第三参数进行求和处理,得到的第一和值可以表示为:-log(π1(p))+g1(p)。
上述的第一预设参数可以为常数,例如τ。
其中,对第一和值和第一预设参数进行求商处理,得到的第一商值可以表示为:(-log(π1(p))+g1(p))/τ。
上述的第四预设函数可以为指数函数(expedition)。
其中,利用第四预设函数对第一商值进行指数处理的过程可以表示为:exp((-log(π1(p))+g1(p))/τ)。
上述的归一化处理用于将第四参数中的值归一化为0或者1,可以用j∈{0,1},其中,j表示第一特征集和中的第j个特征。
其中,对第四参数进行归一化处理,得到归一化处理结果,对归一化处理结果进行求和处理,得到第二和值的过程可以表示为:∑j∈{0,1}exp((-log(πj(p))+gj(p))/ττ)。
可选地,对第一特征集和特征图矩阵进行求积处理,得到第二特征集,包括:对第一特征集和特征图矩阵进行求积处理,得到第三特征;利用第一特征集对第三特征进行插值处理,得到第二特征集。
其中,对第一特征集和特征图矩阵进行求积处理,得到的第三特征可以表示为:Y(p)=M(p)*p,其中,Y(p)为第三特征。
在一种可选的实施例中,对第一特征集和特征图矩阵进行求积处理,实际上为将第一特征进行稀疏化,从而加快运算速度。
在另一种可选的实施例中,通过利用第一特征集对第三特征进行插值处理,可以在实际处理的过程中对稀疏化所得到的第三特征补全,以保证得到的第二特征的准确度。
在另一种可选的实施例中,可以通过移动平均法、局部多项式法、反距离加权插值方法、克里金法、最小曲率法等多种插值方法对第三特征进行插值处理,此处不做任何限定。
可选地,对第三特征进行插值处理,得到第二特征集,包括:对第一特征集和第二预设参数进行求差处理,得到第一差值;对第一差值的平方和第三预设参数进行求积处理,得到第一乘积;利用第四预设函数对第一乘积进行指数处理,得到第四特征;对第四特征和第一预设特征进行求积处理,得到第二乘积;对第二乘积和第四特征进行求商处理,得到第二特征集。
上述的第二预设参数可以表示为i,其中,i表示稀疏卷积的层数,对第一特征集和第二预设参数进行处理,得到第一差值可以表示为:p-i。
在一种可选的实施例中,可以通过对第一特征集进行多层的稀疏处理,从而得到第二特征集。
上述第一差值的平方可以表示为||p-i||2,上述的第三预设参数可以表示为-θ2。
其中,对第一差值的平方和第三预设参数进行求积处理,得到的第一乘积可以表示为-θ2||p-i||2。
上述的第四预设函数可以为指数函数。
其中,利用第四预设函数对第一乘积进行指数处理,得到第四特征,可以表示为W(p,i)=exp(-θ2||p-i||2),其中,W(p,i)表示第四特征。
上述的第一预设特征可以为Y(i)。
其中,对第四特征和第一预设特征进行求积处理,得到的第二乘积,可以表示为w(p,i)Y(i)。
在一种可选的实施例中,通过对第三特征进行插值处理,得到第二特征集,可以确保第二特征集中没有丢失重要特征,从而确保得到的第二特征集的准确度。
可选地,通过训练得到神经网络模型,其中,通过训练得到神经网络模型,包括:获取第一特征集样本;将第一特征集样本输入至待训练模型中,输出第二特征集样本;将第二特征集样本输入至待训练模型中,得到神经网络模型。
在一种可选的实施例中,可以在每次进行对象识别之前训练神经网络模型,具体的,可以在识别前将之前的神经网络模型作为待训练模型,得到训练后的神经网络模型,以便采用更加精确的神经网络模型分析处理第二特征集。
在另一种可选的实施例中,可以只对待训练模型训练一次,得到神经网络模型,还可以根据需求对待训练模型进行训练,此处对待训练模型的次数不做任何限定。
上述的第一特征集样本可以为神经网络模型之前输出的特征集样本,还可以为重新获取到的特征集样本。
在另一种可选的实施例中,可以将第一特征集样本输入至待训练模型中,输出第二特征集样本,然后将第二特征集样本再次输入至该训练模型中,达到多次对训练模型进行训练的效果,需要说明的书,第一特征集样本在输入至待训练模型之后,可以得到一个识别结果,此时,用户对该识别结果进行调整,得到一个准确的第二特征集样本,通过该第二特征集样本对待训练模型再次进行训练,可以进一步地提高所得到的神经网络模型的精确度,从而完成神经网络模型的搭建,以便使用该神经网络模型可以得到更加精确的识别结果。
在又一种可选的实施例中,还可以在第二特征集输入至待训练模型之后,得到一个更加精确的识别结果,进一步地,用户可以继续对该识别结果进行调整,得到一个更加准确的第三特征集样本,通过该第三特征集样本对待训练模型再次进行训练,可以再进一步地提高所得到的神经网络模型的精确度,从而搭建出一个更加准确的神经网络模型。
可选地,还包括:确定第一特征集样本和第二特征集样本的第一损失函数;利用第二预设函数对第二预设参数进行处理,得到第五参数;基于第一损失函数和第五参数,确定目标损失函数;利用目标损失函数对神经网络模型进行处理,得到处理后的神经网络模型;利用处理后的神经网络模型分析处理第二特征集,得到待识别对象的识别结果。
上述的第一特征集样本可以为x,上述的第二特征集样本可以为y。
上述的第二预设函数可以为对数函数。
其中,利用第二预设参数对第二预设函数进行求和处理,得到第五参数可以表示为∑i||π1||。
上述的第一损失函数可以为cosface,可以表示为cosface(x,y),第一损失函数还可以为arcfac。第一损失函数可以为目前常用的损失函数。
其中,对第一损失函数和第五参数进行求和处理,得到的目标损失函数可以表示为Loss(x,y)=cosface(x,y)+∑i||π1||,其中,目标损失函数为Loss(x,y)。
在一种可选的实施例中,利用第一损失函数对神经网络模型进行处理,可以对神经网络模型进行调整,得到一个更加精确的神经网络模型,利用更加精确的神经网络模型分析处理第二特征集,可以使得到的待识别对象的识别结果更加的精确。
如图3所示为一种神经网络模型的训练示意图。可以将人脸图像输入到特征提取神经网络中,得到人脸特征,即上述的第一特征样本,对第一特征样本进行耿贝尔采样,将采样后的特征输入到稀疏卷积神经网络中,得到稀疏化后的特征,对稀疏化后的特征进行插值处理,可以得到第二特征样本,对第二特征样本进行与第一特征样本相同的操作,可以训练得到神经网络模型,可以通过上述的目标损失函数对神经网络模型进行处理,得到处理后的神经网络模型,其处理后的神经网络模型更加的准确。
下面结合图4对本公开的一种对象的识别方法的实施例进行详细说明。如图4所示为根据本公开的一种对象的识别方法的流程图,该方法包括:
步骤S401,获取人脸图像;
步骤S402,利用特征提取网络提取人脸特征p;
上述的人脸为待识别对象,上述的人脸特征p为待识别对象的第一特征集。
步骤S403,对人脸特征p进行耿贝尔采样,得到特征图掩模矩阵M(p);
上述的特征图掩模矩阵为特征图矩阵。
上述耿贝尔采样的公式为,具体采样公式如下所示:
其中,π1为softmax函数,g1为耿贝尔分布函数,τ为值比较小的常数。
其中,特征图掩膜矩阵M(p)中的矩阵值为0或1。
步骤S404,将特征图掩模矩阵M(p)与人脸特征图p相乘,生成稀疏卷积特征图Y(p)。
上述的稀疏卷积特征图Y(p)为第三特征集。
其中,Y(p)=M(p)*p
步骤S405,采用插值方法对第二步输出的稀疏卷积特征图Y(p)中缺失的特征进行补全。
上述补全后的特征为第二特征集。
上述的插值公式如下所示:
W(p,i)=exp(-θ2||p-i||2)
步骤S406,利用对插值后的特征图进行识别,得到识别结果。
进一步地,可以利用插值后的特征图对神经网络模型进行训练,直至得到更加精确的神经网络模型。
步骤S407,采用稀疏损失函数监督整个网络模型训练。
上述的稀疏损失函数为目标损失函数。
稀疏损失函数公式如下:
Loss(x,y)=cosface(x,y)+∑i||π1||
其中,i表示稀疏卷积层数。
图5是根据本公开实施例的一种对象的识别装置的示意图,如图5所示,该装置包括:
获取模块502,用于获取待识别对象的第一特征集,其中,第一特征集表征待识别对象的原始生物特征;
采样模块504,用于对第一特征集进行特征采样处理,得到特征图矩阵,其中,特征图矩阵用于表征第一特征集中每个特征的权重值;
求积模块506,用于对第一特征集和特征图矩阵进行求积处理,得到第二特征集;
第一分析模块508,用于利用神经网络模型分析处理第二特征集,得到待识别对象的识别结果。
可选地,采样模块,包括:分类单元,用于利用第一预设函数对第一特征集进行分类处理,得到第一参数;对数处理单元,用于利用第二预设函数对第一参数进行对数处理,得到第二参数;分布单元,用于利用第三预设函数对第一特征集进行分布处理,得到第三参数;求和单元,用于对第二参数和第三参数进行求和处理,确定特征图矩阵。。
可选地,求和单元,包括:第一求和子单元,用于对第二参数和第三参数进行求和处理,得到第一和值;第一求商子单元,用于对第一和值和第一预设参数进行求商处理,得到第一商值;指数处理子单元,用于利用第四预设函数对第一商值进行指数处理,得到第四参数;第二求和子单元,用于对所第四参数进行归一化处理,得到归一化处理结果,对归一化处理结果进行求和处理,得到第二和值;第二求商子单元,用于对第一商值和第二和值进行求商处理,确定特征图矩阵。
可选地,求积模块,包括:求积单元,用于对第一特征集和特征图矩阵进行求积处理,得到第三特征;插值单元,用于利用第一特征集对第三特征进行插值处理,得到第二特征集。
可选地,插值单元,包括:求差子单元,用于对第一特征集和第二预设参数进行求差处理,得到第一差值;第一求积子单元,用于对第一差值的平方和第三预设参数进行求积处理,得到第一乘积;指数处理子单元,用于利用第四预设函数对第一乘积进行指数处理,得到第四特征;第二求积子单元,用于对第四特征和第一预设特征进行求积处理,得到第二乘积;第三求商子单元,用于对第二乘积和第四特征进行求商处理,得到第二特征集。
可选地,通过训练得到神经网络模型,该装置还包括:获取模块还用于获取第一特征集样本;第一输入模块,用于将第一特征集样本输入至待训练模型中,输出第二特征集样本;第二输入模块,用于将第二特征集样本输入至待训练模型中,得到神经网络模型。
可选地,该装置还包括:确定模块,用于确定第一特征集样本和第二特征集样本的第一损失函数;第一求和模块,用于利用第二预设参数对第二预设函数进行求和处理,得到第五参数;第二求和模块,用于对第一损失函数和第五参数进行求和处理,得到目标损失函数;处理模块,用于利用目标损失函数对神经网络模型进行处理,得到处理后的神经网络模型;第二分析模块,用于利用处理后的神经网络模型分析处理第二特征集,得到待识别对象的识别结果。
根据本公开实施例,还提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行上述任一对象的识别方法。
根据本公开实施例,还提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行上述任一对象的识别方法。
根据本公开实施例,还提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现上述实施例1中的对象的识别方法。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,设备600包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM 603中,还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口606也连接至总线604。
设备600中的多个部件连接至I/O接口606,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储单元608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理,例如方法XXX。例如,在一些实施例中,方法XXX可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM603并由计算单元601执行时,可以执行上文描述的方法XXX的一个或多个步骤。备选地,在其他实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行方法XXX。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (17)
1.一种对象的识别方法,包括:
获取待识别对象的第一特征集,其中,所述第一特征集表征所述待识别对象的原始生物特征;
对所述第一特征集进行特征采样处理,得到特征图矩阵,其中,所述特征图矩阵用于表征所述第一特征集中每个特征的权重值;
对所述第一特征集和所述特征图矩阵进行求积处理,得到第二特征集;
利用神经网络模型分析处理所述第二特征集,得到所述待识别对象的识别结果。
2.根据权利要求1所述的方法,其中,对所述第一特征集进行特征采样处理,得到特征图矩阵,包括:
利用第一预设函数对所述第一特征集进行分类处理,得到第一参数;
利用第二预设函数对所述第一参数进行对数处理,得到第二参数;
利用第三预设函数对所述第一特征集进行分布处理,得到第三参数;
对所述第二参数和第三参数进行求和处理,确定所述特征图矩阵。
3.根据权利要求2所述的方法,其中,对所述第二参数和第三参数进行求和处理,确定所述特征图矩阵,包括:
对所述第二参数和所述第三参数进行求和处理,得到第一和值;
对所述第一和值和所述第一预设参数进行求商处理,得到第一商值;
利用第四预设函数对所述第一商值进行指数处理,得到第四参数;
对所第四参数进行归一化处理,得到归一化处理结果,对所述归一化处理结果进行求和处理,得到第二和值;
对所述第一商值和所述第二和值进行求商处理,确定所述特征图矩阵。
4.根据权利要求1所述的方法,其中,对所述第一特征集和所述特征图矩阵进行求积处理,得到第二特征集,包括:
对所述第一特征集和所述特征图矩阵进行求积处理,得到第三特征;
利用所述第一特征集对所述第三特征进行插值处理,得到第二特征集。
5.根据权利要求4所述的方法,其中,对所述第三特征进行插值处理,得到第二特征集,包括:
对第一特征集和第二预设参数进行求差处理,得到第一差值;
对第一差值的平方和第三预设参数进行求积处理,得到第一乘积;
利用第四预设函数对所述第一乘积进行指数处理,得到第四特征;
对第四特征和第一预设特征进行求积处理,得到第二乘积;
对所述第二乘积和所述第四特征进行求商处理,得到第二特征集。
6.根据权利要求1所述的方法,还包括:
通过训练得到所述神经网络模型;
其中,通过训练得到所述神经网络模型,包括:
获取第一特征集样本;
将所述第一特征集样本输入至待训练模型中,输出第二特征集样本;
将所述第二特征集样本输入至所述待训练模型中,得到神经网络模型。
7.根据权利要求6所述的方法,还包括:
确定所述第一特征集样本和第二特征集样本的第一损失函数;
利用第二预设参数对第二预设函数进行求和处理,得到第五参数;
对所述第一损失函数和所述第五参数进行求和处理,得到目标损失函数;
利用所述目标损失函数对所述神经网络模型进行处理,得到处理后的神经网络模型;
利用所述处理后的神经网络模型分析处理第二特征集,得到待识别对象的识别结果。
8.一种对象的识别装置,包括:
获取模块,用于获取待识别对象的第一特征集,其中,所述第一特征集表征所述待识别对象的原始生物特征;
采样模块,用于对所述第一特征集进行特征采样处理,得到特征图矩阵,其中,所述特征图矩阵用于表征所述第一特征集中每个特征的权重值;
求积模块,用于对所述第一特征集和所述特征图矩阵进行求积处理,得到第二特征集;
第一分析模块,用于利用神经网络模型分析处理所述第二特征集,得到所述待识别对象的识别结果。
9.根据权利要求8所述的装置,采样模块,包括:
分类单元,用于利用第一预设函数对所述第一特征集进行分类处理,得到第一参数;
对数处理单元,用于利用第二预设函数对所述第一参数进行对数处理,得到第二参数;
分布单元,用于利用第三预设函数对所述第一特征集进行分布处理,得到第三参数;
求和单元,用于对所述第二参数和第三参数进行求和处理,确定所述特征图矩阵。
10.根据权利要求9所述的装置,求和单元,包括:
第一求和子单元,用于对所述第二参数和所述第三参数进行求和处理,得到第一和值;
第一求商子单元,用于对所述第一和值和所述第一预设参数进行求商处理,得到第一商值;
指数处理子单元,用于利用第四预设函数对所述第一商值进行指数处理,得到第四参数;
第二求和子单元,用于对所第四参数进行归一化处理,得到归一化处理结果,对所述归一化处理结果进行求和处理,得到第二和值;
第二求商子单元,用于对所述第一商值和所述第二和值进行求商处理,确定所述特征图矩阵。
11.根据权利要求10所述的装置,求积模块,包括:
求积单元,用于对所述第一特征集和所述特征图矩阵进行求积处理,得到第三特征;
插值单元,用于利用所述第一特征集对所述第三特征进行插值处理,得到第二特征集。
12.根据权利要求11所述的装置,插值单元,包括:
求差子单元,用于对第一特征集和第二预设参数进行求差处理,得到第一差值;
第一求积子单元,用于对第一差值的平方和第三预设参数进行求积处理,得到第一乘积;
指数处理子单元,用于利用第四预设函数对所述第一乘积进行指数处理,得到第四特征;
第二求积子单元,用于对第四特征和第一预设特征进行求积处理,得到第二乘积;
第三求商子单元,用于对所述第二乘积和所述第四特征进行求商处理,得到第二特征集。
13.根据权利要求8所述的装置,其中,通过训练得到所述神经网络模型,所述装置还包括:
所述获取模块还用于获取第一特征集样本;
第一输入模块,用于将所述第一特征集样本输入至待训练模型中,输出第二特征集样本;
第二输入模块,用于将所述第二特征集样本输入至所述待训练模型中,得到神经网络模型。
14.根据权利要求13所述的装置,还包括:
确定模块,用于确定所述第一特征集样本和第二特征集样本的第一损失函数;
第一求和模块,用于利用第二预设参数对第二预设函数进行求和处理,得到第五参数;
第二求和模块,用于对所述第一损失函数和所述第五参数进行求和处理,得到目标损失函数;
处理模块,用于利用所述目标损失函数对所述神经网络模型进行处理,得到处理后的神经网络模型;
第二分析模块,用于利用所述处理后的神经网络模型分析处理第二特征集,得到待识别对象的识别结果。
15.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。
17.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111003571.7A CN113807413B (zh) | 2021-08-30 | 2021-08-30 | 对象的识别方法、装置、电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111003571.7A CN113807413B (zh) | 2021-08-30 | 2021-08-30 | 对象的识别方法、装置、电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113807413A true CN113807413A (zh) | 2021-12-17 |
CN113807413B CN113807413B (zh) | 2024-02-06 |
Family
ID=78894411
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111003571.7A Active CN113807413B (zh) | 2021-08-30 | 2021-08-30 | 对象的识别方法、装置、电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113807413B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104463149A (zh) * | 2014-12-31 | 2015-03-25 | 中山大学 | 一种基于对数差分的图片人脸轮廓特征提取方法 |
CN110096630A (zh) * | 2019-05-06 | 2019-08-06 | 吉林农业大学 | 一类基于聚类分析的大数据处理方法 |
WO2020037937A1 (zh) * | 2018-08-20 | 2020-02-27 | 深圳壹账通智能科技有限公司 | 人脸识别的方法、装置、终端及计算机可读存储介质 |
CN110990393A (zh) * | 2019-12-17 | 2020-04-10 | 清华苏州环境创新研究院 | 一种行业企业数据异常行为的大数据识别方法 |
EP3754548A1 (en) * | 2019-06-17 | 2020-12-23 | Sap Se | A method for recognizing an object in an image using features vectors of an encoding neural network |
-
2021
- 2021-08-30 CN CN202111003571.7A patent/CN113807413B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104463149A (zh) * | 2014-12-31 | 2015-03-25 | 中山大学 | 一种基于对数差分的图片人脸轮廓特征提取方法 |
WO2020037937A1 (zh) * | 2018-08-20 | 2020-02-27 | 深圳壹账通智能科技有限公司 | 人脸识别的方法、装置、终端及计算机可读存储介质 |
CN110096630A (zh) * | 2019-05-06 | 2019-08-06 | 吉林农业大学 | 一类基于聚类分析的大数据处理方法 |
EP3754548A1 (en) * | 2019-06-17 | 2020-12-23 | Sap Se | A method for recognizing an object in an image using features vectors of an encoding neural network |
CN110990393A (zh) * | 2019-12-17 | 2020-04-10 | 清华苏州环境创新研究院 | 一种行业企业数据异常行为的大数据识别方法 |
Non-Patent Citations (1)
Title |
---|
陈果;周志锋;杨小波;王成;欧阳纯萍;: "基于人脸识别的商品推荐***的设计与实现", 计算机时代, no. 11 * |
Also Published As
Publication number | Publication date |
---|---|
CN113807413B (zh) | 2024-02-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115063875B (zh) | 模型训练方法、图像处理方法、装置和电子设备 | |
CN111488985A (zh) | 深度神经网络模型压缩训练方法、装置、设备、介质 | |
CN112861885B (zh) | 图像识别方法、装置、电子设备及存储介质 | |
CN112949767A (zh) | 样本图像增量、图像检测模型训练及图像检测方法 | |
CN112800919A (zh) | 一种检测目标类型视频方法、装置、设备以及存储介质 | |
CN113627361B (zh) | 人脸识别模型的训练方法、装置及计算机程序产品 | |
CN109064464B (zh) | 用于检测电池极片毛刺的方法和装置 | |
CN113191261B (zh) | 图像类别的识别方法、装置和电子设备 | |
CN113963197A (zh) | 图像识别方法、装置、电子设备和可读存储介质 | |
CN114120454A (zh) | 活体检测模型的训练方法、装置、电子设备及存储介质 | |
CN112580666A (zh) | 图像特征的提取方法、训练方法、装置、电子设备及介质 | |
CN116680401A (zh) | 文档处理方法、文档处理装置、设备及存储介质 | |
CN114724144B (zh) | 文本识别方法、模型的训练方法、装置、设备及介质 | |
CN114882334B (zh) | 用于生成预训练模型的方法、模型训练方法及装置 | |
US20220327803A1 (en) | Method of recognizing object, electronic device and storage medium | |
CN116363444A (zh) | 模糊分类模型训练方法、识别模糊图像的方法及装置 | |
CN113807413B (zh) | 对象的识别方法、装置、电子设备 | |
CN113989568A (zh) | 目标检测方法、训练方法、装置、电子设备以及存储介质 | |
CN114707638A (zh) | 模型训练、对象识别方法及装置、设备、介质和产品 | |
CN115116080A (zh) | 表格解析方法、装置、电子设备和存储介质 | |
CN114842489A (zh) | 表格解析方法及装置 | |
CN114612651A (zh) | Roi检测模型训练方法、检测方法、装置、设备和介质 | |
CN115809687A (zh) | 一种图像处理网络的训练方法及装置 | |
CN114078274A (zh) | 人脸图像检测方法、装置、电子设备以及存储介质 | |
CN113963011A (zh) | 图像识别方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |