CN109766925A - 特征融合方法、装置、电子设备及存储介质 - Google Patents
特征融合方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN109766925A CN109766925A CN201811565889.2A CN201811565889A CN109766925A CN 109766925 A CN109766925 A CN 109766925A CN 201811565889 A CN201811565889 A CN 201811565889A CN 109766925 A CN109766925 A CN 109766925A
- Authority
- CN
- China
- Prior art keywords
- feature
- image
- images
- dimension
- picture quality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Image Analysis (AREA)
Abstract
一种特征融合方法,所述方法包括:获取目标物体的多张图像;将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量;将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征;将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。本发明还提供一种特征融合装置、电子设备及存储介质。本发明能提高图像识别的效果。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种特征融合方法、装置、电子设备及存储介质。
背景技术
在视频识别场景中,通常会针对同一个目标进行多次抓拍,获得多张图像,并从每张图像中分别提取特征。由于针对同一个目标抓拍,获得的图像的数量较多,而且,抓拍出的图像在大小、光照、姿态、遮挡、表情等方面都不同,这使得在进行图像识别时,使用单一图像特征无法对图像的所有部分进行识别,图像识别的效果较差。
发明内容
鉴于以上内容,有必要提供一种特征融合方法、装置、电子设备及存储介质,能够提高图像识别的效果。
本发明的第一方面提供一种特征融合方法,所述方法包括:
获取目标物体的多张图像;
将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量;
将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征;
将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。
在一种可能的实现方式中,所述获取目标物体的多张图像包括:
从所述目标物体的视频中,抓拍出所述目标物体的多张图像;或
获取在不同时间拍摄的所述目标物体的多张图像。
在一种可能的实现方式中,当所述M=1时,所述将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征包括:
针对第j张所述图像,将第j张所述图像的图像质量与第j张所述图像的第i维图像特征进行相乘,获得第j张所述图像的第i维的子特征;
将多张所述图像的第i维的子特征进行求和,获得第i维的融合特征;
其中,i为正整数,j为正整数,且1≤i≤N,j≥1。
在一种可能的实现方式中,当所述M≥2,M=N时,所述将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征包括:
针对第j张所述图像,将第j张所述图像的第i维图像质量与第j张所述图像的第i维图像特征进行相乘,获得第j张所述图像的第i维的子特征;
将多张所述图像的第i维的子特征进行求和,获得第i维的特征和;
将多张所述图像的第i维图像质量进行求和,获得图像质量和;
将所述第i维的特征和除以所述图像质量和,获得第i维的融合特征;
其中,i为正整数,j为正整数,且1≤i≤N,j≥1。
在一种可能的实现方式中,所述方法还包括:
对所述融合特征进行归一化处理,获得最终特征。
在一种可能的实现方式中,所述获取目标物体的多张图像之前,所述方法还包括:
获取待训练物体的多张样本图像,以及获取所述待训练物体的多张标准图像;
将所述多张样本图像以及所述多张标准图像输入预先训练好的特征识别模型,获得所述待训练物体的图像特征;
将所述多张样本图像以及所述多张标准图像输入预设的训练模型,获得所述待训练物体的图像质量;
根据所述待训练物体的图像特征以及所述待训练物体的图像质量,计算所述待训练物体的融合特征;
将所述待训练物体的融合特征输入至预设的损失函数,获得损失值;
根据所述损失值,使用反向传播算法,更新所述训练模型的参数;
若所述损失函数的损失值达到收敛状态,确定更新参数后的训练模型为训练好的图像质量模型。
在一种可能的实现方式中,所述目标物体的多张图像的输入顺序以及图像数量对所述融合特征无影响。
本发明的第二方面提供一种特征融合装置,所述装置包括:
第一获取模块,用于获取目标物体的多张图像;
输入模块,用于将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量;
所述输入模块,还用于将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征;
计算模块,用于将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。
本发明的第三方面提供一种电子设备,所述电子设备包括处理器和存储器,所述处理器用于执行所述存储器中存储的计算机程序时实现所述的特征融合方法。
本发明的第四方面提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现所述的特征融合方法。
由以上技术方案,本发明中,可以先获取目标物体的多张图像,将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量,以及将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征,进一步地,可以将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。可见,本发明中,在获取到目标物体的多张图像后,可以通过图像质量模型以及特征识别模型提取多张图像的图像质量和图像特征,之后,再将所有图像的图像质量和图像特征进行加权求和,就可以获得融合特征,由于该融合特征是通过多张图像的多个图像特征和多个图像质量融合得到的,因此,该融合特征可以包括所述目标物体的所有特征,相对于单一图像特征而言,融合特征弥补了单一图像特征存在缺少所述目标物体的某些图像特征的缺陷,在进行图像识别时,使用融合特征,能够对图像进行全方位地识别,从而能够提高图像识别的效果,识别精度更高。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1是本发明公开的一种特征融合方法的较佳实施例的流程图。
图2是本发明公开的一种特征融合装置的较佳实施例的功能模块图。
图3是本发明实现特征融合方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施例对本发明进行详细描述。需要说明的是,在不冲突的情况下,本发明的实施例及实施例中的特征可以相互组合。
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中在本发明的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本发明。
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
本发明实施例的特征融合方法应用在电子设备中,也可以应用在电子设备和通过网络与所述电子设备进行连接的服务器所构成的硬件环境中,由服务器和电子设备共同执行。网络包括但不限于:广域网、城域网或局域网。
其中,所述电子设备包括一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的电子设备,其硬件包括但不限于微处理器、专用集成电路(ASIC)、可编程门阵列(FPGA)、数字处理器(DSP)、嵌入式设备等。所述电子设备还可包括网络设备和/或用户设备。其中,所述网络设备包括但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(Cloud Computing)的由大量主机或网络服务器构成的云,其中,云计算是分布式计算的一种,由一群松散耦合的计算机集组成的一个超级虚拟计算机。所述用户设备包括但不限于任何一种可与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理PDA、游戏机、交互式网络电视IPTV、智能式穿戴式设备等。其中,所述用户设备及网络设备所处的网络包括但不限于互联网、广域网、城域网、局域网、虚拟专用网络VPN等。
其中,服务器可以是指能对网络中其它设备(如电子设备)提供服务的计算机***。如果一个个人电脑能够对外提供文件传输协议(File Transfer Protocol,简称FTP)服务,也可以叫服务器。从狭义范围上讲,服务器专指某些高性能计算机,能通过网络,对外提供服务,其相对于普通的个人电脑来说,稳定性、安全性、性能等方面都要求更高,因此在CPU、芯片组、内存、磁盘***、网络等硬件和普通的个人电脑有所不同。
请参见图1,图1是本发明公开的一种特征融合方法的较佳实施例的流程图。其中,根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。
S11、电子设备获取目标物体的多张图像。
通常,对同一个物体(如目标物体)进行拍摄,由于光照、运动模糊、噪声、表情、姿态以及杂物遮挡等方面的不同,无论拍摄获得的是静态的照片,还是动态的视频,在不同时间的图像均是不同的。也就是说,在第一时间拍摄获得的照片与在第二时间拍摄获得的照片可能是不同的,在同一个视频中抓拍的同一个物体的两张图像也可能是不同的。
本发明实施例中,电子设备可以通过多种方式获取需要进行图像识别的目标物体的多张图像。其中,任意两张所述图像均存在不同的特征。
具体的,所述获取目标物体的多张图像包括:
从所述目标物体的视频中,抓拍出所述目标物体的多张图像;或
获取在不同时间拍摄的所述目标物体的多张图像。
在该可选的实施方式中,可以对所述目标物体进行拍摄,获得所述目标物体的视频,进一步地,从所述视频中抓拍出不同时间的所述目标物体的多张图像;或
可以在不同时间,对所述目标物体进行多次拍摄,获得多张图像。
S12、电子设备将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量。
其中,图像质量可以为M维,所述M为正整数。当M=1时,即图像的质量为1维,使用1个值表示图像质量的好坏,当M≥2时,图像的质量为多维,使用多个值(如1*M个值)表示图像在M个维度上的质量好坏。
本发明实施例中,图像质量模型可以用来衡量图像质量的好坏。将所述目标物体的多张图像输入预先训练好的图像质量模型,可以获得每张所述图像的M维图像质量。其中,所述多张图像的输入顺序以及图像数量均没有要求,即所述目标物体的图像可以以任意顺序输入至预先训练好的图像质量模型,同时,所述目标物体的图像的数量可以为任意数量。
其中,1维的图像质量模型的训练过程如下:
11)获取第一图像集合和第二图像集合,所述第一图像集合包括多张标准图像,所述第二图像集合包括至少一张样本图像,所述至少一张样本图像中的每张样本图像与所述多张标准图像中的至少一张标准图像包含相同元素;
12)确定所述至少一张样本图像中每张样本图像与所述多张标准图像中每张标准图像的相似度;
13)根据所述相似度,确定所述每张样本图像的质量分数;
14)将所述每张样本图像和所述质量分数输入待训练模型得到图像质量模型。
具体的,可以建立样本图像和该样本图像的质量分数的对应关系,并将每张样本图像和对应的质量分数作为训练样本。然后将训练样本输入待训练模型(如基于深度学习的训练模型)得到图像质量模型。其中,可以利用所得到的训练好的图像质量模型获取任意图像的1维质量分数。
其中,多维的图像质量模型的训练过程如下:
21)获取待训练物体的多张样本图像,以及获取所述待训练物体的多张标准图像;
22)将所述多张样本图像以及所述多张标准图像输入预先训练好的特征识别模型,获得所述待训练物体的图像特征;
23)将所述多张样本图像以及所述多张标准图像输入预设的训练模型,获得所述待训练物体的图像质量;
24)根据所述待训练物体的图像特征以及所述待训练物体的图像质量,计算所述待训练物体的融合特征;
25)将所述待训练物体的融合特征输入至预设的损失函数,获得损失值;
26)根据所述损失值,使用反向传播算法,更新所述训练模型的参数;
27)若所述损失函数的损失值达到收敛状态,确定更新参数后的训练模型为训练好的图像质量模型。
其中,所述样本图像可以为对所述待训练物体随意拍摄或者从视频中截取的图像,所述标准图像可以为所述待训练物体的证件照。特征识别模型采用预先训练好的,在此不再过多赘述。先预设一个训练模型,所述训练模型中的参数都是预先设定好的,然后对所述训练模型进行训练,更新参数,以获得图像质量模型。
其中,可以将获取的所述多张样本图像以及所述多张标准图像混合在一起,分成若干份。不同份数的图像集合形成的融合特征,可以按常规的识别特征训练方案构建损失函数,比如SoftMax(即归一化指数函数)、Contrastive(即对比损失函数)以及Triplet(即误差函数)等损失函数,当然也可以构建特有的损失函数。其中,如果使用SoftMax或Contrastive,需要将混合后的所述多张样本图像以及所述多张标准图像构分成n份,n≥2,每份中所含图像m张,m≥1,如果使用Triplet,需要将混合后的所述多张样本图像以及所述多张标准图像构分成n份,要求n≥3。
进一步地,可以将所述待训练物体的融合特征输入至预设的损失函数,计算损失值,并根据损失值,使用反向传播方法,更新所述训练模型的参数,并重复上述的训练步骤,继续训练,若损失函数的损失值达到收敛状态,则可以确定更新参数后的训练模型为训练好的图像质量模型。比如,损失值稳定在一个较小的值,或者,损失值在某个范围内小幅波动,均可以确定损失值达到收敛状态,可以结束训练,获得训练好的图像质量模型。
S13、电子设备将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征。
其中,所述多张图像的输入顺序以及图像数量均没有要求,即所述目标物体的图像可以以任意顺序输入至预先训练好的特征识别模型,同时,所述目标物体的图像的数量可以为任意数量。
S14、电子设备将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征。
其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。
本发明实施例中,有两种方式可以对所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征。
作为一种可选的实施方式,当所述M=1时,所述将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征包括:
针对第j张所述图像,将第j张所述图像的图像质量与第j张所述图像的第i维图像特征进行相乘,获得第j张所述图像的第i维的子特征;
将多张所述图像的第i维的子特征进行求和,获得第i维的融合特征;
其中,i为正整数,j为正整数,且1≤i≤N,j≥1。
其中,上述步骤可以用第一公式来描述,所述第一公式为:fi为第i维的融合特征,fj,i为第j张图像的第i维图像特征,qj为第j张图像的图像质量,K为图像的数量,K≥2,1≤i≤N,j≥1。
在该可选的实施方式中,每张所述目标物体的图像的质量是1维的,可以先针对每张所述图像,将所述图像的图像质量与所述图像的图像特征相乘,之后,在将所有相乘的结果进行求和,获得所述目标物体的融合特征。
其中,使用所述第一公式计算得到的融合特征的整个过程中,计算量少,计算简单,最后获得的融合特征能够提高图像识别的效果,但是,也容易将错误的信息添加进融合特征中。
举例来说,假设图像特征为3维,同一个目标物体有2张图像,第一张图像的图像特征为[0.5,0.3,0.2],其中,第3维的图像特征0.2是错误的,1维图像质量为0.5,多维图像质量为[1.0,1.0,0.0],第二张图像的图像特征为[0.2,0.3,0.5],其中,第1维的图像特征为0.2是错误的,1维图像质量为0.5,多维图像质量为[0.0,1.0,1.0]。当用1维质量特征融合方案时,按所述第一公式,第一张图像的第3维特征和第二张图像的第1维特征,都会乘以质量0.5形成最终的特征,因其本身是错误的,会将错误引入融合的特征。
可选的,还需要对所述融合特征进行归一化处理,获得最终特征。
其中,针对1维图像质量获得的融合特征,还需要采用第三公式对所述融合特征进行归一化处理。所述第三公式如下:
其中,对所述融合特征采用第三公式进行处理,可以使得融合特征的模为1,减少对整体的融合特征的影响。
作为一种可选的实施方式,当所述M≥2,M=N时,所述将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征包括:
针对第j张所述图像,将第j张所述图像的第i维图像质量与第j张所述图像的第i维图像特征进行相乘,获得第j张所述图像的第i维的子特征;
将多张所述图像的第i维的子特征进行求和,获得第i维的特征和;
将多张所述图像的第i维图像质量进行求和,获得图像质量和;
将所述第i维的特征和除以所述图像质量和,获得第i维的融合特征;
其中,i为正整数,j为正整数,且1≤i≤N,j≥1。
其中,上述步骤可以用第二公式来描述,所述第二公式为:
其中,fi为第i维的融合特征,fj,i为第j张图像的第i维图像特征,qj,i为第j张图像的第i维图像质量,K为图像的数量,K≥2,1≤i≤N,j≥1。
在该可选的实施方式中,每张所述目标物体的图像的质量是多维的,可以先针对每张所述图像,将所述图像的图像质量与所述图像的图像特征相乘,之后,在将所有相乘的结果进行求和,最后,在将求和的结果除以所述图像的图像质量之和,即对所述图像的图像质量进行归一化处理,这有利于减少图像质量的多维对最后获得的融合特征产生影响,使得最后获得的融合特征更加合理。
其中,使用所述第二公式计算得到的融合特征的整个过程中,计算量多,计算复杂,但是,最后获得的融合特征不会掺杂错误的信息,同时,最后获得的融合特征能够提高图像识别的效果。
举例来说,假设图像特征为3维,同一个目标物体有2张图像,第一张图像的图像特征为[0.5,0.3,0.2],其中,第3维的图像特征0.2是错误的,1维图像质量为0.5,多维图像质量为[1.0,1.0,0.0],第二张图像的图像特征为[0.2,0.3,0.5],其中,第1维的图像特征为0.2是错误的,1维图像质量为0.5,多维图像质量为[0.0,1.0,1.0]。当用多维质量特征融合方案时,按所述第二公式,第一张图像的第3维特征和第二张图像的第1维特征,都会乘以质量0.0,故不会对最终的特征造成影响。
可选的,还需要对所述融合特征进行归一化处理,获得最终特征。
其中,针对多维图像质量获得的融合特征,还需要采用第三公式对所述融合特征进行归一化处理。所述第三公式如下:
其中,对多维图像质量获得的所述融合特征采用第三公式进行处理,可以使得融合特征的模为1,减少对整体的融合特征的影响。
在图1所描述的方法流程中,可以先获取目标物体的多张图像,将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量,以及将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征,进一步地,可以将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。可见,本发明中,在获取到目标物体的多张图像后,可以通过图像质量模型以及特征识别模型提取多张图像的图像质量和图像特征,之后,再将所有图像的图像质量和图像特征进行加权求和,就可以获得融合特征,由于该融合特征是通过多张图像的多个图像特征和多个图像质量融合得到的,因此,该融合特征可以包括所述目标物体的所有特征,相对于单一图像特征而言,融合特征弥补了单一图像特征存在缺少所述目标物体的某些图像特征的缺陷,在进行图像识别时,使用融合特征,能够对图像进行全方位地识别,从而能够提高图像识别的效果,识别精度更高。
以上所述,仅是本发明的具体实施方式,但本发明的保护范围并不局限于此,对于本领域的普通技术人员来说,在不脱离本发明创造构思的前提下,还可以做出改进,但这些均属于本发明的保护范围。
请参见图2,图2是本发明公开的一种特征融合装置的较佳实施例的功能模块图。
在一些实施例中,所述特征融合装置运行于电子设备中。所述特征融合装置可以包括多个由程序代码段所组成的功能模块。所述特征融合装置中的各个程序段的程序代码可以存储于存储器中,并由至少一个处理器所执行,以执行图1所描述的特征融合方法中的部分或全部步骤,具体可以参照图1中的相关描述,在此不再赘述。
本实施例中,所述特征融合装置根据其所执行的功能,可以被划分为多个功能模块。所述功能模块可以包括:第一获取模块201、输入模块202及计算模块203。本发明所称的模块是指一种能够被至少一个处理器所执行并且能够完成固定功能的一系列计算机程序段,其存储在存储器中。在一些实施例中,关于各模块的功能将在后续的实施例中详述。
所述特征融合装置包括:
第一获取模块201,用于获取目标物体的多张图像;
输入模块202,用于将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量;
所述输入模块202,还用于将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征;
计算模块203,用于将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。
可选的,所述第一获取模块201获取目标物体的多张图像的方式具体为:
从所述目标物体的视频中,抓拍出所述目标物体的多张图像;或
获取在不同时间拍摄的所述目标物体的多张图像。
可选的,所述计算模块203将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征的方式具体为:
针对第j张所述图像,将第j张所述图像的图像质量与第j张所述图像的第i维图像特征进行相乘,获得第j张所述图像的第i维的子特征;
将多张所述图像的第i维的子特征进行求和,获得第i维的融合特征;
其中,i为正整数,j为正整数,且1≤i≤N,j≥1。
可选的,所述计算模块203将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征的方式具体为:
针对第j张所述图像,将第j张所述图像的第i维图像质量与第j张所述图像的第i维图像特征进行相乘,获得第j张所述图像的第i维的子特征;
将多张所述图像的第i维的子特征进行求和,获得第i维的特征和;
将多张所述图像的第i维图像质量进行求和,获得图像质量和;
将所述第i维的特征和除以所述图像质量和,获得第i维的融合特征;
其中,i为正整数,j为正整数,且1≤i≤N,j≥1。
可选的,所述特征融合装置还包括:
处理模块,用于对所述融合特征进行归一化处理,获得最终特征。
可选的,所述特征融合装置还包括:
第二获取模块,用于获取待训练物体的多张样本图像,以及获取所述待训练物体的多张标准图像;
所述输入模块202,还用于将所述多张样本图像以及所述多张标准图像输入预先训练好的特征识别模型,获得所述待训练物体的图像特征;
所述输入模块202,还用于将所述多张样本图像以及所述多张标准图像输入预设的训练模型,获得所述待训练物体的图像质量;
所述计算模块203,还用于根据所述待训练物体的图像特征以及所述待训练物体的图像质量,计算所述待训练物体的融合特征;
所述输入模块202,还用于将所述待训练物体的融合特征输入至预设的损失函数,获得损失值;
更新模块,用于根据所述损失值,使用反向传播算法,更新所述训练模型的参数;
确定模块,用于若所述损失函数的损失值达到收敛状态,确定更新参数后的训练模型为训练好的图像质量模型。
可选的,所述目标物体的多张图像的输入顺序以及图像数量对所述融合特征无影响。
在图2所描述的特征融合装置中,可以先获取目标物体的多张图像,将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量,以及将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征,进一步地,可以将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。可见,本发明中,在获取到目标物体的多张图像后,可以通过图像质量模型以及特征识别模型提取多张图像的图像质量和图像特征,之后,再将所有图像的图像质量和图像特征进行加权求和,就可以获得融合特征,由于该融合特征是通过多张图像的多个图像特征和多个图像质量融合得到的,因此,该融合特征可以包括所述目标物体的所有特征,相对于单一图像特征而言,融合特征弥补了单一图像特征存在缺少所述目标物体的某些图像特征的缺陷,在进行图像识别时,使用融合特征,能够对图像进行全方位地识别,从而能够提高图像识别的效果,识别精度更高。
如图3所示,图3是本发明实现特征融合方法的较佳实施例的电子设备的结构示意图。所述电子设备3包括存储器31、至少一个处理器32、存储在所述存储器31中并可在所述至少一个处理器32上运行的计算机程序33及至少一条通讯总线34。
本领域技术人员可以理解,图3所示的示意图仅仅是所述电子设备3的示例,并不构成对所述电子设备3的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述电子设备3还可以包括输入输出设备、网络接入设备等。
所述电子设备3还包括但不限于任何一种可与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)、游戏机、交互式网络电视(InternetProtocol Television,IPTV)、智能式穿戴式设备等。所述电子设备3所处的网络包括但不限于互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network,VPN)等。
所述至少一个处理器32可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。该处理器32可以是微处理器或者该处理器32也可以是任何常规的处理器等,所述处理器32是所述电子设备3的控制中心,利用各种接口和线路连接整个电子设备3的各个部分。
所述存储器31可用于存储所述计算机程序33和/或模块/单元,所述处理器32通过运行或执行存储在所述存储器31内的计算机程序和/或模块/单元,以及调用存储在存储器31内的数据,实现所述电子设备3的各种功能。所述存储器31可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备3的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器31可以包括高速随机存取存储器,还可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
结合图1,所述电子设备3中的所述存储器31存储多个指令以实现一种特征融合方法,所述处理器32可执行所述多个指令从而实现:
获取目标物体的多张图像;
将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量;
将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征;
将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。
在一种可选的实施方式中,所述获取目标物体的多张图像包括:
从所述目标物体的视频中,抓拍出所述目标物体的多张图像;或
获取在不同时间拍摄的所述目标物体的多张图像。
在一种可选的实施方式中,当所述M=1时,所述将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征包括:
针对第j张所述图像,将第j张所述图像的图像质量与第j张所述图像的第i维图像特征进行相乘,获得第j张所述图像的第i维的子特征;
将多张所述图像的第i维的子特征进行求和,获得第i维的融合特征;
其中,i为正整数,j为正整数,且1≤i≤N,j≥1。
在一种可选的实施方式中,当所述M≥2,M=N时,所述将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征包括:
针对第j张所述图像,将第j张所述图像的第i维图像质量与第j张所述图像的第i维图像特征进行相乘,获得第j张所述图像的第i维的子特征;
将多张所述图像的第i维的子特征进行求和,获得第i维的特征和;
将多张所述图像的第i维图像质量进行求和,获得图像质量和;
将所述第i维的特征和除以所述图像质量和,获得第i维的融合特征;
其中,i为正整数,j为正整数,且1≤i≤N,j≥1。
在一种可选的实施方式中,所述处理器32可执行所述多个指令从而实现:
对所述融合特征进行归一化处理,获得最终特征。
在一种可选的实施方式中,所述获取目标物体的多张图像之前,所述处理器32可执行所述多个指令从而实现:
获取待训练物体的多张样本图像,以及获取所述待训练物体的多张标准图像;
将所述多张样本图像以及所述多张标准图像输入预先训练好的特征识别模型,获得所述待训练物体的图像特征;
将所述多张样本图像以及所述多张标准图像输入预设的训练模型,获得所述待训练物体的图像质量;
根据所述待训练物体的图像特征以及所述待训练物体的图像质量,计算所述待训练物体的融合特征;
将所述待训练物体的融合特征输入至预设的损失函数,获得损失值;
根据所述损失值,使用反向传播算法,更新所述训练模型的参数;
若所述损失函数的损失值达到收敛状态,确定更新参数后的训练模型为训练好的图像质量模型。
在一种可选的实施方式中,所述目标物体的多张图像的输入顺序以及图像数量对所述融合特征无影响。
具体地,所述处理器32对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
在图3所描述的电子设备3中,可以先获取目标物体的多张图像,将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量,以及将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征,进一步地,可以将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。可见,本发明中,在获取到目标物体的多张图像后,可以通过图像质量模型以及特征识别模型提取多张图像的图像质量和图像特征,之后,再将所有图像的图像质量和图像特征进行加权求和,就可以获得融合特征,由于该融合特征是通过多张图像的多个图像特征和多个图像质量融合得到的,因此,该融合特征可以包括所述目标物体的所有特征,相对于单一图像特征而言,融合特征弥补了单一图像特征存在缺少所述目标物体的某些图像特征的缺陷,在进行图像识别时,使用融合特征,能够对图像进行全方位地识别,从而能够提高图像识别的效果,识别精度更高。
所述电子设备3集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
在本发明所提供的几个实施例中,应该理解到,所揭露的***,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。***权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种特征融合方法,其特征在于,所述方法包括:
获取目标物体的多张图像;
将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量;
将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征;
将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。
2.根据权利要求1所述的方法,其特征在于,所述获取目标物体的多张图像包括:
从所述目标物体的视频中,抓拍出所述目标物体的多张图像;或
获取在不同时间拍摄的所述目标物体的多张图像。
3.根据权利要求1所述的方法,其特征在于,当所述M=1时,所述将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征包括:
针对第j张所述图像,将第j张所述图像的图像质量与第j张所述图像的第i维图像特征进行相乘,获得第j张所述图像的第i维的子特征;
将多张所述图像的第i维的子特征进行求和,获得第i维的融合特征;
其中,i为正整数,j为正整数,且1≤i≤N,j≥1。
4.根据权利要求1所述的方法,其特征在于,当所述M≥2,M=N时,所述将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征包括:
针对第j张所述图像,将第j张所述图像的第i维图像质量与第j张所述图像的第i维图像特征进行相乘,获得第j张所述图像的第i维的子特征;
将多张所述图像的第i维的子特征进行求和,获得第i维的特征和;
将多张所述图像的第i维图像质量进行求和,获得图像质量和;
将所述第i维的特征和除以所述图像质量和,获得第i维的融合特征;
其中,i为正整数,j为正整数,且1≤i≤N,j≥1。
5.根据权利要求1至4任一项所述的方法,其特征在于,所述方法还包括:
对所述融合特征进行归一化处理,获得最终特征。
6.根据权利要求1至4任一项所述的方法,其特征在于,所述获取目标物体的多张图像之前,所述方法还包括:
获取待训练物体的多张样本图像,以及获取所述待训练物体的多张标准图像;
将所述多张样本图像以及所述多张标准图像输入预先训练好的特征识别模型,获得所述待训练物体的图像特征;
将所述多张样本图像以及所述多张标准图像输入预设的训练模型,获得所述待训练物体的图像质量;
根据所述待训练物体的图像特征以及所述待训练物体的图像质量,计算所述待训练物体的融合特征;
将所述待训练物体的融合特征输入至预设的损失函数,获得损失值;
根据所述损失值,使用反向传播算法,更新所述训练模型的参数;
若所述损失函数的损失值达到收敛状态,确定更新参数后的训练模型为训练好的图像质量模型。
7.根据权利要求1至4中任一项所述的方法,其特征在于,所述目标物体的多张图像的输入顺序以及图像数量对所述融合特征无影响。
8.一种特征融合装置,其特征在于,所述特征融合装置包括:
第一获取模块,用于获取目标物体的多张图像;
输入模块,用于将所述多张图像输入预先训练好的图像质量模型,获得每张所述图像的M维图像质量;
所述输入模块,还用于将所述多张图像输入预先训练好的特征识别模型,获得每张所述图像的N维图像特征;
计算模块,用于将所述M维图像质量与所述N维图像特征进行加权求和,获得融合特征;其中,所述M为正整数,所述N为正整数,当所述M=1时,N≥2,当所述M≥2时,M=N。
9.一种电子设备,其特征在于,所述电子设备包括处理器和存储器,所述处理器用于执行存储器中存储的计算机程序以实现如权利要求1至7中任意一项所述的特征融合方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有至少一个指令,所述至少一个指令被处理器执行时实现如权利要求1至7任意一项所述的特征融合方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811565889.2A CN109766925B (zh) | 2018-12-20 | 2018-12-20 | 特征融合方法、装置、电子设备及存储介质 |
PCT/CN2019/114733 WO2020125229A1 (zh) | 2018-12-20 | 2019-10-31 | 特征融合方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811565889.2A CN109766925B (zh) | 2018-12-20 | 2018-12-20 | 特征融合方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109766925A true CN109766925A (zh) | 2019-05-17 |
CN109766925B CN109766925B (zh) | 2021-05-11 |
Family
ID=66450775
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811565889.2A Active CN109766925B (zh) | 2018-12-20 | 2018-12-20 | 特征融合方法、装置、电子设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN109766925B (zh) |
WO (1) | WO2020125229A1 (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020125229A1 (zh) * | 2018-12-20 | 2020-06-25 | 深圳云天励飞技术有限公司 | 特征融合方法、装置、电子设备及存储介质 |
CN112257638A (zh) * | 2020-10-30 | 2021-01-22 | 重庆紫光华山智安科技有限公司 | 一种图像比对方法、***、设备及计算机可读存储介质 |
CN113255630A (zh) * | 2021-07-15 | 2021-08-13 | 浙江大华技术股份有限公司 | 一种运动目标识别训练方法、运动目标识别方法及装置 |
CN113269149A (zh) * | 2021-06-24 | 2021-08-17 | 中国平安人寿保险股份有限公司 | 活体人脸图像的检测方法、装置、计算机设备及存储介质 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112434744B (zh) * | 2020-11-27 | 2023-05-26 | 北京奇艺世纪科技有限公司 | 一种多模态特征融合模型的训练方法及装置 |
CN112907728B (zh) * | 2021-01-27 | 2023-04-11 | 北京邮电大学 | 基于摄像头和边缘计算的船舶场景还原和定位方法及*** |
CN114092804A (zh) * | 2021-11-06 | 2022-02-25 | 支付宝(杭州)信息技术有限公司 | 遥感图像的识别方法和装置 |
CN115641330B (zh) * | 2022-11-17 | 2023-06-30 | 东莞市众嘉印刷有限公司 | 一种基于图像处理的软性线路板缺陷检测方法及*** |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101706951A (zh) * | 2009-11-20 | 2010-05-12 | 上海电机学院 | 一种基于特征融合的气动光学图像质量客观评价方法、装置及*** |
US20130216284A1 (en) * | 2012-02-22 | 2013-08-22 | Kyocera Document Solutions Inc. | Fuser device and image forming apparatus provided with same |
CN108351961A (zh) * | 2015-09-11 | 2018-07-31 | 眼验股份有限公司 | 图像及特征质量、用于眼部血管及面部识别的图像增强及特征提取及针对生物识别***融合眼部血管与面部及/或子面部信息 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101673403B (zh) * | 2009-10-10 | 2012-05-23 | 安防制造(中国)有限公司 | 复杂干扰场景下的目标跟踪方法 |
CN105719239A (zh) * | 2016-01-21 | 2016-06-29 | 科盾科技股份有限公司 | 一种用于图像拼接的方法及装置 |
CN106600536B (zh) * | 2016-12-14 | 2020-02-14 | 同观科技(深圳)有限公司 | 一种视频图像超分辨率重建方法及装置 |
CN108122219B (zh) * | 2017-11-30 | 2019-10-18 | 西北工业大学 | 基于联合稀疏与非负稀疏的红外与可见光图像融合方法 |
CN109766925B (zh) * | 2018-12-20 | 2021-05-11 | 深圳云天励飞技术有限公司 | 特征融合方法、装置、电子设备及存储介质 |
-
2018
- 2018-12-20 CN CN201811565889.2A patent/CN109766925B/zh active Active
-
2019
- 2019-10-31 WO PCT/CN2019/114733 patent/WO2020125229A1/zh active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101706951A (zh) * | 2009-11-20 | 2010-05-12 | 上海电机学院 | 一种基于特征融合的气动光学图像质量客观评价方法、装置及*** |
US20130216284A1 (en) * | 2012-02-22 | 2013-08-22 | Kyocera Document Solutions Inc. | Fuser device and image forming apparatus provided with same |
CN108351961A (zh) * | 2015-09-11 | 2018-07-31 | 眼验股份有限公司 | 图像及特征质量、用于眼部血管及面部识别的图像增强及特征提取及针对生物识别***融合眼部血管与面部及/或子面部信息 |
Non-Patent Citations (3)
Title |
---|
冯思为,陈蕾,王加俊: "一种自适应特征分块加权的图像检索方法", 《计算机技术与发展》 * |
戴芬: "基于嵌入式隐Markov模型的人脸识别", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
肖宾杰: "基于图像质量加权的D-S证据理论多生物特征融合识别", 《计算机应用》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020125229A1 (zh) * | 2018-12-20 | 2020-06-25 | 深圳云天励飞技术有限公司 | 特征融合方法、装置、电子设备及存储介质 |
CN112257638A (zh) * | 2020-10-30 | 2021-01-22 | 重庆紫光华山智安科技有限公司 | 一种图像比对方法、***、设备及计算机可读存储介质 |
CN113269149A (zh) * | 2021-06-24 | 2021-08-17 | 中国平安人寿保险股份有限公司 | 活体人脸图像的检测方法、装置、计算机设备及存储介质 |
CN113269149B (zh) * | 2021-06-24 | 2024-06-07 | 中国平安人寿保险股份有限公司 | 活体人脸图像的检测方法、装置、计算机设备及存储介质 |
CN113255630A (zh) * | 2021-07-15 | 2021-08-13 | 浙江大华技术股份有限公司 | 一种运动目标识别训练方法、运动目标识别方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN109766925B (zh) | 2021-05-11 |
WO2020125229A1 (zh) | 2020-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109766925A (zh) | 特征融合方法、装置、电子设备及存储介质 | |
CN108197532B (zh) | 人脸识别的方法、装置及计算机装置 | |
CN108960090A (zh) | 视频图像处理方法及装置、计算机可读介质和电子设备 | |
CN109685121A (zh) | 图像检索模型的训练方法、图像检索方法、计算机设备 | |
US20190108424A1 (en) | System and method for facilitating logo-recognition training of a recognition model | |
CN110378348A (zh) | 视频实例分割方法、设备及计算机可读存储介质 | |
CN112380453B (zh) | 物品推荐方法、装置、存储介质及设备 | |
CN111739016A (zh) | 目标检测模型训练方法、装置、电子设备及存储介质 | |
CN110119733A (zh) | 书页识别方法及装置、终端设备、计算机可读存储介质 | |
KR101642200B1 (ko) | 객체의 움직임 분석을 이용한 모션 효과 생성 장치 및 방법 | |
Ge et al. | Neural-sim: Learning to generate training data with nerf | |
CN111709382A (zh) | 人体轨迹处理方法、装置、计算机存储介质以及电子设备 | |
CN108447064A (zh) | 一种图片处理方法及装置 | |
CN109685805A (zh) | 一种图像分割方法及装置 | |
CN113570685A (zh) | 图像处理方法及装置、电子设备、存储介质 | |
CN110807379A (zh) | 一种语义识别方法、装置、以及计算机存储介质 | |
CN112989186A (zh) | 资讯信息推荐模型训练方法、装置、电子设备及存储介质 | |
Yu et al. | Unbiased multi-modality guidance for image inpainting | |
CN109408669A (zh) | 一种针对不同应用场景的内容审核方法及装置 | |
CN117314561A (zh) | 一种元宇宙产品推荐方法、装置及计算机可读存储介质 | |
CN117014693A (zh) | 视频处理方法、装置、设备以及存储介质 | |
He | [Retracted] Multimedia Vision Improvement and Simulation in Consideration of Virtual Reality Reconstruction Algorithms | |
CN111882415A (zh) | 一种质量检测模型的训练方法和相关装置 | |
CN110033098A (zh) | 在线gbdt模型学习方法及装置 | |
CN117830537B (zh) | 一种弱监督的3d场景图生成方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |