CN109492601A - 人脸比对方法及装置、计算机可读介质和电子设备 - Google Patents
人脸比对方法及装置、计算机可读介质和电子设备 Download PDFInfo
- Publication number
- CN109492601A CN109492601A CN201811393300.5A CN201811393300A CN109492601A CN 109492601 A CN109492601 A CN 109492601A CN 201811393300 A CN201811393300 A CN 201811393300A CN 109492601 A CN109492601 A CN 109492601A
- Authority
- CN
- China
- Prior art keywords
- image
- facial image
- face
- facial
- comparison method
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种人脸比对方法及装置、计算机可读介质和电子设备,涉及图像处理技术领域。该人脸比对方法包括:确定第一人脸图像和第二人脸图像;将第一人脸图像与第二人脸图像拼接为目标图像;将目标图像输入一训练后的分类模型;将分类模型的输出结果与一分类阈值进行比较,如果输出结果大于等于分类阈值,则确定第一人脸图像和第二人脸图像对应同一用户。本发明可以精确地对人脸进行比对。
Description
技术领域
本发明涉及图像处理技术领域,具体而言,涉及一种人脸比对方法、人脸比对装置、计算机可读介质和电子设备。
背景技术
随着信息技术的快速发展以及各种场景中自动身份验证的迫切需求,生物特征识别技术得到了飞速的发展。其中,人脸识别作为一种非接触性的生物特征识别技术,已广泛应用到例如考勤、人证比对、酒店自助入住、会议签到、银行业务办理等场景中。
目前,针对人脸识别比对的过程,可以采用基于模板匹配的人脸识别方法、基于KL交换的人脸识别方法、隐马尔可夫模型方法、基于人脸纹理特征的方法等来实现。这些方法在一定程度上可以满足人脸比对的需要。然而,这些方法不具备自主学习功能,适应性和实用性均不佳,例如,轻微的光线变化就有可能导致识别不准确。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明的目的在于提供一种人脸比对方法、人脸比对装置、计算机可读介质和电子设备,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的人脸比对过程适应性和实用性不佳的问题。
根据本发明的一个方面,提供一种人脸比对方法,包括:确定第一人脸图像和第二人脸图像;将第一人脸图像与第二人脸图像拼接为目标图像;将目标图像输入一训练后的分类模型;将分类模型的输出结果与一分类阈值进行比较,如果输出结果大于等于分类阈值,则确定第一人脸图像和第二人脸图像对应同一用户。
可选地,确定第一人脸图像和第二人脸图像包括:获取第一原始图像和第二原始图像;分别对第一原始图像和第二原始图像进行人脸检测,以确定与第一原始图像对应的第一人脸图像以及与第二原始图像对应的第二人脸图像。
可选地,在将第一人脸图像与第二人脸图像拼接为目标图像之前,人脸比对方法还包括:分别对第一人脸图像和第二人脸图像进行光照归一化处理。
可选地,对第一人脸图像进行光照归一化处理包括:对第一人脸图像进行伽马变换;对伽马变换后的图像进行高斯差分滤波;对高斯差分滤波后的图像进行直方图均衡化处理。
可选地,将第一人脸图像与第二人脸图像拼接为目标图像包括:分别对第一人脸图像和第二人脸图像进行双线性插值处理,以将第一人脸图像和第二人脸图像缩放至相同的尺寸;将缩放后的第一人脸图像和第二人脸图像拼接为目标图像。
可选地,分类模型为一卷积神经网络;其中,卷积神经网络包括6个卷积池化层和3个全连接层。
可选地,6个卷积池化层中的每一卷积池化层均包括2个卷积层和1个最大池化层;其中,2个卷积层中的每一卷积层包括大小为3×3且步长为2的卷积核。
根据本发明的一个方面,提供一种人脸比对装置,该人脸比对装置可以包括图像确定模块、图像拼接模块、图像输入模块和结果比较模块。
具体的,图像确定模块可以用于确定第一人脸图像和第二人脸图像;图像拼接模块可以用于将第一人脸图像与第二人脸图像拼接为目标图像;图像输入模块可以用于将目标图像输入一训练后的分类模型;结果比较模块可以用于将分类模型的输出结果与一分类阈值进行比较,如果输出结果大于等于分类阈值,则确定第一人脸图像和第二人脸图像对应同一用户。
可选地,图像确定模块可以包括原始图像获取单元和人脸检测单元。
具体的,原始图像获取单元可以用于获取第一原始图像和第二原始图像;人脸检测单元可以用于分别对第一原始图像和第二原始图像进行人脸检测,以确定与第一原始图像对应的第一人脸图像以及与第二原始图像对应的第二人脸图像。
可选地,人脸比对装置还可以包括光照处理模块。
具体的,光照处理模块可以用于分别对第一人脸图像和第二人脸图像进行光照归一化处理。
可选地,光照处理模块可以包括第一处理单元、第二处理单元和第三处理单元。
具体的,第一处理单元可以用于对第一人脸图像进行伽马变换;第二处理单元可以用于对伽马变换后的图像进行高斯差分滤波;第三处理单元可以用于对高斯差分滤波后的图像进行直方图均衡化处理。
可选地,图像拼接模块可以包括图像压缩单元和图像拼接单元。
具体的,图像压缩单元可以用于分别对第一人脸图像和第二人脸图像进行双线性插值处理,以将第一人脸图像和第二人脸图像缩放至相同的尺寸;图像拼接单元可以用于将缩放后的第一人脸图像和第二人脸图像拼接为目标图像。
可选地,分类模型为一卷积神经网络;其中,卷积神经网络包括6个卷积池化层和3个全连接层。
可选地,6个卷积池化层中的每一卷积池化层均包括2个卷积层和1个最大池化层;其中,2个卷积层中的每一卷积层包括大小为3×3且步长为2的卷积核。
根据本发明的一个方面,提供一种计算机可读介质,其上存储有计算机程序,程序被处理器执行时实现如上述任意一项的人脸比对方法。
根据本发明的一个方面,提供一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器实现如上述任意一项的人脸比对方法。
在本发明的一些实施例所提供的技术方案中,将第一人脸图像与第二人脸图像拼接为目标图像,将目标图像输入一训练后的分类模型,并根据分类模型的输出结果确定第一人脸图像和第二人脸图像是否对应同一用户。本发明采用分类模型的思想进行人脸比对,将待比对的图像拼接成一个图像进行分类,速度快、精度高,避免了相关技术中人脸识别方法对图像进行特征提取以及特征相似度的判断过程。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了可以应用本发明实施例的人脸比对方法或人脸比对装置的示例性***架构的示意图;
图2示出了适于用来实现本发明实施例的电子设备的计算机***的结构示意图;
图3示意性示出了根据本发明的示例性实施方式的人脸比对方法的流程图;
图4示意性示出了根据本发明的示例性实施方式的卷积神经网络的结构图;
图5示意性示出了根据本发明的示例性实施方式的人脸比对方法所涉及步骤的整体流程图;
图6示出了第一原始图像和第二原始图像的示意图;
图7示出了根据本发明的示例性实施方式的对图6中所示的第一原始图像和第二原始图像进行人脸检测后的第一人脸图像和第二人脸图像的示意图;
图8示出了根据本发明的示例性实施例的对图7中所示的第一人脸图像和第二人脸图像进行光照归一化处理后的图像的示意图;
图9示出了根据本发明的示例性实施例的对图8中所示的光照归一化处理后的图像进行缩放并拼接为一张图像的示意图;
图10示意性示出了根据本发明的示例性实施方式的人脸对比装置的方框图;
图11示意性示出了根据本发明的示例性实施方式的图像确定模块的方框图;
图12示意性示出了根据本发明的另一示例性实施方式的人脸比对装置的方框图;
图13示意性示出了根据本发明的示例性实施方式的光照处理模块的方框图;
图14示意性示出了根据本发明的示例性实施方式的图像拼接模块的方框图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本发明的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本发明的各方面变得模糊。
此外,附图仅为本发明的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的步骤。例如,有的步骤还可以分解,而有的步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
图1示出了可以应用本发明实施例的人脸比对方法或人脸比对装置的示例性***架构的示意图。
如图1所示,***架构100可以包括终端设备101、102、103中的一种或多种,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、便携式计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器。例如,服务器105可以获取第一原始图像和第二原始图像,并分别对第一原始图像和第二原始图像进行人脸检测以确定对应的第一人脸图像和第二人脸图像;对第一人脸图像和第二人脸图像进行光照归一化处理;将光照归一化处理后的第一人脸图像和第二人脸图像进行拼接,以形成目标图像;将目标图像输入一训练后的分类模型,其中,该分类模型可以基于卷积神经网络来构建;将分类模型的输出结果与一分类阈值进行比较,如果输出结果大于等于该分类阈值,则可以确定第一原始图像与第二原始图像对应同一个用户。
在这种情况下,本发明所述的人脸比对装置一般设置在服务器105中。
然而,应当理解的是,本发明所提供的人脸比对方法还可以直接由终端设备101、102、103执行,也就是说,终端设备101、102、103可以直接利用采用下面描述的方法对人脸图像进行比对。在这种情况下,本发明可以不依靠服务器。相应地,视频图像处理装置也可以设置在移动设备101、102、103中。
图2示出了适于用来实现本发明实施例的电子设备的计算机***的结构示意图。
需要说明的是,图2示出的电子设备的计算机***200仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图2所示,计算机***200包括中央处理单元(CPU)201,其可以根据存储在只读存储器(ROM)202中的程序或者从存储部分208加载到随机访问存储器(RAM)203中的程序而执行各种适当的动作和处理。在RAM 203中,还存储有***操作所需的各种程序和数据。CPU201、ROM 202以及RAM 203通过总线204彼此相连。输入/输出(I/O)接口205也连接至总线204。
以下部件连接至I/O接口205:包括键盘、鼠标等的输入部分206;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分207;包括硬盘等的存储部分208;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分209。通信部分209经由诸如因特网的网络执行通信处理。驱动器210也根据需要连接至I/O接口205。可拆卸介质211,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器210上,以便于从其上读出的计算机程序根据需要被安装入存储部分208。
特别地,根据本发明的实施例,下文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分209从网络上被下载和安装,和/或从可拆卸介质211被安装。在该计算机程序被中央处理单元(CPU)201执行时,执行本申请的***中限定的各种功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如下述实施例中所述的方法。
基于身份验证的需要,生物特征识别技术得到了不断的发展。其中,人脸识别是一种非接触性技术,具有可视化、符合人们思维习惯的特点,基于此,人脸识别在商业、安全等领域得到广泛应用。随着人脸识别技术的发展,与其相关的技术广泛应用到人们生产生活的各个方面,不仅可以为人们的生活带来更多便利,也大大提升了人身、财产等方面的安全保障。由此可见,人脸识别技术具有广阔的前景。
人脸识别技术广泛采用区域特征分析方法,利用计算机图像处理技术从视频中提取人像特征点,利用生物统计学的原理进行分析建立数学模型。早期的人脸识别技术基于人脸几何的结构特征,随着高精度高性能计算机的出现,人脸识别技术得到了迅速的发展。如基于模板匹配的人脸识别方法、基于KL交换的人脸识别方法、隐马尔可夫模型方法、神经网络识别方法、基于人脸纹理特征的方法等。这些方法在图像采集条件理想、用户配合度高、中小规模正面人脸数据库的运算上识别性能较好。然而,这些方法均不具备自主学习功能,并且由于环境光的作用,综合导致这些方法适应性和实用性较差。
近年来,随着深度学习方法的兴起,特别是深度卷积神经网络研究的深入,大量的卷积神经网络模型被应用到图像理解和图像识别等方面。在下面描述的人脸比对方法及装置中,本发明在采用卷积神经网络模型的基础上确定人脸图像是否对应对应同一用户,以期解决上述相关技术中存在的问题。
图3示意性示出了本发明的示例性实施方式的人脸比对方法的流程图。参考图3,所述人脸比对方法可以包括以下步骤:
S32.确定第一人脸图像和第二人脸图像。
在本发明的示例性实施方式中,人脸图像可以是包含人脸的图片。以服务器实现本发明所述的人脸比对方法为例,第一人脸图像和第二人脸图像可以存储在一存储空间内,服务器可以例如基于第一人脸图像的标识以及第二人脸图像的标识从该存储空间内获取第一人脸图像和第二人脸图像。
第一人脸图像和第二人脸图像中的至少一个可以是用户通过例如手机的终端拍摄的照片,还可以是应用场景中摄像头拍摄到的照片,例如,街道上的监控摄像头。另外,第一人脸图像和第二人脸图像中的至少一个可以是基于用户证件照片(例如,身份证、工作证等)而得到的图片。本发明对第一人脸图像和第二人脸图像的来源不做特殊限制。此外,本发明对第一人脸图像和第二人脸图像的颜色、尺寸、所占存储空间的大小也不做特殊限制。
上述以人脸图像是图片为例进行说明。然而,本领域技术人员容易理解的是,第一人脸图像和第二人脸图像中的至少一个可以是截取视频中某一帧而生成的图像,例如,可以从用户手机拍摄的视频中截取包含人脸的一帧作为本发明所述的人脸图像。
应当理解的是,术语“第一”、“第二”仅是为了区分不同的人脸图像,这类属于不应作为本发明的限制。
根据本发明的一些实施例,图像中可能包含诸多与人脸无关的特征,例如,包含人物的风景照片中,大海、天空、沙滩即是与人脸无关的特征。在这种情况下,以服务器执行本发明的方法为例,步骤S32还可以包括以下内容:
首先,服务器可以获取第一原始图像(记为Iinput1)和第二原始图像(记为Iinput2)。其中,第一原始图像和第二原始图像可以是用户待比对的图像,例如,可以是两张通过手机拍摄的照片。
接下来,服务器可以分别对第一原始图像和第二原始图像进行人脸检测,以确定与第一原始图像对应的第一人脸图像(记为Iface1)以及与第二原始图像对应的第二人脸图像(记为Iface2)。
针对本发明中人脸检测的过程,可以采用Viola-Jones检测器来对原始图像进行人脸检测。具体的,首先,可以提取图像的Haar-like特征,该Haar-like特征反映了图像的灰度变化情况,例如:眼睛要比脸颊颜色深,鼻梁两侧比鼻梁颜色深,嘴巴比周围颜色深等。随后,可以结合级联Adaboost算法,获取人脸检测率。其中,Adaboost算法作为一种迭代算法,针对同一训练集训练不同的分类器,再将这些分类器结合起来以构建一最终分类器,通过该最终分类器可以确定出人脸检测率。接下来,服务器可以对人脸检测率满足要求的人脸图像进行实时显示并进行截取、保存。由此,可以基于第一原始图像Iinput1和第二原始图像Iinput2分别确定出第一人脸图像Iface1和第二人脸图像Iface2。
然而,应当理解的是,本发明还可以采用除Viola-Jones检测器外的其他检测方法或装置来实现由原始图像到人脸图像的转换,这些检测方法例如还可以包括基于SSD神经网络的检测方法等。
S34.将第一人脸图像与第二人脸图像拼接为目标图像。
在步骤S32确定出第一人脸图像和第二人脸图像后,根据本发明的一些实施例,可以分贝对第一人脸图像和第二人脸图像进行光照归一化处理,以剔除光照对人脸比对的影响。
针对光照归一化处理的过程,具体的,首先,可以分别对第一人脸图像Iface1和第二人脸图像Iface2进行伽马变换,以对过亮(例如,相机曝光过度)或过暗(例如,相机曝光不足)的图像进行修正。具体可以利用公式1来实现伽马变换:
公式1仅示出了针对第一人脸图像Iface1的伽马变换情况,本领域的技术人员可以容易地确定针对第二人脸图像Iface2的情况,本发明不再赘述。另外,公式1中的γ表示伽马系数,在本发明的示例性实施方式中,伽马系数γ的取值范围可以为0.15至0.3,优选地,伽马系数γ的取值可以为0.2。
接下来,可以对进行伽马处理后的图像进行高斯差分滤波,以降低图像的模糊度。具体可以利用公式2来实现高斯差分滤波:
类似地,公式2仅示出了针对第一人脸图像Iface1的高斯差分滤波后的结果,本领域的技术人员可以容易地确定针对第二人脸图像Iface2的情况,本发明不再赘述。另外,公式2中的和分别表示低频系数和高频系数。在本发明的示例性实施方式中,低频系数的取值范围可以为1至3,优先地,取值可以为2;高频系数的取值范围可以为0.3至0.6,优先地,取值可以为0.5。
随后,可以对高斯差分滤波后的图像进行直方图均衡化处理,以增强图像的对比度。具体可以利用公式3来实现直方图均衡化:
Iface1-li=FEQ(Iface1-dog) (公式3)
类似地,公式3仅示出了针对第一人脸图像Iface1的直方图均衡化处理结果,本领域的技术人员可以容易地确定出针对第二人脸图像Iface2的情况,本发明不再赘述。在公式3中,FEQ为直方图均衡化参数。另外,直方图均衡化像素映射可以采用公式4来实现:
其中,n是图像中像素的总和,nj是当前灰度级的像素个数,L是图像中可能的灰度级总数。
通过上述伽马变换、高斯差分滤波和直方图均衡化处理,可以对第一人脸图像和第二人脸图像进行光照归一化处理,以剔除光照对人脸比对的影响。
应当理解的是,采用上述光照归一化处理过程以剔除光照对人脸比对的影响仅是本发明的一个示例性实施方式。在不存在光照影响或光照影响较弱的场景下,可以不经历光照归一化处理而直接将第一人脸图像与第二人脸图像进行拼接。
在步骤S34中,服务器可以将光照归一化处理后的第一人脸图像与第二人脸图像进行拼接,以生成目标图像。
首先,可以分别对第一人脸图像和第二人脸图像进行双线性插值处理,以将第一人脸图像和第二人脸图像缩放至相同的尺寸。
具体的,双线性插值处理对应的公式如公式5所示:
其中,f(Qmn)表示点(xm,yn)的像素值。
通过如公式5所示的双线性插值处理,光照归一化后的第一人脸图像Iface1-li和第二人脸图像Iface2-li均可以被统一缩放至w*h的尺寸,其中,w可以指图像的宽度,h可以至图像的高度。
接下来,可以将缩放后的第一人脸图像和第二人脸图像拼接为目标图像。根据本发明的一些实施例,可以将缩放后的图像进行水平拼接,即生成尺寸为(2*w)*h的目标图像,在这种情况下,两张图像左右排列。根据另外一些实施例,还可以将缩放后的图像进行垂直拼接,即生成尺寸为w*(2*h)后的目标图像,在这种情况下,两张图像上下排列。
S36.将目标图像输入一训练后的分类模型。
在本发明的示例性实施方式中,分类模型可以为一卷积神经网络。下面将结合图4对本发明的卷积神经网络的结构进行说明。
参考图4,本发明所采用的卷积神经网络可以包括6个卷积池化层和3个全连接层。
具体的,卷积池化层1至卷积池化层6中的每一个卷积池化层均可以包括2个卷积层和1个最大池化层,其中,每一个卷积层均包括大小为3×3且步长为2的卷积核。
另外,全连接层1可以为2048维向量,其后具有激活函数层(即,Relu层);全连接层2可以为1024维向量,其后亦具有激活函数层;全连接层3可以为256维向量。全连接层3可以与softmax层连接,softmax层的输出即为分类结果。其中,激活函数选用Relu函数:f(x)=max(0,x),输出函数选用softmax函数:
本发明的人脸比对方法可以还包括对图4所示的卷积神经网络进行训练的方案。具体的,可以采用上述确定人脸图像、对图像进行光照归一化处理、将图像进行拼接等方式形成训练集,采用该训练集对卷积神经网络进行训练,以优化各卷积核的权重。
在确定出训练后的卷积神经网络后,而已将步骤S34中拼接形成的目标图像输入至该卷积神经网络。
应当理解的是,图4所示的卷积神经网络仅是示例性的,本发明还可以采用其他形式的网络结构来形成上述分类模型。
S38.将分类模型的输出结果与一分类阈值进行比较,如果输出结果大于等于分类阈值,则确定第一人脸图像和第二人脸图像对应同一用户。
在本发明的示例性实施方式中,分类模型(即上述卷积神经网络)输出的分类结果为0至1之间的浮点数,表示分类的相似度。分类阈值的取值范围可以为0.6至0.8。
在本发明的一些实施例中,可以将分类阈值设定为0.8。如果分类模型输出的分类结果大于等于0.8,则可以确定第一人脸图像和第二人脸图像对应同一用户。也就是说,上述第一原始图像和第二原始图像对应同一用户。另外,如果分类模型输出的分类结果小于0.8,则可以确定两张图像对应的是不同的用户。
此外,在训练上述分类模型时,如果拼接的图像是同一用户,则可以将该拼接的图像对应的样本标记为类别1;如果拼接的图像不是同一用户,则可以将拼接的图像对应的样本标记为类别0。在这种情况下,仍以分类阈值为0.8为例,如果目标图像的分类结果大于等于0.8,则为类别1;如果目标图像的分类结果小于0.8,则为类别0。应当理解的是,此处类别“1”和类别“0”仅是示例性的说明,还可以采用其他标识来表征不同的分类,本示例性实施方式中对此不做特殊限定。
下面将参考图5对本发明的人脸比对方法进行说明。参考图5,在步骤S512中,服务器可以对两张原始图像进行人脸检测,以确定两张人脸图像;在步骤S514中,服务器可以对两张人脸图像进行光照归一化处理,以剔除光照对图像的影响;在步骤S516中,可以对光照归一化处理后的两张人脸图像进行拼接,以得到目标图像;在步骤S518中,可以将目标图像输入训练后的卷积神经网络,以便对目标图像进行分类;在步骤S520中,可以确定出卷积神经网络输出的分类结果,如果分类结果为类别1,则在步骤S522中可以确定出两张原始图像对应同一用户;如果分类结果为类别0,则在步骤S524中可以确定出两张原始图像为不同的用户。
另外,本发明的人脸比对方法还可以包括对卷积神经网络进行训练的过程。仍参考图5,在步骤S502中,服务器可以对许多组原始图像进行人脸检测,以确定每组的人脸图像;在步骤S504中,可以对每组图像进行光照归一化处理;在步骤S506中,可以对每组图像进行拼接,以构建训练样本,进而构建训练集;在步骤S508中,构建卷积神经网络,并采用步骤S506中构建的训练集对该卷积神经网络进行训练;在步骤S510中,可以确定训练后的卷积神经网络。
应当理解的是,上面的描述仅示出了两张图像进行拼接的情况。然而,本领域技术人员可以利用本发明的构思实现三张以上图像的拼接、分类过程,以实现对三张以上图像的人脸比对过程。这种方案同样属于本发明的保护范围。
下面将参考图6至图9对本发明的人脸比对过程进行示例性说明。
图6示出了第一原始图像和第二原始图像的示意图;图7示出了对图6中两张原始图像进行人脸检测后的图像,分别记为第一人脸图像和第二人脸图像;图8示出了对图7中的人脸图像进行光照归一化处理后的图像;图9示出了对图8中的图像进行缩放、拼接后的图像,该图像即是上面所述的目标图像的一个实例。
在图6至图9所示实例中,分类模型的分类结果为:针对类别0的结果为0.1474,针对类别1的结果为0.8526。在分类阈值设定为0.8的情况下,可以确定图6中两张原始图像对应同一用户。
在本发明的人脸比对方法中,一方面,采用分类模型的思想进行人脸比对,将待比对的图像拼接成一个图像进行分类,速度快、精度高,避免了相关技术中人脸识别方法对图像进行特征提取以及特征相似度的判断过程;另一方面,对图像预先进行光照归一化处理,大大减小了光照对人脸识别的影响;再一方面,采用卷积神经网络的方法对拼接的图像进行分类,这种方式识别精度高且处理速度快。
应当注意,尽管在附图中以特定顺序描述了本发明中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
进一步的,本示例实施方式中还提供了一种人脸比对装置。
图10示意性示出了本发明的示例性实施方式的人脸比对装置的方框图。参考图10,根据本发明的示例性实施方式的人脸比对装置10可以包括图像确定模块101、图像拼接模块103、图像输入模块105和结果比较模块107。
具体的,图像确定模块101可以用于确定第一人脸图像和第二人脸图像;图像拼接模块103可以用于将第一人脸图像与第二人脸图像拼接为目标图像;图像输入模块105可以用于将目标图像输入一训练后的分类模型;结果比较模块107可以用于将分类模型的输出结果与一分类阈值进行比较,如果输出结果大于等于分类阈值,则确定第一人脸图像和第二人脸图像对应同一用户。
通过本发明的人脸比对装置,采用分类模型的思想进行人脸比对,将待比对的图像拼接成一个图像进行分类,速度快、精度高,避免了相关技术中人脸识别方法对图像进行特征提取以及特征相似度的判断过程。
根据本发明的示例性实施例,参考图11,图像确定模块101可以包括原始图像获取单元1101和人脸检测单元1103。
具体的,原始图像获取单元1101可以用于获取第一原始图像和第二原始图像;人脸检测单元1103可以用于分别对第一原始图像和第二原始图像进行人脸检测,以确定与第一原始图像对应的第一人脸图像以及与第二原始图像对应的第二人脸图像。
在本示例性实施例中,通过对人脸进行检测,可以大大缩小了人脸比对的范围,减少了计算量。
根据本发明的示例性实施例,参考图12,人脸比对装置12相比于人脸比对装置10,除包括图像确定模块101、图像拼接模块103、图像输入模块105和结果比较模块107外,还可以包括光照处理模块121。
具体的,光照处理模块121可以用于分别对第一人脸图像和第二人脸图像进行光照归一化处理。
根据本发明的示例性实施例,参考图13,光照处理模块121可以包括第一处理单元1301、第二处理单元1303和第三处理单元1305。
具体的,第一处理单元1301可以用于对第一人脸图像进行伽马变换;第二处理单元1303可以用于对伽马变换后的图像进行高斯差分滤波;第三处理单元1305可以用于对高斯差分滤波后的图像进行直方图均衡化处理。
通过对图像预先进行光照归一化处理,大大减小了光照对人脸识别的影响。
根据本发明的示例性实施例,参考图14,图像拼接模块103可以包括图像压缩单元1401和图像拼接单元1403。
具体的,图像压缩单元1401可以用于分别对第一人脸图像和第二人脸图像进行双线性插值处理,以将第一人脸图像和第二人脸图像缩放至相同的尺寸;图像拼接单元1403可以用于将缩放后的第一人脸图像和第二人脸图像拼接为目标图像。
根据本发明的示例性实施例,分类模型为一卷积神经网络;其中,卷积神经网络包括6个卷积池化层和3个全连接层。
根据本发明的示例性实施例,6个卷积池化层中的每一卷积池化层均包括2个卷积层和1个最大池化层;其中,2个卷积层中的每一卷积层包括大小为3×3且步长为2的卷积核。
采用卷积神经网络的方法对拼接的图像进行分类,这种方式识别精度高且处理速度快。
由于本发明实施方式的程序运行性能分析装置的各个功能模块与上述方法发明实施方式中相同,因此在此不再赘述。
此外,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其他实施例。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限。
Claims (10)
1.一种人脸比对方法,其特征在于,包括:
确定第一人脸图像和第二人脸图像;
将所述第一人脸图像与所述第二人脸图像拼接为目标图像;
将所述目标图像输入一训练后的分类模型;
将所述分类模型的输出结果与一分类阈值进行比较,如果所述输出结果大于等于所述分类阈值,则确定所述第一人脸图像和所述第二人脸图像对应同一用户。
2.根据权利要求1所述的人脸比对方法,其特征在于,确定第一人脸图像和第二人脸图像包括:
获取第一原始图像和第二原始图像;
分别对所述第一原始图像和所述第二原始图像进行人脸检测,以确定与所述第一原始图像对应的第一人脸图像以及与所述第二原始图像对应的第二人脸图像。
3.根据权利要求1所述的人脸比对方法,其特征在于,在将所述第一人脸图像与所述第二人脸图像拼接为目标图像之前,所述人脸比对方法还包括:
分别对所述第一人脸图像和所述第二人脸图像进行光照归一化处理。
4.根据权利要求3所述的人脸比对方法,其特征在于,对所述第一人脸图像进行光照归一化处理包括:
对所述第一人脸图像进行伽马变换;
对伽马变换后的图像进行高斯差分滤波;
对高斯差分滤波后的图像进行直方图均衡化处理。
5.根据权利要求1所述的人脸比对方法,其特征在于,将所述第一人脸图像与所述第二人脸图像拼接为目标图像包括:
分别对所述第一人脸图像和所述第二人脸图像进行双线性插值处理,以将所述第一人脸图像和所述第二人脸图像缩放至相同的尺寸;
将缩放后的所述第一人脸图像和所述第二人脸图像拼接为目标图像。
6.根据权利要求1所述的人脸比对方法,其特征在于,所述分类模型为一卷积神经网络;其中,所述卷积神经网络包括6个卷积池化层和3个全连接层。
7.根据权利要求6所述的人脸比对方法,其特征在于,所述6个卷积池化层中的每一卷积池化层均包括2个卷积层和1个最大池化层;其中,2个卷积层中的每一卷积层包括大小为3×3且步长为2的卷积核。
8.一种人脸比对装置,其特征在于,包括:
图像确定模块,用于确定第一人脸图像和第二人脸图像;
图像拼接模块,用于将所述第一人脸图像与所述第二人脸图像拼接为目标图像;
图像输入模块,用于将所述目标图像输入一训练后的分类模型;
结果比较模块,用于将所述分类模型的输出结果与一分类阈值进行比较,如果所述输出结果大于等于所述分类阈值,则确定所述第一人脸图像和所述第二人脸图像对应同一用户。
9.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至7中任一项所述的人脸比对方法。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1至7中任一项所述的人脸比对方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811393300.5A CN109492601A (zh) | 2018-11-21 | 2018-11-21 | 人脸比对方法及装置、计算机可读介质和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811393300.5A CN109492601A (zh) | 2018-11-21 | 2018-11-21 | 人脸比对方法及装置、计算机可读介质和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109492601A true CN109492601A (zh) | 2019-03-19 |
Family
ID=65697273
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811393300.5A Pending CN109492601A (zh) | 2018-11-21 | 2018-11-21 | 人脸比对方法及装置、计算机可读介质和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109492601A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110163169A (zh) * | 2019-05-27 | 2019-08-23 | 北京达佳互联信息技术有限公司 | 人脸识别方法、装置、电子设备及存储介质 |
CN110246133A (zh) * | 2019-06-24 | 2019-09-17 | 中国农业科学院农业信息研究所 | 一种玉米籽粒分类方法、装置、介质及设备 |
CN111798376A (zh) * | 2020-07-08 | 2020-10-20 | 泰康保险集团股份有限公司 | 图像识别方法、装置、电子设备及存储介质 |
CN112015966A (zh) * | 2020-10-19 | 2020-12-01 | 北京神州泰岳智能数据技术有限公司 | 一种图像搜索方法、装置、电子设备及存储介质 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101089874A (zh) * | 2006-06-12 | 2007-12-19 | 华为技术有限公司 | 一种远程人脸图像的身份识别方法 |
US20110002504A1 (en) * | 2006-05-05 | 2011-01-06 | New Jersey Institute Of Technology | System and/or method for image tamper detection |
CN102779273A (zh) * | 2012-06-29 | 2012-11-14 | 重庆邮电大学 | 一种基于局部对比模式的人脸识别方法 |
CN104281572A (zh) * | 2013-07-01 | 2015-01-14 | 中国科学院计算技术研究所 | 一种基于互信息的目标匹配方法及其*** |
CN205028305U (zh) * | 2015-07-14 | 2016-02-10 | 赵忠义 | 包裹条码智能识别装置 |
US20170127045A1 (en) * | 2015-10-28 | 2017-05-04 | Toppano Co., Ltd. | Image calibrating, stitching and depth rebuilding method of a panoramic fish-eye camera and a system thereof |
CN107103308A (zh) * | 2017-05-24 | 2017-08-29 | 武汉大学 | 一种基于由粗到细深度尺度学习的行人重识别方法 |
CN107122744A (zh) * | 2017-04-28 | 2017-09-01 | 武汉神目信息技术有限公司 | 一种基于人脸识别的活体检测***及方法 |
CN107273872A (zh) * | 2017-07-13 | 2017-10-20 | 北京大学深圳研究生院 | 用于图像或视频中行人重识别的深度判别网络模型方法 |
CN108288252A (zh) * | 2018-02-13 | 2018-07-17 | 北京旷视科技有限公司 | 图像批处理方法、装置及电子设备 |
CN108304788A (zh) * | 2018-01-18 | 2018-07-20 | 陕西炬云信息科技有限公司 | 基于深度神经网络的人脸识别方法 |
CN108509862A (zh) * | 2018-03-09 | 2018-09-07 | 华南理工大学 | 抗角度与遮挡干扰的快速人脸识别方法 |
-
2018
- 2018-11-21 CN CN201811393300.5A patent/CN109492601A/zh active Pending
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110002504A1 (en) * | 2006-05-05 | 2011-01-06 | New Jersey Institute Of Technology | System and/or method for image tamper detection |
CN101089874A (zh) * | 2006-06-12 | 2007-12-19 | 华为技术有限公司 | 一种远程人脸图像的身份识别方法 |
CN102779273A (zh) * | 2012-06-29 | 2012-11-14 | 重庆邮电大学 | 一种基于局部对比模式的人脸识别方法 |
CN104281572A (zh) * | 2013-07-01 | 2015-01-14 | 中国科学院计算技术研究所 | 一种基于互信息的目标匹配方法及其*** |
CN205028305U (zh) * | 2015-07-14 | 2016-02-10 | 赵忠义 | 包裹条码智能识别装置 |
US20170127045A1 (en) * | 2015-10-28 | 2017-05-04 | Toppano Co., Ltd. | Image calibrating, stitching and depth rebuilding method of a panoramic fish-eye camera and a system thereof |
CN107122744A (zh) * | 2017-04-28 | 2017-09-01 | 武汉神目信息技术有限公司 | 一种基于人脸识别的活体检测***及方法 |
CN107103308A (zh) * | 2017-05-24 | 2017-08-29 | 武汉大学 | 一种基于由粗到细深度尺度学习的行人重识别方法 |
CN107273872A (zh) * | 2017-07-13 | 2017-10-20 | 北京大学深圳研究生院 | 用于图像或视频中行人重识别的深度判别网络模型方法 |
CN108304788A (zh) * | 2018-01-18 | 2018-07-20 | 陕西炬云信息科技有限公司 | 基于深度神经网络的人脸识别方法 |
CN108288252A (zh) * | 2018-02-13 | 2018-07-17 | 北京旷视科技有限公司 | 图像批处理方法、装置及电子设备 |
CN108509862A (zh) * | 2018-03-09 | 2018-09-07 | 华南理工大学 | 抗角度与遮挡干扰的快速人脸识别方法 |
Non-Patent Citations (2)
Title |
---|
MINGFU XIONG, ET AL.: "Person re-identification via multiple coarse-to-fine deep metrics", 《ECAI"16 PROCEEDINGS OF THE TWENTY-SECOND EUROPEAN CONFERENCE ON ARTIFICIAL INTELLIGENCE》 * |
陈慧岩.: "《智能车辆理论与应用》", 31 July 2018 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110163169A (zh) * | 2019-05-27 | 2019-08-23 | 北京达佳互联信息技术有限公司 | 人脸识别方法、装置、电子设备及存储介质 |
CN110246133A (zh) * | 2019-06-24 | 2019-09-17 | 中国农业科学院农业信息研究所 | 一种玉米籽粒分类方法、装置、介质及设备 |
CN110246133B (zh) * | 2019-06-24 | 2021-05-07 | 中国农业科学院农业信息研究所 | 一种玉米籽粒分类方法、装置、介质及设备 |
CN111798376A (zh) * | 2020-07-08 | 2020-10-20 | 泰康保险集团股份有限公司 | 图像识别方法、装置、电子设备及存储介质 |
CN111798376B (zh) * | 2020-07-08 | 2023-10-17 | 泰康保险集团股份有限公司 | 图像识别方法、装置、电子设备及存储介质 |
CN112015966A (zh) * | 2020-10-19 | 2020-12-01 | 北京神州泰岳智能数据技术有限公司 | 一种图像搜索方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Khan et al. | Deep unified model for face recognition based on convolution neural network and edge computing | |
CN109359538B (zh) | 卷积神经网络的训练方法、手势识别方法、装置及设备 | |
EP3084682B1 (en) | System and method for identifying faces in unconstrained media | |
CN109492601A (zh) | 人脸比对方法及装置、计算机可读介质和电子设备 | |
CN109800744A (zh) | 图像聚类方法及装置、电子设备和存储介质 | |
CN109635627A (zh) | 图片信息提取方法、装置、计算机设备及存储介质 | |
CN109214343A (zh) | 用于生成人脸关键点检测模型的方法和装置 | |
CN110210276A (zh) | 一种移动轨迹获取方法及其设备、存储介质、终端 | |
CN112954450B (zh) | 视频处理方法、装置、电子设备和存储介质 | |
CN108388878A (zh) | 用于识别人脸的方法和装置 | |
CN109543714A (zh) | 数据特征的获取方法、装置、电子设备及存储介质 | |
CN106874826A (zh) | 人脸关键点跟踪方法和装置 | |
CN105488519B (zh) | 一种基于视频尺度信息的视频分类方法 | |
CN108509892A (zh) | 用于生成近红外图像的方法和装置 | |
CN111931592A (zh) | 对象识别方法、装置及存储介质 | |
CN108694719A (zh) | 图像输出方法和装置 | |
CN108280413A (zh) | 人脸识别方法和装置 | |
CN110458218A (zh) | 图像分类方法及装置、分类网络训练方法及装置 | |
CN107341464A (zh) | 一种用于提供交友对象的方法、设备及*** | |
CN114078275A (zh) | 表情识别方法、***及计算机设备 | |
US20230036338A1 (en) | Method and apparatus for generating image restoration model, medium and program product | |
CN110427915A (zh) | 用于输出信息的方法和装置 | |
CN115239860B (zh) | 表情数据生成方法、装置、电子设备及存储介质 | |
CN109920016A (zh) | 图像生成方法及装置、电子设备和存储介质 | |
CN108446658A (zh) | 用于识别人脸图像的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190319 |