CN106909873A - 人脸识别的方法和装置 - Google Patents
人脸识别的方法和装置 Download PDFInfo
- Publication number
- CN106909873A CN106909873A CN201610453316.5A CN201610453316A CN106909873A CN 106909873 A CN106909873 A CN 106909873A CN 201610453316 A CN201610453316 A CN 201610453316A CN 106909873 A CN106909873 A CN 106909873A
- Authority
- CN
- China
- Prior art keywords
- image
- target face
- face
- dimensional
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本发明实施例提供一种人脸识别的方法和装置。所述方法包括:分别获取目标人脸的三维点云图像和二维图像;根据所述目标人脸的三维点云图像和二维图像进行特征提取得到所述目标人脸的基础面部特征,并对所述目标人脸的基础面部特征进行特征约简处理,得到所述目标人脸的面部特征;将所述目标人脸面部特征与预先存储的人脸特征数据库中的面部特征进行匹配,得到所述目标人脸的识别结果。本发明实施例中,通过综合考虑三维点云图像和二维图像的各自优势,并以此进行人脸识别,从而提高人脸识别的实时性和人脸识别的精度,且对变化的人脸表情具有一定的鲁棒性。
Description
技术领域
本发明涉及计算机视觉技术,尤其涉及一种人脸识别的方法和装置。
背景技术
随着计算机技术、网络技术和信息技术的飞速发展,身份识别已在多个领域(如信息安全以及涉及到隐私和权限的领域)显示出前所未有的重要性。人脸作为生物特征识别具有不会遗失、不易被复制、采集方便、唯一性、不被察觉等优点,正越来越受到人们的重视。
通常,人脸识别***主要包括人脸图像预处理(人脸的定位、检测和标准化处理)、特征提取和选择、识别结果输出等。人脸识别主要是基于二维图像的人脸识别,具体如基于多图像的方法进行人脸识别,具体通过摄像机对同一目标采集不同角度的多幅图像或者图像序列,然后利用图像处理技术确定上述图像之间的匹配关系,进而得到该目标的三维形状,以此得到目标人脸的图像,并基于目标人脸的图像进行特征提取,得到相应的面部特征,基于得到的面部特征与面部特征数据库中的面部特征的对比进行人脸识别。然而,上述人脸识别方法中,二维图像对光照、姿态、表情、年龄等的变化适应性较差,从而使得人脸识别的实时性较差,人脸识别精度较低,且对变化的人脸表情的鲁棒性较差。
发明内容
本发明的目的在于,提供一种人脸识别的方法,以及实现该方法的装置,从而提高人脸识别的实时性和人脸识别的精度,且对变化的人脸表情具有一定的鲁棒性。
根据本发明的一方面,提供一种人脸识别的方法。所述方法包括,分别获取目标人脸的三维点云图像和二维图像;根据所述目标人脸的三维点云图像和二维图像进行特征提取得到所述目标人脸的基础面部特征,并对所述目标人脸的基础面部特征进行特征约简处理,得到所述目标人脸的面部特征;将所述目标人脸的面部特征与预先存储的人脸特征数据库中的面部特征进行匹配,得到所述目标人脸的识别结果。
优选地,所述面部特征至少包括光谱特征、纹理特征和外观特征,所述根据所述目标人脸的三维点云图像和二维图像进行特征提取得到所述目标人脸的面部特征的处理包括:根据所述目标人脸的三维点云图像和二维图像,确定所述目标人脸的融合图像;对所述目标人脸的融合图像进行光谱特征提取和纹理特征提取,分别得到所述目标人脸的融合图像的光谱特征和纹理特征,并对所述目标人脸的三维点云图像进行特征提取,得到所述目标人脸的外观特征。
优选地,所述二维图像包括第一图像和第二图像,其中,所述第一图像为基于激光成像方式得到的图像,所述第二图像为基于光学被动成像方式得到的图像,所述根据所述目标人脸的三维点云图像和二维图像,确定所述目标人脸的融合图像的处理包括:根据所述第一图像和第二图像中包含的像素信息确定所述目标人脸的像素级融合图像;根据所述目标人脸的三维点云图像和所述第一图像,以及所述目标人脸的像素级融合图像,确定所述目标人脸的融合图像。
优选地,所述分别获取目标人脸的三维点云图像和二维图像之后,所述方法还包括:分别对所述目标人脸的三维点云图像和二维图像进行图像降噪预处理,分别得到预处理后的三维点云图像和二维图像。
优选地,所述方法还包括:如果所述目标人脸的识别结果指示预先存储的人脸特征数据库中不包括所述目标人脸的面部特征,则将所述目标人脸的面部特征存储到所述人脸特征数据库中。
根据本发明的另一方面,提供一种人脸识别的装置。所述装置包括:图像获取模块,用于分别获取目标人脸的三维点云图像和二维图像;面部特征提取模块,用于根据所述目标人脸的三维点云图像和二维图像进行特征提取得到所述目标人脸的基础面部特征,并对所述目标人脸的基础面部特征进行特征约简处理,得到所述目标人脸的面部特征;识别结果输出模块,用于将所述目标人脸的面部特征与预先存储的人脸特征数据库中的面部特征进行匹配,得到所述目标人脸的识别结果。
优选地,所述面部特征提取模块包括:融合图像确定单元,用于根据所述目标人脸的三维点云图像和二维图像,确定所述目标人脸的融合图像;特征提取单元,用于对所述目标人脸的融合图像进行光谱特征提取和纹理特征提取,分别得到所述目标人脸的融合图像的光谱特征和纹理特征,并对所述目标人脸的三维点云图像进行特征提取,得到所述目标人脸的外观特征。
优选地,所述二维图像包括第一图像和第二图像,其中,所述第一图像为基于激光成像方式得到的图像,所述第二图像为基于光学被动成像方式得到的图像,所述融合图像确定单元,用于根据所述第一图像和第二图像中包含的像素信息确定所述目标人脸的像素级融合图像;根据所述目标人脸的三维点云图像和所述第一图像,以及所述目标人脸的像素级融合图像,确定所述目标人脸的融合图像。
优选地,所述装置还包括:预处理模块,用于分别对所述目标人脸的三维点云图像和二维图像进行图像降噪预处理,分别得到预处理后的三维点云图像和二维图像。
优选地,所述装置还包括:面部特征存储模块,用于如果所述目标人脸的识别结果指示预先存储的人脸特征数据库中不包括所述目标人脸的面部特征,则将所述目标人脸的面部特征存储到所述人脸特征数据库中。
根据本发明实施例提供的人脸识别的方法和装置,通过对分别获取目标人脸的三维点云图像和二维图像进行特征提取,得到目标人脸的多种类型的基础面部特征,并对目标人脸的基础面部特征进行特征约简处理,去除目标人脸的大量冗余特征得到最能反映人脸本质的面部特征,并通过与预先存储的人脸特征数据库中的面部特征进行匹配,得到目标人脸的识别结果,从而综合考虑三维点云图像和二维图像的各自优势,并以此进行人脸识别,进而提高人脸识别的实时性和人脸识别的精度,且对变化的人脸表情的具有一定的鲁棒性。
附图说明
图1是示出根据本发明实施例一的人脸识别的方法的流程图;
图2是示出根据本发明实施例二的人脸识别的方法的流程图;
图3是示出根据本发明实施例三的人脸识别的装置的逻辑框图;
图4是示出根据本发明实施例四的人脸识别的装置的一种逻辑框图;
图5是示出根据本发明实施例四的人脸识别的装置的另一种逻辑框图;
图6是示出根据本发明实施例四的人脸识别的装置的又一种逻辑框图。
具体实施方式
本方案的发明构思是,通过对分别获取目标人脸的三维点云图像和二维图像进行特征提取,得到目标人脸的多种类型的基础面部特征,并对目标人脸的基础面部特征进行特征约简处理,去除目标人脸的大量冗余特征得到最能反映人脸本质的面部特征,并通过与预先存储的人脸特征数据库中的面部特征进行匹配,得到目标人脸的识别结果,从而综合考虑三维点云图像和二维图像的各自优势,并以此进行人脸识别,进而提高人脸识别的实时性和人脸识别的精度,且对变化的人脸表情的具有一定的鲁棒性。
下面结合附图详细描述本发明的示例性实施例。
实施例一
图1是示出根据本发明实施例一的人脸识别的方法的流程图。通过包括如图3所示的装置执行所述方法。
参照图1,在步骤S110,分别获取目标人脸的三维点云图像和二维图像。
其中,三维点云图像可以是以点的形式记录物体结构的数据,每一个点包含有三维坐标,三维点云图像中包含有所述物体的几何结构信息。二维图像是借助物体的温度或通过激光脉冲回波的强弱或外界的光照、亮度和颜色等因素形成的平面图像,二维图像中包含有图像的灰度信息,但是无法记录物体的三维结构或几何结构等。
在实施中,考虑到三维图像不易受到光照等因素的影响,且其中包含有物体的几何结构信息,而二维图像中包含有光照、亮度和颜色等信息,因此三维图像和二维图像具有各自的优势,基于此,本发明实施例提出可以通过将三维图像和二维图像进行融合,从而从中提取出更多的有用信息。具体地,如果需要采集某指定区域内的来往行人,可以选择相应的位置安装用于拍摄某指定区域内的图像的传感器(例如激光雷达主动成像传感器等)和用于拍摄所述指定区域的二维图像的传感器(例如光学被动传感器等),其中,激光雷达主动成像传感器可以同时获得由激光脉冲回波的强弱而形成的指定区域的二维强度图像,以及由脉冲飞行时间的长短而形成的指定区域的三维距离图像,而三维距离图像可以转换为三维点云图像;光学被动传感器可以获取二维可见光图像或二维红外图像等。通过上述传感器可以同时获取到所述指定区域内的三维点云图像和二维图像,可以对所述三维点云图像和二维图像分别进行如人脸检测等处理,分别得到所述三维点云图像和所述二维图像中包含的人脸(即目标人脸)的图像,从而得到目标人脸的三维点云图像和二维图像。
在步骤S120,根据所述目标人脸的三维点云图像和二维图像进行特征提取得到所述目标人脸的基础面部特征,并对所述目标人脸的基础面部特征进行特征约简处理,得到所述目标人脸的面部特征。
其中,图像中的面部特征可以包括多种,例如几何形状特征、纹理特征、变换系数特征和代数特征等。
在实施中,人脸识别的关键在于能够提取出稳健的能够区分不同人脸的面部特征,而该面部特征通常既与人脸尺寸和上述拍摄图像的传感器设计等呈函数关系,又与上述拍摄图像的传感器所处的环境特性有关。通过相应的传感器获取到目标人脸的三维点云图像和二维图像后,可以对所述目标人脸的三维点云图像和二维图像进行分析处理,分别从所述目标人脸的三维点云图像和二维图像中提取相应的基础面部特征,具体可以包括:可以从所述目标人脸的三维点云图像中提取目标人脸的几何形状特征、目标人脸的局部几何点和线特征等,可以从所述目标人脸的二维图像中提取如目标人脸的像素、灰度特征等。
考虑到从所述目标人脸的三维点云图像和二维图像中提取的基础面部特征较多且很全面,从而导致基础面部特征之间存在冗余,为此,可以对基础面部特征进行特征约简处理,具体地,可以使用数据分析处理方法(例如,基于粗糙集理论的约简方法等)对从所述目标人脸中提取的基础面部特征进行属性约简处理和数值约简处理,即从所述目标人脸中提取的基础面部特征中选取有用的特征或者选取满足预设的识别规则的特征为所述目标人脸的面部特征。
在步骤S130,将所述目标人脸的面部特征与预先存储的人脸特征数据库中的面部特征进行匹配,得到所述目标人脸的识别结果。
在实施中,人脸特征数据库中可以包含有多个人脸的数据,其中,每一个人脸的数据对应一个人脸标识,该人脸标识可以是该人脸对应的目标的名称或姓名,也可以是预先设置的识别编号或识别编码(如12#等)等。所述人脸特征数据库可以以表格的形式存储,表1是本发明实施例提供的一种人脸特征数据库,如表1所示。
表1
人脸标识 | 人脸的数据 |
A10# | 面部特征A、面部特征k、面部特征7 |
C11# | 面部特征F、面部特征r、面部特征3 |
E08# | 面部特征Y、面部特征n、面部特征9 |
可以将得到的目标人脸的面部特征与如上述表1所示的人脸特征数据库中存储的面部特征进行对比,如果上述人脸特征数据库中某人脸标识对应的面部特征与目标人脸的面部特征的匹配度较高(如达到80%以上等),则可以确定目标人脸即为上述人脸标识的人脸;如果上述人脸特征数据库中所有人脸标识对应的面部特征与目标人脸的面部特征的匹配度都较低(如在50%以下等),则可以确定目标人脸为新的人脸,此时可以将新的人脸存储到如上述表1所示的人脸特征数据库中。
本发明实施例提供的人脸识别的方法,通过对分别获取目标人脸的三维点云图像和二维图像进行特征提取,得到目标人脸的多种类型的基础面部特征,并对目标人脸的基础面部特征进行特征约简处理,去除目标人脸的大量冗余特征得到最能反映人脸本质的面部特征,并通过与预先存储的人脸特征数据库中的面部特征进行匹配,得到目标人脸的识别结果,从而综合考虑三维点云图像和二维图像的各自优势,并以此进行人脸识别,进而提高人脸识别的实时性和人脸识别的精度,且对变化的人脸表情的具有一定的鲁棒性。
实施例二
图2是示出根据本发明实施例二的人脸识别的方法的流程图,所述实施例可视为图1的又一种具体的实现方案。
参照图2,在步骤S210,分别获取目标人脸的三维点云图像和二维图像。
其中,上述步骤S210的步骤内容与上述实施例一中步骤S110的步骤内容相同,在此不再赘述。
在步骤S220,分别对所述目标人脸的三维点云图像和二维图像进行图像降噪预处理,分别得到预处理后的三维点云图像和二维图像。
在实施中,由于容易受到噪声干扰、相机抖动以及相对运动等影响,上述用于获取三维点云图像的传感器和用于获取二维图像的传感器得到的图像数据将不可避免的存在失真和降质。因此,需要分别对得到的目标人脸的三维点云图像和二维图像进行降噪预处理,从而分别去除或衰减上述三维点云图像和二维图像中的噪声和虚假边缘等干扰数据。
其中,对于通过光学被动传感器获取的二维图像的噪声,可以选用均值滤波、中值滤波、超限邻域平均滤波三种较快的去噪方法处理。而对于通过激光雷达主动成像传感器,由于其主要依靠测量激光脉冲回波的强弱得到目标人脸的强度图像,并依靠测量的脉冲飞行时间得到目标人脸的距离图像,目标人脸的强度图像与光学被动传感器的成像原理大体相同。但由于激光的高度相干性会导致散斑噪声出现,而目标人脸所处的环境背景主要表现为较弱的泊松噪声,由于人脸的强度图像仍然是以光的强度分布为特征信息的图像,因此可以采用中值滤波去噪方法处理。目标人脸的强度图像与目标人脸的距离图像是共生的,利用目标人脸的距离图像与目标人脸的强度图像的共生关系,即可以通过目标人脸的强度图像中目标人脸和环境背景之间存在明显的不同灰度分布,把目标人脸和环境背景的区域分割。得到环境背景所在的区域后,可以将目标人脸的距离图像中的环境背景噪声剔除,然后再对目标人脸进行去噪。通过上述去噪处理可以得到预处理后的三维点云图像和二维图像。
在步骤S230,根据所述目标人脸的三维点云图像和二维图像,确定所述目标人脸的融合图像。
其中,不同类型的图像(如三维图像和二维图像)包含的信息不同,三维点云图像中包含有点的坐标信息,二维图像中包含有像素信息,如颜色和/或亮度和/或光强等信息。
在实施中,考虑到三维点云图像和二维图像都有各自的优势,而且三维点云图像和二维图像中的强度图像具有一定的相关一致性,在数据融合方面具有很好的基础,因此,可以将三维点云图像和二维图像进行像素级融合,使得融合后的图像既包含了目标人脸的颜色及亮度信息,同时还包含了目标人脸的三维深度信息,即不仅可以得到二维图像(如颜色、亮度等)上点的位置,也可以得到它对应的三维点云图像上的点的位置和距离,从而得到目标人脸的更多信息,有利于人脸识别。
具体地,可以对三维点云图像和二维图像进行分析,确定同一像素点在所述三维点云图像和二维图像中对应的颜色、亮度和激光脉冲回波的强度信息,以及目标人脸中的各个点到传感器之间的距离等,通过上述信息可以得到目标人脸中包括灰度等信息在内的二维图像属性信息,以及包括距离等信息在内的三维图像属性信息,从而可以将目标人脸的三维点云图像和二维图像融合得到目标人脸的融合图像。
在实际应用的过程中,上述步骤S230的处理可以包括多种实现方式,以下还提供一种可选的实施方式,其中,二维图像包括第一图像和第二图像,其中,第一图像为基于激光成像方式得到的图像,第二图像为基于光学被动成像方式得到的图像,基于上述示例,第一图像可以为强度图像,相应的处理具体可以包括以下步骤一和步骤二的内容。
由于上述第一图像(即强度图像)和距离图像是由激光雷达主动成像传感器同时获得的,因此,强度图像(二维图像)和距离图像(三维图像)相互之间已融合配准完成,此时,只需将强度像和第二图像等两个二维图像进行像素级融合即可得到三维点云图像、第一图像和第二图像三者的融合图像。
步骤一,根据第一图像和第二图像中包含的像素信息确定目标人脸的像素级融合图像。
在实施中,基于上述步骤S220中的相关内容,所述目标人脸的二维图像中会包含有依靠测量脉冲回波的强弱而得到的目标人脸的强度图像,可以对该强度图像进行二维人脸轮廓提取,得到二维人脸轮廓数据,同时,可以对所述二维图像中通过光学被动传感器(即基于光学被动成像方式的传感器)得到的二维图像进行人脸轮廓提取,得到人脸轮廓数据,然后,可以对强度图像对应的二维人脸轮廓数据和光学被动传感器得到的二维图像对应的人脸轮廓数据进行像素级融合匹配,得到相应的匹配参数,从而得到所述目标人脸的像素级融合图像。
步骤二,根据目标人脸的三维点云图像和第一图像,以及目标人脸的像素级融合图像,确定目标人脸的融合图像。
在实施中,所述目标人脸的三维点云图像中还会包含有依靠测量的脉冲飞行时间得到的目标人脸的距离图像,可以通过对所述距离图像的分析,将所述距离图像转换为相应的三维距离点云数据。可以根据所述第一图像(即强度图像)和三维距离点云数据之间的转换关系,以及上述得到的所述目标人脸的像素级融合图像进行融合配准分析,得到所述目标人脸的融合图像。
在步骤S240,对所述目标人脸的融合图像进行光谱特征提取和纹理特征提取,分别得到所述目标人脸的融合图像的光谱特征和纹理特征,并对所述目标人脸的三维点云图像进行特征提取,得到所述目标人脸的外观特征。
在实施中,基于上述步骤S220中的相关内容,通过激光雷达主动成像传感器可以得到依靠测量的脉冲飞行时间得到的目标人脸的距离图像,可以通过对所述距离图像的分析,得到相应的三维距离点云数据,可以将所述三维距离点云数据进行多尺度空间映射,分别得到目标人脸的直线、点云结构、不同视角下的二维投影、局部几何点和线、表面曲率和尺寸等信息。然后,可以基于点云结构和表面曲率等信息,从所述三维距离点云数据中提取出局部不变点的数据,同时,可以基于目标人脸上的直线等信息,从所述三维距离点云数据中提取出所述目标人脸的全局几何分布及形状等数据。可以基于得到的局部不变点的数据和所述目标人脸的全局几何分布及形状的数据,得到三维旋转平移不变的数据的特征即为所述目标人脸的外观特征。
同时,还可以对上述融合处理后的所述目标人脸的融合图像进行特征提取,具体地,可以对所述融合图像进行二维多尺度空间映射,通过二维多尺度空间映射,可以对所述目标人脸的融合图像进行光谱特征提取,从而得到所述目标人脸的融合图像的光谱特征。另外,通过二维多尺度空间映射,还可以对所述目标人脸的融合图像进行纹理特征提取,从而得到所述目标人脸的融合图像的纹理特征。通过上述处理,可以得到目标人脸的尺寸、纹理特征、光谱特征和外观特征等基础面部特征,从而可以更好的表示和鉴别人脸图像,在此基础上进行的人脸识别具有较好的抗干扰能力。
在步骤S250,对所述目标人脸的基础面部特征进行特征约简处理,得到所述目标人脸的面部特征。
其中,上述步骤S250的步骤内容与上述实施例一中步骤S120中的部分步骤内容相同,在此不再赘述。
在步骤S260,将所述目标人脸的面部特征与预先存储的人脸特征数据库中的面部特征进行匹配,得到所述目标人脸的识别结果。
其中,上述步骤S260的步骤内容与上述实施例一中步骤S130的步骤内容相同,在此不再赘述。
此外,所述目标人脸的识别结果不同,相应的处理可以不同,而且处理方式可以多种多样,以下提供一种可选的处理方式,具体可以是步骤S270或步骤S280:
在步骤S270,如果所述目标人脸的识别结果指示预先存储的人脸特征数据库中包括所述目标人脸的面部特征,则从所述人脸特征数据库中输出相应的面部数据。
在实施中,如果所述目标人脸的面部特征与预先存储的人脸特征数据库中的面部特征匹配后,确定所述人脸特征数据库中的某面部特征与所述目标人脸的面部特征的匹配度达到预定阈值或100%,则可以将所述人脸特征数据库中的相应的面部数据提供给用户,以便用户对比和查看两面部数据,以便做出相应的识别判断。
在步骤S280,如果所述目标人脸的识别结果指示预先存储的人脸特征数据库中不包括所述目标人脸的面部特征,则将所述目标人脸的面部特征存储到所述人脸特征数据库中。
在实施中,如果所述目标人脸的面部特征与预先存储的人脸特征数据库中的面部特征匹配后,确定所述人脸特征数据库中的所有面部特征与所述目标人脸的面部特征的匹配度均未达到预定阈值,则可以确定所述目标人脸为新的人脸,此时,可以将所述目标人脸的面部特征存储到所述人脸特征数据库中,以便对所述人脸特征数据库进行更新。
此外,对于上述所述人脸特征数据库中的某面部特征与所述目标人脸的面部特征的匹配度达到一定数值,且该数据相对较小时(如50%等)的情况,除了可以将所述人脸特征数据库中的相应的面部数据提供给用户进行识别判断外,还可以预先设定人脸识别准则,通过所述人脸识别准则,可以对目标人脸进行综合评判,并输出相应的识别结果。
其中,上述步骤S270和步骤S280为互斥步骤,在实际应用的过程中,每执行一次所述人脸识别的方法时,只执行步骤S270和步骤S280中的一个步骤。
本发明实施例提供的人脸识别的方法,一方面,通过对目标人脸的三维点云图像和二维图像进行像素级融合,使得融合后的图像既包含了目标人脸的颜色及亮度信息,同时还包含了目标人脸的三维深度信息,并通过对多幅图像进行的像素级的融合,增加了目标人脸的图像中的像素级信息,融合后的图像包含信息更丰富、精确、可靠和全面,可以提高人脸识别的性能;另一方面,通过数据分析处理方法(例如,基于粗糙集理论的约简方法等)对从所述目标人脸中提取的特征进行属性约简和数值约简,实现对多种面部特征的融合,增加了从图像中提取有效特征信息的可能性,而且能够使得融合后的特征更好的表示和鉴别人脸图像,进而在此基础上进行人脸识别的判决具有较好的识别速度和抗干扰能力。
实施例三
基于相同的技术构思,图3是示出根据本发明实施例三的人脸识别的装置的逻辑框图。参照图3,所述装置包括图像获取模块310、面部特征提取模块320和识别结果输出模块330。
图像获取模块310用于分别获取目标人脸的三维点云图像和二维图像。
面部特征提取模块320用于根据所述目标人脸的三维点云图像和二维图像进行特征提取得到所述目标人脸的面部特征。
识别结果输出模块330用于将所述目标人脸的面部特征与预先存储的人脸特征数据库中的面部特征进行匹配,得到所述目标人脸的识别结果。
本发明实施例提供的人脸识别的装置,通过对分别获取目标人脸的三维点云图像和二维图像进行特征提取,得到目标人脸的多种类型的基础面部特征,并对目标人脸的基础面部特征进行特征约简处理,去除目标人脸的大量冗余特征得到最能反映人脸本质的面部特征,并通过与预先存储的人脸特征数据库中的面部特征进行匹配,得到目标人脸的识别结果,从而综合考虑三维点云图像和二维图像的各自优势,并以此进行人脸识别,进而提高人脸识别的实时性和人脸识别的精度,且对变化的人脸表情的具有一定的鲁棒性。
实施例四
基于相同的技术构思,图4是示出根据本发明实施例四的人脸识别的装置的逻辑框图。参照图4,所述装置除了包括上述实施例三中的图像获取模块310、面部特征提取模块320和识别结果输出模块330,其中,面部特征提取模块320还包括融合图像确定单元321和特征提取单元322。
进一步地,在如图3所示的实施例的基础上,如图4所示的面部特征提取模块320包括:融合图像确定单元321,用于根据所述目标人脸的三维点云图像和二维图像,确定所述目标人脸的融合图像;特征提取单元322,用于对所述目标人脸的融合图像进行光谱特征提取和纹理特征提取,分别得到所述目标人脸的融合图像的光谱特征和纹理特征,并对所述目标人脸的三维点云图像进行特征提取,得到所述目标人脸的外观特征。
此外,所述二维图像包括第一图像和第二图像,其中,所述第一图像为基于激光成像方式得到的图像,所述第二图像为基于光学被动成像方式得到的图像,融合图像确定单元321,用于根据所述第一图像和第二图像中包含的像素信息确定所述目标人脸的像素级融合图像;根据所述目标人脸的三维点云图像和所述第一图像,以及所述目标人脸的像素级融合图像,确定所述目标人脸的融合图像。
进一步地,在如图4所示的实施例的基础上,如图5所示的装置还包括:预处理模块340,用于分别对所述目标人脸的三维点云图像和二维图像进行图像降噪预处理,分别得到预处理后的三维点云图像和二维图像。
进一步地,在如图5所示的实施例的基础上,如图6所示的装置还包括:面部数据输出模块350,用于如果所述目标人脸的识别结果指示预先存储的人脸特征数据库中包括所述目标人脸的面部特征,则从所述人脸特征数据库中输出相应的面部数据。
进一步地,如图6所示的装置还包括:面部特征存储模块360,用于如果所述目标人脸的识别结果指示预先存储的人脸特征数据库中不包括所述目标人脸的面部特征,则将所述目标人脸的面部特征存储到所述人脸特征数据库中。
本发明实施例中,一方面,通过对目标人脸的三维点云图像和二维图像进行融合,使得融合后的图像既包含了目标人脸的颜色及亮度信息,同时还包含了目标人脸的三维深度信息,并通过对多幅图像进行的像素级信息的融合,增加了目标人脸图像中的信息量,融合后的图像包含信息更丰富、精确、可靠和全面,可以提高人脸识别的性能;另一方面,通过数据分析处理方法(例如,粗糙集理论的约简方法等)对从所述目标人脸中提取的特征进行属性约简和数值约简,实现对多种面部特征的融合,增加了从图像中提取有效特征信息的可能性,而且能够使得融合后的特征更好的表示和鉴别人脸图像,进而在此基础上进行人脸识别的判决具有较好的识别速度和抗干扰能力。
需要指出,根据实施的需要,可将本申请中描述的各个步骤/部件拆分为更多步骤/部件,也可将两个或多个步骤/部件或者步骤/部件的部分操作组合成新的步骤/部件,以实现本发明的目的。
上述根据本发明的方法可在硬件、固件中实现,或者被实现为可存储在记录介质(诸如CD ROM、RAM、软盘、硬盘或磁光盘)中的软件或计算机代码,或者被实现通过网络下载的原始存储在远程记录介质或非暂时机器可读介质中并将被存储在本地记录介质中的计算机代码,从而在此描述的方法可被存储在使用通用计算机、专用处理器或者可编程或专用硬件(诸如ASIC或FPGA)的记录介质上的这样的软件处理。可以理解,计算机、处理器、微处理器控制器或可编程硬件包括可存储或接收软件或计算机代码的存储组件(例如,RAM、ROM、闪存等),当所述软件或计算机代码被计算机、处理器或硬件访问且执行时,实现在此描述的处理方法。此外,当通用计算机访问用于实现在此示出的处理的代码时,代码的执行将通用计算机转换为用于执行在此示出的处理的专用计算机。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种人脸识别的方法,其特征在于,所述方法包括:
分别获取目标人脸的三维点云图像和二维图像;
根据所述目标人脸的三维点云图像和二维图像进行特征提取得到所述目标人脸的基础面部特征,并对所述目标人脸的基础面部特征进行特征约简处理,得到所述目标人脸的面部特征;
将所述目标人脸的面部特征与预先存储的人脸特征数据库中的面部特征进行匹配,得到所述目标人脸的识别结果。
2.根据权利要求1所述的方法,其特征在于,所述面部特征至少包括光谱特征、纹理特征和外观特征,
所述根据所述目标人脸的三维点云图像和二维图像进行特征提取得到所述目标人脸的面部特征的处理包括:
根据所述目标人脸的三维点云图像和二维图像,确定所述目标人脸的融合图像;
对所述目标人脸的融合图像进行光谱特征提取和纹理特征提取,分别得到所述目标人脸的融合图像的光谱特征和纹理特征,并对所述目标人脸的三维点云图像进行特征提取,得到所述目标人脸的外观特征。
3.根据权利要求2所述的方法,其特征在于,所述二维图像包括第一图像和第二图像,其中,所述第一图像为基于激光成像方式得到的图像,所述第二图像为基于光学被动成像方式得到的图像,
所述根据所述目标人脸的三维点云图像和二维图像,确定所述目标人脸的融合图像的处理包括:
根据所述第一图像和第二图像中包含的像素信息确定所述目标人脸的像素级融合图像;
根据所述目标人脸的三维点云图像和所述第一图像,以及所述目标人脸的像素级融合图像,确定所述目标人脸的融合图像。
4.根据权利要求1所述的方法,其特征在于,所述分别获取目标人脸的三维点云图像和二维图像之后,所述方法还包括:
分别对所述目标人脸的三维点云图像和二维图像进行图像降噪预处理,分别得到预处理后的三维点云图像和二维图像。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
如果所述目标人脸的识别结果指示预先存储的人脸特征数据库中不包括所述目标人脸的面部特征,则将所述目标人脸的面部特征存储到所述人脸特征数据库中。
6.一种人脸识别的装置,其特征在于,所述装置包括:
图像获取模块,用于分别获取目标人脸的三维点云图像和二维图像;
面部特征提取模块,用于根据所述目标人脸的三维点云图像和二维图像进行特征提取得到所述目标人脸的基础面部特征,并对所述目标人脸的基础面部特征进行特征约简处理,得到所述目标人脸的面部特征;
识别结果输出模块,用于将所述目标人脸的面部特征与预先存储的人脸特征数据库中的面部特征进行匹配,得到所述目标人脸的识别结果。
7.根据权利要求6所述的装置,其特征在于,所述面部特征提取模块包括:
融合图像确定单元,用于根据所述目标人脸的三维点云图像和二维图像,确定所述目标人脸的融合图像;
特征提取单元,用于对所述目标人脸的融合图像进行光谱特征提取和纹理特征提取,分别得到所述目标人脸的融合图像的光谱特征和纹理特征,并对所述目标人脸的三维点云图像进行特征提取,得到所述目标人脸的外观特征。
8.根据权利要求7所述的装置,其特征在于,所述二维图像包括第一图像和第二图像,其中,所述第一图像为基于激光成像方式得到的图像,所述第二图像为基于光学被动成像方式得到的图像,
所述融合图像确定单元,用于根据所述第一图像和第二图像中包含的像素信息确定所述目标人脸的像素级融合图像;根据所述目标人脸的三维点云图像和所述第一图像,以及所述目标人脸的像素级融合图像,确定所述目标人脸的融合图像。
9.根据权利要求6所述的装置,其特征在于,所述装置还包括:
预处理模块,用于分别对所述目标人脸的三维点云图像和二维图像进行图像降噪预处理,分别得到预处理后的三维点云图像和二维图像。
10.根据权利要求6所述的装置,其特征在于,所述装置还包括:
面部特征存储模块,用于如果所述目标人脸的识别结果指示预先存储的人脸特征数据库中不包括所述目标人脸的面部特征,则将所述目标人脸的面部特征存储到所述人脸特征数据库中。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610453316.5A CN106909873B (zh) | 2016-06-21 | 2016-06-21 | 人脸识别的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610453316.5A CN106909873B (zh) | 2016-06-21 | 2016-06-21 | 人脸识别的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106909873A true CN106909873A (zh) | 2017-06-30 |
CN106909873B CN106909873B (zh) | 2019-11-05 |
Family
ID=59206603
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610453316.5A Active CN106909873B (zh) | 2016-06-21 | 2016-06-21 | 人脸识别的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106909873B (zh) |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107748869A (zh) * | 2017-10-26 | 2018-03-02 | 深圳奥比中光科技有限公司 | 3d人脸身份认证方法与装置 |
CN107886114A (zh) * | 2017-10-27 | 2018-04-06 | 小草数语(北京)科技有限公司 | 植物叶片的特征提取方法、识别方法、装置和计算机设备 |
CN108960024A (zh) * | 2017-09-19 | 2018-12-07 | 炬大科技有限公司 | 一种基于个人用户的情绪识别方法 |
CN109145549A (zh) * | 2018-06-19 | 2019-01-04 | 深圳阜时科技有限公司 | 身份鉴权方法、身份鉴权装置及电子设备 |
CN109460690A (zh) * | 2017-09-01 | 2019-03-12 | 虹软(杭州)多媒体信息技术有限公司 | 一种用于模式识别的方法和装置 |
CN110188616A (zh) * | 2019-05-05 | 2019-08-30 | 盎锐(上海)信息科技有限公司 | 基于2d和3d影像的空间建模方法及装置 |
CN110197124A (zh) * | 2019-04-30 | 2019-09-03 | 北京集光通达科技股份有限公司 | 人脸识别***及方法 |
CN110348344A (zh) * | 2019-06-28 | 2019-10-18 | 浙江大学 | 一种基于二维和三维融合的特殊人脸表情识别的方法 |
CN111066067A (zh) * | 2017-08-15 | 2020-04-24 | 真发有限责任公司 | 用于产生用于生产假发的3d数字模型的方法和*** |
CN111095297A (zh) * | 2019-06-06 | 2020-05-01 | 深圳市汇顶科技股份有限公司 | 人脸识别的装置、方法和电子设备 |
CN111325078A (zh) * | 2018-12-17 | 2020-06-23 | 航天信息股份有限公司 | 一种人脸识别方法、装置及存储介质 |
CN111507339A (zh) * | 2020-04-16 | 2020-08-07 | 北京深测科技有限公司 | 一种基于强度图像的目标点云获取方法 |
CN112163557A (zh) * | 2020-10-19 | 2021-01-01 | 南宁职业技术学院 | 基于3d结构光的人脸识别方法及装置 |
CN112686178A (zh) * | 2020-12-30 | 2021-04-20 | 中国电子科技集团公司信息科学研究院 | 一种多视角目标轨迹生成方法、装置和电子设备 |
CN113158908A (zh) * | 2021-04-25 | 2021-07-23 | 北京华捷艾米科技有限公司 | 人脸识别方法、装置、存储介质及电子设备 |
CN113643348A (zh) * | 2020-04-23 | 2021-11-12 | 杭州海康威视数字技术股份有限公司 | 一种人脸属性分析方法及装置 |
CN115359166A (zh) * | 2022-10-20 | 2022-11-18 | 北京百度网讯科技有限公司 | 一种图像生成方法、装置、电子设备和介质 |
CN117173774A (zh) * | 2023-10-19 | 2023-12-05 | 广州中远海运船舶技术工程有限公司 | 一种船舷智能收放***、方法以及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104598878A (zh) * | 2015-01-07 | 2015-05-06 | 深圳市唯特视科技有限公司 | 基于灰度和深度信息的多层融合的多模态人脸识别装置及方法 |
CN104715254A (zh) * | 2015-03-17 | 2015-06-17 | 东南大学 | 一种基于2d和3d sift特征融合的一般物体识别方法 |
CN104778441A (zh) * | 2015-01-07 | 2015-07-15 | 深圳市唯特视科技有限公司 | 融合灰度信息和深度信息的多模态人脸识别装置及方法 |
-
2016
- 2016-06-21 CN CN201610453316.5A patent/CN106909873B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104598878A (zh) * | 2015-01-07 | 2015-05-06 | 深圳市唯特视科技有限公司 | 基于灰度和深度信息的多层融合的多模态人脸识别装置及方法 |
CN104778441A (zh) * | 2015-01-07 | 2015-07-15 | 深圳市唯特视科技有限公司 | 融合灰度信息和深度信息的多模态人脸识别装置及方法 |
CN104715254A (zh) * | 2015-03-17 | 2015-06-17 | 东南大学 | 一种基于2d和3d sift特征融合的一般物体识别方法 |
Non-Patent Citations (2)
Title |
---|
叶剑华: "三维及多模态人脸识别研究", 《中国博士学位论文全文数据库 信息科技辑》 * |
苗树艳: "基于信息融合的人脸识别研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111066067B (zh) * | 2017-08-15 | 2023-10-27 | 真发有限责任公司 | 用于产生用于生产假发的3d数字模型的方法和*** |
CN111066067A (zh) * | 2017-08-15 | 2020-04-24 | 真发有限责任公司 | 用于产生用于生产假发的3d数字模型的方法和*** |
CN109460690A (zh) * | 2017-09-01 | 2019-03-12 | 虹软(杭州)多媒体信息技术有限公司 | 一种用于模式识别的方法和装置 |
CN109460690B (zh) * | 2017-09-01 | 2022-10-14 | 虹软科技股份有限公司 | 一种用于模式识别的方法和装置 |
US11036968B2 (en) | 2017-09-01 | 2021-06-15 | Arcsoft Corporation Limited | Method and apparatus for pattern recognition |
CN108960024A (zh) * | 2017-09-19 | 2018-12-07 | 炬大科技有限公司 | 一种基于个人用户的情绪识别方法 |
CN107748869A (zh) * | 2017-10-26 | 2018-03-02 | 深圳奥比中光科技有限公司 | 3d人脸身份认证方法与装置 |
US11238270B2 (en) | 2017-10-26 | 2022-02-01 | Orbbec Inc. | 3D face identity authentication method and apparatus |
CN107886114A (zh) * | 2017-10-27 | 2018-04-06 | 小草数语(北京)科技有限公司 | 植物叶片的特征提取方法、识别方法、装置和计算机设备 |
CN109145549A (zh) * | 2018-06-19 | 2019-01-04 | 深圳阜时科技有限公司 | 身份鉴权方法、身份鉴权装置及电子设备 |
CN111325078A (zh) * | 2018-12-17 | 2020-06-23 | 航天信息股份有限公司 | 一种人脸识别方法、装置及存储介质 |
CN110197124A (zh) * | 2019-04-30 | 2019-09-03 | 北京集光通达科技股份有限公司 | 人脸识别***及方法 |
CN110188616A (zh) * | 2019-05-05 | 2019-08-30 | 盎锐(上海)信息科技有限公司 | 基于2d和3d影像的空间建模方法及装置 |
CN110188616B (zh) * | 2019-05-05 | 2023-02-28 | 上海盎维信息技术有限公司 | 基于2d和3d影像的空间建模方法及装置 |
WO2020243968A1 (zh) * | 2019-06-06 | 2020-12-10 | 深圳市汇顶科技股份有限公司 | 人脸识别的装置、方法和电子设备 |
CN111095297A (zh) * | 2019-06-06 | 2020-05-01 | 深圳市汇顶科技股份有限公司 | 人脸识别的装置、方法和电子设备 |
CN110348344B (zh) * | 2019-06-28 | 2021-07-27 | 浙江大学 | 一种基于二维和三维融合的特殊人脸表情识别的方法 |
CN110348344A (zh) * | 2019-06-28 | 2019-10-18 | 浙江大学 | 一种基于二维和三维融合的特殊人脸表情识别的方法 |
CN111507339A (zh) * | 2020-04-16 | 2020-08-07 | 北京深测科技有限公司 | 一种基于强度图像的目标点云获取方法 |
CN111507339B (zh) * | 2020-04-16 | 2023-07-18 | 北京深测科技有限公司 | 一种基于强度图像的目标点云获取方法 |
CN113643348B (zh) * | 2020-04-23 | 2024-02-06 | 杭州海康威视数字技术股份有限公司 | 一种人脸属性分析方法及装置 |
CN113643348A (zh) * | 2020-04-23 | 2021-11-12 | 杭州海康威视数字技术股份有限公司 | 一种人脸属性分析方法及装置 |
CN112163557A (zh) * | 2020-10-19 | 2021-01-01 | 南宁职业技术学院 | 基于3d结构光的人脸识别方法及装置 |
CN112686178A (zh) * | 2020-12-30 | 2021-04-20 | 中国电子科技集团公司信息科学研究院 | 一种多视角目标轨迹生成方法、装置和电子设备 |
CN113158908A (zh) * | 2021-04-25 | 2021-07-23 | 北京华捷艾米科技有限公司 | 人脸识别方法、装置、存储介质及电子设备 |
CN115359166A (zh) * | 2022-10-20 | 2022-11-18 | 北京百度网讯科技有限公司 | 一种图像生成方法、装置、电子设备和介质 |
CN117173774A (zh) * | 2023-10-19 | 2023-12-05 | 广州中远海运船舶技术工程有限公司 | 一种船舷智能收放***、方法以及存储介质 |
CN117173774B (zh) * | 2023-10-19 | 2024-02-09 | 广州中远海运船舶技术工程有限公司 | 一种船舷智能收放***、方法以及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN106909873B (zh) | 2019-11-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106909873A (zh) | 人脸识别的方法和装置 | |
CN108830819B (zh) | 一种深度图像与红外图像的图像融合方法及装置 | |
Thrun et al. | Shape from symmetry | |
Yoon et al. | Adaptive support-weight approach for correspondence search | |
CN104574393B (zh) | 一种三维路面裂缝图像生成***和方法 | |
EP2680228B1 (en) | Improvements in or relating to three dimensional close interactions. | |
CA2812117C (en) | A method for enhancing depth maps | |
CN110728196B (zh) | 一种人脸识别的方法、装置及终端设备 | |
CN108475433A (zh) | 用于大规模确定rgbd相机姿势的方法和*** | |
Marinelli et al. | A novel approach to 3-D change detection in multitemporal LiDAR data acquired in forest areas | |
CN109685732A (zh) | 一种基于边界捕捉的深度图像高精度修复方法 | |
Abdollahi et al. | Extraction of road features from UAV images using a novel level set segmentation approach | |
CN107016348A (zh) | 结合深度信息的人脸检测方法、检测装置和电子装置 | |
Yogeswaran et al. | 3d surface analysis for automated detection of deformations on automotive body panels | |
JP6052533B2 (ja) | 特徴量抽出装置および特徴量抽出方法 | |
KR20110021500A (ko) | 이동객체의 실시간 추적과 거리 측정 방법 및 그 장치 | |
Zhao et al. | Region-based saliency estimation for 3D shape analysis and understanding | |
CN113947770B (zh) | 一种识别物体放置于智能箱柜不同区域的方法 | |
CN117315210B (zh) | 一种基于立体成像的图像虚化方法及相关装置 | |
CN117292076A (zh) | 工程机械局部作业场景动态三维重构方法及*** | |
CN110458177B (zh) | 图像深度信息的获取方法、图像处理装置以及存储介质 | |
Bonde et al. | Multi scale shape index for 3d object recognition | |
WO2023078335A1 (zh) | 用于三维重建的方法、***和存储介质 | |
Heinzl | Analysis and visualization of industrial CT data | |
CN113744416B (zh) | 一种基于遮罩的全局点云滤波方法、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20221019 Address after: Room 1016, Block C, Haiyong International Building 2, No. 489, Lusong Road, High tech Zone, Changsha City, Hunan Province, 410221 Patentee after: Hunan Fenghua Intelligent Technology Co.,Ltd. Address before: 410205 A645, room 39, Changsha central software park headquarters, No. 39, Jian Shan Road, hi tech Development Zone, Hunan. Patentee before: HUNAN VISUALTOURING INFORMATION TECHNOLOGY Co.,Ltd. |