CN105517680A - 用于识别人脸的装置、***、方法和计算机程序产品 - Google Patents
用于识别人脸的装置、***、方法和计算机程序产品 Download PDFInfo
- Publication number
- CN105517680A CN105517680A CN201580000322.9A CN201580000322A CN105517680A CN 105517680 A CN105517680 A CN 105517680A CN 201580000322 A CN201580000322 A CN 201580000322A CN 105517680 A CN105517680 A CN 105517680A
- Authority
- CN
- China
- Prior art keywords
- light source
- measured point
- face
- group
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/145—Illumination specially adapted for pattern recognition, e.g. using gratings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/60—Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/254—Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/12—Acquisition of 3D measurements of objects
- G06V2201/121—Acquisition of 3D measurements of objects using special illumination
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Signal Processing (AREA)
- Electromagnetism (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
公开了一种用于识别人脸的装置、***、方法和计算机程序产品,所述方法包括:对被测的人脸依次发射至少一组有结构的光线;采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集;获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
Description
技术领域
本公开涉及人脸识别领域,并且具体涉及一种用于识别人脸的装置、***、方法和计算机程序产品。
背景技术
当前,使用摄像头的人脸识别***得到广泛使用。在通常的人脸识别***中,使用的是被动式的图像采集方法,即,所述***只接收光线而不主动发出光线,或者仅仅利用补光灯打出仅用于照明目的的、没有结构的光线。这样采集到的人脸信号非常受环境光照变化、人的姿态变化等因素的影响。当人脸角度变化时(例如,人脸侧过来或扬起来),人脸的图像会产生巨大的变化,导致识别变得很难。而当外界环境光照变化时(例如,太阳的位置变化或周围灯光的开闭),采集到的图像也会产生极其显著的变化。这些因素阻碍了一般的人脸识别***的准确度的提高。
发明内容
根据本公开的一个方面,提供了一种用于识别人脸的***,包括:光源发生模块,对被测的人脸依次发射至少一组有结构的光线;图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;处理器;存储器;和存储在所述存储器中的计算机程序指令,在所述计算机程序指令被所述处理器运行时执行以下步骤:基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
根据本公开的另一方面,提供了一种用于识别人脸的方法,包括:对被测的人脸依次发射至少一组有结构的光线;采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
根据本公开的另一方面,提供了一种用于识别人脸的设备,包括:光源发生模块,对被测的人脸依次发射至少一组有结构的光线;图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;提取模块,基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;获取模块,获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;计算模块,基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及识别模块,如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
根据本公开的另一方面,提供了一种用于识别人脸的装置,包括:光源发生模块,对待识别的人脸依次发射至少一组有结构的光线;图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;发送模块,将所述有光源图像集发送至与所述装置可通信地连接的计算机。
根据本公开的另一方面,提供了一种用于识别人脸的装置,包括:光源发生模块,对待识别的人脸依次发射至少一组有结构的光线;图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;提取模块,基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;发送模块,将所述第一特征集发送至与所述装置可通信地连接的计算机。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机可读存储介质,在所述计算机可读存储介质上存储了计算机程序指令,所述计算机程序指令在被计算机运行时执行以下步骤:基于被测的人脸在依次经受至少一组有结构的光线中的每一组光线的照射时所采集的有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
利用根据本公开的上述方面的装置、***、方法和计算机程序产品,可以不受外界环境光照、人脸姿态变化的影响而进行人脸识别,从而极大地改善了人脸识别的准确度。
附图说明
通过结合附图对本公开示例性实施方式进行更详细的描述,本公开的上述以及其它目的、特征和优势将变得更加明显,在附图中,相同的参考标号通常指示相同的部件。
图1是示意性图示可用于实现根据本公开实施例的用于识别人脸的方法的***的框图。
图2是示意性图示根据本公开实施例的***中的光源发生模块的详细配置的图。
图3是示意性图示根据本公开实施例的光源发生模块的光栅所投射出的图案的图。
图4是示意性示出本公开实施例的人脸识别方法的主要步骤的流程图。
图5是示意性示出根据本公开实施例的用于识别人脸的设备的主要配置的框图。
图6是示意性图示根据本公开实施例的用于识别人脸的装置的主要配置的框图。
图7是示意性图示根据本公开另一实施例的用于识别人脸的装置的主要配置的框图。
具体实施方式
为了使得本发明的目的、技术方案和优点更为明显,下面将参照附图详细描述根据本发明的示例实施例。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是本发明的全部实施例,应理解,本发明不受这里描述的示例实施例的限制。基于本公开中描述的本发明实施例,本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。
首先,参照图1来描述根据本公开实施例的用于识别人脸的***的主要配置的框图。
如图1所示,本公开实施例的用于识别人脸的***100主要包括:一个或多个处理器102、一个或多个存储器104、光源发生模块106、以及图像采集模块108。这些组件通过总线***110和/或其它形式的连接机构(未示出)互连。
具体地,所述处理器102可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元,并且可以所述***100中的其它组件以执行期望的功能。
存储器104可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器102可以运行所述程序指令,以实现下文所述的本公开的实施例的人脸识别方法的相应功能以及/或者其它期望的功能。
所述光源发生模块106例如为包括激光、LED等的任何一个的光源模块,用于对被测的人脸依次发射至少一组有结构的光线。
具体地,图2示意性示出了本公开实施例的光源发生模块106的更详细配置。在图2中,本公开实施例的光源发生模块106包括第一组光源202、第二组光源204A-204D和第三组光源206A-206F。在不需要单独区分的情况下,将所述第二组光源204A-204D统称为第二组光源204,将所述第三组光源206A-206F统称为第三组光源206。
需要指出的是,虽然在图2中示意性地示出了上述三组光源,但本公开实施例的光源发生模块不必包括其全部,而是可以包括其中的任何一组或多组光源。当然,本公开实施例的光源发生模块也可以包括除了上述三组光源以外的其他光源。
具体地,所述第一组光源202包括激光器。示例性地,所述激光器可以为红外点状激光器。示例性地,所述红外点状激光器的波长为850nm。所述激光器与所述人脸之间布置预定图案的光栅。由此,所述激光器可以通过所述光栅向被测人脸投射出预定图案的光线。
图3示意性示出了本公开实施例的光栅所投射出的图案。如图3所示,示例性地,所述图案为双斜线图案,其中两组斜线的每一组均由一组平行线所组成。这两组平行线之间互相垂直,并且与垂直方向之间构成例如45度的夹角。这两组平行线内线与线之间的间距例如可以为0.002rad、0.003rad等。
需要指出的是,图3仅是本公开实施例的光栅的一个示例,本公开不限于此,而是可以包括其他各种预定图案的光栅。
继续返回图2,所述第二组光源204A-204D例如为LED光源。示例性地,所述第二组光源204为红外LED。示例性地,所述红外LED的波长为850nm。所述第二组光源204中的每一个光源设置在不同位置,并且在空间上构成一个矩形,其所在平面面向被测人脸。
需要指出的是,虽然在图2中示出第二组光源204包括四个光源、并且所述四个光源在空间上构成矩形,但本公开不限于此,而是可以包括其他数量和其他排列的光源,只要所述光源的数量为三个以上,并且所述三个以上的光源中的至少三个光源照射所述人脸的方向非线性相关。
继续参照图2,所述第三组光源206A-206F例如为LED光源。示例性地,所述第三组光源206例如为红外LED。示例性地,所述红外LED的波长在532nm至940nm之间,并且所述第三组光源206A-206F中的每个光源的波长可以是不同的。第三组光源206A-206F的各光源在空间上紧邻布置。
需要指出的是,虽然在图2中示出第三组光源206包括六个光源、并且所述六个光源在空间上的一条直线上紧邻布置,但本公开不限于此,而是可以包括其他数量和其他排列的光源,只要所述光源的数量为三个以上,并且所述光源在空间上紧邻布置。例如,所述第三组光源206可以包括四个光源,并且所述四个光源在空间上紧邻布置为2*2的正方形结构。
返回图1,所述图像采集模块108例如为摄像头等的单元,用于采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集。示例性地,所述图像采集模块108可以由单色摄像头构成。例如,在如上所述采用红外波段的光源发生模块的情况下,所述图像采集模块108可以为对应的红外摄像头。示例性地,所述图像采集模块108的帧率大于等于120fps,分辨率大于等于1080p。
应当注意,图1所示的***100的组件和结构只是示例性的,而非限制性的,根据需要,***100也可以具有其他组件和结构。
例如,所述***还可包括未示出的输入装置和输出装置。输入装置可以是用户用来输入指令的装置,并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。所述指令例如是使用所述图像采集模块104拍摄图像的指令。输出装置可以向外部(例如用户)输出各种信息(例如图像或声音),并且可以包括显示器、扬声器等中的一个或多个。所述信息例如可以为所述***的识别结果等。
下面,参照图4描述本公开实施例的用于识别人脸的方法。
图4是示意性示出本公开实施例的人脸识别方法的主要步骤的流程图。如图4所示,首先,在步骤S410,所述方法对被测的人脸依次发射至少一组有结构的光线。具体地,所述至少一组有结构的光线包括所述第一组光源中的所述激光器发射的第一组光线、由所述第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由所述第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一。
接下来,在步骤S420,所述方法采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集。例如,在图2所示的光源发生模块的情况下,所述方法可以分别采集所述人脸在经受激光器202的光线照射时的图像、所述人脸在依次经受LED204A-204D的每一个的光线照射时的图像集(数量为4)、以及所述人脸在依次经受LED206A-206F的每一个的光线照射时的图像集(数量为6),由此获得图像数量为11的有光源图像集。
然后,在步骤S430,所述方法基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集。每个被测点的特征包括被测点的位置信息、被测点的表面信息和被测点的材质信息中的至少一个。具体地,所述位置信息表示所述被测点的三维相对坐标。所述表面信息表示所述被测点的相对表面法向。所述材质信息表示所述被测点的光线吸收特性。
需要指出的是,在提取所述特征时,作为准备工作,所述方法可以首先检测所述有光源图像集中的每个有光源图像的人脸区域图像。示例性地,所述方法可以通过诸如HaarCascade(Haar级联)人脸检测器的方式检测人脸区域图像,并且基于所述人脸区域图像提取所述第一特征集,而忽略其他部分。在以下的说明中,提取所述特征所用的有光源图像指的是所述有光源图像中的人脸区域图像。
此外,需要指出的是,所述位置信息、所述表面信息和所述材质信息的提取过程可以是相互独立的。因此,下面将在两个具体示例中分别对上述三种信息的每一种详述其提取过程。
在第一示例中,首先,关于位置信息,所述方法基于所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息。
具体地,在所述图像采集模块采集了所述激光器通过如图3所示的光栅向被测人脸投射第一组光线而形成的第一有光源图像之后,所述方法可以通过使用诸如高斯模糊的方式对所述第一有光源图像进行诸如低通滤波等的预处理。
此后,所述方法计算所述第一有光源图像在例如图像的(1,1)和(1,-1)方向的方向梯度,并取计算得到的方向梯度中的局部极值,从而得到投射出的两组平行线在所述第一有光源图像中的位置,从而确定所述第一有光源图像中与所述光栅的预定点相对应的像素点。示例性地,所述预定点为两组斜线相交而产生的交点。
接下来,所述方法计算与所述像素点对应的被测点相对于所述图像采集模块的三维坐标,并由此确定由所述被测点集中所有被测点的三维坐标组成的三维坐标集。具体地,所述方法可以通过例如三角测距原理而确定所述被测点相对于所述图像采集模块的三维坐标。更具体地,所述方法可以通过如下所示的表达式(1)而计算所述被测点的三维坐标(x,y,z):
其中,(x0,y0)为所述被测点所对应的像素点在所述第一有光源图像中的坐标,f为所述图像采集模块的相机焦距,(cx,cy)为所述图像采集模块的相机光心在所述第一有光源图像中所对应的坐标,L为相机与光源(激光器)之间的距离,α为由被测点和光源之间的连线与相机和光源之间的连线所形成的夹角,并且β为由被测点和相机之间的连线与相机和光源之间的连线所形成的夹角。
在获得所有预定点(例如,两组斜线的交点)对应的被测点的三维坐标之后,所述方法可以通过例如插值等的各种方式而计算所有被测点的三维坐标。示例性地,所述方法对所述第一有光源图像中的所有像素点的每一个,选取距离所述像素点最近的若干(例如,4个)预定点,使用线性插值法计算所述像素点对应的被测点的三维坐标,从而得到所述三维坐标集。
此后,所述方法可以基于所述三维坐标集确定所述被测点集中的特定被测点。例如,所述方法可以将其z坐标最小的点(即,距离相机最近的点)确定为被测人脸中鼻尖的位置。由此,所述方法例如可以以上述特定被测点为原点,计算所述被测点集中其他被测点相对于所述特定被测点的三维相对坐标,以获得由被测点集中所有被测点的三维相对坐标所组成的三列矩阵P。
接下来,所述方法对所述三列矩阵进行奇异值分解处理P=UpSpVp,然后进行归一化处理Q=PVpT。所获得的矩阵Q即是以每个被测点的位置信息(px,py,pz)所组成的被测点集的位置信息集。所述矩阵Q是在P的正交变换下保持不变的。换言之,所获得的每个被测点的位置信息是不受环境光照和人脸姿态的影响的。
关于表面信息,首先,在所述图像采集模块采集了所述第二组光源中的每个光源依次向被测人脸照射的光线而形成的第二组有光源图像之后,所述方法计算所述第二组有光源图像的均值图像。例如,设所述图像采集模块采集通过如图2所示的光源204A照射的光线而形成的图像为I[3],所述图像采集模块采集通过如图2所示的光源204B照射的光线而形成的图像为I[4],所述图像采集模块采集通过如图2所示的光源204C照射的光线而形成的图像为I[5],所述图像采集模块采集通过如图2所示的光源204D照射的光线而形成的图像为I[6]。所述方法首先计算M=(I[3]+I[4]+I[5]+I[6])/4。
接下来,所述方法计算所述第二组有光源图像与所述均值图像之间的差分图像集。即,所述方法依次计算H[1]=I[3]-M,H[2]=I[4]-M,H[3]=I[5]-M,H[4]=I[6]-M。
然后,所述方法确定由所述被测点集中每个被测点的至少四维向量构成的至少四列矩阵,其中,所述每个被测点的至少四维向量由与所述被测点对应的像素点在所述差分图像集中相应的像素值所组成。此后,所述方法对所述至少四列矩阵进行奇异值分解处理,并基于所述奇异值分解处理的结果,获得每个被测点的表面信息。具体地,所述方法将每个被测点对应的像素点在H[1]-H[4]中对应的像素值视作4维向量h。所有点的h组成n*4的矩阵S。此后,所述方法计算S的SVD分解S=UnSnVn,并截取Un的前3列来得到以每个点的表面特征(sx,sy,sz)所组成的被测点集的表面特征集。根据Lambertian光照模型可知,如上所述所获得的每个被测点的表面特征是不受环境光照和人脸姿态的影响的。
关于材质信息,首先,在所述图像采集模块采集了所述第三组光源中的每个光源依次向被测人脸照射的光线而形成的第三组有光源图像之后,所述方法对于每个被测点确定所述被测点在所述第三组有光源图像中相应的像素值集。然后,所述方法计算所述像素值集的平均值和方差,并基于所述像素值集的平均值和方差,计算所述被测点的材质信息。
具体地,设所述图像采集模块依次采集通过如图2所示的光源206A-206F照射的光线而形成的图像为I[7]-I[12]。令G[1]=I[7],G[2]=I[8],…G[6]=I[12]。对i=1..6,所述方法分别计算以下表达式(2):
由此计算所获得的g'[1]~g'[6]构成每个被测点的材质特征。这样提取到的材质特征是不受环境光照和人脸姿态影响的。
在如上所述的第一示例中,基于所述有光源图像集来提取被测点的位置信息、表面信息和材质信息中的至少一个,从而以较少的处理量和较短的处理时间来获得了所述第一特征集。
替代地,为使所获得的所述第一特征集中的每个被测点的特征更加精确,所述方法可以基于所述有光源图像集以及无光源图像来提取所述特征。下面,将在第二示例中详细描述在此情况下的处理。
具体地,在此第二示例中,所述图像采集模块还采集所述人脸在未接受所述至少一组有结构的光线中的任一组光线的照射时的无光源图像。需要说明的是,在本说明书中,术语“无光源图像”并非指不存在任何光源(如自然光源),而是指未经受如上所述的光源发生模块的任一光源所发射的有结构的光线的照射时所采集的图像。相应地,术语“有光源图像”指经受如上所述的光源发生模块的任一光源所发射的有结构的光线的照射时所采集的图像。可选地,所述图像采集模块采集所述无光源图像与所述有光源图像集中的每个有光源图像时的间隔尽可能短,以确保采集每个图像时被测人脸基本处于相同状态下。
在如上所述采集了无光源图像之后,首先,关于位置信息,所述方法基于所述无光源图像以及所述第一有光源图像,提取每个被测点的位置信息。
具体地,所述方法可以计算所述第一有光源图像与所述无光源图像之间的差分图像。当然,所述方法同样可以通过使用诸如高斯模糊的方式对所述差分图像进行诸如低通滤波等的预处理。
此后,所述方法计算所述差分图像在例如图像(1,1)和(1,-1)方向的方向梯度,并取计算得到的方向梯度中的局部极值,从而得到投射出的两组平行线在所述第一有光源图像中的位置,也即,确定所述差分图像中与所述光栅的预定点相对应的像素点。
接下来,所述方法计算与所述像素点对应的被测点相对于所述图像采集模块的三维坐标,并由此确定由所述被测点集中所有被测点的三维坐标组成的三维坐标集。具体地,所述方法可以通过例如三角测距原理而确定所述被测点相对于所述图像采集模块的三维坐标。更具体地,所述方法可以通过如上所示的表达式(1)而计算所述被测点的三维坐标(x,y,z),其中,(x0,y0)为所述被测点所对应的像素点在所述差分图像中的坐标,f为所述图像采集模块的相机焦距,(cx,cy)为所述图像采集模块的相机光心在所述差分图像中所对应的坐标,L为相机与光源(激光器)之间的距离,α为由被测点和光源之间的连线与相机和光源之间的连线所形成的夹角,并且β为由被测点和相机之间的连线与相机和光源之间的连线所形成的夹角。在获得所有预定点对应的被测点的三维坐标之后,所述方法可以通过例如插值等的各种方式而计算所有被测点的三维坐标。示例性地,所述方法对所述差分图像中的所有像素点的每一个,选取距离所述像素点最近的若干(例如,4个)预定点,使用线性插值法计算所述像素点对应的被测点的三维坐标,从而得到所述三维坐标集。
此后,所述方法可以基于所述三维坐标集确定所述被测点集中的特定被测点。例如,所述方法可以将其z坐标最小的点(即,距离相机最近的点)确定为被测人脸中鼻尖的位置。由此,所述方法例如可以以上述特定被测点为原点,计算所述被测点集中其他被测点相对于所述特定被测点的三维相对坐标,以获得由被测点集中所有被测点的三维相对坐标所组成的三列矩阵P。
接下来,所述方法对所述三列矩阵进行奇异值分解处理P=UpSpVp,然后进行归一化处理Q=PVpT。所获得的矩阵Q即是以每个被测点的位置信息(px,py,pz)所组成的被测点集的位置信息集。所述矩阵Q是在P的正交变换下保持不变的。换言之,所获得的每个被测点的位置信息是不受环境光照和人脸姿态的影响的。
关于表面信息,首先,所述方法计算所述第二组有光源图像与所述无光源图像之间的差分图像集。例如,同样设所述图像采集模块采集被测人脸依次通过如图2所示的光源204A-204D照射的光线而形成的图像分别为I[3]-I[6],并且设所述图像采集模块采集被测人脸未经受任一光源的照射时而形成的图像为I[1]。设H[1]=I[3]-I[1],H[2]=I[4]-I[1],H[3]=I[5]-I[1],H[4]=I[6]-I[1]。
接下来,所述方法确定由所述被测点集中每个被测点的至少四维向量构成的至少四列矩阵,其中,所述每个被测点的至少四维向量由与所述被测点对应的像素点在所述差分图像集中相应的像素值所组成。此后,所述方法对所述至少四列矩阵进行奇异值分解处理,并基于所述奇异值分解处理的结果,获得每个被测点的表面信息。具体地,所述方法将每个被测点对应的像素点在H[1]-H[4]中对应的像素值视作4维向量h。所有点的h组成n*4的矩阵S。此后,所述方法计算S的SVD分解S=UnSnVn,并截取Un的前3列来得到以每个点的表面特征(sx,sy,sz)所组成的被测点集的表面特征集。根据Lambertian光照模型可知,如上所述所获得的每个被测点的表面特征是不受环境光照和人脸姿态的影响的。
关于材质信息,首先,所述方法计算所述第三组有光源图像与所述无光源图像之间的差分图像集。然后,所述方法对于每个被测点确定所述被测点在所述差分图像集中相应的像素值集。然后,所述方法计算所述像素值集的平均值和方差,并基于所述像素值集的平均值和方差,计算所述被测点的材质信息。
具体地,设所述图像采集模块依次采集通过如图2所示的光源206A-206F照射的光线而形成的图像为I[7]-I[12]。令G[1]=I[7]-i[1],G[2]=I[8]-I[1],…G[6]=I[12]-I[1]。对i=1..6,所述方法通过如上所述的表达式(2)计算所获得的g'[1]~g'[6]构成每个被测点的材质特征。这样提取到的材质特征是不受环境光照和人脸姿态影响的。
以上,以两个具体示例描述了所述第一特征集中的每个被测点的位置信息、表面信息和材质信息的提取过程。需要指出的是,如上所述的提取方式仅为示例。本领域技术人员能够在此基础之上通过其他各种方式来提取所述位置信息、表面信息和材质信息,其都在本公开的范围内。
此外,需要指出的是,所述位置信息、表面信息和材质信息仅是所述被测人脸的基于有结构的光线而提取的特征的一些示例。本领域技术人员能够在此基础上提取所述被测人脸的其他特征,其都在本公开的范围内。
在步骤S430中通过如上所述的处理提取了每个被测点的特征X=(px,py,pz,sx,sy,sz,g'[1],g'[2],g'[3],g'[4],g'[5],g'[6])之后,所述方法进行到步骤S440。
在步骤S440,所述方法获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集。所述第二特征集中的每个测定点的特征可通过与步骤S430的处理类似的处理预先提取,并通过例如数据库的方式存储在存储器中,其处理过程不再详述。
需要指出的是,虽然在图4中将步骤S440示出为在步骤S410-S430之后,但是本公开实施例的方法不限于此,而是可以将步骤S440与步骤S410-S430以任何顺序(例如并行地或颠倒地)执行。
然后,在步骤S450,所述方法基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度。
具体地,首先,所述方法对于所述被测点集中的每个被测点,确定所述人脸模板的测定点集中的对应点。
更具体地,由于如上所述有光源图像集中的每个有光源图像之间的采集间隔很短,可以认为人脸的状态基本不变,因此,所述方法可以检测所述有光源图像集中的任一有光源图像中表示所述人脸的结构信息的第一关键点集。在还采集所述无光源图像的情况下,所述方法还可以检测所述无光源图像中表示所述人脸的结构信息的第一关键点集。所述关键点例如为人脸上的眼、鼻、嘴、脸轮廓等等。示例性地,所述方法可以采用事先训练好的诸如AdaboostCascade(Adaboost级联)的人脸特征检测器而检测所述第一关键点集。然后,所述方法可以获取所述人脸模板中表示所述人脸模板的结构信息的第二关键点集。所述第二关键点集可以以与所述第一关键点集同样的方式预先检测并存储在数据库中,在此不再详述。接下来,所述方法基于所述第一关键点集和所述第二关键点集,对于每个被测点确定所述对应点。示例性地,所述方法可以利用诸如ThinPlateSpline(薄板样条)插值等的方式来计算确定每个被测点在所述人脸模板中的对应点。
在确定了对应点之后,所述方法计算所述被测点的特征与所述对应点的特征之间的差值Xd=|X1-X2|,其中,X1为被测点的特征,X2为对应点的特征,Xd为所述差值。在对每个被测点进行如上所述的计算之后,所述方法获得被测点集中所有被测点与相应的对应点之间的差值集。
此后,所述方法基于所述差值集,使用预先训练的神经网络例如卷积神经网络来计算所述人脸与所述人脸模板之间的相似度。使用神经网络计算人脸相似度的方式为本领域技术人员所知,在此不再详述。
在以上所述的示例中,对于被测人脸的每个被测点确定人脸模板上的对应点,从而计算相似度。替代地,也可以对于人脸模板上的每个测定点确定被测人脸上的对应点,从而计算相似度。即,所述方法对于所述测定点集中的每个测定点,确定所述人脸的被测点集中的对应点。然后,所述方法计算所述测定点的特征与所述对应点的特征之间的差值,以获得测定点集中所有测定点与相应的对应点之间的差值集,并且基于所述差值集,使用预先训练的卷积神经网络来计算所述人脸与所述人脸模板之间的相似度。
在通过步骤S450计算了所述人脸与所述人脸模板之间的相似度之后,在步骤S460,如果所述相似度大于阈值,则所述方法将所述人脸识别为与所述人脸模板相一致。当然,另一方面,如果所述相似度小于等于阈值,则所述方法将所述人脸识别为与所述人脸模板不一致。
以上,参照图4描述了本公开实施例的用于识别人脸的方法。在所述方法中,通过对被测人脸依次发射有结构的光线并采集相应的图像,能够提取出不受环境光照和人脸姿态影响的人脸特征,由此,能够极大地改善人脸识别的准确度。
下面,将参照图5描述本公开实施例的用于识别人脸的设备。
如图5所示,本公开此实施例的用于识别人脸的设备500包括:光源发生模块510、图像采集模块520、提取模块530、获取模块540、计算模块550和识别模块560。
所述光源发生模块510对被测的人脸依次发射至少一组有结构的光线。
所述图像采集模块520采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集。
所述提取模块530基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个。
所述获取模块540获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集。
所述计算模块550基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度。
所述识别模块560在所述相似度大于阈值的情况下将所述人脸识别为与所述人脸模板相一致。
所述提取模块530、所述获取模块540、所述计算模块550和所述识别模块560均可以适当地实现为硬件、软件、固件或它们的任意可行的组合。示例性地,本公开实施例的设备500的各个模块可以由运行在计算机中的软件实现,所述软件当被计算机运行时,执行如上所述的各个处理。
在一实施例中,所述光源发生模块510包括第一组光源、第二组光源和第三组光源中的至少一组。所述第一组光源包括激光器,所述激光器与所述人脸之间布置预定图案的光栅。所述第二组光源包括三个以上的光源,所述三个以上的光源中的至少三个光源照射所述人脸的方向非线性相关。所述第三组光源包括在空间上紧邻布置的三个以上的光源。
在另一实施例中,所述至少一组有结构的光线包括所述第一组光源中的所述激光器发射的第一组光线、由所述第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由所述第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一。所述提取模块530被配置为执行以下操作至少之一:基于所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;基于所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及基于所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。所述提取模块530提取所述位置信息、表面信息和材质信息的具体操作已经在上面参照图4的人脸识别方法中详细描述,在此不再重复。
在另一实施例中,所述计算模块550包括:对应点确定模块,对于所述被测点集中的每个被测点,确定所述人脸模板的测定点集中的对应点;差值计算模块,计算所述被测点的特征与所述对应点的特征之间的差值,以获得被测点集中所有被测点与相应的对应点之间的差值集;以及相似度计算模块,基于所述差值集,使用预先训练的神经网络例如卷积神经网络来计算所述人脸与所述人脸模板之间的相似度。
在另一实施例中,所述对应点确定模块包括:关键点检测模块,检测所述有光源图像集的任一有光源图像中表示所述人脸的结构信息的第一关键点集;关键点获取模块,获取所述人脸模板中表示所述人脸模板的结构信息的第二关键点集;对应点确定子单元,基于所述第一关键点集和所述第二关键点集,对于每个被测点确定所述对应点。
在另一实施例中,所述计算模块包括:对应点确定模块,对于所述测定点集中的每个测定点,确定所述人脸的被测点集中的对应点;差值计算模块,计算所述测定点的特征与所述对应点的特征之间的差值,以获得测定点集中所有测定点与相应的对应点之间的差值集;以及相似度计算模块,基于所述差值集,使用预先训练的卷积神经网络来计算所述人脸与所述人脸模板之间的相似度。
在另一实施例中,所述提取模块530包括:人脸检测模块,检测所述有光源图像集中的每个有光源图像的人脸区域图像;以及子提取单元,基于所检测的每个有光源图像中的人脸区域图像,提取所述第一特征集。
以上,参照图5描述了本公开实施例的用于识别人脸的设备。在所述设备中,通过对被测人脸依次发射有结构的光线并采集相应的图像,能够提取出不受环境光照和人脸姿态影响的人脸特征,由此,能够极大地改善人脸识别的准确度。
需要指出的是,本公开实施例的人脸识别方法和***既可以以集中方式部署在需要进行人脸识别的终端处,也可以以分布式方式部署在服务器端(云端)和终端处。下面,将参照图6和图7详细描述本公开实施例的用于识别人脸的装置。
具体地,图6是示意性图示根据本公开实施例的用于识别人脸的装置的主要配置的框图。
如图6所示,本公开实施例的用于识别人脸的装置600主要包括:光源发生模块610、图像采集模块620、发送模块630以及接收模块640。
所述光源发生模块610对待识别的人脸依次发射至少一组有结构的光线。所述图像采集模块620采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集。所述发送模块630将所述有光源图像集发送至与所述装置可通信地连接的计算机。所述接收模块640从所述计算机接收所述人脸的识别结果。其中,该用于识别人脸的装置600也可以不包括接收模块640,而在与该用于识别人脸的装置600相连的其他装置的合适位置处设置接收模块。
所述光源发生模块610和所述图像采集模块620的具体配置和操作已经在前面参照图1-5详细描述,在此不再重复。所述发送模块630和所述接收模块640可实现为以各种通信协议与所述计算机进行通信的通信模块。所述通信可以是有线通信,也可以是无线通信。
所述计算机包括:接收模块,从所述装置接收所述有光源图像集;处理器;存储器;存储在所述存储器中的计算机程序指令,在所述计算机程序指令被所述处理器运行时执行以下步骤:基于所述有光源图像集,提取表示所述人脸的被测点集的特征的第一特征集;获取表示人脸模板的被测点集的特征的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致;以及发送模块,将所述人脸的识别结果发送至识别结果接收模块。其中识别结果接收模块可以为设置在该用于识别人脸的装置600内的上述的接收模块640,也可以设置在其他合适的位置的接收模块。
在参照图6所述的人脸识别装置600中,将所采集的有光源图像发送至例如位于云端的计算机,所述计算机执行如上所述的操作之后将结果返回至所述人脸识别装置600,由此,能够提取出不受环境光照和人脸姿态影响的人脸特征,并极大地改善人脸识别的准确度。由此,即便终端处的装置的处理能力有限,也能够通过与服务器侧的计算机合作而实现人脸识别。而且,终端处的装置不必存储众多人脸模板的第二特征集,从而降低了对所述装置的存储要求。
替代地,在终端处的装置与服务器处的计算机之间的通信速率不高的情况下,或者在终端处的装置的处理能力相对较高的情况下,所述装置可以在终端处提取所述第一特征集,并将所提取的第一特征集发送至位于云端的服务器。
图7是示意性示出根据本公开另一实施例的用于识别人脸的装置的主要配置的框图。
如图7所示,本公开此实施例的用于识别人脸的装置700主要包括:光源发生模块710、图像采集模块720、处理模块730、发送模块740以及接收模块750。
所述光源发生模块710对待识别的人脸依次发射至少一组有结构的光线。所述图像采集模块720采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集。所述处理模块730基于所述有光源图像集,提取表示所述人脸的被测点集的特征的第一特征集。所述发送模块740将所述第一特征集发送至与所述装置可通信地连接的计算机。所述接收模块750从所述计算机接收所述人脸的识别结果。其中,该用于识别人脸的装置700也可以不包括接收模块750,而在与该用于识别人脸的装置700相连的其他装置的合适位置处设置接收模块。
所述光源发生模块710和所述图像采集模块720的具体配置和操作已经在前面参照图1-5详细描述,在此不再重复。所述处理模块730可实现为各种具有数据处理能力和/或指令执行能力的处理单元。所述发送模块740和所述接收模块750可实现为以各种通信协议与所述计算机进行通信的通信模块。所述通信可以是有线通信,也可以是无线通信。
所述计算机包括:接收模块,从所述装置接收所述第一特征集;处理器;存储器;存储在所述存储器中的计算机程序指令,在所述计算机程序指令被所述处理器运行时执行以下步骤:获取表示人脸模板的被测点集的特征的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致;以及发送模块,将所述人脸的识别结果发送至所述装置。
在参照图7所述的人脸识别装置700中,将基于所采集的有光源图像而提取的第一特征集发送至例如位于云端的计算机,所述计算机执行如上所述的操作之后将结果返回至所述人脸识别装置700,由此,能够提取出不受环境光照和人脸姿态影响的人脸特征,并极大地改善人脸识别的准确度。由此,即便终端处的装置的处理能力有限,也能够通过与服务器侧的计算机合作而实现人脸识别。而且,终端处的装置不必存储众多人脸模板的第二特征集,从而降低了对所述装置的存储要求。此外,与图6所示的人脸识别装置相比,由于仅发送相对较小数据量的第一特征集而不必发送较大数据量的图像,可以减小终端处的装置与服务器侧的计算机之间的通信量。
此外,根据本公开实施例,还提供了一种计算机程序产品。根据本公开实施例的计算机程序产品包括计算机可读存储介质,在所述计算机可读存储介质上存储了计算机程序指令。
所述计算机程序指令在被计算机运行时可以实现根据本公开实施例的用于识别人脸的***的各个功能模块的功能,并且/或者可以执行根据本公开实施例的用于识别人脸的方法。
例如,所述计算机程序指令在被计算机运行时可执行以下步骤:基于被测的人脸在依次经受至少一组有结构的光线中的每一组光线的照射时所采集的有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
所述计算机可读存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。
在上面详细描述的本发明的示例实施例仅仅是说明性的,而不是限制性的。本领域技术人员应该理解,在不脱离本发明的原理和精神的情况下,可对这些实施例进行各种修改,组合或子组合,并且这样的修改应落入本发明的范围内。
Claims (20)
1.一种用于识别人脸的***,包括:
光源发生模块,对被测的人脸依次发射至少一组有结构的光线;
图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;
处理器;
存储器;和
存储在所述存储器中的计算机程序指令,在所述计算机程序指令被所述处理器运行时执行以下步骤:
基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;
获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;
基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及
如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
2.如权利要求1所述的***,其中,
所述光源发生模块包括第一组光源、第二组光源和第三组光源中的至少一组;
所述第一组光源包括激光器,所述激光器与所述人脸之间布置预定图案的光栅;
所述第二组光源包括三个以上的光源,所述三个以上的光源中的至少三个光源照射所述人脸的方向非线性相关;
所述第三组光源包括在空间上紧邻布置的三个以上的光源。
3.如权利要求2所述的***,其中,所述至少一组有结构的光线包括由所述第一组光源中的所述激光器发射的第一组光线、由所述第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由所述第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一;
提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括以下至少之一:
基于所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
4.如权利要求3所述的***,其中,提取每个被测点的位置信息包括:
计算所述第一有光源图像的方向梯度,以确定所述第一有光源图像中与所述光栅的预定点相对应的像素点;
计算与所述像素点对应的被测点相对于所述图像采集模块的三维坐标,并由此确定由所述被测点集中所有被测点的三维坐标组成的三维坐标集;
基于所述三维坐标集确定所述被测点集中的特定被测点,并计算所述被测点集中其他被测点相对于所述特定被测点的三维相对坐标,以获得由被测点集中所有被测点的三维相对坐标所组成的三列矩阵;以及
对所述三列矩阵进行奇异值分解处理和归一化处理,以获得每个被测点的位置信息。
5.如权利要求3所述的***,其中,提取每个被测点的表面信息包括:
计算所述第二组有光源图像的均值图像;
计算所述第二组有光源图像与所述均值图像之间的差分图像集;
确定由所述被测点集中每个被测点的至少四维向量构成的至少四列矩阵,其中,所述每个被测点的至少四维向量由与所述被测点对应的像素点在所述差分图像集中相应的像素值所组成;
对所述至少四列矩阵进行奇异值分解处理;以及
基于所述奇异值分解处理的结果,获得每个被测点的表面信息。
6.如权利要求3所述的***,其中,提取每个被测点的材质信息包括:
对于每个被测点,确定所述被测点在所述第三组有光源图像中相应的像素值集;
计算所述像素值集的平均值和方差;以及
基于所述像素值集的平均值和方差,计算所述被测点的材质信息。
7.如权利要求3所述的***,所述图像采集模块还采集所述人脸在未接受所述至少一组有结构的光线中的任一组光线的照射时的无光源图像;
其中,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括以下至少之一:
基于所述无光源图像以及所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述无光源图像以及所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述无光源图像以及所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
8.如权利要求7所述的***,其中,提取每个被测点的位置信息包括:
计算所述第一有光源图像与所述无光源图像之间的差分图像;
计算所述差分图像的方向梯度,以确定所述差分图像中与所述光栅的预定点相对应的像素点;
计算与所述像素点对应的被测点相对于所述图像采集模块的三维坐标,并由此确定由所述被测点集中所有被测点的三维坐标组成的三维坐标集;
基于所述三维坐标集确定所述被测点集中的特定被测点,并计算所述被测点集中其他被测点相对于所述特定被测点的三维相对坐标,以获得由被测点集中所有被测点的三维相对坐标所组成的三列矩阵;以及
对所述三列矩阵进行奇异值分解处理和归一化处理,以获得每个被测点的位置信息。
9.如权利要求7所述的***,其中,提取每个被测点的表面信息包括:
计算所述第二组有光源图像与所述无光源图像之间的差分图像集;
确定由所述被测点集中每个被测点的至少四维向量构成的至少四列矩阵,其中,所述每个被测点的至少四维向量由与所述被测点对应的像素点在所述差分图像集中相应的像素值所组成;
对所述至少四列矩阵进行奇异值分解处理;以及
基于所述奇异值分解处理的结果,获得每个被测点的表面信息。
10.如权利要求7所述的***,其中,提取每个被测点的材质信息包括:
计算所述第三组有光源图像与所述无光源图像之间的差分图像集;
对于每个被测点,确定所述被测点在所述差分图像集中相应的像素值集;
计算所述像素值集的平均值和方差;以及
基于所述像素值集的平均值和方差,计算所述被测点的材质信息。
11.如权利要求1所述的***,其中,计算所述人脸与所述人脸模板之间的相似度包括:
对于所述被测点集中的每个被测点,确定所述人脸模板的测定点集中的对应点;
计算所述被测点的特征与所述对应点的特征之间的差值,以获得被测点集中所有被测点与相应的对应点之间的差值集;以及
基于所述差值集,使用预先训练的神经网络来计算所述人脸与所述人脸模板之间的相似度。
12.如权利要求11所述的***,其中,确定所述人脸模板的测定点集中的对应点包括:
检测所述有光源图像集的任一有光源图像中表示所述人脸的结构信息的第一关键点集;
获取所述人脸模板中表示所述人脸模板的结构信息的第二关键点集;
基于所述第一关键点集和所述第二关键点集,对于每个被测点确定所述对应点。
13.如权利要求1所述的***,其中,计算所述人脸与所述人脸模板之间的相似度包括:
对于所述测定点集中的每个测定点,确定所述人脸的被测点集中的对应点;
计算所述测定点的特征与所述对应点的特征之间的差值,以获得测定点集中所有测定点与相应的对应点之间的差值集;以及
基于所述差值集,使用预先训练的神经网络来计算所述人脸与所述人脸模板之间的相似度。
14.如权利要求1所述的***,其中,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括:
检测所述有光源图像集中的每个有光源图像的人脸区域图像;以及
基于所检测的每个有光源图像中的人脸区域图像,提取所述第一特征集。
15.一种用于识别人脸的方法,包括:
对被测的人脸依次发射至少一组有结构的光线;
采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;
基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;
获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;
基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及
如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
16.如权利要求15所述的方法,其中,所述至少一组有结构的光线包括由所述第一组光源中的所述激光器发射的第一组光线、由所述第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由所述第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一;
提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括以下至少之一:
基于所述人脸在经受第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息,其中,所述激光器与所述人脸之间布置预定图案的光栅;
基于所述人脸在依次经受第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息,其中,所述第二组光源包括三个以上的光源,所述三个以上的光源中的至少三个光源照射所述人脸的方向非线性相关;以及
基于所述人脸在依次经受第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息,其中,所述第三组光源包括在空间上紧邻布置的三个以上的光源。
17.如权利要求16所述的方法,还包括:
采集所述人脸在未接受所述至少一组有结构的光线中的任一组光线的照射时的无光源图像;
其中,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括以下至少之一:
基于所述无光源图像以及所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述无光源图像以及所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述无光源图像以及所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
18.一种用于识别人脸的装置,包括:
光源发生模块,对待识别的人脸依次发射至少一组有结构的光线;
图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;以及
发送模块,将所述有光源图像集发送至与所述装置可通信地连接的计算机。
19.如权利要求18所述的装置,其中,所述计算机包括:
接收模块,从所述装置接收所述有光源图像集;
处理器;
存储器;
存储在所述存储器中的计算机程序指令,在所述计算机程序指令被所述处理器运行时执行以下步骤:
基于所述有光源图像集,提取表示所述人脸的被测点集的特征的第一特征集;
获取表示人脸模板的被测点集的特征的第二特征集;
基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及
如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致;以及
发送模块,将所述人脸的识别结果发送至识别结果接收模块。
20.一种计算机程序产品,包括计算机可读存储介质,在所述计算机可读存储介质上存储了计算机程序指令,所述计算机程序指令在被计算机运行时执行以下步骤:
基于被测的人脸在依次经受至少一组有结构的光线中的每一组光线的照射时所采集的有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;
获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;
基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及
如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2015/077692 WO2016172856A1 (zh) | 2015-04-28 | 2015-04-28 | 用于识别人脸的装置、***、方法和计算机程序产品 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105517680A true CN105517680A (zh) | 2016-04-20 |
CN105517680B CN105517680B (zh) | 2020-03-10 |
Family
ID=55724962
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201580000322.9A Active CN105517680B (zh) | 2015-04-28 | 2015-04-28 | 用于识别人脸的装置、***和方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10360439B2 (zh) |
CN (1) | CN105517680B (zh) |
WO (1) | WO2016172856A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109076190A (zh) * | 2016-04-22 | 2018-12-21 | 株式会社S1 | 检测异常情况的设备和方法 |
CN110751767A (zh) * | 2019-10-31 | 2020-02-04 | 中国联合网络通信集团有限公司 | 一种图像处理方法和装置 |
CN111460910A (zh) * | 2020-03-11 | 2020-07-28 | 深圳市新镜介网络有限公司 | 人脸脸型的分类方法、装置、终端设备及存储介质 |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018033137A1 (zh) * | 2016-08-19 | 2018-02-22 | 北京市商汤科技开发有限公司 | 在视频图像中展示业务对象的方法、装置和电子设备 |
CN108875482B (zh) * | 2017-09-14 | 2022-01-21 | 北京旷视科技有限公司 | 物体检测方法和装置、神经网络训练方法和装置 |
CN110047101A (zh) * | 2018-01-15 | 2019-07-23 | 北京三星通信技术研究有限公司 | 物体姿态估计方法、获得稠密深度图像的方法、相应装置 |
KR102457462B1 (ko) | 2018-03-06 | 2022-10-21 | 삼성전자주식회사 | 전자장치의 이미지 처리 장치 및 방법 |
US11580662B2 (en) * | 2019-12-29 | 2023-02-14 | Magik Eye Inc. | Associating three-dimensional coordinates with two-dimensional feature points |
CN114257707A (zh) * | 2020-09-21 | 2022-03-29 | 安霸国际有限合伙企业 | 具有彩色夜间模式的智能ip摄像头 |
CN117387939B (zh) * | 2023-12-08 | 2024-02-09 | 珠海市钧兴机电有限公司 | 齿轮测试控制方法、电子设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101339607A (zh) * | 2008-08-15 | 2009-01-07 | 北京中星微电子有限公司 | 人脸识别方法及***、人脸识别模型训练方法及*** |
CN102208032A (zh) * | 2011-07-04 | 2011-10-05 | 徐杰 | 基于球面重采样的三维人脸识别 |
CN102346857A (zh) * | 2011-09-14 | 2012-02-08 | 西安交通大学 | 人脸图像光照参数和去光照图的高精度同时估计方法 |
CN102567706A (zh) * | 2010-12-24 | 2012-07-11 | 汉王科技股份有限公司 | 一种人脸识别装置和方法 |
CN102930257A (zh) * | 2012-11-14 | 2013-02-13 | 汉王科技股份有限公司 | 人脸识别装置 |
US20130215235A1 (en) * | 2011-04-29 | 2013-08-22 | Austin Russell | Three-dimensional imager and projection device |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9392262B2 (en) * | 2014-03-07 | 2016-07-12 | Aquifi, Inc. | System and method for 3D reconstruction using multiple multi-channel cameras |
-
2015
- 2015-04-28 US US14/888,365 patent/US10360439B2/en active Active
- 2015-04-28 CN CN201580000322.9A patent/CN105517680B/zh active Active
- 2015-04-28 WO PCT/CN2015/077692 patent/WO2016172856A1/zh active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101339607A (zh) * | 2008-08-15 | 2009-01-07 | 北京中星微电子有限公司 | 人脸识别方法及***、人脸识别模型训练方法及*** |
CN102567706A (zh) * | 2010-12-24 | 2012-07-11 | 汉王科技股份有限公司 | 一种人脸识别装置和方法 |
US20130215235A1 (en) * | 2011-04-29 | 2013-08-22 | Austin Russell | Three-dimensional imager and projection device |
CN102208032A (zh) * | 2011-07-04 | 2011-10-05 | 徐杰 | 基于球面重采样的三维人脸识别 |
CN102346857A (zh) * | 2011-09-14 | 2012-02-08 | 西安交通大学 | 人脸图像光照参数和去光照图的高精度同时估计方法 |
CN102930257A (zh) * | 2012-11-14 | 2013-02-13 | 汉王科技股份有限公司 | 人脸识别装置 |
Non-Patent Citations (1)
Title |
---|
EROL SEKE: ""Determining illumination sources in frontal face images using salient samples from a face depth map"", 《2011 INTERNATIONAL SYMPOSIUM ON INNOVATIONS IN INTELLIGENT SYSTEMS AND APPLICATIONS》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109076190A (zh) * | 2016-04-22 | 2018-12-21 | 株式会社S1 | 检测异常情况的设备和方法 |
US10853664B2 (en) | 2016-04-22 | 2020-12-01 | S-1 Corporation | Device and method for detecting abnormal situation |
CN109076190B (zh) * | 2016-04-22 | 2021-03-02 | 株式会社S1 | 检测异常情况的设备和方法 |
CN110751767A (zh) * | 2019-10-31 | 2020-02-04 | 中国联合网络通信集团有限公司 | 一种图像处理方法和装置 |
CN111460910A (zh) * | 2020-03-11 | 2020-07-28 | 深圳市新镜介网络有限公司 | 人脸脸型的分类方法、装置、终端设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN105517680B (zh) | 2020-03-10 |
US20170004355A1 (en) | 2017-01-05 |
US10360439B2 (en) | 2019-07-23 |
WO2016172856A1 (zh) | 2016-11-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105517680A (zh) | 用于识别人脸的装置、***、方法和计算机程序产品 | |
CN108875524B (zh) | 视线估计方法、装置、***和存储介质 | |
CN111626125B (zh) | 人脸温度检测的方法、***、装置和计算机设备 | |
CN107024685A (zh) | 一种基于距离‑速度特征的手势识别方法 | |
CN106133752A (zh) | 眼睛注视跟踪 | |
CN106911922B (zh) | 从单个传感器生成的深度图 | |
CN109214366A (zh) | 局部目标重识别方法、装置及*** | |
CN103413145B (zh) | 基于深度图像的关节点定位方法 | |
CN107532885A (zh) | 光图案中的强度变化用于体积中的物体的深度绘制 | |
CN102243687A (zh) | 一种基于动作识别技术的体育教学辅助***及其实现方法 | |
CN202662011U (zh) | 一种基于动作识别技术的体育教学辅助*** | |
CN103324938A (zh) | 训练姿态分类器及物体分类器、物体检测的方法及装置 | |
CN104392223A (zh) | 二维视频图像中的人体姿态识别方法 | |
CN104821010A (zh) | 基于双目视觉的人手三维信息实时提取方法及*** | |
CN107203743B (zh) | 一种人脸深度跟踪装置及实现方法 | |
CN106575363A (zh) | 用于追踪场景中的关键点的方法 | |
CN104667510A (zh) | 一种人体动作测试*** | |
CN110135304A (zh) | 人***姿识别方法及装置 | |
CN105447483A (zh) | 活体检测方法及装置 | |
CN111401180B (zh) | 神经网络识别模型训练方法、装置、服务器及存储介质 | |
CN114299604A (zh) | 一种基于二维图像的手骨骼捕捉、手势判别方法 | |
CN108875500A (zh) | 行人再识别方法、装置、***及存储介质 | |
CN115657012A (zh) | 图像目标与雷达目标的匹配方法、装置、设备及存储介质 | |
Liu et al. | Farsight: A physics-driven whole-body biometric system at large distance and altitude | |
KR101575100B1 (ko) | 사용자 그룹의 공간행동 센싱 및 의미분석 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: 100190 Beijing, Haidian District Academy of Sciences, South Road, No. 2, block A, No. 313 Applicant after: MEGVII INC. Applicant after: Beijing maigewei Technology Co., Ltd. Address before: 100190 Beijing, Haidian District Academy of Sciences, South Road, No. 2, block A, No. 313 Applicant before: MEGVII INC. Applicant before: Beijing aperture Science and Technology Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |