CN108520210A - 基于小波变换和局部线性嵌入的人脸识别方法 - Google Patents

Abstract

本发明公开了一种基于小波变换和局部线性嵌入的人脸识别方法，对人脸图像进行预处理，由小波变换对面部进行分解，获得人脸图像的四个组成分量，利用局部线性嵌入算法提取四个分量的特征，并选择加权融合得到面部信息特征，利用最小二乘支持向量机训练特征向量，并与DAG相结合形成人脸图像分类器，通过人脸图像分类器进行人脸识别，并输出识别结果；加快了人脸识别率和计算速度，提高了人脸识别效率。

Description

基于小波变换和局部线性嵌入的人脸识别方法

技术领域：

本发明涉及一种人脸识别领域，特别是涉及一种基于小波变换和局部线性嵌入的人脸识别方法。

背景技术：

与生物特征识别技术相比，人脸特征具有唯一性、易访问性、低成本等优点。为了满足实际应用的需要，需要对人脸识别方法进行探索。现有技术中，在一定的约束条件下，人脸识别取得了较高的识别率。但在实际工作中，人脸容易受到光照、成像设备和遮挡等外界因素的联合影响，导致非限制条件下人脸识别性能急剧下降。因此，人脸识别仍然是一项具有挑战性的任务。

发明内容：

本发明所要解决的技术问题是：克服现有技术的不足，提供一种利用小波变换分解得到人脸图像的四个分量，之后，执行LLE算法从四个分量中分别抽取特征，并利用加权融合来得到人脸识别特征矢量，最后，利用最小二乘支持向量机学习训练样本，从而建立人脸识别分类器，实现人脸识别的基于小波变换和局部线性嵌入的人脸识别方法。

本发明的技术方案是：一种基于小波变换和局部线性嵌入的人脸识别方法，A、对人脸图像进行预处理，由小波变换对面部进行分解，获得人脸图像的四个组成分量；

B、利用局部线性嵌入算法提取四个分量的特征，并选择加权融合得到面部信息特征；

C、利用最小二乘支持向量机训练特征向量，并与DAG相结合形成人脸图像分类器；

D、经过步骤A和步骤B操作的人脸图像通过人脸图像分类器进行人脸识别，并输出识别结果。

所述步骤A中四个组成分量分别描述为LL、LH、HL和HH；其中，LL定义低频分量，保留原始图像中的大量信息，基本上代表了原始图像的特征；LH表示水平分量，主要包含有关眼睛和嘴巴之间面部表情的内部信息；HL是垂直分量，包括人的头发、鼻子、耳朵和边缘轮廓信息；HH代表对角线信息，反映原始内容较少；其四个组成分量通过以下步骤获得：

定义分解二维尺度函数，之后能够用来计算两个一维尺度函数之积：

ψ(x)为相位子波函数，定义三个二维正交小波函数如下：

令f(x,y)表示人脸图像，二维离散信号f(m,n)的近似图像为：

在上述公式中，第一项是人脸图像的低频近似，其余部分是细节信号。

大小为m*n的人脸图像A(x,y)，其离散小波变换(DWT，Discrete WaveletTransform)为：

步骤B中分量特征的步骤为：通过建立以下数学模型最小化局部线性嵌入(LLE)中线性表示的误差：

线性嵌入算法的关键步骤为：

输入：样布x＝{x₁,x₂,…x_n∈R^D}，D代表样布量的特征，ε代表邻居空间；

输出：Y＝{y₁,y₂,…y_n∈R^D}；

(1)邻域搜索，利用k-近邻方法计算高维空间中每个样本点Xi的最近邻；

(2)计算样本点的局部重构权值矩阵，并定义一个代价函数来最小化总体重构误差；

此处，x_i代表样本向量；W_ij代表权值；使用最小误差函数来求解权重；

x_i的线性组合为：

其中，N_i代表一个D×K的矩阵，N_i＝[x_i1,x_i2,...,x_ik]，W_i代表一个k×1的矩阵，w_i＝[w_i1,w_i2,...,w_ik]^T；

在每个点及其近邻由一个左旋转或尺度矩阵R，得到的权重矩阵重建表示，为：

(3)构造一个局部协方差矩阵C，要求最小化重构最小误差，从而得到：

C_jk＝(x_i-x_i,j)^T(x_i-x_i,k) (10)

(4)利用拉格朗日乘子法得到局部最优W：

(5)找到映射函数y_i，将所有样本点映射到低维空间中，从而得到最小的目标函数：

步骤B中加权融合的步骤为：选择向量的每个分量的面部特征对应的最小d个非零特征值；之后，选择一定的权重进行融合，从而得到面部信息特征；

X＝ω₁×LL'₁+ω₂×LH'₁+ω₃×HL'₁+ω₄×HH'₁ (16)

步骤C中特征向量的训练步骤为：

设置训练样布集，如(x_i,y_i)，i＝1,2,…,n，在高维特征空间中LSSVM线性分类函数是：

其中，b和w表示两个参数；

考虑到拟合误差和函数的复杂性，根据结构风险最小化原则，公式(12)为：

其中，γ是正则化参数；

为了提高解的效率，将公式(13)转化为拉格朗日乘子的最优化问题：

其中，α_i是拉格朗日乘子；

根据KKT条件，我们可以得到：

以及

此处，I代表了识别矩阵，

选取径向基函数作为核函数的最小二乘支持向量机，它的定义如下：

其中，σ是带宽参数。

本发明的有益效果是：

1、本发明利用小波变换分解得到人脸图像的四个分量，之后，执行LLE算法从四个分量中分别抽取特征，并利用加权融合来得到人脸识别特征矢量，最后，利用最小二乘支持向量机学习训练样本，从而建立人脸识别分类器，实现人脸的有效识别，加快了人脸识别率和计算速度，提高了人脸识别效率。

2、本发明小波变换可以将人脸图像分解成不同的分量。其中高频分量包括人脸的细节信息，低频分量聚焦原始人脸图像的更多细节，从而有效地减少了冗余特征。

3、本发明通过局部线性嵌入对人脸分量进行特征提取，在嵌套空间中的每一个采样点都可以由其邻居来进行线性表示，在低维空间中保持每个邻域的权重不变，重建原始数据，减少重建误差。

4、本发明通过策略组合来构建一个多类人脸分类器，通过将所有分类器融合到k(k-1)/2个节点和k个叶子的DAG中，提出结合DAG与二类LSSVM相结合的多类人脸分类器。

附图说明：

图1为基于小波变换和局部线性嵌入的人脸识别方法的流程图。

图2为小波分解分量示意图。

图3为四个分量的关系图。

图4为人脸图像分类器的结构示意图。

具体实施方式：

实施例：参见图1，并结合实施例对本申请进行详细说明。

对人脸图像进行预处理，定义分解二维尺度函数，之后能够用来计算两个一维尺度函数之积。

ψ(x)为相位子波函数，定义三个二维正交小波函数如下：

令f(x,y)表示人脸图像，二维离散信号f(m,n)的近似图像为：

在上述公式中，第一项是人脸图像的低频近似，其余部分是细节信号。

大小为m*n的人脸图像A(x,y)，其离散小波变换(DWT，Discrete WaveletTransform)为：

小波变换后可以计算出四个分量，如图2所示。由图可知，与原始图像相比，变换后的图像保持了人脸和基本信息的更详细框架，虽然失去了部分的内部细节特征，但识别度还是比以前要高。

将基于小波变换的上述四分量分别描述为LL、LH、HL和HH。其中，LL定义低频分量，保留原始图像中的大量信息，基本上代表了原始图像的特征；LH表示水平分量，主要包含有关眼睛和嘴巴之间面部表情的内部信息。HL是垂直分量，包括人的头发、鼻子、耳朵和边缘轮廓信息。HH代表对角线信息，反映原始内容较少。图3所示。

局部线性嵌入(LLE)是一种非线性降维方法，其主要是假设在局部意义上，数据结构是线性的，或者局部意义上的点是超平面的。因此，任何一点的相邻点的线性组合用来表示这一点。对于一组具有嵌套流形的数据集，嵌套空间和内部低维空间的局部邻域之间的关系应该保持不变。即嵌套空间中的每一个采样点都可以由其邻居来进行线性表示，在低维空间中保持每个邻域的权重不变，重建原始数据，以减少重建误差。

通过最小化这种线性表示的误差，可以建立以下数学模型：

线性嵌入算法的关键步骤为：

输入：样布x＝{x₁,x₂,…x_n∈R^D}，D代表样布量的特征，ε代表邻居空间。

输出：Y＝{y₁,y₂,…y_n∈R^D}。

置样本的数目：X＝{x_i|x_i∈R^D,i＝1,2,…,N}，基于LLE的方法寻找一个低维映射，即Y＝{y_i|y_i∈R^d,i＝1,2,…,N}，d<<D，这是基于若干标准，用以提高识别结果为目标。

(1)邻域搜索，利用k-近邻方法计算高维空间中每个样本点Xi的最近邻。

(2)计算样本点的局部重构权值矩阵，并定义了一个代价函数来最小化总体重构误差。

此处，x_i代表样本向量；W_ij代表权值。使用最小误差函数来求解权重。x_ij(i＝1,…k)(j＝1,...k)代表点x_i的最近邻，相应的约束为：

权值越小，则权值矩阵约为理想，x_i的线性组合为：

其中，N_i代表一个D×K的矩阵，N_i＝[x_i1,x_i2,...,x_ik]，W_i代表一个k×1的矩阵，w_i＝[w_i1,w_i2,...,w_ik]^T。

该算法的主要目的是减少维数，即将高维空间中的数据映射到低维空间。为了重建权值矩阵，矩阵的系数需要满足线性映射的三个不变性：平移、缩放和旋转。下面给出了权重矩阵系数的旋转和缩放不变性。在每个点及其近邻由一个左旋转或尺度矩阵R，得到的权重矩阵重建表示，为：

公式(4)能够刻画为：

(3)构造一个局部协方差矩阵C，要求最小化重构最小误差，从而得到：

C_jk＝(x_i-x_i,j)^T(x_i-x_i,k) (10)

(4)利用拉格朗日乘子法得到局部最优W：

(5)为了将所有样本点映射到低维空间中，从而得到最小的目标函数，需要找到映射函数y_i：

其中，y_i是x_i的低维映射向量，满足一下条件：

公式(8)可以由等式(10)替代。

ε(y)＝tr(yMy^T) (14)

使用拉格朗日数乘法，则有：

为了获得最小的损耗函数，令Y表示对应于矩阵M中b个非零特征的特征值，M的特征值从小到大排列，第一个特征值几乎为零，通常被丢弃，一般选择2与d+1之间的特征值向量为输出结果。矩阵M等于(I-W)^T(I-W)。

选择向量的每个分量的面部特征对应的最小d个非零特征值。

面部特征，即LL'₁、LH'₁、HL'₁、HH'₁，是从四个分量LL1,LH1,HL1,HH1中抽取出来的。之后，选择一定的权重进行融合，从而得到面部信息特征。

X＝ω₁×LL'₁+ω₂×LH'₁+ω₃×HL'₁+ω₄×HH'₁ (16)

在实际的建模和人脸识别的过程中，LL1包含了人脸图像的主要信息，因此它的权重相对较大。LH1，HL1包括人的面部特征，权值随后。HH1则包括更少信息和最小的权重。所有权重值的总和是1。由于低频分量包含了原始图像的大多数信息，因此为LL1分配的权重最大；LH1包含了水平信息，如面部的眼睛、嘴；HL1包含了更多的垂直信息，如鼻子，耳朵和面部轮廓等，因此HL1分配了稍小的权重值。

设置训练样布集，如(x_i,y_i)，i＝1,2,…,n，在高维特征空间中LSSVM线性分类函数是：

其中，b和w表示两个参数。

考虑到拟合误差和函数的复杂性，根据结构风险最小化原则，公式(12)为：

其中，γ是正则化参数。

为了提高解的效率，将公式(13)转化为拉格朗日乘子的最优化问题：

其中，α_i是拉格朗日乘子。

根据KKT条件，我们可以得到：

以及

此处，I代表了识别矩阵，

选取径向基函数作为核函数的最小二乘支持向量机，它的定义如下：

其中，σ是带宽参数。

本文中，将提取到的人脸图像特征输入到LSSVM进行训练，之后运行人脸分类器。由于人脸图像的识别是一个多类分类问题，最小二乘支持向量机只能解决二类分类问题。因此，必须通过策略组合来构建一个多类人脸分类器，提出结合DAG与二类LSSVM相结合的方法，人脸图像分类器如图4中所示，通过将所有分类器融合到k(k-1)/2个节点和k个叶子的DAG中，其中的包含了k个未知样本。

以上所述，仅是本发明的较佳实施例而已，并非对本发明作任何形式上的限制，凡是依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与修饰，均仍属于本发明技术方案的范围内。

Claims (5)

1.一种基于小波变换和局部线性嵌入的人脸识别方法，其步骤是：A、对人脸图像进行预处理，由小波变换对面部进行分解，获得人脸图像的四个组成分量；

B、利用局部线性嵌入算法提取四个分量的特征，并选择加权融合得到面部信息特征；

C、利用最小二乘支持向量机训练特征向量，并与DAG相结合形成人脸图像分类器；

D、经过步骤A和步骤B操作的人脸图像通过人脸图像分类器进行人脸识别，并输出识别结果。

2.根据权利要求1所述的基于小波变换和局部线性嵌入的人脸识别方法，其特征是：所述步骤A中四个组成分量分别描述为LL、LH、HL和HH；其中，LL定义低频分量，保留原始图像中的大量信息，基本上代表了原始图像的特征；LH表示水平分量，主要包含有关眼睛和嘴巴之间面部表情的内部信息；HL是垂直分量，包括人的头发、鼻子、耳朵和边缘轮廓信息；HH代表对角线信息，反映原始内容较少；其四个组成分量通过以下步骤获得：

定义分解二维尺度函数，之后能够用来计算两个一维尺度函数之积：

ψ(x)为相位子波函数，定义三个二维正交小波函数如下：

令f(x,y)表示人脸图像，二维离散信号f(m,n)的近似图像为：

在上述公式中，第一项是人脸图像的低频近似，其余部分是细节信号。

大小为m*n的人脸图像A(x,y)，其离散小波变换(DWT，Discrete Wavelet Transform)为：

。

3.根据权利要求1所述的基于小波变换和局部线性嵌入的人脸识别方法，其特征是：步骤B中分量特征的步骤为：通过建立以下数学模型最小化局部线性嵌入(LLE)中线性表示的误差：

线性嵌入算法的关键步骤为：

输入：样布x＝{x₁,x₂,…x_n∈R^D}，D代表样布量的特征，ε代表邻居空间；

输出：Y＝{y₁,y₂,…y_n∈R^D}；

(1)邻域搜索，利用k-近邻方法计算高维空间中每个样本点Xi的最近邻；

(2)计算样本点的局部重构权值矩阵，并定义一个代价函数来最小化总体重构误差；

此处，x_i代表样本向量；W_ij代表权值；使用最小误差函数来求解权重；

x_i的线性组合为：

其中，N_i代表一个D×K的矩阵，N_i＝[x_i1,x_i2,...,x_ik]，W_i代表一个k×1的矩阵，w_i＝[w_i1,w_i2,...,w_ik]^T；

在每个点及其近邻由一个左旋转或尺度矩阵R，得到的权重矩阵重建表示，为：

(3)构造一个局部协方差矩阵C，要求最小化重构最小误差，从而得到：

C_jk＝(x_i-x_i,j)^T(x_i-x_i,k) (10)

(4)利用拉格朗日乘子法得到局部最优W：

(5)找到映射函数y_i，将所有样本点映射到低维空间中，从而得到最小的目标函数：

。

4.根据权利要求1所述的基于小波变换和局部线性嵌入的人脸识别方法，其特征是：步骤B中加权融合的步骤为：选择向量的每个分量的面部特征对应的最小d个非零特征值；之后，选择一定的权重进行融合，从而得到面部信息特征；

X＝ω₁×LL′₁+ω₂×LH′₁+ω₃×HL′₁+ω₄×HH′₁ (16) 。

5.根据权利要求1所述的基于小波变换和局部线性嵌入的人脸识别方法，其特征是：步骤C中特征向量的训练步骤为：

设置训练样布集，如(x_i,y_i)，i＝1,2,…,n，在高维特征空间中LSSVM线性分类函数是：

其中，b和w表示两个参数；

考虑到拟合误差和函数的复杂性，根据结构风险最小化原则，公式(12)为：

其中，γ是正则化参数；

为了提高解的效率，将公式(13)转化为拉格朗日乘子的最优化问题：

其中，α_i是拉格朗日乘子；

根据KKT条件，我们可以得到：

以及

此处，I代表了识别矩阵，

选取径向基函数作为核函数的最小二乘支持向量机，它的定义如下：

其中，σ是带宽参数。