CN100552699C - 基于有监督的近邻保持嵌入和支持向量机的人脸识别方法 - Google Patents

Abstract

本发明公开了一种基于有监督的近邻保持嵌入(SNPE)和支持向量机(SVM)的人脸识别方法，包括训练过程和测试过程，具体包括下述步骤：a.对给定的一组数据样本构造一个权值矩阵；b.根据步骤a所得的权值矩阵，求解关于数据样本的一个泛化特征向量问题，寻找到将数据样本映射到低维数据空间的嵌入矩阵；c.利用上述嵌入矩阵对数据样本进行特征提取，获得低维空间的特征数据；d.采用SVM对步骤c所获得的特征数据进行模式分类，实现对数据样本的类型识别。本发明提供的人脸识别方法，能够解决现有技术中线性降维方法不能很好地保持类内及类间的样本结构、非线性降维方法计算量大以及普通分类器存在的过学习和欠学习等问题。

Description

基于有监督的近邻保持嵌入和支持向量机的人脸识别方法

技术领域

本发明涉及一种人脸识别方法，具体地说，是涉及一种基于有监督的近邻保持嵌入(SNPE)和支持向量机(SVM)的人脸识别方法，属于图像处理和模式识别技术领域。

背景技术

人脸识别是一个模式识别问题，特征提取是模式识别中的分类***均需要解决的一个重要环节，其主要目标是在获得最优、最显著特征的同时丢弃无关或次要的信息，降低数据的维数以减低分类***的复杂性，这就涉及到所谓的流形学习问题。流形学习中经典的技术为线性降维方法，例如主成分分析法(PCA)可以实现流形的线性或接近于线性的嵌入；当有可用的类信息时，线性判别分析法(LDA)可以寻找一个最优的线性子空间以用来分类。但是这些线性降维方法存在着很大的缺点：由于降维算法是线性变换，所以降维到低维空间后样本数据有可能产生重叠，对于后期的分类就会产生不好的影响。而且大多数线性降维的算法不能很好地保持类内及类间的样本结构，影响了特征提取的效果。

近几年，一些非线性降维算法被提出。这些算法主要是发现流形中的非线性结构，例如拉普拉斯特征匹配法、局部线性嵌入(LLE)和等距离映射(Isomap)等。非线性降维方法能够保持样本的拓扑结构，但是计算量大，而且这种方法只适用于训练样本，怎样使单个测试样本降维一直是个难点。基于核的算法也被提出，例如基于核的主成分分析法(KPCA)、基于核的线性判别分析法(KLDA)等。这些算法能产生非线性映射，但是却没有考虑到样本数据的流形结构，致使降维效果并不十分理想。

传统的人脸识别方法有最近邻法、欧氏距离法、马氏距离法和神经网络法等。相对于其维数而言，人脸样本很少，是一个小样本问题。对于人脸识别这种小样本问题，传统的分类方法一方面容易出现过学习现象，导致算法泛化能力差；另一方面，传统的分类方法学习性能差，无法胜任人脸分类这个非线性很强的分类模式。SVM是为解决小样本问题的学习和分类而提出的，它可以克服神经网络等方法所固有的过学习和欠学习问题，同时又具有很强的非线性分类能力。

发明内容

本发明提供了一种基于有监督的近邻保持嵌入和支持向量机的人脸识别方法，能够解决线性降维方法不能很好地保持类内及类间的样本结构、非线性降维方法计算量大以及普通分类器存在的过学习和欠学习问题。

为解决上述技术问题，本发明采用以下技术方案予以实现：

一种基于有监督的近邻保持嵌入和支持向量机的人脸识别方法，包括以下步骤：

a、对给定的一组数据样本构造一个权值矩阵，用来描述各个数据样本之间的关系；

b、根据步骤a所得的权值矩阵，求解关于数据样本的一个泛化特征向量问题，寻找到将数据样本映射到低维数据空间的嵌入矩阵；

c、利用步骤b获得的嵌入矩阵对数据样本进行特征提取，获得数据样本映射到低维空间的特征数据；

d、采用支持向量机对步骤c所获得的数据样本的特征数据进行模式分类，实现对数据样本的类型识别。

其中，在所述步骤b中，按照下述方式获得所述嵌入矩阵：

求解下列泛化特征向量问题：

XMX^Tα＝λXX^Tα(*)；其中，

X＝(x₁，x₂，…x_N)，M＝(I-W)^T(I-W)，I＝diag(1，…，1)，W为所述步骤a中获得的权值矩阵，x_i表示所述数据样本中的第i个数据样本，i＝1，2，…，N；

令列向量α₀，α₁，…，α_d-1为式(*)对应于特征值排序后的解，λ₀≤λ₁≤…λ_d-1，则嵌入矩阵为：

x_i→y_i＝A^Tx_i

A＝(α₀，α₁…α_d-1)。

所述步骤a中构造权值矩阵包括下述两个步骤：

a1、利用已知的类别信息以及类内的样本数确定K值，构造K近邻；

b1、按照下述过程计算权值矩阵：W代表权值矩阵，则W_ij为第i个样本x_i到第j个样本x_j的权值，当第j个样本不属于第i个样本的K近邻时，W_ij为0，然后通过求解下述约束条件下的最小化目标函数，计算出权值矩阵W：

$\min \underset{i}{\mathrm{\Σ}}{\left|\right|x_i-\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}{x}_j\left|\right|}^2,$

约束条件为

$\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}=1,$ j＝1，2，…，N。

进一步的，所述嵌入矩阵的维数比所述数据样本的总类别数少1。所述步骤d可以采用“1对1”支持向量机级联模型实现多分类模式的分类。

再进一步的，构造权值矩阵之前应先对所述数据样本进行预处理。优选采用“立方卷积”的插值方法对所述数据样本进行缩放预处理。

具体来讲，在本发明的人脸识别方法中，具体包括训练过程和测试过程两部分，其中：

在所述训练过程中，所述数据样本为训练样本，所述步骤d具体为：采用支持向量机对所获得的训练样本的特征数据进行模式分类，设定核函数类型以及惩罚系数，进行支持向量机模型训练。

其中，所述支持向量机的核函数为线性核函数、多项式核函数和径向基核函数中的一种。所述支持向量机的惩罚系数设定为1-100。

在所述测试过程中，所述数据样本为测试样本，所述步骤d具体为：将所获得的测试样本的特征数据输入到在所述训练过程中训练好的支持向量机模型中，进行所述测试样本的类型识别。

与现有技术相比，本发明的优点和积极效果体现在以下两方面：

1、特征提取上采用了SNPE算法，克服了PCA等传统线性降维方法容易产生样本数据重叠、不能很好地保持类内及类间的样本结构的不足，以及LLE等非线性降维算法计算量大的缺点，SNPE算法很好地保持了数据集的局部流形结构，既能做到最优的降维，又在很大程度上减少了算法的运行时间。

2、分类算法上采用两分类SVM级联模型实现多分类模式的分类，所需的支持向量个数较少，而且一旦加入一个新类时，只需在最前端添加一个经过训练的两分类SVM即可，而不必更改或者重新训练原有的SVM群组，因此，有效减少了计算量。

附图说明

图1是PCA降维后的样本脸(PCAfaces)和SNPE降维后的样本脸(SNPEfaces)示意图；

图2是通过两分类SVM级联模型实现多分类的示意图；

图3是ORL人脸库中的部分人脸图像样本。

具体实施方式

下面结合附图对本发明的实施方式作进一步详细的说明。

首先介绍一下本发明的基本设计思想：

1、特征提取上，在周围空间中给定一组数据样本，首先构造一个权值矩阵用来描述个数据样本之间的关系。对于每一个数据样本点，用它近邻的数据样本的线性组合来表示，组合系数就构成了权值矩阵。然后，寻找最优的嵌入使得这种近邻结构也能够保持在低维空间中，并且利用已知的类别信息及类内样本数来确定K值。这样就避免了传统近邻保持嵌入(NPE)算法中的第一步，既能保证K值选择的准确性，做到最优的降维，又能很大程度上减少算法的运行时间。

2、分类算法上，采用“1对1”SVM级联模型来实现多分类模式分类。这种分类算法的优点是所需的支持向量数较少，而且一旦加入一个新类时，只需在最前端添加一个经过训练的两分类SVM即可，而不必更改或者重新训练原有的SVM群组，从而可以减少了计算量。

下面对具体实现方法进行详细阐述。

图1为PCA降维后的样本脸(PCAfaces)与SNPE降维后的样本脸(SNPEfaces)的对照示意图。PCA方法是通过特征的线性组合来降维，把数据投影到低维线性子空间。但是人脸图像并不是特征的线性组合，由PCAfaces可以看出，特征提取后的结果虽然保持了人脸轮廓，但是依然有大量噪声存在，局部的线性结构并没有保持，一些样本点产生了重叠。

而SNPE是非线性的降维方法，由SNPEfaces可以看出，特征提取后的人脸图像噪声很少(有效地去除了光照等噪声的影响)，而且样本的低维流形结构是局部线性的，保持了流形领域的不变性，非常适合于机器识别。

参见图2和图3所示，以ORL人脸数据库为样本具体说明一下本发明的实施步骤。

首先，从ORL人脸库中读取40个类别、每类五个样本共200个人脸样本数据x₁，x₂，…，x₂₀₀，X∈R^D作为训练过程的样本数据。

对每一幅人脸图像x_i采用“立方卷积”的插值方法进行缩放预处理后，每一幅人脸图像可堆叠成32×32维向量，然后再展成1024×1维向量，200个样本数据可组成训练样本Xtrain_1024×200。

然后对训练样本Xtrain_1024×200进行SNPE变换：

首先，构造K近邻(KNN)。

K最近邻法：直接找出相对于第i个样本点x_i的K近邻样本点x_j，利用已知的类别信息及类内样本数来确定K值。因为每类人脸中选取了五个样本，即每类里面含有五个样本数，所以，选取K＝4，直接找出相对于第i个样本点x_i的K近邻样本点x_j；

然后，计算权值矩阵。

W代表权值矩阵，则W_ij为第i个样本x_i到第j个样本x_j的权值，当第j个样本不属于第i个样本的K近邻时，W_ij为0，然后通过求解下述约束条件下的最小化目标函数，可以计算出权值矩阵W：

$\min \underset{i}{\mathrm{\Σ}}{\left|\right|x_i-\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}{x}_j\left|\right|}^2,$

约束条件为

$\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}=1,$ j＝1，2，…，200；

下一步，计算嵌入矩阵。

求解下列泛化特征向量问题：

XMX^Tα＝λXX^Tα(*)；

其中，

X＝(x₁，x₂，…x_N)，M＝(I-W)^T(I-W)，I＝diag(1，…，1)。

令列向量α₀，α₁，…，α_d-1为式(*)对应于特征值排序后的解，λ₀≤λ₁≤…λ_d-1，则嵌入矩阵为：

x_i→y_i＝A^Tx_i

A＝(α₀，α₁…α_d-1)。

上式中，d为嵌入空间的维数。d的值对降维效果影响很大，如果d太小，即降维空间维数太低，数据可能会产生重叠；如果d太大，降维时就会增加不必要的噪声。嵌入空间的理想的维数d应该比总类别数少1，所以，本实施例中共有40个类别，维数d选择为39，则本实施例的嵌入矩阵A为1024×39维的矩阵。

利用上述求得的嵌入矩阵对训练样本进行特征提取，得到训练样本映射到低维空间的特征数据，即Xtrain′_39×200＝A^TXtrain。

最后，基于Xtrain′_39×200构造SVM级联模型，即采用“1对1”的分类模式训练SVM模型。例如将第一类和最后一类即第四十类作为两类进行第一个分类器SVM1的设计，将第二类与第四十类作为两类进行第二个分类器SVM2的训练。逐次进行上述分类训练过程，最后设计出39个SVM子分类器，所有的子分类器构成了本实施例人脸识别中的分类器。上述SVM模型训练过程中，核函数类型分别选择线性核函数、多项式核函数和径向基核函数，惩罚系数C＝10。

训练过程结束后，再进行人脸识别的测试过程。

从ORL人脸库中读取40个类别、每类五个样本共200个人脸样本数据作为测试过程的样本数据。

按照与训练数据相同的处理方式，首先对样本数据进行预处理，得到测试样本数据；然后利用训练过程中得到的嵌入矩阵对测试样本数据进行特征提取，得到降维后的测试样本数据；最后将降维后的测试样本数据输入到训练过程中训练好的SVM分类模型中进行分类识别。

如果样本类别增加，只需在分类器最前端添加一个经过训练的两分类SVM子分类器即可，而不必更改或者重新训练原有的SVM子分类器，因此可以有效地减少计算量。

下面各表列出了分别选用不同的特征提取方法与SVM结合进行人脸识别的实验数据。其中，表一为基于PCA和SVM进行人脸识别的实验数据，表二为基于LLE和SVM进行人脸识别的实验数据，表三为基于SNPE和SVM进行人脸识别的实验数据。

表一

SVM类型

核函数参数

读取图像时间(s)

PCA时间(s)

SVM时间(s)

识别率(％)

LINEAR	无	8.781	0.297	17.453	80.5
						RBF	σ<sup>2</sup>＝0.85	8.719	0.297	11.563	81
POLY	q＝2	8.821	0.281	12.594	80

表二

SVM类型	核函数参数	读取图像时间(s)	LLE时间(s)	SVM时间(s)	识别率(％)
						LINEAR	无	8.875	1.344	34.531	82
RBF	σ<sup>2</sup>＝0.85	8.922	1.344	13.469	82
						POLY	q＝3	8.922	1.344	12.438	78.5

表三

SVM类型	核函数参数	读取图像时间(s)	SNPE时间(s)	SVM时间(s)	识别率(％)
						LINEAR	无	8.875	0.547	6.047	79
RBF	σ<sup>2</sup>＝0.85	8.813	0.531	6.688	82.5
						POLY	q＝2	7.938	0.453	9.922	100

从上面各表实验数据的对比可以看出：基于SNPE和SVM的人脸识别方法运行时间较短、识别率较高，在选择多项式核函数时能达到100％的识别率。

应当指出，上述说明并非是对本发明的限制，本发明也并不仅限于上述举例，本技术领域的普通技术人员在本发明的实质范围内所做出的修改、变形、添加或替换，也应属于本发明的保护范围。

Claims (10)

1、一种基于有监督的近邻保持嵌入和支持向量机的人脸识别方法，包括训练过程和测试过程，其特征在于，所述训练过程和所述测试过程均包括以下步骤：

a、对给定的一组数据样本构造一个权值矩阵，用来描述各个数据样本之间的关系；

b、根据步骤a所得的权值矩阵，求解关于数据样本的一个泛化特征向量问题，寻找到将数据样本映射到低维数据空间的嵌入矩阵；

c、利用步骤b获得的嵌入矩阵对数据样本进行特征提取，获得数据样本映射到低维空间的特征数据；

d、采用支持向量机对步骤c所获得的数据样本的特征数据进行模式分类，实现对数据样本的类型识别；

其中，在所述步骤b中，按照下述方式获得所述嵌入矩阵：

求解下列泛化特征向量问题：

XMX^Tα＝λXX^Tα(*)；其中，

X＝(x₁，x₂，…x_N)，M＝(I-W)^T(I-W)，I＝diag(1，…，1)，W为所述步骤a中获得的权值矩阵，x_i表示所述数据样本中的第i个数据样本，i＝1，2，…，N；

令列向量α₀，α₁，…，α_d-1为式(*)对应于特征值排序后的解，λ₀≤λ₁≤…λ_d-1，则嵌入矩阵为：

x_i→y_i＝A^Tx_i

A＝(α₀，α₁…α_d-1)。

2、根据权利要求1所述的人脸识别方法，其特征在于，在所述步骤a中，构造权值矩阵包括下述两个步骤：

a1、利用已知的类别信息以及类内的样本数确定K值，构造K近邻；

b1、按照下述过程计算权值矩阵：W代表权值矩阵，则W_ij为第i个样本x_i到第j个样本x_j的权值，当第j个样本不属于第i个样本的K近邻时，W_ij为0，然后通过求解下述约束条件下的最小化目标函数，计算出权值矩阵W：

$\min \underset{i}{\mathrm{\Σ}}{\left|\right|x_i-\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}{x}_j\left|\right|}^2,$

约束条件为

$\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}=1,j=\mathrm{1,2},...,N.$

3、根据权利要求1所述的人脸识别方法，其特征在于，所述嵌入矩阵的维数比所述数据样本的总类别数少1。

4、根据权利要求1所述的人脸识别方法，其特征在于，所述步骤d采用“1对1”支持向量机级联模型实现多分类模式的分类。

5、根据权利要求1-4中任一项所述的人脸识别方法，其特征在于，构造权值矩阵之前先对所述数据样本进行预处理。

6、根据权利要求5所述的人脸识别方法，其特征在于，采用“立方卷积”的插值方法对所述数据样本进行缩放预处理。

7、根据权利要求1所述的人脸识别方法，其特征在于，在所述训练过程中，所述数据样本为训练样本，所述步骤d具体为：采用支持向量机对所获得的训练样本的特征数据进行模式分类，设定核函数类型以及惩罚系数，进行支持向量机模型训练。

8、根据权利要求7所述的人脸识别方法，其特征在于，所述支持向量机的核函数为线性核函数、多项式核函数和径向基核函数中的一种。

9、根据权利要求7所述的人脸识别方法，其特征在于，所述支持向量机的惩罚系数设定为1-100。

10、根据权利要求7-9中任一项所述的人脸识别方法，其特征在于，在所述测试过程中，所述数据样本为测试样本，所述步骤d具体为：将所获得的测试样本的特征数据输入到在所述训练过程中训练好的支持向量机模型中，进行所述测试样本的类型识别。

Images