CN109657611B - 一种用于人脸识别的自适应图正则化非负矩阵分解方法 - Google Patents

Abstract

为了解决现有技术中针对人脸识别准确率低的问题，本发明提供一种用于人脸识别的自适应图正则化非负矩阵分解方法，包括以下步骤：先向量化处理人脸照片，再将数据矩阵X分解成基矩阵和系数矩阵的乘积，并对基矩阵和系数矩阵中的每个元素加上非负约束，然后对数据矩阵X的系数矩阵进行约束，得到处理后的相似矩阵，再利用对角矩阵与拉普拉斯矩阵对相似矩阵S进行处理，引入权重约束项λ，得到自适应图，最后将自适应图作为正则化约束项引入到数据矩阵X的非负矩阵分解目标函数中，对人脸照片进行识别。本发明通过引入权重约束项，权重矩阵不再保持不变，去除了大量噪声和离群值，使局部邻域结构信息完整，提升了识别准确率。

Description

一种用于人脸识别的自适应图正则化非负矩阵分解方法

技术领域

本发明涉及数字表示领域，具体涉及一种用于人脸识别的自适应图正则化非负矩阵分解方法。

背景技术

随着现实世界中科学技术的发展，各种设备产生大量的数据，人脸识别技术越来越普遍，需要对这些数据进行分析和处理，以获得有用的信息。然而，数据通常具有高维度和大量冗余。这些数据在实际应用中会引起一系列问题，如计算时间长和所需空间大。因此，如何有效地处理这些高维数据已经成为一个热点问题。特征选择可以很好地解决这个问题。特征选择要求人们从高维特征空间中选择有用的子集，用于后续处理。特征选择大致可分为三类：监督学习、半监督学习和无监督学习。由于现实世界中几乎没有标签信息，所以不需要标签信息的无监督学习更为实用。

作为一种经典的无监督学习，非负矩阵分解NMF引入了非负约束，满足了现实世界的需求，提高了问题的解释能力。如今，NMF广泛应用于图像聚类、数据挖掘、文本分析甚至医学应用。到目前为止，有许多种基于NMF的算法。通过加入鉴别信息，Wang等人提出了Discriminant NMF(DNMF)or Fisher-NMF(FNMF)，它将类内散度与类间散度的差作为惩罚项构造目标函数。Babaee等人通过对KL散度加以约束提出Constrained NonnegativeMatrix Factorization(CNMF)，通过减少基向量的个数，提高识别率。Li等人通过对分解后的基矩阵添加稀疏约束，提出了local nonnegative matrix factorization(LNMF)，这个算法既保留了基矩阵中的重要信息有提高了识别率。Guan等人通过对基矩阵添加正交约束提出了一种Manifold Regularized Discriminative NMF(MD-NMF)。Hoyer等人通过将稀疏编码加入到NMF中，提出了Nonnegative Sparse Coding(NNSC)。Lu等人通过将谱聚类与NMF相结合提出了非负稀疏谱聚类算法。Shang等人认为数据的属性也按照流形分布，提出了图对偶正则化的非负矩阵分解。

流形学习方法在图像分类和聚类方面具有更好的性能，因此，现有很多基于图形的方法。Cai等人提出了图正则化非负矩阵分解(GNMF)，通过构造最近邻图对原数据的几何结构进行编码,然后将图正则化项添加到NMF的目标函数中得到新的矩阵分解。通过构造了一个对称的k近邻图，并优化这个图的邻接矩阵，Liu和Chang等人提出了一种鲁棒的多类图转导方法(RMGT)。Wang通过最小化局部线性重构误差来构造一个图，然后基于这个图，提出线性近邻传播(LNP)的分类方法。yang等人改进LPP，通过最大化非局部散布矩阵与局部散布矩阵的比值，提出了无监督鉴别投影(Unsupervised Discriminant Projection，UDP)。Lu等在低秩表示模型中融入图正则化项，提出了图正则化低秩表示方法(Graph-regularized Low-rank Representation，GLRR)。然而，在GNMF中也存在缺陷，比如数据中包含的噪声、不相关的特征、样本的非线性分布等。

基于图的方法可以很好地保存观测数据的局部结构信息，并且可以获得良好的性能。然而，基于图的方法的性能在很大程度上依赖于近邻图的构造。近邻图主要包括k近邻图和ε近邻图。

这些经典近邻图有两个缺陷，如下所示。首先，它们对近邻数k或近邻大小ε敏感。其次，基于原始观测数据，预先确定对应于相邻图的相似性权重矩阵，并将其与以下操作完全分离。也就是说，传统的图形学习方法基于两个步骤。原始观测数据通常包含噪声和离群值，这将导致获得的邻居图不是最优的，最终导致人脸识别准确率低下。

发明内容

为了解决现有技术中针对人脸识别的原始数据通常包含大量噪声和离群值，这可能会导致局部邻域结构信息被破坏从而使人脸识别准确率低的问题，本发明提供一种用于人脸识别的自适应图正则化非负矩阵分解方法。本发明通过自适应方法获得近邻图构造，同时得到非负矩阵分解和图的构造，精确捕捉数据的局部结构信息，提高人脸的识别力。

所述的一种用于人脸识别的自适应图正则化非负矩阵分解方法，其特征在于：包括以下步骤：

S1.将C组人脸照片均进行向量化处理，得到数据矩阵X；

S2.将数据矩阵X分解成基矩阵和系数矩阵的乘积，并对基矩阵和系数矩阵中的每个元素加上非负约束，通过数据矩阵X与基矩阵和系数矩阵乘积之差的欧氏距离值的平方逼近数据矩阵X；

S3.设置相似矩阵，对数据矩阵X分解后的S2步骤的系数矩阵进行约束，得到处理后的相似矩阵S；其中数据矩阵X分解后的系数矩阵中两个数据点V_i和V_j间的相似度为S_ij；

S4.利用对角矩阵与拉普拉斯矩阵对相似矩阵S进行处理，使相似矩阵S中的任何数据点都有C个连通分量；

S5.引入权重约束项λ，利用Ky Fan’s Theorem，得到带有权重约束项λ的相似矩阵S，得到自适应图；

S6.对S5步骤得到的自适应图作为正则化约束项引入到数据矩阵X的非负矩阵分解目标函数中，最终迭代求解得到的系数矩阵对人脸照片进行识别。

本发明的有益效果是：本发明在对人脸图像进行聚类时，引入权重约束项λ，利用Ky Fan’s Theorem，得到带有权重约束项λ的相似矩阵S，得到自适应图，再与数据矩阵X的整体结构作和，从而对人脸照片进行识别。本发明通过引入权重约束项，权重矩阵不再保持不变，去除了大量噪声和离群值，使局部邻域结构信息完整，提升了图像识别能力，提升了识别准确率。

附图说明

图1 Yale数据库的聚类结果。

图2 PIE数据库的聚类结果。

图3 ORL数据库的聚类结果。

图4 HD数据库的聚类结果。

图5为本发明改变参数α后的Yale数据库的聚类结果。

图6为本发明改变参数α后的ORL数据库的聚类结果。

图7为本发明改变参数λ后的Yale数据库的聚类结果。

图8为本发明改变参数λ后的ORL数据库的聚类结果。

具体实施方式

下面结合附图对本发明进行进一步的说明。

本发明中所述的非负矩阵分解(NMF)的处理过程是：人脸照片均进行矩阵化处理，得到数据矩阵X，X＝[X₁,X₂,...,X_n]∈R^m×n,其中X_i(i＝1,2,...n)代表i个数据点,每个数据点都是一个m维向量，共有n个数据样本。

对于NMF，其目的是找到两个非负矩阵的乘积来表示原始数据矩阵。

X≈UV^T (1)

其中U∈R^m×k是基矩阵，V∈R^n×k是系数矩阵。聚类时，将k设置为聚类数，矩阵U的每一列都是基向量。基于基矩阵U，通过使用V中这些k列向量的不同线性组合从数据X中重建任何数据点。矩阵V的每一行向量都是这个线性组合的权重系数。换句话说，矩阵V的行向量是原始数据X在k维空间中的投影。再使用两个矩阵之间欧氏距离的平方作为目标函数来测量两个非负矩阵之间的相似性。

O＝||X-UV^T||² (2)

目标函数(2)对于两个变量不是同时是凸的，因此很难找到全局最小值。所以Lee和Seung提出了一个局部最优迭代规则，如下所示。

本发明中所述的图正则化非负矩阵分解(GNMF)的处理过程是：NMF没有利用数据固有的局部几何信息。Cai等人通过引入流形正则项，提出了一种图正则化非负矩阵分解(GNMF)算法。目的是在降维后将原始数据的局部几何结构信息保留在高维空间中。本发明利用热核权重来表示两个数据点之间的近似程度。假设对应于NMF中原始数据X的系数矩阵V由以下表示V＝[V₁,V₂,…,V_k]，其中V_i＝[v_i1,v_i2...,v_ik]^T，采用欧氏距离d(V_i,V_j)＝||V_i-V_j||²表示降维后数据V_i和V_j间的不相似程度，利用以下公式来表示低维数据平滑度：

其中Tr(·)是矩阵的迹，D是对角矩阵，L是拉普拉斯矩阵。

这个算法要求如果原数据点彼此接近，降维后数据点也彼此接近。通过将等式(5)与NMF组合，GNMF的目标函数给出如下。

基矩阵U和系数矩阵V可以通过以下迭代更新来获得。

在进行人脸识别时，为了获得更好的分类或聚类性能，维护局部流形结构信息非常重要，这主要取决于近邻图。经典近邻图包括k近邻图和ε近邻图。包括GNMF在内的大多数图方法通过传统的近邻图来保存局部流形结构信息。传统的近邻图构造存在两个问题。首先，存在参数k或ε，图学习方法的性能很大程度上取决于参数k或ε的值。也就是说，参数k或ε的值不容易确定，并且参数k或ε的最佳值是通过大量实验获得的。其次，传统的图形学习方法基于两个步骤。对于GNMF，首先构造对应于近邻图的权重矩阵，然后进行非负矩阵分解。也就是说，一旦基于原始观测数据生成权重矩阵，它将保持不变。然而，在实际应用中，原始数据通常包含大量噪声和离群值，这可能会导致局部邻域结构信息被破坏。为了解决上述问题，本文提出了一种自适应图正则化非负矩阵分解(AGNMF)，其中近邻图和非负矩阵分解是同时学习的。

为了从流形中得到更多信息，保持良好的局部流形结构非常重要，但是如果从已经包含了大量噪声冗余的数据中学习，这时的局部流形学习也会被破坏。

本发明解决上述问题的技术方案为：一种用于人脸识别的自适应图正则化非负矩阵分解方法，其特征在于：包括以下步骤：

S1.将C组人脸照片均进行矩阵化处理，得到数据矩阵X；

S2.将数据矩阵X中的基向量和系数矩阵进行欧氏距离计算，通过欧氏距离值的平方作为数据矩阵X的整体结构；

S3.设置相似矩阵，对数据矩阵X进行处理，得到处理后的相似矩阵S；其中数据矩阵X中两个数据点V_i和V_j间的相似度为S_ij；

S4.利用对角矩阵与拉普拉斯矩阵对相似矩阵S进行处理，使相似矩阵S中的任何数据点都有C个连通分量；

S5.引入权重约束项λ，利用Ky Fan’s Theorem，得到带有权重约束项λ的相似矩阵S，得到自适应图；

S6.对S5步骤得到的自适应图与数据矩阵X的整体结构作和，从而对人脸照片进行识别。

具体的，在相似矩阵S中应包含精确C个连通分量，以实现最佳聚类。首先，定义一个相似矩阵，数据矩阵X两个数据点V_i和V_j间的相似度为S_ij。如果两个数据点之间的欧氏距离越大，对应的相似性权重越小，反之亦然，可以得到以下关于相似矩阵S的方程。

其中s_i是相似矩阵S中的第i个列向量。

为了使相似矩阵S中的任何数据点都有C个连通分量，引入以下等式。

其中F∈R^n×c是数据矩阵X所对应的标签矩阵，f_i∈R^1×c和f_j∈R^1×c分别表示F第i行和第j行,Ls是拉普拉斯矩阵，

第i项为

根据rank(Ls)＝n-c，得到：其中，特征值中0出现的次数就是图中连通区域的个数。

为了确保相似矩阵具有C个连通分量，约束rank(Ls)＝n-c添加到方程(9)中，得到：

设定σ_i(Ls)是Ls的第i个最小特征值，其中σ_i(Ls)≥0，因为Ls是半正定的。将rank(Ls)＝n-c表示为

同时根据Ky Fan’s Theorem(Fan1949)，把

改写为：

这样方程(11)可以重写为：

最终，用于人脸识别的自适应图正则化非负矩阵分解方法的目标函数可以描述如下：

对于方程(14)的优化：方程(14)中的目标函数是非凸的，很难获得全局最优解。因此，通过连续迭代得到局部最优解。

因为目标函数方程(14)包含四个不同的变量，所以不能直接获得方程(14)的解，需要通过迭代方案来解决问题(14)。

1.固定U,V和F,更新S：固定U,V,F，将方程(14)转化为

根据方程(10)把方程(15)写为：

定义

因为每个样本的相似向量相互独立，通过方程(17)得到每个i个样本的相似向量：

定义第j个元素为

其中d_i∈R^n×1。那么重写方程(17)：

其中γ根据自适应近邻数来决定，而任意两点之间的最近邻居数量不是固定的，这个数量在每次迭代期间都在变化。

2.固定U,V和S，更新F：固定U,V,S，则方程(14)的前两项可以视为常数，故可以将方程(14)转化为：

F的最优解根据Ls中c个最小特征值的特征向量形成。

3.固定S，F，更新U，V：固定S,F，方程(10)的第三项可以视为常数，根据流形信息，可以将方程(14)转化为：

最小化这个目标函数，可以将公式(16)重写为：

假设

和φ_jk是拉格朗日乘数，并约束u_ik≥0和v_jk≥0。引入拉格朗日函数Γ：

Γ相对于U和V的偏导数为：

根据KKT条件

和φv_jk＝0，可以得到：

根据以上公式可以的到它的更新规则：

收敛性证明：当U和V在某一点时，根据方程(25)和方程(26)中的更新规则，方程(20)中的目标函数O₁没增加。

因为U的更新规则与NMF中的相同，所以可以使用NMF的收敛证明来证明在方程(25)的更新规则下O₁没有增加。

假设存在一个辅助函数G，当G(v,v′)≥F(v),G(v,v)＝F(v)，F在以下条件下是不增长的：

当G(v,v^t)的局部最小值为Xt时，F(v^t+1)＝F(v^t)成立。通过迭代公式(27)可得到收敛到

的局部最优F的值。得到一个适当的辅助函数，使v的在方程(26)、方程(27)下的更新规则相同。

表示v中仅与v_ab有关的元素，F′,F″分别是v_ab求取的一阶导数和二阶导数。F′，F″分别如下所示：

有关v_ab的一个辅助函数

定义如下：

如果

成立，只需证明

证明过程：

在

处的泰勒展开如下：

如要证明

成立，只需证明下面不等式成立即可。

首先将不等式两边进行比较：

明显的，方程(34)不等式均成立，所以

成立，

在更新规则(26)下是非递增。

实验过程：通过在4个数据集上进行比较实验，包括3个人脸数据库和一个手写数字集。这些数据集的详细信息见表1。自适应图正则化非负矩阵分解方法简称为AGNMF。

数据集分别为：Yale人脸数据库、CMU PIE人脸数据库、ORL人脸数据库以及Handwritten Digits数据库。

其中，Yale人脸数据库包含15个人在不同面部表情和照明条件下的11张图像。每个图像的尺寸为80*100，在本次实验中将图像手动调整为大小为40*50。

其中，CMU PIE人脸数据库包含68个不同人物的图像，每个人物包含21幅图像，每个图像的尺寸为32*32。

其中，ORL人脸数据库包含40个不同的人脸图像，每个人物包含100幅图片，每个图像的尺寸是92×112。在本次实验中将图像手动调整为大小为23*28。

其中，Handwritten Digits数据库包含从0到9共10000幅图像，每个数字包含1000幅图像。每个图像的尺寸为16*16。

Table 1.The description of data sets

Dataset	Size(N)	Dimensionality(M)	Class number(C)
				Yale	165	2000	15
CMU PIE	1428	1024	68
				COIL20	1440	1024	20
HD	10000	256	10

为了验证本发明的AGNMF的聚类性能，还与其他方法进行了比较，如kmeans、PCA、非负矩阵分解NMF、图正则化非负矩阵分解GNMF、判别性非负矩阵分解DNMF。

实验结果：为了获得更好的实验结果，选择了每个参数的最佳值。所有实验重复20次，取20次测试结果的平均值作为最终结果。同时，所有实验结果的准确性(AC)被用作统一的评估标准，该标准基于正确聚类结果与真实结果的百分比。图1、图2、图3和图4分别显示了耶鲁、CMU PIE、ORL和HD的聚类结果。

在本发明提出的算法中包含两个参数α和λ。选取Yale和ORL两个数据库进行一系列实验来验证上述两个参数对本发明的影响。图5、图6和图7图8显示了分别改变这两个参数后的聚类结果。从图5～8中不难发现，本发明对人脸的识别率在参数α和λ改变的情况下，在两个数据库上的结果各不相同。

从这些实验中可以得出以下结论：首先，基于NMF的方法通常优于kmeans和PCA。这表明基于部分的学习优于基于整体的学习。其次，基于图的方法比其他算法表现更好，这表明数据的局部几何结构信息对于图像聚类非常重要。第三，本发明提出的AGNMF算法在所有比较实验中都有很好的效果。这表明AGNMF算法使用自适应图来很好地保存原始数据的局部结构信息，并获得更好的基于组件的数据表示，更有利于人脸图像的识别。

以上仅为发明的较佳实施例而己，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (4)

1.一种用于人脸识别的自适应图正则化非负矩阵分解方法，其特征在于：包括以下步骤：

S1.将C组人脸照片均进行向量化处理，得到数据矩阵X；

S2.将数据矩阵X分解成基矩阵和系数矩阵的乘积，并对基矩阵和系数矩阵中的每个元素加上非负约束，通过数据矩阵X与基矩阵和系数矩阵乘积之差的欧氏距离值的平方逼近数据矩阵X；

S3.设置相似矩阵，对数据矩阵X分解后的S2步骤的系数矩阵进行约束，得到处理后的相似矩阵S；其中数据矩阵X分解后的系数矩阵中两个数据点V_i和V_j间的相似度为S_ij；

S4.利用对角矩阵与拉普拉斯矩阵对相似矩阵S进行处理，使相似矩阵S中的任何数据点都有C个连通分量；

S5.引入权重约束项λ，利用Ky Fan’s Theorem，得到带有权重约束项λ的相似矩阵S，得到自适应图；

S6.对S5步骤得到的自适应图作为正则化约束项引入到数据矩阵X的非负矩阵分解目标函数中，最终迭代求解得到的系数矩阵对人脸照片进行识别。

2.权利要求1所述的一种用于人脸识别的自适应图正则化非负矩阵分解方法，其特征在于：数据矩阵X＝[X₁,X₂,...,X_n]∈R^m×n,其中X_i(i＝1,2,...n)代表第i个数据点，每个数据点都是一个m维向量，共有n个数据样本；

其中，S2步骤中的数据矩阵X的整体结构为：O＝||X-UV^T||²；其中，X≈UV^T；U∈R^m×k是基矩阵，V∈R^n×k是系数矩阵；将k为聚类数。

3.权利要求1所述的一种用于人脸识别的自适应图正则化非负矩阵分解方法，其特征在于：S3步骤中的相似矩阵S的表达式为：

4.权利要求1所述的一种用于人脸识别的自适应图正则化非负矩阵分解方法，其特征在于：S4步骤中，利用度矩阵与拉普拉斯矩阵对相似矩阵S进行处理过程是：

为了使相似矩阵S中的任何数据点都有C个连通分量，引入以下等式：

其中F∈R^n×c是数据矩阵X所对应的标签矩阵，f_i∈R^1×c和f_j∈R^1×c分别表示F第i行和第j行,Ls是拉普拉斯矩阵，

第i项为

根据rank(Ls)＝n-c，得到：

其中，

为对角矩阵；设σ_i(Ls)是Ls的第i个最小特征值，其中σ_i(Ls)≥0，根据Ky Fan’s Theorem，得到：

最后，S6步骤中的非负矩阵分解目标函数为：

Images