CN103207993A - 基于核的判别随机近邻嵌入分析的人脸识别方法 - Google Patents

Abstract

本发明公开一种基于核的判别随机近邻嵌入分析的人脸识别方法，其涉及模式识别领域，以有效提取非线性判别信息，获得较高识别率为目的，包括训练过程和测试过程，步骤如下：a)随机选取每个对象l个样本进行模型训练，获得相应的投影矩阵B，余下的数据都作为测试样本；b)将所有的训练样本以及测试样本投影至低维流形空间；c)采用最近邻分类器进行识别率检测。本发明提供的人脸识别方法在现有的技术基础上有效地提高了识别率，很好地保持了类内及类间的样本结构。本发明可用于机器学习和模式识别范畴内，除了人脸识别以外，还可用于图像识别和目标识别等领域。

Description

基于核的判别随机近邻嵌入分析的人脸识别方法

技术领域

本发明是一种人脸识别方法，具体地说，是涉及一种基于核的判别随机近邻嵌入分析的人脸识别方法，可用于人脸识别、图像识别、目标识别等。

背景技术

在当今社会中，身份确认具有十分重要的价值。近年来，人类的生物特征越来越广泛的应用于个人的身份鉴认，相比于传统的方法安全、可靠、特征唯一、稳定性高，不易被盗窃和破解。人类固有的生物特征主要有：DNA、指纹、虹膜、语音、步态、掌纹、人脸等，基于人们对独立的个体特征的认知，结合先进的计算机技术和模式识别理论，诸如DNA识别技术、指纹识别技术、人脸识别技术等纷纷发展起来。就目前的研究水平而言，DNA鉴定和指纹识别具有较高的识别率，可靠性最强但其使用的强约束条件还是限制了这两种方法的使用。人脸识别相比于其他的生物特征识别方法具有如下的强大优势：(1)无需用户过多参与，非接触式采集，无侵犯性；(2)对用户没有任何明显刺激，便于隐藏；(3)设备成本低廉，主要是采用摄像头来搜集人脸。因而人脸识别作为一种特殊的生物特征识别技术，拥有许多独特的应用环境，如罪犯搜捕、自动门禁***、海关过境检查、***确认等。

人脸识别已然成为模式识别和图像处理领域的研究热点，当前的主流方法是基于子空间的人脸识别算法。例如边缘Fisher分析法、局部Fisher判别分析法、最大最小距离分析法和最大间距图嵌入法等。近年来，针对非线性分布结构的输入数据，已提出了不少非线性降维技术的人脸识别方法，其中最受关注的是基于核方法和基于几何结构的两种技术。例如等距映射法、局部线性嵌入、拉普拉斯特征映射和局部切空间排列等。本发明提出的方法属于基于核方法的人脸识别，它能产生非线性映射，很好地展现样本数据的流行结构，达到比较理想的降维效果。

经专利查询统计，国内外已有不少人脸识别方面的专利：例如，基于有监督的近邻保持嵌入和支持向量机的人脸识别方法（200710114882.4）、基于广义非线性判别分析的人脸识别方法（200710300730.3）、一种人脸识别方法（200810030577.1）等。

发明内容

本发明要解决现有的技术的线性降维技术不能很好处理非线性分布结构的输入数据的技术问题和不能有效地提高了识别率、很好地保持了类内及类间的样本结构的缺点，提供一种基于核的判别随机近邻嵌入分析的人脸识别方法。

本发明解决其技术问题所采用的技术方案是：

一种基于核的判别随机近邻嵌入分析的人脸识别方法，包括以下步骤：

a)随机选取每个对象l个样本进行模型训练，获得相应的投影矩阵B，余下的数据都作为测试样本；

b)将所有的训练样本以及测试样本投影至低维流形空间；

c)采用最近邻分类器进行识别率检测。

具体来讲，在本发明的人脸识别方法中，具体包括训练部分和测试部分两部分，其中，

所述训练过程具体包括下述步骤：

a1确定训练样本矩阵X=[x₁,x₂,…,x_N]及其类别标签，确定核函数，设定方差参数λ以及最大迭代次数Mt；

a2根据步骤a1中样本矩阵X计算输入样本间两两欧氏距离，原空间的样本相似度和类别标签计算联合概率p_ij：

$p_{\mathrm{ij}}=\left\{\begin{array}{cc}\frac{\exp (-(K_{\mathrm{ii}}+K_{\mathrm{jj}}-{2K}_{\mathrm{ij}})/2{\mathrm{\λ}}^2)}{{\mathrm{\Σ}}_{c_t=c_l}\exp (-(K_{\mathrm{tt}}+K_{\mathrm{ll}}-2K_{\mathrm{tl}})/2{\mathrm{\λ}}^2)}& \mathrm{if}{c}_i=c_j\\ \frac{\exp (-(K_{\mathrm{ii}}+K_{\mathrm{jj}}-{2K}_{\mathrm{ij}})/2{\mathrm{\λ}}^2)}{{\mathrm{\Σ}}_{c_t\≠c_m}\exp (-(K_{\mathrm{tt}}+K_{\mathrm{mm}}-2K_{\mathrm{tm}})/{2\mathrm{\λ}}^2)}& \mathrm{else}\end{array}\right.$

联合概率p_ij引入了高斯RBF核函数κ(x,x’)=exp(-σ||x-x’||₂ ²)。给定有类别标签的n维样本x₁ ¹,x₂ ¹,…,x_N1 ¹,x₁ ²,x₂ ²,…,x_N2 ²,…,x₁ ^C,x₂ ^C,…,x_NC ^C，其中

代表第c类的第i个样本，样本总类别数为C，N_i是第i类的样本数，K_i=[κ(x₁,x_i),...,κ(x_N,x_i)]^T，是一个列向量；

a3初始化变换矩阵B⁰，使其元素满足（0,1）高斯分布；

a4依据子空间的样本相似度和类别标签计算联合概率q_ij，通过KL散度尽可能地保持同类样本间的相似度并减少异类样本间的相似度，最后利用共轭梯度方法更新变换矩阵B^t：

a41联合概率q_ij为：

$q_{\mathrm{ij}}=\left\{\begin{array}{cc}\frac{{(1+{(K_i-K_j)}^T{B}^{T}B(K_i-K_j))}^{-1}}{{\mathrm{\Σ}}_{c_t=c_l}{(1+{(K_t-K_l)}^T{B}^{T}B(K_t-K_l))}^{-1}}& \mathrm{if}{c}_i=c_j\\ \frac{{(1+{(K_i-K_j)}^T{B}^{T}B(K_i-K_j))}^{-1}}{{\mathrm{\Σ}}_{c_t\≠c_m}{(1+{(K_t-K_m)}^T{B}^{T}B(K_t-K_m))}^{-1}}& \mathrm{else}\end{array}\right.$

a42目标代价函数为：

$\min C\left(A\right)=\underset{c_i=c_j}{\mathrm{\Σ}}{p}_{\mathrm{ij}}\frac{p_{\mathrm{ij}}}{q_{\mathrm{ij}}}+\underset{c_i\≠c_k}{\mathrm{\Σ}}{p}_{\mathrm{ik}}\log \frac{p_{\mathrm{ik}}}{q_{\mathrm{ik}}}$

a43在此目标函数下，通过经典的共轭梯度法更新变换矩阵B^t进行迭代求解，其中通过两种方法来参数化目标泛函：

a431.利用投影矩阵B参数化目标泛函：

$\frac{\mathrm{dC}\left(B\right)}{d\left(B\right)}=\underset{c_i=c_j}{\mathrm{\Σ}}\frac{p_{\mathrm{ij}}}{q_{\mathrm{ij}}}{\left(q_{\mathrm{ij}}\right)}^{\′}+\underset{c_i\≠c_t}{\mathrm{\Σ}}\frac{p_{\mathrm{it}}}{q_{\mathrm{it}}}{\left(q_{\mathrm{it}}\right)}^{\′}$

$=2B[\underset{c_i=c_j}{\mathrm{\Σ}}{u}_{\mathrm{ij}}(K_i-K_j){(K_i-K_j)}^T+\underset{c_i\≠c_t}{\mathrm{\Σ}}{u}_{\mathrm{it}}(K_i-K_t){(K_i-K_t)}^T]$

为使表达方便，定义以下几个辅助变量：

w_ij=[1+(K_i-K_j)^ΤB^ΤB(K_i-K_j)]^-1

u_ij=(p_ij-q_ij)w_ij

$u_{\mathrm{ij}}^{\mathrm{in}}=\left\{\begin{array}{c}\\ \end{array}\right.\begin{array}{cc}{u}_{\mathrm{ij}}& \mathrm{if}{c}_i=c_j\\ 0& \mathrm{else}\end{array}$

$u_{\mathrm{ij}}^{\mathrm{ou}}=\left\{\begin{array}{cc}{u}_{\mathrm{ij}}& \mathrm{if}{c}_i\≠c_j\\ 0& \mathrm{else}\end{array}\right.$

通过上述辅助变量，上述梯度公式可简化为：

$\frac{\mathrm{dC}\left(B\right)}{d\left(B\right)}=2B[\underset{c_i=c_j}{\mathrm{\Σ}}{u}_{\mathrm{ij}}(K_i-K_j){(K_i-K_j)}^T+\underset{c_i\≠c_j}{\mathrm{\Σ}}{u}_{\mathrm{it}}(K_i-K_t){(K_i-K_t)}^T]$

$=4B\left[K(D^{\mathrm{in}}-U^{\mathrm{in}}+D^{\mathrm{ou}}-U^{\mathrm{ou}})K^T\right]$

其中对角矩阵Dⁱⁿ，D^ou中的元素由相应Uⁱⁿ和U^ou的每列和组成(或每行和，由于Uⁱⁿ和U^ou是对称矩阵)，即

且

a432.利用投影矩阵A参数化特征空间的目标泛函，特征空间F中的线性投影变换矩阵A可根据非线性映射函数

表示为（以下用

来替代

）：

其中A=BΦ，B=[b⁽¹⁾,...,b^(r)]^T且

$\frac{{\mathrm{dC}}^F\left(A\right)}{d\left(A\right)}=\underset{c_i=c_j}{\mathrm{\Σ}}\frac{p_{\mathrm{ij}}}{q_{\mathrm{ij}}}{\left(q_{\mathrm{ij}}\right)}^{\′}+\underset{c_i\≠c_t}{\mathrm{\Σ}}\frac{p_{\mathrm{it}}}{q_{\mathrm{it}}}{\left(q_{\mathrm{it}}\right)}^{\′}$

$=2[\underset{c_i=c_j}{\mathrm{\Σ}}{u}_{\mathrm{ij}}{\mathrm{BQ}}_{\mathrm{ij}}^{(K_i-K_j)}+\underset{c_i\≠c_t}{\mathrm{\Σ}}{u}_{\mathrm{it}}{\mathrm{BQ}}_{\mathrm{it}}^{(K_i-K_t)}]\mathrm{\Φ}$

其中

为N×N矩阵，矩阵的第i列由向量K_i-K_j组成，第j列由向量K_j-K_i组成，其余列由零向量组成；

a5输出最终投影矩阵B^t。

所述训练过程具体包括下述步骤：

a51.确定训练样本矩阵X=[x₁,x₂,…,x_N]及其类别标签；

a52.利用投影矩阵B^t将训练样本投影至低维流形空间；

a53.利用投影矩阵B^t将训练样本投影至低维流形空间。

本发明的技术构思：对最近由郑建炜等提出的一种新的降维分析方法，称为判别随机近邻嵌入（discriminative stochastic neighbor embedding，DSNE）进行基于核的改进。DSNE是在Hinton等提出的随机近邻嵌入（stochastic neighborembedding，SNE）和Laurens等提出的改进的t分布SNE（t-distributed stochasticneighbor embedding，t-SNE）的基础上引入线性投影变换思想和类别标签信息。SNE将高维数据间的欧氏距离转化为概率表达形式，其目标泛函构建准则要求子空间与原输入空间具有相同的概率分布形式，而t-SNE采用具有对称性的联合概率表达替代SNE中的条件概率形式，并在子空间中引入t分布表现两两样本间的相似度。由于SNE和t-SNE都属于非线性无监督的降维方法，所以存在“样本外问题”和不适合于模式判别任务的缺陷。2011年，由Wu等提出的面向流行学习的随机近邻投影（manifold-oriented stochastic neighbor projection，MSNP）很好地解决了“样本外问题”，但基于MSNP是线性无监督的降维方法，它仍旧不适合模式识别任务。而线性有监督的DSNE却巧妙地解决了这两方面的问题，但线性的特点使它无法有效地解决非线性的特征提取问题，且DSNE对于不同类别的样本，其概率密度仍有待提高。本发明利用核方法的思想提出一种基于核的判别随机近邻嵌入分析的人脸识别方法（kernel DSNE，KDSNE），很好地克服了DSNE的缺陷。

本发明的优点是：能够很好处理非线性分布结构的输入数据，有效地提高了识别率、很好地保持了类内及类间的样本结构。

附图说明

图1是ORL人脸库中的部分人脸图像样本；

图2是Yale人脸库中的部分人脸图像样本；

图3是ORL人脸库中不同子空间维数下的识别率变化；

图4是Yale人脸库中不同子空间维数下的识别率变化；

图5是本发明的流程图。

具体实施方式

下面对本发明作进一步描述。参照附图1-4：

一种基于核的判别随机近邻嵌入分析的人脸识别方法，包括以下步骤：

a)随机选取每个对象l个样本进行模型训练，获得相应的投影矩阵B，余下的数据都作为测试样本；

b)将所有的训练样本以及测试样本投影至低维流形空间；

c)采用最近邻分类器进行识别率检测。

具体来讲，在本发明的人脸识别方法中，具体包括训练部分和测试部分两部分，其中，

所述训练过程具体包括下述步骤：

a1确定训练样本矩阵X=[x₁,x₂,…,x_N]及其类别标签，确定核函数，设定方差参数λ以及最大迭代次数Mt；

a2根据步骤a1中样本矩阵X计算输入样本间两两欧氏距离，原空间的样本相似度和类别标签计算联合概率p_ij：

$p_{\mathrm{ij}}=\left\{\begin{array}{cc}\frac{\exp (-(K_{\mathrm{ii}}+K_{\mathrm{jj}}-{2K}_{\mathrm{ij}})/2{\mathrm{\λ}}^2)}{{\mathrm{\Σ}}_{c_t=c_l}\exp (-(K_{\mathrm{tt}}+K_{\mathrm{ll}}-2K_{\mathrm{tl}})/2{\mathrm{\λ}}^2)}& \mathrm{if}{c}_i=c_j\\ \frac{\exp (-(K_{\mathrm{ii}}+K_{\mathrm{jj}}-{2K}_{\mathrm{ij}})/2{\mathrm{\λ}}^2)}{{\mathrm{\Σ}}_{c_t\≠c_m}\exp (-(K_{\mathrm{tt}}+K_{\mathrm{mm}}-2K_{\mathrm{tm}})/{2\mathrm{\λ}}^2)}& \mathrm{else}\end{array}\right.$

联合概率p_ij引入了高斯RBF核函数给定有类别标签的n维样本x₁ ¹,x₂ ¹,…,x_N1 ¹,x₁ ²,x₂ ²,…,x_N2 ²,…,x₁ ^C,x₂ ^C,…,x_NC ^C，其中

代表第c类的第i个样本，样本总类别数为C，N_i是第i类的样本数，K_i=[κ(x₁,x_i),...,κ(x_N,x_i)]^T，是一个列向量；

a3初始化变换矩阵B⁰，使其元素满足（0,1）高斯分布；

a4依据子空间的样本相似度和类别标签计算联合概率q_ij，通过KL散度尽可能地保持同类样本间的相似度并减少异类样本间的相似度，最后利用共轭梯度方法更新变换矩阵B^t：

a41联合概率q_ij为：

$q_{\mathrm{ij}}=\left\{\begin{array}{cc}\frac{{(1+{(K_i-K_j)}^T{B}^{T}B(K_i-K_j))}^{-1}}{{\mathrm{\Σ}}_{c_t=c_l}{(1+{(K_t-K_l)}^T{B}^{T}B(K_t-K_l))}^{-1}}& \mathrm{if}{c}_i=c_j\\ \frac{{(1+{(K_i-K_j)}^T{B}^{T}B(K_i-K_j))}^{-1}}{{\mathrm{\Σ}}_{c_t\≠c_m}{(1+{(K_t-K_m)}^T{B}^{T}B(K_t-K_m))}^{-1}}& \mathrm{else}\end{array}\right.$

a42目标代价函数为：

$\min C\left(A\right)=\underset{c_i=c_j}{\mathrm{\Σ}}{p}_{\mathrm{ij}}\frac{p_{\mathrm{ij}}}{q_{\mathrm{ij}}}+\underset{c_i\≠c_k}{\mathrm{\Σ}}{p}_{\mathrm{ik}}\log \frac{p_{\mathrm{ik}}}{q_{\mathrm{ik}}}$

a43在此目标函数下，通过经典的共轭梯度法更新变换矩阵B^t进行迭代求解，其中通过两种方法来参数化目标泛函：

a431.利用投影矩阵B参数化目标泛函：

$\frac{\mathrm{dC}\left(B\right)}{d\left(B\right)}=\underset{c_i=c_j}{\mathrm{\Σ}}\frac{p_{\mathrm{ij}}}{q_{\mathrm{ij}}}{\left(q_{\mathrm{ij}}\right)}^{\′}+\underset{c_i\≠c_t}{\mathrm{\Σ}}\frac{p_{\mathrm{it}}}{q_{\mathrm{it}}}{\left(q_{\mathrm{it}}\right)}^{\′}$

$=2B[\underset{c_i=c_j}{\mathrm{\Σ}}{u}_{\mathrm{ij}}(K_i-K_j){(K_i-K_j)}^T+\underset{c_i\≠c_t}{\mathrm{\Σ}}{u}_{\mathrm{it}}(K_i-K_t){(K_i-K_t)}^T]$

为使表达方便，定义以下几个辅助变量：

w_ij=[1+(K_i-K_j)^ΤB^ΤB(K_i-K_j)]^-1

u_ij=(p_ij-q_ij)w_ij

$u_{\mathrm{ij}}^{\mathrm{in}}=\left\{\begin{array}{c}\\ \end{array}\right.\begin{array}{cc}{u}_{\mathrm{ij}}& \mathrm{if}{c}_i=c_j\\ 0& \mathrm{else}\end{array}$

$u_{\mathrm{ij}}^{\mathrm{ou}}=\left\{\begin{array}{cc}{u}_{\mathrm{ij}}& \mathrm{if}{c}_i\≠c_j\\ 0& \mathrm{else}\end{array}\right.$

通过上述辅助变量，上述梯度公式可简化为：

$\frac{\mathrm{dC}\left(B\right)}{d\left(B\right)}=2B[\underset{c_i=c_j}{\mathrm{\Σ}}{u}_{\mathrm{ij}}(K_i-K_j){(K_i-K_j)}^T+\underset{c_i\≠c_t}{\mathrm{\Σ}}{u}_{\mathrm{it}}(K_i-K_t){(K_i-K_t)}^T]$

$=4B\left[K(D^{\mathrm{in}}-U^{\mathrm{in}}+D^{\mathrm{ou}}-U^{\mathrm{ou}})K^T\right]$

其中对角矩阵Dⁱⁿ，D^ou中的元素由相应Uⁱⁿ和U^ou的每列和组成(或每行和，由于Uⁱⁿ和U^ou是对称矩阵)，即

且a432.利用投影矩阵A参数化特征空间的目标泛函，特征空间F中的线性投影变换矩阵A可根据非线性映射函数 表示为（以下用

来替代）：

其中A=BΦ，B=[b⁽¹⁾,...,b^(r)]^T且

$\frac{{\mathrm{dC}}^F\left(A\right)}{d\left(A\right)}=\underset{c_i=c_j}{\mathrm{\Σ}}\frac{p_{\mathrm{ij}}}{q_{\mathrm{ij}}}{\left(q_{\mathrm{ij}}\right)}^{\′}+\underset{c_i\≠c_t}{\mathrm{\Σ}}\frac{p_{\mathrm{it}}}{q_{\mathrm{it}}}{\left(q_{\mathrm{it}}\right)}^{\′}$

$=2[\underset{c_i=c_j}{\mathrm{\Σ}}{u}_{\mathrm{ij}}{\mathrm{BQ}}_{\mathrm{ij}}^{(K_i-K_j)}+\underset{c_i\≠c_t}{\mathrm{\Σ}}{u}_{\mathrm{it}}{\mathrm{BQ}}_{\mathrm{it}}^{(K_i-K_t)}]\mathrm{\Φ}$

其中

为N×N矩阵，矩阵的第i列由向量K_i-K_j组成，第j列由向量K_j-K_i组成，其余列由零向量组成；

a5输出最终投影矩阵B^t。

所述训练过程具体包括下述步骤：

a1确定训练样本矩阵X=[x₁,x₂,…,x_N]及其类别标签；

a2利用投影矩阵B^t将训练样本投影至低维流形空间；

a3利用投影矩阵B^t将训练样本投影至低维流形空间。

采用ORL和Yale两个经典的人脸数据库进行识别率检测。实验中统一将上述人脸数据库调整至32×32像素，每像素的灰度值在0-255范围之内。在ORL人脸库中随机选择每类3个及5个样本进行识别率检测，而在Yale人脸库中则随机选择每类4个及6个样本。本发明采用DSNE和MSNP两种线性降维算法进行对比测试，其中Wu等提出的面向流行学习的随机近邻投影论文中已经验证了MSNP算法在识别能力上优于SNE、t-SNE、LLTSA、LPP等一般降维算法。各种算法的具体配置参数如下：KDSNE1、KDSNE2及DSNE中方差参数λ=0.1且最大迭代次数均为300；MSNP中柯西分布的样本自由度γ=4且最大迭代次数为1000。

表1是所有算法在两个人脸库中的最佳识别率和相应子空间维数(括号内数字)，其中加粗部分是相同训练样本下的最高识别率。从表1可见，KDSNE1在ORL人脸库中具有最优的识别率，而KDSNE2在Yale人脸库中具有最优的识别率，由此可见，KDSNE1和KDSNE2识别率的高低也随数据库的不同而不同。至于KDSNE1和KDSNE2较其他算法的比较，从图和表中可得知，KDSNE2在Yale中较识别率次优的DSNE提升了>3%，而在ORL中虽然KDSNE2识别率提升平均不足2%，且在l=5实验中DSNE非常接近于KDSNE2，然而DSNE却用了更高的子空间维度才达到较接近的识别率，从人脸识别本质上来说逊于KDSNE1和KDSNE2。

表1各种算法在ORL和Yale数据库中取得的最佳识别率及相应维度

Claims (6)

1.一种基于核的判别随机近邻嵌入分析的人脸识别方法，包括训练过程和测试过程，其特征在于，包括以下步骤：

a)随机选取每个对象l个样本进行模型训练，获得相应的投影矩阵B∈R^r×N，其中N是训练样本数量，r是投影后样本维度，余下的数据都作为测试样本；

b)将所有的训练样本以及测试样本投影至低维流形空间；

c)采用最近邻分类器进行识别率检测。

2.根据权利要求1所述的人脸识别方法，其特征在于，在所述步骤a)中，随机选取每个对象l个样本进行模型训练包括下述五个步骤：

a1确定样本矩阵X=[x₁,x₂,…,x_N]及其类别标签，确定核函数，设定方差参数λ以及最大迭代次数Mt，其中x_i∈R^d×N，是第i个输入样本，λ是相应高斯函数的方差参数，Mt是最大迭代次数；

a2根据步骤a1中样本矩阵X计算输入样本间两两欧氏距离，原空间的样本相似度和类别标签计算联合概率p_ij；

a3初始化变换矩阵B⁰，使其元素满足（0,1）高斯分布；

a4依据子空间的样本相似度和类别标签计算联合概率q_ij，通过KL散度尽可能地保持同类样本间的相似度并减少异类样本间的相似度，最后利用共轭梯度方法更新变换矩阵B^t；

a5输出最终投影矩阵B^t。

3.根据权利要求2所述的人脸识别方法，其特征在于，在所述步骤a2中计算联合概率p_ij时引入了高斯RBF核函数

给定有类别标签的n维样本x₁ ¹,x₂ ¹,…,x_N1 ¹,x₁ ²,x₂ ²,…,x_N2 ²,…,x₁ ^C,x₂ ^C,…,x_NC ^C，其中

代表第c类的第i个样本，样本总类别数为C，N_i是第i类的样本数。引入核函数后，原空间的样本的联合概率为：

$p_{\mathrm{ij}}=\left\{\begin{array}{cc}\frac{\exp (-(K_{\mathrm{ii}}+K_{\mathrm{jj}}-{2K}_{\mathrm{ij}})/2{\mathrm{\λ}}^2)}{{\mathrm{\Σ}}_{c_t=c_l}\exp (-(K_{\mathrm{tt}}+K_{\mathrm{ll}}-2K_{\mathrm{tl}})/2{\mathrm{\λ}}^2)}& \mathrm{if}{c}_i=c_j\\ \frac{\exp (-(K_{\mathrm{ii}}+K_{\mathrm{jj}}-{2K}_{\mathrm{ij}})/2{\mathrm{\λ}}^2)}{{\mathrm{\Σ}}_{c_t\≠c_m}\exp (-(K_{\mathrm{tt}}+K_{\mathrm{mm}}-2K_{\mathrm{tm}})/{2\mathrm{\λ}}^2)}& \mathrm{else}\end{array}\right.$

其中K_i=[κ(x₁,x_i),...,κ(x_N,x_i)]^T，是一个由核函数值组成的列向量。

4.根据权利要求3所述的人脸识别方法，其特征在于，在所述步骤a4中计算子空间的联合概率q_ij时也引入了高斯RBF核函数κ(x,x’)=exp(-λ|x-x’||₂ ²)，即：

$q_{\mathrm{ij}}=\left\{\begin{array}{cc}\frac{{(1+{(K_i-K_j)}^T{B}^{T}B(K_i-K_j))}^{-1}}{{\mathrm{\Σ}}_{c_t=c_l}{(1+{(K_t-K_l)}^T{B}^{T}B(K_t-K_l))}^{-1}}& \mathrm{if}{c}_i=c_j\\ \frac{{(1+{(K_i-K_j)}^T{B}^{T}B(K_i-K_j))}^{-1}}{{\mathrm{\Σ}}_{c_t\≠c_m}{(1+{(K_t-K_m)}^T{B}^{T}B(K_t-K_m))}^{-1}}& \mathrm{else}\end{array}\right.$

5.根据权利要求4所述的人脸识别方法，其特征在于，在所述步骤a4中通过最小化同类样本内和异类样本间各自的KL散度得到目标代价函数：

$\min C\left(B\right)=\underset{c_i=c_j}{\mathrm{\Σ}}{p}_{\mathrm{ij}}\log \frac{p_{\mathrm{ij}}}{q_{\mathrm{ij}}}+\underset{c_i\≠c_t}{\mathrm{\Σ}}{p}_{\mathrm{it}}\log \frac{p_{\mathrm{it}}}{q_{\mathrm{it}}}$

6.根据权利要求5所述的人脸识别方法，其特征在于，在所述的目标函数下，通过两种方法来参数化目标泛函：

a41.利用投影矩阵B参数化目标泛函：

$\frac{\mathrm{dC}\left(B\right)}{d\left(B\right)}=\underset{c_i=c_j}{\mathrm{\Σ}}\frac{p_{\mathrm{ij}}}{q_{\mathrm{ij}}}{\left(q_{\mathrm{ij}}\right)}^{\′}+\underset{c_i\≠c_t}{\mathrm{\Σ}}\frac{p_{\mathrm{it}}}{q_{\mathrm{it}}}{\left(q_{\mathrm{it}}\right)}^{\′}$

$=2B[\underset{c_i=c_j}{\mathrm{\Σ}}{u}_{\mathrm{ij}}(K_i-K_j){(K_i-K_j)}^T+\underset{c_i\≠c_t}{\mathrm{\Σ}}{u}_{\mathrm{it}}(K_i-K_t){(K_i-K_t)}^T]$

a42.利用投影矩阵A∈R^r×d参数化特征空间的目标泛函，特征空间中的线

性投影变换矩阵A可根据非线性映射函数

表示为（以下用

来替代

）：

其中A=BΦ，B=[b⁽¹⁾,…,b^(r)]^T且

$\frac{{\mathrm{dC}}^F\left(A\right)}{d\left(A\right)}=\underset{c_i=c_j}{\mathrm{\Σ}}\frac{p_{\mathrm{ij}}}{q_{\mathrm{ij}}}{\left(q_{\mathrm{ij}}\right)}^{\′}+\underset{c_i\≠c_t}{\mathrm{\Σ}}\frac{p_{\mathrm{it}}}{q_{\mathrm{it}}}{\left(q_{\mathrm{it}}\right)}^{\′}$

$=2[\underset{c_i=c_j}{\mathrm{\Σ}}{u}_{\mathrm{ij}}{\mathrm{BQ}}_{\mathrm{ij}}^{(K_i-K_j)}+\underset{c_i\≠c_t}{\mathrm{\Σ}}{u}_{\mathrm{it}}{\mathrm{BQ}}_{\mathrm{it}}^{(K_i-K_t)}]\mathrm{\Φ}$

其中

为N×N矩阵，矩阵的第i列由向量K_i-K_j组成，第j列由向量K_j-K_i组成，其余列由零向量组成。

Images