CN112115881B - 基于鲁棒鉴别特征学习的图像特征提取方法 - Google Patents

基于鲁棒鉴别特征学习的图像特征提取方法 Download PDF

Info

Publication number
CN112115881B
CN112115881B CN202010997164.1A CN202010997164A CN112115881B CN 112115881 B CN112115881 B CN 112115881B CN 202010997164 A CN202010997164 A CN 202010997164A CN 112115881 B CN112115881 B CN 112115881B
Authority
CN
China
Prior art keywords
matrix
face image
class
sample
image sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010997164.1A
Other languages
English (en)
Other versions
CN112115881A (zh
Inventor
钟慧
张召涛
张雪
易鹏飞
殷家敏
王郑兴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
STATE GRID CHONGQING ELECTRIC POWER Co CHANGSHOU POWER SUPPLY BRANCH
Original Assignee
STATE GRID CHONGQING ELECTRIC POWER Co CHANGSHOU POWER SUPPLY BRANCH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by STATE GRID CHONGQING ELECTRIC POWER Co CHANGSHOU POWER SUPPLY BRANCH filed Critical STATE GRID CHONGQING ELECTRIC POWER Co CHANGSHOU POWER SUPPLY BRANCH
Priority to CN202010997164.1A priority Critical patent/CN112115881B/zh
Publication of CN112115881A publication Critical patent/CN112115881A/zh
Application granted granted Critical
Publication of CN112115881B publication Critical patent/CN112115881B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2132—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on discrimination criteria, e.g. discriminant analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Evolutionary Biology (AREA)
  • Computational Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Pure & Applied Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Algebra (AREA)

Abstract

本发明涉及图像特征提取技术领域，具体公开了一种基于鲁棒鉴别特征学习的图像特征提取方法，包括步骤：S1.对人脸图像样本集进行聚类处理；S2.利用L2,1范数准则对聚类后的人脸图像样本集构建数据矩阵；S3.以最大化类间散度矩阵、最小化类内散度矩阵为目的，基于迭代思想，构建提取图像特征的始目标函数；S4.用数据矩阵对始目标函数进行求解，得到终目标函数。本方法对人脸图像样本数据进行了类内聚拢处理，使得每类样本尽可能靠近样本中心，减少了类内异常样本的误判率；引入L2,1范数思想定义类内数据和类间数据，为避免样本中心过远或过近，引入加权参数，使模型更加鲁棒；基于迭代算法构建目标函数，使得求解结果达到最优解。

Description

基于鲁棒鉴别特征学习的图像特征提取方法
技术领域
本发明涉及图像特征提取技术领域，尤其涉及基于鲁棒鉴别特征学习的图像特征提取方法。
背景技术
人脸识别是模式识别和机器学习中最热门的领域之一，广泛用于门禁***、安保***、电子支付等领域。但是，通过机器采集的数据往往包含大量的噪声和冗余信息，因此，有必要对人脸图像数据进行特征提取。特征提取在图像处理和模式识别中处理“维数灾难”和减少计算负担发挥着重要的作用。特征提取中最经典的两种方法是主成分分析法(Principal Component Analysis,简称PCA)和线性判别分析法(Linear DiscriminantAnalysis,简称LDA)，但是这两种方法及其变形算法大都存在以下两大缺点：(1)其目标函数是基于L2范数最大化度量准则进行定义的，极其容易受异常值和噪声的影响；(2)它们所提取的特征是所有原始特征的线性组合，难以有效区分有用信息与无用信息。
针对以上两个问题，国内外学者们做了以下工作。首先，为了克服模型对噪声和异常值敏感的问题，国内外学者提出用L2范数代替范数的思想。虽然L1范数在减轻异常值和噪声方面取得了不错的成果，但是同时它也存在着一些问题。首先，如果仅仅把L1范数作为正则化项，算法中占主导地位的还是L2范数，在某些情况下仍然会对噪声和异常值敏感。其次，虽然可以通过L1范数来获得稀疏投影，但是无法获得联合稀疏性。为了解决以上问题，研究学者们充分利用L1范数和L2范数互补的特性，提出了L2,1范数定义模型的方法。例如，Chen等人[1]提出了一种基于L2,1范数的新型稀疏PCA。Lai等人[2]提出了一种新的特征提取方法，称为鲁棒判别回归(Robust Discriminant Regression,简称RDR)。与此同时，L2,1范数对区分有用信息与无用信息也发挥着重要的作用。例如，Huang等人[3]提出了一种新的稀疏子空间学习方法，称为判别稀疏张量邻域保留嵌入。Han等人[4]提出了一种新的基于小波变换的多频带联合局部稀疏跟踪算法。这些方法在区分有用信息与无用信息方面取得了不错的效果。
综上所述,利用L2,1范数不仅可以让模型对异常值和噪声鲁棒，还可以得到联合稀疏投影，由此L2,1范数被广泛用于特征选择与子空间学习。最初，Nie等人[5]在提出RFS的同时引入了L2,1范数用于特征选择。作为正则化项，增强算法的鲁棒性和联合稀疏性。之后大量用L2,1范数来进行特征选择和子空间学习[6]。
然而，虽然上述方法利用L2,1范数最大化准则定义模型，在一定程度上减轻了异常值和噪声的影响，但是数据集中损坏较为严重的样本仍然会对识别效果产生影响。
参考文献：
[1]CHEN Xiuhong,SUN Huiqiang.L2,1norm based sparse principle componentanalysis with trace norm regularized term[J].IET Image Process,2019,13(6):910-922.
[2]LAI Zhihui,MO Dongmei,WONG W,et al.Robust discriminant regressionfor feature extraction[J].IEEE Trans on Cybernetics,2018,48(8):2472-2484.
[3]HUANG Rongbing,LIU Chang,ZHOU Jiliu.Discriminant analysis viajointly norm sparse tensor preserving embedding for image classification[J].Journal of Visual Communication&Image Representation,2017,47(12):10-22.
[4]HAN Guang,LUO Heng,LIU Jixin,et al.Multi-band joint local sparsetracking via wavelet transforms[J].IET Computer Vision,2016 10(8):894-904.
[5]NIE Feiping,HUANG Heng,CAI Xiao,et al.Efficient and robust featureselection via joint L2,1norms minimization[C].Proc of Advances in NeuralInformation Processing Systems.Canada:Advances in Neural InformationProcessing Systems 23,2010:1813-1821.
[6]YI Shuangyan,LAI Zhihui,HE Zhenyu,et al.Joint sparse principalcomponent analysis[J].Pattern Recognition,2017,61(0):524-536.
发明内容
本发明提供一种基于鲁棒鉴别特征学习的图像特征提取方法，解决的技术问题在于：利用L2,1范数最大化准则定义模型的图像特征提取方法，虽在一定程度上减轻了异常值和噪声的影响，但是数据集中损坏较为严重的样本仍然会对识别效果产生影响。
为解决以上技术问题，本发明提供一种基于鲁棒鉴别特征学习的图像特征提取方法，包括步骤：
S1.对人脸图像样本集进行聚类处理；
S2.利用L2,1范数准则对聚类后的人脸图像样本集构建数据矩阵，所述数据矩阵包括类内数据矩阵、类内对角矩阵、类间数据矩阵、类间对角矩阵和投影对角矩阵，并在所述类间数据矩阵中引入加权参数；
S3.以最大化类间散度矩阵、最小化类内散度矩阵为目的，基于迭代思想，构建提取图像特征的始目标函数；
S4.用所述数据矩阵对所述始目标函数进行求解，得到终目标函数。
进一步地，所述步骤S1具体包括步骤：
S11.求解每类人脸图像样本的样本中心；
S12.求解每一人脸图像样本与其所在图像类别的样本中心之间的相似度权值；
S13.对每一人脸图像样本赋予其相似度权值。
所述步骤S11根据下式(1)求解每类人脸图像样本的样本中心：
其中，x′ij代表人脸图像样本集中第i类人脸图像样本中的第j个人脸图像样本，是第i人脸图像样本的样本中心，Ni是第i类人脸图像样本的个数；
所述步骤S12根据下式(2)求解每一人脸图像样本与其所在图像类别的样本中心之间的相似度权值：
所述步骤S13通过下式(3)对每一人脸图像样本赋予其相似度权值：
其中，xij代表被赋予了相似度权值的第i类人脸图像样本中的第j个人脸图像样本。
进一步地，所述步骤S2采用下式(4)构建类内数据矩阵Xwithin：
其中，xij(i＝1,2,...,C；j＝1,2,...,NC)代表被赋予了相似度权值的第i类人脸图像样本中的第j个人脸图像样本，C代表样本类别数，Ni(i＝1,2,...,C)代表各样本类别中的样本数，代表被赋予了相似度权值的第i类人脸图像样本的样本中心；
所述步骤S2采用下式(5)构建类内对角矩阵Dwithin：
其中，α是判断任一人脸图像样本是异常样本的判定阈值，B代表投影矩阵；
所述步骤S2采用下式(6)构建类间数据矩阵Xbetween：
其中，是加权参数，E是经验参数，一般设置为103；
所述步骤S2采用下式(7)构建类间对角矩阵Dbetween：
所述步骤S2采用下式(8)构建投影对角矩阵DB：
其中，bi.(i＝1,2,...,C)代表投影矩阵B的第i行元素。
进一步地，所述步骤S3中，所述始目标函数表示为：
其中，ε为正则化参数，cons表示常量。
进一步地，所述步骤S4中，所述终目标函数表示为：
其中，t代表当前迭代次数。
进一步地，所述步骤S4的求解过程包括步骤：
S41.将所述始目标函数第一部分求解如式(10)所示：
其中，Swithin＝XwithinDwithinXwithin T；
S42.对正则化项求解如式(11)：
ε·||B||2,1＝ε·tr(BTDBB) (11)
S43.约束项转化为式(12)：
其中，Sbetween＝XbetweenDbetweenXbetween T；
S44.根据式(10)、(11)、(12)将式(9)转化为式(13)：
S45.将式(13)的问题转化为求迹优化问题，利用拉格朗日乘子法，得到式(14)：
S46.经过转化，得到广义特征值函数如下式(15)：
(Sbetween)-1(Swithin+ε.DB)B＝BΛ (15)
其中，对角矩阵Λ由其对应的特征向量的特征值组成，其对应的特征向量位于投影矩阵B的每一列中；
S47.通过矩阵(Sbetween)-1(Swithin+ε.DB)的特征分解来解决最小化问题，采用L2,1范数鉴别特征学习算法计算每次迭代的最佳的投影矩阵B，最佳的投影矩阵B由其最小特征值所对应的特征向量组成；
S48.整合得到所述终目标函数。
进一步地，所述步骤S47中，所述L2,1范数鉴别特征学习算法的内容如下：
输入：训练数据集Xn×d，n代表训练数据集的总样本数，d代表训练数据集每个样本的原始特征维度，最大迭代次数ite，维数k(＜d)，参数ε，参数α；
输出：投影到低维空间yi＝xiB(i＝1,2,3,...,n)；
步骤：
1)分别用式(4)和(6)构建类内数据矩阵Xwithin和类间数据矩阵Xbetween；
2)初始化正交矩阵B∈Rn×k；
3)当t＝1:ite
-求解特征值分解问题得到投影矩阵B；
-用式(5)更新类内对角矩阵Dwithin；
-用式(7)更新类间对角矩阵Dbetween；
-用式(8)更新投影对角矩阵DB；
-t＝t+1；
-函数收敛或达到最大迭代次数，退出循环；
4)输出最优的投影矩阵B；
5)训练样本投影到低维空间yi＝xiB(i＝1,2,3,...,n)。
本发明提供的基于鲁棒鉴别特征学习的图像特征提取方法，其有益效果在于：
(1)对人脸图像样本数据进行了类内聚拢处理，使得每类样本尽可能靠近样本中心，减少了类内异常样本的误判率；
(2)引入L2,1范数思想定义类内数据和类间数据，为避免样本中心过远或过近，引入加权参数，使模型更加鲁棒；
(3)基于迭代算法构建目标函数，使得求解结果达到最优解；
(4)在公开数据集上得到了验证，证明了本方法的有效性与鲁棒性。
附图说明
图1是本发明实施例提供的基于鲁棒鉴别特征学习的图像特征提取方法的步骤流程图；
图2-1是本发明实施例提供的以ORL数据集为例的参数α(alpha)与人脸识别率的关系走势图；
图2-2是本发明实施例提供的以ORL数据集为例的参数ε(sigma)与人脸识别率的关系走势图；
图3是本发明实施例提供的不同算法在Extened Yale B中的识别率变化曲线图；
图4是本发明实施例提供的不同算法在PIE中的识别率变化曲线图；
图5是本发明实施例提供的不同算法在ORL中的识别率变化曲线图。
具体实施方式
下面结合附图具体阐明本发明的实施方式，实施例的给出仅仅是为了说明目的，并不能理解为对本发明的限定，包括附图仅供参考和说明使用，不构成对本发明专利保护范围的限制，因为在不脱离本发明精神和范围基础上，可以对本发明进行许多改变。
一、方法介绍
本发明实施例提供的基于鲁棒鉴别特征学习的图像特征提取方法，如图1所示的步骤流程图，包括步骤：
S1.对人脸图像样本集进行聚类处理；
S2.利用L2,1范数准则对聚类后的人脸图像样本集构建数据矩阵，数据矩阵包括类内数据矩阵、类内对角矩阵、类间数据矩阵、类间对角矩阵和投影对角矩阵，并在类间数据矩阵中引入加权参数；
S3.以最大化类间散度矩阵、最小化类内散度矩阵为目的，基于迭代思想，构建提取图像特征的始目标函数；
S4.用数据矩阵对始目标函数进行求解，得到终目标函数。
下面对各个步骤进行详细介绍。
(1)针对步骤S1
人脸有着相似的结构，人脸图像也可能存在着不同的人有着相似的面孔。数据集中的人脸图像是由现实生活中采集而来，为了避免相似面孔对人脸图像的处理造成困扰，在对人脸图像进行降维前需要对人脸图像进行聚类处理。先计算出每类样本的样本中心，分别得到每类样本与样本中心的差异，对每一类别中的样本都做尺度变换，最终使得同一类别的样本尽量靠近样本中心。实现步骤如下：
S11.求解每类样本的样本中心，如式(1)所示：
其中，x′ij代表人脸图像样本集中第i类人脸图像样本中的第j个人脸图像样本，是第i人脸图像样本的样本中心，Ni是第i类人脸图像样本的个数。
S12.按式(2)求解每一样本与其样本中心的相似性(相似度权值)：
S13.对每一样本赋予其相似度权值，得到处理后的新样本，如式(3)所示：
其中，xij代表被赋予了相似度权值的第i类人脸图像样本中的第j个人脸图像样本。
线性判别分析(LDA)利用数据的标签信息和全局信息对图像进行特征提取，大大地提高了人脸图像的识别率。但是LDA是利用L2范数最大化准则进行定义，容易对噪声和异常值敏感。然而，采集的人脸图像大都包含噪声和异常值。为了解决这个问题本实施例对LDA进行了改进(步骤S2～S4)，得到了更加鲁棒和有效的算法。
(2)针对步骤S2
第一步，为了得到更加鲁棒和有效的模型，本实施例利用L2,1范数准则定义模型的思想，构建了类内对角矩阵Dwithin，并且引入筛选数据的因子α，剔除了样本中的一部分异常样本。类内数据矩阵Xwithin和类内对角矩阵Dwithin构建如式(4)和(5)所示：
其中，xij(i＝1,2,...,C；j＝1,2,...,NC)代表被赋予了相似度权值的第i类人脸图像样本中的第j个人脸图像样本，C代表样本类别数，Ni(i＝1,2,...,C)代表各样本类别中的样本数，代表被赋予了相似度权值的第i类人脸图像样本的样本中心；
其中，α是判断任一人脸图像样本是异常样本的判定阈值(筛选因子)，B代表投影矩阵；
第二步，利用每类样本的样本中心构建类间数据矩阵Xbetween，并且引入加权参数pi,j，避免样本中心之间距离过大或者过小。同样地，为了得到更加鲁棒和有效的模型，引入类间对角矩阵Dbetween。由式(6)、(7)构建类间数据矩阵Xbetween和类间对角矩阵Dbetween：
其中，是加权参数，E是经验参数，本实施例设置为103；
第三步，为了得到联合稀疏投影，利用L2,1范数思想构建投影对角矩阵DB，如式(8)所示：
其中，bi.(i＝1,2,...,C)代表投影矩阵B的第i行元素。
(3)针对步骤S3
根据步骤S1和步骤S2，根据最大化类间散度矩阵，最小化类内散度矩阵的思想，提出方法的目标函数定义如式(9)：
其中，ε为正则化参数，cons表示常量。
(4)针对步骤S4
步骤S4的求解过程包括步骤：
S41.将所述始目标函数第一部分求解如式(10)所示：
其中，Swithin＝XwithinDwithinXwithin T；
S42.对正则化项求解如式(11)：
ε·||B||2,1＝ε·tr(BTDBB) (11)
S43.约束项转化为式(12)：
其中，Sbetween＝XbetweenDbetweenXbetween T；
S44.根据式(10)、(11)、(12)将式(9)转化为式(13)：
S45.类似于LDA的求解方法，将式(13)的问题转化为求迹优化问题，利用拉格朗日乘子法，得到式(14)：
S46.经过简单的转化，得到广义特征值函数如下式(15)：
(Sbetween)-1(Swithin+ε.DB)B＝BΛ (15)
其中，对角矩阵Λ由其对应的特征向量的特征值组成，其对应的特征向量位于投影矩阵B的每一列中；
S47.通过矩阵(Sbetween)-1(Swithin+ε.DB)的特征分解来解决最小化问题，采用L2,1范数鉴别特征学习算法计算每次迭代的最佳的投影矩阵B，最佳的投影矩阵B由其最小特征值所对应的特征向量组成。由于Dwithin,DB和Sbetween的更新与上一次迭代获得的投影矩阵B有关，因此需要采用一种迭代算法来计算最佳的投影矩阵B，该算法可以通过算法1获得。
算法1 L2,1范数鉴别特征学习算法
输入训练数据集(数据矩阵)Xn×d(n代表训练数据集的总样本数，d代表训练数据集每个样本的原始特征维度)，最大迭代次数ite，维数k(＜d)，参数ε，参数α。
输出投影到低维空间yi＝xiB(i＝1,2,3,...,n)。
1.分别用式(4),(6)构建矩阵Xwithin,Xbetween。
2.初始化正交矩阵B∈Rn×k。
3.当t＝1:ite
-求解特征值分解问题得到B；
-用式(5)更新Dwithin；
-用式(7)更新Dbetween；
-用式(8)更新DB；
-t＝t+1；
-函数收敛或达到最大迭代次数，退出循环。
4.输出最优的投影矩阵B。
5.训练样本投影到低维空间yi＝xiB(i＝1,2,3,...,n)。
S48.整合得到终目标函数。
引理1[5].对于任何非零向量u,ut∈Rn，可以得到式(16)不等式：
证明：设bi代表B的第i行数据，则第t+1次迭代可以得到式(17)、(18)：
由式(18)可得：
根据式(16)可得：
由(19)+(20)可得：
||Bt+1||2,1≤||Bt||2,1 (22)
则可以得到式(23)：
最终提出算法的目标函数(终目标函数)可表示为式(24)：
二、实验论证
本实施例在三个知名人脸数据集上进行了实验验证，以评估本发明所提图像特征提取算法的性能，这三个数据集分别是Extended Yale B数据集、PIE数据集和ORL数据集。并且选择了一些比较经典的和比较新颖的算法进行了比较。这些算法包括比较传统的PCA[7]、LDA[8]、LPP[9]、NPE[10]，也包括一些改进的比较新颖的算法，如LDAL21[11]、LRPPGRR[12][12]、GRR[13]。
(1)数据集
表1是该实验所用的数据集，包括3个数据集，其中Extended Yale B数据集和ORL数据集的图片被处理成大小为32×32，PIE数据集中图片被处理成大小为64×64。
表1.本实施例所用数据集
(2)实验设置
该实验在每类数据中随机选择Q幅图像组成训练样本，剩余全部图像作为测试样本。在Extended Yale B数据集中，设置Q＝32；PIE数据集，设置Q＝15；ORL数据集，设置Q＝5。每个数据集中的每个方法，该实验做了10次的重复实验，最终取10次结果的平均值作为算法的性能指标。在该实验中，为了消除由散度矩阵的求逆运算引起的奇异值问题，在进行实验之前，使用PCA对数据进行了预处理。分类器则采用的是弱分类器—KNN分类器。实验环境是Windows 10下的MATLAB R2020a。该算法中的两个参数会影响算法性能，经过寻优处理，在Extended Yale B中设置参数ε＝102，α＝103；PIE中设置ε＝103，α＝103；ORL中设置ε＝103，α＝103。在ORL数据集中参数分析如图2-1和2-2所示。
(3)实验结果和分析
下表2～4和图3～5展示了Extended Yale B、PIE和ORL三个人脸数据集的不同算法在不同特征维度下的识别率。其中7组对比实验均设置为最佳参数下或参考文献中已设置的参数。从表2和图3可以看出，在Extended Yale B数据集中，该算法在不同特征维数下大多数优于其他7组实验，最高识别率可达到95.74％。从表3和图4可以看出，在PIE数据集中，本实施例所述方法(OURS)在不同维度下较优于其他7组实验，最高可达到96％的识别率。从表4和图5可以看出，在ORL数据集中，该算法均优于其他7组算法，最高识别率为99.55％。
表2.不同算法在Extended Yale B中不同维度下的识别率
表3.不同算法在PIE中不同维度下的识别率
表4.不同算法在ORL中不同维度下的识别率
三、结论
本实施例提出了一种用于人脸图像特征提取的鉴别特征学习算法，为减少样本的误判率，采用类内聚拢方法处理类内数据；为使模型更加鲁棒，利用L2,1范数准则对模型进行重建；为使模型能区分出有用特征与无用特征，采用联合稀疏的方式。最后，提出了一种迭代算法来求解最优的投影矩阵。为了评估提出算法的性能，在3个公开人脸数据集上进行了实验，并选择了7组比较实验。实验结果证明了本算法的鲁棒性和有效性。
参考文献：
[7]TURK M and PENTLAND A.Eigenfaces for recognition[J].Journal ofcognitive neuroscience,1991,3(1):71–86.
[8]FISHER R A.The statistical utilization of multiple measurements[J].Annals of eugenics,1938,8(4):376–386.
[9]HE Xiaofei.Locality preserving projections[J].Conference onAdvances in Neural Information Processing System,2003,16(1):186–197.
[10]HE Xiaofei,CAI Deng,YAN Shuicheng,et al.Neighborhood preservingembedding[C].IEEE International Conference on Computer Vision(ICCV).[S.I.]:IEEE Computer Society,2005:1208-1213.
[11]SHI Xiaoshuang,YANG Yujin,GUO Zhenhua,et al.Face recognition bysparse discriminant analysis via joint L2,1norm minimization[J].PatternRecognition,2014,47(7):2447-2453.
[12]WEN Jie,HAN Na,FANG Xiaozhao,et al.Low-rank preserving projectionvia graph regularized reconstruction[J].IEEE Trans on Cybernetics,2019,49(4):1279-1291.
[13]LAI Zhuihui,MO Dongmei,WEN Jiajun,et al.Generalized robustregression for jointly sparse subspace learning[J].IEEE Transactions onCircuits and Systems for Video Technology,2019,29(3):756-772.
上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (5)

1.基于鲁棒鉴别特征学习的图像特征提取方法，其特征在于，包括步骤：
S1.对人脸图像样本集进行聚类处理；
S2.利用L2,1范数准则对聚类后的人脸图像样本集构建数据矩阵，所述数据矩阵包括类内数据矩阵、类内对角矩阵、类间数据矩阵、类间对角矩阵和投影对角矩阵，并在所述类间数据矩阵中引入加权参数；
所述步骤S2采用下式(4)构建类内数据矩阵Xwithin：
其中，xij代表被赋予了相似度权值的第i类人脸图像样本中的第j个人脸图像样本，i＝1,2,...,C，j＝1,2,...,NsC，C代表样本类别数，NC代表每类图像样本中的样本数，代表被赋予了相似度权值的第i类人脸图像样本的样本中心；
所述步骤S2采用下式(5)构建类内对角矩阵Dwithin：
其中，(Dwithin)ii表示类内对角矩阵Dwithin中第i行第i列的元素，α是判断任一人脸图像样本是异常样本的判定阈值，B代表投影矩阵，(Xwithin TB)i为Xwithin TB的第i行，|| ||2表示求矩阵的L2范数；
所述步骤S2采用下式(6)构建类间数据矩阵Xbetween：
其中，是项/>的加权参数，r＝1,2,...,C-1,i≠r，E是经验参数，e是自然底数；
所述步骤S2采用下式(7)构建类间对角矩阵Dbetween：
其中，(Dbetween)ii表示类间对角矩阵Dbetween的第i行第i列元素；
所述步骤S2采用下式(8)构建投影对角矩阵DB：
其中，bi.代表投影矩阵B的第i行元素，DB(ii)表示投影对角矩阵DB的第i行第i列元素；
S3.构建提取图像特征的始目标函数：
其中，ε为正则化参数，cons表示常量，|| ||2,1表示求矩阵的L2,1范数，min表示最小化，s.t.表示使成立；
S4.用所述数据矩阵对所述始目标函数进行求解，得到终目标函数：
其中，t代表当前迭代次数，右上标的T表示矩阵转置，tr()表示求矩阵的迹。
2.如权利要求1所述的基于鲁棒鉴别特征学习的图像特征提取方法，其特征在于，所述步骤S1具体包括步骤：
S11.求解每类人脸图像样本的样本中心；
S12.求解每一人脸图像样本与其所在图像类别的样本中心之间的相似度权值；
S13.对每一人脸图像样本赋予其相似度权值。
3.如权利要求2所述的基于鲁棒鉴别特征学习的图像特征提取方法，其特征在于：
所述步骤S11根据下式(1)求解每类人脸图像样本的样本中心：
其中，x′ij代表人脸图像样本集中第i类人脸图像样本中的第j个人脸图像样本，是第i类人脸图像样本的样本中心，
所述步骤S12根据下式(2)求解每一人脸图像样本与其所在图像类别的样本中心之间的相似度权值：
所述步骤S13通过下式(3)对每一人脸图像样本赋予其相似度权值：
其中，xij代表被赋予了相似度权值的第i类人脸图像样本中的第j个人脸图像样本。
4.如权利要求1所述的基于鲁棒鉴别特征学习的图像特征提取方法，其特征在于，所述步骤S4的求解过程包括步骤：
S41.将所述始目标函数第一部分求解如式(10)所示：
其中，Swithin＝XwithinDwithinXwithin T；
S42.对正则化项求解如式(11)：
ε·||B||2,1＝ε·tr(BTDBB) (11)
S43.约束项转化为式(12)：
其中，Sbetween＝XbetweenDbetweenXbetween T；
S44.根据式(10)、(11)、(12)将式(9)转化为式(13)：
其中，I表示单位矩阵；
S45.将式(13)的问题转化为求迹优化问题，利用拉格朗日乘子法，得到式(14)：
S46.经过转化，得到广义特征值函数如下式(15)：
(Sbetween)-1(Swithin+ε.DB)B＝BΛ (15)
其中，对角矩阵Λ由(Sbetween)-1(Swithin+ε.DB)的特征向量的特征值组成，(Sbetween)-1(Swithin+ε.DB)的特征向量位于投影矩阵B的每一列中；
S47.通过矩阵(Sbetween)-1(Swithin+ε.DB)的特征分解来解决最小化问题，采用L2,1范数鉴别特征学习算法计算每次迭代的最佳的投影矩阵B，最佳的投影矩阵B由(Sbetween)-1(Swithin+ε.DB)的最小特征值所对应的特征向量组成；
S48.基于步骤S45、S46、S47构建终目标函数如式(24)所示。
5.如权利要求4所述的基于鲁棒鉴别特征学习的图像特征提取方法，其特征在于，所述步骤S47中，所述L2,1范数鉴别特征学习算法包括步骤：
1)输入训练数据集Xn×d，n代表训练数据集的总样本数，d代表训练数据集每个样本的原始特征维度；设置最大迭代次数ite，参数ε，参数α，投影矩阵B的维数k，k＜d；
2)分别用式(4)和(6)构建类内数据矩阵Xwithin和类间数据矩阵Xbetween；
3)初始化投影矩阵B∈Rn×k，Rn×k表示n×k维的实数矩阵；
4)开始迭代，在每一次迭代中，
求解特征值分解问题得到投影矩阵B，用式(5)更新类内对角矩阵Dwithin，
用式(7)更新类间对角矩阵Dbetween，
用式(8)更新投影对角矩阵DB，
然后进入下一次迭代，
直到函数收敛或达到最大迭代次数，退出迭代循环；
5)输出最优的投影矩阵B；
6)采用最优的投影矩阵B将训练样本投影到低维空间，其中第l个训练样本xl的投影结果为yl＝xlB,l＝1,2,3,...,n。
CN202010997164.1A 2020-09-21 2020-09-21 基于鲁棒鉴别特征学习的图像特征提取方法 Active CN112115881B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010997164.1A CN112115881B (zh) 2020-09-21 2020-09-21 基于鲁棒鉴别特征学习的图像特征提取方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010997164.1A CN112115881B (zh) 2020-09-21 2020-09-21 基于鲁棒鉴别特征学习的图像特征提取方法

Publications (2)

Publication Number Publication Date
CN112115881A CN112115881A (zh) 2020-12-22
CN112115881B true CN112115881B (zh) 2023-09-26

Family

ID=73799954

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010997164.1A Active CN112115881B (zh) 2020-09-21 2020-09-21 基于鲁棒鉴别特征学习的图像特征提取方法

Country Status (1)

Country Link
CN (1) CN112115881B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113326791B (zh) * 2021-06-10 2023-09-26 沈阳航空航天大学 基于鲁棒性自适应图结构学习算法的人脸识别方法
CN114120397A (zh) * 2021-11-05 2022-03-01 厦门大学 一种人脸图像重构方法、***及数据降维方法
CN114936597B (zh) * 2022-05-20 2023-04-07 电子科技大学 一种局部信息增强子空间真假目标特征提取方法
CN115131854B (zh) * 2022-06-13 2024-02-23 西北工业大学 一种基于模糊聚类的全局子空间人脸图像聚类方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104715266A (zh) * 2015-03-12 2015-06-17 西安电子科技大学 基于src-dp与lda相结合的图像特征提取方法
CN105469063A (zh) * 2015-12-04 2016-04-06 苏州大学 鲁棒的人脸图像主成分特征提取方法及识别装置
CN108121964A (zh) * 2017-12-21 2018-06-05 深圳大学 基于矩阵的联合稀疏局部保持投影人脸识别方法
CN110443169A (zh) * 2019-07-24 2019-11-12 广东工业大学 一种边缘保留判别分析的人脸识别方法
CN110956113A (zh) * 2019-11-25 2020-04-03 南京审计大学 基于二次协作表示鉴别投影的鲁棒人脸识别方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4292837B2 (ja) * 2002-07-16 2009-07-08 日本電気株式会社 パターン特徴抽出方法及びその装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104715266A (zh) * 2015-03-12 2015-06-17 西安电子科技大学 基于src-dp与lda相结合的图像特征提取方法
CN105469063A (zh) * 2015-12-04 2016-04-06 苏州大学 鲁棒的人脸图像主成分特征提取方法及识别装置
CN108121964A (zh) * 2017-12-21 2018-06-05 深圳大学 基于矩阵的联合稀疏局部保持投影人脸识别方法
CN110443169A (zh) * 2019-07-24 2019-11-12 广东工业大学 一种边缘保留判别分析的人脸识别方法
CN110956113A (zh) * 2019-11-25 2020-04-03 南京审计大学 基于二次协作表示鉴别投影的鲁棒人脸识别方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
傅俊鹏等.L_(2,1)范数正则化的不相关判别分析及其在人脸识别中的应用.计算机工程与科学.2017,(02),全文. *

Also Published As

Publication number Publication date
CN112115881A (zh) 2020-12-22

Similar Documents

Publication Publication Date Title
CN112115881B (zh) 基于鲁棒鉴别特征学习的图像特征提取方法
Ren et al. Learning latent low-rank and sparse embedding for robust image feature extraction
Zhang et al. Joint low-rank and sparse principal feature coding for enhanced robust representation and visual classification
Yuan et al. Projective nonnegative matrix factorization for image compression and feature extraction
Perez et al. Methodological improvement on local Gabor face recognition based on feature selection and enhanced Borda count
Zaied et al. A novel approach for face recognition based on fast learning algorithm and wavelet network theory
Gou et al. Weighted discriminative collaborative competitive representation for robust image classification
Vishwakarma et al. An efficient hybrid DWT-fuzzy filter in DCT domain based illumination normalization for face recognition
Zheng et al. A subspace learning approach to multishot person reidentification
Chen et al. Relaxed block-diagonal dictionary pair learning with locality constraint for image recognition
Gupta et al. Single attribute and multi attribute facial gender and age estimation
Abbad et al. Application of MEEMD in post‐processing of dimensionality reduction methods for face recognition
CN110956113B (zh) 基于二次协作表示鉴别投影的鲁棒人脸识别方法
Zhang et al. Kernel dictionary learning based discriminant analysis
Çevik et al. A novel high-performance holistic descriptor for face retrieval
Ni et al. Multi-task deep metric learning with boundary discriminative information for cross-age face verification
CN111325275A (zh) 基于低秩二维局部鉴别图嵌入的鲁棒图像分类方法及装置
Xu et al. Spectral-spatial subspace clustering for hyperspectral images via modulated low-rank representation
CN110287973B (zh) 一种基于低秩鲁棒线性鉴别分析的图像特征提取方法
Yao A compressed deep convolutional neural networks for face recognition
Tao et al. Image Recognition Based on Two‐Dimensional Principal Component Analysis Combining with Wavelet Theory and Frame Theory
He Research on face image digital processing and recognition based on data dimensionality reduction algorithm
Li et al. Multi-level Fisher vector aggregated completed local fractional order derivative feature vector for face recognition
Wu et al. A jointly local structured sparse deep learning network for face recognition
CN112241680A (zh) 基于静脉相似图像知识迁移网络的多模态身份认证方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant