CN109389127A - 结构化多视图Hessian正则化稀疏特征选择方法 - Google Patents

结构化多视图Hessian正则化稀疏特征选择方法 Download PDF

Info

Publication number
CN109389127A
CN109389127A CN201710693735.0A CN201710693735A CN109389127A CN 109389127 A CN109389127 A CN 109389127A CN 201710693735 A CN201710693735 A CN 201710693735A CN 109389127 A CN109389127 A CN 109389127A
Authority
CN
China
Prior art keywords
view
feature
matrix
formula
hessian
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710693735.0A
Other languages
English (en)
Other versions
CN109389127B (zh
Inventor
史彩娟
段昌钰
赵丽莉
刘利平
葛超
刘健
闫晓东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
North China University of Science and Technology
Original Assignee
North China University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by North China University of Science and Technology filed Critical North China University of Science and Technology
Priority to CN201710693735.0A priority Critical patent/CN109389127B/zh
Publication of CN109389127A publication Critical patent/CN109389127A/zh
Application granted granted Critical
Publication of CN109389127B publication Critical patent/CN109389127B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/56—Extraction of image or video features relating to colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2136—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on sparsity criteria, e.g. with an overcomplete basis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/478—Contour-based spectral representations or scale-space representations, e.g. by Fourier analysis, wavelet analysis or curvature scale-space [CSS]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507—Summing image-intensity values; Histogram projection analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/513—Sparse representations

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Mathematical Physics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种结构化多视图Hessian正则化稀疏特征选择方法，包括以下步骤：采集n个原始图像的底层视觉特征，得到m个视图图像特征矩阵，设X的特征选择映射矩阵为变量G，构建结构化多视图Hessian正则化稀疏特征选择的目标函数，通过迭代算法计算X的特征选择映射矩阵G，根据所得特征选择映射矩阵Gt，将进行降序排列，选取前ds个对应于X的特征作为特征选择后的特征子集。本发明在对多视图数据进行半监督特征选择时，不仅考虑每一个视图的重要性，还同时考虑了同一视图下不同特征的重要性，另外，利用多视图Hessian正则化进一步提升了半监督稀疏特征选择的性能，因此，本发明具有更好的特征选择性能。

Description

结构化多视图Hessian正则化稀疏特征选择方法
技术领域
本发明属于半监督稀疏特征选择技术领域，具体来说涉及一种结构化多视图Hessian正则化稀疏特征选择方法。
背景技术
为了更好的理解、搜索和分类图像数据，许多视觉特征被提出，例如形状特征、颜色特征、纹理特征等。每一种类型的特征都是从某一特定空间对图像数据进行描述，并具有特定的物理意义和统计特性。传统上来说，每一类型的特征可以被看作是一个视图，因此由不同类型的特征表示的数据被称为多视图数据。如何获得多视图数据的有效信息成为了当前特征选择分析领域的一个研究热点。
一种最直接的方法就是将多视图数据直接串接成一个长的特征向量，该方法简单，但是这种直接串接的方式大大破坏了不同视图特征间的潜在关联，同时也缺乏物理解释。
为了克服直接串接多视图数据的不足，近年，多视图学习被广泛研究，并被应用到了特征选择分析之中。这些方法能够有效的利用不同视图特征之间的互补性和关联性，同时认为同一视图下所有特征具有相同的重要性，同一视图下的所有特征被赋予相同的权重。然而事实上，同一视图下的不同特征具有不同的重要性。
因此，在特征选择的时候不仅需要考虑每一个视图的重要性，同时需要考虑同一视图下不同特征的重要性，这将可以进一步提升特征选择性能。最近，有一些工作对此进行了尝试，王等人提出了组l1-范数(G1范数)，基于此提出了一个基于联合结构化稀疏正则化的监督稀疏多模态学习方法进行异质特征整合，还提出了一个整合所有特征的非监督多视图学习模型。
由于Hessian正则化比图拉普拉斯正则化具有更好的推断能力，因此，Hessian正则化具有更好的半监督学习能力。近年，基于Hessian正则化的半监督特征选择方法被提出，然而，面对多视图数据时，这些半监督特征选择方法在构建Hessian正则化的过程中没有很好的考虑多视图数据特点，忽略了不同视图特征之间的关联及互补特性。
发明内容
针对现有技术的不足，本发明的目的是提供一种结构化多视图Hessian正则化稀疏特征选择方法。
为此，本发明的技术方案如下：
一种结构化多视图Hessian正则化稀疏特征选择方法，包括以下步骤：
1)采集n个原始图像的底层视觉特征，得到m个视图图像特征矩阵，其中，
所述m个视图图像特征矩阵为：
在所述公式(1)中，所述dv为第v个视图图像特征维度；所述Xv为第v个视图图像特征矩阵，且
在所述公式(2)中，x1 v,x2 v…,xl v为所述n个原始图像中第v个视图下l个有标签图像的特征向量，xl+1 v,…,xn v为所述n个原始图像中第v个视图下n-l个无标签图像的特征向量；
在所述步骤1)中，所述底层视觉特征包括：颜色相关图、小波纹理和边缘方向直方图。
2)设步骤1)所述X的特征选择映射矩阵为变量G，且：
在所述公式(3)中，所述c为所述n个原始图像的标签的类别数；
构建结构化多视图Hessian正则化稀疏特征选择的目标函数：
在所述公式(4)中：
为结构化多视图稀疏限定，其中，λ和γ均为正则化系数，所述λ和γ的取值范围均为[10-5，105]；为所述G的G1范数，为所述G的l2,1/2矩阵范数，gi'＝[g1 i' … gc i']∈R1×c,1≤i'≤d，
H为多视图Hessian，
在公式(4)和(5)中，Hv为第v个视图Hessian；变量F为所述n个原始图像的预测标签矩阵，为多视图Hessian正则化；ηv为多视图Hessian正则化中第v个视图Hessian的权重；所述ε为ηv的指数，ε＞1；
为损失函数；
μ为正则化系数，所述μ的取值范围为[10-5，105]；
Y＝[y1,y2…,yl,yl+1,…,yn]T∈{0,1}n×c为所述n个原始图像的标签矩阵；
对角矩阵U∈Rn×n为根据所述X确定的决策规则矩阵，U＝(Ui”i”)n×n，1≤i”≤n，当1≤i”≤l时，对角元素为Ui”i”＝∞，当l＜i”≤n时，对角元素为Ui”i”＝1；
在所述步骤2)中，Fv为第v个视图的预测标签矩阵，Fv∈Rn×c。
3)通过迭代算法计算所述X的特征选择映射矩阵G，设Gs为在该次迭代时G的取值，ηvs为在该次迭代时ηv的取值，s＝1，2,……,t-1；设G1为随机矩阵且ηv1＝1/m，将G1和ηv1作为初始值代入所述迭代算法中进行迭代计算，直至第t-1次迭代后，该第t-1次迭代所对应的目标函数的值与第t-2次迭代所对应的目标函数的值的差小于10-3时，迭代完成；此时，根据(gi)t确定特征选择映射矩阵Gt即为所述X的特征选择映射矩阵G；其中，
每次迭代算法的计算过程为：
将ηvs代入至所述公式(5)，得到在该次迭代时H的取值Hs，
将Gs和Hs代入相应的公式(6)和(7)计算得到Ps和Qs；
Ps＝(Hs+U+μI)-1 (6)
Qs＝UY+μXTGs (7)
根据公式(8)、(9)和(10)计算得到Fs、As和Bs，Fs为在该次迭代时F的取值；
Fs＝PsQs (8)
As＝X(μI-μ2Ps T)XT (9)
Bs＝μXPsUY (10)
其中，在公式(6)中所述I为单位矩阵；
根据公式(11)和(12)计算得到对角元素为(wi'i')s的对角矩阵Ws和具有j个对角块的块对角矩阵(Di)s(1≤i≤c)；
其中，
在所述公式(12)中，Ij是维度为j*j的单位矩阵；
将As、Bs、Ws和(Di)s代入所述公式(13)，得到(gi)s+1；
(gi)s+1＝(As+4λWs+γ(Di)s)-1Bs,1≤i≤c (13)
计算
4)根据步骤3)所得特征选择映射矩阵Gt，将1≤i'≤d进行降序排列，选取前ds个对应于所述X的特征作为特征选择后的特征子集，其中，为步骤3)所得Gt所对应的gi′。
相比于现有技术，本发明提出了一种结构化多视图Hessian正则化稀疏特征选择方法(Structured Multi-view Hessian sparse Feature Selection,SMHFS)，面对多视图数据时，该方法基于结构化多视图稀疏正则化使半监督特征选择的过程中不仅考虑每一个视图的重要性，同时考虑同一视图下不同特征的重要性。另外，SMHFS利用多视图Hessian正则化进一步提升了半监督稀疏特征选择的性能。实验评估结果表明SMHFS优于现有的特征选择算法，具有更好的特征选择性能。
附图说明
图1(a)为NUS-WIDE数据库上平均准确率均值(Mean Average Precision,MAP)性能随着有标签数据百分比的变化而变化的曲线；图1(b)为MSRA-MM数据库上MAP性能随着有标签数据百分比的变化而变化的曲线；
图2(a)为NUS-WIDE数据库上所提方法SMHFS与方法MLSFS性能随着选择特征数目ds的变化而变化的曲线；图2(b)为MSRA-MM数据库上所提方法SMHFS与方法MLSFS性能随着选择特征数目ds的变化而变化的曲线；
图3(a)为NUS-WIDE数据库上所提方法SMHFS与方法SMML和SFUS性能随着选择特征数目ds的变化而变化的曲线；图3(b)为MSRA-MM数据库上所提方法SMHFS与方法SMML和SFUS性能随着选择特征数目ds的变化而变化的曲线。
具体实施方式
下面结合附图对本发明的结构化多视图Hessian正则化稀疏特征选择方法进行详细说明，包括以下步骤：
1)采集n个原始图像的底层视觉特征，得到m个视图图像特征矩阵，其中，
所述m个视图图像特征矩阵为：
在所述公式(1)中，所述dv为第v个视图图像特征维度；所述Xv为第v个视图图像特征矩阵，且
在所述公式(2)中，x1 v,x2 v…,xl v为所述n个原始图像中第v个视图下l个有标签图像的特征向量，xl+1 v,…,xn v为所述n个原始图像中第v个视图下n-l个无标签图像的特征向量；
在所述步骤1)中，所述底层视觉特征包括：颜色相关图、小波纹理和边缘方向直方图，对每一个图像样本提取这三种底层视觉特征，即144维的颜色相关图、128维的小波纹理和73维(NUS-WIDE数据库)或者75维(MSRA-MM数据库)的边缘方向直方图，因此，在两个图像数据库上获得的多视图图像特征集的维度d分别为345维或347维。
2)设步骤1)所述X的特征选择映射矩阵为变量G，且：
在所述公式(3)中，所述c为所述n个原始图像的标签的类别数；
构建结构化多视图Hessian正则化稀疏特征选择的目标函数：
在所述公式(4)中：
为结构化多视图稀疏限定(位于‖G‖2,1/2右上角的1/2为指数)，该结构化多视图稀疏限定能够保证在特征选择的过程中不仅考虑每一个视图的重要性，同时考虑每一视图中不同特征的重要性，从而达到很好的特征选择性能。
其中，λ和γ均为正则化系数，所述λ和γ的取值范围均为[10-5，105]；为所述G的G1范数，为所述G的l2,1/2矩阵范数，gi'＝[g1 i' … gc i']∈R1×c,1≤i'≤d，选用l2,1/2矩阵范数，能够保证选取的特征最具判别性；
H为多视图Hessian，
在相应的公式(4)和(5)中，Hv为第v个视图Hessian；变量F为所述n个原始图像的预测标签矩阵，为多视图Hessian正则化，考虑了不同视图特征之间的关联及互补特性，同时具有更好的半监督学习能力。ηv为多视图Hessian正则化中第v个视图Hessian的权重；所述ε为ηv的指数，ε＞1；引入参数ε，保证每一个视图对最终的特征选择都有特定的贡献。多视图Hessian正则化可以充分利用不同视图之间的互补信息提升特征选择性能，同时Hessian正则化比图拉普拉斯正则化具有更好的推断能力，从而具有更好的半监督学习能力。
为损失函数；
μ为正则化系数，所述μ的取值范围为[10-5，105]；
Y＝[y1,y2…,yl,yl+1,…,yn]T∈{0,1}n×c为所述n个原始图像的标签矩阵；
对角矩阵U∈Rn×n为根据所述X确定的决策规则矩阵，U＝(Ui”i”)n×n，1≤i”≤n，当1≤i”≤l时，对角元素为Ui”i”＝∞，当l＜i”≤n时，对角元素为Ui”i”＝1；保证预测的标签矩阵F与已有标签矩阵Y保持一致。(确定的决策规则矩阵的方法见：“Z.G.Ma,F.P.Nie,Y.Yang,J.Uijlings,N.Sebe,and A.Hauptmann,“Discriminating joint feature analysis formultimedia data understanding,”IEEE Trans.Multimedia,vol.14,no.6,pp.1662–1672,Dec.2012.”)
在所述步骤2)中，Fv为第v个视图的预测标签矩阵，Fv∈Rn×c。
3)通过迭代算法计算所述X的特征选择映射矩阵G，设Gs为在该次迭代时G的取值，ηvs为在该次迭代时ηv的取值，s为迭代次数，s＝1，2,……,t-1；设G1为随机矩阵且ηv1＝1/m，将G1和ηv1作为初始值代入所述迭代算法中进行迭代计算，直至第t-1次迭代后，该第t-1次迭代所对应的目标函数的值与第t-2次迭代所对应的目标函数的值的差小于10-3时，迭代完成；此时，根据(gi)t确定特征选择映射矩阵Gt即为所述X的特征选择映射矩阵G；其中，
每次迭代算法的计算过程为：
将ηvs代入至所述公式(5)，得到在该次迭代时H的取值Hs，
将Gs和Hs代入相应的公式(6)和(7)计算得到Ps和Qs(Ps和Qs分别为在该次迭代时P和Q的取值)；
Ps＝(Hs+U+μI)-1 (6)
Qs＝UY+μXTGs (7)
根据公式(8)、(9)和(10)计算得到Fs、As和Bs，Fs为在该次迭代时F的取值；
Fs＝PsQs (8)
As＝X(μI-μ2Ps T)XT (9)
Bs＝μXPsUY (10)
其中，As和Bs分别为在该次迭代时A和B的取值,在所述公式(6)中I为单位矩阵；
根据公式(11)和(12)计算得到对角元素为(wi'i')s的对角矩阵Ws和具有j个对角块的块对角矩阵(Di)s(1≤i≤c)；
其中，
在所述公式(12)中，Ij是维度为j*j的单位矩阵；
将As、Bs、Ws和(Di)s代入所述公式(13)，得到(gi)s+1；
(gi)s+1＝(As+4λWs+γ(Di)s)-1Bs,1≤i≤c (13)
计算
4)根据步骤3)所得特征选择映射矩阵Gt，将1≤i'≤d进行降序排列，选取前ds个对应于所述X的特征作为特征选择后的特征子集，其中，为步骤3)所得Gt所对应的gi′，ds为特征选择数目。(引文“Z.G.Ma,F.P.Nie,Y.Yang,J.Uijlings,N.Sebe,andA.Hauptmann,“Discriminating joint feature analysis for multimedia dataunderstanding,”IEEE Trans.Multimedia,vol.14,no.6,pp.1662–1672,Dec.2012.”)
为了验证本发明所提SMHFS算法面对多视图数据进行半监督稀疏特征选择的性能，将它与其他4种半监督稀疏特征选择算法SMBLR(Sparse Multinomial LogisticRegression via Bayesian L1Regularization，贝叶斯l1正则化稀疏多项式逻辑回归算法)、FSNM(Feature Selection via Joint l2,1-Norms Minimization，联合l2,1范数最小化特征选择算法)、FSLG(Feature Selection based on Graph Laplacian，基于图拉普拉斯半监督稀疏特征选择算法)、MLSFS(Multi-view Laplacian Sparse Feature Selection，多视图拉普拉斯半监督特征选择算法)和2种监督特征选择算法SFUS(Sub-FeatureUncovering with Sparsity,基于稀疏性的子特征发现)和SMML(Sparse Multi-ModalLearning，稀疏多模态学习)进行了实验比较。其中半监督特征选择算法SMBLR、FSNM、FSLG和监督特征选择算法SFUS在对多视图数据进行特征选择时均是将多视图数据直接串接为一个长的特征向量；半监督特征选择方法MLSFS在对多视图数据进行特征选择时考虑了不同视图间的互补特性，将每一个视图作为一个整体考虑；监督特征选择方法SMML对多视图数据进行特征选择时同时考虑了不同视图的重要性，以及同一视图下不同特征的重要性。
实验在两个图像数据库NUS-WIDE和MSRA-MM上进行，采用三种底层多视图特征，即颜色相关图、小波纹理和边缘方向直方图。对于半监督特征选择方法来说，有标签数据所占百分比分别为5％,10％,20％,50％。为了更好的评估特征选择算法的性能，采用了5种评估准则：平均准确度均值MAP、召回率Recall、精确率Precision、MicroAUC和MacroAUC。为了验证特征选择数目对性能的影响，特征选择数目ds分别设定为100，150，200，250，300和全部。实验中将正则化参数μ、λ和γ分别设定为：在NUS-WIDE数据库上μ＝10，λ＝100000，γ＝1；在MSRA-MM数据库上μ＝1000，λ＝100000，γ＝1。根据经验，将参数ε设定为1010。每个实验均做10次，取平均结果作为实验的最终结果。
实验中将所提算法SMHFS与其他4种半监督稀疏特征算法进行了比较，比较结果如图1、表1和表2所示。从比较结果可以得出：无论有标签数据的百分比如何变化，所提算法SMHFS具有最好的性能。
表1性能比较(NUS–WIDE数据库)
表2性能比较(MSRA-MM数据库)
另外，实验中SMHFS与另外2种监督特征选择算法进行了比较，此时设定SMHFS中有标签数据所占百分比为100％，结果如表3所示。实验结果表明，所提算法SMHFS具有最好的特征选择性能。
表3性能比较
综上可知，面对多视图数据时，所提算法SMHFS具有更好的特征选择性能，主要归因于以下三点：首先，SMHFS通过构建结构化多视图稀疏正则化，对多视图数据进行特征选择时能够同时考虑不同视图的重要性和同一视图下不同特征的重要性；其次，通过构建多视图Hessian正则化考虑了不同视图间的互补性，进一步提升了半监督特征选择的性能；最后，由于SMHFS算法是基于l2,1/2矩阵范数的，能够保证选取的特征最具判别性。
为了验证选择特征数目ds对性能的影响，将ds分别设定为100，150，200，250，300和全部进行实验。另外还分别将SMHFS算法与半监督特征选择方法MLSFS进行了比较，将SMHFS算法与监督特征选择方法SFUS和SMML进行了比较。实验结果如图2和图3所示，由图可以得到如下结论：
1)当选择的特征数目ds为250时，SMHFS具有最好的性能；
2)SMHFS算法与其他算法相比，SMHFS的性能优于其他算法。
实验结果再次说明所提基于结构化多视图稀疏正则化和多视图Hessian正则化的SMHFS算法在面对多视图数据时能够更好的进行特征选择，获得很好的特征选择性能。
本发明构建了结构化多视图稀疏正则化，保证特征选择过程中能够同时考虑每一个视图的重要性以及同一视图下不同特征的重要性，从而获得更好的特征选择性能。同时，本方法构建了多视图Hessian正则化，能够很好的利用不同视图特征间的互补性，另外，相比于图拉普拉斯正则化具有更好的半监督学习性能。因此，面对多视图数据时，SMHFS能够更好的实现半监督稀疏特征选择。实验结果表明，SMHFS方法优于传统的单一视图特征选择方法，优于多视图直接串接的特征选择方法和相关的最新特征选择方法。
以上对本发明做了示例性的描述，应该说明的是，在不脱离本发明的核心的情况下，任何简单的变形、修改或者其他本领域技术人员能够不花费创造性劳动的等同替换均落入本发明的保护范围。

Claims (5)

1.一种结构化多视图Hessian正则化稀疏特征选择方法，其特征在于，包括以下步骤：
1)采集n个原始图像的底层视觉特征，得到m个视图图像特征矩阵，其中，
所述m个视图图像特征矩阵为：
在所述公式(1)中，所述dv为第v个视图图像特征维度；所述Xv为第v个视图图像特征矩阵，且
在所述公式(2)中，x1 v,x2 v…,xl v为所述n个原始图像中第v个视图下l个有标签图像的特征向量，xl+1 v,…,xn v为所述n个原始图像中第v个视图下n-l个无标签图像的特征向量；
2)设步骤1)所述X的特征选择映射矩阵为变量G，且：
在所述公式(3)中，所述c为所述n个原始图像的标签的类别数；
构建结构化多视图Hessian正则化稀疏特征选择的目标函数：
在所述公式(4)中：
为结构化多视图稀疏限定，其中，λ和γ均为正则化系数；为所述G的G1范数，为所述G的l2,1/2矩阵范数，gi'＝[g1 i' … gc i']∈R1×c,1≤i'≤d，
H为多视图Hessian，
在公式(4)和(5)中，Hv为第v个视图Hessian；变量F为所述n个原始图像的预测标签矩阵，为多视图Hessian正则化；ηv为多视图Hessian正则化中第v个视图Hessian的权重；所述ε为ηv的指数，ε＞1；
为损失函数；
μ为正则化系数；
Y＝[y1,y2…,yl,yl+1,…,yn]T∈{0,1}n×c为所述n个原始图像的标签矩阵；
对角矩阵U∈Rn×n为根据所述X确定的决策规则矩阵，U＝(Ui”i”)n×n，1≤i”≤n，当1≤i”≤l时，对角元素为Ui”i”＝∞，当l＜i”≤n时，对角元素为Ui”i”＝1；
3)通过迭代算法计算所述X的特征选择映射矩阵G，设Gs为在该次迭代时G的取值，ηvs为在该次迭代时ηv的取值，s＝1，2,……,t-1；设G1为随机矩阵且ηv1＝1/m，将G1和ηv1作为初始值代入所述迭代算法中进行迭代计算，直至第t-1次迭代后，该第t-1次迭代所对应的目标函数的值与第t-2次迭代所对应的目标函数的值的差小于10-3时，迭代完成；此时，根据(gi)t确定特征选择映射矩阵Gt即为所述X的特征选择映射矩阵G；其中，
每次迭代算法的计算过程为：
将ηvs代入至所述公式(5)，得到在该次迭代时H的取值Hs，
将Gs和Hs代入相应的公式(6)和(7)计算得到Ps和Qs；
Ps＝(Hs+U+μI)-1 (6)
Qs＝UY+μXTGs (7)
根据公式(8)、(9)和(10)计算得到Fs、As和Bs，Fs为在该次迭代时F的取值；
Fs＝PsQs (8)
As＝X(μI-μ2Ps T)XT (9)
Bs＝μXPsUY (10)
其中，在公式(6)中所述I为单位矩阵；
根据公式(11)和(12)计算得到对角元素为(wi'i')s的对角矩阵Ws和具有j个对角块的块对角矩阵(Di)s(1≤i≤c)；
其中，
在所述公式(12)中，Ij是维度为j*j的单位矩阵；
将As、Bs、Ws和(Di)s代入所述公式(13)，得到(gi)s+1；
(gi)s+1＝(As+4λWs+γ(Di)s)-1Bs,1≤i≤c (13)
计算
4)根据步骤3)所得特征选择映射矩阵Gt，将进行降序排列，选取前ds个对应于所述X的特征作为特征选择后的特征子集，其中，为步骤
3)所得Gt所对应的gi′。
2.根据权利要求1所述的结构化多视图Hessian正则化稀疏特征选择方法，其特征在于，在所述步骤1)中，所述底层视觉特征包括：颜色相关图、小波纹理和边缘方向直方图。
3.根据权利要求1所述的结构化多视图Hessian正则化稀疏特征选择方法，其特征在于，所述λ和γ的取值范围均为[10-5，105]。
4.根据权利要求1所述的结构化多视图Hessian正则化稀疏特征选择方法，其特征在于，所述μ的取值范围为[10-5，105]。
5.根据权利要求1所述的结构化多视图Hessian正则化稀疏特征选择方法，其特征在于，在所述步骤2)中，Fv为第v个视图的预测标签矩阵，Fv∈Rn×c。
CN201710693735.0A 2017-08-14 2017-08-14 结构化多视图Hessian正则化稀疏特征选择方法 Active CN109389127B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710693735.0A CN109389127B (zh) 2017-08-14 2017-08-14 结构化多视图Hessian正则化稀疏特征选择方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710693735.0A CN109389127B (zh) 2017-08-14 2017-08-14 结构化多视图Hessian正则化稀疏特征选择方法

Publications (2)

Publication Number Publication Date
CN109389127A true CN109389127A (zh) 2019-02-26
CN109389127B CN109389127B (zh) 2021-05-07

Family

ID=65416463

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710693735.0A Active CN109389127B (zh) 2017-08-14 2017-08-14 结构化多视图Hessian正则化稀疏特征选择方法

Country Status (1)

Country Link
CN (1) CN109389127B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110188825A (zh) * 2019-05-31 2019-08-30 山东师范大学 基于离散多视图聚类的图像聚类方法、***、设备及介质
CN111783816A (zh) * 2020-02-27 2020-10-16 北京沃东天骏信息技术有限公司 特征选择方法和装置、多媒体和网络数据降维方法和设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103699874A (zh) * 2013-10-28 2014-04-02 中国计量学院 基于surf流和lle稀疏表示的人群异常行为识别方法
CN104374395A (zh) * 2014-03-31 2015-02-25 南京邮电大学 基于图的视觉slam方法
CN105740917A (zh) * 2016-03-21 2016-07-06 哈尔滨工业大学 带有标签学习的高分遥感图像的半监督多视图特征选择方法
US20170046614A1 (en) * 2015-08-11 2017-02-16 Oracle International Corporation Accelerated tr-l-bfgs algorithm for neural network

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103699874A (zh) * 2013-10-28 2014-04-02 中国计量学院 基于surf流和lle稀疏表示的人群异常行为识别方法
CN104374395A (zh) * 2014-03-31 2015-02-25 南京邮电大学 基于图的视觉slam方法
US20170046614A1 (en) * 2015-08-11 2017-02-16 Oracle International Corporation Accelerated tr-l-bfgs algorithm for neural network
CN105740917A (zh) * 2016-03-21 2016-07-06 哈尔滨工业大学 带有标签学习的高分遥感图像的半监督多视图特征选择方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110188825A (zh) * 2019-05-31 2019-08-30 山东师范大学 基于离散多视图聚类的图像聚类方法、***、设备及介质
CN110188825B (zh) * 2019-05-31 2020-01-31 山东师范大学 基于离散多视图聚类的图像聚类方法、***、设备及介质
CN111783816A (zh) * 2020-02-27 2020-10-16 北京沃东天骏信息技术有限公司 特征选择方法和装置、多媒体和网络数据降维方法和设备

Also Published As

Publication number Publication date
CN109389127B (zh) 2021-05-07

Similar Documents

Publication Publication Date Title
CN109241317B (zh) 基于深度学习网络中度量损失的行人哈希检索方法
Engelmann et al. Know what your neighbors do: 3D semantic segmentation of point clouds
Lisanti et al. Group re-identification via unsupervised transfer of sparse features encoding
Forero et al. Robust clustering using outlier-sparsity regularization
Hu et al. Efficient 3-d scene analysis from streaming data
CN110738647B (zh) 融合多感受野特征映射与高斯概率模型的老鼠检测方法
Rodola et al. Robust region detection via consensus segmentation of deformable shapes
CN114730490A (zh) 用于虚拟现实和增强现实的***和方法
Hu et al. Delving into deep representations for remote sensing image retrieval
CN110427835B (zh) 图卷积网络与迁移学习的电磁信号识别方法和装置
CN110598061A (zh) 一种多元图融合的异构信息网嵌入方法
CN111125397B (zh) 一种基于卷积神经网络的布料图像检索方法
CN103020321B (zh) 近邻搜索方法与***
Jouili et al. Median graph shift: A new clustering algorithm for graph domain
Chebbout et al. Comparative study of clustering based colour image segmentation techniques
Srivastava et al. Deeppoint3d: Learning discriminative local descriptors using deep metric learning on 3d point clouds
CN109389127A (zh) 结构化多视图Hessian正则化稀疏特征选择方法
CN112651317A (zh) 一种样本关系学习的高光谱图像分类方法及***
CN110188864B (zh) 基于分布表示和分布度量的小样本学习方法
Lu et al. Spectral segmentation via midlevel cues integrating geodesic and intensity
Prince et al. Bayesian identity clustering
CN112329818A (zh) 基于图卷积网络嵌入表征的高光谱图像非监督分类方法
CN109241628B (zh) 基于图谱理论和聚类的三维cad模型分割方法
CN109948421B (zh) 基于pca和属性配置文件的高光谱图像分类方法
CN112837299A (zh) 一种纺织品图像指纹检索方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant