CN113902950B - 一种基于几何保持双投影的图像多标签分类方法 - Google Patents

Abstract

本发明公开了一种基于几何保持双投影的图像多标签分类方法，本方法与传统的多标签分类算法直接从特征空间学习合适的特征维数不同，本发明所提出的方法是同时从输入特征空间和输出特征空间学习双标签和特征空间投影，从而实现标签和特征空间的降维，考虑到标签流形和特征流形中不仅有标签还有特征数据，同时通过构造标签图和特征图来学习标签流形和特征流形的几何结构。本方法通过从标签和特征空间进行几何保持的双重投影学习，最终以同样的方式在标签和特征空间中学习更好的低秩结构。

Description

一种基于几何保持双投影的图像多标签分类方法

技术领域

本发明属于计算机图像处理技术领域，尤其是一种基于几何保持双投影的图像多标签分类方法。

背景技术

目前，多标签分类有两种方法：算法适应方法和问题转换。算法适应方法调整了流行的学习算法，以执行多标签分类，如ML-KNN，ML-DT。问题转换方法采用多标签问题转换为已知学习方法，这些方法包括二进制相关性，分类链等算法。这些传统的方法在一些小数据集上效果显著。然而，随着现今数据集的扩大，传统的多标签分类方法无法应对高维、复杂的数据结构。

为了解决标签和特征空间中冗余和无关的数据，许多降维算法被提出如MLQPFS，MIFS等。这些算法选取了重要的数据或者将数据映射到低维的空间从而获取低秩的结构。然而，现有的算法只关注特征空间或者标签空间而忽略它们之间的联系。因此，现有的多标签分类方法的多标签分类的效果不好。

发明内容

为了解决现有技术中存在的不足，本申请提出了一种基于几何保持双投影的图像多标签分类方法。不仅可以从特征空间中学习特征投影，还可以从标签空间中学习标记投影。因此，本方法可以分别在标签输出空间和功能空间中学习双低级空间结构，从而提高分类的准确性。除此之外，通过构建标签图和特征图来探索标签流形和特征流形的几何结构，从而进一步学习低秩投影。

本发明所采用的技术方案如下：

一种基于几何保持双投影的图像多标签分类方法，

步骤1、准备待分类的图像样本及图像样本对应的标签，由图像样本构成特征空间表示为X＝[x₁，x₂，......，x_n]，由标签构成标签空间表示为Y∈{0，1}^q×n，其中，x_n为训练实例即图像样本，n是训练实例的数量，q是标签的维度；

步骤2，基于标签空间和特征空间进行几何保持双投影学习，包括如下步骤：

步骤2.1，分别在标签空间和特征空间上对应学习双投影矩阵V和P，将标签空间映射到嵌入空间从而实现降维；

步骤2.2，构造标签图和特征图来学习标签流形和特征流形的几何结构；

步骤2.3，基于标签流形、特征流形和双投影矩阵V和P，构建了一个几何保持双投影模型；该模型待优化的目标函数表示如下：

s.t.V^TYY^TV＝I，P＝Q

其中，P和V是双投影矩阵，Q是等价矩阵，是F范数运算；tr(*)是迹运算；α和β表示正则化参数来权衡第二项和第三项；I为单位矩阵；

步骤3，基于所构建的几何保持双投影模型，预测多标签分类结果。

进一步，求解几何保持双投影模型的目标函数中双投影矩阵P、V以及等价矩阵Q的方法为：

求解等价矩阵Q：

对目标函数使用增广拉格朗日函数法，优化问题转化为求解以下增广拉格朗日乘子问题：

其中，Y₁为拉格朗日乘子，μ为参数；

对上式中的Q进行求偏导得到：

求解投影矩阵P：

对转换为增广拉格朗日乘子问题的目标函数中的P进行求偏导得到：

P＝(2βXLX^T+μI)^-1(μQ+2XY^TVV^T-XX^TQVV^T-Y₁)；

求解投影矩阵V：

考虑到上述约束条件V^TYY^TV＝I，对目标函数使用拉格朗日乘数法，得到下式：

对上式中参数V求偏导得：(YY^T)^-1(P^TXX^TQ-2P^TXY^T+αYLY^T)V＝λV

解上式的特征方程，特征向量即所求投影矩阵V，λ为特征值；

求解参数Y₁，μ：

Y₁＝Y₁+μ(P-Q)

μ＝min(ρμ，max_μ)

通过不断更新参数直到目标函数收敛以求得最优投影矩阵P和V；其中，ρ为μ的系数，max_μ为最大参数。

进一步，步骤3的预测过程为：

S1、在VV^T上进行奇异值分解以获得奇异值，由奇异值构成矩阵S,该矩阵除了主对角线上的元素以外全为0，主对角线上的每个元素都称为奇异值，选取最大的奇异值来描述矩阵从而实现降维；

S2、将学习到的双投影矩阵P和V输入到解码矩阵V^TP^TX_train，其中，X_train＝[X₁，X₂，......，X_n2]∈R^p×n2为训练集，n2为训练集样本数；

S3、将特征空间X分为测试集X_test和训练集X_train；其中，测试集表示为X_test＝[x₁，x₂，......，x_n1]∈R^p×n1，将测试集中的测试实例x_i输入到解码矩阵V^TP^TX_test，n1为测试集样本数；

S4、基于奇异值学习x_i和训练集X_train之间的距离，得到该x_i基于训练集的K近邻训练样本，获取该训练样本的标签值；

S5、针对x_i所对应的K近邻序列输出该x_i的标签值得到预测值Y_test，完成多标签分类预测。

进一步，构造特征图的方法为：特征图节点对应于{x₁，x₂，...x_n}；对于每个训练实例x_i，如果存在K近邻的第j个训练实例x_j，则在节点之间构建一条边；为了使得连接点尽可能靠近，优化下述模型：

其中，W_ij是系数对称矩阵通过热内核法表示连接点的权重；矩阵D是图的度矩阵，L＝D-W是特征图的拉普拉斯图。

进一步，构造标签图，如果x_i和x_j越近，则V^Ty_i和V^Ty_i之间的距离也越近，具体表述如下：

其中，W_ij是系数对称矩阵通过热内核法表示连接点的权重。矩阵D是图的度矩阵，L＝D-W是标签图的拉普拉斯图。

本发明的有益效果：

本申请所提出的基于几何保持双投影的图像多标签分类方法针对高维、复杂数据集的分类效果显著，这是由于本方法同时学习特征空间和标签空间上的双投影，实现了标签和特征空间的降维。

附图说明

图1是基于几何保持双投影的图像多标签分类方法的流程图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用于解释本发明，并不用于限定本发明。

本申请所提出的一种基于几何保持双投影的图像多标签分类方法如图1所示，该方法主要包括两个部分，分别是：1、图像多标签分类的几何保持双投影学习。通过增广拉格朗同日函数法将学习到的模型进行优化得到双投影。2、图像多标签分类的结果预测。本申请的具体过程如下：

1.图像多标签分类的几何保持双投影学习

1)数据集准备

输入的特征空间由X＝[x₁，x₂，......，x_n]∈R^pxn表示，其中，p是特征空间的维度，x_n为训练实例，n是训练实例的数量。Y∈{0，1}^q×n是输出的标签空间，其中，q是标签的维度。

2)几何保持双投影学习

S2.1、分别在标签空间和特征空间上对应学习双投影矩阵V和P，将标签空间映射到嵌入空间C_d*n从而实现降维，d为嵌入空间的维度，n为训练实例的数量；将标签空间映射到嵌入空间C_d*n表示为：C＝V^TY，C为嵌入空间。

S2.2、此外，构造标签图和特征图来学习标签流形和特征流形的几何结构。构造标签图和特征图具体过程为：

S2.2.1、构造特征图，特征图节点对应于{x₁，x₂，...x_n}。对于每个训练实例x_i，如果存在K近邻的第j个训练实例x_j，则在节点之间构建一条边。为了使得连接点尽可能靠近，优化下述模型：

其中，W_ij是系数对称矩阵通过热内核法表示连接点的权重。矩阵D是图的度矩阵，L＝D-W是特征图的拉普拉斯图。

S2.2.2、构造标签图，如果x_i和x_j越近，则V^Ty_i和V^Ty_i之间的距离也越近，具体表述如下：

其中，W_ij是系数对称矩阵通过热内核法表示连接点的权重。矩阵D是图的度矩阵，L＝D-W是标签图的拉普拉斯图。

S2.2.3、学习标签流形和特征流形的几何结构的方法如下：由于标签和特征数据是流形的，即分布在高维空间的低维流形结构，而流形学习可以从高维采样数据中恢复低维流形结构。基于此，由上文引出的特征和标签空间双投影P，V构成低维嵌入P^TX和V^TY。通过优化公式(1)和(2)来学习低维嵌入即学习标签和特征流形的几何结构

S2.3、基于标签流形、特征流形和双投影矩阵V和P，构建了一个几何保持双投影模型；该模型待优化的目标函数表示如下：

s.t.V^TYY^TV＝I，P＝Q

其中，P和V是双投影矩阵，Q是等价矩阵，是F范数运算；tr(*)是迹运算；α和β表示正则化参数来权衡第二项和第三项；I为单位矩阵。

对于多标签分类需要求解式(3)中的P，Q和V参数；求解过程如下：

A.求解等价矩阵Q

对式(3)使用增广拉格朗日函数法，优化问题转化为求解以下增广拉格朗日乘子(ALM)问题：

其中，Y₁为拉格朗日乘子，μ为参数；

对上式中的Q进行求偏导得到：

B.求解投影矩阵P

对式(4)中的P进行求偏导得到：

P＝(2βXLX^T+μI)^-1(μQ+2XY^TVV^T-XX^TQVV^T-Y₁) (6)

C.求解投影矩阵V

考虑到上述约束条件V^TYY^TV＝I，对式(3)使用拉格朗日乘数法：

对式(7)中参数V求偏导得：

(YY^T)^-1(P^TXX^TQ-2P^TXY^T+αYLY^T)V＝λV (8)

解式(8)特征方程，特征向量即所求投影矩阵V，λ为特征值。

D.求解参数Y₁，μ

Y₁＝Y₁+μ(P-Q) (9)

μ＝min(ρμ，max_μ) (10)

通过不断更新参数直到目标函数收敛以求得最优投影矩阵P和V；其中，ρ为μ的系数，max_μ为最大参数。

2.图像多标签分类的结果预测

S1、在VV^T上进行奇异值分解(SVD)以获得奇异值，由奇异值构成矩阵S,该矩阵除了主对角线上的元素以外全为0，主对角线上的每个元素都称为奇异值，选取最大的奇异值来描述矩阵从而实现降维。

S2、将学习到的双投影矩阵P和V输入到解码矩阵V^TP^TX_train，其中，X_train＝[x₁，x₂，......，x_n2]∈R^p×n2为训练集，n2为训练集样本数。

S3、将特征空间X分为测试集X_test和训练集X_train；其中，测试集表示为X_test＝[x₁，x₂，......，x_n1]∈R^p×n1，将测试集中的测试实例x_i输入到解码矩阵V^TP^TX_test，n1为测试集样本数。

S4、基于奇异值学习x_i和训练集X_train之间的距离，得到该x_i基于训练集的K近邻训练样本，获取该训练样本的标签值。

S5、针对x_i所对应的K近邻序列输出该x_i的标签值得到预测值Y_test。

以上实施例仅用于说明本发明的设计思想和特点，其目的在于使本领域内的技术人员能够了解本发明的内容并据以实施，本发明的保护范围不限于上述实施例。所以，凡依据本发明所揭示的原理、设计思路所作的等同变化或修饰，均在本发明的保护范围之内。

Claims (5)

1.一种基于几何保持双投影的图像多标签分类方法，其特征在于，包括如下步骤：

步骤1、准备待分类的图像样本及图像样本对应的标签，由图像样本构成特征空间表示为X＝[x₁，x₂，......，x_n]，由标签构成标签空间表示为Y∈{0，1}^q×n，其中，x_n为训练实例即图像样本，n是训练实例的数量，q是标签的维度；

步骤2，基于标签空间和特征空间进行几何保持双投影学习，包括如下步骤：

步骤2.1，分别在标签空间和特征空间上对应学习双投影矩阵V和P，将标签空间映射到嵌入空间从而实现降维；

步骤2.2，构造标签图和特征图来学习标签流形和特征流形的几何结构；

步骤2.3，基于标签流形、特征流形和双投影矩阵V和P，构建了一个几何保持双投影模型；该模型待优化的目标函数表示如下：

s.t.V^TYY^TV＝I，P＝Q

其中，P和V是双投影矩阵，Q是等价矩阵，是F范数运算；tr(*)是迹运算；α和β表示正则化参数来权衡第二项和第三项；I为单位矩阵；

步骤3，基于所构建的几何保持双投影模型，预测多标签分类结果。

2.根据权利要求1所述的一种基于几何保持双投影的图像多标签分类方法，其特征在于，求解几何保持双投影模型的目标函数中双投影矩阵P、V以及等价矩阵Q的方法为：

求解等价矩阵Q：

对目标函数使用增广拉格朗日函数法，优化问题转化为求解以下增广拉格朗日乘子问题：

其中，Y₁为拉格朗日乘子，μ为参数；

对上式中的Q进行求偏导得到：

求解投影矩阵P：

对转换为增广拉格朗日乘子问题的目标函数中的P进行求偏导得到：

P＝(2βXLX^T+μI)^-1(μQ+2XY^TVV^T-XX^TQVV^T-Y₁)；

求解投影矩阵V：

考虑到上述约束条件V^TYY^TV＝I，对目标函数使用拉格朗日乘数法，得到下式：

对上式中参数V求偏导得：(YY^T)^-1(P^TXX^TQ-2P^TXY^T+αYLY^T)V＝λV

解上式的特征方程，特征向量即所求投影矩阵V，λ为特征值；

求解参数Y₁，μ：

Y₁＝Y₁+μ(P-Q)

μ＝min(ρμ，max_μ)

通过不断更新参数直到目标函数收敛以求得最优投影矩阵P和V；其中，ρ为μ的系数，max_μ为最大参数。

3.根据权利要求1所述的一种基于几何保持双投影的图像多标签分类方法，其特征在于，步骤3的预测过程为：

S1、在VV^T上进行奇异值分解以获得奇异值，由奇异值构成矩阵S，该矩阵除了主对角线上的元素以外全为0，主对角线上的每个元素都称为奇异值，选取最大的奇异值来描述矩阵从而实现降维；

S2、将学习到的双投影矩阵P和V输入到解码矩阵V^TP^TX_train，其中，X_train＝[x₁，x₂，......，x_n2]∈R^p×n1为训练集，n2为训练集样本数；

S3、将特征空间X分为测试集X_test和训练集X_train；其中，测试集表示为X_test＝[x₁，x₂，......，x_n1]∈R^p×n1，将测试集中的测试实例x_i输入到解码矩阵V^TP^TX_test，n1为测试集样本数；

S4、基于奇异值学习x_i和训练集X_train之间的距离，得到该x_i基于训练集的K近邻训练样本，获取该训练样本的标签值；

S5、针对x_i所对应的K近邻序列输出该x_i的标签值得到预测值Y_test，完成多标签分类预测。

4.根据权利要求1所述的一种基于几何保持双投影的图像多标签分类方法，其特征在于，构造特征图的方法为：特征图节点对应于{x₁，x₂，...x_n}；对于每个训练实例x_i，如果存在K近邻的第j个训练实例x_j，则在节点之间构建一条边；为了使得连接点尽可能靠近，优化下述模型：

其中，W_ij是系数对称矩阵通过热内核法表示连接点的权重；矩阵D是图的度矩阵，L＝D-W是特征图的拉普拉斯图。

5.根据权利要求4所述的一种基于几何保持双投影的图像多标签分类方法，其特征在于，构造标签图，如果x_i和x_j越近，则V^Ty_i和V^Ty_i之间的距离也越近，具体表述如下：

其中，W_ij是系数对称矩阵通过热内核法表示连接点的权重；矩阵D是图的度矩阵，L＝D-W是标签图的拉普拉斯图。