CN113920210A - 基于自适应图学习主成分分析方法的图像低秩重构方法 - Google Patents

Abstract

本发明提供了一种基于自适应图学习主成分分析方法的图像低秩重构方法。首先，对输入图像数据进行归一化预处理；然后，基于图像样本点之间的关系计算邻接矩阵；接着，搭建图像低秩重构网络模型，主要由图编码器、全连接解码器和图解码器组成，图自编码器将数据编码得到深度表征，再将数据的深度表征同时通过两个解码器分别得到低秩重构特征与重构图，在损失函数中采用了Adaptive Loss与Schatten p范数，同时优化重构图与原始图之间的损失，使其保持数据的局部结构信息；最后，通过邻接矩阵和网络模型的自适应迭代更新，得到重构的图像。本发明具有良好的非线性表征能力、鲁棒性强，即使在数据受到噪声干扰的情况下也能进行图像的低秩重构。

Description

基于自适应图学习主成分分析方法的图像低秩重构方法

技术领域

本发明属图像处理技术领域，具体涉及一种基于自适应图学习主成分分析方法的图像低秩重构方法。

背景技术

在图像低秩重构领域中，主成分分析是一种最广泛使用的无监督降维方法之一。主成分分析算法通过对原始数据的特征进行学习，目的是寻找数据的最佳线性投影方向，从而使得数据在低维空间保持尽可能多的原始数据信息。由于传统的主成分分析方法缺乏鲁棒性，数据中含有的噪声常常使得算法偏离原始解。为了提高主成分分析方法的抗噪声能力，Ding等人在文献"C.Ding,D.Zhou,X.He,and H.Zha.R1-PCA:rotational invariantL1-norm principal component analysis for robust subspace factorization.inProc.IEEE Conf.Proceedings of the 23rd international conference on Machinelearning,2006,pp.281-288."中使用了l_2，1范数来提高主成分分析算法的鲁棒性，而Nie等人在文献"F.Nie,J.Yuan,and H.Huang.Optimal mean robust principal componentanalysis.in International conference on machine learning,2014,pp.1062-1070."中进一步考虑了特征的最佳均值从而提高了算法鲁棒性。主成分分析算法的另一个缺点是缺乏对数据复杂特征的挖掘能力。主成分分析算法是一种线性方法，通过一个正交矩阵来将原始数据映射到低维空间。为了提高主成分分析算法处理非线性数据的能力，核主成分分析在主成分分析的基础上引入了核函数，将原始数据通过核函数映射到高维特征空间，然后通过主成分分析得到数据的低维形式。基于以上的论述，如何提高基于主成分分析的鲁棒性表征学习方法在复杂数据下的性能是一个非常具有价值的问题。

发明内容

为了克服现有技术的不足，本发明提供一种基于自适应图学习主成分分析方法的图像低秩重构方法。首先，对输入图像数据进行归一化预处理；然后，基于图像样本点之间的关系计算邻接矩阵；接着，搭建图像低秩重构网络模型，主要由图编码器、全连接解码器和图解码器组成，图自编码器将数据编码得到深度表征，再将数据的深度表征同时通过两个解码器分别得到低秩重构特征与重构图，在损失函数中采用了Adaptive Loss与Schatten p范数，同时优化重构图与原始图之间的损失，使其保持数据的局部结构信息；最后，通过邻接矩阵和网络模型的自适应迭代更新，得到重构的图像。本发明具有良好的非线性表征能力、鲁棒性强，即使在数据受到噪声干扰的情况下也能进行图像的低秩重构。

一种基于自适应图学习主成分分析方法的图像低秩重构方法，其特征在于步骤如下：

步骤1：输入原始图像数据集X_raw，对所有像素进行归一化预处理，得到预处理后的图像数据集X′，表示为矩阵形式

其中，n为图像样本点总数，m为每幅图像的特征个数，矩阵的每一个行向量对应一个图像样本点；

步骤2：基于图像数据集X′中的样本，计算邻接矩阵A，其中每一个元素值按下式计算得到：

其中，a_ij表示邻接矩阵A的第i行第j列元素，i,j＝1,2,…,n；k表示稀疏度，在{5,10,15,25}中选取；d_i,j表示第i个图像样本点和第j个图像样本点之间的欧式距离，d_i,k+1表示第i个图像样本点和第k+1个图像样本点之间的欧式距离，(·)₊＝max(·，0)；d′_i，l表示对于第i个图像样本点，将其他样本点与其之间的欧式距离按照由小到大排序后的第l个欧式距离值，l＝1,2,…,k；

步骤3：将图像数据集X′和邻接矩阵A输入到图像低秩重构网络模型进行训练，得到训练好的网络；

所述的图像低秩重构网络模型由图编码器、全连接解码器和图解码器组成，两个解码器之间为并行结构，图像数据在通过图编码器后同时送入两个解码器；其中，所述的图编码器由L层图卷积层组成，输入图像数据集X′和邻接矩阵A，每一层的输出如下：

其中，H^(l)表示第l层的输出，l＝1,2,…,L，L设为2；H⁽⁰⁾＝X′，φ^(l)表示第l层的激活函数，设置为ReLU函数，W^(l)表示第l层的权重参数，通过训练进行迭代更新；

为邻接矩阵A拉普拉斯标准化后得到的矩阵；

所述的全连接解码器由K层全连接层组成，图编码器的输出输入到全连接编码器，得到重构特征

其每一层的输出如下：

其中，

表示第l层的输出，l＝1,2,…,K，K设为2；

表示第l层的激活函数，设置为ReLU函数，

表示第l层的权重参数，通过训练进行迭代更新；

所述的图解码器利用图编码器的输出H^(L)之间的欧式距离对邻接矩阵进行重构，得到重构的邻接矩阵

计算公式如下：

其中，

表示重构的邻接矩阵

的第i行第j列元素，

表示图像第i个样本点的深度表征

与第j个样本点的深度表征

之间的欧式距离，

即图编码器的输出H^(L)的第i行，

即图编码器的输出H^(L)的第j行，i,j＝1,2,…,n；

所述的图像低秩重构网络模型的损失函数按下式进行计算：

其中，L_gross表示网络损失，

表示重构的邻接矩阵

所对应的拉普拉斯矩阵，按照

计算得到，

为

的度矩阵；

表示重构特征

的低秩约束项，

p取0.5；λ₁为权重系数一，λ₂为权重系数二，λ₃为权重系数三，分别在{10^-6，10^-5，...，10³}内取值；对于一个n×m的矩阵X，||X||_σ表示自适应损失函数，按照

计算得到，σ取值范围为(0,+∞)，xⁱ表示矩阵X的第i行，||X||₂表示矩阵X的2范数；

所述的训练过程为通过采用梯度下降法优化网络模型的损失函数对网络参数进行更新；

步骤4：按照k＝k+t计算得到新的稀疏度k，然后返回步骤2，更新邻接矩阵A和图像低秩重构网络，更新T次，得到全连接解码器输出的重构特征

对其进行归一化的逆运算处理，得到最终的低秩重构图像；其中，t表示稀疏度更新增量，在[2,15]内取值，更新次数T设置为5；所述的归一化的逆运算是指步骤1中所述的归一化处理的反向操作。

本发明的有益效果是：由于采用了基于图像样本点对关系计算邻接矩阵，能够充分利用图像数据的局部结构信息，从而有助于后续利用网络进行图表征学习，学习图像数据的流形结构，使得模型具有更好的非线性表征能力；由于构造了一个带有图编码器和双解码器的图像低秩重构网络模型，数据通过图编码器后得到深度表征，然后通过全连接解码器与图解码器同时得到重构特征与重构图，在训练过程中，保持了数据的局部结构信息，且采用了通过深度表征重构图来更新邻接矩阵的自适应更新机制，进一步提高了模型的表征能力与鲁棒性，使得模型可以自适应地学习深度表征的流形结构；由于在网络模型的损失函数中引入了Adaptive Loss与Schatten p范数，通过Adptive Loss提高了模型的抗噪能力，通过Schatten p范数来逼近秩范数，从而得到了一个鲁棒性强的损失函数，使得模型具有良好的抗噪声能力以及低秩重构能力。

附图说明

图1是本发明基于自适应图学习主成分分析方法的图像低秩重构方法流程图；

图2是采用不同方法进行图像重构的实验结果图像；

图中，(a)-原始图像，(b)-加噪声后图像，(c)-PCA方法重构后图像，(d)-LpPCA方法重构后图像，(e)-RPCA-OM方法重构后图像，(f)-本发明方法重构后图像。

具体实施方式

下面结合附图和实施例对本发明进一步说明，本发明包括但不仅限于下述实施例。

如图1所示，本发明提供了一种基于自适应图学习主成分分析方法的图像低秩重构方法。本发明基于数据的点对信息构图，搭建图自编码器进行图表征学习，并引入了自适应学习机制实现图的自适应更新，融合了深度图表征学习与主成分分析方法，能够从数据的局部结构信息中提取流形结构特征，能够在数据集受到噪声干扰的情况下对图像数据进行低秩重构，所提出的方法具有良好的抗噪声能力。本发明的具体实现过程如下：

步骤1：输入原始图像数据集X_raw，对所有像素进行归一化预处理，得到预处理后的图像数据集X′，表示为矩阵形式

其中，n为图像样本点总数，m为每幅图像的特征个数，矩阵的每一个行向量对应一个图像样本点。

步骤2：基于图像数据集X′中的样本，计算邻接矩阵A，其中每一个元素值按下式计算得到：

其中，a_ij表示邻接矩阵A的第i行第j列元素，i,j＝1,2,…,n；k表示稀疏度，在{5,10,15,25}中选取；d_i,j表示第i个图像样本点和第j个图像样本点之间的欧式距离，d_i,k+1表示第i个图像样本点和第k+1个图像样本点之间的欧式距离，(·）₊＝max(·，0)；d′_i，l表示对于第i个图像样本点，将其他样本点与其之间的欧式距离按照由小到大排序后的第l个欧式距离值，l＝1,2,…,k；

步骤3：将图像数据集X′和邻接矩阵A输入到图像低秩重构网络模型进行训练，得到训练好的网络；

所述的图像低秩重构网络模型由图编码器、全连接解码器和图解码器组成，两个解码器之间为并行结构，图像数据在通过图编码器后同时送入两个解码器。

所述的图编码器由L层图卷积层组成，输入图像数据集X′和邻接矩阵A，每一层的输出如下：

其中，H^(l)表示第l层的输出，l＝1,2,…,L，L设为2；H⁽⁰⁾＝X′，φ^(l)表示第l层的激活函数，设置为ReLU函数，W^(l)表示第l层的权重参数，通过训练进行迭代更新；

为邻接矩阵A拉普拉斯标准化后得到的矩阵。

通过图编码器编码得到数据的深度表征H^(L)，并同时输入两个解码器。

所述的全连接解码器由K层全连接层组成，图编码器的输出输入到全连接编码器，得到重构特征

其每一层的输出如下：

其中，

表示第l层的输出，l＝1,2,…,K，K设为2；

表示第l层的激活函数，设置为ReLU函数，

表示第l层的权重参数，通过训练进行迭代更新。

所述的图解码器利用图编码器的输出H^(L)之间的欧式距离对邻接矩阵进行重构，得到重构的邻接矩阵

计算公式如下：

其中，

表示重构的邻接矩阵

的第i行第j列元素，

表示图像第i个样本点的深度表征

与第j个样本点的深度表征

之间的欧式距离，

即图编码器的输出H^(L)的第i行，

即图编码器的输出H^(L)的第j行，i,j＝1,2,…,n。

所述的图像低秩重构网络模型的损失函数按下式进行计算：

其中，L_gross表示网络损失，

表示重构的邻接矩阵

所对应的拉普拉斯矩阵，按照

计算得到，

为

的度矩阵；

表示重构特征

的低秩约束项，

p取0.5，是采用Schatten p范数的求解表示以达到更逼近秩范数的效果；λ₁为权重系数一，λ₂为权重系数二，λ₃为权重系数三，分别在{10^-6，10^-5，...，10³}内取值；对于一个n×m的矩阵X，||X||_σ表示Adaptive Loss自适应损失函数，按照

计算得到，σ取值范围为(0,+∞)，Adaptive Loss融合了F范数与l_2，1范数的优点，通过参数σ来控制鲁棒性，其中xⁱ表示矩阵X的第i行，||X||₂表示矩阵X的2范数。

公式(10)的损失函数通过Adptive Loss提高了模型的抗噪能力，通过Schatten p范数来逼近秩范数，是一个鲁棒性强的损失函数。

所述的训练过程为通过采用梯度下降法优化网络模型的损失函数对网络参数进行更新。

步骤4：按照k＝k+t计算得到新的稀疏度k，然后返回步骤2，更新邻接矩阵A和图像低秩重构网络，更新T次，得到全连接解码器输出的重构特征

对其进行归一化的逆运算处理，得到最终的低秩重构图像；其中，t表示稀疏度更新增量，在[2,15]内取值，更新次数T设置为5；所述的归一化的逆运算是指步骤1中所述的归一化处理的反向操作。

综上所述，算法的技术路线如下表所示：

表1

为验证本发明方法的效果，在中央处理器为

i7-10700F 2.90GHz CPU、内存16G、WINDOWS 10操作***上，运用Python软件进行仿真实验。

实验中使用的Yale人脸图像数据集，来自于文献"A.S.Georghiades,P.N.Belhumeur,and D.J.Kriegman.From few to many:Illumination cone models forface recognition under variable lighting and pose.IEEE transactions onpattern analysis and machine intelligence,vol.23,no.6,pp.643–660,2001."，包含165个样本，每个样本包含1024个特征，样本一共被分为15个类别。

为了体现方法的鲁棒性，在实验中选取了20％的图像样本，将其中20％的特征设置为了0到1之间的随机值，将加噪后的数据作为算法的输入，分别设置数据的维度为{10，30，50}进行实验。为对比效果，采用已有的PCA、LpPCA、RPCA-OM算法作为对比算法，并计算重构损失、聚类准确度等指标进行量化对比，其中，重构损失表示重构图像与原始图像之间像素点差值的平方和，值越大说明重构图像与原始图像之间的误差越大，聚类准确度表示将图像的深度表征进行谱聚类，然后与图像类别进行最大匹配，最终得到的结果中图像被正确分类的比例，值越大说明图像的深度表征损失信息越少，越利于图像的低秩重构。

计算结果如表2所示。可以看出，重构损失与深度表征的聚类精确度均优于其他对比方法。采用不同方法进行图像重构的一个示例结果图像如图2所示，可以明显看出，在具有噪声干扰的情况下，本发明方法依然能获得较好的重构结果图像。

表2

Claims (1)

1.一种基于自适应图学习主成分分析方法的图像低秩重构方法，其特征在于步骤如下：

步骤1：输入原始图像数据集X_raw，对所有像素进行归一化预处理，得到预处理后的图像数据集X′，表示为矩阵形式

其中，n为图像样本点总数，m为每幅图像的特征个数，矩阵的每一个行向量对应一个图像样本点；

步骤2：基于图像数据集X′中的样本，计算邻接矩阵A，其中每一个元素值按下式计算得到：

其中，a_ij表示邻接矩阵A的第i行第j列元素，i,j＝1,2,…,n；k表示稀疏度，在{5,10,15,25}中选取；d_i,j表示第i个图像样本点和第j个图像样本点之间的欧式距离，d_i,k+1表示第i个图像样本点和第k+1个图像样本点之间的欧式距离，(·)₊＝max(·,0)；d′_i,l表示对于第i个图像样本点，将其他样本点与其之间的欧式距离按照由小到大排序后的第l个欧式距离值，l＝1,2,…,k；

步骤3：将图像数据集X′和邻接矩阵A输入到图像低秩重构网络模型进行训练，得到训练好的网络；

所述的图像低秩重构网络模型由图编码器、全连接解码器和图解码器组成，两个解码器之间为并行结构，图像数据在通过图编码器后同时送入两个解码器；其中，所述的图编码器由L层图卷积层组成，输入图像数据集X′和邻接矩阵A，每一层的输出如下：

其中，H^(l)表示第l层的输出，l＝1,2,…,L，L设为2；H⁽⁰⁾＝X′，φ^(l)表示第l层的激活函数，设置为ReLU函数，W^(l)表示第l层的权重参数，通过训练进行迭代更新；

为邻接矩阵A拉普拉斯标准化后得到的矩阵；

所述的全连接解码器由K层全连接层组成，图编码器的输出输入到全连接编码器，得到重构特征

其每一层的输出如下：

其中，

表示第l层的输出，l＝1,2,…,K，K设为2；

表示第l层的激活函数，设置为ReLU函数，

表示第l层的权重参数，通过训练进行迭代更新；

所述的图解码器利用图编码器的输出H^(L)之间的欧式距离对邻接矩阵进行重构，得到重构的邻接矩阵

计算公式如下：

其中，

表示重构的邻接矩阵

的第i行第j列元素，

表示图像第i个样本点的深度表征

与第j个样本点的深度表征

之间的欧式距离，

即图编码器的输出H^(L)的第i行，

即图编码器的输出H^(L)的第j行，i,j＝1,2,…,n；

所述的图像低秩重构网络模型的损失函数按下式进行计算：

其中，L_gross表示网络损失，

表示重构的邻接矩阵

所对应的拉普拉斯矩阵，按照

计算得到，

为

的度矩阵；

表示重构特征

的低秩约束项，

p取0.5；λ₁为权重系数一，λ₂为权重系数二，λ₃为权重系数三，分别在{10^-6,10^-5,…,10³}内取值；对于一个n×m的矩阵X，‖X‖_σ表示自适应损失函数，按照

计算得到，σ取值范围为(0,+∞)，xⁱ表示矩阵X的第i行，‖X‖₂表示矩阵X的2范数；

所述的训练过程为通过采用梯度下降法优化网络模型的损失函数对网络参数进行更新；

步骤4：按照k＝k+t计算得到新的稀疏度k，然后返回步骤2，更新邻接矩阵A和图像低秩重构网络，更新T次，得到全连接解码器输出的重构特征

对其进行归一化的逆运算处理，得到最终的低秩重构图像；其中，t表示稀疏度更新增量，在[2,15]内取值，更新次数T设置为5；所述的归一化的逆运算是指步骤1中所述的归一化处理的反向操作。

Images