CN110852304B - 基于深度学习方法的高光谱数据处理方法 - Google Patents

Abstract

本发明提出了一种基于深度学习方法的高光谱数据处理方法，该方案能对现有的特征投影矩阵进行优化，得到优化特征投影矩阵，然后根据优化特征投影矩阵对高光谱数据进行处理，得到高光谱图像；本发明的有益技术效果是：提出了一种基于深度学习方法的高光谱数据处理方法，该方案能适用于不同的提取特征方法，能显著提高提取特征的识别能力，改善高光谱数据的处理效果。

Description

基于深度学习方法的高光谱数据处理方法

技术领域

本发明涉及一种高光谱数据处理技术，尤其涉及一种基于深度学习方法的高光谱数据处理方法。

背景技术

如今，高光谱图像(HSI)已成为遥感领域最热门的研究领域之一；通过从可见光到近红外波段的密集光谱采样，高光谱数据中的每个像素都包含大量连续的光谱段，这些波段为土地覆被的精细分类提供了有用的信息。高光谱早已广泛应用于资源勘探，精准农业，环境科学和城市规划等许多领域。在这些领域中，对高光谱图像每个像素的分类都起着至关重要的作用。然而，高光谱图像具有的高维图像结构常常导致维数灾难，当引入传统方法进行分类时，很容易引起休斯现象。因此，从高维高光谱数据中学习其内在的低维特征是高光谱遥感技术进一步应用的关键。

特征提取(FE)是提取低维嵌入特征的一种有效手段，并且科研者们已提出大量的特征提取方法来处理高维数据。主成分分析法(PCA)是一种经典的特征提取方法，该方法通过正交投影来最大化数据的方差。独立成分分析法(ICA)，目的是寻找一个能使数据最大独立的投影方向来增强数据的独立性。但是PCA和ICA都属于无监督方法，在大多数情况下不能满足应用的需求。线性鉴别分析(LDA)是一种传统的监督方法，该方法利用样本的标签信息最大化低维空间中原始数据的方差。最大边界准则(MMC)能够进一步使类间散度最大化和类内散度最小化。然而PCA以及LDA等方法都是以统计学原理为基础，忽略了数据内在的流形结构。

过去20年的研究发现，HSI数据具有内在的流形结构。为了揭示高维空间中的流形结构，学者们设计了多种流形学习方法。这些方法包括局部线性嵌入(LLE)、等距映射(Isomap)、拉普拉斯特征映射(LE)、邻域保持嵌入(NPE)和局部保持投影(LPP)。然而，这些无监督的分类方法不能利用训练样本的标签信息来获得用于分类的判别特征。针对这一问题，学者们提出了一些监督流形学习方法。Sugiyama等人通过结合Fisher判别分析(FDA)与局部保持投影(LPP)，提出了局部Fisher鉴别分析(LFDA)，这种方法利用先前的知识探讨HSI数据的几何性质。闫等人提出了一种边界Fisher分析(MFA)方法，该方法通过构造一个类内图和一个类间图来揭示数据中的判别流形结构。罗等人提出了局部几何结构Fisher分析(LGSFA)方法，即通过训练样本及其对应的重建点来学习高光谱数据的几何特征，该方法在分离类间样本及其重建点的同时，将类内邻域与其重建点压缩。张等人提出了一种基于流形学习的监督学习框架，利用显式多项式映射学习一个压缩的低维特征空间，该方法可以实现对测试样本的快速特征提取和分类。然而，这些流形学习方法只执行单一的映射过程，缺乏迭代优化过程来获得更优化的投影矩阵。同时，上述传统的特征提取方法依赖于浅层特征描述子，所以无法处理复杂场景中的非线性关系。

深度学习(DL)方法在目标检测和场景分类等任务中取得了巨大的成功。近年来，学者们研究了通过深度学习中的层级网络从光谱带提取深度信息的方法，在HSI数据中，更深的网络层数可以处理更为复杂的非线性关系。Ratle等人提出了利用人工神经网络(ANN)提取高光谱图像的内在特征，并在损失函数中引入正则化项来训练神经网络。陈等人研究了深度信念网络(DBN)，将光谱信息学习、空间信息学习与深度特征提取相结合，提取HSI数据的深度特征，获得较高的分类精度。陈等人介绍了一种基于栈式自编码器(SAE)的深度学习模型，通过直接在深度学习框架中输入光谱信息对HSI数据进行分类。上述DL方法试图提取HSI数据的深层特征，以提高土地覆被分类的性能。然而，这些方法只关注如何提取高光谱图像的深层特征，却没有关注高光谱图像内部的流形结构。

发明内容

针对背景技术中的问题，本发明提出了一种基于深度学习方法的高光谱数据处理方法，包括：从原始高光谱数据中提取出特征投影矩阵，然后对特征投影矩阵进行优化，得到优化特征投影矩阵，然后根据优化特征投影矩阵对高光谱数据进行处理，得到高光谱图像；其特征在于：按如下方法得到优化特征投影矩阵：

1)设原始高光谱数据中提取出的特征投影矩阵为

其中，

表示A⁰中的第1层投影矩阵，

表示A⁰中的第L层投影矩阵；根据A⁰，按式一计算出第1次迭代的损失函数值R_k；k为迭代次数，k＝1,2,3,…；

2)根据式二计算出R_k相对于A^k-1的梯度；然后根据式三对各层投影矩阵进行更新，得到新的特征投影矩阵

其中，A^k表示第k次迭代后得到的特征投影矩阵，

表示A^k中的第1层投影矩阵，

表示A^k中的第L层投影矩阵；

3)根据当前的A^k，按式一重新计算出相应的损失函数值R_k，然后判断k的数值是否达到设定的数值：如未达到设定的数值，则进入步骤4)，如已达到设定的数值，则进入步骤6)；

4)根据式四计算出当前的收敛误差ε，然后将当前的收敛误差ε与设定的误差E进行比较：若ε<E，则进入步骤6)，否则进入步骤5)；

5)根据式二计算出当前的R_k相对于A^k-1的梯度，然后根据式三对各层投影矩阵进行更新，得到新的A^k，然后返回步骤3)；

6)根据式二计算出当前的R_k相对于A^k-1的梯度，然后根据式三对各层投影矩阵进行更新，由更新后的各层投影矩阵所构成的特征投影矩阵即为优化特征投影矩阵；

所述式一包括：

其中，λ为设定的权衡参数；

S₁为：

其中，

表示A^k-1中的第L层投影矩阵中第n个样本的嵌入特征；N为A^k-1中的第L层投影矩阵中的样本数量；

表示：类内图中，每个

与其类内近邻点的关系；

表示：类间图中，每个

与其类间近邻点的关系；

S₂为：

其中，

表示矩阵的F范数，即矩阵内所有元素平方和；

表示向量的2范数，即向量内元素平方和；b^k-1表示A^k-1中的第L层投影矩阵所学习到的偏置向量；

所述式二包括：

表示R_k相对于A^k-1的梯度；

其中，

表示S₁相对于A^k-1的梯度，

表示S₂相对于A^k-1的梯度；S₁为迭代过程的目标函数；S₂为正则化项；

所述式三包括：

其中，η为设定的学习率；

所述式四包括：ε＝|R_k-R_k-1|。

本发明的原理是：现有技术在处理高光谱数据时，一般通过特征学习从高光谱数据中得到特征投影矩阵A⁰，然后对A⁰进行相应处理，来得到高光谱图像；而本发明的方案是先对A⁰进行优化，得到优化特征投影矩阵，然后根据优化特征投影矩阵对高光谱数据进行相应处理，来得到高光谱图像；本发明的优化过程以现有手段得到的特征投影矩阵A⁰作为输入矩阵；具体实施时，发明人基于图嵌入理论，设计了目标函数S₁(也可称为判别准则)来表达高光谱数据的判别流形结构，然后通过反向传播算法来对目标函数进行迭代更新，以提高不同类别的嵌入特征的可分性，进而实现特征投影矩阵的自适应优化，具体过程即对应于本发明的各个步骤。传统的深度学习网络利用交叉熵损失函数，通过迭代过程来度量预测值和真实值之间的差异性，从而最小化损失函数、优化网络参数；与传统手段不同的是，本发明采用目标函数S₁作为网络的损失函数，根据S₁，我们就能通过标签信息来探索高光谱数据的几何属性，并最大化不同类别之间的阈值，同时，本发明还提出了一种不同的迭代优化策略来压缩属于同一类的样本(寻找同类近邻点并构图的过程通过

实现)并分离属于不同类的样本(寻找非同类近邻点并构图的过程通过

实现)，该过程对应于与式一相关的操作，然后通过式二和式三对网络进行迭代优化，最终就可以得到优化特征投影矩阵；之后，根据优化特征投影矩阵，继续按各种处理方法的后续处理手段对高光谱数据进行处理，就能得到效果更好的高光谱图像。

优选地，采用线性子空间方法、流形学习方法或深度学习方法的特征提取手段从原始高光谱数据中提取出特征投影矩阵；得到优化特征投影矩阵后，相应的按线性子空间方法、流形学习方法或深度学习方法的处理方式对优化特征投影矩阵进行处理，得到高光谱图像。换言之，即本发明可用于现有的线性子空间方法、流形学习方法或深度学习方法中，用于对这些方法中的特征投影矩阵进行优化。

优选地，采用线性子空间方法或流形学习方法时，

基于现有技术可知，采用线性子空间方法或流形学习方法处理原始高光谱数据时，得到的特征投影矩阵仅有一层投影矩阵，此时，后续的优化过程仅需对这一层投影矩阵进行优化(本发明用于深度学习方法时，需要对多层投影矩阵同时进行优化)。

本发明的有益技术效果是：提出了一种基于深度学习方法的高光谱数据处理方法，该方案能适用于不同的提取特征方法，能显著提高提取特征的识别能力，改善高光谱数据的处理效果。

具体实施方式

一种基于深度学习方法的高光谱数据处理方法，包括：从原始高光谱数据中提取出特征投影矩阵，然后对特征投影矩阵进行优化，得到优化特征投影矩阵，然后根据优化特征投影矩阵对高光谱数据进行处理，得到高光谱图像；其创新在于：按如下方法得到优化特征投影矩阵：

1)设原始高光谱数据中提取出的特征投影矩阵为

其中，

表示A⁰中的第1层投影矩阵，

表示A⁰中的第L层投影矩阵；根据A⁰，按式一计算出第1次迭代的损失函数值R_k；k为迭代次数，k＝1,2,3,…K；

2)根据式二计算出R_k相对于A^k-1的梯度；然后根据式三对各层投影矩阵进行更新，得到新的特征投影矩阵

其中，A^k表示第k次迭代后得到的特征投影矩阵，

表示A^k中的第1层投影矩阵，

表示A^k中的第L层投影矩阵；

3)根据当前的A^k，按式一重新计算出相应的损失函数值R_k，然后判断k的数值是否达到设定的数值：如未达到设定的数值，则进入步骤4)，如已达到设定的数值，则进入步骤6)；

4)根据式四计算出当前的收敛误差ε，然后将当前的收敛误差ε与设定的误差E进行比较：若ε<E，则进入步骤6)，否则进入步骤5)；

5)根据式二计算出当前的R_k相对于A^k-1的梯度，然后根据式三对各层投影矩阵进行更新，得到新的A^k，然后返回步骤3)；

6)根据式二计算出当前的R_k相对于A^k-1的梯度，然后根据式三对各层投影矩阵进行更新，由更新后的各层投影矩阵所构成的特征投影矩阵即为优化特征投影矩阵；

所述式一包括：

其中，λ为设定的权衡参数；

S₁为：

其中，

表示A^k-1中的第L层投影矩阵中第n个样本的嵌入特征；N为A^k-1中的第L层投影矩阵中的样本数量；

表示：类内图中，每个

与其类内近邻点的关系；

表示：类间图中，每个

与其类间近邻点的关系；

其中，

其中，

为

与

的类内相似权重；

其中，

为

与

的类间相似权重；

S₂为：

其中，

表示矩阵的F范数，即矩阵内所有元素平方和；

表示向量的2范数，即向量内元素平方和；b^k-1表示A^k-1中的第L层投影矩阵所学习到的偏置向量；

所述式二包括：

表示R_k相对于A^k-1的梯度；

其中，

表示S₁相对于A^k-1的梯度，

表示S₂相对于A^k-1的梯度；

所述式三包括：

其中，η为设定的学习率；

所述式四包括：ε＝|R_k-R_k-1|。

进一步地，采用线性子空间方法、流形学习方法或深度学习方法的特征提取手段从原始高光谱数据中提取出特征投影矩阵；得到优化特征投影矩阵后，相应的按线性子空间方法、流形学习方法或深度学习方法的处理方式对优化特征投影矩阵进行处理，得到高光谱图像。

进一步地，采用线性子空间方法或流形学习方法时，

为了验证本发明的有效性，发明人设计了大量的实验，用于比较其他特征提取方法与本发明的分类精度。这些方法包括线性子空间方法、流形学习方法，以及深度学习方法，比如LDA、FDA、LPP、LGSFA、ANN、DBN和SAE。对所有方法都采用交叉验证来优化参数以获得良好的性能。我们将LPP的近邻数设置为9。对于LGSFA，类内和类间近邻数分别设置为9和180。

为了评估每种方法在不同数量的训练样本下的分类性能，我们从每个类别随机选择n_i(n_i＝20，30，40，50，80，100)的样本作为训练集，将其余样本作为测试集。不同方法对两个高光谱数据集的带有标准差的总体分类精度如表1和2所示。

表1

Table 1：The classification results with different FE methods onPaviaU data set(Overall Accuracy±Std(％))

表2

Table 2：The classification results with different FE methods onIndian Pines data set(Overatll Accuracy±Std(％))

表中，M³DNet表示本发明的方法，Original表示现有手段；

从表1和表2可以看出，所有方法的总体分类精度都随训练集样本量的增加而有所增加。在大多数情况下，深度学习方法(ANN，DBN和SAE)优于子空间方法和流形学习方法，因为后两种方法通常只能提取浅层特征，无法描述高光谱数据复杂的非线性关系。普遍情况下，本发明方法较于现有方法获得了更好的分类性能。在IN数据集中，很容易导致非最佳分类结果，即原始SAE无法得到HSI中的流形结构。而采用本发明方案后，可通过最大化流形余量来自适应优化SAE获得的投影矩阵，从而显著提高不同类别的可分离性。

Claims (1)

1.一种基于深度学习方法的高光谱数据处理方法，包括：采用深度学习方法的特征提取手段从原始高光谱数据中提取出特征投影矩阵，然后对特征投影矩阵进行优化，得到优化特征投影矩阵，然后根据优化特征投影矩阵对高光谱数据进行处理，得到高光谱图像；其特征在于：按如下方法得到优化特征投影矩阵：

1)设原始高光谱数据中提取出的特征投影矩阵为

其中，

表示A⁰中的第1层投影矩阵，

表示A⁰中的第L层投影矩阵；根据A⁰，按式一计算出第1次迭代的损失函数值R_k；k为迭代次数，k＝1，2，3，…；

2)根据式二计算出R_k相对于A^k-1的梯度；然后根据式三对各层投影矩阵进行更新，得到新的特征投影矩阵

其中，A^k表示第k次迭代后得到的特征投影矩阵，

表示A^k中的第1层投影矩阵，

表示A^k中的第L层投影矩阵；

3)根据当前的A^k，按式一重新计算出相应的损失函数值R_k，然后判断k的数值是否达到设定的数值：如未达到设定的数值，则进入步骤4)，如已达到设定的数值，则进入步骤6)；

4)根据式四计算出当前的收敛误差ε，然后将当前的收敛误差ε与设定的误差E进行比较：若ε＜E，则进入步骤6)，否则进入步骤5)；

5)根据式二计算出当前的R_k相对于A^k-1的梯度，然后根据式三对各层投影矩阵进行更新，得到新的A^k，然后返回步骤3)；

6)根据式二计算出当前的R_k相对于A^k-1的梯度，然后根据式三对各层投影矩阵进行更新，由更新后的各层投影矩阵所构成的特征投影矩阵即为优化特征投影矩阵；

所述式一为：

其中，λ为设定的权衡参数；

S₁为：

其中，

表示A^k-1中的第L层投影矩阵中第n个样本的嵌入特征；N为A^k-1中的第L层投影矩阵中的样本数量；

表示：类内图中，每个

与其类内近邻点的关系；

表示：类间图中，每个

与其类间近邻点的关系；

S₂为：

其中，

表示矩阵的F范数，即矩阵内所有元素平方和；

表示向量的2范数，即向量内元素平方和；b^k-1表示A^k-1中的第L层投影矩阵所学习到的偏置向量；

所述式二为：

表示R_k相对于A^k-1的梯度；

其中，

表示S₁相对于A^k-1的梯度，

表示S₂相对于A^k-1的梯度；

所述式三为：

其中，η为设定的学习率；

所述式四为：ε＝|R_k-R_k-1|。