CN110852304B - 基于深度学习方法的高光谱数据处理方法 - Google Patents
基于深度学习方法的高光谱数据处理方法 Download PDFInfo
- Publication number
- CN110852304B CN110852304B CN201911151815.9A CN201911151815A CN110852304B CN 110852304 B CN110852304 B CN 110852304B CN 201911151815 A CN201911151815 A CN 201911151815A CN 110852304 B CN110852304 B CN 110852304B
- Authority
- CN
- China
- Prior art keywords
- projection matrix
- formula
- matrix
- layer
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 83
- 238000013135 deep learning Methods 0.000 title claims abstract description 24
- 238000003672 processing method Methods 0.000 title claims abstract description 10
- 239000011159 matrix material Substances 0.000 claims abstract description 87
- 238000012545 processing Methods 0.000 claims abstract description 14
- 238000000605 extraction Methods 0.000 claims abstract description 12
- 230000006870 function Effects 0.000 claims description 14
- 238000010586 diagram Methods 0.000 claims description 8
- 230000000694 effects Effects 0.000 abstract description 5
- 230000009286 beneficial effect Effects 0.000 abstract description 2
- 238000005457 optimization Methods 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 5
- 230000003595 spectral effect Effects 0.000 description 5
- 238000012549 training Methods 0.000 description 5
- 238000000513 principal component analysis Methods 0.000 description 4
- 238000012880 independent component analysis Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 235000008331 Pinus X rigitaeda Nutrition 0.000 description 1
- 235000011613 Pinus brutia Nutrition 0.000 description 1
- 241000018646 Pinus brutia Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/13—Satellite images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Astronomy & Astrophysics (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明提出了一种基于深度学习方法的高光谱数据处理方法,该方案能对现有的特征投影矩阵进行优化,得到优化特征投影矩阵,然后根据优化特征投影矩阵对高光谱数据进行处理,得到高光谱图像;本发明的有益技术效果是:提出了一种基于深度学习方法的高光谱数据处理方法,该方案能适用于不同的提取特征方法,能显著提高提取特征的识别能力,改善高光谱数据的处理效果。
Description
技术领域
本发明涉及一种高光谱数据处理技术,尤其涉及一种基于深度学习方法的高光谱数据处理方法。
背景技术
如今,高光谱图像(HSI)已成为遥感领域最热门的研究领域之一;通过从可见光到近红外波段的密集光谱采样,高光谱数据中的每个像素都包含大量连续的光谱段,这些波段为土地覆被的精细分类提供了有用的信息。高光谱早已广泛应用于资源勘探,精准农业,环境科学和城市规划等许多领域。在这些领域中,对高光谱图像每个像素的分类都起着至关重要的作用。然而,高光谱图像具有的高维图像结构常常导致维数灾难,当引入传统方法进行分类时,很容易引起休斯现象。因此,从高维高光谱数据中学习其内在的低维特征是高光谱遥感技术进一步应用的关键。
特征提取(FE)是提取低维嵌入特征的一种有效手段,并且科研者们已提出大量的特征提取方法来处理高维数据。主成分分析法(PCA)是一种经典的特征提取方法,该方法通过正交投影来最大化数据的方差。独立成分分析法(ICA),目的是寻找一个能使数据最大独立的投影方向来增强数据的独立性。但是PCA和ICA都属于无监督方法,在大多数情况下不能满足应用的需求。线性鉴别分析(LDA)是一种传统的监督方法,该方法利用样本的标签信息最大化低维空间中原始数据的方差。最大边界准则(MMC)能够进一步使类间散度最大化和类内散度最小化。然而PCA以及LDA等方法都是以统计学原理为基础,忽略了数据内在的流形结构。
过去20年的研究发现,HSI数据具有内在的流形结构。为了揭示高维空间中的流形结构,学者们设计了多种流形学习方法。这些方法包括局部线性嵌入(LLE)、等距映射(Isomap)、拉普拉斯特征映射(LE)、邻域保持嵌入(NPE)和局部保持投影(LPP)。然而,这些无监督的分类方法不能利用训练样本的标签信息来获得用于分类的判别特征。针对这一问题,学者们提出了一些监督流形学习方法。Sugiyama等人通过结合Fisher判别分析(FDA)与局部保持投影(LPP),提出了局部Fisher鉴别分析(LFDA),这种方法利用先前的知识探讨HSI数据的几何性质。闫等人提出了一种边界Fisher分析(MFA)方法,该方法通过构造一个类内图和一个类间图来揭示数据中的判别流形结构。罗等人提出了局部几何结构Fisher分析(LGSFA)方法,即通过训练样本及其对应的重建点来学习高光谱数据的几何特征,该方法在分离类间样本及其重建点的同时,将类内邻域与其重建点压缩。张等人提出了一种基于流形学习的监督学习框架,利用显式多项式映射学习一个压缩的低维特征空间,该方法可以实现对测试样本的快速特征提取和分类。然而,这些流形学习方法只执行单一的映射过程,缺乏迭代优化过程来获得更优化的投影矩阵。同时,上述传统的特征提取方法依赖于浅层特征描述子,所以无法处理复杂场景中的非线性关系。
深度学习(DL)方法在目标检测和场景分类等任务中取得了巨大的成功。近年来,学者们研究了通过深度学习中的层级网络从光谱带提取深度信息的方法,在HSI数据中,更深的网络层数可以处理更为复杂的非线性关系。Ratle等人提出了利用人工神经网络(ANN)提取高光谱图像的内在特征,并在损失函数中引入正则化项来训练神经网络。陈等人研究了深度信念网络(DBN),将光谱信息学习、空间信息学习与深度特征提取相结合,提取HSI数据的深度特征,获得较高的分类精度。陈等人介绍了一种基于栈式自编码器(SAE)的深度学习模型,通过直接在深度学习框架中输入光谱信息对HSI数据进行分类。上述DL方法试图提取HSI数据的深层特征,以提高土地覆被分类的性能。然而,这些方法只关注如何提取高光谱图像的深层特征,却没有关注高光谱图像内部的流形结构。
发明内容
针对背景技术中的问题,本发明提出了一种基于深度学习方法的高光谱数据处理方法,包括:从原始高光谱数据中提取出特征投影矩阵,然后对特征投影矩阵进行优化,得到优化特征投影矩阵,然后根据优化特征投影矩阵对高光谱数据进行处理,得到高光谱图像;其特征在于:按如下方法得到优化特征投影矩阵:
2)根据式二计算出Rk相对于Ak-1的梯度;然后根据式三对各层投影矩阵进行更新,得到新的特征投影矩阵其中,Ak表示第k次迭代后得到的特征投影矩阵,表示Ak中的第1层投影矩阵,表示Ak中的第L层投影矩阵;
3)根据当前的Ak,按式一重新计算出相应的损失函数值Rk,然后判断k的数值是否达到设定的数值:如未达到设定的数值,则进入步骤4),如已达到设定的数值,则进入步骤6);
4)根据式四计算出当前的收敛误差ε,然后将当前的收敛误差ε与设定的误差E进行比较:若ε<E,则进入步骤6),否则进入步骤5);
5)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,得到新的Ak,然后返回步骤3);
6)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,由更新后的各层投影矩阵所构成的特征投影矩阵即为优化特征投影矩阵;
其中,λ为设定的权衡参数;
S1为:
S2为:
其中,η为设定的学习率;
所述式四包括:ε=|Rk-Rk-1|。
本发明的原理是:现有技术在处理高光谱数据时,一般通过特征学习从高光谱数据中得到特征投影矩阵A0,然后对A0进行相应处理,来得到高光谱图像;而本发明的方案是先对A0进行优化,得到优化特征投影矩阵,然后根据优化特征投影矩阵对高光谱数据进行相应处理,来得到高光谱图像;本发明的优化过程以现有手段得到的特征投影矩阵A0作为输入矩阵;具体实施时,发明人基于图嵌入理论,设计了目标函数S1(也可称为判别准则)来表达高光谱数据的判别流形结构,然后通过反向传播算法来对目标函数进行迭代更新,以提高不同类别的嵌入特征的可分性,进而实现特征投影矩阵的自适应优化,具体过程即对应于本发明的各个步骤。传统的深度学习网络利用交叉熵损失函数,通过迭代过程来度量预测值和真实值之间的差异性,从而最小化损失函数、优化网络参数;与传统手段不同的是,本发明采用目标函数S1作为网络的损失函数,根据S1,我们就能通过标签信息来探索高光谱数据的几何属性,并最大化不同类别之间的阈值,同时,本发明还提出了一种不同的迭代优化策略来压缩属于同一类的样本(寻找同类近邻点并构图的过程通过实现)并分离属于不同类的样本(寻找非同类近邻点并构图的过程通过实现),该过程对应于与式一相关的操作,然后通过式二和式三对网络进行迭代优化,最终就可以得到优化特征投影矩阵;之后,根据优化特征投影矩阵,继续按各种处理方法的后续处理手段对高光谱数据进行处理,就能得到效果更好的高光谱图像。
优选地,采用线性子空间方法、流形学习方法或深度学习方法的特征提取手段从原始高光谱数据中提取出特征投影矩阵;得到优化特征投影矩阵后,相应的按线性子空间方法、流形学习方法或深度学习方法的处理方式对优化特征投影矩阵进行处理,得到高光谱图像。换言之,即本发明可用于现有的线性子空间方法、流形学习方法或深度学习方法中,用于对这些方法中的特征投影矩阵进行优化。
优选地,采用线性子空间方法或流形学习方法时,基于现有技术可知,采用线性子空间方法或流形学习方法处理原始高光谱数据时,得到的特征投影矩阵仅有一层投影矩阵,此时,后续的优化过程仅需对这一层投影矩阵进行优化(本发明用于深度学习方法时,需要对多层投影矩阵同时进行优化)。
本发明的有益技术效果是:提出了一种基于深度学习方法的高光谱数据处理方法,该方案能适用于不同的提取特征方法,能显著提高提取特征的识别能力,改善高光谱数据的处理效果。
具体实施方式
一种基于深度学习方法的高光谱数据处理方法,包括:从原始高光谱数据中提取出特征投影矩阵,然后对特征投影矩阵进行优化,得到优化特征投影矩阵,然后根据优化特征投影矩阵对高光谱数据进行处理,得到高光谱图像;其创新在于:按如下方法得到优化特征投影矩阵:
2)根据式二计算出Rk相对于Ak-1的梯度;然后根据式三对各层投影矩阵进行更新,得到新的特征投影矩阵其中,Ak表示第k次迭代后得到的特征投影矩阵,表示Ak中的第1层投影矩阵,表示Ak中的第L层投影矩阵;
3)根据当前的Ak,按式一重新计算出相应的损失函数值Rk,然后判断k的数值是否达到设定的数值:如未达到设定的数值,则进入步骤4),如已达到设定的数值,则进入步骤6);
4)根据式四计算出当前的收敛误差ε,然后将当前的收敛误差ε与设定的误差E进行比较:若ε<E,则进入步骤6),否则进入步骤5);
5)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,得到新的Ak,然后返回步骤3);
6)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,由更新后的各层投影矩阵所构成的特征投影矩阵即为优化特征投影矩阵;
其中,λ为设定的权衡参数;
S1为:
其中,
S2为:
其中,η为设定的学习率;
所述式四包括:ε=|Rk-Rk-1|。
进一步地,采用线性子空间方法、流形学习方法或深度学习方法的特征提取手段从原始高光谱数据中提取出特征投影矩阵;得到优化特征投影矩阵后,相应的按线性子空间方法、流形学习方法或深度学习方法的处理方式对优化特征投影矩阵进行处理,得到高光谱图像。
为了验证本发明的有效性,发明人设计了大量的实验,用于比较其他特征提取方法与本发明的分类精度。这些方法包括线性子空间方法、流形学习方法,以及深度学习方法,比如LDA、FDA、LPP、LGSFA、ANN、DBN和SAE。对所有方法都采用交叉验证来优化参数以获得良好的性能。我们将LPP的近邻数设置为9。对于LGSFA,类内和类间近邻数分别设置为9和180。
为了评估每种方法在不同数量的训练样本下的分类性能,我们从每个类别随机选择ni(ni=20,30,40,50,80,100)的样本作为训练集,将其余样本作为测试集。不同方法对两个高光谱数据集的带有标准差的总体分类精度如表1和2所示。
表1
Table 1:The classification results with different FE methods onPaviaU data set(Overall Accuracy±Std(%))
表2
Table 2:The classification results with different FE methods onIndian Pines data set(Overatll Accuracy±Std(%))
表中,M3DNet表示本发明的方法,Original表示现有手段;
从表1和表2可以看出,所有方法的总体分类精度都随训练集样本量的增加而有所增加。在大多数情况下,深度学习方法(ANN,DBN和SAE)优于子空间方法和流形学习方法,因为后两种方法通常只能提取浅层特征,无法描述高光谱数据复杂的非线性关系。普遍情况下,本发明方法较于现有方法获得了更好的分类性能。在IN数据集中,很容易导致非最佳分类结果,即原始SAE无法得到HSI中的流形结构。而采用本发明方案后,可通过最大化流形余量来自适应优化SAE获得的投影矩阵,从而显著提高不同类别的可分离性。
Claims (1)
1.一种基于深度学习方法的高光谱数据处理方法,包括:采用深度学习方法的特征提取手段从原始高光谱数据中提取出特征投影矩阵,然后对特征投影矩阵进行优化,得到优化特征投影矩阵,然后根据优化特征投影矩阵对高光谱数据进行处理,得到高光谱图像;其特征在于:按如下方法得到优化特征投影矩阵:
2)根据式二计算出Rk相对于Ak-1的梯度;然后根据式三对各层投影矩阵进行更新,得到新的特征投影矩阵其中,Ak表示第k次迭代后得到的特征投影矩阵,表示Ak中的第1层投影矩阵,表示Ak中的第L层投影矩阵;
3)根据当前的Ak,按式一重新计算出相应的损失函数值Rk,然后判断k的数值是否达到设定的数值:如未达到设定的数值,则进入步骤4),如已达到设定的数值,则进入步骤6);
4)根据式四计算出当前的收敛误差ε,然后将当前的收敛误差ε与设定的误差E进行比较:若ε<E,则进入步骤6),否则进入步骤5);
5)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,得到新的Ak,然后返回步骤3);
6)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,由更新后的各层投影矩阵所构成的特征投影矩阵即为优化特征投影矩阵;
其中,λ为设定的权衡参数;
S1为:
S2为:
其中,η为设定的学习率;
所述式四为:ε=|Rk-Rk-1|。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911151815.9A CN110852304B (zh) | 2019-11-22 | 2019-11-22 | 基于深度学习方法的高光谱数据处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911151815.9A CN110852304B (zh) | 2019-11-22 | 2019-11-22 | 基于深度学习方法的高光谱数据处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110852304A CN110852304A (zh) | 2020-02-28 |
CN110852304B true CN110852304B (zh) | 2022-03-22 |
Family
ID=69603387
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911151815.9A Active CN110852304B (zh) | 2019-11-22 | 2019-11-22 | 基于深度学习方法的高光谱数据处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110852304B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112149712B (zh) * | 2020-08-19 | 2023-06-06 | 中国地质大学(武汉) | 一种高效的高光谱遥感数据压缩与分类模型的构建方法 |
CN113315757B (zh) * | 2021-05-10 | 2022-04-08 | 内蒙古工业大学 | 一种面向边缘计算的数据免解码传输方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104134364A (zh) * | 2014-07-29 | 2014-11-05 | 电子科技大学 | 具有自我学习能力的实时交通信号识别方法及*** |
CN104573717A (zh) * | 2014-12-31 | 2015-04-29 | 南京理工大学 | 有监督的流形学习算法 |
CN106778885A (zh) * | 2016-12-26 | 2017-05-31 | 重庆大学 | 基于局部流形嵌入的高光谱图像分类方法 |
CN107203786A (zh) * | 2017-06-06 | 2017-09-26 | 苏州大学 | 基于稀疏边界Fisher算法的图像识别方法及装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8515879B2 (en) * | 2010-08-11 | 2013-08-20 | Seiko Epson Corporation | Supervised nonnegative matrix factorization |
US10565713B2 (en) * | 2016-11-15 | 2020-02-18 | Samsung Electronics Co., Ltd. | Image processing apparatus and method |
-
2019
- 2019-11-22 CN CN201911151815.9A patent/CN110852304B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104134364A (zh) * | 2014-07-29 | 2014-11-05 | 电子科技大学 | 具有自我学习能力的实时交通信号识别方法及*** |
CN104573717A (zh) * | 2014-12-31 | 2015-04-29 | 南京理工大学 | 有监督的流形学习算法 |
CN106778885A (zh) * | 2016-12-26 | 2017-05-31 | 重庆大学 | 基于局部流形嵌入的高光谱图像分类方法 |
CN107203786A (zh) * | 2017-06-06 | 2017-09-26 | 苏州大学 | 基于稀疏边界Fisher算法的图像识别方法及装置 |
Non-Patent Citations (6)
Title |
---|
"Dimensionality reduction of hyperspectral images based on sparse discriminant manifold embedding";Hong Huang等;《ISPRS Journal of Photogrammetry and Remote Sensing》;20150520;第42-54页 * |
"Multi-Feature Manifold Discriminant Analysis for Hyperspectral Image Classification";Hong Huang等;《remote sensing》;20190317;第1-24页 * |
"Semisupervised Sparse Manifold Discriminative Analysis for Feature Extraction of Hyperspectral Images";Fulin Luo等;《IEEE Transactions on Geoscience and Remote Sensing》;20160712;第6197-6211页 * |
"Spatial-Spectral Multiple Manifold Discriminant Analysis for Dimensionality Reduction of Hyperspectral Imagery";Guangyao Shi等;《remote sensing》;20191018;第1-27页 * |
"光谱遥感数据特征提取与特征选择方法研究";魏峰;《中国博士学位论文全文数据库 信息科技辑》;20170115;I140-34 * |
"空-谱协同正则化稀疏超图嵌入的高光谱图像分类";黄鸿等;《测绘学报》;20190630;第676-687页 * |
Also Published As
Publication number | Publication date |
---|---|
CN110852304A (zh) | 2020-02-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111860612B (zh) | 无监督高光谱图像隐低秩投影学习特征提取方法 | |
CN108830296B (zh) | 一种改进的基于深度学习的高分遥感影像分类方法 | |
CN105760821B (zh) | 基于核空间的分类聚集稀疏表示的人脸识别方法 | |
CN110348399B (zh) | 基于原型学习机制和多维残差网络的高光谱智能分类方法 | |
CN107133496B (zh) | 基于流形学习与闭环深度卷积双网络模型的基因特征提取方法 | |
He et al. | A dual global–local attention network for hyperspectral band selection | |
CN109815357B (zh) | 一种基于非线性降维及稀疏表示的遥感图像检索方法 | |
CN109543723B (zh) | 一种鲁棒的图像聚类方法 | |
CN112765352A (zh) | 基于具有自注意力机制的图卷积神经网络文本分类方法 | |
Wang et al. | Self-supervised low-rank representation (SSLRR) for hyperspectral image classification | |
CN109241813B (zh) | 基于判别稀疏保持嵌入的非约束人脸图像降维方法 | |
CN110516533B (zh) | 一种基于深度度量的行人再辨识方法 | |
CN111680579B (zh) | 一种自适应权重多视角度量学习的遥感图像分类方法 | |
Feng et al. | Marginal stacked autoencoder with adaptively-spatial regularization for hyperspectral image classification | |
CN110852304B (zh) | 基于深度学习方法的高光谱数据处理方法 | |
CN115564996A (zh) | 一种基于注意力联合网络的高光谱遥感图像分类方法 | |
CN111242056B (zh) | 一种最大-最小距离嵌入的无监督高光谱图像分类方法 | |
CN115471757A (zh) | 基于卷积神经网络和注意力机制的高光谱图像分类方法 | |
Yuan et al. | ROBUST PCANet for hyperspectral image change detection | |
Shen et al. | A dual sparsity constrained approach for hyperspectral target detection | |
CN117011595A (zh) | 基于近似nmr模型的高光谱图像特征提取方法 | |
CN116778339A (zh) | 局部视图辅助判别高光谱波段选择方法及*** | |
CN112949422B (zh) | 一种基于自监督光谱匹配框架的高光谱目标检测方法 | |
CN112364902B (zh) | 一种基于自适应相似性的特征选择学习方法 | |
CN115496933A (zh) | 基于空间-光谱原型特征学习的高光谱分类方法及*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |