CN112184560A - 基于深度闭环神经网络的高光谱图像超分辨优化方法 - Google Patents
基于深度闭环神经网络的高光谱图像超分辨优化方法 Download PDFInfo
- Publication number
- CN112184560A CN112184560A CN202011387862.6A CN202011387862A CN112184560A CN 112184560 A CN112184560 A CN 112184560A CN 202011387862 A CN202011387862 A CN 202011387862A CN 112184560 A CN112184560 A CN 112184560A
- Authority
- CN
- China
- Prior art keywords
- resolution
- super
- neural network
- image
- hyperspectral image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 32
- 238000005457 optimization Methods 0.000 title claims abstract description 31
- 230000008569 process Effects 0.000 claims abstract description 17
- 238000003062 neural network model Methods 0.000 claims abstract description 15
- 238000013507 mapping Methods 0.000 claims abstract description 13
- 238000000926 separation method Methods 0.000 claims abstract description 13
- 230000003595 spectral effect Effects 0.000 claims abstract description 6
- 238000012549 training Methods 0.000 claims description 22
- 238000001228 spectrum Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 239000000126 substance Substances 0.000 claims description 3
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 2
- DRUQKRWRXOUEGS-NGERZBJRSA-N Samin Chemical compound C1=C2OCOC2=CC([C@H]2OC[C@H]3[C@@H]2CO[C@@H]3O)=C1 DRUQKRWRXOUEGS-NGERZBJRSA-N 0.000 claims description 2
- 230000003190 augmentative effect Effects 0.000 claims description 2
- 238000012545 processing Methods 0.000 claims description 2
- 238000005070 sampling Methods 0.000 claims description 2
- 238000013136 deep learning model Methods 0.000 abstract description 3
- 230000006870 function Effects 0.000 description 13
- 238000013135 deep learning Methods 0.000 description 7
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 230000008309 brain mechanism Effects 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4023—Scaling of whole images or parts thereof, e.g. expanding or contracting based on decimating pixels or lines of pixels; based on inserting pixels or lines of pixels
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Operations Research (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于深度闭环神经网络的高光谱图像超分辨率方法,包括面向高光谱数据构建深度闭环神经网络模型和变量分离精细优化重建高分辨率高光谱图像两个过程,该方法的主要步骤为:构建两个深度学习模型分别学习超分辨过程和逆超分辨过程,两个模型形成闭环网络减少映射空间,促进模型拟合;采用适合高光谱图像的网络结构分别提取空间特征和光谱特征,空间信息和光谱信息联合重构,提高超分辨得到的图像质量;利用训练好的深度闭合神经网络,采取变量分离精细优化方法进行模型迭代求解,优化重建结果。本发明使用适用于高光谱图像超分辨率的深度闭环神经网络,闭环网络可以缩减映射空间,可以得到比单向网络更好的重建结果。
Description
技术领域
本发明属于遥感图像处理领域,具体涉及一种基于深度闭环神经网络的高光谱图像超分辨优化方法。
背景技术
随着遥感技术的发展,卫星高光谱图像被用来进行有效探测和地物类型识别,高光谱图像在地物识别、地质调查等许多方面具有广阔的应用前景。然而,受限于波谱范围和硬件成像条件的影响,高光谱图像往往具有较低的空间分辨率,在低空间分辨率的条件下对高光谱图像进行准确分类和识别十分困难。因此,可以在分类和识别前,通过软件方法来提高遥感图像的空间分辨率,即通过低分辨率的图像来得到一幅高分辨率的图像的超分辨率重建技术。
高光谱图像的超分辨率重建与自然图像的超分辨率重建略有不同,高光谱图像在空间和光谱两个维度上具有相关性。高光谱图像超分辨率技术的困难点在于,如何在有效复原高光谱图像空间信息的同时,保证复原高光谱图像的光谱连续性。传统方法主要通过矩阵分解和建立映射库的方式进行超分辨重建,深度学习方法则直接从数据学习模型,建立低空间分辨率到高空间分辨率图像的端到端的映射。随着深度学习方法的引入和发展,复原得到的高光谱图像的质量越来越高。但基于深度学习的高光谱图像超分辨率方法依然存在问题:(1)建立深度学习模型时,从低分辨率高光谱图像到高分辨率高光谱图像的映射空间过于巨大,很难学习到正确的映射关系;(2)数据集中数据的数量是有限的,无法包括所有地物的情况,对于数据集中不包含的情况,模型无法学习到正确的映射关系,重建得到的高分辨率高光谱图像中的空间一致性和光谱一致性都很难保持。
发明内容
本发明的目的在于提供一种基于深度闭环神经网络的高光谱图像超分辨优化方法。
实现本发明目的的技术解决方案为:一种基于深度闭环神经网络和的卫星高光谱图像超分辨率方法,包括以下步骤:
从卫星获取高光谱数据 Y gt ,用双三次插值模拟生成Y gt 对应的低分辨率高光谱图像X lr ;
建立深度闭环神经网络的结构,包括超分辨率神经网络模型和逆超分辨率神经网络模型,设置好参数,输入Y gt 和X lr 图像对来训练模型;
根据训练好的深度闭环神经网络构建包含数据项和先验项的目标函数,并引入辅助变量来构建最终的高光谱超分辨率重建的目标函数;
通过基于超分辨率重建的目标函数求解的变量分离精细优化方法,直接迭代重建高分辨率高光谱图像。
本发明与现有技术相比,其显著优点在于:(1)本发明使用适用于高光谱图像超分辨率的深度闭环神经网络,闭环网络可以缩减映射空间,可以得到比单向网络更好的重建结果;(2)本发明在深度闭环神经网络的基础上构建变量分离精细优化方法的目标函数,将高光谱图像超分辨率问题转化为多个子问题的迭代求解,并通过引入辅助变量使目标函数在多个方向上均存在解析解;变量分离精细优化方法直接在深度学习端到端网络的输出结果的基础进行迭代优化,可以得到比深度闭环神经网络直接输出更好的超分辨率结果;特别是对深度闭环神经网络未学习到的映射关系,可以通过迭代叠加的方式减少模型对超分辨率输出结果的不利影响。
附图说明
图1是本发明基于深度闭环神经网络的卫星高光谱图像超分辨率方法流程图。
图2是本发明基于深度学习方法的深度闭环神经网络的训练过程示意图。
图3是本发明高光谱数据变量分离精细优化方法迭代优化重建流程示意图。
具体实施方式
如图1所示,本发明的一种基于深度闭环神经网络的卫星高光谱图像超分辨率方法,包括以下步骤:
(1)根据高光谱数据建立深度闭环神经网络模型:
步骤2、建立深度闭环神经网络的结构,包括超分辨率神经网络模型和逆超分辨率神经网络模型,设置好参数,输入Y gt 和X lr 图像对来训练模型。
(2)变量分离精细优化方法重建高分辨率高光谱图像:
步骤3、根据训练好的深度闭环神经网络构建包含数据项和先验项的目标函数,并引入辅助变量来构建最终的高光谱超分辨率重建的目标函数;
步骤4、通过基于超分辨率重建的目标函数求解的变量分离精细优化方法,直接迭代重建高分辨率高光谱图像。
进一步的,首先构建适合高光谱图像的深度闭环神经网络模型,该神经网络可以提取高光谱图像的空间特征和光谱特征,可以通过提取的特征重建高分辨率高光谱图像来完成超分辨率过程。然后通过构建一个额外的神经网络来模拟逆超分辨率过程即还原过程,两个神经网络形成一个闭环可以将实际训练得到的超分辨率过程的映射缩小到一个接近高光谱图像超分辨率真实过程的映射范围内。通过组合L1范数和光谱角构建适合高光谱图像的两步训练的损失函数更能促进模型拟合。
根据高光谱数据建立深度闭环神经网络模型的过程为:
步骤1,从卫星获取高光谱数据Y gt ,用双三次插值模拟生成Y gt 对应的低分辨率高光谱图像X lr ;
深度学习方法通过仿人脑的机制来从数据学习模型,是监督学习的一种。在超分辨率
这个任务中,需要低分辨率的高光谱图像X lr 和对应的高分辨率的高光谱图像Y gt ,其中,m为空间长,n为空间宽,c为光谱维数;,r为放大倍
数;由于很难获取同一时间同一场景下不同空间分辨率的高光谱图像,使用双三次插值降
采样方法处理高光谱图像,以模拟相同环境下的低分辨率高光谱图像。
步骤2,建立深度闭环神经网络模型,包括超分辨率神经网络模型和逆超分辨率神经网络模型,设置好参数,输入Y gt 和X lr 图像对来训练模型。
整个训练过程如附图2所示,首先初始化训练参数,如选择优化器、设置目标训练代数niters、初始化当前训练代数n为0、设置学习率等。
之后进入循环,分为两步交替训练:
每次交替训练后,当前训练代数n增加1,当当前训练代数达到目标训练代数时,跳出循环,训练完成。
进一步的,基于训练好的深度闭环神经网络来构建目标函数,该目标函数分为两部分,数据保真项l data 和先验项 l prior 。数据保真项保证优化重建的高分辨率高光谱图像还原后与原始输入的低分辨率图像尽量一致。先验项包括重建图像保真项和空间梯度项。重建图像保真项保证重建后图像要在模型的映射范围内,即让经过深度闭环网络循环后产生的图像与原图尽量保持一致。空间梯度被用来使图像平滑,减少重建图像中的锯齿感。
变量分离精细优化方法优化过程的目标函数为:
其中,α为重建后的高分辨率高光谱图像l mse 为均方误差,ε 1和ε 2为比例系数,TV xy 为空间梯度运算符,包括x方向和y方向梯度的串联叠加,其中梯度计算方式为该方向的后一个像素和前一个像素的差值,即:
进一步的,引入辅助变量将上述过程的无约束问题转化为带约束的最优化问题。然后引入增广拉格朗日和乘子法将约束问题转化为对应的迭代形式。根据迭代形式可以直接迭代优化重建高分辨率高光谱图像。
步骤3中引入重建后高光谱图像的梯度z作为辅助变量得:
步骤4,提出基于超分辨率重建的目标函数求解的变量分离精细优化方法,直接迭代重建高分辨率高光谱图像α,具体过程如附图3所示为:
引入训练好的模型参数,然后初始化变量。其中,z=0,拉格朗日乘子项u=
0。比例系数在范围(0, 0.1]内取值,设置为0.001,设置为0.1。设置n1、n2为分别最大
内、外循环次数,k为当前外循环迭代次数,初始时k为0;
控制梯度约束稀疏性的强度得到
更新拉格朗日乘子项u,计算公式为
反复迭代优化后的α解即为最后优化重建的高分辨率高光谱图像。
本发明的应用需要一定量的数据集支持,包括低分辨率和高分辨率的高光谱图像对,用于学习深度学习模型;在此基础上可以得到比一般深度学习端到端输出更好的超分辨率重建结果。
Claims (5)
1.一种基于深度闭环神经网络的高光谱图像超分辨优化方法,其特征在于,包括以下步骤:
从卫星获取高光谱数据Y gt ,用双三次插值模拟生成Y gt 对应的低分辨率高光谱图像X lr ;
建立深度闭环神经网络的结构,包括超分辨率神经网络模型和逆超分辨率神经网络模型,设置好参数,输入 Y gt 和X lr 图像对来训练模型;
根据训练好的深度闭环神经网络构建包含数据项和先验项的目标函数,并引入辅助变量来构建最终的高光谱超分辨率重建的目标函数;
通过基于超分辨率重建的目标函数求解的变量分离精细优化方法,直接迭代重建高分辨率高光谱图像。
3.根据权利要求1所述的基于深度闭环神经网络的高光谱图像超分辨优化方法,其特征在于,建立深度闭环神经网络模型,包括超分辨率神经网络模型和逆超分辨率神经网络模型,设置好参数,输入Y gt 和X lr 图像对来训练模型,具体如下:
训练过程分为两步交替训练:
5.根据权利要求4所述的基于深度闭环神经网络的高光谱图像超分辨优化方法,其特征在于,引入辅助变量将无约束问题转化为带约束的最优化问题;然后引入增广拉格朗日和乘子法将约束问题转化为对应的迭代形式;根据迭代形式直接迭代优化重建高分辨率高光谱图像;
引入重建后高光谱图像的梯度z作为辅助变量得:
提出基于超分辨率重建的目标函数求解的变量分离精细优化方法,直接迭代重建高分辨率高光谱图像 α,具体过程为:
设k为迭代次数,初始时k=0;更新变量α,计算公式为
使用ADAM优化器构建内循环来迭代更新α,然后更新辅助变量z,计算公式为:
控制梯度约束稀疏性的强度得到
更新拉格朗日乘子项u,计算公式为
反复迭代优化后的α解即为最后优化重建的高分辨率高光谱图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011387862.6A CN112184560B (zh) | 2020-12-02 | 2020-12-02 | 基于深度闭环神经网络的高光谱图像超分辨优化方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011387862.6A CN112184560B (zh) | 2020-12-02 | 2020-12-02 | 基于深度闭环神经网络的高光谱图像超分辨优化方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112184560A true CN112184560A (zh) | 2021-01-05 |
CN112184560B CN112184560B (zh) | 2021-03-26 |
Family
ID=73918322
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011387862.6A Active CN112184560B (zh) | 2020-12-02 | 2020-12-02 | 基于深度闭环神经网络的高光谱图像超分辨优化方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112184560B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113554553A (zh) * | 2021-07-26 | 2021-10-26 | 清华大学 | 一种基于自调整闭环网络的抗假频声波图像插值方法 |
CN114916950A (zh) * | 2022-07-21 | 2022-08-19 | 中国科学院深圳先进技术研究院 | 基于多层平板探测器的高空间分辨能谱ct图像重建方法 |
CN114972625A (zh) * | 2022-03-22 | 2022-08-30 | 广东工业大学 | 一种基于rgb光谱超分辨技术的高光谱点云生成方法 |
CN114972022A (zh) * | 2022-04-18 | 2022-08-30 | 北京理工大学 | 一种基于非对齐rgb图像的融合高光谱超分辨率方法和*** |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180218197A1 (en) * | 2017-01-27 | 2018-08-02 | Signal Processing, Inc. | Method and System for Enhancing Predictive Accuracy of Planet Surface Characteristics from Orbit |
CN109615577A (zh) * | 2018-10-26 | 2019-04-12 | 西安电子科技大学 | 基于卷积网络的高光谱图像超分辨处理方法 |
-
2020
- 2020-12-02 CN CN202011387862.6A patent/CN112184560B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180218197A1 (en) * | 2017-01-27 | 2018-08-02 | Signal Processing, Inc. | Method and System for Enhancing Predictive Accuracy of Planet Surface Characteristics from Orbit |
CN109615577A (zh) * | 2018-10-26 | 2019-04-12 | 西安电子科技大学 | 基于卷积网络的高光谱图像超分辨处理方法 |
Non-Patent Citations (1)
Title |
---|
胡静: "基于深度学习的高光谱图像超分辨处理方法研究", 《中国博士学位论文全文数据库 信息科技辑》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113554553A (zh) * | 2021-07-26 | 2021-10-26 | 清华大学 | 一种基于自调整闭环网络的抗假频声波图像插值方法 |
CN114972625A (zh) * | 2022-03-22 | 2022-08-30 | 广东工业大学 | 一种基于rgb光谱超分辨技术的高光谱点云生成方法 |
CN114972022A (zh) * | 2022-04-18 | 2022-08-30 | 北京理工大学 | 一种基于非对齐rgb图像的融合高光谱超分辨率方法和*** |
CN114972022B (zh) * | 2022-04-18 | 2024-06-07 | 北京理工大学 | 一种基于非对齐rgb图像的融合高光谱超分辨率方法和*** |
CN114916950A (zh) * | 2022-07-21 | 2022-08-19 | 中国科学院深圳先进技术研究院 | 基于多层平板探测器的高空间分辨能谱ct图像重建方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112184560B (zh) | 2021-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112184560B (zh) | 基于深度闭环神经网络的高光谱图像超分辨优化方法 | |
CN110119780B (zh) | 基于生成对抗网络的高光谱图像超分辨重建方法 | |
He et al. | InSituNet: Deep image synthesis for parameter space exploration of ensemble simulations | |
CN105046672B (zh) | 一种图像超分辨率重建方法 | |
CN107525588B (zh) | 一种基于gpu的双相机光谱成像***的快速重构方法 | |
CN110415199B (zh) | 基于残差学习的多光谱遥感图像融合方法及装置 | |
CN109883548B (zh) | 基于优化启发的神经网络的光谱成像***的编码优化方法 | |
CN113177882B (zh) | 一种基于扩散模型的单帧图像超分辨处理方法 | |
CN109697697B (zh) | 基于优化启发的神经网络的光谱成像***的重构方法 | |
CN109785279B (zh) | 一种基于深度学习的图像融合重建方法 | |
CN112488978A (zh) | 基于模糊核估计的多光谱图像融合成像方法及*** | |
CN109886898B (zh) | 基于优化启发的神经网络的光谱成像***的成像方法 | |
CN113112592A (zh) | 一种可驱动的隐式三维人体表示方法 | |
CN108492249A (zh) | 基于小卷积递归神经网络的单帧超分辨重建方法 | |
Guan et al. | Srdgan: learning the noise prior for super resolution with dual generative adversarial networks | |
CN115272078A (zh) | 基于多尺度空-谱特征学习的高光谱图像超分辨率重建方法 | |
CN112163998A (zh) | 一种匹配自然降质条件的单图像超分辨率分析方法 | |
Yang et al. | Image super-resolution reconstruction based on improved Dirac residual network | |
WO2022222011A1 (zh) | 一种可驱动的隐式三维人体表示方法 | |
CN115760670B (zh) | 基于网络隐式先验的无监督高光谱融合方法及装置 | |
CN117058009A (zh) | 一种基于条件扩散模型的全色锐化方法 | |
CN116612009A (zh) | 一种多尺度连接生成对抗网络医学图像超分辨率重建方法 | |
Zhang et al. | Optimization-inspired Cumulative Transmission Network for image compressive sensing | |
Qu et al. | Deep generative data assimilation in multimodal setting | |
Han et al. | Pyramid Attention “Zero-Shot” Network for Single-Image Superresolution |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |