CN110334765B - 基于注意力机制多尺度深度学习的遥感影像分类方法 - Google Patents

基于注意力机制多尺度深度学习的遥感影像分类方法 Download PDF

Info

Publication number
CN110334765B
CN110334765B CN201910603799.6A CN201910603799A CN110334765B CN 110334765 B CN110334765 B CN 110334765B CN 201910603799 A CN201910603799 A CN 201910603799A CN 110334765 B CN110334765 B CN 110334765B
Authority
CN
China
Prior art keywords
remote sensing
neural network
training
convolutional neural
image library
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910603799.6A
Other languages
English (en)
Other versions
CN110334765A (zh
Inventor
唐旭
马秋硕
马晶晶
焦李成
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xidian University
Original Assignee
Xidian University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xidian University filed Critical Xidian University
Priority to CN201910603799.6A priority Critical patent/CN110334765B/zh
Publication of CN110334765A publication Critical patent/CN110334765A/zh
Application granted granted Critical
Publication of CN110334765B publication Critical patent/CN110334765B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10032—Satellite or aerial image; Remote sensing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种基于注意力机制多尺度深度学习的遥感影像分类方法，主要解决现有技术分类准确率低的问题。其方案是：建立遥感图像库和图像库对应的类别,并从归一化处理后的每类遥感图像中随机挑选80％的遥感图像样本构建训练图像库；构建一个包括卷积网络模块、注意力模块、SCDA模块和全连接层的卷积神经网络；将训练图像库中的训练样本输入到卷积神经网络获得训练样本的分类结果，并确定卷积神经网络的损失函数；通过梯度下降方法对损失函数迭代更新直到损失值稳定，得到训练好的卷积神经网络；将待分类的遥感图片经归一化后，输入到训练好的卷积神经网络获得分类结果；本发明分类精度高，鲁棒性强，可应用于遥感图像数据的分析和管理。

Description

基于注意力机制多尺度深度学习的遥感影像分类方法
技术领域
本发明属于图像处理技术领域，特别涉及一种遥感影像内容分类方法，可应用于遥感图像数据的分析和管理。
背景技术
随着卫星遥感图像和航空遥感图像分辨率不断提高,可以从遥感图像中获得更多有用的数据和信息。而针对不同场合的应用，对遥感图像的处理也有着不同的要求,所以为了有效地对这些遥感图像数据进行分析和管理，需要根据图像内容给图像贴上语义标签。而场景分类就是解决该类问题的一种重要途径。场景分类指的就是从多幅图像中区分出具有相似场景特征的图像，并正确的对这些图像进行分类。相较于自然图像，遥感图像本身有存在着自身的特点，其分类结果由于遥感图像本身的空间分辨率的限制以及同物异谱、异物同谱现象的存在，常常会造成错分的现象，这是由遥感图像本身的复杂性造成的。因此，如何更精确地对遥感图像进行分类也成为了一项挑战。
基于卷积神经网络的分类，是指将需要训练的一些图片，分批次的输入卷积神经网络当中，通过大批量数据的反复训练，使得目标优化损失函数降低。从而实现分类的目的。如今已经有很多较为成熟、著名的卷积神经被提出。如2012年，AlexKrizhevsky就提出了一种深度卷积网络模型“AlexNet”。
现有的卷积神经网络虽然能够实现图片场景分类的任务，但是在学习图片语义信息的时候仍然存在两方面的不足，一是由遥感图像复杂性导致的分类信息定位不准确，二是卷神经网络在训练时常常会陷入局部显著区域，如图1所示。这两个不足会导致在实际场景的分类的过程中存在鲁棒性差和易于产生错分的问题。
发明内容
本发明目的在于针对上述已有技术存在的问题，提出一种基于注意力机制多尺度的遥感图像分类方法，以减小遥感图像分类目标陷入局部区域的概率，扩大卷积网络注意力区域，提高遥感图像的分类准确度。
本发明的技术思路是：利用卷积神经网络获得图片的卷积特征，根据注意力机制原理，利用注意力机制获取利于分类的有用信息，从有用信息中提取多尺度的卷积层特征，并通过全连接层网络实现图像分类。
根据上述思路，本发明的实现步骤包括如下：
(1)建立遥感图像库{I1,I2,…In…,IN}，图像库对应的类别为{Y1,Y2,…Yn…,YN},并对建立的遥感图像库进行归一化处理，其中n代表图像库中第n个样本编号，n∈[0,N]，N代表遥感图像库的图片数目；
(2)从归一化处理后的每类图像中随机挑选80％的样本，构建训练图像库{T1,T2,…Tj…,TM}，其中M<N，其中Tj代表训练图像库中第j个图片，j∈[0,M]，M为训练样本的总个数；
(3)构建一个包括卷积网络模块、注意力模块、SCDA模块和全连接层的卷积神经网络；
(4)确定卷积神经网络的损失函数：
(4a)将训练图像库{T1,T2,…Tj…,TM}输入到带有预训练权重的卷积层神经网络，输出卷积层的最后一层特征F；
(4b)将最后一层特征F输入到卷积神经网络的注意力模块，输出卷积特征A，再将卷积层特征A输入到卷积神经网络带有不同平均阈值的多个SCDA模块，输出T组掩码卷积特征：{M1,M2,…MT}，其中T为SCDA模块的个数；
(4c)将T组掩码卷积特征经过全局平均池化后输入到卷积神经网络的全连接层，输出训练数据的分类结果，得到卷积神经网络的损失函数：
Figure BDA0002120139630000021
其中，loss1为输出分类结果与实际结果的交叉熵，loss2为T组掩码卷积特征经过全连接层后输出分类结果与实际结果交叉熵的绝对值和，
Figure BDA0002120139630000022
为卷积神经网络权重向量的L2范数，λr、λs、η分别为loss1，loss2，/>
Figure BDA0002120139630000023
的超参数；
(5)设置迭代次数为P，通过梯度下降优化对卷积神经网络进行迭代训练，直到损失函数
Figure BDA0002120139630000031
不下降或训练轮次数达到迭代次数，得到训练好的卷积神经网络；
(6)用户将待分类的遥感图I'像归一化后输入到训练好的卷积神经网络当中，得到分类结果，完成图片分类。
本发明与现有的技术相比具有以下优点：
1、本发明由于基于注意力机制原理，能够快速的找到遥感图像当中较为明显的特征，将用于分类的特征更加集中于某一带有明显语义信息的区域，增强了遥感图像场景分类准确性；
2、本发明使用SCDA模块，使卷积神经网络的感受视野扩大，减小了遥感图像分类目标陷入局部区域的概率，增强了遥感图像分类的准确性以及鲁棒性；
3、本发明设计了损失函数，进一步明确分类任务，提升了遥感图像分类的准确性。
附图说明
图1是本发明的实现流程图；
图2是本发明中构建的卷积神经网络结构图；
图3是本发明仿真使用的遥感图像样图。
具体实施方式
以下结合附图对本发明的实施例效果作进一步详细描述。
参照图1，本发明的实现步骤如下：
步骤1，建立遥感图像库，获得训练样本和测试样本。
1a)从weegee官网下载UC Merced图像，建立遥感图像库{I1,I2,…In…,IN}，图像库对应的类别为{Y1,Y2,…Yn…,YN},其中In代表图像库中第n个图像，Yn代表图像库中第n个图像对应的类别，n代表图像库中第n个样本编号，n∈[0,N]；
1b)对建立的遥感图像库按照如下公式进行归一化处理：
Figure BDA0002120139630000032
其中Vmax为遥感图像库中所有像素的点最大值，Vmin为遥感图像库中所有像素的点最小值，{I'1,I'2,…I'n…,I'N}为归一化处理后的遥感图像库，I'n为归一化处理后图像集的第n个样本，n∈[0,N]，N代表归一化后遥感图像库的图片数目；
1c)从归一化处理后遥感图像库的每类图像中随机挑选80％的遥感图像作为训练样本集{T1,T2,…Tj…,TM}，将剩余的20％的遥感图像作为测试样本集{T1,T2,…Td…,Tm}，其中Tj表示训练样本中的第j个样本，j∈[0,M]，td表示测试样本中第d个样本，d∈[0,m]，M为训练样本的总个数，m为测试样本的总个数，m<N，M<N。
步骤2，构建卷积神经网络。
参照图2，本步骤的实现如下：
2a)设置卷积网络模块，该模块由预训练AlexNet网络中依次连接的五个卷积层{conv1,conv2,conv3,conv4,conv5}构成；
2b)设置注意力模块，该模块由一个全局平均池化层、第一全连接层、Relu激活层、第二全连接层和Sigmoid函数组成，其结构如图3所示；
所述全局平均池化层：其输入的卷积特征大小为W×H×C，用于对C个W×H的卷积求平均，输出1×1×C的卷积特征；
所述第一全连接层：其卷积核大小设置为1×1×C'/16，其中，C'为输入第一全连层的特征维度；
所述第二全连接层：其卷积核大小设置为1×1×C”，其中，C”为输入第二全连层的特征维度；
所述Relu激活函数和Sigmoid激活函数分别为：
Figure BDA0002120139630000041
Figure BDA0002120139630000042
其中x为Relu激活函数的输入函数，x'为Sigmoid激活函数的输入函数；
2c)设置SCDA模块，用于输出卷积掩码特征
参照图2，该SCDA模块的工作原理如下：
注意力模块的第二全连接层输出的三维卷积特征输入给SCDA模块进行第三个维度求和，得到二维卷积特征，对得到的二维卷积特征求平均值；
根据平均值进行卷积掩码，即将二维卷积特征数据点的值与平均值进行比较，若二维卷积特征数据点的值大于平均值，则编码为1，若二维卷积特征的数据点的值小于平均值，则编码为0，得到卷积掩码；
提取卷积掩码特征，即将卷积掩码与设置的平均值阈值E相乘，并对相乘后的卷积掩码数据值加1，再与输入SCDA模块的三维卷积特征相乘，得到掩码特征；对掩码特征的前两个维度取平均，得到卷积掩码特征并输出；
2d)设置全连接层，该全连接层依次由卷积核大小分别为512×1024,102的4×1024,1024×21的三个卷积核组成；
2e)将上述设置的卷积网络模块、注意力模块、SCDA模块和全连接层依次相连，得到卷积神经网络。
步骤3确定卷积神经网络的损失函数：
3a)将训练样本集{T1,T2,…Tj…,TM}输入到卷积层神经网络的卷积网络模块，输出卷积层的最后一层特征F；
3b)将最后一层特征F输入到卷积神经网络的注意力模块，输出卷积特征A，再将卷积层特征A输入到卷积神经网络带有不同平均阈值的多个SCDA模块，输出T组掩码卷积特征：{M1,M2,…MT}，其中T为SCDA模块的个数；
3c)将T组掩码卷积特征输入到卷积神经网络的全连接层，输出训练数据的分类结果，得到卷积神经网络的损失函数lossop：
Figure BDA0002120139630000051
其中：
Figure BDA0002120139630000052
为卷积神经网络权重向量的L2范数，λr、λs、η分别为loss1，loss2，/>
Figure BDA0002120139630000053
的超参数；
Figure BDA0002120139630000054
表示输出分类结果与实际结果的交叉熵，yj为训练图像库中Tj的预测类标概率，oj为训练图像库中Tj的实际类标；
Figure BDA0002120139630000055
表示T组掩码卷积特征经过全连接层后输出分类结果与实际结果交叉熵的绝对值和，T为SCDA模块说木，lossm为训练图像库中Tj在第m卷积掩码特征下的，lossn为训练图像库中Tj在第n卷积掩码特征下的loss1。
步骤4，对卷积神经网络进行迭代训练。
对卷积神经网络进行迭代训练的现有方法有梯度下降优化算法、Nesterov梯度加速法、Adagrad方法、本发明采用但不限于梯度下降算法，其实现步骤如下：
4a)设置迭代次数为P，设置训练的初始学习率为L，衰减率为β,将训练图像库{T1,T2,…Tj…,TM}分为G次输入到步骤2构建的卷积神经网络中，每次输入的图片数目Q为：
Figure BDA0002120139630000061
其中M为训练图像库样本的总个数；
4b)设每次输入图片对应的学习率l为：
l＝L*βG；
4c)通过如下公式对卷积神经网络进行G次参数更新，得到更新后的权重向量Wnew；
Figure BDA0002120139630000062
其中，W为卷积神经网络参数的权重向量；
将更新后的权重向量Wnew带入3c)中的损失函数，得到权重向量更新后的损失函数lossop；
4d)将下一次训练图片输入到卷积神经网络，对权重向量更新后的损失函数lossop进行更新，使得该损失函数lossop的值不断下降；
4e)重复4d)，直到损失函数lossop不再下降，且当前训练轮次数小于设置的迭代次数P，则停止对该网络的训练，得到训练好的卷积神经网络；否则，当训练轮次达到设置的迭代次数P时，停止对该网络的训练，得到训练好的卷积神经网络；
步骤5对用户输入的遥感场景图片进行分类。
5a)用户对待分类的遥感图像进行归一化处理，即先获取待分类遥感图像像素点最大值V'max和像素点的最小值V'min，再对待分类遥感图像的所有像素点的值除以V'max与V'min的差值，得到归一化处理后的待分类遥感图像；
5b)将归一化处理后的遥感图像输入到训练好的卷积网络模型中，获得分类结果。
本发明的效果可通过以下仿真进一步说明：
1.仿真条件
本实例在HP-Z840-Workstation with Xeon(R)CPU E5-2630,GeForce TITAN XP,64G RAM，Ubuntu***下，TensorFlow运行平台上，完成本发明以及现有遥感图像场景分类仿真。
仿真参数设置如下，迭代轮次P为100次，学***均值阈值分别为p1＝1.0，p2＝0.8，p3＝0.6，将训练数据随机旋转，增强为原来数据数目的四倍。训练顺序为在每一次的迭代训练中，对类标判别器，分类差值优化器，共同训练。
2.仿真内容
下载UC Merced遥感图像集，图3所示，并对其进行归一化处理，即先获取UCMerced图像集像素点最大值V”max和像素点的最小值V”min，再对UC Merced图像集的所有像素点的值除以V”max与V”min的差值，得到归一化处理后的UC Merced图像集；
从归一化处理后的UC Merced图像中随机挑选80％的遥感图像作为训练样本集DT，将剩余的20％的遥感图像作为测试样本集Dt；
在上述仿真条件下，采用训练样本集DT分别用本发明和现有代表性的三种图像分类模型进行训练，采用测试样本集Dt进行测试，比较其分类的准确率，结果如表1。
该训练样本集和测试样本集中的图像均有21个种类，分别为agricultural、airplane、baseball diamond、beach、buildings、chaparral、dense residential、forest、freeway、golf course、harbor、intersection、medium residential、mobilehomepark、overpass、parking lot、river、runway、sparse residential、storage tanks、tenniscourt，
表1本发明与现有遥感图像分类模型性能评价
测试样本准确率
本发明 0.9849
MSCP 0.9782
SHHTFM 0.9789
DCA 0.9690
表1中MSCP为现有基于多堆叠协方差池化的遥感图像分类方法，SHHTFM为现有基于同构异构稀疏的遥感图像分类方法，DCA为现有基于深度特征融合的遥感图像分类方法。
从表1可以看出，在训练样本集DT占UC Merced图像集的百分比为80％时，用本发明训练好的卷积神经网络对20％的测试样本集Dt进行分类，其准确率要比现有代表性的遥感图像分类模型精确率高。
综上所述，本发明针对遥感图像的分类效果明显优于其他遥感图像分类模型。

Claims (6)

1.一种基于注意力机制多尺度深度学习的遥感图像分类方法，其特征在于，包括如下：
(1)建立遥感图像库{I1,I2,…In…,IN}，图像库对应的类别为{Y1,Y2,…Yn…,YN},并对建立的遥感图像库进行归一化处理，其中In代表图像库中第n个图像，Yn代表图像库中第n个图像对应的类别，n代表图像库中第n个样本编号，n∈[0,N]，N代表遥感图像库的图片数目；
(2)从归一化处理后的每类遥感图像中随机挑选80％的遥感图像样本，构建训练图像库n∈[0,N]，将剩余的20％的遥感图像作为测试样本集{T1,T2,…Td…,Tm},其中Tj表示训练样本中的第j个样本，j∈[0,M]，td表示测试样本中第d个样本，d∈[0,m]，M为训练样本的总个数，
m为测试样本的总个数，m<N，M<N；其中，其中Tj代表训练图像库中第j个图片，j∈[0,M]，
M为训练样本的总个数；
(3)构建一个包括卷积网络模块、注意力模块、SCDA模块和全连接层的卷积神经网络；
(4)确定卷积神经网络的损失函数：
(4a)将训练图像库{T1,T2,…Tj…,TM}输入到卷积层神经网络的卷积网络模块，输出卷积层的最后一层特征F；
(4b)将最后一层特征F输入到卷积神经网络的注意力模块，输出卷积特征A，再将卷积层特征A输入到卷积神经网络带有不同平均阈值的多个SCDA模块，输出T组掩码卷积特征：
{M1,M2,…,MT}，其中T为SCDA模块的个数；
(4c)将T组掩码卷积特征经过全局平均池化后输入到卷积神经网络的全连接层，输出训练数据的分类结果，得到卷积神经网络的损失函数：
Figure FDA0003967657330000011
其中，loss1为输出分类结果与实际结果的交叉熵，loss2为T组掩码卷积特征经过全连接层后输出分类结果与实际结果交叉熵的绝对值和，
Figure FDA0003967657330000012
为卷积神经网络权重向量的L2范数，
λr、λs、η分别为loss1，loss2，
Figure FDA0003967657330000013
的超参数；
(5)设置迭代次数为P，通过梯度下降优化对卷积神经网络进行迭代训练，直到损失函数lossop不下降或训练轮次数达到迭代次数，得到训练好的卷积神经网络；
(6)用户将待分类的遥感图像I'归一化后输入到训练好的卷积神经网络当中，得到分类结果，完成图片分类。
2.根据权利要求1所述的方法，其特征在于，(1)中对遥感图像库进行归一化处理，通过如下公式进行：
Figure FDA0003967657330000021
其中Vmax为遥感图像库中所有像素的点最大值，Vmin为遥感图像库中所有像素的点最小值，
{I'1,I'2,…I'n…,I'N}为归一化处理后的遥感图像库，I'n为归一化处理后遥感图像的第n个样本，n∈[0,N]。
3.根据权利要求1所述的方法，其特征在于，(3)中组成卷积神经网络的卷积网络模块、注意力模块、SCDA模块和全连接层，其参数设置如下：
所述卷积网络模块，其由预训练AlexNet网络中依次连接的五个卷积层{conv1,conv2,conv3,conv4,conv5}构成；
所述注意力机制模块，其由全局平均池化层、第一全连接层、Relu激活函数、第二全连接层和Sigmoid函数构成；
所述SCDA模块，依次其由卷积通道求和层和掩码层构成。
4.根据权利要求1所述的方法，其特征在于，(4c)中的输出分类结果与实际结果的交叉熵loss1，公式如下：
Figure FDA0003967657330000022
其中，yj为训练图像库中Tj的预测类标概率，oj为训练图像库中Tj的实际类标。
5.根据权利要求1所述的方法，其特征在于，(4c)中的T组掩码卷积特征经过全连接层后输出分类结果与实际结果交叉熵的绝对值和，公式如下：
Figure FDA0003967657330000031
其中T代表SCDA模块的数目，lossm代表训练图像库中Tj在第m卷积掩码特征下的loss1，lossn代表训练图像库中Tj在第n卷积掩码特征下的loss1。
6.根据权利要求1所述的方法，其特征在于，(5)中通过梯度下降优化对卷积神经网络进行迭代训练，其实现如下：
(5a)设置训练的初始学习率为L，衰减率为β,将训练图像库{T1,T2,…Tj…,TM}分为G次输入构建的卷积神经网络中，每次输入的图片数目Q为：
Figure FDA0003967657330000032
其中M为训练图像库样本的总个数；
(5b)设每次输入图片对应的学习率l为：
l＝L*βG；
(5c)通过如下公式对卷积神经网络进行G次参数更新，得到更新后的权重向量Wnew；
Figure FDA0003967657330000033
其中，W为卷积神经网络参数的权重向量；
(5d)将下一次训练图片输入卷积神经网络，对权重向量更新后的损失函数lossop进行更新，使得损失函数lossop的值不断下降；
(5e)重复(5d)，直到损失函数lossop不再下降，且当前训练轮次数小于设置的迭代次数P，则停止对该网络的训练，得到训练好的卷积神经网络；否则，当训练轮次达到设置的迭代次数P时，停止对该网络的训练，得到训练好的卷积神经网络。
CN201910603799.6A 2019-07-05 2019-07-05 基于注意力机制多尺度深度学习的遥感影像分类方法 Active CN110334765B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910603799.6A CN110334765B (zh) 2019-07-05 2019-07-05 基于注意力机制多尺度深度学习的遥感影像分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910603799.6A CN110334765B (zh) 2019-07-05 2019-07-05 基于注意力机制多尺度深度学习的遥感影像分类方法

Publications (2)

Publication Number Publication Date
CN110334765A CN110334765A (zh) 2019-10-15
CN110334765B true CN110334765B (zh) 2023-03-24

Family

ID=68144267

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910603799.6A Active CN110334765B (zh) 2019-07-05 2019-07-05 基于注意力机制多尺度深度学习的遥感影像分类方法

Country Status (1)

Country Link
CN (1) CN110334765B (zh)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110866494B (zh) * 2019-11-14 2022-09-06 三亚中科遥感研究所 一种基于光学遥感影像的城镇群提取方法及***
CN111046962B (zh) * 2019-12-16 2022-10-04 中国人民解放军战略支援部队信息工程大学 基于稀疏注意力的卷积神经网络模型的特征可视化方法及***
CN111178304B (zh) * 2019-12-31 2021-11-05 江苏省测绘研究所 基于全卷积神经网络的高分辨率遥感影像像素级解译方法
CN111339862B (zh) * 2020-02-17 2021-04-27 中国地质大学（武汉） 一种基于通道注意力机制的遥感场景分类方法及装置
CN111275192B (zh) * 2020-02-28 2023-05-02 交叉信息核心技术研究院(西安)有限公司 一种同时提高神经网络精确度和鲁棒性的辅助训练方法
CN111723674B (zh) * 2020-05-26 2022-08-05 河海大学 基于马尔科夫链蒙特卡洛与变分推断的半贝叶斯深度学习的遥感图像场景分类方法
CN111861880B (zh) * 2020-06-05 2022-08-30 昆明理工大学 基于区域信息增强与块自注意力的图像超分与融合方法
CN111738124B (zh) * 2020-06-15 2023-08-22 西安电子科技大学 基于Gabor变换和注意力的遥感图像云检测方法
CN111797941A (zh) * 2020-07-20 2020-10-20 中国科学院长春光学精密机械与物理研究所 携带光谱信息和空间信息的图像分类方法及***
CN112101190B (zh) * 2020-09-11 2023-11-03 西安电子科技大学 一种遥感图像分类方法、存储介质及计算设备
CN112580557A (zh) * 2020-12-25 2021-03-30 深圳市优必选科技股份有限公司 行为识别方法、装置、终端设备和可读存储介质
CN112926380B (zh) * 2021-01-08 2022-06-24 浙江大学 一种新型水下激光目标智能识别***
CN113191285B (zh) * 2021-05-08 2023-01-20 山东大学 基于卷积神经网络和Transformer的河湖遥感图像分割方法及***
CN113177523A (zh) * 2021-05-27 2021-07-27 青岛杰瑞工控技术有限公司 一种基于改进AlexNet的鱼类行为图像识别方法
CN113505651A (zh) * 2021-06-15 2021-10-15 杭州电子科技大学 一种基于卷积神经网络的蚊虫识别方法
CN113435531B (zh) * 2021-07-07 2022-06-21 中国人民解放军国防科技大学 零样本图像分类方法、***、电子设备及存储介质
CN113449712B (zh) * 2021-09-01 2021-12-07 武汉方芯科技有限公司 一种基于改进Alexnet网络的羊脸识别方法
CN114049519A (zh) * 2021-11-17 2022-02-15 江西航天鄱湖云科技有限公司 一种光学遥感图像场景分类方法
CN114286113B (zh) * 2021-12-24 2023-05-30 国网陕西省电力有限公司西咸新区供电公司 基于多头异构卷积自编码器的图像压缩恢复方法及***
CN114092832B (zh) * 2022-01-20 2022-04-15 武汉大学 一种基于并联混合卷积网络的高分辨率遥感影像分类方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106909924A (zh) * 2017-02-18 2017-06-30 北京工业大学 一种基于深度显著性的遥感影像快速检索方法
CN108830296A (zh) * 2018-05-18 2018-11-16 河海大学 一种改进的基于深度学习的高分遥感影像分类方法
WO2018214195A1 (zh) * 2017-05-25 2018-11-29 中国矿业大学 一种基于卷积神经网络的遥感图像桥梁检测方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106909924A (zh) * 2017-02-18 2017-06-30 北京工业大学 一种基于深度显著性的遥感影像快速检索方法
WO2018214195A1 (zh) * 2017-05-25 2018-11-29 中国矿业大学 一种基于卷积神经网络的遥感图像桥梁检测方法
CN108830296A (zh) * 2018-05-18 2018-11-16 河海大学 一种改进的基于深度学习的高分遥感影像分类方法

Also Published As

Publication number Publication date
CN110334765A (zh) 2019-10-15

Similar Documents

Publication Publication Date Title
CN110334765B (zh) 基于注意力机制多尺度深度学习的遥感影像分类方法
CN108647742B (zh) 基于轻量级神经网络的快速目标检测方法
CN110443143B (zh) 多分支卷积神经网络融合的遥感图像场景分类方法
CN110516596B (zh) 基于Octave卷积的空谱注意力高光谱图像分类方法
CN107066559B (zh) 一种基于深度学习的三维模型检索方法
CN109344736B (zh) 一种基于联合学习的静态图像人群计数方法
CN109840560B (zh) 基于胶囊网络中融入聚类的图像分类方法
CN110348399B (zh) 基于原型学习机制和多维残差网络的高光谱智能分类方法
CN108108751B (zh) 一种基于卷积多特征和深度随机森林的场景识别方法
CN113065558A (zh) 一种结合注意力机制的轻量级小目标检测方法
CN109684922B (zh) 一种基于卷积神经网络的多模型对成品菜的识别方法
CN111753828B (zh) 一种基于深度卷积神经网络的自然场景水平文字检测方法
CN107506793B (zh) 基于弱标注图像的服装识别方法及***
CN109978893A (zh) 图像语义分割网络的训练方法、装置、设备及存储介质
CN113033520A (zh) 一种基于深度学习的树木线虫病害木识别方法及***
CN110716792B (zh) 一种目标检测器及其构建方法和应用
CN111222545B (zh) 基于线性规划增量学习的图像分类方法
CN113297936B (zh) 一种基于局部图卷积网络的排球群体行为识别方法
CN113221956B (zh) 基于改进的多尺度深度模型的目标识别方法及装置
CN112364747B (zh) 一种有限样本下的目标检测方法
CN112364974B (zh) 一种基于激活函数改进的YOLOv3算法
CN110427819A (zh) 一种识别图像中ppt边框的方法及相关设备
CN111914902A (zh) 一种基于深度神经网络的中药识别与表面缺陷检测方法
CN111079837A (zh) 一种用于二维灰度图像检测识别分类的方法
CN113111716A (zh) 一种基于深度学习的遥感影像半自动标注方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant