CN104408481A - 基于深度小波神经网络的极化sar图像分类方法 - Google Patents

基于深度小波神经网络的极化sar图像分类方法 Download PDF

Info

Publication number
CN104408481A
CN104408481A CN201410741410.1A CN201410741410A CN104408481A CN 104408481 A CN104408481 A CN 104408481A CN 201410741410 A CN201410741410 A CN 201410741410A CN 104408481 A CN104408481 A CN 104408481A
Authority
CN
China
Prior art keywords
layer
output
network
hidden
represent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410741410.1A
Other languages
English (en)
Other versions
CN104408481B (zh
Inventor
焦李成
李玲玲
姜红茹
屈嵘
杨淑媛
侯彪
王爽
刘红英
熊涛
马文萍
马晶晶
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xidian University
Original Assignee
Xidian University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xidian University filed Critical Xidian University
Priority to CN201410741410.1A priority Critical patent/CN104408481B/zh
Publication of CN104408481A publication Critical patent/CN104408481A/zh
Application granted granted Critical
Publication of CN104408481B publication Critical patent/CN104408481B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/082Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Radar Systems Or Details Thereof (AREA)

Abstract

本发明公开了一种基于深度小波神经网络的极化SAR图像分类方法,主要解决现有技术中由于特征数较少或特征提取不合理而造成的分类精度下降的问题。其实现步骤是:输入图像;预处理;选取样本;利用训练样本训练深度小波神经网络;提取特征;分类;计算分类精度。本发明采用逐层化方式训练深度小波神经网络,避免了网络层数较多时出现梯度扩散的问题,并且能够提取出反映数据本质特性,刻画数据细节特征,突出不同地物类型之间差别的高维特征。由于本发明利用深度小波神经网络提取数据的深层高维特征,成功避免了分类技术中存在的特征数较少或者特征学习不充分,不合理的问题,提高了极化合成孔径雷达SAR图像的分类精度。

Description

基于深度小波神经网络的极化SAR图像分类方法
技术领域
本发明属于图像处理技术领域,特别是涉及极化SAR图像的处理,具体是一种基于深度小波神经网络的极化SAR图像分类方法。可用于极化SAR图像中地面目标的分类与识别。
背景技术
合成孔径雷达是一种高分辨率成像雷达。由于微波具有穿透特性,不受光线强度的影响,因此合成孔径雷达具有全天时、全天候的工作能力。与其他传感器图像相比,它能呈现更多的细节,能更好的区分临近目标的特性。随着技术的发展,合成孔径雷逐渐向高分辨、多极化、多通道的方向发展。相比于传统的单极化SAR,多极化SAR能够提供更加丰富的目标信息,有利于确定和理解散射机制,提高目标检测和分类识别的能力。因此,极化SAR数据特别适用于图像的解译和理解。
近几年,已经提出了许多极化SAR图像分类方法。根据是否需要人工指导,极化SAR分类方法可以分为有监督分类和无监督分类。这些方法都是直接利用已经获取的极化SAR图像的协方差矩阵、相干矩阵等极化信息,得到极化SAR图像的分类结果
中山大学申请的专利“一种基于目标散射鉴别的POLSAR图像无监督分类方法”(申请号:201210222987.2,公布号:CN102799896A)中提出了一种基于目标散射鉴别的POLSAR图像无监督分类方法。该方法具体步骤包括:计算POLSAR图像极化散射熵,以及表面散射、偶次散射和体散射的相似性参数,并利用这些参数将POLSAR图像初始划分类别;接着选取以表面散射为主的地物的最小天线接收功率特征极化作为天线极化状态,计算每个像素的天线接收功率;计算每一类的聚类中心并根据极化散射差异度量将所有像素重新分类并更新聚类中心,重复这一过程直到聚类中心不再发生变化。该方法属于无监督的分类方法,具有能够准确地描述地物散射,并且能很好对应实际散射情况,减少类别调整的运算时间等优点,但是该方法仍然存在的不足是,由于该方法属于无监督的分类,不能利用已经标记的样本信息,只能依靠散射信息对地物进行聚类,使得分类准确率偏低,并且浪费了有标记的样本信息。
西安电子科技大学申请的专利“一种基于半监督SVM和MeanShift的极化SAR图像分类方法”(申请号:201410076676.9,公布号:CN103914704A)中提出一种基于半监督SVM和MeanShift的极化SAR图像分类方法。该方法具体步骤包括:用S4VMs算法获得极化SAR图像分类结果;选取S4VMs分类结果置信度高的样本集并用MeanShift结果修改S4VMs分类结果,更新样本集;更新训练集、测试集和分类模型;用分类模型对极化SAR图像进行分类。该方法采用阈值软化分类,提高了算法的自适应性;通过MeanShift结果修改样本集,完善了图像信息,避免了人工标记困难的问题,获得了更好的分类结果。但是该方法仍然存在的不足是,由于该方法直接利用极化SAR图像的相干矩阵训练S4VMs分类器,无法从相干矩阵提取更高维的特征,使得分类精度较低。
发明内容
本发明的目的在于克服上述现有技术的不足,提出了一种基于深度小波神经网络的极化SAR图像分类方法。本发明与现有技术中其他极化合成孔径雷达SAR图像分类技术相比,能够利用相干矩阵获取极化SAR数据更深层的高维特征表示,并且实现过程简单,分类精度高。
本发明实现上述目的的思路是:先对极化合成孔径雷达SAR图像的相干矩阵进行滤波,再将滤波后的相干矩阵作为特征向量组成一个样本集,从样本集中随机选取样本组成训练样本、测试样本,利用训练样本训练深度小波神经网络,得到深度小波神经网络的最优权重和小波参数,利用获得的最优权重和小波参数对测试样本进行特征提取,最后利用支撑向量机SVM对提取的特征进行分类,得到最终分类结果。
本发明实现的具体步骤包括如下:
步骤1:输入图像,输入一幅待分类的极化合成孔径雷达SAR图像的相干矩阵,其中,相干矩阵是大小为3×3×N的矩阵,N是极化合成孔径雷达SAR图像像素点的总数;
步骤2:预处理,采用窗口大小为7×7的Lee滤波器对相干矩阵进行滤波,得到滤波后的相干矩阵;
步骤3:选取样本
3a、将滤波后的相干矩阵作为极化合成孔径雷达SAR图像的特征,组成一个N×9大小的样本集;
3b、从样本集中随机选取5%的样本作为极化合成孔径雷达SAR图像训练样本,将剩余95%的样本作为极化合成孔径雷达SAR图像测试样本;
步骤4:利用训练样本训练深度小波神经网络
4a、随机生成深度小波神经网络第一层网络和第二层网络的初始权值和小波激活函数缩放因子和平移因子;
4b、将训练样本输入到第一层的小波神经网络中,利用第一层网络隐层和输入层节点的初始权值W1′,输出层和隐层节点的初始权值W1″、小波激活函数的缩放因子a1和平移因子b1分别计算第一层网络隐层的输出ψ1和输出层的输出h1
4c、利用均方误差公式计算第一层网络中训练样本的输出误差E1
4d、采用梯度下降法,得到第一层网络的最优权值、小波激活函数的最优缩放因子和最优平移因子以及最优隐层输出;
4e、将第一层小波神经网络的隐层输出作为第二层小波神经网络的输入,并利用第二层网络隐层和输出层节点的初始权值W2′,输出层和隐层节点的初始权值W2″、小波激活函数缩放因子a2和平移因子b2计算第二层网络隐层的输出ψ2和输出层的输出h2
4f、利用均方误差公式计算第二层网络中训练样本的输出误差E2
4g、采用梯度下降法,得到第二层网络的最优权值、小波激活函数的最优缩放因子和最优平移因子以及最优隐层输出;
步骤5:提取特征,将训练样本和测试样本分别输入到训练好的深度小波神经网络中,得到训练样本特征集和测试样本特征集;
步骤6:分类,将训练样本特征集和测试样本特征集输入到libSVM工具箱,得到极化合成孔径雷达SAR图像的最终分类结果;
步骤7:计算分类精度,统计待分类的极化合成孔径雷达SAR图像中与分类结果中类别标签相同的像素点个数,计算类别标签相同像素点个数占待分类的极化合成孔径雷达SAR图像总像素数的百分比,得到分类精度。
本发明与现有技术相比有以下优点:
第一,由于本发明采用了深度小波神经网络的分类方法,相比于传统的神经网络的分类方法,本发明利用了深度学习的训练模型,逐层构建单个神经元,这样每次都是训练一个单层网络,而传统神经网络通常都是利用反向传播算法训练网络,当网络层数较多时,误差传播到前面就非常小了,从而导致传统神经网络在网络层数较多时产生梯度扩散的问题,本发明的网络模型很好的解决了梯度扩散的问题,使得本发明具有更好的鲁棒性,进而使得本发明应用范围更广。
第二,由于本发明在构建深度网络模型时,采用小波函数作为激活函数,小波变换具有良好的时频局部性质,并且对数据具有更强的逼近和容错能力,而传统技术中采用的激活函数不具有时频局部特性,不能刻画数据的细节特征,从而导致提取的特征不能很好的反映数据的特性,本发明很好的解决了这一问题,进而提高了本发明的分类精度。
第三,由于本发明采用深度小波神经网络的分类方法,深度小波神经网络能够从相干矩阵中提取更高维深层表示特征,这些特征更能反映数据的本身的特性,使得分类精度更高,克服了现有技术中只能利用低层特征进行分类而导致分类精度较低的缺点,进而提高了本发明的适用性。
附图说明
图1是本发明的流程图;
图2为1989年AIRSAR平台获得的Flevoland,Netherlands地区的L波段的多视极化SAR数据的合成图;
图3为1989年AIRSAR平台获得的Flevoland,Netherlands地区的L波段的多视极化SAR数据的合成图对应的实际地物标记图;
图4为本发明对1989年AIRSAR平台获得的Flevoland,Netherlands地区的L波段的多视极化SAR数据的合成图进行分类的分类结果图。
具体实施方式
下面结合附图对本发明做详细描述。
实施例1:
本发明是一种基于深度小波神经网络的极化合成孔径雷达SAR图像的分类方法,参照附图1,对本发明的具体实施步骤详细描述:
步骤1:输入图像,实际上是输入一幅待分类的极化合成孔径雷达SAR图像的相干矩阵,具体参见图2,图2所示的是1989年AIRSAR平台获得的Flevoland,Netherlands地区的L波段的多视极化SAR图像,该图像的相干矩阵是大小为3×3×N的矩阵,N是极化合成孔径雷达SAR图像像素点的总数。
步骤2:预处理,采用窗口大小为7×7的Lee滤波器对上述的相干矩阵进行滤波,得到滤波后的相干矩阵,在具体的仿真实验中,可以采用3×3,5×5,7×7等大小的窗口对极化合成孔径雷达SAR图像的相干矩阵进行滤波处理,去除相干斑噪声,得到滤波后的极化合成孔径雷达SAR图像相干矩阵。在本实施例中,采用窗口大小为7×7的Lee滤波器对相干矩阵进行滤波,是因为7×7大小的窗口既能很好的去除相干斑噪声,避免噪声对下一步分类处理的影响,又能充分保持图像的极化信息,使得滤波后的图像边缘清晰可辨。
步骤3:选取样本,从滤波后的极化合成孔径雷达SAR图像相干矩阵中选取训练样本
3a、将滤波后的相干矩阵作为极化合成孔径雷达SAR图像的特征,组成一个N×9大小的样本集,样本集中的每一列都表示了极化合成孔径雷达SAR图像的一种特征,每个像素点总共包含9个特征,在具体的仿真实验中,可以采用不同特征作为样本的特征,在本实施例中,采用极化相干矩阵作为极化合成孔径雷达SAR图像的特征,是因为相干矩阵能够很好的表示极化合成孔径雷达SAR图像的散射机理,并包含有几乎全部的极化信息。
3b、从样本集中随机选取5%的样本作为极化合成孔径雷达SAR图像的训练样本,将剩余95%的样本作为极化合成孔径雷达SAR图像的测试样本。在具体的仿真实验中,可以选取不同数量的样本作为训练样本来训练深度小波神经网络,但采用过多数量的训练样本会导致计算过程复杂,训练时间过长,采用较少数量的样本则会导致分类器过拟合,分类精度过低。在本实施例中,采用5%的样本作为训练样本避免了训练样本的过多或过少选择所导致的问题,进一步使得本发明在保持较高分类精度的同时降低了算法的复杂度和计算时间。
步骤4:利用上述选取的训练样本训练深度小波神经网络
4a、随机生成深度小波神经网络第一层网络和第二层网络的初始权值和小波激活函数缩放因子和平移因子;
4b、将训练样本输入到第一层的小波神经网络中,利用第一层网络隐层和输入层节点的初始权值W1′,输出层和隐层节点的初始权值W1″、小波激活函数的缩放因子a1和平移因子b1分别计算第一层网络隐层的输出ψ1和输出层的输出h1
4c、利用均方误差公式计算第一层网络中训练样本的输出误差E1
4d、采用梯度下降法,得到第一层网络的最优权值、小波激活函数最优缩放因子和最优平移因子以及最优隐层输出;
4e、将第一层小波神经网络的隐层输出作为第二层小波神经网络的输入,并利用第二层网络隐层和输出层节点的初始权值W2′,输出层和隐层节点的初始权值W2″、小波激活函数缩放因子a2和平移因子b2计算第二层网络隐层的输出ψ2和输出层的输出h2
4f、利用均方误差公式计算第二层网络中训练样本的输出误差E2
4g、采用梯度下降法,得到第二层网络的最优权值、小波激活函数最优缩放因子和最优平移因子以及最优隐层输出。
在本实施例中,是将两个单层的小波神经网络进行堆叠来构建深度小波神经网络模型,并采用逐层化的训练方式逐层训练深度小波神经网络,采用这种网络模型和训练方法,是因为这种网络模型和训练方法可以很好的避免网络层数较多时出现梯度扩散的问题,并且能够从原始数据中提取出更能表示数据特性的深层高维特征。利用深度小波神经网络提取的高维特征,能够反映极化合成孔径雷达SAR数据的本质特性,刻画出数据的细节特征,突出各种不同地物类型之间的差别,从而进一步提高了极化合成孔径雷达SAR图像的分类精度,图4的分类结果示意图表明采用本发明得到的分类结果图在油菜籽、裸地和草地地区的杂点相对较少,并且边缘保持良好。在对每一个单层小波神经网络训练时,采用梯度下降的方法,是因为利用梯度下降法复杂度较低,实现简单,并且运行速度快,从而使得整个深度小波神经网络的训练速度加快,进一步提高了极化合成孔径雷达SAR图像的分类效率。
步骤5:提取特征,将训练样本和测试样本分别输入到训练好的深度小波神经网络中,得到训练样本特征集和测试样本特征集。
步骤6:分类,将训练样本特征集和测试样本特征集输入到libSVM工具箱,得到极化合成孔径雷达SAR图像的最终分类结果。在本实施例中,采用支撑向量机SVM作为分类器对极化合成孔径雷达SAR图像进行分类,是因为SVM分类器算法思想成熟,并对很多不同类型的数据都有很好的鲁棒性,达到很好的分类效果,从而使得本发明对极化合成孔径雷达SAR图像的分类精度较高。
步骤7:计算分类精度,统计待分类的极化合成孔径雷达SAR图像中与分类结果中类别标签相同的像素点个数,计算类别标签相同像素点个数占待分类的极化合成孔径雷达SAR图像总像素数的百分比,直接得到分类精度。
在本实施例中,本发明采用深度小波神经网络从原始数据中提取数据的深层高维特征,并利用SVM分类器对提取的高维特征进行分类,得到极化合成孔径雷达SAR图像的最终分类结果。相比于传统的神经网络分类方法,本发明利用深度学习的网络模型构建深度小波神经网络,并采用逐层训练的方法对深度小波神经网络进行训练,而传统神经网络通常都是利用反向传播算法训练网络,当网络层数较多时,误差传播到前面就非常小了,从而导致传统神经网络在网络层数较多时产生梯度扩散的问题,本发明构建的深度小波神经网络模型解决了梯度扩散的问题,实现了对极化合成孔径雷达SAR图像数据深层高维特征的提取,进一步提高了本发明的分类精度和适用范围。
实施例2:
基于深度小波神经网络的极化合成孔径雷达SAR图像分类方法同实施例1,其中步骤4b和步骤4e所述的计算隐层输出公式如下:
ψ ( j ) = exp ( - ( Σ k = 1 m W jk ′ x k - b j a j ) 2 / 2 ) cos ( 5 × ( Σ k = 1 m W jk ′ x k - b j a j ) )
其中,ψ(j)表示隐层节点j的输出,此处ψ是隐层节点输出的一个总的表示,第一层网络隐层节点输出用ψ1表示,第二层网络隐层节点输出用ψ2表示,m是输入节点数,在本实例中,第一层网络的输入节点数等于相干矩阵的特征数,这里取值为9,第二层网络的输入节点等于第一层网络的隐层节点数,这里取值为100,W′jk表示隐层节点j和输入节点k之间的权值,此处W′是隐层和输入层节点权值的一个总的表示,第一层网络隐层和输入层节点权值用W1′表示,第二层网络隐层和输入层节点权值用W2′表示,xk表示输入节点k的输入,bj表示隐层节点j的小波激活函数的平移因子,此处b是小波平移因子的一个总的表示,第一层网络的小波平移因子用b1表示,第二层网络的小波平移因子用b2表示,aj表示隐层节点j的小波激活函数的缩放因子,此处a是小波激活函数缩放因子的一个总的表示,第一层网络的小波激活函数缩放因子用a1表示,第二层网络的小波激活函数缩放因子用a2表示;
计算输出层输出公式如下:
h ( i ) = Σ j = 1 p W ij ′ ′ ψ ( j )
其中,h(i)表示输出节点i的输出,此处h是输出层输出的一个总的表示,第一层网络的输出层输出用h1表示,第二层网络的输出层输出用h2表示,p是隐层节点数,在本实例中,第一层网络的隐层节点数为100,第二层网络的隐层节点数为150,W″ij表示输出节点i和隐层节点j之间的权值,此处W″是输出层节点和隐层节点权值的一个总的表示,第一层网络的输出层节点和隐层节点权值用W1″表示,第二层网络的输出层节点和隐层节点权值W2″表示,ψ(j)表示隐层节点j的输出,此处ψ是隐层节点输出的一个总的表示,第一层网络隐层节点输出用ψ1表示,第二层网络隐层节点输出用ψ2表示。
在本实施例中,计算隐层节点输出的公式采用的是小波函数作为隐层的激活函数,是因为采用小波激活函数相当于对输入数据做小波变换,而小波变换具有很好的时频局部特性,能够刻画数据的细节特征,实现对数据更好的表示,从而使得从极化合成孔径雷达SAR相干矩阵提取的特征更能表示数据的特性,进一步提高了极化合成孔径雷达SAR图像的分类精度。
实施例3:
基于深度小波神经网络的极化合成孔径雷SAR图像分类方法同实施例1-2,步骤4c和步骤4f所述的均方误差公式如下:
E = Σ s = 1 S Σ i = 1 n ( h ( i ) - x i ) 2
其中,E表示样本的均方误差,此处E是均方误差一个总的表示,第一层网络的误差用E1表示,第一层网络的误差用E2表示,S是训练样本数,n是输出节点数,在本实例中,第一层网络的输出节点数等于输入节点数,这里取值为9,第二层网络的输出节点数等于第二层网络的输入节点数,这里取值为100,h(i)表示输出节点i的输出,此处h是输出层输出的一个总的表示,第一层网络的输出层输出用h1表示,第二层网络的输出层输出用h2表示,xi表示输入节点i的输入。
在本实施例中,采用均方误差作为误差评判准则,是因为均方误差可以很好的表示深度小波神经网络的输出和标准输出之间的差别,并且计算简单,运算复杂度低,并且可以进一步提高深度小波神经网络训练的速度。
实施例4:
基于深度小波神经网络的极化SAR图像分类方法同实施例1-3,步骤4d和步骤4g所述的梯度下降法的具体步骤如下:
第一步,按照下式,计算深度小波神经网络的隐层和输出层之间的权值:
W t + 1 ′ ′ = W t ′ ′ - η ∂ E ∂ W t ′ ′ + αΔ W t ′ ′
其中,W″t+1表示第t+1次迭代时隐层和输出层之间的权值,t表示深度小波神经网络权值训练迭代的次数,Wt″表示第t次迭代时隐层和输出层之间的权值,η表示隐层和输出层之间权值的学习速率,一般取值范围为0<η<1,表示第t次迭代时样本的均方误差对隐层和输出层之间权值的偏导数操作,α为动量因子,一般取值范围为0.9<α<1,ΔWt″表示第t次迭代时的隐层和输出层之间的权值修正量。
第二步,按照下式,计算深度小波神经网络的输入层和隐层之间的权值:
W t + 1 &prime; = W t &prime; - &eta; &PartialD; E &PartialD; W t &prime; + &alpha;&Delta; W t &prime;
其中,W′t+1表示第t+1次迭代时输入层和隐层之间的权值,t表示深度小波神经网络权值训练迭代的次数,Wt′表示第t次迭代时输入层和隐层之间的权值,η表示输入层和隐层之间权值的学习速率,一般取值范围为0<η<1,表示第t次迭代时样本的均方误差对输入层和隐层之间权值的偏导数操作,α为动量因子,一般取值范围为0.9<α<1,ΔWt′表示第t次迭代时的输入层和隐层之间的权值修正量。
第三步,按照下式,计算深度小波神经网络隐层小波激活函数的缩放因子:
a t + 1 = a t - &eta; &PartialD; E &PartialD; a t + &alpha;&Delta; a t
其中,at+1表示第t+1次迭代时隐层小波激活函数的缩放因子,t表示深度小波神经网络权值训练迭代的次数,at表示第t次迭代时隐层小波激活函数的缩放因子,η表示隐层小波激活函数缩放因子的学习速率,一般取值范围为0<α<1,表示第t次迭代时样本的均方误差对隐层小波激活函数缩放因子的偏导数操作,α为动量因子,一般取值范围为0.9<α<1,Δat表示第t次迭代时隐层小波激活函数缩放因子的修正量。
第四步,按照下式,计算深度小波神经网络隐层小波激活函数的平移因子:
b t + 1 = b t - &eta; &PartialD; E &PartialD; b t + &alpha;&Delta; b t
其中,bt+1表示第t+1次迭代时隐层小波激活函数的平移因子,t表示深度小波神经网络权值训练迭代的次数,bt表示第t次迭代时隐层小波激活函数的平移因子,η表示隐层小波激活函数平移因子的学***移因子的偏导数操作,α为动量因子,一般取值范围为0.9<α<1,Δbt表示第t次迭代时隐层小波激活函数平移因子的修正量
上述的权值修正量、缩放因子修正量、平移因子修正量统称修正量,其初始值为0。
第五步,判断是否达到最大迭代次数,若否,返回第一步,若是,停止迭代,得到网络的最优权值,最优小波激活函数缩放因子和平移因子以及最优隐层输出。
在本实施例中,利用梯度下降法更新深度小波神经网络的权值以及隐层节点小波激活函数的缩放因子和平移因子,是因为梯度下降法算法计算复杂度低,实现简单,并且在大部分情况下可以得到最优网络权值以及小波激活函数的最优缩放因子和最优平移因子,而且我们在采用梯度下降法更新网络权值和小波激活函数的缩放因子和平移因子时,加入了修正量来修正参数更新的下降方向,有利于更快更准确的找到最优的网络参数,使得利用深度小波神经网络提取的极化合成孔径雷达SAR图像的特征更加准确,从而进一步提高了极化合成孔径雷达SAR图像的分类精度。
实施例5:
基于深度小波神经网络的极化SAR图像分类方法同实施例1-4,本发明的效果可以通过以下仿真实验来进行验证。
1、仿真条件
本发明的仿真实验选取的极化合成孔径雷达SAR图像是一幅附有实际地物标记图的极化合成孔径雷达SAR图像,如图2所示。
图2是1989年AIRSAR平台获得的Flevoland,Netherlands地区的L波段的多视极化SAR数据的合成图,图2中的极化合成孔径雷达SAR图像包含380×420个像素。
图2的实际地物标记结果如图3所示,图3是1989年AIRSAR平台获得的Flevoland,Netherlands地区的L波段的多视极化SAR数据的合成图对应的实际地物标记图。
本发明的仿真是在主频1.86GHz的Intel(R)Core(TM)2CPU E6300、内存2GB的硬件环境和MATLAB R2010a的软件环境下进行的。
2、仿真内容与结果分析
图4为采用本发明的方法对1989年AIRSAR平台获得的Flevoland,Netherlands地区的L波段的多视极化SAR数据的合成图,进行分类的结果示意图。
从图4的分类结果示意图看,采用本发明的方法对图2的实验图像进行分类后,除部分地区的分类结果杂点较多外,其他地区的分类结果杂点较少,并且边缘非常平滑,清晰可辨。由此可见,本发明能够有效的解决极化合成孔径雷达SAR图像的分类问题。
以图3中的实际地物标记图作为精度评价标准,本发明与现有技术小波神经网络WNN分类方法和支撑向量机SVM分类方法进行分类精度对比,对比结果如表1所示。
表1中的“WNN”表示现有技术小波神经网络分类方法,“SVM”表示现有技术支撑向量机分类方法。
表1三种算法分类精度对比表
地物类别 本发明 WNN SVM
油菜籽 96.15 93.73 94.95
裸地 98.10 98.60 97.76
小麦 96.67 97.76 96.97
大麦 96.94 93.68 97.17
紫花苜蓿 93.50 92.76 92.93
豌豆 90.18 94.69 94.45
马铃薯 96.36 94.70 94.36
甜菜 88.61 90.50 91.69
草地 86.85 81.30 79.15
平均 94.51 94.02 94.20
从表1可以看出,在对每一类地物的分类结果中,本发明对四类地物的分类精度都高于小波神经网络和支撑向量机的分类精度,其分别是油菜籽、紫花苜蓿、马铃薯和草地,其中对油菜籽的分类精度比小波神经网络高2.42%,比支撑向量机高1.2%,对紫花苜蓿的分类精度比小波神经网络高1.19%,比支撑向量机高0.57%,对马铃薯的分类精度比小波神经网络高1.66%,比支撑向量机高2%,对草地的分类精度比小波神经网络高5.55%,比支撑向量机高7.7%,平均分类精度比小波神经网络高0.49%,比支撑向量机高0.31%。传统的小波神经网络结合了小波变换的时频局部特性和神经网络的自学习能力,对极化SAR图像具有较好的分类结果,但小波神经网络采用传统的反向传播算法训练网络参数,这种训练机制在网络层数较多时容易出现梯度扩散问题,导致分类精度下降。支撑向量机SVM是直接利用训练样本的相干矩阵特征训练分类器并对图像进行分类,它不能从数据中提取更高维的深层表示特征,导致算法在特征数较少或者原始特征选择不合理的情况下分类效果较差。本发明是基于深度小波神经网络的极化SAR图像分类方法,一方面能够利用逐层化训练机制避免网络层数较多时出现的梯度扩散问题,另一方面能够从原始数据中提取更能表示数据特点的深层特征,从而使得本发明在网络层数较多和数据特征数较少的情况下能够得到较高的分类精度。采用本发明对极化合成孔径雷达SAR图像进行仿真实验,分类结果图和分类精度有所提高,进一步证明了本发明精确分类的效果。
简而言之,本发明的基于深度小波神经网络的极化SAR图像分类方法,主要解决现有技术中由于特征数较少或特征提取不合理而造成的分类精度下降的问题。其实现步骤是:输入图像;预处理;选取样本;利用训练样本训练深度小波神经网络;提取特征;分类;计算分类精度。本发明采用逐层化方式训练深度小波神经网络,采用这种网络模型和训练方法,可以很好的避免网络层数较多时出现梯度扩散的问题,并且能够从原始极化合成孔径雷达SAR数据中提取出反映数据本质特性,刻画出数据细节特征,突出不同地物类型之间差别的特征。由于本发明利用深度小波神经网络提取数据的深层高维特征,成功避免了现有分类技术中存在的特征数较少或者特征学习不充分,不合理的问题,提高了极化合成孔径雷达SAR图像的分类精度。

Claims (4)

1.一种基于深度小波神经网络的极化SAR图像分类方法,其特征在于,图像分类过程包括有以下步骤:
步骤1:输入图像,输入一幅待分类的极化合成孔径雷达SAR图像的相干矩阵,其中,相干矩阵是大小为3×3×N的矩阵,N是极化合成孔径雷达SAR图像像素点的总数;
步骤2:预处理,采用窗口大小为7×7的Lee滤波器对相干矩阵进行滤波,得到滤波后的相干矩阵;
步骤3:选取样本
3a、将滤波后的相干矩阵作为极化合成孔径雷达SAR图像的特征,组成一个N×9大小的样本集;
3b、从样本集中随机选取5%的样本作为极化合成孔径雷达SAR图像训练样本,将剩余95%的样本作为极化合成孔径雷达SAR图像测试样本;
步骤4:利用训练样本训练深度小波神经网络
4a、随机生成深度小波神经网络第一层网络和第二层网络的初始权值和小波激活函数缩放因子和平移因子;
4b、将训练样本输入到第一层的小波神经网络中,利用第一层网络隐层和输入层节点的初始权值W1′,输出层和隐层节点的初始权值W1″、小波激活函数的缩放因子a1和平移因子b1分别计算第一层网络隐层的输出ψ1和输出层的输出h1
4c、利用均方误差公式计算第一层网络中训练样本的输出误差E1
4d、采用梯度下降法,得到第一层网络的最优权值、小波激活函数的最优缩放因子和最优平移因子以及最优隐层输出;
4e、将第一层小波神经网络的隐层输出作为第二层小波神经网络的输入,并利用第二层网络隐层和输出层节点的初始权值W′2,输出层和隐层节点的初始权值W″2、小波激活函数缩放因子a2和平移因子b2计算第二层网络隐层的输出ψ2和输出层的输出h2
4f、利用均方误差公式计算第二层网络中训练样本的输出误差E2
4g、采用梯度下降法,得到第二层网络的最优权值、小波激活函数的最优缩放因子和最优平移因子以及最优隐层输出;
步骤5:提取特征,将训练样本和测试样本分别输入到训练好的深度小波神经网络中,得到训练样本特征集和测试样本特征集;
步骤6:分类,将训练样本特征集和测试样本特征集输入到libSVM工具箱,得到极化合成孔径雷达SAR图像的最终分类结果;
步骤7:计算分类精度,统计待分类的极化合成孔径雷达SAR图像中与分类结果中类别标签相同的像素点个数,计算类别标签相同像素点个数占待分类的极化合成孔径雷达SAR图像总像素数的百分比,得到分类精度。
2.根据权利要求1所述的基于深度小波神经网络的极化SAR图像分类方法,其特征在于:步骤4b和步骤4e所述的计算隐层输出公式如下:
&psi; ( j ) = exp ( - ( &Sigma; k = 1 m W jk &prime; x k - b j a j ) 2 / 2 ) cos ( 5 &times; ( &Sigma; k = 1 m W jk &prime; x k - b j a j ) )
其中,ψ(j)表示隐层节点j的输出,此处ψ是隐层节点输出的一个总的表示,第一层网络隐层节点输出用ψ1表示,第二层网络隐层节点输出用ψ2表示,m是输入节点数,W′jk表示隐层节点j和输入节点k之间的权值,此处W′是隐层和输入层节点权值的一个总的表示,第一层网络隐层和输入层节点权值用W1′表示,第二层网络隐层和输入层节点权值用W′2表示,xk表示输入节点k的输入,bj表示隐层节点j的小波激活函数的平移因子,此处b是小波平移因子的一个总的表示,第一层网络的小波平移因子用b1表示,第二层网络的小波平移因子用b2表示,aj表示隐层节点j的小波激活函数的缩放因子,此处a是小波激活函数缩放因子的一个总的表示,第一层网络的小波激活函数缩放因子用a1表示,第二层网络的小波激活函数缩放因子用a2表示;
计算输出层输出公式如下:
h ( i ) = &Sigma; j = 1 p W ij &prime; &prime; &psi; ( j )
其中,h(i)表示输出节点i的输出,此处h是输出层输出的一个总的表示,第一层网络的输出层输出用h1表示,第二层网络的输出层输出用h2表示,p是隐层节点数,W″ij表示输出节点i和隐层节点j之间的权值,此处W″是输出层节点和隐层节点权值的一个总的表示,第一层网络的输出层节点和隐层节点权值用W1″表示,第二层网络的输出层节点和隐层节点权值W″2表示,ψ(j)表示隐层节点j的输出,此处ψ是隐层节点输出的一个总的表示,第一层网络隐层节点输出用ψ1表示,第二层网络隐层节点输出用ψ2表示。
3.根据权利要求1所述的基于深度小波神经网络的极化SAR图像分类方法,其特征在于:步骤4c和步骤4f所述的均方误差公式如下:
E = &Sigma; s = 1 S &Sigma; i = 1 n ( h ( i ) - x i ) 2
其中,E表示样本的均方误差,此处E是均方误差一个总的表示,第一层网络的误差用E1表示,第一层网络的误差用E2表示,S是训练样本数,n是输出节点数,h(i)表示输出节点i的输出,此处h是输出层输出的一个总的表示,第一层网络的输出层输出用h1表示,第二层网络的输出层输出用h2表示,xi表示输入节点i的输入。
4.根据权利要求1所述的基于深度小波神经网络的极化SAR图像分类方法,其特征在于:步骤4d和步骤4g所述的梯度下降法的具体步骤如下:
第一步,按照下式,计算深度小波神经网络的隐层和输出层之间的权值:
W t + 1 &prime; &prime; = W t &prime; &prime; - &eta; &PartialD; E &PartialD; W t &prime; &prime; + &alpha;&Delta; W t &prime; &prime;
其中,W″t+1表示第t+1次迭代时隐层和输出层之间的权值,t表示深度小波神经网络权值训练迭代的次数,Wt″表示第t次迭代时隐层和输出层之间的权值,η表示隐层和输出层之间权值的学习速率,一般取值范围为0<η<1,表示第t次迭代时样本的均方误差对隐层和输出层之间权值的偏导数操作,α为动量因子,一般取值范围为0.9<α<1,ΔWt″表示第t次迭代时的隐层和输出层之间的权值修正量。
第二步,按照下式,计算深度小波神经网络的输入层和隐层之间的权值:
W t + 1 &prime; = W t &prime; - &eta; &PartialD; E &PartialD; W t &prime; + &alpha;&Delta; W t &prime;
其中,W′t+1表示第t+1次迭代时输入层和隐层之间的权值,t表示深度小波神经网络权值训练迭代的次数,Wt′表示第t次迭代时输入层和隐层之间的权值,η表示输入层和隐层之间权值的学习速率,一般取值范围为0<η<1,表示第t次迭代时样本的均方误差对输入层和隐层之间权值的偏导数操作,α为动量因子,一般取值范围为0.9<α<1,ΔWt′表示第t次迭代时的输入层和隐层之间的权值修正量。
第三步,按照下式,计算深度小波神经网络隐层小波激活函数的缩放因子:
a t + 1 = a t - &eta; &PartialD; E &PartialD; a t + &alpha;&Delta; a t
其中,at+1表示第t+1次迭代时隐层小波激活函数的缩放因子,t表示深度小波神经网络权值训练迭代的次数,at表示第t次迭代时隐层小波激活函数的缩放因子,η表示隐层小波激活函数缩放因子的学习速率,一般取值范围为0<η<1,表示第t次迭代时样本的均方误差对隐层小波激活函数缩放因子的偏导数操作,α为动量因子,一般取值范围为0.9<α<1,Δat表示第t次迭代时隐层小波激活函数缩放因子的修正量。
第四步,按照下式,计算深度小波神经网络隐层小波激活函数的平移因子:
b t + 1 = b t - &eta; &PartialD; E &PartialD; b t + &alpha;&Delta; b t
其中,bt+1表示第t+1次迭代时隐层小波激活函数的平移因子,t表示深度小波神经网络权值训练迭代的次数,bt表示第t次迭代时隐层小波激活函数的平移因子,η表示隐层小波激活函数平移因子的学***移因子的偏导数操作,α为动量因子,一般取值范围为0.9<α<1,Δbt表示第t次迭代时隐层小波激活函数平移因子的修正量。
第五步,判断是否达到最大迭代次数,若否,返回第一步,若是,停止迭代,得到网络的最优权值,小波激活函数的最优缩放因子和最优平移因子以及最优隐层输出。
CN201410741410.1A 2014-12-05 2014-12-05 基于深度小波神经网络的极化sar图像分类方法 Active CN104408481B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410741410.1A CN104408481B (zh) 2014-12-05 2014-12-05 基于深度小波神经网络的极化sar图像分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410741410.1A CN104408481B (zh) 2014-12-05 2014-12-05 基于深度小波神经网络的极化sar图像分类方法

Publications (2)

Publication Number Publication Date
CN104408481A true CN104408481A (zh) 2015-03-11
CN104408481B CN104408481B (zh) 2017-07-28

Family

ID=52646112

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410741410.1A Active CN104408481B (zh) 2014-12-05 2014-12-05 基于深度小波神经网络的极化sar图像分类方法

Country Status (1)

Country Link
CN (1) CN104408481B (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104700116A (zh) * 2015-03-13 2015-06-10 西安电子科技大学 基于多层量子脊波表示的极化sar图像地物的分类方法
CN105718957A (zh) * 2016-01-26 2016-06-29 西安电子科技大学 非下采样轮廓波卷积神经网络的极化sar图像分类方法
CN106023154A (zh) * 2016-05-09 2016-10-12 西北工业大学 基于双通道卷积神经网络的多时相sar图像变化检测方法
CN107625527A (zh) * 2016-07-19 2018-01-26 杭州海康威视数字技术股份有限公司 一种测谎方法及装置
CN109146209A (zh) * 2018-11-02 2019-01-04 清华大学 基于遗传算法小波神经网络的机床主轴热误差预测方法
CN109657789A (zh) * 2018-12-06 2019-04-19 重庆大学 基于小波神经网络的风机齿轮箱故障趋势预测方法
CN109784311A (zh) * 2019-02-03 2019-05-21 山东大学 基于线性调频小波原子网络的目标识别方法
CN110175630A (zh) * 2015-05-07 2019-08-27 西门子保健有限责任公司 用于近似深入神经网络以用于解剖对象检测的方法和***
CN110297238A (zh) * 2019-06-24 2019-10-01 山东大学 基于自适应啁啾小波滤波的联合特征提取与分类方法
CN110598488A (zh) * 2019-09-17 2019-12-20 山东大学 半导体单元器件、半导体芯片***及puf信息处理***
CN110613445A (zh) * 2019-09-25 2019-12-27 西安邮电大学 一种基于dwnn框架的心电信号的识别方法
CN113191446A (zh) * 2021-05-17 2021-07-30 电子科技大学 一种基于深度归一化网络的多旋翼无人机目标识别方法
CN113435510A (zh) * 2021-06-28 2021-09-24 西安电子科技大学 基于序列调整网络的逆合成孔径雷达图像分类方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080310742A1 (en) * 2007-06-15 2008-12-18 Physical Optics Corporation Apparatus and method employing pre-ATR-based real-time compression and video frame segmentation
CN101515369A (zh) * 2009-04-02 2009-08-26 西安电子科技大学 基于半监督学习的多尺度sar图像分割方法
CN103456015A (zh) * 2013-09-06 2013-12-18 电子科技大学 基于最优分数域Gabor谱特征的SAR目标检测方法
CN103927551A (zh) * 2014-04-21 2014-07-16 西安电子科技大学 基于超像素相关矩阵的极化sar图像半监督分类方法
CN104021400A (zh) * 2014-06-16 2014-09-03 电子科技大学 基于分数谱稀疏表示的sar图像目标识别方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080310742A1 (en) * 2007-06-15 2008-12-18 Physical Optics Corporation Apparatus and method employing pre-ATR-based real-time compression and video frame segmentation
CN101515369A (zh) * 2009-04-02 2009-08-26 西安电子科技大学 基于半监督学习的多尺度sar图像分割方法
CN103456015A (zh) * 2013-09-06 2013-12-18 电子科技大学 基于最优分数域Gabor谱特征的SAR目标检测方法
CN103927551A (zh) * 2014-04-21 2014-07-16 西安电子科技大学 基于超像素相关矩阵的极化sar图像半监督分类方法
CN104021400A (zh) * 2014-06-16 2014-09-03 电子科技大学 基于分数谱稀疏表示的sar图像目标识别方法

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104700116A (zh) * 2015-03-13 2015-06-10 西安电子科技大学 基于多层量子脊波表示的极化sar图像地物的分类方法
CN104700116B (zh) * 2015-03-13 2018-03-06 西安电子科技大学 基于多层量子脊波表示的极化sar图像地物的分类方法
CN110175630A (zh) * 2015-05-07 2019-08-27 西门子保健有限责任公司 用于近似深入神经网络以用于解剖对象检测的方法和***
CN110175630B (zh) * 2015-05-07 2023-09-01 西门子保健有限责任公司 用于近似深入神经网络以用于解剖对象检测的方法和***
CN105718957A (zh) * 2016-01-26 2016-06-29 西安电子科技大学 非下采样轮廓波卷积神经网络的极化sar图像分类方法
CN106023154B (zh) * 2016-05-09 2019-03-29 西北工业大学 基于双通道卷积神经网络的多时相sar图像变化检测方法
CN106023154A (zh) * 2016-05-09 2016-10-12 西北工业大学 基于双通道卷积神经网络的多时相sar图像变化检测方法
CN107625527B (zh) * 2016-07-19 2021-04-20 杭州海康威视数字技术股份有限公司 一种测谎方法及装置
CN107625527A (zh) * 2016-07-19 2018-01-26 杭州海康威视数字技术股份有限公司 一种测谎方法及装置
CN109146209A (zh) * 2018-11-02 2019-01-04 清华大学 基于遗传算法小波神经网络的机床主轴热误差预测方法
CN109657789A (zh) * 2018-12-06 2019-04-19 重庆大学 基于小波神经网络的风机齿轮箱故障趋势预测方法
CN109784311A (zh) * 2019-02-03 2019-05-21 山东大学 基于线性调频小波原子网络的目标识别方法
CN109784311B (zh) * 2019-02-03 2023-04-18 山东大学 基于线性调频小波原子网络的目标识别方法
CN110297238A (zh) * 2019-06-24 2019-10-01 山东大学 基于自适应啁啾小波滤波的联合特征提取与分类方法
CN110297238B (zh) * 2019-06-24 2023-03-31 山东大学 基于自适应啁啾小波滤波的联合特征提取与分类方法
CN110598488A (zh) * 2019-09-17 2019-12-20 山东大学 半导体单元器件、半导体芯片***及puf信息处理***
CN110613445B (zh) * 2019-09-25 2022-05-24 西安邮电大学 一种基于dwnn框架的心电信号的识别方法
CN110613445A (zh) * 2019-09-25 2019-12-27 西安邮电大学 一种基于dwnn框架的心电信号的识别方法
CN113191446A (zh) * 2021-05-17 2021-07-30 电子科技大学 一种基于深度归一化网络的多旋翼无人机目标识别方法
CN113435510A (zh) * 2021-06-28 2021-09-24 西安电子科技大学 基于序列调整网络的逆合成孔径雷达图像分类方法
CN113435510B (zh) * 2021-06-28 2024-02-09 西安电子科技大学 基于序列调整网络的逆合成孔径雷达图像分类方法

Also Published As

Publication number Publication date
CN104408481B (zh) 2017-07-28

Similar Documents

Publication Publication Date Title
CN104408481A (zh) 基于深度小波神经网络的极化sar图像分类方法
CN102646200B (zh) 多分类器自适应权值融合的影像分类方法及***
CN103955702B (zh) 基于深度rbf网络的sar图像地物分类方法
CN105930868B (zh) 一种基于层次化增强学习的低分辨率机场目标检测方法
CN105184309B (zh) 基于cnn和svm的极化sar图像分类
CN111091105A (zh) 基于新的边框回归损失函数的遥感图像目标检测方法
CN103020122B (zh) 一种基于半监督聚类的迁移学习方法
CN106096561A (zh) 基于图像块深度学习特征的红外行人检测方法
CN100383805C (zh) 星载微波和红外遥感融合对城区地物特征进行分类的方法
CN104732244B (zh) 基于小波变换、多策略pso和svm集成的遥感图像分类方法
CN108182450A (zh) 一种基于深度卷积网络的机载探地雷达目标识别方法
CN104751166A (zh) 基于光谱角和欧氏距离的遥感影像分类方法
CN104408469A (zh) 基于图像深度学习的烟火识别方法及***
CN102915445A (zh) 一种改进型的神经网络高光谱遥感影像分类方法
CN103218831A (zh) 一种基于轮廓约束的视频运动目标分类识别方法
CN104915676A (zh) 基于深层特征学习和分水岭的sar图像分类
CN103927531A (zh) 一种基于局部二值和粒子群优化bp神经网络的人脸识别方法
CN104182763A (zh) 一种基于花朵特征的植物种类识别***
CN103246894B (zh) 一种解决光照不敏感问题的地基云图识别方法
CN107480620A (zh) 基于异构特征融合的遥感图像自动目标识别方法
CN111046772A (zh) 多时相卫星遥感岛礁岸线及开发利用信息提取方法
CN105913081A (zh) 基于改进的PCAnet的SAR图像分类方法
CN105844298A (zh) 一种基于Fuzzy ARTMAP神经网络的高光谱溢油影像分类方法
CN106611193A (zh) 一种基于特征变量算法的图像内容信息分析方法
CN107679453A (zh) 基于支持向量机的天气雷达电磁干扰回波识别方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant