CN104463207B - 知识自编码网络及其极化sar影像地物分类方法 - Google Patents
知识自编码网络及其极化sar影像地物分类方法 Download PDFInfo
- Publication number
- CN104463207B CN104463207B CN201410741792.8A CN201410741792A CN104463207B CN 104463207 B CN104463207 B CN 104463207B CN 201410741792 A CN201410741792 A CN 201410741792A CN 104463207 B CN104463207 B CN 104463207B
- Authority
- CN
- China
- Prior art keywords
- network
- knowledge
- self
- mrow
- layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 86
- 230000010287 polarization Effects 0.000 title abstract description 19
- 238000012549 training Methods 0.000 claims abstract description 35
- 239000002245 particle Substances 0.000 claims description 72
- 230000006870 function Effects 0.000 claims description 35
- 239000011159 matrix material Substances 0.000 claims description 23
- 238000012360 testing method Methods 0.000 claims description 21
- 239000013598 vector Substances 0.000 claims description 14
- 230000001427 coherent effect Effects 0.000 claims description 7
- 238000005457 optimization Methods 0.000 claims description 6
- 230000019771 cognition Effects 0.000 claims description 4
- 238000013528 artificial neural network Methods 0.000 claims description 3
- 238000012163 sequencing technique Methods 0.000 claims description 3
- 238000000605 extraction Methods 0.000 abstract description 5
- 238000004458 analytical method Methods 0.000 abstract description 4
- 238000004088 simulation Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 7
- 238000002474 experimental method Methods 0.000 description 5
- 238000010276 construction Methods 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000012706 support-vector machine Methods 0.000 description 3
- 238000003066 decision tree Methods 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 239000002689 soil Substances 0.000 description 2
- 240000005979 Hordeum vulgare Species 0.000 description 1
- 235000007340 Hordeum vulgare Nutrition 0.000 description 1
- 244000046052 Phaseolus vulgaris Species 0.000 description 1
- 235000010627 Phaseolus vulgaris Nutrition 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000004445 quantitative analysis Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Radar Systems Or Details Thereof (AREA)
Abstract
本发明方法公开了一种知识自编码网络及其极化SAR影像地物分类方法，主要解决现有极化SAR影像地物分类方法人工标记过多、分类正确率较低等问题。其实现主要是：构建知识自编码网络，逐层提取输入数据在不同深度层次的特征，用极化SAR影像数据Wishart距离作为先验知识指导地物分类；在网络学习时用正交PSO算法对网络参数寻优得到分类网络；将待分类数据输入网络得到分类结果。本发明通过构建知识自编码网络，自动对数据进行特征提取，避免人工参与，消除不确定因素；用先验知识指导分类结果，提高分类正确率；用正交PSO算法对网络寻优，加快训练速度。本发明可用于数据分类、图像分类、场景分类、目标识别及数据预测分析。
Description
技术领域
本发明属于图像处理技术领域，特别涉及极化SAR影像地物分类的方法，具体是一种知识自编码网络及其极化SAR图像分类方法，可用于数据分类、图像分类、场景分类、目标识别及数据预测分析。
背景技术
极化SAR影像地物分类技术主要针对极化合成孔径雷达(PolarimetrieSynthetie Aperture Radar，简写POLSAR)所成影像数据进行地物分类，是极化SAR影像进一步理解和应用的基础。极化合成孔径雷达是一种多参数、多通道的成像雷达***，它通过测量地面每一分辨单元内的全极化散射回波，进而获取目标的极化信息，目前用于信息表达的有散射矩阵、极化相干矩阵或Kelmaugh矩阵等。与传统雷达图像相比，极化合成孔径雷达能够提供更多的地物信息和分类特征。极化SAR图像分类是极化SAR数据应用中的基础和重要步骤，也是一个技术难点,目前常用的极化SAR图像的分类方法多是基于极化特征分解的方法，在这种方法里人工参与的成分更多，会带来对数据描述的不全面等诸多不确定因素。
武汉大学申请的专利“基于混合分类器的极化SAR数据分类方法及***”(专利申请号：201310310179，公开号：CN103366184A)中公开了一种基于混合分类器的极化SAR数据分类方法。该方法首先通过对极化散射矩阵进行极化分解，得到初始极化特征，然后采用决策树分类器从初始的极化特征中选择用于分类的极化特征，最后将选择出的极化特征，采用支持向量机分类器对极化SAR数据分类。该方法综合了决策树分类器和支持向量机分类器的优势，但是，该方法也存在不足，在分类精度上相比于支持向量机分类器没有太大的提高，操作复杂，并且只利用了散射特征，不足以表示实际的地物，因此，在对极化SAR地物分类上错分的点比较多。
西北工业大学申请的专利“一种基于深度学习的自然图像中显著区域的检测方法”(专利号：201310739026，公开号：CN103810503A)中公开了一种利用深度学习进行自然图像中显著区域的检测方法，在训练阶段，首先在自然图像数据库上选取一定数量的图片提取基本特征，构成训练样本，然后利用深度学习模型对已提取特征进行再学习，从而得到更抽象更有区分能力的增强型高级特征，最后用学习到的特征训练分类器。在测试阶段，对于任意一幅测试图像，首先提取基本特征，然后利用训练好的深度模型，提取增强型高级特征，最后利用分类器进行显著性与否的预测，并把每个像素点的预测值作为这点的显著值。该方法通过深度学习的方法得到自然图像中的显著性知识，但是，该方法存在的不足是，对于不同数据的知识特征描述的针对性不强，没有充分利用数据的先验知识对分类结果进行指导，从而导致分类结果中正确率不高。
发明内容
本发明的目的在于针对已有技术的不足，克服上述现有技术中对于极化SAR影像地物分类时对极化SAR影像数据特征提取方面需要人工参与容易导致不确定性的问题，提出了一种高效的自动提取特征，并且用极化SAR影像数据的Wishart距离作为先验知识指导分类方向，丰富数据的特征描述信息，正确率高，可移植性强的知识自编码网络及其极化SAR影像地物分类方法。
本发明的目的和思路叙述如下：通过构建知识自编码网络，自动对数据进行特征提取，避免人工参与，消除不确定因素；用先验知识指导分类结果，提高分类正确率；用正交PSO算法对网络寻优，加快训练速度。本发明与现有技术中其他数据分类方法相比，能够克服现有技术中对于特征提取过程中由于人工参与过多而导致的不确定性，自动化程度高，分类正确率高，可移植性强。
为实现上述目的，本发明的技术方案包括如下网络和方法：
本发明首先提供一种知识自编码网络，网络是一种多元神经网络结构，其特征在于：所述网络由1个自编码网络Net1和1个知识网络Net2级联构成；Net1具体有1个输入层、n个自编码特征抽象层和1个输出层级联构成，记Net1的输出层为输出层1；Net2具有1个知识层和1个输出层级联构成，记Net2的输出层为输出层2；Net1的输出层1与Net2的知识层并联构成Net2的输入，并将此输入直接与输出层2级联。
本发明的实现还在于：Net1中的输入层直接与自编码特征抽象层的第1层级联，通过自编码特征抽象层1～n层的逐层作用，得到输入数据在不同层次下的高级特征f1，f2，…，fn，其中fn记为自编码网络Net1中用于分类的高级特征；自编码特征抽象层的第n层直接与输出层1级联，将fn输入到输出层1的分类器，得到输入数据的初步分类结果；知识层中的数据记为知识网络Net2的知识特征fk，Net1的输出层1得到的初步分类结果与fk并联构成Net2用于分类的终级特征，将该终极特征输入到输出层2，得到的即为对输入数据的分类结果。
本发明还是一种基于知识自编码网络的极化SAR影像地物分类方法，其特征在于，是在上述的网络下运行的，包括有如下步骤：
步骤1输入极化SAR影像数据，根据该输入影像数据建立极化SAR影像地物分类训练集U和测试集V；
步骤2构建权利要求1-2所述的知识自编码网络，得到尚未训练的知识自编码网络；
步骤3划分该网络的层次，对自编码特征抽象层进行分层主动学习，所用训练数据为训练集U中的样本；在逐层主动学习的过程中，用正交PSO算法对网络的参数进行寻优：
3a首先设定种群大小为N，迭代停止条件为损失函数值L达到最小值Tmin；
3b产生数量为N的种群在空间中随机安置，寻找当前状态下的个体极值和种群极值，设定网络损失函数如下，作为判定网络是否稳定的标志：
其中，y为有标签数据的类别标签，hw,b(x)为输入x经过网络后的输出，该式代表的是预测标签和类别标签的差别；
3c判断当前网络的损失函数L是否小于最小值Tmin，若小于最小值Tmin，则退出循环，执行步骤4；若没有小于最小值Tmin，执行步骤3d，开始迭代进行该学习算法的更新和计算；
3d对于种群中的每一个粒子，对它们速度和个体按照如下公式进行更新计算：
其中，为粒子更新后的速度，为粒子当前速度，ω为粒子保持现有速度的权重，c1为粒子对自身运动状态的认知，为粒子当前的最优位置，
c2为粒子对种群群体运动状态的认知，为种群群体当前的最优位置；
3e根据更新得到的粒子，计算网络当前的损失函数L，根据损失函数L的大小，更新个体最优和种群最优；
3f对于每个粒子的个体最优之间，根据正交试验的思想对其进行正交，构成正交之后的新的粒子种群；
3g对于新的粒子种群中的每个粒子，将它们作用于当前的自编码网络，计算当前网络的损失函数L；
3h判断损失函数L是否小于最小值Tmin，若未小于最小值Tmin，则转向步骤3d继续进行；若小于最小值Tmin，则退出循环，执行步骤4；
步骤4将分层主动学习获得的自编码特征抽象层的当前最优参数分别赋给自编码网络Net1的各级对应层，得到初始自编码网络Net1；并将训练集U中的样本输入到已得到的初始自编码网络Net1，用正交PSO算法对初始自编码网络Net1的参数进行学习和调整，得到一个用于初步分类的自编码网络Net1；
步骤5训练Net2中知识层的参数，将训练集U中样本通过Net1得到的初步分类结果和知识特征fk并联输入知识网络Net2，通过正交PSO算法对知识网络Net2的参数进行学习，得到一个用于最终分类的知识网络Net2；
步骤6由已训练好的Net1和Net2级联构成用于分类的知识自编码网络，并将极化SAR影像所有待分类数据输入该知识自编码网络，得到极化SAR影像地物分类结果。
本发明的实现还在于：其中步骤1所述的数据集，是用每一个散射体的输入向量表达用极化SAR的T矩阵中的相干矩阵系数构成，该相干矩阵T对于每一个像素点的描述为一个3*3的复数矩阵，该复数矩阵中每一个元素的实部和虚部分别被提取出来构成M*1维列向量作为该像素点的输入向量，并且计算该像素点与各类中心的复Wishart距离作为知识特征fk，输出向量即为该数据所属的类别标签；所有有标签数据构成测试集V，随机选取有标签数据的3％做为训练集U。
本发明的实现还在于：其中步骤2所述的构建知识自编码网络，根据设定的输入层节点数、深度层数、自编码特征抽象层节点数、知识层节点数及输出层节点数构建知识自编码网络。
本发明的实现还在于：其中步骤3f所述的对于每个粒子的个体最优之间，根据正交试验的思想对其进行正交，构成正交之后的新的粒子种群：
3f1对于种群数量为N的粒子群，计算各粒子作用下网络的损失函数L的值，将L按照从小到大依次排序；
3f2选取排序中损失函数较小的N/2个粒子，保留其各维的数据构成；
3f3对于排序中损失函数较大的N/2个粒子，将它们分别与损失函数较小的N/2个粒子进行正交，使得各维都同时向全局最优靠近，得到新的N/2个粒子；
3f4由3f2和3f3得到的所有新粒子构成正交之后的新的粒子种群，其种群数量为N。
本发明不仅提供了一种知识自编码网络，而且提供了对于该网络学习时的一种优秀的正交PSO算法。将所述网络用于极化SAR影像地物分类应用，不仅增加了极化SAR分类技术方法选择的多样性，而且提高了极化SAR影像地物分类结果的准确性。
本发明与现有的技术相比具有以下优点：
1、本发明构建知识自编码网络逐层提取输入数据的高级特征，由网络自主学习完成，克服了传统方法中需要人工设定提取特征的复杂性，自动化程度更高；
2、本发明将极化SAR数据的先验知识引入到网络中对网络的分类决策进行指导，克服了网络自己学习产生的认识偏差，通过先验知识的指导，使得网络的分类准确度大大提高；
3、本发明采用一种新型的靠近全局最优解的正交PSO算法对知识自编码网络的参数学习进行寻优，以全局搜索的方式对网络进行训练，大大降低了网络训练的时间。
附图说明
图1是本发明的流程图；
图2是本发明的知识自编码网络构建图；
图3是本发明对极化SAR数据进行仿真得到的极化SAR影像地物分类结果；
图4是本发明与其它方法对极化SAR数据进行仿真得到的极化SAR影像地物分类正确率柱状对比图。
具体实施方式
下面结合附图对本发明做进一步的详细说明。
实施例1：
本发明提出了一种知识自编码网络及其极化SAR影像地物分类方法，在下面的描述中，假设待处理数据已经过处理表示为双精度数据，所有数据输入向量已通过归一化处理得到样本的统计分布特性；假设待处理数据的标签表示已按照0/1的方式将其表示，能够实现网络输出层的节点表达；假设已经根据输入数据的特征和规模设定了知识自编码网络的深度层数以及各层深度中节点的个数；假设网络构建及学***台为MatlabR2012a，能够运行海量数据的规模。
在下面的实施例描述中，仿真所使用的数据为NASA/JPL实验室AIRSAR***于1989年获取的荷兰中部Flevoland地区真实农田区域的L波段全极化数据，其输入数据来源于该极化SAR影像的相干矩阵T，该相干矩阵T对于每一个像素点的描述为一个3*3的复数矩阵，该复数矩阵中的每一个元素的实部和虚部分别被提取出来作为该像素点输入向量的构成，并且提取复Wishart距离作为知识层的输入，共16维，同时由于仿真图中包含有6种不同的地物类别，则对该极化SAR影像数据的分类输出为6类的地物分类结果。
本发明首先是一种知识自编码网络,网络是一种多元神经网络结构，参见图2，网络由1个自编码网络Net1和1个知识网络Net2级联构成；Net1具体有1个输入层、n个自编码特征抽象层和1个输出层级联构成，记Net1的输出层为输出层1；Net2具有1个知识层和1个输出层级联构成，记Net2的输出层为输出层2；Net1的输出层1与Net2的知识层并联构成Net2的输入，并将此输入直接与输出层2级联。本发明的自编码特征抽象层为n层，n的选取与实际实验或实际情况相关：n较大时，容易导致网络学习时间较长，过大会造成时间的不必要耗费；n较小时，时间较短，若n过小，则会导致极化SAR图像分类准确度的降低。本例中根据实际情况，确定自编码特征抽象层的层数n定义为3。
实施例2：
知识自编码网络的总体结构和构成同实施例1，Net1中的输入层直接与自编码特征抽象层的第1层级联，通过自编码特征抽象层1～n层的逐层作用，得到输入数据在不同层次下的高级特征f1，f2，…，fn，其中fn记为自编码网络Net1中用于分类的高级特征；自编码特征抽象层的第n层直接与输出层1级联，将fn输入到输出层1的分类器，得到输入数据的初步分类结果；知识层中的数据记为知识网络Net2的知识特征fk，Net1的输出层1得到的初步分类结果与fk并联构成Net2用于分类的终级特征，将该终极特征输入到输出层2，得到的即为对输入数据的分类结果。
本例中输入层节点设置为15，自编码特征抽象层的层数设为3层，逐层节点数设置为200、150、80，自编码特征抽象层的各层得到的结果代表输入数据在不同层次下的高级特征f1，f2，f3，其中f3记为自编码网络Net1中用于分类的高级特征。知识层节点数设为6，其输入数据为知识网络Net2的知识特征fk，由fk与Net1输出层得到的初步分类结果共同构成Net2的输出层用于分类的终级特征。
实施例3：
本发明还是一种基于知识自编码网络的极化SAR影像地物分类方法，是在上述知识自编码网络下运行的，其总体结构和构成同实施例1-2，极化SAR影像地物分类过程包括有如下步骤：
步骤1输入极化SAR影像数据，根据该输入影像数据建立极化SAR影像地物分类训练集U和测试集V，通过训练集U对网络参数进行训练，通过测试集V对网络性能进行测试，有助于网络的评价和性能。
步骤2构建上述知识自编码网络，得到尚未训练的知识自编码网络。该网络的构建参数是根据待处理数据的特征来确定的，具有针对性，能够更好地实现极化SAR影像的地物分类。
步骤3划分该网络的层次，对自编码特征抽象层进行分层主动学习，所用训练数据为训练集U中的样本；在逐层主动学习的过程中，用正交PSO算法对网络的参数进行寻优：
3a首先设定种群大小为N，迭代停止条件为损失函数值L达到最小值Tmin；
3b产生数量为N的种群在空间中随机安置，寻找当前状态下的个体极值和种群极值，设定网络损失函数如下，作为判定网络是否稳定的标志：
其中，y为有标签数据的类别标签，hw,b(x)为输入x经过网络后的输出，该式代表的是预测标签和类别标签的差别；
3c判断当前网络的损失函数L是否小于最小值Tmin，若小于最小值Tmin，则退出循环，执行步骤4；若没有小于最小值Tmin，执行步骤3d，开始迭代进行该学习算法的更新和计算；
3d对于种群中的每一个粒子，对它们速度和个体按照如下公式进行更新计算：
其中，为粒子更新后的速度，为粒子当前速度，ω为粒子保持现有速度的权重，本例中设置为0.8，c1为粒子对自身运动状态的认知，本例中设置为2，为粒子当前的最优位置，c2为粒子对种群群体运动状态的认知，本例中设置为2，为种群群体当前的最优位置；
3e根据更新得到的粒子，计算网络当前的损失函数L，根据损失函数L的大小，更新个体最优和种群最优；
3f对于每个粒子的个体最优之间，根据正交试验的思想对其进行正交，构成正交之后的新的粒子种群；
3g对于新的粒子种群中的每个粒子，将它们作用于当前的自编码网络，计算当前网络的损失函数L；
3h判断损失函数L是否小于最小值Tmin，若未小于最小值Tmin，则转向步骤3d继续进行；若小于最小值Tmin，则退出循环，执行步骤4。
步骤4将分层主动学习获得的自编码特征抽象层的当前最优参数分别赋给自编码网络Net1的各级对应层，得到初始自编码网络Net1；并将训练集U中的样本输入到已得到的初始自编码网络Net1，用正交PSO算法对初始自编码网络Net1的参数进行学习和调整，得到一个用于初步分类的自编码网络Net1。
步骤5训练Net2中知识层的参数，将训练集U中样本通过Net1得到的初步分类结果和知识特征fk并联输入知识网络Net2，通过正交PSO算法对知识网络Net2的参数进行学习，得到一个用于最终分类的知识网络Net2。
步骤6由已训练好的Net1和Net2级联构成用于分类的知识自编码网络，并将极化SAR影像所有待分类数据输入该知识自编码网络，得到极化SAR影像地物分类结果，参见图3。
实施例4：
基于知识自编码网络的极化SAR影像地物分类方法同实施例3，步骤1中提及的数据集，是用每一个散射体的输入向量表达用极化SAR的T矩阵中的相干矩阵系数构成，该相干矩阵T对于每一个像素点的描述为一个3*3的复数矩阵，该复数矩阵中每一个元素的实部和虚部分别被提取出来构成M*1维列向量作为该像素点的输入向量，并且计算该像素点与各类中心的复Wishart距离作为知识特征fk，输出向量即为该数据所属的类别标签；所有有标签数据构成测试集V，随机选取有标签数据的3％做为训练集U。本例中待分类数据共有81000个，其中有标签数据共41659个作为数据分类测试集，随机选取1200个有标签样本作为数据分类训练集，这样选的好处在于用较少的样本训练网络参数以实现对较多样本的分类预测，既降低了网络训练的时间，又能得到较高的分类性能，是一种较好的选择方式。
实施例5：
基于知识自编码网络的极化SAR影像地物分类方法同实施例3-4，步骤2中提及的构建知识自编码网络，根据设定的输入层节点数、深度层数、自编码特征抽象层节点数、知识层节点数及输出层节点数构建知识自编码网络。本例中输入节点设置为15，自编码网络Net1的自编码特征抽象层各层节点数依次设为200、150、80，由于仿真图中包含有6种不同的地物类别，因此输出层1节点数设为6，知识网络Net2中知识层节点数设为6，输出层2的节点数设为6，,对应的6个节点得到的结果即为对输入数据的分类结果。该网络的构建参数是根据待处理数据的特征来确定的，具有针对性，能够更好地实现极化SAR影像的地物分类。实施例6：
基于知识自编码网络的极化SAR影像地物分类方法同实施例3-5，步骤3f所述的对于每个粒子的个体最优之间，根据正交试验的思想对其进行正交，构成正交之后的新的粒子种群：
3f1对于种群数量为N的粒子群，计算各粒子作用下网络的损失函数L的值，将L按照从小到大依次排序；
3f2选取排序中损失函数较小的N/2个粒子，保留其各维的数据构成；
3f3对于排序中损失函数较大的N/2个粒子，将它们分别与损失函数较小的N/2个粒子进行正交，使得各维都同时向全局最优靠近，得到新的N/2个粒子；
3f4由3f2和3f3得到的所有新粒子构成正交之后的新的粒子种群，其种群数量为N。
本例中设定的种群数量N为40，因此在3f2和3f3中对于排序中选取的粒子数目分别是损失函数较小的20个粒子和损失函数较大的20个粒子。
实施例7：
基于知识自编码网络的极化SAR影像地物分类方法同实施例3-6，本例中设置三种对比算法，通过本发明对极化SAR影像地物分类结果证明本方法的分类正确率高、学习时间快等优点。
本发明可以通过以下仿真实验来进行验证：
1.仿真条件：
仿真实验采用数据：NASA/JPL实验室AIRSAR***于1989年获取的荷兰中部Flevoland地区真实农田区域的L波段全极化数据，大小为270×300，主要包括6种地物类别。
硬件平台：Intel(R)Core(TM)2Duo CPU [email protected]、3.00GB RAM；
软件平台：Matlab R2012a；
2.仿真内容及分析：
使用本发明与H/a-wishart方法、Freeman方法和自编码器等方法进行对比，均对极化SAR影像数据进行分类，记录训练时间、测试时间、各类正确率和总正确率，并对各项性能进行比较分析。
仿真1，用本发明方法对NASA/JPL实验室AIRSAR***于1989年获取的荷兰中部Flevoland地区真实农田区域的L波段全极化数据进行10次分类实验，计算10次实验的平均分类正确率，作为极化SAR图像分类的最终正确率，结果如图3。
图3展示了本发明对于该幅极化SAR影像数据所有待分类数据的分类结果，其中图3(a)为极化SAR影像原始数据地物表示，图3(b)为原始数据标签图，图3(c)为本发明对于该幅极化SAR影像数据所有待分类数据的分类结果的伪彩图表示。由图3可见，本发明对于极化SAR图像各类别的平均分类正确率在90％以上，具有良好的地物分类效果。
仿真2，用本发明方法及现有的H/a-wishart方法、Freeman方法和自编码器等方法对NASA/JPL实验室AIRSAR***于1989年获取的荷兰中部Flevoland地区真实农田区域的L波段全极化数据进行对比实验，计算10次实验的平均分类正确率，作为极化SAR图像分类的最终正确率，其定量分析结果对比表如表1所示，柱状对比图如图4。
表1 极化SAR图像分类结果对比
本例中得到的本发明最终评价数据和其他三种方法得到的分类结果列在表1中，对比方法分别为极化SAR影像地物分类中的两种经典方法H/a-wishart方法和Freeman方法，以及深度学习中的经典方法自编码器。表1中由上到下依次为各方法的训练时间、测试时间、各类地物分类正确率和分类总体正确率的对比。由于H/a-wishart方法和Freeman方法属于无监督方法因此没有训练时间和测试时间的含义，因此在时间方面可以对比分方法和自编码器方法，本方法的训练时间仅为2861.10s，相较于自编码器方法的3185.10s来说是一个很有优势的时间，可见用正交PSO算法训练网络的重要性。而在测试时间来看，两者时间相差无几。对比各类地物的分类正确率，从每一类的分类精度结果看，对于区分度高的类别，四种方法的分类精度不相上下。对于H/a-wishart方法区分效果好而Freeman区分效果差的第三类土豆类，以及对于Freeman区分效果好而H/a区分效果差的第六类大麦类，自编码器和本方法均能达到良好的效果。特别的，在传统分类方法无法区分出的第一类裸土类，自编码器分类效果仅有15.99％，而正交PSO知识自编码网络的正确率达到91.28％，对该类地物分类的效果有了显著的提升。从分类总正确率来看，本方法较传统两种方法提高近30个百分点，较自编码器方法提高近10个百分点，可见知识层的引入对于精确度来说有一种很大的帮助。并将本方法和其他三种方法得到的分类结果的分类正确率画成柱状图在图4中展示，其中柱状图由左到右依次为H/a-wishart方法、Freeman方法、自编码器方法和本发明得到的分类正确率，图4可直观地看出本发明在分类正确率方面相较于其他三种方法的分类正确率高。
由图3、图4和表1可见，本发明在极化SAR影像地物分类方面正确率远远高于其它方法。
综上所述，本发明通过对先验知识的引入对深度网络进行分类指导，达到对极化SAR影像数据取得更好的分类结果，正确率有很大的提高。
综上，本发明的知识自编码网络及其极化SAR影像地物分类方法，主要解决现有针对极化SAR影像地物分类方法人工标记工作量较大和分类正确率较低的问题。其实现主要是：构建知识自编码网络，逐层提取输入数据在不同深度层次的特征，用极化SAR影像数据Wishart距离作为先验知识指导地物分类；在网络学习时用正交PSO算法对网络参数寻优得到分类网络；将待分类数据输入网络得到分类结果。本发明通过构建知识自编码网络，自动对数据进行特征提取，避免人工参与，消除不确定因素；用先验知识指导分类结果，提高分类正确率；用正交PSO算法对网络寻优，加快训练速度。本发明可用于数据分类、图像分类、场景分类、目标识别及数据预测分析。
Claims (5)
1.一种知识自编码网络***，是一种多元神经网络结构，其特征在于：所述知识自编码网络***由1个自编码网络Net1和1个知识网络Net2级联构成；Net1具体有1个输入层、n个自编码特征抽象层和1个输出层级联构成，记Net1的输出层为输出层1；Net2具有1个知识层和1个输出层级联构成，记Net2的输出层为输出层2；Net1的输出层1与Net2的知识层并联构成Net2的输入，并将此输入直接与输出层2级联；Net1中的输入层直接与自编码特征抽象层的第1层级联，通过自编码特征抽象层1～n层的逐层作用，得到输入数据在不同层次下的高级特征f1，f2，…，fn，其中fn记为自编码网络Net1中用于分类的高级特征；自编码特征抽象层的第n层直接与输出层1级联，将fn输入到输出层1的分类器，得到输入数据的初步分类结果；知识层中的数据记为知识网络Net2的知识特征fk，Net1的输出层1得到的初步分类结果与fk并联构成Net2用于分类的终级特征，将该终级特征输入到输出层2，得到的即为对输入数据的分类结果。
2.一种基于知识自编码网络的极化SAR影像地物分类方法，其特征在于，是在权利要求1所述的知识自编码网络***下运行的，包括有如下步骤：
步骤1输入极化SAR影像数据，根据该输入影像数据建立极化SAR影像地物分类训练集U和测试集V；
步骤2构建权利要求1所述的知识自编码网络***，得到尚未训练的知识自编码网络；
步骤3划分该网络的层次，对自编码特征抽象层进行分层主动学习，所用训练数据为训练集U中的样本；在逐层主动学习的过程中，用正交PSO算法对网络的参数进行寻优：
3a首先设定种群大小为N，迭代停止条件为损失函数值L达到最小值Tmin；
3b产生数量为N的种群在空间中随机安置，寻找当前状态下的个体极值和种群极值，设定网络损失函数如下，作为判定网络是否稳定的标志：
<mrow>
<mi>L</mi>
<mo>=</mo>
<mfrac>
<mn>1</mn>
<mn>2</mn>
</mfrac>
<mo>|</mo>
<mo>|</mo>
<mi>y</mi>
<mo>-</mo>
<msub>
<mi>h</mi>
<mrow>
<mi>w</mi>
<mo>,</mo>
<mi>b</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>x</mi>
<mo>)</mo>
</mrow>
<mo>|</mo>
<msup>
<mo>|</mo>
<mn>2</mn>
</msup>
</mrow>
其中，y为有标签数据的类别标签，hw,b(x)为输入x经过网络后的输出，该式代表的是预测标签和类别标签的差别；
3c判断当前网络的损失函数L是否小于最小值Tmin，若小于最小值Tmin，则退出循环，执行步骤4；若没有小于最小值Tmin，执行步骤3d，开始迭代进行该学习算法的更新和计算；
3d对于种群中的每一个粒子，对它们速度和个体按照如下公式进行更新计算：
<mrow>
<msubsup>
<mi>v</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>t</mi>
<mo>+</mo>
<mn>1</mn>
</mrow>
<mi>d</mi>
</msubsup>
<mo>=</mo>
<msubsup>
<mi>&omega;v</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>t</mi>
</mrow>
<mi>d</mi>
</msubsup>
<mo>+</mo>
<msub>
<mi>c</mi>
<mn>1</mn>
</msub>
<mo>*</mo>
<mi>r</mi>
<mi>a</mi>
<mi>n</mi>
<mi>d</mi>
<mo>*</mo>
<mrow>
<mo>(</mo>
<msubsup>
<mi>p</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>t</mi>
</mrow>
<mi>d</mi>
</msubsup>
<mo>-</mo>
<msubsup>
<mi>x</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>t</mi>
</mrow>
<mi>d</mi>
</msubsup>
<mo>)</mo>
</mrow>
<mo>+</mo>
<msub>
<mi>c</mi>
<mn>2</mn>
</msub>
<mo>*</mo>
<mi>R</mi>
<mi>a</mi>
<mi>n</mi>
<mi>d</mi>
<mo>*</mo>
<mrow>
<mo>(</mo>
<msubsup>
<mi>p</mi>
<mrow>
<mi>g</mi>
<mo>,</mo>
<mi>t</mi>
</mrow>
<mi>d</mi>
</msubsup>
<mo>-</mo>
<msubsup>
<mi>x</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>t</mi>
</mrow>
<mi>d</mi>
</msubsup>
<mo>)</mo>
</mrow>
</mrow>
<mrow>
<msubsup>
<mi>x</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>t</mi>
<mo>+</mo>
<mn>1</mn>
</mrow>
<mi>d</mi>
</msubsup>
<mo>=</mo>
<msubsup>
<mi>x</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>t</mi>
</mrow>
<mi>d</mi>
</msubsup>
<mo>+</mo>
<msubsup>
<mi>v</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>t</mi>
<mo>+</mo>
<mn>1</mn>
</mrow>
<mi>d</mi>
</msubsup>
</mrow>
其中，为粒子更新后的速度，为粒子当前速度，ω为粒子保持现有速度的权重，c1为粒子对自身运动状态的认知，为粒子当前的最优位置，c2为粒子对种群群体运动状态的认知，为种群群体当前的最优位置；
3e根据更新得到的粒子，计算网络当前的损失函数L，根据损失函数L的大小，更新个体最优和种群最优；
3f对于每个粒子的个体最优之间，根据正交试验的思想对其进行正交，构成正交之后的新的粒子种群；
3g对于新的粒子种群中的每个粒子，将它们作用于当前的自编码网络，计算当前网络的损失函数L；
3h判断损失函数L是否小于最小值Tmin，若未小于最小值Tmin，则转向步骤3d继续进行；若小于最小值Tmin，则退出循环，执行步骤4；
步骤4将分层主动学习获得的自编码特征抽象层的当前最优参数分别赋给自编码网络Net1的各级对应层，得到初始自编码网络Net1；并将训练集U中的样本输入到已得到的初始自编码网络Net1，用正交PSO算法始自编码网络Net1的参数进行学习和调整，得到一个用于初步分类的自编码网络Net1；
步骤5训练Net2中知识层的参数，将训练集U中样本通过Net1得到的初步分类结果和知识特征fk并联输入知识网络Net2，通过正交PSO算法对知识网络Net2的参数进行学习，得到一个用于最终分类的知识网络Net2；
步骤6由已训练好的Net1和Net2级联构成用于分类的知识自编码网络，并将极化SAR影像所有待分类数据输入该知识自编码网络，得到极化SAR影像地物分类结果。
3.根据权利要求2所述的基于知识自编码网络的极化SAR影像地物分类方法，其特征在于，其中步骤1所述的数据集，是用每一个散射体的输入向量表达用极化SAR的T矩阵中的相干矩阵系数构成，该相干矩阵T对于每一个像素点的描述为一个3*3的复数矩阵，该复数矩阵中每一个元素的实部和虚部分别被提取出来构成M*1维列向量作为该像素点的输入向量，并且计算该像素点与各类中心的复Wishart距离作为知识特征fk，输出向量即为该数据所属的类别标签；所有有标签数据构成测试集V，随机选取有标签数据的3％做为训练集U。
4.根据权利要求2所述的基于知识自编码网络的极化SAR影像地物分类方法，其特征在于，其中步骤2所述的构建知识自编码网络，根据设定的输入层节点数、深度层数、自编码特征抽象层节点数、知识层节点数及输出层节点数构建知识自编码网络。
5.根据权利要求2所述的基于知识自编码网络的极化SAR影像地物分类方法，其特征在于，其中步骤3f所述的对于每个粒子的个体最优之间，根据正交试验的思想对其进行正交，构成正交之后的新的粒子种群：
3f1对于种群数量为N的粒子群，计算各粒子作用下网络的损失函数L的值，将L按照从小到大依次排序；
3f2选取排序中损失函数较小的N/2个粒子，保留其各维的数据构成；
3f3对于排序中损失函数较大的N/2个粒子，将它们分别与损失函数较小的N/2个粒子进行正交，使得各维都同时向全局最优靠近，得到新的N/2个粒子；
3f4由3f2和3f3得到的所有新粒子构成正交之后的新的粒子种群，其种群数量为N。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410741792.8A CN104463207B (zh) | 2014-12-05 | 2014-12-05 | 知识自编码网络及其极化sar影像地物分类方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410741792.8A CN104463207B (zh) | 2014-12-05 | 2014-12-05 | 知识自编码网络及其极化sar影像地物分类方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN104463207A CN104463207A (zh) | 2015-03-25 |
| CN104463207B true CN104463207B (zh) | 2017-08-25 |
Family
ID=52909221
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201410741792.8A Active CN104463207B (zh) | 2014-12-05 | 2014-12-05 | 知识自编码网络及其极化sar影像地物分类方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN104463207B (zh) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106228130B (zh) * | 2016-07-19 | 2019-09-10 | 武汉大学 | 基于模糊自编码网络的遥感影像云检测方法 |
| CN106772371A (zh) * | 2016-11-21 | 2017-05-31 | 上海卫星工程研究所 | 基于极化干涉sar分类应用的极化定标参数需求分析方法 |
| CN107229944B (zh) * | 2017-05-04 | 2021-05-07 | 青岛科技大学 | 基于认知信息粒子的半监督主动识别方法 |
| CN107392122B (zh) * | 2017-07-07 | 2019-12-31 | 西安电子科技大学 | 基于多极化特征和fcn-crf融合网络的极化sar影像目标检测方法 |
| CN108319667B (zh) * | 2018-01-22 | 2021-03-05 | 上海星合网络科技有限公司 | 多维的知识体系展示方法和装置 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8209080B2 (en) * | 2009-04-27 | 2012-06-26 | Toyota Motor Engineering & Manufacturing North America, Inc. | System for determining most probable cause of a problem in a plant |
| CN103955702A (zh) * | 2014-04-18 | 2014-07-30 | 西安电子科技大学 | 基于深度rbf网络的sar图像地物分类方法 |
| CN104156736A (zh) * | 2014-09-05 | 2014-11-19 | 西安电子科技大学 | 基于sae和idl的极化sar图像分类方法 |
-
2014
- 2014-12-05 CN CN201410741792.8A patent/CN104463207B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8209080B2 (en) * | 2009-04-27 | 2012-06-26 | Toyota Motor Engineering & Manufacturing North America, Inc. | System for determining most probable cause of a problem in a plant |
| CN103955702A (zh) * | 2014-04-18 | 2014-07-30 | 西安电子科技大学 | 基于深度rbf网络的sar图像地物分类方法 |
| CN104156736A (zh) * | 2014-09-05 | 2014-11-19 | 西安电子科技大学 | 基于sae和idl的极化sar图像分类方法 |
Non-Patent Citations (1)
| Title |
|---|
| 基于知识的合成孔径雷达图像目标识别研究;王寿彪等;《图书情报工作 2012年增刊（1）》;20121231;第227-230页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN104463207A (zh) | 2015-03-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110516596B (zh) | 基于Octave卷积的空谱注意力高光谱图像分类方法 | |
| CN104463207B (zh) | 知识自编码网络及其极化sar影像地物分类方法 | |
| CN110458233A (zh) | 混合粒度物体识别模型训练及识别方法、装置及存储介质 | |
| CN105488528B (zh) | 基于改进自适应遗传算法的神经网络图像分类方法 | |
| CN105809672B (zh) | 一种基于超像素和结构化约束的图像多目标协同分割方法 | |
| CN110413924A (zh) | 一种半监督多视图学习的网页分类方法 | |
| CN107818302A (zh) | 基于卷积神经网络的非刚性多尺度物体检测方法 | |
| CN106779087A (zh) | 一种通用机器学***台 | |
| CN106503689A (zh) | 基于粒子群算法的神经网络局部放电信号模式识别方法 | |
| CN106096661B (zh) | 基于相对属性随机森林的零样本图像分类方法 | |
| CN107256017B (zh) | 路线规划方法及*** | |
| CN107480642A (zh) | 一种基于时域分段网络的视频动作识别方法 | |
| CN108229550A (zh) | 一种基于多粒度级联森林网络的云图分类方法 | |
| CN108363810A (zh) | 一种文本分类方法及装置 | |
| CN111832608A (zh) | 一种基于单阶段检测模型yolov3的铁谱图像多磨粒识别方法 | |
| CN108985360A (zh) | 基于扩展形态学与主动学习的高光谱分类方法 | |
| CN110287985B (zh) | 一种基于带变异粒子群算法的可变拓扑结构的深度神经网络图像识别方法 | |
| CN110852369B (zh) | 联合3d/2d卷积网络和自适应光谱解混的高光谱图像分类方法 | |
| CN107016416B (zh) | 基于邻域粗糙集和pca融合的数据分类预测方法 | |
| CN111860576A (zh) | 一种基于随机森林的子宫内膜肿瘤分类标记方法 | |
| CN112685591A (zh) | 用户兴趣区域与反馈引导的图片精准检索方法 | |
| CN108898076A (zh) | 一种视频行为时间轴定位及候选框提取的方法 | |
| CN113066528B (zh) | 基于主动半监督图神经网络的蛋白质分类方法 | |
| CN113177576B (zh) | 一种用于目标检测的多示例主动学习方法 | |
| CN112633591B (zh) | 一种基于深度强化学习的空间搜索方法及设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |