CN109214401B - 基于层次化自动编码器的sar图像分类方法及装置 - Google Patents
基于层次化自动编码器的sar图像分类方法及装置 Download PDFInfo
- Publication number
- CN109214401B CN109214401B CN201710527209.7A CN201710527209A CN109214401B CN 109214401 B CN109214401 B CN 109214401B CN 201710527209 A CN201710527209 A CN 201710527209A CN 109214401 B CN109214401 B CN 109214401B
- Authority
- CN
- China
- Prior art keywords
- automatic encoder
- model
- sample
- sar image
- generalized
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000012549 training Methods 0.000 claims description 40
- 230000006870 function Effects 0.000 claims description 19
- 230000003321 amplification Effects 0.000 claims description 15
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 15
- 238000004422 calculation algorithm Methods 0.000 claims description 14
- 239000011159 matrix material Substances 0.000 claims description 7
- 230000000007 visual effect Effects 0.000 claims description 7
- 238000010606 normalization Methods 0.000 claims description 5
- 238000003860 storage Methods 0.000 claims description 5
- 238000012706 support-vector machine Methods 0.000 claims description 5
- 230000003190 augmentative effect Effects 0.000 claims description 3
- 238000004891 communication Methods 0.000 claims description 2
- 230000003044 adaptive effect Effects 0.000 abstract description 2
- 239000010410 layer Substances 0.000 description 79
- 238000004590 computer program Methods 0.000 description 11
- 238000009826 distribution Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 238000005070 sampling Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 9
- 238000013527 convolutional neural network Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 210000004027 cell Anatomy 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 239000002356 single layer Substances 0.000 description 3
- 230000006872 improvement Effects 0.000 description 2
- 238000007477 logistic regression Methods 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000001328 optic nerve Anatomy 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2148—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种基于层次化自动编码器的SAR图像分类方法及装置,包括:通过泛化正则化自动编码器模型对SAR图像的样本进行扩增;根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型;将扩增后的SAR图像的样本输入至所述层次化自动编码器网络模型中,以使该层次化自动编码器网络模型对输入的样本进行编码;将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中,通过所述分类器对扩增后的SAR图像的样本进行分类。本发明所述的技术方案通过对SAR图像样本的扩增,实现对深度网络的充分训练,提高SAR图像分类的准确性;通过建立层次化自动编码器网络模型对输入的样本进行分类,提高了对SAR图像样本的适应程度。
Description
技术领域
本发明涉及图像处理技术领域,具体涉及一种基于层次化自动编码器的SAR图像分类方法及装置。
背景技术
随着信息技术的发展,图像数据急剧增长,对图像处理的需求也大大增减。图像的分类主要是针对图像中特定特征进行提取,通过特定特征表征图像的信息,然后根据提取到的特定特征进行图形的分类。
目前已有采用卷积神经网络在SAR(Synthetic Aperture Radar)图像中进行目标识别和分类,采用卷积神经网络的方式对SAR图像的大数据集有效,但实际使用中,SAR图像的样本是非常稀疏的,因此,在大场景SAR图像中提取的少量样本根本无法满足对深度网络的充分训练,导致对SAR图像分类准确性的降低。
发明内容
针对现有技术中的缺陷,本发明提供一种基于层次化自动编码器的SAR图像分类方法及装置,实现了在SAR图像样本稀疏条件下提高对SAR图像分类的准确性。
为实现上述目的,本发明提供以下技术方案:
一方面,本发明提供了一种基于层次化自动编码器的SAR图像分类方法,包括:
通过泛化正则化自动编码器模型对SAR图像的样本进行扩增;
根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型;
将扩增后的SAR图像的样本输入至所述层次化自动编码器网络模型中,以使该层次化自动编码器网络模型对输入的样本进行编码;
将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中,通过所述分类器对扩增后的SAR图像的样本进行分类。
进一步的,将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中通过所述分类器对扩增后的SAR图像的样本进行分类的步骤,之前还包括:
将特征编码以及该特征编码对应的SAR图像的样本输入至分类器中进行训练。
进一步的,所述通过泛化正则化自动编码器模型对SAR图像的样本进行扩增的步骤,包括:
泛化正则化自动编码器模型进行初始化后向其输入SAR图像的样本;
添加扰动至泛化正则化自动编码器模型中;
计算泛化正则化自动编码器模型中隐层单元的变化量;
根据隐层单元的变化量进行重构投影获取扩增样本。
进一步的,根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型的步骤,包括:
建立层次化自动编码器网络模型的V1层,包括:采用一个泛化正则化自动编码器模型接收SAR图像的样本以及输出第一层编码;
建立层次化自动编码器网络模型的V2层,包括:采用四个泛化正则化自动编码器模型分别接收所述第一层编码后分别输出四个第二层编码;
建立层次化自动编码器网络模型的输出层,包括:采用一个泛化正则化自动编码器模型接收四个第二层编码后输出特征编码。
进一步的,所述分类器采用支持向量机算法或统计回归网络算法对输入其的特征编码进行分类。
另一方面,本发明还提供了一种基于层次化自动编码器的SAR图像分类装置,装置包括:
样本扩增单元,用于通过泛化正则化自动编码器模型对SAR图像的样本进行扩增;
建立编码模型单元,用于根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型;
编码单元,用于将扩增后的SAR图像的样本输入至所述层次化自动编码器网络模型中,以使该层次化自动编码器网络模型对输入的样本进行编码;
分类单元,用于将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中,通过所述分类器对扩增后的SAR图像的样本进行分类。
进一步的,所述装置还包括:
学习单元,用于将特征编码以及该特征编码对应的SAR图像的样本输入至分类器中进行训练。
进一步的,所述样本扩增单元包括:
初始化模块,用于泛化正则化自动编码器模型进行初始化后向其输入SAR图像的样本;
扰动模块,用于添加扰动至泛化正则化自动编码器模型中;
计算模块,用于计算泛化正则化自动编码器模型中隐层单元的变化量;
扩增模块,用于根据隐层单元的变化量进行重构投影获取扩增样本。
进一步的,所述分类器采用支持向量机算法或统计回归网络算法对输入其的特征编码进行分类。
由上述技术方案可知,本发明所述的一种基于层次化自动编码器的SAR图像分类方法及装置,通过对SAR图像样本的扩增,实现对深度网络的充分训练,提高SAR图像分类的准确性;通过建立层次化自动编码器网络模型对输入的样本进行分类,克服了卷及神经网络的过拟合现象,提高了对SAR图像样本的适应程度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明第一个实施例提供的基于层次化自动编码器的SAR图像分类方法流程图;
图2是本发明第二个实施例提供的基于层次化自动编码器的SAR图像分类方法流程图;
图3是本发明第二个实施例提供的基于层次化自动编码器的SAR图像分类方法中步骤S101的一种具体实施方式的流程示意图;
图4是本发明第二个实施例提供的基于层次化自动编码器的SAR图像分类方法中步骤S102的一种具体实施方式的流程示意图;
图5是本发明第三个实施例提供的基于层次化自动编码器的SAR图像分类装置的结构示意图;
图6是本发明第四个实施例提供的电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整的描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明下述实施例提出了一种基于层次化自动编码器的SAR图像分类方法及装置。
本发明第一个实施例提供的基于层次化自动编码器的SAR图像分类方法,参见图1,该方法具体包括如下步骤:
S101:通过泛化正则化自动编码器模型对SAR图像的样本进行扩增;
在本步骤中,通过泛化正则化自动编码器模型(Generalized RegularizationAuto-encoders,GAE)进行SAR图像样本的生成和扩增,辅助提供在样本SAR图像在稀疏情况下对深度网络的训练。
S102:根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型;
在本步骤中,由于泛化正则化自动编码器模型GAE在样本图像稀疏的建模中应用广泛,其中,SAR图像的识别也应用该模型进行训练,因此,通过泛化正则化自动编码器模型组成层次化自动编码器网络模型(Hierarchical Generalized Regularized-Autoencoders networks,HGAE),层次化自动编码器网络模型中深度网络的结构每一层均为泛化正则化自动编码器模型。
基于人类视觉***理论,建立了基于传统的图像学习的层次化自动编码器网络模型,该模型采用并行操作,提高了识别样本的效率。
S103:将扩增后的SAR图像的样本输入至所述层次化自动编码器网络模型中,以使该层次化自动编码器网络模型对输入的样本进行编码;
在本步骤中,层次化自动编码器网络模型将输入该模型中的SAR图像的样本进行编码,其中,构建层次化自动编码器网络模型中编码器的层数即为对样板的编码次数,层次化自动编码器网络模型的最高层输出最终的编码。通过层次化自动编码器网络模型进行SAR图像的样本的学习解决了卷积神经网结构的过拟合现象,使得SAR图像自动识别与生成过程中不会被卷积神经网通过大型数据库训练出的权值所影响,从而提高了对SAR图像样本的适应程度。
S104:将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中,通过所述分类器对扩增后的SAR图像的样本进行分类。
在本步骤中,在分类器中采用了泛化正则化自动编码器模型与自动编码器的组合,并通过加入SVM(Support Vector Machine)或者LRN(Logistic Regression network)网络层进行分类,基于MSTAR(Moving-Stationary Target Automatic Recognition)数据库的结构,使用LRN网络层进行分类。
从上述描述可知,通过对SAR图像样本的扩增,实现对深度网络的充分训练,提高SAR图像分类的准确性;通过建立层次化自动编码器网络模型对输入的样本进行分类,克服了卷及神经网络的过拟合现象,提高了对SAR图像样本的适应程度。
本发明实施例二提供了一种基于层次化自动编码器的SAR图像分类方法。参见图2,上述步骤S104之前还具体包括如下步骤:
S1030:将特征编码以及该特征编码对应的SAR图像的样本输入至分类器中进行训练。
在本步骤中,由于HGAE网络结构采用分层次的网络结构,因此采用在分类器中进行训练的方式。并通过实验验证该训练方式的可靠性。而最终的分类层选择与训练数据集相关,通过实验研究适用于SAR图像并给出数据规模与网络结构的层数。
从上述描述可知,通过采用训练可以获取HGAE的网络结构层数,通过训练进行调整分类器的参数或编码器的参数,实现了在原有的特征中加入这些自动学习得到的特征可以大大提高分类的精确度。
在一种可选实施方式中,提供了上述步骤S101的一种具体实施方式。参见图3,上述步骤S101具体包括如下步骤:
S1011:泛化正则化自动编码器模型进行初始化后向其输入SAR图像的样本;
在本步骤中,初始化泛化正则化自动编码器模型中随机变量参数σ,并输入SAR图像的样本x0;
S1012:添加扰动至泛化正则化自动编码器模型中;
在本步骤中,在泛化正则化自动编码器模型中添加扰动使随机变量参数为ε~N(0,σ2Ik)之间,其中ε取值为符合均值为0,方差为σ2的正态分布的随机变量;
S1013:计算泛化正则化自动编码器模型中隐层单元的变化量;
在本步骤中,计算隐层单元的变化量:
其中,ξ为接近于x附近的样本点与x的距离,通常取5个对应的ξ求平均即可;J(x)为编码器的Jacobian矩阵;f为编码器函数;E[]为数学期望;T为Logistic函数。
S1014:根据隐层单元的变化量进行重构投影获取扩增样本。
在本步骤中,扩增样本xt=g(ht-1+Δh),并且令ht=f(x),其中g为解码器函数。
从上述描述可知,对泛化正则化编码器模型进行了简化,使该模型的构造与初始网络结构均为单层结构。GAE算法的生成模型模拟了收缩正则化因子的计算过程,利用GAE算法进行样本生成。通过泛化正则化自动编码器模型进行SAR图像样本的生成和扩增,辅助提供在样本SAR图像在稀疏情况下对深度网络的训练。
在一种可选实施方式中,提供了上述步骤S102的一种具体实施方式。参见图4,上述步骤S102具体包括如下步骤:
S1021:建立层次化自动编码器网络模型的V1层,包括:采用一个泛化正则化自动编码器模型接收SAR图像的样本以及输出第一层编码;
在本步骤中,HGAE模型的第一层的参数是通过学习得到,而SRBM(SparseRestricted Boltzmann Machine)类似于视神经冲动传导到V1层时所产生的选择性,因而本发明将SRBM的隐层参数作为V1层的参数。给定一组图像块,训练SRBM,即可获取训练SRBM隐层参数。
S1022:建立层次化自动编码器网络模型的V2层,包括:采用四个泛化正则化自动编码器模型分别接收所述第一层编码后分别输出四个第二层编码;
在本步骤中,V2层是V1层的简化网络结构,即通过单层神经元进行局部信息的处理;V2层的四种细胞类型通过设计监督式学习的四个不同的编码器进行模拟。
S1023:建立层次化自动编码器网络模型的输出层,包括:采用一个泛化正则化自动编码器模型接收四个第二层编码后输出特征编码。
在本步骤中,在更输出层中增加一层信息提取GAE结构,模拟后期的视觉处理,需要首先将第二层隐层单元输入一个前向型网络,经过归一化处理之后作为第三个GAE层的输入,而第三层网络的隐层作为最终的特征表达将成为目标分类的依据。
从上述描述可知,通过泛化正则化自动编码器模型组成层次化自动编码器网络模型,层次化自动编码器网络模型中深度网络的结构每一层均为泛化正则化自动编码器模型,该模型采用并行操作,提高了识别样本的效率。
为更近一步的对本发明的方法进行详细说明,本法明提供一种计费***异常时的移动业务自动放通方法的具体应用实例,具体内容如下:
(一)SAR图像样本的正则化编码器:
根据对正则化规则,提供了泛化正则化自动编码器的模型,该模型的最小化误差为:
其中,f为编码器函数,g为解码器函数,JGAE为GAE模型的目标函数,L(x(t),gθ(fθ(x(t))))为编码器和解码器的损失函数;J(x)为编码器的Jacobian矩阵,W为编码器的权值矩阵,E[]为数学期望,T为Logistic函数;λ,μ,η均为超级参数,代表不同正则化因子所占得比重。
首先,对于第二项正则项,提出了收缩的空间梯度,使用二阶导数规则约束:
其中,采用高阶收缩信息来满足对自动编码器的充分利用,并对整个样本空间的密度进行估计,通过随机化逼近方式在x的邻域内求解Hessian值的模,通过对x空间的微扰可以求得正则化因子的值。为了不适定问题本发明引进了二阶空间矩阵Hessian的梯度特征,对本身具有一定样本容量限制的样本空间,计算结果更趋向于在一定的数量内达到最优。
然后,其中第三项正则项:
其中,T的属性满足其具有logistic函数特性,随着训练步数的增加,因子的惩罚程度越小,通过实验和验证,logistic模型对所采用的实验样本进行学习和模拟其接受度最高。
泛化正则化自动编码器的模型是对收缩正则化因子(Contractive Regularizer,CR)的改进与估计,其表达式与CR相比,只有一项是解析表达的,其他项均依赖于样本,而且,在进行流形切空间与嵌入问题分析时,可以发现其升维密度特性完全与图像的几何特性无关的,因此流形的几何特性保持主要由第一项正则化因子承担。泛化正则化自动编码器的模型通过SGD(Stochastic Gradient Descending)算法进行训练。
(二)SAR图像泛化正则化自动编码器的样本生成
利用GAE进行样本生成的算法如表1。
表1 GAE生成样本流程
(三)SRBM的训练
训练方法如表2:
表2 SRBM的训练
其中,wij为编码器权值矩阵的第i行第j列的值,<>data为原始输入数据,<>recon为重构数据,α为训练速率。
HGAE的低层次网络结构得到训练的同时,对层次化的V2层网络结构,采用V2层的四种细胞感受场分布,通过层次化模型实现各个不同细胞感受场之间的并行信息提取。最简单的是模拟细胞的感受刺激源,使用并行方式进行训练。
在输出层中增加一层信息提取GAE结构,模拟后期的视觉处理,需要首先将第二层隐层单元输入一个前向型网络,经过归一化处理之后作为第三个GAE层的输入,而第三层网络的隐层作为最终的特征表达将成为目标分类的依据。
由此,HGAE的训练可以概括为:首先通过SRBM无监督学习视觉图像块的数据,训练器底层网络参数;而第二层网络训练通过选择敏感图像块组进行并行训练;之后将输出的结果输入前馈型网络归一化,输入第三层网络;最终通过监督学习(目标识别问题)或重构误差最小化(无监督模型)学习第三层网络参数。
最后需要对输出的最终结果进行分类,本发明采用了一层对数回归网络进行分类,即加入了一层Logistic Regression Layer对最终输出的第三层编码器编码的隐层空间进行处理,得到最终的分类。
(四)HGAE生成样本
HGAE的网络构造是并行化的,生成模型算法不能单独通过扰动实现,利用扰动的原理,首先统计出图像的数据本身特征,然后通过MCMC(Monte Carlo Markov Chain)对HGAE网络进行生成采样,本发明采用了Gibbs采样规则,其主要流程如表3。
表3 Gibbs采样样本生成
其中,x0为任意选取一个样本点,f1,f2为编码器链式计算,θ为取Gaussian分布或指数分布的参数,π(h|θ)为从Gibbs标准分布θ中采样获取隐层空间分布的特性。
采用了正态分布样本作为Gibbs采样中的先验密度π,其后验概率π(Θ|h)=cp(h|Θ)π(Θ),其中,π(Θ|h)为观察到的数据对隐层变量h的后验分布,p(h|Θ)为上述从Gibbs标准分布中得到的隐层空间分布,π(Θ)为上述采样参数θ确定的分布,c为常数。通过HGAE模型完全可以从其中进行采样,因此计算采样样本的最高层隐层的一个Markov链,从每一个隐层表示中都可以求出一个新的生成样本。若Gibbs采样的样本点为算法选取当t>N时,取选中的样本点作为采样结果,由于Gibbs采样的密度,采样间隔为500时采集合一个随机样本,通过HGAE的样本重建,得到最终的生成样本。
实施例:
对MSTAR数据库和船舶样本的小样本识别分类与生成模型。
首先,针对HGAE网络的训练学习,采用灰度图像块(包括视觉图像块以及由MSTAR数据库提供的灰度图像块),训练SRBM模型,得到的SRBM的网络模型,将其迁移到GAE网络结构,并进行参数微调。采用数据图像块的偏移和方向信息,得到符合V2层四种神经元结构的输入方式,将其加入到对应的编码器模型中,得到训练好的HGAE的网络模型,为了适合大多数船舶图像的尺度该模型输入层为128*24,与经过多尺度变换后的行数相同,而HGAE的第二层四个GAE隐层节点分别为500,在第三层的GAE中隐层节点参数为1000。
采用的SAR图像为船舶目标的切片样本,由不同的SAR图像提取出海面复杂背景下,多种分辨率的船舶图像,本共50幅图像,发明将选取其中30幅样本作为HGAE网络的训练集,利用训练后的HGAE模型进行样本生成。
对于相同的网络结构,其泛化误差随着训练过程的循环步数变化情况;设定不同的hd,研究GAE网络的隐层节点数与泛化误差的关系。然后针对训练好的单层GAE的网络结构,产生n个新样本,在新样本上进一步训练GAE编码器,利用测试样本估计生成模型的可靠性。
样本生成:HGAE在30个样本中进行更新,每次随机选择5个样本生成批处理样本,最后,产生样本的个数100幅。如表4所示,HGAE在使用的船舶样本上取得了最好的效果。
表4生成模型最大似然估计
重构误差 | HGAE | 已有最好方法(CNN模型) |
MSTAR | -202.3 | -204.5 |
自动识别:通过样本生成后的结果对HGAE网络进行增量训练,得到的模型继续对测试集上的20个样本进行特征表示,得到的结果如表5所示。
表5扩充样本的推广性实验
测试误差 | 未进行扩增 | 1:1 | 1:2 | 1:5 | 1:10 |
HGAE | 13.57±3.23 | 14.04 | 13.66 | 13.47 | 13.62 |
CNN方法(无视觉初始化) | 15.77±2.21 | 17.90 | 18.22 | 17.77 | 17.22 |
CNN(Convolutional Neural Networks)方法单独用所得到的样本训练,甚至无法得到最好的样本生成,而本发明提出的方法具有很好的小样本适应性,能够有效地减少测试重构误差,进而,通过分类Logistic Regression网络层分类等方法,有效地减少了识别的错误率,在本发明实验中,船舶与随机选取的负样本之间的识别错误率为32.5%,比state-of-art的CNN方法47.3%有效地减少。
本发明实施例三提供了一种基于层次化自动编码器的SAR图像分类装置,参见图5,该装置具体包括:
样本扩增单元10,用于通过泛化正则化自动编码器模型对SAR图像的样本进行扩增;
建立编码模型单元20,用于根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型;
编码单元30,用于将扩增后的SAR图像的样本输入至所述层次化自动编码器网络模型中,以使该层次化自动编码器网络模型对输入的样本进行编码;
分类单元40,用于将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中,通过所述分类器对扩增后的SAR图像的样本进行分类。
进一步的,所述装置还包括:
学习单元50,用于将特征编码以及该特征编码对应的SAR图像的样本输入至分类器中进行训练。
进一步的,所述样本扩增单元10包括:
初始化模块,用于泛化正则化自动编码器模型进行初始化后向其输入SAR图像的样本;
扰动模块,用于添加扰动至泛化正则化自动编码器模型中;
计算模块,用于计算泛化正则化自动编码器模型中隐层单元的变化量;
扩增模块,用于根据隐层单元的变化量进行重构投影获取扩增样本。
进一步的,所述分类器采用支持向量机算法或统计回归网络算法对输入其的特征编码进行分类。
由上述技术方案可知,本发明所述的一种基于层次化自动编码器的SAR图像分类装置,通过对SAR图像样本的扩增,实现对深度网络的充分训练,提高SAR图像分类的准确性;通过建立层次化自动编码器网络模型对输入的样本进行分类,克服了卷及神经网络的过拟合现象,提高了对SAR图像样本的适应程度。
本发明实施例四提供了一种电子设备,参见图6,该电子设备可以包括:处理器11、存储器12、总线13及存储在存储器12上并可在处理器11上运行的计算机程序;
其中,所述处理器11,存储器12通过所述总线13完成相互间的通信;
所述处理器11执行所述计算机程序时实现上述各方法实施例所提供的方法,例如包括:通过泛化正则化自动编码器模型对SAR图像的样本进行扩增;根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型;将扩增后的SAR图像的样本输入至所述层次化自动编码器网络模型中,以使该层次化自动编码器网络模型对输入的样本进行编码;将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中,通过所述分类器对扩增后的SAR图像的样本进行分类。
本发明实施例五提供了一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例所提供的方法,例如包括:通过泛化正则化自动编码器模型对SAR图像的样本进行扩增;根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型;将扩增后的SAR图像的样本输入至所述层次化自动编码器网络模型中,以使该层次化自动编码器网络模型对输入的样本进行编码;将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中,通过所述分类器对扩增后的SAR图像的样本进行分类。
本领域内的技术人员应明白,本申请的实施例可提供为方法、装置、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、装置、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置/***。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。术语“上”、“下”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
本发明的说明书中,说明了大量具体细节。然而能够理解的是,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。类似地,应当理解,为了精简本发明公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释呈反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。本发明并不局限于任何单一的方面,也不局限于任何单一的实施例,也不局限于这些方面和/或实施例的任意组合和/或置换。而且,可以单独使用本发明的每个方面和/或实施例或者与一个或更多其他方面和/或其实施例结合使用。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围,其均应涵盖在本发明的权利要求和说明书的范围当中。
Claims (6)
1.一种基于层次化自动编码器的SAR图像分类方法,其特征在于,所述方法包括:
通过泛化正则化自动编码器模型对SAR图像的样本进行扩增;
根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型;
将扩增后的SAR图像的样本输入至所述层次化自动编码器网络模型中,以使该层次化自动编码器网络模型对输入的样本进行编码;
将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中,通过所述分类器对扩增后的SAR图像的样本进行分类;
进一步地,所述通过泛化正则化自动编码器模型对SAR图像的样本进行扩增的步骤,包括:
泛化正则化自动编码器模型进行初始化后向其输入SAR图像的样本;在本步骤中,初始化泛化正则化自动编码器模型中随机变量参数σ,并输入SAR图像的样本x;
添加扰动至泛化正则化自动编码器模型中;在本步骤中,在泛化正则化自动编码器模型中添加扰动使随机变量参数为ε~N(0,σ2Ik)之间,其中ε取值为符合均值为0,方差为σ2的正态分布的随机变量;
计算泛化正则化自动编码器模型中隐层单元的变化量;在本步骤中,计算隐层单元的变化量:
其中,ξ为接近于x附近的样本点与x的距离,通常取5个对应的ξ求平均即可;J(x)为编码器的Jacobian矩阵;f为编码器函数;E[]为数学期望;T为Logistic函数;
根据隐层单元的变化量进行重构投影获取扩增样本;在本步骤中,扩增样本xt=g(ht-1+Δh),并且令ht=f(x),其中g为解码器函数;
进一步地,将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中通过所述分类器对扩增后的SAR图像的样本进行分类的步骤,之前还包括:
将特征编码以及该特征编码对应的SAR图像的样本输入至分类器中进行训练;
层次化自动编码器网络模型的训练为:首先通过SRBM无监督学习视觉图像块的数据,训练底层网络参数;而第二层网络训练通过选择敏感图像块组进行并行训练;之后将输出的结果输入前馈型网络归一化,输入第三层网络;最终通过监督学习或重构误差最小化学习第三层网络参数。
2.根据权利要求1所述的方法,其特征在于,根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型的步骤,包括:
建立层次化自动编码器网络模型的V1层,包括:采用一个泛化正则化自动编码器模型接收SAR图像的样本以及输出第一层编码;
建立层次化自动编码器网络模型的V2层,包括:采用四个泛化正则化自动编码器模型分别接收所述第一层编码后分别输出四个第二层编码;
建立层次化自动编码器网络模型的输出层,包括:采用一个泛化正则化自动编码器模型接收四个第二层编码后输出特征编码。
3.根据权利要求1所述的方法,其特征在于,所述分类器采用支持向量机算法或统计回归网络算法对输入其的特征编码进行分类。
4.一种基于层次化自动编码器的SAR图像分类装置,其特征在于,所述装置包括:
样本扩增单元,用于通过泛化正则化自动编码器模型对SAR图像的样本进行扩增;
建立编码模型单元,用于根据所述泛化正则化自动编码器模型建立层次化自动编码器网络模型;
编码单元,用于将扩增后的SAR图像的样本输入至所述层次化自动编码器网络模型中,以使该层次化自动编码器网络模型对输入的样本进行编码;
分类单元,用于将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中,通过所述分类器对扩增后的SAR图像的样本进行分类;
进一步地,所述通过泛化正则化自动编码器模型对SAR图像的样本进行扩增的步骤,包括:
泛化正则化自动编码器模型进行初始化后向其输入SAR图像的样本;在本步骤中,初始化泛化正则化自动编码器模型中随机变量参数σ,并输入SAR图像的样本x;
添加扰动至泛化正则化自动编码器模型中;在本步骤中,在泛化正则化自动编码器模型中添加扰动使随机变量参数为ε~N(0,σ2Ik)之间,其中ε取值为符合均值为0,方差为σ2的正态分布的随机变量;
计算泛化正则化自动编码器模型中隐层单元的变化量;在本步骤中,计算隐层单元的变化量:
其中,ξ为接近于x附近的样本点与x的距离,通常取5个对应的ξ求平均即可;J(x)为编码器的Jacobian矩阵;f为编码器函数;E[]为数学期望;T为Logistic函数;
根据隐层单元的变化量进行重构投影获取扩增样本;在本步骤中,扩增样本xt=g(ht-1+Δh),并且令ht=f(x),其中g为解码器函数;
进一步地,将所述层次化自动编码器网络模型中输出的特征编码输入至分类器中通过所述分类器对扩增后的SAR图像的样本进行分类的步骤,之前还包括:
将特征编码以及该特征编码对应的SAR图像的样本输入至分类器中进行训练;
层次化自动编码器网络模型的训练为:首先通过SRBM无监督学习视觉图像块的数据,训练底层网络参数;而第二层网络训练通过选择敏感图像块组进行并行训练;之后将输出的结果输入前馈型网络归一化,输入第三层网络;最终通过监督学习或重构误差最小化学习第三层网络参数。
5.一种电子设备,其特征在于,包括:处理器、存储器和总线;其中,
处理器和存储器通过总线完成相互间的通信;
处理器用于调用存储器中的程序指令,以执行权利要求1-3任一项所述的基于层次化自动编码器的SAR图像分类方法。
6.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行权利要求1-3任一项所述的基于层次化自动编码器的SAR图像分类方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710527209.7A CN109214401B (zh) | 2017-06-30 | 2017-06-30 | 基于层次化自动编码器的sar图像分类方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710527209.7A CN109214401B (zh) | 2017-06-30 | 2017-06-30 | 基于层次化自动编码器的sar图像分类方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109214401A CN109214401A (zh) | 2019-01-15 |
CN109214401B true CN109214401B (zh) | 2020-10-16 |
Family
ID=64991646
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710527209.7A Active CN109214401B (zh) | 2017-06-30 | 2017-06-30 | 基于层次化自动编码器的sar图像分类方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109214401B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109886333A (zh) * | 2019-02-19 | 2019-06-14 | 深圳先进技术研究院 | 一种基于高维空间采样的数据增强方法 |
CN112149699B (zh) * | 2019-06-28 | 2023-09-05 | 北京京东尚科信息技术有限公司 | 用于生成模型的方法、装置和用于识别图像的方法、装置 |
CN110472483B (zh) * | 2019-07-02 | 2022-11-15 | 五邑大学 | 一种面向sar图像的小样本语义特征增强的方法及装置 |
CN112465042B (zh) * | 2020-12-02 | 2023-10-24 | 中国联合网络通信集团有限公司 | 一种分类网络模型的生成方法及装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104751172A (zh) * | 2015-03-12 | 2015-07-01 | 西安电子科技大学 | 基于去噪自动编码的极化sar图像的分类方法 |
CN105160400A (zh) * | 2015-09-08 | 2015-12-16 | 西安交通大学 | 基于l21范数的提升卷积神经网络泛化能力的方法 |
CN105930686A (zh) * | 2016-07-05 | 2016-09-07 | 四川大学 | 一种基于深度神经网络的蛋白质二级结构预测方法 |
CN106096650A (zh) * | 2016-06-12 | 2016-11-09 | 西安电子科技大学 | 基于收缩自编码器的sar图像分类方法 |
CN106600000A (zh) * | 2016-12-05 | 2017-04-26 | 中国科学院计算技术研究所 | 人‑机器人运动数据映射的方法及*** |
CN106709447A (zh) * | 2016-12-21 | 2017-05-24 | 华南理工大学 | 基于目标定位与特征融合的视频中异常行为检测方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9922272B2 (en) * | 2014-09-25 | 2018-03-20 | Siemens Healthcare Gmbh | Deep similarity learning for multimodal medical images |
-
2017
- 2017-06-30 CN CN201710527209.7A patent/CN109214401B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104751172A (zh) * | 2015-03-12 | 2015-07-01 | 西安电子科技大学 | 基于去噪自动编码的极化sar图像的分类方法 |
CN105160400A (zh) * | 2015-09-08 | 2015-12-16 | 西安交通大学 | 基于l21范数的提升卷积神经网络泛化能力的方法 |
CN106096650A (zh) * | 2016-06-12 | 2016-11-09 | 西安电子科技大学 | 基于收缩自编码器的sar图像分类方法 |
CN105930686A (zh) * | 2016-07-05 | 2016-09-07 | 四川大学 | 一种基于深度神经网络的蛋白质二级结构预测方法 |
CN106600000A (zh) * | 2016-12-05 | 2017-04-26 | 中国科学院计算技术研究所 | 人‑机器人运动数据映射的方法及*** |
CN106709447A (zh) * | 2016-12-21 | 2017-05-24 | 华南理工大学 | 基于目标定位与特征融合的视频中异常行为检测方法 |
Non-Patent Citations (3)
Title |
---|
A Generative Process for Sampling Contractive Auto-Encoders;Salah Rifai 等;《Proceedings of the 29 th International Conference on Machine Learning》;20121231;论文第2-3节 * |
Graph Regularized Auto-Encoders for Image Representation;Liao Y 等;《IEEE Transactions on Image Processing》;20161231;第2839-2852页 * |
基于快速自编码的RELM的文本分类;周杭霞 等;《计算机工程与科学》;20160531;第871-876页 * |
Also Published As
Publication number | Publication date |
---|---|
CN109214401A (zh) | 2019-01-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105447569B (zh) | 一种基于深度学习的乳腺癌细胞特征分析*** | |
CN110472483B (zh) | 一种面向sar图像的小样本语义特征增强的方法及装置 | |
CN108108854B (zh) | 城市路网链路预测方法、***及存储介质 | |
CN109214401B (zh) | 基于层次化自动编码器的sar图像分类方法及装置 | |
CN107622182B (zh) | 蛋白质局部结构特征的预测方法及*** | |
CN110807154A (zh) | 一种基于混合深度学习模型的推荐方法与*** | |
US9129222B2 (en) | Method and apparatus for a local competitive learning rule that leads to sparse connectivity | |
CN111785329A (zh) | 基于对抗自动编码器的单细胞rna测序聚类方法 | |
CN112699960A (zh) | 基于深度学习的半监督分类方法、设备及存储介质 | |
WO2020112189A1 (en) | Computer architecture for artificial image generation using auto-encoder | |
CN110717617A (zh) | 一种基于深度图网络自编码器的无监督关系预测方法 | |
CN112464004A (zh) | 一种多视角深度生成图像聚类方法 | |
CN116644970A (zh) | 一种基于vmd分解和叠层深度学习的光伏功率预测方法 | |
Ibragimovich et al. | Effective recognition of pollen grains based on parametric adaptation of the image identification model | |
CN112884149A (zh) | 一种基于随机敏感度st-sm的深度神经网络剪枝方法及*** | |
CN116469561A (zh) | 一种基于深度学习的乳腺癌生存预测方法 | |
CN114880538A (zh) | 基于自监督的属性图社团检测方法 | |
CN113239199B (zh) | 一种基于多方数据集的信用分类方法 | |
EP3888008A1 (en) | Computer architecture for artificial image generation | |
CN116384471A (zh) | 模型剪枝方法、装置、计算机设备、存储介质和程序产品 | |
CN116303386A (zh) | 一种基于关系图谱的缺失数据智能插补方法和*** | |
Saenz et al. | Dimensionality-reduction of climate data using deep autoencoders | |
CN115116549A (zh) | 细胞数据注释方法、装置、设备及介质 | |
Rivera et al. | Trilateral convolutional neural network for 3D shape reconstruction of objects from a single depth view | |
CN113962440A (zh) | 一种融合dpc和gru的光伏预测方法和*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |