CN109635738A - 一种图像特征提取方法及*** - Google Patents

Abstract

本发明公开了一种图像特征提取方法及***。该方法包括：构建深度多核映射学习模型，所述学习模型的每个单元均为一个基础核，所述学习模型层间各基础核为全连接结构，层内各基础核相互独立；采用样本数据对所述深度多核映射学习模型进行训练，所述样本数据为图像的多维特征数据；获取待识别图像；采用训练后的深度多核映射学习模型对所述待识别图像进行特征提取。本发明提供的图像特征提取方法及***具有特征提取准确度高、效率高的特点。

Description

一种图像特征提取方法及***

技术领域

本发明涉及图像特征提取领域，特别是涉及一种图像特征提取方法及***。

背景技术

针对遥感图像目标的研究一直以来都是遥感领域研究的热点，一方面源于遥感图像覆盖范围广、信息量大、观测周期短的特点，另一方面也因为在军事和民用的多方面广泛应用需求，推动了遥感图像目标的检测、识别、分类与分析等应用方向的发展。然而伴随着成像技术和目标应用的发展，遥感图像目标研究也产生了很多问题。首先，随着成像技术的发展，遥感图像获取量不断增大，所涵盖的目标信息越来越多，包含的冗余信息也越来越大，需要高效智能的方法对有效信息进行提取和筛选。其次，遥感图像目标任务也随着需求的复杂化、精细化而变得更加复杂。例如，原本地物研究需求只需要依照差异性进行区分，对遥感图像进行简单分割即可，现在需要对其组成、发展和深层次信息进行智能分析和判定；再比如，原本目标识别需求只需要运用基本变换，在背景中提取物体目标即可，当下需要对目标的种类、趋势、态势等进行智能识别和分析，因此需要新的方法来提取目标特征。特征提取作为遥感目标研究的核心关键也存在很多问题：传统方法如基于频域、小波等在提取信号类特征时能提取很多实用特征，虽然在简单的图像任务能取得十分良好的效果，但在复杂分析任务中却无法满足日益复杂的要求，例如形状相近的目标物体(如区分军事车辆和普通车辆)，传统方法只能获取目标却无法对其进行细致的区分，因此对于图像及其特征的研究在新的图像目标分析任务需求下显得尤为重要。传统的特征提取方法一般采用人工设定特征的方式，并且目标识别判读过程也需要依赖人力，这样不仅消耗大量的人力和时间，并且识别准确度很大程度上受到操作人员的影响，因此利用机器自主学习来提取特征是十分有效的。对于遥感图像目标这类非线性对象，对特征提取算法的非线性能力有一定要求。在机器学习的众多算法中，核映射具备非常好的非线性特征提取能力，但是单核、单层的核映射方法有其局限性，并且性能也受所选核函数种类和参数影响。

发明内容

本发明的目的是提供一种图像特征提取方法及***，具有特征提取准确度高、效率高的特点。

为实现上述目的，本发明提供了如下方案：

一种图像特征提取方法，包括：

构建深度多核映射学习模型，所述学习模型的每个单元均为一个基础核，所述学习模型层间各基础核为全连接结构，层内各基础核相互独立；

采用样本数据对所述深度多核映射学习模型进行训练，所述样本数据为图像的多维特征数据；

获取待识别图像；

采用训练后的深度多核映射学习模型对所述待识别图像进行特征提取。

可选的，所述采用样本数据对所述深度多核映射学习模型进行训练，具体包括：

设定所述深度多核映射学习模型的初始学习率和初始权重值；

向所述深度多核映射学习模型中输入样本数据和标签，进行训练；

根据训练后的深度多核映射学习模型的损失函数对所述深度多核映射学习模型中各基础核的权重值进行调整，直至损失函数值小于预设值。

可选的，所述构建深度多核映射学习模型，具体包括：

确定各基本核的种类和内部参数；

构建以各所述基本核为单元的全连接结构的深度置信网络，记为深度多核映射学习模型。

可选的，所述根据训练后的深度多核映射学习模型的损失函数对所述深度多核映射学习模型中各基础核的权重值进行调整，具体包括：

根据对所述深度多核映射学习模型中各基础核的权重值进行调整，其中，为第t次迭代学习中第k个基础核的权重值，γ_k为第k个基础核的学习率，T_Span为通过留一发获得的损失函数，θ_k为第k个基础核的权重。

可选的，所述方法还包括：

采用测试数据确定训练后的深度多核映射学习模型的精度；

判断所述精度是否小于设定阈值；

如果否，则继续对所述深度多核映射学习模型进行训练。

本发明还提供了一种图像特征提取***，包括：

模型构建模块，用于构建深度多核映射学习模型，所述学习模型的每个单元均为一个基础核，所述学习模型层间各基础核为全连接结构，层内各基础核相互独立；

模型训练模块，用于采用样本数据对所述深度多核映射学习模型进行训练，所述样本数据为图像的多维特征数据；

图像获取模块，用于获取待识别图像；

特征提取模块，用于采用训练后的深度多核映射学习模型对所述待识别图像进行特征提取。

可选的，所述模型训练模块，具体包括：

初始化单元，用于设定所述深度多核映射学习模型的初始学习率和初始权重值；

训练单元，用于向所述深度多核映射学习模型中输入样本数据和标签，进行训练；

权值调整单元，用于根据训练后的深度多核映射学习模型的损失函数对所述深度多核映射学习模型中各基础核的权重值进行调整，直至损失函数值小于预设值。

可选的，所述模型构建模块，具体包括：

基本核确定单元，用于确定各基本核的种类和内部参数；

模型构建单元，用于构建以各所述基本核为单元的全连接结构的深度置信网络，记为深度多核映射学习模型。

可选的，所述权值调整单元，具体包括：

权值调整子单元，用于根据对所述深度多核映射学习模型中各基础核的权重值进行调整，其中，为第t次迭代学习中第k个基础核的权重值，γ_k为第k个基础核的学习率，T_Span为通过留一发获得的损失函数，θ_k为第k个基础核的权重。

可选的，所述***还包括：

测试模块，用于采用测试数据确定训练后的深度多核映射学习模型的精度；

精度判断模块，用于判断所述精度是否小于设定阈值；如果否，则继续对所述深度多核映射学习模型进行训练。

根据本发明提供的具体实施例，本发明公开了以下技术效果：本发明提供的图像特征提取方法及***采用多核映射和深度学习结合的思想，将遥感图像目标特征提取中的多核映射算法引入深层结构，过深度网络确定各基本核的权重，深度结构为传统的核映射方法带来更好的非线性特征提取，使得从遥感图像中获取的特征能够更好的描述目标，在提升特征提取的效果和效率的同时，也更好地实现了遥感图像特征提取领域从依靠人工设定特征提取目标特征的模式向从数据样本中智能获取更加准确特征的提取模式的转变。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例图像特征提取方法流程示意图；

图2为本发明实施例深度核映射的网络结构；

图3为本发明实施例基本深度置信多核映射结构图；

图4为本发明实施例十类战车目标在SAR雷达中成像效果；

图5为本发明实施例十类战车目标在实际自然光效果；

图6为本发明实施例图像特征提取***结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明的目的是提供一种图像特征提取方法及***，具有特征提取准确度高、效率高的特点。

为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。

多核模型是一类灵活性更强的基于核的学习模型，近来的理论和应用已经证明利用多核代替单核能增强决策函数的可解释性，并能获得比单核模型更优的性能。构造多核模型，最常用的一种方法就是考虑多个基本核函数的凸组合，其形如：这里K_j是基本核函数，M是基本核的总个数，β_j是权重系数。因此，在多核框架下，样本在特征空间中的表示问题转化成为基本核与权系数的选择问题。在这个由多个特征空间构建的组合空间中，由于组合利用了各基本核的特征映射能力，很好地解决了核函数的选择以及与核目标度量相关的变量与模型的选择难题。同时，通过将异构数据的不同特征分量分别输入对应的核函数进行映射，使数据在新的特征空间中得到更好的表达，能显著提高分类正确率或预测精度。对于多核模型中权重系数的确定本发明引入了深度置信网络，实现了对多核模型的优化。

图1为本发明实施例图像特征提取方法流程示意图，如图1所示，本发明提供的图像特征提取方法步骤具体如下：

步骤101：构建深度多核映射学习模型，学习模型的每个单元均为一个基础核，学习模型层间各基础核为全连接结构，层内各基础核相互独立；

步骤102：采用样本数据对深度多核映射学习模型进行训练，样本数据为图像的多维特征数据；

步骤103：获取待识别图像；

步骤104：采用训练后的深度多核映射学习模型对待识别图像进行特征提取。

其中，本发明提供的图像特征提取方法还包括采用测试数据确定训练后的深度多核映射学习模型的精度；判断所述精度是否小于设定阈值；如果否，则继续对所述深度多核映射学习模型进行训练。

此外，步骤101具体包括：

确定各基本核的种类和内部参数；

构建以各基本核为单元的全连接结构的深度置信网络，记为深度多核映射学习模型。

步骤102具体包括：

设定深度多核映射学习模型的初始学习率和初始权重值；

向深度多核映射学习模型中输入样本数据和标签，进行训练；

根据训练后的深度多核映射学习模型的损失函数对深度多核映射学习模型中各基础核的权重值进行调整，直至损失函数值小于预设值。

具体过程如下：

采用带有隐含层的深度核学习结构，公式表达为：

k(x_i,x_j|θ)→k(g(x_i,w),g(x_j,w)|θ,w) (1)

其中，g(x_j,w)是由深度结构得到的非线性特征图。

图2为本发明实施例深度核映射的网络结构，首先，将单一核映射扩展为线性连接的多核结构，构建了深度多核映射的特征提取结构，如图3所示。

在图3的深度多核映射结构中，采用深度置信网络的全连接结构，每个单元是一个基础核，层内的各基本核是相互独立的，层间各基本核之间是全连接结构。因此，在训练中也是按照逐层优化的方式优化基本核的权重系数。整个深度结构从功能上相当于是一个核映射的扩充，特征提取性能上得到了提升。深度多核映射方式可以看作是核函数的嵌套来实现多层扩展，l层的核映射表达公式为：

K^(l)(x,y)＝Φ^(l)(...Φ⁽¹⁾(x))·Φ^(l)(...Φ⁽¹⁾(y)) (2)

其中，Φ⁽¹⁾(x)为针对样本x的第1次非线性映射,Φ^(l)(...Φ⁽¹⁾(y))为样本的l 层映射。

当每层的核映射由单核扩展为多个基本核的组合时，即实现了多层多核映射网络，其表达公式为：

其中，表示第l行第h个集合中的第m个基本核，是基本核对应的权重值，本发明采用的基本深度多核结构是基于图3并对层数和单元数进行调整的深层结构，采用损失函数评价网络参数调整后的数据分类***的性能。基本深度多核结构在连接方式上类似于深度置信网络，同样采用不同层单元之间全连接，层内单元间无连接的结构，不同之处在于，深度置信网络靠优化各连接单元之间的概率来优化网络，而深度多核结构每个单元都由一个基本核构成。每个基本核在训练前选定其种类和内部参数，在训练过程中每次迭代采用逐层优化的策略，得到各个基本核的权值最优解，权值更新公式如下：

其中，为第t次迭代学习中第k个基础核的权重值，γ_k为第k个基础核的学习率，T_Span为通过留一发获得的损失函数，θ_k为第k个基础核的权重，损失函数公式为：

数据x_p通过核映射方式映射到高维空间得到S_p是点到集合Γ_p的距离，其中

其中，λ_i表示特征组合系数，表示样本x_i在核函数K_θ映射下的样本空间。

选取不同角度下十类战车目标作为数据集，首先，将MSTAR数据集中原始图片进行预处理，将其裁剪到一致大小，然后，选取其中1000张图片作为训练集，1000张图片作为测试集。在后续实验中，为了测试数据集样本数量对特征提取结果的影响，在其他条件不变的情况下，以400张训练集和400 张测试集为数据对象进行了对比试验。十类战车目标在SAR雷达中成像效果与实际在自然光条件下的形态如图4-5所，图4、5均是利用了本发明提供的方法提出的图像信息，从图4、5可以看出，从本发明提取的图像中能够清晰的分辨出战车目标。

通过构造不同数据集验证两种模式下的特征提取效果，并将深度核映射特征提取后的目标分类结果与其他常见方法进行了对比。首先通过分类任务验证特征提取效果，普通的SVM只支持二分类方式，因此，针对不同类别的战车目标进行两两组合，然后根据组合结构构造数据集，在两种不同的数据集规模下验证深度核映射结构特征提取在分类中的效果，结果如表1所示：

表1深度核映射目标分类结果

通过五组二分类任务，针对不同对象和不同大小的数据集对深度核映射的特征提取结果进行验证。同一组网络参数在不同目标的分类任务中表现略有差异，但整体准确率都随着结构深度化得到了提升，并且数据集包含数据量的增多会提高分类准确率，但计算时间也会相应增加，实验结果如表2所示：

表2深度核映射目标检测结果

五类目标的检测精度存在差异，说明各类别目标与其他类别之间的差异性不同，不同目标所提取的特征的性能也存在差异，但是随着结构深度的增加，检测性能也得到了提升，说明深度结构能够提升核映射在遥感图像特征提取中的能力。

在同样的计算资源以及数据对象下，对当下常见的目标特征提取方式比较其在目标分类任务中的分类性能，单核映射中选择的是使用RBF核的支持向量机，深度置信网络选择的是效果较好的四层网络结构，卷积网络选取的是常见的AlexNet模型，各方法分类结果如表3所示：

表3深度核映射分类结果与其他算法对比

通过对比基于深度核映射提取特征的分类结果和其他方式的分类结果可以发现，深度多核映射特征提取效果最佳。与普通的单一核映射算法相比准确率有很大的提升，说明深度结构可以提升核映射算法的特征提取性能。

本发明提供的图像特征提取方法采用多核映射和深度学习结合的思想，将遥感图像目标特征提取中的多核映射算法引入深层结构，通过深度网络确定各基本核的权重，深度结构为传统的核映射方法带来更好的非线性特征提取，使得从遥感图像中获取的特征能够更好的描述目标，在提升特征提取的效果和效率的同时，也更好地实现了遥感图像特征提取领域从依靠人工设定特征提取目标特征的模式向从数据样本中智能获取更加准确特征的提取模式的转变。

本发明还提供了一种图像特征提取***，如图6所示，该***包括：

模型构建模块601，用于构建深度多核映射学习模型，学习模型的每个单元均为一个基础核，学习模型层间各基础核为全连接结构，层内各基础核相互独立；

模型训练模块602，用于采用样本数据对深度多核映射学习模型进行训练，样本数据为图像的多维特征数据；

图像获取模块603，用于获取待识别图像；

特征提取模块604，用于采用训练后的深度多核映射学习模型对待识别图像进行特征提取。

其中，模型构建模块601，具体包括：

基本核确定单元，用于确定各基本核的种类和内部参数；

模型构建单元，用于构建以各基本核为单元的全连接结构的深度置信网络，记为深度多核映射学习模型。

模型训练模块602，具体包括：

初始化单元，用于设定深度多核映射学习模型的初始学习率和初始权重值；

训练单元，用于向深度多核映射学习模型中输入样本数据和标签，进行训练；

权值调整单元，用于根据训练后的深度多核映射学习模型的损失函数对深度多核映射学习模型中各基础核的权重值进行调整，直至损失函数值小于预设值。权值调整单元，具体包括：权值调整子单元，用于根据对深度多核映射学习模型中各基础核的权重值进行调整，其中，为第t次迭代学习中第k个基础核的权重值，γ_k为第k个基础核的学习率，T_Span为通过留一发获得的损失函数，θ_k为第k个基础核的权重。

本发明提供的图像特征提取***还包括：

测试模块，用于采用测试数据确定训练后的深度多核映射学习模型的精度；

精度判断模块，用于判断精度是否小于设定阈值；如果否，则继续对深度多核映射学习模型进行训练。

本发明提供的图像特征提取***采用多核映射和深度学习结合的思想，将遥感图像目标特征提取中的多核映射算法引入深层结构，过深度网络确定各基本核的权重，深度结构为传统的核映射方法带来更好的非线性特征提取，使得从遥感图像中获取的特征能够更好的描述目标，在提升特征提取的效果和效率的同时，也更好地实现了遥感图像特征提取领域从依靠人工设定特征提取目标特征的模式向从数据样本中智能获取更加准确特征的提取模式的转变。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的***而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

本发明中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种图像特征提取方法，其特征在于，包括：

构建深度多核映射学习模型，所述学习模型的每个单元均为一个基础核，所述学习模型层间各基础核为全连接结构，层内各基础核相互独立；

采用样本数据对所述深度多核映射学习模型进行训练，所述样本数据为图像的多维特征数据；

获取待识别图像；

采用训练后的深度多核映射学习模型对所述待识别图像进行特征提取。

2.根据权利要求1所述的图像特征提取方法，其特征在于，所述采用样本数据对所述深度多核映射学习模型进行训练，具体包括：

设定所述深度多核映射学习模型的初始学习率和初始权重值；

向所述深度多核映射学习模型中输入样本数据和标签，进行训练；

根据训练后的深度多核映射学习模型的损失函数对所述深度多核映射学习模型中各基础核的权重值进行调整，直至损失函数值小于预设值。

3.根据权利要求1所述的图像特征提取方法，其特征在于，所述构建深度多核映射学习模型，具体包括：

确定各基本核的种类和内部参数；

构建以各所述基本核为单元的全连接结构的深度置信网络，记为深度多核映射学习模型。

4.根据权利要求2所述的图像特征提取方法，其特征在于，所述根据训练后的深度多核映射学习模型的损失函数对所述深度多核映射学习模型中各基础核的权重值进行调整，具体包括：

根据对所述深度多核映射学习模型中各基础核的权重值进行调整，其中，为第t次迭代学习中第k个基础核的权重值，γ_k为第k个基础核的学习率，T_Span为通过留一发获得的损失函数，θ_k为第k个基础核的权重。

5.根据权利要求1所述的图像特征提取方法，其特征在于，所述方法还包括：

采用测试数据确定训练后的深度多核映射学习模型的精度；

判断所述精度是否小于设定阈值；

如果否，则继续对所述深度多核映射学习模型进行训练。

6.一种图像特征提取***，其特征在于，包括：

模型构建模块，用于构建深度多核映射学习模型，所述学习模型的每个单元均为一个基础核，所述学习模型层间各基础核为全连接结构，层内各基础核相互独立；

模型训练模块，用于采用样本数据对所述深度多核映射学习模型进行训练，所述样本数据为图像的多维特征数据；

图像获取模块，用于获取待识别图像；

特征提取模块，用于采用训练后的深度多核映射学习模型对所述待识别图像进行特征提取。

7.根据权利要求6所述的图像特征提取***，其特征在于，所述模型训练模块，具体包括：

初始化单元，用于设定所述深度多核映射学习模型的初始学习率和初始权重值；

训练单元，用于向所述深度多核映射学习模型中输入样本数据和标签，进行训练；

权值调整单元，用于根据训练后的深度多核映射学习模型的损失函数对所述深度多核映射学习模型中各基础核的权重值进行调整，直至损失函数值小于预设值。

8.根据权利要求6所述的图像特征提取***，其特征在于，所述模型构建模块，具体包括：

基本核确定单元，用于确定各基本核的种类和内部参数；

模型构建单元，用于构建以各所述基本核为单元的全连接结构的深度置信网络，记为深度多核映射学习模型。

9.根据权利要求7所述的图像特征提取***，其特征在于，所述权值调整单元，具体包括：

权值调整子单元，用于根据对所述深度多核映射学习模型中各基础核的权重值进行调整，其中，为第t次迭代学习中第k个基础核的权重值，γ_k为第k个基础核的学习率，T_Span为通过留一发获得的损失函数，θ_k为第k个基础核的权重。

10.根据权利要求7所述的图像特征提取***，其特征在于，所述***还包括：

测试模块，用于采用测试数据确定训练后的深度多核映射学习模型的精度；

精度判断模块，用于判断所述精度是否小于设定阈值；如果否，则继续对所述深度多核映射学习模型进行训练。