CN109816002A - 基于特征自迁移的单一稀疏自编码器弱小目标检测方法 - Google Patents

Abstract

本发明公开了一种基于特征自迁移的单一稀疏编码器弱小目标检测方法，该方法如下：构建用于训练的弱小目标的训练样本集、测试样本集、原始数据集；将训练样本集输入SAE模型中训练，得到样本的稀疏特征，即模型参数用稀疏特征训练softmax，即输入特征f(W^m+1x+b^m+1)对softmax进行训练每次训练完成后，保留正样本，随机选取数量与正样本的数量相近的负样本；将模型参数作为下一次训练的初始模型参数，实现SAE模型的参数更新，重复以上步骤，当SAE模型训练的损失函数的值与前一次损失函数的值相同时，训练结束；将测试样本集输入最后一次训练得到的softmax进行测试，得到测试结果。本发明能够准确地检测图像中的弱小目标。

Description

基于特征自迁移的单一稀疏自编码器弱小目标检测方法

技术领域

本发明涉及计算机视觉处理技术领域，更具体的，涉及一种基于特征自迁移的单一稀疏自编码器弱小目标检测方法。

背景技术

微弱目标检测是图像处理领域的一个难点，自然图像尤其是医学图像中的微弱目标的检测难度非常大，弱小目标在图像中一般边缘不清晰，对比度低，并且多数情况下存在噪声干扰，大大的增加了检测难度。目前，传统的方法以及深度学习对于此种微弱目标检测都存在一定的局限性。对于微弱目标的检测，特征提取是一项十分重要的工作，有效的特征提取能够大大的提高后期检测的精确度。

发明内容

本发明为了解决现有技术无法对微弱目标进行高精度检测的问题，提供了一种基于特征自迁移的单一稀疏自编码器弱小目标检测方法，其具有准确检测到图像中的弱小目标。

为实现上述本发明目的，采用的技术方案如下：一种基于特征自迁移的单一稀疏编码器弱小目标检测方法，该方法包括步骤如下：

S1：从图像数据库中选取数量为a的图像数据作为训练样本集，用于构建训练样本集中的正样本和负样本；从数据库中选取数量为1-a的图像数据作为测试样本集，用于构建测试样本集中的正样本和负样本；所述正样本包含微动脉瘤，并以微动脉瘤为中心构建21*21像素的块；所述负样本不包含微动脉瘤的像素，其大小为21*21像素的块；同时从正样本、负样本中分别选取彩色图像中的绿色通道、蓝色通道、经过Gamma校正得到的对比度增强结果作为原始数据集；

其中：a表示训练样本集占图像数据库的百分比，0<a<1，a为人工设定的；

S2：对训练样本集进行训练，将训练样本集输入到SAE模型中，训练得到训练样本集的稀疏特征，即SAE模型参数

其中：表示经过反向传播得到的SAE模型的权重和偏置；

S3：利用稀疏特征训练softmax，即输入特征f(W^m+1x+b^m+1)对softmax进行训练，每次训练完成后，保留正样本，随机选取数量与正样本的数量相近的负样本；

其中：f表示sigmod激活函数m表示第m次训练；W^m+1、b^m+1分别表示第m+1次训练的SAE的权重和偏置；

S4：将SAE模型参数作为下一次训练的初始模型参数，实现SAE模型的参数更新，完成SAE模型的特征自迁移；执行S2；直至得到SAE模型训练的损失函数的值与前一次损失函数的值相同时，执行S5；

S5：训练好的SAE模型后，将测试样本集输入到最后的softmax中，得到测试结果。

优选地，所述的a取值为0.75，即从图像数据库中选取数量为75％的图像数据作为训练样本集，从数据库中选取数量为25％的图像数据作为测试样本集。

优选地，步骤S2，所述Softmax的表达式如下：

其中，V_i是分类器前级输出单元的输出；i表示类别索引，总的类别个数为C；S_i表示的是当前训练样本对应的特征向量的指数与所有样本指数和的比值。

优选地，步骤S4中的SAE模型的参数更新的公式为：

其中：W^m表示第m次训练时SAE的权重矩阵；α为学***均激活度；表示隐藏层第j个神经元的激活；Δb^m为第m次训练时关于权重b的偏导数矩阵。

进一步地，所述S4的损失函数公式为：

其中，β为稀疏项惩罚因子；称之为KL散度，用于衡量两个概率分布的接近程度；为隐藏层第j个神经元的平均激活度；ρ为稀疏性参数；所述的J(W,b)通过下式进行表达：

其中：n为样本的个数；x⁽ⁱ⁾表示第i个神经元的输入；为l层第i个神经元对下一层第j个神经元的权重。

本发明的有益效果如下：本发明通过构建训练样本集、测试样本集，并利用训练样本集SAE模型，反复更新训练样本集和SAE模型模型，使SAE模型的损失函数的值与前一次的值相同时，结束训练；再通过测试样本集去测试训练好的模型，得到测试结果，该方法能够准确地检测图像中的弱小目标。

附图说明

图1是本发明方法的流程图。

图2是本发明训练过程的示意图。

图3是稀疏编码器的结构示意图。

图4是本实施例测试结果对比图。

具体实施方式

下面结合附图和具体实施方式对本发明做详细描述。

实施例1

如图1所示，一种基于特征自迁移的单一稀疏编码器弱小目标检测方法，该方法具体步骤如下：

步骤S1：分别从数据库Retinopathy Online Challenge、DIARETDB1和E-ophtha中选取75％的图像数据作为训练样本集，用于构建训练样本集中的正样本和负样本；从数据库Retinopathy Online Challenge、DIARETDB1和E-ophtha中选取另外的25％的图像数据作为测试样本集，用于构建测试样本集中的正样本和负样本；所述正样本为包含微动脉瘤，并以微动脉瘤为中心构建21*21像素的块；所述负样本为不包含微动脉瘤，像素为21*21的块；同时从正样本、负样本中分别选取彩色图像中的绿色通道、蓝色通道、经过Gamma校正得到的对比度增强结果作为原始数据集；所示彩色图像为真彩色图像，其每个像素的颜色值都由R、G、B三个数值来决定。

本实施例在构建训练样本集时，也同时构建由绿色通道、蓝色通道、经过Gamma校正得到的对比度增强结果组成的原始数据集。本实施例需要选择的数据库需要符合弱小目标的特征，而数据库Retinopathy Online Challenge、DIARETDB1和E-ophtha中的样本均符合弱小目标的特征。

步骤S2：对训练样本集进行训练，如图2所示，将训练样本集输入到SAE模型中，训练得到样本的稀疏特征，即模型参数

其中：表示经过反向传播得到的SAE模型的权重和偏置；

步骤S3：利用稀疏特征训练softmax，即输入特征f(W^m+1x+b^m+1)对softmax进行训练；每次训练完成后，保留正样本，随机选取数量与正样本的数量相近的负样本；

其中：f表示sigmod激活函数m表示第m次训练；W^m+1、b^m+1分别表示第m+1次训练的SAE的权重和偏置；

本实施例所述的SAE模型一个由多层稀疏自编码器组成的深度神经网络模型，其前一层自编码器的输出作为其后一层自编码器的输入，最后一层是个分类器(logistic分类器或者softmax分类器)

如图3所示，所述的稀疏自编码器是一种无监督的机器学***均激活度的概念，用来表示，其公式如下：

其中：s₂表示隐藏层神经元的个数；表示当网络被赋予特定输入x时该隐藏单元的激活；在计算过程中同时引入了参数ρ，称之为稀疏性参数，并尽可能的使

本实施例所述的Softmax在机器学习中有非常广泛的应用，Softmax计算简单，效果显著，尤其在处理多分类(C>2)问题，分类器最后的输出单元需要Softmax函数进行数值处理。关于Softmax函数的定义如下：

其中，V_i是分类器前级输出单元的输出；i表示类别索引，总的类别个数为C；S_i表示的是当前元素的指数与所有元素指数和的比值。

Softmax将多分类的输出数值转化为相对概率，使数值更容易理解和比较。

步骤S4：将模型参数作为下一次训练的初始模型参数，实现SAE模型的参数更新，完成SAE模型的特征自迁移；特征迁移后，SAE模型的各个参数得到更新；重复步骤S2、步骤S3；直到得到SAE模型训练的损失函数的值与前一次的值相同时，训练结束。

本实施例采用反向传播更新SAE模型参数，所述的反向传播是以误差为主导的传播运动，在反向传播过程中通过对权重和偏置求偏导逐步更新权重和偏置。则参数更新可以通过以下公式获得：

其中：W^m表示第m次训练时SAE的权重矩阵；α为学***均激活度；表示隐藏层第j个神经元的激活；Δb^m为第m次训练时关于权重b的偏导数矩阵。

本实施所述的损失函数的值通过损失函数计算，所述损失函数公式为：

其中，β为稀疏项惩罚因子；称之为KL散度，用于衡量两个概率分布的接近程度；为隐藏层第j个神经元的平均激活度；ρ为稀疏性参数；所述的J(W,b)通过下式进行表达：

其中：n为样本的个数；x⁽ⁱ⁾表示第i个神经元的输入；为l层第i个神经元对下一层第j个神经元的权重。

在本实施例中每次训练时的训练样本集都会包含原始数据集，原始数据集的主要作用是在训练过程，为了提高最终模型的准确性的。

步骤S5：训练好的SAE模型后，利用最后一次训练得到的softmax进行测试；将测试样本集输入到softmax中，得到测试结果。

本实施例测试结果主要通过两个衡量标准，特异性Sensitivity和准确率Accuracy。本实施例通过所述的基于特征自迁移的单一稀疏编码器弱小目标检测方法，得到的测试结果如图4所示，得到每个数据库的准确率和特异性。通过测试结果可以表明基于稀疏编码器与softmax的特征迁移的弱小目标检测方法，能够通过稀疏编码器很好的提取样本的稀疏特征，通过递进式的训练方式，一步一步提高softmax的分类能力，显著的提高目标检测的准确度和特异性。

显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。

Claims (5)

1.一种基于特征自迁移的单一稀疏编码器弱小目标检测方法，其特征在于：该方法包括步骤如下：

S1：从图像数据库中选取数量为a的图像数据作为训练样本集，用于构建训练样本集中的正样本和负样本；从数据库中选取数量为1-a的图像数据作为测试样本集，用于构建测试样本集中的正样本和负样本；所述正样本包含微动脉瘤，并以微动脉瘤为中心构建21*21像素的块；所述负样本不包含微动脉瘤的像素，其大小为21*21像素的块；同时从正样本、负样本中分别选取彩色图像中的绿色通道、蓝色通道、经过Gamma校正得到的对比度增强结果作为原始数据集；

其中：a表示训练样本集占图像数据库的百分比，0<a<1，a为人工设定的；

S2：对训练样本集进行训练，将训练样本集输入到SAE模型中，训练得到训练样本集的稀疏特征，即SAE模型参数

其中：表示经过反向传播得到的SAE模型的权重和偏置；

S3：利用稀疏特征训练softmax，即输入特征f(W^m+1x+b^m+1)对softmax进行训练，每次训练完成后，保留正样本，随机选取数量与正样本的数量相近的负样本；

其中：f表示sigmod激活函数m表示第m次训练；W^m+1、b^m+1分别表示第m+1次训练的SAE的权重和偏置；

S4：将SAE模型参数作为下一次训练的初始模型参数，实现SAE模型的参数更新，完成SAE模型的特征自迁移；执行S2；直至得到SAE模型训练的损失函数的值与前一次损失函数的值相同时，执行S5；

S5：训练好的SAE模型后，将测试样本集输入到最后的softmax中，得到测试结果。

2.根据权利要求1所述的基于特征自迁移的单一稀疏编码器弱小目标检测方法，其特征在于：所述的a取值为0.75，即从图像数据库中选取数量为75％的图像数据作为训练样本集，从数据库中选取数量为25％的图像数据作为测试样本集。

3.根据权利要求1所述的基于特征自迁移的单一稀疏编码器弱小目标检测方法，其特征在于：步骤S2，所述Softmax的表达式如下：

其中，V_i是分类器前级输出单元的输出；i表示类别索引，总的类别个数为C；S_i表示的是当前训练样本对应的特征向量的指数与所有样本指数和的比值。

4.根据权利要求1所述的基于特征自迁移的单一稀疏编码器弱小目标检测方法，其特征在于：步骤S4中的SAE模型的参数更新的公式为：

其中：W^m表示第m次训练时SAE的权重矩阵；α为学***均激活度；表示隐藏层第j个神经元的激活；Δb^m为第m次训练时关于权重b的偏导数矩阵。

5.根据权利要求4所述的基于特征自迁移的单一稀疏编码器弱小目标检测方法，其特征在于：所述S4的损失函数公式为：

其中，β为稀疏项惩罚因子；称之为KL散度，用于衡量两个概率分布的接近程度；为隐藏层第j个神经元的平均激活度；ρ为稀疏性参数；所述的J(W,b)通过下式进行表达：

其中：n为样本的个数；x⁽ⁱ⁾表示第i个神经元的输入；为l层第i个神经元对下一层第j个神经元的权重。