CN105957092A - 用于计算机辅助诊断的乳腺钼靶图像特征自学习提取方法 - Google Patents

Abstract

本发明涉及一种用于计算机辅助诊断的乳腺钼靶图像特征自学习提取方法，首先从乳腺钼靶病灶区域图像 ROI中提取手工浅层特征，构成训练样本集；随后，利用训练样本集训练出一个堆叠自编码器，完成乳腺钼靶图像从浅层特征到高层语义特征的自学习提取。本发明采用逐层贪婪无监督训练的方式，从已有的乳腺钼靶图像数据中去自学习高层语义特征，避免了人工干涉，该方法实现灵活，为临床诊断提供更有价值的“参考意见”，具有较强的实用性。

Description

用于计算机辅助诊断的乳腺钼靶图像特征自学习提取方法

技术领域

本发明涉及特征工程技术领域，特别是一种用于计算机辅助诊断的乳腺钼靶图像特征自学习提取方法。

背景技术

乳腺癌是发生在妇女群体中最普遍的恶性肿瘤之一。近年来我国调查研究显示，乳腺癌的发生比率在逐年递增。因此提高乳腺癌的早期诊断精度变得越来越有意义。

目前，乳腺癌诊断采用的主要方法是通过乳腺钼靶、B超图像等影像检查，诊断者通过钙化或肿块等影像特征来对病情进行分析。钼靶作为一种无创性的检查手段，痛苦相对较小，简便易行，且分辨率高，重复性好，留取的图像可供前后对比，不受年龄、体形的限制，是目前诊断乳腺疾病的首选，对于以少许微小钙化为唯一表现的T0期乳腺癌(临床扪诊阴性)，也只有凭借钼靶检查才能被早期发现和诊断，对乳腺癌的诊断敏感性为82％～89％，特异性为87％～94％。但由于乳腺组织中的腺体、血管、脂肪等软组织的密度与病灶区的密度都很接近，加上诊断者视觉疲劳等因素，使得早期乳腺癌的误诊和漏诊仍时常发生。随着医学影像技术和计算机技术的不断发展，利用计算机进行辅助诊断成为可能。

从计算机辅助诊断乳腺癌的应用现状来看，计算机辅助诊断的准确度很大程度取决于提取到钼靶图像病理相关特征是否有效。目前，用于计算机辅助诊断的医学图像特征提取基本上采用手工定位病灶感兴趣区域，并通过基本图像处理的方法提取的一些基础的常规特征，如：灰度直方图特征、GLCM灰度矩阵特征。针对图像特征的有效性问题，目前的研究工作大多以常规图像特征为基础，采用各种特征选择策略，以尽量选择出与病理描述关联度紧密，表达能力强的特征。但上述方法有以下几个方面的不足：第一、上述基础常规特征的逐一提取耗时费力；第二、上述单个基础常规特征本身并非领域相关，和乳腺癌的特定应用关联度不大；第三、设计有效的可用于计算机辅助诊断乳腺癌的基础常规特征组合具有严重的不确定性，仍然需要设计复杂的算法用于确定辅助诊断时各个特征间的权重关系。存在上述局限性的本质原因是特征筛选后的特征仍然是医学图像的低层特征，与医学图像整体上的病理语义高层特征间并无直接的映射关系，因此，最好的解决机制是提供一种可以根据以往乳腺癌钼靶图像自动学习出与病理有关且可用于辅助诊断的钼靶图像高层语义特征的方法。

深度神经网络具有很强的表达能力，但如果采用完全监督的训练方式来训练深度神经网络并不能取得良好的效果。尽管监督的学习方法对于浅层网络的训练通常能使模型收敛到合理的范围，但是对于深度神经网络的训练存在梯度弥散的问题。比如，在BP神经网络的反向传播过程中，反向传播的梯度随着层数的增加而减小，从而导致前面几层的权值更新缓慢，无法得到有效的学习。由此，基于逐层贪婪无监督训练方式构建的堆叠自编码器(stacked auto-encoder，SAE)有助于解决以上问题。

因此，本申请基于上述方法，训练堆叠自编码器完成乳腺钼靶图像的高层语义特征提取。从而为临床诊断提供更有价值的“参考意见”，提高乳腺癌诊断的准确率和效率。

发明内容

有鉴于此，本发明的目的是提出一种用于计算机辅助诊断的乳腺钼靶图像特征自学习提取方法，完成乳腺钼靶图像的高层语义特征提取，减少人工干涉，有助于特征的病理相关性，为临床诊断提供更有价值的“参考意见”。

本发明采用以下方案实现：一种用于计算机辅助诊断的乳腺钼靶图像特征自学习提取方法，具体包括以下步骤：

一种用于计算机辅助诊断的乳腺钼靶图像特征提取自学习方法，其特征在于，包括以下步骤：

步骤S1：给定一个中等规模以上的乳腺钼靶病灶区域图像集，所述中等规模表示该图像集至少含有200幅以上的乳腺钼靶诊断图像；

步骤S2：手动提取步骤S1中图像集里每一张乳腺钼靶诊断图像的病灶区域图像ROI；

步骤S3：从每一张乳腺钼靶病灶区域图像ROI中提取手工浅层特征作为一个训练样本，构成训练样本集set_unlabeled＝{x⁽¹⁾,x⁽²⁾,L,x⁽ⁿ⁾}，第i个样本x⁽ⁱ⁾∈[0,1]^d,i＝1,2,L,n，其中d表示样本的特征维度，n表示训练集样本个数；

步骤S4：基于训练样本集，训练第一个自编码器AE1；

步骤S5：训练完第一个自编码器AE1后，重新输入set_unlabeled样本集，根据步骤S4训练好的AE1模型提取所有样本的隐层学习得到的特征表示，构成新的样本{y⁽¹⁾,y⁽²⁾,L,y⁽ⁿ⁾}，将其作为第二个自编码器AE2的输入，训练第二个自编码器AE2；

步骤S6：将完成训练的两个自编码器(AE1、AE2)堆叠得到三层的SAE结构；所述SAE结构第一层为输入层，维度为d，第二层为AE1中的隐层，维度为d_h1，第三层为AE2中对应的隐层，维度为d_h2；通过该模型，给定乳腺钼靶图像的手工浅层特征，前向反馈后得到基于堆叠自编码器的高层抽象的语义特征表示即提取的乳腺钼靶图像的高层语义特征。

较佳的，所述乳腺钼靶病灶区域图像ROI的大小为150×150。

进一步的，所述步骤S3包括以下具体步骤：分别提取每一张ROI图像的基于GLCM和基于灰度直方图的手工浅层特征，级联为一个d维的特征向量作为一个样本，对该样本进行规范化；

所述规范化包括以下步骤:对首先采取z-score的规范化方法，规范化公式如下：

$x^{\′}=\frac{x-mean}{std}$

其中x表示某一维度特征的观测值，mean为该维度特征观测值的均值，std为该维度特征观测值的标准差，x'为x进行z-score规范后的结果，考虑到训练自编码过程中神经元是以概率形式存在，继续进行Min-Max规范化到[0,1]区间，规范化公式如下：

$x^{\′\′}=\frac{x^{\′}-min}{max-min}$

其中x'表示某一维度特征的观测值，min为该维度特征观测值的最小值，max为该维度特征观测值的最大值，x”为x'进行Min-Max规范后的结果。

进一步的，所述步骤S4中的自编码器均由三层网络构成，对应输入层x、隐层y、输出层z的神经元个数分别为d、d_h1、d，其中输入层的输入为训练集set_unlabeled中的某个样本x⁽ⁱ⁾∈[0,1]^d,i＝1,2,L,n；参数θ₁＝{W₁,b₁}，θ₂＝{W₂,b₂}，b₁、b₂为分别为隐层和输出层的偏置向量，大小分别为d_h1和d维，W₁为输入层到隐层的权值连接矩阵，W₂为隐层到输出层的权值连接矩阵，大小分别为d×d_h1、d_h1×d，激活函数均采用sigmoid函数。

进一步的，步骤S4具体包括以下步骤：

步骤S41：对训练样本集进行分割，具体步骤为：将钼靶图像的训练样本集set_unlabeled随机分割为num个batch，每个batch_i∈[0,1]^{batch_size×d},i＝1,2,L,num，batch_size为每个batch_i的样本数；

步骤S42：网络参数初始化；具体设置为：

learningrate＝1；

$W_1=\left(rand\right(d,d_{h1})-0.5)\×\sqrt{\frac{6}{d+d_{h1}}};$

$W_2=\left(rand\right(d_{h1},d)-0.5)\×\sqrt{\frac{6}{d_{h1}+d}};$

b₁＝0,b₂＝0；

其中，leanningrate表示学习率，rand(m,n)函数为随机生成[0,1]的m×n阶矩阵；

步骤43：设置最大循环次数NN；

步骤44：外重循环t＝1-NN；内重循环s＝1-num。

进一步的，步骤44包括以下具体步骤：

步骤441：前向反馈：

y⁽ⁱ⁾＝sigmoid(W₁ ^Tx⁽ⁱ⁾+b₁),i＝1,2,L,batch_size，

z⁽ⁱ⁾＝sigmoid(W₂ ^Ty⁽ⁱ⁾+b₂),i＝1,2,…,batch_size；

步骤442：反向传输：

${\mathrm{\δ}}_j^{\left(i\right)o}=(z_j^{\left(i\right)}-x_j^{\left(i\right)})z_j^{\left(i\right)}(1-z_j^{\left(i\right)}),i=1,2,L,batch\_size,1\≤j\≤d$

${\mathrm{\δ}}_j^{\left(i\right)h}=\underset{t=1}{\overset{d}{\Σ}}{W}_{2_{jt}}{\mathrm{\δ}}_t^{\left(i\right)o}{y}_j^{\left(i\right)}(1-y_j^{\left(i\right)}),i=1,2,L,batch\_size,1\≤j\≤d_{h1}$

步骤443：更新参数:

$W_1=W_1-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{x}^{\left(i\right)}{\mathrm{\δ}}^{\left(i\right)h^T}$

$W_2=W_2-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{y}^{\left(i\right)}{\mathrm{\δ}}^{\left(i\right)o^T}$

$b_1=b_1-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{\mathrm{\δ}}^{\left(i\right)h^T}$

$b_2=b_2-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{\mathrm{\δ}}^{\left(i\right)o^T}$

其中，分别表示第i个样本对应输出层和隐层第j个节点的残差。

与现有技术相比，本发明利用逐层贪婪无监督训练方式构建的堆叠自编码器从已有的乳腺钼靶图像数据中去自学习高层语义特征，避免了人工干涉，该方法实现灵活，为临床诊断提供有价值的“参考意见”，具有较强的实用性。

附图说明

图1为单个自编码器训练过程。

图2为堆叠自编码器训练过程。

具体实施方式

下面结合附图及实施例对本发明做进一步说明。

本实施例提供了一种用于计算机辅助诊断的乳腺钼靶图像特征自学习提取方法，具体如下：

步骤S1：给定一个中等规模以上的乳腺钼靶病灶区域图像集，所述中等规模表示该图像集至少含有200幅以上的乳腺钼靶诊断图像；

步骤S2：手动提取步骤S1中图像集里每一张乳腺钼靶诊断图像的病灶区域图像ROI；较佳的，其中所述乳腺钼靶病灶区域图像ROI的大小为150×150；

步骤S3：从每一张乳腺钼靶病灶区域图像ROI中提取手工浅层特征作为一个训练样本，构成训练样本集set_unlabeled＝{x⁽¹⁾,x⁽²⁾,L,x⁽ⁿ⁾}，第i个样本x⁽ⁱ⁾∈[0,1]^d,i＝1,2,L,n。其中d表示样本的特征维度，n表示训练集样本个数。

步骤S4：基于训练样本集，训练第一个自编码器AE1。

步骤S5：训练完第一个降噪自编码器(AE1)后，重新输入set_unlabeled样本集，根据步骤S4训练好的AE1模型提取所有样本的隐层学习得到的特征表示，构成新的样本{y⁽¹⁾,y⁽²⁾,L,y⁽ⁿ⁾}，将其作为第二个自编码器(AE2)的输入，训练第二个自编码器AE2。

步骤S6：将完成训练的两个自编码器(AE1、AE2)堆叠得到三层的SAE结构，如图2所示。对应第一层为输入层,维度为d；第二层为AE1中的隐层，维度为d_h1；第三层为AE2中对应的隐层，维度为d_h2。通过该模型，给定乳腺钼靶图像的手工浅层特征，前向反馈后即可以得到基于堆叠自编码器的高层抽象的语义特征表示即提取的乳腺钼靶图像的高层语义特征。

进一步地，所述步骤S3为：分别提取每一张ROI图像的基于GLCM和基于灰度直方图的手工浅层特征，级联为一个d维的特征向量作为一个样本。考虑到某些特征属性实际最大值和最小值是未知的，并且存在离群点的可能性，首先采取z-score的规范化方法，规范化公式如下：

$x^{\′}=\frac{x-mean}{std}$

其中x表示某一维度特征的观测值，mean为该维度特征观测值的均值，std为该维度特征观测值的标准差，x'为x进行z-score规范后的结果。考虑到训练自编码过程中神经元是以概率形式存在,继续进行Min-Max规范化到[0,1]区间。规范化公式如下：

$x^{\′\′}=\frac{x^{\′}-min}{max-min}$

其中x'表示某一维度特征的观测值，min为该维度特征观测值的最小值，max为该维度特征观测值的最大值，x”为x'进行Min-Max规范后的结果。

进一步地，所述步骤S4为：如图1所示，一个自编码器由三层网络构成，对应输入层x、隐层y、输出层z的神经元个数分别为d、d_h1、d，其中输入层的输入为训练集set_unlabeled中的某个样本x⁽ⁱ⁾∈[0,1]^d,i＝1,2,L,n。参数θ₁＝{W₁,b₁}，θ₂＝{W₂,b₂}，b₁、b₂为分别为隐层和输出层的偏置向量，大小分别为d_h1和d维，W₁为输入层到隐层的权值连接矩阵，W₂为隐层到输出层的权值连接矩阵，大小分别为d×d_h1、d_h1×d。激活函数均采用sigmoid函数。

具体包括以下步骤：

步骤S41：对训练样本集进行分割，具体步骤为：将钼靶图像的训练样本集set_unlabeled随机分割为num个batch(块)，每个batch_i∈[0,1]^{batch_size×d},i＝1,2,L,num，batch_size为每个batch_i的样本数；

步骤S42：网络参数初始化；具体设置为：

learningrate＝1；

$W_1=\left(rand\right(d,d_{h1})-0.5)\×\sqrt{\frac{6}{d+d_{h1}}};$

$W_2=\left(rand\right(d_{h1},d)-0.5)\×\sqrt{\frac{6}{d_{h1}+d}};$

b₁＝0,b₂＝0；

其中，leanningrate表示学习率，rand(m,n)函数为随机生成[0,1]的m×n阶矩阵；

步骤43：设置最大循环次数NN

步骤44：外重循环t＝1to NN

内重循环s＝1to num

步骤441：前向反馈：

y⁽ⁱ⁾＝sigmoid(W₁ ^Tx⁽ⁱ⁾+b₁),i＝1,2,L,batch_size

z⁽ⁱ⁾＝sigmoid(W₂ ^Ty⁽ⁱ⁾+b₂),i＝1,2,L,batch_size

步骤442：反向传输：

${\mathrm{\δ}}_j^{\left(i\right)o}=(z_j^{\left(i\right)}-x_j^{\left(i\right)})z_j^{\left(i\right)}(1-z_j^{\left(i\right)}),i=1,2,L,batch\_size,1\≤j\≤d$

${\mathrm{\δ}}_j^{\left(i\right)h}=\underset{t=1}{\overset{d}{\Σ}}{W}_{2_{jt}}{\mathrm{\δ}}_t^{\left(i\right)o}{y}_j^{\left(i\right)}(1-y_j^{\left(i\right)}),i=1,2,L,batch\_size,1\≤j\≤d_{h1}$

步骤443：更新参数

$W_1=W_1-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{x}^{\left(i\right)}{\mathrm{\δ}}^{\left(i\right)h^T}$

$W_2=W_2-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{y}^{\left(i\right)}{\mathrm{\δ}}^{\left(i\right)o^T}$

$b_1=b_1-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{\mathrm{\δ}}^{\left(i\right)h^T}$

$b_2=b_2-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{\mathrm{\δ}}^{\left(i\right)o^T}$

其中，分别表示第i个样本对应输出层和隐层第j个节点的残差。

以上所述实施例仅表达了本发明的较佳实施方式，其描述较为具体和详细，但并不能因此而理解为对本发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。

Claims (6)

1.一种用于计算机辅助诊断的乳腺钼靶图像特征提取自学习方法，其特征在于，包括以下步骤：

步骤S1：给定一个中等规模以上的乳腺钼靶病灶区域图像集，所述中等规模表示该图像集至少含有200幅以上的乳腺钼靶诊断图像；

步骤S2：手动提取步骤S1中图像集里每一张乳腺钼靶诊断图像的病灶区域图像ROI；

步骤S3：从每一张乳腺钼靶病灶区域图像ROI中提取手工浅层特征作为一个训练样本，构成训练样本集set_unlabeled＝{x⁽¹⁾,x⁽²⁾,L,x⁽ⁿ⁾}，第i个样本x⁽ⁱ⁾∈[0,1]^d,i＝1,2,L,n，其中d表示样本的特征维度，n表示训练集样本个数；

步骤S4：基于训练样本集，训练第一个自编码器AE1；

步骤S5：训练完第一个自编码器AE1后，重新输入set_unlabeled样本集，根据步骤S4训练好的AE1模型提取所有样本的隐层学习得到的特征表示，构成新的样本{y⁽¹⁾,y⁽²⁾,L,y⁽ⁿ⁾}，将其作为第二个自编码器AE2的输入，训练第二个自编码器AE2；

步骤S6：将完成训练的两个自编码器(AE1、AE2)堆叠得到三层的SAE结构；所述SAE结构第一层为输入层，维度为d，第二层为AE1中的隐层，维度为d_h1，第三层为AE2中对应的隐层，维度为d_h2；通过该模型，给定乳腺钼靶图像的手工浅层特征，前向反馈后得到基于堆叠自编码器的高层抽象的语义特征表示即提取的乳腺钼靶图像的高层语义特征。

2.根据权利要求1所述的用于计算机辅助诊断的乳腺钼靶图像特征提取自学习方法，其特征在于：所述乳腺钼靶病灶区域图像ROI的大小为150×150。

3.根据权利要求1所述的用于计算机辅助诊断的乳腺钼靶图像特征提取自学习方法，其特征在于：所述步骤S3包括以下具体步骤：分别提取每一张ROI图像的基于GLCM和基于灰度直方图的手工浅层特征，级联为一个d维的特征向量作为一个样本，对该样本进行规范化；

所述规范化包括以下步骤:对首先采取z-score的规范化方法，规范化公式如下：

$x^{\′}=\frac{x-mean}{std}$ 其中x表示某一维度特征的观测值，mean为该维度特征观测值的均值，std为该维度特征观测值的标准差，x′为x进行z-score规范后的结果，考虑到训练自编码过程中神经元是以概率形式存在，继续进行Min-Max规范化到[0,1]区间，规范化公式如下：

$x^{\′\′}=\frac{x^{\′}-min}{max-min}$

其中x′表示某一维度特征的观测值，min为该维度特征观测值的最小值，max为该维度特征观测值的最大值，x″为x′进行Min-Max规范后的结果。

4.根据权利要求1所述的用于计算机辅助诊断的乳腺钼靶图像特征提取自学习方法，其特征在于：所述步骤S4中的自编码器均由三层网络构成，对应输入层x、隐层y、输出层z的神经元个数分别为d、d_h1、d，其中输入层的输入为训练集set_unlabeled中的某个样本x⁽ⁱ⁾∈[0,1]^d,i＝1,2,L,n；参数θ₁＝{W₁,b₁}，θ₂＝{W₂,b₂}，b₁、b₂为分别为隐层和输出层的偏置向量，大小分别为d_h1和d维，W₁为输入层到隐层的权值连接矩阵，W₂为隐层到输出层的权值连接矩阵，大小分别为d×d_h1、d_h1×d，激活函数均采用sigmoid函数。

5.根据权利要求4所述的用于计算机辅助诊断的乳腺钼靶图像特征提取自学习方法，其特征在于：步骤S4具体包括以下步骤：

步骤S41：对训练样本集进行分割，具体步骤为：将钼靶图像的训练样本集set_unlabeled随机分割为num个batch，每个batch_i∈[0,1]^{batch_size×d},i＝1,2,L,num，batch_size为每个batch_i的样本数；

步骤S42：网络参数初始化；具体设置为：

learningrate＝1；

$W_1=\left(rand\right(d,d_{h1})-0.5)\×\sqrt{\frac{6}{d+d_{h1}}};$

$W_2=\left(rand\right(d_{h1},d)-0.5)\×\sqrt{\frac{6}{d_{h1}+d}};$

b₁＝0,b₂＝0；

其中，leanningrate表示学习率，rand(m,n)函数为随机生成[0,1]的m×n阶矩阵；

步骤43：设置最大循环次数NN；

步骤44：外重循环t＝1-NN；内重循环s＝1-num。

6.根据权利要求5所述的用于计算机辅助诊断的乳腺钼靶图像特征提取自学习方法，其特征在于：步骤44包括以下具体步骤：

步骤441：前向反馈：

y⁽ⁱ⁾＝sigmoid(W₁ ^Tx⁽ⁱ⁾+b₁),i＝1,2,L,batch_size，

z⁽ⁱ⁾＝sigmoid(W₂ ^Ty⁽ⁱ⁾+b₂),i＝1,2,…,batch_size；

步骤442：反向传输：

${\mathrm{\δ}}_j^{\left(i\right)o}=(z_j^{\left(i\right)}-x_j^{\left(i\right)})z_j^{\left(i\right)}(1-z_j^{\left(i\right)}),i=1,2,L,batch\_size,1\≤j\≤d$

${\mathrm{\δ}}_j^{\left(i\right)h}=\underset{t=1}{\overset{d}{\Σ}}{W}_{2_{jt}}{\mathrm{\δ}}_t^{\left(i\right)o}{y}_j^{\left(i\right)}(1-y_j^{\left(i\right)}),i=1,2,L,batch\_size,1\≤j\≤d_{h1}$

步骤443：更新参数:

$W_1=W_1-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{x}^{\left(i\right)}{\mathrm{\δ}}^{\left(i\right)h^T}$

$W_2=W_2-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{y}^{\left(i\right)}{\mathrm{\δ}}^{\left(i\right)o^T}$

$b_1=b_1-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{\mathrm{\δ}}^{\left(i\right)h^T}$

$b_2=b_2-\frac{1}{batch\_size}\underset{i=1}{\overset{batch\_size}{\Σ}}{\mathrm{\δ}}^{\left(i\right)o^T}$

其中，分别表示第i个样本对应输出层和隐层第j个节点的残差。