CN106355578A - 基于卷积神经网络的超声颈动脉远端识别装置和方法 - Google Patents

Abstract

本发明涉及医学图像处理设备，为提供一种全自动、快速、准确提取ROI的技术方案，本发明‑基于卷积神经网络的超声颈动脉远端识别装置和方法，由超声扫描仪和计算机构成，计算机上设置有如下模块：(1)裁剪图像模块；(2)图像均分处理模块；(3)CNN处理模块，用于将图像块作为已经训练好的卷积神经网CNN的输入，进行预测分类，类别数为2，即包含“暗‑亮‑暗‑亮”结构的图像和无此结构的图像，选出同一子图像中归属包含“暗‑亮‑暗‑亮”结构类的预测值最大的图像块；(4)ROI提取模块。本发明主要应用于医学图像处理。

Description

基于卷积神经网络的超声颈动脉远端识别装置和方法

技术领域

本发明涉及医学图像处理，具体讲,涉及基于卷积神经网络的超声颈动脉远端识别装置和方法。

背景技术

心脑血管疾病已经成为危害人类健康的首要疾病。世界卫生组织的调查显示，2012年全球有1750万人口死于心脑血管疾病，占全球总死亡人口的30％。研究表明颈动脉血管内中膜厚度(Intima-Media Thickness，IMT)可以有效反映动脉粥样硬化程度，是预测心脑血管疾病的重要指标和主要标准。1986年，文献^[1]首先提出了IMT分割算法，之后的30中大量算法和方案相继被提出。这些测量方案大致由两部分组成，第一步提取感兴趣区域(Region of Interest，ROI)并获取初始轮廓线，第二部获取精确轮廓线。能否全自动、快速、准确提取ROI关系整个算法执行能否全自动、高效、准确地执行。半自动分割需要人为选定感兴趣点^[2]或ROI^[3]，无法实现IMT全自动、快速测量，给海量医学图像数据的及时处理带来极大的挑战。全自动算法则无需人为干预，文献[4]采用活动轮廓模型获取初始轮廓线，获取ROI,但是该算法容易产生边界泄漏现象，速度场参数难以选择，且该算法时间复杂度较高，很难满足实时性要求。文献[5]采用分水岭算法选取ROI,但是该方法对噪声较敏感，而超声图像中噪声普遍存在。文献[6]采用模板匹配的算法获取ROI，但是模板的适用性较低，因此要通过不断那改变模板以满足来自不同超声成像设备的图像处理要求。也有学者提出利用像素灰度值均值和方差追踪颈动脉远端，该方法对噪声敏感，而且均值和方差的选择同样受超声成像设备的影响。针对目前ROI提取存在的问题，本方明提出利用卷积神经网(Convolutional Neural Network，CNN)络全自动、快速、准确、鲁棒性强的识别超声颈动脉远端进而提取ROI的方法。

参考文献

[1]Destrempes F,Meunier J,Giroux M F,et al.Segmentation in ultrasonicB-mode images of healthy carotid arteries using mixtures of Nakagamidistributions and stochastic optimization.[J].Medical Imaging IEEETransactions on,2008,28(2):215-29.

[2].Cheng D C,Schmidt-A,Cheng K S,et al.Using snakes todetect the intimal and adventitial layers of the common carotid artery wallin sonographic images[J].Computer Methods&Programs in Biomedicine,2002,67(1):27-37

[3].Xu,X.,Zhou,Y.,Cheng,X.,Song,E.,&Li,G.(2012).Ultrasound intima-media segmentation using hough transform and dual snake model..ComputerizedMedical Imaging&Graphics the Official Journal of the Computerized MedicalImaging Society,36(3),248-258.

[4].Petroudi S,Loizou C,Pantziaris M,et al.Segmentation of the CommonCarotid Intima-Media Complex in Ultrasound Images Using Active Contours[J].IEEE transactions on bio-medical engineering,2012,59(11):3060-9.

[5].Menchón-Lara R M,Bastida-Jumilla M C,Morales-Sánchez J,etal.Automatic detection of the intima-media thickness in ultrasound images ofthe common carotid artery using neural networks[J].Medical&BiologicalEngineering&Computing,2014,52(2):169-181.

[6].Li,Q.,Zhang,W.,Guan,X.,Bai,Y.,&Jia,J.(2014).An improved approachfor accurate and efficient measurement of common carotid Artery intima-mediathickness in ultrasound images.BioMed Research International,doi:10.1155/2014/740328.

发明内容

为克服现有技术的不足，本发明旨在提供一种全自动、快速、准确提取ROI的方法。本发明采用的技术方案是，基于卷积神经网络的超声颈动脉远端识别方法，步骤如下：

(1)裁剪图像：剪除原始的超生图像边缘中包含受试者的个人信息和其他一些对图像分析冗余的信息；

(2)将裁剪后的图像按列均匀五等分，沿等分的子图像的对称轴顺次取出一定大小的图像块；

(3)将图像块作为已经训练好的卷积神经网CNN的输入，进行预测分类，类别数为2，即包含“暗-亮-暗-亮”结构的图像和无此结构的图像，选出同一子图像中归属包含“暗-亮-暗-亮”结构类的预测值最大的图像块；

(4)将所得图像块的行索引值进行排序，甄选出能有效标定颈动脉远端的行索引值，并依据该索引值提取ROI,选取规则如下：

r1、r2和r3分别为行索引值的最大值、次大值和中间值，m1,m2分别为r1、r2和r3、r2的均值，v为一设定的阈值；其中，首选r3作为有效颈动脉远端索引值，如果r3小于某一阈值，则认为r3不能有效定义颈动脉远端，此时借助m1或m2。

卷积神经网CNN训练过程如下：

若给定一个包含m个样例的数据集，整体代价函数可以定义为：

$\begin{array}{c}J(W,b)=\[\frac{1}{m}\underset{i=1}{\overset{m}{\Σ}}J(W,b;x^{\left(i\right)}{y}^{\left(i\right)})\]+\frac{1}{2}\underset{l=1}{\overset{n_t}{\Σ}}\underset{i=1}{\overset{s_l}{\Σ}}\underset{j=1}{\overset{s_{l+1}}{\Σ}}{\left(W_{ji}^{\left(l\right)}\right)}^2\\ =\[\frac{1}{m}\underset{i=1}{\overset{m}{\Σ}}\left(\frac{1}{2}\right|\left|h_{W,b}\right(x^{\left(i\right)})-y^{\left(i\right)})|{|}^2\]+\frac{1}{2}\underset{l=1}{\overset{n_t}{\Σ}}\underset{i=1}{\overset{s_l}{\Σ}}\underset{j=1}{\overset{s_{l+1}}{\Σ}}{\left(W_{ji}^{\left(l\right)}\right)}^2\end{array}---\left(5\right)$

m为样本容量；W,b为分别为权重与偏置的集合；x⁽ⁱ⁾、y⁽ⁱ⁾分别第i个数据的输入和输出；为连接l-1层的神经元i与l层的神经元j的权值；h_W,b xⁱ为第i个输入的理想输出；

梯度下降法中按照如下公式对参数W和b进行更新

${W_{ij}}^{\left(l\right)}={W_{ij}}^{\left(l\right)}-\mathrm{\α}\frac{\∂J(W,b)}{\∂{W_{ij}}^{\left(l\right)}}---\left(6\right)$

${b_i}^{\left(l\right)}={b_i}^{\left(l\right)}-\mathrm{\α}\frac{\∂J(W,b)}{\∂{b_i}^{\left(l\right)}}---\left(7\right)$

其中α是学习速率,采用反向传播算法来计算偏导数，其步骤如下：

1)进行前馈传导计算，利用前向传导公式，得到L₂,L₃...直到输出层的激活值；

2)对于第n_l输出层的每个输出单元i，根据以下公式计算残差：

${\mathrm{\δ}}_i^{\left(n_t\right)}=\frac{\∂}{\∂z_i^{\left(n_t\right)}}\frac{1}{2}\left|\right|y-h_{W,b}\left(x\right)|{|}^2=-(y_i-{a_i}^{\left(n_t\right)})\·f^{\′}\left({z_i}^{\left(n_t\right)}\right)---\left(8\right)$

式中， 为依据规则设定的参数；

3)对的l＝n_l-1,n_l-2,n_l-3,…2各个层，第l层的第i个节点的残差计算方法如下：

${{\mathrm{\δ}}_i}^{\left(l\right)}=\left(\underset{j=1}{\overset{s_t+1}{\Σ}}{w}_{ji}^{(n_l-1)}{{\mathrm{\δ}}_j}^{\left(n_t\right)}\right)f^{\′}\left({z_i}^{(n_l-1)}\right)---\left(9\right)$

式中，f'()为神经元的激活函数f()的导数，为n_l输出层的输出单元i的残差，为连接n_l-2层的神经元i与n_l-1层的神经元j的权值；

将上式中的n_t-1与n_t的关系替换为l与l+1的关系，即得到：

${{\mathrm{\δ}}_i}^{\left(l\right)}=\left(\underset{j=1}{\overset{s_t+1}{\Σ}}{w}_{ji}^{\left(l\right)}{{\mathrm{\δ}}_j}^{(l+1)}\right)f^{\′}\left({z_i}^{\left(l\right)}\right)---\left(10\right)$

计算需要的偏导数，计算方法如下：

$\frac{\∂}{\∂W_{ij}^{\left(l\right)}}J(W,b;x,y)=a_j^{\left(l\right)}{\mathrm{\δ}}_i^{(l+1)}---\left(11\right)$

$\frac{\∂}{\∂b_i^{\left(l\right)}}J(W,b;x,y)={\mathrm{\δ}}_i^{(l+1)}---\left(12\right).$

基于卷积神经网络的超声颈动脉远端识别装置，由超声扫描仪和计算机构成，超声扫描仪产生的超声图像信号交由计算机处理；计算机上设置有如下模块：

(1)裁剪图像模块，用于剪除原始的超生图像边缘中包含受试者的个人信息和其他一些对图像分析冗余的信息；

(2)图像均分处理模块，用于将裁剪后的图像按列均匀五等分，沿等分的子图像的对称轴顺次取出一定大小的图像块；

(3)CNN处理模块，用于将图像块作为已经训练好的卷积神经网CNN的输入，进行预测分类，类别数为2，即包含“暗-亮-暗-亮”结构的图像和无此结构的图像，选出同一子图像中归属包含“暗-亮-暗-亮”结构类的预测值最大的图像块；

(4)ROI提取模块，用于将所得图像块的行索引值进行排序，甄选出能有效标定颈动脉远端的行索引值，并依据该索引值提取ROI,选取规则如下：

r1、r2和r3分别为行索引值的最大值、次大值和中间值，m1,m2分别为r1、r2和r3、r2的均值，v为一设定的阈值；其中，首选r3作为有效颈动脉远端索引值，如果r3小于某一阈值，则认为r3不能有效定义颈动脉远端，此时借助m1或m2。

本发明的特点及有益效果是：

本发明在对图像进行分类时采用CNN,CNN的拓扑结构能较好地与输入图像吻合，因此可以直接输入原始图像，从而避免前期对图像复杂的预处理，特别是多维输入向量的图像可以直接输入网络这一特点避免了特征提取和分类过程中数据重建的复杂度；特征提取和模式分类可以在训练中隐式地进行学习，避免了显示的特征抽取；网络通过更接近于实际的生物神经网络的布局，即局部连接，与权值共享减少训练参数，简化网络结构，增强网络适应性。本发明可以有效解决目前IMT测量中ROI提取不能全自动、快速、准确进行的问题。利用本发明设计了一种识别超声颈动脉远端进而提取ROI的方法,实验证明在图像分辨率和信噪比较低，內中膜结构模糊、部分甚至大部分缺失的情况下，该方法依旧有效。本发明简单可行，可以应用于医学图像处理领域。

附图说明：

图1卷积神经网络结构图。

图2本发明采用的算法流程图。

图3不同状态的超生颈动脉图像中获取ROI示例。

具体实施方式

IMT是预测心脑血管疾病的主要标准。近30年中，大量的测量IMT的算法被提出，这些算法主要针对ROI获取和颈动脉管腔-内膜边界(Lumn-Intima Interface，LII)、内膜-中膜边界(Media-Adventitia Interface,MAI)两部分。ROI的准确提取至关重要，本发明旨在开发一种全自动、快速、准确提取ROI的方法。

卷积神经网络(Convolutional Neural Network，CNN)是受生物神经学启发而特殊设计的一个多层感知器。视觉皮层的神经元局部接受信息，即这些神经元只响应某些特定区域的刺激。一般认为图像中局部空间的像素联系较紧密，而距离较远的像素相关性则较弱。受生物神经学的启发，每个神经元只需对图像进行局部感知，在更高层通过综合局部信息得到全局信息。CNN一般包括输入层、卷积层、子采样层、全连接层和输出层，如图1所示。

(1)卷积过程和子采样过程

卷积过程：将上一层的特征图与可训练的卷积核进行卷积,加上偏置，再通过激活函数生成输出特征图，通过卷积运算，可以使原信号特征增强，并且降低噪音。通常其卷积过程可以表示如下：

$x_j^l=f(\underset{i\∈M_j}{\Σ}{x}_i^{l-1}*k_{ij}^l+b_i^l)---\left(1\right)$

式中M_j为神经元j对应的局部感受野，K^l _ij是第l层的神经元i的第j个输入对应的权值，b_i ^l为l层的第i个偏置量，f(.)为激活函数。

不同的卷积核生成不同的特征图像。通过卷积运算，可以使原信号特征增强，并且降低噪音。理论上讲，可以用通过卷积获得的特征训练分类器，但这样会大大增加计算量。例如：对于一个96X96像素的图像，假设我们已经学习得到了400个定义在8X8输入上的特征，每一个特征和图像卷积都会得到一个(96-8+1)×(96-8+1)＝7921维的卷积特征，由于有400个特征，所以每个样例(example)都会得到一个892×400＝3,168,400维的卷积特征向量。学习一个拥有超过3百万特征输入的分类器十分不便，并且容易出现过拟合(over-fitting)。

图像的“静态性”使得图像适合使用卷积处理，这意味在一个图像区域有用的特征极有可能在另一个区域同样适用。因此，可以对不同位置的特征进行聚合统计来描述大的图像，例如，计算图像同一区域的某个特定特征的平均值或最大值。这些统计特征不仅可以降低特征维度，同时还会防止过拟合。这种聚合的操作就是池化(pooling)，如平均池化、最大池化等，池化操作也称子采样操作。通常采取下采样的方式进行。将采样出的信息乘以可训练参数，再加上可训练偏置，将得到的结果通过激活函数计算即可得到当前神经元的输出。

$x_j^l=f\left({\mathrm{\β}}^{l}down\right(x_i^{l-1})+b^l)---\left(2\right)$

式中，down()为下采样，β^l，b^l分别为l层的可训练参数和偏置，x_i ^l-1为l-1层的神经元i的输出。

CNN特有的卷积层和子采样层交替出现的二次特征提取结构保证卷积网络对有较大形变输入数据具有一定的容忍能力，对噪声具有一定的鲁棒性。

(2)全连接层,与上一层全连接，并将上一层输出结果与权重向量相乘，再加上偏置项，然后这一结果传送给激活函数。

$x_j^l=f(\underset{i\∈(l-1)}{\Σ}{w_{ji}}^l*{x_i}^{l-1}+b^l)---\left(3\right)$

式中x_i ^(l-1)为(l-1)层的第i个输出，b^(l)为输出层的偏置。

(3)输出层，即分类层，由径向soft-max函数单元组成，计算输入样本属于各类别的概率，输入样本归属于所属概率最大的类别，完成分类任务。

$P(Y=i|R,W^r,b^r)=s(W^{r}R+b^r)=\frac{e^{W_i^{r}R+{b_j}^r}}{{\Σ}_j^{e^{W_i^{r}R+{b_j}^r}}}---\left(4\right)$

式中R为逻辑回归层的输入，W^r，b^r为逻辑回归层的权重和偏置，所有输出的总和为1。

CNN训练过程如下：

若给定一个包含m个样例的数据集，整体代价函数可以定义为：

$\begin{array}{c}J(W,b)=\[\frac{1}{m}\underset{i=1}{\overset{m}{\Σ}}J(W,b;x^{\left(i\right)}{y}^{\left(i\right)})\]+\frac{1}{2}\underset{l=1}{\overset{n_t}{\Σ}}\underset{i=1}{\overset{s_l}{\Σ}}\underset{j=1}{\overset{s_{l+1}}{\Σ}}{\left(W_{ji}^{\left(l\right)}\right)}^2\\ =\[\frac{1}{m}\underset{i=1}{\overset{m}{\Σ}}\left(\frac{1}{2}\right|\left|h_{W,b}\right(x^{\left(i\right)})-y^{\left(i\right)})|{|}^2\]+\frac{1}{2}\underset{l=1}{\overset{n_t}{\Σ}}\underset{i=1}{\overset{s_l}{\Σ}}\underset{j=1}{\overset{s_{l+1}}{\Σ}}{\left(W_{ji}^{\left(l\right)}\right)}^2\end{array}---\left(5\right)$

第一项J(W,b)是均方差项。第二项是权重衰减项，其目的是减小权重的幅度，防止过度拟合。

梯度下降法中按照如下公式对参数W和b进行更新

${W_{ij}}^{\left(l\right)}={W_{ij}}^{\left(l\right)}-\mathrm{\α}\frac{\∂J(W,b)}{\∂{W_{ij}}^{\left(l\right)}}---\left(6\right)$

${b_i}^{\left(l\right)}={b_i}^{\left(l\right)}-\mathrm{\α}\frac{\∂J(W,b)}{\∂{b_i}^{\left(l\right)}}---\left(7\right)$

其中α是学习速率,其中偏导数计算其是关键步骤，可以采用反向传播算法来计算偏导数，其步骤如下：

3)进行前馈传导计算，利用前向传导公式，得到L₂,L₃...直到输出层的激活值。

4)对于第n_l层(输出层)的每个输出单元i，根据以下公式计算残差：

${\mathrm{\δ}}_i^{\left(n_t\right)}=\frac{\∂}{\∂z_i^{\left(n_t\right)}}\frac{1}{2}\left|\right|y-h_{W,b}\left(x\right)|{|}^2=-(y_i-{a_i}^{\left(n_t\right)})\·f^{\′}\left({z_i}^{\left(n_t\right)}\right)---\left(8\right)$

3)对的l＝n_l-1,n_l-2,n_l-3,…2各个层，第l层的第i个节点的残差计算方法如下：

${{\mathrm{\δ}}_i}^{\left(l\right)}=\left(\underset{j=1}{\overset{s_t+1}{\Σ}}{W}_{ji}^{(n_l-1)}{{\mathrm{\δ}}_j}^{\left(n_t\right)}\right)f^{\′}\left({z_i}^{(n_l-1)}\right)---\left(9\right)$

将上式中的n_t-1与n_t的关系替换为l与l+1的关系，即可以得到：

${{\mathrm{\δ}}_i}^{\left(l\right)}=\left(\underset{j=1}{\overset{s_r+1}{\Σ}}{W}_{ji}^{\left(l\right)}{{\mathrm{\δ}}_j}^{(l+1)}\right)f^{\′}\left({z_i}^{\left(l\right)}\right)---\left(10\right)$

计算我们需要的偏导数，计算方法如下：

$\frac{\∂}{\∂W_{ij}^{\left(l\right)}}J(W,b;x,y)=a_j^{\left(l\right)}{\mathrm{\δ}}_i^{(l+1)}---\left(11\right)$

$\frac{\∂}{\∂b_i^{\left(l\right)}}J(W,b;x,y)={\mathrm{\δ}}_i^{(l+1)}---\left(12\right)$

在超声颈动脉图像中，“管腔-内膜-中膜-外膜”具有“暗-亮-暗-亮”结构。但是超声图像的分辨率和对比度较低，同时广泛存在于超声图像中的散斑噪声会破坏图像的一些重要细节，因此实际获取的图像中“暗-亮-暗-亮”结构并不十分明显。本发明中运用CNN识别图像中这一“暗-亮-暗-亮”结构，进而提取ROI。

下面结合附图和具体实施方式进一步详细说明本发明。

本发明所用的测试图像库来自塞普洛斯神经医学院。这些图像来源于不同的测试者，年龄范围为26至95岁，平均年龄为54岁。超声图像通过美国Advanced TechnologyLaboratories生产的ATL HDI-3000超声扫描仪进行采集。该仪器配备了64个高分辨率单元和38毫米的宽带阵列，采用多元超声扫描技术，扫描头的工作频率范围为4-7MHz，传输焦距范围为0.8-1.1cm，声学孔径为10×8mm。所采集的图像分辨率为576×768像素，像素灰度级为256，像素密度为16.66像素/mm。算法在Windows 8 Intel Core i7-4790 CPU 16G [email protected]计算机上的Matlab2014a平台上进行测试。

(1)裁剪图像。原始的超生图像边缘中包含受试者的个人信息和其他一些对图像分析冗余的信息，因此应先剪除这些信息。

(2)将裁剪后的图像按列均匀五等分。沿等分的子图像的对称轴顺次取出一定大小的图像块。

(3)将图像块作为已经训练好的CNN的输入，进行预测分类，类别数为2，即包含“暗-亮-暗-亮”结构的图像和无此结构的图像，选出同一子图像中归属包含“暗-亮-暗-亮”结构类的预测值最大的图像块。

(4)将所得图像块的行索引值进行排序，甄选出能有效标定颈动脉远端的行索引值，并依据该索引值提取ROI,选取规则如下。

r1、r2和r3分别为行索引值的最大值、次大值和中间值。m1,m2分别为r1、r2和r3、r2的均值。v为一设定的阈值，本发明中首选r3作为有效颈动脉远端索引值，一般颈动脉远端位于整张超声图像中间偏下位置，因此如果r3小于某一阈值，则认为r3不能有效定义颈动脉远端，此时借助m1或m2。

图2中是不同状态超生颈动脉图像的ROI获取示意图。a图是较为清晰的图像，内中膜结构较完整；b图图像分辨率较低，且内中膜多处断裂；c图图像分辨率较b图有所提高，但是内中膜多处断裂且弯曲；d图的图像分辨率较高，但是图像中存在严重噪声导致内中膜结构被严重破环；e图中人眼几乎不能识别内中膜结构，但是本发明所提算法仍能准确识别ROI。

Claims (3)

1.一种基于卷积神经网络的超声颈动脉远端识别方法，其特征是，步骤如下：

(1)裁剪图像：剪除原始的超生图像边缘中包含受试者的个人信息和其他一些对图像分析冗余的信息；

(2)将裁剪后的图像按列均匀五等分，沿等分的子图像的对称轴顺次取出一定大小的图像块；

(3)将图像块作为已经训练好的卷积神经网CNN的输入，进行预测分类，类别数为2，即包含“暗-亮-暗-亮”结构的图像和无此结构的图像，选出同一子图像中归属包含“暗-亮-暗-亮”结构类的预测值最大的图像块；

(4)将所得图像块的行索引值进行排序，甄选出能有效标定颈动脉远端的行索引值，并依据该索引值提取ROI,选取规则如下：

r1、r2和r3分别为行索引值的最大值、次大值和中间值，m1,m2分别为r1、r2和r3、r2的均值，v为一设定的阈值；其中，首选r3作为有效颈动脉远端索引值，如果r3小于某一阈值，则认为r3不能有效定义颈动脉远端，此时借助m1或m2。

2.如权利要求1所述的基于卷积神经网络的超声颈动脉远端识别方法，其特征是，卷积神经网CNN训练过程如下：

若给定一个包含m个样例的数据集，整体代价函数可以定义为：

$\begin{array}{c}J(W,b)=\[\frac{1}{m}\underset{i=1}{\overset{m}{\mathrm{\Σ}}}J\left(W,b;x^{\left(i\right)}{y}^{\left(i\right)}\right)\]+\frac{1}{2}\underset{l=i}{\overset{n_t}{\Σ}}\underset{i=1}{\overset{s_l}{\Σ}}\underset{j=1}{\overset{s_{l+1}}{\Σ}}{\left(W_{ji}^{\left(l\right)}\right)}^2\\ =\[\frac{1}{m}\underset{i=1}{\overset{m}{\mathrm{\Σ}}}\left(\frac{1}{2}\right|\left|h_{W,b}\right(x^{\left(i\right)})-y^{\left(i\right)}|{|}^2)\]+\frac{1}{2}\underset{l=i}{\overset{n_t}{\Σ}}\underset{i=1}{\overset{s_l}{\Σ}}\underset{j=1}{\overset{s_{l+1}}{\Σ}}{\left(W_{ji}^{\left(l\right)}\right)}^2\end{array}---\left(5\right)$

m为样本容量；W,b为分别为权重与偏置的集合；x⁽ⁱ⁾、y⁽ⁱ⁾分别第i个数据的输入和输出；为连接l-1层的神经元i与l层的神经元j的权值；h_W,b xⁱ为第i个输入的理想输出；

梯度下降法中按照如下公式对参数W和b进行更新

${W_{ij}}^{\left(l\right)}={W_{ij}}^{\left(l\right)}-\mathrm{\α}\frac{\∂J(W,b)}{\∂{W_{ij}}^{\left(l\right)}}---\left(6\right)$

${b_i}^{\left(l\right)}={b_i}^{\left(l\right)}-\mathrm{\α}\frac{\∂J(W,b)}{\∂b_i^{\left(l\right)}}---\left(7\right)$

其中α是学习速率,采用反向传播算法来计算偏导数，其步骤如下：

1)进行前馈传导计算，利用前向传导公式，得到L₂,L₃...直到输出层的激活值；

2)对于第n_l输出层的每个输出单元i，根据以下公式计算残差：

${\mathrm{\δ}}_i^{\left(n_t\right)}=\frac{\∂}{\∂z_i^{\left(n_t\right)}}\frac{1}{2}\left|\right|y-h_{W,b}\left(x\right)|{|}^2=-(y_i-{a_i}^{\left(n_t\right)})\·f^{\′}\left({z_i}^{\left(n_t\right)}\right)---\left(8\right)$

式中， 为依据规则设定的参数；

3)对的l＝n_l-1,n_l-2,n_l-3,…2各个层，第l层的第i个节点的残差计算方法如下：

${{\mathrm{\δ}}_i}^{\left(l\right)}=\left(\underset{j=1}{\overset{s_t+1}{\Σ}}{w}_{ji}^{(n_l-1)}{{\mathrm{\δ}}_j}^{\left(n_t\right)}\right)f^{\′}\left({z_i}^{\left(n_l-1\right)}\right)---\left(9\right)$

式中，f'()为神经元的激活函数f()的导数，为n_l输出层的输出单元i的残差，为连接n_l-2层的神经元i与n_l-1层的神经元j的权值；

将上式中的n_t-1与nt的关系替换为l与l+1的关系，即得到：

${{\mathrm{\δ}}_i}^{\left(l\right)}=\left(\underset{j=1}{\overset{s_t+1}{\mathrm{\Σ}}}{w}_{ji}^{\left(l\right)}{{\mathrm{\δ}}_j}^{(l+1)}\right)f^{\′}\left({z_i}^{\left(l\right)}\right)---\left(10\right)$

计算需要的偏导数，计算方法如下：

$\frac{\∂}{\∂W_{ij}^{\left(l\right)}}J(W,b;x,y)=a_j^{\left(l\right)}{\mathrm{\δ}}_i^{\left(l+1\right)}---\left(11\right)$

$\frac{\∂}{\∂b_i^{\left(l\right)}}J(W,b;x,y)={\mathrm{\δ}}_i^{\left(l+1\right)}---\left(12\right).$

3.一种基于卷积神经网络的超声颈动脉远端识别装置，其特征是，基于卷积神经网络的超声颈动脉远端识别装置，由超声扫描仪和计算机构成，超声扫描仪产生的超声图像信号交由计算机处理；计算机上设置有如下模块：

(1)裁剪图像模块，用于剪除原始的超生图像边缘中包含受试者的个人信息和其他一些对图像分析冗余的信息；

(2)图像均分处理模块，用于将裁剪后的图像按列均匀五等分，沿等分的子图像的对称轴顺次取出一定大小的图像块；

(3)CNN处理模块，用于将图像块作为已经训练好的卷积神经网CNN的输入，进行预测分类，类别数为2，即包含“暗-亮-暗-亮”结构的图像和无此结构的图像，选出同一子图像中归属包含“暗-亮-暗-亮”结构类的预测值最大的图像块；

(4)ROI提取模块，用于将所得图像块的行索引值进行排序，甄选出能有效标定颈动脉远端的行索引值，并依据该索引值提取ROI,选取规则如下：

r1、r2和r3分别为行索引值的最大值、次大值和中间值，m1,m2分别为r1、r2和r3、r2的均值，v为一设定的阈值；其中，首选r3作为有效颈动脉远端索引值，如果r3小于某一阈值，则认为r3不能有效定义颈动脉远端，此时借助m1或m2。