CN111430025B - 一种基于医疗影像数据扩增的疾病诊断模型训练方法 - Google Patents

Abstract

本发明涉及一种基于医疗影像数据扩增的疾病诊断方法，属于疾病诊断方法技术领域。本方法首先在将原始影像数据映射到深度特征空间中，提取具有高度线性化的语义信息的特征；根据医疗影像中对应不同类别的数据在特征空间中的分布，获得用于数据扩增的特征协方差矩阵；计算数据扩增损失函数，通过不断优化该损失，获得特征提取能力更强的模型。该数据扩增方法仅在训练模型时使用，在使用模型对医疗影像数据预测时不会引入更多的计算量与计算时间。本方法对固定的医疗影像数据进行有效的扩充，显著地降低了深度神经网络的训练对于标注患者数据的数量要求，有效缓解了医疗影像数据获取困难、标注成本高的问题，而且提高了疾病诊断的准确率。

Description

一种基于医疗影像数据扩增的疾病诊断模型训练方法

技术领域

本发明涉及一种基于医疗影像数据扩增的疾病诊断模型训练方法，属于疾病诊断方法技术领域。

背景技术

医疗影像是指利用x光投射等方式获取的人体内部组织、器官等的影像数据，其能够提供大量直观的医学信息，在现代临床诊断和医学治疗中的应用日益广泛。而随着人工智能时代的到来，面向计算机视觉的深度学习技术，作为一种快速、准确、有效的图像分析方法，被广泛应用于医疗影像的自动分析，可以有效地降低医生主观经验不足和认知波动等因素带来的误诊等医疗风险。然而，部署深度学习算法需要足够的标注数据，部分病症病例稀缺，往往难以获取足够的有效数据。另一方面，医疗影像的标注需要大量富有经验的放射科医生，具有极高的人力成本，获取大规模标注样本难以实现。因此，如何利用少量的标注样本，得到一个尽可能好的深度学习模型，具有关键意义。

针对数据稀缺问题，采用数据扩增方法基于少量样本对训练数据进行扩增是一种行之有效的方法。现有方法主要从两个方面着手：(1)采用自然图片的扩增方式，对原始影像进行像素空间的简单几何变换(平移、缩放等)和图像属性变换(亮度、对比度等)，以获取更多的训练样本，但考虑到医学影像的特殊性，这些方法存在损失图像中包含的病灶信息的风险，取得的实际效果也有限；(2)训练深度生成网络或自编码器，如Wasserstein生成对抗网络(WGAN)、变分自编码器(VAE)等，通过引入随机变量，反复推理，随机生成相似的医疗影像，但这一方法实现过程非常复杂，相较于前者也仅仅有少许效果提升。

发明内容

本发明的目的是提出一种基于医疗影像数据扩增的疾病诊断模型训练方法，对已有的疾病诊断方法进行改进，基于少量样本，采用数据扩增方法，对训练数据进行扩增，通过短时高效的训练得到更为准确的疾病诊断模型，利用该模型提高疾病诊断的精度。

本发明提出的基于医疗影像数据扩增的疾病诊断模型训练方法，包括以下步骤：

(1)从医院或相关单位采集多个患者的医疗影像数据，其中第i位患者的医疗影像数据记为x_i，x_i为一个A×H×W的三维矩阵，A为影像数据的通道数，H和W分别为影像数据的高度和宽度，每个x_i与一个患病标签y_i相对应，y_i为一个取值在0和K之间的整数，由专业医生给出，用于标明患者所患何种疾病，其中K为待诊断的疾病种类数，0代表不患病，即y_i＝k代表患者患有第k种疾病,y_i＝0代表患者不患病；

(2)建立一个神经网络，该神经网络由多个函数层按照ResNet规则或DenseNet规则排列而成,设神经网络的参数为Θ，将步骤(1)的第i位患者的医疗影像数据x_i作为该神经网络的输入，神经网络中上一层的输出作为下一层的输入，直至最后一层，从神经网络输出一个特征f_i，记为

f_i＝g(x_i；Θ)

其中g为神经网络的传递函数,f_i为一个F×1的向量，F为特征f_i的维度数,由神经网络的结构决定；

(3)对0至K的每一类疾病，分别定义用于数据扩增的总体特征协方差矩阵∑_k和总体特征均值向量其中k为疾病类别序号，∑_k的维度为F×F,/>的维度为F×1，将∑_k初始化为单位矩阵，将/>初始化为零向量，F为步骤(2)中特征f_i的维度数；

(4)以标准正态分布对步骤(2)得到的神经网络参数Θ进行初始化，对神经网络参数Θ进行训练，以得到用于疾病诊断的神经网络，包括以下步骤：

(4-1)初始化时，设训练代数t＝0,并设定总训练代数E；

(4-2)随机从步骤(1)的医疗影像数据中取出B个数据，记为对应的患病标签为/>将B个医疗影像数据输入步骤(2)的神经网络，根据下式得到B个与医疗影像数据相对应的网络输出特征/>

其中g和Θ分别为步骤(2)中定义的神经网络传递函数和神经网络参数；

(4-3)根据步骤(4-2)得到的B个特征利用以下公式计算每个疾病类别的特征均值向量/>和特征协方差矩阵∑_k′:

其中上标T为矩阵转置操作,k为疾病类别序号,b＝1,2,…,B，为以以下形式定义的类别判别函数：

(4-4)利用下式，更新步骤(3)的总体特征协方差矩阵∑k和总体特征均值向量

其中，n为中含有的第k类疾病的患者数目，m为至目前为止以此法计算的第k类疾病的患者数目总数；

(4-5)分别对(4-2)得到的进行以下形式的线性运算，得到判别评分

其中，W是一个评分矩阵，W的维度为(K+1)×F，C是评分偏置向量，C的维度为(K+1)×1，的维度为(K+1)×1，K为步骤(1)中的疾病种类，F为步骤(2)中的特征维度数；

(4-6)利用以下数据扩增损失函数，得到数据扩增损失L：

其中，λ为设定的数据扩增系数，取值范围为0.5～1，w_k为评分矩阵w的第k行，c_k为评分偏置向量c的第k个元素,为第b个医疗影像数据/>对应的患病标签,为一个0至K之间的常数,/>和/>分别表示评分矩阵W的第/>行和评分偏置向量C的第/>个元素，上标T为转置运算；

(4-7)对数据扩增损失L进行反向求导，得到L对神经网络的参数Θ、评分矩阵W和评分偏置向量C的偏导数和/>以以下公式更新Θ、W和C：

η为学习率，由以下公式计算：

其中t和E为步骤(4-1)中定义的当前训练代数和总训练代数，cos代表余弦函数，η₀为初始学习率；

(4-8)令训练代数t＝t+1,对t进行判断，若t≤E，则返回(4-2)，若t>E，则得到与步骤(4-7)的参数Θ、评分矩阵W和评分偏置向量C相对应的用于疾病诊断的神经网络；

(5)将待诊断患者的医疗影像输入步骤(4-8)的用于疾病诊断的神经网络中，得到对应的特征/>对特征/>进行如下运算，得到判别评分/>

其中，W和C分别为步骤(4-8)得到的评分矩阵和评分偏置向量，将与中数值最大的元素相对应的序号/>作为疾病种类或不患病的诊断结果，/>为0至K中的一个数值，实现基于医疗影像数据扩增的疾病诊断。

本发明提出的基于医疗影像数据扩增的疾病诊断模型训练方法，其特点和优点是：

本发明的基于医疗影像数据扩增的疾病诊断模型训练方法，针对已有的基于医疗影像数据的自动化疾病诊断技术中存在的缺点，例如已有技术必须依赖于大量的有标注患者数据来训练深度神经网络，然而医疗影像数据的标注需要大量富有经验的放射科医生，消耗较长时间完成，具有较高的时间成本和经济成本。本发明方法首先在将原始影像数据映射到深度特征空间中，提取具有高度线性化的语义信息的特征；其次，根据医疗影像中对应不同类别的数据在特征空间中的分布，获得用于数据扩增的特征协方差矩阵；最终，计算数据扩增损失函数，通过不断优化该损失，获得特征提取能力更强的模型。该数据扩增方法仅在训练模型时使用，在使用模型对医疗影像数据预测时不会引入更多的计算量与计算时间。本发明方法对固定的医疗影像数据进行有效的扩充，显著地降低了深度神经网络的训练对于标注患者数据的数量要求，从而有效缓解了医疗影像数据获取困难、标注成本高的问题；此外，对训练样本进行数据扩增，使得神经网络模型在训练的过程中可以接受更多信息，可以有效提升所取得的疾病诊断模型的预测精度、鲁棒性和预测稳定性，有效提升疾病诊断的效果；最后，针对医疗影响的特点，本发明采用语义数据扩增的方法，一方面降低了损失图像有效病灶信息的风险，可以获得更可靠的预测模型，另一方面加速了收敛速度，使训练过程更为高效。

本发明方法中利用了训练样本数据扩增的方式，使得深度神经网络在训练过程中可以接收更多的信息，增强深度神经网络的鲁棒性，进而显著提高所获得的疾病诊断模型的诊断精度和预测稳定性。本发明方法采取语义数据扩增的方式，有效解决了传统基于图像的数据扩增方法存在的，可能破坏病灶信息的问题；另一方面也避免了传统方法反复输入大量增强后的医疗影像数据、模型收敛慢且计算开销大的问题，极大加快了收敛速度，使得训练过程可以短时高效完成。

具体实施方式

本发明提出的基于医疗影像数据扩增的疾病诊断模型训练方法，包括以下步骤：

从医院或相关单位采集多个患者的医疗影像数据，其中第i位患者的医疗影像数据记为x_i，x_i为一个A×H×W的三维矩阵，A为影像数据的通道数，H和W分别为影像数据的高度和宽度，每个x_i与一个患病标签y_i相对应，y_i为一个取值在0和K之间的整数，由专业医生给出，用于标明患者所患何种疾病，其中K为待诊断的疾病种类数，0代表不患病，即y_i＝k代表患者患有第k种疾病,y_i＝0代表患者不患病；

(2)建立一个神经网络，该神经网络由多个函数层按照ResNet规则或DenseNet规则排列而成,设神经网络的参数为Θ，将步骤(1)的第i位患者的医疗影像数据x_i作为该神经网络的输入，神经网络中上一层的输出作为下一层的输入，直至最后一层，从神经网络输出一个特征f_i，记为

f_i＝g(x_i；Θ)

其中g为神经网络的传递函数,f_i为一个F×1的向量，F为特征f_i的维度数,由神经网络的结构决定；

(3)对0至K的每一类疾病，分别定义用于数据扩增的总体特征协方差矩阵∑_k和总体特征均值向量其中k为疾病类别序号，∑_k的维度为F×F,/>的维度为F×1，将∑_k初始化为单位矩阵，将/>初始化为零向量，F为步骤(2)中特征f_i的维度数；

(4)以标准正态分布对步骤(2)得到的神经网络参数Θ进行初始化，对神经网络参数Θ进行训练，以得到用于疾病诊断的神经网络，包括以下步骤：

(4-1)初始化时，设训练代数t＝0,并设定总训练代数E；

(4-2)随机从步骤(1)的医疗影像数据中取出B个数据，记为对应的患病标签为/>将B个医疗影像数据输入步骤(2)的神经网络，根据下式得到B个与医疗影像数据相对应的网络输出特征/>

其中g和Θ分别为步骤(2)中定义的神经网络传递函数和神经网络参数；

(4-3)根据步骤(4-2)得到的B个特征利用以下公式计算每个疾病类别的特征均值向量/>和特征协方差矩阵∑_k′:

其中上标T为矩阵转置操作,k为疾病类别序号,b＝1,2,…,B，为以以下形式定义的类别判别函数：

(4-4)利用下式，更新步骤(3)的总体特征协方差矩阵∑k和总体特征均值向量

其中，n为中含有的第k类疾病的患者数目，m为至目前为止以此法计算的第k类疾病的患者数目总数；

(4-5)分别对(4-2)得到的进行以下形式的线性运算，得到判别评分

其中，W是一个评分矩阵，W的维度为(K+1)×F，C是评分偏置向量，C的维度为(K+1)×1，的维度为(K+1)×1，K为步骤(1)中的疾病种类，F为步骤(2)中的特征维度数；

(4-6)利用以下数据扩增损失函数，得到数据扩增损失L：

其中，λ为设定的数据扩增系数，取值范围为0.5～1，w_k为评分矩阵w的第k行，c_k为评分偏置向量c的第k个元素,为第b个医疗影像数据/>对应的患病标签,为一个0至K之间的常数,/>和/>分别表示评分矩阵W的第/>行和评分偏置向量C的第/>个元素，上标T为转置运算；

(4-7)对数据扩增损失L进行反向求导，得到L对神经网络的参数Θ、评分矩阵W和评分偏置向量C的偏导数和/>以以下公式更新Θ、W和C：

η为学习率，由以下公式计算：

其中t和E为步骤(4-1)中定义的当前训练代数和总训练代数，cos代表余弦函数，η₀为初始学习率；

(4-8)令训练代数t＝t+1,对t进行判断，若t≤E，则返回(4-2)，若t>E，则得到与步骤(4-7)的参数Θ、评分矩阵W和评分偏置向量C相对应的用于疾病诊断的神经网络；

(5)将待诊断患者的医疗影像输入步骤(4-8)的用于疾病诊断的神经网络中，得到对应的特征/>对特征/>进行如下运算，得到判别评分/>

其中，W和C分别为步骤(4-8)得到的评分矩阵和评分偏置向量，将与中数值最大的元素相对应的序号/>作为疾病种类或不患病的诊断结果，/>为0至K中的一个数值，实现基于医疗影像数据扩增的疾病诊断。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (1)

1.一种基于医疗影像数据扩增的疾病诊断模型训练方法，其特征在于，包括以下步骤：

(1)从医院或相关单位采集多个患者的医疗影像数据，其中第i位患者的医疗影像数据记为x_i，x_i为一个A×H×W的三维矩阵，A为影像数据的通道数，H和W分别为影像数据的高度和宽度，每个x_i与一个患病标签y_i相对应，y_i为一个取值在0和K之间的整数，由专业医生给出，用于标明患者所患何种疾病，其中K为待诊断的疾病种类数，0代表不患病，即y_i＝k代表患者患有第k种疾病,y_i＝0代表患者不患病；

(2)建立一个神经网络，该神经网络由多个函数层按照ResNet规则或DenseNet规则排列而成,设神经网络的参数为Θ，将步骤(1)的第i位患者的医疗影像数据x_i作为该神经网络的输入，神经网络中上一层的输出作为下一层的输入，直至最后一层，从神经网络输出一个特征f_i，记为f_i＝g(x_i；Θ)

其中g为神经网络的传递函数,f_i为一个F×1的向量，F为特征f_i的维度数,由神经网络的结构决定；

(3)对0至K的每一类疾病，分别定义用于数据扩增的总体特征协方差矩阵∑_k和总体特征均值向量其中k为疾病类别序号，∑_k的维度为F×F,/>的维度为F×1，将∑_k初始化为单位矩阵，将/>初始化为零向量，F为步骤(2)中特征f_i的维度数；

(4)以标准正态分布对步骤(2)得到的神经网络参数Θ进行初始化，对神经网络参数Θ进行训练，以得到用于疾病诊断的神经网络，包括以下步骤：

(4-1)初始化时，设训练代数t＝0,并设定总训练代数E；

(4-2)随机从步骤(1)的医疗影像数据中取出B个数据，记为对应的患病标签为/>将B个医疗影像数据输入步骤(2)的神经网络，根据下式得到B个与医疗影像数据相对应的网络输出特征/>

其中g和Θ分别为步骤(2)中定义的神经网络传递函数和神经网络参数；

(4-3)根据步骤(4-2)得到的B个特征利用以下公式计算每个疾病类别的特征均值向量/>和特征协方差矩阵∑_k′:

其中上标T为矩阵转置操作,k为疾病类别序号,b＝1,2,…,B，为以以下形式定义的类别判别函数：

(4-4)利用下式，更新步骤(3)的总体特征协方差矩阵∑k和总体特征均值向量

其中，n为中含有的第k类疾病的患者数目，m为至目前为止以此法计算的第k类疾病的患者数目总数；

(4-5)分别对(4-2)得到的进行以下形式的线性运算，得到判别评分

其中，W是一个评分矩阵，W的维度为(K+1)×F，C是评分偏置向量，C的维度为(K+1)×1，的维度为(K+1)×1，K为步骤(1)中的疾病种类，F为步骤(2)中的特征维度数；

(4-6)利用以下数据扩增损失函数，得到数据扩增损失L：

其中，λ为设定的数据扩增系数，取值范围为0.5～1，w_k为评分矩阵w的第k行，c_k为评分偏置向量c的第k个元素,为第b个医疗影像数据/>对应的患病标签,为一个0至K之间的常数,/>和/>分别表示评分矩阵W的第/>行和评分偏置向量C的第/>个元素，上标T为转置运算；

(4-7)对数据扩增损失L进行反向求导，得到L对神经网络的参数Θ、评分矩阵W和评分偏置向量C的偏导数和/>以以下公式更新Θ、W和C：

η为学习率，由以下公式计算：

其中t和E为步骤(4-1)中定义的当前训练代数和总训练代数，cos代表余弦函数，η₀为初始学习率；

(4-8)令训练代数t＝t+1,对t进行判断，若t≤E，则返回(4-2)，若t>E，则得到与步骤(4-7)的参数Θ、评分矩阵W和评分偏置向量C相对应的用于疾病诊断的神经网络；

(5)将待诊断患者的医疗影像输入步骤(4-8)的用于疾病诊断的神经网络中，得到对应的特征/>对特征/>进行如下运算，得到判别评分/>

其中，W和C分别为步骤(4-8)得到的评分矩阵和评分偏置向量，将与中数值最大的元素相对应的序号/>作为疾病种类或不患病的诊断结果，/>为0至K中的一个数值，实现基于医疗影像数据扩增的疾病诊断。