CN110084790B - 用于影像学肺炎判别的仿生模式识别改进方法 - Google Patents

Abstract

本发明公开了用于影像学肺炎判别的仿生模式识别改进方法，包括健康X光片、病毒型肺炎X光片和细菌型肺炎X光片，将三类X光片图像归一化为同样大小的实验图像；将健康X光片图像归一化后的实验图像I输入卷积神经网络中提取图像特征向量，卷积神经网络包括卷积层、池化层和全连接层，所述图像特征向量的提取方法包括：步骤A：实验图像I与一个卷积核进行卷积，其结果经过激活函数后输出形成卷积层的特征图01；特征图01与下个卷积核进行卷积，其结果经过激活函数后输出形成卷积层的特征图02；特征图02作为输入图像进入池化层。

Description

用于影像学肺炎判别的仿生模式识别改进方法

技术领域

本发明属于图像识别领域，涉及用于影像学肺炎判别的仿生模式识别改进方法。

背景技术

人工智能在许多行业实现了许多创新，提高的不仅仅是工作效率，还有准确率。就医疗领域而言，人工智能在临床诊断问题上实现了应用，但人工智能应用到医学影像学领域的起步较迟，其原因在于用于医学影像诊断的人工智能须依靠人主观建立数学模型。支持向量机分类器减少弥漫性肺病区域疾病模式的HRCT分类中的内部扫描变异：与贝叶斯分类器的比较，提出了一种基于支持向量机与贝叶斯的算法，利用22个定量特征对肺炎进行判断，但是其在不同机器产生的图像效果不同，准确率不太稳定。改进的可控小波用在三维CT中肺组织的纹理分析：常见间质性肺炎的分类，提出了一种基于小波的3D-CT图像特征提取，但其对数据集要求过高。基于胸部X光片进行深度学习的放射学专家级肺炎诊断，是斯坦福大学在2017年设计了一个名为CheXNet，用于判断胸腔部分的14种疾病，包括肺炎，虽然其识别率高95％，但其并未对肺炎的种类进行细分。

肺炎类型的判别对其治疗有重要意义，传统利用计算机进行辅助判别，通常使用支持向量机的方法，但是当数据增加时，则精度下降严重。

发明内容

本发明的目的在于：提供了用于影像学肺炎判别的仿生模式识别改进方法，解决了上述问题。

本发明采用的技术方案如下：

用于影像学肺炎判别的仿生模式识别改进方法，包括健康X光片、病毒型肺炎X光片和细菌型肺炎X光片，将三类X光片图像归一化为同样大小的实验图像；

将健康X光片图像归一化后的实验图像I输入卷积神经网络中提取图像特征向量，卷积神经网络包括卷积层、池化层和全连接层，所述图像特征向量的提取方法包括：

步骤A：实验图像I与一个卷积核进行卷积，其结果经过激活函数后输出形成卷积层的特征图01；特征图01与下个卷积核进行卷积，其结果经过激活函数后输出形成卷积层的特征图02；特征图02作为输入图像进入池化层；

其中特征图01和特征图02的提取方式，均通过公式(1)计算可得：

其中，l代表层数，k_ij核函数表示的是权重参数，M_j代表输入特征图的集合，i表示第i层，j表示第j个输入的X光片；每个输出图有一个偏置值b，f(·)为激活函数；

池化层将步骤A中的特征图02作为输入图像，通过公式(2)计算最大池化特征图03；

其中，down(·)表示下采样函数，

是下采样对应的“权重”；

池化层的输入图像源于上一个卷积层，主要起增强鲁棒性的作用，同时减少了参数的数量，也一定程度地防止过拟合现象的发生。特征图经过池化层之后个数不会发生改变，但是特征图会变小。

步骤B：

重复步骤A，将特征图03经过两次卷积后再次进入池化层得到最大池化特征图03MAX；发送最大池化特征图03MAX到全连接层；

步骤C：

全连接层的输入源为最大池化特征图03MAX，转化为卷积核为h×w的全局卷积，h和w分别为前层结果的高和宽,即本层共用了N个h×w×n大小的卷积核对前层结果进行卷积，并输出了N维图像特征向量；n代表前层池化层输出特征图的个数，N代表全连接层输出的维数。

将从卷积神经网络中提取的图像特征向量作为高维空间中的点，输入基于仿生模式识别的分类网络进行训练；所述分类网络进行训练包括以下步骤：

步骤D1：

设健康X光片的所有构网样本点集合为A＝{a₁，a₂，…，a_N}，N为该类样本点总数；

步骤D2：

将集合A中所有样本输入卷积神经网络中，得到N个该类X光图片的256维特征向量，计算所有点两两之间的欧式距离；找出欧式距离最小的两个点、记为B_A1、B_A2；这两个点构成的第一个一维线段记作θ_A1；用一个超香肠神经元对这个线段进行覆盖；其覆盖范围如式(3)(4)所示。

θ_A1＝{Y|Y＝αB_A1+(1-α)B_A2，α∈[0，1]} (4)

其中，

表示点X到空间θ_A1的距离，P_A1则为所构造的几何形体；

步骤D3：

已经构造好的几何形体P_A1，判断剩余各点是否被其覆盖；若在P_A1覆盖范围内的，则排除；而对于在P_A1范围外的点，按步骤D2的方法找出离B_A2最近的点，记作、B_A3，B_A2与B_A3此时便构成了第二个一维线段，记作θ_A2，同样的，也用一个超香肠神经元来覆盖此线段，其覆盖范围如式(5)(6)所示；

θ_A2＝{Y|Y＝αB_A2+(1-α)B_A3，α∈[0，1]} (6)

其中

表示点X到空间θ_A2的距离，P_A2则为所构造的几何形体；

不断重复步骤D3，直至处理完所有样本点，此时共产生了m个超香肠神经元，则该类A的覆盖范围便是全部m个神经元的覆盖范围，如式(7)所示：

将病毒型肺炎X光片和细菌型肺炎X光片分别重复上述全部步骤，可得到三类X光片所对应的覆盖范围。

本发明为了解决传统问题，设计的改进仿生模式识别的肺炎判别算法主要有两部分：第一，利用改进的卷积神经网络模型对肺炎图像进行特征提取；第二，添加基于仿生模式识别的分类网络进行训练，进而得到分类网络。

所述卷积神经网络(CNN)是一种深度神经网络，常用于对视觉图像进行分析。卷积神经网络是由生物过程所引导[6]，其神经元之间的连接模式类似于动物的视觉皮层中的组织。单个皮层神经元在被称为感受野的视野的受限区域中，对刺激作出反应。不同神经元的感受野部分互相叠加，使得它们覆盖整个视野。目前而言，卷积神经网络是由卷积层、池化层、和全连接层交叉堆叠而成的前馈神经网络，其使用反向传播算法进行训练。在结构上，卷积神经网络有三个特性：局部连接、权重共享和子采样。得益于此，卷积神经网络有一定程度上的平移、缩放和旋转不变性。在CNN的典型架构通常使用多项逻辑回归进行分类。然而，这种方式性能不理想。有研究表明如果在CNN后面添加了一个表现良好的分类器(如支持向量机)，分类精度将在一定程度上得到提高。与单独使用CNN或SVM相比，由CNN和SVM结合的模型展现出了更高的准确率

所述仿生模式识别(BPR)，它基于“物质认知”而不是“物质分类”。这种模式识别更接近人类的认知功能.而BPR与传统的模式识别相比，显著的不同在于以“最优划分”为主要原则.在BPR中，“认知”一类事物对于分析和“认知”由同一类的所有样本组成的无限点集的形状是必不可少的。

如图1所示，是二维平面中，仿生模式识别与传统模式识别方法所形成的样本子空间的对照示意图。图中的圆形代表要识别的样本，正方形与三角形代表其他两类样本，折现为传统的BP网络模式识别划分的方式，而大圆则代表RBF网络模式识别划分的方式，其中，椭圆所练成图形则代表了仿生模式识别的划分

进一步，所述步骤D1中：在多维空间Rⁿ中，设A类所有样本点形成的集合为A，任取两个样本X，Y∈A且X≠Y，对于任意的ε＞0，则一定存在集合B满足，如式(8)所示。

其中，ρ(X_M，X_M+1)表示样本X_M，X_M+1间的欧式距离，Y表示多权值向量神经元。

仿生模式识别旨在对特征空间中一类样本分布的进行最佳覆盖。对于各类X光片，仿生模式识别都将对其进行最佳覆盖。“高维空间复杂几何形体覆盖识别方法”为样本点的分布提供了先验知识，因此可以将分析特征空间训练样本点间的关系作为基点，研究特征空间中某类样本的分布状况，进而对其进行合理的覆盖，从而来“认识”某类样本。多维空间仿生信息学认为:可用的信息都包含在训练集。但通常样本分布是不规则的，要形成的覆盖形状也是非常复杂的。因此用来形成覆盖的方法必须能够在特征空间中形成一个高维空间的连续复杂的几何形体来覆盖样本。在本文构造的神经网络中，样本已经由X光片经由前文构建的卷积神经网络转换为了特征向量。

进一步，所述多权值向量神经元的通用表达式如式(9)所示。

其中，w₁，w₂，w₃，…，w_m为m个权向量，X为输入向量，

为计算函数，f为非线性转移函数，θ为多权值神经元激活阈值。

对于训练集中的X光片所生成特征向量就可以利用多权值向量神经元进行构造。多权值向量神经元在特定的计算函数

下可以形成一个封闭的曲面，因此可以使用多权值向量神经元进行仿生模式识别的神经网络构造，

进一步；在影像学肺炎判别中，多权值向量神经元采用超香肠神经元，其表达式如式(10)(11)(12)所示。

其中，

表示由n维空间中两点w₁、w₂确定的有限一维线段，

表示在n维空间中X到

的欧式距离；

判别函数f如式(13)所示。

进一步；步骤D2中，设特征空间是n维实数空间Rⁿ，即X∈Rⁿ，向量函数方程如式(14)所示。

此时，可视为由w₁，w₂，w₃，…，w_m在特征空间Rⁿ中构成的某种轨迹，该轨迹位于Rⁿ中n-1维空间，若该轨迹为一个封闭的曲面，则就在Rⁿ中形成了一个有限的覆盖区域^[7]。若改变神经元权值，则会得到具有不同形状的超曲面.故对于某类A，存在一个覆盖区域，该区域为该类所有样本共同覆盖。

进一步；实验图像采用128px×128px。

综上所述，由于采用了上述技术方案，本发明的有益效果是：

1.本发明中，首先使用卷积神经网络作为图像特征的提取器，使得机器无需人工进行特征提取，同时利用基于仿生模式识别的分类网络作为分类器，增加了分类的准确率。

2.本发明所设计的方法平均准确率达90％。本文所设计方法不仅仅只是局限于肺炎判别，亦可迁移到其他图像识别领域。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图，其中：

图1是本发明仿生模式识别与传统模式识别方法对照示意图；

图2是本发明改进的仿生模式识别过程图；

图3是本发明图1网络示意图；

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明，即所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，术语“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

用于影像学肺炎判别的仿生模式识别改进方法，包括健康X光片、病毒型肺炎X光片和细菌型肺炎X光片，将三类X光片图像归一化为同样大小的实验图像；

将健康X光片图像归一化后的实验图像I输入卷积神经网络中提取图像特征向量，卷积神经网络包括卷积层、池化层和全连接层，所述图像特征向量的提取方法包括：

步骤A：实验图像I与一个卷积核进行卷积，其结果经过激活函数后输出形成卷积层的特征图01；特征图01与下个卷积核进行卷积，其结果经过激活函数后输出形成卷积层的特征图02；特征图02作为输入图像进入池化层；

其中特征图01和特征图02的提取方式，均通过公式(1)计算可得：

其中，l代表层数，k_ij核函数表示的是权重参数，M_j代表输入特征图的集合，i表示第i层，j表示第j个输入的X光片；每个输出图有一个偏置值b，f(·)为激活函数；

池化层将步骤A中的特征图02作为输入图像，通过公式(2)计算最大池化特征图03；

其中，down(·)表示下采样函数，

是下采样对应的“权重”；

池化层的输入图像源于上一个卷积层，主要起增强鲁棒性的作用，同时减少了参数的数量，也一定程度地防止过拟合现象的发生。特征图经过池化层之后个数不会发生改变，但是特征图会变小。

步骤B：

重复步骤A，将特征图03经过两次卷积后再次进入池化层得到最大池化特征图03MAX；发送最大池化特征图03MAX到全连接层；

步骤C：

全连接层的输入源为最大池化特征图03MAX，转化为卷积核为h×w的全局卷积，h和w分别为前层结果的高和宽,即本层共用了N个h×w×n大小的卷积核对前层结果进行卷积，并输出了N维图像特征向量；n代表前层池化层输出特征图的个数，N代表全连接层输出的维数；

将从卷积神经网络中提取的图像特征向量作为高维空间中的点，输入基于仿生模式识别的分类网络进行训练；所述分类网络进行训练包括以下步骤：

步骤D1：

设健康X光片的所有构网样本点集合为A＝{a₁，a₂，…，a_N}，N为该类样本点总数；

步骤D2：

将集合A中所有样本输入卷积神经网络中，得到N个该类X光图片的256维特征向量，计算所有点两两之间的欧式距离；找出欧式距离最小的两个点、记为B_A1、B_A2；这两个点构成的第一个一维线段记作θ_A1；用一个超香肠神经元对这个线段进行覆盖；其覆盖范围如式(3)(4)所示。

θ_A1＝{Y|Y＝αB_A1+(1-α)B_A2，α∈[0，1]} (4)

其中，

表示点X到空间θ_A1的距离，P_A1则为所构造的几何形体；

步骤D3：

已经构造好的几何形体P_A1，判断剩余各点是否被其覆盖；若在P_A1覆盖范围内的，则排除；而对于在P_A1范围外的点，按步骤D2的方法找出离B_A2最近的点，记作、B_A3，B_A2与B_A3此时便构成了第二个一维线段，记作θ_A2，同样的，也用一个超香肠神经元来覆盖此线段，其覆盖范围如式(5)(6)所示；

θ_A2＝{Y|Y＝αB_A2+(1-α)B_A3，α∈[0，1]} (6)

其中

表示点X到空间θ_A2的距离，P_A2则为所构造的几何形体；

不断重复步骤D3，直至处理完所有样本点，此时共产生了m个超香肠神经元，则该类A的覆盖范围便是全部m个神经元的覆盖范围，如式(7)所示：

将病毒型肺炎X光片和细菌型肺炎X光片分别重复上述全部步骤，可得到三类X光片所对应的覆盖范围。

下面结合实施例对本发明的特征和性能作进一步的详细描述。

实施例一

根据图3的网络结构进行训练，将各类样本中的每一张图像输入到网络中进行训练与特征提取，最终形成网络模型，网络的具体参数如表1所示。其中R代表ReLU(线性整流函数)函数，M代表最大池化操作，D代表Dropout。

表1神经网络参数

通过本网络对原始图像进行卷积，在几次卷积的过程中，既保留了图像特征有减少了无效噪声，与传统特征提取相比较，所保留的特征更加客观、有效。

实施例二

本发明所构建的改进的仿生模式识别与传统的模式识别(本文选用SVM)均使用相同训练集、验证集与测试集，实验共有三组，每一组的所包含的图像数量均不同，A组包含图像1200个、B组包含图像2700个、C组包含图像5850个，但各组训练集、验证集与测试集的比例均为8:1:1。实验从对各类X光图像判断的正确率验证本文所提方案的有效性，最后错误分析识别产生的原因。

A组对比实验:

使用A组进行实验，结果如表2所示。

表2 A组改进仿生模式识别与SVM实验结果对比表

本次实验中，改进的仿生模式识别对于正常类与病毒型的识别准确率(下文简称识别率)相较于支持向量机算法低了1％，细菌型高了22％，整体均值高了10％。可见支持向量机虽然在正常与病毒型的X光图像上识别率高于本文所设计的方法，但是明显在对于细菌性识别是其短板，但本文所提方案各类X光图像的识别率较为高，故就实用性而言，本文所提方案略胜一筹。

B组对比实验

使用B组对比实验的结果如表3所示。

表3 B组改进仿生模式识别与SVM实验结果对比表

在本组实验中，即数据量稍有增大时，改进的仿生模式识别对于正常类X光图像相较于支持向量机高了1％，病毒型基本无差，细菌型高了16％，整体均值高了6％。相较于A组实验，两种算法的对于各类X光片的识别效率均有浮动，其中支持向量机对于细菌型的精度上升尤为明显。两种算法其他类别精度下降的原因在于原始图像存在未去除噪声。

C组对比实验

使用C组对比实验的结果如表4所示。

表4 C组改进仿生模式识别与SVM实验结果对比表

本组实验，即训练数据较多时，改进的放生模式识别对于正常类的识别率较支持向量机高了19％，病毒型高了5％，细菌型高了4％，平均高了10％。可见即使在数据量较大时，改进的仿生模式识别的平均表现水平依旧高于支持向量机，噪声对其影像也小于支持向量机。

总的说来，上述三组实验(A、B、C)，使用了三组数量呈梯度上升的数据集，实验结果揭示了改进的仿生模式识别和支持向量机在数据从少到多的情况下，其对各类X光图像的识别情况。A组对比实验至B组对比实验改进的仿生模式识别的平均识别率，基本不变保持在92％，于此同时支持向量机的平均识别率由82％上升到了86％，上升了4％；B组对比实验至C组对比实验，改进的仿生模式识别的平均识别率随着样本训练样本数量的增江下降了4％，达到88％，支持向量机的平均识别率下降了8％达到78％。可见噪声对本文所提出构建的改进的仿生模式识别的影响小于其对传统模式识别的影像。在本文所采用的数据集上，对三种类别的影像判别优于传统的模式识别，在一定情况下改善了肺炎判别的性能。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明的保护范围，任何熟悉本领域的技术人员在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (6)

1.用于影像学肺炎判别的仿生模式识别改进方法，其特征在于：包括健康X光片、病毒型肺炎X光片和细菌型肺炎X光片，将三类X光片图像归一化为同样大小的实验图像；

将健康X光片图像归一化后的实验图像I输入卷积神经网络中提取图像特征向量，卷积神经网络包括卷积层、池化层和全连接层，所述图像特征向量的提取方法包括：

步骤A：

实验图像I与一个卷积核进行卷积，其结果经过激活函数后输出形成卷积层的特征图01；特征图01与下个卷积核进行卷积，其结果经过激活函数后输出形成卷积层的特征图02；特征图02作为输入图像进入池化层；

其中特征图01和特征图02的提取方式，均通过公式(1)计算可得：

其中，l代表层数，k_ij核函数表示的是权重参数，M_j代表输入特征图的集合，i表示第i层，j表示第j个输入的X光片；每个输出图有一个偏置值b，f(·)为激活函数；

池化层将步骤A中的特征图02作为输入图像，通过公式(2)计算最大池化特征图03；

其中，down(·)表示下采样函数，

是下采样对应的“权重”；

步骤B：

重复步骤A，将特征图03经过两次卷积后再次进入池化层得到最大池化特征图03MAX；发送最大池化特征图03MAX到全连接层；

步骤C：

全连接层的输入源为最大池化特征图03MAX，转化为卷积核为h×w的全局卷积，h和w分别为前层结果的高和宽,即本层共用了N个h×w×n大小的卷积核对前层结果进行卷积，并输出了N维图像特征向量；

将从卷积神经网络中提取的图像特征向量作为高维空间中的点，输入基于仿生模式识别的分类网络进行训练；所述分类网络进行训练包括以下步骤：

步骤D1：

设健康X光片的所有构网样本点集合为A＝{a₁，a₂，…，a_N}，N为该类样本点总数；

步骤D2：

将集合A中所有样本输入卷积神经网络中，得到N个该类X光图片的256维特征向量，计算所有点两两之间的欧式距离；找出欧式距离最小的两个点，记为B_A1、B_A2；这两个点构成的第一个一维线段记作θ_A1；用一个超香肠神经元对这个线段进行覆盖；其覆盖范围如式(3)、(4)所示；

θ_A1＝{Y|Y＝αB_A1+(1-α)B_A2，α∈[0，1]} (4)

其中，

表示点X到空间θ_A1的距离，P_A1则为所构造的几何形体；

步骤D3：

已经构造好的几何形体P_A1，判断剩余各点是否被其覆盖；若在P_A1覆盖范围内的，则排除；而对于在P_A1范围外的点，按步骤D2的方法找出离B_A2最近的点，记作B_A3，B_A2与B_A3此时便构成了第二个一维线段，记作θ_A2，同样的，也用一个超香肠神经元来覆盖此线段，其覆盖范围如式(5)、(6)所示；

θ_A2＝{Y|Y＝αB_A2+(1-α)B_A3，α∈[0，1]} (6)

其中

表示点X到空间θ_A2的距离，P_A2则为所构造的几何形体；

不断重复步骤D3，直至处理完所有样本点，此时共产生了m个超香肠神经元，则该类A的覆盖范围便是全部m个神经元的覆盖范围，如式(7)所示：

将病毒型肺炎X光片和细菌型肺炎X光片分别重复上述全部步骤，可得到三类X光片所对应的覆盖范围。

2.根据权利要求1所述的用于影像学肺炎判别的仿生模式识别改进方法，其特征在于：所述步骤D1中：在多维空间Rⁿ中，设A类所有样本点形成的集合为A，任取两个样本X，Y∈A且X≠Y，对于任意的ε＞0，则一定存在集合B满足，如式(8)所示；

其中，ρ(X_M，X_M+1)表示样本X_M，X_M+1间的欧式距离，Y表示多权值向量神经元。

3.根据权利要求2所述的用于影像学肺炎判别的仿生模式识别改进方法，其特征在于：所述多权值向量神经元的通用表达式如式(9)所示；

其中，w₁，w₂，w₃，…，w_m为m个权向量，X为输入向量，

为计算函数，f为非线性转移函数，θ为多权值神经元激活阈值。

4.根据权利要求3所述的用于影像学肺炎判别的仿生模式识别改进方法，其特征在于：多权值向量神经元采用超香肠神经元，其表达式如式(10)、(11)、(12)所示；

其中，

表示由n维空间中两点w₁、w₂确定的有限一维线段，

表示在n维空间中X到

的欧式距离；

判别函数f如式(13)所示；

5.根据权利要求1所述的用于影像学肺炎判别的仿生模式识别改进方法，其特征在于：步骤D2中，设特征空间是n维实数空间Rⁿ，即X∈Rⁿ，向量函数方程如式(14)所示；

此时，可视为由w₁，w₂，w₃，…，w_m在特征空间Rⁿ中构成的某种轨迹，该轨迹位于Rⁿ中n-1维空间，若该轨迹为一个封闭的曲面，则就在Rⁿ中形成了一个有限的覆盖区域；若改变神经元权值，则会得到具有不同形状的超曲面；故对于某类A，存在一个覆盖区域，该区域为该类所有样本共同覆盖。

6.根据权利要求1所述的用于影像学肺炎判别的仿生模式识别改进方法，其特征在于实验图像采用128px×128px。

Images