CN110838114B - 肺结节检测方法、装置及计算机存储介质 - Google Patents

肺结节检测方法、装置及计算机存储介质 Download PDF

Info

Publication number
CN110838114B
CN110838114B CN201911095432.4A CN201911095432A CN110838114B CN 110838114 B CN110838114 B CN 110838114B CN 201911095432 A CN201911095432 A CN 201911095432A CN 110838114 B CN110838114 B CN 110838114B
Authority
CN
China
Prior art keywords
lung nodule
region
lung
image
candidate region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911095432.4A
Other languages
English (en)
Other versions
CN110838114A (zh
Inventor
张贺晔
张国庆
吕旭东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Suzhou Ruiyi Instrument Technology Co ltd
Original Assignee
Suzhou Ruiyi Instrument Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Suzhou Ruiyi Instrument Technology Co ltd filed Critical Suzhou Ruiyi Instrument Technology Co ltd
Priority to CN201911095432.4A priority Critical patent/CN110838114B/zh
Publication of CN110838114A publication Critical patent/CN110838114A/zh
Application granted granted Critical
Publication of CN110838114B publication Critical patent/CN110838114B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10104Positron emission tomography [PET]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30061Lung
    • G06T2207/30064Lung nodule
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • G06V2201/032Recognition of patterns in medical or anatomical images of protuberances, polyps nodules, etc.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Biology (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Analysis (AREA)

Abstract

本申请公开了一种肺结节检测方法、装置及计算机存储介质。该方法包括:基于Faster R‑CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测以确定出CT图像中的第一候选肺结节区域和PET图像中的第二候选肺结节区域;基于卷积神经网络模型对第一候选肺结节区域和第二候选肺结节区域进行假阳性区域识别以确定出第一候选肺结节区域中的第一肺结节区域和第二候选肺结节区域中的第二肺结节区域;获取第一肺结节区域的形状特征和第二肺结节区域的代谢特征并且利用SVM分类器根据形状特征和代谢特征对第一肺结节区域和第二肺结节区域进行分类以确定出CT图像和PET图像中的最终肺结节区域。通过利用本申请公开的技术方案,可以提高医生诊断结果的准确性。

Description

肺结节检测方法、装置及计算机存储介质
技术领域
本申请涉及医学图像数据处理技术领域,特别涉及一种肺结节检测方法、装置及计算机存储介质。
背景技术
本部分的描述仅提供与本申请公开相关的背景信息,而不构成现有技术。
肺癌是发病率和死亡率增长最快的恶性肿瘤之一,已对人群健康和生命造成了极大的威胁。相对于其他癌症,肺癌的生物学特性十分复杂,早期多无明显症状,大多数被发现时已是中晚期,治疗费用高昂且效果不佳。因此,早期筛查显得至关重要。肺癌早期一般表现为肺部恶性肺结节,因此,早期筛查一般从肺结节的检测入手。
肺结节的检测早期都是以电子计算机断层扫描(CT)扫描为主,近几年,正电子发射断层成像(PET)也被用作癌症的筛查工具。PET是反映病变的基因、分子、代谢及功能状态的显像设备。其利用带正电子的放射性核素标记人体化合物或代谢物,如葡萄糖、蛋白质、核酸、脂肪酸、受体的配体及水等人体代谢物,经注射到受检者体内后,正电子核素伴随被标记物体参与人体组织器官在生理病理过程中的细胞代谢活动,而重新聚集分布,然后,用PET这种体外探测神器进行采集,从而得到人体代谢活动分子水平的信息,为临床提供疾病的生物代谢信息。
PET/CT一体机,即正电子发射断层成像及电子计算机断层扫描***,将PET和CT有机整合,将二者的优势互补。利用该***对病人快速全身扫描一次,可以同时获得CT解剖图像和PET功能代谢图像,通过这两种图像可以将病灶的生物代谢信息以及精准的解剖定位和结构同时呈现在医生面前,从而让医生对疾病的判断更早、更快。因此,PET与CT的结合可以给医生早期发现肺癌提供很大的帮助。
然而,随之而来的是大量的PET/CT图像,大大地增加了医生的工作量。而且,肺结节变化多样、大小和形状不一,如果仅凭医生肉眼观察,则比较容易出现漏诊和误诊的情况。
发明内容
本申请实施例的目的是提供一种肺结节检测方法、装置及计算机存储介质,以解决现有技术中存在的至少一种问题。
为了解决上述技术问题,本申请实施例提供了一种肺结节检测方法,该肺结节检测方法可以包括:
基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测,以确定出所述CT图像中的第一候选肺结节区域和所述PET图像中的第二候选肺结节区域;
基于卷积神经网络模型对所述第一候选肺结节区域和所述第二候选肺结节区域进行假阳性区域识别,以确定出所述第一候选肺结节区域中的第一肺结节区域和所述第二候选肺结节区域中的第二肺结节区域;
获取所述第一肺结节区域的形状特征和所述第二肺结节区域的代谢特征,并且利用SVM分类器根据所述形状特征和所述代谢特征对所述第一肺结节区域和所述第二肺结节区域进行分类,以确定出所述CT图像和所述PET图像中的最终肺结节区域。
可选地,基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测的步骤包括:
利用特征提取网络提取出所述CT图像和所述PET图像中的肺结节特征;
利用区域建议网络根据所提取的所述肺结节特征确定出所述CT图像和所述PET图像中的多个潜在肺结节区域;
利用分类回归网络对确定出的所述多个潜在肺结节区域进行分类并利用损失函数进行边框回归,以确定出所述多个潜在肺结节区域中的所述第一候选肺结节区域和所述第二候选肺结节区域。
可选地,利用特征提取网络提取出所述CT图像和所述PET图像中的肺结节特征的步骤包括:
利用包含多层卷积层的VGG-16对所述CT图像和所述PET图像进行卷积处理以得到卷积特征图;
利用反卷积层对所得到的所述卷积特征图进行反卷积处理以提取出所述肺结节特征。
可选地,所述肺结节特征包括所述CT图像中的形状特征和所述PET图像中的代谢特征。
可选地,在利用分类回归网络对确定出的所述多个潜在肺结节区域进行分类并利用损失函数进行边框回归之前,所述方法还包括:
利用感兴趣池化层对所述多个潜在肺结节区域进行池化处理,以使所述多个潜在肺结节区域的大小相同。
可选地,所述第一候选肺结节区域包括CT轴向图像的肺结节区域和CT矢状图像的肺结节区域,所述第二候选肺结节区域包括所述PET图像的初始肺结节区域。
可选地,基于卷积神经网络模型对所述第一候选肺结节区域和所述第二候选肺结节区域进行假阳性区域识别的步骤包括:
利用卷积层对所述第一候选肺结节区域和所述第二候选肺结节区域进行特征提取;
利用池化层对特征提取后的所述第一候选肺结节区域和所述第二候选肺结节区域进行池化处理;
利用全连接层对所述池化层处理后的所述第一候选肺结节区域和所述第二候选肺结节区域进行全连接处理以得到肺结节区域的判断概率,并且根据所得到的所述判断概率确定出所述第一肺结节区域和所述第二肺结节区域。
本申请实施例还提供了一种肺结节检测装置,该肺结节检测装置可以包括:
初步检测单元,其被配置为基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测,以确定出所述CT图像中的第一候选肺结节区域和所述PET图像中的第二候选肺结节区域;
识别单元,其被配置为基于卷积神经网络模型对所述第一候选肺结节区域和所述第二候选肺结节区域进行假阳性区域识别,以确定出所述第一候选肺结节区域中的第一肺结节区域和所述第二候选肺结节区域中的第二肺结节区域;
确定单元,其被配置为获取所述第一肺结节区域的形状特征和所述第二肺结节区域的代谢特征,并且利用SVM分类器根据所述形状特征和所述代谢特征对所述第一肺结节区域和所述第二肺结节区域进行分类,以确定出所述CT图像和所述PET图像中的最终肺结节区域。
可选地,所述初步检测单元包括:
特征提取子单元,其被配置为利用特征提取网络提取出所述CT图像和所述PET图像中的肺结节特征;
确定子单元,其被配置为利用区域建议网络根据所提取的所述肺结节特征确定出所述CT图像和所述PET图像中的多个潜在肺结节区域;
分类回归子单元,其被配置为利用分类回归网络对确定出的所述多个潜在肺结节区域进行分类并利用损失函数进行边框回归,以确定出所述多个潜在肺结节区域中的所述第一候选肺结节区域和所述第二候选肺结节区域。
本申请实施例还提供了一种计算机存储介质,该计算机存储介质上存储有程序指令,所述程序指令被执行时实现以下功能:
基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测以确定出所述CT图像中的第一候选肺结节区域和所述PET图像中的第二候选肺结节区域;
基于卷积神经网络模型对所述第一候选肺结节区域和所述第二候选肺结节区域进行假阳性区域识别以确定出所述第一候选肺结节区域中的第一肺结节区域和所述第二候选肺结节区域中的第二肺结节区域;
获取所述第一肺结节区域的形状特征和所述第二肺结节区域的代谢特征,并且利用SVM分类器根据所述形状特征和所述代谢特征对所述第一肺结节区域和所述第二肺结节区域进行分类以确定出所述CT图像和所述PET图像中的最终肺结节区域。
由以上本申请实施例提供的技术方案可见,本申请实施例基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测以确定出CT图像中的第一候选肺结节区域和PET图像中的第二候选肺结节区域;基于卷积神经网络模型对第一候选肺结节区域和第二候选肺结节区域进行假阳性区域识别以确定第一候选肺结节区域中的第一肺结节区域和第二候选肺结节区域中的第二肺结节区域;以及利用SVM分类器根据所获取的第一肺结节区域的形状特征和第二肺结节区域的代谢特征对第一肺结节区域和第二肺结节区域进行分类以确定出CT图像和PET图像中的最终肺结节区域,可以大大缩短医生的阅片时间,并且可以提高其诊断结果的准确性。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种肺结节检测方法的流程图;
图2是Faster R-CNN模型的结构示意图;
图3是本申请实施例提供的肺结节检测方法的应用实例的效果图;
图4是本申请实施例提供的一种肺结节检测装置的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是用于解释说明本申请的一部分实施例,而不是全部的实施例,并不希望限制本申请的范围或权利要求书。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其它实施例,都应当属于本申请保护的范围。
需要说明的是,当元件被称为“设置在”另一个元件上,它可以直接设置在另一个元件上或者也可以存在居中的元件。当元件被称为“连接/联接”至另一个元件,它可以是直接连接/联接至另一个元件或者可能同时存在居中元件。本文所使用的术语“连接/联接”可以包括电气和/或机械物理连接/联接。本文所使用的术语“包括/包含”指特征、步骤或元件的存在,但并不排除一个或更多个其它特征、步骤或元件的存在或添加。本文所使用的术语“和/或”包括一个或多个相关所列项目的任意的和所有的组合。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述具体实施例的目的,而并不是旨在限制本申请。
另外,在本申请的描述中,术语“第一”、“第二”、“第三”等仅用于描述目的和区别类似的对象,两者之间并不存在先后顺序,也不能理解为指示或暗示相对重要性。
下面结合附图对本申请实施例提供的肺结节检测方法、装置及计算机存储介质进行详细的描述。
如图1所示,本申请实施例提供了一种肺结节检测方法,其可以包括以下步骤:
S1:基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步肺结节检测,以确定出CT图像中的第一候选肺结节区域和PET图像中的第二候选肺结节区域。
CT图像和PET图像可以是利用PET/CT一体机对生命体(例如,人)的肺部进行扫描而获得的图像。其中,CT图像主要体现的是受检者的解剖特征,而PET图像主要体现的是受检者的功能代谢特征。
如图2所示,Faster R-CNN模型是一种用于目标检测的神经网络模型,一般可以包括特征提取网络、区域建议网络(RPN)和分类回归网络。其中,特征提取网络可以用于提取CT图像和PET图像中的肺结节特征,并且可以包括多层卷积层,例如,包含多层卷积层的VGG-16(即,深度为16的网络)。其中,每层卷积层利用上一层卷积层输出的网络信息来生成抽象描述,例如,第一层卷积层可以用于学习所输入图像的边缘信息,第二层卷积层可以用于学习边缘中的图案信息,以学习更复杂的形状等信息。另外,特征提取网络还可以包括与最后一层卷积层连接的反卷积层,这可以提高肺结节检测结果的准确性。该反卷积层的核大小、步幅大小、填充大小以及核数量可以分别为4、4、4和512。区域建议网络可以用于根据特征提取网络提取出的形状特征和代谢特征而确定出CT图像和PET图像中的多个潜在肺结节区域。分类回归网络可以用于对区域建议网络确定出的多个潜在肺结节区域进行分类并利用损失函数进行边框回归,从而确定出这些潜在肺结节区域中的候选肺结节区域,同时,分类回归网络还可以对这些候选肺结节区域的位置进行微调。另外,Faster R-CNN模型还可以包括感兴趣(RoI)池化层,其可以用于在对潜在肺结节区域进行分类回归之前对多个潜在肺结节区域进行池化操作,以使多个潜在肺结节区域的大小相同。
在获取目标肺部的CT图像和PET图像之后,可以基于Faster R-CNN模型对所获取的这两个图像进行初步肺结节检测以确定出CT图像中的第一候选肺结节区域和PET图像中的第二候选肺结节区域。具体地:
首先,在接收到CT图像和PET图像之后,可以利用特征提取网络提取出这两个图像中的肺结节特征,例如,CT图像中的形状特征(例如,肺结节的体积、表面区域以及在不同维度平面(例如,XY、YZ和XZ)上的截面区域、轮廓像素以及CT值等)和PET图像中的代谢特征(例如,肺结节的标准化摄取值(SUV)、体积、表面区域、在不同维度平面上的截面区域等)。具体地,可以利用包含5层卷积层的VGG-16对CT图像和PET图像进行卷积计算,以获得比所接收的CT图像和PET图像更深但空间分辨率更小的卷积特征图,然后可以利用反卷积层对所得到的卷积特征图进行反卷积计算,以提取出CT图像和PET图像中的肺结节特征。通过利用反卷积层将卷积特征图映射到原图空间,可以减少背景因素对提取候选肺结节的影响,从而可以提高检测结果的准确性。
然后,在提取出CT图像和PET图像中的肺结节特征之后,可以利用区域建议网络根据所提取的肺结节特征而确定出CT图像和PET图像中的多个潜在肺结节区域。具体地,RPN可以利用所有的边界框或锚(Anchors)确定一系列良好的目标候选区域(proposals),然后可以根据所确定的目标候选区域的坐标和其对应的目标置信度得分确定出CT图像和PET图像中的多个潜在肺结节区域,这些潜在肺结节区域可以包括没有置信度得分的区域和疑似肺结节区域。所述目标置信度得分可以通过利用全连接层来得到。
最后,可以利用分类回归网络对确定出的多个潜在肺结节区域进行分类并利用损失函数进行边框回归,从而确定出这些潜在肺结节区域中的第一候选肺结节区域和第二候选肺结节区域。具体地,首先,可以对多个潜在肺结节区域的卷积特征图进行裁剪,然后可以利用双线性插值算法将每个裁剪区域缩放到固定尺寸(例如,14x14);接着可以利用卷积核(例如,其大小为2x2)进行最大池化以得到每个潜在肺结节区域的特征图;接下来,可以从所得到的特征图中提取特征来对多个潜在肺结节区域进行分类,该分类可以包括肺结节目标类别和背景类别,最后,可以利用损失函数进行边框回归预测,以得到这两个类别所在区域的中心坐标及其宽度和高度,从而确定出第一候选肺结节区域和第二候选肺结节区域。其中,第一候选肺结节区域可以包括CT轴向图像(即,沿平行于地平面的横断面方向对受检者进行扫描所得到的CT图像,也可以称为CT横断面扫描图像)的肺结节区域和CT矢状图像(即,沿前后方向对受检者进行扫描所得到的CT图像)的肺结节区域,第二候选肺结节区域可以包括PET图像中可能存在肺结节的初始肺结节区域。
另外,如有需要,在确定出多个潜在肺结节区域中的第一候选肺结节区域和第二候选肺结节区域之前,还可以利用RoI池化层对这些潜在肺结节区域进行池化处理,以使这些潜在肺结节区域的大小相同。
S2:基于卷积神经网络模型对第一候选肺结节区域和第二候选肺结节区域进行假阳性区域识别,以确定出第一候选肺结节区域中的第一肺结节区域和第二候选肺结节区域中的第二肺结节区域。
由于环境、操作和/或患者自身等因素,可能会造成所拍摄的CT和PET图像中出现假阳性区域。例如,对于肺结节而言,假阳性区域主要出现在肺中的狭窄支气管和血管处。假阳性区域的出现可能会影响最终诊断结果,所以为了提高诊断结果的准确性,需要剔除第一候选肺结节区域和第二候选肺结节区域中的假阳性区域。
卷积神经网络模型一般可以包括相互连接的卷积层、池化层以及全连接层,例如,可以包括三个卷积层、三个池化层和两个全连接层。其中,卷积层可以包括多个滤波器和卷积核,全连接层可以包括多层感知器。
在确定出CT图像中的第一候选肺结节区域和PET图像中的第二候选肺结节区域之后,可以基于卷积神经网络模型对第一候选肺结节区域和第二候选肺结节区域进行假阳性区域识别,以确定第一候选肺结节区域中的第一肺结节区域和第二候选肺结节区域中的第二肺结节区域。具体地,可以利用卷积层对第一候选肺结节区域和第二候选肺结节区域进行特征提取;然后,可以利用池化层对特征提取后的第一候选肺结节区域和第二候选肺结节区域进行重叠采样,从而实现对第一候选肺结节区域和第二候选肺结节区域的特征选择和信息过滤;接着,可以利用全连接层对池化层处理后的第一候选肺结节区域和第二候选肺结节区域进行全连接处理,以得到肺结节区域的判断概率,从而可以根据所得到的判断概率确定出第一候选肺结节区域中的第一肺结节区域和第二候选肺结节区域中的第二肺结节区域,也即,剔除第一候选肺结节区域和第二候选肺结节区域中的非肺结节区域。
例如,针对所输入的CT图像和PET图像为32x32像素(宽x高)的3通道彩色图像,卷积层可以使用32个滤波器和5x5x3的内核进行特征提取,最终可以得到32x32x32像素的特征映射矩阵;池化层对特征映射矩阵进行池化处理,将其减小到16x16x32,最终输出的矩阵大小为8*8*64;全连接层可以使用softmax回归对池化层输出的矩阵进行分类,即将第一候选肺结节区域和第二候选肺结节区域分类为肺结节区域和非肺结节区域,并且输出这两个区域的判断概率,从而可以根据所输出的判断概率确定出第一候选肺结节区域中的第一肺结节区域和第二候选肺结节区域中的第二肺结节区域。
S3:获取第一肺结节区域的形状特征和第二肺结节区域的代谢特征,并且利用SVM分类器根据所获取的形状特征和代谢特征对第一肺结节区域和第二肺结节区域进行分类,以确定出CT图像和PET图像中的最终肺结节区域。
支持向量机(SVM)分类器是一种二类分类模型,其基本模型定义为特征空间上的间隔最大的线性分类器。
在确定出第一候选肺结节区域中的第一肺结节区域和第二候选肺结节区域中的第二肺结节区域之后,可以从CT图像中获取第一候选肺结节区域的形状特征,例如,第一候选肺结节区域的体积、表面区域、在三个平面(例如,XY、XZ和YZ)上的截面区域、融合、轮廓像素、以及CT值(第一候选肺结节区域的最大值、中心值、标准差)等,同时也可以从PET图像中获取第二候选肺结节区域的代谢特征,例如,第二候选肺结节区域中心的标准化摄取值(SUV)、第二候选肺结节区域中的SUV的最大值和平均值、第二候选肺结节区域的体积、表面区域以及在三个平面上的截面区域等。然后,SVM分类器可以根据所获取的形状特征和代谢特征对第一肺结节区域和第二肺结节区域进行分类。具体地,SVM分类器可以对第一肺结节区域的形状特征和第二肺结节区域中的代谢特征进行训练,并且结合一些特征的变化(例如,对于PET图像中的第二肺结节区域,通常可以在对应的CT图像中观察到其形状变化,而CT图像中的第一肺结节区域,如果在对应的PET图像中没有高吸收区域,则可以将第二肺结节区域中的许多特征设定为0),实现对第一肺结节区域和第二肺结节区域的分类,从而确定出最终的肺结节区域。
关于SVM分类器如何对所输入的特征进行分类的具体过程,可以参照现有技术中的相关描述,在此不再赘叙。
通过观察PET图像和CT图像中的最终肺结节区域,医生可以快速地作出其诊断结果。
通过上述描述可以看出,本申请实施例通过基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测,以确定出CT图像中的第一候选肺结节区域和PET图像中的第二候选肺结节区域;基于卷积神经网络模型对第一候选肺结节区域和第二候选肺结节区域进行假阳性区域识别,以确定出第一候选肺结节区域中的第一肺结节区域和第二候选肺结节区域中的第二肺结节区域;以及获取第一肺结节区域的形状特征和第二肺结节区域的代谢特征并且利用SVM分类器根据所获取的形状特征和代谢特征对第一肺结节区域和第二肺结节区域进行分类,以确定出CT图像和PET图像中的最终肺结节区域,这可以大大缩短医生的阅片时间,并且提高其诊断结果的准确性。
下面以具体实例来说明本申请实施例提供的肺结节检测方法的有益效果。如图3(a)-3(d)所示,其中,图3(a)和图3(b)分别是原始的PET图像和CT图像;图3(c)和图3(d)分别是经过本申请实施例提供的肺结节检测方法处理后输出的PET图像和CT图像,其中的区域A和B是肺结节区域。从这几幅图可以看出,CT图像下未检测出的肺结节区域在PET图像下检测出来,PET图像不明显的肺结节区域在CT图像下明显检测出来。由此可见,本申请实施例提供的肺结节检测方法可以达到辅助医生对肺结节的诊断的作用,减少了漏诊或误诊,提高了诊断效率。
本申请实施例还提供了一种肺结节检测装置,如图4所示,该肺结节检测装置可以包括:
初步检测单元310,其可以被配置为基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测,以确定出CT图像中的第一候选肺结节区域和PET图像中的第二候选肺结节区域;
识别单元320,其可以被配置为基于卷积神经网络模型对第一候选肺结节区域和第二候选肺结节区域进行假阳性区域识别,以确定出第一候选肺结节区域中的第一肺结节区域和第二候选肺结节区域中的第二肺结节区域;以及
确定单元330,其可以被配置为获取第一肺结节区域的形状特征和第二肺结节区域的代谢特征,并且利用SVM分类器根据所获取的形状特征和代谢特征对第一肺结节区域和第二肺结节区域进行分类,以确定出CT图像和PET图像中的最终肺结节区域。
在一实施例中,初步检测单元310可以包括(图中未示出):特征提取子单元,其可以被配置为利用特征提取网络提取出CT图像和PET图像中的肺结节特征;确定子单元,其可以被配置为利用区域建议网络根据所提取的肺结节特征确定出CT图像和PET图像中的多个潜在肺结节区域;分类回归子单元,其被配置为利用分类回归网络对确定出的多个潜在肺结节区域进行分类并利用损失函数进行边框回归,以确定出多个潜在肺结节区域中的第一候选肺结节区域和所述第二候选肺结节区域。
关于初步检测单元310、识别单元320和分类单元330的具体描述,可以参照上面方法实施例中对步骤S1至S3的描述,在此不再赘叙。
该装置可以是服务器、电子设备等,也可以是能够基于神经网络进行数据处理的任意装置,在此并不限制。另外,需要说明的是,上述装置中各单元所实现的功能也可以由计算机中的处理器根据存储器中所存储的程序指令来执行。
本申请实施例还提供了一种计算机存储介质,该计算机存储介质上存储有程序指令,该程序指令被执行时可以实现以下功能:基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测,以确定出CT图像中的第一候选肺结节区域和PET图像中的第二候选肺结节区域;基于卷积神经网络模型对第一候选肺结节区域和第二候选肺结节区域进行假阳性区域识别,以确定出第一候选肺结节区域中的第一肺结节区域和第二候选肺结节区域中的第二肺结节区域;获取第一肺结节区域的形状特征和第二肺结节区域的代谢特征,并且利用SVM分类器根据所获取的形状特征和代谢特征对第一肺结节区域和第二肺结节区域进行分类,以确定出CT图像和PET图像中的最终肺结节区域。
上述程序指令可以由处理器执行,也可以由其他处理装置执行。
上述实施例阐明的装置、单元等,具体可以由计算机芯片和/或实体实现,或者由具有某种功能的产品来实现。为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个计算机芯片中实现。
虽然本申请提供了如上述实施例或流程图所述的方法操作步骤,但基于常规或者无需创造性的劳动在所述方法中可以包括更多或者更少的操作步骤。在逻辑性上不存在必要因果关系的步骤中,这些步骤的执行顺序不限于本申请实施例提供的执行顺序。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其它实施例的不同之处。
上述实施例是为便于该技术领域的普通技术人员能够理解和使用本申请而描述的。熟悉本领域技术的人员显然可以容易地对这些实施例做出各种修改,并把在此说明的一般原理应用到其它实施例中而不必经过创造性的劳动。因此,本申请不限于上述实施例,本领域技术人员根据本申请的揭示,不脱离本申请范畴所做出的改进和修改都应该在本申请的保护范围之内。

Claims (9)

1.一种肺结节检测方法,其特征在于,所述肺结节检测方法包括:
基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测,以确定出所述CT图像中的第一候选肺结节区域和所述PET图像中的第二候选肺结节区域;
基于卷积神经网络模型对所述第一候选肺结节区域和所述第二候选肺结节区域进行假阳性区域识别,以确定出所述第一候选肺结节区域中的第一肺结节区域和所述第二候选肺结节区域中的第二肺结节区域,具体包括:利用卷积层对所述第一候选肺结节区域和所述第二候选肺结节区域进行特征提取;利用池化层对特征提取后的所述第一候选肺结节区域和所述第二候选肺结节区域进行池化处理;利用全连接层对所述池化层处理后的所述第一候选肺结节区域和所述第二候选肺结节区域进行全连接处理以得到肺结节区域的判断概率,并且根据所得到的所述判断概率确定出所述第一肺结节区域和所述第二肺结节区域;
获取所述第一肺结节区域的形状特征和所述第二肺结节区域的代谢特征,并且利用SVM分类器根据所述形状特征和所述代谢特征对所述第一肺结节区域和所述第二肺结节区域进行分类,以确定出所述CT图像和所述PET图像中的最终肺结节区域,所述代谢特征包括肺结节的标准化摄取值、体积、表面区域或在不同维度平面上的截面区域。
2.根据权利要求1所述的方法,其特征在于,基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测的步骤包括:
利用特征提取网络提取出所述CT图像和所述PET图像中的肺结节特征;
利用区域建议网络根据所提取的所述肺结节特征确定出所述CT图像和所述PET图像中的多个潜在肺结节区域;
利用分类回归网络对确定出的所述多个潜在肺结节区域进行分类并利用损失函数进行边框回归,以确定出所述多个潜在肺结节区域中的所述第一候选肺结节区域和所述第二候选肺结节区域。
3.根据权利要求2所述的方法,其特征在于,利用特征提取网络提取出所述CT图像和所述PET图像中的肺结节特征的步骤包括:
利用包含多层卷积层的VGG-16对所述CT图像和所述PET图像进行卷积处理以得到卷积特征图;
利用反卷积层对所得到的所述卷积特征图进行反卷积处理以提取出所述肺结节特征。
4.根据权利要求3所述的方法,其特征在于,所述肺结节特征包括所述CT图像中的形状特征和所述PET图像中的代谢特征。
5.根据权利要求2所述的方法,其特征在于,在利用分类回归网络对确定出的所述多个潜在肺结节区域进行分类并利用损失函数进行边框回归之前,所述方法还包括:
利用感兴趣池化层对所述多个潜在肺结节区域进行池化处理,以使所述多个潜在肺结节区域的大小相同。
6.根据权利要求2或5所述的方法,其特征在于,所述第一候选肺结节区域包括CT轴向图像的肺结节区域和CT矢状图像的肺结节区域,所述第二候选肺结节区域包括所述PET图像的初始肺结节区域。
7.一种肺结节检测装置,其特征在于,所述肺结节检测装置包括:
初步检测单元,其被配置为基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测,以确定出所述CT图像中的第一候选肺结节区域和所述PET图像中的第二候选肺结节区域;
识别单元,其被配置为基于卷积神经网络模型对所述第一候选肺结节区域和所述第二候选肺结节区域进行假阳性区域识别,以确定出所述第一候选肺结节区域中的第一肺结节区域和所述第二候选肺结节区域中的第二肺结节区域,具体包括:利用卷积层对所述第一候选肺结节区域和所述第二候选肺结节区域进行特征提取;利用池化层对特征提取后的所述第一候选肺结节区域和所述第二候选肺结节区域进行池化处理;利用全连接层对所述池化层处理后的所述第一候选肺结节区域和所述第二候选肺结节区域进行全连接处理以得到肺结节区域的判断概率,并且根据所得到的所述判断概率确定出所述第一肺结节区域和所述第二肺结节区域;
确定单元,其被配置为获取所述第一肺结节区域的形状特征和所述第二肺结节区域的代谢特征,并且利用SVM分类器根据所述形状特征和所述代谢特征对所述第一肺结节区域和所述第二肺结节区域进行分类,以确定出所述CT图像和所述PET图像中的最终肺结节区域,所述代谢特征包括肺结节的标准化摄取值、体积、表面区域或在不同维度平面上的截面区域。
8.根据权利要求7所述的肺结节检测装置,其特征在于,所述初步检测单元包括:
特征提取子单元,其被配置为利用特征提取网络提取出所述CT图像和所述PET图像中的肺结节特征;
确定子单元,其被配置为利用区域建议网络根据所提取的所述肺结节特征确定出所述CT图像和所述PET图像中的多个潜在肺结节区域;
分类回归子单元,其被配置为利用分类回归网络对确定出的所述多个潜在肺结节区域进行分类并利用损失函数进行边框回归,以确定出所述多个潜在肺结节区域中的所述第一候选肺结节区域和所述第二候选肺结节区域。
9.一种计算机存储介质,其特征在于,所述计算机存储介质上存储有程序指令,所述程序指令被执行时实现以下功能:
基于Faster R-CNN模型对所获取的目标肺部的CT图像和PET图像进行初步结节检测,以确定出所述CT图像中的第一候选肺结节区域和所述PET图像中的第二候选肺结节区域;
基于卷积神经网络模型对所述第一候选肺结节区域和所述第二候选肺结节区域进行假阳性区域识别,以确定出所述第一候选肺结节区域中的第一肺结节区域和所述第二候选肺结节区域中的第二肺结节区域,具体包括:利用卷积层对所述第一候选肺结节区域和所述第二候选肺结节区域进行特征提取;利用池化层对特征提取后的所述第一候选肺结节区域和所述第二候选肺结节区域进行池化处理;利用全连接层对所述池化层处理后的所述第一候选肺结节区域和所述第二候选肺结节区域进行全连接处理以得到肺结节区域的判断概率,并且根据所得到的所述判断概率确定出所述第一肺结节区域和所述第二肺结节区域;
获取所述第一肺结节区域的形状特征和所述第二肺结节区域的代谢特征,并且利用SVM分类器根据所述形状特征和所述代谢特征对所述第一肺结节区域和所述第二肺结节区域进行分类,以确定出所述CT图像和所述PET图像中的最终肺结节区域,所述代谢特征包括肺结节的标准化摄取值、体积、表面区域或在不同维度平面上的截面区域。
CN201911095432.4A 2019-11-11 2019-11-11 肺结节检测方法、装置及计算机存储介质 Active CN110838114B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911095432.4A CN110838114B (zh) 2019-11-11 2019-11-11 肺结节检测方法、装置及计算机存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911095432.4A CN110838114B (zh) 2019-11-11 2019-11-11 肺结节检测方法、装置及计算机存储介质

Publications (2)

Publication Number Publication Date
CN110838114A CN110838114A (zh) 2020-02-25
CN110838114B true CN110838114B (zh) 2022-07-22

Family

ID=69574785

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911095432.4A Active CN110838114B (zh) 2019-11-11 2019-11-11 肺结节检测方法、装置及计算机存储介质

Country Status (1)

Country Link
CN (1) CN110838114B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110969622B (zh) * 2020-02-28 2020-07-24 南京安科医疗科技有限公司 用于辅助肺炎诊断的图像处理方法和***
CN111768845B (zh) * 2020-06-30 2023-08-11 重庆大学 一种基于最优多尺度感知的肺结节辅助检测方法
CN113077434B (zh) * 2021-03-30 2023-01-24 零氪智慧医疗科技(天津)有限公司 基于多模态信息的肺癌识别方法、装置及存储介质
CN113506289B (zh) * 2021-07-28 2024-03-29 中山仰视科技有限公司 一种利用双流网络进行肺结节假阳性分类的方法
CN113822861A (zh) * 2021-09-07 2021-12-21 中山大学中山眼科中心 一种眼表肿物的判断方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106530296A (zh) * 2016-11-07 2017-03-22 首都医科大学 一种基于pet/ct图像特征的肺部检测方法和装置
CN107230206A (zh) * 2017-06-02 2017-10-03 太原理工大学 一种基于多模态数据的超体素序列肺部图像的3d肺结节分割方法
CN108010021A (zh) * 2017-11-30 2018-05-08 上海联影医疗科技有限公司 一种医学图像处理***和方法
CN108986073A (zh) * 2018-06-04 2018-12-11 东南大学 一种基于改进的Faster R-CNN框架的CT图像肺结节检测方法
CN110223352A (zh) * 2019-06-14 2019-09-10 浙江明峰智能医疗科技有限公司 一种基于深度学习的医学图像扫描自动定位方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106530296A (zh) * 2016-11-07 2017-03-22 首都医科大学 一种基于pet/ct图像特征的肺部检测方法和装置
CN107230206A (zh) * 2017-06-02 2017-10-03 太原理工大学 一种基于多模态数据的超体素序列肺部图像的3d肺结节分割方法
CN108010021A (zh) * 2017-11-30 2018-05-08 上海联影医疗科技有限公司 一种医学图像处理***和方法
CN108986073A (zh) * 2018-06-04 2018-12-11 东南大学 一种基于改进的Faster R-CNN框架的CT图像肺结节检测方法
CN110223352A (zh) * 2019-06-14 2019-09-10 浙江明峰智能医疗科技有限公司 一种基于深度学习的医学图像扫描自动定位方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
多模态融合的深度学习脑肿瘤检测方法;姚红革 等;《光子学报》;20190731;第48卷(第7期);全文 *

Also Published As

Publication number Publication date
CN110838114A (zh) 2020-02-25

Similar Documents

Publication Publication Date Title
CN110838114B (zh) 肺结节检测方法、装置及计算机存储介质
Halder et al. Lung nodule detection from feature engineering to deep learning in thoracic CT images: a comprehensive review
JP5864542B2 (ja) 画像の異常を検出するための画像データの処理方法、システムおよびプログラム
EP1719080B1 (en) A system and method for toboggan based object segmentation using divergent gradient field response in images
Hussain et al. Cascaded regression neural nets for kidney localization and segmentation-free volume estimation
CN109493325A (zh) 基于ct影像的肿瘤异质性分析***
US20230005140A1 (en) Automated detection of tumors based on image processing
JP2006034585A (ja) 画像表示装置、画像表示方法およびそのプログラム
JP2018175217A (ja) 画像処理装置および方法並びにプログラム
WO2022110525A1 (zh) 一种癌变区域综合检测装置及方法
CN112862756A (zh) 识别甲状腺肿瘤病理图像中病变类型及基因突变的方法
Alaskar et al. Deep learning approaches for automatic localization in medical images
Peña-Solórzano et al. Findings from machine learning in clinical medical imaging applications–Lessons for translation to the forensic setting
Xiao et al. A cascade and heterogeneous neural network for CT pulmonary nodule detection and its evaluation on both phantom and patient data
Nurmaini et al. An improved semantic segmentation with region proposal network for cardiac defect interpretation
Almutairi et al. An Efficient USE‐Net Deep Learning Model for Cancer Detection
EP3381010A1 (en) Process for processing medical images of a face for recognition of facial dysmorphisms
Dulhare et al. Detection and classification of rheumatoid nodule using deep learning models
CN116129184A (zh) 多期相病灶分类方法、装置、设备及可读存储介质
Nguyen et al. Anomalies Detection in Chest X-Rays Images Using Faster R-CNN and YOLO.
Al-Saeed et al. Liver segmentation using fast-generalized fuzzy C-means (FG-FCM) from CT scans
CN112884759B (zh) 一种乳腺癌腋窝***转移状态的检测方法及相关装置
Sudha et al. A deep learning approach to identify and classify lung tumor from CT–Scans
Xu et al. Computer-aided detection of acinar shadows in chest radiographs
EP4356837A1 (en) Medical image diagnosis system, medical image diagnosis system evaluation method, and program

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant