CN108537773B - 针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法 - Google Patents

针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法 Download PDF

Info

Publication number
CN108537773B
CN108537773B CN201810141703.4A CN201810141703A CN108537773B CN 108537773 B CN108537773 B CN 108537773B CN 201810141703 A CN201810141703 A CN 201810141703A CN 108537773 B CN108537773 B CN 108537773B
Authority
CN
China
Prior art keywords
classification
image
fusion
pancreatic
basic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810141703.4A
Other languages
English (en)
Other versions
CN108537773A (zh
Inventor
杨晓冬
程超
左长京
张玉全
刘兆邦
孙高峰
潘桂霞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Suzhou Institute of Biomedical Engineering and Technology of CAS
Original Assignee
Suzhou Institute of Biomedical Engineering and Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Suzhou Institute of Biomedical Engineering and Technology of CAS filed Critical Suzhou Institute of Biomedical Engineering and Technology of CAS
Priority to CN201810141703.4A priority Critical patent/CN108537773B/zh
Publication of CN108537773A publication Critical patent/CN108537773A/zh
Application granted granted Critical
Publication of CN108537773B publication Critical patent/CN108537773B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2148Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Primary Health Care (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Epidemiology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

本发明公开了一种针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法,包括对胰腺医学影像数据进行读取和归一化操作,得到归一化图像;对归一化图像进行去噪、配准以及图像融合,得到多模态融合图像;在胰腺结构显示清晰的图像中选取感兴趣区并映射到其他图像上,同时将该感兴趣区保存为后续分类网络可识别的自然图像格式;根据所选取的感兴趣区,对多模态融合图像的特征进行提取、分类和融合,并针对融合后的特征建立基本分类网络模型;对各个基本分类网络的分类结果进行鉴别,获得最终的分类鉴别结果;本发明具有很强的普适性,既适用于临床实际,也可用于胰腺癌及胰腺炎领域的科学研究。

Description

针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法
技术领域
本发明涉及智能辅助诊断技术领域,具体涉及一种针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法。
背景技术
胰腺癌(pancreatic cancer,PC)是一种常见的消化***恶性肿瘤,在我国恶性肿瘤中,其发病率居第7位,死亡率居第6位,3年生存率不足5%。胰腺癌早期症状多不明显,当出现腹痛、黄疸、体重明显下降时往往已处晚期。在胰腺癌诊断方面,由于其临床表现与其他胰腺炎性疾病极为相似,例如慢性胰腺炎(chronic pancreatitis,CP),均有腹痛、消化不良、厌食、恶心、呕吐、体重减轻和梗阻性黄疸等表现,而且在常规影像学片子中与其他胰腺炎性疾病重叠较多,故术前明确诊断胰腺癌较为困难,尤其难以准确鉴别出胰腺癌与胰腺炎性疾病。
众所周知,影像学检查在胰腺病变的诊断中发挥着关键作用,但是影像学检查只能够提供最直观的图像,对其中信息的识取受限于检查的直接显示效果和影像医师的自身水平及经验,往往会因为人眼分辨能力以及人为疏忽等,不能充分利用影像图片所包含的更多信息,如对病变组织具有区分能力的超可视化底层特征,医生用传统的读片方式必然会漏读。因此,医生需要一种高级的辅助技术将各种检查信息综合起来,对多模态图像进行处理,以提高肿瘤、钙化、炎症或纤维化等病变的检出率,这就是智能辅助诊断技术 (CAD技术)。该技术可识别出人眼所不能识别的诊断信息,作为医生的第二双眼睛,提高了胰腺癌诊断的准确率,在胰腺癌的诊断过程中起着越来越重要的作用。
影像学检查包括多排计算机断层扫描、磁共振、超声、内镜超声(EUS)、 PET等,但这些检查技术均存在局限性,如:CT对直径<2cm的微小肿瘤和等密度病灶敏感性较差,且在胰头癌与慢性胰腺炎的鉴别诊断上存在不足,因为钙化灶的出现、胰管的扩张、局部肿物的出现、双管征、胰管堵塞、周围脂肪的浸润以及胰腺外周静脉的阻塞等现象在两种疾病中均可出现;对体内有金属异物如血管支架的患者无法进行MRI检查,且MRI对于胰腺病变的诊断价值尚有争议;超声对于有较多肠道气体及肥胖患者的腹膜后图像显示欠佳;EUS属于一种侵入式成像设备,会引起患者不适,且对于慢性胰腺炎与胰腺癌的鉴别,EUS的表现并不令人满意,特别是对于慢性胰腺炎伴发胰腺癌的患者,有报道指出22-36%的慢性胰腺炎被误诊为胰腺癌;PET从本质上来说是一种功能现象,反映特定的代谢过程,但炎症病灶尤其自身免疫性慢性胰腺炎,也会出现类似胰腺癌的18F FDG高摄取。
如上所述,基于上述检查技术的任何一项都无法对胰腺疾病作出准确判断,因此,基于影像组学的胰腺癌与胰腺炎智能辅助鉴别***及方法对临床研究具有很高的应用价值。本发明旨在对多种模态的医学图像的超可视化底层图像信息进行深入挖掘,根据对病灶具有区分能力的图像底层特征,通过医学影像实现对胰腺癌和胰腺炎性疾病的分类鉴别,同时本发明也可以应用于对胰腺癌与胰腺炎性疾病的科学研究领域。
目前国内外利用图像处理技术对胰腺疾病的智能辅助诊断主要集中在以下几个方面:
2001年,Norton I D等提出了一个自主学习的人工神经网络来分析EUS 图像并区分恶性肿瘤和胰腺炎。2008年,Das A等使用图像分析软件来对胰腺EUS图像进行纹理分析,经主成分分析(PCA)降维,建立了基于神经网络的胰腺癌预测模型。2013年,Zhu M等利用图像处理技术从胰腺EUS图像感兴趣区域提取纹理特征,然后利用类算法与顺序前进搜索算法(SFS)之间的距离对特征进行更好的组合,建立了支持向量机(SVM)预测模型。蔡哲元等于2008年便提出类似算法,使用类间距初次特征选择,利用顺序前进搜索算法进一步特征优化,此后,蔡哲元等又对纹理特征提取进行改进,选用基于 M带小波变换的多重分形维数特征,基于此建立的分类模型在运行时间与分类准确性上都优于先前提出的方法。硕士吴仪俊将模糊分类的计算机诊断结果与放射性粒子植入治疗相结合,对整个分类***进行扩展,不仅能识别胰腺癌与非癌,而且能进一步识别胰腺癌与胰腺炎。2015年,Zhu J等为了提高分类模型的性能,引入了一种新的病灶描述子——局部三元模式方差。
2016年,Hanania等利用灰度共生矩阵对导管内***状黏液性肿瘤的恶性程度进行分类。2016年,Chakraborty等基于增强CT图像利用纹理分析对使用新辅助化疗的胰腺导管腺癌患者进行生存预测,他们从病灶区域内提取了169个标准纹理特征,包括灰度共生矩阵、游程矩阵、局部二值模式、分形维数和一阶统计特征等,建立了基于朴素贝叶斯分类模型的预测模型。2017 年,Gazit等基于增强CT图像对导管内***状黏液性肿瘤与胰腺囊性肿瘤进行分类,他们手工设计了一个代表囊肿内固体成分的新特征,并结合255个标准纹理特征,建立了基于Ada-boost分类模型的分类模型。
1993年,Du-Yih Tsai等提出基于CT胰腺图像的细微异常检测方法。这是一种简单的级联滤波器检测方法,第一步引入灰度级对数运算的平方,提高低灰度级的边缘,然后将灰度级转移到删除的模糊区域,最后一步用对数运算来增强细节的轮廓。2013年,硕士赵超等基于胰腺CT图像提出了一种用于胰腺癌检测的量子遗传算法优化的支持向量机分类方法。
对上述研究进行分析可以发现,目前的胰腺疾病智能辅助鉴别***多存在以下不足:(1)需要对胰腺或者病灶区域进行精分割,这需要医生具有深厚的专业背景及丰富的临床经验,且耗时耗力,难免存在分割误差;(2)采用手工设计的方式进行特征提取,提取到的特征表征与泛化能力差,且需要研究人员对所要解决的问题领域进行深入的研究,以设计出适应性更好的特征;(3)上述研究均针对单一模态的影像进行研究,忽略了其他模态影像可能带来的性能提升。
发明内容
针对现有技术中存在的不足之处,本发明基于影像组学和深度学习,提供了一种针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法。
本发明提供了一种针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法,包括下述步骤:
1)对胰腺医学影像数据进行读取和归一化操作,得到归一化图像;
2)对归一化图像进行去噪、配准以及图像融合,得到多模态融合图像;
3)在胰腺结构显示清晰的图像中选取感兴趣区并映射到其他图像上,同时将该感兴趣区保存为后续分类网络可识别的自然图像格式;
4)根据所选取的感兴趣区,对多模态图像或者融合图像的特征进行提取、分类和融合,并针对融合后的特征建立基本分类网络模型;
5)对各个基本分类网络的分类结果进行鉴别,获得最终的分类鉴别结果。
优选的是,步骤1)中所述胰腺医学影像数据来源于PACS***和医学成像设备。
优选的是,步骤2)中所述图像融合采用像素级图像融合技术,包括空间域算法和变换域算法。
优选的是,步骤3)中所述感兴趣区为包含病灶处全部胰腺组织的矩形,所述自然图像格式为.png或.bmp。
优选的是,步骤4)中所述的特征提取、分类、融合以及建立基本分类网络模型的具体步骤如下:
1)对多模态融合图像构建专用深度金字塔卷积神经网络,该网络的结构为在全连接层之前使用一系列金字塔池化层,从而允许输入图像为任意尺寸;
2)将数据输入多模态融合图像专用深度金字塔卷积神经网络,提取由全连接层输出的特征,生成特征图;
3)基于双线性融合函数对上述特征进行融合,即将两个特征图的对应位置元素进行外积运算后求和,得到融合特征图,该融合特征图的通道数是原始特征图通道数的平方,表示为
Figure GDA0003516667120000041
其中,ybil表示融合特征图,xa和xb表示特征图,xa、xb∈RH×W×D,H、W、 D分别表示特征图的长度、宽度和通道数量,
Figure GDA0003516667120000042
4)采用卷积融合函数对融合特征图进行降维处理,得到降维的融合特征图,即将双线性融合函数的融合结果与滤波器f进行卷积运算,同时引入偏差值bias,从而实现降维,表示为
yconv=ybil*f+bias;
其中,yconv为卷积融合函数,f∈R1×1×2D×D,bias∈RD
5)根据降维的融合特征图训练一个分类模型,即建立基本分类网络模型,其中,所用分类方法为将弱分类模型组合形成强分类模型,或者训练一个核函数方法的支持向量机。
优选的是,步骤5)中所述的鉴别步骤如下:
1)通过训练数据对所建立的各基本分类网络模型进行训练,计算分类误差率;
2)根据分类误差率计算各基本分类网络模型的系数;
3)将各基本分类网络模型的类别标签统一,求各基本分类网络模型对待测实例在每一类别标签上的预测概率,去除偏离点后对剩余预测概率进行加权表决,并获得最终的分类鉴别结果。
优选的是,所述分类误差率的计算方法为:设基本分类网络模型共有M 个,记作Cm,m={1,2,…,M},训练数据集T={(y1,x1),(y2,x2),…, (yN,xN)},其中
Figure GDA0003516667120000051
yi∈Y={-1,+1},计算第m个分类模型在训练数据集上的分类误差率em,公式为
Figure GDA0003516667120000052
所述各基本分类网络模型的系数为αm,计算公式为
Figure GDA0003516667120000053
优选的是,所述各基本分类网络模型的类别标签统一于{-1,1},统一函数Am(x)为,
Figure GDA0003516667120000054
所述预测概率Pm的计算方法为,其中Label为类别标签,
Pm(Label=1)=(Am(x)+1)/2
Pm(Label=-1)=1-(Am(x)+1)/2。
优选的是,所述分类鉴别结果的获得方法如下,将M个基本分类网络模型的预测概率PLm表示为,
Figure GDA0003516667120000055
将任意一个基本分类网络模型的预测概率Pmmax表示为,
Pmmax=max[Pm(Label=1),Pm(Label=-1)],
计算PLm+Pmmax的结果并进行排序,去除最大值和最小值对应的基本分类网络模型,通过对剩余M-2个基本网络分类模型构建线性组合f(x)实现加权表决,进而得到最终分类鉴别结果C(x)=sign(f(x));
其中,线性组合
Figure GDA0003516667120000061
对本发明及其有益效果的阐述:(1)本发明涉及的智能辅助鉴别方法能以人工勾画矩形的形式选取感兴趣区域。由于胰腺不同于肺部、乳腺等其他人体部位,其某一区域发生病变经常会导致胰腺整体结构的变化,如胰头癌在引起胰头肿大的同时,亦常导致胰尾的萎缩,故本发明不同于其他疾病仅使用CAD***就能对病灶区域进行精分割,本发明将由经验丰富的放射科医生在胰腺结构显示清晰的单模或融合图像中选择出感兴趣区,该感兴趣区为包含将病灶包括在内的全部胰腺组织的矩形,该感兴趣区的构造比人工精分割更为简单,同时避免了不成熟的胰腺自动分割技术带来的不确定性;
(2)本发明中,最终鉴别结果来自于三个方面的特征:多模态图像各自的特征、多模态融合图像的特征、多模态图像的顶层融合特征。其中,多模态图像各自的特征可以提供不同成像设备采集到的不同人体特征;多模态融合图像的特征可以将不同模态的影像融合到一幅图像中,从而在特征提取与分类阶段,使不同模态的特征都可以共同训练;多模态图像的顶层融合特征是将不同模态影像已提取到的顶层特征融合到一起,再将其输入到分类模型,即利用不同模态影像的顶层特征组合训练一个强分类模型,更好地利用各模态影像的顶层特征;
(3)本发明提出了一种由分类结果融合得出最终鉴别结果的公式,该公式先去除分类离群结果,再对剩余分类结果进行加权表决得出最终鉴别结果,各分类网络结果的权值兼顾其在训练阶段的分类误差率与对实例分类的确信度;
(4)本发明中,将金字塔池化引入了特征提取网络,使得输入图像不必统一到相同尺寸,可以任意尺寸的形式输入分类网络,避免了有用信息的丢失与多余信息的引入;
(5)本发明具有很强的普适性,既可以在医生的选择下对多种模态的医学影像进行组合分析,也可以只针对某一种模态的医学影像进行分析,适用于临床实际,也可用于胰腺癌和胰腺炎性疾病领域的科学研究。
附图说明
图1为本发明所述的智能辅助鉴别方法的流程图;
其中,虚线流程为可选流程,即仅当采集了两种及两种以上模态影像时才可进行,否则只能进行实线流程,即针对某一单模影像进行分类鉴别;
图2为PET/CT图像融合方式示例;
图3为深度金字塔池化卷积神经网络构建示例;
其中,DCNN表示深度卷积神经网络。
具体实施方式
下面结合附图详细阐述胰腺癌医学影像的智能辅助鉴别方法,以令本领域技术人员参照说明书文字能够据以实施。
实施例1
本发明公开了一种针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法,具体步骤如下:
1)多模态影像的读取,以及进行灰度归一化操作;
2)图像预处理,对步骤1)得到的归一化图像进行去噪、配准等操作,获得质量提升的采样间距统一的多模态图像,进而进行图像融合;
3)根据步骤2)所得多模态图像及融合图像,由经验丰富的放射科医生在胰腺结构显示清晰的单模或融合图像中画一个矩形将感兴趣区包含进去,即选取矩形目标区域,并将此感兴趣区域映射到其他模态图像上去,将感兴趣区域保存为后续分类网络可识别的.png、.bmp等自然图像格式;
4)构建深度金字塔池化卷积神经网络,根据步骤3)获得的感兴趣区域,提取多模及融合图像特征并进行分类;同时利用上述网络提取到的多模特征进行特征融合,并针对融合后的特征进行建立分类模型;
5)对步骤4)中各个基本分类网络的分类结果进行鉴别,结合它们在训练阶段测试数据上的分类误差率及在具体实例上的表现,去除离群分类结果,对剩余分类结果进行加权表决,获得最终分类鉴别结果及其确信度。
其中,步骤1)是获取影像数据,并对其进行归一化操作;该影像数据的来源包括但不限于PACS***和医学成像设备,具体的医学成像设备包括但不限于CT扫描、PET/CT扫描、SPECT扫描、MRI、超声、X射线、血管造影片、荧光照片、显微照片或者其组合;对采集到的数据进行归一化操作,此归一化操作包括但不限于对医学图像灰度范围的切割及压缩等,以增强图像中的有用细节。
步骤2)是获得不同模态去噪且配准之后的图像,并进行图像融合,包括如下步骤:
S2-1、对步骤一得到的归一化图像进行去噪,去噪方法包括但不限于均值滤波、中值滤波、自适应中值滤波、频域滤波等,以及上述滤波方法的组合;
S2-2、进行图像配准,将空间分辨率低的图像配准到空间分辨率高的图像上去,获得统一的采样间距,例如,对于PET/CT扫描,采用简单的放缩变换将PET图像匹配到CT图像中去,配准方法包括但不限于基于特征和基于互信息的相关配准技术;
S2-3、将配准之后的图像进行融合,采用的像素级图像融合技术包括但不限于以逻辑滤波法、灰度加权平均法和对比调制法为主的空间域算法和以金字塔分解融合法和小波变换法为主的变换域算法,其通道数可根据输入模态数及深度卷积神经网络对输入层的需求等实际需求进行调整。
步骤3)是由医生在胰腺结构显示清晰的单模或融合图像中选择出感兴趣区,同时将该感兴趣区反映到其他模态的图像上,包括如下步骤:
S3-1、由经验丰富的放射科医生在多种模态图像及融合图像进行选择,选出胰腺结构显示最清晰的图像;
S3-2、放射科医生在步骤3-1中选择的图像中提取出感兴趣区,该感兴趣区为覆盖包含病灶的全部胰腺组织的矩形,该感兴趣区的构造比人工精分割更为简单,同时将该感兴趣区反映到其他模态的图像上,其中,胰腺边界与距离最近的感兴趣区矩形边界为5-10个像素;
S3-3、将各模态及融合图像中的感兴趣区域保存为后续分类网络可识别的.png、.bmp等自然图像格式。
步骤4)是构建各模态及融合图像的专用深度金字塔池化卷积神经网络分类模型,各网络均具有任意输入的特点,同时将上述分类模型提取到的多模态特征进行融合,对融合特征构建一个分类模型,具体包括如下步骤:
S4-1、针对各模态图像和融合图像构建各自的专用深度金字塔卷积神经网络分类模型,其网络结构均在全连接层之前使用一系列金字塔池化层,从而允许输入图像可以为任意尺寸,此外,网络还包括short connect结构、网中网等其他结构,以加快训练速度,提高性能,优化算法采用随机梯度下降、Adm、Nadam、Adagrad、Adadelta和RMSprop等方法,分类层以softmax 或线性SVM为激活函数,通过通过网格搜索等实验方法来调整网络的深度与宽度,使得各分类模型均能达到最高的准确率,即网络能最大限度地提取图像中具备区分能力的特征;
S4-2、将数据再次输入上述训练好的各模态图像专用深度金字塔卷积神经网络,提取分类层前一层(倒数第二层)全连接层输出的特征;
S4-3、首先基于双线性融合函数将上述各模态图像特征融合起来。双线性融合是将2个特征图对应的位置元素进行外积运算后求和,融合特征图的通道数是原始特征图通道数的平方,表示为
Figure GDA0003516667120000091
其中,xa和xb表示不同模态图像的特征图,ybil表示融合空间特征图;
xa、xb∈RH×W×D,H、W、D分别表示特征图的长度、宽度和通道数量,
Figure GDA0003516667120000092
Figure GDA0003516667120000093
S4-4、上述步骤得到的特征图存在维数过高的问题,本发明进一步采用卷积融合函数yconv=fconv(xa,xb)对融合特征图进行降维处理,将双线性融合函数的融合结果与滤波器f进行卷积运算,并且引入偏差值bias,从而实现降维,表示为
yconv=ybil*f+bias
其中,f∈R1×1×2D×D,bias∈RD。由此,多模态图像顶层特征被更好地融合在一起;
S4-5、根据S4-4获得的融合特征训练一个分类模型,并训练其达到最高准确率;可以选择的分类方法包括但不限于训练一个由弱分类模型组合形成的强分类模型,如Adaboost分类模型,随机森林分类模型等,或者训练一个核函数方法的支持向量机等。
步骤5)是对步骤4)中各个基本分类模型的分类结果进行鉴别,结合它们在训练阶段的分类误差率及在具体实例上的表现,去除离群分类结果,对剩余分类结果进行加权表决。包括如下步骤:
S5-1、计算各基本分类模型在训练阶段测试数据上分类结果的分类误差率,设基本分类模型共有M个,将它们记作Cm,m={1,2,…,M},训练数据集T={(y1,x1),(x2,y2),…,(xN,yN)},其中
Figure GDA0003516667120000101
yi∈Y={-1,+1},计算第m个分类模型在训练数据集上的分类误差率em
Figure GDA0003516667120000102
S5-2、计算基于分类误差率得到的M个分类模型的系数αm
Figure GDA0003516667120000103
S5-3,将不同分类模型类别标签统一,求得各分类模型对测试实例在每一类别标签上的预测概率,去除两个判决偏离点,计算剩余分类模型判别概率的加权和,得出最终诊断意见及确信度。
在一些实施示例中,在softmax预测完成后,将其类别标签统一到{-1, 1},并计算各类别标签上的预测概率;对于softmax,其输出值本身就是预测概率;对于SVM,Adaboost等分类模型,对于实例x,计算其预测概率具体方法为,将各基本分类网络模型的类别标签统一于{-1,1},统一函数Am(x) 为,
Figure GDA0003516667120000104
预测概率Pm的计算方法为,其中Label为类别标签,
Pm(Label=1)=(Am(x)+1)/2
Pm(Label=-1)=1-(Am(x)+1)/2。
分类鉴别结果的获得方法如下,将M个基本分类网络模型的预测概率PLm表示为,
Figure GDA0003516667120000111
将任意一个基本分类网络模型的预测概率Pmmax表示为,
Pmmax=max[Pm(Label=1),Pm(Label=-1)],
计算PLm+Pmmax的结果并进行排序,去除最大值和最小值对应的基本分类网络模型,对剩余M-2个基本网络分类模型构建线性组合,
Figure GDA0003516667120000112
得到最终分类鉴别结果C(x)=sign(f(x)),其中,线性组合f(x)实现M-2 个基本分类模型的加权表决,Cm(x)前的系数表示了第m个分类模型Cm(x)的重要程度,这里,所有系数之和为1,f(x)的符号决定实例x的类,f(x)的绝对值表示分类的准确度。
实施例2
图2中图像由上海市长海医院提供,是以PET/CT为例,说明图像融合过程。首先将配准后的PET图像a)与CT图像b)融合为一幅伪图c),再经过灰度变换将其变为灰度图像d),从而将两种模态的信息融合到一起,进行后续处理,亦可以直接对伪图直接进行后续处理,上述伪图的构建方式为以不同的HU值范围的CT图像作为伪图的两个通道,PET图像为第三通道。
实施例3
深度金字塔池化卷积神经网络构建示例,尽管各模态图像的深度金字塔池化卷积神经网络的具体网络结构各不相同,但都包括以下4个部分:
1)任意尺寸图像的输入,输入图像可经过去中心化、标准化、ZCA白化等处理,使得在训练时更容易收敛,加快训练过程;
2)深度卷积神经网络(DCNN)的构建,该神经网络包含卷积层、池化层、 BN层、short connect等,通过在网络深度、宽度、优化算法、激活函数、学习率等方面进行调优,使得其具有最佳的特征提取能力;
3)金字塔池化层,通过引入金字塔池化层,使得2)中卷积神经网络生成的不同尺寸的特征图可以统一到相同尺寸的全连接层,也因此,使得此网络可以对不同尺寸的输入图像进行处理;
4)分类层,对从输入图像中采集到的特征进行分类,从而将疾病诊断问题转化为特征分类问题,激活函数包括但不限于softmax和线性SVM。
尽管本发明的实施方案已公开如上,但其并不仅仅限于说明书和实施方式中所列运用,它完全可以被适用于各种适合本发明的领域,对于熟悉本领域的人员而言,可容易地实现另外的修改,因此在不背离权利要求及等同范围所限定的一般概念下,本发明并不限于特定的细节和这里示出的实施例。

Claims (7)

1.一种针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法,其特征在于,包括下述步骤:
1)对胰腺医学影像数据进行读取和归一化操作,得到归一化图像;
2)对归一化图像进行去噪、配准以及图像融合,得到多模态融合图像;
3)在胰腺结构显示清晰的图像中选取感兴趣区并映射到其他图像上,同时将该感兴趣区保存为后续分类网络可识别的自然图像格式;
4)根据所选取的感兴趣区,对多模态融合图像的特征进行提取、分类和融合,并针对融合后的特征建立基本分类网络模型;
5)对各个基本分类网络的分类结果进行鉴别,获得最终的分类鉴别结果;
步骤4)中的特征提取、分类、融合以及建立基本分类网络模型的具体步骤如下:
A:对多模态融合图像构建专用深度金字塔卷积神经网络,该网络的结构为在全连接层之前使用一系列金字塔池化层,从而允许输入图像为任意尺寸;
B:将数据输入多模态融合图像专用深度金字塔卷积神经网络,提取由全连接层输出的特征,生成特征图;
C:基于双线性融合函数对上述特征进行融合,即将两个特征图的对应位置元素进行外积运算后求和,得到融合特征图,该融合特征图的通道数是原始特征图通道数的平方,表示为
Figure FDA0003516667110000011
其中,ybil表示融合特征图,xa和xb表示特征图,xa、xb∈RH×W×D,H、W、D分别表示特征图的长度、宽度和通道数量,
Figure FDA0003516667110000015
a、b代表不同图像,
Figure FDA0003516667110000012
指a特征图中不同通道中位置(i,j)处的特征值,
Figure FDA0003516667110000013
指b特征图中不同通道中位置(i,j)处的特征值;
Figure FDA0003516667110000014
指计算得到的值所属的范围,其中,D2表示通道数量为原来的平方;
D:采用卷积融合函数对融合特征图进行降维处理,得到降维的融合特征图,即将双线性融合函数的融合结果与滤波器f进行卷积运算,同时引入偏差值bias,从而实现降维,表示为
yconv=ybil*f+bias,
其中,yconv为卷积融合函数,f表示二维卷积,f∈R1×1×2D×D,其中,1×1×2D×D分别表示特征图的数量、长度、宽度以及通道数;bias表示卷积运算中的偏移量,bias∈RD
E:根据降维的融合特征图训练一个分类模型,即建立基本分类网络模型,其中,所用分类方法为将弱分类模型组合形成强分类模型,或者训练一个核函数方法的支持向量机;
步骤5)中的鉴别步骤如下:
a:通过训练数据对所建立的各基本分类网络模型进行训练,计算分类误差率;
b:根据分类误差率计算各基本分类网络模型的系数;
c:将各基本分类网络模型的类别标签统一,求各基本分类网络模型对待测实例在每一类别标签上的预测概率,去除偏离点后对剩余预测概率进行加权表决,并获得最终的分类鉴别结果。
2.根据权利要求1所述的方法,其特征在于,步骤1)中所述胰腺医学影像数据来源于PACS***和医学成像设备。
3.根据权利要求1所述的方法,其特征在于,步骤2)中所述图像融合采用像素级图像融合技术,包括空间域算法和变换域算法。
4.根据权利要求1所述的方法,其特征在于,步骤3)中所述感兴趣区为包含病灶处全部胰腺组织的矩形,所述自然图像格式为.png或.bmp。
5.根据权利要求1所述的方法,其特征在于,所述分类误差率的计算方法为:设基本分类网络模型共有M个,记作Cm,m={1,2,…,M},训练数据集T={(y1,x1),(y2,x2),…,(yN,xN)},其中
Figure FDA0003516667110000021
yi∈Y={-1,+1},计算第m个分类模型在训练数据集上的分类误差率em,公式为
Figure FDA0003516667110000022
所述各基本分类网络模型的系数为αm,计算公式为
Figure FDA0003516667110000023
6.根据权利要求5所述的方法,其特征在于,所述各基本分类网络模型的类别标签统一于{-1,1},统一函数Am(x)为,
Figure FDA0003516667110000031
预测概率Pm的计算方法为,
Pm(Label=1)=(Am(x)+1)/2
Pm(Label=-1)=1-(Am(x)+1)/2,
其中,Label为类别标签。
7.根据权利要求6所述的方法,其特征在于,所述分类鉴别结果的获得方法如下,将M个基本分类网络模型的预测概率PLm表示为,
Figure FDA0003516667110000032
将任意一个基本分类网络模型的预测概率Pmmax表示为,
Pmmax=max[Pm(Label=1),Pm(Label=-1)],
计算PLm+Pmmax的结果并进行排序,去除最大值和最小值对应的基本分类网络模型,通过对剩余M-2个基本网络分类模型构建线性组合f(x)实现加权表决,进而得到最终分类鉴别结果C(x)=sign(f(x));
其中,线性组合
Figure FDA0003516667110000033
CN201810141703.4A 2018-02-11 2018-02-11 针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法 Active CN108537773B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810141703.4A CN108537773B (zh) 2018-02-11 2018-02-11 针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810141703.4A CN108537773B (zh) 2018-02-11 2018-02-11 针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法

Publications (2)

Publication Number Publication Date
CN108537773A CN108537773A (zh) 2018-09-14
CN108537773B true CN108537773B (zh) 2022-06-17

Family

ID=63485999

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810141703.4A Active CN108537773B (zh) 2018-02-11 2018-02-11 针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法

Country Status (1)

Country Link
CN (1) CN108537773B (zh)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110909755B (zh) * 2018-09-17 2023-05-30 阿里巴巴集团控股有限公司 对象特征处理方法及装置
CN109559296B (zh) * 2018-10-08 2020-08-25 广州市大智网络科技有限公司 基于全卷积神经网络和互信息的医学图像配准方法及***
CN109544512B (zh) * 2018-10-26 2020-09-18 浙江大学 一种基于多模态的胚胎妊娠结果预测装置
CN109273084B (zh) * 2018-11-06 2021-06-22 中山大学附属第一医院 基于多模态超声组学特征建模的方法及***
CN109544517A (zh) * 2018-11-06 2019-03-29 中山大学附属第医院 基于深度学习的多模态超声组学分析方法及***
EP3660741B1 (en) * 2018-11-29 2022-05-04 Koninklijke Philips N.V. Feature identification in medical imaging
CN109815965B (zh) * 2019-02-13 2021-07-06 腾讯科技(深圳)有限公司 一种图像过滤方法、装置及存储介质
CN109998599A (zh) * 2019-03-07 2019-07-12 华中科技大学 一种基于ai技术的光/声双模成像眼底疾病诊断***
CN109949288A (zh) * 2019-03-15 2019-06-28 上海联影智能医疗科技有限公司 肿瘤类型确定***、方法及存储介质
CN110188788A (zh) * 2019-04-15 2019-08-30 浙江工业大学 基于放射组学特征的胰腺囊性肿瘤ct图像的分类方法
CN110349662B (zh) * 2019-05-23 2023-01-13 复旦大学 用于过滤肺部肿块误测结果的跨图像集合的离群样本发现方法和***
CN110619639A (zh) * 2019-08-26 2019-12-27 苏州同调医学科技有限公司 一种结合深度神经网络和概率图模型分割放疗影像的方法
CN110909672A (zh) * 2019-11-21 2020-03-24 江苏德劭信息科技有限公司 一种基于双流卷积神经网络和svm的抽烟动作识别方法
CN111667486B (zh) * 2020-04-29 2023-11-17 杭州深睿博联科技有限公司 一种基于深度学习的多模态融合胰腺分割方法和***
CN111798410A (zh) * 2020-06-01 2020-10-20 深圳市第二人民医院(深圳市转化医学研究院) 基于深度学习模型的癌细胞病理分级方法、装置、设备和介质
CN111680687B (zh) * 2020-06-09 2022-05-10 江西理工大学 一种应用于乳腺x线图像异常识别的深度融合分类方法
CN111833332A (zh) * 2020-07-15 2020-10-27 中国医学科学院肿瘤医院深圳医院 骨转移瘤和骨岛的能谱ct鉴别模型生成方法及鉴别方法
CN112070809B (zh) * 2020-07-22 2024-01-26 中国科学院苏州生物医学工程技术研究所 基于pet/ct双时成像的胰腺癌精准诊断***
CN112381798A (zh) * 2020-11-16 2021-02-19 广东电网有限责任公司肇庆供电局 一种输电线路缺陷识别方法和终端
CN112419306B (zh) * 2020-12-11 2024-03-15 长春工业大学 一种基于nas-fpn的肺结节检测方法
CN112951426B (zh) * 2021-03-15 2023-02-28 山东大学齐鲁医院 一种胰腺导管腺瘤炎性浸润程度判断模型的构建方法及评估***
CN113066110A (zh) * 2021-05-06 2021-07-02 北京爱康宜诚医疗器材有限公司 骨盆配准中标记点的选取方法和选取装置
CN113449770B (zh) * 2021-05-18 2024-02-13 科大讯飞股份有限公司 图像检测方法以及电子设备、存储装置
CN113610751B (zh) * 2021-06-03 2024-06-11 迈格生命科技(深圳)有限公司 图像处理方法、装置及计算机可读存储介质
CN115240854B (zh) * 2022-07-29 2023-10-03 中国医学科学院北京协和医院 一种胰腺炎预后数据的处理方法及其***

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101976436A (zh) * 2010-10-14 2011-02-16 西北工业大学 一种基于差分图修正的像素级多聚焦图像融合方法
CN105956532A (zh) * 2016-04-25 2016-09-21 大连理工大学 一种基于多尺度卷积神经网络的交通场景分类方法
CN106682435A (zh) * 2016-12-31 2017-05-17 西安百利信息科技有限公司 一种多模型融合自动检测医学图像中病变的***及方法
CN107291822A (zh) * 2017-05-24 2017-10-24 北京邮电大学 基于深度学习的问题分类模型训练方法、分类方法及装置
CN107403201A (zh) * 2017-08-11 2017-11-28 强深智能医疗科技(昆山)有限公司 肿瘤放射治疗靶区和危及器官智能化、自动化勾画方法
CN107492097A (zh) * 2017-08-07 2017-12-19 北京深睿博联科技有限责任公司 一种识别mri图像感兴趣区域的方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10402697B2 (en) * 2016-08-01 2019-09-03 Nvidia Corporation Fusing multilayer and multimodal deep neural networks for video classification

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101976436A (zh) * 2010-10-14 2011-02-16 西北工业大学 一种基于差分图修正的像素级多聚焦图像融合方法
CN105956532A (zh) * 2016-04-25 2016-09-21 大连理工大学 一种基于多尺度卷积神经网络的交通场景分类方法
CN106682435A (zh) * 2016-12-31 2017-05-17 西安百利信息科技有限公司 一种多模型融合自动检测医学图像中病变的***及方法
CN107291822A (zh) * 2017-05-24 2017-10-24 北京邮电大学 基于深度学习的问题分类模型训练方法、分类方法及装置
CN107492097A (zh) * 2017-08-07 2017-12-19 北京深睿博联科技有限责任公司 一种识别mri图像感兴趣区域的方法及装置
CN107403201A (zh) * 2017-08-11 2017-11-28 强深智能医疗科技(昆山)有限公司 肿瘤放射治疗靶区和危及器官智能化、自动化勾画方法

Also Published As

Publication number Publication date
CN108537773A (zh) 2018-09-14

Similar Documents

Publication Publication Date Title
CN108537773B (zh) 针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法
Li et al. Attention dense-u-net for automatic breast mass segmentation in digital mammogram
CN110310281B (zh) 一种基于Mask-RCNN深度学习的虚拟医疗中肺结节检测与分割方法
US11101033B2 (en) Medical image aided diagnosis method and system combining image recognition and report editing
Sharif et al. A comprehensive review on multi-organs tumor detection based on machine learning
Yousef et al. A holistic overview of deep learning approach in medical imaging
Li et al. A 3D deep supervised densely network for small organs of human temporal bone segmentation in CT images
Naik et al. Lung nodule classification on computed tomography images using deep learning
JP2009502230A (ja) 医用画像における傷病部位の検知
US7359538B2 (en) Detection and analysis of lesions in contact with a structural boundary
Fan et al. Lung nodule detection based on 3D convolutional neural networks
EP2208183B1 (en) Computer-aided detection (cad) of a disease
CN111798424B (zh) 一种基于医学图像的结节检测方法、装置及电子设备
CN114782307A (zh) 基于深度学习的增强ct影像直肠癌分期辅助诊断***
Mittapalli et al. Multiscale CNN with compound fusions for false positive reduction in lung nodule detection
Lakshmipriya et al. Deep learning techniques in liver tumour diagnosis using CT and MR imaging-A systematic review
Sahli et al. U-Net: A valuable encoder-decoder architecture for liver tumors segmentation in CT images
Atiyah et al. Brain MRI Images Segmentation Based on U-Net Architecture
Jadhav et al. 3D virtual pancreatography
Paliwal et al. A Comprehensive Analysis of Identifying Lung Cancer via Different Machine Learning Approach
CN115132275B (zh) 基于端到端三维卷积神经网络预测egfr基因突变状态方法
Chen et al. Research related to the diagnosis of prostate cancer based on machine learning medical images: A review
CN114757894A (zh) 一种骨肿瘤病灶分析***
Pradhan An early diagnosis of lung nodule using CT images based on hybrid machine learning techniques
Zhang et al. ASE-Net: A tumor segmentation method based on image pseudo enhancement and adaptive-scale attention supervision module

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant