CN115908515B - 影像配准方法、影像配准模型的训练方法及装置 - Google Patents
影像配准方法、影像配准模型的训练方法及装置 Download PDFInfo
- Publication number
- CN115908515B CN115908515B CN202211413390.6A CN202211413390A CN115908515B CN 115908515 B CN115908515 B CN 115908515B CN 202211413390 A CN202211413390 A CN 202211413390A CN 115908515 B CN115908515 B CN 115908515B
- Authority
- CN
- China
- Prior art keywords
- image
- sample
- registration
- registered
- mask
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 116
- 238000012549 training Methods 0.000 title claims abstract description 57
- 238000012545 processing Methods 0.000 claims abstract description 34
- 238000013527 convolutional neural network Methods 0.000 claims description 36
- 230000006870 function Effects 0.000 claims description 31
- 230000015654 memory Effects 0.000 claims description 27
- 230000009466 transformation Effects 0.000 claims description 25
- 210000000056 organ Anatomy 0.000 claims description 18
- 238000000605 extraction Methods 0.000 claims description 15
- 238000003860 storage Methods 0.000 claims description 14
- 238000006243 chemical reaction Methods 0.000 claims description 13
- 238000007781 pre-processing Methods 0.000 claims description 13
- 238000010276 construction Methods 0.000 claims description 3
- 238000013473 artificial intelligence Methods 0.000 abstract description 8
- 238000013135 deep learning Methods 0.000 abstract description 3
- 230000001419 dependent effect Effects 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 28
- 238000003384 imaging method Methods 0.000 description 28
- 238000004590 computer program Methods 0.000 description 19
- 210000004072 lung Anatomy 0.000 description 16
- 230000008569 process Effects 0.000 description 13
- 238000004891 communication Methods 0.000 description 10
- 238000004458 analytical method Methods 0.000 description 9
- 238000002595 magnetic resonance imaging Methods 0.000 description 9
- 238000002591 computed tomography Methods 0.000 description 6
- 230000011218 segmentation Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 238000003062 neural network model Methods 0.000 description 5
- 210000004556 brain Anatomy 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 4
- 229910052739 hydrogen Inorganic materials 0.000 description 4
- 238000005520 cutting process Methods 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 238000007667 floating Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 238000005481 NMR spectroscopy Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 210000005013 brain tissue Anatomy 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000003759 clinical diagnosis Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 125000004435 hydrogen atom Chemical group [H]* 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000005437 stratosphere Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本公开提供了一种影像配准方法、影像配准模型的训练方法及装置,涉及图像处理和人工智能AI技术领域,尤其涉及深度学习和AI医疗。具体实现方案为:获取待配准影像和配准参考影像,待配准影像和配准参考影像分别包括目标对象,分别提取待配准影像和配准参考影像各自对应的掩膜,根据各自对应的掩膜,生成待配准影像的目标配准影像,无需强依赖于单模态的影像,可以适用于多模态的影像配准场景,提高了影像配准方法应用于不同影像配准场景的适用灵活性和多样性,且实现了从关注全局信息的维度进行影像配准,提高了影像配准的全面性、有效性、可靠性。
Description
技术领域
本公开涉及图像处理和人工智能(Artificial Intelligence,AI)技术领域,具体涉及深度学习和AI医疗,尤其涉及一种影像配准方法、影像配准模型的训练方法及装置。
背景技术
影像配准可以应用于不同的场景,如医学影像配准场景,如何提高影像配准的准确性,成了亟待解决的问题。
在一些实施例中,可以采用训练神经网络模型的方式实现影像配准,如训练得到影像配准模型,以基于影像配准模型实现影像配准。
发明内容
本公开提供了一种影像配准方法、影像配准模型的训练方法及装置,用于提高影像配准的准确性和可靠性。
根据本公开的第一方面,提供了一种影像配准方法,包括:
获取待配准影像和配准参考影像,其中,所述待配准影像和所述配准参考影像分别包括目标对象;
分别提取所述待配准影像和所述配准参考影像各自对应的掩膜;
根据所述各自对应的掩膜,生成所述待配准影像的目标配准影像。
根据本公开的第二方面,提供了一种影像配准模型的训练方法,包括:
获取样本数据集,其中,所述样本数据集中包括样本待配准影像和样本配准参考影像,所述样本待配准影像和所述样本配准参考影像分别包括目标对象;
分别提取所述样本待配准影像和所述样本配准参考影像各自对应的样本掩膜;
根据所述各自对应的样本掩膜,训练得到影像配准模型,其中,所述影像配准模型用于确定待配准影像的目标配准影像。
根据本公开的第三方面,提供了一种影像配准装置,包括:
第一获取单元,用于获取待配准影像和配准参考影像,其中,所述待配准影像和所述配准参考影像分别包括目标对象;
第一提取单元,用于分别提取所述待配准影像和所述配准参考影像各自对应的掩膜;
生成单元,用于根据所述各自对应的掩膜,生成所述待配准影像的目标配准影像。
根据本公开的第四方面,提供了一种影像配准模型的训练装置,包括:
第二获取单元,用于获取样本数据集,其中,所述样本数据集中包括样本待配准影像和样本配准参考影像,所述样本待配准影像和所述样本配准参考影像分别包括目标对象;
第二提取单元,用于分别提取所述样本待配准影像和所述样本配准参考影像各自对应的样本掩膜;
训练单元,用于根据所述各自对应的样本掩膜,训练得到影像配准模型,其中,所述影像配准模型用于确定待配准影像的目标配准影像。
根据本公开的第五方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面或第二方面所述的方法。
根据本公开的第六方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据第一方面或第二方面所述的方法。
根据本公开的第七方面,提供了一种计算机程序产品,所述计算机程序产品包括:计算机程序,所述计算机程序存储在可读存储介质中,电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序,所述至少一个处理器执行所述计算机程序使得电子设备执行第一方面或第二方面所述的方法。
根据本公开提供的影像配准方法、影像配准模型的训练方法及装置,包括:获取待配准影像和配准参考影像,其中,待配准影像和配准参考影像分别包括目标对象,分别提取待配准影像和配准参考影像各自对应的掩膜,根据各自对应的掩膜,生成待配准影像的目标配准影像,通过对分别提取待配准影像和配准参考影像各自对应的掩膜,以基于该各自对应的掩膜确定目标配准影像的技术特征,无需强依赖于单模态(可以理解为相同模态,或相同来源)的影像,可以适用于多模态的影像配准场景,提高了影像配准方法应用于不同影像配准场景的适用灵活性和多样性,且降低了在多模态的影像配准场景中的资源消耗,提高了影像配准的效率和准确性,且实现了从关注全局信息的维度进行影像配准,提高了影像配准的全面性、有效性、可靠性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的示意图;
图2是根据本公开第二实施例的示意图;
图3是根据本公开的影像配准的效果示意图一;
图4是根据本公开的影像配准的效果示意图二;
图5是根据本公开的掩膜示意图一;
图6是根据本公开的掩膜示意图二;
图7是根据本公开的影像配准的效果示意图三;
图8是根据本公开的影像配准的效果示意图四;
图9是本公开第三实施例的示意图;
图10是根据本公开实施例的影像配准方法的原理示意图;
图11是根据本公开第四实施例的示意图;
图12是根据本公开第五实施例的示意图;
图13是根据本公开第六实施例的示意图;
图14是根据本公开第七实施例的示意图;
图15是根据本公开第八实施例的示意图;
图16是根据本公开第九实施例的示意图;
图17是根据本公开第十实施例的示意图;
图18是用来实现本公开实施例的影像配准方法、影像配准模型的训练方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
为使读者更加深刻地理解本公开的实现原理,现对本公开实施例所涉及的至少部分专业术语解释如下:
体素,是全称体积元素的简称,是三维空间中的概念,是指数字数据于三维空间分割上的最小单位。
像素,是二维空间中的概念,是指数字数据于二维空间分割上的最小单位,像素的理解可以理解为一幅影像划分为很多小方格,像素就是那个小方格。
前景区域,是指主体(被拍摄对象)前面的环境构成元素,如可以理解为被拍摄对象的前面的景物的区域。
背景区域,是指主体(被拍摄对象)后面的环境构成元素,如可以理解为被拍摄对象的后面的景物的区域。
影像配准,将一幅影像寻求一种(或一系列)空间变换,使它与另一幅影像上的对应点达到空间上的一致。这种一致可以理解为人体上的同一解剖点在两幅影像上具有相同的空间位置。
相应的,医学影像配准,为医学领域的影像配准,是指将一幅医学影像寻求一种(或一系列)空间变换,使它与另一幅医学影像上的对应点达到空间上的一致。这种一致可以理解为人体上的同一解剖点在两幅医学影像上具有相同的空间位置。
掩膜,是指由0或1组成的二进制影像。其中,在掩膜中,1值区域也可以称为被处理区域,该区域参与影像配准过程;0值区域也可以称为屏蔽区域,该区域不参与影像配准过程。
影像的感兴趣区域(Region of Interest,ROI),是指从影像中选择的一个区域,该区域为对影像进行分析所关注的重点。
损失函数(loss function),是指在模型训练过程中,用来估量模型的预测值(即模型的输出值)与真实值(如预先标定的真实值)的不一致程度。相对而言,损失函数越小,模型的鲁棒性越好。
计算机辅助成像,也称为计算机体层成像(Computer tomography,CT),是指将X线束透过机体断层扫描后的衰减系数,通过计算机处理重建医学影像的一种现代医学成像技术。
磁共振(Magnetic Resonance Imaging,MRI),也称为核磁共振,是指在强大磁场的作用下,记录组织器官内氢原子的原子核运动,经计算和处理后获得的组织器官的医学影像。
随着科学技术地发展,以计算机辅助成像和磁共振等技术为基础的医学影像,已经成为临床诊疗过程中不可或缺的检查手段。如用户可能在多个时间点上使用多种成像设备(CT、MRI、X射线、超声等)拍摄的二维(2D)或三维(3D)医学影像。
受拍摄时的人体姿态、设备参数等因素影响,同一人体组织器官在不同医学影像中的空间位置可能存在差异。为了便于随访及观察病程,可以对这些医学影像进行医学影像配准。即将多幅医学影像映射至相同的空间坐标系下,使得每一个空间网格(2D像素或3D体素)对应着特定组织器官的相同物理空间位置。
在一些实施例中,可以基于影像特征匹配的配准方法实现影像配准。示例性的:
算法研究人员预先选取特定影像参数进行建模,以基于建模得到的影像配准模型实现影像配准。
其中,影像参数可以是影像自身的参数,也可以是从影像特征中提取的参数,如形成影像的成像设备提供的参数、影像相对物理空间的旋转、平移参数。或者,影像参数可以是从影像中提取的“速度场”(可以理解为影像中的离散点上的速度用所组成的流场)、“耦合场”(可以基于多物理场耦合成像技术实现)等信息。
例如,影像配准模型可以采用“单纯形搜索法”搜索两组影像之间的最优匹配。“单纯形搜索法”是指一种无约束最优化的直接方法。
但是,上述配准方法受限于影像参数的选取与建模。一种影像参数很难适应所有模态的影像,因而这类方法也很难具备跨模态的通用性配准能力。此处的模态可以理解为成像设备的类型。相应的,单模态是指两幅影像是用同一种成像设备获取的,多模态是指两幅影像是用不同的成像设备获取的,
即一种影像参数很难适应不同类型的成像设备所采集的影像,很难应用于基于不同类型的成像设备所采集的影像的配准。
在另一些实施例中,可以基于深度学习模型的配准方法实现影像配准,深度学习模型可以为可变形影像配准的学习框架(VoxelMorph)。示例性的:
首先,可以采用对抗生成网络训练两幅影像(如基于计算机体层成像得到的CT医学影像、基于磁共振得到的MRI医学影像)的模态转换生成器,以基于该模态转换生成器将CT医学影像转换为MRI医学影像(可以称为转换后的CT医学影像)。
然后,可以应用基于神经网络模型的单模态配准网络,输出相同模态的两幅医学影像(MRI医学影像、基于模态转换生成器得到的转换后的CT医学影像)之间的配准置信度(可以理解为一致性)。
最后,可以将配准置信度、MRI医学影像、基于模态转换生成器器得到的转换后的CT医学影像,共同输入基于多模态配准网络,输出配准结果。
但是,该种方式流程较长,容易因串行流程中的累积误差,导致最终的医学图像的配准结果不理想。
应该理解的是,上述示例只是以影像为医学影像为例进行示范性地说明,而不能理解为对影像的内容的限定。
示例性的,针对影像配准方法的不同应用影像配准场景,影像的内容可能不同。例如,若影像配准方法应用于医学影像配准场景,则影像可以为医学影像;若影像配准方法应用于其他影像配准场景,如自动驾驶的影像场景,则影像可以为驾驶环境图像,等等,此处不再一一列举。
为了避免上述技术问题中的至少一种,本公开提供了一种经创造性劳动地技术构思:对于针对目标对象而采集到的两幅影像,提取两幅影像各自对应的掩膜,以基于各自对应的掩膜实现影像配准。
基于上述技术构思,本公开提供一种影像配准方法、影像配准模型的训练方法及装置,应用于图像处理和人工智能技术领域,具体涉及深度学习和AI医疗,以达到提高影像配准的准确性和可靠性。
图1是根据本公开第一实施例的示意图,如图1所示,本公开实施例的影像配准方法包括:
S101:获取待配准影像和配准参考影像。
其中,待配准影像和配准参考影像分别包括目标对象。
示例性的,本实施例的执行主体可以为影像配准装置(下文简称配准装置),配准装置可以为服务器,也可以为计算机,也可以为终端设备,也可以为处理器,也可以为芯片,等等,此处不再一一列举。
若配准装置为服务器,则配准装置可以为本地服务器,也可以为云端服务器,可以为独立的服务器,也可以为服务器集群,本实施例不做限定。
结合上述分析可知,本公开的影像配准方法可以应用于不同的影像配准场景,相应的,在不同的影像配准场景中,目标对象的内容不同。
例如,若本公开的影像配准方法应用于医学影像配准场景,则目标对象可以为组织器官,如大脑、肺等组织器官,本实施例不做限定。
相应的,若目标对象为大脑,则待配准影像中包括大脑,配准参考影像中也包括大脑。
又如,若本公开的影像配准方法应用于自动驾驶的影像配准场景,则目标对象可以为路面的障碍物,如红绿灯等。
相应的,若目标对象为红绿灯,则待配准影像中包括红绿灯,配准参考影像中也包括红绿灯。
其中,若本公开的影像配准方法应用于医学影像配准场景,待配准影像和配准参考影像可以为同源的两幅医学影像,也可以为不同源的两幅医学影像,此处的“源”可以为采集两幅医学影像的设备来源(即成像设备),也可以为两幅医学影像针对的用户来源。
以设备来源为例,待配准影像和配准参考影像可以为由相同类型的成像设备采集到的两幅医学影像(可以称为单模态的两幅医学影像),也可以为由不同类型的成像设备采集到的两幅医学影像(可以称为多模态的两幅医学影像)。
例如,结合上述示例,若待配准影像和配准参考影像为由相同类型的成像设备采集到的两幅医学影像,则待配准影像和配准参考影像可以为基于计算机体层成像的CT设备采集到的CT医学影像,两幅CT医学影像中的任意一幅CT医学影像为待配准影像,两幅CT医学影像中的另一幅CT医学影像为配准参考影像。
若待配准影像和配准参考影像为由不同类型的成像设备采集到的两幅医学影像,则待配准影像可以为基于计算机体层成像的CT设备采集到的CT医学影像,配准参考影像可以为基于磁共振技术的设备采集到的MRI医学影像;或者,待配准影像可以为基于磁共振技术的设备采集到的MRI医学影像,配准参考影像可以为基于计算机体层成像的CT设备采集到的CT医学影像。
以用户来源为例,待配准影像和配准参考影像可以为同一用户的两幅医学影像,也可以为不同用户的两幅医学影像。
例如,结合上述示例,若待配准影像和配准参考影像为同一用户的两幅医学影像,则待配准影像和配准参考影像可以为用户A的两幅医学影像。
且结合上述分析,用户A的两幅医学影像可以为由相同类型的成像设备采集到的两幅医学影像,也可以为由不同类型的成像设备采集到的两幅医学影像,此处不再赘述。
若待配准影像和配准参考影像为不同用户的两幅医学影像,如不同用户分别为用户A和用户B,则待配准影像可以为用户A的医学影像,配准参考影像可以为用户B的医学影像;或者,待配准影像可以为用户B的医学影像;配准参考影像可以为用户A的医学影像。
同理,本实施例对待配准影像和配准参考影像的成像时间、成像空间位置(如在哪里得到待配准影像和/或配准参考影像)等不做限定。
也就是说,本实施例待配准影像和配准参考影像的成像来源、成像时间、成像空间位置等不做限定,可以基于需求、历史记录、以及试验等方式确定,待配准影像和配准参考影像分别包括目标对象即可,如待配准影像和配准参考影像包括相同的组织器官即可。
关于获取待配准影像和配准参考影像可以采用下述示例实现:
一个示例中,配准装置可以与影像采集装置连接,并接收由影像采集装置发送的待配准影像和配准参考影像。
另一个示例中,配准装置可以提供载入影像的工具,用户可以通过该载入影像的工具将待配准影像和配准参考影像传输至配准装置。
其中,载入影像的工具可以为用于与外接设备连接的接口,如用于与其他存储设备连接的接口,通过该接口获取外接设备传输的待配准影像和配准参考影像;载入影像的工具也可以为显示装置,如配准装置可以在显示装置上输入载入影像功能的界面,用户可以通过该界面将待配准影像和配准参考影像导入至配准装置,配准装置获取待配准影像和配准参考影像。
S102:分别提取待配准影像和配准参考影像各自对应的掩膜。
本实施例对配准装置提取掩膜的先后顺序不做限定。例如,配准装置可以先提取待配准影像对应的掩膜,而后提取配准参考影像对应的掩膜;配准装置也可以先提取配准参考影像对应的掩膜,而后提取待配准影像对应的掩膜;配准装置也可以同时提取待配准影像和配准参考影像各自对应的掩膜。
本实施例对提取掩膜的方式不做限定,如可以通过区分前景区域和背景区域的方式提取掩膜。
例如,可以区分待配准影像的前景区域和背景区域,并根据待配准影像的前景区域和背景区域,提取待配准影像对应的掩膜。
同理,可以区分配准参考影像的前景区域和背景区域,并根据配准参考影像的前景区域和背景区域,提取配准参考影像对应的掩膜。
示例性的,可以基于神经网络模型的方式提取掩膜。
例如,可以预先训练分割网络模型,可以基于分割网络模型确定待配准影像的前景区域和背景区域,并根据待配准影像的前景区域和背景区域,提取待配准影像对应的掩膜。
同理,可以基于分割网络模型确定配准参考影像的前景区域和背景区域,并根据配准参考影像的前景区域和背景区域,提取配准参考影像对应的掩膜。
其中,分割网络模型的训练方法可以采用获取到的样本影像对基础网络模型进行迭代优化的方式训练得到,本实施例不做限定。
S103:根据各自对应的掩膜,生成待配准影像的目标配准影像。
由于不同模态的影像具有不同的像素值分布特性,因此,在上述实施例中,为了实现对不同模态的影像之间的影像配准,预先训练模态转换生成器,以基于模态转换生成器将不同模态的影像转换为相同模态的影像,以在相同模态的基础上,实现影像配准。
值得说明的是,尽管可以基于模态转换生成器对不同模态的影像进行模态转换,如将如基于计算机体层成像的成像设备采集到的待配准影像,转换为基于磁共振技术的成像设备采集到的配准参考影像,然而,其本质还是先将两幅不同模态的影像中的一幅影像转换为、与另一幅影像相同模态的影像,以在相同模型下进行影像配准。
即上述实施例中的影像配准强依赖于相同模态的影像,针对不同模态的影像,需要先转换为相同模态的影像,以在相同模态的基础上进行影像配准。
而在本实施例中,通过提取待配准影像和配准参考影像各自对应的掩膜,以基于提取到的各自对应的掩膜确定目标配准影像,无需强依赖于相同模态,如用于影像配准的两幅影像可以为不同模态的影像,从而实现了影像配准的跨模态通用性,避免了繁琐的模态转换过程,提高了影像配准的效率和准确性。
且在本实施例中,通过提取掩膜,可以将对目标对象的局部信息的关注,转换为对目标对象的全局信息的关注,从而避免了对局部信息的过度拟合,提高了影像配准的准确性和可靠性。
应该理解的是,上述关于模态地描述只是用于示范性地说明,可能的模态,而不能理解为对模态的限定。
基于上述分析可知,本公开提供了一种影像配准方法,包括:获取待配准影像和配准参考影像,其中,待配准影像和配准参考影像分别包括目标对象,分别提取待配准影像和配准参考影像各自对应的掩膜,根据各自对应的掩膜,生成待配准影像的目标配准影像,在本实施例中,通过对分别提取待配准影像和配准参考影像各自对应的掩膜,以基于该各自对应的掩膜确定目标配准影像的技术特征,无需强依赖于单模态(可以理解为相同模态,或相同来源)的影像,可以适用于多模态的影像配准场景,提高了影像配准方法应用于不同影像配准场景的适用灵活性和多样性,且降低了在多模态的影像配准场景中的资源消耗,提高了影像配准的效率和准确性,且实现了从关注全局信息的维度进行影像配准,提高了影像配准的全面性、有效性、可靠性。
为使读者更加深刻地理解本公开的实现原理,现结合图2对本公开的医学影像配准方法进行详细阐述。其中,图2是根据本公开第二实施例的示意图,如图2所示,本公开实施例的影像配准方法包括:
S201:获取待配准影像和配准参考影像。
其中,待配准影像和配准参考影像分别包括目标对象。
应该理解的是,为了避免繁琐地陈述,关于本实施例与上述实施例相同的技术特征,本实施例不再赘述。
S202:提取待配准影像中目标对象的待配准掩膜、以及配准参考影像中目标对象的配准参考掩膜。
示例性的,目标对象为肺叶,待配准影像包括肺叶,配准参考影像包括肺叶。从待配准影像中,提取得到肺叶的掩膜,为便于区分,将该掩膜称为待配准掩膜。从配准参考影像中,提取得到肺叶的掩膜,为便于区分,将该掩膜称为配准参考掩膜。
其中,掩膜表征了感兴趣的影像区域。例如被掩膜标记出的脑组织、肺叶、肺气管等器官组织是前景区域,未被掩膜标记出的像素/体素点表征此处不被关注,为背景区域。
例如,可以预设用于提取掩膜的强度窗口,可以理解为提取掩膜的窗口的大小,或者,可以理解为提取掩膜的区域,以在该强度窗口内,将灰度值大于0的像素/体素网格设为前景区域,相应的,灰度值小于等于0的像素/体素网格为背景区域。其中,强度窗口可以为目标对象的区域。
如图3所示,目标对象为肺叶,以查阅图3的视角为基准,图3左侧的影像为提取掩膜前的影像,如待配准影像,图3右侧的影像为提取掩膜后的影像,如待配准掩膜。
相应的,如图4所示,目标对象为肺叶,以查阅图4的视角为基准,图4左侧的影像为提取掩膜前的影像,如配准参考影像,图4右侧的影像为提取掩膜后的影像,如配准参考掩膜。
结合图3和图4可知,在分别对待配准影像和配准参考影像提取掩膜,以基于各自对应的掩膜进行医学影像配准,可以从对肺叶的局部信息的关注转换为对肺叶的全局信息的关注,如避免过度关注于待配准影像与配准参考影像中的某一个或多个像素/体素网格的医学影像配准,从而提高医学影像配准的准确性、可靠性及有效性。
基于上述分析可知,在另一些实施例中,也可以分割网络模型的方式提取待配准影像和配准参考影像各自对应的掩膜,在各自对应的掩膜中,可以采用不同的灰度值对肺叶进行表征。
示例性的,目标对象为肺叶,基于分割网络模型提取到的待配准影像的待配准掩膜如图5所示,基于分割网络模型提取到的配准参考影像的配准参考掩膜如图6所示。
S203:根据待配准掩膜和配准参考掩膜,确定目标变形场。其中,目标变形场用于表征待配准影像中的像素点的目标移动信息。
示例性的,影像配准可以理解将一幅影像对齐到另一幅影像,使得对齐后的两幅影像尽可能相似。
相应的,在本实施例中,影像配准可以理解为将一副掩膜对齐到另一幅掩膜,使得对齐后的两幅掩膜尽可能相似,从而使得两幅掩膜对应的影像尽可能相似。
待配准掩膜可以理解为浮动影像,配准参考掩膜可以理解为固定影像,可以预测得到从浮动影像到固定影像的映射,该映射可以称为变形场,也可以称为流场或者配准场等,相应的,为了便于与其他变形场进行区分,该变形场可以称为目标变形场。
其中,目标变形场具有“微分同胚”性质,即待配准掩膜与配准参考掩膜之间的重叠度相对较高。
在一些实施例中,S203可以包括如下步骤:
第一步骤:根据待配准掩膜和配准参考掩膜,生成初始变形场。其中,初始变形场用于表征待配准影像中的像素点的初始移动信息。
第二步骤:根据初始变形场预测得到,待配准掩膜与配准参考掩膜之间的相似性大于预设第一阈值的目标变形场。
其中,第一阈值可以基于需求、历史记录、以及试验等方式确定,本实施例不做限定。
例如,针对相对较高精度的影像配准场景,第一阈值可以为相对较大的值,反之,针对相对较低精度的影像配准场景,第一阈值可以为相对较小的值。
示例性的,可以先根据待配准掩膜和配准参考掩膜,确定待配准影像中的像素点的初始移动信息,并在该初始移动信息的基础上,进行预测,以预测得到相对于初始移动信息而言,使得待配准掩膜和配准参考掩膜之间的重合度更高的移动信息,以此类推,直至得到目标变形场。
在本实施例中,通过先确定初始变形场,以基于初始变形场进行预测,以得到目标变形场,可以得到使得待配准掩膜与配准参考掩膜之间的重合度相对较高的目标变形场,以提高得到的目标变形场的准确性和可靠性。
S204:根据目标变形场对待配准影像的像素点进行移动操作,得到目标配准影像。
结合上述分析可知,由于目标变形场具有较高的准确性和可靠性,因此,当基于目标变形场确定目标配准影像时,可以使得目标配准影像具有较高的准确性和可靠性。
示例性的,如图7所示,经本实施例的方法,可以基于待配准影像和配准参考影像得到目标配准影像,相对于待配准影像而言,目标配准影像具有较高的完整性和可靠性。
例如,如图7所示,以查阅图7的视角为基准,目标配准影像中包括待配准影像左上角缺失的内容。
同理,结合上述分析可知,本实施例的方法基于提取掩膜的方式实现,如图8所示,若基于待配准掩膜和配准参考掩膜,得到目标配准掩膜,则相对于待配准掩膜而言,目标配准掩膜具有较高的完整性和可靠性。
例如,如图8所示,以查阅图8的视角为基准,目标配准掩膜中包括待配准掩膜左上角缺失的内容。
值得说明的是,在一些实施例中,为了进一步提高影像配准的有效性和可靠性,待配准影像、配准参考影像、以及待配准影像和配准参考影像各自对应的掩膜,分别为预处理后的影像。
示例性的,在获取到待配准影像和配准参考影像之后,可以对待配准影像和配准参考影像进行预处理,以得到预处理后的待匹配图像、以及预处理后的配准参考影像。
相应的,提取掩膜时,为提取预处理后的待匹配图像、以及预处理后的配准参考影像各自对应的掩膜。
相应的,在得到目标配准影像之后,还需要对目标配准影像执行与预处理相反的操作。
同理,在提取到待配准掩膜和配准参考掩膜之后,可以对待配准掩膜和配准参考掩膜分别进行预处理,得到预处理后的待配准参考掩膜和预处理后的配准参考掩膜。
在一些实施例中,预处理包括预设像素值区间处理、割除影像黑边处理、提取感兴趣区域处理、调整分辨率处理中的一种或多种。
其中,像素值也可以称为灰度值,预设像素值区间处理可以理解为设定灰度值区间,如灰度值低于某下界阈值(可以基于需求、历史记录、以及试验等方式确定,本实施例不做限定)的置为0,灰度值高于上界阈值(可以基于需求、历史记录、以及试验等方式确定,本实施例不做限定)的置为255。
割除影像黑边处理,也可以称为去除影像黑边处理,可以理解为将影像中的黑边分别去除。本实施例对割除影像黑边处理的实现方法不做限定,例如,可以采用符号***实现,也可以采用自定义去除法实现,还可以采用工具去除法实现,等等,此处不再一一列举。
提取感兴趣区域处理,可以理解为从影像中分别提取部分重点关注的区域,如组织器官的区域。
调整分辨率,可以理解为将影像的分辨率分别进行调整,以使得两幅影像更优质,如提高影像的清晰程度。
在本实施例中,通过采用上述预处理的方式对待配准掩膜、配准参考掩膜、待配准掩膜、配准参考掩膜进行预处理,可以使得预处理后的四幅影像具有相同的尺寸,相对更为优质,且目标对象(如组织器官)在影像中的占比相对较大,以便于配准且便于配准后的分析。
在另一些实施例中,还可以采用神经网络模型的方式实现影像配准,例如,可以预先训练得到影像配准模型,以基于影像配准模型确定待配准影像的目标配准影像。现结合图9进行示范性地阐述。
其中,图9是本公开第三实施例的示意图,如图9所示,本公开实施例的影像配准方法包括:
S901:获取待配准影像和配准参考影像。
其中,待配准影像和配准参考影像分别包括目标对象。
同理,为了避免繁琐地陈述,关于本实施例与上述实施例相同的技术特征,本实施例不再赘述。
示例性的,待配准影像通过Imov表示,配准参考影像通过Ifix表示,相应的,如图10所示,获取Imov,Ifix。
S902:提取待配准影像中目标对象的待配准掩膜、以及配准参考影像中目标对象的配准参考掩膜。
示例性的,待配准掩膜通过Mmov表示,配准参考影像通过Mfix表示,相应的,如图10所示,提取Mmov,Mfix。
S903:将待配准掩膜和配准参考掩膜,输入至预先训练的影像配准模型,输出目标变形场。
示例性的,结合上述分析可知,在提取Mmov,Mfix之后,可以对Mmov,Mfix进行预处理,相应的,如图10所示提取Mmov,Mfix之后,还包括数据预处理。
如图10所示,将预处理后的Mmov,Mfix输入至影像配准模型,得到如图10所示的输出目标变形场
其中,影像配准模型是基于样本数据集训练得到的,样本数据集中包括样本待配准影像和样本配准参考影像,样本待配准影像和样本配准参考影像包括目标对象。
示例性的,可以基于样本待配准影像和样本配准参考影像,对基础网络模型进行训练,以训练基础网络模型具有预测目标变形场的能力,从而得到具有预测目标变形场的能力的影像配准模型。
相应的,当将待配准掩膜和配准参考掩膜输入至影像配准模型时,影像配准模型可以基于其预测目标变形场的能力,预测并输出目标变形场。
在本实施例中,通过结合神经网络模型的方式确定目标变形场,可以提高确定目标变形场的效率和智能化。
在一些实施例中,影像配准模型包括卷积神经网络和变形场变换层;S903可以包括如下步骤:
第一步骤:将待配准掩膜和配准参考掩膜,输入至卷积神经网络,输出初始变形场。其中,初始变形场用于表征像素点的初始移动信息。
第二步骤:将初始变形场输入至变形场变换层,输出目标变形场。
示例性的,卷积神经网络为U形卷积神经网络(U-shape Network),待配准掩膜和配准参考掩膜经过U形卷积神经网络,输出初始变形场初始变形场/>经过变形场变换层,输出目标变形场/>
例如,待配准掩膜是形如H,W,C的二维像素网格,或形如D,H,W,C的三维体素网格。其中,DHW代表空间维度,C代表通道数,W(width)为宽度,H(height)为高度,D(depth)为深度。
相应的,待配准掩膜的形如H,W,2或D,H,W,3的变形场可以理解为:对于像素/体素网格上的每一点,指示其要移动到的位置坐标。对于像素网格,这一坐标值由2个数值组成;对于体素网格,这一坐标值由3个数值组成。
经过变形场变换层输出的目标变形场具有“微分同胚”性质,即若基于初始变形场/>调整的待配准掩膜、以及配准参考掩膜之间的重合度称为第一重合度,基于目标变形场/>调整的待配准掩膜、以及配准参考掩膜之间的重合度称为第二重合度,则第二重合度高于第一重合度。
变形场变换层的实现原理可以理解为:根据初始变形场预测使得待配准掩膜更接近于配准参考掩膜的下一变形场;计算下一变形场下,待配准掩膜更接近于配准参考掩膜之间的相似性损失函数,依次类推,直至得到目标变形场/>在目标变形场/>下,待配准掩膜与配准参考掩膜之间的相似性损失函数趋近于0。
在本实施例中,通过结合卷积神经网络和变形场变换层,可以得到待配准掩膜与配准参考掩膜之间的相似性损失函数趋近于0的目标变形场,以使得目标变形场具有较高的准确性和有效性。
在一些实施例中,第一步骤可以包括如下子步骤:
第一子步骤:将待配准掩膜和配准参考掩膜,在影像配准模型的影像通道维度堆叠,得到堆叠信息。
示例性的,将待配准掩膜和配准参考掩膜,沿医学影像配准模型的影像通道维度叠加,得到既包括待配准掩膜的影像特征的堆叠信息,也包括配准参考掩膜的影像特征的堆叠信息。
本实施例对堆叠的方式不做限定,如可以通过拼接的方式实现,如获取待配准掩膜的影像特征(为便于区分,将该影像特征称为第一影像特征),获取配准参考掩膜的影像特征(为便于区分,将该影像特征称为第二影像特征),将第一影像特征和第二影像特征进行拼接,得到拼接后的影像特征(即堆叠信息)。
第二子步骤:将堆叠信息输入至卷积神经网络,输出初始变形场。
在本实施例中,通过将两幅掩膜(即待配准掩膜和配准参考掩膜)在影像通道维度堆叠,得到堆叠信息,以基于堆叠信息确定初始变形场,相当于从两幅掩膜各自对应的影像特征确定初始变形场,从而使得确定出的初始变形场具有较高的准确性和可靠性。
S904:根据目标变形场对待配准影像的像素点进行移动操作,得到目标配准影像。
示例性的,目标配准影像通过Imoved表示,相应的,如图10所示,结合目标变形场和Imov输出Imoved。
关于该步骤的实现原理,可以参阅上述实施例,此处不再赘述。
结合上述分析可知,可以预先训练影像配准模型,以基于影像配准模型实现影像配准。为使读者理解训练影像配准模型的原理,现结合图11对本公开的影像配准模型的训练方法进行示范性阐述。其中,图11是根据本公开第四实施例的示意图,如图11所示,本公开实施例的影像配准模型的训练方法包括:
S1101:获取样本数据集。
其中,样本数据集中包括样本待配准影像和样本配准参考影像,样本待配准影像和样本配准参考影像包括目标对象。
本实施例的影像配准模型的训练方法的执行主体可以为影像配准模型的训练装置(下文简称为训练装置),训练装置与上述配准装置可以为相同的装置,也可以为不同的装置,本实施例不做限定。
示例性的,若训练装置与配准装置为不同的装置,则训练装置与配准装置之间可以建立通信链路,训练装置训练得到影像配准模型之后,可以通过该通信链路,将影像配准模型传输给配准装置,相应的,配准装置接收到由训练装置传输的影像配准模型,从而实现如上任意实施例所述的影像配准方法。
应该理解的是,本实施例对样本数据集中的样本的数量不做限定,可以基于需求、历史记录、以及试验等方式确定。即本实施例对样本待配准影像和样本配准参考影像的数量不做限定。
同理,关于本实施例与上述实施例中相同或相似的技术特征,本实施例不再赘述。
例如,目标对象可以是相同的组织器官;又如,本实施例对样本待配准影像和样本配准参考影像的成像时间、成像来源、成像空间位置等不做限定;等等,此处不再一一列举。
S1102:分别提取样本待配准影像和样本配准参考影像各自对应的样本掩膜。
关于提取样本掩膜的方式,可以参阅上述实施例中提取掩膜的实现原理,此处不再赘述。
S1103:根据各自对应的样本掩膜,训练得到影像配准模型。
其中,影像配准模型用于确定待配准影像的目标配准影像。
同理,在实施例中,通过提取样本待配准影像和样本配准参考影像各自对应的样本掩膜,以基于提取到的各自对应的样本掩膜训练得到影像配准模型,无需强依赖于相同模态的影像,如用于影像配准的两幅医学影像可以为不同模态的影像,从而实现了影像配准的跨模态通用性,避免了繁琐的模态转换过程,提高了基于影像配准模型完成影像配准的效率、准确性及可靠性。
且在本实施例中,通过提取各自对应的样本掩膜,以基于各自对应的样本掩膜训练得到影像配准模型,可以避免在样本数据集中的数据量相对较少的情况下,影像配准模型过渡关注样本待配准影像和样本配准参考影像两幅影像的局部特征,而忽略全局特征的弊端,避免了因追求局部像素值差异最小化的影像配准模型无法实现有效影像配准的弊端,从而提高了训练的有效性和可靠性。
相应的,通过本公开的影像配准模型的训练方法,可以训练得到针对各组织器官各自对应的影像配准模型,以实现影像配准的针对性和准确性,且可以实现任意模态之间的影像配准。
为了便于读者更加深刻地理解本公开的影像配准模型的训练方法的实现原理,现结合图12进行详细阐述。其中,图12是根据本公开第五实施例的示意图,如图12所示,本公开实施例的影像配准模型的训练方法包括:
S1201:获取样本数据集。
其中,样本数据集中包括样本待配准影像和样本配准参考影像,样本待配准影像和样本配准参考影像分别包括目标对象。
同理,关于本实施例与上述实施例中相同或相似的技术特征,本实施例不再赘述。
在一些实施例中,影像配准模型应用于医学影像配准场景,目标对象为组织器官。
S1202:提取样本待配准影像中目标对象的样本待配准掩膜、以及样本配准参考影像中目标对象的样本配准参考掩膜。
关于S1202的实现原理,可以参阅S202的实现原理,此处不再赘述。
同理,在本实施例中,在分别对样本待配准影像和样本配准参考影像提取掩膜,以基于各自对应的样本掩膜进行影像配准模型的训练,可以从对肺叶的局部信息的关注转换为对肺叶的全局信息的关注,如避免过度关注于样本待配准影像与样本配准参考影像中的某一个或多个像素/体素网格的影像配准,从而提高影像配准模型训练的准确性、可靠性及有效性。
S1203:根据样本待配准掩膜和样本配准参考掩膜,确定样本目标变形场。
其中,样本目标变形场用于表征样本待配准掩膜中的像素点的样本目标移动信息。
关于S1203的实现原理,可以参阅S203的实现原理,此处不再赘述。
在一些实施例中,S1203可以包括如下步骤:
第一步骤:根据样本待配准掩膜和样本配准参考掩膜,生成样本初始变形场,其中,样本初始变形场用于表征样本待配准掩膜中的像素点的样本初始移动信息。
第二步骤:根据样本初始变形场预测得到,样本待配准掩膜与样本配准参考掩膜之间的相似性大于预设第二阈值的样本目标变形场。
同理,预设第二阈值可以基于需求、历史记录、以及试验等方式确定,本实施例不做限定。在一些实施例中,预设第一阈值可以等于预设第一阈值。
关于S1203中的第一步骤和第二步骤的实现原理,可以参阅S203中的第一步骤和第二步骤的实现原理,此处不再赘述。
同理,在本实施例中,通过先确定样本初始变形场,以基于样本初始变形场进行预测,以得到样本目标变形场,可以得到使得样本待配准掩膜与样本配准参考掩膜之间的重合度相对较高的样本目标变形场,以提高得到的样本目标变形场的准确性和可靠性。
在一些实施例中,初始网络模型包括初始卷积神经网络模型和初始变形场变换层;根据样本待配准掩膜和样本配准参考掩膜,生成样本初始变形场,包括如下子步骤:
第一子步骤:将样本待配准掩膜和样本配准参考掩膜,输入至初始卷积神经网络模型,输出样本初始变形场。
在一些实施例中,第一子步骤可以包括如下细化步骤:
第一细化步骤:将样本待配准掩膜和配准参考掩膜,基于样本影像配准模型的影像通道维度堆叠,得到样本堆叠信息。
第二细化步骤:将样本堆叠信息输入至初始卷积神经网络模型,输出样本初始变形场。
第二子步骤:将样本初始变形场输入至初始变形场变换层,输出样本目标变形场。
关于第一子步骤和第二子步骤的实现原理,可以参阅第三实施例中,基于卷积神经网络模型输出初始变形场,基于变形场变换层输出目标变形场的实现原理,此处不再赘述。
同理,在本实施例中,通过结合初始卷积神经网络和初始变形场变换层,可以得到样本待配准掩膜与样本配准参考掩膜之间的相似性损失函数趋近于0的样本目标变形场,以使得样本目标变形场具有较高的准确性和有效性。
S1204:根据样本目标变形场、样本待配准掩膜、以及样本配准参考掩膜,构建损失函数,并基于损失函数对初始网络模型进行优化直至收敛,得到影像配准模型。
在本实施例中,由于样本目标变形场具有较高的准确性和可靠性,且样本配准掩膜和样本配准参考掩膜相对更加关注影像的整体信息,因此,通过结合样本目标变形场、样本待配准掩膜、以及样本配准参考掩膜,训练得到的影像配准模型具有较高的准确性和可靠性。
在一些实施例中,损失函数L可以基于式1表示,式1:
其中,为样本目标变形场,·为根据样本变形场移动样本待配准掩膜中的像素点的移动操作,Mfix为样本配准参考掩膜,α为预设权重系数(同理,可以基于需求、历史记录、以及试验等方式确定,如α为0.01)。
在一些实施例中,基于损失函数对初始网络模型进行优化直至收敛,得到医学影像配准模型,包括:
基于损失函数,对初始卷积神经网络模型和初始变形场变换层的参数进行调整,直至达到预设迭代次数或者损失函数小于预设第三阈值,得到影像配准模型。
同理,预设迭代次数可以和第三阈值可以基于需求、历史记录、以及试验等方式确定,本实施例不做限定。
示例性的,若损失函数小于第三阈值,则说明当前的样本待配准掩膜与样本配准参考掩膜之间的重合度较高,影像配准模型具有较强的预测目标变形场的能力,以当基于影像配准模型确定目标配准影像时,使得目标配准影像与配准参考影像之间高度重合。
同理,为了进一步提高影像配准模型的训练的有效性和可靠性,样本待配准影像、样本配准参考影像、以及样本待配准影像和样本配准参考影像各自对应的样本掩膜,分别为预处理后的影像。
预处理包括预设像素值区间处理、割除影像黑边处理、提取感兴趣区域处理、调整分辨率处理中的一种或多种。
关于预处理的实现原理,可以参阅第二实施例中预处理的实现原理,此处不再赘述。
根据本公开的另一个方面,本公开还提供了一种影像配准装置。
请参阅图13,图13是根据本公开第六实施例的示意图,如图13所示,本公开实施例的影像配装置1300,包括:
第一获取单元1301,用于获取待配准影像和配准参考影像,其中,所述待配准影像和所述配准参考影像分别包括目标对象。
第一提取单元1302,用于分别提取所述待配准影像和所述配准参考影像各自对应的掩膜。
生成单元1303,用于根据所述各自对应的掩膜,生成所述待配准影像的目标配准影像。
请参阅图14,图14是根据本公开第七实施例的示意图,如图14所示,本公开实施例的影像配装置1400,包括:
第一获取单元1401,用于获取待配准影像和配准参考影像,其中,所述待配准影像和所述配准参考影像分别包括目标对象。
第一提取单元1402,用于分别提取所述待配准影像和所述配准参考影像各自对应的掩膜。
在一些实施例中,第一提取单元1402用于,提取所述待配准影像中所述目标对象的待配准掩膜、以及所述配准参考影像中所述目标对象的配准参考掩膜。
其中,所述各自对应的掩膜包括所述待配准掩膜和所述配准参考掩膜。
生成单元1403,用于根据所述各自对应的掩膜,生成所述待配准影像的目标配准影像。
结合图14可知,在一些实施例中,生成单元1403可以包括:
第一确定子单元14031,用于根据所述待配准掩膜和所述配准参考掩膜,确定目标变形场,其中,所述目标变形场用于表征所述待配准影像中的像素点的目标移动信息。
在一些实施例中,第一确定子单元14031,包括:
第一生成模块,用于根据所述待配准掩膜和所述配准参考掩膜,生成初始变形场,其中,所述初始变形场用于表征所述待配准影像中的像素点的初始移动信息。
第一预测模块,用于根据所述初始变形场预测得到,所述待配准掩膜与所述配准参考掩膜之间的相似性大于预设第一阈值的所述目标变形场。
在一些实施例中,第一确定子单元14031用于,将所述待配准掩膜和所述配准参考掩膜,输入至预先训练的影像配准模型,输出所述目标变形场。
其中,所述影像配准模型是基于样本数据集训练得到的,所述样本数据集中包括样本待配准影像和样本配准参考影像,所述样本待配准影像和所述样本配准参考影像分别包括所述目标对象。
在一些实施例中,影像配准模型包括卷积神经网络和变形场变换层;所述第一确定子单元14031,包括:
第一输入模块,用于将所述待配准掩膜和所述配准参考掩膜,输入至所述卷积神经网络,输出初始变形场,其中,所述初始变形场用于表征所述待配准影像中的像素点的初始移动信息。
在一些实施例中,第一输入模块,包括:
堆叠子模块,用于将所述待配准掩膜和所述配准参考掩膜,在所述影像配准模型的影像通道维度堆叠,得到堆叠信息。
第一输入子模块,用于将所述堆叠信息输入至所述卷积神经网络,输出所述初始变形场。
第二输入模块,用于将所述初始变形场输入至所述变形场变换层,输出所述目标变形场。
移动子单元14032,用于根据所述目标变形场对所述待配准影像的像素点进行移动操作,得到所述目标配准影像。
在一些实施例中,待配准影像、所述配准参考影像、所述各自对应的掩膜,分别为预处理后的影像。
相应的,影像配准装置1400还包括:操作单元1404,用于对所述目标配准影像执行与所述预处理相反的操作。
在一些实施例中,预处理包括预设像素值区间处理、割除影像黑边处理、提取感兴趣区域处理、调整分辨率处理中的一种或多种。
在一些实施例中,影像配准方法应用于医学影像配准场景,所述目标对象为组织器官。
根据本公开的另一个方面,本公开还提供了一种影像配准模型的训练装置。
请参阅图15,图15是根据本公开第八实施例的示意图,如图15所示,本公开实施例的影像配模型的训练装置1500,包括:
第二获取单元1501,用于获取样本数据集,其中,所述样本数据集中包括样本待配准影像和样本配准参考影像,所述样本待配准影像和所述样本配准参考影像分别包括目标对象。
第二提取单元1502,用于分别提取所述样本待配准影像和所述样本配准参考影像各自对应的样本掩膜。
训练单元1503,用于根据所述各自对应的样本掩膜,训练得到影像配准模型,其中,所述影像配准模型用于确定待配准影像的目标配准影像。
请参阅图16,图16是根据本公开第九实施例的示意图,如图16所示,本公开实施例的影像配模型的训练装置1600,包括:
第二获取单元1601,用于获取样本数据集,其中,所述样本数据集中包括样本待配准影像和样本配准参考影像,所述样本待配准影像和所述样本配准参考影像分别包括目标对象。
第二提取单元1602,用于分别提取所述样本待配准影像和所述样本配准参考影像各自对应的样本掩膜。
在一些实施例中,第二提取单元1602用于,提取所述样本待配准影像中所述目标对象的样本待配准掩膜、以及所述样本配准参考影像中所述目标对象的样本配准参考掩膜,所述各自对应的样本掩膜包括所述样本待配准掩膜和所述样本配准参考掩膜。
在一些实施例中,样本待配准影像、所述样本配准参考影像、所述各自对应的样本掩膜,分别为预处理后的影像。
以及,所述第二提取单元1602用于,分别提取所述预处理后的样本待匹配图像、以及所述预处理后的样本配准参考影像的各自对应的样本掩膜。
训练单元1603,用于根据所述各自对应的样本掩膜,训练得到影像配准模型,其中,所述影像配准模型用于确定待配准影像的目标配准影像。
结合图16可知,在一些实施例中,训练单元1603,包括:
第二确定子单元16031,用于根据所述样本待配准掩膜和所述样本配准参考掩膜,确定样本目标变形场,其中,所述样本目标变形场用于表征所述样本待配准掩膜中的像素点的样本目标移动信息。
在一些实施例中,第二确定子单元16031,包括:
第二生成模块,用于根据所述样本待配准掩膜和所述样本配准参考掩膜,生成样本初始变形场,其中,所述样本初始变形场用于表征所述样本待配准掩膜中的像素点的样本初始移动信息。
第二预测模块,用于根据所述样本初始变形场预测得到,所述样本待配准掩膜与所述样本配准参考掩膜之间的相似性大于预设第二阈值的所述样本目标变形场。
在一些实施例中,初始网络模型包括初始卷积神经网络模型和初始变形场变换层;所述第二生成模块用于,将所述样本待配准掩膜和所述样本配准参考掩膜,输入至所述初始卷积神经网络模型,输出所述样本初始变形场。
以及,所述第二预测模块用于,将所述样本初始变形场输入至所述初始变形场变换层,输出所述样本目标变形场。
在一些实施例中,第二生成模块,包括:
第二堆叠子模块,用于将所述样本待配准掩膜和所述配准参考掩膜,在所述样本影像配准模型的影像通道维度堆叠,得到样本堆叠信息。
第二输入子模块,用于将所述样本堆叠信息输入至所述初始卷积神经网络模型,输出所述样本初始变形场。
构建子单元16032,用于根据所述样本目标变形场、所述样本待配准掩膜、以及所述样本配准参考掩膜,构建损失函数。
优化子单元16033,用于基于所述损失函数对初始网络模型进行优化直至收敛,得到所述影像配准模型。
在一些实施例中,优化子单元16033用于,基于所述损失函数,对所述初始卷积神经网络模型和所述初始变形场变换层各自对应的参数进行调整,直至达到预设迭代次数或者所述损失函数小于预设第三阈值,得到所述影像配准模型。
在一些实施例中,影像配准模型应用于医学影像配准场景,所述目标对象为组织器官。
图17是根据本公开第十实施例的示意图,如图17所示,本公开中的电子设备1700可以包括:处理器1701和存储器1702。
存储器1702,用于存储程序;存储器1702,可以包括易失性存储器(英文:volatilememory),例如随机存取存储器(英文:random-access memory,缩写:RAM),如静态随机存取存储器(英文:static random-access memory,缩写:SRAM),双倍数据率同步动态随机存取存储器(英文:Double Data Rate Synchronous Dynamic Random Access Memory,缩写:DDR SDRAM)等;存储器也可以包括非易失性存储器(英文:non-volatile memory),例如快闪存储器(英文:flash memory)。存储器1702用于存储计算机程序(如实现上述方法的应用程序、功能模块等)、计算机指令等,上述的计算机程序、计算机指令等可以分区存储在一个或多个存储器1702中。并且上述的计算机程序、计算机指令、数据等可以被处理器1701调用。
上述的计算机程序、计算机指令等可以分区存储在一个或多个存储器1702中。并且上述的计算机程序、计算机指据等可以被处理器1701调用。
处理器1701,用于执行存储器1702存储的计算机程序,以实现上述实施例涉及的方法中的各个步骤。
具体可以参阅前面方法实施例中的相关描述。
处理器1701和存储器1702可以是独立结构,也可以是集成在一起的集成结构。当处理器1701和存储器1702是独立结构时,存储器1702、处理器1701可以通过总线1703耦合连接。
本实施例的电子设备可以执行上述方法中的技术方案,其具体实现过程和技术原理相同,此处不再赘述。
需要说明的是,尤其是本公开影像配准方法和影像配准模型的训练方法应用于医学影像配准场景时,本实施例中的影像并不是针对某一特定用户的影像,并不能反映出某一特定用户的个人信息。需要说明的是,本实施例中的影像来自于公开数据集。
本公开的技术方案中,所涉及的用户个人信息(如包括目标对象的影像等)的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
根据本公开的实施例,本公开还提供了一种计算机程序产品,计算机程序产品包括:计算机程序,计算机程序存储在可读存储介质中,电子设备的至少一个处理器可以从可读存储介质读取计算机程序,至少一个处理器执行计算机程序使得电子设备执行上述任一实施例提供的方案。
图18示出了可以用来实施本公开的实施例的示例电子设备1800的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图18所示,设备1800包括计算单元1801,其可以根据存储在只读存储器(ROM)1802中的计算机程序或者从存储单元1808加载到随机访问存储器(RAM)1803中的计算机程序,来执行各种适当的动作和处理。在RAM 1803中,还可存储设备1800操作所需的各种程序和数据。计算单元1801、ROM 1802以及RAM 1803通过总线1804彼此相连。输入/输出(I/O)接口1805也连接至总线1804。
设备1800中的多个部件连接至I/O接口1805,包括:输入单元1806,例如键盘、鼠标等;输出单元1807,例如各种类型的显示器、扬声器等;存储单元1808,例如磁盘、光盘等;以及通信单元1809,例如网卡、调制解调器、无线通信收发机等。通信单元1809允许设备1800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1801执行上文所描述的各个方法和处理,例如影像配准方法、影像配准模型的训练方法。例如,在一些实施例中,影像配准方法、影像配准模型的训练方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1802和/或通信单元1809而被载入和/或安装到设备1800上。当计算机程序加载到RAM 1803并由计算单元1801执行时,可以执行上文描述的影像配准方法、影像配准模型的训练方法的一个或多个步骤。备选地,在其他实施例中,计算单元1801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行影像配准方法、影像配准模型的训练方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (28)
1.一种影像配准方法,包括:
获取待配准影像和配准参考影像,其中,所述待配准影像和所述配准参考影像分别包括目标对象;
分别提取所述待配准影像和所述配准参考影像各自对应的掩膜;所述各自对应的掩膜包括待配准掩膜和配准参考掩膜;
根据所述各自对应的掩膜,生成所述待配准影像的目标配准影像;
所述根据所述各自对应的掩膜,生成所述待配准影像的目标配准影像,包括:
将所述待配准掩膜和所述配准参考掩膜,输入至预先训练的影像配准模型,输出目标变形场,其中,所述目标变形场用于表征所述待配准影像中的像素点的目标移动信息;
根据所述目标变形场对所述待配准影像的像素点进行移动操作,得到所述目标配准影像;
所述影像配准模型包括卷积神经网络和变形场变换层;
所述将所述待配准掩膜和所述配准参考掩膜,输入至预先训练的影像配准模型,输出所述目标变形场,包括:
将所述待配准掩膜和所述配准参考掩膜,输入至所述卷积神经网络,输出初始变形场,其中,所述初始变形场用于表征所述待配准影像中的像素点的初始移动信息;
将所述初始变形场输入至所述变形场变换层,输出所述目标变形场。
2.根据权利要求1所述的方法,其中,所述分别提取所述待配准影像和所述配准参考影像各自对应的掩膜,包括:
提取所述待配准影像中所述目标对象的待配准掩膜、以及所述配准参考影像中所述目标对象的配准参考掩膜。
3.根据权利要求2所述的方法,其中,所述影像配准模型是基于样本数据集训练得到的,所述样本数据集中包括样本待配准影像和样本配准参考影像,所述样本待配准影像和所述样本配准参考影像分别包括所述目标对象。
4.根据权利要求3所述的方法,其中,所述将所述待配准掩膜和所述配准参考掩膜,输入至所述卷积神经网络,输出初始变形场,包括:
将所述待配准掩膜和所述配准参考掩膜,在所述影像配准模型的影像通道维度堆叠,得到堆叠信息;
将所述堆叠信息输入至所述卷积神经网络,输出所述初始变形场。
5.根据权利要求1-4中任一项所述的方法,其中,所述待配准影像、所述配准参考影像、所述各自对应的掩膜,分别为预处理后的影像;
以及,在所述根据所述各自对应的掩膜,生成所述待配准影像的目标配准影像之后,还包括:对所述目标配准影像执行与所述预处理相反的操作。
6.根据权利要求5所述的方法,其中,所述预处理包括预设像素值区间处理、割除影像黑边处理、提取感兴趣区域处理、调整分辨率处理中的一种或多种。
7.根据权利要求1-4,6中任一项所述的方法,其中,所述影像配准方法应用于医学影像配准场景,所述目标对象为组织器官。
8.一种影像配准模型的训练方法,包括:
获取样本数据集,其中,所述样本数据集中包括样本待配准影像和样本配准参考影像,所述样本待配准影像和所述样本配准参考影像分别包括目标对象;
分别提取所述样本待配准影像和所述样本配准参考影像各自对应的样本掩膜;所述各自对应的样本掩膜包括样本待配准掩膜和样本配准参考掩膜;
根据所述样本待配准掩膜和所述样本配准参考掩膜,确定样本目标变形场,其中,所述样本目标变形场用于表征所述样本待配准掩膜中的像素点的样本目标移动信息;
根据所述样本目标变形场、所述样本待配准掩膜、以及所述样本配准参考掩膜,构建损失函数,并基于所述损失函数对初始网络模型进行优化直至收敛,得到影像配准模型,其中,所述影像配准模型用于确定待配准影像的目标配准影像,所述初始网络模型包括初始卷积神经网络模型和初始变形场变换层;
所述根据所述样本待配准掩膜和所述样本配准参考掩膜,确定样本目标变形场,包括:
将所述样本待配准掩膜和所述样本配准参考掩膜,输入至所述初始卷积神经网络模型,输出样本初始变形场,其中,所述样本初始变形场用于表征所述样本待配准掩膜中的像素点的样本初始移动信息;
将所述样本初始变形场输入至所述初始变形场变换层,输出所述样本目标变形场。
9.根据权利要求8所述的方法,所述分别提取所述样本待配准影像和所述样本配准参考影像各自对应的样本掩膜,包括:
提取所述样本待配准影像中所述目标对象的样本待配准掩膜、以及所述样本配准参考影像中所述目标对象的样本配准参考掩膜。
10.根据权利要求9所述的方法,其中,所述基于所述损失函数对初始网络模型进行优化直至收敛,得到所述影像配准模型,包括:
基于所述损失函数,对所述初始卷积神经网络模型和所述初始变形场变换层各自对应的参数进行调整,直至达到预设迭代次数或者所述损失函数小于预设第三阈值,得到所述影像配准模型。
11.根据权利要求9或10所述的方法,其中,所述将所述样本待配准掩膜和所述样本配准参考掩膜,输入至所述初始卷积神经网络模型,输出所述样本初始变形场,包括:
将所述样本待配准掩膜和所述配准参考掩膜,在所述样本影像配准模型的影像通道维度堆叠,得到样本堆叠信息;
将所述样本堆叠信息输入至所述初始卷积神经网络模型,输出所述样本初始变形场。
12.根据权利要求8-10中任一项所述的方法,其中,所述样本待配准影像、所述样本配准参考影像、所述各自对应的样本掩膜,分别为预处理后的影像;
以及,所述分别提取所述样本待配准影像和所述样本配准参考影像的各自对应的样本掩膜,包括:分别提取所述预处理后的样本待匹配图像、以及所述预处理后的样本配准参考影像的各自对应的样本掩膜。
13.根据权利要求8-10中任一项所述的方法,其中,所述影像配准模型应用于医学影像配准场景,所述目标对象为组织器官。
14.一种影像配准装置,包括:
第一获取单元,用于获取待配准影像和配准参考影像,其中,所述待配准影像和所述配准参考影像分别包括目标对象;
第一提取单元,用于分别提取所述待配准影像和所述配准参考影像各自对应的掩膜;所述各自对应的掩膜包括待配准掩膜和配准参考掩膜;
生成单元,用于根据所述各自对应的掩膜,生成所述待配准影像的目标配准影像;
所述生成单元,包括:
第一确定子单元,用于将所述待配准掩膜和所述配准参考掩膜,输入至预先训练的影像配准模型,输出目标变形场,其中,所述目标变形场用于表征所述待配准影像中的像素点的目标移动信息;
移动子单元,用于根据所述目标变形场对所述待配准影像的像素点进行移动操作,得到所述目标配准影像;
所述影像配准模型包括卷积神经网络和变形场变换层;
所述第一确定子单元,包括:
第一输入模块,用于将所述待配准掩膜和所述配准参考掩膜,输入至所述卷积神经网络,输出初始变形场,其中,所述初始变形场用于表征所述待配准影像中的像素点的初始移动信息;
第二输入模块,用于将所述初始变形场输入至所述变形场变换层,输出所述目标变形场。
15.根据权利要求14所述的装置,其中,所述提取单元用于,提取所述待配准影像中所述目标对象的待配准掩膜、以及所述配准参考影像中所述目标对象的配准参考掩膜。
16.根据权利要求15所述的装置,其中,所述影像配准模型是基于样本数据集训练得到的,所述样本数据集中包括样本待配准影像和样本配准参考影像,所述样本待配准影像和所述样本配准参考影像分别包括所述目标对象。
17.根据权利要求16所述的装置,其中,所述第一输入模块,包括:
堆叠子模块,用于将所述待配准掩膜和所述配准参考掩膜,在所述影像配准模型的影像通道维度堆叠,得到堆叠信息;
第一输入子模块,用于将所述堆叠信息输入至所述卷积神经网络,输出所述初始变形场。
18.根据权利要求14-17中任一项所述的装置,其中,所述待配准影像、所述配准参考影像、所述各自对应的掩膜,分别为预处理后的影像;
以及,所述装置还包括:操作单元,用于对所述目标配准影像执行与所述预处理相反的操作。
19.根据权利要求18所述的装置,其中,所述预处理包括预设像素值区间处理、割除影像黑边处理、提取感兴趣区域处理、调整分辨率处理中的一种或多种。
20.根据权利要求14-17,19中任一项所述的装置,其中,所述影像配准装置应用于医学影像配准场景,所述目标对象为组织器官。
21.一种影像配准模型的训练装置,包括:
第二获取单元,用于获取样本数据集,其中,所述样本数据集中包括样本待配准影像和样本配准参考影像,所述样本待配准影像和所述样本配准参考影像分别包括目标对象;
第二提取单元,用于分别提取所述样本待配准影像和所述样本配准参考影像各自对应的样本掩膜;所述各自对应的样本掩膜包括样本待配准掩膜和样本配准参考掩膜;
训练单元,包括:
第二确定子单元,用于根据所述样本待配准掩膜和所述样本配准参考掩膜,确定样本目标变形场,其中,所述样本目标变形场用于表征所述样本待配准掩膜中的像素点的样本目标移动信息;
构建子单元,用于根据所述样本目标变形场、所述样本待配准掩膜、以及所述样本配准参考掩膜,构建损失函数;
优化子单元,用于基于所述损失函数对初始网络模型进行优化直至收敛,得到影像配准模型,其中,所述影像配准模型用于确定待配准影像的目标配准影像,所述初始网络模型包括初始卷积神经网络模型和初始变形场变换层;
所述第二确定子单元,包括:
第二生成模块,用于将所述样本待配准掩膜和所述样本配准参考掩膜,输入至所述初始卷积神经网络模型,输出样本初始变形场,其中,所述样本初始变形场用于表征所述样本待配准掩膜中的像素点的样本初始移动信息;
第二预测模块,用于将所述样本初始变形场输入至所述初始变形场变换层,输出所述样本目标变形场。
22.根据权利要求21所述的装置,所述第二提取单元用于,提取所述样本待配准影像中所述目标对象的样本待配准掩膜、以及所述样本配准参考影像中所述目标对象的样本配准参考掩膜。
23.根据权利要求22所述的装置,其中,所述优化子单元用于,基于所述损失函数,对所述初始卷积神经网络模型和所述初始变形场变换层各自对应的参数进行调整,直至达到预设迭代次数或者所述损失函数小于预设第三阈值,得到所述影像配准模型。
24.根据权利要求22或23所述的装置,其中,所述第二生成模块,包括:
第二堆叠子模块,用于将所述样本待配准掩膜和所述配准参考掩膜,在所述样本影像配准模型的影像通道维度堆叠,得到样本堆叠信息;
第二输入子模块,用于将所述样本堆叠信息输入至所述初始卷积神经网络模型,输出所述样本初始变形场。
25.根据权利要求21-23中任一项所述的装置,其中,所述样本待配准影像、所述样本配准参考影像、所述各自对应的样本掩膜,分别为预处理后的影像;
以及,所述第二提取单元用于,分别提取所述预处理后的样本待匹配图像、以及所述预处理后的样本配准参考影像的各自对应的样本掩膜。
26.根据权利要求21-23中任一项所述的装置,其中,所述影像配准模型应用于医学影像配准场景,所述目标对象为组织器官。
27. 一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法;或者,以使所述至少一个处理器能够执行权利要求8-13中任一项所述的方法。
28.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法;或者,所述计算机指令用于使所述计算机执行根据权利要求8-13中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211413390.6A CN115908515B (zh) | 2022-11-11 | 2022-11-11 | 影像配准方法、影像配准模型的训练方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211413390.6A CN115908515B (zh) | 2022-11-11 | 2022-11-11 | 影像配准方法、影像配准模型的训练方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115908515A CN115908515A (zh) | 2023-04-04 |
CN115908515B true CN115908515B (zh) | 2024-02-13 |
Family
ID=86473732
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211413390.6A Active CN115908515B (zh) | 2022-11-11 | 2022-11-11 | 影像配准方法、影像配准模型的训练方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115908515B (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103226837A (zh) * | 2013-05-21 | 2013-07-31 | 南方医科大学 | 一种观察子宫肿瘤放疗总剂量的分布图像的生成方法 |
CN109767460A (zh) * | 2018-12-27 | 2019-05-17 | 上海商汤智能科技有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
CN109767461A (zh) * | 2018-12-28 | 2019-05-17 | 上海联影智能医疗科技有限公司 | 医学影像配准方法、装置、计算机设备和存储介质 |
CN110992411A (zh) * | 2019-12-04 | 2020-04-10 | 图玛深维医疗科技(北京)有限公司 | 图像配准模型的训练方法和装置 |
CN111210467A (zh) * | 2018-12-27 | 2020-05-29 | 上海商汤智能科技有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
CN113506331A (zh) * | 2021-06-29 | 2021-10-15 | 武汉联影智融医疗科技有限公司 | 组织器官的配准方法、装置、计算机设备和存储介质 |
CN113610752A (zh) * | 2021-06-15 | 2021-11-05 | 上海联影智能医疗科技有限公司 | 乳腺图像配准方法、计算机设备和存储介质 |
CN113989110A (zh) * | 2021-11-19 | 2022-01-28 | 武汉联影智融医疗科技有限公司 | 肺部图像配准方法、装置、计算机设备和存储介质 |
CN114549594A (zh) * | 2022-02-22 | 2022-05-27 | 上海联影智能医疗科技有限公司 | 图像配准方法、装置和电子设备 |
CN114565554A (zh) * | 2022-01-11 | 2022-05-31 | 浙江工业大学 | 一种基于超声冠状面图像的x光图像配准方法及装置 |
CN115222780A (zh) * | 2022-07-28 | 2022-10-21 | 西安电子科技大学 | 基于语义掩膜的跨模态大形变图像配准方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10489940B2 (en) * | 2017-09-05 | 2019-11-26 | Cardiovascular Imaging Technolgies, L.L.C. | System and computer-implemented method for improving image quality |
-
2022
- 2022-11-11 CN CN202211413390.6A patent/CN115908515B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103226837A (zh) * | 2013-05-21 | 2013-07-31 | 南方医科大学 | 一种观察子宫肿瘤放疗总剂量的分布图像的生成方法 |
CN109767460A (zh) * | 2018-12-27 | 2019-05-17 | 上海商汤智能科技有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
CN111210467A (zh) * | 2018-12-27 | 2020-05-29 | 上海商汤智能科技有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
CN109767461A (zh) * | 2018-12-28 | 2019-05-17 | 上海联影智能医疗科技有限公司 | 医学影像配准方法、装置、计算机设备和存储介质 |
CN110992411A (zh) * | 2019-12-04 | 2020-04-10 | 图玛深维医疗科技(北京)有限公司 | 图像配准模型的训练方法和装置 |
CN113610752A (zh) * | 2021-06-15 | 2021-11-05 | 上海联影智能医疗科技有限公司 | 乳腺图像配准方法、计算机设备和存储介质 |
CN113506331A (zh) * | 2021-06-29 | 2021-10-15 | 武汉联影智融医疗科技有限公司 | 组织器官的配准方法、装置、计算机设备和存储介质 |
CN113989110A (zh) * | 2021-11-19 | 2022-01-28 | 武汉联影智融医疗科技有限公司 | 肺部图像配准方法、装置、计算机设备和存储介质 |
CN114565554A (zh) * | 2022-01-11 | 2022-05-31 | 浙江工业大学 | 一种基于超声冠状面图像的x光图像配准方法及装置 |
CN114549594A (zh) * | 2022-02-22 | 2022-05-27 | 上海联影智能医疗科技有限公司 | 图像配准方法、装置和电子设备 |
CN115222780A (zh) * | 2022-07-28 | 2022-10-21 | 西安电子科技大学 | 基于语义掩膜的跨模态大形变图像配准方法 |
Non-Patent Citations (2)
Title |
---|
4D CT图像的肺部呼吸运动估计;苏坡;薛忠;杨建华;;数据采集与处理(第05期);全文 * |
基于无监督学习的三维医学图像配准的研究;马英君;中国优秀硕士论文电子期刊网;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN115908515A (zh) | 2023-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11954863B2 (en) | Image segmentation method and apparatus, diagnosis system, storage medium, and computer device | |
CN110458939B (zh) | 基于视角生成的室内场景建模方法 | |
US10867436B2 (en) | Systems and methods for reconstruction of 3D anatomical images from 2D anatomical images | |
US11288813B2 (en) | Systems and methods for anatomic structure segmentation in image analysis | |
US8358819B2 (en) | System and methods for image segmentation in N-dimensional space | |
US7995810B2 (en) | System and methods for image segmentation in n-dimensional space | |
US8571278B2 (en) | System and methods for multi-object multi-surface segmentation | |
KR20210002606A (ko) | 의료 영상 처리 방법 및 장치, 전자 기기 및 저장 매체 | |
CN111105424A (zh) | ***自动勾画方法及装置 | |
Khan et al. | A methodological review of 3D reconstruction techniques in tomographic imaging | |
JP7214434B2 (ja) | 医用画像処理装置及び医用画像処理プログラム | |
CN111798424B (zh) | 一种基于医学图像的结节检测方法、装置及电子设备 | |
WO2018112137A1 (en) | System and method for image segmentation using a joint deep learning model | |
EP4075389A1 (en) | Three-dimensional reconstruction method, apparatus and system, and storage medium | |
Cheng et al. | Fully automated prostate whole gland and central gland segmentation on MRI using holistically nested networks with short connections | |
CN113450396A (zh) | 基于骨骼特征的三维/二维图像配准方法及装置 | |
CN113888566B (zh) | 目标轮廓曲线确定方法、装置、电子设备以及存储介质 | |
CN115908515B (zh) | 影像配准方法、影像配准模型的训练方法及装置 | |
CN113129297B (zh) | 基于多期相肿瘤影像的直径自动测量方法及*** | |
US11295451B2 (en) | Robust pulmonary lobe segmentation | |
CN114514558A (zh) | 分割管状特征 | |
CN114787867A (zh) | 用于医学图像配准的器官变形补偿 | |
US11783501B2 (en) | Method and apparatus for determining image depth information, electronic device, and media | |
Khan et al. | Transformative Deep Neural Network Approaches in Kidney Ultrasound Segmentation: Empirical Validation with an Annotated Dataset | |
CN118334238A (zh) | 基于点云生成的心脏三维建模方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |