CN102883651B - 可应用于支气管镜引导的基于图像的全局配准***和方法 - Google Patents
可应用于支气管镜引导的基于图像的全局配准***和方法 Download PDFInfo
- Publication number
- CN102883651B CN102883651B CN201180017623.4A CN201180017623A CN102883651B CN 102883651 B CN102883651 B CN 102883651B CN 201180017623 A CN201180017623 A CN 201180017623A CN 102883651 B CN102883651 B CN 102883651B
- Authority
- CN
- China
- Prior art keywords
- branch
- view
- bronchoscope
- trachea
- search
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/267—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the respiratory tract, e.g. laryngoscopes, bronchoscopes
- A61B1/2676—Bronchoscopes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/754—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries involving a deformation of the sample pattern or of the reference pattern; Elastic matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
- G06V20/647—Three-dimensional objects by matching two-dimensional images to three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
- G06V20/653—Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30061—Lung
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Surgery (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Pulmonology (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Animal Behavior & Ethology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Optics & Photonics (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Molecular Biology (AREA)
- Heart & Thoracic Surgery (AREA)
- Software Systems (AREA)
- Signal Processing (AREA)
- Otolaryngology (AREA)
- Physiology (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- Endoscopes (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Image Processing (AREA)
Abstract
一种全局配准***和方法可识别支气管镜的位置,无需大量支气管镜操纵、技术人员介入或者电磁传感器。可以获得3D气管树形式的仿真支气管镜检查(VB)绘图,包括所述气管树中的分支位置的VB视图。从***到所述气管树的支气管镜接收至少一幅真实支气管镜(RB)视频图像。在计算机上执行本发明的算法,以识别VB视图最接近所接收到的RB视图的几个最可能的支气管位置,并且根据在所述VB视图中识别的分支位置可确定支气管镜在所述气管树中的3D位置。优选的实施方案涉及对整个气管分岔搜索空间中的所有分支进行快速局部配准搜索,将加权归一化的距离度量值平方和用于发现最佳匹配。
Description
政府支持
本发明是在美国国立卫生研究院国家癌症研究所资助的基金R01-CA074325下由美国政府支持完成的。美国政府享有本发明的某些权利。
相关专利申请的交叉引用
本申请要求2010年1月28日提交的第61/299,194号和2010年2月3日提交的第61/300,969号美国临时专利申请的优先权,这两个临时专利申请以引用的方式全文纳入本说明书。
技术领域
本发明主要涉及到支气管镜检查,具体地涉及到一种全局配准***和方法,其可以用在基于图像的支气管镜引导***及其他应用中,包括其他类型的内窥镜检查操作。
背景技术
支气管镜检查是一种通常用于肺癌评估的医疗操作[1]。肺癌评估包括两个主要阶段[2,3,4]:1)三维(3D)的多排计算断层照相法(MDCT)图像评估;2)实时支气管镜检查。在MDCT评估过程中,医生使用从患者的MDCT扫描获得的二维(2D)横向切片来识别感兴趣的具体诊断区域(ROI),例如***和可疑结节[5,6,7]。在这一步骤中,医生还可确定达每个ROI的最近路径并使用2D切片思考设计3D路径。在支气管镜检查过程中,医生操纵柔软的支气管镜沿着心中预先思考设计的确定路径穿过肺气管到达每个ROI。这是通过沿从所述支气管镜检查获得的实时腔内视频输送的路径识别分岔来完成的。这种基于人工的路径设计操作被证明很具挑战性,会在早至第二次气道分叉的时就导致支气管镜检查错误[8,9]。
图像引导的支气管镜检查引导***使得支气管镜检查更精确[4,10,11,12,13]。这些***受仿真支气管镜检查(VB)启发,其中以人胸部的3DMDCT图像作为“仿真环境”[14,15,16]。软件定义的虚拟照相机在所述仿真环境中穿过肺部并呈现出3D数据的腔内绘图,也称为VB图像。为了有利于支气管镜检查过程中的引导,所有支气管镜检查引导***都要依赖某些方法,用于将3D外科手术空间的真实支气管镜图像对3DMDCT仿真空间进行配准。基于用于配准的传感器类型,支气管镜检查引导***可以是电磁的(EM)或基于图像的[3,4,11,12,13,15,16,17,18]。
基于EM的引导***由以下部分组成:1)EM场发生器;2)可操纵的EM探针;和3)引导软件[12,13,17]。所述EM场发生器可产生环绕患者胸部的EM场。然后通过所述支气管镜的工作通道***所述可操纵的EM探针,并在外部EM场中对其进行跟踪。在支气管镜检查开始前,使用所述可操纵的探针对外部EM场的坐标***和MDCT的坐标***进行校准和同步。这样,在支气管镜检查过程中对EM探针进行追踪时,所述EM探针在所述MDCT坐标***中的位置在名义上变得已知。这样***可以实现即时确立支气管镜尖端在3DMDCT坐标***中的全局位置。不过,附近的金属物体会产生铁磁性设备干扰,导致外部EM场的扭曲[19]。此外,患者呼吸产生的胸部运动会导致配准错误[20]。在外周气管中,因为气管分支会随患者呼吸变小并移动,这些错误会被放大。再者,一旦所述支气管镜被引导至所述ROI,所述可操纵的探针必须从所述支气管镜的工作通道缩回,使得所述活组织检查工具可以被***以收集ROI组织样品。因此,基于EM的支气管镜检查引导***虽然可隐含地提供全局配准,但是局部配准仍存在问题。已经有正在进行的研究想结合基于EM和图像的引导方法以试图减少这些问题[21,22]。
基于图像的支气管镜检查引导***倚赖来自3DMDCT扫描的气管树的体积绘图[16,23]或表面绘图[3,4,24,25]的腔内图像,目的是确定所述支气管镜的位置。这一般通过将VB图像同真实支气管镜(RB)视频图像进行比较来完成。加权归一化的差分误差平方和(WNSSD)[24]以及归一化互信息(NMI)[3,4,26]是用来比较所述两种来源图像的度量。配准是使用Powell优化法、单纯形法或梯度法来实现的。所述基于图像的支气管镜检查引导方法倚赖分岔处的局部配准,因此可以较少受到患者呼吸运动的影响。不过,由于这些方法倚赖于支气管镜视频,因此它们会受到由患者咳嗽或粘液堵塞引起的支气管镜视频中的假象的影响。并且,大多数现有***倚赖于人工配准来进行支气管镜位置的初始化。在实时支气管镜检查操作过程中,缺少全局配准算法会导致操作时间增加和支气管镜位置某种程度上不确定。这反过来又会导致引导错误。因此,基于图像的支气管镜检查引导方法隐含地可提供出色的局部配准,但无全局配准。
全局配准可用在多个领域中,例如图像融合[27,28]、遥感[29,30]、目标识别[31]和机器人导航[32]。在机器人导航中确立全局位置的问题同基于图像的计算机引导支气管镜检查领域中的全局配准最为相似。在机器人导航中,全局配准也被称为“机器人绑架问题”,其中,当机器人移动至任意姿态并且没有可用的运动估算值时,必须对机器人的位置进行估算[32]。Moreno等人提出了一种非线性滤波器,称为周期演进位置滤波器,其使用原始传感器数据并递归地判断目前的姿态[32]。其他的使用多假设卡尔曼(Kalman)滤波器[33,34]、网格随机滤波器[35]和Monte-Carlo定位[36]的方法也已经被用来解决机器人导航中全局配准的问题。
在医学成像领域,全局配准主要被用在多模态配准中。Zhang等人描述了一种自适应的基于区域强度的超声和计算机断层摄影配准[37]。Munim等人使用用于配准多患者的磁共振(MR)图像的向量距离函数[38]。Moghari等人描述了一种用于将多个骨折定位在统计学的解剖图谱模型的全局配准方法[39]。主成分分析和无迹卡尔曼滤波器在过去分别被用于局部和全局配准。Fookes等人也描述了一种方法,用于通过把所述问题公式化为将协方差加权的非线性最小二乘函数最小化,配准来自同一患者的多个MR图像[40]。
在基于图像的支气管镜检查引导中,研究者已致力于局部配准的问题。但是,很少人从事全局配准的工作,而通过全局配准才可以确立支气管镜的分支位置。Bricault等人提出了一种用来配准的多级策略[23]。在这项工作中,次级分壁从一个分岔到另一个分岔的相对位置改变被用来识别所述支气管镜的分支位置。Shinohara等人描述了一种使用特征空间图像匹配的分支识别方法[41]。不过,这种方法可解决支气管镜跟踪的问题,不能用于全局配准。而且,该方法需要人工初始化。
发明内容
本发明是一种全局配准***和方法,可用于基于图像的支气管镜检查引导***及其他应用,包括其他类型的内窥镜操作。通过识别目前的分支位置而恢复同步化,从而有利于全局的、不依赖技术人员的支气管镜检查引导,不需要任何外部设备例如电磁传感器。
获得3D气管树的仿真支气管镜检查(VB)绘图,这些中包括所述气管树中分支位置的VB视图。从***到所述气管树中的支气管镜接收至少一幅真实支气管镜(RB)视频图像。在计算机上执行本发明的算法来识别VB视图最接近所接收到的RB视图的几个最可能支气管位置,并且依照VB视图中识别的分支位置来确定所述气管树中支气管镜的3D位置。
所述算法可以使用多种技术来加速运算,包括先进行分支内搜索然后进行分支间搜索。具体地,可以对全局气管分岔搜索空间中的所有分支进行快速搜索,以加权归一化的距离度量值平方和来确定最佳匹配。在优选实施方案中,分支内搜索使用预计算的管腔区域外接矩形,同时结合快速的局部配准微调。
分支内搜索由下式给出:
其中C(·,·)是相似度函数,是给定RB视频图像Iv中分支i的最佳观察点,bi是Ktree的子集且含有分支I中所有的观察点。
分支间搜索由下式给出:
其中是从分支内搜索获得的观察点的集合。
结果显示,所述算法目前对于每个搜索空间分支需要3秒,有准确度随着可视搜索空间减少而提高的趋势。当使用同一分岔的多个视图时,所述算法的准确率大约为90%。当使用所述气管剖视图时——其中测试图像的光照模式与用于所述VB图像的不同,得到89%的全局配准准确度。
附图说明
图1A和1B显示了支气管镜检查视频图像失真的校正;
图2A-2F显示了3D气管树和仿真支气管镜的实例;
图3图示了用于分支内搜索的预计算;
图4A显示了输入RB图像;
图4B-4F显示了在搜索空间的5个不同分支中通过所述分支内搜索发现的与最佳支气管镜位置相关的VB图像;
图5A-5E显示了用于气管剖视图的输入支气管镜视频图像;
图5F-5J显示了通过用于气管剖视图的算法估算的所述支气管镜位置处的VB图像。
具体实施方式
在支气管镜检查过程中,医生可操纵气管镜穿过气管树。基于图像的支气管镜引导***在分岔处提供不连续的引导。为了将所述支气管镜视频中观察到的视图与多排检测器计算机断层扫描MDCT坐标***进行配准,我们使用3DMDCT数据对通过支气管镜观察到的图像建立模型。
为了对所述VB视图建立模型,首先使用离线步骤将所述支气管镜照相机校准[42]。计算所述照相机的参数,例如焦距f和FOV角度。还要得到某些系数,目的是校正如图1所示的视频图像的桶形失真。图1A和1B显示了支气管镜视频图像失真的校正。具体地,图1A显示了含有桶形失真的支气管镜视频图像的实例,图1B显示了校正失真后的支气管镜视频图像。
为了产生VB视图,使用强的分段算法将所述气管树自动分段[43]。对所述3D分段运行移动立方体算法,以获得所述气管树的多边形表面表示[44]。所述仿真支气管镜被设计为针孔照相机样式,其焦距为f且具有和支气管镜照相机相同的图像尺寸。腔内气管表面被假定为朗伯体(Lambertian),其中光源位于焦点处。将次级反射忽略。使用这些假定,所述VB视图使用OpenGL绘制[45],如图2A-2F所示。仿真支气管镜检查视图。图2A-2C显示的实例是所述3D气管树以及位于气管、左主支气管和右主支气管中的仿真支气管镜(黄色圆筒+图示的针)(在2D-2F中显示)和相应的VB视图。
全局配准问题
全局配准可以被定义为确定支气管镜在3D气管树中的当前分支位置。为了用公式表示全局配准问题,我们设想了一种情况:支气管镜被“盲目地”***到所述气管中以使它位于某个分岔处。我们将从所述支气管镜获得的真实支气管镜(RB)视频图像表示为IV(x,y)。将从所述仿真支气管镜获得的仿真支气管镜检查(VB)绘图表示为ICT(x,y)。将目前未知的所述支气管镜观察点表示为θ=(x,y,z,α,β,γ),其中(x,y,z)给出了3D空间位置,(α,β,γ)指示出欧拉角。所述全局配准算法可发现包含所述观察点的分支,即该观察点有VB视图最接近于所给RB视图。
该问题可以被看作为最大后验(MAP)问题。第一部分是概率密度估算问题,其中我们可估算输入的支气管镜视频给出的可用支气管镜姿态空间上的后验密度。该问题公式表示类似于Moreno等人[32]的公式表示。在该论文中,迭代求解被用于进行全局配准,不过我们提出了一种使用单图像进行配准的方法,这同Weiβ等人[46]的方法类似。从MAP的观点看,所述全局配准问题是最优化问题,这里我们可估算其中所述支气管镜给出使后验概率密度最大的姿态的分支
其中是估算的最优观察点,χ是观察点的搜索空间Ktree中的观察点之一,p(χ|IV)是输入的支气管镜视频给出的可用支气管镜姿态空间上的后验密度。使用贝叶斯定理(Bayestheorem),我们得到
在上式中,如果所有支气管镜姿态都被等可能性地考虑,那么p(χ)可以被认为是常数,p(IV)是与χ相关的常数。这样,我们得到
argmaxp(χ|IV)=argmaxp(IV|χ)(3)
项p(IV|χ)可以使用可得到IV和χ处绘制的VB图像(由给出)之间的相似度的相似度函数来估算。因此,式(3)变为
其中C(·,·)是可给出所述支气管镜视频图像IV和在χ姿态处获得的绘图之间的相似度测量值的相似度函数。如果用不相似测量值来代替相似度函数C(·,·),那么全局配准问题变为
这里D(·,·)是RB图像IV和在观察点χ处的VB图像之间的不相似函数,Ktree是所述观察点的搜索空间。最优的分支由下式给出
其中B(·)是可发现含有所述观察点的分支的函数。
所提出的算法接受为输入一幅或多幅实时支气管镜视频图像并输出支气管镜在气管树中的3D位置。所述算法可以在不知道所述支气管镜位置的时候在实时支气管镜检查过程中调用。然后,所述算法将确定所述支气管镜在所述气管树中的位置。在调用所述算法前,医生放置好所述支气管镜以得到气管分岔的良好视图,以便很好地呈现腔内区域,如图4所示。在同一个分岔或在相关分岔(母子分岔)上多次运行所述算法可用于提高所述方法的总准确度。所述算法大体上可分为两个主要阶段:分支内搜索和分支间搜索。
图3图示了用于分支内搜索的预计算。该图显示了对用蓝线高亮的分支进行的预计算。红线是预先确定的穿过3D气管树的中心线导航路径。绿色三角形高亮了沿着选定分支的三个预先确定的观察点(A、B、C)。所述观察点右边的图是与各自观察点相关的VB绘图(A1、B1、C1)、阈值过滤管腔的图像(A2、B2、C2)以及最小外接矩形(A3、B3、C3)。所述最小外接矩形的较长边长度在预计算过程中被保存,在后面用于将给定RB图像定位于给定分支中。
分支内搜索
分支内搜索可以用公式表示为
其中C(·,·)是相似度函数,是对于给定RB视频图像Iv的分支i的最佳观察点,bi是Ktree的子集,含有分支i中所有的观察点。
该最优化过程需要涵盖给定分支中所有可能的观察位置。这在实时算法中由于耗费的时间过长而是不现实的。因此,我们使用一种新的分支内搜索,其包括两个步骤。在第一步中,所述分支内搜索对沿所述分支中心线的所有预先定义的观察点进行快速扫描。第二步包括使用快速局部配准对绘图位置进行调整。由于所述支气管镜横滚角的不确定性,我们使用不同横滚角对每个分支使用了一组四个可能的位置。
如图3所示,当绘图位置沿所述中心线向所述分岔移动时,所述管腔区域的最小外接矩形的较长边有变化。这是沿所述中心线快速扫描搜索的基本思想。在该搜索中,首先,对所述输入真实图像IV进行阈值过滤,以将所述管腔区域分段。值p=10的p率阈值化已经被凭经验发现可以给出对所述管腔分段的良好结果。一旦对所述管腔区域完成分段,就可以发现所述管腔区域的凸包。我们将Bentley-Faust-Preparata(BFP)快速近似2D凸包算法用于该目的[47]。这种凸包可用来发现如图3所示的管腔区域的最小外接矩形。所述外接矩形的较长边被保存为DimMax。在所有所述分支的所有预先定义中心线观察点处进行相同特征提取步骤,作为预计算步骤,并保存外接矩形的较长边。在实时全局配准中,在其特征值最接近DimMax的每个分支处,所述分支内搜索给出了最佳中心线观察点。所获得的最佳绘图位置具有固定的横滚角。但是,所述真实图像可能具有任何可能的横滚角。为解决这个问题,将90°、180°和270°的横滚角应用于该绘图位置,对于每个分支产生四个最佳绘图位置。
从具有多个自由度的支气管镜获得的真实图像。因此,前一步骤获得的四个最佳绘图位置可能不会给出与真实图像IV类似的绘制图像ICT。因此,对前一步骤获得的四个绘图位置使用用于局部配准的反向合成方法进一步进行调整[24]。所述局部配准使用WNSSD度量进行图像比较,并使用高斯-牛顿梯度法(Gauss-Newtongradient)更新参数(ΘΔ),如下式(8)和(9)所给出。
其中μCT和μV是各自的加权图像均值,和是各自的加权图像方差,wu,v是权重,可用于基于几何形状、灰度值、强度梯度或任何适合的置信度测量值对图像中像素任意分配较高重要性。这里,我们使用了极小加权的情况
wu,r=1,
其中是最速下降图像的6D行向量,和是归一化的图像,高斯-牛顿海赛函数H由下式计算
参数更新运行200ms,这对于收敛是足够的,并且会限制对每个分支形成四个图像绘图位置的算法总运行时间。对在每一个这些位置处的绘制图像进行阈值过滤,以获得所述管腔区域。然后,将这些阈值过滤后的图像与使用方程式(11)中所述的度量C1从所述真实图像获得的阈值过滤后的管腔图像进行比较。把方程式(11)代入方程式(7),我们得到所述分支的最佳绘制位置。
其中
并且
分支间搜索
分支间搜索由下式给出
其中是从分支内搜索获得的一组观察点。在方程式(12)中,我们使用了方程式(8)中定义的WNSSD不相似性度量。使用方程式(6),所述最佳观察点被用于发现目前的支气管镜分支位置。
以上的全局配准方法已经在方程式(12)中进行了概述。图4A-4F显示了对所述搜索空间的不同分支的最佳匹配,图4B显示了分支间搜索后正确识别的分支。图4A显示了输入RB图像,图4B-4F显示了与在所述搜索空间的五个不同分支中进行分支内搜索发现的最佳支气管镜位置相关的VB图像。分支间搜索正确识别了具有图4B中所示的绘图的分支作为最佳分支。
结果
为评估所述全局配准算法的准确度,我们进行了三组测试。在第一组中,我们使用仿真案例研究评估了所述全局配准算法。第二组测试使用从支气管镜探测气管剖视图获得的RB图像评估了全局配准算法的准确度。在第三组中,我们评估了当使用多个测试图像时所述算法准确度的提高。
使用仿真案例进行评估
使用来自如表Ⅰ中所述的自愿患者的CT数据的三个仿真案例,评估了所述全局配准算法。在使用仿真支气管镜案例时,使用了来自最初5次气管分叉的28个分支。通过改变所述算法的搜索空间进行了四次不同测试。在所有测试中,从所述分支搜索空间中随机地选择仿真支气管镜分岔视图——这作为所述测试中未知的“实时支气管镜视频”视图。该分岔视图通过沿分支随机移动到任一观察点获得。使用了0°-360°之间的随机横滚角,并且向所述仿真支气管镜位置施加最大为±5mm的扰动以使所述仿真支气管镜偏离中心线。在第一个测试组中,所有分支被用于所述搜索空间。第二组中,通过只使用左肺或右肺的分支将所述搜索空间分为两部分。第三组中,基于肺叶区域把所述搜索空间分为五个不同的部分。第四组中,在所述搜索空间中只使用了同一分支的子分支。这些测试的结果总结在表Ⅱ中。全局配准的准确度为71%到92%。可以注意到,从28个气管分支中随机选择仅得到3.6%的“准确度”。
表I.用于测试的案例的总结
表II:不同测试组的仿真支气管镜案例的全局配准准确度百分数
案例数 | 全树 | 半树 | 肺叶 | 分支对 |
(第1组) | (第2组) | (第3组) | (第4组) | |
47 | 73% | 76% | 80% | 92% |
49 | 75% | 77% | 83% | 91% |
61 | 71% | 73% | 80% | 83% |
使用剖视图案例进行评估
气管剖视图测试包括在预先构建的气管树剖视图上进行实时支气管镜检查[25]。所述剖视图在使用直径5.9mm的支气管镜时由5个不同的可达到的分支分岔组成。在进行所述全局配准时,来自所述支气管镜的每个输入的视频图像被用作输入,所述全局配准算法的输出是来自所述搜索空间的五个分支之一。为了进行测试,将所述支气管镜移动到所述五个不同分支的每一个,将该支气管镜操作采集的视频用于所述测试中。在所采集的视频中,本研究仅使用那些具有良好分岔视图的图像。总共获得了836幅这样的图像。所述全局配准算法对这836幅图像给出89%的准确度(见图5A-5J)。图5A-5J显示了气管剖视图的全局配准结果。上排(图5A-5E)是输入支气管镜视频图像,下排(5F-5J)是由所述算法估算出的支气管镜位置处的VB图像。
使用多个图像进行评估
为评估所述全局配准算法使用多个图像的性能,使用了表Ⅰ中所述的仿真案例。该测试设置与使用仿真案例进行评估时所使用的设置相同。我们进行了两组测试。在第一组中,将同一分岔的多个“随机视图”用于测试。在该测试方法中,每个图像都独立地通过所述全局配准算法进行估算。给出最低WNSSD度量值(来自式(12)的最佳值)的图像决定了所述图像的分支位置。在第二组中,使用了两个连续分岔的测试图像。所述两个分支均被独立地估算。在所述两个测试图像中,给出较低WNSSD度量值的图像确定所述分支对。该组测试的结果总结在表Ⅲ中。所述全局配准的准确度是82%到99%。在所有以上的测试中,对于每个搜索空间分支,所述算法运行的平均时间均被发现为2-3秒。
表III.对仿真支气管镜检查案例使用多个测试图像时的全局配准准确度百分数
案例数 | 3图像 | 5图像 | 两个连续分岔 |
(第1组) | (第1组) | (第2组) | |
47 | 94% | 98% | 89%9 --> |
49 | 95% | 99% | 87% |
61 | 85% | 86% | 82% |
参考文献
1.K.P.Wang,A.C.Mehta,andJ.F.Turner,eds.,FlexibleBronchoscopy,2nd,Ed.,BlackwellScience,Cambridge,MA,2003.
2.A.D.SihoeandA.P.Yim,″Lungcancerstaging,″J.SurgicalResearch,vol.117,no.1,pp.92-106,Mar.2004.
3.J.P.Helferty,A.J.Sherbondy,A.P.Kiraly,andW.E.Higgins,″Computer-basedsystemforthevirtual-cndoscopicguidanccofbronchoscopy,″Comput.Vis.ImageUnderst.,vol.108,no.1-2,pp.171-187,Oct.-Nov.2007.
4.W.E.Higgins,J.P.Helferty,K.Lu,S.A.Merriu,L.Rai,andK.C.Yu,″3DCT-videofusionforimage-guidedbronchoscopy,″Comput.Med.ImagingGraph.,vol.32,no.3,pp.159-173,April2008.
5.E.A.Kazerooni,″HighresolutionCTofthelungs,″Am.J.Roentgenology,vol.177,no.3.pp.501-519,Sept.2001.
6.N.C.Dalrymple,S.R.Prasad,M.W.Freckleton,andK.N.Chintapalli,″Introductiontothelanguageofthree-dimensionalimagingwithmultidetectorCT,″Radiographics,vol.25,no.5,pp.1409-1428,Sept.-Oct.2005.
7.J.Ueno,T.Murase,K.Yoneda,T.Tsujikawa,S.Sakiyama,andK.Kondoh,″Three-dimensionalimagingofthoracicdiseaseswithmulti-detectorrowCT,″J.Med.Invest.,vol.51,no.3-4,pp.163-170,Aug.2004.
8.D.Osbornc,P.Vock,J.Godwin,andP.Silverman,″CTidcntificationofbronchopulmonarysegments:50normalsubjects,″AJR,vol.142,no.1,pp.47-52,Jan.1984.
9.M.Y.Dolina,D.C.Cornish,S.A.Merritt,L.Rai,R.Mahraj,W.E.Higgins,andR.Bascom,″Interbronchoscopistvariabilityinendobronchialpathselection:asimulationstudy,″Chest,vol.133,no.4,pp.897-905,April2008.
10.F.Asano,Y.Matsuno,A.Tsuzuku,M.Anzai,N.Shinagawa,H.Moriya,etal.,″Diagnosisofperipheralpulmonarylesionsusingabronchoscopcinsertionguidancesystemcombinedwithendobronchialultrasonographywithaguidesheath,″LungCancer,vol.60,no.3,pp.366-373,June2008.
11.S.B.Solomon,P.White,Jr.,C.M.Wiener,J.B.Orens,andK.P.Wang,″Three-dimensionsalCT-guidedbronchoscopywithareal-timeelectromagneticpositionsensor:acomparisonoftwoimageregistrationmethods,″Chest,vol.118,no.6,pp.1783-1787,Dec.2000.
12.TR.Gildea,P.J.Mazzone,D.Karnak,M.Meziane,andA.C.Mehta,″Electromagneticnavigationdiagnosticbronchoscopy:aprospectivcstudy,″Am.J.Resp.Crit.CareMed.,vol.174,no.9,pp.982-989,1Nov.2006.
13.Y.Schwarz,J.Greif,H.D.Becker,A.Ernst,andA.Mehta,″Real-timeelectromagneticnavigationbronchoscopytoperipherallunglesionsusingoverlaidCTimages:thefirsthumanstudy,″Chest,vol.129,no.4,pp.988-994,April2006.
14.W.E.Higgins,K.Ramaswamy,R.Swift,G.McLcnnan,andE.A.Hoffman,″Virtualbronchoscopyfor3Dpulmonaryimageassessment:Stateoftheartandfutureneeds,″Radiographics,vol.18,no.3,pp.761-778,May-June1998.
15.H.P.McAdams,P.C.Goodman,andP.Kussin,″Virtualbronchoscopyfordirectingtransbronchialneedleaspirationofhilarandmediastinallymphnodes:apilotstudy,″Am.J.Roentgenology,vol.170,no.5,pp.1361-1364,May1998.
16.K.Hopper,T.Lucas.K.Gleeson,J.Stauffer,R.Bascom,D.Mauger,andR.Mahraj,″TransbronchialbiopsywithvirtualCTbronchoscopyandnodalhighlighting,″Radiology,vol.221,no.2,pp.531-536,Nov.2001.
17.H.D.Becker,F.Herth,A.Ernst,andY.Schwarz,″Bronchoscopicbiopsyofperiphcrallunglesionsunderelectromagneticguidance:apilotstudy,″J.Bronchology,vol.12,no.1,pp.9,Jan.2005.
18.N.Shinagawa,K.Yamazaki,Y.Onodera,K.Miyasaka,E.Kikuchi,H.Dosaka-Akita,andM.Nishimura,″CT-guidedtransbronehialbiopsyusinganultrathinbronchoscopewithvirtualbronchoscopicnavigation,″Chest,vol.125,no.3,pp.1138-1143,Mar.2004.
19.K.Mori,K.Ishitani,D.Deguchi,T.Kitasaka,Y.Sucnaga,H.Takabatake,M.Mori,andH.Natori,″Compensationofelectromagnetictrackingsystemusinganopticaltrackeranditsapplicationtobronchoscopynavigationsystem,″2007,vol.6509,p.65090M,SPIE.
20.I.Wegner,J.Biederer,R.Tetzlaff,I.Wolf,andH.-P.Mcinzer,″Evaluationandextensionofanavigationsystemforbronchoscopyinsidehumanlungs,″inSPIEMedicalImaging2007:VisualizationandImage-GuidedProcedures,KevinR.ClearyandMichaelI.Miga,Eds.,2007,vol.6509,pp.65091H1-65091H12.
21.T.D.Soper,D.R.Haynor,R.W.Glenny,andE.J.Seibel,″ValidationofCT-videoregistrationforguidinganovelultrathinbronchoscopetoperipherallungnodulesusingelectromagnetictracking,″inSocietyofPhoto-OpticalInstrumentationEngineers(SPIE)ConferenceSeries,Feb.2009,vol.7261ofSocietyofPhoto-OpticalInstrumentationEngineers(SPIE)ConferenceSeries.
22.K.Mori,D.Deguchi,K.Akiyama,T.Kitasaka,C.R.Maurer,Y.Suenaga,H.Takabatake,M.Mori,andH.Natori,″Hybridbronchoscopetrackingusingamagnetictrackingsensorandimageregistration,″inMedicalImageComputingandComputerAssistedIntervention2005,J.DuncanandG.Gerig,Eds.,2005,vol.LNCS3750,pp.543-550.
23.I.Bricault,G.Ferretti,andP.Cinquin,″RegistrationofrealandCT-derivedvirtualbronchoscopicimagestoassisttransbronchialbiopsy,″IEEETransactionsonMedicalImaging,vol.17,no.5,pp.703-714,Oct.1998.
24.S.A.Merritt,L.Rai,andW.E.Higgins,″Real-timeCT-videoregistrationforcontinuousendoscopicguidance,″inSPIEMedicalImaging2006:Physiology,Function,andStructurefromMedicalImages,A.ManducaandA.A.Amini,Eds.,2006,vol.6143,pp.370-384.
25.S.A.Merritt,J.D.Gibbs,K.C.Yu,V.Patel,L.Rai,D.C.Cornish,R.Bascom,andW.E.Higgins,″Real-timeimage-guidedbronchoscopyforperipherallunglesions:Aphantomstudy.″Chest,vol.134,no.5,pp.1017-1026,Nov.2008.
26.J.P.HelfertyandW.E.Higgins,″Techniqueforregistering3DvirtualCTimagestoendoscopicvideo,″IEEEInt.Conf.ImageProcessing,vol.lI,pp.893-896,Oct.7-102001.
27.E-YKang,I.Cohen,andG.Medioni,″Agraph-basedglobalregistrationfor2Dmosaics,″inICPR,2000,pp.1257-1260.
28.Y.WangandLu-pingL.Xu,″Aglobaloptimizedregistrationalgorithmforimagestitching,″inImageandSignalProcessing,2008.CISP′08.Congresson,May2008,vol.3,pp.525-529.
29.Y.LiandC.Davis,″Acombinedglobalandlocalapproachforautomatedregistrationofhigh-resolutionsatelliteimagesusingoptimumextremapoints,″inGeoscienceandRemoteSensingSymposium,2008.IGARSS2008.IEEEInternational,July2008,vol.2,pp.II-1032-II-1035.
30.A.WongandD.Clausi,″ARRSI:Automaticregistrationofremote-sensingimages,″GeoscienceandRemoteSensing,IEEETransactionson,vol.45,no.5,pp.1483-1493,May2007.
31.N.Gelfand,N.J.Mitra,L.J.Guibas,andH.Pottmann,″Robustglobalregistration,″inSGP2005:Third
EurographicsSymposiumonGeometryprocessing,MatthieuDesbrunandHelmutPottmann,Eds.2005,pp.197-206,EurographicsAssociation.
32.L.Moreno,S.Garrido,andD.Blanco,″MobilerobotgloballocalizationusingancvolutionaryMAPfilter,″J,ofGlobalOptimization,vol.37,no.3,pp.381-403,2007.
33.P.JensfeltandS.Kristensen,″Activegloballocalisationforamobilerobotusingmultiplehypothesistracking,″IEEETransactionsonRoboticsandAutomation,vol.17,no.5,pp.748-760,Oct2001.
34.K.O.Arras,J.A.Castellanos,M.Sehilt,andR.Siegwart,″Feature-basedmulti-hypothesislocalizationandtrackingusinggeometricconstraints,″RoboticsandAutonomousSystems,vol.44,no.l,pp.41-53,2003.
35.W.Burgard,D.Fox,D.Hennig,andT.Schmidt,″Estimatingtheabsolutepositionofamobilerobotusingpositionprobabilitygrids.″inAAAI/IAAI,Vol.2,1996.
36.F.Dellaert,D.Fox,W.Burgard,andS.Thrun,″MonteCarlolocalizationformobilerobots,″inIEEEInternationalConferenceonRoboticsandAutomation(ICRA99),May1999.
37.Z.Zhang,″AdaptiveregionintensitybasedrigidultrasoundandCTimageregistration,″inComputerVisionandPatternRecognition,2008.CVPR2008.IEEEConferenceon,June2008,pp.1-7.
38.H.MunimandA.Farag,″Anewglobalregistrationapproachofmedicalimagingusingvectormaps,″inBiomedicalImaging:FromNanotoMacro,2007.ISBI2007.4thIEEEInternationalSymposiumon,April2007,pp.584-587.
39.M.H.MoghariandP.Abolmaesumi,″Globalregistrationofmultiplebonefragmentsusingstatisticalatlasmodels:Feasibilityexperiments,″inEngineeringinMedicineandBiologySociety,2008.EMBS2008.30thAnnualInternationalConferenceoftheIEEE,Aug.2008,pp.5374-5377.
40.C.Fookes,J.Williams,andM.Bennamoun,″Global3Drigidregistrationofmedicalimages,″inImageProcessing,2000.Proceedings.2000InternationalConferenceon,2000,vol.2,pp.447-450.
41.R.Shinohara,K.Mori,D.Deguchi,T.Kitasaka,Y.Suenaga,H.Takabatake,M.Mori,andH.Natori,″BranchidentificationmethodforCT-Guidedbronchoscopybasedoneigenspaceimagematchingbetweenrealandvirtualbronchoscopicimages,″inSPIFMedicalImaging2006:Physiology,Function,andStructurefromMedicalImages,A.ManducaandA.A.Amini,Eds.,Mar.2006,vol.6143,pp.385-396.
42.J.P.Helferty,C.Zhang,G.McLennan,andW.E.Higgins,″Videoendoscopicdistortioncorrectionanditsapplicationtovirtualguidanceofendoscopy,″IEEETrans.Med.Imaging,vol.20,no.7,pp.605-617,July2001.
43.M.W.Graham,J.D.Gibbs,D.C.Cornish,M.Khan,R.Bascom,andW.E.Higgins,″Image-guidedperipheralbronchoscopy:Apilothumanstudy,″Chest,underreview,2009.
44.W.E.LorensenandH.E.Cline,″Marchingcubes:Ahighresolution3Dsurfaceconstructionalgorithm,″ComputerGraphics,vol.21,no.4,pp.163-169,Jul.1987.
45.R.S.Wright,Jr.,andB.Lipchak,OpenGLSuperBible,3rd.Ed.,SAMSPublishing,2005.46.G.Weifi,C.Wetzler,andE.V.Puttkamer,″Keepingtrackofpositionandorientationofmovingindoorsystemsbycorrelationofrange-findcrscans,″inInProc.1994IEEEInt.Conf.onIntelligentRobotsandSystemsIROS′94,1994,pp.595-601.
47.J.L.Bentley,F.P.Preparata,andM.G.Faust,″Approximationalgorithmsforconvexhulls,″Commun.ACM,vol.25,no.1,pp.64-68,1982.
Claims (11)
1.一种全局配准***,包括:
存储器,用于储存3D气管树的仿真支气管镜检查VB绘图,所述绘图包括所述气管树内的VB视图和分支位置;
支气管镜,用于产生沿着所述气管树的气管的未知或任意位置处的真实支气管镜RB视图;
计算机,可运算以使用所述RB视图来搜索并分析所述VB绘图以识别与所接收到的RB视图最接近匹配的VB视图和分支位置;
显示器,基于所述VB视图和所述VB视图中识别的分支位置呈现出所述支气管镜在所述气管树内的3D位置,和
其中所述计算机可运算以对所述气管树内的分支进行如下搜索:
(a)分支内搜索,以沿着所述气管树的多个气管中的每个气管识别最佳VB视图;以及
(b)分支间搜索,在所述分支内搜索之后进行所述分支间搜索,其中从所述分支内搜索识别与所述RB视图最接近匹配的、被用于确定支气管镜的3D位置的最佳VB视图中的至少一个。
2.权利要求1所述的***,其中所述支气管镜以一幅或多幅视频图像的形式输出所述RB视图。
3.权利要求1所述的***,其中所述计算机可运算以识别VB视图最接近所接收到的RB视图的多个最可能的分支位置。
4.权利要求1所述的***,其中所述计算机使用关于所述气管树内总体支气管镜位置的区域特异性信息。
5.权利要求4所述的***,其中所述区域特异性信息包括当前的肺标识或肺叶位置。
6.权利要求1所述的***,其中:
所述支气管镜产生多个RB视图;并且
所述计算机可***作以识别VB视图最接近所述RB视图中的每一个的最佳分支位置。
7.权利要求6所述的***,其中所述多个RB视图与气管树内的同一或多个分支位置相关。
8.权利要求1所述的***,其中所述计算机使用加权归一化的距离度量值平方和对整个气管分岔搜索空间中的所有分支进行快速搜索来确定最佳匹配。
9.权利要求1所述的***,其中所述分支内搜索由下式给出:
其中C(·,·)是相似度函数,是对于给定RB视频图像Iv的分支i的最佳观察点,bi是Ktree的子集并且含有分支i中所有的观察点,
以及其中ICT表示从仿真支气管镜获得的仿真支气管镜检查VB绘图;
Ktree是观察点的搜索空间,χ是Ktree中的观察点之一;并且
所述分支间搜索由下式给出:
其中是从分支内搜索获得的一组观察点,D(·,·)是RB图像IV和在观察点χ处的VB视图之间的不相似函数。
10.权利要求9所述的***,其中所述分支内搜索使用预计算的管腔区域外接矩形和快速局部配准微调。
11.权利要求1所述的***,所述***用于支气管镜引导。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US29919410P | 2010-01-28 | 2010-01-28 | |
US61/299,194 | 2010-01-28 | ||
US30096910P | 2010-02-03 | 2010-02-03 | |
US61/300,969 | 2010-02-03 | ||
PCT/US2011/022891 WO2011094518A2 (en) | 2010-01-28 | 2011-01-28 | Image-based global registration system and method applicable to bronchoscopy guidance |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102883651A CN102883651A (zh) | 2013-01-16 |
CN102883651B true CN102883651B (zh) | 2016-04-27 |
Family
ID=44309460
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180017623.4A Active CN102883651B (zh) | 2010-01-28 | 2011-01-28 | 可应用于支气管镜引导的基于图像的全局配准***和方法 |
Country Status (5)
Country | Link |
---|---|
US (2) | US20110184238A1 (zh) |
EP (1) | EP2528496A4 (zh) |
JP (1) | JP2013517909A (zh) |
CN (1) | CN102883651B (zh) |
WO (1) | WO2011094518A2 (zh) |
Families Citing this family (65)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013517909A (ja) * | 2010-01-28 | 2013-05-20 | ザ ペン ステイト リサーチ ファンデーション | 気管支鏡検査法ガイダンスに適用される画像ベースのグローバル登録 |
JP4897122B2 (ja) * | 2010-05-31 | 2012-03-14 | オリンパスメディカルシステムズ株式会社 | 内視鏡形状検出装置及び内視鏡の挿入部の形状検出方法 |
US8672837B2 (en) | 2010-06-24 | 2014-03-18 | Hansen Medical, Inc. | Methods and devices for controlling a shapeable medical device |
US20120071753A1 (en) | 2010-08-20 | 2012-03-22 | Mark Hunter | Apparatus and method for four dimensional soft tissue navigation including endoscopic mapping |
EP2670292A4 (en) * | 2011-02-04 | 2015-02-25 | Penn State Res Found | GLOBAL AND SEMIGLOBAL REGISTRATION FOR PICTURE-BASED BRONCHOSCOPE LEADERSHIP |
US8900131B2 (en) * | 2011-05-13 | 2014-12-02 | Intuitive Surgical Operations, Inc. | Medical system providing dynamic registration of a model of an anatomical structure for image-guided surgery |
WO2013059358A2 (en) * | 2011-10-17 | 2013-04-25 | Butterfly Network, Inc. | Transmissive imaging and related apparatus and methods |
CN102521833B (zh) * | 2011-12-08 | 2014-01-29 | 东软集团股份有限公司 | 一种从胸部ct图像中获得气管树的方法及装置 |
US10039473B2 (en) | 2012-05-14 | 2018-08-07 | Intuitive Surgical Operations, Inc. | Systems and methods for navigation based on ordered sensor records |
US10376178B2 (en) | 2012-05-14 | 2019-08-13 | Intuitive Surgical Operations, Inc. | Systems and methods for registration of a medical device using rapid pose search |
CN109452930B (zh) | 2012-05-14 | 2021-10-29 | 直观外科手术操作公司 | 用于使用减小的搜索空间的医疗设备的配准***和方法 |
US10278615B2 (en) | 2012-08-14 | 2019-05-07 | Intuitive Surgical Operations, Inc. | Systems and methods for registration of multiple vision systems |
JP6219396B2 (ja) * | 2012-10-12 | 2017-10-25 | インテュイティブ サージカル オペレーションズ, インコーポレイテッド | 分岐した解剖学的構造における医療デバイスの位置決定 |
JP5715311B2 (ja) * | 2013-03-06 | 2015-05-07 | オリンパスメディカルシステムズ株式会社 | 内視鏡システム |
WO2014141968A1 (ja) * | 2013-03-12 | 2014-09-18 | オリンパスメディカルシステムズ株式会社 | 内視鏡システム |
US9057600B2 (en) | 2013-03-13 | 2015-06-16 | Hansen Medical, Inc. | Reducing incremental measurement sensor error |
US9629595B2 (en) | 2013-03-15 | 2017-04-25 | Hansen Medical, Inc. | Systems and methods for localizing, tracking and/or controlling medical instruments |
US9271663B2 (en) | 2013-03-15 | 2016-03-01 | Hansen Medical, Inc. | Flexible instrument localization from both remote and elongation sensors |
US9014851B2 (en) | 2013-03-15 | 2015-04-21 | Hansen Medical, Inc. | Systems and methods for tracking robotically controlled medical instruments |
WO2014156378A1 (ja) * | 2013-03-27 | 2014-10-02 | オリンパスメディカルシステムズ株式会社 | 内視鏡システム |
JP5687811B1 (ja) * | 2013-04-15 | 2015-03-25 | オリンパスメディカルシステムズ株式会社 | 内視鏡システム |
US11020016B2 (en) | 2013-05-30 | 2021-06-01 | Auris Health, Inc. | System and method for displaying anatomy and devices on a movable display |
US10201265B2 (en) | 2013-09-06 | 2019-02-12 | Covidien Lp | Microwave ablation catheter, handle, and system |
JP6461159B2 (ja) | 2013-09-06 | 2019-01-30 | コビディエン エルピー | マイクロ波アブレーションカテーテル、ハンドル、及びシステム |
US10448862B2 (en) | 2013-09-06 | 2019-10-22 | Covidien Lp | System and method for light based lung visualization |
US10098566B2 (en) | 2013-09-06 | 2018-10-16 | Covidien Lp | System and method for lung visualization using ultrasound |
US9754367B2 (en) * | 2014-07-02 | 2017-09-05 | Covidien Lp | Trachea marking |
CN104306072B (zh) * | 2014-11-07 | 2016-08-31 | 常州朗合医疗器械有限公司 | 医疗导航***及方法 |
WO2016151711A1 (ja) * | 2015-03-20 | 2016-09-29 | オリンパス株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
US10163262B2 (en) * | 2015-06-19 | 2018-12-25 | Covidien Lp | Systems and methods for navigating through airways in a virtual bronchoscopy view |
JP6594133B2 (ja) * | 2015-09-16 | 2019-10-23 | 富士フイルム株式会社 | 内視鏡位置特定装置、内視鏡位置特定装置の作動方法および内視鏡位置特定プログラム |
KR20240064004A (ko) * | 2015-09-18 | 2024-05-10 | 아우리스 헬스, 인크. | 관형 조직망의 탐색 |
US10709352B2 (en) * | 2015-10-27 | 2020-07-14 | Covidien Lp | Method of using lung airway carina locations to improve ENB registration |
US10143526B2 (en) | 2015-11-30 | 2018-12-04 | Auris Health, Inc. | Robot-assisted driving systems and methods |
WO2017197360A1 (en) * | 2016-05-13 | 2017-11-16 | The Regents Of The University Of California | Airway mucus impaction |
US10244926B2 (en) | 2016-12-28 | 2019-04-02 | Auris Health, Inc. | Detecting endolumenal buckling of flexible instruments |
JP6702902B2 (ja) * | 2017-02-24 | 2020-06-03 | 富士フイルム株式会社 | マッピング画像表示制御装置および方法並びにプログラム |
JP6745748B2 (ja) * | 2017-03-16 | 2020-08-26 | 富士フイルム株式会社 | 内視鏡位置特定装置、その作動方法およびプログラム |
JP6824078B2 (ja) * | 2017-03-16 | 2021-02-03 | 富士フイルム株式会社 | 内視鏡位置特定装置、方法およびプログラム |
EP3600031A4 (en) | 2017-03-31 | 2021-01-20 | Auris Health, Inc. | ROBOTIC NAVIGATION SYSTEMS IN LUMINAL NETWORKS COMPENSATION FOR PHYSIOLOGICAL NOISE |
US10022192B1 (en) | 2017-06-23 | 2018-07-17 | Auris Health, Inc. | Automatically-initialized robotic systems for navigation of luminal networks |
US11058493B2 (en) | 2017-10-13 | 2021-07-13 | Auris Health, Inc. | Robotic system configured for navigation path tracing |
US10555778B2 (en) | 2017-10-13 | 2020-02-11 | Auris Health, Inc. | Image-based branch detection and mapping for navigation |
US10646284B2 (en) * | 2017-12-05 | 2020-05-12 | Covidien Lp | Multi-rigid registration of magnetic navigation to a computed tomography volume |
US10984585B2 (en) | 2017-12-13 | 2021-04-20 | Covidien Lp | Systems, methods, and computer-readable media for automatic computed tomography to computed tomography registration |
KR20200100613A (ko) | 2017-12-14 | 2020-08-26 | 아우리스 헬스, 인코포레이티드 | 기구 위치 추정을 위한 시스템 및 방법 |
US11160615B2 (en) | 2017-12-18 | 2021-11-02 | Auris Health, Inc. | Methods and systems for instrument tracking and navigation within luminal networks |
EP3773304A4 (en) | 2018-03-28 | 2021-12-22 | Auris Health, Inc. | SYSTEMS AND METHODS FOR DISPLAYING THE ESTIMATED POSITION OF AN INSTRUMENT |
KR102489198B1 (ko) | 2018-03-28 | 2023-01-18 | 아우리스 헬스, 인코포레이티드 | 위치 센서의 정합을 위한 시스템 및 방법 |
KR102499906B1 (ko) | 2018-05-30 | 2023-02-16 | 아우리스 헬스, 인코포레이티드 | 위치 센서-기반 분지부 예측을 위한 시스템 및 방법 |
WO2019232236A1 (en) * | 2018-05-31 | 2019-12-05 | Auris Health, Inc. | Image-based airway analysis and mapping |
CN112236083A (zh) | 2018-05-31 | 2021-01-15 | 奥瑞斯健康公司 | 用于导航检测生理噪声的管腔网络的机器人***和方法 |
EP3801189A4 (en) | 2018-05-31 | 2022-02-23 | Auris Health, Inc. | PATH-BASED NAVIGATION OF TUBULAR NETWORKS |
KR102051410B1 (ko) * | 2018-10-25 | 2019-12-03 | 인하대학교 산학협력단 | 대규모 멀티뷰 영상을 위한 확장성 높은 글로벌뷰 및 깊이 생성 방법 및 장치 |
US11877806B2 (en) | 2018-12-06 | 2024-01-23 | Covidien Lp | Deformable registration of computer-generated airway models to airway trees |
US11957319B2 (en) | 2018-12-06 | 2024-04-16 | Verathon Inc. | Endobronchial ultrasound imaging |
EP4021331A4 (en) | 2019-08-30 | 2023-08-30 | Auris Health, Inc. | SYSTEMS AND METHODS FOR WEIGHT-BASED REGISTRATION OF POSITION SENSORS |
CN114340540B (zh) | 2019-08-30 | 2023-07-04 | 奥瑞斯健康公司 | 器械图像可靠性***和方法 |
KR20220123273A (ko) | 2019-12-31 | 2022-09-06 | 아우리스 헬스, 인코포레이티드 | 해부학적 특징부 식별 및 표적설정 |
WO2021137108A1 (en) | 2019-12-31 | 2021-07-08 | Auris Health, Inc. | Alignment interfaces for percutaneous access |
CN114901192A (zh) | 2019-12-31 | 2022-08-12 | 奥瑞斯健康公司 | 用于经皮进入的对准技术 |
CN113855242B (zh) * | 2021-12-03 | 2022-04-19 | 杭州堃博生物科技有限公司 | 支气管镜的位置确定方法、装置、***、设备与介质 |
CN116416413A (zh) * | 2021-12-31 | 2023-07-11 | 杭州堃博生物科技有限公司 | 支气管镜的运动导航方法、装置及设备 |
CN116433874A (zh) * | 2021-12-31 | 2023-07-14 | 杭州堃博生物科技有限公司 | 支气管镜导航方法、装置、设备及存储介质 |
CN114041741B (zh) * | 2022-01-13 | 2022-04-22 | 杭州堃博生物科技有限公司 | 数据处理部、处理装置、手术***、设备与介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1920882A (zh) * | 2005-08-24 | 2007-02-28 | 西门子共同研究公司 | 基于显著区域特征的医学图像三维多模配准的***和方法 |
CN1926575A (zh) * | 2004-03-03 | 2007-03-07 | 日本电气株式会社 | 图像相似度计算***、图像搜索***、图像相似度计算方法和图像相似度计算程序 |
CN101071505A (zh) * | 2007-06-18 | 2007-11-14 | 华中科技大学 | 一种多相似性测度图像配准方法 |
JP4171833B2 (ja) * | 2002-03-19 | 2008-10-29 | 国立大学法人東京工業大学 | 内視鏡誘導装置および方法 |
CN101322156A (zh) * | 2005-12-08 | 2008-12-10 | 皇家飞利浦电子股份有限公司 | 实现对图像配准变换的选择的***和方法 |
Family Cites Families (55)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AT399647B (de) * | 1992-07-31 | 1995-06-26 | Truppe Michael | Anordnung zur darstellung des inneren von körpern |
US5782762A (en) * | 1994-10-27 | 1998-07-21 | Wake Forest University | Method and system for producing interactive, three-dimensional renderings of selected body organs having hollow lumens to enable simulated movement through the lumen |
US6702736B2 (en) * | 1995-07-24 | 2004-03-09 | David T. Chen | Anatomical visualization system |
JP2000135215A (ja) * | 1998-10-30 | 2000-05-16 | Ge Yokogawa Medical Systems Ltd | 管路案内方法および装置並びに放射線断層撮影装置 |
US6505065B1 (en) * | 1999-10-29 | 2003-01-07 | Koninklijke Philips Electronics, N.V. | Methods and apparatus for planning and executing minimally invasive procedures for in-vivo placement of objects |
US6939138B2 (en) * | 2000-04-12 | 2005-09-06 | Simbionix Ltd. | Endoscopic tutorial system for urology |
JP3958526B2 (ja) * | 2001-02-28 | 2007-08-15 | ペンタックス株式会社 | 電子内視鏡装置の観察部位表示システム |
JP2003116772A (ja) * | 2001-10-18 | 2003-04-22 | Olympus Optical Co Ltd | 内視鏡装置及び内視鏡用フード部材 |
US7998062B2 (en) * | 2004-03-29 | 2011-08-16 | Superdimension, Ltd. | Endoscope structures and techniques for navigating to a target in branched structure |
EP1466552B1 (en) * | 2002-07-31 | 2007-01-03 | Olympus Corporation | Endoscope |
US6892090B2 (en) * | 2002-08-19 | 2005-05-10 | Surgical Navigation Technologies, Inc. | Method and apparatus for virtual endoscopy |
US20050272971A1 (en) * | 2002-08-30 | 2005-12-08 | Olympus Corporation | Medical treatment system, endoscope system, endoscope insert operation program, and endoscope device |
GB2395880B (en) * | 2002-11-27 | 2005-02-02 | Voxar Ltd | Curved multi-planar reformatting of three-dimensional volume data sets |
US20050033117A1 (en) * | 2003-06-02 | 2005-02-10 | Olympus Corporation | Object observation system and method of controlling object observation system |
US7822461B2 (en) * | 2003-07-11 | 2010-10-26 | Siemens Medical Solutions Usa, Inc. | System and method for endoscopic path planning |
US7300398B2 (en) * | 2003-08-14 | 2007-11-27 | Siemens Medical Solutions Usa, Inc. | Method and apparatus for registration of virtual endoscopic images |
JP4464640B2 (ja) * | 2003-09-01 | 2010-05-19 | オリンパス株式会社 | 工業用内視鏡装置 |
WO2005039391A2 (en) * | 2003-10-21 | 2005-05-06 | The Board Of Trustees Of The Leland Stanford Junior University | Systems and methods for intraoperative targetting |
US20050085717A1 (en) * | 2003-10-21 | 2005-04-21 | Ramin Shahidi | Systems and methods for intraoperative targetting |
JP3820244B2 (ja) * | 2003-10-29 | 2006-09-13 | オリンパス株式会社 | 挿入支援システム |
EP2189107A3 (en) * | 2003-10-31 | 2010-09-15 | Olympus Corporation | Insertion support system |
JP3847744B2 (ja) * | 2003-11-04 | 2006-11-22 | オリンパス株式会社 | 挿入支援システム |
EP1691666B1 (en) * | 2003-12-12 | 2012-05-30 | University of Washington | Catheterscope 3d guidance and interface system |
US7811294B2 (en) * | 2004-03-08 | 2010-10-12 | Mediguide Ltd. | Automatic guidewire maneuvering system and method |
JP4698966B2 (ja) * | 2004-03-29 | 2011-06-08 | オリンパス株式会社 | 手技支援システム |
US7839402B2 (en) * | 2004-06-23 | 2010-11-23 | Koninklijke Philips Electronics N.V. | Virtual endoscopy |
EP1876954A4 (en) * | 2005-05-02 | 2009-12-16 | Agency Science Tech & Res | METHOD AND DEVICE FOR REGISTERING AN ATLAS TO A PICTURE |
JP5525727B2 (ja) * | 2005-05-23 | 2014-06-18 | ザ ペン ステイト リサーチ ファンデーション | 3d−2d姿勢推定に基づく案内方法及び生の気管支鏡検査への応用を有する3d−ctレジストレーション |
US7889905B2 (en) * | 2005-05-23 | 2011-02-15 | The Penn State Research Foundation | Fast 3D-2D image registration method with application to continuously guided endoscopy |
US7756563B2 (en) * | 2005-05-23 | 2010-07-13 | The Penn State Research Foundation | Guidance method based on 3D-2D pose estimation and 3D-CT registration with application to live bronchoscopy |
US7623900B2 (en) * | 2005-09-02 | 2009-11-24 | Toshiba Medical Visualization Systems Europe, Ltd. | Method for navigating a virtual camera along a biological object with a lumen |
WO2007035688A2 (en) * | 2005-09-16 | 2007-03-29 | The Ohio State University | Method and apparatus for detecting intraventricular dyssynchrony |
US20070167714A1 (en) * | 2005-12-07 | 2007-07-19 | Siemens Corporate Research, Inc. | System and Method For Bronchoscopic Navigational Assistance |
WO2007129493A1 (ja) * | 2006-05-02 | 2007-11-15 | National University Corporation Nagoya University | 医療画像観察支援装置 |
US7517320B2 (en) * | 2006-06-30 | 2009-04-14 | Broncus Technologies, Inc. | Airway bypass site selection and treatment planning |
US8672836B2 (en) * | 2007-01-31 | 2014-03-18 | The Penn State Research Foundation | Method and apparatus for continuous guidance of endoscopy |
US9037215B2 (en) * | 2007-01-31 | 2015-05-19 | The Penn State Research Foundation | Methods and apparatus for 3D route planning through hollow organs |
US20090156895A1 (en) * | 2007-01-31 | 2009-06-18 | The Penn State Research Foundation | Precise endoscopic planning and visualization |
US8821376B2 (en) * | 2007-03-12 | 2014-09-02 | David Tolkowsky | Devices and methods for performing medical procedures in tree-like luminal structures |
JP2008253586A (ja) * | 2007-04-06 | 2008-10-23 | Hoya Corp | 内視鏡支援システム |
JP4922107B2 (ja) * | 2007-09-03 | 2012-04-25 | オリンパスメディカルシステムズ株式会社 | 内視鏡装置 |
JP5208495B2 (ja) * | 2007-12-27 | 2013-06-12 | オリンパスメディカルシステムズ株式会社 | 医療用システム |
US10388066B2 (en) * | 2008-02-12 | 2019-08-20 | Covidien Lp | Controlled perspective guidance method |
EP2244633A4 (en) * | 2008-02-14 | 2013-10-23 | Penn State Res Found | MEDICAL IMAGING SYSTEM AND METHOD |
US8219179B2 (en) * | 2008-03-06 | 2012-07-10 | Vida Diagnostics, Inc. | Systems and methods for navigation within a branched structure of a body |
JP5372407B2 (ja) * | 2008-05-23 | 2013-12-18 | オリンパスメディカルシステムズ株式会社 | 医療機器 |
JP5372406B2 (ja) * | 2008-05-23 | 2013-12-18 | オリンパスメディカルシステムズ株式会社 | 医療機器 |
WO2010046802A1 (en) * | 2008-10-20 | 2010-04-29 | Koninklijke Philips Electronics, N.V. | Image-based localization method and system |
JP2013517909A (ja) * | 2010-01-28 | 2013-05-20 | ザ ペン ステイト リサーチ ファンデーション | 気管支鏡検査法ガイダンスに適用される画像ベースのグローバル登録 |
WO2011102012A1 (ja) * | 2010-02-22 | 2011-08-25 | オリンパスメディカルシステムズ株式会社 | 医療機器 |
US20120071753A1 (en) * | 2010-08-20 | 2012-03-22 | Mark Hunter | Apparatus and method for four dimensional soft tissue navigation including endoscopic mapping |
US20120130171A1 (en) * | 2010-11-18 | 2012-05-24 | C2Cure Inc. | Endoscope guidance based on image matching |
EP2670292A4 (en) * | 2011-02-04 | 2015-02-25 | Penn State Res Found | GLOBAL AND SEMIGLOBAL REGISTRATION FOR PICTURE-BASED BRONCHOSCOPE LEADERSHIP |
EP2670291A4 (en) * | 2011-02-04 | 2015-02-25 | Penn State Res Found | METHOD AND DEVICE FOR DETERMINING THE LOCATION OF AN ENDOSCOPE |
US8900131B2 (en) * | 2011-05-13 | 2014-12-02 | Intuitive Surgical Operations, Inc. | Medical system providing dynamic registration of a model of an anatomical structure for image-guided surgery |
-
2011
- 2011-01-28 JP JP2012551312A patent/JP2013517909A/ja active Pending
- 2011-01-28 US US13/016,093 patent/US20110184238A1/en not_active Abandoned
- 2011-01-28 WO PCT/US2011/022891 patent/WO2011094518A2/en active Application Filing
- 2011-01-28 EP EP11737714.3A patent/EP2528496A4/en not_active Withdrawn
- 2011-01-28 CN CN201180017623.4A patent/CN102883651B/zh active Active
-
2018
- 2018-03-22 US US15/928,974 patent/US10667679B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4171833B2 (ja) * | 2002-03-19 | 2008-10-29 | 国立大学法人東京工業大学 | 内視鏡誘導装置および方法 |
CN1926575A (zh) * | 2004-03-03 | 2007-03-07 | 日本电气株式会社 | 图像相似度计算***、图像搜索***、图像相似度计算方法和图像相似度计算程序 |
CN1920882A (zh) * | 2005-08-24 | 2007-02-28 | 西门子共同研究公司 | 基于显著区域特征的医学图像三维多模配准的***和方法 |
CN101322156A (zh) * | 2005-12-08 | 2008-12-10 | 皇家飞利浦电子股份有限公司 | 实现对图像配准变换的选择的***和方法 |
CN101071505A (zh) * | 2007-06-18 | 2007-11-14 | 华中科技大学 | 一种多相似性测度图像配准方法 |
Also Published As
Publication number | Publication date |
---|---|
CN102883651A (zh) | 2013-01-16 |
JP2013517909A (ja) | 2013-05-20 |
US20180220883A1 (en) | 2018-08-09 |
WO2011094518A2 (en) | 2011-08-04 |
WO2011094518A3 (en) | 2011-11-10 |
US20110184238A1 (en) | 2011-07-28 |
EP2528496A4 (en) | 2015-02-25 |
EP2528496A2 (en) | 2012-12-05 |
US10667679B2 (en) | 2020-06-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102883651B (zh) | 可应用于支气管镜引导的基于图像的全局配准***和方法 | |
Ferrante et al. | Slice-to-volume medical image registration: A survey | |
Alansary et al. | Fast fully automatic segmentation of the human placenta from motion corrupted MRI | |
Maier-Hein et al. | Comparative validation of single-shot optical techniques for laparoscopic 3-D surface reconstruction | |
Mori et al. | Tracking of a bronchoscope using epipolar geometry analysis and intensity-based image registration of real and virtual endoscopic images | |
US7756563B2 (en) | Guidance method based on 3D-2D pose estimation and 3D-CT registration with application to live bronchoscopy | |
CN103356155B (zh) | 虚拟内窥镜辅助的腔体病灶检查*** | |
CN102596003B (zh) | 使用内窥镜判定气道直径的*** | |
US20120203067A1 (en) | Method and device for determining the location of an endoscope | |
US20110282151A1 (en) | Image-based localization method and system | |
Luó et al. | Development and comparison of new hybrid motion tracking for bronchoscopic navigation | |
US9109391B2 (en) | Method and branching determination device for determining a branching point within a hollow organ | |
dos Santos et al. | Pose-independent surface matching for intra-operative soft-tissue marker-less registration | |
EP2883206B1 (en) | Localization of fibrous neural structures | |
US20150379718A1 (en) | Method and device for determining the orientation of a co-ordinate system of an anatomical object in a global co-ordinate system | |
JP2013051988A (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
Sánchez-González et al. | Laparoscopic video analysis for training and image-guided surgery | |
Wang et al. | A visual SLAM-based bronchoscope tracking scheme for bronchoscopic navigation | |
CN110301883A (zh) | 用于导航管状网络的基于图像的向导 | |
Allain et al. | Re-localisation of a biopsy site in endoscopic images and characterisation of its uncertainty | |
Kalia et al. | Marker‐less real‐time intra‐operative camera and hand‐eye calibration procedure for surgical augmented reality | |
CN111260704A (zh) | 基于启发式树搜索的血管结构3d/2d刚性配准方法及装置 | |
Ryu et al. | A Kalman‐Filter‐Based Common Algorithm Approach for Object Detection in Surgery Scene to Assist Surgeon’s Situation Awareness in Robot‐Assisted Laparoscopic Surgery | |
Huang et al. | Image registration based 3D TEE-EM calibration | |
Luo | A bronchoscopic navigation system using bronchoscope center calibration for accurate registration of electromagnetic tracker and CT volume without markers |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |