CN105931237A - 一种图像校准方法和*** - Google Patents
一种图像校准方法和*** Download PDFInfo
- Publication number
- CN105931237A CN105931237A CN201610245132.XA CN201610245132A CN105931237A CN 105931237 A CN105931237 A CN 105931237A CN 201610245132 A CN201610245132 A CN 201610245132A CN 105931237 A CN105931237 A CN 105931237A
- Authority
- CN
- China
- Prior art keywords
- coordinate system
- coordinate
- image
- cloud
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
Landscapes
- Image Processing (AREA)
Abstract
本发明提供了一种图像校准方法和***。该方法包括:获取待测用户多个标定点在第一坐标系中的坐标,所述第一坐标系为所述待测用户的第一图像的坐标系;获取待测用户实时图像中对应标定点在第二坐标系中的坐标,所述第二坐标系为待测用户的坐标系;根据所述多个标定点在第一坐标系中的坐标和所述实时图像中对应标定点在第二坐标系中的坐标获取第一坐标系与第二坐标系的转换关系;获取待测用户的初始点云和实时点云;对所述实时点云和初始点云进行配准,获取第三坐标系与第一坐标系的转换关系,所述第三坐标系为点云采集设备的坐标系;并对所述第一图像进行校准。本发明实现对用户运动的检测,并对用户的运动造成的图像误差进行调整。
Description
技术领域
本发明涉及图像处理技术领域,具体涉及一种图像校准方法和***。
背景技术
颅底肿瘤指起源于颅底及其邻近结构向颅内或颅外生长的肿瘤,此类肿瘤往往位置较深,毗邻脑干、颅神经及重要血管。随着内镜外科技术及辅助技术的发展和手术经验的不断积累,内镜微创诊疗技术已经较广泛的应用于颅底肿瘤治疗,在满足同样手术范围及目的的同时,避免了手术入路对面部皮肤、软组织及骨性结构的破坏,大大降低了手术并发症发生的概率。但是内窥镜微创诊疗的临床疗效与其精准性密切相关,其手术要求科学的术前分析、精密的治疗方案、精确的术中病灶定位、精准的手术操作才能获得最佳的临床疗效。内镜图像视野狭小,通过内镜图像无法获得体内器官组织的整体结构信息,因此单一模态影像引导下内窥镜介入治疗存在精准性较差和诊疗信息不全面等问题,探索多模态图像配准引导的精准诊疗技术已成为研究热点。
当前,主流的基于增强现实的内镜手术导航***通常利用光学跟踪装置实现对手术器械上标志点的跟踪,并在手术开始前通过标志点间的手动配对实现手术器械与术前三维影像的匹配。而后,在术中利用光学跟踪装置实时跟踪内镜的角度和位姿,并将术前三维影像中提取的病灶信息叠加到内镜图像中。但是该***受到手术操作和呼吸运动影响,器官会出现移动和变形,导致其实时内窥镜图像无法与术前数据进行良好的叠加,严重影响了导航精度。此类术中用户的无规则运动是手术导航***面临的巨大挑战,传统的导航***中需要在术中重复手工标定来校正这一运动,给手术过程带来巨大的不便。
因此,亟需一种图像校准方法检测用户的运动、获取准确的用户图像。
发明内容
本发明所要解决的技术问题是:如何提供一种图像校准方法以检测用户的运动。
为解决上述技术问题,本发明一方面提出了一种图像校准方法,该图像校准方法包括:
获取待测用户多个标定点在第一坐标系中的坐标,所述第一坐标系为所述待测用户的第一图像的坐标系;获取待测用户实时图像中对应标定点在第二坐标系中的坐标,所述第二坐标系为待测用户的坐标系;根据所述多个标定点在第一坐标系中的坐标和所述实时图像中对应标定点在第二坐标系中的坐标获取第一坐标系与第二坐标系的转换关系;
获取待测用户的初始点云和实时点云;对所述实时点云和初始点云进行配准,获取第三坐标系与第一坐标系的转换关系,所述第三坐标系为点云采集设备的坐标系;
根据所述第三坐标系与第一坐标系的关系、第一坐标系与第二坐标系的关系对所述第一图像进行校准。
可选地,所述根据所述多个标定点在第一坐标系中的坐标和所述实时图像中对应标定点在第二坐标系中的坐标获取第一坐标系与第二坐标系的转换关系包括:
通过以下公式获取第一坐标系与第二坐标系的转换关系CT0:
其中,是坐标变换矩阵,R是一个3×3的旋转矩阵,是一个3×1的平移向量;CTpi是标志点集合在第一坐标系CTP中的第i个点,NDIpi是第二坐标系NDIP中的第i个点;n为标志点的数量。
可选地,该方法还包括:利用最小二乘解方法求解第一坐标系与第二坐标系的转换关系。
可选地,所述对所述实时点云和初始点云进行配准,获取第三坐标系与第一坐标系的转换关系包括:
通过以下公式获取第三坐标系与第一坐标系的转换关系KTt:
其中,St为实时点云,t代表采集时刻;M为分割所述第一图像获取的初始点云;是基于凸包结构配准算法配准的点云间的相似性测度。
可选地,所述根据所述第三坐标系与第一坐标系的关系、第一坐标系与第二坐标系的关系对所述第一图像进行校准包括:
通过以下公式对所述第一图像进行校准:
其中,NDIIt为对所述第一图像进行校准后的图像;为初始时刻点云采集设备的相对坐标变换矩阵。
另一方面,本发明还提出了一种图像校准***,该图像校准***包括:
第一坐标系与第二坐标系转换关系获取单元,用于获取待测用户多个标定点在第一坐标系中的坐标,所述第一坐标系为所述待测用户的第一图像的坐标系;获取待测用户实时图像中对应标定点在第二坐标系中的坐标,所述第二坐标系为待测用户的坐标系;根据所述多个标定点在第一坐标系中的坐标和所述实时图像中对应标定点在第二坐标系中的坐标获取第一坐标系与第二坐标系的转换关系;
第三坐标系与第一坐标系转换关系获取单元,用于获取待测用户的初始点云和实时点云;对所述实时点云和初始点云进行配准,获取第三坐标系与第一坐标系的转换关系,所述第三坐标系为点云采集设备的坐标系;
图像校准单元,用于根据所述第三坐标系与第一坐标系的关系、第一坐标系与第二坐标系的关系对所述第一图像进行校准。
可选地,所述第一坐标系与第二坐标系转换关系获取单元进一步用于:
通过以下公式获取第一坐标系与第二坐标系的转换关系CT0:
其中,是坐标变换矩阵,R是一个3×3的旋转矩阵,是一个3×1的平移向量;CTpi是标志点集合在第一坐标系CTP中的第i个点,NDIpi是第二坐标系NDIP中的第i个点;n为标志点的数量。
可选地,还包括:转换关系求解单元,用于利用最小二乘解方法求解第一坐标系与第二坐标系的转换关系。
可选地,所述第三坐标系与第一坐标系转换关系获取单元进一步用于:
通过以下公式获取第三坐标系与第一坐标系的转换关系KTt:
其中,St为实时点云,t代表采集时刻;M为分割所述第一图像获取的初始点云;是基于凸包结构配准算法配准的点云间的相似性测度。
可选地,所述图像校准单元进一步用于:
通过以下公式对所述第一图像进行校准:
其中,NDIIt为对所述第一图像进行校准后的图像;为初始时刻点云采集设备的相对坐标变换矩阵。
本发明提供的图像校准方法和***,通过获取第一图像坐标系、待测用户坐标系和点云采集设备坐标系之间的关系对所述第一图像进行校准,从而实现对用户运动的检测,并对用户的运动造成的图像误差进行调整,获取准确的用户图像。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一个实施例的图像校准方法的流程示意图;
图2是本发明一个实施例的图像校准***的结构示意图;
图3本发明一个实施例的图像校准方法应用于鼻内镜手术导航的术中患者位姿校准的原理图;
图4是本发明一个实施例的图像校准方法应用于鼻内镜手术导航的术中患者位姿校准的流程示意图;
图5是本发明一个实施例的图像校准方法应用于鼻内镜手术导航的坐标系示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整的描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1是本发明一个实施例的图像校准方法的流程示意图。如图1所示,本实施例的图像校准方法包括:
S11:获取待测用户多个标定点在第一坐标系中的坐标,所述第一坐标系为所述待测用户的第一图像的坐标系;获取待测用户实时图像中对应标定点在第二坐标系中的坐标,所述第二坐标系为待测用户的坐标系;根据所述多个标定点在第一坐标系中的坐标和所述实时图像中对应标定点在第二坐标系中的坐标获取第一坐标系与第二坐标系的转换关系;
S12:获取待测用户的初始点云和实时点云;对所述实时点云和初始点云进行配准,获取第三坐标系与第一坐标系的转换关系,所述第三坐标系为点云采集设备的坐标系;
S13:根据所述第三坐标系与第一坐标系的关系、第一坐标系与第二坐标系的关系对所述第一图像进行校准。
本实施例的图像校准方法,通过获取第一图像坐标系、待测用户坐标系和点云采集设备坐标系之间的关系对所述第一图像进行校准,从而实现对用户运动的检测,并对用户的运动造成的图像误差进行调整,获取准确的用户图像。
在一种可选的实施方式中,所述根据所述多个标定点在第一坐标系中的坐标和所述实时图像中对应标定点在第二坐标系中的坐标获取第一坐标系与第二坐标系的转换关系包括:
通过以下公式获取第一坐标系与第二坐标系的转换关系CT0:
其中,是坐标变换矩阵,R是一个3×3的旋转矩阵,是一个3×1的平移向量;CTpi是标志点集合在第一坐标系CTP中的第i个点,NDIpi是第二坐标系NDIP中的第i个点;n为标志点的数量。
该方法还包括:利用最小二乘解方法求解第一坐标系与第二坐标系的转换关系。
进一步地,所述对所述实时点云和初始点云进行配准,获取第三坐标系与第一坐标系的转换关系包括:
通过以下公式获取第三坐标系与第一坐标系的转换关系KTt:
其中,St为实时点云,t代表采集时刻;M为分割所述第一图像获取的初始点云;是基于凸包结构配准算法配准的点云间的相似性测度。
具体地,所述根据所述第三坐标系与第一坐标系的关系、第一坐标系与第二坐标系的关系对所述第一图像进行校准包括:
通过以下公式对所述第一图像进行校准:
其中,NDIIt为对所述第一图像进行校准后的图像;为初始时刻点云采集设备的相对坐标变换矩阵。
图2是本发明一个实施例的图像校准***的结构示意图,如图2所示,本实施例的图像校准***包括:
第一坐标系与第二坐标系转换关系获取单元21,用于获取待测用户多个标定点在第一坐标系中的坐标,所述第一坐标系为所述待测用户的第一图像的坐标系;获取待测用户实时图像中对应标定点在第二坐标系中的坐标,所述第二坐标系为待测用户的坐标系;根据所述多个标定点在第一坐标系中的坐标和所述实时图像中对应标定点在第二坐标系中的坐标获取第一坐标系与第二坐标系的转换关系;
第三坐标系与第一坐标系转换关系获取单元22,用于获取待测用户的初始点云和实时点云;对所述实时点云和初始点云进行配准,获取第三坐标系与第一坐标系的转换关系,所述第三坐标系为点云采集设备的坐标系;
图像校准单元23,用于根据所述第三坐标系与第一坐标系的关系、第一坐标系与第二坐标系的关系对所述第一图像进行校准。
进一步地,第一坐标系与第二坐标系转换关系获取单元21用于:
通过以下公式获取第一坐标系与第二坐标系的转换关系CT0:
其中,是坐标变换矩阵,R是一个3×3的旋转矩阵,是一个3×1的平移向量;CTpi是标志点集合在第一坐标系CTP中的第i个点,NDIpi是第二坐标系NDIP中的第i个点;n为标志点的数量。
该***还包括:转换关系求解单元,用于利用最小二乘解方法求解第一坐标系与第二坐标系的转换关系。
具体地,第三坐标系与第一坐标系转换关系获取单元22用于:
通过以下公式获取第三坐标系与第一坐标系的转换关系KTt:
其中,St为实时点云,t代表采集时刻;M为分割所述第一图像获取的初始点云;是基于凸包结构配准算法配准的点云间的相似性测度。
图像校准单元23进一步用于:
通过以下公式对所述第一图像进行校准:
其中,NDIIt为对所述第一图像进行校准后的图像;为初始时刻点云采集设备的相对坐标变换矩阵。
本实施例的***可以用于执行上述方法实施例,其原理和技术效果类似,此处不再赘述。
本发明提供的图像校准方法和***,通过获取第一图像坐标系、待测用户坐标系和点云采集设备坐标系之间的关系对所述第一图像进行校准,从而实现对用户运动的检测,并对用户的运动造成的图像误差进行调整,获取准确的用户图像。
下面以一个具体的实施方式说明将本发明的图像校准方法应用于鼻内镜手术导航的术中患者位姿校准过程中。
图3本发明一个实施例的图像校准方法应用于鼻内镜手术导航的术中患者位姿校准的原理图。如图3所示,本方法采用的手术导航***采用的实验装置包括:手术器械和鼻内窥镜等工具与红外反射性标志点固定在一起,使用光学跟踪***(Northern Digital Inc.,Waterloo,ON,Canada)进行跟踪,实时获取器械的位姿信息,并用于确定虚拟内窥镜在虚拟场景中的位置和视角,为增强现实融合场景提供实时虚拟视角。手术中内窥镜视频图像通过视频编码器(Shenzhen Reach ITCo.)实时获取,对图像进行畸变校正、增强和高斯衰减处理后,与虚拟视角场景进行增强现实融合显示,引导医生到达CT数据中识别出的目标病灶。实时头部位姿采用三维扫描仪(KINECT,Microsoftcorporation)获取,通过点云-CT配准完成术中校准。***各项功能集成到基于医学图像处理开源框架(MITK,Medical Imaging ToolKit)自主开发的手术导航软件。
图4是本发明一个实施例的图像校准方法应用于鼻内镜手术导航的术中患者位姿校准的流程示意图。如图4所示,本实施方式提供的用于鼻内镜手术导航的术中患者位姿校准方法包括如下步骤:
步骤S11:使用内窥镜碰触患者头部标记点。为了实现鼻内镜导航***中不同成像***间的数据转换,需要计算各个器械所处的坐标系之间的坐标变换关系,如图5所示。NDI红外***通过拍摄内窥镜上粘贴的标志点来捕捉术中鼻内镜器械的实时位姿,鼻内镜通过术中拍摄患者图像而与患者达成坐标系的统一,因此内窥镜所处的NDI坐标系即被定义为术中患者坐标系(第二坐标系)。术前采集得到的CT影像中包含了患者大量宝贵的信息,患者的血管与肿瘤需要在术前从CT影像中分割出来,CT影像的坐标系被称为图像坐标系(第一坐标系)。此外,术前需要在患者头部粘贴标记点,这些标记点在图像坐标系中的坐标为CTP,通过使用内窥镜触碰这些标记点可以获取它们在实际患者坐标系中的坐标NDIP。
步骤S12:利用标记点将患者头部与术前图像配准。在手术开始前的初始标定阶段,通过配准CTP和NDIP可以实现图像坐标系与实际患者坐标系间的坐标变换关系CT0:
其中,是坐标变换矩阵,R是一个3×3的旋转矩阵,是一个3×1的平移向量。CTpi是标志点集合CTP中的第i个点,同理NDIpi是NDIP中的第i个点。标志点CTP和NDIP中点的数量是相同的,被定义为n。为实现配准n必须大于3。Umeyama最小二乘解方法可以用于计算变换矩阵CT0。之后CT影像及其中的分割结果可以通过改变换映射至术中患者坐标系内:
NDII0=CT0·CTI
其中CTI是图像坐标系中的CT影像,NDII0是初始标定时患者坐标系中的CT影像。然后随着术中内窥镜的实时移动,NDI红外跟踪设备可以实时获取内窥镜的位姿与拍摄角度,患者坐标系内的CT影像与病灶信息即可融合至实时内窥镜影像中,实现术中的手术导航。
步骤S13:利用Kinect相机获取患者初始面部点云。
然而,患者一旦在术中产生任意运动,影像的融合结果中将出现巨大的偏差,手术导航***将需要重新标定来校正这一误差。
步骤S21:利用Kinect相机获取患者实时面部点云。为避免在术中重复进行复杂的手工标定过程,Kinect采集设备将用于捕捉术中患者头部的表面点云。
步骤S22:配准实时面部点云与初始面部点云。在导航手术中,Kinect设备用于实时采集患者头部的表面点云St,其中t代表采集时刻。同时,在患者术前采集的CT影像中应用移动立方体算法可以分割得到CT影像中患者的头部点云M。因为St与M具备相似的***轮廓,基于凸包结构配准算法将适用于实时配准St与M。此时Kinect坐标系(第三坐标系)向图像坐标系间的坐标变换为KTt:
其中,是配准方法中点云间的相似性测度。
步骤S23:得到术前图像到术中图像的变换关系。Kinect设备与NDI红外跟踪设备间的相对位置系在手术过程中始终保持不变,因此当患者在术中发生运动后,术中患者坐标系与图像坐标系间的变换关系可以通过Kinect设备坐标系来估计,得到实时的患者坐标系病灶影像NDIIt:
其中,为初始标定时刻Kinect设备的相对坐标变换矩阵。经过这样的运算,即便患者在术中发生意外运动,这一运动也能被实时校正,避免了在术中重复进行复杂的手工标定过程。
本领域内的技术人员应明白,本申请的实施例可提供为方法、***、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。术语“上”、“下”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
本发明的说明书中,说明了大量具体细节。然而能够理解的是,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。类似地,应当理解,为了精简本发明公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释呈反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
以上实施例仅用于说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种图像校准方法,其特征在于,包括:
获取待测用户多个标定点在第一坐标系中的坐标,所述第一坐标系为所述待测用户的第一图像的坐标系;获取待测用户实时图像中对应标定点在第二坐标系中的坐标,所述第二坐标系为待测用户的坐标系;根据所述多个标定点在第一坐标系中的坐标和所述实时图像中对应标定点在第二坐标系中的坐标获取第一坐标系与第二坐标系的转换关系;
获取待测用户的初始点云和实时点云;对所述实时点云和初始点云进行配准,获取第三坐标系与第一坐标系的转换关系,所述第三坐标系为点云采集设备的坐标系;
根据所述第三坐标系与第一坐标系的关系、第一坐标系与第二坐标系的关系对所述第一图像进行校准。
2.根据权利要求1所述的图像校准方法,其特征在于,所述根据所述多个标定点在第一坐标系中的坐标和所述实时图像中对应标定点在第二坐标系中的坐标获取第一坐标系与第二坐标系的转换关系包括:
通过以下公式获取第一坐标系与第二坐标系的转换关系CT0:
其中,是坐标变换矩阵,R是一个3×3的旋转矩阵,是一个3×1的平移向量;CTpi是标志点集合在第一坐标系CTP中的第i个点,NDIpi是第二坐标系NDIP中的第i个点;n为标志点的数量。
3.根据权利要求2所述的图像校准方法,其特征在于,还包括:利用最小二乘解方法求解第一坐标系与第二坐标系的转换关系。
4.根据权利要求3所述的图像校准方法,其特征在于,所述对所述实时点云和初始点云进行配准,获取第三坐标系与第一坐标系的转换关系包括:
通过以下公式获取第三坐标系与第一坐标系的转换关系KTt:
其中,St为实时点云,t代表采集时刻;M为分割所述第一图像获取的初始点云;是基于凸包结构配准算法配准的点云间的相似性测度。
5.根据权利要求4所述的图像校准方法,其特征在于,所述根据所述第三坐标系与第一坐标系的关系、第一坐标系与第二坐标系的关系对所述第一图像进行校准包括:
通过以下公式对所述第一图像进行校准:
其中,NDIIt为对所述第一图像进行校准后的图像;为初始时刻点云采集设备的相对坐标变换矩阵。
6.一种图像校准***,其特征在于,包括:
第一坐标系与第二坐标系转换关系获取单元,用于获取待测用户多个标定点在第一坐标系中的坐标,所述第一坐标系为所述待测用户的第一图像的坐标系;获取待测用户实时图像中对应标定点在第二坐标系中的坐标,所述第二坐标系为待测用户的坐标系;根据所述多个标定点在第一坐标系中的坐标和所述实时图像中对应标定点在第二坐标系中的坐标获取第一坐标系与第二坐标系的转换关系;
第三坐标系与第一坐标系转换关系获取单元,用于获取待测用户的初始点云和实时点云;对所述实时点云和初始点云进行配准,获取第三坐标系与第一坐标系的转换关系,所述第三坐标系为点云采集设备的坐标系;
图像校准单元,用于根据所述第三坐标系与第一坐标系的关系、第一坐标系与第二坐标系的关系对所述第一图像进行校准。
7.根据权利要求6所述的图像校准***,其特征在于,所述第一坐标系与第二坐标系转换关系获取单元进一步用于:
通过以下公式获取第一坐标系与第二坐标系的转换关系CT0:
其中,是坐标变换矩阵,R是一个3×3的旋转矩阵,是一个3×1的平移向量;CTpi是标志点集合在第一坐标系CTP中的第i个点,NDIpi是第二坐标系NDIP中的第i个点;n为标志点的数量。
8.根据权利要求7所述的图像校准***,其特征在于,还包括:转换关系求解单元,用于利用最小二乘解方法求解第一坐标系与第二坐标系的转换关系。
9.根据权利要求8所述的图像校准***,其特征在于,所述第三坐标系与第一坐标系转换关系获取单元进一步用于:
通过以下公式获取第三坐标系与第一坐标系的转换关系KTt:
其中,St为实时点云,t代表采集时刻;M为分割所述第一图像获取的初始点云;是基于凸包结构配准算法配准的点云间的相似性测度。
10.根据权利要求9所述的图像校准***,其特征在于,所述图像校准单元进一步用于:
通过以下公式对所述第一图像进行校准:
其中,NDIIt为对所述第一图像进行校准后的图像;为初始时刻点云采集设备的相对坐标变换矩阵。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610245132.XA CN105931237A (zh) | 2016-04-19 | 2016-04-19 | 一种图像校准方法和*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610245132.XA CN105931237A (zh) | 2016-04-19 | 2016-04-19 | 一种图像校准方法和*** |
Publications (1)
Publication Number | Publication Date |
---|---|
CN105931237A true CN105931237A (zh) | 2016-09-07 |
Family
ID=56839350
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610245132.XA Pending CN105931237A (zh) | 2016-04-19 | 2016-04-19 | 一种图像校准方法和*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105931237A (zh) |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106651894A (zh) * | 2017-01-10 | 2017-05-10 | 重庆大学 | 基于点云和图像匹配的自动化喷涂***坐标变换方法 |
CN106846406A (zh) * | 2017-02-24 | 2017-06-13 | 上海坤辕检测科技有限公司 | 一种用于物体三维坐标测量的点云坐标系构建方法 |
CN107818576A (zh) * | 2016-09-14 | 2018-03-20 | 国民技术股份有限公司 | 芯片版图图片与测试图像的坐标映射方法及*** |
CN108652740A (zh) * | 2018-04-26 | 2018-10-16 | 上海交通大学 | 一种游离骨块位置实时跟踪的标定方法 |
CN109166177A (zh) * | 2018-08-27 | 2019-01-08 | 清华大学 | 一种颅颌面外科手术的术中导航方法 |
CN109242892A (zh) * | 2018-09-12 | 2019-01-18 | 北京字节跳动网络技术有限公司 | 用于确定图像间的几何变换关系的方法和装置 |
CN109685906A (zh) * | 2017-10-18 | 2019-04-26 | 深圳市掌网科技股份有限公司 | 基于增强现实的场景融合方法和装置 |
CN109816050A (zh) * | 2019-02-23 | 2019-05-28 | 深圳市商汤科技有限公司 | 物***姿估计方法及装置 |
CN110169820A (zh) * | 2019-04-24 | 2019-08-27 | 艾瑞迈迪科技石家庄有限公司 | 一种关节置换手术位姿标定方法及装置 |
CN110353806A (zh) * | 2019-06-18 | 2019-10-22 | 北京航空航天大学 | 用于微创全膝关节置换手术的增强现实导航方法及*** |
CN110368028A (zh) * | 2018-04-13 | 2019-10-25 | 北京柏惠维康医疗机器人科技有限公司 | 一种空间坐标系的实时配准方法和装置 |
CN110464462A (zh) * | 2019-08-29 | 2019-11-19 | 中国科学技术大学 | 腹部外科介入手术的图像导航配准***及相关装置 |
CN111161852A (zh) * | 2019-12-30 | 2020-05-15 | 北京双翼麒电子有限公司 | 一种内窥镜图像处理方法、电子设备及内窥镜*** |
CN111798387A (zh) * | 2020-06-24 | 2020-10-20 | 海南大学 | 一种用于共聚焦内窥镜的图像处理方法及*** |
CN113242421A (zh) * | 2021-04-02 | 2021-08-10 | 青岛小鸟看看科技有限公司 | 相机校准方法、装置及虚拟现实设备 |
CN113509263A (zh) * | 2021-04-01 | 2021-10-19 | 上海复拓知达医疗科技有限公司 | 一种物体空间校准定位方法 |
CN113907830A (zh) * | 2021-10-13 | 2022-01-11 | 杭州柳叶刀机器人有限公司 | 一种打磨控制方法、装置、电子设备及存储介质 |
CN114463431A (zh) * | 2021-06-21 | 2022-05-10 | 西安大医集团股份有限公司 | 用于放射治疗***的标定装置 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102727232A (zh) * | 2011-04-08 | 2012-10-17 | 上海优益基医疗器械有限公司 | 外科手术导航***定位精度检测装置及方法 |
-
2016
- 2016-04-19 CN CN201610245132.XA patent/CN105931237A/zh active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102727232A (zh) * | 2011-04-08 | 2012-10-17 | 上海优益基医疗器械有限公司 | 外科手术导航***定位精度检测装置及方法 |
Non-Patent Citations (1)
Title |
---|
JINGFAN FAN 等: "Kinect based Real-time Position Calibration for Nasal Endoscopic", 《PROCEEDINGS OF SPIE》 * |
Cited By (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107818576A (zh) * | 2016-09-14 | 2018-03-20 | 国民技术股份有限公司 | 芯片版图图片与测试图像的坐标映射方法及*** |
CN107818576B (zh) * | 2016-09-14 | 2023-04-07 | 国民技术股份有限公司 | 芯片版图图片与测试图像的坐标映射方法及*** |
CN106651894A (zh) * | 2017-01-10 | 2017-05-10 | 重庆大学 | 基于点云和图像匹配的自动化喷涂***坐标变换方法 |
CN106651894B (zh) * | 2017-01-10 | 2020-02-11 | 重庆大学 | 基于点云和图像匹配的自动化喷涂***坐标变换方法 |
CN106846406A (zh) * | 2017-02-24 | 2017-06-13 | 上海坤辕检测科技有限公司 | 一种用于物体三维坐标测量的点云坐标系构建方法 |
CN109685906A (zh) * | 2017-10-18 | 2019-04-26 | 深圳市掌网科技股份有限公司 | 基于增强现实的场景融合方法和装置 |
CN110368028A (zh) * | 2018-04-13 | 2019-10-25 | 北京柏惠维康医疗机器人科技有限公司 | 一种空间坐标系的实时配准方法和装置 |
CN110368028B (zh) * | 2018-04-13 | 2021-09-14 | 北京柏惠维康科技有限公司 | 一种空间坐标系的实时配准方法和装置 |
CN108652740A (zh) * | 2018-04-26 | 2018-10-16 | 上海交通大学 | 一种游离骨块位置实时跟踪的标定方法 |
CN108652740B (zh) * | 2018-04-26 | 2020-09-08 | 上海交通大学 | 一种游离骨块位置实时跟踪的标定装置 |
CN109166177A (zh) * | 2018-08-27 | 2019-01-08 | 清华大学 | 一种颅颌面外科手术的术中导航方法 |
CN109242892B (zh) * | 2018-09-12 | 2019-11-12 | 北京字节跳动网络技术有限公司 | 用于确定图像间的几何变换关系的方法和装置 |
US10984542B2 (en) | 2018-09-12 | 2021-04-20 | Beijing Bytedance Network Technology Co., Ltd. | Method and device for determining geometric transformation relation for images |
CN109242892A (zh) * | 2018-09-12 | 2019-01-18 | 北京字节跳动网络技术有限公司 | 用于确定图像间的几何变换关系的方法和装置 |
CN109816050A (zh) * | 2019-02-23 | 2019-05-28 | 深圳市商汤科技有限公司 | 物***姿估计方法及装置 |
CN110169820A (zh) * | 2019-04-24 | 2019-08-27 | 艾瑞迈迪科技石家庄有限公司 | 一种关节置换手术位姿标定方法及装置 |
CN110353806B (zh) * | 2019-06-18 | 2021-03-12 | 北京航空航天大学 | 用于微创全膝关节置换手术的增强现实导航方法及*** |
WO2020253280A1 (zh) * | 2019-06-18 | 2020-12-24 | 北京航空航天大学 | 用于微创全膝关节置换手术的增强现实导航方法及*** |
CN110353806A (zh) * | 2019-06-18 | 2019-10-22 | 北京航空航天大学 | 用于微创全膝关节置换手术的增强现实导航方法及*** |
CN110464462A (zh) * | 2019-08-29 | 2019-11-19 | 中国科学技术大学 | 腹部外科介入手术的图像导航配准***及相关装置 |
CN111161852A (zh) * | 2019-12-30 | 2020-05-15 | 北京双翼麒电子有限公司 | 一种内窥镜图像处理方法、电子设备及内窥镜*** |
CN111161852B (zh) * | 2019-12-30 | 2023-08-15 | 北京双翼麒电子有限公司 | 一种内窥镜图像处理方法、电子设备及内窥镜*** |
CN111798387A (zh) * | 2020-06-24 | 2020-10-20 | 海南大学 | 一种用于共聚焦内窥镜的图像处理方法及*** |
CN113509263A (zh) * | 2021-04-01 | 2021-10-19 | 上海复拓知达医疗科技有限公司 | 一种物体空间校准定位方法 |
CN113242421A (zh) * | 2021-04-02 | 2021-08-10 | 青岛小鸟看看科技有限公司 | 相机校准方法、装置及虚拟现实设备 |
CN114463431A (zh) * | 2021-06-21 | 2022-05-10 | 西安大医集团股份有限公司 | 用于放射治疗***的标定装置 |
CN113907830A (zh) * | 2021-10-13 | 2022-01-11 | 杭州柳叶刀机器人有限公司 | 一种打磨控制方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105931237A (zh) | 一种图像校准方法和*** | |
US11224483B2 (en) | Apparatus and methods for use with image-guided skeletal procedures | |
US20200305985A1 (en) | Apparatus and methods for use with skeletal procedures | |
RU2668490C2 (ru) | Инструменты наведения для ручного управления эндоскопом с помощью 3d-изображений, полученных до операции и во время операции | |
Birlo et al. | Utility of optical see-through head mounted displays in augmented reality-assisted surgery: A systematic review | |
De Paolis et al. | Augmented visualization with depth perception cues to improve the surgeon’s performance in minimally invasive surgery | |
Gsaxner et al. | The HoloLens in medicine: A systematic review and taxonomy | |
US20160004917A1 (en) | Output control method, image processing apparatus, and information processing apparatus | |
US20150265369A1 (en) | Interactive systems and methods for real-time laparoscopic navigation | |
US10154882B2 (en) | Global laparoscopy positioning systems and methods | |
CN103479431A (zh) | 非介入式微创手术导航*** | |
US11344180B2 (en) | System, apparatus, and method for calibrating oblique-viewing rigid endoscope | |
WO2023026229A1 (en) | Registration and registration validation in image-guided surgery | |
CN115105207A (zh) | 基于混合现实的手术全息导航方法及*** | |
US10039474B2 (en) | System for tracking microsurgical instrumentation | |
Esposito et al. | Multimodal US–gamma imaging using collaborative robotics for cancer staging biopsies | |
Liu et al. | Hybrid electromagnetic-ArUco tracking of laparoscopic ultrasound transducer in laparoscopic video | |
CN116492052A (zh) | 一种基于混合现实脊柱三维可视化手术导航*** | |
Yang et al. | Development and evaluation of a “trackerless” surgical planning and guidance system based on 3D Slicer | |
De Paolis et al. | Augmented reality in minimally invasive surgery | |
Bockholt et al. | Augmented reality for enhancement of endoscopic interventions | |
CN115105204A (zh) | 一种腹腔镜增强现实融合显示方法 | |
Herniczek et al. | Feasibility of a touch-free user interface for ultrasound snapshot-guided nephrostomy | |
US11869216B2 (en) | Registration of an anatomical body part by detecting a finger pose | |
Buettner et al. | A Systematic Literature Review of Computer Support for Surgical Interventions |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20160907 |
|
RJ01 | Rejection of invention patent application after publication |