CN113349928B - 用于柔性器械的增强现实手术导航装置 - Google Patents
用于柔性器械的增强现实手术导航装置 Download PDFInfo
- Publication number
- CN113349928B CN113349928B CN202110552899.8A CN202110552899A CN113349928B CN 113349928 B CN113349928 B CN 113349928B CN 202110552899 A CN202110552899 A CN 202110552899A CN 113349928 B CN113349928 B CN 113349928B
- Authority
- CN
- China
- Prior art keywords
- flexible instrument
- augmented reality
- coordinate system
- conversion matrix
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000003190 augmentative effect Effects 0.000 title claims abstract description 87
- 238000000034 method Methods 0.000 claims abstract description 34
- 239000013307 optical fiber Substances 0.000 claims abstract description 34
- 238000001514 detection method Methods 0.000 claims abstract description 4
- 238000006243 chemical reaction Methods 0.000 claims description 70
- 239000011159 matrix material Substances 0.000 claims description 70
- 230000003287 optical effect Effects 0.000 claims description 52
- 239000003550 marker Substances 0.000 claims description 48
- 238000004590 computer program Methods 0.000 claims description 10
- 239000000835 fiber Substances 0.000 claims description 9
- 238000003860 storage Methods 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000005452 bending Methods 0.000 claims description 4
- 230000011218 segmentation Effects 0.000 claims description 4
- 230000008859 change Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000011065 in-situ storage Methods 0.000 description 6
- 238000002324 minimally invasive surgery Methods 0.000 description 6
- 238000001356 surgical procedure Methods 0.000 description 6
- 230000009466 transformation Effects 0.000 description 4
- 230000005855 radiation Effects 0.000 description 3
- 238000001727 in vivo Methods 0.000 description 2
- 230000005291 magnetic effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000002679 ablation Methods 0.000 description 1
- 238000001574 biopsy Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 239000003302 ferromagnetic material Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009023 proprioceptive sensation Effects 0.000 description 1
- 238000004659 sterilization and disinfection Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/25—User interfaces for surgical systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2061—Tracking techniques using shape-sensors, e.g. fiber shape sensors with Bragg gratings
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Life Sciences & Earth Sciences (AREA)
- Heart & Thoracic Surgery (AREA)
- Robotics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biomedical Technology (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Human Computer Interaction (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明提供一种用于柔性器械的增强现实手术导航装置及方法,该装置包括柔性器械形状传感模块和增强现实模块,其中:所述柔性器械形状传感模块,包括光栅传感器阵列和光纤传感解调仪,用于对柔性器械进行形状检测,并将检测得到的三维形状信息发送到所述增强现实模块;所述增强现实模块,包括双目相机和三维显示屏,用于通过所述双目相机,获取所述柔性器械的空间位置,并根据所述三维形状信息和所述空间位置,生成所述柔性器械对应的三维影像展现在所述三维显示屏上;其中,所述光栅传感器阵列是由4根光纤构成的,以螺旋环绕的形式设置在所述柔性器械的内部或表面。本发明可精确定位柔性器械在体内的位置和形状。
Description
技术领域
本发明涉及医疗器械技术领域,尤其涉及一种用于柔性器械的增强现实手术导航装置及方法。
背景技术
在微创手术过程中,患者体内医疗器械的空间信息,对于医疗器械的准确操作起着至关重要的作用。但是很多医疗器械在进入体内后,会不可避免的产生形状变化,导致其空间定位困难,比如,因受力产生形变的消融针、活检针和髓内钉等,以及依照人体自然腔道或操作便利性等因素需主动改变形状的柔性器械,例如内窥镜和软体机器人等。
当前获取柔性器械形状信息的技术主要包括:视觉图像、医学图像或电磁跟踪。基于视觉图像的方法使用方便,但无法处理有障碍的环境;至于医学图像,难以获得三维信息,当前常规的术中超声定位或术中X射线透视定位,对医生的操作技能要求高,大大增加了手术操作难度,且X射线透视成像对医患辐射量大;电磁传感器易受周围铁磁性材料干扰,需要电磁兼容的手术器械和相关配件,工作环境苛刻,成本高。受限于体内狭窄的工作环境,现有获取柔性器械形状信息的方式,导致医生难以直接观察柔性器械在体内的形状,无法准确定位柔性器械。
因此,现在亟需一种用于柔性器械的增强现实手术导航装置及方法来解决上述问题。
发明内容
针对现有技术存在的问题,本发明提供一种用于柔性器械的增强现实手术导航装置及方法。
本发明提供一种用于柔性器械的增强现实手术导航装置,包括柔性器械形状传感模块和增强现实模块,其中:
所述柔性器械形状传感模块,包括光栅传感器阵列和光纤传感解调仪,用于对柔性器械进行形状检测,并将检测得到的三维形状信息发送到所述增强现实模块;所述光栅传感器阵列是由4根光纤构成的,每根光纤内的等距离处刻有光栅,且每个等距离处的光栅构建成正方形区域,所述柔性器械的横截面与所述正方形区域处于同一中心轴上;
所述增强现实模块,包括双目相机和三维显示屏,用于通过所述双目相机,获取所述柔性器械的空间位置,并根据所述三维形状信息和所述空间位置,生成所述柔性器械对应的三维影像展现在所述三维显示屏上;
其中,所述光纤基于所述柔性器械的同一横截面,以螺旋环绕的形式设置在所述柔性器械的内部或表面。
根据本发明提供的一种用于柔性器械的增强现实手术导航装置,所述光栅传感器阵列是由4根布拉格光纤构成的。
根据本发明提供的一种用于柔性器械的增强现实手术导航装置,所述双目相机的拍摄范围内设置有光学标记物,且所述光学标记物设置在所述柔性器械的近端,用于实时跟踪所述柔性器械的空间位置。
根据本发明提供的一种用于柔性器械的增强现实手术导航装置,所述增强现实模块还包括半透半反镜,所述半透半反镜用于将所述三维影像投影到真实场景,以使得所述三维影像和所述柔性器械当前所处位置叠加,生成增强现实场景。
根据本发明提供的一种用于柔性器械的增强现实手术导航装置,所述增强现实模块还包括支撑外壳,用于对所述增强现实模块进行固定,所述三维显示器、所述双目相机和所述半透半反镜设置在支撑外壳表面。
根据本发明提供的一种用于柔性器械的增强现实手术导航装置,所述支撑外壳的表面连接有固定支架,用于对所述增强现实模块进行固定;其中,所述固定支架上设置有转轴,用于通过所述转轴对所述增强现实模块的角度进行调节。
本发明还提供一种基于上述任一所述用于柔性器械的增强现实手术导航装置的增强现实手术导航方法,包括:
基于柔性器械形状传感模块,获取柔性器械的三维形状信息,所述三维形状信息是通过所述柔性器械形状传感模块中光纤的曲率信息和挠率信息获取得到的;
通过双目相机,对设置在所述柔性器械近端的光学标记物进行标定,获取第一转换矩阵和第二转换矩阵,并根据对所述光学标记物进行追踪,得到所述柔性器械的空间位置;所述第一转换矩阵用于将柔性器械空间坐标系转换至光学标记物坐标系,所述第二转换矩阵用于将光学标记物坐标系转换至双目相机坐标系;
根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵和所述第二转换矩阵进行坐标系转换,获取所述柔性器械在所述双目相机中的位置并进行三维建模,将生成的三维影像展现在三维显示屏上。
根据本发明提供的一种用于柔性器械的增强现实手术导航方法,所述方法还包括:
通过所述双目相机,对目标投影区域的光学标记物进行标定,获取第三转换矩阵,所述第三转换矩阵用于将双目相机坐标系转换至投影坐标系;
根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵、所述第二转换矩阵和所述第三转换矩阵进行坐标系转换,将生成的三维影像通过半透半反镜投影到所述目标投影区域,以使得所述三维影像和所述柔性器械当前所处位置叠加,生成增强现实场景。
本发明还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述任一种所述用于柔性器械的增强现实手术导航方法的步骤。
本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上述任一种所述用于柔性器械的增强现实手术导航方法的步骤。
本发明提供的用于柔性器械的增强现实手术导航装置及方法,通过柔性器械形状传感模块,在柔性器械中设置光栅光纤传感器,获得柔性器械三维形状,从而对柔性器械三维模型进行实时形变,可精确定位柔性器械在体内的位置和形状。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的用于柔性器械的增强现实手术导航装置的结构示意图;
图2为本发明提供的用于柔性器械的增强现实手术导航装置的整体结构示意图;
图3为本发明提供的用于柔性器械的增强现实手术导航方法的流程示意图;
图4为本发明提供的四条光纤螺旋布设的柔性器械的示意图;
图5为本发明提供的柔性器械中光栅节点位置的横截面示意图;
图6为本发明提供的电子设备的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
受限于体内狭窄的工作环境,医生难以直接观察柔性器械在体内的形状,无法准确定位柔性器械。另外,现有手术导航***的导航屏幕通常远离手术区域,术者根据屏幕上的显示操作手术器械,高度依赖医生的本体感觉和临床经验,存在手眼不协调问题,为手术操作增加了不确定性。
本发明提供的用于柔性器械的增强现实手术导航装置,在手术实施前,通过标定获得光纤传感全局坐标系和光学标记物坐标系的转换矩阵;通过标定获得双目相机坐标系和增强现实投影坐标系的转换矩阵。在完成上述设置后,利用固定支架,将柔性器械增强现实手术导航装置固定在手术床或移动台车上。在手术实施中,利用双目相机和柔性器械传感模块,实时追踪柔性器械的形状和在空间中的位置,通过半透半反镜,将柔性器械的三维影像实时投影到手术区域,直观引导手术操作。需要说明的是,柔性器械为具有条形状结构的柔性器械,可以是内窥镜、软体机器人等,本发明对此不作具体限定。本发明中柔性器械的远端为进入体内的一端,近端为柔性器械在进入体内后,保留在外部的另一端。
图1为本发明提供的用于柔性器械的增强现实手术导航装置的结构示意图,如图1所示,本发明提供了一种用于柔性器械的增强现实手术导航装置,包括柔性器械形状传感模块101和增强现实模块 102,其中:
所述柔性器械形状传感模块101,包括光栅传感器阵列和光纤传感解调仪,用于对柔性器械进行形状检测,并将检测得到的三维形状信息发送到所述增强现实模块102;所述光栅传感器阵列是由4根光纤构成的,每根光纤内的等距离处刻有光栅,且每个等距离处的光栅构建成正方形区域,所述柔性器械的横截面与所述正方形区域处于同一中心轴上;
所述增强现实模块102,包括双目相机和三维显示屏,用于通过所述双目相机,获取所述柔性器械的空间位置,并根据所述三维形状信息和所述空间位置,生成所述柔性器械对应的三维影像展现在所述三维显示屏上;
其中,所述光纤基于所述柔性器械的同一横截面,以螺旋环绕的形式设置在所述柔性器械的内部或表面。
在本发明中,柔性器械形状传感模块101的光栅传感器阵列,是由多根光纤光栅传感器构成的阵列,以顺时针或逆时针螺旋环绕方式与柔性器械进行精确集成,螺旋环绕方式可以在柔性器械的表面,也可以在柔性器械的内部,本发明以螺旋环绕柔性器械内部进行说明,利用光栅传感器检测出柔性器械进入体内后的曲率信息和扭转信息进行形状检测。
在柔性器械近端固定有光学定位传感器,使得增强现实模块102 的双目相机实时定位柔性器械位姿。通过将双目相机集成在增强现实模块上并标定,从而实现柔性器械的三维影像与其本身的原位叠加显示,解决了柔性器械在体内产生形变导致定位困难的问题。
本发明提供的用于柔性器械的增强现实手术导航装置,通过柔性器械形状传感模块,在柔性器械中设置光栅光纤传感器,获得柔性器械三维形状,从而对柔性器械三维模型进行实时形变,可精确定位柔性器械在体内的位置和形状。
图2为本发明提供的用于柔性器械的增强现实手术导航装置的整体结构示意图,可参考图2所示,本发明公开了一种柔性器械增强现实导航装置,包括柔性器械形状传感模块101和增强现实模块102,其中,柔性器械形状传感模块101包括光纤传感解调仪1011和光纤光栅传感器阵列1012,可选地,所述光栅传感器阵列1012是由4根布拉格光纤构成的。
增强现实模块102包括双目相机1021和三维显示屏1022,可选地,所述双目相机1021的拍摄范围内设置有光学标记物1013,且所述光学标记物1013设置在所述柔性器械1014的近端,用于实时跟踪所述柔性器械1014的空间位置。
可选地,所述增强现实模块102还包括半透半反镜1023,所述半透半反镜1023用于将所述三维影像投影到真实场景,以使得所述三维影像和所述柔性器械1014当前所处位置叠加,生成增强现实场景。
可选地,所述增强现实模块102还包括支撑外壳1024,用于对所述增强现实模块102进行固定,所述三维显示器1022、所述双目相机1021和所述半透半反镜1023设置在支撑外壳1024表面。
可选地,所述支撑外壳1024的表面连接有固定支架103,用于对所述增强现实模块102进行固定;其中,所述固定支架103上设置有转轴,用于通过所述转轴对所述增强现实模块102的角度进行调节。
在本发明中,可参考图2所示,双目相机1021、三维显示屏1022 和半透半反镜1023通过支撑外壳1024集成在一起,且保持相对固定。半透半反镜1023可将三维显示屏1022显示的三维图像反射到观察者眼中,同时观察者又可以通过半透半反镜1023观察到真实的场景,从而可以看到空间透视融合的增强现实场景。具体地,在本发明中,通过一个光学标记物(该光学标记物设置在目标投影区域,可以为微创手术区域),将双目相机坐标系与投影坐标系的空间位置关系进行标定,获取从双目相机坐标系Tra至投影坐标系Dis的转换矩阵柔性器械形状传感模块101通过在柔性器械1014中植入四条布拉格光纤1012,可精确计算出柔性器械1014的形状PIns,然后在柔性器械1014进入体内后,对三维建模的柔性器械模型进行相应的形变,显示在三维显示屏1022中。在本发明中,柔性器械1014的近端固定设置有光学标记物1013,用于实时跟踪柔性器械在空间中的位置。通过预先标定好得到的柔性器械空间坐标系Ins至光学标记物坐标系 Mar的转换矩阵进而,可通过以下坐标系转换公式,将三维建模的柔性器械模型与真实柔性器械在空间中原位叠加,从而得到增强现实场景,所述坐标系转换公式为:。
在微创手术中,柔性器械进入到体内进行手术操作,难以被直接观察,本发明可以在空间中原位显示柔性器械的三维影像,使操作者产生透视眼的效果,直观引导其进行手术操作,无手眼不协调问题,其中,增强现实模块不接触人体,无需消毒即可使用,便于设置,本发明提供的用于柔性器械的增强现实手术导航装置,大大减少了手术的辐射量和手术时间。
图3为本发明提供的用于柔性器械的增强现实手术导航方法的流程示意图,如图3所示,本发明提供了一种基于上述实施例的用于柔性器械的增强现实手术导航装置的增强现实手术导航方法,包括:
步骤301,基于柔性器械形状传感模块,获取柔性器械的三维形状信息,所述三维形状信息是通过所述柔性器械形状传感模块中光纤的曲率信息和挠率信息获取得到的。
在本发明中,图4为本发明提供的四条光纤螺旋布设的柔性器械的示意图,可参考图4所示,四条光纤Pj(j=1,2,3,4)在柔性器械上进行螺旋形布设,实现在较粗的柔性器械上进行精确的形状测量,并可以实现大角度的柔性弯曲,同时减少因牵拉对光纤造成损坏。
进一步地,在光纤的等距离处刻有光栅,且四条光纤中对应位置的四个光栅传感器作为一组光栅成正方形区域分布,正方形区域的中心落在柔性器械的中心线上,即柔性器械的横截面与正方形区域处于同一中心轴上。每条光纤相邻的光栅位置绕中心线旋转180度,所以可以利用不同光纤中的光栅,组成与中心线平行的四条虚拟光纤 lj(j=1,2,3,4)。本发明利用每个光栅测得的应变量,以及柔性器械的尺寸参数,构建中心线参数方程。以布拉格光纤为例,详细说明如下:
布拉格反射光的波长λB与光栅周期Λ和光栅有效折射率neff有关:
λB=2neffΛ;
由于光栅周期Λ会因光栅应变而改变,因此波长λB会发生变化。光栅应变ε和波长变化ΔλB的关系是:
其中,Pε是光弹性系数。从上述关系可知,光栅应变ε可以通过环境改变前后(即柔性器械发生形变前后)的布拉格波长差异ΔλB来计算:
在本发明中,柔性器械的横截面始终保持圆形,柔性器械中心线具有恒定曲率和恒定挠率的属性,因此,本发明将柔性器械定义为多段(将柔性器械分为i段,每个线段i表示柔性器械的其中一段),四条虚拟光纤到中心线是等距离。li表示相邻两组光栅之间中心线的线段i的长度,因此可以写为以下形式:
其中,Si(t)表示中心线参数方程。
图5为本发明提供的柔性器械中光栅节点位置的横截面示意图,如图5所示,四条虚拟光纤成圆柱状,是距离中心线等距的曲线。因此,在每个分段i中,虚拟光纤的长度可以通过下式获得:
其中,下标i=1,2,...,N表示各组光栅之间的分段;j=1,2,3,4表示四条虚拟光纤;表示第i个分段的第j条虚拟光纤的理论长度,可利用上述公式通过几何位置关系计算获得;dj,i表示第i个分段的第j 条虚拟光纤偏移中心线的距离。
另外,布拉格光栅可以测量在该光栅定位位置上的应变εj,i,因此可以通过以下方式获得每条虚拟光纤的测量长度l′j,i:
l′j,i=(1+εj,i)li;
未知参数ai,bi可以通过求解上面的方程获得。因此,柔性器械的分段i的曲率信息κi和挠率信息τi计算公式如下:
通过上述测量算法获得柔性器械各段节点的曲率和挠率,然后转换为各个节点的全局位置,从而计算出柔性器械的形状。柔性器械中心线的形状由一组离散节点Oi表示,其为横截面的中心。
为了获得每个节点的全局位置坐标,定义全局坐标系{x,y,z}和每个节点(即每个分段)的本地坐标系{xi,yi,zi}(即局部坐标系)。在本发明中,全局坐标系固定在柔性器械的近端底部,与本地坐标系 {x1,y1,z1}重合。
局部坐标系{xi,yi,zi}和固定在节点Oi的Frenet坐标系的区别仅仅是旋转αi,其中zi轴为在节点Oi的中心线切线。在Frenet坐标系i 中(坐标系原点固定于点Oi),节点Oi的曲率向量可表示为[0,κi,τi]。将曲率向量转换到局部坐标系{xi,yi,zi}中,表示为:
[κicosα,κisinα,τi]。
进一步地,在本发明中,曲率向量的两个分量κicosα和κisinα,分别对应于局部坐标系xi方向和yi方向。τi是对应于局部zi方向的挠率。进而可以计算出节点Oi在局部坐标系{xi,yi,zi}中的位置和方向
根据分段等曲率方法,节点Oi的全局位置Pi和全局方向Ri可表达为:
因为在大多数情况下,具有连续形状变化的柔性器械的中心线是平滑曲线,所以曲率和挠率的变化相对均匀,并且没有突变。因此,根据离散节点的位置和方向做插值,即可在全局坐标系中恢复柔性器械的三维形状PIns。
步骤302,通过双目相机,对设置在所述柔性器械近端的光学标记物进行标定,获取第一转换矩阵和第二转换矩阵,并根据对所述光学标记物进行追踪,得到所述柔性器械的空间位置;所述第一转换矩阵用于将柔性器械空间坐标系转换至光学标记物坐标系,所述第二转换矩阵用于将光学标记物坐标系转换至双目相机坐标系;
步骤303,根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵和所述第二转换矩阵进行坐标系转换,获取所述柔性器械在所述双目相机中的位置并进行三维建模,将生成的三维影像展现在三维显示屏上。
可选地,在上述实施例的基础上,所述方法还包括:
通过所述双目相机,对目标投影区域的光学标记物进行标定,获取第三转换矩阵,所述第三转换矩阵用于将双目相机坐标系转换至投影坐标系;
根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵、所述第二转换矩阵和所述第三转换矩阵进行坐标系转换,将生成的三维影像通过半透半反镜投影到所述目标投影区域,以使得所述三维影像和所述柔性器械当前所处位置叠加,生成增强现实场景。
在本发明中,将微创手术区域作为目标投影区域,通过一个光学标记物,将双目相机坐标系与投影坐标系的空间位置关系进行标定,获取从双目相机坐标系Tra至投影坐标系Dis的转换矩阵在精确计算出柔性器械的形状PIns后,通过预先标定好得到的柔性器械空间坐标系Ins至光学标记物坐标系Mar的转换矩阵进而,可通过坐标系转换公式:将三维建模的柔性器械模型与真实柔性器械在空间中原位叠加,从而得到增强现实场景,其中,表示光学标记物坐标系Mar转换至双目相机坐标系 Tra的转换矩阵。
在微创手术中,柔性器械进入到体内进行手术操作,难以被直接观察,本发明解决了在微创手术中,柔性器械定位困难和手眼不协调的问题,通过柔性器械形状传感模块获得柔性器械在体内的三维形状,从而对柔性器械三维模型进行实时形变,通过增强现实模块实时调整柔性器械在空间中的投影位置,使柔性器械三维模型与真实的柔性器械原位叠加,实现原位增强现实实时引导。由于无X射线辐射,减少了对于操作者经验的依赖,增强了手术安全性以及高效性。
本发明提供的用于柔性器械的增强现实手术导航方法,通过柔性器械形状传感模块,在柔性器械中设置光栅光纤传感器,获得柔性器械三维形状,从而对柔性器械三维模型进行实时形变,可精确定位柔性器械在体内的位置和形状。
图6为本发明提供的电子设备的结构示意图,如图6所示,该电子设备可以包括:处理器(processor)601、通信接口(Communications Interface)602、存储器(memory)603和通信总线604,其中,处理器601,通信接口602,存储器603通过通信总线604完成相互间的通信。处理器601可以调用存储器603中的逻辑指令,以执行用于柔性器械的增强现实手术导航方法,该方法包括:基于柔性器械形状传感模块,获取柔性器械的三维形状信息,所述三维形状信息是通过所述柔性器械形状传感模块中光纤的曲率信息和挠率信息获取得到的;通过双目相机,对设置在所述柔性器械近端的光学标记物进行标定,获取第一转换矩阵和第二转换矩阵,并根据对所述光学标记物进行追踪,得到所述柔性器械的空间位置;所述第一转换矩阵用于将柔性器械空间坐标系转换至光学标记物坐标系,所述第二转换矩阵用于将光学标记物坐标系转换至双目相机坐标系;根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵和所述第二转换矩阵进行坐标系转换,获取所述柔性器械在所述双目相机中的位置并进行三维建模,将生成的三维影像展现在三维显示屏上。
此外,上述的存储器603中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面,本发明还提供一种计算机程序产品,所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,计算机能够执行上述各方法所提供的用于柔性器械的增强现实手术导航方法,该方法包括:基于柔性器械形状传感模块,获取柔性器械的三维形状信息,所述三维形状信息是通过所述柔性器械形状传感模块中光纤的曲率信息和挠率信息获取得到的;通过双目相机,对设置在所述柔性器械近端的光学标记物进行标定,获取第一转换矩阵和第二转换矩阵,并根据对所述光学标记物进行追踪,得到所述柔性器械的空间位置;所述第一转换矩阵用于将柔性器械空间坐标系转换至光学标记物坐标系,所述第二转换矩阵用于将光学标记物坐标系转换至双目相机坐标系;根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵和所述第二转换矩阵进行坐标系转换,获取所述柔性器械在所述双目相机中的位置并进行三维建模,将生成的三维影像展现在三维显示屏上。
又一方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各实施例提供的用于柔性器械的增强现实手术导航方法,该方法包括:基于柔性器械形状传感模块,获取柔性器械的三维形状信息,所述三维形状信息是通过所述柔性器械形状传感模块中光纤的曲率信息和挠率信息获取得到的;通过双目相机,对设置在所述柔性器械近端的光学标记物进行标定,获取第一转换矩阵和第二转换矩阵,并根据对所述光学标记物进行追踪,得到所述柔性器械的空间位置;所述第一转换矩阵用于将柔性器械空间坐标系转换至光学标记物坐标系,所述第二转换矩阵用于将光学标记物坐标系转换至双目相机坐标系;根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵和所述第二转换矩阵进行坐标系转换,获取所述柔性器械在所述双目相机中的位置并进行三维建模,将生成的三维影像展现在三维显示屏上。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (9)
1.一种用于柔性器械的增强现实手术导航装置,其特征在于,包括柔性器械形状传感模块和增强现实模块,其中:
所述柔性器械形状传感模块,包括光栅传感器阵列和光纤传感解调仪,用于对柔性器械进行形状检测,并将检测得到的三维形状信息发送到所述增强现实模块;所述光栅传感器阵列是由4根光纤构成的,每根光纤内的等距离处刻有光栅,且每个等距离处的光栅构建成正方形区域,所述柔性器械的横截面与所述正方形区域处于同一中心轴上;
所述增强现实模块,包括双目相机和三维显示屏,用于通过所述双目相机,获取所述柔性器械的空间位置,并根据所述三维形状信息和所述空间位置,生成所述柔性器械对应的三维影像展现在所述三维显示屏上;
其中,所述光纤基于所述柔性器械的同一横截面,以螺旋环绕的形式设置在所述柔性器械的内部或表面;
所述用于柔性器械的增强现实手术导航装置具体用于:
基于柔性器械形状传感模块,获取柔性器械的三维形状信息,所述三维形状信息是通过所述柔性器械形状传感模块中光纤的曲率信息和挠率信息获取得到的,具体步骤为:
根据柔性器械发生形变前后的布拉格波长差异ΔλB计算得到光栅应变ε,公式为:
λB=2neffA
其中,λB为布拉格反射光的波长,Λ为光栅周期,neff为光栅有效折射率,Pε是光弹性系数;
通过以下公式求解未知参数ai,bi,公式具体为:
l′j,i=(1+εj,i)li
其中,Si(t)表示中心线参数方程,li表示相邻两组光栅之间中心线的线段i的长度,下标i=1,2,…,N表示各组光栅之间的分段;j=1,2,3,4表示四条虚拟光纤;表示第i个分段的第j条虚拟光纤的理论长度;dj,i表示第i个分段的第j条虚拟光纤偏移中心线的距离,εj,i为光栅定位位置上的应变,l′j,i表示每条虚拟光纤的测量长度,li表示第i个分段的长度,表示理论计算长度;
柔性器械的分段i的曲率信息κi和挠率信息τi计算公式如下:
根据柔性器械各段节点的曲率信息和挠率信息,转换为各个节点的全局位置,计算出柔性器械的三维形状信息;
通过双目相机,对设置在所述柔性器械近端的光学标记物进行标定,获取第一转换矩阵和第二转换矩阵,并根据对所述光学标记物进行追踪,得到所述柔性器械的空间位置;所述第一转换矩阵用于将柔性器械空间坐标系转换至光学标记物坐标系,所述第二转换矩阵用于将光学标记物坐标系转换至双目相机坐标系;
根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵和所述第二转换矩阵进行坐标系转换,获取所述柔性器械在所述双目相机中的位置并进行三维建模,将生成的三维影像展现在三维显示屏上。
2.根据权利要求1所述的用于柔性器械的增强现实手术导航装置,其特征在于,所述光栅传感器阵列是由4根布拉格光纤构成的。
3.根据权利要求1所述的用于柔性器械的增强现实手术导航装置,其特征在于,所述双目相机的拍摄范围内设置有光学标记物,且所述光学标记物设置在所述柔性器械的近端,用于实时跟踪所述柔性器械的空间位置。
4.根据权利要求1所述的用于柔性器械的增强现实手术导航装置,其特征在于,所述增强现实模块还包括半透半反镜,所述半透半反镜用于将所述三维影像投影到真实场景,以使得所述三维影像和所述柔性器械当前所处位置叠加,生成增强现实场景。
5.根据权利要求4所述的用于柔性器械的增强现实手术导航装置,其特征在于,所述增强现实模块还包括支撑外壳,用于对所述增强现实模块进行固定,所述三维显示屏、所述双目相机和所述半透半反镜设置在支撑外壳表面。
6.根据权利要求5所述的用于柔性器械的增强现实手术导航装置,其特征在于,所述支撑外壳的表面连接有固定支架,用于对所述增强现实模块进行固定;其中,所述固定支架上设置有转轴,用于通过所述转轴对所述增强现实模块的角度进行调节。
7.根据权利要求1所述的用于柔性器械的增强现实手术导航装置,其特征在于,所述用于柔性器械的增强现实手术导航装置还用于:
通过所述双目相机,对目标投影区域的光学标记物进行标定,获取第三转换矩阵,所述第三转换矩阵用于将双目相机坐标系转换至投影坐标系;
根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵、所述第二转换矩阵和所述第三转换矩阵进行坐标系转换,将生成的三维影像通过半透半反镜投影到所述目标投影区域,以使得所述三维影像和所述柔性器械当前所处位置叠加,生成增强现实场景。
8.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如下步骤:
基于柔性器械形状传感模块,获取柔性器械的三维形状信息,所述三维形状信息是通过所述柔性器械形状传感模块中光纤的曲率信息和挠率信息获取得到的,具体步骤为:
根据柔性器械发生形变前后的布拉格波长差异ΔλB计算得到光栅应变ε,公式为:
λB=2neffA
其中,λB为布拉格反射光的波长,Λ为光栅周期,neff为光栅有效折射率,Pε是光弹性系数;
通过以下公式求解未知参数ai,bi,公式具体为:
l′j,i=(1+εj,i)li
其中,Si(t)表示中心线参数方程,li表示相邻两组光栅之间中心线的线段i的长度,下标i=1,2,…,N表示各组光栅之间的分段;j=1,2,3,4表示四条虚拟光纤;表示第i个分段的第j条虚拟光纤的理论长度;dj,i表示第i个分段的第j条虚拟光纤偏移中心线的距离,εj,i为光栅定位位置上的应变,l′j,i表示每条虚拟光纤的测量长度,li表示第i个分段的长度,表示理论计算长度;
柔性器械的分段i的曲率信息κi和挠率信息τi计算公式如下:
根据柔性器械各段节点的曲率信息和挠率信息,转换为各个节点的全局位置,计算出柔性器械的三维形状信息;
通过双目相机,对设置在所述柔性器械近端的光学标记物进行标定,获取第一转换矩阵和第二转换矩阵,并根据对所述光学标记物进行追踪,得到所述柔性器械的空间位置;所述第一转换矩阵用于将柔性器械空间坐标系转换至光学标记物坐标系,所述第二转换矩阵用于将光学标记物坐标系转换至双目相机坐标系;
根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵和所述第二转换矩阵进行坐标系转换,获取所述柔性器械在所述双目相机中的位置并进行三维建模,将生成的三维影像展现在三维显示屏上。
9.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如下步骤:
基于柔性器械形状传感模块,获取柔性器械的三维形状信息,所述三维形状信息是通过所述柔性器械形状传感模块中光纤的曲率信息和挠率信息获取得到的,具体步骤为:
根据柔性器械发生形变前后的布拉格波长差异ΔλB计算得到光栅应变ε,公式为:
λB=2neffA
其中,λB为布拉格反射光的波长,Λ为光栅周期,neff为光栅有效折射率,Pε是光弹性系数;
通过以下公式求解未知参数ai,bi,公式具体为:
l′j,i=(1+εj,i)li
其中,Si(t)表示中心线参数方程,li表示相邻两组光栅之间中心线的线段i的长度,下标i=1,2,…,N表示各组光栅之间的分段;j=1,2,3,4表示四条虚拟光纤;表示第i个分段的第j条虚拟光纤的理论长度;dj,i表示第i个分段的第j条虚拟光纤偏移中心线的距离,εj,i为光栅定位位置上的应变,l′j,i表示每条虚拟光纤的测量长度,li表示第i个分段的长度,表示理论计算长度;
柔性器械的分段i的曲率信息κi和挠率信息τi计算公式如下:
根据柔性器械各段节点的曲率信息和挠率信息,转换为各个节点的全局位置,计算出柔性器械的三维形状信息;
通过双目相机,对设置在所述柔性器械近端的光学标记物进行标定,获取第一转换矩阵和第二转换矩阵,并根据对所述光学标记物进行追踪,得到所述柔性器械的空间位置;所述第一转换矩阵用于将柔性器械空间坐标系转换至光学标记物坐标系,所述第二转换矩阵用于将光学标记物坐标系转换至双目相机坐标系;
根据所述三维形状信息和所述空间位置,通过所述第一转换矩阵和所述第二转换矩阵进行坐标系转换,获取所述柔性器械在所述双目相机中的位置并进行三维建模,将生成的三维影像展现在三维显示屏上。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110552899.8A CN113349928B (zh) | 2021-05-20 | 2021-05-20 | 用于柔性器械的增强现实手术导航装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110552899.8A CN113349928B (zh) | 2021-05-20 | 2021-05-20 | 用于柔性器械的增强现实手术导航装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113349928A CN113349928A (zh) | 2021-09-07 |
CN113349928B true CN113349928B (zh) | 2023-01-24 |
Family
ID=77527040
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110552899.8A Active CN113349928B (zh) | 2021-05-20 | 2021-05-20 | 用于柔性器械的增强现实手术导航装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113349928B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113907867A (zh) * | 2021-12-16 | 2022-01-11 | 北京微刀医疗科技有限公司 | 不可逆电穿孔消融针及不可逆电穿孔消融针可视化*** |
CN115906556A (zh) * | 2022-10-13 | 2023-04-04 | 中国科学院自动化研究所 | 柔性器械的操作提示方法、装置、设备和存储介质 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7930065B2 (en) * | 2005-12-30 | 2011-04-19 | Intuitive Surgical Operations, Inc. | Robotic surgery system including position sensors using fiber bragg gratings |
WO2012046202A1 (en) * | 2010-10-08 | 2012-04-12 | Koninklijke Philips Electronics N.V. | Flexible tether with integrated sensors for dynamic instrument tracking |
US10551170B2 (en) * | 2011-01-28 | 2020-02-04 | Koninklijke Philips N.V. | Fiber optic sensors for determining 3D shape |
WO2016164311A1 (en) * | 2015-04-06 | 2016-10-13 | Intuitive Surgical Operations, Inc. | Systems and methods of registration compensation in image guided surgery |
GB201509418D0 (en) * | 2015-06-01 | 2015-07-15 | Univ Dundee | Fibre based imaging |
WO2018010040A1 (zh) * | 2016-07-11 | 2018-01-18 | 王民良 | 影像增强真实度的方法与应用该方法在可穿戴式眼镜的手术导引 |
CN106249881B (zh) * | 2016-07-21 | 2019-03-19 | 江苏奥格视特信息科技有限公司 | 增强现实视场空间和虚拟三维目标动态配准方法 |
WO2019075075A1 (en) * | 2017-10-10 | 2019-04-18 | Vibronix, Inc. | FIBER OPTIC SURGICAL OPTIC SHAPE DETECTION APPARATUS AND METHOD THEREOF |
CN109827518B (zh) * | 2017-11-23 | 2021-09-28 | 桂林电子科技大学 | 纤维集成干涉仪并联结构三维空间分布式形变传感器 |
US11885699B2 (en) * | 2019-02-20 | 2024-01-30 | Humanetics Innovative Solutions, Inc. | Optical fiber system having helical core structure for detecting forces during a collision test |
CN110638527B (zh) * | 2019-07-01 | 2021-06-01 | 中国科学院苏州生物医学工程技术研究所 | 基于光学相干层析增强现实的手术显微成像*** |
CN111265299B (zh) * | 2020-02-19 | 2023-08-18 | 上海理工大学 | 基于光纤形状传感的手术导航*** |
CN111728697A (zh) * | 2020-07-21 | 2020-10-02 | 中国科学技术大学 | 一种基于头戴式三维增强现实设备的手术训练和导航装置 |
-
2021
- 2021-05-20 CN CN202110552899.8A patent/CN113349928B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN113349928A (zh) | 2021-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7050733B2 (ja) | 光学形状検出装置の視点を伴う仮想画像 | |
US11678813B2 (en) | Systems and methods for deformation compensation using shape sensing | |
US11376075B2 (en) | Systems and methods for non-rigid deformation of tissue for virtual navigation of interventional tools | |
US20240000520A1 (en) | Instrument shape determination | |
US20220133414A1 (en) | Shape sensor systems with redundant sensing | |
Shi et al. | Shape sensing techniques for continuum robots in minimally invasive surgery: A survey | |
US20180116732A1 (en) | Real-time Three Dimensional Display of Flexible Needles Using Augmented Reality | |
Abayazid et al. | 3d flexible needle steering in soft-tissue phantoms using fiber bragg grating sensors | |
EP2849668B1 (en) | Systems and methods for registration of a medical device using rapid pose search | |
US10299698B2 (en) | Systems and methods for registration of a medical device using a reduced search space | |
US8989528B2 (en) | Optical fiber grating sensors and methods of manufacture | |
CN113349928B (zh) | 用于柔性器械的增强现实手术导航装置 | |
CN100534378C (zh) | 医用内窥镜本体三维定位***和方法 | |
US20210186648A1 (en) | Surgical shape sensing fiber optic apparatus and method thereof | |
Ha et al. | Comparative study on electromagnetic tracking and fiber Bragg grating-based catheter shape sensing | |
US20240060770A1 (en) | Method for shape sensing an optical fiber |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |