CN114631886A - 机械臂摆位方法、可读存储介质及手术机器人*** - Google Patents
机械臂摆位方法、可读存储介质及手术机器人*** Download PDFInfo
- Publication number
- CN114631886A CN114631886A CN202011492045.7A CN202011492045A CN114631886A CN 114631886 A CN114631886 A CN 114631886A CN 202011492045 A CN202011492045 A CN 202011492045A CN 114631886 A CN114631886 A CN 114631886A
- Authority
- CN
- China
- Prior art keywords
- arm
- positioning
- adjustment
- surgical
- coordinate system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/70—Manipulators specially adapted for use in surgery
- A61B34/74—Manipulators with manual electric input means
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/25—User interfaces for surgical systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B34/37—Master-slave robots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
- A61B2034/107—Visualisation of planned trajectories or target regions
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Robotics (AREA)
- Medical Informatics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Human Computer Interaction (AREA)
- Manipulator (AREA)
Abstract
本发明提供一种机械臂摆位方法、可读存储介质及手术机器人***,所述机械臂摆位方法包括:获取手术对象、所述手术对象上的预打孔位置及患者端手术操作台的机械臂的虚拟三维模型;根据所述虚拟三维模型,得到所述机械臂的调整臂的摆位构型;根据当前所述调整臂的摆位构型,对患者端手术操作台坐标系与所述手术对象的真实体表坐标系进行虚实融合坐标配准;根据AR设备的实时位置以及所述调整臂的摆位构型,获得所述调整臂的摆位路径规划;以及通过AR设备提示所述摆位路径规划。如此配置,可以方便地辅助指引操作者进行调整臂的摆位操作,提高了术前摆位的正确性和执行效率。
Description
技术领域
本发明涉及机器人辅助手术***和方法领域,特别涉及一种机械臂摆位方法、可读存储介质及手术机器人***。
背景技术
手术机器人的出现符合精准外科的发展趋势。手术机器人成为帮助医生完成手术有力工具,手术机器人其设计理念是采用微创伤方式,精准地实施复杂的外科手术。在传统的手术面临种种局限的情况下,发展出了手术机器人来替代传统手术,手术机器人突破了人眼的局限,采用立体成像技术,将内部器官更加清晰的呈现给操作者。在原来手伸不进的区域,机器手能完成360度转动、挪动、摆动、夹持,并避免抖动。由于手术机器人对患者的伤害小,患者出血少、恢复快,大大缩短了患者术后住院时间,术后存活率和康复率也能明显提高,受到广大医患的青睐,现在作为一种高端医疗器械,已广泛运用于各种临床手术中。
现有的手术机器人常通过手拉动或利用控制端调整等方法对机械臂进行术前摆位,其无法确定摆位是否在预期的最佳位置上,且术前摆位的操作复杂,效率较低。
发明内容
本发明的目的在于提供一种机械臂摆位方法、可读存储介质及手术机器人***,以解决现有的手术机器人术前摆位不准确的问题。
为解决上述技术问题,根据本发明的第一个方面,提供了一种机械臂摆位方法,其包括:
获取手术对象、所述手术对象上的预打孔位置及患者端手术操作台的机械臂的虚拟三维模型;
根据所述虚拟三维模型,得到所述机械臂的调整臂的摆位构型;
根据当前所述调整臂的摆位构型,对患者端手术操作台坐标系与所述手术对象的真实体表坐标系进行虚实融合坐标配准;
根据AR设备的实时位置以及所述调整臂的摆位构型,获得所述调整臂的摆位路径规划;以及
通过AR设备提示所述摆位路径规划。
可选的,所述机械臂摆位方法还包括:
获取所述调整臂根据所述摆位路径规划完成摆位后的实际位置;
获取根据所述摆位路径规划计算得到的所述调整臂的规划位置;
计算所述规划位置与所述实际位置的偏差,若所述偏差超出预设标准,则再次执行:根据当前所述调整臂的摆位构型,对患者端手术操作台坐标系与所述手术对象的真实体表坐标系进行虚实融合坐标配准;根据AR设备的实时位置,获得所述调整臂的摆位路径规划;以及通过AR设备提示所述摆位路径规划的步骤;若所述偏差准在所述预设标准内,则确定所述调整臂的摆位完成。
可选的,在所述机械臂摆位方法中,所述手术对象、所述预打孔位置及所述机械臂的虚拟三维模型基于双目视觉装置所反馈的视差信息建立。
可选的,在所述机械臂摆位方法中,根据当前所述调整臂的摆位构型,对患者端手术操作台坐标系与所述手术对象的真实体表坐标系进行虚实融合坐标配准的方法包括:
通过双目视觉装置坐标系在世界坐标系中分别与所述患者端手术操作台坐标系及AR设备坐标系建立坐标映射关系;
根据所述手术对象的真实体表坐标系与所述双目视觉装置坐标系的映射关系,建立所述患者端手术操作台坐标系与所述手术对象的真实体表坐标系的坐标映射关系。
可选的,在所述机械臂摆位方法中,所述双目视觉装置坐标系与所述AR设备坐标系的相对坐标关系固定。
可选的,在所述机械臂摆位方法中,通过AR设备提示所述摆位路径规划的方法包括:
AR设备显示多条所述调整臂的规划位置,并显示多条所述调整臂的摆位路径以供选择到达所述规划位置;
提示被选择的所述调整臂所需要调整的关节;以及
提示所需要调整的关节的调整量。
可选的,在所述机械臂摆位方法中,通过AR设备提示所述摆位路径规划的方法还包括:
获取所需要调整的关节在调整过程中所反馈的调整差值;
若所述调整差值超出预设的目标值的范围,则再次执行:提示所需要调整的关节的调整量的步骤,直至所述调整差值在预设的目标值的范围内。
可选的,在所述机械臂摆位方法中,通过AR设备提示所述摆位路径规划的方法还包括:
在检测到所有所述调整臂的摆位全部完成后,提示本次调整摆位完成,并显示和/或记录操作时间。
可选的,在所述机械臂摆位方法中,在AR设备显示多条所述调整臂的规划位置,并显示多条所述调整臂的摆位路径以供选择的步骤中,根据所述AR设备的实时位置与多条所述调整臂之间的相对位置,推荐最近的所述调整臂作为起始调整的调整臂。
可选的,在所述机械臂摆位方法中,在提示被选择的所述调整臂所需要调整的关节前,根据被选择的所述调整臂的各关节与相邻关节的位置,推荐碰撞概率最大的关节作为起始调整的关节。
可选的,根据相同术式下的历史手术数据以及当前的所述虚拟三维模型,得到当前的所述调整臂的摆位构型。
为解决上述技术问题,根据本发明的第二个方面,还提供了一种可读存储介质,其上存储有程序,所述程序被执行时,实现如上所述的机械臂摆位方法。
为解决上述技术问题,根据本发明的第三个方面,还提供了一种手术机器人***,其包括患者端手术操作台、AR设备与控制装置,所述患者端手术操作台包括机械臂,所述机械臂包括调整臂,所述控制装置利用根据权利要求1~10中任一项所述的机械臂摆位方法,控制所述AR设备提示所述调整臂的摆位路径规划。
可选的,所述手术机器人***还包括双目视觉装置,所述双目视觉装置用于获取手术对象、所述预打孔位置及所述机械臂的视差信息,所述控制装置用于根据所述视差信息建立所述手术对象、打孔位置及所述机械臂的虚拟三维模型。
可选的,在所述手术机器人中,所述双目视觉装置与所述AR设备一体设置或分体设置。
可选的,在所述手术机器人中,所述机械臂还包括工具臂,所述工具臂一端用于与手术器械连接,另一端用于与所述调整臂连接,所述调整臂包括多个关节,所述控制装置根据摆位路径规划,控制所述AR设备提示被选择的所述调整臂中需要被调整的所述关节。
可选的,在所述手术机器人中,所述调整臂的多个关节包括至少三个转动关节和一个移动关节,所述控制装置根据摆位路径规划,控制AR设备提示被选择的所述调整臂所需要调整的所述转动关节和移动关节中的至少一个。
综上所述,在本发明提供的机械臂摆位方法、可读存储介质及手术机器人***中,所述机械臂摆位方法包括:获取手术对象、所述手术对象上的预打孔位置及患者端手术操作台的机械臂的虚拟三维模型;根据所述虚拟三维模型,得到所述机械臂的调整臂的摆位构型;根据当前所述调整臂的摆位构型,对患者端手术操作台坐标系与所述手术对象的真实体表坐标系进行虚实融合坐标配准;根据AR设备的实时位置以及所述调整臂的摆位构型,获得所述调整臂的摆位路径规划;以及通过AR设备提示所述摆位路径规划。
如此配置,基于虚实融合坐标配准,根据AR设备的实时位置,将获得的所述调整臂的摆位路径规划通过AR设备进行提示,可以方便地辅助指引操作者进行调整臂的摆位操作,提高了术前摆位的正确性和执行效率。
附图说明
本领域的普通技术人员将会理解,提供的附图用于更好地理解本发明,而不对本发明的范围构成任何限定。其中:
图1是本发明一实施例的手术机器人的应用场景的示意图;
图2是本发明一实施例的患者端手术操作台的示意图;
图3是本发明一实施例的机械臂的调整臂关节的示意图;
图4是本发明一实施例的双目视觉装置的采集原理的示意图;
图5是本发明一实施例的双目视觉装置的原理示意图;
图6是本发明一实施例的机械臂摆位方法的流程图;
图7是本发明一实施例的路径规划的应用场景的示意图;
图8是本发明一实施例的虚实融合坐标配准的原理示意图,其中双目视觉装置与AR设备分体设置;
图9是本发明一实施例的双目视觉装置与AR设备分体设置的示意图;
图10是本发明一实施例的虚实融合坐标配准的原理示意图,其中双目视觉装置与AR设备一体设置;
图11是本发明一实施例的双目视觉装置与AR设备一体设置的示意图;
图12是本发明一实施例的双目视觉装置与AR设备的坐标映射关系的示意图;
图13是本发明一实施例的通过AR设备提示摆位路径规划的流程图;
图14是本发明一实施例的路径规划方法的示意图;
图15是本发明一实施例的AR设备提示摆位路径规划的场景示意图;
图16是本发明一实施例的实时路径规划方式的示意图;
图17是本发明一实施例的最优路径选择方法的示意图。
附图中:
1-第一转动关节1;2-第二转动关节;3-移动关节;4-第三转动关节;10-医生端控制台;20-患者端手术操作台;21-机械臂;21a-调整臂;21b-工具臂;30-AR设备;40-手术对象;50-辅助设备;71-双目视觉装置;711-左相机;712-右相机。
具体实施方式
为使本发明的目的、优点和特征更加清楚,以下结合附图和具体实施例对本发明作进一步详细说明。需说明的是,附图均采用非常简化的形式且未按比例绘制,仅用以方便、明晰地辅助说明本发明实施例的目的。此外,附图所展示的结构往往是实际结构的一部分。特别的,各附图需要展示的侧重点不同,有时会采用不同的比例。
如在本发明中所使用的,单数形式“一”、“一个”以及“该”包括复数对象,术语“或”通常是以包括“和/或”的含义而进行使用的,术语“若干”通常是以包括“至少一个”的含义而进行使用的,术语“至少两个”通常是以包括“两个或两个以上”的含义而进行使用的,此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”、“第三”的特征可以明示或者隐含地包括一个或者至少两个该特征,术语“近端”通常是靠近操作者的一端,术语“远端”通常是靠近患者即靠近病灶的一端,“一端”与“另一端”以及“近端”与“远端”通常是指相对应的两部分,其不仅包括端点,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系。此外,如在本发明中所使用的,一元件设置于另一元件,通常仅表示两元件之间存在连接、耦合、配合或传动关系,且两元件之间可以是直接的或通过中间元件间接的连接、耦合、配合或传动,而不能理解为指示或暗示两元件之间的空间位置关系,即一元件可以在另一元件的内部、外部、上方、下方或一侧等任意方位,除非内容另外明确指出外。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
本发明的主要目的在于提供一种AR(Augmented Reality,增强现实)设备辅助机械臂摆位方法、可读存储介质及手术机器人,以解决现有的手术机器人术前摆位不准确的问题。
以下参考附图进行描述。
请参考图1至图17,其中,图1是本发明一实施例的手术机器人的应用场景的示意图;图2是本发明一实施例的患者端手术操作台的示意图;图3是本发明一实施例的机械臂的调整臂关节的示意图;图4是本发明一实施例的双目视觉装置的采集原理的示意图;图5是本发明一实施例的双目视觉装置的原理示意图;图6是本发明一实施例的机械臂摆位方法的流程图;图7是本发明一实施例的路径规划的应用场景的示意图;图8是本发明一实施例的虚实融合坐标配准的原理示意图,其中双目视觉装置与AR设备分体设置;图9是本发明一实施例的双目视觉装置与AR设备分体设置的示意图;图10是本发明一实施例的虚实融合坐标配准的原理示意图,其中双目视觉装置与AR设备一体设置;图11是本发明一实施例的双目视觉装置与AR设备一体设置的示意图;图12是本发明一实施例的双目视觉装置与AR设备的坐标映射关系的示意图;图13是本发明一实施例的通过AR设备提示摆位路径规划的流程图;图14是本发明一实施例的路径规划方法的示意图;图15是本发明一实施例的AR设备提示摆位路径规划的场景示意图;图16是本发明一实施例的实时路径规划方式的示意图;图17是本发明一实施例的最优路径选择方法的示意图。
本发明实施例提供一种手术机器人,图1示出了一个示范性的实施例中,利用所述手术机器人进行手术的应用场景。本发明的手术机器人对应用环境没有特别的限制。该手术***包括医生端控制台10、患者端手术操作台20、AR设备30(如AR眼镜)以及控制装置(未图示);所述患者端手术操作台20包括至少一条机械臂,机械臂上挂载手术器械或内窥镜,操作者(如医生)从医生端控制台10操纵,控制患者端手术操作台20驱动机械臂,实现操作手术器械进行手术。优选的,所述手术机器人还包括病床及其它辅助设备50(如显示台车、无菌台、呼吸机或检测装置等)。所述控制装置分别与医生端控制台10及患者端手术操作台20通信连接,用于对整个***的各个部件进行控制和对各个部件的信息进行交互,所述控制装置例如为处理器,其可以集成或者分为多个部分,并且可以位于同一处,或者分布于不同处。
图2示例性地示出了一种患者端手术操作台20,其包括4条机械臂21,每条机械臂包括调整臂21a和工具臂21b,其中工具臂21b设置于调整臂21a的远端,亦即,所述工具臂21b的一端(远端)用于与手术器械(或内窥镜)连接,另一端(近端)用于与所述调整臂21a连接;调整臂21a针对不同的术式和患者体征可采用不同的摆位方式,以便工具臂21b能够精确指向手术对象的病灶并使得操作者在最优操作空间中完成手术,降低工具臂21b操作过程中产生的干涉概率。所述调整臂21a包括多个关节,在图2示出的示范例中,调整臂21a包括四个关节,分别为三个转动关节(三个转动关节分别为第一转动关节1、第二转动关节2和第三转动关节4)和一个移动关节3,结合图3所示。由此,每个调整臂21a的关节摆位构型有四种:
1、第一转动关节1自零点位置(指默认的初始位置)顺\逆时针方向旋转θ1角,并保持在限位内;可选的,第一转动关节1的转动可以调节工具臂21b的左右旋转;
2、第二转动关节2自零点位置顺\逆时针方向旋转θ2角,并保持在限位内;可选的,第二转动关节2的转动可以调节工具臂21b的上下旋转;
3、移动关节3自零点位置直线平移s距离,并保持在限位内;可选的,移动关节3的平移可以调节工具臂21b的前后平移;
4、第三转动关节4自零点位置顺\逆时针方向旋转θ3角,并保持在限位内;可选的,第三转动关节4的转动可以调节工具臂21b的左右旋转。
为便于理解,请参考图15所示的AR设备提示摆位路径规划的场景示意图,图15示出了一个示范例中调整臂21a的关节调整顺序和调整量,其中①表示第一步调整的关节为第一转动关节1,调整量为θ1,②表示第二步调整的关节为第三转动关节4,调整量为θ3,③表示第三步调整的关节为移动关节3,调整量为s;在该示例中,第二转动关节2保持初始位置,不作调整。可以理解的,调整臂21a上的三个转动关节和一个移动关节的调节,都会带动工具臂21b的位姿产生变化,由此实现对工具臂21b的位姿进行调节,使工具臂21b运动到最合适的位姿。
需要说明的,图2和图3示出的患者端手术操作台20及其机械臂21仅为一示例,而非对患者端手术操作台20的限定,本领域技术人员可根据实际,对机械臂21的数量、结构、关节数量以及关节形式等进行不同的配置,本发明对此不限。基于上述手术机器人,本实施例还提供一种手术机器人***,其包括如上所述的手术机器人及AR设备30,所述控制装置与AR设备30通信连接,用于控制所述AR设备30提示调整臂的摆位路径规划。所述控制装置根据摆位路径规划,控制所述AR设备30提示被选择的所述调整臂21a中需要被调整的所述关节。对于图2和图3示出的示范例,所述控制装置根据摆位路径规划,控制AR设备30提示被选择的所述调整臂21a所需要调整的所述转动关节和移动关节中的至少一个。
进一步的,所述手术机器人还包括双目视觉装置71,如图4所示,所述双目视觉装置71用于获取手术对象40、手术对象上的预打孔位置及机械臂21的视差信息,所述控制装置用于根据所述视差信息建立所述手术对象40、所述预打孔位置及所述机械臂21的虚拟三维模型。
如图4所示,双目视觉装置71通过双目相机获取图像信息,基于视差原理,从不同角度采集被测物体的两幅图像信息而获取其二维信息,进而建立特征点的对应关系,计算出位置偏差,从而可以实现手术对象40、预打孔位置及机械臂21的三维重建。当然在其它的一些实施例中,也可以通过术前CT、MRI等断层成像技术进行扫描,来得到所述虚拟三维模型。进而基于所述虚拟三维模型,调整臂21a的构型可通过手术对象和预打孔位置逆几何学求出。
请参考图5,其为双目视觉装置71的原理示意图,双目视觉的原理如下:在一个示范例中,双目相机包括左相机711和右相机712,左相机711的中心和右相机712的中心的间距(类似人眼双目的瞳距)为b,在双目相机的前方距离f处设置一平行于双目中心连线的参考面c,左相机711与待测点P的连线与该参考面c的交点为A1,右相机712与待测点P的连线与该参考面c的交点为A2,左相机711的左光轴B1经过左相机711垂直于参考面c延伸,右相机712的右光轴B2经过右相机712垂直于参考面c延伸,A1点与左光轴B1的距离为xl,A2点与右光轴B2的距离为xr,以A1为坐标原点建立直角坐标系,以左光轴B1为z轴,x轴和y轴均在参考面c上,x轴为平行于双目中心连线的方向,y轴为垂直于双目中心连线的方向,则P点的坐标(x,y,z)可由下列公式推导出:
基于上述手术机器人***,请参考图6,本实施例提供一种机械臂摆位方法,所述手术机器人***利用所述机械臂摆位方法控制所述AR设备30提示调整臂的摆位路径规划。所述机械臂摆位方法包括:
步骤S1:获取手术对象40、所述手术对象上的预打孔位置及患者端手术操作台20的机械臂21的虚拟三维模型;优选的,所述手术对象40、预打孔位置及机械臂21的虚拟三维模型基于双目视觉装置71所反馈的视差信息建立。
步骤S2:根据所述虚拟三维模型,得到所述机械臂21的调整臂21a的摆位构型;本领域技术人员可根据现有技术,得到机械臂21的摆位构型,更进一步地,得到机械臂21的调整臂21a的摆位构型。例如,可根据相同术式下的历史手术数据,结合当前的虚拟三维模型,来得到机械臂21的调整臂21a的摆位构型。该步骤可由控制装置执行。具体的,请参考图7,通过双目视觉装置71的定位,将机械臂21的当前位置与虚拟三维模型中的建模位置之间合并计算,从而获得摆位构型。
步骤S3:根据当前所述调整臂21a的摆位构型,对患者端手术操作台坐标系与所述手术对象40的真实体表坐标系进行虚实融合坐标配准;
步骤S4:根据AR设备30的实时位置以及所述调整臂21a的摆位构型,获得所述调整臂21a的摆位路径规划;具体的,由于AR设备30的实时位置不同和调整臂21a的摆位构型的不同,摆位路径规划亦可进行实时调整。本领域技术人员可根据现有技术,根据AR设备30的实时位置以及调整臂21a的摆位构型,获得调整臂21a的摆位路径规划,这里不再展开说明。
步骤S5:通过AR设备30提示所述摆位路径规划。
如此配置,基于虚实融合坐标配准,根据AR设备30的实时位置,将获得的所述调整臂21a的摆位路径规划通过AR设备30进行提示,可以方便地辅助指引操作者进行调整臂21a的摆位操作,提高了术前摆位的正确性和执行效率。
如图8和图9所示,在一个可替代的实施例中,所述双目视觉装置71与所述AR设备30分体设置,步骤S3具体包括:
通过双目视觉装置坐标系(X7/Y7/Z7)在世界坐标系(X0/Y0/Z0)中分别与所述患者端手术操作台坐标系(X2/Y2/Z2)及AR设备坐标系(X3/Y3/Z3)建立坐标映射关系;根据所述手术对象40的真实体表坐标系(X4/Y4/Z4)与所述双目视觉装置坐标系(X7/Y7/Z7)的映射关系(如已于本步骤前标定),建立所述患者端手术操作台坐标系(X2/Y2/Z2)与所述手术对象40的真实体表坐标系(X4/Y4/Z4)的坐标映射关系。
进一步的,请参考图10和图11,在一些实施例中,所述双目视觉装置71与所述AR设备30一体设置,所述双目视觉装置坐标系(X7/Y7/Z7)与所述AR设备坐标系(X3/Y3/Z3)的相对坐标关系固定。此时在步骤S3中,双目视觉装置坐标系(X7/Y7/Z7)与AR设备坐标系(X3/Y3/Z3)的坐标映射关系可根据双目视觉装置71与AR设备30的设计配置文件来建立。如图12所示,AR设备30与双目视觉装置71的相对坐标关系固定,即双目视觉装置坐标系(X7/Y7/Z7)
可通过机械位置和AR设备坐标系(X3/Y3/Z3)建立映射关系,双目视觉装置坐标系(X7/Y7/Z7)和世界坐标系(Z0/X0/Y0)可通过旋转矩阵R与平移向量t来建立映射关系。其基本原理如下:
其中,M1为转换矩阵。本领域技术人员可根据现有技术对坐标系间的转换矩阵和映射关系的建立进行理解,这里不再展开说明。
可选的,所述机械臂摆位方法还包括:
步骤S6:获取所述调整臂21a根据所述摆位路径规划完成摆位后的实际位置;该步骤S6优选于步骤S5之后执行。
步骤S7:获取根据所述摆位路径规划计算得到的所述机械臂21的规划位置;该步骤S7优选于步骤S4中、步骤S5中或步骤S5之后执行。
步骤S8:计算所述规划位置与所述实际位置的偏差,若所述偏差超出预设标准,则再次执行:步骤S3~步骤S5;若所述偏差准在所述预设标准内,则确定所述机械臂21的摆位完成。
步骤S6~步骤S8是摆位检测步骤,操作者可根据步骤S5中AR设备30提示的摆位路径规划,对调整臂21a的摆位进行调整,摆位完成后检测规划位置与实际位置的偏差是否超出预设标准,如超出则表明摆位未完成,回到步骤S3重复执行,如偏差不超出预设标准,则确定所述调整臂21a的摆位完成。优选的,例如可通过AR设备30提示调整完成或者未完成的信息,以告知操作者。可以理解的,本领域技术人员可对预设标准进行设置,以符合实际需要。
优选的,请参考图13,步骤S5包括:
步骤S51:AR设备30显示多条所述调整臂21a的规划位置,并显示多条所述调整臂21a的摆位路径以供选择到达所述规划位置;在开启AR设备30后,AR设备30将多条调整臂21a的规划位置作为虚拟图形显示,融合到调整臂21a的实物图像上,形成摆位路径,供操作者选择。
步骤S52:提示被选择的所述调整臂21a所需要调整的关节;在操作者选择要调整摆位的调整臂21a后,AR设备30将提示被选择的调整臂21a所需要调整的关节。
步骤S53:提示所需要调整的关节的调整量。AR设备30还提示所需要调整的关节的调整量,如采用数据的形式显示,以供操作者参考。这里关节的调整量可包括关节调整的位置和姿态,具体可根据关节的活动形式的不同而不同,例如转动关节提示旋转方向和角度,移动关节提示位移的方向和距离等。请参考图14,在一个示范性的实施例中,可通过实际调整臂21a与逆运动学建模数据进行调整臂21a的关节空间运动位置的换算,例如对于第一转动关节1、第二转动关节2和第三转动关节4,分别通过角度进行摆位调整,将规划位置映射到同一平面,根据机械结构数据计算出基于当前位置的调整角度θ、φ。对于移动关节3,可通过实际位置与建模位置的位移值S规划移动路径。
图15示出了AR设备30显示多条所述调整臂21a的规划位置的一个场景的示意,其大致表示了操作者在AR设备30上能够观察到的内容。
进一步的,在步骤S53后,步骤S5还包括:
步骤S54:获取所需要调整的关节在调整过程中所反馈的调整差值;
步骤S55:若所述调整差值超出预设的标准值,则再次执行:提示所需要调整的关节的调整量的步骤,直至所述调整差值在预设的标准值的范围内。
步骤S54和步骤S55是关节的调整检测步骤,操作者在对调整臂21a的摆位进行调整的过程中,调整臂21a的各关节在调节过程中会产生调整差值,如调整差值超出预设的目标值的范围,则表明摆位未完成,回到步骤S53重复执行,继续向操作者提示关节的调整量,以供操作者继续调整。如调整差值不超出预设的目标值的范围,则确定该次关节的调整完成。可以理解的,本领域技术人员可对目标值进行设置,以符合实际需要。
更进一步的,在步骤S53后,步骤S5还包括:
步骤S56:在检测到所有所述调整臂21a的摆位全部完成后,提示本次调整摆位完成,并显示和/或记录操作时间。
可选的,请参考图16和图17,在一个示范例中,双目视觉装置71安装在AR设备30上,AR设备30如可为穿戴式的AR眼镜,由此,双目视觉装置71随着操作者的视角的变化,控制装置可对机械臂21的特征点进行实时位置匹配,进而通过AR设备30相对于机械臂21的坐标位置的转换实现实时标定。图16中示出了AR设备30的位置变化,其坐标系由(X3/Y3/Z3)移动变化至(X31/Y31/Z31)的情况,此时坐标系(X31/Y31/Z31)与坐标系(X3/Y3/Z3)可根据平移向量t来转换。
优选的,在步骤S51中,根据所述AR设备30的实时位置与多条所述调整臂21a之间的相对位置,推荐最近的所述调整臂21a作为起始调整的调整臂。如图17所示,在实际调整调整臂21a摆位的过程中,可根据AR设备30的实时位置与每个调整臂21a之间的相对位置,推荐与AR设备30最近的所述调整臂21a作为起始调整的调整臂。这里推荐的起始调整的调整臂是指首先推荐操作者进行调整的调整臂21a,其可以在AR设备30进行提示。
进一步的,在步骤S52中提示被选择的所述调整臂21a所需要调整的关节前,根据被选择的所述调整臂21a的各关节与相邻关节的位置,推荐碰撞概率最大的关节作为起始调整的关节。在操作者选定了需要调整的调整臂21a后,控制装置可根据该调整臂21a的各关节与相邻的其它调整臂21a的关节的位置关系,计算出需要调整的调整臂21a的各关节的碰撞概率,由此确定关节的先后调整顺序,优先调整碰撞概率大的关节,以此类推得到整个患者端手术操作台20的所有调整臂21a的摆位最佳路径。
本实施例还提供一种可读存储介质,其上存储有程序,所述程序被执行时实现如上所述的机械臂碰撞提示方法,该可读存储介质可集成设置在手术机器人上,如集成于控制装置中,也可以独立附设。
综上所述,在本发明提供的机械臂摆位方法、可读存储介质及手术机器人***中,所述机械臂摆位方法包括:获取手术对象、所述手术对象上的预打孔位置及患者端手术操作台的机械臂的虚拟三维模型;根据所述虚拟三维模型,得到所述机械臂的调整臂的摆位构型;根据当前所述调整臂的摆位构型,对患者端手术操作台坐标系与所述手术对象的真实体表坐标系进行虚实融合坐标配准;根据AR设备的实时位置以及所述调整臂的摆位构型,获得所述调整臂的摆位路径规划;以及通过AR设备提示所述摆位路径规划。如此配置,基于虚实融合坐标配准,根据AR设备的实时位置,将获得的所述调整臂的摆位路径规划通过AR设备进行提示,可以方便地辅助指引操作者进行调整臂的摆位操作,提高了术前摆位的正确性和执行效率。
需要说明的是,本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可,此外,各个实施例之间不同的部分也可互相组合使用,本发明对此不作限定。上述描述仅是对本发明较佳实施例的描述,并非对本发明范围的任何限定,本发明领域的普通技术人员根据上述揭示内容做的任何变更、修饰,均属于本发明的保护范围。
Claims (17)
1.一种机械臂摆位方法,其特征在于,包括:
获取手术对象、所述手术对象上的预打孔位置及患者端手术操作台的机械臂的虚拟三维模型;
根据所述虚拟三维模型,得到所述机械臂的调整臂的摆位构型;
根据当前所述调整臂的摆位构型,对患者端手术操作台坐标系与所述手术对象的真实体表坐标系进行虚实融合坐标配准;
根据AR设备的实时位置以及所述调整臂的摆位构型,获得所述调整臂的摆位路径规划;以及
通过AR设备提示所述摆位路径规划。
2.根据权利要求1所述的机械臂摆位方法,其特征在于,所述机械臂摆位方法还包括:
获取所述调整臂根据所述摆位路径规划完成摆位后的实际位置;
获取根据所述摆位路径规划计算得到的所述调整臂的规划位置;
计算所述规划位置与所述实际位置的偏差,若所述偏差超出预设标准,则再次执行:根据当前所述调整臂的摆位构型,对患者端手术操作台坐标系与所述手术对象的真实体表坐标系进行虚实融合坐标配准;根据AR设备的实时位置,获得所述调整臂的摆位路径规划;以及通过AR设备提示所述摆位路径规划的步骤;若所述偏差准在所述预设标准内,则确定所述调整臂的摆位完成。
3.根据权利要求1所述的机械臂摆位方法,其特征在于,所述手术对象、所述预打孔位置及所述机械臂的虚拟三维模型基于双目视觉装置所反馈的视差信息建立。
4.根据权利要求3所述的机械臂摆位方法,其特征在于,根据当前所述调整臂的摆位构型,对患者端手术操作台坐标系与所述手术对象的真实体表坐标系进行虚实融合坐标配准的方法包括:
通过双目视觉装置坐标系在世界坐标系中分别与所述患者端手术操作台坐标系及AR设备坐标系建立坐标映射关系;
根据所述手术对象的真实体表坐标系与所述双目视觉装置坐标系的映射关系,建立所述患者端手术操作台坐标系与所述手术对象的真实体表坐标系的坐标映射关系。
5.根据权利要求4所述的机械臂摆位方法,其特征在于,所述双目视觉装置坐标系与所述AR设备坐标系的相对坐标关系固定。
6.根据权利要求1所述的机械臂摆位方法,其特征在于,通过AR设备提示所述摆位路径规划的方法包括:
AR设备显示多条所述调整臂的规划位置,并显示多条所述调整臂的摆位路径以供选择到达所述规划位置;
提示被选择的所述调整臂所需要调整的关节;以及
提示所需要调整的关节的调整量。
7.根据权利要求6所述的机械臂摆位方法,其特征在于,通过AR设备提示所述摆位路径规划的方法还包括:
获取所需要调整的关节在调整过程中所反馈的调整差值;
若所述调整差值超出预设的目标值的范围,则再次执行:提示所需要调整的关节的调整量的步骤,直至所述调整差值在预设的目标值的范围内。
8.根据权利要求6所述的机械臂摆位方法,其特征在于,通过AR设备提示所述摆位路径规划的方法还包括:
在检测到所有所述调整臂的摆位全部完成后,提示本次调整摆位完成,并显示和/或记录操作时间。
9.根据权利要求6所述的机械臂摆位方法,其特征在于,在AR设备显示多条所述调整臂的规划位置,并显示多条所述调整臂的摆位路径以供选择的步骤中,根据所述AR设备的实时位置与多条所述调整臂之间的相对位置,推荐最近的所述调整臂作为起始调整的调整臂。
10.根据权利要求6所述的机械臂摆位方法,其特征在于,在提示被选择的所述调整臂所需要调整的关节前,根据被选择的所述调整臂的各关节与相邻关节的位置,推荐碰撞概率最大的关节作为起始调整的关节。
11.根据权利要求1所述的机械臂摆位方法,其特征在于,根据相同术式下的历史手术数据以及当前的所述虚拟三维模型,得到当前的所述调整臂的摆位构型。
12.一种可读存储介质,其上存储有程序,其特征在于,所述程序被执行时,实现根据权利要求1~11中任一项所述的机械臂摆位方法。
13.一种手术机器人***,其特征在于,包括患者端手术操作台、AR设备与控制装置,所述患者端手术操作台包括机械臂,所述机械臂包括调整臂,所述控制装置利用根据权利要求1~11中任一项所述的机械臂摆位方法,控制所述AR设备提示所述调整臂的摆位路径规划。
14.根据权利要求13所述的手术机器人***,其特征在于,所述手术机器人***还包括双目视觉装置,所述双目视觉装置用于获取手术对象、所述预打孔位置及所述机械臂的视差信息,所述控制装置用于根据所述视差信息建立所述手术对象、打孔位置及所述机械臂的虚拟三维模型。
15.根据权利要求14所述的手术机器人***,其特征在于,所述双目视觉装置与所述AR设备一体设置或分体设置。
16.根据权利要求13所述的手术机器人***,其特征在于,所述机械臂还包括工具臂,所述工具臂一端用于与手术器械连接,另一端用于与所述调整臂连接,所述调整臂包括多个关节,所述控制装置根据摆位路径规划,控制所述AR设备提示被选择的所述调整臂中需要被调整的所述关节。
17.根据权利要求16所述的手术机器人***,其特征在于,所述调整臂的多个关节包括至少三个转动关节和一个移动关节,所述控制装置根据摆位路径规划,控制AR设备提示被选择的所述调整臂所需要调整的所述转动关节和移动关节中的至少一个。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011492045.7A CN114631886A (zh) | 2020-12-16 | 2020-12-16 | 机械臂摆位方法、可读存储介质及手术机器人*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011492045.7A CN114631886A (zh) | 2020-12-16 | 2020-12-16 | 机械臂摆位方法、可读存储介质及手术机器人*** |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114631886A true CN114631886A (zh) | 2022-06-17 |
Family
ID=81944983
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011492045.7A Pending CN114631886A (zh) | 2020-12-16 | 2020-12-16 | 机械臂摆位方法、可读存储介质及手术机器人*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114631886A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115359896A (zh) * | 2022-10-20 | 2022-11-18 | 山东曲阜康尔健医疗科技有限公司 | 基于数据分析与远程控制的手术操作与监控分析*** |
CN116531111A (zh) * | 2023-07-04 | 2023-08-04 | 梅奥心磁(杭州)医疗科技有限公司 | 一种双级自适应动力手术机械臂装置及控制方法 |
-
2020
- 2020-12-16 CN CN202011492045.7A patent/CN114631886A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115359896A (zh) * | 2022-10-20 | 2022-11-18 | 山东曲阜康尔健医疗科技有限公司 | 基于数据分析与远程控制的手术操作与监控分析*** |
CN115359896B (zh) * | 2022-10-20 | 2023-01-24 | 山东曲阜康尔健医疗科技有限公司 | 基于数据分析与远程控制的手术操作与监控分析*** |
CN116531111A (zh) * | 2023-07-04 | 2023-08-04 | 梅奥心磁(杭州)医疗科技有限公司 | 一种双级自适应动力手术机械臂装置及控制方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7086150B2 (ja) | 遠隔操作医療システムにおける器具の画面上での識別をレンダリングするためのシステム及び方法 | |
JP7080945B2 (ja) | 遠隔操作医療システムにおける器具の画面上での識別のためのシステム及び方法 | |
EP3636194B1 (en) | Surgical robot system, and method for displaying position of surgical instrument | |
JP6058111B2 (ja) | 手術ロボットの合成表現 | |
US11877816B2 (en) | Systems and methods for master/tool registration and control for intuitive motion | |
JP5372225B2 (ja) | コンピュータディスプレイ画面の境界領域に表示されるツール位置および識別指標 | |
JP2020062521A (ja) | ロボット手術システムのためのグラフィカルユーザインタフェース | |
CN114631886A (zh) | 机械臂摆位方法、可读存储介质及手术机器人*** | |
EP3973540A1 (en) | Systems and methods for generating workspace volumes and identifying reachable workspaces of surgical instruments | |
CN113081273B (zh) | 打孔辅助***及手术机器人*** | |
EP4384985A1 (en) | Systems and methods for depth-based measurement in a three-dimensional view | |
EP4384984A1 (en) | Systems and methods for a differentiated interaction environment | |
Jung et al. | Immersive Human-Machine Interface Design for Teleoperated Surgical System |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |