JP4152402B2 - 手術支援装置 - Google Patents

手術支援装置 Download PDF

Info

Publication number
JP4152402B2
JP4152402B2 JP2005189842A JP2005189842A JP4152402B2 JP 4152402 B2 JP4152402 B2 JP 4152402B2 JP 2005189842 A JP2005189842 A JP 2005189842A JP 2005189842 A JP2005189842 A JP 2005189842A JP 4152402 B2 JP4152402 B2 JP 4152402B2
Authority
JP
Japan
Prior art keywords
image
endoscope
surgical
display
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005189842A
Other languages
English (en)
Other versions
JP2007007041A (ja
Inventor
誠 橋爪
秀和 仲本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Healthcare Manufacturing Ltd
Original Assignee
Hitachi Medical Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Medical Corp filed Critical Hitachi Medical Corp
Priority to JP2005189842A priority Critical patent/JP4152402B2/ja
Publication of JP2007007041A publication Critical patent/JP2007007041A/ja
Application granted granted Critical
Publication of JP4152402B2 publication Critical patent/JP4152402B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Magnetic Resonance Imaging Apparatus (AREA)
  • Endoscopes (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本発明は、内視鏡を用いた手術を表示画像によって支援する高機能内視鏡手術支援装置に関し、特にMRI装置やCT装置などの撮像装置と組合わせた手術支援装置に関する。
近年、医療行為、特に外科的治療において内視鏡や手術ロボットなどを用いてその実施を支援する手術支援装置が開発され、実用化されている。例えば、特許文献1には、カメラで撮像された画像に、3次元画像から術式対象部位を抽出して得られた3Dデータを、カメラの向きや位置に合わせて投影処理して表示することや、術具を操作するためのマニピュレータの位置、向きを計測し、撮像部で得られた画像にマニピュレータの3D画像を投影処理して表示することが記載されている。また特許文献2には、内視鏡画像上に、手術支援画像作成手段で作成された情報を重畳して表示することが記載され、手術支援画像には手術器具とマニピュレータの可動範囲を示すことが記載されている。
特開平9-19441号公報 特開2001-104333号公報
上述のような手術支援システムを利用した外科的治療においては、術具や内視鏡の位置はそれぞれ時々刻々変化し、内視鏡の映像もこれに伴い変化する。また内視鏡を配置する位置を適宜変更する場合もある。しかし従来の技術では、手術支援画像の作成後に術具や内視鏡の位置が変更されると、改めて内視鏡位置に合わせて手術支援画像を作成し直すとともに、これらの位置を調整して表示する必要があり、内視鏡位置や術具位置の変化に応じたリアルタイムな支援画像の表示が困難であった。同じ理由から、内視鏡を含めた特定術具と被検体の特定領域(例えば、術具が接触してはならない部位)との距離などをリアルタイムで確認することも困難であった。
そこで本発明は、内視鏡や術具の変化に応じてリアルタイムで、内視鏡映像に、その位置における手術対象領域の画像を重畳して表示することが可能であり、また特定術具と被検体の特定領域との距離をリアルタイムで表示することが可能である手術支援装置を提供することを目的とする。
上記課題を解決する本発明の手術支援装置は、内視鏡と、前記内視鏡の映像を表示する表示手段と、前記被検体の三次元ボリューム画像データを用いて、前記表示手段に表示された映像に重畳表示される手術支援画像を作成する画像作成手段とを備えた手術支援装置であって、前記内視鏡の位置を逐次検出する三次元位置検出手段と、前記三次元位置検出手段の座標と前記画像作成手段が有する画像座標とを座標統合する座標統合手段とを備え、前記画像作成手段は、前記座標統合手段から得られる内視鏡の位置情報をもとに、前記三次元ボリューム画像データから抽出した特定領域画像データについて、前記内視鏡の位置情報で決まる特定の平面を投影面とする投影像を作成し、内視鏡位置検出時点における内視鏡の映像に重畳して表示させることを特徴とする。
本発明の手術支援装置において、画像作成手段が作成する投影像は、例えば、内視鏡の焦点位置を含み、内視鏡の進行方向に直交する面への投影像である。
また本発明の手術支援装置において、好適には、三次元位置検出手段は、被検体に対し適用されている術具の位置を検出し、画像作成手段は、三次元位置検出手段で検出され、前記座標統合手段で変換された術具の位置情報に基き、術具の画像を検出術具位置に対応する手術支援画像上の位置に重畳して前記表示手段に表示させる。
本発明の手術支援装置において、画像作成手段は、内視鏡の移動に伴う内視鏡映像の変化に合わせて、投影像の投影面をリアルタイムで変更して特定領域の投影像を作成し、表示装置に表示させる。
また本発明の手術支援装置は、好適には、特定領域と術具との距離を算出する算出手段を備え、算出手段によって算出された距離及び/又は当該距離が閾値以内であるときの警告を表示装置に表示させる。
本発明の手術支援装置は、さらに三次元ボリューム画像データを取得する撮像手段を備えており、その場合、撮像手段は、画像作成手段を兼ねることができる。
本発明によれば、内視鏡の位置を三次元位置検出手段により逐次検出するとともに、検出された位置情報は、座標統合手段によって、手術支援画像を作成する画像作成手段の座標と統一的な座標の情報として画像作成手段に与えられるので、画像作成手段は内視鏡の位置や向きの変化に応じて、内視鏡位置と実空間における相対位置を保った状態で特定領域画像をリアルタイムで重畳表示させることができる。これにより手術支援として必要な情報を術者に提供し、治療の精度を向上させることができる。また内視鏡に重畳される特定領域画像は、実空間における相対位置を維持しているので、術具との距離の算出を手術支援画像表示と併せて行なうことができ、術具が接触してはならない血管や臓器に接近したことなどを速やかに警告することができる。
また本発明によれば、MRI装置やCT装置などの撮像装置が画像作成手段を兼ねることができ、その場合、内視鏡位置を検出するための三次元位置検出手段を利用して、指示具で指定された被検体の所望部位を撮像するインタラクティブスキャンなどの撮像を適時行なうことができる。
以下、本発明の実施の形態を、図面を参照して説明する。
図1は、本発明の高機能内視鏡手術支援装置の全体構成を示す斜視図、図2はブロック図である。この手術支援装置は、MRI装置等の撮像装置による画像を手術支援画像の一つとして利用しながら、内視鏡と小型ロボットを用いて患者の外科的治療を行なうための装置であり、主たる構成として、被検体の断層像を撮像するための撮像装置10、被検体の手術対象部位を観察するための内視鏡20、術具を操作するための手術用小型ロボット30、内視鏡20及びロボット30に操作される術具の位置を検出するための三次元位置検出装置40、内視鏡の映像に重畳される手術支援画像を作成する画像作成部50、内視鏡の映像や手術支援画像を表示するための表示装置70、表示装置70の表示制御などを行なう制御部60を備えている。撮像装置10、内視鏡20及びロボット30には、それぞれ操作者が動作の指令や条件を入力するための操作部80(81、82、83)が備えられている。
撮像装置10は、図1に示す実施の形態では、撮像空間を挟んで上下に一対の磁石13、15を配置した垂直磁場方式のオープン型のMRI装置であり、被検体11を載せたベッド12を撮像空間に配置した状態で、手術を施すことができるようになっている。MRI装置の構成及び撮像方法は、従来のMRI装置と同様であり、ここでは説明を省略する。
内視鏡20は、スコープ部と画像処理部とを有する。スコープ部は、被検体11の被検体の内部に挿入される対物レンズおよび小型カメラを含む。画像処理部は、小型カメラで撮像された画像データを取り込んで映像記録装置21に記録するとともに、制御部60に受け渡し、内視鏡映像として表示装置70に表示させる。内視鏡20は、単一のカメラを搭載した単眼内視鏡、一対のカメラを搭載したステレオ内視鏡のいずれでもよく、表示装置70として2視点ステレオ映像表示対応しているものを使用する場合には、両者に対応することができる。内視鏡20は、MRI装置に取り付けた駆動機構に固定され、操作部83からの操作により、回転、並進などの動作を行なうことができる。また内視鏡20には、このような内視鏡の動作に追従して移動する器具であって三次元位置検出装置40によって位置検出可能な器具(術具追随器具)(図示せず)が取り付けられている。
小型ロボット30は、互いに回動可能に連結された複数のロボットアームを有し、これらロボットアームの連結角度を変えることにより、その先端に固定されたメスなどの術具を任意の方向に任意の量だけ移動・回転させることができるようになっている。ロボット30にも、その動作に追従して移動する器具であって三次元位置検出装置40によって位置検出可能な器具(術具追随器具)が取り付けられている。
内視鏡20及びロボット(ロボットアーム)30を駆動するための機構として、MRI装置10のベッド12には、その両側縁に沿ってレールが取り付けられると共に、レールに沿って移動可能な円弧状のアーム(内視鏡用アーム25及びロボット用アーム35)が取り付けられている。内視鏡20のスコープ部及びロボットアームはこのアームに取り付けられる。手術に使用する術具が複数ある場合には、1ないし複数のアームに、複数のロボットが取り付けられる。図1に示す例では、一つのアームに2つの術具が固定されている。
三次元位置検出装置40は、これら内視鏡20及びロボット30に固定された術具追随器具の実空間における位置を検出するためのものであり、この実施の形態では、一対の赤外線カメラ41を備えた位置検出デバイス42と、位置検出デバイス42が検出した位置信号に対し、所定の座標変換等の処理を行なう処理部43とを備えている。
位置検出デバイス42は、赤外線を発生する赤外線源を備え、赤外線源から照射され、所定の反射体(マーカー)から反射された赤外線を検出することによって、その反射体が付された対象の位置を検出することができるようになっている。前述した内視鏡及びロボットに固定される術具追随器具には、少なくとも3箇所にマーカーが固定されており、マーカーから得られる3つの位置座標から、例えば器具が固定された内視鏡先端の位置や内視鏡の方向などの三次元位置情報を得ることができる。位置検出デバイス42は、MRI装置10の上部磁石13を覆うガントリに、支持アーム45により固定されており、支持アーム45を移動することにより任意の位置に設定することができる。
またMRI装置10のガントリには、赤外線カメラ41が捉えたカメラ座標における方向及び位置を、MRI装置の装置座標系(実空間座標)と関連付けるために、基準ツール47が固定されている。基準ツール47には、赤外線カメラ41で位置検出可能な3つのマーカー(例えば、赤外線カメラが発する赤外線を反射する反射球)48が固定されている。これら3つのマーカーの位置を検出することにより、装置座標の原点に対するカメラの三次元位置を検出することができ、カメラ座標と装置座標との関連付けを行なうことができる。赤外線カメラ41は、所定のサンプリング速度で検出した位置情報を処理部43に送る。処理部43は、位置検出デバイス42が検出した位置情報(カメラ座標の位置情報)を装置座標系の位置情報に変換する。座標変換のための座標変換マトリクスは予め処理部43内に格納されており、位置検出デバイス42による位置検出と同時に座標変換された位置情報が得られる。処理部43は、例えば、パーソナルコンピュータ上に構築することが可能である。
画像作成部50は、MRI装置10で撮像された被検体10の三次元画像データを処理し、被検体の特定領域を抽出した三次元セグメンテーション画像データ(以下、3D−SG画像データと略す)を作成するとともに、三次元位置検出装置40から得られる内視鏡20位置に基き、3D−SG画像データに投影処理を施し、手術支援画像を作成する。また画像作成部50は、予め登録された術具の画像(仮想術具)を作成し、三次元位置検出装置40から得られる術具位置に基き、手術支援画像を作成する。画像作成部50は、予め複数の術具について作成された仮想術具データを記憶しておき、手術に用いる術具が選択され、登録された場合に、記憶された仮想術具データのうち該当する仮想術具データを用いるようにすることできる。仮想術具データは、術具を模式的に示す2次元データでもよいが、三次元データでもよく、その場合はSG画像データと同様に投影処理を施す。
制御部60は、表示制御部61、距離算出部62などを有する。表示制御部61は、画像作成部50で作成された手術支援画像を内視鏡の映像に重畳して、表示装置70に表示させるとともに、距離算出部62における算出結果やそれに伴う警告などを表示装置70に表示させる。距離算出部62は、三次元位置検出装置40から得られる術具位置と、被検体の特定領域との距離を算出する。この際、術具位置は装置座標系の位置に変換された情報として与えられ、一方、特定領域の位置(画像座標)はMRI装置の装置座標と関連付けられているので、距離算出部62はこれらの位置情報から直ちに両者の距離を算出することができる。ユーザーは、予め術具との距離を算出すべき特定領域を選択し、設定することが可能であり、また警告を表示させる場合には、警告を発すべき閾値を設定することが可能になっている。
このような制御部60の機能は、MRI装置10とは独立していてもよいが、MRI装置10が備えている制御部がそれを兼ねることができる。また制御部60は、ユーザーが種々の条件や指令を入力するための操作部を備えている。MRI装置10の制御部が制御部60を兼ねる場合には、MRI装置10の操作部81より上記指令等を入力する。
表示装置70は、1ないし複数のモニタを備えている。本実施の形態では、操作者用モニタ71と手術室用モニタ72が設置されている。操作者用モニタ71は、入力部(操作部81)のGUI等を表示させるためのモニタを兼ねることができる。
次に上記構成における手術支援装置の動作を説明する。図3は本実施の形態の手術支援装置を用いた内視鏡手術の手順を示すフローの一例である。
手術の準備段階として、まず内視鏡20及びロボットアームに術具追随器具を取り付けた後(ステップ101、102)、内視鏡及びロボットアームをMRI装置内部に設置する(ステップ103)。次いでMRI装置により被検体の撮像を行い、手術対象部位を含む被検体の領域について三次元ボリューム画像を得る(ステップ104)。この三次元ボリューム画像を用いて必要部位のセグメンテーションを行なう(ステップ105)。
セグメンテーションは、領域抽出として知られている公知の手法、例えば領域の輪郭上の点列を指定し、その間をスプライン補間してつなげる方式や閾値方式などを採用することができる。またスライス間のデータについてもスプライン補間等を行うことができる。三次元ボリューム画像は、図4に示すように、スライス面とスライス方向の位置で決まるDICOMデータであり、このようなセグメンテーションの結果である特定領域画像データ(3D−SG画像データ)401、402、403もDICOMデータである。DICOM座標は、MRI装置の装置座標と関連付けられているので、装置座標上の位置がわかれば、それに対応するDICOMデータ上の座標が決まる。セグメンテーションは、例えば、手術対象臓器や、その近傍の臓器や血管について行なわれ、各3D−SG画像データは画像形成部50のメモリ内に格納される。図示する例では、3つの部位404〜406についてそれぞれ3D−SG画像データ401、402、403が作成されている。
次に三次元ボリューム画像を用いて、内視鏡20とロボットアームのレジストレーションを行なう(ステップ106)。レジストレーションは、三次元位置検出装置40の処理部43に、内視鏡20及びロボットアームに取り付けた術具追随器具(そのマーカー)の位置を装置座標(実空間座標)に統合する作業である。具体的には、基準ツール47(3つのマーカー)の位置と内視鏡20及びロボットアームに固定された術具追随器具(3つのマーカー)の位置をそれぞれ三次元位置検出装置40で検出することにより、術具追随器具の装置座標系における位置を検出する。一方、術具追随器具のマーカーと内視鏡20の焦点やロボットアームに固定された術具(メス等)の先端との位置関係を入力することによって、マーカーの配置や監視すべき点とマーカーとの位置関係を処理部43に記憶させる。このようなレジストレーションを行なうことにより、その後は、術具追随器具の各マーカーの位置を検出することによって、内視鏡20や術具の実空間座標における位置、向きを検出することができる。
このような準備ステップが終了したならば、内視鏡を用いたロボット手術を開始する(ステップ107)。内視鏡及びロボットの動きは、三次元位置検出装置40により随時検出され、その位置情報は画像座標に変換された位置情報として画像作成部50に送られる。画像作成部50は、三次元位置検出装置40から送られる内視鏡の向きとその焦点位置をもとに、メモリに記憶されている3D−SG画像データから投影像(レンダリング像)を作成する。投影像の投影面は、例えば内視鏡焦点を中心とし、内視鏡の向きと直交する平面である。図4に、3D−SG画像データから投影像としてのセグメンテーション画像408〜410を作成した様子を示す。また画像作成部50は、ロボットアームの向きと位置情報をもとに画像空間に仮想術具を配置した画像407を作成する。仮想術具データが三次元データである場合には、セグメンテーション画像と同じ投影面に投影した投影像を作成する。
表示制御部61は、画像形成部50で作成された手術支援画像を内視鏡の映像に重畳して表示装置70に表示する(412〜414)。この際、投影像の大きさは、内視鏡の倍率に合わせる。内視鏡の倍率が「×1」の場合には、投影像の大きさは実空間の大きさと同じであり、「×2」の場合には、実空間の2倍となる。セグメンテーション画像及び仮想術具を内視鏡の映像に重畳表示した様子を図5に示す。内視鏡及び仮想術具の位置の座標は、MRI装置の装置座標に統合されているので、図示するように、セグメンテーション画像503、仮想術具504、505及び内視鏡502がそれぞれ実空間上の相対位置を保った状態で、内視鏡映像506に手術支援画像(507、508、509)として表示される。
このようなセグメンテーション画像からの投影像の作成と重畳表示は、内視鏡及びロボットの位置の逐次検出に合わせて実行される。即ち、内視鏡が移動するのに伴い内視鏡の映像は変化するので、変化した位置におけるセグメンテーション画像及び仮想術具が作成され重畳表示されることになる。
一例として、図6に示すように、被検体601の手術対象部位(ターゲット)602に対し、その足側から内視鏡603を設置している場合には、内視鏡603とターゲット602との関係は装置座標系で一義的に定義されており、内視鏡位置で決まる所定の面を投影面として投影像605が作成され、内視鏡映像606に重畳されているが、内視鏡603を頭部側から設置した場合には、装置座標系における内視鏡603の位置座標は変更され、新たな投影面への投影像610が作成され、内視鏡映像611に重畳される。即ち、常に内視鏡により映し出される映像と同じ側からの投影像が重畳表示される。
また術具位置が変化した場合にも、その変化した位置に対応する映像上の位置に仮想術具が表示される。この場合、内視鏡及び仮想術具の位置の座標は、MRI装置の装置座標に統合されているので、リアルタイムで画像処理を行なうことができる。
またセグメンテーション画像(投影像)は平面画像であるが、各臓器や部位が三次元的に描出された画像である。従って術者は、内視鏡に映し出されている映像において、セグメンテーションされた臓器や部位の三次元的位置関係を容易に把握することができる。
図4では、3つのセグメンテーション画像が作成され、表示される様子を示しているが、セグメンテーション画像の作成、表示は、必要に応じて選択することができる(ステップ109)。例えば、内視鏡の進行するにつれて、術具との関係で接触してはいけない血管や臓器は異なる場合がある。その場合には、術者が操作部81を介して表示させたいセグメンテーション画像を選択することにより、選択されたセグメンテーション画像を表示させる。或いはセグメンテーション画像全体を非表示とすることも可能である。
また距離算出部62は、三次元位置検出装置40から得られるロボットアームの位置をもとに、それに固定された術具と被検体の特定領域(ユーザーにより予め特定された領域)との距離を算出し、これを表示装置70に表示させる(ステップ110)。距離の算出は、実空間座標における術具の位置情報と特定領域のセグメント画像の位置情報から行なうことができる。算出された距離が、予め設定された閾値以下になったときには、警告を画像や音声で発する(ステップ111)。
さらに本実施の形態では、ユーザーの選択によりインタラクティブスキャンを実行する(ステップ112)。インタラクティブスキャンとは、ユーザーが指示具によって指定した被検体上の位置を含む断層像をリアルタイムで撮像する機能である。通常、MRI装置においては、三次元位置検出器で検出可能な指示具で所望の位置を指定し、この位置情報をMRI装置が受け付け、指示具の指示方向を含む断面の撮像を行なう。ここではロボットアームが三次元位置検出器で検出可能な術具追随器具を備えているので、この器具を指示具としてインタラクティブスキャンを実行することが可能となる。インタラクティブスキャンによって撮像された断層像は、表示装置70に内視鏡映像と並置して表示させることができる。
内視鏡映像及びそれに重畳される投影像は、内視鏡を視点とした画像であるが、インタラクティグスキャンによって得られる断層像は、それとは異なる面をスライス面とする画像であり、ロボットアームの向きを変えることにより任意の方向に選択することができるので、例えば、内視鏡の陰になって見え難い部位や内視鏡では見えない内部の組織も画像化することができる。これにより術者は内視鏡映像と併せて多面的な情報を得ることができ、手術精度の向上につながる。
なお図3に示すフローには示していないが、本実施の形態では、必要に応じて三次元ボリュームデータを用いた手術ナビゲーションを行なうことも可能である。手術ナビゲーションは、手術支援機能として公知の技術であり、三次元位置検出器で検出可能な指示具で被検体の所望の位置を指定することにより、予め取得した三次元ボリューム画像から指定された位置を含む断面像を作成し表示する機能である。この場合にも、指示具の代わりにロボットアームを用いることが可能である。
上述のようなインタラクティブや手術ナビゲーションを適宜実行しながら、手術が終了するまで、内視鏡に重畳した手術支援画像のリアルタイム更新、表示を繰り返す(ステップ113)。
次に本実施の形態を実行するためのGUIの一例を図7に示す。図示する例では、画面701のほぼ中央に内視鏡の映像が映し出され、ここには2つの術具713、714とセグメンテーション画像708が重畳表示されている。
映像表示画面の右側には、警告表示画面702、距離表示画面703、三次元表示画面704が設けられている。警告表示画面702には、例えば一つの術具が特定の領域に近づいていることを警告音とともに文字や図形で表示する。距離表示画面703には、術具と特定領域との距離が表示される。この表示は距離が変化するのに従い更新される。三次元表示画面704には、セグメンテーションの対象である特定領域と術具との実空間における配置が表示される。
映像表示画面の下側705には操作画面(GUI)が表示されている。「Scan1」「Scan2」706は撮像開始の操作ボタンで、複数(ここでは2つ)の撮像方法のうちいずれかを選択できるようになっている。「Segmentation : ON/OFF」707は、セグメンテーション画像の表示/非表示を選択するためのボタンで、ここではセグメンテーション画像全体の表示/非表示を選択可能にした場合を示しているが、例えば、三次元表示画面704に表示された複数の領域のいずれかを特定して表示/非表示と選択するようにすることも可能である。「Operate Tool : ON/OFF」712は、術具の表示/非表示を選択するためのボタンで、この場合にも複数の術具全部の表示/非表示を選択可能にしてもよいし、特定された術具のみの表示/非表示を選択可能にしてもよい。「ISC : ON/OFF」717は、インタラクティブスキャンを行なうための操作ボタンであり、「Navigation : ON/OFF」717は、ナビゲーションを行なうための操作ボタンである。
操作者は、モニタ2に表示されるGUIを介して、撮像や表示等の指示を与えると共に、モニタに表示された映像や距離などを見ながら手術を進めることができる。
本実施の形態によれば、内視鏡及びロボットアーム(それに固定された術具)の座標が、MRI装置の装置座標と統合されているので、内視鏡映像の変化に伴いリアルタイムで手術支援画像を更新して重畳表示することができる。また術具位置と特定領域との距離計算も極めて短時間で行なうことができ、これにより術具が接触してはならない特定部位に近づいた場合にすみやかに警告を発することができる。
なお上記実施の形態では、撮像装置がMRI装置である場合を例に説明したが撮像装置として、MRI装置のほか、CT装置、PETなど他の撮像装置を採用することも可能である。さらに本実施の形態では、MRI装置等の撮像装置が組み込まれた手術支援装置を説明したが、本発明の手術支援装置において撮像装置は必須ではなく、画像作成部は、撮像装置で撮像された三次元ボリューム画像データを取り込んで、手術支援画像を作成することも可能である。この場合には、三次元ボリューム画像の座標と手術が行われる実空間座標との関連付けを行なっておくことが必要である。このような関連付けは、例えば、被検体に三次元ボリューム画像を撮像する撮像装置で検出可能なマーカーを固定した状態で撮像を行い、手術が行われる実空間において、三次元位置検出器で被検体に固定されたマーカーの位置を検出することにより行なうことが可能である。
また本実施の形態では、術具を固定したロボットの位置検出を、内視鏡位置を検出する三次元位置検出器で行なう場合を説明したが、ロボットの制御系でロボットアームの位置情報を持っている場合には、その位置情報を利用することも可能である。この場合にもロボットアームの位置を三次元位置検出器で検出可能な指示具を利用して三次元位置検出器の処理部に登録し、ロボット座標と三次元位置検出装置の座標との座標変換マトリクスを作成しておくことにより、ロボット位置を三次元位置検出装置で検出する場合と同様に、ロボット制御系からの位置情報を用いて手術支援画像の作成と内視鏡画像への重畳表示が可能となる。
本発明の手術支援装置の全体外観を模式的に示す図 本発明の手術支援装置の一実施の形態を示すブロック図 本発明の手術支援装置を用いた手術手順を示すフロー図 画像作成部におけるセグメンテーション及び投影処理を説明する図 画像作成部が作成した手術支援画像と内視鏡映像との重畳を説明する図 内視鏡位置の変更と投影処理との関係を説明する図 本発明の手術支援装置における操作部のGUIの一例を示す図
符号の説明
10・・・撮像装置
20・・・内視鏡
30・・・手術用小型ロボット
40・・・三次元位置検出装置
50・・・画像作成部
60・・・制御部
70・・・表示装置
80・・・操作部

Claims (7)

  1. 内視鏡と、
    前記内視鏡の映像を表示する表示手段と、
    被検体の三次元ボリューム画像データを用いて、前記表示手段に表示された映像に重畳表示される手術支援画像を作成する画像作成手段とを備えた手術支援装置であって、
    前記内視鏡の位置を逐次検出する三次元位置検出手段と、
    前記三次元位置検出手段の座標と前記画像作成手段が有する画像座標とを座標統合する座標統合手段とを備え、
    前記画像作成手段は、前記三次元ボリューム画像データから抽出した各臓器や部位の三次元特定領域画像データを前記画像座標に格納するメモリを有し、前記三次元特定領域画像データのうち所望の臓器や部位の画像データの表示の選択を受け付け、前記座標統合手段から得られる内視鏡の位置情報をもとに、表示の選択を受け付けた三次元特定領域画像データについて、前記内視鏡の位置情報で決まる特定の平面を投影面とする特定領域投影像を作成し、内視鏡位置検出時点における内視鏡の映像に重畳して表示させることを特徴とする手術支援装置。
  2. 請求項1記載の手術支援装置であって、
    前記画像作成手段が作成する投影像は、前記内視鏡の焦点位置を含み、前記内視鏡の進行方向に直交する面への投影像であることを特徴とする手術支援装置。
  3. 請求項1又は2に記載の手術支援装置であって、
    前記三次元位置検出手段は、前記被検体に対し適用されている術具の位置を検出し、
    前記画像作成手段は、前記三次元位置検出手段で検出され、前記座標統合手段で変換された術具の位置情報に基き、前記術具の画像を検出術具位置に対応する手術支援画像上の位置に重畳して前記表示手段に表示させることを特徴とする手術支援装置。
  4. 請求項1ないし3いずれか1項に記載の手術支援装置であって、
    前記画像作成手段は、内視鏡の移動に伴う内視鏡映像の変化に合わせて、前記投影像の投影面をリアルタイムで変更して前記特定領域の投影像を作成し、前記表示装置に表示させることを特徴とする手術支援装置。
  5. 請求項1ないし4いずれか1項に記載の手術支援装置であって
    前記特定領域と術具との距離を算出する算出手段を備え、
    前記算出手段によって算出された距離及び/又は当該距離が閾値以内であるときの警告を前記表示装置に表示させることを特徴とする手術支援装置。
  6. 請求項1ないし5いずれか1項に記載の手術支援装置であって、
    さらに前記三次元ボリューム画像データを取得する撮像手段を備えたことを特徴とする手術支援装置。
  7. 請求項6記載の手術支援装置であって、
    前記撮像手段は、前記画像作成手段を兼ねることを特徴とする手術支援装置。
JP2005189842A 2005-06-29 2005-06-29 手術支援装置 Expired - Fee Related JP4152402B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005189842A JP4152402B2 (ja) 2005-06-29 2005-06-29 手術支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005189842A JP4152402B2 (ja) 2005-06-29 2005-06-29 手術支援装置

Publications (2)

Publication Number Publication Date
JP2007007041A JP2007007041A (ja) 2007-01-18
JP4152402B2 true JP4152402B2 (ja) 2008-09-17

Family

ID=37746280

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005189842A Expired - Fee Related JP4152402B2 (ja) 2005-06-29 2005-06-29 手術支援装置

Country Status (1)

Country Link
JP (1) JP4152402B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013145730A1 (ja) 2012-03-29 2013-10-03 パナソニック株式会社 手術支援装置および手術支援プログラム
EP4115272A4 (en) * 2020-03-03 2024-04-10 Verb Surgical Inc GRAPHICAL USER GUIDANCE FOR A SURGICAL ROBOT SYSTEM

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2684326A1 (en) * 2007-04-16 2009-04-23 Neuroarm Surgical Ltd. Methods, devices, and systems relating to cameras configured to be positioned within the bore of a magnet and mr bore space illumination
JP5410021B2 (ja) * 2008-01-22 2014-02-05 株式会社日立メディコ 医用画像診断装置
JP5154961B2 (ja) * 2008-01-29 2013-02-27 テルモ株式会社 手術システム
JP5561458B2 (ja) * 2008-03-18 2014-07-30 国立大学法人浜松医科大学 手術支援システム
JP5823096B2 (ja) * 2009-02-10 2015-11-25 株式会社東芝 X線診断装置及び画像処理方法
WO2010133982A2 (en) * 2009-05-18 2010-11-25 Koninklijke Philips Electronics, N.V. Marker-free tracking registration and calibration for em-tracked endoscopic system
JP5551957B2 (ja) 2010-03-31 2014-07-16 富士フイルム株式会社 投影画像生成装置およびその作動方法、並びに投影画像生成プログラム
JP5485853B2 (ja) * 2010-10-14 2014-05-07 株式会社日立メディコ 医用画像表示装置及び医用画像誘導方法
US20150145953A1 (en) 2012-03-17 2015-05-28 Waseda University Image completion system for in-image cutoff region, image processing device, and program therefor
JP5807826B2 (ja) * 2012-03-29 2015-11-10 パナソニックヘルスケア株式会社 手術支援装置および手術支援プログラム
US20140051049A1 (en) 2012-08-17 2014-02-20 Intuitive Surgical Operations, Inc. Anatomical model and method for surgical training
JP5613353B2 (ja) 2012-09-07 2014-10-22 オリンパスメディカルシステムズ株式会社 医療装置
GB2505926A (en) * 2012-09-14 2014-03-19 Sony Corp Display of Depth Information Within a Scene
JP6221166B2 (ja) * 2012-10-22 2017-11-01 ジーイー・メディカル・システムズ・グローバル・テクノロジー・カンパニー・エルエルシー 表示装置、医用装置、およびプログラム
JP6265627B2 (ja) * 2013-05-23 2018-01-24 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
JP5781135B2 (ja) * 2013-09-27 2015-09-16 エフ・エーシステムエンジニアリング株式会社 3dナビゲーション映像生成装置
JP5611441B1 (ja) * 2013-11-29 2014-10-22 スキルアップジャパン株式会社 顕微鏡用映像処理装置、および医療用顕微鏡システム
EP4184483A1 (en) * 2013-12-20 2023-05-24 Intuitive Surgical Operations, Inc. Simulator system for medical procedure training
EP3096705A1 (en) * 2014-01-24 2016-11-30 Koninklijke Philips N.V. Robotic control of imaging devices with optical shape sensing
JP2015220643A (ja) * 2014-05-19 2015-12-07 株式会社東芝 立体観察装置
EP3258871B1 (en) 2015-02-20 2018-10-24 Koninklijke Philips N.V. Medical system, apparatus and method for shape sensing
DE102015109371A1 (de) * 2015-06-12 2016-12-15 avateramedical GmBH Vorrichtung und Verfahren zur robotergestützten Chirurgie
EP3184071A1 (de) * 2015-12-22 2017-06-28 SpineMind AG Vorrichtung für die intraoperative bildgesteuerte navigation bei chirurgischen eingriffen im bereich der wirbelsäule und im daran angrenzenden thorax-, becken- oder kopfbereich
WO2017130567A1 (ja) * 2016-01-25 2017-08-03 ソニー株式会社 医療用安全制御装置、医療用安全制御方法、及び医療用支援システム
JP6724163B2 (ja) * 2016-06-11 2020-07-15 ボストン サイエンティフィック サイムド,インコーポレイテッドBoston Scientific Scimed,Inc. 組織の自己蛍光を使用した組織アブレーションの監視のためのシステム及び方法
JP6747956B2 (ja) * 2016-12-07 2020-08-26 株式会社OPExPARK 情報統合装置
JP7155511B2 (ja) 2017-11-17 2022-10-19 ソニーグループ株式会社 手術システム、情報処理装置、及び情報処理方法
WO2019116593A1 (ja) 2017-12-14 2019-06-20 オリンパス株式会社 手術支援装置
WO2019155931A1 (ja) * 2018-02-09 2019-08-15 ソニー株式会社 手術システム、画像処理装置及び画像処理方法
WO2024033898A1 (en) * 2022-08-11 2024-02-15 Auris Health, Inc. User interfaces for navigating anatomical channels in medical procedures

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013145730A1 (ja) 2012-03-29 2013-10-03 パナソニック株式会社 手術支援装置および手術支援プログラム
EP4115272A4 (en) * 2020-03-03 2024-04-10 Verb Surgical Inc GRAPHICAL USER GUIDANCE FOR A SURGICAL ROBOT SYSTEM

Also Published As

Publication number Publication date
JP2007007041A (ja) 2007-01-18

Similar Documents

Publication Publication Date Title
JP4152402B2 (ja) 手術支援装置
US10835344B2 (en) Display of preoperative and intraoperative images
US10706610B2 (en) Method for displaying an object
KR102501099B1 (ko) 원격조작 의료 시스템에서 기구의 스크린상 식별정보를 렌더링하기 위한 시스템 및 방법
JP7376569B2 (ja) ロボット操作手術器具の位置を追跡システムおよび方法
KR101598773B1 (ko) 수술용 로봇의 움직임 제어/보상 방법 및 장치
EP3385039B1 (en) Synthetic representation of a surgical robot
JP5249343B2 (ja) ロボット、医療ワークステーションおよび、対象物の表面に画像を投影する方法
JP6083103B2 (ja) 画像内遮蔽領域の画像補完システム、画像処理装置及びそのプログラム
US11258964B2 (en) Synthesizing spatially-aware transitions between multiple camera viewpoints during minimally invasive surgery
KR20230003408A (ko) 원격조작 의료 시스템에서 기구의 스크린상 식별을 위한 시스템 및 방법
US20210315637A1 (en) Robotically-assisted surgical system, robotically-assisted surgical method, and computer-readable medium
CN111867438A (zh) 手术辅助设备、手术方法、非暂时性计算机可读介质和手术辅助***
JP6112689B1 (ja) 重畳画像表示システム
US20220215539A1 (en) Composite medical imaging systems and methods
JP2009172050A (ja) 医用画像診断装置
US11045075B2 (en) System and method for generating a three-dimensional model of a surgical site
KR101627369B1 (ko) 수술용 로봇의 움직임 제어/보상 방법 및 장치
JP2003079637A (ja) 手術ナビゲーションシステム
WO2021126788A1 (en) Systems for facilitating guided teleoperation of a non-robotic device in a surgical space
KR101602763B1 (ko) 수술용 로봇의 움직임 제어/보상 방법 및 장치
US20230210627A1 (en) Three-dimensional instrument pose estimation
KR101662837B1 (ko) 수술용 로봇의 움직임 제어/보상 방법 및 장치
KR20140088849A (ko) 수술용 로봇의 움직임 제어/보상 방법 및 장치

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070904

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070911

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080701

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080701

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4152402

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110711

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120711

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120711

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130711

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees