JP5613353B2 - 医療装置 - Google Patents

医療装置 Download PDF

Info

Publication number
JP5613353B2
JP5613353B2 JP2014512977A JP2014512977A JP5613353B2 JP 5613353 B2 JP5613353 B2 JP 5613353B2 JP 2014512977 A JP2014512977 A JP 2014512977A JP 2014512977 A JP2014512977 A JP 2014512977A JP 5613353 B2 JP5613353 B2 JP 5613353B2
Authority
JP
Japan
Prior art keywords
information
image
predetermined
imaging device
coordinate system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014512977A
Other languages
English (en)
Other versions
JPWO2014038322A1 (ja
Inventor
秋本 俊也
俊也 秋本
大西 順一
順一 大西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Medical Systems Corp
Original Assignee
Olympus Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Medical Systems Corp filed Critical Olympus Medical Systems Corp
Priority to JP2014512977A priority Critical patent/JP5613353B2/ja
Application granted granted Critical
Publication of JP5613353B2 publication Critical patent/JP5613353B2/ja
Publication of JPWO2014038322A1 publication Critical patent/JPWO2014038322A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00193Optical arrangements adapted for stereoscopic vision
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00194Optical arrangements adapted for three-dimensional imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/07Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/0037Performing a preliminary scan, e.g. a prescan for identifying a region of interest
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/267Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the respiratory tract, e.g. laryngoscopes, bronchoscopes
    • A61B1/2676Bronchoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Public Health (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Pulmonology (AREA)
  • Otolaryngology (AREA)
  • Physiology (AREA)
  • Endoscopes (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本発明は、被検体内を撮像する医療装置に関する。
被検体内に挿入され、先端部に撮像手段を設けた医療装置として内視鏡は、医療分野及びその他の分野において広く用いられるようになっている。
また、内視鏡を被検体の管腔臓器内に挿入して検査又は検査結果に応じて処置具による処置等を円滑に行うことができるように、CT装置等の情報と組み合わせた医療装置も提案されている。
例えば第1の従来例としての日本国特開2007−7041号公報に開示された手術支援装置は、内視鏡の位置を逐次検出する3次元位置検出装置と、内視鏡の映像に重畳される手術支援画像を作成する画像作成手段と、3次元位置検出装置の座標と画像作成手段が有する画像座標とを統合する座標統合手段とを備えている。
画像作成手段は、MRI等で撮像された被検体の3次元ボリューム画像データを用いて内視鏡の映像に重畳される手術支援画像を作成する。座標統合手段により、内視鏡の位置や向きが変更されても、それと相対位置が保たれた状態で、リアルタイムで内視鏡の向きに合わせた手術支援画像を重畳表示することができるようにしている。
また、第2の従来例としての日本国特開2005−131042号公報は、気管支の複数の分岐点での仮想内視鏡画像を生成し、気管支内に挿入される内視鏡を支援する挿入支援装置を開示している。
しかしながら、上記第1の従来例は、内視鏡の位置を逐次検出する3次元位置検出装置による座標と、手術支援画像による座標との座標統合に(位置ずれ等の)ずれが発生した場合の対処手段ないしは対処方法が考慮されていない。両座標に位置ずれが発生すると、内視鏡の映像と手術支援情報とがずれ量だけずれてしまうため、ずれが発生する前のような円滑な手術支援を行うことができなくなる。
また、第2の従来例は、管腔臓器としての気管支内に挿入される内視鏡の先端部に搭載される撮像手段の位置情報と、CT装置による気管支の3次元の位置情報とを整合(マッチング)させる構成を開示していない。
このため、より有効に挿入支援することができるように内視鏡の先端部又は撮像手段の位置情報と、撮像手段が挿入される管腔臓器の位置情報との間に、許容される程度以上のずれが発生した場合、術者等がずれを解消する事に対処し易い情報の提示等ができる構成が望まれる。
本発明は上述した点に鑑みてなされたもので、内視鏡等に搭載された撮像手段と、撮像手段が挿入される管腔臓器の情報との間でずれが発生した場合に対して、対処し易い情報の提示が可能な医療装置を提供することを目的とする。
本発明の一態様の医療装置は、予め取得した被検体における3次元画像情報を記憶するよう構成された記憶部と、対物レンズが設けられた先端部を備え、前記被検体内の光学像を取得する撮像装置と、前記3次元画像情報から前記被検体内の所定の管腔臓器の3次元形状の画像情報を抽出するよう構成された管腔臓器抽出部と、第1の座標系における前記所定の管腔臓器中の所定位置の位置情報と、第2の座標系における前記所定位置に設定された前記先端部の位置情報とを対応付けた位置対応付け情報を生成することで、第1の座標系における前記所定の管腔臓器の3次元形状の画像情報の位置情報と、第2の座標系における前記撮像装置の位置情報を対応付ける位置対応付け制御部と、前記第2の座標系における前記撮像装置の位置情報に基づき、前記位置対応付け制御部によって対応付けられた、前記第1の座標系における前記所定の管腔臓器内に挿入される前記撮像装置の位置情報に基づいて、前記管腔臓器抽出部により抽出された前記所定の管腔臓器において、前記撮像装置が挿入された領域の3次元形状の画像情報における特徴情報を取得するよう構成された特徴情報取得部と、前記所定の管腔臓器の3次元形状の画像情報に、前記特徴情報を対応付けた画像を生成するよう構成された対応付け画像生成部と、前記第2の座標系における前記撮像装置の位置情報に基づき、前記位置対応付け制御部によって対応付けられた、前記第1の座標系における前記撮像装置の位置情報が、前記第1の座標系における前記3次元形状の画像情報において前記所定の管腔臓器の内側に位置するか否か、若しくは前記被検体の前記第2の座標系における所定部位の位置変化が所定量以上か否かを判定する判定部と、前記判定部の判定結果に基づいて、前記所定の管腔臓器内における前記撮像装置の位置情報近傍の特徴情報を表示部に表示制御するよう構成された制御部と、を備える。
図1は本発明の第1の実施形態の医療装置の全体構成を示す図。 図2Aは特徴情報取得部の構成を示すブロック図。 図2Bは気管支の3次元形状を表す気管支仮想画像等を示す図。 図3は図2における1つの分岐部周辺の詳細を示す図。 図4は気管支内に内視鏡の挿入部を挿入する場合の医療装置による挿入支援の処理内容を示すフローチャート。 図5は2つの座標系における同じ位置の対応付けする場合の説明図。 図6は気管支内に内視鏡の挿入部を挿入した場合における位置計測された撮像装置の位置が所定条件で管腔内か否かの判定を行う場合の説明図。 図7はリスタート画面において、新たに基準位置を設定して位置対応付け情報を補正するための説明図。 図8は基準位置を特定して位置対応付け情報を補正する処理を示すフローチャート。 図9は気管支内の所定位置に内視鏡の先端部を設定して位置対応付けを行う様子を示す説明図。 図10は本発明の第2の実施形態の医療装置の全体構成を示す図。 図11は第2の実施形態における気管支内に内視鏡の挿入部を挿入する場合の医療装置による挿入支援の処理内容を示すフローチャート。 図12は気管支に設定した領域毎に計測情報を選択的に設定した様子の説明図。 図13は第2の実施形態の第7変形例における撮像装置の現在位置などを示す説明図。 図14は図13の状態から計測情報を取得する動作を続行した場合の撮像装置の各位置等を示す図。 図15は第2の実施形態の第9変形例におけるCT断層像画像上に撮像装置の位置を表示した場合の対応付け画像の表示例を示す図。 図16は、図15において、撮像装置の位置が切断面上に有る場合と無い場合とで異なる形状で表示した場合の表示例を示す図。 図17は第2の実施形態の第9変形例におけるCT断層像画像上に撮像装置の位置を表示すると共に、仮想内視鏡画像も表示する対応付け画像の表示例を示す図。
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の医療装置1は、検査対象となる被検体としての患者における所定の管腔臓器としての気管支2(図2、図7参照、図2においては、その一部を点線で示す)内に挿入される内視鏡3を備えた内視鏡装置4と、この内視鏡装置4と共に使用され、内視鏡の挿入支援を行うための挿入支援装置5と、から主に構成される。
内視鏡装置4は、内視鏡3と、この内視鏡3に照明光を供給する光源装置6と、内視鏡3に搭載された撮像手段を構成する撮像素子7に対する信号処理を行う信号処理装置としてのカメラコントロールユニット(CCUと略記)8と、CCU8により生成され内視鏡画像を表示するモニタ9と、を有する。
内視鏡3は、可撓性を有する細長の挿入部11と、この挿入部11の後端に設けられた操作部12とを有し、挿入部11の先端部13には照明窓と観察窓とが設けられる。挿入部11,操作部12内には照明光を伝達するライトガイド14が挿通され、このライトガイド14の入射端は光源装置に接続され、光源装置6内の図示しない光源ランプ又はLEDにより発生した照明光が入射端に入射される。このライトガイド14により伝達された照明光は、照明窓に取り付けられた出射端(先端面)から前方に出射される。
また、観察窓には、対物レンズ15が取り付けられ、その結像位置にCCD等の撮像素子7が配置され、対物レンズ15と撮像素子7とにより、挿入部11が挿入される所定の管腔臓器としての気管支2内を撮像する撮像手段としての撮像装置16が形成される。
撮像素子7は、挿入部11,操作部12内を挿通された信号線を介してCCU8に接続される。CCU8は、その内部の図示しない画像信号生成回路により撮像素子7の撮像面に結像された光学像に対応する撮像画像の画像信号を生成し、この画像信号をモニタ9に出力する。モニタ9は、画像信号の画像(動画像)を、内視鏡画像(撮像画像とも言う)として表示する。
また、先端部13内には、撮像素子7の近傍位置に、位置センサ17が設けてある。また、内視鏡3及び被検体の外部となる所定の位置には、この位置センサ17の3次元位置(単に位置とも記す)を計測(検出)する処理を行う計測処理装置又は計測処理部18が設けてある。
計測処理部18は、位置センサ17の位置を計測するが、その位置は先端部13又は撮像装置16(の撮像素子7)の位置と近似することができる。
この計測処理部18は、位置センサ17を用いて所定の管腔臓器としての気管支2内に挿入される撮像手段を構成する撮像装置16が位置する位置情報を生成する位置情報生成部18bの機能を有する。
位置検出方法としては、磁気を利用したものを利用できる。例えば、計測処理部18に接続されたアンテナ18aから発せられる交流磁場をコイルで構成された位置センサ17が検知し、位置センサ17で検知した信号における、その信号の振幅及び位相を(振幅検出回路及び位相検出回路を備えた)計測処理部18が検出することによりアンテナ18aから位置センサ17までの距離を計測する。計測処理部18は、3つ以上となる複数のアンテナ18aをそれぞれ異なる既知の位置に設けることにより、位置センサ17の3次元位置を特定する。
なお、位置センサ17を構成するコイルに交流信号を印加して、その周囲に交流磁場を発生させ、アンテナ18a側で交流磁場を検知して位置センサ17の位置を検出する構成にしても良い。一例としてコイルを用いた磁気式位置検出装置を説明したが、位置センサ17及び計測処理部18の構成は、上記説明の場合に限定されるものでない。例えば、挿入部11の長手方向に沿って所定間隔で位置検出のための複数のコイルを配置し、複数のコイルの位置から挿入部11の形状を推定し、先端部13等の位置を検出することができるようにしても良い。
なお、内視鏡3の挿入部11には、先端部13の後端に湾曲自在の湾曲部19が設けてあり、術者は操作部12に設けた湾曲操作ノブ25cを回転する操作を行うことにより、湾曲部19を上下、左右の任意の方向に湾曲することができる。
上記挿入支援装置5は、内視鏡3による検査が行われる患者に対して、公知のCT装置で生成された患者の3次元画像情報としてのCT画像データを、DVD、ブルーレイディスク、フラッシュメモリ等の可搬型の記憶媒体を介して取り込むCT画像データ取込部21と、このCT画像データ取込部21によって取り込まれたCT画像データを記憶するCT画像データ記憶部22とを有する。
なお、CT画像データ記憶部22は、CT装置で生成された(被検体としての患者の)CT画像データを通信回線、インタネット等を経由して記憶しても良い。このCT画像データ記憶部22は、ハードディスク装置や、フラッシュメモリ、DVD等により構成される。
また、CT画像データ記憶部22は、CT画像データと、該CT画像データに対応する第1の座標系を用いた3次元の位置データとを対応付けた対応付け情報として記憶する対応付け情報記憶部22aを有する。
また、挿入支援装置5は、CT画像データ記憶部22のCT画像データから所定の管腔臓器としての気管支2の3次元画像データを抽出する管腔臓器抽出部又は管腔臓器抽出回路としての気管支抽出部23を有する。
この気管支抽出部23は、抽出した気管支2の3次元画像データ(より具体的には3次元のボリュームデータ)から、気管支2の中空形状を表す3次元形状の画像情報(画像データ)を生成する。つまり、気管支抽出部23は、抽出した気管支2の3次元画像データから中空の3次元形状の気管支形状の仮想画像としての気管支形状仮想画像を生成する気管支仮想画像生成回路を備えた気管支仮想画像生成部23aを有する。
また、この気管支抽出部23は、気管支2の3次元形状の画像データを抽出する際、3次元画像データに対応する第1の座標系での3次元の位置データと対応付けて抽出する。そして、この気管支抽出部23は、気管支2の3次元形状の画像データ(つまり気管支形状仮想画像データ)と3次元の位置データとを対応付けした対応付け情報を記憶するメモリなどからなる対応付け情報記憶部23bを有する。
また、挿入支援装置5は、撮像装置16が位置する位置情報に基づいて、撮像装置16により気管支2内を撮像した場合の仮想的な内視鏡画像(VBS画像と言う)を生成するための画像処理を行うVBS画像処理部24を有する。
このVBS画像処理部24は、VBS画像を生成するVBS画像生成部24aと、生成したVBS画像を格納するVBS画像格納部24bとを備える。なお、VBS画像格納部24bをVBS画像処理部24の外部に設けるようにしても良い。
また、挿入支援装置5は、気管支抽出部23により抽出された所定の管腔臓器としての気管支2の3次元形状の画像情報における特徴情報を取得する特徴情報取得する画像処理を行う特徴情報取得部25aと、気管支2の3次元形状の画像情報に、特徴情報を対応付けた画像としての特徴情報対応付け画像を生成する対応付け画像生成部25bとを備えた画像処理回路からなる画像処理部25を有する。
特徴情報取得部25aは、図2Aに示すように気管支2における分岐に関する2次元の画像情報を取得する2次元の画像情報取得部33aと、主に気管支2における分岐に関する計測情報を取得する計測情報取得部33bとを有する。
2次元の画像情報取得部33aは、気管支2における分岐に関する2次元の画像情報を取得することにより、取得した情報に基づいて気管支2における分岐している分岐部分の仮想的な内視鏡画像としてのVBS画像を生成するのに利用する。なお、VBS画像生成部24は、分岐部分及び分岐していない部分を含めたVBS画像を生成する。このため、2次元の画像情報取得部33aをVBS画像処理部24内に設けるようにしても良い。
また、図1においては、画像処理部25とVBS画像処理部24とを別ユニットで示しているが、例えば画像処理部25がVBS画像処理部24におけるVBS画像生成部24aを含む構成にしても良い。
計測情報取得部33bは、気管支2における分岐に関する計測情報として、より具体的には(第2の座標系での撮像装置16の位置と、この位置に対応した第1の座標系での)位置、気管支径、気管支2の所定位置までの距離、の計測情報を取得する位置/気管支径/距離計測情報取得部を有する。
なお、計測情報取得部33bが位置、気管支径、距離の3つの計測情報を取得する場合に限定されるものでなく、これらの内の2つ又は少なくとも1つを取得する構成にしても良い。また、特徴情報取得部25aは、2次元の画像情報取得部33aと、計測情報取得部33bとの両方を有する場合に限定されるものでなく、一方のみを有する構成にしても良い。また、計測情報取得部33bを画像処理部25内の特徴情報取得部25a内に設ける場合に限定されるものでなく、画像処理部25の外部、例えば計測処理部18内に設けたり、画像処理部25と計測処理部18とは別ユニットとして設けるようにしても良い。
上記特徴情報は、挿入支援の情報として利用されると共に、所定条件での位置推定が失敗した場合に対処し易くするために提示される情報を形成する。
また、この画像処理部25は、気管支形状仮想画像と、気管支2内部の仮想内視鏡画像(VBS画像)と、撮像素子7による内視鏡画像(撮像画像)等を合成する画像処理を行う画像合成処理部25cを有する。画像合成処理部25cは、合成した合成画像(の画像信号)を表示手段としてのモニタ26に出力し、モニタ26には合成画像が表示される。
図2Bは気管支仮想画像生成部23aにより生成された気管支形状仮想画像2aを示す。なお、この気管支形状仮想画像2aは、その画像データがそれぞれ対応する3次元の位置情報と対応付けして対応付け情報記憶部23bに記憶されている。
図1においては、特徴情報取得部25aは、画像処理部25内に設けた場合で示しているが、画像処理部25の外部のVBS画像処理部24内部、又は気管支抽出部23内部やその他の位置に特徴情報取得部25aを設けるようにしても良い。この場合には、特徴情報取得部25aにより取得した特徴情報は、画像処理部25の画像生成部25bに入力される。
この画像処理部25により生成された合成画像の場合を含む画像信号は、画像表示手段としてのモニタ26に出力され、モニタ26にはこの画像信号の画像が表示される。
また、挿入支援装置5は、画像処理部25による画像処理等を制御するCPU等から構成される制御部27と、モニタ26に表示する画像や、CT画像データを生成し、気管支形状仮想画像2aの生成にも利用された座標系(第1の座標系)の位置と、位置センサ17及び計測処理部18により撮像装置16の位置の計測に用いられる座標系(第2の座標系)の位置とを対応付けた位置対応付け情報等を記憶する記憶部28とを有する。
制御部27は、モニタ26に表示する画像の表示制御を行う画像表示制御部27aの機能を有する。
また、この制御部27は、所定の管腔臓器としての気管支2内における撮像装置16の位置情報近傍の前記気管支2の特徴情報を、表示手段としてのモニタ26に表示するように制御する(位置情報近傍)特徴情報表示制御部27bを有する。そして、モニタ26は、当該位置情報近傍の前記気管支2の特徴情報を表示することになる。
また、本実施形態においては、気管支2内への(術者による)内視鏡3の挿入作業を円滑に支援できるように、気管支2の3次元形状の画像データを管理する第1の座標系での位置(位置情報)と、気管支2内に挿入される内視鏡3の挿入部11の先端部13の撮像装置16の第2の座標系での位置(位置情報)との位置対応付け又は位置合わせ(レジストレーション)を行う。
制御部27は、両座標系での位置対応付けの制御を行う位置対応付け制御部27cの機能を持つ。
この位置対応付けした位置対応付け情報は、例えば記憶部28の位置対応付け情報記憶部28aに記憶される。
また、制御部27は、位置対応付け後において、両座標系での位置情報が所定条件以内で位置推定が成功したか否かの判定を行う判定部27dの機能を有する。
また、挿入支援装置5は、CT画像データ記憶部22に記憶されたCT画像データに基づき多断面再構築画像(MPR画像という)を生成するMPR画像生成部29と、MPR画像生成部29が生成したMPR画像を有する支援ルート(単にルートと言う)又は経路の設定画面としてのルート設定画面(又は経路設定画面)を生成し、内視鏡3の気管支2へのルートを設定するルート設定部30とを有する。
また、医療装置1は、ルート設定部30に対して設定情報を入力するキーボード及びポインティングデバイス等からなる入力装置31を有する。また、術者は、この入力装置31から画像処理部25に対して、画像処理を行う際のパラメータや、データを入力したり、制御部27に対して制御動作を選択、指示することができる。
また、術者がルート設定を行った場合、ルート設定部30は設定されたルート(経路)の情報をVBS画像処理部24、MPR画像生成部29、制御部27に送る。VBS画像処理部24及びMPR画像生成部29は、それぞれルートに沿ったVBS画像、MPR画像を生成し、制御部27はルートに沿って各部の動作の制御を行う。
上記特徴情報取得部25aは、気管支2内に挿入される撮像装置16の位置情報に基づいて、気管支抽出部23により抽出された気管支2の3次元形状の画像データにおける、気管支2の分岐に関する2次元の画像情報又は気管支2における撮像装置16の位置に対応する位置、気管支径、気管支2の所定位置までの距離等の計測情報を、上記気管支2に関する特徴情報として取得する。
例えば、図2Bに示すように(気管支2の形状をCT画像データに基づいて仮想的に表示する)気管支形状仮想画像2aにおける3次元形状の中空の管腔は、多数に分岐した分岐部が存在する。図2Bでは、ルート設定部30により設定したルートに沿って内視鏡3の挿入部11を先端側から挿入した場合に対応した分岐部B1−B5を示している。なお、図2Bでは分岐部B1−B5を示しているが、分岐部B1−B5の場合に限定されるものでなく、B1−Bn(nは2以上の自然数)に適用できる。
本実施形態においては挿入支援を円滑に行うために、特徴情報取得部25bは、気管支2の3次元形状の画像データを利用して、各分岐部Bi(i=1,2,…,n)近傍の位置において、内視鏡3の撮像装置16を仮想的に配置して分岐部Biを撮像した場合に対応する2次元のVBS画像を2次元の画像情報として、VBS画像を(VBS画像処理部24の)VBS画像格納部24bから取得する。
そして、対応付け画像生成部25bは、気管支2の3次元形状の画像情報としての気管支形状仮想画像2aに、特徴情報取得部25aが取得した2次元の画像情報として分岐部を撮像するVBS画像Iiを対応付けた対応付け画像Jを生成する。そして、モニタ26は、この対応付け画像Jが例えば図2Bに示すように表示する。
図2Bでは、各分岐部Biに、分岐部Biを撮像したVBS画像Iiを対応付けた状態で示している。なお、図2Bにおいて気管支2(気管支形状仮想画像2a)の管腔の中心線を符号Cで示している。
図3は、1つの分岐部Bi付近における該分岐部Biを撮像したVBS画像Iiを対応付けた内容をより詳細に示す。
図3は、(気管支2における)1つの管腔形状が分岐境界位置PBiから2つの管腔形状に分岐する分岐部Biを形成する分岐部Bi周辺部を示している。
また、図3は、(気管支2又は)気管支形状仮想画像2a上において所定位置としての分岐境界位置PBiから所定距離aiだけ離し、管腔の中心線C上の位置Piに、撮像装置16(又は先端部13又は位置センサ17)を配置した状態を示している。なお、所定距離aiだけ離し、管腔路の中心線C上の位置Piを特定する説明は、図7において後述する。
そして、対応付け画像生成部25cは、この撮像装置16により分岐部Bi側を撮像した場合に対応するVBS画像Iiを、この気管支2の分岐部Biに対応付けた対応付け画像Jiを有するように、対応付け画像Jを生成する。
また、本実施形態においては、特徴情報取得部25aは、図3における各位置Pi等における計測情報として気管支2の内径としての気管支径Diを、気管支2の3次元形状の画像情報から計測情報として取得する。そして、表示制御部27aは、気管支径Diをモニタ26で表示するように制御する。また、例えば記憶部28は、気管支径Diの計測情報を記憶する。なお、気管支径Diを、気管支2の3次元形状の画像情報から取得する場合に限らず、後述する立体計測を利用して気管支径Diの計測情報を取得しても良い。
制御部27の判定部27dは、気管支2の3次元形状の位置情報と、記憶部28に記憶された気管支径Di等の計測情報を用いて、計測処理部18により位置計測された気管支2内に挿入された撮像装置16の位置情報が、気管支2内において実際に挿入された状態において許容される所定条件以内で推定できているか否かを判定する。
制御部27は、所定条件以内で推定できると判定した場合には、挿入支援の動作を続行し、所定条件以内で位置ずれが発生(換言すると位置推定が失敗した)と判定した場合には、失敗した位置近傍の気管支2の分岐部の情報を算出するように制御動作を行う。
また、制御部27は、算出した分岐部を含む気管支形状仮想画像2aと挿入支援するためのVBS画像とを合成するように画像処理部25を制御し、モニタ26にリスタート時の表示画面としてのリスタート画面を表示するように制御する。
リスタート時には、制御部27は、リスタートする撮像装置16の位置(つまり、位置推定に失敗した時の撮像装置16の位置)を気管支形状仮想画像2a上に表示すると共に、その位置近傍のVBS画像を表示し、記憶部28に記憶された位置対応付け情報を補正し易くする画像を提示する。
なお、表示するVBS画像は、以下の条件の少なくとも1つを使用した条件式を満たす分岐部である。
(I)内視鏡画像から気管支径を算出し、その気管支径と事前にCT画像上から算出していた分岐位置での気管支径との差分がしきい値以下の分岐のVBS画像。
(II)最後に位置推定に成功した位置から一定の範囲内にある分岐部に対してのVBS画像。
(III)位置推定に失敗した位置から一定の範囲内にある分岐部に対してのVBS画像。
(IV)位置推定に失敗した時点から過去一定期間内に記憶部28に記録された位置近傍の分岐部に対してのVBS画像。
(V)ルート上の分岐部
さらに、内視鏡先端から分岐までの距離を内視鏡画像から算出し、上記条件を満たす分岐部に対して同じ距離離れたVBS画像を生成してもよい。
これらの条件での距離とは、2点間の直線距離でもよいし、管腔の中心線上の道のりでもよい。
このような構成の医療装置1は、予め取得した被検体における3次元画像情報を記憶する記憶手段を構成するCT画像データ記憶部22と、前記被検体内を撮像する撮像手段を構成する撮像装置16と、前記3次元画像情報から前記被検体内の所定の管腔臓器としての気管支2の3次元形状の画像情報を抽出する管腔臓器抽出手段を構成する気管支抽出部23と、前記所定の管腔臓器内に挿入される前記撮像手段の位置情報に基づいて、前記管腔臓器抽出手段により抽出された前記所定の管腔臓器の3次元形状の画像情報における特徴情報を取得する特徴情報取得手段を構成する特徴情報取得部25aと、前記所定の管腔臓器の3次元形状の画像情報に、前記特徴情報を対応付けた画像を生成する対応付け画像生成手段を構成する対応付け画像生成部25bと、前記所定の管腔臓器内における前記撮像手段の位置情報近傍の前記所定の管腔臓器の特徴情報を表示する表示手段を構成するモニタ26と、を備えることを特徴とする。
次に本実施形態の動作を図4を参照して説明する。図4は、内視鏡3の挿入部11を気管支2内に挿入する場合の医療装置1各部の主要な処理を示す。
気管支2内に内視鏡3の挿入部11を挿入する場合、ステップS1に示すように医療装置1の制御部27は、両座標系での位置対応付け(レジストレーション)を行う処理を行う。
制御部27(の位置対応付け制御部27d)は、CT画像データ及びこのCT画像データから気管支2の3次元形状の画像データの抽出に用いられた第1の座標系と、先端部13の位置センサ17の計測処理部18による計測に用いられる第2の座標系とで、3つ以上となる複数の位置で対応付ける位置対応付け(レジストレーション)の処理を行う。
図5は位置対応付けの動作の説明図を示す。例えば気管支2の入り口付近における例えば4点Q0−Q3に、術者は内視鏡3の先端部13(又は位置センサ17)を順次設定して、第1の座標系O−XYZと第2の座標系o−xyzにおいてそれぞれ位置対応付けする指示又は指示入力を入力装置31から行う。このため、入力装置31は、位置対応付けの指示を行う指示入力部又は指示入力手段を形成する。
例えば、先端部13(又は位置センサ17)を、第1の座標系O−XYZにおける原点Oの位置Q0(0,0,0),X座標上の位置Q1(1,0,0)、Y座標上の位置Q2(0,1,0)、Z座標上の位置Q3(0,0,1)、に順次設定して、術者が位置対応付けの指示を行う。この指示において、各位置において計測処理部18が順次計測した位置を(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)とすると、制御部27は位置対応付けを行い、位置対応付け情報を記憶部28に記憶するように制御する。
この場合の位置対応付け情報(具体的には、第1の座標系O−XYZにおけるQ0(0,0,0)、Q1(1,0,0)、Q2(0,1,0)、Q3(0,0,1)は、第2の座標系o−xyzにおいては(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)がそれぞれ対応する情報)を記憶部28は記憶する。
また、制御部27は、記憶部28に記憶した位置対応付け情報を用いて両座標系の任意の位置を対応つける変換情報を決定する。制御部27は、この変換情報を記憶部28に記憶する。
図5においては、座標位置Q0(0,0,0),Q1(1,0,0),Q2(0,1,0),Q3(0,0,1)と、それぞれ対応する座標位置(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)とを簡略化してQ0⇔(x0,y0,z0)、Q1⇔(x1,y1,z1)、Q2⇔(x2,y2,z2)、Q3⇔(x3,y3,z3)で示している。なお、図5に示す4点でなく、そのうちの1点を省略した3点で位置対応付けを行う(決定する)ようにしても良い。
このように位置対応付けの処理が終了した後、術者は、内視鏡2の挿入部11を気管支2内に挿入して内視鏡検査を行うことを開始する。
術者は、気管支2の3次元形状の気管支形状仮想画像2aをモニタ26に表示させるように入力装置31から指示入力し、モニタ26に気管支2の3次元形状の気管支仮想画像を表示させ、さらに内視鏡3の挿入部11を気管支2内に挿入するルート(経路)の設定等を行う。
術者は、内視鏡3の挿入部11をその先端部13側から気管支2内に挿入すると、図4のステップS2に示すように先端部13の撮像装置16は気管支2内を撮像し、撮像画像をモニタ9に表示すると共に、モニタ26においても表示する。
また、ステップS3に示すように計測処理部18は、位置センサ17ないしは先端部13(又は撮像装置16)の位置計測を行い、位置計測した位置データを制御部27に出力する。
ステップS4に示すように制御部27は、計測処理部18から入力された第2の座標系の位置データが、気管支2の3次元形状を表す第1の座標系の位置データと所定条件の位置推定が成功か否かの判定を行う。
所定条件の位置推定の1つの判定法としては、例えば図6に示すように、計測処理部18により、例えばi番目に計測された第2の座標系での計測位置Pmiが、第1の座標系における気管支2の管腔形状の内側に存在するか否かを採用する。
図6に示すように(i−1)番目に計測された計測位置Pm(i−1)においては、第1の座標系では(気管支2の3次元形状の仮想画像としての)気管支形状仮想画像2aにおける管腔内側となる領域内に存在するとして算出された場合には、判定部27dは所定条件の位置推定が成功と判定する。なお、図6においては、管腔形状の外側を斜線で示している。
このように判定部27dが所定条件の位置推定が成功と判定した場合には、次のステップS5において制御部27は、所定条件の位置推定が成功した状態での計測位置Pm(i−1)、撮像装置16による撮像画像、先端部13の姿勢の情報、計測時の時間の情報を記憶部28に記憶するように制御する。
このように、記憶部28は、気管支2内に挿入された撮像装置16の位置情報と、撮像装置16により撮像した撮像画像と、先端部13の姿勢の情報とを、時系列に記憶する位置・画像記憶部28bを有する。なお、位置推定が成功した場合に限らず、位置推定が成功しないで失敗した場合にも、記憶部28は上記の情報を時系列に記憶するようにしても良い。
ステップS5の処理の後、ステップS2の処理に戻り、ステップS2−S5の処理を繰り返す。
これに対して、図6において示すようにi番目に計測された計測位置Pmiが、第1の座標系では管腔の外側となる斜線で示す領域内として算出された場合には、判定部27dは所定条件の位置推定が失敗したと判定する。
この場合には、図4のステップS6の処理に移り、このステップS6において制御部27は、計測処理部18が計測を行うように制御する。そして、ステップS7において計測処理部18は、上記計測位置Pmi周辺の分岐部を気管支抽出部23の3次元形状の画像データから求め、気管支径を特徴情報取得部25aから取得しておく。さらに、計測位置PmiとPmi―1の内視鏡画像により立体計測により分岐部での気管支径Riを求め、周辺の分岐のうち特徴情報取得部25aから取得した気管支径との差分がしきい値以下であるものを算出する。
なお、上述したように、1つの分岐部Biの場合に限定されるものでなく、制御部27は、術者に対する選択肢を広げるために、複数の分岐部を算出するようにしても良い。
また、ステップS8において制御部27は、上記分岐部Bi近傍の仮想内視鏡画像、つまりVBS画像を生成する。そして、次のステップS9において制御部27は、画像処理部25の対応付け画像生成部25bに対して、対応付け画像を生成してモニタ26にリスタート画面として表示するように制御する。このリスタート画面における画像としては、例えば図3に示すような対応付け画像Jiを表示する。
術者は、対応付け画像Jiがモニタ26での表示によって提示されるので、ステップS10に示すように対応付け画像Jiを用いて、位置推定が失敗した場合の対応、例えば位置対応付けの補正の処理を行う。ステップS10の処理後にステップS2の処理に戻る。なお、図2Bに示すように複数の分岐部及びVBS画像を表示するようにしても良い。また、表示する場合の分岐部の数、VBS画像の数を術者が選択的に設定できるようにしても良い。
次に対応付け画像Ji又はリスタート画面における位置対応付け情報を補正する処理動作を説明する。
図6において計測位置Pmiが管腔の外側となった場合には、制御部27はその計測位置Pmi近傍の分岐部Biを算出するように制御し、モニタ26に図3に示すような対応付け画像Jiを表示するように制御する。
術者は、対応付け画像Jiの表示から、以下のようにして初期状態で設定した位置対応付け情報を補正することによって、内視鏡3の挿入作業を円滑に続行することが可能になる。
図3の画像から位置対応付けの誤差が大きくなった位置対応付け情報を補正する動作を説明する。
図7は、図3の状態に対応した気管支2とその気管支2内に挿入された内視鏡3の先端側の状態において、基準位置としての位置Piを特定して、位置対応付け情報を補正すための説明図を示す。また、図8は位置対応付け情報を補正する操作や処理を示す。
術者は、図8のステップS11に示すように基準位置を特定するための操作(作業)を行う。初期状態で設定した位置対応付け情報を補正するために、新たに基準位置を設定する操作を行う。第1の座標系において、分岐境界位置PBiの3次元位置は、気管支2の3次元形状の画像データにおいて管腔の内側に突出する頂点位置となるため、特定することが容易な特定位置となる。
また、この分岐境界位置PBiから所定距離aiとなる気管支2の管腔の中心線C上の位置Piを基準位置として特定するために、術者は、ステップS12に示すように内視鏡3の撮像装置16を所定位置としての分岐境界位置PBiを立体計測する状態に設定する。
内視鏡3が1つの撮像装置16のみを有する場合には、図7に示すように気管支2の管腔内で、術者は内視鏡3の湾曲部19を湾曲させ、管腔内壁に当接させた2つの状態St1,St2に順次設定する。
そして、ステップS13に示すように各状態St1,St2で分岐境界位置PBiを撮像装置16で撮像し、それぞれ撮像画像を例えば、記憶部28に記憶させる。
ステップS14に示すように2つの撮像画像上において、術者は同じ所定位置としての分岐境界位置PBiを、入力装置31から指定する。
ステップS15に示すように制御部27は、この指定に基づいて、内視鏡3の対物レンズ15の焦点距離、撮像素子7の撮像面のサイズ、画素数等の情報を用いて、距離aiを算出すると共に、第1の座標系における基準位置としての位置Piの3次元位置を算出する。
次のステップS16において術者は、先端部13を位置Piに設定して、位置対応付けの指示を入力装置31から行う。
この指示を受けて、ステップS17において制御部27は、基準位置としての位置Piにおいて、第1の座標系と、第2の座標系とで新たな位置対応付けの処理を行う。
つまり制御部27は、第1の座標系の位置Piを第2の座標系で位置計測した場合の位置Priを対応付ける処理を行う。
更に、ステップS18において制御部27は、位置対応付けの情報により、初期状態の位置対応付け情報を補正する。
例えば、制御部27は、図7の位置の対応付け情報と、初期状態で設定した位置対応付け情報における3つの位置対応付け情報とから補正した位置対応付け情報を生成する。また、第1の座標系での位置と、第2の座標系での位置とを変換する、或いは対応つける変換式も補正(更新)する。
図7に示した位置Piにおいて取得した位置対応付け情報は、気管支2の入り口付近で設定した初期状態の位置対応付け情報に比較すると、気管支2の管路に沿った深部側での位置対応付け情報であるので、内視鏡3の挿入部11を実際に挿入した場合においては、より信頼性が高い位置情報と考えられる。そして、この位置対応付け情報で、初期状態で設定した位置対応付け情報を補正することにより、気管支2の管路に沿った深部側での位置対応付け情報による補正の誤差を補正できる。
そして、このようにして、補正された位置対応付け情報を用いて、術者は、挿入操作を続行する。例えば、術者は、リスタート画面において、入力装置31から位置計測を再開させる指示を行うことにより、補正された位置対応付け情報を用いて図4のステップS2以後の処理が再開する。
このようにして、医療装置1における挿入支援の情報を利用することにより、術者が気管支2の深部側に内視鏡3を円滑に挿入する作業を支援することができる。
なお、上述の説明においては、立体計測を利用して基準位置において両座標系の位置対応付けを行った例を説明したが、図9に示すように分岐境界位置PBiに先端部13の先端面を当接させた状態で、この分岐境界位置PBiにおいて両座標系の位置対応付けを行うようにして良い。
この場合には、術者は先端部13の先端面を、所定位置としての分岐境界位置PBiに当接させる状態に設定して、入力装置31から制御部27に対して位置対応付けの指示入力を行うだけで、入力支援装置5が図8の位置対応付けの処理を行うようにできる。また、日本国特開2009-279251号公報に記載の方法、つまり内視鏡画像に似ているVBS画像を探し出すことにより内視鏡先端の位置姿勢を求める方法を使用して、位置対応付け情報を補正してもよい。または、上記方法から算出される内視鏡先端の位置と、初期の位置対応付け情報を算出する際に使用した4点より3点を選択し、前述の方法にて位置対応付け情報を補正してもよい。
また、先端部13に設ける位置センサ17を、図9に示すように複数配置しても良い。位置センサ17を複数配置する場合、図9に示すように挿入部11の軸方向(長手方向)に沿って配置したもの(17a,17b)の他に、軸方向と例えば直交する方向に配置したもの(17c)を設けることにより、先端部13における撮像装置16が撮像する方向(方位)を検出することができる。この場合の撮像装置16が撮像する方向を視線方向とも言う。そして、撮像装置16の位置を記憶部28に記憶する場合、その視線方向の情報も記憶するようにしても良い。
なお、図4におけるステップS4の所定条件の位置推定の判定は、位置計測された第2の座標系の位置が第1の座標系の気管支径の内部となるかを判定条件としていたが、位置対応付けを行った位置から事前に設定された距離以内を判定条件として組み合わせても良い。
この場合には、過去に行った位置対応付けの位置から一定距離Rを超えた場合には、図4におけるステップS4で所定条件の位置推定を行う判定条件に該当しないと判定して、ステップS6の処理に移るようにしても良い。
また、ステップS4の判定条件としてさらに別の判定条件を採用しても良い。
内視鏡3の先端部13の位置計測を行うための位置センサ17の他に、例えば患者の呼吸による臓器の移動を補正するための位置センサ(体外マーカ)が想定していない方向に動いたとき、又は体外マーカが一定以上の移動量を検出した場合には、制御部27の判定部27dは、ステップS4において所定条件の位置推定の判定条件に該当しないとしてステップS6の処理に移るようにしても良い。
また、上述した判定法、つまり気管支径、距離、一定以上の移動量より2つ以上の条件を組み合わせるようにしても良い。
上述した第1の実施形態によれば、内視鏡3の挿入部11を所定の管腔臓器としての気管支2内に挿入した場合、医療装置1は、挿入部11の先端部13に設けた撮像装置16の位置を計測して、その位置近傍における気管支2内での仮想内視鏡画像や、気管支径や、気管支2の所定位置までの距離等をモニタ26に表示するようにしているので、撮像装置16の位置推定に失敗したような場合に、術者に対して位置推定の失敗に対処し易い情報を提示することができる。
例えば、位置推定が失敗した場合のモニタ26に表示されるリスタート画面において図8で説明した立体計測を利用して2つの座標系での位置対応付け情報を補正することにより、そのリスタート画面から再び内視鏡3の挿入部11を気管支2の深部側に挿入する操作を続行することができるように支援できる。より簡便な方法として、内視鏡3の先端部13の先端面を気管支2の所定位置となる分岐境界位置に当接させて位置対応付け情報を補正することもできる。
なお、上述したステップS4において複数の条件を組み合わせることにより、以下の効果がある。具体的には「気管支から飛び出ていること」、「過去に行った位置対応付けの位置からある距離以内」、「一定以上の移動量」における2つ以上の条件をorで組み合わせて判定式とした場合には、位置対応付け情報による補正の誤差が小さくても検出が可能になり、精度の高い内視鏡先端の位置表示が可能となる。また、2つ以上の条件をandで組み合わせた場合には、判定のロバスト性が向上するため、ノイズなどにより位置センサの精度が悪化してもリスタートの回数が増加することを防ぐことができる。
また、ステップS9において「気管支径」や「分岐部までの距離」という計測情報を使用してリスタート画面に表示されるVBS画像を絞り込むことにより、術者によるVBS画像の選択を容易にする。
なお、上述した実施形態において、位置推定が失敗しない場合においても、画像処理部25は、所定の管腔臓器としての気管支2の3次元形状の画像情報に、特徴情報を対応付けた画像を生成し、制御部27が、モニタ26に撮像装置16の位置情報近傍の気管支2の(特徴情報取得部25aが取得した)特徴情報を表示するように制御しても良い。この場合、特徴情報として、撮像装置16の近傍の例えば分岐部のVBS画像を表示すると、術者は分岐部において先端部13をいずれの管路側に挿入するか否かを確認しながら行えるため、挿入の作業が行い易くなる。
また、上述した場合の計測情報としての所定位置までの距離を計測する計測情報としては、撮像装置16の位置から分岐部Bjの所定位置までの距離の例で説明したが、以下の実施形態で説明するように撮像装置16の位置から気管支2の管路の中心線Cが分岐部Bjにおいて分岐する分岐点までの距離を計測情報に設定しても良い。
(第2の実施形態)
次に本発明の第2の実施形態を説明する。図10に示す本実施形態の医療装置1Bは、図1に示す医療装置1の構成において、気管支2に領域を設定し、領域毎に計測情報を切り替える選択を行う選択手段を設けた構成である。この選択手段を使用しない場合には、第1の実施形態と同様の構成及び作用となる。
上記選択手段としては、例えば入力装置31は領域の設定と、領域毎に計測情報を選択する設定・選択指示を行う設定・選択指示部31aを有し、制御部27は、この設定・選択指示に対して領域の設定と、領域毎に計測情報を選択する制御とを行う設定・計測情報選択部27eを備える。その他の構成は、第1の実施形態と同様である。
図11は、本実施形態の処理内容を示す。なお、図11におけるステップS31−S33,S35−37は、第1の実施形態の場合とほぼ同様の処理となる。
図11に示すように最初のステップS31において制御部27は、図4のステップS1と同様に2つの座標系での位置対応付けの処理を行う。
次のステップS32において撮像装置16は撮像を行い、さらにステップS33において計測処理部18は、先端部13(又は撮像装置16)の位置計測を行う。
次のステップS34において制御部27の設定・計測情報選択部27eは、位置計測により先端部13(又は撮像装置16)が位置する領域に応じて計測方法を選択する。
図12は、先端部13(又は撮像装置16)が位置する領域に応じて計測方法を選択するように設定した場合の設定例を示す。
図12に示すように気管支2の管腔の中心線Cに沿って、例えば分岐部Bj、Bj+1における分岐点Bpj、Bpj+1から一定距離以内となる領域Aj,Aj+1と,それらの間の領域Aj,j+1,…が設定される。なお、分岐点Bpj、又はBpj+1は、1本の中心線Cが分岐部Bj又はBj+1付近において2本など、複数に分岐する点として定義される。
そして、先端部13(又は撮像装置16)が、気管支2の管腔内における、例えば領域Aj内に位置する場合には計測情報は位置、領域Aj,j+1内に位置する場合には計測情報は距離、領域Aj+1内に位置する場合には計測情報は気管支径に設定されている。なお、計測情報が位置、又は距離の場合には計測処理部18による位置計測により行われる。
一方、計測情報が気管支径の場合には、図7において説明した立体計測で気管支径を計測する。
また、図12の図示例は、1つの設定例を示し、術者は入力装置31の設定・選択指示部31aから図12の図示例と異なる設定を行うことができる。つまり、術者が望む計測方法で計測情報を取得したり、表示させることができる。
なお、図12においては、計測情報を切り替える領域の1つの設定例を示しているが、図12の設定例を含めて以下のように設定しても良い。
(A)分岐点から中心線上で一定の距離離れた位置までとそれ以外(図12の図示例)
(B)分岐点を中心とした一定の半径の球に含まれる領域とそれ以外の領域
(C)特定の位置(例えば図2BにおいてKで示すカリーナ)からの距離
(D)気管支の次数、または気管支の入り口側から順次数えた分岐数の数
(E)CT断層像画像から算出した気管支径
(F)前回リスタート(又はスタート)した位置からの距離
ここで、A、C、Fに記載した距離とは、2点間の直線距離でもよいし、管腔の中心線上の道のりでもよい。
また、これらの条件は2つ以上を組み合わせても良い。
ステップS34の次のステップS35において計測処理部18等は先端部13(又は撮像装置16)が位置する領域に応じた計測を行う。
次のステップS36において制御部27の判定部27dは、ステップS35で計測した場合の位置推定が成功したか否かの判定を行う。
第1の実施形態において説明したように、第2の座標系で計測された位置が(a)気管支径以内に存在するか、(b)過去に行った位置対応付けの位置からある距離以内となるか、(c)位置センサ17以外のセンサ等により患者において一定量の移動量以内、の少なくとも1つの条件を用いる。
ステップS36において(a)、(b)、(c)の条件で位置推定に成功した場合には、ステップS37の処理に移る。一方、位置推定に成功しない場合には、ステップS38−S41の処理を行った後、ステップS32の処理に戻る。
位置推定に成功しない場合には、ステップS38において分岐の算出、ステップS39のVBS画像の算出、ステップS40のリスタート画面の表示、ステップS41の位置対応付け情報の補正の処理を行った後、ステップS32の処理に戻る。なお、ステップS38−S41の処理は図4のステップS7−S10と同様の処理である。
一方、ステップS36において、(a)、(b)、(c)の条件で位置推定に成功する場合には、ステップS37の処理に移る。
このステップS37において制御部27は、第2の座標系で計測された先端部13(又は撮像装置16)の位置、撮像装置16で撮像した撮像画像、先端部13の姿勢(先端部13の軸方向又は撮像方向)の情報を時間の情報と共に記憶部28に記憶するように制御した後、ステップS32の処理に戻る。なお、記憶部38は、取得した計測情報も記憶するようにしても良い。
このような動作を行う本実施形態によれば、第1の実施形態と同様の効果を有すると共に、計測方法を選択して計測を行うことができる効果を有する。以下、第2の実施形態の変形例を順次説明する。
(第1変形例)
第2の実施形態における上記ステップS40のリスタート画面の表示の処理に対して本変形例は以下のようにする。
内視鏡画像から気管支径を算出する。
その気管支径と事前にCT画像上から算出していた分岐での気管支径を比較し、同じ(ぐらい)の径を持つ分岐のVBS画像でリスタート画面を生成する。
また、すべての分岐に対して径を比較するのではなく、
(d)位置推定が失敗した位置近傍の分岐
(e)位置推定に最後に成功した位置近傍の分岐
(f)経路上の分岐
(g)上記条件の2つ以上の組み合わせ
でもよい。
(第2変形例)
本変形例は、分岐までの距離を内視鏡画像から算出し、全ての分岐に対して同じ距離離れたVBS画像を生成し、リスタート画面を生成する。
また、すべての分岐ではなく、
(d)位置推定が失敗した位置近傍の分岐
(e)位置推定に最後に成功した位置近傍の分岐
(f)経路上の分岐
(g)上記条件の2つ以上の組み合わせ
でもよい。
(第3変形例)
本変形例は、第1変形例での比較する分岐の条件を第2の実施形態のように領域毎に設定する。
(第4変形例)
本変形例は、第2変形例での生成する分岐の条件を第2の実施形態のように領域毎に設定する。
また、上述した第2の実施形態の第1変形例と第2変形例においては、条件を満たした分岐全てを表示するが、以下の第5変形例から第8変形例のように条件により表示する位置情報を限定しても良い。
(第5変形例)
第2の実施形態の第1変形例から第4変形例において、位置推定に失敗した瞬間から一定時間以内の過去の位置のみを表示する。
(第6変形例)
第2の実施形態の第1変形例から第4変形例において、位置推定に失敗した位置から一定の範囲以内の過去の位置のみを表示する。
(第7変形例)
第2の実施形態の第1変形例から第4変形例において、計測情報が、基準とする値よりも閾値以上変化した位置のみ表示する。
この場合、基準とする値とは、表示すると判定された位置での計測情報の内、現在位置に最も近傍の位置での計測情報の値である。
例えば、計測情報を分岐点までの距離とした場合で説明する。図13において、分岐部Bj付近における位置P0、P1、P2は過去において位置推定が成功した位置である。また、黒丸で示す位置P0は計測情報が閾値以上変化した位置を示し、白丸で示すP1、P2は計測情報が閾値以内の位置を示している。そして、リスタート画面においては、黒丸で示す位置P0が表示されるようにする。
また、図13において現在位置をP3で示すと、現在位置P3での計測情報は、現在位置P3から気管支の末梢側にある分岐点Bpj+1までの距離P3Bpj+1となる。基準とする計測情報は、現在位置P3に最近傍の位置P1の計測情報であるから、その計測情報は距離P1Bpj+1となる。
そして、距離P3Bpj+1と距離P2Bpj+1との差分が閾値以上ならば、位置P3をリスタート画面において表示する。同様に処理を続行すると、図14のようになる。図14において白丸で示す(図13で示して位置P1の他に)位置P4,P5,P6,P8は位置推定に成功した位置(但し、計測情報が閾値以内の変化量)を示し、黒丸で示す位置P3,P7,P9は位置推定に成功し、かつ計測情報が閾値以上変化した位置、つまりリスタート画面で表示する位置となる。
(第8変形例)
第1変形例から第7変形例において、少なくとも2つを組み合わせるようにしても良い。
(第9変形例)
また、上述した実施形態においては、対応付け画像生成部25bは、気管支2の3次元形状の気管支形状画像と、VBS画像とを組み合わせた対応付け画像を生成し、モニタ26は対応付け画像を表示するように説明した。
これに対して、対応付け画像生成部25bは、本変形例のように撮像装置16の位置情報を気管支2を含む断層像画像(MPR画像)とを合成した対応付け画像を生成し、この対応付け画像をモニタ26上に表示するようにしても良い。
図15は、本変形例におけるモニタ26に表示する対応付け画像を示す。図15の左上は患者の気管支を含む横断面のCT断層像を示し、図15の右上は患者の正面に平行な縦断面のCT断層像を示し、図15の左下は患者の正面に垂直な縦断面のCT断層像を示し、図15の右下は術者に座標を設定する場合のメニュー画面を示す。
図15に示すように本変形例においては、撮像装置16の位置計測した位置(点)を断層像画像上に、例えば同じ色の円その他の形状で表示する。図15では、4つの位置を、断層像画像の表示色と異なる色(例えば青色)で表示する。
また、図15では、位置計測された位置が、切断面上に有る場合と、それ以外の場合とで同じ色、形状で示しているが、図16に示すように、切断面上に有る場合と、切断面上に無い場合とで、異なる形状(例えば前者を円、後者を四角)で表示するようにしても良いし、(色を変えるようにしても良い)。また、切断面上に有る場合のみを表示するようにしても良い。
(第10変形例)
第9変形例においては、撮像装置16の位置計測した位置を断層像画像に表示する対応付け画像を生成する場合を説明したが、断層像画像と、仮想内視鏡画像としてのVBS画像とを組み合わせて表示するようにしても良い。
図17は、図15に示した第9変形例の場合において、撮像装置16の位置計測した位置を断層像画像上で表示すると共に、各位置でのVBS画像を表示するようにしている。
また、図17においては、撮像装置16の位置に対応するVBS画像との対応が断層像画像上で分かるように、例えば文字情報を用いて示している。図17においては、撮像装置16の位置を4点としているので、4つの文字を用いて示している。
なお、撮像装置16の位置と、対応するVBS画像との対応付けを図2Bで示したような線等で結ぶ等して表示するようにしても良い。
また、図17の例では、撮像装置16の位置、全てに対して対応するVBS画像を表示する場合を示しているが、断層像画像上で術者が選択した位置のみに対してVBS画像を表示するようにしても良い。
また、撮像装置16の全ての位置に対して、対応するVBS画像を表示し、術者により選択されたVBS画像に対応する位置のみを断層像画像上で表示するようにしても良い。
また、上述した(変形例を含む)実施形態を部分的に組み合わせる等して異なる実施形態を構成した場合も本発明に属する。
本出願は、2012年9月7日に日本国に出願された特願2012−197405号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲、図面に引用されたものとする。

Claims (12)

  1. 予め取得した被検体における3次元画像情報を記憶するよう構成された記憶部と、
    対物レンズが設けられた先端部を備え、前記被検体内の光学像を取得する撮像装置と、
    前記3次元画像情報から前記被検体内の所定の管腔臓器の3次元形状の画像情報を抽出するよう構成された管腔臓器抽出部と、
    第1の座標系における前記所定の管腔臓器中の所定位置の位置情報と、第2の座標系における前記所定位置に設定された前記先端部の位置情報とを対応付けた位置対応付け情報を生成することで、第1の座標系における前記所定の管腔臓器の3次元形状の画像情報の位置情報と、第2の座標系における前記撮像装置の位置情報を対応付ける位置対応付け制御部と、
    前記第2の座標系における前記撮像装置の位置情報に基づき、前記位置対応付け制御部によって対応付けられた、前記第1の座標系における前記所定の管腔臓器内に挿入される前記撮像装置の位置情報に基づいて、前記管腔臓器抽出部により抽出された前記所定の管腔臓器において、前記撮像装置が挿入された領域の3次元形状の画像情報における特徴情報を取得するよう構成された特徴情報取得部と、
    前記所定の管腔臓器の3次元形状の画像情報に、前記特徴情報を対応付けた画像を生成するよう構成された対応付け画像生成部と、
    前記第2の座標系における前記撮像装置の位置情報に基づき、前記位置対応付け制御部によって対応付けられた、前記第1の座標系における前記撮像装置の位置情報が、前記第1の座標系における前記3次元形状の画像情報において前記所定の管腔臓器の内側に位置するか否か、若しくは前記被検体の前記第2の座標系における所定部位の位置変化が所定量以上か否かを判定する判定部と、
    前記判定部の判定結果に基づいて、前記所定の管腔臓器内における前記撮像装置の位置情報近傍の特徴情報を表示部に表示制御するよう構成された制御部と、
    を備えることを特徴とする医療装置。
  2. 前記特徴情報取得部は、前記所定の管腔臓器における分岐に関する2次元の画像情報を取得、又は前記所定の管腔臓器内における前記撮像装置の位置、前記撮像装置の位置近傍の前記所定の管腔臓器の内径、前記撮像装置の位置から前記所定の管腔臓器の所定位置までの距離のいずれかの計測情報を取得することを特徴とする請求項1に記載の医療装置。
  3. 前記対応付け画像生成部は、前記特徴情報を対応付けた画像として、前記所定の管腔臓器内における前記撮像装置の位置情報近傍の前記所定の管腔臓器の分岐画像を生成することを特徴とする請求項1に記載の医療装置。
  4. 更に、前記所定の管腔臓器内に挿入される前記撮像装置が位置する位置情報を生成するよう構成された位置情報生成部を有することを特徴とする請求項1に記載の医療装置。
  5. 前記表示部は、前記判定部によって、前記第1の座標系における前記撮像装置の位置情報が前記第1の座標系における前記3次元形状の画像情報において前記所定の管腔臓器の内側に位置するか否かを判定する前記所定条件内で整合していると判定された、前記所定の管腔臓器内における前記撮像装置の位置情報近傍の特徴情報を表示することを特徴とする請求項1に記載の医療装置。
  6. 前記位置対応付け情報を記憶するよう構成された対応付け情報記憶部を備えることを特徴とする請求項1に記載の医療装置。
  7. 前記位置情報生成部は、前記撮像装置の近傍に設けた位置センサを用いて構成されることを特徴とする請求項4に記載の医療装置。
  8. 前記制御部は、前記判定部が、前記第1の座標系における前記撮像装置の位置情報が前記所定の管腔臓器の内側に位置しないと判定された場合には、更に、前記表示部が、当該第1の判定に該当する前記撮像装置が所定距離以内で、前記管腔臓器の位置情報と前記撮像装置の位置情報とを対応付ける位置として所定条件を満たす位置を含むように前記特徴情報としての第1の特徴情報を表示するように制御することを特徴とする請求項1に記載の医療装置。
  9. 更に、前記所定の管腔臓器内に挿入される前記撮像装置の位置情報と、該撮像装置により撮像した撮像画像とを、時系列に記憶するよう構成された情報記憶部を有することを特徴とする請求項1に記載の医療装置。
  10. 更に、前記所定位置において、前記第1の座標系の前記管腔臓器の位置情報と前記第2の座標系の前記撮像装置の位置情報との対応付け指示を行うよう構成された指示入力部を有し、
    前記対応付け指示に基づいて、前記位置対応付け情報を生成するように制御することを特徴とする請求項8に記載の医療装置。
  11. 前記制御部は、前記判定部によって前記所定の管腔臓器の内側に位置しないと判定された場合には、前記第1の座標系における前記撮像装置の位置の近傍における複数の前記特徴情報のうち、前記撮像装置により撮像された画像から算出された特徴量とを比較して、所定の条件を満たす前記特徴情報を表示することを特徴とする請求項1に記載の医療装置。
  12. 前記制御部は、前記判定部によって前記所定の管腔臓器の内側に位置しないと判定された前記第1の座標系における前記撮像装置の位置近傍の前記所定の管腔臓器の分岐部の位置情報と、前記第2の座標系における前記分岐部に設定された前記先端部の位置情報と、を対応付けて前記位置対応付け情報を補正する請求項1に記載の医療装置。
JP2014512977A 2012-09-07 2013-08-01 医療装置 Active JP5613353B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014512977A JP5613353B2 (ja) 2012-09-07 2013-08-01 医療装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012197405 2012-09-07
JP2012197405 2012-09-07
PCT/JP2013/070878 WO2014038322A1 (ja) 2012-09-07 2013-08-01 医療装置
JP2014512977A JP5613353B2 (ja) 2012-09-07 2013-08-01 医療装置

Publications (2)

Publication Number Publication Date
JP5613353B2 true JP5613353B2 (ja) 2014-10-22
JPWO2014038322A1 JPWO2014038322A1 (ja) 2016-08-08

Family

ID=50236940

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014512977A Active JP5613353B2 (ja) 2012-09-07 2013-08-01 医療装置

Country Status (4)

Country Link
US (1) US9345394B2 (ja)
EP (1) EP2837326A4 (ja)
JP (1) JP5613353B2 (ja)
WO (1) WO2014038322A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111166274A (zh) * 2013-10-24 2020-05-19 奥瑞斯健康公司 机器人辅助腔内外科手术***及相关方法
JP6284439B2 (ja) * 2014-06-16 2018-02-28 オリンパス株式会社 医療情報処理システム
EP3366188A4 (en) * 2015-10-20 2019-11-13 Olympus Corporation INTRODUCTION BODY SUPPORT SYSTEM
JP6828465B2 (ja) * 2017-01-30 2021-02-10 セイコーエプソン株式会社 内視鏡操作支援システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004089483A (ja) * 2002-08-30 2004-03-25 Olympus Corp 内視鏡装置
JP2005131046A (ja) * 2003-10-29 2005-05-26 Olympus Corp 挿入支援システム
JP2009056239A (ja) * 2007-09-03 2009-03-19 Olympus Medical Systems Corp 内視鏡装置
WO2012108085A1 (ja) * 2011-02-08 2012-08-16 オリンパスメディカルシステムズ株式会社 医療機器
JP2012165838A (ja) * 2011-02-10 2012-09-06 Nagoya Univ 内視鏡挿入支援装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3820244B2 (ja) 2003-10-29 2006-09-13 オリンパス株式会社 挿入支援システム
JP4152402B2 (ja) 2005-06-29 2008-09-17 株式会社日立メディコ 手術支援装置
US8251893B2 (en) * 2007-01-31 2012-08-28 National University Corporation Hamamatsu University School Of Medicine Device for displaying assistance information for surgical operation, method for displaying assistance information for surgical operation, and program for displaying assistance information for surgical operation
JP5188879B2 (ja) 2008-05-23 2013-04-24 オリンパスメディカルシステムズ株式会社 医療機器
JP5372407B2 (ja) * 2008-05-23 2013-12-18 オリンパスメディカルシステムズ株式会社 医療機器
BRPI1007726A2 (pt) * 2009-05-18 2017-01-31 Koninl Philips Electronics Nv método para registro baseado em imagem entre as imagens, sistema para registro baseado em imagem entre imagens, método para calibração de posição de câmera para endoscopia guiada e sistema para calibração de câmera para endoscopia guida

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004089483A (ja) * 2002-08-30 2004-03-25 Olympus Corp 内視鏡装置
JP2005131046A (ja) * 2003-10-29 2005-05-26 Olympus Corp 挿入支援システム
JP2009056239A (ja) * 2007-09-03 2009-03-19 Olympus Medical Systems Corp 内視鏡装置
WO2012108085A1 (ja) * 2011-02-08 2012-08-16 オリンパスメディカルシステムズ株式会社 医療機器
JP2012165838A (ja) * 2011-02-10 2012-09-06 Nagoya Univ 内視鏡挿入支援装置

Also Published As

Publication number Publication date
CN104321007A (zh) 2015-01-28
EP2837326A1 (en) 2015-02-18
JPWO2014038322A1 (ja) 2016-08-08
EP2837326A4 (en) 2016-02-24
US20140253685A1 (en) 2014-09-11
US9345394B2 (en) 2016-05-24
WO2014038322A1 (ja) 2014-03-13

Similar Documents

Publication Publication Date Title
JP5718537B2 (ja) 内視鏡システム
EP2888991B1 (en) Endoscope system
US9516993B2 (en) Endoscope system
JP5160699B2 (ja) 医療機器
JP5715311B2 (ja) 内視鏡システム
JP5918548B2 (ja) 内視鏡画像診断支援装置およびその作動方法並びに内視鏡画像診断支援プログラム
WO2011102012A1 (ja) 医療機器
US20130281821A1 (en) Intraoperative camera calibration for endoscopic surgery
JP2019511931A (ja) 輪郭シグネチャを用いた手術画像獲得デバイスの位置合わせ
JPWO2014156378A1 (ja) 内視鏡システム
US20170039707A1 (en) Image processing apparatus
JP5613353B2 (ja) 医療装置
JP4728456B1 (ja) 医療機器
JP4445792B2 (ja) 挿入支援システム
EP3782529A1 (en) Systems and methods for selectively varying resolutions
WO2016039292A1 (ja) 内視鏡システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140722

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140812

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140905

R151 Written notification of patent or utility model registration

Ref document number: 5613353

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250