JPWO2016039292A1 - 内視鏡システム - Google Patents
内視鏡システム Download PDFInfo
- Publication number
- JPWO2016039292A1 JPWO2016039292A1 JP2016530258A JP2016530258A JPWO2016039292A1 JP WO2016039292 A1 JPWO2016039292 A1 JP WO2016039292A1 JP 2016530258 A JP2016530258 A JP 2016530258A JP 2016530258 A JP2016530258 A JP 2016530258A JP WO2016039292 A1 JPWO2016039292 A1 JP WO2016039292A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- scale
- subject
- information
- line
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
- G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Optics & Photonics (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Pathology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Radiology & Medical Imaging (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Astronomy & Astrophysics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Endoscopes (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Abstract
内視鏡システムは、所定の視点から被検体を見た被検体画像を生成する被検体画像生成部と、被検体画像上において互いに異なる2つの方向に対して同じ縮尺と、異なる縮尺を用いて、被検体上での異なる方向における長さを反映するための第1及び第2のスケール画像を生成するスケール画像生成部と、被検体画像に対して第1又は第2のスケール画像を選択的に重畳した重畳画像を生成する画像処理部と、を有する。
Description
本発明は、被検体の画像を表示する内視鏡システムに関する。
近年、内視鏡は、医療分野等において広く用いられるようになっている。また、内視鏡を用いて体内の臓器等を観察し、病変部等の部位が存在したような場合、その大きさを計測(又は取得)できるようにスケールを重畳するようにした装置がある。
例えば、第1の従来例としての日本国特開2005−118107号公報は、広角画像と、この広角画像の一部を拡大する拡大画像とを表示すると共に、広角画像上に広角画像用座標スケールと、拡大画像上に拡大画像用座標スケールとを重畳して表示することにより、広角画像と拡大画像との倍率の把握を容易にできるようにしている。また、拡大画像の場合には、直交する2方向の座標スケールとして、それぞれの方向の拡大率に基づいた数値が付けられている。また、座標スケールとして、格子スケールや、同心円スケールを用いることが開示されている。
また、第2の従来例としての日本国特開2007−90060号公報は、対象物の画像に対して、円周の目盛りとグリッドとを選択できるようにしている。
例えば、第1の従来例としての日本国特開2005−118107号公報は、広角画像と、この広角画像の一部を拡大する拡大画像とを表示すると共に、広角画像上に広角画像用座標スケールと、拡大画像上に拡大画像用座標スケールとを重畳して表示することにより、広角画像と拡大画像との倍率の把握を容易にできるようにしている。また、拡大画像の場合には、直交する2方向の座標スケールとして、それぞれの方向の拡大率に基づいた数値が付けられている。また、座標スケールとして、格子スケールや、同心円スケールを用いることが開示されている。
また、第2の従来例としての日本国特開2007−90060号公報は、対象物の画像に対して、円周の目盛りとグリッドとを選択できるようにしている。
しかしながら、第1の従来例及び第2の従来例とも、表示される画像における各位置は、実質的に視点の位置からほぼ等距離に存在した場合のスケールの画像としてのスケール画像を表示する内容を開示している。
このため、病変部等の観察対象部位を、斜め方向から観察したような場合の画像を表示する場合のように、視点の位置から画像上の各位置に対応する(観察対象部位側の)各位置までの距離が変化するような場合において、上記の従来例を適用し、スケール画像により病変部等の大きさを計測した場合の大きさは、(画像上での縮尺が距離の変化を反映していない状態となるために)精度が低くなってしまう欠点がある。
本発明は上述した点に鑑みてなされたもので、病変部等の部位の大きさを精度良く計測することができる内視鏡システムを提供することを目的とする。
このため、病変部等の観察対象部位を、斜め方向から観察したような場合の画像を表示する場合のように、視点の位置から画像上の各位置に対応する(観察対象部位側の)各位置までの距離が変化するような場合において、上記の従来例を適用し、スケール画像により病変部等の大きさを計測した場合の大きさは、(画像上での縮尺が距離の変化を反映していない状態となるために)精度が低くなってしまう欠点がある。
本発明は上述した点に鑑みてなされたもので、病変部等の部位の大きさを精度良く計測することができる内視鏡システムを提供することを目的とする。
本発明の一態様の内視鏡システムは、所定の視点から被検体を見た被検体画像を生成するよう構成された被検体画像生成部と、前記被検体画像上において少なくとも互いに異なる2つの方向に対して同じ縮尺を用いて構成され、前記被検体画像上においての前記被検体上での異なる方向における長さを反映するための第1のスケール画像を生成するよう構成された第1のスケール画像生成部と、前記被検体画像上において少なくとも互いに異なる2つの方向に対して、互いに異なる縮尺を用いて構成され、前記被検体画像上においての前記被検体上における異なる方向における長さを反映する第2のスケール画像を生成するよう構成された第2のスケール画像生成部と、前記被検体画像に対して、前記第1のスケール画像若しくは前記第2のスケール画像を選択的に重畳した重畳画像を生成するよう構成された画像処理部と、を有する。
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の内視鏡システム1は、被検体としての患者Pの内部を観察(又は検査)する内視鏡2と、光源装置3と、プロセッサ4と、画像処理装置5と、モニタ6と、磁場発生装置7とを備えて構成される。内視鏡システム1は、通常光観察と特殊光観察の2つの観察モードで観察する機能を有する。内視鏡システム1のユーザとなる術者は、ベッド8上に仰向け等で載置されている被検体としての患者Pにおける所定の管腔臓器としての膀胱B内部の内視鏡検査を行う。
内視鏡2は、操作部2aと、可撓性を有する挿入部2bと、ユニバーサルケーブル2cとを有する。内視鏡2は、例えば膀胱検査用の内視鏡により構成される。
さらに、ユニバーサルケーブル2c内には、図2に示すようなライトガイド9が挿通されており、内視鏡2は、光源装置3からの照明光を、ライトガイド9を通して挿入部2bの先端部2dの照明窓から出射し、挿入部2bの先端部2dが挿入された被検体(の膀胱B)内を照明する。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の内視鏡システム1は、被検体としての患者Pの内部を観察(又は検査)する内視鏡2と、光源装置3と、プロセッサ4と、画像処理装置5と、モニタ6と、磁場発生装置7とを備えて構成される。内視鏡システム1は、通常光観察と特殊光観察の2つの観察モードで観察する機能を有する。内視鏡システム1のユーザとなる術者は、ベッド8上に仰向け等で載置されている被検体としての患者Pにおける所定の管腔臓器としての膀胱B内部の内視鏡検査を行う。
内視鏡2は、操作部2aと、可撓性を有する挿入部2bと、ユニバーサルケーブル2cとを有する。内視鏡2は、例えば膀胱検査用の内視鏡により構成される。
さらに、ユニバーサルケーブル2c内には、図2に示すようなライトガイド9が挿通されており、内視鏡2は、光源装置3からの照明光を、ライトガイド9を通して挿入部2bの先端部2dの照明窓から出射し、挿入部2bの先端部2dが挿入された被検体(の膀胱B)内を照明する。
また、図2に示すように、挿入部2bの先端部2dには、対物光学系10と、その結像位置に撮像面が配置され、撮像面に結像された光学像を光電変換して撮像信号として出力する撮像素子11とが設けられている。光源装置3の照明光により照明された膀胱B内の部位は、撮像素子11により撮像される。従って、対物光学系10と撮像素子11は、被検体内に挿入され、被検体内を撮像する撮像部(又は撮像装置)12を形成する。撮像素子11により得られた撮像信号は、ユニバーサルケーブル2c内の信号線を介して被検体画像を生成する被検体画像生成部又は被検体画像生成装置としてのプロセッサ4に入力され、撮像信号は、プロセッサ4内の画像生成回路4aにおいて画像生成の処理が行われ、被検体画像としての内視鏡画像が生成される。
本実施形態においては、プロセッサ4内の画像生成回路4aは、先端部2dに搭載された撮像部12の撮像素子11の撮像面に結像された被検体の光学像を電気的な撮像信号に変換して、光学像に対応する被検体画像を生成し、生成された被検体画像は内視鏡画像としてモニタ6で表示される。
本実施形態においては、プロセッサ4内の画像生成回路4aは、先端部2dに搭載された撮像部12の撮像素子11の撮像面に結像された被検体の光学像を電気的な撮像信号に変換して、光学像に対応する被検体画像を生成し、生成された被検体画像は内視鏡画像としてモニタ6で表示される。
このため、被検体を撮像する撮像部12の位置及び撮像する撮像方向(対物光学系10の光軸方向)が、被検体を見て被検体画像を生成する場合の視点の位置及び視線方向となる。
プロセッサ4は、観察モードを切り換えるための切換スイッチ4bを有し、切換スイッチ4bにより指定された観察モード信号は画像生成回路4aに入力され、画像生成回路4aは、切換スイッチ4bにより指定された観察モードに応じた内視鏡画像を生成する。より具体的には、通常光観察モードが指定された場合には、通常光(としての白色光)の照明の下で撮像した通常光観察画像を生成し、特殊光観察モードが指定された場合には、特殊光観察画像(より狭義には狭帯域光観察画像)を生成する。
また、切換スイッチ4bによる観察モード信号は、光源装置3のLED制御回路3aに入力され、LED制御回路3aは、観察モードに応じた照明光を生成するように制御する。
プロセッサ4は、観察モードを切り換えるための切換スイッチ4bを有し、切換スイッチ4bにより指定された観察モード信号は画像生成回路4aに入力され、画像生成回路4aは、切換スイッチ4bにより指定された観察モードに応じた内視鏡画像を生成する。より具体的には、通常光観察モードが指定された場合には、通常光(としての白色光)の照明の下で撮像した通常光観察画像を生成し、特殊光観察モードが指定された場合には、特殊光観察画像(より狭義には狭帯域光観察画像)を生成する。
また、切換スイッチ4bによる観察モード信号は、光源装置3のLED制御回路3aに入力され、LED制御回路3aは、観察モードに応じた照明光を生成するように制御する。
切換スイッチ4bにより、通常光観察モードが指定された場合には、LED制御回路3aは通常光観察モード用の光源となる白色LED3bを発光させるように制御し、特殊光観察モードが指定された場合には、LED制御回路3aは特殊光観察モード用の光源となる狭帯域の青色LED3cを発光させるように制御する。
狭帯域の青色LED3cが発光した場合には、この狭帯域の青色の光が進行する光路上に45度の角度で配置されたダイクロイックミラー3dにより選択的に反射された後、集光レンズ3eにより集光されてライトガイド9の基端に入射される。ライトガイド9の基端に入射された狭帯域の青色の照明光は、ライトガイド9により伝送され、ライトガイド9の先端が取り付けられた照明窓から出射され、特殊光観察モード用の照明(より狭義には狭帯域光観察モード用の照明)を行う。
また、白色LED3bが発光した場合の白色光は、その光路上に配置されたダイクロイックミラー3dにより、狭帯域の青色の光を除く白色光の殆どが選択的に透過し、集光レンズ3eにより集光されてライトガイド9の基端に入射される。ライトガイド9の基端に入射された狭帯域の青色光を除く白色の照明光は、ライトガイド9により伝送され、ライトガイド9の先端が取り付けられた照明窓から出射され、通常光観察モード用の照明を行う。
狭帯域の青色LED3cが発光した場合には、この狭帯域の青色の光が進行する光路上に45度の角度で配置されたダイクロイックミラー3dにより選択的に反射された後、集光レンズ3eにより集光されてライトガイド9の基端に入射される。ライトガイド9の基端に入射された狭帯域の青色の照明光は、ライトガイド9により伝送され、ライトガイド9の先端が取り付けられた照明窓から出射され、特殊光観察モード用の照明(より狭義には狭帯域光観察モード用の照明)を行う。
また、白色LED3bが発光した場合の白色光は、その光路上に配置されたダイクロイックミラー3dにより、狭帯域の青色の光を除く白色光の殆どが選択的に透過し、集光レンズ3eにより集光されてライトガイド9の基端に入射される。ライトガイド9の基端に入射された狭帯域の青色光を除く白色の照明光は、ライトガイド9により伝送され、ライトガイド9の先端が取り付けられた照明窓から出射され、通常光観察モード用の照明を行う。
また、プロセッサ4(の画像生成回路4a)により生成された内視鏡画像は、プロセッサ4からモニタ6へ出力され、ライブの内視鏡画像が、モニタ6上に表示される。検査を行う術者は、挿入部2bの先端部2dを患者Pの尿道から挿入し、患者Pの膀胱B(図1において点線で示す)内を観察することができる。
さらに、挿入部2bの先端部2dには、位置センサとしての磁気センサ13が配置されている。具体的には、図2に示すように先端部2dの撮像部12を構成する対物光学系10と撮像素子11の近傍には、磁気センサ13が設けられている。この磁気センサ13は、先端部2dにおける撮像部12の視点となる3次元位置(単に位置)と、その位置での視線方向との検出に利用される。
図2に示す内視鏡2は、先端部2dに搭載された撮像部12を構成する対物光学系10の光軸方向が、先端部2dの軸方向と平行となるために、撮像部12の位置及び視線方向は、先端部2dの位置及びその軸方向(単に方向)と近似できる。
さらに、挿入部2bの先端部2dには、位置センサとしての磁気センサ13が配置されている。具体的には、図2に示すように先端部2dの撮像部12を構成する対物光学系10と撮像素子11の近傍には、磁気センサ13が設けられている。この磁気センサ13は、先端部2dにおける撮像部12の視点となる3次元位置(単に位置)と、その位置での視線方向との検出に利用される。
図2に示す内視鏡2は、先端部2dに搭載された撮像部12を構成する対物光学系10の光軸方向が、先端部2dの軸方向と平行となるために、撮像部12の位置及び視線方向は、先端部2dの位置及びその軸方向(単に方向)と近似できる。
なお、本実施形態は、図2に示すように先端部2dに配置された対物光学系10により、先端部2dに配置された撮像素子11の撮像面に被検体の光学像を結像する内視鏡2の場合に限らず、先端部2dに配置された対物光学系10により結像した光学像を光学像伝送系により挿入部2bの後方(基端)側に伝送し、挿入部2bの基端側に配置された撮像素子で撮像する内視鏡の場合にも適用できる。
この場合を含めた表現としては、撮像部の視点の位置(及び視線方向)の表現を用いるよりも(先端部2dに配置された)対物光学系10の視点の位置(及び視線方向)を用いる方が妥当である。このため、以下においては、主に、視点の位置及び視線方向を対物光学系10の視点の位置及び視線方向として用いたり、近似的な表現として視点の位置及び視線方向の代わりに(対物光学系10又は先端部2dの)位置及び方向を用いる場合もある。
図1の拡大図に示すように、磁気センサ13は、例えば2つのコイル2eを有する。磁気センサ13は、先端部2dの位置及び方向を検出するセンサとなる。磁気センサ13の信号線2fは、内視鏡2から延出され、画像処理装置5(内の位置方向取得回路25)に接続される。
この場合を含めた表現としては、撮像部の視点の位置(及び視線方向)の表現を用いるよりも(先端部2dに配置された)対物光学系10の視点の位置(及び視線方向)を用いる方が妥当である。このため、以下においては、主に、視点の位置及び視線方向を対物光学系10の視点の位置及び視線方向として用いたり、近似的な表現として視点の位置及び視線方向の代わりに(対物光学系10又は先端部2dの)位置及び方向を用いる場合もある。
図1の拡大図に示すように、磁気センサ13は、例えば2つのコイル2eを有する。磁気センサ13は、先端部2dの位置及び方向を検出するセンサとなる。磁気センサ13の信号線2fは、内視鏡2から延出され、画像処理装置5(内の位置方向取得回路25)に接続される。
磁場発生装置7は既知となる所定の位置において磁場を発生し、磁気センサ13は、磁場発生装置7が発生する磁場を検出する。磁場の検出信号は、信号線2fを介して内視鏡2から画像処理装置5(内の位置方向取得回路25)に入力される。
位置方向取得回路25は、入力された検出信号の振幅と位相とから先端部2dに配置された対物光学系10の視点となる位置及び視線方向の情報としての視点の位置情報(視点位置情報)と視線方向情報とを取得する情報取得部を形成する情報取得回路25aを備える。なお、本実施形態においては、検査対象となる被検体は、膀胱Bの内面であり、膀胱Bは、後述するように球体で近似することができる。つまり、膀胱Bは、球体で表される3Dモデル画像M1(図4,図5B)で近似される。
内視鏡2の操作部2aには、レリーズボタン14が設けられている。レリーズボタン14は、術者等のユーザが内視鏡画像を記録するときに、押すためのボタンである。レリーズボタン14が押されると、レリーズボタン操作信号がプロセッサ4へ入力され、プロセッサ4は、レリーズ信号を生成して、画像処理装置5へ出力する。レリーズボタン14が押されたときの内視鏡画像は、画像処理装置5の後述するメモリ22に記録される。
位置方向取得回路25は、入力された検出信号の振幅と位相とから先端部2dに配置された対物光学系10の視点となる位置及び視線方向の情報としての視点の位置情報(視点位置情報)と視線方向情報とを取得する情報取得部を形成する情報取得回路25aを備える。なお、本実施形態においては、検査対象となる被検体は、膀胱Bの内面であり、膀胱Bは、後述するように球体で近似することができる。つまり、膀胱Bは、球体で表される3Dモデル画像M1(図4,図5B)で近似される。
内視鏡2の操作部2aには、レリーズボタン14が設けられている。レリーズボタン14は、術者等のユーザが内視鏡画像を記録するときに、押すためのボタンである。レリーズボタン14が押されると、レリーズボタン操作信号がプロセッサ4へ入力され、プロセッサ4は、レリーズ信号を生成して、画像処理装置5へ出力する。レリーズボタン14が押されたときの内視鏡画像は、画像処理装置5の後述するメモリ22に記録される。
また、内視鏡2には、各内視鏡2に固有の識別情報(IDと略記)を発生するROM(リードオンリメモリ)等により構成されるID発生部(図2では単にIDと略記)15を有し、このID発生部15は、プロセッサ4を経て画像処理装置5(内の位置方向取得回路25)に入力される。
図2に示すように、IDがプロセッサ4を介することなく、画像処理装置5(内の位置方向取得回路)に入力されるようにしても良い。位置方向取得回路25は、IDから対物光学系10の焦点距離、対物光学系10による光学像を撮像する撮像素子11の画素数、ピクセルのサイズ、画角(視野角)等、撮像部12が撮像する場合の撮像情報を取得する撮像情報取得部(又は撮像情報取得回路)25bの機能を備える。取得された撮像情報は、後述する遠近関係を算出する場合に利用される。
図2に示すように、IDがプロセッサ4を介することなく、画像処理装置5(内の位置方向取得回路)に入力されるようにしても良い。位置方向取得回路25は、IDから対物光学系10の焦点距離、対物光学系10による光学像を撮像する撮像素子11の画素数、ピクセルのサイズ、画角(視野角)等、撮像部12が撮像する場合の撮像情報を取得する撮像情報取得部(又は撮像情報取得回路)25bの機能を備える。取得された撮像情報は、後述する遠近関係を算出する場合に利用される。
画像処理装置5は、中央処理装置(以下、CPUという)21と、メモリ22と、表示インターフュース(以下、表示I/Fと略す)23と、画像取込回路24と、位置方向取得回路25と、管腔臓器抽出回路26と、駆動回路27を備える。CPU21と、メモリ22と、表示I/F23と、画像取込回路24と、位置方向取得回路25と、管腔臓器抽出回路26は、バス28を介して互いに接続されている。また、内視鏡システム1は、図2に示すように被検体としての患者Pに関する3次元情報を取得するためのCT(Computed Tomography)装置29と、画像処理装置5に対して、ユーザが各種の情報の入力や選択するための入力を行う入力装置30とを有する。
CPU21は、画像処理装置5内の各部の処理を制御する制御部を構成すると共に、位置方向取得回路25が取得した視点の位置情報と視線方向情報と撮像情報を用いて、先端部2dに配置された対物光学系10の視点となる位置から被検体画像中の各点に対応する被検体上の各点に至る距離の大小関係に相当する遠近関係を算出する遠近関係算出回路21aと、被検体画像に重畳するための2種類のスケール画像を生成するスケール画像生成回路21bと、重畳画像を生成する画像処理部を形成する重畳画像生成回路21cとを備える。
CPU21は、画像処理装置5内の各部の処理を制御する制御部を構成すると共に、位置方向取得回路25が取得した視点の位置情報と視線方向情報と撮像情報を用いて、先端部2dに配置された対物光学系10の視点となる位置から被検体画像中の各点に対応する被検体上の各点に至る距離の大小関係に相当する遠近関係を算出する遠近関係算出回路21aと、被検体画像に重畳するための2種類のスケール画像を生成するスケール画像生成回路21bと、重畳画像を生成する画像処理部を形成する重畳画像生成回路21cとを備える。
スケール画像生成回路21bは、被検体画像上において少なくとも互いに異なる2つの方向に対して同じ縮尺を用いて構成され、前記被検体画像上においての被検体上での異なる方向における長さを反映するためのスケール(目盛り)を持つ第1のスケール画像を生成する第1のスケール画像生成回路21dと、上記遠近関係算出回路21aにより算出された遠近関係に合わせて、被検体画像上において少なくとも互いに異なる2つの方向に対して、互いに異なる縮尺を用いて構成され、該被検体画像上においての被検体上における異なる方向における長さを反映するスケール(目盛り)を持つ第2のスケール画像を生成する第2のスケール画像生成回路21eと、を有する。
図3Aは、被検体画像としての内視鏡画像Ien上に第1のスケール画像I1を重畳した重畳画像Isを示し、図3Bは、内視鏡画像Ien上に第2のスケール画像I2を重畳した重畳画像Isを示す。なお、図3A、図3Bは、例えば表示I/F23における画像表示メモリ上に生成された状態で示し、画像表示メモリ上の重畳画像は、モニタ6の表示サイズに応じたサイズで表示される。この場合、画像表示メモリ上における内視鏡画像Ienと第1のスケール画像I1又は第2のスケール画像I2との相対的な縮尺関係は、変化しない。
図3Aは、被検体画像としての内視鏡画像Ien上に第1のスケール画像I1を重畳した重畳画像Isを示し、図3Bは、内視鏡画像Ien上に第2のスケール画像I2を重畳した重畳画像Isを示す。なお、図3A、図3Bは、例えば表示I/F23における画像表示メモリ上に生成された状態で示し、画像表示メモリ上の重畳画像は、モニタ6の表示サイズに応じたサイズで表示される。この場合、画像表示メモリ上における内視鏡画像Ienと第1のスケール画像I1又は第2のスケール画像I2との相対的な縮尺関係は、変化しない。
また、CPU21は、位置方向取得回路25が取得した視点の位置情報と視線方向情報を取得した際に、磁場発生装置7を基準とした座標系としての第1の座標系(X0Y0Z0)(図1参照)から膀胱Bの入口を基準とする中間座標系(X1Y1Z1)(図1参照)に変換する座標変換処理回路21fの機能を持つ。
座標変換処理回路21fは、膀胱Bの入口の位置と方向を基準位置と基準方向と決定し、次の式(1)と式(2)に従って、位置方向取得回路25の位置方向情報を、膀胱Bの入口を基準とする中間座標系(X1Y1Z1)の位置方向情報に変換する。
P1=R01P0+M01 ・・・式(1)
V1=R01V0 ・・・式(2)
ここで、P0とV0は、それぞれ、磁場発生装置7を基準とする座標系である第1の座標系(X0Y0Z0)における位置(のベクトル表記)と(大きさが1の)方向ベクトルである。R01は、次の式(3)で示される回転行列であり、M01は、次の式(4)で示される並進行列である。
座標変換処理回路21fは、膀胱Bの入口の位置と方向を基準位置と基準方向と決定し、次の式(1)と式(2)に従って、位置方向取得回路25の位置方向情報を、膀胱Bの入口を基準とする中間座標系(X1Y1Z1)の位置方向情報に変換する。
P1=R01P0+M01 ・・・式(1)
V1=R01V0 ・・・式(2)
ここで、P0とV0は、それぞれ、磁場発生装置7を基準とする座標系である第1の座標系(X0Y0Z0)における位置(のベクトル表記)と(大きさが1の)方向ベクトルである。R01は、次の式(3)で示される回転行列であり、M01は、次の式(4)で示される並進行列である。
[数3]
[数4]
よって、第1の座標系(X0Y0Z0)上の点(x0,y0,z0)は、次の式(5)に示すように、中間座標系(X1Y1Z1)上の点(x1,y1,z1)に変換される。
[数5]
内視鏡2の先端部2d(の対物光学系10)の膀胱B内への挿入が検出されたとき(膀胱Bの入り口)における位置方向取得回路25により取得される位置と方向のベクトルをP´0、V´0とすると、並進行列M01は以下の式(6)により求められる。
[数4]
よって、第1の座標系(X0Y0Z0)上の点(x0,y0,z0)は、次の式(5)に示すように、中間座標系(X1Y1Z1)上の点(x1,y1,z1)に変換される。
[数5]
内視鏡2の先端部2d(の対物光学系10)の膀胱B内への挿入が検出されたとき(膀胱Bの入り口)における位置方向取得回路25により取得される位置と方向のベクトルをP´0、V´0とすると、並進行列M01は以下の式(6)により求められる。
M01=−P´0 ・・・式(6)
また、回転行列R01は以下の条件を満たすように求める。回転行列R01の満たす条件は、Z1軸が重力方向と平行であること、及びZ1軸に対して垂直なX1Y1平面にV´0を投影し、その投影したベクトル方向をY1軸、Y1Z1平面に垂直なベクトルをX1軸とする、ことである。
更に、上記座標変換処理回路21fは、次の式(7)と式(8)に従って、中間座標系(X1Y1Z1)の位置ベクトルと方向ベクトルを、球形の3Dモデル画像M1の中心O2を基準とする第2の座標系(X2Y2Z2)における位置ベクトルと方向ベクトルに変換する。図4は、中間座標系(X1Y1Z1)と第2の座標系(X2Y2Z2)の関係を説明するための図である。
P2=R12P1+M02 ・・・式(7)
V2=R12V1 ・・・式(8)
ここで、P1、V1は、それぞれ、中間座標系(X1Y1Z1)における任意の位置における位置(ベクトル)と方向ベクトルであり、P2、V2は、それぞれ、第2の座標系(X2Y2Z2)に変換された場合の位置ベクトルと方向ベクトルである。
また、回転行列R01は以下の条件を満たすように求める。回転行列R01の満たす条件は、Z1軸が重力方向と平行であること、及びZ1軸に対して垂直なX1Y1平面にV´0を投影し、その投影したベクトル方向をY1軸、Y1Z1平面に垂直なベクトルをX1軸とする、ことである。
更に、上記座標変換処理回路21fは、次の式(7)と式(8)に従って、中間座標系(X1Y1Z1)の位置ベクトルと方向ベクトルを、球形の3Dモデル画像M1の中心O2を基準とする第2の座標系(X2Y2Z2)における位置ベクトルと方向ベクトルに変換する。図4は、中間座標系(X1Y1Z1)と第2の座標系(X2Y2Z2)の関係を説明するための図である。
P2=R12P1+M02 ・・・式(7)
V2=R12V1 ・・・式(8)
ここで、P1、V1は、それぞれ、中間座標系(X1Y1Z1)における任意の位置における位置(ベクトル)と方向ベクトルであり、P2、V2は、それぞれ、第2の座標系(X2Y2Z2)に変換された場合の位置ベクトルと方向ベクトルである。
P0、V0を位置方向取得回路25から算出される先端部2dの対物光学系10の視点の位置を表す位置(ベクトル)、視線方向の方向ベクトルに設定すると、P0、V0は、P1、V1に変換され、更に該P1、V1は、P2とV2に変換される。
つまり、P0、V0を視点の位置、視線方向の方向ベクトルとして取得すると、対応するP2、V2は、第2の座標系(X2Y2Z2)における対物光学系10の視点の位置ベクトル(Pvで兼用)、視線方向Vの方向ベクトル(Vで兼用)となる。R12は、次の式(9)で示される回転行列であり、M02は、次の式(10)で示される並進行列である。
[数9]
[数10]
よって、中間座標系(X1Y1Z1)上の点(x1,y1,z1)は、次の式(11)に示すように、第2の座標系(X2Y2Z2)上の点(x2,y2,z2)に変換される。
つまり、P0、V0を視点の位置、視線方向の方向ベクトルとして取得すると、対応するP2、V2は、第2の座標系(X2Y2Z2)における対物光学系10の視点の位置ベクトル(Pvで兼用)、視線方向Vの方向ベクトル(Vで兼用)となる。R12は、次の式(9)で示される回転行列であり、M02は、次の式(10)で示される並進行列である。
[数9]
[数10]
よって、中間座標系(X1Y1Z1)上の点(x1,y1,z1)は、次の式(11)に示すように、第2の座標系(X2Y2Z2)上の点(x2,y2,z2)に変換される。
[数11]
X1Y1Z1座標系をY1軸方向にR2移動した場合、並進M12と回転R12は、それぞれ、式(12)と式(13)のようになる。
[数12]
[数13]
以上のように、磁場発生装置7の第1の座標系(X0Y0Z0)における位置P0は、式(5)と式(11)より、3Dモデル画像M1の中心O2を基準とする第2の座標系(X2Y2Z2)の位置P2に変換され、第1の座標系(X0Y0Z0)における方向V0は、次の式(14)に従って、第2の座標系(X2Y2Z2)の方向V2に変換される。
X1Y1Z1座標系をY1軸方向にR2移動した場合、並進M12と回転R12は、それぞれ、式(12)と式(13)のようになる。
[数12]
[数13]
以上のように、磁場発生装置7の第1の座標系(X0Y0Z0)における位置P0は、式(5)と式(11)より、3Dモデル画像M1の中心O2を基準とする第2の座標系(X2Y2Z2)の位置P2に変換され、第1の座標系(X0Y0Z0)における方向V0は、次の式(14)に従って、第2の座標系(X2Y2Z2)の方向V2に変換される。
V2=R12R01V0 ・・・式(14)
また、図4は、内視鏡2の挿入部2bが膀胱B内に挿入された様子を3Dモデル画像M1で示し、対物光学系10の視点の位置Pvから視線方向Vが交差する球体の内面(膀胱Bの内面)の位置も第2の座標系(X2Y2Z2)を用いて扱うことができる。
先端部2dの対物光学系10の第2の座標系(X2Y2Z2)における視点の位置Pvと視線方向Vが決定すると、撮像素子11の撮像面11aの中心位置(中心部)に結像される(膀胱Bを表す)球体の内面上の座標位置(単に位置とも言う)Psは、以下のように球体の半径Rを用いて求める。次の式(15)と式(16)を満たす係数kを算出し、第2の座標系(X2Y2Z2)における座標位置としての位置(又は基準位置)Psを求める。
Ps=Pv+kV ・・・式(15)
|Ps|=R ・・・式(16)
遠近関係算出回路21aは、式(15)、式(16)により位置Psを算出することにより、視点の位置Pvと内面上の位置Ps間の距離を算出することができる。
また、図4は、内視鏡2の挿入部2bが膀胱B内に挿入された様子を3Dモデル画像M1で示し、対物光学系10の視点の位置Pvから視線方向Vが交差する球体の内面(膀胱Bの内面)の位置も第2の座標系(X2Y2Z2)を用いて扱うことができる。
先端部2dの対物光学系10の第2の座標系(X2Y2Z2)における視点の位置Pvと視線方向Vが決定すると、撮像素子11の撮像面11aの中心位置(中心部)に結像される(膀胱Bを表す)球体の内面上の座標位置(単に位置とも言う)Psは、以下のように球体の半径Rを用いて求める。次の式(15)と式(16)を満たす係数kを算出し、第2の座標系(X2Y2Z2)における座標位置としての位置(又は基準位置)Psを求める。
Ps=Pv+kV ・・・式(15)
|Ps|=R ・・・式(16)
遠近関係算出回路21aは、式(15)、式(16)により位置Psを算出することにより、視点の位置Pvと内面上の位置Ps間の距離を算出することができる。
図2に示すメモリ22は、ROM、RAM(ランダムアクセスメモリ)、フラッシュメモリなどを用いて形成され、このメモリ22は、CPU21により実行される各種処理プログラム及び各種データを記憶し、さらに、画像生成回路4aにより生成された内視鏡画像の情報、位置方向取得回路25により取得された位置情報と視線方向情報なども記憶する。
つまり、メモリ22は、内視鏡画像の情報を記憶する内視鏡画像情報記憶部22aと、視点の位置情報及び視線方向情報を記憶する位置方向情報記憶部22bと、CT装置29により取得された被検体としての患者Pの少なくとも膀胱Bを含む3次元画像情報を記憶する患者画像情報記憶部(又は被検体画像情報記憶部)22cとを有する。内視鏡画像情報記憶部22a、位置方向情報記憶部22b及び患者画像情報記憶部22cは、例えばメモリ22におけるそれぞれ異なる記憶エリアにより形成される。従って、これらの記憶部をそれぞれ記憶エリア、又は記憶装置と言うこともできる。
つまり、メモリ22は、内視鏡画像の情報を記憶する内視鏡画像情報記憶部22aと、視点の位置情報及び視線方向情報を記憶する位置方向情報記憶部22bと、CT装置29により取得された被検体としての患者Pの少なくとも膀胱Bを含む3次元画像情報を記憶する患者画像情報記憶部(又は被検体画像情報記憶部)22cとを有する。内視鏡画像情報記憶部22a、位置方向情報記憶部22b及び患者画像情報記憶部22cは、例えばメモリ22におけるそれぞれ異なる記憶エリアにより形成される。従って、これらの記憶部をそれぞれ記憶エリア、又は記憶装置と言うこともできる。
管腔臓器抽出回路26は、患者Pの3次元画像情報から管腔臓器としての膀胱Bの中空形状の3次元画像を抽出する。つまり、管腔臓器抽出回路26は、膀胱Bの3次元画像を抽出する膀胱抽出回路26aの機能を備える。抽出された膀胱Bの3次元画像情報は、3Dモデル画像M1として、メモリ22内における患者画像情報記憶部22cに格納される。このため、患者画像情報記憶部22cは、臓器モデル画像記憶部の機能を持つ。なお、メモリ22における患者画像情報記憶部22c以外の記憶エリアに臓器モデル画像記憶部を形成しても良い。
メモリ22内に格納された臓器モデル画像としての3Dモデル画像M1は、例えばCPU21により読み出され、表示I/F23を介してモニタ6に表示される。
モニタ6には、画像生成回路4aが生成した内視鏡画像と、画像処理装置5が生成した重畳画像と、臓器モデル画像とが合成された合成画像が入力され、モニタ6は、図5Aに示すように内視鏡画像表示エリアA1に内視鏡画像Ien、重畳画像表示エリアA2に上述したスケール画像を重畳した重畳画像Is、臓器モデル表示エリアA3に3Dモデル画像M1を表示する。なお、図5Aのように表示する場合には、画像生成回路4aで生成した内視鏡画像を図2において点線で示すようにモニタ6に出力して内視鏡画像表示エリアA1に内視鏡画像Ienを表示するようにしても良い。
また、本実施形態においては、図5Aに示す第1の表示形態を、第2の表示形態に変更する表示モード変更機能を有し、ユーザは、キードード等から構成される入力装置30からの変更入力により重畳画像を内視鏡画像表示エリアA1において表示するように変更することができる。例えば、図5Aの表示形態を変更する変更入力を行った場合には、図5Bに示すように内視鏡画像表示エリアA1に重畳画像Isを表示し、その右側の臓器モデル表示エリアA3に3Dモデル画像M1を表示する。
モニタ6には、画像生成回路4aが生成した内視鏡画像と、画像処理装置5が生成した重畳画像と、臓器モデル画像とが合成された合成画像が入力され、モニタ6は、図5Aに示すように内視鏡画像表示エリアA1に内視鏡画像Ien、重畳画像表示エリアA2に上述したスケール画像を重畳した重畳画像Is、臓器モデル表示エリアA3に3Dモデル画像M1を表示する。なお、図5Aのように表示する場合には、画像生成回路4aで生成した内視鏡画像を図2において点線で示すようにモニタ6に出力して内視鏡画像表示エリアA1に内視鏡画像Ienを表示するようにしても良い。
また、本実施形態においては、図5Aに示す第1の表示形態を、第2の表示形態に変更する表示モード変更機能を有し、ユーザは、キードード等から構成される入力装置30からの変更入力により重畳画像を内視鏡画像表示エリアA1において表示するように変更することができる。例えば、図5Aの表示形態を変更する変更入力を行った場合には、図5Bに示すように内視鏡画像表示エリアA1に重畳画像Isを表示し、その右側の臓器モデル表示エリアA3に3Dモデル画像M1を表示する。
図2に示す画像取込回路24は、プロセッサ4において生成された内視鏡画像を、一定の周期で取り込む処理を行う画像取込部の機能を有する。画像取込回路24は、例えば、フレームレートと同じ、1秒間に30枚の内視鏡画像を、プロセッサ4から取得する。また、画像取込回路24は、プロセッサ4からのレリーズ信号も受信する。
また、画像取込回路24は、上述したCT装置29により予め取得した被検体としての患者Pの3次元画像を取り込み、取り込まれた患者Pの3次元画像情報をメモリ22に形成した記憶エリアにより構成される患者画像情報記憶部22cに記憶する。このため、患者画像情報記憶部22cは、被検体に関する3次元画像情報を構築するための画像情報を記憶する記憶部を構成する。
位置方向取得回路25は、磁場発生装置7を駆動する駆動回路27を制御して、磁場発生装置7に所定の磁場を発生させ、その磁場を磁気センサ13により検出し、その検出された磁場の検出信号から、対物光学系10の視点となる位置座標(x、y、z)と視線方向となる配向(大きさ1のベクトル)のデータ、すなわち視点の位置情報及び視線方向情報を第1の座標系(X0Y0Z0)においてリアルタイムで生成する。
また、画像取込回路24は、上述したCT装置29により予め取得した被検体としての患者Pの3次元画像を取り込み、取り込まれた患者Pの3次元画像情報をメモリ22に形成した記憶エリアにより構成される患者画像情報記憶部22cに記憶する。このため、患者画像情報記憶部22cは、被検体に関する3次元画像情報を構築するための画像情報を記憶する記憶部を構成する。
位置方向取得回路25は、磁場発生装置7を駆動する駆動回路27を制御して、磁場発生装置7に所定の磁場を発生させ、その磁場を磁気センサ13により検出し、その検出された磁場の検出信号から、対物光学系10の視点となる位置座標(x、y、z)と視線方向となる配向(大きさ1のベクトル)のデータ、すなわち視点の位置情報及び視線方向情報を第1の座標系(X0Y0Z0)においてリアルタイムで生成する。
すなわち、位置方向取得回路25(の情報取得回路25a)は、磁気センサ13からの位置情報及び方向情報を取得して、対物光学系10の視点の位置情報と視線方向情報(簡略化して位置視線方向情報とも言う)とを取得する。
CPU21は、画像取込回路24が取り込んだ内視鏡画像(の情報)と、位置方向取得回路25が検出した位置方向情報から算出された位置方向情報とを(例えば座標変換処理回路21fにより球体の中心O2を基準とした第2の座標系(X2Y2Z2)に変換した後)関連付けた関連付け情報を、メモリ22に記憶する。なお、第2の座標系(X2Y2Z2)に変換しない状態でメモリ22に記憶しても良い。
メモリ22は、画像取込回路24が取り込んだ上記内視鏡画像と、該内視鏡画像を取り込んだ際の位置方向情報とを関連付ける関連付け情報を、メモリ22内の例えば関連付け情報記憶部22dに記憶しても良い(図2の図示例)。又はメモリ22における内視鏡画像情報記憶部22a又は位置方向情報記憶部22bが関連付け情報記憶部22dの機能を持ち、その機能を持つ内視鏡画像情報記憶部22a又は位置方向情報記憶部22bが関連付け情報を記憶するようにしても良い。
CPU21は、画像取込回路24が取り込んだ内視鏡画像(の情報)と、位置方向取得回路25が検出した位置方向情報から算出された位置方向情報とを(例えば座標変換処理回路21fにより球体の中心O2を基準とした第2の座標系(X2Y2Z2)に変換した後)関連付けた関連付け情報を、メモリ22に記憶する。なお、第2の座標系(X2Y2Z2)に変換しない状態でメモリ22に記憶しても良い。
メモリ22は、画像取込回路24が取り込んだ上記内視鏡画像と、該内視鏡画像を取り込んだ際の位置方向情報とを関連付ける関連付け情報を、メモリ22内の例えば関連付け情報記憶部22dに記憶しても良い(図2の図示例)。又はメモリ22における内視鏡画像情報記憶部22a又は位置方向情報記憶部22bが関連付け情報記憶部22dの機能を持ち、その機能を持つ内視鏡画像情報記憶部22a又は位置方向情報記憶部22bが関連付け情報を記憶するようにしても良い。
また、本実施形態においては、CPU21の遠近関係算出回路(又は距離算出回路)21aは、膀胱抽出回路26aにより抽出された膀胱Bの3次元画像情報、より具体的には3次元の中空となる球体の3Dモデル画像情報と、上記関連付け情報とから、対物光学系10の視点(の位置)から被検体画像としての内視鏡画像上の各点に対応する被検体上の各点まで(に至る距離の大小関係として)の遠近関係を算出する。
図6Aは遠近関係算出回路21aによる遠近関係又は距離大小関係を算出する動作説明図を示す。図6Aは、膀胱B内に挿入された挿入部2bの先端部2dに配置された対物光学系10及び撮像素子11により、膀胱Bの内面を観察している様子を示す。
膀胱Bの内面は、中心をO2とした半径Rの球体で近似され、また、内面上の各位置は、O2を基準(原点)とした第2の座標系(X2Y2Z2)により扱い易くなる。
また、上述したように先端部2dに配置された対物光学系10の視点の位置Pv及び視線方向(光軸方向)Vの情報は、位置方向取得回路25を用いて取得され、第2の座標系(X2Y2Z2)の情報に変換された後、内視鏡画像と関連付けて記憶される。また、位置方向取得回路25(の撮像情報取得部25b)は、対物光学系10の焦点距離f、撮像素子11の画素数、視野角等の撮像情報を取得する。
図6Aは遠近関係算出回路21aによる遠近関係又は距離大小関係を算出する動作説明図を示す。図6Aは、膀胱B内に挿入された挿入部2bの先端部2dに配置された対物光学系10及び撮像素子11により、膀胱Bの内面を観察している様子を示す。
膀胱Bの内面は、中心をO2とした半径Rの球体で近似され、また、内面上の各位置は、O2を基準(原点)とした第2の座標系(X2Y2Z2)により扱い易くなる。
また、上述したように先端部2dに配置された対物光学系10の視点の位置Pv及び視線方向(光軸方向)Vの情報は、位置方向取得回路25を用いて取得され、第2の座標系(X2Y2Z2)の情報に変換された後、内視鏡画像と関連付けて記憶される。また、位置方向取得回路25(の撮像情報取得部25b)は、対物光学系10の焦点距離f、撮像素子11の画素数、視野角等の撮像情報を取得する。
図6Aに示すように視線方向Vに垂直に配置された撮像素子11の撮像面11aには、視線方向V上の位置を中心として視野角θの範囲内となる内面の光学像が結像され、この光学像は、画像生成回路4aにより内視鏡画像に変換される。この内視鏡画像は、画像処理装置5内の画像取込回路24により取り込まれ、メモリ22内又は表示I/F23内に設けた画像メモリ23aに一時格納され、読み出されてモニタ6上には内視鏡画像(以下に説明する撮像面11aの光学像と等価な内視鏡画像と区別する必要がある場合にはモニタ上内視鏡画像と言う)として表示される。
図6Aに示すように、対物光学系10の光学中心を視点の位置Pvとし、視点の位置Pvから視線(光軸)方向Vに沿った直線が内面と交差する位置を基準位置Psとした場合、基準位置Psは、撮像面11aにおける例えば中心の基準位置Qsに結像され、撮像素子11の視野角θの境界となる位置Pa,Pbは撮像面11aにおける位置Qa,Qbにそれぞれ結像される。
視点の位置Pvから位置Psまでの距離をLsとした場合、被検体(具体的には膀胱Bの内面)上における長さが撮像面11a上では、ほぼf/Lsの長さに縮尺される。
図6Aに示すように、対物光学系10の光学中心を視点の位置Pvとし、視点の位置Pvから視線(光軸)方向Vに沿った直線が内面と交差する位置を基準位置Psとした場合、基準位置Psは、撮像面11aにおける例えば中心の基準位置Qsに結像され、撮像素子11の視野角θの境界となる位置Pa,Pbは撮像面11aにおける位置Qa,Qbにそれぞれ結像される。
視点の位置Pvから位置Psまでの距離をLsとした場合、被検体(具体的には膀胱Bの内面)上における長さが撮像面11a上では、ほぼf/Lsの長さに縮尺される。
図6Aにおいて、視線方向が球体の中心O2近傍を通るように設定された場合(図6B,図8B参照)には、上記の縮尺は、内面上の位置が異なる場合にも、精度が高い近似となる。
撮像面11aの光学像は、被検体画像生成部を形成する画像生成回路4aにより、例えば光学像と同じ縮尺の内視鏡画像(同じ縮尺で無くても良いが、説明を簡単にするために同じ縮尺とする)が生成される。このため、撮像面11aで説明する内容は、画像生成回路4aにより生成される内視鏡画像においても同様に適用できる。
尤も、モニタ6の表示面上の内視鏡画像としてのモニタ上内視鏡画像は、モニタ6における表示するエリアの大きさに依存してそのサイズが変化する。
この場合には、撮像面11aの光学像(又は該光学像と同じ縮尺の内視鏡画像)における例えば単位の長さが、モニタ6の表示面において表示した場合にE倍の倍率の長さになる場合には、この倍率を用いることにより、撮像面11a上で説明した内容をモニタ6上に表示されるモニタ上内視鏡画像においても同様に適用できる。
撮像面11aの光学像は、被検体画像生成部を形成する画像生成回路4aにより、例えば光学像と同じ縮尺の内視鏡画像(同じ縮尺で無くても良いが、説明を簡単にするために同じ縮尺とする)が生成される。このため、撮像面11aで説明する内容は、画像生成回路4aにより生成される内視鏡画像においても同様に適用できる。
尤も、モニタ6の表示面上の内視鏡画像としてのモニタ上内視鏡画像は、モニタ6における表示するエリアの大きさに依存してそのサイズが変化する。
この場合には、撮像面11aの光学像(又は該光学像と同じ縮尺の内視鏡画像)における例えば単位の長さが、モニタ6の表示面において表示した場合にE倍の倍率の長さになる場合には、この倍率を用いることにより、撮像面11a上で説明した内容をモニタ6上に表示されるモニタ上内視鏡画像においても同様に適用できる。
つまり、撮像面11aでの長さの縮尺、例えば上記のf/Lsは、モニタ6の表示面上の内視鏡画像中においては、(f/Ls)×E=(f×E)/Lsのようにfを(f×E)に置換することにより同様に適用できる。このため、撮像面11aで説明したことは、縮尺の係数の値を変更する(前記の場合には、fを(f×E)に変更する)ことによりモニタ6に表示される(モニタ上)内視鏡画像の場合にも適用できる。
本実施形態においては、例えば撮像面11aの光学像と同じ縮尺の内視鏡画像に対して第1のスケール画像と第2のスケール画像を生成して、重畳画像を生成した後、この重畳画像をモニタ6に出力するようにしているので、モニタ6の表示サイズの影響を殆ど受けない。
また、本実施形態においては、視点の位置Pvから被検体側(膀胱Bの内面側)を対物光学系10を用いて観察した場合の観察状態が、視線が中心O2を通る状態に近い状態(換言すると、視線方向が、該視線方向上に対向する内面と垂直に近い状態)である場合(図6Bに示すような場合)に対応して、図3Aで示したように同心円形状の第1のスケール画像I1を生成する。
本実施形態においては、例えば撮像面11aの光学像と同じ縮尺の内視鏡画像に対して第1のスケール画像と第2のスケール画像を生成して、重畳画像を生成した後、この重畳画像をモニタ6に出力するようにしているので、モニタ6の表示サイズの影響を殆ど受けない。
また、本実施形態においては、視点の位置Pvから被検体側(膀胱Bの内面側)を対物光学系10を用いて観察した場合の観察状態が、視線が中心O2を通る状態に近い状態(換言すると、視線方向が、該視線方向上に対向する内面と垂直に近い状態)である場合(図6Bに示すような場合)に対応して、図3Aで示したように同心円形状の第1のスケール画像I1を生成する。
これに対して、図6Aに示すように視線が中心O2の近傍を通らない観察状態に設定された場合には、基準位置Psからずれるに従って被検体側(膀胱Bの内面側)における長さが撮像面11a上では、f/Lsの縮尺からずれる。
基準位置Psは、式(15)から算出することができ、また、以下の式(17)から距離Lsの値も算出できる。
Ls=|Ps−Pv| ・・・式(17)
位置Pa,Pbも、視点の位置Pvから視線方向の方向ベクトルVをθ/2だけ互いに逆となる方向に回転した方向ベクトルVa,Vbとして、式(15)、式(16)と同様の式を適用することにより算出することができる。そして、式(17)と同様の式を適用することにより距離La,Lbを算出することができる。
球体の内面における各位置Ps,Pa,Pb近傍における長さは、撮像面11a上において、各位置Qs、Qa,Qb近傍において、それぞれf/Ls,f/La,f/Lbの長さに縮尺される。
基準位置Psは、式(15)から算出することができ、また、以下の式(17)から距離Lsの値も算出できる。
Ls=|Ps−Pv| ・・・式(17)
位置Pa,Pbも、視点の位置Pvから視線方向の方向ベクトルVをθ/2だけ互いに逆となる方向に回転した方向ベクトルVa,Vbとして、式(15)、式(16)と同様の式を適用することにより算出することができる。そして、式(17)と同様の式を適用することにより距離La,Lbを算出することができる。
球体の内面における各位置Ps,Pa,Pb近傍における長さは、撮像面11a上において、各位置Qs、Qa,Qb近傍において、それぞれf/Ls,f/La,f/Lbの長さに縮尺される。
また、図6Aにおいて、例えば内面上の位置Psから距離(又は長さ)dの位置Pcを設定した場合、位置Pcと視点の位置Pvを通る直線上となる撮像面11a上の位置Qcを取得することもできる。この場合、内面上での距離dは、撮像面11aにおいては距離(長さ)QsQc(位置QsとQc間の距離)に縮尺される。内面上での距離dを基準長に設定して、内面上の距離を撮像面上の距離に設定する処理を適用して、後述する第2のスケール画像を生成しても良い。
本実施形態においては、遠近関係算出回路21aは、図6Aにおいて説明した内容に沿って、視点の位置Pvから、(撮像面11aの光学像に対応する)内視鏡画像上(又は内視鏡画像中)における各点に対応する被検体上での各点までの距離を含む遠近関係を算出すると共に、被検体上での所定長さが内視鏡画像上で縮尺される縮尺の情報を算出する。
本実施形態においては、遠近関係算出回路21aは、図6Aにおいて説明した内容に沿って、視点の位置Pvから、(撮像面11aの光学像に対応する)内視鏡画像上(又は内視鏡画像中)における各点に対応する被検体上での各点までの距離を含む遠近関係を算出すると共に、被検体上での所定長さが内視鏡画像上で縮尺される縮尺の情報を算出する。
そして、重畳画像生成回路21cは、内視鏡画像上において縮尺の値が変化する場合の内視鏡画像(が生成される観察状態)に対しては、図3Bに示すように内視鏡画像Ien上での長さ、又は縮尺の変化を反映した第2のスケール画像I2を生成し、生成した第2のスケール画像I2を内視鏡画像Ienに重畳した重畳画像Isを生成する。
また、本実施形態においては、遠近関係算出回路21aにより算出された遠近関係を表す情報に応じて被検体画像としての内視鏡画像に重畳するスケール画像として第1のスケール画像又は第2のスケール画像の1つを自動的に決定(又は設定)するスケール画像決定部を形成する決定回路21gを有する。図2においては、遠近関係算出回路21aが決定回路21gの機能を備える構成で示しているが、この場合の構成に限定されるものでない。
決定回路21gは、遠近関係算出回路21aにより算出された視点から被検体を形成する膀胱Bの内面上における複数の点までの複数の距離の情報を用いて視線方向が内面と垂直に近い角度の角度閾値より小さいか否かを判定する判定回路21hを備え、決定回路21gは、この判定回路21hによる判定結果に応じて重畳するスケール画像を第1のスケール画像又は第2のスケール画像から自動的に決定する。
図6Bは、判定回路21hの動作説明図を示す。
決定回路21gは、遠近関係算出回路21aにより算出された視点から被検体を形成する膀胱Bの内面上における複数の点までの複数の距離の情報を用いて視線方向が内面と垂直に近い角度の角度閾値より小さいか否かを判定する判定回路21hを備え、決定回路21gは、この判定回路21hによる判定結果に応じて重畳するスケール画像を第1のスケール画像又は第2のスケール画像から自動的に決定する。
図6Bは、判定回路21hの動作説明図を示す。
図6Bは、図6Aの観察状態として、先端部2dにおける対物光学系10の視点の位置Pvにおける視線方向Vが膀胱Bの内面に垂直に近い設定状態で膀胱Bの内面を観察する様子を示す。視線方向Vが膀胱Bの内面に垂直に近い状態で内面を観察する場合を正面視と言う。
遠近関係算出回路21aは、基準位置Psから、例えば直交する2つの方向に所定の長さdの2つの位置Pc,Pd(図6BではPcは紙面内、Pdは紙面の垂直方向となるために図示せず)を内面上に設定し、それぞれの場合における視点の位置Pvからの距離Lc,Ldを取得する。
また、例えばメモリ22には、予め視線方向Vが中心O2を通る状態、つまり、視線方向Vが内面に垂直となる観察状態において、視点の位置Pvから内面までの距離Lsを任意の値に設定した場合において、上記所定の長さdの位置の場合における視点から位置Pc(又はPd)までの距離の値Lr(Ls)を格納している。なお、Lr(Ls)は、Lsの値に依存してLrの値が変化することを表す。図6Cは、メモリ22に格納される距離Lr(Ls)の説明図を示す。図6Cでは、2つの視点の位置Pv1,Pv2の場合の距離の値Lr(Ls)としてのLr(Ls1),Lr(Ls2)を示す。
遠近関係算出回路21aは、基準位置Psから、例えば直交する2つの方向に所定の長さdの2つの位置Pc,Pd(図6BではPcは紙面内、Pdは紙面の垂直方向となるために図示せず)を内面上に設定し、それぞれの場合における視点の位置Pvからの距離Lc,Ldを取得する。
また、例えばメモリ22には、予め視線方向Vが中心O2を通る状態、つまり、視線方向Vが内面に垂直となる観察状態において、視点の位置Pvから内面までの距離Lsを任意の値に設定した場合において、上記所定の長さdの位置の場合における視点から位置Pc(又はPd)までの距離の値Lr(Ls)を格納している。なお、Lr(Ls)は、Lsの値に依存してLrの値が変化することを表す。図6Cは、メモリ22に格納される距離Lr(Ls)の説明図を示す。図6Cでは、2つの視点の位置Pv1,Pv2の場合の距離の値Lr(Ls)としてのLr(Ls1),Lr(Ls2)を示す。
図6Cから分かるように距離の値Lr(Ls)は視線方向V上となる視点の位置Pv又は視点の位置Pvから内面までの距離Lsの値に応じて変化する。図6Cでは距離の値Lr(Ls1)、Lr(Ls2)として、視点の位置Pv1,Pv2から位置Pcまでの距離の値を示しているが、位置Pcの代わりに位置Pdとした場合にも同じ値となる。メモリ22は、距離Lsの値と共に、対応する距離の値Lr(Ls)を格納する。また、メモリ22は、距離の値Lr(Ls)に対して、Lr(Ls)よりはかなり小さい値Δ(例えばLr(Ls)の数%から10%程度)として設定した閾値Ta(=Lr(Ls)−Δ),Tb(=Lr(Ls)+Δ)も、距離Lsに応じて格納している。
そして、判定回路21hは、距離Lc,Ldが、距離Lsの値に応じて設定された閾値Ta,Tbに対して
Ta≦Lc≦Tb,Ta≦Ld≦Tb ・・・式(18)
の条件を満たす場合には、観察状態として視線方向Vが内面と垂直に近い状態(正面視の状態)であると判定し、決定回路21gは第1のスケール画像を使用するように決定する。
これに対して、式(18)の条件を満たさない場合には、観察状態として視線方向Vが内面と垂直に近い状態でないと判定し、決定回路21gは、第2のスケール画像を使用するように決定する。図6Cは、上記の視点の位置Pv1,Pv2とは異なり、内面に垂直な方向から外れた視点の位置Pv3から内面を観察する場合の様子も示す。この場合には、視点の位置Pv3から位置Psまでの距離Ls3は、距離Ls1と同じ値で示しているが、視点の位置Pv3から位置Pcまでの距離の値Lr(Ls3)は、Lr(Ls1)よりも遥かに大きくなる。このような場合には、式(18)の条件を満たさないと判定される。
なお、式(18)を用いる代わりに、図6Bに示すように視線方向Vと、中心O2から基準位置Psを表すベクトルとのなす角αを算出し、判定回路21hは、算出された角αが0から10度以内に設定した角度閾値Tan以内か否かにより観察状態として視線方向Vが内面と垂直に近い状態であるか否かを判定するようにしても良い。
Ta≦Lc≦Tb,Ta≦Ld≦Tb ・・・式(18)
の条件を満たす場合には、観察状態として視線方向Vが内面と垂直に近い状態(正面視の状態)であると判定し、決定回路21gは第1のスケール画像を使用するように決定する。
これに対して、式(18)の条件を満たさない場合には、観察状態として視線方向Vが内面と垂直に近い状態でないと判定し、決定回路21gは、第2のスケール画像を使用するように決定する。図6Cは、上記の視点の位置Pv1,Pv2とは異なり、内面に垂直な方向から外れた視点の位置Pv3から内面を観察する場合の様子も示す。この場合には、視点の位置Pv3から位置Psまでの距離Ls3は、距離Ls1と同じ値で示しているが、視点の位置Pv3から位置Pcまでの距離の値Lr(Ls3)は、Lr(Ls1)よりも遥かに大きくなる。このような場合には、式(18)の条件を満たさないと判定される。
なお、式(18)を用いる代わりに、図6Bに示すように視線方向Vと、中心O2から基準位置Psを表すベクトルとのなす角αを算出し、判定回路21hは、算出された角αが0から10度以内に設定した角度閾値Tan以内か否かにより観察状態として視線方向Vが内面と垂直に近い状態であるか否かを判定するようにしても良い。
つまり、
α≦Tan ・・・ 式(19)
の条件を満たす場合には、観察状態として視線方向Vが内面と垂直に近い状態であると判定し、式(19)の条件を満たさない場合には、観察状態として視線方向Vが内面と垂直に近い状態でないと判定するようにしても良い。
また、本実施形態においては、決定回路21gの機能を用いるか否かをユーザが選択することができるようにしている。ユーザは、例えば入力装置30に設けたスケール自動選択スイッチ30aをONした場合には、決定回路21gの決定動作により被検体画像としての内視鏡画像に重畳するスケール画像を自動的に決定する。また、入力装置30から、決定回路21gを用いる場合の上記閾値の値を指定(設定)したり、選択することもできるようにしている。このため、入力装置30は、閾値を設定する閾値設定部(又は閾値設定装置)の機能を有する。
一方、スケール自動選択スイッチ30aをOFFにした場合には、ユーザが被検体画像としての内視鏡画像に重畳するスケール画像を選択又は指定することができるようにしている。
α≦Tan ・・・ 式(19)
の条件を満たす場合には、観察状態として視線方向Vが内面と垂直に近い状態であると判定し、式(19)の条件を満たさない場合には、観察状態として視線方向Vが内面と垂直に近い状態でないと判定するようにしても良い。
また、本実施形態においては、決定回路21gの機能を用いるか否かをユーザが選択することができるようにしている。ユーザは、例えば入力装置30に設けたスケール自動選択スイッチ30aをONした場合には、決定回路21gの決定動作により被検体画像としての内視鏡画像に重畳するスケール画像を自動的に決定する。また、入力装置30から、決定回路21gを用いる場合の上記閾値の値を指定(設定)したり、選択することもできるようにしている。このため、入力装置30は、閾値を設定する閾値設定部(又は閾値設定装置)の機能を有する。
一方、スケール自動選択スイッチ30aをOFFにした場合には、ユーザが被検体画像としての内視鏡画像に重畳するスケール画像を選択又は指定することができるようにしている。
なお、決定回路21gの決定動作により被検体画像としての内視鏡画像に重畳するスケール画像を自動的に決定した状態においても、ユーザが入力装置30から内視鏡画像に重畳するスケール画像を選択又は指定することができるようにしても良い。
術者等のユーザは、内視鏡2を用いて膀胱Bの内面を観察し、例えば病変部が存在し、その大きさを把握したいと望む場合には、重畳画像生成回路21cに対して、第1のスケール画像又は第2のスケール画像を内視鏡画像に重畳する選択の指示を例えば入力装置30から行うことにより、簡単にその大きさを把握することができるようにしている。
重畳画像生成回路21cは、第1のスケール画像と、第2のスケール画像とを生成する処理を行い、生成した第1のスケール画像と、第2のスケール画像とを例えばメモリ22に格納する。なお、メモリ22以外のメモリでも良い。そして、ユーザから選択指示された第1のスケール画像又は第2のスケール画像を速やかに表示することができるようにしている。
なお、選択の指示がされた後、第1のスケール画像又は第2のスケール画像を短時間に生成できる(処理機能を有する)重畳画像生成回路21cを採用している場合には、選択の指示がされた後に選択の指示がされた第1のスケール画像又は第2のスケール画像を生成するようにしても良いし、又は一方のスケール画像のみを生成し、他方のスケール画像は、選択の指示がされた後に生成するようにしても良い。また、図2においてはCPU21により遠近関係算出回路21a、スケール画像生成回路21b、重畳画像生成回路21c、座標変換回路21f、決定回路21gを形成する構成で示しているが、専用の電子回路を用いて構成しても良い。
術者等のユーザは、内視鏡2を用いて膀胱Bの内面を観察し、例えば病変部が存在し、その大きさを把握したいと望む場合には、重畳画像生成回路21cに対して、第1のスケール画像又は第2のスケール画像を内視鏡画像に重畳する選択の指示を例えば入力装置30から行うことにより、簡単にその大きさを把握することができるようにしている。
重畳画像生成回路21cは、第1のスケール画像と、第2のスケール画像とを生成する処理を行い、生成した第1のスケール画像と、第2のスケール画像とを例えばメモリ22に格納する。なお、メモリ22以外のメモリでも良い。そして、ユーザから選択指示された第1のスケール画像又は第2のスケール画像を速やかに表示することができるようにしている。
なお、選択の指示がされた後、第1のスケール画像又は第2のスケール画像を短時間に生成できる(処理機能を有する)重畳画像生成回路21cを採用している場合には、選択の指示がされた後に選択の指示がされた第1のスケール画像又は第2のスケール画像を生成するようにしても良いし、又は一方のスケール画像のみを生成し、他方のスケール画像は、選択の指示がされた後に生成するようにしても良い。また、図2においてはCPU21により遠近関係算出回路21a、スケール画像生成回路21b、重畳画像生成回路21c、座標変換回路21f、決定回路21gを形成する構成で示しているが、専用の電子回路を用いて構成しても良い。
本実施形態の内視鏡システム1は、所定の視点から被検体を見た被検体画像を生成するよう構成された被検体画像生成部を形成する画像生成回路4aと、前記被検体に対する前記視点の位置情報及び視線方向情報を取得するよう構成された情報取得部を形成する位置方向取得回路25と、前記位置情報及び前記視線方向情報を用いて、前記視点から前記被検体画像上の各点に対応する前記被検体上の各点までの遠近関係(の情報)を算出するよう構成された遠近関係算出部を形成する遠近関係算出回路21aと、前記位置情報及び前記視線方向情報を用いて、前記被検体画像上において少なくとも互いに異なる2つの方向に対して同じ縮尺を用いて構成され、前記被検体画像上においての前記被検体上での異なる方向における長さを反映するための第1のスケール画像を生成するよう構成された第1のスケール画像生成部を形成する第1のスケール画像生成回路21dと、前記遠近関係算出部により算出された遠近関係(の情報)に合わせて、前記被検体画像上において少なくとも互いに異なる2つの方向に対して、互いに異なる縮尺を用いて構成され、前記被検体画像上においての前記被検体上における異なる方向における長さを反映する第2のスケール画像を生成するよう構成された第2のスケール画像生成部を形成する第2のスケール画像生成回路21eと、前記被検体画像に対して、前記第1のスケール画像若しくは前記第2のスケール画像を選択的に重畳した重畳画像を生成するよう構成された画像処理部を形成する重畳画像生成回路21cと、を有することを特徴とする。
次に図7を参照して本実施形態における代表的な動作を説明する。図7は、内視鏡2を用いて膀胱Bの内面を検査又は観察する場合の動作を示す。
内視鏡システム1の電源が投入され、動作状態になった後、最初のステップS1において術者等のユーザは、初期設定を行う。例えば第1のスケール画像又は第2のスケール画像から形成されるスケール画像を表示する場合、図5A又は図5Bのいずれの表示モードで表示するかの設定を行う。以後、この設定に従って、後述するスケール画像(重畳画像)が表示されることになる。
また、ユーザは、画像処理装置5の遠近関係算出回路21aによる遠近関係の算出結果に基づいて、表示されている内視鏡画像の観察状態が、内視鏡画像上での異なる位置においても縮尺が殆ど変化しない正面視に近い状態であるか否かによって、内視鏡画像に重畳するスケール画像を自動的に決定することを望む場合には、スケール自動選択スイッチ30aをONにする。また、ユーザは、内視鏡画像に重畳するスケール画像をユーザ自身が選択(又は指定)することを望む場合には、スケール自動選択スイッチ30aをOFFにする。
内視鏡システム1の電源が投入され、動作状態になった後、最初のステップS1において術者等のユーザは、初期設定を行う。例えば第1のスケール画像又は第2のスケール画像から形成されるスケール画像を表示する場合、図5A又は図5Bのいずれの表示モードで表示するかの設定を行う。以後、この設定に従って、後述するスケール画像(重畳画像)が表示されることになる。
また、ユーザは、画像処理装置5の遠近関係算出回路21aによる遠近関係の算出結果に基づいて、表示されている内視鏡画像の観察状態が、内視鏡画像上での異なる位置においても縮尺が殆ど変化しない正面視に近い状態であるか否かによって、内視鏡画像に重畳するスケール画像を自動的に決定することを望む場合には、スケール自動選択スイッチ30aをONにする。また、ユーザは、内視鏡画像に重畳するスケール画像をユーザ自身が選択(又は指定)することを望む場合には、スケール自動選択スイッチ30aをOFFにする。
次のステップS2において術者は、内視鏡2の挿入部2bを患者Pの尿道を経て(検査又は観察対象の)膀胱B内に挿入する。ステップS3に示すように先端部2d内の対物光学系10及びその結像位置に配置された撮像素子11により膀胱Bの内面を撮像した撮像信号は、画像生成回路4aに入力され、画像生成回路4aは、内視鏡画像を生成する。生成された内視鏡画像はモニタ6に表示される。
また、ステップS4に示すように位置方向取得回路25は、先端部2d内の対物光学系10の視点の位置Pv及び視線方向Vの情報を取得し、座標変換処理回路21fは、第2の座標系(X2Y2Z2)に変換する。
そして、ステップS5に示すようにメモリ22は、内視鏡画像と、この内視鏡画像を取得した時間に取得した対物光学系10の視点の位置Pv及び視線方向Vの情報を第2の座標系(X2Y2Z2)に変換して関連付けて格納(記憶)する。この動作は、制御部を形成するCPU21が行う。
また、ステップS4に示すように位置方向取得回路25は、先端部2d内の対物光学系10の視点の位置Pv及び視線方向Vの情報を取得し、座標変換処理回路21fは、第2の座標系(X2Y2Z2)に変換する。
そして、ステップS5に示すようにメモリ22は、内視鏡画像と、この内視鏡画像を取得した時間に取得した対物光学系10の視点の位置Pv及び視線方向Vの情報を第2の座標系(X2Y2Z2)に変換して関連付けて格納(記憶)する。この動作は、制御部を形成するCPU21が行う。
ステップS6においてCPU21(の遠近関係算出回路21a)は、視点の位置Pvから、撮像部12の視野内又は画角内となる撮像面11a上(又は内視鏡画像中)における代表的な複数の点に対応する膀胱Bの内面上における複数の点までの距離を(正面視に近いか否かを判定するために)算出する。
更にCPU21(の遠近関係算出回路21a)は、内視鏡画像中(又は撮像面11a中)における代表的な複数の点近傍において、内面上の長さに対する内視鏡画像中(又は撮像面11a中)の縮尺を算出する。この場合、位置方向取得回路25により取得された対物光学系の焦点距離f等の撮像情報が参照される。
ステップS7においてCPU21(のスケール画像生成回路21b)は、ステップS6において算出された距離、縮尺の情報(の少なくとも一部)を利用して、第1のスケール画像と第2のスケール画像とを生成する。なお、この処理は、ステップS7において行わないで、第1のスケール画像を後述するステップS10の直前、第2のスケール画像を後述するステップS11の直前にそれぞれ生成するように処理をしても良い。
更にCPU21(の遠近関係算出回路21a)は、内視鏡画像中(又は撮像面11a中)における代表的な複数の点近傍において、内面上の長さに対する内視鏡画像中(又は撮像面11a中)の縮尺を算出する。この場合、位置方向取得回路25により取得された対物光学系の焦点距離f等の撮像情報が参照される。
ステップS7においてCPU21(のスケール画像生成回路21b)は、ステップS6において算出された距離、縮尺の情報(の少なくとも一部)を利用して、第1のスケール画像と第2のスケール画像とを生成する。なお、この処理は、ステップS7において行わないで、第1のスケール画像を後述するステップS10の直前、第2のスケール画像を後述するステップS11の直前にそれぞれ生成するように処理をしても良い。
次のステップS8においてCPU21は、スケール自動選択スイッチ30aがONか否かの判定を行う。
スケール自動選択スイッチ30aがONされている場合には、次のステップS9においてCPU21(の判定回路21h)は、 式(18)、又は 式(19)により、現在の内視鏡画像の観察状態が正面視、又は現在の視線方向が内面に垂直に近いか否かを判定する。
視線方向が内面に垂直に近い判定結果の場合には、ステップS10においてCPU21(の重畳画像生成回路21c)は、第1のスケール画像生成回路21dにより生成した第1のスケール画像を内視鏡画像に重畳して重畳画像を生成する。そして、モニタ6は、内視鏡画像に第1のスケール画像を重畳した重畳画像を表示する。
一方、ステップS9の判定処理において、現在の視線方向が内面に垂直に近くない判定結果の場合には、ステップS11においてCPU21(の重畳画像生成回路21c)は、第2のスケール画像生成回路21eにより生成した第2のスケール画像を内視鏡画像に重畳して重畳画像を生成する。そして、モニタ6は、内視鏡画像に第2のスケール画像を重畳した重畳画像を表示する。
スケール自動選択スイッチ30aがONされている場合には、次のステップS9においてCPU21(の判定回路21h)は、 式(18)、又は 式(19)により、現在の内視鏡画像の観察状態が正面視、又は現在の視線方向が内面に垂直に近いか否かを判定する。
視線方向が内面に垂直に近い判定結果の場合には、ステップS10においてCPU21(の重畳画像生成回路21c)は、第1のスケール画像生成回路21dにより生成した第1のスケール画像を内視鏡画像に重畳して重畳画像を生成する。そして、モニタ6は、内視鏡画像に第1のスケール画像を重畳した重畳画像を表示する。
一方、ステップS9の判定処理において、現在の視線方向が内面に垂直に近くない判定結果の場合には、ステップS11においてCPU21(の重畳画像生成回路21c)は、第2のスケール画像生成回路21eにより生成した第2のスケール画像を内視鏡画像に重畳して重畳画像を生成する。そして、モニタ6は、内視鏡画像に第2のスケール画像を重畳した重畳画像を表示する。
ステップS10又はS11の処理の後、ステップS12においてCPU21は、ユーザにより入力装置30から膀胱B内の検査又は観察を終了する入力操作がされたか否かを判定する。終了する入力操作がされていない場合には、ステップS3の処理に戻り、終了する操作入力がされた場合には、図7の処理を終了する。
また、ステップS8においてスケール自動選択スイッチ30aがOFFの判定結果の場合(更にスケール自動選択スイッチ30aがONの判定結果の場合)には、ステップS13に示すようにCPU21は、ユーザにより第1のスケール画像を用いた重畳画像が選択(又は指定)されたか否かを判定する。ユーザにより第1のスケール画像を用いた重畳画像が選択(又は指定)された判定結果の場合には、ステップS10の処理に移る。
一方、ユーザにより第1のスケール画像を用いた重畳画像が選択(又は指定)されないで、第2のスケール画像を用いた重畳画像が選択(又は指定)された判定結果の場合には、ステップS11の処理に移る。
また、ステップS8においてスケール自動選択スイッチ30aがOFFの判定結果の場合(更にスケール自動選択スイッチ30aがONの判定結果の場合)には、ステップS13に示すようにCPU21は、ユーザにより第1のスケール画像を用いた重畳画像が選択(又は指定)されたか否かを判定する。ユーザにより第1のスケール画像を用いた重畳画像が選択(又は指定)された判定結果の場合には、ステップS10の処理に移る。
一方、ユーザにより第1のスケール画像を用いた重畳画像が選択(又は指定)されないで、第2のスケール画像を用いた重畳画像が選択(又は指定)された判定結果の場合には、ステップS11の処理に移る。
図8Aは、図7における第1のスケール画像生成の処理を示す。また、図8Bは、図8Aの動作の説明図を示し、内視鏡2により膀胱Bの内面を観察する様子を示す。図8Bは、球体の中心をO2で示すように、視線方向Vが内面と垂直に近い状態で観察する様子を示す。
第1のスケール画像生成の処理が開始すると、最初のステップS21において第1のスケール画像生成回路21dは、対物光学系10の視点の位置Pv,視線方向Vから膀胱Bの内面を観察した場合に対応する内面上の位置を基準位置Psに設定し、該基準位置Psにおいての内視鏡画像上での縮尺の値を、遠近関係算出回路21aによる遠近関係の取得結果に基づいて取得する。
例えば、視点の位置Pv、及びこの視点の位置Pvからの視線方向Vで、被検体となる膀胱Bの内面を撮像素子11により撮像した場合、視線方向Vの延長線上となる内面の位置を基準位置Psとし、この基準位置Psに対応する撮像面11a上又は内視鏡画像上での基準位置(図8BではQs)とし、基準位置Psに対する内視鏡画像上の基準位置Qs(近傍)での縮尺の値Gを取得する。図6Aで説明したように、縮尺の値Gはf/Lsとなる。
第1のスケール画像生成の処理が開始すると、最初のステップS21において第1のスケール画像生成回路21dは、対物光学系10の視点の位置Pv,視線方向Vから膀胱Bの内面を観察した場合に対応する内面上の位置を基準位置Psに設定し、該基準位置Psにおいての内視鏡画像上での縮尺の値を、遠近関係算出回路21aによる遠近関係の取得結果に基づいて取得する。
例えば、視点の位置Pv、及びこの視点の位置Pvからの視線方向Vで、被検体となる膀胱Bの内面を撮像素子11により撮像した場合、視線方向Vの延長線上となる内面の位置を基準位置Psとし、この基準位置Psに対応する撮像面11a上又は内視鏡画像上での基準位置(図8BではQs)とし、基準位置Psに対する内視鏡画像上の基準位置Qs(近傍)での縮尺の値Gを取得する。図6Aで説明したように、縮尺の値Gはf/Lsとなる。
次のステップS22において第1のスケール画像生成回路21dは、上記膀胱Bの内面上の基準位置Psにおいて、その両側に基準長Lf,Lfを設定し、基準長2×Lfに対して、取得した縮尺の値Gを乗算した長さを基準スケール直径Da(図3Aでは内面上では5mmに相当することを表す)とした第1の円Sp1を生成する。
次のステップS23において第1のスケール画像生成回路21dは、第1の円Sp1の外側に基準スケール直径Daの2倍の基準スケール直径Dbとなり、第1の円Sp1と同心となる第2の円Sp2を生成する。なお、基準長Lfを基準スケール半径に設定しても同等の結果となる。
そして、第1の円Sp1と第2の円Sp2とからなる第1のスケール画像I1が生成される。次のステップS24において第1のスケール画像生成回路21dは、生成した第1のスケール画像I1を重畳画像生成回路21cに送り、図8Aの処理を終了する。
第1のスケール画像I1が送られた重畳画像生成回路21cは、撮像素子11により撮像した内視鏡画像上における基準位置Qsを中心として第1のスケール画像I1を重畳して図3Aに示すような重畳画像Isを生成する。
次のステップS23において第1のスケール画像生成回路21dは、第1の円Sp1の外側に基準スケール直径Daの2倍の基準スケール直径Dbとなり、第1の円Sp1と同心となる第2の円Sp2を生成する。なお、基準長Lfを基準スケール半径に設定しても同等の結果となる。
そして、第1の円Sp1と第2の円Sp2とからなる第1のスケール画像I1が生成される。次のステップS24において第1のスケール画像生成回路21dは、生成した第1のスケール画像I1を重畳画像生成回路21cに送り、図8Aの処理を終了する。
第1のスケール画像I1が送られた重畳画像生成回路21cは、撮像素子11により撮像した内視鏡画像上における基準位置Qsを中心として第1のスケール画像I1を重畳して図3Aに示すような重畳画像Isを生成する。
図3Aの重畳画像Isは、例えば病変部Id1,Id2,Id3を含む内視鏡画像Ien上に、基準位置Qsを中心とした第1の円Sp1,第2の円Sp2からなる第1のスケール画像I1が重畳された画像となる。第1のスケール画像I1は、互いに異なる2つの方向の場合を含む任意の方向に対して、視線方向Vとほぼ垂直に交差する交差面(を形成する撮像素子11の撮像面11a)に沿うように形成される。
また、第1のスケール画像I1は、内視鏡画像上において少なくとも互いに異なる2つの方向に対して同じ縮尺を用いて構成され、該内視鏡画像上においての(被検体としての)膀胱Bの内面上での異なる方向における長さを反映するための同心円スケール(画像)による第1のスケール画像となる。つまり、同心円スケール(画像)は、互いに異なる2つの方向を含む任意の方向に対して、同じ縮尺を用いて構成され、膀胱Bの内面上での任意の方向における長さを反映するための(方向依存性のない)等方性の縮尺を表すスケールとなる。後述する図10においては、直交する2つの方向に対して、同じ縮尺(つまり同じ2つの縮尺)を用いて構成され、膀胱Bの内面上で2つの方向における長さを反映するための縮尺のスケールとなる。
なお、図3Aに示すように内視鏡画像Ienの中心部となる基準位置Qsの付近又は、周辺部、その他の位置に、算出した縮尺の値を用いる等して、膀胱Bの内面までの距離(例えば基準位置Psまでの距離Ls)等を表示するようにしても良い。
また、第1のスケール画像I1は、内視鏡画像上において少なくとも互いに異なる2つの方向に対して同じ縮尺を用いて構成され、該内視鏡画像上においての(被検体としての)膀胱Bの内面上での異なる方向における長さを反映するための同心円スケール(画像)による第1のスケール画像となる。つまり、同心円スケール(画像)は、互いに異なる2つの方向を含む任意の方向に対して、同じ縮尺を用いて構成され、膀胱Bの内面上での任意の方向における長さを反映するための(方向依存性のない)等方性の縮尺を表すスケールとなる。後述する図10においては、直交する2つの方向に対して、同じ縮尺(つまり同じ2つの縮尺)を用いて構成され、膀胱Bの内面上で2つの方向における長さを反映するための縮尺のスケールとなる。
なお、図3Aに示すように内視鏡画像Ienの中心部となる基準位置Qsの付近又は、周辺部、その他の位置に、算出した縮尺の値を用いる等して、膀胱Bの内面までの距離(例えば基準位置Psまでの距離Ls)等を表示するようにしても良い。
図3Aに示すように第1のスケール画像I1は、任意の方向に沿って計測するための円形の目盛りを有する。
生成された重畳画像Isは、モニタ6に出力される。例えば図5Aに示すように、モニタ6における重畳画像表示エリアA2には、重畳画像Isが表示される。術者は、内視鏡画像に重畳して表示される第1のスケール画像から、病変部等の大きさを把握することが簡単にできる。また、図5Bに示すように内視鏡画像表示エリアA1中に重畳画像Isを表示する表示形態を選択することもできる。この場合には、図5Aよりも大きく表示できる。
図9Aは、図7における第2のスケール画像生成の処理を示す。図9Bは、図9Aの動作を内視鏡画像上で示す説明図を示す。第2のスケール画像生成の処理が開始すると、最初のステップS31において第2のスケール画像生成回路21eは、対物光学系10の視点の位置Pv,及びこの視点の位置Pvからの視線方向Vが、膀胱Bの内面と交わる基準位置Ps(図9B参照、図6A参照)を設定し、該基準位置Psに対応する内視鏡画像上の位置Qs(図9B参照、図6A参照)を取得する。
生成された重畳画像Isは、モニタ6に出力される。例えば図5Aに示すように、モニタ6における重畳画像表示エリアA2には、重畳画像Isが表示される。術者は、内視鏡画像に重畳して表示される第1のスケール画像から、病変部等の大きさを把握することが簡単にできる。また、図5Bに示すように内視鏡画像表示エリアA1中に重畳画像Isを表示する表示形態を選択することもできる。この場合には、図5Aよりも大きく表示できる。
図9Aは、図7における第2のスケール画像生成の処理を示す。図9Bは、図9Aの動作を内視鏡画像上で示す説明図を示す。第2のスケール画像生成の処理が開始すると、最初のステップS31において第2のスケール画像生成回路21eは、対物光学系10の視点の位置Pv,及びこの視点の位置Pvからの視線方向Vが、膀胱Bの内面と交わる基準位置Ps(図9B参照、図6A参照)を設定し、該基準位置Psに対応する内視鏡画像上の位置Qs(図9B参照、図6A参照)を取得する。
なお、図9Bでは、位置Qsに対応する内面上の基準位置Psを(Ps)で示している。内面上における他の位置も同様に表記する。
次のステップS32において第2のスケール画像生成回路21eは、内面上において、基準位置Psを通る第1の直線(具体例では左右方向に延びる直線)laを設定し、該第1の直線la上で、基準位置Psの両側に、基準位置Psから基準長Lの位置Pl1,Pr1,2倍の基準長Lの位置Pl2,Pr2,…,を設定し、位置Pl1,Pr1,Pl2,Pr2,…,に対応する内視鏡画像上の位置Ql1,Qr1,Ql2,Qr2,…,をそれぞれ取得する。図6Aにおいて説明した方法で位置Ql1,Qr1等を取得できる。図9Bでは内面上の第1の直線laを点線で示す。なお、図9Bにおいては、内面上での直線は、la,lbのみを示し、後述するlu1等は(複雑になるため)図示しない。
次のステップS33において第2のスケール画像生成回路21eは、基準位置Psを通り、第1の直線に例えば直交する第2の直線(具体例では上下方向に延びる直線)lbを設定し、該第2の直線lb上においても、基準位置Psの両側に、基準位置Psから基準長Lの位置Pu1,Pd1,2倍の基準長Lの位置Pu2,Pd2,…,を設定し、位置Pu1,Pd1,Pu2,Pd2,…,に対応する内視鏡画像上の位置Qu1,Qd1,Qu2,Qd2,…,をそれぞれ取得する。
次のステップS34において第2のスケール画像生成回路21eは、位置Pu1を通り、第1の直線laと平行な直線lu1(図示略)を設定し、該直線lu1上で、位置Pu1の両側に、該位置Pu1から基準長Lの位置Pul1,Pur1,2倍の基準長Lの位置Pul2,Pur2,…,を設定し、位置Pul1,Pur1,Pul2,Pur2,…,に対応する内視鏡画像上の位置Qul1,Qur1,Qul2,Qur2,…,をそれぞれ取得する。
次のステップS32において第2のスケール画像生成回路21eは、内面上において、基準位置Psを通る第1の直線(具体例では左右方向に延びる直線)laを設定し、該第1の直線la上で、基準位置Psの両側に、基準位置Psから基準長Lの位置Pl1,Pr1,2倍の基準長Lの位置Pl2,Pr2,…,を設定し、位置Pl1,Pr1,Pl2,Pr2,…,に対応する内視鏡画像上の位置Ql1,Qr1,Ql2,Qr2,…,をそれぞれ取得する。図6Aにおいて説明した方法で位置Ql1,Qr1等を取得できる。図9Bでは内面上の第1の直線laを点線で示す。なお、図9Bにおいては、内面上での直線は、la,lbのみを示し、後述するlu1等は(複雑になるため)図示しない。
次のステップS33において第2のスケール画像生成回路21eは、基準位置Psを通り、第1の直線に例えば直交する第2の直線(具体例では上下方向に延びる直線)lbを設定し、該第2の直線lb上においても、基準位置Psの両側に、基準位置Psから基準長Lの位置Pu1,Pd1,2倍の基準長Lの位置Pu2,Pd2,…,を設定し、位置Pu1,Pd1,Pu2,Pd2,…,に対応する内視鏡画像上の位置Qu1,Qd1,Qu2,Qd2,…,をそれぞれ取得する。
次のステップS34において第2のスケール画像生成回路21eは、位置Pu1を通り、第1の直線laと平行な直線lu1(図示略)を設定し、該直線lu1上で、位置Pu1の両側に、該位置Pu1から基準長Lの位置Pul1,Pur1,2倍の基準長Lの位置Pul2,Pur2,…,を設定し、位置Pul1,Pur1,Pul2,Pur2,…,に対応する内視鏡画像上の位置Qul1,Qur1,Qul2,Qur2,…,をそれぞれ取得する。
同様に、次のステップS35において第2のスケール画像生成回路21eは、位置Pd1を通る第1の直線laと平行な直線ld1を設定し、該直線ld12上で、上で、位置Pd1の両側に、該位置Pd1から基準長Lの位置Pdl1,Pdr1,2倍の基準長Lの位置Pdl2,Pdr2,…,を設定し、位置Pdl1,Pdr1,Pul2,Pur2,…,に対応する内視鏡画像上の位置Qdl1,Qdr1,Qul2,Qur2,…,をそれぞれ取得する。
次のステップS36において第2のスケール画像生成回路21eは、位置Pu1の上側に隣接する位置Pu2,位置Pd1の下側に隣接する位置Pd2,位置Pu2の上側に隣接する位置Pu3,位置Pd2の下側に隣接する位置Pd3,…,に対してもステップS34と同様の処理を繰り返し行う。
次のステップS36において第2のスケール画像生成回路21eは、位置Pu1の上側に隣接する位置Pu2,位置Pd1の下側に隣接する位置Pd2,位置Pu2の上側に隣接する位置Pu3,位置Pd2の下側に隣接する位置Pd3,…,に対してもステップS34と同様の処理を繰り返し行う。
次のステップS37において第2のスケール画像生成回路21eは、直線laに対応する曲線la′,直線lu1に対応する曲線lu1′,直線ld1に対応する曲線ld1′,…を引く。この場合、例えば曲線la′は、位置Qs,その両側の位置Ql1,Qrl,該位置Ql1,Qrlの両側の位置Ql2,Qr2,…を通る。他の曲線も同様である。換言すると、位置Qsと、その水平方向の両側に存在する位置を曲線la′で結び、同様に位置Qu1,Qd1,Qu2、Qd2,…の各位置に対しても、各位置の水平方向の両側に存在する位置を通る曲線lu1′ld1′,lu2′ld2′,…を引く。
また、次のステップS38において第2のスケール画像生成回路21eは、位置Qs,その上下方向の両側の位置Qu1,Qd1,該位置Qu1,Qd1の位置Qu2,Qd2,…を通る垂直方向に延びる曲線lb′を引く。
同様に、第2のスケール画像生成回路21eは、位置Ql1,Qr1,Ql2,Qr2,…の各位置に対しても、ステップS38の場合と同様に垂直方向に存在する各位置を通る垂直方向に延びる曲線ll1′,lr1′、ll2′、lr2′…を引く。
また、次のステップS38において第2のスケール画像生成回路21eは、位置Qs,その上下方向の両側の位置Qu1,Qd1,該位置Qu1,Qd1の位置Qu2,Qd2,…を通る垂直方向に延びる曲線lb′を引く。
同様に、第2のスケール画像生成回路21eは、位置Ql1,Qr1,Ql2,Qr2,…の各位置に対しても、ステップS38の場合と同様に垂直方向に存在する各位置を通る垂直方向に延びる曲線ll1′,lr1′、ll2′、lr2′…を引く。
このようにして第2のスケール画像I2が生成される。そして、図9Aの処理を終了する。図9Bに示すように(点線で示す)内面上における水平方向又は垂直方向に隣接する2つの位置間の距離は、基準長Lとなり、これに対して内視鏡画像上における水平方向又は垂直方向に隣接する2つの位置間の距離は、基準長Lを内視鏡画像上の長さで縮尺した値L′となる。
また、この第2のスケール画像I2は、内視鏡画像上においては、互いに異なる2つの方向に対して縮尺を変化させたスケール(目盛り)とすることにより、内視鏡画像上においての被検体としての膀胱Bの内面上での長さを反映したスケールを持つ画像となる。第1のスケール画像I1は、等方性のスケール画像であったのに対して、この第2のスケール画像I2は、方向依存性を有する異方性のスケール画像となる。
なお、図3Bのように内視鏡画像Ien上に第2のスケール画像I2を重畳した重畳画像Isを表示する場合には、図9Bで示す縮尺の値L′が膀胱Bの内面上では長さLであることを示すようにLを表示するようにしても良い。
なお、上述した第2のスケール画像I2の生成は、要約すると、以下のようになる。対物光学系10の視線方向が交差する臓器内面上の基準位置Psから、臓器内面上において互いに直交する方向に沿って基準長Lの長さを単位として格子状に複数の位置Pl1,Pl2等を設定し、複数の位置Pl1,Pl2等に対応する被検体画像としての臓器画像上における複数の対応位置Qi1,Ql2等を取得し、取得した複数の対応位置Qi1,Ql2等を格子状に線で結んで第2のスケール画像I2を生成する。図3B,図9Bに示す第2のスケール画像I2の場合においては、上方向の領域では下方向の領域に対して、視点からの距離が大きくなっているために、内視鏡画像上でのスケールの間隔が下方向の領域と比較して小さくなっている。また、図3Bに示すように内視鏡画像Ien上における異なる複数の位置に病変部Id1,Id2,Id3が存在したような場合においても第2のスケール画像I2によりそれらの大きさを計測又は把握することができる。
また、この第2のスケール画像I2は、内視鏡画像上においては、互いに異なる2つの方向に対して縮尺を変化させたスケール(目盛り)とすることにより、内視鏡画像上においての被検体としての膀胱Bの内面上での長さを反映したスケールを持つ画像となる。第1のスケール画像I1は、等方性のスケール画像であったのに対して、この第2のスケール画像I2は、方向依存性を有する異方性のスケール画像となる。
なお、図3Bのように内視鏡画像Ien上に第2のスケール画像I2を重畳した重畳画像Isを表示する場合には、図9Bで示す縮尺の値L′が膀胱Bの内面上では長さLであることを示すようにLを表示するようにしても良い。
なお、上述した第2のスケール画像I2の生成は、要約すると、以下のようになる。対物光学系10の視線方向が交差する臓器内面上の基準位置Psから、臓器内面上において互いに直交する方向に沿って基準長Lの長さを単位として格子状に複数の位置Pl1,Pl2等を設定し、複数の位置Pl1,Pl2等に対応する被検体画像としての臓器画像上における複数の対応位置Qi1,Ql2等を取得し、取得した複数の対応位置Qi1,Ql2等を格子状に線で結んで第2のスケール画像I2を生成する。図3B,図9Bに示す第2のスケール画像I2の場合においては、上方向の領域では下方向の領域に対して、視点からの距離が大きくなっているために、内視鏡画像上でのスケールの間隔が下方向の領域と比較して小さくなっている。また、図3Bに示すように内視鏡画像Ien上における異なる複数の位置に病変部Id1,Id2,Id3が存在したような場合においても第2のスケール画像I2によりそれらの大きさを計測又は把握することができる。
このように動作する本実施形態によれば、内視鏡画像上に、該内視鏡画像に対応する被検体上での基準長をほぼ反映した縮尺の第1のスケール画像又は第2のスケール画像を重畳した重畳画像を表示できるようにしているので、術者等のユーザは、内視鏡画像上に病変部等の注目する部位が存在した場合、その大きさを第1のスケール画像又は第2のスケール画像のスケールから簡単に精度良く計測することができる。
また、本実施形態によれば、スケール自動選択スイッチをONにする等して、スケール自動選択機能を動作状態に設定した場合には、膀胱Bの内面を観察している状態における遠近関係の情報から、第1のスケール画像及び第2のスケール画像における一方を自動的に選択して、重畳画像を生成することができる。
具体的には、内視鏡画像上における異なる位置における縮尺が、基準位置における縮尺から閾値以内に収まる場合や、視線方向が被検体面に垂直に近い場合は、内視鏡画像上におけるいずれの方向に対しても同じ縮尺のスケールを持つ第1のスケール画像を用いた重畳画像を表示し、内視鏡画像上における異なる位置に応じて被検対面までの距離が変化するような場合には、内視鏡画像上における少なくとも互いに異なる2つの方向に対しては異なる縮尺となるグリッド形状の第2のスケール画像を用いた重畳画像を表示する。
そして、術者等のユーザは、内視鏡画像上に病変部等の注目する部位が存在した場合、その大きさを重畳して表示されている第1のスケール画像又は第2のスケール画像から簡単に精度良く計測することができる。
また、本実施形態によれば、スケール自動選択スイッチをONにする等して、スケール自動選択機能を動作状態に設定した場合には、膀胱Bの内面を観察している状態における遠近関係の情報から、第1のスケール画像及び第2のスケール画像における一方を自動的に選択して、重畳画像を生成することができる。
具体的には、内視鏡画像上における異なる位置における縮尺が、基準位置における縮尺から閾値以内に収まる場合や、視線方向が被検体面に垂直に近い場合は、内視鏡画像上におけるいずれの方向に対しても同じ縮尺のスケールを持つ第1のスケール画像を用いた重畳画像を表示し、内視鏡画像上における異なる位置に応じて被検対面までの距離が変化するような場合には、内視鏡画像上における少なくとも互いに異なる2つの方向に対しては異なる縮尺となるグリッド形状の第2のスケール画像を用いた重畳画像を表示する。
そして、術者等のユーザは、内視鏡画像上に病変部等の注目する部位が存在した場合、その大きさを重畳して表示されている第1のスケール画像又は第2のスケール画像から簡単に精度良く計測することができる。
なお、上述した実施形態においては、正面視に近い観察状態においては同心となる第1の円と第2の円とを備えた第1のスケール画像を生成して、生成した第1のスケール画像を用いて重畳画像を生成する例を説明した。
これに対して、正面視に近い観察状態においても、グリッド形状の第1のスケール画像を生成し、生成したグリッド形状の第1のスケール画像を用いて重畳画像を生成するようにしても良い。この場合には、図10に示すような重畳画像Isとなる。
図10に示す重畳画像Isは、被検体を見る視線方向に対して略垂直に交差する撮像素子11の撮像面11aにより形成される交差面上において第1の方向に沿って形成された第1の目盛り(図10では水平方向にほぼ等間隔となる目盛り)と、前記前記交差面上において第1の方向に交差する第2の方向に沿って前記第1の目盛りと同じ縮尺で形成された第2の目盛り(図10では水平方向にほぼ等間隔となる目盛り)を備えるグリッド形状の第1のスケール画像I1′を有する。
これに対して、正面視に近い観察状態においても、グリッド形状の第1のスケール画像を生成し、生成したグリッド形状の第1のスケール画像を用いて重畳画像を生成するようにしても良い。この場合には、図10に示すような重畳画像Isとなる。
図10に示す重畳画像Isは、被検体を見る視線方向に対して略垂直に交差する撮像素子11の撮像面11aにより形成される交差面上において第1の方向に沿って形成された第1の目盛り(図10では水平方向にほぼ等間隔となる目盛り)と、前記前記交差面上において第1の方向に交差する第2の方向に沿って前記第1の目盛りと同じ縮尺で形成された第2の目盛り(図10では水平方向にほぼ等間隔となる目盛り)を備えるグリッド形状の第1のスケール画像I1′を有する。
グリッド形状の第1のスケール画像I1′は、図9Aに示す処理手順で生成することができる。ユーザは、第1のスケール画像を選択する場合、入力装置30から円形の1のスケール画像I1と、グリッド形状の第1のスケール画像I1′とを選択することができる。また、スケール自動選択をONした場合、第1のスケール画像が自動的に選択される場合に対して、ユーザが入力装置から円形の1のスケール画像I1と、グリッド形状の第1のスケール画像I1′との一方を選択することもできる。
なお、上述した実施形態において、例えば図6Aに示す対物光学系10の視点の位置Pvを仮想的に設定する視点設定部(又は視点設定装置)を入力装置30に設けるようにしても良い。図2においては入力装置30に設けたる視点設定部30bを点線で示している。
この場合、CPU21は、視点設定部30bにより設定された視点の位置Pvから対物光学系10の光学特性を用いた光学像と、該光学像に対応する仮想内視鏡画像を生成する仮想内視鏡画像生成部の機能を有する。
なお、上述した実施形態において、例えば図6Aに示す対物光学系10の視点の位置Pvを仮想的に設定する視点設定部(又は視点設定装置)を入力装置30に設けるようにしても良い。図2においては入力装置30に設けたる視点設定部30bを点線で示している。
この場合、CPU21は、視点設定部30bにより設定された視点の位置Pvから対物光学系10の光学特性を用いた光学像と、該光学像に対応する仮想内視鏡画像を生成する仮想内視鏡画像生成部の機能を有する。
また、上述した実施形態において、図2等に示すように内視鏡2は、単一の対物光学系10及び撮像素子11を備えた撮像部12を用いているが、図2において2点鎖線で示すように3D内視鏡42を用いるようにしても良い。
3D内視鏡42は、挿入部2bの先端部2dには、左右方向に所定間隔だけ離間して左右の対物光学系10a、10bが配置され、それぞれの結像位置に左右の撮像素子11a,11bが配置されて、左右の撮像部12a,12bが構成される。その他、実線で示す内視鏡2の場合と同様に、ライトガイド9,磁気センサ13を有する。
また、この3D内視鏡42の場合、プロセッサ4は、左右の撮像部12a,12bに対する信号処理を行う画像生成回路を備える。上記遠近関係算出回路21aは、複数となる左右の対物光学系10a、10bのそれぞれの視点位置と、それぞれの視点位置に対応する視線方向の情報に基づき、各視点から左右の内視鏡画像における各点に対応する膀胱Bの内面の各点までの距離を算出する。
また、上述した実施形態に画像処理装置5おいて、図2等に示すようにCT装置から取り込んだ3次元画像に基づいて、3次元画像情報を構築する例を示したが、2次元の内視鏡画像から3次元画像情報を構築するようにしてもよい。 この場合、3D形状データ構築部42aは、例えば特許第5354494号の公報に記載された方法や、この公報以外に公知となるShape from Shading 法のように1枚の2次元画像から対応する3D形状を推定しても良い。また、2枚以上の画像を用いるステレオ法、単眼移動視による3次元形状推定法、SLAM法、位置センサと組み合わせて3D形状を推定する手法でも良い。また、3D形状を推定する場合、外部のCT装置等の断層像取得装置から取得した3D画像データを参照して3D形状データを構築するようにしても良い。
3D内視鏡42は、挿入部2bの先端部2dには、左右方向に所定間隔だけ離間して左右の対物光学系10a、10bが配置され、それぞれの結像位置に左右の撮像素子11a,11bが配置されて、左右の撮像部12a,12bが構成される。その他、実線で示す内視鏡2の場合と同様に、ライトガイド9,磁気センサ13を有する。
また、この3D内視鏡42の場合、プロセッサ4は、左右の撮像部12a,12bに対する信号処理を行う画像生成回路を備える。上記遠近関係算出回路21aは、複数となる左右の対物光学系10a、10bのそれぞれの視点位置と、それぞれの視点位置に対応する視線方向の情報に基づき、各視点から左右の内視鏡画像における各点に対応する膀胱Bの内面の各点までの距離を算出する。
また、上述した実施形態に画像処理装置5おいて、図2等に示すようにCT装置から取り込んだ3次元画像に基づいて、3次元画像情報を構築する例を示したが、2次元の内視鏡画像から3次元画像情報を構築するようにしてもよい。 この場合、3D形状データ構築部42aは、例えば特許第5354494号の公報に記載された方法や、この公報以外に公知となるShape from Shading 法のように1枚の2次元画像から対応する3D形状を推定しても良い。また、2枚以上の画像を用いるステレオ法、単眼移動視による3次元形状推定法、SLAM法、位置センサと組み合わせて3D形状を推定する手法でも良い。また、3D形状を推定する場合、外部のCT装置等の断層像取得装置から取得した3D画像データを参照して3D形状データを構築するようにしても良い。
なお、上述した実施形態において、説明した内容の範囲内で一部の組み合わせを変更しても良い。
本出願は、2014年9月11日に日本国に出願された特願2014−185459号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲、図面に引用されたものとする。
本発明の一態様の内視鏡システムは、被検体内に挿入される挿入部を備えた内視鏡と、前記挿入部における所定の視点から前記被検体を見た被検体画像を生成するよう構成された被検体画像生成部と、前記被検体画像上において少なくとも互いに異なる2つの方向に対して、互いに異なる縮尺を用いて構成され、前記被検体画像上においての前記被検体上における異なる方向における長さを反映する第1のスケール画像を生成するよう構成されたスケール画像生成部と、前記被検体画像全域にわたって、前記第1のスケール画像を重畳した重畳画像を生成可能に構成された画像処理部と、を備える。
Claims (13)
- 所定の視点から被検体を見た被検体画像を生成するよう構成された被検体画像生成部と、
前記被検体画像上において少なくとも互いに異なる2つの方向に対して同じ縮尺を用いて構成され、前記被検体画像上においての前記被検体上での異なる方向における長さを反映するための第1のスケール画像を生成するよう構成された第1のスケール画像生成部と、
前記被検体画像上において少なくとも互いに異なる2つの方向に対して、互いに異なる縮尺を用いて構成され、前記被検体画像上においての前記被検体上における異なる方向における長さを反映する第2のスケール画像を生成するよう構成された第2のスケール画像生成部と、
前記被検体画像に対して、前記第1のスケール画像若しくは前記第2のスケール画像を選択的に重畳した重畳画像を生成するよう構成された画像処理部と、
を有することを特徴とする内視鏡システム。 - 前記第1のスケール画像生成部は、前記被検体画像上において互いに異なる2つの方向が、前記被検体を見る視線方向に対して略垂直に交差する交差面に沿うように形成して前記第1のスケール画像を生成することを特徴とする請求項1に記載の内視鏡システム。
- 前記第1のスケール画像生成部は、前記被検体画像の中心部を基準位置とし、前記位置情報に基づき、前記被検体画像上においての前記被検体上での長さに対する縮尺を算出して前記基準位置からの距離を示すように形成して前記第1のスケール画像を生成することを特徴とする請求項2に記載の内視鏡システム。
- 前記第1のスケール画像生成部は、前記第1のスケール画像が、前記交差面上において第1の方向に沿って形成された第1の目盛りと、前記前記交差面上において第1の方向に交差する第2の方向に沿って前記第1の目盛りと同じ縮尺で形成された第2の目盛りを備えるように生成することを特徴とする請求項2に記載の内視鏡システム。
- 前記視点として前記被検体からの光を受け、前記被検体の光学像を結像する対物光学系を備え、
前記被検体画像生成部は、前記対物光学系が結像した光学像に対応する前記被検体画像を生成することを特徴とする請求項1に記載の内視鏡システム。 - 予め取得した前記被検体に関する3次元画像情報を構築するための画像情報を記憶するよう構成された記憶部と、
前記3次元画像情報から当該3次元画像情報内に存在する所定の管腔臓器を抽出するよう構成された管腔臓器抽出部と、
前記管腔臓器抽出部によって抽出された前記所定の管腔臓器における視点を設定するよう構成された視点設定部と、を備え、
前記被検体画像生成部は、被検体画像として、前記視点設定部によって設定された前記視点から前記被検体を見た仮想管腔内画像を生成することを特徴とする請求項1に記載の内視鏡システム。 - 前記被検体に対する前記視点の位置情報及び視線方向情報を取得する情報取得部と、
前記位置情報及び前記視線方向情報を用いて、前記視点から前記被検体画像上の各点に対応する前記被検体上の各点までの遠近関係を算出する遠近関係算出部と、をさらに備え、
前記第2のスケール画像生成部は、前記遠近関係算出部により算出された遠近関係に合せて、前記第2のスケール画像を生成することを特徴とする請求項5に記載の内視鏡システム。 - 前記情報取得部は、前記対物光学系の位置及び視線方向を、前記位置情報及び前記視線方向情報として取得し、
前記遠近関係算出部は、前記対物光学系の異なる位置に対応する前記位置情報及び前記視線方向情報に基づき、前記視点から前記被検体上の各点までの距離を算出することで前記遠近関係を算出することを特徴とする請求項5に記載の内視鏡システム。 - 前記対物光学系を複数備え、
前記遠近関係算出部は、複数の前記対物光学系の夫々の位置に対応する前記位置情報及び前記視線方向情報に基づき、前記視点から前記被検体上の各点までの距離を算出することで前記遠近関係を算出することを特徴とする請求項5に記載の内視鏡システム。 - 前記被検体に対する前記視点の位置情報及び視線方向情報を取得する情報取得部と、
前記位置情報及び前記視線方向情報を用いて、前記視点から前記被検体画像上の各点に対応する前記被検体上の各点までの遠近関係を算出する遠近関係算出部と、
前記遠近関係算出部により算出された前記遠近関係の情報に応じて前記被検体画像に重畳する前記第1のスケール画像又は前記第2のスケール画像を自動的に決定するよう構成されたスケール画像決定部と、
を更に有することを特徴とする請求項1に記載の内視鏡システム。 - 前記スケール画像決定部は、前記遠近関係算出部により算出された前記位置情報及び視線方向情報を用いて前記視線方向が、該視線方向に対向する前記被検体面に垂直に近いか否かに応じて、前記被検体画像に重畳するスケール画像を前記第1のスケール画像又は前記第2のスケール画像から自動的に決定することを特徴とする請求項10に記載の内視鏡システム。
- 先端部に前記対物光学系が設けられた内視鏡の挿入部は、前記被検体の球形の臓器内に挿入され、
前記情報取得部は、前記対物光学系の位置及び視線方向を、前記位置情報及び前記視線方向情報として取得し、
前記スケール画像決定部は、前記対物光学系の位置から前記球形の臓器内面に向かう前記対物光学系の視線方向と、前記球形の中心から前記対物光学系の視線方向が交差する前記臓器内面上の位置に向かう垂線方向とのなす角度が90度に近い値に設定された閾値以上であると判定した場合には、前記第1のスケール画像を生成するように決定し、前記なす角度が前記閾値未満と判定した場合には、前記第2のスケール画像を生成するように決定することを特徴とする請求項10に記載の内視鏡システム。 - 先端部に前記対物光学系が設けられた内視鏡の挿入部は、前記被検体の臓器内に挿入され、
前記情報取得部は、前記対物光学系の位置及び視線方向を、前記位置情報及び前記視線方向情報として取得し、
前記第2のスケール画像生成部は、前記対物光学系の視線方向が交差する前記臓器内面上の基準位置から、前記臓器内面上において互いに直交する方向に沿って基準長の長さを単位として格子状に複数の位置を設定し、前記複数の位置に対応する前記被検体画像としての臓器画像上における複数の対応位置を取得し、取得した前記複数の対応位置を格子状に線で結んで前記第2のスケール画像を生成することを特徴とする請求項1又は10に記載の内視鏡システム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014185459 | 2014-09-11 | ||
JP2014185459 | 2014-09-11 | ||
PCT/JP2015/075327 WO2016039292A1 (ja) | 2014-09-11 | 2015-09-07 | 内視鏡システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2016039292A1 true JPWO2016039292A1 (ja) | 2017-04-27 |
Family
ID=55459040
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016530258A Pending JPWO2016039292A1 (ja) | 2014-09-11 | 2015-09-07 | 内視鏡システム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JPWO2016039292A1 (ja) |
WO (1) | WO2016039292A1 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002156212A (ja) * | 2000-11-21 | 2002-05-31 | Olympus Optical Co Ltd | 目盛表示装置及びその方法 |
JP2005118107A (ja) * | 2003-10-14 | 2005-05-12 | Pentax Corp | 画像表示システム |
JP2010102113A (ja) * | 2008-10-23 | 2010-05-06 | Olympus Corp | 画像処理装置、内視鏡装置、内視鏡システム、およびプログラム |
-
2015
- 2015-09-07 WO PCT/JP2015/075327 patent/WO2016039292A1/ja active Application Filing
- 2015-09-07 JP JP2016530258A patent/JPWO2016039292A1/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002156212A (ja) * | 2000-11-21 | 2002-05-31 | Olympus Optical Co Ltd | 目盛表示装置及びその方法 |
JP2005118107A (ja) * | 2003-10-14 | 2005-05-12 | Pentax Corp | 画像表示システム |
JP2010102113A (ja) * | 2008-10-23 | 2010-05-06 | Olympus Corp | 画像処理装置、内視鏡装置、内視鏡システム、およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
WO2016039292A1 (ja) | 2016-03-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9516993B2 (en) | Endoscope system | |
US9326660B2 (en) | Endoscope system with insertion support apparatus | |
JP6242569B2 (ja) | 医用画像表示装置及びx線診断装置 | |
JP5918548B2 (ja) | 内視鏡画像診断支援装置およびその作動方法並びに内視鏡画像診断支援プログラム | |
US9357945B2 (en) | Endoscope system having a position and posture calculating portion | |
JP5977900B2 (ja) | 画像処理装置 | |
JP5750669B2 (ja) | 内視鏡システム | |
JP6141559B1 (ja) | 医療装置、医療画像生成方法及び医療画像生成プログラム | |
JPWO2014156378A1 (ja) | 内視鏡システム | |
JP5785120B2 (ja) | 医用画像診断支援装置および方法並びにプログラム | |
JP3707830B2 (ja) | 術式支援用画像表示装置 | |
JP6022133B2 (ja) | 医療装置 | |
WO2017212725A1 (ja) | 医療用観察システム | |
WO2016076262A1 (ja) | 医療装置 | |
JP2017205343A (ja) | 内視鏡装置、内視鏡装置の作動方法 | |
JP5613353B2 (ja) | 医療装置 | |
JP7441934B2 (ja) | 処理装置、内視鏡システム及び処理装置の作動方法 | |
US10694929B2 (en) | Medical equipment system and operation method of medical equipment system | |
WO2016039292A1 (ja) | 内視鏡システム | |
EP3782529A1 (en) | Systems and methods for selectively varying resolutions | |
US20240057847A1 (en) | Endoscope system, lumen structure calculation system, and method for creating lumen structure information | |
JP2016209343A (ja) | 医療装置、医療画像生成方法及び医療画像生成プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20170321 |