JP4624802B2 - 内視鏡装置、及びそのプログラム - Google Patents

内視鏡装置、及びそのプログラム Download PDF

Info

Publication number
JP4624802B2
JP4624802B2 JP2005000186A JP2005000186A JP4624802B2 JP 4624802 B2 JP4624802 B2 JP 4624802B2 JP 2005000186 A JP2005000186 A JP 2005000186A JP 2005000186 A JP2005000186 A JP 2005000186A JP 4624802 B2 JP4624802 B2 JP 4624802B2
Authority
JP
Japan
Prior art keywords
image
reference image
moving object
tip
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005000186A
Other languages
English (en)
Other versions
JP2006187386A5 (ja
JP2006187386A (ja
Inventor
史生 堀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2005000186A priority Critical patent/JP4624802B2/ja
Publication of JP2006187386A publication Critical patent/JP2006187386A/ja
Publication of JP2006187386A5 publication Critical patent/JP2006187386A5/ja
Application granted granted Critical
Publication of JP4624802B2 publication Critical patent/JP4624802B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Endoscopes (AREA)
  • Studio Devices (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本発明は、撮像素子を挿入部の先端部内に備えると共に、その先端部が湾曲し撮像方向を制御することが可能な内視鏡装置に関する。
従来、撮像素子を挿入部の先端部内に備えた内視鏡装置がある。
例えば特許文献1には、複数の撮像素子を挿入部先端部内に備え、広視野で連続性のあるパノラマ画像を得ることのできる内視鏡装置が記載されている。
また、撮像素子を挿入部の先端部内に備えると共に、その先端部が湾曲し撮像方向を制御することが可能な内視鏡装置がある。このような内視鏡装置の中には、背景差分方式により撮像中に撮像範囲に入った動体を検出できるようにしたものもある。尚、背景差分方式による動体検出は、予め撮像範囲の背景画像を登録しておき、その背景画像と撮像中に撮像範囲に入った動体の画像との差分を取り、その差分を動体として検出する方式である。例えば特許文献2には、この背景差分方式により動体を検出する画像処理装置が記載されている。また、特許文献3には、背景差分方式により、撮像した画像の中の移動体を自動検出し、さらにその移動体を自動追尾する移動体追尾装置が記載されている。
特開2000−325306号広報 特開2004−23373号広報 特開2001−285695号広報
ところで、上述の、動体を検出可能な内視鏡装置では、挿入部先端部の湾曲位置が固定された状態で使用されることが前提になっているため、挿入部先端部を湾曲させたい場合、例えば動体の動きに合わせてその先端部を追尾させたい場合などには、適用が困難である。また、背景差分方式により動体検出を行う場合、挿入部先端部が湾曲すると背景画像を登録し直す必要があるが、その先端部が湾曲するたびに背景画像を登録するのは極めて効率が悪く、また動体検出中は動体が撮像範囲の中に入ってしまうため、背景のみを取り出すことは技術的に困難である。
本発明は、上記実情に鑑み、挿入部先端部を湾曲させた場合でも、背景画像を再度撮像、登録することなく動体検出を行うことができる、装置及びプログラムを提供することを目的とする。
上記目的を達成するため、本発明の第1の態様に係る内視鏡装置は、撮像画像を取得する撮像手段と、内視鏡挿入部の先端部を湾曲させる湾曲制御手段と、前記先端部が湾曲された状態の前記先端部の位置を取得する湾曲位置取得手段と、前記撮像手段により取得された複数の前記撮像画像を貼り合わせてパノラマ画像を作成するパノラマ画像作成手段と、前記湾曲位置取得手段により取得された前記先端部の位置に対応して前記パノラマ画像作成手段により作成された前記パノラマ画像内の複数の前記撮像画像の撮像中心点を線形補間した点を中心とする所定領域を参照画像として抽出する参照画像抽出手段と、前記参照画像抽出手段により抽出された参照画像と、この参照画像が抽出されたときの前記先端部の位置で前記撮像手段により取得された撮像画像との差分を動体として検出する動体検出手段とを備える。
尚、本発明は、これらの装置に限らず、その他、動体を検出する方法及びプログラムとして構成することも可能である。
本発明によれば、例えば撮像範囲に入った動体の動きに合わせて挿入部先端部を追尾させるなど、挿入部先端部を湾曲させた場合でも、背景画像を再度撮像、登録することなく動体検出を行うことができる。
以下、本発明の実施の形態を図面を参照しながら説明する。
図1は、本発明の実施例1に係る内視鏡装置を含む内視鏡システムの構成図である。
同図において、本システムは、主要構成として、対象物を撮像するための撮像素子を先端部内に備えるスコープ(内視鏡挿入部)1を取り付けた内視鏡ユニット2と、内視鏡ユニット2からの信号を映像信号に変換するカメラコントロールユニット(以下「CCU」という)3と、複数のスイッチを備えスイッチ操作に応じた制御(例えばスコープ先端部の湾曲制御等)を可能にするリモコン4と、本システム全体の動作を制御する内視鏡装置5と、内視鏡装置5からの映像信号に従った映像(スコープ1により撮像された画像など)や後述の動作により検出された動体の情報などを出力(表示)する映像出力装置6などを有する。
上記内視鏡装置5は、システム制御部7、映像信号処理回路8、及びRS−232Cインターフェース9などを備えている。
システム制御部7は、内部に、本装置5を含む本システム全体の動作を制御するための制御プログラムが記録されたROM10と、その制御プログラムを読み出し実行することにより本装置5を含む本システム全体の動作を制御するCPU11と、CPU11により実行される制御プログラムが一時的に格納されたりCPU11の作業領域が確保されたりするRAM12などを備えている。尚、スコープ先端部の湾曲制御は、リモコン4のスイッチ操作に応じて、或いは、CPU11により実行される制御プログラムによって、行われるようになっている。すなわち、手動或いは自動によりスコープ先端部の湾曲制御が可能になっている。
映像信号処理回路8は、CCU3からの映像信号に所定の信号処理を行って映像出力装置7へ出力するインターフェース機能を有する。RS−232Cインターフェース9は、本装置5と外部機器(本実施例では内視鏡ユニット2,CCU3,リモコン4)との間で信号の送受を可能にするためのインターフェースである。ここで、リモコン4とRS−232Cインターフェース9は、例えばケーブルにより接続される。
この内視鏡装置5において、ROM10、CPU11、RAM12、映像信号処理回路8、及びRS―232Cインターフェース9は、それぞれバス13に接続されており、相互に信号(データ)の送受が可能になっている。
次に、図2乃至12を用いて、本システムの内視鏡装置5によって行われる動体検出動作について説明する。
図2は、本実施例に係る動体検出動作に係る内視鏡装置5の機能ブロック図である。図3乃至5は、背景を複数枚撮像する処理を説明するための図である。図6は、平面射影変換の概要を説明するための図である。図7乃至10は、保存された複数の背景画像を貼り合わせて1枚の広視野のパノラマ画像を作成する処理を説明するための図である。図11乃至12は、パノラマ画像から参照画像を抽出して動体検出を行うまでの処理を説明するための図である。
はじめに図2に示したように、本動作では、まず、スコープ先端部の湾曲範囲をカバーするパノラマ画像の作成に必要な複数の背景画像BKを得るため、ブロックBL01は、スコープ1の撮像素子により背景を複数枚撮像する処理を行う。詳しくは、図3に示したように、まず、スコープ先端部をスコープ湾曲位置(スコープ先端部の湾曲位置)SP1に湾曲させ、背景16を撮像範囲R1の範囲で撮像して得た背景画像BK1を保存する。続いて、スコープ先端部をスコープ湾曲位置SP2に湾曲させ、背景16を撮像範囲R2の範囲で撮像して得た背景画像BK2を保存する。このとき、撮像範囲R1とR2との間に所定の範囲で重なり部(同図の着色された部分14)を持たせるようにしておく。続いて、スコープ先端部をスコープ範囲SP3に湾曲させ、背景16を撮像範囲R3の範囲で撮像して得た背景画像BK3を保存する。このときも、撮像範囲R2とR3との間に所定の範囲で重なり部(同図の着色された部分15)を持たせるようにしておく。以下同様に、図4に示したように、スコープ先端部を順次湾曲させ、隣り合う撮像範囲の間に所定の範囲で重なり部を持たせるようにしながら、スコープ先端部の湾曲範囲がカバーする背景16の全ての範囲について撮像を行う。
図5は、このようなブロックBL01が行う処理、すなわち、背景を複数枚撮像する処理に係るフローチャートを示す図である。同図に示したように、本処理では、まず、n=1とし(ステップ(以下単に「S」という)1)、続いて、スコープ湾曲位置SPnにスコープ先端部を湾曲させ(S2)、背景16を撮像範囲Rnの範囲で撮像し(S3)、得られた背景画像BKnを保存する(S4)。但し、S3において、n≧2である場合には、隣り合う撮像範囲の間に所定の範囲で重なり部を持たせるように背景16を撮像範囲Rnの範囲で撮像する。続いて、必要な全てのスコープ湾曲位置で背景画像を保存したか否かを判定し(S5)、その判定結果がYesの場合には本フローを終了し、Noの場合にはnをインクリメントしてS2へ戻り、次のスコープ湾曲位置SPnについて、上述の処理を繰り返す。
このようにして、必要な全てのスコープ湾曲位置で得た背景画像を保存すると、図2に示したブロックBL02は、保存された複数の背景画像を貼り合わせ、ブロックBL03は、その貼り合わせた背景画像から1枚の広視野のパノラマ画像を作成する。
ここで、複数の画像を貼り合わせて1枚の広視野のパノラマ画像を作成する手法の一例を説明する。一般に、画像の貼り合わせには画像間の幾何変換が用いられる。幾何変換には様々なものがあるが、ここでは平面射影変換を用いた場合を例に説明する。対象とする背景が遠景の場合や近景の場合であっても平面的な対象物しか写っていない場合には、それぞれの背景画像の間には平面射影変換が成り立つ。この平面射影変換の概要を、図6を用いて説明する。同図に示したように、平面P上の点Mを2つの異なる視点VP1、VP2から観察したとき、これらの画像面S1、S2上の点IP1、IP2の間の座標変換は線形であり、平面射影変換と呼ばれる。画像面S1上の点IP1(x1,y1,1)と、画像面S2上の点IP2(x2,y2,1)との間の平面射影変換式は、次の式(1)で定義される。
但し、kは0でない数である。
一旦、この変換行列が求まると、視点VP1から撮像された画像を、その画像座標を変換して、あたかも別の視点VP2から観察しているような画像を作成することができる。
画像の貼り合わせを行うには、この変換行列をどのように算出するのかが問題となるが、画像間の重なり部に関して、それぞれ対応付けることのできる特徴点(対応点)を所定数以上見つけることによって、この変換行列を算出することができる。
本実施例では、この変換行列を次のようにして算出する。まず、図7に示したように、保存した複数の背景画像の中から、スコープ先端部が湾曲していない状態で撮像した画像を基準画像として選択し、これを第1画像17とする。尚、画像の貼り合わせは、全てこの基準画像の視点から観察した観察画像として行われる。続いて、図8に示したように、保存された背景画像の中から、第1画像17と重なり部を持つ背景画像を選択し、これを第2画像18とする。そして、図9に示したように、第1画像17及び第2画像18の間でマッチングを取り、重なり部19において所定数以上の特徴点(同図の黒点)を抽出し、その特徴点の対応付けを行うことにより、式(1)の平面射影変換のパラメータm1〜m9が求まり変換行列を算出することができる。この変換行列を用いて、基準画像の視点から観察した観察画像として、第1画像17及び第2画像18を貼り合わせる。この貼り合わせが完了したら、その貼り合せた画像20を新たな第1画像とする。以下、残りの背景画像についても同様にして貼り合わせを行うことにより、基準画像の視点から観察した1枚の広視野のパノラマ画像を作成することができる。
図10は、このような図2に示したブロックBL02及びBL03が行う処理、すなわち、保存された複数の背景画像を貼り合わせて1枚の広視野のパノラマ画像を作成する処理に係るフローチャートを示す図である。同図に示したように、本処理では、まず、保存した複数の背景画像の中から、スコープ先端部が湾曲していない状態で撮像した画像を基準画像として選択し(S11)、その基準画像を第1画像とする(S12)。続いて、保存した背景画像の中から、第1画像と重なり部を持つ画像を選択し、それを第2画像とする(S13)。続いて、第1画像及び第2画像との間でマッチングを取り(S14)、その間での重なり部において所定数以上の特徴点を抽出し(S15)、第1画像及び第2画像それぞれの特徴点の位置から変換行列を算出する(S16)。すなわち、その重なり部における特徴点の対応付けを行うことにより、式(1)の平面射影変換のパラメータm1〜m9を求めて変換行列を算出する。続いて、その変換行列を用いて、基準画像の視点から観察した観察画像として、第1画像及び第2画像を貼り合わせる(S17)。この貼り合わせが完了したら、続いて、保存された全ての背景画像の貼り合わせが完了したか否かを判定し(S18)、その判定結果がYesの場合には、パノラマ画像の作成が完了し(S19)、本フローを終了する。一方、S18がNoの場合には、S17で貼り合わせた画像を新たな第1画像として、S13へ進み、残りの背景画像について、上述の処理を繰り返す。
このようにして、パノラマ画像の作成が完了すると、動体検出が可能な状態となる。そして、この動体検出が開始されると、図2に示したブロックBL06は、現在のスコープ湾曲位置(仮にSPcとする)を取得し、ブロックBL04は、そのスコープ湾曲位置SPcを基に、パノラマ画像から参照画像を抽出する。
ここで、このパノラマ画像から参照画像を抽出する手法の一例を、図11を用いて説明する。同図に示したように、複数の背景画像を貼り合わせたパノラマ画像PIにおいて、その各背景画像における撮像中心点をそれぞれC1乃至C9(同図の黒丸)とし、そのうちの2点C4、C5に対応するスコープ湾曲位置をSP4、SP5とする。この場合において、例えば、現在のスコープ湾曲位置SPcがSP4及びSP5のちょうど中間にあったときには、C4及びC5の中心点CM(同図の白丸)を中心とする所定領域21を参照画像として抽出する。すなわち、スコープ湾曲位置に対応してパノラマ画像内の撮像中心点を線形補間した点を中心とする所定領域を参照画像として抽出する。尚、このときに抽出される参照画像は、スコープ1の撮像範囲よりも少し大きめにしておくことが望ましい。
このようにして、スコープ湾曲位置SPcに基づいてパノラマ画像から参照画像を抽出すると、図2に示したブロックBL05は、その参照画像を平面射影変換により補正する。詳しくは、抽出した参照画像が、スコープ湾曲位置SPcの視点から観察した画像となるように平面射影変換を行う。これが終わると、ブロックBL07は、そのスコープ湾曲位置SPcで撮像して撮像画像を取得し、ブロックBL08は、ブロックBL05により補正(平面射影変換)された参照画像が、ブロックBL07により得られた撮像画像(但し、動体が写っていないと仮にしたときの撮像画像)と一致するように、マッチングにより参照画像のサイズ,位置,及び歪みを補正する。より詳しくは、このブロックBL08で行われるマッチングによる補正は、例えば、補正対象とする画像(本実施例ではブロックBL05で補正された参照画像)においてマッチングを行うための領域(格子状に並ぶ9つの領域など)を予め定めておき、それぞれの領域において比較対象とする画像(本実施例ではブロックBL07で得られた撮像画像)と比較し、その結果導出されたマッチング結果(領域の一致度、ズレ量など)を平均化し、それをマッチングデータとして用いて補正対象とする画像の補正(歪み、拡大/縮小など)を行うものである。すなわち、撮像画像に動体が含まれていないと仮にしたときの、補正対象とする画像と比較対照とする画像とが一致するように補正するものである。
但し、このようなマッチングによる補正を行い動体検出を行っていることから、動体検出は、マッチングによる補正を適正に行う程度の背景が撮像画像に写っている場合、すなわち、基本的に撮像画像に対して写っている動体が相対的に小さい場合にのみ行うものとし、撮像画像全体を覆うような動体が写っていた場合には、背景自体がほとんど写っていないことになるのでマッチングによる補正を行わず動体検出を行わないようにする。或いは、この場合には、撮像画像全体を動体とみなすようにしても良い。
このようにして、ブロックBL08でのマッチングによる補正が終わると、ブロックBL09は、ブロックBL08により補正された参照画像と、ブロックBL07により得られた撮像画像との差分を取り、ブロックBL10は、その差分を動体として検出する。
図12は、このような図2に示したブロックBL04乃至BL10が行う処理、すなわち、実際に動体を検出する処理に係るフローチャートを示す図である。同図に示したように、本処理では、まず、現在のスコープ湾曲位置SPcを読み込み(S31)、そのスコープ湾曲位置SPcを基にパノラマ画像から参照画像を抽出し(S32)、その参照画像を平面射影変換により補正する(S33)。続いて、そのスコープ湾曲位置SPcで撮像して撮像画像を取得し(S34)、S33で補正された参照画像をS34で取得された撮像画像とのマッチングにより補正し(S35)、S34で取得された撮像画像と、S35で補正された参照画像との差分を取り(S36)、その差分を動体として検出する(S37)。続いて、動体検出動作を終了するか否かを判定し(S38)、その判定結果がYesの場合には本フローを終了し、Noの場合にはS31へ戻って上述の処理を繰り返す。
以上、本実施例によれば、背景を撮像して得た複数の背景画像から作成したパノラマ画像は、平面射影変換により視点の変更、拡大・緒小、及び回転が可能であることから、動体検出中のスコープ状態(湾曲位置、回転角度、ズーム状態など)が背景撮像時と異なる場合であっても、スコープ状態に応じて適当な参照画像を抽出することができる。従って、このように動体検出前に予めパノラマ画像を作成しておくことで、スコープ先端部を湾曲させた場合でも背景画像を再度撮像、登録することなく動体検出を行うことができ、スコープ状態に左右されない柔軟性のある動体検出が可能になる。
上述の実施例1は、動体検出の際に、参照画像が撮像画像の視点から観察した画像となるよう平面射影変換し、その変換後の参照画像を撮像画像とのマッチングにより補正し、その補正後の参照画像と撮像画像との差分を取って動体を検出するものであったが、本実施例は、その動体検出の際に、撮像画像が参照画像の視点から観察した画像となるよう平面射影変換し、その変換後の撮像画像を参照画像とのマッチングにより補正し、その補正後の撮像画像と参照画像との差分を取って動体を検出するようにしたものである。
図13は、本実施例に係る動体検出動作に係る内視鏡装置5の機能ブロック図である。同図において、ブロックBL01乃至BL04、ブロックBL06乃至BL07、及びブロックBL10は、図2に示したものと同じである。
ブロックBL11は、ブロックBL07で取得された撮像画像を平面射影変換により補正する。すなわち、その撮像画像が、ブロックBL04で抽出された参照画像の視点から観察した画像となるように、その参照画像の視点に対応するスコープ湾曲位置を基に撮像画像の平面射影変換を行う。ブロックBL12は、ブロックBL11で補正された撮像画像(但し、動体が写っていないと仮にしたときの撮像画像)が、その参照画像と一致するように、その撮像画像のサイズ,位置,及び歪みをマッチングにより補正する。ブロックBL13は、ブロックBL12により補正された撮像画像と、ブロックBL04で抽出された参照画像との差分を取り、ブロックBL10は、その差分を動体として検出する。
図14は、このような図13に示したブロックBL04、BL06乃至BL07、BL11乃至BL13、及びブロックBL10が行う処理、すなわち、実際に動体を検出する処理に係るフローチャートを示す図である。同図において、S41乃至42では、図12のS31乃至32の処理と同様の処理が行われる。続いて、上記スコープ湾曲位置SPcで撮像して撮像画像を取得し(S43)、その撮像画像を平面射影変換により補正し(S44)、このS44で補正された撮像画像をS42で抽出された参照画像とのマッチングにより補正し(S45)、その補正された撮像画像と、S42で抽出された参照画像との差分を取る(S46)。以降のS47乃至48では、図12のS37乃至38と同様の処理が行われる。
以上、本実施例によっても、実施例1と同様の効果を得ることができる。
本実施例は、実施例1における動体検出を行った後に、更に、検出した動体の位置を取得し、その位置がスコープ1の撮像中心となるようにスコープ先端部を湾曲させることにより、動体の動きに合わせてスコープ先端部を湾曲追尾させるようにしたものである。
図15は、本実施例に係る動体検出動作に係る内視鏡装置5の機能ブロック図である。同図に示したように、図2に示した構成に加え、更にブロックBL14及びBL15が追加されている。ブロックBL14は、ブロックBL03で作成されたパノラマ画像内における、ブロックBL10で検出された動体の位置を取得する。ブロックBL15は、スコープ1の撮像中心が、ブロックBL14で取得されたパノラマ画像内の動体の位置となるように、スコープ先端部を湾曲させる。これにより、スコープ先端部を動体に追尾させることができる。
図16、図17、及び図18は、スコープ先端部を動体に追尾させる手法の一例を説明する図である。まず、図16に示したように、ブロックBL07で得られた撮像画像22と、ブロックBL08で補正された参照画像との差分を取ることによって動体23を検出し、そのブロックBL08で補正された参照画像の元となる、ブロックBL04でパノラマ画像PIから抽出された参照画像24における、その動体23の位置MP1を取得する。そして、その動***置MP1に対応する、パノラマ画像PIにおける動***置MP2を取得する。尚、この動***置MP2は、パノラマ画像PIの何れの領域を参照画像として抽出したかを記憶しておくことによって、算出することができる。続いて、図17に示したように、パノラマ画像PIにおける動***置MP2の近傍にある、背景撮像時(背景画像取得時)の撮像中心点C2、C3、C5、C6に対応するスコープ湾曲位置をSP2、SP3、SP5、SP6とする。そして、図18に示したように、撮像中心点C2、C3、C5、C6に対する動***置MP2の相対的な位置関係を線形補間によって求め、動***置MP2に対応するスコープ湾曲位置SPMを、スコープ湾曲位置SP2、SP3、SP5、SP6を線形補間することによって算出し、そのスコープ湾曲位置SPMにスコープ先端部を湾曲させる。これにより、スコープ1の撮像中心を動***置MP2へ移動させ、スコープ先端部を動体23に追尾させることが可能になる。
図19は、このようなスコープ先端部を動体に追尾させる処理に係るフローチャートを示す図である。本処理では、まず、実施例1で説明したようにして動体を検出すると(S51)、その動体を検出する際に使用したブロックBL04でパノラマ画像から抽出された参照画像内における動体の位置を取得する(S52)。続いて、そのパノラマ画像内における動体の位置を取得し(S53)、そのパノラマ画像内における動***置から、対応するスコープ湾曲位置を算出し(S54)、その算出したスコープ湾曲位置にスコープ先端部を湾曲させる。(S55)。続いて、動体検出動作が終了したか否かを判定し(S56)、その判定結果がYesの場合には本フローが終了し、Noの場合にはS51へ戻り、上述の処理を繰り返す。
以上、本実施例によれば、更に、動体の動きに合わせてスコープ先端部を動体に追尾させることが可能なる
本実施例は、実施例2における動体検出を行った後に、更に、検出した動体の位置を取得し、その位置がスコープ1の撮像中心となるようにスコープ先端部を湾曲させることにより、動体の動きに合わせてスコープ先端部を湾曲追尾させるようにしたものである。
図20は、本実施例に係る動体検出動作に係る内視鏡装置5の機能ブロック図である。同図に示したように、図13に示した構成に加え、更にブロックBL14及びBL15が追加されている。ブロックBL14及び15は上述の実施例3で説明したとおりである。また、スコープ先端部を動体に追尾させる処理も上述の実施例3で説明したとおりである。
以上、本実施例によっても、実施例3と同様の効果を得ることができる。
以上、本発明について詳細に説明したが、本発明は上記実施形態に限定されず、本発明の要旨を逸脱しない範囲において、各種の改良及び変更を行っても良いのはもちろんである。
実施例1に係る内視鏡装置を含む内視鏡システムの構成図である。 実施例1に係る動体検出動作に係る内視鏡装置の機能ブロック図である。 背景を複数枚撮像する処理を説明するための第1の図である。 背景を複数枚撮像する処理を説明するための第2の図である。 背景を複数枚撮像する処理に係るフローチャートを示す図である。 平面射影変換の概要を説明するための図である。 複数の背景画像を貼り合わせて1枚の広視野のパノラマ画像を作成する処理を説明するための第1の図である。 複数の背景画像を貼り合わせて1枚の広視野のパノラマ画像を作成する処理を説明するための第2の図である。 複数の背景画像を貼り合わせて1枚の広視野のパノラマ画像を作成する処理を説明するための第3の図である。 複数の背景画像を貼り合わせて1枚の広視野のパノラマ画像を作成する処理に係るフローチャートを示す図である。 パノラマ画像から参照画像を抽出する手法を説明するための図である。 実施例1に係る、実際に動体を検出する処理に係るフローチャートを示す図である。 実施例2に係る動体検出動作に係る内視鏡装置の機能ブロック図である。 実施例2に係る、実際に動体を検出する処理に係るフローチャートを示す図である。 実施例3に係る動体検出動作に係る内視鏡装置の機能ブロック図である。 スコープ先端を動体に追尾させる手法の一例を説明するための第1の図である。 スコープ先端を動体に追尾させる手法の一例を説明するための第2の図である。 スコープ先端を動体に追尾させる手法の一例を説明するための第3の図である。 スコープ先端を動体に追尾させる処理に係るフローチャートを示す図である。 実施例4に係る動体検出動作に係る内視鏡装置の機能ブロック図である。
符号の説明
1 スコープ
2 内視鏡ユニット
3 カメラコントロールユニット
4 リモコン
5 内視鏡装置
6 映像出力装置
7 システム制御部
8 映像信号処理回路
9 RS−232Cインターフェース
10 ROM
11 CPU
12 RAM
13 バス
14、15 重なり部
16 背景
17 第1画像
18 第2画像
19 重なり部
20 貼り合わせた画像
21 所定領域
22 撮像画像
23 動体
24 参照画像

Claims (6)

  1. 撮像画像を取得する撮像手段と、
    内視鏡挿入部の先端部を湾曲させる湾曲制御手段と、
    前記先端部が湾曲された状態の前記先端部の位置を取得する湾曲位置取得手段と、
    前記撮像手段により取得された複数の前記撮像画像を貼り合わせてパノラマ画像を作成するパノラマ画像作成手段と、
    前記湾曲位置取得手段により取得された前記先端部の位置に対応して前記パノラマ画像作成手段により作成された前記パノラマ画像内の複数の前記撮像画像の撮像中心点を線形補間した点を中心とする所定領域を参照画像として抽出する参照画像抽出手段と、
    前記参照画像抽出手段により抽出された参照画像と、この参照画像が抽出されたときの前記先端部の位置で前記撮像手段により取得された撮像画像との差分を動体として検出する動体検出手段と
    を備えることを特徴とする内視鏡装置。
  2. 前記パノラマ画像作成手段は、前記先端部の異なる複数の位置で前記撮像手段により取得された複数の前記撮像画像であって、前記撮像画像間で重なり部を有する複数の前記撮像画像を貼り合わせて、前記パノラマ画像を作成することを特徴とする請求項1記載の内視鏡装置。
  3. 前記動体検出手段は、
    前記参照画像抽出手段により抽出された参照画像が、この参照画像が抽出されたときの前記先端部の位置を視点として観察した画像となるように、この参照画像を平面射影変換する変換手段と、
    この変換手段により平面射影変換された参照画像と、この参照画像が抽出されたときの前記先端部の位置で前記撮像手段により取得された撮像画像とが一致するように、前記平面射影変換された参照画像を補正する補正手段と、
    を有し、
    前記補正手段により補正された参照画像と、この参照画像が抽出されたときの前記先端部の位置で前記撮像手段により取得された撮像画像との差分を動体として検出することを特徴とする請求項1又は2記載の内視鏡装置。
  4. 前記動体検出手段は、
    前記参照画像抽出手段により前記参照画像が抽出されたときの前記先端部の位置で前記撮像手段により取得された撮像画像が、前記参照画像の視点と同一の視点から観察した画像になるように、この撮像画像を平面射影変換する変換手段と、
    前記参照画像と、前記変換手段により平面射影変換された撮像画像とが一致するように、前記平面射影変換された撮像画像を補正する補正手段と、
    を有し、
    前記参照画像と、前記補正手段により補正された撮像画像との差分を動体として検出することを特徴とする請求項1又は2記載の内視鏡装置。
  5. 前記動体検出手段により検出された動体の、前記パノラマ画像内における位置を算出する動***置算出手段と、
    前記動***置算出手段により算出された位置に応じて、対応する前記先端部の位置を算出する湾曲位置算出手段と、
    を更に備え、
    前記湾曲制御手段が前記湾曲位置算出手段により算出された前記先端部の位置に前記先端部を湾曲させることにより、前記先端部を前記動体に追尾させる
    ことを特徴とする請求項1乃至4の何れか一項記載の内視鏡装置。
  6. 撮像手段によって得られる撮像画像を取得する画像取得機能と、
    内視鏡挿入部の先端部を湾曲させる湾曲制御機能と、
    前記先端部が湾曲された状態の前記先端部の位置を取得する湾曲位置取得機能と、
    前記画像取得機能により取得された複数の前記撮像画像を貼り合わせてパノラマ画像を作成するパノラマ画像作成機能と、
    前記湾曲位置取得機能により取得された前記先端部の位置に対応して前記パノラマ画像作成機能により作成された前記パノラマ画像内の複数の前記撮像画像の撮像中心点を線形補間した点を中心とする所定領域を参照画像として抽出する参照画像抽出機能と、
    前記参照画像抽出機能により抽出された参照画像と、この参照画像が抽出されたときの前記先端部の位置で撮像された撮像画像との差分を動体として検出する動体検出機能と
    を実現させるためのプログラム。
JP2005000186A 2005-01-04 2005-01-04 内視鏡装置、及びそのプログラム Expired - Fee Related JP4624802B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005000186A JP4624802B2 (ja) 2005-01-04 2005-01-04 内視鏡装置、及びそのプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005000186A JP4624802B2 (ja) 2005-01-04 2005-01-04 内視鏡装置、及びそのプログラム

Publications (3)

Publication Number Publication Date
JP2006187386A JP2006187386A (ja) 2006-07-20
JP2006187386A5 JP2006187386A5 (ja) 2008-02-21
JP4624802B2 true JP4624802B2 (ja) 2011-02-02

Family

ID=36795112

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005000186A Expired - Fee Related JP4624802B2 (ja) 2005-01-04 2005-01-04 内視鏡装置、及びそのプログラム

Country Status (1)

Country Link
JP (1) JP4624802B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4877154B2 (ja) * 2007-08-24 2012-02-15 カシオ計算機株式会社 画像処理装置、撮像装置、画像処理方法、および、プログラム
EP2222075A4 (en) * 2007-12-18 2011-09-14 Sony Corp DATA PROCESSING APPARATUS, DATA PROCESSING METHOD, AND STORAGE MEDIUM
JP6004978B2 (ja) * 2013-03-26 2016-10-12 Kddi株式会社 被写体画像抽出装置および被写体画像抽出・合成装置
JP6168849B2 (ja) * 2013-05-29 2017-07-26 オリンパス株式会社 内視鏡装置及び内視鏡画像の撮影方法
CN108697315B (zh) 2016-02-23 2021-09-03 国立大学法人三重大学 激光内窥镜装置
WO2019087269A1 (ja) * 2017-10-31 2019-05-09 オリンパス株式会社 内視鏡システム
JP7049220B2 (ja) 2018-08-30 2022-04-06 オリンパス株式会社 画像取得装置および画像取得装置の作動方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05153459A (ja) * 1991-11-28 1993-06-18 Matsushita Electric Ind Co Ltd 動体追尾装置
JPH067289A (ja) * 1992-03-27 1994-01-18 Olympus Optical Co Ltd 内視鏡画像処理装置
JPH08332169A (ja) * 1995-06-08 1996-12-17 Olympus Optical Co Ltd 体腔内観察装置
JPH11318819A (ja) * 1998-05-14 1999-11-24 Olympus Optical Co Ltd 内視鏡手術システム
JP2000325306A (ja) * 1991-03-11 2000-11-28 Olympus Optical Co Ltd 内視鏡装置
JP2001285695A (ja) * 2000-03-30 2001-10-12 Nec Corp 移動体追尾方法及びその装置
JP2004023373A (ja) * 2002-06-14 2004-01-22 Canon Inc 画像処理装置及びその方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JP2004186922A (ja) * 2002-12-02 2004-07-02 Chuo Electronics Co Ltd 複数台のカメラを使用した広域撮影方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000325306A (ja) * 1991-03-11 2000-11-28 Olympus Optical Co Ltd 内視鏡装置
JPH05153459A (ja) * 1991-11-28 1993-06-18 Matsushita Electric Ind Co Ltd 動体追尾装置
JPH067289A (ja) * 1992-03-27 1994-01-18 Olympus Optical Co Ltd 内視鏡画像処理装置
JPH08332169A (ja) * 1995-06-08 1996-12-17 Olympus Optical Co Ltd 体腔内観察装置
JPH11318819A (ja) * 1998-05-14 1999-11-24 Olympus Optical Co Ltd 内視鏡手術システム
JP2001285695A (ja) * 2000-03-30 2001-10-12 Nec Corp 移動体追尾方法及びその装置
JP2004023373A (ja) * 2002-06-14 2004-01-22 Canon Inc 画像処理装置及びその方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JP2004186922A (ja) * 2002-12-02 2004-07-02 Chuo Electronics Co Ltd 複数台のカメラを使用した広域撮影方法

Also Published As

Publication number Publication date
JP2006187386A (ja) 2006-07-20

Similar Documents

Publication Publication Date Title
JP2012138771A (ja) 映像信号処理装置及び映像信号処理方法
JP2007034985A (ja) 情報処理方法および装置
JP4964852B2 (ja) 画像処理装置、方法及びプログラム
JP4670658B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2008118555A (ja) 画像処理装置、撮像装置、及び画像処理方法
JP4624802B2 (ja) 内視鏡装置、及びそのプログラム
WO2012029658A1 (ja) 撮像装置、画像処理装置、画像処理方法及び画像処理プログラム
US7961241B2 (en) Image correcting apparatus, picked-up image correcting method, and computer readable recording medium
JP2004342067A (ja) 画像処理方法、画像処理装置、及びコンピュータプログラム
JP5563231B2 (ja) 縞模様画像鑑定装置、縞模様画像鑑定方法及びプログラム
JP4843787B2 (ja) 被写体追尾方法及び装置
JP4346742B2 (ja) 画像合成方法、画像合成装置及び記憶媒体
JP2010110500A (ja) 撮像装置及び撮像方法
JP2010232710A (ja) 画像処理装置および画像処理方法
JP6274744B2 (ja) 画像処理装置および画像処理方法
JP4324271B2 (ja) 画像処理装置およびその方法
JPH11331696A (ja) 画像処理方法、装置および記録媒体
JP2008310418A (ja) 画像処理装置、画像処理プログラム及びそれらを搭載した電子カメラ
JP5239991B2 (ja) 画像処理装置、及び画像処理システム
JP2006187386A5 (ja)
JP6375131B2 (ja) 撮像装置、画像処理方法及び制御プログラム
JP2002058046A (ja) 撮像システムおよび3次元カメラ
JP2019129470A (ja) 画像処理装置
JP4154023B2 (ja) 画像合成方法、画像合成装置、画像合成システム、及び記憶媒体
JP7393179B2 (ja) 撮影装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071227

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100624

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100720

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100921

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101019

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101104

R151 Written notification of patent or utility model registration

Ref document number: 4624802

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131112

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees