JP6577031B2 - 内視鏡装置 - Google Patents

内視鏡装置 Download PDF

Info

Publication number
JP6577031B2
JP6577031B2 JP2017527024A JP2017527024A JP6577031B2 JP 6577031 B2 JP6577031 B2 JP 6577031B2 JP 2017527024 A JP2017527024 A JP 2017527024A JP 2017527024 A JP2017527024 A JP 2017527024A JP 6577031 B2 JP6577031 B2 JP 6577031B2
Authority
JP
Japan
Prior art keywords
image
coordinates
observation position
unit
observation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017527024A
Other languages
English (en)
Other versions
JPWO2017006449A1 (ja
Inventor
健郎 大澤
健郎 大澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2017006449A1 publication Critical patent/JPWO2017006449A1/ja
Application granted granted Critical
Publication of JP6577031B2 publication Critical patent/JP6577031B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Optics & Photonics (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本発明は、内視鏡装置に関するものである。
細長い挿入部を狭隘なスペースに挿入し、挿入部の先端に設けられた撮像部によりスペース内に存在する観察対象物の所望の領域について画像を取得して観察する内視鏡装置が知られている(例えば、特許文献1及び特許文献2参照)。
特開2012−245161号公報 特開2011−152202号公報
上記した各特許文献の内視鏡装置を用いた観察対象物の観察中に、挿入部の先端や観察対象物が意図せず動いてしまうことによって、観察すべき領域を見失ったり、挿入すべき方向を見失ったりすることがある。このような場合には、観察対象物や挿入方向を試行錯誤により探し出す必要があり、元の作業を再開するまでに多大な時間を費やすことになる。
本発明は上述した事情に鑑みてなされたものであって、観察対象物を見失ったり、挿入すべき方向を見失ったりした場合にも、観察すべき領域や挿入すべき方向を迅速に探し出して、元の作業を再開するまでの時間を短縮し利便性を向上させることができる内視鏡装置を提供することを目的としている。
本発明の一態様は、時間間隔をあけた時刻t1〜tn(nは整数)において観察対象の複数の画像I(t1)〜I(tn)を連続して取得する撮像部と、該撮像部により取得された複数の画像を処理する画像処理部と、該画像処理部により処理された画像を表示する表示部とを備え、前記画像処理部が、画像I(tn)と画像I(tn−1)との対応する画素位置を対応点として複数検出する対応点検出部と、各前記画像において観察位置の座標を特定する観察位置特定部と、該観察位置特定部により画像I(tn)における観察位置の座標が特定できなかった場合に、複数の対応点を用いて、画像I(tn−1)内に特定された前記観察位置の座標を画像I(tn)の座標系における座標に変換する座標変換処理部と、を有し、前記表示部が、前記座標変換処理部により変換された画像I(tn)の座標系における前記観察位置の座標に関する情報を前記画像処理部により処理された画像I(tn)と共に表示する内視鏡装置である。
上記態様によれば、撮像部により取得された複数の画像について、対応点検出部により画像I(tn)と画像I(tn−1)との対応する画素位置を対応点として複数検出すると共に、各画像について観察位置特定部により観察位置の座標を特定する。この処理を順次繰り返し、画像I(tn)において、観察位置の座標が特定できなかった場合には、座標変換処理部により画像I(tn)と画像I(tn−1)との複数の対応点を用いて、画像I(tn−1)内に特定された前記観察位置の座標を画像I(tn)の座標系における座標に変換する。
画像I(tn)において、観察位置の座標が特定できなかったということは、画像I(tn)中に観察位置が含まれていない、すなわち、観察位置を見失っていることが考えられる。そこで、画像I(tn)と画像I(tn−1)との複数の対応点を用いて、画像I(tn−1)内に特定された前記観察位置の座標を画像I(tn)の座標系における座標に変換することで、画像I(tn)と画像I(tn−1)との位置関係を推定することができる。
これにより、画像I(tn)からみて観察位置の座標が何れの方向に位置するかを算出し推定することができ、推定された方向を画像I(tn)の座標系における前記観察位置の座標に関する情報として、観察位置の座標が特定できなかった画像I(tn)と共に表示することで、画像I(tn)に観察位置が含まれていない場合でも、画像I(tn)からみて観察位置が何れの方向に存在するかをユーザに示すことができる。これにより、ユーザは、観察対象物を見失ったり、挿入すべき方向を見失ったりした場合にも、観察すべき領域や挿入すべき方向を迅速に探し出して、元の作業を再開するまでの時間を短縮することができる。
なお、座標変換処理部により変換された観察位置の座標の画像中心に対する方向を算出する方向推定部を備えることで、該方向推定部により、座標変換された観察位置の座標の画像中心に対する方向を算出して、画像I(tn)からみて観察位置の座標が何れの方向に位置するかを算出し推定することができる。
また本発明の他の態様は、時間間隔をあけた時刻t1〜tn(nは整数)において、観察対象の複数の画像I(t1)〜I(tn)を連続して取得する撮像部と、該撮像部により取得された複数の画像を処理する画像処理部と、該画像処理部により処理された画像を表示する表示部とを備え、前記画像処理部が、画像I(tn)と画像I(tn−1)との対応する画素位置を対応点として複数検出する対応点検出部と、複数の前記対応点に基づいて、画像I(tn)と画像I(tn−1)との離間距離を算出し、該離間距離が所定の閾値よりも大きい場合に、画像I(tn−1)に含まれる座標を観察位置の座標として特定する観察位置特定部と、複数の対応点を用いて、画像I(tn−1)内に特定された前記観察位置の座標を画像I(tn)の座標系における座標に変換する座標変換処理部と、を有し、前記表示部が、前記座標変換処理部により変換された画像I(tn)の座標系における前記観察位置の座標に関する情報を前記画像処理部により処理された画像I(tn)と共に表示する内視鏡装置である。
上記態様によれば、撮像部により取得された複数の画像について、対応点検出部により画像I(tn)と画像I(tn−1)との対応する画素位置を対応点として複数検出し、複数の対応点に基づいて、画像I(tn)と画像I(tn−1)との離間距離を算出する。この処理を順次繰り返し、観察位置特定部により、離間距離が所定の閾値よりも大きい場合に、画像I(tn−1)に含まれる(中心座標などの)座標を観察位置の座標として特定する。画像I(tn)と画像I(tn−1)との離間距離が所定の閾値よりも大きい場合は、すなわち、時刻tnとtn−1との間に大きな動きが生じ、撮像部が観察位置を見失ったと考えられる。そこで、観察位置特定部により、画像I(tn−1)に含まれる座標を観察位置の座標として特定し、座標変換処理部により、観察位置の座標を、画像I(tn)と画像I(tn−1)との複数の対応点を用いて画像I(tn)の座標系における座標に変換する。
これにより、画像I(tn)と画像I(tn−1)との位置関係を推定することができ、画像I(tn)からみて観察位置の座標が何れの方向に位置するかを算出し推定することができる。
さらに、推定された方向を観察位置の座標が特定できなかった画像I(tn)と共に表示することで、画像I(tn)に観察位置が含まれていない場合でも、画像I(tn)からみて観察位置が何れの方向に存在するかをユーザに示すことができる。これにより、ユーザは、観察対象物を見失ったり、挿入すべき方向を見失ったりした場合にも、観察すべき領域や挿入すべき方向を迅速に探し出して、元の作業を再開するまでの時間を短縮することができる。
上記態様において、前記観察位置特定部が、観察位置の座標として、前記観察対象中の管腔の最も奥の位置を示す座標を特定することができる。
このようにすることで、例えば、観察対象が大腸であって、大腸の管腔に挿入しながら検査や治療を行う場合に、進行方向を見失っても進行方向を表示することができ、ユーザは、観察すべき領域や挿入すべき方向を迅速に探し出して元の作業を再開することができる。
上記態様において、前記観察位置特定部が、観察位置の座標として、前記観察対象中の病変部の位置を示す座標を特定することができる。
このようにすることで、例えば、病変部の治療を行っている場合に、病変部を見失っても病変部の方向を表示することができ、ユーザは、治療すべき領域を迅速に探し出して元の作業を再開することができる。
本発明によれば、観察対象物を見失ったり、挿入すべき方向を見失ったりした場合にも、観察すべき領域や挿入すべき方向を迅速に探し出して、元の作業を再開するまでの時間を短縮し利便性を向上させることができるという効果を奏する。
本発明の第1の実施形態に係る内視鏡装置の概略構成を示すブロック図である。 図1の内視鏡装置により取得される画像の一例を示す説明図である。 図1の内視鏡装置により取得される画像の一例を示す説明図である。 図1の内視鏡装置により取得される画像の一例を示す説明図である。 図1の内視鏡装置により取得される画像の一例を示す説明図である。 図1の内視鏡装置により取得される画像の一例を示す説明図である。 図1の内視鏡装置により取得される画像の一例を示す説明図である。 図1の内視鏡装置において、座標変換した観察位置の方向を示す説明図である。 図1の内視鏡装置により観察位置の方向を特定し、ガイド画像を作成する場合において、ガイド画像に表示する矢印の方向を決定する際の説明図である。 図1の内視鏡装置において、表示部に表示される画像の一例を示す説明図である。 図1の内視鏡装置の作用に係るフローチャートである。 本発明の第2の実施形態に係る内視鏡装置の概略構成を示すブロック図である。 図12の内視鏡装置により取得される画像の一例を示す説明図である。 図12の内視鏡装置により取得される画像の一例を示す説明図である。
(第1の実施形態)
以下、本発明の第1の実施形態に係る内視鏡装置について、図面を参照して説明する。なお、本実施形態においては、観察対象が大腸であり、大腸内に内視鏡装置のスコープ部が挿入される場合を例として説明する。
本実施形態に係る内視鏡装置は、図1に示すように、可撓性を有し細長に構成され被検体に挿入されて観察対象の画像を取得するスコープ部2と、スコープ部2により取得された画像に所定の処理を施す画像処理部3と、画像処理部3により処理された画像を表示する表示部4とを備えている。
スコープ部2は、スコープ部2の先端部には、撮像部としてのCCDと、CCDの撮像面側に配置された対物レンズが設けられ、先端部を所望の方向に湾曲させことで、時刻t1〜tnにおいて画像I(t1)〜画像I(tn)の画像を撮像する。
スコープ部2が、例えば、大腸を撮像する場合、図2に示すように時刻t=t0では、大腸の管腔の奥を含む範囲の画像が撮像されるとする。さらに時間の経過と共に一定のフレームレートで複数枚の画像が撮像され、時刻t=tnでは、図2の左下の枠内の画像が撮像されるものする。t=0〜t=nとの間では、例えば図3及び図4に示すように時刻t=t1、t2、t3、t4・・・tnにおいて、画像I(t1)、I(t2)、I(t3)、I(t4)・・・I(tn)が撮像される。画像I(t0)やI(t1)では、画像中の管腔の奥の位置を判断することが容易であるが、画像I(tn)では、画像中の管腔の奥の位置を判断することが困難である。
画像処理部3は、観察位置特定部10、対応点検出部11、観察方向推定部12(座標変換処理部、方向推定部)、ガイド画像作成部13及び画像合成部14を備えている。
観察位置特定部10は、スコープ部2により撮像した観察対象の画像において観察位置の座標を特定する。すなわち、スコープ部2により撮像したt1〜tnの各時刻における画像において、各画像内で図5のように、観察位置の座標(xg,yg)を特定する。
本実施形態における観察対象は大腸であり、スコープ部2を大腸内に挿入して検査や治療を行う。従って、ここでの観察位置特定部10により特定すべき観察位置の座標は、スコープ部2の進行方向、つまり管腔の最も奥となる。管腔の最も奥を座標として検出するには、例えば、輝度に基づいて算出することができる。すなわち、画像内を所定の局所領域に区切って、局所領域毎に平均輝度を算出し、局所領域の平均輝度が画像全体の平均輝度に対して所定の比率以下となる場合に、当該局所領域の中心座標を管腔の最も奥の位置の座標、すなわち、例えば、図5の左図のように観察位置の座標(xg,yg)として特定する。複数の局所領域において座標が得られた場合には、画像全体の平均輝度に対する比率が最も低い平均輝度を示す局所領域の中心座標を観察位置の座標(xg,yg)として特定する。
図5の右図のように、スコープ部2が大腸の腸壁を捉え、画像として壁面の画像が得られた場合には、管腔の奥を検出することが困難となる。この場合には、平均輝度が所定の比率以下となる局所領域が得られないため、観察位置の座標が特定できなかったとして仮に座標(−1,−1)を設定する。
各時刻における画像I(t1)〜I(t)と、特定した観察位置の座標とを対応付けて対応点検出部11に出力する。
対応点検出部11は、画像I(tn)と画像I(tn−1)との対応する画素位置を対応点として複数検出する。すなわち、対応点検出部11は、時刻t=tnで撮像された画像I(tn)とI(tn)における観察位置の座標(xg,yg)の入力を受けて、予め記憶されていた時刻t=tn−1の画像I(tn−1)と入力された画像I(tn)との対応点を検出する。
ここで、対応点としては、例えば、図6に示すように、画像内に含まれる血管の構造やヒダの構造により生じる画像上の特徴を手掛かりとして、画像I(tn)と画像I(tn−1)とにおいて観察対象上の同じ位置に対応する一対の座標を対応点として算出する。対応点は、3点以上求めることが好ましい。なお、図7に、複数の画像間において検出した対応点の関係を示す。
なお、画像がボケている等、血管やヒダ等画像上の特徴が特定できない場合には、対応点を検出することができない。このような場合、例えば時刻tnで対応点が設定できなかった場合には、予め記憶されていた時刻tn−1の対応点を時刻tnの対応点として設定する。このような処理を行うことにより、対応点が設定できなかった場合にも時刻tn−1と同様の動きをしていると仮定した対応点の設定をすることができる。
対応点検出部11は、画像I(tn)と設定した対応点とを記憶すると共に、観察方向推定部12に出力する。
観察方向推定部12は、観察位置特定部10により画像I(tn)における観察位置の座標が特定できなかった場合に、複数の前記対応点を用いて、画像I(tn−1)内に特定された観察位置の座標を画像I(tn)の座標系における座標に変換する。すなわち、観察方向推定部12には、観察位置特定部10から対応点検出部11を介して画像I(tn)の観察位置の座標(xg,yg)及び対応点が入力される。
観察位置特定部10から画像I(tn)の観察位置の座標として(−1,
−1)が入力された場合には、観察位置の座標が特定できなかったとして、予め記憶されていた画像I(tn−1)内に特定された観察位置の座標を画像I(tn)の座標系における座標(xg’,xy’)に変換する。なお、観察位置が特定されている場合には、この変換処理を行わずに、観察位置の座標を記憶する。
ここで、画像I(tn−1)内に特定された観察位置の座標を画像I(tn)の座標系における座標に変換するために、下記の数式(1)のような座標変換マトリクスMを生成する。
Figure 0006577031
上記数式(1)に示すように、変換前の画像の座標(x0,y0)は、座標(x1,y1)に変換される。また、mij(i=1〜2,j=1〜3)は、3点以上の対応点を用いて最小二乗法などを適用することにより算出する。
このようにして、得られたマトリクスにより画像I(tn−1)内に特定された観察位置の座標(xg,yg)を画像I(tn)の座標系における座標(xg’,yg’)に変換し、変換した座標(xg’,yg’)を記憶する。
さらに、観察方向推定部12は、変換された観察位置の座標の画像中心に対する方向を算出する。具体的には、図8に示すように、座標(xg’,yg’)を、画像の中心位置を中心座標とする極座標系の座標に変換し、画像中心から見た管腔方向θを算出し、このθをガイド画像作成部13に出力する。
ガイド画像作成部13は観察方向推定部12から出力されたθに基づいて、θが示す方向を、例えば、矢印として画像上に示すガイド画像を作成する。ガイド画像作成部13は、例えば、θが図9に示すように(1)〜(8)の領域に等分割された円うち、(1)〜(8)の何れの領域に属するかで、ガイド画像上に表示する矢印の方向を決定することができる。ガイド画像作成部13は、作成されたガイド画像を画像合成部14に出力する。
画像合成部14は、ガイド画像作成部13から入力されたガイド画像と、スコープ部2から入力された画像I(tn)とを重畳するように合成し、表示部4に出力する。
表示部4には、例えば図10に示すように、観察対象の画像と共に、管腔の方向を示す矢印が表示される。
以下、このように構成された内視鏡装置において、観察位置の方向を表示する場合の処理の流れを図11のフローチャートに従って説明する。
ステップS11において、スコープ部2が、時刻tnにおいて画像I(tn)の画像を撮像し、ステップS12に進む。
ステップS12では、ステップS11においてスコープ部2により撮像した観察対象の画像において観察位置の座標(xg,yg)を特定する。
上述のように、本実施形態における観察対象は大腸であり、ここでの観察位置特定部10により特定すべき観察位置の座標は、管腔の最も奥の位置となる。このため、画像内を所定の局所領域に区切って、局所領域毎に平均輝度を算出し、局所領域の平均輝度が画像全体の平均輝度に対して所定の比率以下となる場合に、当該局所領域の中心座標を管腔の最も奥の位置の座標、すなわち、例えば、図5の左図の破線で示した円の領域の中心座標を観察位置の座標(xg,yg)として特定する。
複数の局所領域において上記の観察位置の座標が得られた場合には、画像全体の平均輝度に対する比率が最も低い平均輝度を示す局所領域の中心座標を観察位置の座標(xg,yg)として特定する。画像I(tn)と、特定した観察位置の座標とを対応付けて対応点検出部11に出力する。
ステップS12において、観察位置の特定ができなかったと判定された場合、つまり、図5の右図のように、スコープ部2が大腸の腸壁を捉え、画像として壁面の画像が得られた場合には、管腔の奥を検出することが困難となる。この場合には、平均輝度が所定の比率以下となる局所領域が得られないため、観察位置の座標が特定できなかったとして仮に座標(−1,−1)を設定する。
ステップS13では、対応点検出部11において画像I(tn)と画像I(tn−1)との対応する画素位置を対応点として複数検出する。すなわち、対応点検出部11は、時刻t=tnで撮像された画像I(tn)とI(tn)における観察位置の座標(xg,yg)の入力を受けて、予め記憶されていた時刻t=tn−1の画像I(tn−1)と入力された画像I(tn)との対応点を検出し、画像I(tn)と検出した結果を記憶する。
ステップS14では、ステップS12において観察位置の特定ができたか否かを判定する。観察位置の特定ができた場合には、ステップS15bに進み、観察位置を記憶する。
観察位置の特定ができなかった場合には、ステップS15aに進み、予め記憶されていた画像I(tn−1)の観察位置の座標(xg,yg)を画像I(tn)の座標系における座標(xg’,yg’)に変換する。
さらに、ステップS16では、座標(xg’,yg’)を、画像の中心位置を中心座標とする極座標系の座標に変換し、画像中心から見た管腔方向θを算出し、θが示す方向を、例えば、矢印として画像上に示すガイド画像を作成する。ステップS17では、スコープ部2から入力された画像I(tn)とガイド画像とを重畳するように合成し、表示部4に出力する。表示部4には、例えば図10に示すように、観察対象の画像と共に、管腔の方向を示す矢印を表示する。
このように、本実施形態によれば、スコープ部2が観察対象物を見失ったり、挿入すべき方向を見失ったりした場合にも、観察すべき領域や挿入すべき方向を迅速に探し出して、元の作業を再開するまでの時間を短縮し利便性を向上させることができる。
本実施形態では、観察位置の座標(xg’,yg’)から画像中心から見た管腔方向θを算出して矢印として画像上に示すガイド画像を作成し、画像I(tn)とガイド画像を重畳するように合成し、表示部4に出力する構成としたが、画像I(tn)と観察位置の座標(xg’,yg’)の位置関係を示すことができればどのような方法で出力してもよい。例えば、画像I(tn)を縮小表示し、縮小した画像I(tn)と観察位置の座標(xg’,yg’)の位置を示す印を合成して表示してもよい。また、別の例としては、座標(xg’,yg’)から画像中心からの距離rも算出してrに比例した長さの矢印をガイド画像として作成して画像I(tn)と合成して表示してもよい。
(第2の実施形態)
以下、本発明の第2の実施形態に係る内視鏡装置について、図面を参照して説明する。図12に示す本実施形態に係る内視鏡装置において、上記した第1の実施形態と同一の構成については同符号を付しその説明を省略する。
図13及び図14に示すように、本実施形態に係る内視鏡装置の画像処理部5は、観察対象が大腸である場合、スコープ部2により時間の経過と共に一定のフレームレートで複数枚の画像が撮像され、時刻t=t0、t1、t2、t3、t4・・・tnにおいて、画像I(t0)、I(t1)、I(t2)、I(t3)、I(t4)・・・I(tn)が撮像される。
時刻t0、t1、t2間では、スコープ部2の動きが比較的少ない間に画像が撮像されているが、時刻t2とtnとの間では、大きな動きが生じて画像が撮像されている。つまり、画像I(t2)と画像I(tn)との間に対応点が少ない。この場合、意図しない急激な変化が生じ、管腔の奥の位置を判断することが困難になっていると考えられる。
そこで、大きな動きが生じる直前の画像I(tn−1)の中心座標を観察位置の座標(xg,yg)と仮定してガイド画像を作成する。
つまり、画像処理装置5は、対応点検出部11、観察方向推定部12(座標変換処理部、方向推定部)、ガイド画像作成部13及び画像合成部14を備えている。
対応点検出部11は、画像I(tn)と画像I(tn−1)との対応する画素位置を対応点として複数検出する。すなわち、対応点検出部11は、時刻t=tnで撮像された画像I(tn)の入力を受けて、予め記憶されていた時刻t=tn−1の画像I(tn−1)と入力された画像I(tn)との対応点を検出する。
また、複数の対応点に基づいて、画像I(tn)と画像I(tn−1)との離間距離を算出し、該離間距離が所定の閾値よりも大きい場合に、画像I(tn−1)の中心座標を観察位置の座標(xg,yg)として特定する。検出した対応点と共に、特定した観察位置の座標(xg,yg)を観察方向推定部12に出力する。対応点検出部11は、画像I(tn)と対応点を対応点検出部11に記憶する。
観察方向推定部12は、複数の対応点を用いて、画像I(tn−1)内に特定された前記観察位置の座標を画像I(tn)の座標系における座標に変換し、変換した観察位置の座標の画像中心に対する方向を算出する。観察方向推定部12における処理は第1の実施形態における処理と同様であるので、ここでの詳細な説明を省略する。
このように構成された内視鏡装置によれば、取得された画像から急激な変化が生じたと判定された場合に、意図しない急激な変化により観察位置を見失ったと判断することができる。そして、観察位置を見失ったと判断される前の画像から観察位置の方向を推定することができるので、観察すべき領域や挿入すべき方向を迅速に探し出して、元の作業を再開するまでの時間を短縮し利便性を向上させることができる。
本実施形態では、大きな動きが生じる直前の画像I(tn−1)の中心座標を観察位置の座標(xg,yg)と仮定してガイド画像を作成する構成としたが、観察位置として仮定する座標(xg,yg)は画像I(tn−1)に含まれる座標であれば任意の位置を座標(xg,yg)としてよい。例えば、画像I(tn−1)内の位置のうち画像I(tn)に最も距離が近い位置を座標(xg,yg)としてもよい。
(変形例)
上述した各実施形態においては、観察対象が大腸であることを前提として説明したが、観察対象は大腸に限られず、例えば、何らかの臓器における病変部とすることもできる。この場合には、例えば、スコープ部2により取得された画像から周囲とは何らかの特性が異なる病変部を含む注目領域を検出し、この注目領域の中心画素を観察位置の座標として特定し、処理を進めることができる。
また、観察対象は医療分野に限られず、工業分野の観察対象にも適用できる。例えば、内視鏡を配管内の傷等の検査に用いる場合には、観察対象は配管内の傷とすることで上記と同様の処理を用いることができる。
病変部を注目領域とした場合の注目領域の検出手法の一例として、注目領域を面積の大小及び周囲との色(例えば赤色)の濃度差の大小に基づいて分類し、検出する方法を用いることができる。以下、上記した実施形態と同様の処理を進め、ガイド画像作成時には、病変部を含む注目領域の方向を示すガイド画像を作成し、これを観察画像に重畳した画像を表示部4に表示させることで、観察者に観察すべき領域や挿入すべき方向を迅速に示すことができ、元の作業を再開するまでの時間を短縮し利便性を向上させることができる。
2 スコープ部(撮像部)
3 画像処理部
4 表示部
10 観察位置特定部
11 対応点検出部
12 観察方向推定部(座標変換処理部、方向推定部)
13 ガイド画像作成部
14 画像合成部

Claims (4)

  1. 時間間隔をあけた時刻t1〜tn(nは整数)において観察対象の複数の画像I(t1)〜I(tn)を連続して取得する撮像部と、
    該撮像部により取得された複数の画像を処理する画像処理部と、
    該画像処理部により処理された画像を表示する表示部とを備え、
    前記画像処理部が、
    画像I(tn)と画像I(tn−1)との対応する画素位置を対応点として複数検出する対応点検出部と、
    各前記画像において観察位置の座標を特定する観察位置特定部と、
    該観察位置特定部により画像I(tn)における観察位置の座標が特定できなかった場合に、複数の前記対応点を用いて、画像I(tn−1)内に特定された前記観察位置の座標を画像I(tn)の座標系における座標に変換する座標変換処理部と、を有し、
    前記表示部が、前記座標変換処理部により変換された画像I(tn)の座標系における前記観察位置の座標に関する情報を前記画像処理部により処理された画像I(tn)と共に表示する内視鏡装置。
  2. 時間間隔をあけた時刻t1〜tn(nは整数)において観察対象の複数の画像I(t1)〜I(tn)を連続して取得する撮像部と、
    該撮像部により取得された複数の画像を処理する画像処理部と、
    該画像処理部により処理された画像を表示する表示部とを備え、
    前記画像処理部が、
    画像I(tn)と画像I(tn−1)との対応する画素位置を対応点として複数検出する対応点検出部と、
    複数の前記対応点に基づいて、画像I(tn)と画像I(tn−1)との離間距離を算出し、該離間距離が所定の閾値よりも大きい場合に、画像I(tn−1)に含まれる座標を観察位置の座標として特定する観察位置特定部と、
    複数の前記対応点を用いて、画像I(tn−1)内に特定された前記観察位置の座標を画像I(tn)の座標系における座標に変換する座標変換処理部と、を有し、
    前記表示部が、前記座標変換処理部により変換された画像I(tn)の座標系における前記観察位置の座標に関する情報を前記画像処理部により処理された画像I(tn)と共に表示する内視鏡装置。
  3. 前記観察位置特定部が、前記観察位置の座標として、前記観察対象中の管腔の最も奥の位置を示す座標を特定する請求項1又は請求項2記載の内視鏡装置。
  4. 前記観察位置特定部が、前記観察位置の座標として、前記観察対象中の病変部の位置を示す座標を特定する請求項1又は請求項2記載の内視鏡装置。
JP2017527024A 2015-07-08 2015-07-08 内視鏡装置 Active JP6577031B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/069590 WO2017006449A1 (ja) 2015-07-08 2015-07-08 内視鏡装置

Publications (2)

Publication Number Publication Date
JPWO2017006449A1 JPWO2017006449A1 (ja) 2018-05-24
JP6577031B2 true JP6577031B2 (ja) 2019-09-18

Family

ID=57685093

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017527024A Active JP6577031B2 (ja) 2015-07-08 2015-07-08 内視鏡装置

Country Status (4)

Country Link
US (1) US20180098685A1 (ja)
JP (1) JP6577031B2 (ja)
DE (1) DE112015006617T5 (ja)
WO (1) WO2017006449A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102017103198A1 (de) * 2017-02-16 2018-08-16 avateramedical GmBH Vorrichtung zum Festlegen und Wiederauffinden eines Bezugspunkts während eines chirurgischen Eingriffs
JP7093833B2 (ja) * 2018-04-26 2022-06-30 オリンパス株式会社 移動支援システム及び移動支援方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4885388B2 (ja) * 2001-09-25 2012-02-29 オリンパス株式会社 内視鏡挿入方向検出方法
JP4716794B2 (ja) * 2005-06-06 2011-07-06 オリンパスメディカルシステムズ株式会社 画像表示装置
JP5597021B2 (ja) * 2010-04-15 2014-10-01 オリンパス株式会社 画像処理装置及びプログラム
RU2668490C2 (ru) * 2012-04-19 2018-10-01 Конинклейке Филипс Н.В. Инструменты наведения для ручного управления эндоскопом с помощью 3d-изображений, полученных до операции и во время операции

Also Published As

Publication number Publication date
US20180098685A1 (en) 2018-04-12
JPWO2017006449A1 (ja) 2018-05-24
DE112015006617T5 (de) 2018-03-08
WO2017006449A1 (ja) 2017-01-12

Similar Documents

Publication Publication Date Title
US10694933B2 (en) Image processing apparatus and image processing method for image display including determining position of superimposed zoomed image
JP6720238B2 (ja) 出血検出ユニットを有する手術用システム
JP2015228954A5 (ja)
US11004197B2 (en) Medical image processing apparatus, medical image processing method, and program
US10827906B2 (en) Endoscopic surgery image processing apparatus, image processing method, and program
WO2013141155A1 (ja) 画像内遮蔽領域の画像補完システム、画像処理装置及びそのプログラム
US10820787B2 (en) Endoscope device and focus control method for endoscope device
JP2009112617A (ja) パノラマ眼底画像合成装置及び方法
JP2007260144A (ja) 医療用画像処理装置及び医療用画像処理方法
JP2015228955A5 (ja)
WO2017203814A1 (ja) 内視鏡装置、内視鏡装置の作動方法
JP2020531099A5 (ja)
JP6577031B2 (ja) 内視鏡装置
Mori et al. A method for tracking the camera motion of real endoscope by epipolar geometry analysis and virtual endoscopy system
JP5905130B2 (ja) 画像処理装置、内視鏡装置及び画像処理装置の作動方法
WO2014147933A1 (ja) 医用画像表示制御装置および方法並びにプログラム
JP7133828B2 (ja) 内視鏡画像処理プログラム及び内視鏡システム
JP2012075806A (ja) 医用画像処理装置、及び医用画像処理プログラム
JP2017205343A (ja) 内視鏡装置、内視鏡装置の作動方法
JP4487077B2 (ja) 単一の撮像装置で連続取得したビデオ映像による立体表示方法
WO2021064867A1 (ja) 画像処理装置、制御方法及び記憶媒体
JPWO2017158896A1 (ja) 画像処理装置、画像処理システム、画像処理装置の作動方法
JP6646133B2 (ja) 画像処理装置および内視鏡
JPWO2021064867A5 (ja) 画像処理装置、制御方法及びプログラム
JP2020058779A5 (ja)

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180629

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190821

R151 Written notification of patent or utility model registration

Ref document number: 6577031

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250