JPWO2017203560A1 - 内視鏡画像処理装置 - Google Patents

内視鏡画像処理装置 Download PDF

Info

Publication number
JPWO2017203560A1
JPWO2017203560A1 JP2018518812A JP2018518812A JPWO2017203560A1 JP WO2017203560 A1 JPWO2017203560 A1 JP WO2017203560A1 JP 2018518812 A JP2018518812 A JP 2018518812A JP 2018518812 A JP2018518812 A JP 2018518812A JP WO2017203560 A1 JPWO2017203560 A1 JP WO2017203560A1
Authority
JP
Japan
Prior art keywords
observation image
control unit
lesion candidate
attention area
delay time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018518812A
Other languages
English (en)
Other versions
JP6602969B2 (ja
Inventor
岩城 秀和
秀和 岩城
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2017203560A1 publication Critical patent/JPWO2017203560A1/ja
Application granted granted Critical
Publication of JP6602969B2 publication Critical patent/JP6602969B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30028Colon; Small intestine
    • G06T2207/30032Colon polyp

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Optics & Photonics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Endoscopes (AREA)

Abstract

内視鏡画像処理装置は、被検体の観察画像が順次入力され、観察画像から注目領域を検出するための処理を行う検出部と、検出部において注目領域が継続して検出された場合に、注目領域の検出が開始されたタイミングから第1時間経過後に入力される被検体の観察画像に対し、注目領域に対応する位置の強調処理をする強調処理部と、観察画像内における注目領域の位置を示す情報である位置情報、及び、観察画像内における注目領域の大きさを示す情報であるサイズ情報のうちの少なくとも一方に基づいて第1時間を設定する遅延時間制御部と、を有する。

Description

本発明は、内視鏡画像処理装置に関する。
従来、内視鏡装置では、術者が、観察画像を見て病変部の有無等を判断している。術者が観察画像を見る際に病変部の見落としを抑止するため、例えば、日本国特開2011−255006号公報に示されるように、画像処理により検出された注目領域にアラート画像を付加して観察画像を表示する内視鏡装置が提案されている。
しかしながら、従来の内視鏡装置では、術者が病変部を発見する前にアラート画像が表示されることがあり、アラート画像によって示されていない領域に対する術者の注意力を低下させ、また、術者の目視による病変部発見意欲を削ぎ、病変部発見能力の向上を妨げる懸念がある。
そこで、本発明は、術者に対し、観察画像に対する注意力の低下を抑え、病変部発見能力の向上を妨げずに、注目領域を提示する内視鏡画像処理装置を提供することを目的とする。
本発明の一態様の内視鏡画像処理装置は、被検体の観察画像が順次入力され、前記観察画像から注目領域を検出するための処理を行う検出部と、前記検出部において前記注目領域が継続して検出された場合に、前記注目領域の検出が開始されたタイミングから第1時間経過後に入力される前記被検体の前記観察画像に対し、前記注目領域に対応する位置の強調処理をする強調処理部と、前記観察画像内における前記注目領域の位置を示す情報である位置情報、及び、前記観察画像内における前記注目領域の大きさを示す情報であるサイズ情報のうちの少なくとも一方に基づいて前記第1時間を設定する遅延時間制御部と、を有する。
本発明の実施形態に係る内視鏡画像処理装置を含む内視鏡システムの概略構成を示すブロック図である。 本発明の実施形態に係る内視鏡システムの検出支援部の構成を示すブロック図である。 本発明の実施形態に係る内視鏡システムの表示用画像の画面構成の例を説明する説明図である。 本発明の実施形態に係る内視鏡システムにおいて行われる処理の一例を説明するフローチャートである。 本発明の実施形態に係る内視鏡システムにおいて行われる処理の一例を説明するフローチャートである。 図5の処理において利用される観察画像の各部の分類方法の一例を示す模式図である。 本発明の実施形態に係る内視鏡システムにおいて行われる処理に伴う表示用画像の画面遷移の一例を説明するための図である。
以下、図面を参照しながら、本発明の実施の形態を説明する。
図1は、本発明の実施形態に係る内視鏡画像処理装置を含む内視鏡システムの概略構成を示すブロック図である。
内視鏡システム1の概略構成は、光源駆動部11と、内視鏡21と、制御部32と、検出支援部33と、表示部41と、入力装置51と、を有して構成される。光源駆動部11は、内視鏡21と、制御部32とに接続される。内視鏡21は、制御部32に接続される。制御部32は、検出支援部33に接続される。検出支援部33は、表示部41及び入力装置51に接続される。なお、制御部32及び検出支援部33は、別々の装置として構成されていてもよく、または、同一の装置内に設けられていてもよい。
光源駆動部11は、内視鏡21の挿入部22の先端に設けられたLED23を駆動する回路である。光源駆動部11は、制御部32と、内視鏡21のLED23とに接続される。光源駆動部11は、制御部32から制御信号が入力され、LED23に対して駆動信号を出力し、LED23を駆動して発光させることができるように構成される。
内視鏡21は、挿入部22を被検体内に挿入し、被検体内を撮像できるように構成される。内視鏡21は、LED23と、撮像素子24とを有して構成される撮像部を有している。
LED23は、内視鏡21の挿入部22に設けられ、光源駆動部11の制御下において、被検体に照明光を照射できるように構成される。
撮像素子24は、内視鏡21の挿入部22に設けられ、照明光が照射された被検体の反射光を図示しない観察窓を介して取り込むことができるように配置される。
撮像素子24は、観察窓から取り込まれた被検体の反射光を、光電変換し、図示しないAD変換器により、アナログの撮像信号からデジタルの撮像信号に変換し、制御部32に出力する。
制御部32は、光源駆動部11に制御信号を送信し、LED23を駆動可能である。
制御部32は、内視鏡21から入力される撮像信号に対し、例えば、ゲイン調整、ホワイトバランス調整、ガンマ補正、輪郭強調補正、拡大縮小調整等の画像調整を行い、後述する被検体の観察画像G1を検出支援部33に順次出力可能である。
図2は、本発明の実施形態に係る内視鏡システムの検出支援部の構成を示すブロック図である。検出支援部33は、内視鏡画像処理装置としての機能を具備して構成されている。具体的には、検出支援部33は、図2に示すように、検出部34と、判定部である継続検出判定部35と、検出結果出力部36と、遅延時間制御部37と、記憶部38と、を有して構成されている。
検出部34は、被検体の観察画像G1が順次入力され、観察画像G1についての所定の特徴量に基づいて、観察画像G1における注目領域である病変候補領域Lを検出する回路である。検出部34は、特徴量算出部34aと、病変候補検出部34bとを有して構成される。
特徴量算出部34aは、被検体の観察画像G1についての所定の特徴量を算出する回路である。特徴量算出部34aは、制御部32と、病変候補検出部34bとに接続される。特徴量算出部34aは、制御部32から順次入力される被検体の観察画像G1から所定の特徴量を算出し、病変候補検出部34bに出力可能である。
所定の特徴量は、観察画像G1上の所定小領域毎に、所定小領域内の各画素と、当該画素に隣接する画素との変化量、すなわち、傾き値を演算して算出される。なお、特徴量は、隣接画素との傾き値によって算出される方法に限られず、別の方法で観察画像G1を数値化させたものでも構わない。
病変候補検出部34bは、特徴量の情報から観察画像G1の病変候補領域Lを検出する回路である。病変候補検出部34bは、複数のポリープモデル情報を予め記憶できるように、ROM34cを有して構成される。病変候補検出部34bは、検出結果出力部36と、継続検出判定部35と、遅延時間制御部37と、に接続される。
ポリープモデル情報は、多くのポリープ画像が共通して持つ特徴の特徴量によって構成される。
病変候補検出部34bは、特徴量算出部34aから入力される所定の特徴量と、複数のポリープモデル情報とに基づいて病変候補領域Lを検出し、検出結果出力部36と、継続検出判定部35と、遅延時間制御部37と、に対して病変候補情報を出力する。
より具体的には、病変候補検出部34bは、特徴量検出部から入力される所定小領域毎の所定の特徴量と、ROM34cに記憶されるポリープモデル情報の特徴量とを比較し、互いの特徴量が一致するとき、病変候補領域Lを検出する。病変候補領域Lが検出されると、病変候補検出部34bは、検出結果出力部36と、継続検出判定部35と、遅延時間制御部37と、に対し、検出された病変候補領域Lの位置情報及びサイズ情報を含む、病変候補情報を出力する。
なお、病変候補領域Lの位置情報は、観察画像G1内における病変候補領域Lの位置を示す情報であり、例えば、観察画像G1内に存在する病変候補領域Lの画素位置として取得される。また、病変候補領域Lのサイズ情報は、観察画像G1内における病変候補領域Lの大きさを示す情報であり、例えば、観察画像G1に存在する病変候補領域Lの画素数として取得される。
なお、検出部34は、観察画像G1から病変候補領域Lを検出するための処理を行う限りにおいては、特徴量算出部34a及び病変候補検出部34bを有して構成されていなくてもよい。具体的には、検出部34は、例えば、ディープラーニング等の学習手法を用いてポリープ画像を識別可能な機能を予め取得した画像識別器を観察画像G1に対して適用する処理を行うことにより、当該観察画像G1から病変候補領域Lを検出するように構成されていてもよい。
継続検出判定部35は、病変候補領域Lが継続して検出されているか否かを判定する回路である。継続検出判定部35は、少なくとも1フレーム前の病変候補情報を記憶できるように、RAM35aを有して構成される。継続検出判定部35は、検出結果出力部36に接続される。
継続検出判定部35は、例えば、観察画像G1上において、病変候補領域Lの位置が、ずれたとき等であっても当該病変候補領域Lを追跡できるように、第1観察画像上の第1病変候補領域と、第1観察画像よりも前に入力された第2観察画像上の第2病変候補領域とが同じ病変候補領域Lであるか否かを判定し、順次入力される複数の観察画像G1上において同じ病変候補領域Lが連続的又は断続的に検出されるとき、病変候補領域Lの検出が継続していると判定し、判定結果を検出結果出力部36に出力する。
検出結果出力部36は、検出結果の出力処理をする回路である。検出結果出力部36は、強調処理部36aと、報知部36bとを有して構成される。検出結果出力部36は、表示部41に接続される。検出結果出力部36は、制御部32から入力される観察画像G1と、病変候補検出部34bから入力される病変候補情報と、継続検出判定部35から入力される判定結果と、遅延時間制御部37により制御される第1時間(後述)と、に基づいて、強調処理及び報知処理を行うことが可能である。検出結果出力部36は、表示用画像Gを表示部41に出力する。
図3は、本発明の実施形態に係る内視鏡システムの表示用画像の画面構成の例を説明する説明図である。検出結果出力部36から出力される表示用画像G中には、図3に示すように、観察画像G1が配置される。図3は、観察画像G1の一例として、病変候補領域Lを有する大腸の内壁を表している。
強調処理部36aは、病変候補検出部34bにおいて病変候補領域Lが継続して検出された場合に、病変候補領域Lの検出が開始されたタイミングから第1時間経過後に入力される被検体の観察画像G1に対し、病変候補領域Lに対応する位置の強調処理をする。すなわち、継続検出判定部35によって継続して検出されていると判定される病変候補領域Lが、第1時間継続して検出されるとき、強調処理が開始される。
強調処理は、最長で第2時間行われ、第2時間経過後に終了する。第2時間経過する前に、病変候補領域Lが継続検出判定部35によって継続して検出されている状態が終わった場合には、その時点で強調処理も終了する。
より具体的には、継続検出判定部35によって継続して検出されていると判定される病変候補領域Lが、第1時間経過して強調処理を開始した後、更に第2時間経過した場合には、継続して検出されていても、強調処理は終了する。
第2時間は、術者がマーカ画像G2から病変候補領域Lを十分認識可能な所定時間であり、例えば、1.5秒に予め設定されている。また、第2時間は、フレーム数によって規定される。具体的には、例えば、1秒間のフレーム数が30である場合には、第2時間が45フレームとして規定される。
強調処理は、病変候補領域Lの位置を示す表示を行う処理である。より具体的には、強調処理は、制御部32から入力される観察画像G1に対し、病変候補情報に含まれる、位置情報及びサイズ情報に基づいて、病変候補領域Lを囲むマーカ画像G2を付加する処理である。なお、図3では、一例として、マーカ画像G2は、四角形で示しているが、例えば、三角形、円形、星形等どのような画像でも構わない。
報知部36bは、観察画像G1に病変候補領域Lが存在することを、強調処理とは異なる報知処理によって術者に報知できるように構成される。報知処理は、強調処理が終了する第2時間経過後から、検出部34による病変候補領域Lの継続検出が終了するまで行われる。
報知処理は、表示用画像G内における観察画像G1の外側の領域に報知画像G3を付加する処理である。図3の2点鎖線では、一例として旗模様の報知画像G3を示しているが、報知画像G3は、例えば、三角形、円形、星形等どのような画像でも構わない。
遅延時間制御部37は、例えば、演算回路等を具備して構成されている。また、遅延時間制御部37は、少なくとも1フレーム前の病変候補情報を記憶可能なRAM37aを有して構成されている。また、遅延時間制御部37は、検出結果出力部36に接続される。
遅延時間制御部37は、病変候補領域Lが検出されてから強調処理が開始されるまでの遅延時間である第1時間の初期値を設定するための制御を検出結果出力部36に対して行う。また、遅延時間制御部37は、病変候補検出部34bから入力される病変候補情報に含まれる位置情報及びサイズ情報に基づき、0より大きくかつ第2時間よりも小さい範囲内で第1時間を変更するための制御を検出結果出力部36に対して行うことができるように構成されている。第1時間の初期値は、所定時間であり、例えば、0.5秒に予め設定されている。また、第1時間は、フレーム数によって規定される。具体的には、例えば、1秒間のフレーム数が30である場合には、第1時間が15フレームとして規定される。
記憶部38は、例えば、メモリ等の記憶回路を具備して構成されている。また、記憶部38は、内視鏡21による被検体の観察を実際に行う術者の熟練度及び/または経験検査数を示す情報である術者情報が入力装置51の操作により入力された際に、当該情報を格納するように構成されている。
表示部41は、モニタによって構成され、検出結果出力部36から入力される表示用画像Gを画面上に表示可能である。
入力装置51は、例えば、キーボード等のユーザインターフェースを具備し、検出支援部33に対して種々の情報を入力することができるように構成されている。具体的には、入力装置51は、例えば、ユーザの操作に応じた術者情報を検出支援部33に入力することができるように構成されている。
続いて、実施形態に係る内視鏡システム1の検出結果出力部36及び遅延時間制御部37において行われる処理の具体例について、図4及び図5を参照しつつ説明する。図4及び図5は、本発明の実施形態に係る内視鏡システムにおいて行われる処理の一例を説明するフローチャートである。
内視鏡21によって被検体が撮像されると、制御部32によって画像調整処理がされた後、観察画像G1が検出支援部33に入力される。検出支援部33に観察画像G1が入力されると、特徴量算出部34aは、観察画像G1の所定の特徴量を算出し、病変候補検出部34bに出力する。病変候補検出部34bは、入力された所定の特徴量と、ポリープモデル情報の特徴量とを比較し、病変候補領域Lの検出をする。病変候補領域Lの検出結果は、継続検出判定部35と、検出結果出力部36と、遅延時間制御部37と、に出力される。継続検出判定部35は、病変候補領域Lが継続して検出されているか否かを判定し、判定結果を検出結果出力部36に出力する。
遅延時間制御部37は、病変候補検出部34bから入力される病変候補領域Lの検出結果に基づき、例えば、病変候補領域Lが検出されていない期間において、第1時間の初期値を設定するための制御を検出結果出力部36に対して行う。検出結果出力部36は、遅延時間制御部37の制御に応じて第1時間の初期値を設定する(S1)。
検出結果出力部36は、病変候補検出部34bから入力される病変候補領域Lの検出結果に基づき、病変候補領域Lが検出されたか否かを判定する(S2)。
検出結果出力部36は、病変候補領域Lが検出されたとの判定結果を得た(S2:Yes)場合に、病変候補領域Lが検出されてからの経過時間の計測を開始するとともに、遅延時間制御部37の制御に応じて第1時間を再設定する(S3)。また、検出結果出力部36は、病変候補領域Lが検出されていないとの判定結果を得た(S2:No)場合に、表示用画像Gを表示部41に出力する処理を行う(S8)。
ここで、遅延時間制御部37による第1時間の再設定に係る制御の具体例について、図5及び図6を参照しつつ説明する。図6は、図5の処理において利用される観察画像の各部の分類方法の一例を示す模式図である。
遅延時間制御部37は、病変候補検出部34bから入力される病変候補情報及びRAM37aに格納された病変候補情報に基づき、病変候補領域Lの現在の状態を取得するための処理を行う(S11)。具体的には、遅延時間制御部37は、病変候補検出部34bから入力される病変候補情報に含まれる位置情報に基づき、病変候補領域Lの中心の現在の位置を取得する。また、遅延時間制御部37は、病変候補検出部34bから入力される病変候補情報に含まれる位置情報と、RAM37aに格納された病変候補情報に含まれる1フレーム前の位置情報と、に基づき、病変候補領域Lの中心の現在の移動速度及び移動方向を取得する。また、遅延時間制御部37は、病変候補検出部34bから入力される病変候補情報に含まれるサイズ情報に基づき、病変候補領域Lの面積を取得する。
遅延時間制御部37は、S11の処理により取得した病変候補領域Lの中心の現在の位置に基づき、病変候補領域Lが観察画像G1の外縁部(図6参照)に存在するか否かを判定する(S12)。
遅延時間制御部37は、病変候補領域Lが観察画像G1の外縁部に存在するとの判定結果を得た(S12:Yes)場合に、後述のS14の処理を行う。また、遅延時間制御部37は、病変候補領域Lが観察画像G1の外縁部に存在しないとの判定結果を得た(S12:No)場合に、S11の処理により取得した病変候補領域Lの中心の現在の位置に基づき、病変候補領域Lが観察画像G1の中心部(図6参照)に存在するか否かを判定する(S13)。
遅延時間制御部37は、病変候補領域Lが観察画像G1の中心部に存在するとの判定結果を得た(S13:Yes)場合に、後述のS16の処理を行う。また、遅延時間制御部37は、病変候補領域Lが観察画像G1の中心部に存在しないとの判定結果を得た(S13:No)場合に、後述のS19の処理を行う。
すなわち、S12及びS13の処理によれば、病変候補領域Lが観察画像G1の外縁部及び中心部のいずれにも存在しない場合(S12:NoかつS13:Noの場合)には、病変候補領域Lが観察画像G1の中間部(図6参照)に存在するものと推定して以降の処理が行われる。
遅延時間制御部37は、S11の処理により取得した病変候補領域Lの中心の現在の移動速度及び移動方向に基づき、病変候補領域Lが0.1秒後に観察画像G1外へ移動するか否かを判定する(S14)。
遅延時間制御部37は、病変候補領域Lが0.1秒後に観察画像G1外へ移動するとの判定結果を得た(S14:Yes)場合に、後述のS15の処理を行う。また、遅延時間制御部37は、病変候補領域Lが0.1秒後に観察画像G1外へ移動しないとの判定結果を得た(S14:No)場合に、前述のS13の処理を行う。
遅延時間制御部37は、病変候補領域Lの検出が開始されたタイミングから経過した現在の経過時間を第1時間として再設定する制御を検出結果出力部36に対して行う(S15)。
遅延時間制御部37は、S11の処理により取得した病変候補領域Lの中心の現在の移動速度に基づき、病変候補領域Lの移動速度が遅いか否かを判定する(S16)。具体的には、遅延時間制御部37は、例えば、S11の処理により取得した病変候補領域Lの中心の現在の移動速度が毎秒50ピクセル以下である場合に、病変候補領域Lの移動速度が遅いとの判定結果を得る。また、遅延時間制御部37は、例えば、S11の処理により取得した病変候補領域Lの中心の現在の移動速度が毎秒50ピクセルを超える場合に、病変候補領域Lの移動速度が速いとの判定結果を得る。
遅延時間制御部37は、病変候補領域Lの移動速度が遅いとの判定結果を得た(S16:Yes)場合に、後述のS17の処理を行う。また、遅延時間制御部37は、病変候補領域Lの移動速度が速いとの判定結果を得た(S16:No)場合に、後述のS20の処理を行う。
遅延時間制御部37は、S11の処理により取得した病変候補領域Lの面積に基づき、病変候補領域Lの面積が大きいか否かを判定する(S17)。具体的には、遅延時間制御部37は、例えば、S11の処理により取得した病変候補領域Lの面積(画素数)が観察画像G1の総面積(全画素数)の5%以上である場合に、病変候補領域Lの面積が大きいとの判定結果を得る。また、遅延時間制御部37は、例えば、S11の処理により取得した病変候補領域Lの面積(画素数)が観察画像G1の総面積(全画素数)の5%未満である場合に、病変候補領域Lの面積が小さいとの判定結果を得る。
遅延時間制御部37は、病変候補領域Lの面積が大きいとの判定結果を得た(S17:Yes)場合に、後述のS18の処理を行う。また、遅延時間制御部37は、病変候補領域Lの面積が小さいとの判定結果を得た(S17:No)場合に、後述のS20の処理を行う。
遅延時間制御部37は、第1時間を初期値よりも短い時間に再設定する制御、すなわち、第1時間を初期値より短縮させる制御を検出結果出力部36に対して行う(S18)。
遅延時間制御部37は、S11の処理により取得した病変候補領域Lの中心の現在の移動速度に基づき、病変候補領域Lの移動速度が遅いか否かを判定する(S19)。具体的には、遅延時間制御部37は、例えば、S16の処理と同様の処理を行うことにより、病変候補領域Lの移動速度が遅いとの判定結果、または、病変候補領域Lの移動速度が速いとの判定結果のいずれかを得る。
遅延時間制御部37は、病変候補領域Lの移動速度が遅いとの判定結果を得た(S19:Yes)場合に、後述のS20の処理を行う。また、遅延時間制御部37は、病変候補領域Lの移動速度が速いとの判定結果を得た(S19:No)場合に、後述のS21の処理を行う。
遅延時間制御部37は、第1時間を初期値と同じ時間に再設定する制御、すなわち、第1時間を初期値に維持させる制御を検出結果出力部36に対して行う(S20)。
遅延時間制御部37は、S11の処理により取得した病変候補領域Lの面積に基づき、病変候補領域Lの面積が大きいか否かを判定する(S21)。具体的には、遅延時間制御部37は、例えば、S17の処理と同様の処理を行うことにより、病変候補領域Lの面積が大きいとの判定結果、または、病変候補領域Lの面積が小さいとの判定結果との判定結果のいずれかを得る。
遅延時間制御部37は、病変候補領域Lの面積が大きいとの判定結果を得た(S21:Yes)場合に、前述のS20の処理を行う。また、遅延時間制御部37は、病変候補領域Lの面積が小さいとの判定結果を得た(S21:No)場合に、後述のS22の処理を行う。
遅延時間制御部37は、第1時間を初期値よりも長い時間に再設定する制御、すなわち、第1時間を初期値より延長させる制御を検出結果出力部36に対して行う(S22)。
そして、以上に述べたようなS11〜S13及びS16〜S22の処理によれば、遅延時間制御部37は、病変候補検出部34bから入力される病変候補情報に含まれる位置情報及びサイズ情報に基づき、観察画像G1内における病変候補領域Lの視認容易性が高いか否かを判定して判定結果を得るとともに、当該得られた判定結果を用い、観察画像G1内における病変候補領域Lの視認容易性が高い場合に、第1時間を初期値よりも短い時間に再設定する一方で、観察画像G1内における病変候補領域Lの視認容易性が低い場合に、当該第1時間を当該初期値よりも長い時間に再設定するようにしている。また、以上に述べたS11、S12、S14及びS15の処理によれば、遅延時間制御部37は、病変候補検出部34bから入力される病変候補情報に含まれる位置情報に基づき、観察画像G1内からの病変候補領域Lの消失可能性が高いか否かを判定して判定結果を得るとともに、当該得られた判定結果を用い、観察画像G1内からの病変候補領域Lの消失可能性が高い場合に、病変候補領域Lの検出が開始されたタイミングから経過した現在の経過時間において強調処理を即座に開始させるようにしている。
なお、本実施形態の遅延時間制御部37は、例えば、病変候補検出部34bから入力される病変候補情報に含まれる位置情報及びサイズ情報と、記憶部38に格納された術者情報に含まれる術者の熟練度及び/または経験検査数と、に基づき、観察画像G1内における病変候補領域Lの視認容易性が高いか否かを判定して判定結果を得るようにしてもよい(図2の一点鎖線)。そして、このような構成において、遅延時間制御部37は、例えば、記憶部38に格納された術者情報に含まれる術者の熟練度が高い場合、及び/または、記憶部38に格納された術者情報に含まれる術者の経験検査数が多い場合に、第1時間を初期値から短縮する(または初期値に維持する)ようにしてもよい。
また、本実施形態の遅延時間制御部37は、例えば、病変候補検出部34bから入力される病変候補情報に含まれる位置情報及びサイズ情報と、制御部32から入力される観察画像G1に含まれる病変候補領域Lの明瞭性を示す所定のパラメータと、に基づき、観察画像G1内における病変候補領域Lの視認容易性が高いか否かを判定して判定結果を得るようにしてもよい(図2の二点鎖線)。そして、このような構成において、遅延時間制御部37は、例えば、制御部32から入力される観察画像G1のコントラスト、彩度、明度、及び/または、シャープネスが高い場合に、第1時間を初期値から短縮する(または初期値に維持する)ようにしてもよい。
また、本実施形態の遅延時間制御部37は、病変候補検出部34bから入力される病変候補情報に含まれる位置情報及びサイズ情報の両方に基づいて第1時間を再設定するものに限らず、例えば、当該位置情報または当該サイズ情報のいずれか一方に基づいて第1時間を再設定するものであってもよい。
また、本実施形態の遅延時間制御部37は、観察画像G1内における病変候補領域Lの視認容易性が高いか否かを判定して得られる判定結果、及び、観察画像G1内からの病変候補領域Lの消失可能性が高いか否かを判定して得られる判定結果の両方を用いて第1時間を再設定するものに限らず、例えば、これらの判定結果のうちの一方を用いて第1時間を再設定するものであってもよい。
検出結果出力部36は、病変候補領域Lが検出されてからの経過時間がS3の処理により再設定された第1時間に達したか否かを判定する(S4)。
検出結果出力部36は、病変候補領域Lが検出されてからの経過時間がS3の処理により再設定された第1時間に達した(S4:Yes)場合に、観察画像G1に対してマーカ画像G2を付加する強調処理を開始する(S5)。また、検出結果出力部36は、病変候補領域Lが検出されてからの経過時間がS3の処理により再設定された第1時間に達していない(S4:No)場合に、表示用画像Gを表示部41に出力する処理を行う(S8)。
検出結果出力部36は、S5の処理を行ってからの経過時間が第2時間に達したか否かを判定する(S6)。
検出結果出力部36は、S5の処理を行ってからの経過時間が第2時間に達した(S6:Yes)場合に、観察画像G1からマーカ画像G2を除くことにより強調処理を終了するとともに、表示用画像G内における観察画像G1の外側の領域に報知画像G3を付加する報知処理を開始する(S7)。また、検出結果出力部36は、S5の処理を行ってからの経過時間が第2時間に達していない(S6:No)場合に、表示用画像Gを表示部41に出力する処理を行う(S8)。すなわち、検出結果出力部36は、S3の処理により再設定された第1時間が経過してから更に第2時間が経過した際に、強調処理を終了する。
なお、本実施形態では、説明のため観察画面に表示される病変候補領域Lは1つであるが、観察画面には複数の病変候補領域Lが表示される場合もある。その場合、強調処理は、各病変候補領域Lに対して行われ、各病変候補領域Lの検出から第1時間経過後に入力される観察画像G1に対して各病変候補領域Lの強調処理が施される。
そして、以上に述べたようなS1〜S8及びS11〜S22の処理が繰り返し行われることにより、例えば、表示用画像Gの表示状態が図7に示すように遷移する。図7は、本発明の実施形態に係る内視鏡システムにおいて行われる処理に伴う表示用画像の画面遷移の一例を説明するための図である。
まず、病変候補領域Lが最初に検出された後、第1時間が経過するまでは、マーカ画像G2は表示されない。続いて、病変候補領域Lが、第1時間継続して検出されるとき、強調処理部36aによって強調処理が開始され、表示用画像Gでは、マーカ画像G2が表示される。続いて、病変候補領域Lが、第2時間経過しても継続して検出されるとき、強調処理が終了されるとともに、報知部36bによって報知処理が開始され、表示用画像Gでは、マーカ画像G2が非表示にされるとともに報知画像G3が表示される。続いて、病変候補領域Lが検出されなくなると、報知処理が終了され、報知画像G3が非表示になる。
以上に述べたように、本実施形態によれば、例えば、複数の病変候補領域Lが観察画像G1内に存在する場合、及び、観察画像G1外へ移動する可能性の高い病変候補領域Lが観察画像G1内に存在する場合に、第1時間が初期値から短縮されるため、術者の目視による病変部の見落としを極力防ぐことができる。また、以上に述べたように、本実施形態によれば、例えば、サイズが小さくかつ移動速度の速い病変候補領域Lが観察画像G1の外縁部に存在する場合に、第1時間が初期値から延長されるため、術者の目視による病変部の見落としを極力防ぐことができる。すなわち、本実施形態によれば、術者に対し、観察画像G1に対する注意力の低下を抑え、病変部発見能力の向上を妨げずに、注目領域を提示することができる。
なお、本実施形態では、制御部32は、内視鏡21から入力される撮像信号に対し、例えば、ゲイン調整、ホワイトバランス調整、ガンマ補正、輪郭強調補正、拡大縮小調整等の画像調整を行い、画像調整後の観察画像G1を検出支援部33に入力させるが、画像調整の一部又は全部は、検出支援部33に入力される前ではなく、検出支援部33から出力される画像信号に対して行われても構わない。
また、本実施形態では、強調処理部36aは、マーカ画像G2を病変候補領域Lに付加させるが、マーカ画像G2は、検出された病変候補領域Lの確からしさにより、色分けして表示されても構わない。この場合、病変候補検出部34bは、病変候補領域Lの確からしさ情報を含む病変候補情報を強調処理部36aに出力し、強調処理部36aは、病変候補領域Lの確からしさ情報に基づいた色分けによって強調処理をする。この構成によれば、術者が、病変候補領域Lを観察する際、マーカ画像G2の色によってフォールスポジティブ(誤検出)の可能性の大小を推測可能である。
また、本実施形態では、検出支援部33は、回路により構成されるが、検出支援部33の各機能は、CPUの処理によって機能が実現する処理プログラムによって構成されても構わない。
本発明は、上述した実施の形態に限定されるものではなく、本発明の要旨を変えない範囲において、種々の変更、改変等が可能である。

Claims (9)

  1. 被検体の観察画像が順次入力され、前記観察画像から注目領域を検出するための処理を行う検出部と、
    前記検出部において前記注目領域が継続して検出された場合に、前記注目領域の検出が開始されたタイミングから第1時間経過後に入力される前記被検体の前記観察画像に対し、前記注目領域に対応する位置の強調処理をする強調処理部と、
    前記観察画像内における前記注目領域の位置を示す情報である位置情報、及び、前記観察画像内における前記注目領域の大きさを示す情報であるサイズ情報のうちの少なくとも一方に基づいて前記第1時間を設定する遅延時間制御部と、
    を有することを特徴とする内視鏡画像処理装置。
  2. 前記遅延時間制御部は、前記位置情報及び前記サイズ情報のうちの少なくとも一つに基づいて前記観察画像内における前記注目領域の視認容易性が高いか否かを判定した判定結果、及び、前記位置情報に基づいて前記観察画像内からの前記注目領域の消失可能性が高いか否かを判定した判定結果のうちの少なくとも一方を用いて前記第1時間を設定する
    ことを特徴とする請求項1に記載の内視鏡画像処理装置。
  3. 前記遅延時間制御部は、前記位置情報から取得される前記注目領域の位置及び移動速度と、前記サイズ情報から取得される前記注目領域の面積が前記観察画像の総面積に占める割合と、に基づき、前記観察画像内における前記注目領域の視認容易性が高いか否かを判定する
    ことを特徴とする請求項2に記載の内視鏡画像処理装置。
  4. 前記遅延時間制御部は、さらに、前記被検体の観察を実際に行う術者の熟練度及び/または経験検査数に基づき、前記観察画像内における前記注目領域の視認容易性が高いか否かを判定する
    ことを特徴とする請求項3に記載の内視鏡画像処理装置。
  5. 前記遅延時間制御部は、さらに、前記注目領域の明瞭性を示す所定のパラメータに基づき、前記観察画像内における前記注目領域の視認容易性が高いか否かを判定する
    ことを特徴とする請求項3に記載の内視鏡画像処理装置。
  6. 前記遅延時間制御部は、前記観察画像内における前記注目領域の視認容易性が高い場合に、前記第1時間を所定時間よりも短い時間に設定する一方で、前記観察画像内における前記注目領域の視認容易性が高い場合に、前記第1時間を前記所定時間よりも長い時間に設定する
    ことを特徴とする請求項3に記載の内視鏡画像処理装置。
  7. 前記遅延時間制御部は、前記位置情報から取得される前記注目領域の位置、前記注目領域の移動速度、及び、前記注目領域の移動方向に基づき、前記観察画像内からの前記注目領域の消失可能性が高いか否かを判定する
    ことを特徴とする請求項2に記載の内視鏡画像処理装置。
  8. 前記遅延時間制御部は、前記観察画像内における前記注目領域の消失可能性が高い場合に、前記注目領域の検出が開始されたタイミングから経過した現在の経過時間を前記第1時間に設定する
    ことを特徴とする請求項7に記載の内視鏡画像処理装置。
  9. 前記強調処理部は、前記第1時間が経過してから更に第2時間が経過した際に、前記強調処理を終了する
    ことを特徴とする請求項1乃至8のいずれか一項に記載の内視鏡画像処理装置。
JP2018518812A 2016-05-23 2016-05-23 内視鏡画像処理装置 Active JP6602969B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/065137 WO2017203560A1 (ja) 2016-05-23 2016-05-23 内視鏡画像処理装置

Publications (2)

Publication Number Publication Date
JPWO2017203560A1 true JPWO2017203560A1 (ja) 2019-03-22
JP6602969B2 JP6602969B2 (ja) 2019-11-06

Family

ID=60411173

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018518812A Active JP6602969B2 (ja) 2016-05-23 2016-05-23 内視鏡画像処理装置

Country Status (3)

Country Link
US (1) US20190069757A1 (ja)
JP (1) JP6602969B2 (ja)
WO (1) WO2017203560A1 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6749473B2 (ja) * 2017-03-30 2020-09-02 富士フイルム株式会社 内視鏡システム及びその作動方法
JP6716853B2 (ja) * 2017-05-25 2020-07-01 日本電気株式会社 情報処理装置、制御方法、及びプログラム
WO2019078237A1 (ja) * 2017-10-18 2019-04-25 富士フイルム株式会社 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置
WO2019138773A1 (ja) 2018-01-10 2019-07-18 富士フイルム株式会社 医療画像処理装置、内視鏡システム、医療画像処理方法及びプログラム
WO2019146077A1 (ja) * 2018-01-26 2019-08-01 オリンパス株式会社 内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡画像処理プログラム
JP6956853B2 (ja) * 2018-03-30 2021-11-02 オリンパス株式会社 診断支援装置、診断支援プログラム、及び、診断支援方法
JP2019180966A (ja) 2018-04-13 2019-10-24 学校法人昭和大学 内視鏡観察支援装置、内視鏡観察支援方法、及びプログラム
JP7264407B2 (ja) * 2018-04-13 2023-04-25 学校法人昭和大学 訓練用の大腸内視鏡観察支援装置、作動方法、及びプログラム
JP2022010368A (ja) * 2018-04-13 2022-01-14 学校法人昭和大学 大腸内視鏡観察支援装置、大腸内視鏡観察支援方法、及びプログラム
CN112040830A (zh) * 2018-06-19 2020-12-04 奥林巴斯株式会社 内窥镜图像处理装置和内窥镜图像处理方法
JP7289296B2 (ja) * 2018-07-05 2023-06-09 富士フイルム株式会社 画像処理装置、内視鏡システム及び画像処理装置の作動方法
CN112312822A (zh) * 2018-07-06 2021-02-02 奥林巴斯株式会社 内窥镜用图像处理装置和内窥镜用图像处理方法以及内窥镜用图像处理程序
WO2020054542A1 (ja) 2018-09-11 2020-03-19 富士フイルム株式会社 医療画像処理装置、医療画像処理方法及びプログラム、内視鏡システム
JP7148625B2 (ja) * 2018-09-18 2022-10-05 富士フイルム株式会社 医用画像処理装置、プロセッサ装置、医用画像処理装置の作動方法、及びプログラム
WO2020066941A1 (ja) 2018-09-26 2020-04-02 富士フイルム株式会社 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
JP7253152B2 (ja) * 2018-10-04 2023-04-06 日本電気株式会社 情報処理装置、情報処理方法、及びプログラム
JP7038641B2 (ja) 2018-11-02 2022-03-18 富士フイルム株式会社 医療診断支援装置、内視鏡システム、及び作動方法
CN113164023B (zh) * 2018-11-28 2024-02-23 奥林巴斯株式会社 内窥镜***和内窥镜用图像处理方法、以及计算机可读存储介质
WO2020178962A1 (ja) * 2019-03-04 2020-09-10 オリンパス株式会社 内視鏡システムおよび画像処理装置
JP7438038B2 (ja) 2020-06-25 2024-02-26 富士フイルムヘルスケア株式会社 超音波診断装置及び診断支援方法
JPWO2022181517A1 (ja) 2021-02-25 2022-09-01
CN113012162A (zh) * 2021-03-08 2021-06-22 重庆金山医疗器械有限公司 一种内窥镜检查区域的清洁度检测方法、装置及相关设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011218090A (ja) * 2010-04-14 2011-11-04 Olympus Corp 画像処理装置、内視鏡システム及びプログラム
JP2011255006A (ja) * 2010-06-09 2011-12-22 Olympus Corp 画像処理装置、内視鏡装置、プログラム及び画像処理方法
JP2015008781A (ja) * 2013-06-27 2015-01-19 オリンパス株式会社 画像処理装置、内視鏡装置及び画像処理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011218090A (ja) * 2010-04-14 2011-11-04 Olympus Corp 画像処理装置、内視鏡システム及びプログラム
JP2011255006A (ja) * 2010-06-09 2011-12-22 Olympus Corp 画像処理装置、内視鏡装置、プログラム及び画像処理方法
JP2015008781A (ja) * 2013-06-27 2015-01-19 オリンパス株式会社 画像処理装置、内視鏡装置及び画像処理方法

Also Published As

Publication number Publication date
US20190069757A1 (en) 2019-03-07
JP6602969B2 (ja) 2019-11-06
WO2017203560A1 (ja) 2017-11-30

Similar Documents

Publication Publication Date Title
JP6602969B2 (ja) 内視鏡画像処理装置
JP6246431B2 (ja) 内視鏡装置
CN108135457B (zh) 内窥镜图像处理装置
US10223785B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium extracting one or more representative images
WO2017073337A1 (ja) 内視鏡装置
US11871903B2 (en) Endoscopic image processing apparatus, endoscopic image processing method, and non-transitory computer readable recording medium
JP6633641B2 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
US9959618B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
US10893792B2 (en) Endoscope image processing apparatus and endoscope image processing method
JP5276225B2 (ja) 医用画像処理装置及び医用画像処理装置の作動方法
JP7282796B2 (ja) 医用画像処理装置、医用画像処理装置の作動方法、及びプログラム、診断支援装置並びに内視鏡システム
WO2018198161A1 (ja) 内視鏡画像処理装置及び内視鏡画像処理方法
US11025835B2 (en) Imaging device, endoscope apparatus, and method for operating imaging device
WO2020008651A1 (ja) 内視鏡用画像処理装置、及び、内視鏡用画像処理方法、並びに、内視鏡用画像処理プログラム
WO2020110214A1 (ja) 内視鏡システム、及び、内視鏡用画像処理方法、並びに、内視鏡用画像処理プログラム
US20210338042A1 (en) Image processing apparatus, diagnosis supporting method, and recording medium recording image processing program
JP2011024628A (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
JP5937286B1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2014171535A (ja) 画像処理装置
JP2009213555A (ja) 超音波エコー画像処理装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190322

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190910

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191009

R151 Written notification of patent or utility model registration

Ref document number: 6602969

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250