JP7463507B2 - 内視鏡画像処理装置 - Google Patents

内視鏡画像処理装置 Download PDF

Info

Publication number
JP7463507B2
JP7463507B2 JP2022526643A JP2022526643A JP7463507B2 JP 7463507 B2 JP7463507 B2 JP 7463507B2 JP 2022526643 A JP2022526643 A JP 2022526643A JP 2022526643 A JP2022526643 A JP 2022526643A JP 7463507 B2 JP7463507 B2 JP 7463507B2
Authority
JP
Japan
Prior art keywords
scene
recognized
specific
specific scene
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022526643A
Other languages
English (en)
Other versions
JPWO2021241695A1 (ja
JPWO2021241695A5 (ja
Inventor
美沙紀 目黒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2021241695A1 publication Critical patent/JPWO2021241695A1/ja
Publication of JPWO2021241695A5 publication Critical patent/JPWO2021241695A5/ja
Application granted granted Critical
Publication of JP7463507B2 publication Critical patent/JP7463507B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/273Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the upper alimentary canal, e.g. oesophagoscopes, gastroscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30092Stomach; Gastric

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Medical Informatics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Gastroenterology & Hepatology (AREA)
  • Endoscopes (AREA)

Description

本発明は、AI(Artificial Intelligence)を用いた認識処理を行う内視鏡画像処理装置に関する。
医療分野においては、内視鏡、光源装置、及びプロセッサ装置を有する内視鏡システムのように、医療画像について処理を行う医療画像処理システムが普及している。また、近年は、病変の見落とし防止やユーザーの負担軽減を目的として、医療画像から病変部を検出したり(例えば、特許文献1)、病変を認識して病変の種類を分類するために、AI技術が使われ始めている。
国際公開第2017/073338号 特開2012-152333号公報
病変の認識処理を行う医療画像処理システムにおいて、認識処理を正しく行うために、実際に観察されたシーンである部位や臓器に対応するパラメータあるいは内部処理を選択する場合がある。そのために、画像の特徴に基づいてシーンの認識処理を行う場合がある。しかし、シーンの認識処理においても、観察するシーンによっては、実際のシーンと異なるシーンが認識される場合がある。例えば、食道、胃、大腸などの消化管において誤認識される場合がある。
なお、特許文献2には、内視鏡により観察を行う際に、撮影された画像データから食道、噴門、胃などの部位を判別し、各部位に適した照明を行うために、自動的に各部位に対応する照明モードに切り替える技術が開示されている。
従来の技術においては、特許文献1のように、観察画像から病変部を検出するためには、観察画像のシーンが特定されている必要がある。しかし、スクリーニング検査のように多くの観察画像が取得される場合には、都度適切なシーンであるか否かを判断することは、ユーザーの負担が大きいという問題があった。また、特許文献2のように、自動的にシーンが認識され、シーン認識に基づいて次の処理が行われる場合には、シーンの認識に誤りがあると、ユーザーの意図しない処理が行われてしまう問題があった。
本発明は、病変認識処理で使用するシーンを正確に認識することができる内視鏡画像処理装置を提供することを目的とする。
上記課題を解決するために、本発明の内視鏡画像処理装置は、プロセッサを備える内視鏡画像処理装置であって、プロセッサは、被検体の体腔内に挿入される挿入部を有する内視鏡により撮影された体腔内の観察画像である内視鏡観察画像を取得し、内視鏡観察画像を用いてシーンを認識し、プロセッサにより認識された認識済みシーンが挿入部の挿入時に認識される第1特定シーンである場合は、認識済みシーンを第1特定シーンとして特定シーンメモリに記憶し、特定シーンメモリに第1特定シーンが記憶され、且つ、認識済みシーンが第1特定シーンよりも挿入部の移動方向における奥側のシーンである場合は、認識済みシーンを変更せずに出力し、特定シーンメモリに第1特定シーンが記憶され、且つ、認識済みシーンが第1特定シーンよりも挿入部の移動方向における手前側のシーンである場合は、認識済みシーンを変更して出力する。
プロセッサは、認識済みシーンを変更する場合に、認識済みシーンを第1特定シーンよりも奥側のシーンに変更することが好ましい。
プロセッサは、特定シーンメモリに第1特定シーンが記憶され、且つ、認識済みシーンが第1特定シーンに対応づけられたシーンでない場合は、認識済みシーンを第1特定シーンよりも奥側のシーンに変更することが好ましい。
プロセッサは、特定シーンメモリに第1特定シーンが記憶され、且つ、認識済みシーンが第1特定シーンに対応づけられたシーンでない場合は、認識済みシーンを第1特定シーンに対応づけられたシーンに変更することが好ましい。
プロセッサは、認識済みシーンを第1特定シーンよりも奥側のシーンのうち確信度の高いシーンに変更することが好ましい。
認識済みシーンが、挿入部の移動方向において挿入部が折り返す第2特定シーンである場合は、認識済みシーンを第2特定シーンとして特定シーンメモリに記憶することが好ましい。
プロセッサは、特定シーンメモリに第2特定シーンが記憶されている場合は、認識済みシーンを変更せずに出力することが好ましい。
認識済みシーンが挿入部の抜去時に認識される第3特定シーンである場合は、認識済みシーンを第3特定シーンとして特定シーンメモリに記憶することが好ましい。
プロセッサは、認識済みシーンが第3特定シーンよりも奥側のシーンである場合は、認識済みシーンを変更して出力することが好ましい。
プロセッサは、認識済みシーンを変更する場合に、プロセッサにより変更された認識済みシーンを用いて、認識済みシーンを変更することが好ましい。
シーンには、少なくとも咽頭、食道、食道胃接合部、胃、または十二指腸のいずれかが含まれることが好ましい。
第1特定シーンは、挿入部の挿入時における食道、食道胃接合部、または胃のいずれかであることが好ましい。
第2特定シーンは、十二指腸であることが好ましい。
第3特定シーンは、挿入部の抜去時における食道、食道胃接合部、または胃のいずれかであることが好ましい。
プロセッサは、出力された認識済みシーンを用いて、内視鏡観察画像に含まれる病変を検出するための認識処理である病変認識処理を行うことが好ましい。
本発明によれば、病変認識処理で使用するシーンを正確に認識することができる。
内視鏡システムの外観図である。 内視鏡画像処理装置の機能を示すブロック図である。 上部消化管を示す説明図である。 食道、食道胃接合部、胃の観察画像を時系列に沿って示す説明図である。 往路におけるシーン認識部とシーン出力部の機能を示す説明図である。 第1特定シーンが特定シーンメモリに記憶されている場合にシーン出力部が認識済みシーンを変更する説明図である。 第1特定シーンが特定シーンメモリに記憶されている場合にシーン出力部が認識済みシーンを変更しない説明図である。 第1特定シーンが特定シーンメモリに記憶されていない場合にシーン出力部が認識済みシーンを変更しない説明図である。 シーン出力部が確信度を用いて認識済みシーンを変更する場合の説明図である。 シーン出力部が変更後の認識済みシーンを用いて認識済みシーンを変更する場合の説明図である。 胃、十二指腸、胃の観察画像を時系列に沿って示す説明図である。 第1特定シーン及び第2特定シーンが特定シーンメモリに記憶されている場合のシーン出力部の機能を示す説明図である。 復路におけるシーン認識部とシーン出力部の機能を示す説明図である。 第1、第2、及び第3特定シーンが特定シーンメモリに記憶されている場合にシーン出力部が認識済みシーンを変更する説明図である。 往路におけるシーン出力部の機能を示すフローチャートである。 往路における上部消化管の検査順序を示す説明図である。 シーン出力部が検査順序に基づいて認識済みシーンを変更する場合の説明図である。
図1に示すように、内視鏡システム10は、内視鏡12と光源装置15と内視鏡画像処理装置16とモニタ18とコンソール19とを有する。内視鏡12は、被検体の体腔内に挿入する挿入部13と内視鏡12を操作するための操作部14とを有する。操作部14を操作することにより、挿入部13の先端部13aが所望の方向に向けられ、先端部13aに内蔵された、CCD(Charge Coupled Device)などの撮像素子を有する撮影部(図示しない)によって、被検体の体腔内を撮影した観察画像を取得する。光源装置15は、観察対象の照明に用いる通常光や特殊光などの照明光の制御を行う。内視鏡画像処理装置16は、モニタ18及びコンソール19と電気的に接続している。モニタ18は、内視鏡画像処理装置16から出力された観察画像や観察画像に付帯する情報などを表示する。コンソール19は、関心領域の指定や機能設定などの入力操作を受け付ける。
図2に示すように、内視鏡画像処理装置16は、観察画像取得部20とシーン認識部21と特定シーンメモリ22とシーン出力部23と病変認識処理部24とを有する。内視鏡画像処理装置16には、病変認識処理に関するプログラムがプログラム用メモリに組み込まれている。プロセッサによって構成される制御部(図示しない)によってそのプログラムが動作することで、観察画像取得部20、シーン認識部21、特定シーンメモリ22、シーン出力部23、及び病変認識処理部24の機能が実現する。
観察画像取得部20は、観察対象を撮影した観察画像を取得する。シーン認識部21は、観察画像のシーンを認識する。特定シーンメモリ22は、シーン認識部21により認識した認識済みシーンが往路Fの第1特定シーンである場合は、認識済みシーンを第1特定シーンとして記憶する。シーン出力部23は、特定シーンメモリ22に第1特定シーンが記憶され、且つ、認識済みシーンが第1特定シーンよりも挿入部13の移動方向における奥側のシーンである場合は、認識済みシーンを変更せずに出力し、特定シーンメモリ22に第1特定シーンが記憶され、且つ、認識済みシーンが第1特定シーンよりも挿入部13の移動方向における手前側のシーンである場合は、認識済みシーンを変更して出力する。病変認識処理部24は、シーン出力部23から出力した認識済みシーンが入力され、入力された認識済みシーンを用いて、各シーンに対応する病変認識処理を行う。なお、往路Fとは、挿入部13の移動方向において、挿入部13を挿入する方向のことを指す。
図3に示すように、内視鏡12による上部消化管のスクリーニングは、内視鏡12の先端部13aを被検体の口から押し込むように挿入し、往路Fの検査を、咽頭B1、食道B2、食道胃接合部(esophagogastric junction:EGJ)B3、胃B4、十二指腸B5の順序で行う。内視鏡12の先端部13aが十二指腸B5まで到達したら、内視鏡12の先端部13aを引き抜くようにして、復路Rの検査を、十二指腸B5、胃B4、食道胃接合部B3、食道B2、咽頭B1の順序で行う。なお、復路Rとは、挿入部13を挿入する方向に対して反対方向であり、挿入部13を抜去する方向のことを指す。
ユーザーは、内視鏡12の先端部13aを押し込んでいくことにより上部消化管内の各部位を通過させながら、各部位の観察画像を撮影する。観察画像取得部20は撮影された観察画像を取得する。図4は、ある時刻tにおける観察画像である。時刻t1、t2、t3において、観察画像取得部20が取得した観察画像には、それぞれ食道B2、食道胃接合部B3、胃B4の画像が撮影されている。なお、時刻tに付される数字は、大きくなるほど、時間的に後であることを示している。
シーン認識部21は、各時刻に得られた観察画像に対して、シーンを認識することによって、認識済みシーンを取得する。シーン認識部21は、色調や形状など粘膜の見え方の違いに基づいて認識済みシーンを取得するが、観察画像内に病変が存在し色調が通常と異なる場合などに適正なシーンを認識できない場合がある。適正な認識済みシーンが得られない場合には、シーン出力部23は、認識済みシーンを変更する。なお、適正な認識済みシーンである場合は、シーン出力部23は、認識済みシーンを変更せずに出力する。
病変認識処理部24は、観察画像取得部20により取得された観察画像に対して、シーン出力部23から出力されたシーン用に設定された病変認識処理を行う。病変認識処理は、観察画像について病変の有無や悪性度などを検出するものである。病変認識処理としては、機械学習などに基づく学習モデルを用いた処理であってもよい。機械学習としては、CNN(Convolutional Neural Network)を用いることが好ましい。本実施形態においては、シーン出力部23から実際のシーンに適した正確な認識済みシーンが病変認識処理部24に入力されるため、病変認識処理部24では、実際のシーンに合った適切な病変認識処理を行うことができる。なお、内視鏡12によりスクリーニングする際に、観察画像が取得されるのと並行して、病変認識処理が行われることが好ましい。
以下、シーン認識部21とシーン出力部23の詳細を説明する。特定シーンメモリ22は、シーン認識部21が観察画像のシーンを特定のシーンである特定シーンとして認識した場合に、いずれの特定シーンを認識したかを記憶する。特定シーンメモリ22には、第1特定シーンとして往路の食道胃接合部B3、第2特定シーンとして十二指腸B5、第3特定シーンとして復路Rの食道胃接合部B3が、記憶される。
内視鏡12が挿入され、図5の時刻t1において、内視鏡12の先端部13aが食道胃接合部B3に到達していない間は、シーン認識部21は食道胃接合部B3を認識しないため、特定シーンメモリ22はいずれの特定シーンも記憶しない。図5の時刻t2において、内視鏡12の先端部13aが食道胃接合部B3に到達し、シーン認識部21が食道胃接合部B3を認識すると、特定シーンメモリ22は、食道胃接合部B3を第1特定シーンとして記憶する。
食道胃接合部B3を通過した後は、シーン認識部21は、図5の時刻t3のように、シーンが胃B4であると認識するが、画像内に病変などが存在する場合などに、適正なシーンを認識しない場合がある。例えば、図5の時刻t4では、実際には胃B4が撮影されているが、シーン認識部21は、食道B2であると誤認識している。
そこで、第1特定シーンを特定シーンメモリ22に記憶した後は、シーン出力部23は、特定シーンメモリ22が第1特定シーンを記憶している場合であっても、認識済みシーンが、第1特定シーンよりも奥側である場合には、時刻t4の認識済みシーンの変更は行わない。一方、シーン出力部23は、特定シーンメモリ22に第1特定シーンが記憶されており、且つ、認識済みシーンが、第1特定シーンよりも手前側である場合には、時刻t4における観察画像の認識済みシーンを、食道B2から実際の撮影シーンである胃B4に変更する。このように、シーン出力部23は、シーン認識部21から認識済みシーンの情報を受け取り、特定シーンメモリ22を参照して、認識済みシーンと第1特定シーンとを比較することにより、最終的なシーンを出力する。
より具体的には、図6に示すように、図5の時刻t4において、シーン出力部23は、特定シーンメモリ22に第1特定シーンが記憶されており、且つ、シーン認識部21から受け取る認識済みシーンが食道B2である場合、食道B2は第1特定シーンの食道胃接合部B3の手前側であることから、認識済みシーンを食道B2から胃B4に変更する。
一方、図7に示すように、図5の時刻t3において、シーン出力部23は、特定シーンメモリ22に第1特定シーンが記憶されており、且つ、シーン認識部21から受け取る認識済みシーンが胃B4である場合、胃B4は第1特定シーンの食道胃接合部B3より奥側のシーンであることから、認識済みシーンの変更は行わない。
また、図8に示すように、図5の時刻t1においては、内視鏡12の先端部13aが、第1特定シーンである食道胃接合部B3を通過する前であり、特定シーンメモリ22に何も記憶されていない場合には、シーン出力部23は、認識済みシーンを変更せずに出力する。
図9に示すように、シーン出力部23は、シーンの確からしさを表す確信度を用いて、認識済みシーンを変更してもよい。例えば、第1特定シーンとして食道胃接合部B3が特定シーンメモリ22に記憶され、且つ、認識済みシーンが食道B2である場合は、シーン出力部23は、食道胃接合部B3より奥側のシーンのうち、確信度が高いシーンに変更する。
食道胃接合部B3より奥側のシーンとしては、胃B4または十二指腸B5がある。シーン認識部21は、観察画像に基づいてシーンの確信度を算出する。図9に示すように、胃B4である確信度が「70%」、十二指腸B5である確信度が「30%」である場合には、確信度の高い胃B4に認識済みシーンを変更することが好ましい。確信度としては、各部位毎の色調を数値化したものを用いることができる。例えば、胃と十二指腸の表面の色調を比較すると、胃の表面は赤味が強く十二指腸は黄色味が強いといった各部位の特徴があり、このような色情報に基づいて確信度を算出することができる。他の方法として、内視鏡12の挿入長と被検体の身長など体格に関する情報とを対応付けた対応関係に基づいて確信度を算出してもよい。
図10に示すように、シーン出力部23は、認識済みシーンを変更する場合に、シーン出力部23によって変更された認識済みシーンの情報を用いることができる。例えば、時刻t4の認識済みシーンが食道B2から胃B4に変更された場合には、シーン出力部23は、時刻t4の次の時刻t5の認識済みシーン(食道B2)と時刻t4の認識済みシーン(胃)とを比較して異なっている場合には、時刻t5の認識済みシーンを時刻t4の認識済みシーンに変更するようにしてもよい。
図11に示すように、内視鏡12の先端部13aが、往路Fの折り返しとなる十二指腸B5まで到達すると、十二指腸B5を、往路の折り返しに対応する第2特定シーンとして、特定シーンメモリ22に記憶する。図12に示すように、シーン出力部23は、特定シーンメモリ22に第1特定シーン及び第2特定シーンが記憶されている場合には、認識済みシーンを変更しない。例えば、時刻t6の認識済みシーンである胃B4は、変更しない。
内視鏡12の先端部13aが、復路Rの食道胃接合部B3に到達すると、食道胃接合部B3を復路Rの第3特定シーンとして記憶する。図13及び図14に示すように、シーン出力部23は、特定シーンメモリ22に第1特定シーンと第2特定シーンと第3特定シーンとが記憶され、且つ、時刻t7の認識済みシーンが、第3特定シーンよりも奥側の胃B4である場合には、認識済みシーンを、第3特定シーンよりも手前側の食道B2または咽頭B1のいずれかのシーンに変更する。一方、シーン出力部23は、特定シーンメモリ22に第1特定シーンと第2特定シーンと第3特定シーンとが記憶されている場合であっても、認識済みシーンが第3特定シーンよりも手前側である場合には、時刻t7の認識済みシーンの変更を行わない。なお、特定シーンメモリ22に第1特定シーンと第2特定シーンと第3特定シーンとが記憶されている場合の認識済みシーンの変更についても、前述したような方法で、確信度を用いて可能性の高いシーンに変更することや、シーン出力部23によって変更された認識済みシーンを用いて、その後に認識された認識済みシーンを変更することができる。
図15は、往路Fにおけるシーン出力部23の処理の流れをフローチャートで示したものである。なお、復路Rにおいても同様の処理が行われるため、ここでは往路Fについてのみ説明する。まず、認識済みシーンが、シーン認識部21からシーン出力部23に入力される(ステップS1)。シーン出力部23は、特定シーンメモリ22の記憶情報に第1特定シーンが記憶されているか否かを判定する(ステップS2)。特定シーンが記憶されていない場合、認識済みシーンが、第1特定シーンであれば特定シーンメモリ22に記憶し(ステップS3及びS4)、第1特定シーンでなければ認識済みシーンを変更せずに出力する(ステップS7)。第1特定シーンが記憶されている場合、または特定シーンメモリ22に第1特定シーンを記憶した後で、認識済みシーンと第1特定シーンの順序を比較し(ステップS5)、認識済みシーンが第1特定シーンよりも手前側のシーンであれば、認識済みシーンを変更して出力する(ステップS6)。また、認識済みシーンが第1特定シーンよりも奥側のシーンであれば、認識済みシーンを変更せずに出力する(ステップS7)。
なお、上部消化管のスクリーニングは、例えば、往路Fにおいては、手前側にある咽頭B1から奥側の十二指腸B5に向かうように、一定の方向に行われるから、観察するシーンの順序を検査順序30として記憶し、特定シーンと認識済みシーンの順序が検査順序30に従うように、認識済みシーンを変更してもよい。図16に示すように、往路Fの検査順序30において、第1特定シーンである食道胃接合部B3の次のシーンは胃B4である。図17に示すように、第1特定シーンとして食道胃接合部B3が記憶され、且つ、認識済みシーンが第1特定シーンより手前側である場合に、検査順序30に基づいて、認識済みシーンを食道B2から胃B4に変更する。なお、検査順序30は、内視鏡画像処理装置16内部の病変認識処理部24や、内視鏡画像処理装置16に設けたメモリに記憶してもよいし、外部の内視鏡情報管理システムなどに記憶してもよい。
なお、シーン認識部21が、第1特定シーンとして食道胃接合部B3を認識した後の認識済みシーンが第1特定シーンに対応付けられたシーンでない場合に、認識済みシーンを第1特定シーンより奥側のシーンに変更することが好ましい。例えば、食道胃接合部B3に対応付けられたシーンが胃B4及び十二指腸B5である場合に、第1特定シーンとして食道胃接合部B3を認識した後の認識済みシーンを、胃B4または十二指腸B5に変更することが好ましい(図3等参照)。また、例えば、上部消化管のスクリーニング検査をしているときに、シーン認識部21が、認識済みシーンとしてS状結腸など上部消化管以外のシーンを認識した場合は、シーン出力部23は、認識済みシーンを上部消化管に含まれる胃B4または十二指腸B5に変更することが好ましい。
また、例えば、食道胃接合部B3に対応付けられたシーンが胃B4である場合に、先端部13aが十二指腸B5に到達するまでの間は、第1特定シーンとして食道胃接合部B3を認識した後の認識済みシーンが胃B4と異なる場合は、認識済みシーンを胃B4に変更してもよい(図3等参照)。同様に、復路Rの検査においても、十二指腸B5に対応付けられたシーンが胃B4である場合に、先端部13aが食道胃接合部B3に到達するまでの間は、第2特定シーンとして十二指腸B5を認識した後の認識済みシーンが胃B4と異なる場合は、認識済みシーンを胃B4に変更してもよい。
なお、本実施形態においては、往路Fの第1特定シーンと復路Rの第3特定シーンとを同じ食道胃接合部B3としているが、第1特定シーンを食道胃接合部B3、第3特定シーンを食道B2とするように、第1特定シーンと第3特定シーンとが異なっていてもよい。
本実施形態において、観察画像取得部20、シーン認識部21、シーン出力部23、病変認識処理部24といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、GPU(Graphical Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGA、CPUとFPGAの組み合わせ、またはCPUとGPUの組み合わせなど)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。また、記憶部のハードウェア的な構造はHDD(Hard Disc Drive)やSSD(Solid State Drive)などの記憶装置である。
10 内視鏡システム
12 内視鏡
13 挿入部
13a 先端部
14 操作部
15 光源装置
16 内視鏡画像処理装置
18 モニタ
19 コンソール
20 観察画像取得部
21 シーン認識部
22 特定シーンメモリ
23 シーン出力部
24 病変認識処理部
30 検査順序

Claims (13)

  1. プロセッサを備える内視鏡画像処理装置であって、
    前記プロセッサは、
    被検体の体腔内に挿入される挿入部を有する内視鏡により撮影された前記体腔内の観察画像である内視鏡観察画像を取得し、
    前記内視鏡観察画像を用いてシーンを認識し、
    前記プロセッサにより認識された認識済みシーンが前記挿入部の挿入時に認識される第1特定シーンである場合は、前記認識済みシーンを前記第1特定シーンとして特定シーンメモリに記憶し、
    前記特定シーンメモリに前記第1特定シーンが記憶され、且つ、前記認識済みシーンが前記第1特定シーンよりも前記挿入部の移動方向における奥側の前記シーンである場合は、前記認識済みシーンを変更せずに出力し、前記特定シーンメモリに前記第1特定シーンが記憶され、且つ、前記認識済みシーンが前記第1特定シーンよりも前記挿入部の前記移動方向における手前側の前記シーンである場合は、前記認識済みシーンを前記第1特定シーンよりも前記奥側の前記シーンに変更して出力する内視鏡画像処理装置。
  2. 前記プロセッサは、前記特定シーンメモリに前記第1特定シーンが記憶され、且つ、前記認識済みシーンが前記第1特定シーンに対応づけられた前記シーンでない場合は、前記内視鏡の先端部が、前記第1特定シーンに対応づけられた前記シーンよりも奥側の部位に達するまでの間、前記認識済みシーンを前記第1特定シーンに対応づけられた前記シーンに変更する請求項1に記載の内視鏡画像処理装置。
  3. 前記プロセッサは、前記認識済みシーンを前記第1特定シーンよりも前記奥側の前記シーンのうち確信度の高い前記シーンに変更する請求項記載の内視鏡画像処理装置。
  4. 前記プロセッサは、前記認識済みシーンが、前記挿入部の前記移動方向において前記挿入部が折り返す第2特定シーンである場合は、前記認識済みシーンを前記第2特定シーンとして前記特定シーンメモリに記憶する請求項1からのいずれか一項に記載の内視鏡画像処理装置。
  5. 前記プロセッサは、前記特定シーンメモリに前記第2特定シーンが記憶されている場合は、前記認識済みシーンを変更せずに出力する請求項に記載の内視鏡画像処理装置。
  6. 前記プロセッサは、前記認識済みシーンが前記挿入部の抜去時に認識される第3特定シーンである場合は、前記認識済みシーンを前記第3特定シーンとして前記特定シーンメモリに記憶する請求項1からのいずれか一項に記載の内視鏡画像処理装置。
  7. 前記プロセッサは、前記認識済みシーンが前記第3特定シーンよりも前記奥側の前記シーンである場合は、前記認識済みシーンを変更して出力する請求項に記載の内視鏡画像処理装置。
  8. 前記プロセッサは、前記認識済みシーンを変更する場合に、前記プロセッサにより変更された前記認識済みシーンを用いて、前記認識済みシーンを変更する請求項1からのいずれか一項に記載の内視鏡画像処理装置。
  9. 前記シーンには、少なくとも咽頭、食道、食道胃接合部、胃、十二指腸が含まれる請求項1からのいずれか一項に記載の内視鏡画像処理装置。
  10. 前記第1特定シーンは、前記挿入部の前記挿入時における食道、食道胃接合部、胃のいずれかである請求項1からのいずれか一項に記載の内視鏡画像処理装置。
  11. 前記第2特定シーンは、十二指腸である請求項またはに記載の内視鏡画像処理装置。
  12. 前記第3特定シーンは、前記挿入部の前記抜去時における食道、食道胃接合部、胃のいずれかである請求項またはに記載の内視鏡画像処理装置。
  13. 前記プロセッサは、出力された前記認識済みシーンを用いて、前記内視鏡観察画像に含まれる病変を検出するための認識処理である病変認識処理を行う請求項1から1のいずれか一項に記載の内視鏡画像処理装置。
JP2022526643A 2020-05-27 2021-05-27 内視鏡画像処理装置 Active JP7463507B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020092566 2020-05-27
JP2020092566 2020-05-27
PCT/JP2021/020228 WO2021241695A1 (ja) 2020-05-27 2021-05-27 内視鏡画像処理装置

Publications (3)

Publication Number Publication Date
JPWO2021241695A1 JPWO2021241695A1 (ja) 2021-12-02
JPWO2021241695A5 JPWO2021241695A5 (ja) 2023-01-24
JP7463507B2 true JP7463507B2 (ja) 2024-04-08

Family

ID=78744941

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022526643A Active JP7463507B2 (ja) 2020-05-27 2021-05-27 内視鏡画像処理装置

Country Status (3)

Country Link
US (1) US20230091729A1 (ja)
JP (1) JP7463507B2 (ja)
WO (1) WO2021241695A1 (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009013940A1 (ja) 2007-07-20 2009-01-29 Olympus Corporation 画像抽出装置、画像抽出プログラムおよび画像抽出方法
WO2017061495A1 (ja) 2015-10-08 2017-04-13 オリンパス株式会社 内視鏡システム
JP2017108792A (ja) 2015-12-14 2017-06-22 オリンパス株式会社 内視鏡業務支援システム
WO2018135041A1 (ja) 2017-01-17 2018-07-26 オリンパス株式会社 内視鏡挿入形状観測装置
WO2018180573A1 (ja) 2017-03-31 2018-10-04 ソニー株式会社 手術用画像処理装置、画像処理方法、及び、手術システム
WO2019064704A1 (ja) 2017-09-29 2019-04-04 オリンパス株式会社 内視鏡画像観察支援システム、内視鏡画像観察支援装置、内視鏡画像観察支援方法
US20190175000A1 (en) 2016-05-18 2019-06-13 Given Imaging Ltd. System and method for selecting for display images captured in vivo
JP2019097661A (ja) 2017-11-29 2019-06-24 水野 裕子 内視鏡ナビゲーション装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03293393A (ja) * 1990-01-19 1991-12-25 Olympus Optical Co Ltd 医療用画像表示装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009013940A1 (ja) 2007-07-20 2009-01-29 Olympus Corporation 画像抽出装置、画像抽出プログラムおよび画像抽出方法
WO2017061495A1 (ja) 2015-10-08 2017-04-13 オリンパス株式会社 内視鏡システム
JP2017108792A (ja) 2015-12-14 2017-06-22 オリンパス株式会社 内視鏡業務支援システム
US20190175000A1 (en) 2016-05-18 2019-06-13 Given Imaging Ltd. System and method for selecting for display images captured in vivo
WO2018135041A1 (ja) 2017-01-17 2018-07-26 オリンパス株式会社 内視鏡挿入形状観測装置
WO2018180573A1 (ja) 2017-03-31 2018-10-04 ソニー株式会社 手術用画像処理装置、画像処理方法、及び、手術システム
WO2019064704A1 (ja) 2017-09-29 2019-04-04 オリンパス株式会社 内視鏡画像観察支援システム、内視鏡画像観察支援装置、内視鏡画像観察支援方法
JP2019097661A (ja) 2017-11-29 2019-06-24 水野 裕子 内視鏡ナビゲーション装置

Also Published As

Publication number Publication date
JPWO2021241695A1 (ja) 2021-12-02
US20230091729A1 (en) 2023-03-23
WO2021241695A1 (ja) 2021-12-02

Similar Documents

Publication Publication Date Title
CN113544743B (zh) 内窥镜用处理器、程序、信息处理方法和信息处理装置
JP6774552B2 (ja) プロセッサ装置、内視鏡システム及びプロセッサ装置の作動方法
JP2021100555A (ja) 医療画像処理装置、内視鏡システム、診断支援方法及びプログラム
JP5492729B2 (ja) 内視鏡画像記録装置、及び内視鏡画像記録装置の作動方法、並びにプログラム
JP4749732B2 (ja) 医用画像処理装置
CN113498323A (zh) 医用图像处理装置、处理器装置、内窥镜***、医用图像处理方法、及程序
JP6688243B2 (ja) 内視鏡システム及びその作動方法
Huang et al. Gastroesophageal reflux disease diagnosis using hierarchical heterogeneous descriptor fusion support vector machine
JP2018139846A (ja) 内視鏡システム及びその作動方法
JPWO2019130868A1 (ja) 画像処理装置、プロセッサ装置、内視鏡システム、画像処理方法、及びプログラム
Naz et al. Detection and classification of gastrointestinal diseases using machine learning
JP6707131B2 (ja) 画像処理装置、学習装置、画像処理方法、識別基準の作成方法、学習方法およびプログラム
CN112788978A (zh) 内窥镜用处理器、信息处理装置、内窥镜***、程序以及信息处理方法
JP7463507B2 (ja) 内視鏡画像処理装置
JP2022071617A (ja) 内視鏡システム及び内視鏡装置
JP2019111040A (ja) 画像解析装置及び画像解析方法
US20220361739A1 (en) Image processing apparatus, image processing method, and endoscope apparatus
CN115279247A (zh) 处理***、图像处理方法以及学习方法
WO2022095839A1 (zh) 图像处理方法、电子设备及可读存储介质
US20220202284A1 (en) Endoscope processor, training device, information processing method, training method and program
WO2023067922A1 (ja) 内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡システム
US20230414066A1 (en) Endoscope image processing apparatus, endoscope image processing method, and endoscope image processing program
WO2021241735A1 (ja) 内視鏡プロセッサ装置
WO2023013080A1 (ja) アノテーション支援方法、アノテーション支援プログラム及びアノテーション支援装置
WO2023148857A1 (ja) 情報出力方法および情報出力装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240327

R150 Certificate of patent or registration of utility model

Ref document number: 7463507

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150