JP6834019B2 - 医療画像処理装置、及び、内視鏡装置 - Google Patents

医療画像処理装置、及び、内視鏡装置 Download PDF

Info

Publication number
JP6834019B2
JP6834019B2 JP2019550327A JP2019550327A JP6834019B2 JP 6834019 B2 JP6834019 B2 JP 6834019B2 JP 2019550327 A JP2019550327 A JP 2019550327A JP 2019550327 A JP2019550327 A JP 2019550327A JP 6834019 B2 JP6834019 B2 JP 6834019B2
Authority
JP
Japan
Prior art keywords
discrimination
medical image
illumination light
discrimination processing
medical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019550327A
Other languages
English (en)
Other versions
JPWO2019087971A1 (ja
Inventor
加來 俊彦
俊彦 加來
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2019087971A1 publication Critical patent/JPWO2019087971A1/ja
Application granted granted Critical
Publication of JP6834019B2 publication Critical patent/JP6834019B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Endoscopes (AREA)

Description

本発明は、医療画像の解析結果を用いる医療画像処理装置、及び、内視鏡装置に関する。
従来、医療に係る装置(以下、医療装置という)のうち、被写体像を含む画像(以下、医療画像という)を取得するものは、取得した医療画像を医師に提示する。そして、医師は、医療装置から得る医療画像を判断材料の1つとして使用して診断等をする。当然ながら、診断の際に医療画像を用いてする被写体の状態等の鑑別は、医師の技量及び経験等に基づく。
近年においては、画像解析技術が進歩したので、医療画像を解析することで、医療画像から客観的な情報または定量的な情報を得ることができる。このため、医療画像の解析結果を医師等に提示することにより、鑑別及び診断等を支援する医療装置が増えてきている。例えば、特許文献1に記載の内視鏡装置は、蛍光を用いて撮影した蛍光画像または特定の狭い波長帯域を有する光(いわゆる狭帯域光)を用いて撮影した狭帯域光画像を用いて異常がある領域の位置を特定する。そして、異常がある領域の位置を、表示用の内視鏡画像において表示する。
特開2006−198106号公報
従来の医療装置においては、医療画像を解析することにより病変等の異常が認められる部分(病変部分または病変の可能性がある部分)を1または複数含む注目すべき領域(いわゆる注目領域、関心領域、または、異常領域等と称する領域である。以下、単に異常領域という。)を検出し、その位置等を提示して診断等を支援する。
医師等は、医療装置が提示した異常領域にある病変等について、その種類及び進行度等を鑑別するが、病変等の種類及び進行度の鑑別は依然として負担が大きい。このため、近年では、さらに医師等の負担を低減すべく、病変等の種類及び進行度等について、鑑別の材料となる詳細な情報を提供することが求められている。
本発明は、病変等について従来よりも詳細かつ正確な情報を提示できる医療画像処理装置、及び、内視鏡装置を提供することを目的とする。
本発明の医療画像処理装置は、被写体像を含む医療画像を取得する医療画像取得部と、医療画像のうち、特定のスペクトルを有する第1照明光を使用して撮影した第1医療画像を用いて1または複数種類の第1異常領域を検出する第1鑑別処理を行う第1鑑別処理部と、医療画像のうち、第1照明光とはスペクトルが異なる第2照明光を使用して撮影した第2医療画像を用いて、各々の第1異常領域が含む異常の種類を特定する第2鑑別処理を行う第2鑑別処理部と、医療画像のうち、第1照明光及び第2照明光とはスペクトルが異なる第3照明光を使用して撮影した第3医療画像を用いて、第1異常領域が含む異常の進行度を特定する第3鑑別処理を行う第3鑑別処理部と、を備える。
第2鑑別処理部は、第1異常領域に対応する第2医療画像に含まれる第2異常領域に対して第2鑑別処理を行うことで、第1異常領域が含む異常の種類を特定することが好ましい。
第3鑑別処理部は、第1異常領域または第2異常領域の少なくとも一方に対応する第3医療画像に含まれる第3異常領域に対して第3鑑別処理を行うことで、第1異常領域が含む異常の進行度を特定することが好ましい。
第3鑑別処理部は、第2鑑別処理の結果を用いて第3医療画像を選択することが好ましい。
第3鑑別処理部は、第2鑑別処理の結果と対応付けられた第3照明光のスペクトルで取得された第3医療画像を選択することが好ましい。
医療画像取得部は、第1医療画像、第2医療画像、及び、第3医療画像の他に、観察用医療画像を取得し、観察用医療画像を表示部に表示している間に、第1鑑別処理部は第1鑑別処理をし、第2鑑別処理部は第2鑑別処理をし、かつ、第3鑑別処理部は第3鑑別処理をすることが好ましい。
医療画像取得部は、第1医療画像、第2医療画像、及び、第3医療画像のうちの何れかを観察用医療画像に設定し、観察用医療画像を表示部に表示している間に、第1鑑別処理部は第1鑑別処理をし、第2鑑別処理部は第2鑑別処理をし、かつ、第3鑑別処理部は第3鑑別処理をすることが好ましい。
第2鑑別処理において特定する異常の種類、または、第3鑑別処理において特定する進行度の分類の設定を変更する設定部を備えることが好ましい。
設定部は、第1照明光、第2照明光、または、第3照明光の各スペクトルもしくは組み合わせの設定を変更することが好ましい。
カルテを取得するカルテ取得部を備え、設定部は、カルテが含む情報を用いて設定をすることが好ましい。
設定部は、第2鑑別処理において特定する異常の種類に、カルテが含む情報によって定まる特定の病変を含めることが好ましい。
第1鑑別処理の結果、第2鑑別処理の結果、または、第3鑑別処理の結果を修正する鑑別結果修正部を備えることが好ましい。
第1鑑別処理の結果、第2鑑別処理の結果、または、第3鑑別処理の結果を報知する鑑別結果報知部を備えることが好ましい。
本発明の内視鏡装置は、被写体像を含む内視鏡画像を取得する内視鏡画像取得部と、内視鏡画像のうち、特定のスペクトルを有する第1照明光を使用して撮影した第1内視鏡画像を用いて1または複数種類の第1異常領域を検出する第1鑑別処理を行う第1鑑別処理部と、内視鏡画像のうち、第1照明光とはスペクトルが異なる第2照明光を使用して撮影した第2内視鏡画像を用いて、各々の第1異常領域が含む異常の種類を特定する第2鑑別処理を行う第2鑑別処理部と、内視鏡画像のうち、第1照明光及び第2照明光とはスペクトルが異なる第3照明光を使用して撮影した第3医療画像を用いて、第1異常領域が含む異常の進行度を特定する第3鑑別処理部と、を備える。
第3鑑別処理部は、第2鑑別処理の結果を用いて第3医療画像を取得する際に用いる照明光のスペクトルを選択することが好ましい。
本発明の医療画像処理装置及び内視鏡装置は、病変等について従来よりも詳細かつ正確な情報を提供できる。
医療画像処理装置のブロック図である。 内視鏡装置のブロック図である。 光源装置が発光し得る照明光のスペクトルを示すグラフである。 観察用照明光のスペクトルを示すグラフである。 パターン1の鑑別用照明光のスペクトルを示すグラフである。 パターン2の鑑別用照明光のスペクトルを示すグラフである。 パターン3の鑑別用照明光のスペクトルを示すグラフである。 パターン4の鑑別用照明光のスペクトルを示すグラフである。 パターン5の鑑別用照明光のスペクトルを示すグラフである。 パターン6の鑑別用照明光のスペクトルを示すグラフである。 パターン7の鑑別用照明光のスペクトルを示すグラフである。 パターン8の鑑別用照明光のスペクトルを示すグラフである。 パターン9の鑑別用照明光のスペクトルを示すグラフである。 医療画像解析処理部のブロック図である。 第1内視鏡画像(第1医療画像)である。 第2内視鏡画像(第2医療画像)である。 第2鑑別処理部のブロック図である。 第3内視鏡画像(第3医療画像)である。 第3鑑別処理部のブロック図である。 設定部における設定の内容を示す説明図である。 医療画像処理装置の作用を示すフローチャートである。 鑑別結果を示す表示画面の例である。 カルテ取得部を設けた医療画像解析処理部のブロック図である。 鑑別結果修正部を設けた医療画像解析処理部のブロック図である。 鑑別結果報知部を設けた医療画像解析処理部のブロック図である。 医療画像処理装置を含む内視鏡装置のブロック図である。 内視鏡装置においてリアルタイムに鑑別処理を行う場合のフローチャートである。 医療画像処理装置を含む内視鏡装置のブロック図である。 観察条件と撮影の頻度を示す表である。 医療画像処理装置を含む診断支援装置の説明図である。 医療画像処理装置を含む医療業務支援装置の説明図である。
[第1実施形態]
図1に示すように、医療画像処理装置10は、医療画像取得部11、医療画像解析処理部12、表示部13、表示制御部15、入力受信部16、統括制御部17、及び、保存部18を備える。
医療画像取得部11は、医療装置である内視鏡装置21等から直接に、または、PACS(Picture Archiving and Communication System)22等の管理システムもしくはその他情報システムを介して、被写体像を含む医療画像を取得する。医療画像は、静止画像または動画(いわゆる検査動画)である。医療画像が動画である場合、医療画像取得部11は、検査後に、動画を構成するフレーム画像を静止画像として取得することができる。また、医療画像が動画である場合、医療画像の表示には、動画を構成する1つの代表フレームの静止画像を表示することのほか、動画を1または複数回、再生することを含む。また、医療画像取得部11が取得する医療画像には、内視鏡装置21等の医療装置を用いて医師が撮影した画像の他、内視鏡装置21等の医療装置が医師の撮影指示に依らず自動的に撮影した画像を含む。
医療画像取得部11は、複数の医療画像を取得し得る場合、これらの医療画像のうち1または複数の医療画像を選択的に取得できる。また、医療画像取得部11は、複数の互いに異なる検査において取得した複数の医療画像を取得できる。例えば、過去に行った検査で取得した医療画像と、最新の検査で取得した医療画像と、の一方または両方を取得できる。すなわち、医療画像取得部11は、任意に医療画像を取得できる。
本実施形態においては、医療画像処理装置10は、内視鏡装置21と接続し、内視鏡装置21から医療画像を取得する。すなわち、本実施形態において医療画像は、内視鏡画像である。
また、異常領域102(図15等参照)等の異常領域の有無の鑑別(異常領域102の検出)、異常領域102が含む病変等の種類の鑑別、及び、異常領域102が含む病変等の進行度の鑑別をするために、医療画像取得部11は、少なくとも相互に撮影条件が異なる複数の内視鏡画像(医療画像)を取得する。本実施形態においては、医療画像取得部11は、表示部13に表示する観察用の内視鏡画像(以下、観察用内視鏡画像101(観察用医療画像)という。図22参照。)と、異常領域102の有無の鑑別に用いる内視鏡画像(以下、第1内視鏡画像61という。図15参照。)と、異常領域102が含む病変等の種類の鑑別に用いる内視鏡画像(以下、第2内視鏡画像63という。図16参照。)と、異常領域102が含む病変等の進行度の鑑別に用いる内視鏡画像(以下、第3内視鏡画像66という。図18参照。)と、を取得する。観察用内視鏡画像101、第1内視鏡画像61、第2内視鏡画像63、及び、第3内視鏡画像66は、各々の使用目的に合わせるために、相互に撮影条件が異なる。
撮影条件とは、医療画像の撮影に係る条件であって、例えば、照明光のスペクトル、または、医療画像を生成する際の画像処理の有無もしくは強度、等である。照明光のスペクトルとは、波長ごとの強度分布であり、波長帯域及び中心波長の概念を含む。医療画像を生成する際の画像処理とは、例えば、特定の組織または病変等を強調する色彩等の調節に係る処理等である。
図2に示すように、本実施形態において医療画像処理装置10が接続する内視鏡装置21は、白色の波長帯域の光もしくは特定の波長帯域の光の少なくともいずれかを照射して被写体を撮影する内視鏡31、内視鏡31を介して被写体内に照明光を照射する光源装置32、プロセッサ装置33、及び、内視鏡31を用いて撮影した内視鏡画像等を表示するモニタ34を有する。
内視鏡31は、被写体が反射または散乱した照明光、または、被写体もしくは被写体に投与した薬剤等が発光する蛍光、等を用いて被写体を撮影するイメージセンサ41を備える。イメージセンサ41は、例えば、CMOS(Complementary Metal-Oxide-Semiconductor)のカラーセンサ(カラーフィルタを有するセンサ)である。
光源装置32は、光源部42と、光源制御部47と、を含む。光源部42は、スペクトルが異なる複数種類の照明光を発光する。光源部42は、例えば、LED(Light Emitting Diode)、LD(Laser Diode)、またはキセノンランプ等の発光デバイスを備える。また、光源部42は、プリズム、ミラー、光ファイバ、または、波長帯域もしくは光量等を調節する光学フィルタ等、を必要に応じて備える。本実施形態においては、光源部42は、中心波長が約405nmの紫色光を発光するV−LED43と、中心波長が約450nmの青色光を発光するB−LED44と、中心波長が約540nmの緑色光を発光するG−LED45と、中心波長が約630nmのR−LED46と、を備える。
光源制御部47は、光源部42が含む発光源を制御し、内視鏡31が被写体の撮影に使用する照明光を発生する。また、光源制御部47は、光源部42が複数の発光デバイスを含む場合、各発光デバイスの発光のタイミング及び発光量をそれぞれに制御することができる。したがって、光源装置32は、スペクトルが異なる複数種類の照明光を、任意のタイミング及び任意の強度で内視鏡31に供給できる。すなわち、本実施形態においては、光源装置32は、光源制御部47が行う制御により、白色光の他、紫色光、青色光、緑色光、赤色光、または、これら各色の光のうち2以上を任意の強度比で混合した光等を、任意のタイミング及び任意の強度で照明光として発光できる。
例えば、本実施形態においては、光源装置32は、図3に示すように、V−LED43が発光する紫色光(符号「V」で表す。以下同じ。)と、B−LED44が発光する青色光(符号「B」で表す。以下同じ。)と、G−LED45が発光する緑色光(符号「G」で表す。以下同じ。)と、R−LED46が発光する赤色光(符号「R」で表す。以下同じ。)と、を含む照明光を発光できる。光源制御部47は、上記照明光が含む、紫色光V、青色光B、緑色光G、及び、赤色光Rの各色光の光量を、撮影の目的等に応じて任意に制御する。
例えば、観察用内視鏡画像101を得る場合、光源装置32は、図4に示す観察用スペクトルを有する照明光(以下、観察用照明光という)を発光する。観察用照明光は、いわゆる白色光である。また、各種鑑別処理用の第1内視鏡画像61、第2内視鏡画像63、または第3内視鏡画像66を得る場合、光源装置32は、例えば、図5に示すスペクトルを有する照明光(以下、パターン1の鑑別用照明光という)、図6に示すスペクトルを有する照明光(以下、パターン2の鑑別用照明光という)、図7に示すスペクトルを有する照明光(以下、パターン3の鑑別用照明光という)、図8に示すスペクトルを有する照明光(以下、パターン4の鑑別用照明光という)、図9に示すスペクトルを有する照明光(以下、パターン5の鑑別用照明光という)、図10に示すスペクトルを有する照明光(以下、パターン6の鑑別用照明光という)、図11に示すスペクトルを有する照明光(以下、パターン7の鑑別用照明光という)、図12に示すスペクトルを有する照明光、または、図13に示すスペクトルを有する照明光(以下、パターン9の鑑別用照明光という)を適宜切り替えて発光する。
パターン1の鑑別用照明光(図5参照)は第1内視鏡画像61を取得する際に使用する。パターン2の鑑別用照明光(図6参照)は第2内視鏡画像63を取得する際に使用する。パターン6の鑑別用照明光(図10参照)、パターン3の鑑別用照明光(図7参照)、及び、パターン4の鑑別用照明光(図4参照)は、第3内視鏡画像66を取得する際に使用する。より具体的には、パターン6の鑑別用照明光は、ポリープの進行度を鑑別するための第3内視鏡画像66を取得する際に使用し、パターン3の鑑別用照明光は、潰瘍性大腸炎の進行度を鑑別するための第3内視鏡画像66を取得する際に使用し、かつ、パターン4の鑑別用照明光はクローン病の進行度を鑑別するための第3内視鏡画像66を取得する際に使用する。
この他、光源装置32は、発光デバイスの特性により、または、光学フィルタの使用により、特定の狭い波長帯域を有する光(いわゆる狭帯域光)を照明光として発光できる。例えば、緑色波長帯域よりも短波長帯域の光、特に可視域の青色帯域または紫色帯域の光を発光できる。
プロセッサ装置33は、イメージセンサ41から内視鏡画像を取得し、または、イメージセンサ41から取得した内視鏡画像に画像処理を施した内視鏡画像を生成する内視鏡画像生成部48を備える。イメージセンサ41及び内視鏡画像生成部48は、内視鏡装置21において「内視鏡画像取得部」を構成する。内視鏡画像取得部は、照明光を使用して被写体を撮影することにより、被写体像を含む内視鏡画像を取得する。医療画像処理装置10は上記プロセッサ装置33と接続する。そして、医療画像取得部11は、内視鏡装置21の内視鏡画像生成部48から直接に内視鏡画像を取得する。
医療画像解析処理部12は、医療画像取得部11が取得した医療画像である内視鏡画像を用いて解析処理をする。具体的には、図14に示すように、第1鑑別処理部51と、第2鑑別処理部52と、第3鑑別処理部53と、設定部56と、を含む。
第1鑑別処理部51は、医療画像を用いて異常領域102の有無を鑑別する。具体的には、第1鑑別処理部51は、医療画像取得部11が取得した医療画像のうち、特定のスペクトルを有する第1照明光を使用して撮影した第1医療画像を用いて1または複数種類の異常領域102を検出する第1鑑別処理を行う。本実施形態において、「特定のスペクトルを有する第1照明光」とはパターン1の鑑別用照明光であり、かつ、図15に示すように、第1医療画像は第1内視鏡画像61である。以下、他の医療画像における異常領域102との区別が必要な場合には、第1内視鏡画像61(第1医療画像)における異常領域102は「第1異常領域」という。第1鑑別処理部51は、例えば、第1内視鏡画像61を用いて1または複数の所定の特徴量を算出し、算出した特徴量を用いて異常領域102を検出する。所定の特徴量とは、例えば、色もしくは明るさ、血管等の特定の組織または構造の形状、長さ、太さ、粘膜表面からの深さ、密度、大きさ、分布等の範囲、分岐数、複雑度、規則性の乱れ、または、その他の特徴に係る数量である。第1鑑別処理部51は、特徴量を使用する代わりに、例えば、テクスチャ解析または規則形状を用いたパターンマッチングにより、第1鑑別処理を行うことができる。
医療画像取得部11が内視鏡画像を取得する場合、第1鑑別処理部51が異常領域102として検出する対象は、1または複数の病変、周辺の組織等と相違する色もしくは形状の特徴を有する領域、薬剤を散布等した領域、または、処置(生検、内視鏡的粘膜切除術(EMR(Endoscopic Mucosal Resection))、または、内視鏡的粘膜下層剥離術(ESD(Endoscopic Submucosal Dissection))等)を実施した領域、等の対象を含む領域である。医療画像が内視鏡画像である場合、病変等とは、例えば、潰瘍性大腸炎等の炎症性疾患に係る炎症、クローン病、または、ポリープ(***性病変)等である。ポリープとは、より具体的には、過形成ポリープ(HP:hyperplastic polyp)、SSA/P(sessile serrated adenoma/polyp)、腺腫、癌、等である。また、周辺の組織等と相違する色もしくは形状の特徴を有する領域とは、被写体の発赤、萎縮、憩室、または、治療痕、等である。
第1鑑別処理部51は、医療画像の一部または全部について、異常領域102を検出する。すなわち、第1鑑別処理部51は、第1鑑別処理を、画素ごとに、内視鏡画像を小領域に分ける場合にはその小領域ごとに、または、内視鏡画像の全体に対して、行うことができる。本実施形態においては、第1鑑別処理部51は、所定数の画素からなる小領域ごとに、異常領域102か否かを判断する。したがって、第1鑑別処理部51は、医療画像の1箇所または複数箇所において異常領域102を検出することができる。第1鑑別処理部51は、処理結果の確からしさを表す「確度」と、を第1鑑別処理の結果に含めることができる。
第2鑑別処理部52は、第1異常領域(図15における異常領域102)が含む異常の種類を鑑別する。具体的には、第2鑑別処理部52は、医療画像取得部11が取得した医療画像のうち、第1照明光とはスペクトルが異なる第2照明光を使用して撮影した第2医療画像を用いて、各々の第1異常領域が含む異常の種類を特定する第2鑑別処理を行う。本実施形態において、「第1照明光とはスペクトルが異なる第2照明光」とは、パターン2の鑑別用照明光であり、かつ、図16に示すように、第2医療画像は第2内視鏡画像63である。第2鑑別処理部52は、少なくとも、第1異常領域に対応する「第2医療画像に含まれる第2異常領域」に対して第2鑑別処理を行うことで、第1異常領域が含む異常の種類を特定する。第2異常領域とは、第2内視鏡画像63(第2医療画像)における異常領域102である。第2異常領域(図16の異常領域102)は、被写体中の位置その他の特徴等が第1異常領域に対応する。なお、第2鑑別処理の対象に第2異常領域が含まれていれば良いので、第2鑑別処理部52は、例えば、第2異常領域を位置等を特定せずに、第2内視鏡画像63の全体に対して第2鑑別処理を行って第1異常領域が含む異常の種類を特定できる。
第2鑑別処理部52は、鑑別対象とする「異常の種類」の数に応じて1または複数の種類鑑別部を備える。種類鑑別部は、異常領域102が含む異常が特定の病変か否かを鑑別する。本実施形態においては、図17に示すように、第2鑑別処理部52は、第1種類鑑別部71、第2種類鑑別部72、第3種類鑑別部73、及び、その他の種類鑑別部(図示しない)を備える。第1種類鑑別部71は、第1鑑別処理において検出した異常領域102(複数の異常領域102を検出した場合にはそれらのうちの特定の異常領域102である。以下、同じ。)が含む異常が「ポリープ」か否かを鑑別する。第2種類鑑別部72は、第1鑑別処理において検出した異常領域102が含む異常が「潰瘍性大腸炎」か否かを鑑別する。第3種類鑑別部73は、第1鑑別処理において検出した異常領域102が含む異常が「クローン病」か否かを鑑別する。その他の種類鑑別部も同様に、異常領域102が含む異常が特定の病変であるか否かを鑑別する。
第2鑑別処理の結果は、少なくとも異常領域102が含む異常の種類を示す情報(「ポリープ」、「潰瘍性大腸炎」、または、「クローン病」等)を含む。なお、第2鑑別処理の結果は、必ずしも異常の種類を1つに確定的に特定するものではなく、「潰瘍性大腸炎である確率40%、かつ、クローン病である確率40%」というように、各々の種類鑑別部における鑑別結果の確からしさを表す確度(確率)と合わせて、もっともらしい異常の種類を絞り込み得る情報である。したがって、第2鑑別処理において「異常の種類を特定する」とは、異常の種類を絞り込み得る情報を得ることをいう。
第3鑑別処理部53は、第1異常領域(図15における異常領域102)が含む異常の進行度を鑑別する。具体的には、第3鑑別処理部53は、医療画像取得部11が取得した医療画像のうち、第1照明光及び第2照明光とはスペクトルが異なる第3照明光を使用して撮影した第3医療画像を用いて、異常領域102が含む異常の進行度を特定する第3鑑別処理を行う。本実施形態において、「第1照明光及び第2照明光とはスペクトルが異なる第3照明光」とはパターン3からパターン9のいずれかの鑑別用照明光であり、かつ、図18に示すように、第3医療画像は第3内視鏡画像66である。また、第3鑑別処理部53は、第1異常領域または第2異常領域の少なくとも一方に対応する「第3医療画像に含まれる第3異常領域」に対して第3鑑別処理を行うことで、第1異常領域が含む異常の進行度を特定する。第3異常領域とは、第3内視鏡画像66(第3医療画像)における異常領域102である。第3異常領域(図18の異常領域102)は、被写体中の位置その他の特徴等が第1異常領域または第2異常領域に対応する。なお、第3鑑別処理の対象に第3異常領域が含まれていれば良いので、第3鑑別処理部53は、例えば、第3異常領域を位置等を特定せずに、第3内視鏡画像66の全体に対して第3鑑別処理を行って第1異常領域が含む異常の種類を特定できる。
第3鑑別処理部53は、鑑別対象とする「異常の種類」の数に応じて1または複数の進行度鑑別部を備える。進行度鑑別部は、特定種類の異常について、その進行度を鑑別する。本実施形態においては、図19に示すように、第3鑑別処理部53は、第1進行度鑑別部81、第2進行度鑑別部82、第3進行度鑑別部83、及び、その他の進行度鑑別部(図示しない)を備える。第1進行度鑑別部81は、ポリープの進行度を鑑別する。第2進行度鑑別部82は、潰瘍性大腸炎の進行度を鑑別する。第3進行度鑑別部83は、クローン病の進行度を鑑別する。その他の進行度鑑別部も同様である。
第3鑑別処理の結果は、病変等の進行度である。医療画像が内視鏡画像である場合、進行度はいわゆる内視鏡所見分類にしたがって鑑別する。ポリープ(癌を含む)を対象病変とする場合の内視鏡所見分類には、例えば、NICE(The Narrow-band imaging International Colorectal Endoscopic)分類、またはJNET(The Japan NBI(Narrow Band Imaging) Expert Team)分類等がある。本実施形態においては、第3鑑別処理においてポリープの進行度を鑑別する場合、NICE分類にしたがって、「NICE Type1」、「NICE Type2」、または、「NICE Type3」に分類する。「NICE Type1」は過形成病変を表し、「NICE Type2」は腺腫(アデノーマ)から粘膜内癌(いわゆるM癌)を表し、かつ、「NICE Type3」は粘膜下層浸潤癌(いわゆるSM癌)を表す。
潰瘍性大腸炎の内視鏡所見分類には、例えば、Mayo分類、Matts分類、UCEIS(Ulcerative Colitis Endoscopic. Index of Severity)分類等である。これら内視鏡所見分類のうち、本実施形態においては、潰瘍性大腸炎の進行度をMayo分類にしたがって分類する。Mayo分類にはMayo0(グレード0)、Mayo1(グレード1)、Mayo2(グレード2)、及び、Mayo3(グレード3)の4段階のグレードがある。Mayo0は、正常または非活動性(寛解期を含む)を表すグレードである。Mayo1は、軽症を表すグレードであり、一般に、発赤、血管像不明瞭、または、軽度の易出血性が認められる状態である。Mayo2は、中等症を表すグレードであり、一般に、顕著な発赤、血管像の消失、易出血性、膿性分泌物の付着、粘膜粗造、糜爛、または、部分的な潰瘍等が認められる状態である。Mayo3は重症(活動期)を表すグレードであり、一般に、明らかな自然出血、浮腫、潰瘍(広範な潰瘍を含む)等が認められる状態である。また、第3鑑別処理においては、潰瘍性大腸炎にともなう異形成(dysplasia)を鑑別する。
クローン病の内視鏡所見分類には、例えばSESCD(Simple Endoscopic Score for Crohn's Disease)等がある。本実施形態においては、クローン病の進行度をSESCDにしたがって、「SESCD 0」、「SESCD 1」、「SESCD 2」、または「SESCD 3」に分類する。
第2鑑別処理の結果が、病変の種類を複数に絞り込んだ結果である場合、第3鑑別処理においては、各種類の病変についてそれぞれ進行度を鑑別し、1または複数の病変についての進行度を第3鑑別処理の結果として出力する。例えば、第2鑑別処理の結果が「潰瘍性大腸炎である確率40%、かつ、クローン病である確率40%」である場合、第3鑑別処理においては、潰瘍性大腸炎の進行度と、クローン病の進行度と、を鑑別する。そして、第2鑑別処理において絞り込んだ各病変の進行度が、例えば、「潰瘍性大腸炎である場合Mayo1である確率が20%」かつ「クローン病である場合、SESCD1である確率が95%」であれば、これらの結果のうち、後者のクローン病に係る結果を第3鑑別処理の結果として出力する。
なお、第3鑑別処理部53は、第2鑑別処理の結果を用いて1または複数の第3医療画像を選択する。また、第3鑑別処理部53は、第2鑑別処理の結果と対応付けられた第3照明光のスペクトルで取得された第3医療画像を選択する。例えば、第2鑑別処理の結果が「ポリープ」を含む場合、パターン6の鑑別用照明光を用いて撮影した内視鏡画像を第3内視鏡画像66として選択及び取得する。同様に、第2鑑別処理の結果が「潰瘍性大腸炎」を含む場合、パターン3の鑑別用照明光を用いて撮影した内視鏡画像を第3内視鏡画像66として選択及び取得し、かつ、第2鑑別処理の結果が「クローン病」を含む場合、パターン4の鑑別用照明光を用いて撮影した内視鏡画像を第3内視鏡画像66として選択及び取得する。
医療画像取得部11は、第2鑑別処理部52及び第3鑑別処理部53が要求する可能性がある医療画像を予め取得することができる。また、医療画像取得部11は、第2鑑別処理部52または第3鑑別処理部53が要求した医療画像を未取得である場合、第2鑑別処理部52または第3鑑別処理部53の要求にしたがって、第2鑑別処理または第3鑑別処理に使用する医療画像を取得することができる。
また、第1鑑別処理、第2鑑別処理、及び第3鑑別処理は、表示部13に観察用医療画像を表示しつつ、そのバックグラウンドで実施する。すなわち、観察用医療画像(本実施形態においては観察用内視鏡画像101)を表示部13に表示している間に、第1鑑別処理部51は第1鑑別処理をし、第2鑑別処理部52は第2鑑別処理をし、かつ、第3鑑別処理部53は第3鑑別処理をする。本実施形態においては、医療画像取得部11は、第1医療画像、第2医療画像、及び、第3医療画像の他に、観察用医療画像を取得するが、医療画像取得部11が、第1医療画像、第2医療画像、及び、第3医療画像のうちの何れかを観察用医療画像に設定する場合(第1医療画像、第2医療画像、または第3医療画像を観察用医療画像としても利用する場合)も同様である。なお、表示制御部15は、第1鑑別処理、第2鑑別処理、または第3鑑別処理を行っている途中で、表示部13に表示する観察用内視鏡画像101を適宜更新できる。
設定部56は、第2鑑別処理において特定する異常の種類(鑑別対象)、または、第3鑑別処理において特定する進行度の分類(鑑別内容)の設定を記憶し、かつ、変更することができる。例えば、設定部56は、図20に示す設定変更用メニューウィンドウを表示部13に表示する。医師等がマウス等を用いてチェックボックス91にチェック(「レ」)を入れることにより、該当する鑑別対象及び鑑別内容を有効化することができる。図17においては、鑑別対象として「ポリープ」と「潰瘍性大腸炎」を有効化し、ポリープについては「NICE Type1」、「NICE Type2」、及び、「NICE Type3」を有効化しており、かつ、潰瘍性大腸炎については、「Mayo0」、「Mayo1」、及び、「Mayo2」を有効化している。この設定の場合、第2鑑別処理部52は、異常領域102が含む異常がポリープであるか否か、及び、潰瘍性大腸炎であるか否かを鑑別する。また、第3鑑別処理部53は、異常領域102が含む異常がポリープである場合に、その進行度を、「NICE Type1」、「NICE Type2」、または、「NICE Type3」に鑑別する。同様に、第3鑑別処理部53は、異常領域102が含む異常が潰瘍性大腸炎である場合に、その進行度を、「Mayo0」、「Mayo1」、または、「Mayo2」に鑑別する。
なお、第2鑑別処理において特定する異常の種類(鑑別対象)、または、第3鑑別処理において特定する進行度の分類(鑑別内容)を設定し、もしくはこれら設定の変更をする代わりに、設定部56は、第1照明光、第2照明光、または、第3照明光の各スペクトルもしくは組み合わせの設定をし、もしくはこれらの設定を変更することができる。第2鑑別処理において特定する異常の種類(鑑別対象)、または、第3鑑別処理において特定する進行度の分類(鑑別内容)を設定することと、第1照明光、第2照明光、または、第3照明光の各スペクトルもしくは組み合わせの設定をすることは、第1鑑別処理、第2鑑別処理、及び、第3鑑別処理に関して実質的に同じ設定の効果を発揮する。
表示部13は、医療画像取得部11が取得した医療画像を表示するディスプレイである。表示部13は、少なくとも観察用医療画像を表示する。また、表示部13は、第1鑑別処理の結果、第2鑑別処理の結果、及び、第3鑑別処理の結果のうち1または複数を表示することができる。医療画像処理装置10が接続するデバイス等が含むモニタまたはディスプレイを共用し、医療画像処理装置10の表示部13として使用できる。
表示制御部15は、表示部13における観察用医療画像等の表示態様を制御する。本実施形態においては、第1鑑別処理部51が検出した異常領域102(第1異常領域)を観察用内視鏡画像101に重畳して表示する。また、表示制御部15は、異常領域102が含む異常の種類、及び、異常領域102が含む異常の進行度を表す文字(文字列もしくはメッセージ)等を表示部13に表示する。なお、設定によっては、表示制御部15は、音(音声を含む)、光(観察用内視鏡画像101の部分的な点滅等)、座標の表示等、その他の任意の方法で、異常領域102の位置、異常領域102が含む異常の種類、及び、異常領域102が含む異常の進行度を示すことができる。
入力受信部16は、医療画像処理装置10に接続するマウス、キーボード、その他操作デバイスからの入力を受け付ける。医療画像処理装置10の各部の動作はこれらの操作デバイスを用いて制御できる。
統括制御部17は、医療画像処理装置10の各部の動作を統括的に制御する。入力受信部16が操作デバイスを用いた操作入力を受信した場合には、統括制御部17は、その操作入力にしたがって医療画像処理装置10の各部を制御する。
保存部18は、医療画像処理装置10が含むメモリ等の記憶デバイス(図示しない)、または、内視鏡装置21等の医療装置もしくはPACS22が含む記憶デバイス(図示しない)に、必要に応じて、異常領域102の位置、異常領域102が含む異常の種類、または、異常領域102が含む異常の進行度等を保存する。
以下、医療画像処理装置10の動作の流れを説明する。図21に示すように、医療画像取得部11は、観察用医療画像である観察用内視鏡画像101を適宜取得し(ステップS110)、かつ、表示制御部15は観察用内視鏡画像101を表示部13に適宜表示する(ステップS111)。こうして表示部13に観察用内視鏡画像101を表示する処理のバックグラウンドにおいては、医療画像取得部11が第1鑑別処理用の医療画像である第1内視鏡画像61を取得し(ステップS112)、かつ、第1鑑別処理部51が第1内視鏡画像61を用いて異常領域102の有無を鑑別する第1鑑別処理を実行する(ステップS113)。
第1鑑別処理において異常領域102を検出すると、医療画像取得部11は第2鑑別処理用の医療画像である第2内視鏡画像63を取得し(ステップS114)、かつ、第2鑑別処理部52が第2内視鏡画像63を用いて異常領域102が含む異常の種類を鑑別する第2鑑別処理を実行する(ステップS115)。その後、医療画像取得部11は第3鑑別処理用の医療画像である第3内視鏡画像66を取得し(ステップS116)、かつ、第3鑑別処理部53が第3内視鏡画像66を用いて異常領域102が含む異常の進行度を鑑別する第3鑑別処理を実行する(ステップS117)。
こうして第1鑑別処理、第2鑑別処理、及び第3鑑別処理を実行すると、表示制御部15は、表示部13にこれらの結果を表示する(ステップS118)。例えば、図22に示すように、表示制御部15は、観察用内視鏡画像101において異常領域102の輪郭を示す等して異常領域102の位置を表示する。また、表示制御部15は、第2鑑別処理の結果を示すための特定の表示欄103に異常領域102が含む異常が例えば「潰瘍性大腸炎」であることを表示し、かつ、第3鑑別処理の結果を示すための特定の表示欄104に、進行度が例えば「Mayo1」であることを表示する。
上記のように、医療画像処理装置10は、異常領域102を検出し、検出した異常領域102が含む異常の種類及び進行度を鑑別する際に、これら各々の鑑別に適した照明光で撮影した医療画像を使用している。具体的には、第1鑑別処理においては、異常領域102の有無の鑑別に適した第1内視鏡画像61を使用し、第2鑑別処理においては異常領域102が含む異常の種類の鑑別に適した第2内視鏡画像63を使用し、かつ、第3鑑別処理においては進行度の鑑別に適した第3内視鏡画像66を使用する。このため、医療画像処理装置10は、異常領域102の位置に加え、さらに、異常領域102が含む異常の種類、及び、異常領域102が含む異常の進行度についての正確な情報を提供できる。すなわち、医療画像処理装置10は、病変等について従来よりも詳細な情報を提供して、診断等をより効果的に支援することができる。
なお、第1実施形態における第1鑑別処理部51、第2鑑別処理部52、及び、第3鑑別処理部53は、機械学習またはディープラーニング等により学習した、いわゆるAI(Artificial Intelligence)プログラムを用いて構成することができる。
なお、第2鑑別処理において、異常の種類を複数の種類に絞り込んだ場合、医療画像取得部11は、各々の異常の種類について、それぞれ第3鑑別処理に適した第3内視鏡画像66を取得し、かつ、第3鑑別処理部53は、各種類の異常の進行度を鑑別する。例えば、第2鑑別処理において「潰瘍性大腸炎である確率40%、かつ、クローン病である確率40%」と特定した場合、医療画像取得部11は、潰瘍性大腸炎の進行度の鑑別に必要な第3内視鏡画像66と、クローン病の進行度の鑑別に必要な第3内視鏡画像66を取得し、かつ、第3鑑別処理部53は各第3内視鏡画像66を用いて、潰瘍性大腸炎の進行度(異常の種類が潰瘍性大腸炎であるとした場合の進行度)と、クローン病の進行度(異常の種類がクローン病であるとした場合の進行度)と、を特定する。
また、第2鑑別処理において異常の種類を複数の種類に絞り込み、かつ、第3鑑別処理において各々の進行度を特定した場合、表示制御部15は、少なくとも、最も確度が高い鑑別結果を表示する。例えば、第2鑑別処理において「潰瘍性大腸炎である確率40%、かつ、クローン病である確率40%」と特定し、第3鑑別処理において「潰瘍性大腸炎の進行度がMayo1である確率20%」、かつ、「クローン病の進行度がSESCD1である確率95%」と特定した場合、表示制御部15は、少なくとも、異常の種類「クローン病」及び進行度「SESCE1」を表示する。
図23に示すように、医療画像解析処理部12は、第1鑑別処理部51、第2鑑別処理部52、第3鑑別処理部53、及び、設定部56に加えて、カルテ取得部121を備えても良い。カルテ取得部121は、内視鏡装置21等の医療装置、または、PACS22等から、検査対象である患者のカルテを取得する。カルテとは、患者に関して診療または検査の経過等を記録した情報であり、例えば、患者の氏名、性別及び年齢、病名、主要な症状、処方もしくは処置の内容、または、既往歴等の記録を含む。
上記のように、カルテ取得部121を備える場合、設定部56は、カルテが含む情報を用いて、第2鑑別処理において特定する異常の種類(鑑別対象)、または、第3鑑別処理において特定する進行度の分類(鑑別内容)の設定をすることができる。例えば、設定部56は、第2鑑別処理において特定する異常の種類に、カルテが含む情報によって定まる特定の病変を含めることができる。具体的には、潰瘍性大腸炎の既往歴があれば、潰瘍性大腸炎が検査の主な対象である主病変でなくても、設定部56が、潰瘍性大腸炎を副病変として、鑑別対象に設定する等である。
図24に示すように、医療画像解析処理部12は、第1鑑別処理部51、第2鑑別処理部52、第3鑑別処理部53、及び、設定部56に加えて、鑑別結果修正部131を備えても良い。鑑別結果修正部131は、医師等の入力受信部16を用いた操作入力に基づいて、第1鑑別処理の結果、第2鑑別処理の結果、または、第3鑑別処理の結果を修正する。鑑別結果修正部131を設けておくことにより、第1鑑別処理、第2鑑別処理、または、第3鑑別処理における誤鑑別を修正できる。具体的には、医師等は、第1鑑別処理において検出した異常領域102の位置、大きさ、範囲、または、個数等を任意に修正することができる。また、第2鑑別処理において特定した異常の種類を任意に選択し直すことができ、または、第3鑑別処理において特定する進行度についても、医師等は任意に鑑別し直すことができる。
鑑別結果修正部131が第1鑑別処理の結果を修正した場合、第2鑑別処理部52は修正後の第1鑑別処理の結果を反映して第2鑑別処理を実行し、かつ、第3鑑別処理部53は、修正後の第1鑑別処理の結果を反映した第2鑑別処理の結果を反映して第3鑑別処理を実行する。鑑別結果修正部131が第1鑑別処理の結果を修正した際に、既に、第2鑑別処理、第3鑑別処理、またはこれらの両方が完了している場合、自動的にまたは医師等の操作入力等による指示に基づいて、第2鑑別処理部52は修正後の第1鑑別処理の結果を反映して第2鑑別処理をやり直すことができ、かつ、第3鑑別処理部53は、修正後の第1鑑別処理の結果を反映した第2鑑別処理の結果を反映して第3鑑別処理をやり直すことができる。
鑑別結果修正部131が第2鑑別処理の結果を修正した場合、第3鑑別処理部53は、修正後の第2鑑別処理の結果を反映して第3鑑別処理を実行する。鑑別結果修正部131が第2鑑別処理の結果を修正した際に、既に、第3鑑別処理が完了している場合、自動的にまたは医師等の操作入力等による指示に基づいて、第3鑑別処理部53は修正後の第2鑑別処理の結果を反映して第3鑑別処理をやり直すことができる。
図25に示すように、医療画像解析処理部12は、第1鑑別処理部51、第2鑑別処理部52、第3鑑別処理部53、及び、設定部56に加えて、鑑別結果報知部141を備えても良い。鑑別結果報知部141は、第1鑑別処理の結果、第2鑑別処理の結果、または、第3鑑別処理の結果を、任意のタイミングで報知する。上記第1実施形態においては、第3鑑別処理が完了したタイミングで、第1鑑別処理の結果、第2鑑別処理の結果、及び、第3鑑別処理の結果を表示部13に表示することで報知しているが、鑑別結果報知部141は、例えば、第1鑑別処理の完了後、第1鑑別処理の結果をリアルタイムに報知し、第2鑑別処理の完了後、第2鑑別処理の結果をリアルタイムに報知する。鑑別結果報知部141は、表示制御部15及び表示部13を用いて上記第1実施形態と同様に各鑑別結果を表示できるほか、音(音声を含む)、光(観察用内視鏡画像101の部分的な点滅等)、座標の表示等、その他の任意の方法で、第1鑑別処理の結果、第2鑑別処理の結果、及び、第3鑑別処理の結果を報知できる。
[第2実施形態]
上記第1実施形態及び変形例においては、医療画像処理装置10と内視鏡装置21は別個の装置であるが、内視鏡装置21は、医療画像処理装置10を含むことができる。この場合、図26に示す内視鏡装置510のように、医療画像処理装置10を構成する各部520は、プロセッサ装置33に設ける。但し、表示部13は、内視鏡装置21のモニタ34を共用できる。また、医療画像取得部11は、イメージセンサ41及び内視鏡画像生成部48が形成する「内視鏡画像取得部」に相当する。このため、プロセッサ装置33には医療画像取得部11及び表示部13以外の各部を設ければ足りる。その他の各部の構成は、第1実施形態と同様である。また、上記各実施形態及びその他変形例の医療画像処理装置10と、図2の内視鏡装置21と、の全体で新たな内視鏡装置を構成できる。
医療画像処理装置10を含む内視鏡装置510は、基本的にリアルタイムに被写体を観察する装置である。このため、内視鏡装置510は、医療画像である内視鏡画像の取得、第1鑑別処理、第2鑑別処理、第3鑑別処理、及び、これらの結果の表示処理等は、内視鏡画像を撮影しながらリアルタイムで、または、各種操作部等の操作に起因した任意のタイミングで実行できる。
以下、医療画像処理装置10を含む内視鏡装置510がリアルタイムに病変等の検出及び進行度の鑑別をする場合の動作の流れを説明する。図27に示すように、内視鏡装置510は、観察用照明光を用いて被写体を撮影し、観察用内視鏡画像101を適宜取得し(ステップS210)、かつ、表示制御部15は観察用内視鏡画像101をモニタ34に適宜表示する(ステップS211)。
また、モニタ34に観察用内視鏡画像101を表示する処理のバックグラウンドにおいて、統括制御部17は、一連の観察用内視鏡画像101の撮影の間に、観察用内視鏡画像101の連続した表示に支障がない所定のタイミングで、間欠的に、第1鑑別処理用の撮影を割り込ませる。すなわち、内視鏡装置510は、イメージセンサ41の撮影のタイミングに合わせて照明光をパターン1の鑑別用照明光に適宜切り替え(ステップS212)、観察用内視鏡画像101を撮影するフレームの合間に、パターン1の鑑別用照明光を用いて被写体を撮影するフレームを適宜挿入する。これにより、内視鏡装置510は、第1鑑別処理用の第1内視鏡画像61を取得し(ステップS213)、かつ、第1鑑別処理部51は第1内視鏡画像61を用いて第1鑑別処理を実行する(ステップS214)。
第1鑑別処理において異常領域102を検出すると、統括制御部17は、一連の観察用内視鏡画像101の撮影の間に、観察用内視鏡画像101の連続した表示に支障がない所定のタイミングで、間欠的に、第2鑑別処理用の撮影を割り込ませる。すなわち、内視鏡装置510は、イメージセンサ41の撮影のタイミングに合わせて照明光をパターン2の鑑別用照明光に適宜切り替え(ステップS215)、観察用内視鏡画像101を撮影するフレームの合間に、パターン2の鑑別用照明光を用いて被写体を撮影するフレームを適宜挿入する。これにより、内視鏡装置510は、第2鑑別処理用の第2内視鏡画像63を取得し(ステップS216)、かつ、第2鑑別処理部52は、第2内視鏡画像63を用いて第2鑑別処理を実行する(ステップS217)。
その後、統括制御部17は、一連の観察用内視鏡画像101の撮影の間に、観察用内視鏡画像101の連続した表示に支障がない所定のタイミングで、間欠的に、第3鑑別処理用の撮影を割り込ませる。すなわち、内視鏡装置510は、第2鑑別処理の結果にしたがって第3鑑別処理に適したスペクトルを有する特定のパターンの鑑別用照明光に適宜切り替える(ステップS218)。この際、第3鑑別処理部53は、第2鑑別処理の結果を用いて第3医療画像を取得する際に用いる照明光のスペクトルを選択する。この照明光を切り替えの結果、観察用内視鏡画像101を撮影するフレームの合間に、第3鑑別処理用の照明光を用いて被写体を撮影するフレームを適宜挿入する。例えば、第2鑑別処理の結果、異常領域102が含む異常が「ポリープ」であればパターン6の鑑別用照明光を用いて被写体を撮影するフレームを挿入し、異常領域102が含む異常が「潰瘍性大腸炎」であればパターン3の鑑別用照明光を用いて被写体を撮影するフレームを挿入し、かつ、異常領域102が含む異常が「クローン病」であればパターン4の鑑別用照明光を用いて被写体を撮影するフレームを挿入する。これにより、内視鏡装置510は、第3鑑別処理用の第3内視鏡画像66を取得し(ステップS219)、かつ、第3鑑別処理部53は、第3内視鏡画像66を用いて第3鑑別処理を実行する(ステップS220)。第3鑑別処理が完了すると、表示制御部15は、表示部13に少なくとも第3鑑別処理の結果を表示する(ステップS221)
上記のように、医療画像処理装置10を含む内視鏡装置510は、リアルタイムに第1鑑別処理、第2鑑別処理、及び、第3鑑別処理を行って、リアルタイムに診断等を支援することができる。
図28に示すように、医療画像処理装置10を含む内視鏡装置510は、さらにズーム機構531、ズーム制御部541、光量制御部542、動き検出部543、及び、撮影制御部545等を備えることが好ましい。
ズーム機構531は、撮影倍率を変更する機械的機構または電子的機構である。機械的機構とはいわゆる光学ズームであり、電子的機構とはいわゆる電子ズームである。ズーム制御部541は、ズーム機構531を制御して撮影倍率を設定する。内視鏡装置510は、ズーム制御部541を用いて撮影倍率を取得できる。
光量制御部542は、観察距離(内視鏡31の先端と被写体との距離である。撮影倍率の変更による実質的な内視鏡31の先端と被写体との距離を含む。)に応じて適正な照明光の光量を設定する。光源制御部47は、光源部42を用いて、光量制御部542が設定した光量で、観察用照明光、及び、各パターンの鑑別用照明光を発光する。
動き検出部543は、観察用内視鏡画像101等の内視鏡画像を用いて被写体の動き、または、被写体と内視鏡31との相対的な動き(以下、単に「動き」という)の方向、速度、もしくは移動量等を検出する。
撮影制御部545は、観察条件にしたがって、第1鑑別処理用の撮影の頻度、第2鑑別処理用の撮影の頻度、または、第3鑑別処理用の撮影の頻度を制御する。観察条件とは、内視鏡画像を撮影する際の撮影倍率、照明光の光量、または、動きに関する状況である。撮影制御部545は、撮影倍率をズーム制御部541から取得でき、照明光の光量を光量制御部542から取得でき、かつ、動きを動き検出部543から取得できる。本変形例においては、撮影制御部545は、撮影倍率、照明光の光量、及び、動きを複合した観察条件にしたがって、第1鑑別処理用の撮影の頻度と、第2鑑別処理用の撮影及び第3鑑別処理用の撮影の頻度と、を制御する。
図29に示すように、撮影倍率が比較的小さく、照明光の光量が比較的大きく、かつ、動きが比較的大きい「観察条件X1」は、いわゆるスクリーニングをしている状況において発生頻度が高い観察条件である。このため、撮影制御部545は、観察用内視鏡画像101の撮影の頻度と、第1鑑別処理用の撮影の頻度と、を相対的に多くし、かつ、第2鑑別処理用及び第3鑑別処理用の撮影の頻度を相対的に少なくする。スクリーニングは、一般的に、被写体の全体的な観察、または、異常領域102の検出を主な目的とするからである。
一方、撮影倍率が比較的大きく、照明光の光量が比較的小さく、かつ、動きが比較的小さい「観察条件X2」は、診断等のために被写体を詳細に観察する状況において発生頻度が高い観察条件である。このため、撮影制御部545は、観察用内視鏡画像101の撮影頻度と、第1鑑別処理用の撮影の頻度を相対的に少なくし、かつ、第2鑑別処理用及び第3鑑別処理用の撮影の頻度を相対的に多くする。診断等のために被写体を詳細に観察する状況においては、被写体の僅かな見え方の変化等に追従して、迅速かつ正確に第2鑑別処理及び第3鑑別処理の結果を提示することが求められるからである。
上記のように、観察条件を用いて、観察用内視鏡画像101の撮影の頻度、第1鑑別処理用の撮影の頻度、第2鑑別処理用の撮影の頻度、及び、第3鑑別処理用の撮影の頻度を変更すれば、撮影の状況(撮影の目的)に応じて適切な更新頻度で第3鑑別処理の結果等の鑑別結果を提示できる。
なお、比較的小さいとは例えば所定の閾値よりも小さいことをいい、比較的大きいとは例えば所定の閾値以上であることをいう。また、撮影の頻度を相対的に多くまたは少なくするとは、観察条件X1、観察条件X2、または、その他の観察条件における特定の撮影の頻度を基準として、撮影の頻度を多くまたは少なくすることをいう。本変形例においては、観察条件X1における撮影の頻度と観察条件X2における撮影の頻度の相互比較である。
上記第2実施形態においては、内視鏡装置510が医療画像処理装置10を含んでいるが、図30に示すように、内視鏡装置21その他モダリティと組み合わせて使用する診断支援装置610は、上記実施形態及びその他変形例の医療画像処理装置10を含むことができる。また、図31に示すように、例えば内視鏡装置21を含む、第1検査装置621、第2検査装置622、…、第N検査装置623等の各種検査装置と任意のネットワーク626を介して接続する医療業務支援装置630は、上記実施形態及びその他変形例の医療画像処理装置10を含むことができる。
この他、医療画像処理装置10、及び、医療画像処理装置10を含む各種装置、及び、医療画像処理装置10の機能を内包する各種装置またはシステムは、以下の種々の変更等をして使用できる。
医療画像としては、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像を用いることができる。
医療画像としては、特定の波長帯域の光を照射して得た画像を使用する場合、特定の波長帯域は、白色の波長帯域よりも狭い帯域を用いることができる。
特定の波長帯域は、例えば、可視域の青色帯域または緑色帯域である。
特定の波長帯域が可視域の青色帯域または緑色帯域である場合、特定の波長帯域は、390nm以上450nm以下または530nm以上550nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、390nm以上450nm以下または530nm以上550nm以下の波長帯域内にピーク波長を有することが好ましい。
特定の波長帯域は、例えば、可視域の赤色帯域である。
特定の波長帯域が可視域の赤色帯域である場合、特定の波長帯域は、585nm以上615nmまたは610nm以上730nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、585nm以上615nm以下または610nm以上730nm以下の波長帯域内にピーク波長を有することが好ましい。
特定の波長帯域は、例えば、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有することができる。
特定の波長帯域が、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する場合、特定の波長帯域は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域にピーク波長を有することが好ましい。
医療画像が生体内を写した生体内画像である場合、この生体内画像は、生体内の蛍光物質が発する蛍光の情報を有することができる。
また、蛍光は、ピーク波長が390nm以上470nm以下である励起光を生体内に照射して得る蛍光を利用できる。
医療画像が生体内を写した生体内画像である場合、前述の特定の波長帯域は、赤外光の波長帯域を利用することができる。
医療画像が生体内を写した生体内画像であり、前述の特定の波長帯域として、赤外光の波長帯域を利用する場合、特定の波長帯域は、790nm以上820nmまたは905nm以上970nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、790nm以上820nm以下または905nm以上970nm以下の波長帯域にピーク波長を有することが好ましい。
医療画像取得部11は、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像に基づいて、特定の波長帯域の信号を有する特殊光画像を取得する特殊光画像取得部を有することができる。この場合、医療画像として特殊光画像を利用できる。
特定の波長帯域の信号は、通常光画像に含むRGBまたはCMYの色情報に基づく演算により得ることができる。
白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像と、特定の波長帯域の光を照射して得る特殊光画像との少なくとも一方に基づく演算によって、特徴量画像を生成する特徴量画像生成部を備えることができる。この場合、医療画像として特徴量画像を利用できる。
内視鏡装置21については、内視鏡31としてカプセル内視鏡を使用できる。この場合、光源装置32と、プロセッサ装置33の一部と、はカプセル内視鏡に搭載できる。
上記各実施形態及び変形例において、医療画像取得部11、医療画像解析処理部12(医療画像解析処理部12を構成する各部)、表示制御部15、入力受信部16、統括制御部17、並びに、内視鏡装置21の内視鏡画像生成部48等といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。
10 医療画像処理装置
11 医療画像取得部
12 医療画像解析処理部
13 表示部
15 表示制御部
16 入力受信部
17 統括制御部
18 保存部
21,510 内視鏡装置
22 PACS
31 内視鏡
32 光源装置
33 プロセッサ装置
34 モニタ
41 イメージセンサ
42 光源部
43 V−LED
44 B−LED
45 G−LED
46 R−LED
47 光源制御部
48 内視鏡画像生成部
51 第1鑑別処理部
52 第2鑑別処理部
53 第3鑑別処理部
56 設定部
61 第1内視鏡画像(第1医療画像)
63 第2内視鏡画像(第2医療画像)
66 第3内視鏡画像(第3医療画像)
71 第1種類鑑別部
72 第2種類鑑別部
73 第3種類鑑別部
81 第1進行度鑑別部
82 第2進行度鑑別部
83 第3進行度鑑別部
91 チェックボックス
101 観察用内視鏡画像
102 異常領域
103 第2鑑別処理の結果を示す表示欄
104 第3鑑別処理の結果を示す表示欄
121 カルテ取得部
131 鑑別結果修正部
141 鑑別結果報知部
520 医療画像処理装置を構成する各部
531 ズーム機構
541 ズーム制御部
542 光量制御部
543 動き検出部
545 撮影制御部
610 診断支援装置
621 第1検査装置
622 第2検査装置
623 第N検査装置
626 ネットワーク
630 医療業務支援装置
S110〜S118、S210〜S221 動作のステップ
X1、X2 観察条件

Claims (15)

  1. 被写体像を含む医療画像を取得する医療画像取得部と、
    前記医療画像のうち、特定のスペクトルを有する第1照明光を使用して撮影した第1医療画像を用いて1または複数種類の第1異常領域を検出する第1鑑別処理を行う第1鑑別処理部と、
    前記医療画像のうち、前記第1照明光とはスペクトルが異なる第2照明光を使用して撮影した第2医療画像を用いて、各々の前記第1異常領域が含む異常の種類を特定する第2鑑別処理を行う第2鑑別処理部と、
    前記医療画像のうち、前記第1照明光及び前記第2照明光とはスペクトルが異なる第3照明光を使用して撮影した第3医療画像を用いて、前記第1異常領域が含む異常の進行度を特定する第3鑑別処理を行う第3鑑別処理部と、
    を備える医療画像処理装置。
  2. 前記第2鑑別処理部は、前記第1異常領域に対応する前記第2医療画像に含まれる第2異常領域に対して前記第2鑑別処理を行うことで、前記第1異常領域が含む異常の種類を特定する請求項1の医療画像処理装置。
  3. 前記第3鑑別処理部は、前記第1異常領域または前記第2異常領域の少なくとも一方に対応する前記第3医療画像に含まれる第3異常領域に対して前記第3鑑別処理を行うことで、前記第1異常領域が含む異常の進行度を特定する請求項2に記載の医療画像処理装置。
  4. 前記第3鑑別処理部は、前記第2鑑別処理の結果を用いて前記第3医療画像を選択する請求項1〜3のいずれか1項に記載の医療画像処理装置。
  5. 前記第3鑑別処理部は、前記第2鑑別処理の結果と対応付けられた前記第3照明光のスペクトルで取得された前記第3医療画像を選択する請求項4に記載の医療画像処理装置。
  6. 前記医療画像取得部は、前記第1医療画像、前記第2医療画像、及び、前記第3医療画像の他に、観察用医療画像を取得し、
    前記観察用医療画像を表示部に表示している間に、前記第1鑑別処理部は前記第1鑑別処理をし、前記第2鑑別処理部は前記第2鑑別処理をし、かつ、前記第3鑑別処理部は前記第3鑑別処理をする請求項1〜5のいずれか1項に記載の医療画像処理装置。
  7. 前記医療画像取得部は、前記第1医療画像、前記第2医療画像、及び、前記第3医療画像のうちの何れかを観察用医療画像に設定し、
    前記観察用医療画像を表示部に表示している間に、前記第1鑑別処理部は前記第1鑑別処理をし、前記第2鑑別処理部は前記第2鑑別処理をし、かつ、前記第3鑑別処理部は前記第3鑑別処理をする請求項1〜5のいずれか1項に記載の医療画像処理装置。
  8. 前記第2鑑別処理において特定する異常の種類、または、前記第3鑑別処理において特定する進行度の分類の設定を変更する設定部を備える請求項1〜7のいずれか1項に記載の医療画像処理装置。
  9. 前記設定部は、前記第1照明光、前記第2照明光、または、前記第3照明光の各スペクトルもしくは組み合わせの設定を変更する請求項8に記載の医療画像処理装置。
  10. カルテを取得するカルテ取得部を備え、
    前記設定部は、前記カルテが含む情報を用いて前記設定をする請求項8または9に記載の医療画像処理装置。
  11. 前記設定部は、前記第2鑑別処理において特定する異常の種類に、前記カルテが含む情報によって定まる特定の病変を含める請求項10に記載の医療画像処理装置。
  12. 前記第1鑑別処理の結果、前記第2鑑別処理の結果、または、前記第3鑑別処理の結果を修正する鑑別結果修正部を備える請求項1〜11のいずれか1項に記載の医療画像処理装置。
  13. 前記第1鑑別処理の結果、前記第2鑑別処理の結果、または、前記第3鑑別処理の結果を報知する鑑別結果報知部を備える請求項1〜12のいずれか1項に記載の医療画像処理装置。
  14. 被写体像を含む内視鏡画像を取得する内視鏡画像取得部と、
    前記内視鏡画像のうち、特定のスペクトルを有する第1照明光を使用して撮影した第1内視鏡画像を用いて1または複数種類の第1異常領域を検出する第1鑑別処理を行う第1鑑別処理部と、
    前記内視鏡画像のうち、前記第1照明光とはスペクトルが異なる第2照明光を使用して撮影した第2内視鏡画像を用いて、各々の前記第1異常領域が含む異常の種類を特定する第2鑑別処理を行う第2鑑別処理部と、
    前記内視鏡画像のうち、前記第1照明光及び前記第2照明光とはスペクトルが異なる第3照明光を使用して撮影した第3医療画像を用いて、前記第1異常領域が含む異常の進行度を特定する第3鑑別処理部と、
    を備える内視鏡装置。
  15. 前記第3鑑別処理部は、前記第2鑑別処理の結果を用いて前記第3医療画像を取得する際に用いる照明光のスペクトルを選択する請求項14に記載の内視鏡装置。
JP2019550327A 2017-10-30 2018-10-26 医療画像処理装置、及び、内視鏡装置 Active JP6834019B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017209802 2017-10-30
JP2017209802 2017-10-30
PCT/JP2018/039920 WO2019087971A1 (ja) 2017-10-30 2018-10-26 医療画像処理装置、及び、内視鏡装置

Publications (2)

Publication Number Publication Date
JPWO2019087971A1 JPWO2019087971A1 (ja) 2020-10-22
JP6834019B2 true JP6834019B2 (ja) 2021-02-24

Family

ID=66333077

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019550327A Active JP6834019B2 (ja) 2017-10-30 2018-10-26 医療画像処理装置、及び、内視鏡装置

Country Status (2)

Country Link
JP (1) JP6834019B2 (ja)
WO (1) WO2019087971A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6877486B2 (ja) * 2018-12-04 2021-05-26 Hoya株式会社 情報処理装置、内視鏡用プロセッサ、情報処理方法およびプログラム
US20210407077A1 (en) * 2018-12-04 2021-12-30 Hoya Corporation Information processing device and model generation method

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006068488A (ja) * 2004-08-31 2006-03-16 Olympus Corp カプセル内視鏡
JP2010184057A (ja) * 2009-02-13 2010-08-26 Fujifilm Corp 画像処理方法および装置
JP5541914B2 (ja) * 2009-12-28 2014-07-09 オリンパス株式会社 画像処理装置、電子機器、プログラム及び内視鏡装置の作動方法
JP2011250926A (ja) * 2010-06-01 2011-12-15 Fujifilm Corp 電子内視鏡システム
JP2012016545A (ja) * 2010-07-09 2012-01-26 Fujifilm Corp 内視鏡装置
JP5502812B2 (ja) * 2011-07-14 2014-05-28 富士フイルム株式会社 生体情報取得システムおよび生体情報取得システムの作動方法
US9867557B2 (en) * 2012-03-13 2018-01-16 Konica Minolta, Inc. Probe
US20150245769A1 (en) * 2012-09-24 2015-09-03 Konica Minolta, Inc. Optical Measurement Device And Probe System
JP6140056B2 (ja) * 2013-09-26 2017-05-31 富士フイルム株式会社 内視鏡システム、内視鏡システムのプロセッサ装置、内視鏡システムの作動方法、プロセッサ装置の作動方法
JP6367683B2 (ja) * 2014-10-21 2018-08-01 富士フイルム株式会社 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
EP3354188A4 (en) * 2015-09-24 2019-04-17 Olympus Corporation ENDOSCOPE DEVICE
JP6581923B2 (ja) * 2016-03-03 2019-09-25 富士フイルム株式会社 画像処理装置とその作動方法および作動プログラム
JP6201095B1 (ja) * 2016-04-27 2017-09-20 雫石 誠 撮像モジュール及び撮像装置

Also Published As

Publication number Publication date
JPWO2019087971A1 (ja) 2020-10-22
WO2019087971A1 (ja) 2019-05-09

Similar Documents

Publication Publication Date Title
JP7296498B2 (ja) 医療画像処理装置、及び、内視鏡装置
US11132795B2 (en) Medical image processing apparatus
JPWO2018159363A1 (ja) 内視鏡システム及びその作動方法
JP7411618B2 (ja) 医療画像処理装置
JP7009636B2 (ja) 内視鏡システム
US11862327B2 (en) Medical image processing system
JP6785990B2 (ja) 医療画像処理装置、及び、内視鏡装置
JP6834019B2 (ja) 医療画像処理装置、及び、内視鏡装置
JP6866497B2 (ja) 医療画像処理装置、及び、内視鏡装置
US11830185B2 (en) Medical image processing system and learning method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200326

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210203

R150 Certificate of patent or registration of utility model

Ref document number: 6834019

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250