JP7455716B2 - 内視鏡用プロセッサ及び内視鏡システム - Google Patents

内視鏡用プロセッサ及び内視鏡システム Download PDF

Info

Publication number
JP7455716B2
JP7455716B2 JP2020160703A JP2020160703A JP7455716B2 JP 7455716 B2 JP7455716 B2 JP 7455716B2 JP 2020160703 A JP2020160703 A JP 2020160703A JP 2020160703 A JP2020160703 A JP 2020160703A JP 7455716 B2 JP7455716 B2 JP 7455716B2
Authority
JP
Japan
Prior art keywords
value
image
severity
lesion
evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020160703A
Other languages
English (en)
Other versions
JP2022053845A (ja
Inventor
貴雄 牧野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Priority to JP2020160703A priority Critical patent/JP7455716B2/ja
Priority to CN202180017682.5A priority patent/CN115190775A/zh
Priority to DE112021005012.5T priority patent/DE112021005012T5/de
Priority to US17/912,725 priority patent/US20230142219A1/en
Priority to PCT/JP2021/032170 priority patent/WO2022064987A1/ja
Priority to EP21872118.1A priority patent/EP4218535A1/en
Publication of JP2022053845A publication Critical patent/JP2022053845A/ja
Application granted granted Critical
Publication of JP7455716B2 publication Critical patent/JP7455716B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Endoscopes (AREA)

Description

本発明は、体腔内の生体組織の画像を画像処理する内視鏡用プロセッサ及び内視鏡システムに関する。
生体組織における病変部は、生体組織の粘膜層が薄くなって荒れて赤色を示す炎症から、粘膜層及びその下層まで部分的に欠落する潰瘍まで、種々のレベルの重症度が存在する。例えば、潰瘍性大腸炎の病変の潰瘍部では、白苔や膿様粘液を含み白色になり、また、炎症部では、浮腫部や易出血性部を含んで赤色を帯びる。このような病変部を、内視鏡システムで撮像して観察することができる。
しかし、術者が内視鏡の画像内に含まれる色の相違によって健常部と病変部とを識別できるようになるためには、熟練者の指導下で長期間のトレーニングを受ける必要がある。また、熟練した術者であっても僅かな色の違いから病変部を識別することは容易ではなく、慎重な作業が要求される。したがって、内視鏡システムは、病変部における病変の進行の程度を客観的に数値化した評価結果を提供することが好ましい。
これに対して、生体組織の病変部における病変の進行の程度を精度よく評価することができる内視鏡システムが知られている(特許文献1)。
国際公開第2019/159770号
上記内視鏡システムは、体腔内の生体組織を撮像して得られる生体組織の画像から、生体組織の病変の進行の程度を数値化した病変の重症度を求める画像処理ユニットを含む。この画像処理ユニットは、特徴量算出部と、代表値算出部と、統合部と、を備える。
特徴量算出部は、複数の外観の特徴のそれぞれを、病変部が示す色成分あるいは形状により生体組織の健常部の特徴と区別できる、前記複数の外観の特徴に対応した複数の画素評価値であって、病変部が示す色成分、あるいは色成分及び形状に関する、複数の特徴それぞれの程度を示す複数の画素評価値を画素毎に算出する。
代表算出部は、算出した画素評価値のそれぞれを、複数の特徴毎に統合することにより撮像した生体組織の前記複数の特徴それぞれに対応した代表評価値を算出する。
統合部は、算出した代表評価値のうち少なくとも2つの代表評価値を演算して統合した1つの数値を病変の重症度として算出する。
これにより、生体組織の病変部における病変の進行の程度を精度よく評価することができる。
しかし、大腸のような長い管状の臓器に内視鏡を挿入する場合、内視鏡を挿入する入り口側の部分と、奥行方向の奥側の部分とでは、粘膜の色や血管の見た目が異なっており、算出する代表評価値は、同じ健常部であっても異なる。このため、入り口側の部分と、奥行方向の奥側の部分とでは、同じ程度の病変の進行であっても、代表評価値は互いに異なる。このように、代表評価値は、同じ程度の病変の進行であっても、撮像位置に依存して変化する。また、長い臓器の奥行方向の各撮像位置で、代表評価値から計算式を用いて重症度を算出する場合、撮像位置によらず同じ計算式を用いて重症度を計算すると、実際に健常な臓器であっても、上記代表評価値の変化に起因して、撮像位置に依存して重症度の値が大きくなる場合がある。この場合、重症度の値が大きい部分には、病変部が存在するといった誤った判断を行い易い。このように、算出される代表評価値あるいは重症度の値が、撮像位置に依存して変化することにより、実際の病変の進行の程度の評価結果と乖離する、といった問題がある。実際の病変の進行の程度の評価結果とは、例えば医師による主観評価結果(例えば、MAYO endoscopic subscore)、あるいは組織学的な評価結果である。
そこで、本発明は、病変の進行の程度を評価しようとするとき、評価対象画像の撮像位置によらず、病変の進行の程度を安定して精度よく評価することができる内視鏡用プロセッサ及び内視鏡システムを提供することを目的とする。
本発明の一態様は、内視鏡用プロセッサである。前記内視鏡用プロセッサは、電子内視鏡で得られた生体組織の病変部の画像から、前記画像の情報を少なくとも用いて、前記生体組織の病変の進行の程度を1つの値で表した病変の重症度の値を求めるように構成された画像処理ユニットを備える。
前記画像処理ユニットは、
前記病変部に現れる複数の外観の特徴を、前記病変部が示す色成分、あるいは前記病変部の形状により前記生体組織の健常部の特徴と区別できる、前記外観の特徴それぞれに対応した評価値であって、前記色成分、あるいは前記病変部の形状に関する、前記複数の特徴それぞれの程度を画素毎に示す画素評価値を、前記画像から算出するように構成された特徴量算出部と、
前記画像における各画素の前記画素評価値を纏めることにより前記生体組織の前記複数の特徴それぞれの代表評価値を前記画像1つに対して1つ算出するように構成された代表値算出部と、
前記画像を撮像したときの前記体腔内の撮像位置の情報を前記画像と対応付ける撮像位置情報処理部と、
前記電子内視鏡で撮像した評価対象画像について、前記複数の特徴それぞれの前記代表評価値に基づいて前記病変の重症度の値を算出し、前記重症度の値を算出する際に、前記評価対象画像に対応した前記撮像位置の前記情報に応じて調整した前記重症度の計算処理を設定する統合部と、を備える。
前記統合部は、前記重症度と前記複数の特徴それぞれの前記代表評価値とを関連付けた関係式に従って前記重症度の値を計算し、
前記関係式において、前記代表評価値に係る係数には、前記撮像位置の前記情報に応じた値が設定される、ことが好ましい。
前記内視鏡用プロセッサは、病変の進行の程度が異なる複数の病変部を前記電子内視鏡で撮像した複数の参照画像に基づいて設定された前記代表評価値に関する2つの基準値を、前記参照画像の前記撮像位置の前記情報に応じて定まる値として前記電子内視鏡の撮像位置毎に保持する記憶部をさらに備える。この場合、前記統合部は、前記電子内視鏡で撮像した参照画像の前記撮像位置の前記情報に応じた前記2つの基準値により前記参照画像の前記代表評価値を正規化した正規化評価値と前記重症度とを事前に関連付けた関係式を用いて、前記重症度の値を計算し、前記重症度の値は、前記評価対象画像の前記代表評価値を前記評価対象画像の前記撮像位置の前記情報に応じて定まる前記2つの基準値により正規化した前記正規化評価値を前記関係式に入力することにより計算する、ことが好ましい。
前記内視鏡用プロセッサは、病変の進行の程度が異なる複数の病変部を前記電子内視鏡で撮像した複数の参照画像に基づいて設定された前記重症度に関する2つの基準値を、前記参照画像の前記撮像位置に応じて定まる値として前記電子内視鏡の撮像位置毎に保持する記憶部をさらに備える。この場合、前記統合部は、前記評価対象画像の前記代表評価値と前記重症度とを事前に関連付けた関係式を用いて前記重症度の計算をし、計算結果の値を、前記評価対象画像の前記撮像位置の情報に対応して定まる前記2つの基準値により正規化した正規化値を前記重症度の値として算出する、ことが好ましい。
前記関係式は、事前に用意されている前記病変の進行の程度の評価結果が定まっている参照画像の前記評価結果に、前記複数の特徴それぞれの前記代表評価値から算出される前記重症度の値が対応するように重回帰分析を行って抽出された多項式の回帰式である、ことが好ましい。
前記撮像位置の情報は、管状の臓器の奥行方向の領域を複数の区域に区分けしたときの1つの区域の位置情報である、ことが好ましい。
本発明の他の一態様は、体腔内の生体組織を撮像するように構成された電子内視鏡と、
前記電子内視鏡に接続される、前記内視鏡用プロセッサと、を備える内視鏡システムである。
上述の内視鏡用プロセッサ及び内視鏡システムによれば、病変の進行の程度を評価しようとするとき、評価対象画像の撮像位置によらず、病変の進行の程度を安定して精度よく評価することができる。
一実施形態の内視鏡用プロセッサで行う重症度の計算処理の一例を説明する図である。 一実施形態の内視鏡システムの構成を示すブロック図である。 一実施形態の内視鏡用プロセッサ内の重症度の計算を行う画像処理ユニットの構成を説明する図である。 一実施形態の内視鏡用プロセッサで用いる色空間内における基準軸の例を説明する図である。 一実施形態の内視鏡用プロセッサで用いる生体組織赤色度を計算するためのずれ角度を計算する方法を説明する図である。 (a),(b)は、生体組織の画像の一例と、従来の方法で得られるカラーマップ画像の一例を模式的に説明する図である。 一実施形態の内視鏡用プロセッサで行う血管領域の抽出方法の一例を説明する図である。 一実施形態の内視鏡用プロセッサで用いるテンプレートを空間フィルタとして用いる場合のフィルタ係数の一例を示す図である。 一実施形態の内視鏡用プロセッサで行われる重症度の計算方法のフローの一例を示す図である。 (a)~(b)は、一実施形態の内視鏡用プロセッサで行われる重症度の計算方法のフローの例を示す図である。
以下、本発明の実施形態の内視鏡用プロセッサ及び内視鏡システムについて図面を参照しながら説明する前に、まず、一実施形態の内視鏡用プロセッサの重症度の計算を説明する。
(重症度の計算)
生体組織における病変部は、病変の進行の程度によって、炎症から潰瘍まで種々存在する。例えば、従来の内視鏡システムは、病変部に現れる複数の外観の特徴のそれぞれを、病変部が示す色成分、あるいは病変部の形状により生体組織の健常部の特徴と区別できる、複数の外観の特徴に対応した複数の画素評価値を、生体組織の画像から画素毎に算出する。さらに、従来の内視鏡システムは、算出した各画素の画素評価値を複数の外観の特徴毎に統合することにより複数の代表評価値を算出し、算出した複数の代表評価値のうち少なくとも2つの代表評価値を演算して統合した1つの数値を病変の重症度の値とする。上記演算は、事前に重症度と複数の代表評価値との間の関係を表した関係式に従って行われる。しかし、この関係式は、撮像した位置が異なっても同じものを用いる場合、管状の細長い臓器の入り口側の部分と、奥行方向の奥側の部分とでは、同じ程度の病変の進行であっても、算出した代表評価値は互いに異なり、重症度の値が変わるといった不都合が生じる場合がある。
これに対して、本発明の一実施形態の内視鏡用プロセッサでは、複数の代表評価値から病変の重症度の値を算出する際、評価対象画像に対応した撮像位置の情報に応じて調整した重症度の計算処理を設定して、計算を行う。すなわち、重症度の値を、撮像位置の情報に応じて調整する。これにより、評価対象画像の撮像位置によらず、病変の進行の程度を安定して精度よく評価することができる。
ここで、代表評価値が表す外観の特徴は、病変部が示す特定の色成分の程度を含む。例えば、炎症部が呈する赤色の程度である。この場合、この特徴の程度を数値化した画素毎の画素評価値は、例えば、赤色の程度を数値化した生体組織赤色度である。また、別の外観の特徴は、撮像した生体組織のうち、特定の形状をした部分に含まれる色成分の程度である。この場合の特徴の程度を数値化した画素毎の画素評価値は、例えば、病変部及びその周囲において、筋状に延在する血管領域に含まれる赤色の程度を数値化し血管赤色度である。また、別の外観の特徴は、潰瘍部が呈する特定の色成分、たとえば白色の程度である。
外観の特徴は、形状に関するものも含み、例えば、病変部の表面凹凸の形状の程度や表面塑造等の所定の形状の程度であってもよい。
図1は、一実施形態の内視鏡用プロセッサ及び内視鏡システムで行う処理の一例を説明する図である。図1に示す例では、複数の代表評価値として、生体組織の炎症の程度を示す生体組織赤色度の代表値、血管領域における赤色の程度を示す血管赤色度の代表値、及び潰瘍の程度を示す生体組織白色度の代表値が少なくとも含まれる。これらの代表評価値の算出方法については後述する。
まず、事前処理として、電子内視鏡で撮像され、病変の進行の程度(重症度)の評価結果が定まっている参照画像が複数用意され、これらの参照画像それぞれにおいて上記複数の代表評価値が事前に算出される。重症度に関する評価とは、例えば、医師による主観評価結果(例えば、MAYO endoscopic subscore)、あるいは組織学的な評価結果である。これらの3つの代表評価値を含む複数の代表評価値を組み合わせて計算される重症度が、各参照画像において定まっている病変の進行の程度(重症度)の評価結果に最良に相関するように、複数の代表評価値を用いて重症度の計算処理を最適化する。このとき、重症度の計算処理の最適化では、参照画像の撮像位置の情報を用いて撮像位置毎に行われる。
重症度の計算の最適化は、例えば、関係式における各代表評価値に係る係数の値を、撮像位置に応じて設定すること、関係式に入力する代表評価値の情報として、撮像位置に応じた代表評価値に関する2つの基準値により正規化した代表評価値(正規化評価値)を用いて重症度の値を計算すること、あるいは、関係式を用いて計算した重症度の計算結果を、撮像位置に応じて設定された重症度に関する2つの基準値により正規化した値を重症度の値とすること、を含む。こうして得られる関係式を用いた重症度の最適化された計算処理内容が、内視鏡用プロセッサにおける評価対象画像における重症度の計算の前に設定される。
次に、生体組織を、電子内視鏡で撮像することにより画像から得られた、生体組織赤色度の代表値、血管赤色度の代表値、及び生体組織白色度の代表値を含む複数の代表評価値を算出し、算出した複数の代表評価値を関係式に入力することにより重症度を算出する。この場合、最適化された重症度の計算処理内容にしたがって、例えば、関係式内の各代表評価値に係る係数の値を、撮像位置に応じて設定して、計算式を用いて重症度の値を計算する。あるいは、撮像位置によって変化しない関係式に入力する代表評価値の情報として、撮像位置に応じた代表評価値に関する2つの基準値により正規化した代表評価値(正規化評価値)を用いて、重症度の値を計算する。あるいは、撮像位置によって変化しない関係式を用いて重症度の計算をした後、この計算結果の値を、撮像位置に応じて設定された2つの基準値により正規化して重症度の値とする。
このように、評価対象画像における複数の代表評価値から病変の重症度の値を算出する際、評価対象画像の撮像位置の情報に応じて調整した重症度の計算処理を設定して、計算を行うので、画像の撮像位置によらず、病変の進行の程度を安定して精度よく評価することができる。
図2は、本発明の一実施形態の電子内視鏡システム1の構成を示すブロック図である。図2に示されるように、電子内視鏡システム1は、電子内視鏡100、電子内視鏡用プロセッサ200、モニタ300及びプリンタ400を備えている。
電子内視鏡用プロセッサ200は、システムコントローラ202やタイミングコントローラ206を備えている。システムコントローラ202は、メモリ204に記憶された各種プログラムを実行し、電子内視鏡システム1の全体を統括的に制御する。また、システムコントローラ202は、操作パネル208に入力されるユーザ(術者又は補助者)による指示に応じて電子内視鏡システム1の各種設定を変更する。タイミングコントローラ206は、各部の動作のタイミングを調整するクロックパルスを電子内視鏡システム1内の各回路に出力する。
電子内視鏡用プロセッサ200は、電子内視鏡100に照明光を供給する光源部230を備えている。光源部230は、図示されないが、例えば、ランプ電源から駆動電力の供給を受けることにより白色の照明光を放射する高輝度ランプ、例えば、キセノンランプ、メタルハライドランプ、水銀ランプ又はハロゲンランプを備える。高輝度ランプから出射した照明光は、図示されない集光レンズにより集光された後、図示されない調光装置を介して電子内視鏡100の光ファイバの束であるLCB(Light Carrying Bundle)102の入射端に入射されるように光源部230は構成される。
あるいは、光源部230は、所定の色の波長帯域の光を出射する複数の発光ダイオードを備える。発光ダイオードから出射した光はダイクロイックミラー等の光学素子を用いて合成され、合成した光は照明光として、図示されない集光レンズにより集光された後、電子内視鏡100のLCB(Light Carrying Bundle)102の入射端に入射されるように光源部230は構成される。発光ダイオードに代えてレーザーダイオードを用いることもできる。発光ダイオード及びレーザーダイオードは、他の光源と比較して、低消費電力、発熱量が小さい等の特徴があるため、消費電力や発熱量を抑えつつ明るい画像を取得できるというメリットがある。明るい画像が取得できることにより、後述する病変に関する評価値の精度を向上させることができる。
なお、図2に示す例では、光源部230は、電子内視鏡用プロセッサ200に内蔵して設けられるが、電子内視鏡用プロセッサ200とは別体の装置として電子内視鏡システム1に設けられてもよい。また、光源部230は、後述する電子内視鏡100の先端部に設けられてもよい。この場合、照明光を導光するLCB102は不要である。
光源部230が射出する照明光は、白色光に限らず、所定の狭い波長帯域を波長帯域とする狭帯域光等の特殊光であってもよい。
入射端よりLCB102内に入射した照明光は、LCB102内を伝播して電子内視鏡100の先端部内に配置されたLCB102の射出端より射出され、配光レンズ104を介して被写体に照射される。被写体からの反射光は、対物レンズ106を介して固体撮像素子108の受光面上で光学像を結ぶ。
固体撮像素子108は、例えば、IR(Infra Red)カットフィルタ108a、ベイヤ配列カラーフィルタ108bの各種フィルタが受光面に配置された単板式カラーCCD(Charge-Coupled Device)イメージセンサであり、受光面上で結像した光学像に応じたR(Red)、G(Green)、B(Blue)の各原色信号を生成する。単板式カラーCCDイメージセンサの代わりに、単板式カラーCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いることもできる。CMOSイメージセンサは、一般に、CCDイメージセンサと比較して画像が全体的に暗くなる傾向にある。従って、以下説明する病変の評価を行う数値化処理における、画像の明るさによる病変部の病変の重症度の変動を抑えることができるという有利な効果は、CMOSイメージセンサを用いる場合においてより顕著である。このように、電子内視鏡100は、固体撮像素子108を用いて、体腔内の生体組織を撮像する。
電子内視鏡100の接続部内には、ドライバ信号処理回路112が備えられている。ドライバ信号処理回路112は、固体撮像素子108より入力される原色信号に対して色補間、マトリックス演算等の所定の信号処理を施して画像信号(輝度信号Y、色差信号Cb、Cr)を生成し、生成された画像信号を電子内視鏡用プロセッサ200の画像処理ユニット220に出力する。また、ドライバ信号処理回路112は、メモリ114にアクセスして電子内視鏡100の固有情報を読み出す。メモリ114に記録される電子内視鏡100の固有情報には、例えば固体撮像素子108の画素数や感度、動作可能なフレームレート、型番等が含まれる。ドライバ信号処理回路112は、メモリ114より読み出された固有情報をシステムコントローラ202に出力する。
システムコントローラ202は、電子内視鏡100の固有情報に基づいて各種演算を行い、制御信号を生成する。システムコントローラ202は、生成された制御信号を用いて、電子内視鏡用プロセッサ200に接続中の電子内視鏡100に適した処理がなされるように電子内視鏡用プロセッサ200内の各回路の動作やタイミングを制御する。
タイミングコントローラ206は、システムコントローラ202によるタイミング制御に従って、ドライバ信号処理回路112、画像処理ユニット220、及び光源部230にクロックパルスを供給する。ドライバ信号処理回路112は、タイミングコントローラ206から供給されるクロックパルスに従って、固体撮像素子108を電子内視鏡用プロセッサ200側で処理される映像のフレームレートに同期したタイミングで駆動制御する。
画像処理ユニット220は、システムコントローラ202による制御の下、ドライバ信号処理回路112より入力した画像信号に基づいて内視鏡画像等をモニタ表示するためのビデオ信号を生成し、モニタ300に出力する。さらに、画像処理ユニット220は、電子内視鏡100で得られた生体組織の病変部の画像から、生体組織の病変の進行の程度を画像の色成分や形状の情報を用いて数値化した病変の重症度の値を求める。また、画像処理ユニット220は、重症度の計算を行う際に得られる生体組織赤色度や血管赤色度等に基づいて色を置換したカラーマップ画像を生成する。画像処理ユニット220は、重症度の値及びカラーマップ画像をモニタ表示するためのビデオ信号を生成し、モニタ300に出力する。これにより、術者は、モニタ300の表示画面に表示された画像を通じて注目する生体組織の病変の重症度の情報を受けることができる。画像処理ユニット220は、必要に応じてプリンタ400にカラーマップ画像及び重症度の情報を出力する。
電子内視鏡用プロセッサ200は、NIC(Network Interface Card)210及びネットワーク500を介してサーバ600に接続されている。電子内視鏡用プロセッサ200は、内視鏡検査に関する情報(例えば、患者の電子カルテ情報や術者の情報)をサーバ600からダウンロードすることができる。ダウンロードされた情報は、例えばモニタ300の表示画面や操作パネル208に表示される。また、電子内視鏡用プロセッサ200は、内視鏡検査結果(内視鏡画像データ、検査条件、画像解析結果、術者所見等)をサーバ600にアップロードすることにより、内視鏡検査結果をサーバ600に保存させることができる。
図3は、生体組織の病変の重症度を計算するために、病変の特徴の程度を数値化する数値化処理を行う画像処理ユニット220の構成を説明する図である。
画像処理ユニット220は、電子内視鏡100で得られた生体組織の画像から、生体組織の病変の進行の程度を数値化することにより求める病変の重症度を求める部分である。画像処理ユニット220は、前処理部220a、特徴量算出部220b、代表値算出部220c、統合部220d、及び撮像位置情報処理部220eを備える。
特徴量算出部220bは、一実施形態では、複数の代表評価値は、2つの代表評価値であり、1つの代表評価値を算出するための画素評価値として、生体組織の赤色の程度を画素毎に数値化した生体組織赤色度を計算し、もう1つの代表評価値を算出するための画素評価値として、生体組織上の筋状に延在する血管領域の赤色を数値化した血管赤色度を計算する。以下、生体組織赤色度及び血管赤色度を計算する形態を説明する。
前処理部220aは、生体組織が示す赤色の程度を評価するための画像に前処理を施す部分である。前処理部220aは、一例として図示されるように、RGB変換、色空間変換、基準軸の設定、及び色補正の各処理を行う。
前処理部220aは、ドライバ信号処理回路112より入力した画像信号(輝度信号Y、色差信号Cb、Cr)を所定のマトリックス係数を用いて画像色成分(R、G、B)に変換する。
前処理部220aは、さらに、画像色成分に変換された画像データをRG平面に正射影する色空間変換を行う。具体的には、RGB3原色で定義されるRGB色空間の各画素の画像色成分がRGの画像色成分に変換される。概念的には、RGB色空間の各画素の画像色成分が、R、G成分の画素値に応じてRG平面内(例えば、R成分の画素値=0~255、G成分の画素値=0~255の値を取るRG平面内の区画)にプロットされる。以下、説明の便宜上、RGB色空間の各画素の画像色成分の点及びRG色空間内にプロットされた画像色成分の点を「画素対応点」と記す。RGB色空間のRGBそれぞれの画像色成分は、順番に、例えば、波長620~750nm、波長495~570nm、及び波長450~495nmの色成分である。なお、色成分は、色空間(色平面も含む。)を構成するものである。色相及び彩度は、「色成分」から除かれる。
前処理部220aは、生体組織赤色度及び血管赤色度を評価するために必要なRG平面内の基準軸が設定される。
被写体となる患者の体腔内の生体組織では、ヘモグロビン色素等の影響により画像色成分のうちR成分が他の成分(G成分及びB成分)に対して支配的である。病変部の病変の進行の程度が低く、病変部が炎症部である場合、炎症が強いほど赤色(R成分)が他の色(G成分及びB成分)に対して強くなる。しかし、体腔内の撮像画像は、明るさに影響する撮影条件(例えば照明光の当たり具合)に応じて色が変化する。例示的には、照明光の届かない陰影部分は黒(無彩色であり、例えば、R、G、Bの画像色成分の値がゼロ又はゼロに近い値)となり、照明光が強く当たって正反射する部分は白(無彩色であり、例えば、R、G、Bの画像色成分の値が8ビット階調の場合、255又は255に近い値)となる。すなわち、炎症が起こっている同じ炎症部を撮像した場合であっても、照明光が強く当たるほどその炎症部の画素値が大きくなる。そのため、照明光の当たり具合によっては、画像の色成分の値が炎症の強さと相関の無い値を取ることがある。
一般に、炎症が起こっていない体腔内の健常部は十分な粘膜で覆われている。これに対し、炎症が起こっている体腔内の炎症部は十分な粘膜で覆われていない。具体的には、血管が拡張すると共に血管から血液・体液が漏出するため、相対的に粘膜が薄くなり血液の色が目に映り易くなる。粘膜は、基本的には白基調ではあるが、色としては若干黄味がかっており、その濃淡(粘膜の厚み)によって画像上に写る色(黄色)が変化する。従って、粘膜の濃淡も炎症の程度を評価する指標の一つになるものと考えられる。
そこで、図4に示されるように、RG色空間内において、(50,0)及び(255,76)を通る直線が基準軸の1つとして設定されると共に、(0,0)及び(255,192)を通る直線が基準軸の1つとして設定される。説明の便宜上、前者の基準軸を「ヘモグロビン変化軸AX1」と記し、後者の基準軸を「粘膜変化軸AX2」と記す。図4は、一実施形態で用いる色空間内における基準軸の例を説明する図である。
図4に示されるプロットは、体腔内の多数の参照画像を解析した結果得たものである。解析に用いられる参照画像には、炎症の程度の最も高い炎症画像例(最も重症なレベルの炎症画像例)や、炎症の程度の最も低い炎症画像例(実質的に健常部であるとみなされる画像例)など、各段階の炎症画像例が含まれる。なお、図4に示す例では、図面を明瞭化する便宜上、解析の結果得られたプロットを一部だけ示している。解析の結果実際に得られたプロットは、図4に示されるプロットの数よりも遥かに多い。
上述したように、炎症が強い部分ほど画像の色成分のうちR成分が他の成分(G成分及びB成分)に対して強くなる。そのため、プロットが分布する領域と分布しない領域との境界線であって、G軸よりもR軸に近い方の境界線上の軸、図4に示す例では、(50,0)及び(255,76)を通る境界線上の軸が、炎症の程度が最も強い部分、すなわち炎症の程度の最も高い部位と相関の高い軸として設定される。この軸がヘモグロビン変化軸AX1である。ヘモグロビン変化軸AX1には、様々な撮影条件、例えば照明光の当たり具合で撮像された炎症の程度の最も高い炎症部に対応するプロットが重畳される。したがって、ヘモグロビン変化軸AX1は、生体組織の炎症の程度が高くなるほどプロットされる画素対応点が収束する軸である。
一方、健常部に近いほど画像の色成分のうちG成分(又はB成分)がR成分に対して強くなる。そのため、プロットが分布する領域と分布しない領域との境界線であって、R軸よりもG軸に近い方の境界線上の軸、図4に示す例では、(0,0)及び(255,192)を通る境界線上の軸が、炎症の程度の最も低い部分、すなわち、炎症の程度の最も低い部分であって、実質的に健常部であるとみなされるものと相関の高い軸として設定される。この軸が粘膜変化軸AX2である。粘膜変化軸AX2には、様々な撮影条件、例えば照明光の当たり具合で撮像された炎症の程度の最も低い部分、すなわち実質的に正常部とみなされるものに対応するプロットが重畳される。したがって、粘膜変化軸AX2は、炎症の程度が低くなるほど(健常部に近いほど)プロットされる画素対応点が収束する軸である。
補足すると、病変部の病変の進行の程度の最も高い部分は、出血を伴う。一方、病変の進行の程度の最も低い部分は、実質正常な健常部であるから、十分な粘膜で覆われている。そのため、図4に示されるRG色空間内のプロットは、血液(ヘモグロビン色素)の色と最も相関の高い軸と、粘膜の色と最も相関の高い軸に挟まれた領域内に分布すると捉えることができる。そのため、プロットが分布する領域と分布しない領域との境界線のうち、R軸に近い(R成分が強い)方の境界線が、炎症の程度の最も高い炎症部を示す軸(ヘモグロビン変化軸AX1)に相当し、G軸に近い(G成分が強い)方の境界線が、炎症の程度の最も低い炎症部を示す軸(粘膜変化軸AX2)に相当する。
このような基準軸の設定を行った後、正射影された画像の色成分に対して後述する赤色の程度を示す生体組織赤色度を算出する処理が行われる。この生体組織赤色度を算出する処理の前に、正射影された画素データに対して色補正が行われる。
図4に示す基準軸は、一例であり、疾患の種類に応じて基準軸は種々異なる。
前処理部220aは、炎症評価値の算出の前に、RG色空間で表された画像の色成分に対して色補正を行う。図示されないメモリには、補正マトリックス係数が保存されている。同一の炎症部にも拘らず、異なる電子内視鏡システムで撮像したときに後述する炎症評価値がばらつかないように(言い換えると、電子内視鏡の個体間誤差を抑えるために)、前処理部220aは、各画素のRG色空間内の画素対応点である画素データ(R,G)を、補正マトリックス係数を用いて下記式に示すように補正する。
Figure 0007455716000001
new :補正後の画素データ(R成分)
new :補正後の画素データ(G成分)
00~M11:補正マトリックス係数
R :補正前の画素データ(R成分)
G :補正前の画素データ(G成分)
特徴量算出部220bは、画素の中から一つの注目画素を選択し、選択した注目画素について、生体組織赤色度を、注目画素の色成分の情報に基づいて炎症の程度を計算するためのずれ角度を算出する。すなわち、画素の色成分の情報に基づいて生体組織の赤色の程度を数値化する数値化処理を行う。図5は、一実施形態で用いる生体組織赤色度を計算するためのずれ角度を計算する方法を説明する図である。具体的には、特徴量算出部220bは、図5に示すように、ヘモグロビン変化軸AX1と粘膜変化軸AX2との交点を基準点O’とし、基準点O’と注目画素の画素対応点Pとを結ぶ線分Lの向きが、基準軸AX1に対してずれるずれ角度θを算出する。なお、基準点O’は座標(-150,-75)に位置する。基準点O’を座標(-150,-75)にする例に挙げたが、これに限定されるものではない。上記基準点O’は、適宜変更可能であり、例えば、RG色空間のR軸とG軸の交点であってもよい。
基準点O’として好適な座標位置は、例えば、明るさの変動による評価結果の誤差を少なくできる位置である。具体的には、基準点O’は、暗部(輝度が所定値未満)での評価結果と非暗部(輝度が所定値以上)での評価結果との誤差を最小にする点を予め求めることで設定することが好ましい。
また、例えば、基準点O’を座標(-10,-10)から(10,10)の間に設定すると、座標(-150,-75)等を基準点O’と設定した場合と比較して、画素対応点が変化した場合の角度θの変化量が大きくなるため、分解能が向上する。これにより、精度の高い評価結果を得ることができる。
他方、基準点O’を座標(-50,-50)から(-200,-200)の間に設定することで、炎症の程度を示す評価結果はノイズの影響を受け難い。
体腔内の生体組織を撮影した画像の明るさが白色光の当たり具合によって変化すると、画像の色は、個人差、撮影箇所、炎症の状態等の影響があるものの、RG色空間内において、概ね、重症度の最も高い炎症部ではヘモグロビン変化軸AX1上に沿って変化し、炎症の程度が最も低い炎症部では粘膜変化軸AX2上に沿って変化する。また、炎症の程度が中間程度である炎症部の画像の色も同じ傾向で変化するものと推定される。すなわち、炎症部に対応する画素対応点は、照明光の当たり具合によって変化すると、基準点O’を起点とした方位角方向にシフトする。言い換えると、炎症部に対応する画素対応点は、照明光の当たり具合によって変化すると、粘膜変化軸AX2に対するずれ角度θが一定のまま移動して基準点O’との距離が変わる。これは、ずれ角度θが画像の明るさの変化に実質的に影響を受けないパラメータであることを意味する。
ずれ角度θが小さいほどR成分がG成分に対して強くなり、病変部における赤色の程度が相対的に大きいことを示す。また、ずれ角度θが大きいほどG成分がR成分に対して強くなり、赤色の程度が相対的に小さいことを示す。そこで、特徴量算出部220bは、ずれ角度θがゼロであるときに値255となり、ずれ角度θがθMAXであるときに値ゼロとなるように、角度θを正規化する。なお、θMAXは、ヘモグロビン変化軸AX1と粘膜変化軸AX2とがなす角度と等しい。すなわち、評価値算出部220bは、各注目画素について、各注目画素の色成分の情報に基づいて赤色の程度を数値化する数値化処理を行うことにより、0~255の範囲に収まる生体組織赤色度(第1画素評価値)を求める。
なお、注目画素は、画像の全画素について1つずつ選択される。
なお、図5に示す例では、色空間としてRG色空間を用いるが、RG色空間に代えてRB色空間を用いることもできる。
特徴量算出部220bは、ずれ角度θに基づいて生体組織赤色度を画素評価値として算出するが、場合によっては、生体組織の潰瘍の特徴の程度を示す後述する生体組織白色度を算出する。例えば、生体組織の画像の各画素の各色成分の画素値に対して、線形なゲイン(利得)を与えるゲイン調整を行い、病変に特有の色域付近におけるダイナミックレンジを実質的に広げて、色表現の実効的な分解能を高める、トーン強調処理を行うことにより、例えば、潰瘍性大腸炎の白苔や膿様粘液を含む潰瘍部は白色を示し、浮腫や易出血性を含む赤色を示す炎症部や黄色あるいは緑色を示す正常部と色成分によって区別することができる。生体組織白色度は、図5に示すような2つの色成分(R成分、G成分、B成分のうち2つ)あるいは3つの色成分(R成分、G成分、B成分)の座標軸とする色空間上に表した、ヘモグロビン変化軸AX1とは異なる基準軸に対するずれ角度を用いて計算することができる。なお、トーン強調処理は、前処理部220aが行う。
特徴量算出部220bは、さらに、生体組織赤色度に応じて変化する表示色で生体組織の画像をモザイク化したカラーマップ画像を作成する。カラーマップ画像を表示可能とするため、画素評価値と所定の表示色とを対応付けたテーブルが図示されないメモリ等の記憶領域に記憶されている。このテーブルでは、例えば、値5刻みで異なる表示色が対応付けられている。例示的には、画素評価値が0~5の範囲では青色が対応付けられており、該画素評価値が5増える毎に色相環での色の並び順に従って異なる表示色が対応付けられており、該画素評価値が250~255の範囲では赤色が対応付けられている。表示色は、例えば、生体組織赤色度が大きいほど青色から黄色さらには赤色といったように、寒色から暖色に近づく色とする。特徴量算出部220bは、選択された注目画素の、カラーマップ画像上での表示色を、上記テーブルを参照して、注目画素の生体組織赤色度に応じて決定する。
こうして、特徴量算出部220bは、生体組織赤色度に応じて色を付与したカラーマップ画像を作成する。
特徴量算出部220bは、さらに、生体組織を撮像して得られる画像中の生体組織の血管領域の確からしさを、血管を特徴付ける形状に基づいて判定し、必要に応じて、求めた確からしさにより、血管領域を抽出する。
図6(a)に示すように、生体組織を撮像した画像には、病変部Xの近傍には、粘膜を通して透けて見える筋状の血管領域Yの像も含まれる。このような画像に対して上述の生体組織赤色度に応じて色分けした、図6(b)に示すカラーマップ画像においても、血管領域Yは炎症部と同じ色で表示される場合がある。図6(a),(b)は、生体組織の画像の一例と、従来の方法で得られるカラーマップ画像の一例を模式的に説明する図である。
特徴量算出部220bは、血管領域Yの確からしさを求め、確からしさに基づいて血管領域Yを抽出する。
図7は、一実施形態における血管領域Yを抽出する方法の一例を説明する図である。
特徴量算出部220bは、生体組織の画像の一部の検査対象エリアARの形状と複数のテンプレートTP1~TP4の直線形状それぞれとの相関の程度を表すマッチング度を求め、複数のテンプレートTP1~TP4それぞれに対応するマッチング度の中で、最も高い最高マッチング度を検査対象エリアARにおける血管領域Yの確からしさとする。テンプレートTP1~TP4は、画素で構成され、テンプレートTP1~TP4は、直線の延在方向を互いに異ならせた複数の直線形状を備える。テンプレートTP1~TP4は、それぞれの直線形状に合わせて各画素は画素値を有する。図7に示すように、画像の端から矢印に沿って順番に検査対象エリアARをオーバーラップさせながら移動させることにより、検査対象エリアAR内の画像の画素評価値とテンプレートTP1~TP4それぞれの対応する画素の値との相関度を求める。一実施形態によれば、テンプレートTP1~TP4は、血管を特徴付ける形状として、直線を4つの異なる延在方向に延ばした4つの直線形状を備える。検査対象エリアARが血管領域を含む場合、検査対象エリアAR内の画素値は、血管が筋状に延びるといった特徴形状の情報を含んでいるので、ずれ角度θに応じて設定された画素評価値を画素値とする画像を用いて、血管領域Yを抽出することができる。テンプレートTP1~TP4は、図6に示す白領域及び黒領域に対応して画素毎に値を有する。このため、一実施形態によれば、マッチング度は、テンプレートTP1~TP4の画素の値と、検査対象領域ARの対応する画素評価値との相関係数である。また一実施形態によれば、マッチング度は、テンプレートTP1~TP4の画素毎の値を空間フィルタのフィルタ係数として、このフィルタ係数のそれぞれと検査対象エリアARの対応する画素の画像評価値を乗算して合計した値であってもよい。
テンプレートTP1~TP4のそれぞれについて算出したマッチング度のうち値が最も高い最高マッチング度が、血管領域の確からしさを示す値として、検査対象エリアARの中心画素に与えられる。
図8は、テンプレートTP1を空間フィルタとして用いる場合のフィルタ係数の一例を示す図である。テンプレートTP1は、図8に示すように、図中の上下方向に直線が延びる形状を有する。図7では、一例として、テンプレートTP1は、5×5画素の空間フィルタを構成している。この場合、直線に延びる部分の画素には、フィルタ係数として1/5が与えられ、それ以外の画素には、フィルタ係数として-1/20が与えられている。フィルタ係数のそれぞれと検査対象エリアARの対応する画素の同一の画像評価値を乗算して合計した値をマッチング度として計算するとき、検査対象エリアARのいずれの画素評価値も同一の値である場合、マッチング度はゼロになる。一方、検査対象エリアARに上下方向に筋状に延びる血管の像が含まれる場合、マッチング度は増大する。このマッチング度の値が大きいほど、テンプレートTP1に近似する像を含んでいるといえる。したがって、テンプレートTP1~TP4のそれぞれについてマッチング度を計算し、計算したマッチング度の中で値が最も高い最高マッチング度を、血管領域Yの確からしさとして、検査対象領域ARの中心画素に与える。すなわち、血管領域Yの確からしさの値は、検査対象エリアARの中心画素に与えられる。
このようなマッチング度は、生体組織赤色度である画素評価値を、テンプレートTP1~TP4のそれぞれを用いて空間フィルタリングした結果であるので、空間フィルタリングにより処理された画素評価値を各画素が有する画像の各画素の値は、テンプレートTP1~TP4のいずれかにマッチングするときのマッチング度の情報を含んでおり、上記空間フィルタリングによって得られた画像は、血管領域Yを反映した画素値となっている。したがって、特徴量算出部220bは、各画素における血管の確からしさの値が予め定めた値より大きいか否かを判定し、画素における血管の確からしさの値が予め定めた値より大きい場合、その画素は血管領域Yにあると判定することにより、血管領域Yを抽出する。
特徴量算出部220bは、抽出した血管領域Yに対応する画素における生体組織赤色度を血管赤色度として定める。この場合、血管領域Yに対応しない領域の血管赤色度はゼロとする。また、特徴量算出部220bは、血管の確からしさを0~1の範囲に正規化した値を求め、この値が高い程値が高くなり、低い程値が低くなるように生体組織赤色度を補正した結果を血管赤色度として求めてもよい。このように、全画素に対して血管赤色度が計算される。例えば、生体組織赤色度の値に、血管の確からしさの値を乗算した結果を血管赤色度として求めてもよい。
このように、一実施形態の特徴量算出部220bは、生体組織赤色度及び血管赤色度を画素評価値として算出する。
代表値算出部220cは、特徴量算出部220bが算出した各画素の生体組織赤色度を統合することにより撮像した生体組織の生体組織赤色度の代表値を算出し、さらに、特徴量算出部220bが算出した各画素の血管赤色度を統合することにより撮像した血管赤色度の代表値を算出する。
画像における代表評価値である生体組織赤色度の代表値及び血管赤色度の代表値を算出する処理は、各画素の生体組織赤色度及び血管赤色度の平均値を算出する平均化処理であってもよいし、別の公知の処理、例えば、メディアン値を求める処理であってもよい。平均化処理は、単純平均値を求める処理、及び加重平均値を求める処理を含む。また、公知の処理として、画素評価値である生体組織赤色度及び血管赤色度のそれぞれを、順位のついた少なくとも2つ以上のレベルに分け、この各レベルに属する画素数に所定の重み付け係数を乗算した値の合計値Pを所定の式に代入して代表値を算出する処理であってもよい。この場合、所定の式は、例えば1/(1+e-P)である。この場合、重み付け係数は、医師による主観評価結果と相関を有するように、多重ロジスティック回帰分析によって得られる係数であることが好ましい。
統合部220dは、生体組織赤色度の代表値及び血管赤色度の代表値を統合することにより、病変の重症度の値を算出する。その際、統合部220dは、撮像した画像の撮像位置の情報に応じて調整した重症度の計算処理を設定する。
撮像位置の情報は、撮像位置情報処理部220eにおいて、撮像した画像と対応付けられる。撮像位置の情報は、例えば、内視鏡システム1に設けられた位置測定システムから撮像位置情報処理部220eに送られる。
位置測定システムは、例えば、器官内に挿入された電子内視鏡の先端部に位置する固体撮像素子108の位置、さらには、後続する可撓管の各位置を、センサを利用して取得するシステム、器官の開口端から挿入された電子スコープ100の挿入長さを取得するシステム、あるいは、撮像された画像が、モニタ300に表示され、この画像を見た術者がマニュアルで入力指示することにより、挿入された器官内の特徴となる部分を電子スコープ100の先端部が通過したことを示す特定部分通過信号を取得するシステムが例示される。
固体撮像素子108の位置を、センサを利用して取得するシステムでは、例えば、電子内視鏡100の先端部の固体撮像素子108の近傍の位置及び先端部からプロセッサ200の側に後続する可撓管に所定の間隔をあけて、磁気センサを複数設け、電子内視鏡100が器官内に挿入された人体の外部から、位置によって強さが異なる磁界を付与し、上記磁気センサが磁界の強さを計測することにより、先端部に設けられた磁気センサの位置を知ることができ、さらに、複数の磁気センサの位置から可撓管の器官内における湾曲形状を知ることができる。これにより、固体撮像素子108の先端部の位置を知ることができ、電子内視鏡100の器官内における形状、さらには、電子内視鏡100の器官の開口端からの挿入長さを知ることができる。
器官の開口端から挿入された電子内視鏡100の挿入長さを取得するシステムの場合、例えば、撮像した動画における隣り合うフレーム画像間で、生体組織がどの程度移動したかに関する移動距離情報を、オプティカルフローの処理を利用して取得し、フレーム画像が変化する度に上記移動距離情報を積算して移動距離を算出することにより、現在の電子内視鏡100の挿入長さの情報を取得することができる。また、例えば、挿入される電子内視鏡100の先端部から後続する可撓管が器官内に向かって繰り出されている長さを計測することにより、現在の電子内視鏡100の挿入長さの情報を取得することができる。
器官の特定部分通過信号を取得するシステムでは、モニタ300に表示された画像を術者が見ながら、器官内部の識別可能な特定部分が画像に現れ通過した時点で、術者が手元にあるボタンを押すことにより特定部分通過信号を生成し、撮像位置情報処理部220cはこの特定部分通過信号を取得することができる。器官内部の特定部分の位置とは、例えば、器官が大腸の場合、上行結腸が始まる位置、上行結腸が終了し大腸が曲がって横行結腸が始まる位置、横行結腸が終了し大腸が曲がって下行結腸が始まる位置、下行結腸が終了し大腸が曲がってS字結腸が始まる位置、S字結腸が終了し直腸が始まる位置、及び、直腸が終了し肛門に到達する位置、を含む。
こうして得られ、画像と対応付けられた撮像位置の情報に応じて、統合部220dは、重症度の計算処理内容を設定する。統合部220dは、重症度と複数の特徴それぞれの代表評価値とを関連付けた関係式に従って重症度の値を計算する場合、一実施形態によれば、関係式において、代表評価値に係る係数には、撮像位置の情報に応じた値が設定される。このような係数は、図1に示す事前処理により、参照画像における病変の進行の程度(重症度)の評価結果の数値と、複数の重症度の計算結果との間の相関が最も高くなるように、撮像位置毎に関連式の係数の値が算出されてメモリ204に保持される。これにより、重症度の値が撮像位置の情報に依存して変化する程度を抑制することができる。
したがって、統合部220dは、メモリ204から撮像位置の情報に応じた係数の値が読みだされ、係数の値を関係式に付与する。
一実施形態によれば、メモリ204は、病変の進行の程度が異なる複数の病変部を電子内視鏡で撮像した複数の参照画像(図1参照)に基づいて設定された代表評価値に関する2つの基準値を、参照画像の撮像位置の情報に応じて定まる値として撮像位置毎に保持する。この場合、統合部220dは、電子内視鏡100で撮像した参照画像の撮像位置の情報に応じた2つの基準値により参照画像の代表評価値を正規化した正規化評価値と重症度とを事前に関連付けた関係式を用いて、統合部220dは、電子内視鏡100で撮像した評価対象画像における重症度の計算をする。
2つの基準値として、例えば、生体組織の健常部が示す代表評価値、及び病変部の病変が最も進行したときの病変部が示す代表評価値が例示される。2つの基準値は、参照画像の代表評価値が撮像位置において取り得る上限値及び下限値であることが好ましい。この基準値は、事前処理の重症度の計算処理の最適化により、関係式とともに撮像位置毎に取得される。したがって、事前処理では、2つの基準値により代表評価値を正規化した正規化評価値と重症度とを関連付けた関係式が抽出される。
電子内視鏡100により撮像した評価対象画像から重症度の計算を行うとき、統合部220dは、評価対象画像の撮像位置の情報に応じた2つの基準値をメモリ204から読みだして、2つの基準値により代表評価値を正規化した正規化評価値と重症度とを関連付けた上述の関係式に、正規化評価値を入力することにより重症度の値を計算する。これにより、重症度の値が撮像位置に依存して変化することを抑制することができる。なお、重症度の値が撮像位置に依存して変化する程度が依然として大きい場合、関係式に正規化評価値を用いるのに加えて、正規化評価値と重症度とを関連付けた関係式で用いる係数の値も、撮像位置に応じて設定するように構成してもよい。
一実施形態によれば、メモリ204は、病変の進行の程度が異なる複数の病変部を電子内視鏡100で撮像した複数の参照画像(図1参照)に基づいて設定された重症度に関する2つの基準値を、参照画像の撮像位置に応じて定まる値として電子内視鏡100の撮像位置毎に保持する。統合部220dは、電子内視鏡100で撮像した評価対象画像の代表評価値と重症度とを事前に関連付けた関係式を用いて重症度の計算をし、計算結果の値を、評価対象画像の撮像位置の情報に対応して定まる2つの基準値により正規化した正規化値を重症度の値として算出する。
ここで、2つの基準値として、例えば、生体組織の健常部が示す重症度の正規化前の値、及び病変部の病変が最も進行したときの病変部が示す重症度の正規化前の値が例示される。2つの基準値は、参照画像の重症度の値(正規化前の値)が撮像位置において取り得る上限値及び下限値であることが好ましい。この基準値は、事前処理の重症度の計算処理の最適化により、関係式とともに撮像位置毎に取得される。したがって、事前処理では、2つの基準 値と、代表評価値と重症度とを関連付けた関係式が抽出される。
したがって、統合部220dは、重症度と、複数の特徴それぞれの代表評価値とを関連付けた関係式に、評価対象画像の代表評価値を入力して計算し、計算結果の値を、メモリ204から撮像位置に応じて読みだした2つの基準値により正規化した正規化値を重症度の値として算出する。これにより、重症度の値が撮像位置に依存して変化する程度を抑制することができる。なお、重症度の値が撮像位置に依存して変化する程度が依然として大きい場合、重症度の値として正規化値を用いるのに加えて、関係式に用いる係数を撮像位置の情報に応じた値に設定してもよく、さらに、代表評価値を正規化した正規化評価値と重症度とを関連付けた関係式を用いた構成にしてもよい。
一実施形態によれば、上述の関係式は、事前に用意されて重症度に関する評価結果が定まっている参照画像の病変の進行の程度の評価結果に、複数の特徴それぞれの代表評価値から算出される重症度の値が対応するように重回帰分析を行って抽出された多項式の回帰式であることが好ましい。このような回帰式は、事前処理における重症度の計算処理の最適化において算出される。回帰式を用いることで、重症度の計算結果は、高い相関をもって重症度の評価結果に対応することができる。
また、一実施形態によれば、撮像位置の情報は、管状の臓器の奥行方向の領域を複数の区域に区分けしたときの1つの区域の位置情報である、ことが好ましい。管状の臓器では、臓器の入り口の部分と奥行き側の部分との間で、生体組織の表面の形態が異なっている部分があるため、同じ健常部であっても撮像位置の情報に応じて重症度の値は異なり、値が変化する程度は大きくなる。このため、撮像位置の情報に応じて重症度の計算処理の内容を設定することは、管状の臓器を検査対象とする場合、特に好ましい。臓器が、例えば直腸、S字結腸、下降結腸、横行結腸、及び上行結腸を含む大腸の場合、大腸の直腸~S字結腸までの区間と、S字結腸より奥側で上行結腸までの区間との2区間に分割してもよいし、直腸、S字結腸、下降結腸、横行結腸、及び上行結腸の5区間に分割してもよい。
図9は、一実施形態の内視鏡システムで行われる重症度の計算方法のフローの一例を示す図である。
まず、電子内視鏡100による評価対象画像を得るために撮像が行われ、このときの撮像位置の情報が評価対象画像と対応付けられて内視鏡用プロセッサ内の位置情報取得部で取得される(ステップS10)。一方、撮像された画像がドライバ信号処理回路112により処理された後、システムコントローラ202を通して現フレームの画像を、画像処理ユニット220は取得する(ステップS12)。
次に、前処理部220aは、上述したRGB変換、色空間変換、基準軸の設定、及び色補正、必要に応じてトーン強調処理を含む前処理を行い、さらに、特徴量算出部220bは、前処理を行った画像に対して、病変部が示す色成分あるいは形状に関する複数の特徴それぞれの程度を示す複数の画素評価値、例えば生体組織赤色度及び血管赤色度度、生体組織白色度等を、画素毎に算出する(ステップS14)。
特徴量算出部220bは、画素評価値を現フレームの画像の全画素について計算するまで処理を繰り返す。この後、代表値算出部220cは、画素評価値を統合した代表値、すなわち代表評価値を算出する(ステップS16)。代表値は、画素評価値の種類毎に算出される。代表評価値は、上述の例では、生体組織赤色度、血管赤色度、あるいは生体組織白色度等の代表値である。
統合部220dは、ステップS10で取得した撮像位置の情報に応じた重症度の計算処理の内容を設定し、重症度を計算する(ステップS18)。図10(a)~(c)は、重症度の計算処理内容のフローの例を示す図である。
図10(a)は、計算処理1のフローの例を示す。計算処理1では、統合部220dは、撮像位置の情報に応じた関係式における各代表評価値に係る係数の値を設定する(ステップS30)。このような係数の値は、図1に示す事前処理により、重症度の値が重症度の評価結果に最も対応するように、関係式の各係数の値が算出されてメモリ204に記憶保持されたものである。したがって、撮像位置の情報が取得されると、撮像位置の情報に対応した係数の値がメモリ204から読みだされる。
さらに、統合部220dは、設定された係数の値を、回帰式の係数に与え、この回帰式に代表評価値を入力することにより重症度の値を算出する(ステップS32)。係数の値は、撮像位置の情報に応じたものであるので、撮像位置によって重症度の値が変化することを抑制することができる。したがって、画像の撮像位置によらず、病変の進行の程度を安定して精度よく重症度の値で評価することができる。
図10(b)は、計算処理2のフローの例を示す。計算処理2では、統合部220dは、2つの基準値(第1基準値、第2基準値)を、評価対象画像の撮像位置の情報に応じて定め、この2つの基準値を用いて代表評価値を正規化した正規化評価値を算出する(ステップS40)。例えば、第1基準値がX1であり、第2基準値がX2(>X1)であり、代表評価値がPである場合、(P-X1)/(X2-X1)である。Pは、X1とX2の間の値である必要はないが、PがX1とX2の間の値である場合、(P-X1)/(X2-X1)は0~1の値となる。
次に、統合部220dは、正規化評価値を説明変数として表された回帰式に、正規化評価値を入力して、重症度の値を算出する(ステップS42)。回帰式は、事前処理により、参照画像の正規化評価値を用いて、重症度の計算を最適化した関係式であり、この最適化により、撮像位置の情報毎に2つの基準値(第1基準値、第2基準値)が算出されてメモリ204に記憶されている。2つの基準値は、撮像位置の情報に応じたものであり、正規化評価値は、撮像位置によって値が変化しないように正規化されたものであるので、撮像位置によって重症度の値が変化することを抑制することができる。したがって、評価対象画像の撮像位置によらず、病変の進行の程度を安定して精度よく重症度の値で評価することができる。
図10(c)は、計算処理3のフローの例を示す。計算処理3では、統合部220dは、重症度に関する2つの基準値(第3基準値、第4基準値)を、評価対象画像の撮像位置の情報に応じて設定する(ステップS50)。
次に、統合部220dは、ステップS16で算出した代表評価値を回帰式に入力して、重症度を計算する(ステップS52)。
統合部220dは、重症度の計算結果を2つの基準値により正規化して、重症度の正規化値を、重症度の値として算出する(ステップS54)。例えば、第3基準値がX3であり、第4基準値がX4であり、重症度の計算結果がQである場合、(Q-X3)/(X4-X3)である。QがX3とX4の間の値である必要はないが、QがX3とX4の間の値である場合、(Q-X3)/(X4-X3)は0~1の値となる。2つの基準値は、撮像位置の情報に応じたものであり、重症度の正規化値は、撮像位置によって値が変化しないように正規化されたものであるので、撮像位置によって重症度の値が変化することを抑制することができる。したがって、画像の撮像位置によらず、病変の進行の程度を安定して精度よく重症度の値で評価することができる。
このようにして重症度の値が得られた後、図9のステップS20に戻り、画像処理ユニット220は、特徴量算出部220bにおいて画素評価値から作成された上述のカラーマップ画像とステップS18で得られた重症度の値をモニタ300の表示画面に表示するように制御する。
こうして、画像処理ユニット220は、評価対象画像を得るための撮像を継続して行うか否かを判定し、撮像が継続される場合、ステップS10に戻り、上述の処理が繰り返される。撮像が継続されない場合、上述の処理は終了する。
このように算出した重症度の値をモニタ300に画面表示するので、ユーザは、モニタ300を見て病変の進行の程度を知ることができる。
以上、本発明の内視鏡用プロセッサ及び内視鏡システムについて詳細に説明したが、本発明の内視鏡システムは上記実施形態に限定されず、本発明の主旨を逸脱しない範囲において、種々の改良や変更をしてもよいのはもちろんである。
1 電子内視鏡システム
100 電子内視鏡
200 電子内視鏡用プロセッサ
220 画像処理ユニット
220a 前処理部
220b 特徴量算出部
220c 代表値算出部
220d 統合部
204 メモリ
230 光源部
300 モニタ
400 プリンタ
600 サーバ

Claims (6)

  1. 電子内視鏡で得られた体腔内の生体組織の病変部の画像から、前記画像の情報を少なくとも用いて、前記生体組織の病変の進行の程度を1つの値で表した病変の重症度の値を求めるように構成された画像処理ユニットを備え、
    前記画像処理ユニットは、
    前記病変部に現れる複数の外観の特徴を、前記病変部が示す色成分、あるいは前記病変部の形状により前記生体組織の健常部の特徴と区別できる、前記外観の特徴それぞれに対応した評価値であって、前記色成分、あるいは前記病変部の形状に関する、前記複数の特徴それぞれの程度を画素毎に示す画素評価値を、前記画像から算出するように構成された特徴量算出部と、
    前記画像における各画素の前記画素評価値を纏めることにより前記生体組織の前記複数の特徴それぞれの代表評価値を前記画像1つに対して1つ算出するように構成された代表値算出部と、
    前記画像を撮像したときの前記体腔内の撮像位置の情報を前記画像と対応付ける撮像位置情報処理部と、
    前記電子内視鏡で撮像した評価対象画像について、前記複数の特徴それぞれの前記代表評価値に基づいて前記病変の重症度の値を算出し、前記重症度の値を算出する際に、前記評価対象画像に対応した前記撮像位置の前記情報に応じて調整した前記重症度の計算処理を設定する統合部と、を備え、
    前記統合部は、前記重症度と前記複数の特徴それぞれの前記代表評価値とを関連付けた関係式に従って前記重症度の値を計算し、
    前記関係式において、前記代表評価値に係る係数には、前記撮像位置の前記情報に応じた値が設定される、ことを特徴とする内視鏡用プロセッサ。
  2. 電子内視鏡で得られた体腔内の生体組織の病変部の画像から、前記画像の情報を少なくとも用いて、前記生体組織の病変の進行の程度を1つの値で表した病変の重症度の値を求めるように構成された画像処理ユニットであって、
    前記病変部に現れる複数の外観の特徴を、前記病変部が示す色成分、あるいは前記病変部の形状により前記生体組織の健常部の特徴と区別できる、前記外観の特徴それぞれに対応した評価値であって、前記色成分、あるいは前記病変部の形状に関する、前記複数の特徴それぞれの程度を画素毎に示す画素評価値を、前記画像から算出するように構成された特徴量算出部と、
    前記画像における各画素の前記画素評価値を纏めることにより前記生体組織の前記複数の特徴それぞれの代表評価値を前記画像1つに対して1つ算出するように構成された代表値算出部と、
    前記画像を撮像したときの前記体腔内の撮像位置の情報を前記画像と対応付ける撮像位置情報処理部と、
    前記電子内視鏡で撮像した評価対象画像について、前記複数の特徴それぞれの前記代表評価値に基づいて前記病変の重症度の値を算出し、前記重症度の値を算出する際に、前記評価対象画像に対応した前記撮像位置の前記情報に応じて調整した前記重症度の計算処理を設定する統合部と、
    を備える画像処理ユニットと、
    病変の進行の程度が異なる複数の病変部を前記電子内視鏡で撮像した複数の参照画像に基づいて設定された前記代表評価値に関する2つの基準値を、前記参照画像の前記撮像位置の前記情報に応じて定まる値として前記電子内視鏡の撮像位置毎に保持する記憶部と、
    備え、
    前記統合部は、前記電子内視鏡で撮像した参照画像の前記撮像位置の前記情報に応じた前記2つの基準値により前記参照画像の前記代表評価値を正規化した正規化評価値と前記重症度とを事前に関連付けた関係式を用いて、前記重症度の値を計算し、前記重症度の値は、前記評価対象画像の前記代表評価値を前記評価対象画像の前記撮像位置の前記情報に応じて定まる前記2つの基準値により正規化した前記正規化評価値を前記関係式に入力することにより計算する、ことを特徴とする内視鏡用プロセッサ。
  3. 電子内視鏡で得られた体腔内の生体組織の病変部の画像から、前記画像の情報を少なくとも用いて、前記生体組織の病変の進行の程度を1つの値で表した病変の重症度の値を求めるように構成された画像処理ユニットであって、
    前記病変部に現れる複数の外観の特徴を、前記病変部が示す色成分、あるいは前記病変部の形状により前記生体組織の健常部の特徴と区別できる、前記外観の特徴それぞれに対応した評価値であって、前記色成分、あるいは前記病変部の形状に関する、前記複数の特徴それぞれの程度を画素毎に示す画素評価値を、前記画像から算出するように構成された特徴量算出部と、
    前記画像における各画素の前記画素評価値を纏めることにより前記生体組織の前記複数の特徴それぞれの代表評価値を前記画像1つに対して1つ算出するように構成された代表値算出部と、
    前記画像を撮像したときの前記体腔内の撮像位置の情報を前記画像と対応付ける撮像位置情報処理部と、
    前記電子内視鏡で撮像した評価対象画像について、前記複数の特徴それぞれの前記代表評価値に基づいて前記病変の重症度の値を算出し、前記重症度の値を算出する際に、前記評価対象画像に対応した前記撮像位置の前記情報に応じて調整した前記重症度の計算処理を設定する統合部と、
    を備える画像処理ユニットと、
    病変の進行の程度が異なる複数の病変部を前記電子内視鏡で撮像した複数の参照画像に基づいて設定された前記重症度に関する2つの基準値を、前記参照画像の前記撮像位置に応じて定まる値として前記電子内視鏡の撮像位置毎に保持する記憶部と、
    備え、
    前記統合部は、前記評価対象画像の前記代表評価値と前記重症度とを事前に関連付けた関係式を用いて前記重症度の計算をし、計算結果の値を、前記評価対象画像の前記撮像位置の情報に対応して定まる前記2つの基準値により正規化した正規化値を前記重症度の値として算出する、ことを特徴とする記載の内視鏡用プロセッサ。
  4. 前記関係式は、事前に用意されている前記病変の進行の程度の評価結果が定まっている参照画像の前記評価結果に、前記複数の特徴それぞれの前記代表評価値から算出される前記重症度の値が対応するように重回帰分析を行って抽出された多項式の回帰式である、請求項1~3のいずれか1項に記載の内視鏡用プロセッサ。
  5. 前記撮像位置の情報は、管状の臓器の奥行方向の領域を複数の区域に区分けしたときの1つの区域の位置情報である、請求項1~のいずれか1項に記載の内視鏡用プロセッサ。
  6. 体腔内の生体組織を撮像するように構成された電子内視鏡と、
    前記電子内視鏡に接続される、請求項1~のいずれか1項に記載の内視鏡用プロセッサと、を備える内視鏡システム。
JP2020160703A 2020-09-25 2020-09-25 内視鏡用プロセッサ及び内視鏡システム Active JP7455716B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2020160703A JP7455716B2 (ja) 2020-09-25 2020-09-25 内視鏡用プロセッサ及び内視鏡システム
CN202180017682.5A CN115190775A (zh) 2020-09-25 2021-09-01 内窥镜用处理器以及内窥镜***
DE112021005012.5T DE112021005012T5 (de) 2020-09-25 2021-09-01 Endoskopprozessor und endoskopsystem
US17/912,725 US20230142219A1 (en) 2020-09-25 2021-09-01 Endoscope processor and endoscope system
PCT/JP2021/032170 WO2022064987A1 (ja) 2020-09-25 2021-09-01 内視鏡用プロセッサ及び内視鏡システム
EP21872118.1A EP4218535A1 (en) 2020-09-25 2021-09-01 Endoscope processor and endoscope system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020160703A JP7455716B2 (ja) 2020-09-25 2020-09-25 内視鏡用プロセッサ及び内視鏡システム

Publications (2)

Publication Number Publication Date
JP2022053845A JP2022053845A (ja) 2022-04-06
JP7455716B2 true JP7455716B2 (ja) 2024-03-26

Family

ID=80996795

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020160703A Active JP7455716B2 (ja) 2020-09-25 2020-09-25 内視鏡用プロセッサ及び内視鏡システム

Country Status (1)

Country Link
JP (1) JP7455716B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024017630A (ja) * 2022-07-28 2024-02-08 Hoya株式会社 電子内視鏡システムの画像補正方法
WO2024111106A1 (ja) * 2022-11-25 2024-05-30 日本電気株式会社 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019159435A1 (ja) 2018-02-13 2019-08-22 Hoya株式会社 内視鏡システム
WO2020066670A1 (ja) 2018-09-27 2020-04-02 Hoya株式会社 電子内視鏡システム及びデータ処理装置
WO2020066807A1 (ja) 2018-09-27 2020-04-02 Hoya株式会社 電子内視鏡システム
WO2020188825A1 (ja) 2019-03-20 2020-09-24 Hoya株式会社 内視鏡システム
WO2020189213A1 (ja) 2019-03-20 2020-09-24 Hoya株式会社 内視鏡システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019159435A1 (ja) 2018-02-13 2019-08-22 Hoya株式会社 内視鏡システム
WO2019159770A1 (ja) 2018-02-13 2019-08-22 Hoya株式会社 内視鏡システム
WO2020066670A1 (ja) 2018-09-27 2020-04-02 Hoya株式会社 電子内視鏡システム及びデータ処理装置
WO2020066807A1 (ja) 2018-09-27 2020-04-02 Hoya株式会社 電子内視鏡システム
WO2020188825A1 (ja) 2019-03-20 2020-09-24 Hoya株式会社 内視鏡システム
WO2020189213A1 (ja) 2019-03-20 2020-09-24 Hoya株式会社 内視鏡システム

Also Published As

Publication number Publication date
JP2022053845A (ja) 2022-04-06

Similar Documents

Publication Publication Date Title
JP6581730B2 (ja) 電子内視鏡用プロセッサ及び電子内視鏡システム
JP7068487B2 (ja) 電子内視鏡システム
JP6907398B2 (ja) 内視鏡システム
CN112351723B (zh) 电子内窥镜***与数据处理装置
CN112469323B (zh) 内窥镜***
US12011142B2 (en) Electronic endoscope system
JP7455716B2 (ja) 内視鏡用プロセッサ及び内視鏡システム
EP4218535A1 (en) Endoscope processor and endoscope system
WO2020189213A1 (ja) 内視鏡システム
JP6912608B2 (ja) 内視鏡システム
JP6877672B2 (ja) 電子内視鏡システム及びデータ処理装置
JP6926242B2 (ja) 電子内視鏡用プロセッサ及び電子内視鏡システム
JP7455717B2 (ja) 内視鏡用プロセッサ及び内視鏡システム
US12029385B2 (en) Electronic endoscope system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240313

R150 Certificate of patent or registration of utility model

Ref document number: 7455716

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150