JP2012005512A - 画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法 - Google Patents

画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法 Download PDF

Info

Publication number
JP2012005512A
JP2012005512A JP2010141360A JP2010141360A JP2012005512A JP 2012005512 A JP2012005512 A JP 2012005512A JP 2010141360 A JP2010141360 A JP 2010141360A JP 2010141360 A JP2010141360 A JP 2010141360A JP 2012005512 A JP2012005512 A JP 2012005512A
Authority
JP
Japan
Prior art keywords
image
feature amount
reference feature
pixel
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2010141360A
Other languages
English (en)
Inventor
Naoya Kuriyama
直也 栗山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2010141360A priority Critical patent/JP2012005512A/ja
Publication of JP2012005512A publication Critical patent/JP2012005512A/ja
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Endoscopes (AREA)

Abstract

【課題】個人差に応じた注目領域の検出が可能な画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法等を提供すること。
【解決手段】画像処理装置は、第1画像取得部233と、第2画像取得部235と、基準特徴量算出部234と、第2画像側注目領域検出部236を含む。第1画像取得部233は、第1の撮像素子により得られた第1画像を取得する。第2画像取得部235は、第2の撮像素子225,226により得られた第2画像を取得する。基準特徴量算出部234は、第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する。第2画像側注目領域検出部236は、基準特徴量と、第2画像内の画素の画素値とに基づいて、第2画像から第2画像側注目領域を検出する。
【選択図】図10

Description

本発明は、画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法等に関する。
従来、医療分野では、X線診断装置やCT、MRI、超音波観測装置、内視鏡装置等の画像撮像機器を用いた観察が広く行われている。例えば、内視鏡装置は、挿入部が体腔内に挿入され、その挿入部の先端部に配置された撮像部により体腔内を撮像し、その撮像画像をモニタに表示する。そして、医師は、モニタに表示された体腔内の画像を観察して、体腔内の臓器等の診断や処置を行う。このような内視鏡装置は、消化管粘膜の像を直接的に撮像する。そのため、医師は、粘膜の色調や病変部の形状、粘膜表面の微細な構造等の様々な所見を総合的に観察できる。
さて、内視鏡装置では、出血部位等の病変部が含まれる所定の画像を検出する画像処理手法がある。例えば、特許文献1には、あらかじめ取得した複数のサンプルに基づいて病変検出基準を設定し、その病変検出基準を用いて病変部を検出する画像処理手法が開示されている。
国際公開第02/073507号
しかしながら、消化管内部においては、正常粘膜の分光反射特性と病変部の分光反射特性との間の違いには、一般的に個人差がある。そのため、患者に依らず共通の病変検出基準を用いると、正常粘膜と病変部とを識別する精度が患者に依ってばらついてしまう。このように病変検出結果の信頼性が低下すると、医師に注意深い観察が要求されるため、医師の負担が増大してしまう。
本発明の幾つかの態様によれば、個人差に応じた病変検出が可能な画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法等を提供できる。
本発明の一態様は、第1の撮像素子により得られた第1画像を取得する第1画像取得部と、第2の撮像素子により得られた第2画像を取得する第2画像取得部と、前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する基準特徴量算出部と、前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出する第2画像側注目領域検出部と、を含む画像処理装置に関係する。
本発明の一態様によれば、第1の撮像素子により得られた第1画像から基準特徴量が算出され、その基準特徴量に基づいて、第2の撮像素子により得られた第2画像から第2画像側注目領域が検出される。これにより、個人差に影響されない注目領域検出等が可能になる。
また、本発明の他の態様は、第1内視鏡装置により得られた第1画像を取得する第1画像取得部と、第2内視鏡装置により得られた第2画像を取得する第2画像取得部と、前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する基準特徴量算出部と、前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出する第2画像側注目領域検出部と、を含む画像処理装置に関係する。
また、本発明の他の態様は、上記のいずれかに記載の画像処理装置を含む内視鏡装置に関係する。
また、本発明の他の態様は、第1内視鏡装置と第2内視鏡装置を含む内視鏡システムであって、第1の撮像素子により得られた第1画像を取得する第1画像取得部と、第2の撮像素子により得られた第2画像を取得する第2画像取得部と、前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する基準特徴量算出部と、前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出する第2画像側注目領域検出部と、を含む内視鏡システムに関係する。
また、本発明の他の態様は、第1の撮像素子により得られた第1画像を取得する第1画像取得部と、第2の撮像素子により得られた第2画像を取得する第2画像取得部と、前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する基準特徴量算出部と、前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出する第2画像側注目領域検出部として、コンピュータを機能させるプログラムに関係する。
また、本発明の他の態様は、第1の撮像素子により得られた第1画像を取得し、第2の撮像素子により得られた第2画像を取得し、前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出し、前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出する画像処理方法に関係する。
病変検出手法の比較例についての説明図。 本実施形態の病変検出手法についての説明図。 第1内視鏡装置のカプセル部の構成例。 第1内視鏡装置の制御装置の構成例。 第1内視鏡装置の撮像素子の色フィルタについての説明図。 第1内視鏡装置の撮像素子の色フィルタについての説明図。 狭帯域光の分光特性についての説明図。 図8(A)〜図8(C)は、第1内視鏡装置の撮像素子の色フィルタについての説明図。 第1内視鏡装置の撮像素子の色フィルタについての説明図。 第2内視鏡装置の構成例。 第2内視鏡装置の特殊光撮像素子の色フィルタについての説明図。 基準特徴量算出部の詳細な構成例。 図13(A)は、第1画像側正常領域についての説明図である。図13(B)は、局所領域についての説明図である。 重み付け関数の第1の特性例。 重み付け関数の第2の特性例。 第2画像取得部の詳細な構成例。 第2画像側注目領域検出部の詳細な構成例。 尤度に応じて割り当てられる特定色の例。 第1内視鏡装置の第2の構成例。 基準特徴量算出部の第2の詳細な構成例。 第2画像側注目領域検出部の第2の詳細な構成例。 第1画像処理部の第2の詳細な構成例。 第2画像処理部の第2の詳細な構成例。 本実施形態が行う処理のフローチャート例。 基準特徴量算出処理のフローチャート例。 第2画像側注目領域検出処理のフローチャート例。 基準特徴量算出部の第3の詳細な構成例。 第1画像側正常領域検出部の詳細な構成例。 基準特徴量算出処理のフローチャート例。 基準特徴量算出部の第4の詳細な構成例。 基準特徴量算出処理のフローチャート例。 基準特徴量算出部の第5の詳細な構成例。 コンピュータシステムの構成を示すシステム構成図。 コンピュータシステムにおける本体部の構成を示すブロック図。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.本実施形態の手法
図1、図2を用いて、本実施形態が行う病変検出手法について説明する。
図1に、病変検出手法の比較例を示す。図1に示すように、2人の患者1と患者2の消化管を内視鏡を用いて診察する場合について考える。このとき、A1に示すように患者1の撮像画像内に病変部が存在し、A2に示すように患者2の撮像画像にも病変部が存在するとする。比較例では、これらの病変部を、画像の色特徴量(色相等)から自動的に検出し、医師に注意を促すためのアラート表示を行う。
A3に示すように、この比較例では、患者1と患者2で同一の検出基準を用いて病変部の検出を行う。このとき、患者1と患者2の撮像画像に同じ種別の病変部が写っていたとしても、患者の個人差や病変部の状態等に依って色特徴量が異なる場合がある。例えば、検出基準が、患者1の病変部の色特徴量に近い基準だとすると、A4に示すように、患者1の病変部は検出されてアラート画像が表示され、A5に示すように、患者2の病変部は検出されずアラート画像が表示されない可能性がある。このように、患者に依らない検出基準を用いると、患者の個人差等に応じた病変検出ができなくなってしまう。
そこで、本実施形態では、患者毎に検出基準を作成し、その検出基準を用いて病変検出を行う。具体的には、図2のB1に示すように、カプセル型内視鏡(第1内視鏡装置)により消化管粘膜を撮像し、B2に示すように、その撮像画像から患者1用の検出基準を求める。そして、B3に示すように、スコープ型内視鏡(第2内視鏡装置)により診察を行う際に、その検出基準を用いて病変部を検出してアラート表示を行う。これと同様の処理を患者2に対しても行うことで、B4に示すように、色特徴量が異なる患者2の病変部を検出できる。このように本実施形態では、患者毎の検出基準を用いることで、患者の個人差等に応じた病変検出が可能である。
2.第1内視鏡装置の構成例
次に、上記本実施形態の詳細な構成例と動作について説明する。上述のように、本実施形態では、まず第1内視鏡装置(第1撮像手段)により患者(被験者)の体腔内を撮影し、異常所見の有無などの画像診断を行い、異常所見の検出基準を設ける。次に、第2内視鏡装置(第2撮像手段)により同一患者の体腔内を撮影し、設けた異常所見の検出基準を利用して画像診断を行う。
以下では、第1内視鏡装置は、患者に何らかの疾患がないかスクリーニング検査を行うカプセル型内視鏡であり、第2撮像装置は、カプセル内視鏡検査により何らかの疾患が疑われる場合に、より詳細な検査を行うスコープ型内視鏡である場合を例に説明する。
まず、図3〜図9を用いて、カプセル型内視鏡(第1内視鏡装置)の構成例について説明する。図3に、カプセル型内視鏡のカプセル部(送信装置)の構成例を示す。このカプセル部は、光源部110と、白色光発光素子111と、特殊光発光素子112と、対物レンズ120と、撮像素子130と、第1制御部140と、A/D変換部150と、送信アンテナ160を含む。
そして、撮像素子130は、A/D変換部150に接続されている。第1制御部140は、光源部110と、撮像素子130と、A/D変換部150と、送信アンテナ160に接続されている。A/D変換部150は、送信アンテナ160に接続されている。
光源部110は、発光素子を発光させる制御を行う。具体的には、光源部110は、白色光を発光する白色光発光素子111と、特殊光を発光する特殊光発生素子112に接続され、第1制御部140の制御信号に基づいて、白色光発光素子111と特殊光発生素子112を順次発光させる制御を行う。
対物レンズ120は、被写体像を撮像素子130に結像させる。具体的には、対物レンズ120は、白色光発光素子111及び特殊光発生素子112が照射した照明光が観察対象に反射されて戻った反射光を集光する。
撮像素子130は、対物レンズ120によって結像された、観察対象からの反射光を撮像(検出)する。例えば、撮像素子130は、CMOSイメージセンサや、CCDイメージセンサにより構成される。
第1制御部140は、光源部110と、撮像素子130と、A/D変換部150送信アンテナ160を制御する制御信号を出力する。例えば、この制御信号は、白色光発光素子111と特殊光発生素子112のどちらを発光させるかを表す情報を含み、第1制御部140は、その情報に基づいて光源部110等を制御する。
A/D変換部150は、撮像素子130から出力されるアナログ画像信号をデジタル画像信号に変換し、デジタル画像信号として送信アンテナ160に出力する。
送信アンテナ160は、後述する受信装置のデータ受信部170に対して無線により信号を送信する。具体的には、送信アンテナ160は、A/D変換部150から出力されるデジタル画像信号と、第1制御部140から出力される制御信号を送信する。
図4に、カプセル型内視鏡の制御装置(受信装置)の構成例を示す。この画像処理装置は、データ受信部170と、第1画像処理部180を含む。
そして、データ受信部170は、第1画像処理部180に接続されている。第1画像処理部180は、第2内視鏡装置200に接続されている。なお、第1画像処理部180と第2内視鏡装置200は、着脱可能に接続され、例えばUSB(Universal Serial Bus)等により接続される。
データ受信部170は、カプセル部から無線により送信された信号を受信する。具体的には、データ受信部170は、受信アンテナ171と、データ記録部172と、データ伝送部173を含む。受信アンテナ171は、データ記録部172に接続されている。データ記録部172は、データ伝送部173に接続されている。
受信アンテナ171は、送信アンテナ160から送信されるデジタル画像信号と制御信号を受信する。
データ記録部172(記憶部)は、受信アンテナ171により受信されたデジタル画像信号と制御信号を記憶する。
データ伝送部173は、第1画像処理部180に対して、デジタル画像信号および制御信号をデータとして伝送する。例えば、データ伝送部173と第1画像処理部180は、有線または無線によりネットワーク接続されて、データ伝送部173は、そのネットワークを介してデータ伝送を行う。あるいは、データ記録部172が、可搬情報記憶媒体(DVD等の光ディスク媒体、ハードディスク媒体、メモリ媒体等)に対してデータを記録し、第1画像処理部180が、その可搬情報記憶媒体に記録されたデータを読み取ることで、データ伝送が行われてもよい。
第1画像処理部180は、データ受信部170からのデータに基づいて撮像画像を生成する。具体的には、第1画像処理部180は、第1画像生成部181と、第1画像記録部182を含む。第1画像生成部181は、第1画像記録部182に接続されている。第1画像記録部182は、第2内視鏡装置200に接続されている。
第1画像生成部181は、データ伝送部173から伝送されたデジタル画像信号と制御信号に基づいて、白色光画像(通常光画像)と特殊光画像を生成する。
第1画像記録部182は、第1画像生成部181により生成された白色光画像と特殊光画像を記憶する。
次に、第1画像生成部181が白色光画像と特殊光画像を生成する手法について説明する。なお以下では、特殊光の一例として狭帯域光を用いた場合について説明するが、本実施形態では、特殊光は狭帯域光に限定されない。
まず、図5、図6を用いて、データ伝送部173から伝送されたデジタル画像信号が白色光画像である場合について説明する。この場合、白色光発光素子111は、第1制御部140からの制御信号に基づいて白色光を発光し、撮像素子130は、その制御信号に同期して被写体からの反射光を撮像する。
図5に示すように、撮像素子130の色フィルタは、例えばフィルタm,g,bにより構成される。これらの色フィルタm,g,bは、図6に示す色フィルタ透過率を有する。第1画像生成部181は、このような撮像素子130により取得されたデジタル画像信号に対して補間処理を行い、全画素に対してカラー信号R,G,Bを生成する。例えば、その補間処理として、周囲の画素値の平均値をとる処理を行う。
例えば、座標(1,1)、(2,1)、(1,2)、(2,2)におけるカラー信号の生成について説明する。まず、座標(1,1)におけるM信号m(1,1)とB信号b(1,1)とR信号r(1,1)は、下式(1)により算出される。
m(1,1)={m(1,0)+m(1,2)}/2,
b(1,1)={b(0,1)+b(2,1)}/2,
r(1,1)=m(1,1)−b(1,1) ・・・ (1)
次に、座標(2,1)におけるG信号g(2,1)とM信号m(2,1)とR信号r(2,1)は、下式(2)により算出される。
g(2,1)
={g(1,1)+g(2,0)+g(3,1)+g(2,2)}/4,
m(2,1)
={m(1,0)+m(3,0)+m(1,2)+m(3,2)}/4,
r(2,1)=m(2,1)−b(2,1) ・・・ (2)
次に、座標(1,2)におけるG信号g(1,2)とB信号b(1,2)とR信号r(1,2)は、下式(3)により算出される。
g(1,2)
={g(0,2)+g(1,1)+g(2,2)+g(1,3)}/4,
b(1,2)
={b(0,1)+b(2,1)+b(2,3)+b(0,3)}/4,
r(1,2)=m(1,2)−b(1,2) ・・・ (3)
次に座標(2,2)におけるM信号m(2,2)とB信号b(2,2)とR信号r(2,2)は、下式(4)により算出される。
m(2,2)={m(1,2)+m(3,2)}/2,
b(2,2)={b(2,1)+b(2,3)}/2,
r(2,2)=m(2,2)−b(2,2) ・・・ (4)
そして、このようにして算出されたR,G,B画像に対して、例えば既知のホワイトバランス処理や、色変換処理、階調変換処理等の画像処理が行われ、白色光画像が生成される。
次に、図7〜図9を用いて、データ伝送部173から伝送されたデジタル画像信号が特殊光画像であった場合について説明する。この場合、図7に示すように、特殊光発生素子112は、b2(390〜445nm)とg2(530〜550nm)の波長帯域を有する光を出射する。例えば、特殊光発生素子112は、b2光を発する素子と、g2光を発する素子を有する。そして、第1制御部140がこれらの発光するタイミングを制御し、撮像素子130が反射光を撮像し、b2の照明光に対応するB2信号とg2の照明光に対応するG2信号が生成される。
具体的には、図8(A)に示すように、色フィルタmを有する画素では、照明光b2,g2の分光放射率特性と色フィルタmの透過率特性との積により、色フィルタmの透過光の分光特性はb2の帯域を有する。また、図8(B)に示すように、色フィルタgの透過光の分光特性はg2の帯域を有し、図8(C)に示すように、色フィルタbの透過光の分光特性はb2の帯域を有する。すなわち、図9に示すように、撮像素子130の色フィルタg,m,bは、市松状の色フィルタg2,b2として機能する。
そして、このようにして得られたG2、B2信号に対して補間処理が行われ、全画素においてg2帯域に対応する信号値を持つG2信号と、全画素においてb2帯域に対応する信号値を持つB2信号が生成される。例えば、この補間処理として、周辺4画素の平均値をとる処理が行われる。例えば、座標(1,1)におけるB2信号b2(1,1)と、座標(1,2)におけるG2信号g2(1,2)は、下式(5)により算出される。
b2(1,1)
={b2(0,1)+b2(1,0)+b2(2,1)+b2(1,2)}/4,
g2(1,2)
={g2(0,2)+g2(1,1)+g2(2,2)+g2(1,3)}/4
・・・ (5)
次に、補間されたG2信号とB2信号から擬似カラー信号R,G,Bが生成される。例えば、R信号にG2信号を入力し、G信号及びB信号にB2信号を入力することで擬似カラー信号が生成される。第1画像生成部181は、生成した擬似カラー信号に対してさらにホワイトバランス、階調変換等の処理を行い、特殊光(狭帯域光)画像として第1画像記録部182に出力する。
第1画像記録部182に記録された1枚以上の第1画像(第1通常光画像、第1特殊光画像)は、第2内視鏡装置200に対して出力される。例えば、第1画像記録部182と第2内視鏡装置200は、有線または無線でネットワーク接続され、そのネットワークを介してデータ送信が行われる。あるいは、第1画像記録部182は可搬情報記録媒体であり、第2内視鏡装置200は、図示しない読み出し部によって、可搬情報記録媒体に記録された第1画像を取得してもよい。ここで、第1内視鏡装置100が出力する第1画像は、体腔内を撮影した静止画または動画である。静止画の場合、第1画像は1または複数の画像であり、動画の場合、第1画像は例えばストリームデータによる画像である。
3.第2内視鏡装置の構成例
図10に、第2内視鏡装置の構成例を示す。この第2内視鏡装置200(スコープ型内視鏡)は、光源部210と、挿入部220と、第2画像処理部230と、表示部240と、外部I/F部250を含む。
光源部210は、被写体に照射するための照射光を発生する。具体的には、光源部210は、白色光を発生する白色光源211と、白色光をライトガイドファイバ221に集光するための集光レンズ212を含む。
挿入部220は、例えば体腔への挿入を可能にするため細長くかつ湾曲可能に形成されている。挿入部220は、光源部210で集光された光を導くためのライトガイドファイバ221と、そのライトガイドファイバ221により先端まで導かれてきた光を拡散させて観察対象に照射する照明レンズ222を含む。また、挿入部220は、観察対象から戻る反射光を集光する対物レンズ223と、その集光した反射光を2つに分離するハーフミラー224と、その分離された反射光を検出するための白色光撮像素子225と特殊光撮像素子226を含む。
白色光撮像素子225は、白色光画像を撮影するための撮像素子である。例えば、その色フィルタ(例えばベイヤ配列)は、透過帯域580nm〜700nmのrフィルタと、透過帯域480nm〜600nmのgフィルタと、透過帯域380nm〜500nmのbフィルタにより構成される。
特殊光撮像素子226は、狭帯域画像を撮影するための撮像素子である。例えば、図11に示すように、その色フィルタは、2種類の狭帯域光g2とb2を透過する2種類の色フィルタg2とb2が市松状に配置されて構成される。
第2画像処理部230(画像処理装置)は、第1画像から基準特徴量を算出し、その基準特徴量を用いて第2内視鏡装置200の撮像画像から注目領域を検出する。具体的には、第2画像処理部230は、A/D変換部231a,231bと、第2制御部232と、第1画像取得部233と、基準特徴量算出部234と、第2画像取得部235と、第2画像側注目領域検出部236(注目領域検出部)を含む。
A/D変換部231a,231bは、第2画像取得部235に接続されている。第2制御部232は、光源部210と、第1画像取得部233と、基準特徴量算出部234と、第2画像取得部235と、第2画像側注目領域検出部236と、表示部240と、外部I/F部250と双方向に接続されており、これらを制御する。第1画像取得部233は、基準特徴量算出部234に接続されている。基準特徴量算出部234は、第2画像側注目領域検出部236に接続されている。第2画像取得部235は、第2画像側注目領域検出部236に接続されている。第2画像側注目領域検出部236は、表示部240に接続されている。
第1画像取得部233は、第1内視鏡装置100から出力された第1画像を取得し、取得した第1画像を基準特徴量算出部234に出力する。例えば、第1画像取得部233は、第1画像として白色光画像及び特殊光画像を取得する。
基準特徴量算出部234は、第2画像から病変(広義には注目領域)を検出する基準となる基準特徴量を、第1画像の画素値に基づいて算出し、算出した基準特徴量を第2画像側注目領域検出部236に出力する。
A/D変換部231aは、白色光撮像素子225から出力されたアナログ画像信号をデジタル画像信号に変換し、そのデジタル画像信号を第2画像取得部235に出力する。A/D変換部231bは、特殊光撮像素子226から出力されたアナログ画像信号をデジタル画像信号に変換し、そのデジタル画像信号を第2画像取得部235に出力する。
第2画像取得部235は、A/D変換部231aから出力されたデジタル画像信号を画像処理して白色光画像を取得し、A/D変換部231bから出力されたデジタル画像信号を画像処理して特殊光画像を取得する。第2画像取得部235は、これらの白色光画像と特殊光画像を第2画像として第2画像側注目領域検出部236に出力する。
第2画像側注目領域検出部236は、第2画像取得部235により取得された第2画像の画素値と、基準特徴量算出部234により算出された基準特徴量に基づいて、第2画像側注目領域(注目領域)を検出する。
表示部240は、第2画像処理部230からの出力画像を表示(出力)する。例えば、出力画像は、第2内視鏡装置200により撮像された白色光画像に、注目領域を表すアラート表示が付加された画像である。
外部I/F部250は、第2内視鏡装置200に対してユーザが入力等を行うためのインターフェースである。例えば、外部I/F部250は、電源のオン/オフを行うための電源スイッチや、撮影操作を開始するためのシャッタボタン、撮影モードやその他各種のモードを切り換えるためのモード切換ボタン等を含む。
4.基準特徴量算出部の詳細な構成例
図12に、上述の基準特徴量算出部234の詳細な構成例を示す。この基準特徴量算出部234は、第1画像側注目領域検出部2341(第1領域検出部)と、局所領域設定部2342と、基準算出部2343を含む。そして、第1画像側注目領域検出部2341は、局所領域設定部2342に接続されている。局所領域設定部2342は、基準算出部2343に接続されている。基準算出部2343は第2画像側注目領域検出部236に接続されている。
第1画像側注目領域検出部2341は、第1画像の特殊光画像の画素値に基づいて、病変部(広義には、第1画像側注目領域、第1領域)を検出する。例えば、特殊光画像が狭帯域光画像である場合、扁平上皮癌等の病変部が褐色の領域として描出されるため、特徴量として色相Hを検出基準として使用する。まず、第1画像側注目領域検出部2341は、特殊光画像の各画素について、色相Hを下式(6)〜式(11)を用いて算出する。ここで、特殊光画像の各画素のR,G,Bの信号値を夫々r,g,bと表記し、各信号値は8ビット(0〜255)であるとする。また、MAX関数は、複数の引数の中で最大のものを出力する関数とする。
max=MAX(r,g,b) ・・・ (6)
上式(6)においてmax=0の場合には、下式(7)により色相Hを求める。
H=360 ・・・ (7)
上式(6)においてmaxが0以外の場合には、まず下式(8)により値dを求める。ここで、MIN関数は、複数の引数の中から最小値の引数を出力する関数である。
d=MAX(r,g,b)−MIN(r,g,b) ・・・ (8)
上式(8)において、r,g,bのうちrが最大の場合には、下式(9)により色相Hを求める。
H=60×(g−b)/d ・・・ (9)
また、上式(8)において、r,g,bのうちgが最大の場合には、下式(10)により色相Hを求める。
H=60×(b−r)/d+120 ・・・ (10)
また、上式(8)において、r,g,bのうちbが最大の場合には、下式(11)により色相Hを求める。
H=60×(r−g)/d+240 ・・・ (11)
なお、上記演算によりH<0となった場合には、Hに360を加える。また、上記演算によりH=360となった場合には、H=0とする。
第1画像側注目領域検出部2341は、特殊光画像の各画素の色相Hが、例えば褐色を表す5〜35の範囲にあれば、その画素を第1画像側注目領域として検出する。そして、検出された第1画像側注目領域の情報(例えば、画素の座標)は、局所領域設定部2342に出力される。なお、本実施形態では、第1画像側注目領域を検出する特徴量は、上記色相Hに限定されない。例えば、本実施形態では、色の特徴量や空間周波数の特徴量等を各々求め、それぞれに重み係数を付与して線形結合し、第1画像側注目領域を検出する特徴量としてもよい。
局所領域設定部2342は、第1画像から検出された注目領域を1つ以上の領域に分割し、分割した領域各々を局所領域として設定する。局所領域設定部2342は、設定した局所領域の情報(例えば、局所領域内の画素の座標)を基準算出部2343に出力する。例えば、第1画像が複数の画像である場合、その複数の画像から検出された注目領域全てが分割対象となる。また、消化管種別(部位)毎に基準特徴量が算出される場合、算出対象の消化管種別に対応する第1画像から検出された注目領域が分割対象となる。
図13(A)、図13(B)を用いて、局所領域の設定手法例について説明する。図13(A)に示すように、第1画像において注目領域が検出された画素にフラグ“1”を付与する。そして、図13(B)に示すように、フラグ“1”が付与された領域に対して4連結ラベリング処理を行い、その領域の各画素にラベル“1”〜“4”を付与し、同一のラベルが付与された画素群を同一の局所領域に設定する。このラベリング処理を全ての第1画像に対して行い、全ての局所領域に異なるラベルを付与する。ここで、4連結ラベリング処理とは、4方向(画像の水平方向及び垂直方向)に隣接する画素に同一のラベルを付与する処理である。
なお、本実施形態では、領域分割の手法は上記4連結ラベリング処理に限定されず、例えば8連結のラベリング処理を用いてもよい。あるいは、領域分割の方法として、注目領域の画素値に基づいて、Watershed法等の既知の領域分割アルゴリズムを適用してもよい。あるいは、局所領域の範囲は、ユーザの指定により設定されてもよい。あるいは、領域分割を行わず、注目領域全体を1つの局所領域として設定してもよい。
基準算出部2343は、第1画像の画素値と局所領域の情報に基づいて基準特徴量を算出し、算出した基準特徴量を第2画像側注目領域検出部236に出力する。具体的には、基準算出部2343は、白色光画像及び特殊光画像の局所領域内の画素値から各局所領域についての特徴量を算出し、その特徴量から注目領域についての基準特徴量を算出する。下式(12)〜(15)を用いて、この基準特徴量の算出手法例について説明する。
ここで、座標(x,y)における第1画像の画素値をf(x,y)とする。例えば、第1画像を構成している白色光画像の信号数をp、特殊光画像の信号数をqとすると、f(x,y)は(p+q)次元のベクトルである。本実施形態では、白色光画像は3チャンネル、特殊光画像は2チャンネルの信号を持っているため、p=3、q=2であり、f(x,y)は5次元のベクトルである。なお、以下の式では、太字で表記した値はベクトル(または行列)を表すものとする。
まず、局所領域設定部2342によりC〜CN−1のN個の局所領域が設定されたとすると、基準算出部2343は、各局所領域Cについて第1画像の画素値の平均AVEと標準偏差STDを、下式(12)、(13)により算出する。ここで、演算子“.*”はベクトルの要素毎の積算を表し、演算子“.^”はベクトルの要素毎のべき乗を表す。
Figure 2012005512
Figure 2012005512
そして、基準算出部2343は、局所領域C毎に算出されたAVEとSTDから、下式(14)、(15)により基準特徴量AVE、STDを算出する。
Figure 2012005512
Figure 2012005512
ここで、AREA(C)は局所領域Cの面積を表し、例えば局所領域Cに含まれる画素数である。また、W(AREA(C))は、局所領域Cに対応する重み付け係数を表し、局所領域の面積に応じて値が変化する重み付け関数である。例えば、この重み付け関数は、局所領域の面積と重み係数をあらかじめ関連付けたルックアップテーブルにより実現される。
例えば、図14に、重み付け関数の第1の特性例を示す。この特性例では、閾値Th1以下の面積において関数の値が0(または0近傍)である。そのため、ノイズ等により小面積の局所領域が生じても、その局所領域が及ぼす基準特徴量に対する影響を抑制できる。また、図15に、重み付け関数の第2の特性例を示す。この特性例では、閾値Th2以下の面積において関数の値が0(または0近傍)であり、閾値Th3以上の面積において関数の値が1(または1近傍)である。そのため、小面積の局所領域が基準特徴量に対して及ぼす影響を抑制できる。また、第1の特性例では、大面積の局所領域が存在すると、その局所領域の影響が支配的となってしまうが、第2の特性例によれば、所定面積以上の局所領域が及ぼす影響を一様にできる。
5.第2画像取得部の詳細な構成例
次に、図16に、第2画像取得部235の詳細な構成例を示す。この第2画像取得部235は、白色光画像生成部2351(通常光画像生成部)と、特殊光画像生成部2352と、白色光画像記録部2353(通常光画像記憶部)と、特殊光画像記録部2354(特殊光画像記憶部)を含む。そして、白色光画像生成部2351は、白色光画像記録部2353に接続されている。特殊光画像生成部2352は、特殊光画像記録部2354に接続されている。白色光画像記録部2353と特殊光画像記録部2354は、第2画像側注目領域検出部236に接続されている。
白色光画像生成部2351は、A/D変換部231aから出力されるデジタル画像信号に対して画像処理を行い、白色光画像(通常光画像)を生成する。例えば、白色光画像生成部2351は、既知の補間処理やホワイトバランス処理、色変換処理、階調変換処理等の画像処理を行う。
特殊光画像生成部2352は、A/D変換部231bから出力されるデジタル画像信号に対して画像処理を行い、特殊光画像を生成する。
例えば、図11等で上述のように、特殊光画像が狭帯域光画像である場合、特殊光画像生成部2352には、フィルタg2,b2に対応する市松状のデジタル画像信号が入力される。まず、特殊光画像生成部2352は、この画像信号に対して補間処理を行い、全画素においてg2フィルタに対応する信号値を有するG2画像信号と、全画素においてb2フィルタに対応する信号値を有するB2画像信号を生成する。
次に、特殊光画像生成部2352は、G2画像信号とB2画像信号から擬似カラー画像を生成する。例えば、特殊光画像生成部2352は、擬似カラー画像のRチャンネルにG2画像信号を入力し、疑似カラー画像のGチャンネルとBチャンネルにB2画像信号を入力し、擬似カラー画像を生成する。そして、特殊光画像生成部2352は、生成した擬似カラー画像に対してホワイトバランス処理や階調変換処理等の処理を行い、処理後の画像を特殊光画像として出力する。
白色光画像記録部2353は、白色光画像生成部2351から出力された白色光画像を記憶する。特殊光画像記録部2354は、特殊光画像生成部2352から出力された特殊光画像を記憶する。第2画像取得部235は、白色光画像記録部2353に記録された白色光画像と、特殊光画像記録部2354に記録された特殊光画像を、第2画像(第2白色光画像、第2特殊光画像)として出力する。
6.第2画像側注目領域検出部の詳細な構成例
次に、図17に、第2画像側注目領域検出部236の詳細な構成例を示す。この第2画像側注目領域検出部236は、尤度算出部2361と、表示態様設定部2362を含む。そして、尤度算出部2361は、表示態様設定部2362に接続されている。表示態様設定部2362は、表示部240に接続されている。
尤度算出部2361は、第2画像取得部235から出力された第2画像の画素値と、基準特徴量算出部234により算出された基準特徴量に基づいて、第2画像の各画素の病変らしさを表す尤度を算出する。そして、尤度算出部2361は、算出した尤度を表示態様設定部2362に出力する。例えば、尤度算出部2361は、上述の基準特徴量AVE,STDを用いて、下式(16)、(17)により各画素の尤度L(x,y)を算出する。ここで、g(x,y)は、画像上での座標(x,y)での第2画像の画素値である。また、演算子“./”は、ベクトルの要素毎の除算を表し、記号“||”は、ベクトルの大きさを表す。また、G(α,σ)は、標準偏差σのガウス関数である。
Figure 2012005512
Figure 2012005512
例えば、上式(16)、(17)におけるσは、次の設定手法により設定される。第2画像の信号数をtとし、各信号が独立変数であるとした場合、αは自由度(t−1)のχ二乗分布に従うと考えられる。このとき、σは、自由度(t−1)のχ二乗分布の下側10%における値に設定される。この場合、10%の確率でα<σを満たし、1≧L(x,y)>e−0.5を満たす。例えば、e−0.5を注目領域検出の閾値とすれば、g(x,y)がAVEに近く、α<σを満たす画素が注目領域と判定される。例えば、σは信号数tによって決まるため、尤度算出部2361がσをあらかじめ算出しておけばよい。あるいは、σは、外部I/F部250を介して任意の値に設定されてもよい。ここで、χ二乗分布の下側10%における値とは、α=0側からχ二乗分布の確率密度を積分し、10%に達したときのαの値である。
表示態様設定部2362は、尤度算出部2361により算出された尤度L(x,y)に基づいて、第2画像の表示態様(どのように表示するか)を設定する。具体的には、表示態様設定部2362は、第2画像の白色光画像の各画素に、尤度L(x,y)に応じた特定色を割り当て出力画像とし、その出力画像を表示部240に出力する。例えば、図18に、尤度L(x,y)に応じて割り当てられる特定色の例を示す。図18のC1、C2、C3は、それぞれ特定色のR信号値、G信号値、B信号値を表す。すなわち、尤度L(x,y)が閾値Lthから1に変化するに従って、特定色は青から緑、緑から赤に変化する。尤度L(x,y)が閾値Lthより小さい画素では、白色光画像の画素値をそのまま出力画像の画素値に割り当てる。
このようにすれば、尤度が閾値Lth以下の領域を正常部位とし、その領域については通常の観察を行うことができる。一方、尤度が閾値Lth以上の領域を注目領域とし、その領域については割り当てられた色に応じて観察者に注意を促すことができる。例えば、閾値Lth=e−1=0.368を設定すると、α>2σとなる画素を病変部とみなさないことを意味する。なお、本実施形態では、閾値Lthを超える尤度に対してどのような特定色を割り当てるかを、あらかじめ作成したルックアップテーブルにより設定してもよい。
なお、上記実施形態では、白色光画像と特殊光画像の全ての色信号を用いて種々の処理(基準特徴量の算出、尤度の算出等)を行う場合を例に説明したが、本実施形態はこれに限定されない。例えば、第1画像、第2画像として特殊光画像及び白色光画像の一方のみが取得され、基準特徴量の算出や第2画像側注目領域の検出が、取得された画像の色信号のみを用いて行われてもよい。あるいは、本実施形態では、基準特徴量の算出において、R信号以外の色信号を用いて基準特徴量を算出してもよい。これは、R信号が、他の色信号と比べて病変部と正常部で信号強度の差異が小さいためである。あるいは、本実施例では、画像の特徴量としてRGBの画素値をそのまま利用せず、白色光画像等のRGBの画素値を色相・彩度・明度の画素値にHSV変換し、そのHSV変換後の画素値から基準特徴量を算出してもよい。
さて、上述のように、画像処理により病変部を検出して表示させる場合、患者に依らない共通の検出基準を用いると、患者の個人差等により病変部の検出精度が低下する可能性がある。
この点、本実施形態によれば、図10に示すように、第1画像取得部233と、第2画像取得部235と、基準特徴量算出部234と、第2画像側注目領域検出部236を含む。第1画像取得部233は、第1の撮像素子(図3に示す撮像素子130)により得られた第1画像(第1通常光画像、第1特殊光画像)を取得する。第2画像取得部235は、第2の撮像素子(白色光撮像素子225、特殊光撮像素子226)により得られた第2画像(第2通常光画像、第2特殊光画像)を取得する。基準特徴量算出部234は、第1画像内の画素の画素値f(x,y)に基づいて、第2画像側注目領域の検出基準となる基準特徴量AVE、STDを算出する。第2画像側注目領域検出部236は、基準特徴量AVE、STDと、第2画像内の画素の画素値g(x,y)に基づいて、第2画像から第2画像側注目領域を検出する。
これにより、患者の個人差等に応じた病変部の検出等が可能になる。具体的には、本実施形態によれば、カプセル型内視鏡により第1画像が取得され、スコープ型内視鏡により同一患者から第2画像が取得される。そして、病変検出基準として、第1画像の特徴量から基準特徴量が算出され、第2画像の特徴量と基準特徴量との比較により第2画像から病変検出が行われる。これにより、患者毎の基準特徴量に基づいて病変部が検出されるため、共通の検出基準を用いた場合に比べて検出精度を向上できる。また、検出精度の向上により、医師は必要以上に注意深い観察を行う必要がなくなり、内視鏡観察における医師の負担を軽減できる。
ここで、注目領域(第1画像側注目領域、第2画像側注目領域)とは、使用者にとって観察の優先順位が他の領域よりも相対的に高い領域であり、例えば、使用者が医者であり治療を希望した場合、粘膜部や病変部を写した領域を指す。また、他の例として、医者が観察したいと欲した対象が泡や便であれば、注目領域は、その泡部分や便部分を写した領域になる。即ち、使用者が注目すべき対象は、その観察目的によって異なるが、いずれにしても、その観察に際し、使用者にとって観察の優先順位が他の領域よりも相対的に高い領域が注目領域となる。また、注目領域は特殊光画像や通常光画像(白色光画像)の画素の特徴量(色相、彩度等)を用いて検出することができる。例えば、特徴量に対して閾値を設定することで注目領域を検出でき、その閾値は、注目領域の種類に応じて変化する。例えば第1の種類の注目領域に対する色相、彩度等の特徴量の閾値と、第2の種類の注目領域に対する特徴量の閾値は異なった値になる。そして、注目領域の種類が変わった場合には、この特徴量の閾値を変えるだけで済み、注目領域の検出後の処理(基準特徴量算出処理等)については、本実施形態で説明した処理と同様の処理で実現することができる。
また、本実施形態では、図12に示すように、基準特徴量算出部234は、第1画像内の画素の画素値f(x,y)に基づいて、第1画像(1又は複数の画像)から第1画像側注目領域を検出する第1画像側注目領域検出部2341を有する。そして、基準特徴量算出部234は、第1画像側注目領域内の画素の画素値に基づいて、基準特徴量AVE、STDを算出する。具体的には、基準特徴量算出部234は、第1画像側注目領域内の画素の画素値の平均値を、基準特徴量AVE、STDとして算出する。
このようにすれば、カプセル型内視鏡により撮像された第1画像から、色相範囲等の検出基準により第1画像側注目領域を検出し、その第1画像側注目領域についての特徴量である基準特徴量AVE、STDを算出できる。
また、本実施形態では、基準特徴量算出部234は、第1画像側注目領域に対して複数の局所領域C〜CN−1を設定する局所領域設定部2342を有する。そして、上式(12)〜(15)に示すように、基準特徴量算出部234は、各局所領域C内の画素の画素値に基づいて、各局所領域Cにおける特徴量AVE、STDを求め、その特徴量AVE、STDに基づいて基準特徴量AVE、STDを求める。
具体的には、基準特徴量算出部234は、各局所領域C内の画素の画素値の平均値AVEや分散STDを特徴量として求め、複数の局所領域C〜CN−1の特徴量AVE〜AVEN−1、STD〜STDN−1を重み付け加算して基準特徴量AVE、STDを求める。例えば、図14等に示すように、基準特徴量算出部234は、各局所領域Cの面積AREA(C)に応じた重み付け係数W(AREA(C))により重み付け加算を行う。
このようにすれば、第1画像側注目領域を局所領域に分割し、その局所領域の特徴量に基づく基準特徴量を算出できる。また、局所領域の特徴量を面積に応じて重み付け加算することで、ノイズの影響や巨大な注目領域の影響を軽減することが可能になる。
また、本実施形態では、図13(B)に示すように、局所領域設定部2342は、第1画像側注目領域に含まれる画素のうち隣接する(同一ラベルが付与された)画素群(画素の集合)を局所領域として設定する。
このようにすれば、隣接画素に同一ラベルを付与するラベリング処理により、第1画像側注目領域を1又は複数の局所領域に分割できる。
また、本実施形態では、図17に示すように、第2画像側注目領域検出部236は、基準特徴量AVE、STDと、第2画像内の画素の画素値g(x,y)に基づいて、第2画像側注目領域の注目度合いを表す尤度L(x,y)を求める尤度算出部2361を有する。そして、尤度算出部2361は、第2画像内の画素の画素値g(x,y)が基準特徴量AVEに近いほど(上式(17)のαが小さいほど)、その画素の尤度L(x,y)を大きくする。
このようにすれば、尤度により各画素の病変部らしさを表すことができる。また、基準特徴量に応じて尤度が求められることで、患者の個人差等を反映した尤度を算出できる。これにより、患者に応じた検出基準による病変検出が可能になる。
ここで、尤度とは、画像内の検出対象領域が注目領域であることのもっともらしさを表すパラメータである。例えば、病変部を注目領域とする場合、尤度は病変らしさを表し、病変部に特有の特徴と検出対象領域の特徴の類似の程度を表す。例えば、病変部と検出対象領域の色が類似するほど大きくなる(または小さくなる)値を求め、その値を尤度としてもよい。また、その値をさらに変換して尤度を求めてもよい。あるいは、尤度は、正常粘膜の特徴と検出対象領域の特徴の非類似の程度を表す。この場合、例えば病変部と検出対象領域の色が非類似であるほど大きくなる(または小さくなる)値を求め、その値を尤度としてもよい。また、その値をさらに変換して尤度を求めてもよい。
また、本実施形態では、第2画像側注目領域検出部は、尤度L(x,y)に基づいて、第2画像側注目領域を表示する制御を行う表示態様設定部2362を有する。具体的には、表示態様設定部2362は、尤度L(x,y)の大きさに応じて第2画像側注目領域を強調処理し、強調処理された第2画像側注目領域を表示する制御を行う。例えば、図18に示すように、表示態様設定部2362は、尤度L(x,y)が所定の閾値Lthより大きい場合に、尤度L(x,y)の大きさに応じて第2画像側注目領域内の画素の色を変更する処理を行う。
このようにすれば、尤度に基づいて第2画像側注目領域の表示制御が行われることで、第2画像側注目領域の検出が可能になる。例えば、尤度が所定の閾値より大きい画素に色を付す表示制御を行うことで、その色を付された画素群を第2画像側注目領域として検出できる。
また、本実施形態では、基準特徴量AVE、STDは、第1画像内の画素の原色画素値に関する特徴量である。
このようにすれば、原色画素値であるRGB信号をそのまま用いて基準特徴量を求めることができる。なお、本実施形態では、RGB信号を補色画素値に変換し、その補色画素値に関する基準特徴量を算出してもよい。あるいは、RGB信号を色相値Hや彩度値S、明度値Vに変換し、そのHSV信号に関する特徴量を求めてもよい。このようにすれば、正常部に対して検出対象病変部の特徴が現れやすい色空間を用いて、基準特徴量を求めることができる。
また、本実施形態では、第1画像取得部233は、第1通常光画像(第1白色光画像)及び第1特殊光画像を、第1画像として取得する。第2画像取得部235は、第2通常光画像(第2白色光画像)及び第2特殊光画像を、第2画像として取得する。
このようにすれば、通常光画像及び特殊光画像の色信号に基づく基準特徴量や尤度を求めることができる。これにより、通常光画像及び特殊光画像の双方における病変部の色が考慮された病変検出が可能になり、検出精度を向上できる。なお、本実施形態では、第1画像取得部233、第2画像取得部235が、通常光画像及び特殊光画像のいずれか一方を取得してもよい。
ここで、通常光画像(白色光画像)とは、白色の波長帯域(例えば380nm〜700nm)における情報を有した被写体像を含む画像である。また、特殊光画像とは、特定の波長帯域における情報を有した被写体像を含む画像である。図5等で上述のように、この通常光画像と特殊光画像は、照明光の分光特性や撮像素子の色フィルタの分光特性等により、白色波長帯域の被写体像と特定波長帯域の被写体像が生成され、その被写体像が撮像されることで実現される。
また、本実施形態では、上記特定の波長帯域は、白色の波長帯域(例えば380nm〜650nm)よりも狭い帯域である(NBI:Narrow Band Imaging)。例えば、通常光画像及び特殊光画像は、生体内を写した生体内画像であり、その生体内画像に含まれる特定の波長帯域は、血液中のヘモグロビンに吸収される波長の波長帯域である。例えば、このヘモグロビンに吸収される波長は、390nm〜445nm(第1の狭帯域光、狭帯域光のB2成分)、または530nm〜550nm(第2の狭帯域光、狭帯域光のG2成分)である。
これにより、生体の表層部及び、深部に位置する血管の構造を観察することが可能になる。また得られた信号を特定のチャンネル(G2→R、B2→G,B)に入力することで、扁平上皮癌等の通常光では視認が難しい病変などを褐色等で表示することができ、病変部の見落としを抑止することができる。なお、390nm〜445nmまたは530nm〜550nmとは、ヘモグロビンに吸収されるという特性及び、それぞれ生体の表層部または深部まで到達するという特性から得られた数字である。ただし、この場合の波長帯域はこれに限定されず、例えばヘモグロビンによる吸収と生体の表層部又は深部への到達に関する実験結果等の変動要因により、波長帯域の下限値が0〜10%程度減少し、上限値が0〜10%程度上昇することも考えられる。
また、本実施形態では、通常光画像および特殊光画像は生体内を写した生体内画像であり、その生体内画像に含まれる特定の波長帯域は、蛍光物質が発する蛍光の波長帯域であってもよい。例えば、特定の波長帯域は、490nm〜625nmの波長帯域であってもよい。
これにより、AFI(Auto Fluorescence Imaging)と呼ばれる蛍光観察が可能となる。この蛍光観察では、励起光(390nm〜470nm)を照射することで、コラーゲンなどの蛍光物質からの自家蛍光(intrinsic fluorescence。490nm〜625nm)を観察することができる。このような観察では病変を正常粘膜とは異なった色調で強調表示することができ、病変部の見落としを抑止すること等が可能になる。なお490nm〜625nmとは、上述の励起光を照射した際、コラーゲン等の蛍光物質が発する自家蛍光の波長帯域を示したものである。ただし、この場合の波長帯域はこれに限定されず、例えば蛍光物質が発する蛍光の波長帯域に関する実験結果等の変動要因により、波長帯域の下限値が0〜10%程度減少し、上限値が0〜10%程度上昇することも考えられる。また、ヘモグロビンに吸収される波長帯域(540nm〜560nm)を同時に照射し、擬似カラー画像を生成してもよい。
また、本実施形態では、生体内画像に含まれる特定の波長帯域は、赤外光の波長帯域であってもよい。例えば、特定の波長帯域は、790nm〜820nm、または905nm〜970nmの波長帯域であってもよい。
これにより、IRI(Infra Red Imaging)と呼ばれる赤外光観察が可能となる。この赤外光観察では、赤外光が吸収されやすい赤外指標薬剤であるICG(インドシアニングリーン)を静脈注射した上で、上記波長帯域の赤外光を照射することで、人間の目では視認が難しい粘膜深部の血管や血流情報を強調表示することができ、胃癌の深達度診断や治療方針の判定などが可能になる。なお、790nm〜820nmという数字は赤外指標薬剤の吸収がもっとも強いという特性から求められ、905nm〜970nmという数字は赤外指標薬剤の吸収がもっとも弱いという特性から求められたものである。ただし、この場合の波長帯域はこれに限定されず、例えば赤外指標薬剤の吸収に関する実験結果等の変動要因により、波長帯域の下限値が0〜10%程度減少し、上限値が0〜10%程度上昇することも考えられる。
また、本実施形態では、取得された通常光画像に基づいて、特殊光画像を生成する特殊光画像取得部を含んでもよい。例えば、図10に示す第2画像取得部235が図示しない特殊光画像取得部を含み、第2画像取得部235が通常光画像を取得し、特殊光画像取得部がその通常光画像から特殊光画像を生成してもよい。この場合、特殊光撮像素子226、A/D変換部231bは、省略される。なお、本実施形態では、第1画像取得部233が図示しない特殊光画像取得部を含んでもよい。
具体的には、特殊光画像取得部は、取得された通常光画像から、白色の波長帯域における信号を抽出する信号抽出部を含む。そして、特殊光画像取得部は、抽出された白色光の波長帯域における信号に基づいて、特定の波長帯域における信号を含む特殊光画像を生成してもよい。例えば、信号抽出部は、通常光画像のRGB信号から10nm刻みに被写体の分光反射率特性を推定し、特殊光画像取得部は、その推定された信号成分を上記特定の帯域で積算して特殊光画像を生成する。
より具体的には、特殊光画像取得部は、白色光の波長帯域における信号から、特定の波長帯域における信号を算出するためのマトリクスデータを設定するマトリクスデータ設定部を含んでもよい。そして、特殊光画像取得部は、設定されたマトリクスデータを用いて、白色の波長帯域における信号から特定の波長帯域における信号を算出して、特殊光画像を生成してもよい。例えば、マトリクスデータ設定部は、特定の波長帯域の照射光の分光特性が10nm刻みに記述されたテーブルデータをマトリクスデータとして設定する。そして、このテーブルデータに記述された分光特性(係数)を、10nm刻みに推定された被写体の分光反射率特性に乗算して積算し、特殊光画像を生成する。
これにより、通常光画像に基づいて特殊光画像を生成することができるため、通常光(白色光)を照射する1つの光源と、通常光を撮像する1つの撮像素子のみでもシステムを実現することが可能になる。そのため、カプセル型内視鏡や、スコープ型内視鏡の挿入部を小さくすることができ、また部品が少なくてすむためコストを下げる効果も期待できる。
また、本実施形態では、図10に示すように、第2内視鏡装置200は、第2画像側注目領域に関する情報(例えば尤度)が対応付けられた第2画像(第2通常光画像)を表示する表示部240を含む。具体的には、表示部240は、第2画像側注目領域に関する情報が重畳された(例えば尤度に応じた色に画素値が変換された)第2画像を表示する。
このようにすれば、第2画像側注目領域が表示部に表示されることで、注目領域の存在をユーザに対して警告できる。
7.第1内視鏡装置の第2の構成例
さて、上記実施形態では、第1内視鏡装置がカプセル型内視鏡である場合について説明したが、本実施形態では、第1内視鏡装置がスコープ型内視鏡であってもよい。すなわち、上記実施形態では、例えばカプセル型内視鏡による検査で異常所見があり、スコープ型内視鏡により再度精密検査を受ける場合を想定している。一方、本実施形態では、集団検診や人間ドックなどスコープ型内視鏡を用いた検査で要精密検査と判定され、再度スコープ型内視鏡による検査を受ける場合に適用されてもよい。
図19に、この場合の第1内視鏡装置の第2の構成例を示す。この第1内視鏡装置は、光源部310、挿入部320、第1画像処理部330、表示部340、外部I/F部350を含む。なお、第2内視鏡装置200は、上記実施形態と同様に構成できる。また、第1画像処理部330以外の構成要素は、図10に示す第2内視鏡装置200の光源部210、挿入部220、表示部240、外部I/F部250と同様に構成できる。
第1画像処理部330は、A/D変換部331a,331b、第1制御部332、第1画像取得部333、第1画像記録部334を含む。そして、A/D変換部331a,331bは、第1画像取得部333に接続されている。第1制御部332は、第1画像取得部333と、第1画像記録部334に双方向に接続されており、これらを制御する。第1画像取得部333は、第1画像記録部334に接続されている。第1画像記録部334は、第2内視鏡装置200に接続されている。
A/D変換部331a,331bには、それぞれ白色光撮像素子325、特殊光撮像素子326からのアナログ画像信号が入力される。そして、A/D変換331a,331bは、そのアナログ画像信号をデジタル画像信号に変換し、そのデジタル画像信号を第1画像取得部333に出力する。
第1画像取得部333は、入力されたデジタル画像信号に対して、例えば既知の画像処理により第1画像(第1白色光画像、第1特殊光画像)を生成し、その第1画像を第1画像記録部334に出力する。
第1画像記録部334は、入力された第1画像を1枚以上記録し、記録した第1画像を第2内視鏡装置200に出力する。例えば、第1画像記録部334は、可搬情報記録媒体を介して第1画像を第2内視鏡装置200に出力する。
8.部位別に基準特徴量を算出する場合の処理手法
上記実施形態では、複数の臓器を通過した一連の撮像画像全体から基準特徴量を算出する場合を例に説明したが、本実施形態では、臓器毎に基準特徴量を算出してもよい。
図20に、この場合の基準特徴量算出部の第2の詳細な構成例を示す。この基準特徴量算出部234は、第1画像側注目領域検出部2341と、局所領域設定部2342と、基準算出部2343と、第1部位判別部2344を含む。そして、第1画像側注目領域検出部2341は、局所領域設定部2342に接続されている。局所領域設定部2342は、基準算出部2343に接続されている。第1部位判別部2344は、基準算出部2343に接続されている。基準算出部2343は、第2画像側注目領域検出部236に接続されている。
第1部位判別部2344には、第1画像取得部233からの第1画像が入力される。第1部位判別部2344は、例えば公知の生体部位判別技術(例えば、特開2009−142552号公報)を利用して、第1画像がどの生体部位(消化管や組織の種別。例えば、胃や小腸、大腸等)を撮影したものかを判別する。第1部位判別部2344は、判別した生体部位情報(例えば、部位の種別)を基準算出部2343に出力する。
基準算出部2343は、第1画像取得部233からの第1画像と、局所領域設定部2342からの局所領域情報と、第1部位判別部2344からの生体部位情報に基づいて、生体部位毎の基準特徴量を算出する。基準算出部2343は、算出した生体部位毎の基準特徴量を、第2画像側注目領域検出部236に出力する。
なお、第1画像側注目領域検出部2341と局所領域設定部2342は、図12等に示す第1画像側注目領域検出部2341と局所領域設定部2342と同様に構成される。
図21に、第2画像側注目領域検出部236の第2の詳細な構成例を示す。この第2画像側注目領域検出部236は、尤度算出部2361と、表示態様設定部2362と、第2部位判別部2363を含む。そして、第2部位判別部2363は、尤度算出部2361に接続されている。尤度算出部2361は、表示態様設定部2362に接続されている。表示態様設定部2362は、表示部240に接続されている。
第2部位判別部2363には、第2画像取得部235からの第2画像が入力される。第2部位判別部2363は、公知の生体部位判別技術を利用して、第2画像がどの生体部位を撮影したものかを判別する。第2部位判別部2363は、判別した生体部位情報(例えば、部位の種別)を、尤度算出部2361に出力する。
尤度算出部2361は、第2画像取得部235からの第2画像と、基準特徴量算出部234からの生体部位毎の基準特徴量と、第2部位判別部2363からの生体部位情報に基づいて、第2画像の各画素の尤度を算出する。尤度算出部2361は、算出した尤度を表示態様設定部2362に出力する。
なお、表示態様設定部2362は、図17等に示す表示態様設定部2362と同様に構成される。また、基準特徴量算出部234と第2画像側注目領域検出部236以外の構成要素は、上述の実施形態と同様に構成される。
9.第1内視鏡装置が基準特徴量を算出する場合の処理手法
上記実施形態では、第2内視鏡装置200が基準特徴量を算出する場合について説明したが、本実施形態では、第1内視鏡装置100が基準特徴量を算出してもよい。
図22に、この場合の第1画像処理部180の第2の詳細な構成例を示す。この第1画像処理部180は、第1画像生成部181と、第1画像記録部182と、基準特徴量算出部183を含む。そして、第1画像生成部181は、第1画像記録部182に接続されている。第1画像記録部182は、基準特徴量算出部183に接続されている。基準特徴量算出部183は、第2画像処理部230に接続されている。
第1画像生成部181には、データ受信部170により受信されたデジタル画像信号と制御信号が入力される。第1画像生成部181は、デジタル画像信号と制御信号を画像処理して第1画像を生成し、その第1画像を第1画像記録部182に出力する。
第1画像記録部182は、第1画像記録部182からの第1画像を1枚以上記録し、記録した第1画像を基準特徴量算出部183に出力する。
基準特徴量算出部183は、第1画像記録部182からの1枚以上の第1画像から基準特徴量を算出し、その基準特徴量を第2画像処理部230に出力する。例えば、基準特徴量算出部183は、図12に示す基準特徴量算出部234と同様に構成される。
図23に、第2画像処理部の第2の詳細な構成例を示す。この第2画像処理部230は、A/D変換部231a,231bと、第2制御部232と、第2画像取得部235と、第2画像側注目領域検出部236と、基準特徴量取得部237を含む。そして、A/D変換部231a,231bは、第2画像取得部235に接続されている。第2画像取得部235は、第2画像側注目領域検出部236に接続されている。基準特徴量取得部237は、第2画像側注目領域検出部236に接続されている。第2画像側注目領域検出部236は、表示部240に接続されている。第2制御部232は、光源部210と、第2画像取得部235と、第2画像側注目領域検出部236と、表示部240と、外部I/F部250と双方向に接続されており、これらを制御する。
第2画像取得部235は、A/D変換部231a,231bから出力されるデジタル画像信号に対して画像処理を行って第2画像を生成し、その第2画像を第2画像側注目領域検出部236に出力する。
基準特徴量取得部237は、第1画像処理部180により算出された基準特徴量を取得する。
第2画像側注目領域検出部236は、第2画像取得部235からの第2画像と、基準特徴量取得部237からの基準特徴量に基づいて、第2画像側注目領域を検出する。そして、第2画像側注目領域検出部236は、第2画像側注目領域を特定色に変換して出力画像を生成し、その出力画像を表示部240に出力する。
なお、A/D変換部231a,231bは、図10に示すA/D変換部231a,231bと同様である。また、第1画像処理部180と第2画像処理部230以外の構成要素は、上述の実施形態で説明した構成要素と同様に構成される。
さて、上記実施形態では、画像処理装置(第1画像処理部180、または第2画像処理部230)を構成する各部をハードウェアで構成することとしたが、本実施形態はこれに限定されず、CPUがプログラムを実行することによってソフトウェアとして実現してもよい。この場合、画像処理装置は、例えば図33等で後述するコンピュータシステムにより実現される。
各部が行う処理の一部をソフトウェアで構成する場合の一例として、あらかじめ取得された画像に対して画像処理装置が行う処理をソフトウェアで実現する場合の処理手順を、図24〜図26に示すフローチャートを用いて説明する。例えば、あらかじめ取得された画像とは、A/D変換部が出力するベイヤ配列の出力画像を、RAWファイルとして記録媒体に記録した画像である。
図24に示すように、この処理が開始されると、基準特徴量を算出する処置を行い(ステップS1)、その基準特徴量を出力する(ステップS2)。次に、その基準特徴量を取得し(ステップS3)、第2画像を取得する(ステップS4)。次に、基準特徴量と第2画像を用いて第2画像側注目領域を検出する処理を行い(ステップS5)、出力画像を出力する(ステップS6)。処理対象の第2画像が残っている場合(ステップS7、No)、ステップS4〜S6を繰り返し、処理対象の第2画像が残っていない場合(ステップS7、Yes)、処理を終了する。
例えば、上記フローチャートのステップS1,S2は、第1画像処理部180により行われ、ステップS3〜S7は、第2画像処理部230により行われる。あるいは、第2内視鏡装置200が基準特徴量を算出する場合には、ステップS1〜S7は、第2画像処理部230により行われる。
図25に、上述の基準特徴量算出処理(ステップS1)の詳細なフローチャートを示す。この処理が開始されると、第1画像を取得し(ステップS10)、その第1画像に対応する生体部位を判別する処理を行う(ステップS11)。次に、第1画像から第1画像側注目領域を検出する処理を行い(ステップS12)、その第1画像側注目領域に局所領域を設定する処理を行う(ステップS13)。次に、各生体部位に対応する基準特徴量を算出する(ステップS14)。処理対象の第1画像が残っている場合(ステップS15、No)、ステップS10〜S14を繰り返し、処理対象の第1画像が残っていない場合(ステップS15、Yes)、処理を終了する。
図26に、上述の第2画像側注目領域検出処理(ステップS5)の詳細なフローチャートを示す。この処理が開始されると、第2画像に対応する生体部位を判別する処理を行う(ステップS20)。次に、その生体部位に対応する基準特徴量を用いて尤度を算出する処理を行い(ステップS21)、その尤度に応じた表示態様を設定し、出力画像を出力する(ステップS22)。
本実施形態によれば、画像処理装置(第1画像処理部180)は、第1画像内の画素の画素値に基づいて基準特徴量を算出する基準特徴量算出部183と、第1の撮像素子(撮像素子130)により得られた第1画像を取得する第1画像取得部(第1画像生成部181)と、を含む。そして、基準特徴量算出部183は、第1画像内の画素の画素値に基づいて、第1画像から第1画像側注目領域を検出する第1画像側注目領域検出部を有する。基準特徴量算出部183は、第1画像側注目領域内の画素の画素値に基づいて基準特徴量を算出する。
また、本実施形態では、画像処理装置(第2画像処理部230)は、第2画像を取得する第2画像取得部235と、基準特徴量を取得する基準特徴量取得部237と、基準特徴量と第2画像内の画素の画素値とに基づいて、第2画像から第2画像側注目領域を検出する第2画像側注目領域検出部236と、を含む。
このようにすれば、第1内視鏡装置100から取得した基準特徴量に基づいて病変検出を行うことができる。これにより、第2内視鏡装置200が第1画像を読み込む必要や、基準特徴量を求める必要がなくなり、処理負荷を軽減できる。
10.正常領域ついての基準特徴量を算出する場合の処理手法
上記実施形態では、第1画像側注目領域の画素値に基づいて基準特徴量を算出する場合について説明したが、本実施形態では、第1画像側正常領域(第2領域)を検出し、その第1画像側正常領域の画素値に基づいて基準特徴量を算出してもよい。
図27に、この場合の基準特徴量算出部の第3の詳細な構成例を示す。この基準特徴量算出部234は、第1画像側正常領域検出部2346(第2領域検出部)と、基準算出部2343を備えている。そして、第1画像側正常領域検出部2346は、基準算出部2343に接続されている。基準算出部2343は、第2画像側注目領域検出部236に接続されている。なお、基準特徴量算出部234と、第2画像側注目領域検出部236以外の構成要素は、図10等で上述の構成要素と同様である。
第1画像側正常領域検出部2346には、第1画像取得部233からの第1画像が入力される。第1画像側正常領域検出部2346は、第1画像から第1画像側正常領域(正常粘膜部)を検出し、その第1画像側正常領域の情報(例えば領域内の画素の座標)を基準算出部2343に出力する。
基準算出部2343は、第1画像側正常領域内の画素値f(x,y)から、下式(18)、(19)により基準特徴量AVE2,STD2を算出し、その基準特徴量AVE2,STD2を第2画像側注目領域検出部236に出力する。ここで、RSは、第1画像側正常領域を表す。
Figure 2012005512
Figure 2012005512
第2画像側注目領域検出部236は、基準特徴量AVE2,STD2と、第2画像の画素値g(x,y)から、第2画像側注目領域を検出する。具体的には、第2画像側注目領域検出部236は、上述の実施形態と同様に、尤度算出部2361と、表示態様設定部2362を含む。例えば、尤度算出部2361は、下式(20)により距離D(x,y)を算出する。距離D(x,y)は、画素値g(x,y)から、第1画像側正常領域が構成するクラスタまでの、特徴量空間における距離である。
Figure 2012005512
次に、尤度算出部2361は、下式(21)により距離D(x,y)から尤度L’(x,y)を算出する。ここで、G(D(x,y),σ)は、上式(17)に示すG(α,σ)にα=D(x,y)を代入した関数である。
Figure 2012005512
例えば、第2画像の信号数がtである場合、σには、自由度(t−1)のχ二乗分布の上側5%の値が設定される。この場合、5%の確率でα>σを満たし、1≧L’(x,y)>(1−e−0.5)を満たす。例えば、(1−e−0.5)を注目領域検出の閾値とすれば、g(x,y)がAVEから遠く、α>σを満たす画素が注目領域と判定される。
尤度算出部2361は、算出した尤度L’(x,y)を表示態様設定部2362に出力する。表示態様設定部2362は、上述の実施形態と同様に、尤度L’(x,y)に基づいて表示態様を設定する。
図28に、第1画像側正常領域検出部2346の詳細な構成例を示す。この第1画像側正常領域検出部2346は、第1画像側正常領域候補検出部23461と、第1画像側正常領域特定部23462を含む。そして、第1画像側正常領域候補検出部23461は、第1画像側正常領域特定部23462に接続される。第1画像側正常領域特定部23462は、基準算出部2343に接続される。
第1画像側正常領域候補検出部23461には、第1画像取得部233からの第1画像が入力される。第1画像側正常領域候補検出部23461は、第1画像のうちの第1画像側注目領域以外の領域を第1画像側正常領域候補として検出する。例えば、第1画像側正常領域候補検出部23461は、第1画像から第1画像側注目領域を検出し、その第1画像側注目領域を第1画像から除外した領域を、第1画像側正常領域候補に設定する。
第1画像側正常領域特定部23462は、第1画像側正常領域候補から第1画像側正常領域を特定する。これは、第1画像側正常領域候補には、第1画像側正常領域以外の領域(例えば泡領域)が含まれているためである。例えば、第1画像側正常領域特定部23462は、泡領域を検出し、その泡領域を第1画像側正常領域候補から除外した領域を第1画像側正常領域に設定する。例えば、泡領域の検出は、エッジ強度を算出し、泡画像の特徴から予め設定された泡モデルとエッジ強度の相関値を求め、その相関値から泡領域を検出する手法(特開2007−313119号公報)により行われる。
なお、上記実施形態では、第1画像側正常領域の画素値から基準特徴量を算出する場合について説明したが、本実施形態では、第1画像全体の画素値から基準特徴量を算出してもよい。この場合、基準特徴量算出部234は、下式(22)、(23)により基準特徴量AVE2,STD2を算出する。ここで、RAは、第1画像全体の領域を表す。
Figure 2012005512
Figure 2012005512
次に、画像処理装置(例えば第2画像処理部230)の各部が行う処理の一部をソフトウェアで構成する場合の一例として、画像処理装置が行う処理をソフトウェアで実現する場合の処理手順を、フローチャートを用いて説明する。
図29に、基準特徴量算出処理のフローチャートを示す。この処理が開始されると、第1画像を取得する(ステップS30)。次に、第1画像から第1画像側正常領域候補を検出する処理を行い(ステップS31)、第1画像側正常領域を特定する処理を行う(ステップS32)。次に、第1画像側正常領域内の画素値から基準特徴量を算出する(ステップS33)。処理対象の第1画像が残っている場合(ステップS34、No)、ステップS30〜S33を繰り返し、処理対象の第1画像が残っていない場合(ステップS34、Yes)、処理を終了する。なお、他の処理は、図24等で上述の処理と同様である。
上記実施形態によれば、図27に示すように、基準特徴量算出部234は、第1画像内の画素の画素値に基づいて、第1画像から第1画像側正常領域(正常粘膜部)を検出する第1画像側正常領域検出部2346を有する。そして、基準特徴量算出部234は、第1画像側正常領域内の画素の画素値f(x,y)に基づいて、基準特徴量AVE2,STD2を算出する。例えば、基準特徴量算出部234は、第1画像側正常領域内の画素の画素値f(x,y)の平均値AVE2を、基準特徴量として算出する。
このようにすれば、正常領域についての基準特徴量により患者の個人差に影響されない病変検出が可能になる。また、正常領域についての基準特徴量を用いることで、特徴量が異なる種々の病変部が混在する場合であっても、その種々の病変部を検出することが可能になる。これにより、検出精度を向上でき、医師が必要以上に注意深い観察を行う必要がなくなるため、内視鏡観察における医師の負担を軽減できる。
ここで、正常領域(第1画像側正常領域)とは、使用者にとって観察の優先順位が他の領域よりも相対的に低い領域であり、例えば、使用者が医者であり治療を希望した場合、異常粘膜部や病変部以外の正常粘膜部を写した領域を指す。また、他の例として、医者が観察したいと欲した対象が泡や便であれば、正常領域は、その泡部分や便部分以外を写した領域になる。逆に、このような優先順位が相対的に低い領域以外の領域に注目すれば、その領域は優先順位が相対的に高い領域と考えられるため、注目領域とみなすことができる。
また、上記実施形態では、第2画像側注目領域検出部236は、基準特徴量AVE2,STD2と、第2画像内の画素の画素値g(x,y)とに基づいて、第2画像側注目領域の注目度合いを表す尤度L’(x,y)を求める尤度算出部2361を有する。そして、尤度算出部2361は、画素値g(x,y)が基準特徴量AVE2,STD2から乖離しているほど、尤度L’(x,y)を大きくする。
このようにすれば、正常領域についての基準特徴量を用いて病変部を検出できる。すなわち、正常領域から乖離した特徴量を持つ画素の尤度を大きくすることで、尤度により病変らしさの度合いを表すことができる。
また、上記実施形態では、基準特徴量算出部234は、第1画像全体の画素の画素値に基づいて、正常度合いについての基準特徴量AVE2,STD2を算出してもよい。
このようにすれば、正常領域であるか否かに依らず第1画像全体から基準特徴量を算出できる。病変部の画像上の面積は、それ以外の領域の面積と比べて小さいと考えられるため、第1画像全体から算出した基準特徴量は病変部の特徴量から乖離していると考えられる。そのため、第1画像全体から基準特徴量を正常領域の特徴量とみなすことができ、病変検出に用いることができる。これにより、第1画像側正常領域検出部を省略でき、処理コストを低減できる。一方、第1画像側正常領域検出部を用いた場合には、正常領域か否かを考慮したより高精度な病変検出が可能である。
なお、上記実施形態では、第2内視鏡装置200が基準特徴量を求める場合について説明したが、本実施形態では、第1内視鏡装置100が基準特徴量を求めてもよい。すなわち、画像処理装置(第1画像処理部180)が、正常度合いについての基準特徴量AVE2,STD2を求める基準特徴量算出部234を含んでもよい。
11.分光特性に応じた補正を行う場合の処理手法
さて、カプセル型内視鏡とスコープ型内視鏡で撮像部の分光特性が異なる場合がある。この場合、同じ被写体でも各内視鏡で色味が異なって見えるため、カプセル型内視鏡の撮像画像から求めた基準特徴量をそのままスコープ型内視鏡の撮像画像に適用して病変検出すると、検出精度が低下する可能性がある。そこで、本実施形態では、内視鏡の分光特性に基づいて撮像画像の画素値を補正し、その画素値から基準特徴量を算出する。
図30に、この場合の基準特徴量算出部の第4の詳細な構成例を示す。この基準特徴量算出部234は、第1画像側注目領域検出部2341と、局所領域設定部2342と、基準算出部2343と、基準特徴量補正部2345を含む。そして、第1画像側注目領域検出部2341は、局所領域設定部2342に接続されている。局所領域設定部2342は、基準算出部2343に接続されている。基準特徴量補正部2345は、基準算出部2343に接続されている。基準算出部2343は、第2画像側注目領域検出部236に接続されている。なお、基準特徴量補正部2345以外の構成要素は、図12等で上述した各構成要素と同様である。
基準特徴量補正部2345には、第1画像取得部233からの第1画像が入力される。基準特徴量補正部2345は、第1内視鏡装置100と第2内視鏡装置200の分光特性の違いに基づいて、第1画像の画素値を補正する。具体的には、基準特徴量補正部2345は、分光推定(例えば特開2000−115553号公報の段落0054〜0065に記載の手法)を行って被写体の分光特性を推定する。そして、基準特徴量補正部2345は、あらかじめ計測された第1内視鏡装置100と第2内視鏡装置200の分光特性により第1画像の画素値を補正する。そして、基準算出部2343が、補正後の画素値から基準特徴量を算出する。
次に、第1画像の画素値を補正する手法について詳細に説明する。第1画像の画素値f(x,y)と補正後の画素値f’(x,y)は、下式(24)、(25)により表される。ここで、λは、光の波長を表し、O(λ,x,y)は、画像上の座標(x,y)における分光反射率特性を表す。また、F(λ)は、あらかじめ取得された第1内視鏡装置100の色フィルタの分光透過特性を表し、G(λ)は、あらかじめ取得された第2内視鏡装置200の色フィルタの分光透過特性を表す。
Figure 2012005512
Figure 2012005512
まず、基準特徴量補正部2345は、撮像された第1画像の画素値f(x,y)に対して分光推定を行い、f(x,y)の分光特性を求める。次に、基準特徴量補正部2345は、そのf(x,y)の分光特性と既知のF(λ)から、上式(24)により分光反射率特性O(λ,x,y)を求める。例えば、基準特徴量補正部2345は、波長380nm〜780nmまで10nm刻みに被写体の分光反射率特性O(λ)を各画素について求め、その各画素の分光反射率特性O(λ)で構成される分光画像情報を取得する。そして、その分光反射率特性O(λ,x,y)と既知のG(λ)から、上式(25)により補正後の画素値f’(x,y)に変換する。
なお、第1画像の画素値から補正後の画素値への変換は、上式(24)、(25)を用いて行ってもよく、あらかじめ作成したルックアップテーブルを用いて行ってもよい。あるいは、色補正マトリクス(CMSマトリクス)を用いて行ってもよい。
次に、画像処理装置(例えば第2画像処理部230)の各部が行う処理の一部をソフトウェアで構成する場合の一例として、画像処理装置が行う処理をソフトウェアで実現する場合の処理手順を、フローチャートを用いて説明する。
図31に、基準特徴量算出処理のフローチャートを示す。この処理が開始されると、第1画像を取得する(ステップS40)。次に、第1画像から第1画像側注目領域を検出する処理を行い(ステップS41)、その第1画像側注目領域に局所領域を設定する処理を行う(ステップS42)。次に、第1画像の画素値を補正する処理を行い(ステップS43)、その補正後の画素値から基準特徴量を算出する(ステップS44)。処理対象の第1画像が残っている場合(ステップS45、No)、ステップS40〜S44を繰り返し、処理対象の第1画像が残っていない場合(ステップS45、Yes)、処理を終了する。なお、他の処理は、図24等で上述の処理と同様である。
上記実施形態によれば、基準特徴量算出部234は、画素値補正部(基準特徴量補正部2345)を有する。画素値補正部は、第1の撮像素子(撮像素子130)が有する分光特性F(λ)と、第2の撮像素子(白色光撮像素子225、または特殊光撮像素子226)が有する分光特性G(λ)とに基づいて、第1画像内の画素の画素値f(x,y)を補正する。そして、基準特徴量算出部234は、補正された画素値f’(x,y)に基づいて基準特徴量AVE,STDを求める。ここで、分光特性F(λ),G(λ)は、異なる分光特性である。
このようにすれば、カプセル内視鏡とスコープ型内視鏡の撮像特性の違いに基づいて第1画像の画素値(特徴量)が補正され、補正された画素値から基準特徴量が算出される。これにより、内視鏡の撮像特性の違いに応じて基準特徴量を補正し、その補正された基準特徴量により病変検出を行うことができる。内視鏡の撮像特性の違いが反映されることで検出精度を向上でき、医師は必要以上に注意深い観察を行う必要がなくなり、内視鏡観察における医師の負担を軽減できる。
12.分光特性に応じた補正を行う場合の第2の処理手法
上記補正手法では、補正した第1画像の画素値から基準特徴量を算出したが、本実施形態では、第1画像の画素値を補正せずに基準特徴量を算出し、その基準特徴量を分光特性に応じて補正してもよい。
図32に、この場合の基準特徴量算出部の第5の詳細な構成例を示す。この基準特徴量算出部234は、第1画像側注目領域検出部2341と、局所領域設定部2342と、基準算出部2343と、基準特徴量補正部2345を含む。そして、第1画像側注目領域検出部2341は、局所領域設定部2342に接続されている。局所領域設定部2342は、基準算出部2343に接続されている。基準算出部2343は、基準特徴量補正部2345に接続されている。基準特徴量補正部2345は、第2画像側注目領域検出部236に接続されている。なお、基準算出部2343と基準特徴量補正部2345以外の構成要素は、図12等で上述した各構成要素と同様である。
基準算出部2343には、第1画像取得部233からの第1画像が入力される。基準算出部2343は、第1画像の画素値と、局所領域設定部2342からの局所領域に基づいて基準特徴量AVE,STDを算出し、その基準特徴量AVE,STDを基準特徴量補正部2345に出力する。
基準特徴量補正部2345は、あらかじめ取得された第1内視鏡装置100と第2内視鏡装置200の分光反射率特性に基づいて、基準特徴量AVE,STDを補正し、補正後の基準特徴量AVE’、STD’を第2画像側注目領域検出部236に出力する。具体的には、基準特徴量補正部2345は、下式(26)〜(29)により基準特徴量AVE,STDを補正する。ここで、Fは、第1内視鏡装置100の分光特性を表す行列であり、各行に各λにおける分光特性が配列され、各列に各色信号における分光特性が配列される。また、Gは、第2内視鏡装置200の分光特性を表す行列であり、各行に各λにおける分光特性が配列され、各列に各色信号における分光特性が配列される。また、FはFの一般逆行列を表す。
Figure 2012005512
Figure 2012005512
Figure 2012005512
Figure 2012005512
上記実施形態によれば、基準特徴量算出部234は、基準特徴量補正部2345を有する。基準特徴量補正部2345は、第1の撮像素子(撮像素子130)が有する分光特性F(λ)と、第2の撮像素子(白色光撮像素子225、または特殊光撮像素子226)が有する分光特性G(λ)とに基づいて、基準特徴量AVE,STDを補正する。そして、第2画像側注目領域検出部236は、補正された基準特徴量AVE’,STD’と、第2画像内の画素の画素値g(x,y)とに基づいて、第2画像側注目領域を検出する。
このようにすれば、各内視鏡装置の分光特性に基づいて基準特徴量を直接補正できる。これにより、第1画像の全画素を分光推定して画素値を補正する必要がなくなり、処理負荷を軽減できる。
13.ソフトウェア
上記実施形態では、画像処理装置(第1画像処理部180、または第2画像処理部230)を構成する各部をハードウェアで構成することとしたが、これに限定されるものではない。例えば、カプセル内視鏡などの撮像装置を用いて予め取得された画像に対して、CPUが各部の処理を行う構成とし、CPUがプログラムを実行することによってソフトウェアとして実現することとしてもよい。あるいは、各部が行う処理の一部をソフトウェアで構成することとしてもよい。
撮像部を別体とし、画像処理装置の各部が行う処理をソフトウェアとして実現する場合には、ワークステーションやパソコン等の公知のコンピュータシステムを画像処理装置として用いることができる。そして、画像処理装置の各部が行う処理を実現するためのプログラム(画像処理プログラム)を予め用意し、この画像処理プログラムをコンピュータシステムのCPUが実行することによって実現できる。
図33は、本変形例におけるコンピュータシステム600の構成を示すシステム構成図であり、図34は、このコンピュータシステム600における本体部610の構成を示すブロック図である。図33に示すように、コンピュータシステム600は、本体部610と、本体部610からの指示によって表示画面621に画像等の情報を表示するためのディスプレイ620と、このコンピュータシステム600に種々の情報を入力するためのキーボード630と、ディスプレイ620の表示画面621上の任意の位置を指定するためのマウス640とを備える。
また、このコンピュータシステム600における本体部610は、図34に示すように、CPU611と、RAM612と、ROM613と、ハードディスクドライブ(HDD)614と、CD−ROM660を受け入れるCD−ROMドライブ615と、USBメモリ670を着脱可能に接続するUSBポート616と、ディスプレイ620、キーボード630およびマウス640を接続するI/Oインターフェース617と、ローカルエリアネットワークまたは広域エリアネットワーク(LAN/WAN)N1に接続するためのLANインターフェース618を備える。
さらに、このコンピュータシステム600には、インターネット等の公衆回線N3に接続するためのモデム650が接続されるとともに、LANインターフェース618およびローカルエリアネットワークまたは広域エリアネットワークN1を介して、他のコンピュータシステムであるパソコン(PC)681、サーバ682、プリンタ683等が接続される。
そして、このコンピュータシステム600は、所定の記録媒体に記録された画像処理プログラム(例えば図24〜図26)を参照して、後述する処理手順を実現するための画像処理プログラムを読み出して実行することで画像処理装置を実現する。ここで、所定の記録媒体とは、CD−ROM660やUSBメモリ670の他、MOディスクやDVDディスク、フレキシブルディスク(FD)、光磁気ディスク、ICカード等を含む「可搬用の物理媒体」、コンピュータシステム600の内外に備えられるHDD614やRAM612、ROM613等の「固定用の物理媒体」、モデム650を介して接続される公衆回線N3や、他のコンピュータシステム(PC)681またはサーバ682が接続されるローカルエリアネットワークまたは広域エリアネットワークN1等のように、プログラムの送信に際して短期にプログラムを記憶する「通信媒体」等、コンピュータシステム600によって読み取り可能な画像処理プログラムを記録するあらゆる記録媒体を含む。
すなわち、画像処理プログラムは、「可搬用の物理媒体」「固定用の物理媒体」「通信媒体」等の記録媒体にコンピュータ読み取り可能に記録されるものであり、コンピュータシステム600は、このような記録媒体から画像処理プログラムを読み出して実行することで画像処理装置を実現する。なお、画像処理プログラムは、コンピュータシステム600によって実行されることに限定されるものではなく、他のコンピュータシステム(PC)681またはサーバ682が画像処理プログラムを実行する場合や、これらが協働して画像処理プログラムを実行するような場合にも、本発明を同様に適用することができる。
このような本実施形態の画像処理プログラムによれば、例えばカプセル型内視鏡などのように、まず画像データを蓄積し、その後、蓄積された画像データに対してPC等のコンピュータシステムでソフトウェア的に処理を行うことが可能になる。
また本実施形態は、本実施形態の各部(第1画像取得部、基準特徴量算出部、第2画像取得部、第2画像側注目領域検出部等)を実現するプログラムコードが記録されたコンピュータプログラムプロダクトにも適用できる。
またコンピュータプログラムプロダクトは、例えば、プログラムコードが記録された情報記憶媒体(DVD等の光ディスク媒体、ハードディスク媒体、メモリ媒体等)、プログラムコードが記録されたコンピュータ、プログラムコードが記録されたインターネットシステム(例えば、サーバとクライアント端末を含むシステム)など、プログラムコードが組み込まれた情報記憶媒体、装置、機器或いはシステム等である。この場合に、本実施形態の各構成要素や各処理プロセスは各モジュールにより実装され、これらの実装されたモジュールにより構成されるプログラムコードは、コンピュータプログラムプロダクトに記録される。
以上、本発明を適用した実施形態およびその変形例について説明したが、本発明は、各実施形態やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施形態や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
また、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語(第1内視鏡装置、第2内視鏡装置、通常光画像等)と共に記載された用語(カプセル型内視鏡、スコープ型内視鏡、白色光画像等)は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。
100 第1内視鏡装置、110 光源部、111 白色光発光素子、
112 特殊光発光素子、120 対物レンズ、130 撮像素子、
140 第1制御部、150 A/D変換部、160 送信アンテナ、
170 データ受信部、171 受信アンテナ、172 データ記録部、
173 データ伝送部、180 第1画像処理部、181 第1画像生成部、
182 第1画像記録部、183 基準特徴量算出部、
200 第2内視鏡装置、210 光源部、211 白色光源、212 集光レンズ、
220 挿入部、221 ライトガイドファイバ、222 照明レンズ、
223 対物レンズ、224 ハーフミラー、225 白色光撮像素子、
226 特殊光撮像素子、230 第2画像処理部
231a,231b A/D変換部、232 第2制御部、233 第1画像取得部、
234 基準特徴量算出部、235 第2画像取得部、
236 第2画像側注目領域検出部、237 基準特徴量取得部、240 表示部、
250 外部I/F部、
310 光源部、311 白色光源、312 集光レンズ、320 挿入部、
321 ライトガイドファイバ、322 照明レンズ、323 対物レンズ、
324 ハーフミラー、325 白色光撮像素子、326 特殊光撮像素子、
330 第1画像処理部、331a,331b A/D変換部、332 第1制御部、
333 第1画像取得部、334 第1画像記録部、340 表示部、
350 外部I/F部、
600 コンピュータシステム、610 本体部、611 CPU、612 RAM、
613 ROM、614 HDD、615 CD−ROMドライブ、
616 USBポート、617 I/Oインターフェース、
618 LANインターフェース、620 ディスプレイ、621 表示画面、
630 キーボード、640 マウス、650 モデム、660 CD−ROM、
670 USBメモリ、681 PC、682 サーバ、683 プリンタ、
2341 第1画像側注目領域検出部、2342 局所領域設定部、
2343 基準算出部、2344 第1部位判別部、2345 基準特徴量補正部、
2346 第1画像側正常領域検出部、2351 白色光画像生成部、
2352 特殊光画像生成部、2353 白色光画像記録部、
2354 特殊光画像記録部、2361 尤度算出部、2362 表示様態設定部、
2363 第2部位判別部、23461 画像側正常領域候補検出部、
23462 画像側正常領域特定部、
局所領域、AREA(C) 局所領域の面積、
W(AREA(C)) 重み付け係数、AVE,STD 局所領域の特徴量、
AVE,STD,AVE2,STD2 基準特徴量、L(x,y) 尤度、
σ 標準偏差、Lth 尤度の閾値、Th1〜Th3 面積の閾値、
r,g,b,m,g2,b2 色フィルタ、t 信号数、
f(x,y) 第1画像の画素値、F(λ,x,y) 第1内視鏡装置の分光特性、
g(x,y) 第2画像の画素値、G(λ,x,y) 第2内視鏡装置の分光特性、
O(λ,x,y) 被写体の分光反射率特性、λ 光の波長、
R,G,B カラー信号、H 色相、S 彩度値、V 明度、
N1 広域エリアネットワーク、N3 公衆回線

Claims (50)

  1. 第1の撮像素子により得られた第1画像を取得する第1画像取得部と、
    第2の撮像素子により得られた第2画像を取得する第2画像取得部と、
    前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する基準特徴量算出部と、
    前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出する第2画像側注目領域検出部と、
    を含むことを特徴とする画像処理装置。
  2. 請求項1において、
    前記基準特徴量算出部は、
    前記第1画像内の画素の画素値に基づいて、前記第1画像から第1画像側注目領域を検出する第1画像側注目領域検出部を有し、
    前記基準特徴量算出部は、
    前記第1画像側注目領域内の画素の画素値に基づいて、前記基準特徴量を算出することを特徴とする画像処理装置。
  3. 請求項2において、
    前記基準特徴量算出部は、
    前記第1画像側注目領域内の画素の画素値の平均値を、前記基準特徴量として算出することを特徴とする画像処理装置。
  4. 請求項2において、
    前記第1画像取得部は、
    複数の第1画像を取得し、
    前記基準特徴量算出部は、
    前記複数の第1画像から検出された前記第1画像側注目領域内の画素の画素値に基づいて、前記基準特徴量を算出することを特徴とする画像処理装置。
  5. 請求項2において、
    前記基準特徴量算出部は、
    前記第1画像側注目領域に対して複数の局所領域を設定する局所領域設定部を有し、
    前記基準特徴量算出部は、
    各局所領域内の画素の画素値に基づいて前記各局所領域における特徴量を求め、前記各局所領域における特徴量に基づいて前記基準特徴量を求めることを特徴とする画像処理装置。
  6. 請求項5において、
    前記基準特徴量算出部は、
    前記各局所領域内の画素の画素値の平均値を前記各局所領域における特徴量として求め、前記複数の局所領域の前記特徴量を重み付け加算して前記基準特徴量を求めることを特徴とする画像処理装置。
  7. 請求項6において、
    前記基準特徴量算出部は、
    前記各局所領域の面積に応じた重み付け係数により前記重み付け加算を行うことを特徴とする画像処理装置。
  8. 請求項5において、
    前記局所領域設定部は、
    前記第1画像側注目領域に含まれる画素のうち隣接する画素群を局所領域として設定することを特徴とする画像処理装置。
  9. 請求項1において、
    前記第2画像側注目領域検出部は、
    前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像側注目領域の注目度合いを表す尤度を求める尤度算出部を有することを特徴とする画像処理装置。
  10. 請求項2において、
    前記第2画像側注目領域検出部は、
    前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像側注目領域の注目度合いを表す尤度を求める尤度算出部を有し、
    前記尤度算出部は、
    前記第2画像内の画素の画素値が前記基準特徴量に近いほど、前記画素に対応する前記尤度を大きくすることを特徴とする画像処理装置。
  11. 請求項9において、
    前記第2画像側注目領域検出部は、
    前記尤度に基づいて、前記第2画像側注目領域を表示する制御を行う表示態様設定部を有することを特徴とする画像処理装置。
  12. 請求項11において、
    前記表示態様設定部は、
    前記尤度の大きさに応じて前記第2画像側注目領域を強調処理し、強調処理された前記第2画像側注目領域を表示する制御を行うことを特徴とする画像処理装置。
  13. 請求項12において、
    前記表示態様設定部は、
    前記尤度が所定の閾値より大きい場合に、前記尤度の大きさに応じて前記第2画像側注目領域内の画素の色を変更する処理を、前記強調処理として行うことを特徴とする画像処理装置。
  14. 請求項1において、
    前記基準特徴量算出部は、
    前記第1画像内の画素の画素値に基づいて、前記第1画像から第1画像側正常領域を検出する第1画像側正常領域検出部を有し、
    前記基準特徴量算出部は、
    前記第1画像側正常領域内の画素の画素値に基づいて、前記基準特徴量を算出することを特徴とする画像処理装置。
  15. 請求項14において、
    前記第2画像側注目領域検出部は、
    前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像側注目領域の注目度合いを表す尤度を求める尤度算出部を有し、
    前記尤度算出部は、
    前記第2画像内の画素の画素値が前記基準特徴量から乖離しているほど、前記画素に対応する前記尤度を大きくすることを特徴とする画像処理装置。
  16. 請求項14において、
    前記基準特徴量算出部は、
    前記第1画像側正常領域内の画素の画素値の平均値を、前記基準特徴量として算出することを特徴とする画像処理装置。
  17. 請求項1において、
    前記基準特徴量算出部は、
    前記第1画像全体の画素の画素値に基づいて、正常度合いについての前記基準特徴量を算出することを特徴とする画像処理装置。
  18. 請求項17において、
    前記第2画像側注目領域検出部は、
    前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像側注目領域の注目度合いを表す尤度を求める尤度算出部を有し、
    前記尤度算出部は、
    前記第2画像内の画素の画素値が前記基準特徴量から乖離しているほど、前記画素に対応する前記尤度を大きくすることを特徴とする画像処理装置。
  19. 請求項17において、
    前記基準特徴量算出部は、
    前記第1画像全体の画素の画素値の平均値を、前記基準特徴量として算出することを特徴とする画像処理装置。
  20. 請求項1において、
    前記基準特徴量算出部は、
    前記第1の撮像素子が有する分光特性と、前記第2の撮像素子が有する分光特性とに基づいて、前記第1画像内の画素の画素値を補正する画素値補正部を有し、
    前記基準特徴量算出部は、
    前記補正された画素値に基づいて前記基準特徴量を求めることを特徴とする画像処理装置。
  21. 請求項20において、
    前記補正に用いられる前記第1の撮像素子が有する分光特性と前記第2の撮像素子が有する分光特性は、異なる分光特性であることを特徴とする画像処理装置。
  22. 請求項1において、
    前記基準特徴量算出部は、
    前記第1の撮像素子が有する分光特性と、前記第2の撮像素子が有する分光特性とに基づいて、前記基準特徴量を補正する基準特徴量補正部を有し、
    前記第2画像側注目領域検出部は、
    前記補正された基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像側注目領域を検出することを特徴とする画像処理装置。
  23. 請求項1において、
    前記第1の撮像素子は、
    カプセル型内視鏡装置に含まれる撮像素子であり、
    前記第2の撮像素子は、
    スコープ型内視鏡装置に含まれる撮像素子であることを特徴とする画像処理装置。
  24. 請求項1において、
    前記基準特徴量は、
    前記第1画像内の画素の原色画素値または補色画素値に関する特徴量であることを特徴とする画像処理装置。
  25. 請求項1において、
    前記基準特徴量は、
    前記第1画像内の画素の色相値または彩度値または明度値に関する特徴量であることを特徴とする画像処理装置。
  26. 請求項1において、
    前記第2画像側注目領域は、
    病変部を表す領域であることを特徴とする画像処理装置。
  27. 請求項2において、
    前記第1画像側注目領域は、
    病変部を表す領域であることを特徴とする画像処理装置。
  28. 請求項14において、
    前記第1画像側正常領域は、
    正常粘膜部を表す領域であることを特徴とする画像処理装置。
  29. 請求項1において、
    前記第1画像取得部は、
    白色の波長帯域における情報を有した被写体像を含む通常光画像である第1通常光画像及び、前記第1通常光画像に対応する、特定の波長帯域における情報を有した被写体像を含む特殊光画像である第1特殊光画像の少なくとも一方の画像を、前記第1画像として取得し、
    前記第2画像取得部は、
    前記通常光画像である第2通常光画像及び、前記第2通常光画像に対応する、前記特殊光画像である第2特殊光画像の少なくとも一方の画像を、前記第2画像として取得することを特徴とする画像処理装置。
  30. 請求項29において、
    前記第1画像取得部は、
    前記第1通常光画像及び前記第1特殊光画像を、前記第1画像として取得し、
    前記第2画像取得部は、
    前記第2通常光画像及び前記第2特殊光画像を、前記第2画像として取得することを特徴とする画像処理装置。
  31. 請求項29において、
    前記特定の波長帯域は、
    前記白色の波長帯域よりも狭い帯域であることを特徴とする画像処理装置。
  32. 請求項31において、
    前記通常光画像および前記特殊光画像は生体内を写した生体内画像であり、
    前記生体内画像に含まれる前記特定の波長帯域は、血液中のヘモグロビンに吸収される波長の波長帯域であることを特徴とする画像処理装置。
  33. 請求項32において、
    前記特定の波長帯域は、390nm〜445nm、または530nm〜550nmであることを特徴とする画像処理装置。
  34. 請求項29において、
    前記通常光画像および前記特殊光画像は生体内を写した生体内画像であり、
    前記生体内画像に含まれる前記特定の波長帯域は、蛍光物質が発する蛍光の波長帯域であることを特徴とする画像処理装置。
  35. 請求項34において、
    前記特定の波長帯域は、490nm〜625nmの波長帯域であることを特徴とする画像処理装置。
  36. 請求項29において、
    前記通常光画像および前記特殊光画像は生体内を写した生体内画像であり、
    前記生体内画像に含まれる前記特定の波長帯域は、赤外光の波長帯域であることを特徴とする画像処理装置。
  37. 請求項36において、
    前記特定の波長帯域は、790nm〜820nm、または905nm〜970nmの波長帯域であることを特徴とする画像処理装置。
  38. 請求項29において、
    前記第2画像取得部は、
    前記通常光画像に基づいて、前記特殊光画像を取得する特殊光画像取得部を有することを特徴とする画像処理装置。
  39. 請求項38において、
    前記特殊光画像取得部は、
    取得された前記通常光画像から、前記白色の波長帯域における信号を抽出する信号抽出部を有し、
    前記特殊光画像取得部は、
    抽出された前記白色の波長帯域における信号に基づいて、前記特定の波長帯域における信号を含む前記特殊光画像を生成することを特徴とする画像処理装置。
  40. 請求項39において、
    前記特殊光画像取得部は、
    前記白色の波長帯域における信号から、前記特定の波長帯域における信号を算出するためのマトリクスデータを設定するマトリクスデータ設定部を有し、
    前記特殊光画像取得部は、
    設定された前記マトリクスデータを用いて、前記白色の波長帯域における信号から前記特定の波長帯域における信号を算出して、前記特殊光画像を生成することを特徴とする画像処理装置。
  41. 第1内視鏡装置により得られた第1画像を取得する第1画像取得部と、
    第2内視鏡装置により得られた第2画像を取得する第2画像取得部と、
    前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する基準特徴量算出部と、
    前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出する第2画像側注目領域検出部と、
    を含むことを特徴とする画像処理装置。
  42. 請求項1乃至41のいずれかに記載の画像処理装置を含むことを特徴とする内視鏡装置。
  43. 請求項42において、
    前記第2画像側注目領域に関する情報が対応付けられた前記第2画像を表示する表示部を含むことを特徴とする内視鏡装置。
  44. 請求項43において、
    前記表示部は、
    前記第2画像側注目領域に関する情報が重畳された前記第2画像を表示することを特徴とする内視鏡装置。
  45. 第1内視鏡装置と第2内視鏡装置を含む内視鏡システムであって、
    第1の撮像素子により得られた第1画像を取得する第1画像取得部と、
    第2の撮像素子により得られた第2画像を取得する第2画像取得部と、
    前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する基準特徴量算出部と、
    前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出する第2画像側注目領域検出部と、
    を含むことを特徴とする内視鏡システム。
  46. 第1の撮像素子により得られた第1画像を取得する第1画像取得部と、
    第2の撮像素子により得られた第2画像を取得する第2画像取得部と、
    前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する基準特徴量算出部と、
    前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出する第2画像側注目領域検出部として、
    コンピュータを機能させることを特徴とするプログラム。
  47. 第1の撮像素子により得られた第1画像を取得し、
    第2の撮像素子により得られた第2画像を取得し、
    前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出し、
    前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出することを特徴とする画像処理方法。
  48. 第2の撮像素子により得られた第2画像を取得する第2画像取得部と、
    第1の撮像素子により得られた第1画像内の画素の画素値に基づいて算出された、第2画像側注目領域の検出基準となる基準特徴量を取得する基準特徴量取得部と、
    前記基準特徴量と、前記第2画像内の画素の画素値とに基づいて、前記第2画像から前記第2画像側注目領域を検出する第2画像側注目領域検出部と、
    を含むことを特徴とする画像処理装置。
  49. 第1の撮像素子により得られた第1画像を取得する第1画像取得部と、
    前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する基準特徴量算出部と、
    を含み、
    前記基準特徴量算出部は、
    前記第1画像内の画素の画素値に基づいて、前記第1画像から第1画像側注目領域を検出する第1画像側注目領域検出部を有し、
    前記基準特徴量算出部は、
    前記第1画像側注目領域内の画素の画素値に基づいて、前記基準特徴量を算出することを特徴とする画像処理装置。
  50. 第1の撮像素子により得られた第1画像を取得する第1画像取得部と、
    前記第1画像内の画素の画素値に基づいて、第2画像側注目領域の検出基準となる基準特徴量を算出する基準特徴量算出部と、
    を含み、
    前記基準特徴量算出部は、
    前記第1画像内の画素の画素値に基づいて、前記第1画像から第1画像側正常領域を検出する第1画像側正常領域検出部を有し、
    前記基準特徴量算出部は、
    前記第1画像側正常領域内の画素の画素値に基づいて、前記基準特徴量を算出することを特徴とする画像処理装置。
JP2010141360A 2010-06-22 2010-06-22 画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法 Withdrawn JP2012005512A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010141360A JP2012005512A (ja) 2010-06-22 2010-06-22 画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010141360A JP2012005512A (ja) 2010-06-22 2010-06-22 画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法

Publications (1)

Publication Number Publication Date
JP2012005512A true JP2012005512A (ja) 2012-01-12

Family

ID=45536785

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010141360A Withdrawn JP2012005512A (ja) 2010-06-22 2010-06-22 画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法

Country Status (1)

Country Link
JP (1) JP2012005512A (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015093114A1 (ja) * 2013-12-20 2015-06-25 オリンパス株式会社 内視鏡装置
WO2015170515A1 (ja) * 2014-05-09 2015-11-12 オリンパス株式会社 固体撮像素子、内視鏡および内視鏡システム
WO2015186397A1 (ja) * 2014-06-05 2015-12-10 オリンパスメディカルシステムズ株式会社 処理装置、内視鏡システム、内視鏡装置、画像処理方法および画像処理プログラム
WO2016203572A1 (ja) * 2015-06-17 2016-12-22 オリンパス株式会社 撮像装置
JP2019537180A (ja) * 2016-11-22 2019-12-19 ユニバーシダッド デ ラス パルマス デ グラン カナリア 腫瘍および/または健常組織の非侵襲的検出方法およびハイパースペクトルイメージング装置
JP2019216948A (ja) * 2018-06-19 2019-12-26 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラム
JP2020532347A (ja) * 2017-09-06 2020-11-12 ヴェリリー ライフ サイエンシズ エルエルシー 外科用認識システム
CN112584741A (zh) * 2018-08-20 2021-03-30 富士胶片株式会社 医疗图像处理***
CN113498323A (zh) * 2019-02-26 2021-10-12 富士胶片株式会社 医用图像处理装置、处理器装置、内窥镜***、医用图像处理方法、及程序
US11298012B2 (en) 2017-12-26 2022-04-12 Fujifilm Corporation Image processing device, endoscope system, image processing method, and program
WO2023281607A1 (ja) * 2021-07-05 2023-01-12 オリンパスメディカルシステムズ株式会社 内視鏡プロセッサ、内視鏡装置、および診断用画像生成方法
JP7461221B2 (ja) 2020-05-25 2024-04-03 富士フイルムヘルスケア株式会社 医用画像処理装置、および、医用撮像装置

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015093114A1 (ja) * 2013-12-20 2015-06-25 オリンパス株式会社 内視鏡装置
JP2015119765A (ja) * 2013-12-20 2015-07-02 オリンパス株式会社 内視鏡装置
CN105828692A (zh) * 2013-12-20 2016-08-03 奥林巴斯株式会社 内窥镜装置
CN105828692B (zh) * 2013-12-20 2018-01-23 奥林巴斯株式会社 内窥镜装置
US10264948B2 (en) 2013-12-20 2019-04-23 Olympus Corporation Endoscope device
WO2015170515A1 (ja) * 2014-05-09 2015-11-12 オリンパス株式会社 固体撮像素子、内視鏡および内視鏡システム
JP5881916B1 (ja) * 2014-05-09 2016-03-09 オリンパス株式会社 固体撮像素子、内視鏡および内視鏡システム
US9517002B2 (en) 2014-05-09 2016-12-13 Olympus Corporation Solid state image sensor, endoscope, and endoscope system
WO2015186397A1 (ja) * 2014-06-05 2015-12-10 オリンパスメディカルシステムズ株式会社 処理装置、内視鏡システム、内視鏡装置、画像処理方法および画像処理プログラム
JP5981052B2 (ja) * 2014-06-05 2016-08-31 オリンパス株式会社 処理装置、内視鏡システム、内視鏡装置、画像処理装置の作動方法および画像処理プログラム
US10535134B2 (en) 2014-06-05 2020-01-14 Olympus Corporation Processing apparatus, endoscope system, endoscope apparatus, method for operating image processing apparatus, and computer-readable recording medium
CN106455942A (zh) * 2014-06-05 2017-02-22 奥林巴斯株式会社 处理装置、内窥镜***、内窥镜装置、图像处理方法以及图像处理程序
JPWO2016203572A1 (ja) * 2015-06-17 2018-04-05 オリンパス株式会社 撮像装置
CN107708518A (zh) * 2015-06-17 2018-02-16 奥林巴斯株式会社 摄像装置
WO2016203572A1 (ja) * 2015-06-17 2016-12-22 オリンパス株式会社 撮像装置
JP2019537180A (ja) * 2016-11-22 2019-12-19 ユニバーシダッド デ ラス パルマス デ グラン カナリア 腫瘍および/または健常組織の非侵襲的検出方法およびハイパースペクトルイメージング装置
US10964018B2 (en) 2016-11-22 2021-03-30 Universidad De Las Palmas De Gran Canaria Method of non-invasive detection of tumour and/or healthy tissue and hyperspectral imaging apparatus
JP2020532347A (ja) * 2017-09-06 2020-11-12 ヴェリリー ライフ サイエンシズ エルエルシー 外科用認識システム
US11298012B2 (en) 2017-12-26 2022-04-12 Fujifilm Corporation Image processing device, endoscope system, image processing method, and program
JP2019216948A (ja) * 2018-06-19 2019-12-26 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラム
JP7100505B2 (ja) 2018-06-19 2022-07-13 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラム
CN112584741A (zh) * 2018-08-20 2021-03-30 富士胶片株式会社 医疗图像处理***
CN113498323A (zh) * 2019-02-26 2021-10-12 富士胶片株式会社 医用图像处理装置、处理器装置、内窥镜***、医用图像处理方法、及程序
JP7461221B2 (ja) 2020-05-25 2024-04-03 富士フイルムヘルスケア株式会社 医用画像処理装置、および、医用撮像装置
WO2023281607A1 (ja) * 2021-07-05 2023-01-12 オリンパスメディカルシステムズ株式会社 内視鏡プロセッサ、内視鏡装置、および診断用画像生成方法

Similar Documents

Publication Publication Date Title
JP2012005512A (ja) 画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法
JP5541914B2 (ja) 画像処理装置、電子機器、プログラム及び内視鏡装置の作動方法
JP5591570B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5580637B2 (ja) 画像処理装置、内視鏡装置の作動方法及びプログラム
JP5658873B2 (ja) 画像処理装置、電子機器、内視鏡システム及びプログラム
JP5802364B2 (ja) 画像処理装置、電子機器、内視鏡システム及びプログラム
JP2011255006A (ja) 画像処理装置、内視鏡装置、プログラム及び画像処理方法
JP2011156203A (ja) 画像処理装置、内視鏡システム、プログラム及び画像処理方法
WO2016079831A1 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび内視鏡装置
JP2011218090A (ja) 画像処理装置、内視鏡システム及びプログラム
JP2011200283A (ja) 制御装置、内視鏡システム、プログラム及び制御方法
JP7326308B2 (ja) 医療画像処理装置及び医療画像処理装置の作動方法、内視鏡システム、プロセッサ装置、診断支援装置並びにプログラム
JP7289373B2 (ja) 医療画像処理装置、内視鏡システム、診断支援方法及びプログラム
JPWO2017057572A1 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
US20090242797A1 (en) System and method for multi-mode optical imaging
WO2020170809A1 (ja) 医療画像処理装置、内視鏡システム、及び医療画像処理方法
JP7350954B2 (ja) 内視鏡画像処理装置、内視鏡システム、内視鏡画像処理装置の作動方法、内視鏡画像処理プログラム及び記憶媒体
JP2001037718A (ja) 画像診断装置及び内視鏡装置
WO2020184257A1 (ja) 医用画像処理装置及び方法
US20230237659A1 (en) Image processing apparatus, endoscope system, operation method of image processing apparatus, and non-transitory computer readable medium
JP7387859B2 (ja) 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法及びプログラム
JP5940604B2 (ja) 画像処理装置、画像処理装置の作動方法及びプログラム
US20220117474A1 (en) Image processing apparatus, endoscope system, and operation method of image processing apparatus
JP7257544B2 (ja) 情報表示システムおよび情報表示方法
JP2003220019A (ja) 画像診断装置及び内視鏡装置

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20130903