JP4652694B2 - 画像処理方法 - Google Patents

画像処理方法 Download PDF

Info

Publication number
JP4652694B2
JP4652694B2 JP2004003504A JP2004003504A JP4652694B2 JP 4652694 B2 JP4652694 B2 JP 4652694B2 JP 2004003504 A JP2004003504 A JP 2004003504A JP 2004003504 A JP2004003504 A JP 2004003504A JP 4652694 B2 JP4652694 B2 JP 4652694B2
Authority
JP
Japan
Prior art keywords
image
processing method
image processing
contour
capsule endoscope
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004003504A
Other languages
English (en)
Other versions
JP2005192880A (ja
Inventor
博一 西村
潤 長谷川
秀樹 田中
涼子 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2004003504A priority Critical patent/JP4652694B2/ja
Priority to RU2006126081/09A priority patent/RU2006126081A/ru
Publication of JP2005192880A publication Critical patent/JP2005192880A/ja
Application granted granted Critical
Publication of JP4652694B2 publication Critical patent/JP4652694B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Endoscopes (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)

Description

本発明は、内視鏡装置により撮像した体腔内の内視鏡画像から色調、形状輪郭、粘膜表面の構造変化、及び血管走行形態変化などの病変候補領域の存在画像を検出する画像処理方法に関する。
医療分野においては、X線、CT、MRI、超音波観測装置、内視鏡装置等の画像撮像機能を有する医療機器を用いた体腔内臓器の観察及び診断が広く行われている。このような画像撮像機能を有する医療機器において、例えば、内視鏡装置は、細長の挿入部を体腔内に挿入し、その挿入部の先端部に設けられた対物光学系により取り込んだ体腔内臓器像を固体撮像素子等の撮像手段により撮像し、その撮像信号を基にモニタ画面に体腔内臓器の内視鏡画像を表示させ、そのモニタ画面に表示された内視鏡画像から術者が観察及び診断を行っている。
この内視鏡装置は、消化管粘膜像を直接的に撮像することが可能であることから、粘膜の色調、病変形状、粘膜表面の微細な構造等の様々な所見を総合的に観察することが可能となっている。
近年、この内視鏡装置と同様に有用性が期待できる新しい画像撮像機能を有する医療機器として、カプセル型内視鏡装置が開発されている。一般に、カプセル型内視鏡装置は、被検者が口から飲み込み体内の消化管内を進行させる過程中に消化管内を撮像し、その撮像された撮像信号を体外に送信するカプセル型内視鏡と、送信された撮像信号を体外において受信し、その受信した撮像信号を記録蓄積する受信器と、この受信器に記録蓄積された撮像信号を基にモニタに撮像画像を表示させる観察装置とから構成されている。このような構成のカプセル型内視鏡装置は、本件出願人が出願している特許願2003−122804号に示されている。
前記カプセル型内視鏡装置は、被検者がカプセル型内視鏡を経口的に飲み込んでから体外に排出されるまでの間、体腔内を撮像し、その撮像した撮像信号を体外に設けられた受信器に送信される。このカプセル型内視鏡を被検者が飲み込んでから体腔内の食道、胃、十二指腸、小腸、及び大腸の各消化管を通過して体外に排出されるまで数時間を要する。例えば、カプセル型内視鏡は、毎秒2枚(フレーム)の画像を撮像して体外の受信器に送信するとし、このカプセル型内視鏡を飲み込んでから体外に排出するまで6時間かかったとすると、カプセル型内視鏡が体腔内を進行する間に撮像される画像数は、43200枚と膨大な量となる。この膨大な数の画像を観察装置に表示して、観察及び診断する場合、例えば、毎秒10枚の画像を表示したとしても全画像数を表示するには72分間と比較的長時間要する。この長時間にわたり表示される撮像画像を術者が観察することになるが、術者にとって時間的負荷が多大であるという問題があった。
また、単位時間あたりに表示する画像数を増加させると観察時間は短縮されるが、病変部の見落とし防止と、正確な観察診断の実現という点から単位時間当たりの表示画像数には限界があり、術者による観察時間の短縮は困難となる問題があった。
このような問題に対して、あらかじめ病変が疑われるシーンを特定し、記録もしくは表示する画像数を変化させるカプセル型内視鏡装置が特許文献1に開示されている。この特許文献1に開示されているカプセル型内視鏡装置は、各撮像画像における色情報から、主として血液の存在を検出し、その血流の存在する画像を病変が存在する候補画像とするものである。
PCT WO 02/073507号公報。
前記特許文献1に開示されている、病変が存在する候補画像の決定方法には、次のような課題がある。第1の課題は、特許文献1においては、あらかじめ正常粘膜及び血液の各色調の代表色を定め、対象となる画像の各ブロックの粘膜及び血液の色調と比較する方法である。この方法は、臓器毎の正常粘膜の色調の違い、あるいは粘膜色の個人差による違い等が考慮されておらず、色調変化に基づく病変候補領域の検出は不十分となる。
第2の課題は、明確な色調変化をともなわない、例えば、同じ色調の腫瘍性病変等についてはまったく検出することができない。消化管の病変部の内視鏡画像による所見は、色調変化のみに基づくものではなく、***・陥凹等の形状、胃・大腸の小区模様等の粘膜表面の微細な構造変化、及び透見血管像における血管の走行形態の変化等、非常に多岐にわたるものである。
本発明は、このような事情に鑑みてなされたもので、色調、形状の輪郭、粘膜表面の微細な構造変化、及び血管の走行形態の変化等の多岐に渡る内視鏡画像の所見に基づき、病変候補領域の存在する画像を検出することができる画像処理方法を提供することを目的としている。
本発明の画像処理方法は、医療機器によって画像を検出する画像処理方法であって、前記医療機器が、体腔内を撮像した複数の色信号からなる複数の画像を順次入力するステップと、前記医療機器が、前記入力された各画像の各領域毎に色調に基づく特徴量を算出するステップと、前記医療機器が、前記算出された特徴量に基づき前記各画像の各領域をクラスタリングするステップと、前記医療機器が、前記クラスタリング結果の各クラスタの1つを当該クラスタに含まれる領域数に基づいて正常な色調に対応するクラスタと判定し、前記正常な色調に対応するクラスタと他の各クラスタとの位置関係に基づいて、前記他の各クラスタが正常な色調に対応するクラスタであるか異常な色調に対応するクラスタであるかを判定するステップと、前記医療機器が、前記入力された複数の画像のうち前記異常な色調に対応するクラスタが存在する画像について異常所見領域を含む画像として検出するステップとからなることを特徴とする。

本発明の画像処理方法の前記特徴量は、複数の色信号の比に基づくものであることを特徴とする。
本発明の画像処理方法の前記画像は、RGB画像であることを特徴とする。
本発明の画像処理方法は、前記入力される画像がカプセル型内視鏡による撮像画像であることを特徴とする。
本発明の画像処理方法は、前記入力される画像が内視鏡による撮像画像であることを特徴とする。
本発明の画像処理方法により、長時間掛けて、膨大な枚数の撮像画像から色調、及び輪郭が基準特徴と異なる撮像画像を抽出選別することができ、その抽出選別された色調、及び輪郭の基準特徴と異なる撮像画像を表示させることにより、術者による撮像画像からの所見の観察と診断の効率が向上する。
本発明の画像処理方法は、画像における色調情報に基づき、発赤調・褪色調の色調変化又は出血を呈する異常、或いは、色調変化を伴わない***又は陥凹等の病変存在の候補画像が速やかに検出することができ、その病変存在候補画像をモニタ表示することにより、術者による病変の観察と診断時の病変存在候補画像の見落としもなく、観察と診断の時間の短縮と効率が向上する効果を有している。
以下、本発明に係る画像処理方法の実施形態について、図面を用いて説明する。最初に、本発明に係る画像処理方法を用いるカプセル型内視鏡装置について、図1乃至図9を用いて説明する。図1は本発明に係る画像処理方法を用いるカプセル型内視鏡装置の概略構成を示すブロック図、図2は本発明に用いるカプセル型内視鏡装置のカプセル型内視鏡の概略構造を説明する説明図、図3は本発明に用いるカプセル型内視鏡装置の概略内部構成を示すブロック図、図4は本発明に用いるカプセル型内視鏡装置のカプセル型内視鏡から送信される信号構成を説明する説明図、図5は本発明に用いるカプセル型内視鏡の位置検出を説明する説明図、図6は本発明に用いるカプセル型内視鏡装置のアンテナユニットを説明する説明図、図7は本発明に用いるカプセル型内視鏡装置のシールドジャケットを説明する説明図、図8は本発明に用いるカプセル型内視鏡装置の外部装置の被検体への装着状態を説明する説明図、図9は本発明に用いるカプセル型内視鏡装置のカプセル型内視鏡の構成を示すブロック図である。
本発明の画像処理方法を用いるカプセル型内視鏡装置1は、図1(A)に示すように、カプセル型内視鏡3、アンテナユニット4、及び外部装置5からなっている。カプセル型内視鏡3は、詳細は後述するが、被検体である患者2の口から体腔内に飲み込まれて蠕動運動により消化管内を進行する形状に形成され、かつ、内部に消化管内を撮像し、その撮像画像情報を生成する撮像機能と、その撮像画像情報を体外に送信する送信機能とを有している。アンテナユニット4は、詳細は後述するが、患者2の身体表面上に設置され、前記カプセル型内視鏡3から送信される撮像画像情報を受信する複数の受信アンテナ11を有している。外部装置5は、外形が箱形形状に形成されており、詳細は後述するが、前記アンテナユニット4が受信した撮像画像情報の各種処理、撮像画像情報の記録、及び撮像画像情報による撮像画像表示等の機能を有している。この外部装置5の外装の表面に前記撮像画像を表示させる液晶モニタ12と、各種機能の操作指示を行う操作部13が設けられている。
また、この外部装置5は、駆動電源用の電池の残量に関する警告表示用のLED、操作部13として電源スイッチが設けられている。又、カプセル型内視鏡3の内部には、CPU及びメモリを用いた演算実行部を備え、受信及び記録した撮像画像情報に対して後述する本発明に係る画像処理方法を実行させるようにしても良い。
この外部装置5は、患者2の身体に装着されると共に、図1(B)に示すように、クレードル6に装着されることにより端末装置7に接続されるようになっている。この端末装置7は、たとえば、パーソナルコンピュータが用いられ、各種データの処理機能や記憶機能を有する端末本体9、各種操作処理入力用のキーボード8aとマウス8b、及び各種処理結果を表示するディスプレイ8cからなっている。この端末装置7の基本的機能としては、前記外部装置5に記録されている撮像画像情報をクレードル6を介して取り込み、端末本体9に内蔵されている書換可能なメモリ、或いは端末本体9に着脱自在な書換可能な半導体メモリ等の可搬型メモリに書込記録させ、かつ、その記録した撮像画像情報をディスプレイ8cに表示する画像処理を行う。なお、前記外部装置5に記憶されている撮像画像情報は、前記クレードル6に代えて、USBケーブル等によって端末装置7に取り込まれるようにしても良い。
この端末装置7の画像処理は、前記外部装置5から取り込み記録した撮像画像情報から経過時間に応じて表示させる画像の選択、及び後述する本発明に係る画像処理方法による病変部の存在する可能性を示す異常所見の画像の検索等を行う。
次に、前記カプセル型内視鏡3の外形と内部構造について、図2を用いて説明する。カプセル型内視鏡3は、断面がU字状の外装部材14と、この外装部材14の先端側の開放端に接着剤により水密装着された透明部材により形成された略半球形状のカバー部材14aとからなるカプセル形に形成されている。
この外装部材14とカバー部材14aからなるカプセル形状の内部中空部には、前記カバー部材14aの半球の円弧の中央部分の内部には、カバー部材14aを介して入射された観察部位像を取り込む対物レンズ15がレンズ枠16に収納されて配置されている。この対物レンズ15の結像位置には、撮像素子である電荷結合素子(以下、CCDと称する)17が配置されている。また、前記対物レンズ15を収納するレンズ枠16の周囲には、照明光を発光放射させる4つの白色系のLED18が同一平面上に配置されている(図中には2つのLEDのみを表記している)。前記CCD17の後端側の前記外装部材14の中空部には、前記CCD17を駆動制御して光電変換された撮像信号の生成と、その撮像信号に所定の信号処理を施して撮像画像信号を生成する撮像処理と、及び前記LED18の点灯・非点灯の動作を制御するLED駆動の処理とを行う処理回路19、この処理回路19の撮像処理により生成された撮像画像信号を無線信号に変換して送信する通信処理回路20、この通信処理回路20からの無線信号を外部に送信する送信アンテナ23、前記処理回路19と通信処理回路20の駆動用電源を供給する複数のボタン型の電池21が配置されている。
なお、CCD17、LED18、処理回路19、通信処理回路20、及び送信アンテナ23は、図示しない基板上に配置され、それらの基板の間は、フレキシブル基板にて接続されている。また、前記処理回路19には、後述する画像処理を行うための図示していない演算回路を備えている。つまり、前記カプセル型内視鏡3は、図3に示すように、前記CCD17、LED17、及び処理回路19からなる撮像装置43と、前記通信処理回路20を含む送信器37と、並びに送信アンテナ23からなる。
次に、前記カプセル型内視鏡3の撮像装置43の詳細構成について、図9を用いて説明する。撮像装置43は、LED18の点灯及び非点灯の動作を制御するLEDドライバ18A、CCD17の駆動を制御して光電変換された電荷の転送を行う為のCCDドライバ17A、前記CCD17から転送された電荷を用いて撮像信号を生成し、かつ、その撮像信号に所定の信号処理を施して撮像画像信号を生成する処理回路19A、前記LEDドライバ18AとCCDドライバ17Aと処理回路19Aと及び送信器37に電池21からの駆動電源を供給するスイッチ19、並びに前記スイッチ19とCCDドライバ17Aにタイミング信号を供給するタイミングジェネレータ19Bからなっている。なお、スイッチ19は、電池21から前記LEDドライバ18Aへの電源供給をオン・オフをするスイッチ19Cと、前記CCD17、CCDドライバ17A、及び処理回路19Aへの電源供給をオン・オフするスイッチ19D、並びに、前記送信器37への電源供給をオン・オフするスイッチ19Eからなっている。前記タイミングジェネレータ19Bには、電池21から常時駆動電源が供給されるようになっている。
このような構成のカプセル型内視鏡3の撮像装置43は、スイッチ19C〜19Eがオフ状態であると、タイミングジェネレータ19B以外は非動作状態である。このタイミングジェネレータ19Bからのタイミング信号により、前記スイッチ19Dがオンされると、CCD17、CCDドライバ17A、処理回路19Aへ電池21から電源が供給されて動作状態となる。
前記CCD17の駆動初期時に、CCD17の電子シャッターを動作させて、不要な暗電流を除去した後、タイミングジェネレータ19Bは、スイッチ19CをオンさせてLEDドライバ18Aを駆動させてLED18を点灯させCCD17を露光する。LED18は、CCD17の所定の露光時間の間点灯させた後、消費電力低減の為にスイッチ19CをオフさせてLED18を消灯される。
前記CCD17の露光期間に蓄えられた電荷は、CCDドライバ17Aの制御により処理回路19Aへ転送される。処理回路19Aでは、CCD17から転送された電荷を基に撮像信号を生成し、その撮像信号に所定の信号処理を施して内視鏡画像信号を生成する。この内視鏡画像信号は、送信器37から送信する信号が、例えば、アナログ無線方式ならCDS出力信号に対して複合同期信号を重畳させたアナログ撮像画像信号を生成して送信器37へ出力する。また、デジタル無線方式ならアナログ/デジタルコンバータで撮像画像信号をデジタル信号に変換した後、シリアル信号に変換し、スクランブル等の符号化処理を施してデジタル撮像画像信号を送信器37へ出力する。
この送信器37は、前記処理回路19Aから供給されたアナログ、又はデジタル撮像画像信号に対して変調処理を施して送信アンテナ23から外部へ無線送信する。この時、スイッチ19Eは、タイミングジェネレータ19Bにより前記処理回路19Aから撮像画像信号が出力された時のみ送信器37に駆動電力が供給するようにオン・オフ操作される。
なお、スイッチ19Eは、処理回路19Aから撮像画像信号が出力されてから所定時間経過後に、送信器37に駆動電力を供給するように制御しても良い。また、カプセル型内視鏡3に設けられた、図示しないpHセンサーにより、所定値のpH値を検出したり、湿度センサーにより、所定値以上の湿度を検出したり、又は圧力センサー、或いは加速度センサーにより所定値以上の圧力、或いは加速度を検出したりすることにより被検体である患者2の体腔内に挿入されたことを検出して、この検出信号に基づいて、送信器37に電源を供給するようにスイッチ19Eを制御するようにしても良い。
なお、前記カプセル型内視鏡2の撮像装置43は、通常毎秒2枚の画像(毎秒2フレーム=2fps)を撮像するものであるが、例えば、食道の検査の場合は、毎秒15〜30枚の画像(15fps〜30fps)を撮像できるようにする。具体的には、カプセル型内視鏡3に、図示しないタイマー回路を設け、このタイマー回路によるタイマーカウントが所定時間以内においては毎秒当たりの撮像枚数の多い高速撮像とし、所定時間が経過した後は、毎秒当たりの撮像枚数の少ない低速撮像となるよう撮像装置43の駆動を制御させる。或いは、カプセル型内視鏡3の電源の投入と共にタイマー回路を作動させて、患者2が飲み込んだ直後の食道を通過するまでの時間は、高速撮像となるように制御することも可能である。さらに、低速撮像用カプセル型内視鏡と高速撮像用カプセル型内視鏡とを個別に設けて、観察対象部位に応じて使い分けるようにしても良い。
次に、前記患者2の身体表面上に設置されるアンテナユニット4について説明する。図1(A)に示すようにカプセル型内視鏡3を飲み込んで内視鏡検査を行う場合、患者2は、複数の受信アンテナ11からなるアンテナユニット4が設置されたジャケット10を装着する。このアンテナユニット4は、図6に示すように、たとえば、GPSに使用されているパッチアンテナのような単方向の指向性を有する複数の受信アンテナ11を患者2の身体内方向にその指向性を向けて配置する。つまり、カプセル型内視鏡3のカプセル本体3Dは、身体内に留置されるわけであるから、その身体内のカプセル本体3Dを取り囲むように前記複数のアンテナ11が配置させる。この指向性の高いアンテナ11を使用することで、身体内のカプセル本体3D以外からの電波による干渉妨害の影響を受けにくくしている。
前記ジャケット10は、図7に示すように、患者2の身体表面に設置する前記アンテナユニット4と、ベルトにより患者2の腰に設置された外部装置5の本体部5Dを覆うように電磁シールド繊維で形成されたシールドジャケット72である。このシールドジャケット72を形成する電磁シールド繊維は、金属繊維、金属化学繊維、硫化銅含有繊維等が用いられている。なお、このシールドジャケット72は、ジャケット形状以外に、ベスト、及びワンピース形状でも良い。
又、前記シールドジャケット72に前記外部装置5を装着する例として、図8に示すように、前記外部装置5の外部本体5Dに鍵穴74を設け、前記シールドジャケット72に設けた鍵75を前記鍵穴74に差し込むことにより、ベルト73に着脱自在に装着できるようにする。或いは、単にシールドジャケット72に図示しないポケットを設けて、そのポケットに外部本体5Dを収納したり、又は、外部装置5の外部本体5Dとシールドジャケット72にマジックテープ(登録商標)を設置して、そのマジックテープ(登録商標)により取付固定しても良い。

つまり、アンテナユニット4が配置された身体にシールドジャケット72を装着することにより、アンテナユニット4に対する外部からの電波がシールド遮蔽されて、外部電波による干渉妨害の影響を一層受けにくくしている。
次に、前記アンテナユニット4と外部装置5の構成について、図3を用いて説明する。前記アンテナユニット4は、前記カプセル型内視鏡3の送信アンテナ23から送信された無線信号を受信する複数の受信アンテナ11a〜11d、このアンテナ11a〜11dを切り換えるアンテナ切換スイッチ45からなる。前記外部装置5は、アンテナ切換スイッチ45からの無線信号を撮像画像信号に変換及び増幅等の受信処理を行う受信回路33、この受信回路33から供給された撮像画像信号に所定の信号処理を施して、撮像画像の表示用信号と、撮像画像データを生成する信号処理回路35、この信号処理回路35により生成された撮像画像表示用信号により、撮像画像を表示させる液晶モニタ12、前記信号処理回路35により生成された撮像画像データを記憶するメモリ47、及び前記受信回路33により受信処理された無線信号の大きさにより前記アンテナ切換スイッチ45を制御するアンテナ選択回路46とからなる。
前記アンテナユニット4の図中受信アンテナ11a〜11dとして示した複数の受信アンテナ11は、前記カプセル型内視鏡3の送信アンテナ23から一定の電波強度により送信された無線信号を受信する。この複数の受信アンテナ11a〜11dは、前記外部装置5のアンテナ選択回路46からのアンテナ選択信号によりアンテナ切替スイッチ45が制御されて、前記無線信号を受信する受信アンテナを順次切り替える。つまり、前記アンテナ切替スイッチ45により順次切り替えられた各受信アンテナ11a〜d毎に受信した無線信号が前記受信器33に出力される。この受信器33において、各受信アンテナ11a〜11d毎の無線信号の受信強度を検出して、各受信アンテナ11a〜11dとカプセル型内視鏡3の位置関係を算出すると共に、その無線信号を復調処理して撮像画像信号を信号処理回路35へと出力する。前記アンテナ選択回路46は、前記受信器33からの出力によって制御される。
前記アンテナ選択回路46によるアンテナ切替スイッチ45の動作について説明する。前記カプセル型内視鏡3から送信される無線信号は、図4に示すように、撮像画像信号の1フレームの送信期間に、無線信号の受信強度を示す受信強度信号の送信期間である強度受信期間と、撮像画像信号の送信期間である映像信号期間とが順次繰り返されて送信されるとする。
前記アンテナ選択回路46は、前記受信回路33を介して、各受信アンテナ11a〜11dが受信した受信強度信号の受信強度が供給される。前記アンテナ選択回路46は、前記受信器33からの供給された各アンテナ11a〜11dの受信強度信号の強度を比較して、映像信号期間の撮像画像信号を受信する最適な受信アンテナ、つまり、受信強度信号の強度が最も高いアンテナ11i(i=a〜d)を決定して、アンテナ切替回路45をそのアンテナ11iに切り替えるための制御信号を生成出力する。これにより、現在画像信号を受信しているアンテナよりも、他のアンテナの受信強度信号の受信強度が高い場合には、映像信号期間の受信アンテナを次フレーム分から切り替えるようにする。
このように、カプセル型内視鏡3からの無線信号を受信するたびに、撮像画像信号、又は受信強度信号の受信強度を比較し、この比較結果を受けたアンテナ選択回路46によって受信強度が最大となるアンテナ11iを画像信号受信用のアンテナとを指定するようにしている。これにより、カプセル型内視鏡3が患者2の体内で移動しても、その移動位置において最も受信強度の高い信号を検出できるアンテナ11により取得した画像信号を受信することができる。また、体内でのカプセル型内視鏡3の移動速度は非常に遅い部分と早い部分に分かれるので、撮像動作1回につき常にアンテナ切替動作を1回行うとは限らず、高速撮像モードなどでは複数回の撮像動作に対してアンテナ切替動作を1回行うようにしてもよい。
なお、カプセル型内視鏡3は、患者2の体内を移動しているので、適宜の時間間隔で外部装置5から電波強度を検出した結果である検出結果信号を送り、その信号に基づいてカプセル型内視鏡3が送信する際のその出力を更新するようにしてもよい。このようにすれば、カプセル型内視鏡3が患者2の体内を移動した場合にも、適切な送信出力に設定でき、電池21のエネルギを無駄に消費すること等を防止でき、信号の送受信状態を適切な状態に維持できるようになる。
次に、前記複数の受信アンテナ11とカプセル型内視鏡3の位置関係を示す情報の取得方法について、図5を用いて説明する。なお、図5において、カプセル型内視鏡3を3次元座標X、Y、Zの原点に設定した場合を例に説明する。又、前記複数の受信アンテナ11a〜11dのうち、説明を簡単化するために、3つの受信アンテナ11a、11b、11cを用い、受信アンテナ11aと受信アンテナ11bとの間の距離をDab、受信アンテナ11bと受信アンテナ11cとの間の距離をDbc、受信アンテナ11aと受信アンテナ11cとの間の距離Dacとしている。さらに、この受信アンテナ11a〜11cとカプセル型内視鏡3の間は、所定の距離関係としている。
カプセル型内視鏡3の送信された一定の送信強度の無線信号は、各受信アンテナ11j(j=a、b、c)で受信した場合の受信強度は、カプセル型内視鏡3(カプセル型内視鏡3の送信アンテナ23)からの距離Li(i=a,b,c)の関数となる。具体的には電波減衰量が伴う距離Liに依存する。従って、カプセル型内視鏡3から送信された無線信号の受信アンテナ11jにより受信した受信強度からカプセル型内視鏡3と各受信アンテナ11jとの間の距離Liを算出する。この距離Liの算出には、前記カプセル型内視鏡3と受信アンテナ11jの間の距離による電波の減衰量などの関係データを事前に前記アンテナ選択回路46に設定する。又、その算出されたカプセル型内視鏡3と各受信アンテナ11jの位置関係を示す距離データは、前記メモリ47にカプセル型内視鏡3の位置情報として記憶させる。このメモリ47に記憶された撮像画像情報及びカプセル型内視鏡3の位置情報を基に、前記端末機7による後述する画像情報処理方法において、内視鏡観察所見の位置設定に有用となる。
次に、本発明に係る画像処理方法について、図10乃至図22を用いて説明する。図10は、本発明に係る画像処理方法の一実施形態における病変候補画像の決定処理の処理動作を説明するフローチャート、図11は本発明に係る病変候補画像の処理における粘膜の色調による異常の検出例を説明する説明図、図12は本発明に係る病変候補画像の処理における発赤・出血の検出例を説明する説明図、図13は本発明に係る画像処理方法における輪郭情報による異常検出の処理動作を説明するフローチャート、図14は本発明に係る画像処理方法の輪郭情報による異常検出における輪郭抽出フィルタを説明する説明図、図15は本発明に係る輪郭情報の検出例を説明する説明図、図16は本発明に係る輪郭情報である襞の検出例を説明する説明図、図17は本発明に係る輪郭情報の病変検出例を説明する説明図、図18は本発明にかかる画像処理方法における***・陥凹のともなう病変部の検出処理動作を説明するフローチャート、図19は本発明に係る***・陥凹の検出時の輪郭抽出例を説明する説明図、図20は本発明に係る***・陥凹の検出時の輪郭抽出の一致と評価方法を説明する説明図、図21は本発明に係る***・陥凹の検出時の輪郭抽出による病変判断を説明する説明図、図22は本発明に係る画像処理方法における粘膜表面の微細構造および血管走行状態の病変存在候補画像の検出処理動作を説明するフローチャートである。
この画像処理方法は、撮像画像における色調情報に基づき発赤調・褪色調の色調変化、あるいは出血を呈する異常の存在を認識し、病変存在の候補画像を検出するものである。更に、この色調情報による病変存在候補画像の検出以外に、輪郭情報による***・陥凹、及び粘膜表面の微細構造並びに血管走行形態の病変存在候補画像の検出をするものである。
この検出された病変存在の候補画像は、登録され、例えば撮像画像の表示時に参照することにより病変候補の画像から観察を始めることを可能として診断観察の効率化を実現するものである。なお、これから説明する画像処理方法は、ソフトウェアにより実現されるもので、前記カプセル型内視鏡3、外部装置5、または端末装置7のいずれにおいてもこの画像処理方法を用いることができるが、ここでは、パーソナルコンピュータを用いた端末装置7に適用した例を用いて説明する。
この画像処理方法の説明において、画像の大きさは、ISX×ISY(1≦ISX、ISY。例えばISX=640、ISY=480)の赤(R)、緑(G)、青(B)の3プレーンからなり、各プレーンの画素の階調数は、8bit、すなわち0乃至255の値をとるものとする。
図10を用いて、本発明にかかる画像処理方法による病変候補画像決定のための処理動作を説明する。この病変候補画像は、前記カプセル型内視鏡3によるK枚の撮像画像Ik、1≦k≦Kに対し、色調変化による異常所見の抽出に基づいて病変候補画像の判定を行う。この病変候補の画像が判定されると、その画像番号kを登録し、例えば、撮像画像を表示時に参照して病変候補画像から表示させて観察を始める。
前記カプセル型内視鏡3により撮像されて、外部装置5に送信された撮像画像信号は、前記外部装置5において所定の進行処理が施されて、撮像画像信号データとして記憶される。この外部装置5に記憶された撮像画像信号データは、端末装置7に転送記憶される。この端末装置7は、記憶している撮像画像信号データを基に病変候補画像の抽出処理動作を行う。
最初に、ステップS1において、撮像画像信号データの画像番号を示すiを1に初期化する。次に、ステップS2において、撮像画像信号データの画像番号iの赤(Ri)、緑(Gi)、及び青(Bi)の画像を読み出す。このステップS2において読み出されたRi,Gi,及びBiは、ステップS3において、画像Iiを構成するRGBの前記画像Ri、Gi及びBiに対する前処理を行う。本発明において、前処理としては、逆γ補正、大きさ3×3のマスクサイズでのメディアンフィルタリングを用いたノイズ抑制処理を行うものとする。前記逆γ補正及びメディアンフィルタリングについては公知の技術であるため詳細な説明は省略する、
前記ステップS3の前処理が終了すると、ステップS4において、画像をN×M個の矩形領域に分割する領域分割を行う。ここで、1≦N≦ISX、1≦M≦ISYであり、N=ISX、かつM=ISYのときは、各画素をそのままの領域として用いることとなる。例えばISX=640、ISY=480である場合、各ブロックの大きさを10×10となるように設定すると、N=64、M=48となる。
前記ステップS4の領域分割が終了すると、ステップS5において、前記N×M個の各領域に対し、異常所見の認識に不適となる暗部及びハレーションの検出を行う。具体的には、領域内の画素rit、git、及びbit(tは画像内の画素を特定する添え字、1≦t≦ISX×ISY)に対し、rit≦Td、git≦Td、及びbit≦Tdであれば暗部に属する画素とする。rit≧Th、git≧Th、及びbit≧Thであればハレーションに属する画素と判定する。なお、前記Td及びThは、それぞれ閾値であり、本発明の実施の形態においては、Td=20、Th=200と設定する。領域内の画素数Laに対して、暗部またはハレーションに属すると判定された画素数Lngの割合Lng/Laが、Lng/La≧Tngである場合には、その領域をステップS6以降の異常所見検出処理の適用対象から除外する。なお、Tngは、閾値であり、本発明の実施の形態においては0.5に設定している。
次に、ステップS6において、前記ステップS5により暗部又はハレーションを除外された以外の領域の各画素pの値に基づき、異常所見の認識のための特徴量であるr/(r+g+b)、及びg/(r+g+b)の平均値を算出する。このr/(r+g+b)、及びg/(r+g+b)は色度と呼ばれるもので、各々0〜1の値をとる。通常(色素、染色剤等を使用しない場合)の内視鏡画像の色調変化は、光の吸収変動により構成される、詳しくは、血液中のヘモグロビンの吸収帯域(波長)に最も依存し、構造成分は一般にG画像に多く含まれることが知られている。具体的には血液量が多いほど吸収が大きく、G画像の画素の値は低くなり、血液量が少ないほど吸収されず反射されることから画素の値は高くなる。したがって、粘膜色調が赤色調であれば、前者のr/(r+g+h)の値が相対的に大となり、後者のg/(r+g+b)の値が小となる。また、褪色等により粘膜色調が白色調であれば、相対的に後者のg/(r+g+b)の値が上昇する。領域Rej、1≦j≦N×Mにおいて、算出された各平均値をrj及びgjとする。なお、rj及びgjの算出については、ステップS5において暗部またはハレーションに属する画素と判定された画素は除外する。
次に、ステップ7において、前記ステップS6により算出された特徴量rj及びgjの値を用いたクラスタリングを行う。このクラスタリングは、パターン認識分野において広く研究・利用されている手法であり、特徴量の値の類似性(距離)に基づき、データをクラスタと呼ばれるグループに分類するものである。クラスタリングについては「多変量解析の徹底研究、 西田俊夫訳、 現代数学社発行」の文献に詳記されている。本発明の実施の形態においては、K平均法を用いるクラスタリングを行うものとする。
前記クラスタリングの結果として、各領域Rejは、r/(r+g+b)及びg/(r+g+b)が構成する特徴空間において、1個以上のクラスタCk、1≦k≦N×Mのいずれかにグループ化される。このクラスタリング結果の例について、図11を用いて説明する。図11に示すように、クラスタとして、C1、C2、及びC3の3個により形成されている。各クラスタは、正常粘膜の色調を反映するクラスタC1、発赤調あるいは出血によりrjの値がクラスタC1に対して大となるクラスタC2、褪色により正常粘膜より白色調となることからgjの値がクラスタC1に対して大となるクラスタC3となる。
次にステップS8において、前記ステップS7において生成されたクラスタに基づく異常所見の検出を行う。具体的には、図11に示したように、正常粘膜の色調を反映したクラスタC1に対し、異常な色調を反映したクラスタC2またはC3の存在を検出する。この異常所見の検出には、種々の方法が考えられるが、本発明の実施の形態においては、各クラスタの位置、及びクラスタの平均値間の距離に基づく検出を行う。このクラスタの位置、及びクラスタの平均値間の距離による異常所見検出は、図12を用いて、発赤調・出血の存在により生成されたクラスタC2の検出について説明する。前記r/(r+g+b)及びg/(r+g+b)による平面上に2個のクラスタC1及びC2が生成され、その中心をそれぞれO1及びO2、その中心O1およびO2のそれぞれの座標を(or1、og1)及び(or2、og2)とする。前記クラスタC1は、正常粘膜の色調を有する領域により構成されたクラスタであることは、例えばC1及びC2を構成する領域数RN1及びRN2がRN1>RN2であることに基づき判定することができる。さらに、座標or1≦or2である関係から発赤調・出血のクラスタC2が正常粘膜のクラスタC1における色調に比較して赤みが強い領域のクラスタであることがわかる。また、座標or1≧or2であれば、逆に褪色をともなう白色調の領域であるものと判定できる。次いで、中心O1及びO2間の距離d12を算出し、d12≧Tcである場合は、正常粘膜の色調とは異なるクラスタC2領域が存在しているものとみなすことができる。なお、前記d12は、ユークリッド距離、Tcは、閾値であり、例えば、Tc=0.2に設定している。このTcは、異常所見検出の感度を制御するためのパラメタに相当し、ある正常粘膜の色調と、どの程度異なる場合に、異常所見の存在する画像とするかを規定するものである。
前記ステップS8における異常所見の検出が終了するとステップS9において、異常所見の検出有無の判定を行う。異常所見が検出されないと判定されると、ステップS11以降が実行される。異常所見が検出されたと判定されると、ステップS10において、画像Iiを異常所見が検出された病変候補画像として、その画像番号iを登録して、ステップS11に進む。
ステップS11において、すべての画像枚数Kに対する一連の処理の実行されたか、すなわち画像番号i=Kであるか否かを判定し、画像番号iが画像枚数Kよりも少ないi<Kである場合には、ステップS12において、画像番号i=i+1として次の画像に対して、前記ステップS2乃至S11の処理を行い、画像番号iが画像枚数K(i=K)となるとこの異常所見の検出処理を終了する。
なお、前記ステップS10において、前記ステップS8における異常所見の検出結果が発赤・出血による赤色調であるか、もしくは褪色による白色調であるか等の異常の種別を合わせて登録することも可能である。例えば、患者2の主症状が出血であった場合には、その出血部位の特定が検査の主目的となる。この場合、端末装置7における観察用ソフトウェアを異常の種別、例えば「赤色調」を検索キーとして検索可能に構成することにより、より効率的な観察が可能となる。
この実施の形態において、色調に関する特徴量として、r/(r+g+b)、及びg/(r+g+b)を用いたが、例えばr/g、及びr/b等の他の特徴量やHSI空間等への変換値を使用することも当然可能である。
また、この実施の形態において、画像を矩形領域に分割してから、特徴空間におけるクラスタリングを適用したが、各画素ごとの特徴量算出後、画像自体をクラスタリングにより領域分割して同様の処理を適用することも可能である。
以上に説明したように、ステップS1〜S12の一連の処理により、撮像画像の色調情報に基づき発赤調・褪色調の色調変化、あるいは出血を呈する異常の存在を認識し、病変存在候補画像を検出することが可能となる。
次に、本発明の画像処理方法において、画像における輪郭情報に基づく異常の存在を認識し、病変存在候補画像を検出する輪郭検出について説明する。輪郭検出は、前述した色調変化を伴わない、***もしくは陥凹型の病変の検出を行うものである。この輪郭検出による病変候補画像の検出処理動作について、図13を用いて説明する。
この実施の形態は、カプセル型内視鏡3による撮像画像枚数Kの撮像画像Ik、1≦k≦Kに対し、輪郭情報による異常所見の抽出に基づく病変候補画像の判定を行う。最初に、ステップS21において、画像番号を示すiを1に(i=1)初期設定する。
次に、ステップS22において、画像Riを読み出す。この実施の形態において、R画像を処理の対象として説明する。なお、輪郭情報は、RGBの各画像に含まれておりいずれの画像も使用することが可能である。次に、ステップS23において、前記画像Riに対する前処理を適用する。この前処理は、前述したステップS3と同じであり、逆γ補正、大きさ3×3のマスクサイズによるメディアンフィルタリングを用いたノイズ抑制処理を行う。
次に、ステップS24において、異常所見の認識に不適切なハレーションの検出を行う。このハレーション検出は、領域内の画素rit(tは、画像内の画素を特定する添え字、1≦t≦ISX×ISY)に対し、rit≧Thであればハレーションに含まれる画素とし、ritの距離n/2内の近傍画素を含め、ステップS25以降の処理対象から除外する。ここで、nは後述する輪郭抽出フィルタのサイズであり、ハレーションに含まれる画素によりフィルタリング結果が影響される近傍画素を含めた除外を実施するものである。
前記ステップS24のハレーション検出が終了すると、ステップS25において、輪郭抽出フィルタリングを行う。この輪郭抽出フィルタリングは、種々のものが利用できるが、この実施の形態においては、図14に示す、サイズ5×5のフィルタを適用する。
次に、ステップS26において、前記ステップS25における輪郭抽出フィルタリングの結果、画像に対する閾値処理による二値化を行う。画像の各画素のフィルタリング後の値をfitとすると、fit≧Thfである画素を抽出する。なお、Thfは閾値であり、この実施の形態においては、Thf=10であるものとする。
次に、ステップS27において、前記ステップS26における輪郭抽出フィルタリング後の二値画像に対する異常所見検出を行う。なお、この異常所見検出処理の詳細については後述する。このステップS27の二値画像による異常所見検出が行われると、ステップS28において、異常所見が検出されたか判定され、異常所見が検出されないと判定されると、ステップS30以降が実行される。前記ステップS28において、異常所見が検出されたと判定されると、ステップS29において、画像Iiを異常所見を有する病変候補画像として、その画像番号iを登録する。
次に、ステップS30において、すべての画像に対する一連の処理の行われたか判定する。すなわち、画像番号iが全画像枚数Kと等しい(i=K)か否かを判定し、画像番号iが画像枚数Kよりもすくない(i<K)である場合、ステップS31において、画像番号iに1を加算(i=i+1)して、次の画像に対し前記ステップS22〜S30を実行し、前記画像番号iが全画像枚数Kと同じであると、この輪郭情報による病変候補画像の処理動作を終了する。
次に、前記ステップS27における異常所見検出処理の詳細について説明する。正常な体腔内においては、主として管腔構造及び襞による形状の輪郭が存在する。管腔構造による形状の輪郭としては、撮像された画像内のトンネル上の暗部、小腸や大腸の屈曲による壁等が考えられる。図15に管腔構造による形状の輪郭の抽出例を示している。また、襞は、小腸及び大腸管腔内部に輪状に存在し、主としてなめらかな円弧形状(直線状になる場合もある)の輪郭を呈するもので、図16に襞による形状の輪郭の抽出例を示している。
一方、***あるいは陥凹を伴う病変では、局所的な輪郭の存在、管控構造、あるいは襞による輪郭の不整な変化が生ずる。このような病変による形状の輪郭の抽出例を図17に示している。図17(A)は、比較的均一な明るさの背景の中に、***型病変による不整な形状の輪郭が抽出されている例を示している。また、図17(B)は、襞の上に病変が存在することから本来の円弧形状に対し局所的な不整変化をともなう輪郭が抽出されている例を示している。
この***あるいは陥凹を伴う病変による輪郭の認識については、種々の画像認識方法が考えられるが、この実施の形態において用いる***・陥凹の伴う病変による輪郭認識を図18を用いて説明する。図13を用いて説明した前記ステップS24におけるハレーション領域除外処理(以下、単に前処理画像と称する)、及び前記ステップS26における二値化処理された画像(以下、二値画像と称する。)を基に、ステップS27−1乃至ステップS27−6の一連の処理が実行される。なお、前記前処理画像は、画像における明暗変化を保存しており、管腔方向の検出等に用いる。また、前記二値画像は、輪郭抽出情報として用いる。
ステップS27−1において、局所的な***・陥凹による輪郭が存在するか否かを判定する。このステップS27−1の判定は、図17(A)に示したように、管腔構造、あるいは襞の上ではなく、比較的均一な明るさの背景の中に存在する病変の検出を行うものである。具体的には、図19に示すように、抽出した二値画像の輪郭に相当する部位を含む矩形領域を設定し、対応する前処理画像上の領域の明暗変化を検出する。図19においては、対象とする輪郭の始点の座標(sx,sy)及び終点の座標(ex、ey)により設定され矩形領域の輪郭を境界とする領域A及びBにおいて、前処理画像の画素値の平均値rmA及びrmBを算出する。この平均値rmA,rmBは、始めに、rmA>rmB、すなわち、領域Aが領域Bよりも明るいことを比較判定し、平均値の比rmB/rmA(ただし、rmA≠0とする)を算出する。この平均値rmB/rmAが閾値Theより小さい(rmA/rmB<The)と、各領域A,Bの明るさに閾値The以上の違いがあることが認められ、管腔構造、あるいは襞による輪郭である可能性が高いものと考えられてステップS27−3に進む。ここで、閾値Theは、この実施の形態においては0.6とする。なお、rmB/rmA≧Theである場合には、抽出輪郭周囲に大きな明暗変化が存在しないことから、局所的な病変による輪郭である可能性があるものと判定し、前記ステップS28へと進む。
次に、ステップS27−3において、抽出された輪郭に対する円弧形状の近似を行う。円弧形状の近似方法については、本出願人が出願した特開2003−093328号公報に示された、抽出領域の細線化画像に対し、半径及び中心をパラメタとする探索的方法を用いて、最適な近似の円の半径及び中心を特定する。
次に、ステップS27−4において、近似した円の半径及び中心に対する、実際の輪郭が構成する弧の一致度を評価する。なお、二値画像において抽出した輪郭は、細線化が適用されているものとする。この弧の一致度の評価は、図20に示すように、点O(座標ox、oy)は、前記ステップS27−3において、特定された近似円(破線で示す)の中心である。点R(座標rx、ry)は、近似円上の1点であり、点P(座標px、py)は、点Oと点Rを結ぶ線分上において、細線化された抽出輪郭との交点である。この点Pは、点Rから点Oに向かう線分に重複する画素を探索することにより求めることができる。もし線分RO上に点Pが検出されない場合には、点Rから点Oに向かうのと逆の方向を探索する。画像内に点Pが見つからない場合は、対応する輪郭が存在しないので一致度の評価対象から除外する。このとき、線分POは、輪郭が近似された円弧に近い形状であると、線分OR(すなわち近似円の半径)及び線分OPの長さは近く、そうでない場合には相違が大となる。したがって、一致度の評価値εを数式1のように定めることができる。
Figure 0004652694
ここで、R1及びREは、輪郭との比較範囲において近似円をE個の点に離散化していることを示している。点Pjは、点Rjに対応する細線化後の輪郭の画素である。
前記ステップS27−4の評価値εの算出後、ステップS27−5において、前記ステップS27−4において算出した評価値ε、及び後述するステップS27−2における管腔方向検出の結果に基づく、異常輪郭の判定を行う。前記ステップS27−2においては、前処理画像に対し、本出願人が出願した特開2003−093328号公報に示された管腔方向検出が行われる。この管腔方向検出結果の利用の詳細については後述する。
前記ステップS27−5において、近似円と輪郭との一致度の評価値εが閾値Thεよりも大きい(ε>Thε)である場合には、不整な輪郭が存在しているものと判定し、ステップS27−6の異常所見ありの処理が行われる。ここで、閾値Thεは、例えば1000に設定する。一方、ε≦Thεである場合には、近似円との一致度は高いが管控構造、あるいは襞の輪郭として、方向に矛盾がないか否かを確認する。
この判定処理について図21を用いて説明する。図21は、抽出した輪郭が近似円に対して比較的良好に一致しているためε≦Thεであるが、正常な管腔構造、あるいは襞による輪郭とは逆の方向に円弧が生じている。このようなケースは、病変が近接している場合等に起こり得る。そこで、画像中の明暗変化を基に検出した管腔方向と近似円の中心位置との比較に基づき判定する。具体的には、抽出した輪郭に対して、近似円の中心座標の位置が管腔方向側に存在する複合は逆方向にあるものとし、異常輪郭と判定してステップS27−6に進む。
このステップS27−6において、一連の処理の結果、抽出した輪郭が病変によるものである可能性が高いことから前記ステップS27における判定結果として異常所見が存在するものとして前記ステップS28に進む。
なお、この実施の形態において、管腔構造、あるいは襞による形状の輪郭を円弧としたが、直線状に見える場合もある。このような輪郭の認識に対しては、ステップS27−3及びステップS27−4において、円弧形状の認識に加え、公知のハフ変換を用いた直線検出を併用適合して、いずれか適合度の高い近似結果を使用することも可能である。また、輪郭の形状認識においては、モルフォロジフィルタ等の技術を用いてもよい。
以上に説明したように、画像における形状の輪郭情報に基づき、色調変化を伴わない***、あるいは陥凹の病変の存在を認識し、病変存在候補画像を検出することが可能となる。
次に、本発明に係る画像処理方法における撮像画像による粘膜表面の微細構造及び血管走行形態の異常の存在を意識して、病変存在候補画像を検出する方法について、図22を用いて説明する。前記カプセル型内視鏡3による撮像画像枚数Kの撮像画像Ik、1≦k≦Kに対し、輪郭情報による異常所見の抽出に基づく病変候補画像の判定を行う。
最初に、ステップS41において画像番号を示すiを1に初期化し、ステップS42において、画像Giを読み出す。この実施の形態においては、内視鏡画像に最も粘膜の微細構造及び血管像に関する情報を含んでいるG画像の処理を対象とする。
次に、ステップS43において、粘膜表面の微細構造及び血管走行形態に基づく異常所見の検出を行う。この粘膜表面の微細構造は、胃・大腸の小区模様、腺管における腺口形態(pit pattern)等があげられる。これらの所見について、画像処理による特徴量の算出を行う。特徴量の算出方法については、本出願人が出願した特許第2918162号公報、及び特開2002−165757号公報に詳記されており省略説明は省略する。この特徴量の算出方法により得られた特徴量に対しては、識別器を用いた識別分類処理を行う。識別器としては、ニューラルネットワーク、線形判別関数等の種々のものが知られている。この実施の形態においては、識別器として線形判別関数を使用する。
正常及び異常所見の画像から算出された特徴量を教師データとして用いて、線形判別関数を作成し、画像Giから得られた特徴量を基に画像Giが正常または異常の判定をステップS44にて行う。この特徴量算出及び判別分類については、前述した特開2002−165757号公報に詳細が開示されている。
前記ステップS44において、前記ステップS43による異常所見の検出結果により、異常所見が検出されないと判定されると、ステップS46以降が実行される。前記ステップS44において、異常所見が検出されたと判定されると、ステップS45において、画像Iiを異常所見を有する病変候補画像としてその画像番号iを登録する。
次に、ステップS46において、すべての画像に対する一連の処理が実行されたか判定される。すなわち、画像番号iが全画像枚数Kと等しい(i=K)か否かを判定し、画像番号iが画像枚数Kよりもすくない(i<K)場合、ステップS47において、画像番号iに1を加算(i=i+1)して、次の画像に対し前記ステップS42〜S46を実行し、前記画像番号iが全画像枚数Kと同じであると、この輪郭情報による病変候補画像の処理動作を終了する。
以上に説明したように、画像による粘膜表面の微細構造及び血管走行形態に基づく異常所見を認識し、病変存在候補画像を検出することが可能となる。
なお、前述したように撮像画像による発赤調・褐色調の色調変換と出血、陥没と陥凹、及び粘膜表面の微細構造と血管走行形態の病変存在の候補画像の検出方法をそれぞれ組み合わせて用いることができる。また、これら画像処理手法は、カプセル型内視鏡装置のみではない、通常の内視鏡装置により撮像された撮像画像からの病変存在候補画像の検出にも用いることができる。
[付記]
以上詳述した本発明の実施形態によれば、以下のごとき構成を得ることができる。
(付記1) 体腔内を撮像して得られた色調情報を有する画像データが入力される入力ステップと、
前記画像データが有する色調情報に基づいて所定の特徴に関する特徴量を算出する算出ステップと、
あらかじめ設定した所定の色調情報に基づいて決められた基準特徴量と、前記算出ステップにおいて算出された特徴量とを比較する比較ステップと、
を有することを特徴とした画像処理方法。
(付記2) 体腔内を撮像して得られた色調情報を有する画像データが入力される入力ステップと、
前記画像データを複数の領域に分割して、複数の分割領域を生成する分割ステップと、
前記分割領域が有する色調情報に基づいて、所定の特徴に関する特徴量を前記分割領域毎に算出する算出ステップと、
あらかじめ設定した所定の色調情報に基づいて決められた基準特徴量と、前記算出ステップにおいて算出された特徴量とを比較する比較ステップと、
を有することを特徴とした画像処理方法。
(付記3) 前記比較ステップにおける比較結果に応じて、前記基準特徴量に相当する前記画像データの色調情報に基づいた特徴量があるか否かを判断するステップを更に有することを特徴とした付記1または2に記載の画像処理方法。
(付記4) 前記比較ステップにおける比較結果に応じて、前記基準特徴量に対して、前記画像データの色調情報に基づいた特徴量の距離を判断するステップを更に有することを特徴とした付記1又は2に記載の画像処理方法。
(付記5) 前記特徴量は、複数の色信号の比に基づくものであることを特徴とした付記1乃至4のいずれか1に記載の画像処理方法。
(付記6) 前記画像データは、赤、緑、青の三原色画像であることを特徴とした付記1乃至5のいずれか1に記載の画像処理方法。
(付記7) 前記比較ステップにおいて、前記基準特徴量の分布と、前記画像データの色調情報に基づいた特徴量の分布とを比較結果することを特徴とした付記1乃至6のいずれか1に記載の画像処理方法。
(付記8) 前記比較ステップにおける基準特徴量の分布と、前記画像データの色調情報に基づいた特徴分布の比較は、特徴量の値を用いたクラスタリングにより実行することを特徴とした付記7に記載の画像処理方法。
(付記9) 体腔内を撮像して得られた画像データが入力される入力ステップと、
前記画像データから該画像が有する輪郭形状に関する輪郭情報を抽出する抽出ステップと、
あらかじめ設定した所定の輪郭形状に基づいてあらかじめ設定された基準輪郭情報と、前記抽出ステップにおいて抽出した前記輪郭情報とを比較する比較ステップと、
を有することを特徴とする画像処理方法。
(付記10) 前記前記抽出ステップによる輪郭情報は、前記入力ステップの画像データに対して輪郭抽出フィルタリングにより抽出することを特徴とした付記9記載の画像処理方法。
(付記11) 前記比較ステップにおける比較結果に応じて、前記基準輪郭情報に相当する前記画像データの輪郭情報があるか否かを判断するステップを更に有することを特徴とした付記9または10に記載の画像処理方法。
(付記12) 前記比較ステップにおける比較結果に応じて、前記基準輪郭情報に対して、前記画像データの輪郭情報により輪郭形状の不整により判断することを特徴とした付記11に記載の画像処理方法。
(付記13) 前記輪郭情報は、前記入力ステップにより入力された画像データにおける局所的な***及び/または陥凹を示すことを特徴とした付記9乃至12のいずれか1に記載の画像処理方法。
(付記14) 前記入力ステップにおいて入力される画像データは、カプセル型内視鏡、或いは内視鏡のいずれかにより撮像されて生成された画像データである特徴とした付記1乃至13のいずれか1に記載の画像処理方法。
本発明に係る画像処理方法を用いるカプセル型内視鏡装置の概略構成を示すブロック図。 本発明に用いるカプセル型内視鏡装置のカプセル型内視鏡の概略構造を説明する説明図。 本発明に用いるカプセル型内視鏡装置の概略内部構成を示すブロック図。 本発明に用いるカプセル型内視鏡装置のカプセル型内視鏡から送信される信号構成を説明する説明図。 本発明に用いるカプセル型内視鏡の位置検出を説明する説明図。 本発明に用いるカプセル型内視鏡装置のアンテナユニットを説明する説明図。 本発明に用いるカプセル型内視鏡装置のシールドジャケットを説明する説明図。 本発明に用いるカプセル型内視鏡装置の外部装置の被検体への装着状態を説明する説明図。 本発明に用いるカプセル型内視鏡装置のカプセル型内視鏡の構成を示すブロック図。 本発明に係る画像処理方法の一実施形態における病変候補画像の決定処理の処理動作を説明するフローチャート。 本発明に係る病変候補画像の処理における粘膜の色調による異常の検出例を説明する説明図。 本発明に係る病変候補画像の処理における発赤・出血の検出例を説明する説明図。 本発明に係る画像処理方法における輪郭情報による異常検出の処理動作を説明するフローチャート。 本発明に係る画像処理方法の輪郭情報による異常検出における輪郭抽出フィルタを説明する説明図。 本発明に係る輪郭情報の検出例を説明する説明図。 本発明に係る輪郭情報である襞の検出例を説明する説明図。 本発明に係る輪郭情報の病変検出例を説明する説明図。 本発明にかかる画像処理方法における***・陥凹のともなう病変部の検出処理動作を説明するフローチャート。 本発明に係る***・陥凹の検出時の輪郭抽出例を説明する説明図。 本発明に係る***・陥凹の検出時の輪郭抽出の一致と評価方法を説明する説明図。 本発明に係る***・陥凹の検出時の輪郭抽出による病変判断を説明する説明図。 本発明に係る画像処理方法における粘膜表面の微細構造および血管走行状態の病変存在候補画像の検出処理動作を説明するフローチャート。
符号の説明
1 カプセル型内視鏡装置
2 患者
3 カプセル型内視鏡
4 アンテナユニット
5 外部装置
6 クレードル
7 端末装置
8c ディスプレイ
9 端末本体
11 受信アンテナ
17 電荷結合素子(CCD)
18 LED
19 処理回路
20 通信処理回路
23 送信アンテナ
代理人 弁理士 伊藤 進

Claims (6)

  1. 医療機器によって画像を検出する画像処理方法であって、
    前記医療機器が、体腔内を撮像した複数の色信号からなる複数の画像を順次入力するステップと、
    前記医療機器が、前記入力された各画像の各領域毎に色調に基づく特徴量を算出するステップと、
    前記医療機器が、前記算出された特徴量に基づき前記各画像の各領域をクラスタリングするステップと、
    前記医療機器が、前記クラスタリング結果の各クラスタの1つを当該クラスタに含まれる領域数に基づいて正常な色調に対応するクラスタと判定し、前記正常な色調に対応するクラスタと他の各クラスタとの位置関係に基づいて、前記他の各クラスタが正常な色調に対応するクラスタであるか異常な色調に対応するクラスタであるかを判定するステップと、
    前記医療機器が、前記入力された複数の画像のうち前記異常な色調に対応するクラスタが存在する画像について異常所見領域を含む画像として検出するステップと
    からなることを特徴とする画像処理方法。
  2. 前記特徴量を算出するステップは、前記入力された各画像をそれぞれ複数の分割領域に分割して、前記分割領域毎に色調に基づく特徴量を算出し、
    前記判定するステップは、前記算出された特徴量に基づき前記分割領域毎にクラスタリングを行うことを特徴とする請求項1に記載の画像処理方法。
  3. 前記特徴量は、複数の色信号の比に基づくものであることを特徴とする請求項1又は2に記載の画像処理方法。
  4. 前記画像は、RGB画像であることを特徴とする請求項1乃至3のいずれか1に記載の画像処理方法。
  5. 前記入力される画像がカプセル型内視鏡による撮像画像であることを特徴とする請求項1乃至4のいずれか1に記載の画像処理方法。
  6. 前記入力される画像が内視鏡による撮像画像であることを特徴とする請求項1乃至5のいずれか1に記載の画像処理方法。
JP2004003504A 2004-01-08 2004-01-08 画像処理方法 Expired - Fee Related JP4652694B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004003504A JP4652694B2 (ja) 2004-01-08 2004-01-08 画像処理方法
RU2006126081/09A RU2006126081A (ru) 2004-01-08 2004-09-13 Способ обработки данных и способ считывания данных

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004003504A JP4652694B2 (ja) 2004-01-08 2004-01-08 画像処理方法

Publications (2)

Publication Number Publication Date
JP2005192880A JP2005192880A (ja) 2005-07-21
JP4652694B2 true JP4652694B2 (ja) 2011-03-16

Family

ID=34818389

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004003504A Expired - Fee Related JP4652694B2 (ja) 2004-01-08 2004-01-08 画像処理方法

Country Status (2)

Country Link
JP (1) JP4652694B2 (ja)
RU (1) RU2006126081A (ja)

Families Citing this family (67)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4624842B2 (ja) * 2005-04-13 2011-02-02 オリンパスメディカルシステムズ株式会社 画像処理方法、画像処理装置及びプログラム
KR100970295B1 (ko) * 2005-04-13 2010-07-15 올림푸스 메디칼 시스템즈 가부시키가이샤 화상 처리 장치 및 화상 처리 방법
JP4624841B2 (ja) * 2005-04-13 2011-02-02 オリンパスメディカルシステムズ株式会社 画像処理装置および当該画像処理装置における画像処理方法
JP4767591B2 (ja) * 2005-06-01 2011-09-07 オリンパスメディカルシステムズ株式会社 内視鏡診断支援方法、内視鏡診断支援装置および内視鏡診断支援プログラム
CN101325909B (zh) * 2005-12-07 2012-07-25 皇家飞利浦电子股份有限公司 电子胃肠筛查
JP4520405B2 (ja) * 2005-12-28 2010-08-04 オリンパスメディカルシステムズ株式会社 画像処理装置および当該画像処理装置における画像処理方法
EP1969992B1 (en) 2005-12-28 2012-05-02 Olympus Medical Systems Corp. Image processing device and image processing method in the image processing device
JP4891636B2 (ja) * 2006-03-14 2012-03-07 オリンパスメディカルシステムズ株式会社 画像解析装置
JP5242381B2 (ja) * 2006-03-16 2013-07-24 オリンパスメディカルシステムズ株式会社 医療用画像処理装置及び医療用画像処理方法
JP5086563B2 (ja) 2006-05-26 2012-11-28 オリンパス株式会社 画像処理装置及び画像処理プログラム
JP2008023266A (ja) * 2006-07-25 2008-02-07 Olympus Medical Systems Corp 医療用画像処理装置及び医療用画像処理方法
JP4994737B2 (ja) * 2006-07-27 2012-08-08 オリンパスメディカルシステムズ株式会社 医療用画像処理装置及び医療用画像処理方法
JP4912787B2 (ja) 2006-08-08 2012-04-11 オリンパスメディカルシステムズ株式会社 医療用画像処理装置及び医療用画像処理装置の作動方法
JP4855868B2 (ja) 2006-08-24 2012-01-18 オリンパスメディカルシステムズ株式会社 医療用画像処理装置
JP2008093213A (ja) * 2006-10-12 2008-04-24 Olympus Medical Systems Corp 医療用画像処理装置及び医療用画像処理方法
WO2008102803A1 (ja) * 2007-02-22 2008-08-28 Olympus Medical Systems Corp. 被検体内導入システム
JP4936528B2 (ja) * 2007-03-28 2012-05-23 富士フイルム株式会社 カプセル内視鏡システム、およびカプセル内視鏡システムの作動方法
WO2008136098A1 (ja) 2007-04-24 2008-11-13 Olympus Medical Systems Corp. 医療用画像処理装置及び医療用画像処理方法
JP5248806B2 (ja) * 2007-04-25 2013-07-31 キヤノン株式会社 情報処理装置、情報処理方法
EP2149330B1 (en) 2007-05-08 2016-05-18 Olympus Corporation Image processing apparatus and image processing program
JP2008301968A (ja) * 2007-06-06 2008-12-18 Olympus Medical Systems Corp 内視鏡画像処理装置
JP5004736B2 (ja) * 2007-09-25 2012-08-22 オリンパス株式会社 画像処理装置および画像処理プログラム
JP5291955B2 (ja) 2008-03-10 2013-09-18 富士フイルム株式会社 内視鏡検査システム
JP5424584B2 (ja) 2008-06-17 2014-02-26 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法
JP5581574B2 (ja) * 2008-07-09 2014-09-03 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
WO2010050400A1 (ja) * 2008-10-27 2010-05-06 オリンパスメディカルシステムズ株式会社 画像処理装置、被検体内導入装置、医療システムおよび画像処理方法
JP5117353B2 (ja) 2008-11-07 2013-01-16 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理方法
JP5374135B2 (ja) * 2008-12-16 2013-12-25 オリンパス株式会社 画像処理装置、画像処理装置の作動方法および画像処理プログラム
JP2010187756A (ja) * 2009-02-16 2010-09-02 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
JP5220705B2 (ja) 2009-07-23 2013-06-26 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理方法
JP5800468B2 (ja) * 2010-05-11 2015-10-28 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
JP5622461B2 (ja) 2010-07-07 2014-11-12 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
JP5528255B2 (ja) * 2010-08-16 2014-06-25 Hoya株式会社 内視鏡画像処理システム
JP5555097B2 (ja) * 2010-08-24 2014-07-23 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、および画像処理プログラム
JP5800549B2 (ja) 2011-03-31 2015-10-28 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
EP2520923A1 (en) * 2011-05-06 2012-11-07 bioMérieux Bio-imaging method and system
JP5816459B2 (ja) * 2011-05-16 2015-11-18 Hoya株式会社 電子内視鏡システム、電子内視鏡システムの動作方法、及びソフトウェア
JP5825886B2 (ja) * 2011-07-04 2015-12-02 Hoya株式会社 画像処理装置、内視鏡装置の画像処理方法、及び画像処理ソフトウェア
JP5800626B2 (ja) 2011-07-29 2015-10-28 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP5851160B2 (ja) * 2011-08-31 2016-02-03 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP5980490B2 (ja) 2011-10-18 2016-08-31 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
EP2769663A4 (en) * 2011-10-21 2015-07-22 Olympus Medical Systems Corp ANTENNA CONNECTION UNIT, RECEIVER, CORRECTION OF RECEIVED SIGNAL STRENGTH, ENDOSCOPIC CAPSULE SYSTEM, CORRECTION PROCESS AND PROGRAM
JP5931418B2 (ja) 2011-11-25 2016-06-08 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP5926937B2 (ja) 2011-11-30 2016-05-25 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP5980555B2 (ja) 2012-04-23 2016-08-31 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP6265588B2 (ja) 2012-06-12 2018-01-24 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP6196760B2 (ja) * 2012-08-10 2017-09-13 オリンパス株式会社 画像処理装置
JP6422198B2 (ja) 2012-11-29 2018-11-14 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP2014140335A (ja) * 2013-01-24 2014-08-07 Dainippon Printing Co Ltd 培地画像解析装置、培地情報登録システム、プログラム及び衛生管理システム
JP6045396B2 (ja) 2013-02-27 2016-12-14 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP5622903B2 (ja) * 2013-08-05 2014-11-12 オリンパス株式会社 画像処理装置、画像処理装置の作動方法および画像処理プログラム
CN105530851A (zh) 2013-09-13 2016-04-27 奥林巴斯株式会社 图像处理装置、图像处理方法以及图像处理程序
JP6405138B2 (ja) * 2014-07-15 2018-10-17 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP6400994B2 (ja) * 2014-09-05 2018-10-03 オリンパス株式会社 検査画像表示システム
JP6259747B2 (ja) * 2014-09-30 2018-01-10 富士フイルム株式会社 プロセッサ装置、内視鏡システム、プロセッサ装置の作動方法、及びプログラム
CN107105989B (zh) * 2015-01-23 2018-12-18 奥林巴斯株式会社 图像处理装置、图像处理方法和记录介质
CN108601509B (zh) * 2015-11-26 2020-07-07 奥林巴斯株式会社 图像处理装置、图像处理方法以及记录有程序的介质
WO2017104192A1 (ja) * 2015-12-17 2017-06-22 オリンパス株式会社 医用観察システム
WO2017203701A1 (ja) * 2016-05-27 2017-11-30 オリンパス株式会社 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム
CN111511263B (zh) * 2017-12-26 2023-02-28 奥林巴斯株式会社 图像处理装置及图像处理方法
JP6849583B2 (ja) * 2017-12-26 2021-03-24 日本電信電話株式会社 画像異常判定装置、画像異常判定方法及びコンピュータプログラム
JP6912608B2 (ja) * 2018-02-07 2021-08-04 Hoya株式会社 内視鏡システム
WO2019159435A1 (ja) * 2018-02-13 2019-08-22 Hoya株式会社 内視鏡システム
WO2019216084A1 (ja) * 2018-05-09 2019-11-14 富士フイルム株式会社 検査動画処理装置、検査動画処理方法及び検査動画処理プログラム
KR20210030381A (ko) * 2018-06-29 2021-03-17 미라키 이노베이션 씽크 탱크 엘엘씨 기계 학습 및 인공 지능을 이용하는 체내 제어 가능한 소형화 의료 기기
JP7237318B2 (ja) * 2018-10-05 2023-03-13 国立大学法人大阪大学 画像処理装置、観察装置、画像処理方法及び画像処理プログラム
WO2024111349A1 (ja) * 2022-11-22 2024-05-30 富士フイルム株式会社 医用画像認識装置、内視鏡システム、及び医用画像認識装置の作動方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1014864A (ja) * 1996-04-30 1998-01-20 Olympus Optical Co Ltd 診断支援装置
JPH1091782A (ja) * 1996-09-10 1998-04-10 Olympus Optical Co Ltd 濃淡画像用特定部位抽出方法
JP2918162B2 (ja) * 1988-11-02 1999-07-12 オリンパス光学工業株式会社 内視鏡画像処理装置
JP2000155840A (ja) * 1998-11-18 2000-06-06 Olympus Optical Co Ltd 画像処理方法
JP2001037718A (ja) * 1999-05-26 2001-02-13 Olympus Optical Co Ltd 画像診断装置及び内視鏡装置
JP2002165757A (ja) * 2000-11-30 2002-06-11 Olympus Optical Co Ltd 診断支援装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2002241215A1 (en) * 2001-03-14 2002-09-24 Given Imaging Ltd. Method and system for detecting colorimetric abnormalities

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2918162B2 (ja) * 1988-11-02 1999-07-12 オリンパス光学工業株式会社 内視鏡画像処理装置
JPH1014864A (ja) * 1996-04-30 1998-01-20 Olympus Optical Co Ltd 診断支援装置
JPH1091782A (ja) * 1996-09-10 1998-04-10 Olympus Optical Co Ltd 濃淡画像用特定部位抽出方法
JP2000155840A (ja) * 1998-11-18 2000-06-06 Olympus Optical Co Ltd 画像処理方法
JP2001037718A (ja) * 1999-05-26 2001-02-13 Olympus Optical Co Ltd 画像診断装置及び内視鏡装置
JP2002165757A (ja) * 2000-11-30 2002-06-11 Olympus Optical Co Ltd 診断支援装置

Also Published As

Publication number Publication date
RU2006126081A (ru) 2008-04-27
JP2005192880A (ja) 2005-07-21

Similar Documents

Publication Publication Date Title
JP4652694B2 (ja) 画像処理方法
JP4615963B2 (ja) カプセル型内視鏡装置
JP4624841B2 (ja) 画像処理装置および当該画像処理装置における画像処理方法
JP4912787B2 (ja) 医療用画像処理装置及び医療用画像処理装置の作動方法
US8055033B2 (en) Medical image processing apparatus, luminal image processing apparatus, luminal image processing method, and programs for the same
US7885446B2 (en) System and method to detect a transition in an image stream
US8369626B2 (en) Image processing device and image processing method in image processing device for identifying features in an image
JP4493386B2 (ja) 画像表示装置、画像表示方法および画像表示プログラム
JP4472631B2 (ja) 画像処理装置および当該画像処理装置における画像処理方法
US20160249793A1 (en) Capsule Camera Device with Multi-Spectral Light Sources
WO2006112227A1 (ja) 画像処理装置及び画像処理方法
JP4520405B2 (ja) 画像処理装置および当該画像処理装置における画像処理方法
JP4554647B2 (ja) 画像表示装置、画像表示方法および画像表示プログラム
JP4624842B2 (ja) 画像処理方法、画像処理装置及びプログラム
JP5057651B2 (ja) 管腔画像処理装置、管腔画像処理方法及びそのためのプログラム
JP4547401B2 (ja) 画像表示装置、画像表示方法および画像表示プログラム
JP4547402B2 (ja) 画像表示装置、画像表示方法および画像表示プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101216

R151 Written notification of patent or utility model registration

Ref document number: 4652694

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131224

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees