JP2005137395A - 画像処理装置、該方法、及び該プログラム - Google Patents

画像処理装置、該方法、及び該プログラム Download PDF

Info

Publication number
JP2005137395A
JP2005137395A JP2003373927A JP2003373927A JP2005137395A JP 2005137395 A JP2005137395 A JP 2005137395A JP 2003373927 A JP2003373927 A JP 2003373927A JP 2003373927 A JP2003373927 A JP 2003373927A JP 2005137395 A JP2005137395 A JP 2005137395A
Authority
JP
Japan
Prior art keywords
image
image processing
color
images
observation target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003373927A
Other languages
English (en)
Other versions
JP4007954B2 (ja
Inventor
Kenji Nakamura
健次 中村
Katsumi Hirakawa
克己 平川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2003373927A priority Critical patent/JP4007954B2/ja
Priority to EP04792661A priority patent/EP1681009A4/en
Priority to PCT/JP2004/015495 priority patent/WO2005039399A1/ja
Publication of JP2005137395A publication Critical patent/JP2005137395A/ja
Priority to US11/410,334 priority patent/US20060189843A1/en
Application granted granted Critical
Publication of JP4007954B2 publication Critical patent/JP4007954B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Endoscopes (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 カプセル型内視鏡で撮影した画像のうち、観察対象の部位のみを抽出し、参照する画像枚数を極力抑えることができる画像処理装置を提供する。
【解決手段】 カプセル型内視鏡1で撮影した複数の画像を取得し、これらの画像が体内を撮影した前記画像か否かの判定をし、体内を撮影した画像と判定された画像を抽出し、その抽出した画像から実質的に同一か否かを判定し、別画像であると判定された画像を抽出し、さらに、疾患部位が撮影されている画像を抽出することができる画像処理装置7により、上記課題の解決を図る。
【選択図】 図1

Description

医療用機器、特にカプセル型内視鏡により撮影した膨大な量の画像の画像処理に関する。
近年、内視鏡分野においては、飲込み型のカプセル型内視鏡が登場している。このカプセル型内視鏡には、撮像機能と無線機能とが設けられている。カプセル型内視鏡は、観察(検査)のために患者の口から飲み込まれた後、人体から自然排出されるまでの観察期間、胃、小腸などの臓器を順次撮像する仕組みである(特許文献1)。
この観察期間、カプセル型内視鏡によって体内で撮像された画像データは、順次無線通信により外部に送信され、メモリに蓄積される。患者がこの無線通信機能とメモリ機能とを備えた受信機を携帯することにより、患者は、カプセル型内視鏡を飲み込んだ後、排出されるまでの観察期間、自由に行動できる。観察後、医者もしくは看護士においては、メモリに蓄積された画像データに基づいて臓器の画像をディスプレイに表示させて診断を行うことができる。
今日、この種のカプセル型内視鏡としては、イスラエルのギブン・イメージング社のM2A(登録商標)や日本の株式会社アールエフのNORIKA(登録商標)があり、すでに実用化の段階に移行している。
米国特許出願公開第2002/0093484号明細書
しかしながら、上述したカプセル型内視鏡においては、通常の内視鏡と異なり被験者が飲み込んで自然に排出されるまでの期間、各臓器を撮像させるので、観察(検査)時間がたとえば8時間以上となるように長時間に及ぶ。そして、その間の撮影は、例えば2[フレーム/秒]で行われている。このため、時系列に撮像される画像の枚数は膨大である。
よって、診察などの段階において、検査対象の部位や臓器内の画像を確認する場合、長時間撮像された膨大な画像から検索しなければならず、多大な時間や労力を費やしていた。
上記の課題に鑑み、本発明では、カプセル型内視鏡で撮影した画像のうち、観察対象の部位のみを抽出し、参照する画像枚数を極力抑えることができる画像処理装置、該方法、該プログラムを提供する。
上記課題は、特許請求の範囲の請求項1に記載の発明によれば、医療機器により撮影した複数の画像の画像処理を行う画像処理装置において、前記画像に含まれる画素値の色成分情報に基づいて、観察対象物が撮影された観察対象画像であるか否かの判定をする観察対象画像判定手段と、前記観察対象画像判定手段による判定結果に基づいて、前記観察対象画像を抽出する観察対象画像抽出手段と、を備えることを特徴とする画像処理装置を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項2に記載の発明によれば、前記観察対象画像判定手段は、所定のしきい値と前記各画像に含まれる画素値の色成分情報とを比較することを特徴とする請求項1に記載の画像処理装置を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項3に記載の発明によれば、前記しきい値は、前記観察対象画像内の前記観察対象物の画素値の色成分情報に基づいたものであることを特徴とする請求項2に記載の画像処理装置を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項4に記載の発明によれば、前記色成分情報は、XYZ表色系の色味の要素x,y、CIE U*V*W*色空間の色味の要素u,v、CIE LUV色空間の色味の要素u’,v’、CIE LAB色空間の色味の要素のa*,b*、及びRGB信号値からの比、のうち少なくともいずれか1つの色成分で示される情報であることを特徴とする請求項1に記載の画像処理装置を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項5に記載の発明によれば、前記画像処理装置は、さらに、前記複数の画像のうち所定の2つが実質的に同一画像か別画像かを判定する画像同一判定手段と、前記画像同一判定手段による判定結果に基づいて、前記別画像を抽出する別画像抽出手段と、を備えることを特徴とする請求項1に記載の画像処理装置を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項6に記載の発明によれば、前記画像処理装置は、さらに、前記画像が体内を撮影した画像である体内画像か否かの判定をする体内画像判定手段と、前記体内画像判定手段による判定結果に基づいて、前記体内画像を抽出する体内画像抽出手段と、を備えることを特徴とする請求項1に記載の画像処理装置を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項7に記載の発明によれば、前記医療機器は、カプセル型内視鏡であることを特徴とする請求項1に記載の画像処理装置を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項8に記載の発明によれば、医療機器により撮影した複数の画像の画像処理をコンピュータに実行させる画像処理プログラムにおいて、前記画像に含まれる画素値の色成分情報に基づいて、観察対象物が撮影された観察対象画像であるか否かの判定をする観察対象画像判定処理と、前記観察対象画像判定処理による判定結果に基づいて、前記観察対象画像を抽出する観察対象画像抽出処理と、をコンピュータに実行させる画像処理プログラムを提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項9に記載の発明によれば、前記観察対象画像判定処理は、所定のしきい値と前記各画像に含まれる画素値の色成分情報とを比較する処理をコンピュータに実行させる請求項8に記載の画像処理プログラムを提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項10に記載の発明によれば、前記しきい値は、前記観察対象画像内の前記観察対象物の画素値の色成分情報に基づいたものであることを特徴とする請求項9に記載の画像処理プログラムを提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項11に記載の発明によれば、前記色成分情報は、XYZ表色系の色味の要素x,y、CIE U*V*W*色空間の色味の要素u,v、CIE LUV色空間の色味の要素u’,v’、CIE LAB色空間の色味の要素のa*,b*、及びRGB信号値からの比、のうち少なくともいずれか1つの色成分で示される情報であることを特徴とする請求項8に記載の画像処理プログラムを提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項12に記載の発明によれば、前記画像処理プログラムは、さらに、前記複数の画像のうち所定の2つが実質的に同一画像か別画像かを判定する画像同一判定処理と、前記画像同一判定処理による判定結果に基づいて、前記別画像を抽出する別画像抽出処理と、をコンピュータに実行させる請求項8に記載の画像処理プログラムを提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項13に記載の発明によれば、前記画像処理プログラムは、さらに、前記画像が体内を撮影した画像である体内画像か否かの判定をする体内画像判定処理と、前記体内画像判定処理による判定結果に基づいて、前記体内画像を抽出する体内画像抽出処理と、をコンピュータに実行させる請求項8に記載の画像処理プログラムを提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項14に記載の発明によれば、前記医療機器は、カプセル型内視鏡であることを特徴とする請求項8に記載の画像処理プログラムを提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項15に記載の発明によれば、医療機器により撮影した複数の画像の画像処理を行う画像処理方法において、前記画像に含まれる画素値の色成分情報に基づいて、観察対象物が撮影された観察対象画像であるか否か判定し、該判定結果に基づいて前記観察対象画像を抽出することを特徴とする画像処理方法を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項16に記載の発明によれば、前記観察対象画像か否かの判定は、所定のしきい値と前記各画像に含まれる画素値の色成分情報とを比較することを特徴とする請求項15に記載の画像処理方法を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項17に記載の発明によれば、前記しきい値は、前記観察対象画像内の前記観察対象物の画素値の色成分情報に基づいたものであることを特徴とする請求項16に記載の画像処理方法を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項18に記載の発明によれば、前記色成分情報は、XYZ表色系の色味の要素x,y、CIE U*V*W*色空間の色味の要素u,v、CIE LUV色空間の色味の要素u’,v’、CIE LAB色空間の色味の要素のa*,b*、及びRGB信号値からの比、のうち少なくともいずれか1つの色成分で示される情報であることを特徴とする請求項15に記載の画像処理方法を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項19に記載の発明によれば、前記画像処理方法は、さらに、前記複数の画像のうち所定の2つが実質的に同一画像か別画像かを判定し、
該判定結果に基づいて、前記別画像を抽出することを特徴とする請求項15に記載の画像処理方法を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項20に記載の発明によれば、前記画像処理方法は、さらに、前記画像が体内を撮影した画像である体内画像か否かの判定をし、該判定結果に基づいて、前記体内画像を抽出することを特徴とする請求項15に記載の画像処理方法を提供することによって達成できる。
また上記課題は、特許請求の範囲の請求項21に記載の発明によれば、前記医療機器は、カプセル型内視鏡であることを特徴とする請求項15に記載の画像処理方法を提供することによって達成できる。
上記より特許請求の範囲の請求項1,8,15に記載の発明のように構成することによって、不必要な画像を排除し、観察対象の部位や臓器の画像のみ抽出することができる。
また特許請求の範囲の請求項2,9,16に記載の発明のように構成することによって、観察対象の部位または臓器特有の色味を有する画像のみを抽出することができる。
また特許請求の範囲の請求項3,10,17に記載の発明のように構成することによって、観察対象の部位または臓器特有の色味を有する画像のみを抽出することができる。
また特許請求の範囲の請求項4,11,18に記載の発明のように構成することによって、様々な表色系や色空間の色味を用いることができる。
また特許請求の範囲の請求項5,12,19に記載の発明のように構成することによって、実質的に同一の画像を取り除くことができる。
また特許請求の範囲の請求項6,13,20に記載の発明のように構成することによって、明らかに不要な体外の画像を取り除くことができる。
また特許請求の範囲の請求項7,14,21に記載の発明のように構成することによって、カプセル型内視鏡で撮影された膨大な画像のうち観察対象部位又は観察対象臓器の画像を効率よく取得することができる。
本発明を用いることにより、疾患部位検出を行う対象画像を減らすことで、疾患部位検出の高速化が可能となる。
本実施形態では、膨大な画像データのうち検査対象(観察対象)となる部位の画像(以下、必要な画像)のみを抽出して表示対象とする画像処理を説明する。ここで、必要な画像および不必要な画像データ(体外の画像や検査対象(観察対象)となる部位以外の画像)について説明する。
カプセル型内視鏡による撮影は、通常、飲み込む直前から開始されているので、体外の画像や口内の画像など撮影対象外の画像データ、すなわち不必要な画像が含まれている。
また、カプセル型内視鏡は、消化器系器官の蠕動(ぜんどう)運動によって体内を進行していくので、この蠕動運動が小休止していたり、また体内の様態により(疾患や消化器の門などに起因)カプセル型内視鏡の動きが抑制される場合には、カプセル型内視鏡の進行が一時的に停止する可能性がある。しかし、この場合にも撮影は随時行われているので、その間に撮影される画像は同一、または実質同一なものである。
また、例えば胃の画像のみが必要な場合、それ以外の例えば、食道や小腸等の他の臓器の画像は不要な画像である。また、疾患部位のみの画像のみが必要な場合、それ以外の他の部位が撮影されている画像は不要である。
このように、膨大に撮影される画像データの中のうち、観察対象以外の画像は、特に診察時に確認する必要は低いので、これらの画像以外の必要な画像のみを抽出する。それでは、以下に本実施形態について詳述する。
図1は、本実施形態における体腔内検査で利用されるカプセル型内視鏡及びその周辺機器を示す。図1(A)に示すように、カプセル型内視鏡1を用いた検査システムは、カプセル型内視鏡1を患者2が口から飲み込むことにより体腔内を検査するカプセル型内視鏡1と、この患者2の体外に配置され、カプセル型内視鏡1で撮像した画像データを無線で受信するアンテナユニット4に接続される受信機である外部装置5とからなる。
体腔内検査時には外部装置5に装着されて、カプセル型内視鏡1から送信され外部装置5で受信した画像情報を記録するための、コンパクトフラッシュ(登録商標)メモリ等の可搬型記憶媒体を介して、パーソナルコンピュータ、ワークステーション等の端末装置7(本実施形態では、ワークステーション7を用いる)に前述の画像情報を取り込むようになっている。
または、図1(B)に示すように、この外部装置5はクレードル6に装着して、若しくは図示しないUSBケーブル等によってワークステーション7に電気的に接続できるようになっている。これにより、この外部装置5に挿入された可搬型記憶媒体に記憶された画像データをワークステーション7へ取り込むことができる。また、可搬型記憶媒体の読取装置をワークステーション7へ接続し、その読み取り装置に可搬型記憶を挿入して、可搬型記憶に記憶された画像データを読み出してワークステーション7へ取り込むようにしてもよい。
上記の画像の取り込みは、キーボード9やマウス10等の入力・操作デバイスの操作により実行される。ワークステーション7へ取り込まれた画像は、ディスプレイ8に表示したり、プリンタに出力したりすることができる。
図1(A)に示すように、カプセル型内視鏡1を飲み込んで内視鏡検査を行う場合、患者2が着るジャケット3には複数のアンテナ11が取り付けられたアンテナユニット4が装着されており、カプセル型内視鏡1により撮像された画像データは無線によりアンテナ11へ送信され、その画像データをアンテナユニット4で受信するようになっている。そして、その画像データは、アンテナユニット4に接続された外部装置5に保存される。この外部装置5は、例えば患者2のベルトに着脱自在のフックにより取り付けられる。
カプセル型内視鏡1は、カプセル形状となって水密構造となっており、その内部に、体内を撮影する撮像部、撮影対象物を照明するための照明部、撮影した画像をアンテナ11へ送信するための送信部、これらを駆動させるための電池、電源基板部等から構成されている。
カプセル型内視鏡1の起動手段としては、電源供給開始手段としてのON/OFFスイッチがカプセル内部に設けられており、このスイッチがON操作されることによって、撮像部、照明部等への電源供給を開始させ得るものである。このON/OFFスイッチは、カプセル型内視鏡1の電源基板部に設けてあるもので、電源基板部に設けた電池(例えば酸化銀電池等)がカプセル型内視鏡1内の各部に電源を供給するのを開始するスイッチである。
カプセル型内視鏡1の外部から(例えばカプセル型内視鏡1を梱包するパッケージに設けられる)磁力を発生する外部磁石がON/OFFスイッチをOFF状態に付勢し、且つカプセル型内視鏡1の内部におけるON/OFFスイッチの近傍に設けられてこのON/OFFスイッチをON状態に付勢する内部磁石を設けている。
しかして、カプセル型内視鏡1を外部磁石から遠ざけることによって(すなわち、カプセル型内視鏡1を梱包するパッケージからカプセル型内視鏡1を取り出すことによって)、OFF位置にあったON/OFFスイッチをON位置とできるようにしてある。このようにして、カプセル型内視鏡1が起動し、撮影が開始される。
したがって、カプセル型内視鏡1を梱包するパッケージからカプセル型内視鏡1を取り出すことによって撮影は開始するので、カプセル型内視鏡装置1を体内に取り込む前の診断には不要な体外の画像が撮影されている。
図2は、本実施形態におけるカプセル型内視鏡1で撮影した画像データの画像処理を行うワークステーション7の内部構成の概要を示す。ワークステーション7は、各種の処理で利用するRAM(Random Access Memory)やROM(Read Only Memory)等のメモリ20と、大容量のデータを格納する大容量記憶装置21と、ワークステーション7全体をあらかじめ用意されたプログラムにしたがって制御するCPU(Central Processing Unit)22と、外部装置5(または、コンパクトフラッシュ(登録商標)メモリ等の可搬型記憶媒体)からの画像データを取り込んだり、キーボード9やマウス10等の操作部からデータや指示を入力したりする入力I/F23、本実施形態による体内の画像などをディスプレイ8に出力したり、プリンタ等にデータを出力したりするための出力I/F24、及びこれらを接続するバス25から構成される。
カプセル型内視鏡1により撮影された画像データは、逐一外部装置5に送信され、外部装置5内の可搬型記憶媒体に記憶される。この記憶された画像データは、上述の通り、外部装置5をクレードル6に装着したり、可搬型記憶媒体を読み取り装置にセットしたりすることによってワークステーション7に電気的に接続し、ワークステーション7内の大容量記憶装置21に格納される。このようにして、カプセル型内視鏡1で撮影した画像は、ワークステーション7に取り込まれる。ワークステーション7に取り込まれた画像データは、本実施形態における画像処理により所定の処理が施され、ディスプレイ8に表示される。
図3は、本実施形態におけるカプセル型内視鏡1で撮影した画像の画像処理の全体フローを示す。まず、ユーザが、マウス10等の入力デバイスの操作により、ワークステーション7の大容量記憶装置21に予めインストールしてある本実施形態にかかるプログラムを起動させる。このプログラムの起動指示を受けたCPU22は、大容量記憶装置21よりこのプログラムを読み出し、図3のフローを実行させ、順次、画像の体内・体外判別処理(ステップ1。以下ステップをSと略する。)、画像の別・同一判別処理(S2)、画像の必要・不要判別処理(S3)が実行される。
まず、画像の体内・体外判別処理(S1)では、カプセル型内視鏡1で撮影されたデータのうち不要な体外の画像を取り除き、必要な画像である体内の画像のみ取得する処理を行う。次に、画像の別・同一判別処理(S2)では、体内の画像のうち実質的に同一の画像データを取り除き、異なる画像データを取得する処理を行う。次に、画像の必要・不必要判別処理(S3)では、観察対象の画像データを取得する処理を行う。
図4は、図3のS1の画像の体内・体外判別処理の詳細な処理フローを示す。同図のフローでは、撮影順に記録媒体に保存された画像データを順に読み込み、RGBデータからXYZデータに変換し、後述するxy色度値の閾値処理により、画像が体内か体外かを判別する判断処理を行う。
RGBデータとは、R(赤)、G(緑)、B(青)の3原色のRGB表色系で示される画像データのことをいう。また、XYZデータとは、XYZ表色系で画像データを表すことである。XYZ表色系とは、色刺激値を表示するために国際照明委員会(CIE)が定めた基本的な表色体系である。XYZ表色系では、RGB表色系では表現できない鮮やかな色まで表現できる。以下において、XYZ表色系で表される色を色味と呼ぶ。
それでは、以下に本フローについて説明する。
まず、記録媒体(例えば、コンパクトフラッシュ(登録商標)等)へ保存された後、上記でワークステーション7の大容量記憶装置21へ格納された画像データの画像枚数をA枚とすると、撮影全画像の枚数を示す変数TAにAを代入する(S10)。ただし、大容量記憶装置21へ格納された画像データのうち、処理したい画像だけを「全画像データA枚」としても、もちろん構わない(対象フォルダ内、など)。
次に、カウンタを示す変数CntA=1とし、1枚目の画像データを読み込む(S11)。次に、「体内」という判別をされた画像が予め決められた所定枚数以上あるか否かを判別する(S12)。初めてS12を通過する場合には、後述する「体内」という判別がまだされていないので、No方向へ進む。
S12でNo方向へ進んだ場合、画像の色味から判別処理を行う(S13)。ここでは、まず、RGBデータからXYZデータへの変換を行う。ワークステーション7に取り込まれた画像データは、RGBデータであるので、これをXYZデータへ変換する。この変換は、一般的な手法により行われるので、ここでは割愛する。
そして、このXYZデータからxy色度値を求める。このxy色度値が予め決められたしきい値範囲内か否かを判断する。ここで、このしきい値範囲は、体内の画像データのxy色度値の一般的な値の分布に基づいて設定される。したがって、算出したxy色度値がしきい値範囲内であれば、その画像データは体内を撮影したものであると考えられる。また、算出したxy色度値がしきい値未満であれば、その画像データは体外を撮影したものであると考えられる。
次に、S13で算出したxy色度値がしきい値範囲内であれば、その画像が「体内」の画像である旨のメッセージを返す。また、算出したxy色度値がしきい値範囲外であれば、その画像が「体外」の画像である旨のメッセージを返す(S14)。それから、CntAをインクリメントする(CntA=CntA+1)。
次に、S16で取得した全画像データA枚分の処理が終了しているか否かを判断する(S16)。つまり、TA<CntAの場合、「Yes」方向へ進み、TA≧CntAの場合、「No」へ進む。ここでは、CntA=2なので、「No」へ進み(TA≠1の場合)、2枚目の画像を読み込んで、S11→S12→S13→S14→S16の処理を行い、CntAをインクリメントして3枚目以降も同様の処理を実行する。これらの処理を繰り返す。
そうすると、S12において、「体内」という判別をされた画像が所定枚数に達すると、「体内」の結果メッセージが返される(S15)。したがって、これ以降の画像については、S11→S12→S15→S16となり、無条件で「体内」の結果メッセージが返される。この処理は、体外にあるカプセル型内視鏡1を口から飲み込んでしまうと、それ以降に撮影されるのは体内の画像であるということに基づいている。
これにより、「体内」という判別が所定フレーム以上なされた場合には、それ以降の画像は全て「体内」であると判断し、S13によるしきい値の判別処理を打ち切るので、処理の高速化を図ることが可能となる。
こうして、全画像データA枚分の処理を終了すると、S16でTA<CntAとなるので「Yes」方向へ進み、S14またはS15で「体内」の結果メッセージが返された画像を抽出し(S17)、本フローは終了する。なお、本実施形態では、全画像の枚数とカウンタを用いていたが、それらを用いずとも「先頭画像ファイルから順に読み込んでいき、次のファイルが見つかればS16で「No」へ、見つからなければ「Yes」へ進む」、としても可能である。また、S17で抽出された画像の枚数をB枚とする。
なお、本実施形態では、XYZ表色系(CIE 1931)の色味のファクターx、yを用いたがこれに限られない。よって、例えば、CIE U*V*W*色空間を用いた場合なら、色味のファクターu,vを色度値として用い、また、CIE LUV色空間を用いた場合なら、色味のファクターu’,v’を色度値として用い、CIE LAB色空間を用いた場合なら、色味のファクターa*,b*を色度値として用いてもよい。
すなわち、本実施形態では、xy色度値を用いたが、これに限らず、xy色度値の代わりに、L*a*b*,L*u*V*などの何らかの色相・彩度等、色味に関連するファクターで有れば、判別基準は何でも構わない。
また、取り込んだ画像を、これらの他の表色系または色空間に変換せずに、RGB系を用いてもよい。この場合には、RGBの信号値から、R/G,R/B 等の(別にG/R, B/Rでも良い)値を判断基準の閾値として用いても構わない。
すわなち、S13において、画像から得られる何らかの値から色味を判断することができれば、判別処理にあたってRGBや表色系の種類には限定されない。
上記より、本フローにより処理することで、カプセル型内視鏡1で撮影した画像データのうち体内の画像のみを抽出することができる。
図5は、図3のS2の画像の別・同一判別処理の詳細な処理フローを示す。同図のフローでは、直前フレームと対象フレームとの画素値の例えば平均値等を調べ、その平均値の変化量がある閾値以下(または未満)で有れば同一な画像と判断し、そうでなければ別画像と判断する判断処理を行い、別画像と判断された画像を抽出する。それでは、以下に本フローについて説明する。
まず、図4に示したS1の画像の体内・体外判別処理で取得した画像枚数Bを本フローで用いる全画像の枚数を示す変数TBに代入する。それから、カウンタを示す変数CntB=1とし、S1で抽出した画像データB枚のうち1枚目の画像データを読み込む(S20)。
次に、S20で読み込んだ画像が最初の画像(CntB=1の画像)か否かを判断する(S21)。すわなち、CntB=1の場合、「Yes」方向へ進み、CntB≧2の場合、「No」方向へ進む。CntB=1であるので、「Yes」方向へ進み、その画像が直前の画像とは「別画像」の画像である旨のメッセージ(「別画像」結果メッセージ)を返す(S25)。それから、CntBをインクリメントする(CntB=CntB+1)。
次に、S1で抽出した画像データB枚分の処理が終了しているか否かを判断する。つまり、TB<CntBの場合、「Yes」方向へ進み、TB≧CntBの場合、「No」へ進む。ここでは、CntB=2なので、「No」へ進み(TB≠1の場合)、S20で2枚目の画像を読み込んで、S21の処理を行う。
S21で、CntB=2であるので「No」方向へ進み、直前の画像と画素値を比較する(S22)。ここでは、例えば、今回の画像の各画素値とそれに対応する直前の画像の各画素値との差分を算出しても良い。また、予めサンプリングするエリアを決めておき、そのエリアでの画素値の差分を求めてもよい。この場合、S22での処理は、画像全体で実行したときに比べ、処理の高速化を図ることが可能となる。
また、今回の画像全体の画素値の平均と直前の画像全体の画素値の平均を算出し、その差分を算出してもよい。また、今回の画像に含まれる画素のうち最大(または最小)の画素値と直前の画像に含まれる画素のうち最大(または最小)の画素値を算出し、その差分を算出してもよい。
次に、S22での2つの画像の比較の結果、両者の画素値の差(すなわち、S22で算出した差分)が予め決められたしきい値以下(または未満)の場合(S23)、これらの2つの画像が「同一画像」である旨のメッセージ(「同一画像」結果メッセージ)を返し、CntBをインクリメントする(S24)。
また、S22での2つの画像の比較の結果、両者の画素値の差がしきい値より大きい(または以上)の場合(S23)、これらの2つの画像が「別画像」である旨のメッセージ(「別画像」結果メッセージ)を返し、CntBをインクリメントする(S25)。
全画像データB枚分の処理が終了すると、S26でTB<CntBを満たすので「Yes」方向へ進み、S25で「別画像」と判断された画像が抽出され(S27)、本フローは終了する。なお本実施形態では、全画像の枚数を用いていたが、それを用いずとも、「B枚に属する先頭画像ファイルから順に読み込んで行き、次のファイルが見つかればS26で「No」へ、見つからなければ「Yes」へ進む」、としても可能である。また、S27で抽出された「別画像」と判断された画像の枚数をC枚とする。
図6は、図3のS3の画像の必要・不必要判別処理の詳細な処理フローを示す。同図のフローは、様々な臓器又は部位を撮影した画像の中から特定の臓器又は部位の画像、すなわち必要な画像のみを抽出する。それでは、以下に本フローについて説明する。
まず、図3に示したS2の画像の体内・体外判別処理で取得した画像枚数Cを本フローで用いる全画像の枚数を示す変数TCに代入する。それから、カウンタを示す変数CntC=1とし、S2で抽出した画像データC枚のうち1枚目の画像データを読み込む(S30)。
次に、所定のしきい値に基づいて、S30で読み込んだ画像の色味の判別処理を行う(S31)。ここでの判定は図4のS13と同様にして色味、すなわちxy色度値を求め、このxy色度値が予め決められたしきい値の範囲内であるか否かを判断する。ここで、図4のS13と異なるのは、このしきい値である。観察対象部位とは、診断の対象とする部位、すなわち疾患部位のことである。本実施形態では、疾患部位の1つである出血部位が撮影された画像の抽出について述べる。
本フローで抽出すべき画像は、観察対象部位が撮影された画像、すなわち、出血部位が撮影された画像であるので、出血部位が撮影された画像が抽出されるようにしきい値を設定しなければならない。そこで、予め出血部分のxy色度値分布を算出しておき、これをしきい値範囲とする。
次に、S31の結果に基づいて、その画像が観察対象画像か否かの判定をする(S34)。すなわち、観察対象画像のxy色度値が予め決められたしきい値範囲内の場合には、「必要画像」である旨の結果メッセージを返し(S34)、観察対象画像のxy色度値が予め決められたしきい値範囲外の場合には、「不要画像」である旨の結果メッセージを返す(S34)。それから、CntCをインクリメントする(CntC=CntC+1)。
次に、本フローの処理対象である全画像データC枚分の処理が終了しているか否かを判断する(S35)。つまり、TC<CntCの場合、「Yes」方向へ進み、TC≧CntCの場合、「No」へ進む。ここでは、CntA=2なので、「No」へ進み、2枚目の画像を読み込んで、S30→S31→S32→S33(またはS34)→S35の処理を行い、CntCをインクリメントして3枚目以降も同様の処理を実行する。これらの処理を繰り返す。
こうして、全画像データC枚分の処理を終了すると、S35でTC<CntCを満たすのでS35で「Yes」方向へ進み、S34で「必要画像」の結果メッセージが返された画像を抽出し(S36)、本フローは終了する。なお、本実施形態では、S36で抽出された画像の枚数をD枚とする。
よって、図3のフローにより処理された画像データD枚がディスプレイ8に表示される対象となり、医師は診療時において、そのD枚を確認すればよい。つまり、本フローを実施することにより、医師は多くともD枚(D<<A)の画像だけを見れば良いので、疾患部位が撮影されている画像を見つけるために、長時間撮像された膨大な画像A枚すべてを確認する必要は無いので、時間や労力を軽減することができる。なお、この図3の処理を実行後のデータは、実行前のデータとは(大容量記憶装置の)別の領域に格納され、実行前のデータは未加工のまま保全される。
なお、本実施形態では、図6で、疾患部位(上記では出血部位)の画像の検出するために、色味を用いたが、これに限定されず、例えば、潰瘍や腫瘍、炎症との疾患部位の形状を予め登録しておき、S31でその形状と撮影した画像とをパターンマッチングさせて、その類似度により判定しても良い。
また、疾患部位に限らず、所定の臓器を撮影した画像の抽出も行うことができる。この場合、しきい値として設定するのは、その観察対象となる臓器の色味により算出された値を用いる。体内の臓器はそれぞれ、色味が異なっており、その特徴的な色味に基づくしきい値を持っているものである。
以上より、D<C<B<Aより、ドクターが診療時に見るべき画像の枚数を削減することで、診療の効率化及び短縮化が可能となる。このように、疾患部位の画像のみを抽出し、その他の部位の画像や体外の画像、実質的に同一な画像を取り除くことことができる。これにより医師が診断時に見るべき画像の枚数の削減を(非常に短時間で)行うことにより、診療の効率化及び診断時間の短縮が図れる。
<第2の実施形態>
本実施形態は、第1の実施形態の変形例であり、処理手順を一部省略及び変更したものである。それでは、本実施形態について、以下に説明する。
図7は、本実施形態における画像処理の全体のフローを示す図(例1)である。図7は、図3と比較して、S1を省略し、S2とS3の処理順を入れ替えたものである。第1の実施形態の図3で説明したのと同様にして、図7を実行させると、まず、画像の必要・不要判別処理(S3)が実行され、次に画像の別・同一判別処理(S2)が実行される。
このような順で処理を行うと、まずS3で疾患部位の画像が抽出され、次にS2でその疾患部位の画像のうち同一画像を除いた画像群が抽出される。
なお、図3の画像の体内・体外判別処理(S1)は省略されているが、これは図3で体外の画像が取り除かれるからである。すなわち、S3での色味を用いた判定では、出血部位の出血部分の色味に基づいたしきい値や所定の臓器に特徴的な色味に基づいたしきい値が設定されているので、体外の画像の色味ではこのしきい値を越えることは通常有りえないからである。しかし、S1を省略することなく、S1→S3→S2の順で実行しても問題はない。
また、しきい値ではなく、疾患部位とのパターンマッチングを用いる場合も、体外の画像には、疾患部位とのパターンが存在しないためS3でその体外の画像が抽出されることはない。
図8は、本実施形態における画像処理の全体のフローを示す図(例2)である。図8は、図3と比較して、S1を省略したものである。まずS2で画像のうち同一画像を除いた画像が抽出され、次にS3で疾患部位の画像が抽出される。上述の通り、ここでも、体外の画像はS3で取り除かれる。
以上より、本実施形態においても第1の実施形態と同様の効果が得られる。
本実施形態における体腔内検査に使用されるカプセル型内視鏡及びその周辺機器を示す図である。 本実施形態におけるカプセル型内視鏡で撮影した画像データの画像処理を行うワークステーション7の内部構成を示す図である。 本実施形態における画像処理の全体のフローを示す図である。 図3におけるS1の画像の体内・体外判別処理の詳細な処理フローを示す図である。 図3におけるS2の画像の別・同一判別処理の詳細な処理フローを示す図である。 図3におけるS3の画像の必要・不必要判別処理の詳細な処理フローを示す図である。 第2の実施形態における画像処理の全体のフローを示す図(例1)である。 第2の実施形態における画像処理の全体のフローを示す図(例2)である。
符号の説明
1 カプセル型内視鏡
2 患者
3 ジャケット
4 アンテナユニット
5 外部装置
6 クレードル
7 ワークステーション
8 ディスプレイ
9 キーボード
10 マウス
11 アンテナ
20 メモリ(RAM,ROM)
21 大容量記憶装置
22 CPU
23 入力I/F
24 出力I/F
25 バス

Claims (21)

  1. 医療機器により撮影した複数の画像の画像処理を行う画像処理装置において、
    前記画像に含まれる画素値の色成分情報に基づいて、観察対象物が撮影された観察対象画像であるか否かの判定をする観察対象画像判定手段と、
    前記観察対象画像判定手段による判定結果に基づいて、前記観察対象画像を抽出する観察対象画像抽出手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記観察対象画像判定手段は、所定のしきい値と前記各画像に含まれる画素値の色成分情報とを比較することを特徴とする請求項1に記載の画像処理装置。
  3. 前記しきい値は、前記観察対象画像内の前記観察対象物の画素値の色成分情報に基づいたものであることを特徴とする請求項2に記載の画像処理装置。
  4. 前記色成分情報は、XYZ表色系の色味の要素x,y、CIE U*V*W*色空間の色味の要素u,v、CIE LUV色空間の色味の要素u’,v’、CIE LAB色空間の色味の要素のa*,b*、及びRGB信号値からの比、のうち少なくともいずれか1つの色成分で示される情報であることを特徴とする請求項1に記載の画像処理装置。
  5. 前記画像処理装置は、さらに、
    前記複数の画像のうち所定の2つが実質的に同一画像か別画像かを判定する画像同一判定手段と、
    前記画像同一判定手段による判定結果に基づいて、前記別画像を抽出する別画像抽出手段と、
    を備えることを特徴とする請求項1に記載の画像処理装置。
  6. 前記画像処理装置は、さらに、
    前記画像が体内を撮影した画像である体内画像か否かの判定をする体内画像判定手段と、
    前記体内画像判定手段による判定結果に基づいて、前記体内画像を抽出する体内画像抽出手段と、
    を備えることを特徴とする請求項1に記載の画像処理装置。
  7. 前記医療機器は、カプセル型内視鏡であることを特徴とする請求項1に記載の画像処理装置。
  8. 医療機器により撮影した複数の画像の画像処理をコンピュータに実行させる画像処理プログラムにおいて、
    前記画像に含まれる画素値の色成分情報に基づいて、観察対象物が撮影された観察対象画像であるか否かの判定をする観察対象画像判定処理と、
    前記観察対象画像判定処理による判定結果に基づいて、前記観察対象画像を抽出する観察対象画像抽出処理と、
    をコンピュータに実行させる画像処理プログラム。
  9. 前記観察対象画像判定処理は、所定のしきい値と前記各画像に含まれる画素値の色成分情報とを比較する処理をコンピュータに実行させる請求項8に記載の画像処理プログラム。
  10. 前記しきい値は、前記観察対象画像内の前記観察対象物の画素値の色成分情報に基づいたものであることを特徴とする請求項9に記載の画像処理プログラム。
  11. 前記色成分情報は、XYZ表色系の色味の要素x,y、CIE U*V*W*色空間の色味の要素u,v、CIE LUV色空間の色味の要素u’,v’、CIE LAB色空間の色味の要素のa*,b*、及びRGB信号値からの比、のうち少なくともいずれか1つの色成分で示される情報であることを特徴とする請求項8に記載の画像処理プログラム。
  12. 前記画像処理プログラムは、さらに、
    前記複数の画像のうち所定の2つが実質的に同一画像か別画像かを判定する画像同一判定処理と、
    前記画像同一判定処理による判定結果に基づいて、前記別画像を抽出する別画像抽出処理と、
    をコンピュータに実行させる請求項8に記載の画像処理プログラム。
  13. 前記画像処理プログラムは、さらに、
    前記画像が体内を撮影した画像である体内画像か否かの判定をする体内画像判定処理と、
    前記体内画像判定処理による判定結果に基づいて、前記体内画像を抽出する体内画像抽出処理と、
    をコンピュータに実行させる請求項8に記載の画像処理プログラム。
  14. 前記医療機器は、カプセル型内視鏡であることを特徴とする請求項8に記載の画像処理プログラム。
  15. 医療機器により撮影した複数の画像の画像処理を行う画像処理方法において、
    前記画像に含まれる画素値の色成分情報に基づいて、観察対象物が撮影された観察対象画像であるか否か判定し、該判定結果に基づいて前記観察対象画像を抽出することを特徴とする画像処理方法。
  16. 前記観察対象画像か否かの判定は、所定のしきい値と前記各画像に含まれる画素値の色成分情報とを比較することを特徴とする請求項15に記載の画像処理方法。
  17. 前記しきい値は、前記観察対象画像内の前記観察対象物の画素値の色成分情報に基づいたものであることを特徴とする請求項16に記載の画像処理方法。
  18. 前記色成分情報は、XYZ表色系の色味の要素x,y、CIE U*V*W*色空間の色味の要素u,v、CIE LUV色空間の色味の要素u’,v’、CIE LAB色空間の色味の要素のa*,b*、及びRGB信号値からの比、のうち少なくともいずれか1つの色成分で示される情報であることを特徴とする請求項15に記載の画像処理方法。
  19. 前記画像処理方法は、さらに、
    前記複数の画像のうち所定の2つが実質的に同一画像か別画像かを判定し、
    該判定結果に基づいて、前記別画像を抽出することを特徴とする請求項15に記載の画像処理方法。
  20. 前記画像処理方法は、さらに、
    前記画像が体内を撮影した画像である体内画像か否かの判定をし、該判定結果に基づいて、前記体内画像を抽出することを特徴とする請求項15に記載の画像処理方法。
  21. 前記医療機器は、カプセル型内視鏡であることを特徴とする請求項15に記載の画像処理方法。
JP2003373927A 2003-10-27 2003-11-04 画像処理装置、該方法、及び該プログラム Expired - Fee Related JP4007954B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2003373927A JP4007954B2 (ja) 2003-11-04 2003-11-04 画像処理装置、該方法、及び該プログラム
EP04792661A EP1681009A4 (en) 2003-10-27 2004-10-20 IMAGE PROCESSING DEVICE, IMAGE PROCESSING AND IMAGE PROGRAM
PCT/JP2004/015495 WO2005039399A1 (ja) 2003-10-27 2004-10-20 画像処理装置、画像処理方法及び画像処理プログラム
US11/410,334 US20060189843A1 (en) 2003-10-27 2006-04-24 Apparatus, Method, and computer program product for processing image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003373927A JP4007954B2 (ja) 2003-11-04 2003-11-04 画像処理装置、該方法、及び該プログラム

Publications (2)

Publication Number Publication Date
JP2005137395A true JP2005137395A (ja) 2005-06-02
JP4007954B2 JP4007954B2 (ja) 2007-11-14

Family

ID=34685802

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003373927A Expired - Fee Related JP4007954B2 (ja) 2003-10-27 2003-11-04 画像処理装置、該方法、及び該プログラム

Country Status (1)

Country Link
JP (1) JP4007954B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008041401A1 (fr) * 2006-10-02 2008-04-10 Olympus Corporation Dispositif, procédé et programme de traitement d'image
JP2009513283A (ja) * 2005-10-26 2009-04-02 カプソ・ビジョン・インコーポレイテッド 内蔵式データ記憶装置または規制認可された帯域におけるデジタルワイヤレス伝送を用いる生体内自走式カメラ
JP2010115243A (ja) * 2008-11-11 2010-05-27 Hoya Corp 電子内視鏡用画像信号処理装置
JP2011090712A (ja) * 2008-08-05 2011-05-06 Casio Computer Co Ltd 画像処理装置、プログラム
US8055033B2 (en) 2005-02-15 2011-11-08 Olympus Corporation Medical image processing apparatus, luminal image processing apparatus, luminal image processing method, and programs for the same
US8144993B2 (en) 2004-12-10 2012-03-27 Olympus Corporation Medical image processing method
JP2012147882A (ja) * 2011-01-18 2012-08-09 Fujifilm Corp 内視鏡用画像撮像装置
US8526740B2 (en) 2008-08-05 2013-09-03 Casio Computer Co., Ltd. Image processing device and recording medium
JP2016007444A (ja) * 2014-06-25 2016-01-18 オリンパス株式会社 画像記録装置
JPWO2019054265A1 (ja) * 2017-09-15 2020-10-01 富士フイルム株式会社 医療画像処理装置

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8144993B2 (en) 2004-12-10 2012-03-27 Olympus Corporation Medical image processing method
US8055033B2 (en) 2005-02-15 2011-11-08 Olympus Corporation Medical image processing apparatus, luminal image processing apparatus, luminal image processing method, and programs for the same
JP2009513283A (ja) * 2005-10-26 2009-04-02 カプソ・ビジョン・インコーポレイテッド 内蔵式データ記憶装置または規制認可された帯域におけるデジタルワイヤレス伝送を用いる生体内自走式カメラ
JP5080485B2 (ja) * 2006-10-02 2012-11-21 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
US8135192B2 (en) 2006-10-02 2012-03-13 Olympus Corporation Image processing apparatus and image processing method
JPWO2008041401A1 (ja) * 2006-10-02 2010-02-04 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
WO2008041401A1 (fr) * 2006-10-02 2008-04-10 Olympus Corporation Dispositif, procédé et programme de traitement d'image
JP2011090712A (ja) * 2008-08-05 2011-05-06 Casio Computer Co Ltd 画像処理装置、プログラム
US8526740B2 (en) 2008-08-05 2013-09-03 Casio Computer Co., Ltd. Image processing device and recording medium
JP2010115243A (ja) * 2008-11-11 2010-05-27 Hoya Corp 電子内視鏡用画像信号処理装置
JP2012147882A (ja) * 2011-01-18 2012-08-09 Fujifilm Corp 内視鏡用画像撮像装置
JP2016007444A (ja) * 2014-06-25 2016-01-18 オリンパス株式会社 画像記録装置
JPWO2019054265A1 (ja) * 2017-09-15 2020-10-01 富士フイルム株式会社 医療画像処理装置
US11449988B2 (en) 2017-09-15 2022-09-20 Fujifilm Corporation Medical image processing apparatus

Also Published As

Publication number Publication date
JP4007954B2 (ja) 2007-11-14

Similar Documents

Publication Publication Date Title
US20060189843A1 (en) Apparatus, Method, and computer program product for processing image
JP4615963B2 (ja) カプセル型内視鏡装置
KR100991915B1 (ko) 내시경 진단 지원 방법, 내시경 진단 지원 장치 및 내시경 진단 지원 프로그램을 기록한 기록매체
US8018485B2 (en) Imaging device
EP1862109A2 (en) Capsule endoscopic system and image processing apparatus
JP4847075B2 (ja) 受信装置
JP4007954B2 (ja) 画像処理装置、該方法、及び該プログラム
US7880765B2 (en) Receiving apparatus
CN102843950B (zh) 图像显示装置以及胶囊型内窥镜***
US20130012774A1 (en) Receiving apparatus and capsule endoscope system
JP4767631B2 (ja) 受信装置
US20060241578A1 (en) Body-insertable apparatus
JP3993554B2 (ja) 画像処理装置、該方法、及び該プログラム
WO2012042987A1 (ja) 画像表示装置及びカプセル型内視鏡システム
JP5259141B2 (ja) 被検体内画像取得システム、被検体内画像処理方法および被検体内導入装置
US9443321B2 (en) Imaging device, endoscope system and imaging method using yellow-eliminated green data
JP6439073B2 (ja) 受信アンテナ、受信アンテナユニット及び受信システム
JP2021027867A (ja) ファイリング装置、ファイリング方法及びプログラム
US10726553B2 (en) Image processing apparatus, image processing system, operation method of image processing apparatus, and computer-readable recording medium
JP2005131031A (ja) 画像表示装置、画像表示方法、及び画像表示プログラム
JP4656825B2 (ja) 被検体内導入装置および無線型被検体内情報取得システム
WO2019171616A1 (ja) 受信装置及び受信方法
JP2007075154A (ja) 画像表示装置
JP2005277740A (ja) 受信装置
WO2005099555A1 (ja) 受信装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070821

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070828

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100907

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4007954

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100907

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110907

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120907

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130907

Year of fee payment: 6

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees