JP5094775B2 - 症例画像検索装置、方法およびプログラム - Google Patents

症例画像検索装置、方法およびプログラム Download PDF

Info

Publication number
JP5094775B2
JP5094775B2 JP2009084733A JP2009084733A JP5094775B2 JP 5094775 B2 JP5094775 B2 JP 5094775B2 JP 2009084733 A JP2009084733 A JP 2009084733A JP 2009084733 A JP2009084733 A JP 2009084733A JP 5094775 B2 JP5094775 B2 JP 5094775B2
Authority
JP
Japan
Prior art keywords
image
unit
feature amount
attention area
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009084733A
Other languages
English (en)
Other versions
JP2010237930A (ja
Inventor
隆治 久永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2009084733A priority Critical patent/JP5094775B2/ja
Publication of JP2010237930A publication Critical patent/JP2010237930A/ja
Application granted granted Critical
Publication of JP5094775B2 publication Critical patent/JP5094775B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本発明は、診断画像から抽出した特徴量に基づいてその診断画像と類似する症例画像を検索・提示する技術に関する。
特許文献1では、診断画像から注目領域を抽出し、注目領域の特徴量を用いて類似検索を行う。
特許文献2は、ユーザからの注目領域の位置情報をもとに病変領域を抽出する技術の一例である。
特許文献3および4は病変領域を自動抽出する手法の一例である。
非特許文献1は注目領域の位置情報をもとに領域を抽出する手法の例を示す。ユーザが位置を指定し、指定領域の輪郭を検出し、修正があればユーザが輪郭の補正を行うことで、高精度な領域抽出を数回の位置情報入力で得ることができる。
非特許文献2はROI(関心領域)の病変部の形状情報やテクスチャ情報を得る手法の例を示す。
特開2001−117936号公報 特開2008−245719号公報 特開2005−198887号公報 特開2005−246032号公報
リー、ハラ、イトウ、シムラ「インタラクティブな病変分割のマシンラーニングアプローチ」、SPIE議事録第6512巻651246頁(2007)(Y. Li, S. Hara, W. Ito, K. Shimura, "A Machine learning approach for interactive lesion segmentation", Proceedings of the SPIE, Volume 6512, pp 651246 (2007) クーツ、エドワーズ、テイラー、「動的見えモデル」、第5回計算機視覚欧州会議報、ドイツ、シュプリンガー、1998年、第2巻484−498頁(T. F. Coootes, G. J. Edwards, C. J. Taylor "Active Appearance Models", In Proc. 5th European Conference on Computer Vision, Springer)
特許文献1は、診断画像から注目領域を抽出し、注目領域の特徴量を用いて類似検索を行うシステムである。このようなシステムの場合、複雑かつバリエーションが豊富な組織の領域を正確に検出しなければならない。非特許文献1のような修正手法を用いたとしても、組織の周辺と内部の濃度が異なる病変領域を抽出しようとした場合、クリック位置やパラメータによって異なる領域が抽出される可能性があり、指定位置によって選択領域にばらつきが生じる(図6)。このような場合、上記修正機能などでさらに周辺を細かく修正する必要があるが、境界の曖昧な症例では領域の認識が異なるため、検索に用いる領域が異なる可能性がある。その結果、領域内の特徴量が変化し、同じ病変でも検索結果が異なるという問題が生じてしまう可能性がある。
本発明は、領域抽出の結果を用いた類似症例画像検索において、領域抽出のばらつきによる検索ばらつきを抑制する。
本発明に係る症例画像検索装置は、所望の診断画像を入力する第1入力部と、第1入力部の入力した診断画像の注目領域を抽出する第1抽出部と、第1抽出部の抽出した注目領域の特徴量である第1の特徴量を算出する第1算出部と、所望の症例画像を入力する第2入力部と、第2入力部の入力した症例画像の注目領域の位置情報を指定する第2指定部と、第2指定部の指定した位置情報に基づいて、第2入力部の入力した症例画像に対応する複数の注目領域を抽出する第2抽出部と、第2抽出部の抽出した複数の注目領域の各々に対応する複数の特徴量である第2の特徴量を算出する第2算出部と、症例画像と第2の特徴量とを対応づけて所定のデータベースに登録する登録部と、第1の特徴量と第2の特徴量の各々とを比較することで、診断画像に類似する類似症例画像をデータベースから検索する検索部と、を備える。
好ましくは、第1入力部の入力した診断画像の注目領域の位置情報を指定する第1指定部を備え、第1抽出部は、第1指定部の指定した位置情報に基づいて、第1入力部の入力した診断画像に対応する複数の注目領域を抽出し、第1算出部は、第1抽出部の抽出した複数の注目領域の各々に対応する複数の特徴量である第1の特徴量を算出し、検索部は、第1の特徴量の各々と第2の特徴量の各々とを比較することで、診断画像に類似する類似症例画像をデータベースから検索する。
第1抽出部は、第1指定部の指定した位置情報に基づいて初期検索注目領域を抽出した後、第1指定部の指定した補正位置情報に基づいて初期検索注目領域を補正した補正済検索注目領域を抽出し、第1算出部は、初期検索注目領域に対応する特徴量および補正済検索注目領域に対応する特徴量を含む第1の特徴量を算出する。
好ましくは、第2抽出部は、第2指定部の指定した位置情報に基づいて初期登録注目領域を抽出した後、第2指定部の指定した補正位置情報に基づいて初期登録注目領域を補正した補正済登録注目領域を抽出し、第2算出部は、初期登録注目領域に対応する特徴量および補正済登録注目領域に対応する特徴量を含む第2の特徴量を算出する。
本発明に係る症例画像検索装置は、所望の診断画像を入力する第1入力部と、第1入力部の入力した診断画像の注目領域の位置情報を指定する第1指定部と、第1指定部の指定した位置情報に基づいて、第1入力部の入力した診断画像に対応する複数の注目領域を抽出する第1抽出部と、第1抽出部の抽出した複数の注目領域の各々に対応する複数の特徴量を算出した上、複数の特徴量を平均した第1の特徴量を算出する第1算出部と、所望の症例画像を入力する第2入力部と、第2入力部の入力した症例画像の注目領域の位置情報を指定する第2指定部と、第2指定部の指定した位置情報に基づいて、第2入力部の入力した症例画像に対応する複数の注目領域を抽出する第2抽出部と、第2抽出部の抽出した複数の注目領域の各々に対応する複数の特徴量を算出した上、複数の特徴量を平均した第2の特徴量を算出する第2算出部と、症例画像と第2の特徴量とを対応づけて所定のデータベースに登録する登録部と、第1の特徴量と第2の特徴量とを比較することで、診断画像に類似する類似症例画像をデータベースから検索する検索部と、を備える。
好ましくは、第1抽出部は、第1指定部の指定した位置情報に基づいて初期検索注目領域を抽出した後、第1指定部の指定した補正位置情報に基づいて初期検索注目領域を補正した補正済検索注目領域を抽出し、第1算出部は、初期検索注目領域に対応する特徴量および補正済検索注目領域に対応する特徴量を平均した第1の特徴量を算出し、第2抽出部は、第2指定部の指定した位置情報に基づいて初期登録注目領域を抽出した後、第2指定部の指定した補正位置情報に基づいて初期登録注目領域を補正した補正済登録注目領域を抽出し、第2算出部は、初期登録注目領域に対応する特徴量および補正済登録注目領域に対応する特徴量を平均した第2の特徴量を算出する。
第1抽出部は、診断画像の画素値および形状のうち少なくとも一方とに基づいて注目領域を抽出し、第2抽出部は、診断画像の画素値および形状のうち少なくとも一方とに基づいて注目領域を抽出する。
本発明に係る症例画像検索装置は、所望の診断画像を入力する第1入力部と、第1入力部の入力した診断画像の注目領域の位置情報を指定する第1指定部と、第1指定部の指定した位置情報に基づいて、第1入力部の入力した診断画像に対応する複数の注目領域を抽出する第1抽出部と、第1抽出部の抽出した複数の注目領域の各々に対応する複数の特徴量である第1の特徴量を算出する算出部と、第1の特徴量の各々と、所定のデータベースに登録された症例画像に対応する注目領域の特徴量である第2の特徴量とを比較することで、診断画像に類似する類似症例画像をデータベースから検索する検索部と、を備える。
好ましくは、第1抽出部は、第1指定部の指定した位置情報に基づいて初期登録注目領域を抽出した後、第1指定部の指定した補正位置情報に基づいて初期登録注目領域を補正した補正済登録注目領域を抽出し、第1算出部は、初期登録注目領域に対応する特徴量および補正済登録注目領域に対応する特徴量を含む第1の特徴量を算出する。
好ましくは、位置情報は操作装置から入力される座標情報を含む。
好ましくは、検索部の検索した類似症例画像を出力する出力部を備える。
好ましくは、データベースは、症例画像に対応する診断レポートその他の付帯情報を記憶し、出力部は、類似症例画像に対応するデータベースの付帯情報を出力する。
好ましくは、第1の特徴量は、診断画像の注目領域の画素値、形状および大きさのうち少なくとも一つに関する特徴量を含み、第2の特徴量は、症例画像の注目領域の画素値、形状および大きさのうち少なくとも一つに関する特徴量を含み、検索部は、診断画像の注目領域の画素値、形状および大きさのうち少なくとも一つに関する特徴量と、症例画像の注目領域の画素値、形状および大きさのうち少なくとも一つに関する特徴量とを比較することで類似症例画像をデータベースから検索する。
本発明に係る症例画像検索方法は、コンピュータが、所望の診断画像を入力するステップと、入力した診断画像の注目領域を抽出するステップと、抽出した注目領域の特徴量である第1の特徴量を算出するステップと、所望の症例画像を入力するステップと、入力した症例画像の注目領域の位置情報を指定するステップと、指定した位置情報に基づいて、入力した症例画像に対応する複数の注目領域を抽出するステップと、抽出した複数の注目領域の各々に対応する複数の特徴量である第2の特徴量を算出するステップと、症例画像と第2の特徴量とを対応づけて所定のデータベースに登録するステップと、第1の特徴量と第2の特徴量の各々とを比較することで、診断画像に類似する類似症例画像をデータベースから検索するステップと、を実行する。
本発明に係る症例画像検索方法は、コンピュータが、所望の診断画像を入力するステップと、入力した診断画像の注目領域の位置情報を指定するステップと、指定した位置情報に基づいて、入力した診断画像に対応する複数の注目領域を抽出するステップと、抽出した複数の注目領域の各々に対応する複数の特徴量を算出した上、複数の特徴量を平均した第1の特徴量を算出するステップと、所望の症例画像を入力するステップと、入力した症例画像の注目領域の位置情報を指定するステップと、指定した位置情報に基づいて、入力した症例画像に対応する複数の注目領域を抽出するステップと、抽出した複数の注目領域の各々に対応する複数の特徴量を算出した上、複数の特徴量を平均した第2の特徴量を算出するステップと、症例画像と第2の特徴量とを対応づけて所定のデータベースに登録するステップと、第1の特徴量と第2の特徴量とを比較することで、診断画像に類似する類似症例画像をデータベースから検索するステップと、を実行する。
本発明に係る症例画像検索方法は、コンピュータが、所望の診断画像を入力するステップと、入力した診断画像の注目領域の位置情報を指定するステップと、指定した位置情報に基づいて、入力した診断画像に対応する複数の注目領域を抽出するステップと、抽出した複数の注目領域の各々に対応する複数の特徴量である第1の特徴量を算出するステップと、第1の特徴量の各々と、所定のデータベースに登録された症例画像に対応する注目領域の特徴量である第2の特徴量とを比較することで、診断画像に類似する類似症例画像をデータベースから検索するステップと、を実行する。
これらの症例画像検索方法をコンピュータに実行させるためのプログラムも本発明に含まれる。
本発明によると、ユーザが指定した注目領域の位置情報のばらつきや曖昧さを考慮して症例画像に対応する複数の注目領域の特徴量をデータベースに登録し、診断画像の特徴量をデータベースの各症例画像に対応する複数の注目領域の特徴量と比較するため、類似症例画像の検索精度が向上する。
あるいは、本発明によると、診断画像の注目領域の位置情報のばらつきや曖昧さを考慮して複数の注目領域を診断画像から抽出し、それらに対応する複数の特徴量を算出して、データベースの各症例画像の注目領域の特徴量と比較するため、類似症例画像の検索精度が向上する。
類似症例検索システムの概略構成図 登録部の詳細を示すブロック図 注目領域抽出部の詳細を示すブロック図 類似画像検索部の詳細を示すブロック図 算出パターンの一例を示す図 抽出領域のばらつきの一例を示す図
図1は本発明の好ましい実施形態に係る類似症例検索システム100の概略構成図である。このシステムは、画像データ入力部1a、注目領域抽出部2a、類似画像検索部3、画像情報DB4、表示部5、登録部6、注目位置入力部7aを含む。類似症例検索システム100は、コンピュータ(CPU,RAM,ROMなど演算処理に必要な回路、データ記憶媒体、データ入出力回路、表示回路、操作装置、通信回路などを備えたもの)で構成することができる。
類似症例検索システム100の各ブロックは1つのコンピュータに一体的に構成されていてもよいが、各々のブロックを単独のコンピュータで構成し、かつそれらをネットワークで接続することで類似症例検索システム100を構成してもよい。また、注目領域抽出部2a、類似画像検索部3、登録部6はコンピュータで実行されるプログラムモジュール(ROMなどのコンピュータ読取可能な記録媒体に格納)で代替することもでき、必ずしも特定のハードウェア構成を要求するのではない。表示部5は液晶ディスプレイ、画像情報DB4はハードディスクなどで構成できる。
画像データ入力部1aは、CT画像、MRI画像、PET画像、X線画像(CR画像含む)、US(超音波)画像、内視鏡画像、マンモグラフィ、病理画像などの診断対象画像(クエリー画像)を入力する。画像データ入力部1aは、これらのクエリー画像と、クエリー画像のサイズや撮像日時といった付帯情報や症例情報を入力することもできる。画像データ入力部1aおよび医療用画像診断装置の間の通信プロトコルおよびクエリー画像および付帯情報のフォーマットは、DICOM(Digital Imaging and Communication in Medicine)のような所定の規格に従っている。後述する画像データ入力部1bも画像データ入力部1aと同様の構成を有するものとし、画像データ入力部1a・1bをまとめて画像データ入力部1で表す。
注目領域抽出部2aは、注目位置入力部7aから入力された位置情報に基づいて画像データ入力部1aから入力されたクエリー画像を解析し、画像情報DB4に蓄積された類似画像の検索に必要な注目領域を抽出し、その特徴量(第1の特徴量)を作成する。後述の注目領域抽出部2bは、注目領域抽出部2aと同様にして、画像データ入力部1bから入力されたクエリー画像から注目領域の抽出を行う。
注目位置入力部7aは、登録候補画像の中から、症例画像に含まれる病変や臓器などの注目領域の位置の指定を受け付ける。注目位置入力部7aは、キーボード、マウス、タッチパネルなどの公知の操作装置で構成することができる。後述する注目位置入力部7bは、注目位置入力部7aと同様の構成を有するものとし、注目位置入力部7a・7bをまとめて注目位置入力部7で表す。
類似画像検索部3は、注目領域抽出部2aから出力されたクエリー画像の注目領域の特徴量(第1の特徴量)と画像情報DB4に蓄積された症例画像の注目領域の特徴量(第2の特徴量)とを比較し、両者の類似度を算出する。第2の特徴量は症例画像から注目領域抽出部2aの取る特徴量の計算手法と同じ手法に従って予め作成および蓄積されている。類似画像検索部3は、画像情報DB4に蓄積された全ての症例画像あるいは予め操作装置から指定された部位に対応する症例画像のうち、クエリー画像の注目領域の第1の特徴量との類似度が最も高い第2の特徴量に対応する症例画像を特定する。そして、類似画像検索部3は、特定された症例画像と、その症例画像に対応する画像情報DB4に蓄積された各種の症例情報を、表示部5に表示する。
表示部5は、映像出力手段以外の出力手段に代替できる。例えば表示部5に代えて、あるいは表示部5とともに、特定された症例画像と、その症例画像に対応する画像情報DB4に蓄積された各種情報を印刷手段によって出力してもよい。また、画像情報でなければ、音声出力手段からの合成音声の出力などによって検索結果を出力できる。あるいは出力手段をネットワークI/Fとし、所望の端末(パソコン、携帯電話、PDAなど)に検索結果を出力してもよい。所望の端末が表示部5を備えていてもよいが、この端末の表示部5に検索した症例画像を表示する場合は、当該端末のユーザを認証して類似症例画像検索を許可してもよい。
画像情報DB4には、検索対象画像となる症例画像を含む症例情報が格納されている。ここで、症例情報は、疾患別に分類されて格納されていてもよく、さらに疾患別に統計情報、疾患情報、特定の疾患に対しては間違えられやすい疾患の疾患情報や医学情報がリンクされて登録されていてもよい。
また、症例情報には、確定診断された各疾患の症例画像、症例画像の注目領域の第2の特徴量の他に、読影医が作成した診断レポート等のテキストベースの診断情報が含まれる。
また、疾患別の統計情報には、例えば、下記の情報が含まれる。
・代表症例における類似度(疾患内の最高類似度)
・平均類似度
・症例DB内の該当疾患の総登録件数
・代表症例に近い症例 (症例パターン) の登録件数
・症例パターンにおける特徴… 主な症状
・症例パターンにおける患者の特徴…平均年齢、病歴、喫煙歴など
・全国/地域別罹患率
・その他
画像情報DB4には、登録されている各症例画像の病変部位から抽出された特徴量(第2の特徴量)が格納されている。ただし、症例画像自体が画像情報DB4に蓄積されていれば、事後的にその症例画像を注目領域抽出部2などで解析することで第2の特徴量を得ることができるから、画像情報DB4に第2の特徴量を登録することが本願発明の実施にあたって常に必ず必要なのではない。
表示部5は、類似度が高い画像データだけでなく、データベース内における類似画像の疾患ごとの類似画像検索結果といった統計情報を表示してもよい。
登録部6によって画像情報DB4に登録される症例画像は、クエリー画像と同様に各種の医用撮像装置(CT装置、MRI装置、PET装置、X線装置、US装置、内視鏡、マンモグラフィ装置、顕微鏡用カメラなど)から得られる。また、登録部6によって画像情報DB4に登録される症例画像に対応する第2の特徴量は、後述の画像解析で得られる。また、登録部6によって画像情報DB4に登録される症例画像に対応する症例情報は、ユーザによる操作装置の入力操作や外部機器からのインポートなどで得られる。
図2は登録部6の詳細を示す。登録部6は、画像データ入力部1b、注目位置入力部7b、注目領域抽出部2b、特徴量計算部31b、診断レポート入力部64、症例情報登録部65を含む。登録部6の各ブロックは1つのコンピュータに一体的に構成されていてもよいが、各々のブロックを単独のコンピュータで構成し、かつそれらをネットワークで接続することで登録部6を構成してもよい。また、注目領域抽出部2b、特徴量計算部31b、症例情報登録部65はコンピュータで実行されるプログラムモジュール(ROMなどのコンピュータ読取可能な記録媒体に格納)で代替することもでき、必ずしも特定のハードウェア構成を要求するのではない。
注目領域抽出部2bは、各種の医用撮像装置と接続された画像データ入力部1bを介して、CT画像、MRI画像、PET画像、X線画像(CR画像含む)、US(超音波)画像、内視鏡画像、病理画像などの所望の症例画像を、登録候補画像として入力する。診断レポート入力部64は、登録候補画像に対応する診断情報などの各種情報を入力する。診断レポート入力部64は、キーボード、マウス、タッチパネルなどの公知の操作装置か、他の装置から診断情報をインポートできる装置(通信デバイスやメディアリーダなど)で構成することができる。
注目位置入力部7bは、登録候補画像の中から、症例画像に含まれる病変や臓器などの注目領域の位置の指定を受け付ける。注目位置入力部7bは、キーボード、マウス、タッチパネルなどの公知の操作装置で構成することができ、注目位置入力部7aや診断レポート入力部64と兼用することもできる。症例画像を検索しようとするユーザは、注目位置入力部7bを用いて所望の注目領域の位置を指定できるが、これがユーザごとにばらついたり、あるいは元々組織領域が曖昧で正確な注目領域の位置指定が困難であると、検索の精度(ヒット率)が低下する。本願実施形態ではこれを解決する。
図3は、注目領域抽出部2の詳細な構成を示す。注目領域抽出部2a(図1)および注目領域抽出部2b(図2)は、画像の入力元がそれぞれ画像データ入力部1aまたは1bであり、注目領域の出力先がそれぞれ特徴量計算部31aまたは31bである点を除いて注目領域抽出部2と同じ構成であるとする。よって、注目領域抽出部2a・2bをまとめて注目領域抽出部2で表す。
注目領域抽出部2は、画像解析部601および抽出領域出力部602を含む。注目領域抽出部2の各ブロックは1つのコンピュータに一体的に構成されていてもよいが、各々のブロックを単独のコンピュータで構成し、かつそれらをネットワークで接続することで構成してもよい。また、画像解析部601はコンピュータで実行されるプログラムモジュール(ROMなどのコンピュータ読取可能な記録媒体に格納)で代替することもでき、必ずしも特定のハードウェア構成を要求するのではない。
画像解析部601は、画像データ入力部1から入力された画像に含まれる病変や臓器などの注目領域を、注目位置入力部7から入力された位置情報に基づいて抽出する。例えば、特許文献2などと同様、ユーザが注目位置入力部7から注目領域の座標位置を指定し、当該指定された位置の近傍に存在する輪郭を検出してその輪郭で包含される領域を初期注目領域とする。あるいは、特許文献3や4のように、注目領域を自動で抽出し、それをそのまま初期注目領域としてもよい。ここでさらに、ユーザが注目位置入力部7から初期注目領域に対する任意の補正位置を1または複数パターン指定し、それらの指定に応じて初期注目領域を補正することで補正済み注目領域を抽出する。補正位置は、画像およびその初期注目領域を表示部5に表示しておき、表示部5上で補正したい初期注目領域の境界の座標をクリックやタッチすることで指定できる。そして、抽出領域出力部602は、画像解析部601が抽出した初期注目領域および補正済み注目領域を、ともに画像に対応する注目領域として、特徴量計算部31に出力する。これを注目領域の出力パターンXとする。補正済み注目領域を初期注目領域として、これをさらに補正して別の補正済み注目領域を抽出することもでき、理論上注目領域の補正回数に制限はない。
ユーザがポインティングデバイスの入力座標をずらすなどして複数の補正位置パターンを指定し、それらの補正位置に対応する複数の最終的な注目領域パターンを抽出してもよい。この場合、補正済み注目領域が複数抽出されることになる。補正位置の入力に応じた注目領域の補正は非特許文献1などと同様に行う。注目領域の抽出自体は、公知の画像の輪郭・画素値、位置情報などの特徴を利用した半自動的あるいは全自動的な注目領域検出技術を用いればよい。
あるいは、抽出領域出力部602は、第2の注目領域だけを特徴量計算部31に出力する。これを注目領域の出力パターンYとする。出力パターンX・Yのいずれで注目領域を出力するかを操作装置で選択させ、選択結果に従って出力してもよい。
再び図2を参照すると、特徴量計算部31bは、注目領域抽出部2bの抽出した注目領域に対応する特徴量の計算を行う。算出される特徴量は画像データの平均、分散、最大値、最小値、輝度ヒストグラムといった画素値に関する特徴量や、抽出領域の位置、抽出領域の輪郭の円形度やモーメントなど形状に関する特徴量や、断面の半径、体積、面積など大きさに関する特徴量の他、非特許文献2などの手法によって得られるROI(関心領域)の病変部の形状情報やテクスチャ情報でもよい。あるいは、画像情報DB4に一旦登録された情報を所定の数式(例えば主成分分析、独立成分分析)で処理した値を特徴量としてもよい。要するに、公知の手法で得られた注目領域の輪郭・画素値、位置情報などを特徴量とすることができる。出力パターンXの場合は初期注目領域・補正済み注目領域を含む複数の注目領域に対応する特徴量が得られるが、出力パターンYの場合は補正済み注目領域に対応する特徴量が得られる。
症例情報登録部65は、特徴量計算部31bの算出した注目領域に対応する特徴量(第2の特徴量)と、当該注目領域の抽出元となった登録候補画像と、当該登録候補画像に関して診断レポート入力部64から入力された診断情報その他の情報を対応づけた症例情報を、画像情報DB4に登録する。
ただし、有意な差異のない複数の注目領域の特徴量をいたずらに画像情報DB4に登録しても記憶領域の浪費につながる。そこで、症例情報登録部65は、同一の登録候補画像から抽出した異なる2つの注目領域の特徴量の間で類似度を算出し、類似度が所定の閾値よりも近い場合は、2つの注目領域の特徴量のうち任意の一方のみを登録する。あるいは、2つの注目領域の特徴量の平均値を登録する。3つ以上の注目領域がある場合は、その中の2つ注目領域について上記のような登録方法を繰り返せばよい。特徴量の類似度の算出は、後述する類似度比較部32の類似度算出と同様に行えばよい。
図4は類似画像検索部3の詳細を示すブロック図である。類似画像検索部3は、特徴量計算部31a、類似度比較部32および類似度計算結果出力部33を含む。特徴量計算部31aは特徴量計算部31b(図2)と同様の構成を有するものとする。類似画像検索部3の各ブロックは1つのコンピュータに一体的に構成されていてもよいが、各々のブロックを単独のコンピュータで構成し、かつそれらをネットワークで接続することで構成してもよい。また、特徴量計算部31aおよび類似度比較部32はコンピュータで実行されるプログラムモジュール(ROMなどのコンピュータ読取可能な記録媒体に格納)で代替することもでき、必ずしも特定のハードウェア構成を要求するのではない。
特徴量計算部31aは、注目領域抽出部2aから出力されたクエリー画像の注目領域の特徴量(第1の特徴量)を算出する。その算出手法は第2の特徴量と場合と同様である。
類似度比較部32は、特徴量計算部31aから出力されたクエリー画像の注目領域の特徴量(第1の特徴量)と画像情報DB4に蓄積された各症例画像の注目領域の特徴量(第2の特徴量)とを比較し、両者の類似度を算出する。
類似度の算出方法としては公知のもの、例えば特徴量の値の差分、特徴量空間(重み付き空間も可)上の最小2乗法などが採用できる。説明の便宜上、類似度Sは以下の数式で定義する。ただし、本願発明の実施のために、類似度Sの算出基準(ノルム)がこの定義に限定されるわけではない。
Figure 0005094775
特徴量m(i=1,2,…,n)は登録済みの症例画像の注目領域の特徴量、M(i=1,2,…,n)は診断画像の注目領域から抽出された特徴量である。w(i=1,2,…,n)は、疾患別に予め定義された各特徴量に対する重み付け係数である。m、M、wの添え字iは特徴量空間上の座標軸を示す。双方の特徴量が近いほど類似度Sの値が小さくなり、双方の特徴量が遠いほど類似度Sの値が大きくなる。
類似度比較部32は、クエリー画像の注目領域の第1の特徴量との類似度が所定の閾値よりも高い第2の特徴量に対応する症例画像(類似症例画像)を特定する。そして、類似度計算結果出力部33は、特定された類似症例画像と、その類似症例画像に対応する画像情報DB4に蓄積された各種の症例情報を、表示部5に表示する。
ここで、画像情報DB4に複数パターンの注目領域の特徴量が登録されていれば、その各々のパターンに対応する特徴量について第1の特徴量との類似度を算出し、類似症例画像を特定する。ただし、画像情報DB4に特徴量の平均値が登録されている場合は、クエリー画像の注目領域の特徴量についても平均値を算出し、その平均値同士で類似度を算出する。
また、複数パターンの症例画像の注目領域の特徴量を画像情報DB4に登録する代わりに、あるいは複数パターンの症例画像の注目領域の特徴量の登録とともに、クエリー画像から複数パターンの注目領域を抽出し、そのクエリー画像の各々の注目領域パターンについて特徴量を算出し、クエリー画像の注目領域パターンに対応する各々の特徴量と症例画像の注目領域パターンに対応する各々の特徴量の間で類似度を算出し、類似症例画像を特定することもできる。クエリー画像から複数パターンの注目領域を抽出するには、症例画像と同様に、注目位置入力部7aで補正位置座標をずらすなどすればよい。
すなわち、図5に示すように、クエリー画像から抽出された単数の注目領域と画像情報DB4に登録された複数パターンの症例画像の注目領域との間で類似度を算出する算出パターンA、クエリー画像から抽出された複数の注目領域と画像情報DB4に登録された症例画像の補正済み注目領域(単数でも複数でも可)との間で類似度を算出する算出パターンB、クエリー画像から抽出された複数パターンの注目領域の各々と画像情報DB4に登録された複数パターンの症例画像の注目領域の各々との間で類似度を算出する算出パターンC、特徴量の平均同士で類似度を算出するパターンDのうち、クエリー画像および症例画像の双方からの注目領域の抽出数に合ったパターンで類似度を算出し、類似症例画像を特定する。なお、算出パターンA・C・Dの画像情報DB4の注目領域は出力パターンX、算出パターンBの画像情報DB4の注目領域は出力パターンYに対応する。
要するに、クエリー画像の注目領域がmパターン、症例画像の注目領域がnパターンあれば、類似度はm×n個算出されることになる。この類似度の中で1つでも類似度が高いものがあれば、対応する症例画像が検索結果として表示部5に出力される。従来では、診断画像の注目領域と画像情報DB4の注目領域のパターンが異なると類似度が低くなって検索結果として現れないが、本実施形態によると、注目領域の形状のばらつきを考慮して診断画像および/または症例画像の注目領域を複数パターン用意しておき、そのパターンの特徴量に基づいて類似度を比較するから、ユーザが指定した注目領域の位置情報のばらつきや注目領域の曖昧さによる類似症例画像の検索精度の低下を防げる。
表示部5やプリンタなどへの症例画像の出力方法は任意である。例えば、クエリー画像に対する類似症例画像を類似度の高い順に並べて表示部5に表示したりプリントアウトしたりする。類似度が最も高いものや典型症例の症例情報が対応づけられているものなど特定の条件を満たす類似症例画像を他の類似症例画像に比して拡大して表示したり、色付きの線分で類似症例画像あるいはその注目領域を囲むなどの視覚的効果を付与してもよい。あるいは、レポートなどの診断情報に基づいて症例ごとに類似症例画像を表示する。所望の類似症例画像がクリックなどで選択された場合、選択された画像に対応する診断情報を表示してもよい。
また、画像情報DB4の診断情報が、部外者の閲覧を予定していない患者の個人情報を含む場合、これを部外者に無制限に開示するのは好ましくない。そこで、類似画像検索部3が「施設外」あるいは「部外者」のユーザを認証した場合、表示部5は、診断情報に含まれる個人情報(患者氏名、生年月日など個人を特定できる情報)を、無意味な文字列で置換するなどして匿名化して表示するか、個人情報の表示を全く行わないようにしてもよい。
1:画像データ入力部、2:注目領域抽出部、3:類似画像検索部、4:画像情報DB、5:表示部、6:登録部、31:特徴量計算部

Claims (17)

  1. 所望の診断画像を入力する第1入力部と、
    前記第1入力部の入力した診断画像の注目領域を抽出する第1抽出部と、
    前記第1抽出部の抽出した注目領域の特徴量である第1の特徴量を算出する第1算出部と、
    所望の症例画像を入力する第2入力部と、
    前記第2入力部の入力した症例画像の注目領域の位置情報を指定する第2指定部と、
    前記第2指定部の指定した位置情報に基づいて初期登録注目領域を抽出するとともに、前記初期登録注目領域に対して任意に指定された1または複数の補正位置に基づいて1または複数の補正済み注目領域を抽出することで、前記第2入力部の入力した症例画像に対応する複数の注目領域を抽出する第2抽出部と、
    前記第2抽出部の抽出した複数の注目領域の各々に対応する複数の特徴量である第2の特徴量を算出する第2算出部と、
    前記症例画像と前記第2の特徴量とを対応づけて所定のデータベースに登録する登録部と、
    前記第1の特徴量と前記第2の特徴量の各々とを比較することで、前記診断画像に類似する類似症例画像を前記データベースから検索する検索部と、
    を備える症例画像検索装置。
  2. 前記第1入力部の入力した診断画像の注目領域の位置情報を指定する第1指定部を備え、
    前記第1抽出部は、前記第1指定部の指定した位置情報に基づいて、前記第1入力部の入力した診断画像に対応する複数の注目領域を抽出し、
    前記第1算出部は、前記第1抽出部の抽出した複数の注目領域の各々に対応する複数の特徴量である第1の特徴量を算出し、
    前記検索部は、前記第1の特徴量の各々と前記第2の特徴量の各々とを比較することで、前記診断画像に類似する類似症例画像を前記データベースから検索する請求項1に記載の症例画像検索装置。
  3. 前記第1抽出部は、前記第1指定部の指定した位置情報に基づいて初期検索注目領域を抽出した後、前記第1指定部の指定した補正位置情報に基づいて前記初期検索注目領域を補正した補正済検索注目領域を抽出し、
    前記第1算出部は、前記初期検索注目領域に対応する特徴量および前記補正済検索注目領域に対応する特徴量を含む第1の特徴量を算出する請求項2に記載の症例画像検索装置。
  4. 前記第2抽出部は、前記第2指定部の指定した位置情報に基づいて初期登録注目領域を抽出した後、前記第2指定部の指定した補正位置情報に基づいて前記初期登録注目領域を補正した補正済登録注目領域を抽出し、
    前記第2算出部は、前記初期登録注目領域に対応する特徴量および前記補正済登録注目領域に対応する特徴量を含む第2の特徴量を算出する請求項1〜3のいずれかに記載の症例画像検索装置。
  5. 所望の診断画像を入力する第1入力部と、
    前記第1入力部の入力した診断画像の注目領域の位置情報を指定する第1指定部と、
    前記第1指定部の指定した位置情報に基づいて初期検索注目領域を抽出するとともに、前記初期検索注目領域に対して任意に指定された1または複数の補正位置に基づいて1または複数の補正済み注目領域を抽出することで、前記第1入力部の入力した診断画像に対応する複数の注目領域を抽出する第1抽出部と、
    前記第1抽出部の抽出した複数の注目領域の各々に対応する複数の特徴量を算出した上、前記複数の特徴量を平均した第1の特徴量を算出する第1算出部と、
    所望の症例画像を入力する第2入力部と、
    前記第2入力部の入力した症例画像の注目領域の位置情報を指定する第2指定部と、
    前記第2指定部の指定した位置情報に基づいて初期登録注目領域を抽出するとともに、前記初期登録注目領域に対して任意に指定された1または複数の補正位置に基づいて1または複数の補正済み注目領域を抽出することで、前記第2入力部の入力した症例画像に対応する複数の注目領域を抽出する第2抽出部と、
    前記第2抽出部の抽出した複数の注目領域の各々に対応する複数の特徴量を算出した上、前記複数の特徴量を平均した第2の特徴量を算出する第2算出部と、
    前記症例画像と前記第2の特徴量とを対応づけて所定のデータベースに登録する登録部と、
    前記第1の特徴量と前記第2の特徴量とを比較することで、前記診断画像に類似する類似症例画像を前記データベースから検索する検索部と、
    を備える症例画像検索装置。
  6. 前記第1抽出部は、前記第1指定部の指定した位置情報に基づいて初期検索注目領域を抽出した後、前記第1指定部の指定した補正位置情報に基づいて前記初期検索注目領域を補正した補正済検索注目領域を抽出し、
    前記第1算出部は、前記初期検索注目領域に対応する特徴量および前記補正済検索注目領域に対応する特徴量を平均した第1の特徴量を算出し、
    前記第2抽出部は、前記第2指定部の指定した位置情報に基づいて初期登録注目領域を抽出した後、前記第2指定部の指定した補正位置情報に基づいて前記初期登録注目領域を補正した補正済登録注目領域を抽出し、
    前記第2算出部は、前記初期登録注目領域に対応する特徴量および前記補正済登録注目領域に対応する特徴量を平均した第2の特徴量を算出する請求項5に記載の症例画像検索装置。
  7. 前記第1抽出部は、前記診断画像の画素値および形状のうち少なくとも一方とに基づいて前記注目領域を抽出し、
    前記第2抽出部は、前記診断画像の画素値および形状のうち少なくとも一方とに基づいて前記注目領域を抽出する請求項1〜6のいずれかに記載の症例画像検索装置。
  8. 所望の診断画像を入力する第1入力部と、
    前記第1入力部の入力した診断画像の注目領域の位置情報を指定する第1指定部と、
    前記第1指定部の指定した位置情報に基づいて初期登録注目領域を抽出するとともに、前記初期登録注目領域に対して任意に指定された1または複数の補正位置に基づいて1または複数の補正済み注目領域を抽出することで、前記第1入力部の入力した診断画像に対応する複数の注目領域を抽出する第1抽出部と、
    前記第1抽出部の抽出した複数の注目領域の各々に対応する複数の特徴量である第1の特徴量を算出する第1算出部と、
    前記第1の特徴量の各々と、所定のデータベースに登録された症例画像に対応する注目領域の特徴量である第2の特徴量とを比較することで、前記診断画像に類似する類似症例画像を前記データベースから検索する検索部と、
    を備える症例画像検索装置。
  9. 前記第1抽出部は、前記第1指定部の指定した位置情報に基づいて初期登録注目領域を抽出した後、前記第1指定部の指定した補正位置情報に基づいて前記初期登録注目領域を補正した補正済登録注目領域を抽出し、
    前記第1算出部は、前記初期登録注目領域に対応する特徴量および前記補正済登録注目領域に対応する特徴量を含む第1の特徴量を算出する請求項8に記載の症例画像検索装置。
  10. 前記位置情報は操作装置から入力される座標情報を含む請求項1〜9のいずれかに記載の症例画像検索装置。
  11. 前記検索部の検索した類似症例画像を出力する出力部を備える請求項1〜10のいずれかに記載の症例画像検索装置。
  12. 前記データベースは、前記症例画像に対応する診断レポートその他の付帯情報を記憶し、
    前記出力部は、前記類似症例画像に対応する前記データベースの付帯情報を出力する請求項11に記載の症例画像検索装置。
  13. 前記第1の特徴量は、前記診断画像の注目領域の画素値、形状および大きさのうち少なくとも一つに関する特徴量を含み、
    前記第2の特徴量は、前記症例画像の注目領域の画素値、形状および大きさのうち少なくとも一つに関する特徴量を含み、
    前記検索部は、前記診断画像の注目領域の画素値、形状および大きさのうち少なくとも一つに関する特徴量と、前記症例画像の注目領域の画素値、形状および大きさのうち少なくとも一つに関する特徴量とを比較することで前記類似症例画像を前記データベースから検索する請求項1〜12のいずれかに記載の症例画像検索装置。
  14. コンピュータが、
    所望の診断画像を入力するステップと、
    前記入力した診断画像の注目領域を抽出するステップと、
    前記抽出した注目領域の特徴量である第1の特徴量を算出するステップと、
    所望の症例画像を入力するステップと、
    前記入力した症例画像の注目領域の位置情報を指定するステップと、
    前記指定した位置情報に基づいて初期登録注目領域を抽出するとともに、前記初期登録注目領域に対して任意に指定された1または複数の補正位置に基づいて1または複数の補正済み注目領域を抽出することで、前記入力した症例画像に対応する複数の注目領域を抽出するステップと、
    前記抽出した複数の注目領域の各々に対応する複数の特徴量である第2の特徴量を算出するステップと、
    前記症例画像と前記第2の特徴量とを対応づけて所定のデータベースに登録するステップと、
    前記第1の特徴量と前記第2の特徴量の各々とを比較することで、前記診断画像に類似する類似症例画像を前記データベースから検索するステップと、
    を実行する症例画像検索方法。
  15. コンピュータが、
    所望の診断画像を入力するステップと、
    前記入力した診断画像の注目領域の位置情報を指定するステップと、
    前記指定した位置情報に基づいて初期検索注目領域を抽出するとともに、前記初期検索注目領域に対して任意に指定された1または複数の補正位置に基づいて1または複数の補正済み注目領域を抽出することで、前記入力した診断画像に対応する複数の注目領域を抽出するステップと、
    前記抽出した複数の注目領域の各々に対応する複数の特徴量を算出した上、前記複数の特徴量を平均した第1の特徴量を算出するステップと、
    所望の症例画像を入力するステップと、
    前記入力した症例画像の注目領域の位置情報を指定するステップと、
    前記指定した位置情報に基づいて初期登録注目領域を抽出するとともに、前記初期登録注目領域に対して任意に指定された1または複数の補正位置に基づいて1または複数の補正済み注目領域を抽出することで、前記入力した症例画像に対応する複数の注目領域を抽出するステップと、
    前記抽出した複数の注目領域の各々に対応する複数の特徴量を算出した上、前記複数の特徴量を平均した第2の特徴量を算出するステップと、
    前記症例画像と前記第2の特徴量とを対応づけて所定のデータベースに登録するステップと、
    前記第1の特徴量と前記第2の特徴量とを比較することで、前記診断画像に類似する類似症例画像を前記データベースから検索するステップと、
    を実行する症例画像検索方法。
  16. コンピュータが、
    所望の診断画像を入力するステップと、
    前記入力した診断画像の注目領域の位置情報を指定するステップと、
    前記指定した位置情報に基づいて初期登録注目領域を抽出するとともに、前記初期登録注目領域に対して任意に指定された1または複数の補正位置に基づいて1または複数の補正済み注目領域を抽出することで、前記入力した診断画像に対応する複数の注目領域を抽出するステップと、
    前記抽出した複数の注目領域の各々に対応する複数の特徴量である第1の特徴量を算出するステップと、
    前記第1の特徴量の各々と、所定のデータベースに登録された症例画像に対応する注目領域の特徴量である第2の特徴量とを比較することで、前記診断画像に類似する類似症例画像を前記データベースから検索するステップと、
    を実行する症例画像検索方法。
  17. 請求項14〜16のいずれかに記載の症例画像検索方法をコンピュータに実行させるための症例画像検索プログラム。
JP2009084733A 2009-03-31 2009-03-31 症例画像検索装置、方法およびプログラム Active JP5094775B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009084733A JP5094775B2 (ja) 2009-03-31 2009-03-31 症例画像検索装置、方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009084733A JP5094775B2 (ja) 2009-03-31 2009-03-31 症例画像検索装置、方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2010237930A JP2010237930A (ja) 2010-10-21
JP5094775B2 true JP5094775B2 (ja) 2012-12-12

Family

ID=43092186

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009084733A Active JP5094775B2 (ja) 2009-03-31 2009-03-31 症例画像検索装置、方法およびプログラム

Country Status (1)

Country Link
JP (1) JP5094775B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10755408B2 (en) 2017-05-09 2020-08-25 Canon Medical Systems Corporation Medical information processing system and medical information processing apparatus

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5751899B2 (ja) * 2011-04-08 2015-07-22 株式会社日立メディコ 医用画像処理装置及び医用画像診断装置
JP6214887B2 (ja) 2012-03-12 2017-10-18 東芝メディカルシステムズ株式会社 レポート作成支援装置及びレポート閲覧装置
CA2907979C (en) * 2012-04-02 2023-09-26 Podimetrics, Inc. Method and apparatus for indicating the emergence of a pre-ulcer and its progression
JP6099593B2 (ja) 2014-03-27 2017-03-22 富士フイルム株式会社 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム
JP6109778B2 (ja) * 2014-03-27 2017-04-05 富士フイルム株式会社 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム
JPWO2022080183A1 (ja) * 2020-10-16 2022-04-21
JP6935663B1 (ja) * 2021-02-08 2021-09-15 国立大学法人九州工業大学 口腔粘膜疾患診断支援システム,方法およびプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6782395B2 (en) * 1999-12-03 2004-08-24 Canon Kabushiki Kaisha Method and devices for indexing and seeking digital images taking into account the definition of regions of interest
JP2002245048A (ja) * 2001-02-20 2002-08-30 Mitsubishi Electric Corp 画像検索方法および画像検索装置
JP2007287027A (ja) * 2006-04-19 2007-11-01 Fujifilm Corp 医療用の計画立案支援システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10755408B2 (en) 2017-05-09 2020-08-25 Canon Medical Systems Corporation Medical information processing system and medical information processing apparatus

Also Published As

Publication number Publication date
JP2010237930A (ja) 2010-10-21

Similar Documents

Publication Publication Date Title
US11669965B2 (en) AI-based label generating system and methods for use therewith
JP5094775B2 (ja) 症例画像検索装置、方法およびプログラム
US11322242B2 (en) Method and recording medium
JP5502346B2 (ja) 症例画像登録装置、方法およびプログラムならびに症例画像検索装置、方法、プログラムおよびシステム
US9760689B2 (en) Computer-aided diagnosis method and apparatus
JP5383431B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP5222082B2 (ja) 情報処理装置およびその制御方法、データ処理システム
JP7224757B2 (ja) 診断支援装置、情報処理方法、診断支援システム及びプログラム
US9158382B2 (en) Medical information display apparatus, method, and program
US11361530B2 (en) System and method for automatic detection of key images
JP5661890B2 (ja) 情報処理装置、情報処理方法及びプログラム
Zhang et al. Dictionary pruning with visual word significance for medical image retrieval
JP2011118543A (ja) 症例画像検索装置、方法およびプログラム
JP2014029644A (ja) 類似症例検索装置および類似症例検索方法
US20210158936A1 (en) Medical scan co-registration and methods for use therewith
JP2017191469A (ja) 診断支援装置、情報処理方法、診断支援システム及びプログラム
US10430905B2 (en) Case search device and method
CN112530550A (zh) 影像报告生成方法、装置、计算机设备和存储介质
JP5094770B2 (ja) 症例画像検索装置、方法およびプログラム
JP5539478B2 (ja) 情報処理装置および情報処理方法
JP2011118540A (ja) 症例検索装置、方法およびプログラム
EP4327333A1 (en) Methods and systems for automated follow-up reading of medical image data
JP5426338B2 (ja) 症例画像検索装置、方法およびプログラム
JP7151464B2 (ja) 肺画像処理プログラム、肺画像処理方法および肺画像処理システム
US20230420096A1 (en) Document creation apparatus, document creation method, and document creation program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110811

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120705

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120907

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120918

R150 Certificate of patent or registration of utility model

Ref document number: 5094775

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150928

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250