JP4105176B2 - 画像処理方法および画像処理プログラム - Google Patents

画像処理方法および画像処理プログラム Download PDF

Info

Publication number
JP4105176B2
JP4105176B2 JP2005146685A JP2005146685A JP4105176B2 JP 4105176 B2 JP4105176 B2 JP 4105176B2 JP 2005146685 A JP2005146685 A JP 2005146685A JP 2005146685 A JP2005146685 A JP 2005146685A JP 4105176 B2 JP4105176 B2 JP 4105176B2
Authority
JP
Japan
Prior art keywords
image processing
histogram
processing method
volume data
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005146685A
Other languages
English (en)
Other versions
JP2006323653A (ja
Inventor
和彦 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ziosoft Inc
Original Assignee
Ziosoft Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ziosoft Inc filed Critical Ziosoft Inc
Priority to JP2005146685A priority Critical patent/JP4105176B2/ja
Priority to US11/368,216 priority patent/US20060262969A1/en
Publication of JP2006323653A publication Critical patent/JP2006323653A/ja
Application granted granted Critical
Publication of JP4105176B2 publication Critical patent/JP4105176B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Graphics (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Generation (AREA)

Description

本発明は、ボリュームレンダリングによる画像処理方法および画像処理プログラムに関する。
コンピュータを用いた画像処理技術の進展により人体の内部構造を直接観測することを可能にしたCT(Computed Tomography)装置、MRI(Magnetic Resonance Imaging)装置の出現は医療分野に革新をもたらし、生体の断層画像を用いた医療診断が広く行われている。さらに、近年では、断層画像だけでは分かりにくい複雑な人体内部の3次元構造を可視化する技術として、例えば、CT装置により得られた物体の3次元デジタルデータから3次元構造のイメージを直接描画するボリュームレンダリングが医療診断に使用されている。
また、CT装置から得られる画像データを扱う場合に、観察対象にROI(関心領域:region of interest)を設定することが行われる。2次元的な領域を表す領域ROIは、通常、臨床的に関心のある部位を指定するために使用され、CT画像や核医学画像の上に正方形、円、任意形状の領域として設定される。ROIが設定されると、そのROI内の画素の濃度(画素値)のヒストグラム分布、平均値、標準偏差、面積などが演算装置によって求められCT画像とともに表示される。医師は、これらの画像を見ながら診断を行っている。
図17は、3次元医療画像で用いられるヒストグラムの例を示す。3次元医療画像のヒストグラムは、ボクセル値(CT値など)ごとに、ボクセル数を集計したものである。ボクセル値は組織によって異なるため、ヒストグラムは物質の組成を表す。このため、ヒストグラムから、特定の組織の存在を確認したり、その体積や体積比を計算したりすることができる。
図18は、従来の画像処理方法において、ヒストグラムを計算するフローチャートを示す。従来の画像処理方法では、まず、メモリ上でヒストグラム領域として、ボクセル値の取りうる範囲のVmin〜Vmaxの配列である頻度freqを確保する(ステップS101)。
次に、頻度freq[Vmin〜Vmax]を0で初期化し(ステップS102)、ボリュームデータVol(x,y,z)を構成する配列のx,y,z各要素の要素数x_max, y_max, z_max を取得する(ステップS103)。
次に、ボリュームデータを構成する配列のx,y,z要素の反復子i, j, k を確保する(ステップS104)。ボリュームを走査する3重ループの開始としてk = 0に設定し(ステップS105)、k < z_maxかどうか判断する(ステップS106)。
そして、k < z_max の場合(Yes)は、j = 0に設定し(ステップS107)、j < y_maxかどうか判断する(ステップS108)。そして、j < y_maxの場合(Yes)は、i = 0に設定し(ステップS109)、i < x_maxかどうか判断する(ステップS110)。
そして、i < x_max の場合(Yes)は、vox = Vol(i, j, k)により、ボリュームデータ内の各位置でのボクセル値を取得する(ステップS111)。次に、freq(vox) = freq(vox) +1により、ボクセル値に対応するヒストグラム値のカウントを1加算する(ステップS112)。
そして、i = i+1を計算し(ステップS113)、ステップS110に戻る。ステップS110において、i < x_maxでない場合(No)は、j = j+1を計算し(ステップS114)、ステップS108に戻る。ステップS108において、j < y_maxでない場合(No)は、k = k+1を計算し(ステップS115)、ステップS106に戻る。ステップS106において、k < z_maxでない場合(No)は、終了する(ステップS116)。
なお、2次元画像において、その画像データのヒストグラムを計算し、更にそのヒストグラムをユーザに操作させることによって画像データを変更するものがある(例えば、非特許文献1参照)。
一方、3D画像の関連技術として、3D画像上でROIを設定し、ROI内の画素値の統計量を求め、ヒストグラムを表示するものがある(例えば、特許文献1参照)。また、ボリュームデータ全体のヒストグラムをもとに、カラーLUT(Look Up Table)関数を設定するものがある(例えば、特許文献2参照)。
特開平10−21362号公報 米国特許第6658080号明細書 Adobe社PhotoShopElements2.0取扱説明書
しかしながら、上記従来の画像処理方法にあっては、ヒストグラムを計算する対象となるボクセル群は、例えば、表示されている画像データ全体や3D画像上で設定したROI内の画素値等、通常固定されている。このため、医師等が表示角度や拡大率を変化させてもヒストグラムは変化せず、必要とする情報が得られない場合がある。
本発明は、上記従来の事情に鑑みてなされたものであって、画像表示とヒストグラム表示とにより医療診断を行う場合に、ユーザの意図に応じて適切なヒストグラムを表示させることができる画像処理方法および画像処理プログラムを提供することを目的としている。
本発明の画像処理方法は、ボリュームレンダリングによる画像処理方法であって、第1のボリュームデータを用いてレンダリングによって生成した2次元画像に設定した領域に対応する前記第1のボリュームデータの領域に含まれるボクセル群のヒストグラムを動的に生成する。
上記構成によれば、例えばユーザが表示を変更した場合など、領域の設定を変更する度にヒストグラムが再計算される為、画像表示とヒストグラム表示とにより医療診断を行う場合に、ユーザの意図に応じて適切なヒストグラムを表示させることができる。
また、本発明の画像処理方法は、ボリュームレンダリングによる画像処理方法であって、第1のボリュームデータを用いてレンダリングによって生成した2次元画像に設定した領域に対応する前記第1のボリュームデータの領域に位置が関連する第2のボリュームデータの領域に含まれるボクセル群のヒストグラムを動的に生成する。
また、本発明の画像処理方法は、ボリュームレンダリングによる画像処理方法であって、第1のボリュームデータを用いてレンダリングによって生成した2次元画像に設定した領域に対応する前記第1のボリュームデータの領域に含まれるボクセル群のヒストグラム、及び、前記領域と位置が関連する第2のボリュームデータの領域に含まれるボクセル群のヒストグラムをそれぞれ動的に生成する。
また、本発明の画像処理方法は、前記第1もしくは前記第2のボリュームデータの前記領域は更にマスク領域に含まれる領域であるものである。また、本発明の画像処理方法は、前記ボクセル群のそれぞれのボクセルの不透明度に応じた重率を掛けたヒストグラムを生成する。また、本発明の画像処理方法は、複数のボリュームデータのヒストグラムをそれぞれ生成する。
また、本発明の画像処理方法は、前記レンダリングが、平行投影を用いるものである。また、本発明の画像処理方法は、前記レンダリングが、透視投影を用いるものである。また、本発明の画像処理方法は、前記レンダリングが、円筒投影を用いるものである。また、本発明の画像処理プログラムは、コンピュータに、本発明の画像処理方法を実行させるための画像処理プログラムである。
本発明にかかる画像処理方法および画像処理プログラムによれば、画像表示とヒストグラム表示とにより医療診断を行う場合に、ユーザの意図に応じて適切なヒストグラムを表示させることができる。
図19は、本発明の一実施形態にかかる画像処理方法で使用されるコンピュータ断層撮影(CT)装置を概略的に示す。コンピュータ断層撮影装置は、被検体の組織等を可視化するものである。X線源1からは同図に鎖線で示す縁部ビームを有するピラミッド状のX線ビーム束2が放射される。X線ビーム束2は、例えば患者3である被検体を透過しX線検出器4に照射される。X線源1及びX線検出器4は、本実施形態の場合にはリング状のガントリー5に互いに対向配置されている。リング状のガントリー5は、このガントリーの中心点を通るシステム軸線6に対して、同図に示されていない保持装置に回転可能(矢印a参照)に支持されている。
患者3は、本実施形態の場合には、X線が透過するテーブル7上に寝ている。このテーブルは、図示されていない支持装置によりシステム軸線6に沿って移動可能(矢印b参照)に支持されている。
従って、X線源1及びX線検出器4は、システム軸線6に対して回転可能でありかつシステム軸線6に沿って患者3に対して相対的に移動可能である測定システムを構成するので、患者3はシステム軸線6に関して種々の投影角及び種々の位置のもとで投射されることができる。その際に発生するX線検出器4の出力信号は、ボリュームデータ生成部111に供給され、ボリュームデータに変換される。
シーケンス走査の場合には患者3の層毎の走査が行なわれる。その際に、X線源1及びX線検出器4はシステム軸線6を中心に患者3の周りを回転し、X線源1及びX線検出器4を含む測定システムは患者3の2次元断層を走査するために多数の投影を撮影する。その際に取得された測定値から、走査された断層を表示する断層像が再構成される。相連続する断層の走査の間に、患者3はその都度システム軸線6に沿って移動される。この過程は全ての関心断層が捕捉されるまで繰り返される。
一方、スパイラル走査中は、X線源1及びX線検出器4を含む測定システムはシステム軸線6を中心に回転し、テーブル7は連続的に矢印bの方向に移動する。すなわち、X線源1及びX線検出器4を含む測定システムは、患者3に対して相対的に連続的にスパイラル軌道上を、患者3の関心領域が全部捕捉されるまで移動する。本実施形態の場合、同図に示されたコンピュータ断層撮影装置により、患者3の診断範囲における多数の相連続する断層信号がボリュームデータ生成部111に供給される。
ボリュームデータ生成部111で生成されたボリュームデータセットは、画像処理部118内のパス生成部112に導かれる。パス生成部112は、例えば観察対象の組織の中心線を表現するパスを生成し、検査のパスとして設定する。パス生成部112において生成されたパスは、投影画像生成部115に供給される。
一方、画像処理部118内の領域決定部114は、ヒストグラムを生成する対象領域を設定し、投影画像生成部115に供給する。なお、ヒストグラムを生成する対象領域は、後述する操作部113からの指示によりインタラクティブに変更可能である。
投影画像生成部115は、パス生成部112から供給されたパスに沿って仮想視点を移動させながら、領域決定部114から供給されたデータに従って仮想光線を放射し、観察対象組織の投影画像を生成する。投影画像生成部115で生成された投影画像は後処理部116に供給される。後処理部116は、投影画像とヒストグラムの合成表示、複数の投影画像の並列表示、複数の投影画像を順次表示するアニメーション表示、あるいは仮想内視鏡(VE)画像との同時表示などの処理を行う。後処理部116で処理された投影画像はディスプレイ117に供給され表示される。
また、操作部113は、キーボードやマウスなどからの操作信号に応じて、ヒストグラムを生成する対象領域の変更、投影画像の切り替え等の制御信号を生成し画像処理部118に供給する。これにより、ディスプレイ117に表示された投影画像を見ながら投影画像をインタラクティブに変更し、病巣を詳細に観察することができる。
図1は、本発明の実施形態にかかる画像処理方法において、動的なヒストグラム表示を行う場合の説明図である。本実施形態の画像処理方法は、ボリュームレンダリングによる画像処理方法であって、ボリュームデータ(画像データ)11に対するレンダリングによって生成した画像内に領域を設定し、設定した領域内に投影されるボリュームデータのヒストグラムを生成するものである。例えば、図1(a)に示すように、設定した領域内に投影されるボリュームデータが対象ボクセル群12の場合、対象ボクセル群12に対するヒストグラム13は、図1(c)に示すものとなる。また、領域の設定を変更し、設定した領域内に投影されるボリュームデータを対象ボクセル群14とした場合、対象ボクセル群14に対するヒストグラム15が動的に生成され、図1(d)に示すものとなる。
このように本実施形態の画像処理方法では、ヒストグラム13,15の計算対象を、設定した領域内に投影されるボリュームデータ(対象ボクセル群12,14)に限定し動的に処理するため、領域の設定を変更するとヒストグラムもリアルタイムに変化する。これにより、医師等のユーザは、表示を変化させた場合にはヒストグラムが動的に生成されて表示されるため、ユーザの意図に応じた適切なヒストグラムを表示させることができ、効率的に診断を行うことができる。
次に、本実施形態の画像処理方法において、ヒストグラムの計算対象領域の指定方法を、(1)レンダリング領域、(2)マスク領域、(3)不透明領域、または上記の組み合わせとする場合について説明する。
(実施形態1)
図2は、本実施形態の画像処理方法において、レンダリング領域のヒストグラムを表示する場合を示す。図2(a)に示すように、レンダリング領域22は、3次元画像データ21のうち、レンダリングによって生成した画像内に設定した2次元領域である2次元画面23に投影する領域である。すなわち、3次元画像データ21を仮想光線25で切り取った領域がレンダリング領域22となる。この場合、レンダリング領域22は、視点24や2次元画面23の大きさ(拡大率)を変える(2次元領域の設定を変える)ことにより変化する。
図2(b),(c),(d)は、拡大率を変えた場合の画像表示と対応するヒストグラムを示す。同図に示すように、2次元画面26の拡大率を変えると、それに対応して脂肪28および骨29を表わすヒストグラム27が動的に生成されて表示される。これにより、医師等のユーザは、表示させる2次元画面26を2次元領域として指定するだけで、2次元画面26に対応するヒストグラム27が動的に生成されて表示されるので、ユーザの意図に応じた適切なヒストグラムを見ることができ、円滑に診断を行うことができる。
(実施形態2)
図3は、本実施形態の画像処理方法において、マスク領域のヒストグラムを表示する場合を示す。図3(a)に示すように、マスク領域32は、3次元画像データ31のうち、3次元マスクで指定された領域である。各種演算によってマスク領域32を編集すると、それに対応してヒストグラムが動的に生成される。
図3(b),(c),(d)は、マスク領域32を変えた場合の画像表示と対応するヒストグラムを示す。同図に示すように、マスク領域32を変えると、それに対応して脂肪36および骨37を表わすヒストグラム35が変化する。これにより、医師等は、マスク領域32を指定するだけで、マスク領域32に対応するヒストグラム35が表示されるので、ヒストグラムの計算対象となる領域を指定する手間を省いて円滑に診断を行うことができる。
(実施形態3)
ボリュームレンダリングにおいてはボクセル値よりLUT(Look Up Table)関数を用いて、カラー値と不透明度を取得しレンダリングに用いることが行われている。特にこの時のLUT(Look Up Table)関数のうち不透明度を計算する関数をオパシティ関数と言う。
図4は、本実施形態の画像処理方法において、ボクセル値よりオパシティ関数を用いて計算した不透明度に応じたヒストグラムを表示する場合を示す。図4(a)に示すように、不透明領域41は、オパシティ関数上の、不透明度がゼロでない領域(可視領域)である。不透明度は、オパシティ関数を変えると変化する。また、個々のボクセル値のヒストグラムに対する寄与度は不透明度に応じて重率をかけても良い。
図4(b),(c),(d)は、オパシティ関数上の不透明領域41を変えた場合の画像表示と対応するヒストグラムを示す。同図に示すように、オパシティ関数上の不透明領域41を変えると、それに対応して脂肪46および骨47を表わすヒストグラム45が変化する。これにより、医師等のユーザは、オパシティ関数上の不透明領域41を指定するだけで、オパシティ関数上の不透明領域41に対応するヒストグラム45が動的に生成され表示されるので、ユーザの意図に応じた適切なヒストグラムを見て、円滑に診断を行うことができる。
図5は、本実施形態の画像処理方法において、画像内の背後に隠れている物体の情報を提示する例を示す。図5(a)に示すように、マスク領域51に骨52が表示され、ヒストグラム53により骨54があることを確認した場合に、図5(b)に示すように、画面上のマウス操作でマスク領域55から骨を削除したとしても、ヒストグラム56により、画面上には表示されていない領域に骨57がまだ残っていることがわかる。
そこで、図5(c)に示すように、画面の表示位置およびマスク領域58を変えて骨59を探す。そして、ヒストグラム60を見ながら残った骨61を削除する。また、図5(d)に示すヒストグラム63により骨がすべて削除できたことを確認する。
このように、本実施形態の画像表示方法によれば、骨等を削除して組織を観察する場合に、領域を指定するだけでその領域に対応するヒストグラムが動的に生成され表示されるので、画像内の背後に隠れている物体の情報をリアルタイムで容易に取得することができる。
また、CRT等の画面に表示されたヒストグラム上をマウスによりクリックすると、ヒストグラム上のクリック箇所の表現するボクセル値が存在するので、そのボクセル値のボリュームデータ上のボクセル値を持つボクセルを選択することが出来る。この場合、ヒストグラムの軸上のクリックすることによってもボクセル値を取得することが出来るので、そのボクセル値のボリュームデータ上のボクセル値を持つボクセルを選択することが出来る。選択されたボクセルが該当ボクセル値を持つボクセルのうちの一つをプログラムが選択しても、該当ボクセル値を持つボクセルの全てを選択しても良く、該当ボクセル値を持つボクセルを固まり毎にボクセル群として領域分けしその内の最大体積のボクセル群を選択しても良い。選択されたボクセルが直ちに画面に表示されるように画像を変更しても良いし、選択されたボクセルをボリュームデータから削除することもできるし、選択されたボクセルをマスク領域としても良い。また、ヒストグラム上で複数のボクセル値を同時に選択することも出来る。これによってユーザの関心のある箇所をボクセル値を通じて簡単に指摘することが出来る。
また、ボリュームデータは時系列情報を持っていても良く、この場合は画像がアニメーションするのにあわせて、ヒストグラムを動的に変更することが出来る。
また、互いに座標が関連づけられたボリュームデータが複数存在していても良い。複数ボリュームデータが存在する場合はボリュームレンダリングによって生成される画像は複数のボリュームの内の一つを用いて行われることもあるが、複数のボリュームデータを複合してボリュームレンダリングして画像を生成することもある。この時にヒストグラムは表示に用いられているボリュームデータに関わり合い無く、複数のボリュームデータから一つを選択してヒストグラムを表示しても良いし、複数のヒストグラムを表示しても良い。この時に表示に用いられていないボリュームデータの内のヒストグラム生成に用いるボクセルとは表示に用いられているボリュームデータのヒストグラムを計算するとしたら用いる3次元領域に対応する、ヒストグラム生成に用いるボリュームデータ内の3次元領域のボクセルである。これは、例えば、PET装置とCT装置の双方からボリュームデータを取得して座標を関連づけて一方もしくは双方を合成して表示するような場合に効果的である。
また、本実施形態の画像処理方法は、仮想光線の投射が途中で中断した場合は中断した位置までの領域のヒストグラムを求めることが出来る。特に、レイキャスト法であっては仮想光線がボクセルを通過するのにあわせて光量が減衰する処理を行うが、光量が0になった箇所までのヒストグラムを表示することができる。このようにすれば半透明領域を表示しているときに半透明領域のうしろでかすんで見える物体をヒストグラムで表示しつつ不透明領域の背後はヒストグラムに反映させないことが出来る。
また、本実施形態の画像処理方法は、投射した仮想光線上のボクセルの最大値を取得して画像処理する方法であるMIP(Maximum Intensity Projection)に適用することもできる。MIP法であっては光線の通過する領域に対する領域のヒストグラムを求めることも出来るし、最大値のヒストグラムを求めても良い。MIPは、ボリュームレンダリングの中では比較的簡単な計算で行うことができ、類似処理に最小値、平均値、加算値を取得する方法などがある。特に、最小値を取得するものをMINIP(Minimum Intensity Projection)と言う。さらに、本実施形態の画像処理方法は、MPRのような断面に厚みをつけて切り出した上でMIP処理を行う厚み付きMIPや厚み付きMINIPに適用することもできる。ようはボリュームデータを用いるボリュームレンダリング法であれば適用できる。
図6は、本実施形態の画像処理方法において、平行投影の場合に仮想光線の通過した点でのみヒストグラムを計算する実施例を示す。同図に示すように、2次元領域62は、仮想光線63がボリュームデータ61を平行に通過する領域に対応し、その領域内のボクセルデータが投影される。このとき、本実施例では、ボリュームデータ61のうち仮想光線63が通過した点でのみヒストグラムを計算する。
本実施例によれば、ヒストグラムの計算が、レンダリング時の仮想光線63の投射と同時に行えるので簡便であり、仮想光線63の方向を指定するだけで、仮想光線63が通過する領域(2次元領域)に対応するヒストグラムが動的に生成され表示される。このため、医師等のユーザは、ヒストグラムを計算する領域を指定する必要がなく、ユーザの意図に応じた適切なヒストグラムを見ながら、円滑に診断を行うことができる。なお、この場合、仮想光線63が疎に投射される場合には誤差を伴う為、投射間隔を誤差が発生しない程度とするのが好ましい。
図7は、本実施形態の画像処理方法において、所定のボクセルがヒストグラムを計算する対象となるボクセルかどうか判断する方法を示す。同図に示すように、ボリュームデータ71内の各ボクセル73,74が、ヒストグラムを計算する対象となるボクセルかどうかは、2次元領域72内に投影されうるかどうかで判断する。すなわち、ボクセル73は、2次元領域72内に投影されるので、ヒストグラムを計算する対象となるボクセルであり、ボクセル74は、2次元領域72外に投影されるので、ヒストグラムを計算する対象となるボクセルではない。これにより、各ボクセルがヒストグラムの対象となるかどうかを直接的に判断することができる。
図8は、本実施形態の画像処理方法において、2次元領域を元に3次元領域を判断する関数を作成する場合を示す。この場合は、2次元領域82を元に、ボリュームデータ81内の3次元領域83を判断する関数を作成する。この関数は視点などの変更により動的に変更され、これによってボクセルがヒストグラムを計算する対象となっているか否かを容易に判断できるようになる。本関数は2次元領域82が矩形の場合は、矩形の4辺を含む直線がそれぞれが3次元空間に投影されることによって4つの平面を生成するので、ボリュームデータ81内の領域は4つの平面によって区切られる領域内であり、容易に計算できる。本関数を用いてボリュームデータ81の走査範囲を限定することによってヒストグラム計算ができる。
図9は、表示する画像と2次元領域は必ずしも一致しないことを示す。図9(a)は、表示する画像91が、ヒストグラムを計算する2次元領域と一致する場合(表示画面全体を2次元領域として設定する場合)を示し、図9(b)は、表示する画像91が、ヒストグラムを計算する2次元領域92と一致しない場合(表示画面の一部を2次元領域として設定する場合)を示す。同図に示すように、ボリュームデータの内、設定した2次元領域92に投影されるボクセルのヒストグラムが計算されるので、視線方向(仮想光線の方向)に応じてヒストグラムを変更し、円滑に診断を行うことができる。
図10は、透視投影法により画像を作成する場合に、所定のボクセルがヒストグラムを計算する対象となるボクセルかどうか判断する方法を示す。同図に示すように、透視投影法では、視点102から放射状に仮想光線106が放射される。
ボリュームデータ101内の各ボクセル103,104が、ヒストグラムを計算する対象となるボクセルかどうかは、各ボクセルが2次元領域105内に投影されうるかどうかで判断する。すなわち、ボクセル104は、2次元領域105内に投影されるので、ヒストグラムを計算する対象となるボクセルであり、ボクセル103は、2次元領域105外に投影されるので、ヒストグラムを計算する対象となるボクセルではない。これにより、各ボクセルがヒストグラムの対象となるかどうかを直接的に判断することができる。なお、円筒投影法の場合も同様に判断できる。
図11は、仮想光線を基準にヒストグラムを求める処理の大枠のフローチャートを示す。この場合は、医師等の操作により表示画像が更新されると、メモリ上でヒストグラム領域として、ボクセル値の取りうる範囲のVmin〜Vmaxの配列である頻度freqを確保する(ステップS11)。
次に、頻度freq[Vmin〜Vmax]を0で初期化し(ステップS12)、描画範囲(x,y)を構成する配列のx,y各要素の要素数x_max, y_maxを取得する(ステップS13)。次に、描画範囲を構成する配列のx,y要素の反復子i, j を確保する(ステップS14)。画像を走査する2重ループの開始としてj = 0に設定する(ステップS15)。
次に、j < y_maxかどうか判断し(ステップS16)、j < y_maxの場合(Yes)は、i = 0に設定し(ステップS17)、i < x_maxを判断する(ステップS18)。そして、i < x_maxの場合(Yes)は、描画範囲内のP(i, j)にてボリュームデータに対して仮想光線を投射する(ステップS19)。
次に、i = i+1を計算し(ステップS20)、ステップS18に戻る。ステップS18において、i < x_maxでない場合(No)は、j = j+1を計算し(ステップS21)、ステップS16に戻る。ステップS16において、j < y_maxでない場合(No)は終了する(ステップS22)。なお、ステップ19の詳細は図12および図13において説明する。
図12は、仮想光線を基準にヒストグラムを求める処理の詳細を示す。これは、図11のステップS19の詳細なフローチャートである。この場合は、描画範囲内のP(i, j)に対応する投影開始点O(x,y,z)及びサンプリング間隔ΔS(x, y, z)を設定し(ステップS31)、仮想光線現在位置X(x,y,z) = Oを設定する(ステップS32)。
次に、vox = Vol(X(x,y,z))により、ボリュームデータ内の各位置でのボクセル値を取得する(ステップS33)。そして、freq(vox) = freq(vox) +1により、ボクセル値に対応するヒストグラム値のカウントを1加算する(ステップS34)。
次に、Xが終端位置まで来たかどうかを判断し(ステップS35)、Xが終端位置でない場合(No)は、X(x,y,z) = X(x,y,z) + ΔS(x, y, z)により、仮想光線現在位置を前進させ(ステップS36)、ステップS33に戻る。一方、ステップS35において、Xが終端位置まで来た場合(Yes)は、親ルーチン(図11のステップS19)に戻る(ステップS37)。
図13は、仮想光線を基準にヒストグラムを求める処理の詳細で、更にマスク領域とオパシティ関数の不透明度を考慮する場合を示す。これも、図11のステップS19の詳細なフローチャートである。この場合は、描画範囲内のP(i, j)に対応する投影開始点O(x,y,z)及びサンプリング間隔ΔS(x, y, z)を設定し(ステップS41)、仮想光線現在位置X(x,y,z) = Oに設定する(ステップS42)。
次に、vox = Vol(X(x,y,z))により、ボリュームデータ内の各位置でのボクセル値を取得し(ステップS43)、op = Opacity(vox)により、voxに対応する不透明度を取得する(ステップS44)。また、msk = Mask(X(x,y,z))により、位置Xに対応する不透明度を取得する(ステップS45)。
次に、freq(vox) = freq(vox) + op*mskにより、ボクセル値に対応するヒストグラム値のカウントを各種不透明度に応じて加算し(ステップS46)、Xが終端位置まで来たかどうかを判断する(ステップS47)。そして、Xが終端位置でない場合(No)は、X(x,y,z) = X(x,y,z) + ΔS(x, y, z)により、仮想光線現在位置を前進させ(ステップS48)、ステップS43に戻る。一方、ステップS47において、Xが終端位置まで来た場合(Yes)は、親ルーチン(図11のステップS19)に戻る(ステップS49)。
図14は、領域投射してヒストグラムを求める処理の大枠を示すフローチャートである。この場合は、医師等の操作により表示画像が更新されると、ヒストグラム領域として、ボクセル値の取りうる範囲のVmin〜Vmaxの配列により頻度freqを確保する(ステップS51)。
次に、頻度freq[Vmin〜Vmax]を0で初期化し(ステップS52)、ボリュームデータVol(x,y,z)を構成する配列のx,y,z各要素の要素数x_max, y_max, z_max を取得する(ステップS53)。
次に、ボリュームデータ上の点から2次元面に投影する関数p(x2,y2)= Proj(x,y,z)の定義を行う(ステップS54)。これは、例えば、平行投影ならp(x2, y2) = A(投影行列)(x,y,z) + B(オフセット)で関数は定義できる。
次に、2次元領域関数 flag = Area(x2,y2) {返り値flagは「領域外」か「領域内」}の定義を行う(ステップS55)。これは、例えば、領域が矩形Rect(left,right,top,bottom)なら式:left<=x2 and x2<right and top<=y2 and y2<bottomが真なら「領域内」、偽なら「領域外」で関数は定義できる。次に、ヒストグラムを求めるためのループ(ステップS56)となるが、これは図15および図16で詳細に説明する。
図15は、領域投射してヒストグラムを求める処理において、ヒストグラムを求めるためのループを示すフローチャートである。この場合は、ボリュームデータを構成する配列のx,y,z要素の反復子i, j, k を確保し(ステップS61)、ボリュームを走査する3重ループの開始としてk = 0に設定する(ステップS62)。
次に、k < z_maxかどうか判断し(ステップS63)、k < z_maxの場合(Yes)は、j = 0に設定し(ステップS64)、j < y_maxかどうか判断する(ステップS65)。そして、j < y_maxの場合(Yes)は、i = 0に設定し(ステップS66)、i < x_maxかどうか判断する(ステップS67)。
そして、i < x_maxの場合(Yes)は、関数p(x2,y2)= Proj(x,y,z)よりボリュームデータ内の位置(i,j,k)→2次元面上の位置Pos(x2, y2)を求める(ステップS68)。そして、Area(Pos(x2,y2))が領域内かどうかを判断し(ステップS69)、Area(Pos(x2,y2))が領域内の場合は、vox = Vol(i, j, k)により、ボリュームデータ内の各位置でのボクセル値を取得する(ステップS70)。
次に、freq(vox) = freq(vox) +1により、ボクセル値に対応するヒストグラム値のカウントを1加算し(ステップS71)、i = i+1を計算し(ステップS72)、ステップS67に戻る。一方、ステップS69において、Area(Pos(x2,y2))が領域外の場合も、i = i+1を計算し(ステップS72)、ステップS67に戻る。
次に、ステップS67において、i < x_max でない場合(No)は、j = j+1を計算し(ステップS73)、ステップS65に戻る。ステップS65において、j < y_maxでない場合(No)は、k = k+1を計算し(ステップS74)、ステップS63に戻る。ステップS63において、k < z_maxでない場合(No)は、終了する(ステップS75)。
図16は、領域投射してヒストグラムを求める処理のヒストグラムを求めるためのループにおいて、更にマスク領域とオパシティ関数の不透明度を考慮する場合を示すフローチャートである。この場合は、ボリュームデータを構成する配列のx,y,z要素の反復子i, j, k を確保し(ステップS81)、ボリュームを走査する3重ループの開始としてk = 0に設定する(ステップS82)。
次に、k < z_maxかどうか判断し(ステップS83)、k < z_maxの場合(Yes)は、j = 0に設定し(ステップS84)、j < y_maxかどうか判断する(ステップS85)。そして、j < y_maxの場合(Yes)は、i = 0に設定し(ステップS86)、i < x_maxかどうか判断する(ステップS87)。
そして、i < x_maxの場合(Yes)は、関数p(x2,y2)= Proj(x,y,z)よりボリュームデータ内の位置(i,j,k)→2次元面上の位置Pos(x2, y2)を求める(ステップS88)。そして、Area(Pos(x2,y2))が領域内かどうかを判断する(ステップS89)。
そして、Area(Pos(x2,y2))が領域内の場合は、vox = Vol(i, j, k)により、ボリュームデータ内の各位置でのボクセル値を取得する(ステップS90)。また、op = Opacity(vox)により、voxに対応する不透明度を取得する(ステップS91)。また、msk = Mask(X(x,y,z))により、位置Xに対応する不透明度を取得する(ステップS92)。
次に、freq(vox) = freq(vox) + op*mskにより、ボクセル値に対応するヒストグラム値のカウントを各種不透明度に応じて加算し(ステップS93)、i = i+1を計算し(ステップS94)、ステップS87へ戻る。一方、ステップS89において、Area(Pos(x2,y2))が領域外の場合も、i = i+1を計算し(ステップS94)、ステップS87へ戻る。
次に、ステップS87において、i < x_max でない場合(No)は、j = j+1を計算し(ステップS95)、ステップS85に戻る。ステップS85において、j < y_maxでない場合(No)は、k = k+1を計算し(ステップS96)、ステップS83に戻る。ステップS83において、k < z_maxでない場合(No)は終了する(ステップS97)。
以上説明したように、上記実施形態の画像処理方法によれば、画像表示とヒストグラム表示とにより医療診断を行う場合に、医師等のユーザの意図に応じて適切なヒストグラムを表示させることができる。また、対象領域の変更が対話的にヒストグラムに反映されるので、領域を指定する操作の補助として使用することができる。また、対象領域として、画像上に表示されていない領域を指定することもできるので、画像からは得られない情報をユーザに示すことができる。さらに、レンダリング領域のヒストグラムにおいては、画像内の背後に隠れている物体の情報を提示することができるようになる。
本発明の実施形態にかかる画像処理方法において、動的なヒストグラム表示を行う場合の説明図 本実施形態の画像処理方法において、レンダリング領域のヒストグラムを表示する場合を示す説明図 本実施形態の画像処理方法において、マスク領域のヒストグラムを表示する場合を示す説明図 本実施形態の画像処理方法において、不透明領域のヒストグラムを表示する場合を示す説明図 本実施形態の画像処理方法において、画像内の背後に隠れている物体の情報を提示する実施例 本実施形態の画像処理方法において、平行投影の場合に仮想光線の通過した点でのみヒストグラムを計算する実施例 本実施形態の画像処理方法において、所定のボクセルがヒストグラムを計算する対象となるボクセルかどうか判断する方法を示す説明図 本実施形態の画像処理方法において、2次元領域を元に3次元領域を判断する関数を作成する場合を示す説明図 表示する画像と2次元領域は必ずしも一致しないことを示す説明図 透視投影法により画像を作成する場合に、所定のボクセルがヒストグラムを計算する対象となるボクセルかどうか判断する方法を示す説明図 仮想光線を基準にヒストグラムを求める処理の大枠のフローチャート 仮想光線を基準にヒストグラムを求める処理の詳細を示すフローチャート 仮想光線を基準にヒストグラムを求める処理の詳細で、更にマスク領域とオパシティ関数の不透明度を考慮する場合を示すフローチャート 領域投射してヒストグラムを求める処理の大枠を示すフローチャート 領域投射してヒストグラムを求める処理において、ヒストグラムを求めるためのループを示すフローチャート 領域投射してヒストグラムを求める処理のヒストグラムを求めるためのループにおいて、更にマスク領域とオパシティ関数の不透明度を考慮する場合を示すフローチャート 3次元医療画像で用いられるヒストグラムの例 従来の画像処理方法においてヒストグラムを計算するフローチャート 本発明の一実施形態にかかる画像処理方法で使用されるコンピュータ断層撮影装置の概略ブロック図
符号の説明
1 X線源
2 X線ビーム束
3 患者
4 X線検出器
5 ガントリー
6 システム軸線
7 テーブル
11,21,31 画像データ
12,14 対象ボクセル群
13,15,27,35,45,53,56,60,63 ヒストグラム
22 レンダリング領域
23,26,33,42 画面
24,102 視点
25,63,106 仮想光線
28,36,46 脂肪
29,37,47,52,54,57,59,61 骨
32,51,55,58,62 マスク領域
41 不透明領域
61,71,81,101 ボリュームデータ
62,72,82,92,105 2次元領域
73,74 ボクセル
83 3次元領域
91 画像
103 領域外ボクセル
104 領域内ボクセル
111 ボリュームデータ生成部
112 パス生成部
113 操作部
114 領域決定部
115 投影画像生成部
116 後処理部
117 ディスプレイ
118 画像処理部

Claims (10)

  1. ボリュームレンダリングによる画像処理方法であって、
    第1のボリュームデータを用いてレンダリングによって生成され表示されている2次元画像を更新したときに、
    前記第1のボリュームデータを用いてレンダリングによって新たに生成した2次元画像に設定した領域に対応する前記第1のボリュームデータの領域に含まれるボクセル群を取得するステップと、
    取得した前記ボクセル群のヒストグラムを動的に生成するステップと、を有する画像処理方法。
  2. ボリュームレンダリングによる画像処理方法であって、
    第1のボリュームデータを用いてレンダリングによって生成され表示されている2次元画像を更新したときに、
    前記第1のボリュームデータを用いてレンダリングによって新たに生成した2次元画像に設定した領域に対応する前記第1のボリュームデータの領域に位置が関連する第2のボリュームデータの領域に含まれるボクセル群を取得するステップと、
    取得した前記ボクセル群のヒストグラムを動的に生成するステップと、を有する画像処理方法。
  3. ボリュームレンダリングによる画像処理方法であって、
    第1のボリュームデータを用いてレンダリングによって生成され表示されている2次元画像を更新したときに、
    前記第1のボリュームデータを用いてレンダリングによって新たに生成した2次元画像に設定した領域に対応する前記第1のボリュームデータの領域に含まれるボクセル群、及び、前記領域と位置が関連する第2のボリュームデータの領域に含まれるボクセル群を取得するステップと、
    取得した前記ボクセル群のヒストグラムをそれぞれ動的に生成するステップと、を有する画像処理方法。
  4. 請求項1ないし3のいずれか一項記載の画像処理方法であって、
    前記第1もしくは前記第2のボリュームデータの前記領域は更にマスク領域に含まれる領域である画像処理方法。
  5. 請求項1ないし3のいずれか一項記載の画像処理方法であって、
    前記ボクセル群のそれぞれのボクセルの不透明度に応じた重率を掛けたヒストグラムを生成する画像処理方法。
  6. 請求項1ないし3のいずれか一項記載の画像処理方法であって、
    複数のボリュームデータのヒストグラムをそれぞれ生成する画像処理方法。
  7. 請求項1ないし3のいずれか一項記載の画像処理方法であって、
    前記レンダリングは、平行投影を用いる画像処理方法。
  8. 請求項1ないし3のいずれか一項記載の画像処理方法であって、
    前記レンダリングは、透視投影を用いる画像処理方法。
  9. 請求項1ないし3のいずれか一項記載の画像処理方法であって、
    前記レンダリングは、円筒投影を用いる画像処理方法。
  10. コンピュータに、請求項1ないし9のいずれか一項記載の各ステップを実行させるための画像処理プログラム。
JP2005146685A 2005-05-19 2005-05-19 画像処理方法および画像処理プログラム Active JP4105176B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005146685A JP4105176B2 (ja) 2005-05-19 2005-05-19 画像処理方法および画像処理プログラム
US11/368,216 US20060262969A1 (en) 2005-05-19 2006-02-22 Image processing method and computer readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005146685A JP4105176B2 (ja) 2005-05-19 2005-05-19 画像処理方法および画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2006323653A JP2006323653A (ja) 2006-11-30
JP4105176B2 true JP4105176B2 (ja) 2008-06-25

Family

ID=37448336

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005146685A Active JP4105176B2 (ja) 2005-05-19 2005-05-19 画像処理方法および画像処理プログラム

Country Status (2)

Country Link
US (1) US20060262969A1 (ja)
JP (1) JP4105176B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5334423B2 (ja) * 2008-02-13 2013-11-06 株式会社日立メディコ 画像処理装置、画像処理方法、およびプログラム
JP5224451B2 (ja) * 2008-06-03 2013-07-03 富士フイルム株式会社 投影画像作成装置、方法およびプログラム
CN102197649B (zh) * 2008-08-29 2014-03-26 皇家飞利浦电子股份有限公司 三维图像数据的动态传送
JP5551955B2 (ja) 2010-03-31 2014-07-16 富士フイルム株式会社 投影画像生成装置、方法、及びプログラム
GB201009725D0 (en) * 2010-06-11 2010-07-21 Univ Leuven Kath Method of quantifying local bone loss
US8718973B2 (en) * 2011-09-09 2014-05-06 Kabushiki Kaisha Toshiba Method, device, and system for calculating a geometric system model using an area-simulating-volume algorithm in three dimensional reconstruction
CN104778743B (zh) * 2013-10-30 2018-04-17 宏达国际电子股份有限公司 用于产生三维景象的装置及由电脑执行的产生三维景象的方法
US9849385B2 (en) * 2015-03-23 2017-12-26 Golfstream Inc. Systems and methods for programmatically generating anamorphic images for presentation and 3D viewing in a physical gaming and entertainment suite
JP6437286B2 (ja) * 2014-11-26 2018-12-12 株式会社東芝 画像処理装置、画像処理プログラム、画像処理方法及び治療システム
JP6687393B2 (ja) * 2015-04-14 2020-04-22 キヤノンメディカルシステムズ株式会社 医用画像診断装置
JP7206617B2 (ja) * 2018-04-12 2023-01-18 大日本印刷株式会社 断層画像表示用カラーマップの最適化装置およびボリュームレンダリング装置
CN110473296B (zh) * 2019-08-15 2023-09-26 浙江中国轻纺城网络有限公司 贴图方法和装置

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4922915A (en) * 1987-11-27 1990-05-08 Ben A. Arnold Automated image detail localization method
US5799099A (en) * 1993-02-12 1998-08-25 George S. Allen Automatic technique for localizing externally attached fiducial markers in volume images of the head
US5361763A (en) * 1993-03-02 1994-11-08 Wisconsin Alumni Research Foundation Method for segmenting features in an image
US6331116B1 (en) * 1996-09-16 2001-12-18 The Research Foundation Of State University Of New York System and method for performing a three-dimensional virtual segmentation and examination
US6343936B1 (en) * 1996-09-16 2002-02-05 The Research Foundation Of State University Of New York System and method for performing a three-dimensional virtual examination, navigation and visualization
US6212420B1 (en) * 1998-03-13 2001-04-03 University Of Iowa Research Foundation Curved cross-section based system and method for gastrointestinal tract unraveling
EP1008957A1 (en) * 1998-06-02 2000-06-14 Sony Corporation Image processing device and image processing method
US6845342B1 (en) * 1999-05-21 2005-01-18 The United States Of America As Represented By The Department Of Health And Human Services Determination of an empirical statistical distribution of the diffusion tensor in MRI
US6560476B1 (en) * 1999-11-01 2003-05-06 Arthrovision, Inc. Evaluating disease progression using magnetic resonance imaging
US7333648B2 (en) * 1999-11-19 2008-02-19 General Electric Company Feature quantification from multidimensional image data
AU2001251539A1 (en) * 2000-04-11 2001-10-23 Cornell Research Foundation Inc. System and method for three-dimensional image rendering and analysis
US6813374B1 (en) * 2001-04-25 2004-11-02 Analogic Corporation Method and apparatus for automatic image quality assessment
US6956373B1 (en) * 2002-01-02 2005-10-18 Hugh Keith Brown Opposed orthogonal fusion system and method for generating color segmented MRI voxel matrices
US7260253B2 (en) * 2002-04-19 2007-08-21 Visiongate, Inc. Method for correction of relative object-detector motion between successive views
DE10229113A1 (de) * 2002-06-28 2004-01-22 Siemens Ag Verfahren zur Grauwert-basierten Bildfilterung in der Computer-Tomographie
US6658080B1 (en) * 2002-08-05 2003-12-02 Voxar Limited Displaying image data using automatic presets
US7233329B2 (en) * 2003-11-03 2007-06-19 Siemens Corporate Research, Inc. Rendering for coronary visualization
US7616794B2 (en) * 2004-01-26 2009-11-10 Siemens Medical Solutions Usa, Inc. System and method for automatic bone extraction from a medical image
JP2006346022A (ja) * 2005-06-14 2006-12-28 Ziosoft Inc 画像表示方法及び画像表示プログラム

Also Published As

Publication number Publication date
US20060262969A1 (en) 2006-11-23
JP2006323653A (ja) 2006-11-30

Similar Documents

Publication Publication Date Title
JP4105176B2 (ja) 画像処理方法および画像処理プログラム
JP4450786B2 (ja) 画像処理方法および画像処理プログラム
US20090174729A1 (en) Image display device and control method thereof
US7620224B2 (en) Image display method and image display program
US8923577B2 (en) Method and system for identifying regions in an image
JP4450797B2 (ja) 画像処理方法および画像処理プログラム
CN104050711B (zh) 医用图像处理装置以及医用图像处理方法
US8077948B2 (en) Method for editing 3D image segmentation maps
US7920669B2 (en) Methods, apparatuses and computer readable mediums for generating images based on multi-energy computed tomography data
JP2009011827A (ja) 複数のビューのボリューム・レンダリングのための方法及びシステム
JP2004113802A (ja) コーンビーム投射データから物体の関心領域についての三次元画像を再構成するための方法
US20090318800A1 (en) Method and visualization module for visualizing bumps of the inner surface of a hollow organ, image processing device and tomographic system
JP2002078706A (ja) 3次元デジタル画像データの診断支援のための計算機支援診断方法及びプログラム格納装置
JP4563326B2 (ja) 画像処理方法および画像処理プログラム
US20080084415A1 (en) Orientation of 3-dimensional displays as a function of the regions to be examined
JP4350226B2 (ja) 三次元画像処理装置
JP2005103263A (ja) 断層撮影能力のある画像形成検査装置の作動方法およびx線コンピュータ断層撮影装置
JP2007512064A (ja) 3次元画像データにおけるナビゲーションのための方法
JP2004174241A (ja) 画像形成方法
US7079140B2 (en) Diagnostic device having means for setting transfer functions
JP2010075549A (ja) 画像処理装置
JP2008104798A (ja) 画像処理方法
US20230334732A1 (en) Image rendering method for tomographic image data
US7116808B2 (en) Method for producing an image sequence from volume datasets
EP3809376A2 (en) Systems and methods for visualizing anatomical structures

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080326

R150 Certificate of patent or registration of utility model

Ref document number: 4105176

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110404

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120404

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130404

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130404

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140404

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250