JP4534340B2 - 色再現補正装置 - Google Patents

色再現補正装置 Download PDF

Info

Publication number
JP4534340B2
JP4534340B2 JP2000332972A JP2000332972A JP4534340B2 JP 4534340 B2 JP4534340 B2 JP 4534340B2 JP 2000332972 A JP2000332972 A JP 2000332972A JP 2000332972 A JP2000332972 A JP 2000332972A JP 4534340 B2 JP4534340 B2 JP 4534340B2
Authority
JP
Japan
Prior art keywords
light source
data
color
matrix
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000332972A
Other languages
English (en)
Other versions
JP2002142231A (ja
Inventor
直哉 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000332972A priority Critical patent/JP4534340B2/ja
Priority to US10/169,417 priority patent/US7227571B2/en
Priority to DE60138126T priority patent/DE60138126D1/de
Priority to PCT/JP2001/009113 priority patent/WO2002037863A1/ja
Priority to EP01978819A priority patent/EP1331828B1/en
Priority to KR1020027008589A priority patent/KR100843821B1/ko
Publication of JP2002142231A publication Critical patent/JP2002142231A/ja
Application granted granted Critical
Publication of JP4534340B2 publication Critical patent/JP4534340B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Image Input (AREA)
  • Image Processing (AREA)

Description

【0001】
本発明は、色再現補正装置に関する。特に、同一の視環境下または異なる視環境下において、所望の演色性で画像の色再現を行うための補正装置に関する。
【0002】
【従来の技術】
従来、カメラ等の画像入力装置により撮像された像が観察時の視環境によって見え方が異なり、所望の色で再現されない場合があることが知られている。これは、撮像時の光源(以下、撮像光源という)と観察時の光源(以下、観察光源という)の演色性が大きく異なる場合などにみられる。例えば、日光系の光源であるD65光源下で撮像された像が高効率型蛍光灯系の光源であるF5光源下で観察された場合に、再現される色は大きく異なってしまうということがある。
【0003】
また、同一系統の光源については、撮像された白色を白色として再現させるためのホワイトバランスと呼ばれる補正を施すことによって、同一系統の光源間で色再現が良好にできることも知られている。ここで、撮像光源の推定が正確になされる必要があることは言うまでもない。そして、従来は、色再現補正としてホワイトバランスが施されている。
【0004】
一方、日光系の光源は演色性が高く、蛍光灯系の光源は演色性が低いことが知られているが、蛍光灯系の光源下で撮像された像を日光系の光源の演色性で再現したいという要求もある。
【0005】
【発明が解決しようとする課題】
しかしながら、ホワイトバランスは無彩色を無彩色として再現するための補正であることから、撮像光源と観察光源の演色性が大きく異なる場合は、ホワイトバランスのみによる色再現補正では有彩色を良好に色再現できないという問題がある。
【0006】
また、撮像光源と観察光源毎に色再現補正を行うための補正係数を用意するのでは、大変煩雑な処理を要するという問題がある。
【0007】
本発明は、上述の課題に鑑みてなされたもので、その目的とするところは、撮像光源と演色性の異なる観察光源で画像が再現される場合でも、良好で簡易に色再現できる色再現補正装置を提供することにある。
【0008】
上記課題を解決するために、本発明の色再現補正装置は、撮像した画像の画像データと、撮像光源についての推定結果の情報である撮像光源の種類についての情報と、撮像光源の色度点データを含む情報とを出力する画像入力装置から、色度点データを受取り、ホワイトバランス用補正行列データを生成するホワイトバランス行列生成部と、画像入力装置から撮像光源の種類についての情報を受取り、撮像光源の種類についての情報に基づいて撮像光源の光源系統を示す撮像光源系統を決定すると共に、別途入力される観察光源の種類についての情報に基づいて観察光源の光源系統を示す観察光源系統を決定する光源系統決定部と、所定の等色関数データ、光源系統決定部で決定された撮像光源系統と観察光源系統との分光特性データ、所定の被撮像物の光学特性データおよびホワイトバランス用補正行列データを用いて、被撮像物の光学特性を反映した変換行列データを生成する変換行列生成部と、変換行列データを用いて、画像データに対して色再現補正を行う色補正処理部と、観察光源の種類についての情報を光源系統決定部に供給すると共に、変換行列生成部が生成する変換行列データを色補正処理部に供給する制御部とを有する。
【0012】
【発明の実施の形態】
実施の形態1.
図1は、本発明に係る一実施の形態の色再現補正装置100の全体構成を示す図である。図1において、色再現補正装置100は、操作部110、制御部120、ホワイトバランス行列生成部130、光源系統決定部140、変換行列生成部150、記憶部160および色補正処理部170から構成される。制御部120は、他の全ての構成部と接続される。
【0013】
以下に、上記各構成部の動作について説明する。以下の説明では、色再現補正装置100には、公知の光源推定技術を用いて撮像光源を推定した結果、得られた推定光源データおよび推定された光源についての色度点データが外部から入力されることを前提とする。また、色再現補正装置100には、画像データも外部から入力されるものとする。
操作部110には、色再現補正を行うのに必要な設定等を行うためのメニュー画面が表示され、キー等を用いてその設定がされる。また、操作部110には、処理の開始・停止等の指示、データの入力、その他の入力がなされる。さらに、各構成部での処理の状態や処理結果等が表示される。操作部110の出力は、制御部120に、または、制御部120を介して各構成部に伝達される。
【0014】
制御部120は、操作部110から出力される設定、指示、データ等に応じて各処理部に所定の指示やデータ等を出力し、各構成部から制御部120に出力される信号に応じて他の構成部に指示やデータ等を出力する等の処理を行う。例えば、後述する変換行列生成部150からの要求により後述する記憶部160からデータを読み出し、変換行列生成部150に出力したり、変換行列生成部150が出力した結果を色補正処理部170に出力したりする等の処理を行う。また、上記の光源推定の結果がホワイトバランス行列生成部130および光源系統決定部140に入力される都度、以下の各部を制御して色再現補正用の変換行列を作成して更新し、更新した変換行列を用いて色再現補正を行うように制御する。
【0015】
ホワイトバランス行列生成部130は、制御部120からの指示に従って、推定された光源についての色度点データ(Rw、Gw、Bw)を受取り、以下の式(1)に基づいてホワイトバランス用の補正行列MWBを生成する。
【数1】
Figure 0004534340
ここで、Rw、Gw、Bwは、各々、推定された光源についての色度点のR、G、B成分を示すことは言うまでもない。
【0016】
光源系統決定部140は、制御部120からの指示に従って、外部から入力される推定光源データを受取り、推定された光源の種類についての情報と制御部120を介して得られる観察光源の種類についての情報とのに基づいて、撮像光源と観察光源との光源系統を決定する。
上記の光源系統として、例えば、D系(日光系)、FB系(高効率型蛍光灯系)、FP系(3波長型蛍光灯系)およびA系(白熱灯(黒体放射)系)等がある。各系統は、さらに、
D系(日光系):CIE/D50(5003K)、D55(5503K)、D65(6504K)、D75(4504K)等、
FE系(高効率型蛍光灯系):CIE/F1(6430K)、F2(4240K)、F3(3450K)、F4(2940K)、F5(6350K)、F6(4150K)等、
FP系(3波長型蛍光灯系):CIE/F10(5000K)、F11(4000K)、F12(3000K)等、
A系(白熱灯(黒体放射)系):CIE/A(2856K)等
のように分類される。
【0017】
変換行列生成部150は、制御部120の指示に従って、ホワイトバランス行列生成部130から補正行列MWBを受取り、光源系統決定部140から撮像光源と観察光源との光源系統の情報を受け取る。また、後述する記憶部160から、等色関数のデータS、撮像光源と観察光源の光源系統の各光源分光特性データLm、Ln、および被撮像体の分光反射率について主成分分析して得られた固有行列データB等を受取り、下式(2)に基づいて行列Aを計算する。
【数2】
Figure 0004534340
ここで、Lは光源の分光特性データであり、光源が撮像光源の場合はLとしてLmが用いられ、観察光源の場合はLnが用いられる。以下、この行列Aを係数行列Aという。生成された係数行列Aは制御部120経由で記憶部160に格納され、その後の処理において、このように格納された係数行列Aが以下の処理を行う際に用いられるのでも良い。
【0018】
等色関数のデータには、CIE/1931等がある。ここでは、等色関数として、例えば、CIE1931等色関数S=(x(λ)、y(λ)、z(λ))を用いる。その際、x(λ)、y(λ)、z(λ)は、波長λ=[λ12, … λN]における各x、y、z成分のデータを並べて、
【数3】
Figure 0004534340
のように表すことができる。ここで、t は行列の転置を意味する。
【0019】
光源分光特性データLも、波長λ=[λ12, … λN]におけるデータを並べて、以下に示す(N×N)の対角行列で表すことができる。
【数4】
Figure 0004534340
【0020】
固有行列Bは、主成分分析において得られた固有ベクトルのうち、寄与の大きい方から所定の個数Q、以下のように並べたものである。
【数5】
Figure 0004534340
ここで、固有ベクトル k(kは1からQまでのいずれかの整数)は、N次元の列ベクトルであり、ベクトルの個数Qは、例えば、操作部510から指定することもできる。図2に、固有ベクトル kの一例を示す。図の横軸は、波長(単位nm)であり、縦軸は、その波長でのベクトルの値である。この例では、寄与の大きい順番にベクトルを3つ(PC1、PC2、PC3)、すなわち、ベクトルの個数Qが3の場合を示す。
【0021】
変換行列生成部150は、ホワイトバランス行列生成部130から受け取った補正行列MWBと上記の係数行列A(計算で生成されたものでも記憶部160に格納されていたものでも良い)を用い、以下の式(3)に基づいて変換行列Mmnを生成する。
【数6】
Figure 0004534340
ここで、Amは撮像光源についての係数行列であり、Anは観察光源についての係数行列である。
【0022】
例えば、光源の系統「m」が上記のFE系統であり、光源の系統「n」がD系統である場合の式(3)および式(1)の計算例は、以下のように表される。
【数7】
Figure 0004534340
この例に示されるように、MFEDは、単位行列から大幅にずれることが分かる。
【0023】
同様に、光源の系統「n」がD系統で、光源の系統「m」が上記のFP系統、A系統の場合のMmnの計算例は、以下のように表される。
【数8】
Figure 0004534340
【0024】
記憶部160は、制御部120からの制御に従って所定の情報を格納する。記憶される情報としては、制御部120に入力される入力情報のうち、例えば、等色関数のデータS、光源系統の光源分光特性データL、固有行列データB、操作部110におけるメニュー画面での設定内容、ホワイトバランス行列生成部130で生成されたホワイトバランス用の補正行列MWB、光源系統決定部140で決定された撮像光源と観察光源との光源系統の情報、変換行列生成部150で生成された係数行列Aおよび変換行列Mmn等の所定の定数やデータが含まれる。なお、他のデータを記憶されるデータから排除するものでないことは言うまでもない。
【0025】
色補正処理部170は、外部から入力された画像データに対し、変換行列生成部150で生成された変換行列を用いて色再現補正処理を行い、色再現補正後の画像データを出力する。色補正処理部170での処理は、操作部110からの指示に基づいた制御部120の制御に従って行われる。この色再現補正処理は、以下の式で示されるような変換に基づいて行われる。
【数9】
Figure 0004534340
ここで、fRm、fGm、fBmは、各々、色再現補正前の画像データ(光源「m」)におけるR、G、B信号成分のデータであり、fRn、fGn、fBnは、各々、色再現補正後の画像データ(光源「n」)におけるR、G、B信号成分のデータである。
【0026】
以下に、実施の形態1に係る色再現補正方法における処理の流れを説明する。図3は、本発明の実施の形態1に係る色再現補正方法における変換行列を生成するための処理の流れを示すフローチャートである。図3において、ステップS310で、制御部120は、ホワイトバランス行列生成部130および光源系統決定部140に光源推定で得られたデータが新たに入力されたか否かを判断する。光源推定結果のデータが新たに入力されたと判断した場合は、処理はステップS320に進み、新たに入力されていないと判断した場合は、ステップS380に移る。ステップS320で、制御部120は、ホワイトバランス行列生成部130および光源系統決定部140に新たに入力されたデータと、記憶部160に保存されている過去に入力されたデータとを比較し、新たに入力されたデータが変更されているか否かを判断する。新たに入力されたデータが更新されたと判断した場合は、処理はステップS330に移り、更新されていないと判断した場合は、処理はステップS380に移る
【0027】
ステップS330で、制御部120は、新たに入力されたデータを記憶部160に格納する。このデータ格納は、過去のデータを新たに入力されたデータに置き換える格納でも良い。ステップS340で、制御部120は、係数行列Aが記憶部160に格納されているか否かを判断し、格納されていると判断した場合は、処理はステップS350に進み、格納されていないと判断した場合は、処理はステップS360に移る。
【0028】
ステップS340で、係数行列Aが記憶部160に格納されていると判断した場合は、制御部120は、ステップS350で、記憶部160から係数行列Aを取り込んで変換行列生成部150に出力する。ステップS340で、格納されていないと判断した場合は、制御部120は、ステップS360で、記憶部160から等色関数データS、撮像光源と観察光源の光源系統の各光源分光特性データLm、Ln、および固有行列データB等を受取り、上記の式(2)に基づいて行列Aを計算する。ここで、光源分光特性データは、光源系統決定部140が決定した光源についてのものであることは言うまでもない。なお、ここで形成した係数行列Aを記憶部160に格納するのでも良い。
【0029】
ステップS370で、変換行列生成部150は、制御部120の制御に従って、ホワイトバランス行列生成部130から補正行列MWBを受取り、ステップS350またはステップS360で得られた係数行列Aとこのホワイトバランス用の補正行列MWBとを用いて変換行列Mmnを生成し、制御部120に出力する。制御部120は、この変換行列Mmnを記憶部160に記憶するのでも良い。最後に、ステップS380で、制御部120は、操作部110からの指示等の所定の情報をもとに処理を終了すべきか否かを判断し、終了すると判断した場合は、処理を終了し、終了しないと判断した場合は、処理はステップS310に移り、上記の処理を繰り返す。
【0030】
図4は、本実施の形態1に係る色再現補正方法における色再現補正処理の流れを示すフローチャートである。図3において、ステップS410で、制御部120はあらかじめ決められた変換行列Mmnを記憶部160から取り込む等の所定の初期設定を行う。ステップS420で、色補正処理部170は、制御部120の制御に従って外部から画像データの取り込みを行う。所定量の画像データを取り込んだ後、ステップS430で、上記の式(8)に基づいて色再現補正を行い、色再現補正後の画像データを外部に出力する。
【0031】
ステップS440で、制御部120は、操作部110からの指示等の所定の情報をもとに処理を終了すべきか否かを判断し、終了すると判断した場合は、処理を終了し、終了しないと判断した場合は、処理はステップS450に移る。ステップS450で、制御部120は、変換行列生成部150が変換行列Mmnを生成したか否かを判断する。なお、この判断は、160に格納されている変換行列Mmnをもとに行うのでも良い。変換行列Mmnが更新されたと判断した場合は、処理はステップS460に進み、更新された変換行列Mmnを取り込んでステップS420以降の処理を繰り返す。更新されていないと判断した場合は、処理はステップS420に移り、ステップS420以降の処理を繰り返す。
【0032】
以上説明したように、本実施の形態1によれば、観察光源または観察したい演色性に応じて変換行列Mmnを作成し、この変換行列Mmnを用いて画像データを補正することにしたので、実際の観察光源環境や所望の演色性が想定された当初のものと異なる場合でも、実際の観察光源環境において画像を良好に色再現できると共に、所望の演色性で色再現可能な色再現補正方法および装置が実現できる。
【0033】
また、主成分分析によって得られた固有ベクトルの中から寄与の大きいものを所定数、変換行列Mmnの生成に用い、その変換行列Mmnを用いて色再現補正をすることにしたので、煩雑で大量の記憶容量を要する変換行列Mmnの生成処理を簡易に行うことができる。
【0034】
また、色変換技術とホワイトバランス技術とを組み合わせることで、同一光源系統内で複数の変換行列Mmnを生成する処理を除去することができ、変換行列Mmn作成に要する処理を削減することが可能となる。
【0035】
実施の形態2.
上記、実施の形態1における色再現補正方法および装置は、所定の観察光源用の画像データに変換するものであった。しかし、ある光源下で物体を見たときに見える色をそのまま再現する(以下、色の見えの保持という)ことを目的とする場合もある。すなわち、低演色性の光源を用いて撮像された画像であっても、そのままの色で再現することを目的とする場合もある。そのため、特定の変換行列Mmnのみを用いるのではなく、変換行列Mmnと単位行列とに重み付けして組み合わせて用いる方法は、上記の色の見えの保持に有効である。本実施の形態2では、変換行列Mmnと単位行列とに所定の重み付けしたものを組み合わせて色再現補正する方法および装置について記載する。
【0036】
図5は、実施の形態2に係る色再現補正装置100の全体構成を示す図であり、その構成は、実施の形態1において示したものに、重み付き変換行列生成部180を追加したものである。
【0037】
実施の形態2において、操作部110は、実施の形態1に示された設定に加え、所定の表示をし、重み付き変換行列Mmn compを生成するか否かの入力を待つ。生成するとされた場合には、変換行列Mmn毎の重み係数についての入力も待つ。または、それらの重み係数をあらかじめ記憶部160に格納しておき、その中から選択させることも可能であり、他の方法を排除するものではない。入力があった場合にその情報を制御部120に出力し、制御部120では、この情報に基づいて各部の制御を行うと共に、この変換行列Mmn毎の重み係数についての情報を重み付き変換行列生成部180に出力する。なお、その重み係数を記憶部160に格納するのでも良い。重み付き変換行列Mmn compを計算するとされた場合、重み付き変換行列生成部180は、変換行列Mmn毎にその変換行列Mmnの重み係数および、それと同じサイズの単位行列の重み係数を決定する。そして、それらの行列と重み係数との積和をとり重み付き変換行列Mmn compを計算し、制御部120に出力する。
【0038】
図6は、本実施の形態2に係る色再現補正方法における色再現補正処理で用いる重み付き変換行列Mmn compを生成するための処理の流れを示すフローチャートである。以下に、図6を参照して、重み付き変換行列Mmn compを生成するための処理の流れを説明する。なお、この重み付き変換行列Mmn compを用いた場合の色再現補正処理の流れを示すフローチャートは、図4に示されるものと同じである。以下の説明では、実施の形態1で用いた図3の処理と同一の処理については同一の参照番号を付し、それらの説明を省略する。
【0039】
図6において、ステップS601で、制御部120は、設定された重み係数K(以下、目標係数という)が0か否かを判断し、Kが0と判断した場合は、処理はステップS602に移り、0でないと判断した場合は、処理はステップS310に移る。ステップS602で、重み付き変換行列生成部180は、重み付き変換行列Mmn compに単位行列を設定し、制御部120に出力し、処理を終了する。この単位行列は、以下の処理によって変更されないものとする。
【0040】
制御部120がKは0でないと判断した場合は、実施の形態1で示したステップS310からS360迄の処理を行い、変換行列生成部150は、ステップS670で、制御部120の制御に従って、ホワイトバランス行列生成部130から補正行列MWBを受取り、ステップS350またはステップS360で得られた係数行列Aとこのホワイトバランス用の補正行列MWBとを用いて変換行列Mmnを生成する。なお、本実施の形態2では、変換行列Mmnを制御部120に出力しない。したがって、この変換行列Mmnは記憶部160に格納されない。ステップS671で上記の目標値を用いて、以下の式(9)に基づいて重み付き変換行列Mmn compを計算する。
【数10】
Figure 0004534340
ここで、IはMmnと同じサイズの単位行列であり、Kが1のときは、光源を変更する場合の変換行列K・Mmnが得られ、Kが0のときは、色の見えの保持を行う場合の変換行列(すなわち、単位行列I)が得られる。
【0041】
最後に、ステップS380で、制御部120は、操作部110からの指示等の所定の情報をもとに処理を終了すべきか否かを判断し、終了すると判断した場合は、処理を終了し、終了しないと判断した場合は、処理はステップS310に移り、上記の処理を繰り返す。
【0042】
以上説明したように、本実施の形態2によれば、変換行列Mmnと単位行列に目標係数Kを介して重み付けし、それらの和をとって重み付き変換行列Mmn compを生成することにしたので、観察光源を変更せずに色の見えの保持を行うというユーザの要望にも対応可能となった。
【0043】
実施の形態3.
上記、実施の形態1における色再現補正方法および装置は、変換行列Mmnを生成するのに主成分分析で得られた固有行列を用いていた。したがって、その固有行列は、主成分分析で用いられるデータの特徴に依存し、そのデータの統計性に偏りがある場合は、統計性を良好に反映しないことが考えられる。そのような場合は、観測データを用いて変換行列を生成するのでなく、カラーパッチ等の、色空間で色が均等に分布するような被撮像体について測色し、そのデータを用いて後述する方法で変換行列を生成するのが色再現性を向上するのに適している。本実施の形態3では、色空間において色が均等に分布する被撮像物の測色結果をもとに、誤差最小二乗法に基づいて色再現補正する方法および装置について記載する。
【0044】
図7は、実施の形態3に係る色再現補正装置の全体構成を示す図であり、その構成は、実施の形態1において示したものに、相関処理部190を追加したものである。なお、相関処理部190は、必要に応じて着脱可能とすることもできる。
本実施の形態3において、上記の「色空間において色が均等に分布する被撮像物」として、例えば、カラーパッチを用い、CIE 13.3の基本8色、CIE 13.3で定義されている全てを含む14色、GretagMacbeth ColorCheckerの24色等を測色する。
【0045】
操作部110は、実施の形態1に示された設定に加えて所定の表示をし、カラーパッチの測色結果を用いた補正を行うか否かの入力を待つ。入力があった場合にその情報を制御部120に出力し、制御部120では、この情報に基づいて各部の制御を行うと共に、必要な場合には操作部110を介して測色するカラーパッチやその色の種類等をユーザに選択させる。記憶部160は、測色すべきカラーパッチや色の種類に関する情報をあらかじめ記憶しておき、制御部120からの制御によりその情報を相関処理部190に出力する。
【0046】
相関処理部190は、制御部120の制御に従って、カラーパッチを測色し、測色で得られた結果から分光反射係数の相関行列Krrを生成する。さらに、以下に述べる式(12)に基づいて行列PA を生成し、制御部120に出力する。
【0047】
変換行列生成部150は、制御部120を介して行列PAを受取り、以下の式に基づいて変換行列Mmn corを生成する。
【数11】
Figure 0004534340
変換行列生成部150で計算された変換行列Mmn corは、制御部120を経由して色補正処理部170に出力される。色補正処理部170では、入力された画像データに対して変換行列Mmn corを用いて色再現補正を行う。
【0048】
図8は、本実施の形態3に係る色再現補正方法における色再現補正処理で用いる、測色データを用いて変換行列Mmn corを生成するための処理の流れを示すフローチャートである。以下に、図8を参照して、測色データを用いて変換行列Mmn corを生成するための処理の流れを説明する。なお、この、測色データを用いて生成した変換行列Mmn corを用いた場合の色再現補正処理の流れを示すフローチャートは、図4に示されるものと同じである。以下の説明では、実施の形態1で用いた図3の処理と同一の処理については同一の参照番号を付し、それらの説明を省略する。
【0049】
図8において、ステップS801で、制御部120は、カラーパッチの測色データを用いて生成した分光反射率の共分散行列Krrが記憶部160に格納されているか否かを判断する。共分散行列Krrが格納されていると判断した場合は、処理はステップS310に進み、共分散行列Krrが格納されていないと判断した場合は、処理はステップS802に移る。ステップS802で、相関処理部190は、カラーパッチを測色し、その後、ステップS803で、上記の共分散行列Krrを生成する。なお、ここで生成された共分散行列Krrを記憶部160に格納しておくのでも良い。ステップS803の処理が完了すると、処理はステップS310に進む。ステップS310以降のステップでは、実施の形態1で示した処理と同様の処理がなされる。
【0050】
なお、ステップS340で、制御部120は、係数行列Qが記憶部160に格納されているか否かを判断し、格納されていないと判断した場合は、制御部120は、ステップS860で、記憶部160から等色関数データS、撮像光源および観察光源の光源系統の各光源分光特性データLm、Ln等を受取り、上記の式(12)に基づいて行列PAを計算する。そして、その結果を用い、上記の式(11)に基づいて係数行列Qを計算する。ここで、光源分光特性データは、光源系統決定部140が決定した光源についてのものであることは言うまでもない。なお、ここで形成した係数行列Qを記憶部160に格納するのでも良い。ステップS860以降のステップでの処理は実施の形態1に記載したものと同じである。なお、上記の共分散行列Krrの計算の方法としては、例えば、カラーパッチの測色結果の各色成分データについての共分散を計算し、それに対して等色関数データSと光源分光特性データLを用いて変換する方法等がある。共分散行列Krrの計算方法は公知であり、その説明を省略する。
【0051】
以上説明したように、本実施の形態3によれば、色空間で色が均等に分布する被撮像体を測色して得られた結果を用い、誤差最小法に基づいて変換行列Mmnを生成することにしたので、統計の偏りによる誤差を低減する色再現補正を実現できる。
【0052】
以上説明したように、本発明によれば、観察光源または観察したい演色性に応じて変換行列Mm→nを作成し、この変換行列Mm→nを用いて画像データを補正することにしたので、実際の観察光源環境や所望の演色性が想定された当初のものと異なる場合でも、実際の観察光源環境において画像を良好に色再現できると共に、所望の演色性で色再現可能な色再現補正装置が実現できる。
【0053】
また、本発明によれば、主成分分析によって得られた固有ベクトルの中から寄与の大きいものを所定数、変換行列Mmnの生成に用い、その変換行列Mmnを用いて色再現補正をすることにしたので、煩雑で大量の記憶容量を要する変換行列Mmnの生成処理を簡易に行うことができる。
【0054】
また、本発明によれば、色変換技術とホワイトバランス技術とを組み合わせることで、同一光源系統内で複数の変換行列Mmnを生成する処理を除去することができ、変換行列Mmn作成に要する処理を削減することが可能となる。
【0055】
また、本発明によれば、変換行列Mmnと単位行列に目標係数Kを介して重み付けし、それらの和をとって重み付き変換行列Mmn compを生成することにしたので、観察光源を変更せずに色の見えの保持を行うというユーザの要望にも対応可能となった。
【0056】
また、本発明によれば、色空間で色が均等に分布する被撮像体を測色して得られた結果を用い、誤差最小法に基づいて変換行列Mmnを生成することにしたので、統計の偏りによる誤差を低減する色再現補正を実現できる。
【図面の簡単な説明】
【図1】 本発明の実施の形態1に係る色再現補正装置の全体構成を示す図である。
【図2】 主成分分析において得られる固有ベクトルのうち、寄与の大きいベクトル3つを一例として示す図である。
【図3】 実施の形態1に係る色再現補正方法における色再現補正処理で用いる変換行列を生成するための処理の流れを示すフローチャートである。
【図4】 実施の形態1に係る色再現補正方法における色再現補正処理の流れを示すフローチャートである。
【図5】 実施の形態2に係る色再現補正装置の全体構成を示す図である。
【図6】 実施の形態2に係る重み付き変換行列を生成するための処理の流れを示すフローチャートである。
【図7】 実施の形態3に係る色再現補正装置の全体構成を示す図である。
【図8】 実施の形態3に係る測色データを用いて変換行列を生成するための処理の流れを示すフローチャートである。
【符号の説明】
100…色再現補正装置、110…操作部、120…制御部、130…ホワイトバランス行列生成部、140…光源系統決定部、150…変換行列生成部、160…記憶部、170…色補正処理部、180…重み付き変換行列生成部、190…相関処理部

Claims (1)

  1. 撮像した画像の画像データと、撮像光源についての推定結果の情報である前記撮像光源の種類についての情報と、前記撮像光源の色度点データを含む情報とを出力する画像入力装置から、前記色度点データを受取り、ホワイトバランス用補正行列データを生成するホワイトバランス行列生成部と、
    前記画像入力装置から前記撮像光源の種類についての情報を受取り、前記撮像光源の種類についての情報に基づいて前記撮像光源の光源系統を示す撮像光源系統を決定すると共に、別途入力される観察光源の種類についての情報に基づいて前記観察光源の光源系統を示す観察光源系統を決定する光源系統決定部と、
    所定の等色関数データ、前記光源系統決定部で決定された前記撮像光源系統と前記観察光源系統との分光特性データ、所定の被撮像物の光学特性データおよび前記ホワイトバランス用補正行列データを用いて、被撮像物の光学特性を反映した変換行列データを生成する変換行列生成部と、
    前記変換行列データを用いて、前記画像データに対して色再現補正を行う色補正処理部と、
    前記観察光源の種類についての情報を前記光源系統決定部に供給すると共に、前記変換行列生成部が生成する前記変換行列データを前記色補正処理部に供給する制御部とを有する色再現補正装置。
JP2000332972A 2000-10-31 2000-10-31 色再現補正装置 Expired - Fee Related JP4534340B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2000332972A JP4534340B2 (ja) 2000-10-31 2000-10-31 色再現補正装置
US10/169,417 US7227571B2 (en) 2000-10-31 2001-10-17 Color reproduction corrector for image input device and color reproduction correction method
DE60138126T DE60138126D1 (de) 2000-10-31 2001-10-17 Farbwiedergabekorrekturvorrichtung für ein bildeingabegerät und farbwiedergabekorrekturverfahren
PCT/JP2001/009113 WO2002037863A1 (fr) 2000-10-31 2001-10-17 Correcteur de reproduction chromatique pour dispositif de saisie d"image et procede de correction de reproduction chromatique
EP01978819A EP1331828B1 (en) 2000-10-31 2001-10-17 Color reproduction corrector for image input device and color reproduction correction method
KR1020027008589A KR100843821B1 (ko) 2000-10-31 2001-10-17 화상 입력 장치용 색 재현 보정 장치 및 색 재현 보정 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000332972A JP4534340B2 (ja) 2000-10-31 2000-10-31 色再現補正装置

Publications (2)

Publication Number Publication Date
JP2002142231A JP2002142231A (ja) 2002-05-17
JP4534340B2 true JP4534340B2 (ja) 2010-09-01

Family

ID=18809112

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000332972A Expired - Fee Related JP4534340B2 (ja) 2000-10-31 2000-10-31 色再現補正装置

Country Status (6)

Country Link
US (1) US7227571B2 (ja)
EP (1) EP1331828B1 (ja)
JP (1) JP4534340B2 (ja)
KR (1) KR100843821B1 (ja)
DE (1) DE60138126D1 (ja)
WO (1) WO2002037863A1 (ja)

Families Citing this family (54)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6505123B1 (en) 2000-07-24 2003-01-07 Weatherbank, Inc. Interactive weather advisory system
JP2004145773A (ja) * 2002-10-28 2004-05-20 Japan Science & Technology Agency 通信ネットワークを介した商品画像の色再現方法
JP3861808B2 (ja) * 2002-12-25 2006-12-27 ソニー株式会社 撮像装置
KR100848757B1 (ko) * 2004-01-29 2008-07-25 올림푸스 가부시키가이샤 색 재현 시스템 및 색 재현 방법
US20060161469A1 (en) 2005-01-14 2006-07-20 Weatherbank, Inc. Interactive advisory system
US7920169B2 (en) 2005-01-31 2011-04-05 Invention Science Fund I, Llc Proximity of shared image devices
US8606383B2 (en) 2005-01-31 2013-12-10 The Invention Science Fund I, Llc Audio sharing
US8902320B2 (en) 2005-01-31 2014-12-02 The Invention Science Fund I, Llc Shared image device synchronization or designation
US9082456B2 (en) 2005-01-31 2015-07-14 The Invention Science Fund I Llc Shared image device designation
US9124729B2 (en) 2005-01-31 2015-09-01 The Invention Science Fund I, Llc Shared image device synchronization or designation
US20060221197A1 (en) * 2005-03-30 2006-10-05 Jung Edward K Image transformation estimator of an imaging device
US20060174203A1 (en) 2005-01-31 2006-08-03 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Viewfinder for shared image device
US9325781B2 (en) 2005-01-31 2016-04-26 Invention Science Fund I, Llc Audio sharing
US20060170956A1 (en) 2005-01-31 2006-08-03 Jung Edward K Shared image devices
US9489717B2 (en) 2005-01-31 2016-11-08 Invention Science Fund I, Llc Shared image device
US7876357B2 (en) 2005-01-31 2011-01-25 The Invention Science Fund I, Llc Estimating shared image device operational capabilities or resources
US9910341B2 (en) 2005-01-31 2018-03-06 The Invention Science Fund I, Llc Shared image device designation
US8832121B2 (en) * 2005-02-02 2014-09-09 Accuweather, Inc. Location-based data communications system and method
US9191611B2 (en) 2005-06-02 2015-11-17 Invention Science Fund I, Llc Conditional alteration of a saved image
US9001215B2 (en) 2005-06-02 2015-04-07 The Invention Science Fund I, Llc Estimating shared image device operational capabilities or resources
US9076208B2 (en) 2006-02-28 2015-07-07 The Invention Science Fund I, Llc Imagery processing
US10003762B2 (en) 2005-04-26 2018-06-19 Invention Science Fund I, Llc Shared image devices
US8681225B2 (en) 2005-06-02 2014-03-25 Royce A. Levien Storage access technique for captured data
US8072501B2 (en) * 2005-10-31 2011-12-06 The Invention Science Fund I, Llc Preservation and/or degradation of a video/audio data stream
US9451200B2 (en) 2005-06-02 2016-09-20 Invention Science Fund I, Llc Storage access technique for captured data
US7782365B2 (en) 2005-06-02 2010-08-24 Searete Llc Enhanced video/still image correlation
US9819490B2 (en) 2005-05-04 2017-11-14 Invention Science Fund I, Llc Regional proximity for shared image device(s)
US8253821B2 (en) * 2005-10-31 2012-08-28 The Invention Science Fund I, Llc Degradation/preservation management of captured data
US9093121B2 (en) 2006-02-28 2015-07-28 The Invention Science Fund I, Llc Data management of an audio data stream
US7872675B2 (en) * 2005-06-02 2011-01-18 The Invention Science Fund I, Llc Saved-image management
US20070222865A1 (en) 2006-03-15 2007-09-27 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Enhanced video/still image correlation
US9621749B2 (en) 2005-06-02 2017-04-11 Invention Science Fund I, Llc Capturing selected image objects
US8964054B2 (en) 2006-08-18 2015-02-24 The Invention Science Fund I, Llc Capturing selected image objects
US8233042B2 (en) * 2005-10-31 2012-07-31 The Invention Science Fund I, Llc Preservation and/or degradation of a video/audio data stream
US9967424B2 (en) 2005-06-02 2018-05-08 Invention Science Fund I, Llc Data storage usage protocol
US9167195B2 (en) 2005-10-31 2015-10-20 Invention Science Fund I, Llc Preservation/degradation of video/audio aspects of a data stream
US20070203595A1 (en) * 2006-02-28 2007-08-30 Searete Llc, A Limited Liability Corporation Data management of an audio data stream
US20070120980A1 (en) * 2005-10-31 2007-05-31 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Preservation/degradation of video/audio aspects of a data stream
US8229467B2 (en) 2006-01-19 2012-07-24 Locator IP, L.P. Interactive advisory system
JP5056006B2 (ja) * 2006-12-26 2012-10-24 株式会社ニコン 撮像装置およびプログラム
US8634814B2 (en) 2007-02-23 2014-01-21 Locator IP, L.P. Interactive advisory system for prioritizing content
JP5090146B2 (ja) * 2007-12-06 2012-12-05 オリンパス株式会社 色変換係数算出装置、色変換係数算出プログラム、色変換係数算出方法
KR101536191B1 (ko) 2008-12-16 2015-07-13 삼성전자주식회사 컬러 재현 장치 및 컬러 재현 방법
ES2726775T3 (es) 2010-09-09 2019-10-09 Red Com Llc Aparato y método para reducir o evitar el aliasing temporal en cámaras cinematográficas
US8655068B1 (en) 2011-10-07 2014-02-18 LI Creative Technologies, Inc. Color correction system
TWI520570B (zh) * 2012-03-19 2016-02-01 中華映管股份有限公司 立體影像之影像處理方法
EP2984520B1 (en) * 2013-04-05 2018-11-28 Red.Com, Llc Optical filtering for cameras
CN104766310B (zh) * 2015-03-24 2017-08-29 厦门通士达照明有限公司 光源检测***和检测方法
JP6125740B1 (ja) * 2015-09-30 2017-05-10 Hoya株式会社 内視鏡システム及び評価値計算装置
CN107529957B (zh) * 2016-03-03 2019-10-25 Hoya株式会社 修正数据生成方法以及修正数据生成装置
US10646102B2 (en) * 2016-08-31 2020-05-12 Hoya Corporation Processor for electronic endoscope, and electronic endoscope system
CN107801012B (zh) 2017-10-30 2019-05-17 Oppo广东移动通信有限公司 白平衡处理方法及装置、电子装置和计算机可读存储介质
CN113676713A (zh) * 2021-08-11 2021-11-19 维沃移动通信(杭州)有限公司 图像处理方法、装置、设备及介质
CN115835034B (zh) * 2021-09-15 2024-04-05 荣耀终端有限公司 白平衡处理方法与电子设备

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0628437A (ja) * 1992-07-07 1994-02-04 Seiko Instr Inc 画像入出力装置
JPH09215000A (ja) * 1996-02-01 1997-08-15 Canon Inc 撮像装置および画像信号処理方法
JPH09214787A (ja) * 1996-01-31 1997-08-15 Canon Inc 画像処理装置及び方法
JPH104558A (ja) * 1996-06-14 1998-01-06 Konica Corp 電子カメラ
JPH10285541A (ja) * 1997-04-09 1998-10-23 Asahi Optical Co Ltd 電子スチルカメラの画像補正情報記録装置および画像復元処理装置
JPH1125252A (ja) * 1997-07-09 1999-01-29 Canon Inc 画像処理方法および装置および記憶媒体
JP2874235B2 (ja) * 1990-01-12 1999-03-24 日本電気株式会社 色彩測定方法
JP2000050086A (ja) * 1998-07-24 2000-02-18 Canon Inc 画像処理装置およびその方法、並びに、プロファイル作成方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3253334B2 (ja) * 1992-01-16 2002-02-04 三洋電機株式会社 ホワイトバランス補正装置
JPH0730916A (ja) * 1993-07-09 1995-01-31 Nec Corp カラー撮像装置における色再現補正回路
JP3149297B2 (ja) * 1993-08-25 2001-03-26 東洋インキ製造株式会社 カラーバランス調整装置および調整方法
JPH09163382A (ja) * 1995-12-07 1997-06-20 Toyo Ink Mfg Co Ltd 色ずれ修正方法及び装置
JP3304740B2 (ja) * 1996-02-20 2002-07-22 東洋インキ製造株式会社 色シミュレーション装置
JPH09284581A (ja) * 1996-04-15 1997-10-31 Toyo Ink Mfg Co Ltd 色シミュレーション装置
JPH10108031A (ja) * 1996-10-01 1998-04-24 Canon Inc 画像処理装置及び方法及び記録媒体
JPH10173941A (ja) * 1996-12-16 1998-06-26 Toyo Ink Mfg Co Ltd 自然画像の色ずれ修正方法および装置
JP3624604B2 (ja) * 1996-12-28 2005-03-02 株式会社ニコン 撮像装置の色再現補正装置および補正方法
US6243133B1 (en) * 1997-03-07 2001-06-05 Eastman Kodak Company Method for automatic scene balance of digital images
JPH10285610A (ja) * 1997-04-01 1998-10-23 Sony Corp 色補正装置および色補正制御装置
DE69835638T2 (de) * 1997-07-09 2006-12-28 Canon K.K. Farbbildverarbeitungsgerät und -verfahren
JP4076248B2 (ja) * 1997-09-09 2008-04-16 オリンパス株式会社 色再現装置
JP2000090233A (ja) * 1998-09-08 2000-03-31 Olympus Optical Co Ltd 画像処理装置
JP3551854B2 (ja) * 1999-09-01 2004-08-11 ミノルタ株式会社 デジタル撮影装置、画像データ処理装置、デジタル撮影方法および記録媒体
JP2002016939A (ja) * 2000-04-28 2002-01-18 Fuji Photo Film Co Ltd 画像処理方法および装置並びに記録媒体
JP2002204374A (ja) * 2000-10-23 2002-07-19 Seiko Epson Corp 色補正テーブル生成方法、画像処理装置、画像処理方法および記録媒体
JP3744808B2 (ja) * 2001-03-28 2006-02-15 セイコーエプソン株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
US20020196972A1 (en) * 2001-06-26 2002-12-26 Gokalp Bayramoglu Color correction for color devices based on illuminant sensing
US7146041B2 (en) * 2001-11-08 2006-12-05 Fuji Photo Film Co., Ltd. Method and apparatus for correcting white balance, method for correcting density and recording medium on which program for carrying out the methods is recorded
US7158174B2 (en) * 2002-04-04 2007-01-02 Eastman Kodak Company Method for automatic white balance of digital images

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2874235B2 (ja) * 1990-01-12 1999-03-24 日本電気株式会社 色彩測定方法
JPH0628437A (ja) * 1992-07-07 1994-02-04 Seiko Instr Inc 画像入出力装置
JPH09214787A (ja) * 1996-01-31 1997-08-15 Canon Inc 画像処理装置及び方法
JPH09215000A (ja) * 1996-02-01 1997-08-15 Canon Inc 撮像装置および画像信号処理方法
JPH104558A (ja) * 1996-06-14 1998-01-06 Konica Corp 電子カメラ
JPH10285541A (ja) * 1997-04-09 1998-10-23 Asahi Optical Co Ltd 電子スチルカメラの画像補正情報記録装置および画像復元処理装置
JPH1125252A (ja) * 1997-07-09 1999-01-29 Canon Inc 画像処理方法および装置および記憶媒体
JP2000050086A (ja) * 1998-07-24 2000-02-18 Canon Inc 画像処理装置およびその方法、並びに、プロファイル作成方法

Also Published As

Publication number Publication date
JP2002142231A (ja) 2002-05-17
EP1331828B1 (en) 2009-03-25
US20030113014A1 (en) 2003-06-19
US7227571B2 (en) 2007-06-05
KR20020067587A (ko) 2002-08-22
EP1331828A4 (en) 2006-04-19
WO2002037863A1 (fr) 2002-05-10
DE60138126D1 (de) 2009-05-07
KR100843821B1 (ko) 2008-07-04
EP1331828A1 (en) 2003-07-30

Similar Documents

Publication Publication Date Title
JP4534340B2 (ja) 色再現補正装置
CN107197225B (zh) 基于色适应模型的彩色数码相机白平衡校正方法
JP3417051B2 (ja) 光源に依存しない特徴パラメータ値を用いた色情報処理方法および装置
US7265781B2 (en) Method and apparatus for determining a color correction matrix by minimizing a color difference maximum or average value
EP3888345B1 (en) Method for generating image data for machine learning based imaging algorithms
JP6455764B2 (ja) 色補正パラメータ算出方法、色補正パラメータ算出装置および画像出力システム
JP5188082B2 (ja) 画像出力機器の色変換定義の作成方法、作成装置及びそのプログラム
US20020031256A1 (en) Color matching method and device, color matching program, and computer readable record medium that stores color matching program allowing appropriate color matching at high speed
JP4677699B2 (ja) 画像処理方法、画像処理装置、撮影装置評価方法、画像情報保存方法および画像処理システム
JP2010217645A (ja) 画像表示装置の補正値作成方法、画像表示装置の補正値作成装置、及び画像表示装置の補正値作成プログラム
JP2008278054A (ja) 色処理装置およびその方法
JP2007271567A (ja) カラーフィルタの色差安定波長特定方法及びプログラム
JP5962169B2 (ja) デジタルカメラ、色変換プログラムおよび記録制御プログラム
JP2002109523A (ja) 撮像装置、光学フィルタ群および画像データ変換装置
US20110234811A1 (en) Optimal raw rgb determination for color calibration
JP2002142123A (ja) 画像出力装置用色再現補正方法および装置
JP2000278707A (ja) 画像データ変換方法、画像データ構成方法、画像データ変換装置および画像データを変換するプログラムを記録した記録媒体
KR101137611B1 (ko) 이미지 데이터 변환 절차를 효과적으로 수행하는 시스템 및 방법
JP2007060421A (ja) 画像処理装置及びその方法、コンピュータプログラム及び記憶媒体
JP4314381B2 (ja) 色再現処理装置、プログラム及び色再現処理方法
JP2001136543A (ja) 画像データの変換方法および画像データ構成方法
JP2010124168A (ja) 色変換マトリクス算出方法
KR20140047929A (ko) 분광 분포를 이용한 피사체 컬러 재현 장치 및 방법
JP2002209117A (ja) 画像処理システムおよびその画像処理方法、および画像処理装置
JP5029187B2 (ja) 色座標変換装置、撮像装置、色座標変換プログラム、色座標変換方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20050401

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20050408

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100309

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100525

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100607

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130625

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees