JP4841039B2 - デジタルフォーマットのカラー画像増強方法及び装置 - Google Patents

デジタルフォーマットのカラー画像増強方法及び装置 Download PDF

Info

Publication number
JP4841039B2
JP4841039B2 JP2000611483A JP2000611483A JP4841039B2 JP 4841039 B2 JP4841039 B2 JP 4841039B2 JP 2000611483 A JP2000611483 A JP 2000611483A JP 2000611483 A JP2000611483 A JP 2000611483A JP 4841039 B2 JP4841039 B2 JP 4841039B2
Authority
JP
Japan
Prior art keywords
color
dot
image
maximum
dynamic range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2000611483A
Other languages
English (en)
Other versions
JP2002542678A (ja
JP2002542678A5 (ja
Inventor
ジェームズ,ブライアン,ジイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Eyeq Imaging Inc
Original Assignee
Athentech Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Athentech Technologies Inc filed Critical Athentech Technologies Inc
Publication of JP2002542678A publication Critical patent/JP2002542678A/ja
Publication of JP2002542678A5 publication Critical patent/JP2002542678A5/ja
Application granted granted Critical
Publication of JP4841039B2 publication Critical patent/JP4841039B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/82Camera processing pipelines; Components thereof for controlling camera response irrespective of the scene brightness, e.g. gamma correction
    • H04N23/83Camera processing pipelines; Components thereof for controlling camera response irrespective of the scene brightness, e.g. gamma correction specially adapted for colour signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Organic Low-Molecular-Weight Compounds And Preparation Thereof (AREA)
  • Toys (AREA)
  • Color Image Communication Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Luminescent Compositions (AREA)
  • Holo Graphy (AREA)

Description

【0001】
【発明の分野】
本発明は、デジタルフォーマットのカラー画像増強方法及び装置に関し、さらに詳細には、スケーリング関数を適用して画像内のRGBドットの強度をその画像の固有の動的範囲を超えないように変化させる方法及び装置に関する。
【0002】
【発明の背景】
寺院のステンドグラスの入った窓を写真撮影する場合、出来あがった画像は、現代の感覚では暗すぎるのが普通であり、実際のステンドグラスの美しさが失われている。さらに、写真機の開口を減少させて画像の被写界深度を増加することができるが、集光率が損なわれ、暗い画像になることがある。さらに、スチルカメラは所定の開口と露出時間により画像を記録できるに過ぎないため、明るい部分と暗い部分の間の隔たりが大きい画像が妥協の産物として得られるだけである。細部が適当に明瞭になるようにするため、暗い領域または明るい領域の何れかに基づいて、フィルムの露出または記録が調整される。上記の任意のものによる画像は、画像改善の利益を得ることができる。
【0003】
見る人の通常の反応は、暗い領域を明るくして、裸眼では明瞭でない細部をはっきりさせて欲しいという要望である。現在の技術では、明るさを増加する場合幾つかの望ましくない効果が発生する。即ち、カラーがぼけてグレーに近い色になるか(事実上白黒で、濃度差が少ないステンドグラスの窓を想像されたい)、または明るい領域の色が大きく歪み、一部が完全にぼけることがある。歪んだ領域は、顔の細部のように最も興味のある領域である傾向がある。
【0004】
従来のデジタル画像処理には、明るさのレベルを実質的に増加させなければならない場合、上記のような同じ問題がある。標準的な改善方法によると、画像の明るさを増加させた(フェードアウト)後、カラーを増幅する。この方法はアバウトな解決法にすぎず、元がそれほど悪くない画像にのみ有効である。明るさの増加をかなりの程度行う場合、画像のカラーがひどく歪むことになる。
【0005】
米国特許第5,982,926号(発明者:Kuo et al.)では、カラー画像、特にビデオから得られる画像を、最初にRGBカラー空間からHSVカラー空間へ変換することにより、非常に効果的に改善できることが示唆されている。その後の操作は、変換済のHSV変換カラー空間で行われる。一旦HSVカラー空間に変換されると、カラー情報(色相)が残りの画像成分(彩度及び強度)から隔離され除去される。Kuoは、彩度及び強度成分をカラーまたは色相成分を歪ませることなく増加できることを示唆している。Kuoのカラー画像は、HSVカラー空間における複数のピクセルで表される。Kuoは、一旦変換された後、HSVカラー空間からRGBカラー空間へ逆変換を行うが、これば常に効率的であると主張している。好ましい実施例において、Kuoは、強度(V)と彩度(S)とを調整する。要約すると、Kuoは、先ず、RGBからHSVカラー空間への変換を行い、2つの逐次変換関数をVとSにそれぞれ適用し、最後に、変化したHSVをRGBへ逆変換して表示する。
【0006】
発明者は、彩度成分を加減するとカラーが影響を受けるため、Kuoの方式では真のカラーの改善が行えないと主張する。カラー写真はR、G及びBの3つの自由度を有するが、白黒写真は1つの自由度があるにすぎない。3つの値を変換すると、各々がカラー成分だけでなく単一のカラー値(即ち、色相)と他の2つの独立構造成分(即ち、彩度及び強度)を含むさらに3つの値が得られる。色相は彩度に比べると極端な色の属性であるが、彩度は依然としてカラー成分である。ドットの彩度を調整すると、ドットのRGB比率、従ってそのカラーに変化が生じる。例えば、画像の明るさを増加する一環として彩度を変化させる場合、その結果は、記録装置またはカメラが、より明るい条件またはより長い露出時間のもとで真の世界の被写体から直接受けるであろう画像と同一ではない。
【0007】
さらに、Kuoは、計算のオーバーヘッドまたは費用を最小限に抑えることを強調し、またしようとしていることに注意されたい。しかしながら、KuoはHSVピクセルに対して行う調整(好ましくは2つ)に加えて、2つのRGB−HSVとHSV−RGB変換を導入している。RGBからHSVカラー空間への、またはその逆方向の変換には、計算を集約的に行わなければならない数学的関数が使用される。
【0008】
従って、画像改善時、各ドットにつき真のカラーを維持できる、効率的な計算により実行可能なプロセスが要望されている。
【0009】
本発明は、必要とされる画像の明るさ増加の程度、あるいはその明るさ増加の性質とは無関係に、画像の全ドットのカラーが如何なる状況においても維持される方法を提供することにより、これらの問題を解決するものである。
【0010】
【発明の概要】
本発明によると、デジタルフォーマットの多数のカラードットより成る画像を、各カラードットのR、G及びB強度値のうちの最大値がデジタルフォーマットの動的範囲内に制限されるように増強する方法であって、デジタル画像から各カラードットにつき各々が動的範囲内にあるR、G及びB強度値を抽出し、各カラードットにつきスケーリング係数を求め、各カラードットのスケーリング係数を、抽出したR、G及びB強度値の各々に適用して、各カラードットにつきスケーリング済みR、G及びB強度値を求め、各カラードットのスケーリング済みR、G及びB強度値をデジタルフォーマットの増強済み画像として保存するステップより成り、各カラードットにつき、抽出したR、G及びB強度値のうちの最大値であるドット最大値を求め、スケーリング係数をカラードットに適用する時、スケーリング済みR、G及びB強度値の各々が動的範囲の最大値より小さいか、それに等しくなるように、ドット最大値を用いて各カラードットのスケーリング係数を求めることを特徴とするデジタルフォーマットの画像増強方法が提供される。
本発明によると、デジタルカラー画像増強装置であって、動的範囲を有し、多数のカラードットより成る画像が保存されるデジタルデータ記憶手段(13)と、デジタルファイルから記憶された各カラードットを読み出し、記憶された各カラードットのR、G又はB強度値を抽出し、各カラードットにつきスケーリング係数を求め、スケーリング係数を各カラードットのR、G及びB強度値の各々に等しく適用して、各カラードットにつきスケーリング済みR、G及びB強度値を求め、各カラードットのスケーリング済みR、G及びB強度値デジタルデータ記憶手段に記憶させるプロセッサ(14)とより成り、プロセッサは、各カラードットにつき、R、G及びB強度値のうちの最大値であるドット最大値を求め、ドット最大値のうちの最大値を求め、スケーリング係数をドット最大値のうちの最大値に適用する時、その結果得られる最大値のスケーリング済み強度値がデジタルデータ記憶手段の動的範囲内にあるように、ドット最大値のうちの最大値を用いてスケーリング係数を求めることを特徴とするデジタルカラー画像増強装置をも提供される。
本発明の作用効果は、デジタル画像記録装置により捕捉した光バーチャルで増幅されることである。これは、捕捉した画像を本発明により処理すると、処理した画像内の各ドットが、デジタル画像記録装置が、そのドットについて、例えば、開口を増加させるかまたは集光時間を長くするように、集光能力または方式を変化させたと同じように、変化することを意味する。この集光方式の改善は、処理した画像全体に亘って一様に適用するか、または、ドット毎に変えるようにしてもよい。デジタル記録装置の動的範囲を決して超えないようにし、RGB光三原色の空間で動作させ、またカラードットの各R、G、Bに同一処理を施すと、バーチャルな光増幅が行われて、元の画像の真のカラーが維持される。
【0011】
好ましい実施例では、RGB空間内において、R、G、Bの3つの値が、デジタル画像の各ドットについて抽出される。R、G、Bの3つの値の最大値が各ドットにつき求められる。全てのドット最大値のうちの最大値、または画像最大値を求め、各ドット最大値についてスケーリング係数を与えるスケーリング関数を決定する。スケーリング係数、またはそれら係数を決定する関数を求め、ドット最大値、さらに詳細には画像最大値に適用して、その結果得られる値がシステムの既知の動的範囲を超えないようにする。ドット最大値に適用されると全く同じスケーリング係数をそのドットの残りのR、GまたはBの各々に適用して、R、G及びBの間の元の比率が維持され、それにより真のカラーが維持されるようにする。
【0012】
この改善方式は非常に効率的であり、各カラードットを改善するために同じスケーリング係数を掛ける3つの簡単な乗算を必要とするにすぎない。さらに、そして好ましくは、求めたドット最大値についてスケーリング係数の探索表を形成することにより、スケーリング係数の計算をただ1度だけ行う。通常、動的範囲は0−255(最大256個の異なる光強度)であり、従って、25万ドットのオーダーの通常の画像では、それらのうち少なくとも1000個が同じ強度を有するため、平均1000個のドットに同じスケーリング係数を適用することが可能であり、従って計算量がさらに節減される。一般的となりつつある大きな画像では、さらに多くの計算を節減できる。
【0013】
従って、本発明は、広い局面では、カラーを歪ませることなく、デジタル画像を調整する方法を提供する。画像は複数のカラードットより成り、各ドットは3つの主要なカラーであるR、G、Bの強度を表す少なくとも3つの独立した値を有する。R、G、B値の各々は、システムの動的範囲の最小値と最大値の間にある。
【0014】
この方法は、
複数のドット最大値を得るために各ドットのRGBカラー空間における3つのRGB値の最大値を求め、
各ドット最大値に所定のスケーリング係数を適用して、スケーリング係数が、スケーリングされたドット最大値がシステムの動的レンジの最大値より小さいかまたはそれに等しくなるようにし、
ドットの2つの残りのR、GまたはB値の各々に所定のスケーリング係数を適用するステップより成る。
【0015】
上記方法で調整すると、その調整済み画像は、各ドットについてスケーリングされた複数の新しいR、G、B値より成り、ドットのR、G、B間の比率は、スケーリング後では、スケーリング前と同一であり、このため真のカラーが維持される。
【0016】
好ましくは、スケーリング係数は、連続スケーリング関数から得られる。スケーリング関数は、画像範囲の少なくとも一部を、動的範囲の最大値を決して超えることなく、動的範囲の一部に基準化する。その動的範囲の大きさは画像の多数のドットより小さいため、最初にスケーリング係数の探索表を形成すると、計算効率が改善される。
【0017】
好ましいスケーリング関数は、デジタル画像の大部分の審美性を向上させるレイジー「S」(lazy "S")曲線である。
【0018】
別の好ましい実施例では、画像の一部だけ、通常は露出過小領域を選択して、部分集合である画像範囲をシステムの実質的に動的範囲全体となるように規準化することによりその細部を改善するが、これら全てを、任意のドットについてシステムの動的範囲を決して超えることなく、また各ドットのR、G、Bの比率に注意して真のカラーを維持するようにする。
【0019】
【好ましい実施例の詳細な説明】
最初に、或るタイプのデジタル画像記録装置を用いて、画像を捕捉する。デジタル画像記録装置には、物理的なものと、バーチャルなものとの2つのカテゴリーがある。物理的なデジタル画像記録装置は、デジタルカメラのように、光エネルギーを測定してデジタル画像を記録する装置である。従来型フィルムを用いるカメラのように、デジタルカメラは集光レンズ複合体を有し、デジタルセンサー・アレイが画像を記録し、各ドットの値は光の実測値を表す。デジタル画像はまた、従来式の写真をデジタル的に走査して得ることができる。写真では、集光が従来型カメラで行われ、画像がフィルム上に記録されている。従って、物理的なデジタル画像記録装置は、フィルム/プリント画像を形成するカメラと、それをデジタル化するスキャナーとの組み合わせであってよい。他の例には、デジタル映画、デジタル化された映画、デジタルX線等が含まれる。
【0020】
バーチャルなデジタル画像記録装置は、現実を模写するコンピュータにより実現されるものである。プログラムは、コンピュータの内部で写真のプロセスを論理的に模写することによりバーチャルな画像(仮想現実におけるような)を形成する。これらのデジタル画像は、「コンピュータモデル」が実際に存在したと仮定した場合、写真が何に見えるかを示すものである。一例として、肝をつぶすような恐竜のシミュレーションを含む映画がある。
【0021】
レンズ複合体は、種々のタイプの写真装置において光を集める装置である。少なくとも1つのレンズがあり、通常はかかるレンズの集合体が存在する。レンズ複合体は、開口絞りと、シャッターとを有し、これらは共に集光量を制限する。
【0022】
レンズの集光能力は、対物レンズの表面領域で測定されることが多い。この面積が2倍のレンズは、2倍の光を集めることができる。実際、レンズ複合体は、実際に集光する光の量を2つの制御手段により制御できる。第1の制御手段は、単位時間当たり集光される光の量を変化させる可変開口である。この面積が2倍になるということは、単位時間に2倍の光が集光されることを意味する。第2の制御手段はシャッターと呼ばれ、カメラ本体内に光が入射する時間を変化させる。シャッターを開位置に維持する時間を2倍にすると、カメラに入射する光エネルギーは2倍になる。
【0023】
真のカラーのデジタル画像は、各ドットが光の赤、緑及び青(RGB)の成分の強さを表す3つの別個の測定値を有するドットの格子状配列体より成る。これは、RGBカラー空間として知られている。これらの画像には、コンピュータディスクの記憶空間を節約するために、種々の「圧縮方式」を用いる種々のコンピュータファイルフォーマットが存在する。圧縮方式とは無関係に、かかるデジタルファイルフォーマットは全て、RGB値を有する格子状配列体のドットを記憶する。
【0024】
かかるファイルまたはシステムにより記憶される各R、GまたはB値の共通の標準最大値は、現在、255である。従って、各RGB成分の強度は0から255の範囲内にある。ファイルフォーマットの中には0から1023の範囲の値を記憶するものもあり、それよりも大きい範囲のフォーマットも考えられる。
【0025】
動的範囲
出願人のデジタル画像記録装置を含む全ての装置は、エネルギーの相対的変動を記録する能力の目安となる動的範囲を有する。上述したように、この動的範囲は通常、記憶手段、ファイルまたはシステムにより設定され、通常は0−255である。写真技術における成功の秘訣は、動的範囲全体をそれを超えることなく利用することである。写真では、その秘訣は、明るい領域の細部と暗い領域の細部の両方を欠落なしに捕捉することである。
【0026】
フィルム写真技術において、ネガの有意な領域が完全に不透明になっている場合、それは、その領域で光が強すぎるため全てのフィルム結晶が変化していることを意味する。写真のぼけた領域内では変差がなく、これはシステムの動的範囲を超えたということができる。
【0027】
デジタル写真技術において、光エネルギーの強度は光電センサーにより測定される。これらの値は、真のカラーフォーマットのコンピュータファイルとして記憶される。システムの動的範囲は、格子状配列体内のある領域が最大値(例えば、255)にセットされた場合に超過する。従って、明るい領域(仮説的に、256−300)内の変差は255として記録できるだけであり、従って、かかる領域内では細部が失われている。
【0028】
デジタル画像の場合のように、動的範囲を制限すると、捕捉される光の量により画像が有意な影響を受けることがある。記録装置の動的範囲内にある光の1つの特定のドットを含む1つの画像を想定されたい。例えば、光は茶色の表面から来るとする。光のドットは、3つのカラーの光、即ち、赤(R)、緑(G)及び青(B)につき測定される。露出時間を倍にして第2の画像を得る場合、上述のドットを含む各ドットにつき2倍の光が記録装置内に入る。光の範囲がシステムの動的範囲にとどまる場合、3つの値(R、G及びB)全ては2倍になり、元の茶色のドットの色は茶色のままである。入来する光を2倍にすることは、その強度測定値が2倍になること、即ち、Rも、Gも、Bも2倍になることを意味する。
【0029】
例えば、デジタル情報の場合、光を(開口を大きくするか露出時間を長くして)2倍にすると、相対的RGB値も2倍となる。50、30、20のRGB値はそれぞれ2倍の、100、60、40になる。
【0030】
各センサーに2倍の光エネルギーが当たると、センサーは2倍の刺激を受ける。2倍の赤のエネルギーが赤のセンサーに当たるが、それ以外のエネルギーについては無関係である。2倍の緑のエネルギーが緑のセンサーに当たり、また2倍の青のエネルギーが青のセンサーに当たる。
【0031】
集光能力が増加するにつれて、同一ドットの原色の3つの測定値は、以下の表1に示すように、比例的に増加するため、カラーは変化せず明るさだけが増加する。
【0032】
表1 RGB測定値に対する集光能力の増加の影響
Figure 0004841039
表1において、緑と赤の比率及び青と赤の比率は、集光能力とは無関係に一定であることに注意されたい。
【0033】
集光能力の基準レベルは便宜的に定めた人為的なものである。表1のドットのカラーの「正しい」測定値とは何であろうか。雲で覆われた屋外で集光した画像のカラードットの測定値は50、30、20であり、明るい室内の設定で測定したカラードットは、集光能力が4倍となって、200、120、80かもしてない。
【0034】
集めたエネルギーで集光能力を較正することができるが、実際にはめったに行われない。我々自身の眼の集光能力は自然に変化する。夜間に非常に明るく見える街の光は昼間の光でははっきりしないが、その理由は、眼の虹彩が、自然による光レベルの極端な変動に対処すべく、自動的に、夜間は開くが昼間は閉じるからである。発明者は、自然の昼光から人工的な夜の照明に亘る範囲に対して同じ集光設定で対処できるに十分な動的範囲を有する記憶装置を知悉しない。良好な画像を形成させる1つの方法は、記録が動的範囲外で行われないように集光能力を光と共に変化させることである。同一のカラーまたはドットについて、50、30、20及び200、120、80の測定値は共に有効である。
【0035】
赤、緑及び青の強度値のような3つの数のセットには、合計で6つの可能な比率が存在し、それらはG/R、B/R、G/B、R/G、R/B、及びB/Gである。これらの比率のうち2つだけが一義的であり、他の4つの比率は最初の2つの異なるバージョンであるため冗長的である。例えば、G/R及びB/Rに基づき、それ以外のものは、
緑/青=(緑/赤)/(青/赤)
赤/緑=1/(緑/赤)
赤/青=1/(青/赤)
青/緑=(青/赤)/(緑/赤)である。
【0036】
原理的には、6つのうち任意のうち2つを選択できる。説明の目的のため、緑/赤と青/赤の比率を選択する。
【0037】
RGBの3つの値の強度値を効果的に選択するには、3つのRGB値の中から最大値を選択するだけでよい。RGBがそれぞれ50、30、20である場合、赤が最大値であり、強度と2つの比率の計算は以下のようになる。
【0038】
強度=赤=50
比率1=緑/赤=30/50=0.600
比率2=青/赤=20/50=0.400
逆に、以下のように、赤、緑及び青の値を逆算することができる。
【0039】
赤=強度=50
緑=強度*比率1=赤*緑/赤=50*0.600=30
青=強度*比率2=赤*青/赤=50*0.400=20
このRGBの3つの値の人為的表示は有用であるが、それは任意のドットについて2つの比率が集光能力とは無関係であるためである。集光量だけが、強度成分に影響を与える。
【0040】
集光量が多すぎると、3つの原色RGBのうち少なくとも1つが動的範囲を超え、正確に表示されなくなるため、カラーの測定値が歪む。集光能力の或る任意の基準レベルにおいて50、30、20である前の例のドットを考慮する。画像を再び、しかしながら格段に大きい集光能力で記録する場合、少なくとも1つのカラーが動的範囲からはずれてしまう。
【0041】
表2 システムの動的範囲を超える集光能力の増加
Figure 0004841039
集光能力が5.1倍を超えると、緑/赤の比率も青/赤の比率も、(飽和状態であるため)一定でないことに注意されたい。(デジタルセンサーであれ、フィルムであれ)記録装置により測定可能なエネルギー量には最大値があるため、任意の被写体には集光能力に実際上の限界がある。表2において、集光能力が基準値の5倍を超えると、動的範囲はほぼいっぱいとなる。ドットの強度は250であり、記憶可能な最大値は255である。その最大値には、集光能力が正確に5.1倍になると到達する。5.1倍ではドットの強度は255であり、しかも2つの比率はそれぞれ依然として0.600及び0.400である。集光能力が5.2倍になると、さらに多くの光が記録装置に入力される。赤のセンサーは数260を記憶するであろうが、動的範囲を超えているため記憶することができず、その値は255にクリッピングされる。緑と青のセンサーについては共に正確な数が記憶されるが、全体のカラーとして不正確な数が記録される。これは、2つの比率が0.600と0.400の正しい比率から逸脱していることから分かるであろう。集光能力が6倍になると、さらに多くの光が流入し、それに応じて歪みも大きくなる。これらの比率も0.706及び0.471と、有意に異なって不正確となり、これらは有意に異なるカラーに相当する。集光能力が8.5倍になると、青のセンサーもクリッピングされた値となる。光は、赤と青の原色の両方で同じ強度を有するとして記憶される。青と赤の比率は1.000であり、前の歪んだカラー(赤みがかった茶色)がさらに歪んでオレンジ色となる。最後に、集光能力が12.25倍では、3つのセンサー全てがクリッピングされ、カラーが3つの全幅の強度の原色として記録されるが、これは白である。
【0042】
記録装置の能力(動的範囲)を超えた集光を回避することが重要であるが、これはカラーの歪みを生ぜしめるからである。
【0043】
RGBの3つのカラーのうち任意の1つを基準カラーとして選択することができる。緑が最も強いカラーである場合、そのカラーを30、50、20(前の赤の例と同じ基準集光能力を有する)と仮定すると、表3には同じ挙動が示されている。
【0044】
表3 緑を最も強いカラーとする集光能力増加の影響
Figure 0004841039
図示のように、緑/赤及び青/赤の比率が非常によく似た態様で歪んだ同じ状況が存在する。この場合、赤/緑及び青/緑の比率は、赤の場合の前の50、30、20の例と同じような数(0.600及び0.400)を発生させる。
【0045】
従って、RGBの3つのカラーのうち何れが最大値であるかには無関係に、対称性が存在し、強度は(赤、緑、青)の値の最大強度として定義され、そしてカラーの比率(赤/強度、緑/強度、青/強度)が得られる。これら3つの比率のうちの1つは、強度は常に分子の1つに等しいため、正確に1に等しい。表1の赤の場合、RGB=50、30、20であり、そのため、強度は(50、30、20)の最大値であって、50であり、カラーの比率は(50/50、30/50、20/50)であって(1、0.600、0.400)である。
【0046】
従って、赤、緑、青のそれぞれにつき、
Figure 0004841039
上述したように、カメラが同一の画像の別の設定と比較してより多くの光を集めると、所与のドットは、記録装置の動的範囲内である場合、3原色の測定値の比率は同じという性質を有する。ドットをRGBの3つのカラーとして考えないで、ドットを強度及び比率の組合わせとして考えることもできる。再び、基準強度が50として50、30、20のドットでは、カラー比率は1、0.600、0.400である。
【0047】
画像の改善
カラー比率が変化しない限り、カラーに悪影響を与えることなく画像を調節することができる。例えば、記憶装置が集める光が不充分である場合、光のパワーまたは強度をカラーを維持しながらバーチャルに増幅することができる。
【0048】
光を補正係数2でバーチャルに増幅またはスケーリングするためには、カラー比率を変えないでその強度を2倍にする。例えば、(50、30、20)のドットの強度を倍増して100にすると、50*2*(1、0.6、0.4)=(100、60、40)のカラードットが得られる。同じ結果を、ただR、G、Bを2倍にするだけで得ることが可能である。
【0049】
この真のカラー光のバーチャルな増幅は、3つの原色全てに同じ数を乗算またはスケーリングすることにより行う。出力値が動的範囲内にある限り、カラーは歪まない。動的範囲は、R、GまたはBの計算値が(255のように)画像のファイルフォーマットより使用される範囲より大きい場合、超えることになる。
【0050】
代数的スケーリング関数から補正係数を取り出すことにより、3つのスケーリングによっていずれの値も動的範囲を決して超えないようにすることが可能である。
【0051】
図1を参照して、X軸は、画像ドットの強度(赤、緑及び青の最大値)を表わす。0−1のスケールは、動的範囲の限界(0−255のような)を表わす。図示の直線状対角線では、ドットの強度である50(50/256=0.2)は、0.2の出力値において1でスケーリングされている。従って、1の対角線は、出力が入力と同一である「動作なし」の状況に対応する。しかしながら、スケーリング関数が1をはずれると、出力値は入力値と異なるようになり、画像が変化する。
【0052】
動的範囲を0から1.0にスケーリングするには、現在の強度値(RGBの3つのカラーの最大値)をこの動的範囲内に記録可能な最大数で割算するだけでよい。その数を255とする。任意のドットは、そのドット最大強度が0と255の間の数であろう。ドットの最大値を0及び1.0にスケーリングするには、強度を255で割算する。
【0053】
入力軸と出力軸は共に、RGBの3つのカラーのうちの最大値(即ち、ドット最大値)を表わす。入力は、考慮中のドット最大値である。出力は、この方法により算定されるRGBの3つのカラーの調整済みドット最大値に対応する。
【0054】
ドット最大値
入力RGBの3つのカラーの最大値を見付ける1つの方法は、最大値として1つを選択し、それ以外をぞれぞれテストして、それ以外のものが大きければ最大値をそれに再設定することである。以下の3つの行の擬似コードは、ドット最大値の選択を示す。
【0055】
強度=赤
強度は赤の値にセットされる。
【0056】
強度が緑よりも小さければ、強度は緑に等しい。
【0057】
強度が緑より小さければ、それを緑の値に再設定する。
【0058】
強度が青より小さければ、強度は青に等しい。
【0059】
強度が青より小さければ、それを青の値に再設定する。
【0060】
図1を参照して、任意のスケーリングまたは補正は、図示の1×1グラフに制限される。入力軸は0から1の領域に制限され、出力軸は0から1の範囲に制限される。これは、調整済みまたは補正済みドットの強度が動的範囲を超えないことを意味する。
【0061】
制限されたグラフ内にプロットできる任意のスケーリング関数は、真のカラー光のバーチャルな増幅に用いることができる。特定のグラフの性質は、最終的な審美性と用途に影響を与える。特定の関数がその用途にとって適当なものとして選択されるが、それが画像全体または画像の一部の明るさの調整か、もしくは他の調整であるかには無関係である。
【0062】
スケーリング関数による補正の2つの実施例として、補正値の探索表(動的範囲により決定される有限な数)を形成するものと、それより効率の低い、各ドットを順番に別個に計算する方法がある。1つの画像において、ある特定のドットの強度の値は、他の多くのドットについて何回も繰り返されることがわかるであろう。従って、計算を効率的に行うには、探索表の場合、補正値を1回だけ計算して、何回も適用することができる。
【0063】
探索表によるアプローチでは、特定のスケーリング関数の特定に必要なパラメータが一旦分かると、全ての補正値(通常は、256で、これは動的範囲の限界による)をサブルーチンにより計算し、結果を探索表に記憶させて、各々が1回だけ計算されるようにする。補正値は、その後、このようにして探索する(擬似コード例は)
corr=corra(強度)
上式において、corrは、現在のドットの特定の補正値であり、
corra()は、補正値を記憶させる探索表またはアレイであり、
強度は、現在のドットのRGBのドット最大値である。
【0064】
もう1つの(効率の低い)方法は、関数により特定のドットの補正値を計算して、各ドットについて順番に計算することである。その例は、
corr=correc(強度)
上式において、corrは、現在のドットの特定の補正値であり、
corra()は、その名前をこのようにただ呼ぶことにより実行される補正関数アレイであり、
強度は、現在のドットのRGBのドット最大値である。
【0065】
入力及び出力値を与える、グラフのスケーリング関数に沿う所与の点は、補正倍数または係数を取り出すために使用する。補正係数は、出力値/入力値に等しい。
【0066】
それぞれのカラー比率を維持するように、RGBの3つのカラー値全ては、ドット最大値に対してまたはそれにより特定されたと同じ補正係数corrにより乗算される。
【0067】
従って、赤=赤*corr;緑=緑*corr;青=青*corrであり、赤、緑、青は最終的に、補正前後の現在のドットの値を持つようになる。これら4つの考え方を組み合わせたものが、真のカラー光のバーチャルな増幅である。動的範囲を超えることは決してなく、カラーは常に維持される。
【0068】
実施例
画像は、種々の方法で読み取ることができる。発明者は、表示された画像情報についてのその方法により、種々のグラフィックス・コンピュータファイルフォーマットを検討する必要性を回避している。現在、Visual Basic(ウィンドウズのOS上で動作可能なプログラミング言語)及び他の多くの最新プログラミング言語は、画像の読み取りを可能にする簡単な命令を有することを発明者は知悉している。Visual Basicでは、1つの命令として、pbox.Picture=LoadPicture(file_in)があり、pboxは画像の表示に使用されるpicture box objectであり、Pictureは被写体に画像を割当てる方法であり、LoadPicture()は画像ファイルを読取る関数であり、file_inは読取るファイル名である。この命令をVisual Basicが発生すると、画像ファイルはpicture box objectと呼ばれるプログラミングツールにおいてスクリーン上に読取られ表示される。画像をセーブする同様な方法がある。
【0069】
図2を参照して、単純化されたコードは、画像に適用される真のカラーのバーチャルな増幅法のVisual Basicによる方式を示す。この単純化された方式は、最小限、16ビットのビデオカードを必要とするが、24ビットのビデオカードが好ましい。図2のコードは、ビデオカードそれ自体からカラー値を引き出すことに向けられている。これは最も効率の良い方法ではなく、画像を主RAMメモリに記憶させることにより有意な改善を行うことが可能である。これにより、ビデオカードへのアクセスが全く不要となり、Visual Basic機能であるpbox.Point(icccol,irow)から戻されたような組合わせのカラー変数からR、G及びB値を除去する抽出ステップがなくなる。メモリにアクセスすることにより、効率が約7倍増加する。
【0070】
簡単に言うと、このプロセスは、ドットの矩形表示画像の調整を可能にする。例えば、画像が暗く、ドット最大値の任意のものの最大強度がたった約128、あるいはシステム動的範囲の半分にすぎない場合がある。最も簡単なケースとして、画像範囲を線形関数としてダイナミックレンジにスケーリングする。従って、128である最大値を255に規準化すると、全てのドット最大値の強度は2倍となる。従って、スケーリング関数は定数2に過ぎず、探索表による結果は任意のドット最大値につき2である。画像の各欄には、カラーの値が青、緑及び赤について抽出される。ドット最大値は赤としてセットされ、緑と青はその強度を3つの中の最大値にリセットするためにテストされる。補正値を表で探索するが、この場合は定数2である。RGBの各値は2によりスケーリングされ、スケーリングされた最大値は128*2または256で、動的範囲の最大値である。変更されたドットはディスプレイに書きこまれ、全てのカラーが動的範囲を超えることなく維持される。
【0071】
用途−スケーリング関数の効果
画像に適用されるスケーリング関数には事実上無限の選択があるため、種々の異なる対象に合うような種々の効果がある。時として、画像の品質により、何れの関数を用いるか、即ち、暗い画像の輝度をただ増加するように設計された関数かまたは画像の他の部分に対する影響をほとんど考慮せずに狭い部分から細部を抽出するように、画像内の特定強度を増加させるさらに特殊な関数を用いるかが決まる。
【0072】
用途−バーチャルなレンズ
開口とシャッターは共に、それ自体に問題がある。写真の被写体が動く場合、シャッターが開いている時間を短くすることができるだけであり、そうしないと画像はその動きによりぼける。
【0073】
開口が開くと、被写界深度(焦点にある距離の範囲)が減少する。正しく焦点を合わせても、開口が大きいと、小さな範囲の距離だけが焦点内に入る。この「歪み」は、レンズ自体の球形の形状による。開口が小さいと、被写界深度がよくなるが、それはレンズのほぼ平らな中心部分だけを用いるからである。開口を最も小さい値にすると、最大の被写界深度が得られる。
【0074】
実際、写真(そして集光一般)は、これら2つの効果のトレードオフである。動きのない光景は、開口を小さく、シャッター速度を遅くして、大きな被写界深度にすることができる。レーシングカーは被写界深度を犠牲にする場合に限り撮影することができ、シャッターは長い間開くことができないため、開口はより多くの光を集めるために開かなければならない。
【0075】
「通常」品質のレンズを用いて速い速度で運動するものの撮影するのであるが、被写界深度を失いたくない場合を想定する。本発明のプロセスを使用しないと、これを行うことができない。従って、制御装置を、通常の写真家の感覚で、集光量が少なすぎるように設定すると、補正前の画像は暗すぎるが、被写界深度は維持される。動的範囲の全部を占める光の量の4分の1(25%)を集めると仮定する。画像はほぼ黒であり、最も高い記録値は63であるが、動的範囲の限界は255である。この画像は暗い領域の細部をはっきりさせるために補正することができる。
【0076】
従って、第1の実施例では、図3を参照すると分かるように、グラフは直線であり、(x、1.0)(xは測定画像全体の最大値)の点で終端する。この最大値は改良型ヒストグラムにより見付けることができる。この例において、xは0.25であるが、1と0の間の任意の値でよい。本発明の好ましい実施例では、高品質レンズの被写界深度を持つ場合は別として開口をさらに開くと同じ方法で光が事実上増加される。このプロセスは、不適当なレンズの設定により写真が暗くなりすぎたと言うような「大失敗」をとり返すために使用することが可能である。
【0077】
バーチャルな虹彩
第2の実施例では、図8を参照すると分かるように、画像の最も暗い部分は暗いままであり、はっきりしない部分の輝度が増加しているが、画像の明るい部分はほとんど影響を受けないように、グラフを選択することができる。図8及び同様な形状の滑らかな非線形グラフは、本発明の真のカラー光のバーチャルな増幅に用いる場合、虹彩を真似る効果がある。出力画像は、たまたま、人の視覚の経験を記憶する視覚メモリによく似ている。発明者は、この改善をバーチャルな虹彩と呼ぶ。
【0078】
非線形グラフの穏やかな性質は、質の良い入力画像を魅力的な処理画像に確実に変える。この審美性を維持する重要な特徴は、グラフが依然として滑らかであり、グラフの勾配が決して0ではなく、滑らかに変化して、全体的に正味の明るさ増加効果がある点にある。
【0079】
図8において、スケーリング関数は、システムの動的範囲の最小値と最大値の漸近線を近似する。関数が動的範囲の最小値及び最大値の正接に近付けば近付くほど、補正がより厳しくなる。
【0080】
細部のバーチャルな改善
簡言すると、写真の任意のフレームは、開口及びシャッターのただ1つの設定の結果である。研究を進めるにおいて、これには、写真のある特定の領域では細部が鋭敏になるという困った問題がある。第3の実施例では、そのある特定の鋭敏な領域において細部をはっきりさせるプロセスが提供される。
【0081】
図4を参照して、興味のある領域を選択し、ヒストグラムにより、その領域の最小強度を持つドットが0.30であり、最大強度を持つドットが0.50であることを見つける。この領域は、動的範囲の20%を使用するにすぎず、これはコントラストが微妙である、眼には事実上識別不能であることを意味する。
【0082】
図4に示すような3部分線形スケーリング関数を適用すると、これらの小さなコントラストが、その特定の領域からの出力が動的範囲の80%に亘って変化するにつれて大きなコントラストとなる。
【0083】
入力が0.30以下及び0.50以上の小勾配のラインは、画像のより暗い及びより明るい部分の細部をぼかす効果がある。各ドットにおいて得られるカラーは決してぼけたものではなく、画像の明るい部分が良好な基準を与える。
【0084】
写真の任意の領域を選択することができる。図5を参照して、影部分のぼけた文字のような、非常に暗い領域における細部が明らかになる。図6は、雪の中の軌跡のような、明るい領域内の細部を如何にしてはっきりさせるかを説明するものである。任意数の領域における細部は、ただ興味のある領域を選択して補正を加えることにより改善することができる。
【0085】
さらに詳説すると、画像の任意の領域または部分を最適化できる。最初に、領域を同定する必要がある。GUIでは、これは、マウスのクリック及びドラッグ操作により容易に行える。これは、ウィンドウズのOSにより、マウスボタンをクリックした時に指示させることにより、オブジェクト志向プログラミングで実施可能である。Visual Basicでは、マウスボタンを押すか、解放すると同時に実行されるサブルーチン(各プログラムにつき)が組み込まれている。
【0086】
ユーザーは、画像内の任意の矩形領域を選択できる。座標は、xdwn, ydwn, xup, yupとして共通メモリに蓄積される。写真の例#1及び#2の画像上に重ねた矩形部分を参照されたい。
【0087】
バーチャルレンズ及び細部のバーチャルな改善の両方において、「改善ヒストグラム方式」につき言及した。ヒストグラムは、発生回数を発生した値に対して測定するものにすぎない。
【0088】
例えば、表4に示すように、RGBの3つのカラーのセットについては、
表4−標準的なヒストグラム方法
“赤、 緑及び青の値は別個に取る”
Figure 0004841039
この例では、各々が3つの値(赤、緑、青)を有する10個のドットがあり、これら30個の値はそれぞれ0から5の範囲内にある。通常のヒストグラムは、各値(0、1、2、3、4、5)が発生する回数の合計を加算することにより計算する。
【0089】
改善ヒストグラム方式(強度は最大値(赤、緑、青)に等しい)は、以下の表5に記載されている。
【0090】
表5−改善ヒストグラム方法
“赤、緑、青の値は、最大値のヒストグラムでは、1つのユニットとして取る”
Figure 0004841039
ヒストグラムの形成に利用するのは、最大強度の発生回数であって、赤、緑及び青のそれぞれの値ではない。
【0091】
これは本願の性質に合致するものであり、それは、赤、緑及び青の値を、強度と比率を有する1つのユニットとして(3つの独立の値としてでなく)扱うものである。
【0092】
ヒストグラムは、xdwn からxupの行範囲と、ydwn からyupの列範囲のドットだけを考慮して形成する。
【0093】
図7aを参照して、改善ヒストグラム方式を適用するコード例を提供する。
この時点において、ヒストグラムを形成すると、マークした領域のRGBの3つのカラーの強度についてそのランニング合計値が分かる。ヒストグラムのデータに反映されるように、始め及び終わりの有意な強度を求める。
【0094】
その領域を表さないデットなまたは飽和状態の記録要素及びそれ以外の「漂遊値」のようなエラーを回避するために、関連のドットを発生回数の2%及び98%に制限して、最小及び最大の関連RGB強度を表わすことができる。
【0095】
ヒストグラムによりカウントされる強度の数は、合計で、最後のランニング合計値に等しく、従って、2%と98%の値は容易に見付けることができる。図7bは、ユーザーが選択するボックス内の強度範囲に相当する強度インデックス(hmin及び hmax)の範囲を決定するコードを示す。
【0096】
図4を参照して、改善ヒストグラム方式によると、動的範囲の最大値0.30と動的範囲の最大値0.50は、ユーザーが選択する画像部分の最小強度及び最大強度値であることが分かっている。(ボックスについては、写真の例#1、#2を参照されたい。)また、改善ヒストグラム方式により計算される範囲は、動的範囲の大部分に亘って可変であるように変更すべきであると仮定された。
【0097】
そのため、hmin及び hmaxの入力範囲を何に変化させる必要があるであろう。それが動的範囲の大部分を占めることが望ましい。うまく推量すると、その値は動的範囲の80%であり、暗い領域及び明るい領域が基準として使用できるようにそれらに亘ってわずかに残っている部分がある。
【0098】
アプリケーションのコードでは、選択した領域の出力強度範囲は、動的範囲の最大値の0.1乃至0.9に最初に設定された。その後、0.2乃至0.9にアップでリセットされたが、その理由は、多くの画像を観察した後これらの数がよく見えるからである。
【0099】
コードは、探索表を、改善ヒストグラム方式に基づいて計算することにより、入力強度の範囲を求めるために使用され、ほぼ任意の出力範囲0.2乃至0.9が得られた。
【0100】
図4のグラフは、一般的に意味において、各々が2つの終点を有する3つのラインセグメントより成ると考えることができる。
【0101】
表6−ラインセグメント
Figure 0004841039
上式において、xmin及び xmaxは改善ヒストグラム方式により計算されている。即ち、
xmin = hmin/drmx
xmax = hmax/drmx
両方の入力軸は、動的範囲で測定される。入力値は、ドット強度(RGBの最大値)に関するものである。グラフは0乃至1のボックスを離れることは決してない。これらの制限は、任意特定のプロセスにおいて任意のスケーリング関数により常に満足される必要がある。
【0102】
その結果、出力値は、図2について説明したものに等価のプログラムにより計算され、探索表はグラフには正確に一致しないが、出力と入力の比率を保持する。
【0103】
ラインの各セグメントは、「勾配切片」を有する代数式で表わすことが可能であり、その一般式はy=m*x+bである。これらのラインセグメントの各々につき、線形方程式及びスケーリング係数が求められる。3つの式から補正またはスケーリング係数のアレイを形成することができる。出力値をシステムの動的範囲で割算すると、出力と入力の比率が得られる。
【0104】
このバーチャル細部改善方式、または、通常はっきりしない領域を解明できるフォレンシックフラッシュ(forensic flash)は、任意の目標の動的範囲を細部が改善されるように最大にする。これは目標領域に制限されず、ユーザーの選択部分と同じ強度を有する写真の任意の部分もそのように改善される。任意の目標領域を選択することが可能であるため、同じ写真について多数の有益な補正を行なうことができる。ユーザーが選択した強度範囲よりも大きい領域の補正は、真のカラーの性質により有益な基準値として維持される。
【0105】
実施例
バーチャルフラッシュ−バーチャルな虹彩
図9及び10に示す例は、物理的集光装置または画像記憶装置の制約に対する補正を説明するものである。フレーム毎に1つの開口及びシャッターの設定は、写真が実在経験についての人の記憶から変化しやすいことを意味する。眼の虹彩は、コントラストに遭遇すると、自動的な調整を行う。日当たりのいい日の公園では、日向から日陰へ移動すると虹彩が開くため、全ての芝生は緑であるように記憶されるが、写真では日陰の芝生は黒になることが多い。
【0106】
写真#1(図9a―9f)僧院の旅行者の写真
この例は、種々の従来技術の方法と本発明による画像改善方法を示す。従来技術の方法
のアプローチでは、興味のある部分につき明るさがちょうどよくなるまで、画像を「操作」する。これは主観的方法であり、熟練したユーザーとは必要な妥協点を見つけるのに習熟した者である。図9aでは、写真を走査して得た元の画像は非常に暗いが、256のシステムの(5及び254の外側にドット最大値がある)動的範囲の全てまたは大部分を依然として利用している。
【0107】
図9b−9dは、従来技術の画像明るさ増加方法を示す。図9bは、画像の明るさを80%だけ増加することにより行う。図9bの画像は明るいが、カラーはひどくあせたものであり、空の色も変化している。図9cは、コントラストが50%にセットされた、図9bの従来技術により明るさを増加した画像を示す。コントラストは、明るさ増加の際に失われたカラーを復元しようとして増加してある。画像の細部のどの位の部分が失われたかに注意されたい。この方法では、ドットの多くがエッジを過ぎて(動的範囲の外側に)押し出されている。図9dは、彩度が50%にセットされた、図9bの明るさ増加画像を示す。彩度の増加は、カラーを復元させるための別のテクニックである。その結果、空はほとんど元の状態に戻っているが、画像の残りの部分にはかなりの、そして見苦しいカラーの歪みがある。
【0108】
本発明の方法を実施すると、写真は、図9fに示すように、著しく改善される。図9eでは、5乃至254の画像範囲が、0乃至255に線形的にマッピングされている。元の画像は、既にほとんど全範囲であったため、その効果は小さい。しかしながら、出力画像を動的範囲全体を使用するようにすることができる。図9fにおいて、図8のスケーリング関数は、優れた画像を得るために使用された。全てのカラーは、走査時では、その画像にとって真であり、細部のロスがないと、眼にとってに鮮やかである。
【0109】
写真#2(図10a−10f)巨石柱の旅行者の写真
図10aの元のフレームでは、非常に明るい状態のため石は影の中にある。図10fにおいて、本発明のバーチャル虹彩方式は、虹彩が自動的に品質の悪い写真を良質な写真に変えると同じように補償を行う。
【0110】
さらに詳細には、図10aにおいて、被写体は非常に暗く、再び動的範囲の全て/大部分を使用する(ヒットの1%だけが6及び253の強度の外側にある)。この画像は細部をはっきりさせるために誰かにより「予め処理」されていた。空はほとんど白であるが、雲は依然として写っている(本願の図は、雲の実際の存在感を必ずしも保持していない)。従来技術は可能な限りの処理を行っていたが、被写体は依然として暗すぎる。図10bは、従来技術の方法により画像の明るさを60%増加したものを示す。画面が明るくなったが、色はひどくぼけており、石のカラーは全く失われている。細部の中にはこのプロセスだけで失われるものがある。グレースケールによる場合でも、「赤」の岩が石の左で白くなっており、図10bの画像の左にある。図10cは、コントラストが40%にセットされた、図10bの明るさ増加画像である。石は領域によってはいくらかのカラーを取り戻したところがあるが、他の領域はそうでないことに注意されたい。画像の細部が如何にたくさん失われているかについても注意されたい。図10dは、彩度が15%にセットされた、図10bの明るさ増加画像である。「見方によっては正しい」と言える、カラーの改善が見られるが、幾分赤及び黄色のような人工的カラーを加えられている。多量の補正は不要である写真でも、各ドットの彩度を操作すると、記録されたものとは異なるRGB比率が得られる。せいぜい妥協的な解決が図られるだけである。
【0111】
本発明の方法を用いると、図10eでは、6乃至253の画像範囲が0乃至255の範囲に線形にマッピングされ、このため出力画像が動的範囲の全体に亘るものとなる。図10fでは、図8のスケーリング関数が、細部のロスのない卓越した真のカラー画像を得るために再び使用された。
【0112】
フォレンシックフラッシュ−細部のバーチャルな改善
写真#3(図11a、11b)衛星
図11aにおいて、衛星は影の中にあり、表面が非常に暗い。これは、宇宙空間では、光のコントラストが極端なため、しばしば起こる。重要なドッキング用開口が視認できない。第3の実施例のフォレンシックフラッシュ補正方式により、暗い領域内において窓またはボックスを選択し、ヒストグラム方式を用いて、その領域に適した補正グラフを形成した。
【0113】
図11bの処理済み画像は、暗い部分の中の細部を示す。白い円でマークされたドッキング用開口がはっきりと見える。
【0114】
写真#4(図12a、12b)気球
図12aの元の画像では、気球の下側は影の中である。これは、レンズが空を向いている時の写真によく起こる現象である。特に、テイル部分が暗すぎるため、識別マークが見えない。
【0115】
第3の実施例の方式に従って、このテイル領域を選択し、ヒストグラム方式を用いてその領域に適した補正グラフを形成する。その結果、図12bに示すように、処理済み画像では、以前ぼけていた暗い領域の文字が見える。気球は、コロンビアN3Aと識別できる。
【0116】
写真#5(図13a、13b)自動車のプレート
図13aの元のフレームでは、自動車のライセンスプレートはほとんど影の中でぼけた状態である。プレートを読むことができないために、自動車を識別できない。第3の実施例を用いると、プレートを選択し、ヒストグラム方式によりその領域に適した補正グラフを形成する。
【0117】
その結果、図13bに示すように、処理済の画像から、その自動車が通常のプレートでなくてクラシック・ムスタングの文字を有することが分かる。
【0118】
写真#6(図14a、14b、14c)雪の中の軌跡
図14aにおいて、2人のスキーヤーがいる。彼らの軌跡は識別できるが、はっきりしない。第3の実施例のフォレンシックフラッシュ補正方式に従って、窓またはボックスを雪の中の軌跡の過露出領域内に選択し、ヒストグラム方式によりその領域に適した補正グラフを形成した。
【0119】
図14bの処理済画像からは、過露出領域内の細部が分かる。雪の中の軌跡をはっきりと識別できる。
【0120】
同様に、写真の中のスキーヤーの顔の暗い部分にウィンドウまたはボックスを設定した。図14cは、写真のこの領域に特に適した補正グラフを形成するためのヒストグラム方式の結果を示す。スキーヤーの特徴は、図14aの元の写真にはっきりと見ることができる。
【0121】
概要
本願で説明した重要な思想は、以下の6つのファクターを組合わせたものである。それらは、RGBカラースペースにおける(補正グラフによる)補正;補正軸の精度;システムの動的範囲に対する領域及び範囲の制約;グラフの特性;及び3つのカラーR、G及びBに対する同じ補正係数の適用である。
【0122】
補正は、真のカラーを維持するためにRGBカラー空間で適用する必要がある。上記の特性を実現する任意の補正グラフを用いることができる。入力及び出力軸は、RGBの3つのカラーの最大値を表わす。入力は考慮するRGBの3つのカラーの最大値であり、出力は真のカラー光のバーチャルな増幅の結果として計算されるRGBの3つのカラーの最大値に相当する。補正は動的範囲に制限される。これは、計算したドットの強度が動的範囲に制限されることを意味する。制限範囲内にプロット可能な任意のグラフを、そのプロセスに使用できる。特定のグラフの性質は、補正の強調部分に影響を与える。再び、全て3つのRGB値をグラフから得たスケーリング係数で乗算する必要がある。グラフ上の所与の点は入力と出力値を有する。補正値はこれら2つ比率(割算)に等しく、全ての3つのRGBの3つのカラー値は出力と入力の比率で乗算する。
【0123】
これらの思想を実現すると、全てが入力デジタル画像の各点の本質的なカラーを保持するが、ドット毎に容易に実効集光能力を変化させるプロセスが得られる。
【0124】
上記実施例の間の相違点は、与えられた制限の中でグラフを変更したものである。真のカラー光のバーチャルな増幅によると、新規で有用な結果は、画像の改善が必要な場所を同定し、その必要性を充足する合理的なグラフを選択することにかかっている。
【図面の簡単な説明】
【図1】 図1は、入力されるドットの各R、GまたはB最大値を調整済み出力ドット最大値に補正する線形関数を表わすグラフであり、これらの最大値はシステムの動的範囲に制限されている。この特定の関数は単位関数であり、ドット最大値の中の最大値を予め1.0にスケーリングすることにより入力を動的範囲に規準化しない限り、補正を行なわない。
【図2】 図2は、デジタルスクリーン画像を読み取り、カラードットを抽出し、ドット最大値を見付け、ドット最大値の補正係数を適用し、その補正係数をドットの全RGB値に適用し、補正済みカラードットをスクリーンに書き込むVisual Basicの簡単なコード例である。
【図3】 図3は、例えば、被写界深度を改善するように小さい開口を用いることにより、意図的に露出不足になった画像を改善するように設計されたスケーリング関数を示すグラフである。
【図4】 図4は、ドット最大値の特定領域内のコントラストを、その範囲の20%を動的範囲のほぼ100%またはほぼ全体にスケーリングすることにより、画像の範囲の0.3乃至0.5に改善するスケーリング関数を示すグラフであり、暗い領域と明るい領域のコントラストが減少している。
【図5】 図5は、暗い領域のドット最大値を画像範囲の0.1乃至0.2になるように改善する、図4によるグラフである。
【図6】 図6は、明るい領域のドット最大値を画像範囲の0.9乃至0.1の間になるように改善する、図4によるグラフである。
【図7a】 図7aは、GUIを用いてx1、y1及びx2、y2のウィンドウ領域を選択し、ウィンドウ内のデジタルスクリーン画像を読み取り、カラードットを抽出し、ドット最大値を見つけ、ドット最大値の補正係数を適用し、ドット最大値の発生個数のヒストグラムを形成するためのVisual Basicの簡単なコード例である。
【図7b】 図7bは、第3の実施例に従ってヒストグラムを発生させるVisual Basicの簡単なコード例である。
【図8】 図8は、単位対角線に亘って重畳した可変スケーリング関数を示すグラフである。この可変関数は、画像の明るさ増加により審美性を向上させるものである。スケーリング関数は、暗い領域を暗くし、明るい領域を明るくする、 三次曲線のような、滑らかな曲線である。
【図9a】 図9aは、元の画像である僧院の写真である。
【図9b】 図9bは、従来技術により明るさを増加した僧院の写真である。
【図9c】 図9cは、従来技術により明るさを増加し、コントラストを調整した僧院の写真である。
【図9d】 図9dは、従来技術により明るさを増加し、彩度を調整した僧院の写真である。
【図9e】 図9eは、本発明の第1の実施例により明るさを増加した僧院の写真である。
【図9f】 図9fは、本発明の第2の実施例により明るさを増加した僧院の写真である。
【図10a】 図10aは、元の写真である巨石柱の写真である。
【図10b】 図10bは、従来技術により明るさを増加した巨石柱の写真である。
【図10cb】 図10cは、従来技術により明るさを増加し、コントラストを調整した巨石柱の写真である。
【図10d】 図10dは、従来技術により明るさを増加し、彩度を調整した巨石柱の写真である。
【図10e】 図10eは、本発明の第1の実施例に従って明るさを動的範囲全体に増加した巨石柱の写真である。
【図10f】 図10fは、本発明の第2の実施例に従って明るさを増加した巨石柱の写真である。
【図11a】 図11aは、衛星の元の写真である。
【図11b】 図11bは、本発明の第3の実施例に従って増強した衛星の写真である。
【図12a】 図12aは、気球の元の写真である。
【図12b】 図12bは、本発明の第3の実施例に従って増強した気球の写真である。
【図13a】 図13aは、自動車のライセンスプレートの元の写真である。
【図13b】 図13bは、本発明の第3の実施例に従って増強した自動車のライセンスプレートの写真である。
【図14a】 図14aは、雪の上のスキーヤーとスキーの軌跡を示す元の写真である。
【図14b】 図14bは、本発明の第3の実施例に従って写真の一部の増強したスキーヤー及び雪の上のスキー軌跡の写真である。
【図14c】 図14cは、本発明の第3の実施例に従って写真の一部の増強したスキーヤー及び雪の上のスキー軌跡の写真である。

Claims (24)

  1. デジタルフォーマットの多数のカラードットより成る画像を、各カラードットのR、G及びB強度値のうちの最大値がデジタルフォーマットの動的範囲内に制限されるように増強する方法であって、
    デジタル画像から各カラードットにつき各々が動的範囲内にあるR、G及びB強度値を抽出し、
    各カラードットにつきスケーリング係数を求め、
    各カラードットのスケーリング係数を、抽出したR、G及びB強度値の各々に適用して、各カラードットにつきスケーリング済みR、G及びB強度値を求め、
    各カラードットのスケーリング済みR、G及びB強度値をデジタルフォーマットの増強済み画像として保存するステップより成り、
    各カラードットにつき、抽出したR、G及びB強度値のうちの最大値であるドット最大値を求め、
    スケーリング係数をカラードットに適用する時、スケーリング済みR、G及びB強度値の各々が動的範囲の最大値より小さいか、それに等しくなるように、ドット最大値を用いて各カラードットのスケーリング係数を求めることを特徴とするデジタルフォーマットのカラー画像増強方法。
  2. 画像強度レンジを確立するために画像に含まれるカラードットのドット最大値のうちの最大値及び最小値を求め、
    画像の強度レンジの少なくとも一部を増強して動的範囲の一部にするスケーリング係数各カラードットにつき求めるためのスケーリング関数を確立し
    スケーリング関数を各ドット最大値に適用して対応する複数のスケーリング係数を求める請求項1のデジタルフォーマットのカラー画像増強方法。
  3. 画像強度レンジは動的範囲に規準化される請求項2のデジタルフォーマットのカラー画像増強方法。
  4. 画像強度レンジの一部はスケーリング関数により動的範囲の大きい、そして実質的な部分に規準化される請求項2のデジタルフォーマットのカラー画像増強方法。
  5. デジタルフォーマットはコンピュータファイルである上記請求項のうち任意の請求項のデジタルフォーマットのカラー画像増強方法。
  6. デジタルフォーマットはRAMである上記請求項のうち任意の請求項のデジタルフォーマットのカラー画像増強方法。
  7. 増強されるデジタル画像は第1の動的範囲を有する第1のデジタルフォーマットを有し、増強済み画像のデジタルフォーマットは第1の動的範囲より大きい第2の動的範囲を有し、
    画像強度レンジを第1の動的範囲内に確立するためにドット最大値のうちの最大値及び最値を求め、
    第1の動的範囲内の画像強度レンジの少なくとも一部を規準化して第2の動的範囲の一部にする請求項1のデジタルフォーマットのカラー画像増強方法。
  8. スケーリング関数は線形連続するスケーリング関数である上記請求項のうち任意の請求項のデジタルフォーマットのカラー画像増強方法。
  9. スケーリング関数は非線形連続するスケーリング関数である上記請求項のうち任意の請求項のデジタルフォーマットのカラー画像増強方法。
  10. 画像からカラードットの副集合を選択してその副集合のドット最大値の強度レンジを求め、
    ドット最大値が副集合の強度レンジ内にあるカラードットにつき、その副集合のR、G及びB強度値を動的範囲の実質的な部分に規準化する第1のスケーリング関数を確立し、
    ドット最大値が副集合の強度レンジより暗いカラードットにつき第2のスケーリング関数を確立し、
    ドット最大値がその副集合の強度レンジより明るいカラードットにつき第3のスケーリング関数を確立し、
    第1、第2及び第3のスケーリング関数はその副集合のスケーリング済みドット最大値の強度レンジを拡張し残りのカラードットの強度を圧縮するように作用する請求項2のデジタルフォーマットのカラー画像増強方法。
  11. 第1、第2及び第3のスケーリング関数はそれぞれ連続する関数である請求項10のデジタルフォーマットのカラー画像増強方法。
  12. 第1、第2及び第3のスケーリング関数はそれぞれ実質的に線形である請求項11のデジタルフォーマットのカラー画像増強方法。
  13. 第1、第2及び第3のスケーリング関数は互いに連続する請求項10、11または12のデジタルフォーマットのカラー画像増強方法。
  14. 第1、第2及び第3のスケーリング関数はそれぞれ実質的に線形である請求項13のデジタルフォーマットのカラー画像増強方法
  15. カラードットの選択された副集合はデジタル画像の露出不足部分である請求項11のデジタルフォーマットのカラー画像増強方法。
  16. カラードットの副集合は画像内のカラードットの矩形領域を選択することにより選択される請求項10のデジタルフォーマットのカラー画像増強方法。
  17. デジタル画像はドット最大値のうちの統計的に有意な最大値が動的範囲より小さい露出不足画像であり、さらに、
    画像の強度レンジをデジタル画像の実質的に全動的範囲に増強するスケーリング関数を決定し、
    画像の強度レンジを拡張するためにスケーリング関数を各ドット最大値に適用する請求項1のデジタルフォーマットのカラー画像増強方法。
  18. デジタル画像のカラードットの数に等しいか又はそれよりも少ない、動的範囲の少なくとも一部にある各ドット最大値のスケーリング係数を探索表に保存し、
    各カラードットのドット最大値に対応するスケーリング係数を探索表から探索して、各カラードットに適用する上記請求項のうち任意の請求項のデジタルフォーマットのカラー画像増強方法。
  19. デジタルカラー画像増強装置であって、
    動的範囲を有し、多数のカラードットより成る画像が保存されるデジタルデータ記憶手段(13)と、
    デジタルファイルから記憶された各カラードットを読み出し、
    記憶された各カラードットのR、G又はB強度値を抽出し、
    各カラードットにつきスケーリング係数を求め、
    スケーリング係数を各カラードットのR、G及びB強度値の各々に等しく適用して、各カラードットにつきスケーリング済みR、G及びB強度値を求め、
    各カラードットのスケーリング済みR、G及びB強度値デジタルデータ記憶手段に記憶させるプロセッサ(14)とより成り、
    プロセッサは、
    各カラードットにつき、R、G及びB強度値のうちの最大値であるドット最大値を求め、
    ドット最大値のうちの最大値を求め、
    スケーリング係数をドット最大値のうちの最大値に適用する時、その結果得られる最大値のスケーリング済み強度値がデジタルデータ記憶手段の動的範囲内にあるように、ドット最大値のうちの最大値を用いてスケーリング係数を求めることを特徴とするデジタルカラー画像増強装置。
  20. プロセッサ(14)は画像強度レンジを確立するためにさらにドット最大値のうちの最大値及び最小値を求め、画像強度レンジの少なくとも一部をデジタルデータ画像記憶手段(13)の動的範囲の大きな部分に拡張するスケーリング係数を求めるスケーリング関数を適用する請求項19のデジタルカラー画像増強装置。
  21. デジタル画像のカラードットの数に等しいかそれよりも少ない、動的範囲の少なくとも一部にある各ドット最大値に対応するスケーリング係数の探索表をさらに備え、各カラードットに適用されるスケーリング係数探索表から探索される請求項19または20のデジタルカラー画像増強装置。
  22. 画像強度レンジが動的範囲に規準化される請求項20のデジタルカラー画像増強装置。
  23. 画像強度レンジの一部が動的範囲の実質的な部分に規準化される請求項21のデジタルカラー画像増強装置。
  24. デジタルデータ記憶手段(13)はRAM(16)である上記請求項のうち任意の請求項のデジタルカラー画像増強装置。
JP2000611483A 1999-04-13 2000-04-10 デジタルフォーマットのカラー画像増強方法及び装置 Expired - Lifetime JP4841039B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12904199P 1999-04-13 1999-04-13
US60/129,041 1999-04-13
PCT/CA2000/000400 WO2000062528A1 (en) 1999-04-13 2000-04-10 Virtual true color light amplification

Publications (3)

Publication Number Publication Date
JP2002542678A JP2002542678A (ja) 2002-12-10
JP2002542678A5 JP2002542678A5 (ja) 2010-01-14
JP4841039B2 true JP4841039B2 (ja) 2011-12-21

Family

ID=22438204

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000611483A Expired - Lifetime JP4841039B2 (ja) 1999-04-13 2000-04-10 デジタルフォーマットのカラー画像増強方法及び装置

Country Status (13)

Country Link
EP (1) EP1177678B1 (ja)
JP (1) JP4841039B2 (ja)
KR (1) KR20010113791A (ja)
CN (1) CN1179546C (ja)
AT (1) ATE250309T1 (ja)
AU (1) AU771979B2 (ja)
CA (1) CA2368544C (ja)
DE (1) DE60005332T2 (ja)
GB (1) GB2363933B (ja)
HK (1) HK1048213B (ja)
MX (1) MXPA01010248A (ja)
NZ (1) NZ514714A (ja)
WO (1) WO2000062528A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101893793B1 (ko) 2011-05-17 2018-10-04 삼성전자주식회사 컴퓨터 그래픽 영상의 실감도 증강을 위한 장치 및 방법
EP2836983B1 (en) * 2012-10-08 2017-07-12 Koninklijke Philips N.V. Luminance changing image processing with color constraints
CN108711142B (zh) * 2018-05-22 2020-09-29 深圳市华星光电技术有限公司 图像处理方法及图像处理装置
CN109272459B (zh) 2018-08-20 2020-12-01 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN108900819B (zh) 2018-08-20 2020-09-15 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3684825A (en) * 1971-02-19 1972-08-15 Rca Corp Contrast compression circuits
JPS59163953A (ja) * 1983-03-08 1984-09-17 Canon Inc 画像処理装置
US4736244A (en) * 1984-12-12 1988-04-05 Fuji Photo Film Co., Ltd. Color film inspection system and data output method therefor
US4729016A (en) * 1985-05-06 1988-03-01 Eastman Kodak Company Digital color image processing method and apparatus employing three color reproduction functions for adjusting both tone scale and color balance
US5398123A (en) * 1988-08-31 1995-03-14 Canon Kabushiki Kaisha Image processing method and apparatus capable of automatic color masking
JP2748678B2 (ja) * 1990-10-09 1998-05-13 松下電器産業株式会社 階調補正方法および階調補正装置
EP0603908A3 (en) * 1992-12-25 1996-02-07 Dainippon Screen Mfg Method and apparatus for converting image signals.
JP3335507B2 (ja) * 1995-09-19 2002-10-21 京セラミタ株式会社 カラー画像調整装置およびカラー画像調整方法
US5818975A (en) * 1996-10-28 1998-10-06 Eastman Kodak Company Method and apparatus for area selective exposure adjustment

Also Published As

Publication number Publication date
GB2363933A (en) 2002-01-09
HK1048213A1 (en) 2003-03-21
JP2002542678A (ja) 2002-12-10
GB0124644D0 (en) 2001-12-05
EP1177678B1 (en) 2003-09-17
EP1177678A1 (en) 2002-02-06
WO2000062528A1 (en) 2000-10-19
AU771979B2 (en) 2004-04-08
CN1179546C (zh) 2004-12-08
CA2368544A1 (en) 2000-10-19
DE60005332D1 (de) 2003-10-23
MXPA01010248A (es) 2003-07-21
CA2368544C (en) 2006-10-03
AU3800100A (en) 2000-11-14
ATE250309T1 (de) 2003-10-15
DE60005332T2 (de) 2004-06-17
NZ514714A (en) 2003-11-28
HK1048213B (zh) 2005-09-16
GB2363933B (en) 2003-08-27
KR20010113791A (ko) 2001-12-28
CN1354950A (zh) 2002-06-19

Similar Documents

Publication Publication Date Title
Hayat et al. Ghost-free multi exposure image fusion technique using dense SIFT descriptor and guided filter
CN115442515B (zh) 图像处理方法和设备
Li et al. Fast multi-exposure image fusion with median filter and recursive filter
Tian et al. A variational-based fusion model for non-uniform illumination image enhancement via contrast optimization and color correction
CN110062160A (zh) 图像处理方法和装置
US20050220359A1 (en) Luminance correction
CN113888437A (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
JP2001126075A (ja) 画像処理方法および装置並びに記録媒体
US6961066B2 (en) Automatic color adjustment for digital images
Sen et al. Practical high dynamic range imaging of everyday scenes: Photographing the world as we see it with our own eyes
CN106981054A (zh) 一种图像处理方法及电子设备
Feng et al. Low-light image enhancement based on multi-illumination estimation
Yu et al. Adaptive inverse hyperbolic tangent algorithm for dynamic contrast adjustment in displaying scenes
CN115205160A (zh) 基于局部场景感知的无参考低照度图像增强方法
CN114862698A (zh) 一种基于通道引导的真实过曝光图像校正方法与装置
CN115883755A (zh) 一种多类型场景下多曝光图像融合方法
CN114331937B (zh) 基于反馈迭代调节的低光照条件下多源图像融合方法
JP4841039B2 (ja) デジタルフォーマットのカラー画像増強方法及び装置
CN110246086A (zh) 彩色图像增强的图像处理方法及其图像处理***
CN114638764B (zh) 基于人工智能的多曝光图像融合方法及***
Shen et al. Over-exposure image correction with automatic texture synthesis
Kumar et al. Image Enhancement Using Laplacian Gaussian Pyramid Based Fusion and Band Rationing Algorithm
CN113096033A (zh) 基于Retinex模型自适应结构的低光照图像增强方法
JP5050141B2 (ja) カラー画像の露出評価方法
Tan et al. Logarithmic tone mapping algorithm based on block mapping fusion

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070410

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090515

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090817

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090824

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090915

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090925

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20091014

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20091021

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20091116

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100823

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111004

R150 Certificate of patent or registration of utility model

Ref document number: 4841039

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141014

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term