JP4079814B2 - 画像処理方法、画像処理装置、画像形成装置、撮像装置、及びコンピュータプログラム - Google Patents

画像処理方法、画像処理装置、画像形成装置、撮像装置、及びコンピュータプログラム Download PDF

Info

Publication number
JP4079814B2
JP4079814B2 JP2003103286A JP2003103286A JP4079814B2 JP 4079814 B2 JP4079814 B2 JP 4079814B2 JP 2003103286 A JP2003103286 A JP 2003103286A JP 2003103286 A JP2003103286 A JP 2003103286A JP 4079814 B2 JP4079814 B2 JP 4079814B2
Authority
JP
Japan
Prior art keywords
image data
image
data
feature
histogram
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003103286A
Other languages
English (en)
Other versions
JP2004312387A (ja
Inventor
雅和 大平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2003103286A priority Critical patent/JP4079814B2/ja
Publication of JP2004312387A publication Critical patent/JP2004312387A/ja
Application granted granted Critical
Publication of JP4079814B2 publication Critical patent/JP4079814B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Picture Signal Circuits (AREA)
  • Color Television Image Signal Generators (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像データの階調補正を実行する画像処理方法、画像処理装置、画像形成装置、撮像装置、及びコンピュータプログラムに関する。
【0002】
【従来の技術】
従来、例えば、デジタルスチルカメラ(以下、デジカメという)のような撮像装置で画像を撮像する場合に、逆光で撮像したときのように、撮像時の露光状況が不適切な画像は、階調の分布に偏りが生じ、階調性の悪い画像となる。このような画像に対しては、一般に、輝度の階調を補正することで階調性を改善し、画像品質を向上している。
また、輝度階調の分布は画像毎に異なるため、撮像した画像の特徴、即ち撮像した画像に対応する画像データの特徴に応じて、該画像データを適切に輝度補正する必要がある。即ち、画像データの特徴量の情報に基づき、適切な階調補正特性を求める必要がある。
【0003】
以下では、階調補正される前の画像データ(即ち処理対象の画像データ)を、画像処理装置へ入力される画像データ、即ち入力画像データといい、階調補正された後の画像データを、画像処理装置から出力される画像データ、即ち出力画像データという。また、階調補正される前の画像を入力画像といい、階調補正された後の画像を出力画像という。
階調補正は、一般的に入力画像データの特徴量である輝度の頻度分布、即ち、輝度ヒストグラムに基づいて実施される。輝度ヒストグラムは、各輝度値を有する画素数の分布、即ち、各輝度値の面積の分布を示すため、各輝度値の面積を均等にした場合に、使用可能な階調数を最も効率良く使用することができる。
【0004】
しかしながら、実際の入力画像における輝度値の面積分布には偏りがあるため、各輝度値の面積を均等にした場合には、階調がなだらかに変化する画像領域に擬似的な輪郭が発生したり、階調が潰れてしまったりして、画質が劣化するという問題があった。
このため、一般に、入力画像データの輝度(以下、入力輝度という)と出力画像データの輝度(以下、出力輝度という)とを対応付けた階調補正特性を用いて階調を補正する。
【0005】
図13は、輝度階調補正特性を示す特性図であり、横軸は入力輝度を示し、縦軸は出力輝度を示している。
図のように、輝度階調補正特性は入力輝度の増加に応じて出力輝度が増加する単調増加関数である。また、夫々区間の幅が等しい複数の入力輝度区間(例えば図中ΔLi1,ΔLi2。ΔLi1=ΔLi2)は、階調補正特性の傾きが緩やかな場合(ΔLi1)、より区間の幅が狭い出力輝度区間(ΔLo1)に写像され、階調補正特性の傾きが急な場合(ΔLi2)は、より区間の幅が広い出力輝度区間(ΔLo2。ΔLo2>ΔLo1)に写像される。
【0006】
このような階調補正特性は、入力画像における輝度階調分布の特徴を反映するために、一般に、輝度ヒストグラムの特徴に基づいて求められる。この場合、輝度ヒストグラムにおいて頻度が高い輝度値を有する画像領域に対応する入力輝度区間では階調補正特性の傾きを急峻にして多くの階調数を割り当て、輝度ヒストグラムにおいて頻度が低い輝度値を有する画像領域に対応する入力輝度区間では傾きを緩やかにして少ない階調数を割り当てることによって、各画像領域に対し、適切な階調数を割り当てる。
即ち、入力画像データの輝度分布の特徴に応じて階調補正特性の傾きを求めることによって、入力画像に適応した階調補正特性を得て、適切に階調補正することができる。
【0007】
従来、輝度ヒストグラムを用いて階調補正特性を求める場合、輝度ヒストグラムの累積値を求めて階調補正特性としている。このとき、輝度ヒストグラムの輝度区分に対応する階調補正特性の入力輝度区間における階調補正特性の傾きを、ヒストグラムの全要素数(即ち入力画像の全画素数)に対する対象区分の頻度数の比率とする。
【0008】
例えば、全画素数の5%を頻度に持つ輝度区分の場合、最大輝度をLmax とすると、補正特性は、前記輝度区分に対応する入力輝度区間において、0.05Lmax 上昇するものと定義する。階調補正特性は、入力輝度及び出力輝度が原点(0)を起点とし、入力輝度値及び出力輝度値が最大輝度値となる点まで出力輝度が単調増加で連続している。このため、各入力輝度区間の始点の値は、1つ前の入力輝度区間の傾きによって定まる。従って、各入力輝度区間の傾きを頻度の割合に応じて求めることにより、線形近似された階調補正特性が求められる。また、各入力輝度区間の始点と終点とを非線形な補間関数を用いて補間することにより、滑らかな階調補正特性が求められる。
【0009】
以上のようにして階調補正特性を求める場合、入力画像の輝度の面積分布に基づいた階調補正は可能であるが、同じ輝度値を有する画素が、画像上で連続的に分布しているのか分散して分布しているのかといった位置の情報は全く考慮されない。このため、入力画像において重要度が低い画素に対して不必要に多くの階調が割り当てられることがあるという問題があった。
このような問題を解決するために、従来、画像の重要な要素が集中するエッジに着目し、検出したエッジとその近傍の画素の輝度値とを用いて輝度ヒストグラムを生成する画像処理装置が開示されている(例えば、特許文献1参照)。
【0010】
このような画像処理装置は、生成した輝度ヒストグラムを用いて求めた階調補正特性に基づいて、入力画像内の主要要素に適応した輝度階調補正を実行している。この場合、エッジを選択するという手法が、一定の輝度値を有する画素が連続的に分布している画像領域(以下、平坦領域という)の影響を取り除くため、良好な輝度階調の補正が可能となる。即ち、平坦領域では元々階調差が小さいため多くの階調数を割り当てたとしても画質の向上は望めない。むしろ、平坦領域に多くの階調を割り当ててしまうことは、多くの階調数を必要とする画像領域の階調数を減少させるという悪影響がある。更に、平坦領域はエッジに比べ面積が大きくなるため面積分布を示したヒストグラムでの影響は大きい。
従って、前記画像処理装置は、平坦領域を除いた輝度ヒストグラムの生成により効果的な階調補正を実現している。
【0011】
【特許文献1】
特開2000−228747号公報
【0012】
【発明が解決しようとする課題】
階調補正の本来の目的は、階調差の小さい部分、すなわちエッジ強度が相対的に弱い部分での階調性改善を行ない、これによって全体的な画質を向上することにある。しかしながら、特許文献1に開示されているような画像処理装置では、階調性の改善が期待される画像領域と平坦領域とをエッジ強度の特性のみから明確に切り分けることが困難である。また、前記画像処理装置は、輝度ヒストグラム生成に用いる画素値を2値的に求めるため、多くの階調数の割り当てが必要な画像領域の画素値を含まずに輝度ヒストグラムを生成することがある。
以上のようなことから、画像の平坦領域に多くの階調数を割り当てることなく、また、エッジ強度の強弱にかかわらず、階調性の改善が期待される画像領域に多くの階調数を割り当てる画像処理装置が求められている。
【0013】
本発明は斯かる事情に鑑みてなされたものであり、第2特徴量のヒストグラムを用いて重み係数を算出し、算出した重み係数を乗じてなる第1特徴量のヒストグラムに基づく階調補正特性を用いて階調補正することにより、入力画像の特性に応じた適切な階調補正を実行できる画像処理方法、画像処理装置、該画像処理装置を備える画像形成装置及び撮像装置、並びにコンピュータを前記画像処理装置として用いるためのコンピュータプログラムを提供することを目的とする。
【0014】
【課題を解決するための手段】
本発明に係る画像処理方法は、処理対象の画像データの第1特徴量に基づく階調補正特性を用いて前記画像データを階調補正してなる画像データを生成する画像処理方法において、処理対象の画像データの前記第1特徴量とは異なる第2特徴量を抽出し、抽出した第2特徴量に基づいて、前記第1特徴量に乗じるべき所定の係数を算出し、算出した所定の係数及び前記第1特徴量の乗算結果に基づくヒストグラムに対応するデータを求め、求めた前記ヒストグラムに対応するデータを累積加算してなる累積ヒスグラムに対応するデータを求め、求めた前記累積ヒストグラムに対応するデータに基づく階調補正特性のデータを求め、求めた階調補正特性のデータを用いて前記画像データを階調補正してなる画像データを生成し、抽出した第2特徴量に基づく所定の係数を算出する際には、前記第2特徴量のヒストグラムに対応するデータを用いて、前記第2特徴量に関する基準値を求め、求めた基準値及び前記第2特徴量の大小に応じて、処理対象の画像データの画素毎に所定の係数を算出し、処理対象の画像データの画素毎に所定の係数を算出する際には、前記基準値より小さい第2特徴量に基づく所定の係数を求める場合、第2特徴量の増加に対して単調に増加する関数を用い、前記基準値以上の第2特徴量に基づく所定の係数を求める場合、第2特徴量の増加に対して一定値を示す関数を用い、第2特徴量としてエッジ強度を用い、第2特徴量を抽出する際には、近傍画素間でのエッジの勾配が所定の範囲にある画像領域のエッジ強度を強調して抽出することを特徴とする。
【0015】
本発明に係る画像処理装置は、入力画像データの第1特徴量に基づく階調補正特性を用いて入力画像データを階調補正してなる画像データを生成する画像処理装置において、前記第1特徴量とは異なる入力画像データの第2特徴量を抽出する特徴量抽出手段と、抽出した第2特徴量に基づいて、前記第1特徴量に乗じるべき所定の係数を算出する係数算出手段と、算出した所定の係数及び前記第1特徴量の乗算結果に基づくヒストグラムに対応するデータを求める手段と、該手段が求めた前記ヒストグラムに対応するデータを累積加算してなる累積ヒスグラムに対応するデータを求める手段と、該手段が求めた前記累積ヒストグラムに対応するデータに基づく階調補正特性のデータを求める手段と、該手段が求めた階調補正特性のデータを用いて入力画像データを階調補正してなる画像データを生成する手段とを備え、前記係数算出手段は、前記第2特徴量のヒストグラムに対応するデータを用いて、前記第2特徴量に関する基準値を求める手段と、求めた基準値及び前記第2特徴量の大小に応じて、入力画像データの画素毎に所定の係数を算出する手段とを備え、更に前記係数算出手段は、前記基準値より小さい第2特徴量に基づく所定の係数を求める場合、第2特徴量の増加に対して単調に増加する関数を用い、前記基準値以上の第2特徴量に基づく所定の係数を求める場合、第2特徴量の増加に対して一定値を示す関数を用いるよう構成してあり、第2特徴量としてエッジ強度を用い、前記前記特徴量抽出手段は、近傍画素間でのエッジの勾配が所定の範囲にある画像領域のエッジ強度を強調して抽出する手段を備えることを特徴とする。
【0016】
本発明にあっては、デジカメ、コピー装置、若しくはプリンタ等に備えられる画像処理装置、又はパーソナルコンピュータ(以下、パソコンという)のような画像処理装置を用いる。
まず、画像処理装置は、特徴量抽出手段にて、入力画像データの第2特徴量(例えばエッジ強度)を抽出する。
次に、抽出した第2特徴量に基づいて、画像処理装置は、係数算出手段にて、第1特徴量に乗じるべき所定の係数(以下、重み係数という)を算出する。この場合、画像処理装置は、例えば、抽出した第2特徴量のヒストグラムに基づいて、入力画像データの画素毎に重み係数を算出する。
【0017】
最後に、画像処理装置は、求めた重み係数及び第1特徴量(輝度又は明度等)に基づく階調補正特性を用いて入力画像データを階調補正し、出力画像データを生成する。この場合、画像処理装置は、例えば、求めた重み係数と第1特徴量との積のヒストグラムに基づく階調補正特性を用いる。更に詳細には、画像処理装置は、算出した所定の係数と第1特徴量との乗算結果に基づくヒストグラムに対応するデータを求め、求めたヒストグラムに対応するデータを累積加算してなる累積ヒスグラムに対応するデータを求め、求めた累積ヒスグラムに対応するデータに基づく階調補正特性のデータを求め、求めた階調補正特性のデータを用いて入力画像データを階調補正してなる画像データを生成する。
このような画像処理装置は、階調補正特性を求めるために、第1特徴量のみならず第2特徴量も用いている。この場合、第2特徴量に、各画素の位置関係の情報を含む特徴量を用いることによって、画像処理装置は、各画素の画像平面上における位置関係を加味してなる階調補正特性を用いる。このため、画像処理装置は、多くの階調数を必要とする画像領域に少ない階調数を割り当てたり、多くの階調を必要としない画像領域(例えば平坦領域)に多くの階調数を割り当てたりすることを防止する。
【0019】
また、例えば第2特徴量のヒストグラムを用いて、係数算出手段にて第2特徴量の基準値を求め、求めた基準値より大きい第2特徴量に基づく重み係数と、前記基準値より小さい第2特徴量に基づく重み係数とが、夫々異なる値を有するように、又は、夫々異なる関数を用いて求められるように、入力画像データの各画素に対応する重み係数を求める。
このため、入力画像データの第2特徴量の大小に応じて求められ各画素に対応する重み係数、及び該画素に対応する第1特徴量に基づく階調補正特性を用いて、画像処理装置は入力画像データを階調補正する。
また、基準値は、第2特徴量(例えば第2特徴量のヒストグラム)を用いて求められるため、外部から基準値を受け付ける必要がない。この場合、ユーザに基準値を入力させたり他の装置から基準値を受信したりする必要がないため、ユーザの利便性を損なったり装置の構成が複雑になったりすることがない。
【0021】
更に、係数算出手段にて、基準値より小さい第2特徴量に基づく重み係数を求める場合に、単調増加関数を用い、基準値以上の第2特徴量に基づく重み係数を求める場合に、一定値を示す関数を用いる。
一般に、例えば近傍画素間のエッジの勾配が緩やかな画像領域(多くの階調数が必要な画像領域)と平坦領域(多くの階調数が必要ない画像領域)とを、第2特徴量(この場合、エッジ強度)の情報のみで明確に分離することは困難である。このため、特許文献1に記載の画像処理装置のように、基準値による2値的な重み付けをした場合、エッジの勾配が緩やかな画像領域に属する画素のような、画質の改善に寄与する画素の第1特徴量の影響が小さい階調補正特性を用いて階調補正してしまうことがある。
【0022】
一方、第2特徴量(エッジ強度)が小さいほど、該第2特徴量(エッジ強度)を有する画素が平坦領域に属している確率は高くなる。
このため、本発明の画像処理装置は、第2特徴量(エッジ強度)が小さい画素に対しては、単調増加関数を用い、第2特徴量(エッジ強度)が大きい画素に対しては、一定値を示す関数を用いて、第2特徴量(エッジ強度)に応じた階調補正特性への寄与率(即ち重み係数)を求める。このような画像処理装置は、画質改善に寄与する画素の第1特徴量を強調してなる階調補正特性を用いて階調補正することにより、階調補正の結果を改善している。
【0024】
更にまた、特徴量抽出手段にて、入力画像データの第2特徴量を抽出する場合、エッジ強度を抽出する。このとき、特徴量抽出手段は、近傍画素間でのエッジの勾配が所定の範囲にある画像領域のエッジ強度を強調して抽出する手段として、エッジの勾配が緩やかな画像領域のエッジを強調して抽出するエッジ検出フィルタを用いる。該エッジ検出フィルタを用いることによって、画像処理装置は、近傍画素間でのエッジの勾配が所定の範囲外にある画像領域のエッジ強度、例えばエッジ強度が0である平坦領域のエッジ、又はエッジ強度が大きい(エッジの変化が急激な)画像領域のエッジ等を強調して抽出することを防止する。
【0025】
このような画像処理装置は、平坦領域と、エッジの勾配が緩やかな画像領域との分離精度を向上させ、エッジの勾配が緩やかな画像領域、即ち画質の改善に寄与する画像領域に属する画素の第2特徴量を強調して抽出し、抽出された第2特徴量に基づく重み係数を算出する。この場合、算出された重み係数及び第1特徴量に基づく階調補正特性を用いることによって、画像処理装置は、エッジの勾配が緩やかな画像領域に多くの階調数を割り当てる。即ち、画像処理装置は、前記画像領域のような、画質の改善に寄与する画像領域を適切に階調補正する。
【0026】
本発明に係る画像形成装置は、前記画像処理装置と、該画像処理装置へ画像データを入力する手段と、前記画像処理装置で生成された画像データを用いて画像を形成する手段とを備えることを特徴とする。
【0027】
本発明にあっては、コピー装置又はプリンタ等の画像形成装置が前記画像処理装置を備える。また、画像形成装置は、原稿を読み取って画像データを生成するスキャナ部、又は外部から画像データを受信するインターフェイス等のような、前記画像処理装置へ入力画像データを入力する手段を備える。更に、画像形成装置は、画像データを用いて用紙に画像を形成するプリンタ部のような、前記画像処理装置から出力された出力画像データを用いて画像を形成する手段を備える。
このような画像形成装置は、入力画像データの特性に応じて適切に階調補正された出力画像データを用いて、品質の良い画像を形成する。
【0028】
本発明に係る撮像装置は、前記画像処理装置と、画像を撮像してなる画像データを前記画像処理装置へ入力する手段とを備えることを特徴とする。
【0029】
本発明にあっては、デジカメのような撮像装置が前記画像処理装置を備える。また、撮像装置は、CCDカメラ部のような、画像を撮像してなる画像データを前記画像処理装置へ入力する手段とを備える。
このような撮像装置は、入力画像データの特性に応じて適切に階調補正された出力画像データを用いて、品質の良い画像を出力する。
【0030】
本発明に係るコンピュータプログラムは、コンピュータに、入力画像データの第1特徴量に基づく階調補正特性を用いて入力画像データを階調補正してなる画像データを生成させるコンピュータプログラムにおいて、コンピュータに、前記第1特徴量とは異なる入力画像データの第2特徴量を抽出させる特徴量抽出ステップと、コンピュータに、抽出された第2特徴量に基づいて、前記第1特徴量に乗じるべき所定の係数を算出させる係数算出ステップと、コンピュータに、算出された所定の係数及び前記第1特徴量の乗算結果に基づくヒストグラムに対応するデータを求めさせるステップと、コンピュータに、求められた前記ヒストグラムに対応するデータを累積加算してなる累積ヒスグラムに対応するデータを求めさせるステップと、コンピュータに、求められた前記累積ヒストグラムに対応するデータに基づく階調補正特性のデータを求めさせるステップと、コンピュータに、求められた階調補正特性のデータを用いて入力画像データを階調補正してなる画像データを生成させるステップとを実行させ、コンピュータに前記係数算出ステップを実行させる際には、コンピュータに、前記第2特徴量のヒストグラムに対応するデータを用いさせて、前記第2特徴量に関する基準値を求めさせるステップと、コンピュータに、求められた基準値及び前記第2特徴量の大小に応じて、入力画像データの画素毎に所定の係数を算出させるステップとを実行させ、コンピュータに前記係数算出ステップを実行させる際には、コンピュータに、前記基準値より小さい第2特徴量に基づく所定の係数を求めさせる場合、第2特徴量の増加に対して単調に増加する関数を用いさせ、前記基準値以上の第2特徴量に基づく所定の係数を求めさせる場合、第2特徴量の増加に対して一定値を示す関数を用いさせるステップを実行させ、コンピュータに、第2特徴量としてエッジ強度を用いさせ、コンピュータに前記特徴量抽出ステップを実行させる際には、コンピュータに、近傍画素間でのエッジの勾配が所定の範囲にある画像領域のエッジ強度を強調して抽出させるステップを実行させることを特徴とする。
【0031】
本発明にあっては、デジカメ、コピー装置若しくはプリンタ等に備えられるコンピュータ、又はパソコン等にインストールされる。この場合、コンピュータプログラムは、例えば、可搬性を有する記録媒体に記憶されて配布されたり、通信回線を介して配信されたり、装置が内蔵する記憶手段(例えばROM)に予め格納してあったりする。
このようなコンピュータプログラムは、入力画像データの第2特徴量を抽出する特徴量抽出手段、及び、抽出した第2特徴量に基づく重み係数を算出する係数算出手段等を、コンピュータのハードウェア要素を用いてソフトウェア的に実現し、該コンピュータを、入力画像データの特性に応じて適切に階調補正された出力画像データを用いて、品質の良い画像を出力する画像処理装置として機能させる。
【0032】
【発明の実施の形態】
以下、本発明をその実施の形態を示す図面に基づいて詳述する。
実施の形態 1.
図1は、本発明の実施の形態1に係る撮像装置としてのデジカメ1の構成を示すブロック図である。
本実施の形態においては、デジカメ1が、本実施の形態の画像処理装置である画像処理部14と、画像を撮像してなる画像データを画像処理部14へ入力する手段であるCCDカメラ部13とを備える。即ち、本実施の形態においては、デジカメ1で撮像した画像を該デジカメ1内部で階調補正して出力する。
【0033】
図中10はCPU(Central Processing Unit )であり、CPU10はデジカメ1の制御中枢である。CPU10は、バスを介して、撮像中の画像、撮像して記憶した画像、装置の動作状態、又はユーザに対する入力指示等を表示する表示部17、並びに表示部17を見ながらユーザがデジカメ1を操作するための各種ファンクションキー及びシャッターボタン等を備える操作部18等の装置各部に接続されている。
CPU10は、ROM11に格納されたコンピュータプログラムに従って装置各部を制御し、このとき発生するデータ又は外部から入力されるデータ等をRAM12に一時記憶して、各種処理を実行する。
【0034】
CCDカメラ部13は、光学レンズ、カラーフィルタ、及び固体撮像素子であるCCD(Charge Coupled Device )等を用いて構成された画像入力手段であり、CCDカメラ部13は、映像を撮像し、CCDにて、被写体からの反射光像に基づく光学信号を電気的信号に変換してなるRGB(R:Red (赤)・G:Green (緑)・B:Blue(青))のアナログ信号(入力画像データ)を画像処理部14へ入力する。
【0035】
画像処理部14は、アナログ/デジタル(Analog/Digital )変換部(以下、A/D変換部という)141、入力補正部142、第1色変換部143、階調補正部5、第2色変換部144、及び圧縮処理部145等を備え、CCDカメラ部13から入力されたRGBのアナログ信号が、A/D変換部141へ入力されるよう構成してある。
A/D変換部141は、入力されたRGBのアナログ信号をRGBのデジタル信号(以下、RGB信号という)に変換して入力補正部142へ入力し、入力補正部142は、入力されたRGB信号に対し、CCDカメラ部13の結像系/撮像系で生じる各種の歪みを取り除く処理、及び光源の色温度に基づくホワイトバランスの調整等の入力補正を行ない、入力補正されたRGB信号を第1色変換部143へ入力する。
【0036】
第1色変換部143は、入力されたRGB信号を、式(1)を用いて輝度信号と色度信号とに分離する。
j =0.30Rj +0.59Gj +0.11Bj …(1)
この場合、Yj は各画素の輝度信号であり、Rj ,Gj ,Bj は各画素の色度信号であり、また、j(j=1,2,…,J。J:全画素数)は各画素を示す。
分離された色度信号は第2色変換部144へ入力され、分離された輝度信号は、階調補正部5へ入力され、階調補正部5にて輝度階調の補正がなされてから第2色変換部144へ入力される。即ち、本実施の形態においては、入力画像データの第1特徴量として、輝度を用いる。
第2色変換部144は、入力された輝度信号と色度信号とをRGB信号に変換し、変換したRGB信号を圧縮処理部145へ入力する。
【0037】
なお、第1色変換部143を設けることなく、第1色変換部143で行なうべき処理(色度信号と輝度信号との分離)を階調補正部5にて行なうよう構成しても良い。
また、色度信号と輝度信号との分離に限らず、例えば、CIEL*** 信号(CIE:Commission International de l'Eclairage :国際照明委員会。L* :明度。a* ,b* :色度)の均等色空間に変換することによって色度信号と明度信号との分離を行なっても良い。この場合、色度信号が第2色変換部144へ入力され、明度信号が階調補正部5へ入力され、階調補正部5では、明度階調の補正がなされる。
【0038】
圧縮処理部145は、画像処理部14から出力すべき出力画像データのデータサイズを、JPEG(Joint Picture Experts Group )方式を用いて圧縮する。これによって、出力画像データが画像処理部14から出力され記憶部15に記憶された場合に出力画像データが占める記憶部15の記憶容量が節約されたり、インターフェイス16から外部へ出力画像データを転送する際の転送時間が短縮されたりする。JPEG方式を用いる場合、RGB信号はYCrCb(Y:輝度。Cb,Cr:色差)信号に変換される。
圧縮処理部145は、入力されたRGB信号を圧縮してなるYCrCb信号を出力画像データとして画像処理部14の外部へ出力し、出力された出力画像データは、記憶部15に入力される。
【0039】
記憶部15は、メモリカードのような記憶媒体を用いて構成されており、入力された出力画像データを記憶する。
インターフェイス16は、外部の装置(パソコン又はプリンタ等)に接続され、CPU10は、記憶部15に記憶されている出力画像データを読み出して、読み出した出力画像データを、インターフェイス16を介して外部へ転送する。また、表示部17は、液晶ディスプレイを用いてなり、CPU10は、記憶部15に記憶されている出力画像データを読み出して、表示部17に、読み出した出力画像データに対応する画像を表示させる。
【0040】
図2は、デジカメ1が備える画像処理装置としての画像処理部14が有する階調補正部5の構成を示すブロック図である。また、図3は、階調補正部5の階調補正処理の手順を示すフローチャートである。
階調補正部5では、入力画像データの第2特徴量として、輝度信号のエッジ強度を用いる。
階調補正部5は、特徴量抽出手段として、輝度信号のエッジ強度を抽出するエッジ強度抽出部51を備え、また、エッジ強度抽出部51で抽出したエッジ強度を用いて、エッジ強度のヒストグラム(以下、エッジヒストグラムという)に対応するデータを生成するエッジヒストグラム生成部52を備える。
【0041】
また、階調補正部5は、抽出したエッジ強度に基づく重み係数を算出する手段として、エッジヒストグラム生成部52で生成したデータを用い、入力画像データの画素(この場合、輝度信号の画素)毎に、エッジ強度に基づく重み係数を算出する係数算出部53を備える。また、階調補正部5は、係数算出部53で求めた重み係数を用いて、重み係数と輝度信号との積のヒストグラム(以下、重みヒストグラムという)に対応するデータを生成する重みヒストグラム生成部54を備える。更に、階調補正部5は、重みヒストグラム生成部54で生成したデータに基づいて階調補正特性のデータを算出する階調補正特性算出部55と、階調補正特性算出部55で算出したデータを用いて、輝度信号を階調補正して、出力画像データを構成すべき輝度信号を生成する補正処理部56とを備える。補正処理部56で生成された輝度信号は、第2色変換部144へ入力される。
【0042】
CPU10は、輝度信号Li (x,y)を用い、エッジ強度抽出部51にてエッジ強度D(x,y)を抽出する(S10)。
図4は、階調補正部5で用いられるエッジ検出フィルタの一例を示す模式図である。
エッジ強度抽出部51におけるエッジ強度の抽出には、近傍画素間でのエッジの勾配が所定の範囲にある画像領域(本実施の形態においては、エッジの勾配が緩やかな画像領域)のエッジ強度を強調して抽出するエッジ検出フィルタを用いる。該エッジ検出フィルタは、例えば、図4(a)(又は図4(b))に示すようなエッジ検出フィルタである。該エッジ検出フィルタは、エッジの勾配が緩やかな画像領域と平坦領域とを分離し易くするために平滑化の要素を加えたエッジ検出フィルタである。
【0043】
なお、このようなエッジ検出フィルタとして、式(2)を用いてなるラプラシアンガウシアンフィルタ、又はラプラシアンガウシアンフィルタを近似したフィルタ(例えば、二つのガウス関数の差により近似するDOG(Difference of two Gaussians )フィルタ)等を用いても良い。
【0044】
【数1】
Figure 0004079814
【0045】
ここで、G(x,y)はガウス分布、σはガウス分布の分散であり、(x,y)は画素の座標を表す。ラプラシアンガウシアンフィルタは、式(2)を用いて各フィルタ係数を求めてなる。
なお、エッジ強度抽出部51におけるエッジ強度の抽出には、ゾーベル(Sobel )フィルタのような1次差分フィルタを用いても良く、ラプラシアン(Laplacian )フィルタのような2次差分フィルタを用いても良い。
【0046】
図5は、エッジヒストグラム生成部52が生成するデータを用いてなるエッジヒストグラム(度数多角形)と、係数算出部53において重み係数を求めるための関数とを示す特性図である。また、図6は、重みヒストグラム生成部54が生成するデータを用いてなる重みヒストグラムと、階調補正特性算出部55が生成するデータを用いてなる累積ヒストグラム(累積度数多角形)とを示す特性図である。
【0047】
図4(a)又は図4(b)に示すようなエッジ検出フィルタが有する各フィルタ係数を用いてエッジ強度D(x,y)を抽出した後、CPU10は、抽出されたエッジ強度D(x,y)を用い、エッジヒストグラム生成部52にて、エッジヒストグラムのデータHe(n)を生成する(S11)。該データHe(n)を用いてエッジヒストグラムを生成した場合、図5の実線(細線)に示すようなエッジヒストグラム(度数多角形)となる。ここで、nはn=1,2,3〜Dmax (Dmax :エッジ検出フィルタを用いて求めた計算上のエッジ強度の最大値)の整数であり、エッジヒストグラムの区分を特定するインデクスである。
【0048】
次いで、CPU10は、生成されたエッジヒストグラムのデータHe(n)と輝度信号Li (x,y)とを用い、後述するS12,S13にて、係数算出部53にて各画素に対応する重み係数W(x,y)を算出する。
係数算出部53では、まず、CPU10は、エッジ強度の基準値Bpを算出する(S12)。このとき、Bpは式(3)を用いて求められる。
【0049】
【数2】
Figure 0004079814
【0050】
ただし、Emax は輝度信号Li (x,y)におけるエッジ強度の最大値である。また、VはエッジヒストグラムのデータHe(n)の分散値であり、式(4)を用いて求められる。
【0051】
【数3】
Figure 0004079814
【0052】
ただし、Mは式(5)を用いて求められる。
【0053】
【数4】
Figure 0004079814
【0054】
そして、係数算出部53では、CPU10は、求められた基準値Bpを用いて、図5の太線に示すような、エッジ強度が0からBpの区間においてエッジ強度0のときに0、Bpのときに1となるような単調増加関数(この場合、線形関数)、及び、エッジ強度がBpからDmax の区間において1となるような関数を用いて、各画素の重み係数W(x,y)を算出する(S13)。
即ち、本実施の形態においては、基準値Bpとエッジ強度との大小に応じて重み係数W(x,y)を求め、また、基準値Bpより小さいエッジ強度に基づく重み係数W(x,y)を求める場合は単調増加関数を用いている。
【0055】
次いで、CPU10は、重みヒストグラム生成部54にて、係数算出部53で求めた重み係数W(x,y)と輝度信号Li (x,y)との積を算出することによって、算出結果である重みヒストグラムのデータHlw(m)を生成する(S14)。該データHlw(m)を用いて重みヒストグラムを生成した場合、図6に示すような重みヒストグラムとなる。ここで、mはm=1,2,3〜Lmax (Lmax :輝度信号の最大値)の整数であり、重みヒストグラムの区分を特定するインデクスである。
【0056】
次に、CPU10は、階調補正特性算出部55にて、重みヒストグラム生成部54で生成した重みヒストグラムのデータHlw(m)を低輝度側から順次累積加算して重みヒストグラム累積値を求めることによって、累積ヒストグラムのデータCHlw(m)を算出する(S15)。このとき、公知の技術を用いて、傾きに対する制限とこれによる終端のずれに対する補正を実施する(例えば、特許文献1の第5−6頁、第2図)。また、前記データCHlw(m)を用いて累積ヒストグラムを生成した場合、図6の実線に示すような累積ヒストグラム(度数多角形)となる。
【0057】
次に、CPU10は、生成した累積ヒストグラムのデータCHlw(m)を用い、階調補正特性算出部55にて階調補正特性のデータを算出する(S16)。図6においては、白丸を重みヒストグラム累積値の頻度とするヒストグラム(度数多角形)が累積ヒストグラムであり、前記頻度を線形又は非線形の関数で補間することによって階調補正特性のデータが求められる。
【0058】
更に、CPU10は、求めた階調補正特性を、階調補正特性算出部55にて正規化する(S17)。この場合、階調補正特性は、デジカメ1で用いる階調(例えば256階調)に応じて正規化され、階調補正を実行するための階調補正特性のデータCC(L)となる。
最後に、CPU10は、補正処理部56にて、階調補正特性算出部55で求めた階調補正特性のデータCC(L)を用い、輝度信号Li (x,y)に対する階調補正を実行して(S18)、出力画像データを構成すべき輝度信号Lo (x,y)を生成し、階調補正処理を終了する。
【0059】
以上のようなデジカメ1は、重みヒストグラムのデータとして、エッジ強度の情報を重み係数として付加してなる輝度ヒストグラムのデータを生成することによって、多くの階調数を必要としない平坦部の影響を抑制した輝度ヒストグラムのデータを生成し、該データを用いてなる階調補正特性のデータを求めることによって、求めた階調補正特性のデータを用いて、輝度信号に対する適切な階調補正を行なっている。
【0060】
図7は、デジカメ1が備える階調補正部5へ入力される輝度信号Li (x,y)を用いてなるヒストグラム(度数多角形)である。また、図8は、階調補正部5で求められる階調補正特性及び従来の階調補正特性を示す特性図である。
逆光で撮像した画像のような、極端に明るい画像領域と極端に暗い画像領域とが存在する入力画像の入力画像信号から生成される輝度信号Li (x,y)を用いる場合、図7(a)に示すような輝度ヒストグラム(度数多角形)が得られる。該輝度ヒストグラムから、特に低輝度の頻度が高く、中輝度の頻度が低いことがわかる。
【0061】
このような画像では、平坦領域が低輝度に集中していると考えられる。このため、従来の手法で階調補正特性を求めた場合、図8の破線に示すような、低輝度に多数の階調数を割り当てるような階調補正特性が得られる。このような階調補正特性を用いて入力画像を階調補正した場合、全体的に入力画像より輝度が低く(暗く)、また、階調の分布に偏りがあって階調性が悪い出力画像が得られる。
なお、図8中には、参考として、入出力不変の(入力輝度=出力輝度である)階調補正特性を一点鎖線で示している。
【0062】
一方、図7(b)は、重み係数と輝度信号Li (x,y)とを用いてなる重みヒストグラムであり、該重みヒストグラムから、相対的に中輝度が強調されていることがわかる。
このような重みヒストグラムでは、該重みヒストグラムに対する平坦領域の影響が抑制されていると考えられる。このため、前記重みヒストグラムに基づく階調補正特性は、図8の実線に示すように、低輝度部に対する多数の階調数の割り当てが緩和されており、全体的にバランスが良い。このような階調補正特性を用いて入力画像を階調補正した場合、全体的に入力画像より輝度が高く(明るく)、また、高い輝度を有する画像領域と低い輝度を有する画像領域とのコントラストが向上され、階調の分布に偏りがなく階調性が良い出力画像が得られる。
【0063】
なお、特許文献1に開示されている従来技術では、有効なエッジ強度を抽出して輝度ヒストグラムを生成した後、ガウシアン状に変換して階調補正曲線を求めているため、最終的な結果を比較できない。このため、前記従来技術に従ってエッジ強度を抽出した後、輝度ヒストグラムを求めて図7(a)となし、更に、求めた輝度ヒストグラムに基づく階調補正曲線を用いて階調補正処理を行なっている。
【0064】
実施の形態 2.
本実施の形態においては、画像形成装置としてカラープリンタ(以下、プリンタという)を例示し、実施の形態3においてはデジタルカラーコピー装置(以下、複写機という)を例示するが、これらに限らず、例えばファクシミリ装置又は複合機等であっても良い。
【0065】
図9は、本発明の実施の形態2に係る画像形成装置としてのプリンタ2の構成を示すブロック図である。
一般に、デジカメ又はスキャナ等の画像生成装置6で撮像又は読取等を行なって生成した画像データを、パソコンのような画像処理装置を介さずに、プリンタから直接的に出力する場合、プリンタ2のファームウェアを用いて輝度階調の補正を実行する。本実施の形態においては、プリンタ2が、本実施の形態の画像処理装置である画像処理部24と、プリンタ2の外部から画像処理部24へ入力画像データを入力するためのインターフェイス23と、画像処理部24から出力された出力画像データを用いて画像を形成する記録部26とを備える。
【0066】
図中20はCPUであり、CPU20はプリンタ2の制御中枢である。CPU20は、バスを介して、表示部27及び操作部28等の装置各部に接続されている。
CPU20は、ROM21に格納されたコンピュータプログラムに従って装置各部を制御し、このとき発生するデータ又は外部から入力されるデータ等をRAM22に一時記憶して、各種処理を実行する。
【0067】
表示部27は、装置の動作状態又はユーザに対する入力指示等を表示する。また、操作部28は、表示部27を見ながらユーザがプリンタ2を操作するためのモード選択ボタン、設定ボタン、及びテンキー等の各種ファンクションキーを備える。このような表示部27及び操作部28は、ユーザの指示を受け付けたり、ユーザに対し、設定されている出力モードを示したりする機能を有している。
ユーザは、表示部27及び操作部28を用いてモードを選択することで各種処理をオン/オフしたり、任意にパラメータを設定したりする。
【0068】
インターフェイス23は、プリンタ2と画像生成装置6とを通信ケーブルで接続するためのものであり、画像生成装置にて生成された入力画像データは、インターフェイス23を介してプリンタ2へ入力される。前記入力画像データは、例えばデジカメで生成されたYCbCrの圧縮画像データ(符号化データ)である。
画像処理部24は、復号処理部241、階調補正部5、色変換部242、色補正部243、黒生成下色除去部244、空間フィルタ処理部245、出力階調補正部246、及び階調再現処理部247等を備え、プリンタ2へ入力された符号化データが、復号処理部241に入力されるよう構成してある。
【0069】
復号処理部241は、入力された符号化データを復号し、復号されたデータに逆量子化及び逆直交変換を行なって、RGB信号に変換し、更に、変換したRGB信号を色度信号と輝度信号とに分離して、色度信号を色変換部242へ入力し、輝度信号を階調補正部へ入力する。
階調補正部5は、実施の形態1と同様にして、入力された輝度信号を階調補正してなる輝度信号を色変換部242へ入力する。
色変換部242は、入力された色度信号及び輝度信号を用いて、RGB信号又はRGB信号を補色反転したCMY(C:Cyan,M:Magenta ,Y:Yellow)信号に変換する。以下では、CMY信号に変換した場合を例示する。
【0070】
色変換部242は、変換したCMY信号を色補正部243へ入力し、色補正部243は、入力されたCMY信号に対して色補正処理を行なう。色補正部243で行なわれる色補正処理は、色再現の忠実化を目的として不要吸収成分を含むCMY色材の分光特性に基づいた色濁りを取り除く処理である。
なお、本実施の形態においては、色変換部242と色補正部243とを別体として構成しているが、一体として構成しても良い。
【0071】
色補正部243にて色補正処理が行なわれたCMY信号は、黒生成下色除去部244へ入力される。
黒生成下色除去部244は黒生成部と下色除去部より構成されており、黒生成部は、入力されたCMY信号に基づいて黒(K)信号の生成処理を行ない、下色除去部は、生成された黒信号から算出される下色の量をCMY信号から減算することによって、CMY信号をCMYK4色の信号(CMYK信号)に変換して空間フィルタ処理部245へ入力する。
空間フィルタ処理部245は、入力されたCMYK信号を、デジタルフィルタを用いて空間フィルタ処理し、更に空間周波数特性を補正して、出力階調補正部246へ入力する。空間フィルタ処理部245での空間フィルタ処理及び空間周波数特性の補正によって、出力画像のぼやけ又は粒状性劣化等が防止される。
【0072】
出力階調補正部246は、入力されたCMYK信号に対して、濃度信号等の信号を画像出力手段である記録部26の特性値である網点面積率に変換する出力階調補正処理を行ない、階調再現処理部247は、出力階調補正処理が行なわれたCMYK信号に対し、画像を画素に分離して夫々の階調を再現できるようにする階調再現処理を行なう。階調再現処理が行なわれたCMYK信号は、出力画像データとして画像処理部24から出力される。
記憶部25は、DRAMのような記憶手段を用いて構成されており、画像処理部24から出力されたCMYK信号(出力画像データ)を記憶する。
【0073】
記録部26は、用紙又は記録シート等の記録媒体上に画像を出力する画像出力手段であり、インクジェット方式又は熱転写方式等を用いたカラー画像出力手段で構成されている。CPU20は、所定のタイミングで記憶部25から画像データを読み出し、記録部26にて、読み出した画像データを用いてなる画像を用紙に形成し、画像が形成された用紙を排出する。
その他、実施の形態1に対応する部分には同一符号を付してそれらの説明を省略する。
以上のようなプリンタ2は、実施の形態1のデジカメ1と同様にして入力画像データに対して適切な階調補正を行ない出力画像データを生成し、また、生成した出力画像データを用いて画像を形成している。
【0074】
実施の形態 3.
図10は、本発明の実施の形態3に係る画像形成装置としての複写機3の構成を示すブロック図である。
本実施の形態においては、複写機3が、本実施の形態の画像処理装置である画像処理部34と、画像処理部34へ入力画像データを入力する読取部33と、画像処理部34から出力された出力画像データを用いて画像を形成する記録部36とを備える。
【0075】
図中30はCPUであり、CPU30は複写機3の制御中枢である。CPU30は、バスを介して、装置の動作状態又はユーザに対する入力指示等を表示する表示部37、及び表示部37を見ながらユーザが複写機3を操作するための各種ファンクションキーを備える操作部38等の装置各部に接続されている。
CPU30は、ROM31に格納されたコンピュータプログラムに従って装置各部を制御し、このとき発生するデータ又は外部から入力されるデータ等をRAM32に一時記憶して、各種処理を実行する。
【0076】
読取部33は、例えば光源及びCCD等を用いてなる光学読取方式のスキャナ装置で構成された画像入力手段であり、読取部33は、装置にセットされた原稿を読み取って、原稿からの反射光像に基づく光学信号を電気的信号に変換してなるRGBのアナログ信号を画像処理部34へ入力する。
画像処理部34は、入力されたRGBのアナログ信号が、A/D変換部341に入力されるよう構成してあり、A/D変換部341は、入力されたRGBのアナログ信号をRGBのデジタル信号(即ちRGB信号)に変換してシェーディング補正部342へ入力し、シェーディング補正部342は、入力されたRGB信号を、読取部33の照明系、結像系、及び撮像系で生じる各種の歪みを除去してから入力階調補正部343へ入力する。
【0077】
入力階調補正部343は、入力されたRGB信号を、カラーバランスを整え、また、濃度信号等、画像処理部34が備える各部が扱い易い信号に変換してから領域分離処理部344へ入力し、領域分離処理部344は、入力されたRGB信号を、そのまま第1色変換部345へ入力し、また、前記RGB信号を用いて、入力画像中の各画素を文字領域、網点領域、及び写真領域の何れかに分離する。この分離結果に基づいて、領域分離処理部344は、各画素がどの領域に属しているかを示す領域識別信号を、黒生成下色除去部348、空間フィルタ処理部349、及び階調再現処理部392へ入力する。
第1色変換部345は、入力されたRGB信号をCIEL*** 信号の均等色空間に変換することによって色度信号と輝度信号とに分離し、色度信号を第2色変換部346へ入力し、輝度信号を階調補正部5へ入力する。
【0078】
階調補正部5は、入力された輝度信号を階調補正してから第2色変換部346へ入力する。
第2色変換部346は、入力された輝度信号と色度信号とを、RGB信号を補色反転したCMY信号に変換し、変換したCMY信号を色補正部347へ入力する。色補正部347は、色再現の忠実化を図るために、不要吸収成分を含むCMY色材の分光特性に基づいた色濁りを取り除く色補正処理をCMY信号に対して行ない、色補正処理したCMY信号を黒生成下色除去部348へ入力する。
なお、本実施の形態においては、第2色変換部346と色補正部347とを別体として構成しているが、一体として構成しても良い。
【0079】
黒生成下色除去部348は、入力されたCMY3色の信号及び領域識別信号に基づいて黒(K)信号の生成(黒生成)を行ない、次いで、元のCMY信号から黒生成で得たK信号を差し引いて新たなCMY信号を生成し、更に、生成したCMY信号及びK信号(即ちCMYK信号)を空間フィルタ処理部349へ入力する。
【0080】
空間フィルタ処理部349は、入力されたCMYK信号に対して、領域識別信号を基にデジタルフィルタによる空間フィルタ処理を行ない、空間周波数特性を補正することによって、出力画像のぼやけ又は粒状性劣化を軽減している。この場合、空間フィルタ処理部349においては、領域分離処理部344にて文字に分離された領域に対し、文字の再現性を高めるために、高周波成分の強調量が大きいフィルタが用いられる。また、領域分離処理部344にて網点に分離された領域に関しては、空間フィルタ処理部349において、入力網点成分を除去するためのローパス・フィルタが用いられる。
【0081】
出力階調補正部391は、空間フィルタ処理部349から入力されたCMYK信号に対して、濃度信号等の信号を画像出力手段である記録部36の特性値である網点面積率に変換する出力階調補正処理を行ない、階調再現処理部392は、空間フィルタ処理部349と同様に、CMYK信号に対して、領域識別信号に基づいて後述する所定の処理を施す。
階調再現処理部392においては、例えば、領域分離処理部にて文字に分離された領域は、高域周波成分の再現に適した高解像度のスクリーンによる二値化又は多値化処理が行なわれる。また、領域分離処理部にて網点に分離された領域及び写真に分離された領域に関しては、階調再現処理部392で、階調再現性を重視したスクリーンでの二値化又は多値化処理が行なわれる。
【0082】
以上のようにして、階調再現処理部392は、出力階調補正処理が行なわれたCMYK信号に対し、画像を画素に分離して夫々の階調を再現できるようにする階調再現処理を行なう。階調再現処理が行なわれたCMYK信号は、出力画像データとして画像処理部34から出力される。
記憶部35は、DRAMのような記憶手段を用いて構成されており、画像処理部34から出力されたCMYK信号(出力画像データ)を記憶する。
【0083】
記録部36は、用紙又は記録シート等の記録媒体上に画像を出力する画像出力手段であり、インクジェット方式又は熱転写方式等を用いたカラー画像出力手段で構成されている。CPU30は、所定のタイミングで記憶部35から画像データを読み出し、記録部36にて、読み出した画像データを用いてなる画像を用紙に形成し、画像が形成された用紙を排出する。
その他、実施の形態1に対応する部分には同一符号を付してそれらの説明を省略する。
【0084】
以上のような複写機3は、実施の形態1のデジカメ1と同様にして入力画像データに対して適切な階調補正を行ない出力画像データを生成し、また、生成した出力画像データを用いて画像を形成している。
なお、本実施の形態1〜3の画像形成装置又は撮像装置以外に、画像読取装置であるスキャナが本発明の画像処理装置を備える実施の形態であっても良い。
また、画像処理装置と、該画像処理装置へ入力画像データを入力する手段及び/又は前記画像処理装置から出力された出力画像データを用いて画像を形成する手段等とが、一体に設けられていても良く、別体に設けられていても良い。
【0085】
実施の形態 4.
本実施の形態においては、画像処理装置としてパソコンを例示するが、これに限らず、例えば画像処理を行なうよう構成されたサーバであっても良い。
本実施の形態のパソコンは、画像入力手段(例えばスキャナ)で取り込んだ入力画像データに対して、入力画像データの画像領域全体又は選択した画像領域の色を調整する等の色調補正処理、及びエッジを検出するフィルタ処理等と、輝度階調補正処理とを、アプリケーションソフトウェアとしてコンピュータ上で実行し、各種処理が施された出力画像データを用いてなる画像を画像表示手段(例えばディスプレイ)に表示したり、画像出力手段(例えばプリンタ)で出力したりする。
【0086】
図11は、本発明の実施の形態4に係る画像処理装置としてのパソコン4の構成を示すブロック図である。
図中40は、パソコン4の制御中枢であるCPUであり、CPU40は、CRT又は液晶ディスプレイ等を用いてなる表示部45、及び、キーボード及びマウス等を用いてなる操作部46等の装置各部に、バスを介して接続されている。CPU40は、ハードディスクを用いてなる補助記憶部48又はROM41に記憶されたコンピュータプログラムに従って、装置各部を制御し、このとき発生するデータをRAM42に一時記憶して、各種処理を実行する。
【0087】
外部記憶部47は、例えばCD−ROMドライブであり、CPU40に制御されて、CD−ROMのような可搬性を有する記録媒体(例えば本実施の形態のコンピュータプログラム、及び該コンピュータプログラムを実行する際に用いるデータ等が記録されている記録媒体7)から情報を読み込んで、補助記憶部48に記憶させる。
【0088】
インターフェイス43は、パソコン4と外部の装置とを、例えば通信ケーブルで接続するインターフェイスである。パソコン4は、インターフェイス43を介して、例えばデジカメ又はスキャナ等から入力画像データを受信し、プリンタへ画像データを送信する。
ネットワークI/F44は、パソコン4と外部の通信網とを、例えば通信ケーブルで接続するインターフェイスである。パソコン4は、ネットワークI/F44を介してLAN又はインターネット等に接続され、LAN又はインターネット等に接続されているスキャナ又はプリンタ等と入力画像データ又は出力画像データの送受信を行なう。
【0089】
図12は、パソコン4の階調補正処理の手順を示すフローチャートである。
CPU40は、まず、入力画像データであるRGBのデジタルデータ(以下、RGBデータという)を取得する(S30)。この場合、CPU40は、予めインストールされている画像処理ソフトでRGBデータを生成したり、インターフェイス43又はネットワークI/F44を介してRGBデータを受信したりする。又は、CPU40は、インターフェイス43又はネットワークI/F44を介してYCbCrの圧縮画像データ(符号化データ)を受信し、受信した符号化データを復号し、復号データに逆量子化及び逆直交変換を行なって、RGBデータに変換する。
【0090】
次いで、CPU40は、取得したRGBデータをRAM42に記憶され、次いで、記憶させたRGBデータを色度データと輝度データとに分離する(S31)。この場合、CPU40は、式(1)を用いて、RGBデータを輝度データと色度データとに分離したり、RGBデータをCIEL*** データの均等色空間に変換することによって色度データと輝度データとに分離したりする。
分離された色度データはRAM42に記憶させ、分離された輝度データは入力画像データとして用いられ、以下のようにして輝度階調の補正がなされる。
CPU40は、輝度データの特徴量としてエッジ強度を用い、S31で分離された輝度データLi (x,y)を用いて該輝度データLi (x,y)のエッジ強度D(x,y)を抽出する(S32)。
【0091】
エッジ強度の抽出には、エッジの勾配が緩やかな画像領域のエッジを強調して抽出するエッジ検出フィルタを用いる。該フィルタは、例えば、図4(a)(又は図4(b))に示すようなエッジ検出フィルタである。
エッジ検出フィルタが有する各フィルタ係数を用いてエッジ強度D(x,y)を抽出した後、CPU40は、抽出されたエッジ強度D(x,y)を用い、図5の細線に示すようなエッジヒストグラムのデータHe(n)を生成する(S33)。
【0092】
次いで、CPU40は、S34,S35にて、生成されたエッジヒストグラムのデータHe(n)と輝度データLi (x,y)とを用い、各画素に対応する重み係数W(x,y)を算出する。
この場合、CPU40は、特徴量の基準値Bpを式(3)を用いて算出し(S34)、算出された基準値Bpを用い、図5の太線に示すような関数を用い、各画素の重み係数W(x,y)を算出する(S35)。
【0093】
次いで、CPU40は、求めた重み係数W(x,y)と入力画像データである輝度データLi (x,y)とを乗じて、図6に示すような重みヒストグラムのデータHlw(m)を生成する(S36)。
次に、CPU40は、生成した重みヒストグラムのデータHlw(m)の値を低輝度側から順次累積加算して重みヒストグラム累積値を求めることによって、図6の実線に示すような累積ヒストグラムのデータCHlw(m)を生成する(S37)。このとき、公知の技術を用いて、傾きに対する制限とこれによる終端のずれに対する補正を実施する(例えば、特許文献1の第5−6頁、第2図)。
次に、CPU40は、生成した累積ヒストグラムのデータCHlw(m)を用い、階調補正特性のデータを算出する(S38)。図6においては、白丸を頻度とするヒストグラムが累積ヒストグラムであり、前記頻度を線形又は非線形の関数で補間することによって階調補正特性のデータが求められる。
【0094】
更に、CPU40は、求めた階調補正特性のデータを正規化する(S39)。この場合、階調補正特性のデータは、パソコン4で用いる階調(例えば256階調)に応じて正規化され、階調補正を実行するための階調補正特性のデータCC(L)となる。
最後に、CPU40は、求めた階調補正特性のデータCC(L)を用い、輝度データLi (x,y)に対する階調補正を実行して、輝度データLo (x,y)を生成し(S40)、生成した輝度データLo (x,y)とRAM42に記憶させてあった色度データとを用いて、出力画像データであるRGBデータを生成して(S41)、階調補正処理を終了する。
【0095】
以上のようなパソコン4は、重みヒストグラムのデータとして、エッジ強度の情報を重み係数として付加してなる輝度ヒストグラムのデータを生成することによって、多くの階調数を必要としない平坦部の影響を抑制した輝度ヒストグラムのデータを生成し、該データを用いてなる階調補正特性のデータを求めることによって、求めた階調補正特性のデータを用いて、輝度データに対する適切な階調補正を行なっている。
【0096】
なお、本発明のコンピュータプログラムは、コンピュータに実行させるためのコンピュータプログラムを記録したコンピュータで読み取り可能な記録媒体に、本発明の画像処理方法を記録するものとすることもできる。この場合、画像処理方法を実現するコンピュータプログラムを記録した記録媒体をコンピュータと分離して提供することができる。
【0097】
このような記録媒体としては、コンピュータ内部で処理が行なわれるために、内部記憶手段、例えばROMがプログラムメディアであっても良いし、また、外部記憶手段としてプログラム読み取り装置が設けられ、該プログラム読み取り装置に記録媒体を挿入することで読み取り可能なプログラムメディアであっても良い。何れの場合においても、格納されているコンピュータプログラムはプロセッサがアクセスして実行させる構成であっても良く、コンピュータプログラムを読み出し、読み出されたコンピュータプログラムを、コンピュータシステムのプログラム記憶領域にロードして、ロードしたコンピュータプログラムが実行される方式であってもよい。
【0098】
前記プログラムメディアは、コンピュータシステム本体と分離可能に構成される記録媒体であり、磁気テープ、フレキシブルディスク、若しくはハードディスク等の磁気記録媒体、MO等の光磁気記録媒体、CD−ROM/CD−R/MD/DVD等の光学記録媒体、又はマスクROM、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory )、若しくはフラッシュROM等の半導体メモリを含む不揮発性の記録媒体であっても良い。
【0099】
また、通信ネットワークからコンピュータプログラムをダウンロードするように流動的にコンピュータプログラムを担持する媒体であっても良い。この場合、ダウンロードを実行するコンピュータプログラムは予め本体装置に格納しておいても良いし、別な記録媒体からインストールされるものであっても良い。該記録媒体は、コンピュータシステムに備えられる読み取り装置を介してコンピュータプログラムをシステム内に取り込み、該コンピュータプログラムを実行することで本発明の画像処理方法を実行する。
【0100】
【発明の効果】
本発明の画像処理方法、画像処理装置、該画像処理装置を備える画像形成装置及び撮像装置、並びにコンピュータを前記画像処理装置として機能させるためのコンピュータプログラムによれば、入力画像データの第2特徴量に基づく重み係数を算出し、算出した重み係数及び入力画像データの第1特徴量に基づく階調補正特性を用いて入力画像データを階調補正することができる。このことにより、本発明の画像処理方法、画像処理装置、画像形成装置、撮像装置、及びコンピュータプログラムは、多くの階調数を必要とする画像領域に少ない階調数を割り当てたり、多くの階調を必要としない画像領域(例えば平坦領域)に多くの階調数を割り当てたりすることを防止できるため、画像の品質を向上することができる。
【0101】
また、画像処理装置は、入力画像データの第2特徴量の大小に応じて求められる重み係数と、第1特徴量とに基づく階調補正特性を用いることにより、入力画像データを適切に階調補正してなる出力画像データを生成することができるため、画像の品質を更に向上することができる。
また、画像処理装置は、第2特徴量が小さい画素に対しては、単調増加関数を用いて重み係数を求めることにより、画質の改善に寄与する画像領域に属する画素の第1特徴量の影響が大きい階調補正特性を用いて階調補正することができるため、画像の品質を更に向上することができる。
【0102】
更に、エッジの勾配が緩やかな画像領域、即ち画質の改善に寄与する画像領域に属する画素の第2特徴量を強調して抽出し、抽出された第2特徴量に基づく重み係数を算出し、算出された重み係数及び第1特徴量に基づく階調補正特性を用いることにより、画質の改善に寄与する画像領域、この場合、エッジの勾配が緩やかな画像領域に多くの階調数を割り当てることができるため、画像の品質を更に向上することができる等、本発明は優れた効果を奏する。
【図面の簡単な説明】
【図1】本発明の実施の形態1に係る撮像装置としてのデジカメの構成を示すブロック図である。
【図2】本発明の実施の形態1に係るデジカメが備える画像処理装置としての画像処理部が有する階調補正部の構成を示すブロック図である。
【図3】本発明の実施の形態1に係るデジカメが備える階調補正部の階調補正処理の手順を示すフローチャートである。
【図4】本発明の実施の形態1に係るデジカメが備える階調補正部で用いられるエッジ検出フィルタの一例を示す模式図であり、(a)は一のエッジ検出フィルタ、(b)は他のエッジ検出フィルタである。
【図5】本発明の実施の形態1に係るデジカメが備える階調補正部で求められるエッジヒストグラムと重み係数を求めるための関数とを示す特性図である。
【図6】本発明の実施の形態1に係るデジカメが備える階調補正部で求められる重みヒストグラムと累積ヒストグラムとを示す特性図である。
【図7】本発明の実施の形態1に係るデジカメが備える階調補正部へ入力される輝度信号を用いてなるヒストグラムであり、(a)は輝度ヒストグラム、(b)は重みヒストグラムである。
【図8】本発明の実施の形態1に係るデジカメが備える階調補正部で求められる階調補正特性を示す特性図である。
【図9】本発明の実施の形態2に係る画像形成装置としてのプリンタの構成を示すブロック図である。
【図10】本発明の実施の形態3に係る画像形成装置としての複写機の構成を示すブロック図である。
【図11】本発明の実施の形態4に係る画像処理装置としてのパソコンの構成を示すブロック図である。
【図12】本発明の実施の形態4に係るパソコンの階調補正処理の手順を示すフローチャートである。
【図13】階調補正特性の一例を示す特性図である。
【符号の説明】
1 デジカメ
2 プリンタ
3 複写機
4 パソコン
10,20,30,40 CPU
13 CCDカメラ部
23 インターフェイス
33 読取部
14,24,34 画像処理部
26,36 記録部
41 ROM
42 RAM
5 階調補正部
51 エッジ強度抽出部
52 エッジヒストグラム生成部
53 係数算出部
54 重みヒストグラム生成部
55 階調補正特性算出部
56 補正処理部
7 記録媒体

Claims (5)

  1. 処理対象の画像データの第1特徴量に基づく階調補正特性を用いて前記画像データを階調補正してなる画像データを生成する画像処理方法において、
    処理対象の画像データの前記第1特徴量とは異なる第2特徴量を抽出し、抽出した第2特徴量に基づいて、前記第1特徴量に乗じるべき所定の係数を算出し、算出した所定の係数及び前記第1特徴量の乗算結果に基づくヒストグラムに対応するデータを求め、求めた前記ヒストグラムに対応するデータを累積加算してなる累積ヒスグラムに対応するデータを求め、求めた前記累積ヒストグラムに対応するデータに基づく階調補正特性のデータを求め、求めた階調補正特性のデータを用いて前記画像データを階調補正してなる画像データを生成し、
    抽出した第2特徴量に基づく所定の係数を算出する際には、前記第2特徴量のヒストグラムに対応するデータを用いて、前記第2特徴量に関する基準値を求め、求めた基準値及び前記第2特徴量の大小に応じて、処理対象の画像データの画素毎に所定の係数を算出し、
    処理対象の画像データの画素毎に所定の係数を算出する際には、前記基準値より小さい第2特徴量に基づく所定の係数を求める場合、第2特徴量の増加に対して単調に増加する関数を用い、前記基準値以上の第2特徴量に基づく所定の係数を求める場合、第2特徴量の増加に対して一定値を示す関数を用い
    第2特徴量としてエッジ強度を用い、第2特徴量を抽出する際には、近傍画素間でのエッジの勾配が所定の範囲にある画像領域のエッジ強度を強調して抽出することを特徴とする画像処理方法。
  2. 入力画像データの第1特徴量に基づく階調補正特性を用いて入力画像データを階調補正してなる画像データを生成する画像処理装置において、
    前記第1特徴量とは異なる入力画像データの第2特徴量を抽出する特徴量抽出手段と、
    抽出した第2特徴量に基づいて、前記第1特徴量に乗じるべき所定の係数を算出する係数算出手段と、
    算出した所定の係数及び前記第1特徴量の乗算結果に基づくヒストグラムに対応するデータを求める手段と、
    該手段が求めた前記ヒストグラムに対応するデータを累積加算してなる累積ヒスグラムに対応するデータを求める手段と、
    該手段が求めた前記累積ヒストグラムに対応するデータに基づく階調補正特性のデータを求める手段と、
    該手段が求めた階調補正特性のデータを用いて入力画像データを階調補正してなる画像データを生成する手段とを備え、
    前記係数算出手段は、前記第2特徴量のヒストグラムに対応するデータを用いて、前記第2特徴量に関する基準値を求める手段と、
    求めた基準値及び前記第2特徴量の大小に応じて、入力画像データの画素毎に所定の係数を算出する手段とを備え、
    更に前記係数算出手段は、前記基準値より小さい第2特徴量に基づく所定の係数を求める場合、第2特徴量の増加に対して単調に増加する関数を用い、前記基準値以上の第2特徴量に基づく所定の係数を求める場合、第2特徴量の増加に対して一定値を示す関数を用いるよう構成してあり、
    第2特徴量としてエッジ強度を用い、前記前記特徴量抽出手段は、近傍画素間でのエッジの勾配が所定の範囲にある画像領域のエッジ強度を強調して抽出する手段を備えることを特徴とする画像処理装置。
  3. 請求項2に記載の画像処理装置と、該画像処理装置へ画像データを入力する手段と、前記画像処理装置で生成された画像データを用いて画像を形成する手段とを備えることを特徴とする画像形成装置。
  4. 請求項2に記載の画像処理装置と、画像を撮像してなる画像データを前記画像処理装置へ入力する手段とを備えることを特徴とする撮像装置。
  5. コンピュータに、入力画像データの第1特徴量に基づく階調補正特性を用いて入力画像データを階調補正してなる画像データを生成させるコンピュータプログラムにおいて、
    コンピュータに、前記第1特徴量とは異なる入力画像データの第2特徴量を抽出させる特徴量抽出ステップと、
    コンピュータに、抽出された第2特徴量に基づいて、前記第1特徴量に乗じるべき所定の係数を算出させる係数算出ステップと、
    コンピュータに、算出された所定の係数及び前記第1特徴量の乗算結果に基づくヒストグラムに対応するデータを求めさせるステップと、
    コンピュータに、求められた前記ヒストグラムに対応するデータを累積加算してなる累積ヒスグラムに対応するデータを求めさせるステップと、
    コンピュータに、求められた前記累積ヒストグラムに対応するデータに基づく階調補正特性のデータを求めさせるステップと、
    コンピュータに、求められた階調補正特性のデータを用いて入力画像データを階調補正してなる画像データを生成させるステップとを実行させ、
    コンピュータに前記係数算出ステップを実行させる際には、コンピュータに、前記第2特徴量のヒストグラムに対応するデータを用いさせて、前記第2特徴量に関する基準値を求めさせるステップと、コンピュータに、求められた基準値及び前記第2特徴量の大小に応じて、入力画像データの画素毎に所定の係数を算出させるステップとを実行させ、
    コンピュータに前記係数算出ステップを実行させる際には、コンピュータに、前記基準値より小さい第2特徴量に基づく所定の係数を求めさせる場合、第2特徴量の増加に対して単調に増加する関数を用いさせ、前記基準値以上の第2特徴量に基づく所定の係数を求めさせる場合、第2特徴量の増加に対して一定値を示す関数を用いさせるステップを実行させ
    コンピュータに、第2特徴量としてエッジ強度を用いさせ、コンピュータに前記特徴量抽出ステップを実行させる際には、コンピュータに、近傍画素間でのエッジの勾配が所定の範囲にある画像領域のエッジ強度を強調して抽出させるステップを実行させることを特徴とするコンピュータプログラム。
JP2003103286A 2003-04-07 2003-04-07 画像処理方法、画像処理装置、画像形成装置、撮像装置、及びコンピュータプログラム Expired - Fee Related JP4079814B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003103286A JP4079814B2 (ja) 2003-04-07 2003-04-07 画像処理方法、画像処理装置、画像形成装置、撮像装置、及びコンピュータプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003103286A JP4079814B2 (ja) 2003-04-07 2003-04-07 画像処理方法、画像処理装置、画像形成装置、撮像装置、及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2004312387A JP2004312387A (ja) 2004-11-04
JP4079814B2 true JP4079814B2 (ja) 2008-04-23

Family

ID=33466480

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003103286A Expired - Fee Related JP4079814B2 (ja) 2003-04-07 2003-04-07 画像処理方法、画像処理装置、画像形成装置、撮像装置、及びコンピュータプログラム

Country Status (1)

Country Link
JP (1) JP4079814B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7386186B2 (en) * 2004-08-27 2008-06-10 Micron Technology, Inc. Apparatus and method for processing images
JP4784810B2 (ja) * 2005-03-23 2011-10-05 富士ゼロックス株式会社 符号化装置及びプログラム
JP4573741B2 (ja) * 2005-09-27 2010-11-04 株式会社日立製作所 エレベータの群管理システム及びその制御方法
WO2007043460A1 (ja) 2005-10-12 2007-04-19 Matsushita Electric Industrial Co., Ltd. 視覚処理装置、表示装置、視覚処理方法、プログラムおよび集積回路
EP2012527B1 (en) * 2006-04-19 2017-10-25 Panasonic Intellectual Property Corporation of America Visual processing device, visual processing method, program, display device, and integrated circuit
CN102238314B (zh) 2006-04-28 2013-06-12 松下电器产业株式会社 视觉处理装置、视觉处理方法、程序、存储介质、显示装置及集成电路
JP4550016B2 (ja) * 2006-06-19 2010-09-22 パナソニック株式会社 輝度変換装置
JP2008271096A (ja) * 2007-04-19 2008-11-06 Mitsubishi Denki Micom Kiki Software Kk 画像データのグレーバランス補正方法、画像データのグレーバランス補正装置および記憶媒体
KR100940490B1 (ko) 2008-03-26 2010-02-04 삼성탈레스 주식회사 영상 화질 향상 장치
JP5201038B2 (ja) * 2009-03-18 2013-06-05 株式会社Jvcケンウッド 映像信号処理方法及び映像信号処理装置
JP5295854B2 (ja) * 2009-04-28 2013-09-18 株式会社レグラス 画像処理装置及び画像処理プログラム
JP2011091595A (ja) * 2009-10-22 2011-05-06 Kyocera Mita Corp 画像処理装置、画像処理方法及び画像形成装置
KR101783006B1 (ko) * 2016-10-17 2017-09-28 (주)이오닉스 조명장치 및 조명장치의 제어방법
KR101783008B1 (ko) * 2016-10-17 2017-09-28 (주)이오닉스 스마트 조명장치 및 스마트 조명장치의 제어방법
CN111783583B (zh) * 2020-06-22 2024-02-20 西安电子科技大学 基于非局部均值算法的sar图像相干斑抑制方法

Also Published As

Publication number Publication date
JP2004312387A (ja) 2004-11-04

Similar Documents

Publication Publication Date Title
JP4431607B2 (ja) 画像処理装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体
US8259357B2 (en) Image processing apparatus, image forming apparatus, image processing method, and computer readable recording medium
JP4495197B2 (ja) 画像処理装置、画像形成装置、画像処理プログラムおよび画像処理プログラムを記録する記録媒体
JP4079814B2 (ja) 画像処理方法、画像処理装置、画像形成装置、撮像装置、及びコンピュータプログラム
JP2007150607A (ja) 画像処理装置、画像形成装置、画像処理方法、画像処理プログラムおよびその記録媒体
JP5275325B2 (ja) 画像処理装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体
JP4731595B2 (ja) 画像処理装置、画像形成装置、コンピュータプログラム、記録媒体及び画像処理方法
JP4903254B2 (ja) 画像処理装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体
JP2003219191A (ja) 画像処理装置およびそれを用いた画像形成装置
JP4596964B2 (ja) 画像処理装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体
JP2007053439A (ja) 孤立点判定装置、画像処理装置、画像読取装置、画像形成装置、孤立点判定方法、孤立点判定プログラム、画像処理プログラム、コンピュータ読み取り可能な記録媒体
JP4112413B2 (ja) 画像処理装置、画像形成装置、画像処理方法、画像処理プログラム、及び画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体
JP4006590B2 (ja) 画像処理装置、シーン判定装置、画像処理方法、シーン判定方法、およびプログラム
JP2000092337A (ja) 画像処理方法および装置並びに記録媒体
JP4040528B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、画像処理プログラムを記録した記録媒体、および画像処理装置を備えた画像形成装置
JP4099366B2 (ja) 画像処理装置、画像読取装置、画像形成装置及び画像処理方法
JP2013074309A (ja) 画像処理装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体
JP2004032427A (ja) 画像処理方法、画像処理装置及びそれを備えた画像形成装置、撮像装置、並びにコンピュータプログラム、記録媒体
JP4024735B2 (ja) 画像処理方法、画像処理装置、画像形成装置、撮像装置、及びコンピュータプログラム
JP2002314827A (ja) 画像処理方法、画像処理装置、及びそれを備えた画像形成装置、画像処理プログラム、並びに記録媒体
JP4808282B2 (ja) 画像処理装置、画像形成装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録する記録媒体
JP2004248103A (ja) 画像処理装置、画像読取装置、画像形成装置、画像処理方法、画像処理プログラム、およびこれを記録したコンピュータ読み取り可能な記録媒体
JP2010278924A (ja) 画像処理装置、画像形成装置、画像処理方法、プログラムおよび記録媒体
JP2004214908A (ja) 画像処理装置、及びそれを備えた画像形成装置
JP4176656B2 (ja) 画像処理装置、画像処理方法、画像形成装置、画像処理プログラムおよび該プログラムを記録した記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050810

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070612

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070619

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080205

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110215

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120215

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120215

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130215

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees