JPWO2006025486A1 - 画像補正処理システム及び画像補正処理方法 - Google Patents

画像補正処理システム及び画像補正処理方法 Download PDF

Info

Publication number
JPWO2006025486A1
JPWO2006025486A1 JP2006531980A JP2006531980A JPWO2006025486A1 JP WO2006025486 A1 JPWO2006025486 A1 JP WO2006025486A1 JP 2006531980 A JP2006531980 A JP 2006531980A JP 2006531980 A JP2006531980 A JP 2006531980A JP WO2006025486 A1 JPWO2006025486 A1 JP WO2006025486A1
Authority
JP
Japan
Prior art keywords
gradation
local
image processing
image
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006531980A
Other languages
English (en)
Other versions
JP4577621B2 (ja
Inventor
哲明 鈴木
哲明 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2006025486A1 publication Critical patent/JPWO2006025486A1/ja
Application granted granted Critical
Publication of JP4577621B2 publication Critical patent/JP4577621B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

画像処理システムは、入力画像から少なくとも1つの補正対象の局所領域を選択する局所領域選択部と、前記局所領域は少なくとも1画素を含み、前記補正対象の局所領域に対する階調補正量を算出する補正量算出部と、前記階調補正量に基づいて前記局所領域の階調値を補正する階調補正を行い局所階調補正画像を生成する局所階調補正部とを具備する。また、前記補正量算出部は、前記局所領域の周辺領域の階調値を算出する周辺領域階調値算出部と、前記周辺領域の算出された階調値を用いて前記階調補正量を算出する局所補正量変換部とを具備してもよい。

Description

本発明は、画像補正処理システム及び画像補正処理方法に関し、特に画像の中間階調を改善する技術に関する。
従来、画像の中間階調を改善する方法は、カメラ、スキャナ、プリンタなどの画像を扱う装置で画像の階調を改善するために用いられている。従来の画像の中間階調改善方法としては、トーンカーブと呼ばれる階調変換曲線を用いて、入力される原画像の階調値が変換されている。階調変換曲線を用いる場合、入力階調値と出力階調値が1対1に固定されている階調変換処理を、画像中の全ての画素に対して施す大域的な処理が必要となる。このような大域的処理の場合、画像に明部領域(ハイライト領域)と暗部領域(シャドー領域)があるときは、両方の領域で階調バランスの取れた画像とするための調整が非常に困難である。この問題を解決するために、トーンマスクと呼ばれる非線形マスクを用いて画質の改善を行う手法が特開2001−313844号公報に開示されている。
このトーンマスクを用いる手法について説明する。この手法によれば、図1に示される処理フローにより中間階調の改善が行われる。すなわち、この従来手法は、補正対象の画像が入力画像として受信される(S801)。このとき、トーンマスク画像が入力画像から生成される(S802)。入力画像の画素値のそれぞれについて、修正された画素値の集合が求められる(S803)。入力画像の画素値は、対応するピクセルマスク値を有しており、修正された画素値は、入力画像の画素値と、現画素値の対応するピクセルマスク値との非線形の組み合わせにより求められる。
トーンマスクを用いる手法では、画像の局所的な情報に基づいて作成されたトーンマスクを使用して画像が補正される。これにより、画質を局所的に補正することが可能である。しかしながらこの手法には、(1)大きな記憶容量が必要とされる、(2)大域的画質が劣化するという、問題点がある。
(1)の問題は、入力した画像と同サイズのバッファがトーンマスクに対しても必要となるためである。(2)の問題は、利用されているトーンマスクが局所画質情報のみに基づいて作成されるためである。
上記説明と関連して、自動露光制御装置が特開平5−176220号公報に開示されている。この従来例では、画像の全画面の平均輝度が検出され、また所定の輝度より低輝度の画素数が算出される。低輝度の画素数に基づいて補正量が算出され、その補正量に基づいて全画面の目標輝度が算出される。平均輝度が目標輝度に追従するように、絞りが制御される。
また、画像処理装が特開平11−355578号公報に開示されている。この従来例では、画像データの領域を分割することにより得られる複数の所定領域の各濃度に基づいて、所定領域毎の粒状度の補正量が算出される。補正量に基づいて、画像データの粒状度が補正される。
また、ディジタル画像を改善する方法が特表2000−511315号公報(PCT/US97/07996に対応する)に開示されている。この従来例では、ディスプレイ上の位置を表わすよう添字が付され、各i番目のスペクトル帯域における各位置(x,y)に対する強度値Ii(x,y)を示すディジタルデータが与えられる。Sをディジタルデータに含まれるユニークなスペクトル帯域の数とし、各nについて、Wnを重み係数、Fn(x,y)を各位置(x,y)に適用されるユニークな周辺視野関数とし、Nをユニークな周辺視野関数の総数とすると、各i番目のスペクトル帯域における各位置に対する調整された強度値が生成されるように、以下の式(1)
によって各i番目のスペクトル帯域における各位置に対する強度値が調整される。各i番目のスペクトル帯域における各位置に対する調整された強度値は共通関数でフィルタリングされ、各位置に対してそのようにしてフィルタリングされた各i番目のスペクトル帯域に対して調整された強度値に基づいて改善されたディジタル画像が表示される。
また、画像処理方法が特開2003−333331号公報に開示されている。この従来例では、入力画像データの非線形歪が小さくなるように信号が補正され、補正後の信号に対して、着目画素の画素値とその周辺分布領域の濃淡値との相対比が算出される。この相対比から着目画素に対応する処理対象画素の画素値が決定される。さらに、着目画素の画素値とその周辺分布領域の濃淡値との相対比が、対象となる領域を異ならせて算出され、対象とする周辺分布領域の大きさに応じてゲイン係数が算出される。得られた各相対比に、所定の重み係数とゲイン係数がそれぞれ掛けられ、合成値が算出される。この合成値から着目画素に対応する処理対象画素の画素値が決定される。
本発明の目的は、少ない記憶容量で処理することができる画像補正処理システム、画像補正処理方法、および画像補正処理用プログラムを提供することにある。
本発明の他の目的は、補正画像を局所的および大域的に適切な画質にする画像補正処理システム、画像補正処理方法、および画像補正処理用プログラムを提供することにある。
本発明の観点では、画像処理システムは、入力画像から少なくとも1つの補正対象の局所領域を選択する局所領域選択部と、前記局所領域は少なくとも1画素を含み、前記補正対象の局所領域に対する階調補正量を算出する補正量算出部と、前記階調補正量に基づいて前記局所領域の階調値を補正する階調補正を行い局所階調補正画像を生成する局所階調補正部とを具備する。
また、前記補正量算出部は、前記局所領域の周辺領域の階調値を算出する周辺領域階調値算出部と、前記周辺領域の算出された階調値を用いて前記階調補正量を算出する局所補正量変換部とを具備してもよい。
また、画像処理システムは、前記入力画像の部分領域ごとの代表階調値を算出する部分領域輝度算出部を更に具備し、前記補正量算出部は、前記補正対象の局所領域の周辺領域の階調値を、前記補正対象の局所領域の近傍に位置する少なくとも1つの前記部分領域の前記代表階調値を用いて算出する部分領域参照型周辺領域輝度算出部と、前記周辺領域の算出された階調値を用いて前記階調補正量を算出する局所補正量変換部とを具備してもよい。
また、画像処理システムは、前記局所階調補正画像の大域補正量を算出する大域補正量算出部と、前記大域補正量に基づいて前記局所階調補正画像に大域階調を補正する階調補正を行い大域階調補画像を生成する大域補正部とを更に具備してもよい。
また、画像処理システムは、前記入力画像を提供する画像入力部と、前記局所階調補正画像または前記大域階調補正画像を出力する画像出力部とを更に具備してもよい。
ここで、前記階調値は、輝度値、またはスペクトル成分で表現された階調値であることが好ましい。
前記階調補正が、前記補正対象の局所領域の広さを変えながら、あるいは前記補正対象の局所領域の広さを保ちながら、前記補正対象の局所領域に対して、複数回繰り返されてもよい。
また、前記局所領域選択部は、複数の局所領域を選択するとき、前記階調補正が、前記複数の選択された局所領域に対して施されてもよい。
また、前記周辺領域階調値算出部は、前記周辺領域の階調値とガウシアン重みの加重平均輝度値、または前記周辺領域の平均輝度値を前記周辺領域の前記階調値として算出してもよい。あるいは、局所領域と特徴点を結ぶ特徴経路線を1個以上設定し、前記特徴経路線のそれぞれで1個以上の経路特徴点を求め、前記経路特徴点の階調値、又は前記経路特徴点の加重平均輝度値を前記周辺領域の前記階調値として算出してもよい。
また、前記部分領域参照型周辺領域輝度算出部は、前記補正対象となる局所領域とその近傍に位置する少なくとも1つの前記部分領域との距離の比と前記部分領域の代表階調の積を用いて周辺領域の階調を算出してもよい。
前記代表階調値は、前記部分領域に含まれる全てまたは一部の画素の平均値、全てまたは一部の画素の中央値であることが好ましい。
前記補正量算出部は、シャドー領域がハイライト領域より強い補正を施されるように階調補正量を算出してもよし、局所領域の周辺の領域輝度と画像のハイライト領域の輝度とを用いて局所領域の階調補正量を算出してもよい。
前記局所階調補正部は、非線形関数を用いて前記階調補正を行うことが好ましい。また、前記大域階調補正は、コントラスト強調を含むことが好ましい。
本発明の他の観点では、画像処理方法は、入力画像から少なくとも1つの補正対象の局所領域を選択することと、前記局所領域は少なくとも1画素を含み、前記補正対象の局所領域に対する階調補正量を算出することと、前記階調補正量に基づいて前記局所領域の階調値を補正する階調補正を行い局所階調補正画像を生成することとにより達成される。
前記階調補正量を算出することとは、前記局所領域の周辺領域の階調値を算出することとと、前記周辺領域の算出された階調値を用いて前記階調補正量を算出することとにより達成されてもよい。
画像処理方法が、前記入力画像の部分領域ごとの代表階調値を算出することを更に具備し、前記前記階調補正量を算出することは、前記補正対象の局所領域の近傍に位置する少なくとも1つの前記部分領域の前記代表階調値を用いて前記補正対象の局所領域の周辺領域の階調値を算出することと、前記周辺領域の算出された階調値を用いて前記階調補正量を算出することとにより達成されてもよい。
画像処理方法は、更に、前記局所階調補正画像の大域補正量を算出することと、前記大域補正量に基づいて前記局所階調補正画像に大域階調を補正する階調補正を行い大域階調補画像を生成することにより達成されてもよい
また、画像処理方法は、更に、前記入力画像を提供することと、前記局所階調補正画像または前記大域階調補正画像を出力することとにより達成されてもよい
また、前記階調値は、輝度値、またはスペクトル成分で表現された階調値であることが好ましい。
また、画像処理方法は、更に、前記階調補正を、前記補正対象の局所領域の広さを変えながら、あるいは前記補正対象の局所領域の広さを保ちながら、前記補正対象の局所領域に対して、複数回繰り返えすことにより達成されてもよい。
また、前記局所領域を選択することが、複数の局所領域を選択することとを含むとき、画像処理方法は、前記階調補正を、前記複数の選択された局所領域に対して行うことにより達成されてもよい。
前記階調補正量を算出することは、前記周辺領域の階調値とガウシアン重みの加重平均輝度値、または前記周辺領域の平均輝度値を前記周辺領域の前記階調値として算出することにより達成されてもよい。
前記階調補正量を算出することは、局所領域と特徴点を結ぶ特徴経路線を1個以上設定し、前記特徴経路線のそれぞれで1個以上の経路特徴点を求め、前記経路特徴点の階調値、又は前記経路特徴点の加重平均輝度値を前記周辺領域の前記階調値として算出することにより達成されてもよい。
また、前記周辺領域の階調値を算出することとは、前記補正対象となる局所領域とその近傍に位置する少なくとも1つの前記部分領域との距離の比と前記部分領域の代表階調の積を用いて周辺領域の階調を算出することにより達成されてもよい。
前記代表階調値は、前記部分領域に含まれる全てまたは一部の画素の平均値、全てまたは一部の画素の中央値であってもよい。
また、前記階調補正量を算出することとは、シャドー領域がハイライト領域より強い補正を施されるように階調補正量を算出することにより達成されてもよい。
また、前記階調補正量を算出することとは、前記局所領域の周辺の領域輝度と画像のハイライト領域の輝度とを用いて局所領域の階調補正量を算出することにより達成されてもよい。
また、前記階調補正量を算出することとは、非線形関数を用いて前記階調補正を行うことにより達成されてもよい。
また、前記大域階調補正は、コントラスト強調を含むことが好ましい。
従来の中間階調改善手法の動作を示すフローチャートである。 本発明の第1実施例に係る画像処理システムの構成を示すブロック図である。 本発明の第1実施例に係る画像処理システムの画像処理装置の構成を示すブロック図である。 本発明の第1実施例に係る画像処理システムの動作を示すフローチャートである。 第1実施例における特徴経路の例を示す図である。 第1実施例の周辺領域の輝度算出における変換関係を示す図である。 第1実施例における局所階調補正の例を示す図である。 本発明の第2実施例に係る画像処理システムの構成を示すブロック図である。 第2実施例における画像処理システムの動作を示すフローチャートである。 図10Aは、第2実施例における部分領域参照型周辺領域輝度算出法として例示された4近傍加重平均輝度値の算出方法を示す図である。 図10Bは、第2実施例における部分領域参照型周辺領域輝度算出法として例示された4近傍加重平均輝度値の算出方法を示す図である。 図10Cは、第2実施例における部分領域参照型周辺領域輝度算出法として例示された4近傍加重平均輝度値の算出方法を示す図である。 図10Dは、第2実施例における部分領域参照型周辺領域輝度算出法として例示された4近傍加重平均輝度値の算出方法を示す図である。 本発明の第3実施例に係る画像処理システムの構成を示すプロック図である。 第3実施例に係る画像処理システムの動作を示すフローチャートである。 第3実施例に係る大域階調補正の例を説明する図である。 本発明の画像処理装置の具体的な構成を示すブロック図である。 図15Aは、第1実施例に係る画像処理の例を示す図である。 図15Bは、第1実施例に係る画像処理の例を示す図である。 図15Cは、第1実施例に係る画像処理の例を示す図である。 図16Aは、第3実施例に係る画像処理の例を示す図である。 図16Bは、第3実施例に係る画像処理の例を示す図である。
以下に添付図面を参照して、本発明の画像補正処理システムについて詳細に説明する。
図2は、第1実施例に係る画像処理システムの構成を示すブロック図である。画像処理システムは、画像入力部1と画像処理装置2と画像出力部3とを具備する。画像入力部1は、カメラやスキャナなどの撮像機器、またはそれらにより撮影されて画像データが蓄積される画像データベース、あるいは、それらが接続されるネットワークなどで実現される。画像入力部1から原画像データが画像処理装置2に入力される。画像処理装置2は、入力される原画像の中間階調を改善する補正処理を行い、補正画像を画像出力部3に出力する。画像出力部3は、ディスプレイ、プリンタ、画像データを保持するハードディスクやメモリカードなどの記憶媒体、あるいはそれらが接続されるネットワークなどで実現され、画像の表示や蓄積あるいは伝送を行う。
画像処理装置2は、図3に示されるように、局所領域選択部21、補正量算出部22、局所階調補正部23、制御部24とを備えている。
局所領域選択部21は、画像入力部1から入力される原画像データから少なくとも1つの局所領域を補正対象として選択する。局所領域選択部21は、画像データを補正量算出部22と局所階調補正部23に出力する。
局所領域は、ユーザーがマニュアルで選択してもよいし、自動的に選択してもよい。自動的に選択する場合には、画像の平均輝度を求め、その平均輝度より所定の閾値だけ明るいあるいは暗い画素の領域を局所領域と選択してもよい。局所領域は、1画素以上で構成される画像領域である。局所領域は、複数の画素の集合でもよい。また、画像を複数の分割領域に分割し、分割領域の各々を局所領域としてもよい。複数の局所領域が存在するとき、局所領域が互いに重複する領域を含んでもよい。選択された局所領域を指定するデータは制御部24に送られる。
選択された局所領域の全てを補正する必要はなく、補正の必要性は、その局所領域の画像統計量により判断することができる。画像統計量として、例えば、局所領域の画素の分散や、平均輝度などがある。制御部24は、これらの画像統計量を抽出し、閾値を超えるもの、あるいは閾値を下回るものなどを補正対象の局所領域とする。制御部24は、補正対象の局所領域指定データを保持する。
補正量算出部22は、周辺領域画像データに基づいて補正量を算出する。補正量算出部22は、周辺領域輝度算出部221と局所補正量変換部222とを備える。周辺領域輝度算出部221は、制御部24からの指示に従って局所領域選択部21により選択された補正対象である局所領域の周辺領域の輝度値を算出する。局所補正量変換部222は、周辺領域輝度算出部221で算出される周辺領域の輝度値に基づいて局所領域の補正量を求める。
より詳細には、周辺領域輝度算出部221は、制御部24から供給される局所領域指定データに基づいて、画像データから、選択された局所領域の周辺領域の画像データを決定し、決定された周辺領域の画像データの輝度値を算出する。局所補正量変換部222は、算出される周辺領域の輝度値に基づいて、局所領域の補正量を求める。
補正の対象となる局所領域が設定されると、その局所領域の周囲に周辺領域が決定される。周辺領域は、局所領域から一定の距離の範囲にある部分とする。例えば、局所領域の中心を原点として、縦にM画素、横にN画素分の領域を周辺領域とする。このとき、領域の大きさを示すM、Nは、画像のサイズに基づいて設定されることが好ましい。また、周辺領域は矩形領域でなくてもよく、円形(楕円形)領域でもよい。
周辺領域輝度算出部221は、周辺領域の輝度値として、周辺領域の輝度ヒストグラムの中央値や平均値、周辺領域の輝度の加重平均をとった加重平均輝度値、特徴経路上の参照点の加重平均輝度値などを用いることができる。ここでは、局所領域を中心とする領域の加重平均値輝度ASと、特徴経路上にある参照点の加重平均輝度値FSの算出方法を説明する。
局所領域を中心とする領域の加重平均輝度値ASは、次のように算出される。入力される原画像をI(x,y)とし、重み付け係数を等方的2次元正規分布H(x,y)とすると、局所領域の中心(x,y)を中心とする周辺領域の加重平均輝度値ASは、(2)式により求められる。
ここで、演算子*は、畳み込み演算を示す。H(x,y)は、局所領域(x,y)を中心とし、標準偏差σの等方的な2次元正規分布であり、次の式(3)、(4)を満たす。
次に、特徴経路上にある参照点の加重平均輝度値の算出方法について説明する。参照点は、周辺領域の中で特徴のある点のうち、特徴経路上にあり加重平均の一要素として算入される点である。周辺領域の中で、輝度がその周囲に比べて高い領域、エッジ強度が大きい領域、RGBの階調値または輝度の極大値、極小値などの特徴を有する領域が特徴点として設定される。
特徴点決定後、画像処理装置2は、この特徴点のうち中心の局所領域から遠いP個の特徴点を選択し、これらのP個の特徴点と局所領域を結ぶ特徴経路線を設定する。この特徴経路線は、P個の特徴点と局所領域の間にある他の未選択の特徴点を特徴経路点として、これらを結ぶように設定される。このようにして設定される特徴経路、特徴点は、例えば、図5に示されるようである。図5に示される経路P1上にある特徴点を参照点としてその加重平均輝度FSを算出する。特徴経路上の参照点の荷重平均輝度値FSは、以下の式(5)により求められる。
ここで、P(>0)は特徴経路の数、Np(>0)は特徴経路p上の参照点の数、a(x,y)は係数である。係数a(x,y)は、例えば(3)式および(4)式で示される2次元正規分布H(x,y)などを使用する。また、a(x,y)は、定数であってもよい。特徴経路は図5の経路P1に示される局所領域の周辺に与えられた特徴点と局所領域とを結ぶ任意の線上にある特徴点を辿って結ぶ経路である。
周辺領域の輝度値が算出されると、局所補正量変換部222は、その周辺領域輝度値に基づいて局所領域の補正量を算出する。局所補正量変換部222は、周辺領域の輝度値から局所領域の補正量への変換処理では、周辺領域の輝度値に対する線形変換や非線形変換などを行い、局所階調補正部23に補正量を出力する。特に、局所階調補正部23がガンマ補正を行う場合は、以下のように周辺領域の輝度を補正量に変換することができる。即ち、周辺領域の輝度値Sが得られると局所補正量変換部222は、この周辺領域の輝度値Sに基づき、以下の式(6)により局所領域の補正量Zを算出する。
ここで、Sは画像中のハイライト領域の輝度値である。aは、所定の定数(>0)であり、補正量Zの傾きを示す。bは、所定の定数(0≦b≦1.0)であり、補正量Zの最小値を示す。cは、所定の定数(0≦c≦1.0)であり、補正量の飽和部の定数を示す。指数αは、所定の定数(α≧0)であり、補正対象の画像に基づいて値が決定される。したがって、周辺領域の輝度値Sがハイライト領域の輝度値S未満の場合、補正量Zは、傾きa(>0)、切片b(0≦b≦1.0)、指数α(α≧0)を有する関数により決定される。周辺領域の輝度値Sがハイライト領域の輝度値S以上の場合、補正量Zは、定数c(0≦c≦1.0)となる。ここで、以下の式(7)が成り立つ時、補正量Zは、周辺領域の輝度値Sがハイライト領域の輝度値Sの前後において連続となり、補正量Zの値域は、図6に示されるように、[b,c]となる。また、ハイライト領域の輝度値Sを超える周辺輝度値を持つ領域の補正量Zは、cとなる。このため、c=1.0の時、ハイライト領域では階調補正が施されないことになる。
このようにハイライト領域の輝度Sを越える領域に対して階調補正を施さないことにより、ハイライト領域が暗く補正される、あるいは、過度に明るく補正されることがなくなる。したがって、ハイライト領域では良好な階調性を維持することが可能である。
また、(6)式を以下の式(8)とすることで、原画像中のシャドー領域の階調を保ち、他の領域の画質を改善することができる。
ここで、Sは画像中のシャドー領域の輝度値を示す。aは、所定の定数(>0)であり、補正量Zの傾きを示す。bは、所定の定数(0≦b≦1.0)である。cは、所定の定数(0≦c≦1.0)である。指数αは、所定の定数(α≧0)であり、補正対象の画像に基づいて値が決定される。
即ち、周辺領域の輝度値Sがシャドー領域の輝度値S以上の場合は、傾きa(>0)、切片b(0≦b≦1.0)、定数c(0≦c≦1.0)、指数α(α≧0)を有する関数により補正量Zが決定される。周辺領域の輝度値Sが輝度値S未満の場合は、補正量Zは定数cとなる。以下の式(9)が成立するとき、補正量Zは、周辺領域の輝度値Sがシャドー領域の輝度値Sの前後において連続となる。このとき、補正量Zは、c以上の値となる。シャドー領域の輝度値S以下の周辺輝度値を持つ領域のガンマ補正量はcとなる。このため、c=1.0の時、シャドー領域では階調補正は施されないことになる。
ここでハイライト領域とシャドー領域について説明しておく。ハイライト領域とは、特定輝度以上の階調値または輝度値を有する画素の集合のことである。また、シャドー領域とは、特定輝度以下の階調値または輝度値を有する画素の集合のことである。これらの輝度値を制御部24が保持しており、必要により、補正量算出部22に供給する。これらの輝度値は、様々な適用画像を対象にした実験に基づいて決定する場合や、以下のように補正対象画像毎に適応的に求められる場合がある。
まず、画像の階調値(輝度値)のヒストグラムを生成する。階調値(輝度値)の大きい方の、ある割合の要素をハイライト領域の画素とする。例えば、画像が幅320画素、高さ240画素で、その1%をハイライト領域に指定するものとすると、ハイライト領域の画素数は、th=320×240×0.01=768画素である。階調値ヒストグラムにおいて上位768個目の画素が有する階調値以上の階調値を持つ画素がハイライト領域となる。同様に、シャドー領域は、下位768個目の画素が有する階調値以下の階調値を持つ画素がシャドー領域となる。ここでは、ハイライト領域とシャドー領域の割合は同じ値で説明したが、異なる値であってもよい。
局所階調補正部23は、局所領域選択部21から供給される画像データと、補正量算出部22から供給される補正量とに基づいて画像データのうちの選択された局所領域の階調値を補正する。補正処理された補正画像データは、画像出力部3に出力される。この例では、階調値は、輝度値であってもよいし、あるいはスペクトル成分で表現された階調値であってもよい。
局所階調補正処理は、線形補正関数やシグモイド関数などの非線形関数を用いて実現されることが可能である。例えば、補正量算出部22により、局所領域を補正するための補正量がガンマ値として算出される場合、局所階調補正部22は以下の式(10)のガンマ補正式により局所領域の階調値を変換する。即ち、局所階調補正部22は、局所領域の階調値Ii(x,y)をOi(x,y)に変換する階調補正処理を施す(但し、i=R,G,B)。
ここで、Imaxは階調値の最大値、γは補正量算出部22により算出されたガンマ値である。また、式(10)は、R,G,Bを独立に処理する式になっているが、輝度成分のみの補正を行うことも可能である。輝度成分のみの補正を行う場合、まず、RGB空間の階調値は輝度成分と色度成分に分割される。次に、輝度成分のみが式(10)の入力値として補正される。変換後の輝度値と元の色度成分は再びRGB空間の階調値へと変換される。このように処理することで、輝度成分のみの補正を行うことも可能である。さらに、補正量算出部22と局所階調補正部23の処理は、周辺領域輝度算出部221により算出される周辺領域の輝度値Sに対応して事前に求められる階調補正テーブルを用いることで実現することも可能である。階調補正テーブルを用いることにより、演算時間を短縮できる。
次に、第1実施例の全体の動作について、図4のフローチャートを参照して説明する。
まず、画像入力部1から入力された原画像は、局所領域選択部21に供給される。局所領域選択部21では、入力される原画像から局所領域を選択する。制御部24は、選択された局所領域から補正対象の局所領域を選択する(ステップS21)。
次に、補正量算出部22において、原画像の選択された局所領域の階調補正量を算出する(ステップS22)。選択された局所領域の階調補正量として、まず、周辺領域輝度算出部221において、周辺領域の輝度ヒストグラムの中央値や平均値、周辺領域の輝度の加重平均をとった加重平均輝度値、特徴経路上の参照点の加重平均輝度値などに基づいて、周辺領域の輝度値が算出される。周辺補正量変換部222において、算出される周辺領域の輝度値は、局所領域の階調補正量に変換される。この局所領域の階調補正量とは、入力される原画像の局所的な明るさやコントラストなどの画質要因により決定されるものであり、画像の局所領域の画質が最適となるように階調補正を行うための階調補正の強度を決める値である。
局所領域の階調補正量が算出されると、得られた局所階調補正量に基づいて該当する局所領域の階調が補正される(ステップS23)。局所領域を補正するための補正量がガンマ値として算出される場合、局所階調補正部22は、局所領域の階調値Ii(x,y)をOi(x,y)に変換する(i=R,G,B)。
この局所階調補正は、1領域以上ある局所領域に対して逐次的に行われる。制御部24は、局所領域の階調補正が全ての補正対象の局所領域について行われたか否かを判定する(ステップS24)。未処理の局所領域が残っている場合(ステップS24−NO)、その領域に対して補正量の取得および階調補正を行う。全ての局所領域に対して処理が終了している場合(ステップS24−YES)、階調補正処理を終了し、画像出力部3に補正後の画像を供給する。画像出力部3への補正画像の出力は、各局所領域の補正処理が終了するごとに行ってもよい。
また、ここでは、局所階調補正が局所領域の各々に対して1度ずつ実行されると説明したが、局所階調補正により各局所階調が補正されるので、この局所階調補正が複数回繰り返されてもよい。その場合、局所領域の広さを保ちながら階調補正が行われてもよいが、局所領域の広さを買えながら階調補正が行われると、特異点のような局所領域などに影響されて補正が過度に進行することが防止できる。この場合、制御部24が、局所領域の選択を行うための閾値を局所領域選択部21に供給し、新たに補正対象の局所領域を選択しながら、補正を行ってもよい。また、画像全体を複数の領域に分け、それらを局所領域として階調補正を行ってもよい。
以上のように、局所領域における階調補正処理は行われる。ここで以上の処理を適用した例を示す。そのシステムは、画像入力部1としてCCDカメラを、画像処理装置2としてパーソナル・コンピュータを、画像出力部3としてディスプレイを備えている。
パーソナル・コンピュータは、図14に示されるように、中央演算処理部(CPU:Central Processing Unit)31、入力部32、出力部33、メモリ部34、外部記憶部35を具備する。中央演算処理部31は、メモリ部34に格納されるプログラムを逐次取り出して実行し、メモリ部34あるいは外部記憶部35に格納される画像データ、作業用データに基づいて、画像階調補正処理を行う。入力部32は、CCDカメラから画像データを取り込む。出力部33は、補正処理した画像データをディスプレイに出力する。メモリ部34は、取り込んだ画像データを記憶し、演算の途中経過を保持し、また、演算処理するためのプログラムを格納する。外部記憶部35は、メモリ部34に格納するプログラムを記憶したり、メモリ部34の内容を保存したりする。
パーソナル・コンピュータは、画像処理装置2としてソフトウェアにより実現される局所領域選択部21、補正量算出部22、局所階調補正部23を備える。繰り返し演算量の多い部分に関しては、専用ハードウェアが実装されていてもよい。また、補正量算出部22は、ガンマ補正の場合はガンマ値を算出し、局所階調補正部は算出されたガンマ値を用いてガンマ補正を行う。以下ではガンマ補正として説明するが、シグモイド関数による補正であれば、シグモイド関数の傾き、シフト量などのパラメータを算出することになる。
CCDカメラから図15Aに示される画像が入力されたとする。中央演算処理部31は、入力される原画像中の局所領域、例えば1画素を選択し、図15Bに示されるように、その局所領域の周辺領域の輝度値を算出する。図15Bでは、局所領域として2ヵ所示され、周辺領域は、その局所領域を中心とする半径Rの円で示されている。まずこの周辺領域の輝度値を算出する。周辺領域の輝度値が算出されると、この周辺領域の輝度値を基に式(6)に従って補正量が算出され、局所領域を補正するためのガンマ値が得られる。図15Bの右下の局所領域のように、周辺領域の輝度値が低い場合、局所領域を補正するためのガンマ値は式(6)のb値(例えば0.5)に近くなる。この結果、局所領域の階調値はガンマ補正により明るく補正される。一方、図15Bの左上の局所領域のように、周辺領域の輝度値が高い場合、特に式(6)のS値を超えた場合、ガンマ値は1.0(=c)となる。したがって、局所領域の階調値はガンマ補正の影響を受けず、原画像のままとなる。このような処理を全局所領域に施すことにより、画像中の暗部は明るく補正され、明部は原画像のまま保存されることになる。この結果、図15Cに示されるように画像中の暗部の視認性が改善される。最後に、処理の結果をディスプレイに出力することで処理を終了する。
このように、パーソナル・コンピュータは、画像補正処理のプログラムを実行することにより、周辺領域の画質に応じて補正量を決定し、局所領域の画質を補正する。上記のガンマ補正と式(6)とを適用する場合、局所領域の階調補正関数は、図7に示されるように、画像の局所領域の明るさに応じて階調補正関数が変化する。したがって、暗い領域は明るく、明るい領域は元画像の階調をそのまま保持するというような処理が実現される。その結果、画像中の明部の画質を保持しつつ暗部の画質を改善することができる。また、逆に上記のガンマ補正と式(8)を適用することで、画像中の暗部の画質を保持しつつ明部の画質を改善することができる。
本実施例では、画像からの局所領域の階調補正量の取得と階調補正を局所領域ごとに逐次処理するように構成されている。そのため、補正量および補正量を求めるために必要な諸データのうち、メモリ部34、外部記憶部35に保持されるデータ量を入力される原画像のデータサイズよりも少なくすることができる。
また、局所領域の画質に応じて階調補正を施すことができるため、局所領域の画質を適切に補正することが可能である。
さらに、特徴経路の加重平均輝度値を用いた場合、他の周辺領域を算出する方法と比べて演算参照する点数が少なく、高速に動作することが可能である。したがって、計算コストを削減することができる。
次に、本発明の第2実施例による画像処理システムについて詳細に説明する。図8は、本発明の第2実施例による画像処理システムの構成を示すブロック図である。図8参照して、本発明の第2実施例による画像処理システムは、第1実施例の構成とは、部分領域輝度値格納部51を有する記憶装置5と部分領域輝度算出部25が追加されている点で異なる。また、第2実施例では、第1実施例の補正量算出部22が補正量算出部26に置換されている。補正量算出部26では、周辺領域輝度算出部221に代えて部分領域参照型周辺領域輝度算出部261が設けられている。従って、異なる点を以下に説明する。
部分領域輝度算出部25は、入力画像の領域を横m領域、縦n領域に分割し、それぞれの領域の代表輝度値を算出し、部分領域輝度値格納部51に代表輝度値を格納する。
補正量算出部26は、部分領域輝度値格納部51に格納されている代表輝度値を用いて局所領域補正量を算出する。詳細には、部分領域参照型周辺領域輝度算出部261が局所領域の近傍に位置する部分領域の代表輝度値を用いて周辺輝度値を算出し、局所補正量変換部222は算出された周辺輝度値を用いて局所補正量を決定する。
次に、図9のフローチャートを参照して第2実施例の画像処理システムの動作について詳細に説明する。図9のステップS21、S23およびS24で示されるプロセスは、図4に示される第1実施例におけるステップS21、S23およびS24と同一であるので、説明は省略する。
第2実施例では、画像が入力されると、部分領域輝度算出部25は、入力画像の領域を横m領域、縦n領域(m,n>0)に分割し(図10A)、それぞれの領域の代表輝度値を求め(図10B)、部分領域輝度値格納部51に代表輝度値を格納する(ステップS25)。局所領域選択部21は、第1実施例と同様にして、補正対象の局所領域を選択する(ステップS21)。補正量算出部26の部分領域参照型周辺領域輝度算出部261は、ステップS25で算出された代表輝度値を用いて局所領域の周辺輝度値を算出し、局所補正量変換部222は選択された局所領域の補正量を算出する(ステップS26)。
なお、部分領域の代表輝度値としては、部分領域の平均値や中央値などを用いることができる。また、部分領域参照型周辺領域輝度算出部261は、例えば、部分領域の代表輝度値を用いて4近傍加重平均値ISを周辺領域の輝度値として算出する。4近傍加重平均値ISは、注目領域の最近傍領域の代表輝度値Sを用いて線形補間することで得られる。図10Cの点Eを注目画素とし、点Eのx座標は線分ABをXL:XRに内分する位置に、y座標は線分ACをYU:UDに内分する位置にあるとする。この場合、注目画素Eが図10Cの部分領域の中心点を結ぶ破線で囲まれる領域(1)、(2)、(3)のどの領域にあるかに依存して、注目画素の平均輝度値は以下の式(11),(12),(13)を用いて決定される。
領域(1):4近傍領域から算出
領域(2):2近傍領域から算出
領域(3):単一領域から算出
なお、XL+XR=1、YU+UD=1である。
以上の式に基づいて周辺輝度値が計算された場合、図10Dのように加重平均輝度値ASにより得られる周辺輝度値に近い周辺輝度値を得ることが可能である。
第2実施例では、4近傍加重平均値を用いた場合、部分領域の代表輝度値を格納するための数バイト程度の記憶容量を必要とするが、特徴経路の加重平均輝度値のように特徴経路を算出するための演算参照は必要なく、また、その他の周辺領域の輝度値を算出する方法と比べて演算参照する点数が少なく、高速に動作することが可能である。
次に、本発明の第3実施例による画像処理システムについて説明する。第3実施例は、階調補正が局所階調補正と大域階調補正の2段階で施される。画像処理システムの構成は、図2に示される第1実施例と同様の部分を有し、画像処理装置2の構成が図11に示されるようになる。
第3実施例に係る画像処理装置は、図11に示されるように、局所領域選択部21、補正量算出部22、局所階調補正部23、大域階調補正量算出部27、大域階調補正部28とを具備する。局所領域選択部21、補正量算出部22、局所階調補正部23は、第1実施例におけるそれらと同様である。大域階調補正量算出部27、大域階調補正部28は、大域階調補正処理を施す。局所階調補正処理は第1実施例における処理と同様であるので、ここでは説明を省略する。
大域階調補正処理では、局所階調補正部23から局所階調補正された画像が大域階調補正量算出部27と大域階調補正部28に出力される。大域階調補正量算出部27は、局所階調補正部23により局所的に補正された画像から、大域的な画質を改善するための大域階調補正量を算出する。大域階調補正部28は、大域階調補正量算出部27で算出される大域階調補正量に基づいて画像全体の階調を補正する。局所階調補正と大域階調補正が施された画像データは大域階調補正部28から画像出力部3に出力される。
大域階調補正量算出部27は、局所階調補正部23により局所的に画質が最適化された画像に対して、大域的に最適な画質を得るために補正処理のための補正量を決定する。大域補正としては、コントラスト補正やガンマ補正などの画像全体の画質を整える階調補正手法を用いることができる。大域階調補正量算出部27では、これらの大域画質補正の手法の補正量を算出する。例えば、コントラスト補正を用いる場合は、コントラスト補正の変換式の係数である補正量a、bを以下の式(14)、(15)により算出する。
ここで、HLoptとSHoptは、画像のハイライト領域とシャドー領域の最適な階調値を示す。また、HLとSHは、原画像中のハイライト領域とシャドー領域の輝度値である。ハイライト領域の輝度値HLは、以下の式(16)に示されるように、入力される原画像から作成した輝度画像I(x,y)に対して、ローパスフィルタLPF(x,y)を施した時の画像中の最大階調値である。シャドー領域の輝度値SHは、以下の式(17)に示されるように、入力される原画像から作成された輝度画像I(x,y)に対して、ローパスフィルタLPF(x,y)を施した時の画像中の最小階調値である。
なお、演算子*は、畳み込み演算を表す。また、関数max( )、関数min( )はそれぞれ括弧内に示される要素の最大値、最小値を関数値とする関数である。
大域階調補正量が算出されると、次に、大域階調補正部28において、局所階調補正された画像データに対して、大域階調補正量算出部27によって算出される補正量に基づいて大域階調補正が施される。大域補正としては、コントラスト補正やガンマ補正などの画像全体の画質を整える階調補正手法を用いることができる。コントラスト補正を用いる場合は、大域階調補正量算出部25により算出された補正量a,bを用いて以下の式(18)により各画素の階調を補正する。
ここで、iは、3原色(i=R,G,B)を表わし、Ii(x,y)は入力画素値、Oi(x,y)は出力画素値である。
コントラスト補正の場合、図13に示されるように、入力される原画像の階調値は最小階調値SHから最大階調値HLまで分布している。これをその画像にとって最適な階調値である、最小階調値SHoptから最大階調値HLoptまで分布するように、式(18)により変換する補正処理が行われる。
また、式(18)は、各原色R、G、Bを独立に処理する式になっているが、輝度成分のみの補正を行うことも可能である。輝度成分のみの補正を行う場合、RGB空間の階調値を輝度成分と色度成分に分ける。そのうち輝度成分のみを式(18)の入力値として補正する。補正後の輝度値と元の色度成分を再びRGB空間の階調値へと変換する。このようにすることで、輝度成分のみの補正を行うことができる。
次に、第3実施例による画像処理システムの動作について、図12のフローチャートを参照して説明する。ステップS21からステップS24までは第1実施例における全体動作と同じである。
まず、画像入力部1から入力された原画像は、局所領域選択部21に供給される。局所領域選択部21では、入力される原画像から補正対象の局所領域を選択する(ステップS21)。
次に、補正量算出部22において、入力される原画像の局所領域の階調補正量を算出する(ステップS22)。局所領域の階調補正量は、まず、周辺領域の輝度ヒストグラムの中央値や平均値、周辺領域の輝度の加重平均をとった加重平均輝度値、特徴経路上の参照点の加重平均輝度値などに基づいて、周辺領域の輝度値が算出される。算出される周辺領域の輝度値は、局所領域の階調補正量に変換される。この局所領域の階調補正量とは、入力される原画像の局所的な明るさやコントラストなどの画質要因により決定されるものであり、画像の局所領域の画質が最適となるように階調補正を行うための階調補正の強度を決める値である。
局所領域の階調補正量が算出されると、得られた局所階調補正量に基づいて該当する局所領域の階調を補正する(ステップS23)。局所領域を補正するための補正量がガンマ値として算出される場合、局所階調補正部22は、局所領域の階調値Ii(x,y)をOi(x,y)に変換する(i=R,G,B)。
この局所階調補正は、1領域以上ある局所領域に対して逐次的に行われる。局所領域の階調補正が全ての補正されるべき局所領域について行われたか否かを判定する(ステップS24)。未処理の局所領域が残っている場合(ステップS24−NO)、その領域に対して補正量の取得および階調補正を行う。全ての局所領域に対して処理が終了している場合(ステップS24−YES)、局所階調補正処理を終了し、大域階調補正処理に局所補正後の画像を供給する。大域階調補正処理への局所補正画像の出力は、各局所領域の補正処理が終了するごとに行ってもよい。
局所領域の階調補正処理が終了すると、大域階調補正が行われる。大域階調補正では、まず、画像の大域的な画質が判定される。コントラスト補正の場合、大域的な画質は、通常画像全体の輝度ヒストグラムを生成することにより求められる。即ち、図13に示されるように、入力画像の輝度ヒストグラムにより、最小輝度SHと最大輝度HLが求められる。最小輝度SHと最大輝度HLが算出されると、ハイライト領域の最適な輝度値HLoptとシャドー領域の最適な輝度値SHoptとを用いて、式(14)、(15)にしたがって補正量a、bが算出される(ステップS25)。
補正量a、bが算出されると、大域階調補正部28において、大域階調補正が行われる。コントラスト補正の場合、大域階調補正は、式(18)に基づいて行われる。大域階調補正が施された画像は、画像出力部3に供給されて、画像補正処理は終了する。
以上のように、局所領域および大域における階調補正処理は行われる。ここで以上の処理を適用した例を示す。適用したシステムは、第1実施例と同様に、画像入力部1としてCCDカメラを、画像処理装置2としてパーソナル・コンピュータを、画像出力部3としてディスプレイを備えている。第1実施例のパーソナル・コンピュータのプログラムに大域階調補正用のプログラム即ち、大域階調補正量算出部27及び大域階調補正部28になるプログラムが追加搭載されている。
第3実施例として図14のような構成を述べたが、この構成に記憶装置5と部分領域輝度値格納部51を加え、画像入力部1と局所領域選択部21の間に部分領域輝度算出部25を加え、補正量算出部22を補正量算出部26に置き換えるてもよい。
CCDカメラから図15Aに示す画像が入力されたとする。このとき、第1実施例と同様にまず局所階調補正が入力される原画像に施される。この局所階調補正処理が施された結果、画像によっては図16Aのように、過度に局所的な階調補正が施され、画像全体としての画質が劣る結果となる場合がある。この場合では、局所階調補正により局所的な画質は改善しているが、画像のコントラストが低下する結果となった。ここでは、大域階調補正として式(18)に示されるコントラスト補正を用いて局所階調補正後の画像を階調補正する。まず、画像全体の画素の階調値から式(14)、(15)に基づいて補正量a、bが算出される。次に、式(18)のコントラスト補正式に基づいて、画像のコントラストが補正される。その結果、図16Bに示されるように、大域的な画質が改善された画像が得られる。この補正された画像は、入力された原画像と比較しても、暗部の視認性が改善されている。即ち、局所的な画質も改善されていることが判る。以上のように処理された後の画像をディスプレイに表示し処理を終了する。
このように、局所階調補正を施した後、大域階調補正を施すことにより、局所的に画質が改善された画像の大域的な画質が改善され、画像全体の画質を損なうことなく局所領域の画質を改善することができる。
本発明によれば、逐次的に処理され、処理の中間結果を保存する必要がないため、少ない記憶容量で処理することができる画像処理装置、画像補正処理方法、および画像補正処理用プログラムを提供することができる。
また、本発明によれば、局所的に階調補正をした結果の画像に対して、大域的な階調補正を施すため、補正画像を局所的および大域的に適切な画質にする画像処理装置、画像補正処理方法、および画像補正処理用プログラムを提供することができる。
上記開示と関連して、以下の事項を開示する。
[項33]
入力画像から少なくとも1つの補正対象の局所領域を選択するステップと、前記局所領域は少なくとも1画素を含み、
前記補正対象の局所領域に対する階調補正量を算出するステップと、
前記階調補正量に基づいて前記局所領域の階調値を補正する階調補正を行い局所階調補正画像を生成するステップと
を具備するソフトウェアプロダクトのためのコードを記録するコンピュータ読み取り可能なソフトウエアプロダクト。
[項34]項33に記載のソフトウェアプロダクトにおいて、
前記階調補正量を算出するステップは、
前記局所領域の周辺領域の階調値を算出するステップと、
前記周辺領域の算出された階調値を用いて前記階調補正量を算出するステップと
を具備するソフトウェアプロダクト。
[項35]項33に記載のソフトウェアプロダクトにおいて、
前記画像処理方法は、
前記入力画像の部分領域ごとの代表階調値を算出するステップを更に具備し、
前記前記階調補正量を算出するステップは、
前記補正対象の局所領域の近傍に位置する少なくとも1つの前記部分領域の前記代表階調値を用いて前記補正対象の局所領域の周辺領域の階調値を算出するステップと、
前記周辺領域の算出された階調値を用いて前記階調補正量を算出するステップと
を具備するソフトウェアプロダクト。
[項36]項33乃至35のいずれかに記載のソフトウェアプロダクトにおいて、
前記画像処理方法は、
前記局所階調補正画像の大域補正量を算出するステップと、
前記大域補正量に基づいて前記局所階調補正画像に大域階調を補正する階調補正を行い大域階調補画像を生成するステップと
を更に具備するソフトウェアプロダクト。
[項37]項33乃至35のいずれかに記載のソフトウェアプロダクトにおいて、
前記画像処理方法は、
前記入力画像を提供するステップと、
前記局所階調補正画像または前記大域階調補正画像を出力するステップと
を更に具備するソフトウェアプロダクト。
[項38]項33乃至37のいずれかに記載のソフトウェアプロダクトにおいて、
前記階調値は、輝度値、またはスペクトル成分で表現された階調値である
ソフトウェアプロダクト。
[項39]項33乃至38のいずれかに記載のソフトウェアプロダクトにおいて、
前記画像処理方法は、
前記階調補正を、前記補正対象の局所領域の広さを変えながら、あるいは前記補正対象の局所領域の広さを保ちながら、前記補正対象の局所領域に対して、複数回繰り返えすステップ
を更に具備するソフトウェアプロダクト。
[項40]項33乃至38のいずれかに記載のソフトウェアプロダクトにおいて、
前記局所領域を選択するステップは、複数の局所領域を選択するステップを具備し、
前記画像処理方法は、
前記階調補正を、前記複数の選択された局所領域に対して行うステップを更に具備するソフトウェアプロダクト。
[項41]項34に記載のソフトウェアプロダクトにおいて、
前記階調補正量を算出するステップは、前記周辺領域の階調値とガウシアン重みの加重平均輝度値、または前記周辺領域の平均輝度値を前記周辺領域の前記階調値として算出するステップ
を具備するソフトウェアプロダクト。
[項42]項34に記載のソフトウェアプロダクトにおいて、
前記階調補正量を算出するステップは、
局所領域と特徴点を結ぶ特徴経路線を1個以上設定し、前記特徴経路線のそれぞれで1個以上の経路特徴点を求め、前記経路特徴点の階調値、又は前記経路特徴点の加重平均輝度値を前記周辺領域の前記階調値として算出するステップ
を具備するソフトウェアプロダクト。
[項43]項35記載のソフトウェアプロダクトにおいて、
前記周辺領域の階調値を算出するステップは、
前記補正対象となる局所領域とその近傍に位置する少なくとも1つの前記部分領域との距離の比と前記部分領域の代表階調の積を用いて周辺領域の階調を算出するステップ
を具備するソフトウェアプロダクト。
[項44]項35に記載のソフトウェアプロダクトにおいて、
前記代表階調値は、前記部分領域に含まれる全てまたは一部の画素の平均値、全てまたは一部の画素の中央値である
ソフトウェアプロダクト。
[項45]項33乃至44のいずれか記載のソフトウェアプロダクトにおいて、
前記階調補正量を算出するステップは、
シャドー領域がハイライト領域より強い補正を施されるように階調補正量を算出するステップ
を具備するソフトウェアプロダクト。
[項46]項33乃至44のいずれかに記載のソフトウェアプロダクトにおいて、
前記階調補正量を算出するステップは、
前記局所領域の周辺の領域輝度と画像のハイライト領域の輝度とを用いて局所領域の階調補正量を算出するステップ
を具備するソフトウェアプロダクト。
[項47]項33乃至46のいずれかに記載のソフトウェアプロダクトにおいて、
前記階調補正量を算出するステップは、
非線形関数を用いて前記階調補正を行うステップ
を具備するソフトウェアプロダクト。
[項48]項36に記載のソフトウェアプロダクトにおいて、
前記大域階調補正は、コントラスト強調を含む
ソフトウェアプロダクト。

Claims (32)

  1. 入力画像から少なくとも1つの補正対象の局所領域を選択する局所領域選択部と、前記局所領域は少なくとも1画素を含み、
    前記補正対象の局所領域に対する階調補正量を算出する補正量算出部と、
    前記階調補正量に基づいて前記局所領域の階調値を補正する階調補正を行い局所階調補正画像を生成する局所階調補正部と
    を具備する画像処理システム。
  2. 請求項1に記載の画像処理システムにおいて、
    前記補正量算出部は、
    前記局所領域の周辺領域の階調値を算出する周辺領域階調値算出部と、
    前記周辺領域の算出された階調値を用いて前記階調補正量を算出する局所補正量変換部と
    を具備する画像処理システム。
  3. 請求項1に記載の画像処理システムにおいて、
    前記入力画像の部分領域ごとの代表階調値を算出する部分領域輝度算出部を更に具備し、
    前記補正量算出部は、
    前記補正対象の局所領域の周辺領域の階調値を、前記補正対象の局所領域の近傍に位置する少なくとも1つの前記部分領域の前記代表階調値を用いて算出する部分領域参照型周辺領域輝度算出部と、
    前記周辺領域の算出された階調値を用いて前記階調補正量を算出する局所補正量変換部と
    を具備する画像処理システム。
  4. 請求項1乃至3のいずれかに記載の画像処理システムにおいて、
    前記局所階調補正画像の大域補正量を算出する大域補正量算出部と、
    前記大域補正量に基づいて前記局所階調補正画像に大域階調を補正する階調補正を行い大域階調補画像を生成する大域補正部と
    を更に具備する画像処理システム。
  5. 請求項1乃至4のいずれかに記載の画像処理システムにおいて、
    前記入力画像を提供する画像入力部と、
    前記局所階調補正画像または前記大域階調補正画像を出力する画像出力部と
    を更に具備する画像処理システム。
  6. 請求項1乃至5のいずれかに記載の画像処理システムにおいて、
    前記階調値は、輝度値、またはスペクトル成分で表現された階調値である
    画像処理システム。
  7. 請求項1乃至6のいずれかに記載の画像処理システムにおいて、
    前記階調補正が、前記補正対象の局所領域の広さを変えながら、あるいは前記補正対象の局所領域の広さを保ちながら、前記補正対象の局所領域に対して、複数回繰り返される
    画像処理システム。
  8. 請求項1乃至6のいずれかに記載の画像処理システムにおいて、
    前記局所領域選択部は、複数の局所領域を選択し、
    前記階調補正が、前記複数の選択された局所領域に対して施される
    画像処理システム。
  9. 請求項2に記載の画像処理システムにおいて、
    前記周辺領域階調値算出部は、前記周辺領域の階調値とガウシアン重みの加重平均輝度値、または前記周辺領域の平均輝度値を前記周辺領域の前記階調値として算出する
    画像処理システム。
  10. 請求項2に記載の画像処理システムにおいて、
    前記周辺領域階調値算出部は、
    局所領域と特徴点を結ぶ特徴経路線を1個以上設定し、前記特徴経路線のそれぞれで1個以上の経路特徴点を求め、前記経路特徴点の階調値、又は前記経路特徴点の加重平均輝度値を前記周辺領域の前記階調値として算出する
    画像処理システム。
  11. 請求項3に記載の画像処理システムにおいて、
    前記部分領域参照型周辺領域輝度算出部は、
    前記補正対象となる局所領域とその近傍に位置する少なくとも1つの前記部分領域との距離の比と前記部分領域の代表階調の積を用いて周辺領域の階調を算出する
    画像処理システム。
  12. 請求項3に記載の画像処理システムにおいて、
    前記代表階調値は、前記部分領域に含まれる全てまたは一部の画素の平均値、全てまたは一部の画素の中央値である
    画像処理システム。
  13. 請求項1乃至12のいずれかに記載の画像処理システムにおいて、
    前記補正量算出部は、シャドー領域がハイライト領域より強い補正を施されるように階調補正量を算出する
    画像処理システム。
  14. 請求項1乃至12のいずれかに記載の画像処理システムにおいて、
    前記補正量算出部は、局所領域の周辺の領域輝度と画像のハイライト領域の輝度とを用いて局所領域の階調補正量を算出する
    画像処理システム。
  15. 請求項1乃至14のいずれかに記載の画像処理システムにおいて、
    前記局所階調補正部は、非線形関数を用いて前記階調補正を行う
    画像処理システム。
  16. 請求項4に記載の画像処理システムにおいて、
    前記大域階調補正は、コントラスト強調を含む
    画像処理システム。
  17. 入力画像から少なくとも1つの補正対象の局所領域を選択するステップと、前記局所領域は少なくとも1画素を含み、
    前記補正対象の局所領域に対する階調補正量を算出するステップと、
    前記階調補正量に基づいて前記局所領域の階調値を補正する階調補正を行い局所階調補正画像を生成するステップと
    を具備する画像処理方法。
  18. 請求項17に記載の画像処理方法において、
    前記階調補正量を算出するステップは、
    前記局所領域の周辺領域の階調値を算出するステップと、
    前記周辺領域の算出された階調値を用いて前記階調補正量を算出するステップと
    を具備する画像処理方法。
  19. 請求項17に記載の画像処理方法において、
    前記入力画像の部分領域ごとの代表階調値を算出するステップを更に具備し、
    前記前記階調補正量を算出するステップは、
    前記補正対象の局所領域の近傍に位置する少なくとも1つの前記部分領域の前記代表階調値を用いて前記補正対象の局所領域の周辺領域の階調値を算出するステップと、
    前記周辺領域の算出された階調値を用いて前記階調補正量を算出するステップと
    を具備する画像処理方法。
  20. 請求項17乃至19のいずれかに記載の画像処理方法において、
    前記局所階調補正画像の大域補正量を算出するステップと、
    前記大域補正量に基づいて前記局所階調補正画像に大域階調を補正する階調補正を行い大域階調補画像を生成するステップと
    を更に具備する画像処理方法。
  21. 請求項17乃至19のいずれかに記載の画像処理方法において、
    前記入力画像を提供するステップと、
    前記局所階調補正画像または前記大域階調補正画像を出力するステップと
    を更に具備する画像処理方法。
  22. 請求項17乃至21のいずれかに記載の画像処理方法において、
    前記階調値は、輝度値、またはスペクトル成分で表現された階調値である
    画像処理方法。
  23. 請求項17乃至22のいずれかに記載の画像処理方法において、
    前記階調補正を、前記補正対象の局所領域の広さを変えながら、あるいは前記補正対象の局所領域の広さを保ちながら、前記補正対象の局所領域に対して、複数回繰り返えすステップ
    を更に具備する画像処理方法。
  24. 請求項17乃至22のいずれかに記載の画像処理方法において、
    前記局所領域を選択するステップは、複数の局所領域を選択するステップを具備し、
    前記階調補正を、前記複数の選択された局所領域に対して行うステップを更に具備する画像処理方法。
  25. 請求項18に記載の画像処理方法において、
    前記階調補正量を算出するステップは、前記周辺領域の階調値とガウシアン重みの加重平均輝度値、または前記周辺領域の平均輝度値を前記周辺領域の前記階調値として算出するステップ
    を具備する画像処理方法。
  26. 請求項18に記載の画像処理方法において、
    前記階調補正量を算出するステップは、
    局所領域と特徴点を結ぶ特徴経路線を1個以上設定し、前記特徴経路線のそれぞれで1個以上の経路特徴点を求め、前記経路特徴点の階調値、又は前記経路特徴点の加重平均輝度値を前記周辺領域の前記階調値として算出するステップ
    を具備する画像処理方法。
  27. 請求項19記載の画像処理方法において、
    前記周辺領域の階調値を算出するステップは、
    前記補正対象となる局所領域とその近傍に位置する少なくとも1つの前記部分領域との距離の比と前記部分領域の代表階調の積を用いて周辺領域の階調を算出するステップ
    を具備する画像処理方法。
  28. 請求項19に記載の画像処理方法において、
    前記代表階調値は、前記部分領域に含まれる全てまたは一部の画素の平均値、全てまたは一部の画素の中央値である
    画像処理方法。
  29. 請求項17乃至28のいずれか記載の画像処理方法において、
    前記階調補正量を算出するステップは、
    シャドー領域がハイライト領域より強い補正を施されるように階調補正量を算出するステップ
    を具備する画像処理方法。
  30. 請求項17乃至28のいずれかに記載の画像処理方法において、
    前記階調補正量を算出するステップは、
    前記局所領域の周辺の領域輝度と画像のハイライト領域の輝度とを用いて局所領域の階調補正量を算出するステップ
    を具備する画像処理方法。
  31. 請求項17乃至30のいずれかに記載の画像処理方法において、
    前記階調補正量を算出するステップは、
    非線形関数を用いて前記階調補正を行うステップ
    を具備する画像処理方法。
  32. 請求項20に記載の画像処理方法において、
    前記大域階調補正は、コントラスト強調を含む
    画像処理方法。
JP2006531980A 2004-09-01 2005-09-01 画像補正処理システム及び画像補正処理方法 Expired - Fee Related JP4577621B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2004254901 2004-09-01
JP2004254901 2004-09-01
PCT/JP2005/015995 WO2006025486A1 (ja) 2004-09-01 2005-09-01 画像補正処理システム及び画像補正処理方法

Publications (2)

Publication Number Publication Date
JPWO2006025486A1 true JPWO2006025486A1 (ja) 2008-05-08
JP4577621B2 JP4577621B2 (ja) 2010-11-10

Family

ID=36000135

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006531980A Expired - Fee Related JP4577621B2 (ja) 2004-09-01 2005-09-01 画像補正処理システム及び画像補正処理方法

Country Status (5)

Country Link
US (1) US7949201B2 (ja)
EP (1) EP1788795A4 (ja)
JP (1) JP4577621B2 (ja)
CN (1) CN101010937A (ja)
WO (1) WO2006025486A1 (ja)

Families Citing this family (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8103119B2 (en) * 2005-06-20 2012-01-24 Nikon Corporation Image processing device, image processing method, image processing program product, and image-capturing device
US7477777B2 (en) * 2005-10-28 2009-01-13 Aepx Animation, Inc. Automatic compositing of 3D objects in a still frame or series of frames
JP4632992B2 (ja) * 2006-03-30 2011-02-16 株式会社デンソーアイティーラボラトリ 画像補正方法
JP4816569B2 (ja) * 2006-07-06 2011-11-16 セイコーエプソン株式会社 画像表示システム
KR100809347B1 (ko) * 2006-07-31 2008-03-05 삼성전자주식회사 쉐도우 영역 보상 방법 및 장치
JP2008118383A (ja) * 2006-11-02 2008-05-22 Matsushita Electric Ind Co Ltd デジタルカメラ
JP4850281B2 (ja) * 2007-03-13 2012-01-11 オリンパス株式会社 画像信号処理装置、画像信号処理プログラム
WO2008136629A1 (en) * 2007-05-03 2008-11-13 Mtekvision Co., Ltd. Image brightness controlling apparatus and method thereof
KR100901353B1 (ko) * 2007-05-25 2009-06-05 주식회사 코아로직 영상 처리 장치 및 그 방법
JP4973372B2 (ja) * 2007-08-06 2012-07-11 株式会社ニコン 画像処理装置、撮像装置および画像処理プログラム
CN100578179C (zh) * 2007-08-21 2010-01-06 友达光电(苏州)有限公司 测量发光画面亮度均匀性的方法
JP4525719B2 (ja) * 2007-08-31 2010-08-18 カシオ計算機株式会社 階調補正装置、階調補正方法、及び、プログラム
JP5053802B2 (ja) * 2007-11-05 2012-10-24 オリンパス株式会社 信号処理装置及び信号処理プログラム
CN101431637B (zh) * 2007-11-06 2013-06-19 奇美电子股份有限公司 帧数据处理的装置及方法
EP2299695A4 (en) * 2008-07-17 2012-08-29 Nikon Corp IMAGING DEVICE, IMAGE PROCESSING PROGRAM, IMAGE PROCESSING DEVICE, AND IMAGE PROCESSING METHOD
CN102265621B (zh) 2008-12-26 2014-07-30 日本电气株式会社 图像处理设备、图像处理方法以及存储介质
JP5312171B2 (ja) * 2009-04-21 2013-10-09 キヤノン株式会社 画像処理装置および方法
US8391634B1 (en) * 2009-04-28 2013-03-05 Google Inc. Illumination estimation for images
JP5299867B2 (ja) * 2009-06-30 2013-09-25 日立コンシューマエレクトロニクス株式会社 画像信号処理装置
CN102484675B (zh) * 2009-07-31 2015-03-25 夏普株式会社 灰度调整装置、图像显示装置、以及电视接收机
WO2011030383A1 (ja) * 2009-09-10 2011-03-17 株式会社 東芝 画像処理装置
CN102129678A (zh) * 2010-01-12 2011-07-20 鸿富锦精密工业(深圳)有限公司 影像特征模型建立***及方法以及应用其的影像处理***
JP2011228807A (ja) * 2010-04-15 2011-11-10 Nikon Corp 画像処理プログラム、画像処理装置、および画像処理方法
JP2012019392A (ja) * 2010-07-08 2012-01-26 Nikon Corp 画像処理装置、電子カメラおよび画像処理プログラム
JP5991486B2 (ja) * 2010-08-04 2016-09-14 日本電気株式会社 画像処理方法、画像処理装置及び画像処理プログラム
US8798393B2 (en) 2010-12-01 2014-08-05 Google Inc. Removing illumination variation from images
JP5488530B2 (ja) * 2011-05-23 2014-05-14 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
CN102231206B (zh) * 2011-07-14 2012-11-28 浙江理工大学 适用于汽车辅助驾驶***的彩色夜视图像亮度增强方法
JP2013045316A (ja) * 2011-08-25 2013-03-04 Sanyo Electric Co Ltd 画像処理装置及び画像処理方法
JP5948203B2 (ja) * 2011-10-12 2016-07-06 富士フイルム株式会社 内視鏡システム及びその作動方法
CN102402918B (zh) * 2011-12-20 2014-07-09 深圳Tcl新技术有限公司 改善画面画质的方法及lcd显示器
US9202281B2 (en) * 2012-03-17 2015-12-01 Sony Corporation Integrated interactive segmentation with spatial constraint for digital image analysis
US8873812B2 (en) * 2012-08-06 2014-10-28 Xerox Corporation Image segmentation using hierarchical unsupervised segmentation and hierarchical classifiers
US11113821B2 (en) * 2017-12-20 2021-09-07 Duelight Llc System, method, and computer program for adjusting image contrast using parameterized cumulative distribution functions
TWI476754B (zh) * 2013-06-25 2015-03-11 Mstar Semiconductor Inc 應用於顯示裝置之校正系統及校正方法
US8958658B1 (en) * 2013-09-10 2015-02-17 Apple Inc. Image tone adjustment using local tone curve computation
US9251574B2 (en) * 2013-12-17 2016-02-02 Adobe Systems Incorporated Image compensation value computation
JP6624061B2 (ja) 2014-09-29 2019-12-25 日本電気株式会社 画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体
CN105760884B (zh) * 2016-02-22 2019-09-10 北京小米移动软件有限公司 图片类型的识别方法及装置
EP3291173A1 (en) 2016-09-02 2018-03-07 Casio Computer Co., Ltd. Diagnosis assisting device, image processing method in diagnosis assisting device, and program
CN107820067B (zh) * 2017-10-29 2019-09-20 苏州佳世达光电有限公司 多投影画面的拼接方法及拼接装置
CN110120021B (zh) * 2019-05-05 2021-04-09 腾讯科技(深圳)有限公司 图像亮度的调整方法、装置、存储介质及电子装置
TWI719645B (zh) * 2019-09-20 2021-02-21 瑞昱半導體股份有限公司 影像處理電路與相關的影像處理方法
CN112422941A (zh) * 2020-11-11 2021-02-26 北京德为智慧科技有限公司 显示器的伽玛调校方法、装置、电子设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07296160A (ja) * 1994-04-27 1995-11-10 Matsushita Electron Corp 画像補正方法
JP2000228747A (ja) * 1998-12-03 2000-08-15 Olympus Optical Co Ltd 画像処理装置
JP2002290707A (ja) * 2001-03-26 2002-10-04 Olympus Optical Co Ltd 画像処理装置
JP2003209857A (ja) * 2002-01-11 2003-07-25 Fuji Photo Film Co Ltd 画像処理装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05176220A (ja) 1991-12-25 1993-07-13 Matsushita Electric Ind Co Ltd 自動露光制御装置
EP0613294B1 (en) * 1993-02-24 1998-10-28 Matsushita Electric Industrial Co., Ltd. Gradation correction device and image sensing device therewith
JP3501252B2 (ja) * 1995-06-16 2004-03-02 三菱電機株式会社 階調補正装置
US5991456A (en) 1996-05-29 1999-11-23 Science And Technology Corporation Method of improving a digital image
JP2951909B2 (ja) * 1997-03-17 1999-09-20 松下電器産業株式会社 撮像装置の階調補正装置及び階調補正方法
NL1006371C2 (nl) 1997-06-20 1998-12-22 Koninkl Kpn Nv Inrichting en werkwijze voor het testen van de bereikbaarheid van ten minste een gebruiker van een telecommunicatienetwerk.
JP3576812B2 (ja) 1998-06-11 2004-10-13 富士写真フイルム株式会社 画像処理装置及び画像処理方法
JP3714657B2 (ja) * 1999-05-12 2005-11-09 パイオニア株式会社 階調補正装置
US6650774B1 (en) * 1999-10-01 2003-11-18 Microsoft Corporation Locally adapted histogram equalization
JP3902894B2 (ja) 1999-10-15 2007-04-11 理想科学工業株式会社 画像処理装置及び画像処理方法
US6813041B1 (en) 2000-03-31 2004-11-02 Hewlett-Packard Development Company, L.P. Method and apparatus for performing local color correction
US6915024B1 (en) 2000-09-29 2005-07-05 Hewlett-Packard Development Company, L.P. Image sharpening by variable contrast mapping
US7251056B2 (en) * 2001-06-11 2007-07-31 Ricoh Company, Ltd. Image processing apparatus, image processing method and information recording medium
JP3705180B2 (ja) * 2001-09-27 2005-10-12 セイコーエプソン株式会社 画像表示システム、プログラム、情報記憶媒体および画像処理方法
JP3900972B2 (ja) * 2002-03-04 2007-04-04 三菱電機株式会社 コントラスト強調方式
JP4096613B2 (ja) 2002-05-10 2008-06-04 松下電器産業株式会社 画像処理方法及び画像処理装置
WO2005027041A1 (ja) * 2003-09-11 2005-03-24 Matsushita Electric Industrial Co., Ltd. 視覚処理装置、視覚処理方法、視覚処理プログラムおよび半導体装置
JP4551836B2 (ja) * 2005-07-29 2010-09-29 株式会社東芝 映像信号処理装置及び映像信号処理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07296160A (ja) * 1994-04-27 1995-11-10 Matsushita Electron Corp 画像補正方法
JP2000228747A (ja) * 1998-12-03 2000-08-15 Olympus Optical Co Ltd 画像処理装置
JP2002290707A (ja) * 2001-03-26 2002-10-04 Olympus Optical Co Ltd 画像処理装置
JP2003209857A (ja) * 2002-01-11 2003-07-25 Fuji Photo Film Co Ltd 画像処理装置

Also Published As

Publication number Publication date
US20070248282A1 (en) 2007-10-25
CN101010937A (zh) 2007-08-01
EP1788795A4 (en) 2010-08-04
WO2006025486A1 (ja) 2006-03-09
JP4577621B2 (ja) 2010-11-10
EP1788795A1 (en) 2007-05-23
US7949201B2 (en) 2011-05-24

Similar Documents

Publication Publication Date Title
JP4577621B2 (ja) 画像補正処理システム及び画像補正処理方法
US8411991B2 (en) Image processing apparatus, image processing method, and program
JP5159208B2 (ja) 映像補正方法及び装置
JP4894595B2 (ja) 画像処理装置および方法、並びに、プログラム
JP4210577B2 (ja) 選択的空間フィルタを使用するディジタル画像の階調及び空間特性の向上方法
US7570390B2 (en) Image processing device and method
US8325198B2 (en) Color gamut mapping and brightness enhancement for mobile displays
JP5299867B2 (ja) 画像信号処理装置
JP4214457B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
EP1139284B1 (en) Method and apparatus for performing local color correction
JPWO2006137361A1 (ja) 画像処理装置、画像処理方法、画像処理プログラム製品、および撮像装置
JP5392560B2 (ja) 画像処理装置および画像処理方法
JP2006013558A (ja) 画像処理装置、画像処理プログラム
JP2011040088A (ja) 輝度変化に適応してノイズをフィルタリングする方法及びシステム
JP5235759B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2004326082A5 (ja)
JP6335614B2 (ja) 画像処理装置、その制御方法、及びプログラム
JP2006114006A (ja) 階調変換装置、プログラム、電子カメラ、およびその方法
JP4345026B2 (ja) 画像処理プログラムおよび画像処理装置
JP4632100B2 (ja) 画像処理装置、画像処理方法、記録媒体、およびプログラム
JP4281786B2 (ja) 画像処理プログラムおよび画像処理装置
JP2010278937A (ja) 画像信号処理装置
JP4748702B2 (ja) 輝度ノイズフィルタリング方法及び輝度ノイズフィルタリングシステム
JP2008227955A (ja) 画像処理装置、画像処理方法および画像処理システム
JP2007193844A (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100730

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100812

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130903

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4577621

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees