JP6559229B2 - 画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体 - Google Patents

画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体 Download PDF

Info

Publication number
JP6559229B2
JP6559229B2 JP2017516559A JP2017516559A JP6559229B2 JP 6559229 B2 JP6559229 B2 JP 6559229B2 JP 2017516559 A JP2017516559 A JP 2017516559A JP 2017516559 A JP2017516559 A JP 2017516559A JP 6559229 B2 JP6559229 B2 JP 6559229B2
Authority
JP
Japan
Prior art keywords
degree
deterioration
image processing
value
reference pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017516559A
Other languages
English (en)
Other versions
JPWO2016178326A1 (ja
Inventor
鈴木 博
博 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2016178326A1 publication Critical patent/JPWO2016178326A1/ja
Application granted granted Critical
Publication of JP6559229B2 publication Critical patent/JP6559229B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20072Graph-based image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Color Image Communication Systems (AREA)

Description

本発明は、例えば霞、靄又は霧等の影響によりコントラスト又は色彩等の画質が損なわれた画像の補正を行う画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体に関する。
大気中に発生する霞、靄、霧等の影響によって画像のコントラスト又は色彩等の画質が失われることがある。例えば、屋外において遠方の山等の風景写真を撮影する場合がある。この撮影で遠方の山に霞が掛かっていると、この状況で撮影された画像の品位は損なわれてしまう。この場合、遠方の山に対する視認性は低下する。
このような問題を解決する技術として例えば日本国特許第4982475号公報がある。この日本国特許第4982475号公報は、画像の局所領域毎に輝度の最大、最小を算出し、これら最大、最小の差が大きくなるように適応的なコントラスト補正を行うことを開示する。この日本国特許第4982475号公報であれば、霞のない領域と霞のある領域とが混在する画像においても、十分なコントラスト補正を行うことができる。
日本国特許第4982475号公報は、局所領域毎の輝度分布に基づき注目画素に対するコントラスト補正係数を決定する。このコントラストの補正では、例えば輝度のヒストグラムの伸張又は平坦化が用いられる。コントラスト補正が行わるときに局所領域内に霞んでいる領域と霞んでいない領域との両領域が混在すると、局所領域毎の輝度分布には、両領域の輝度情報が含まれる。このため、単純なヒストグラム伸張又は平坦化では、期待通りのコントラスト補正をすることが困難になる。具体的には、両領域の境界で補正の効果が小さくなったり、補正後に輝度ムラが発生する可能性がある。
本発明は前記の事情に鑑みてなされたものであり、局所領域毎に適切なコントラスト補正を可能とする画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体を提供することを目的とする。
本発明の第1の態様に係る画像処理装置は、画像データの画素毎の劣化度を検出する劣化度検出部と、前記劣化度に基づいて前記画像データの基準画素とその周辺の近傍画素とを含む所定領域内における前記劣化度の変化の度合いを判定する劣化度変化判定部と、前記劣化度の変化の度合いに基づいて前記基準画素の劣化を補正するための補正値を設定する補正値設定部と、少なくとも前記補正値に基づいて前記基準画素のデータを補正する補正処理部とを具備し、前記劣化度は、記画像データの高輝度かつ低彩度である度合いである。
本発明の第2の態様に係る撮像装置は、前記画像処理装置と、前記画像データを取得する撮像部とを具備する。
本発明の第3の態様に係る画像処理方法は、画像データの画素毎の劣化度を検出することと、前記劣化度に基づいて前記画像データの基準画素とその周辺の近傍画素とを含む所定領域内における前記劣化度の変化の度合いを判定することと、前記劣化度の変化の度合いに基づいて前記基準画素の劣化を補正するための補正値を設定することと、前記補正値に基づいて前記基準画素のデータを補正することとを具備し、前記劣化度は、記画像データの高輝度かつ低彩度である度合いである。
本発明の第4の態様に係る画像処理プログラムを記憶した記憶媒体は、コンピュータに、画像データの画素毎の劣化度を検出することと、前記劣化度に基づいて前記画像データの基準画素とその周辺の近傍画素とを含む所定領域内における前記劣化度の変化の度合いを判定することと、前記劣化度の変化の度合いに基づいて前記基準画素の劣化を補正するための補正値を設定することと、前記補正値に基づいて前記基準画素のデータを補正することとを実行させ、前記劣化度は、記画像データの高輝度かつ低彩度である度合いである画像処理装置の画像処理プログラムを記憶している。
本発明によれば、局所領域毎に適切なコントラスト補正ができる画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体を提供できる。
図1は、本発明に係る画像処理装置を備えた撮像装置の第1の実施の形態を示す全体構成図である。 図2は、霞補正部を示す具体的なブロック構成図である。 図3Aは、画像データの各画素の霞成分H(x,y)を推定するための手法を説明するための模式図である。 図3Bは、霞成分H(x,y)の画像を示す図である。 図4Aは、入力画像データIに設定されるある局所領域Rを示す図である。 図4Bは、霞成分H(x,y)の画像Haに設定される局所領域Rを示す図である。 図5は、霞成分H(x,y)に基づく輝度ヒストグラムを生成するときのカウント値を得るためのガウシアン関数を示す図である。 図6は、霞成分H(x,y)の輝度ヒストグラムを示す図である。 図7Aは、ヒストグラム伸張前のヒストグラムの有効輝度範囲E1を示す図である。 図7Bは、ヒストグラム伸張を行うときの線形関係を示す図である。 図7Cは、ヒストグラム伸張後のヒストグラムの有効輝度範囲E2を示す図である。 図8は、ヒストグラム平坦化を実現するための累積ヒストグラムを示す図である。 図9は、撮影動作フローチャートを示す図である。 図10は、霞補正フローチャートを示す図である。 図11は、コントラスト補正された画像(補正画像)の一例を示す図である。 図12は、本発明に係る画像処理装置を備えた撮像装置の第2の実施の形態における霞補正部を示す構成図である。
[第1の実施の形態]
以下、本発明の第1の実施の形態について図面を参照して説明する。
図1は画像処理装置を適用した撮像装置のブロック構成図を示す。レンズ系100は、被写体からの光像を結像するもので、フォーカスレンズ及び絞り101等を含む。このレンズ系100は、オートフォーカス用モータ(AFモータ)103を備えている。AFモータ103の駆動によりフォーカスレンズは、光軸Pに沿って移動する。AFモータ103は、レンズ制御部107により駆動制御される。
レンズ系100の光軸上には、撮像センサ102が設けられている。撮像センサ102は、レンズ系100からの光像を受光し、RGBのアナログ映像信号を出力する。この撮像センサ102の出力端には、カメラ本体300内のA/D変換器104が接続されている。A/D変換器104は、撮像センサ102から出力されるアナログ映像信号をデジタル映像信号に変換する。
また、カメラ本体300には、マイクロコンピュータ等から成る主制御部112が搭載されている。この主制御部112には、バス301を介してA/D変換器104と、バッファ105と、測光評価部106と、レンズ制御部107と、画像処理部108と、霞補正部109と、圧縮部110と、出力部111とが接続されている。この主制御部112は、バス301を介して測光評価部106と、レンズ制御部107と、画像処理部108と、霞補正部109と、圧縮部110と、出力部111とをそれぞれ制御する。
バッファ105は、A/D変換器104から転送されるデジタル映像信号を一時的に保存する。
測光評価部106は、バッファ105に保存されているデジタル映像信号から撮像センサ102に入射する光像を測光してその評価を行い、この測光評価と主制御部112からの制御信号とに基づいてレンズ系100の絞り101を制御し、かつ撮像センサ102から出力されるアナログ映像信号の出力レベル等を調整する。
画像処理部108は、バッファ105に保存されているデジタル映像信号に対して公知の補間処理、WB補正処理、ノイズ低減処理などの画像処理を行い、当該画像処理後のデジタル映像信号を画像データとして出力する。
霞補正部109は、画像処理部108から転送された画像データに対して例えば霞の影響によりコントラストが低下した領域に対してコントラスト補正を行う。霞補正部109の詳細については後で説明する。
圧縮部110は、霞補正部109から転送された画像データに対して公知の圧縮処理、例えばJPEG、MPEG等の圧縮処理を行う。
出力部111は、霞補正部109でコントラスト補正された画像データに基づいて図示しない表示部に映像を表示出力したり、圧縮部110で圧縮された画像データを図示しない記録媒体(例えばメモリカード)に記録出力したりする。
また、主制御部112には、外部I/F部113が接続されている。この外部I/F部113は、電源スイッチ、シャッターボタン、又は撮影時の各種モードの切り替えなどを行うためのインターフェースである。
なお、図1では、A/D変換器104と、バッファ105と、測光評価部106と、レンズ制御部107と、画像処理部108と、霞補正部109と、圧縮部110と、出力部111とは、バス301を介して主制御部112に接続されているが、これに限ることはない。例えば、A/D変換器104と、測光評価部106と、レンズ制御部107と、画像処理部108と、霞補正部109と、圧縮部110と、出力部111とは、直列接続されてもよい。この場合、A/D変換器104から出力されるデジタル映像信号は、バッファ105から測光評価部106、レンズ制御部107、画像処理部108、霞補正部109、圧縮部110、出力部111にこの順で転送される。
次に、霞補正部109について説明する。図2は霞補正部109の具体的なブロック構成図を示す。同図中において、太い実線の矢印はデジタル映像信号の流れを示し、細い実線の矢印は制御信号の流れを示し、点線の矢印はその他の信号の流れを示す。
霞補正部109は、主制御部112の制御によって図示しないプログラムメモリに記憶された画像処理プログラムを実行することにより霞成分推定部(劣化度検出部)200と、局所ヒストグラム生成部(劣化度変化判定部)201と、補正係数算出部(補正値設定部)202と、コントラスト補正部(補正処理部)203との機能を有するものとなる。
具体的に説明すると、霞成分推定部200は、画像処理部108から転送されるデジタル映像信号から取得される画像データの画素毎の劣化度を検出する。ここで、劣化度とは、画像データの中の、コントラスト又は色彩といった画質を劣化させる要因の存在する度合いである。画質を劣化させる要因としては、例えば、霞がかかったシーンを撮影したときに画像データ中に含まれる霞成分である。以下、劣化度は、霞成分の存在する程度であるとして説明を続ける。
霞成分の推定は、霞が高輝度でかつ低彩度(高輝度白色)、すなわち低コントラスト又は低色再現であるという特徴に基づいている。すなわち、高輝度でかつ低彩度である程度が高い画素は、霞成分であると推定される。
図3Aは入力画像データIから霞成分H(x,y)を推定するための手法を説明するための模式図を示し、図3Bは霞成分H(x,y)の画像データHaを示す。
霞成分推定部200は、画像処理部108から転送される入力画像データIにおける座標(x,y)にある画素のR値,G値,B値に基づいて霞成分H(x,y)の推定を行う。
ここで、座標(x,y)におけるR値、G値、B値をそれぞれIr、Ig、Ibとすると、座標(x,y)にある画素の霞成分H(x,y)は、次式(1)により推定される。
H(x,y)=min(Ir,Ig,Ib) …(1)
霞成分推定部200は、式(1)の演算を入力画像データIの全体に対して行う。以下、具体的に説明する。霞成分推定部200は、入力画像データIに対して例えば所定サイズのスキャン領域(小領域)Fを設定する。スキャン領域Fのサイズは、例えば所定サイズm×n(m,nは自然数)画素である。以下、スキャン領域Fの中心の画素を基準画素とする。また、スキャン領域Fにおける基準画素の周辺の各画素を近傍画素とする。スキャン領域Fは、例えば5×5画素のサイズに形成されている。スキャン領域Fは、1画素であってもよい。
霞成分推定部200は、図3Aに示すようにスキャン領域Fの位置をずらしながらスキャン領域Fにおける各画素の(Ir,Ig,Ib)を算出し、そのうちの最小値を基準画素の霞成分H(x,y)とする。
画像データIにおける高輝度かつ低彩度な領域の画素値は、R値,G値,B値が同等かつ大きいので、min(Ir,Ig,Ib)の値は大きくなる。すなわち、高輝度かつ低彩度な領域では、霞成分H(x,y)が大きな値となる。
これに対して低輝度又は高彩度の領域の画素値は、R値,G値,B値のいずれかが小さいので、min(Ir,Ig,Ib)の値は小さくなる。すなわち、低輝度や高彩度の領域では、霞成分H(x,y)が小さな値となる。
しかるに、霞成分H(x,y)は、シーンにおける霞の濃度が濃いほど(霞の白色が濃くなるほど)大きな値となり、霞の濃度が薄いほど(霞の白色が薄くなるほど)小さな値となるという特徴を持つ。
ここで、霞成分は、式(1)によって計算されるものに限られない。すなわち、高輝度かつ低彩度の程度を示す指標であれば霞成分として使用され得る。例えば、局所コントラスト値、エッジ強度、被写体距離等も霞成分として使用され得る。
局所ヒストグラム生成部201は、霞成分推定部200から転送された霞成分H(x,y)に基づいて入力画像データIの基準画素とその周辺の近傍画素とを含む局所領域における霞成分H(x,y)の変化の度合いを判定する。この霞成分H(x,y)の変化の度合いは、局所領域における霞成分H(x,y)の分布、具体的には局所領域内の基準画素と近傍画素との霞成分H(x,y)の差分に基づいて判定される。
すなわち、局所ヒストグラム生成部201は、画像処理部108から転送される映像信号と霞成分推定部200から転送される霞成分に基づき、基準画素毎にその近傍画素を含む局所領域に対する輝度ヒストグラムを生成する。一般的なヒストグラム生成は、対象の局所領域内の画素値を輝度値とみなし、画素値の頻度を1ずつカウントすることで行われる。これに対し、本実施の形態では、局所領域内の基準画素と近傍画素の霞成分の値に応じて、近傍画素の画素値に対するカウント値に重み付けがされる。近傍画素の画素値に対するカウント値は、例えば0.0〜1.0の範囲の値をとるものである。また、このカウント値は、基準画素と近傍画素の霞成分の差分が大きいほど値が小さくなり、基準画素と近傍画素の霞成分の差分が小さいほど値が大きくなるように設定される。
以下、輝度ヒストグラムの生成手法について具体的に説明する。図4Aは画像データIに設定されるある局所領域Rを示し、図4Bは霞成分H(x,y)の画像データHaに設定される画像データIと同じ局所領域Rを示す。局所領域Rは、例えば7×7画素のサイズに形成されている。
図4Aに示す画像データI中の局所領域Rでは、基準画素SGと、2つの近傍画素KG1、KG2とが示されている。基準画素SGは、例えば輝度(画素値)「160」を有する。近傍画素KG1は、例えば輝度(画素値)「170」を有し、近傍画素KG2は、例えば輝度(画素値)「40」を有する。この場合、一般的なヒストグラム生成では、輝度「160」が1カウント、輝度「170」が1カウント、輝度「40」が1カウントになる。輝度だけでヒストグラムを生成した場合、高輝度かつ高彩度の画素も高輝度かつ低彩度の画素と同じようにカウントされてしまう。
図4Bに示す霞成分H(x,y)の画像データHa中の局所領域Rにおいて、基準画素SGは霞成分「150」を有し、近傍画素KG1は例えば霞成分「160」を有し、近傍画素KG2は例えば霞成分「10」を有する。本実施の形態における輝度ヒストグラムの生成では、霞成分H(x,y)の画像データHaにおける局所領域R内の基準画素と各近傍画素との霞成分H(x,y)の差に応じて、入力画像データI中の局所領域Rにおける各画素の画素値に対するカウント値が設定される。基準画素と近傍画素の霞成分の差分が大きいほど値が小さくなり、基準画素と近傍画素の霞成分の差分が小さいほど値が大きくなるようなカウント値は、例えば図5に示すようなガウシアン関数を用いて算出される。図5のガウシアン関数では、例えば、霞成分H(x,y)の差分が10である近傍画素KG1のカウント値は0.95である。また、霞成分H(x,y)の差分が140である近傍画素KG2のカウント値は0.20である。したがって、輝度「170」が0.95カウント、輝度「40」が0.20カウントとなる。このようにして生成されるヒストグラムの例を図6に示す。このヒストグラムは、基準画素SGが属する局所領域Rにおける輝度ヒストグラムである。この結果、後述する補正係数算出部202により算出される補正係数を最適な値で算出することができる。
なお、カウント値は、ガウシアン関数によって算出されなくてもよい。カウント値は、基準画素と近傍画素との霞成分H(x,y)の差分が大きい程、小さい値になる関係に従って決定されればよい。例えば、ルックアップテーブルや折れ線近似したテーブルを使用してもよい。
また、基準画素と近傍画素との間の各霞成分H(x,y)の値の差分と所定の閾値とを比較し、当該比較の結果に基づいてカウントの対象とする近傍画素を取捨選択するようにしてもよい。例えば、霞成分の差分が所定の閾値よりも大きい近傍画素についてはカウントの対象としないようにしてもよい。
また、霞成分H(x,y)の変化の度合いは、差分だけでなく、比によっても算出され得る。例えば、基準画素の霞成分H1=140、近傍画素の霞成分H2=70である場合、霞成分の比は、H2/H1=70/140=0.5となる。このように、分母にH1とH2のうちの大きいほうを用いると、比の値は、0.0から1.0の値をとる。H1とH2の差が小さければ比の値は1.0に近づき、H1とH2の差が大きければ比の値は0.0に近づく。このようにして霞成分の比の値を霞成分の差分と同様に扱うことが可能である。
補正係数算出部202は、局所ヒストグラム生成部201により生成される輝度ヒストグラムに基づいて画像データIの基準画素SGの劣化を補正するための補正値としての補正係数を設定する。この補正係数は、例えば基準画素のコントラストを補正するためのものである。そして、補正係数算出部202は、当該補正係数をコントラスト補正部203に転送する。
本実施の形態では、コントラスト補正手法としてヒストグラム伸張を例に説明する。図7A乃至図7Cは、ヒストグラム伸張の説明図を示す。ヒストグラム伸張は、例えば図7Aに示す輝度ヒストグラムの有効輝度範囲E1を図7Cに示す輝度ヒストグラムの有効輝度範囲E2に拡げることでコントラストを強調する処理である。
例えばヒストグラム伸張は、図7Aに示すようにヒストグラムの有効輝度範囲E1における最小輝度hist_min、最大輝度hist_maxを、図7Cに示すような輝度データの取り得る最小値0、最大値255(8bitの場合)まで拡げるような図7Bに示す線形変換を行うことで実施される。このヒストグラム伸張は、次式(2)により表される。
c_a = 255/(hist_max−hist_min)
c_b = ‐c_a・hist_min …(2)
c_a、c_bはコントラスト補正のための補正係数を表し、hist_minはヒストグラムの有効輝度範囲の最小輝度を表し、hist_maxはヒストグラムの有効輝度範囲の最大輝度を表す。補正係数c_a、c_bは、最小輝度hist_minが0に、最大輝度hist_maxが255になるように算出される。これらの補正係数c_a、c_bを用いて次式(3)で示す線形変換が行われる。
Yout=c_a × Yin + c_b …(3)
Yinはヒストグラム伸張前の入力画像データIの輝度値(画素値)であり、Youtはヒストグラム伸張後の入力画像データIの輝度値(画素値)である。
最小輝度hist_minと最大輝度hist_maxとの算出は、それぞれ例えば輝度ヒストグラムの累積カウント値と所定の閾値を比較することで実現できる。所定の閾値の設定により頻値の小さな画素値、例えばノイズの影響を排除できる。
なお、式(2)では、最小輝度hist_minが0に、最大輝度hist_maxが255になるように補正係数c_a、c_bが算出される。しかしながら、最小輝度hist_minに対応する出力値0と最大輝度hist_maxに対応する出力値255は、それぞれ任意の値に設定されてもよい。
また、最小輝度hist_minと最大輝度hist_maxは、基準画素の霞成分の値に応じて決定されてもよい。例えば、霞成分の値が大きい場合には、最小輝度hist_minに対応する出力値が0に、最大輝度hist_maxに対応する出力値が255に設定されてもよい。また、霞成分の値が小さい場合には、最小輝度hist_minに対応する出力値が20に、最大輝度hist_maxに対応する出力値が235に設定されてもよい。
又は、本実施の形態では、コントラスト補正の実現手段としてヒストグラム伸張が用いられている。これに対し、コントラスト補正の実現手段として例えばヒストグラム平坦化を適用することも可能である。例えば、ヒストグラム平坦化を実現する方法として図8に示すような累積ヒストグラムを用いる方法、又は折れ線近似したテーブルを適用することも可能である。累積ヒストグラムは、輝度ヒストグラムの頻値を順次累積したものである。
コントラスト補正部203は、画像処理部108から転送されるデジタル映像信号に対して霞成分推定部200から転送される霞成分H(x,y)と、補正係数算出部202から転送される補正係数c_a、c_bとに基づいて画像データIの基準画素SG1のコントラスト補正を行う。輝度データのコントラスト補正の演算式を次式(4)に示す。
Yout=(1.0−w)・Yin+w・Yt
Yt=c_a × Yin + c_b (4)
Yinはコントラスト補正前の入力画像データIの輝度データを示し、Youtはコントラスト補正後の入力画像データIの輝度データを示す。また、wは霞成分H(x,y)の値を0.0〜1.0の値に正規化した重み係数である。この重み係数wは、霞成分H(x,y)の値が大きい程値が大きくなる。Ytは補正係数算出部202から転送される補正係数c_a、c_bを用いて計算したターゲットとなる輝度データである。
式(4)に示すようにコントラスト補正後の輝度データYoutは、入力画像データIの輝度データYinとターゲットの輝度データYtとを重み係数wに応じて合成した値となる。式(4)より、霞成分H(x,y)の値が大きい領域のみにコントラスト補正を適用することが可能となる。
次に、上記の通り構成された装置による撮影動作について図9に示す撮影動作フローチャートを参照して説明する。
外部I/F部113に対して操作が行われると、当該外部I/F部113は、ステップS1において、操作入力された撮影に関する各種設定、例えば各種信号、ヘッダ情報等を主制御部112に送る。又、外部I/F部113の記録ボタンが押下されると、主制御部112は、撮影モードに切り替わる。撮影モードにおいて、レンズ系100からの光像が撮像センサ102に入射すると、この撮像センサ102は、レンズ系100からの光像を受光し、アナログ映像信号を出力する。このアナログ映像信号は、A/D変換器104によってデジタル映像信号に変換され、バッファ105に転送されて一時的に保存される。
画像処理部108は、ステップS2において、バッファ105に保存されているデジタル映像信号に対して公知の補間処理、WB補正処理、ノイズ低減処理などの画像処理を行い、当該画像処理後のデジタル映像信号を霞補正部109に転送する。
霞補正部109は、ステップS3において、図10に示す霞補正フローチャートに従い、画像処理部108から転送されたデジタル映像信号に対して例えば霞の影響によりコントラストが低下した領域に対してコントラスト補正を行う。
具体的に霞成分推定部200は、ステップS10において、画像処理部108から転送される入力画像データIの各画素の霞成分H(x,y)の値を推定する。そして、霞成分推定部200は、推定した霞成分H(x,y)を局所ヒストグラム生成部201とコントラスト補正部203とに転送する。
局所ヒストグラム生成部201は、ステップS11において、画像処理部108から入力された画像データIと、霞成分推定部200から転送される霞成分H(x,y)とに基づき、霞成分H(x,y)の変化の度合いを判定するために、入力画像データIの局所領域R毎における輝度ヒストグラムを生成する。そして、局所ヒストグラム生成部201は、生成した輝度ヒストグラムを補正係数算出部202に転送する。
補正係数算出部202は、ステップS12において、局所ヒストグラム生成部201により生成される輝度ヒストグラムに基づいて補正係数c_a、c_bを設定する。そして、補正係数算出部202は、補正係数c_a、c_bをコントラスト補正部203に転送する。
コントラスト補正部203は、ステップS13において、補正係数算出部202から転送された補正係数c_a、c_bと、霞成分推定部200から転送された霞成分H(x,y)とに基づいて入力画像データIを補正する。そして、コントラスト補正部203は、霞補正された入力画像データIを圧縮部110に転送する。
以下、図9に戻って説明を続ける。霞補正の後、圧縮部110は、ステップS4において、霞補正部109から転送されたコントラスト補正された入力画像データI、すなわち霞成分H(x,y)に基づく補正がされた入力画像データIに対して公知のJPEG、MPEG等の圧縮処理を行って出力部111に転送する。
出力部111は、ステップS5において、圧縮部110から転送された圧縮処理後の画像データIをメモリカード等に記録する。又は、霞補正部109で補正された画像データIに基づく画像を別途ディスプレイに表示する。
図11はコントラスト補正された画像(補正画像)データHbの一例を示す。この画像Hbは、入力画像データI内に霞んでいる領域と霞んでいない領域との両領域が混在したとしても適切なコントラスト補正がされたものとなっている。この画像Hbには、輝度ムラが発生していない。
このように上記第1の実施の形態によれば、霞補正部109において、霞成分推定部200により入力画像データIの画素毎の霞成分H(x,y)を検出し、局所ヒストグラム生成部201により霞成分H(x,y)に基づいて入力画像データIの局所領域R内における霞成分H(x,y)の変化の度合いを判定するために霞成分H(x,y)の差分に応じた輝度ヒストグラムを生成し、補正係数算出部202により輝度ヒストグラムに基づいて補正係数c_a、c_bを設定し、コントラスト補正部203により補正係数c_a、c_bに基づいて入力画像データIを補正する。すなわち、コントラスト補正を行うときに、入力画像データI内に霞んでいる領域と霞んでいない領域との両領域が混在したとしても、基準画素と同等の霞成分の値を有する近傍画素のみを用いて局所領域R内の輝度ヒストグラムを生成することにより、局所領域R毎に適切なコントラスト補正ができる。また、霞んでいる領域と霞んでいない領域との両領域の境界において、コントラスト補正の効果が小さくなったり、輝度ムラが発生することがない。
しかるに、入力画像データI内の領域毎の霞成分H(x,y)の濃度に応じて適切なコントラスト補正ができる。この結果、視認性の改善された高品位な画像を得ることができる。又、視認性の改善された画像を記録することに留まらず、画像内のコントラストを向上する効果を得ることができる。例えばコントラストAF又は被写体の認識処理の前処理に当該霞補正を適用することで、コントラストAF又は被写体の認識処理の性能の向上にも貢献できる。
[第2の実施の形態]
次に、本発明の第2の実施の形態について図面を参照して説明する。なお、図1及び図2と同一部分についての説明は省略し、相違する部分について説明する。
図12は霞補正部109の構成図を示す。この霞補正部109は、図2に示す局所ヒストグラム生成部201に代わって劣化度変化判定部として局所最小最大算出部204が設けられている。
局所最小最大算出部204には、画像処理部108から入力画像データIが転送されると共に、霞成分推定部200から霞成分H(x,y)が転送される。局所最小最大算出部204は、入力画像データIに対して局所領域R毎に輝度(画素値)をスキャンし、最小輝度と最大輝度とを検出する。
最小輝度と最大輝度とを検出する際、局所最小最大算出部204は、基準画素SGが属する領域内から最小輝度と最大輝度とを検出できるように、予め霞成分H(x,y)の画像データHaのうちで基準画素SGとの霞成分H(x,y)の値の差分が大きい近傍画素についてはスキャン対象から除外する。この局所最小最大算出部204は、最小輝度と最大輝度とを補正係数算出部202に転送する。
なお、局所最小最大算出部204は、霞成分(x,y)の値の差分が大きい近傍画素をスキャン対象から除外するものに限定することはない。例えば、局所最小最大算出部204は、基準画素SGの画素値を基準とした加重平均フィルタによりフィルタリングした後の画素値から最小輝度と最大輝度とを検出するようにしてもよい。
補正係数算出部202は、局所最小最大算出部204から転送された最小輝度と最大輝度とに基づいて補正係数を算出する。そして、補正係数算出部202は、当該補正係数をコントラスト補正部203に転送する。
なお、本実施の形態は、入力画像データI中の全ての画素に対して補正係数を算出するものとなっているが、これに限ることはない。例えば、画像処理部108への入力画像データIを縮小し、この後にリサイズ(縮小リサイズ)した画像から補正係数を算出してもよい。この場合、縮小リサイズした画像の全ての画素に対して補正係数を決定し、この後に、補間処理により入力画像データI中の各画素に対する補正係数を算出すればよい。縮小リサイズを行うことで、処理負荷の軽減及びノイズの影響を回避する効果が期待できる。
又、霞補正部109は、入力画像データIの縮小画像を生成し、当該縮小画像から霞成分H(x,y)等の劣化度を検出するようにしてもよい。
なお、本実施の形態では、劣化度として霞成分の濃淡について言及しているが、これに限らず、高輝度かつ低彩度でコントラストが低下する特徴のある現象、例えば靄成分、霧成分、濁りとなる成分、煙の成分、逆光により生じる成分、又はフレアにより生じる成分といった現象が起きた場合も同様に適用可能である。また、高輝度かつ低彩度であれば必ずしも白色である必要はなく、多少の色がついているものであってもよい。

Claims (14)

  1. 画像データの画素毎の劣化度を検出する劣化度検出部と、
    前記劣化度に基づいて前記画像データの基準画素とその周辺の近傍画素とを含む所定領域内における前記劣化度の変化の度合いを判定する劣化度変化判定部と、
    前記劣化度の変化の度合いに基づいて前記基準画素の劣化を補正するための補正値を設定する補正値設定部と、
    少なくとも前記補正値に基づいて前記基準画素のデータを補正する補正処理部と、
    を具備し、
    前記劣化度は、記画像データの高輝度かつ低彩度である度合いである画像処理装置。
  2. 前記補正処理部は、前記補正値と前記劣化度とに基づいて前記基準画素のデータを補正する請求項1記載の画像処理装置。
  3. 前記劣化度変化判定部は、前記所定領域内における前記劣化度の分布に基づいて前記劣化度の変化の度合いを判定する請求項1記載の画像処理装置。
  4. 前記劣化度変化判定部は、前記基準画素と前記近傍画素との前記各劣化度の差分に基づいて前記劣化度の変化の度合いを判定する請求項3記載の画像処理装置。
  5. 前記劣化度変化判定部は、前記所定領域毎に、前記基準画素と前記近傍画素との前記劣化度の差分に応じたカウント値を求め、当該カウント値を積算して前記劣化度に対するヒストグラムを生成する請求項3記載の画像処理装置。
  6. 前記カウント値は、前記基準画素と前記近傍画素との前記劣化度の差分が大きい程、小さい値になる請求項記載の画像処理装置。
  7. 前記劣化度変化判定部は、前記所定領域毎に、最小輝度、最大輝度を検出する請求項3記載の画像処理装置。
  8. 前記劣化度変化判定部は、前記画像データから縮小画像を生成し、当該縮小画像から前記劣化度を検出する請求項1記載の画像処理装置。
  9. 前記劣化度変化判定部は、前記基準画素と前記近傍画素とから成る前記所定領域内における輝度データの頻度分布を生成し、
    前記補正処理部は、前記基準画素と前記近傍画素との間の前記劣化度の変化の度合いに応じて前記頻度分布の生成時における前記近傍画素の画素値に対する頻値に重み付けの調整を行う、
    請求項1記載の画像処理装置。
  10. 前記補正処理部は、前記基準画素との間の前記劣化度の変化の度合いが大きい近傍画素の前記頻値を小さくする請求項記載の画像処理装置。
  11. 前記劣化度変化判定部は、前記基準画素と前記近傍画素とのそれぞれの座標にある画素のR値、G値、B値の最小値を算出し、それぞれの算出された最小値の差分、又はそれぞれの算出された最小値の比に基づいて前記劣化度の変化の度合いを判定する請求項3記載の画像処理装置。
  12. 請求項1乃至11のうちいずれか1項記載の画像処理装置と、
    前記画像データを取得する撮像部と、
    を具備する撮像装置。
  13. 画像データの画素毎の劣化度を検出することと、
    前記劣化度に基づいて前記画像データの基準画素とその周辺の近傍画素とを含む所定領域内における前記劣化度の変化の度合いを判定することと、
    前記劣化度の変化の度合いに基づいて前記基準画素の劣化を補正するための補正値を設定することと、
    前記補正値に基づいて前記基準画素のデータを補正することと、
    を具備し、
    前記劣化度は、記画像データの高輝度かつ低彩度である度合いである画像処理方法。
  14. コンピュータに、
    画像データの画素毎の劣化度を検出することと、
    前記劣化度に基づいて前記画像データの基準画素とその周辺の近傍画素とを含む所定領域内における前記劣化度の変化の度合いを判定することと、
    前記劣化度の変化の度合いに基づいて前記基準画素の劣化を補正するための補正値を設定することと、
    前記補正値に基づいて前記基準画素のデータを補正することと、
    を実行させ、
    前記劣化度は、記画像データの高輝度かつ低彩度である度合いである画像処理装置の画像処理プログラムを記憶した記憶媒体。
JP2017516559A 2015-05-07 2016-01-14 画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体 Active JP6559229B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015094902 2015-05-07
JP2015094902 2015-05-07
PCT/JP2016/051028 WO2016178326A1 (ja) 2015-05-07 2016-01-14 画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体

Publications (2)

Publication Number Publication Date
JPWO2016178326A1 JPWO2016178326A1 (ja) 2017-12-14
JP6559229B2 true JP6559229B2 (ja) 2019-08-14

Family

ID=57218506

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017516559A Active JP6559229B2 (ja) 2015-05-07 2016-01-14 画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体

Country Status (5)

Country Link
US (1) US20180061029A1 (ja)
EP (1) EP3293697A4 (ja)
JP (1) JP6559229B2 (ja)
CN (1) CN107533756B (ja)
WO (1) WO2016178326A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10496876B2 (en) * 2016-06-30 2019-12-03 Intel Corporation Specular light shadow removal for image de-noising
US10129511B2 (en) * 2016-08-01 2018-11-13 Ricoh Company, Ltd. Image processing apparatus, image projection apparatus, and image processing method
JP6945190B2 (ja) * 2018-03-20 2021-10-06 パナソニックIpマネジメント株式会社 画像処理装置及び画像処理方法
CN109618098B (zh) * 2019-01-04 2021-02-26 Oppo广东移动通信有限公司 一种人像面部调整方法、装置、存储介质及终端
US10812708B2 (en) * 2019-02-22 2020-10-20 Semiconductor Components Industries, Llc Imaging systems with weathering detection pixels
US11404025B2 (en) * 2019-04-10 2022-08-02 Mediatek Inc. Video processing system for performing artificial intelligence assisted picture quality enhancement and associated video processing method
EP4016163A4 (en) * 2019-11-14 2022-10-12 Sony Group Corporation INFORMATION PROCESSING APPARATUS, GENERATION METHOD AND GENERATION PROGRAM
KR20210077987A (ko) * 2019-12-18 2021-06-28 주식회사 실리콘웍스 소스 드라이버 및 이를 포함하는 디스플레이 장치
CN111340721B (zh) * 2020-02-18 2021-02-12 国网电子商务有限公司 一种像素的修正方法、装置、设备及可读存储介质

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006017853A (ja) * 2004-06-30 2006-01-19 Canon Inc 画像表示方法及び画像表示システム
JP5222472B2 (ja) * 2006-07-14 2013-06-26 イーストマン コダック カンパニー 画像処理装置、画像復元方法およびプログラム
EP2073170A1 (en) * 2007-12-17 2009-06-24 Nederlandse Centrale Organisatie Voor Toegepast Natuurwetenschappelijk Onderzoek TNO Image processing apparatus and method with contrast correction.
JP4894907B2 (ja) * 2009-11-17 2012-03-14 カシオ計算機株式会社 撮像装置、撮像処理方法及びプログラム
JP5558240B2 (ja) * 2010-07-20 2014-07-23 三菱電機株式会社 画像処理装置
JP2013214272A (ja) * 2012-03-08 2013-10-17 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
JP2013228798A (ja) * 2012-04-24 2013-11-07 Olympus Corp 画像処理装置、撮像装置、内視鏡、プログラム及び画像処理方法
JP5984780B2 (ja) * 2013-03-26 2016-09-06 京セラドキュメントソリューションズ株式会社 画像処理装置
JP6271874B2 (ja) * 2013-06-14 2018-01-31 キヤノン株式会社 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
JPWO2016178326A1 (ja) 2017-12-14
US20180061029A1 (en) 2018-03-01
CN107533756B (zh) 2021-09-28
WO2016178326A1 (ja) 2016-11-10
EP3293697A1 (en) 2018-03-14
EP3293697A4 (en) 2019-01-23
CN107533756A (zh) 2018-01-02

Similar Documents

Publication Publication Date Title
JP6559229B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体
US10672134B2 (en) Image processing apparatus, imaging apparatus, image processing method, and storage medium storing image processing program
CN110022469B (zh) 图像处理方法、装置、存储介质及电子设备
JP3762725B2 (ja) 撮像システムおよび画像処理プログラム
JP6083897B2 (ja) 撮像装置及び画像信号処理装置
US20170004603A1 (en) Image processing device, imaging device, image processing method, and image processing program
JP4904440B2 (ja) 画像処理方法および装置,ならびに画像処理プログラムおよびこのプログラムを記録した媒体
US20080112644A1 (en) Imaging device
JP5901667B2 (ja) 画像処理装置及び方法、画像処理プログラム、撮像装置
JP2008205737A (ja) 撮像システム、画像処理プログラム、画像処理方法
US8493458B2 (en) Image capture apparatus and image capturing method
JP4810473B2 (ja) 画像処理装置および画像処理プログラム
JP2011135509A (ja) 画像処理方法、画像処理装置、及び撮像装置
JP2017138647A (ja) 画像処理装置、画像処理方法、映像撮影装置、映像記録再生装置、プログラム及び記録媒体
US9892497B2 (en) Image processing apparatus, imaging apparatus, and image processing method
US8989510B2 (en) Contrast enhancement using gradation conversion processing
WO2015156041A1 (ja) 画像処理装置及び方法、一時的にコンピュータにより読み取り可能な画像処理プログラムを記憶する記録媒体、撮像装置
JP4637812B2 (ja) 画像信号処理装置、画像信号処理プログラム、画像信号処理方法
JP2010183460A (ja) 撮像装置およびその制御方法
JP5205230B2 (ja) 画像処理装置
JP2010183461A (ja) 撮像装置およびその制御方法
JP2009022044A (ja) 画像処理装置及び画像処理プログラム
JP2001238128A (ja) 画像処理装置
JP2021086269A (ja) 画像処理装置、その制御方法及びプログラム
JP2009004893A (ja) 画像処理装置およびこれを備える撮像システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170727

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170727

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180724

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180920

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190416

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190618

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190716

R151 Written notification of patent or utility model registration

Ref document number: 6559229

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250