JP2006173671A - 撮像装置及び画像処理方法 - Google Patents

撮像装置及び画像処理方法 Download PDF

Info

Publication number
JP2006173671A
JP2006173671A JP2004359028A JP2004359028A JP2006173671A JP 2006173671 A JP2006173671 A JP 2006173671A JP 2004359028 A JP2004359028 A JP 2004359028A JP 2004359028 A JP2004359028 A JP 2004359028A JP 2006173671 A JP2006173671 A JP 2006173671A
Authority
JP
Japan
Prior art keywords
image
luminance side
enhancement
contrast
photoelectric conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004359028A
Other languages
English (en)
Inventor
Koichi Kanbe
幸一 掃部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2004359028A priority Critical patent/JP2006173671A/ja
Publication of JP2006173671A publication Critical patent/JP2006173671A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Picture Signal Circuits (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 低輝度側より高輝度側の方が低コントラストである画像に対し、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる画像処理を実現する。
【解決手段】 低輝度側より高輝度側の方が低コントラストである異なる2つ以上の光電変換特性からなる光電変換特性(線形特性領域と対数特性領域とからなる光電変換特性)を有する撮像センサ(固体撮像素子)により得られる撮影画像に対し、画像処理部によって、少なくとも、重み付け関数F(x)(変換特性)に基づく画像変換により得られる画像F(I)にて表される強調係数の強調度合が、低輝度側より高輝度側の方が大きくなるような画像処理を行う。
【選択図】 図5

Description

本発明は、異なる2つ以上の特性領域からなる光電変換特性を有する撮像センサを用いた撮像装置であって、特にこの撮像センサの撮像により得られた画像に対する画質改善に関係する画像処理方法及びこの画像処理方法を適用する撮像装置に関するものである。
近年、デジタルカメラ等の撮像装置においては、高画質化の要請に伴い、撮像センサが扱うことのできる被写体の輝度範囲(明るさの範囲)、すなわちダイナミックレンジを拡大させることが1つの大きなテーマとなっている。このダイナミックレンジの拡大に関し、上記撮像センサのように撮像系の広ダイナミックレンジ化が進む一方、現状では表示系(例えばディスプレイ、モニタ)の広ダイナミックレンジ化は撮像系ほど進んでおらず、たとえ入力される画像のダイナミックレンジが拡大されたとしても、表示においてその効果を充分に反映できない可能性がある。また、広いダイナミックレンジをもつ画像にはより多くの情報量が含まれることになるが、この画像を従来と同様の方法で取り扱おうとすれば、必然的にコストの増加を招いてしまう。したがって、この多くの情報量を含んだ画像データを有効に活用するためには、すなわち、広ダイナミックレンジ化が進んだ撮像系によって得られた画像を、広ダイナミックレンジ化が進んでいない表示系で(コスト増を抑えつつ)より高画質に表示させるためには、当該広ダイナミックレンジ画像における有益な情報を保持しつつ、全体のダイナミックレンジを圧縮させる必要がある。
このような背景において、例えば特許文献1では、ダイナミックレンジの圧縮(以降、DR圧縮という)を行う際、図19に示す人間の視覚特性をモデル化した(低入力レベル側つまり低輝度側の曲線の傾きが高輝度側の同傾きよりも大きくなる特性を有した)画像変換テーブル(強調重み付けテーブル)を用い、高輝度側のコントラストを維持して大きなコントラスト増加を抑えるとともに、低輝度側のコントラストをより強調させる画像変換が行われている。これにより、DR圧縮における画像暗部のコントラストの改善が図られている。
特表2004−530368号公報
ところで、このダイナミックレンジの拡大に関し、入射光量に対して電気信号が線形的に変換されて出力される線形特性領域と、入射光量に対して電気信号が対数的に変換されて出力される対数特性領域とからなる光電変換特性を有する撮像センサが知られている(この撮像センサのことを「LOGセンサ」ともいう。このLOGセンサから得られる線形特性領域及び対数特性領域を有した画像のことを線形/対数画像と表現する)。
上記LOGセンサは、広ダイナミックレンジ画像が得られるものの、高輝度側が対数的な光電変換特性であることから、一般的に線形特性領域と比べて対数特性領域での画像のコントラスト(諧調)が低いものとなってしまい、当該LOGセンサによる線形/対数画像に対して上記従来におけるDR圧縮技術(上記従来技術においては、対数特性のない線形特性画像に対するDR圧縮技術が開示されている)をそのまま適用すると、線形特性領域でのコントラストが強調され過ぎてしまい、また対数特性領域でのコントラストが大きく低下してしまうことになる。
しかしながら、上記DR圧縮技術を線形/対数画像に対して好適に適用することで、当該広ダイナミックレンジ情報を有した線形/対数画像に対し、線形特性領域でのコントラストを抑えつつ対数特性領域でのコントラストを向上させることができ、線形/対数画像の表示系における高画質化(画質改善)を図り得る可能性がある。
よって本発明は、撮像センサにより得られる線形/対数画像といった低輝度側より高輝度側の方が低コントラストである画像(高輝度側低コントラスト画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像)の高画質化(コントラスト性向上)を図ることができる撮像装置及びそれに用いる画像処理方法を提供することを目的とする。
本発明の請求項1に係る撮像装置は、異なる光電変換特性を2つ以上有する固体撮像素子と、前記固体撮像素子からの撮像信号を下記(1)式に基づいて演算処理する画像処理部とを備え、
Figure 2006173671
但し、Pi(γ):直交基底関数(0<γ<1)
F(I):基画像Iが重み付け関数F(x)により重み付け処理されて得られる画像
αi(I):基画像Iに応じて強調度合を決めるi毎の強調係数
β(I):基画像Iに応じて強調度合を決める強調係数
LPFΩi[…]:空間ローパスフィルタ処理
Ωi:上記空間ローパスフィルタのカットオフ周波数
Qi(F(I)):Pi(γ)に対する0からF(I)までの積分
前記異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、少なくとも前記F(I)にて表される強調係数は低輝度側より高輝度側の強調度合が大きいことを特徴とする。
上記構成によれば、固体撮像素子は、異なる光電変換特性を2つ以上有している、すなわち異なる2つ以上の光電変換特性からなる光電変換特性(例えば本実施形態における線形特性領域と対数特性領域とからなる光電変換特性)を有しており、当該異なる光電変換特性は、低輝度側より高輝度側の方が低コントラストであって、画像処理部による(1)式に基づいた演算処理において、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくなるため、低輝度側より高輝度側の方が低コントラストである画像(ここでは線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像)の高画質化(コントラスト性向上)を図ることが可能となる。
請求項2に係る撮像装置は、請求項1において、前記(1)式におけるαi(I)、β(I)にて表される強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きいことを特徴とする。この構成によれば、(1)式におけるαi(I)、β(I)にて表される強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きいため、上記強調係数としてのF(I)による強調度合の調整に対して、さらに当該αi(I)、β(I)を用いた、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる強調度合調整を行うことができ、より自由度の高い且つ高精度な強調度合調整を行うことが可能となる。
請求項3に係る撮像装置は、請求項1又は2において、前記画像処理部は、下記(2)式に基づいて前記演算処理を実行するものであって、
Figure 2006173671
但し、α:基画像Iに応じて強調度合を決める強調係数
LPFΩ[…]:空間ローパスフィルタ処理
Ω:上記空間ローパスフィルタのカットオフ周波数
前記異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、少なくとも前記F(I)にて表される強調係数は低輝度側より高輝度側の強調度合が大きいことを特徴とする。
この構成によれば、低輝度側より高輝度側の方が低コントラストである2つ以上の異なる光電変換特性を有する固体撮像素子からの撮像信号に対する、画像処理部による(2)式に基づいた演算処理において、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくなるため、低輝度側より高輝度側の方が低コントラストである画像(線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像)の高画質化(コントラスト性向上)を図ることが可能となる。
請求項4に係る画像処理方法は、異なる光電変換特性を2つ以上有する固体撮像素子からの撮像信号を下記(3)式に基づいて画像処理部により演算処理する画像処理方法であって、
Figure 2006173671
但し、Pi(γ):直交基底関数(0<γ<1)
F(I):基画像Iが重み付け関数F(x)により重み付け処理されて得られる画像
αi(I):基画像Iに応じて強調度合を決めるi毎の強調係数
β(I):基画像Iに応じて強調度合を決める強調係数
LPFΩi[…]:空間ローパスフィルタ処理
Ωi:上記空間ローパスフィルタのカットオフ周波数
Qi(F(I)):Pi(γ)に対する0からF(I)までの積分
前記異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、少なくとも前記F(I)にて表される強調係数を低輝度側より高輝度側の強調度合を大きくすることを特徴とする。
上記構成によれば、異なる光電変換特性を2つ以上有している、すなわち異なる2つ以上の光電変換特性からなる光電変換特性(例えば本実施形態における線形特性領域と対数特性領域とからなる光電変換特性)を有している固体撮像素子からの撮像信号が、(3)式に基づいて画像処理部により演算処理され、当該異なる光電変換特性は、低輝度側より高輝度側の方が低コントラストであって、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくされるため、低輝度側より高輝度側の方が低コントラストである画像(ここでは線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像)の高画質化(コントラスト性向上)を図ることが可能となる。
請求項5に係る画像処理方法は、請求項4において、前記(3)式におけるαi(I)、β(I)にて表される強調係数のいずれか又は両方を低輝度側より高輝度側の強調度合を大きくすることを特徴とする。この構成によれば、(3)式におけるαi(I)、β(I)にて表される強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きくされるため、上記強調係数としてのF(I)による強調度合の調整に対して、さらに当該αi(I)、β(I)を用いた、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる強調度合調整を行うことができ、より自由度の高い且つ高精度な強調度合調整を行うことが可能となる。
請求項6に係る画像処理方法は、請求項4又は5において、前記演算処理を下記(4)式に基づいて実行する画像処理方法であって、
Figure 2006173671
但し、α:基画像Iに応じて強調度合を決める強調係数
LPFΩ[…]:空間ローパスフィルタ処理
Ω:上記空間ローパスフィルタのカットオフ周波数
前記異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、少なくとも前記F(I)にて表される強調係数を低輝度側より高輝度側の強調度合を大きくすることを特徴とする。
この構成によれば、低輝度側より高輝度側の方が低コントラストである2つ以上の異なる光電変換特性を有する固体撮像素子からの撮像信号が、(4)式に基づいて画像処理部により演算処理され、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくされるため、低輝度側より高輝度側の方が低コントラストである画像(線形/対数画像、基画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像)の高画質化(コントラスト性向上)を図ることが可能となる。
請求項7に係る撮像装置は、異なる光電変換特性を2つ以上有する撮像手段と、前記撮像手段による撮像によって得られる基画像に対して所定の重み付けを行うための画像変換特性に基づき画像変換を行う画像変換手段と、前記画像変換手段による画像変換によって得られる変換画像を所定の直交基底関数に展開する展開手段と、前記展開手段による展開によって得られる基底毎の展開画像に対する所定のフィルタ処理を行うフィルタ処理手段と、前記展開画像に対する積分処理を行う積分手段と、前記積分手段による積分処理によって得られる積分画像と前記フィルタ処理手段によるフィルタ処理によって得られるフィルタ処理画像とを乗算する乗算手段と、前記乗算手段による乗算によって得られる前記基底毎の乗算画像の総和を算出する総和算出手段と、前記総和算出手段による総和算出によって得られる総和画像と前記基画像とを加算する加算手段とを備え、前記異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、前記画像変換手段は、前記重み付けによる強調度合が低輝度側より高輝度側の方が大きな画像変換特性に基づいて画像変換を行うことを特徴とする。
上記構成によれば、撮像手段は異なる光電変換特性を2つ以上有し、画像変換手段によって、撮像手段による撮像によって得られる基画像に対して所定の重み付けを行うための画像変換特性に基づいて画像変換が行われ、展開手段によって、画像変換手段による画像変換によって得られる変換画像が所定の直交基底関数に展開され、フィルタ処理手段によって、展開手段による展開によって得られる基底毎の展開画像に対する所定のフィルタ処理(本実施形態ではローパスフィルタ処理)が行われ、積分手段によって、展開画像に対する積分処理が行われ、乗算手段によって、積分手段による積分処理によって得られる積分画像とフィルタ処理手段によるフィルタ処理によって得られるフィルタ処理画像とが乗算され、総和算出手段によって、乗算手段による乗算によって得られる基底毎の乗算画像の総和が算出され、加算手段によって、総和算出手段による総和算出によって得られる総和画像と基画像とが加算され、そして、異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、重み付けによる強調度合が低輝度側より高輝度側の方が大きな画像変換特性に基づいて当該画像変換手段により画像変換が行われる。
このように、低輝度側より高輝度側の方が低コントラストである光電変換特性をもつ撮像手段による撮影画像(基画像)が、重み付けの強調度合が低輝度側より高輝度側の方が大きな画像変換特性に基づいて画像変換され、当該変換画像が直交基底関数に展開された展開画像に対してフィルタ処理が施されたフィルタ処理画像と、展開画像が積分処理された積分画像とが乗算されて乗算画像とされ、この乗算画像の全基底に対する総和(総和画像)が求められ、さらにこの総和画像と基画像とが加算された画像が得られることから、低輝度側より高輝度側の方が低コントラストである画像(線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像)の高画質化(コントラスト性向上)を図ることが可能となる。
請求項8に係る撮像装置は、請求項7において、前記総和画像及び基画像、又は乗算画像及び基画像の各画像に対して所定の強調係数を用いた重み付けを行う重み付け手段をさらに備え、前記各画像に対する強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きいことを特徴とする。この構成によれば、重み付け手段によって、総和画像及び基画像、又は乗算画像及び基画像の各画像に対して所定の強調係数を用いた重み付けが行われ、この各画像に対する強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きくされるため、上記強調係数としての変換画像による強調度合の調整に対して、さらに当該各画像に対する強調係数を用いた、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる強調度合調整を行うことができ、より自由度の高い且つ高精度な強調度合調整を行うことが可能となる。
請求項9に係る撮像装置は、請求項7又は8において、前記撮像手段は、前記異なる光電変換特性として、線形的な光電変換である線形特性と対数的な光電変換である対数特性とを有することを特徴とする。この構成によれば、撮像手段が、異なる光電変換特性として線形特性と対数特性とを有する、すなわち、撮像手段が線形特性領域と対数特性領域との(2つの)異なる特性からなる光電変換特性を有するものとされるため、当該撮像手段によって得られる画像は線形/対数画像となり、この線形/対数画像に対する、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる画像処理の適用が可能となる。
請求項1に係る撮像装置によれば、固体撮像素子は、異なる光電変換特性を2つ以上有している、すなわち異なる2つ以上の光電変換特性からなる光電変換特性(例えば本実施形態における線形特性領域と対数特性領域とからなる光電変換特性)を有しており、当該異なる光電変換特性は、低輝度側より高輝度側の方が低コントラストであって、画像処理部による(1)式に基づいた演算処理において、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくなるため、低輝度側より高輝度側の方が低コントラストである画像(ここでは線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像)の高画質化(コントラスト性向上)を図ることが可能となる。
請求項2に係る撮像装置によれば、(1)式におけるαi(I)、β(I)にて表される強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きいため、上記強調係数としてのF(I)による強調度合の調整に対して、さらに当該αi(I)、β(I)を用いた、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる強調度合調整を行うことができ、より自由度の高い且つ高精度な強調度合調整を行うことが可能となる。
請求項3に係る撮像装置によれば、低輝度側より高輝度側の方が低コントラストである2つ以上の異なる光電変換特性を有する固体撮像素子からの撮像信号に対する、画像処理部による(2)式に基づいた演算処理において、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくなるため、低輝度側より高輝度側の方が低コントラストである画像(線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像)の高画質化(コントラスト性向上)を図ることが可能となる。
請求項4に係る画像処理方法によれば、異なる光電変換特性を2つ以上有している、すなわち異なる2つ以上の光電変換特性からなる光電変換特性(例えば本実施形態における線形特性領域と対数特性領域とからなる光電変換特性)を有している固体撮像素子からの撮像信号が、(3)式に基づいて画像処理部により演算処理され、当該異なる光電変換特性は、低輝度側より高輝度側の方が低コントラストであって、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくされるため、低輝度側より高輝度側の方が低コントラストである画像(ここでは線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像)の高画質化(コントラスト性向上)を図ることが可能となる。
請求項5に係る画像処理方法によれば、(3)式におけるαi(I)、β(I)にて表される強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きくされるため、上記強調係数としてのF(I)による強調度合の調整に対して、さらに当該αi(I)、β(I)を用いた、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる強調度合調整を行うことができ、より自由度の高い且つ高精度な強調度合調整を行うことが可能となる。
請求項6に係る画像処理方法によれば、低輝度側より高輝度側の方が低コントラストである2つ以上の異なる光電変換特性を有する固体撮像素子からの撮像信号が、(4)式に基づいて画像処理部により演算処理され、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくされるため、低輝度側より高輝度側の方が低コントラストである画像(線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像)の高画質化(コントラスト性向上)を図ることが可能となる。
請求項7に係る撮像装置によれば、低輝度側より高輝度側の方が低コントラストである光電変換特性をもつ撮像手段による撮影画像(基画像)が、重み付けの強調度合が低輝度側より高輝度側の方が大きな画像変換特性に基づいて画像変換され、当該変換画像が直交基底関数に展開された展開画像に対してフィルタ処理が施されたフィルタ処理画像と、展開画像が積分処理された積分画像とが乗算されて乗算画像とされ、この乗算画像の全基底に対する総和(総和画像)が求められ、さらにこの総和画像と基画像とが加算された画像が得られることから、低輝度側より高輝度側の方が低コントラストである画像(線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像)の高画質化(コントラスト性向上)を図ることが可能となる。
請求項8に係る撮像装置によれば、重み付け手段によって、総和画像及び基画像、又は乗算画像及び基画像の各画像に対して所定の強調係数を用いた重み付けが行われ、この各画像に対する強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きくされるため、上記強調係数としての変換画像による強調度合の調整に対して、さらに当該各画像に対する強調係数を用いた、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる強調度合調整を行うことができ、より自由度の高い且つ高精度な強調度合調整を行うことが可能となる。
請求項9に係る撮像装置によれば、撮像手段が、異なる光電変換特性として線形特性と対数特性とを有する、すなわち、撮像手段が線形特性領域と対数特性領域との(2つの)異なる特性からなる光電変換特性を有するものとされるため、当該撮像手段によって得られる画像は線形/対数画像となり、この線形/対数画像に対する、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる画像処理の適用が可能となる。
以下、図面に基づいて、本発明の実施形態につき説明する。
図1は、本実施形態に係る撮像装置の一例であるデジタルカメラを示し、このデジタルカメラの主に撮像処理に関する概略的なブロック構成図を示している。図1に示すようにデジタルカメラ1は、レンズ部2、撮像センサ3、アンプ4、A/D変換部5、画像処理部6、画像メモリ7、制御部8、モニタ部9及び操作部10等を備えて構成されている。
レンズ部2は、被写体光(光像)を取り込むレンズ窓として機能するとともに、この被写体光をカメラ本体の内部に配置されている撮像センサ3へ導くための光学レンズ系(被写体光の光軸Lに沿って直列的に配置される例えばズームレンズやフォーカスレンズ、その他の固定レンズブロック)を構成するものである。レンズ部2は、当該レンズの透過光量を調節するための絞り(図略)やシャッタ(図略)を備えており、制御部8によりこの絞りやシャッタの駆動制御がなされる構成となっている。
撮像センサ3は、レンズ部2において結像された被写体光像の光量に応じ、R,G,Bの各成分の画像信号に光電変換して後段のアンプ4へ出力するものである。本実施形態においては、撮像センサ3として、図3に示すように、センサ入射輝度が低い場合(暗時)に出力画素信号(光電変換により発生する出力電気信号)が線形的に変換されて出力される線形特性領域と、センサ入射輝度が高い場合(明時)に出力画素信号が対数的に変換されて出力される対数特性領域とからなる光電変換特性を有する対数変換型固体撮像素子が用いられる。なお、この光電変換特性の線形特性領域と対数特性領域との切り替り点(変曲点)は、撮像センサ3の各画素回路に対する所定の制御信号により任意に制御可能とされている。
具体的には撮像センサ3は、例えば、フォトダイオード等の光電変換素子をマトリクス状に配置してなる固体撮像素子に、P型(又はN型)のMOSFET等を備えた対数変換回路を付加し、MOSFETのサブスレッショルド特性を利用することで、固体撮像素子の出力特性を入射光量に対して電気信号が対数的に変換されるようにした所謂CMOSイメージセンサが採用される。ただし、CMOSイメージセンサに限らず、VMISイメージセンサやCCDイメージセンサ等であってもよい。
アンプ4は、撮像センサ3から出力された画像(映像)信号を増幅するものであり、例えばAGC(オートゲインコントロール)回路を備え、当該出力信号のゲイン(増幅率)調整を行う。アンプ4は、AGC回路の他、アナログ値としての当該画像信号のサンプリングノイズの低減を行うCDS(相関二重サンプリング)回路を備えていてもよい。なお、AGC回路は、適正露出が得られなかった場合(例えば非常に低輝度の被写体を撮影する場合)の撮影画像のレベル不足を補償する(感度補正を行う)機能も有する。なお、AGC回路に対するゲイン値は制御部8によって設定される。
A/D変換部5は、アンプ4にて増幅されたアナログ値の画像信号(アナログ信号)をデジタル値の画像信号(デジタル信号)に変換するものであり、撮像センサ3の各画素で受光して得られる画素信号をそれぞれ例えば12ビットの画素データに変換する。
画像処理部6は、A/D変換部5によるA/D変換により得られた画像信号に対する所定の画像処理(デジタル信号処理)を行うものである。本実施形態では、画像処理部6による画像処理においてなされる画質改善処理、つまりコントラスト改善処理(DR圧縮処理)に主たる特徴点がある。このコントラスト改善処理(DR圧縮処理)については後に詳述する。なお、画像処理部6は、所定のフィルタを用いて各画素値を補間する画素補間部やホワイトバランス調整を行うWB制御部、或いは 画素データの縮小又は間引き等を行い解像度変換を行う解像度変換部、画像信号の固定パターンノイズ(FPN;Fixed Pattern Noise)を除去するFPN補正部等を備えていてもよい(いずれも図略)。
画像メモリ7は、ROM(Read Only Memory)やRAM(Random Access Memory)等のメモリからなり、画像処理部6での画像処理を終えた画像データを(一時的に)保存するものである。画像メモリ7は、例えば所定フレーム分の画像データを記憶し得る容量を有したものとなっている。
制御部8は、各制御プログラム等を記憶するROM、一時的にデータを格納するRAM、及び当該制御プログラム等をROMから読み出して実行する(中央演算処理装置)等からなり、デジタルカメラ1全体の動作制御を司るものである。制御部8は、撮像センサ3や画像処理部6或いは操作部10等の装置各部からの各種信号に基づき、装置各部が必要とする制御パラメータ等を算出し、これを送信することで各部の動作を制御する。制御部8は、図略のタイミング生成部(タイミングジェネレータ)や駆動部を介して、それぞれ撮像センサ3やレンズ部2(絞りやシャッタ)に対する撮像動作制御やズーム(フォーカス)駆動制御を行ったり、モニタ部9への表示制御などを行う。また、画像処理部6や画像メモリ7からの画像信号の出力制御なども行う。
モニタ部9は、撮像センサ3で撮影された画像(一旦画像メモリ7に保存されていた画像)等のモニタ表示を行うものである。モニタ部9は、例えばカメラ背面に配設されたカラー液晶表示素子からなる液晶表示器(LCD;Liquid Crystal Display)、或いは接眼部を構成する電子ビューファインダ(EVF;Electronic View Finder)等からなる。
操作部10は、デジタルカメラ1に対する操作指示(指示入力)を行うものであり、例えば電源スイッチ、レリーズスイッチ、或いは各種撮影モードを設定するモード設定スイッチ、ニュー選択スイッチ等の各種の操作スイッチ群(操作ボタン群)からなる。例えばレリーズスイッチが押下(オン)されることで、撮像動作(撮像センサ3により被写体光が撮像され、この撮像により得られた画像データに対して所要の画像処理が施された後、画像メモリ7等に記録されるといった一連の撮影動作)が実行される。
次に、上記画像処理部6の構成及び動作の詳細について以下に説明する。
図2は、画像処理部6におけるDR圧縮処理(コントラスト改善処理)に関する一回路構成例を示す機能ブロック図である。図2に示すように、画像処理部6は、強調変換部61、展開処理部62、総和算出部63及び重み付け加算部64を備えて構成されている。
先ず、画像処理部6における概略的な画像データの流れを説明すると、画像処理部6に入力された入力画像601(これを適宜、入力画像I或いは基画像Iと表す。ただし、この基画像IはXY座標をもつ2次元画像であるため入力画像I(x、y)又は基画像I(x、y)とも表される)は、符号Aに示す回路ルート(ルートA)と符号Bに示す回路ルート(ルートB)とに送信される。ルートAにおける入力画像601は、順に強調変換部61、展開処理部62、及び総和算出部63を経由した後、重み付け加算部64に至る。一方、ルートBにおける入力画像I(x、y)は、そのまま重み付け加算部64へ送信される。このルートA及びルートBに分かれて送信された各画像データは、重み付け加算部64を経て出力画像602(これを出力画像IOUT(x、y)又は出力画像IOUTと表す)として画像処理部6から例えば後段の画像メモリ7に出力される。
強調変換部61は、所定の重み付け関数F(x)に基づく画像変換テーブル(重み付けテーブル)を用いた画像変換を行い、入力画像Iに対する重み付け処理を行うものである。強調変換部61は、この重み付け処理に用いる画像変換テーブルを、撮像センサ3の光電変換特性に応じて設定する。本実施形態における撮像センサ3は、上述したように、入射輝度に対して低輝度側では線形特性、高輝度側では対数特性となる光電変換特性を有している。図4は、撮像センサ3の光電変換特性の一例であり、変曲点41をもつ線形特性領域42と対数特性領域43とからなる光電変換特性40が示されている(図4の縦軸及び横軸は、それぞれ撮像センサに対する輝度レベル及び出力レベルであり、これら各レベルの最大値が「1」となるように正規化された座標値となっている)。なお、ここでは変曲点41の出力レベルは「0.8」となっている。
この光電変換特性40の線形特性領域42は以下の(1-1)式で表され、
y=a*x ・・・(1-1)
一方、対数特性領域43は以下の(1-2)式で表され、
y=α* Log10(x)+β(β=1.0) ・・・(1-2)
この場合の光電変換特性に対する画像変換テーブルの変換特性Yは以下の図5に示すものが用いられる(上記式中の「*」は乗算を示す。以降も同じ)。
図5は、重み付け関数F(x)を有する画像変換テーブルを示している。図5には、重み付け関数F(x)の一例である重み付け関数51〜53(後述の変換特性Yに相当)の3つの場合が示されている。重み付け関数51〜53はそれぞれ、同図の符号54に示す上記図4における線形特性領域42に対応する領域である低輝度領域54と、対数特性領域43に対応する領域である高輝度領域55とからなる。これら重み付け関数F(x)の低輝度領域54及び高輝度領域55は、それぞれ以下の(2-1)、(2-2)式によって表される。
低輝度領域54 :YLin=k*(1/a)*X ・・・(2-1)
高輝度領域55 :YLog=t*(10^(X−β)/α)(β=1.0)・・・(2-2)
この画像変換テーブルにおける変換特性Y(重み付け関数F(x))は、
YLin<YLogとなる範囲では、
Y=YLog
それ以外では(YLin≧YLogとなる範囲では)、
Y=YLin
と表される。このように変換特性Yは、低輝度領域54 と高輝度領域55とで傾きが異なり、撮像センサ3の光電変換特性40に応じた変換特性となっている。
光電変換特性40に応じて変換特性Y(重み付け関数F(x))が決定されることに関し、上記重み付け関数51は、低輝度領域54での傾きがk/a=1、重み付け関数53は、同傾きがk/a=1/2.5となる場合として示されている(勿論k/aの値はこれらだけに限らない)。ただし、図5に示すように各重み付け関数における低輝度領域54と高輝度領域55との切り替わり点の入力レベルxの値は、ここでは「0.8」となっているが、この切り替わり点の位置(「0.8」)は、図4に示す変曲点41の出力レベル「0.8」と対応するものであり、光電変換特性40の変曲点41位置が変化するのに応じて変化する。
画像変換テーブルは当該変換特性Yを有しているが、これは従来用いられる画像変換テーブル(図19参照)の場合とは逆に、高輝度側(対数領域側)の変換特性の傾きが低輝度側(線形特性側)の傾きよりも大きなものとされており、これによって高輝度側のコントラストが強調され、かつ低輝度側のコントラストが抑えられた(又は低下された)画像(コントラスト調整画像)を得ることが可能とされている。
強調変換部61による上記変換特性Yの決定にあたっては、例えば、傾きk/aにおける定数「k」の値を、或る固定されたものとして設定しておき、光電変換特性40が変化することによる傾き「a」の変化に応じてk/aの値を変化させることで、このk/aの値に対応する傾きを有する変換特性Yを決定(選択)してもよい。また、当該固定したk値に対してa値を変化させてk/aを得るのではなく、光電変換特性40の変化に応じて決まるa値(上記(2-1)式中の(1/a))に対して任意の定数k(定数t)を設定することで、所望の傾きを有する変換特性Yを決定してもよい。
なお、上記図5に示す重み付け関数(変換特性Y)を有する画像変換テーブルは、図4に示すような線形特性領域42及び対数特性領域43を有する光電変換特性、すなわち、低輝度側でより高いコントラストが得られやすい線形特性領域42と、高輝度側でコントラストが抑えられてしまう対数特性領域43といった2種類の特性をもつ光電変換特性に対して設定されるが、これに限らず、例えば図16(a)に示すような、傾きの異なる(高輝度側における傾き(コントラスト性)が低輝度側よりも小さい)2種類の線形特性領域81、82(変曲点83)からなる光電変換特性に対して設定される構成であってもよい。
また、例えば図16(b)に示すように、線形特性領域84と線形特性領域85と対数特性領域86といった異なる複数種類(ここでは3種類)の特性領域からなる(複数の変曲点(ここでは変曲点87、88)をもつ)光電変換特性に対して、図5に示す高輝度側(高輝度領域55)の変換特性の傾きが低輝度側(低輝度領域54)の傾きよりも大きな変換特性をもつ画像変換テーブルを設定する構成であってもよい。
ところで、上記図4や図16(a)に示す光電変換特性の画像に対応する画像変換テーブルが作成される場合、光電変換特性の1つの変曲点に対して画像変換テーブルに2箇所の切り替え点(変換特性Yの特性を切り替える点)は必要なく、例えば当該2箇所の切り替え点のうちの値の大きい、つまり座標値(入力レベル)が大きい方の切り替え点を採用するものとする。このことは、例えば図4の線形/対数領域(1つの変曲点)をもつ光電変換特性に対する図17(a)の画像変換テーブルに示すように、変換特性を表す式、つまりYLog(対数式)とYLin(線形式)との各式が複数(2つ)の交点91、92をもつ場合、例えばこれら交点91、92のうちの値の大きな方の交点91が、当該変換特性の切り替え点として採用されることを示している。なお、符号93に示す座標位置は図4の光電変換特性の変曲点に対応するものとなる。また同図中、一点鎖線が並記された特性線がこの場合の全体の変換特性Yを示している。
ただし、上記図16(b)に示すように、変曲点が複数個(ここでは2個)存在する光電変換特性の画像に対しては、これに対応する画像変換テーブル(変換特性)においても当該切り替え点が複数個設定される(例えば上記2個の変曲点に対応して2個設定される)ものとなる。このことは同様に、例えば図17(b)に示すように、YLog(対数式)並びにYLin1及びYLin2(線形式)の各式の交点のうちの交点94、95が、当該変換特性の切り替え点として採用されることを示している。なお、符号96、97に示す座標位置は、それぞれ図16(b)の光電変換特性における2つの変曲点に対応するものとなる。また同図中、一点鎖線が並記された特性線がこの場合の全体の変換特性Yを示している。
また、当該画像変換テーブルを用いた変換において、撮像センサの特性と人間の視覚特性とを合わせてなる変換、すなわち撮像センサから得られる変換係数と視覚特性から得られる変換係数との乗算による係数を用いた変換を行ってもよく、撮像センサに応じた変換出力を「z」としたとき、F(z)なる視覚特性に基づいて設定される画像変換テーブルとしてもよい。
展開処理部62は、強調変換部61において、基画像Iが重み付け関数F(x)により画像変換(重み付け処理;コントラスト強調処理)されてなる強調変換画像(画像データF(I))を輝度領域において輝度分割(展開)し、この輝度分割した画像データに対して後述のLPF処理を施すものである。展開処理部62は、図2に示すように、処理ブロック62a…62b…62cの複数の処理ブロックから構成されている。各処理ブロック62a〜62cは、直交関数展開部621、LPF処理部622、積分処理部623、及び乗算部624等を備えている。
直交関数展開部621は、上記画像データF(I)を所定の直交基底関数Pi(γ)(0<γ<1)に展開するものである。当該展開に用いられる直交関数は、ここでは図6に示すルジャンドルの直交関数(ルジャンドル多項式)であり、実際の処理においては、直交基底関数Pi(γ)は、以下の(3-1)及び(3-2)式に示すルジャンドル直交関数の近似式(漸化式)で与えられる。すなわち、直交基底関数Pi(γ)が、ルジャンドル多項式の各基底となるPi(x)で近似される。
0(x)=1、P1(x)=x ・・・(3-1)
i(x)=ai*Pi-2(x)+bi*x*Pi-1(x) ・・・(3-2)
但し、ai=(i−1)/i、bi=(2i−1)/i
図6は、上記(3-1)及び(3-2)式により画像データF(I)を直交基底関数Pi(x)に展開したものをグラフ化したものである。ただし、図6にはPi(x)(i=0〜6;0次から6次まで)の場合が示されており、7次以降は図略としている。
なお、基画像Iに対する当該直交基底関数Pi(x)への展開により得られる画像データはPi(I)と示される。ただし、基画像Iが重み付け処理されたF(I)に対してこのPi(x)が適用されることから、実際には、画像データPi((F(I))とされるべきであるが、説明の便宜上、画像データPi(I)と簡略化して表現するものとする。
また、上記展開処理部62は、上記(3-1)、(3-2)式を用いた直交基底関数Pi(x)への展開によって画像データF(I)の領域分割を行う(入力画像レベルの区間分割を行う)。展開処理部62における各処理ブロック62a〜62cは、この直交基底関数Pi(x)、すなわちP1(x)、P2(x)、P3(x)、…PN(x)(i=1〜N)に対応するものとして備えられている。
LPF処理部622は、直交関数展開部621で得られた各直交基底関数Pi(x)(画像データPi(I))に対し、所定のLPF(ローパスフィルタ;低域通過フィルタ)を用いたLPF処理を行うものであり、画像データPi(I)に対する空間的な高周波成分をカットする。ただし当該LPF処理は、所定のカットオフ周波数(後述のΩ、Ωi)に基づいて行われる。具体的には、LPF処理部622は、このLPF処理により、空間的な局所ヒストグラムイコライゼーションの係数を算出する。なお、このLPF処理は所定画素数毎に平均して(例えば64画素平均)行われる。
ところで上記ヒストグラムイコライゼーション(以降、HEと表す)とは、画像の濃淡のヒストグラムをとり、頻度の高い濃淡領域は拡大し、頻度の低い濃淡領域は縮小するような階調変換を行い、変換後のヒストグラムが一様となるようにする画像処理であり、このHE処理は、微妙な濃淡が広い領域に亘って存在するような画像では、その部分のコントラストが高くなる反面、頻度の低い濃淡の領域のコントラストが低下するという特徴がある。
積分処理部623は、上述のようにルジャンドルの直交関数を用いて画像データF(I)を直交基底関数Pi(x)へ展開し、さらに、この展開による画像データPi(I)に対する積分処理(各直交基底関数Pi(x)に対する0からxまでの不定積分)を行うものである。ただし、積分処理部623での当該関数Pi(x)への展開演算は、直交関数展開部621における展開演算とは別のものである。積分処理部623は、この積分処理によって、各直交基底関数Pi(x)に対応する(各基底が表現する)各輝度領域における画像データを算出する。この積分処理によって得られる各領域の画像データは、基画像(基画像Iの輝度レベル)に近い画像データとなる。積分処理部623による上記積分処理に用いられる積分関数Qi(x)は、以下の(4-1)式により近似される。
i(x)=(1/(2*i+1))*(Pi+1(x)−Pi-1(x))・・・(4-1)
なお、基画像Iに対する当該積分関数Qi(x)の積分処理により得られる画像データはQi(I)と示される。ただし、この場合も上記Pi((F(I))と同様、Qi((F(I))とされるべきところ、説明の便宜上、画像データQi(I)と簡略化して表現するものとする。
乗算部624は、上記LPF処理部622において算出された局所ヒストグラムイコライゼーションの係数と、積分処理部623において算出された画像データQi(I)との乗算処理を行うものである。この乗算部624における乗算処理により得られた画像を、画像PQi(I)と表す。
総和算出部63は、展開処理部62の各処理ブロック62a〜62c(乗算部624)において算出された各画像PQi(I)の総和(i=1からNまで)を算出するものである。換言すれば、総和算出部63は、展開処理部62で一旦展開(領域分割)された各基底(直交基底関数データ)を合算して元の(サイズの)画像に合成し直すものである。この総和算出部63による各基底の総和算出により、対数特性側のコントラストが強調され線形特性側のコントラストが抑えられた画像(コントラスト調整画像)が得られる。
重み付け加算部64は、総和算出部63により得られた画像(コントラスト調整画像I’と表す)と基画像Iとに対して、変換度合い(変換の強さ)を示す所定の定数α(強調係数αという)による重み付け加算を行うものである。具体的には、重み付け加算部64は、乗算部641、642、及び加算部643を備え、乗算部641によりコントラスト調整画像I’に対して強調係数αを掛け合わせ(画像αI’と表す)、一方、乗算部642により基画像Iに対して強調係数(1−α)を掛け合わせ(画像(1−α)Iと表す)、加算部643によってこれら画像αI’と画像(1−α)Iとを加算することで当該強調係数αによる重み付けを行う。このように重み付け加算されることにより、基画像I(x、y)の自然な輝度情報を残しつつ、コントラストが改善された好適な出力画像IOUT(x、y)が得られる。
以上のようにして、入力画像Iに対し、重み付け処理(強調変換)、展開処理(直交関数展開、LPF処理及び積分処理等)、総和算出処理、及び重み付け加算処理が施され、その結果、出力画像IOUTが得られる。これらの一連の動作は以下の(5-1)式で纏めることができる。
Figure 2006173671
但し、Pi(γ):直交基底関数(0<γ<1)(Pi(x)で近似される)
F(I):基画像Iが重み付け関数F(x)により重み付け処理されて得られる画像(F(I)は、(5-1)式における強調係数を表すものであるともいえる。)
α:基画像Iに応じて強調度合を決める強調係数
LPFΩ[…]:空間ローパスフィルタ処理
Ω:上記空間ローパスフィルタのカットオフ周波数
Qi(F(I)):Pi(γ)(近似されたPi(x))に対する0からF(I)までの積分処理(積分関数はQi(x)で近似される)
ところで、上記強調係数αは、図2において示されるように、各処理ブロック62a〜62cでそれぞれ求められた画像PQ1(I)、PQ2(I)、…PQN(I)を総和算出部63で合算した後のコントラスト調整画像I’に対して、一括して(乗算部641において)掛け合わされているが、この強調係数αを、各処理ブロック62a〜62cそれぞれに対する個別の強調係数αi(即ちα1、α2、…αN)として設定しておき、これら各強調係数αiを、総和算出部63で合算される前段階の上記画像PQi(I)(i=1〜N)に対してそれぞれ掛け合わせる構成としてもよい。この強調係数αiの画像PQi(I)に対する掛け合わせ演算は、各処理ブロック62a〜62cの例えば乗算部624において実行されてもよい。この場合、図2において乗算部641を削除した構成としてもよい。また、上記乗算部642において掛け合わされる強調係数(1−α)(具体的には画像(1−α)I)は、これに相当する後述の強調係数β(I)として別途設定される。
この構成の場合、上記(5-1)式は以下の(6-1)式で表される。
Figure 2006173671
但し、αi(I):基画像Iに応じて強調度合を決めるi毎の強調係数
β(I):基画像Iに応じて強調度合を決める強調係数
LPFΩi[…]:空間ローパスフィルタ処理
Ωi:上記空間ローパスフィルタのカットオフ周波数
なお、上記(5-1)式の場合は、(6-1)式の場合における各αi(I)の値(各処理ブロック62a〜62cで用いられる強度係数の値)がいずれも同じ値となる場合であるということもできる。またこの場合も、F(I)は上記(6-1)式における強調係数を表すものとなる。
ここで、上記(6-1)式における強調係数αi(I)、β(I)は、図7における強調係数のグラフ図に示すように、画像Iのレベルが(0から1へ)大きくなるほど、強調係数αi(I)は増加し、強調係数β(I)は減少するように設定される。換言すれば、強調係数αi(I)、β(I)は、画像Iに応じて変化するものであるといえる。この図7におけるαi(I)、β(I)の特性は、以下の(7-1)、(7-2)式により示される。
低輝度領域71:αLin=k*(1/a)*X ・・・(7-1)
高輝度領域72 :αLog=t*(10^(X−β)/α)(β=1.0)・・・(7-2)
但し、αi(I)の特性は、
αLin<αLogとなる範囲では、
αi(I)=αLog
それ以外では(αLin≧YLogとなる範囲では)、
αi(I)=αLin
と表される。
一方、β(I)=1−αi(I)で与えられ、αi(I)の特性(グラフ)とは反対の特性となる(図7に示すように上下で鏡面対称な特性となる)。なお、β(I)をαi(I)の変化に依らず別に設定してもよい。
このようにαi(I)及びβ(I)の特性は、いずれも低輝度領域71と高輝度領域72とで傾きが異なり(また互いに反対の増減特性を有しており)、画像レベルつまり撮像センサ3による撮影画像が有する光電変換特性に対応したものとなっている。同図の画像レベル「0.8」の位置は、図4に示す光電変換特性40の変曲点41での出力レベル「0.8」に対応している。
なお、図7においても、上記図17(a)での説明と同様、光電変換特性の1つの変曲点に対して、強調係数(各強調係数αi(I)、β(I))に2箇所の切り替え点(強調係数の変化特性を切り替える点)は必要なく、この場合も例えばこの2箇所の切り替え点(特性式の交点)のうちの値の大きい方を採用するものとする。また、変曲点が複数個存在する光電変換特性の画像に対して強調係数の設定を行う場合も、上記図17(b)での説明と同様、この複数個の変曲点に対応して、強調係数における当該切り替え点が複数個設定されるものとなる。
出力画像IOUTとしては、αi(I)が大きな値をとるほどコントラスト強調が強くなることから、図7に示す場合、画像Iのレベルが小さい側、すなわち低輝度側(低輝度領域71側)においてはαi(I)の値が小さくコントラスト強調の度合いが小さく(抑えられ)、画像Iのレベルが大きい側、すなわち高輝度側(高輝度領域72側)においてはαi(I)の値が大きくコントラスト強調の度合いが大きなものとなっている。なお、本実施形態での強調係数の変化特性は、例えば図25(a)や図25(b)に示す従来の場合の強調係数の変化特性(画像レベルの増加に、伴いαi(I)が減少してβ(I)が増加する)と比較して、増減変化が逆の特性となっている。
なお、上記(5-1)式に対しても図7と同様の強調係数の変化特性が与えられる。この場合、図7に示す「αi(I)」が「α」に置き換えられ、「β(I)」が「(1−α)I」に置き換えられる。
このように、強調係数αi(I)、β(I)(又はα、1−α)を用いた補正処理が可能な構成とすることで、基画像Iに対して重み付け処理(強調変換)や各展開処理(LPF処理等)が施されてなる、対数特性側のコントラストが強調され線形特性側のコントラストが抑えられたコントラスト調整画像に対し、さらに、強調係数αi(I)、β(I)(又はα、1−α)による同コントラスト強調に関する処理が行えるようになるため、より自由度の高いかつ高精度のコントラスト改善処理を実現することが可能となる。
次に、上述で説明した図2の各処理部での画像処理について、該各処理によって得られる画像データのグラフ図を用いてより具体的に説明する。なお、従来との差違を明確にするべく、適宜、従来の場合に得られる画像データ(グラフ図)と比較しながら説明する。
図8は、本実施形態における画像処理が施される低輝度側及び高輝度側の画像データの一例であり、すなわち、本実施形態のコントラスト改善に関して注目される低輝度側と高輝度側との画像データの変化の様子を明示するべく設定した画像データであり、(a)は符号801に示す低輝度側のコントラストが低い場合の画像データ(画像データ801)、(b)は符号802に示す高輝度側のコントラストが低い場合の画像データ(画像データ802)を示している。
ただし、符号803、804には、当該画像データ801、802に示す低輝度側及び高輝度側の画像データの変化、輝度レベル信号の“山”の形状(振幅・周期)の変化と比較するための信号データを示している(以降の図10〜14、図21〜24、図26についても同じ)。なお、コントラスト強調処理は、この画像データ801と画像データ803と(画像データ802と画像データ804と)に示す左右の振幅の差(比)を小さくすることが目的であり、本実施形態においては、撮像センサ3が対数領域にて撮像した高輝度側の画像の振幅を強調することが目的となる。
なお、図8に示す画像データは、図2の入力画像Iに相当するものである。(ただし、上述した入力画像I(x、y)は2次元画像であるが、ここでは1次元画像として説明している。以降の図についても同じ)また、図8の縦軸は輝度レベルを、横軸は画素番号を示している(以降、図10〜14、図21〜24、図26についても同じ)。以降の説明において適宜、図8(a)の画像データを画像I1、図8(b)の画像データを画像I2とする。
先ず、図2において、画像I1、I2からなる入力画像Iが画像処理部6へ入力されるとする。この画像I1、I2に対し、強調変換部61において、図9に示す画像変換テーブルを用いた画像変換処理、すなわち対数領域側の変換特性の傾きが線形特性側の傾きよりも大きな重み付け関数56(=F(x))による重み付け処理が施され(この重み付け関数56は、上記(1-1)、(1-2)式における「a」=2、「α」=0.4となる場合の一例を示している)、この結果、図10(a)、(b)に示す画像データが得られる。
図10(a)は、図8(a)の低輝度側の画像データに対する重み付け処理の結果であり、上記画像データ801が、該画像データ801の振幅805がその振幅よりも小さい振幅813となるよう画像データ811へ変換される。この場合、図8(a)に示す画像データ803における高輝度側の輝度データ間の幅L1が、図10(a)に示す画像データ815における高輝度側の輝度データ間の幅L1’と大きくなり(広がり)、また、同様に低輝度側の輝度データ間の幅L2が幅L2’と小さくなる(狭まる)ように変換されることが示される。さらに、当該変換は、符号C1に示す画像データ803の各波形の山の頂点部の形状が、画像データ815の符号C1’に示すように急峻な(尖った)山形状となるような変換であることが示されている。
同様に、図10(b)は、図8(b)の高輝度側の画像データに対する重み付け処理の結果であり、画像データ802の振幅806がその振幅よりも大きな振幅814となるよう画像データ812へ変換される。この場合、図8(b)に示す画像データ804における高輝度側及び低輝度側それぞれの輝度データ間の幅L3及び幅L4が、図10(b)に示す画像データ816での間隔の広まった幅L3’及び間隔の狭まった幅L4’となるような変換がなされる。なお、この場合も符号C2に示す画像データ804の各波形の山の頂点部の形状が、画像データ816の符号C2’に示すように急峻な(尖った)山形状となるような変換であることが示されている。強調変換部61では、このように重み付けによる画像変換(強度変換)が行われ、高輝度側のコントラストが強調され、低輝度側のコントラストが抑えられた画像データF(I)が得られる。
ところで、図8(a)、(b)に示す低輝度側及び高輝度側の画像データに対し、上記従来における図19に示す画像変換テーブル、ここでは、図20に示すΔ=0.03の場合の画像変換テーブルを用いて重み付け処理(画像変換)を施した場合には、図21(a)、(b)に示すような画像データ(信号波形)となる。図21(a)、(b)における画像データ901、902は、それぞれ低輝度側、高輝度側の画像データであり、重み付け処理による、図8における画像データ801、802の図10に示す画像データ811、812への変化とは逆に、低輝度側(線形特性領域)の画像データの振幅が増大してコントラストがより強調され、高輝度側(対数特性領域)の画像データの振幅は減衰してコントラストが低下してしまう結果となる。
次に、この画像変換された図10に示す画像データF(I)は、展開処理部62つまり直交関数展開部621において、図6に示すようにルジャンドルの直交関数(直交基底関数Pi(x))に展開される(積分処理部623でも積分処理前段階において当該展開処理が行われる)。この展開された画像データは図11(a)、(b)に示すものとなる。図11には、1次と2次の直交基底関数P1(x)、P2(x)のみを示している(3次以降のPi(x)は図示略)。なお、展開により得られた直交基底関数P1(x)及びP2(x)は、図11中に併せて記載しているが、これらP1(x)、P2(x)は、実際には展開処理部62の各処理ブロックにおける展開処理によって個々に得られるものである。
図10(a)に示す画像データ811は、図11(a)に示す画像データ821(P1(x))、画像データ822(P2(x))、…画像データPN(x)にそれぞれ展開され、図10(b)に示す画像データ812は、図11(b)に示す、P1(x)である画像データ823(P1(I))、P2(x)である画像データ824(P2(I))、…画像データPN(I)にそれぞれ展開される。なお、当該展開により得られる直交基底関数の各次の画像データの振幅はそれぞれ異なるものとなる。図11(a)においは、P2(x)での振幅は、P1(x)での振幅よりも小さなものとなり(殆ど平滑化されている)、図11(b)においては、P2(x)での振幅はP1(x)での振幅よりも大きなものとなっている。以降、直交基底関数Pi(x)は、この1次及び2次のP1(x)及びP2(x)を用いて説明する。
なお、上記従来の画像変換テーブル(図20)による画像変換により得られた図21(a)、(b)に示す画像データ901、902それぞれに対して、当該ルジャンドル直交関数による展開(P1(x)、P2(x))処理を施した場合には、図22(a)、(b)に示すような信号波形の画像データ911、912となる。
次に、この直交基底関数への展開により得られた図11(a)、(b)に示す画像データは、それぞれLPF処理部622においてLPF処理(64画素平均)が施され、図12(a)、(b)に示す画像データとなる。すなわち、図11(a)に示すP1(x)に対する画像データ821及びP2(x)に対する画像データ822は、LPF処理により画像データ831、832へと変化し、同じく図11(b)に示す画像データ823(P1(x))及び画像データ824(P2(x))は、LPF処理により画像データ834、835へと変化する。このように、直交基底関数展開された低輝度側及び高輝度側の画像データは、いずれも空間的な高周波成分がカットされ、所謂なだらかな山をもつ波形(振幅の小さい波形)に変化する。画像データ821のように既に振幅も小さくなだらかな波形であるものは山のない平坦化された画像データとなる。なお、図11(a)、(b)に示す急峻な立ち上がり波形をもつ画像データ825、826が、図12(a)、(b)に示す山の低いなだらかな波形をもつ画像データ833、836へと変化することからも、上記LPF処理による画像データの波形変化が明示される。
なお、上記従来の画像変換テーブル(図20)の適用に基づいて図22(a)、(b)に示すように各基底に展開された画像データそれぞれに対し、当該LPF処理を施した場合、図23(a)、(b)に示すような信号波形の画像データ921(低輝度側)及び画像データ922(高輝度側)となる。この場合も、上記図12(a)、(b)に示す低輝度及び高輝度側の画像データと比較して、画像データ921、922における振幅の大小が逆となっている。つまり、低輝度側の振幅の方が高輝度側の振幅よりも大きくなっている。
一方、強調変換部61において画像変換(F(I))された図10(a)、(b)に示す画像データ811、812は、それぞれ積分処理部623において上記と同様に直交基底関数Pi(x)(ここではP1(x)、P2(x))へ展開され、さらにこの展開した直交基底関数Pi(x)に対して積分処理が施されることで、図13(a)の画像データ841、842、及び図13(b)の画像データ843、844となる。
なお、上記従来の画像変換テーブル(図20)の適用に基づいて図22(a)、(b)に示すように各基底に展開された画像データを用いて当該積分処理を行った場合、図24(a)、(b)に示すような信号波形の画像データ931(低輝度側)及び画像データ932(高輝度側)となる。
続いて、展開処理部62の各処理ブロック毎に(各基底毎に)、上記LPF処理部622によるLPF処理の結果得られた画像データ(図12)と、積分処理部623による積分処理の結果得られた画像データ(図13)とを乗算部624によって乗算した後(各輝度領域において局所HE処理を行った後)、具体的には、図12(a)における低輝度側の画像データ831、832と、図13(a)における低輝度側の画像データ841、842とを同じ次数同士(即ち同図中のLPF[P1(x)]とQ1(x)、LPF[P2(x)]とQ2(x))で乗算し、同様に、図12(b)における高輝度側の画像データ834(LPF[P1(x)])及び画像データ835(LPF[P2(x)])と、図13(b)における高輝度側の画像データ844(Q1(x))及び画像データ843(Q2(x))とを同じ次数同士で乗算し、当該乗算によって各基底毎に得られた画像データの総和を総和算出部63により求める。
そして、この総和により得られた低輝度側及び高輝度側それぞれのコントラスト調整画像I’と、ルートBを送信されてきた基画像I(図8(a)、(b)にそれぞれ示す基画像I1及びI2)とを、強調係数α(強調係数1−α)を用いて重み付け加算部64により重み付け加算処理することにより、図14(a)、(b)に示す低輝度側の画像データ851及び高輝度側の画像データ852が得られる。このように、低輝度側の画像データ(輝度レベル)は、図8(a)の画像データ801が図14(a)の画像データ851となるよう変化し、高輝度側の画像データは、図8(b)の画像データ802が図14(b)の画像データ852となるように変化することから、本実施形態による画像処理により、低輝度側のコントラストを抑制(維持)しつつ、高輝度側のコントラストが強調された画像を得ることが可能となる。
なお、上記従来の画像変換テーブル(図20)の適用に基づいて得られた図23に示す画像データ(LPF処理されたもの)と、図24に示す積分処理された画像データとを同じ次数の直交基底関数同士で乗算し、当該各基底毎の画像データの総和を求め、強調係数α(強調係数1−α)を用いて重み付け加算処理を行った場合に得られる画像データは、図26(a)、(b)に示すような信号波形をもつ画像データ941(低輝度側)及び画像データ942(高輝度側)となる。この場合、上記図14(a)、(b)に示す各画像データ851及び画像データ852における振幅の大小関係とは逆に、画像データ941の振幅が画像データ942の振幅よりも大きなものとなっており、低輝度側のコントラストがより強調される画像処理となる。
図15は、デジタルカメラ1における画像処理部6での画像処理動作の一例を示すフローチャートである。先ず画像処理部6に基画像Iが入力される(ステップS1)。この入力された基画像Iに対し、強調変換部61によって、画像変換テーブルを用いた画像変換による重み付け処理がなされる(ステップS2)。そして、展開処理部62(直交関数展開部621及び積分処理部623)によって、この重み付け処理された画像データ(F(I))が、例えばルジャンドルの直交関数((Pi(x))による展開処理に基づいて輝度領域分割される(ステップS4)。輝度領域分割された各画像データ(Pi(I))は、各処理ブロック62a〜62cにおいて、LPF処理部622によるLPF処理が行われる(ステップS4)とともに、積分処理部623による積分処理が行われる(ステップS5)。そして、乗算部624によって、当該LPF処理により得られた画像データ(局所HEの係数)と積分処理により得られた画像データ(Qi(I))とが乗算処理される(ステップS6)。さらに、この乗算処理により得られた各基底に対する画像PQi(I)(i=1〜N)が、総和算出部63によって合算され(ステップS7)、重み付け加算部64によって、総和算出部63により得られたコントラスト調整画像I’と基画像Iとの強調係数α(強調係数1−α)を用いた重み付け加算が行われ(ステップS8)、出力画像IOUTとして画像処理部6から出力される(ステップS9)。
なお、強調係数αの替わりに、基画像Iに応じて強調度合を決めるi毎(直交基底関数Pi(I)の各次数毎)に設定される強調係数αi(I)を用いる場合には、上記ステップS6における乗算処理時に当該強調係数αi(I)が各画像PQi(I)(i=1〜N)に対して掛け合わされる。そして、上記ステップS8において、強調係数β(I)を用いたコントラスト調整画像I’と基画像Iとの重み付け加算処理が行われる。
以上のように、本実施形態の撮像装置(デジタルカメラ1)によれば、撮像センサ3(固体撮像素子)は、異なる光電変換特性を2つ以上有している、すなわち異なる2つ以上の光電変換特性からなる光電変換特性(例えば図3に示す線形特性領域と対数特性領域とからなる光電変換特性)を有しており、当該異なる光電変換特性は、低輝度側より高輝度側の方が低コントラストであって、画像処理部6による(1)式に基づいた演算処理において、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくなるため、低輝度側より高輝度側の方が低コントラストである画像(線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像I)の高画質化(コントラスト性向上)を図ることが可能となる。
また、(1)式におけるαi(I)、β(I)にて表される強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きいため、上記強調係数としてのF(I)による強調度合の調整に対して、さらに当該αi(I)、β(I)を用いた、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる強調度合調整を行うことができ、より自由度の高い且つ高精度な強調度合調整を行うことが可能となる。
また、低輝度側より高輝度側の方が低コントラストである2つ以上の異なる光電変換特性を有する撮像センサ3からの撮像信号に対する、画像処理部6による(2)式に基づいた演算処理において、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくなるため、低輝度側より高輝度側の方が低コントラストである画像(線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像I)の高画質化(コントラスト性向上)を図ることが可能となる。
また、本実施形態の画像処理方法によれば、異なる光電変換特性を2つ以上有している、すなわち異なる2つ以上の光電変換特性からなる光電変換特性(例えば図3に示す本実施形態における線形特性領域と対数特性領域とからなる光電変換特性)を有している撮像センサ3からの撮像信号が、(3)式に基づいて画像処理部6により演算処理され、当該異なる光電変換特性は、低輝度側より高輝度側の方が低コントラストであって、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくされるため、低輝度側より高輝度側の方が低コントラストである画像(ここでは線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像I)の高画質化(コントラスト性向上)を図ることが可能となる。
また、低輝度側より高輝度側の方が低コントラストである2つ以上の異なる光電変換特性を有する撮像センサ3からの撮像信号が、(4)式に基づいて画像処理部6により演算処理され、少なくとも画像F(I)にて表される強調係数が低輝度側より高輝度側の方が強調度合が大きくされるため、低輝度側より高輝度側の方が低コントラストである画像(線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像)の高画質化(コントラスト性向上)を図ることが可能となる。
また、本実施形態の撮像装置(デジタルカメラ1)によれば、撮像センサ3(撮像手段)は異なる光電変換特性を2つ以上有し、強調変換部61(画像変換手段)によって、撮像センサ3による撮像によって得られる基画像Iに対して所定の重み付けを行うための画像変換特性に基づいて画像変換が行われ、展開処理部62(直交関数展開部621、積分処理部623;展開手段)によって、強調変換部61による画像変換によって得られる変換画像が所定の直交基底関数に展開され、LPF処理部622(フィルタ処理手段)によって、直交関数展開部621による展開によって得られる基底毎の展開画像に対する所定のフィルタ処理(LPF処理)が行われ、積分処理部623(積分手段)によって、展開画像に対する積分処理が行われ、乗算部624(乗算手段)によって、積分処理部623による積分処理によって得られる積分画像とLPF処理部622によるフィルタ処理によって得られるフィルタ処理画像とが乗算され、総和算出部63(総和算出手段)によって、乗算部624による乗算によって得られる基底毎の乗算画像PQi(I)の総和が算出され、重み付け加算部64(乗算部641、642、及び加算部643;加算手段)によって、総和算出部63による総和算出によって得られる総和画像(コントラスト調整画像I’)と基画像Iとが加算され、そして、異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、重み付けによる強調度合が低輝度側より高輝度側の方が大きな画像変換特性に基づいて当該強調変換部61により画像変換が行われる。
このように、低輝度側より高輝度側の方が低コントラストである光電変換特性をもつ撮像センサ3による撮影画像(基画像I)が、重み付けの強調度合が低輝度側より高輝度側の方が大きな画像変換特性に基づいて画像変換され、当該変換画像が直交基底関数に展開された展開画像に対してフィルタ処理が施されたフィルタ処理画像と、展開画像が積分処理された積分画像とが乗算されて乗算画像とされ、この乗算画像PQi(I)の全基底に対する総和(総和画像)が求められ、さらにこの総和画像と基画像Iとが加算された画像が得られることから、低輝度側より高輝度側の方が低コントラストである画像(線形/対数画像)に対して、低輝度側のコントラストを抑えつつ(維持しつつ)高輝度側のコントラストを向上(改善)させることができ、ひいては撮影画像(線形/対数画像、基画像I)の高画質化(コントラスト性向上)を図ることが可能となる。
また、重み付け手段によって、総和画像(コントラスト調整画像I’)及び基画像I、又は乗算画像PQi(I)及び基画像Iの各画像に対して所定の強調係数を用いた重み付けが行われ、この各画像に対する強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きくされるため、上記強調係数としての変換画像による強調度合の調整に対して、さらに当該各画像に対する強調係数を用いた、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる強調度合調整を行うことができ、より自由度の高い且つ高精度な強調度合調整を行うことが可能となる。
さらに、撮像センサ3が、図3に示すように異なる光電変換特性として線形特性と対数特性とを有する、すなわち、撮像手段が線形特性領域と対数特性領域との(2つの)異なる特性からなる光電変換特性を有するものとされるため、当該撮像センサ3によって得られる画像は線形/対数画像となり、この線形/対数画像に対する、低輝度側のコントラストを抑えつつ高輝度側のコントラストを向上させる画像処理の適用が可能となる。なお、本発明は、以下の態様をとることができる。
(A)上記実施形態では、ルジャンドルの直交関数を用いて画像データ(F(I))の展開処理を行っているが、これに限らず、直交基底関数に展開可能であれば、例えばフーリエ級数を用いた展開など、いずれの方法(関数)であってもよい。
(B)図18に示すように、デジタルカメラ1(撮像センサ3)の撮像により得られた画像データに対する上述のコントラスト改善処理(ダイナミックレンジ圧縮処理)は、画像処理部6において実行せずに、例えばデジタルカメラ1と直接接続又はネットワーク接続された、或いはストレージメディアM等を用いて情報伝達可能とされた所定の情報処理装置(例えばPC100)での画像処理によってなされる構成でもよい。ただし、既にデジタルカメラ1においてコントラスト改善処理が施されている場合には、当該画像データが情報伝達された情報処理装置において、その他の画像処理やマニュアル操作によるさらなるコントラスト改善処理が行われてもよい。
(C)図2に示す重み付け加算部64におけるコントラスト調整画像I’と基画像Iとの加算処理において、強調係数α(強調係数1−α)を用いず(掛け合わせず)に単に画像I’と画像Iとを加算する構成としてもよい。強調係数αi(I)、β(I)の場合は、各処理ブロック62a〜62cの乗算部624において強調係数αi(I)を用いず、また重み付け加算部64において強調係数β(I)を用いずに単に画像I’と画像Iとの加算処理を行う構成としてもよい。
本実施形態に係る撮像装置の一例であるデジタルカメラであり、当該デジタルカメラの主に撮像処理に関する概略的なブロック構成図である。 画像処理部におけるダイナミックレンジ圧縮処理(コントラスト改善処理)に関する一回路構成例を示す機能ブロック図である。 上記デジタルカメラに用いられる撮像センサの光電変換特性の一例を示すグラフ図である。 上記デジタルカメラに用いられる撮像センサの光電変換特性の一例を示すグラフ図である。 重み付け関数F(x)を有する画像変換テーブルの一例を示すグラフ図である。 ルジャンドルの直交関数による展開について説明するグラフ図である。 強調係数αi(I)、β(I)の変化の一例を示すグラフ図である。 本実施形態における画像処理が施される低輝度側及び高輝度側の画像データの一例を示す図であり、(a)は低輝度側のコントラストが低い場合の画像データ、(b)は高輝度側のコントラストが低い場合の画像データを示すグラフ図である。 画像変換テーブルの一例を示すグラフ図である。 図8に示す画像データに対する重み付け処理の結果の一例を示す図であり、(a)は、図8(a)に示す低輝度側の画像データに対する重み付け処理の結果を示すグラフ図であり、(b)は、図8(b)に示す高輝度側の画像データに対する重み付け処理の結果を示すグラフ図である。 図10に示す画像データに対するルジャンドルの直交関数による展開処理の結果の一例を示す図であり、(a)は、図9(a)に示す低輝度側の画像データに対する展開処理の結果を示すグラフ図であり、(b)は、図9(b)に示す高輝度側の画像データに対する展開処理の結果を示すグラフ図である。 図11に示す画像データに対するLPF処理の結果の一例を示す図であり、(a)は、図10(a)に示す低輝度側の画像データに対するLPF処理の結果を示すグラフ図であり、(b)は、図10(b)に示す高輝度側の画像データに対するLPF処理の結果を示すグラフ図である。 図11に示す画像データに対する積分処理の結果の一例を示す図であり、(a)は、図11(a)に示す低輝度側の画像データに対する積分処理の結果を示すグラフ図であり、(b)は、図11(b)に示す高輝度側の画像データに対する積分処理の結果を示すグラフ図である。 図12、13に示す画像データに基づく、乗算処理、総和算出処理、及び重み付け加算処理の結果の一例を示す図であり、(a)は、図12(a)及び図13(a)に示す低輝度側の画像データに対する当該各処理の結果を示すグラフ図であり、(b)は、図12(b)及び図13(b)に示す高輝度側の画像データに対する当該各処理の結果を示すグラフ図である。 上記デジタルカメラにおける画像処理の動作の一例を示すフローチャートである。 本実施形態の画像処理が適用される撮像センサの光電変換特性の一変形例を示すグラフ図である。 光電変換特性の変曲点と画像変換テーブルの切り替え点とについて説明するグラフ図である。 本実施形態の画像処理に対する一変形例について説明するブロック構成図である。 従来の画像変換テーブルを示すグラフ図である。 従来の画像変換テーブルを示すグラフ図である。 図8に示す画像データに対して図20に示す従来の画像変換テーブルによる重み付け処理を行った結果の一例を示す図であり、(a)は、図8(a)に示す低輝度側の画像データに対する当該重み付け処理の結果を示すグラフ図であり、(b)は、図8(b)に示す高輝度側の画像データに対する当該重み付け処理の結果を示すグラフ図である。 図21に示す画像データに対するルジャンドルの直交関数による展開処理の結果の一例を示す図であり、(a)は、図21(a)に示す低輝度側の画像データに対する展開処理の結果を示すグラフ図であり、(b)は、図21(b)に示す高輝度側の画像データに対する展開処理の結果を示すグラフ図である。 図22に示す画像データに対するLPF処理の結果の一例を示す図であり、(a)は、図22(a)に示す低輝度側の画像データに対するLPF処理の結果を示すグラフ図であり、(b)は、図22(b)に示す高輝度側の画像データに対するLPF処理の結果を示すグラフ図である。 図22に示す画像データに対する積分処理の結果の一例を示す図であり、(a)は、図22(a)に示す低輝度側の画像データに対する積分処理の結果を示すグラフ図であり、(b)は、図22(b)に示す高輝度側の画像データに対する積分処理の結果を示すグラフ図である。 従来における強調係数αi(I)、β(I)の変化を示すグラフ図である。 図23、24に示す画像データに基づく、乗算処理、総和算出処理、及び重み付け加算処理の結果の一例を示す図であり、(a)は、図23(a)及び図24(a)に示す低輝度側の画像データに対する当該各処理の結果を示すグラフ図であり、(b)は、図23(b)及び図24(b)に示す高輝度側の画像データに対する当該各処理の結果を示すグラフ図である。
符号の説明
1 デジタルカメラ(撮像装置)
3 撮像センサ(固体撮像素子、撮像手段)
6 画像処理部
40 光電変換特性
42 線形特性領域(請求項1記載の異なる光電変換特性に相当)
43 対数特性領域(請求項1記載の異なる光電変換特性に相当)
54 低輝度領域
55 高輝度領域
61 強調変換部(画像変換手段)
62 展開処理部(展開手段)
62a〜62c 処理ブロック
621 直交関数展開部
622 LPF処理部(フィルタ処理手段)
623 積分処理部(積分手段)
624 乗算部(乗算手段)
63 総和算出部(総和算出手段)
64 重み付け加算部(加算手段、重み付け手段)
71 低輝度領域
72 高輝度領域
641、642 乗算部
643 加算部
805、806、813、814 振幅
αi(I)、α 強調係数
β(I) 強調係数

Claims (9)

  1. 異なる光電変換特性を2つ以上有する固体撮像素子と、
    前記固体撮像素子からの撮像信号を下記(1)式に基づいて演算処理する画像処理部とを備え、
    Figure 2006173671
    但し、Pi(γ):直交基底関数(0<γ<1)
    F(I):基画像Iが重み付け関数F(x)により重み付け処理されて得られる画像
    αi(I):基画像Iに応じて強調度合を決めるi毎の強調係数
    β(I):基画像Iに応じて強調度合を決める強調係数
    LPFΩi[…]:空間ローパスフィルタ処理
    Ωi:上記空間ローパスフィルタのカットオフ周波数
    Qi(F(I)):Pi(γ)に対する0からF(I)までの積分
    前記異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、少なくとも前記F(I)にて表される強調係数は低輝度側より高輝度側の強調度合が大きいことを特徴とする撮像装置。
  2. 前記(1)式におけるαi(I)、β(I)にて表される強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きいことを特徴とする請求項1記載の撮像装置。
  3. 前記画像処理部は、下記(2)式に基づいて前記演算処理を実行するものであって、
    Figure 2006173671
    但し、α:基画像Iに応じて強調度合を決める強調係数
    LPFΩ[…]:空間ローパスフィルタ処理
    Ω:上記空間ローパスフィルタのカットオフ周波数
    前記異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、少なくとも前記F(I)にて表される強調係数は低輝度側より高輝度側の強調度合が大きいことを特徴とする請求項1又は2記載の撮像装置。
  4. 異なる光電変換特性を2つ以上有する固体撮像素子からの撮像信号を下記(3)式に基づいて画像処理部により演算処理する画像処理方法であって、
    Figure 2006173671
    但し、Pi(γ):直交基底関数(0<γ<1)
    F(I):基画像Iが重み付け関数F(x)により重み付け処理されて得られる画像
    αi(I):基画像Iに応じて強調度合を決めるi毎の強調係数
    β(I):基画像Iに応じて強調度合を決める強調係数
    LPFΩi[…]:空間ローパスフィルタ処理
    Ωi:上記空間ローパスフィルタのカットオフ周波数
    Qi(F(I)):Pi(γ)に対する0からF(I)までの積分
    前記異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、少なくとも前記F(I)にて表される強調係数を低輝度側より高輝度側の強調度合を大きくすることを特徴とする画像処理方法。
  5. 前記(3)式におけるαi(I)、β(I)にて表される強調係数のいずれか又は両方を低輝度側より高輝度側の強調度合を大きくすることを特徴とする請求項4記載の画像処理方法。
  6. 前記演算処理を下記(4)式に基づいて実行する画像処理方法であって、
    Figure 2006173671
    但し、α:基画像Iに応じて強調度合を決める強調係数
    LPFΩ[…]:空間ローパスフィルタ処理
    Ω:上記空間ローパスフィルタのカットオフ周波数
    前記異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、少なくとも前記F(I)にて表される強調係数を低輝度側より高輝度側の強調度合を大きくすることを特徴とする請求項4又は5記載の画像処理方法。
  7. 異なる光電変換特性を2つ以上有する撮像手段と、
    前記撮像手段による撮像によって得られる基画像に対して所定の重み付けを行うための画像変換特性に基づき画像変換を行う画像変換手段と、
    前記画像変換手段による画像変換によって得られる変換画像を所定の直交基底関数に展開する展開手段と、
    前記展開手段による展開によって得られる基底毎の展開画像に対する所定のフィルタ処理を行うフィルタ処理手段と、
    前記展開画像に対する積分処理を行う積分手段と、
    前記積分手段による積分処理によって得られる積分画像と前記フィルタ処理手段によるフィルタ処理によって得られるフィルタ処理画像とを乗算する乗算手段と、
    前記乗算手段による乗算によって得られる前記基底毎の乗算画像の総和を算出する総和算出手段と、
    前記総和算出手段による総和算出によって得られる総和画像と前記基画像とを加算する加算手段とを備え、
    前記異なる光電変換特性は低輝度側より高輝度側の方が低コントラストであって、前記画像変換手段は、前記重み付けによる強調度合が低輝度側より高輝度側の方が大きな画像変換特性に基づいて画像変換を行うことを特徴とする撮像装置。
  8. 前記総和画像及び基画像、又は乗算画像及び基画像の各画像に対して所定の強調係数を用いた重み付けを行う重み付け手段をさらに備え、
    前記各画像に対する強調係数のいずれか又は両方が低輝度側より高輝度側の強調度合が大きいことを特徴とする請求項7記載の撮像装置。
  9. 前記撮像手段は、前記異なる光電変換特性として、線形的な光電変換である線形特性と対数的な光電変換である対数特性とを有することを特徴とする請求項7又は8記載の撮像装置。
JP2004359028A 2004-12-10 2004-12-10 撮像装置及び画像処理方法 Pending JP2006173671A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004359028A JP2006173671A (ja) 2004-12-10 2004-12-10 撮像装置及び画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004359028A JP2006173671A (ja) 2004-12-10 2004-12-10 撮像装置及び画像処理方法

Publications (1)

Publication Number Publication Date
JP2006173671A true JP2006173671A (ja) 2006-06-29

Family

ID=36673993

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004359028A Pending JP2006173671A (ja) 2004-12-10 2004-12-10 撮像装置及び画像処理方法

Country Status (1)

Country Link
JP (1) JP2006173671A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008085634A (ja) * 2006-09-27 2008-04-10 Konica Minolta Holdings Inc 撮像装置及び画像処理方法
JP2010511326A (ja) * 2006-11-27 2010-04-08 ドルビー ラボラトリーズ ライセンシング コーポレイション デジタル画像のダイナミックレンジを増強するための装置及び方法
JP2019087844A (ja) * 2017-11-06 2019-06-06 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、表示装置、および画像処理方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008085634A (ja) * 2006-09-27 2008-04-10 Konica Minolta Holdings Inc 撮像装置及び画像処理方法
JP2010511326A (ja) * 2006-11-27 2010-04-08 ドルビー ラボラトリーズ ライセンシング コーポレイション デジタル画像のダイナミックレンジを増強するための装置及び方法
JP2019087844A (ja) * 2017-11-06 2019-06-06 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、表示装置、および画像処理方法
US10825153B2 (en) 2017-11-06 2020-11-03 Sony Interactive Entertainment Inc. Image processing apparatus, display apparatus, and image processing method

Similar Documents

Publication Publication Date Title
JP4218723B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP5083046B2 (ja) 撮像装置及び撮像方法
JP4163353B2 (ja) 画像処理装置
JP5713752B2 (ja) 画像処理装置、及びその制御方法
US8363131B2 (en) Apparatus and method for local contrast enhanced tone mapping
JP4720537B2 (ja) 撮像装置
JP4635828B2 (ja) 撮像装置、画像処理装置、画像処理方法及び画像処理プログラム
US20110310271A1 (en) Imaging apparatus, imaging method, integrated circuit, and storage medium
JP4736939B2 (ja) 撮像装置及び画像処理方法
JP2008104009A (ja) 撮像装置および撮像方法
JP2008165312A (ja) 画像処理装置及び画像処理方法
JP2010056774A (ja) 画像処理装置、画像処理方法、画像処理プログラム
JP2007082181A (ja) 撮像装置及び画像処理方法
JP2008289120A (ja) 撮像装置、撮像方法、集積回路およびプログラム
JP6935272B2 (ja) ハイダイナミックレンジ画像を作成する装置、方法、及びプログラム
JP6824817B2 (ja) 画像処理装置および画像処理方法
JP2007028088A (ja) 撮像装置及び画像処理方法
US10218953B2 (en) Image processing apparatus, image processing method, and storage medium
JP2008085634A (ja) 撮像装置及び画像処理方法
JP6376934B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP2007180851A (ja) Raw画像の階調変換装置、プログラム、方法、および電子カメラ
JPWO2019187901A1 (ja) 撮像装置、撮像方法、およびプログラム
JP2011100204A (ja) 画像処理装置、画像処理方法、画像処理プログラム、撮像装置及び電子機器
JP2009200743A (ja) 画像処理装置および画像処理方法および画像処理プログラムおよび撮像装置
JP6243629B2 (ja) 画像処理装置及び方法、及び撮像装置