JP2008305122A - 画像処理装置、画像処理方法、およびプログラム - Google Patents
画像処理装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP2008305122A JP2008305122A JP2007151182A JP2007151182A JP2008305122A JP 2008305122 A JP2008305122 A JP 2008305122A JP 2007151182 A JP2007151182 A JP 2007151182A JP 2007151182 A JP2007151182 A JP 2007151182A JP 2008305122 A JP2008305122 A JP 2008305122A
- Authority
- JP
- Japan
- Prior art keywords
- image
- luminance
- brightness
- sky
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000003672 processing method Methods 0.000 title claims description 6
- 238000007906 compression Methods 0.000 claims description 69
- 230000006835 compression Effects 0.000 claims description 68
- 238000001514 detection method Methods 0.000 description 89
- 238000000034 method Methods 0.000 description 77
- 230000008569 process Effects 0.000 description 60
- 230000014509 gene expression Effects 0.000 description 32
- 238000010586 diagram Methods 0.000 description 15
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 7
- 238000000926 separation method Methods 0.000 description 7
- 238000005286 illumination Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 239000003086 colorant Substances 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 101100299505 Schizosaccharomyces pombe (strain 972 / ATCC 24843) ptn1 gene Proteins 0.000 description 3
- 239000000470 constituent Substances 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 244000025254 Cannabis sativa Species 0.000 description 1
- 238000003705 background correction Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
【課題】DRC処理の精度を向上させることができるようにする。
【解決手段】処理対象の画像の特徴が各部により求められる。例えば、輝度分布判断部101において、画像のヒストグラムの型がU型であるか否かを判断され、中央領域明るさ判断部102において、画像の中央部分が暗いか否かが判断される。また、顔明るさ判断部103において、画像に写っている人の顔が黒つぶれになるかどうかが判断され、空領域判断部104において、画像に空が写っているかどうかが判断される。さらに、テキスチャー領域判断部105において、画像に暗いテキスチャー領域があるかどうかが判断される。トーンカーブ設定部106においては、各部の判断結果に基づいてトーンカーブの調整が行われ、調整されたトーンカーブに従って、画像の輝度のダイナミックレンジを圧縮するDRC処理が施される。本発明は、デジタルスチルカメラやビデオカメラに適用することができる。
【選択図】図23
【解決手段】処理対象の画像の特徴が各部により求められる。例えば、輝度分布判断部101において、画像のヒストグラムの型がU型であるか否かを判断され、中央領域明るさ判断部102において、画像の中央部分が暗いか否かが判断される。また、顔明るさ判断部103において、画像に写っている人の顔が黒つぶれになるかどうかが判断され、空領域判断部104において、画像に空が写っているかどうかが判断される。さらに、テキスチャー領域判断部105において、画像に暗いテキスチャー領域があるかどうかが判断される。トーンカーブ設定部106においては、各部の判断結果に基づいてトーンカーブの調整が行われ、調整されたトーンカーブに従って、画像の輝度のダイナミックレンジを圧縮するDRC処理が施される。本発明は、デジタルスチルカメラやビデオカメラに適用することができる。
【選択図】図23
Description
本発明は、画像処理装置、画像処理方法、およびプログラムに関し、特に、DRC処理の精度を向上させることができるようにした画像処理装置、画像処理方法、およびプログラムに関する。
デジタルビデオカメラなどのカメラシステムの内部で行われる画像処理として、画像の輝度の階調を圧縮するダイナミックレンジ圧縮処理(以下、適宜、DRC(Dynamic Range Compression)処理という)がある。
逆光の条件下で撮影した画像などのように、高輝度の被写体と低輝度の被写体が共存するようなダイナミックレンジの広い画像を対象としてDRC処理を施すことにより、高輝度の被写体部分に生じていた白飛びと低輝度の被写体部分に生じていた黒つぶれの両方をなくして画質を向上させることが可能になる。
ところで、DRC処理は、ダイナミックレンジの広い画像を対象とした場合には画質の向上に貢献するものの、順光下などの通常の条件下で撮影した画像は輝度のダイナミックレンジがそれほど広くなく、輝度のヒストグラムもほぼフラットなものになっていることから、このような画像を対象としてDRC処理を施すと逆に画質が悪くなってしまう。
従って、どんな時、どんな画像に対してDRC処理を行うか、また、どんな時、どんな画像に対してDRC処理を行わないか、の判断をカメラに正しく行わせることが重要になる。
例えば、カメラの筐体に「逆光ボタン」を用意し、ユーザにより逆光ボタンが押されてから撮影された画像にはDRC処理を施し、ユーザにより逆光ボタンが押されずに撮影された画像にはDRC処理を施さない、といった制御のやり方が従来提案されている。
この場合、当然、ユーザは撮影時にDRC処理をするかしないかを自分で判断する必要があり、操作に不慣れな一般的なユーザにこのような判断を求めることは難しい。その上、ユーザは逆光の条件下で撮影することを分かっていても、逆光ボタンを押すのを忘れてしまい、そのまま撮影を行ってしまうことが多い。
そこで、従来、画像の輝度のヒストグラムを観測し、ヒストグラムの型がU型(高輝度、低輝度成分の量が多く、中間輝度成分の量が少ない型)になっているかどうかに基づいて、ユーザの操作によらずに、DRC処理を自動で制御する技術がビデオカメラなどで運用されている。ヒストグラムの型がU型である場合には、1つの画像に高輝度の被写体と低輝度の被写体が写っていると判断され、DRC処理が施される。
輝度のヒストグラムの型に基づいてDRC処理をカメラが自動で制御する場合、次のような問題がある。
1番目の問題は、判断基準が少なくて、判断の精度が低いという問題である。すなわち、ヒストグラムの型だけを基準としてDRC処理を行うか否かが判断されるから、逆光の条件下で撮影した画像にDRC処理を施さなかったり、順光の条件下で撮影した画像にDRC処理を施してしまったりするように、誤動作が多い。
2番目の問題は、画像中に占める面積の広い被写体の輝度の影響を大きく受けて、DRC処理をするかしないかが決定されてしまうという問題である。このため、人物など、ユーザが中心に撮りたい被写体が画像中に小さく写っている時は、DRC処理の制御がうまくいかず、最適な画像を得ることができない。
本発明はこのような状況に鑑みてなされたものであり、DRC処理をユーザによる操作によらずに自動で行う場合に、その精度を向上させることができるようにするものである。
本発明の一側面の画像処理装置は、処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かを前記画像を構成する画素の輝度の分布に基づいて判断する輝度分布判断手段と、前記画像の中央を含む一部の領域を構成する画素の輝度に基づいて、前記一部の領域に写る被写体の明るさを判断する中央領域明るさ判断手段と、前記画像に被写体として写る人の顔を検出し、検出した顔を構成する画素の輝度に基づいて、前記顔の明るさを判断する顔明るさ判断手段と、前記画像に空が写っているか否かを、空と考えられる領域の前記画像中の位置、空と考えられる領域の色、空と考えられる領域を構成する画素の輝度、空と考えられる領域の面積の少なくともいずれかに基づいて判断する空判断手段と、前記画像を構成する画素の輝度と、前記画像の周波数成分に基づいて、暗く、高周波成分を多く含む領域が前記画像中にあるか否かを判断するテキスチャー領域判断手段と、前記輝度分布判断手段による判断結果、前記中央領域明るさ判断手段による判断結果、前記顔明るさ判断手段による判断結果、前記空判断手段による判断結果、および、前記テキスチャー領域判断手段による判断結果のうちの少なくともいずれかの判断結果に基づいて、前記画像の輝度のダイナミックレンジを圧縮するときに用いられる、圧縮の程度を規定するトーンカーブを設定する設定手段と、前記画像の輝度のダイナミックレンジを、前記設定手段により設定された前記トーンカーブに従って圧縮する圧縮手段とを備える。
前記画像に被写体として写る人の顔が閾値としての明るさより暗くなっている確率が高いと前記顔明るさ判断手段により判断された場合、前記設定手段には、前記顔明るさ判断手段による判断結果以外の判断結果を考慮させずに、前記画像を構成する画素の輝度を上げるようにトーンカーブを設定させることができる。
本発明の一側面の画像処理方法またはプログラムは、処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かを前記画像の輝度の分布に基づいて判断し、前記画像の中央を含む一部の領域を構成する画素の輝度に基づいて、前記一部の領域に写る被写体の明るさを判断し、前記画像に被写体として写る人の顔を検出し、検出した顔を構成する画素の輝度に基づいて、前記顔の明るさを判断し、前記画像に空が写っているか否かを、空と考えられる領域の前記画像中の位置、空と考えられる領域の色、空と考えられる領域を構成する画素の輝度、空と考えられる領域の面積の少なくともいずれかに基づいて判断し、前記画像を構成する画素の輝度と、前記画像の周波数成分に基づいて、暗く、高周波成分を多く含む領域が前記画像中にあるか否かを判断し、前記処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かの判断結果、前記一部の領域に写る被写体の明るさの判断結果、前記顔の明るさの判断結果、前記画像に空が写っているか否かの判断結果、および、暗く、高周波成分を多く含む領域が前記画像中にあるか否かの判断結果のうちの少なくともいずれかの判断結果に基づいて、前記画像の輝度のダイナミックレンジを圧縮するときに用いられる、圧縮の程度を規定するトーンカーブを設定し、前記画像の輝度のダイナミックレンジを、設定した前記トーンカーブに従って圧縮するステップを含む。
本発明の一側面においては、処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かが前記画像の輝度の分布に基づいて判断され、前記画像の中央を含む一部の領域を構成する画素の輝度に基づいて、前記一部の領域に写る被写体の明るさが判断される。また、前記画像に被写体として写る人の顔が検出され、検出された顔を構成する画素の輝度に基づいて、前記顔の明るさが判断され、前記画像に空が写っているか否かが、空と考えられる領域の前記画像中の位置、空と考えられる領域の色、空と考えられる領域を構成する画素の輝度、空と考えられる領域の面積の少なくともいずれかに基づいて判断される。さらに、前記画像を構成する画素の輝度と、前記画像の周波数成分に基づいて、暗く、高周波成分を多く含む領域が前記画像中にあるか否かが判断され、前記処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かの判断結果、前記一部の領域に写る被写体の明るさの判断結果、前記顔の明るさの判断結果、前記画像に空が写っているか否かの判断結果、および、暗く、高周波成分を多く含む領域が前記画像中にあるか否かの判断結果のうちの少なくともいずれかの判断結果に基づいて、前記画像の輝度のダイナミックレンジを圧縮するときに用いられる、圧縮の程度を規定するトーンカーブが設定される。前記画像の輝度のダイナミックレンジが、設定された前記トーンカーブに従って圧縮される。
本発明の一側面によれば、DRC処理の精度を向上させることができる。
以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書又は図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書又は図面に記載されていることを確認するためのものである。従って、明細書又は図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が発明に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外には対応しないものであることを意味するものでもない。
本発明の一側面の画像処理装置(例えば、図1のビデオカメラ1)は、処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かを前記画像を構成する画素の輝度の分布に基づいて判断する輝度分布判断手段(例えば、図23の輝度分布判断部101)と、前記画像の中央を含む一部の領域を構成する画素の輝度に基づいて、前記一部の領域に写る被写体の明るさを判断する中央領域明るさ判断手段(例えば、図23の中央領域明るさ判断部102)と、前記画像に被写体として写る人の顔を検出し、検出した顔を構成する画素の輝度に基づいて、前記顔の明るさを判断する顔明るさ判断手段(例えば、図23の顔明るさ判断部103)と、前記画像に空が写っているか否かを、空と考えられる領域の前記画像中の位置、空と考えられる領域の色、空と考えられる領域を構成する画素の輝度、空と考えられる領域の面積の少なくともいずれかに基づいて判断する空判断手段(例えば、図23の空領域判断部104)と、前記画像を構成する画素の輝度と、前記画像の周波数成分に基づいて、暗く、高周波成分を多く含む領域が前記画像中にあるか否かを判断するテキスチャー領域判断手段(例えば、図23のテキスチャー領域判断部105)と、前記輝度分布判断手段による判断結果、前記中央領域明るさ判断手段による判断結果、前記顔明るさ判断手段による判断結果、前記空判断手段による判断結果、および、前記テキスチャー領域判断手段による判断結果のうちの少なくともいずれかの判断結果に基づいて、前記画像の輝度のダイナミックレンジを圧縮するときに用いられる、圧縮の程度を規定するトーンカーブを設定する設定手段(例えば、図23のトーンカーブ設定部106)と、前記画像の輝度のダイナミックレンジを、前記設定手段により設定された前記トーンカーブに従って圧縮する圧縮手段(例えば、図4の階調圧縮部44)とを備える。
本発明の一側面の画像処理方法またはプログラムは、処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かを前記画像の輝度の分布に基づいて判断し、前記画像の中央を含む一部の領域を構成する画素の輝度に基づいて、前記一部の領域に写る被写体の明るさを判断し、前記画像に被写体として写る人の顔を検出し、検出した顔を構成する画素の輝度に基づいて、前記顔の明るさを判断し、前記画像に空が写っているか否かを、空と考えられる領域の前記画像中の位置、空と考えられる領域の色、空と考えられる領域を構成する画素の輝度、空と考えられる領域の面積の少なくともいずれかに基づいて判断し、前記画像を構成する画素の輝度と、前記画像の周波数成分に基づいて、暗く、高周波成分を多く含む領域が前記画像中にあるか否かを判断し、前記処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かの判断結果、前記一部の領域に写る被写体の明るさの判断結果、前記顔の明るさの判断結果、前記画像に空が写っているか否かの判断結果、および、暗く、高周波成分を多く含む領域が前記画像中にあるか否かの判断結果のうちの少なくともいずれかの判断結果に基づいて、前記画像の輝度のダイナミックレンジを圧縮するときに用いられる、圧縮の程度を規定するトーンカーブを設定し、前記画像の輝度のダイナミックレンジを、設定した前記トーンカーブに従って圧縮するステップ(例えば、図24のステップS7)を含む。
以下、本発明の実施の形態について図を参照して説明する。
図1は、本発明の一実施形態に係るビデオカメラ1の構成例を示すブロック図である。
被写体からの光はレンズ11により集光され、絞り12を介して撮像素子13を照射する。
撮像素子13は、各画素にRGBのカラーフィルタをもっており、光電変換によって得られた被写体の像を表す信号をAGC(Automatic Gain Control)・A/D(Analog/Digital)変換部14に出力する。
AGC・A/D変換部14は、撮像素子13から供給された画像信号に対してゲインコントロール処理、A/D変換処理を施し、得られたディジタルの画像データをカメラ信号処理部15に出力する。
カメラ信号処理部15は、カメラ補正補間処理部31、ダイナミックレンジ圧縮処理部32、YC分離信号処理部33、およびOPD検波部34から構成される。カメラ補正補間処理部31、ダイナミックレンジ圧縮処理部32、YC分離信号処理部33、OPD検波部34の各部の動作は、カメラ信号処理部15が周辺部品として備える演算処理部18により制御される。
カメラ補正補間処理部31は、AGC・A/D変換部14から供給された画像に対して、光学系やセンサー系の特性などに応じた補正と補間を行い、RGBの3つの色の全画素分の画像データを生成する。カメラ補正補間処理部31は、生成した画像データをダイナミックレンジ圧縮処理部32に出力する。カメラ補正補間処理部31においては、例えば、光学系の明るさのムラを補正するシェーディング補正、黒レベルを補正するDCL処理(デジタルクランプ処理)、画素を補間するITP(デモザイク)処理などが施される。
ダイナミックレンジ圧縮処理部32は、高輝度の被写体と低輝度の被写体が写っているような輝度のダイナミックレンジの広い画像にDRC処理を施すことで、白飛びと黒つぶれが軽減された良好な画像を生成する。ダイナミックレンジ圧縮処理部32は、生成した画像を表す信号をYC分離信号処理部33に出力する。ダイナミックレンジ圧縮処理部32等により行われるDRC処理については後に詳述する。
YC分離信号処理部33は、ダイナミックレンジ圧縮処理部32から供給された信号を輝度信号(Y)とクロマ信号(C)に分離し、分離して得られた信号を記録フォーマット処理部16に出力する。
OPD検波部34は、AGC・A/D変換部14からカメラ補正補間処理部31に供給される信号、カメラ補正補間処理部31からダイナミックレンジ圧縮処理部32に供給される信号、ダイナミックレンジ圧縮処理部32からYC分離信号処理部33に供給される信号のそれぞれの信号に基づいて、画像のある一定の範囲の信号(RGBデータ、YCデータ)を積分することにより検波を行う。OPD検波部34は、検波結果を表す検波情報を演算処理部18に出力する。演算処理部18においては、OPD検波部34から供給された検波情報に基づいて、カメラ信号処理部15の各部の動作が制御される。
記録フォーマット処理部16は、YC分離信号処理部33から供給された信号に対して、誤り訂正符号を付加する処理や変調処理などを施すことによって所定のフォーマットの画像データ(信号S2)を生成し、生成した画像データを記録メディア17に記録させる。
記録メディア17は、メモリカード、光ディスク、ハードディスクなどよりなり、記録フォーマット処理部16から供給された画像データを記録する。
演算処理部18は、カメラ信号処理部15のOPD検波部34から供給される検波情報に基づいて画像を分析し、ビデオカメラ1の各部の動作を制御する。
例えば、演算処理部18は、ダイナミックレンジ圧縮処理部32により行われるDRC処理を制御する。また、演算処理部18は、レンズ制御信号を駆動部19に出力し、レンズ11、絞り12を制御する。演算処理部18は、ゲイン信号をAGC・A/D変換部14に出力することによってAGC・A/D変換部14において行われるゲインコントロールを制御するとともに、電子シャッタ制御信号を撮像素子13に出力することによって、撮像素子13の電子シャッタを制御する。
駆動部19は、演算処理部18から供給されるレンズ制御信号に基づいてレンズ11を制御し、焦点距離の調整などを行うとともに、撮像素子13の入力光量が適正なものになるように絞り12の口径を制御する。
−DRC処理について−
ここで、DRC処理について説明する。
ここで、DRC処理について説明する。
CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)などよりなる撮像素子13で検出される光の輝度のダイナミックレンジ(一度に表現することのできる明るさ(階調)の幅)は、一般的には、人の目によって感じることのできる輝度のダイナミックレンジよりも狭く、さらに、フィルムカメラのフィルムによって検出される輝度のダイナミックレンジよりも狭い。
このため、輝度差のあるシーンを撮影した場合、人の目であれば階調の変化を感じることができるものであっても、デジタルカメラの自動露出制御モードでの撮影などによって得られた画像では、高輝度の被写体の部分は白飛びし、低輝度の被写体の部分は黒つぶれしてしまうことがある。
例えば、高輝度の被写体と低輝度の被写体が写っているような輝度のダイナミックレンジの広い画像の撮影中に、高輝度の被写体が写っていることが検波結果に基づいて判断されたことから、高輝度の被写体が白飛びしないように露光を制御する場合、低輝度の被写体の部分に黒つぶれが生じてしまう。反対に、低輝度の被写体が写っていることが検波結果に基づいて判断されたことから、低輝度の被写体が黒つぶれしないように露光を制御する場合、高輝度の被写体の部分に白飛びが生じてしまう。
このように、露光を制御することだけで明るさを調整しようとすると、輝度のダイナミックレンジが十分に広い画像を再現することができない。
次に、図2と図3に示す輝度のヒストグラムを用いて、DRC処理の原理について説明する。
図2、図3において、縦軸は頻度(画素の数)、横軸は輝度を表している。左側に現れる輝度成分を有する画素の色は黒色に近くなり、右側に現れる輝度成分を有する画素の色は白色に近くなる。横軸は、黒色から白色の階調を例えば最大1023ビットの情報で表し、縦軸は頻度を例えば最大255ビットの情報で表している。
図2は、白飛びと黒つぶれの両方が発生している画像の輝度のヒストグラムの例を示す図である。
画像に高輝度の被写体と低輝度の被写体が写っている時、その画像の輝度のヒストグラムの型は図2に示されるようにU型(高輝度、低輝度成分の量が多く、中間輝度成分の量が少ない型)になる。DRC処理は、図2に示すようなU型の階調分布を調整することにより、白飛びと黒つぶれが生じている領域に対して幅広い階調領域を割り当て、これによって輝度変化の度合いを明確にして、見かけ上、ダイナミックレンジが広がったように見せる画像処理技術である。
図3は、図2に示される階調分布を有する画像に対してDRC処理を施して得られた画像の輝度のヒストグラムの例を示す図である。
DRC処理後にはある程度の階調領域が使用されて表現されるため、DRC処理前には黒つぶれしていた領城を浮き出たせることによって輝度変化の度合いを明確にし、視認性を向上させることが可能になる。同様に、白つぶれしていた領域を浮き出たせることによって輝度変化の度合いを明確にし、視認性を向上させることができる。
図2と図3を比べると、処理後の画像は輝度のダイナミックレンジが圧縮されるように見える。このことから、以上のような処理はDRC処理と呼ばれる。
−ビデオカメラ1におけるDRC処理−
DRC処理を行うことで、高輝度の被写体と低輝度の被写体が共存するような、輝度のダイナミックレンジの広い画像に現れる白飛びと黒つぶれの両方をなくすことができ、視認性を向上させることができる。図2に示されるように、ヒストグラムの型がU型になっている、高輝度の被写体と低輝度の被写体が共存する画像はWDR(Wide Dynamic Range)画像と呼ばれている。逆光の条件下で撮影された画像はよくWDR画像になる。
DRC処理を行うことで、高輝度の被写体と低輝度の被写体が共存するような、輝度のダイナミックレンジの広い画像に現れる白飛びと黒つぶれの両方をなくすことができ、視認性を向上させることができる。図2に示されるように、ヒストグラムの型がU型になっている、高輝度の被写体と低輝度の被写体が共存する画像はWDR(Wide Dynamic Range)画像と呼ばれている。逆光の条件下で撮影された画像はよくWDR画像になる。
通常の条件下で撮影された画像は輝度のダイナミックレンジがそれ程広くなく、輝度のヒストグラムの型もほぼフラットなものになる。このような画像に対して、DRC処理を行うと、逆に画質が悪くなる。
従って、DRC処理を施すか施さないか、施すとしてもどの程度の強さでDRC処理を施すかの判断が重要になるため、図1のビデオカメラ1においては、基本的に、次のようにして最適なDRC処理が行われるようになされている。
1つ目の方法は、輝度のヒストグラムの型がU型の場合にはDRC処理を施し、U型でない場合にはDRC処理を施さないといったように1元的な基準から判断するのではなく、DRC処理の制御に用いる判断基準を追加し、多元化する方法である。これにより、ユーザの意図に近いDRC制御を行うことができるようになされている。
2つ目の方法は、上の判断基準を利用し、DRC処理を単純なON/OFFの制御(処理を施すか施さないか)ではなく、DRC処理に用いられるトーンカーブやゲインなどの様々なパラメータを制御する方法である。これにより、対象になっている画像に最も合うDRC処理を行うことができるようになされている。
図4を参照して、DRC処理を行うビデオカメラ1の構成と、DRC処理の流れについて説明する。
図4に示されるように、DRC処理は、主に、演算処理部18、ダイナミックレンジ圧縮処理部32、OPD検波部34の3つの構成によって実現される。
OPD検波部34は、カメラ補正補間処理部31からダイナミックレンジ圧縮処理部32に入力されるRGBデータによって表される入力画像Iの全体を走査しながら、後述する5つの特徴を検波によって取得する。演算処理部18は、検波によって取得した特徴に関する情報を検波情報として演算処理部18に出力する。
演算処理部18は、OPD検波部34から供給された検波情報を利用して、DRC処理の強さなどを規定するトーンカーブ(Tone Curve)と、各種のパラメータを算出し、トーンカーブをダイナミックレンジ圧縮処理部32の階調圧縮部44に設定するとともに、パラメータとして算出したゲイン1をコントラスト強調部43に、ゲイン2をRGB圧縮・色味補正処理部46にそれぞれ設定する。
ダイナミックレンジ圧縮処理部32は、カメラ補正補間処理部31から供給された入力画像Iを走査しながら、演算処理部18による設定に基づいて、入力画像Iを構成するそれぞれの画素に対してパイプライン的に処理を施す。図4に示されるように、ダイナミックレンジ圧縮処理部32は、輝度信号生成部41、領域分割部42、コントラスト強調部43、階調圧縮部44、全域輝度信号生成部45、およびRGB圧縮・色味補正処理部46から構成される。
輝度信号生成部41は、入力画像IのRGBデータから輝度信号Yを生成し、生成した輝度信号Yを後段の領域分割部42とRGB圧縮・色味補正処理部46に出力する。
領域分割部42は、輝度信号生成部41から供給された輝度信号Yを高周波成分の信号と低周波成分の信号に分割する。領域分割部42に対しては、輝度信号を分離するための閾値となる周波数が設定されている。
領域分割部42により分割された低周波成分の信号は、入力画像Iの輝度信号の全体の大まかな照明情報を持っているため、照明成分信号と呼ばれている。一方、高周波成分の信号は、入力画像Iの輝度信号の詳細な照明情報を持っているため、ディテール(Detail)成分信号と呼ばれている。領域分割部42は、分割して得られたディテール成分信号をコントラスト強調部43に出力し、照明成分信号を階調圧縮部44に出力する。
コントラスト強調部43は、領域分割部42から供給されたディテール成分信号に対して、コントラスト強調処理を演算処理部18により設定されたゲイン1に従って施す。コントラスト強調部43は、コントラストを強調した輝度信号を全域輝度信号生成部45に出力する。
階調圧縮部44は、領域分割部42から供給された照明成分信号に対して、輝度の階調を圧縮する階調圧縮処理を演算処理部18により設定されたトーンカーブに従って施す。階調圧縮部44は、階調を圧縮した輝度信号を全域輝度信号生成部45に出力する。
全域輝度信号生成部45は、コントラスト強調部43から供給された輝度信号と、階調圧縮部44から供給された輝度信号をミックスして全域輝度信号Y’を生成し、生成した全域輝度信号Y’をRGB圧縮・色味補正処理部46に出力する。
RGB圧縮・色味補正処理部46は、輝度信号生成部41から供給された、ダイナミックレンジ圧縮処理などが施される前の輝度信号Y、全域輝度信号生成部45から供給されたダイナミックレンジの圧縮などが施された後の全域輝度信号Y’、および、演算処理部18により設定されたゲイン2に基づいて、入力画像Iに対してRGB圧縮処理と色味補正処理を施す。RGB圧縮・色味補正処理部46は、RGB圧縮処理と色味補正処理を施して得られた画像を出力画像OとしてYC分離信号処理部33(図1)に出力する。
このように、DRC処理は図4に示される各構成によって行われる。その流れは、まず、OPD検波部34により、5つの特徴を取得するための検波が入力画像Iを対象として行われ、検波情報が演算処理部18に出力される。
演算処理部18においては、検波情報に含まれる5つの特徴を基準として、DRC処理に用いられるトーンカーブと、コントラスト強調処理などに用いられるゲインが算出され、演算処理部18により算出されたトーンカーブに従って、ダイナミックレンジ圧縮処理部32によりDRC処理が行われる。また、演算処理部18により算出されたゲインに従って、コントラスト強調部43によりコントラスト強調処理が施され、RGB圧縮・色味補正処理部46によりRGB圧縮処理と色味補正処理が施される。
以上の処理により、ダイナミックレンジ圧縮処理部32においては、入力画像Iに適したものになるように強さなどが調整されたDRC処理が行われることになる。
なお、DRC処理を実現するには、例えば、特開2001−298621号公報や特開2007−6168号公報に示されるような手法もある。この2つの公報に記載されている手法においてはYC信号の領域でDRC処理が行われているのに対し、ビデオカメラ1においては、以上のように、RGB信号の領域でDRC処理が行われる。
−5つの特徴について−
以下、DRC処理の制御に用いられる5つの特徴について説明する。
以下、DRC処理の制御に用いられる5つの特徴について説明する。
(1)ヒストグラムの型がU型であるかどうか
高輝度の被写体と低輝度の被写体が共存するようなダイナミックレンジの広い画像の輝度のヒストグラムの型はU型になることが多い。ビデオカメラ1においては、入力画像の輝度のヒストグラムの型がU型になっているかどうかが、DRC処理の制御のための1つ目の特徴として用いられる。
高輝度の被写体と低輝度の被写体が共存するようなダイナミックレンジの広い画像の輝度のヒストグラムの型はU型になることが多い。ビデオカメラ1においては、入力画像の輝度のヒストグラムの型がU型になっているかどうかが、DRC処理の制御のための1つ目の特徴として用いられる。
例えば、図4のOPD検波部34は、入力画像Iの全体を一度走査し、輝度のヒストグラムを演算により求める。OPD検波部34は、求めたヒストグラムの情報を演算処理部18に出力する。
演算処理部18は、ヒストグラムの型がU型になっているかどうかを判断する。ヒストグラムの型がU型になっているかどうかの判断には例えばパターンマッチング(Pattern Matching)の手法が利用される。
演算処理部18により行われるパターンマッチングについて図5を用いて説明する。
まず、高輝度の被写体と低輝度の被写体が共存するようなダイナミックレンジの広い画像を集め、これらの画像のヒストグラムがどのようなU型になっているのかが統計的に調べられる。その結果、代表的なU型のヒストグラムが選択され、選択されたU型のヒストグラムが、入力画像Iに対してDRC処理を実際に施す前に演算処理部18に記録される。
演算処理部18に記録された代表的なヒストグラムはパターンヒストグラムと呼ばれている。図5の右側に示されるパターン1、パターン2、・・・、パターンMは、全て、演算処理部18に記録されたパターンヒストグラムである。
入力画像Iに対してDRC処理を実際に施すとき、演算処理部18は、OPD検波部34から供給された情報によって表される入力画像Iのヒストグラムと、あらかじめ記録されているそれぞれのパターンヒストグラムとの似た程度(類似度)を例えば下式(1)により求める。
式(1)のHistData[i]は入力画像Iのヒストグラムを表し、iは各輝度領域の番号を表す。入力画像Iには全部でNの輝度領域がある。FHistData[i]は事前に記録されていた各パターンヒストグラムを表し、Weight[i]はヒストグラム中の各輝度領域に対する重みを表す。式(1)で求められる似た程度は、その値が小さければ小さいほど、入力画像Iのヒストグラムとパターンヒストグラムが似ていることを表す。
入力画像Iのヒストグラムと各パターンヒストグラムの似た程度が求められた後、求められた似た程度の値の中で一番小さい値の逆数が、入力画像IのヒストグラムのU型傾向を表す値となる。U型傾向を表す値をHistUとすると、HistUは下式(2)として表される。
HistUの値が大きければ大きいほど、そのことは入力画像Iのヒストグラムの型がU型になる可能性が高いことを表す。図6に、演算処理部18に記録されるU型のパターンヒストグラムの例を示す。図6には、PTN1乃至PTN3の3つのパターンヒストグラムが示されている。
(2)画像の中央が暗いかどうか
ビデオカメラ1においては、入力画像の中央付近の暗さが、DRC処理の制御のための2つ目の特徴として用いられる。
ビデオカメラ1においては、入力画像の中央付近の暗さが、DRC処理の制御のための2つ目の特徴として用いられる。
この特徴を用いる目的は、ユーザの意図を重視し、DRC処理の自動化の精度を上げることである。通常、ユーザは注目する被写体がフレームの中央付近にくるようにして撮影を行うことが多いから、中央付近の被写体の暗さに応じてDRC処理を制御することは、ユーザの意図に沿うことになるものと考えられる。
図7は、ユーザにより撮影された画像の例を示す図である。
図7の画像P1乃至P4に示されるように、通常、ユーザの最も注目している部分が枠Wで示される画像の中央部分にくるように撮影が行われる。図7の画像P1乃至P4は、いずれも建物や展示物を被写体にした画像であるが、人物を被写体として撮影を行う場合、被写体の人物が中央にくる可能性が更に高くなるものと考えられる。つまり、画像の中央の部分は一番重要な部分であるといえるから、この部分の被写体が黒つぶれになって写っている画像は、撮影に失敗した画像としてユーザにより判断される可能性が高くなる。
ここで、2つ目の特徴に関する処理について説明する。
図8は、画像の内側に設定された中央エリアの例を示す図である。
図8の例においては、画像全体のうち、左右の端から横幅の3/16ずつと上端から縦幅の2/9の範囲を除く、画像の中央を含む斜線で示される範囲が中央エリアA1として設定されている。この中央エリアA1の位置、大きさを表す情報がOPD検波部34に設定されており、中央エリアA1を構成する画素の輝度に基づいて、画像の中央部分が暗いかどうかが判断される。なお、中央エリアA1の設定は適宜変えることができるようにしてもよい。
式(3)のCount(Black_pixel)は閾値より低い輝度の画素の数を表し、Y(Current_pixel)は中央エリアA1内の画素の輝度を表す。Y_Threshold0は輝度の閾値を表し、その設定は可変とされる。
式(3)に示されるように、中央エリアA1内の各画素が注目され、注目された入力画素の輝度が閾値以下である場合にCount(Black_pixel)の値が1だけ加算される。注目された入力画素の輝度が閾値より大きい場合、Count(Black_pixel)の値は加算されない。OPD検波部34は、閾値より輝度が低い、暗い画素の数を表すCount(Black_pixel)の情報を演算処理部18に出力する。
式(4)のRation_CenterBは中央エリアA1に含まれる暗い画素の比率を表し、Count(Center_pixel)は中央エリアA1を構成する全ての画素の数を表す。
Ration_CenterBの値が大きければ大きいほど、そのことは、入力画像Iの中央が暗い可能性が高いことを表す。この場合、DRC処理を施さなければ、ユーザが撮ろうとする部分が黒つぶれになる可能性が高い。
1つ目の特徴として求められた、入力画像Iのヒストグラムの型がU型になっているかどうかと、2つ目の特徴として求められた画像の中央が暗いかどうかを組み合わせた場合、下式(5)で表されるような値を用いたDRC処理の制御が可能となる。
式(5)のDRC_Gainはトーンカーブの調整に用いられるゲインを表す。DRC_Gainの詳細については後述する。演算処理部18は、このDRC_Gainが大きければ大きいほど、DRC処理を強く、すなわち、ダイナミックレンジの圧縮率が高くなるように制御する。
式(5)のHistUは上式(2)により求められたヒストグラムのU型傾向を表し、Ration_CenterBは上式(4)により求められた中央エリアA1に含まれる暗い画素の比率を表す。K1とK2は、それぞれ、HistUとRation_CenterBに乗算する重みを表す。なお、式(5)で表されるようなDRC処理の制御は、後述するように、入力画像Iに写る人の顔の明るさが暗いと判断されなかったときに行われる。
図9と図10を参照して、式(5)により求められたDRC_Gainに基づいてDRC処理を制御することにより、DRC処理の精度を向上させることができることについて説明する。
図9と図10は、同じ風景を違う条件下で撮影した画像の例を示す図である。
図9の条件下で撮影した画像においては、中央の人物は適正な明るさで写っているが、その後方にある建物は黒つぶれの状態で写っている。一方、図10の条件下で撮影した画像においては、建物は適正な明るさで写っているが、人物は黒つぶれの状態で写っている。なお、画像全体を基準とした人物の大きさと建物の大きさは大体同じである。また、図9と図10の2つの画像のヒストグラムの型は大体同じ型になる。
このような画像を対象として、仮に、1つ目の特徴であるヒストグラムの型がU型になっているかどうかだけに基づいてDRC処理を施すとした場合、図9の画像と図10の画像に対してそれぞれ同じ強さでDRC処理が施されることになる。
従って、この場合、ユーザが注目して撮影している部分は中央の人物の部分であるから、その部分が適正な明るさで写っている図9の画像に対してはDRC処理を施さない方がよいのにもかかわらず、結果的にDRC処理が施されることになり、DRC処理の実現方法によっては中央の人物の画質が落ちる可能性がある。
これに対して、1つ目の特徴として求められた入力画像Iのヒストグラムの型がU型になっているかどうかと、2つ目の特徴として求められた画像の中央が暗いかどうかを組み合わせた上式(5)により求められたゲインに基づいてDRC処理を制御することにより、図9の画像に対しては弱いDRC処理を施し、図10の画像に対しては強いDRC処理を施すといったことが可能となる。DRC_GainがそのようなDRC処理を実現するものになるように上式(5)のK1,K2の値が設定される。
これにより、図9の画像に対してDRC処理を施すことにより画質が低下してしまうといった副作用を軽減することができる。また、図10の画像に対して強いDRC処理を施すことにより、その効果を大きなものにすることができ、ユーザが注目している中央の人物の部分の画質を向上させることができる。
(3)顔検出の結果
ビデオカメラ1においては、顔検出の結果が、DRC処理の制御のための3つ目の特徴として用いられる。
ビデオカメラ1においては、顔検出の結果が、DRC処理の制御のための3つ目の特徴として用いられる。
黒つぶれによって撮影に失敗したと判断されたいろいろな画像を調べたところ、人物が写っており、その人物の顔の部分が黒つぶれになっている画像が目立つ。つまり、顔が黒つぶれになると、普通の風景などが黒つぶれになった画像を見たときより、ユーザが失敗したものとして判断する可能性が高い。その上、一般的なユーザにとっては、ビデオカメラを使って人物を撮影することの方が、風景を撮影することより多いと思われる。従って、顔検出の結果を使い、人の顔が写っているかどうかに応じてDRC処理を制御することは、より多くの画像を、成功した画像であるとユーザに判断させることにつながるものと考えられる。
図4のOPD検波部34の内部には、例えば、顔検出専用のハードウェアが入っている。OPD検波部34は、入力画像Iの全体を一度走査し、そのハードウェアによって顔の検出を行い、顔に関する情報を取得する。顔検出の方法については、例えば、特開2004−30629号公報、特開2005−157679号公報に開示されており、OPD検波部34においてはそのような方法により顔の検出が行われる。OPD検波部34は、検出した人の顔を構成する画素の輝度などの情報を演算処理部18に出力する。
演算処理部18は、顔に関する処理として2つの処理をOPD検波部34から供給された情報に基づいて行う。
1つ目の処理として、演算処理部18は、画像に顔が写っている確率を求める。画像に顔が写っている確率をFace_probと表し、演算処理部18は、Face_probの値が閾値以上である場合に、画像に顔が写っていると判断する。
輝度の平均の逆数は、人の顔が黒つぶれになる確率を表すことになる。式(6)のFaceP_Thresholdは閾値を表し、所定の値を設定することが可能である。
式(6)は、Face_probの値が閾値としてのFaceP_Thresholdより小さい場合、画像に人の顔が写っていないと判断して、演算処理部18がRation_FaceBの値を0として設定することを表し、一方、Face_probの値が閾値としてのFaceP_Thresholdより大きい場合、画像に人の顔が写っている判断して、演算処理部18がRation_FaceBの値を顔の平均の輝度の逆数の値として設定することを表す。
1つ目の特徴として求められた、入力画像Iのヒストグラムの型がU型になっているかどうかと、2つ目の特徴として求められた画像の中央が暗いかどうかと、3つ目の特徴として求められた、顔検出の結果を組み合わせた場合、下式(8)で表されるような値を用いたDRC処理の制御が可能となる。
式(8)のFaceBlk_Thresholdは人の顔の明るさが暗いかどうかを判断するときの基準となる閾値である。Ration_FaceBの値がこの閾値より大きい場合、演算処理部18は、顔の明るさが暗いと判断する。K1,K2,K3は、全て可変の係数である。
式(8)は、画像に人の顔が写っており、かつ、その顔の明るさが暗いと判断された場合、DRC処理を強めに施すため、DRC処理の強さの基準となるDRC_GainとしてRation_FaceBの値に係数K3を乗算することによって得られた値を設定し、それに基づいてトーンカーブを調整してDRC処理を施すことを表す。
また、式(8)は、それ以外の場合(画像に人の顔が写っていないと判断された場合、または、人の顔が写っていると判断されたが、その顔の明るさが暗いと判断されていない場合)に、1つ目の特徴として求められた、入力画像Iのヒストグラムの型がU型になっているかどうかと、2つ目の特徴として求められた画像の中央が暗いかどうかを組み合わせて、上式(5)により求められたゲインに基づいてトーンカーブの調整を行い、DRC処理を施すことを表す。
(4)空
ビデオカメラ1においては、画像に写る空に関する情報が、DRC処理の制御のための4つ目の特徴として用いられる。
ビデオカメラ1においては、画像に写る空に関する情報が、DRC処理の制御のための4つ目の特徴として用いられる。
室外において逆光の条件下で撮影した画像などの、高輝度の被写体と低輝度の被写体が共存するようなダイナミックレンジの大きいいろいろな画像の輝度の分布を調べたところ、輝度の分布において中高レベルに現れるピークを構成する画素が空領域の画素である可能性が高いという特徴が発見された。
図11に示される画像P11乃至P14は、いずれも、室外において逆光の条件下で撮影した画像であるが、画像P11乃至P14のそれぞれの輝度の分布には中高レベルでピークが現れ、そのピークを構成する画素が空領域の画素となる。
ここで、画像に写る空の特徴に関する処理について説明する。
DRC処理の対象となる入力画像Iが入力されたとき、OPD検波部34は、入力画像Iの全体を一度走査し、画像に写る空に関する情報を取得する。OPD検波部34は、取得した情報を演算処理部18に出力する。
演算処理部18は、OPD検波部34から供給された情報に基づいて、画像に空が写っている確率を求め、求めた確率を上記3つの特徴と一緒に用いてDRC処理を制御する。
空が写っている確率は以下のようにして求められる。
(4−1)空と思われる領域の場所(空検波エリア)
はじめに、OPD検波部34に対して空検波エリアが設定される。空検波エリアの設定は可変である。
はじめに、OPD検波部34に対して空検波エリアが設定される。空検波エリアの設定は可変である。
図12は、画像に設定された空検波エリアの例を示す図である。
一般的なユーザが撮影した画像において、空は画像の上の方にある可能性が高ことから、例えば、図12に示されるように、上から1/3の範囲が空検波エリアSky_areaとして設定される。空検波エリアSky_areaに含まれる画素の数の情報がOPD検波部34から演算処理部18に出力される。
(4−2)空と思われる領域の色
空と思われる領域の色の検波は、図13に示されるように、Cr,Cb空間の信号を対象として行われる。Cr,Cb空間の信号は、例えば、RGBデータである入力画像Iに基づいてOPD検波部34により生成される。
空と思われる領域の色の検波は、図13に示されるように、Cr,Cb空間の信号を対象として行われる。Cr,Cb空間の信号は、例えば、RGBデータである入力画像Iに基づいてOPD検波部34により生成される。
撮影した画像に写る空の色は基本的に青色であるため、また、色が飛んでしまったときには白色であるため、青い色と白い色の2つの色が検波の対象とされる。図11中の画像P11,P13,P14に含まれる空の色は青色であり、画像P12に含まれる空の色は白色である。
式(9)の上段に示される条件を満たす色が白色と判断され、式(9)の下段に示される条件を満たす色が青色と判断される。白色または青色の画素として判断された画素の情報がOPD検波部34から演算処理部18に出力される。式(9)のWhite_Treshold,Blue_Treshold1,Blue_Treshold2は所定の閾値である。
(4−3)空と思われる領域の輝度
OPD検波部34においては、空と思われる領域の輝度の検波も行われる。
OPD検波部34においては、空と思われる領域の輝度の検波も行われる。
式(10)のY(i)は図12に示される空検波エリアを構成する画素の輝度を表し、SkyLum_thrdは設定された閾値である。ある画素の輝度が閾値以上の輝度である場合、その画素は、空を構成する画素であると判断される。空を構成するものとして判断された画素の情報がOPD検波部34から演算処理部18に出力される。
(4−4)空と思われる領域の面積
最後に、OPD検波部34から供給された情報に基づいて、空と思われる領域の面積が演算処理部18により求められる。例えば、空と思われる領域の面積は、上記3つの条件(場所、色、輝度)を全部満足する画素の数をカウントすることによって求められる。
最後に、OPD検波部34から供給された情報に基づいて、空と思われる領域の面積が演算処理部18により求められる。例えば、空と思われる領域の面積は、上記3つの条件(場所、色、輝度)を全部満足する画素の数をカウントすることによって求められる。
カウントできた画素数をSky_PixelNumとし、下式(11)に示されるように、このSky_PixelNumを空検波エリアSky_areaを構成する画素の数Area_PixelNumで割ることで、画像に空が写っている確率が求められる。
式(11)のRation_Skyは画像に空が写っている確率を表す。演算処理部18においては、後述するように、このRation_Skyの値が、上記3つの特徴と一緒にDRC処理の制御に利用される。
(5)暗いテキスチャー領域があること(暗い高周波成分領域があること)
ビデオカメラ1においては、暗いテキスチャー領域がある場合、その領域に関する情報が、DRC処理の制御のための5つ目の特徴として用いられる。
ビデオカメラ1においては、暗いテキスチャー領域がある場合、その領域に関する情報が、DRC処理の制御のための5つ目の特徴として用いられる。
黒つぶれによって撮影に失敗したと判断されたいろいろな画像を調べたところ、フラット(flat)でディテール(Detail)成分があまりない画像より、ディテール成分を多く含む、テキスチャー領域のある画像が目立つ。
図14は、黒つぶれによって撮影に失敗したと判断された画像の例を示す図である。
図14の画像P21乃至P24に示されるように、暗い時に撮影された木や草などが写っている領域が、暗いテキスチャー領域として判断されることが多い。
ここで、暗いテキスチャー領域に関する処理について説明する。
(5−1)検波エリア(BT_area)
はじめに、OPD検波部34に対して検波エリアBT_areaが設定される。検波エリアの設定は可変である。一番効果のよかった検波エリアは、図15に示されるような、画像の周辺を除くエリアである。検波エリアBT_areaに含まれる画素の数の情報がOPD検波部34から演算処理部18に出力される。
はじめに、OPD検波部34に対して検波エリアBT_areaが設定される。検波エリアの設定は可変である。一番効果のよかった検波エリアは、図15に示されるような、画像の周辺を除くエリアである。検波エリアBT_areaに含まれる画素の数の情報がOPD検波部34から演算処理部18に出力される。
式(12)において、Y(i)は検波エリアBT_areaに含まれる画素の輝度を表し、BTLum_thrdは設定可能な閾値を表す。検波エリアBT_areaに含まれる画素の輝度が閾値BTLum_thrdより小さい場合、その画素は暗い画素として判断される。暗い画素として判断された画素の情報がOPD検波部34から演算処理部18に出力される。
(5−3)水平方向高周波成分(BT_Hbpf)
画像のテキスチャー成分は画像の高周波成分のことであり、画像の高周波成分には水平方向の高周波成分と垂直方向の高周波成分の2種類がある。
画像のテキスチャー成分は画像の高周波成分のことであり、画像の高周波成分には水平方向の高周波成分と垂直方向の高周波成分の2種類がある。
まず、水平方向の周波成分信号に対してBPF(Band Pass Filter)をとり、このBPFの出力値が大きければ大きいほど、高周波成分が大きいとして判断される。
下式(13)に示されるように、BPFの出力値Valu_Hbpfが閾値Hbpf_thrdより大きい場合、水平方向の高周波成分がテキスチャー領域を構成するほどにあるものとして判断される。水平方向の高周波成分がテキスチャー領域を構成するほどにあるものとして判断された画素に関する情報がOPD検波部34から演算処理部18に出力される。閾値Hbpf_thrdとして適宜所定の周波数の値を設定することが可能である。
式(14)、(15)において、Y(x)は処理対象の画素の輝度値を表す。Y(x-1)はY(x)によって輝度値が表される処理対象の画素の左隣(左側の1番目)の画素の輝度値を表し、Y(x+1)はY(x) によって輝度値が表される処理対象の画素の右隣の画素の輝度値を表す。同じように、Y(x-2)はY(x)によって輝度値が表される処理対象の画素の左側の2番目の画素の輝度値を表し、Y(x+2)はY(x) によって輝度値が表される処理対象の画素の右側の2番目の画素の輝度値を表す。
(5−4)垂直方向高周波成分(BT_Vbpf)
垂直方向の周波成分信号に対してBPFをとり、このBPFの出力値が大きければ大きいほど、高周波成分が大きいとして判断される。
垂直方向の周波成分信号に対してBPFをとり、このBPFの出力値が大きければ大きいほど、高周波成分が大きいとして判断される。
下式(16)に示されるように、BPFの出力値Valu_Vbpfが閾値Vbpf_thrdより大きい場合、垂直方向の高周波成分がテキスチャー領域を構成するほどにあるものとして判断される。垂直方向の高周波成分がテキスチャー領域を構成するほどにあるものとして判断された画素に関する情報がOPD検波部34から演算処理部18に出力される。
式(17)、(18)において、Y(y)は処理対象の画素の輝度値を表す。Y(y-1)はY(y)によって輝度値が表される処理対象の画素の上側の1番目の画素の輝度値を表し、Y(y+1)はY(y) によって輝度値が表される処理対象の画素の下側の1番目の輝度値を表す。同じように、Y(y-2)はY(y)によって輝度値が表される処理対象の画素の上側の2番目の画素の輝度値を表し、Y(y+2)はY(y) によって輝度値が表される処理対象の画素の下側の2番目の画素の輝度値を表す。
最後に、上記4つの条件を全て満たす画素の数がカウントされ、暗いテキスチャー領域を構成する画素の数が求められる。
また、カウントできた画素数をBT_PixelNumとし、下式(19)に示されるように、このBT_PixelNumを検波エリアBT_areaを構成する画素の数Area_PixelNumで割ることで、暗いテキスチャー領域がある確率を表すRation_BTが求められる。
以上のようにして暗いテキスチャー領域がある確率を求める構成は図16に示されるものになる。図16に示される構成の少なくとも一部は、OPD検波部34と演算処理部18によって実現される。図16に示されるように、検波エリアBT_areaを構成する画素の輝度Yを表す信号は比較部51、VBPF52、およびHBPF54に入力される。
比較部51は、上式(12)に従って、検波エリアBT_areaに含まれる各画素の輝度が閾値BTLum_thrdより小さいか否かを判断し、閾値BTLum_thrdより小さい、暗い画素の情報を画素カウンタ57に出力する。
VBPF52は、垂直方向の周波数成分のうち、上式(17)、(18)の条件を満たす成分を表す出力値Valu_Vbpfを比較部53に出力する。
比較部53は、上式(16)に従って、VBPF52から供給された出力値Valu_Vbpfが閾値Vbpf_thrdより大きいか否かを判断する。比較部53は、垂直方向の高周波成分がテキスチャー領域を構成するほどにあるものとして判断した画素に関する情報を画素カウンタ57に出力する。
HBPF54は、水平方向の周波数成分のうち、上式(14)、(15)の条件を満たす成分を表す出力値Valu_Hbpfを比較部55に出力する。
比較部55は、上式(13)に従って、HBPF54から供給された出力値Valu_Hbpfが閾値Hbpf_thrdより大きいか否かを判断する。比較部55は、水平方向の高周波成分がテキスチャー領域を構成するほどにあるものとして判断した画素に関する情報を画素カウンタ57に出力する。
検波エリア判断部56は、検波エリアBT_areaに含まれる画素の数の情報を画素カウンタ57に出力する。検波エリア判断部56に対しては、検波エリアBT_areaの範囲を表す情報(横座標Px、縦座標Py)が入力される。
画素カウンタ57は、比較部51、比較部53、比較部55、および検波エリア判断部56から供給された情報に基づいて、条件を全て満たす画素の数をカウントし、上式(19)に従って、画像に暗いテキスチャー領域がある確率を表すRation_BTを求める。求められたRation_BTは、他の特徴の情報とともにDRC処理の制御に用いられる。
−5つの特徴を利用したDRC_Gainの算出−
以上のようにして検出された5つの特徴を利用して、DRC処理を規定するトーンカーブの調整に用いられるDRC_Gainを算出する方法について説明する。
以上のようにして検出された5つの特徴を利用して、DRC処理を規定するトーンカーブの調整に用いられるDRC_Gainを算出する方法について説明する。
式(20)により算出されるDRC_GainはDRC処理を制御するパラメータの総称であり、色味補正ゲイン(Gian_color)、コントラスト強調ゲイン(Gain_cont)、トーンカーブ制御ポイント座標(Pos_M)、トーンカーブ正側ゲイン(GainP)、およびトーンカーブ負側ゲイン(GainN)の5つの要素からなる。図4において演算処理部18からコントラスト強調部43に出力されるゲイン1がGain_contに相当し、演算処理部18からRGB圧縮・色味補正処理部46に出力されるゲイン2がGian_colorに相当する。
Gain_contは、コントラスト強調部43により用いられるゲインであり、この値を調整することによって、コントラスト強調処理の強さを調整することができるようになされている。Gain_contの値が大きければ大きいほど、それは、コントラスト成分をより強く強調するように処理を行うことを表す。
Gain_colorは、RGB圧縮・色味補正処理部46により用いられるゲインであり、この値を調整することによって、色味補正処理の強さを調整することができるようになされている。Gain_colorの値が大きければ大きいほど、それは、色味補正を強く、つまり、白飛びと黒つぶれ部分の色を強く再現するように処理を行うことを表す。
Pos_M、GainP、GainNは、演算処理部18が階調圧縮部44に設定するトーンカーブを調整するときに用いられる値である。調整の元になるトーンカーブの基本型は、例えば、入力画像Iのヒストグラムに応じて選択される。
図17は、トーンカーブの例を示す図である。図17の横軸は入力輝度を表し、縦軸は出力輝度を表す。
図17に示されるように、Pos_Mは、トーンカーブと、点線で示されるy=xの直線の交点Mの座標を表す。また、図17の実線矢印に示されるように、GainPは、トーンカーブの正側(入力輝度を高輝度にする側)の幅を制御するゲインであり、GainNは、トーンカーブの負側(入力輝度を低輝度にする側)の幅を制御するゲインである。
階調圧縮部44においては、Pos_M、GainP、GainNが用いられて演算処理部18により調整されたトーンカーブに基づいて、入力画像Iの輝度のダイナミックレンジが圧縮される。
次に、特徴を用いてDRC_Gainを算出する具体的な方法について説明する。
(1)顔の明るさが暗い
まず、上式(20)の右側に示される条件式を利用して、明るさの暗い顔が処理対象の画像に写っているどうかが判断される。条件式に含まれるRation_FaceBの値は、顔と認識された部分の輝度の平均の逆数であり、式(6)により求められる。Ration_FaceBの値が大きければ大きい程、顔が黒つぶれになる確率が高いことを表す。
まず、上式(20)の右側に示される条件式を利用して、明るさの暗い顔が処理対象の画像に写っているどうかが判断される。条件式に含まれるRation_FaceBの値は、顔と認識された部分の輝度の平均の逆数であり、式(6)により求められる。Ration_FaceBの値が大きければ大きい程、顔が黒つぶれになる確率が高いことを表す。
この条件を満たす場合、演算処理部18は、大きな値をGainPとして設定し、それに従って基本型のトーンカーブを調整する。これにより、図17に示されるように、入力輝度のままでは黒つぶれになってしまう顔の輝度を上げることができ、顔が黒つぶれするのを防ぐことが可能になる。
式(20)の上段の式は、明るさの暗い顔が処理対象の画像に写っていると判断された場合、明るさの暗い顔が写っているといった特徴を、他の特徴より優先的に利用して、暗く写っている顔の輝度を最適化するようにDRC処理を制御することを表す。この場合、他の特徴(ヒストグラムの型がU型になっているかどうか、画像の中央が暗いかどうか、空、暗いテキスチャー領域があること)はDRC処理の制御には考慮されない。
なお、逆光の条件下で撮影されたいろいろな画像を調べた結果、顔が黒つぶれになるときは、顔の色が薄くなっていることがわかった。従って、明るさの暗い顔が処理対象の画像にあると判断された場合、顔の色を濃くしてきれいな肌色に再現することができるように、Ration_FaceBの値が大きければ大きい程、RGB圧縮・色味補正処理部46により行われる色味補正処理において用いられるGain_colorの値としてより大きな値が演算処理部18により設定される。
(2)ヒストグラムの型がU型であるかどうか
図18乃至図20は、パターンマッチングによりヒストグラムの型がU型であると判断された場合のDRC処理の制御の例を示す図である。
図18乃至図20は、パターンマッチングによりヒストグラムの型がU型であると判断された場合のDRC処理の制御の例を示す図である。
図18乃至図20の左側に示されるヒストグラムは、それぞれ、図6のPTN1乃至PTN3として示されるヒストグラムと同じものであり、右側に示されるトーンカーブは、それぞれのパターンのヒストグラムに対応して調整された後のトーンカーブである。
上述したように、ヒストグラムの型がU型になる画像においては、高輝度と低輝度の画素の数が多く、中輝度の画素の数が少ない。図19乃至図20のヒストグラムを見るとわかるように、高輝度側(右側)と低輝度側(左側)は画素の数が多く、高輝度側から、または低輝度側から、中輝度にいくほど画素の数が少なくなる。
ヒストグラムの型がU型になる画像においては、空領域は中輝度の画素により構成される。空領域を構成する画素の輝度のヒストグラム上の場所は、撮影条件によって変わってくる。例えば、図18の左側に示されるPTN1のヒストグラムにおいては、空領域を構成する画素の輝度の場所が中央より低輝度側(図20のヒストグラムにおける空領域の場所を中央として左側)にあり、図19の左側に示されるPTN2のヒストグラムにおいては、空領域を構成する画素の輝度の場所が中央にある。図20の左側に示されるPTN3のヒストグラムにおいては、空領域を構成する画素の輝度の場所が中央より高輝度側(図20のヒストグラムにおける空領域の場所を中央として右側)にある。
ヒストグラムの型がU型であることの特徴を利用してDRC処理を制御する方法は以下の通りとなる。
すなわち、演算処理部18は、ヒストグラムにおいて空領域を構成する画素の輝度の場所が低輝度側にいくほど、交点Mの位置をy=xの直線上で原点に近い方向に調整し、反対に、空領域が高輝度側にいくほど、交点Mの位置をy=xの直線上で原点に遠い方向に調整するといったように、ヒストグラムから判断される空領域を構成する画素の輝度の場所に応じて、トーンカーブの交点Mの座標を調整する。
例えば、図18に示されるヒストグラムにおいては、空領域を構成する画素の輝度の場所が中央より低輝度側にあるから、このような画像を対象としたDRC処理で用いられるトーンカーブの交点Mの座標は、白抜き矢印の先に示されるように、y=xの直線上で原点に近い方向の座標に調整される。
また、図20に示されるヒストグラムにおいては、空領域を構成する画素の輝度の場所が中央より高輝度側にあるから、このような画像を対象としたDRC処理で用いられるトーンカーブの交点Mの座標は、白抜き矢印の先に示されるように、y=xの直線上で原点から遠い方向の座標に調整される。
(3)画像の中央が暗いかどうか
画像の中央が暗いかどうかの特徴を利用してDRC処理を制御する方法は以下の通りとなる。
画像の中央が暗いかどうかの特徴を利用してDRC処理を制御する方法は以下の通りとなる。
すなわち、演算処理部18は、上式(20)の下段に含まれるRation_CenterBの値に応じて、トーンカーブの正側の幅を制御するゲインであるGainPを設定し、基本型のトーンカーブを調整する。Ration_CenterBは、画像に設定された中央エリアに含まれる暗い画素の比率を表す値であり、上式(4)により求められる。
演算処理部18は、Ration_CenterBの値が大きければ大きいほど、大きな値をGainPとして設定する。逆に、演算処理部18は、Ration_CenterBの値が0に近ければ近いほど、小さな値をGainPとして設定し、輝度の低い画素を、y=x直線の方向により近い輝度の画素に変える。これにより、演算処理部18は、DRC処理において、入力輝度と差が少ない輝度が出力輝度として出力されるようにすることができる。
(4)空の特徴
画像に含まれる空の特徴を利用してDRC処理を制御する方法は以下の通りとなる。
画像に含まれる空の特徴を利用してDRC処理を制御する方法は以下の通りとなる。
すなわち、演算処理部18は、第1に、空の特徴と、ヒストグラムの型がU型であることと、画像の中央が暗いこととの3つの特徴を一緒に使い、例えば、画像に空が写っている確率を表すRation_Sky、入力画像Iのヒストグラムの型がU型になる可能性が高いことを表すHistU、入力画像Iの中央が暗い確率を表すRation_CenterBの値がそれぞれ閾値を超え、それぞれの条件を同時に満たす場合、処理対象の入力画像Iが外で逆光の条件下で撮影された画像であると判断し、GainPとGainNを大きくして、DRC処理で用いられるトーンカーブを調整する。
また、演算処理部18は、第2に、図21に示されるように、空の特徴と、ヒストグラムの型がU型であることと、画像の中央が暗いこととの3つの特徴などから、空が白飛びしている状態の画像が処理対象になっていると判断した場合、図22に示されるように、GainNを大きくし、トーンカーブの負側の幅を大きくすることで、空の出力輝度を下げ、空の色をうまく再現することができるようにする。
具体的には、演算処理部18は、空の特徴を検出するときに式(10)などにより求めていた空の輝度が大きければ大きいほど、GainNの値としてより大きな値を設定する。
さらに、演算処理部18は、輝度の調整だけではなく、空の色を濃くして正しく再現することができるように、空の輝度が大きければ大きいほど、Gain_colorの値として大きな値を設定し、RGB圧縮・色味補正処理部46により行われる色味補正処理を制御する。
(5)暗いテキスチャー領域があること
画像に暗いテキスチャー領域が含まれるといった特徴を利用してDRC処理を制御する方法は以下の通りとなる。
画像に暗いテキスチャー領域が含まれるといった特徴を利用してDRC処理を制御する方法は以下の通りとなる。
すなわち、演算処理部18は、上式(19)により求められるRation_BTが閾値より高いことから、暗いテキスチャー領域があると判断した場合、GainPとGain_contの2つのパラメータを調整する。例えば、演算処理部18は、Ration_BTの値が大きければ大きいほど、GainPとGain_contの値としてそれぞれ大きな値を設定する。
GainPの値として大きな値を設定し、トーンカーブの正側の幅を大きくすることで、演算処理部18は、階調圧縮部44により行われるDRC処理において、処理対象の画像に含まれる暗い部分(テキスチャー領域)の輝度を上げることができ、黒つぶれになる部分の視認性を向上させることができる。
また、演算処理部18は、Gain_contの値として大きな値を設定することで、コントラスト強調部43により行われるコントラスト強調処理を、高周波成分をより強く強調するものになるように制御することができる。結果として、本来、黒つぶれの状態になってしまうテキスチャー領域の輝度が上がる上、テキスチャー成分も強調され、可視性が向上されることになる。
このように、処理対象の画像に明るさの暗い顔が写っていないと判断された場合、式(20)の下段の式に基づいて、ヒストグラムの型がU型になっているかどうか、画像の中央が暗いかどうか、空、暗いテキスチャー領域があることの少なくともいずれかが組み合わされ、DRC処理が制御される。式(20)の下段のf(HistU,Ration_CenterB,Ration_sky,Ration_BT)はそのことを表している。
図23は、以上のようにしてDRC処理の制御を行うビデオカメラ1の機能構成例を示すブロック図である。図23に示す機能部のうちの少なくとも一部は、図4の演算処理部18、OPD検波部34により実現される。
図23に示されるように、ビデオカメラ1においては輝度分布判断部101、中央領域明るさ判断部102、顔明るさ判断部103、空領域判断部104、テキスチャー領域判断部105、およびトーンカーブ設定部106が実現される。輝度分布判断部101、中央領域明るさ判断部102、顔明るさ判断部103、空領域判断部104、テキスチャー領域判断部105に対しては処理対象の画像が入力される。
輝度分布判断部101は、処理対象の画像のヒストグラムを算出し、パターンマッチングを行うなどして、そのヒストグラムの型がU型であるか否かを判断する。輝度分布判断部101は、処理対象の画像のヒストグラムのU型傾向を表すHistUを判断結果としてトーンカーブ設定部106に出力する。
中央領域明るさ判断部102は、処理対象の画像の中央部分が暗いか否かを、設定された中央エリアA1に含まれる画素の数と、中央エリアA1に含まれる画素のうちの輝度の低い画素の数などに基づいて判断する。中央領域明るさ判断部102は、中央エリアA1に含まれる暗い画素の比率を表すRation_CenterBを判断結果としてトーンカーブ設定部106に出力する。
顔明るさ判断部103は、画像に写っている人の顔を検出し、検出した顔を構成する画素の輝度などに基づいて、人の顔が黒つぶれになるかどうかを判断する。顔明るさ判断部103は、人の顔が黒つぶれになる確率を表すRation_FaceBを判断結果としてトーンカーブ設定部106に出力する。
空領域判断部104は、空と思われる領域の画像中の場所や面積、その領域を構成する画素の色や輝度に基づいて、処理対象の画像に空が写っているかどうかを判断する。空領域判断部104は、画像に空が写っている確率を表すRation_Skyを判断結果としてトーンカーブ設定部106に出力する。
テキスチャー領域判断部105は、設定された検波エリアに含まれる画素の輝度、画像の周波数成分などに基づいて、暗いテキスチャー領域が処理対象の画像にあるかどうかを判断する。テキスチャー領域判断部105は、暗いテキスチャー領域がある確率を表すRation_BTを判断結果としてトーンカーブ設定部106に出力する。
トーンカーブ設定部106は、輝度分布判断部101、中央領域明るさ判断部102、顔明るさ判断部103、空領域判断部104、テキスチャー領域判断部105によるそれぞれの判断結果に基づいて、上式(20)に従ってトーンカーブの調整を行い、調整したトーンカーブを階調圧縮部44に設定する。また、トーンカーブ設定部106は、適宜、コントラスト強調部43、RGB圧縮・色味補正処理部46にゲインを設定し、コントラスト強調部43とRGB圧縮・色味補正処理部46において行われる処理を制御する。
次に、図24のフローチャートを参照して、ビデオカメラ1により行われる一連のDRC処理について説明する。
ステップS1において、輝度分布判断部101は、処理対象の画像のヒストグラムを算出し、そのヒストグラムの型がU型であるか否かを判断する。輝度分布判断部101は、処理対象の画像のヒストグラムのU型傾向を表すHistUを判断結果としてトーンカーブ設定部106に出力する。
ステップS2において、中央領域明るさ判断部102は、処理対象の画像の中央部分が暗いか否かを判断する。中央領域明るさ判断部102は、中央エリアに含まれる暗い画素の比率を表すRation_CenterBを判断結果としてトーンカーブ設定部106に出力する。
ステップS3において、顔明るさ判断部103は、画像に写っている人の顔を検出し、検出した顔が黒つぶれになるかどうかを判断する。顔明るさ判断部103は、人の顔が黒つぶれになる確率を表すRation_FaceBを判断結果としてトーンカーブ設定部106に出力する。
ステップS4において、空領域判断部104は、処理対象の画像に空が写っているかどうかを判断する。空領域判断部104は、画像に空が写っている確率を表すRation_Skyを判断結果としてトーンカーブ設定部106に出力する。
ステップS5において、テキスチャー領域判断部105は、処理対象の画像に暗いテキスチャー領域があるかどうかを判断する。テキスチャー領域判断部105は、暗いテキスチャー領域がある確率を表すRation_BTを判断結果としてトーンカーブ設定部106に出力する。
ステップS6において、トーンカーブ設定部106は、輝度分布判断部101、中央領域明るさ判断部102、顔明るさ判断部103、空領域判断部104、テキスチャー領域判断部105によるそれぞれの判断結果に基づいて、上式(20)に従ってトーンカーブの調整を行い、調整したトーンカーブを階調圧縮部44に設定する。
ステップS7において、階調圧縮部44は、トーンカーブ設定部106により設定されたトーンカーブに従ってDRC処理を行い、DRC処理を施して得られた画像を出力し、処理を終了させる。
その後、DRC処理により得られた信号などに基づいてRGB圧縮処理や色味補正処理がRGB圧縮・色味補正処理部46により行われ、RGB圧縮処理や色味補正処理により得られた信号に対して、ダイナミックレンジ圧縮処理部32の後段に設けられる各部で各種の処理が施される。
以上においては、上述したようなDRC処理がビデオカメラ1において行われる場合について説明したが、デジタルスチルカメラやカメラ機能付き携帯電話機などの、撮影機能を有する各種の機器において行われるようにしてもよい。
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
インストールされる実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアに記録して、あるいは、ローカルエリアネットワーク、インターネット、ディジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
1 ビデオカメラ, 18 演算処理部, 32 ダイナミックレンジ圧縮処理部, 34 OPD検波部, 44 階調圧縮部, 101 輝度分布判断部, 102 中央領域明るさ判断部, 103 顔明るさ判断部, 104 空領域判断部, 105 テキスチャー領域判断部, 106 トーンカーブ設定部
Claims (4)
- 処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かを前記画像を構成する画素の輝度の分布に基づいて判断する輝度分布判断手段と、
前記画像の中央を含む一部の領域を構成する画素の輝度に基づいて、前記一部の領域に写る被写体の明るさを判断する中央領域明るさ判断手段と、
前記画像に被写体として写る人の顔を検出し、検出した顔を構成する画素の輝度に基づいて、前記顔の明るさを判断する顔明るさ判断手段と、
前記画像に空が写っているか否かを、空と考えられる領域の前記画像中の位置、空と考えられる領域の色、空と考えられる領域を構成する画素の輝度、空と考えられる領域の面積の少なくともいずれかに基づいて判断する空判断手段と、
前記画像を構成する画素の輝度と、前記画像の周波数成分に基づいて、暗く、高周波成分を多く含む領域が前記画像中にあるか否かを判断するテキスチャー領域判断手段と、
前記輝度分布判断手段による判断結果、前記中央領域明るさ判断手段による判断結果、前記顔明るさ判断手段による判断結果、前記空判断手段による判断結果、および、前記テキスチャー領域判断手段による判断結果のうちの少なくともいずれかの判断結果に基づいて、前記画像の輝度のダイナミックレンジを圧縮するときに用いられる、圧縮の程度を規定するトーンカーブを設定する設定手段と、
前記画像の輝度のダイナミックレンジを、前記設定手段により設定された前記トーンカーブに従って圧縮する圧縮手段と
を備える画像処理装置。 - 前記画像に被写体として写る人の顔が閾値としての明るさより暗くなっている確率が高いと前記顔明るさ判断手段により判断された場合、
前記設定手段は、前記顔明るさ判断手段による判断結果以外の判断結果を考慮せずに、前記画像を構成する画素の輝度を上げるようにトーンカーブを設定する
請求項1に記載の画像処理装置。 - 処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かを前記画像の輝度の分布に基づいて判断し、
前記画像の中央を含む一部の領域を構成する画素の輝度に基づいて、前記一部の領域に写る被写体の明るさを判断し、
前記画像に被写体として写る人の顔を検出し、検出した顔を構成する画素の輝度に基づいて、前記顔の明るさを判断し、
前記画像に空が写っているか否かを、空と考えられる領域の前記画像中の位置、空と考えられる領域の色、空と考えられる領域を構成する画素の輝度、空と考えられる領域の面積の少なくともいずれかに基づいて判断し、
前記画像を構成する画素の輝度と、前記画像の周波数成分に基づいて、暗く、高周波成分を多く含む領域が前記画像中にあるか否かを判断し、
前記処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かの判断結果、前記一部の領域に写る被写体の明るさの判断結果、前記顔の明るさの判断結果、前記画像に空が写っているか否かの判断結果、および、暗く、高周波成分を多く含む領域が前記画像中にあるか否かの判断結果のうちの少なくともいずれかの判断結果に基づいて、前記画像の輝度のダイナミックレンジを圧縮するときに用いられる、圧縮の程度を規定するトーンカーブを設定し、
前記画像の輝度のダイナミックレンジを、設定した前記トーンカーブに従って圧縮する
ステップを含む画像処理方法。 - 処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かを前記画像の輝度の分布に基づいて判断し、
前記画像の中央を含む一部の領域を構成する画素の輝度に基づいて、前記一部の領域に写る被写体の明るさを判断し、
前記画像に被写体として写る人の顔を検出し、検出した顔を構成する画素の輝度に基づいて、前記顔の明るさを判断し、
前記画像に空が写っているか否かを、空と考えられる領域の前記画像中の位置、空と考えられる領域の色、空と考えられる領域を構成する画素の輝度、空と考えられる領域の面積の少なくともいずれかに基づいて判断し、
前記画像を構成する画素の輝度と、前記画像の周波数成分に基づいて、暗く、高周波成分を多く含む領域が前記画像中にあるか否かを判断し、
前記処理対象の画像に高輝度の被写体と低輝度の被写体が写っているか否かの判断結果、前記一部の領域に写る被写体の明るさの判断結果、前記顔の明るさの判断結果、前記画像に空が写っているか否かの判断結果、および、暗く、高周波成分を多く含む領域が前記画像中にあるか否かの判断結果のうちの少なくともいずれかの判断結果に基づいて、前記画像の輝度のダイナミックレンジを圧縮するときに用いられる、圧縮の程度を規定するトーンカーブを設定し、
前記画像の輝度のダイナミックレンジを、設定した前記トーンカーブに従って圧縮する
ステップを含む処理をコンピュータに実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007151182A JP2008305122A (ja) | 2007-06-07 | 2007-06-07 | 画像処理装置、画像処理方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007151182A JP2008305122A (ja) | 2007-06-07 | 2007-06-07 | 画像処理装置、画像処理方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008305122A true JP2008305122A (ja) | 2008-12-18 |
Family
ID=40233807
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007151182A Withdrawn JP2008305122A (ja) | 2007-06-07 | 2007-06-07 | 画像処理装置、画像処理方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008305122A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014143613A (ja) * | 2013-01-24 | 2014-08-07 | Fujitsu Semiconductor Ltd | 画像処理装置、方法、及びプログラム、並びに撮像装置 |
JP2015005001A (ja) * | 2013-06-19 | 2015-01-08 | 株式会社 日立産業制御ソリューションズ | 画像信号処理装置,撮像装置および画像処理プログラム |
US9800881B2 (en) | 2013-05-07 | 2017-10-24 | Denso Corporation | Image processing apparatus and image processing method |
JP2018117276A (ja) * | 2017-01-19 | 2018-07-26 | ソニー株式会社 | 映像信号処理装置、映像信号処理方法およびプログラム |
JP2020140392A (ja) * | 2019-02-27 | 2020-09-03 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
-
2007
- 2007-06-07 JP JP2007151182A patent/JP2008305122A/ja not_active Withdrawn
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014143613A (ja) * | 2013-01-24 | 2014-08-07 | Fujitsu Semiconductor Ltd | 画像処理装置、方法、及びプログラム、並びに撮像装置 |
US9800881B2 (en) | 2013-05-07 | 2017-10-24 | Denso Corporation | Image processing apparatus and image processing method |
JP2015005001A (ja) * | 2013-06-19 | 2015-01-08 | 株式会社 日立産業制御ソリューションズ | 画像信号処理装置,撮像装置および画像処理プログラム |
US9355327B2 (en) | 2013-06-19 | 2016-05-31 | Hitachi Industry & Control Solutions, Ltd. | Image processing apparatus and imaging apparatus with noise correction function and signal level correction function |
JP2018117276A (ja) * | 2017-01-19 | 2018-07-26 | ソニー株式会社 | 映像信号処理装置、映像信号処理方法およびプログラム |
CN110168605A (zh) * | 2017-01-19 | 2019-08-23 | 索尼公司 | 用于动态范围压缩的视频信号处理装置、视频信号处理方法和程序 |
US11403741B2 (en) | 2017-01-19 | 2022-08-02 | Sony Corporation | Video signal processing apparatus, video signal processing method, and program |
CN110168605B (zh) * | 2017-01-19 | 2023-05-30 | 索尼公司 | 用于动态范围压缩的视频信号处理装置、视频信号处理方法和计算机可读介质 |
JP2020140392A (ja) * | 2019-02-27 | 2020-09-03 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7329932B2 (ja) | 2019-02-27 | 2023-08-21 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10171786B2 (en) | Lens shading modulation | |
US8363131B2 (en) | Apparatus and method for local contrast enhanced tone mapping | |
JP4218723B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP5157753B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム | |
EP2987135B1 (en) | Reference image selection for motion ghost filtering | |
US7382928B2 (en) | Digital image processing system and method for processing digital images | |
CN110022469B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US9077905B2 (en) | Image capturing apparatus and control method thereof | |
US9749546B2 (en) | Image processing apparatus and image processing method | |
US20040207734A1 (en) | Image processing apparatus for generating a wide dynamic range image | |
US20090231467A1 (en) | Imaging apparatus, imaging method, storage medium, and integrated circuit | |
JP2008104009A (ja) | 撮像装置および撮像方法 | |
US8059187B2 (en) | Image capturing apparatus | |
CN107533756B (zh) | 图像处理装置、摄像装置、图像处理方法以及存储图像处理装置的图像处理程序的存储介质 | |
CN105960658B (zh) | 图像处理装置、摄像装置、图像处理方法以及可通过计算机处理的非暂时性的存储介质 | |
US20110187890A1 (en) | Image processing apparatus | |
US9025820B2 (en) | Image processing apparatus and image processing method | |
JP2010016664A (ja) | 撮像装置 | |
JP2015032966A (ja) | 画像処理装置、撮像装置、制御方法、及びプログラム | |
US9392242B2 (en) | Imaging apparatus, method for controlling imaging apparatus, and storage medium, for underwater flash photography | |
JP2008305122A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US20080131007A1 (en) | Image Coding Method and Image Coding Device | |
JP2008124653A (ja) | 画像信号処理装置、画像信号処理プログラム、画像信号処理方法 | |
JP5591026B2 (ja) | 撮像装置及びその制御方法 | |
KR20120122574A (ko) | 디지털 카메라 장치에서 영상 처리 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20100907 |