JP5259291B2 - ホワイトバランス補正装置及び信号処理プログラム - Google Patents

ホワイトバランス補正装置及び信号処理プログラム Download PDF

Info

Publication number
JP5259291B2
JP5259291B2 JP2008196246A JP2008196246A JP5259291B2 JP 5259291 B2 JP5259291 B2 JP 5259291B2 JP 2008196246 A JP2008196246 A JP 2008196246A JP 2008196246 A JP2008196246 A JP 2008196246A JP 5259291 B2 JP5259291 B2 JP 5259291B2
Authority
JP
Japan
Prior art keywords
image data
frame
white balance
evaluation value
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008196246A
Other languages
English (en)
Other versions
JP2010034955A (ja
Inventor
剛幸 味戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2008196246A priority Critical patent/JP5259291B2/ja
Priority to US12/512,348 priority patent/US8144212B2/en
Publication of JP2010034955A publication Critical patent/JP2010034955A/ja
Application granted granted Critical
Publication of JP5259291B2 publication Critical patent/JP5259291B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Description

本発明は、デジタルカメラやビデオカメラ等において使用されるホワイトバランス補正装置及びコンピュータにホワイトバランス係数を算出させる信号処理プログラムに関する。
一般にデジタルカメラやビデオカメラにおいては、白色光源の色が無彩色となるようにカラーバランスを自動補正するオートホワイトバランス補正装置が搭載されている。これにより、人間の視覚系における色順応の効果をできあがりの写真に擬似的に果たすことにより、違和感のない色調の写真を得ることが可能となる。このホワイトバランス補正を行うためには、まず白色自体を測定することが必要であり、従来は、カメラの撮像素子とは別に設けた測光センサの出力を用いて白を測定する方法、もしくは、撮像素子からの画像データをもとに白を検出する方法が採られていた。測光センサを用いる方法は、コストが高くなり、また撮像範囲と測光範囲は少なからず一致していないため、誤差もある。そのため、一般的には、撮像素子からの画像データをもとに光源の色(無彩色)を検出する方法が主流である。
しかしながら、そのような画像データをもとに光源の色を検出する方法では、画像データに光源の色(無彩色)が無いまたは非常に少ない場合には、正確なホワイトバランスが行えないという欠点がある。このような問題に対し、特許文献1や特許文献2に開示されているように、過去に撮像された画像データを含む複数フレームの画像を用いてホワイトバランス制御を行えば、ホワイトバランスを行う画像中に光源の色が無くとも、他のフレームの画像を利用して光源色の検出確率を上げることが可能である。
特開平9−46579号公報 特開平5−83729号公報
上記特許文献1及び特許文献2に開示されている技術はいずれも、照明条件が単一であれば有効である。しかしながら、照明条件がミックス光下のように幾つかの色温度の照明光が混合されて照らされている環境下においては、複数フレーム間の互いに重複する領域に光源色があった場合、その光源色を過大評価し、一方に偏った照明光の補正をしてしまい、正確なホワイトバランス補正値を求めることができないことがある。また、照明環境の径時変化により複数フレーム間で照明環境が異なっている場合には、正確なホワイトバランスが行えないといった問題がある。
このように、上記特許文献1及び特許文献2に開示されている技術では、ホワイトバランス補正を精度よく行うことができなかった。
本発明は、上記の点に鑑みてなされたもので、精度のよいホワイトバランス補正が行えるホワイトバランス補正装置及びそのためのホワイトバランス係数をコンピュータに算出させる信号処理プログラムを提供することを目的とする。
本発明のホワイトバランス補正装置の一態様は、
撮像素子より得られる画像データを入力して現フレームの画像データの色信号間のバランスを調整するホワイトバランス補正装置であって、
上記現フレームよりも過去に撮像された少なくとも1つの過去フレームの画像データを記憶する画像データ記憶部と、
上記現フレームの画像データおよび上記少なくとも1つの過去フレームの画像データから各画素位置における色信号データを評価値として、複数組取得する評価値取得部と、
上記評価値取得部により得られた複数組の評価値に基づきホワイトバランス係数を算出するホワイトバランス係数算出部と、
上記ホワイトバランス係数算出部で算出した上記ホワイトバランス係数に基づいて、上記撮像素子より得られる現フレームの画像データを補正するホワイトバランス補正部と、
を備え、
上記評価値取得部は、
上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域を検出する重複領域検出部と、
上記重複領域検出部により検出された重複領域に基づき、上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域の色信号データを比較して各々のフレームの画像データが同一の照明環境で撮像されたか否かを判定する環境判定部と、
を備え、
上記環境判定部による判定結果に応じて上記少なくとも1つの過去フレームの画像データの評価値を用いるか用いないかを取捨選択して上記評価値を抽出する
ことを特徴とする。
本発明のホワイトバランス補正装置の別の態様は、
撮像素子より得られる画像データを入力して現フレームの画像データの色信号間のバランスを調整するホワイトバランス補正装置であって、
上記現フレームよりも過去に撮像された少なくとも1つの過去フレームの画像データを記憶する画像データ記憶部と、
上記現フレームの画像データおよび上記少なくとも1つの過去フレームの画像データから各画素位置における色信号データを評価値として、複数組取得する評価値取得部と、
上記評価値取得部により得られた複数組の評価値に基づきホワイトバランス係数を算出するホワイトバランス係数算出部と、
上記ホワイトバランス係数算出部で算出した上記ホワイトバランス係数に基づいて、上記撮像素子より得られる現フレームの画像データを補正するホワイトバランス補正部と、
を備え、
上記評価値取得部は、
上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域を検出する重複領域検出部を備え、
上記重複領域検出部により検出された重複領域に基づき、上記少なくとも1つの過去フレームの画像データから、上記現フレームの画像データとは重複しない画像領域における色信号データを評価値として抽出する
ことを特徴とする。
本発明の画像処理プログラムの一態様は、
撮像素子より得られる現フレームの画像データおよび該現フレームのよりも過去に撮像された少なくとも1つの過去フレームの画像データから、各画素位置における色信号データを評価値として、複数組取得するステップと、
上記取得された複数組の評価値に基づきホワイトバランス係数を算出するステップと、
をコンピュータに発揮させて、撮像素子より得られる現フレームの画像データの色信号間のバランスを調整するためのホワイトバランス係数をコンピュータに算出させる信号処理プログラムであって、
上記評価値を複数組取得するステップは、
上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域を検出するステップと、
検出された上記重複する画像領域に基づき、上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域の色信号データを比較して各々のフレームの画像データが同一の照明環境で撮像されたか否かを判定するステップと、
を含み、
上記判定結果に応じて上記少なくとも1つの過去フレームの画像データの評価値を用いるか用いないかを取捨選択して上記評価値を抽出する
ことを特徴とする。
本発明の画像処理プログラムの別の態様は、
撮像素子より得られる現フレームの画像データおよび該現フレームのよりも過去に撮像された少なくとも1つの過去フレームの画像データから、各画素位置における色信号データを評価値として、複数組取得するステップと、
上記取得された複数組の評価値に基づきホワイトバランス係数を算出するステップと、
をコンピュータに発揮させて、撮像素子より得られる現フレームの画像データの色信号間のバランスを調整するためのホワイトバランス係数をコンピュータに算出させる信号処理プログラムであって、
上記評価値を複数組取得するステップは、
上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域を検出するステップを含み、
検出された上記重複領域に基づき、上記少なくとも1つの過去フレームの画像データから、上記現フレームの画像データとは重複しない画像領域における色信号データを評価値として抽出する
ことを特徴とする。
これらの態様によれば、ホワイトバランス係数算出部においてホワイトバランス係数を算出する際に用いる評価値として、少なくとも1つの過去フレームの画像から取得した評価値を全て用いるのではなく、過去フレームの画像データと現フレームの画像データとで互いに重複する画像領域の検出結果に応じて選択的に取得した評価値を用いるようにしているので、例えば、照明環境の径時変化により複数フレーム間で照明環境が異なってしまう場合には過去フレームの何れの画像データの評価値を用いるか選択し、複数フレーム間の互いに重複する領域に光源色があった場合には過去画像データの何れの画像領域の評価値を用いるか選択する等、不適当な評価値を用いないようにすることができるため、精度のよいホワイトバランス補正が行える。
本発明によれば、精度のよいホワイトバランス補正が行えるホワイトバランス補正装置及びそのためのホワイトバランス係数をコンピュータに算出させる信号処理プログラムを提供することができる。
以下、本発明を実施するための最良の形態を図面を参照して説明する。
図1は、本発明の一実施形態に係るホワイトバランス補正装置10の全体構成を示す図である。本実施形態におけるホワイトバランス補正装置は、本ホワイトバランス補正装置10が搭載されるカメラの撮像素子21より得られる画像データを入力して現フレームの画像の色信号間のバランスを調整するものである。
即ち、本ホワイトバランス補正装置10は、被写体の像を撮像レンズ22を介して撮像する撮像素子21により現在からある所定時間内に撮像された過去のフレームを含む複数枚のフレームの画像データ、つまり最新のフレーム(現フレーム)の画像データと少なくとも1つの過去フレームの画像データとを記憶する画像データ記憶部として機能する時系列画像蓄積部11と、上記時系列画像蓄積部11に記憶された複数フレームの画像データから照明環境が同一であるシーンを判定して該同一シーンの画像データよりホワイトバランス係数を算出するための評価値を抽出するWB評価値抽出部12と、上記WB評価値抽出部12により抽出された評価値を蓄積するWB評価値蓄積部13と、上記WB評価値蓄積部13に蓄積された評価値に基づきホワイトバランス係数を算出するホワイトバランス係数算出部として機能するWB係数算出部14と、撮像素子により撮像された現フレームの画像に対し上記WB係数算出部14により算出されたWB係数を乗算することで現フレームの画像データを補正するホワイトバランス補正部として機能するWB係数乗算部15と、で構成される。
ここで、上記時系列画像蓄積部11は、ある所定時間内に撮像された過去フレームの画像データを記憶するが、必ずしも所定時間内に撮像された全てのフレーム画像データを記憶する必要はなく、例えば所定時間内において所定のインターバル期間により間引いたフレームの画像データのみを記憶してもよい。また、各々のフレーム画像データに対しても必ずしも全画素を記憶する必要もなく、ある所定の比率により縮小された縮小画像データにして記憶してもよい。このような間引きまたは縮小を行えば、上記時系列画像蓄積部を構成するメモリが有する所定のメモリ量に対して、より長い期間のフレーム画像データを記憶することができるので、後段のWB係数算出部14において光源色の検出確率を増やすことが可能となる。
また、上記WB評価値抽出部12は、詳細には、各フレーム間の互いに重複する画像領域を検出する重複領域検出部121と、上記重複領域検出部121により検出された重複部における各フレーム間の画像データの色信号データを比較して各々のフレームの画像データが同一の照明環境で撮像されたか否かを判定する環境判定部として機能する色度比較部122と、さらには同一シーンと判定されたフレームの画像データの画角サイズが、現在(最新)のフレームの画像データの画角サイズに対してどの程度、拡大または縮小されて撮像されているかを算出する相対画角検出部123と、を備えている。
以下、上記WB評価値抽出部12において照明環境が同一であるシーンを判定して評価値を抽出する過程を図2に示すフローチャートに基づき説明する。
WB評価値抽出部12は、まず、上記時系列画像蓄積部11に記憶された現在(最新)のフレームの画像データから画像領域全体にわたる各画素位置の色信号データをWB評価値として取得し、後段のWB評価値蓄積部13へ出力してそこに格納する(ステップS1)。このとき、図3(A)に示すように、現フレーム画像領域100全体のうちある一定間隔で間引いた画素位置を評価値抽出位置101として、該評価値抽出位置101の色信号データを評価値として抽出してもよいし、また図3(B)に示すように、ある一定サイズの評価値抽出領域102毎に色信号データの平均値を求め、その求めた平均値を抽出するようにしてもよい。
次に、ステップS2以降により、現在よりも過去のフレーム画像データに対して現在のフレーム画像データと同一シーンか否かを判定し、過去のフレーム画像データの評価値を抽出する。ここでは仮定として、時系列画像蓄積部11にはN枚のフレーム画像データが記憶されているとし、0番目のフレームが一番過去に撮像されたフレーム、N番目のフレームが現在(最新)のフレームとする。
まず、判定のための初期設定を行う(ステップS2)。即ち、この段階では、まず、判定結果の初期化として、全ての過去フレーム(0番目からN−1番目のフレーム)に対して判定結果を同一シーンでないと設定する。また、後段の判定処理により判定結果が更新されたか否かを示す判定更新フラグを「0」に初期化し、さらに判定を行う最初の判定対象フレームをN−1番目のフレームに設定する。
次に、同一シーンか否かの判定をする際の基準となるフレーム(比較対象フレーム)の画像データをN番目のフレーム(現在のフレーム画像)の画像データと設定する(ステップS3)。
その後、上記判定対象フレームの画像データと比較対象フレームの画像データとで互いに重複する重複領域を、図1における重複領域検出部121を用いて検出する(ステップS4)。そして、上記判定対象フレームの画像データと比較対象フレームの画像データとで互いに重複する領域があるか否かを判別し(ステップS5)、重複領域がある場合には、後段のステップS6に進む。一方、重複する領域がない場合には、ステップS12〜S15の処理により比較対象フレームを既に同一シーンとして判定された他のフレームに更新して、再び上記ステップS4、S5の処理を繰り返す。即ち、比較対象フレームを1つ過去のフレームに更新し(ステップS12)、その結果、−1番目のフレームとなってしまったか否か、つまり全ての比較対象フレームに対する判定処理を終了したか否かを判別する(ステップS13)。そして、まだ全ての比較対象フレームに対する判定処理が終了していない場合には、その更新した比較対象フレームの画像データの判定結果を参照して(ステップS14)、既に同一シーンであると判定された過去のフレームの画像データであるかどうか確認する(ステップS15)。ここで、同一シーンでなければ上記ステップS12に戻り、同一シーンであれば上記ステップS4に戻る。また、上記ステップS13において、全ての比較対象フレームの画像データに対して判定処理が終了したと判断した場合には、ステップS16により判定対象フレームを次のフレームに更新し、判定処理を続行する。
なお、上記重複領域検出部121において重複領域を検出する具体的方法としては、画像データの部分領域毎のパターンや特徴量のマッチングを行い、フレーム間で対応する領域を検出してもよいし、また図示しないが、装置外部に設けたジャイロセンサ等を用いて装置の位置や角度変化を検出して記憶しておき、フレーム間の装置の位置や角度変化から画角変化を推定して重複領域を算出してもよい。
上記ステップS5において重複する領域があると判別した場合には、WB評価値抽出部12は、図1における色度比較部122を用いて、判定対象フレームの画像データと比較対象フレームの画像データとで互いに重複する領域の色信号データを比較する(ステップS6)。即ち、判定対象フレームの画像データにおける色信号データをR(x,y),G(x,y),B(x,y)、比較対象フレームの画像データにおける色信号データをR(x,y),G(x,y),B(x,y)とすれば、以下の式(1)で表されるΔRBをフレーム間の色度比較値とする。
Figure 0005259291
なおここで、Ωは上記重複領域を示し、Σは上記重複領域の各々の画素について累積することを示している。
そして、上記色度比較部122は、上記色度比較値がある所定値以内であるか否かにより、フレーム間の色信号データが同じか否か、つまり、フレーム間で照明環境が同一であるか否かを判定する(ステップS7)。ここで、上記色度比較値がある所定値以内であれば、フレーム間で照明環境は同一であると判断して、上記判定対象フレームは現在のフレームと同一シーンであると判断され、上記判定対象フレームに対する判定結果を同一シーンであると更新する(ステップS8)。一方、上記色度比較値が上記ある所定値以上であれば、フレーム間に照明環境の変化があったとして、上述と同様ステップS12〜S15の処理により比較対象フレームを更新して、再び上記ステップS4、S5の処理を繰り返す。
このように、WB評価値抽出部12は、色度比較部122による判定結果に応じて当該判定対象フレームの画像データの評価値を用いるか用いないかを取捨選択する。
上記ステップS8において判定結果を更新後は、図1における相対画角検出部123を用いて、上記判定対象フレームの画像データと比較対象フレームの画像データとで互いに重複する領域のパターン(もしくは特徴量)の大きさの変化から画角サイズの変化率を算出し、その画角サイズ変化率から上記判定対象フレームの画像データの現在のフレームの画像データに対する相対的な画角の大きさ比率である画角サイズ係数を算出する(ステップS9)。ここで、もし上記比較対象フレームの画像データが現在(N番目)のフレームのものであれば、上記判定対象フレームの画像データと比較対象フレームの画像データとの画角サイズの変化率をそのまま画角サイズ係数とすればよい。一方、上記比較対象フレームの画像データが既に同一シーンであると判定された過去のフレームのものであれば、その比較対象フレームの画像データに対して既に求められた画角サイズ係数に、上記判定対象フレームの画像データと比較対象フレームの画像データとの画角サイズの変化率を乗算することにより、現在(N番目)のフレームの画像データに対する画角サイズ係数を求めることができる。
次に、WB評価値抽出部12は、同一シーンであると判定された上記判定対象フレームからWB評価値を抽出して、図1におけるWB評価値蓄積部13へ出力してそこに格納する(ステップS10)。
図4は、このステップS10におけるWB評価値の抽出・格納の過程をフローチャートで示す図である。まず、上記ステップS4における重複領域の検出結果から、上記判定対象フレームの画像データに対して上記比較対象フレームの画像データと重複しない領域である非重複領域を、WB評価領域として抽出する(ステップS201)。さらに、ステップS202からステップS208において比較対象フレームを更新していき、最終的には現在のフレームの画像データも含め既に同一シーンとして判定された全てのフレームの画像データに対して重複しない領域を上記判定対象フレームの画像領域から求め、これをWB評価領域とする。即ち、比較対象フレームを1つ過去のフレームに更新し(ステップS202)、その結果、−1番目のフレームとなってしまったか否か、つまり全ての比較対象フレームに対するWB評価領域の検出処理を終了したか否かを判別する(ステップS203)。そして、まだ全ての比較対象フレームに対する処理が終了していない場合には、その更新した比較対象フレームの画像データの判定結果を参照して(ステップS204)、既に同一シーンであると判定された過去のフレームの画像データであるかどうか確認する(ステップS205)。ここで、同一シーンでなければ上記ステップS202に戻る。これに対して、同一シーンであれば、図1における重複領域検出部121を用いて、現在WB評価領域として抽出されている領域と上記比較対象フレームの画像データとで互いに重複する領域を検出する(ステップS206)。そして、上記WB評価領域と比較対象フレームの画像データとで互いに重複する領域があるか否かを判別し(ステップS207)、重複領域が無ければ上記ステップS202に戻る。これに対して、重複領域がある場合には、上記WB評価領域からその検出した重複領域を除いた領域を新たなWB評価領域として更新して(ステップS208)、上記ステップS203に戻る。
而して、上記ステップS203において、全ての比較対象フレームについて処理を行ったと判定したならば、図3(C)に示すように、判定対象フレーム画像領域103から比較対象フレーム画像領域104との重複領域105を除いた領域として最終的に検出された判定対象フレーム画像領域103のWB評価領域106から、各評価値抽出位置101、例えば各画素位置における色信号データをWB評価値として取得する(ステップS209)。また、上記WB評価領域106から、評価値抽出領域102毎に求めた色信号データの平均値をWB評価値として取得するようにしてもよい。そしてさらに、上記ステップS9において求めた画角サイズ係数を重み付け係数として、この重み付け係数とともに、取得されたWB評価値をWB評価値蓄積部13へ出力してそこに格納し(ステップS210)、図2におけるステップS10の処理が終了する。
このように、WB評価値抽出部12は、上記重複領域検出部121を用いて検出した重複領域に基づき、上記少なくとも1つの過去フレームの画像データから、上記現フレームの画像データとは重複しない画像領域における色信号データをWB評価値として抽出する。
次に、WB評価値抽出部12は、上記判定対象フレームについて判定結果が更新されたことを示す判定更新フラグを「1」に更新する(ステップS11)。そして、ステップS16〜ステップS19の処理により判定対象フレームを更新する。即ち、判定対象フレームを1つ過去のフレームに更新して(ステップS16)、当該判定対象フレームの画像データの判定結果を参照して(ステップS17)、既に同一シーンであると判定された過去のフレームの画像データであるかどうか確認する(ステップS18)。ここで、同一シーンであれば上記ステップS16に戻る。これに対して、同一シーンでなければ、上記判定対象フレームの更新の結果、−1番目のフレームとなってしまったか否か、つまり全ての判定対象フレームに対する判定処理を終了したか否かを判別する(ステップS19)。そして、まだ全ての判定対象フレームに対する処理が終了していない場合には、上記ステップS3に戻る。このように判定対象フレームを更新しつつ、上記説明したステップS3〜ステップS15までの処理を繰り返すことにより、全てのフレームについて同一シーンであるか否かを判定していく。
而して、上記ステップS19において、全ての判定対象フレームに対する判定処理を行ったと判定したならば、判定結果が更新されたことを示す判定更新フラグを判別することで、上述のステップS3〜ステップS19の処理を行った結果、一回でも上記ステップS11において判定結果が更新されたか否かを判別する(ステップS20)。そして、もし一回でも判定結果が更新されていれば、即ち、同一シーンであると判断されたフレームが増えていれば、再び判定更新フラグを「0」に初期化すると共に判定対象フレームをN−1番目のフレームに初期化する(ステップS21)。その後、上記ステップS17に戻った後、上記ステップS18、S19を介して上記ステップS3の処理に戻り、同一シーンとして判定されていないフレームに対して判定処理を再び行う。一方、上記ステップS20において、同一シーンであると判断されたフレームが増えてなければ、処理を終了する。
以下、具体的に説明する。
例えば、現フレームが4番目(N=3)のフレームであるとすれば、ステップS2においてi=2、ステップS3においてk=3として、ステップS4で重複領域105が検出され、ステップS5〜S7で重複領域105が有って、色信号データが同じであると判定されれば、ステップS8において3番目のフレーム(1つ過去のフレーム)の画像データは同一シーンであることに更新し、ステップS9,S10で画角サイズ係数、WB評価値をWB評価値蓄積部13に格納し、ステップS11で判定更新フラグを「1」に更新する。
その後、ステップS16でi=1と判定対象フレームを更新すると、ステップS17〜S19を経てステップS3に戻り、同様にしてステップS4〜S11で、2番目のフレーム(2つ過去のフレーム)の画像データも同一シーンであるとして、画角サイズ係数、WB評価値をWB評価値蓄積部13に格納する。
そして、またステップS16でi=0と判定対象フレームを更新し、ステップS17〜S19を経てステップS3に戻り、ステップS4〜S11で、1番目のフレーム(3つ過去のフレーム)の画像データも同一シーンであるとして、画角サイズ係数、WB評価値をWB評価値蓄積部13に格納する。その後、ステップS16でi=−1と判定対象フレームが更新されると、ステップS17〜S19を経てステップS20に進み、判定更新フラグが「1」であるので、ステップS21において該判定更新フラグを「0」に初期化すると共にi=2として、ステップS17に進む。すると、ステップS18で同一シーンであると判定されるため、ステップS16にてi=1とされ、ステップS17を経てステップS18で同様に同一シーンと判定されて、更にステップS16でi=−1とされる。今度はステップS18にて同一シーンでないと判定されるため、ステップS19,S20と進み、判定更新フラグは「0」に初期化されているので、処理を終了する。
このようにして、WB評価値抽出部12は、現フレーム及び過去フレームの画像データから、評価値を複数組取得する。
次に、色信号データが変化した場合を説明する。
例えば、1番目のフレームと2番目のフレームの重複領域105において異なる色信号データが検出された場合には、2番目のフレームにおいて、i=0,k=1の状態で、ステップS7にて色信号データが同じでないと判別され、ステップS12にてk=0とする。そして、ステップS13,S14,S15を経て、再度ステップS12にてk=−1となり、ステップS13からステップS16に進む。ここでi=−1として、ステップS17〜S19,S20と進み、判定更新フラグは「0」のままであるので、処理を終了する。
次の3番目のフレームでは、ステップS2においてi=1、ステップS3においてk=2として、ステップS4〜S7に進む。このとき、現フレームである3番目のフレームと1つ過去のフレームである2番目のフレームとでは色信号データが同じであるので、ステップS8〜S11で、2番目のフレーム(1つ過去のフレーム)の画像データは同一シーンであるとして、画角サイズ係数、WB評価値をWB評価値蓄積部13に格納する。
そして、ステップS16でi=0と判定対象フレームを更新し、ステップS17〜S19を経てステップS3に戻り、ステップS4〜S6を経てステップS7に進む。ここで、k(=2)番目のフレームつまり現フレームである3番目のフレームとi(=0)番目のフレームつまり2つ過去のフレームである1番目のフレームとでは色信号データが同じではないので、ステップS12に進み、k=1と比較対象フレームを更新する。そして、ステップS13,S14と進み、ステップS15で2番目のフレームの画像データは同一シーンと判定されて、ステップS4に進むこととなる。ステップS4においては、今度は、1番目のフレームと2番目のフレームとを比較することとなるので、ステップS5,S6を経てステップS7において、やはり色信号データが同じでないと判定されて、ステップS12に進む。そして、k=0と比較対象フレームを更新する。今度は、ステップS13,S14からステップS15に進むと、同一シーンではないと判定されるため、ステップS12に戻り、更にk=−1と比較対象フレームを更新する。そして、ステップS13からステップS16に進み、i=−1と判定対象フレームが更新される。
すると、ステップS17〜S19を経てステップS20に進み、判定更新フラグが「1」であるので、ステップS21において該判定更新フラグを「0」に初期化すると共にi=1として、ステップS17に進む。そして、ステップS18で同一シーンと判定されるので、ステップS16に戻り、i=0とする。今度は、ステップS17を経てステップS18で同一シーンでないと判定されるので、ステップS19からステップS3に進んで、k=2とされる。その後、ステップS4,S5,S6を経てステップS7において色信号データが同じでないと判定されて、ステップS12に進む。そして、k=1として、ステップS13,S14からステップS15に進むと、同一シーンと判定されて、ステップS4へ進む。そして、ステップS5,S6を経てステップS7において色信号データが同じでないと判定されて、ステップS12に進む。そして、k=0として、ステップS13からステップS14,S15を経て、再度ステップS12にてk=−1となり、ステップS13からステップS16に進む。ここでi=−1として、ステップS17〜S19,S20と進み、判定更新フラグは「0」のままであるので、処理を終了する。
次の4番目のフレームでは、ステップS2においてi=2、ステップS3においてk=3として、ステップS4〜S7に進む。このとき、現フレームである4番目のフレームと1つ過去のフレームである3番目のフレームとでは色信号データが同じであるので、ステップS8〜S11で、3番目のフレーム(1つ過去のフレーム)の画像データは同一シーンであるとして、画角サイズ係数、WB評価値をWB評価値蓄積部13に格納する。
そして、ステップS16でi=1と判定対象フレームを更新し、ステップS17〜S19を経てステップS3に戻り、ステップS4〜S6を経てステップS7に進む。ここで、現フレームである4番目のフレームと2つ過去のフレームである2番目のフレームとでは色信号データが同じであるので、ステップS8〜S11で、2番目のフレーム(2つ過去のフレーム)の画像データも同一シーンであるとして、画角サイズ係数、WB評価値をWB評価値蓄積部13に格納する。
そして、ステップS16でi=0と判定対象フレームを更新し、ステップS17〜S19を経てステップS3に戻り、ステップS4〜S6を経てステップS7に進む。ここで、k(=3)番目のフレームつまり現フレームである4番目のフレームとi(=0)番目のフレームつまり3つ過去のフレームである1番目のフレームとでは色信号データが同じではないので、ステップS12に進み、k=2と比較対象フレームを更新する。そして、ステップS13,S14と進み、ステップS15で3番目のフレームの画像データは同一シーンと判定されて、ステップS4に進むこととなる。ステップS4においては、今度は、1番目のフレームと3番目のフレームとを比較することとなるので、ステップS5,S6を経てステップS7において、やはり色信号データが同じでないと判定されて、ステップS12に進む。そして、k=1と比較対象フレームを更新する。そして、ステップS13,S14と進み、ステップS15で2番目のフレームの画像データは同一シーンと判定されて、ステップS4に進むこととなる。ステップS4においては、今度は、1番目のフレームと2番目のフレームとを比較することとなるので、ステップS5,S6を経てステップS7において、やはり色信号データが同じでないと判定されて、ステップS12に進む。そして、k=0と比較対象フレームを更新する。今度は、ステップS13,S14からステップS15に進むと、同一シーンではないと判定されるため、ステップS12に戻り、更にk=−1と比較対象フレームを更新する。そして、ステップS13からステップS16に進み、i=−1と判定対象フレームが更新される。
すると、ステップS17〜S19を経てステップS20に進み、判定更新フラグが「1」であるので、ステップS21において該判定更新フラグを「0」に初期化すると共にi=2として、ステップS17に進む。そして、ステップS18で同一シーンと判定されるので、ステップS16に戻り、i=1とする。今度も、ステップS18で同一シーンと判定されるので、ステップS16に戻り、更にi=0とする。すると、ステップS17を経てステップS18で同一シーンでないと判定されるので、ステップS19からステップS3に進んで、k=3とされる。その後、ステップS4,S5,S6を経てステップS7において色信号データが同じでないと判定されて、ステップS12に進む。そして、k=2として、ステップS13,S14と進み、ステップS15で3番目のフレームの画像データは同一シーンと判定されて、ステップS4に進むこととなる。ステップS4においては、今度は、1番目のフレームと3番目のフレームとを比較することとなるので、ステップS5,S6を経てステップS7において、やはり色信号データが同じでないと判定されて、ステップS12に進む。そして、k=1と比較対象フレームを更新して、ステップS13,S14からステップS15に進むと、同一シーンと判定されて、ステップS4へ進む。そして、ステップS5,S6を経てステップS7において色信号データが同じでないと判定されて、ステップS12に進む。そして、k=0として、ステップS13からステップS14,S15を経て、再度ステップS12にてk=−1となり、ステップS13からステップS16に進む。ここでi=−1として、ステップS17〜S19,S20と進み、判定更新フラグは「0」のままであるので、処理を終了する。
このようにして、WB評価値抽出部12は、現フレームの画像データ及び該現フレームと同一シーンつまり同一の照明環境で撮像された過去フレームの画像データから、評価値を複数組取得する。
次に、重複領域が無くなった場合を説明する。
例えば、1番目のフレームと2番目のフレームで重複領域105が検出されなかった場合には、2番目のフレームにおいて、i=0,k=1の状態で、ステップS5にて重複する領域がないと判別され、ステップS12にてk=0とする。そして、ステップS13,S14,S15を経て、再度ステップS12にてk=−1となり、ステップS13からステップS16に進む。ここでi=−1として、ステップS17〜S19,S20と進み、判定更新フラグは「0」のままであるので、処理を終了する。
次の3番目のフレームでは、ステップS2においてi=1、ステップS3においてk=2として、ステップS4を経てステップS5に進む。このとき、現フレームである3番目のフレームと1つ過去のフレームである2番目のフレームとで重複領域105があれば、ステップS8〜S11で、2番目のフレーム(1つ過去のフレーム)の画像データは同一シーンであるとして、画角サイズ係数、WB評価値をWB評価値蓄積部13に格納する。
そして、ステップS16でi=0と判定対象フレームを更新し、ステップS17〜S19を経てステップS3に戻り、ステップS4を経てステップS5に進む。ここで、k(=2)番目のフレームつまり現フレームである3番目のフレームとi(=0)番目のフレームつまり2つ過去のフレームである1番目のフレームとでは重複領域105が存在しないので、ステップS12に進み、k=1と比較対象フレームを更新する。そして、ステップS13,S14と進み、ステップS15で2番目のフレームの画像データは同一シーンと判定されて、ステップS4に進むこととなる。ステップS4においては、今度は、1番目のフレームと2番目のフレームとを比較することとなるので、ステップS5において、やはり重複する領域が無いと判定されて、ステップS12に進む。そして、k=0と比較対象フレームを更新する。今度は、ステップS13,S14からステップS15に進むと、同一シーンではないと判定されるため、ステップS12に戻り、更にk=−1と比較対象フレームを更新する。そして、ステップS13からステップS16に進み、i=−1と判定対象フレームが更新される。
すると、ステップS17〜S19を経てステップS20に進み、判定更新フラグが「1」であるので、ステップS21において該判定更新フラグを「0」に初期化すると共にi=1として、ステップS17に進む。そして、ステップS18で同一シーンと判定されるので、ステップS16に戻り、i=0とする。今度は、ステップS17を経てステップS18で同一シーンでないと判定されるので、ステップS19からステップS3に進んで、k=2とされる。その後、ステップS4を経てステップS5において重複する領域が無いと判定されて、ステップS12に進む。そして、k=1として、ステップS13,S14からステップS15に進むと、同一シーンと判定されて、ステップS4へ進む。そして、ステップS5において重複する領域が無いと判定されて、ステップS12に進む。そして、k=0として、ステップS13からステップS14,S15を経て、再度ステップS12にてk=−1となり、ステップS13からステップS16に進む。ここでi=−1として、ステップS17〜S19,S20と進み、判定更新フラグは「0」のままであるので、処理を終了する。
次の4番目のフレームでは、ステップS2においてi=2、ステップS3においてk=3として、ステップS4,S5と進む。このとき、現フレームである4番目のフレームと1つ過去のフレームである3番目のフレームとでは重複する領域があるので、ステップS6〜S11で、3番目のフレーム(1つ過去のフレーム)の画像データは同一シーンであるとして、画角サイズ係数、WB評価値をWB評価値蓄積部13に格納する。
そして、ステップS16でi=1と判定対象フレームを更新し、ステップS17〜S19を経てステップS3に戻り、ステップS4を経てステップS5に進む。ここで、現フレームである4番目のフレームと2つ過去のフレームである2番目のフレームとでは重複する領域があるので、ステップS6〜S11で、2番目のフレーム(2つ過去のフレーム)の画像データも同一シーンであるとして、画角サイズ係数、WB評価値をWB評価値蓄積部13に格納する。
そして、ステップS16でi=0と判定対象フレームを更新し、ステップS17〜S19を経てステップS3に戻り、ステップS4を経てステップS5に進む。ここで、k(=3)番目のフレームつまり現フレームである4番目のフレームとi(=0)番目のフレームつまり3つ過去のフレームである1番目のフレームとでは重複する領域が無いので、ステップS12に進み、k=2と比較対象フレームを更新する。そして、ステップS13,S14と進み、ステップS15で3番目のフレームの画像データは同一シーンと判定されて、ステップS4に進むこととなる。ステップS4においては、今度は、1番目のフレームと3番目のフレームとを比較することとなるので、ステップS5において、やはり重複する領域が無いと判定されて、ステップS12に進む。そして、k=1と比較対象フレームを更新し、ステップS13,S14と進み、ステップS15で2番目のフレームの画像データは同一シーンと判定されて、ステップS4に進むこととなる。ステップS4においては、今度は、1番目のフレームと2番目のフレームとを比較することとなるので、ステップS5において、やはり重複する領域が無いと判定されて、ステップS12に進む。そして、k=0と比較対象フレームを更新する。今度は、ステップS13,S14からステップS15に進むと、同一シーンではないと判定されるため、ステップS12に戻り、更にk=−1と比較対象フレームを更新する。そして、ステップS13からステップS16に進み、i=−1と判定対象フレームが更新される。
すると、ステップS17〜S19を経てステップS20に進み、判定更新フラグが「1」であるので、ステップS21において該判定更新フラグを「0」に初期化すると共にi=2として、ステップS17に進む。そして、ステップS18で同一シーンと判定されるので、ステップS16に戻り、i=1とする。今度も、ステップS18で同一シーンと判定されるので、ステップS16に戻り、更にi=0とする。すると、ステップS17を経てステップS18で同一シーンでないと判定されるので、ステップS19からステップS3に進んで、k=3とされる。その後、ステップS4を経てステップS5において重複する領域が無いと判定されて、ステップS12に進む。そして、k=2として、ステップS13,S14と進み、ステップS15で3番目のフレームの画像データは同一シーンと判定されて、ステップS4に進むこととなる。ステップS4においては、今度は、1番目のフレームと3番目のフレームとを比較することとなるので、ステップS5において、やはり重複する領域が無いと判定されて、ステップS12に進む。そして、k=1と比較対象フレームを更新して、ステップS13,S14からステップS15に進むと、同一シーンと判定されて、ステップS4へ進む。そして、ステップS5において重複する領域が無いと判定されて、ステップS12に進む。そして、k=0として、ステップS13からステップS14,S15を経て、再度ステップS12にてk=−1となり、ステップS13からステップS16に進む。ここでi=−1として、ステップS17〜S19,S20と進み、判定更新フラグは「0」のままであるので、処理を終了する。
このようにして、WB評価値抽出部12は、現フレームの画像データと過去フレームの画像データとで重複しない領域から、評価値を複数組取得する。
以上のようにして、WB評価値抽出部12は、現フレーム及び過去フレームの画像データから、評価値を複数組、取得する評価値取得部として機能する。また、判定対象フレームである過去フレームの画像データから取得する評価値は、同一シーンとして判定されたフレームであって、且つ、そのフレームの非重複領域であるWB評価領域106からのみ取得するように、選択的に取得する。
以上により図1におけるWB評価値抽出部12の処理が終了すると、WB係数算出部14においてWB評価値蓄積部13に蓄積されたWB評価値を用いてWB係数の算出処理が行われる。
図5は、このWB係数算出部14におけるWB係数算出処理の過程をフローチャートで示す図である。まず、WB評価値蓄積部13に蓄積されたWB評価値およびその評価値に対応する重み付け係数を一つずつ取得し(ステップS301)、その取得したWB評価値である色信号データに基づき色度値(R/G、B/G)を算出する(ステップS302)。そして、図6に示すような色度空間において定義された光源色エリア107に上記算出した色度値が入っているか否かを判定する(ステップS303)。ここで、該色度値が光源色エリア107に入っていなければ、全てのWB評価値において上記処理を終了したか否かを判別し(ステップS305)、まだ処理の終了していないWB評価値がWB評価値蓄積部13にあるならば、上記ステップS301に戻って、次のWB評価値および重み付け係数を取得することとなる。
これに対して、上記算出した色度値が上記光源色エリア107に入っている場合には、上記色度値および重み付け係数を各々の累積値に加算していく(ステップS306)。そして、上記ステップS305に進んで、全てのWB評価値において上記処理を終了したか否かを判別し、まだ処理の終了していないWB評価値がWB評価値蓄積部13にあるならば、上記ステップS301に戻る。
而して、上記ステップS305において、全てのWB評価値において上記処理を終了したと判別したならば、上記色度値および重み付け係数の累積値からWB係数WおよびWを算出して(ステップS307)、終了する。ここで、WB係数WおよびWは、光源色エリア107内と判定された色度値および重み付け係数の累積値を各々(R/G)sum、(B/G)sum、Ksumとすれば、以下の式(2)のように求める。
Figure 0005259291
以上のようにして、WB係数算出部14は、相対的な画角の大きさ比率である画角サイズ係数を重み付け係数として、該重み付け係数に基づきWB評価値毎に重み付けを行ってホワイトバランス係数を算出する。
以上により、図1におけるWB係数算出部14の処理が終了すると、WB係数乗算部15において上記WB係数算出部14にて算出されたWB係数を現フレームの画像データに乗算し、ホワイトバランス補正が行われる。
以上説明した本実施形態によれば、重複領域105の色信号データに基づいて照明環境が同一と判定された過去のフレームの画像データを利用することにより、光源色が少ないシーンにおいて、照明環境の径時変化により複数フレーム間で照明環境が異なってしまっても、高精度にホワイトバランス補正を行うことができる。
また、WB係数算出に用いるWB評価値は、重複領域105を除いたWB評価領域106の画像データから取得することにより、複数フレーム間の互いに重複する領域に光源色があった場合でも、その光源色を過大評価して、一方に偏った照明光の補正をしてしまうようなことがなく、正確なWB係数を求めることができ、高精度にホワイトバランス補正を行うことができる。
以上、一実施形態に基づいて本発明を説明したが、本発明は上述した一実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。
例えば、上記WB評価値抽出部12やWB係数算出部14の機能を実現するソフトウェアのプログラムをコンピュータに供給し、当該コンピュータがこのプログラムを実行することによって、上記機能を実現することも可能である。
また、上述した一実施形態では、WB係数算出において光源色の評価値のみを用いてWB係数を算出しているが、これに限ることはなく、例えば肌色や緑色の葉の色等、ある程度出現頻度が多く色の範囲が特定できるような被写体色を評価値から検出して、該被写体色より光源色を推定してもよい。この場合においても、照明環境が同一と判定された過去のフレームの画像を利用することにより、より精度のよいホワイトバランス補正を行うことができる。
(付記)
前記の具体的実施形態から、以下のような構成の発明を抽出することができる。
(1) 撮像素子より得られる画像データを入力して現フレームの画像データの色信号間のバランスを調整するホワイトバランス補正装置であって、
上記現フレームよりも過去に撮像された少なくとも1つの過去フレームの画像データを記憶する画像データ記憶部と、
上記現フレームの画像データおよび上記少なくとも1つの過去フレームの画像データから各画素位置における色信号データを評価値として、複数組取得する評価値取得部と、
上記評価値取得部により得られた複数組の評価値に基づきホワイトバランス係数を算出するホワイトバランス係数算出部と、
上記ホワイトバランス係数算出部で算出した上記ホワイトバランス係数に基づいて、上記撮像素子より得られる現フレームの画像データを補正するホワイトバランス補正部と、
を備え、
上記評価値取得部は、
上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域を検出する重複領域検出部を備え、
上記少なくとも1つの過去フレームの画像データから取得する評価値に関しては、上記重複領域検出部による検出結果に応じて選択的に取得することを特徴とするホワイトバランス補正装置。
(実施形態との対応)
この(1)に記載のホワイトバランス補正装置において、一例として、上記ホワイトバランス補正装置が一実施形態におけるホワイトバランス補正装置10に、上記撮像素子が一実施形態における撮像素子21に、上記画像データ記憶部が一実施形態における時系列画像蓄積部11に、上記評価値取得部が一実施形態におけるWB評価値抽出部12に、上記ホワイトバランス係数算出部が一実施形態におけるWB係数算出部14に、上記ホワイトバランス補正部が一実施形態におけるWB係数乗算部15に、上記重複領域検出部が一実施形態における重複領域検出部121に、それぞれ対応する。
(作用効果)
この(1)に記載のホワイトバランス補正装置は、ホワイトバランス係数算出部においてホワイトバランス係数を算出する際に用いる評価値として、少なくとも1つの過去フレームの画像から取得した評価値を全て用いるのではなく、過去フレームの画像データと現フレームの画像データとで互いに重複する画像領域の検出結果に応じて選択的に取得した評価値を用いるようにしている。
従って、この(1)に記載のホワイトバランス補正装置によれば、例えば、照明環境の径時変化により複数フレーム間で照明環境が異なってしまう場合には過去フレームの何れの画像データの評価値を用いるか選択し、複数フレーム間の互いに重複する領域に光源色があった場合には過去画像データの何れの画像領域の評価値を用いるか選択する等、不適当な評価値を用いないようにすることができるため、精度のよいホワイトバランス補正が行える。
(2) 上記評価値取得部は、
上記重複領域検出部により検出された重複領域に基づき、上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域の色信号データを比較して各々のフレームの画像データが同一の照明環境で撮像されたか否かを判定する環境判定部をさらに備え、
上記環境判定部による判定結果に応じて上記少なくとも1つの過去フレームの各画像データの評価値を用いるか用いないかを取捨選択して上記評価値を抽出することを特徴とする(1)に記載のホワイトバランス補正装置。
(実施形態との対応)
この(2)に記載のホワイトバランス補正装置において、一例として、上記環境判定部が一実施形態における色度比較部122に対応する。
(作用効果)
この(2)に記載のホワイトバランス補正装置は、環境判定部によって各々のフレームの画像データが同一の照明環境で撮像されたか否かを判定し、その判定結果に応じて過去フレームの各画像データの評価値を用いるか用いないかを取捨選択して評価値を抽出するようにしている。
従って、この(2)に記載のホワイトバランス補正装置によれば、例えば照明環境の径時変化により複数フレーム間で照明環境が異なってしまう場合には、同一の照明環境で撮像されたものではないと判定されたフレームの画像データの評価値を用いないようにすることができるため、精度のよいホワイトバランス補正が行える。
(3) 上記評価値取得部は、上記重複領域検出部により検出された重複領域に基づき、上記少なくとも1つの過去フレームの画像データから、上記現フレームの画像データとは重複しない画像領域における色信号データを評価値として抽出することを特徴とする(1)または(2)に記載のホワイトバランス補正装置。
(実施形態との対応)
この(3)に記載のホワイトバランス補正装置において、一例として、上記重複領域が一実施形態における重複領域105に、上記重複しない画像領域が一実施形態におけるWB評価領域106に、それぞれ対応する。
(作用効果)
この(3)に記載のホワイトバランス補正装置は、過去フレームの画像データから現フレームの画像データとは重複しない画像領域における色信号データを評価値として抽出するようにしている。
従って、この(3)に記載のホワイトバランス補正装置によれば、例えば複数フレーム間の互いに重複する領域に光源色があった場合には、その重複する領域の評価値を用いないようにすることができるため、精度のよいホワイトバランス補正が行える。
(4) 上記少なくとも1つの過去フレームの各画像データの現フレームの画像データに対する相対的な画角の大きさ比率を算出する比率算出部を更に備え、
上記ホワイトバランス係数算出部は、上記比率算出部で算出された上記相対的な画角の大きさ比率に基づき上記評価値毎に重み付けを行い上記ホワイトバランス係数を算出することを特徴とする(1)乃至(3)の何れかに記載のホワイトバランス制御装置。
(実施形態との対応)
この(4)に記載のホワイトバランス補正装置において、一例として、上記比率算出部が一実施形態における相対画角検出部123に対応する。
(作用効果)
この(4)に記載のホワイトバランス補正装置は、相対的な画角の大きさ比率に基づき評価値毎に重み付けを行ってホワイトバランス係数を算出するようにしている。
従って、この(4)に記載のホワイトバランス補正装置によれば、評価値を画角の変化に応じて補正することとなるので、より精度よくホワイトバランス補正が行える。
(5) 撮像素子より得られる現フレームの画像データおよび該現フレームのよりも過去に撮像された少なくとも1つの過去フレームの画像データから、各画素位置における色信号データを評価値として、複数組取得するステップと、
上記取得された複数組の評価値に基づきホワイトバランス係数を算出するステップと、
をコンピュータに発揮させて、撮像素子より得られる現フレームの画像データの色信号間のバランスを調整するためのホワイトバランス係数をコンピュータに算出させる信号処理プログラムであって、
上記評価値を複数組取得するステップは、
上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域を検出するステップを含み、
上記少なくとも1つの過去フレームの画像データから取得する評価値に関しては、上記重複する画像領域の検出結果に応じてコンピュータに選択的に取得させることを特徴とする信号処理プログラム。
(実施形態との対応)
この(5)に記載の信号処理プログラムにおいて、一例として、上記評価値を複数組取得するステップが一実施形態におけるWB評価値抽出部12の機能を実現するソフトウェアのプログラムに、上記ホワイトバランス係数を算出するステップが一実施形態におけるWB係数算出部14の機能を実現するソフトウェアのプログラムに、上記重複する画像領域を検出するステップが一実施形態におけるWB評価値抽出部12の重複領域検出部121の機能を実現するソフトウェアのプログラムに、それぞれ対応する。
(作用効果)
この(5)に記載の信号処理プログラムは、コンピュータに、ホワイトバランス係数を算出させる際に用いる評価値として、少なくとも1つの過去フレームの画像から取得した評価値を全て用いるのではなく、過去フレームの画像データと現フレームの画像データとで互いに重複する画像領域の検出結果に応じて選択的に取得した評価値を用いさせるようにしている。
従って、この(5)に記載の信号処理プログラムによれば、例えば、照明環境の径時変化により複数フレーム間で照明環境が異なってしまう場合には過去フレームの何れの画像データの評価値を用いるか選択させ、複数フレーム間の互いに重複する領域に光源色があった場合には過去画像データの何れの画像領域の評価値を用いるか選択させる等、コンピュータに、不適当な評価値を用いないようにさせることができるため、精度のよいホワイトバランス補正が行える。
図1は、本発明の一実施形態に係るホワイトバランス補正装置の全体構成を示す図である。 図2は、図1におけるWB評価値抽出部におけるWB評価値抽出の過程を説明するためのフローチャートを示す図である。 図3(A)は、評価値抽出位置を説明するための図であり、図3(B)は、評価値抽出領域を説明するための図であり、図3(C)は、WB評価領域を説明するための図である。 図4は、図2におけるステップS10の具体的な処理の流れを説明するためのフローチャートを示す図である。 図5は、図1におけるWB係数算出部におけるWB係数算出の過程を説明するためのフローチャートを示す図である。 図6は、色度空間内に定義された光源色エリアを説明するための図である。
符号の説明
10…ホワイトバランス補正装置、 11…時系列画像蓄積部、 12…WB評価値抽出、 13…WB評価値蓄積部、 14…WB係数算出部、 15…WB係数乗算部、 21…撮像素子、 22…撮像レンズ、 100…現フレーム画像領域、 101…評価値抽出位置、 102…評価値抽出領域、 103…判定対象フレーム画像領域、 104…比較対象フレーム画像領域、 105…重複領域、 106…WB評価領域、 107…光源色エリア、 121…重複領域検出部、 122…色度比較部、 123…相対画角検出部。

Claims (5)

  1. 撮像素子より得られる画像データを入力して現フレームの画像データの色信号間のバランスを調整するホワイトバランス補正装置であって、
    上記現フレームよりも過去に撮像された少なくとも1つの過去フレームの画像データを記憶する画像データ記憶部と、
    上記現フレームの画像データおよび上記少なくとも1つの過去フレームの画像データから各画素位置における色信号データを評価値として、複数組取得する評価値取得部と、
    上記評価値取得部により得られた複数組の評価値に基づきホワイトバランス係数を算出するホワイトバランス係数算出部と、
    上記ホワイトバランス係数算出部で算出した上記ホワイトバランス係数に基づいて、上記撮像素子より得られる現フレームの画像データを補正するホワイトバランス補正部と、
    を備え、
    上記評価値取得部は、
    上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域を検出する重複領域検出部と、
    上記重複領域検出部により検出された重複領域に基づき、上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域の色信号データを比較して各々のフレームの画像データが同一の照明環境で撮像されたか否かを判定する環境判定部と、
    を備え、
    上記環境判定部による判定結果に応じて上記少なくとも1つの過去フレームの各画像データの評価値を用いるか用いないかを取捨選択して上記評価値を抽出する
    ことを特徴とするホワイトバランス補正装置。
  2. 撮像素子より得られる画像データを入力して現フレームの画像データの色信号間のバランスを調整するホワイトバランス補正装置であって、
    上記現フレームよりも過去に撮像された少なくとも1つの過去フレームの画像データを記憶する画像データ記憶部と、
    上記現フレームの画像データおよび上記少なくとも1つの過去フレームの画像データから各画素位置における色信号データを評価値として、複数組取得する評価値取得部と、
    上記評価値取得部により得られた複数組の評価値に基づきホワイトバランス係数を算出するホワイトバランス係数算出部と、
    上記ホワイトバランス係数算出部で算出した上記ホワイトバランス係数に基づいて、上記撮像素子より得られる現フレームの画像データを補正するホワイトバランス補正部と、
    を備え、
    上記評価値取得部は、
    上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域を検出する重複領域検出部を備え、
    上記重複領域検出部により検出された重複領域に基づき、上記少なくとも1つの過去フレームの画像データから、上記現フレームの画像データとは重複しない画像領域における色信号データを評価値として抽出する
    ことを特徴とするホワイトバランス補正装置。
  3. 上記少なくとも1つの過去フレームの各画像データの現フレームの画像データに対する相対的な画角の大きさ比率を算出する比率算出部を更に備え、
    上記ホワイトバランス係数算出部は、上記比率算出部で算出された上記相対的な画角の大きさ比率に基づき上記評価値毎に重み付けを行い上記ホワイトバランス係数を算出することを特徴とする請求項1又は2に記載のホワイトバランス制御装置。
  4. 撮像素子より得られる現フレームの画像データおよび該現フレームのよりも過去に撮像された少なくとも1つの過去フレームの画像データから、各画素位置における色信号データを評価値として、複数組取得するステップと、
    上記取得された複数組の評価値に基づきホワイトバランス係数を算出するステップと、
    をコンピュータに発揮させて、撮像素子より得られる現フレームの画像データの色信号間のバランスを調整するためのホワイトバランス係数をコンピュータに算出させる信号処理プログラムであって、
    上記評価値を複数組取得するステップは、
    上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域を検出するステップと、
    検出された上記重複する画像領域に基づき、上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域の色信号データを比較して各々のフレームの画像データが同一の照明環境で撮像されたか否かを判定するステップと、
    を含み、
    上記判定結果に応じて上記少なくとも1つの過去フレームの画像データの評価値を用いるか用いないかを取捨選択して上記評価値を抽出する
    ことを特徴とする信号処理プログラム。
  5. 撮像素子より得られる現フレームの画像データおよび該現フレームのよりも過去に撮像された少なくとも1つの過去フレームの画像データから、各画素位置における色信号データを評価値として、複数組取得するステップと、
    上記取得された複数組の評価値に基づきホワイトバランス係数を算出するステップと、
    をコンピュータに発揮させて、撮像素子より得られる現フレームの画像データの色信号間のバランスを調整するためのホワイトバランス係数をコンピュータに算出させる信号処理プログラムであって、
    上記評価値を複数組取得するステップは、
    上記少なくとも1つの過去フレームの画像データと上記現フレームの画像データとで互いに重複する画像領域を検出するステップを含み、
    検出された上記重複領域に基づき、上記少なくとも1つの過去フレームの画像データから、上記現フレームの画像データとは重複しない画像領域における色信号データを評価値として抽出する
    ことを特徴とする信号処理プログラム。
JP2008196246A 2008-07-30 2008-07-30 ホワイトバランス補正装置及び信号処理プログラム Expired - Fee Related JP5259291B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008196246A JP5259291B2 (ja) 2008-07-30 2008-07-30 ホワイトバランス補正装置及び信号処理プログラム
US12/512,348 US8144212B2 (en) 2008-07-30 2009-07-30 White balance adjustment apparatus and white balance coefficient calculation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008196246A JP5259291B2 (ja) 2008-07-30 2008-07-30 ホワイトバランス補正装置及び信号処理プログラム

Publications (2)

Publication Number Publication Date
JP2010034955A JP2010034955A (ja) 2010-02-12
JP5259291B2 true JP5259291B2 (ja) 2013-08-07

Family

ID=41652554

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008196246A Expired - Fee Related JP5259291B2 (ja) 2008-07-30 2008-07-30 ホワイトバランス補正装置及び信号処理プログラム

Country Status (2)

Country Link
US (1) US8144212B2 (ja)
JP (1) JP5259291B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5569361B2 (ja) * 2010-11-29 2014-08-13 株式会社リコー 撮像装置およびホワイトバランス制御方法
JP5629564B2 (ja) * 2010-12-07 2014-11-19 キヤノン株式会社 画像処理装置およびその制御方法
JP5820284B2 (ja) * 2012-01-18 2015-11-24 株式会社東芝 画像処理装置、方法、及びプログラム
JP5948997B2 (ja) * 2012-03-15 2016-07-06 株式会社リコー 撮像装置及び撮像方法
WO2016041162A1 (en) * 2014-09-17 2016-03-24 SZ DJI Technology Co., Ltd. Automatic white balancing system and method
US9307214B1 (en) * 2014-12-19 2016-04-05 Omnivision Technologies, Inc. Automatic white balance methods and systems for electronic cameras
US9307215B1 (en) * 2014-12-19 2016-04-05 Omnivision Technologies, Inc. Automatic white balance methods and systems for electronic cameras
US9860507B2 (en) * 2015-06-08 2018-01-02 Qualcomm Incorporated Dynamic frame skip for auto white balance
CN107948617B (zh) * 2017-12-06 2021-03-02 Oppo广东移动通信有限公司 图像处理方法、装置、计算机可读存储介质和计算机设备

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0583729A (ja) 1991-09-24 1993-04-02 Matsushita Electric Ind Co Ltd オートホワイトバランス装置
JPH0759103A (ja) * 1993-08-20 1995-03-03 Toshiba Corp 固体カラー撮像方法及び装置
US6160579A (en) 1995-08-01 2000-12-12 Canon Kabushiki Kaisha Image processing apparatus and method
JP4063418B2 (ja) * 1998-09-11 2008-03-19 イーストマン コダック カンパニー オートホワイトバランス装置
JP2001160976A (ja) * 1999-12-02 2001-06-12 Sharp Corp 画像処理方法、画像処理装置および画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2002232906A (ja) * 2001-01-31 2002-08-16 Ricoh Co Ltd ホワイトバランス制御装置
JP4815267B2 (ja) * 2006-05-11 2011-11-16 オリンパスイメージング株式会社 ホワイトバランス制御方法、撮像装置、及びホワイトバランス制御プログラム
KR100725053B1 (ko) * 2006-06-22 2007-06-08 삼성전자주식회사 휴대용 단말기의 파노라마 촬영 장치 및 방법
JP2008035167A (ja) * 2006-07-28 2008-02-14 Victor Co Of Japan Ltd 撮像装置

Also Published As

Publication number Publication date
US8144212B2 (en) 2012-03-27
JP2010034955A (ja) 2010-02-12
US20100033595A1 (en) 2010-02-11

Similar Documents

Publication Publication Date Title
JP5259291B2 (ja) ホワイトバランス補正装置及び信号処理プログラム
JP5398156B2 (ja) ホワイトバランス制御装置およびその制御方法並びに撮像装置
KR101643122B1 (ko) 화상 처리 장치, 화상 처리 방법 및 기록 매체
EP3509034B1 (en) Image filtering based on image gradients
US8422827B2 (en) Image correction apparatus and image correction method
US20150278996A1 (en) Image processing apparatus, method, and medium for generating color image data
KR20130031574A (ko) 영상 처리 방법 및 영상 처리 장치
US8774551B2 (en) Image processing apparatus and image processing method for reducing noise
JP2008205737A (ja) 撮像システム、画像処理プログラム、画像処理方法
US20150042839A1 (en) Distance measuring apparatus, imaging apparatus, and distance measuring method
TWI496105B (zh) 影像合成裝置及用於影像合成之電腦程式
JP6656035B2 (ja) 画像処理装置、撮像装置および画像処理装置の制御方法
JP6521626B2 (ja) 被写体追跡装置、方法およびプログラム
CN116017172A (zh) 一种Raw域图像的降噪方法及其装置、相机和终端
JP2009088935A (ja) 画像記録装置、画像補正装置及び撮像装置
JP2005141655A (ja) 3次元モデリング装置及び3次元モデリング方法
JP2021005206A (ja) 画像処理装置、画像処理方法、およびプログラム
JP5115297B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP5172283B2 (ja) ステレオ画像処理装置、ステレオ画像処理方法およびプログラム
JP2021182673A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2017212698A (ja) 撮像装置、撮像装置の制御方法およびプログラム
US9042679B2 (en) Projection-based image registration
JP6554009B2 (ja) 画像処理装置、その制御方法、プログラム及び記録媒体
JP6556033B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2001283218A (ja) 混雑状況判定方法およびその装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110801

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130424

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160502

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5259291

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees