JP5383886B2 - 画像処理装置、画像処理方法、プログラム及び記憶媒体 - Google Patents
画像処理装置、画像処理方法、プログラム及び記憶媒体 Download PDFInfo
- Publication number
- JP5383886B2 JP5383886B2 JP2012222901A JP2012222901A JP5383886B2 JP 5383886 B2 JP5383886 B2 JP 5383886B2 JP 2012222901 A JP2012222901 A JP 2012222901A JP 2012222901 A JP2012222901 A JP 2012222901A JP 5383886 B2 JP5383886 B2 JP 5383886B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- flicker
- flicker component
- processing apparatus
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Studio Devices (AREA)
Description
本発明は撮像素子を用いて撮像された画像中のフリッカ成分を補正する技術に関する。
撮像素子を用いた撮像装置において、蛍光灯照明下の被写体を動画や静止画の連続撮影のように続けて複数フレーム(またはフィールド)撮影する場合、撮像画像に周期的な明暗が現れることがある。この現象は蛍光灯フリッカと呼ばれ、商用電源周波数と撮像装置の垂直同期周波数との違いによるものである。
そこで、従来、周期的な信号レベルの変動成分(以下フリッカ成分と呼ぶ)を検出し、その逆ゲインを乗算することでフリッカ成分の検出と補正を行う技術が提案されている(特許文献1参照)。
撮像装置に対する蛍光灯フリッカのフリッカ成分は、電源周波数や照明の発光特性によって変化するが、撮像装置の撮像素子に対する蓄積時間やフレームレート、画素の加算方式や間引き方式による読み出し時間の変化、といった駆動状態によっても変化する。この駆動状態は、撮像システムの制御やユーザからの指示によって変わるものであり、急激に変化することがある。この場合には、駆動状態の変化に伴ってフリッカ成分も大きく変動することになる。
しかしながら、特許文献1に記載の補正方法は、現在及び過去のフレーム(またはフィールド)の画像信号を水平方向に積分して生成した垂直方向の強度分布を用いてフリッカ成分を検出する方法である。このような方法では、フリッカ成分の急激な変化に対して追従できなかったり、検出に用いた画像信号と補正対象となる画像信号に時間差が生じたりすることによって、適切な補正処理が行われず、かえって撮影画像に悪影響を与えるという問題点があった。
本発明はこのような従来技術の問題点に鑑みなされたものである。本発明は、撮像素子の駆動方式の変化によって、フリッカ成分が急激に変化した場合でも、精度良くフリッカ成分を補正可能な画像処理装置及び画像処理方法を提供することを目的の1つとする。
このような課題を解決するために、本発明の技術的特徴として、第1の画像及び第2の画像を取得する取得手段と、前記第1の画像からフリッカ成分を検出する検出手段と、前記検出手段により検出される前記第1の画像に対するフリッカ成分と、前記第1の画像と前記第2の画像との間の蓄積時間の違いとに基づいて、前記第2の画像に対するフリッカ成分の振幅あるいは位相のうちの少なくとも1つを算出する算出手段と、前記算出手段により算出される前記第2の画像に対するフリッカ成分の振幅あるいは位相を用いて前記第2の画像を補正する補正手段と、を有することを特徴とする。
また、別の技術的特徴としては、第1の画像及び第2の画像を取得する取得ステップと、
前記第1の画像からフリッカ成分を検出する検出ステップと、前記検出ステップにて検出される前記第1の画像に対するフリッカ成分と、前記第1の画像と前記第2の画像との間の蓄積時間の違いとに基づいて、前記第2の画像に対するフリッカ成分の振幅あるいは位相のうちの少なくとも1つを算出する算出ステップと、前記算出ステップにて算出される前記第2の画像に対するフリッカ成分の振幅あるいは位相を用いて前記第2の画像を補正する補正ステップと、を有することを特徴とする。
前記第1の画像からフリッカ成分を検出する検出ステップと、前記検出ステップにて検出される前記第1の画像に対するフリッカ成分と、前記第1の画像と前記第2の画像との間の蓄積時間の違いとに基づいて、前記第2の画像に対するフリッカ成分の振幅あるいは位相のうちの少なくとも1つを算出する算出ステップと、前記算出ステップにて算出される前記第2の画像に対するフリッカ成分の振幅あるいは位相を用いて前記第2の画像を補正する補正ステップと、を有することを特徴とする。
以上説明したように、本発明によれば、撮像素子の駆動方式の変化によって、フリッカ成分が急激に変化した場合でも、精度良くフリッカ成分を補正でき、画質を向上することができる。
以下、図面を参照しながら本発明の一実施形態を説明する。
[第1の実施形態]
以下、本発明の第1の実施形態を図面に参照し、説明していく。図1は画像処理装置のブロック図を示す。
以下、本発明の第1の実施形態を図面に参照し、説明していく。図1は画像処理装置のブロック図を示す。
101は光電変換素子を有する撮像素子で、制御手段102が発生する制御信号をもとにした駆動パルスで駆動され、被写体像を光電変換により電気信号に変換し出力する。変換された電気信号(アナログ信号)は、AD変換部106においてデジタル信号に変換され出力される。このとき、撮像素子101が電子シャッタ機能を有する場合は、制御手段102からの制御信号により、必要な露光時間となるように露光時間を確保してもよい。103は、AD変換部106から出力された画像信号に含まれる、点滅光源によって生じる信号レベルの変動成分からフリッカ成分を検出するフリッカ検出手段である。
102はシステムの制御を行う制御手段で、撮像素子101に対して蓄積時間などの制御信号を出力し、後述する補正値予測手段104に対して撮像素子101の制御状態を制御情報として出力する。104はフリッカ検出手段103において検出されたフリッカ成分と、制御手段102から出力される撮像素子101の制御情報を元に、画像信号中に発生している信号レベルの変動成分が現れないように補正するための補正値を生成している補正値予測手段である。105は、補正値予測手段104で生成された補正値を元に画像信号に対して演算処理し、画像信号上に発生しているフリッカを抑圧させるフリッカ補正手段である。
次に、本発明の第1の実施形態のタイミングチャートを図2を参照して説明していく。201は撮像装置の撮像方式で決定される垂直同期信号である。r1〜r7は撮像素子101の読み出し駆動を表している。本実施形態では撮像素子101は、XYアドレス型の走査方法を採るCMOSイメージセンサを用いることとし、以下説明を続ける。XYアドレス型の走査方法の撮像素子の場合、画素ごとの露光タイミングがライン方向で順次行われるため、図示のように1垂直同期信号期間内で撮像素子の全画素を順次読み出す。またs1〜s7は撮像素子101の電荷変換部に蓄積された電荷をリセットするための駆動を表している。各画素の露光時間を統一するため、読み出し駆動と同様にリセットのタイミングもライン方向で順次行われる。図のsとrではさまれた時間が撮像素子101の蓄積時間となり、図のAからCまでの画像信号が蓄積時間が短く、図のDからGまでの画像信号が蓄積時間が長い画像信号として出力される。202はフリッカ検出手段103の処理動作が行われるタイミングを示しており、画像信号が読み出されている期間の一部で検出動作を行っている。203は撮像素子101の制御信号を制御手段102が撮像素子101に対して出力するタイミングを示したものであり、図の場合例えば、タイミング204にて撮像素子101に対し画像信号Dを取得する際の蓄積時間を制御信号bとして与える。205は撮像素子101の制御情報を制御手段102が補正値予測手段104に対して出力するタイミングを示したものである。制御手段102が撮像素子101へ制御信号を出力するタイミングに対して、1垂直同期期間遅れて出力される。図の場合、制御手段102が制御信号bを撮像素子101に対して204のタイミングで出力するのに対し、補正値予測手段104に対しては206のタイミングで制御情報bを出力する。これにより、画像信号Dを補正する補正値を生成する際、画像信号Dを取得したときの蓄積時間を参照することが可能になる。207は補正値予測手段104が制御手段102から得られた制御情報と、フリッカ検出手段103から得られたフリッカ成分から補正値を予測するタイミングを示したものである。図において、画像信号Cと画像信号Dで蓄積時間を急激に変化するように撮像素子101は駆動している。補正値予測手段104は、制御手段102からフリッカ検出の対象となっている画像信号が取得された際の撮像素子101の制御情報を受け取り、常に1垂直同期期間前の制御情報と得られる制御情報を比較している。そして、該制御情報が変化した場合に補正値の予測を行うよう動作する。208から214は補正値予測手段104が生成した補正値をフリッカ補正手段105に対し設定するタイミングを示している。すなわち、制御情報が変化しないときはフリッカ検出手段102から得られたフリッカ成分から補正値を生成する。そして、制御情報が変化した場合には、フリッカ検出手段102から得られたフリッカ成分と、制御手段から出力された制御情報を元に予測して補正値を生成するように動作する。設定された補正値は、次の垂直同期信号で更新され、撮像素子101から読み出される画像信号に対して補正処理が行われる。この図の場合、210が予測して生成された補正値が設定されているタイミングになる。
次に、フリッカ検出手段から出力されるフリッカ成分について検出動作の例とともに説明する。
図3は、撮像素子101で撮像された画像信号を模式的に表したものであり、301が撮像素子101の蓄積時間が短い場合の画像信号の様子、303が撮像素子101の蓄積時間が長いときの様子を示したものである。点滅光源によって信号レベルが変調されており、302や304に示すように画像信号内に点滅光源の発光周期に依存した周期的なレベル変動が発生する。この時間領域における周期的な信号レベルの変動を周波数領域に変換して検波することで、画像信号内に含まれるフリッカ成分を抽出することができる。
(フリッカ成分の抽出)
撮像素子101から得られた画像信号を、周波数領域に変換する方法としていくつか考えられるが、画像信号のように一定期間でサンプリングされたデータに対しては離散フーリエ変換を用いて周波数領域に変換するのがもっとも一般的である。以下、離散フーリエ変換を用いて周波数領域に変換し、フリッカ成分を算出する方法について説明する。
撮像素子101から得られた画像信号を、周波数領域に変換する方法としていくつか考えられるが、画像信号のように一定期間でサンプリングされたデータに対しては離散フーリエ変換を用いて周波数領域に変換するのがもっとも一般的である。以下、離散フーリエ変換を用いて周波数領域に変換し、フリッカ成分を算出する方法について説明する。
点滅光源によって生じるフリッカは、撮像素子101の駆動から、垂直方向に明暗の形であらわれる(図3参照)。したがって、画像信号内の垂直方向にサンプリングデータが生成されていれば良く、例えば、水平ライン毎に信号を平均処理して、302・304のように、時間軸(時間サンプリング)と信号レベルの2次元情報に縮退させる方法がある。あるいは、これらに限定することは無く、画像信号の中央でフリッカが発生しているとユーザに不快感を与えると考えれば、画像中央に検出枠を設け、検出枠内で水平方向毎に信号を平均する方法も考えられる。いずれにしろ、何らかの方法を用いて時間軸(時間サンプリング)と信号レベルの2次元情報に縮退させたデータを生成する。また、映像信号がNTSCで商用電源の周波数が50Hzの場合、画像信号内に現れるフリッカは100/60≒1.7周期である。このため、画像信号の垂直方向のうち全部あるいは1周期以上の一部分をサンプリングすればよい。また、映像信号がPALで商用電源周波数が60Hzの場合、120/50=2.4周期であるため、同様に画像信号の垂直方向のうち全部あるいは1周期以上の一部分をサンプリングすればよい。
次に、得られたサンプリングデータを用いて周波数領域に変換する例について説明する。サンプリングの母数をN、サンプリングされたデータをXn(n=0,1,…N−1)とすると、次式で表される離散的なフーリエ係数で周波数領域に離散フーリエ変換される。
時間L(sec)をNヶに時間サンプリングした場合、サンプリング間隔をa(sec)とすると、離散フーリエ変換後のフーリエ係数は、次式で表される離散的な周波数fkの範囲で求められる。
fsは時間領域におけるサンプリング周波数である。
画像信号からサンプリングされたデータ列は実時間信号であるので、(式1)は展開すると、実部Reと虚部Imに分離することができ、次式で表される。
ある周波数fkにおける振幅スペクトルAkは、(式4)より次式で求められる。
また、周波数領域に変換した際のある周波数fkにおける位相成分Ωkは、(式4)より次式で求められる。
(式5)、(式6)から、(式4)にフリッカ成分として周波数成分とそれに対応した位相成分が含まれており、フリッカ検出手段103から補正値予測手段104へ出力されるフリッカ成分を表している。
次に、補正値予測手段104において、前述したフリッカ検出手段103から得られるフリッカ成分(各周波数の振幅・位相)と制御手段102から得られる撮像素子101の制御情報から補正パラメータを予測して補正値を生成する方法について述べていく。
撮像素子101の駆動状態が変化しない場合、例えば図2において、画像信号Bからフリッカ成分を検出し、画像信号Cに対して補正する場合の補正値を生成する方法について述べる。前述したように、点滅光源によって発生するフリッカは電源周波数の倍の周波数で画像信号内に現れるため、例えば、撮像装置がNTSCで電源周波数が50Hzの場合、3フィールドごとに繰り返し同位相で現れることが知られている。従って、画像信号C内に発生しているフリッカのフリッカ成分の位相と画像信号D内で発生しているフリッカのフリッカ成分の位相の差θkは、以下の式で表される。なお、mは(式2)より算出される周波数fk=100(Hz)の時のkにおいて、次式で表される位相差θkがθk=2πfk x(1/60)を満たす。
フリッカ成分の振幅値は撮像素子101の蓄積時間に依存するが、画像信号Bと画像信号Cでは蓄積時間は同じであるため、フレーム間では振幅値の変動はないとみなすことができる。従って以上から、画像信号Bから検出されたフリッカ成分のうち位相成分を(式7)で示した値だけ予測して逆離散フーリエ変換することで、フリッカ成分を時間領域に変換することが可能となる。逆離散フーリエ変換は、離散フーリエ変換の実部と虚部((式4))から、次式で表される。
フリッカ成分は被写体の信号強度に比例することが一般的に知られており、画像信号内に発生しているフリッカを打ち消すためには、上式で演算したゼロ中心の時間領域のフリッカ成分を1中心にし逆数を求めることで補正値を生成することができる。そして生成した補正値を画像信号に対して乗算することでフリッカのない画像信号を生成することができる。
一方、再び図2を参照すると、画像信号Cで検出されたフリッカ成分から補正値を生成し、画像信号Dに対して補正動作が行われるタイミングが存在する。蓄積時間の短い画像信号Cで検出されたフリッカ成分で補正値を生成し、蓄積時間の長い画像信号Dに対してその補正値を適用してしまうと、適切な補正動作ができなくなってしまう。図3の302、304からみても明らかなように、フリッカ成分の振幅値や位相が異なるためである。そこで、検出されたフリッカ成分から補正値を生成する際に、制御手段102から出力される撮像素子101の制御情報から振幅値と位相を予測することで画像信号Dに対して適切な補正を行うことができる。以下、補正値を予測する方法について述べていく。
(補正値の振幅の予測)
図4に撮像素子の蓄積時間と点滅光源による輝度信号の変調度の関係を示す。変調度は、点滅光源によってフリッカが生じるときのレベル変動(振幅)をフリッカが生じないときの信号レベルで正規化したものである。401は各蓄積時間において、フリッカによる信号レベルの変調がどの程度あるかを示している。蓄積時間が短くなるほど点滅光源の光量を積分する時間が短くなるため、ライン毎の信号レベルの変動が大きくなり、積分する時間と点滅光源の周期から図のような特性をもっている。補正値予測手段104は撮像素子101の蓄積時間と点滅光源による輝度信号の変調度をあらかじめテーブル化して記憶しておく。該テーブルは、あらかじめ測定された図4の401の特性を離散化させて保持したり、あるいは撮像装置内で学習させて記憶させても良い。撮像素子101の蓄積時間がt1からt2に変化した場合、補正値予測手段104は、制御手段102から撮像素子の制御情報として補正対象となる画像信号を蓄積したときの撮像素子の蓄積時間t2を受け取る。それまでの蓄積時間t1の時の変調度α1と受け取った蓄積時間t2の変調度α2をテーブルを参照して取得し、(式8)で生成した補正値に対してα2/α1だけ変調させて新たな補正値を生成することで、補正パラメータである補正値の振幅の予測が可能となる。
図4に撮像素子の蓄積時間と点滅光源による輝度信号の変調度の関係を示す。変調度は、点滅光源によってフリッカが生じるときのレベル変動(振幅)をフリッカが生じないときの信号レベルで正規化したものである。401は各蓄積時間において、フリッカによる信号レベルの変調がどの程度あるかを示している。蓄積時間が短くなるほど点滅光源の光量を積分する時間が短くなるため、ライン毎の信号レベルの変動が大きくなり、積分する時間と点滅光源の周期から図のような特性をもっている。補正値予測手段104は撮像素子101の蓄積時間と点滅光源による輝度信号の変調度をあらかじめテーブル化して記憶しておく。該テーブルは、あらかじめ測定された図4の401の特性を離散化させて保持したり、あるいは撮像装置内で学習させて記憶させても良い。撮像素子101の蓄積時間がt1からt2に変化した場合、補正値予測手段104は、制御手段102から撮像素子の制御情報として補正対象となる画像信号を蓄積したときの撮像素子の蓄積時間t2を受け取る。それまでの蓄積時間t1の時の変調度α1と受け取った蓄積時間t2の変調度α2をテーブルを参照して取得し、(式8)で生成した補正値に対してα2/α1だけ変調させて新たな補正値を生成することで、補正パラメータである補正値の振幅の予測が可能となる。
(補正値の位相の予測)
図5を参照して補正値の位相の予測方法を説明する。503、505は撮像素子101の電荷変換部に蓄積された電荷をリセットするための駆動を、504,506は読み出し駆動を示しており、503と504にはさまれた時間t1と505と506にはさまれた時間t2がそれぞれ蓄積時間を示している。t1とt2のフリッカ成分の位相差を算出するためには、点滅光源を蓄積している蓄積時間の重心501と502の時間差Aから位相情報に変換すればよく、垂直同期信号の周期が1/60sの場合、時間差Aは次式で表される。
図5を参照して補正値の位相の予測方法を説明する。503、505は撮像素子101の電荷変換部に蓄積された電荷をリセットするための駆動を、504,506は読み出し駆動を示しており、503と504にはさまれた時間t1と505と506にはさまれた時間t2がそれぞれ蓄積時間を示している。t1とt2のフリッカ成分の位相差を算出するためには、点滅光源を蓄積している蓄積時間の重心501と502の時間差Aから位相情報に変換すればよく、垂直同期信号の周期が1/60sの場合、時間差Aは次式で表される。
すなわち、(式9)の第2項が蓄積時間の変化によって発生するフリッカ成分の位相差を表している。従って、補正値を算出する際に、(式7)の位相差θkのほかに、(式9)の第2項の成分を蓄積時間の変化による位相差成分Φkとして加味することで、位相予測が可能となる。位相差成分Φkは、(式2)から算出される周波数fk=100(Hz)の時のkにおいて、次式で表される位相差ΦkがΦk=2πfk x((t1−t2)/2)を満たすlにおいて、以下の式で表される。
以上より補正値は(式8)、(式10)より、次式で算出することで蓄積時間の差による位相差を予測して補正値を生成することが可能となる。
(補正値の高調波成分の予測)
これまで、サンプリング周波数fsで決定される周波数領域の全領域における離散フーリエ変換・逆離散フーリエ変換によって、検出・補正を行う実施形態を述べてきた。例えば、図3を参照してみると、蓄積時間が長い場合は点滅光源の発光している周波数の正弦波にほぼ近似していることがわかる。従って、補正値を生成する際も、全周波数領域に渡って逆離散フーリエ変換をせずとも、発生しているフリッカの周波数fkとその近傍の周波数のフーリエ級数から補正値を生成することで、充分な補正値を生成することが可能となる。逆に、蓄積時間が短くなると、画像信号上に発生するフリッカは、点滅光源の発光の形状をトレースした形に近似されてくる。従って、発生しているフリッカは単純な正弦波では近似しづらくなり、高調波成分を含むようになってくる。かかるとき、制御手段102から得られる撮像素子101の制御情報である蓄積時間から、発生しているフリッカに高調波が含まれるかどうかを判別する。補正値予測手段104は撮像素子101の蓄積時間と点滅光源による輝度信号の変調度を、高調波を含む複数のテーブルであらかじめ記憶しておく。そして、補正値を生成する際の逆離散フーリエ変換の時に、蓄積時間に応じて高調波成分が含まれるように該テーブルから変調度を参照して、高調波成分も加味した形で逆離散フーリエ変換を行う。以上の処理により、高調波成分が含まれるフリッカが発生した場合でも良好なフリッカ補正が実現可能となる。
これまで、サンプリング周波数fsで決定される周波数領域の全領域における離散フーリエ変換・逆離散フーリエ変換によって、検出・補正を行う実施形態を述べてきた。例えば、図3を参照してみると、蓄積時間が長い場合は点滅光源の発光している周波数の正弦波にほぼ近似していることがわかる。従って、補正値を生成する際も、全周波数領域に渡って逆離散フーリエ変換をせずとも、発生しているフリッカの周波数fkとその近傍の周波数のフーリエ級数から補正値を生成することで、充分な補正値を生成することが可能となる。逆に、蓄積時間が短くなると、画像信号上に発生するフリッカは、点滅光源の発光の形状をトレースした形に近似されてくる。従って、発生しているフリッカは単純な正弦波では近似しづらくなり、高調波成分を含むようになってくる。かかるとき、制御手段102から得られる撮像素子101の制御情報である蓄積時間から、発生しているフリッカに高調波が含まれるかどうかを判別する。補正値予測手段104は撮像素子101の蓄積時間と点滅光源による輝度信号の変調度を、高調波を含む複数のテーブルであらかじめ記憶しておく。そして、補正値を生成する際の逆離散フーリエ変換の時に、蓄積時間に応じて高調波成分が含まれるように該テーブルから変調度を参照して、高調波成分も加味した形で逆離散フーリエ変換を行う。以上の処理により、高調波成分が含まれるフリッカが発生した場合でも良好なフリッカ補正が実現可能となる。
以上説明してきたように、撮像素子の駆動方式の変化によって、フリッカ成分が急激に変化した場合でも、精度良くフリッカ成分を補正でき、画質を向上することができる。
また、本実施形態はXYアドレス型の走査方法を採るCMOSイメージセンサを用いたが、CCDのように全画素のリセットと読み出しをそれぞれ同時刻に行うタイプの撮像素子を用いた場合でも適用できる。その場合、発生するフリッカは撮像された画像信号間で周期的な信号レベルの変動となって現れる。撮像素子101の蓄積時間が変化した場合、蓄積時間と点滅光源による輝度信号の変調度をテーブル化して記憶し、制御手段102から出力された制御情報をもとに補正値を予測して生成することで、良好なフリッカ補正が実現できる。
[第2の実施形態]
以下、本発明の第2の実施形態のタイミングチャートを図6を参照して説明していく。実施形態1と同じ番号を付しているものについては説明を省略する。本実施形態は、フリッカを検出する画像信号と補正対象となる画像信号が2垂直同期期間遅延している場合のフリッカ検出・補正の方法を示したものである。
以下、本発明の第2の実施形態のタイミングチャートを図6を参照して説明していく。実施形態1と同じ番号を付しているものについては説明を省略する。本実施形態は、フリッカを検出する画像信号と補正対象となる画像信号が2垂直同期期間遅延している場合のフリッカ検出・補正の方法を示したものである。
今、撮像素子101が間欠読み動作から通常動作に駆動状態が遷移した場合を考える。601はフリッカ検出手段103が動作しているタイミングを示しており、画像信号が得られる期間の一部で動作している。間欠読み動作は、撮像素子101が垂直同期期間に同期して、画像信号を読み出すフレームと読み出さないフレームを形成しているものであり、図6の一部で、交互に繰り返している。通常読み出し動作は、垂直同期期間毎に撮像素子101から画像信号を読み出している。つまり、撮像装置の駆動としては、フレームレートが変化するように駆動している。また、以下、間欠読み動作と通常動作とでは、蓄積時間は変化しないものとして説明する。602は制御手段から撮像素子101に出力される制御信号、604は制御手段102から補正値予測手段104に出力される制御情報を表している。また、604が補正値予測手段104が動作するタイミング、605から609が補正値予測手段104で生成された補正値が設定されるタイミングをそれぞれ表している。
この場合、フリッカ検出とフリッカ補正のタイミングとしては、常に検出と補正に2垂直同期期間の遅延が発生している。例えば、画像信号Aからフリッカ検出を行い、画像信号Bに対して補正する、あるいは、画像信号Bからフリッカ検出を行い、画像信号Cに対して補正するといった具合である。したがって、撮像素子101の駆動状態が変化した場合、画像信号Dに対する補正は、検出する画像信号が無いため、補正値を生成することができずに補正動作そのものがなされなくなってしまう。そのため、制御手段102と補正値予測手段104は以下に説明するタイミングで画像信号Dに対する補正値の予測を行う。
制御手段102からは、撮像素子101に対して602に示すタイミングで撮像素子101の制御信号を出力している。602のcは読み出し駆動をせずにシャッタのみを動作させる駆動信号、dは読み出し駆動のみでシャッタ動作は停止している駆動信号、eは通常読み出しの駆動を示している。いま、撮像素子101の駆動状態が制御手段102によって間欠読み出しから通常読み出しに遷移した場合、602に示すタイミングで撮像素子101の駆動状態を遷移すべく駆動信号eを出力する。制御手段102からは、603に示すように、撮像素子101の駆動状態を制御情報として補正値予測手段104に対して出力する。制御情報は、フレームレートの切り替わりを判別できるような情報(本実施形態ではHigh・Low)から成っている。補正値予測手段104は、画像信号Bからフリッカ検出手段102が検出したフリッカ成分から画像信号Cに対する補正値を生成する。検出フレームで発生するフリッカの位相と補正フレームで発生するフリッカの位相は、(式2)より算出される周波数fk=100(Hz)の時のkにおいて、(式7)で表される位相差θkがθk=2πfk x(1/30)を満たすmにおいて、固定値を持つ。また、撮像素子101から得られる画像信号の蓄積時間は変わらないものとすると、発生しているフリッカの振幅スペクトルもほとんど変化しない。従って、(式8)より、画像信号Bの検出結果から画像信号Cに対する補正値を生成し、606で示されるタイミングで補正値が設定される。
このようにして、画像信号Cに対する補正値を生成した後、603に示す制御情報から、撮像素子101の駆動状態が遷移した(間欠読み出しから通常読み出しに遷移)ことを情報として受け取る。そして、駆動が遷移することによる画像信号Dに対する補正値が欠落してしまうことをあらかじめ取得する。そして、画像信号Bから検出したフリッカ成分と、制御手段102から出力される撮像素子101の制御情報603を元に画像信号Dに対する補正値を生成する。画像信号Bから検出したフリッカ成分は常に記憶手段に保持しておき、制御手段102から出力された制御情報が変化したときに該記憶手段から読みにいく。そして、画像信号Cに対する補正値が生成された後に604で示すタイミングで画像信号Dに対する補正値を予測して生成する。生成された補正値は画像信号Dに対して補正がかかるよう、607に示すタイミングで設定され、画像信号Dに対して補正される。このように、フレームレートが高い場合、数フレーム前に得た画像から検出されたフリッカ成分に基づきフリッカ補正し、フレームレートが低い場合、このフレーム数よりも前のフレームの画像から検出されたフリッカ成分に基づきフリッカ補正する。
次に、本実施形態における補正値予測手段104での補正値の位相の予測方法について説明する。
(補正値の位相の予測)
フリッカを検出する画像信号と補正対象となる画像信号が2垂直同期期間遅延している場合、検出したフレームで発生しているフリッカと補正対象となるフレームのフリッカの位相差は前述したように下記の場合に固定値を持つ。つまり、(式2)より算出される周波数fk=100(Hz)の時のkにおいて、(式7)で表される位相差θkがθk=2πfk x(1/30)を満たすmにおいてである。本実施形態のように、画像信号Bの検出結果から画像信号Dのフリッカを補正する補正値を生成する場合、1垂直同期期間分の位相差をΦkに加味すればよい。よって、(式2)より算出される周波数fk=100(Hz)の時のkにおいて、(式10)で表される位相差ΦkがΦk=2πfk x(1/60)を満たすlにおいて、固定値を持つようになる。よって、以下、(式11)から補正値を生成することで、良好なフリッカ補正を実現することができる。
フリッカを検出する画像信号と補正対象となる画像信号が2垂直同期期間遅延している場合、検出したフレームで発生しているフリッカと補正対象となるフレームのフリッカの位相差は前述したように下記の場合に固定値を持つ。つまり、(式2)より算出される周波数fk=100(Hz)の時のkにおいて、(式7)で表される位相差θkがθk=2πfk x(1/30)を満たすmにおいてである。本実施形態のように、画像信号Bの検出結果から画像信号Dのフリッカを補正する補正値を生成する場合、1垂直同期期間分の位相差をΦkに加味すればよい。よって、(式2)より算出される周波数fk=100(Hz)の時のkにおいて、(式10)で表される位相差ΦkがΦk=2πfk x(1/60)を満たすlにおいて、固定値を持つようになる。よって、以下、(式11)から補正値を生成することで、良好なフリッカ補正を実現することができる。
[第3の実施形態]
以下、本発明の第3の実施形態を図面に参照し説明していく。フリッカ検出・補正装置のブロック図は第1の実施形態と同一であるので割愛する。
以下、本発明の第3の実施形態を図面に参照し説明していく。フリッカ検出・補正装置のブロック図は第1の実施形態と同一であるので割愛する。
次に、本発明の第3の実施形態のタイミングチャートを図7を参照して説明していく。
本実施形態は例えば動画撮像中に、動画像よりも高精細な静止画を撮像するために撮像方式の駆動方式を変更する制御の例である。例えば動画像を撮像する場合には高速で読み出すために、撮像素子から画像を加算・平均または間引きして読み出す方法がある。また、静止画を撮像する場合には高精細な画像を読み出すために、動画時よりも加算・平均または間引きの数を減らしたり、非加算にして、信号数を増やし動画時よりも長い読み出し時間で読み出すという方法がある。
701は撮像装置の撮像方式で決定される垂直同期信号である。XYアドレス型の走査方法の撮像素子の場合、画素ごとの露光タイミングがライン方向で順次行われるため、図示のように1垂直同期信号期間内で撮像素子の全画素を順次読み出す。r1〜r6は撮像素子101の読み出し駆動を表している。またs1〜s6は撮像素子101の電荷変換部に蓄積された電荷をリセットするための駆動を表している。各画素の露光時間を統一するため、読み出し駆動と同様にリセットのタイミングもライン方向で順次行われる。本図において、r1,r2,r3,r5,r6に対して、r4の読み出し時間が長くなっている。これは前述したように、例えば動画用・静止画用の画像の撮像を切り替えるために撮像素子の駆動方法が変化したことにより、読み出し時間が変化したことをあらわしている。r4で読み出された画像信号が図中のDの画像信号に相当し、r1,r2,r3,r5,r6で読み出された画像信号がそれぞれA,B,C,E,Fに相当する。
図8は、撮像素子101で撮像された画像信号を模式的に表したものである。801が動画撮像時で撮像素子101からの読み出し時間が短い場合の画像信号の様子、803が静止画撮像時で撮像素子101からの読み出し時間が長い場合の画像信号の様子を示したものである。実際には読み出される画素数が違うので、画像のサイズが異なるが、同一画角でのフリッカの周期を比較するために図としては同一の大きさで説明する。点滅光源によって信号レベルが変調されており、802や804に示すように画像信号内に点滅光源の発光周期に依存した周期的なレベル変動が発生する。点滅光源の発光周期が一定ならば、画面中に現れるレベル変動の周期は、読み出し時間に依存するので、制御情報として読み出し時間の情報を用いることで、レベル変動の周期を予測することが可能になる。
図7に戻って制御方法について説明する。
203は撮像素子101の制御信号を制御手段102が撮像素子101に対して出力するタイミングを示したものであり、撮像素子中の加算・平均・間引き方式など読み出し時間に影響を与える駆動方式を行うためのものである。図の場合例えば、タイミング704にて撮像素子101に対し動画像としての画像信号Cを撮像するための制御信号fを送出し、撮像素子はs3,r3のタイミングでリセット・読み出しを行う。タイミング705にて撮像素子101に対し静止画像としての画像信号Dを撮像するための制御信号gを送出し、撮像素子はs4,r4のタイミングでリセット・読み出しを行う。タイミング706にて撮像素子101に対し、駆動を継続することを表す制御信号hを送出し、撮像素子はs4,r4のタイミングでリセット・読み出しを継続する。タイミング707にて撮像素子101に対し動画像としての画像信号Eを撮像するための制御信号fを送出し、撮像素子はs5,r5のタイミングでリセット・読み出しを行う。
本実施形態では、動画撮像時に得られる画像信号B,C,Fに対してはそれぞれその直前に得られた画像信号A,B,Eで得られたフリッカ成分より補正値を生成しタイミング713,714,717で設定することができる。
静止画撮像時に得られた画像信号Dに対しては直前に得られた画像信号Cとはフリッカの様子が異なるので、画像信号Cで得られたフリッカ成分より補正値を予測する方法する。また、動画撮像時に得られた画像信号Eに対しては直前に得られた画像信号Dとはフリッカの様子が異なるので、画像信号Dで得られたフリッカ成分より補正値を予測する。708は制御手段102が補正値予測手段104に対して送出する制御情報であり、読み出し時間の比をあらわす。タイミング709にて読み出しr3,r4の時間の比を制御情報iとして、タイミング710にて読み出しr4,r5の時間の比を制御情報jとして送出する。補正値予測手段は104はフリッカ成分と制御情報にもとづきタイミング711,712にて補正値を予測し、タイミング715,716で補正値を設定する。それ以外のフィールドではフリッカ成分に基づき補正値を演算して補正値を設定する。
次に、補正値予測手段104において、前述したフリッカ検出手段103から得られるフリッカ成分と制御手段102から得られる制御情報から補正値を予測する方法について述べていく。フリッカ成分から式8であらわされる逆離散フーリエ変換を用いて補正値を求める考え方は第1の実施形態と同じである。
撮像素子からの、あるフィールド1の読み出し時間をt1、別のフィールド2のフィールドの読み出し時間をt2とした場合、フィールド1に対するフィールド2の画面内のレベル変動の周期の比は読み出し時間の比T=t1/t2であらわされる。
よって、制御情報として上記Tを用い、具体的には(式12)で表されるように、各項に対してTで除算処理を行うことで補正値の周期成分に対する予測が可能になる。
以上説明してきたように、撮像素子の駆動方式の変化によって、フリッカ成分が急激に変化した場合でも、精度良くフリッカ成分を補正でき、画質を向上することができる。
なお、本実施の形態では、動画撮像時に得られた画像信号Eに対しては、直前に得られた画像信号Dで得られたフリッカ成分より補正値を予測して補正に用いる構成とした。しかしながら、静止画撮像の以前に得られた画像信号Cで得られたフリッカ成分に基づいて補正値を得るようにしてもよい。このように前回の動画から得られたフリッカ成分に基づいて補正した方が、フリッカ補正が適切に成される場合がある。
上述したように、画像信号を取得したフレームよりも所定フレーム数前に得た画像信号から検出されたフリッカ成分に基づいて画像信号を補正するフリッカ補正において、駆動状態の変更があったときに前記所定フレーム数を変更する。これにより、より適正なフリッカ補正が可能となる。
なお、第1の実施形態(図2)の画像信号Dが得られるフレーム、第2の実施形態(図6)の画像信号Dが得られるフレーム、及び、第3の実施形態(図7)の画像信号Dが得られるフレームを移行の期間とする。この移行の期間は撮像素子の駆動状態が維持されている状態から、駆動状態の変更が生じ、また駆動状態が維持されている状態になるまでの期間を示している。
[他の実施形態]
なお、以上の実施の形態のソフト構成とハード構成は、適宜置き換えることができるものである。
なお、以上の実施の形態のソフト構成とハード構成は、適宜置き換えることができるものである。
また、本発明は、複数の情報処理装置(例えばホストコンピュータ、インターフェイス機器、カメラヘッドなど)から構成されるシステムに適用してもよい。また、一つの機器からなる装置(例えば、デジタルスチルカメラ、デジタルビデオカメラなど)に適用してもよい。
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体に格納されたプログラムコードをシステムあるいは装置のコンピュータが読み出し実行することによっても達成される。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その信号処理によって前述した実施形態の機能が実行可能である場合も含まれる。ここでプログラムコードを記憶する記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、ROM、RAM、磁気テープ、不揮発性のメモリカード、CD−ROM、CD−R、DVD、光ディスク、光磁気ディスク、MOなどが考えられる。
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた場合であってもよい。メモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される。
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明した図2及び図6または、図7のいずれかを参照して説明した処理に対応するプログラムコードが格納されることになる。
101 撮像素子
102 制御手段
103 フリッカ検出手段
104 補正値予測手段
105 フリッカ補正手段
102 制御手段
103 フリッカ検出手段
104 補正値予測手段
105 フリッカ補正手段
Claims (10)
- 第1の画像及び第2の画像を取得する取得手段と、
前記第1の画像からフリッカ成分を検出する検出手段と、
前記検出手段により検出される前記第1の画像に対するフリッカ成分と、前記第1の画像と前記第2の画像との間の蓄積時間の違いとに基づいて、前記第2の画像に対するフリッカ成分の振幅あるいは位相のうちの少なくとも1つを算出する算出手段と、
前記算出手段により算出される前記第2の画像に対するフリッカ成分の振幅あるいは位相を用いて前記第2の画像を補正する補正手段と、
を有することを特徴とする画像処理装置。 - 前記算出手段は、予め記憶された、前記第1の画像及び前記第2の画像が撮像される撮像素子の、蓄積時間と点滅光源による信号の変調度との関係に基づいて、前記第2の画像に対するフリッカ成分の振幅を算出することを特徴とする請求項1に記載の画像処理装置。
- 前記算出手段は、前記第2の画像の蓄積時間から得られる前記第1の画像に対するフリッカ成分と前記第2の画像に対するフリッカ成分との位相差と、前記第1の画像及び前記第2の画像の蓄積時間の違いに基づく位相差とを加味して、前記第2の画像に対するフリッカ成分の位相を算出することを特徴とする請求項1または2に記載の画像処理装置。
- 前記第1の画像及び前記第2の画像は、XYアドレス型のイメージセンサにより撮像された画像であることを特徴とする請求項1乃至3のいずれか1つに記載の画像処理装置。
- 前記第1の画像及び前記第2の画像は、全画素のリセットと読み出しをそれぞれ同時に行うイメージセンサにより撮像された画像であることを特徴とする請求項1乃至3のいずれか1つに記載の画像処理装置。
- 前記算出手段は、前記第1の画像の高調波成分を予測して前記第2の画像のフリッカ成分を補正することを特徴とする請求項1乃至5のいずれか1つに記載の画像処理装置。
- 第1の画像及び第2の画像を取得する取得ステップと、
前記第1の画像からフリッカ成分を検出する検出ステップと、
前記検出ステップにて検出される前記第1の画像に対するフリッカ成分と、前記第1の画像と前記第2の画像との間の蓄積時間の違いとに基づいて、前記第2の画像に対するフリッカ成分の振幅あるいは位相のうちの少なくとも1つを算出する算出ステップと、
前記算出ステップにて算出される前記第2の画像に対するフリッカ成分の振幅あるいは位相を用いて前記第2の画像を補正する補正ステップと、
を有することを特徴とする画像処理方法。 - 情報処理装置が実行可能なプログラムであって、前記プログラムを実行した情報処理装置を、請求項1乃至6のいずれか1つに記載の画像処理装置として機能させることを特徴とするプログラム。
- 請求項7に記載の信号処理方法を実現するためのプログラムコードを有することを特徴とする情報処理装置が実行可能なプログラム。
- 請求項8又は9に記載のプログラムを記憶したことを特徴とする情報処理装置が読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012222901A JP5383886B2 (ja) | 2012-10-05 | 2012-10-05 | 画像処理装置、画像処理方法、プログラム及び記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012222901A JP5383886B2 (ja) | 2012-10-05 | 2012-10-05 | 画像処理装置、画像処理方法、プログラム及び記憶媒体 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007340390A Division JP5111100B2 (ja) | 2007-12-28 | 2007-12-28 | 画像処理装置、画像処理方法、プログラム及び記憶媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013017238A JP2013017238A (ja) | 2013-01-24 |
JP5383886B2 true JP5383886B2 (ja) | 2014-01-08 |
Family
ID=47689383
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012222901A Expired - Fee Related JP5383886B2 (ja) | 2012-10-05 | 2012-10-05 | 画像処理装置、画像処理方法、プログラム及び記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5383886B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6100023B2 (ja) * | 2013-02-27 | 2017-03-22 | キヤノン株式会社 | フリッカ検出装置、フリッカ補正装置、その制御方法、および制御プログラム |
JP6209533B2 (ja) * | 2013-04-12 | 2017-10-04 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | フリッカ低減装置、撮像装置およびフリッカ低減方法 |
JP7336186B2 (ja) * | 2018-11-27 | 2023-08-31 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4645517B2 (ja) * | 2006-04-24 | 2011-03-09 | ソニー株式会社 | フリッカ補正方法及び撮像装置 |
-
2012
- 2012-10-05 JP JP2012222901A patent/JP5383886B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2013017238A (ja) | 2013-01-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5111100B2 (ja) | 画像処理装置、画像処理方法、プログラム及び記憶媒体 | |
JP4539449B2 (ja) | 画像処理装置および撮像装置 | |
JP5866200B2 (ja) | ローリングシャッタを用いる画像センサのためのフリッカ検出回路 | |
JP4856765B2 (ja) | 撮像装置及びフリッカ検出方法 | |
JP4453648B2 (ja) | 画像処理装置および撮像装置 | |
WO2017090300A1 (ja) | 画像処理装置、および画像処理方法、ならびにプログラム | |
JP6291417B2 (ja) | 撮像装置、集積回路およびフリッカ低減方法 | |
JP2012235332A (ja) | 撮像装置、および撮像装置制御方法、並びにプログラム | |
JP6209533B2 (ja) | フリッカ低減装置、撮像装置およびフリッカ低減方法 | |
CN101304482A (zh) | 减少图像传感器的闪烁的方法和装置 | |
EP3099058A1 (en) | Method for detecting video recapture and corresponding apparatus | |
US20170104914A1 (en) | Flicker detection apparatus and method | |
JP5383886B2 (ja) | 画像処理装置、画像処理方法、プログラム及び記憶媒体 | |
JP6100023B2 (ja) | フリッカ検出装置、フリッカ補正装置、その制御方法、および制御プログラム | |
US11128799B2 (en) | Image processing apparatus and image processing method | |
JP6525525B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP4867822B2 (ja) | 画像処理装置及び画像処理方法、並びに撮像装置 | |
JP6401473B2 (ja) | 撮像システムおよび撮像装置 | |
JP5794666B2 (ja) | 撮像装置及び撮像方法 | |
JP2010063169A (ja) | 画像処理装置および撮像装置 | |
JP2010171811A (ja) | 撮像装置 | |
JP2011097204A (ja) | 撮像装置 | |
JP2012137829A (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
JP2013020584A (ja) | 画像処理装置および方法、プログラム、並びに記録媒体 | |
JP2016178505A (ja) | 画像処理装置、画像処理方法、プログラム及び記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130815 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130903 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131001 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5383886 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |