は、本発明の実施形態における撮像装置の全体構成について示すブロック図である。
は、第1実施例の歪み補正を実行し得る撮像装置の要部構成について示すブロック図である。
は、画素の配列と歪み低減露光読出パターンの一例とを示す画素部の図である。
は、図3に示す歪み低減露光読出パターンを用いて露光及び読出を行う場合の露光タイミング及び読出タイミングを示すタイミングチャートである。
は、撮像領域の一例を示す図である。
は、歪み低減露光読出パターンを用いた露光及び読出を行うことにより得られる低解像度画像を示す図である。
は、通常の露光読出パターンを用いた露光及び読出を行うことにより得られる通常画像を示す図である。
は、歪み低減露光読出パターンを用いた露光及び読出を行うことにより得られる低解像度画像を示す図である。
は、第2実施例の歪み補正を実行し得る撮像装置の要部構成について示すブロック図である。
は、合成画像の一例を示す図である。
は、合成画像の画素行の位置を補正する処理の一例について説明する図である
は、図10に示す合成画像の画素行の位置を補正して得られる補正後合成画像の一例を示す図である。
は、テンプレートマッチングを用いた補正方法の具体例を示す図である。
は、テンプレートマッチングを用いた補正方法の具体例を示す図である。
は、図13で得られた補正後の対象画素行をさらにサブピクセル単位で補正する補正方法を示すものである。
は、図14で得られた補正後の対象画素行をさらにサブピクセル単位で補正する補正方法を示すものである。
は、画素の配列と歪み低減露光読出パターンの第1別例とを示す画素部の図である。
は、図17に示す歪み低減露光読出パターンを用いて露光及び読出を行った場合の露光タイミング及び読出タイミングを示すタイミングチャートである。
は、第1別例の歪み低減露光読出パターンを用いた露光及び読出を行うことにより得られる低解像度画像を示す図である。
は、第1別例の歪み低減露光読出パターンを用いた露光及び読出を行うことにより得られる低解像度画像を示す図である。
は、第1別例の歪み低減露光読出パターンを用いて得られた低解像度画像を合成して得られる合成画像の一例を示した図である。
は、図21に示す合成画像の画素行の位置を補正して得られる補正後合成画像の一例を示す図である。
は、画素の配列と歪み低減露光読出パターンの第2別例とを示す画素部の図である。
は、図23に示す歪み低減露光読出パターンを用いて露光及び読出を行った場合の露光タイミング及び読出タイミングを示すタイミングチャートである。
は、第2別例の歪み低減露光読出パターンを用いた露光及び読出を行うことにより得られる低解像度画像を示す図である。
は、第2別例の歪み低減露光読出パターンを用いた露光及び読出を行うことにより得られる低解像度画像を示す図である。
は、第2別例の歪み低減露光読出パターンを用いて得られた低解像度画像を合成して得られる補正後合成画像の一例を示す図である。
は、フォーカルプレーン歪みについて説明する図である。
は、図28に示す画像を撮像する際の露光タイミング及び読出タイミングを示すタイミングチャートである。
は、通常の露光読出パターンから歪み低減露光読出パターンへ切り替えられる場合に出力されるフレーム列を示す図である。
は、歪み低減露光読出パターンから通常の露光読出パターンへ切り替えられる場合に出力されるフレーム列を示す図である。
は、歪み低減露光読出パターンによる合成フレームを用いて無効フレームを置き替える方法の一例を説明する図である。
は、低解像度画像間の動きベクトルを算出する方法の一例を説明する図である。
<<撮像装置>>
まず、本実施形態に係る撮像装置の全体構成について、図1に基づいて説明する。図1は、本発明の実施形態における撮像装置の全体構成について示すブロック図である。
図1に示すように、撮像装置1は、入射される光学像を電気信号に変換するCMOSイメージセンサなどのXYアドレス方式の固体撮像素子から成るイメージセンサ2と、被写体の光学像をイメージセンサ2に結像させるとともに光量などの調整を行うレンズ部3と、を備える。レンズ部3とイメージセンサ2とで撮像部が構成され、この撮像部によって画像信号が生成される。なお、レンズ部3は、ズームレンズやフォーカスレンズなどの各種レンズ(不図示)や、イメージセンサ2に入力される光量を調整する絞り(不図示)などを備える。
さらに、撮像装置1は、イメージセンサ2から出力されるアナログ信号である画像信号をデジタル信号に変換するとともにゲインの調整を行うAFE(Analog Front End)4と、AFE4から出力されるデジタルの画像信号に対して階調補正処理などの各種画像処理を施す画像処理部5と、入力される音を電気信号に変換する集音部6と、集音部6から出力されるアナログ信号である音響信号をデジタル信号に変換するADC(Analog to Digital Converter)7と、ADC7から出力される音響信号に対してノイズ除去などの各種音響処理を施して出力する音響処理部8と、画像処理部5から出力される画像信号と音響処理部8から出力される音響信号のそれぞれに対してMPEG(Moving Picture Experts Group)圧縮方式などの動画用の圧縮符号化処理を施したり画像処理部5から出力される画像信号にJPEG(Joint Photographic Experts Group)圧縮方式などの静止画用の圧縮符号化処理を施したりする圧縮処理部9と、圧縮処理部9で圧縮符号化された圧縮符号化信号を記録する外部メモリ10と、圧縮符号化信号を外部メモリ10に記録したり読み出したりするドライバ部11と、ドライバ部11において外部メモリ10から読み出した圧縮符号化信号を伸長して復号する伸長処理部12と、を備える。
また、撮像装置1は、伸長処理部12で復号されて得られる画像信号をディスプレイなどの表示装置(不図示)で表示するためにアナログ信号に変換する画像信号出力回路部13と、伸長処理部12で復号されて得られる音響信号をスピーカなどの再生装置(不図示)で再生するためにアナログ信号に変換する音響信号出力回路部14と、を備える。
また、撮像装置1は、撮像装置1内全体の動作を制御するCPU(Central Processing Unit)15と、各処理を行うための各プログラムを記憶するとともにプログラム実行時のデータの一時保管を行うメモリ16と、撮像を開始するボタンや撮像条件などを調整するボタン等ユーザからの指示が入力される操作部17と、各部の動作タイミングを一致させるためのタイミング制御信号を出力するタイミングジェネレータ(TG)部18と、CPU15と各ブロックとの間でデータのやりとりを行うためのバス19と、メモリ16と各ブロックとの間でデータのやりとりを行うためのバス20と、を備える。なお、以下では説明の簡略化のため、各ブロックのやりとりにおいてバス19,20を省略する。
なお、動画と静止画の画像信号を作成可能な撮像装置1を一例として示したが、撮像装置1が、静止画の画像信号のみ作成可能な構成であっても構わない。この場合、集音部6やADC7、音響処理部8、音響信号出力回路部14などを備えない構成としても構わない。
また、外部メモリ10は画像信号や音響信号を記録することができればどのようなものでも構わない。例えば、SD(Secure Digital)カードのような半導体メモリ、DVDなどの光ディスク、ハードディスクなどの磁気ディスクなどをこの外部メモリ10として使用することができる。また、外部メモリ10を撮像装置1から着脱自在としても構わない。
次に、撮像装置1の全体動作について図1を用いて説明する。まず、撮像装置1は、レンズ部3より入射される光をイメージセンサ2において光電変換することによって、電気信号である画像信号を取得する。そして、イメージセンサ2は、TG部18から入力されるタイミング制御信号に同期して、所定のタイミングでAFE4に画像信号を出力する。
そして、AFE4によってアナログ信号からデジタル信号へと変換された画像信号は、画像処理部5に入力される。画像処理部5では、入力されるR(赤)G(緑)B(青)の成分を備える画像信号を、輝度信号(Y)と色差信号(U,V)の成分を備える画像信号に変換するとともに、階調補正や輪郭強調等の各種画像処理を施す。また、メモリ16はフレームメモリとして動作し、画像処理部5が処理を行なう際に画像信号を一時的に保持する。
また、このとき画像処理部5に入力される画像信号に基づき、レンズ部3において、各種レンズの位置が調整されてフォーカスの調整が行われたり、絞りの開度が調整されて露出の調整が行われたりする。このフォーカスや露出の調整は、それぞれ最適な状態となるように所定のプログラムに基づいて自動的に行われたり、ユーザの指示に基づいて手動で行われたりする。
動画の画像信号を作成する場合、集音部6において集音を行う。集音部6で集音されて電気信号に変換される音響信号は、音響処理部8に入力される。音響処理部8は、入力される音響信号をデジタル信号に変換するとともにノイズ除去や音響信号の強度制御などの各種音声処理を施す。そして、画像処理部5から出力される画像信号と、音響処理部8から出力される音響信号と、がともに圧縮処理部9に入力され、圧縮処理部9において所定の圧縮方式で圧縮される。このとき、画像信号と音響信号とが時間的に関連付けられ、再生時に画像と音とがずれないように構成される。そして、圧縮処理部9から出力される圧縮符号化信号は、ドライバ部11を介して外部メモリ10に記録される。
一方、静止画の画像信号を作成する場合、画像処理部5から出力される画像信号が圧縮処理部9に入力され、圧縮処理部9において所定の圧縮方式で圧縮される。そして、圧縮処理部9から出力される圧縮符号化信号が、ドライバ部11を介して外部メモリ10に記録される。
外部メモリ10に記録された動画の圧縮符号化信号は、ユーザの指示に基づいて伸長処理部12に読み出される。伸長処理部12は、圧縮符号化信号を伸長及び復号することで画像信号及び音響信号を生成し、出力する。そして、画像信号出力回路部13が、伸長処理部12から出力される画像信号を表示装置で表示可能な形式に変換して出力し、音響信号処理回路部14が、伸長処理部12から出力される音響信号をスピーカで再生可能な形式に変換して出力する。なお、外部メモリ10に記録された静止画の圧縮符号化信号も同様に処理される。即ち、伸長処理部12が圧縮符号化信号を伸長及び復号して画像信号を生成し、画像信号出力回路部13が当該画像信号を表示装置で再生可能な形式に変換して出力する。
なお、表示装置やスピーカは、撮像装置1と一体となっているものであっても構わないし、別体となっており撮像装置1に備えられる端子とケーブル等を用いて接続されるようなものであっても構わない。
また、画像信号の記録を行わずに表示装置などに表示される画像をユーザが確認する、いわゆるプレビューモードである場合に、画像処理部5から出力される画像信号を圧縮せずに画像信号出力回路部13に出力することとしても構わない。また、画像信号を記録する際に、圧縮処理部9で圧縮して外部メモリ10に記録する動作と並行して、画像信号出力回路部13を介して表示装置などに画像信号を出力することとしても構わない。
<<歪み補正>>
次に、本実施形態の撮像装置1が実行し得る歪み補正について図面を参照して説明する。なお、本実施形態の撮像装置1が実行し得る歪み補正は、主にイメージセンサ2及び画像処理部5により行われる。そのため、以下に示す各実施例の歪み補正の説明では、イメージセンサ2及び画像処理部5の構成及び動作について具体例を挙げ、特に詳細に説明する。また、以下では説明の具体化のために、画像信号を画像としても表現する。
<第1実施例>
図2は、第1実施例の歪み補正を実行し得る撮像装置の要部構成について示すブロック図である。図2に示すように、イメージセンサ2は、複数の画素が配列されて成る画素部24と、露光及び読出を行う画素の画素部24中の垂直方向の位置を指定する垂直走査部22と、露光及び読出を行う画素の画素部24中の水平方向(垂直方向と直交する方向)の位置を指定する水平走査部23と、垂直走査部22及び水平走査部23とを制御する走査制御部21と、画素部24から順次読み出される画素信号を画像の信号としてイメージセンサ2から出力する出力部25と、を備える。また、画像処理部5は、入力される画像を処理して出力画像を生成し出力する信号処理部51を備える。
垂直走査部22及び水平走査部23は、画素部24中の任意の画素を指定して露光及び読出を行うことができるものであり、露光及び読出を行う画素の順序やタイミング(以下、露光読出パターンとする)の制御は、走査制御部21が行う。走査制御部21は、図28や図29に示した通常の露光読出パターンと、歪みを低減するための特殊な露光読出パターン(以下、歪み低減露光読出パターンとする)と、を切り替えて露光及び読出の制御を行うことができるものである。露光読出パターンの切り替えは、例えばCPU15などによって行われる。なお、歪み低減露光読出パターンの詳細については、後述する。
画素部24から読み出される画素信号は出力部25に入力され、出力部25から当該画素信号(画素値)を備えた画像として出力される。出力部25から出力される画像は、上述のようにAFE4に入力されてデジタルの信号に変換され、画像処理部5に入力される。画像処理部5は、入力される画像を一時的にメモリ16に保持させるとともに、信号処理部51に必要に応じて読み出して上述のような各種処理を施して出力画像を生成し、出力する。このとき、画像処理部5に入力される画像が歪み低減露光読出パターンを用いた露光及び読出により得られた画像であれば、信号処理部51はこれに対応した処理を行う。
このように、本実施例の歪み補正は、イメージセンサ2が、歪み低減露光読出パターンを用いた露光及び読出を行うことにより所定の画像を生成するとともに、信号処理部51が、当該所定の画像に対して所定の処理を行うことにより、歪みが低減された出力画像を生成するものである。
次に、歪み低減露光読出パターンの一例について、図面を参照して説明する。図3は、画素の配列と歪み低減露光読出パターンの一例とを示す画素部の図である。また、図4は、図3に示す歪み低減露光読出パターンを用いて露光及び読出を行う場合の露光タイミング及び読出タイミングを示すタイミングチャートであり、通常の露光読出パターンについて示した図29に相当するものである。
図3に示す画素部24は、水平方向(図中の左右方向)にG及びBが交互に並ぶ画素行と水平方向にG及びRが並ぶ画素行とが垂直方向(図中の上下方向)に対して交互に並び、かつ、垂直方向にG及びRが交互に並ぶ画素列とG及びBが交互に並ぶ画素列とが水平方向に対して交互に並ぶ配列(いわゆるベイヤ配列)である。例えば、それぞれの画素の位置を(水平方向,垂直方向)=(X,Y)で表現し右方ほどXが大きく下方ほどYが大きくなるものとして表現する場合、画素Gが(2n,2m)及び(2n+1,2m+1)、画素Rが(2n,2m+1)、画素Bが(2n+1,2m)となることとしても構わない(n及びmは整数)。なお、以下では説明の具体化のために、左上の画素がGでありその位置を(0,0)にするとともに、n及びmを0以上の整数とする。
図28及び図29に示したように、通常の露光読出パターンは、画素部24の垂直方向に並ぶ画素行に対して、一方向(上方から下方)かつ連続的に(隣接する画素行に対して順に)露光及び読出を行う。これに対して本実施例の歪み低減露光読出パターンは、画素部24の垂直方向に並ぶ画素行に対して、一方向(上方から下方)に露光及び読出を行う点においては通常の露光読出パターンと同様であるが、不連続的に露光及び読出を行う点で相違する。以下、本実施例の歪み低減露光読出パターンの具体例について説明する。
本実施例の歪み低減露光読出パターンは、図3に示す画素部24の各画素を所定の「画素群」に分類し、当該画素群毎で順に露光及び読出を行うものである。なお、図3及び図4に示す歪み低減露光読出パターンの例は、各画素行をその垂直方向の位置に基づいて、4つの画素群A〜Dに分類するものである。具体的には、垂直方向の4行毎に同じ画素群A〜Dに分類するものである。
さらに具体的には、(x,4v)の画素が画素群Aに含まれ、(x,4v+1)の画素が画素群Bに含まれ、(x,4v+2)の画素が画素群Cに含まれ、(x,4v+3)の画素が画素群Dに含まれるように、それぞれ分類する(ただし、x及びvは0以上の整数)。なお、図3では一例として画素部24の画素行の数を4の倍数として各画素群A〜Dに含まれる画素数を等しいものとしているが、これに限られるものではなく任意の数とすることができる。
そして、画素群A、画素群B、画素群C、画素群Dの順に露光及び読出を行い、画素群A〜Dのそれぞれの画素信号によって構成される画像(以下、低解像度画像とする。詳細は後述)を得る。各画素群A〜Dの露光及び読出は、通常の露光読出パターンと同様であり、上方の画素行から下方の画素行にかけて行う。したがって、図3の画素部24であれば、A−0、A−1、…、A−s、B−0、B−1、…、B−s、C−0、C−1、…、C−s、D−0、D−1、…、D−sの画素行の順に、露光及び読出を行う(sは自然数)。
以上のようにして、通常の露光読出パターンと同様に画素部24の略全体の画素の露光及び読出を行う。したがって、本例の歪み低減露光読出パターンは、通常の露光読出パターンの露光及び読出を行う画素(特に画素行)の順番を入れ替えたものと解釈することもできる。
また、本例の歪み低減露光読出パターンと通常の露光読出パターンとは、上記のように露光及び読出を行う画素行の順番は異なるものの、画素行毎の露光タイミング及び読出タイミング自体は略等しいものとなる。そのため、図29及び図4に示すように、それぞれの1フレーム期間は略等しいものとなる。
次に、画素群A〜Dのそれぞれから得られるそれぞれの低解像度画像の具体例について、図面を参照して説明する。図5は、撮像領域の一例を示す図であり、図6及び図8は、歪み低減露光読出パターンを用いた露光及び読出を行うことにより得られる低解像度画像を示す図である。また、図7は、通常の露光読出パターンを用いた露光及び読出を行うことにより得られる通常画像を示す図であり、図6及び図8と比較され得るものである。なお、図5に示す撮像領域Sは、撮像を開始する直前のものである。また、撮像領域Sに含まれる被写体Tは、垂直方向に対して平行な辺と水平方向に対して平行な辺とを有する長方形である。
図6(a)〜(d)に示す各低解像度画像LA〜LD及び図7に示す通常画像Nは、図5に示す撮像領域Sの状態で撮像を開始するとともに、撮像中に撮像装置1が右方にパンした場合に得られるものである。また、図6(a)に示す低解像度画像LAは、画素群Aの露光及び読出により得られる画像である。同様に、図6(b)に示す低解像度画像LBは、画素群Bの露光及び読出により得られる画像であり、図6(c)に示す低解像度画像LCは、画素群Cの露光及び読出により得られる画像であり、図6(d)に示す低解像度画像LDは、画素群Dの露光及び読出により得られる画像である。
図6(a)〜(d)に示す低解像度画像LA〜LDのそれぞれと、図7に示す通常画像Nとを比較すると、水平方向の解像度(画素数)は等しいものとなる。一方、垂直方向の解像度は、低解像度画像LA〜LDが画素部24の画素行を4行毎に露光及び読出して得られる画像であるため、画素部24の画素行を逐次連続的に露光及び読出して得られる画像である通常画像Nの略1/4となる。
上述のように、通常の露光読出パターンと本例の歪み低減露光読出パターンとでは、画素行毎の露光タイミング及び読出タイミング自体は略等しくなる。そのため、低解像度画像LA〜LDと、通常画像Nとに生じる歪みの大きさは略等しいものとなる。具体的に例えば、低解像度画像LA〜LD及び通常画像Nにおいて、本来垂直方向に対して平行である被写体Tの辺の傾き(即ち、歪み)が、それぞれの画像中の被写体Tにおいて略等しいものとなる。
ここで、低解像度画像LA〜LDの各画素行は、画素部24の不連続的な位置(4行毎)の画素行を露光及び読出して得られたものであるため、実質的な歪みの大きさは、図8(a)〜(d)に示すような各画素行を画素部24の本来の位置(図3参照)に置いた低解像度画像LA1〜LD1で表されるものとなる。なお、図8(a)〜(d)に示す低解像度画像LA1〜LD1のそれぞれは、図6(a)〜(d)に示した低解像度画像LA〜LDのそれぞれに対応するものである。
低解像度画像LA1〜LD1と低解像度画像LA〜LDとをそれぞれ比較すると、画素行の間隔は4倍であり上記の被写体Tの辺の傾き(即ち、歪み)は1/4である。したがって、低解像度画像LA〜LDの実質的な歪みは、通常画像Nの1/4に低減されることになる。
信号処理部51は、以上のようにして生成される歪みが低減された低解像度画像LA〜LDの少なくとも一つ用いて(例えば、低解像度画像LA〜LDを適宜合成して)、出力画像を生成する。したがって、通常画像Nよりも歪みを低減した出力画像を生成することが可能となる。
さらに、画素信号を取得した画素の画素部24中の位置が異なる低解像度画像LA〜LDを複数用いて出力画像を生成することとすると、低解像度画像LA〜LDを用いることによって出力画像の解像度が劣化することを抑制することも可能となる。
また、本実施例の歪み補正では、露光タイミングや読出タイミングが通常の露光読出パターンと略等しいものとなる。したがって、AFE4などの後段の構成に大幅な変更を要することなく、本実施例の歪み補正を実行することが可能となる。
なお、A〜Dの4つの画素群に分けて4つの低解像度画像LA〜LDを生成する場合について例示したが、分割する画素群の数は4に限られず、kとしても構わない(kは2以上の整数)。この場合、画素部24の垂直方向のk画素行毎に、同じ画素群に分類することとしても構わない。このようにして得られる低解像度画像は、歪みを1/kに低減することが可能となる。
また、画素部24の画素行の垂直方向に対して不連続的に露光及び読出を行うこととすれば、低解像度画像の歪みを低減することが可能となるため、不規則的に露光及び読出を行うこととしても構わない。ただし、上述の例のように不連続的な画素行について規則的(例えば、k画素行毎)に露光及び読出を行うこととすると、低減される歪みが垂直方向で均一化されるため好ましい。
また、不連続的に露光及び読出を行う限り低解像度画像の歪みの低減効果を得ることができるため、水平方向に対して不連続的に露光及び読出を行って得られる低解像度画像を用いたとしても、歪み補正の効果を得ることができる。
<第2実施例>
次に、歪み補正の第2実施例について説明する。第2実施例も第1実施例と同様に、低解像度画像を用いて歪みを低減した画像を生成するものである。ただし、第2実施例は、低解像度画像を用いた出力画像の生成方法の具体例を示すものであり、低解像度画像の生成方法については第1実施例と同様である。そのため、低解像度画像の生成方法については第1実施例と同様であるものとして、その詳細な説明については省略する。
本実施例を実行し得る撮像装置の要部の構成について、図面を参照して説明する。図9は、第2実施例の歪み補正を実行し得る撮像装置の要部構成について示すブロック図である。なお、第1実施例について示す図2と同様となる部分には同じ符号を付し、その詳細な説明については省略する。
図9に示すように、イメージセンサ2の構成は第1実施例と同様である。そのため、イメージセンサ2が歪み低減露光読出パターンを用いて露光及び読出を行う場合、低解像度画像がAFE4から画像処理部5に順次入力される。なお、以下では説明の具体化のために、第1実施例に示した歪み低減露光読出パターン(図3及び図4参照)を用いて得られる低解像度画像LA〜LD(図6参照)を用いて出力画像を生成する場合について説明する。
画像処理部5は、信号処理部51と、メモリ16から信号処理部51への低解像度画像の信号読出を制御するメモリ制御部52と、低解像度画像の画像間の動きを検出する動き検出部53と、をさらに備える。
メモリ制御部52は、メモリ16に保持された低解像度画像LA〜LDを画素行毎に順に読出すことで、複数の低解像度画像LA〜LDの画素行を垂直方向に対して不連続的に並べて組み合わせた合成画像を生成する。この合成画像の画素行の並びの不連続性は、露光及び読出時の不連続性と同じものである。即ち、低解像度画像LA〜LDを構成するそれぞれの画素行を、画素部24の本来の位置(図3参照)通りに整列するように組み合わせることで、合成画像が生成される。
上記のようにして得られる合成画像の一例を図10に示す。図10に示す合成画像LGは、図6に示す低解像度画像LA〜LDのそれぞれの画素行を組み合わせたものであり、図8に示す低解像度画像LA1〜LD1を重ね合わせた画像である。合成画像LGは、複数の低解像度画像LA〜LDを画素行毎に組み合わせて成るものであるため、低解像度画像LA〜LDから大幅に解像度を改善させることが可能となる。しかしながら、個々の低解像度画像LA〜LDでは歪みが低減されているが、低解像度画像LA〜LD間では歪みが低減されていないため、合成画像LGでは隣接する画素行間の歪みが大きいものとなっている。
そこで、本実施例では、動き検出部53によって異なる低解像度画像LA〜LDから得られる画素行間の動きを検出し、検出した動きに基づいて信号処理部51が画素行の水平方向の位置を補正する(特に、検出した動きを打ち消す方向に画素行の位置を補正する)処理を行うことで、合成画像LGの歪みを低減する。
この合成画像の画素行の位置を補正する処理について、図面を参照して説明する。図11は、合成画像の画素行の位置を補正する処理の一例について説明する図であり、図12は図10に示す合成画像の画素行の位置を補正して得られる補正後合成画像の一例を示す図である。
図11は、合成画像LGの垂直方向に隣接する8行の画素行を示したものであり、上方から順にPA1、PB1、PC1、PD1、PA2、PB2、PC2、PD2である。PA1,PA2は低解像度画像LA(画素群A)から得られたものであり、PB1,PB2は低解像度画像LB(画素群B)から得られたものであり、PC1,PC2は低解像度画像LC(画素群C)から得られたものであり、PD1,PD2は低解像度画像LD(画素群D)から得られたものである。本例では、低解像度画像LA(画素群A)から得られた画素行PA1,PA2をそれぞれ基準(以下、基準画素行とする)として固定し、低解像度画像LB〜LD(画素群B〜D)から得られた画素行PB1〜PD1,PB2〜PD2(以下、対象画素行とする)を、基準画素行に基づいて補正することとする。
このとき、例えばそれぞれの対象画素行PB1〜PD1,PB2〜PD2を補正する際に、それぞれの直近上方の画素行(PB1〜PD1であればPA1、PB2〜PD2であればPA2)を基準とする。なお、例えば直近下方(PB1〜PD1であればPA2)を基準としても構わないし、上下の基準画素行の平均(PB1〜PD1であればPA1及びPA2の平均値)を基準としても構わない。さらに、基準画素行は低解像度画像LAから得られる画素行PA1,PA2に限られず、他の低解像度画像LB〜LDから得られる画素行(PB1及びPB2、PC1及びPC2またはPD1及びPD2)を基準画素行としても構わない。
上記の補正を全ての対象画素行に対して行うことで、図12に示すような補正後合成画像LGaを得ることができる。ところで、上記の補正を行うと、補正後合成画像LGaの水平方向の端部が不揃いとなる問題が生じ得る。この問題に対しては、例えば、予め大型の低解像度画像LA〜LDを撮像し、得られる補正後合成画像から所定の大きさの画像を切り出すことで、端部が揃った画像を得ることが可能である。信号処理部51はこれらの処理を行い、得られる画像を出力画像として出力する。
また、対象画素行の基準画素行に基づく補正方法の一例としてテンプレートマッチングを利用する方法を挙げ、以下説明する。テンプレートマッチングとは、基準画像の一部をテンプレートとし、当該テンプレートと類似する部分を対象画像内から検出する方法である。
テンプレート内の画素と、対象画像内のテンプレートと同じ大きさの領域(以下、対象領域とする)内の画素と、を比較することで、対象画像内からテンプレートと類似する(相関が大きい)部分を検出する。この比較の際に、画素値(例えば輝度値)の差分の2乗和(SSD:Sum of Squared Difference、)であるRSSD(下記式(1a))や、画素値の差分の絶対値和(SAD:Sum of Absolute Difference)であるRSAD(下記式(1b))を利用することができる。なお、下記式(1a)及び(1b)では、基準画像内のテンプレートの中心位置を(0,0)としている。また、位置(p,q)におけるSSD,SADの値をRSSD(p,q),RSAD(p,q)、基準画像のテンプレート内の画素値をL(i,j)、位置(p,q)を中心とした対象領域内の画素値をI(p+i,q+j)、テンプレートの水平方向の大きさ(画素数)を2M+1、垂直方向の大きさ(画素数)を2N+1とする。
上記式(1a)や(1b)に基づいて、RSSD(p,q)やRSAD(p,q)が最小となる対象画像中の画素の位置(pm,qm)を算出する。この位置(pm,qm)の画素は、テンプレートの中心(0,0)の画素と相関が最も大きいものであり、対応する画素となる。そのため、位置(0,0)と位置(pm、qm)との距離及び相対的な位置関係から、基準画像及び対象画像間の動きベクトル(動きの大きさ及び方向)を算出することができる。
図11に示す例では、基準画素行PA1,PA2と対象画素行PB1〜PD1,PB2〜PD2との水平方向における動きの大きさ及び向きを算出する必要があるが、上記式(1a)や(1b)を利用することで当該動きを算出することができる。なお、本例では基準画素行と対象画素行とを比較して水平方向の(一次元の)動きを算出するのみでも動きを検出することができるため、上記式(1a)及び(1b)を簡略化して適用することも可能である。
以下、動きの算出方法及び補正方法について、具体例を挙げるとともに図面を参照して説明する。なお、以下ではSSDを用いて一次元のテンプレートマッチングを行う場合について具体的に説明する。
図13及び図14は、テンプレートマッチングを用いた補正方法の具体例を示す図である。本例では、基準画素行に設定するテンプレート及び対象画素行中の比較領域の水平方向の大きさ(画素数)を5、垂直方向の大きさ(画素数)を1とする。ここでは上記のように水平方向の位置についてのみ考えることとして水平方向の任意の位置をpで表すとともに、位置pの基準画素行の画素値をL(p)、位置pの対象画素行の画素値をI(p)、位置pのSSD値をR(p)、位置pの補正後の対象画素行の画素値をJ(p)とする。また、基準画素行中のテンプレートの中心位置を0、右方向の位置を正、左方向の位置を負とする。
位置pにおけるSSD値R(p)は、下記式(2)に示すようにして算出される。具体的に例えば、図13に示すR(−2)を算出する場合、テンプレートの画素値L(−2)〜L(2)と、比較領域の画素値I(−4)〜I(0)と、を対応する画素毎にそれぞれ比較及び合算して算出する。同様に、図14に示すR(2)を算出する場合、テンプレートの画素値L(−2)〜L(2)と、比較領域の画素値I(0)〜I(4)と、を対応する画素毎にそれぞれ比較及び合算して算出する。
図13に示す例ではSSD値R(−2)が最小値となり、図14に示す例ではR(2)が最小値となる。即ち、図13では対象画素行の位置(−2)の画素がテンプレートの中心に対応する画素となり、図13では対象画素行の位置(2)の画素がテンプレートの中心に対応する画素となる。上述のように、SSD値R(p)が最小値となる位置pmが、基準画素行及び対象画素行間の動きを示すものとなる。
本例ではこのpmを動き値αとする。動き値αは、その絶対値で基準画素行及び対象画素行間の動きの大きさを示し、正負の符号によって動きの向きを示す。したがって、上述のように歪みを補正するためには、動き値αを打ち消すように対象画素行を移動させる補正を行えばよい。そこで、下記式(3)に示すように対象画素行の画素値を動き値αの大きさだけ水平方向に移動させる補正を行い、補正後の対象画素行の画素値J(p)を得る。
以上のように補正を行うことにより、合成画像LG(図10参照)の画素行間の歪みを低減した補正後合成画像LGa(図12参照)を生成することが可能となる。したがって、低解像度LA〜LD間の歪みを抑制した補正後合成画像LGaを生成することが可能となる。
また、図13及び図14に示す例は画素単位で補正を行うものであるが、SSDやSADの値を利用すると、さらに詳細な1画素内(サブピクセル)での補正(以下、追加補正とする)を行うことができる。この追加補正を行う場合の具体例を図15及び図16に示す。図15は、図13で得られた補正後の対象画素行をさらにサブピクセル単位で追加補正する補正方法を示すものであり、図16は、図14で得られた補正後の対象画素行をさらにサブピクセル単位で追加補正する補正方法を示すものである。
図15及び図16に示す追加補正を行う場合、SSD値R(p)についても動き値αを用いた補正後のSSD値D(p)として、補正後の対象画素行の画素値J(p)と対応させる(下記式(4)参照)。なお、下記式(4)の補正方法は上記式(3)の補正方法と同様のものである。
図15及び図16に示すように、上記式(3)の補正によりテンプレートの中心に対応する対象画素行の位置pmの画素が、位置0に移動する。しかしながら、この移動は画素単位の移動であり、サブピクセル単位でみるとテンプレートの中心に対応する対象画素行の画素の位置pnが、位置0からずれている場合がある。このずれは、下記式(5)に示すようにSSD値D(p)をさらに比較することで算出することができる。ここでは、画素単位での移動が行われた後であることから−1<pn<1となることがわかっているため、SSD値D(−1),D(0),D(1)を用いて算出を行う。なお、下記式(5)中のサブ動き値βはpnと等しく、サブピクセル単位での基準画素行及び対象画素行間の動きを示すものである。即ち、動き値αと同質の値である。
動き値αと同様に、上記式(5)によって算出されたサブ動き値βを打ち消すように対象画素行を移動させることができれば、サブピクセル単位での追加補正を行うことができる。しかしながら、上記式(3)に示すような画素の移動による補正は画素単位でしか行うことができず、この場合には適用することができない。そのため、例えば下記式(6a)〜(6c)に示すように線形補間によって追加補正後の対象画素行の画素値K(p)を算出する。
図15に示すようにサブ動き値βが正である場合、対象画素行が全体的に正の方向(右方向)にずれたものとなる。そのため、上記式(6a)に示すように追加補正後の対象画素行の画素値K(p)を算出する際に、補正後の対象画素行の画素値J(p)及びJ(p−1)を用いる。同様に、図16に示すようにサブ動き値βが負である場合、対象画素行が全体的に負の方向(左方向)にずれたものとなる。そのため、上記式(6c)に示すように追加補正後の対象画素行の画素値K(p)を算出する際に、補正後の対象画素行の画素値J(p)及びJ(p+1)を用いる。なお、動き値βが0であれば、上記式(6b)に示すように追加補正の前後で画素値が同じものとなる。
以上のように追加補正を行うこととすると、補正後合成画像LGaの画素行間の歪みをさらに低減することが可能となる。
なお、上述のSSDやSADの値は、同種の画素値を用いて算出することとすると好適であり、そのためにSSDやSADの値を算出しようとする画素の当該種類の画素値を予め算出することとしても構わない。例えば、算出対象画素の周囲の画素が有するRGBの画素値をそれぞれ用いて(補間により算出対象画素のRGB値を算出して)、算出対象画素の輝度値を算出することとしても構わない。また例えば、同様に周囲の画素が有するGの画素値を用いて(補間して)、算出対象画素のGの画素値を算出することとしても構わない。
また、低解像度画像LA〜LD間の動きは、撮像装置などに搭載される動きを検出するセンサ(例えば、ジャイロセンサなど)等を用いて露光期間中の動きを検出することで求めることも可能である。ただし、撮像装置1の小型化や簡素化などの観点から、上述のように画像を利用して算出することとすると好ましい。
また、補正後合成画像LGaを生成するために低解像度画像LA〜LDのそれぞれの画素行をメモリ16から信号処理部51に読み出す前に、動き検出部53が予め低解像度画像LA〜LD間の動きを算出してメモリ制御部52に伝えることとしても構わない。このように構成すると、メモリ16から画素行を読み出す際に、読み出し位置を画素単位で調整することで上記の画素単位の補正(図12参照)を行うことが可能となる。
また、歪み低減露光読出パターンが、水平方向に対して不連続的に露光及び読出を行うものであっても、本実施例の出力画像の生成方法を適用することが可能である。この場合、合成に用いる各低解像度画像において水平方向に対して空いている画素の画素値を補間などによって算出した上で上述の比較を行い、動き値α,βを算出して合成すべき画素の位置や画素値を算出しても構わない。
<歪み低減露光読出パターンの別例>
上述の第1及び第2実施例では、図3及び図4に示すように垂直方向に対して不連続的となるように画素の露光及び読出を行うこととしたが、適用可能な歪み低減露光読出パターンはこの例に限られるものではない。以下、歪み低減露光読出パターンの別例について図面を参照して説明する。
(第1別例)
まず、歪み低減露光読出パターンの第1別例について図面を参照して説明する。図17は、画素の配列と歪み低減露光読出パターンの第1別例とを示す画素部の図であり、第1実施例について示した図3に相当するものである。また、図18は、図17に示す歪み低減露光読出パターンを用いて露光及び読出を行った場合の露光タイミング及び読出タイミングを示すタイミングチャートであり、第1実施例について示した図4に相当するものである。
本別例においても、画素部24が図3と同様のベイヤ配列であることとする。さらに、本例の歪み低減露光読出パターンも、第1実施例と同様に4つの画素群A10〜D10に分類するとともに不連続的に露光及び読出を行うものであるが、画素群A10〜D10の分類方法が第1実施例とは異なる。
具体的には、(x,8v)及び(x,8v+1)の画素が画素群A10に含まれ、(x,8v+2)及び(x,8v+3)の画素が画素群B10に含まれ、(x,8v+4)及び(x,8v+5)の画素が画素群C10に含まれ、(x,8v+6)及び(x,8v+7)の画素が画素群D10に含まれるように、それぞれ分類する(ただし、x及びvは0以上の整数)。なお、図17では一例として画素部24の画素行の数を8の倍数として各画素群に含まれる画素数を等しいものとしているが、これに限られるものではなく任意の数とすることができる。
そして、画素群A10、画素群B10、画素群C10、画素群D10の順に露光及び読出を行い、画素群A10〜D10のそれぞれの画素信号によって構成される低解像度画像を得る。各画素群A10〜D10の露光及び読出は、通常の露光読出パターンと同様であり、上方の画素行から下方の画素行にかけて行う。したがって、図17の画素部24であれば、A10−0a、A10−0b、…、A10−sa、A10−sb、B10−0a、B10−0b、…、B10−sa、B10−sb、C10−0a、C10−0b、…、C10−sa、C10−sb、D10−0a、D10−0b、…、D10−sa、D10−sbの画素行の順に、露光及び読出を行う(sは自然数)。
以上のようにして、通常の露光読出パターンや第1実施例で示した歪み低減露光読出パターンと同様に、画素部24の略全体の画素の露光及び読出を行う。したがって、本別例の歪み低減露光読出パターンも、第1実施例で示した歪み低減露光読出パターンと同様に通常の露光読出パターンの露光及び読出を行う画素(特に画素行)の順番を入れ替えたものと解釈することができる。
また、本別例の歪み低減露光読出パターンと、通常の露光読出パターンや第1実施例で示した歪み低減露光読出パターンとは、上記のように露光及び読出を行う画素行の順番は異なるものの、画素行毎の露光タイミング及び読出タイミング自体は略等しいものとなる。そのため、図29、図4及び図18に示すように、それぞれの1フレーム期間は略等しいものとなる。
次に、画素群A10〜D10のそれぞれから得られるそれぞれの低解像度画像の具体例について、図面を参照して説明する。図19及び図20は、第1別例の歪み低減露光読出パターンを用いた露光及び読出により得られる低解像度画像を示す図であり、第1実施例について示した図6及び図8と比較され得るものである。特に、図19及び図20は、図6及び図8と同様に、図5に示す撮像領域Sの状態で撮像を開始するとともに、撮像中に撮像装置1が右方にパンした場合に得られる低解像度画像LA10〜LD10,LA11〜LD11について示したものである。
図19(a)に示す低解像度画像LA10は、画素群A10の露光及び読出により得られる画像である。同様に、図19(b)に示す低解像度画像LB10は、画素群B10の露光及び読出により得られる画像であり、図19(c)に示す低解像度画像LC10は、画素群C10の露光及び読出により得られる画像であり、図19(d)に示す低解像度画像LD10は、画素群D10の露光及び読出により得られる画像である。
また、図20(a)〜(d)に示す低解像度画像LA11〜LD11は、図19(a)〜(d)の低解像度画像LA10〜LD10の各画素行を画素部24の本来の位置(図17参照)に置いたものであり、第1実施例について示した図8(a)〜(d)と同様に実質的な歪みの大きさを示すものである。なお、図20(a)〜(d)に示す低解像度画像LA11〜LD11のそれぞれは、図19(a)〜(d)に示した低解像度画像LA10〜LD10のそれぞれに対応するものである。
図20(a)〜(d)に示す第1別例の低解像度画像LA11〜LD11は、2行ずつ隣接している画素行が6行の間隔を空けて並ぶ。そのため第1実施例と同様に、低解像度画像LA11〜LD11の画素行の間隔は、低解像度画像LA10〜LD10の4倍となる。したがって、低解像度画像LA10〜LD10の実質的な歪みは、通常画像Nの1/4に低減されていることになる。
そのため、第1実施例と同様に低解像度画像LA10〜LD10の少なくとも一つ用いて出力画像を生成することで、通常画像Nよりも歪みを低減した出力画像を生成することが可能となる。また、取得した画素信号の画素部24中の位置が異なる低解像度画像LA10〜LD10を複数用いて出力画像を生成することで、解像度の劣化を抑制することが可能となる。さらに、露光タイミングや読出タイミングが通常の露光読出パターンと略等しいものとなるため、AFE4などの後段の構成に大幅な変更を不要とすることが可能となる。
さらに、本別例では2行の隣接する画素行に対して連続的に露光及び読出を行う。また、図17に示すように、ベイヤ配列では当該隣接する画素行にRGBの画素が含まれる。そのため、低解像度画像LA10〜LD10やこれらを組み合わせた画像において、当該隣接する画素行の画素値に基づいて輝度値などの新たな画素値を生成する場合に、精度よく画素値を算出することが可能となる。
ところで、第2実施例に示した低解像度画像の合成方法を本別例の歪み低減露光読出パターンを用いて得られた低解像度画像LA10〜LD10に適用して、出力画像を生成することも可能である。第2実施例に示す出力画像の生成方法を適用する場合について、図面を参照して説明する。
図21は、第1別例の歪み低減露光読出パターンを用いて得られた低解像度画像を合成して得られる合成画像の一例を示した図であり、第2実施例について示した図10に相当するものである。図22は、図21に示す合成画像の画素行の位置を補正して得られる補正後合成画像の一例を示す図であり、第2実施例について示した図12に相当するものである。
図21に示す合成画像LG10は、図19に示す低解像度画像LA10〜LD10のそれぞれの画素行を組み合わせたものであり、図20に示す低解像度画像LA11〜LD11を重ね合わせた画像である。合成画像LG10は、上述のように隣接する2行の画素行が連続的に露光及び読出されたものとなる。そのため、例えば図22の補正後合成画像LGa10に示すように、当該隣接する2行毎に補正を行うこととしても構わない。またこのとき、動き値α,βを算出する際に行数を2とした2次元のテンプレート(上記式(1a)または(1b))を用いても構わない。なお、第2実施例で示したように、1行毎に画素行を補正することとしても構わない。
このように構成すると、第2実施例と同様に合成画像LG10(図21参照)の画素行間の歪みを低減した補正後合成画像LGa10(図22参照)を生成することが可能となる。また、上述のように低解像度画像LA10〜LD10の輝度値などを精度よく算出することが可能となる。したがって、これらの画素値を用いることで動き値α,βを精度よく算出することが可能となる。
なお、A10〜D10の4つの画素群に分けて4つの低解像度画像LA10〜LD10を生成する場合について例示したが、分割する画素群の数は4に限られず、kとしても構わない(kは2以上の整数)。さらに、隣接する2行の画素行について連続して露光及び読出することとしたが、当該隣接する画素行は2行に限られず、u行としても構わない(uは2以上の整数)。この場合、画素部24の垂直方向のu×(k−1)行間隔でu行ずつ同じ画素群に分類することとしても構わない。このようにして得られる低解像度画像は、歪みを1/kに低減することが可能となる。
(第2別例)
また、歪み低減露光読出パターンの第2別例について図面を参照して説明する。図23は、画素の配列と歪み低減露光読出パターンの第2別例とを示す画素部の図であり、第1実施例について示した図3に相当するものである。また、図24は、図23に示す歪み低減露光読出パターンを用いて露光及び読出を行った場合の露光タイミング及び読出タイミングを示すタイミングチャートであり、第1実施例について示した図4に相当するものである。
本別例においても、画素部24が図3と同様のベイヤ配列であることとする。さらに、本例の歪み低減露光読出パターンも、第1実施例と同様に4つの画素群A20〜D20に分類するとともに不連続的に露光及び読出を行うものであるが、画素群A20〜D20の分類方法が第1実施例とは異なる。
具体的には、(4h,4v)、(4h+1,4v)、(4h,4v+1)及び(4h+1,4v+1)の画素が画素群A20に含まれ、(4h,4v+2)、(4h+1,4v+2)、(4h,4v+3)及び(4h+1,4v+3)の画素が画素群B20に含まれ、(4h+2,4v)、(4h+3,4v)、(4h+2,4v+1)及び(4h+3,4v+1)の画素が画素群C20に含まれ、(4h+2,4v+2)、(4h+3,4v+2)、(4h+2,4v+3)及び(4h+3,4v+3)の画素が画素群D20に含まれるように、それぞれ分類する(ただし、h及びvは0以上の整数)。なお、図23では一例として、画素部24の画素行及び画素列の数を4の倍数として各画素群に含まれる画素数を等しいものとしているが、これに限られるものではなく任意の数とすることができる。
そして、画素群A20、画素群B20、画素群C20、画素群D20の順に露光及び読出を行い、画素群A20〜D20のそれぞれの画素信号によって構成される低解像度画像を得る。各画素群A20〜D20の露光及び読出は、通常の露光読出パターンと同様であり、上方の画素行から下方の画素行にかけて行う。したがって、図23の画素部24であれば、A20−0a、A20−0b、…、A20−sa、A20−sb、B20−0a、B20−0b、…、B20−sa、B20−sb、C20−0a、C20−0b、…、C20−sa、C20−sb、D20−0a、D20−0b、…、D20−sa、D10−sbの画素行の順に、露光及び読出を行う(sは自然数)。
以上のようにして、通常の露光読出パターンや第1実施例で示した歪み低減露光読出パターンと同様に、画素部24の略全体の画素の露光及び読出を行う。したがって、本別例の歪み低減露光読出パターンは、垂直方向だけでなく水平方向に対しても不連続的に露光及び読出を行うものであるが、第1実施例で示した歪み低減露光読出パターンと同様に通常の露光読出パターンの露光及び読出を行う画素の順番を入れ替えたものと解釈することができる。
また、本別例の歪み低減露光読出パターンは、通常の露光読出パターンや第1実施例で示した歪み低減露光読出パターンと比較して、画素行の1行毎の露光及び読出時間が略半分になるが、露光及び読出を行う画素行は略倍となる。そのため、図29、図4及び図24に示すように、それぞれの1フレーム期間は略等しいものとなる。
次に、画素群A20〜D20のそれぞれから得られるそれぞれの低解像度画像の具体例について、図面を参照して説明する。図25及び図26は、第2別例の歪み低減露光読出パターンを用いた露光及び読出を行うことにより得られる低解像度画像を示す図であり、第1実施例について示した図6及び図8と比較され得るものである。特に、図25及び図26は、図6及び図8と同様に、図5に示す撮像領域Sの状態で撮像を開始するとともに、撮像中に撮像装置1が右方にパンした場合に得られる低解像度画像LA20〜LD20,LA21〜LD21について示したものである。
図25(a)に示す低解像度画像LA20は、画素群A20の露光及び読出により得られる画像である。同様に、図25(b)に示す低解像度画像LB20は、画素群B20の露光及び読出により得られる画像であり、図25(c)に示す低解像度画像LC20は、画素群C20の露光及び読出により得られる画像であり、図25(d)に示す低解像度画像LD20は、画素群D20の露光及び読出により得られる画像である。
また、図26(a)〜(d)に示す低解像度画像LA21〜LD21は、図25(a)〜(d)の低解像度画像LA20〜LD20の各画素行を画素部24の本来の位置(図23参照)に置いたものであり、第1実施例について示した図8(a)〜(d)と同様に実質的な歪みの大きさを示すものである。なお、図26(a)〜(d)に示す低解像度画像LA21〜LD21のそれぞれは、図25(a)〜(d)に示した低解像度画像LA20〜LD20のそれぞれに対応するものである。
図26(a)〜(d)に示す第2別例の低解像度画像LA21〜LD21は、2行2列の画素のブロックが、垂直方向に2行、水平方向に2列の間隔を空けて並ぶ。そのため、低解像度画像LA21〜LD21の画素行の間隔が、低解像度画像LA20〜LD20の2倍となる。また、水平方向の画素は画素行全体の半分となるため、露光期間が半分となり(図24参照)、画素行毎の歪みは通常画像Nの1/2となる。したがって、低解像度画像LA20〜LD20の実質的な歪みは、通常画像Nの1/4に低減されていることになる。
そのため、第1実施例と同様に低解像度画像LA20〜LD20の少なくとも一つ用いて出力画像を生成することで、通常画像Nよりも歪みを低減した出力画像を生成することが可能となる。また、取得した画素信号の画素部24中の位置が異なる低解像度画像LA20〜LD20を複数用いて出力画像を生成することで、解像度の劣化を抑制することが可能となる。さらに、露光及び読出を行う画素数は通常の露光読出パターンと略等しいものであり、略等しい速度で画素信号を読み出すことが可能であるため、AFE4などの後段の構成に大幅な変更を不要とすることが可能となる。
さらに、本別例では2行2列の隣接する画素に対して連続的に露光及び読出を行う。また、図23に示すように、ベイヤ配列では当該隣接する画素にRGBの画素が含まれる。そのため、低解像度画像LA20〜LD20やこれらを組み合わせた画像において、当該隣接する画素の画素値に基づいて輝度値などの新たな画素値を生成する場合に、精度よく画素値を算出することが可能となる。
ところで、第2実施例に示した低解像度画像の合成方法を本別例の歪み低減露光読出パターンを用いて得られた低解像度画像LA20〜LD20に適用して、出力画像を生成することも可能である。第2実施例に示す出力画像の生成方法を適用する場合について、図面を参照して説明する。図27は、第2別例の歪み低減露光読出パターンを用いて得られた低解像度画像を合成して得られる補正後合成画像の一例を示す図であり、第2実施例について示した図12に相当するものである。
図27に示す補正後合成画像LGa20は、図25に示す低解像度画像LA20〜LD20のそれぞれの画素の位置を補正して組み合わせたものであり、図26に示す低解像度画像LA21〜LD21の位置を補正して重ね合わせた画像である。この場合、合成に用いる各低解像度画像LA21〜LD21において水平方向や垂直方向に対して空いている画素の画素値を補間などによって算出した上で上述の比較を行い、動き値α,βを算出して合成すべき画素の位置や画素値を算出しても構わない。
このように構成すると、画素間の歪みを低減した補正後合成画像LGa20を生成することが可能となる。また、上述のように低解像度画像LA20〜LD20の輝度値などを精度よく算出することが可能となる。したがって、これらの画素値を用いることで動き値α,βを精度よく算出することが可能となる。
なお、A20〜D20の4つの画素群に分けて4つの低解像度画像LA20〜LD20を生成する場合について例示したが、分割する画素群の数は4に限られず、kとしても構わない(kは2以上の整数)。さらに、1つの画素群が画素部24の垂直方向の1/c個、水平方向の1/d個の画素を取得することとしても構わない(c及びdは自然数)。このようにして得られる低解像度画像は、歪みを1/(c×d)に低減することが可能となる。
<変形例>
上述の各種歪み低減露光読出パターンや通常の露光読出パターンなど、複数の露光読出パターンを適用可能な構成として、必要に応じて適切な露光読出パターンを選択して適用することとしても構わない。例えば、発生し得る歪みの大小(例えば、レンズ部3のズーム倍率の大小)に応じて、選択する歪み低減露光読出パターンの分割数や分割パターンを異ならせても構わない。特に、レンズ部3のズーム倍率が大きく、大きい歪みが発生することが予想される場合に、歪み補正効果の高い歪み低減露光読出パターン(例えば、分割数が多いパターン)が選択される構成としても構わない。
一方、ズーム倍率が小さく、小さい歪みしか発生し得ないと予想される場合は、通常の露光読出パターンを用いて露光及び読出を行って通常画像Nを生成し、これに基づいて出力画像を生成しても構わない。このように構成すると、誤った歪み補正によって出力画像がかえって歪むこととなったり、解像度が劣化したりすることを抑制することが可能となる。
(手ぶれ補正のON/OFFに基づく制御)
撮像装置1に手ぶれ補正機能を備えることができる。手ぶれ補正技術は、静止画像又は動画像の撮影時に発生する手ぶれを検出し、その検出結果を用いて当該手ぶれを軽減する技術である。手ぶれ検出方法としては、角速度センサ又は角加速度センサなどの手ぶれ検出センサを用いる方法と、撮影画像から画像処理により手ぶれを検出する方法等が公知となっている。手ぶれ補正方法としては、レンズ又は撮像素子を駆動制御することにより光学系側で手ぶれを補正する光学式手ぶれ補正と、画像処理により手ぶれに起因するぼけを除去する電子式手ぶれ補正等が公知となっている。撮像装置1は、これら公知の手ぶれ補正技術を採用することにより手ぶれ補正機能を実現することができる。撮像装置1において、手ぶれ補正機能がOFF(無効)の場合、或いは、手ぶれ補正機能がOFFであって、さらにフォーカルプレーン歪が比較的目立たないと予想される場合には、通常の露光読出パターンを用いた露光及び読出により通常画像を出力し、これに基づいて出力画像を生成する構成とすることができる。他方、手ぶれ補正機能がON(有効)の場合には、歪み低減露光読出パターンを用いた露光及び読出により複数の低解像度画像を出力し、これらに基づいて出力画像を生成する構成とすることができる。
(ユーザ操作による切り替え)
また、ユーザ操作により、歪み低減露光読出を行う/行わない、通常の露光読出との切り替えを行う/行わない等を設定することができる構成とすることもできる。
(露光読出パターンの切り替えにより発生する無効フレームへの対応)
画素部24の駆動方式を通常の露光読出パターンから歪み低減露光読出パターン、或いはその逆へ切り替えるときに、無効画像(以下、無効フレームと記載する。また、画素部24から出力される画像をフレームと記載する。)が発生する場合がある。無効フレームとは、駆動方式の切替え時において、一時的に画素部24から有効な受光画素信号が取得できなかったフレームを指す。画素部24の特性に応じて、無効フレームが発生する場合と発生しない場合がある。
図30及び図31は、フレーム期間毎(t1、t2、t3、・・・)に画素部24から出力されるフレーム列のイメージ図を示している。図30は、時刻t1からt2の間に通常の露光読出パターンから歪み低減露光読出パターンへ切り替えられる場合に出力されるフレーム列を示している。図31は、歪み低減露光読出パターンから通常の露光読出パターンへ切り替えられる場合に出力されるフレーム列を示している。図30、図31において、本来、時刻t2のタイミングでは、それぞれ歪み低減露光読出によるフレーム、通常の露光読出によるフレームが出力されなければならない。しかしながら、駆動方式の切り替えに一定の時間が必要なことに起因して画素部24から有効な受光画素信号が取得できず、この結果、無効フレーム102、無効フレーム112が出力される。
このような無効フレームの存在は、撮影画像の視聴者に不快感を与えることとなるため、なんらかの対応が必要である。第1の無効フレームへの対応方法としては、無効フレームが発生するタイミングにおいて、その直前に生成されたフレームを無効フレームに替えて出力するという方法がある。図30では、時刻t2で出力される無効フレーム102を、その直前の時刻t1で出力される通常の露光読出フレーム101と置き換えることができる。また、図31では、無効フレーム112を、歪み低減露光読出によって出力される4つの低解像度フレーム、111A、111B、111C及び111Dを合成することによって生成された合成フレーム111と置き換えることができる。尚、低解像度フレームの合成は、実施例2に記載の方法で行われる。
無効フレームが発生する時刻t2において、その直後の時刻t3で生成されたフレームを利用できる場合は、当該フレームを無効フレームと置き換えても良い。また無効フレームが発生する時刻t2の直前直後である時刻t1及びt3で生成されたフレームの平均となるフレームを無効フレームと置き換えても良い。即ち、図30では、時刻t2で出力される無効フレーム102を、その直後の時刻t3で出力される歪み低減露光読出によって出力される4つの低解像度フレーム、103A、103B、103C及び103Dを合成することにより生成される合成フレーム103と、或いは、フレーム101と103の平均となるフレームと置き換えることができる。図31では、無効フレーム112を、通常の露光読出によって出力されるフレーム113と、或いは、フレーム111と113の平均となるフレームと置き換えることができる。
図32は、図31と同様に、時刻t1からt2の間に歪み低減露光読出パターンから通常の露光読出パターンへ切り替えられる場合に出力されるフレーム列を示している。尚、図31及び図32では、歪み低減露光読出により低解像度フレームが、フレーム111A、111B、111C、111Dの順に画素部24から出力される。図32において、第2の無効フレームへの対応方法は、時刻t1における歪み低減露光読出により出力される低解像度フレーム111A、111B、111C及び111Dのうち、無効フレームが発生する時刻t2により近い時刻に出力されるフレーム111C及び111D間の動きベクトルを算出し、当該動きベクトルを用いて合成フレーム111に水平方向の位置補正(以下、動き補償と記載する。)を施したフレームを、時刻t2で発生する無効フレームに替えて出力する方法である。これにより、例えば、パンニングが行なわれている場合には、時刻t2において当該パンニングによる被写体の移動を考慮したフレームを出力することができる。この結果、時刻t1、t2、t3で連続して出力されるフレーム列は、違和感が少なく、より自然な映像として視認されることとなる。
図33は、合成画像111に含まれる8行分の画素行を示しており、実施例2の図11に相当する図である。図33において、動きベクトルV111B1、V111C1、V111D1のそれぞれは、フレーム111Aの画素行111A1を基準とした場合の画素行111B1、画素行111C1、画素行111D1の動きベクトルを表している。同様に、動きベクトルV111B2、V111C2、V111D2のそれぞれは、フレーム111Aの画素行111A2を基準とした場合の画素行111B2、画素行111C2、画素行111D2の動きベクトルを表している。尚、これら動きベクトルは、実施例2の図11における画素行間の水平方向の歪に相当するものである。低解像度フレーム111A、111C及び111Dの画素行がN行であるとすると、フレーム111Aを基準としたフレーム111Cの動きベクトルV111Cは下記式(7a)によって算出され、フレーム111Aを基準としたフレーム111Dの動きベクトルV111Dは下記式(7b)により算出される。フレーム111C及び111D間の動きベクトルV111DCは、下記式(7c)により算出される。ここで、動きベクトルV111DCは1/4フレーム期間の動きベクトルであるから、下記式(7d)により、4倍の逆動きベクトルMCV112を算出し、これを用いて合成フレーム111の動き補償を行い、無効フレーム112と置き換える。
図30において、無効フレームが発生する時刻t2において、その直後の時刻t3に生成された合成フレーム103を利用できる場合には、時刻t2により近いフレーム103A及び103Bから算出した動きベクトルを用いて合成フレーム103の動き補償を行い、無効フレーム102と置き換えても良い。また、直前直後に生成された歪み低減露光読出による合成フレームに動き補償が施されたフレームと通常の露光読出フレームの平均となるフレームを無効フレームと置き換えても良い。尚、図30では、歪み低減露光読出により低解像度フレームが、フレーム103A、103B、103C、103Dの順に画素部24から出力される。
以上において、単板式でベイヤ配列となる撮像部24に各種歪み低減露光読出パターンを適用する例について示したが(図3、図17及び図23参照)、適用可能な撮像部24の形式は単板式のベイヤ配列に限られない。例えば、ベイヤ配列以外の配列となる単板式の撮像部にも適用可能であるし、三板式(例えば、R、G及びBの画素信号を3つの撮像素子を用いて別々に生成)などの複数の撮像素子を備える撮像部にも適用可能である。
複数の撮像素子を備える撮像部に適用する場合、それぞれの撮像素子において異なる歪み低減露光読出パターンを採用しても構わないし、同じ歪み低減露光読出パターンを採用しても構わない。同じ歪み低減露光読出パターンを採用するとともに同じタイミングで露光及び読出を行う場合、それぞれの撮像素子から得られてある画素を構成する信号のそれぞれが、異なるタイミングで露光及び読出されたものとなることを抑制することが可能となる。また、撮像素子毎に上述の第2実施例の合成を別々に行っても構わないし、それぞれの撮像素子から得られた画素信号を総合した上で共通した第2実施例の合成を行っても構わない。共通した合成を行う場合、合成方法が異なることによるずれなどを抑制することが可能となる。
また、本発明の実施形態における撮像装置1について、画像処理部5や走査制御部21などのそれぞれの動作を、マイコンなどの制御装置が行うこととしても構わない。さらに、このような制御装置によって実現される機能の全部または一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしても構わない。
また、上述した場合に限らず、図1、図2及び図9の撮像装置1は、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって実現可能である。また、ソフトウェアを用いて撮像装置1の一部を構成する場合、ソフトウェアによって実現される部位についてのブロック図は、その部位の機能ブロック図を表すこととする。
以上、本発明における実施形態について説明したが、本発明の範囲はこれに限定されるものではなく、発明の主旨を逸脱しない範囲で種々の変更を加えて実行することができる。