<<第1実施形態>>
以下、本発明に係る撮像装置の第1実施形態につき、図面に沿って具体的に説明する。図1は、第1実施形態に係る撮像装置1の全体ブロック図である。撮像装置1は、例えば、デジタルスチルカメラやデジタルビデオカメラなどである。
撮像装置1は、光学系11と、絞り12と、撮像素子13と、前処理部14と、ドライバ17と、タイミングジェネレータ18と、主制御部19と、信号処理部20と、フレームメモリバッファ40と、外部メモリ41と、操作部42と、を有して構成される。撮像装置1は、動画と静止画の双方を(同時に)撮影可能な撮像装置である。
光学系11は、例えば複数枚のレンズから構成され、撮像対象からの入射光は該レンズ及び絞り12を介して撮像素子13に入射する。ドライバ17は、主制御部19からの制御信号に基づいて光学系11を制御し、光学系11のズーム倍率や焦点距離を制御する。また、ドライバ17は、主制御部19からの制御信号に基づいて絞り12の開口量(開口部の大きさ)を制御する。光学系11に入射する光学像が同じである場合、絞り12の開口量が大きくなるに従って、撮像素子13への単位時間当たりの入射光量は増大する。
撮像素子13は、例えばCCD(Charge Coupled Devices)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等からなる。撮像素子13は、光学系11及び絞り12を介して入射した光学像を光電変換し、該光電変換によって得られた電気信号を前処理部14に出力する。より具体的には、撮像素子13は、マトリクス状に二次元配列された複数の画素(受光画素;不図示)を備え、各撮影において、各画素は露光時間に応じた電荷量の信号電荷を蓄える。各画素は、蓄えた信号電荷の電荷量に比例した大きさを有する電気信号を後段の前処理部14に順次出力する。光学系11に入射する光学像が同じであり且つ絞り12の開口量が同じである場合、撮像素子13からの電気信号の大きさ(強度)は上記露光時間に比例して増大する。
撮像素子13には、電子シャッタ機能が備えられており、上記露光時間は、タイミングジェネレータ18からの電子シャッタ制御信号によって制御される。主制御部19は、タイミングジェネレータ18の動作を制御するものであるため、主制御部19とタイミングジェネレータ18は、上記露光時間を制御する露光時間制御部として機能する。上記露光時間によって、電子シャッタ制御におけるシャッタスピードが特定される。
前処理部14は、増幅回路15とA/D変換器(アナログ−デジタル変換器)16等から構成される。増幅回路15は、撮像素子13の出力信号であるアナログ信号を指定された増幅度で増幅して出力する。A/D変換器16は、タイミングジェネレータ18からの信号に従って増幅回路15の出力信号をデジタル信号に変換する。前処理部14は、このデジタル信号に必要に応じて更に適切な処理を施し、撮影した画像を表す画像データを出力する。前処理部14が出力する画像データは信号処理部20に与えられる。
増幅回路15における上記増幅度は、通常、所謂オートゲインコントロールに従って制御される。しかしながら、本発明の特徴的な点として、該増幅度はタイミングジェネレータ18を介し主制御部19によっても制御される。その制御手法については、後に詳説する。
タイミングジェネレータ18は、撮影のタイミングに従って、撮像素子13及び前処理部14の各動作のタイミングを制御する。具体的には、例えば、撮像素子13からの出力信号を読み出すタイミング(撮像素子13からの出力信号を前処理部14に与えるタイミング)や、前処理部14によるデータの出力タイミングを制御する。
信号処理部20は、画素数変換部21と、動き検出部22と、動画処理部23と、動画圧縮部24と、静止画処理部25と、静止画圧縮部26と、を有して構成される。前処理部14が出力する画像データは、画素数変換部21、動き検出部22及び静止画処理部25に与えられる。以下、前処理部14が出力する画像データを、特に原画像データと呼ぶ。
画素数変換部21は、前処理部14からの原画像データを入力データとして受ける。画素数変換部21は、入力データとして受けた原画像データに対して切り出し処理、フィルタ処理や間引き処理等を施すことにより、原画像データの画像サイズを縮小する。この縮小によって得られた画像データは、動画処理部23に与えられる。動画処理部23は、画素数変換部21からの画像データに必要な映像処理を施す。この映像処理には、例えば、輝度信号及び色差信号の生成、ガンマ補正、輪郭強調処理等が含まれる。動画処理部23は、この映像処理を経て得られた画像データを動画圧縮部24に出力する。動画圧縮部24は、動画処理部23からの画像データにMPEG(Moving Picture Experts Group)等の所定の圧縮方式を用いた圧縮を施し、その圧縮後の画像データを外部メモリ41に出力する。
静止画処理部25は、前処理部14からの原画像データを入力データとして受ける。静止画処理部25は、入力データとして受けた原画像データに必要な映像処理を施す。この映像処理には、例えば、輝度信号及び色差信号の生成、ガンマ補正、輪郭強調処理等が含まれる。静止画処理部25は、この映像処理を経て得られた画像データを静止画圧縮部26に出力する。静止画圧縮部26は、静止画処理部25からの画像データにJPEG(Joint Photographic Experts Group)等の所定の圧縮方式を用いた圧縮を施し、その圧縮後の画像データを外部メモリ41に出力する。
動き検出部22は、前処理部14からの原画像データを入力データとして受ける。動き検出部22は、動画撮影中に次々と前処理部14から送られてくる原画像データに基づき、周知の代表点マッチング法等を用いて被写体の動きベクトルを検出する。動画撮影中において、画素数変換部21や動画処理部23は動き検出部22が検出した動きベクトルを参照し、必要な処理(例えば、所謂手ぶれ補正)を行う。
フレームメモリバッファ40は、DRAM(Dynamic Random Access Memory)等の半導体メモリから成り、データの読み書きが可能となっている。信号処理部20を構成する各部位は、一時的に記録しておくべきデータをフレームメモリバッファ40に書き込むとともに参照すべきデータをフレームメモリバッファ40から読み出す。外部メモリ41は、半導体メモリやメモリカード等の記録媒体である。
主制御部19は、CPU(Central Processing Unit)等から成り、撮像装置1内の各部位の動作を統括的に制御する。入力キー(不図示)等から構成された操作部42を使用者が操作することにより、その操作内容を表す信号が主制御部19に伝達される。その信号に応じて主制御部19がドライバ17、タイミングジェネレータ18及び信号処理部20等を制御することにより、静止画の撮影及び記録や動画の撮影及び記録が行われる。
操作部42への操作に応じて動画撮影を行う場合、主制御部19は、ドライバ17及びタイミングジェネレータ18を制御して撮像素子13の露光設定(撮像装置1の露光設定)を動画撮影用にする。動画撮影用の露光設定は、動画の撮影に適した(望ましくは、最適な)露光設定となっている。動画撮影中、所定のフレームレートで(即ち、所定の間隔をおいて)次々と原画像データが前処理部14から出力される。撮影した動画を表すこれらの原画像データは、画素数変換部21、動画処理部23及び動画圧縮部24の所定の処理を経つつ、次々と外部メモリ41に送られ、外部メモリ41に記録される。これにより、動画の撮影及び撮影した動画の記録が行われる。
操作部42への操作に応じて静止画撮影を行う場合、主制御部19は、ドライバ17及びタイミングジェネレータ18を制御して撮像素子13の露光設定(撮像装置1の露光設定)を静止画撮影用にする。静止画撮影用の露光設定は、静止画の撮影に適した(望ましくは、最適な)露光設定となっている。静止画の撮影によって得られた原画像データは、静止画処理部25及び静止画圧縮部26の所定の処理を経て外部メモリ41に送られ、外部メモリ41に記録される。これにより、静止画の撮影及び撮影した静止画の記録が行われる。
動きの速い被写体の一瞬の動きを静止画として撮影する場合、露光時間を短くして(シャッタスピードを速くして)撮影を行う。露光時間が被写体の動きに対して十分に短い場合は、図2の画像61に示す如く、所謂「被写体ぶれ」(動体ぶれ)のない鮮明な画像が得られる。他方、動画撮影において全てのフレームを高速シャッタで撮影すると、動画フレームの1コマ1コマが動きのない鮮明な画像となり、動きが不自然で滑らかさに欠ける動画となってしまう。言い換えると、動いている部分の連続性が表現できなくなってしまう。
そこで、動画撮影においては、被写体の動きを滑らかに再現するために露光時間をできるだけ長くして撮影を行う。例えば、動画撮影のフレームレートが60フレーム/秒の場合、露光時間を1/60秒にできるだけ近づけて撮影を行うようにする。そうすると、図2の画像60に示す如く、露光時間に対して動きが速い部分に所謂「被写体ぶれ」(動体ぶれ)が生じることになり、これによって動きの滑らかな動画が得られる。
このように、「被写体ぶれ」は撮像素子13を構成する各画素に信号電荷を蓄えていく露光期間(この露光期間の長さは上記露光時間に等しい)に被写体が動くことで起きるぶれであるが、動画撮影においてはこの「被写体ぶれ」を積極的に取り入れることにより、被写体の動きを滑らかに再現することができる。
撮像装置1は、この「被写体ぶれ」の大小(或いは有無)を調整することによって、動画撮影中に静止画撮影した場合の撮影画像の品質向上を実現するものであり、以下、本発明の特徴的な部分について説明をする。
[第1動作例]
まず、撮像装置1の動作の第1動作例を説明する。第1動作例は、例えば、運動会などの動きの速いシーンの動画撮影中に静止画撮影を行うことを想定している。図3は、第1動作例の制御概念を示す図であり、動画撮影中に静止画撮影を行った場合における、絞り12の開口量と、撮像素子13の電荷蓄積量と、露光時間と、前処理部14から読み出された原画像データと、動画処理部23が出力する画像データとの関係を示す図である。尚、動画を表す動画処理部23の出力データを、以下、「動画フレームデータ」と呼ぶ。また、以下の記述において、文章の煩雑化を避けるため、画素数変換部21、動画圧縮部24及び静止画処理部25及び静止画圧縮部26による処理を無視したかのような表現を用いる場合がある。
動画撮影は、フレームFL1、FL2、FL3、FL4、FL5、FL6、FL7の順番で行われるものとする。そして、動画撮影中において、操作部42に対する静止画撮影の操作に応じてフレームFL4に相当する期間に静止画の撮影を行う場合を想定する。このため、動画撮影のフレームFL4は実際には存在しないと考えることもできるが、便宜上、動画撮影のフレームFL4は存在すると考える。この場合、フレームFL1〜FL3及びFL5〜FL7における露光設定は動画撮影用に設定され、フレームFL4における露光設定のみ静止画撮影用に設定される。
具体的には、静止画撮影時の露光時間を静止画撮影に適した露光時間にするべく、フレームFL4における露光時間をフレームFL1〜FL3及びFL5〜FL7における露光時間よりも短くする一方で、露光時間の短縮による露光不足を補償すべく、フレームFL4における絞り12の開口量をフレームFL1〜FL3及びFL5〜FL7におけるそれらよりも大きくする。この露光時間と絞り12の開口量の調整によって、フレームFL1〜FL7における電荷蓄積量は適正レベル63に均一化される。つまり、静止画の明るさが動画の明るさと(略)同じになる。ここで、「電荷蓄積量」は、撮像素子13を構成する全ての画素の電荷蓄積量の平均でも良いし、撮像素子13の撮像面の中央部に位置する画素の電荷蓄積量の平均でも良い。また、撮像素子13の撮像面の複数領域に位置する画素の電荷蓄積量の平均でも良い。また、これらの平均を重み付け平均としても構わない。
また、絞り12の開口量の調整を行う代わりに増幅回路15の増幅度を調整し、これによってフレームFL1〜FL7における電荷蓄積量を適正レベル63に均一化してもよい。この場合、フレームFL4における増幅回路15の増幅度は、フレームFL1〜FL3及びFL5〜FL7におけるそれらよりも大きくされる。
また、露光時間、絞り12の開口量及び増幅回路15の増幅度の調整を全て行い、これによってフレームFL1〜FL7における電荷蓄積量を適正レベル63に均一化してもよい。例えば、静止画撮影時の露光時間を静止画撮影に適した露光時間にするべく、フレームFL4における露光時間をフレームFL1〜FL3及びFL5〜FL7における露光時間よりも短くする一方で、露光時間の短縮による露光不足を補償すべく、フレームFL4における絞り12の開口量及び増幅回路15の増幅度をフレームFL1〜FL3及びFL5〜FL7におけるそれらよりも大きくする。
このように、動画撮影中に静止画の撮影を行う場合に主制御部19によって調整される露光設定には、露光時間と、絞り12の開口量及び増幅回路15の増幅度の内の少なくとも一方と、が含まれる。
上記のような撮影によって得られた全ての原画像データは、信号処理部20に送られる。フレームFL1〜FL3及びFL5〜FL7については、各原画像データに基づいた各動画フレームデータが画像処理部23によって得られ、それらの動画フレームデータは所定の処理を経て動画を表すデータとして外部メモリ41に格納される。フレームFL4にて撮影された静止画に対応する原画像データは、「静止画用データ」として扱われ、静止画処理部25及び静止画圧縮部26による処理を経て静止画を表すデータとして外部メモリ41に格納される。また、静止画撮影中のフレームFL4に対応する動画フレームデータは、上記静止画用データを用いて作成され、動画を表すデータとして外部メモリ41に格納される。このため、動画撮影中に静止画撮影を行っても、動画が一瞬止まったりコマ落ちしたりすることはない。
静止画用データを用いて動画フレームデータを生成する場合において、被写体の動きが遅いときや動画撮影用の露光時間と静止画撮影用の露光時間との差が小さいときは、上記静止画用データをそのまま動画フレームデータとして採用しても、上記静止画用データとその前後の動画フレームとの被写体ぶれ量の差が小さいため、動画の動きに不自然さが感じられることはない。しかしながら、上記の被写体ぶれ量の差が大きい場合、上記静止画用データをそのまま動画フレームデータとして採用すると、そのフレームだけ画像が鮮明に見えるため、ちらつきのような不自然さが生じる場合がある。
このような不自然さを抑制すべく、動画処理部23は、静止画用データを用いて動画フレームデータを生成する際、静止画用データに含まれる(フレームFL4にて撮影した静止画に含まれる)被写体の動きによる被写体ぶれ量を露光時間の差異に応じて補正し、これによって静止画撮影中の動画フレームデータを作成するようにしている。
動画処理部23による、静止画用データを用いた静止画撮影中の動画フレームデータの作成手法を図4〜図10を用いて説明する。図4は、静止画用データから動画フレームデータを作成することに関連する部位のみを表した動画処理部23の内部構成図である。また、図4〜図10を用いた具体例の説明において、説明の簡略化上、画素数変換部21の存在は無視する。即ち、前処理部14からの原画像データが動画処理部23に直接与えられるものとする。
今、フレームレートを60フレーム/秒とし、図5に示す如く、フレームFL2、FL3及びFL5等における動画撮影用の露光時間をT、フレームFL4における静止画撮影用の露光時間をtとする。露光時間T及びtは、夫々1/60秒及び1/180秒とし、フレームFL4の露光期間の中間時点はフレームFL4のフレーム期間の中間時点と一致するものとする。そして、図6に示す如く、背景が全て黒の画像中に1画素分の大きさを有する輝点Pが、一定輝度を保ちつつ右方向に一定速度で移動している状況を想定する。この輝点Pは、露光時間Tが経過する間に3画素分、右方向に移動しているものとする。そして、フレームFL2〜FL5の間に輝点Pが通る、右方向に連続する画素群を考える。この画素群は、図7に示す如く、合計12個の画素(n+k)から成り(但し、nは自然数であり、kは0〜11の整数)、kの数が大きい画素ほど右側に配置されているものとする。
上記の想定の下において、フレームFL2、FL3、FL4及びFL5における原画像データを画像として表現した場合、それらは、夫々図8の画像70、71、72及び73のようになる。
画像70においては、輝点Pの右方向の移動に伴い、画素n〜画素(n+2)に対応する画素データのみが「10」となり、他の画素に対応する画素データは全て「0」となっている。同様に、画像71においては、画素(n+3)〜画素(n+5)に対応する画素データのみが「10」となり、他の画素に対応する画素データは全て「0」となっている。同様に、画像73においては、画素(n+9)〜画素(n+11)に対応する画素データのみが「10」となり、他の画素に対応する画素データは全て「0」となっている。このように、フレームFL2、FL3及びFL5に対応する画像70、71及び73においては、1画素分の大きさを有する輝点Pが3画素間でぼやけて存在しているかのように見える。つまり、被写体ぶれが生じている。
尚、各画素データを、露光時間中に蓄積した電荷量に比例した値を有するデータ(即ち、輝度に比例するデータ)と仮定している。従って、輝点Pに対応する入射光を受けていない部分の画素についての画素データは、全て「0」となっている。全ての画素についての画素データをまとめて呼んだものが「画像データ」である。
フレームFL4に対応する画像72においては、露光時間が他のフレームの1/3であり且つ絞り12の開口量(及び/又は増幅回路15の増幅度)が大きくなっていることに起因して、画素(n+7)に対応する画素データのみが「30」となり、他の画素に対応する画素データは全て「0」となっている。このように、フレームFL4における原画像データを画像として表現した画像72においては、被写体ぶれが生じていない。
動画処理部23は、動画と静止画間の被写体ぶれの差異が小さくなるように、フレームFL4の静止画の撮影にて得られた画像データ(即ち、静止画用データ)に補正処理を施し、フレームFL4に対応する動画フレームデータを作成する。動画処理部23は(図4参照)、今回の撮影によって得られた画像データとその撮影の直前及び直後の撮影によって得られた画像データとの差分を演算して出力する差分演算部31と、差分演算部31の出力データに基づいて被写体ぶれが生じている領域或いは被写体ぶれが生じるべき領域を特定する被写体ぶれ領域特定部32と、露光時間に関する情報及び動きベクトルに関する情報に基づきつつ、被写体ぶれ領域特定部32によって特定された領域(被写体ぶれ領域)にぼかし処理を施すぼかし処理部33を含んで構成される。
上記の具体例に沿って動画処理部23の動作を説明する。繰り返すが、説明の簡略化上、画素数変換部21の存在は無視する。即ち、前処理部14からの原画像データが動画処理部23に直接与えられるものとして説明を行う。差分演算部31は、フレームFL4の撮影によって得られた原画像データ(即ち、静止画用データ)と、フレームFL3及びFL5の撮影によって得られた原画像データとの差分を演算し、その差分値を出力する。具体的には、フレームFL4の撮影によって得られた原画像データから、フレームFL3及びFL5の撮影によって得られた原画像データを差し引く。勿論、この差分演算は、同一の画素に対応する画素データ同士の間で行われる。これにより、画素n〜(n+11)に対応する差分値は、図9に示す如く、それぞれ0、0、0、−10、−10、−10、0、30、0、−10、−10、−10となる。
被写体ぶれ領域特定部32は、各画素に対応する差分値の大きさと予め定められた閾値とを比較し、被写体ぶれ領域(即ち、被写体ぶれが生じている領域或いは被写体ぶれが生じるべき領域)を特定する。例えば、閾値を「5」と設定した場合、差分値の大きさが5以上となる画素(n+3)〜(n+5)、(n+7)及び(n+9)〜(n+11)が被写体ぶれ領域とされる。
ぼかし処理部33は、動画撮影用の露光時間Tと静止画撮影用の露光時間tとの差異に応じて、フレームFL4の撮影によって得られた原画像データ(即ち、静止画用データ)にぼかし処理を施す。この際、フレームFL4の静止画の撮影タイミング近辺の動きベクトルが参照される。例えば、フレームFL2からFL3の間の動きベクトルとフレームFL5からFL6の間の動きベクトルの平均の動きベクトルが参照される。フレームFL2からFL3の間の動きベクトルとフレームFL5からFL6の間の動きベクトルの向き及び大きさは、双方「右向き」及び「3画素分」であるため、その平均の動きベクトルの向き及び大きさは、「右向き」及び「3画素分」となる。
この場合、露光時間がTであったならば向き及び大きさが「右向き」及び「3画素分」となっていた移動は、露光時間を静止画撮影用のtにしたことに起因して、静止画用データでは、(3画素)×t/Tの移動、即ち、右向きの1画素分の移動として捉えられている。つまり、2画素分(なぜならば、3−1=2)の被写体ぶれが静止画用データには表れていない。この静止画用データに含まれる被写体ぶれ量(静止画用データにて表される画像に含まれる被写体ぶれの量)は、ゼロであると言うことができる。
これを考慮し、ぼかし処理部33は、不足している2画素分の被写体ぶれを意図的に静止画用データに付加するぼかし処理を行う。つまり、被写体ぶれ領域と特定された画素の周辺画素を用いて画素データの平均化を行う。この平均化に用いられる「周辺画素」は、上記平均の動きベクトルの向き及び大きさに応じて設定される。つまり、今の場合、被写体ぶれ領域と特定された各画素における画素データは、隣接する左右の2画素の画素データとの間で平均化される。
これにより、画素(n+7)に対応する画素データのみが「30」であって且つ他の画素に対応する画素データが全て「0」となっていたぼかし処理前の静止画用データは、図10に示す如くぼかし処理後において、画素(n+6)〜(n+8)に対応する画素データのみが「10」となり且つ他の画素に対応する画素データが全て「0」となる。このぼかし処理後の静止画用データに含まれる被写体ぶれ量(ぼかし処理後の静止画用データにて表される画像に含まれる被写体ぶれの量)は、ぼかし処理前のそれよりも大きく、数値として例えば「2」と表現することができる。
このように、ぼかし処理部33は、露光時間をTからtに短くしたことに由来する被写体ぶれの減少分を意図的に静止画用データ中の被写体ぶれ領域に対応するデータに付与する。つまり、被写体ぶれ領域に対応する画像が露光時間Tとtとの差異に応じてぼかされるように、被写体ぶれ領域に対応するデータを補正する。そして、この補正を施した後の画像データを、フレームFL4に対応する静止画撮影中の動画フレームデータとして出力する。これにより、静止画撮影のタイミングで動画が一瞬ちらついたりすることがなくなり、滑らかな動画を生成することが可能となる。
尚、ぼかし処理における上記平均化において、適宜重み付け係数を付与してもよい。また、差分演算の対象となる画素データとして輝度に比例するデータを例示したが、各画素に対応する色差信号値や各画素に対応するR(赤)、G(緑)又はB(青)信号値等を、画素データとして採用しても構わない。また、ぼかし処理部33による上記のぼかし処理は一例であって、被写体ぶれ領域に対応する画像が露光時間Tとtとの差異に応じてぼかされるのであれば、どのような手法を採用しても構わない。
また、動画及び静止画の各撮影において、露光期間のちょうど中間のタイミングを、その撮影の撮影タイミング(基準タイミング)と呼ぶとすると、上述の第1動作例においては、図11に示す如く、隣り合う撮影タイミングの間隔は常に一定となっている。尚、図11及び図12において、黒い三角印は動画及び静止画の撮影タイミングを表している。これにより、各フレーム画像間の平均時間間隔(撮影タイミング間隔)が一定となり、より滑らかな動画を得ることができる。このような制御は、フレーム期間との関係において露光期間終了のタイミングを一定にすることを要求されない高速読み出しが可能な撮像素子を用いた場合に適用できる。撮像素子13として、一般的なCCD等を用いる場合は、信号読み出しスピードと制御の制約から、各フレームにおいてフレーム期間との関係における露光期間終了のタイミングを一定にする。例えば、図12に示す如く、各フレームにおいて、フレーム期間終了のタイミングと露光期間終了のタイミングとが常に一致するように制御する。この場合、隣り合う撮影タイミングの間隔は変動しうる。
[第2動作例]
次に、撮像装置1の動作の第2動作例を説明する。第2動作例も、第1動作例と同様、例えば、運動会などの動きの速いシーンの動画撮影中に静止画撮影を行うことを想定している。但し、絞り12の開口量を動画撮影用から静止画撮影用に変更するための時間が動画撮影の複数フレーム期間以上必要となる場合を想定している。
動画撮影中のシャッタスピードより速いシャッタスピードで静止画撮影を行うとき、絞り12の開口量を変化させずに増幅回路15の増幅度を増大させることによって画像の明るさを一定に保つことも可能である。しかしながら、増幅度の増大によって明るさを確保する場合、同時にノイズも増大することになる。このため、動画撮影中のシャッタスピードより速いシャッタスピードで静止画撮影を行うときにおいては、画像の明るさを一定に保つべく、シャッタスピードの変化に応じて絞り12を大きく開けることが望ましい。しかしながら、動画撮影のフレームレートが比較的高い場合、絞り12の開口量を動画撮影用から静止画撮影用に変更するために、動画の1フレーム期間以上の時間を必要とする場合もある。第2動作例は、このような状況を想定している。
図13は、第2動作例の制御概念を示す図であり、動画撮影中に静止画撮影を行った場合における、絞り12の開口量と、撮像素子13の電荷蓄積量と、露光時間と、前処理部14から読み出された原画像データと、動画処理部23が出力する画像データ(動画フレームデータ)との関係を示す図である。
動画撮影は、フレームFL11、FL12、FL13、FL14、FL15、FL16、FL17の順番で行われるものとする。そして、動画撮影中において、操作部42に対する静止画撮影の操作に応じてフレームFL14に相当する期間に静止画の撮影を行う場合を想定する。このため、動画撮影のフレームFL14は実際には存在しないと考えることもできるが、便宜上、動画撮影のフレームFL14は存在すると考える。第2動作例においては、絞り12の開口量が動画撮影用から静止画撮影用まで変化するために動画撮影の3フレーム期間に相当する時間が必要となることを想定している。同様に、絞り12の開口量が静止画撮影用から動画撮影用まで変化するために動画撮影の3フレーム期間に相当する時間が必要となるものとする。
この場合、フレームFL11及びFL17における露光設定は動画撮影用に設定され、フレームFL14における露光設定のみ静止画撮影用に設定される。そして、フレームFL12、FL13、FL15及びFL16における露光設定は動画撮影用と静止画撮影用の間に設定されることになる。
具体的には、フレームFL11、FL12、FL13、FL14の順番で絞り12の開口量を徐々に大きくし、フレームFL14、FL15、FL16、FL17の順番で絞り12の開口量を徐々に小さくする。一方で、絞り12の開口量の増大による露光量の増大を打ち消すようにフレームFL11、FL12、FL13、FL14の順番で露光時間を徐々に小さくし、絞り12の開口量の減少による露光量の減少を打ち消すようにフレームFL14、FL15、FL16、FL17の順番で露光時間を徐々に大きくする。この露光時間と絞り12の開口量の調整によって、フレームFL11〜FL17における電荷蓄積量は適正レベル63に均一化される。つまり、フレームFL11〜FL17の撮影にて得られる画像の明るさが全て(略)同じになる。
尚、上記のような制御で画像の明るさを全て同じにするのが理想ではあるが、機械的に動作する絞り12の開口量の制御精度の制約等から、それらの明るさを完全に一定に保つことは難しい。そこで、後段の信号処理において、最終的にそれらの明るさが一定になるように増幅処理等を加えればよい。この処理の具体例については、第2及び第3実施形態で後述する。
実際の静止画撮影は、絞り12の開口量が完全に変化し終わったタイミング、即ち、フレームFL14に相当する期間で行われる。静止画撮影後、絞り12の開口量は動画撮影用に戻される。
上記のような撮影によって得られた全ての原画像データは、信号処理部20に送られる。フレームFL11及びFL17については、各原画像データに基づいた各動画フレームデータが画像処理部23によって得られ、それらの動画フレームデータは所定の処理を経て動画を表すデータとして外部メモリ41に格納される。フレームFL14にて撮影された静止画に対応する原画像データは、「静止画用データ」として扱われ、静止画処理部25及び静止画圧縮部26による処理を経て静止画を表すデータとして外部メモリ41に格納される。
また、静止画撮影中のフレームFL14に対応する動画フレームデータは、上記静止画用データを用いて作成され、動画を表すデータとして外部メモリ41に格納される。静止画用データを用いてフレームFL14に対応する動画フレームデータを生成する際、静止画用データに含まれる(フレームFL14にて撮影した静止画)に含まれる被写体の動きによる被写体ぶれ量を露光時間の差異に応じて補正し、これによって静止画撮影中の動画フレームデータを作成するようにしている。動画処理部23による、静止画用データを用いた静止画撮影中の動画フレームデータの作成手法は、第1動作例で説明したものと同様である。
また、フレームFL12、FL13、FL15及びFL16における露光時間は、動画撮影用の露光時間より短いため、フレームFL12、FL13、FL15及びFL16の撮影によって得られた原画像データを画像として表した場合に、それらの画像に含まれる被写体ぶれ量は、露光時間を動画撮影用に設定した場合よりも小さくなる。そこで、フレームFL12、FL13、FL15及びFL16の撮影によって得られた各原画像データについても被写体ぶれ量の補正を行い、その補正を経て得られた各画像データをフレームFL12、FL13、FL15及びFL16の各動画フレームデータとする。フレームFL12、FL13、FL15及びFL16の各動画フレームデータは、それらのフレームに対応する動画を表すデータとして外部メモリ41に格納される。これにより、それらのフレームに対応する動画がちらついたりすることがなく、滑らかな動画を得ることができる。
フレームFL12、FL13、FL15及びFL16に対応する被写体ぶれ量の補正手法は、基本的にフレームFL14に対応する被写体ぶれ量の補正手法と同じであり、その補正処理を行う動画処理部23の内部構成は図4に示したものと同じである。図4を参照し、例としてフレームFL12に着目して、この被写体ぶれ量の補正手法を説明する。但し、説明の簡略化上、画素数変換部21の存在は無視する。即ち、前処理部14からの原画像データが動画処理部23に直接与えられるものとして説明を行う。
差分演算部31は、フレームFL12の撮影によって得られた原画像データと、フレームFL11及びFL13の撮影によって得られた原画像データとの差分を演算し、その差分値を出力する。具体的には、フレームFL12の撮影によって得られた原画像データから、フレームFL11及びFL13の撮影によって得られた原画像データを差し引く。被写体ぶれ領域特定部32は、各画素に対応する差分値の大きさと予め定められた閾値とを比較し、被写体ぶれ領域を特定する。
ぼかし処理部33は、動画撮影用の露光時間と着目しているフレーム(即ち、フレームFL12)における露光時間との差異に応じて、フレームFL12の撮影によって得られた原画像データにぼかし処理を施す。この際、第1動作例にて説明したのと同様に、フレームFL12の動画の撮影タイミング近辺の動きベクトルが参照される。
例えば、動画撮影用の露光時間及びフレームFL12における露光時間がそれぞれ1/60秒及び1/120秒である場合、1/120秒(なぜならば、1/60−1/120=1/120)の露光時間分の被写体ぶれを、フレームFL12の撮影によって得られた原画像データに意図的に付与する(或いは追加する)。つまり、フレームFL12における露光時間を1/60秒としていたならば生じていたと推定される被写体ぶれ量がフレームFL12に対応する動画フレームデータに含まれるように、ぼかし処理を行う。このぼかし処理を経たデータは、フレームFL12に対応する動画フレームデータとして出力され、所定の処理を経て外部メモリ41に格納される。
フレームFL12に着目して被写体ぶれ量の補正手法を説明したが、フレームFL13、FL15及びFL16についても、同様の手法で被写体ぶれ量の補正が行われる。
[第3動作例]
次に、撮像装置1の動作の第3動作例を説明する。第3動作例は、例えば、室内などの暗いシーンの動画撮影中に静止画撮影を行うことを想定している。
暗いシーンの動画撮影においては、動画撮影の1フレーム期間の全てを用いて露光を行っても露光量が適正レベルに達しない場合がある。この場合、一般的には信号処理における増幅度を増大させることで明るい画像を生成する。しかしながら、そのような増幅度の増大によってノイズも一緒に増大してしまう。これに着目し、第3動作例では、暗いシーンの動画撮影中に静止画撮影を行う場合、ノイズの増大を抑制すべく、露光時間を動画の1フレーム期間よりも長くすることで上記増幅度の過度の増大を抑制する。
動画撮影中に1フレーム期間より長い期間をかけて静止画を撮影する場合、静止画の露光時間に応じた分の動画フレームの欠如を補填する必要がある。動画フレームの欠如を補填するために、その直前の動画フレームを繰り返し表示したり、黒フレームを挿入したりしていたのでは、動画が見苦しくなる。これを考慮し、第3動作例では、静止画の撮影によって得られた画像データと該静止画の前後の撮影によって得られた画像データとを用いて、静止画撮影に起因して欠如する動画フレームを生成する。以下、この手法について詳説する。
図14は、第3動作例の制御概念を示す図であり、動画撮影中に静止画撮影を行った場合における、絞り12の開口量と、撮像素子13の電荷蓄積量と、露光時間と、増幅回路15におけるゲインアップ量と、前処理部14から読み出された原画像データと、動画処理部23が出力する画像データ(動画フレームデータ)との関係を示す図である。
途中で静止画撮影がなかったならば動画撮影は、フレームFL21、FL22、FL23、FL24、FL25、FL26、FL27の順番で行われるものとする。そして、動画撮影中において、操作部42に対する静止画撮影の操作に応じてフレームFL23及びFL24に相当する期間に静止画の撮影を行う場合を想定する。このため、動画撮影のフレームFL23及びFL24は実際には存在しないと考えることもできるが、便宜上、動画撮影のフレームFL23及びFL24は存在すると考える。尚、図14において、t1は、フレームFL21、FL22、FL25、FL26及びFL27の動画撮影の露光時間を表しており、t1×2(即ち、t1の2倍)は、フレームFL23及びFL24を用いた静止画撮影の露光時間を表している。
図14に示す例では、動画撮影において、絞り12の開口量を最大にし且つ1フレーム期間中露光しても、露光量が適正レベル63に達しない。このため、動画撮影では、信号処理において2倍のゲインアップを行っている。即ち、フレームFL21、FL22、FL25、FL26及びFL27の動画撮影において、増幅回路15の増幅度は基準ゲインの2倍とされている。一方において、静止画はFL23及びFL24の略2フレーム期間分の露光時間にて撮影を行っており、信号処理においてゲインアップを行わずとも露光量が適正レベル63に達している。即ち、フレームFL23及びFL24に相当する期間を用いた静止画撮影において、増幅回路15の増幅度は基準ゲインの1倍とされている。このため、ノイズの少ない良好な静止画を得ることが可能となる。尚、フレームFL21〜FL27における絞り12の開口量は、例えば一定(最大の開口量)に維持されている。
上記のような撮影によって得られた全ての原画像データは、信号処理部20に送られる。フレームFL21、FL22、FL25、FL26及びFL27については、各原画像データに基づいた各動画フレームデータが画像処理部23によって得られ、それらの動画フレームデータは所定の処理を経て動画を表すデータとして外部メモリ41に格納される。フレームFL23及びFL24に相当する期間を用いて撮影された静止画に対応する原画像データは、「静止画用データ」として扱われ、静止画処理部25及び静止画圧縮部26による処理を経て静止画を表すデータとして外部メモリ41に格納される。
フレームFL23及びFL24に相当する期間を用いて静止画の撮影を行うと、フレームFL23に対応すべき動画フレーム(動画フレームデータ)が欠如することになる。一方において、上記静止画用データには、欠如している動画フレームの情報が含まれている。従って、動画のフレームレートが被写体の動きに対して十分に大きい場合は、静止画用データにて表される画像を2フレーム連続して動画として表示しても動きが一瞬止まるように認識されることはなく、動画の滑らかさは損なわれない。しかしながら、動画のフレームレートが被写体の動きに対して十分に大きいと言えない場合においては、静止画用データにて表される画像を2フレーム連続して表示すると、動きが一瞬止まって見えてしまう。
そこで、第3動作例においては、動画のフレームレートに依らず滑らかな動画を得るために、フレームFL23及びFL24に相当する期間を用いて撮影された静止画を表す原画像データ(即ち、静止画用データ)と、フレームFL22及びFL25を用いて撮影された画像を表す2つの原画像データを使って、静止画撮影中の動画フレームデータを生成する。滑らかな動きの再生を実現する動画を得るためには、本来動画に含まれるべき被写体ぶれに近い被写体ぶれを、生成する動画フレームデータに付与し、且つ同じ画像が連続して表示されないようにすればよい。
このような主旨に基づいた、フレームFL23及びFL24に対応する動画フレームデータの作成手法の一例を、図15を用いて説明する。但し、説明の簡略化上、画素数変換部21の存在は無視する。即ち、前処理部14からの原画像データが動画処理部23に直接与えられるものとして説明を行う。また、図15を用いた説明においては、図14の図示と若干異なるが、フレームFL22及びFL25における露光時間の長さはそれぞれ動画撮影の1フレーム期間の長さと一致しているものとし、且つ、フレームFL23及びFL24を用いた静止画の撮影の露光時間は動画撮影の2フレーム期間の長さと一致しているものとする。
そして、動画及び静止画の各撮影において、露光期間のちょうど中間のタイミングを、その撮影の撮影タイミング(基準タイミング)と呼ぶことにする。フレームFL22及びFL25における動画の撮影タイミングを夫々α22及びα25とし、フレームFL23及びFL24を用いた静止画の撮影タイミングをβ1とする。また、その静止画の撮影がなかったならばフレームFL23及びFL24において撮影されていた動画の撮影タイミングを、夫々α23及びα24とする。
フレームFL23に対応する動画フレームデータは、フレームFL23及びFL24を用いて撮影された静止画を表す原画像データ(即ち、上記静止画用データ)と、フレームFL22の撮影によって得られた原画像データとを加重加算合成することにより作成される。この加重加算合成における重み付け係数は、撮影タイミングα22、α23及びβ1に基づいて決定される。即ち、フレームFL23及びFL24を用いて撮影した静止画用データを構成する画素データの夫々に2/3を乗じたものに、フレームFL22に対応する原画像データを構成する画素データの夫々に1/3を乗じたものを加算し、この加算によって得られる画像データをフレームFL23に対応する動画フレームデータとする。勿論、画素データの上記加算は、同一の画素に対応する画素データ同士の間で行われる。
上記の重み付け係数としての「2/3」は、「撮影タイミングα22とα23間の時間の長さ」を「撮影タイミングα22とβ1間の時間の長さ」で割ることにより算出される。上記の重み付け係数としての「1/3」は、「撮影タイミングα23とβ1間の時間の長さ」を「撮影タイミングα22とβ1間の時間の長さ」で割ることにより算出される。フレームFL23における画像情報は、静止画用データ側により多く含まれているため、上記のように重み付け係数を決定することで、より滑らかな動画を再現可能となる。
例えば、上記静止画用データに対応する或る画素nの画素データを「60」とし且つフレームFL22に対応する該画素nの画素データを「30」とした場合、フレームFL23に対応する動画フレームデータを構成する該画素nについての画素データは、60×2/3+30×1/3=50より、「50」となる。
同様に、フレームFL24に対応する動画フレームデータは、フレームFL23及びFL24を用いて撮影された静止画を表す原画像データ(即ち、上記静止画用データ)と、フレームFL25の撮影によって得られた原画像データとを加重加算合成することにより作成される。この加重加算合成における重み付け係数は、撮影タイミングβ1、α24及びα25に基づいて決定される。即ち、フレームFL23及びFL24を用いて撮影した静止画用データを構成する画素データの夫々に2/3を乗じたものに、フレームFL25に対応する原画像データを構成する画素データの夫々に1/3を乗じたものを加算し、この加算によって得られる画像データを、フレームFL24に対応する動画フレームデータとする。勿論、画素データの上記加算は、同一の画素に対応する画素データ同士の間で行われる。
上記の重み付け係数としての「2/3」は、「撮影タイミングα24とα25間の時間の長さ」を「撮影タイミングβ1とα25間の時間の長さ」で割ることにより算出される。上記の重み付け係数としての「1/3」は、「撮影タイミングβ1とα24間の時間の長さ」を「撮影タイミングβ1とα25間の時間の長さ」で割ることにより算出される。フレームFL24における画像情報は、静止画用データ側により多く含まれているため、上記のように重み付け係数を決定することで、より滑らかな動画を再現可能となる。
上記の加重加算合成を行って静止画撮影中の動画フレームデータを作成すれば、それらの動画フレームデータが表す動画に含まれる被写体ぶれ量は、本来あるべき被写体ぶれ量に近似するようになる。即ち、静止画用データを基準に被写体ぶれ量が調整された動画フレームデータが作成されることになり、動きの滑らかな動画を得ることができる。
また、静止画撮影の露光時間が1フレーム期間より長く必要となるときの静止画の撮影タイミングは、図16に示す如く、その前後の動画フレームの撮影タイミング間のちょうど中間に位置するように制御されることが望ましい。これにより、各フレーム画像間の平均時間間隔(撮影タイミング間隔)が一定となり、より滑らかな動画を得ることができるからである。図15に示した例も、これに従っている。即ち、静止画の撮影タイミングβ1は、その前後の動画フレームの撮影タイミングα22とα25との間のちょうど中間に位置するように制御されている。尚、図16及び図17において、黒い三角印は動画及び静止画の撮影タイミングを表しており、白い三角印は静止画用データを用いて生成される動画フレームの撮影タイミングを表している。信号読み出しスピード等の制約から、フレーム期間の最後に撮像素子13からデータを読み出す場合は、図17のようになり、静止画の撮影タイミングを、その前後の動画フレームの撮影タイミング間のちょうど中間に位置させることができない場合がある。
また、上記の加重加算合成は、画像データを構成する画素データの全てについて行っても良いし(即ち、画面全体で行っても良いし)、差分の大きい部分のみを対象として行っても良い。
差分の大きい部分のみを対象として加重加算合成を行う場合の動作を、図15を参照して示した上記条件の下で説明する。例えば、図18に示す如く、フレームFL22の撮影によって得られた原画像データを構成する、画素n、(n+1)及び(n+2)に対応する画素データが、夫々「10」、「10」及び「10」であり、且つ、フレームFL23及びFL24の撮影にて得られた原画像データ(即ち、上記静止画用データ)を構成する、画素n、(n+1)及び(n+2)に対応する画素データが、夫々「7」、「15」及び「40」であったとする。そして、予め「8」の閾値が定められているとする。
動画処理部23は、同一の画素についての画素データ同士の差分を上記閾値と比較し、閾値以上の差分を与える画素データのみを対象として、上記の加重加算合成を行うようにする。上記の例の場合、画素n、(n+1)及び(n+2)に対応する画素データの内、画素(n+2)に対応する画素データのみが加重加算合成の対象となる。そうすると、フレームFL23に対応する動画フレームデータにおいて、画素(n+2)に対応する画素データは上記加重加算合成により「30」となる。
加重加算合成の対象とならない画素の画素データには、例えば、静止画用データの画素データがそのまま流用される。作成される動画フレームデータに対応する撮影タイミングα23は、撮影タイミングα22よりも撮影タイミングβ1に近いからである。但し、加重加算合成の対象とならない画素の画素データとして、フレームFL22に対応する原画像データの画素データをそのまま流用するようにしても構わない。
尚、上記の例では静止画撮影の露光時間が2フレーム期間となっているが、その露光時間が2フレーム期間より大きくなった場合も、同様の考え方を用いて静止画撮影中の動画フレームデータを作成することができる。但し、動画撮影中の静止画撮影の露光時間が長くなると、合成によって生成される動画フレームデータが増加するため、再生される動画に不自然さが生じうる。
そこで、動画撮影中に行われる静止画撮影の露光時間に上限値(例えば3フレーム期間)を設けるようにしてもよい。そして、静止画撮影の露光時間を上限値にまでのばしても露光が不足していると判断されるとき(即ち、露光量が定められた適正レベルに達しないとき)、信号処理においてゲインアップを施せばよい。即ち、増幅回路15の増幅度を基準ゲインより増加させることによって露光不足を補った上で、静止画の撮影を行えばよい。
露光が不足しているか否かは増幅回路15の出力信号の大きさから判断できる。増幅回路15の増幅度を或る定められた値にした状態において、増幅回路15の出力信号の大きさが所定の規定値に達すれば露光の不足はなく、その大きさが該規定値に達しなければ露光は不足している。
また、動画撮影中に行われる静止画撮影の露光時間に上限値を定める場合、ゲインアップで露光不足を補うのではなく、複数の静止画生成用の画像を連続して撮影し、それらの画像を加算合成(多重露光合成)することによって、最適露光の静止画を得るようにしてもよい。この手法を、第4動作例として後述する。
[第4動作例]
図19は、第4動作例の制御概念を示す図であり、動画撮影中に静止画撮影を行った場合における、絞り12の開口量と、撮像素子13の電荷蓄積量と、露光時間と、増幅回路15におけるゲインアップ量と、前処理部14から読み出された原画像データと、動画処理部23が出力する画像データ(動画フレームデータ)との関係を示す図である。尚、第4動作例においても、説明の簡略化上、画素数変換部21の存在は無視する。即ち、前処理部14からの原画像データが動画処理部23に直接与えられるものとして説明を行う。
途中で静止画撮影がなかったならば動画撮影は、フレームFL31、FL32、FL33、FL34、FL35、FL36、FL37の順番で行われるものとする。そして、動画撮影中において、操作部42に対する静止画撮影の操作に応じ、フレームFL33〜FL36に相当する期間を用いて静止画の撮影を行う場合を想定する。このため、動画撮影のフレームFL33〜FL36は実際には存在しないと考えることもできるが、便宜上、動画撮影のフレームFL33〜FL36は存在すると考える。尚、図19において、t1は、フレームFL31、FL32及びFL37の動画撮影の露光時間を表しており、t1×2(即ち、t1の2倍)は、フレームFL33及びFL34を用いた第1の静止画用撮影の露光時間と、フレームFL35及びFL36を用いた第2の静止画用撮影の露光時間を表している。
第4動作例は、動画撮影中に行われる静止画撮影の露光時間に上限値(例えば、2フレーム期間)が設けられており、且つ、静止画撮影の露光時間をその上限値にまでのばしても露光が不足していると判断される(即ち、露光量が定められた適正レベル63に達しない)場合を想定している。動画撮影において、絞り12の開口量を最大にし且つ1フレーム期間中露光しても露光量が適正レベル63に達しないため、信号処理において4倍のゲインアップを行っている。即ち、フレームFL31、FL32及びFL37の動画撮影において、増幅回路15の増幅度は基準ゲインの4倍とされている。
動画撮影中の1つの静止画の撮影は、合計4つのフレームFL33〜FL36を用いて行われる。この例の場合、露光時間を上記の上限値にまでのばしても露光量が適正レベル63に達しない。このため、まず、フレームFL34及びFL34を用いて第1の静止画用撮影(第1の合成用撮影)を行い、更に続けてフレームFL35及びFL36を用いて第2の静止画用撮影(第2の合成用撮影)を行う。
第1及び第2の静止画用撮影は、夫々、ぼぼ2フレーム期間分の露光時間にて行われているものの、各露光量は適正レベル63のほぼ半分となっている。また、第1及び第2の静止画用撮影では、信号処理においてゲインアップは行われていない(つまり、増幅回路15の増幅度は基準ゲインの1倍とされている)。このため、第1及び第2の静止画用撮影から得られる画像データを用いて1つの静止画を生成するようにすれば、ノイズの少ない良好な静止画を得ることが可能となる。尚、フレームFL31〜FL37における絞り12の開口量は、一定(最大の開口量)に維持されている。
上記のような撮影によって得られた全ての原画像データは、信号処理部20に送られる。フレームFL31、FL32及びFL37については、各原画像データに基づいた各動画フレームデータが画像処理部23によって得られ、それらの動画フレームデータは所定の処理を経て動画を表すデータとして外部メモリ41に格納される。
静止画処理部25は、第1の静止画用撮影によって得られた第1の静止画用データ(第1の原画像データ)と第2の静止画用撮影によって得られた第2の静止画用データ(原画像データ)とを加算合成(多重露光合成)して、1つの静止画を表す画像データを生成する。この加算合成によって得られた画像データは、所定の処理を経て静止画を表すデータとして外部メモリ41に格納される。勿論、上記加算合成は、同一の画素に対応する画素データ同士の間で行われる。
フレームFL33、FL34、FL35及びFL36に対応する動画フレームデータは、それぞれ、第3動作例と同様の手法にて作成され、所定の処理を経て動画を表すデータとして外部メモリ41に格納される。具体的には、フレームFL33に対応する動画フレームデータは、フレームFL32に対応する原画像データと第1の静止画用データとの加重加算合成によって作成され、フレームFL34及びFL35に対応する動画フレームデータは、それぞれ、第1の静止画用データと第2の静止画用データとの加重加算合成によって作成され、フレームFL36に対応する動画フレームデータは、第2の静止画用データとフレームFL37に対応する原画像データとの加重加算合成によって作成される。尚、第1の静止画用データと第2の静止画用データの露光量は適正レベル63のほぼ半分となっているため、加重加算合成前に信号処理において2倍のゲインアップを行っておく。
図19に示す内容とは若干異なるが、図20に示す如く、第1及び第2の静止画用撮影の露光時間が動画撮影の2フレーム期間の長さと一致している場合を考えると、例えば、フレームFL34に対応する動画フレームデータは、ゲインアップを行った後の第1の静止画用データを構成する画素データの夫々に3/4を乗じたものに、ゲインアップを行った後の第2の静止画用データを構成する画素データの夫々に1/4を乗じたものを加算することによって作成される。勿論、この加算は、同一の画素に対応する画素データ同士の間で行われる。
第1及び第2の静止画用撮影における撮影タイミングをβ2及びβ3とし、静止画の撮影がなかったならばフレームFL34において撮影されていた動画の撮影タイミングをα34とした場合、上記の重み付け係数としての「3/4」は、「撮影タイミングα34とβ3間の時間の長さ」を「撮影タイミングβ2とβ3間の時間の長さ」で割ることにより算出され、上記の重み付け係数としての「1/4」は、「撮影タイミングβ2とα34間の時間の長さ」を「撮影タイミングβ2とβ3間の時間の長さ」で割ることにより算出される。
<<第2実施形態>>
動画撮影中に静止画撮影を行うために絞り等の露光設定を変える場合、理想的には撮影された画像の明るさが一定に保たれるようにその露光設定を変更する。しかし、実際には機械的に動作する絞りの制御精度や、露光時間の設定精度、増幅度の設定精度の制約等に起因して、静止画用データによって表される静止画とその前後の動画の明るさが同じにならない場合がある。この場合、明るさに関する補正を何ら施すことなくその静止画用データを用いて動画フレームデータを作成すると、動画の明るさにちらつきが生じうる。以下に説明する第2実施形態は、この問題を解決するために第1実施形態を改良したものである。
図21は、第2実施形態に係る撮像装置1aの全体ブロック図である。撮像装置1aは、図1の撮像装置1と同様のデジタルスチルカメラ等であり、撮像装置1と同様、動画と静止画の双方を(同時に)撮影可能なように構成されている。図21において、図1と同一の部分には同一の符号を付し、同一の部分の重複する説明を省略する。撮像装置1aは、図1の撮像装置1に明るさ検出部(輝度検出部)27及び明るさ補正部(輝度補正部)28を追加した構成となっている。明るさ検出部27及び明るさ補正部28を追加した点と、この追加に伴い信号処理部を表す符号が20から20aに変更されている点を除き、撮像装置1と撮像装置1aは一致している。図1の信号処理部20に、明るさ検出部27及び明るさ補正部28を追加したものが図21の信号処理部20aになっている。
明るさ補正部28は、前処理部14と画素数変換部21の間に設けられている。第2実施形態において、前処理部14が出力する原画像データは、明るさ検出部27と明るさ補正部28に与えられており、明るさ補正部28の出力データは、画素数変換部21、動き検出部22及び静止画処理部25に与えられている。このため、第2実施形態における画素数変換部21、動き検出部22及び静止画処理部25は、明るさ補正部28の出力データを入力データとして受け、第1実施形態と同じ動作を行う。
明るさ検出部27は、前処理部14から次々と送られてくる原画像データによって表される画像の平均輝度を、各原画像データに基づいて求める。そして、求めた各原画像データに対応する平均輝度を、明るさ補正部28に伝達する。この平均輝度は、各原画像データによって表される画像の明るさを示している。
ここで、明るさ検出部27によって検出され、明るさ補正部28に伝達される平均輝度は、画像全体の平均輝度であってよいし、画像中央部の任意の大きさの領域の平均輝度であってもよい。また、画像内に設定された複数の領域の平均輝度であってもよい。また、画像内に複数の領域を定めると共に定めた各領域の平均輝度を求め、その各領域の平均輝度を加重加算したものを、明るさ補正部28に伝達される最終的な平均輝度としてもよい。
上述したように、明るさ補正部28に伝達する平均輝度として様々な種類の平均輝度を採用可能であるが、画像内のどの部分を対象として平均輝度を求めるかは、全ての撮影の中で同じにしておく必要がある。即ち、明るさ検出部27は、画像(静止画及び動画)内の同じ位置に設定した単一または複数の領域の平均輝度を求めて明るさ補正部28に伝達する。尚、「画像全体」は単一の領域と捉えることができる。
明るさ補正部28は、与えられた平均輝度を参照しつつ、前処理部14から次々と送られてくる原画像データに明るさ補正を施し、その明るさ補正後の画像データを画素数変換部21、動き検出部22及び静止画処理部25に出力する。
説明の具体化のため図3に示した例に従いつつ、動画撮影中に静止画撮影を行う場合の動作を考える。静止画撮影の直前のフレーム、即ちフレームFL3に対応する原画像データによって表される画像の平均輝度、及びフレームFL4の撮影による原画像データ(静止画用データ)によって表される画像の平均輝度が、それぞれ「11」及び「10」であったとする。
この場合、明るさ補正部28は、「11」を目標平均輝度L1として取り扱うと共に「10」を補正対象平均輝度L2として取り扱い、目標平均輝度を補正対象平均輝度で割った値を明るさ補正値G(今の場合、1.1)とする。そして、明るさ補正部28は、明るさ補正後の静止画用データによって表される画像の平均輝度が、明るさ補正前の静止画用データによって表される画像の平均輝度のG倍(今の場合、1.1倍)になるように、与えられた静止画用データを補正(明るさ補正)する。例えば、静止画用データを構成する各画素データの数値が輝度に比例する数値である場合は、静止画用データを構成する各画素データの数値を均一に1.1倍すればよい。一方、明るさ補正部28は、動画撮影に対応する原画像データに対しては明るさ補正を施さない。但し、動画及び静止画の全てに対応する原画像データの信号レベルを、一律に同じだけ増幅することは可能である。
明るさ補正部28より後段の各部位(動画処理部23等)は、この明るさ補正後の静止画用データを用い、第1実施形態の第1動作例〜第4動作例と同じ動作を経て、外部メモリ41に格納すべき動画フレームデータ等を作成する。
これにより、静止画の明るさとその静止画の直前の動画の明るさとが同じ(略同じ)になるように静止画用データが補正(明るさ補正)される。動画撮影中の動画フレームデータはその補正(明るさ補正)後の静止画用データに基づいて作成されることになるため、絞りの制御精度の制約等に起因して起こりうる動画の明るさのちらつきは抑制される。
また、フレームメモリバッファ40を利用しつつ、静止画撮影の直後のフレーム、即ちフレームFL5に対応する原画像データによって表される画像の平均輝度を、目標平均輝度L1として取り扱うようにしても良い。この場合は、静止画の明るさとその静止画の直後の動画の明るさとが同じ(略同じ)になるように静止画用データが補正(明るさ補正)されることになる。
また、静止画撮影の直前のフレーム(即ちフレームFL3)に対応する原画像データによって表される画像の平均輝度(例えば、「11」)と、静止画撮影の直後のフレーム(即ちフレームFL5)に対応する原画像データによって表される画像の平均輝度(例えば、「13」)との平均輝度(例えば、(11+13)/2=12)を、目標平均輝度L1として取り扱うようにしても良い。この場合は、静止画の明るさとその静止画の直後及び直後の動画の明るさの平均とが同じ(略同じ)になるように静止画用データが補正(明るさ補正)されることになる。
尚、明るさ補正部28を、画素数変換部21の後段に配置させるようにしても良い。即ち、明るさ補正部28による明るさ補正を、画素数変換部21による画素数変換後に行うようにしても良い。
<<第3実施形態>>
ここで、動画撮影中に静止画撮影する場合における周辺光量の低下の影響を考察する。図22に示す如く、撮像素子13の撮像面における対角線をz軸にとり、撮像面の中心をCとする(中心Cはz軸上にある)。この場合において、均一輝度の光を光学系11を構成するレンズに与えたとき、そのレンズが理想的なものである場合は撮像素子13を構成する各画素の受光量は全て同じになる。しかしながら、図23に示す如く、実際は、中心Cに位置する画素の受光量を最大として、撮像面の周辺部に位置する画素の受光量は中心Cにおけるそれよりも小さくなる。この周辺部における受光量の低下が「周辺光量の低下」である。
また、この周辺光量の低下の程度は絞り12が開放に近いほど(絞り12の開口量が大きいほど)大きくなる。従って、図3で示した例のように、動画撮影中に静止画撮影を行う際にだけ絞り12の開口量を大きくすると、静止画撮影時とその前後の動画撮影との間で周辺光量の低下の程度が変化することになる。この周辺光量の低下の程度の変化を考慮せずに、静止画用データから静止画撮影中の動画フレームデータを生成すると、動画の画像周辺部が静止画撮影時点でちらつく可能性がある。
このような周辺光量の低下による影響をも除去する実施形態として、第3実施形態を説明する。図24は、第3実施形態に係る撮像装置1bの全体ブロック図である。撮像装置1bは、図1の撮像装置1と同様のデジタルスチルカメラ等であり、撮像装置1と同様、動画と静止画の双方を(同時に)撮影可能なように構成されている。。図24において、図1及び図21と同一の部分には同一の符号を付し、同一の部分の重複する説明を省略する。撮像装置1bは、図21の撮像装置1aに周辺光量補正部29を追加した構成となっている。周辺光量補正部29を追加した点と、この追加に伴い信号処理部を表す符号が20aから20bに変更されている点を除き、図21の撮像装置1aと図24の撮像装置1bは一致している。図21の信号処理部20aに、周辺光量補正部29を追加したものが図24の信号処理部20bになっている。
周辺光量補正部29は、前処理部14と明るさ補正部28の間に設けられている。第3実施形態において、前処理部14が出力する原画像データは周辺光量補正部29に与えられており、周辺光量補正部29の出力データは、明るさ検出部27と明るさ補正部28に与えられている。明るさ補正部28の出力データは、第2実施形態と同じく、画素数変換部21、動き検出部22及び静止画処理部25に与えられている。このため、第3実施形態における画素数変換部21、動き検出部22及び静止画処理部25は、第2実施形態と同じく、明るさ補正部28の出力データを入力データとして受け、第1実施形態と同じ動作を行う。
周辺光量補正部29は、主制御部19からの絞り12の開口量を特定する情報を参照しつつ、前処理部14から次々と送られてくる原画像データに周辺光量補正を施し、その周辺光量補正後の画像データを明るさ検出部27と明るさ補正部28に出力する。この周辺光量補正は、動画撮影中に静止画撮影を行う場合において、動画と静止画の撮影間の絞り12の開口量の変更に伴う周辺光量の低下の変動をキャンセルするように行われる。
周辺光量補正部29は、例えば、静止画、動画を問わず全ての原画像データを対象として、周辺光量の低下の影響が周辺光量補正部29の出力データ中に完全に存在しなくなるように、上記周辺光量補正を行う。即ち、全ての原画像データを対象として、周辺光量の低下に起因する撮像面の周辺部における受光量の低下を打ち消すように、周辺光量補正を行う。例えば、絞り12の或る開口量に対して、周辺部の受光量が中心Cの0.8倍の受光量になることが分かっている場合、全ての原画像データを対象として、その周辺部に対応する画素データを1/0.8倍する。
また、例えば、周辺光量の低下が最も少なくなる状態(例えば、絞り12の開口量が最小の状態)を基準状態とし、各撮影における周辺光量の低下の影響がその基準状態の周辺光量の低下の影響と同等になるように、周辺光量補正を行ってもよい。この場合における周辺光量補正も静止画、動画を問わず全ての原画像データを対象として行われる。尚、「周辺光量の低下の影響」とは、周辺光量の低下に起因して起こる再生画像周辺部の輝度の低下を意味する。
また、例えば、静止画撮影の周辺のタイミングの動画撮影(例えば、静止画撮影の直前又は直後の動画フレーム)の状態を基準状態とし、静止画撮影における周辺光量の低下の影響がその基準状態の周辺光量の低下の影響と同等になるように、周辺光量補正を行ってもよい。この場合、周辺光量補正は、静止画撮影に対応する原画像データ(即ち、静止画用データ)のみを対象として行われることになる。
周辺光量補正後の原画像データを入力データとして受けた明るさ検出部27及び明るさ補正部28の動作は、第2実施形態におけるものと同様である。即ち、第3実施形態における明るさ検出部27及び明るさ補正部28の動作は、第2実施形態における「原画像データ」、「静止画用データ」の記載を、「周辺光量補正後の原画像データ」、「周辺光量補正後の静止画用データ」と読み替えたものとなる。
上記のように周辺光量補正を行うことにより、動画と静止画の撮影間の絞り12の開口量の変更に伴う周辺光量の低下の変動がキャンセルされ、動画撮影中に静止画撮影を行った場合に動画の画像周辺部がちらつくといったことが抑制される。
また、周辺光量補正部29と明るさ補正部28を、画素数変換部21の後段に配置させるようにしても良い。即ち、周辺光量補正部29による周辺光量補正と明るさ補正部28による明るさ補正を、画素数変換部21による画素数変換後に行うようにしても良い。また、絞り12の開口量に対してどのような周辺光量補正を施すべきかは、絞り12の特性等に基づいて予め設定されている。
尚、第1〜第3実施形態によれば、動画撮影中に静止画を撮影する場合であっても、静止画のシーンセレクト機能(撮影シーンに最適化されたプログラム自動露出機能)が使えるようになる。