以下、添付図面を参照して本発明を実施するための最良の形態を詳細に説明する。
図1は、本実施の形態におけるデジタルスチルムービーカメラシステムの構成を示すブロック図である。
図1において、100はデジタルスチルムービーカメラ装置(以下、「カメラ装置」と呼ぶ。)である。10は撮影レンズ、11は被写体像を確認する光学ファインダーであり、ズーム制御に応じて画角の変更が可能となっている。12は絞り機能を備える絞り兼用シャッター、14は光学像を電気信号に変換する撮像素子であり、素子上に原色モザイクフィルタが配置されている。撮像素子14は、数十〜数百万を超える画素から構成され、高品質の静止画を得ることができると共に、間引き読み出しをすることによって、公知の動画規格で定められた画素数及びフレームレートで画素信号を読み出し、動画を撮影することもできる。
15は内部に撮像素子14の出力ノイズ除去のためのCDS(相関2重サンプリング)回路やAGC(自動利得制御)回路を含む前置処理回路、16は前置処理回路15から出力されるアナログ信号をデジタル信号に変換するA/D変換器である。18は撮像素子14及びA/D変換器16にクロック信号や制御信号を供給するタイミング発生回路(TG)であり、それらのタイミングは信号処理IC22により制御される。
信号処理IC22はCPU50からの指示により、A/D変換器16からのデータ或いはDRAM30からのデータに対して、所定の画素補間処理や色変換処理、拡大・縮小(リサイズ)処理、画像データ形式変換処理等を行う。また、DMA(Direct Memory Access)コントローラ、表示用のD/A変換器、画像データを圧縮伸長する圧縮・伸長回路を内蔵している。さらに信号処理IC22は、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果をDRAM30に保存する。CPU50はこの演算結果に基づいてスルー・ザ・レンズ(TTL)方式のオートホワイトバランス(AWB)処理、オートフォーカス(AF)処理、自動露出(AE)処理、フラッシュプリ発光(EF)処理を行っている。
28はTFT LCDなどから成る画像表示部であり、DRAM30に書き込まれた表示用の画像データが信号処理IC22内部のD/A変換器(不図示)を介して画像表示部28により表示される。画像表示部28は画像の他、各種情報・モード設定状況の表示にも使われる。画像表示部28を用いて撮像した画像データを逐次表示すれば、電子ファインダー(EVF)機能を実現することができる。また、画像表示部28は、CPU50の指示により任意に表示をON/OFFすることが可能であり、表示をOFFにした場合にはカメラ装置100の電力消費を大幅に低減することができる。
さらに、画像表示部28は、回転可能なヒンジ部によってカメラ本体と結合されており、自由な向き、角度を設定して電子ファインダー機能や再生表示機能、各種表示機能を使用することが可能である。また、画像表示部28の表示部分をカメラ本体側に向けることで表示部分を保護しつつ格納することが可能であり、この場合は検知スイッチ(SW)98により、格納状態を検知して画像表示部28の表示動作を停止することができる。
DRAM30は撮影した非圧縮データの一時格納、AF/AE/AWB/EF処理の演算結果の保持、画像表示部28への表示用画像の保持、圧縮画像データの保持等に使用されるメモリである。DRAM30は所定枚数の静止画像や所定時間の動画像を格納するのに十分な記憶量を備えていると共に、CPU50を実行させるプログラムのワークエリア等も有する。
44は撮影レンズ10および光学ファインダー11のズーミングを制御するズーム制御回路である。
46はコネクタであり、アクセサリーシューとも呼ばれ、外部フラッシュ装置400との電気接点や機械的な固定手段を合わせて備えている。48は内蔵フラッシュであり、TTL調光機能を有している。
50はカメラ装置100全体を制御するCPUである。CPU50は、信号処理IC22によってDRAM30に格納されたAF/AE/AWB/EFの演算結果に基づき、AF/AE/AWB/EF制御を行う。他に、信号処理IC22に対するデータフロー制御、各種キースキャン動作、ズーム制御、周辺モジュールとの通信等を行う。52は電気的に消去・記録可能なフラッシュメモリであり、CPU50を動作させるために必要なプログラムやカメラ固有の調整データ等があらかじめ書き込まれている。
54はCPU50でのプログラムの実行に応じて、文字、画像、音声等を用いて動作状態やメッセージ等を外部に通知する為の通知部である。通知部54としては、例えば液晶表示装置やLEDなどによる視覚的な表示を行う表示部や音声による通知を行うスピーカー等の発音素子などが用いられるが、これらのうち1つ以上の組み合わせにより構成される。特に表示部の場合には、カメラ装置100の操作部70近辺の、視認し易い単数或いは複数個所に設置されている。
通知部54に表示される表示内容としては、シングルショット/連写撮影表示、セルフタイマー表示等、撮影モードに関する表示がある。また、圧縮率表示、記録画素数表示、記録枚数表示、残撮影可能枚数表示等の記録に関する表示がある。また、シャッタースピード表示、絞り値表示、露出補正表示、フラッシュ表示、赤目緩和表示等の撮影条件に関する表示がある。その他に、マクロ撮影表示、ブザー設定表示、時計用電池残量表示、電池残量表示、エラー表示、複数桁の数字による情報表示、記録媒体200の着脱状態表示、通信I/F動作表示、日付け・時刻表示等も行われる。
60、62、64、68、70、72、74、76は、CPU50の各種の動作指示を入力するための操作手段であり、スイッチやダイアル、タッチパネル、視線検知によるポインティング、音声認識装置等の単数或いは複数の組み合わせで構成される。
ここで、これらの操作手段の具体的な説明を行う。
60は電源スイッチ(SW)を兼ねたモードレバーで、電源オフ(OFF)、撮影モード、再生モードの3状態を切り替えることができる。62は撮影時、目的・シーンに合わせてユーザが設定する各種撮影モードが割り当てられたモードダイアルである。モードダイアルにより切り替えられる撮影モードとしては、例えば、全自動撮影モード(AUTO)、プログラム撮影モード、シャッター速度優先撮影モード、絞り優先撮影モード、マニュアル撮影モードがある。他にも、ポートレートモード、風景モード、夜景モード、色効果モード、スティッチアシストモード等がある。
64はシャッタースイッチ(SW)で、2段階のスイッチSW1、SW2から構成されている。不図示のシャッターボタンの半押しでSW1がONとなり、AF処理、AE処理、AWB処理、EF処理等の動作開始を指示する。さらにシャッターボタンの全押しによりSW2がONとなり、撮像素子14から読み出した信号をA/D変換器16、信号処理IC22を介して、画像データとしてDRAM30に書き込む。次に信号処理IC22はCPU50からの指示に従ってDRAM30から画像データを読み出して、色補正、画素補間、色変換等の画像処理を行った後、圧縮処理を行い、記録媒体200に処理後の画像データを書き込む。
68はムービーSWであり、動画記録の開始・終了を指示するスイッチである。
72、74、76はそれぞれ、メニューキー、セットキー、十字キーであり、これらのキーの組み合わせにより、撮影時もしくは再生時の各種設定の変更もしくはファンクションの実行を画像表示部28を見ながら行うことができる。このうち十字キー76は上下左右の4つの方向キーから構成される複合キーである。
メニューキー72を1回押すことで、画像表示部28にメニュー画面を表示するようになっており、表示されるメニュー画面は、モードレバー60及びモードダイアル62が指す現在のモードによって異なる。そして、表示されているメニュー項目を十字キー76を使って選択し、セットキー74を押すことで決定する仕組みになっている。
例えば、撮影モードがプログラム撮影モードとなっている際のメニュー項目としては、記録画素サイズ、圧縮率、記録形式、感度、AFモード、撮影の確認の有無、画質チューニングパラメータ等がある。また再生時のメニュー項目としては、画像の消去(1枚もしくは全部)、画像の保護(プロテクト)、画像の回転設定等が挙げられる。
また、十字キー76はメニュー設定時以外にも使用される。例えばモードダイアル62でシャッター速度優先モードに設定されている場合には、十字キー76の左右方向キーを使って、シャッター速度の変更を行えるようになっている。また再生モードにおいては十字キー76の左右方向キーを使って、画像送り・戻しを行うことができる。
70は上記以外の操作部をまとめたもので、例えば、ズームレバー、測光モード切替ボタン、マクロボタン、AEロックボタン、画像表示部28のON/OFFを設定する画像表示ON/OFFスイッチ等がある。メニューに含まれている項目に対して、比較的使用頻度の高いものが、操作部70に割り当てられている。
80は電源制御部で、電池検出回路、DC−DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成されている。電源制御部80は電池の装着の有無、電池の種類、電池残量の検出を行い、検出結果及びCPU50の指示に基づいてDC−DCコンバータを制御し、必要な電圧を必要な期間、記録媒体200を含む各部へ供給する。更に、必要に応じて通知部54、画像表示部28に電池残量表示を行わせる。
82、84はコネクタ、86はアルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Li−ion電池、Liポリマー電池等の二次電池、ACアダプター等からなる電源部である。
92はメモリカードやハードディスク等の記録媒体と接続を行うコネクタである。
なお、本実施の形態では記録媒体を取り付けるコネクタを1系統持つものとして説明しているが、記録媒体を取り付けるコネクタは、単数或いは複数、いずれの系統数を備える構成としても構わない。また、異なる規格のコネクタを組み合わせて備える構成としても構わない。コネクタとしては、PCMCIAカードやCF(コンパクトフラッシュ(登録商標))カード等、種々な記憶媒体の規格に準拠したものを用いて構成することが可能である。
94は録音の際に音声を入力するためのマイクである。98は検知スイッチ(SW)であり、コネクタ92に記録媒体200が装着されているか否かを検知する検知機能や、画像表示部28の表示部分をカメラ装置100に向けて格納した格納状態にあるかどうかを検知することができる画像表示部開閉検知機能を含む。更に、電池蓋が開けられたことを検出する電池蓋開閉検出機能や、外部フラッシュ414の装着状態検出機能等も含む。
200はメモリカードやハードディスク等の記録媒体である。この記録媒体200は、半導体メモリや磁気ディスク等から構成される記録部202、カメラ装置100とのインタフェース204、カメラ装置100と接続を行うコネクタ206を備えている。
400は外部フラッシュ装置である。本実施の形態では内蔵フラッシュ48の他に外部フラッシュ装置400を後から装着できる構成となっており、内蔵フラッシュと同様に、TTL調光撮影が可能となっている。412はカメラ装置100のアクセサリーシュー46と接続するためのコネクタである。414は外部フラッシュであり、AF補助光の投光機能、フラッシュ調光機能も有する。
次に、上記構成を有するカメラ装置100における撮像処理について説明する。
図2は、本実施の形態におけるカメラ装置100の撮像処理の動作を示すフローチャートである。撮像処理は、モードレバー60が撮影モードに設定されている間、実行される。
先ず、モードレバー60が撮影モードに設定されると、ステップS101においてCPU50のフラグや制御変数等、信号処理IC22の初期化を行う。この初期化により、CPU50からズーム制御回路44に対して撮影レンズ10を初期位置に移動するように指示が行われる。初期化後、スタンバイ状態に移行する(ステップS102)。ここで、スタンバイ状態におけるカメラ装置100の動作について説明する。
撮影レンズ10を通過した光は、シャッター12を通過して、撮像素子14に結像する。この時、シャッター12は絞りによりある程度露出を制御する。撮像素子14に結像された被写体像は光量に応じて光電変換され、電荷が蓄積される。所定時間経過後に蓄積された電荷を読み出すが、この時には全画素の電荷読み出しは行わず、水平方向や垂直方向に間引いて(及び/または加算して重畳し)、予め設定されたフレームレートで読み出す。
図4(a)は、この時の加算・間引きの一例を示した模式図であり、説明を分かり易くするために、水平4画素、垂直16画素分のみを記載している。
401は色フィルタをのせた画素で、R(赤)、G(緑)、B(青)の各色の色フィルタがベイヤー配列で各画素に割り当てられている場合を示している。402は垂直転送レジスタ、403は水平転送レジスタ、404は出力回路、405は出力端子である。各画素401で光電変換された信号電荷は読み出しパルスにより垂直転送レジスタ402に送られ、垂直転送パルスによって行単位で図中下方向へ順次転送される。垂直転送レジスタ402から水平転送レジスタ403に転送されてきた水平1ライン分の信号電荷は、水平転送パルスにより出力回路404に転送される。ここで電圧に変換され、出力端子405よりセンサ出力(アナログ画像信号)として外部に導出される。
スタンバイモードにおいて、図中の網掛けで表示された画素の電荷は出力回路404に出力されず、間引かれる画素であり、実際には水平転送レジスタ403に接続される不図示の電荷排出部を通して掃き捨てられる。図4(a)で、垂直転送レジスタ402、水平転送レジスタ403内で接続された線は加算される画素の一例を表しており、10行目及び14行目のR画素(1,3列)、G画素(2,4列)がそれぞれ同色加算され出力される。同様に9行目及び13行目のG画素(1,3列)、B画素(2,4列)、2行目及び6行目のR画素(1,3列)とG画素(2,4列)、1行目及び5行目のG画素(1,3列)、B画素(2,4列)がそれぞれ同色加算されて出力される。結果的に、スタンバイ状態では水平で2画素加算、垂直で2画素加算、1/2間引きされた画素信号が出力される。そのため、全画素読み出しに対して8倍のフレームレートで読み出すことができる。
上述したようにして読み出され、前置処理回路15により処理されたアナログ画像信号はA/D変換器16に送られ、デジタル画像データに変換されて、システムのバスを介して信号処理IC22に転送される。
なお、スタンバイ状態では画像データの記録は行わないため、取得した画像データは画像表示部28に順次表示する電子ビューファインダー用の画像として利用される。従って、信号処理IC22内では、動画撮影に適した水平垂直のフィルタ処理、アパーチャー補正処理、ガンマ処理等で行ってから、リサイズ処理を行う。リサイズ処理では、所定の画素サイズ、例えばVGA(水平640画素、垂直480ライン)サイズにリサイズして、DRAM30に転送する。DRAM30上の画像データは、画像表示部28に転送され、スルー画像として表示される。
また、スルー画像として表示する一方、信号処理IC22はA/D変換器16から送られたデジタル画像データに基づいて、被写体の位置・状況に応じて継続してAF、AE、AWBを行って評価値の演算を行う。CPU50はこの結果を基にして、撮影レンズ10やシャッター12の絞り、撮像素子14を駆動制御する。なお、スタンバイ状態では、画像表示部28に表示されるスルー画像の合焦状態や明るさが急激に変化することがないように、公知の方法で動画撮影で行われるように徐々に合焦させたり、明るさを変えたりする。
次に、ステップS103において、シャッタースイッチ64及びムービースイッチ68の状態を調べる。どちらも押されていなければステップS102に戻って上述したスタンバイ状態における処理を繰り返す。
シャッタースイッチ64が操作されてSW1がON状態になっていれば、ステップS121に進んで、静止画用のAF、AE、AWBを実行し、撮影レンズ10を合焦位置に移動させる。ここで行われる静止画用のAF、AE、AWBは、静止画撮影に適した公知の方法を用いればよいため、詳細説明は省略する。なお、上述したスタンバイ状態におけるAF動作とは異なり、できる限り迅速に合焦状態を得ることができるように制御する。
次にシャッタースイッチ64の状態を調べ(ステップS122)、変化がなければ(SW1のみONの状態)ステップS121へ戻り、SW1がOFFされていればステップS102に戻って、上述したスタンバイ状態に戻る。SW2がONされていれば、ステップS123で静止画撮影を行う。なお、ここで行われる静止画撮影については、図3を参照して詳細に後述する。静止画撮影を終えると、ステップS102に戻って上述したスタンバイ状態に戻る。
一方、ステップS103においてムービースイッチ68が押されたならば、ステップS104に進み、第1の間引き駆動を開始する。なお、第1の間引き駆動は、ここでは、上述したスタンバイ状態において上述した図4(a)を参照して説明した駆動と同じとする。上述したように、図4(a)に示すように駆動することで、全画素読み出しに対して8倍のフレームレートで読み出すことができる。CPU50は信号処理IC22を介してタイミング発生回路18、撮像素子14、前置処理回路15に対して、第1の間引き駆動に切り換えるよう指示を出す。
次に、ステップS105において、動画記録を行う。ここで、動画記録処理の詳細について説明する。
撮影レンズ10を通過した光は、シャッター12を通過して、撮像素子14に結像する。この時、シャッター12は絞りによりある程度露出を制御する。撮像素子14に結像された被写体像は光量に応じて光電変換され、電荷が蓄積される。そして、蓄積された電荷を第1の間引き駆動により読み出す。
読み出されたアナログ画像信号はA/D変換器16に送られ、デジタル画像データに変換されて、システムのバスを介して信号処理IC22に転送される。
信号処理IC22内では、動画撮影に適した水平垂直のフィルタ処理、アパーチャー補正処理、ガンマ処理等を行ってから、リサイズ処理を行う。リサイズ処理では、所定の画素サイズ、例えばVGA(水平640画素、垂直480ライン)サイズにリサイズして、DRAM30に転送する。
信号処理IC22はDRAM30上の画像データを圧縮・伸長回路により、例えばJPEGデータに変換する。それと同時に、マイク94で音声を取り込み、取り込んだ音声をCPU50にて、例えばWAVE形式の音声データに変換する。そしてこれらの画像JPEGデータと音声WAVEデータに、CPU50がヘッダーなどを付加して例えばAVIデータ形式で動画ファイルを生成し、コネクタ92を介して記録媒体200に生成した動画ファイルを記録する。
このAVIファイルのデータ構造では、ファイル先頭のヘッダーで画像データと音声データの配置を管理する。例えば、ヘッダーに続けて1秒間分の音声データ(44.1KHzサンプリング、16bitステレオの場合、約172kByte)を置き、さらに続けて1秒間分の画像JPEGデータ(30fpsの場合、30フレーム)を置く。そして、音声データと画像データを交互に1秒間置きに配置する。
従って、動画ファイルの作成時には、静止した画像JPEGデータをバッファーするための画像バッファー領域と音声データをバッファーするための音声バッファー領域をDRAM30で確保する。そして、確保した領域に生成したそれぞれの映像データと音声データを溜め、1秒単位で、画像データと音声データをAVI形式のデータにまとめてDRAM30上のAVIバッファー領域に書きこむ。AVIバッファー領域に溜めこんだデータを、順次記録媒体200へファイルとして書き込んでいく。
なお、上記例では画像データの圧縮方式をJPEG方式とし、音声データをWAVE形式に変換する場合について説明したが、本発明はこれに限るものではなく、公知の圧縮方式及び形式を用いても良いことは言うまでもない。更に、動画ファイルは、AVIファイル形式の他に、公知のファイル形式を用いることも勿論可能である。
上述したようにしてAVI形式のデータにまとめで動画記録を行う一方、画像表示部28へのスルー表示も行う。信号処理IC22内で所定の画素サイズ、例えばVGA(水平640画素、垂直480ライン)サイズにリサイズされた画像データを、DRAM30に転送し、このDRAM30上の画像データを、画像表示部28に転送して、スルー画像として表示する。これにより、ユーザーは記録中の動画を確認することができる。
次に、ステップS106において、動画記録用に継続してAF、AE、AWBを行うが、記録する動画の合焦状態や明るさが急激に変化することがないように、公知の方法で行われるように徐々に合焦させたり、明るさを変えたりする。
次に、シャッタースイッチ64及びムービースイッチ68の状態を調べ(ステップS107)、どちらも押されていなければ、ステップS105に戻って、動画記録及びAF、AE、AWBを繰り返す。ムービースイッチ68が押されたら、動画記録を終了して、ステップS102へ戻り、上述したスタンバイ状態に移行する。
一方、ステップS107においてシャッタースイッチ64が押されてSW1がONである場合、ステップS108に進んで、撮像素子14の電荷読み出し駆動を第2の間引き駆動に切り替える。
図4(b)は、第2の間引き駆動の一例を示した模式図であり、説明を分かり易くするために、水平4画素、垂直16画素分のみを記載している。なお、図4(a)と同じ構成には同じ参照番号を付し、説明を省略する。
図4(b)において、垂直転送レジスタ402、水平転送レジスタ403内で接続された線は加算される画素の一例を表しており、12行目及び16行目のR画素(1,3列)、G画素(2,4列)がそれぞれ同色加算され出力される。同様に3行目及び7行目のG画素(1,3列)、B画素(2,4列)がそれぞれ同色加算されて出力される。図4(a)よりも網掛けの部分が多いことからわかるように、図4(a)に示す第1の間引き駆動との違いは垂直方向の間引き量であり、この第2の間引き駆動においては垂直1/4間引きとなっている。間引き量が倍になった分、フレームレートも、図4(a)に示す第1の間引き駆動に比べて2倍の速度(全画素読み出しに対して16倍の速度)で読み出すことができる。
次に、ステップS109において、第2の間引き駆動により得られた画像データを用いて、動画記録及びスルー画像表示を行う。ステップS109における動画記録処理では、第1の間引き駆動に比べて読み出す画素数が少ないため、信号処理IC22は動画記録に適した画素数となるように補間、間引き等のリサイズ処理を行い、DRAM30にリサイズした画像データを書き込む。これ以降の処理は、ステップS105で説明した動画記録処理及びスルー画像表示処理と同様であるため、説明を省略する。また、第1の間引き駆動に比べて2倍のフレームレートで読み出しを行うので、ここでは1フレームおきに処理した画像データを記録する。
また、ステップS109では、動画記録処理と共に、第2の間引き駆動により得られた画像データを用いて、静止画撮影用のAF、AE、AWB処理を行う。上述したように、第2の間引き駆動では高速フレームレートで動作することができるため、より高速にAF制御し、静止画撮影の準備を終了することが可能になる。この時に行うAF制御では、動画記録中のAF制御方法を継続して徐々に合焦するようにしても、静止画撮影用にできるだけ早く合焦するように制御しても、何れでも構わない。前者の場合であっても、第1の間引き駆動時の2倍のフレームレートで読み出しを行っているため、2倍の速さで合焦を完了することが可能になる。
これにより、動画撮影中にシャッタースイッチ64が押下されてから静止画撮影を行うまでのシャッタータイムラグを短くすることができると共に、静止画撮影用のAF、AE、AWB処理中であっても、動画記録を継続することが可能になる。
次にシャッタースイッチ64の状態を調べ(ステップS110)、変化がなければ(SW1のみON)、ステップ109へ戻って第2の間引き駆動による動画記録及びAF、AE、AWB処理を継続する。SW1がOFFされていればステップS104に戻って第1の間引き駆動に切り替え、上述した動画記録を繰り返す。一方、SW2がONとなった場合には、動画記録を中断し、静止画撮影を行う(ステップS111)。なお、ここで行われる静止画撮影処理については、図3を参照して詳細に後述する。静止画撮影を終えると、ステップS104に戻って第1の間引き駆動に切り替え、上述した動画記録を繰り返す。
なお上記のフローでは、動画記録中にSW1がONとなった後、SW2が押下されるか、SW1がOFFとなるまでの間は、第2の間引き駆動が継続するように制御していた。しかしながら、AF処理が終了した後に、第1の間引き駆動に変更するようにしても構わない。そうすることによって、SW1がON時の動画解像度が低下する期間を短くすることができる。
次に、ステップS111及びS123で行われる静止画撮影処理について、図3のフローチャートを参照して説明する。
まず、図2のステップS109またはS121で取得した測光結果に基づいて、撮影時のシャッター速度、撮像出力ゲイン、フラッシュ発光等の設定を決定する(ステップS301)。更に、画像表示部28へのスルー表示を停止する(ステップS302)。次にRAWデータをDRAM30に一時保存するためのDRAM書込み設定を行う(ステップS303)。このときのDRAM30への書き込み設定はメモリ上で連続的に書き込むのではなく複数フィールド読み出し方式に従い、数ラインおきに書き込まれるように信号処理IC22内のDMAコントローラに対して設定を行う。なお、プログレッシブスキャンにより読み出すことも勿論可能であり、その場合にはDMAコントローラに対してDRAM30に順に書き込みを行うように設定する。
次に、タイミング発生回路18に対して電子シャッター停止指令を出して露光を開始させるとともに、シャッター12を閉じるタイミングを、決定したシャッター速度に従ってCPU内蔵タイマにセットする(ステップS304)。このCPU内蔵タイマは指定された時間が経過したところでシャッター12を全閉するパルスを出力するように設計されている。次にシャッター12が閉じるのを待つ(ステップS305)。シャッター12が閉じたら、ステップS303で設定したDRAM領域の各フィールドに対する書き込み開始命令を発行する。それとともに撮像素子14から順次各フィールドの撮像データを読み出すようタイミング発生回路18に対して指示を出す(ステップS306)。読み出した信号はA/D変換器16でデジタル信号(RAWデータ)に変換され、バスを介してDRAM30へ転送される。
読み出し及び書き込みが完了すると、次の撮影が迅速に行えるようにシャッター12の開処理、電子シャッター動作の再開等を行う撮影後処理を行う(ステップS307)。
その後、画像データを順に読み出してWB演算を行い、各色の出力に乗じるべきWB係数を算出し(ステップS308)、完了したら前処理で得られたWB係数を基に色補正を行う(ステップS309)。
次に、最終的に記録する画像データに変換する現像圧縮処理を行う。この現像処理では、まず、DRAM30からRAWデータを読み出して信号処理IC22に転送する。信号処理IC22では、静止画撮影に適した水平垂直のフィルタ処理やアパチャー補正処理やガンマ処理などを行い、圧縮・伸長回路へ転送する。圧縮・伸長回路は、YUVデータをJPEGデータに変換してDRAM30へ書き戻す(ステップS310)。以上のDRAM30からのRAWデータ読み出しからJPEGデータをDRAM30へ書き戻すまでが現像処理になる。この時、この現像処理の途中の信号処理IC22では、YUVデータをリサイズ処理し、レビュー画像表示のためにVGAサイズ程度にリサイズして、DRAM30へ書き戻す。
上述した現像処理が終了すると、撮影画像確認のためのレビュー画像表示のために、DRAM30に記憶されたVGAサイズの画像データ(YUVデータ)を表示用画像に変換し、DRAM30に格納する。この表示用画像データを信号処理IC22が所定のレートで読み出し、内部でD/A変換後、画像表示部28に出力することにより、確認画像表示を行う(ステップS311)。そして、ステップS310でDRAM30に保存された圧縮画像データを記録媒体200へ書き込み(ステップS312)、静止画撮影処理を終了する。
次に、図4に示した駆動が可能な、500万画素の撮像素子を持つデジタルカメラを例にとって、VGA30fpsで動画記録中に、静止画撮影を行う場合のシーケンスについて、図5を参照して説明する。この撮像素子では最大2592x1944の画素サイズの静止画を撮影することが可能である。なお、動画記録時に同時に記録される音声の記録シーケンスについての説明は省略する。
T1期間においては、動画記録を行いながらスルー画表示を継続する。この状態ではシャッター12は開いている。このT1期間では、撮像素子14は前述した図4(a)に示す第1の間引き駆動により駆動されるため、水平2画素加算、垂直1/2間引きで2画素加算であることから、センサ読み出し有効画素数は1296x486となる。読み出した画素信号に対して信号処理IC22内でリアルタイムに現像処理及びVGAサイズ(640x480)へのリサイズを行い、DRAM30に保存する。
DRAM30に一時保存された画像データは画像表示部28へ転送され、スルー表示されると共に、信号処理IC22へ送られてJPEGデータに変換され、記録媒体200に記録される。この期間では読み出し、表示、記録のフレームレートはいずれも30fpsとなり、一致している。
次に、この状態でSW1が押下されると、静止画撮影のためのAF動作を行うために、図4(b)に示す第2の間引き駆動に切り換えて、撮像素子14からの画素信号の読み出しを行う。このSW1が押下されている期間がT2となる。このT2期間では、撮像素子14は前述した図4(b)に示す第2の間引き駆動により駆動されるため、水平2画素加算、垂直1/4間引きで2画素加算であることから、センサ読み出し有効画素数は1296x243となる。そして、読み出した画素信号に対して現像処理及びVGAサイズへのリサイズ(ここでは、水平方向の信号の間引き、垂直方向の信号の補間処理を行う。これにより、動画記録及びスルー表示を中断することなく継続することが可能である。なお、撮像素子14からの読み出しは部分読み出しでなく全領域に対して行われるので、SW1押下前とSW1押下後で画角変化がないため、SW1押下後も表示、動画記録に不自然さがなく、フレーミングが容易であるというメリットがある。
だたし、T1期間では撮像クロックレートが30fpsだったのに対し、T2期間では垂直の間引き量が2倍になっているので60fpsで動作している。一方、動画記録のフォーマットはここでは30fpsに指定されているため、画像を時系列方向に間引く必要がある。ここでは、図5において、T2期間の垂直周期の網掛け部の画像は記録せず、それ以外の部分を記録することで、意図的にコマ落としを行い、30fpsで記録・表示を行う。
なお、本実施の形態においては記録と表示のフレームレートは同一となっているが、必ずしも同一である必要がなく、例えば記録は30fpsで、表示は60fpsのままとしても良い。この場合は、SW1押下中のスルー表示が滑らかになり、表示の遅延が少ないというメリットがある。
この状態でさらにSW2が押下されると、静止画撮影と判定され、動画記録が一時的に中断されるとともに、前述の静止画撮影動作が行われる。露光中、静止画読み出し中は、画像表示部28には黒画像などの単一色の画像が表示される。静止画の現像処理後は静止画用のサイズである2592x1944画素の画像と、動画ファイルに記録されるVGA(640x480画素)サイズの画像とが生成される。この生成されたVGAサイズ画像を使用して、レビュー画像が画像表示部28に転送され、表示される。
静止画撮影が完了したら、第1の間引き駆動に戻し、中断していた動画記録を再開する(T4)。
なお、図5に示す例では、動画撮影時の画角が撮像素子14の全領域に相当する場合について説明したが、電子ズームにより画角が狭くなっている場合には、静止画撮影時にもその画角に相当する領域に含まれる全画素を読み出すようにすればよい。
更に、カメラ装置100が静止画撮影時の解像度を変更可能である場合には、全画素読み出し駆動に限らず、指定された解像度に応じて間引きや加算を行うように駆動すればよい。
以上説明したように、本実施の形態によれば、動画記録中に静止画用のAF動作を行う際にも、AF動作に適した撮像素子の駆動方法を選択することができるので、AF精度の向上及びタイムラグの短縮が可能になる。また、動画記録中に静止画撮影が指示された場合に行われるAF動作期間中も、動画記録及び表示を継続することができるので、動画記録の中断期間を最低限に抑えることができる。
なお、上記実施の形態では、第1及び第2の間引き駆動において、それぞれ図4(a)及び図4(b)に示すように駆動するものとして説明したが、本発明はこれに限るものではない。撮像素子の画素数や読み出し速度、及び適用する動画規格に応じて、適宜変更することが可能であり、その場合に、第2の間引き駆動時に第1の間引き駆動時よりも高いフレームレートで読み出しを行えるようにすればよい。また、第2の間引き駆動におけるフレームレートは第1の間引き駆動の2倍のフレームレートに限るものではなく、撮像素子の駆動速度に応じて3倍以上のフレームレートとしても良い。その場合には、カメラ装置が適用する動画規格のフレームレートとなるようにフレームの間引きを行えばよい。
また、上記実施の形態では、スタンバイ状態でも第1の間引き駆動で撮像素子の読み出しを行うものとしたが、画像表示部28の画素数に応じて、第1の間引き駆動とは異なる読み出し駆動にしても良い。
また、上記実施の形態では、画像表示部28によるEVF機能を用いて撮影を行う場合について説明したが、EVF機能を用いずに光学ファインダー11を用いて撮影を行うこともできる。その場合にも、動画記録時に静止画撮影が指示された場合には上述した方法を適用することが可能であり、静止画用のAF動作を高速化し、該AF動作中に動画記録を行うことができる。