以下、本発明の実施形態について添付図面を参照して詳細に説明する。本実施形態では、撮像装置の例として、MF操作機能を備えたデジタルビデオカメラを取り上げる。但し、本発明に係る撮像装置はこれに限定されるものではなく、焦点調節機能(AF,MFを問わない)と、撮像映像や撮影画像を表示する表示装置とを有する撮像装置に適用可能である。すなわち、本発明に係る撮像装置には、例えば、デジタル(スチル)カメラ、カメラ付き携帯情報端末、カメラ付き携帯電話等も含まれる。
《第1実施形態》
<デジタルビデオカメラの概略構成>
図1は、本発明の実施形態に係るデジタルビデオカメラの概略構成を示すブロック図である。図1に示されるレンズ部101は、被写体像を撮像素子102の撮像面上に結像する光学系を構成し、ズーム機能、焦点調節機能及び絞り調節機能を備える。撮像素子102は、多数の光電変換素子が2次元的に配列された構成を有し、レンズ部101によって結像された被写体光学像を画素単位の映像信号に変換する。撮像素子102は、例えば、CMOSイメージセンサやCCDイメージセンサである。なお、撮像素子102は、光電変換素子による電荷蓄積時間を調整することによる電子シャッター機能を備える。
撮像素子駆動部103は、カメラ信号処理部106の制御タイミングに従って撮像素子102を駆動制御する。CDS/AGC部104は、撮像素子102から出力されるアナログ映像信号を相関二重サンプリング(CDS)してノイズを削減し、システム制御部111の制御に従って信号レベルのゲイン制御(AGC)を行う。A/D変換器105は、CDS/AGC部104から出力されるアナログ映像信号をデジタル映像信号に変換し、カメラ信号処理部106に供給する。
カメラ信号処理部106は、システム制御部111と連携して、タイミング信号の生成、自動露出(AE)制御、ガンマ調整、AF制御等のカメラ撮像系の制御を行う。カメラ信号処理部106は、例えば、AF制御時に合焦度合いの判断基準となる「AF評価値」を算出し、また、撮像映像内の顔検出処理を実行する。なお、撮像映像内の顔検出処理(顔の特徴検出処理)により、個々の被写体の顔の位置とその領域を算出し、顔の位置を示す中心座標と領域サイズをシステム制御部111に提示することが可能になる。顔検出方法は特に限定されるものではなく、既知の手法を用いることができる。
デジタルビデオカメラは、用途に応じた第1記憶部107、第2記憶部116、第3記憶部112及び第4記憶部119を有している。本実施形態では、便宜上、第1記憶部107はカメラ信号処理用、第2記憶部116はビデオ制御用、第3記憶部112はシステム制御用、第4記憶部119はコーデック(CODEC)用としてそれぞれ、個別に設けられているものとする。物理的にはこれらの記憶部を同じ記憶装置で実現してもよい。これらの記憶部はそれぞれ、典型的には、読み書き可能な半導体メモリによって構成されるが、これに限定されるものではなく、1又は複数の記憶部を別種の記憶装置[例えば、ハードディスクドライブ(HDD)等]で構成してもよい。
第1記憶部107は、撮像映像を信号処理する際のフレームメモリ等としてカメラ信号処理部106が使用する。レンズ駆動部108は、システム制御部111の制御に従ってレンズ部101が有する不図示のモータやアクチュエータ等を駆動し、ズーム倍率の調整やAF制御、AE制御を行う。レンズ駆動部108の制御は、システム制御部111がカメラ信号処理部106での信号処理結果に基づいて行う。例えば、AF制御時には、カメラ信号処理部106が求めたAF評価値に基づいてシステム制御部111がレンズ駆動部108を制御し、レンズ部101のフォーカス調整用レンズを駆動制御することで、レンズ部101を被写体に合焦させる。
なお、手動でレンズ部101の焦点調節を行うMFモードが設定されている場合、システム制御部111は、撮影者による焦点調節操作を検出する。具体的には、システム制御部111は、入力操作部113に含まれる、焦点距離の調整用スイッチやレバー、レンズ部101の鏡筒外周に設けられたフォーカスリングの操作を検出する。そして、システム制御部111は、検出した操作に応じた焦点の移動方向と移動量に基づいて、レンズ駆動部108を制御し、レンズ部101の焦点距離を変更させる。但し、撮影者が操作するスイッチやレバー等によって機械的にレンズ部101の焦点距離が変更可能な構成となっている場合、システム制御部111やレンズ駆動部108の介在は必要ない。
ストロボ109は、必要に応じて或いは撮影者の設定に応じて、静止画撮影時の補助光源として用いられる。マイク110は、周囲の音を記録(録音)する際に用いられ、マイク110からの音声信号はカメラ信号処理部106に供給される。例えば、撮像映像に併せて音声を記録する場合、カメラ信号処理部106は、撮像素子102とマイク110のそれぞれの時間軸を整合させ、映像信号と音声信号をビデオ制御部115に供給する。
システム制御部111は、例えば、CPUであり、第3記憶部112に記憶されているプログラムを実行することにより、後述するMF操作時の補助表示処理を含む、デジタルビデオカメラの動作全般を制御する。第3記憶部112は、ROMやRAMを含んでおり、システム制御部111が実行するプログラムや各種設定に係るパラメータや初期値等を記憶している。なお、第3記憶部112は、システム制御部111のワークエリアとしても用いられる。
入力操作部113は、撮影者がデジタルビデオカメラに指示を与えるためのユーザインタフェースであり、キーやボタン、タッチパネル等の入力デバイスを備えている。本実施形態では、入力操作部113は、具体的には、拡大表示のオン/オフ、ゼブラパターン表示やピーキング表示のオン/オフ、MF操作時の補助表示のオン/オフ等の各種機能の選択ボタンや決定ボタンを有している。また、入力操作部113は、静止画撮影用のシャッタボタンやMFリング、ズームスイッチ、絞り調整ダイヤル等を有しているものとする。入力操作部113には更に、横撮り/縦撮り等のデジタルビデオカメラの撮像姿勢を示す天地情報を検出するための重力センサやジャイロセンサが含まれる。
計時部114は、リアルタイムクロック(RTC)とバックアップ電池を備えており、システム制御部111からの要求に応じて日時情報を返信する。ビデオ制御部115は、第1表示部122及び第2表示部123に対する色相や彩度、明度の調整を含む表示制御を行い、また、アナログライン出力部124の出力制御、デジタルデータI/F部125への出力制御及び記録/再生部120の制御等を行う。ビデオ制御部115はまた、第1表示部122及び第2表示部123を含む各映像出力系に対する映像信号の解像度変換、ゼブラパターンやピーキング信号の生成と重畳、撮像映像からのエッジ成分の抽出や波形生成等も行う。ビデオ制御部115はさらに、撮影情報やユーザ設定メニュー等のOSD(On Screen Display)表示制御を行う。なお、エッジ成分は、合焦度合いを表す因子の1種である。
第2記憶部116は、ビデオ制御用の記憶部であり、ビデオ制御部115がビデオベースバンド信号に関する信号処理を行う際のフレームメモリ、ワークメモリ等として使用される。H.264コーデック部117は、動画像の符号化/復号化処理を行う動画像コーデックの一例である。符号化/復号化の形式として、例えば、MPEG−2方式が用いられるが、他の形式であってよい。同様に、JPEGコーデック部118は、静止画像の符号化/復号化処理を行う静止画コーデックの一例である。符号化/復号化の形式としては、例えば、JPEG2000が用いられるが、PNG等の他の形式であってもよい。なお、本実施形態では、H.264コーデック部117と回路を共用するため及び再生動画からの静止画撮影機能(キャプチャ機能)を実現するために、JPEGコーデック部118はビデオ制御部115に接続されているが、JPEGコーデック部118はカメラ信号処理部106に直接に接続されてもよい。
第4記憶部119は、コーデック用として、H.264コーデック部117及びJPEGコーデック部118が映像信号の符号化/復号化を行う際に用いられる。記録/再生部120は、ビデオ制御部115とH.264コーデック部117又はJPEGコーデック部118によって符号化処理され、記録フォーマットとして処理された記録データを、記録媒体121に対して記録したり、読み出したりする。記録媒体121としては、メモリカードやDVD等の光ディスク、HDD等を用いることができ、各媒体に応じた記録/再生システムを構成すればよい。
第1表示部122及び第2表示部123は、表示装置であり、いずれも同様の情報を表示することができる。本実施形態では、第2表示部123は、第1表示部122よりも小型であって、ファインダ内に設けられているものとする。一方、第1表示部122は、例えば、デジタルビデオカメラの筐体の側面等に開閉可能に設けられる比較的大型の表示装置である。
撮像モード時に、第1表示部122及び第2表示部123には、撮像素子102からの入力映像や拡大映像に加え、フォーカス枠等の補助表示が表示される。また、第1表示部122及び第2表示部123に撮像素子102からの入力映像を順次表示させることで、電子ビューファインダ(EVF)機能が実現される。補助表示には、ゼブラパターン表示やピーキング表示だけでなく、撮像映像のエッジ成分の波形表示等のMF操作時の補助表示も含まれる。
再生モード時に、第1表示部122及び第2表示部123には、記録媒体121に記録されている動画像や静止画像が表示される。また、入力操作部113からの撮影者による入力操作情報や記録媒体121内の任意の画像情報(撮像情報)等を表示することもできる。
アナログライン出力部124は、アナログコンポーネント映像の出力やS端子出力、コンポジット映像出力等のインタフェース群である。アナログライン出力部124を外部モニタ等に接続することで、デジタルビデオカメラからの映像出力を外部モニタ等に表示することができる。デジタルデータI/F部125は、例えば、USBインタフェースやIEEE1394インタフェース、HDMI等のデジタルインタフェースを、1つ以上有している。
<ビデオ制御部による撮像映像のエッジ成分の波形表示処理>
ビデオ制御部115は、上述した通り、撮像映像のエッジ成分の波形表示処理、すなわち、撮像映像(映像信号)からのエッジ成分の抽出と波形生成を行う。図2は、ビデオ制御部115における、撮像映像のエッジ成分の波形表示処理を実行するための構成例を示すブロック図である。
図2に示される前処理部201は、領域指定回路202と、エッジ抽出回路203と、第1メモリコントローラ204と、波形制御部205とを有している。領域指定回路202は、撮像映像のうち、システム制御部111を通じて指定された領域(指定領域)の情報を、領域指定信号として第1メモリコントローラ204に通知する機能を有している。
システム制御部111が領域指定回路202に指定することができる指定領域の情報には、領域の大きさ(形状)や数、位置等があるが、これらに限定されるものではない。本実施形態では、後述する図5(a)に示されるように、カメラ信号処理部106からの顔検出処理の結果として得られる中心座標及び領域サイズに基づいて、システム制御部111により複数の指定領域(2つの矩形の指定領域502,503)が設定される。
なお、顔検出機能に連動させず、撮影者に指定領域の設定を許す構成としてもよい。この場合、画像中の矩形領域を指定する際に用いられる手法のように、大きさ及び位置が可変な矩形枠の大きさや位置を方向キー等によって調節し、決定ボタン等の押下により設定する構成を採用することができる。
指定領域を設定するためのGUIや設定されている指定領域を表す枠等の表示は、撮像映像のエッジ成分の波形表示画像と同様に、必要に応じて、後述する映像合成回路210において撮像映像と合成して、重畳表示することができる。これらの表示に関わるデータは、システム制御部111から映像合成回路210に供給される。
エッジ抽出回路203は、撮像映像のエッジ成分を抽出する。本実施形態では、エッジ抽出回路203は、FIR(Finite Impulse Response)型のバンドパスフィルタを用いてエッジ成分を抽出するが、その詳細は後述することとする。
第1メモリコントローラ204は、映像信号のフィールド(又はフレーム)毎に、バンクメモリ部206内の第1波形保存メモリ(Bank1)207と第2波形保存メモリ(Bank2)208とのバンク切り替え制御と、メモリアクセス制御を行う。第1波形保存メモリ207と第2波形保存メモリ208の詳細については後述する。第1メモリコントローラ204は、映像信号の現座標情報とエッジ抽出回路203で抽出された撮像映像のエッジ成分のレベル(振幅)をそれぞれ直交座標系における情報として考え、メモリアクセスのためのアドレスを生成する。
例えば、後述する図5(a)に示されるように、撮像映像のエッジ成分を波形として水平表示する際には、メモリのアドレス空間を、映像信号の水平座標を横軸とし、エッジ成分のレベルを縦軸とした2次元空間と見なして、アクセス制御が行われる。一方、後述する図5(b)に示されるように、撮像映像のエッジ成分を波形として垂直表示する際には、メモリのアドレス空間を、映像信号の垂直座標を縦軸に、エッジ成分のレベルを横軸とした2次元空間と見なして、アクセス制御を行えばよい。ここでのアクセス制御による処理は、初めに該当アドレスのデータを読み出し、後述する波形制御部205において処理されたデータを再び第1メモリコントローラ204を通じて、同一アドレスに書き戻す処理である。
波形制御部205は、第1メモリコントローラ204が第1波形保存メモリ207から読み出したデータに対して、エッジ抽出回路203で抽出した撮像映像のエッジ成分のデータに任意のゲインを乗じたものを加算して、再び第1メモリコントローラ204に返す。波形制御部205がエッジ成分のデータに乗じるゲインをシステム制御部111から制御することにより、頻度によるデータの増加割合を制御することができ、視認性を制御することが可能となる。
これらの処理及び後述する映像合成回路210での合成処理により、アクセス頻度が高いアドレスのデータ値(すなわち、撮像映像からの同一レベルのエッジ成分の抽出回数)が大きい場合に、表示輝度が大きく(明るく)なるように制御することができる。このとき、エッジ成分の抽出方向(本実施形態では水平方向又は垂直方向)における同一座標で異なるレベルのエッジ成分が異なる頻度で抽出された場合、その位置に対応した表示輝度は一定でなく、検出されたレベルに対応する位置で変化する。これにより、撮影者は、エッジ成分を視覚的に容易に把握することができる。
なお、各アドレスの初期値は、例えば、最低輝度に対応する値であり、最初にアクセスされた際に所定値が書き込まれ、2度目のアクセスからは、上述した読み出し及び書き戻しが行われる。また、アクセス頻度を用いる制御を行うことにより、エッジ成分ではない単発的なノイズがエッジ成分であるかのように表示され、撮影者に認識されること等を防止するという効果が得られる。
第1メモリコントローラ204は、領域指定回路202からの領域指定信号によって指定された撮像映像内の指定領域について抽出されたエッジ成分にフラグ情報を付加して、第1波形保存メモリ207又は第2波形保存メモリ208に書き込む。そして、第2メモリコントローラ211が、第1波形保存メモリ207又は第2波形保存メモリ208に書き込まれたエッジ成分のデータを、フラグ情報を含めて読み出す。
映像合成回路210は、第2メモリコントローラ211が読み出したフラグ情報に基づいて、指定領域に対するエッジ成分の表示方法(例えば、表示色)を指定領域外に対するエッジ成分の表示方法と異ならせる制御を行う。これにより、撮像映像内のどの指定領域に対応したエッジ成分であるのか(つまり、どのような合焦度合いとなっているのか)を、視覚的に容易に把握することができる。映像合成回路210は、1フィールド(又は1フレーム)での処理が終了した後、第2メモリコントローラ211から各アドレスのデータ及びフラグ情報を読み出して波形表示画像を生成する。
バンクメモリ部206は、第1波形保存メモリ(Bank1)207と第2波形保存メモリ(Bank2)208とを含んでいる。第2波形保存メモリ208は、第1波形保存メモリと等価であり、バンク制御に使用される。
第1波形保存メモリ207と第2波形保存メモリ208はそれぞれ、映像信号のフィールド(又はフレーム)毎に、第1メモリコントローラ204と第2メモリコントローラ211のいずれかからアクセスされるように切り替えられる。本実施形態では、第1波形保存メモリ207が第1メモリコントローラ204からアクセスされている時には、第2波形保存メモリ208は第2メモリコントローラ211からアクセスされるように制御されるものとする。また、次の映像信号のフィールド(又はフレーム)では、メモリコントローラと波形保存メモリとのアクセス関係が入れ替わるものとする。
後処理部209は、映像合成回路210と、第2メモリコントローラ211とを有している。
映像合成回路210は、システム制御部111の指示により、撮像映像と第2メモリコントローラ211がバンクメモリ部206から読み出した撮像映像のエッジ成分のデータに基づく波形表示画像とを合成する。合成された画像は、第1表示部122及び/又は第2表示部123に表示される。なお、上述した通り、読み出されたエッジ成分のデータにフラグ情報が付加されている場合、映像合成回路210は、フラグ情報を有するエッジ成分を、フラグ情報を有さないエッジ成分に対して視覚的に識別できるように表示を行う。
例えば、図5(a)では、撮像映像を全画面表示し、画面下方に撮像映像のエッジ成分の波形表示画像を重畳表示した様子を表している。ここでは、図5(a)は白黒図面であるが、指定領域502,503内で抽出されたエッジ成分の波形表示504,505は、指定領域外で抽出されたエッジ成分の波形表示506とは異なる色で表示されている。図5(a)はその様子(色の違い)を白黒の濃淡により模式的に表している。
なお、指定領域502,503におけるエッジ成分の波形表示504,505の色は、システム制御部111から指定可能な構成としてもよい。本実施形態では、指定領域と指定領域外とに跨がるエッジ成分に対応する波形表示は、水平方向において同位置(同じ座標)に表示される。これに限られず、エッジ成分のレベルが異なる部分については視認可能で、レベルが同一な部分についてはシステム制御部111からの制御に従った優先順位で映像合成回路210において合成し、表示する構成とすることができる。
図5(a)では特に示していないが、撮像映像のエッジ成分の波形表示画像を見易くするために、波形表示画像の背景にバックグラウンドカラー(半透過の黒等)を表示する等してもよい。その場合、撮像画像にバックグラウンドカラーを重畳し、次いで、そのバックグラウンドカラーの上に波形表示画像を重畳するようにすると、波形表示画像の視認性を向上させることができる。
第2メモリコントローラ211は、第1メモリコントローラ204によって第1波形保存メモリ207又は第2波形保存メモリ208に書き込まれたエッジ成分のデータをフラグ情報と共に読み出し、映像合成回路210に供給する。映像合成回路210は、上述したように、エッジ成分のデータとフラグ情報とから、エッジ成分のレベルと抽出された位置とを表す波形表示画像を生成し、撮像映像と位置合わせして合成し、第1表示部122及び/又は第2表示部123に表示する。
システム制御部111は、詳細な接続配線は図示を省略しているが、ビデオ制御部115内の各種制御を統括する。例えば、システム制御部111は、領域指定回路202への顔検出結果による領域指定や、エッジ抽出回路203で撮像映像から抽出するエッジ成分の中心周波数の制御やゲイン制御、波形制御部205でのゲイン制御等を行う。システム制御部111はまた、映像合成回路210でのエッジ成分の波形表示画像の合成有無や映像信号に対する合成位置制御、指定領域とそれ以外の領域に対応する波形表示方法の制御等も行う。
<エッジ抽出回路の概略構成と処理内容>
エッジ抽出回路203には、映像の所定方向(ここでは水平方向とする)の輝度成分に対して、周波数特性と通過ゲインを調整可能な構造のFIR型バンドパスフィルタが適用されており、撮像映像からエッジ成分を抽出する。なお、他の方法でエッジ成分を抽出してもよい。
図3は、エッジ抽出回路203の概略構成を示す図である。入力映像信号301は、D−FF(Delay type Flip Flop)302に入力される。D−FF302は映像信号のピクセルクロックで入力映像信号301をラッチし、次段のD−FF303へ渡す。D−FF303〜309はそれぞれD−FF302と同様の構成を有し、前段からのデータを映像信号のピクセルクロックによりラッチして、1ピクセルクロック分だけ遅延させて後段に出力する。ここで、ピクセルクロックは、第1表示部122の表示クロックであり、第1表示部122に用いられる液晶表示パネル等の仕様(表示解像度)に依存する。本実施形態では、ピクセルクロックは、大凡、13.5〜33.75MHzの範囲で設定される。
本実施形態では、FIR型水平フィルタのY(−4)からY(4)の9タップのうち、撮像映像から抽出するエッジ成分の周波数に応じて3つのタップを組み合わせる。具体的には、センタータップY(0)は共通で、前後のタップの組み合わせを変えて、
[Y(−1)、Y(0)、Y(1)]、
[Y(−2)、Y(0)、Y(2)]、
[Y(−3)、Y(0)、Y(3)]、
[Y(−4)、Y(0)、Y(4)]、という組み合わせを考える。各組み合わせにおいて、選択されていないタップは、選択されているがタップ係数が零に設定されているものと考えることができる。このようにタップの組み合わせを制御することで、エッジとして抽出する周波数帯域を可変としている。
組み合わせる3つのタップのタップ係数及びDCゲインは以下の通りに、
センタータップのタップ係数:2α、
前後のタップのタップ係数:−α、
DCゲイン:2α−α−α=0、とする。
ゲイン調整信号310はシステム制御部111から供給され、エッジ抽出回路203のFIR型水平フィルタの強調周波数帯域のレベルを制御する。ここでは、ゲイン調整信号310は4ビットの信号で、強調するゲインレベルを16段階に切り替えられる構成とする。具体的には、α=15(ゲイン最大)〜α=0(ゲイン最小(OFF))とする。α=0の場合、映像信号をFIR型水平フィルタで処理しない(スルーする)ものとする。
図3に示される周波数調整信号311は、システム制御部111から供給され、これにより、エッジ抽出回路203で撮像映像から抽出するエッジ成分の中心周波数が制御される。周波数調整信号311は、2ビットの信号とし、抽出するエッジ成分の中心周波数を4通りに切り替え可能とする。
信号セレクタ312は、周波数調整信号311によって制御され、周波数調整信号311に応じた1つの入力を選択して出力することにより、エッジ抽出回路203が抽出する中心周波数を切り替える。2ビットの周波数調整信号311と、エッジ抽出回路203から出力される中心周波数(強調中心周波数)fcとの関係は、具体的には、以下の通りである。
サンプリング周波数:f(MHz)のとき、
周波数調整信号311:強調中心周波数(fc)
00:fc=f/2(MHz)
(センタータップ及びセンタータップと隣り合う前後のタップ使用)
01:fc=f/4(MHz)
(センタータップ及びセンタータップから前後に1つ飛ばしたタップ使用)
10:fc=f/6(MHz)
(センタータップ及びセンタータップから前後に2つ飛ばしたタップ使用)
11:fc=f/8(MHz)
(センタータップ及びセンタータップから前後に3つ飛ばしたタップ使用)
信号セレクタ312により選択された信号は、出力信号313として第1メモリコントローラ204へ出力される。
図4は、サンプリング周波数fを13.5MHzとしたときのエッジ抽出回路203の周波数特性の例を示す図である。図4(a),(b),(c),(d)は、それぞれ周波数調整信号311が00,01,10,11である場合に対応し、中心周波数fc(MHz)はf/2,f/4,f/6,f/8及びその高調周波数となる。
撮像映像の信号が1水平ライン毎にエッジ抽出回路203に入力され、水平方向におけるエッジ成分の抽出が行われる。第1メモリコントローラ204及び波形制御部205は、エッジ抽出回路203で抽出されたエッジ成分のレベルに応じた、上述のメモリアクセス制御を行う。この動作が1ライン毎に繰り返されることで、1フィールド(又は1フレーム)分の映像信号について、水平方向における各ラインのエッジ成分のレベルを反映した値が第1波形保存メモリ207又は第2波形保存メモリ208に書き込まれる。
例えば、撮像映像中に垂直方向の縦線が存在する場合、その縦線が長いほど同じ水平位置に同じレベルのエッジ成分が抽出される頻度が高くなる。同一位置且つ同一レベルでエッジ成分が複数回抽出された場合、抽出回数が多いほど波形保存メモリの同一アドレスにアクセスされる頻度が高くなり、上述のアクセス制御によってそのアドレスのデータ値は大きくなる。その結果、対応する指標は高輝度で表示されることになる。一方、エッジ成分のレベル(振幅)の大きさを示す指標の長さは、頻度には依存しない。検出される垂直表示を行う場合には、垂直ライン毎に同様の動作が行われる。
<第1表示部及び/又は第2表示部における表示形態>
図5は、第1表示部122及び/又は第2表示部123に、撮像映像と共に、顔検出結果による指定領域と撮像映像のエッジ成分のレベルを表示した状態を模式的に示す図である。本実施形態では、例えば、入力操作部113を通じて撮影モードがMFモードに設定されている場合に、合焦度合いの補助表示として、エッジ成分の波形表示画像を撮像映像に重畳表示する。
ここで、図5について詳述する前に、MF操作時のエッジ成分の波形表示処理について、図6を参照して説明する。図6は、MF操作時の基本的なエッジ成分の波形表示処理のフローチャートである。
システム制御部111は、入力操作部113による焦点距離の調整操作に応じた焦点の移動方向と移動量に基づいて、レンズ駆動部108を制御し、レンズ部101の焦点距離を変更させる。第1表示部122及び/又は第2表示部123には、スルー画像(EVF画像)が逐次表示され、第1表示部122及び/又は第2表示部123はEVFとして機能しているものとする。また、第1表示部122及び/又は第2表示部123に表示される撮像映像内に少なくとも1つの指定領域が設定されているものとする。
システム制御部111は、ビデオ制御部115に対してMF操作の補助表示処理を開始するように指示し、その際に、設定されている指定領域の情報を領域指定回路202に通知する。エッジ抽出回路203は、システム制御部111からの補助表示処理の開始指示に応答して、撮像映像からのエッジ成分の抽出を開始する(ステップS601)。
第1メモリコントローラ204及び波形制御部205は、バンクメモリ部206内の波形保存メモリ(ここでは第2波形保存メモリ208とする)における、エッジ抽出回路203の抽出結果に応じたアドレスへアクセスし、波形生成を行う(ステップS602)。その際、第1メモリコントローラ204は、領域指定回路202から領域指定信号で通知された指定領域で抽出されたエッジ成分に対応するアドレスのデータには、フラグ情報を付加する。
続いて、撮像映像の1フィールド(又は1フレーム)からのエッジ成分の抽出(ステップS601)及び波形生成(ステップS602)が終了したか否かが判定される(ステップS603)。波形生成が終了した場合(S603で“YES”)、処理はステップS604に進められる。波形生成が終了していない場合(S603で“NO”)、処理はステップS601に戻される。
ステップS604では、第2メモリコントローラ211が、第2波形保存メモリ208からエッジ成分のデータを読み出し、映像合成回路210へ供給する。映像合成回路210は、波形表示画像を生成し、生成した波形表示画像をEVF画像に重畳して、第1表示部122及び/又は第2表示部123に表示する。その際、映像合成回路210は、フラグ情報が付加されているエッジ成分のデータを、フラグ情報のないエッジ成分のデータから視覚的に識別できるような波形表示画像を生成する。なお、フラグ情報と表示方法との対応は予め定めておくことができる。
ステップS604の後、第1メモリコントローラ204は、次のフィールド(又はフレーム)に対して用いる波形保存メモリのバンク切り替え処理(ここでは第2波形保存メモリ208から第1波形保存メモリ207への切り替え)を行う(ステップS605)。
ステップS605の処理は、第2メモリコントローラ211によるエッジ成分のデータの読み出し、波形表示画像の生成及び表示という一連の処理を含む。ステップS605の処理はまた、第1メモリコントローラ204によるバンク切り替え及び次フィールド(又はフレーム)についてのエッジ成分の抽出処理をも含む。
このように、EVF画像にその時点における合焦度合いを表すエッジ成分の波形表示画像を重畳させて表示することで、撮影者はEVFを見ながらMFによる合焦を容易に行うことができる。また、波形表示画像のうち、指定領域中のエッジ成分を反映した部分を他の部分と視覚的に識別可能に表示するので、指定領域での合焦度合いを容易に確認することができる。
なお、撮像映像のエッジ成分を示す波形表示画像は、撮像映像上に重畳表示する必要はなく、撮像映像が全画面表示でなければ、撮像映像の周囲に表示するようにしてもよい。また、指定領域で抽出されたエッジ成分のみに基づく波形表示を行うようにしても、指定領域における合焦度合いを容易に識別することができる。表示形態をどのように設定するかを撮影者が任意に、且つ、動的に切り替えることができるように、入力操作部113等に機能を割り当てても構わない。
次に、改めて図5に示した第1表示部122及び/又は第2表示部123における表示形態について詳細に説明する。ここでは、第1表示部122と第2表示部123は共に、アスペクト比が16対9の横長形状の表示画面501を有しているものとする。また、図5では、顔検出機能により検出された指定領域502,503で合焦させるものとする。
図5(a)の水平表示では、撮像映像の水平方向のエッジ成分のレベルを示す指標(つまり、波形)が画面下端部に表示されている。なお、指標の表示は、画面上端部に行ってもよい。撮影者がMF操作を行う場合、フォーカスが合ってくると、被写体のエッジ部分が合焦してくるので、その位置で抽出されるエッジ成分のレベルが大きくなる。そのため、画面下端部に波形表示される指標が高く(波形が大きく)表示されるようになる。よって、撮影者は、EVFを見ながら、波形表示画像のうち所望の被写体に対応した指標が最も高く表示される状態となるようにMF操作を行うことで、所望の被写体に容易に合焦させることができる。
図5(a)の水平表示では、撮像映像のエッジ成分の波形表示画像を撮像映像に対して水平位置を合わせて重畳表示するので、撮像映像に含まれる個々の被写体について、波形表示画像と撮像映像とを垂直方向に見ながら合焦度合いを確認することができる。なお、本実施形態では、撮像映像の垂直方向において、同一のエッジ成分のレベルが大きいほど波形表示画像の輝度が大きくなるように表示制御され、これにより、更に合焦度合いの確認が容易となっている。
図5(b)の垂直表示は、撮像映像の垂直方向のエッジ成分のレベルを示す波形表示画像を、画面右端部に表示したものである。なお、波形の表示は、画面左端部に行ってもよい。図5(a)の水平表示の場合と同様に、撮影者は、波形表示画像のうち、所望の被写体に対応した指標が最も高く表示される状態となるようにMF操作を行うことで、所望の被写体に容易に合焦させることができる。図5(b)の垂直表示では、撮像映像のエッジ成分の波形表示画像を撮像映像に対して垂直位置を合わせて重畳表示するので、撮像映像に含まれる個々の被写体について、波形表示画像と撮像映像とを水平方向に見ながら合焦度合いを確認することができる。
図5(a)の波形表示では、指定領域502のエッジ成分に対応する指標504と指定領域503のエッジ成分に対応する指標505は、指定領域外で抽出されたエッジ成分の指標506とは異なる表示が行われている。つまり、図5(a)では色の違いが表現できないため、指標504,505を線の集合体で表しているが、実際には表示色を異ならせたり、点滅させたり、輝度を変える等、視覚的に識別可能な任意の表示方法を採用することができる。
例えば、指定領域502,503でそれぞれ抽出されたエッジ成分を反映する指標504及び505を「赤」、指定領域外で抽出されたエッジ成分を反映した指標506を「緑」で表示することができる。これにより、撮像映像全体の合焦度合い確認しつつ、注目する指定領域502,503の合焦度合い容易に確認することができる。また、指定領域502,503の矩形枠は、表示しないこともできる。しかし、顔検出機能により検出した顔の中心座標と領域サイズを元にして、映像合成回路210部によりOSDによる矩形枠を撮像映像上に表示することで、フォーカスを合わせる場所の目印として撮影者に提示することで、MF操作性を向上させることができる。これらの特徴は、図5(b)の場合のように、指定領域502のエッジ成分に対応する指標510と指定領域503のエッジ成分に対応する指標511についても同様である。
図5(a)の場合、顔検出機能による指定領域502,503が水平方向で離れている場合、画面下端部に水平表示された、指定領域502,503の各エッジ成分を示す指標504,505は互いに重ならない。よって、指定領域502,503のそれぞれの合焦度合いを、明瞭に把握することができる。
これに対して、図5(c)に示されるように、指定領域502,503同士が、少なくとも一部において水平方向で重複する場合がある。この場合に、指定領域502,503の各エッジ成分を示す指標507,508を画面下端部に水平表示すると、指標507,508同士に重なり部分509が生じ、指定領域502,503のそれぞれの合焦度合いの把握が困難になるおそれがある。この問題を解決した表示形態が、図5(b)に示した表示形態である。すなわち、本実施形態に係るデジタルビデオカメラでは、指定領域502,503の位置関係を識別することにより、図5(c)の水平表示から図5(b)の垂直表示に切り替える。つまり、撮像映像のエッジ成分の抽出方向を水平方向からこれと直交する垂直方向に切り替えて、指標507,508の表示から指標510,511の表示に切り替える。これにより、指標507,508が重なって重なり部分509が生じることを回避して、重複しない指標510,511を表示させることができ、指定領域502,503のそれぞれの合焦度合いを明瞭に把握することができるようになる。
このような図5(c)から図5(b)への表示形態の切り替え制御について、図7及び図8を参照して、以下に説明する。図7は、2つの指定領域502,503の位置判定手法を模式的に示す図である。また、図8は、MF操作時の撮像映像のエッジ成分の波形表示処理のフローチャートである。
図7では、指定領域502,503に注目し、指定領域502の中心を原点とした2次元のX−Y座標を考える。図7(a)では、指定領域503は指定領域502のX方向に位置しているため、指定領域503は第1象現と第4象現とに跨がって位置する。これに対して、図7(b)では、指定領域503は第1象現内にあり、図7(c)では、指定領域503は第1象現と第2象現とに跨がって位置している。
ここで、図7(a)の指定領域503が新たな象現にかかる前を、切り替わり不感帯701とし、撮像映像のエッジ成分の波形表示を図5(a)の水平表示から図5(b)の垂直表示へと切り替えない。図7(a)から図7(b)を経て図7(c)の様に領域503の位置が変化し、別象現(第2象現)にかかった時に、エッジ成分の波形表示を図5(a)から図5(b)に切り替える。逆に、図7(c)から図7(b)の状態になっても、図5(b)から図5(a)へと切り替えず、図7(d)の様に、指定領域503の位置が変化して、別象現(第4象現)にかかった時に、図5(b)から図5(a)へ切り替える。これにより、エッジ成分の波形表示が、水平表示と垂直表示との間で目まぐるしく切り替わってしまうことを防止しながら、指定領域502,503の位置関係に依存して指標504,505,510,511が識別し難くなることを回避することができる。
図8のフローチャートに示す様に、図7を参照して説明した表示の切り替え制御では、先ず、撮像映像からの顔検出処理が行われる(ステップS801)。ここでは、顔検出処理において、2つの顔の中心座標と領域サイズが算出され、指定領域502,503が設定される。続いて、指定領域502を基準となる領域に設定して、指定領域502の中心を原点とする2次元のX−Y座標が設定され(ステップS802)、さらに、注目する領域である指定領域503の位置する象現(領域)が検出される(ステップS803)。そして、指定領域503が切り替わり不感帯701内に位置するか否かが判定される(ステップS804)。
切り替わり不感帯701内にある場合(S804で“YES”)、波形表示画像の表示位置を切り替えないため、処理はステップS801へ戻される。切り替わり不感帯701内にない場合(S804で“YES”)、別の象現に跨がっていることになるので、波形表示画像の表示位置を変更させる処理(図5(a)と図5(b)との間の表示形態の切り替え)が実行される(ステップSS805)。これにより、指定領域502,503の合焦度合いを示す指標504,505,510,511が、指定領域502,503の位置に合わせて、適切に表示されるようになる。
以上に説明したように、本実施形態によれば、MF操作時の合焦を支援するための補助表示として、撮像映像の表示画面において、撮像映像から抽出したエッジ成分のレベルを撮像映像中の被写***置と対応させて波形表示する。これにより、波形表示されるレベルが最も高くなるように焦点調整を行うことで、MF操作での合焦を容易に行うことができる。その際、エッジ成分のレベルを被写***置と対応した位置に表示し、波形表示画像のうち指定領域中のエッジ成分を反映した部分を、他の部分と視覚的に識別可能に表示する。これにより、撮像映像中のどの位置(指定領域)で抽出されたエッジ成分であるのかを容易に認識して、指定領域での合焦度合いを容易に確認することができるので、所望の被写体に対する合焦を容易に行うことができる。これと同時に、撮像映像における指定領域のエッジ成分の波形表示画像を、指定領域同士の位置関係に応じて水平方向と垂直方向との間で切り替えて表示することで、合焦度合いを示す指標の識別を確保している。これにより、MF操作時の合焦操作が一層容易になっている。
《第2実施形態》
第2実施形態は、第1実施形態と比較すると、指定領域のエッジ成分の波形表示方法のみが相違し、それ以外の点については第1実施形態と同様であるため、同内容の事項についての説明を省略し、相違点について詳細に説明する。
本実施形態は、デジタルビデオカメラ本体を回転させて横撮り撮影と縦撮り撮影とを変更したときの、指定領域のエッジ成分の波形表示方法に特徴を有する。すなわち、本実施形態は、撮影画角内で指定領域の位置関係が、表示されている波形表示に対して変化したときに、その変化に対応することを特徴とする。
図9は、デジタルビデオカメラを回転させた際に、第1表示部122及び/又は第2表示部123に、撮像映像と共に、指定領域と撮像映像のエッジ成分の波形表示画像とが表示された状態を模式的に示す図である。図9(a)は、本発明の実施形態には属さない表示形態であって、図5(a)の状態からデジタルビデオカメラ本体を回転させた、そのままの状態が示されている。つまり、撮像映像のエッジ成分を示す波形表示画像は、表示画面901の長辺に沿って表示されている。図9(a)では、表示画面901内の指定領域502,503のそれぞれに対応する指標が、指標902のように重なってしまい、その結果、それぞれの指標を明瞭に識別することが困難となってしまっている。
この問題を解決するために、本実施形態では、図9(b)に示されるように、デジタルビデオカメラ本体の回転に連動してX−Y座標を回転させ、指定領域502,503のそれぞれの指標904,905を重ならないように表示させる。図10は、デジタルビデオカメラを回転させた際の、指定領域502,503の位置判定手法を模式的に示す図である。なお、デジタルビデオカメラ本体の回転の検出には、入力操作部113に含まれる天地方向を判定する重力センサ(不図示)等からの情報が用いられる。
図10(a)のX−Y座標状態は、図5(a)、図7(a)及び図9(a)のX−Y座標状態と同じであり、水平方向とX方向とし、鉛直方向をY方向としている。そのため、基準となる指定領域502の位置は変わらず、指定領域503の位置する象現は「第1象現+第4象現」のままであるので、撮像映像のエッジ成分の波形表示画像の表示位置の切り替えは行われず、図9(a)の表示状態となってしまう。
これに対し、図10(b)は図9(b)のX−Y座標状態を示しており、水平方向がY方向となり、鉛直方向がX方向となっている。すなわち、デジタルビデオカメラ本体の回転に連動させて座標系を回転させることにより、図10(a)のX−Y座標状態から図10(b)のX−Y座標状態への変換を行っている。このような座標系の回転を行うと、基準となる指定領域502の位置は変わらず、指定領域503の位置する象現が、図10(a)の「第1象現+第4象現」から、図10(b)の「第4象現+第3象現」へと変わる。こうして、指定領域503が新たな象現である第3象現に跨がるため、エッジ成分の波形表示画像の表示位置が切り替わり、指定領域502,503のそれぞれに対する指標903,904を重ならずに表示される図9(b)の表示状態とすることが可能になる。
図11は、MF操作時の、デジタルビデオカメラ本体の回転に連動する波形表示処理のフローチャートである。ステップS1101,S1102の各処理は、図8に示したステップS801,S802の各処理と同じであるので、ここでの説明を省略する。ステップS1102の後、デジタルビデオカメラ本体が回転したか(横撮り撮影と縦撮り撮影の変更がなされたか)否かが判定される(ステップS1103)。
回転したと判定された場合(S1103で“YES”)、基準の指定領域(指定領域502)を中心として、X−Y座標を回転させ(ステップS1107)、その後、処理はステップS1104に進められる。また、回転していないと判定された場合(S1103で“NO”)、処理はステップS1104に進められる。ステップS1104〜S1106の各処理は、図8に示したステップS803〜S805の各処理と同じであるので、ここでの説明を省略する。
以上説明したように、本実施形態によれば、デジタルビデオカメラを回転させて、横撮り撮影と縦撮り撮影とを変更した場合に、合焦度合いを示す指標である波形表示画像を適切な位置に表示させることができる。これにより、被写体の位置やデジタルビデオカメラの構え方等を意識することなく、撮影画角内の被写***置に対応する個々の領域に対する合焦度合いの視認性を向上させることができる。
《その他の実施形態》
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
例えば、上記実施形態では、撮像素子102に被写体像を結像するレンズ(レンズ部101)を備える撮像装置についてのみ説明したが、本発明においてレンズは必須ではなく、本発明は、例えば、レンズ交換式デジタルカメラに対しても適用可能である。
また、上記実施形態では、指定領域502,503のエッジ成分の波形表示画像を、撮像映像における指定領域の位置と対応させて(一致させて)表示したが、両者の位置関係が把握可能であれば、必ずしも位置を完全に一致させる必要はない。例えば、水平方向での撮像映像のエッジ成分の波形表示画像を撮像映像の横幅よりも短い範囲に縮小表示しても、撮像映像と波形表示画像との対応関係を把握することができ、同等の効果を得ることができる。
さらに、上記実施形態では、指定領域502,503のエッジ成分の波形表示画像をMF操作時に補助表示する場合についてのみ説明したが、AF操作時にも、撮影者の設定や指示に応じて或いは常時、撮像映像のエッジ成分の波形表示が行われるようにしてもよい。これにより、AF操作時の合焦度合いや合焦位置の確認が一層容易となる。
加えて、複数の領域が2つではなく、3つ以上の場合には、次の通りに処理することができる。図12は、3つ以上の指定領域の位置判定手法を模式的に示す図であり、図12(a)は指定領域が3つの場合を、図12(b)は、指定領域が3つより多い例として、指定領域が5つの場合をそれぞれ示している。
図12(a)の場合、X方向とY方向のそれぞれの方向から見たときの領域が占める割合を比較する。すなわち、図12(a)に示されるように、
(A+B)≧(C+D) ‥‥‥(1)
なのか、
(A+B)<(C+D) ‥‥‥(2)
なのかを判断する。その結果、エッジ成分の波形表示画像の表示位置を、上記(1)の関係が成立する場合にはX軸に並行に、上記(2)の関係が成立する場合にはY軸に並行に切り替える。また、図12(b)の場合は、指定領域の大きさの上位から数えて閾値を持たせ、閾値以下の領域内の表示色制御等を止める等することで、エッジ成分の波形表示画像の重なりを軽減し、視認性を向上させる。
本発明は以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。