JP2009290255A - 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム - Google Patents
撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム Download PDFInfo
- Publication number
- JP2009290255A JP2009290255A JP2008137425A JP2008137425A JP2009290255A JP 2009290255 A JP2009290255 A JP 2009290255A JP 2008137425 A JP2008137425 A JP 2008137425A JP 2008137425 A JP2008137425 A JP 2008137425A JP 2009290255 A JP2009290255 A JP 2009290255A
- Authority
- JP
- Japan
- Prior art keywords
- face
- detected
- depth
- focus frame
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Studio Devices (AREA)
Abstract
【課題】顔のみならず注目オブジェクトにもピントの合った写真を撮影することを可能とした構成を実現する。
【解決手段】顔領域を検出し、検出した顔領域と、顔の注目するオブジェクトにフォーカスフレームを設定し、フォーカスフレーム対応の距離を測定し、これらの距離範囲を含む被写界深度を算出する。算出した被写界深度に対応する撮影パラメータを設定して撮影を行なう。例えば検出した顔の視線方向を検出して、視線方向のオブジェクトを検出して、検出した顔領域と視線方向オブジェクトにフォーカスフレームを設定する。顔のみならず視線方向オブジェクトに対してもフォーカスフレームを設定して被写界深度を求めて深度優先AEによる撮影を行うことで、顔のみならず注目オブジェクトにもピントの合った写真の撮影が可能となる。
【選択図】図9
【解決手段】顔領域を検出し、検出した顔領域と、顔の注目するオブジェクトにフォーカスフレームを設定し、フォーカスフレーム対応の距離を測定し、これらの距離範囲を含む被写界深度を算出する。算出した被写界深度に対応する撮影パラメータを設定して撮影を行なう。例えば検出した顔の視線方向を検出して、視線方向のオブジェクトを検出して、検出した顔領域と視線方向オブジェクトにフォーカスフレームを設定する。顔のみならず視線方向オブジェクトに対してもフォーカスフレームを設定して被写界深度を求めて深度優先AEによる撮影を行うことで、顔のみならず注目オブジェクトにもピントの合った写真の撮影が可能となる。
【選択図】図9
Description
本発明は、撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラムに関する。さらに、詳細には、深度優先AE(Auto Exposure(自動露出)行なう撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラムに関する。
スチルカメラやビデオカメラなどの撮像装置において被写体を撮影する場合、被写体に対するピントを合わせ(フォーカス制御)が行われる。
例えば、図1に示すカメラ10において、被写体20にピントを合わせた場合、被写体20のみならず、被写体20の前後にピントの合う領域(合焦領域)a〜bが発生する。この領域a〜bは、被写界深度と呼ばれる。被写界深度の範囲は、カメラと被写体までの距離、カメラのレンズの焦点距離、カメラの露出(絞り)等によって決定される。この被写界深度を考慮した撮影を行うことで、カメラからの距離の異なる被写体のすべてにピントのあった撮影が可能となる。
昨今の多くのカメラには、深度優先AE(Auto Exposure(自動露出)機能が備えられている。深度優先AEは、オートフォーカス処理に際して、撮影を行う前に、カメラの取得画像に複数のポイントを設定して、設定した複数ポイントのカメラからの距離を計算し、最も手前にある被写体と最も奥にある被写体の両方にピントが合うように、絞り値などのパラメータを自動的に調節する機構である。この深度優先AEは、例えば集合写真を撮る場合などに適している。
しかし、例えば集合写真を撮る場合に深度優先AEを適用した撮影を行っても、前列の者にピントを合わせると後列の者がぼけて写ってしまうことがある。これは前列の者に対してはピントが合っているが、後列の者が被写界深度から外れてしまっている場合に発生する。このような結果は写真を撮って見なければわからない。
深度優先AEを適用して例えば図2に示す集合写真を撮影する場合について説明する。図2は、カメラによって取得される画像30を示している。これは撮影処理を行う前にカメラによって取得される画像、すなわちオートフォーカス処理を行うための画像30を示している。例えば、距離計測フレームであるフォーカスフレーム(測距枠)31,32が撮影画像の複数ポイントに設定され、被写体までの距離を計測してフォーカスポイントを決定する。図2に示す例では、予め設定された十字上の7つのフォーカスフレーム(測距枠)31,32を利用している。図では、合焦したフォーカスフレーム32を実線で示し、合焦していないフォーカスフレーム31を点線で示している。
図2に示す例では、7つのフォーカスフレーム(測距枠)31,32を利用して、前列の者と後列の被写体となる人物の各々にフォーカスフレームが設定され、その距離が算出され、これらの人物に対応するフォーカスフレームは、合焦フォーカスフレーム32として識別される。この、合焦フォーカスフレーム32の距離情報を利用して、複数のカメラ〜被写体間距離情報に基づいて最適な絞り値(Av)を算出し、その算出した絞り値(Av)を決定して全員にピントが合うようにする。
なお、絞り値(Av)とシャッタースピード(Tv)と露出値(Ev)との関係は、例えば、
Ev=Av+Tv
として示される。
なお、絞り値(Av)とシャッタースピード(Tv)と露出値(Ev)との関係は、例えば、
Ev=Av+Tv
として示される。
ただし、これまでの一般的な深度優先AEによる撮影処理では、カメラによって検知した被写体の全てにピントが合うようにして絞り値などの撮影パラメータを求める処理を行っている。従って、例えば図3のように撮りたい被写体以外のオブジェクト(馬)40が存在し、このオブジェクト(馬)40に対してフォーカスフレーム41が設定された場合、このオブジェクト(馬)40の距離情報も考慮した撮影パラメータ設定処理が実行される。すなわち、前方の人物のみならず後方のオブジェクト(馬)40のすべてにピントが合うような絞り値(Av)が算出されて自動露出(AE)制御を行って撮影処理が行われることになる。
逆に、図4に示すように、フォーカスフレームが撮影対象としている被写体51,52に設定されないこともある。このような場合、これらの被写体51,52までの距離計測は実行されず、ピント合わせの対象から漏れてしまう。その結果、これらの被写体51,52のピントがぼけた写真が撮影されてしまう。
また、図5に示すような場合にも目的とする被写体のピントぼけの問題が発生する。図5に示す例は、2人の人物の顔71,72ができたてのパン75を注目している状況をカメラで撮影しようとしているところである。
図2〜図4を参照して説明した例は、測距枠としてのフォーカスフレームを固定した構成としていたが、近年のカメラ技術の発展により、従来の固定配置されたフォーカスフレームの他、任意の点もしくはエリアにフォーカスフレームを配置してピントを合わせることが可能となっている。また、顔検出技術により、映し出しているプレビュー映像から人物を検出し、その顔へリアルタイムでピントを合わせることができる。なお、間検出によるフォーカス制御処理については、例えば特許文献1(特開2003−92699号公報)に記載されている。
図5には、カメラによって取得される画像70を示している。これは撮影処理を行う前の取得画像である。図5に示す例は、顔検出技術を適用して、まず、2人の人物の顔71,72を特定し、その人物の顔71,72へフォーカスフレーム81,82を設定している例である。このフォーカスフレーム81,82において顔71,72までの距離が測定され、この距離情報を利用して、これらの顔71,72が被写界深度の範囲内になるように絞り値を制御した深度優先AEを実行して撮影することで、撮影時に2人の人物の顔71,72へピントを合わせこむことができる。
しかし、この場合、ピントが合っているのは人物の顔だけであることがある。図6は、図5と同様の撮影環境を上から見た図である。カメラ90の前方に顔71,72と、パン75があるが、パン75は、顔71,72よりカメラ90に近い位置にある。
このような環境で、顔検出処理によって顔71,72が検出され、これらの検出された顔71,72までの距離測定のためのフォーカスフレーム81,82が設定される。このフォーカスフレーム81,82の設定された顔71,72が被写界深度85の範囲になるように絞り値が設定され深度優先AEによる撮影が行われる。結果として、カメラ90に近い位置にあるパン75は、被写界深度85の範囲からはずれてしまう。すなわち、このような撮影を行うことで、顔71,72にはピントが合うが、顔71,72によって注目されているパン75にはピントが合わない写真が撮影されてしまう。
このように、撮影者は、人物が注目している対象も被写体として識別し、総合的にピントを合わせたいという意図があるにも関わらず、顔検出処理と深度優先AEの併用によりこのような弊害が発生するという問題がある。
特開2003−92699号公報
本発明は、例えば上記問題点に鑑みてなされたものであり、顔検出処理を適用して顔を検出するとともに、人物のみならず人物が注視する対象についてもフォーカスフレームを設定して、人物および人物が注視する対象についても被写界深度の範囲に設定する深度優先AEによる撮影を可能とする撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラムを提供することを目的とする。
本発明の第1の側面は、
入力画像の解析により顔領域を検出する顔検出部と、
前記顔検出部の検出した顔領域と、前記顔検出部の検出した顔の注目するオブジェクトに対してフォーカスフレームを設定するフォーカスフレーム設定部と、
前記フォーカスフレーム設定部の設定したフォーカスフレームに対応する距離を測定する距離測定部と、
前記距離測定部の測定した距離の距離範囲を含む被写界深度を算出する被写界深度算出部と、
前記被写界深度算出部の算出した被写界深度が設定される撮影パラメータを設定するパラメータ設定部を有する撮像装置にある。
入力画像の解析により顔領域を検出する顔検出部と、
前記顔検出部の検出した顔領域と、前記顔検出部の検出した顔の注目するオブジェクトに対してフォーカスフレームを設定するフォーカスフレーム設定部と、
前記フォーカスフレーム設定部の設定したフォーカスフレームに対応する距離を測定する距離測定部と、
前記距離測定部の測定した距離の距離範囲を含む被写界深度を算出する被写界深度算出部と、
前記被写界深度算出部の算出した被写界深度が設定される撮影パラメータを設定するパラメータ設定部を有する撮像装置にある。
さらに、本発明の撮像装置の一実施態様において、前記撮像装置は、さらに、前記顔検出部の検出した顔の視線方向を検出する視線方向検出部と、前記視線方向検出部の検出した視線方向のオブジェクトまたはポイントを検出する視線方向オブジェクト検出部を有し、前記フォーカスフレーム設定部は、前記顔検出部の検出した顔領域と、前記視線方向オブジェクト検出部の検出した視線方向オブジェクトまたはポイントに測距枠としてのフォーカスフレームを設定する構成である。
さらに、本発明の撮像装置の一実施態様において、前記視線方向オブジェクト検出部は、前記顔検出部の検出した顔が複数ある場合、複数の顔に対応する複数の視線方向の交点を視線方向オブジェクト位置として識別する処理を実行する構成である。
さらに、本発明の撮像装置の一実施態様において、前記撮像装置は、前記パラメータ設定部の設定したパラメータを適用した深度優先AE(Auto Exposure)撮影処理を実行する構成である。
さらに、本発明の撮像装置の一実施態様において、前記パラメータ設定部の設定するパラメータは、深度優先AE(Auto Exposure)撮影処理に適用するパラメータである絞り値を含む。
さらに、本発明の第2の側面は、
撮像装置において実行する撮像装置制御方法であり、
顔検出部が、入力画像の解析により顔領域を検出する顔検出ステップと、
フォーカスフレーム設定部が、前記顔検出ステップにおいて検出した顔領域と、前記顔検出部の検出した顔の注目するオブジェクトに対してフォーカスフレームを設定するフォーカスフレーム設定ステップと、
距離測定部が、前記フォーカスフレーム設定ステップにおいて設定したフォーカスフレームに対応する距離を測定する距離測定ステップと、
被写界深度算出部が、前記距離測定ステップにおいて測定した距離の距離範囲を含む被写界深度を算出する被写界深度算出ステップと、
前パラメータ設定部が、記被写界深度算出ステップにおいて算出した被写界深度が設定される撮影パラメータを設定するパラメータ設定ステップと、
を有する撮像装置制御方法にある。
撮像装置において実行する撮像装置制御方法であり、
顔検出部が、入力画像の解析により顔領域を検出する顔検出ステップと、
フォーカスフレーム設定部が、前記顔検出ステップにおいて検出した顔領域と、前記顔検出部の検出した顔の注目するオブジェクトに対してフォーカスフレームを設定するフォーカスフレーム設定ステップと、
距離測定部が、前記フォーカスフレーム設定ステップにおいて設定したフォーカスフレームに対応する距離を測定する距離測定ステップと、
被写界深度算出部が、前記距離測定ステップにおいて測定した距離の距離範囲を含む被写界深度を算出する被写界深度算出ステップと、
前パラメータ設定部が、記被写界深度算出ステップにおいて算出した被写界深度が設定される撮影パラメータを設定するパラメータ設定ステップと、
を有する撮像装置制御方法にある。
さらに、本発明の撮像装置制御方法の一実施態様において、前記撮像装置制御方法は、さらに、視線方向検出部が、前記顔検出ステップにおいて検出した顔の視線方向を検出する視線方向検出ステップと、視線方向オブジェクト検出部が、前記視線方向検出ステップにおいて検出した視線方向のオブジェクトまたはポイントを検出する視線方向オブジェクト検出ステップを有し、前記フォーカスフレーム設定ステップは、前記顔検出ステップにおいて検出した顔領域と、前記視線方向オブジェクト検出ステップにおいて検出した視線方向オブジェクトまたはポイントに測距枠としてのフォーカスフレームを設定するステップである。
さらに、本発明の第3の側面は、
撮像装置において撮像装置制御処理を実行させるコンピュータ・プログラムであり、
顔検出部に、入力画像の解析により顔領域を検出させる顔検出ステップと、
フォーカスフレーム設定部に前記顔検出ステップにおいて検出した顔領域と、前記顔検出部の検出した顔の注目するオブジェクトに対してフォーカスフレームを設定させるフォーカスフレーム設定ステップと、
距離測定部に、前記フォーカスフレーム設定ステップにおいて設定したフォーカスフレームに対応する距離を測定させる距離測定ステップと、
被写界深度算出部に、前記距離測定ステップにおいて測定した距離の距離範囲を含む被写界深度を算出させる被写界深度算出ステップと、
前パラメータ設定部に、記被写界深度算出ステップにおいて算出した被写界深度が設定される撮影パラメータを設定させるパラメータ設定ステップと、
を有するコンピュータ・プログラムにある。
撮像装置において撮像装置制御処理を実行させるコンピュータ・プログラムであり、
顔検出部に、入力画像の解析により顔領域を検出させる顔検出ステップと、
フォーカスフレーム設定部に前記顔検出ステップにおいて検出した顔領域と、前記顔検出部の検出した顔の注目するオブジェクトに対してフォーカスフレームを設定させるフォーカスフレーム設定ステップと、
距離測定部に、前記フォーカスフレーム設定ステップにおいて設定したフォーカスフレームに対応する距離を測定させる距離測定ステップと、
被写界深度算出部に、前記距離測定ステップにおいて測定した距離の距離範囲を含む被写界深度を算出させる被写界深度算出ステップと、
前パラメータ設定部に、記被写界深度算出ステップにおいて算出した被写界深度が設定される撮影パラメータを設定させるパラメータ設定ステップと、
を有するコンピュータ・プログラムにある。
さらに、本発明のコンピュータ・プログラムの一実施態様において、前記コンピュータ・プログラムは、さらに、視線方向検出部に、前記顔検出ステップにおいて検出した顔の視線方向を検出させる視線方向検出ステップと、視線方向オブジェクト検出部に、前記視線方向検出ステップにおいて検出した視線方向のオブジェクトまたはポイントを検出させる視線方向オブジェクト検出ステップを有し、前記フォーカスフレーム設定ステップは、前記顔検出ステップにおいて検出した顔領域と、前記視線方向オブジェクト検出ステップにおいて検出した視線方向オブジェクトまたはポイントに測距枠としてのフォーカスフレームを設定させるステップである。
なお、本発明のコンピュータ・プログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なコンピュータ・プログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ・システム上でプログラムに応じた処理が実現される。
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
本発明の一実施例の構成によれば、入力画像の解析により顔領域を検出し、検出した顔領域と、顔の注目するオブジェクトに対してフォーカスフレームを設定し、設定したフォーカスフレームに対応する距離を測定して、これらの距離範囲を含む被写界深度を算出する。その後、算出した被写界深度に対応する撮影パラメータを設定して撮影を行なう。具体的には、例えば検出した顔の視線方向を検出して、視線方向のオブジェクトまたはポイントを検出して、検出した顔領域と、視線方向オブジェクトまたはポイントにフォーカスフレームを設定する。このように顔のみならず視線方向オブジェクトに対してもフォーカスフレームを設定して被写界深度を求めて深度優先AEによる撮影を行うことで、顔のみならず注目オブジェクトにもピントの合った写真を撮影することが可能となる。
以下、図面を参照しながら本発明の撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラムの詳細について説明する。
図7を参照して本発明において適用する撮像装置100の一実施例について説明する。本発明の撮像装置は、オートフォーカス機能を持つ撮像装置である。フォーカスレンズ101、ズームレンズ102を介する入射光は、例えばCCD(Charge Coupled Device)などの撮像素子103に入力し、撮像素子103において光電変換される。光電変換データは、アナログ信号処理部104に入力され、アナログ信号処理部104においてノイズ除去等の処理がなされ、A/D変換部105においてデジタル信号に変換される。A/D変換部105においてデジタル変換されたデータは、例えばフラッシュメモリなどによって構成される記録デバイス115に記録される。さらに、モニタ117、ビューファインダ(EVF)116に表示される。モニタ117、ビューファインダ(EVF)116には撮影の有無に関わらず、レンズを介する画像がスルー画として表示される。
操作部118は、レリーズスイッチ、ズームボタン、各種の操作情報を入力する操作ボタン、深度優先AEの設定など、撮影モードを設定するためのモード設定部等を含む操作部である。制御部110は、CPUを有し、撮像装置の実行する各種の処理の制御を予めメモリ(ROM)120などに格納されたプログラムに従って実行する。メモリ(EEPROM)119は不揮発性メモリであり、画像データ、各種の補助情報、プログラムなどが格納される。メモリ(ROM)120は、制御部(CPU)110が使用するプログラムや演算パラメータ等を格納する。メモリ(RAM)121は、制御部(CPU)110において使用するプログラムや、その実行において適宜変化するパラメータ等を格納する。
モータドライバ112は、フォーカスレンズ101に対応して設定されたフォーカスレンズ駆動モータ113、ズームレンズ102に対応して設定されたズームレンズ駆動モータ114を駆動する。垂直ドライバ107は、撮像素子(CCD)103を駆動する。タイミングジェネレータ106は、撮像素子103およびアナログ信号処理部104の処理タイミングの制御信号を生成して、これらの各処理部の処理タイミングを制御する。
顔検出部130は、レンズを介して入力される画像データの解析を行い、画像データ中の人物の顔を検出する。顔検出情報は、制御部110に送られ、制御部110では、検出された顔情報に基づいて、検出された顔の領域にオートフォーカス(AF)のためのフォーカスフレーム(測距枠)を設定し、フォーカス制御を行なう。本発明の撮像装置では、検出された顔の領域にフォーカスフレーム(測距枠)を設定するのみではなく、顔領域から推定される人物の視線方向のオブジェクト領域を推定し、このオブジェクト領域にも測距枠を設定して、これら複数の測距枠に基づく距離検出を行う。
本発明の撮像装置100において実行する処理の概要について、図8を参照して説明する。図8は、先に説明した図5、図6と同様の環境においてカメラによって取得される画像200を示している。これは撮影処理を行う前の取得画像である。
画像200には、人物の顔201,202と、パン301が含まれている。なお、これら、人物の顔201,202と、パン301の位置は、先に図6を参照して説明した配置と同様、パン301が、人物の顔201,202よりカメラに近い位置にあるものとする。
本発明の撮像装置100は、まず、顔検出部130の処理により画像200から人物の顔201,202の領域を判別し、検出された顔領域にフォーカスフレーム301,302を設定する。ここまでの処理は、先に図5、図6を参照して説明した処理と同様である。
本発明の撮像装置100は、さらに、顔検出部130または制御部110において、検出された顔画像を解析し、検出された顔の視線方向を特定し、特定した視線方向に存在するオブジェクト(物体)にもフォーカスフレーム(測距枠)の設定を実行する。
図8に示す例では、検出された人物の顔201,202の各々について、それぞれ視線方向解析を実行し、各視線方向にあるオブジェクト、この例ではオブジェクト(パン)251を検出する。このオブジェクト(パン)251に、フォーカスフレーム(測距枠)351を設定する。
この結果、図8に示す例では、フォーカスフレーム(測距枠)は、
人物の顔201に対するフォーカスフレーム(測距枠)251、
人物の顔202に対するフォーカスフレーム(測距枠)252、
オブジェクト(パン)251に対するフォーカスフレーム(測距枠)351、
これらの3つのフォーカスフレーム(測距枠)が設定されることになる。
人物の顔201に対するフォーカスフレーム(測距枠)251、
人物の顔202に対するフォーカスフレーム(測距枠)252、
オブジェクト(パン)251に対するフォーカスフレーム(測距枠)351、
これらの3つのフォーカスフレーム(測距枠)が設定されることになる。
その後の処理は、これらの3つのフォーカスフレーム(測距枠)に対応する距離測定を行い、測定された距離のすべてが、被写界深度内に設定されるように絞り値(Av)の設定などを行い、深度優先AEによる撮影を実行する。結果として、図9に示すように、人物の顔201、人物の顔202、オブジェクト(パン)251のすべてが被写界深度381の領域内に設定された撮影画像を取得することが可能となり、人物の顔のみならず、顔との位置(距離)が異なるオブジェクトにもピントの合った写真を撮影することが可能となる。
現在の顔認識技術では、人物の顔をさらに細分化して解析し、顔の部分(目、鼻、口)などの識別や傾きも得ることができる。本発明の撮像装置では、顔画像の解析によって視線や顔の傾きの検出を実行して、画像から検出された顔の視線方向を特定する。
本発明の撮像装置において実行する処理について、図10を参照して説明する。図10は、本発明の撮像装置100が、深度優先AEによる撮影を行う際に実行する処理について説明する機能ブロック図である。なお図10に示す各ブロック中、ブロック502〜508の処理は、図7に示す構成中、主に制御部110、顔検出部130、デジタル信号処理部108において実行される。
画像入力部501は、例えばレンズを介して入力された画像の入力処理を行う。なお、入力画像はデジタル信号処理部108においてデジタル画像データとされる。顔検出部502は、画像解析によって入力画像に含まれる顔領域を検出する。
視線方向検出部503は、顔検出部502において検出された顔の各々について顔の向き、目領域解析等を実行して、各顔の視線方向を検出する。
視線方向オブジェクト検出部504は、視線方向検出部503において検出された顔対応の視線方向に存在するオブジェクトを検出する。例えば図8、図9に示す例ではオブジェクト(バン)251の検出を行う。ただし、具体的な対象物を検出することは必須ではない。なぜならば、人物が向いている方向や先がわかれば、その地点をフォーカスポイントに設定すれば良いからである。検出できた対象物あるいは地点をフォーカスフレーム設定位置として特定できればよい。
視線方向オブジェクト検出部504は、視線方向検出部503において検出された顔対応の視線方向に存在するオブジェクトを検出する。例えば図8、図9に示す例ではオブジェクト(バン)251の検出を行う。ただし、具体的な対象物を検出することは必須ではない。なぜならば、人物が向いている方向や先がわかれば、その地点をフォーカスポイントに設定すれば良いからである。検出できた対象物あるいは地点をフォーカスフレーム設定位置として特定できればよい。
フォーカスフレーム設定部505は、顔検出部502の検出した顔領域と、視線方向オブジェクト検出部504の検出した視線方向オブジェクトまたは地点に対して測距枠としてのフォーカスフレームを設定する。
距離測定部506は、フォーカスフレーム設定部505の設定したフォーカスフレームに対応する距離(カメラからの距離)を測定する。
距離測定部506は、フォーカスフレーム設定部505の設定したフォーカスフレームに対応する距離(カメラからの距離)を測定する。
被写界深度算出部507は、フォーカスフレーム設定部505の設定した全てのフォーカスフレームに対応する距離が含まれる被写界深度を算出する。
深度優先AEパラメータ算出部508は、被写界深度算出部507の算出したフォーカスフレームを設定したすべての顔とオブジェクトまたはポイントが被写界深度の領域に含まれるように最適な絞り値(Av)やシャッタースピード(Tv)、露出値(Ev)など、深度優先AEを実行するための制御パラメータを決定する。
深度優先AEパラメータ算出部508は、被写界深度算出部507の算出したフォーカスフレームを設定したすべての顔とオブジェクトまたはポイントが被写界深度の領域に含まれるように最適な絞り値(Av)やシャッタースピード(Tv)、露出値(Ev)など、深度優先AEを実行するための制御パラメータを決定する。
この深度優先AEパラメータ算出部508の決定したパラメータを適用して深度優先AE撮影を実行することで、顔およびその顔の視線方向のオブジェクトのすべてにピントの合った画像を撮影することができる。
本発明の撮像装置において実行する処理シーケンスについて、図11に示すフローチャートを参照して説明する。図10に示す機能ブロック図の各ブロックと対応づけながら説明する。
ステップS101の処理は、図10に示す画像入力部501の処理であり、例えばレンズを介して入力された画像の入力処理を行う。なお、入力画像はデジタル信号処理部108においてデジタル画像データとされる。
ステップS102において、人物の顔領域の検出を行う。この処理は、図10に示す顔検出部502の処理であり、画像解析によって入力画像に含まれる顔領域を検出する。ステップS103では、顔が検出されたか否かを判定する。顔が検出されない場合(ステツプS103の判定がNo)は、このフローの処理、すなわち顔検出に基づく顔領域と視線方向に対応するフォーカスフレームの設定処理は終了する。
顔が検出された場合(ステツプS103の判定がYes)は、ステップS104に進む。ステップS104では、まず、検出された顔領域に対するフオーカスフレームを設定する。この処理は、図10に示すフォーカスフレーム設定部505の処理として実行される。
次にステップS105において、顔の視線方向を解析する。これは図10に示す視線方向検出部503の処理である。顔検出部502において検出された顔の各々について顔の向き、目領域解析等を実行して、各顔の視線方向を検出する。
ステップS106では、視線方向の検出に成功したか否かを判定する。例えば検出された顔領域が小さい場合などには視線方向の検出ができない場合がある。このような場合は、ステップS106の判定をNoとして、ステップS111に進んで、顔領域に対してのみ設定されたフォーカスフレームに対応する距離算出を実行する。
ステップS106において、視線方向の検出に成功したと判定した場合には、ステップS107に進み、視線方向のオブジェクトまたは地点、すなわち顔領域以外のフォーカスフレーム設定ポイントを検出する。この処理は、図10に示す視線方向オブジェクト検出部504の処理である。視線方向オブジェクト検出部504は、検出された顔の視線方向に存在するオブジェクトを検出する。
ステップS108では、オブジェクト検出に成功したか否かを判定する。オブジェクト検出に成功した場合は、ステップS109に進み、検出したオブジェクトに対してフォーカスフレームの設定を実行する。オブジェクト検出に成功しなかった場合は、ステップS110に進み、オブジェクトではなく視線方向の所定位置にフォーカスフレームの設定を実行する。例えば、複数の顔に対応する複数の視線方向の交点位置などをフォーカスフレームの設定ポイントとする。これらの処理は、図10に示すフォーカスフレーム設定部505の処理として実行される。
次に、ステップS111に進み、これまでに設定されたフォーカスフレームに対応する距離算出を行う。この処理は、図10に示す距離測定部506の処理である。距離測定部506は、フォーカスフレーム設定部505の設定したフォーカスフレームに対応する距離(カメラからの距離)を測定する。
次にステップS112において、フォーカスフレーム対応の距離情報を利用して、被写界深度を算出する。この処理は図10に示す被写界深度算出部507の処理である。被写界深度算出部507は、設定した全てのフォーカスフレームに対応する距離が含まれる被写界深度を算出する。
その後、図10に示す深度優先AEパラメータ算出部508が、すべての顔と視線方向位置のオブジェクトまたはポイントが被写界深度の領域に含まれるように最適な絞り値(Av)やシャッタースピード(Tv)、露出値(Ev)など、深度優先AEを実行するための制御パラメータを決定する。
この深度優先AEパラメータ算出部508の決定したパラメータを適用して深度優先AE撮影を実行することで、顔およびその顔の視線方向のオブジェクトのすべてにピントの合った画像を撮影することができる。
本発明では、顔の視線方向のオブジェクト検出処理を行っているが、その視線方向オブジェクトの検出処理例について、図12以下を参照して説明する。
図12は検出された2つの顔A601と、顔B602が注視しているオブジォクトである視線方向オブジェクト615を示している。さらに、これらの画像を取得している撮像装置の画像である撮像装置取得画像621を示している。
まず、顔画像の解析によって顔の向いている角度(ピッチ(=前後方向の傾き)、ヨー(=左右方向の傾き))が求められる。次に、顔面に対する法線を得ることができる。図に示す顔Aの法線a611、顔Bの法線b612である。
この図12に示す例は、これらの法線a611、法線b612が交差するポイントに注視する物体、すなわち視線方向オブジェクト615がある場合を想定する。
図に示すように、撮像装置の法線をZ軸、撮像装置の水平方向をX軸、撮像装置の垂直方向をY軸として、顔面に対する法線をXZ面とYZ面に射影する。
図13はXZ面に射影された法線を表し、
図14はYZ面に射影された法線を表す。
図13はXZ面に射影された法線を表し、
図14はYZ面に射影された法線を表す。
これら図13、図14の2つの図において交わった点のX軸の値とY軸の値を撮像素子上にマッピングして得られる撮像装置上の座標(α,β)が注視している物体の位置を表す。すなわち、2つの顔が注視しているオブジェクトの位置である。図10に示す視線方向オブジェクト検出部504は、例えばこのような手法により視線方向オブジェクトを検出する。
なお、本発明では注視している物体を1つに限定しない。たとえば4人の人物が検出され、2人ずつ2つのものを注視していたとするならば、4人の視線あるいは顔の法線を辿って交わった点(この場合は2点)を、それぞれフォーカスフレーム設定位置として、距離を測定し、全てのフォーカスフレーム設定位置の距離を被写界深度に組み入れて深度優先AEによる撮影を実行するといった応用が可能である。
このように本発明の撮像装置では、顔認識技術と任意のフォーカスポイント設定を応用して、従来からある深度優先AEの機能を向上させることが可能となる。深度優先AEはユーザが任意のフォーカスポイントをセットする方法とフォーカスフレームで同時に合焦したエリアをセットする方法があったが、前者はユーザの操作を煩雑化し、後者は決して完全なものではなかった。本発明は新たな深度優先AEの方法を実現している。本発明を用いれば、コンパクトデジタルカメラのように自動撮影モードにおいてユーザの意図している写真、すなわち、ピントの合わせたい被写体のすべてにピントを合わせた写真を撮影することが可能となる。
なお、本発明はデジタルスチルカメラ、デジタルビデオカメラ、カメラつき携帯電話など様々な機器に適用可能である。
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本発明の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
以上、説明したように、本発明の一実施例の構成によれば、入力画像の解析により顔領域を検出し、検出した顔領域と、顔の注目するオブジェクトに対してフォーカスフレームを設定し、設定したフォーカスフレームに対応する距離を測定して、これらの距離範囲を含む被写界深度を算出する。その後、算出した被写界深度に対応する撮影パラメータを設定して撮影を行なう。具体的には、例えば検出した顔の視線方向を検出して、視線方向のオブジェクトまたはポイントを検出して、検出した顔領域と、視線方向オブジェクトまたはポイントにフォーカスフレームを設定する。このように顔のみならず視線方向オブジェクトに対してもフォーカスフレームを設定して被写界深度を求めて深度優先AEによる撮影を行うことで、顔のみならず注目オブジェクトにもピントの合った写真を撮影することが可能となる。
10 カメラ
20 被写体
30 画像
31,32 フォーカスフレーム
40 オブジェクト
51,52 被写体
70 画像
71,72 顔
75 オブジェクト
81,82 フォーカスフレーム
85 被写界深度
90 カメラ
100 撮像装置
101 フォーカスレンズ
102 ズームレンズ
103 撮像素子
104 アナログ信号処理部
105 A/D変換部
106 タイミングジェネレータ(TA)
107 垂直ドライバ
108 デジタル信号処理部
110 制御部
112 モータドライバ
113,114 モータ
115記録デバイス115
116 ビューファインダ(EVF)
117 モニタ
118 操作部
119 メモリ(EEPROM)
120 メモリ(ROM)
121 メモリ(RAM)
200 画像
201,202 顔
251 オブジェクト
301,302,351 フォーカスフレーム
501 画像入力部
502 顔検出部
503 視線方向検出部
504 視線方向オブジェクト検出部
505 フォーカスフレーム設定部
506 距離測定部
507 被写界深度算出部
508 深度優先AEパラメータ設定部
601,602 顔
611,612 法線
615 視線方向オブジェクト
621 撮像装置取得画像
20 被写体
30 画像
31,32 フォーカスフレーム
40 オブジェクト
51,52 被写体
70 画像
71,72 顔
75 オブジェクト
81,82 フォーカスフレーム
85 被写界深度
90 カメラ
100 撮像装置
101 フォーカスレンズ
102 ズームレンズ
103 撮像素子
104 アナログ信号処理部
105 A/D変換部
106 タイミングジェネレータ(TA)
107 垂直ドライバ
108 デジタル信号処理部
110 制御部
112 モータドライバ
113,114 モータ
115記録デバイス115
116 ビューファインダ(EVF)
117 モニタ
118 操作部
119 メモリ(EEPROM)
120 メモリ(ROM)
121 メモリ(RAM)
200 画像
201,202 顔
251 オブジェクト
301,302,351 フォーカスフレーム
501 画像入力部
502 顔検出部
503 視線方向検出部
504 視線方向オブジェクト検出部
505 フォーカスフレーム設定部
506 距離測定部
507 被写界深度算出部
508 深度優先AEパラメータ設定部
601,602 顔
611,612 法線
615 視線方向オブジェクト
621 撮像装置取得画像
Claims (9)
- 入力画像の解析により顔領域を検出する顔検出部と、
前記顔検出部の検出した顔領域と、前記顔検出部の検出した顔の注目するオブジェクトに対してフォーカスフレームを設定するフォーカスフレーム設定部と、
前記フォーカスフレーム設定部の設定したフォーカスフレームに対応する距離を測定する距離測定部と、
前記距離測定部の測定した距離の距離範囲を含む被写界深度を算出する被写界深度算出部と、
前記被写界深度算出部の算出した被写界深度が設定される撮影パラメータを設定するパラメータ設定部を有する撮像装置。 - 前記撮像装置は、さらに、
前記顔検出部の検出した顔の視線方向を検出する視線方向検出部と、
前記視線方向検出部の検出した視線方向のオブジェクトまたはポイントを検出する視線方向オブジェクト検出部を有し、
前記フォーカスフレーム設定部は、前記顔検出部の検出した顔領域と、前記視線方向オブジェクト検出部の検出した視線方向オブジェクトまたはポイントに測距枠としてのフォーカスフレームを設定する構成である請求項1に記載の撮像装置。 - 前記視線方向オブジェクト検出部は、
前記顔検出部の検出した顔が複数ある場合、複数の顔に対応する複数の視線方向の交点を視線方向オブジェクト位置として識別する処理を実行する構成である請求項1または2に記載の撮像装置。 - 前記撮像装置は、
前記パラメータ設定部の設定したパラメータを適用した深度優先AE(Auto Exposure)撮影処理を実行する構成である請求項1または2に記載の撮像装置。 - 前記パラメータ設定部の設定するパラメータは、深度優先AE(Auto Exposure)撮影処理に適用するパラメータである絞り値を含む請求項4に記載の撮像装置。
- 撮像装置において実行する撮像装置制御方法であり、
顔検出部が、入力画像の解析により顔領域を検出する顔検出ステップと、
フォーカスフレーム設定部が、前記顔検出ステップにおいて検出した顔領域と、前記顔検出部の検出した顔の注目するオブジェクトに対してフォーカスフレームを設定するフォーカスフレーム設定ステップと、
距離測定部が、前記フォーカスフレーム設定ステップにおいて設定したフォーカスフレームに対応する距離を測定する距離測定ステップと、
被写界深度算出部が、前記距離測定ステップにおいて測定した距離の距離範囲を含む被写界深度を算出する被写界深度算出ステップと、
前パラメータ設定部が、記被写界深度算出ステップにおいて算出した被写界深度が設定される撮影パラメータを設定するパラメータ設定ステップと、
を有する撮像装置制御方法。 - 前記撮像装置制御方法は、さらに、
視線方向検出部が、前記顔検出ステップにおいて検出した顔の視線方向を検出する視線方向検出ステップと、
視線方向オブジェクト検出部が、前記視線方向検出ステップにおいて検出した視線方向のオブジェクトまたはポイントを検出する視線方向オブジェクト検出ステップを有し、
前記フォーカスフレーム設定ステップは、前記顔検出ステップにおいて検出した顔領域と、前記視線方向オブジェクト検出ステップにおいて検出した視線方向オブジェクトまたはポイントに測距枠としてのフォーカスフレームを設定するステップである請求項6に記載の撮像装置制御方法。 - 撮像装置において撮像装置制御処理を実行させるコンピュータ・プログラムであり、
顔検出部に、入力画像の解析により顔領域を検出させる顔検出ステップと、
フォーカスフレーム設定部に前記顔検出ステップにおいて検出した顔領域と、前記顔検出部の検出した顔の注目するオブジェクトに対してフォーカスフレームを設定させるフォーカスフレーム設定ステップと、
距離測定部に、前記フォーカスフレーム設定ステップにおいて設定したフォーカスフレームに対応する距離を測定させる距離測定ステップと、
被写界深度算出部に、前記距離測定ステップにおいて測定した距離の距離範囲を含む被写界深度を算出させる被写界深度算出ステップと、
前パラメータ設定部に、記被写界深度算出ステップにおいて算出した被写界深度が設定される撮影パラメータを設定させるパラメータ設定ステップと、
を有するコンピュータ・プログラム。 - 前記コンピュータ・プログラムは、さらに、
視線方向検出部に、前記顔検出ステップにおいて検出した顔の視線方向を検出させる視線方向検出ステップと、
視線方向オブジェクト検出部に、前記視線方向検出ステップにおいて検出した視線方向のオブジェクトまたはポイントを検出させる視線方向オブジェクト検出ステップを有し、
前記フォーカスフレーム設定ステップは、前記顔検出ステップにおいて検出した顔領域と、前記視線方向オブジェクト検出ステップにおいて検出した視線方向オブジェクトまたはポイントに測距枠としてのフォーカスフレームを設定させるステップである請求項8に記載のコンピュータ・プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008137425A JP2009290255A (ja) | 2008-05-27 | 2008-05-27 | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008137425A JP2009290255A (ja) | 2008-05-27 | 2008-05-27 | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009290255A true JP2009290255A (ja) | 2009-12-10 |
Family
ID=41459091
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008137425A Pending JP2009290255A (ja) | 2008-05-27 | 2008-05-27 | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009290255A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101908212A (zh) * | 2010-07-09 | 2010-12-08 | 深圳超多维光电子有限公司 | 一种跟踪式立体显示设备及跟踪设备以及方法 |
EP2512144A1 (en) | 2011-04-11 | 2012-10-17 | Sony Corporation | Imaging processing apparatus, image processing method, and program |
US8908976B2 (en) | 2010-05-26 | 2014-12-09 | Panasonic Intellectual Property Corporation Of America | Image information processing apparatus |
WO2019035245A1 (ja) * | 2017-08-18 | 2019-02-21 | 富士フイルム株式会社 | 撮像装置、撮像装置の制御方法、及び撮像装置の制御プログラム |
CN111935424A (zh) * | 2020-08-02 | 2020-11-13 | 珠海市一微半导体有限公司 | 一种tof模块的积分时间自适应调节方法及其控制*** |
CN116074624A (zh) * | 2022-07-22 | 2023-05-05 | 荣耀终端有限公司 | 一种对焦方法和装置 |
-
2008
- 2008-05-27 JP JP2008137425A patent/JP2009290255A/ja active Pending
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8908976B2 (en) | 2010-05-26 | 2014-12-09 | Panasonic Intellectual Property Corporation Of America | Image information processing apparatus |
CN101908212A (zh) * | 2010-07-09 | 2010-12-08 | 深圳超多维光电子有限公司 | 一种跟踪式立体显示设备及跟踪设备以及方法 |
US9948921B2 (en) | 2011-04-11 | 2018-04-17 | Sony Corporation | Imaging processing apparatus, image processing method, and program |
US9179121B2 (en) | 2011-04-11 | 2015-11-03 | Sony Corporation | Imaging processing apparatus, image processing method, and program |
US9591291B2 (en) | 2011-04-11 | 2017-03-07 | Sony Corporation | Imaging processing apparatus, image processing method, and program |
EP3255887A1 (en) | 2011-04-11 | 2017-12-13 | Sony Corporation | Imaging processing apparatus, image processing method, and program |
EP2512144A1 (en) | 2011-04-11 | 2012-10-17 | Sony Corporation | Imaging processing apparatus, image processing method, and program |
WO2019035245A1 (ja) * | 2017-08-18 | 2019-02-21 | 富士フイルム株式会社 | 撮像装置、撮像装置の制御方法、及び撮像装置の制御プログラム |
US11233949B2 (en) | 2017-08-18 | 2022-01-25 | Fujifilm Corporation | Image capturing apparatus, control method for image capturing apparatus, and control program for image capturing apparatus |
CN111935424A (zh) * | 2020-08-02 | 2020-11-13 | 珠海市一微半导体有限公司 | 一种tof模块的积分时间自适应调节方法及其控制*** |
CN111935424B (zh) * | 2020-08-02 | 2022-10-14 | 珠海一微半导体股份有限公司 | 一种tof模块的积分时间自适应调节方法及其控制*** |
CN116074624A (zh) * | 2022-07-22 | 2023-05-05 | 荣耀终端有限公司 | 一种对焦方法和装置 |
CN116074624B (zh) * | 2022-07-22 | 2023-11-10 | 荣耀终端有限公司 | 一种对焦方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7929042B2 (en) | Imaging apparatus, control method of imaging apparatus, and computer program | |
US7889890B2 (en) | Image capture apparatus and control method therefor | |
JP4172507B2 (ja) | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム | |
JP4315148B2 (ja) | 電子カメラ | |
JP6512810B2 (ja) | 撮像装置および制御方法とプログラム | |
JP6593629B2 (ja) | 画像処理装置、固体撮像素子、および電子機器 | |
JP5029137B2 (ja) | 撮像装置及びプログラム | |
JP5789091B2 (ja) | 撮像装置および撮像装置の制御方法 | |
US20110075016A1 (en) | Imager processing a captured image | |
JP2010177894A (ja) | 撮像装置、画像管理装置及び画像管理方法、並びにコンピューター・プログラム | |
TW201015989A (en) | Image capturing apparatus, method of determining presence or absence of image area, and recording medium | |
JP5171468B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
US8743209B2 (en) | Image pickup apparatus and method for controlling the same | |
JP2009290255A (ja) | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム | |
JP2010091669A (ja) | 撮像装置 | |
JP4506779B2 (ja) | 撮像装置及びプログラム | |
CN108289170B (zh) | 能够检测计量区域的拍照装置、方法及计算机可读介质 | |
JP5397078B2 (ja) | 撮像装置 | |
JP2008076981A (ja) | 電子カメラ | |
JP2016012846A (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2013186293A (ja) | 画像生成装置および画像表示方法 | |
JP2005086271A (ja) | 電子カメラ | |
JP5359150B2 (ja) | 撮像装置 | |
JP2011113062A (ja) | カメラ | |
JP5423851B2 (ja) | 電子カメラ |