JP4914045B2 - 撮像装置及び撮像装置の制御方法 - Google Patents

撮像装置及び撮像装置の制御方法 Download PDF

Info

Publication number
JP4914045B2
JP4914045B2 JP2005259459A JP2005259459A JP4914045B2 JP 4914045 B2 JP4914045 B2 JP 4914045B2 JP 2005259459 A JP2005259459 A JP 2005259459A JP 2005259459 A JP2005259459 A JP 2005259459A JP 4914045 B2 JP4914045 B2 JP 4914045B2
Authority
JP
Japan
Prior art keywords
subject
imaging
image
information
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005259459A
Other languages
English (en)
Other versions
JP2007074394A (ja
Inventor
栄一郎 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2005259459A priority Critical patent/JP4914045B2/ja
Priority to US11/465,196 priority patent/US7889265B2/en
Publication of JP2007074394A publication Critical patent/JP2007074394A/ja
Application granted granted Critical
Publication of JP4914045B2 publication Critical patent/JP4914045B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Analysis (AREA)
  • Exposure Control For Cameras (AREA)
  • Focusing (AREA)

Description

本発明は、デジタルカメラ及びビデオカメラ等の撮像信号処理装置に関する。
撮像画像などから人物の顔を検出する顔検出技術を備えた撮像装置において、検出された顔領域に焦点をあわせたり、最適な露出制御を行ったり、色補正を施すといった、撮像装置が提案されている(特許文献1)。
図7及び図8は、従来の顔検出技術を備えた撮像装置の撮像動作タイミング及び動作フローを示したものである。図を用いてその動作を説明する。
シャッターボタンが半押し(これよりSW1という)されるまで、撮像装置は電子ビューファインダー(これよりEVFという)表示用として定期的に被写体を撮像し、画像信号を生成する。
通常NTSC方式では1/30秒毎に表示のための画像信号が更新される。撮像装置の電源がONされると、撮像装置は、ステップS801から始まる撮像動作に備える。
ステップS801にて、撮影者がレリーズボタンを半押し(これよりSW1という)すると、ステップS802にて撮像装置は顔検出用の画像を得るための撮像を行う。
ステップS803では、撮像装置は、ステップS802にて撮像された画像信号に対して、公知の顔検出を行い、ステップS804にて、色、輪郭などの顔情報を取得する。
ステップS805では、撮像装置は、測光枠及び測距枠を設定する。
そして、ステップS806では、撮像装置は、ステップS805で設定された測光枠から得られた情報を基に自動露出(これよりAEという)を行う。
ステップS807では、撮像装置は、ステップS805で設定されたAF枠に対して焦点位置を調節する自動合焦(これよりAFという)を行う。
ステップS807にてAFが完了すると、撮像装置は、ステップS808にて撮像装置本体に備えられた不図示のランプより合焦サインを発する。
ステップS809にて、撮影者がレリーズボタンを全押し(これよりSW2という)すると、撮像装置は、ステップS810にて撮影動作を開始する。
ステップS811にて、撮像装置は、撮影後の撮像信号より検出された人顔が最適な色再現になるようホワイトバランス(これよりWBという)処理等の信号処理を行う。
ステップS812では、信号処理回路はステップS811の出力信号をYUV信号に変換する。
ステップS813では、撮像装置は、ステップS812にて変換されたYUV信号をJPEG信号などに圧縮して、CFなどの記録媒体に記録する。
特開2003−107335号公報
従来の顔検出モジュールを備えた撮像装置では、SW1後に画像をスキャンし、その画像に対し顔検出を行い、その後AE、AFを実施している。
しかしながら顔検出モジュールが顔を検出する時間は、顔検出アルゴリズムを簡略化した場合でも、AFやAEに比べて多くの時間がかかることが実験にて確認されている。
そのため、SW1からSW2までの時間が延び、シャッタータイムラグとなってしまうという問題があった。
そこで、本発明では、フレーミング中のEVF表示用画像信号を用いて顔検出を行うことで顔検出にかかる時間を短縮し、シャッタータイムラグを低減させることを目的とする。
上記課題を解決し目的を達成するため、本発明の請求項1に係る発明は、撮像レンズを通過した被写体像を電気信号に変換する撮像素子を備える撮像装置において、前記撮像素子から順次得られる信号を用いて被写体領域を繰り返し検出する被写体検出手段と、前記被写体検出手段により検出された被写体領域の被写体情報を記憶するための記憶手段と、前記記憶手段から読み出した前記被写体情報を基に撮像パラメータを設定するパラメータ設定処理を行う設定手段と、前記撮像素子から得られた画像信号を、静止画としてメモリに記録する記録処理を行う静止画記録手段と、第1の操作が行われることによって前記設定手段に前記パラメータ設定処理を行うよう指示し、第2の操作が行われることによって前記静止画記録手段に前記記録処理を行うよう指示するための操作部材を有し、前記設定手段は、前記第1の操作が行われることに応じて、前記第1の操作が行われた時点で既に前記記憶手段に記憶されている前記被写体情報を読み出し、読み出した前記被写体情報を基に前記撮像パラメータを設定することを特徴とするものである
本発明によれば、フレーミング中のEVF表示用画像信号を用いて顔検出を行うことで顔検出にかかる時間を短縮し、シャッタータイムラグを低減させることを可能にしている。
以下、本発明の好適な実施形態について、図面を参照して詳細に説明する。
(第1の実施形態)
以下、添付図面を参照して本発明の好適な実施の形態を詳しく説明する。
図3は、本発明の実施の形態に係る撮像装置100の構成を示すブロック図である。本実施の形態では撮像装置100の例として電子スチルカメラを用いる。
図3において、101は撮像レンズ群、102は絞り装置及びシャッタ装置を備えた光量調節装置である。
103は撮像レンズ群を通過した被写体像としての光束を電気信号に変換するCCDやCMOS等の撮像素子である。
104は撮像素子103のアナログ信号出力にクランプ処理、ゲイン処理等を行うアナログ信号処理回路である。
105はアナログ信号処理回路104の出力をデジタル信号に変換するアナログ/デジタル(以下、A/Dとする)変換器である。107はデジタル信号処理回路であり、A/D変換器105からのデータ或いはメモリ制御回路106からのデータに対して所定の画素補間処理や色変換処理を行う。
また、このデジタル信号処理回路107は、撮像した画像データを用いて所定の演算を行う。
システム制御回路112はこの演算結果に基づいて、EF(ストロボプリ発光)処理や、露出制御回路113に対するAE(自動露出)処理を行っている。
また、焦点制御回路114に対する制御を実行するTTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理も行っている。
また、デジタル信号処理回路107は、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてTTL方式のAWB(オートホワイトバランス)処理も行っている。
さらに、デジタル信号処理回路107は内部に特徴検出回路116を備えている。
特徴検出回路116は、画像信号の周波数特性から不図示のバンドパスフィルタによって各テクスチャーを検出する。
そして、検出されたテクスチャー群から目、鼻、口、耳等の被写体の特徴的な部位の候補群の検出を行う。
そうすることによって主被写体の存在する領域を検出している。さらに特徴検出回路116は検出された特徴情報を記録しておく不図示のメモリを備えている。
なお、本実施形態においては特徴検出回路116にて顔検出を行っているが、公知の顔検出技術を用いてもよい。
なお、公知の顔検出技術としては、ニューラルネットワークに代表される学習を用いた手法があげられる。
また、目や鼻や口といった形状に特徴のある部位を、画像領域からテンプレートマッチングを用い探し出し類似度が高ければ顔とみなす手法もあげられる。
また、他にも、肌の色や目の形といった画像特徴量を検出し統計的解析を用いた手法等、多数提案されており、一般的にはこれらの手法を複数組み合わせて顔認識するのが一般的である。
具体的な例としては特開平2002−251380号公報に記載のウェーブレット変換と画像特徴量を利用して顔検出する方法などが挙げられる。
メモリ制御回路106は、アナログ信号処理回路104、A/D変換器105、デジタル信号処理回路107、メモリ108、デジタル/アナログ(以下、D/Aとする)変換器109を制御する。これにより、A/D変換器105でA/D変換されたデータはデジタル信号処理回路107、メモリ制御回路106を介して、メモリ108に書き込まれる。
或いは、A/D変換器105でA/D変換されたデータが直接メモリ制御回路106を介して、メモリ108に書き込まれる。
メモリ108は表示装置110に表示するデータを記憶しており、このメモリ108に記録されているデータはD/A変換器109を介してTFT、LCD等の表示装置110に出力されて表示される。また、メモリ108は、撮像した静止画象や動画像を格納し、所定枚数の静止画像や所定時間分の動画像を格納するのに十分な記憶量を備えている。
これにより、複数枚の静止画像を連続して撮像する連写撮影やパノラマ撮影の場合にも、高速かつ大量の画像書き込みをメモリ108に対して行うことが可能となる。
また、このメモリ108はシステム制御回路112の作業領域としても使用することが可能である。
表示装置110は、撮像した画像データを逐次表示すればEVFとしての機能を実現できる。
また表示装置110は、システム制御回路112の指示により任意に表示をオン/オフすることが可能である。
表示をオフにした場合は、オンにした場合に比較して、この撮像装置100の電力消費を大幅に低減できる。
また、システム制御回路112でのプログラムの実行に応じて、文字、画像等を用いて動作状態やメッセージ等を表示する。
111はメモリカードやハードディスク等の記憶媒体とのインタフェースである。
このインターフェース111を用いて、他のコンピュータやプリンタ等の周辺機器との間で画像データや画像データに付属した管理情報を転送し合うことができる。
このインターフェース111をPCMCIAカードやCF(コンパクトフラッシュ(登録商標))カード等の規格に準拠したものを用いて構成した場合、各種通信カードを接続すればよい。
この各種通信カードとしては、LANカードやモデムカード、USBカード、IEEE1394カード、P1284カード、SCSIカード、PHS等の通信カード、等があげられる。
システム制御回路112は撮像装置100全体の動作を制御している。
なお、システム制御回路112内部には、撮像パラメータなどの制御変数を記憶する為のRAMと、本実施形態を実施する為のプログラムコードが格納されたROMが備えられている。
露出制御回路113は、光量調節装置102の絞り装置、シャッタ装置を制御する。
焦点制御回路114は撮像レンズ群101のフォーカシング、ズーミングを制御する。
露出制御回路113、焦点制御回路114はTTL方式を用いて制御されている。
そして、撮像した画像データをデジタル信号処理回路107によって演算した演算結果に基づき、システム制御回路112が露出制御回路113、焦点制御回路114に対して制御を行う。
115は撮像装置100に撮像のタイミングの指示を行うSW1、SW2を備える操作部である。
不図示のレリーズボタンがそのストロークの半分だけ押しこまれることでSW1がオンし、そのストロークの全部を押しこまれることでSW2がオンする。
撮像装置はSW1がオンすることで撮影のための焦点調節と測光を行い、SW2がオンすることで撮影を開始する。
次に一般的な信号の読み出しについて説明する。
図4は信号の読み出しの様子を示す図である。
撮像素子103を加算あるいは間引きモードにて駆動し、1/30秒毎に撮像された撮像信号は、カメラの信号処理部に転送される。
本実施形態において撮像素子103は図4(a)のように通常のスチル読み出し(全画素読み出し)モードを備えている。
また、上記読み出し方法に加え、表示装置110への表示用あるいは動画用に、図4(b)のようなムービー読み出し(垂直同色画素2画素加算、水平2画素間引き読み出し)等のモードも備えている。
表示装置110への画像の表示には、電荷の読み出しを高速にする必要がある。
そこで、一般的に、図4(b)の加算、間引きモードで撮像素子を駆動する。
加算、間引きの種類は、図4(b)以外にも多々あるが、本発明の主旨ではないため説明は省略する。
次に本実施形態における撮像装置100の撮像動作について、図2に示すフローチャート図を用いて説明を行う。併せて撮像装置100の動作タイミングの様子を図1に示す。
撮像装置100の電源がONされると、撮像装置100は、ステップS201から始まる撮像動作に備える。
ステップS201で、撮影者がシャッターボタンを半押し(SW1をオン)すると、ステップS202にてシステム制御回路112は特徴検出回路116より、その時点での最新の顔情報を読み込む。このようにSW1は撮影用のAF、AEを行わせる機能を備えるだけでなく、顔情報を読み込むための情報取得手段としても機能する。
なお、本実施形態のカメラ動作シーケンスでは、SW1をオンした後に初めて顔検出処理を実施するのではない。
SW1をオンする前の表示装置110にてフレーミングを行なっている際に定期的に表示装置110用に繰り返し作成された画像信号より連続して顔検出を実施する。
そして、特徴検出回路116内の不図示のメモリに顔情報を書き込み、更新する。
そして、SW1がオンされたことに応じて特徴検出回路116内の不図示のメモリに存在する最新の顔検出結果(顔情報)を読み出す。
こうすることで、SW1をオンした後にAE、AF用の顔検出を行う必要がなくなるので、SW1がオンされてから合焦サイン表示までのタイムラグを短くすることができる。
なお、本実施形態における顔情報とは、肌の色、輪郭、目や鼻や口の形状等の顔の特徴的な要素のことである。
図1のカメラ動作シーケンスで説明すると、表示装置110に表示される画像信号は1/30秒毎に撮像、信号処理され出力される(EVF[0],EVF[1],・・・EVF[9]・・・として示す)。
一方、特徴検出回路116では、表示装置110の表示周期(画像更新)に係わらず、ある一定のタイミング(図では50ミリ秒間隔)でそのときに存在する表示装置110用の画像信号を用いて顔検出を実施する(顔検出0,顔検出1・・・顔検出4・・・として示す)。
例えば、図1ではSW1をオンした時に読み込んだ顔情報は、EVF[0]の画像信号で顔を検出した顔検出[0]の結果を使用している。
ステップS203で、検出された顔が2つ以上ある場合には、顔の大きさ及び中心からの距離、信頼度情報を用いて、検出された複数の顔に対して優先度をつけ、主となる顔の検出を行う。
ここで、検出された複数の顔に対しての優先度をつけるための優先係数の算出方法を説明する。検出された顔情報のうち、顔の大きさ、座標値、信頼度情報を用いて、重み付けを行う。
表示装置110に表示される画像内の被写体に対して特徴検出回路116にて顔検出を行い、検出された結果の一部を図11に示す。
図12は優先度の算出結果を示した図である。具体的には顔の大きさ、座標値、信頼度情報のそれぞれに対して係数を設け、これらを掛け合わせることで優先係数を求める。
顔の大きさが大きいほどこれに関する係数を小さく、顔の位置が中心位置に近いほどこれに関する係数を小さく、信頼度が高いほどこれに関する係数を小さくする。
信頼度は、例えば、目、鼻、口、耳等の顔の特徴的な部位の候補群のマッチングの程度に応じて求めることができる。この場合、優先係数が小さいほど、優先度が高くなる。
次にステップS204では、システム制御回路112は、ステップS203にて算出した最も優先度の高い顔の座標値を重み付けが最も大きくなるようにAF枠及びAEのための重み付けを設定する。
ステップS205では、焦点制御回路114は、ステップS204で設定されたAF枠に基づきAF動作を行う。
ステップS206では、露出制御回路113は、ステップS204で設定されたAEのための重み付けに基づきAE動作を行う。
ステップS207では、システム制御回路112は、AF動作、AE動作ともに完了したのを確認すると不図示のカメラに備えられたランプを点灯させるなどして、合焦した旨を撮影者に知らせる。
ステップS208では、撮影者がシャッターボタンを全押し(SW2をオン)したか否かを判定する。
ステップS208にて、撮影者がシャッターボタンを全押しすれば、システム制御回路112は処理をステップS209へ進め、これまでに設定されたTv、Av、合焦位置にて静止画の撮影を行う。
なお、撮影後の撮像素子103からの出力信号はカメラ内メモリに一旦蓄えられ、D/A変換部に送られる。
ステップS208にて、撮影者がシャッターボタンを全押ししなければ、全押しするまで備える。
本実施形態のカメラ動作シーケンスでは、SW1がオンされてからSW2がオンされるまで間の顔検出処理に起因するシャッタータイムラグを防ぐため、表示装置110に表示されている画像に対して定期的に顔検出を行う。
そして、SW1時点に存在する顔検出情報を用いてAF、AEを行っている。
ここで、本実施形態の撮像操作のタイミングを示した図1と、従来の撮像操作のタイミングを示した図7をもとにその違いを説明する。
SW1時にはEVF[0]の画像を用いて顔を検出した顔検出[0]の情報を用いてAE及びAF動作を実施しているが、撮影後のAWB及びデジタルゲイン処理に必要な顔情報はEVF[3]の画像信号で顔を検出した顔検出[2]の結果を用いている。
この結果、図7に示した従来例の処理と比較して、「顔検出用の画像を得るための撮像動作+顔検出」分のシャッタータイムラグを減少できる。
次にステップS210では、システム制御回路112は特徴検出回路116内の不図示のメモリより最新の顔情報を取得する。
これは、被写体に動きがある場合は、顔検出処理、AF、および、AEを行うためのタイムラグによって、ステップS201で読み込んだ画像の顔の位置とステップS209で得られた画像の顔の位置とが異なる可能性があるためである。
したがってSW2後の信号処理に必要な顔情報を、SW2がオンされた時点での最新な顔検出情報を用いることにしている。
ステップS211では、デジタル信号処理回路107は、ステップS210で得た顔情報を用いて最適なWB処理を行う。
なお、顔検出により得られた情報をもとにWB処理を行う手法としては、公知の手法を使う。公知の手法とは、検出された顔領域を白検出範囲から除外し白検出の精度を向上させる手法や、検出された顔領域にて、肌色検出を行い、肌色から光源の色温度を予測し、環境光の色温度を算出する手法等が挙げられる。
ステップS212では、デジタル信号処理回路107は、検出された顔領域の明るさが最適になるようにデジタルゲイン補正を行って画像補正を行う。
ここで、デジタルゲイン補正の為の補正値の算出方法について説明する。
まず、検出された顔領域の輝度平均値(FaseYave)を算出し、補正ゲイン値(Fk)を算出する。
Fk=200/FaseYave
ここで補正ゲイン値の範囲は、
Figure 0004914045
と設定する。
補正ゲイン値(FK)が1.0以下の場合は、補正後の画像信号の最大値が1024以下(10bitRAWの場合)に下がってしまい、ガンマ補正後のY信号が255にならない。
それ故に、飽和領域のRGB比率が崩れてしまい、本来あるべき色がでなくなってしまう。
また補正ゲイン値(Fk)が1.25以上の場合は、S/N比が落ちる。
ステップS213では、ステップS212にてデジタルゲイン補正が施された画像信号は、デジタル信号処理回路107にて、例えばJPEGなどの圧縮方式の画像信号に圧縮される。
ステップS214において、ステップS213にて、生成された画像信号はメモリ108に記録される。
以上のように本実施形態では、SW1後に顔検出用の画像を得るための撮像動作を行わないようにすることで、レリーズタイムラグを小さくすることを可能にしている。
なお、検出された顔領域の位置をAF及びAEに反映させているが、いずれか一方のみに反映させる構成であっても構わない。
また、したがってSW2後の信号処理に必要な顔情報を、SW2がオンされた時点での最新の顔検出情報を用いることで、被写体が動く場合であっても顔領域の位置を正しく考慮したWB処理を行うことができる。
(第2の実施形態)
本実施形態はSW1がオンされる前までと、SW1がオンされてからSW2がオンされるまでの期間で、顔検出を実施する周期を異ならせるという点が第1の実施形態と異なる部分である。
上記の動作を行うことにより、SW1前においては、表示装置110の表示期間中に顔検出を実施する周期をSW1後よりも遅くすることで、結果として顔検出の実施回数を減らし、顔検出を行うことによる消費電力を減らすことが可能となる。
また、SW1後においては、撮影における顔検出の検出周期を短くすることで、第1の実施形態の手法を用いて検出された顔に最適な撮像動作を可能にする。
本実施形態では、SW1前の通常表示装置110の使用時には、例えば顔検出は図5の動作タイミング図に示すように100ms(ΔFD1)に1回の割合で行う。
このときの特徴検出回路116の動作としては第1の実施形態と同様に、例えば顔検出[0]のタイミングでは、その時に存在するEVF[0]のEVF画像を用いて顔を検出する。
更に、表示装置110を使用し撮影シーンのフレーミングを行っている間に、予め設定された間隔で、検出された顔に最適なAE、AF、WB動作を行う。
これにより、検出された顔にAE、AF、WBをロックし続ける。
顔情報を用いたAE、AF、WBの動作は第1の実施形態と同様の手法を用いて実現するが、表示装置110の動作中にAE、AF、WBが頻繁に切り替わると、撮像条件の変化に伴い画面がちらつくことがあるので好ましくない。
そこで、本実施形態では、表示装置110の動作中に検出された顔情報より、顔の位置変化、輝度変化、面積変化をチェックし、予め決められた閾値より変化度合いが小さい場合は、AE、AF、WBの動作を行わない構成をとる。
図13は、本実施形態における特徴検出回路116の検出結果を示している。
これより、図13の示す本実施形態における特徴検出回路116の検出結果図、図5の示す動作タイミング図、図6の示す動作フロー図にしたがって、本実施形態における撮像装置100の動作を説明する。
撮像装置100は、表示装置110の表示及び顔検出機能がONされた状態でをステップS601から始まる撮像動作に備える。
ステップS601にて、システム制御回路112は、顔検出[0]より顔情報を取得する。
なお、撮像装置100の電源スイッチがONされると、撮像処理が開始されて1回目の顔検出が行われる。
ステップS602では、システム制御回路112は、ステップS601にて取得した顔情報に基づき、AE,AF枠を設定する。
ステップS603では、ステップS602で設定されたAE,AF枠に基づき、焦点制御回路114はAF動作を、露出制御回路113はAE動作を、デジタル信号処理回路107はWB処理を行う。
ステップS604では、メモリ制御回路106は、顔検出[0]の検出情報を特徴検出回路116内の不図示のメモリに書き込む。
ステップS605では、特徴検出回路116は、EVF[3]の信号より顔検出[1]を行い、システム制御回路112は、顔検出[1]の結果より顔情報を取得する。
ステップS606では、システム制御回路112は、ステップS605にて取得された顔情報と、ステップS604にて書き込まれた特徴検出回路116内の不図示のメモリに記憶されている情報との差分信号を算出する。
なお、ステップS606で算出する差分信号は被写体の動き情報を表している。
以下に述べる方法にて、動き情報を求める。
被写体の動き情報として、位置変化Δpos、輝度変化ΔBrightness、面積変化Δareaを以下の式で算出する。
Figure 0004914045
△Brightness=B[1]−pre_B=102−100=2
△area=Area[1]−pre_Area=2500−2500=0
例えば、ここで位置変化閾値を50、輝度変化閾値を10、面積変化閾値を20と予め設定しておいたとすると、
△pos < 50
△Brightness < 10
△area < 20
であるから、ステップS607にて、システム制御回路112は、被写体の動きはないと判定し、処理をステップS605へ戻す。
なお、このタイミングではAE及びAF動作は実施しない。
また、AE及びAF動作を実施しないため、前回顔情報は更新せず、顔検出[0]の顔情報がそのまま保持される。
次に、ステップS605では、特徴検出回路116は、EVF[6]の信号より顔検出[2]を行い、システム制御回路112は、顔検出[2]の結果より顔情報を取得する。
ステップS606では、システム制御回路112は、顔検出[2]の結果より取得した顔情報と、ステップS604にて書き込まれた特徴検出回路116内の不図示のメモリに記憶されている情報との差分信号を算出する。
上記と同様にして差分信号を算出する。
Figure 0004914045
△Brightness=B[2]−pre_B=115−100=15
△area=Area[2]−pre_Area=2500−2500=0
となり、各閾値が上記と同様であるとすると、
△pos > 50
△Brightness > 10
△area < 20
であるから、位置変化閾値Over、輝度変化閾値Overとなるため、ステップS607にて、システム制御回路112は、被写体の動きがありと判定し、処理をステップ608へ進める。
ステップS608では、メモリ制御回路106は、特徴検出回路116内の不図示のメモリの情報を、顔検出[2]の顔情報に更新する。
ステップS609では、システム制御回路112は、ステップS608にて更新された顔情報に基づき、AE,AF枠を設定する。
ステップS610では、ステップS609で設定されたAE,AF枠に基づき、焦点制御回路114がAFを行い、露出制御回路113がAEを行う。
ステップS611では、撮影者によってSW1がオンされたならば、システム制御回路112は処理をステップS612へ進め、撮影者によってSW1がオンされなければ、SW1がオンされるまでステップS605乃至ステップS611の処理を繰り返す。
ステップS612では、第1の実施形態のステップS202以降の処理を行う。
本実施形態において、SW1後の顔検出の周期をSW1前よりも短く設定することで、被写体の動きを正確に追従することが可能である。
また、SW1後は被写体の動きにかかわらずAE,AF制御を行うことにより、AE、AFの精度を上げている。
以上のように本実施形態では、SW1前において、EVF表示期間中に顔検出を実施する周期をSW1後よりも遅くすることで、結果として顔検出の実行回数を減らし、顔検出モジュール実行による消費電力を減らすことを可能にしている。
(第3の実施形態)
本実施形態はシャッターボタンがSW1がオンされた時点での最新の顔情報を算出する為に用いたEVF画像撮像時からSW1がオンされるまでの時間ΔTを算出する。そしてこのΔTが予め設定した時間よりも短い場合は、第1の実施形態と同様の撮像信号処理を行い、ΔTが予め設定した時間よりも長い場合は、SW1後に顔検出を行い、その検出結果に基づき撮像信号処理を行う。
本実施形態における撮像装置100の撮像動作について、図10に示すフローチャート図を用いて説明を行う。併せて撮像装置100の動作タイミングの様子を図9に示す。
図10に示すフローチャートにおいて、ステップS202以降の処理は第1の実施形態と同じ処理を行うので詳しい説明は省略する。
撮像装置100の電源がONされると、撮像装置100は、ステップS901から始まる撮像動作に備える。
ステップS901にて、撮影者によってシャッターボタンのSW1がオンされると、システム制御回路112は処理をステップS902へ進める。
ステップS902では、システム制御回路112は特徴検出回路116内の不図示のメモリから、その時点での最新の顔情報を検出するのに用いたEVF画像が撮影されたタイミングT1を読み込む。
そして、シャッターボタンがSW1状態になったタイミングT2との差分値ΔTを算出する。
なお、図9(a)のように最新の顔検出が成功している場合は、シャッターボタンがSW1状態になった時点での顔情報813を算出するのに用いたEVF画像はEVF805の画像である。
そして、ΔTは図9(a)に示しているようになる。
また、図9(b)のように、最新の顔検出が失敗している場合は、シャッターボタンがSW1状態になった時点での顔情報834が最新の顔情報であり、その顔情報を算出するのに用いたEVF画像はEVF824の画像である。
そして、そして、ΔTは図9(b)に示しているようになる。
ステップS903では、システム制御回路112は、ΔTを予め設定した時間と比較し、ΔTが大きければステップS904、ΔTが小さければステップS202へ処理を進める。
ステップS904では、システム制御回路112は、シャッターボタンがSW1状態になった時点での最新のEVF画像829を用いて顔検出を行う。
なお、ステップS904にて、顔検出ができなければ、以後の処理では通常領域にAE,AF枠を設定して撮影動作を行う。
以上のように本実施形態では、シャッターボタンのSW1がオンされた時点での最新の顔検出結果が得られたEVF画像の撮像タイミングとSW1がオンされたタイミングの時間差を算出し、SW1がオンされた後に新たに顔検出を実施するか否かを判断している。
その為、SW1がオンされる直前まで顔未検出状態が続いてるような、被写体が動いている確立が比較的高い場合には、新たに顔検出を実施するため、正確なAE、AF動作を行うことが可能である。
(他の実施形態)
本発明の目的は、以下の様にして達成することも可能である。まず、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し、遠隔操作の対象である撮像装置に対して上述の処理を実行する。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、以下のようにして達成することも可能である。即ち、読み出したプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合である。ここでプログラムコードを記憶する記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、ROM、RAM、磁気テープ、不揮発性のメモリカード、CD−ROM、CD−R、DVD、光ディスク、光磁気ディスク、MOなどが考えられる。また、LAN(ローカル・エリア・ネットワーク)やWAN(ワイド・エリア・ネットワーク)などのコンピュータネットワークを、プログラムコードを供給するために用いることができる。
さらに、以下のようにして達成することも可能である。即ち、記憶媒体から読み出されたプログラムコードを、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込む。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能を実現する。
第1の実施形態の撮像装置における撮像動作タイミングを示す図である。 第1の実施形態の撮像装置における撮像動作フローチャート図である。 本発明の撮像装置における撮像装置のブロック図である。 信号読み出しの様子を示す図である。 第2の実施形態の撮像装置における撮像動作タイミングを示す図である。 第2の実施形態の撮像装置における撮像動作フローチャート図である。 従来の撮像装置における撮像動作タイミングを示す図である。 従来の撮像装置における撮像動作フローチャート図である。 第3の実施形態の撮像装置における撮像動作タイミングを示す図である。 第3の実施形態の撮像装置における撮像動作フローチャート図である。 顔検出モジュールによって検出された顔情報レジスタの結果の一部を示す図である。 優先度の算出結果を示した図である。 第2の実施形態における顔検出モジュールの検出結果を示す図である。
符号の説明
101 撮像レンズ群
102 光量調節装置
103 撮像素子
104 アナログ信号処理回路
105 A/D変換器
106 メモリ制御回路
107 デジタル制御回路
108 メモリ
109 D/A変換機
110 表示装置
111 インタフェース
112 システム制御回路
113 露出制御回路
114 焦点制御回路
115 操作部
116 特徴検出回路

Claims (11)

  1. 撮像レンズを通過した被写体像を電気信号に変換する撮像素子を備える撮像装置において、
    前記撮像素子から順次得られる信号を用いて被写体領域を繰り返し検出する被写体検出手段と、
    前記被写体検出手段により検出された被写体領域の被写体情報を記憶するための記憶手段と、
    前記記憶手段から読み出した前記被写体情報を基に撮像パラメータを設定するパラメータ設定処理を行う設定手段と
    前記撮像素子から得られた画像信号を、静止画としてメモリに記録する記録処理を行う静止画記録手段と、
    第1の操作が行われることによって前記設定手段に前記パラメータ設定処理を行うよう指示し、第2の操作が行われることによって前記静止画記録手段に前記記録処理を行うよう指示するための操作部材を有し、
    前記設定手段は、前記第1の操作が行われることに応じて、前記第1の操作が行われた時点で既に前記記憶手段に記憶されている前記被写体情報を読み出し、読み出した前記被写体情報を基に前記撮像パラメータを設定することを特徴とする撮像装置。
  2. 前記設定手段は前記第1の操作が行われた時点で前記記憶手段に記憶された最新の前記被写体情報をみ出すことを特徴とする請求項1に記載の撮像装置。
  3. 前記被写体検出手段は、前記第1の操作が行われるまでに繰り返し行われる被写体検出における第1の検出間隔と、前記第1の操作が行われた後で繰り返し行われる被写体検出における第2の検出間隔とを異ならせることを特徴とする請求項1または2に記載の撮像装置。
  4. 前記第2の検出間隔は、第1の検出間隔より短いことを特徴とする請求項3に記載の撮像装置。
  5. 前記設定手段は前記被写体検出手段によって検出された第1の被写体情報と、その前または後に検出された第2の被写体情報の差分が所定値以内であれば、前記撮像パラメータを変更しないことを特徴とする請求項1に記載の撮像装置。
  6. 前記被写体情報、被写体輝度、被写体の面積、被写体の標、のうち少なくともいずれかを含むことを特徴とする請求項1から5のいずれかに記載の撮像装置。
  7. 前記設定手段は前記被写体情報を得る基となる信号が生成されてから、前記第1の操作が行われるまでの時間が所定の時間以上であれば、前記被写体情報を取得した後に、前記被写体検出手段によって新たに被写体領域を検出し、新たに検出された被写体領域の被写体情報を用いて前記撮像パラメータを設定することを特徴とする請求項1に記載の画像処理装置。
  8. 前記設定手段は前記被写体情報を得る基となる信号が生成されてから、前記第1の操作が行われるまでの時間が前記所定の時間より短ければ、前記第1の操作が行われた時点で既に前記記憶手段に記憶されている前記被写体情報に基づき撮像パラメータを設定することを特徴とする請求項7に記載の画像処理装置。
  9. 前記被写体検出手段は前記被写体情報を基に撮像パラメータが設定された後も前記撮像素子から順次得られる信号を用いて被写体領域を繰り返し検出し、
    前記被写体情報を基に設定された撮像パラメータにて撮影が行われた時点で既に前記記憶手段に記憶されている前記被写体情報を読み出し、該被写体情報を基に前記撮影にて得られた信号に対して画像補正を行う画像補正手段を有することを特徴とする請求項1に記載の撮像装置。
  10. 前記画像補正手段は前記被写体情報を基に設定された撮像パラメータにて撮影が行われた時点で前記記憶手段に記憶された最新の前記被写体情報を前記記憶手段から読み出すことを特徴とする請求項9に記載の撮像装置。
  11. 前記撮像パラメータとは、焦点位置、露出値のうち少なくとも一つを含むことを特徴とする請求項1から10のいずれかに記載の撮像装置。
JP2005259459A 2005-09-07 2005-09-07 撮像装置及び撮像装置の制御方法 Expired - Fee Related JP4914045B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005259459A JP4914045B2 (ja) 2005-09-07 2005-09-07 撮像装置及び撮像装置の制御方法
US11/465,196 US7889265B2 (en) 2005-09-07 2006-08-17 Imaging apparatus, control method for the imaging apparatus, and storage medium storing computer program which causes a computer to execute the control method for the imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005259459A JP4914045B2 (ja) 2005-09-07 2005-09-07 撮像装置及び撮像装置の制御方法

Publications (2)

Publication Number Publication Date
JP2007074394A JP2007074394A (ja) 2007-03-22
JP4914045B2 true JP4914045B2 (ja) 2012-04-11

Family

ID=37829674

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005259459A Expired - Fee Related JP4914045B2 (ja) 2005-09-07 2005-09-07 撮像装置及び撮像装置の制御方法

Country Status (2)

Country Link
US (1) US7889265B2 (ja)
JP (1) JP4914045B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4431532B2 (ja) 2005-09-16 2010-03-17 富士フイルム株式会社 対象画像の位置検出装置および方法ならびに対象画像の位置検出装置を制御するプログラム
JP4478093B2 (ja) 2005-10-17 2010-06-09 富士フイルム株式会社 対象画像検索装置およびディジタル・カメラならびにそれらの制御方法
JP4658015B2 (ja) * 2006-10-13 2011-03-23 富士フイルム株式会社 デジタルカメラおよびその制御方法
JP4725802B2 (ja) 2006-12-27 2011-07-13 富士フイルム株式会社 撮影装置、合焦方法および合焦プログラム
JP4899982B2 (ja) * 2007-03-28 2012-03-21 カシオ計算機株式会社 撮像装置、撮像画像の撮影記録方法およびプログラム
JP5013924B2 (ja) * 2007-03-29 2012-08-29 キヤノン株式会社 撮像装置、撮像方法、及びプログラム
JP5029137B2 (ja) * 2007-05-17 2012-09-19 カシオ計算機株式会社 撮像装置及びプログラム
JP2009077175A (ja) * 2007-09-20 2009-04-09 Sanyo Electric Co Ltd 電子カメラ
JP2010049148A (ja) * 2008-08-25 2010-03-04 Nikon Corp 画像認識装置及び撮像装置
JP5011235B2 (ja) * 2008-08-27 2012-08-29 富士フイルム株式会社 撮影装置及び撮影方法
JP5144487B2 (ja) * 2008-12-15 2013-02-13 キヤノン株式会社 主顔選択装置、その制御方法、撮像装置及びプログラム
JP5431083B2 (ja) * 2009-09-16 2014-03-05 オリンパスイメージング株式会社 撮影装置および撮影装置の制御方法
US8854491B2 (en) * 2011-06-05 2014-10-07 Apple Inc. Metadata-assisted image filters
JP5879809B2 (ja) * 2011-08-12 2016-03-08 株式会社ニコン 撮像装置
CN113395457B (zh) * 2020-03-11 2023-03-24 浙江宇视科技有限公司 图像采集器的参数调整方法、装置、设备和存储介质

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6727948B1 (en) * 1997-07-15 2004-04-27 Silverbrook Research Pty Ltd Utilizing autofocus information for image processing in a digital camera
JP2001330882A (ja) * 2000-05-24 2001-11-30 Canon Inc 被写体認識機能付きカメラ
JP2002251380A (ja) 2001-02-22 2002-09-06 Omron Corp 利用者照合システム
US7298412B2 (en) * 2001-09-18 2007-11-20 Ricoh Company, Limited Image pickup device, automatic focusing method, automatic exposure method, electronic flash control method and computer program
JP2003107335A (ja) 2001-09-28 2003-04-09 Ricoh Co Ltd 撮像装置、自動合焦方法、およびその方法をコンピュータが実行するためのプログラム
JP4053764B2 (ja) * 2001-11-22 2008-02-27 コニカミノルタオプト株式会社 被写体抽出装置及び撮影装置
JP2004206688A (ja) * 2002-12-12 2004-07-22 Fuji Photo Film Co Ltd 顔認識方法、顔切出方法、および撮像装置
JP2004317699A (ja) * 2003-04-15 2004-11-11 Nikon Gijutsu Kobo:Kk デジタルカメラ
JP2005086271A (ja) * 2003-09-04 2005-03-31 Nikon Corp 電子カメラ
US8159561B2 (en) * 2003-10-10 2012-04-17 Nikon Corporation Digital camera with feature extraction device
JP4328606B2 (ja) * 2003-11-26 2009-09-09 富士フイルム株式会社 デジタルカメラ
JP4154400B2 (ja) * 2004-04-01 2008-09-24 キヤノン株式会社 撮像装置及びその制御方法及びプログラム

Also Published As

Publication number Publication date
US7889265B2 (en) 2011-02-15
JP2007074394A (ja) 2007-03-22
US20070052820A1 (en) 2007-03-08

Similar Documents

Publication Publication Date Title
JP4914045B2 (ja) 撮像装置及び撮像装置の制御方法
JP4639837B2 (ja) 電子カメラ
JP4674471B2 (ja) デジタルカメラ
TWI393434B (zh) 攝像裝置及程式儲存記憶媒體
US8411159B2 (en) Method of detecting specific object region and digital camera
KR101728042B1 (ko) 디지털 촬영 장치 및 이의 제어 방법
JP2011182252A (ja) 撮像装置および画像撮影方法
JP2003307669A (ja) カメラ
JP4645413B2 (ja) 撮像装置
JP4853707B2 (ja) 撮像装置及びそのプログラム
KR101431536B1 (ko) 디지털 촬영장치 및 이의 제어방법
JP5407373B2 (ja) 撮影装置、及びプログラム
JP5189913B2 (ja) 画像処理装置
JP6758950B2 (ja) 撮像装置、その制御方法とプログラム
JP5257969B2 (ja) 合焦位置制御装置、及び合焦位置制御方法、合焦位置制御プログラム
JP4871664B2 (ja) 撮像装置及び撮像装置の制御方法
JP5111293B2 (ja) 撮像装置及びその制御方法
JP5326613B2 (ja) 撮影装置、及びプログラム
JP2008301161A (ja) 画像処理装置、デジタルカメラ、及び画像処理方法
JP2007208355A (ja) 撮影装置および方法並びにプログラム
JP4810440B2 (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP6409083B2 (ja) 撮像装置、撮像方法および撮像プログラム
JP6346398B2 (ja) 撮像装置および撮像方法
JP5600935B2 (ja) 画像記録装置、画像記録方法及び画像記録プログラム
JP2003315665A (ja) カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080821

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100201

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20100630

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120120

R151 Written notification of patent or utility model registration

Ref document number: 4914045

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150127

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees