JP4356778B2 - 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム - Google Patents

画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム Download PDF

Info

Publication number
JP4356778B2
JP4356778B2 JP2007166994A JP2007166994A JP4356778B2 JP 4356778 B2 JP4356778 B2 JP 4356778B2 JP 2007166994 A JP2007166994 A JP 2007166994A JP 2007166994 A JP2007166994 A JP 2007166994A JP 4356778 B2 JP4356778 B2 JP 4356778B2
Authority
JP
Japan
Prior art keywords
image
subject
smile
iris
focus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007166994A
Other languages
English (en)
Other versions
JP2009005316A (ja
Inventor
弘 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007166994A priority Critical patent/JP4356778B2/ja
Priority to US12/107,314 priority patent/US7787762B2/en
Priority to CN2008101268074A priority patent/CN101334578B/zh
Publication of JP2009005316A publication Critical patent/JP2009005316A/ja
Application granted granted Critical
Publication of JP4356778B2 publication Critical patent/JP4356778B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Exposure Control For Cameras (AREA)
  • Focusing (AREA)
  • Details Of Cameras Including Film Mechanisms (AREA)
  • Automatic Focus Adjustment (AREA)

Description

本発明は、人物などの被写体を含んだ画像の撮影を行なう画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムに係り、特に、画像に含まれる被写体から特定のパターンを認識したことに応じてカメラ・ワークの自動化処理を行なう画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムに関する。
さらに詳しくは、本発明は、画像に含まれる被写体から笑顔を認識したことを利用して撮影するタイミングを自動的に決定する画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムに係り、特に、入力画像に複数の被写体が含まれる場合に、適当な被写体に着目して笑顔検出を行ない、撮影タイミングを自動的に決定する画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムに関する。
カメラは、視覚的な情報を記録する手段として長い歴史を持つ。最近では、フィルムや感光板を使って撮影する銀塩カメラに代わって、CCD(Charge Coupled Device)やCMOS(Complementary Mental−Oxide Semiconductor)などの固体撮像素子で捕捉した画像をデジタル化するデジタルカメラが広範に普及している。デジタルカメラによれば、デジタル符号化された画像をメモリに記憶し、コンピュータによる画像処理や画像管理を行なうことができ、さらにフィルムの寿命という問題がないといった利点がある。
銀塩カメラもデジタルカメラも基本的なカメラ・ワークはほとんど同じであるが、撮影画像のデジタル化とも相俟って、カメラ・ワークに関して自動化技術が進んでおり、このため、カメラ操作に未熟なユーザであっても、撮影に失敗する可能性は極めて低くなってきている。例えば、オート・フォーカス機能(AF)、自動露光(AE)、手振れ補正などである。デジタルカメラの場合、AFやAEなどの処理を光学系で行なうだけでなく、デジタル処理により実現することができるという利点がある。また、AWB(Auto White Balance)により撮像画像に対してホワイトバランス・ゲインを掛けるなど、デジタル処理により撮影画像に画質調整を施すことによって、適正な色状態を再現することができる。
オート・フォーカスや画質補正などの機能は、画像フレーム内に存在する1以上の被写体のうちいずれに合わせて処理を行なうべきである。古くは、ユーザが重要な被写体をマニュアル操作で設定することが行なわれていた。最近では、撮像画像から顔を検出して、その顔に対して自動的にフォーカスを合わせる、あるいは、その顔に合わせて自動的に画質を補正する、といった顔検出を利用した撮像技術が導入されている。
ここで、撮像した画像信号から顔を検出する手法として、例えば、平均的な顔画像をテンプレートとして利用し、入力画像信号とマッチングする手法が当業界において広く知られている(例えば、特許文献1を参照のこと)。また、撮像された顔が傾いていると、顔を正しく検出し難いため、顔の角度を検出して、その検出値に応じて顔の画像を回転させた後、マッチング処理などを行なうなどの手法も知られている。顔の角度を検出する方法としては、顔の中心線を検出し、その中心線らしさを示す度合いを顔の左右対称性に基づいて算出して、その度合いの高い中心線の角度を顔の角度として出力する手法などが挙げられる(例えば、特許文献2を参照のこと)。
また、最近では、笑顔など被写体の画像から特定のパターンを認識したことを利用して撮影するタイミングを決める自動撮影に関する研究開発が進められている。
例えば、撮影する主要被写体に含まれる注目部位において、主要被写体が所定の撮影条件を満たすかどうかを判断し、撮影条件を満たしたときに撮影タイミング信号を出力するカメラについて提案がなされている(例えば、特許文献3〜5を参照のこと)。ここで言う注目部位とは、例えば、人物を撮影するときの当該人物の目や口の形や色、鳥を撮影するときの当該鳥の羽根などである。
具体的な撮影タイミングの判断基準として、人物が見栄えよく写る条件である、「瞬きをしていない」、「視線がカメラ方向を向いている」、「微笑んでいる」などを適切な撮影タイミングの判断基準とすることが考えられる。また、人物を被写体として撮影した写真を良好にするために写真を修正する技術が従来から知られているが、人が瞬きしている瞬間の写真を瞬きしていない写真に修正することや、笑っていない人の写真を笑っているように修正することは難しいということも、笑顔を撮影条件とする理由の1つである。例えば、被写体の目の中の白色部分の面積や、口の横方向の長さ、口の中の白色部分の面積などの画像情報に基づいて、「微笑んでいる」という撮影条件を判定することができる。
ここで、撮影を行なう際には、フォーカスやアイリスを被写体に合わせておく必要がある。上述したように笑顔など被写体の特定のパターンを認識して撮影を行なう自動撮影機能では、笑顔検出した後にフォーカスやアイリスを被写体に追従させる動作を行なった後に撮影を行なうことになる。すなわち、笑顔検出後に、通常のオート・フォーカス機能により1枚の撮影を行なうときと同じだけの時間がかかる。
ところが、フォーカスやアイリスの追従動作は最速でも0.2〜0.3秒程度の時間がかかるのに対し、人間の笑顔の持続時間は一般に0.1秒程度しかない。このため、せっかく被写体画像から笑顔を検出できたにもかかわらず、実際に撮影される顔は笑顔でないことが多くなってしまう。
特開2003−271933号公報(段落0051〜0053、図6) 特開平9−171560号公報(段落0032〜0044、図4) 特開2000−347278号公報 特開2004−294498号公報 特開2006−237803号公報
本発明の目的は、画像に含まれる被写体から特定のパターンを認識したことに応じてカメラ・ワークの自動化処理を好適に行なうことができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することにある。
本発明のさらなる目的は、画像に含まれる被写体から笑顔を認識したことを利用して、適切な撮影タイミングを自動的に決定することができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することにある。
本発明のさらなる目的は、笑顔検出によって撮影タイミングを自動決定するとともに、画像から検出された被写体の笑顔を確実に撮影することができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することにある。
本発明のさらなる目的は、笑顔検出によって自動決定された撮影タイミングから遅滞なく撮影を実施することができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することにある。
本発明は、上記課題を参酌してなされたものであり、その第1の側面は、被写体の笑顔検出に応じて被写体画像の撮影を行なう画像撮影装置であって、
被写体からの光を集光する光学手段と、
前記光学手段によって集光された被写体画像を撮像する撮像手段と、
前記光学手段の各機構の駆動を制御する光学機構駆動制御手段と、
前記撮像手段による撮像画像を信号処理する画像信号処理手段と、
前記画像信号処理手段による信号処理後の撮像画像を所定の記録メディアに記録する画像記録手段と、
前記画像信号処理手段による信号処理後の撮影画像から被写体の顔を検出する顔検出手段と、
前記顔検出手段によって検出された検出顔から笑顔を検出する笑顔検出手段と、
撮影画像から被写体の笑顔を検出したことに応じて、前記光学機構駆動制御手段による前記光学手段の各機構の駆動を固定したままで、被写体画像の撮影処理を行なう笑顔検出撮影制御手段と、
を具備することを特徴とする画像撮影装置である。
本発明の係る画像撮影装置は、笑顔検出対象となった検出顔の笑顔度レベルを検出し、検出された笑顔度レベルが笑顔検出レベルに到達したことに応じて撮影処理を制御するように構成されている。勿論、笑顔検出結果に基づいて撮影以外の処理を行なうことも考えられる。
現在、デジタルカメラなどの画像撮影装置が広範に普及しており、各種カメラ・ワークの自動化技術についても並行して進められている。このうち、自動撮影に関しては、笑顔など被写体の画像から特定のパターンを認識したことを利用して撮影するタイミングを決めるオート・シャッタ機能について研究開発がなされている。具体的な撮影タイミングの判断基準として、人物が見栄えよく写る条件である、「瞬きをしていない」、「視線がカメラ方向を向いている」、「微笑んでいる」などを適切な撮影タイミングの判断基準とすることが考えられる。
ここで、撮影を行なう際には、光学系で集光して被写体像が撮像素子の撮像面で結像するようにフォーカスを合わせる制御や、被写体に対して適正な露光を行なうようにアイリスに対する制御を行なっておく必要がある。しかしながら、笑顔検出した後に、フォーカスやアイリスを被写体に追従させるスキャン動作を行なってから撮影画像のキャプチャ動作を行なうと、被写体の笑顔の持続時間のうちに撮影動作を開始できなくなり、実際に撮影される顔は笑顔でない、という問題がある。
そこで、本発明に係る画像撮影装置は、撮影画像から笑顔を検出した後は、フォーカス並びにアイリスを固定して追従動作を行なわないで、即座にキャプチャ動作を行なうようにすることで、被写体の笑顔を逃すことなく撮影することようにしている。
本発明に係る画像撮影装置は、例えば、通常の撮影モードの他に、笑顔検出撮影モードという撮影モードを備え、ユーザ(撮影者)によるシャッター・キー操作が行なわれると、現在設定されている撮影モードに応じた処理を実行する。
通常の撮影モード下では、シャッター・キーの半押しに応じて画像内の被写体のフォーカスやアイリス制御(すなわち、スキャン動作)が実施され、シャッター・キーの深押しに応じてカメラ撮影処理(すなわち画像のキャプチャ動作)が実施される。また、半押し操作なしにいきなりシャッター・キーの深押し操作が行なわれたときには、半押し時と同様のスキャン動作をしてからキャプチャ動作が行なわれる。
これに対し、笑顔検出撮影モード下では、シャッター・キーの半押しにより被写体のフォーカス合わせとアイリス制御などのスキャン動作を行なうと、フォーカス及びアイリスを固定しておく。そして、シャッター・キーの深押しが行なわれると、撮影画像中の被写体の笑顔検出処理が起動し、笑顔が検出されるとスキャン動作なしにそのまま撮影画像を記録するためのキャプチャ処理が行なわれる。すなわち、あらかじめフォーカスやアイリスを固定しているため、笑顔を検出してからキャプチャ動作を行なうまでに、スキャン動作に伴う0.2〜0.3秒程度の時間を省略することができるので、被写体の笑顔を逃すことなく撮影することができる。
笑顔検出撮影モード下では、基本的にはフォーカス・アイリスを固定したままであり、被写体の笑顔が検出される度に逐次キャプチャ処理が行なわれる。また、笑顔検出撮影モード下でシャッター・キーの深押しが再び行なわれると、笑顔検出撮影モードを抜けて通常の撮影モードに復帰する。
上述したような自動撮影方法は、被写体がずっと動かないことを前提としており、動く可能性のある被写体の場合は最初に固定したのと違う地点で撮影が行なわれる可能性があり、結果的に撮影画像のフォーカスが合っていないことも予測される。例えば、被写体が動いたために検出顔を見失う、あるいは被写体から笑顔がなかなか検出されないなど、速やかに笑顔検出撮影が行なわれないときには、固定しておいたフォーカスやアイリスがもはや有効でないことが推測される。
そこで、本発明に係る画像撮影装置は、シャッター・キーの深押しを行なってから即座に笑顔検出撮影が行なわれないときには、フォーカスやアイリスのリフレッシュすなわち再スキャン動作を適宜的に実施するようにしてもよい。
具体的には、笑顔検出撮影状態において、撮影画像から笑顔検出の対象となっている検出顔を一旦見失ったときには、その後に再び検出対象の被写体を検出できたときに再スキャン動作を起動して、新しいフォーカス並びにアイリスに改めて固定する。
あるいは、笑顔検出撮影状態において、撮影画像から笑顔検出の対象となっている検出顔から所定時間以上笑顔を検出できなかったときには、再スキャン動作を起動して、新しいフォーカス並びにアイリスに改めて固定する。
また、本発明の第2の側面は、被写体画像の撮影を行なう画像撮影処理をコンピュータ上で実行するようにコンピュータ可読形式で記述されたコンピュータ・プログラムであって、被写体の笑顔検出に応じて被写体画像の撮影を行なう笑顔検出撮影状態において、前記コンピュータに対し、
光学系で集光して被写体像が撮像面で結像するようにフォーカスを合わせる制御、並びに被写体に対して適正な露光を行なうようにアイリスに対する制御を行なうスキャン動作手順と、
前記スキャン動作手順を実行して得られたフォーカス並びアイリスの制御を固定するフォーカス/アイリス固定手順と、
撮影画像から被写体の顔を検出する顔検出手順と、
撮影画像から被写体の笑顔を検出したことに応じて、前記のフォーカス並びアイリスの制御を固定したままで所定の記録メディアに撮影画像を記録するためのキャプチャ動作を行なう笑顔検出撮影手順と、
を実行させることを特徴とするコンピュータ・プログラムである。
本発明の第2の側面に係るコンピュータ・プログラムは、コンピュータ上で所定の処理を実現するようにコンピュータ可読形式で記述されたコンピュータ・プログラムを定義したものである。換言すれば、本発明の第2の側面に係るコンピュータ・プログラムをコンピュータにインストールすることによって、コンピュータ上では協働的作用が発揮され、本発明の第1の側面に係る画像撮影装置と同様の作用効果を得ることができる。
本発明によれば、画像に含まれる被写体から笑顔を認識したことを利用して、適切な撮影タイミングを自動的に決定することができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することができる。
また、本発明によれば、笑顔検出によって撮影タイミングを自動決定するとともに、画像から検出された被写体の笑顔を確実に撮影することができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することができる。
本発明に係る画像撮影装置は、笑顔検出後はフォーカス並びにアイリスを固定して追従動作を行なわないでそのままキャプチャ動作を開始するので、笑顔検出によって自動決定された撮影タイミングから遅滞なく撮影を実施して、被写体の笑顔を逃すことなく撮影することができる。
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
以下、図面を参照しながら本発明の実施形態について詳解する。
図1には、本発明を適用することができるデジタルスチルカメラ1のハードウェア構成を模式的に示している。図示のデジタルスチルカメラ1は、撮像素子11と、前処理部12と、カメラ・デジタル信号処理部(DSP)16で構成され、光学系10を介して入力される画像をデジタル処理して記録するようになっている。
光学系10は、被写体からの光を撮像素子11の撮像面に集光するためのレンズ、レンズを移動させてフォーカス合わせやズーミングを行なうための駆動機構、開閉操作により被写体からの光を所定時間だけ撮像素子11に入射させるシャッタ機構、被写体からの光線束の方向並びに範囲を限定するアイリス(絞り)機構(いずれも図示しない)を含んでいる。ドライバ10aは、後述するCPU29からの制御信号に基づいて、光学系10内の各機構の駆動(例えば、被写体のフォーカス合わせやアイリス)を制御する。
撮像素子11は、CCDやCMOSなどの光電変換効果を持つ各画素が2次元に配列された撮像面を有し、被写体からの入射光を電気信号に変換する。受光側には、例えばG市松RB色コーディング単板が配設されている。各色フィルタを通した入射光量に対応する信号電荷が各画素に蓄積され、各画素から読み出される3色の各信号電荷量からその画素位置における入射光の色を再現することができる。なお、撮像素子11から出力されるアナログ画像信号は、RGB各色の原色信号であるが、補色系の色信号であってもよい。
AFE(Analog Front End:アナログ前処理)部12は、CDS/AGC/ADCブロック13と、タイミング・ジェネレータ14と、Vドライバ15を備え、例えば1つのIC(Integrated Circuit)チップとして構成される。
CDS/AGC/ADCブロック13では、画素信号中の撮像素子211から受ける信号の低雑音を高精度に抑圧した後(Correlated Double Sampling(相関二重サンプリング):CDS)、サンプル・ホールドを行ない、さらにAGC(Automatic Gain Control:自動利得制御回路)により適正なゲイン・コントロールをかけて、AD変換を施してデジタル画像信号を出力する。
タイミング・ジェネレータ14は、撮像素子11を駆動するためのタイミング・パルス信号を生成する。そして、Vドライバ15は、このタイミング・パルス信号に従って、撮像素子11の各画素の電荷を垂直方向にライン単位で出力するための駆動信号を出力する。
カメラDSP(Digital Signal Processor)部16は、カメラ信号処理部17と、解像度変換部18と、画像コーデック処理部19と、メモリ制御部20と、表示制御部21と、メディア制御部22を備え、例えば1つのICチップとして構成されている。
カメラ信号処理部17は、AFE部12から送られてくる画像信号に対して、欠陥画素補正やデジタル・クランプ、デジタル・ゲイン制御などの前処理を施した後、AWBによりホワイトバランス・ゲインを掛けるとともに、シャープネス・再度コントラスト調整などの画質補正処理を施して適正な色状態を再現し、さらにデモザイク処理によりRGB画面信号を作成する(画質調整には、フラッシュ調光や赤目軽減などの処理を含めることができる)。また、カメラ信号処理部17は、RGB画像信号に対してγ補正を施すことによって、画像情報をモニタ出力、プリントアウト、又は画像記録する際に適した階調に変換する。
解像度変換部(Resolution Converter)18は、撮影画像をモニタ・ディスプレイ25にスルー画像として表示出力するか、又はキャプチャすなわち記録メディアに保存するかに応じて、画像のサイズの変更を行なう。
画像コーデック処理部19は、RGB表色系の画像信号を、輝度信号(Y)と色差信号(Cr/Cb)表色系からなる画像信号に変換した後、JPEG(Joint Picture Experts Group)圧縮やMPEG(Moving Picture Experts Group)などの符号化圧縮処理を行なう。YUV表色系へ色空間変換することで、輝度に対する解像度は高いが色に対する解像度が低いという人間の視感度特性を利用して、データ圧縮を行ない易くなる。
メモリ制御部20は、撮影した画像情報などのデータを、SDRAM(Synchronous DRAM)などからなるメモリ装置24に対して書き込みや読み出しを行なうためのアクセス動作を制御する。
モニタ・ディスプレイ25は、例えばLCD(Liquid Crystal Display)やその他のタイプの薄型表示パネルなどで構成される。表示制御部21は、モニタ・ディスプレイ25の駆動を制御し、カメラ信号処理部17から出力された画像データ(スルー画像)や、メモリ装置24に保持されている画像データを、モニタ・ディスプレイ25に表示するための信号に変換して、モニタ・ディスプレイ25に出力する。
また、モニタ・ディスプレイ25上には、スルー画像が表示される他、後述する制御部27からの要求に応じて、メニュー画面や各種設定画面や、各種警告情報などを合成して、OSD(On SCreen Display)として表示出力される。本実施形態では、モニタ・ディスプレイ25上にOSD表示される設定画面の1つとして、検出された被写体の検出顔を示す検出枠や、笑顔検出対象に設定された被写体を識別するためのアイコン、笑顔検出中であることを示すアイコンなどが含まれる(図12を参照のこと)。
また、モニタ・ディスプレイ25の表面にはタッチセンサが重畳されており、タッチパネルを兼ねている。タッチパネルが認識する座標と表示パネルに表示する座標は同一である。したがって、撮影者は、モニタ・ディスプレイの表示画面上で、笑顔の検出対象となる被写体や、その他のGUI(Graphical User Interface)部品などを直接指定することができる。
メディア制御部22は、メモリスティック(登録商標)などの着脱可能な記録メディア26を装填するためのスロットを備え、記録メディア26へのデータの書き込みや読み出しを行なう。メディア制御部22は、例えば、メモリ装置24に保持されている撮影画像ファイルを記録メディア26に記録する。
また、カメラDSP部16は、バス・インターフェース・ユニット(BIU)23を介して制御部27に接続されている。制御部27は、UI(User Interface)部28と、ユーザ操作に応じて当該装置全体の動作を統括的に制御するCPU(Central Processing Unit)29と、CPU29にとっての主記憶メモリであるRAM30と、プログラム・コードや装置情報などを不揮発的に保持するEEPROM(Electrically Erasable and Programmable ROM)31などで構成される。
CPU29は、解像度変換部18により解像度変換した後の画像(スルー画像)を用いて被写体の笑顔検出処理を行なう。また、CPU29は、モニタ・ディスプレイ25上にOSD表示するためのGUI処理を行なう。このGUI処理には、撮影者が任意に笑顔検出対象として指定した被写体を識別するための検出枠の表示と、笑顔の検出対象となる被写体と非対象となる被写体とを区別して検出枠を表示すること(図12を参照のこと)が含まれる。
UI部28は、ユーザが指示入力を行なうための操作機能や、スピーカやLEDランプなどの出力機能を備えている。操作機能として、例えば、シャッタ・キー・ボタンやフラッシュ発光のオン/オフなどの各種設定を行なうためのキーやダイヤルなどを備え、これらへのユーザ操作に応じた制御信号がCPU29に入力される。
本実施形態では、デジタルスチルカメラは複数の撮影モードを持ち、撮影モードに応じて、シャッター・キー操作が示す指示内容が異なる。通常の撮影モードでは、シャッター・キーの半押しは画像内の被写体のフォーカスやアイリス制御の指示、シャッター・キーの深押しはカメラ撮影処理の指示を意味する。一方、笑顔検出撮影モードでは、シャッター・キーの深押しによって被写体の笑顔検出が開始され、笑顔検出に応じてカメラ撮影処理が起動する。
また、UI部28は、出力機能を用いて、アラームなどの音声出力や、LEDの点灯又は点滅によって、カメラ・ワークなどに関する情報をユーザにフィードバックすることができる。フラッシュ発光部32は、制御部27からのフラッシュ制御情報に従って、フラッシュを発光する。
このデジタルスチルカメラ1では、撮像素子11によって受光されて光電変換された信号が、順次AFE部12に供給され、CDS処理やAFE処理が施された後、デジタル信号に変換される。カメラ信号処理部17は、AFE部12から供給されたデジタル画像信号を画質補正し、最終的に輝度信号(Y)と色差信号(R−Y、B−Y)に変換して出力する。そして、メラ信号処理部17から出力された画像データは、表示制御部21によって表示用の画像信号に変換され、モニタ・ディスプレイ25上でスルー画像が表示される。
図2には、カメラ画像(スルー画像)をモニタ・ディスプレイ25上に表示する際のデータフローを模式的に示している。
被写体の情報は光学系10、撮像素子11、及びAFE部12を通してデジタル信号に変換されカメラDSP部16へ送られる。カメラDSP部16では、画像信号処理により明るさ、色などの補正が行なわれ、パネルに表示するための画像の解像度変換がさらに行なわれ、その結果作成された画像がモニタ・ディスプレイ25上に表示される。このような画像出力処理の制御は、制御部27内のCPU29が所定のプログラム・コードを実行するという形態で実現される。実際には、制御の分担が細かく分かれているが、本発明の要旨に直接関連しないので、ここでは詳細な説明を省略する。
また、図3には、デジタルスチルカメラ1が画像撮影処理する際のデータフローを模式的に示している。
スルー画像表示の場合と同様に、被写体の情報は光学系10、撮像素子11、及びAFE部12を通してデジタル信号に変換されカメラDSP部16へ送られる。カメラDSP部16では、画像信号処理により明るさ、色などの補正が行なわれる。
UI部28を介したユーザ操作などで制御部27に画像の記録が指示されると、カメラ信号処理部17からの画像データは、解像度変換部18によって撮影用の画像サイズに解像度変換され、さらに画像コーデック処理部19に供給され、所定の圧縮符号化処理が施される。そして、メモリ制御部20を通じてメモリ装置24に保存され、あるいはメディア制御部22を通じて記録メディア26に保存される。
静止画像の記録の際には、カメラ信号処理部17からは1フレーム分の画像データが画像コーデック処理部19に供給される。また、動画像の記録の際には、処理された画像データが画像コーデック処理部19に連続的に供給される。
通常の撮影モード下では、シャッター・キーの半押しに応じて画像内の被写体のフォーカスやアイリス制御(すなわち、スキャン動作)が実施され、シャッター・キーの深押しに応じてカメラ撮影処理(すなわち画像のキャプチャ動作)が実施される。
図4Aには、シャッター・キーの半押しによって行なわれるスキャン動作の処理手順をフローチャートの形式で示している。また、図4Bには、シャッター・キーの深押しによって行なわれるキャプチャ動作の処理手順をフローチャートの形式で示している。
UI部28内のシャッター・キーが半押しされると、そのキー情報がCPU29に通知される(ステップS1)。
CPU29は、シャッター・キーの半押しに応じて、AFE部12とカメラDSP処理部16に対して撮影処理を指示する。また、CPU29は、ドライバ10aに対して、光学系で集光して被写体像が撮像素子の撮像面で結像するようにフォーカスを合わせる制御を行なうとともに、被写体に対して適正な露光を行なうようにアイリスに対する制御など、被写体に対するスキャン動作を行なう。なお、フォーカスやアイリスの制御自体は従来技術を適用することができるので、本明細書では詳細な説明を省略する。
一方、被写体をモニタ・ディスプレイ25上に表示させている状態で、ユーザがUI部28中のシャッター・キーの深押しを行なうと(ステップS11)、UI部28はキー検出して、キー情報の信号をCPU29に送る。これに応答して、CPU29は、ドライバ10aに制御信号を出力し、撮影処理を実行する(スステップS12)。ここでは、図2と同様のデータフローに従って、光学系10より入力されるカメラ画像をモニタ・ディスプレイ25上に表示させる。
ドライバ10aを通じて撮影処理の指示が行なわれると、上記と同様に、被写体の情報は光学系10、撮像素子11、及びAFE部12を通してデジタル信号に変換されカメラDSP部16へ送られる。カメラDSP部16では、画像信号処理により明るさ、色などの補正が行なわれ、撮影モードに応じた画像サイズとなるように解像度変換がさらに行なわれる(ステップS13)。その後、画像コーデック処理部19によって画像にJPEG圧縮処理が施された後(ステップS14)、メディア制御部22を通じて記録メディア26に記録される(ステップS15)。
なお、上記の説明では、ユーザがシャッター・キーの半押しと深押しの2段階操作を行なう場合について説明したが、ユーザ(撮影者)が一気にシャッター・キーを深押ししたときには、フォーカス及びアイリス制御を含む半押し時と同様のスキャン動作を行なった後にキャプチャ動作が行なわれる。
また、本実施形態に係るデジタルスチルカメラ1は、笑顔など被写体の画像から特定のパターンを認識したことを利用して撮影するタイミングを決める笑顔検出自動撮影機能を適用することができる。笑顔認識は、CPU29において所定の画像認識処理プログラムを実行するか、又は、制御部27内に画像認識処理用のエンジン(図示しない)を搭載することによって実現可能である。
また、デジタルスチルカメラ1は、カメラが撮影処理を実施する際に、UI部28の出力機能を用いて、アラーム音の発生やランプの点灯若しくは点滅といったUI部28からの外部出力によって撮影するタイミングを被写体に通知するようにしてもよい。
また、撮影画像中に複数の被写体が存在する場合には、いずれの被写体を笑顔検出の対象にすべきかをシステム側で自動的に決定するようにしても、あるいは、ユーザ(撮影者など)のマニュアル操作に従って決定するようにしてもよい。
ここで、撮影を行なう際には、フォーカスやアイリスを被写体に合わせておく必要がある。被写体の笑顔を認識して撮影を行なう笑顔検出自動撮影機能では、笑顔検出した後にフォーカスやアイリスを被写体に追従させるスキャン動作を行なってから撮影を行なうことになる。すなわち、笑顔検出後に、通常のオート・フォーカス機能により1枚の撮影を行なうときと同じだけの時間がかかる。
ところが、人間の笑顔の持続時間は一般に0.1秒程度しかないのに対し、フォーカスやアイリスのスキャン動作は最速でも0.2〜0.3秒程度の時間を要し、全体の撮影時間のほとんどを支配する。このため、せっかく被写体画像から笑顔を検出できたにもかかわらず、スキャン動作に伴う遅延のために、実際に撮影される顔は笑顔でないことが多くなってしまう。
そこで、本実施形態に係るデジタルスチルカメラ1では、事前にフォーカス並びにアイリスを固定しておき、撮影画像から被写体の笑顔を検出したときにはスキャン動作を改めて起動することなく、直ちにキャプチャ動作を開始するようにするようにしている。すなわち、あらかじめフォーカスやアイリスを固定しておくので、笑顔を検出してからキャプチャ動作を行なうまでに、スキャン動作に伴う0.2〜0.3秒程度の時間を省略することができるので、被写体の笑顔を逃すことなく撮影できるようにしている。
具体的には、笑顔検出撮影モード下では、まず図4Aに示した処理手順と同様に、シャッター・キーの半押しにより被写体のフォーカス合わせとアイリス制御などのスキャン動作を行なうと、フォーカス及びアイリスを固定しておく。そして、シャッター・キーの深押しが行なわれると、撮影画像中の被写体の笑顔検出処理が起動して、笑顔が検出されるまでキャプチャ処理を待機する。そして、笑顔が検出されると、スキャン動作を省略して、撮影画像を記録するためのキャプチャ処理が直ちに行なわれる。
図5には、笑顔検出撮影モード下でのデジタルスチルカメラ1の状態遷移図を示している。図示のように、笑顔検出撮影モード下では「モニタリング」、「フォーカス/アイリス固定」、「笑顔検出撮影」という3つの状態を持つ。
まず、モニタリング状態では、ユーザ(撮影者)は、図2に示したデータフローに従ってモニタ・ディスプレイ25上に表示されるカメラ画像を通じて、撮りたい被写体や画角の設定を行なう。
このモニタリング状態でシャッター・キーの半押しを行なうと、カメラ画像内の被写体のフォーカスやアイリス制御(すなわち、スキャン動作)が実施される。そして、フォーカス/アイリス固定状態に移行して、フォーカス並びにアイリスを固定しておく。
このフォーカス/アイリス固定状態で再びシャッター・キーの半押しを行なうと、フォーカス/アイリスの固定状態が解除され、モニタリング状態に復帰する。
また、フォーカス/アイリス固定状態でさらにシャッター・キーの深押し操作が行なわれると、笑顔検出撮影状態に移行する。そして、フォーカス及びアイリスを固定したままで、撮影画像中の被写体の笑顔検出処理(後述)を行ないながら、キャプチャ処理を待機する。そして、笑顔が検出されると撮影画像を記録するためのキャプチャ処理が行なわれる。
笑顔検出撮影状態では、基本的にはフォーカス・アイリスを固定したままであり、この状態が解除されるまでの間は、被写体の笑顔が検出される度に逐次(すなわち何度でも)キャプチャ処理が行なわれる。
また、笑顔検出撮影状態で再びシャッター・キーの深押し操作が行なわれると、当該状態が解除されて、モニタリング状態に復帰する。
なお、笑顔検出撮影状態では、被写体の笑顔が検出される度に逐次キャプチャ処理を行なうのではなく、最初に被写体の笑顔が検出されたときに1回だけキャプチャ処理を行なうようにしてもよい。但し、デジタルスチルカメラにおいては、撮影に伴ってフィルムなどの資源の消費を伴わないことから、被写体の笑顔検出に応じて何回でもキャプチャすることで、ユーザは複数の笑顔撮影画像の中からからベストショットを選び易くなるというメリットがある。
図6には、モニタ・ディスプレイ25の表示画面(スルー画像)を通じた笑顔検出撮影モード下での動作手順を示している。
図2に示したデータフローに従ってモニタ・ディスプレイ25上に表示されるカメラ画像は制御部27にも送られ、顔検出処理が行なわれる。被写体の検出顔には枠が表示され、また、フォーカスやアイリス制御の対象若しくは笑顔検出の対象となった主要被写体の検出顔の枠には、そのことを示すアイコンが表示される(図12を参照のこと)。図6(a)に示した例では、ただ一人の被写体しか存在しないので、当該被写体の検出顔に枠とアイコンが付される。
ここで、シャッター・キーが半押しされると、カメラ画像内の被写体のフォーカスやアイリス制御(すなわち、スキャン動作)が実施される(図6(b))。そして、スキャン動作に成功すると、フォーカス並びにアイリスを固定しておく(図6(c))。
ここで、フォーカス並びにアイリスを固定した状態で再びシャッター・キーの半押しを行なうと、フォーカス/アイリスの固定状態が解除され、モニタリング状態に復帰する(図6(a))。
一方、フォーカス並びにアイリスを固定した状態でさらにシャッター・キーの深押し操作が行なわれると、笑顔検出撮影状態に移行する。そして、フォーカス及びアイリスを固定したままで、撮影画像中の被写体の笑顔検出処理(後述)を行ない、笑顔が検出される度に撮影画像を記録するためのキャプチャ処理が行なわれる(図6(d)〜(f))。モニタ画面上では、笑顔検出中であることを示すアイコンを示すようにしてもよい。
また、笑顔検出撮影モード下でシャッター・キーの深押しが再び行なわれると、笑顔検出撮影状態を抜けて、モニタリング状態に復帰する(図6(a))。
図7には、図5に示した状態遷移図の笑顔検出状態においてデジタルスチルカメラ1が笑顔検出に基づいて自動撮影を行なうための処理手順をフローチャートの形式で示している。
まず、図2と同様のデータフローに従って、光学系10より入力されるカメラ画像(スルー画像)をモニタ・ディスプレイ25上に表示させる(ステップS21)。
このとき、表示される画像は、制御部27内にも供給される。この時点で、制御部27は、画像内の被写体の顔検出と笑顔検出となる検出顔の選定を行なっているものとする。例えば、「ピクセル差分特徴を用いた実時間任意姿勢顔検出器の学習」(第10回画像センシングシンポジウム(SSII 2004))に記載されている顔検出処理アルゴリズムを適用することができる。
次いで、所定の画像認識処理プログラムを実行するCPU29(若しくは、図示しない画像認識エンジン)は、画面内で指定された被写体についての笑顔パターンの検出処理を行なう(ステップS22)。笑顔検出処理の詳細については後述に譲る。
そして、カメラ撮影処理が起動する(ステップS23)。具体的には、CPU29がドライバ10aを通じて撮影処理の指示を行ない、被写体の情報は光学系10、撮像素子11、及びAFE部12を通してデジタル信号に変換されカメラDSP部16へ送られる。カメラDSP部16では、画像信号処理により明るさ、色などの補正が行なわれる。
但し、フォーカス並びにアイリスは既に固定状態となっているので、全体の撮影時間を支配するスキャン動作を省略して、上記のカメラ撮影処理が開始される。
次いで、解像度変換部18によって撮影モードに応じた画像サイズに変換され(ステップS24)、さらに、画像コーデック処理部19によって画像にJPEG圧縮処理が施された後(ステップS25)、メディア制御部22を通じて記録メディア26に記録される(ステップS26)。
図7に示したフローチャートのステップS22で実行される被写体の笑顔検出処理は、例えば、「ピクセル差分特徴を用いた実時間任意姿勢顔検出器の学習」(第10回画像センシングシンポジウム(SSII 2004))に記載されている顔検出処理方法を適用することができる。笑顔検出処理にも同じ処理アルゴリズムを適用することができるが(前述)、この場合は参照する画像の辞書が相違する。但し、本発明の要旨は特定の顔検出処理に限定されるものではない。
図8には、ステップS22で実行される被写体の笑顔検出処理の手順をフローチャートの形式で示している。
まず、解像度変換部18により撮影モードに応じた解像度に変換された画像を取得する(ステップS31)。
次いで、この撮影画像から笑顔の特徴解析を行ない(ステップS32)、画像辞書との比較を行なう(ステップS33)。
そして、解像度変換後の画像と辞書画像で笑顔パターンの乖離度を比較し(ステップS34)、乖離度が所定の閾値以内に収まったときに笑顔が検出された旨の値を返す(ステップS35)。
上述したように、本実施形態に係るデジタルスチルカメラ1は、笑顔検出撮影モード下では、フォーカス並びにアイリスを固定状態にすることで、撮影画像から被写体の笑顔が検出されると、全体の撮影時間を支配するスキャン動作を省略して、笑顔を逃すことなく速やかにキャプチャ動作を行なうことができる。
しかしながら、このような自動撮影方法は、被写体がずっと動かないことを前提としており、動く可能性のある被写体の場合は最初に固定したのと違う地点で撮影が行なわれる可能性があり、結果的に撮影画像のフォーカスが合っていない可能性がある。
例えば図5に示した状態遷移図において、「フォーカス/アイリス固定」状態においてシャッター・キーの深押しを行なって「笑顔検出撮影」状態に入ってから、被写体が動いたために検出顔を見失う、あるいは被写体から笑顔がなかなか検出されないなど、速やかに笑顔検出撮影が行なわれないときには、固定しておいたフォーカスやアイリスがもはや有効でないことが推測される。
このため、フォーカスやアイリスのリフレッシュすなわち再スキャン動作を適宜的に実施することが好ましいと考えられる。
例えば、図9に示すように、笑顔検出撮影状態において、撮影画像から笑顔検出の対象となっている検出顔を一旦見失ったときには、その後に再び検出対象の被写体を検出できたときに再スキャン動作を起動して、新しいフォーカス並びにアイリスに改めて固定する。
また、図10に示すように、笑顔検出撮影状態において、撮影画像から笑顔検出の対象となっている検出顔から所定時間以上笑顔を検出できなかったときには、再スキャン動作を起動して、新しいフォーカス並びにアイリスに改めて固定する。あるいは、笑顔検出撮影状態では定期的にフォーカス並びにアイリスをリフレッシュするようにしてもよい。
図11には、笑顔検出撮影状態において再スキャンを行なうための処理手順をフロー形式で示している。但し、同フローはPAD(Problem Analysis Diagram)と呼ばれる、JISフローチャートとは異なるプログラム用チャート記法でアルゴリズムの構造を示している。アルゴリズムは本質的に、連接、反復、選択の3つの基本単位の合成として表現することができ、PADはこの3種類を基本単位とした記述方式を採っている。
タイマ値を0に初期化してから(P1)、笑顔検出撮影状態に移行する(L1)。
ここで、所定の制御周期毎に、撮影画像から笑顔検出の対象となっている被写体の検出顔を検出できたかどうかをチェックする(C11)。そして、顔検出できなかったときにはタイマ値を0にリセットする(P22)。
また、顔検出できたらタイマ値を1ずつインクリメントする(P21)。そして、1周期前に被写体の顔を検出できたかどうかをチェックする(C31)。
1周期前に被写体の顔を検出できていたときには、タイマ値が所定値を超えていないかどうかをチェックする(C41)。ここで、タイマ値が所定値を超えているときには(図10を参照のこと)、フォーカス並びにアイリスの再スキャン動作を行なう(P51)。
また、1周期前に被写体の顔を検出できなかったときには、撮影画像から笑顔検出の対象となっている検出顔を一旦見失い、その後に再び検出対象の被写体を検出できたことになるので(図9を参照のこと)、フォーカス並びにアイリスの再スキャン動作を行なう(P41)。
以上、特定の実施形態を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。
本明細書では、デジタルスチルカメラに適用した実施形態を中心に説明してきたが、本発明の要旨はこれに限定されるものではない。例えば、携帯電話機やPDA(Personal Digital Assistant)、あるいはその他のカメラ機能を備えたさまざまな情報機器に対して本発明を同様に適用することができる。
要するに、例示という形態で本発明を開示してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本発明の要旨を判断するためには、特許請求の範囲を参酌すべきである。
図1は、本発明を適用することができるデジタルスチルカメラ1のハードウェア構成を模式的に示した図である。 図2は、カメラ画像をモニタ・ディスプレイ25上にスルー表示する際のデータフローを模式的に示した図である。 図3は、デジタルスチルカメラ1が画像撮影処理する際のデータフローを模式的に示した図である。 図4Aは、デジタルスチルカメラ1が画像撮影する際のスキャン動作の処理手順を示したフローチャートである。 図4Bは、デジタルスチルカメラ1が画像撮影する際のキャプチャ動作の処理手順を示したフローチャートである。 図5は、笑顔検出撮影モード下でのデジタルスチルカメラ1の状態遷移図を示した図である。 図6は、モニタ・ディスプレイ25の表示画面を通じて笑顔検出撮影モード下での動作手順を示した図である。 図7は、笑顔検出状態においてデジタルスチルカメラ1が笑顔検出に基づいて自動撮影を行なうための処理手順を示したフローチャートである。 図8は、ステップS22で実行される被写体の笑顔検出処理の手順を示したフローチャートである。 図9は、笑顔検出撮影状態において、撮影画像から笑顔検出の対象となっている検出顔を一旦見失い、その後に再び検出対象の被写体を検出できたときに再スキャン動作を起動する様子を示した図である。 図10は、笑顔検出撮影状態において、撮影画像から笑顔検出の対象となっている検出顔から所定時間以上笑顔を検出できなかったときに再スキャン動作を起動する様子を示した図である。 図11は、笑顔検出撮影状態において再スキャンを行なうための処理手順をPAD形式で示した図である。 図12は、モニタ・ディスプレイ25上に表示されるスルー画像及びOSD表示情報を説明するための図である。
符号の説明
1…デジタルスチルカメラ
10…光学系
10a…ドライバ
11…撮像素子
12…AFE部
13…CDS/AGC/ADCブロック
14…タイミング・ジェネレータ
15…Vドライバ
16…カメラDSP部
17…カメラ信号処理部
18…解像度変換部
19…画像コーデック処理部
20…メモリ制御部
21…表示制御部
22…メディア制御部
23…バス・インターフェース・ユニット
24…メモリ装置
25…モニタ・ディスプレイ
26…記録メディア
27…制御部
28…UI部
29…CPU
30…RAM
31…EEPROM
32…フラッシュ発光部

Claims (15)

  1. 被写体からの光を集光する光学手段と、
    前記光学手段集光た被写体画像を撮像する撮像手段と、
    前記光学手段の各機構の駆動を制御する駆動制御手段と、
    前記撮像手段撮像した画像を信号処理する画像信号処理手段と、
    信号処理された前記画像を所定の記憶媒体記憶させ記憶手段と、
    信号処理された前記画像から被写体の顔笑顔を検出する検出手段と、
    前記被写体の笑顔を検出したことに応じて、前記駆動制御手段による前記光学手段の各機構の駆動を固定したままで、画像の撮影処理を行なう撮影制御手段と、
    備え、
    前記駆動制御手段は、前記光学手段の各機構の駆動を固定したままで画像から被写体の笑顔を検出するまで撮影処理を待機する待機状態において、前記検出手段が画像から見失ってから前記顔検出手段が再び該被写体の顔を検出したときに、前記光学手段の各機構の駆動を制御し、改めて前記光学手段の各機構の駆動を固定させる、
    画像撮影装置。
  2. 被写体からの光を集光する光学手段と、
    前記光学手段が集光した被写体画像を撮像する撮像手段と、
    前記光学手段の各機構の駆動を制御する駆動制御手段と、
    前記撮像手段が撮像した画像を信号処理する画像信号処理手段と、
    信号処理された前記画像を所定の記憶媒体に記憶させる記憶手段と、
    信号処理された前記画像から被写体の顔と笑顔を検出する検出手段と、
    前記被写体の笑顔を検出したことに応じて、前記駆動制御手段による前記光学手段の各機構の駆動を固定したままで、画像の撮影処理を行なう撮影制御手段と、
    備え、
    前記駆動制御手段は、前記光学手段の各機構の駆動を固定したままで撮影画像から被写体の笑顔を検出するまで撮影処理を待機する待機状態において、前記検出手段が画像から被写体の笑顔を検出しなくなってから所定時間が経過したときに、前記光学手段の各機構の駆動を制御し、改めて前記光学手段の各機構の駆動を固定させる、
    画像撮影装置。
  3. 前記駆動制御手段は、前記光学手段で集光して被写体像が前記撮像手段の撮像面で結像するようにフォーカスを合わせる制御、又は被写体に対して適正な露光を行なうようにアイリスに対する制御のうち少なくとも一方を行なう、
    請求項1又は2のいずれかに記載の画像撮影装置。
  4. 撮影者が撮影動作に関するシャッター・キーを備え、
    前記撮影制御手段は、
    前記シャッター・キーの半押しが行なわれたことに応じて、前記駆動制御手段による前記光学手段の各機構の駆動の制御を行なわせた後、前記光学手段の各機構の駆動を固定し、
    前記シャッター・キーの深押しが行なわれたことに応じて、前記駆動制御手段による前記光学手段の各機構の駆動を固定したままで、撮影画像から被写体の笑顔を検出するまで撮影処理を待機する、
    請求項1又は2のいずれかに記載の画像撮影装置。
  5. 前記撮影制御手段は、撮影画像から被写体の顔から笑顔を検出する度に、前記駆動制御手段による前記光学手段の各機構の駆動を固定したままで被写体画像の撮影処理を行なう、
    請求項に記載の画像撮影装置。
  6. 前記撮影制御手段は、前記駆動制御手段による前記光学手段の各機構の駆動が固定された状態で、前記シャッター・キーの半押しが再び行なわれたことに応じて、該固定された状態を解除する、
    請求項に記載の画像撮影装置。
  7. 前記撮影制御手段は、前記シャッター・キーの深押しが再び行なわれたことに応じて、前記駆動制御手段による前記光学手段の各機構の駆動を固定したままで撮影画像から被写体の笑顔を検出するまで撮影処理を待機する待機状態を解除する、
    請求項に記載の画像撮影装置。
  8. 光学系で集光して被写体像が撮像面で結像するようにフォーカスを合わせる制御、並びに被写体に対して適正な露光を行なうようにアイリスに対する制御を行なうスキャン動作ステップと、
    前記スキャン動作ステップによるフォーカス並びアイリスの制御を固定するフォーカス/アイリス固定ステップと、
    撮影画像から前記被写体の顔と笑顔を検出する検出ステップと、
    前記被写体の笑顔を検出したことに応じて、前記のフォーカス並びアイリスの制御を固定したままで所定の記憶媒体に撮影画像を記録するためのキャプチャ動作を行なう笑顔検出撮影ステップと、
    を有し、
    前記笑顔検出撮影ステップでは、前記のフォーカス並びアイリスの制御を固定したままで撮影画像から被写体の笑顔を検出するまで前記キャプチャ動作を待機する待機状態において、笑顔検出の対象となっている被写体の顔を撮影画像から見失ってから前記顔検出ステップにより再び該被写体の顔を検出したときに、前記スキャン動作ステップを再度実施して、前記フォーカス/アイリス固定ステップによりフォーカス並びアイリスの制御を改めて固定する、
    画像撮影方法。
  9. 光学系で集光して被写体像が撮像面で結像するようにフォーカスを合わせる制御、並びに被写体に対して適正な露光を行なうようにアイリスに対する制御を行なうスキャン動作ステップと、
    前記スキャン動作ステップによるフォーカス並びアイリスの制御を固定するフォーカス/アイリス固定ステップと、
    撮影画像から前記被写体の顔と笑顔を検出する検出ステップと、
    前記被写体の笑顔を検出したことに応じて、前記のフォーカス並びアイリスの制御を固定したままで所定の記憶媒体に撮影画像を記録するためのキャプチャ動作を行なう笑顔検出撮影ステップと、
    有し、
    前記笑顔検出撮影ステップでは、前記のフォーカス並びアイリスの制御を固定したままで撮影画像から被写体の笑顔を検出するまで前記キャプチャ動作を待機する待機状態において、笑顔検出の対象となっている被写体の顔から笑顔を検出しなくなってから所定時間が経過したときに、前記スキャン動作ステップを再度実施して、前記フォーカス/アイリス固定ステップによりフォーカス並びアイリスの制御を改めて固定する、
    画像撮影方法。
  10. 撮影者からシャッター・キーを介して撮影動作に関する操作が入力され、
    前記シャッター・キーの半押しが行なわれたことに応じて、前記スキャン動作ステップを実施した後、前記フォーカス/アイリス固定ステップによりフォーカス並びアイリスの制御を固定し、半押しの状態が継続している限り固定の状態を維持し、
    前記シャッター・キーの深押しが行なわれたことに応じて、前記笑顔検出撮影ステップにおいて、前記のフォーカス並びアイリスの制御を固定したままで撮影画像から被写体の笑顔を検出するまで前記キャプチャ動作を待機する、
    請求項8又はのいずれかに記載の画像撮影方法。
  11. 前記笑顔検出撮影ステップでは、撮影画像から被写体の顔から笑顔を検出する度に、キャプチャ動作を実施する、
    請求項10に記載の画像撮影方法。
  12. 前記フォーカス/アイリス固定ステップによりフォーカス並びアイリスの制御を固定した状態において、前記シャッター・キーの半押し状態が解除されたことに応じて、該固定された状態を解除する、
    請求項10に記載の画像撮影方法。
  13. 前記笑顔検出撮影ステップでは、前記シャッター・キーの深押しが再び行なわれたことに応じて、前記のフォーカス並びアイリスの制御を固定したままで撮影画像から被写体の笑顔を検出するまで前記キャプチャ動作を待機する待機状態を解除する、
    請求項10に記載の画像撮影方法。
  14. 被写体画像の撮影を行なう画像撮影処理をコンピュータ上で実行するようにコンピュータ可読形式で記述されたコンピュータ・プログラムであって、前記コンピュータに対し、
    光学系で集光して被写体像が撮像面で結像するようにフォーカスを合わせる制御、並びに被写体に対して適正な露光を行なうようにアイリスに対する制御を行なうスキャン動作手順と、
    前記スキャン動作手順によるフォーカス並びアイリスの制御を固定するフォーカス/アイリス固定手順と、
    撮影画像から前記被写体の顔と笑顔を検出する検出手順と、
    前記被写体の笑顔を検出したことに応じて、前記のフォーカス並びアイリスの制御を固定したままで所定の記憶媒体に撮影画像を記録するためのキャプチャ動作を行なう笑顔検出撮影手順と、
    を実行させ、
    前記笑顔検出撮影手順では、前記のフォーカス並びアイリスの制御を固定したままで撮影画像から被写体の笑顔を検出するまで前記キャプチャ動作を待機する待機状態において、笑顔検出の対象となっている被写体の顔を撮影画像から見失ってから前記顔検出手順により再び該被写体の顔を検出したときに、前記スキャン動作ステップを再度実施して、前記フォーカス/アイリス固定手順によりフォーカス並びアイリスの制御を改めて固定する、
    コンピュータ・プログラム。
  15. 被写体画像の撮影を行なう画像撮影処理をコンピュータ上で実行するようにコンピュータ可読形式で記述されたコンピュータ・プログラムであって、前記コンピュータに対し、
    光学系で集光して被写体像が撮像面で結像するようにフォーカスを合わせる制御、並びに被写体に対して適正な露光を行なうようにアイリスに対する制御を行なうスキャン動作手順と、
    前記スキャン動作手順によるフォーカス並びアイリスの制御を固定するフォーカス/アイリス固定手順と、
    撮影画像から前記被写体の顔と笑顔を検出する検出手順と、
    前記被写体の笑顔を検出したことに応じて、前記のフォーカス並びアイリスの制御を固定したままで所定の記憶媒体に撮影画像を記録するためのキャプチャ動作を行なう笑顔検出撮影手順と、
    を実行させ、
    前記笑顔検出撮影手順では、前記のフォーカス並びアイリスの制御を固定したままで撮影画像から被写体の笑顔を検出するまで前記キャプチャ動作を待機する待機状態において、笑顔検出の対象となっている被写体の顔から笑顔を検出しなくなってから所定時間が経過したときに、前記スキャン動作ステップを再度実施して、前記フォーカス/アイリス固定手順によりフォーカス並びアイリスの制御を改めて固定する、
    コンピュータ・プログラム。
JP2007166994A 2007-06-25 2007-06-25 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム Expired - Fee Related JP4356778B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007166994A JP4356778B2 (ja) 2007-06-25 2007-06-25 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
US12/107,314 US7787762B2 (en) 2007-06-25 2008-04-22 Image photographing apparatus, image photographing method, and computer program
CN2008101268074A CN101334578B (zh) 2007-06-25 2008-06-24 图像拍摄装置以及图像拍摄方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007166994A JP4356778B2 (ja) 2007-06-25 2007-06-25 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2009138819A Division JP5077294B2 (ja) 2009-06-10 2009-06-10 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム

Publications (2)

Publication Number Publication Date
JP2009005316A JP2009005316A (ja) 2009-01-08
JP4356778B2 true JP4356778B2 (ja) 2009-11-04

Family

ID=40136603

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007166994A Expired - Fee Related JP4356778B2 (ja) 2007-06-25 2007-06-25 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム

Country Status (3)

Country Link
US (1) US7787762B2 (ja)
JP (1) JP4356778B2 (ja)
CN (1) CN101334578B (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008131201A1 (en) 2007-04-19 2008-10-30 Global Rainmakers, Inc. Method and system for biometric recognition
US8953849B2 (en) * 2007-04-19 2015-02-10 Eyelock, Inc. Method and system for biometric recognition
KR20100027700A (ko) * 2008-09-03 2010-03-11 삼성디지털이미징 주식회사 촬영 방법 및 장치
JP4927808B2 (ja) * 2008-11-26 2012-05-09 京セラ株式会社 カメラ付き機器
JP5116652B2 (ja) * 2008-12-24 2013-01-09 三洋電機株式会社 撮像装置および笑顔記録プログラム
JP5343676B2 (ja) * 2009-04-08 2013-11-13 ソニー株式会社 画像処理装置、画像処理方法およびコンピュータプログラム
JP5493470B2 (ja) * 2009-05-26 2014-05-14 株式会社ニコン 焦点調節装置およびそれを備えた撮像装置
WO2011021906A2 (en) * 2009-08-21 2011-02-24 Samsung Electronics Co., Ltd. Method and apparatus for requesting data, and method and apparatus for obtaining data
KR101630304B1 (ko) * 2010-02-04 2016-06-14 삼성전자주식회사 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 매체
JP2011234002A (ja) * 2010-04-26 2011-11-17 Kyocera Corp 撮像装置及び端末装置
JP2011234015A (ja) * 2010-04-26 2011-11-17 Kyocera Corp 端末装置
JP5614100B2 (ja) * 2010-05-24 2014-10-29 日産自動車株式会社 画像処理装置及び移動***置推定方法
US8902334B2 (en) * 2010-10-12 2014-12-02 Sony Corporation Terminal apparatus and method for adding an effect to an image
KR101755598B1 (ko) * 2010-10-27 2017-07-07 삼성전자주식회사 디지털 촬영 장치 및 이의 제어 방법
JP6148431B2 (ja) 2010-12-28 2017-06-14 キヤノン株式会社 撮像装置およびその制御方法
US20130057693A1 (en) * 2011-09-02 2013-03-07 John Baranek Intruder imaging and identification system
US8965046B2 (en) 2012-03-16 2015-02-24 Qualcomm Technologies, Inc. Method, apparatus, and manufacture for smiling face detection
JP5970937B2 (ja) 2012-04-25 2016-08-17 ソニー株式会社 表示制御装置および表示制御方法
US9712800B2 (en) * 2012-12-20 2017-07-18 Google Inc. Automatic identification of a notable moment
EP2939439A4 (en) * 2012-12-31 2016-07-20 Google Inc AUTOMATIC IDENTIFICATION OF A SPECIAL MOMENT
US9832373B2 (en) 2014-06-24 2017-11-28 Cyberlink Corp. Systems and methods for automatically capturing digital images based on adaptive image-capturing templates
CN104182975B (zh) * 2014-08-11 2017-02-15 福州瑞芯微电子股份有限公司 自动过滤效果不佳的图片的拍照装置及方法
CN104994300A (zh) * 2015-07-20 2015-10-21 魅族科技(中国)有限公司 一种拍照方法及终端
KR20170131101A (ko) * 2016-05-20 2017-11-29 엘지전자 주식회사 이동 단말기 및 그 제어방법
US10257414B2 (en) * 2016-07-15 2019-04-09 Qualcomm Incorporated Method and system for smart group portrait
WO2018188007A1 (zh) * 2017-04-13 2018-10-18 华为技术有限公司 自拍的方法、装置和终端设备
JP7145638B2 (ja) * 2018-05-07 2022-10-03 シャープ株式会社 電子機器、撮像方法、制御装置、及び制御プログラム
JP6924723B2 (ja) * 2018-06-12 2021-08-25 マクセルフロンティア株式会社 画像処理装置及び撮像装置
US11126808B1 (en) * 2019-05-30 2021-09-21 Owens-Brockway Glass Container Inc. Methods for dot code image processing on a glass container
US11115595B2 (en) 2019-09-03 2021-09-07 Mediatek Inc. Privacy-aware image encryption
KR20210070528A (ko) 2019-12-05 2021-06-15 삼성전자주식회사 광학적 객체 인식을 이용한 반셔터 기능 수행 방법 및 이를 이용한 영상 촬영 방법
KR20210096795A (ko) 2020-01-29 2021-08-06 삼성전자주식회사 이미지의 자동 촬영 방법, 상기 방법을 수행하는 이미지의 자동 촬영 장치, 및 상기 방법을 수행하는 이미지의 자동 촬영 시스템

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09171560A (ja) 1995-12-20 1997-06-30 Oki Electric Ind Co Ltd 顔の傾き検出装置
JP2000347278A (ja) 1999-06-04 2000-12-15 Fuji Photo Film Co Ltd カメラ及び撮影方法
GB2373942A (en) * 2001-03-28 2002-10-02 Hewlett Packard Co Camera records images only when a tag is present
JP2003271933A (ja) 2002-03-18 2003-09-26 Sony Corp 顔検出装置及び顔検出方法並びにロボット装置
JP2004294498A (ja) * 2003-03-25 2004-10-21 Fuji Photo Film Co Ltd 自動撮影システム
US20050168592A1 (en) * 2004-01-30 2005-08-04 Demoor Robert G. Apparatus and method for capturing an informal image with a digital camera
JP3987047B2 (ja) * 2004-03-05 2007-10-03 ニスカ株式会社 撮像装置及びこれに用いる光量調節装置
JP2005266984A (ja) * 2004-03-17 2005-09-29 Konica Minolta Holdings Inc 画像処理システム
JP2006237803A (ja) 2005-02-23 2006-09-07 Konica Minolta Photo Imaging Inc 撮像システム、写真撮影スタジオ、撮像システムの制御方法
WO2006117942A1 (ja) * 2005-04-28 2006-11-09 Konica Minolta Holdings, Inc. 人物撮影装置、及び人物撮影方法
DE602006009191D1 (de) * 2005-07-26 2009-10-29 Canon Kk Bildaufnahmegerät und -verfahren
JP2007081471A (ja) 2005-09-09 2007-03-29 Fujifilm Holdings Corp デジタルカメラ
US7664389B2 (en) * 2007-05-21 2010-02-16 Sony Ericsson Mobile Communications Ab System and method of photography using desirable feature recognition
JP4600435B2 (ja) * 2007-06-13 2010-12-15 ソニー株式会社 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP2009010776A (ja) * 2007-06-28 2009-01-15 Sony Corp 撮像装置、撮影制御方法及びプログラム
US8750578B2 (en) * 2008-01-29 2014-06-10 DigitalOptics Corporation Europe Limited Detecting facial expressions in digital images

Also Published As

Publication number Publication date
CN101334578A (zh) 2008-12-31
US20080317455A1 (en) 2008-12-25
CN101334578B (zh) 2011-07-06
JP2009005316A (ja) 2009-01-08
US7787762B2 (en) 2010-08-31

Similar Documents

Publication Publication Date Title
JP4356778B2 (ja) 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP4600435B2 (ja) 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP4453721B2 (ja) 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP4613724B2 (ja) 撮像装置および撮像方法
JP4510768B2 (ja) 撮影装置および方法並びにプログラム
JP5681871B2 (ja) 撮像装置、撮像方法及びプログラム
JP2009010776A (ja) 撮像装置、撮影制御方法及びプログラム
JP2007318725A (ja) カメラ、カメラの撮影制御方法、プログラム、記録媒体
JP5180349B2 (ja) 撮影装置および方法並びにプログラム
JPWO2007057971A1 (ja) デジタルカメラ、デジタルカメラを搭載した電子機器、デジタルカメラの撮像方法、およびデジタルカメラのプログラムを記憶した記憶媒体
JP4862741B2 (ja) 撮像装置、撮像信号処理方法、プログラム
JP4849163B2 (ja) 画像処理装置及び画像処理方法、並びにコンピュータ・プログラム
JP5332369B2 (ja) 画像処理装置及び画像処理方法、並びにコンピュータ・プログラム
JP5077294B2 (ja) 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP2009020163A (ja) 撮像装置及びそのプログラム
JP2007208355A (ja) 撮影装置および方法並びにプログラム
JP2010028605A (ja) 撮像装置および撮像装置の制御方法
JP2009182880A (ja) 撮像装置及びそのプログラム
JP5835207B2 (ja) 撮像装置、撮像制御方法、及びプログラム
JP5625325B2 (ja) 画像データ記録装置および画像データ記録プログラム
JP2010062825A (ja) 撮像装置および撮像制御方法
JP4862755B2 (ja) 画像撮影制御装置及び画像撮影制御方法、並びにコンピュータ・プログラム
JP2007013586A (ja) 撮像装置
JP5304146B2 (ja) 撮像装置および撮像方法
JP2004193884A (ja) デジタルカメラ

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090714

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090727

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120814

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4356778

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120814

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120814

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130814

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees