JP2010171797A - 撮像装置及びプログラム - Google Patents

撮像装置及びプログラム Download PDF

Info

Publication number
JP2010171797A
JP2010171797A JP2009013135A JP2009013135A JP2010171797A JP 2010171797 A JP2010171797 A JP 2010171797A JP 2009013135 A JP2009013135 A JP 2009013135A JP 2009013135 A JP2009013135 A JP 2009013135A JP 2010171797 A JP2010171797 A JP 2010171797A
Authority
JP
Japan
Prior art keywords
subject
smile
unit
image
corners
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2009013135A
Other languages
English (en)
Inventor
Tetsuo In
哲生 因
Masanaga Nakamura
正永 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2009013135A priority Critical patent/JP2010171797A/ja
Priority to US12/689,510 priority patent/US20100188520A1/en
Publication of JP2010171797A publication Critical patent/JP2010171797A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • G06V40/175Static expression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/42Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by switching between different modes of operation using different resolutions or aspect ratios, e.g. switching between interlaced and non-interlaced mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 本発明は、被写体である人物の撮影において、人物の笑顔の判定を確度高く行うことができる技術を提供することを目的とする。
【解決手段】 本発明は、被写体を撮像素子の全画素読み出し又は間引き読み出しによって撮像し画像を生成する撮像部と、間引き読み出しして撮像された画像を用いて、被写体の顔を検出する顔検出部と、検出された被写体の顔とともに、歯、口角及び目尻それぞれの形状を認識する顔認識部と、認識された歯、口角及び目尻それぞれの形状が、歯、口角及び目尻におけるそれぞれの形状に基づいて決められる3つの条件からなる笑顔条件のうち、少なくとも1つと一致した場合、被写体が笑顔であると判定する表情判定部と、表情判定部によって被写体が笑顔であると判定した場合、撮像部に被写体を全画素読み出しによる撮像指令を出す制御部とを備える。
【選択図】 図1

Description

本発明は、被写体である人物の笑顔検出に基づいて撮像することのできる撮像装置及びプログラムに関する。
近年、被写体である人物が所望する表情やポーズになった時に、電子カメラのレリーズが自動的に作動して、人物を撮像するための顔検出等の画像処理の技術開発が盛んに行われている。
例えば、特許文献1では、あらかじめ所定の望ましいと考えられる表情やポーズの形状データを記憶しておき、撮像された画像からユーザである被写体の表情やポーズの形状を抽出して、記憶されている表情やポーズの形状データと比較し、その一致度を算出することによって、その一致度が所定値以上になった時、ユーザが希望する表情やポーズであると判断して撮像する技術を開示している。
しかしながら、従来技術では、一般的に、笑顔等の表情判定は、顔の目尻や口角の形状といった複数の条件に基づいて行われており、そうした条件全てが一定の条件を満たす必要がある。たとえ、特許文献1のように、一致度の所定値を徐々に下げるとしても、笑顔を作るのが苦手な人にとっては、笑顔と判定されない場合がある。
上記従来技術が有する問題に鑑み、本発明の目的は、被写体である人物の撮影において、人物の笑顔の判定を確度高く行うことができる技術を提供することにある。
上記課題を解決するために、本発明の撮像装置は、被写体を撮像素子の全画素読み出し又は間引き読み出しによって撮像し画像を生成する撮像部と、間引き読み出しして撮像された画像を用いて、被写体の顔を検出する顔検出部と、検出された被写体の顔とともに、歯、口角及び目尻それぞれの形状を認識する顔認識部と、認識された歯、口角及び目尻それぞれの形状が、歯、口角及び目尻におけるそれぞれの形状に基づいて決められる3つの条件からなる笑顔条件のうち、少なくとも1つと一致した場合、被写体が笑顔であると判定する表情判定部と、表情判定部によって被写体が笑顔であると判定した場合、撮像部に被写体を全画素読み出しによる撮像指令を出す制御部とを備える。
また、本発明において、笑顔条件を任意に設定選択することが可能な操作部材をさらに備える。
また、本発明において、制御部は、表情判定部が笑顔条件を1つも満たしていないと判定した場合、撮像部に撮像指令を中止する。
また、本発明において、複数の被写体の顔の画像及び複数の被写体の各々の笑顔条件を記憶している記憶部をさらに備え、制御部は、顔認識部によって認識された被写体の顔が、記憶部に記憶されている複数の被写体のいずれかの顔と一致したと判定した場合、顔認識部によって顔認識された前記被写体の前記笑顔条件を前記表情判定部に設定する。
また、本発明において、制御部は、新たに撮像された画像の被写体における表情判定部の判定結果に基づいて、記憶部に記録されている被写体の笑顔条件を更新する条件更新部をさらに備え、制御部は、更新された笑顔条件を表情判定部に設定する。
また。本発明において、制御部は、顔認識部によって記憶部にない新しい被写体であると判定した場合、又は条件更新部による被写体の笑顔条件の更新回数が所定の回数よりも少ない場合、所定の時間間隔毎に笑顔条件の数を減らして表情判定部に設定する。
また、本発明において、制御部は、条件更新部による被写体の笑顔条件の更新回数が所定の回数よりも多いと判定した場合、被写体の笑顔条件を初期の設定に近づける変更を行い表情判定部に設定する。
また、本発明において、撮像部によって被写体が撮像された時の表情判定部による笑顔条件の判定結果を表示する表示部をさらに備える。
また、本発明において、制御部は、撮像部に被写体を撮像させた画像に、表情判定部による撮像時の被写体の笑顔条件の判定結果を付加する。
本発明のプログラムは、被写体を撮像素子によって撮像された画像を読み込む入力ステップと、画像を用いて、被写体の顔を検出する顔検出ステップと、検出された被写体の顔とともに、歯、口角及び目尻それぞれの形状を認識する顔認識ステップと、認識された歯、口角及び目尻それぞれの形状が、歯、口角及び目尻におけるそれぞれの形状に基づいて決められる3つの条件からなる笑顔条件のうち、少なくとも1つと一致した場合、被写体が笑顔であると判定する表情判定ステップと、表情判定ステップによって被写体が笑顔であると判定した場合、被写体が笑顔であると判定した時の笑顔条件を被写体毎に記憶する記憶ステップとを備え、コンピュータに実行させる。
本発明によれば、被写体である人物の撮影において、被写体の笑顔の判定を確度高く行うことができる。
本発明の一の実施形態に係る電子カメラ100の構成例を示す模式図 本発明の一の実施形態に係る電子カメラ100の記憶部10に保持される人物データ表15の一例を示す図 本発明の一の実施形態に係る電子カメラ100の笑顔撮影モードにおける撮影手順を示すフローチャート 本発明の一の実施形態における笑顔撮影において必要となる条件設定の画面20の一例を示す図 本発明の一の実施形態における被写体の一例を示す図 本発明の一の実施形態に係る電子カメラ100によって本撮像された静止画像50の表示例を示す図
≪一の実施形態≫
図1は、本発明の一の実施形態に係る電子カメラ100の構成図である。
電子カメラ100は、撮像レンズ群1、撮像素子2、A/D変換部3、フレームメモリ4、CPU5、タイミングジェネレータ(TG)6、画像処理部7、カードメモリ8、カードインタフェース(カードI/F)9、記憶部10、操作部材11、表示回路12及び表示部13から構成される。フレームメモリ4、CPU5、画像処理部7、カードI/F9、記憶部10、操作部材11及び表示回路12は、バス14を介して情報伝達可能に接続されている。また、撮像素子2及びA/D変換部3は、TG6を介して、CPU5にそれぞれ接続され制御される。
撮像レンズ群1は、複数の光学レンズにより構成され、被写体像を撮像素子3の受光面に結像する。
撮像素子2は、CPU5の指令を受けてTG6が発するタイミングパルスに基づいて動作し、前方に設けられた撮像レンズ群1によって結像された被写体像を取得し、画像信号に変換して出力する。なお、本実施形態の撮像素子2は、CPU5の指令に基づいて、全画素による被写体像の撮像や、水平走査方向又は垂直走査方向に間引いて画素値を読み出して、ライブビュー用のスルー画や動画の被写体像の撮像を行うことができる。撮像素子2には、CCDやCMOSの半導体のイメージセンサ等を適宜選択して用いることができる。
撮像素子2から出力される画像信号は、A/D変換部3でデジタル信号に変換される。変換されたデジタルの画像信号は、フレームメモリ4に一時的に記録された後、記憶部10又は画像処理部7へ転送される。なお、A/D変換部3は、撮像素子2からのアナログ信号を、ISO感度に応じて増幅する増幅部を有するアナログフロントエンドを備えていることが好ましい。また、フレームメモリ4には、半導体メモリのうち、任意の不揮発性の半導体を適宜選択して用いることができる。
CPU5は、ユーザによる操作部材11の電源釦操作によって電子カメラ100の電源が入れられると、記憶部10に記憶されている制御プログラムを読み込み、電子カメラ100を初期化する。CPU5は、操作部材11を介して、ユーザからの指示を受け付けると、制御プログラムに基づいて、TG6に被写体像の全画素による静止画撮像又は間引き読み出しによるスルー画や動画の撮像指令を出す。さらに、本実施形態では、CPU5は、後述するように、操作部材11のモード設定釦によって笑顔撮影モードが選択されて、レリーズ釦が押された場合、撮像素子2からのスルー画を用いて、スルー画中の被写体の顔検出、顔認識及び笑顔条件に基づいた表情判定を行い、被写体が笑顔であると判定した場合には、撮像素子2の全画素による被写体像の静止画像の撮像指令を強制的に出す。また、CPU5は、画像処理部7に撮像した静止画像や動画等の画像処理、そうした画像のカードメモリ8や記憶部10への記録、又は表示部13への表示等の制御を行う。CPU5には、一般的なコンピュータのCPUが使用できる。
画像処理部7は、デジタルフロントエンド回路で、フレームメモリ4や記憶部10からの静止画像等の画像データに対して、画素補間処理、色変換処理やホワイトバランス補正等の画像処理を行う。
カードI/F9には、カードメモリ8が脱着可能に装着される。フレームメモリ4や記憶部10に記録された画像は、CPU5の指示に基づいて画像処理部7で画像処理された後、Exif形式やYUV形式等のファイルとしてカードメモリ8に記録される。
記憶部10は、電子カメラ100が撮像した静止画像や動画等や、CPU5が電子カメラ100を制御するための制御プログラムを記憶する。さらに、本実施形態では、記憶部10は、図2に示すような、被写体となる各人物の画像と歯、口角及び目尻等の顔のパーツ情報とを格納するファイル名、後述する笑顔条件及び各人物の撮影回数からなる人物データ表15を保持する。記憶部10に記憶されるこれらのプログラムやデータは、バス14を介して、CPU5から適宜参照することができる。記憶部10は、一般的なハードディスク装置、光磁気ディスク装置又は半導体メモリである任意の不揮発性メモリ等を適宜選択して用いることができる。
操作部材11は、ユーザによる部材操作の内容に応じた操作信号をCPU5に出力する。操作部材11には、例えば、電源釦、撮影モード等のモード設定釦及びレリーズ釦等を有する。なお、操作部材11は、表示部13の画面に表示されるタッチパネル形式の釦であっても良い。
表示部13は、表示回路12を介して、撮像素子2が撮像したスルー画等の動画や画像、又はモード設定画面等を表示する。表示部13には、液晶モニタ等を適宜選択して用いることができる。
次に、本実施形態に係る電子カメラ100による笑顔撮影モードにおける処理について、図3のフローチャートを参照しながら説明する。なお、本実施形態では、記憶部10の人物データ表15にはまだ登録されていない、人物を撮像する場合について説明する。
まず、ユーザにより操作部材11の電源釦が押されると、CPU5は、電子カメラ100の記憶部10に保持されている制御プログラムを読み込み、電子カメラ100を初期化する。同時に、CPU5は、記憶部10に記録されている人物データ表15を読み込み、CPU5内部のメモリ(不図示)に保持する。
次に、ユーザは、操作部材11のモード設定釦を用いて、撮影のモード設定等の設定を行う。本実施形態では、ユーザは、モード設定釦を用いて、笑顔撮影モードを選択するものとする。すると、図4に示すような、笑顔撮影において必要となる条件設定の画面20が表示部13に表示される。図4に示すように、本実施形態では、被写体である人物における歯、口角及び目尻の3条件を笑顔条件とし、各条件を設定部24〜26を用いて設定を行う。図4は、本実施形態におけるユーザが設定した(或いは、デフォルトの)各条件の初期設定値を示す。
ここで、歯の項目21では、後述するCPU5による顔認識において、口の面積に対して歯の白い部分が占める割合を設定する。ユーザは、設定部24を介して、任意の値を設定することができる。口角の項目22では、口角の位置と口を真一文字した時の口の中心位置とを結ぶ直線が、重力方向に対して水平な方向に対して成す角度を設定する。ユーザは、設定部25において任意の値を設定することができる。最後に、目尻の項目23では、目尻が初期の位置に対して何度下がったかの角度を設定する。ユーザは、設定部26において任意の値を設定することができる。なお、目尻の項目23については、笑顔を作るのが苦手な人のために、目尻の角度の設定以外に、笑いじわや細い目等の条件の項目を設けることが好ましい。
以上のような笑顔撮影モードの設定が全て行われると、ユーザはOK釦27を押して設定を終了する。そして、ユーザは、笑顔撮影モードによる撮像を行うために、操作部材11のレリーズ釦が押す。そして、図3のステップS10からステップS22の処理が行われる。なお、以下の説明では、図5のような1人の人物のいる画像を撮像する場合について説明する。
ステップS10:CPU5は、TG6に対して、所定のフレームレート(例えば、30fps)で、撮像素子2に被写体像を間引き読み出しによる撮像を行わせ、生成されたライブビュー表示用のスルー画30を取得するとともに、表示部13に表示する。
ステップS11:CPU5は、取得したスルー画30において、人物が写っているか否かを判定し、写っている場合には、人物の顔を検出する。ここで、CPU5が行う顔検出の手法は、公知である手法を適宜用いて行うことができる。具体的には、CPU5は、取得したスルー画30からエッジ量等の画像特徴量の特徴点を抽出して、各人物の顔の領域、大きさ等を検出する。
ステップS12:CPU5は、ステップS11において検出した人物が誰であるかの顔認識を行う。CPU5が行う顔認識の手法については、公知である手法を適宜用いて行うことができる。具体的には、CPU5は、検出した人物の顔の特徴点に基づいて、顔の特徴点の位置や顔の歯、口角及び目尻等の顔パーツの大きさ等を求める。
ステップS13:CPU5は、ステップS11で検出した人物の画像及びステップS12で認識した顔パーツを、人物データ表15に登録されている各人物の画像及び顔パーツの情報と比較して、被写体である人物が、記憶部10に登録された人物であるか否かを判定する。具体的には、CPU5は、ステップS11で検出した人物の画像及びステップS12で認識した顔パーツと、人物データ表15にある画像及び顔パーツとを比較して、特徴点の相対位置や大きさ等を調節しながら相似度を求める。CPU5は、その相似度が所定値(例えば、80%)以上ならば、スルー画30の人物は登録されたいずれかの人物であると判定して、ステップS14(YES側)へ移行する。一方、相似度が所定値より小さい場合には、CPU5は、スルー画30の人物は登録されたいずれの人物ではないと判定し、ステップS15(NO側)へ移行する。
ステップS14:CPU5は、スルー画30の人物に対応する、人物データ表15に記憶されている歯、口角及び目尻からなる笑顔条件を読み込み、最初にユーザが設定した笑顔条件の設定値に変えて設定する。CPU5は、ステップS15へ移行する。
ステップS15:CPU5は、ステップS12で求めた人物の顔パーツである歯、口角及び目尻の形状が、その人物が記憶部10に登録されていない人物の場合には、ユーザによって最初に設定された笑顔条件の各条件を満たすか否かを判定し、その人物が記憶部10に登録された人物である場合には、ステップS14で設定した笑顔条件の各条件に満たすか否かを判定する。CPU5が、笑顔条件の全てを満たすと判定した場合には、ステップS20(YES側)へ移行する。一方、笑顔条件の全てを満たさないと判定した場合には、ステップS16(NO側)へ移行する。
ステップS16:CPU5は、笑顔条件が満たされるのを待たずに、ユーザによってレリーズ釦が強制的に全押しされて、被写体像が撮像されたか否かを判定する。CPU5は、強制レリーズされたと判定した場合(YES側)には、撮像された静止画像を画像処理部7に転送して、画素補間処理、色変換処理やホワイトバランス補正等の画像処理を行った後、カードメモリ8や記憶部10に記録して、笑顔撮影モードでの処理を終了する。一方、CPU5は、強制レリーズされてないと判定した場合には、ステップS17(NO側)へ移行する。
ステップS17:CPU5は、笑顔撮影モードによる撮像を開始してから所定時間(本実施形態では、例えば、30秒)毎に、次のステップS18において笑顔条件の変更を行うために、その所定時間が経過したか否かを判定する。CPU5が所定時間経過したと判定した場合には、ステップS18(YES側)へ移行する。一方、CPU5が経過していないと判定した場合には、ステップS19へ移行する。
ステップS18:CPU5は、笑顔条件を変更する。具体的には、例えば、CPU5は、スルー画30の人物が電子カメラ100にとって初めて撮像する人物であることから、その人物は笑顔を作るのが苦手な人であるか、笑顔条件の各条件の設定値が不適切等であると判断して、ユーザが最初に設定した笑顔条件である歯が25%、口角が25度及び目尻が10度という条件のうち、一番満たしていない条件を0の値にし(つまり、その条件を外し)、そうした笑顔条件を新たな笑顔条件として設定する。又は、CPU5は、一番満たしていない条件の値を小さい値に変更して、新たな笑顔条件として設定しても良い。或いは、CPU5は、目尻の条件として、笑いじわや細い目等の条件設定がなされ、ステップS12で求めた人物の顔パーツの中に、そうした形状が認識されない場合には、笑顔条件から外すか、数値の設定を変更するようにしても良い。そして、CPU5は、ステップS19へ移行する。
ステップS19:CPU5は、ステップS18で行われた笑顔条件の変更を行ったが、少なくとも1つの条件が存在する必要があることから、変更された新しい笑顔条件に1つ以上の条件が存在するか否かを判定する。CPU5が、笑顔条件として1つ以上あると判定した場合には、ステップS10(YES側)へ移行し、次の新しいスルー画30を取得して、ステップS10からステップS19の処理を行う。一方、CPU5が、笑顔条件として1つもないと判定した場合(各条件が全て0の値等)には、笑顔撮影モードによる撮影を中止し処理を終了する。
ステップS20:CPU5は、ステップS15において、被写体である人物が笑顔であると判定されたので、TG6を介して、撮像素子2に全画素による被写体像の本撮像の指令を出し、フレームメモリ4に一時的に静止画像を保持する。
ステップS21:CPU5は、ステップS20で撮像した静止画像を、バス14を介して、画像処理部7へ転送する。画像処理部7は、静止画像に対して、画素補間処理、色変換処理やホワイトバランス補正等の画像処理を行うとともに、処理された静止画像に、その静止画像が撮像されるきっかけとなった笑顔条件の判定結果が付加されたExif形式等の画像ファイルにする。画像処理部7は、バス14を介して、その画像ファイルをメモリカード8や記憶部10に記録する。これと同時に、CPU5は、図2の人物データ表15に、撮像した人物の名前、顔の画像及び顔パーツ情報が格納されたファイル名、3つの条件からなる笑顔条件及び撮像回数(今回の場合は、1という値)が新たに登録される。
ステップS22:CPU5は、図6に示すように、ステップS21において、画像処理部7で処理された静止画像50を表示部13に表示する。同時に、CPU5は、静止画像50に撮像された人物がどのような笑顔条件を満たした時に撮像されたかを、図6(a)の文字60や図6(b)のイラストのアイコン61のように表示される。これにより、被写体である人物自身が、自分の笑顔の特徴が、口角や目尻にあることを客観的に知ることができる。
このように本実施形態は、たとえ人物データ表15に登録されていない人物を撮像する場合で、笑顔を作るのが苦手な人であっても、歯、口角及び目尻の3つの条件からなる笑顔条件を適宜変更することにより、被写体である人物の笑顔の判定を確度高く行うことができ、その人物にとって最良の笑顔の画像を取得することができる。
また、新たに撮像された人物の笑顔であると判定された時の笑顔条件の値を、人物データ表15に新たに登録することから、次回撮像する際において、その人物の笑顔の判定を確実に行うことができる。
≪他の実施形態≫
本発明の他の実施形態に係る電子カメラは、図1の一の実施形態に係る電子カメラ100と同じであり、各構成要素及びそれらの動作に関する説明は省略する。本実施形態が一の実施形態と異なる点は、撮像する被写体の人物が、記憶部10に記憶されている人物データ表15に登録されている人物である点である。
したがって、本実施形態における電子カメラ100の笑顔撮影モードによる撮像処理は、基本的に、図3に示したフローチャートと同じステップS10〜ステップS22までの処理が行われる。ただし、本実施形態における処理と一の実施形態における処理とが異なる点は、ステップS21における処理において、登録されている人物を、新たに撮像した際の笑顔条件となった歯、口角及び目尻の条件と、人物データ表15に記録されていたその人物の笑顔条件の歯、口角及び目尻の条件とに基づいて更新する。具体的には、CPU5は、例えば、撮影された人物がAさんである場合、人物データ表15における笑顔条件の歯、口角及び目尻の条件が、10%、15度及び10度であり、今回新たに撮像した際の笑顔条件が歯、口角及び目尻の値が、15%、12度及び15度であった場合には、これまでの撮像回数を考慮して、それぞれの条件について、例えば、平均値等を算出し、算出した新たな値をAさんの新しい笑顔条件として、人物データ表15のAさんの欄を更新する。
このように本実施形態は、たとえ人物データ表15に登録されている人物を撮像する場合であっても、歯、口角及び目尻の3つの条件からなる笑顔条件を適宜更新することにより、被写体である人物の笑顔の判定を確度高く行うことができ、その人物にとって最良の笑顔の画像を取得することができる。
≪実施形態の補足事項≫
一の実施形態及び他の実施形態では、スルー画30に撮像される被写体である人物は1人であったが、本発明はこれに限定されず、複数人を撮像する場合に対しても適用可能である。この場合、例えば、ステップS11で人物毎に顔検出を行い、ステップS12で人物毎に顔の画像及び顔のパーツ情報を取得して、ステップS13で人物毎に人物データ表15に登録された人物であるか否かの判定を行い、ステップS15で人物毎の笑顔条件を持たすか否かの判定を行って撮像しても良い。又は、ステップS11で人物毎に顔検出を行った後、検出された人物のうち、人物データ表15に登録されている人物、登録されていない人物、或いは任意に選択した人物の笑顔条件のみによる判定に基づいて撮像を行っても良い。
なお、一の実施形態及び他の実施形態では、笑顔撮影モードがユーザによって選択されると、ユーザが笑顔条件の歯、口角及び目尻の条件を設定したが、本発明はこれに限定されず、電子カメラ100にあらかじめ設定されているデフォルトの初期値を使用しても良い。
なお、一の実施形態及び他の実施形態では、電子カメラ100が初めて撮像する人物の場合は、ユーザの設定した笑顔条件を用いて撮像が行われた後、その人物の画像、顔パーツ情報及び判定結果に基づいた笑顔条件等のデータが人物データ表15に登録され、それ以後は、撮像毎にそれらのデータが更新されるとしたが、本発明はこれに限定されない。例えば、人物データ表15には登録されてない人物であるが、電子カメラ100の記憶部10にこれまでに電子カメラ100で撮像されたその人物の複数の画像が存在する場合、ユーザが操作部材11を介して、それら複数の画像を用いて、その人物の笑顔条件を算出させる指示をCPU5に対して行い、CPU5がステップS10〜ステップS19のような処理に基づいて、その人物に合った笑顔条件を求めて、電子カメラ100の記憶部10にある人物データ表15にあらかじめ追加登録するようにしても良い。
なお、一の実施形態及び他の実施形態では、ステップS17において、ステップS18での笑顔条件の変更を行う所定時間の間隔を30秒として設定したが、本発明はこれに限定されず、任意に決めることができる。
なお、一の実施形態及び他の実施形態では、ステップS18において笑顔条件の3つの条件のうちの1つを外したり、歯、口角又は目尻の条件の値を小さくしたりする変更を行ったが、本発明はこれに限定されない。例えば、パーティーや風景等の撮影モードに応じて、笑顔撮影モードにおける笑顔条件の各条件の値や変更の仕方等を変えるのが好ましい。つまり、パーティーのような場面では、参加者たちは、普通大きく笑うことから、笑顔条件の歯、口角及び目尻の値を、あらかじめ当初の初期値よりも大きな値に設定するようにしても良いし、ステップS18において、それらの条件の値を大きな値にするような変更を行っても良い。一方、会議や社交場のような集まりにおいては、大きく笑うことは憚られることから、笑顔条件の歯、口角及び目尻の値をあらかじめ当初の初期値よりも小さな値に設定しても良い。
また、撮影回数が増えると笑顔条件の精度が良くなることから、記憶部10に記録される画像の枚数が増えてしまう。そこで、それを防止するために、例えば、所定の撮影回数以上になった場合等の条件によっては、笑顔条件をデフォルトの初期値に近づけるような笑顔と判定され難い笑顔条件に設定し直すようにしても良い。
なお、一の実施形態及び他の実施形態では、スルー画30の人物は帽子や眼鏡等を着用していなかったが、本発明はこれに限定されず、帽子や眼鏡等を着用によって、通常の笑顔条件に基づいた笑顔の判定ができない箇所が存在する場合には、その箇所に相当する条件を外して、笑顔の判定を行うのが好ましい。
なお、一の実施形態及び他の実施形態では、ステップS18の笑顔条件の変更によって、全ての笑顔条件が外されない限りは、被写体である人物の笑顔が得られるまで、笑顔撮影モードの処理が行われるが、本発明はこれに限定されない。例えば、歯、口角又は目尻のいずれも認識不可能な場合、又は一定の時間(例えば、1分等)経過後、笑顔撮影モードによる処理をキャンセルするようにしても良い。ただし、この場合、笑顔撮影モードがキャンセルされたことを表示部13に表示するとともに、なぜキャンセルされたのかの理由(例えば、「歯、口角又は目尻のいずれも認識不可能のため」等)を、併せて表示するのが好ましい。
なお、他の実施形態では、ステップS21において、人物を撮影する毎に、その人物に対する笑顔条件を更新したが、本発明はこれに限定されない。例えば、最初に人物データ表15に登録されてから、所定撮影回数(例えば、10回)までは、撮像毎に人物データ表15における笑顔条件の更新を行うが、それ以降は、10回や20回等の一定の撮影回数の間隔毎に笑顔条件の更新を行うようにしても良い。
なお、本発明に係る撮像装置における各機能を実現するためのプログラムを備え、コンピュータに実行させることに対しても適用可能である。これによって、例えば、電子カメラ100の記憶部10の人物データ表15に登録されてない人物であっても、これまでに他の電子カメラ等で撮像されたその人物の複数の画像を用い、コンピュータで解析することによって、その人物に合った笑顔条件を求めることができる。そして、その結果をメモリカード8等に記録させる等して、メモリカード8等を介して、電子カメラ100の記憶部10にある人物データ表15に追加することが好ましい。
なお、本発明に係る撮像装置における各機能を実現するためのコンピュータプログラムを記憶する記録媒体に対しても適用可能である。
なお、本発明は、その精神またはその主要な特徴から逸脱することなく他の様々な形で実施することができる。そのため、上述した実施形態はあらゆる点で単なる例示に過ぎず、限定的に解釈されてはならない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、全て本発明の範囲内である。
1 撮像レンズ群、2 撮像素子、3 A/D変換部、4 フレームメモリ、5 CPU、6 TG、7 画像処理部、8 カードメモリ、9 カードI/F、10 記憶部、11 操作部材、12 表示回路、13 表示部、14 バス、15 人物データ表、100 電子カメラ
特開2004−294498号公報

Claims (10)

  1. 被写体を撮像素子の全画素読み出し又は間引き読み出しによって撮像し画像を生成する撮像部と、
    前記間引き読み出しして撮像された前記画像を用いて、前記被写体の顔を検出する顔検出部と、
    検出された前記被写体の顔とともに、歯、口角及び目尻それぞれの形状を認識する顔認識部と、
    認識された前記歯、口角及び目尻それぞれの形状が、歯、口角及び目尻におけるそれぞれの形状に基づいて決められる3つの条件からなる笑顔条件のうち、少なくとも1つと一致した場合、前記被写体が笑顔であると判定する表情判定部と、
    前記表情判定部によって前記被写体が笑顔であると判定した場合、前記撮像部に前記被写体を前記全画素読み出しによる撮像指令を出す制御部と
    を備えることを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置において、
    前記笑顔条件を任意に設定選択することが可能な操作部材をさらに備える
    ことを特徴とする撮像装置。
  3. 請求項1又は請求項2に記載の撮像装置において、
    前記制御部は、前記表情判定部が前記笑顔条件を1つも満たしていないと判定した場合、前記撮像部に前記撮像指令を中止することを特徴とする撮像装置。
  4. 請求項1ないし請求項3のいずれか1項に記載の撮像装置において、
    複数の被写体の顔の画像及び前記複数の被写体の各々の前記笑顔条件を記憶している記憶部をさらに備え、
    前記制御部は、
    前記顔認識部によって認識された前記被写体の顔が、前記記憶部に記憶されている前記複数の被写体のいずれかの顔と一致したと判定した場合、前記顔認識部によって顔認識された前記被写体の前記笑顔条件を前記表情判定部に設定することを特徴とする撮像装置。
  5. 請求項4に記載の撮像装置において、
    前記制御部は、
    新たに撮像された画像の前記被写体における前記表情判定部の判定結果に基づいて、前記記憶部に記録されている前記被写体の前記笑顔条件を更新する条件更新部をさらに備え、
    前記制御部は、
    更新された前記笑顔条件を前記表情判定部に設定する
    ことを特徴とする撮像装置。
  6. 請求項5に記載の撮像装置において、
    前記制御部は、
    前記顔認識部によって前記記憶部にない新しい被写体であると判定した場合、又は前記条件更新部による前記被写体の前記笑顔条件の更新回数が所定の回数よりも少ない場合、所定の時間間隔毎に前記笑顔条件の数を減らして前記表情判定部に設定する
    ことを特徴とする撮像装置。
  7. 請求項5又は請求項6に記載の撮像装置において、
    前記制御部は、
    前記条件更新部による前記被写体の前記笑顔条件の更新回数が所定の回数よりも多いと判定した場合、前記被写体の前記笑顔条件を初期の設定に近づける変更を行い前記表情判定部に設定する
    ことを特徴とする撮像装置。
  8. 請求項1ないし請求項7のいずれか1項に記載の撮像装置において、
    前記撮像部によって前記被写体が撮像された時の前記表情判定部による前記笑顔条件の判定結果を表示する表示部をさらに備えることを特徴とする撮像装置。
  9. 請求項1ないし請求項8のいずれか1項に記載の撮像装置において、
    前記制御部は、
    前記撮像部に前記被写体を撮像させた前記画像に、前記表情判定部による撮像時の前記被写体の前記笑顔条件の判定結果を付加する
    ことを特徴とする撮像装置。
  10. 被写体を撮像素子によって撮像された画像を読み込む入力ステップと、
    前記画像を用いて、前記被写体の顔を検出する顔検出ステップと、
    検出された前記被写体の顔とともに、歯、口角及び目尻それぞれの形状を認識する顔認識ステップと、
    認識された前記歯、口角及び目尻それぞれの形状が、歯、口角及び目尻におけるそれぞれの形状に基づいて決められる3つの条件からなる笑顔条件のうち、少なくとも1つと一致した場合、前記被写体が笑顔であると判定する表情判定ステップと、
    前記表情判定ステップによって前記被写体が笑顔であると判定した場合、前記被写体が笑顔であると判定した時の前記笑顔条件を前記被写体毎に記憶する記憶ステップと
    を備え、コンピュータに実行させることを特徴とするプログラム。
JP2009013135A 2009-01-23 2009-01-23 撮像装置及びプログラム Withdrawn JP2010171797A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009013135A JP2010171797A (ja) 2009-01-23 2009-01-23 撮像装置及びプログラム
US12/689,510 US20100188520A1 (en) 2009-01-23 2010-01-19 Imaging device and storage medium storing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009013135A JP2010171797A (ja) 2009-01-23 2009-01-23 撮像装置及びプログラム

Publications (1)

Publication Number Publication Date
JP2010171797A true JP2010171797A (ja) 2010-08-05

Family

ID=42353870

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009013135A Withdrawn JP2010171797A (ja) 2009-01-23 2009-01-23 撮像装置及びプログラム

Country Status (2)

Country Link
US (1) US20100188520A1 (ja)
JP (1) JP2010171797A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2413678A1 (en) 2010-07-30 2012-02-01 Fujitsu Limited Printed circuit board unit, method for manufacturing printed circuit board unit, and electronic apparatus

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4315215B2 (ja) * 2007-05-18 2009-08-19 カシオ計算機株式会社 撮像装置、及び顔検出方法、顔検出制御プログラム
KR101822661B1 (ko) * 2011-10-27 2018-01-26 삼성전자주식회사 비전 인식 장치 및 방법
US8965046B2 (en) 2012-03-16 2015-02-24 Qualcomm Technologies, Inc. Method, apparatus, and manufacture for smiling face detection
TW201421423A (zh) * 2012-11-26 2014-06-01 Pixart Imaging Inc 影像感測器及其運作方法
EP2945372A4 (en) * 2013-02-14 2016-03-30 Panasonic Ip Man Co Ltd ELECTRONIC MIRROR DEVICE
KR20140132568A (ko) * 2013-05-08 2014-11-18 삼성전자주식회사 움직이는 물체를 하나의 이미지에 합성하기 위한 장치 및 방법
KR102306538B1 (ko) * 2015-01-20 2021-09-29 삼성전자주식회사 콘텐트 편집 장치 및 방법
WO2017220667A1 (de) * 2016-06-21 2017-12-28 Stefan Zechner Verfahren und vorrichtung zur veränderung der affektiven visuellen information im gesichtsfeld eines benutzers
JP2020149304A (ja) * 2019-03-13 2020-09-17 ソニー株式会社 撮像装置および表情検出方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004294498A (ja) * 2003-03-25 2004-10-21 Fuji Photo Film Co Ltd 自動撮影システム
WO2005113099A2 (en) * 2003-05-30 2005-12-01 America Online, Inc. Personalizing content
JP2005266984A (ja) * 2004-03-17 2005-09-29 Konica Minolta Holdings Inc 画像処理システム
EP1643758B1 (en) * 2004-09-30 2013-06-19 Canon Kabushiki Kaisha Image-capturing device, image-processing device, method for controlling image-capturing device, and associated storage medium
JP2006115406A (ja) * 2004-10-18 2006-04-27 Omron Corp 撮像装置
JP4760349B2 (ja) * 2005-12-07 2011-08-31 ソニー株式会社 画像処理装置および画像処理方法、並びに、プログラム
JP4600435B2 (ja) * 2007-06-13 2010-12-15 ソニー株式会社 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP4986175B2 (ja) * 2007-12-28 2012-07-25 カシオ計算機株式会社 撮像装置及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2413678A1 (en) 2010-07-30 2012-02-01 Fujitsu Limited Printed circuit board unit, method for manufacturing printed circuit board unit, and electronic apparatus

Also Published As

Publication number Publication date
US20100188520A1 (en) 2010-07-29

Similar Documents

Publication Publication Date Title
JP2010171797A (ja) 撮像装置及びプログラム
JP4577275B2 (ja) 撮像装置、画像記録方法、および、プログラム
JP5293206B2 (ja) 画像検索装置、画像検索方法及びプログラム
US8350918B2 (en) Image capturing apparatus and control method therefor
JP5467992B2 (ja) 撮像装置
JP5402018B2 (ja) 表示装置及び撮像装置
JP5050465B2 (ja) 撮像装置、撮影制御方法、およびプログラム
JP2009290818A (ja) カメラ、カメラ制御プログラム及び撮影方法
JP2007274264A (ja) カメラ、ベストショット撮影方法、プログラム
JP4802884B2 (ja) 撮像装置、撮像画像記録方法、及び、プログラム
US20130235228A1 (en) Image processing apparatus and method, and program
US8432473B2 (en) Imaging apparatus
US7864228B2 (en) Image pickup apparatus for photographing desired area in image with high image quality and control method for controlling the apparatus
JP4577445B2 (ja) 撮像装置、画像記録方法、および、プログラム
CN102289785B (zh) 图像处理装置以及图像处理方法
JP2009089220A (ja) 撮像装置
JP5168320B2 (ja) カメラ、ベストショット撮影方法、プログラム
JP6024135B2 (ja) 被写体追尾表示制御装置、被写体追尾表示制御方法およびプログラム
JP2010273281A (ja) 撮像装置
JP5267645B2 (ja) 撮像装置、撮影制御方法、およびプログラム
JP2010171841A (ja) 撮像装置
JP5181806B2 (ja) 撮影装置
JP2009077066A (ja) 撮像装置の画像取り込み方法とその方法を用いる撮像装置
JP2013055540A (ja) 画像処理装置、撮像装置およびシステム
JP5500934B2 (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20120403