JP4375448B2 - 画像処理装置、撮像装置、画像処理方法およびプログラム - Google Patents

画像処理装置、撮像装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP4375448B2
JP4375448B2 JP2007167415A JP2007167415A JP4375448B2 JP 4375448 B2 JP4375448 B2 JP 4375448B2 JP 2007167415 A JP2007167415 A JP 2007167415A JP 2007167415 A JP2007167415 A JP 2007167415A JP 4375448 B2 JP4375448 B2 JP 4375448B2
Authority
JP
Japan
Prior art keywords
image
window image
window
candidate
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007167415A
Other languages
English (en)
Other versions
JP2009009198A (ja
Inventor
京子 福田
義弘 鈴木
弘征 木下
豊 米田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007167415A priority Critical patent/JP4375448B2/ja
Priority to US12/118,038 priority patent/US8295544B2/en
Publication of JP2009009198A publication Critical patent/JP2009009198A/ja
Application granted granted Critical
Publication of JP4375448B2 publication Critical patent/JP4375448B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/758Involving statistics of pixels or of feature values, e.g. histogram matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像処理装置に関し、特に画像に検出対象が含まれるか否かを判断する画像処理装置、撮像装置、および、これらにおける処理方法ならびに当該方法をコンピュータに実行させるプログラムに関する。
従来、デジタルスチルカメラやビデオカメラ等の撮像装置では、特定の被写体が撮像された領域を撮像結果から検出し、この領域の撮像結果に基づいてオートフォーカスや自動露光などの撮像に関する制御を行う手法が提案されている。このような特定の被写体が撮像された領域を検出する手法では、この特定の被写体として、主に人物の顔が適用され、例えば固有顔(eigenface)、ニューラルネットワーク、サポートベクタマシン等のパタ−ン認識の手法を利用して、予め顔パターンを学習させて識別器を生成する手法や、平均顔テンプレートとの相関マッチング結果から相関値の局所最大値を求め、この局所最大値に基づき顔候補を抽出する手法などが挙げられる。
このような手法に関して、例えば顔が撮影された領域の数および大きさによって、撮影モードを自動的に設定する方法が提案されている(例えば、特許文献1参照。)。また、顔が撮影された領域の大きさにより、この顔に係る人物までの距離を推定してフォーカス制御する方法が提案されている(例えば、特許文献2参照。)。また、テンプレートを用いたテンプレートマッチングにおいて、顔が撮影された領域の検出に係る工夫が提案されている(例えば、特許文献3参照。)。また、ブースティングにより集団学習された複数の弱判別器とこれらの出力を重み付き多数決する加算器からなる判別器が提案されている(例えば、特許文献4参照。)。
特開2001−330882号公報(図1) 特開2003−75717号公報(図1) 特開2004−30629号公報(図1) 特開2005−157679号公報(図1)
このように撮像結果から特定の被写体が撮像された領域を検出する処理は、被写体の動きに追従し、リアルタイム性を実現するために、十分な速度で実行される必要があるが、実際に撮像画像の中から被写体の顔画像を検出するプロセスにおいては、そのような撮像画像の中から被写体画像を切り出しながら検出を行うため、撮像画像全体あるいは特定された領域を様々なスケール(解像度)でスキャンすることになる。このため、各回のパターン識別のために膨大な演算処理が必要となり、リアルタイム性を実現することは極めて困難となる。また、リアルタイム性を追求し、演算処理を減らせば、被写体検出の性能に悪影響を与えるというトレードオフもある。
本発明は、このような従来の実情に鑑みて提案されたものであり、被写体検出の演算量を低減してリアルタイム性を向上させることを目的とする。
本発明は、上記課題を解決するためになされたものであり、その第1の側面は、原画像の所定の位置からウィンドウ画像を切り出す画像切出し手段と、所定の基準に基づいて上記ウィンドウ画像の特徴量を抽出する特徴抽出手段と、検出対象を含む候補として上記ウィンドウ画像が所定の条件を満たすか否かを上記特徴量に基づいて判定する候補判定手段と、上記ウィンドウ画像が上記所定の条件を満たす場合には上記ウィンドウ画像に上記検出対象が含まれるか否かを判断する検出手段とを具備することを特徴とする画像処理装置である。これにより、ウィンドウ画像から抽出された特徴量に基づいて検出候補とするか否かを切り替えるという作用をもたらす。
また、この第1の側面において、上記特徴抽出手段は、上記特徴量として上記ウィンドウ画像の周波数成分の分布と予め設定された周波数成分の分布との相関性を抽出し、上記候補判定手段は、上記相関性が所定の閾値よりも高い場合には上記ウィンドウ画像が上記候補であると判定してもよい。これにより、ウィンドウ画像の周波数成分の分布と予め設定された周波数成分の分布との相関性に基づいて検出候補とするか否かを切り替えるという作用をもたらす。
また、この第1の側面において、上記特徴抽出手段は、上記特徴量として上記ウィンドウ画像に含まれる周波数成分の分布において所定の基準周波数よりも高い周波数成分を有する画素の数を抽出し、上記候補判定手段は、上記画素の数が所定の閾値よりも多い場合には上記ウィンドウ画像が上記候補であると判定してもよい。これにより、ウィンドウ画像の周波数成分の分布に基づいて検出候補とするか否かを切り替えるという作用をもたらす。
また、この第1の側面において、上記特徴抽出手段は、上記特徴量として上記ウィンドウ画像の輝度成分の分布と予め設定された輝度成分の分布との相関性を抽出し、上記候補判定手段は、上記相関性が所定の閾値よりも高い場合には上記ウィンドウ画像が上記候補であると判定してもよい。これにより、ウィンドウ画像の輝度成分の分布と予め設定された輝度成分の分布との相関性に基づいて検出候補とするか否かを切り替えるという作用をもたらす。
また、この第1の側面において、上記特徴抽出手段は、上記特徴量として上記ウィンドウ画像に含まれる輝度成分の分布と所定の基準輝度成分の分布との各画素における差分の総和を抽出し、上記候補判定手段は、上記総和が所定の閾値よりも大きい場合には上記ウィンドウ画像が上記候補であると判定してもよい。これにより、ウィンドウ画像に含まれる輝度成分の分布と所定の基準輝度成分の分布との各画素における差分に基づいて検出候補とするか否かを切り替えるという作用をもたらす。
また、この第1の側面において、上記特徴抽出手段は、上記特徴量として上記ウィンドウ画像の色成分の分布と予め設定された色成分の分布との相関性を抽出し、上記候補判定手段は、上記相関性が所定の閾値よりも高い場合には上記ウィンドウ画像が上記候補であると判定してもよい。これにより、ウィンドウ画像の色成分の分布と予め設定された色成分の分布との相関性に基づいて検出候補とするか否かを切り替えるという作用をもたらす。
また、この第1の側面において、上記特徴抽出手段は、上記特徴量として上記ウィンドウ画像に含まれる色成分の分布において所定の基準色の範囲に該当する画素の数を抽出し、上記候補判定手段は、上記画素の数が所定の閾値よりも大きい場合には上記ウィンドウ画像が上記候補であると判定してもよい。これにより、ウィンドウ画像に含まれる色成分の分布に基づいて検出候補とするか否かを切り替えるという作用をもたらす。
また、この第1の側面において、上記特徴量の抽出の際に基準となる値の入力を受け付ける操作受付手段をさらに具備し、上記特徴抽出手段は、上記基準となる値に基づいて上記特徴量を抽出してもよい。これにより、入力された値に基づいて特徴量を抽出し、それによってウィンドウ画像を検出候補とするか否かを切り替えるという作用をもたらす。
また、この第1の側面において、上記検出対象は人間の顔画像であり、上記特徴抽出手段は、上記特徴量として上記ウィンドウ画像の周波数成分の分布と予め設定された人間の顔画像の周波数成分の分布との相関性、または、上記ウィンドウ画像の色成分の分布と予め設定された肌色成分の分布との相関性を抽出してもよい。これにより、予め設定された人間の顔画像の特徴量に基づいてウィンドウ画像を検出候補とするか否かを切り替えるという作用をもたらす。
また、本発明の第2の側面は、被写体を撮像して撮像画像を生成する撮像手段と、上記撮像画像に対して所定の信号処理を施す信号処理手段と、上記信号処理された撮像画像の解像度を変換して縮小画像を生成する解像度変換手段と、上記縮小画像の所定の位置からウィンドウ画像を切り出す画像切出し手段と、所定の基準に基づいて上記ウィンドウ画像の特徴量を抽出する特徴抽出手段と、検出対象を含む候補として上記ウィンドウ画像が所定の条件を満たすか否かを上記特徴量に基づいて判定する候補判定手段と、上記ウィンドウ画像が上記所定の条件を満たす場合には上記ウィンドウ画像に上記検出対象が含まれるか否かを判断する検出手段とを具備することを特徴とする撮像装置である。これにより、撮像画像から切り出されたウィンドウ画像を検出候補とするか否かを、ウィンドウ画像から抽出された特徴量に基づいて切り替えるという作用をもたらす。
また、この第2の側面において、上記特徴量の抽出の際の上記所定の基準は、上記撮像の際の条件または上記信号処理のパラメータに応じて設定されてもよい。例えば、輝度成分に関しては、照明が明るい状態における撮像であれば厳しい基準を用いて、照明が暗い状態における撮像であれば緩い基準を適用することができる。また、色成分に関しては、照明が暗い状態における撮像であれば色空間における黒い領域も肌の色であるとみなすことができる。また、周波数成分に関しては、フォーカスが合っていれば厳しい基準を用いて、フォーカスが合っていなければ緩い基準を適用することができる。
また、本発明の第3の側面は、第1のメモリに保持される原画像の所定の位置からウィンドウ画像を切り出して第2のメモリに保持する画像切出し手順と、所定の基準に基づいて上記ウィンドウ画像の特徴量を抽出する特徴抽出手順と、検出対象を含む候補として上記ウィンドウ画像が所定の条件を満たすか否かを上記特徴量に基づいて判定する候補判定手順と、上記ウィンドウ画像が上記所定の条件を満たす場合には上記ウィンドウ画像に上記検出対象が含まれるか否かを判断する検出手順とを具備することを特徴とする画像処理方法またはこれら手順をコンピュータに実行させることを特徴とするプログラムである。これにより、ウィンドウ画像から抽出された特徴量に基づいて検出候補とするか否かを切り替えるという作用をもたらす。
本発明によれば、被写体検出の演算量を低減してリアルタイム性を向上させることができるという優れた効果を奏し得る。
次に本発明の実施の形態について図面を参照して詳細に説明する。
図1は、本発明の実施の形態における画像処理装置の一実施例としての撮像装置100の一構成例を示す図である。この撮像装置100は、レンズユニット111と、撮像素子112と、カメラ信号処理部113と、画像メモリ120と、画像バス130と、顔検出部200と、画像表示部140と、画像圧縮伸張部150と、入出力制御部160と、操作入力受付部170と、装置制御部180と、メモリ190とを備えている。
レンズユニット111は、フォーカスレンズ、ズームレンズ、絞り機構を有し、これらを可変制御しながら入射光を集光し、撮像素子112の撮像面に被写体の光学像を形成するものである。
撮像素子112は、撮像面に配置された各受光素子において受光された光を電気信号に光電変換するものである。この撮像素子112は、撮像面に形成された光学像の撮像結果を動画または静止画として出力する。
カメラ信号処理部113は、撮像素子112から出力された撮像結果に対して、マトリックス演算、ガンマ補正、ホワイトバランス調整等の信号処理を実行し、その処理結果による画像データを出力するものである。このカメラ信号処理部113は、その処理結果を画像表示部140および画像圧縮伸張部150に供給する。また、カメラ信号処理部113は、顔検出のための画像を、画像バス130を介して画像メモリ120に記録する。この顔検出のための画像は原画像をリサイズしたものを使用することができる。なお、この実施例では、原画像データには、モニタ用の画像データが適用され、例えば640画素×480画素のVGA(Video Graphics Array)による画像データや、320画素×240画素による画像データ等が想定される。
これらレンズユニット111、撮像素子112およびカメラ信号処理部113は、動画または静止画の撮像結果による原画像に係る画像データを取得する画像取得部を構成する。
画像メモリ120は、画像バス130上に供給される画像データを保持するものである。この画像メモリ120は、顔検出のための画像データとして、例えば、320画素×240画素、160画素×120画素、80画素×60画素、40画素×30画素の4種類の大きさの画像データを保持する。
画像バス130は、カメラ信号処理部113、画像メモリ120、顔検出部200、画像表示部140および画像圧縮伸張部150のそれぞれを相互に接続するバスである。
顔検出部200は、画像メモリ120に保持される画像データに含まれる顔を検出するものである。この顔検出部200は、装置制御部180から指定された走査開始位置、走査順序、走査終了位置に従って被写体検出を順次行い、被写体検出の検出結果を装置制御部180に通知する。なお、この顔検出部200の構成については後述する。
画像表示部140は、画像メモリ120に保持されるモニタ表示用の画像データによる画像を表示するものであり、例えば液晶表示装置(LCD:Liquid Crystal Display)と、この液晶表示装置の周辺部により構成される。また、画像表示部140は、画像を表示する際、顔検出部200による検出結果に基づいて、顔を囲む矩形形状による枠などを表示することができる。
画像圧縮伸張部150は、画像メモリ120に記録された画像データを取得し、この画像データを例えばJPEG(Joint Photographic Coding Experts Group)やMPEG(Moving Picture Experts Group)等の方式によりデータ圧縮し、その処理結果による画像データを、入出力制御部160を介して画像ファイルとして記録媒体に記録するものである。また、画像圧縮伸張部150は、記録媒体に記録された画像ファイルを、入出力制御部160を介して読み出し、データ伸長して、その処理結果による画像データを画像メモリ120に記録する。
入出力制御部160は、記録媒体に接続してデータの書込みまたは読出しを行うものである。また、この入出力制御部160は、有線または無線によるデータ通信機構を介して外部機器との間でデータの入出力を行うようにしてもよい。
操作入力受付部170は、撮像装置100の使用者による操作入力を受け付けるものであり、例えば、操作ボタンやタッチパネルなどにより実現される。
装置制御部180は、撮像装置100全体の動作を制御するものである。この装置制御部180は、CPU(Central Processing Unit)などにより実現される。装置制御部180は、この撮像装置100の動作を制御する制御部であり、メモリ190に記録されたプログラムの実行により、使用者による操作に応答して各部の動作を制御する。
メモリ190は、不揮発性メモリまたは揮発性メモリにより形成され、装置制御部180のプログラムや装置制御部180の処理に必要なデータ等を記録し、また、装置制御部180のワークエリア等を形成する。
なお、この実施例において、装置制御部180のプログラムは、この撮像装置100のメモリ190に事前にインストールされて提供されてもよく、また、このような事前のインストールによる提供に代えて、光ディスク、磁気ディスク、メモリカード等の各種記録媒体に記録して提供するようにしてもよく、さらに、インターネット等のネットワークを介したダウンロードにより提供するようにしてもよい。
このように、撮像装置100では、動画や静止画による撮像結果を記録媒体に記録し、またこの記録媒体に記録された画像データファイルを種々に処理できるように構成される。この記録媒体は、例えばメモリカード、光ディスク、磁気ディスク、磁気テープ等の各種記録媒体であり、画像圧縮伸張部150や装置制御部180から出力される各種のデータを記録し、また、記録された各種のデータを画像圧縮伸張部150や装置制御部180に出力する。なお、この記録媒体としては、着脱可能な形式によるもの、内蔵形式のものなどを適宜用いることができる。
撮像装置100では、カメラ信号処理部113または画像圧縮伸張部150によって画像メモリ120に格納された画像データを、装置制御部180の制御によって顔検出部200が取得する。そして、この原画像データによる画像から特定の被写体が撮影された領域が検出され、この領域の結果が装置制御部180に通知される。
これによりこの撮像装置100では、レンズユニット111、撮像素子112およびカメラ信号処理部113から入力された動画または静止画による画像データを画像表示部140によりモニタできるように構成される。このとき、操作入力受付部170を介した使用者による指示により、顔が撮影された領域を確認できるように構成される。
図2は、本発明の実施の形態における顔検出部200の一構成例を示す図である。この顔検出部200は、解像度変換部210と、画像切出し部220と、ウィンドウメモリ230と、被写体検出部240と、被写体候補抽出部201と、顔検出制御部290とを備えている。
解像度変換部210は、画像メモリ120に保持された画像データに対して解像度変換を施して順次縮小し、その結果を画像切出し部220に供給するものである。この解像度変換部210は、画像メモリ120に保持された少なくとも1つの画像データを倍率αに応じてフィルタリング処理して段階的に縮小する。縮小していった結果、他に適切な解像度の画像データが存在する場合にはその画像データを縮小していく。例えば、上述のように320画素×240画素、160画素×120画素、80画素×60画素、40画素×30画素の4種類の大きさの画像データが画像メモリ120に保持されている場合、最初に320画素×240画素の画像データを0.9倍ずつ縮小し、その縮小後の解像度が160画素×120画素に近くなると、今度は160画素×120画素の画像データを0.9倍ずつ縮小していく。そして、その縮小後の解像度が80画素×60画素に近くなると、今度は80画素×60画素の画像データを0.9倍ずつ縮小していく。そして、その縮小後の解像度が40画素×30画素に近くなると、今度は40画素×30画素の画像データを0.9倍ずつ縮小していく。
画像切出し部220は、解像度変換部210から供給される画像データを保持し、顔検出制御部290による走査開始位置、走査順序および走査終了位置の指定に基づいて、その保持された画像データの任意の位置の画像データをウィンドウ画像として切り出すものである。画像切出し部220によって切り出されたウィンドウ画像は、被写体候補抽出部201およびウィンドウメモリ230に供給される。
ウィンドウメモリ230は、画像切出し部220によって切り出された画像データをウィンドウ画像として保持するメモリである。このウィンドウメモリ230に保持されるのは、輝度信号の成分である。このウィンドウ画像の輝度信号は、被写体検出部240に供給され、被写体検出の対象となり得る。但し、実際に被写体検出が行われるか否かは、被写体候補抽出部201における処理結果に依存する。
被写体検出部240は、ウィンドウメモリ230に保持されるウィンドウ画像の輝度信号に基づいて特定の被写体を検出するものである。この被写体検出部240の動作は、顔検出制御部290によって以下のように制御される。
顔検出制御部290は、顔検出部200の各部に対する制御を行うものである。すなわち、この顔検出制御部290は、解像度変換部210によって縮小された縮小画像から画像切出し部220によってウィンドウ画像を切り出すように制御する。そして、その切り出されたウィンドウ画像を被写体候補抽出部201に供給して、ウィンドウ画像が被写体を含む候補であるか否かを判断させる。その結果、そのウィンドウ画像が、被写体を含む候補として被写体候補抽出部201によって抽出されると、顔検出制御部290は被写体検出部240に対して被写体検出を指示する。
被写体候補抽出部201は、被写体を含む候補となるウィンドウ画像を抽出するものである。この被写体候補抽出部201は、特徴抽出部202と、被写体候補判定部280とを備えている。特徴抽出部202は、周波数成分解析部250と、輝度成分解析部260と、色成分解析部270とを備えている。
周波数成分解析部250は、画像切出し部220から供給されたウィンドウ画像の周波数成分を解析して周波数成分に関する特徴量を抽出するものである。輝度成分解析部260は、画像切出し部220から供給されたウィンドウ画像の輝度成分を解析して輝度成分に関する特徴量を抽出するものである。色成分解析部270は、画像切出し部220から供給されたウィンドウ画像の色成分を解析して色成分に関する特徴量を抽出するものである。周波数成分解析部250および輝度成分解析部260にはウィンドウ画像の輝度信号が供給され、色成分解析部270にはウィンドウ画像の色差信号が供給される。
被写体候補判定部280は、特徴抽出部202において抽出された各特徴量および装置制御部180から入力される撮像条件に基づいて、ウィンドウ画像が被写体検出の候補となるか否かを判定するものである。この判定結果は、顔検出制御部290に供給される。
顔検出制御部290は、被写体候補であると判定された場合には、被写体検出部240における処理を有効にする。これにより、被写体検出部240は、例えばブースティングにより集団学習された複数の弱判別器によって、ウィンドウメモリ230から読み出された輝度信号に対して判別を行い、重み付き多数決を加算する。そして、この結果から被写体か否かの最終判断を行い、検出された被写体領域の座標と大きさを、縮小前のオリジナル座標に逆変換して戻し、この結果を装置制御部180に出力する。
一方、被写体候補でないと判定された場合には、顔検出制御部290は被写体検出部240における処理を無効にする。そして、ウィンドウメモリ230に記録されていたウィンドウ画像に関する処理を行わず、次の切出し位置からスキャンして新たな輝度信号をウィンドウメモリ230に記録すると同時に、ウィンドウ画像を周波数成分解析部250、輝度成分解析部260および色成分解析部270に入力し、装置制御部180から指定された走査終了位置に至るまで、この動作を繰り返し行う。
なお、本発明の実施の形態では、輝度信号を入力とした、ブースティングにより集団学習された複数の弱判別器とこれらの出力を重み付き多数決する加算器からなる判別器を被写体検出器として挙げているが、この被写体検出器は固有顔、ニューラルネットワークおよびサポートベクタマシン等のパターン認識の手法や、テンプレートマッチング等の種々の手法を適用することができる。この場合の入力信号は輝度信号に限らず、その検出器に必要な信号が入力される。
図1および図2により説明した撮像装置100の構成例において、使用者が「静止画による撮影モード」を選択した場合、撮像素子112により動画による撮像結果を順次取得して、カメラ信号処理部113で信号処理した後、その撮像結果を画像メモリ120に格納する。そして、この画像メモリ120に格納した動画による撮像結果を画像表示部140で表示し、これにより撮影対象をモニタできるようにする。また、このようにモニタした状態で、使用者がシャッターボタンなどのトリガースイッチを操作すると、それまでの動画による撮像結果に代えて、静止画による撮像結果を取得して、画像メモリ120に格納する。そして、この画像メモリ120に格納した静止画による撮像結果を画像表示部140で表示し、これにより撮像結果をモニタできるようにする。また、使用者により撮像結果の記録が指示されると、画像メモリ120に格納した静止画による画像データを画像圧縮伸張部150でデータ圧縮して、入出力制御部160を介して記録媒体に記録する。
一方、使用者が「動画による撮影モード」を選択した場合、撮像素子112により動画による撮像結果を順次取得して、カメラ信号処理部113で信号処理した後、画像メモリ120に格納する。そして、この画像メモリ120に格納した動画による撮像結果を画像表示部140で表示し、これにより、この場合も撮影対象をモニタできるようにする。また、この状態で使用者がRECボタンなどのトリガースイッチを操作すると、順次、画像メモリ120に格納される画像データを画像圧縮伸張部150でデータ圧縮して、入出力制御部160を介して記録媒体に記録する。
また、使用者が「画像ファイルの再生」を指示した場合、この画像ファイルによる画像データを、入出力制御部160を介して記録媒体より取得して、画像圧縮伸張部150によりデータ伸長し、その処理結果による画像データを画像メモリ120に格納する。また、この画像メモリ120に格納した画像データよりモニタ用の画像データを生成し、このモニタ用の画像データによる画像を画像表示部140で表示する。
装置制御部180は、この処理手順の実行により、使用者による指示に応答して動画または静止画による撮像結果を取得して、画像表示部140によって表示し、またこの撮像結果を、入出力制御部160を介して記録媒体に記録する。このとき、装置制御部180は、使用者により、このような自動絞り(AE:Automatic Exposure)制御、自動フォーカス(AF:Auto Focus)制御、自動ホワイトバランス(AWB:Auto White Balance)調整の基準とする領域が指示されると、被写体を囲む枠の表示を画像表示部140に指示する。撮影対象にする被写体を枠内に選択し、トリガースイッチを操作した時、顔検出部200に動作を指示して、被写体サイズに領域を縮小し、被写体の特徴を算出し、記憶する動作の指示を、顔検出部200に出す。また、使用者から被写体の特徴情報をタッチパネルなどにより直接入力出来る場合は、この情報を顔検出部200の特徴抽出部202内に記憶する指示を出す。また、使用者から被写体を指定するような機能が存在しない場合は、例えば平均的な顔画像の特徴情報を、電源立上げ時に顔検出部200の特徴抽出部202内に記憶する指示を出す。
装置制御部180は、被写体検出部240に動作を指示して被写体検出結果を取得し、この検出結果に基づいて、被写体が撮影された領域の画像データを取得する。装置制御部180は、この取得した画像データにより、レンズユニット111における絞りやフォーカスを制御して自動絞り制御や自動フォーカス制御の処理を実行し、また、カメラ信号処理部113におけるホワイトバランス調整を制御する。また、随時、撮影の際の露光、フォーカス、ホワイトバランス等の条件やカメラ信号処理の画作り条件などから適切な被写体の特徴情報の閾値を演算し、その閾値を顔検出部200の特徴抽出部202に供給する。
具体的に、装置制御部180は、この被写体が撮影された領域が一定の輝度レベルとなるように、レンズユニット111における絞りを制御し、これにより自動絞り制御の処理を実行する。なお、装置制御部180は、画面全体の平均輝度レベル等を基準にした従来手法による絞り制御の手法との組み合わせにより絞り制御の処理を実行することにより、例えば風景の撮影により被写体を撮影した領域が検出されない場合でも、確実に絞り制御することができる。
また、装置制御部180は、この被写体が撮影された領域の大きさにより、この被写体が撮影された際の被写体までの距離を推定し、この距離によりフォーカス制御する。なお、装置制御部180は、この場合も、高周波成分の信号レベルが増大する方向に常にフォーカスを可変制御する、いわゆる山登り方式等による従来手法によるフォーカス制御と組み合わせてフォーカス制御の処理を実行することにより、被写体を撮影した領域が検出されない場合でも、確実にフォーカス制御することができる。
また、装置制御部180は、この被写体が撮影された領域の色相が一定値である色相となるように、各色信号の利得を補正してホワイトバランス調整する。また、この場合も、従来手法との組み合わせによりホワイトバランス調整することにより、被写体を撮影した領域が検出されない場合でも、確実にホワイトバランス調整することができる。
なお、これら従来手法との組み合わせにあっては、例えば、被写体が撮影された領域が一定の面積以上の大きさにより検出されない場合に限って従来手法を適用する場合、この被写体が撮影された領域の面積等による重み付け係数によって従来手法による制御量との間で制御量を重み付け加算して制御する場合等、種々の組み合わせ手法を広く適用することができる。
このように、この撮像装置100では、顔検出部200により検出された人間の顔などの特定の被写体を撮影した領域を基準にして、撮像系や信号処理系の動作を種々に制御することができる。
次に、本発明の実施の形態における特徴量の抽出例について説明する。
図3は、本発明の実施の形態における周波数成分解析部250の一構成例を示す図である。周波数成分解析部250は、周波数変換部254と、被写体周波数成分保持部255と、相関性抽出部256とを備えている。
周波数変換部254は、画像切出し部220から供給されたウィンドウ画像の輝度信号に対して、例えばアダマール変換、離散コサイン変換(DCT:Discrete Cosine Transform)等の周波数変換を施すものである。
被写体周波数成分保持部255は、使用者が検出対象とする被写体領域の周波数成分を保持するメモリである。この被写体領域の周波数成分は、装置制御部180によって予め設定されているものとする。
相関性抽出部256は、周波数変換部254によってウィンドウ画像の輝度信号から周波数変換された周波数成分と被写体周波数成分保持部255に保持されていた被写体領域の周波数成分との相関性を抽出するものである。相関性抽出の一手法として、ここでは、周波数変換部254によってウィンドウ画像の輝度信号から周波数変換された周波数成分と被写体周波数成分保持部255に保持されていた被写体領域の周波数成分とのマッチングをとり、このマッチング結果について装置制御部180から設定された閾値と比較し、その比較結果を周波数成分による被写体抽出結果として、被写体候補判定部280に出力する。
なお、このとき装置制御部180から設定される閾値は、撮像時のフォーカス条件等の条件に応じて、可変に制御させることが可能である。例えば、フォーカスが合っている場合には厳しくなるように閾値を設定し、フォーカスが合っていない場合には甘くなるように閾値を設定することが考えられる。
図4は、本発明の実施の形態における周波数成分解析部250の一処理例を示す図である。ここでは、処理を簡易化するために、予め記憶された被写体とのマッチングを行わずに、ウィンドウ画像の画素毎にラプラシアン変換を施した結果値を、目的とする被写体がとる平均的な閾値と比較して、閾値より大きい値を示す画素の数をカウントしたものを結果として出力して用いるものとする。
例えば、20画素×20画素からなるウィンドウ画像において、対象画素253の周囲の3画素×3画素からなる部分画像252を想定し、この部分画像252と係数マトリクス257との積和演算を積和演算器258により行う。この積和演算は、8方向ラプラシアンフィルタに相当し、値が大きいほど対象画素253の周囲の周波数成分が高いことを意味する。したがって、この積和演算値に対する閾値(ラプラシアン閾値)を設定しておいて、ウィンドウ画像における対象画素253を左上から右下に至るまで変化させながら積和演算器258による積和演算を行い、それぞれの値とラプラシアン閾値とを比較して、ラプラシアン閾値を超える画素の数をカウントすることにより、ウィンドウ画像における高周波成分の含有度を生成することができる。そして、ラプラシアン閾値を超える画素の数に対する閾値(カウント閾値)を設定しておいて、カウントされた画素の数がカウント閾値を超えた場合には、ウィンドウ画像内に高周波成分を被写体同様に含むと判断して、被写体候補であると判断することができる。
なお、ラプラシアン閾値およびカウント閾値は、本発明の実施の形態においては、人間の顔に限定し、人間の顔の平均的な閾値を設定するものとしているが、使用者が予め指定した被写体の閾値付近に設定することも可能である。さらに、本発明の実施の形態ではラプラシアン閾値およびカウント閾値を一組であることを想定しているが、複数のラプラシアン閾値およびカウント閾値による条件を複数組み合わせて、他の周波数成分の存在画素数を条件として組み合わせ、選択候補をさらに限定することも可能である。
このように、周波数成分を解析することにより、予め目的の被写体候補を限定することができ、被写体検出性能を落とさずに、後段の被写体検出の演算量を削減することができる。また、このとき、目的の被写体の周波数分布は、使用者が認識ボタンを押す等の動作をトリガーにして予め被写体周波数成分保持部255に取り込むか、周波数分布を使用者に示してタッチパネルなどで指定させて被写体周波数成分保持部255に取り込むか、または、人間の顔に限定するのであれば、人間の顔の平均的な周波数分布を指定するなどの方法があげられる。また、被写体候補は使用者が意図する被写体に応じて、例えば人間の顔だけでなくペットの顔等、自由に設定することができる。
図5は、本発明の実施の形態における輝度成分解析部260の一構成例を示す図である。輝度成分解析部260は、被写体輝度成分保持部265および相関性抽出部266を備えている。
被写体輝度成分保持部265は、使用者が検出対象とする被写体領域の輝度成分(ヒストグラム)を保持するメモリである。この被写体領域の輝度成分は、装置制御部180によって予め設定されているものとする。
相関性抽出部266は、画像切出し部220から供給されたウィンドウ画像の輝度信号と被写体輝度成分保持部265に保持されていた被写体領域の輝度成分との相関性を抽出するものである。相関性抽出の一手法として、ここでは、入力されたウィンドウ画像の輝度信号と、被写体輝度成分保持部265に保持されていた被写体領域の輝度成分とのパターンマッチングをとる。このマッチング結果を装置制御部180から設定された閾値と比較し、その比較結果をパターンマッチングによる被写体抽出結果として、被写体候補判定部280に出力する。
なお、装置制御部180から設定される閾値は、撮像時のデジタルクランプ、ガンマ補正等の条件に応じて、可変に制御させることが可能である。例えば、撮像条件が明るい場合には厳しくなるように閾値を設定し、暗い場合には甘くなるように閾値を設定することが考えられる。
図6は、本発明の実施の形態における輝度成分解析部260の一処理例を示す図である。ここでは、処理を簡易化するために、代表点マッチング手法を採用するものとする。すなわち、画像切出し部220から供給されたウィンドウ画像について間引き用のローパスフィルタ(LPF:Low Pass Filter)処理を施し、例えば、20画素×20画素からなるウィンドウ画像261において10画素×10画素の対象画素263に間引く。
また、被写体輝度成分保持部265においても同様にLPF処理を施し、例えば、10画素×10画素に間引いておく。そして、ウィンドウ画像における対象画素263を左上から右下に至るまで変化させながらウィンドウ画像261内の全ての対象画素について、両者の対応する画素同士の輝度信号の差分値を減算器268により生成し、その差分値を合計値に加算していく。
そして、この差分値の合計値に対する閾値(差分閾値)を設定しておいて、合計値が差分閾値以下である場合には、相関性が高いと判断して、被写体候補であると判断することができる。一方、合計値が差分閾値を超えた場合には、相関性が低いと判断して、被写体候補ではないと判断することができる。
このように、輝度成分を解析することにより、予め目的の被写体を限定することができ、顔検出性能を落とさずに、後段の顔識別の演算量を削減することができる。また、このとき、目的の被写体は、使用者が認識ボタンを押す等の動作をトリガーにして、予め輝度信号を被写体輝度成分保持部265に取り込むか、輝度信号分布を使用者に示してタッチパネルなどで指定させて被写体輝度成分保持部265に取り込むか、または、前のフィールドで検出された被写体領域内の輝度信号を被写体輝度成分保持部265に取り込むなどの方法があげられる、また、被写体候補はユーザーが意図する被写体に応じて、例えば人間の顔だけでなくペットの顔等、自由に設定することができる。
図7は、本発明の実施の形態における色成分解析部270の一構成例を示す図である。色成分解析部270は、被写体色成分保持部275および相関性抽出部276を備えている。
被写体色成分保持部275は、使用者が検出対象とする被写体領域の色差信号を保持するメモリである。この被写体領域の色差信号は、装置制御部180によって予め設定されているものとする。
相関性抽出部276は、画像切出し部220から供給されたウィンドウ画像の色差信号と被写体色成分保持部275に保持されていた被写体領域の色差信号との相関性を抽出するものである。相関性抽出の一手法として、ここでは、入力されたウィンドウ画像の色差信号と、被写体色成分保持部275に保持されていた被写体領域の色差信号とのパターンマッチングをとる。このマッチング結果を装置制御部180から設定された閾値と比較し、その比較結果をパターンマッチングによる被写体抽出結果として、被写体候補判定部280に出力する。なお、このとき装置制御部180から設定される閾値は、撮像時のフォーカス条件等の条件に応じて、可変に制御させることが可能である。
図8は、本発明の実施の形態における色成分解析部270の一処理例を示す図である。ここでは、処理を簡易化するために、予め記憶された被写体とのマッチングを行わずに、例えば、色差空間(Cb(青)、Cr(赤))において使用者の意図する被写体の平均的な領域を設定しておいて、この領域にウィンドウ画像のCb信号およびCr信号の組合せが所定画素数より多く存在するか否かを、色成分による被写体抽出結果として出力するものとする。
このCb信号およびCr信号の領域は、装置制御部180から撮像時のホワイトバランス条件、色生成演算等の条件に応じて、可変に設定することが可能である。例えば、本発明の実施の形態では、撮像条件が明るい場合には色差空間における内側の領域277を人間の肌の色として設定し、通常の明るさの場合は多少暗めの領域も肌色とみなすように外側の領域278を設定するように切り替える。なお、個人差を考慮して、皮膚の色の濃い人を対象とするために、領域279も併せて肌の色の領域としてもよい。
例えば、20画素×20画素からなるウィンドウ画像において対象画素273を左上から右下に至るまで変化させながら、上述のように設定された色差空間における領域に該当する画素の数をカウントする。
そして、このカウント値に対する閾値(カウント閾値)を設定しておいて、カウントされた画素の数がカウント閾値を超えた場合には、ウィンドウ画像が被写体領域と同一である可能性が高いと判断して、被写体候補であると判定することができる。一方、カウント閾値以下である場合には、被写体領域と同一である可能性が低いと判断して、被写体候補でないと判定することができる。
このように、色成分を解析することにより、予め目的の被写体候補を限定することができ、被写体検出性能を落とさずに、後段の演算量の重い詳細に行う被写体検出の演算量を削減することができる。また、このとき、目的の被写体の色空間分布は、使用者が認識ボタンを押す等の動作をトリガーにして予め被写体色成分保持部275に取り込むか、色空間を使用者に示してタッチパネルなどで指定させて被写体色成分保持部275に取り込むか、または、人間の顔に限定するのであれば肌色空間を被写体の色空間に指定するなどの方法があげられる。また、被写体候補はユーザーが意図する被写体に応じて、例えば人間の顔だけでなくペットの顔等、自由に設定することができる。
次に本発明の実施の形態における撮像装置100の動作について図面を参照して説明する。
図9は、本発明の実施の形態における撮像装置100の処理手順例を示す図である。まず、画像取得部(111乃至113)において撮像が行われると(ステップS911)、画像メモリ120に撮像画像が原画像として保持される(ステップS912)。
顔検出部200では、画像メモリ120に保持される画像が解像度変換部210によって縮小され(ステップS913)、画像切出し部220によってウィンドウ画像が切り出される(ステップS914)。この切り出されたウィンドウ画像は、ウィンドウメモリ230に保持されるとともに、周波数成分解析部250、輝度成分解析部260および色成分解析部270における特徴抽出の対象となる(ステップS950乃至S970)。
その結果、被写体候補判定部280によって被写体候補であると判定されると(ステップS915)、顔検出制御部290からの制御の下で、被写体検出部240によってウィンドウ画像からの被写体の検出処理が行われる(ステップS916)。
ステップS914乃至S916の処理は、ウィンドウ画像における指定された範囲内の部分画像の切出しが終了するまで繰り返される(ステップS917)。また、ステップS913乃至S917の処理は、指定された範囲内の最小の解像度に至るまで繰り返される(ステップS918)。
図10は、本発明の実施の形態における周波数成分解析処理(ステップS950)の処理手順例を示す図である。なお、ここでは、図4により説明した簡易化した手法による処理手順について説明する。まず、この周波数成分解析処理で用いられるカウント値(Fカウント値)が「0」にクリアされる(ステップS951)。
そして、ウィンドウ画像251の対象画素253について以下のステップS953乃至S955が繰り返される(ステップS952)。すなわち、対象画素253の周囲の部分画像252と係数マトリクス257との積和演算が行われ(ステップS953)、その演算結果がラプラシアン閾値を超えている場合には(ステップS954)、Fカウント値が「1」加算される(ステップS955)。
ウィンドウ画像251内の全ての画素を対象画素253としてステップS953乃至S955の処理が完了すると(ステップS952)、Fカウント値とその閾値(Fカウント閾値)との比較が行われる(ステップS956)。その結果、Fカウント値がFカウント閾値を超えていれば、被写体候補判定部280において被写体候補であると判定される(ステップS957)。一方、Fカウント値がFカウント閾値を超えていなければ、被写体候補判定部280において被写体候補でないと判定される(ステップS958)。
図11は、本発明の実施の形態における輝度成分解析処理(ステップS960)の処理手順例を示す図である。なお、ここでは、図6により説明した簡易化した手法による処理手順について説明する。まず、この輝度成分解析処理で用いられる合計値(Y合計値)が「0」にクリアされる(ステップS961)。
そして、ウィンドウ画像261の対象画素263について以下のステップS963乃至S965が繰り返される(ステップS962)。すなわち、対象画素263を中心としたローパスフィルタ処理が行われ(ステップS963)、その処理結果と被写体輝度成分保持部265の対応する画素の輝度信号との差分値が生成される(ステップS964)。この生成された差分値はY合計値に加算されていく(ステップS965)。
ウィンドウ画像261内の全ての画素を対象画素263としてステップS963乃至S965の処理が完了すると(ステップS962)、Y合計値とその閾値(差分閾値)との比較が行われる(ステップS966)。その結果、Y合計値が差分閾値を超えていなければ、被写体候補判定部280において被写体候補であると判定される(ステップS967)。一方、Y合計値が差分閾値を超えていれば、被写体候補判定部280において被写体候補でないと判定される(ステップS968)。
図12は、本発明の実施の形態における色成分解析処理(ステップS970)の処理手順例を示す図である。なお、ここでは、図8により説明した簡易化した手法による処理手順について説明する。まず、この色成分解析処理で用いられるカウント値(Cカウント値)が「0」にクリアされる(ステップS971)。
そして、ウィンドウ画像271の対象画素273について以下のステップS974およびS975が繰り返される(ステップS972)。すなわち、対象画素273が色差空間における特定の領域内に該当する場合には(ステップS974)、Cカウント値が「1」加算される(ステップS975)。
ウィンドウ画像271内の全ての画素を対象画素273としてステップS974およびS975の処理が完了すると(ステップS972)、Cカウント値とその閾値(Cカウント閾値)との比較が行われる(ステップS976)。その結果、Cカウント値がCカウント閾値を超えていれば、被写体候補判定部280において被写体候補であると判定される(ステップS977)。一方、Cカウント値がCカウント閾値を超えていなければ、被写体候補判定部280において被写体候補でないと判定される(ステップS978)。
このように、本発明の実施の形態によれば、特徴抽出部202において抽出された特徴量に基づいてウィンドウ画像が被写体候補となるか否かを被写体候補判定部280において判定し、被写体候補とならない場合には被写体検出部240における被写体検出処理を省くことにより、被写体検出の演算量を低減してリアルタイム性を向上させるとともに、撮像画像の中から認識できる被写体情報を顔検出内に取り込むことによって検出性能も同時に向上させることができる。
なお、本発明の実施の形態においては、周波数成分解析部250、輝度成分解析部260または色成分解析部270の何れかにおいて個別の条件を満たせば被写体候補判定部280において被写体候補であると判定されることを想定したが、これらの条件は組み合わせることができる。その場合、各条件の重み付けも変更することができる。例えば、自動フォーカス(AF)の合焦度によって周波数成分解析部250の重みを、自動ホワイトバランス(AWB)の調整度によって色成分解析部270の重みを、また、画面全体のヒストグラムに応じて輝度成分解析部260の重みを、それぞれ変更することができる。
また、本発明の実施の形態においては、輝度信号と色差信号(CrおよびCb)を想定してその適用例について説明したが、本発明はこれに限らず、例えばxvYCCなどの広色域色空間にも適用することができる。
また、本発明の実施の形態においては、本発明を撮像装置に適用する場合について説明したが、本発明はこれに限らず、例えば光ディスク等の種々の記録媒体による記録再生装置、プリンタ等の画像処理装置に広く適用することができ、さらにはコンピュータにおける画像処理ソフト等に広く適用することができる。
また、本発明の実施の形態は本発明を具現化するための一例を示したものであり、以下に示すように特許請求の範囲における発明特定事項とそれぞれ対応関係を有するが、これに限定されるものではなく本発明の要旨を逸脱しない範囲において種々の変形を施すことができる。
なお、本発明の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。
本発明の実施の形態における画像処理装置の一実施例としての撮像装置100の一構成例を示す図である。 本発明の実施の形態における顔検出部200の一構成例を示す図である。 本発明の実施の形態における周波数成分解析部250の一構成例を示す図である。 本発明の実施の形態における周波数成分解析部250の一処理例を示す図である。 本発明の実施の形態における輝度成分解析部260の一構成例を示す図である。 本発明の実施の形態における輝度成分解析部260の一処理例を示す図である。 本発明の実施の形態における色成分解析部270の一構成例を示す図である。 本発明の実施の形態における色成分解析部270の一処理例を示す図である。 本発明の実施の形態における撮像装置100の処理手順例を示す図である。 本発明の実施の形態における周波数成分解析処理(ステップS950)の処理手順例を示す図である。 本発明の実施の形態における輝度成分解析処理(ステップS960)の処理手順例を示す図である。 本発明の実施の形態における色成分解析処理(ステップS970)の処理手順例を示す図である。
符号の説明
100 撮像装置
111 レンズユニット
112 撮像素子
113 カメラ信号処理部
120 画像メモリ
130 画像バス
140 画像表示部
150 画像圧縮伸張部
160 入出力制御部
170 操作入力受付部
180 装置制御部
190 メモリ
200 顔検出部
201 被写体候補抽出部
202 特徴抽出部
210 解像度変換部
220 画像切出し部
230 ウィンドウメモリ
240 被写体検出部
250 周波数成分解析部
254 周波数変換部
255 被写体周波数成分保持部
256 相関性抽出部
257 係数マトリクス
258 積和演算器
260 輝度成分解析部
265 被写体輝度成分保持部
266 相関性抽出部
268 減算器
270 色成分解析部
275 被写体色成分保持部
276 相関性抽出部
280 被写体候補判定部
290 顔検出制御部

Claims (6)

  1. 原画像の所定の位置からウィンドウ画像を切り出す画像切出し手段と、
    前記原画像が撮像された際の撮像条件に応じて設定される所定の基準に基づいて前記ウィンドウ画像の特徴量を抽出する特徴抽出手段と、
    検出対象を含む候補として前記ウィンドウ画像が所定の条件を満たすか否かを前記特徴量に基づいて判定する候補判定手段と、
    前記ウィンドウ画像が前記所定の条件を満たす場合には前記ウィンドウ画像に前記検出対象が含まれるか否かを判断する検出手段と
    を具備し、
    前記特徴抽出手段は、前記特徴量として前記ウィンドウ画像の周波数成分の分布と予め設定された周波数成分の分布との相関性を抽出し、
    前記候補判定手段は、前記相関性が所定の閾値よりも高い場合には前記ウィンドウ画像が前記候補であると判定し、
    前記所定の基準は、前記原画像が撮像された際のフォーカス条件に応じて設定される
    画像処理装置。
  2. 原画像の所定の位置からウィンドウ画像を切り出す画像切出し手段と、
    前記原画像が撮像された際の撮像条件に応じて設定される所定の基準に基づいて前記ウィンドウ画像の特徴量を抽出する特徴抽出手段と、
    検出対象を含む候補として前記ウィンドウ画像が所定の条件を満たすか否かを前記特徴量に基づいて判定する候補判定手段と、
    前記ウィンドウ画像が前記所定の条件を満たす場合には前記ウィンドウ画像に前記検出対象が含まれるか否かを判断する検出手段と
    を具備し、
    前記特徴抽出手段は、前記特徴量として前記ウィンドウ画像に含まれる周波数成分の分布において所定の基準周波数よりも高い周波数成分を有する画素の数を抽出し、
    前記候補判定手段は、前記画素の数が所定の閾値よりも多い場合には前記ウィンドウ画像が前記候補であると判定し、
    前記所定の基準は、前記原画像が撮像された際のフォーカス条件に応じて設定される
    画像処理装置。
  3. 原画像の所定の位置からウィンドウ画像を切り出す画像切出し手段と、
    前記原画像が撮像された際の撮像条件に応じて設定される所定の基準に基づいて前記ウィンドウ画像の特徴量を抽出する特徴抽出手段と、
    検出対象を含む候補として前記ウィンドウ画像が所定の条件を満たすか否かを前記特徴量に基づいて判定する候補判定手段と、
    前記ウィンドウ画像が前記所定の条件を満たす場合には前記ウィンドウ画像に前記検出対象が含まれるか否かを判断する検出手段と
    を具備し、
    前記特徴抽出手段は、前記特徴量として前記ウィンドウ画像の輝度成分の分布と予め設定された輝度成分の分布との相関性を抽出し、
    前記候補判定手段は、前記相関性が所定の閾値よりも高い場合には前記ウィンドウ画像が前記候補であると判定し、
    前記所定の基準は、前記原画像が撮像された際のデジタルクランプまたはガンマ補正の条件に応じて設定される
    画像処理装置。
  4. 原画像の所定の位置からウィンドウ画像を切り出す画像切出し手段と、
    前記原画像が撮像された際の撮像条件に応じて設定される所定の基準に基づいて前記ウィンドウ画像の特徴量を抽出する特徴抽出手段と、
    検出対象を含む候補として前記ウィンドウ画像が所定の条件を満たすか否かを前記特徴量に基づいて判定する候補判定手段と、
    前記ウィンドウ画像が前記所定の条件を満たす場合には前記ウィンドウ画像に前記検出対象が含まれるか否かを判断する検出手段と
    を具備し、
    前記特徴抽出手段は、前記特徴量として前記ウィンドウ画像に含まれる輝度成分の分布と所定の基準輝度成分の分布との各画素における差分の総和を抽出し、
    前記候補判定手段は、前記総和が所定の閾値よりも大きい場合には前記ウィンドウ画像が前記候補であると判定し、
    前記所定の基準は、前記原画像が撮像された際のデジタルクランプまたはガンマ補正の条件に応じて設定される
    画像処理装置。
  5. 被写体を撮像して撮像画像を生成する撮像手段と、
    前記撮像画像に対して所定の信号処理を施す信号処理手段と、
    前記信号処理された撮像画像の解像度を変換して縮小画像を生成する解像度変換手段と、
    前記縮小画像の所定の位置からウィンドウ画像を切り出す画像切出し手段と、
    前記撮像画像が撮像された際の撮像条件に応じて設定される所定の基準に基づいて前記ウィンドウ画像の特徴量を抽出する特徴抽出手段と、
    検出対象を含む候補として前記ウィンドウ画像が所定の条件を満たすか否かを前記特徴量に基づいて判定する候補判定手段と、
    前記ウィンドウ画像が前記所定の条件を満たす場合には前記ウィンドウ画像に前記検出対象が含まれるか否かを判断する検出手段と
    を具備し、
    前記特徴抽出手段は、前記特徴量として前記ウィンドウ画像の周波数成分の分布と予め設定された周波数成分の分布との相関性を抽出し、
    前記候補判定手段は、前記相関性が所定の閾値よりも高い場合には前記ウィンドウ画像が前記候補であると判定し、
    前記所定の基準は、前記原画像が撮像された際のフォーカス条件に応じて設定される
    撮像装置。
  6. 第1のメモリに保持される原画像の所定の位置からウィンドウ画像を切り出して第2のメモリに保持する画像切出し手順と、
    前記原画像が撮像された際の撮像条件に応じて設定される所定の基準に基づいて前記ウィンドウ画像の特徴量を抽出する特徴抽出手順と、
    検出対象を含む候補として前記ウィンドウ画像が所定の条件を満たすか否かを前記特徴量に基づいて判定する候補判定手順と、
    前記ウィンドウ画像が前記所定の条件を満たす場合には前記ウィンドウ画像に前記検出対象が含まれるか否かを判断する検出手順と
    をコンピュータに実行させるプログラムであって、
    前記特徴抽出手順において、前記特徴量として前記ウィンドウ画像の周波数成分の分布と予め設定された周波数成分の分布との相関性を抽出し、
    前記候補判定手順において、前記相関性が所定の閾値よりも高い場合には前記ウィンドウ画像が前記候補であると判定し、
    前記所定の基準は、前記原画像が撮像された際のフォーカス条件に応じて設定される
    プログラム。
JP2007167415A 2007-06-26 2007-06-26 画像処理装置、撮像装置、画像処理方法およびプログラム Active JP4375448B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007167415A JP4375448B2 (ja) 2007-06-26 2007-06-26 画像処理装置、撮像装置、画像処理方法およびプログラム
US12/118,038 US8295544B2 (en) 2007-06-26 2008-05-09 Image processing apparatus, image capturing apparatus, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007167415A JP4375448B2 (ja) 2007-06-26 2007-06-26 画像処理装置、撮像装置、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2009009198A JP2009009198A (ja) 2009-01-15
JP4375448B2 true JP4375448B2 (ja) 2009-12-02

Family

ID=40160594

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007167415A Active JP4375448B2 (ja) 2007-06-26 2007-06-26 画像処理装置、撮像装置、画像処理方法およびプログラム

Country Status (2)

Country Link
US (1) US8295544B2 (ja)
JP (1) JP4375448B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140035805A1 (en) * 2009-04-02 2014-02-06 David MINNEN Spatial operating environment (soe) with markerless gestural control
US20100074557A1 (en) * 2008-09-25 2010-03-25 Sanyo Electric Co., Ltd. Image Processing Device And Electronic Appliance
ES2377303B1 (es) * 2009-06-05 2013-02-01 Vodafone España S.A.U. Método y sistema para recomendar fotografías.
US8983198B2 (en) * 2012-03-22 2015-03-17 The Charles Stark Draper Laboratory, Inc. Compressive sensing with local geometric features
US9613285B2 (en) 2012-03-22 2017-04-04 The Charles Stark Draper Laboratory, Inc. Compressive sensing with local geometric features
WO2013142767A1 (en) * 2012-03-22 2013-09-26 GARDINER, Brian Compressive sensing with local geometric features
CN104182749B (zh) * 2013-05-20 2017-08-08 富士通株式会社 图像处理装置、图像处理方法以及电子设备
US20150016719A1 (en) * 2013-07-09 2015-01-15 Mediatek Inc. Methods of sifting out significant visual patterns from visual data
WO2018117704A1 (en) * 2016-12-23 2018-06-28 Samsung Electronics Co., Ltd. Electronic apparatus and operation method thereof
KR101963198B1 (ko) * 2017-04-18 2019-07-31 한국과학기술원 3차원 안면 정면화 시스템 및 방법
CN108235114A (zh) * 2017-11-02 2018-06-29 深圳市商汤科技有限公司 视频流的内容解析方法和***、电子设备、存储介质
JP6635149B2 (ja) * 2018-06-20 2020-01-22 株式会社ニコン 画像処理装置及び撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06231254A (ja) 1993-02-03 1994-08-19 Kokusai Denshin Denwa Co Ltd <Kdd> 動画像の高速認識検索方法
JPH1051755A (ja) * 1996-05-30 1998-02-20 Fujitsu Ltd テレビ会議端末の画面表示制御装置
US6463163B1 (en) 1999-01-11 2002-10-08 Hewlett-Packard Company System and method for face detection using candidate image region selection
JP3962517B2 (ja) 1999-12-08 2007-08-22 キヤノン株式会社 顔面検出方法及びその装置、コンピュータ可読媒体
JP2001330882A (ja) 2000-05-24 2001-11-30 Canon Inc 被写体認識機能付きカメラ
JP5011625B2 (ja) 2001-09-06 2012-08-29 株式会社ニコン 撮像装置
JP4329398B2 (ja) 2002-05-10 2009-09-09 ソニー株式会社 顔検出装置及び方法、並びにプログラム及び記録媒体
JP4517633B2 (ja) 2003-11-25 2010-08-04 ソニー株式会社 対象物検出装置及び方法
US7894637B2 (en) * 2004-05-21 2011-02-22 Asahi Kasei Corporation Device, program, and method for classifying behavior content of an object person
JP2006174022A (ja) 2004-12-15 2006-06-29 Canon Inc 画像処理装置および方法

Also Published As

Publication number Publication date
US8295544B2 (en) 2012-10-23
JP2009009198A (ja) 2009-01-15
US20090003707A1 (en) 2009-01-01

Similar Documents

Publication Publication Date Title
JP4375448B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
US9769377B2 (en) Imaging apparatus and control method for handling a raw image of a moving image or a still image
JP4626493B2 (ja) 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
US8244059B2 (en) Image processing method, apparatus, recording medium, and image pickup apparatus
US8269850B2 (en) Signal processing method and signal processing system
US8712207B2 (en) Digital photographing apparatus, method of controlling the same, and recording medium for the method
JP6574878B2 (ja) 画像処理装置及び画像処理方法、撮像装置、プログラム、並びに記憶媒体
JP6720881B2 (ja) 画像処理装置及び画像処理方法
US20120081560A1 (en) Digital photographing apparatus and method of controlling the same
JP2012133607A (ja) 画像処理装置、画像処理方法及びプログラム
JP2011182252A (ja) 撮像装置および画像撮影方法
EP1599052A2 (en) Imaging device, image processing method, and color area setting program
US8237802B2 (en) Method and apparatus for determining shaken image by using auto focusing
JP5655668B2 (ja) 撮像装置、画像処理方法及びプログラム
JP2008109305A (ja) 画像処理装置および画像処理装置の制御方法
CN110771142B (zh) 摄像装置、摄像装置的控制方法及摄像装置的控制程序
US20090190835A1 (en) Method for capturing image to add enlarged image of specific area to captured image, and imaging apparatus applying the same
JP4534750B2 (ja) 画像処理装置および画像処理プログラム
US8537266B2 (en) Apparatus for processing digital image and method of controlling the same
JP6450107B2 (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP2008172395A (ja) 撮像装置、画像処理装置、方法およびプログラム
JP4665731B2 (ja) カメラ、および画像管理プログラム
JP2016092513A (ja) 画像取得装置、ブレ軽減方法及びプログラム
JP2009296172A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、撮像装置の制御方法、プログラム及び記録媒体
JP5146223B2 (ja) プログラム、カメラ、画像処理装置および画像の輪郭抽出方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090408

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090511

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090716

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090818

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090831

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120918

Year of fee payment: 3