JP2017108374A - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP2017108374A
JP2017108374A JP2016118545A JP2016118545A JP2017108374A JP 2017108374 A JP2017108374 A JP 2017108374A JP 2016118545 A JP2016118545 A JP 2016118545A JP 2016118545 A JP2016118545 A JP 2016118545A JP 2017108374 A JP2017108374 A JP 2017108374A
Authority
JP
Japan
Prior art keywords
image
face
person
privacy level
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016118545A
Other languages
English (en)
Other versions
JP6206542B2 (ja
Inventor
雅昭 佐々木
Masaaki Sasaki
雅昭 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to US15/295,333 priority Critical patent/US10546185B2/en
Priority to CN201610908844.5A priority patent/CN107038362B/zh
Publication of JP2017108374A publication Critical patent/JP2017108374A/ja
Application granted granted Critical
Publication of JP6206542B2 publication Critical patent/JP6206542B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

【課題】不自然とならずに、所望のプライバシー度に応じた画像に係る処理を実行する。
【解決手段】画像処理装置100であって、画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定する第1判定部6dと、プライバシー度が所定の条件を満たすと判定された場合に、画像に係る所定の処理の実行を制御する撮影制御部6eと、を備えている。
【選択図】図1

Description

本発明は、画像処理装置、画像処理方法及びプログラムに関する。
従来、人物が写ってはいるが、他人が見てもその人物であることを識別することが困難な状態の画像を公開したい、或いは、記録したいという場合がある。そこで、プライバシーを損なわないように、人物の顔にモザイク処理やマスク処理を施す技術が知られている(例えば、特許文献1参照)。
特開2000−322660号公報
しかしながら、上記特許文献1等の場合、公開や記録の対象となる画像についてモザイク処理やマスク処理等の画像処理が必要となるだけでなく、局所的に施されたモザイクやマスクによって不自然な画像となり、見栄えが悪化してしまうという問題がある。
本発明は、このような問題に鑑みてなされたものであり、本発明の課題は、不自然とならずに、所望のプライバシー度に応じた画像に係る処理を実行することができる画像処理装置、画像処理方法及びプログラムを提供することである。
上記課題を解決するための本発明の一態様は、
画像処理装置であって、
画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定する判定手段と、
前記判定手段により前記プライバシー度が所定の条件を満たすと判定された場合に、画像に係る所定の処理の実行を制御する制御手段と、
を備えたことを特徴としている。
本発明によれば、不自然とならずに、所望のプライバシー度に応じた画像に係る処理を実行することができる。
本発明を適用した実施形態1の画像処理装置の概略構成を示すブロック図である。 図1の画像処理装置による自動撮影処理に係る動作の一例を示すフローチャートである。 図1の画像処理装置によるプライバシー度算出処理に係る動作の一例を示すフローチャートである。 図3のプライバシー度算出処理の続きを示すフローチャートである。 図1の画像処理装置による手動撮影処理に係る動作の一例を示すフローチャートである。 プライバシー度算出処理を説明するための図である。 プライバシー度算出処理を説明するための図である。 プライバシー度算出処理を説明するための図である。 プライバシー度算出処理を説明するための図である。 図1の画像処理装置による画像の表示態様の一例を模式的に示す図である。 図1の画像処理装置による判定値設定処理に係る動作の一例を示すフローチャートである。 本発明を適用した実施形態2の画像処理装置の概略構成を示すブロック図である。 図12の画像処理装置による画像取得処理に係る動作の一例を示すフローチャートである。 図12の画像処理装置によるプライバシー度算出処理に係る動作の一例を示すフローチャートである。 図14のプライバシー度算出処理の続きを示すフローチャートである。
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
[実施形態1]
図1は、本発明を適用した実施形態1の画像処理装置100の概略構成を示すブロック図である。
図1に示すように、実施形態1の画像処理装置100は、具体的には、中央制御部1と、メモリ2と、撮像部3と、信号処理部4と、動き検出部5と、動作制御部6と、画像処理部7と、画像記録部8と、表示部9と、通信制御部10と、操作入力部11とを備えている。
また、中央制御部1、メモリ2、撮像部3、信号処理部4、動き検出部5、動作制御部6、画像処理部7、画像記録部8、表示部9及び通信制御部10は、バスライン12を介して接続されている。
また、画像処理装置100は、例えば、撮像機能を具備する携帯電話機やスマートフォンなどの移動体通信網で用いられる移動局、PDA(Personal Data Assistants)等の通信端末から構成されていても良いし、通信機能を具備するデジタルカメラ等から構成されていても良い。
中央制御部1は、画像処理装置100の各部を制御するものである。具体的には、中央制御部1は、図示は省略するが、CPU(Central Processing Unit)等を備え、画像処理装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行う。
メモリ2は、例えば、DRAM(Dynamic Random Access Memory)等により構成され、中央制御部1や動作制御部6等によって処理されるデータ等を一時的に格納する。例えば、メモリ2は、自動撮影処理にて撮像された基準顔画像F(詳細後述)を一時的に格納する。
撮像部(撮像手段)3は、所定の被写体(例えば、人物等)を撮像してフレーム画像を生成する。具体的には、撮像部3は、レンズ部3aと、電子撮像部3bと、撮像制御部3cとを備えている。
レンズ部3aは、例えば、ズームレンズやフォーカスレンズ等の複数のレンズ、レンズを通過する光の量を調整する絞り等から構成されている。また、レンズ部3aは、所謂、自分撮りができるように表示パネル9bと同じ側(被写体側)に露出されるように配置されている。
電子撮像部3bは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサ(撮像素子)から構成されている。そして、電子撮像部3bは、レンズ部3aの各種レンズを通過した光学像を二次元の画像信号に変換する。
撮像制御部3cは、例えば、タイミング発生器やドライバにより電子撮像部3bを走査駆動して、レンズ部3aを通過した光学像を電子撮像部3bにより所定周期毎に二次元の画像信号に変換させ、当該電子撮像部3bの撮像領域から一画面分ずつフレーム画像を読み出して信号処理部4に出力させる。
信号処理部4は、電子撮像部3bから転送されたフレーム画像のアナログ値の信号に対して各種の画像信号処理を施す。具体的には、信号処理部4は、例えば、フレーム画像のアナログ値の信号に対してRGBの色成分毎にゲイン調整し、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行って、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。また、信号処理部4は、生成された輝度信号Y及び色差信号Cb,Crをバッファメモリとして使用されるメモリ2に出力する。
動き検出部5は、当該画像処理装置100の動きを検出する。
すなわち、動き検出部5は、例えば、画像処理装置100の互いに直交する3軸(ロール軸、ピッチ軸及びヨー軸)を中心とする回動の角速度をそれぞれ検出する3軸角速度センサを具備している。そして、動き検出部5は、例えば、被写体の撮影の際等に、3軸角速度センサにより逐次検出された信号を動き情報として動作制御部6に出力する。
動作制御部6は、第1画像取得部6aと、検出処理部6bと、第1算出部6cと、第1判定部6dと、撮影制御部6eとを具備している。
なお、動作制御部6の各部は、例えば、所定のロジック回路から構成されているが、当該構成は一例であってこれに限られるものではない。
第1画像取得部6aは、撮像部3により逐次撮像されるフレーム画像を取得する。
具体的には、第1画像取得部6aは、撮像部3により逐次撮像されて信号処理部4により逐次生成されたライブビュー画像に係るフレーム画像の画像データをメモリ2から逐次取得する。
検出処理部6bは、第1画像取得部6aにより取得されたフレーム画像から、顔、当該顔の構成部位、視線を検出する。
すなわち、検出処理部6bは、撮像部3により逐次撮像されて第1画像取得部6aにより逐次取得されるフレーム画像毎に、顔検出処理を行って被写体である人物の顔が含まれる顔領域を検出し、さらに、顔検出処理にて検出された顔領域内から目や口等の顔の構成部位を検出する。また、検出処理部6bは、撮像部3により逐次撮像されて第1画像取得部6aにより逐次取得されるフレーム画像毎に、視線検出処理を行って被写体である人物の視線を検出する。
また、検出処理部6bは、撮像部3により逐次撮像されて第1画像取得部6aにより逐次取得されるフレーム画像毎に、被写体である人物の身体全体を検出し、その形状を特定する。特定した人物の形状の変化により、人物がフレーム画像から外れたか、或いはフレーム画像内であるが、体の向きを変えたかを判別可能とする。
なお、上記した顔検出処理や構成部位の検出処理、視線検出処理や人物の形状を特定する処理は、公知の技術であるので、ここでは詳細な説明を省略するが、例えば、顔検出処理や構成部位の検出処理では、例えば、AAM(Active Appearance Model)を用いても良いし、また、視線検出処理では、例えば、目の位置を検出し、黒目の両側の白目の面積比から視線を検出しても良い。
第1算出部(算出手段)6cは、プライバシー度を算出する。
ここで、プライバシー度とは、画像(例えば、フレーム画像等)に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すものであり、特定の人物の顔であると識別し易い画像ほどプライバシー度が相対的に低くなる一方で、特定の人物の顔であると識別し難い画像ほどプライバシー度が相対的に高くなる。具体的には、プライバシー度は、画像に含まれる人物の顔や当該顔の構成部位(例えば、目や口等)の状態(例えば、角度、大きさ、隠されているか否か、色等)、当該人物の顔や当該顔の構成部位を隠す外部の遮蔽物(例えば、サングラスやマスク等)の状態によって変化する。
すなわち、フレーム画像に含まれる人物の顔が特定の人物の顔であると識別可能な状態、例えば、人物の顔を検出可能で、且つ、人物の顔及び視線が正面方向(所定方向)である状態等を基準状態として、当該基準状態からの、人物の顔全体や当該顔の構成部位の相対的な変化、人物の顔或いは当該顔の構成部位が隠されている比率の変化、フレーム画像に含まれる人物の顔の大きさ或いは人物の顔までの撮像距離の変化、人物の顔或いは当該顔の構成部位を隠す外部の遮蔽物の変化、人物の顔の色の変化等に基づいて、プライバシー度が変化する。
ここで、人物の顔全体や当該顔の構成部位の相対的な変化は、例えば、被写体である人物が顔を所定の軸(例えば、ヨー軸やピッチ軸;図6参照)を中心として回転させる動作や、人物が身体全体をヨー軸を中心として回転させることで顔をヨー軸を中心として回転させる動作や、視線を正面方向から外すように移動させる動作や、画像処理装置100のレンズ部3aの光軸方向が人物の顔の正面方向に対して斜めになるように画像処理装置100を上下方向や左右方向に変位させる動作等を行うことにより生じ得る。なお、人物の顔をロール軸を中心として回転させる動作や画像処理装置100をレンズ部3aの光軸方向を中心として回転させる動作は、顔検出処理に対する影響が小さいため除外するようになっているが、例えば、画像のプライバシー度をより細かく設定できることから、これらの動作を含めても良い。
また、人物の顔或いは当該顔の構成部位が隠されている比率の変化は、例えば、被写体である人物が自身の手や髪、或いは、外部の遮蔽物(例えば、サングラスやマスク等)等により顔全体や顔の構成部位(例えば、目や口等)を隠す動作を行うことにより生じ得る。
また、フレーム画像に含まれる人物の顔の大きさ或いは人物の顔までの撮像距離の変化は、例えば、被写体である人物と画像処理装置100との物理的な距離を調整する動作や、撮像部3のズーム倍率(焦点距離)を調整する動作や、撮影された画像からトリミングする領域を指定する動作等を行うことにより生じ得る。
また、人物の顔や当該顔の構成部位を隠す外部の遮蔽物の変化は、例えば、目を隠す外部の遮蔽物が、眼鏡、サングラス、眼帯やアイパッチといった種類の違いで生じ得る。また、マスクであっても、口に使用するマスクと鼻に使用するマスクといった隠す顔の構成部位の違いで生じ得る。
また、人物の顔の色の変化は、例えば、被写体である人物に照射される光線や画像処理装置100の露光状態により、顔が逆光で真っ黒になっていたり、白飛びで真っ白になっていたりするような場合、或いは化粧など顔に肌色とは異なる他の色を塗っていたりするような場合などに生じ得る。
具体的には、第1算出部6cは、撮像部3により逐次撮像されて第1画像取得部6aにより逐次取得されるフレーム画像に対する検出処理部6bによる検出結果に基づいて、人物の顔を検出可能で、且つ、当該人物の顔及び視線が正面方向(所定方向)である状態を基準状態として特定する。そして、第1算出部6cは、当該基準状態のフレーム画像(基準顔画像F)に対する、人物の顔全体や当該顔の構成部位の相対的な変化、人物の顔或いは当該顔の構成部位が隠されている比率の変化、フレーム画像に含まれる人物の顔の大きさ或いは人物の顔までの撮像距離の変化、人物の顔或いは当該顔の構成部位を隠す外部の遮蔽物の変化、人物の顔の色の変化を検出して、プライバシー度を算出する。
例えば、第1算出部6cは、基準顔画像Fに含まれる人物の顔領域に対応する顔検出枠の形状と、第1画像取得部6aにより逐次取得されるフレーム画像に含まれる人物の顔領域に対応する顔検出枠の形状とを比較して、基準状態に対する被写体である人物の顔の所定の軸(例えば、ヨー軸やピッチ軸)を中心とする回転角度の変化を特定する。つまり、例えば、人物の顔がヨー軸を中心として回転すると、顔検出枠が縦長の矩形状となり、人物の顔がピッチ軸を中心として回転させると、顔検出枠が横長の矩形状となる。そして、第1算出部6cは、例えば、顔検出枠の形状の変化から人物の顔の回転の中心軸及び回転角度を算出し、基準状態に対する人物の顔の所定の軸を中心とする回転角度の変化量或いは変化率を特定する。ここで、第1算出部6cは、人物が身体全体をヨー軸を中心として略180°回転させた場合、すなわち、顔が後ろ向きとなるように回転させた場合も、検出処理部6bにより人物の身体全体の回転が検出され、その検出結果から回転角度の変化を特定可能となっている。なお、第1算出部6cは、動き検出部5から出力された動き情報に基づいて、画像処理装置100の回転角度を算出して、基準状態に対する当該画像処理装置100のレンズ部3aの光軸の人物の顔の正面に対する向きの変化量或いは変化率を特定しても良い。
また、例えば、第1算出部6cは、基準顔画像Fに含まれる人物の視線と、第1画像取得部6aにより逐次取得されるフレーム画像に含まれる人物の視線とを比較して、基準状態に対する被写体である人物の視線の変化を特定する。
そして、第1算出部6cは、特定された基準状態に対する人物の顔の所定の軸を中心とする回転角度の変化量或いは変化率、基準状態に対する当該画像処理装置100のレンズ部3aの光軸の人物の顔の正面に対する向きの変化量或いは変化率、基準状態に対する被写体である人物の視線の変化に基づいて、プライバシー度を算出する。例えば、人物の顔をヨー軸を中心として左右に回転させたり、視線を左右に移動させる場合、図7(a)に示すように、第1算出部6cは、顔の向きが正面で視線のみを左(或いは、右)に移動させた状態のプライバシー度が最も低く、顔の向きを左(或いは、右)に回転させていくにつれて次第にプライバシー度が高くなる相関関係でプライバシー度を算出する。また、例えば、人物の顔をピッチ軸を中心として上下に回転させたり、視線を上下に移動させる場合、図7(b)に示すように、第1算出部6cは、顔の向きが正面で視線のみを下(或いは、上)に移動させた状態のプライバシー度が最も低く、顔の向きを下(或いは、上)に回転させていくにつれて次第にプライバシー度が高くなる相関関係でプライバシー度を算出する。また、例えば、人物の顔をヨー軸及びピッチ軸を中心として左右及び上下に回転させたり、視線を左右及び上下に移動させる場合、図7(c)に示すように、第1算出部6cは、顔の向きが正面で視線のみを左下(或いは、右下、左上、右上)に移動させた状態のプライバシー度が最も低く、顔の向きを左下(或いは、右下、左上、右上)に回転させていくにつれて次第にプライバシー度が高くなる相関関係でプライバシー度を算出する。
なお、第1算出部6cは、人物の視線と顔の所定の軸を中心とする回転角度について、相関関係を持たせずに個別にプライバシー度を設定するようにしても良い。
また、上記した人物の顔の所定の軸を中心とする回転角度の変化を特定する手法は、一例であってこれに限られるものではなく、例えば、顔検出処理にて顔の回転角度に対応する複数の識別器を用いて、何れの識別器で検出されたかの検出結果を利用しても良い。また、上記した視線の変化を特定する手法は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
また、例えば、第1算出部6cは、基準顔画像Fから検出された顔の構成部位の数と、第1画像取得部6aにより逐次取得されるフレーム画像から検出された顔の構成部位の数とを比較して、基準状態に対する人物の顔の構成部位が隠されている比率の変化を特定する。具体的には、第1算出部6cは、顔検出処理にて検出された顔領域内から検出された目や口等の顔の構成部位の数の変化から、基準状態に対する人物の顔の構成部位が隠されている比率の変化を特定する。
そして、第1算出部6cは、特定された基準状態に対する人物の顔の構成部位が隠されている比率の変化に基づいて、プライバシー度を算出する。例えば、図8(a)に示すように、第1算出部6cは、顔の構成部位のうちの何れか一(例えば、口等)が隠されている状態のプライバシー度が最も低く、顔の構成部位のうちの隠されている構成部位の数が増えていくにつれて次第にプライバシー度が高くなる相関関係でプライバシー度を算出する。
なお、上記した人物の顔の構成部位が隠されている比率の変化を特定する手法は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
また、例えば、第1算出部6cは、基準顔画像Fに含まれる人物の顔を構成する画素数と、第1画像取得部6aにより逐次取得されるフレーム画像に含まれる人物の顔を構成する画素数とを比較して、基準状態に対するフレーム画像に含まれる人物の顔の大きさの変化を特定する。つまり、例えば、人物と画像処理装置100との物理的な距離が離れるほどフレーム画像に含まれる人物の顔を構成する画素数が小さくなる。第1算出部6cは、例えば、人物の顔が含まれる顔領域を構成する画素数の変化から、基準状態に対するフレーム画像に含まれる人物の顔の大きさの変化を特定する。なお、第1算出部6cは、撮像部3の焦点距離等から人物の顔までの撮像距離(被写体距離)を換算し、撮像距離の変化から基準状態に対するフレーム画像に含まれる人物の顔の大きさの変化を特定しても良い。
そして、第1算出部6cは、特定された基準状態に対するフレーム画像に含まれる人物の顔の大きさの変化に基づいて、プライバシー度を算出する。例えば、図8(b)に示すように、第1算出部6cは、フレーム画像に含まれる人物の顔の大きさが大きいほどプライバシー度が低く、顔の大きさが大きいほどプライバシー度が高くなる相関関係でプライバシー度を算出する。
なお、上記した人物の顔の大きさの変化を特定する手法は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
また、例えば、第1算出部6cは、基準顔画像Fから検出された外部の遮蔽物と、第1画像取得部6aにより逐次取得されるフレーム画像から検出された外部の遮蔽物の種類とを比較して、基準状態に対する外部の遮蔽物の変化を特定する。具体的には、第1算出部6cは、顔検出処理にて検出された顔領域内から、例えばサングラスであれば、サングラスをかけた顔画像を大量に学習し、マスクであれば、マスクをかけた顔画像を大量に学習することで、顔領域内からサングラスやマスク等の外部の遮蔽物を検出し、検出された外部の遮蔽物の種類の変化から、基準状態に対する外部の遮蔽物の変化を特定する。
そして、第1算出部6cは、特定された基準状態に対する外部の遮蔽物の変化に基づいて、プライバシー度を算出する。例えば、図9(a)に示す遮蔽物テーブルSTを参照して、第1算出部6cは、外部の遮蔽物の種類に応じたプライバシー度を算出する。この遮蔽物テーブルSTには、外部の遮蔽物の種類とプライバシー度とが対応付けて記憶されている。
なお、上記した外部の遮蔽物の変化を特定する手法は、一例であってこれに限られるものではなく、例えば、公知のオブジェクト認識の技術を使用して、顔の構成部位とは異なる物体を認識して外部の遮蔽物として検出してもよく、適宜任意に変更可能である。
また、検出する外部の遮蔽物の種類は、一例であってこれに限られるものではなく、例えば、髪を隠す帽子やバンダナ等であってもよい。
また、複数の外部の遮蔽物が検出された場合は、より高いプライバシー度を算出するようにしてもよい。
また、例えば、第1算出部6cは、基準顔画像Fから検出された人物の顔の色と、第1画像取得部6aにより逐次取得されるフレーム画像から検出された人物の顔の色とを比較して、基準状態に対する人物の顔の色の変化を特定する。具体的には、第1算出部6cは、顔検出処理にて検出された顔領域内から目や口といった肌色とは異なる色を有する構成部位を除く肌色領域の平均RGB値を測定し、基準顔画像Fから検出された人物の顔のR値G値B値と、第1画像取得部6aにより逐次取得されるフレーム画像から検出された人物の顔のR値G値B値各々の差の絶対値を合計することで、人物の顔の色の変化を特定する。
そして、第1算出部6cは、特定された基準状態に対する人物の顔の色の変化に基づいて、プライバシー度を算出する。例えば、図9(b)に示すように、第1算出部6cは、基準顔画像Fから検出された人物の顔の色とフレーム画像に含まれる人物の顔の色との差が小さいほどプライバシー度が低く、差が大きいほどプライバシー度が高くなる相関関係でプライバシー度を算出する。
なお、上記した人物の顔の色の変化を特定する手法は、一例であってこれに限られるものではなく、例えば、フレーム画像に含まれる人物の顔の色のうち、基準顔画像Fから検出された人物の顔の色の平均RGB値より所定の値以上差のある色の領域の面積の比率を測定し、その面積の比率の大きさに応じてプライバシー度を算出する、といったように適宜任意に変更可能である。
また、第1算出部6cは、自動撮影処理にて、撮像部3により逐次撮像されて第1画像取得部6aにより逐次取得されるライブビュー画像に係るフレーム画像毎にプライバシー度を逐次算出し、算出されたプライバシー度を第1判定部6dに逐次出力する。
なお、第1算出部6cは、上記した基準状態からの、人物の顔全体や当該顔の構成部位の相対的な変化、人物の顔或いは当該顔の構成部位が隠されている比率の変化、フレーム画像に含まれる人物の顔の大きさ或いは人物の顔までの撮像距離の変化、外部の遮蔽物の変化、人物の顔の色の変化のうち、少なくとも何れか一を基準として、プライバシー度を算出すれば良い。また、これらの複数を基準とする場合には、第1算出部6cは、各項目毎に個別に評価し、その結果から総合的に評価してプライバシー度を算出するようにしても良い。
また、プライバシー度の算出は、人物の身体がフレーム画像内であることを条件とし、人物の身体がフレーム画像から外れた場合は、プライバシー度の算出は行わず、自動撮影処理は行わない。
第1判定部(判定手段)6dは、第1算出部6cにより算出されるプライバシー度が所定の判定値よりも高いか否かを判定する。
すなわち、第1判定部6dは、自動撮影処理にて、撮像部3により逐次撮像されるライブビュー画像毎に、第1算出部6cにより逐次算出されるプライバシー度が判定値よりも高いか否か(所定の条件を満たすか否か)を判定する。具体的には、第1判定部6dは、先ず、事前にユーザにより指定されてメモリ2に格納されている所望のプライバシー度を判定値としてメモリ2から取得する。そして、第1判定部6dは、第1算出部6cにより逐次算出されるプライバシー度を逐次取得し、取得されたプライバシー度が判定値よりも高いか否かを判定する。
なお、判定値は、例えば、プライバシー度算出処理にて算出された複数のプライバシー度から経験的に求められた値をデフォルトとして事前に設定されていても良い。
撮影制御部(制御手段)6eは、撮像部3を制御して画像に係る所定の処理を実行させる。
すなわち、撮影制御部6eは、第1判定部6dによりプライバシー度が所定の判定値よりも高いと判定された場合に、撮像部3を制御して記録用の画像を撮影させる。具体的には、撮影制御部6eは、例えば、自動撮影処理にて、第1判定部6dによる判定結果に基づいて、第1算出部6cにより逐次算出されるプライバシー度が判定値以下である状態から判定値よりも高い状態に変化したことを契機として、撮像部3に記録用の画像の撮影指示を出力して、当該撮像部3に記録用の画像を撮影させる。
なお、撮影制御部6eは、例えば、第1算出部6cにより逐次算出されるプライバシー度が判定値よりも高い状態から判定値以下の状態に変化したことを契機として、撮像部3に記録用の画像を撮影させても良い。つまり、例えば、ライブビュー画像のプライバシー度が高くなり過ぎた場合等に、ユーザが画像のプライバシー度が低くなるような動作(例えば、顔の向きが正面に近付くような動作等)を行うことでプライバシー度を低下させていく過程で、撮影制御部6eは、第1判定部6dによる判定結果に基づいて、当該撮像部3に記録用の画像を撮影させても良い。
また、撮影制御部6eは、ユーザによる撮影指示操作に応じて、撮像部3を制御して記録用の画像を撮影させる。具体的には、撮影制御部6eは、例えば、手動撮影処理にて、後述する操作入力部11を介してユーザにより撮影指示操作が行われたことを契機として、撮像部3に記録用の画像の撮影指示を出力して、当該撮像部3に記録用の画像を撮影させる。
画像処理部7は、信号処理部4により生成された静止画像の画像データを所定の圧縮形式(例えば、JPEG形式等)で符号化して静止画像の記録用の画像データを生成する。
また、画像処理部7は、メモリ2や画像記録部8から読み出された表示対象に係る静止画像の画像データを対応する所定の符号化方式に従って復号して表示部9に出力する。このとき、画像処理部7は、例えば、後述する表示パネル9bの表示解像度等に基づいて所定サイズ(例えば、VGAやフルHDサイズ)に変形して表示部9に出力しても良い。
画像記録部8は、例えば、不揮発性メモリ(フラッシュメモリ)等により構成され、画像処理部7により所定の圧縮形式で符号化された静止画像の記録用の画像データを記録する。具体的には、画像記録部(記録手段)8は、自動撮影処理及び手動撮影処理いずれの場合においても、撮影制御部6eにより撮影させた記録用の画像をプライバシー画像Pとして取得するとともに、当該プライバシー画像Pの撮影前のプライバシー度算出処理にて算出されたプライバシー度を取得し、プライバシー画像Pの画像データにプライバシー度をExif(Exchangeable Image File Format)情報として対応付けて記録する。
なお、画像記録部8は、例えば、記録媒体(図示略)が着脱自在に構成され、装着された記録媒体からのデータの読み出しや記録媒体に対するデータの書き込みを制御する構成であっても良い。
表示部9は、表示制御部9aと、表示パネル9bとを具備している。
表示制御部9aは、メモリ2や画像記録部8から読み出され画像処理部7により復号された所定サイズの画像データに基づいて、所定の画像を表示パネル9bの表示領域に表示させる制御を行う。具体的には、表示制御部9aは、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、画像処理部7により復号されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから所定の再生フレームレートで読み出して、これらのデータを元にビデオ信号を発生して表示パネル9bに出力する。
表示パネル9bは、表示制御部9aからのビデオ信号に基づいて撮像部3により撮影された画像などを表示領域内に表示する。具体的には、表示パネル9bは、静止画の撮影モードにて、撮像部3による被写体の撮影により生成された複数のフレーム画像を所定のフレームレートで逐次更新しながらライブビュー画像を表示する。
また、表示パネル9bは、画像の再生モードにて、画像記録部8に記録されている画像を表示する。このとき、表示制御部9aは、表示制御手段として、画像記録部8に記録されているプライバシー画像Pを対応付けられているプライバシー度を基準とする分類或いは順序で、表示パネル9bに表示させる(図10参照)。例えば、図10に示すように、表示制御部9aは、画像記録部8に記録されている複数のプライバシー画像Pを所定のプライバシー度(例えば、10、30、50、70、100等)毎に画像群として分類し、分類された画像群毎に表示パネル9bに表示させる。このとき、プライバシー度に応じた画像群毎に、何れか一のプライバシー画像Pを代表画像Psとしてサムネイル表示しても良い。
なお、表示制御部9aは、例えば、画像記録部8に記録されている複数のプライバシー画像Pを対応付けられているプライバシー度に応じて並び替えて、並び替えられた順序でプライバシー画像Pを表示パネル9bに表示させても良い。
なお、表示パネル9bとしては、例えば、液晶表示パネルや有機EL(Electro-Luminescence)表示パネルなどが挙げられるが、一例であってこれらに限られるものではない。
通信制御部10は、通信アンテナ10a及び通信ネットワーク(図示略)を介してデータの送受信を行う。
すなわち、通信アンテナ10aは、当該画像処理装置100が無線基地局(図示略)との通信で採用している所定の通信方式(例えば、W−CDMA(Wideband Code Division Multiple Access)方式、CDMA2000方式、GSM(Global System for Mobile Communications;登録商標)方式等)に対応したデータの送受信が可能なアンテナである。そして、通信制御部10は、所定の通信方式に対応する通信プロトコルに従って、この通信方式で設定される通信チャネルにより無線基地局との間で通信アンテナ10aを介してデータの送受信を行う。具体的には、通信制御部(送信手段)10は、通信アンテナ10aを介して、撮影制御部6eにより撮影させたプライバシー画像Pを外部の記録サーバ(所定の外部装置)Sに送信する。
記録サーバSは、例えば、クラウドを構成するサーバであり、Web(World Wide Web)サーバとしてインターネット上にWebページ(例えば、画像公開ページ等)を開設する機能を具備する。そして、記録サーバSは、例えば、画像処理装置100等の通信端末から送信された各種の画像等を受信して、Webページ上にコンテンツとして公開する。
これにより、記録サーバSが開設するWebページ上に公開されているコンテンツは、通信ネットワークを介して当該Webページにアクセス可能な通信端末のユーザにより閲覧可能な状態となる。
なお、記録サーバSは、通信ネットワークに接続可能なコンピュータから構成されたものであれば如何なる構成であっても良く、その詳細な説明は省略する。
通信ネットワークは、例えば、画像処理装置100を無線基地局やゲートウェイサーバ(図示略)等を介して記録サーバS等の外部装置と接続する通信ネットワークである。また、通信ネットワークは、専用線や既存の一般公衆回線を利用して構築された通信ネットワークであり、WAN(Wide Area Network)やLAN(Local Area Network)等の様々な回線形態を適用することが可能である。
また、通信ネットワークには、例えば、電話回線網、ISDN回線網、専用線、移動体通信網、通信衛星回線、CATV回線網等の各種通信ネットワーク網と、IPネットワーク、VoIP(Voice over Internet Protocol)ゲートウェイ、インターネットサービスプロバイダ等が含まれる。
なお、上記した通信制御部10の構成は一例であってこれに限られるものではなく、適宜任意に変更可能であり、例えば、図示は省略するが、無線LANモジュールを搭載し、アクセスポイント(Access Point)を介して通信ネットワークにアクセス可能な構成としても良い。
操作入力部11は、当該画像処理装置100の所定操作を行うためのものである。具体的には、操作入力部11は、被写体の撮影指示に係るシャッタボタン、撮影モードや機能等の選択指示に係る選択決定ボタン、ズーム量の調整指示に係るズームボタン等(何れも図示略)の操作部を備え、当該操作部の各ボタンの操作に応じて所定の操作信号を中央制御部1に出力する。
<自動撮影処理>
次に、画像処理装置100による自動撮影処理について、図2を参照して説明する。
図2は、自動撮影処理に係る動作の一例を示すフローチャートである。
図2に示すように、撮像部3による被写体のライブビュー画像の撮像が開始されると、信号処理部4は、電子撮像部3bから転送されたライブビュー画像に係るフレーム画像のアナログ値の信号に対して各種の画像信号処理を施し、デジタル値の画像データを生成する(ステップS1)。また、信号処理部4は、生成された画像データをメモリ2に出力し、メモリ2は、入力された画像データを一時的に格納する。
動作制御部6の第1画像取得部6aは、メモリ2からライブビュー画像に係るフレーム画像の画像データを読み出して取得する(ステップS2)。
次に、検出処理部6bは、第1画像取得部6aにより取得された処理対象となるフレーム画像に対して視線検出処理を行い(ステップS3)、被写体である人物の視線が正面であるか否かを判定する(ステップS4)。
ここで、視線が正面でないと判定されると(ステップS4;NO)、第1画像取得部6aは、メモリ2からライブビュー画像に係る新たなフレーム画像の画像データを読み出して取得し(ステップS5)、処理をステップS33に戻す。そして、ステップS3にて、検出処理部6bは、上記と略同様に、第1画像取得部6aにより取得された新たなフレーム画像に対して、視線検出処理を行う(ステップS3)。
一方、ステップS4にて、視線が正面であると判定されると(ステップS4;YES)、動作制御部6は、自動撮影の待機状態に移行する(ステップS6)。
つまり、被写体である人物の視線が正面(カメラ目線)となっていない場合には、自動撮影の待機状態に移行しないため、例えば、撮影を意図しているわけではないカメラ目線以外の状態にて、自動的に撮影が行われてしまうことを防止することができる。
その後、検出処理部6bは、第1画像取得部6aにより逐次取得されるフレーム画像に対して検出処理を行い、第1算出部6cは、検出処理部6bによる検出結果に基づいて、人物の顔を検出可能で、且つ、当該人物の視線が正面方向(所定方向)である状態を基準状態として特定する(ステップS7)。また、第1算出部6cは、当該基準状態のフレーム画像をメモリ2に出力し、基準顔画像Fとして一時的に格納させる。そして、この一時的に格納された基準顔画像Fを、顔が正面方向(所定方向)を向いている状態であるものとする。
次に、第1画像取得部6aは、メモリ2からライブビュー画像に係る新たなフレーム画像の画像データを読み出して取得し(ステップS8)、動作制御部6は、当該新たなフレーム画像のプライバシー度を算出するプライバシー度算出処理(図3及び図4参照)を行う(ステップS9;詳細後述)。
そして、動作制御部6の第1判定部6dは、ステップS9のプライバシー度算出処理にて算出されたプライバシー度が判定値設定処理にて設定された判定値よりも高いか否かを判定する(ステップS10)。具体的には、第1判定部6dは、メモリ2から判定値を読み出して取得し、プライバシー度算出処理にて算出されたプライバシー度が判定値よりも高いか否かを判定する。
ここで、プライバシー度が判定値よりも高くないと判定されると(ステップS10;NO)、動作制御部6は、処理をステップS8に戻し、それ以降の各処理を実行する。すなわち、ステップS8にて、第1画像取得部6aは、新たなフレーム画像の画像データを取得し、ステップS9にて、プライバシー度算出処理を行う。
一方、ステップS10にて、プライバシー度が判定値よりも高いと判定されると(ステップS10;YES)、撮影制御部6eは、撮像部3を制御して被写体の記録用の画像を撮影させる(ステップS11)。具体的には、例えば、撮影制御部6eは、所定時間経過後に被写体を自動的に撮影するタイマーを設定し、タイマーで設定された所定時間が経過した際に、撮像部3により被写体を撮像させ、信号処理部4により画像データを生成させる。そして、画像処理部7は、信号処理部4により生成された画像データを所定の圧縮形式(例えば、JPEG形式等)で符号化して記録用の画像の画像データを生成する。
その後、画像記録部8は、画像処理部7から記録用の画像をプライバシー画像Pとして取得するとともに、プライバシー度算出処理にて算出されたプライバシー度を取得し、プライバシー画像Pの画像データにプライバシー度をExif情報として対応付けて記録する(ステップS12)。
これにより、自動撮影処理を終了する。
なお、上記した自動撮影処理にあっては、プライバシー度を基準として一枚のプライバシー画像Pを撮影するようにしたが、一例であってこれに限られるものではなく、例えば、プライバシー度が所定の判定値よりも高くなったプライバシー画像Pを複数撮影して画像記録部8に記録しておき、記録されているプライバシー画像Pの中からユーザが所望のプライバシー画像Pを選択するようにしても良い。
<プライバシー度算出処理>
次に、画像処理装置100によるプライバシー度算出処理について、図3及び図4を参照して説明する。
図3及び図4は、プライバシー度算出処理に係る動作の一例を示すフローチャートである。
図3に示すように、先ず、検出処理部6bは、処理対象となるフレーム画像(例えば、図2のステップS8にて取得された新たなフレーム画像等)に対して顔検出処理を行い(ステップS21)、被写体である人物の顔が含まれる顔領域が検出されたか否かを判定する(ステップS22)。
ここで、被写体である人物はフレーム画像内であるが、顔領域が検出されていないと判定されると(ステップS22;NO)、例えば、人物が身体全体をヨー軸を中心として略180°回転させて顔が後ろ向きとなっている状態であると考えられ、第1算出部6cは、プライバシー度を最も高い値として算出する(ステップS23)。これにより、プライバシー度算出処理を終了する。
一方、ステップS22にて、顔領域が検出されたと判定されると(ステップS22;YES)、第1算出部6cは、処理対象のフレーム画像から検出された顔領域からサングラスやマスクといった装着品(外部の遮蔽物)を検出し(ステップS24)、装着品(外部の遮蔽物)が検出されたか否かを判定する(ステップS25)。ここで、装着品(外部の遮蔽物)が検出されたと判定されると(ステップS25;YES)、遮蔽物テーブルST(図9(a))を参照して、装着品(外部の遮蔽物)の種類に応じてプライバシー度の算出用のポイントを評価して決定する(ステップS26)。一方、装着品(外部の遮蔽物)が検出されなかったと判定されると(ステップS25;NO)、ステップS26の処理をスキップする。
次に、第1算出部6cは、処理対象のフレーム画像から検出された顔領域のうちの肌色領域の色を測定するとともに、第1算出部6cは、メモリ2から基準顔画像Fを取得し、当該基準顔画像Fについても、顔領域のうちの肌色領域の色を測定し、測定した各々の肌色の差を算出する肌の色検出処理を行う(ステップS27)。そして、算出した肌色の差が所定の値以上である通常とは異なる肌色が検出されたか否かを判定する(ステップS28)ここで、通常とは異なる肌色が検出されたと判定されると(ステップS28;YES)、肌の色(算出した肌色の差)に応じたプライバシー度の算出用のポイントを評価して決定する(ステップS29)。一方、通常とは異なる肌色が検出されなかったと判定されると(ステップS28;NO)、ステップS29の処理をスキップする。
次に、第1算出部6cは、処理対象のフレーム画像から検出された顔領域を構成する画素数を顔の大きさとして特定する(ステップS30)。また、第1算出部6cは、メモリ2から基準顔画像Fを取得し、当該基準顔画像Fについても、人物の顔の顔領域を構成する画素数を特定する。
そして、第1算出部6cは、顔領域を構成する画素数の変化から、基準状態に対するフレーム画像に含まれる人物の顔の大きさの変化を特定し、特定された顔の大きさの変化に応じてプライバシー度の算出用のポイントを評価して決定する(ステップS31)。
次に、第1算出部6cは、基準顔画像Fに含まれる人物の顔領域に対応する顔検出枠の形状と、新たなフレーム画像に含まれる人物の顔領域に対応する顔検出枠の形状とを比較して、顔検出枠の形状の変化から人物の顔の回転の中心軸及び回転角度を算出する(ステップS32)。
そして、第1算出部6cは、処理対象のフレーム画像から検出された人物の顔の向きが正面であるか否かを判定する(ステップS33)。
ステップS33にて、顔の向きが正面でないと判定されると(ステップS33;NO)、第1算出部6cは、基準状態に対する人物の顔の所定の軸を中心とする回転角度の変化量或いは変化率を特定し、特定された顔の回転角度の変化に応じてプライバシー度の算出用のポイントを評価して決定する(ステップS34)。
一方、ステップS33にて、顔の向きが正面であると判定されると(ステップS33;YES)、第1算出部6cは、ステップS34の処理をスキップする。
図4に移り、検出処理部6bは、処理対象となるフレーム画像における、顔検出処理にて検出された顔領域内から目や口等の顔の構成部位を検出する(ステップS35)。また、検出処理部6bは、基準顔画像Fについても、顔領域内から目や口等の顔の構成部位を検出する。
そして、第1算出部6cは、顔の構成部位の数の変化、すなわち、基準状態に対する人物の顔の構成部位が隠されている比率の変化に応じてプライバシー度の算出用のポイントを評価して決定する(ステップS36)。
次に、検出処理部6bは、処理対象となるフレーム画像から目が検出されたか否かを判定する(ステップS37)。
ここで、目が検出されたと判定されると(ステップS37;YES)、検出処理部6bは、処理対象となるフレーム画像に対して視線検出処理を行い(ステップS38)、被写体である人物の視線が正面であるか否かを判定する(ステップS39)。
ステップS39にて、視線が正面でないと判定されると(ステップS39;NO)、第1算出部6cは、基準状態に対する被写体である人物の視線の変化を特定し、特定された人物の視線の変化に応じてプライバシー度の算出用のポイントを評価して決定する(ステップS40)。
一方、ステップS39にて、視線が正面であると判定されると(ステップS39;YES)、第1算出部6cは、ステップS40の処理をスキップする。
また、ステップS37にて、目が検出されていないと判定された場合には(ステップS37;NO)、ステップS38〜S40の各処理をスキップする。
そして、第1算出部6cは、ステップS26における装着品に応じたポイント評価の結果、ステップS29における肌の色に応じたポイント評価の結果、ステップS31における顔の大きさの変化に応じたポイント評価の結果、ステップS34における顔の回転角度の変化に応じたポイント評価の結果、ステップS36における顔の構成部位が隠されている比率の変化に応じたポイント評価の結果、ステップS40における人物の視線の変化に応じたポイント評価の結果に基づいて、所定の換算式を用いてプライバシー度を算出する(ステップS41)。すなわち、第1算出部6cは、基準状態からの人物の変化が相対的に小さいフレーム画像ほどプライバシー度が相対的に低くなり、また、基準状態からの人物の変化が相対的に大きいフレーム画像ほどプライバシー度が相対的に高くなるように、プライバシー度を算出する。
なお、プライバシー度の算出用の換算式は、全ての評価項目を総合的に評価してプライバシー度を算出するためのものであるが、例えば、優先すべき評価項目(例えば、顔の向き等)を指定可能とし、当該評価項目についてのポイント評価がされなかった場合に、他の評価項目についてのポイント評価の結果からプライバシー度を算出するようにしても良い。
これにより、プライバシー度算出処理を終了する。
<手動撮影処理>
次に、画像処理装置100による手動撮影処理について、図5を参照して説明する。
図5は、手動撮影処理に係る動作の一例を示すフローチャートである。
図5に示すように、撮像部3による被写体のライブビュー画像の撮像が開始されると、信号処理部4は、電子撮像部3bから転送されたライブビュー画像に係るフレーム画像のアナログ値の信号に対して各種の画像信号処理を施し、デジタル値の画像データを生成する(ステップS13)。また、信号処理部4は、生成された画像データをメモリ2に出力し、メモリ2は、入力された画像データを一時的に格納する。
次に、中央制御部1は、操作入力部11のシャッタボタンの押下操作による撮影指示(撮影指示操作)が行われたか否かを判定する(ステップS14)。
撮影指示操作が行われたと判定されると(ステップS14;YES)、撮影制御部6eは、撮像部3を制御して被写体の記録用の画像を撮影させる(ステップS15)。具体的には、例えば、撮影制御部6eは、撮像部3により被写体を撮像させ、信号処理部4により画像データを生成させる。そして、画像処理部7は、信号処理部4により生成された画像データを所定の圧縮形式(例えば、JPEG形式等)で符号化して記録用の画像の画像データを生成する。
続いて、動作制御部6の第1画像取得部6aは、メモリ2から一時的に格納されているライブビュー画像に係るフレーム画像の画像データを読み出して取得し(ステップS16)、動作制御部6は、上述したプライバシー度算出処理(図3及び図4参照)を行う(ステップ17)。
その後、画像記録部8は、画像処理部7から記録用の画像をプライバシー画像Pとして取得するとともに、プライバシー度算出処理にて算出されたプライバシー度を取得し、プライバシー画像Pの画像データにプライバシー度をExif情報として対応付けて記録する(ステップS18)。
これにより、手動撮影処理を終了する。
以上のように、実施形態1の画像処理装置100によれば、画像の種類の一である撮像部3により撮像されるフレーム画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定するための一として、プライバシー度を算出し、算出されるプライバシー度が所定の判定値よりも高いと判定された場合に、画像に係る所定の処理を実行する制御の一として、撮像部3を制御して記録用の画像(プライバシー画像P)を撮影させるので、例えば、公開や記録の対象となる画像についてモザイク処理やマスク処理等の画像処理等を不要とし、局所的にモザイクやマスクが施されることによって見栄えを悪化させることなく、所望のプライバシー度に応じたより自然なプライバシー画像Pを取得することができる。
そして、プライバシー度を基準として撮影された記録用の画像(プライバシー画像P)を記録サーバS等の所定の外部装置に送信することで、当該画像をWebページ上にコンテンツとして公開することができる。
また、撮像部3により逐次撮像されるフレーム画像毎にプライバシー度を逐次算出し、逐次算出されるプライバシー度が所定の判定値よりも高いか否かの判定結果に基づいて、プライバシー度が所定の判定値以下である状態から所定の判定値よりも高い状態に変化したことを契機として、記録用の画像を撮影させるので、例えば、ライブビュー画像の撮像中に、ユーザ自身がプライバシー度を変化させるような動作を行って、各フレーム画像のプライバシー度を調整しつつ、プライバシー度が所定の判定値よりも高い状態に移行することで、所望のプライバシー度に応じた画像を取得することができる。
また、フレーム画像に含まれる人物の顔が特定の人物の顔であると識別可能な基準状態(例えば、人物の顔を検出可能で、且つ、当該人物の顔及び視線が所定方向である状態等)からの、人物の顔或いは当該人物の顔を構成する部位の相対的な変化に基づいて、プライバシー度を算出することができる。例えば、人物の顔の所定の軸を中心とする回転角度の変化量或いは変化率や、画像処理装置100の人物の顔に対する向きの変化量或いは変化率に基づいて、プライバシー度を算出することができる。つまり、基準状態からの人物の顔或いは当該人物の顔を構成する部位の相対的な変化を利用することで、例えば、プライバシー度毎に顔の回転角度を予め定めておき、定められた角度に顔を回転させたり、画像処理装置100の向きを調整する必要がなくなり、使い勝手を向上させることができるとともに、プライバシー度を基準として取得されるプライバシー画像Pの表現態様を多彩なものとすることができる。
さらに、フレーム画像における人物の顔或いは当該人物の顔を構成する部位が隠されている比率の変化に基づいて、プライバシー度を算出したり、フレーム画像に含まれる人物の顔の大きさ或いは人物の顔までの撮像距離の変化に基づいて、プライバシー度を算出したり、人物の顔或いは当該顔の構成部位を隠す外部の遮蔽物の変化に基づいて、プライバシー度を算出したり、人物の顔の色の変化に基づいて、プライバシー度を算出したりするので、プライバシー度の算出の基準を多くして、プライバシー度を基準として取得されるプライバシー画像Pの表現態様をより多彩なものとすることができる。
また、プライバシー画像Pとプライバシー度とを対応付けて記録しておくことで、プライバシー画像Pを対応付けられているプライバシー度を基準とする分類或いは順序で、表示パネル9bに表示させることができ、プライバシー画像Pが複数記録されている場合にも、ユーザ所望のプライバシー画像Pの選択を簡便に行うことができることとなって、使い勝手を向上させることができる。
また、手動撮影処理において、フレーム画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度を算出し、算出されるプライバシー度を使用して、画像に係る所定の処理を実行する制御の一として、ユーザによる撮影指示に応じて記録画像として撮影された画像に対応付けて記録する制御を行うので、記録画像を呼び出して表示する際に、対応付けられているプライバシー度を合わせて表示したり、外部装置にプライバシー度が対応付けられている記録画像を出力したりすることが可能となる。そして、プライバシー度が所定の条件を満たすか否かを判定するための一として、ユーザ或いは外部装置が、表示或いは出力された記録画像に対応付けられているプライバシー度を参照して、そのプライバシー度が所定の判定値よりも高いと判定された場合に、公開の対象とするか否かを判断したり、公開の処理を行ったりすることができる。
また、画像に係る所定の処理を実行する制御の一として、ユーザによる撮影指示に応じて撮影された画像を所定時間表示するレビュー表示中に、算出されたプライバシー度を合わせて表示することで、ユーザが公開や記録の対象とするか否かを判断して、レビュー表示中の所定の操作に応じて、撮影された画像を公開や記録の処理を実行させることが可能となる。
なお、上記実施形態にあっては、プライバシー度の判定値を自動的に設定しても良い。
以下に、画像処理装置100による判定値設定処理について、図11を参照して説明する。
図11は、判定値設定処理に係る動作の一例を示すフローチャートである。
判定値設定処理は、上記した自動撮影処理の前に行われる処理であり、当該自動撮影処理にて用いられる判定値を設定するモードが選択されている状態で行われるものとする。
図11に示すように、撮像部3による被写体のライブビュー画像の撮像が開始されると、信号処理部4は、電子撮像部3bから転送されたライブビュー画像に係るフレーム画像のアナログ値の信号に対して各種の画像信号処理を施し、デジタル値の画像データを生成する(ステップS51)。また、信号処理部4は、生成された画像データをメモリ2に出力し、メモリ2は、入力された画像データを一時的に格納する。
動作制御部6の第1画像取得部6aは、メモリ2からライブビュー画像に係るフレーム画像の画像データを読み出して取得する(ステップS52)。
次に、検出処理部6bは、第1画像取得部6aにより取得されたフレーム画像に対して、顔検出処理を行って被写体である人物の顔が含まれる顔領域を検出するとともに、視線検出処理を行って被写体である人物の視線を検出する(ステップS53)。
続けて、第1算出部6cは、検出処理部6bによる顔検出処理及び視線検出処理の結果に基づいて、人物の顔を検出可能で、且つ、当該人物の顔及び視線が正面方向である基準状態が特定されたか否かを判定する(ステップS54)。
ステップS54にて、基準状態が特定されていないと判定されると(ステップS54;NO)、第1画像取得部6aは、メモリ2からライブビュー画像に係る新たなフレーム画像の画像データを読み出して取得し(ステップS55)、処理をステップS53に戻す。そして、ステップS53にて、検出処理部6bは、上記と略同様に、第1画像取得部6aにより取得された新たなフレーム画像に対して、顔検出処理及び視線検出処理を行う(ステップS53)。
一方、ステップS54にて、基準状態が特定されたと判定されると(ステップS54;YES)、第1画像取得部6aは、メモリ2からライブビュー画像に係る新たなフレーム画像の画像データを読み出して取得し(ステップS56)、動作制御部6は、当該新たなフレーム画像のプライバシー度を算出するプライバシー度算出処理(図3及び図4参照)を行う(ステップS57)。なお、基準状態のフレーム画像(基準顔画像F)の画像データは、メモリ2に一時的に格納されても良い。
そして、動作制御部6は、プライバシー度算出処理にて算出されたプライバシー度を、自動撮影処理にてプライバシー度の判定に用いられる判定値とするか否かを判定する(ステップS58)。具体的には、例えば、表示制御部9aは、プライバシー度算出処理にて算出されたプライバシー度の確認用画面(図示略)を表示パネル9bに表示させる。そして、ユーザによるプライバシー度の確認後、操作入力部11の所定操作に基づいて、算出されたプライバシー度を判定値として用いる指示が入力されたか否かに応じて、動作制御部6は、算出されたプライバシー度を判定値とするか否かを判定する。
ここで、算出されたプライバシー度を判定値としないと判定されると(ステップS58;NO)、動作制御部6は、処理をステップS56に戻し、それ以降の各処理を実行する。すなわち、ステップS56にて、第1画像取得部6aは、新たなフレーム画像の画像データを取得し、ステップS57にて、プライバシー度算出処理を行う。
一方、ステップS58にて、算出されたプライバシー度を判定値とすると判定されると(ステップS58;YES)、動作制御部6は、算出されたプライバシー度を判定値として設定する(ステップS59)。具体的には、動作制御部6の第1算出部6cは、算出されたプライバシー度をメモリ2に出力し、メモリ2は、入力されたプライバシー度を判定値として一時的に格納する。
これにより、判定値設定処理を終了する。
[実施形態2]
以下に、実施形態2の画像処理装置200について図12を参照して説明する。
図12は、本発明を適用した実施形態2の画像処理装置200の概略構成を示すブロック図である。
図12に示すように、本実施形態の画像処理装置200は、中央制御部1と、メモリ2と、動作制御部206と、画像処理部7と、画像記録部8と、表示部9と、通信制御部10と、操作入力部11とを備えている。
また、中央制御部1、メモリ2、動作制御部206、画像処理部7、画像記録部8、表示部9及び通信制御部10は、バスライン12を介して接続されている。
なお、実施形態2の画像処理装置200は、以下に詳細に説明する以外の点は、上記実施形態1の画像処理装置100と略同様の構成であり、詳細な説明は省略する。
動作制御部206は、第2画像取得部206aと、検出処理部6bと、第2算出部206cと、第2判定部206dと、取得制御部206fとを具備している。
第2画像取得部206aは、画像記録部8から記録画像を取得する。
具体的には、第2画像取得部206aは、画像取得処理(後述)の処理対象として、例えば、画像記録部8に記録されている記録画像を取得する。なお、画像記録部8に複数の記録画像が記録されている場合には、例えば、全ての記録画像を画像取得処理の処理対象としても良いし、ユーザによる操作入力部11の所定操作に基づいて指定された記録画像のみを画像取得処理の処理対象としても良い。
第2算出部(算出手段)206cは、プライバシー度を算出する。
すなわち、第2算出部206cは、第2画像取得部206aにより取得された記録画像に対する検出処理部6bによる検出結果に基づいて、記録画像に含まれる人物の顔が特定の人物の顔であると識別可能な状態、例えば、人物の顔を検出可能で、且つ、当該人物の顔及び視線が正面方向(所定方向)である状態を仮想的な基準状態として設定する。そして、第2算出部206cは、当該仮想的な基準状態からの、人物の顔全体や当該顔の構成部位の相対的な変化を特定して、プライバシー度を算出する。
つまり、第2算出部206cは、第2画像取得部206aにより取得された記録画像について、人物の顔が正面を向き、視線が正面である状態を仮定して、仮想的な基準状態として設定する。そして、第2算出部206cは、設定された仮想的な基準状態に対する、記録画像から検出された人物の顔全体や当該顔の構成部位の所定の軸(例えば、ヨー軸やピッチ軸;図6参照)を中心とする回転角度の仮想的な変化を特定する。また、第2算出部206cは、設定された仮想的な基準状態に対する、記録画像から検出された人物の視線の仮想的な変化を特定する。
そして、第2算出部206cは、特定された仮想的な基準状態に対する人物の顔の所定の軸を中心とする回転角度の仮想的な変化、仮想的な基準状態に対する被写体である人物の視線の仮想的な変化に基づいて、プライバシー度を算出する。
また、第2算出部206cは、人物の顔或いは当該人物の顔を構成する部位が隠されている比率に基づいて、プライバシー度を算出する。
すなわち、第2算出部206cは、第2画像取得部206aにより取得された記録画像から検出された人物の顔の構成部位(例えば、目や口等)の数を特定する。そして、第2算出部206cは、例えば、被写体である人物が自身の手や髪、或いは、外部の遮蔽物(例えば、サングラスやマスク等)等により顔全体や顔の構成部位(例えば、目や口等)を隠す動作を行わなければ特定されるであろう顔の構成部位の数(例えば、両目と口の場合、「3」)に対する、人物の顔の構成部位が隠されている比率に基づいて、プライバシー度を算出する。
また、第2算出部206cは、記録画像に含まれる人物の顔の大きさ或いは人物の顔までの撮像距離に基づいて、プライバシー度を算出する。
すなわち、第2算出部206cは、例えば、第2画像取得部206aにより取得された記録画像から検出された人物の顔が含まれる顔領域を構成する画素数を記録画像に含まれる人物の顔の大きさとして特定する。そして、第2算出部206cは、特定された記録画像に含まれる人物の顔の大きさに基づいて、プライバシー度を算出する。また、第2算出部206cは、例えば、記録画像の画像データと対応付けられているExif情報から撮像部3の焦点距離等を取得し、人物の顔までの撮像距離に換算して、プライバシー度を算出する。
また、第2算出部206cは、基準状態に対する外部の遮蔽物の変化に基づいて、プライバシー度を算出する。
すなわち、第2算出部206cは、基準顔画像Fから検出された外部の遮蔽物と、第2画像取得部206aにより取得された記録画像から検出された外部の遮蔽物の種類とを比較して、基準状態に対する外部の遮蔽物の変化を特定する。そして、第2算出部206cは、特定された基準状態に対する外部の遮蔽物の変化に基づいて、プライバシー度を算出する。
なお、第2算出部206cによる基準状態に対する外部の遮蔽物の変化に基づくプライバシー度の算出の具体的な手法は、上記実施形態1の第1算出部6cによる手法と略同様であり、ここでは詳細な説明は省略する。
また、第2算出部206cは、基準状態に対する人物の顔の色の変化に基づいて、プライバシー度を算出する。
すなわち、第2算出部206cは、基準顔画像Fから検出された人物の顔の色と、第2画像取得部206aにより取得された記録画像から検出された人物の顔の色とを比較して、基準状態に対する人物の顔の色の変化を特定する。そして、第2算出部206cは、特定された基準状態に対する人物の顔の色の変化に基づいて、プライバシー度を算出する。
なお、第2算出部206cによる基準状態に対する人物の顔の色の変化に基づくプライバシー度の算出の具体的な手法は、上記実施形態1の第1算出部6cによる手法と略同様であり、ここでは詳細な説明は省略する。
第2判定部(判定手段)206dは、第2算出部206cにより算出されるプライバシー度が所定の判定値よりも高いか否かを判定する。
すなわち、第2判定部206dは、画像取得処理にて、記録画像について第2算出部206cにより算出されるプライバシー度が判定値よりも高いか否かを判定する。具体的には、第2判定部206dは、メモリ2に格納されている所望のプライバシー度を判定値としてメモリ2から取得し、第2算出部206cにより算出されるプライバシー度が判定値よりも高いか否かを判定する。
取得制御部206fは、所定の処理が実行される画像を取得する。
すなわち、取得制御部206fは、第2判定部206dによりプライバシー度が判定値よりも高いと判定された記録画像を、所定の処理(例えば、送信処理等)が実行されるプライバシー画像Pとして取得する。
<画像取得処理>
次に、画像処理装置200による画像取得処理について、図13を参照して説明する。
図13は、画像取得処理に係る動作の一例を示すフローチャートである。
図13に示すように、第2画像取得部206aは、画像記録部8から何れか一の記録画像の画像データを読み出して、当該画像取得処理の処理対象として取得する(ステップS61)。
そして、動作制御部206は、取得された記録画像のプライバシー度を算出するプライバシー度算出処理(図14及び図15参照)を行う(ステップS62;詳細後述)。
そして、動作制御部206の第2判定部206dは、ステップS62のプライバシー度算出処理にて算出されたプライバシー度が判定値よりも高いか否かを判定する(ステップS63)。具体的には、第2判定部206dは、メモリ2から判定値を読み出して取得し、プライバシー度算出処理にて算出されたプライバシー度が判定値よりも高いか否かを判定する。
ここで、プライバシー度が判定値よりも高いと判定されると(ステップS63;YES)、取得制御部206fは、処理対象の記録画像を記録サーバSに送信されるプライバシー画像Pとして取得する(ステップS64)。
その後、動作制御部206は、画像記録部8に記録されている全ての記録画像を画像取得処理の処理対象として処理したか否かを判定する(ステップS65)。
また、ステップS63にて、プライバシー度が判定値よりも高くないと判定された場合(ステップS63;NO)、動作制御部206は、ステップS64の処理をスキップして、同様に、全ての記録画像を画像取得処理の処理対象として処理したか否かを判定する。
ステップS65にて、全ての記録画像を画像取得処理の処理対象として処理していないと判定されると(ステップS65;NO)、第2画像取得部206aは、画像記録部8から新たな記録画像の画像データを読み出して、当該画像取得処理の処理対象として取得した後(ステップS66)、処理をステップS62に戻す。そして、ステップS62にて、動作制御部206は、上記と略同様に、取得された新たな記録画像のプライバシー度を算出するプライバシー度算出処理を行う(ステップS62)。
一方、ステップS65にて、全ての記録画像を画像取得処理の処理対象として処理したと判定されると(ステップS65;YES)、画像取得処理を終了する。
<プライバシー度算出処理>
次に、画像処理装置200によるプライバシー度算出処理について、図14及び図15を参照して説明する。
図14及び図15は、プライバシー度算出処理に係る動作の一例を示すフローチャートである。
図14に示すように、先ず、検出処理部6bは、処理対象となる記録画像(例えば、図13のステップS51にて取得された記録画像等)に対して顔検出処理を行い(ステップS71)、人物の顔が含まれる顔領域が検出されたか否かを判定する(ステップS72)。
ここで、顔領域が検出されたと判定されると(ステップS72;YES)、第2算出部206cは、処理対象の記録画像から検出された顔領域からサングラスやマスクといった装着品(外部の遮蔽物)を検出し(ステップS73)、装着品(外部の遮蔽物)が検出されたか否かを判定する(ステップS74)。ここで、装着品(外部の遮蔽物)が検出されたと判定されると(ステップS74;YES)、遮蔽物テーブルST(図9(a))を参照して、装着品(外部の遮蔽物)の種類に応じてプライバシー度の算出用のポイントを評価して決定する(ステップS75)。一方、装着品(外部の遮蔽物)が検出されなかったと判定されると(ステップS74;NO)、ステップS75の処理をスキップする。
次に、第2算出部206cは、処理対象の記録画像から検出された顔領域のうちの肌色領域の色を測定するとともに、第2算出部206cは、メモリ2から基準顔画像Fを取得し、当該基準顔画像Fについても、顔領域のうちの肌色領域の色を測定し、測定した各々の肌色の差を算出する肌の色検出処理を行う(ステップS76)。そして、算出した肌色の差が所定の値以上である通常とは異なる肌色が検出されたか否かを判定する(ステップS77)ここで、通常とは異なる肌色が検出されたと判定されると(ステップS77;YES)、肌の色(算出した肌色の差)に応じたプライバシー度の算出用のポイントを評価して決定する(ステップS78)。一方、通常とは異なる肌色が検出されなかったと判定されると(ステップS77;NO)、ステップS78の処理をスキップする。
次に、第2算出部206cは、処理対象の記録画像から検出された顔領域を構成する画素数を顔の大きさとして特定する(ステップS79)。そして、第2算出部206cは、特定された顔の大きさに応じてプライバシー度の算出用のポイントを評価して決定する(ステップS80)。
一方、顔領域が検出されていないと判定されると(ステップS72;NO)、プライバシー度算出処理を終了する。
次に、第2算出部206cは、記録画像に含まれる人物の顔が特定の人物の顔であると識別可能な状態、例えば、人物の顔を検出可能で、且つ、当該人物の顔及び視線が正面方向(所定方向)である状態を仮想的な基準状態として設定する(ステップS81)。その後、第2算出部206cは、設定された仮想的な基準状態に対する、検出された人物の顔の回転の中心軸及び回転角度を算出する(ステップS82)。
そして、第2算出部206cは、処理対象の記録画像から検出された人物の顔の向きが正面であるか否かを判定する(ステップS83)。
ステップS83にて、顔の向きが正面でないと判定されると(ステップS83;NO)、第2算出部206cは、仮想的な基準状態に対する人物の顔の所定の軸を中心とする回転角度の変化量或いは変化率を特定し、特定された顔の回転角度の仮想的な変化に応じてプライバシー度の算出用のポイントを評価して決定する(ステップS84)。
一方、ステップS83にて、顔の向きが正面であると判定されると(ステップS83;YES)、第2算出部206cは、ステップS84の処理をスキップする。
図15に移り、検出処理部6bは、処理対象となる記録画像における、顔検出処理にて検出された顔領域内から目や口等の顔の構成部位を検出する(ステップS85)。そして、第2算出部206cは、検出された顔の構成部位の数に応じて、すなわち、人物が顔全体や顔の構成部位(例えば、目や口等)を隠す動作を行わなければ特定されるであろう顔の構成部位の数(例えば、両目と口の場合、「3」)に対する、人物の顔の構成部位が隠されている比率に応じてプライバシー度の算出用のポイントを評価して決定する(ステップS86)。
次に、検出処理部6bは、処理対象となる記録画像から目が検出されたか否かを判定する(ステップS87)。
ここで、目が検出されたと判定されると(ステップS87;YES)、検出処理部6bは、処理対象となる記録画像に対して視線検出処理を行い(ステップS88)、被写体である人物の視線が正面であるか否かを判定する(ステップS89)。
ステップS89にて、視線が正面でないと判定されると(ステップS89;NO)、第2算出部206cは、仮想的な基準状態に対する、人物の視線の変化を特定し、特定された人物の視線の仮想的な変化に応じてプライバシー度の算出用のポイントを評価して決定する(ステップS90)。
一方、ステップS89にて、視線が正面であると判定されると(ステップS89;YES)、第2算出部206cは、ステップS90の処理をスキップする。
また、ステップS87にて、目が検出されていないと判定された場合には(ステップS87;NO)、ステップS88〜S90の各処理をスキップする。
そして、第2算出部206cは、ステップS75における装着品に応じたポイント評価の結果、ステップS78における肌の色に応じたポイント評価の結果、ステップS80における顔の大きさに応じたポイント評価の結果、ステップS84における仮想的な基準状態に対する顔の回転角度の変化に応じたポイント評価の結果、ステップS86における顔の構成部位が隠されている比率に応じたポイント評価の結果、ステップS90における仮想的な基準状態に対する人物の視線の変化に応じたポイント評価の結果に基づいて、プライバシー度を算出する(ステップS91)。
これにより、プライバシー度算出処理を終了する。
以上のように、実施形態2の画像処理装置200によれば、画像の種類の一である記録画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定するための一として、プライバシー度を算出し、算出されるプライバシー度が所定の判定値よりも高いと判定された場合に、画像に係る所定の処理を実行する制御の一として、その画像を、所定の外部装置に送信する画像として取得するので、上記実施形態1と同様に、例えば、公開や記録の対象となる画像についてモザイク処理やマスク処理等の画像処理等を不要とし、局所的にモザイクやマスクが施されることによって見栄えを悪化させることなく、所望のプライバシー度に応じたより自然なプライバシー画像Pを取得することができる。
また、記録画像に含まれる人物の顔が特定の人物の顔であると識別可能な仮想的な基準状態(例えば、人物の顔を検出可能で、且つ、当該人物の顔及び視線が所定方向である状態等)からの、人物の顔或いは当該人物の顔を構成する部位の相対的な変化に基づいて、プライバシー度を算出することができる。従って、上記実施形態1と略同様に、仮想的な基準状態からの人物の顔或いは当該人物の顔を構成する部位の相対的な変化を利用することで、使い勝手を向上させることができるとともに、プライバシー度を基準として取得されるプライバシー画像Pの表現態様を多彩なものとすることができる。
さらに、記録画像における人物の顔或いは当該人物の顔を構成する部位が隠されている比率に基づいて、プライバシー度を算出したり、記録画像に含まれる人物の顔の大きさ或いは人物の顔までの撮像距離に基づいて、プライバシー度を算出したり、人物の顔或いは当該顔の構成部位を隠す外部の遮蔽物の変化に基づいて、プライバシー度を算出したり、人物の顔の色の変化に基づいて、プライバシー度を算出したりするので、プライバシー度の算出の基準を多くして、プライバシー度を基準として取得されるプライバシー画像Pの表現態様をより多彩なものとすることができる。
また、プライバシー画像Pとプライバシー度とを対応付けて記録しておくことで、プライバシー画像Pを対応付けられているプライバシー度を基準とする分類或いは順序で、表示パネル9bに表示させることができ、プライバシー画像Pが複数記録されている場合にも、ユーザ所望のプライバシー画像Pの選択を簡便に行うことができることとなって、使い勝手を向上させることができる。
なお、本発明は、上記実施形態1、2に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、上記実施形態1、2にあっては、プライバシー画像Pを外部の記録サーバSに送信して公開するようにしたが、一例であってこれに限られるものではない。例えば、送信されたプライバシー画像Pを公開する外部のサーバでは、当該プライバシー画像Pの記録は行わず表示のみを行い、表示されたプライバシー画像Pを逐次消去するようにしても良く、また、実施形態1の画像処理装置100や実施形態2の画像処理装置200にサーバ機能を具備させて、外部の端末から画像処理装置100、200にアクセスしてプライバシー画像Pを閲覧するようにしても良い。この場合に、例えば、プライバシー画像P毎に、対応付けられているプライバシー度に応じて、公開するか否かを自動的に設定するようにしても良い。
また、上記実施形態1、2にあっては、プライバシー画像Pの画像データに当該プライバシー画像Pに含まれる人物の顔の大きさをExif情報として対応付けて記録しておき、表示制御部9aは、画像記録部8に記録されているプライバシー画像Pを対応付けられている人物の顔の大きさを基準とする分類或いは順序で、表示パネル9bに表示させても良い。
また、画像処理装置100、200の構成は、上記実施形態1、2に例示したものは一例であり、これに限られるものではない。例えば、画像処理装置100は、撮像部3を搭載するようにしたが、これに限られるものではなく、撮像手段を搭載せずに外部の撮像手段と情報通信や撮影制御可能に接続されていても良い。
加えて、上記実施形態1にあっては、判定手段、制御手段としての機能を、中央制御部1の制御下にて、第1判定部6d、撮影制御部6eが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部1によって所定のプログラム等が実行されることにより実現される構成としても良い。
すなわち、プログラムメモリ(図示略)に、判定処理ルーチン、制御処理ルーチンを含むプログラムを記録しておく。そして、判定処理ルーチンにより中央制御部1のCPUを、画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定する手段として機能させるようにしても良い。また、制御処理ルーチンにより中央制御部1のCPUを、プライバシー度が所定の条件を満たすと判定された場合に、画像(プライバシー画像P)に係る所定の処理の実行を制御する手段として機能させるようにしても良い。
同様に、上記実施形態2にあっては、算出手段、制御手段としての機能を、中央制御部1の制御下にて、第2算出部206c、取得制御部206fが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部1によって所定のプログラム等が実行されることにより実現される構成としても良い。
すなわち、プログラムメモリ(図示略)に、算出処理ルーチン、制御処理ルーチンを含むプログラムを記録しておく。そして、算出処理ルーチンにより中央制御部1のCPUを、画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度を算出する手段として機能させるようにしても良い。また、制御処理ルーチンにより中央制御部1のCPUを、算出されるプライバシー度を使用して、画像(プライバシー画像P)に係る所定の処理の実行を制御する手段として機能させるようにしても良い。
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定する判定手段と、
前記判定手段により前記プライバシー度が所定の条件を満たすと判定された場合に、画像に係る所定の処理の実行を制御する制御手段と、
を備えたことを特徴とする画像処理装置。
<請求項2>
前記画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度を算出する算出手段を、更に備え、
前記判定手段は、前記算出手段により算出されるプライバシー度が所定の判定値より高いか否かを判定することを特徴とする請求項1に記載の画像処理装置。
<請求項3>
前記算出手段は、前記画像に含まれる人物の顔が前記特定の人物の顔であると識別可能な所定の基準状態からの、前記人物の顔或いは当該人物の顔を構成する部位の相対的な変化に基づいて、前記プライバシー度を算出することを特徴とする請求項2に記載の画像処理装置。
<請求項4>
前記算出手段は、前記人物の顔の所定の軸を中心とする回転角度の変化量或いは変化率に基づいて、前記プライバシー度を算出することを特徴とする請求項3に記載の画像処理装置。
<請求項5>
前記所定の基準状態は、前記人物の顔を検出可能で、且つ、当該人物の顔及び視線が所定方向である状態を含むことを特徴とする請求項3又は4に記載の画像処理装置。
<請求項6>
前記算出手段は、当該画像処理装置の前記人物の顔に対する向きの変化量或いは変化率に基づいて、前記プライバシー度を算出することを特徴とする請求項3〜5の何れか一項に記載の画像処理装置。
<請求項7>
前記算出手段は、前記人物の顔或いは当該人物の顔を構成する部位が隠されている比率の変化に基づいて、前記プライバシー度を算出することを特徴とする請求項3〜6の何れか一項に記載の画像処理装置。
<請求項8>
前記算出手段は、前記画像に含まれる人物の顔の大きさ或いは前記人物の顔までの撮像距離の変化に基づいて、前記プライバシー度を算出することを特徴とする請求項3〜7の何れか一項に記載の画像処理装置。
<請求項9>
前記算出手段は、前記画像に含まれる人物の顔或いは前記人物の顔の構成部位を隠す外部の遮蔽物の変化に基づいて、前記プライバシー度を算出することを特徴とする請求項3〜8の何れか一項に記載の画像処理装置。
<請求項10>
前記算出手段は、前記画像に含まれる人物の顔の色の変化に基づいて、前記プライバシー度を算出することを特徴とする請求項3〜9の何れか一項に記載の画像処理装置。
<請求項11>
前記画像は、撮像手段により撮像される画像であって、
前記算出手段は、前記撮像手段により撮像される画像の前記プライバシー度を算出し、
前記制御手段は、前記判定手段により前記プライバシー度が所定の判定値より高いと判定された場合に、前記撮像手段に記録用の画像を撮影させる制御を行うことを特徴とする請求項2〜10の何れか一項に記載の画像処理装置。
<請求項12>
前記算出手段は、前記撮像手段により逐次撮像される画像毎に前記プライバシー度を逐次算出し、
前記判定手段は、前記算出手段により逐次算出される前記プライバシー度が前記所定の判定値よりも高いか否かを逐次判定し、
前記制御手段は、前記判定手段による判定結果に基づいて、前記プライバシー度が前記所定の判定値以下である状態から前記所定の判定値よりも高い状態に変化したことを契機として、前記記録用の画像を撮影させることを特徴とする請求項11に記載の画像処理装置。
<請求項13>
前記制御手段により撮影させた記録用の画像と前記算出手段により算出された前記プライバシー度とを対応付けて記録する記録手段と、
前記記録手段に記録されている画像を対応付けられている前記プライバシー度を基準とする分類或いは順序で、表示手段に表示させる表示制御手段とを更に備えることを特徴とする請求項11又は12に記載の画像処理装置。
<請求項14>
前記画像は、記録手段に記録されている画像であって、
前記算出手段は、前記記録手段に記録されている画像の前記プライバシー度を算出し、
前記制御手段は、前記判定手段により前記プライバシー度が所定の判定値より高いと判定された画像を、所定の外部装置に送信する画像として取得する制御を行うことを特徴とする請求項2〜10の何れか一項に記載の画像処理装置。
<請求項15>
画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度を算出する算出手段と、
前記算出手段により算出されるプライバシー度を使用して、画像に係る所定の処理の実行を制御する制御手段と、
を備えたことを特徴とする画像処理装置。
<請求項16>
前記画像は、撮像手段により撮像される画像であって、
前記制御手段は、前記算出手段により算出されるプライバシー度を、前記撮像手段により記録用の画像として撮影される画像に対応付けて記録手段に記録する制御を行うことを特徴とする請求項15に記載の画像処理装置。
<請求項17>
画像処理装置を用いた画像処理方法であって、
画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定する処理と、
前記プライバシー度が所定の条件を満たすと判定された場合に、画像に係る所定の処理の実行を制御する処理と、
を含むことを特徴とする画像処理方法。
<請求項18>
画像処理装置を用いた画像処理方法であって、
画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度を算出する処理と、
算出されるプライバシー度を使用して、画像に係る所定の処理の実行を制御する処理と、
を含むことを特徴とする画像処理方法。
<請求項19>
画像処理装置のコンピュータに、
画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定する機能と、
前記プライバシー度が所定の条件を満たすと判定された場合に、画像に係る所定の処理の実行を制御する機能と、
を実現させることを特徴とするプログラム。
<請求項20>
画像処理装置のコンピュータに、
画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度を算出する機能と、
算出されるプライバシー度を使用して、画像に係る所定の処理の実行を制御する機能と、
を実現させることを特徴とするプログラム。
100、200 画像処理装置
1 中央制御部
2 メモリ
3 撮像部
4 信号処理部
6、206 動作制御部
6a 第1画像取得部
6b 検出処理部
6c 第1算出部
6d 第1判定部
6e 撮影制御部
206a 第2画像取得部
206c 第2算出部
206d 第2判定部
206f 取得制御部
8 画像記録部
9 表示部
9a 表示制御部
9b 表示パネル
10 通信制御部
F 基準顔画像
P プライバシー画像
S 記録サーバ
ST 遮蔽物テーブル
上記課題を解決するための本発明の一態様は、
画像処理装置であって、
画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定する判定手段と、
前記判定手段により前記プライバシー度が所定の条件を満たすか否かの判定結果に応じて、画像に係る所定の処理の実行を制御する制御手段と、
を備えたことを特徴としている。

Claims (20)

  1. 画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定する判定手段と、
    前記判定手段により前記プライバシー度が所定の条件を満たすと判定された場合に、画像に係る所定の処理の実行を制御する制御手段と、
    を備えたことを特徴とする画像処理装置。
  2. 前記画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度を算出する算出手段を、更に備え、
    前記判定手段は、前記算出手段により算出されるプライバシー度が所定の判定値より高いか否かを判定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記算出手段は、前記画像に含まれる人物の顔が前記特定の人物の顔であると識別可能な所定の基準状態からの、前記人物の顔或いは当該人物の顔を構成する部位の相対的な変化に基づいて、前記プライバシー度を算出することを特徴とする請求項2に記載の画像処理装置。
  4. 前記算出手段は、前記人物の顔の所定の軸を中心とする回転角度の変化量或いは変化率に基づいて、前記プライバシー度を算出することを特徴とする請求項3に記載の画像処理装置。
  5. 前記所定の基準状態は、前記人物の顔を検出可能で、且つ、当該人物の顔及び視線が所定方向である状態を含むことを特徴とする請求項3又は4に記載の画像処理装置。
  6. 前記算出手段は、当該画像処理装置の前記人物の顔に対する向きの変化量或いは変化率に基づいて、前記プライバシー度を算出することを特徴とする請求項3〜5の何れか一項に記載の画像処理装置。
  7. 前記算出手段は、前記人物の顔或いは当該人物の顔を構成する部位が隠されている比率の変化に基づいて、前記プライバシー度を算出することを特徴とする請求項3〜6の何れか一項に記載の画像処理装置。
  8. 前記算出手段は、前記画像に含まれる人物の顔の大きさ或いは前記人物の顔までの撮像距離の変化に基づいて、前記プライバシー度を算出することを特徴とする請求項3〜7の何れか一項に記載の画像処理装置。
  9. 前記算出手段は、前記画像に含まれる人物の顔或いは前記人物の顔の構成部位を隠す外部の遮蔽物の変化に基づいて、前記プライバシー度を算出することを特徴とする請求項3〜8の何れか一項に記載の画像処理装置。
  10. 前記算出手段は、前記画像に含まれる人物の顔の色の変化に基づいて、前記プライバシー度を算出することを特徴とする請求項3〜9の何れか一項に記載の画像処理装置。
  11. 前記画像は、撮像手段により撮像される画像であって、
    前記算出手段は、前記撮像手段により撮像される画像の前記プライバシー度を算出し、
    前記制御手段は、前記判定手段により前記プライバシー度が所定の判定値より高いと判定された場合に、前記撮像手段に記録用の画像を撮影させる制御を行うことを特徴とする請求項2〜10の何れか一項に記載の画像処理装置。
  12. 前記算出手段は、前記撮像手段により逐次撮像される画像毎に前記プライバシー度を逐次算出し、
    前記判定手段は、前記算出手段により逐次算出される前記プライバシー度が前記所定の判定値よりも高いか否かを逐次判定し、
    前記制御手段は、前記判定手段による判定結果に基づいて、前記プライバシー度が前記所定の判定値以下である状態から前記所定の判定値よりも高い状態に変化したことを契機として、前記記録用の画像を撮影させることを特徴とする請求項11に記載の画像処理装置。
  13. 前記制御手段により撮影させた記録用の画像と前記算出手段により算出された前記プライバシー度とを対応付けて記録する記録手段と、
    前記記録手段に記録されている画像を対応付けられている前記プライバシー度を基準とする分類或いは順序で、表示手段に表示させる表示制御手段とを更に備えることを特徴とする請求項11又は12に記載の画像処理装置。
  14. 前記画像は、記録手段に記録されている画像であって、
    前記算出手段は、前記記録手段に記録されている画像の前記プライバシー度を算出し、
    前記制御手段は、前記判定手段により前記プライバシー度が所定の判定値より高いと判定された画像を、所定の外部装置に送信する画像として取得する制御を行うことを特徴とする請求項2〜10の何れか一項に記載の画像処理装置。
  15. 画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度を算出する算出手段と、
    前記算出手段により算出されるプライバシー度を使用して、画像に係る所定の処理の実行を制御する制御手段と、
    を備えたことを特徴とする画像処理装置。
  16. 前記画像は、撮像手段により撮像される画像であって、
    前記制御手段は、前記算出手段により算出されるプライバシー度を、前記撮像手段により記録用の画像として撮影される画像に対応付けて記録手段に記録する制御を行うことを特徴とする請求項15に記載の画像処理装置。
  17. 画像処理装置を用いた画像処理方法であって、
    画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定する処理と、
    前記プライバシー度が所定の条件を満たすと判定された場合に、画像に係る所定の処理の実行を制御する処理と、
    を含むことを特徴とする画像処理方法。
  18. 画像処理装置を用いた画像処理方法であって、
    画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度を算出する処理と、
    算出されるプライバシー度を使用して、画像に係る所定の処理の実行を制御する処理と、
    を含むことを特徴とする画像処理方法。
  19. 画像処理装置のコンピュータに、
    画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度が所定の条件を満たすか否かを判定する機能と、
    前記プライバシー度が所定の条件を満たすと判定された場合に、画像に係る所定の処理の実行を制御する機能と、
    を実現させることを特徴とするプログラム。
  20. 画像処理装置のコンピュータに、
    画像に含まれる人物の顔が特定の人物の顔であると識別することの困難さの度合いを示すプライバシー度を算出する機能と、
    算出されるプライバシー度を使用して、画像に係る所定の処理の実行を制御する機能と、
    を実現させることを特徴とするプログラム。
JP2016118545A 2015-12-01 2016-06-15 画像処理装置、画像処理方法及びプログラム Active JP6206542B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US15/295,333 US10546185B2 (en) 2015-12-01 2016-10-17 Image processing apparatus for performing image processing according to privacy level
CN201610908844.5A CN107038362B (zh) 2015-12-01 2016-10-18 图像处理装置、图像处理方法及计算机可读取的记录介质

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015234701 2015-12-01
JP2015234701 2015-12-01

Publications (2)

Publication Number Publication Date
JP2017108374A true JP2017108374A (ja) 2017-06-15
JP6206542B2 JP6206542B2 (ja) 2017-10-04

Family

ID=59061085

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016118545A Active JP6206542B2 (ja) 2015-12-01 2016-06-15 画像処理装置、画像処理方法及びプログラム

Country Status (2)

Country Link
JP (1) JP6206542B2 (ja)
CN (1) CN107038362B (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021132798A1 (en) * 2019-12-23 2021-07-01 Samsung Electronics Co., Ltd. Method and apparatus for data anonymization
JP2022501729A (ja) * 2018-12-14 2022-01-06 ワン・コネクト・スマート・テクノロジー・カンパニー・リミテッド・(シェンチェン) 顔写真に基づくリスク認識方法、装置、コンピュータ設備および記憶媒体
CN116206558A (zh) * 2023-05-06 2023-06-02 惠科股份有限公司 显示面板的控制方法及显示装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7030534B2 (ja) 2018-01-16 2022-03-07 キヤノン株式会社 画像処理装置および画像処理方法
JP7075237B2 (ja) * 2018-02-23 2022-05-25 ラピスセミコンダクタ株式会社 操作判定装置及び操作判定方法
CN109035167B (zh) * 2018-07-17 2021-05-18 北京新唐思创教育科技有限公司 对图像中的多个人脸进行处理的方法、装置、设备和介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004062560A (ja) * 2002-07-30 2004-02-26 Omron Corp 顔照合装置および顔照合方法
JP2014067131A (ja) * 2012-09-25 2014-04-17 Zenrin Datacom Co Ltd 画像処理装置、画像処理システム、画像処理方法およびコンピュータプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101140620A (zh) * 2007-10-16 2008-03-12 上海博航信息科技有限公司 一种人脸识别***
BRPI1101789E2 (pt) * 2011-02-14 2015-12-22 Neti Soluções Tecnologicas Ltda sistema de validação para liberação de acesso pessoas por reconhecimento facial biométrico
US8254647B1 (en) * 2012-04-16 2012-08-28 Google Inc. Facial image quality assessment
JP2014153817A (ja) * 2013-02-06 2014-08-25 Toshiba Corp 通行制御装置、その方法、及び、そのプログラム
CN104718742B (zh) * 2013-10-16 2016-12-14 奥林巴斯株式会社 显示装置和显示方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004062560A (ja) * 2002-07-30 2004-02-26 Omron Corp 顔照合装置および顔照合方法
JP2014067131A (ja) * 2012-09-25 2014-04-17 Zenrin Datacom Co Ltd 画像処理装置、画像処理システム、画像処理方法およびコンピュータプログラム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022501729A (ja) * 2018-12-14 2022-01-06 ワン・コネクト・スマート・テクノロジー・カンパニー・リミテッド・(シェンチェン) 顔写真に基づくリスク認識方法、装置、コンピュータ設備および記憶媒体
JP7078803B2 (ja) 2018-12-14 2022-05-31 ワン・コネクト・スマート・テクノロジー・カンパニー・リミテッド・(シェンチェン) 顔写真に基づくリスク認識方法、装置、コンピュータ設備および記憶媒体
WO2021132798A1 (en) * 2019-12-23 2021-07-01 Samsung Electronics Co., Ltd. Method and apparatus for data anonymization
US11430088B2 (en) 2019-12-23 2022-08-30 Samsung Electronics Co., Ltd. Method and apparatus for data anonymization
CN116206558A (zh) * 2023-05-06 2023-06-02 惠科股份有限公司 显示面板的控制方法及显示装置
CN116206558B (zh) * 2023-05-06 2023-08-04 惠科股份有限公司 显示面板的控制方法及显示装置

Also Published As

Publication number Publication date
JP6206542B2 (ja) 2017-10-04
CN107038362A (zh) 2017-08-11
CN107038362B (zh) 2020-11-17

Similar Documents

Publication Publication Date Title
JP6206542B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7371081B2 (ja) 夜景撮影方法、装置、電子機器および記憶媒体
US10546185B2 (en) Image processing apparatus for performing image processing according to privacy level
US9712751B2 (en) Camera field of view effects based on device orientation and scene content
JP5409189B2 (ja) 撮像装置及びその制御方法
JP5136669B2 (ja) 画像処理装置、画像処理方法及びプログラム
TWI425826B (zh) 影像選擇裝置、影像選擇方法
CN106688227B (zh) 多摄像装置、多摄像方法
US9264651B2 (en) Moving image reproducing apparatus capable of adjusting display position of indicator for motion analysis based on displacement information of frames, and moving image reproducing method and recording medium for same
US9779290B2 (en) Detecting apparatus, detecting method and computer readable recording medium recording program for detecting state in predetermined area within images
JP2010206685A (ja) 画像処理装置及びプログラム
JP2010258552A (ja) 撮像装置、撮像方法及びプログラム
US20150189142A1 (en) Electronic apparatus and method of capturing moving subject by using the same
CN105493493A (zh) 摄像装置、摄像方法及图像处理装置
JP5966778B2 (ja) 撮像装置、撮像方法及びプログラム
US20160050357A1 (en) Imaging device shooting a common subject in synchronization with other imaging devices
KR102022892B1 (ko) 카메라를 구비한 휴대 단말기의 영상 처리 장치 및 방법
US20160292842A1 (en) Method and Apparatus for Enhanced Digital Imaging
JP2015012481A (ja) 画像処理装置
US10401174B2 (en) Posture estimating apparatus for estimating posture, posture estimating method and recording medium
CN106257906B (zh) 图像效果处理辅助装置和图像效果处理辅助方法
JP5370555B2 (ja) 撮像装置、撮像方法及びプログラム
JP2017175589A (ja) 撮像装置、撮像方法及びプログラム
US11516402B1 (en) Realtime image analysis and feedback
JP2013062711A (ja) 撮影装置、撮影画像処理方法、およびプログラム

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20170531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170821

R150 Certificate of patent or registration of utility model

Ref document number: 6206542

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150