JP4699139B2 - セキュリティシステム - Google Patents

セキュリティシステム Download PDF

Info

Publication number
JP4699139B2
JP4699139B2 JP2005247682A JP2005247682A JP4699139B2 JP 4699139 B2 JP4699139 B2 JP 4699139B2 JP 2005247682 A JP2005247682 A JP 2005247682A JP 2005247682 A JP2005247682 A JP 2005247682A JP 4699139 B2 JP4699139 B2 JP 4699139B2
Authority
JP
Japan
Prior art keywords
user
image
face
biometric information
authentication
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005247682A
Other languages
English (en)
Other versions
JP2006114018A (ja
Inventor
泰治 岩嵜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2005247682A priority Critical patent/JP4699139B2/ja
Priority to US11/225,040 priority patent/US20060056664A1/en
Publication of JP2006114018A publication Critical patent/JP2006114018A/ja
Application granted granted Critical
Publication of JP4699139B2 publication Critical patent/JP4699139B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/40Spoof detection, e.g. liveness detection
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C9/00Individual registration on entry or exit
    • G07C9/30Individual registration on entry or exit not involving the use of a pass
    • G07C9/32Individual registration on entry or exit not involving the use of a pass in combination with an identity check
    • G07C9/37Individual registration on entry or exit not involving the use of a pass in combination with an identity check using biometric data, e.g. fingerprints, iris scans or voice recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Geometry (AREA)
  • General Health & Medical Sciences (AREA)
  • Collating Specific Patterns (AREA)
  • Image Processing (AREA)

Description

本発明はセキュリティシステム、具体的には、使用資格のある使用者にのみ機器の使用を許可すると共に、使用資格のある使用者の不本意による機器の使用禁止を防ぐことができるセキュリティシステムに関するものである。
従来、指紋、静脈、虹彩、顔画像などの使用者の生体情報を用いて認証を行い、認証が成功した使用者に対してのみ機器の使用を許可するシステムは様々な分野で利用されている。例えば、パーソナルコンピュータ(以下PCという)を使用するのに当たって、まず使用しようとする使用者の生体情報を取得し、取得された生体情報と、予めデータベースなどに登録された、使用資格のある使用者の生体情報とを照合し、照合の結果、両者が一致する場合にコンピュータの使用を許可するシステムが利用されている。また、携帯電話器のなどの携帯機器に対しても、同じように上述した認証を行い、認証が成功した使用者のみがその携帯機器が使えるようにするシステムも利用されている。
これらのシステムの殆どは、使用開始時にのみ認証を行うものである。すなわち、一旦認証が成功すれば、機器の使用が終了するまで使用者の認証を行わないようになっている。そのため、コンピュータを使用する資格のある使用者が使用の途中で席を外したときや、携帯機器の使用中に他の人に奪われときなどの場合において、使用資格の無い人でもこれらの機器を不正使用することができてしまい、セキュリティ性が高くないという問題がある。
特許文献1は、携帯機器に対してこの問題を解決するシステムを提案している。特許文献1記載のシステムは、使用者の心拍や、脈拍や、顔貌などを検出するセンサを用いて、使用資格のある使用者に携帯機器の使用を許可した後に、該使用者が携帯機器を継続的に使用しているか否かを継続的に監視すると共に、該使用者が携帯機器を継続的に使用してないことを検出した際に、携帯機器の使用を禁止するように動作するものである。このようなシステムによって、上述したような、使用中に席を外したときや、携帯機器が他人に奪われたときなどの場合においても、機器の不正使用を防ぐことができ、従来のセキュリティシステムより高いセキュリティ性を実現することができる。
特開2003−58269号公報
しかしながら、特許文献1記載のシステムでは、使用資格のある使用者が携帯機器を継続的に使用していないことを検出すれば、直ちに携帯機器の使用を禁止するように動作するものである。例えば、使用者の顔画像を継続的に取得して、該使用者が継続的に使用していない(顔画像を取得することができない)場合、直ちに携帯機器が使用禁止(ロック)される。そのため、使用者が使用途中で、俯いて物を探したり、隣の人と話すために顔を横に向いたりするなどの場合において、一時的に使用者の顔画像を取得することができなくなってしまうため、機器がロックされてしまい、使用者が引き続き使用するためには、再度ロックを解除するための認証手続きを行う必要があるため、不便である。
本発明は、上記事情に鑑み、セキュリティ性を保つと共に、使用者の不本意により、機器の使用が禁止されることを防ぐことのできるセキュリティシステムを提供することを目的とするものである。
本発明のセキュリティシステムは、機器を使用する資格のある使用者により前記機器を使用する際に、継続的に前記使用者の生体情報を取得する生体情報取得手段と、
該生体情報取得手段により取得された前記生体情報と、予め登録された、前記資格のある使用者の生体情報とを継続的に照合する照合手段と、
該照合手段による前記照合が失敗した際、前記機器の引き続きの使用を禁止する制御手段とを有してなるセキュリティシステムにおいて、
前記生体情報取得手段による前記使用者の生体情報の取得が失敗した際に、前記使用者に警告を行う警告手段をさらに備え、
前記生体情報取得手段が、前記生体情報の取得の失敗後も前記使用者の生体情報の取得を継続的に行うものであり、
前記制御手段が、前記生体情報取得手段により前記生体情報の取得の失敗から所定の時間までに前記使用者の生体情報が取得できなかったとき、前記機器の使用を禁止するものであることを特徴とするものである。
ここで、本発明において、「予め登録された」使用者の生体情報とは、前記照合を行う前に既に存在する、資格のある使用者の生体情報を示すものであり、データベースなどに登録されたものであってもよいし、例えば、使用資格のある者の生体情報を記憶したIDカードから、該IDカードから生体情報を読み出して、生体情報取得手段により取得された生体情報とを照合するシステムにおいては、照合の前にIDカードから読み出された生体情報も、本発明における「予め登録された生体情報」に該当する。
また、前記警告手段は、聴覚的に、および/または視覚的に、および/または触覚的に前記警告を行うものとすることができる。ここで、「聴覚的に」警告を行うこととは、音声を発して使用者に気付かせることを意味し、スピーカを介して警告音や、アナウンスなどを行うことを例として挙げることができる。「視覚的に」警告を行うこととは、使用者が目視によって警告に気付くことができることを意味し、コンピュータや、携帯電話機などの表示画面(モニタ)表示画面に文字を表示させたり、特定のライトを点滅させたりすることを例として挙げることができる。「触覚的に」警告を行うこととは、使用者が手など体の一部分が接触することによって警告に気付くことができることを意味し、例えばバイブレータによる震動などを例として挙げることができる。
本発明のセキュリティシステムにおいて、前記警告手段は、機器の使用を禁止するまでの前記所定の時間をも使用者に知らせるものであることが好ましく、例えば、聴覚的に警告を行う警告手段の場合、「後○○秒でコンピュータがロックします」旨のように警告を行うことが望ましい。
本発明のセキュリティシステムにおいて、前記生体情報は、指紋、静脈、虹彩など、認証に用いることができる如何なる生体情報であってもよいが、取得および取得装置(生体情報取得手段)の実装の便利さから、使用者の顔画像を用いることが好ましく、この場合、前記生体情報取得手段は、撮像手段となる。
本発明のセキュリティシステムにおいて、前記生体情報取得手段は、撮像手段と、指紋読取手段、静脈読取手段および虹彩読取手段のうち少なくとも1つの所定の手段であり、
前記生体情報の取得の失敗前に取得される生体情報は、前記撮像手段により撮像された前記使用者の顔画像であり、前記生体情報の取得の失敗から前記所定の時間までに取得される生体情報は、前記所定の手段により読み取られた前記使用者の指紋情報、静脈情報および虹彩情報のうち少なくとも1つの情報であってもよい。
本発明のセキュリティシステムにおいて、前記制御手段は、前記機器の使用を禁止する際にそれ以降の前記機器の使用における前記所定の時間を延長または短縮することを予め設定するものであってもよい。
本発明は、機器を使用する資格のある使用者により前記機器を使用する際に、継続的に前記使用者の生体情報を取得し、取得された生体情報と、予め登録された、使用する資格のある使用者の生体情報とを継続的に照合すると共に、照合が失敗した際、機器の引き続きの使用を禁止するセキュリティシステムにおいて、生体情報取得手段により使用者の生体情報の取得が失敗した際に、直ちに機器の使用を禁止する代わりに、生体情報の取得が失敗した後でも、使用者の生体情報の取得を継続し、所定の時間までに使用者の生体情報が取得できなかったときにはじめて機器の使用を禁止する。こうすることによって、例えば生体情報として使用者の顔画像を用いる場合、使用者が使用途中で、俯いて物を探したり、隣の人と話すために顔を横に向いたりしたなどのことによって、使用者の顔が一時的に検出できなかったとしても、所定の時間内に使用者が顔を戻せば、使用者の不本意による機器の使用が禁止され、使用を再開するために時間がかかってしまうなどのことを避けることができ、セキュリティ性を保つと共に、便利である。また、生体情報の取得が失敗した際に、警告を行うようにしているので、使用者が他のことに夢中になったとしても気付かせることができ、所定の時間内に顔を戻すなどのことを促すことができる。
以下、図面を参照して、本発明の実施形態について説明する。
図1は、本発明のセキュリティシステムの実施形態となるコンピュータの構成を示すブロック図である。なお、本発明の主旨を分かり易くするために、本発明のセキュリティシステムに関わる部分のみを説明し、コンピュータの他の基本的な構成については、ここで説明および図示を省略する。また、本実施形態のコンピュータは、補助記憶装置に読み込まれたプログラムと、コンピュータのCPUなどのハードウェアや、OS(オペレーシングシステム)などのソフトウェアとの協働によって、本発明のセキュリティシステムを実現するものである。
図示のように、本実施形態のコンピュータは、ユーザがコンピュータを使用開始(ログイン)時および使用中にコンピュータの前のユーザを撮像し続けるビデオカメラ20と、コンピュータを使用する資格のある者の顔画像を記憶したデータベースDB30と、ログイン時、および使用中において、ビデオカメラ20により取得された画像とDB30に記憶された顔画像とを照合して認証を行う認証部10と、ユーザが種々の入力を行うための入力部40と、後述する制御部60の制御に従って音声および画面表示により警告を行う警告部50と、前述した各構成を制御する制御部60とを備える。
入力部40は、ユーザが種々の入力、例えばログインを要求するための入力や、ログインした後の使用中の各種入力や、ログアウトのための入力などを行うためのものである。
DB30には、該コンピュータを使用する資格のあるユーザの顔画像(以下登録画像という)を記憶している。なお、この登録画像は、登録時に撮像して得た顔画像に対して何ら処理も施してないものであってもよいが、撮像して得た顔画像に対して、特徴量を抽出したり、ワイヤーフレーム化したりなどの認証用のモデリング処理を施して得たものであることが好ましい。また、登録画像が、何らモデリング処理も施されていない場合には、認証部10は、登録画像と生画像とをそのまま用いて認証を行ってもよいが、認証精度を高めるために、登録画像と生画像とに対して、夫々認証用のモデリング処理を施してから照合を行うようにすることが好ましい。なお、本実施形態においては、照合の精度を高めると共に、処理時間を短縮するために、DB30には、モデリング処理を施した登録画像が記憶されており、認証部10は、ビデオカメラ20により取得された顔画像(以下生画像という)に対してモデリング処理を施して認証に用いるようにするものである。
ビデオカメラ20は、ユーザがログインする際、およびログイン成功してから使用終了(ログアウトまたは強制終了)まで、コンピュータの前のユーザを動画形式で撮像し続けて、認証部10に供するものである。
なお、登録用の生体情報としては、顔画像に加え、もしくは、顔画像に代えて、指紋情報、静脈情報、虹彩情報等を用いることもできる。この場合、指紋読取機、静脈読取機、虹彩読取機等を用意し、これらの読取機で読み取られた生体情報を認証部10に供するようにする。
認証部10は、ビデオカメラ20により取得された生画像と、DB30に記憶された登録画像とを照合することによって認証を行うものであり、図2は、その構成を示すブロック図である。図示のように、認証部10は、ビデオカメラ20により取得された生画像から顔を検出する顔検出部1と、顔検出部1により検出された顔部分の画像と、DB30に記憶された登録画像とを用いて照合を行う照合部8をからなる。なお、DB30に記憶された登録画像は、照合用のモデリング処理が施されたものであり、照合部8は、生画像の顔部分の画像に対して同じモデリング処理を施してから照合を行うものであるが、以下の説明において、単に顔部分の画像と登録画像とを用いて照合するという。
図3は、顔検出部1の構成を示すブロック図である。なお、顔検出部1は、ビデオカメラ20により得られた動画から切り出したフレーム画像(以下写真画像S0という)から顔を検出するものである。図示のように、顔検出部1は、写真画像S0から特徴量C0を算出する特徴量算出部2と、後述する第1および第2の参照データE1,E2が格納されている第2の記憶部4と、特徴量算出部2が算出した特徴量C0と第2の記憶部4内の第1の参照データE1とに基づいて、写真画像S0に人物の顔が含まれているか否かを識別する第1の識別部5と、第1の識別部5により写真画像S0に顔が含まれていると識別された場合に、特徴量算出部2が算出した顔の画像内の特徴量C0と第2の記憶部4内の第2の参照データE2とに基づいて、その顔に含まれる目の位置を識別する第2の識別部6と、並びに第1の出力部7とを備えてなる。
なお、顔検出部1により識別される目の位置とは、顔における目尻から目頭の間の中心位置(図4中×で示す)であり、図4(a)に示すように真正面を向いた目の場合においては瞳の中心位置と同様であるが、図4(b)に示すように右を向いた目の場合は瞳の中心位置ではなく、瞳の中心から外れた位置または白目部分に位置する。
特徴量算出部2は、顔の識別に用いる特徴量C0を写真画像S0から算出する。また、写真画像S0に顔が含まれると識別された場合には、後述するように抽出された顔の画像から同様の特徴量C0を算出する。具体的には、勾配ベクトル(すなわち写真画像S0上および顔画像上の各画素における濃度が変化する方向および変化の大きさ)を特徴量C0として算出する。以下、勾配ベクトルの算出について説明する。まず、特徴量算出部2は、写真画像S0に対して図5(a)に示す水平方向のエッジ検出フィルタによるフィルタリング処理を施して写真画像S0における水平方向のエッジを検出する。また、特徴量算出部2は、写真画像S0に対して図5(b)に示す垂直方向のエッジ検出フィルタによるフィルタリング処理を施して写真画像S0における垂直方向のエッジを検出する。そして、写真画像S0上の各画素における水平方向のエッジの大きさHおよび垂直方向のエッジの大きさVとから、図6に示すように、各画素における勾配ベクトルKを算出する。また、顔画像についても同様に勾配ベクトルKを算出する。なお、特徴量算出部2は、後述するように写真画像S0および顔画像の変形の各段階において特徴量C0を算出する。
なお、このようにして算出された勾配ベクトルKは、図7(a)に示すような人物の顔の場合、図7(b)に示すように、目および口のように暗い部分においては目および口の中央を向き、鼻のように明るい部分においては鼻の位置から外側を向くものとなる。また、口よりも目の方が濃度の変化が大きいため、勾配ベクトルKは口よりも目の方が大きくなる。
そして、この勾配ベクトルKの方向および大きさを特徴量C0とする。なお、勾配ベクトルKの方向は、勾配ベクトルKの所定方向(例えば図6におけるx方向)を基準とした0から359度の値となる。
ここで、勾配ベクトルKの大きさは正規化される。この正規化は、写真画像S0の全画素における勾配ベクトルKの大きさのヒストグラムを求め、その大きさの分布が写真画像S0の各画素が取り得る値(8ビットであれば0〜255)に均一に分布されるようにヒストグラムを平滑化して勾配ベクトルKの大きさを修正することにより行う。例えば、勾配ベクトルKの大きさが小さく、図8(a)に示すように勾配ベクトルKの大きさが小さい側に偏ってヒストグラムが分布している場合には、大きさが0〜255の全領域に亘るものとなるように勾配ベクトルKの大きさを正規化して図8(b)に示すようにヒストグラムが分布するようにする。なお、演算量を低減するために、図8(c)に示すように、勾配ベクトルKのヒストグラムにおける分布範囲を例えば5分割し、5分割された頻度分布が図8(d)に示すように0〜255の値を5分割した範囲に亘るものとなるように正規化することが好ましい。
第2の記憶部4内に格納されている第1および第2の参照データE1,E2は、後述するサンプル画像から選択された複数画素の組み合わせからなる複数種類の画素群のそれぞれについて、各画素群を構成する各画素における特徴量C0の組み合わせに対する識別条件を規定したものである。
第1および第2の参照データE1,E2中の、各画素群を構成する各画素における特徴量C0の組み合わせおよび識別条件は、顔であることが分かっている複数のサンプル画像と顔でないことが分かっている複数のサンプル画像とからなるサンプル画像群の学習により、あらかじめ決められたものである。
なお、本実施形態においては、第1の参照データE1を生成する際には、顔であることが分かっているサンプル画像として、30×30画素サイズを有し、図9に示すように、1つの顔の画像について両目の中心間の距離が10画素、9画素および11画素であり、両目の中心間距離において垂直に立った顔を平面上±15度の範囲において3度単位で段階的に回転させた(すなわち、回転角度が−15度,−12度,−9度,−6度,−3度,0度,3度,6度,9度,12度,15度)サンプル画像を用いるものとする。したがって、1つの顔の画像につきサンプル画像は3×11=33通り用意される。なお、図9においては−15度、0度および+15度に回転させたサンプル画像のみを示す。また、回転の中心はサンプル画像の対角線の交点である。ここで、両目の中心間の距離が10画素のサンプル画像であれば、目の中心位置はすべて同一となっている。この目の中心位置をサンプル画像の左上隅を原点とする座標上において(x1,y1)、(x2,y2)とする。また、図面上上下方向における目の位置(すなわちy1,y2)はすべてのサンプル画像において同一である。
また、第2の参照データE2を生成する際には、顔であることが分かっているサンプル画像として、30×30画素サイズを有し、図10に示すように、1つの顔の画像について両目の中心間の距離が10画素、9.7画素および10.3画素であり、各両目の中心間距離において垂直に立った顔を平面上±3度の範囲において1度単位で段階的に回転させた(すなわち、回転角度が−3度,−2度,−1度,0度,1度,2度,3度)サンプル画像を用いるものとする。したがって、1つの顔の画像につきサンプル画像は3×7=21通り用意される。なお、図10においては−3度、0度および+3度に回転させたサンプル画像のみを示す。また、回転の中心はサンプル画像の対角線の交点である。ここで、図面上上下方向における目の位置はすべてのサンプル画像において同一である。なお、両目の中心間の距離を9.7画素および10.3画素とするためには、両目の中心間の距離が10画素のサンプル画像を9.7倍あるいは10.3倍に拡大縮小して、拡大縮小後のサンプル画像のサイズを30×30画素とすればよい。
そして、第2の参照データE2の学習に用いられるサンプル画像における目の中心位置を、本実施形態において識別する目の位置とする。
また、顔でないことが分かっているサンプル画像としては、30×30画素サイズを有する任意の画像を用いるものとする。
ここで、顔であることが分かっているサンプル画像として、両目の中心間距離が10画素であり、平面上の回転角度が0度(すなわち顔が垂直な状態)のもののみを用いて学習を行った場合、第1および第2の参照データE1,E2を参照して顔または目の位置であると識別されるのは、両目の中心間距離が10画素で全く回転していない顔のみである。写真画像S0に含まれる可能性がある顔のサイズは一定ではないため、顔が含まれるか否かあるいは目の位置を識別する際には、後述するように写真画像S0を拡大縮小して、サンプル画像のサイズに適合するサイズの顔および目の位置を識別できるようにしている。しかしながら、両目の中心間距離を正確に10画素とするためには、写真画像S0のサイズを拡大率として例えば1.1単位で段階的に拡大縮小しつつ識別を行う必要があるため、演算量が膨大なものとなる。
また、写真画像S0に含まれる可能性がある顔は、図11(a)に示すように平面上の回転角度が0度のみではなく、図11(b)、(c)に示すように回転している場合もある。しかしながら、両目の中心間距離が10画素であり、顔の回転角度が0度のサンプル画像のみを使用して学習を行った場合、顔であるにも拘わらず、図11(b)、(c)に示すように回転した顔については識別を行うことができなくなってしまう。
このため、本実施形態においては、顔であることが分かっているサンプル画像として、図9に示すように両目の中心間距離が9,10,11画素であり、各距離において平面上±15度の範囲にて3度単位で段階的に顔を回転させたサンプル画像を用いて、第1の参照データE1の学習に許容度を持たせるようにしたものである。これにより、後述する第1の識別部5において識別を行う際には、写真画像S0を拡大率として11/9単位で段階的に拡大縮小すればよいため、写真画像S0のサイズを例えば拡大率として例えば1.1単位で段階的に拡大縮小する場合と比較して、演算時間を低減できる。また、図11(b)、(c)に示すように回転している顔も識別することができる。
一方、第2の参照データE2の学習には、図10に示すように両目の中心間距離が9.7,10,10.3画素であり、各距離において平面上±3度の範囲にて1度単位で段階的に顔を回転させたサンプル画像を用いているため、第1の参照データE1と比較して学習の許容度は小さい。また、後述する第2の識別部6において識別を行う際には、写真画像S0を拡大率として10.3/9.7単位で拡大縮小する必要があるため、第1の識別部5において行われる識別よりも演算に長時間を要する。しかしながら、第2の識別部6において識別を行うのは第1の識別部5が識別した顔内の画像のみであるため、写真画像S0の全体を用いる場合と比較して目の位置の識別を行うための演算量を低減することができる。
以下、図11のフローチャートを参照しながらサンプル画像群の学習手法の一例を説明する。なお、ここでは第1の参照データE1の学習について説明する。
学習の対象となるサンプル画像群は、顔であることが分かっている複数のサンプル画像と、顔でないことが分かっている複数のサンプル画像とからなる。なお、顔であることが分かっているサンプル画像は、上述したように1つのサンプル画像につき両目の中心位置が9,10,11画素であり、各距離において平面上±15度の範囲にて3度単位で段階的に顔を回転させたものを用いる。各サンプル画像には、重みすなわち重要度が割り当てられる。まず、すべてのサンプル画像の重みの初期値が等しく1に設定される(S1)。
次に、サンプル画像における複数種類の画素群のそれぞれについて識別器が作成される(S2)。ここで、それぞれの識別器とは、1つの画素群を構成する各画素における特徴量C0の組み合わせを用いて、顔の画像と顔でない画像とを識別する基準を提供するものである。本実施形態においては、1つの画素群を構成する各画素における特徴量C0の組み合わせについてのヒストグラムを識別器として使用する。
図13を参照しながらある識別器の作成について説明する。図13の左側のサンプル画像に示すように、この識別器を作成するための画素群を構成する各画素は、顔であることが分かっている複数のサンプル画像上における、右目の中心にある画素P1、右側の頬の部分にある画素P2、額の部分にある画素P3および左側の頬の部分にある画素P4である。そして顔であることが分かっているすべてのサンプル画像について全画素P1〜P4における特徴量C0の組み合わせが求められ、そのヒストグラムが作成される。ここで、特徴量C0は勾配ベクトルKの方向および大きさを表すが、勾配ベクトルKの方向は0〜359の360通り、勾配ベクトルKの大きさは0〜255の256通りあるため、これをそのまま用いたのでは、組み合わせの数は1画素につき360×256通りの4画素分、すなわち(360×256)4通りとなってしまい、学習および検出のために多大なサンプルの数、時間およびメモリを要することとなる。このため、本実施形態においては、勾配ベクトルの方向を0〜359を0〜44と315〜359(右方向、値:0),45〜134(上方向値:1),135〜224(左方向、値:2),225〜314(下方向、値3)に4値化し、勾配ベクトルの大きさを3値化(値:0〜2)する。そして、以下の式を用いて組み合わせの値を算出する。
組み合わせの値=0(勾配ベクトルの大きさ=0の場合)
組み合わせの値=((勾配ベクトルの方向+1)×勾配ベクトルの大きさ(勾配ベクトルの大きさ>0の場合)
これにより、組み合わせ数が94通りとなるため、特徴量C0のデータ数を低減できる。
同様に、顔でないことが分かっている複数のサンプル画像についても、ヒストグラムが作成される。なお、顔でないことが分かっているサンプル画像については、顔であることが分かっているサンプル画像上における上記画素P1〜P4の位置に対応する画素が用いられる。これらの2つのヒストグラムが示す頻度値の比の対数値を取ってヒストグラムで表したものが、図13の一番右側に示す、識別器として用いられるヒストグラムである。この識別器のヒストグラムが示す各縦軸の値を、以下、識別ポイントと称する。この識別器によれば、正の識別ポイントに対応する特徴量C0の分布を示す画像は顔である可能性が高く、識別ポイントの絶対値が大きいほどその可能性は高まると言える。逆に、負の識別ポイントに対応する特徴量C0の分布を示す画像は顔でない可能性が高く、やはり識別ポイントの絶対値が大きいほどその可能性は高まる。ステップS2では、識別に使用され得る複数種類の画素群を構成する各画素における特徴量C0の組み合わせについて、上記のヒストグラム形式の複数の識別器が作成される。
続いて、ステップS2で作成した複数の識別器のうち、画像が顔であるか否かを識別するのに最も有効な識別器が選択される。最も有効な識別器の選択は、各サンプル画像の重みを考慮して行われる。この例では、各識別器の重み付き正答率が比較され、最も高い重み付き正答率を示す識別器が選択される(S3)。すなわち、最初のステップS3では、各サンプル画像の重みは等しく1であるので、単純にその識別器によって画像が顔であるか否かが正しく識別されるサンプル画像の数が最も多いものが、最も有効な識別器として選択される。一方、後述するステップS5において各サンプル画像の重みが更新された後の2回目のステップS3では、重みが1のサンプル画像、重みが1よりも大きいサンプル画像、および重みが1よりも小さいサンプル画像が混在しており、重みが1よりも大きいサンプル画像は、正答率の評価において、重みが1のサンプル画像よりも重みが大きい分多くカウントされる。これにより、2回目以降のステップS3では、重みが小さいサンプル画像よりも、重みが大きいサンプル画像が正しく識別されることに、より重点が置かれる。
次に、それまでに選択した識別器の組み合わせの正答率、すなわち、それまでに選択した識別器を組み合わせて使用して各サンプル画像が顔の画像であるか否かを識別した結果が、実際に顔の画像であるか否かの答えと一致する率が、所定の閾値を超えたか否かが確かめられる(S4)。ここで、組み合わせの正答率の評価に用いられるのは、現在の重みが付けられたサンプル画像群でも、重みが等しくされたサンプル画像群でもよい。所定の閾値を超えた場合は、それまでに選択した識別器を用いれば画像が顔であるか否かを十分に高い確率で識別できるため、学習は終了する。所定の閾値以下である場合は、それまでに選択した識別器と組み合わせて用いるための追加の識別器を選択するために、ステップS6へと進む。
ステップS6では、直近のステップS3で選択された識別器が再び選択されないようにするため、その識別器が除外される。
次に、直近のステップS3で選択された識別器では顔であるか否かを正しく識別できなかったサンプル画像の重みが大きくされ、画像が顔であるか否かを正しく識別できたサンプル画像の重みが小さくされる(S5)。このように重みを大小させる理由は、次の識別器の選択において、既に選択された識別器では正しく識別できなかった画像を重要視し、それらの画像が顔であるか否かを正しく識別できる識別器が選択されるようにして、識別器の組み合わせの効果を高めるためである。
続いて、ステップS3へと戻り、上記したように重み付き正答率を基準にして次に有効な識別器が選択される。
以上のステップS3からS6を繰り返して、顔が含まれるか否かを識別するのに適した識別器として、特定の画素群を構成する各画素における特徴量C0の組み合わせに対応する識別器が選択されたところで、ステップS4で確認される正答率が閾値を超えたとすると、顔が含まれるか否かの識別に用いる識別器の種類と識別条件とが確定され(S7)、これにより第1の参照データE1の学習を終了する。
そして、上記と同様に識別器の種類と識別条件とを求めることにより第2の参照データE2の学習がなされる。
なお、上記の学習手法を採用する場合において、識別器は、特定の画素群を構成する各画素における特徴量C0の組み合わせを用いて顔の画像と顔でない画像とを識別する基準を提供するものであれば、上記のヒストグラムの形式のものに限られずいかなるものであってもよく、例えば2値データ、閾値または関数等であってもよい。また、同じヒストグラムの形式であっても、図13の中央に示した2つのヒストグラムの差分値の分布を示すヒストグラム等を用いてもよい。
また、学習の方法としては上記手法に限定されるものではなく、ニューラルネットワーク等他のマシンラーニングの手法を用いることができる。
第1の識別部5は、複数種類の画素群を構成する各画素における特徴量C0の組み合わせのすべてについて第1の参照データE1が学習した識別条件を参照して、各々の画素群を構成する各画素における特徴量C0の組み合わせについての識別ポイントを求め、すべての識別ポイントを総合して写真画像S0に顔が含まれるか否かを識別する。この際、特徴量C0である勾配ベクトルKの方向は4値化され大きさは3値化される。本実施形態では、すべての識別ポイントを加算して、その加算値の正負によって識別を行うものとする。例えば、識別ポイントの総和が正の値である場合には写真画像S0には顔が含まれると判断し、負の値である場合には顔は含まれないと判断する。なお、第1の識別部5が行う写真画像S0に顔が含まれるか否かの識別を第1の識別と称する。
ここで、写真画像S0のサイズは30×30画素のサンプル画像とは異なり、各種サイズを有するものとなっている。また、顔が含まれる場合、平面上における顔の回転角度が0度であるとは限らない。このため、第1の識別部5は、図14に示すように、写真画像S0を縦または横のサイズが30画素となるまで段階的に拡大縮小するとともに平面上で段階的に360度回転させつつ(図14においては縮小する状態を示す)、各段階において拡大縮小された写真画像S0上に30×30画素サイズのマスクMを設定し、マスクMを拡大縮小された写真画像S0上において1画素ずつ移動させながら、マスク内の画像が顔の画像であるか否かの識別を行うことにより、写真画像S0に顔が含まれるか否かを識別する。
なお、第1参照データE1の生成時に学習したサンプル画像として両目の中心位置の画素数が9,10,11画素のものを使用しているため、写真画像S0の拡大縮小時の拡大率は11/9とすればよい。また、第1および第2の参照データE1,E2の生成時に学習したサンプル画像として、顔が平面上で±15度の範囲において回転させたものを使用しているため、写真画像S0は30度単位で360度回転させればよい。
なお、特徴量算出部2は、写真画像S0の拡大縮小および回転という変形の各段階において特徴量C0を算出する。
そして、写真画像S0に顔が含まれるか否かの識別を拡大縮小および回転の全段階の写真画像S0について行い、一度でも顔が含まれると識別された場合には、写真画像S0には顔が含まれると識別し、顔が含まれると識別された段階におけるサイズおよび回転角度の写真画像S0から、識別されたマスクMの位置に対応する30×30画素の領域を顔の画像として抽出する。
第2の識別部6は、第1の識別部5が抽出した顔の画像上において、複数種類の画素群を構成する各画素における特徴量C0の組み合わせのすべてについて第2の参照データE2が学習した識別条件を参照して、各々の画素群を構成する各画素における特徴量C0の組み合わせについての識別ポイントを求め、すべての識別ポイントを総合して顔に含まれる目の位置を識別する。この際、特徴量C0である勾配ベクトルKの方向は4値化され大きさは3値化される。
ここで、第2の識別部6は、第1の識別部5が抽出した顔画像のサイズを段階的に拡大縮小するとともに平面上で段階的に360度回転させつつ、各段階において拡大縮小された顔画像上に30×30画素サイズのマスクMを設定し、マスクMを拡大縮小された顔上において1画素ずつ移動させながら、マスク内の画像における目の位置の識別を行う。
なお、第2参照データE2の生成時に学習したサンプル画像として両目の中心位置の画素数が9.07,10,10.3画素のものを使用しているため、顔画像の拡大縮小時の拡大率は10.3/9.7とすればよい。また、第2の参照データE2の生成時に学習したサンプル画像として、顔が平面上で±3度の範囲において回転させたものを使用しているため、顔画像は6度単位で360度回転させればよい。
なお、特徴量算出部2は、顔画像の拡大縮小および回転という変形の各段階において特徴量C0を算出する。
そして、本実施形態では、抽出された顔画像の変形の全段階においてすべての識別ポイントを加算し、加算値が最も大きい変形の段階における30×30画素のマスクM内の顔画像において、左上隅を原点とする座標を設定し、サンプル画像における目の位置の座標(x1,y1)、(x2,y2)に対応する位置を求め、変形前の写真画像S0におけるこの位置に対応する位置を目の位置と識別する。
第1の出力部7は、第1の識別部5が写真画像S0に顔が含まれると認識した場合には、第2の識別部6が識別した両目の位置から両目間の距離を求め、両目の位置および両目間の距離を用いて、両目間の中心点を中心とした顔の左右端部間の長さ、両目間の中心点から頭頂部までの距離、両目間の中心点から顎の先端までの距離を推定するようにして顔の外接枠を決め、外接枠内の画像を切り出して照合用の顔画像として照合部8に出力する。
図15は本実施形態における顔検出部1の動作を示すフローチャートである。写真画像S0に対して、まず、特徴量算出部2が写真画像S0の拡大縮小および回転の各段階において、写真画像S0の勾配ベクトルKの方向および大きさを特徴量C0として算出する(S12)。そして、第1の識別部5が第2の記憶部4から第1の参照データE1を読み出し(S13)、写真画像S0に顔が含まれるか否かの第1の識別を行う(S14)。
第1の識別部5は、写真画像S0に顔が含まれると判別する(S14:Yes)と、写真画像S0から顔を抽出する(S15)。ここでは、1つの顔に限らず複数の顔を抽出してもよい。次いで、特徴量算出部2が顔画像の拡大縮小および回転の各段階において、顔画像の勾配ベクトルKの方向および大きさを特徴量C0として算出する(S16)。そして、第2の識別部6が第2の記憶部4から第2の参照データE2を読み出し(S17)、顔に含まれる目の位置を識別する第2の識別を行う(S18)。
続いて、第1の出力部7が写真画像S0から識別された目の位置および、この目の位置に基づいて求められた両目の中心点間の距離を用いて、顔の外接枠を推定すると共に、外接枠内の画像を切り出して照合用の顔画像として照合部8に出力する(S19)。
一方、ステップS14において、写真画像S0に顔が含まれていないと判別される(S14:No)と、顔検出部1は、顔が検出されなかったことを示す情報を制御部60に通知し(S20)、写真画像S0に対する処理を終了する。
警告部50は、制御部60の制御に従って警告を行うものであり、図16は、その構成を示すブロック図である。図示のように、警告部50は、モニタ54とスピーカ58とを備え、制御部60からの警告指示(その詳細について後述する)に応じて、警告を行うものである。具体的には、スピーカ58は、制御部60から警告指示を受信すれば、「10秒後にコンピュータをロックします」旨のアナウンスをし、モニタ54は、制御部60から警告終了指示を受信するまで、画面に「まもなくコンピュータをロックします」旨の警告メッセージを表示し続けるように動作する。
制御部60は、図1に示す各構成の動作を制御するものであり、以下、図17、18に示すフローチャートを参照しながら、制御部60の制御動作および制御部60の制御に応じた他の構成の動作を説明する。
図17のフローチャートに示すように、ユーザが入力部40を介してログイン要求を入力する(S30)と、制御部60は、ビデオカメラ20に撮像を開始させると共に、認証部10に認証指示をし、ビデオカメラ20により得られた生画像と、DB30に記憶された登録画像とを用いた認証を行わせる(S34、S36、S38)。認証部10による認証の結果がNG、すなわち生画像の顔画像と、登録された顔画像とが一致しない(S40:No)場合には、制御部60は、該ユーザのログインを拒否する(S40)一方、認証の結果がOK、すなわち生画像と、登録された顔画像とが一致する(S40:Yes)場合には、該ユーザのログインを許可すると共に、時間のカウントを開始する(S44、S46)。ユーザによるコンピュータの使用中に、ビデオカメラ20による撮像および制御部60による計時が続き(S50:No、S52)、カウント開始から3秒経った時点(S50:Yes)で、制御部60は、再び認証部10に認証指示をする。認証部10は、まず、制御部60の認証指示に応じて、ビデオカメラ20により取得された動画像から、その時点のフレーム画像を切り出して顔の検出を行う(S58)。顔が検出される(S58:Yes)と、認証部10は、この顔画像と、DB30に記憶された登録画像とを用いて、認証を行うと共に、認証の結果を制御部60に出力する(S90)。認証部10による認証の結果がOKの場合、すなわち使用者がログインしたユーザである場合には、制御部60は、時間のカウンタをゼロ秒に戻し、ステップS48からの処理が繰り返されるように制御を行う(S94:Yes、S48〜)一方、認証の結果がNGの場合、すなわち、使用者がログインしたユーザではなくなった場合には、コンピュータを強制終了する(S94:No、S96)。なお、認証の結果がNGの場合、ステップS64へ移行し、彩度画像の取得、認証を実施するようにしてもよい。
一方、ステップS58において、顔が検出されなかった(S58:No)、制御部60は、図18のフローチャートにより示される処理Pを行わせる。図18のフローチャートに示すように、使用中のユーザの顔が検出されなかった場合、制御部60は、警告部50に警告指示を行わせると共に、時間のカウンタをゼロ秒に戻してから計時をする(S60、S62)。警告部50のスピーカ58は、制御部60からの警告指示を受信すると、「10秒後にコンピュータをロックします」のアナウンスをし、モニタ54は、画面に「まもなくコンピュータをロックします」のメッセージを表示し続ける。
ステップS58において、顔が検出されなかった(S58:No)ことを認証部10から通知された後でも、制御部60は、ビデオカメラ20による撮像および認証部10による認証を行わせ続ける。ビデオカメラ20により得られた生画像に対して、認証部10により顔が検出されなかった場合(S66、S68、S70:No)には、制御部60は、ステップS66〜ステップS68の処理を行わせ続けるが、顔が検出される(S70:Yes)と、認証部10に、検出された顔を用いた照合を行わせる(S72)。認証の結果がOKの場合、すなわち、ログインしたユーザが顔をコンピュータの前に戻した場合(S74:Yes)には、制御部60は、処理を図17のフローチャートにおけるステップS48に戻し、ステップS48からの処理を行わせるが、ステップS72における認証結果がNGの場合、すなわちコンピュータの前にいる人が、ログインしたユーザではない場合(S74:No)には、処理を図17に示すフローチャートにおけるステップS96に進め、コンピュータを強制終了する(S96)。
ステップS66からの処理は、ステップS62から始まったカウントが10秒以下であるときに行われるものであり、制御部60は、カウンタが10秒になった時点において(S64:No。すなわちステップS62の計時開始から10秒経っても顔が検出されなかった場合)、警告部50に警告表示を停止させると共に、コンピュータを、ロック解除要求がなされるまでロックする(S80、S82:No、S80)。ロック中、入力部40を介してユーザがロック解除を要求する入力がなされると、制御部60は、処理を図17のフローチャートに示すステップS34に戻し、ステップS34からの処理を行わせる(S82:Yes、S34)。
このように、本発明の実施形態のコンピュータによれば、使用資格のあるユーザの使用中にユーザの顔画像を取得し続けて、取得された顔画像と、予めデータベースに登録された顔画像とを照合し、照合結果がNGとなると、コンピュータを強制終了する一方、使用資格のユーザの使用中に、顔画像を検出できなくなった場合には、直ちにコンピュータを強制終了またはロックすることをせず、音声および画面表示により警告を行うと共に、所定の時間(本実施形態においては10秒)までに顔を検出することができなかったときにコンピュータをロックする。顔を検出できなくなってから10秒以内に顔を検出することができれば、検出できた顔の画像を用いて認証を行い、認証がOKならば、コンピュータの引き続きの使用を許可する。このようにすることによって、使用資格のあるユーザが使用途中で、俯いて物を探したり、隣の人と話すために顔を横に向いたりしたなどのことによって、使用者の顔が一時的に検出できなかったとしても、所定の時間内に使用者が顔を戻せば、使用者の不本意による機器の使用が禁止され、使用を再開(ロック解除)するために時間がかかってしまうなどのことを避けることができ、セキュリティ性を保つと共に、便利である。
以上、本発明のセキュリティシステムについて説明したが、本発明のセキュリティシステムは、上述した実施形態に限らず、本発明の主旨を逸脱しない限り、様々な増減、変更を加えることができる。
例えば、図1に示す実施形態のコンピュータにおいて、ユーザの顔写真画像を認証に用いるようにしているが、使用する機器の種類、特性などに応じた他の生体情報を用いてもよい。例えば、携帯電話機の場合においては、顔は勿論、指紋、掌紋を用いてもよい。
また、警告手段も同じく、使用する機器の種類、特性などに応じた方法で警告を行うものであることが望ましく、例えば携帯電話機の場合は、画面に警告のメッセージを表示するよりも、バイブレータを起動するなど、触覚的な手段のほうがよい。
また、図1に示す実施形態のコンピュータにおいて、警告部50のスピーカ58は、制御部60から警告指示を受信した際に一度のみ「10秒後にコンピュータをロックします」のアナウンスし、モニタ54は、警告停止指示が出されるまで「まもなくコンピュータをロックします」を表示し続けるように動作するが、アナウンスの回数、表示する内容など、変更しても勿論よい。例えば、経過する時間に応じて、ロックするまでの時間を1秒毎に「10秒後にコンピュータをロックします」、「9秒後にコンピュータをログアウトします」・・・のようにアナウンスするようにしてもよく、モニタ54も、同じ内容の文字メッセージを表示するようにしてもよい。
さらに、アナウンスする内容は、「早めにコンピュータの画面に顔を向けてください」などユーザを促すメッセージを入れたものであってもよい。
また、図1に示す実施形態のコンピュータにおいて、使用資格のあるユーザの顔画像を予めデータベースに登録しておき、ログインを要求するユーザを撮像して得た生の顔画像と登録画像とを照合するようにしてログインのための認証を行うようにしているが、例えば、使用する資格のあるユーザに該ユーザの顔画像を記憶したIDカードを配布し、ユーザがログインする際に、このIDカードをコンピュータのスロットに挿入すれば、コンピュータはIDカードから、IDカードに記憶された顔画像を読み出してメモリに記憶させると共に、メモリに記憶された顔画像と生の顔画像とを照合するようにしてログインのための認証を行うようにしてもよい。ログイン成功後に行われる認証(使用中のユーザが、ログインするユーザであることの認証)も、メモリに記憶された顔画像を用いればよい。
また、図1に示す実施形態のコンピュータにおいて、ログインのための認証と、ログイン後に行われる認証とが、同じ方法で行われているが、この2つの認証は、必ずしも同じである必要がない。例えば、使用する資格のあるユーザにID番号および該ID番号に対応するパスワードを付与すると共に、予めID番号に対応するパスワードおよびユーザの顔画像をデータベースに登録しておき、ログインの際に、ユーザにID番号とパスワードとを入力させ、データベースに記憶されたID、パスワードとを照合することによってログインのための認証を行うようにしてもよい。ログイン成功後に行われる認証については、ログインしたユーザのID番号に対応する顔画像をデータベースから読み出して、この顔画像と、カメラにより取得された生の顔画像と照合するようにしてもよい。
また、図1に示す実施形態のコンピュータは、ユーザの使用する機器と、該機器を使用するためのセキュリティシステムとを兼ねているが、本発明のセキュリティシステムは、必ずしも本発明のセキュリティシステムの保護対象となる機器と一体化する必要がない。例えば、ユーザの顔画像を取得するカメラをコンピュータに設けるが、登録画像を記憶するデータベースや、認証部や、制御部などをコンピュータと接続されたサーバに設けるようにしてもよい。
また、図1に示す実施形態のコンピュータにおいて、セキュリティ性を高めるために、顔が検出されたが、認証結果がNGの場合、コンピュータを強制終了するようにしているが、この場合において、顔が検出されなかった場合と同じく、ロックするようにしてもよい。そうすることによって、例えば使用中のユーザが同僚に操作を助けてもらったりするなどの場合において、強制終了されることを防ぐことができ、便利である。また、この場合において、直ちに強制終了またはロックする代わりに、一定の時間を経過してから強制終了またはロックするようにし、この一定の時間が経過する前に、ログインしたユーザの顔画像が検出されれば、引き続きの使用を許可するようにしてもよい。
また、図1に示す実施形態のコンピュータにおいて、ビデオカメラ20は動画を撮像するビデオカメラであり、認証部10は、ビデオカメラ20により取得された動画像からフレーム画像を切り出して認証に用いるようにしているが、例えば、スチールカメラを用いて、フレーム画像を切り取る時間間隔と同じ間隔で撮像を行うようにしてもよく、その際、認証部10は、フレーム画像を切り出すことをせず、直接スチールカメラにより得られた写真画像を使えばよい。
また、図1に示す実施形態のコンピュータにおいて、ユーザの使用中において、例として3秒間隔で撮像(フレーム画像の切り出し)および認証を行っているが、この間隔は3秒に限られることがなく、予め決められた0秒より長い如何なる間隔であってもよいが、セキュリティ性を高める視点からは、1分以下であることが望ましい。また、この間隔は、使用資格のあるユーザまたは管理者によって変更または設定することができるようにしてもよい。
また、顔を検出することができなくなった時点からロックするまでの時間も10秒に限らず、セキュリティシステムが使用される環境に応じた時間を用いたり、使用する資格のあるユーザまたは管理者によって設定することができるようにしたりしてもよい。
また、本実施形態のコンピュータにおいて、ビデオカメラにより取得された動画像から該当するタイミングのフレーム画像を切り出して認証を行うようにしているが、例えば、該当するタイミングの前および/または後の複数のフレーム画像の平均画像を作成してこの平均画像を認証に用いるようにしてもよい。こうすることによって、顔の表情や照明条件などの変化に起因する認証精度の低下を防ぐことができる。
または、該当するタイミングの前および/または後の複数のフレーム画像を切り出し、個々に夫々を用いて認証を行い、最も結果の良い認証結果を用いるようにしてもよい。
また、認証を行う際に、一度の認証で決定する代わりに、顔画像の取得とこの顔画像を用いて照合を行うことを複数回トライし、決められた認証回数のうち、例えば1回でも認証が成功すればOKとするようにしてもよい。
また、ロックするまでの時間や、認証を行う時間間隔に限らず、認証のトライの回数なども使用する資格のあるユーザまたは管理者によって設定できるようにしてもよい。
勿論、上記種々の設定の組合せを複数登録しておき、選択できるようにしてもよい。
また、ログイン後の認証を行う間隔も、一定であることに限られるものではない。例えば、認証部により1回の認証が終了次第、次の認証を始めるようにしてもよい。
また、顔画像を用いた認証の場合、正面顔の画像ではないとき認証の精度が低下する。ユーザが真正面に向いていないときなどの誤認証を防ぐために、取得された生の顔画像の向きを推定し、ユーザの顔が真正面に向いていないと判定した場合、例えば検出された顔画像の両目間の距離が現実的には不可能である小さい値となった場合には、その顔画像を認証に用いず、ユーザに真正面に向くようにアナウンスするなど指示し、真正面の顔画像を取得して認証に用いるようにしてもよい。勿論、この場合、再認証を行うことができる回数、例えば3回までなど上限を設けることが必要である。
また、動画像からフレーム画像を切り出して認証を行うシステムにおいて、切り出すタイミングのフレーム画像が真正面の顔画像ではない場合には、その前または後のフレーム画像の向きを検出し、真正面に向いた顔画像を認証に用いるようにしてもよい。
また、サーバにより認証、制御を行うシステムにおいては、サーバに顔認証のログ、ユーザのログインログ、操作ログなどを記録するようにしてもよい。この際、サーバの管理者が所定のコンピュータのこれらのログを閲覧する際に、これらのログが閲覧されていることを該当するユーザに通知するようにすることが好ましい。こうすることによって、ログ閲覧の乱用防止や、操作ログなどの情報の漏洩を抑制することができる。さらに、ユーザに通知する際に、閲覧者の顔画像も取得して同時に送信するようにしてもよい。
また、IDカードは数種類があって、その中に記憶された顔画像のモデリング処理の手法が異なるなど複数の認証エンジンを必要とする場合には、認証エンジンを複数用意し、適切な認証を選択して認証を行うようにしてもよい。さらに、ローカル環境(図1に示す実施形態のコンピュータ)に必要な認証エンジンを全て実装することができない場合には、ローカル環境には最も使用率の高い認証エンジンのみを実装すると共に、サーバには複数の認証エンジンを実装し、認証を行う際に、ローカル環境に実装された認証エンジンで認証ができるときには、ローカル環境の認証エンジンで認証を行う一方、ローカル環境に実装された認証エンジンで認証ができないときには、取得された生体情報をサーバに送信し、サーバにおいて認証を行うようにしてもよい。
また、上記の実施形態においては、生体情報取得手段として、ユーザの顔画像を取得するビデオカメラ20を用意し、顔画像の取得の失敗後においても、生体情報として顔画像の継続的な取得を試みるようにしているが、例えば、生体情報取得手段として、ビデオカメラ20に加え、ユーザの指紋情報、静脈情報、虹彩情報等を読み取って取得する指紋読取機、静脈読取機、虹彩読取機等を用意し、顔画像の取得の失敗前においては、生体情報として顔画像を取得して認証を行い、顔画像の取得の失敗から所定の時間までにおいては、生体情報として指紋情報、静脈情報、虹彩情報等を取得して認証を行うようにしてもよい。指紋情報、静脈情報、虹彩情報等は、顔画像に比べてより確実に取得、照合を行うことができるため、不本意なコンピュータのロックを回避できる可能性が高くなる。
また、制御部60は、所定の時間までに顔画像が取得できなかった場合や、認証がNGの場合に、コンピュータをロックしてその使用を禁止するが、その際に、それ以降のコンピュータの使用における、顔画像の取得の失敗からコンピュータをロックするまでの所定の時間を延長または短縮することを予め設定するようにしてもよい。例えば、一度コンピュータのロックが掛かった場合には、セキュリティレベルをより上げるため、その所定の時間をより短縮するように予め設定するようにすることができる。
本発明のセキュリティシステムの実施形態となるコンピュータの構成を示すブロック図 図1に示すコンピュータにおける認証部10の構成を示すブロック図 図2に示す認証部1における顔検出部1の構成を示すブロック図 目の中心位置を説明するための図 (a)は水平方向のエッジ検出フィルタを示す図、(b)は垂直方向のエッジ検出フィルタを示す図 勾配ベクトルの算出を説明するための図 (a)は人物の顔を示す図、(b)は(a)に示す人物の顔の目および口付近の勾配ベクトルを示す図 (a)は正規化前の勾配ベクトルの大きさのヒストグラムを示す図、(b)は正規化後の勾配ベクトルの大きさのヒストグラムを示す図、(c)は5値化した勾配ベクトルの大きさのヒストグラムを示す図、(d)は正規化後の5値化した勾配ベクトルの大きさのヒストグラムを示す図 参照データの学習に用いられる顔であることが分かっているサンプル画像の例を示す図 参照データの学習に用いられる顔であることが分かっているサンプル画像の例を示す図 顔の回転を説明するための図 参照データの学習手法を示すフローチャート 識別器の導出方法を示す図 識別対象画像の段階的な変形を説明するための図 図3に示す顔検出部1の処理を示すフローチャート 図1に示す実施形態のコンピュータにおける警告部50の構成を示すブロック図 図1に示す実施形態のコンピュータの処理を示すフローチャート(その1) 図1に示す実施形態のコンピュータの処理を示すフローチャート(その2)
符号の説明
1 顔検出部
2 特徴量算出部
4 第2の記憶部
5 第1の識別部
6 第2の識別部
7 第1の出力部
8 照合部
10 認証部
20 カメラ
30 データベース
40 入力部
50 警告部
54 モニタ
58 スピーカ
60 制御部

Claims (5)

  1. 機器を使用する資格のある使用者により前記機器を使用する際に、前記機器の使用許可後に継続的に前記使用者の生体情報を取得する生体情報取得手段と、
    該生体情報取得手段により取得された前記生体情報と、予め登録された、前記資格のある使用者の生体情報とを継続的に照合する照合手段と、
    該照合手段による前記照合が失敗した際、前記機器の引き続きの使用を禁止する制御手段とを有してなるセキュリティシステムにおいて、
    前記生体情報取得手段による前記使用者の生体情報の取得が失敗した際に、前記使用者に警告を行う警告手段をさらに備え、
    前記生体情報取得手段が、前記生体情報の取得の失敗後も前記使用者の生体情報の取得を継続的に行うものであり、
    前記制御手段が、前記生体情報取得手段により前記生体情報の取得の失敗から所定の時間までに前記使用者の生体情報が取得できなかったとき、前記機器の使用を禁止するものであり、かつ、前記機器の使用を禁止する際にそれ以降の前記機器の使用における前記所定の時間を短縮することを予め設定するものであることを特徴とするセキュリティシステム。
  2. 前記警告手段が、聴覚的に、および/または視覚的に、および/または触覚的に前記警告を行うものであることを特徴とする請求項1記載のセキュリティシステム。
  3. 前記警告が、前記所定の時間をも示すものであることを特徴とする請求項1または2記載のセキュリティシステム。
  4. 前記生体情報が、前記使用者の顔画像であり、
    前記生体情報取得手段が、撮像手段であることを特徴とする請求項1、2または3記載のセキュリティシステム。
  5. 前記生体情報取得手段が、撮像手段と、指紋読取手段、静脈読取手段および虹彩読取手段のうち少なくとも1つの所定の手段であり、
    前記生体情報の取得の失敗前に取得される生体情報が、前記撮像手段により撮像された前記使用者の顔画像であり、前記生体情報の取得の失敗から前記所定の時間までに取得される生体情報が、前記所定の手段により読み取られた前記使用者の指紋情報、静脈情報および虹彩情報のうち少なくとも1つの情報であることを特徴とする請求項1、2または3記載のセキュリティシステム。
JP2005247682A 2004-09-14 2005-08-29 セキュリティシステム Expired - Fee Related JP4699139B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005247682A JP4699139B2 (ja) 2004-09-14 2005-08-29 セキュリティシステム
US11/225,040 US20060056664A1 (en) 2004-09-14 2005-09-14 Security system

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2004267047 2004-09-14
JP2004267047 2004-09-14
JP2005247682A JP4699139B2 (ja) 2004-09-14 2005-08-29 セキュリティシステム

Publications (2)

Publication Number Publication Date
JP2006114018A JP2006114018A (ja) 2006-04-27
JP4699139B2 true JP4699139B2 (ja) 2011-06-08

Family

ID=36033982

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005247682A Expired - Fee Related JP4699139B2 (ja) 2004-09-14 2005-08-29 セキュリティシステム

Country Status (2)

Country Link
US (1) US20060056664A1 (ja)
JP (1) JP4699139B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210002852A (ko) 2019-07-01 2021-01-11 주식회사 에이텍에이피 안면인식을 이용한 스마트 금융자동화기기의 사용자 이탈/변경 감지장치 및 방법
US11823155B2 (en) 2019-07-01 2023-11-21 Atec Ap Co., Ltd. Apparatus and method for processing user information of smart automated machine using face recognition

Families Citing this family (65)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007060621A (ja) * 2005-07-27 2007-03-08 Ricoh Co Ltd 画像形成装置および画像形成方法
US8260008B2 (en) 2005-11-11 2012-09-04 Eyelock, Inc. Methods for performing biometric recognition of a human eye and corroboration of same
JP4752660B2 (ja) * 2006-07-28 2011-08-17 沖電気工業株式会社 個人認証方法及び個人認証装置
US8301897B2 (en) * 2006-08-23 2012-10-30 Cisco Technology, Inc. Challenge-based authentication protocol
US7676068B2 (en) * 2006-09-18 2010-03-09 Miguel Angel Cervantes Biometric authentication
JP4978143B2 (ja) * 2006-10-10 2012-07-18 パナソニック株式会社 超音波診断装置
JP4508207B2 (ja) * 2007-04-24 2010-07-21 Sky株式会社 管理者の不当閲覧防止方法及び不当閲覧防止システム、並びに不当閲覧防止プログラム
KR102559017B1 (ko) * 2007-09-24 2023-07-25 애플 인크. 전자 장치 내의 내장형 인증 시스템들
US8600120B2 (en) 2008-01-03 2013-12-03 Apple Inc. Personal computing device control using face detection and recognition
JP2009211381A (ja) * 2008-03-04 2009-09-17 Nec Corp 使用者認証システム、使用者認証方法、および使用者認証プログラム
JP2009223651A (ja) * 2008-03-17 2009-10-01 Nec Saitama Ltd 顔認証装置、方法、プログラム及び携帯端末装置
US8555336B1 (en) * 2008-03-27 2013-10-08 Mcafee, Inc. System, method, and computer program product for a pre-deactivation grace period
JP5344546B2 (ja) * 2008-07-09 2013-11-20 キヤノン株式会社 情報処理装置、情報処理装置の制御方法、記憶媒体及びプログラム
JP2010267101A (ja) * 2009-05-15 2010-11-25 Konica Minolta Business Technologies Inc 画像形成システムおよび画像形成装置
JP5218458B2 (ja) * 2010-03-23 2013-06-26 株式会社デンソー 車両接近報知システム
KR101194259B1 (ko) 2010-06-14 2012-10-29 한국과학기술원 얼굴방향 인식기반의 단일 입력 인터페이스 방법 및 이를 이용한 시스템
US20120044049A1 (en) * 2010-08-23 2012-02-23 Samir Vig Smart Doorbell Security System and Method to Identify Visitors
US20120121140A1 (en) * 2010-11-12 2012-05-17 International Business Machines Corporation Leveraging Real-Time Biometric Recognition Software in Software Systems Management
US8994499B2 (en) * 2011-03-16 2015-03-31 Apple Inc. Locking and unlocking a mobile device using facial recognition
US8769624B2 (en) 2011-09-29 2014-07-01 Apple Inc. Access control utilizing indirect authentication
US9002322B2 (en) 2011-09-29 2015-04-07 Apple Inc. Authentication with secondary approver
KR101180119B1 (ko) 2012-02-23 2012-09-05 (주)올라웍스 카메라 모듈을 통해 사용자의 머리를 트래킹하여 화면을 제어하는 방법, 제어장치 및 컴퓨터 판독 가능한 기록 매체
US11209961B2 (en) 2012-05-18 2021-12-28 Apple Inc. Device, method, and graphical user interface for manipulating user interfaces based on fingerprint sensor inputs
US9292045B2 (en) 2013-02-15 2016-03-22 Apple Inc. Apparatus and method for automatically activating a camera application based on detecting an intent to capture a photograph or a video
JP6481249B2 (ja) * 2013-07-29 2019-03-13 オムロン株式会社 プログラマブル表示器、制御方法、およびプログラム
US9898642B2 (en) 2013-09-09 2018-02-20 Apple Inc. Device, method, and graphical user interface for manipulating user interfaces based on fingerprint sensor inputs
KR102129594B1 (ko) 2013-10-30 2020-07-03 애플 인크. 관련 사용자 인터페이스 객체를 표시
US9984237B2 (en) 2013-12-19 2018-05-29 Intel Corporation Providing intrusion detection, monitoring and protection in a system
CN108090760B (zh) * 2014-05-29 2022-04-29 苹果公司 用于支付的用户接口
US10043185B2 (en) 2014-05-29 2018-08-07 Apple Inc. User interface for payments
US9967401B2 (en) 2014-05-30 2018-05-08 Apple Inc. User interface for phone call routing among devices
US10339293B2 (en) 2014-08-15 2019-07-02 Apple Inc. Authenticated device used to unlock another device
US10066959B2 (en) 2014-09-02 2018-09-04 Apple Inc. User interactions for a mapping application
US9547419B2 (en) 2014-09-02 2017-01-17 Apple Inc. Reduced size configuration interface
US20160224973A1 (en) 2015-02-01 2016-08-04 Apple Inc. User interface for payments
US9574896B2 (en) 2015-02-13 2017-02-21 Apple Inc. Navigation user interface
US10254911B2 (en) 2015-03-08 2019-04-09 Apple Inc. Device configuration user interface
US20160358133A1 (en) 2015-06-05 2016-12-08 Apple Inc. User interface for loyalty accounts and private label accounts for a wearable device
US9940637B2 (en) 2015-06-05 2018-04-10 Apple Inc. User interface for loyalty accounts and private label accounts
DK179186B1 (en) 2016-05-19 2018-01-15 Apple Inc REMOTE AUTHORIZATION TO CONTINUE WITH AN ACTION
US10621581B2 (en) 2016-06-11 2020-04-14 Apple Inc. User interface for transactions
CN109313759B (zh) 2016-06-11 2022-04-26 苹果公司 用于交易的用户界面
DK201670622A1 (en) 2016-06-12 2018-02-12 Apple Inc User interfaces for transactions
CN106095340B (zh) * 2016-06-14 2021-04-13 深圳市国华识别科技开发有限公司 测量仪数据存储方法和装置
JP6669016B2 (ja) * 2016-08-31 2020-03-18 オムロン株式会社 画像抽出装置、顔照合システム、遊技者管理システム、画像抽出方法、及びプログラム
US20180068313A1 (en) 2016-09-06 2018-03-08 Apple Inc. User interfaces for stored-value accounts
US10860199B2 (en) 2016-09-23 2020-12-08 Apple Inc. Dynamically adjusting touch hysteresis based on contextual data
US10496808B2 (en) 2016-10-25 2019-12-03 Apple Inc. User interface for managing access to credentials for use in an operation
US11042625B2 (en) * 2017-03-03 2021-06-22 William Bojan System for visual password input and method for accepting a visual password input
US11227170B2 (en) * 2017-07-20 2022-01-18 Panasonic Intellectual Property Management Co., Ltd. Collation device and collation method
KR102185854B1 (ko) 2017-09-09 2020-12-02 애플 인크. 생체측정 인증의 구현
EP4155988A1 (en) 2017-09-09 2023-03-29 Apple Inc. Implementation of biometric authentication for performing a respective function
US11170085B2 (en) 2018-06-03 2021-11-09 Apple Inc. Implementation of biometric authentication
US10860096B2 (en) 2018-09-28 2020-12-08 Apple Inc. Device control using gaze information
US11100349B2 (en) 2018-09-28 2021-08-24 Apple Inc. Audio assisted enrollment
US11328352B2 (en) 2019-03-24 2022-05-10 Apple Inc. User interfaces for managing an account
KR102053581B1 (ko) * 2019-05-27 2019-12-09 주식회사 시큐브 얼굴 인식 및 수기 서명 검증 기반의 사용자 인증 방법 및 장치
US11477609B2 (en) 2019-06-01 2022-10-18 Apple Inc. User interfaces for location-related communications
US11481094B2 (en) 2019-06-01 2022-10-25 Apple Inc. User interfaces for location-related communications
EP4034979B1 (en) 2019-09-29 2024-01-03 Apple Inc. Account management user interfaces
US11169830B2 (en) 2019-09-29 2021-11-09 Apple Inc. Account management user interfaces
DK202070633A1 (en) 2020-04-10 2021-11-12 Apple Inc User interfaces for enabling an activity
US11816194B2 (en) 2020-06-21 2023-11-14 Apple Inc. User interfaces for managing secure operations
KR102364371B1 (ko) * 2021-09-07 2022-02-23 주식회사 브리즈랩 안면과 신체형태 인식을 통한 화면보호 동작 방지방법
WO2024070917A1 (ja) * 2022-09-28 2024-04-04 シャープ株式会社 端末装置および測定方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000227812A (ja) * 1999-02-05 2000-08-15 Yis Corporation Co Ltd 作動許否判定装置
JP2001043191A (ja) * 1999-07-29 2001-02-16 Yis Corporation Co Ltd 作動許否判定装置
JP2004157602A (ja) * 2002-11-01 2004-06-03 Toshiba Corp 人物認識装置、人物認識方法および通行制御装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6111517A (en) * 1996-12-30 2000-08-29 Visionics Corporation Continuous video monitoring using face recognition for access control
US6108437A (en) * 1997-11-14 2000-08-22 Seiko Epson Corporation Face recognition apparatus, method, system and computer readable medium thereof
US6587032B2 (en) * 2000-11-28 2003-07-01 International Business Machines Corporation System and method for controlling access to a computer resource
JP3630647B2 (ja) * 2001-06-04 2005-03-16 株式会社ナナオ ディスプレイ装置及びそのプログラム並びにそれを備えたシステムにおける各装置のプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000227812A (ja) * 1999-02-05 2000-08-15 Yis Corporation Co Ltd 作動許否判定装置
JP2001043191A (ja) * 1999-07-29 2001-02-16 Yis Corporation Co Ltd 作動許否判定装置
JP2004157602A (ja) * 2002-11-01 2004-06-03 Toshiba Corp 人物認識装置、人物認識方法および通行制御装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210002852A (ko) 2019-07-01 2021-01-11 주식회사 에이텍에이피 안면인식을 이용한 스마트 금융자동화기기의 사용자 이탈/변경 감지장치 및 방법
US11823155B2 (en) 2019-07-01 2023-11-21 Atec Ap Co., Ltd. Apparatus and method for processing user information of smart automated machine using face recognition

Also Published As

Publication number Publication date
US20060056664A1 (en) 2006-03-16
JP2006114018A (ja) 2006-04-27

Similar Documents

Publication Publication Date Title
JP4699139B2 (ja) セキュリティシステム
JP6634127B2 (ja) カメラ付きデバイスに関連する生体認証のためのシステム及び方法
CN110555359B (zh) 面部识别的自动重试
CN108804884B (zh) 身份认证的方法、装置及计算机存储介质
JP5045128B2 (ja) 顔認証装置
JP4406547B2 (ja) Idカード作成装置、idカード、顔認証端末装置、顔認証装置およびシステム
JP4826234B2 (ja) 顔認証装置、セキュリティ強度変更方法およびプログラム
JP2007135149A (ja) 移動携帯端末
US20190286798A1 (en) User authentication method using face recognition and device therefor
JP2003317100A (ja) 情報端末装置、認証システム、及び登録・認証方法
US10594690B2 (en) Authenticating access to a computing resource using facial recognition based on involuntary facial movement
US10599824B2 (en) Authenticating access to a computing resource using pattern-based facial recognition
US11610437B2 (en) Face liveness detection systems and methods
CA2959085A1 (en) Methods and systems for authenticating users
KR101954763B1 (ko) 얼굴 인식 출입 통제 장치 및 이의 동작 방법
JP4899552B2 (ja) 認証装置、認証方法、認証プログラム、これを記録したコンピュータ読み取り可能な記録媒体
JP7318833B2 (ja) 画像処理デバイス、画像処理方法、およびプログラム
CN109034029A (zh) 检测活体的人脸识别方法、可读存储介质和电子设备
KR102564951B1 (ko) 얼굴 인식의 다수의 등록들
JP2009015518A (ja) 眼画像撮影装置及び認証装置
KR101057720B1 (ko) 사용자 인증 시스템 및 방법
CN108733999A (zh) 一种解锁方法及装置、终端设备和可读存储介质
Khan et al. Biometric driven initiative system for passive continuous authentication
KR101680598B1 (ko) 얼굴유도용 최적 가이드를 제공하는 얼굴인증 처리 장치 및 얼굴인증 처리 방법
US11507646B1 (en) User authentication using video analysis

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061211

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110302

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees