JP2007094637A - 顔画像認証装置 - Google Patents

顔画像認証装置 Download PDF

Info

Publication number
JP2007094637A
JP2007094637A JP2005281487A JP2005281487A JP2007094637A JP 2007094637 A JP2007094637 A JP 2007094637A JP 2005281487 A JP2005281487 A JP 2005281487A JP 2005281487 A JP2005281487 A JP 2005281487A JP 2007094637 A JP2007094637 A JP 2007094637A
Authority
JP
Japan
Prior art keywords
face
face image
condition
image
similarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005281487A
Other languages
English (en)
Other versions
JP4553138B2 (ja
Inventor
Takashi Komura
敬司 甲村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2005281487A priority Critical patent/JP4553138B2/ja
Priority to KR1020060094045A priority patent/KR100826309B1/ko
Priority to DE102006045752A priority patent/DE102006045752B4/de
Publication of JP2007094637A publication Critical patent/JP2007094637A/ja
Application granted granted Critical
Publication of JP4553138B2 publication Critical patent/JP4553138B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Collating Specific Patterns (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】様々な顔向き条件および照明条件の組合せで顔画像による個人認証を行った場合でも、登録者を拒否する可能性を低減させる。
【解決手段】撮影した顔画像から顔特徴量を演算し(S211)、この顔特徴量と既登録の顔特徴量との類似度を演算し(S212)、類似度が類似度最大値Pmaxより大きい場合は(S213)、類似度を類似度最大値Pmaxに設定する(S214)。類似度最大値Pmaxが第1閾値Th1以上である場合は(S215)、顔画像の顔向き条件の演算(S216)および照明条件の演算(S217)を実行し、顔向き条件および照明条件の組合せに対応して顔特徴量が未登録である場合(S218)、顔特徴量を顔向き条件および照明条件の組合せに対応させて追加登録する(S219)。類似度最大値Pmaxが第2閾値Th2未満である場合(S220)、登録者であるとは認証せず(S222)、類似度最大値Pmaxが第2閾値Th2以上である場合(S220)、登録者であると認証する(S221)。
【選択図】図5

Description

本発明は顔画像認証装置に関し、特に車両に乗車する運転者などの個人認証に好適な顔画像認証装置に関する。
車両のセキュリティシステムや利便システムとして、運転者の顔画像を利用した個人認証の活用が、数多く提案されている。
顔画像による個人認証の従来技術としては、オフィスへの入退室管理などのセキュリティ確保を目的とした顔認証システムがあり(例えば、特許文献1,特許文献2等参照)、車両用セキュリティシステムへの適用も提案されている。
特開2005−115481号公報 特開2004−157602号公報
上述した従来の認証技術の多くは、顔画像の陰影などを個人に依存する特徴量として捕らえ、予め登録した顔特徴量と比較することで、認証を行うようにしているが、顔画像の陰影などは、顔向き条件および照明条件の組合せによって大きく変わるため、あらかじめ顔特徴量を登録した際の顔向き条件および照明条件の組合せと異なる顔向き条件および照明条件の組合せで作動させた場合、顔特徴量の本人らしさが低下し、本人であっても認証を拒否されてしまう不具合が発生する。例えば、予め登録した顔特徴量が顔を上に向けて撮影した顔画像に基づく場合には、顔を下に向けて撮影したときの本人の顔画像の顔特徴量とは異なってくるので、本人棄却率が高くなる。また、予め登録した顔特徴量が真昼の外光下で顔を撮影した顔画像に基づく場合には、夕暮れのときに撮影した本人の顔画像の顔特徴量とは異なってくるので、本人棄却率が高くなる。特に、車両の運転者の個人認証システムに用いた場合には、右ハンドル車では、右窓側から顔に当たる外光量が多くならざるを得ず、天気のときと曇天のときとで撮影した本人の顔画像の顔特徴量とは異なってくるおそれがあり、正確な個人認証を行うことができないという問題点があった。
一方、そのような顔向き条件および照明条件の組合せで本人が認証を拒否されることを避けるため、本人判定閾値を低く設定すると、他人を受け入れる確率が高くなり、本来の個人認証性能を低下させてしまう不具合が発生する。
初期登録する時点で、多様な顔向き条件および照明条件での顔特徴量を登録しておけば、以上のような問題点を回避することが可能であるが、多様な顔向き条件および照明条件の組合せでの顔特徴量をあらかじめ登録することは、照明条件を整えることが困難である上に、登録者本人への負担も大きいので、実際に実施するのは困難であるという課題がある。
そこで、本発明は、多様な顔向き条件および照明条件の組合せでの顔特徴量を自動的に登録する顔画像認証装置を提供することを目的とする。
本発明は、上記問題を鑑みてなされたものであり、被撮影者の通常の振る舞いにおける顔画像を継続的に撮影し、その顔画像における顔向き条件および照明条件の組合せが、前記記憶手段に登録されている登録者の顔画像の顔特徴量の顔向き条件および照明条件の組合せと一致するかどうかを判定し、その顔向き条件および照明条件の組合せと一致する顔向き条件および照明条件の組合せが登録されていない場合に、被撮影者の顔画像の顔特徴量を前記記憶手段に追加登録し、様々な顔向き条件および照明条件の組合せでの顔画像の顔特徴量を登録させる。様々な顔向き条件および照明条件の組合せでの顔特徴量を登録することで、様々な顔向き条件および照明条件の組合せで顔画像による個人認証を行った場合でも、登録者を拒否する可能性を低減させることができる顔画像認証装置を提供することを目的とする。
課題を解決するための手段及び発明の効果
上記課題を解決するため、請求項1の顔画像認証装置は、登録者の顔画像の顔特徴量を顔向き条件および照明条件の組合せ毎に登録する記憶手段と、被撮影者の顔を撮影する顔撮影手段と、登録者の操作に基づいて前記顔撮影手段により撮影された発明者の顔画像の顔特徴量を、顔画像撮影時の顔向き条件および照明条件の組合せに対応させて前記記憶手段に初期登録する顔画像初期登録手段と、被撮影者の所定の動作を契機として前記顔撮影手段により撮影された被撮影者の顔画像の顔特徴量が前記記憶手段に登録されている登録者の顔画像の顔特徴量と類似する場合に、被撮影者の顔画像の顔特徴量を、登録者の顔画像の顔特徴量として、顔画像撮影時の顔向き条件および照明条件の組合せに対応させて前記記憶手段に追加登録する顔画像追加登録手段と、前記顔撮影手段により撮影された被撮影者の顔画像の顔特徴量が前記記憶手段に登録されている登録者の顔画像の顔特徴量のいずれかと類似する場合に、被撮影者は登録者であると認証する認証手段と、を備えることを特徴とする。請求項1記載の顔画像認証装置によれば、顔撮影用カメラで撮影した登録者の顔画像が予め登録されている顔向き条件および照明条件の組合せにて登録されているかどうかを判定し、登録されている顔向き条件および照明条件の組合せでない場合には、再度、登録者の顔画像を所定顔向き条件および照明条件の組合せにて追加登録するようにしたことにより、被撮影者の顔を顔撮影用カメラで撮影した顔画像を利用して個人認証を行うシステムにおいて、被撮影者の顔画像における顔向き条件および照明条件の組合せが、登録者の顔画像の顔特徴量の顔向き条件および照明条件の組合せと一致するかどうかを判定し、その顔向き条件および照明条件の組合せと一致する顔向き条件および照明条件の組合せが登録されていない場合に、被撮影者の顔画像の顔特徴量を前記記憶手段に追加登録し、様々な顔向き条件および照明条件の組合せでの顔画像の顔特徴量を登録させる。様々な顔向き条件および照明条件の組合せでの顔特徴量を登録することで、様々な顔向き条件および照明条件の組合せで顔画像による個人認証を行った場合でも、登録者を拒否する可能性を低減させることができる。
請求項2記載の顔画像認証装置は、請求項1記載の顔画像認証装置において、前記顔画像初期登録手段が、登録者の顔画像から顔特徴量を演算する顔特徴量演算手段と、登録者の顔画像から顔向き条件を演算する顔向き条件算出手段と、登録者の顔画像から照明条件を演算する照明条件算出手段と、前記顔特徴量を前記顔向き条件および前記照明条件の組合せに対応させて前記記憶手段に登録する顔特徴量・顔向き条件・照明条件記憶手段とを含むことを特徴とする。請求項2記載の顔画像認証装置によれば、顔特徴量を顔向き条件および照明条件の組合せに対応させて記憶手段に登録するようにしたことにより、どの条件で顔特徴量が登録されているかを明らかにすることができる。
請求項3の顔画像認証装置では、請求項1または2記載の顔画像認証装置において、前記顔画像追加登録手段が、被撮影者の顔画像から顔特徴量を演算する顔特徴量演算手段と、前記顔特徴量演算手段により演算された顔特徴量と前記記憶手段に登録されている顔特徴量との類似度を演算する顔特徴量類似度比較手段と、前記顔特徴量類似度比較手段により演算された類似度が類似度最大値より大きい場合に当該類似度を類似度最大値に設定する類似度最大値設定手段と、前記類似度最大値設定手段により設定された類似度最大値が第1閾値以上である場合に被撮影者の顔画像から顔向き条件を演算する顔向き条件算出手段と、被撮影者の顔画像から照明条件を演算する照明条件算出手段と、前記顔向き条件および前記照明条件の組合せに対応させて顔特徴量が未登録である場合に前記顔特徴量演算手段により演算された顔特徴量を前記顔向き条件および前記照明条件の組合せに対応させて前記記憶手段に登録する顔特徴量・顔向き条件・照明条件記憶手段とを含むことを特徴とする。請求項3記載の顔画像認証装置によれば、演算された顔特徴量と記憶手段に登録されている顔特徴量との類似度を演算し、演算された類似度が類似度最大値より大きい場合に当該類似度を類似度最大値に設定し、類似度最大値が第1閾値以上である場合に、今回の被撮影者が本来の登録者であると判定して顔特徴量の追加登録を許可し、顔画像の顔向き条件の演算および顔画像の照明条件の演算を実行し、算出された顔向き条件および照明条件の組合せに対応して顔特徴量を記憶手段に登録するようにしたことにより、類似度の低い顔特徴量の登録を防止することができる。
請求項4の顔画像認証装置は、請求項1ないし3のいずれか1項に記載の顔画像認証装置において、前記認証手段が、前記類似度最大値と登録者と認証する類似度の下限値である第2閾値とを比較し、前記類似度最大値が前記第2閾値以上である場合は被撮影者を登録者と認証することを特徴とする。請求項4記載の顔画像認証装置によれば、類似度最大値が第2閾値以上である場合に被撮影者を登録者と認証するようにしたことにより、最も確実性の高い類似度を用いて被撮影者を登録者と認証するので、登録者を拒否する可能性を低減させることができる。
請求項5の顔画像認証装置は、請求項1ないし4のいずれかに1項に記載の顔画像認証装置において、被撮影者の顔を照明する照明手段を備えることを特徴とする。請求項5記載の顔画像認証装置によれば、照明手段により被撮影者の顔を照明することができるので、より鮮明な顔画像を得ることができ、顔画像による個人認証の精度をさらに向上させることができる。
様々な顔向き条件および照明条件の組合せで顔画像による個人認証を行った場合でも、登録者を拒否する可能性を低減させるという目的を、被撮影者の顔を適時撮影し、被撮影者の顔画像の顔特徴量を記憶手段に追加登録し、様々な顔向き条件および照明条件の組合せでの顔画像の顔特徴量を登録することで達成した。
以下、本発明の実施例1について図面を参照しながら詳細に説明する。
図1は、本発明の実施例1に係る顔画像認証装置を示すブロック図である。本実施例1に係る顔画像認証装置は、車両の運転席に対応するインスツルメントパネル内に配設された画像処理装置10と、画像処理装置10とから起動されるLED(Light Emitting Diode)電流制御装置20と、LED電流制御装置20と接続され、車両の運転席に着座した運転者の顔を照明するように運転席に対応するインスツルメントパネルに組み込まれたLED30と、車両の運転席に着座した運転者の顔を撮影できるように運転席に対応するインスツルメントパネルに組み込まれた、例えばCCD(Charge Coupled Device)カメラ等でなる顔撮影用カメラ40とから構成されている。
図2を参照すると、画像処理装置10は、CPU(Central Processing Unit)11と、画像処理プログラム100を格納するROM(Read Only Memory)12と、CPU11の動作データを一時的に格納するためのRAM(Random Access Memory)13と、登録者の顔画像の顔特徴量ならびに顔向き条件および照明条件の組合せを登録するEEPROM(Electrically Erasable &Programmable Read Only Memory)等でなる不揮発性メモリ14とを含んで構成されている。
図3を参照すると、画像処理プログラム100には、顔画像登録起動信号入力手段101と、顔画像登録終了信号入力手段102と、撮影トリガー入力手段103と、登録条件読出し手段104と、他の機器への通信手段105と、画像入力手段106と、顔特徴量演算手段107と、顔特徴量類似度比較手段108と、第1閾値記憶手段109と、第2閾値記憶手段110と、顔向き条件算出手段111と、照明条件算出手段112と、顔特徴量・顔向き条件・照明条件記憶手段113と、登録条件類似度比較手段114とを含んで構成されている。
図4は、顔画像初期登録処理(顔画像初期登録手段)を示すフローチャートである。
図5は、顔画像追加登録処理(顔画像追加登録手段)を示すフローチャートである。なお、実施例1では、顔画像による個人認証処理の登録者判定閾値として、顔画像の追加登録を許可する類似度の下限値である第1閾値Th1と、顔画像による個人認証において登録者と判定する類似度の下限値である第2閾値Th2とを有しており、第1閾値Th1>第2閾値Th2(閾値が大きい方が厳しいとする)としてある。例えば、第1閾値Th1は登録者棄却率0.5%、第2閾値Th2は登録者棄却率2%となるように設定されている。
図6は、顔特徴量を不揮発性メモリ14に登録する顔向き条件および照明条件の組合せを例示する概念図である。均等照明,右顔面が明るい照明,左顔面が明るい照明,顔面下半分が明るい照明の4つ照明条件下で、それぞれ上下顔向きが−30°から+30°まで10°毎で、かつ左右顔向きが−30°から+30°まで10°毎に顔特徴量が登録されるようになっている。なお、この実施例では、登録する情報量を削減するため、均等照明,右顔面が明るい照明,左顔面が明るい照明,顔面下半分が明るい照明の各照明条件下で、(−30°,−30°),(−30°,+30°),(+30°,−30°),(+30°,+30°)の4つの顔向きの近傍の条件は除かれている。
次に、このように構成された本実施例1に係る顔画像認証装置の動作について、図4および図5のフローチャートを参照しながら説明する。
(1) 顔画像初期登録処理(図4参照)
本発明の実施にあたっては、少なくとも1つ以上の顔向き条件および照明条件の組合せでの登録者の顔画像の顔特徴量ならびに顔画像撮影時の顔向き条件および照明条件の組合せが初期登録されていることが前提となるので、画像処理装置10は、まず、図4に示す顔画像初期登録処理を実行する。
車両の運転席に着座した者(顔画像初期登録処理では、登録者という)が自身の顔画像を登録するために顔画像登録ボタン等を操作すると、画像処理装置10は、顔画像登録起動信号入力手段101により顔画像登録起動信号を入力して(図4のS101)、画像処理プログラム100を起動する(図4のS102)。なお、顔画像登録起動信号入力手段101は、暗証番号などによる認証手段を有し、その認証結果をもって、画像処理プログラム100を起動するようになっている。
次に、画像処理装置10は、LED電流制御装置20を起動する(図4のS103)。これにより、LED30の発光が可能となる。
続いて、画像処理装置10は、顔撮影用カメラ40を起動する(図4のS104)。これにより、登録者の顔の撮影が可能になる。
次に、登録者が撮影ボタン等を操作すると、画像処理装置10は、撮影トリガー信号入力手段103により撮影トリガー信号を入力し(図4のS105)、LED30を発光させると同時に、顔撮影用カメラ40により登録者の顔画像を撮影する(図4のS106)。撮影された登録者の顔画像は、画像入力手段106により顔撮影用カメラ40から画像処理装置10に入力されて、RAM13上に一時的に格納される。
続いて、画像処理装置10は、顔特徴量演算手段107により、RAM13上に一時的に格納された顔画像から顔特徴量を演算する(図4のS107)。詳しくは、顔特徴量演算手段107は、まず、RAM13上に一時的に格納された顔画像から登録者の顔領域を検出する。例えば、あらかじめ用意されたテンプレートを、顔画像中を移動させながら相関値を求めることにより、最も高い相関値を持った場所を顔領域とする。なお、その他に、固有空間法や部分空間法を利用した顔領域抽出法などを使用してもよい。次に、顔特徴量演算手段107は、検出された顔領域の部分の中から、目、鼻、口といった顔部品の位置を検出する。この検出方法としては、例えば、文献(福井和広、山口修:「形状抽出とパターン照合の組合せによる顔特徴点抽出」、電子情報通信学会論文誌(D),vol.J80−D−II,No.8,pp2170−2177(1997))などに記載された方法を用いることができる。続いて、顔特徴量演算手段107は、検出された顔部品の位置を基に、顔領域を一定の大きさ、形状に切り出し、その濃淡情報を顔の特徴量として用いる。たとえば、mピクセル×nピクセルの領域の濃淡値をそのまま情報として用い、m×n次元の情報を特徴ベクトルとして用いることができる。
次に、画像処理装置10は、顔向き条件算出手段111により、RAM13上に一時的に格納された顔画像から顔向き条件を演算する(図4のS108)。詳しくは、顔向き条件算出手段111は、顔のテンプレートによる顔検出と、目、鼻などの顔部品の検出座標の相対位置によって顔の向きを調べる。
続いて、画像処理装置10は、照明条件算出手段112により、RAM13上に一時的に格納された顔画像から照明条件を演算する(図4のS109)。例えば、照明条件算出手段112は、顔画像を左上四半部,右上四半部,左下四半部,右下四半部の4つの画像領域に分け、各画像領域の明度の平均値を比較することにより、均等照明,右顔面が明るい照明,左顔面が明るい照明,顔面下半分が明るい照明の4つ照明条件のいずれであるかを決定する。
次に、画像処理装置10は、顔特徴量・顔向き条件・照明条件記憶手段113により、ステップS107で演算した顔特徴量を、ステップS108で演算した顔向き条件、およびステップS109で演算した照明条件の組合せに対応させて不揮発性メモリ14に登録する(図4のS110)。この際、登録条件類似度判定手段114により、図6に示した顔向き条件および照明条件の組み合わせの中から、演算した顔向き条件および演算した照明条件の組合せに最も近い顔向き条件および照明条件の組み合わせが選定される。
そして、画像処理装置10は、登録者に顔画像の初期登録を終了するか否かを問い合せ(図4のS111)、登録者の顔画像登録終了ボタン等の操作に基づく顔画像登録終了信号を、顔画像登録終了信号入力手段102により入力しないかぎり(図4のS111:No)、ステップS105に制御を戻して、ステップS105〜S111を繰り返す。
顔特徴量の顔向き条件および照明条件の組合せに対応する登録を1回以上行った後に、登録者が顔画像登録終了ボタン等を操作すると、画像処理装置10は、顔画像登録終了信号入力手段102により顔画像登録終了信号を入力し(図4のS111:Yes)、顔画像初期登録処理を終了する(図4のS112)。
(2) 顔画像追加登録処理(図5参照)
車両への人の乗車意図を契機として、画像処理装置10は、顔画像追加登録処理を実行する。
車両の運転席に人(顔画像追加登録処理では、被撮影者という)が乗り込むと、運転席シートに内蔵したセンサ(例えば荷重センサなど)により被撮影者の運転席への着座が検出され(図5のS201)、画像処理装置10は、画像処理プログラム100を起動する(図5のS202)。なお、被撮影者の運転席への着座検出に代えて、車両ドアの開錠等を契機として顔画像登録起動信号を入力するようにしてもよい。このように、被撮影者からの指示なしに、被撮影者の運転席への乗車意図によって、画像処理プログラム100を自動的に起動する点は、本発明の特徴である。
次に、画像処理装置10は、登録条件読出し手段104により、不揮発性メモリ14から顔特徴量が未登録の顔向き条件および照明条件の組合せを読み出す(図5のS203)。
続いて、画像処理装置10は、すでに顔特徴量が登録されている顔向き条件および照明条件の組合せの数(条件登録数)を演算し(図5のS204)、顔向き条件および照明条件の組合せが1つ以上登録されているかどうかを判定する(図5のS205)。
顔特徴量が登録されている顔向き条件および照明条件の組合せが1つも無い場合は(図5のS205:No)、画像処理装置10は、他の機器への通信手段105により、顔画像初期登録処理(図4参照)が実施されていないことを他の機器(例えば、メータ装置,カーナビゲーション装置,携帯電話機等)に送信して被撮影者,車両オーナ等に報知した後(図5のS226)、顔画像追加登録処理を終了する(図5のS227)。
顔特徴量が登録されている顔向き条件および照明条件の組合せが1つ以上有る場合は(図5のS205:Yes)、画像処理装置10は、不揮発性メモリ14から登録されている顔特徴量ならびに顔向き条件および照明条件の組合せを読み出す(図5のS206)。
次に、画像処理装置10は、今回の顔画像による個人認証動作における類似度最大値Pmaxを0に初期設定する(図5のS207)。
続いて、画像処理装置10は、LED電流制御装置20を起動する(図5のS208)。これにより、LED30の発光が可能となる。
次に、画像処理装置10は、顔画像撮影用カメラ40を起動する(図5のS209)。これにより、被撮影者の顔の撮影が可能になる。
続いて、画像処理装置10は、撮影トリガー入力手段103により撮影トリガー信号を自動的に入力してLED30を発光させると同時に顔画像撮影用カメラ40のシャッターを作動させ、被撮影者の顔画像を撮影する(図5のS210)。撮影された被撮影者の顔画像は、画像入力手段106により、顔撮影用カメラ40から画像処理装置10に入力され、RAM13上に一時的に格納される。
次に、画像処理装置10は、顔特徴量演算手段107により、RAM13上に一時的に格納された被撮影者の顔画像から顔特徴量を演算する(図5のS211)。なお、顔特徴量の演算については、すでにステップS107で詳述した。
続いて、画像処理装置10は、顔特徴量類似度比較手段108により、ステップS211で演算された顔特徴量と、不揮発性メモリ14に初期登録されている顔特徴量との類似度を演算する(図5のS212)。詳しくは、顔特徴量類似度比較手段108は、部分空間法や複合類似度法などの方法を用いて顔特徴量の類似度を演算する。たとえば、文献(前田賢一、渡辺貞一:「局所的構造を導入したパターン・マッチング法」、電子情報通信学会論文誌(D),vol.J68−D,No.3,pp345−352(1985))に記載されている相互部分空間法を用いることができる。この方法では、演算された顔特徴量も、初期登録されている顔特徴量も部分空間として表現され、2つの部分空間のなす「角度」を類似度として定義する。なお、相関値やユークリッド距離といった他の尺度で類似度を定義してもよいことはもちろんである。
次に、画像処理装置10は、演算された類似度が類似度最大値Pmaxより大きいかどうかを判定し(図5のS213)、大きい場合は(図5のS213:Yes)、演算された類似度を類似度最大値Pmaxに設定する(図5のS214)。演算された類似度が類似度最大値Pmax以下の場合には(図5のS213:No)、ステップS214をスキップする。
続いて、画像処理装置10は、類似度最大値Pmaxと、第1閾値記憶手段109に記憶されている、顔画像の追加登録を許可する類似度の下限値である第1閾値Th1とを比較する(図5のS215)。
類似度最大値Pmax が第1閾値Th1以上である場合(図5のS215:Yes)、画像処理装置10は、ステップS216に制御を移し、顔向き条件算出手段111による被撮影者の顔画像の顔向き条件の演算(図5のS216:図4のS108と同様)、照明条件算出手段112による被撮影者の顔画像の照明条件の演算(図5のS217:図4のS109と同様)を実行し、算出された顔向き条件および照明条件の組合せに対応して顔特徴量が未登録であるかどうかを判定する(図5のS218)。顔向き条件および照明条件の組合せに対応して顔特徴量が未登録である場合は(図5のS218:Yes)、画像処理装置10は、顔特徴量・顔向き条件・照明条件記憶手段113により、被撮影者の顔画像の顔特徴量を顔向き条件および照明条件の組合せに対応させて不揮発性メモリ14に登録し(図5のS219)、ステップS220に制御を移す。この際、登録条件類似度判定手段114により、図6に示した顔向き条件および照明条件の組み合わせの中から、演算した顔向き条件および演算した照明条件の組合せに最も近い顔向き条件および照明条件の組み合わせが選定される。顔向き条件および照明条件の組合せに対応して顔特徴量がすでに登録されている場合は(図5のS218:No)、画像処理装置10は、登録者の顔画像の顔特徴量を不揮発性メモリ14に登録することなしに、ステップS220に制御を移す。
一方、類似度最大値Pmaxが第1閾値Th1未満である場合は(図5のS215:No)、画像処理装置10は、ステップS216〜S219を実行することなく、ステップS220に制御を移す。
ステップS220では、画像処理装置10は、類似度最大値Pmaxと、第2閾値記憶手段110に記憶されている、顔画像による個人認証において登録者と認証する類似度の下限値である第2閾値Th2とを比較する。
類似度最大値Pmaxが第2閾値Th2未満である場合は(図5のS220:No)、画像処理装置10は、被撮影者の顔画像を登録者以外の顔画像であると判定し、すなわち被撮影者を登録者であるとは認証せずに(図5のS222)、認証結果を他の機器に送信する(図5のS223)。
他方、類似度最大値Pmaxが第2閾値Th2以上である場合は(図5のS220:Yes)、画像処理装置10は、被撮影者の顔画像を登録者の顔画像であると判定し、すなわち被撮影者を登録者と認証し(図5のS221)、認証結果を他の機器に送信する(図5のS223)。
次に、画像処理装置10は、類似度最大値Pmaxが第2閾値Th2以上で、かつ、同じ被撮影者が継続して運転席に着座中であるかを判定する(図5のS224)。同じ被撮影者が継続して運転席に着座中であるかどうかは、例えば、シートに内蔵した荷重センサにより、被撮影者が離席していないことを検出して判断する。
類似度最大値Pmaxが第2閾値Th2以上で、かつ、同じ被撮影者が継続して運転席に着座中であると判定された場合は(図5のS224:Yes)、画像処理装置10は、撮影インターバルの演算後(図5のS225)、ステップS210に制御を戻し、ステップS210〜S224が再度実行する。これにより、顔画像が未登録の顔向き条件および照明条件の組合せに対応させて、顔画像を自動的に順次登録することができる。
類似度最大値Pmaxが第2閾値Th2以上で、かつ、同じ被撮影者が継続して運転席に着座中であると判定されなかった場合は(図5のS224:No)、画像処理装置10は、顔画像追加登録処理を終了する(図5のS227)。
以上のような一連の動作を繰り返すことで、登録者が面倒な顔画像の登録操作を繰り返すことなしに、様々な顔向き条件および照明条件の組み合わせでの顔特徴量を自動的にαに追加登録することができる。このため、顔画像による個人認証時には、自動的に登録された複数の顔特徴量に基づいて認証がなされるため、顔画像撮影時の顔向き条件および照明条件の組合せが理想的な顔向き条件および照明条件の組合せから多少外れていても、登録者を棄却する可能性を低減することができる。
なお、本実施例1では、車両の運転者の顔を顔撮影用カメラ40で撮影した顔画像を利用して個人認証を行うシステムを前提として説明したが、本発明の適用対象が車両での個人認証に限定されるわけではないことはいうまでもない。例えば、図書館,美術館等の入館管理システム、会社,研究所等の入退室管理システム、カメラ付携帯電話機での個人認証システム等の様々な分野で本発明を適用することができる。
以上、本発明の実施例を説明したが、これはあくまでも例示にすぎず、本発明はこれに限定されるものではなく、特許請求の範囲の趣旨を逸脱しない限りにおいて、当業者の知識に基づく種々の変更が可能である。
本発明の実施例1に係る顔画像認証装置の構成を示すブロック図。 図1中の画像処理装置の構成を示す回路ブロック図。 図2中の画像処理プログラムの構成を示すブロック図。 本実施例1に係る顔画像認証装置における顔画像初期登録処理を示すフローチャート。 本実施例1に係る顔画像認証装置における顔画像追加登録処理を示すフローチャート。 図5の顔画像追加登録処理における顔画像を登録する顔向き条件および照明条件の組合せの例を示す図。
符号の説明
10 画像処理装置
11 CPU
12 ROM
13 RAM
14 不揮発性メモリ
20 LED電流制御装置
30 LED
40 顔撮影用カメラ
100 画像処理プログラム
101 顔画像登録起動信号入力手段
102 顔画像登録終了信号入力手段
103 撮影トリガー入力手段
104 登録条件読出し手段
105 他の機器への通信手段
106 画像入力手段
107 顔特徴量演算手段
108 顔特徴量類似度比較手段
109 第1閾値記憶手段
110 第2閾値記憶手段
111 顔向き条件算出手段
112 照明条件算出手段
113 顔特徴量・顔向き条件・照明条件記憶手段
114 登録条件類似度比較手段

Claims (5)

  1. 登録者の顔画像の顔特徴量を顔向き条件および照明条件の組合せ毎に登録する記憶手段と、
    被撮影者の顔を撮影する顔撮影手段と、
    登録者の操作に基づいて前記顔撮影手段により撮影された発明者の顔画像の顔特徴量を、顔画像撮影時の顔向き条件および照明条件の組合せに対応させて前記記憶手段に初期登録する顔画像初期登録手段と、
    被撮影者の所定の動作を契機として前記顔撮影手段により撮影された被撮影者の顔画像の顔特徴量が前記記憶手段に登録されている登録者の顔画像の顔特徴量と類似する場合に、被撮影者の顔画像の顔特徴量を、登録者の顔画像の顔特徴量として、顔画像撮影時の顔向き条件および照明条件の組合せに対応させて前記記憶手段に追加登録する顔画像追加登録手段と、
    前記顔撮影手段により撮影された被撮影者の顔画像の顔特徴量が前記記憶手段に登録されている登録者の顔画像の顔特徴量のいずれかと類似する場合に、被撮影者は登録者であると認証する認証手段と、
    を備えることを特徴とする顔画像認証装置。
  2. 前記顔画像初期登録手段が、登録者の顔画像から顔特徴量を演算する顔特徴量演算手段と、登録者の顔画像から顔向き条件を演算する顔向き条件算出手段と、登録者の顔画像から照明条件を演算する照明条件算出手段と、前記顔特徴量を前記顔向き条件および前記照明条件の組合せに対応させて前記記憶手段に登録する顔特徴量・顔向き条件・照明条件記憶手段とを含む請求項1記載の顔画像認証装置。
  3. 前記顔画像追加登録手段が、被撮影者の顔画像から顔特徴量を演算する顔特徴量演算手段と、前記顔特徴量演算手段により演算された顔特徴量と前記記憶手段に登録されている顔特徴量との類似度を演算する顔特徴量類似度比較手段と、前記顔特徴量類似度比較手段により演算された類似度が類似度最大値より大きい場合に当該類似度を類似度最大値に設定する類似度最大値設定手段と、前記類似度最大値設定手段により設定された類似度最大値が第1閾値以上である場合に被撮影者の顔画像から顔向き条件を演算する顔向き条件算出手段と、被撮影者の顔画像から照明条件を演算する照明条件算出手段と、前記顔向き条件および前記照明条件の組合せに対応して顔特徴量が未登録である場合に前記顔特徴量演算手段により演算された顔特徴量を前記顔向き条件および前記照明条件の組合せに対応させて前記記憶手段に登録する顔特徴量・顔向き条件・照明条件記憶手段とを含む請求項1または2記載の顔画像認証装置。
  4. 前記認証手段が、前記類似度最大値と登録者と認証する類似度の下限値である第2閾値とを比較し、前記類似度最大値が前記第2閾値以上である場合は被撮影者を登録者と認証する請求項1ないし3のいずれか1項に記載の顔画像認証装置。
  5. 被撮影者の顔を照明する照明手段を備える請求項1ないし4のいずれかに1項に記載の顔画像認証装置。
JP2005281487A 2005-09-28 2005-09-28 顔画像認証装置 Expired - Fee Related JP4553138B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2005281487A JP4553138B2 (ja) 2005-09-28 2005-09-28 顔画像認証装置
KR1020060094045A KR100826309B1 (ko) 2005-09-28 2006-09-27 얼굴 화상 인증 장치
DE102006045752A DE102006045752B4 (de) 2005-09-28 2006-09-27 Vorrichtung zur Gesichtsbildauthentifizierung

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005281487A JP4553138B2 (ja) 2005-09-28 2005-09-28 顔画像認証装置

Publications (2)

Publication Number Publication Date
JP2007094637A true JP2007094637A (ja) 2007-04-12
JP4553138B2 JP4553138B2 (ja) 2010-09-29

Family

ID=37980300

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005281487A Expired - Fee Related JP4553138B2 (ja) 2005-09-28 2005-09-28 顔画像認証装置

Country Status (3)

Country Link
JP (1) JP4553138B2 (ja)
KR (1) KR100826309B1 (ja)
DE (1) DE102006045752B4 (ja)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009011401A1 (ja) * 2007-07-19 2009-01-22 Nec Corporation 生体情報記録装置、生体情報記録方法および生体情報記録用プログラム
JP2009193184A (ja) * 2008-02-13 2009-08-27 Nissan Motor Co Ltd 顔認識装置および顔認識方法
JP2009245338A (ja) * 2008-03-31 2009-10-22 Secom Co Ltd 顔画像照合装置
JP2009258990A (ja) * 2008-04-16 2009-11-05 Panasonic Electric Works Co Ltd 顔認証装置及び顔認証方法
JP2010027035A (ja) * 2008-06-16 2010-02-04 Canon Inc 個人認証装置及び個人認証方法
WO2011058807A1 (ja) * 2009-11-13 2011-05-19 日本ビクター株式会社 映像処理装置および映像処理方法
JP2012014568A (ja) * 2010-07-02 2012-01-19 Omron Corp 監視装置および方法、並びにプログラム
KR101172213B1 (ko) 2010-12-08 2012-08-07 현대자동차주식회사 얼굴인증 시스템 및 그 방법
JP2012203668A (ja) * 2011-03-25 2012-10-22 Sony Corp 情報処理装置、物体認識方法、プログラム及び端末装置
WO2013129825A1 (ko) * 2012-02-28 2013-09-06 인텔 코오퍼레이션 얼굴 인식 환경 통지 방법, 장치, 및 이 방법을 실행하기 위한 컴퓨터 판독 가능한 기록 매체
KR101326221B1 (ko) 2012-03-15 2013-11-11 구글 인코포레이티드 안면 특징 검출
JP2014116033A (ja) * 2008-06-16 2014-06-26 Canon Inc 個人認証装置及び個人認証方法、カメラ、プログラム並びに記憶媒体
EP2879072A1 (en) 2013-12-02 2015-06-03 Fujitsu Limited Biometric information registration device and method
CN108027883A (zh) * 2015-06-30 2018-05-11 美国日本电气公司 面部识别***
CN111382681A (zh) * 2020-02-28 2020-07-07 浙江大华技术股份有限公司 一种人脸注册方法、装置及存储介质
JP2022123030A (ja) * 2020-10-28 2022-08-23 キヤノンマーケティングジャパン株式会社 情報処理装置、その制御方法とプログラム
WO2023281743A1 (ja) * 2021-07-09 2023-01-12 日本電気株式会社 認証システム、認証装置、認証方法、及び記録媒体

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5434708B2 (ja) * 2010-03-15 2014-03-05 オムロン株式会社 照合装置、デジタル画像処理システム、照合装置制御プログラム、コンピュータ読み取り可能な記録媒体、および照合装置の制御方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001043373A (ja) * 1999-07-29 2001-02-16 Yis Corporation Co Ltd 作動許否判定装置
JP2003317101A (ja) * 2002-04-23 2003-11-07 Samsung Electronics Co Ltd データベース自動更新方法を用いた顔検証方法及びそのシステム
JP2003346158A (ja) * 2002-05-28 2003-12-05 Toshiba Corp 顔画像による顔領域追跡方法
JP2005056004A (ja) * 2003-08-07 2005-03-03 Omron Corp 顔照合装置、顔照合方法、および顔照合プログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6181805B1 (en) * 1993-08-11 2001-01-30 Nippon Telegraph & Telephone Corporation Object image detecting method and system
US6345109B1 (en) 1996-12-05 2002-02-05 Matsushita Electric Industrial Co., Ltd. Face recognition-matching system effective to images obtained in different imaging conditions
SG103253A1 (en) 2000-01-26 2004-04-29 Kent Ridge Digital Labs Method and apparatus for cancelling lighting variations in object recognition
JP3575679B2 (ja) * 2000-03-31 2004-10-13 日本電気株式会社 顔照合方法と該照合方法を格納した記録媒体と顔照合装置
TWI299471B (en) * 2001-08-24 2008-08-01 Toshiba Kk Person recognition apparatus
JP2003178274A (ja) 2001-12-12 2003-06-27 Nippon Signal Co Ltd:The アクセスコントロールに用いる情報記憶媒体の発行装置および発行システム
US7653219B2 (en) * 2002-01-22 2010-01-26 Photoinaphoto.Com System and method for image attribute recording an analysis for biometric applications
AU2002951625A0 (en) * 2002-09-24 2002-10-10 Biometix Pty Limited System for improving and modifying object illumination using active light sources
JP4314016B2 (ja) * 2002-11-01 2009-08-12 株式会社東芝 人物認識装置および通行制御装置
JP4057501B2 (ja) 2003-10-03 2008-03-05 東芝ソシオシステムズ株式会社 認証システム及びコンピュータ読み取り可能な記憶媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001043373A (ja) * 1999-07-29 2001-02-16 Yis Corporation Co Ltd 作動許否判定装置
JP2003317101A (ja) * 2002-04-23 2003-11-07 Samsung Electronics Co Ltd データベース自動更新方法を用いた顔検証方法及びそのシステム
JP2003346158A (ja) * 2002-05-28 2003-12-05 Toshiba Corp 顔画像による顔領域追跡方法
JP2005056004A (ja) * 2003-08-07 2005-03-03 Omron Corp 顔照合装置、顔照合方法、および顔照合プログラム

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009011401A1 (ja) * 2007-07-19 2009-01-22 Nec Corporation 生体情報記録装置、生体情報記録方法および生体情報記録用プログラム
JP2009193184A (ja) * 2008-02-13 2009-08-27 Nissan Motor Co Ltd 顔認識装置および顔認識方法
JP2009245338A (ja) * 2008-03-31 2009-10-22 Secom Co Ltd 顔画像照合装置
JP2009258990A (ja) * 2008-04-16 2009-11-05 Panasonic Electric Works Co Ltd 顔認証装置及び顔認証方法
JP2014116033A (ja) * 2008-06-16 2014-06-26 Canon Inc 個人認証装置及び個人認証方法、カメラ、プログラム並びに記憶媒体
US8912885B2 (en) 2008-06-16 2014-12-16 Canon Kabushiki Kaisha Personal authentication apparatus and personal authentication method
JP2010027035A (ja) * 2008-06-16 2010-02-04 Canon Inc 個人認証装置及び個人認証方法
WO2011058807A1 (ja) * 2009-11-13 2011-05-19 日本ビクター株式会社 映像処理装置および映像処理方法
JP2011109275A (ja) * 2009-11-13 2011-06-02 Victor Co Of Japan Ltd 映像処理装置および映像処理方法
JP2012014568A (ja) * 2010-07-02 2012-01-19 Omron Corp 監視装置および方法、並びにプログラム
KR101172213B1 (ko) 2010-12-08 2012-08-07 현대자동차주식회사 얼굴인증 시스템 및 그 방법
JP2012203668A (ja) * 2011-03-25 2012-10-22 Sony Corp 情報処理装置、物体認識方法、プログラム及び端末装置
WO2013129825A1 (ko) * 2012-02-28 2013-09-06 인텔 코오퍼레이션 얼굴 인식 환경 통지 방법, 장치, 및 이 방법을 실행하기 위한 컴퓨터 판독 가능한 기록 매체
US9213886B2 (en) 2012-02-28 2015-12-15 Intel Corporation Method and device for notification of facial recognition environment, and computer-readable recording medium for executing method
US9864756B2 (en) 2012-02-28 2018-01-09 Intel Corporation Method, apparatus for providing a notification on a face recognition environment, and computer-readable recording medium for executing the method
KR101326221B1 (ko) 2012-03-15 2013-11-11 구글 인코포레이티드 안면 특징 검출
EP2879072A1 (en) 2013-12-02 2015-06-03 Fujitsu Limited Biometric information registration device and method
US9798958B2 (en) 2013-12-02 2017-10-24 Fujitsu Limited Biometric information registration device and method
JP2015106386A (ja) * 2013-12-02 2015-06-08 富士通株式会社 生体情報抽出装置、生体情報抽出方法、および生体情報抽出プログラム
CN108027883A (zh) * 2015-06-30 2018-05-11 美国日本电气公司 面部识别***
JP2018525723A (ja) * 2015-06-30 2018-09-06 エヌイーシー コーポレイション オブ アメリカ 顔認識システム
US10657362B2 (en) 2015-06-30 2020-05-19 Nec Corporation Of America Facial recognition system
US11501566B2 (en) 2015-06-30 2022-11-15 Nec Corporation Of America Facial recognition system
CN111382681A (zh) * 2020-02-28 2020-07-07 浙江大华技术股份有限公司 一种人脸注册方法、装置及存储介质
CN111382681B (zh) * 2020-02-28 2023-11-14 浙江大华技术股份有限公司 一种人脸注册方法、装置及存储介质
JP2022123030A (ja) * 2020-10-28 2022-08-23 キヤノンマーケティングジャパン株式会社 情報処理装置、その制御方法とプログラム
JP7356060B2 (ja) 2020-10-28 2023-10-04 キヤノンマーケティングジャパン株式会社 情報処理装置、その制御方法とプログラム
WO2023281743A1 (ja) * 2021-07-09 2023-01-12 日本電気株式会社 認証システム、認証装置、認証方法、及び記録媒体

Also Published As

Publication number Publication date
DE102006045752B4 (de) 2011-06-01
JP4553138B2 (ja) 2010-09-29
KR20070035989A (ko) 2007-04-02
DE102006045752A1 (de) 2007-05-16
KR100826309B1 (ko) 2008-04-30

Similar Documents

Publication Publication Date Title
JP4553138B2 (ja) 顔画像認証装置
US9652663B2 (en) Using facial data for device authentication or subject identification
Stein et al. Fingerphoto recognition with smartphone cameras
US7536037B2 (en) Apparatus and method for human distinction using infrared light
CN110443016B (zh) 信息防泄露方法、电子装置及存储介质
US20180181794A1 (en) Analysis of reflections of projected light in varying colors, brightness, patterns, and sequences for liveness detection in biometric systems
JP4826234B2 (ja) 顔認証装置、セキュリティ強度変更方法およびプログラム
EP2336949B1 (en) Apparatus and method for registering plurality of facial images for face recognition
JP5076563B2 (ja) 顔照合装置
US20070113099A1 (en) Authentication apparatus and portable terminal
JP2003178306A (ja) 個人認証装置および個人認証方法
JP2006330936A (ja) 顔認証装置
JP5652886B2 (ja) 顔認証装置、認証方法とそのプログラム、情報機器
CN109460697B (zh) 人脸辨识的辅助过滤装置及电子装置的启动方法
JP2008146539A (ja) 顔認証装置
JP5955031B2 (ja) 顔画像認証装置
JPWO2020079741A1 (ja) 虹彩認証装置、虹彩認証方法、虹彩認証プログラムおよび記録媒体
JP2009015518A (ja) 眼画像撮影装置及び認証装置
KR101000130B1 (ko) 얼굴인식 가능한 단말기 및 그의 얼굴인식 방법
US20230118532A1 (en) Method and system for detecting a spoofing attempt
JP2003308524A (ja) アクセスコントロールシステム
JP2004280277A (ja) 撮像装置、および顔認証装置
CN116030513A (zh) 面部认证***、包括面部认证***的车辆及面部认证方法
JP2023007006A (ja) 顔認証システム、および顔認証方法
EP3893147B1 (en) Liveliness detection using a device comprising an illumination source

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071015

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100518

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100623

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130723

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4553138

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100706

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130723

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees