JP4903192B2 - 顔検出装置 - Google Patents

顔検出装置 Download PDF

Info

Publication number
JP4903192B2
JP4903192B2 JP2008292173A JP2008292173A JP4903192B2 JP 4903192 B2 JP4903192 B2 JP 4903192B2 JP 2008292173 A JP2008292173 A JP 2008292173A JP 2008292173 A JP2008292173 A JP 2008292173A JP 4903192 B2 JP4903192 B2 JP 4903192B2
Authority
JP
Japan
Prior art keywords
face
likelihood
image
detection
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008292173A
Other languages
English (en)
Other versions
JP2010117981A (ja
Inventor
祥太郎 三輪
裕史 鹿毛
和彦 鷲見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2008292173A priority Critical patent/JP4903192B2/ja
Publication of JP2010117981A publication Critical patent/JP2010117981A/ja
Application granted granted Critical
Publication of JP4903192B2 publication Critical patent/JP4903192B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、監視カメラ装置などの画像撮影装置によって取得された画像データ中の顔画像領域を検出する顔検出装置に関する。
顔検出装置は、監視カメラ装置などの画像撮影装置によって取得された1フレーム毎の画像データにおいて、顔画像領域を検出する。このような顔検出装置の性能を示す指標として、顔画像領域の検出率(以下、検出率という。)、非顔画像領域の誤検出率(以下、誤検出率という。)及び顔画像領域の見逃し率(以下、見逃し率という。)が知られている。
一般に、顔検出装置は、矩形形状を有する顔画像領域の真の位置及び真の大きさと、顔画像領域として検出された矩形の検出領域の位置及び大きさとを比較し、上記検出領域の位置及び大きさが顔画像領域の真の位置及び真の大きさとそれぞれ一致するときには、上記検出領域を「検出」と分類し、一致しないときには上記検出領域を「誤検出」と分類する。ここで、顔画像領域として検出された検出領域の数をNdetectedと定義し、Ndetected個の検出領域のうち「検出」と分類されたものの数をNtrueと定義し、「誤検出」と分類されたものの数をNfalseと定義する。このとき、Ndetected=Ntrue+Nfalseが成り立つ。さらに、検出されるべき顔画像領域の数をn、検出されるべき顔画像領域のうち実際に検出された顔画像領域の数をn0、検出されるべき顔画像領域のうち検出されなかった顔画像領域の数をn1(=n−n0)と定義する。このとき、本明細書において、上記検出率、誤検出率及び見逃し率を、1フレーム毎に以下のように定義する。
検出率(%)=(n1/n)×100;
誤検出率(個)=Nfalse;
見逃し率(%)=(n1/n)×100.
また、真の顔画像領域と検出領域とが一致するか否かは、例えば、以下の式を満たすか否かによって判断される。
0.8<(a/a0)<1.2かつD<a0×0.2
ここで、aは真の顔画像領域の大きさ(例えば、幅である。)を表すパラメータであり、a0は検出領域の大きさを表すパラメータであり、Dは、真の顔画像領域の重心位置と検出領域の重心位置との間の距離である。
非特許文献1には、比較的高い検出率(例えば、99パーセント)と数十パーセント程度の誤検出率とを有する、検出性能は比較的低いが高速な演算が可能な識別器(classifier)を多段に直列接続する技術が開示されている。これにより、顔画像領域の検出率の低下を抑えながら、画像中に含まれる多くの非顔画像領域を排除し、高速性と高い性能とをかね合わせた顔検出器を実現できる。
Paul Viola et al., "Rapid Object Detection Using a Boosted Cascade of Simple Features", Proceedings of IEEE Conference on Computer Vision and Pattern Recognition, Vol. 1, pp. 511-518, December 2001. Paul Viola et al., "Robust Real-time Object Detection", Proceedings of IEEE workshop on Statistical and Computational Theories of Vision, July 2001. Thierry Chateauet al., "Realtime tracking with classifiers", Proceedings of International Workshop on Dynamical Vision in conjunction with ECCV, May 2006.
顔検出装置は、変化する照明環境下で顔の向きが様々に変化することによって顔画像領域の画像パターンが変化しても、高い検出率で当該顔画像領域を検出する必要がある。しかしながら、一般に、このような多様な画像パターンを有する顔画像領域の検出率をあげようとした場合、誤検出率も同時にあがってしまうという問題点があった。
このような問題点に対処するために、非特許文献1では、99パーセント程度の高い検出率と40パーセント程度の誤検出率とを有する識別器であって、検出性能は低いが高速に計算できる単体の識別器を多段に直列接続する。これにより、例えば、上記多段接続の段数が複数mであるときには、最終的に、0.99×100パーセントの検出率と0.4×100パーセントの低い誤検出率とを有する、高速性と高い性能とを兼ね備えた顔検出器を実現できる。
しかしながら、実際には、監視カメラ装置によって撮影された画像データのように、顔画像領域において照明環境及び顔の向きの変動によって顔画像のパターンが大きく変動するときには、100パーセントに近い高い検出率と数10パーセント程度の誤検出率とを有する各識別器を実現することは難しかった。
本発明の目的は以上の問題点を解決し、照明環境及び顔の向きの変動によって顔画像のパターンが大きく変動するときにも、従来技術に比較して誤検出率を上げることなく高い検出率で顔画像領域を検出できる顔検出装置を提供することにある。
本発明に係る顔検出装置は、入力される画像データの検出領域において所定の第1の画像特徴量を算出し、上記第1の画像特徴量に基づいて、第1の顔検出アルゴリズムを用いて上記検出領域の顔画像領域らしさを示す顔尤度を算出する顔尤度算出手段と、上記算出された顔尤度を所定の第1のしきい値と比較し、上記第1のしきい値未満の顔尤度を有する検出領域を非顔画像領域であると判定する顔尤度判定手段と、上記第1のしきい値以上の顔尤度を有する検出領域を含む周辺検出領域を設定し、上記周辺検出領域において所定の第2の画像特徴量を算出し、上記第2の画像特徴量に基づいて、上記第1の顔検出アルゴリズムに比較して低速な顔検出アルゴリズムであって、上記第1の顔検出アルゴリズムの顔画像領域の検出率に比較して高い検出率及び上記第1の顔検出アルゴリズムの非顔画像領域の誤検出率に比較して低い誤検出率を有する第2の顔検出アルゴリズムを用いて、上記周辺検出領域の顔画像領域らしさを示す顔周辺尤度を算出する顔周辺尤度算出手段と、上記算出された顔周辺尤度を所定の第2のしきい値と比較し、上記第2のしきい値未満の顔周辺尤度を有する周辺検出領域に含まれる検出領域を非顔画像領域であると判定する顔周辺尤度判定手段とを備える。
本発明に係る顔検出装置によれば、入力される画像データの検出領域において所定の第1の画像特徴量を算出し、上記第1の画像特徴量に基づいて、第1の顔検出アルゴリズムを用いて上記検出領域の顔画像領域らしさを示す顔尤度を算出する顔尤度算出手段と、上記第1のしきい値以上の顔尤度を有する検出領域を含む周辺検出領域を設定し、上記周辺検出領域において所定の第2の画像特徴量を算出し、上記第2の画像特徴量に基づいて、上記第1の顔検出アルゴリズムに比較して低速な顔検出アルゴリズムであって、上記第1の顔検出アルゴリズムの顔画像領域の検出率に比較して高い検出率及び上記第1の顔検出アルゴリズムの非顔画像領域の誤検出率に比較して低い誤検出率を有する第2の顔検出アルゴリズムを用いて、上記周辺検出領域の顔画像領域らしさを示す顔周辺尤度を算出する顔周辺尤度算出手段とを備えたので、照明環境及び顔の向きの変動によって顔画像のパターンが大きく変動するときにも、従来技術に比較して誤検出率を上げることなく高い検出率で高速に顔画像領域を検出できる。
以下、本発明に係る実施の形態について図面を参照して説明する。なお、以下の各実施の形態において、同様の構成要素については同一の符号を付している。
図1は、本発明の実施の形態1に係る顔検出装置の構成を示すブロック図であり、図2は、図1のCPU20によって実行される顔検出処理を示すフローチャートである。また、図3は、図2の顔検出処理によって処理される画像データの一例並びに当該顔検出処理に用いられる検出領域A1及び周辺検出領域A2を示す図である。
図1において、本実施の形態に係る顔検出装置は、画像入力部1と、CPU20と、判定結果出力部8とを備えて構成される。画像入力部1はインターフェース回路であって、監視カメラ装置(図示せず。)などの画像撮影装置からの画像データを入力して当該画像データに対して顔検出装置とのインターフェース処理を実行してCPU20に出力する。また、CPU20は、画像走査部2と、顔尤度算出部3と、顔尤度判定部4と、顔周辺尤度算出部5と、顔周辺尤度判定部6と、統合尤度判定部7とを備えて構成され、詳細後述する顔検出処理によって、入力される画像データ中の顔画像領域の位置と大きさとを検出して判定結果出力部8に出力する。判定結果出力部8はディスプレイ装置であって、入力される画像データの画像上に上記検出された顔画像領域を出力して表示する。
なお、本実施の形態及び以下の各実施の形態に係る顔検出処理によって検出される顔画像領域のパラメータは、矩形形状を有する当該顔画像領域の左上の角の画像データ中の位置(x,y)及び当該顔画像領域の大きさ(幅w及び高さh)である。ここで、画像データ中のX軸及びY軸を、図3に示すように定義する。
本実施の形態に係る顔検出装置は、
(a)入力される画像データの検出領域A1において第1の画像特徴量を算出し、第1の画像特徴量に基づいて、第1の顔検出アルゴリズムを用いて検出領域A1の顔画像領域らしさを示す顔尤度Pfaceを算出する顔尤度算出部3と、
(b)算出された顔尤度Pfaceをしきい値αと比較し、しきい値α未満の顔尤度Pfaceを有する検出領域A1を非顔画像領域であると判定する顔尤度判定部4と、
(c)しきい値α以上の顔尤度Pfaceを有する検出領域A1を含む周辺検出領域A2を設定し、周辺検出領域A2において第2の画像特徴量を算出し、第2の画像特徴量に基づいて、第1の顔検出アルゴリズムに比較して低速な顔検出アルゴリズムであって、第1の顔検出アルゴリズムの顔画像領域の検出率に比較して高い検出率及び第1の顔検出アルゴリズムの非顔画像領域の誤検出率に比較して低い誤検出率を有する第2の顔検出アルゴリズムを用いて、周辺検出領域A2の顔画像領域らしさを示す顔周辺尤度Pneighborを算出する顔周辺尤度算出部5と、
(d)算出された顔周辺尤度Pneighborをしきい値βと比較し、しきい値β未満の顔周辺尤度Pneighborを有する周辺検出領域A2に含まれる検出領域A1を非顔画像領域であると判定する顔周辺尤度判定部6とを備えたことを特徴としている。
次に、図2を参照して、本実施の形態に係る顔検出処理を説明する。ステップS1において、画像走査部2は画像入力部1を介して入力される画像データを走査する。具体的には、画像走査部2は、検出領域A1のX座標x,Y座標y,幅w及び高さhを以下の式(1)〜式(4)及び図3に示すようにそれぞれ変化させることにより、検出領域A1で画像領域全体を走査する。
ここで、x0,y0,w0,h0,T,L,Nは正の整数値を有する定数であり、sは1以上の実数の定数であり、検出領域A1で画像領域全体を走査するようにそれぞれ設定される。また、幅w0及び高さh0は検出領域A1の最小の大きさを示す。
次に、CPU20は、検出領域A1毎に以下のステップS2〜ステップS8の処理を行うことにより、当該検出領域A1が顔画像領域であるか非顔画像領域であるかを判定する。まず、ステップS2において、顔尤度算出部3は、走査された画像データの各検出領域A1において、当該検出領域A1の第1の画像特徴量を算出し、算出された第1の画像特徴量に基づいて、第1の顔検出アルゴリズムを用いて、検出領域A1の顔画像領域らしさを示す尤度である顔尤度Pfaceを算出して顔尤度判定部4に出力する。次に、ステップS3において、顔尤度判定部4は、算出された顔尤度Pfaceが所定のしきい値α以上であるか否かを判断し、YESのときには検出領域A1及び算出された顔尤度Pfaceを抽出して顔周辺尤度算出部5に出力してステップS4に進む一方、NOのときには検出領域A1は非顔画像領域であると判定してステップS8に進む。
さらに、ステップS4において、顔周辺尤度算出部5は、しきい値α以上の顔尤度Pfaceを有する検出領域A1を含む周辺検出領域A2を設定し、当該周辺検出領域A2において第2の画像特徴量を算出し、算出された第2の画像特徴量に基づいて第2の顔検出アルゴリズムを用いて、周辺検出領域A2の顔画像領域らしさを示す尤度である顔周辺尤度Pneighborを算出して顔周辺尤度判定部5に出力する。ここで、周辺検出領域A2は、検出領域A1を当該検出領域A1の中心に対して所定の割合で拡大した領域であり、上記割合は、例えば、周辺検出領域A2が顔輪郭及び頭部だけを含むように、又は顔輪郭、頭部及び肩を含むように予め設定される定数である。次に、ステップS5において、顔周辺尤度判定部6は、顔周辺尤度Pneighborが所定のしきい値β以上であるか否かを判断し、YESのときには検出領域A1及び算出された顔周辺尤度Pneighborを抽出して統合尤度判定部7に出力してステップS6に進み、NOのときには検出領域A1は非顔画像領域であると判定してステップS8に進む。
そして、ステップS6において、統合尤度判定部7は、しきい値α以上の顔尤度Pfaceを有しかつしきい値β以上の顔周辺尤度Pneighborを有する検出領域A1において算出された顔尤度Pfaceと顔周辺尤度Pneighborとを乗算することにより、顔尤度Pfaceと顔周辺尤度Pneighborとを統合的に含む統合尤度Pcombined(=Pneighbor×Pface)を算出する。そして、統合尤度Pcombinedがしきい値γ以上であるか否かを判断し、YESのときにはステップS7において、検出領域A1は顔画像領域であると判定して、検出領域A1の位置(x,y)及び大きさ(w,h)を、画像データ中の顔画像領域の位置及び大きさとして判定結果出力部8を介して出力する。一方、ステップS7においてNOのときには、ステップS8に進む。ステップS8において、検出領域A1は非顔画像領域であると判定され、当該判定結果が判定結果出力部8を介して出力される。以上詳述したように、図2の顔検出処理によって、入力される画像データ中の検出領域A1のうち、しきい値α以上の顔尤度Pfaceを有し、しきい値β以上の顔周辺尤度Pneighborを有し、かつしきい値γ以上の統合尤度Pcombinedを有する検出領域A1が顔画像領域として抽出され、抽出された検出領域A1の位置及び大きさが出力される。
次に、図2のステップS2及びS4においてそれぞれ用いられる第1及び第2の顔検出アルゴリズムについて説明する。第1の顔検出アルゴリズムは、画像領域の大部分を占める顔画像を含まない非顔画像領域と、当該顔画像領域に比較して非常に狭い領域である顔画像領域の中から、第2の顔検出アルゴリズムに比較して高速に顔画像領域を抽出するためのアルゴリズムである。このため、第1の顔検出アルゴリズムとしては、数十パーセント程度の誤検出率があったとしても、比較的小さい見逃し率で(すなわち、比較的大きい検出率で)高速に顔画像領域を検出できるアルゴリズムを用いることが望ましい。例えば、第1の顔検出アルゴリズムとして、非特許文献1〜非特許文献3に係る方法を用いてもよい。非特許文献1では、例えば、検出領域の輝度値の分布に基づいて画像特徴量であるハール(Haar)特徴量を算出し、算出されたハール特徴量に基づいて、学習アルゴリズムとしてアダブースト(AdaBoost)を用いて顔尤度Pfaceを算出する。
監視カメラ映像などの画像撮影装置によって取得された画像データに含まれる顔画像領域内の画像パターンは、上下左右方向の様々な顔の向きの変化並びに照明の明るさ、暗さ及び均一性などの照明環境の変動に依存して大きく変動する。このため、第1の顔検出アルゴリズムを用いて算出された顔尤度Pfaceがしきい値α以上である検出領域A1は、顔画像領域の他に非顔画像領域も含む。
本実施の形態では、顔検出アルゴリズムによって誤検出率の大きさが異なることに着目し、しきい値α以上の顔尤度Pfaceを有する検出領域A1(図2のステップS3参照。)において、第2の顔検出アルゴリズムを用いて顔周辺尤度Pneighborを算出する。ここで、事前確率として第1の顔検出アルゴリズムと組み合わせた場合に、効率的に誤検出率を下げることができかつ比較的高い事後確率が得られる顔検出アルゴリズムを、第2の顔検出アルゴリズムとして用いる。具体的には、第2の顔検出アルゴリズムは、第1の顔検出アルゴリズムとの同時確率を考えた場合に、第1の検出アルゴリズムの検出率より高い検出率及び第1の検出アルゴリズムの誤検出率より低い誤検出率を有する。これにより、従来技術に比較して検出率を下げることなく、誤検出率だけを下げることができる。また、第1の顔検出アルゴリズムは第2の顔検出アルゴリズムに比較して高速であり、これにより、従来技術に比較して高速に顔画像領域を検出できる。
さらに、顔尤度算出部3は、検出領域A1の第1の画像特徴量に基づいて顔尤度Pfaceを算出し、顔周辺尤度算出部6は、周辺検出領域A2の所定の第2の画像特徴量に基づいて顔周辺尤度Pneighborを算出して出力する。第2の画像特徴量は第1の画像特徴量に比較して検出領域内A1の顔画像のパターンの変化の影響を受けにくい画像特徴量である。本実施の形態において、第1の画像特徴量は検出領域A1内の輝度値の分布を表す画像特徴量であって、第2の画像特徴量に比較して照明環境の変動の影響を受けやすい。一方、周辺検出領域A2内の輝度の勾配の方向のヒストグラムである。従って、第2の画像特徴量は、顔の輪郭を含む顔の形状を表し、照明環境の変動や顔の向きの影響を受けにくく、かつ顔の内部の画像パターンの変化によらず一定な値を有する画像特徴量であり、本実施の形態では、輝度値に基づいて算出されるエッジのデータを用いて計算される。第2の顔検出アルゴリズムにおいて第2の画像特徴量と組み合わせて用いられる学習アルゴリズムについては特に制約はないが、例えばサポートベクターマシン(Support Vector Machine(SVM))を用いて顔検出器を生成することができる。また、非特許文献3の方法によって、サポートベクターマシンからのスコアを用いて、識別器から出力される値を顔周辺尤度Pneighborに変換できる。
本実施の形態によれば、顔尤度算出部3は、走査された画像データの各検出領域A1において第1の画像特徴量を算出し、算出された第1の画像特徴量に基づいて、第1の顔検出アルゴリズムを用いて検出領域A1の顔尤度Pfaceを算出し、顔周辺尤度算出部5は、しきい値α以上の顔尤度Pfaceを有する各検出領域A1において、当該検出領域A1を含む周辺検出領域A2を設定し、周辺検出領域A2において第2の画像特徴量を算出し、算出された第2の画像特徴量に基づいて周辺検出領域A2の顔周辺尤度Pneighborを算出して出力する。ここで、第2の顔検出アルゴリズムは第1の顔検出アルゴリズムに比較して低速な顔検出アルゴリズムであり、第2の顔検出アルゴリズムは第1の顔検出アルゴリズムの検出率より高い検出率及び第1の顔検出アルゴリズムの誤検出率より低い誤検出率を有するので、照明環境及び顔の向きの変動によって顔画像のパターンが大きく変動するときにも、従来技術に比較して誤検出率を上げることなく高い検出率で高速に顔画像領域を検出できる。
また、顔周辺尤度算出部5は、周辺検出領域A2を上検出領域A1よりも広くなるように設定し、かつ第2の画像特徴量は、所定の第1の画像特徴量に比較して検出領域A1内の顔画像のパターンの変化の影響を受けにくい画像特徴量である。従って、従来技術に比較して高い検出率で顔画像領域を検出できる。
さらに、しきい値α以上の顔尤度Pfaceを有しかつしきい値β以上の顔周辺尤度Pneighborを有する検出領域A1において算出された顔尤度Pface及び算出された顔周辺尤度Pneighborに基づいて、顔尤度Pfaceと顔周辺尤度Pneighborとを統合的に含む尤度である統合尤度Pcombinedを算出し、算出された統合尤度Pcombinedをしきい値γと比較し、しきい値γ以上の統合尤度Pcombinedを有する検出領域A1を顔画像領域であると判定する統合尤度判定部7を備えたので、従来技術に比較して高い検出率で顔画像領域を検出できる。
なお、図2のステップS2において、検出領域A1の位置及び大きさを変化させることによって画像領域全体を走査したが、本発明はこれに限られず、画像ピラミッドとよばれる方法を用いてもよい。画像ピラミッドでは、画像領域自体の大きさを段階的に縮小し、大きさの異なる各画像領域に対して固定の大きさを有する矩形形状を有する検出領域を移動させる。これにより、画像領域中の異なる大きさの顔画像領域を検出できる。
実施の形態2.
図4は、本発明の実施の形態2に係る顔検出装置の構成を示すブロック図であり、図5は、図4のCPU20Aによって実行される顔検出処理を示すフローチャートである。また、図6は、図5の顔検出処理によって処理される画像データの一例及び存在しうる顔画像領域F1,F2及び存在し得ない顔画像領域F3,F4を示す図である。図4において、実施の形態2の顔検出装置は、画像入力部1と、CPU20Aと、顔分布データベースメモリ21とを備えて構成され、実施の形態1の顔検出装置と比較して、以下の点が異なる。
(a)検出領域A1の画像データ内での位置(x,y)及び検出領域A1の大きさを示すパラメータspと、画像データ内での位置(x,y)及び大きさを示すパラメータspを有する顔画像領域が存在する確率である画像空間内顔尤度Pcamera1との関係を示す顔分布データベースを予め格納した顔分布データベースメモリ21をさらに備えたこと。
(b)顔分布データベースを参照して、入力される画像データの検出領域A1の画像空間内顔尤度Pcamera1を算出する画像空間内顔尤度算出部11をさらに備えたこと。
(c)画像空間内顔尤度Pcamera1をしきい値ηと比較し、しきい値η未満の画像空間内顔尤度Pcamera1を有する検出領域A1を非顔画像領域であると判定する画像空間内顔尤度判定部12をさらに備えたこと。
(d)しきい値α以上の顔尤度Pfaceを有し、しきい値β以上の顔周辺尤度Pneighborを有しかつしきい値η以上の画像空間内顔尤度Pcamera1を有する検出領域A1において算出された顔尤度Pface、算出された顔周辺尤度Pneighbor及び算出された画像空間内顔尤度Pcamera1に基づいて、顔尤度Pfaceと顔周辺尤度Pneighborと画像空間内顔尤度Pcamera1とを統合的に含む尤度である統合尤度Pcombined1を算出し、算出された統合尤度Pcombined1を所定のしきい値γと比較し、しきい値γ以上の統合尤度Pcombined1を有する検出領域A1を顔画像領域であると判定する統合尤度判定部7Aをさらに備えたこと。
(e)顔尤度算出部3は、入力される画像データの検出領域A1に代えて、しきい値η以上の画像空間内顔尤度Pcamera1を有する検出領域A1において顔尤度Pfaceを算出すること。
検出領域A1は、当該検出領域A1の位置(x,y)及び当該検出領域A1の大きさ(w,h)を示すパラメータspで表される。ここで、spは、以下の式で表される。
例えば、図6に示すように、監視カメラ装置で撮影された廊下の画像データの場合には、通常は、その廊下を歩く人物の顔はカメラに近づくにつれて、画像領域の上から下へと移動しかつ大きくなる。このとき、顔画像領域は、顔画像領域F1(x1,x1,sp1)から顔画像領域F2(x2,x2,sp2)のように変化する。このため、画像領域の上部に顔画像領域F3(x3,x3,sp3)のような比較的大きい顔画像領域が存在する確率及び画像領域の下部に顔画像領域F4(x4,x4,sp4)のような比較的大きい顔画像領域が存在する確率は極めて小さい。
このとき、位置(x,y)に存在しうる顔画像領域の大きさを示すパラメータspは、平均値spmean及び標準偏差spsigmaを有する正規分布に従う。本実施の形態では、位置(x,y)にパラメータspで表される大きさを有する顔画像領域が存在する確率(尤もらしさ)である画像空間内顔尤度Pcamera1(x,y,sp)を、以下の式(5)で表す。
図4において、顔分布データベースメモリ21は、検出領域A1の位置(x,y)及び検出領域A1の大きさ(w,h)を示すパラメータspと、位置(x,y)にパラメータspで表される大きさを有する顔画像領域が存在する確率である画像空間内顔尤度Pcamera1(x,y,sp)との関係を示す顔分布データベースを予め格納している。例えば、図6に示した例では、画像領域F1の画像空間内顔尤度Pcamera1(x1,y1,sp1)及び画像領域F2の画像空間内顔尤度Pcamera1(x2,y2,sp2)は、画像領域F3の画像空間内顔尤度Pcamera1(x3,y3,sp3)及び画像領域F4の画像空間内顔尤度Pcamera1(x4,y4,sp4)よりも大きい。
図5の顔検出処理は、図2の顔検出処理と比較して、ステップS1とステップS2との間にステップS11及びステップS12を追加し、ステップS6,S7をステップS6A,S7Aにそれぞれ置き換えた点のみが異なる。CPU20Aは、ステップS1に引き続いて、検出領域A1毎に以下のステップS11,S12,S2〜S8の処理を行うことにより、当該検出領域A1が顔画像領域であるか非顔画像領域であるかを判定する。
ステップS11において、画像空間内顔尤度算出部11は、顔分布データベースメモリ21内の顔分布データベースを参照して、検出領域A1(x,y,sp)において画像空間顔尤度Pcamera1(x,y,sp)を算出して画像空間内顔尤度判定部12に出力する。次に、ステップS12において、画像空間内顔尤度判定部12は、画像空間顔尤度Pcamera1(x,y,sp)が所定のしきい値η以上であるか否かを判断し、YESのときには検出領域A1及び算出された画像空間顔尤度Pcamera1(x,y,sp)を抽出して顔尤度算出部3に出力してステップS2に進み、NOのときには検出領域A1は非顔画像領域であると判定してステップS8に進む。
また、ステップS6Aにおいて、統合尤度判定部7Aは、しきい値α以上の顔尤度Pfaceを有し、しきい値β以上の顔周辺尤度Pneighborを有しかつしきい値η以上の画像空間内顔尤度Pcamera1を有する検出領域A1において算出された顔尤度Pface、算出された顔周辺尤度Pneighbor及び算出された画像空間内顔尤度Pcamera1とを乗算することにより統合尤度Pcombined1(=Pneighbor×Pface×Pcamera1)を算出し、算出された統合尤度Pcombined1を所定のしきい値γと比較し、YESのときにはステップS7Aにおいて、しきい値γ以上の統合尤度Pcombined1を有する検出領域A1を顔画像領域であると判定して検出領域A1の位置(x,y)及び大きさ(w,h)を、画像データ中の顔画像領域の位置及び大きさとして判定結果出力部8を介して出力する。一方、ステップS7AにおいてNOのときには、ステップS8に進む。
本実施の形態によれば、顔分布データベースメモリ21の顔分布データベースを参照して、走査された画像データの各検出領域A1において画像空間内顔尤度Pcamera1aを算出する画像空間内顔尤度算出部11と、画像空間内顔尤度Pcamera1がしきい値η以上であるか否かを判断する画像空間内顔尤度判定部12とを備えたので、実施の形態1に比較してさらに低い誤検出率で顔画像領域を検出できる。
また、画像空間内顔尤度算出部11及び画像空間内顔尤度判定部12を顔尤度算出部3の前段に備えたので、画像空間内顔尤度Pcamera1がしきい値γより小さい検出領域A1において顔尤度Pfaceの算出を行う必要が無く、実施の形態1に比較してさらに高速に顔画像領域を検出できる。
さらに、顔尤度Pfaceと顔周辺尤度Pneighborと画像空間顔尤度Pcamera1とに基づいて統合尤度Pcombined1を算出し、しきい値γ以上の統合尤度Pcombined1を有する検出領域A1を、顔画像領域として出力するので、実施の形態1に比較してさらに高い検出率で顔画像領域を検出できる。
なお、顔分布データベースメモリ21内の顔分布データベース31を、実際に検出された顔画像領域のデータに基づいて作成してもよい。
実施の形態3.
図7は、本発明の実施の形態3に係る顔検出装置の構成を示すブロック図であり、図8は、図7のCPU20Bによって実行される顔検出処理を示すフローチャートである。図7において、実施の形態3の顔検出装置は、画像入力部1と、CPU20Bと、顔分布データベースメモリ21Aと、空間位置情報入力部22とを備えて構成され、実施の形態2の顔検出装置と比較して、以下の点が異なる。
(a)検出領域A1内に存在する物体の空間位置データを入力する空間位置情報入力部22をさらに備えたこと。
(b)顔分布データベースメモリ21に代えて、検出領域A1の画像データ内での位置(x,y)及び検出領域A1の大きさを示すパラメータspと、空間位置データと、空間位置データに対応する検出領域A1に画像データ内での位置(x,y)及び大きさを示すパラメータspを有する顔画像領域が存在する確率である画像空間内顔尤度Pcamera2との関係を示す顔分布データベースを予め格納した顔分布データベースメモリ21Aを備えたこと。
(c)画像空間内顔尤度判定部12に代えて、画像空間内顔尤度Pcamera2をしきい値ηと比較し、しきい値η未満の画像空間内顔尤度Pcamera2を有する検出領域A1を非顔画像領域であると判定する画像空間内顔尤度判定部12Aを備えたこと。
(d)統合尤度判定部7Aに代えて、しきい値α以上の顔尤度Pfaceを有し、しきい値β以上の顔周辺尤度Pneighborを有しかつしきい値η以上の画像空間内顔尤度Pcamera2を有する検出領域A1において算出された顔尤度Pface、算出された顔周辺尤度Pneighbor及び算出された画像空間内顔尤度Pcamera2に基づいて、顔尤度Pfaceと顔周辺尤度Pneighborと画像空間内顔尤度Pcamera2とを統合的に含む尤度である統合尤度Pcombined2を算出し、算出された統合尤度Pcombined2を所定のしきい値γと比較し、しきい値γ以上の統合尤度Pcombined2を有する検出領域A1を顔画像領域であると判定する統合尤度判定部7Bを備えたこと。
(e)顔尤度算出部3は、画像空間内顔尤度Pcamera1に代えて、しきい値η以上の画像空間内顔尤度Pcamera2を有する検出領域A1において顔尤度Pfaceを算出すること。
図7において、空間位置情報入力部22は、検出領域A1に存在する物体の監視カメラ装置からの距離dを検出するステレオカメラ装置又は超音波センサなどの距離センサを有する空間位置検出装置(図示せず。)から、当該距離dのデータを入力する。また、顔分布データベースメモリ21Aは、検出領域A1の位置(x,y)及び大きさ(w,h)と、当該検出領域A1に存在する物体の監視カメラ装置dからの距離と、画像空間内顔尤度Pcamera2(x,y,sp,d)との関係を示す顔分布データベースを予め格納する。
図8の顔検出処理は、図5の顔検出処理と比較して、ステップS11,S12,S6A,S7Aに代えてステップS11A,S12A,S6B,S7Bを有することを特徴としている。ステップS11Aにおいて、画像空間内顔尤度算出部11Aは、空間位置情報入力部22からの距離データに基づいて、顔分布データベースメモリ21A内の顔分布データベースを参照して、検出領域A1(x,y,sp)において画像空間顔尤度Pcamera2(x,y,sp,d)を算出して画像空間内顔尤度判定部12Aに出力する。次に、ステップS12Aにおいて、画像空間内顔尤度判定部12Aは、画像空間顔尤度Pcamera2(x,y,sp,d)が所定のしきい値η以上であるか否かを判断し、YESのときには検出領域A1及び算出された画像空間顔尤度Pcamera2(x,y,sp,d)を抽出して顔尤度算出部3に出力してステップS2に進み、NOのときには検出領域A1は非顔画像領域であると判定してステップS8に進む。
また、ステップS6Bにおいて、統合尤度判定部7Bは、しきい値α以上の顔尤度Pfaceを有し、しきい値β以上の顔周辺尤度Pneighborを有しかつしきい値η以上の画像空間内顔尤度Pcamera2を有する検出領域A1において算出された顔尤度Pface、算出された顔周辺尤度Pneighbor及び算出された画像空間内顔尤度Pcamera2とを乗算することにより統合尤度Pcombined2(=Pneighbor×Pface×Pcamera2)を算出し、算出された統合尤度Pcombined2を所定のしきい値γと比較し、YESのときにはステップS7Bにおいて、しきい値γ以上の統合尤度Pcombined2を有する検出領域A1を顔画像領域であると判定して検出領域A1の位置(x,y)及び大きさ(w,h)を、画像データ中の顔画像領域の位置及び大きさとして判定結果出力部8を介して出力する。一方、ステップS7AにおいてNOのときには、ステップS8に進む。
本実施の形態によれば、距離dに基づいて、顔分布データベースメモリ21Aの顔分布データベースを参照して、検出領域A1の画像空間内顔尤度Pcamera2を算出する画像空間内顔尤度算出部11Aを備えたので、実施の形態2に比較してさらに低い誤検出率で顔画像領域を検出できる。
変形例.
なお、実施の形態2の顔検出処理(図5)において、ステップS11及びステップS12をステップS3の次に実行してもよい。また、実施の形態3の顔検出処理(図8)において、ステップS11A及びステップS12AをステップS3の次に実行してもよい。
さらに、上記各実施の形態に係る顔検出装置は人間の顔を含む顔画像領域の位置及び大きさを検出したが、本発明はこれに限られず、歩行者、車両、標識又は看板などを含む画像領域を検出するように構成してもよい。
以上詳述したように、本発明に係る顔検出装置によれば、入力される画像データの検出領域において所定の第1の画像特徴量を算出し、上記第1の画像特徴量に基づいて、第1の顔検出アルゴリズムを用いて上記検出領域の顔画像領域らしさを示す顔尤度を算出する顔尤度算出手段と、上記第1のしきい値以上の顔尤度を有する検出領域を含む周辺検出領域を設定し、上記周辺検出領域において所定の第2の画像特徴量を算出し、上記第2の画像特徴量に基づいて、上記第1の顔検出アルゴリズムに比較して低速な顔検出アルゴリズムであって、上記第1の顔検出アルゴリズムの顔画像領域の検出率に比較して高い検出率及び上記第1の顔検出アルゴリズムの非顔画像領域の誤検出率に比較して低い誤検出率を有する第2の顔検出アルゴリズムを用いて、上記周辺検出領域の顔画像領域らしさを示す顔周辺尤度を算出する顔周辺尤度算出手段とを備えたので、照明環境及び顔の向きの変動によって顔画像のパターンが大きく変動するときにも、従来技術に比較して誤検出率を上げることなく高い検出率で高速に顔画像領域を検出できる。
本発明の実施の形態1に係る顔検出装置の構成を示すブロック図である。 図1のCPU20によって実行される顔検出処理を示すフローチャートである。 図2の顔検出処理によって処理される画像データの一例並びに当該顔検出処理に用いられる検出領域A1及び周辺検出領域A2を示す図である。 本発明の実施の形態2に係る顔検出装置の構成を示すブロック図である。 図4のCPU20Aによって実行される顔検出処理を示すフローチャートである。 図5の顔検出処理によって処理される画像データの一例及び存在しうる顔画像領域F1,F2及び存在し得ない顔画像領域F3,F4を示す図である。 本発明の実施の形態3に係る顔検出装置の構成を示すブロック図である。 図7のCPU20Bによって実行される顔検出処理を示すフローチャートである。
符号の説明
1 画像入力部、2 画像走査部、3 顔尤度算出部、4 顔尤度判定部、5 顔周辺尤度算出部、6 顔周辺尤度判定部、7,7A,7B 統合尤度判定部、8 判定結果出力部、11 画像空間内顔尤度算出部、12,12A 画像空間内顔尤度判定部、20,20A,20B CPU、21,21A 顔分布データベースメモリ、22 空間位置情報入力部、A1 検出領域、A2 周辺検出領域。

Claims (8)

  1. 入力される画像データの検出領域において所定の第1の画像特徴量を算出し、上記第1の画像特徴量に基づいて、第1の顔検出アルゴリズムを用いて上記検出領域の顔画像領域らしさを示す顔尤度を算出する顔尤度算出手段と、
    上記算出された顔尤度を所定の第1のしきい値と比較し、上記第1のしきい値未満の顔尤度を有する検出領域を非顔画像領域であると判定する顔尤度判定手段と、
    上記第1のしきい値以上の顔尤度を有する検出領域を含む周辺検出領域を設定し、上記周辺検出領域から上記検出領域を除いた領域において所定の第2の画像特徴量を算出し、上記第2の画像特徴量に基づいて、上記第1の顔検出アルゴリズムに比較して低速な顔検出アルゴリズムであって、上記第1の顔検出アルゴリズムの顔画像領域の検出率に比較して高い検出率及び上記第1の顔検出アルゴリズムの非顔画像領域の誤検出率に比較して低い誤検出率を有する第2の顔検出アルゴリズムを用いて、上記周辺検出領域の顔画像領域らしさを示す顔周辺尤度を算出する顔周辺尤度算出手段と、
    上記算出された顔周辺尤度を所定の第2のしきい値と比較し、上記第2のしきい値未満の顔周辺尤度を有する周辺検出領域に含まれる検出領域を非顔画像領域であると判定する顔周辺尤度判定手段とを備えたことを特徴とする顔検出装置。
  2. 上記第2の画像特徴量は顔の輪郭を表すことを特徴とする請求項1記載の顔検出装置。
  3. 上記顔周辺尤度算出手段は、上記周辺検出領域を上記検出領域よりも広くなるように設定し、
    上記第2の画像特徴量は、上記第1の画像特徴量に比較して上記検出領域内の顔画像のパターンの変化の影響を受けにくい画像特徴量であることを特徴とする請求項記載の顔検出装置。
  4. 上記第1の画像特徴量は上記検出領域内の輝度値の分布を表す画像特徴量であり、
    上記第2の画像特徴量は上記周辺検出領域内の輝度値の勾配の方向の分布を表す画像特徴量であることを特徴とする請求項記載の顔検出装置。
  5. 上記検出領域の画像データ内での位置及び大きさを示すパラメータと、上記画像データ内での位置及び大きさを有する顔画像領域が存在する確率である画像空間内顔尤度との関係を示す顔分布データベースを予め格納した顔分布データベースメモリと、
    上記顔分布データベースを参照して、上記入力される画像データの検出領域の画像空間内顔尤度を算出する画像空間内顔尤度算出手段と、
    上記画像空間内顔尤度を所定の第3のしきい値と比較し、上記第3のしきい値未満の画像空間内顔尤度を有する検出領域を非顔画像領域であると判定する画像空間内顔尤度判定手段とをさらに備え、
    上記顔尤度算出手段は、上記第3のしきい値以上の画像空間内顔尤度を有する検出領域において上記顔尤度を算出することを特徴とする請求項1乃至のうちのいずれか1つに記載の顔検出装置。
  6. 上記検出領域内に存在する物体の空間位置データを入力する空間位置情報入力手段と、
    上記検出領域の画像データ内での位置及び大きさを示すパラメータと、上記空間位置データと、上記空間位置データに対応する検出領域に上記画像データ内での位置及び大きさを有する顔画像領域が存在する確率である画像空間内顔尤度との関係を示す顔分布データベースを予め格納した顔分布データベースメモリと、
    上記入力された空間位置データに基づいて、上記顔分布データベースを参照して、上記入力される画像データの検出領域の画像空間内顔尤度を算出する画像空間内顔尤度算出手段と、
    上記算出された画像空間内顔尤度を所定の第3のしきい値と比較し、上記第3のしきい値未満の画像空間内顔尤度を有する検出領域を非顔画像領域であると判定する画像空間内顔尤度判定手段とをさらに備え、
    上記顔尤度算出手段は、上記第3のしきい値以上の画像空間内顔尤度を有する検出領域において上記顔尤度を算出することを特徴とする請求項1乃至のうちのいずれか1つに記載の顔検出装置。
  7. 上記第1のしきい値以上の顔尤度を有しかつ上記第2のしきい値以上の顔周辺尤度を有する検出領域において上記算出された顔尤度及び上記算出された顔周辺尤度に基づいて、上記顔尤度と上記顔周辺尤度とを統合的に含む尤度である第1の統合尤度を算出し、上記算出された第1の統合尤度を所定の第4のしきい値と比較し、上記第4のしきい値以上の第1の統合尤度を有する検出領域を顔画像領域であると判定する第1の統合尤度判定手段をさらに備えたことを特徴とする請求項1乃至のうちのいずれか1つに記載の顔検出装置。
  8. 上記第1のしきい値以上の顔尤度を有し、上記第2のしきい値以上の顔周辺尤度を有しかつ上記第3のしきい値以上の画像空間内顔尤度を有する検出領域において上記算出された顔尤度、上記算出された顔周辺尤度及び上記算出された画像空間内顔尤度に基づいて、上記顔尤度と上記顔周辺尤度と上記画像空間内顔尤度とを統合的に含む尤度である第2の統合尤度を算出し、上記算出された第2の統合尤度を所定の第4のしきい値と比較し、上記第4のしきい値以上の第2の統合尤度を有する検出領域を顔画像領域であると判定する第2の統合尤度判定手段をさらに備えたことを特徴とする請求項又は記載の顔検出装置。
JP2008292173A 2008-11-14 2008-11-14 顔検出装置 Expired - Fee Related JP4903192B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008292173A JP4903192B2 (ja) 2008-11-14 2008-11-14 顔検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008292173A JP4903192B2 (ja) 2008-11-14 2008-11-14 顔検出装置

Publications (2)

Publication Number Publication Date
JP2010117981A JP2010117981A (ja) 2010-05-27
JP4903192B2 true JP4903192B2 (ja) 2012-03-28

Family

ID=42305605

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008292173A Expired - Fee Related JP4903192B2 (ja) 2008-11-14 2008-11-14 顔検出装置

Country Status (1)

Country Link
JP (1) JP4903192B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4123604A1 (en) 2021-07-21 2023-01-25 Canon Kabushiki Kaisha Identification apparatus, identification method, and training method

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5706131B2 (ja) * 2010-11-05 2015-04-22 グローリー株式会社 被写体検出方法および被写体検出装置
JP5751067B2 (ja) * 2011-07-27 2015-07-22 大日本印刷株式会社 個体識別装置、個体識別方法、及びプログラム
CN103208005A (zh) * 2012-01-13 2013-07-17 富士通株式会社 对象识别方法和对象识别设备
JP5840083B2 (ja) * 2012-07-04 2016-01-06 三菱電機株式会社 画像処理装置
JP6907774B2 (ja) * 2017-07-14 2021-07-21 オムロン株式会社 物体検出装置、物体検出方法、およびプログラム
JP6677830B1 (ja) * 2019-01-18 2020-04-08 ソフトバンク株式会社 情報処理装置の制御プログラム、情報処理装置の制御方法、及び、情報処理装置
JP6675564B1 (ja) * 2019-05-13 2020-04-01 株式会社マイクロネット 顔認識システム、顔認識方法及び顔認識プログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006323779A (ja) * 2005-05-20 2006-11-30 Canon Inc 画像処理方法、画像処理装置
JP2007066010A (ja) * 2005-08-31 2007-03-15 Fujifilm Corp 判別器学習方法および対象判別装置ならびにプログラム
JP2008033785A (ja) * 2006-07-31 2008-02-14 Seiko Epson Corp オブジェクト検出装置およびオブジェクト検出方法ならびにオブジェクト検出用プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4123604A1 (en) 2021-07-21 2023-01-25 Canon Kabushiki Kaisha Identification apparatus, identification method, and training method

Also Published As

Publication number Publication date
JP2010117981A (ja) 2010-05-27

Similar Documents

Publication Publication Date Title
JP4903192B2 (ja) 顔検出装置
JP6088792B2 (ja) 画像検出装置及び制御プログラム並びに画像検出方法
JP5726125B2 (ja) 奥行き画像内の物体を検出する方法およびシステム
CN111401257A (zh) 一种基于余弦损失非约束条件人脸识别方法
US20150253864A1 (en) Image Processor Comprising Gesture Recognition System with Finger Detection and Tracking Functionality
CN110348270B (zh) 影像物件辨识方法与影像物件辨识***
US20120057748A1 (en) Apparatus which detects moving object from image and method thereof
JP5671928B2 (ja) 学習装置、学習方法、識別装置、識別方法、およびプログラム
JP2006146922A (ja) テンプレート方式の顔検出方法
WO2019026104A1 (ja) 情報処理装置、情報処理プログラム及び情報処理方法
JP2006146626A (ja) パターン認識方法および装置
JP6351243B2 (ja) 画像処理装置、画像処理方法
US9082000B2 (en) Image processing device and image processing method
JP2014093023A (ja) 物体検出装置、物体検出方法及びプログラム
JP6071002B2 (ja) 信頼度取得装置、信頼度取得方法および信頼度取得プログラム
JP5063632B2 (ja) 学習モデル生成装置、対象物検出システム、及びプログラム
JP6110174B2 (ja) 画像検出装置及び制御プログラム並びに画像検出方法
JP2011053951A (ja) 画像処理装置
JP2007025902A (ja) 画像処理装置、画像処理方法
JP5100688B2 (ja) 対象物検出装置及びプログラム
JP2013015891A (ja) 画像処理装置、画像処理方法及びプログラム
JP6202937B2 (ja) 画像認識装置、画像認識方法、及びコンピュータプログラム
JP6030457B2 (ja) 画像検出装置及び制御プログラム並びに画像検出方法
JP2012243285A (ja) 特徴点位置決定装置、特徴点位置決定方法及びプログラム
CN109657577B (zh) 一种基于熵和运动偏移量的动物检测方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100927

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110819

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111028

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111206

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120104

R150 Certificate of patent or registration of utility model

Ref document number: 4903192

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150113

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees