JP2010191592A - 顔の特徴部位の座標位置を検出する画像処理装置 - Google Patents

Abstract

【課題】本発明は、顔領域検出における信頼度をより精度良く算出することを目的とする。
【解決手段】
注目画像に含まれる顔の特徴部位の座標位置を検出する画像処理装置は、注目画像から顔画像の少なくとも一部を含む画像領域を顔領域として検出する顔領域検出部と、特徴部位の座標位置を検出するための特徴点を顔領域に基づいて注目画像に設定するとともに、特徴部位の座標位置が既知の顔画像を含む複数のサンプル画像に基づいて算出される特徴量を用いて、特徴点の設定位置を座標位置に近づける、または、一致させるように更新し、更新された設定位置を座標位置として検出する特徴位置検出部と、更新された設定位置と、座標位置との差異に基づいて算出される差異量を用いて、顔領域検出部により検出された顔領域に含まれる顔画像が真の顔画像であることの確からしさを表す顔領域信頼度を算出する顔領域信頼度算出部と、を備える。
【選択図】図１

Description

本発明は、注目画像に含まれる顔の特徴部位の座標位置を検出する画像処理装置に関する。

注目画像から顔画像を含む画像領域を顔領域として検出する技術が知られている（特許文献１）。また、顔領域の検出において、顔画像を含まない画像領域を誤って顔領域として検出する誤検出が生じる場合があることから、顔領域検出の信頼度、すなわち検出された顔領域が誤検出ではなく真に顔画像を含んだ画像領域であることの確からしさを表す指標を算出する技術が知られている。

特開２０００−１４９０１８号公報 特開２００７−１４１１０７号公報

しかし、顔領域検出の信頼度について、より精度良く算出する余地があった。

本発明は、上記の課題を解決するためになされたものであり、顔領域検出における信頼度をより精度良く算出することを目的とする。

上記課題の少なくとも一部を解決するために本願発明は以下の態様を採る。

第１の態様は、注目画像に含まれる顔の特徴部位の座標位置を検出する画像処理装置を提供する。本発明の第１の態様に係る画像処理装置は、前記注目画像から顔画像の少なくとも一部を含む画像領域を顔領域として検出する顔領域検出部と、前記特徴部位の座標位置を検出するための特徴点を前記顔領域に基づいて前記注目画像に設定するとともに、前記特徴部位の座標位置が既知の顔画像を含む複数のサンプル画像に基づいて算出される特徴量を用いて、前記特徴点の設定位置を前記座標位置に近づける、または、一致させるように更新し、更新された前記設定位置を前記座標位置として検出する特徴位置検出部と、前記更新された前記設定位置と、前記座標位置との差異に基づいて算出される差異量を用いて、前記顔領域検出部により検出された前記顔領域に含まれる顔画像が真の顔画像であることの確からしさを表す顔領域信頼度を算出する顔領域信頼度算出部と、を備える。

第１の態様に係る画像処理装置によれば、特徴位置検出部により更新された特徴点の設定位置と、顔の特徴部位の座標位置との差異に基づいて算出される差異量を用いることで、顔領域検出における信頼度である顔領域信頼度をより精度良く算出することができる。

第１の態様に係る画像処理装置において、前記顔領域信頼度算出部は、前記差異量に基づいて、検出された前記座標位置が前記顔の特徴部位の座標位置である確からしさを表す特徴部位信頼度を算出する特徴部位信頼度算出部と、顔領域検出部による前記顔領域の検出過程に基づいて、検出された前記顔領域に含まれる顔画像が真の顔画像であることの確からしさを表す顔領域仮信頼度を算出する顔領域仮信頼度算出部と、を備え、前記特徴部位信頼度および前記顔領域仮信頼度を用いて、前記顔領域信頼度を算出してもよい。この場合、特徴部位信頼度および顔領域仮信頼度を用いることで、顔領域信頼度をより精度良く算出することができる。

第１の態様に係る画像処理装置において、前記顔領域信頼度算出部は、前記顔領域仮信頼度と前記特徴部位信頼度との平均値を前記顔領域信頼度としてもよい。この場合、顔領域仮信頼度と特徴部位信頼度との平均値を顔領域信頼度とすることで、顔領域信頼度をより精度良く算出することができる。

第１の態様に係る画像処理装置において、前記差異量は、前記注目画像に設定された前記特徴点に基づいて、前記注目画像の一部を変換した画像である平均形状画像と、前記複数のサンプル画像に基づいて生成された画像である平均顔画像との差分値に基づく値であってもよい。この場合、平均形状画像と平均顔画像との差分値に基づく差異量を用いることで、顔領域信頼度をより精度良く算出することができる。

第１の態様に係る画像処理装置において、前記差分値は、前記平均形状画像を構成する画素の画素値と、前記平均顔画像において前記平均形状画像と対応する画素の画素値との差により表されていてもよい。この場合、前記平均形状画像を構成する画素の画素値と、前記平均顔画像において前記平均形状画像と対応する画素の画素値との差分値を差異量の算出に用いることで、顔領域信頼度をより精度良く算出することができる。

第１の態様に係る画像処理装置において、前記差異量は、前記差分値のノルムであってもよい。この場合、差分値のノルムを用いることにより、顔領域信頼度をより精度良く算出することができる。

第１の態様に係る画像処理装置において、前記差異量は、前記平均形状画像を構成する複数のメッシュ領域ごとの前記差分値に、それぞれ係数をかけた修正差分値のノルムであってもよい。この場合、修正差分値のノルムを用いることにより、顔領域信頼度をより精度良く算出することができる。

第１の態様に係る画像処理装置はさらに、前記顔領域信頼度に基づいて、前記顔領域検出部により検出された前記顔領域に含まれる顔画像が真の顔画像であるか否かを判定する判定部を備えていてもよい。この場合、差異量を用いて算出された顔領域信頼度を用いることで、検出した顔領域に含まれる顔画像が真の顔画像であるか否かを良好に判定することができる。

第１の態様に係る画像処理装置において、前記特徴量は、前記複数のサンプル画像に含まれる前記特徴部位の座標ベクトルを主成分分析して得られる形状ベクトルの係数であってもよい。この場合、形状ベクトルの係数を用いることにより、特徴点の設定位置を良好に更新することができる。

第１の態様に係る画像処理装置において、前記特徴部位は、眉毛と目と鼻と口とフェイスラインとの一部であってもよい。この場合、眉毛と目と鼻と口とフェイスラインと一部の座標位置を検出する際の差異量を用いることで、顔領域信頼度を精度良く算出することができる。

なお、本発明は、種々の態様で実現することが可能であり、例えば、プリンター、デジタルスチルカメラ、パーソナルコンピューター、デジタルビデオカメラ等で実現することができる。また、画像処理方法および装置、特徴部位の位置検出方法および装置、表情判定方法および装置、これらの方法または装置の機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体、そのコンピュータープログラムを含み搬送波内に具現化されたデータ信号、等の形態で実現することができる。

本発明の第１実施例における画像処理装置としてのプリンター１００の構成を概略的に示す説明図である。 第１実施例における顔特徴位置検出処理の流れを示すフローチャートである。 注目画像ＯＩにおける顔領域ＦＡの検出を説明するための説明図である。 評価値の算出に用いられるフィルタを説明するための説明図である。 顔の画像に対応する画像領域であると判定された複数のウィンドウＳＷを例示した説明図である。 第１実施例における特徴点ＣＰの初期位置設定処理の流れを示すフローチャートである。 グローバルパラメーターの値を変更することによる特徴点ＣＰの仮設定位置の一例を示す説明図である。 平均形状画像Ｉ（Ｗ（ｘ；ｐ））の一例を示す説明図である。 第１実施例における特徴点ＣＰ設定位置補正処理の流れを示すフローチャートである。 顔特徴位置検出処理の結果の一例を示す説明図である。 差分画像のノルムと特徴部位信頼度との関係を例示した説明図である。 特徴部位信頼度を算出する第２の方法を説明するための説明図である。 特徴部位信頼度を算出する第３の方法を説明するための説明図である。 ＡＡＭ設定処理の流れを示すフローチャートである。 サンプル画像ＳＩの一例を示す説明図である。 サンプル画像ＳＩにおける特徴点ＣＰの設定方法の一例を示す説明図である。 サンプル画像ＳＩに設定された特徴点ＣＰの座標の一例を示す説明図である。 平均形状ｓ₀の一例を示す説明図である。 形状ベクトルｓ_iおよび形状パラメーターｐ_iと顔の形状ｓとの関係を例示した説明図である。 サンプル画像ＳＩのワープＷの方法の一例を示す説明図である。 平均顔画像Ａ₀（ｘ）の一例を示す説明図である。 第２実施例における顔特徴位置検出処理の流れを示すフローチャートである。 変形例に係る差分画像のノルムと特徴部位信頼度との関係を例示した説明図である。

以下、本発明に係る画像処理装置の一態様であるプリンターについて、図面を参照しつつ、実施例に基づいて説明する。

Ａ．第１実施例：
Ａ１．画像処理装置の構成：
図１は、本発明の第１実施例における画像処理装置としてのプリンター１００の構成を概略的に示す説明図である。本実施例のプリンター１００は、メモリーカードＭＣ等から取得した画像データに基づき画像を印刷する、いわゆるダイレクトプリントに対応したインクジェット式カラープリンターである。プリンター１００は、プリンター１００の各部を制御するＣＰＵ１１０と、ＲＯＭやＲＡＭによって構成された内部メモリー１２０と、ボタンやタッチパネルにより構成された操作部１４０と、液晶ディスプレイにより構成された表示部１５０と、印刷機構１６０と、カードインターフェース（カードＩ／Ｆ）１７０と、を備えている。プリンター１００は、さらに、他の機器（例えばデジタルスチルカメラやパーソナルコンピューター）とのデータ通信を行うためのインターフェースを備えていてもよい。プリンター１００の各構成要素は、バスを介して双方向通信可能に接続されている。

印刷機構１６０は、印刷データに基づき印刷を行う。カードインターフェース１７０は、カードスロット１７２に挿入されたメモリーカードＭＣとの間でデータのやり取りを行うためのインターフェースである。なお、本実施例では、メモリーカードＭＣに画像データを含む画像ファイルが格納されている。

内部メモリー１２０には、画像処理部２００と、表示処理部３１０と、印刷処理部３２０と、が格納されている。画像処理部２００は、コンピュータープログラムであり、所定のオペレーティングシステムの下で、ＣＰＵ１１０により実行されることで顔特徴位置検出処理をおこなう。顔特徴位置検出処理は、顔画像における所定の特徴部位（例えば目尻や鼻頭やフェイスライン）の位置を検出する処理である。顔特徴位置検出処理については、後に詳述する。表示処理部３１０、および、印刷処理部３２０についてもＣＰＵ１１０により実行されることでぞれぞれの機能を実現する。

画像処理部２００は、プログラムモジュールとして、顔領域検出部２１０と、特徴位置検出部２２０と、顔領域信頼度算出部２３０と、判定部２４０と、を含んでいる。顔領域信頼度算出部２３０は、顔領域仮信頼度算出部２３２と、特徴部位信頼度算出部２３４と、を含んでいる。これら各部の機能については、後述の顔特徴位置検出処理の説明において詳述する。

表示処理部３１０は、表示部１５０を制御して、表示部１５０上に処理メニューやメッセージ、画像等を表示させるディスプレイドライバである。印刷処理部３２０は、画像データから印刷データを生成し、印刷機構１６０を制御して、印刷データに基づく画像の印刷を実行するためのコンピュータープログラムである。ＣＰＵ１１０は、内部メモリー１２０から、これらのプログラム（画像処理部２００、表示処理部３１０、印刷処理部３２０）を読み出して実行することにより、これら各部の機能を実現する。

内部メモリー１２０には、また、視覚的事象のモデル化手法であるアクティブアピアランスモデル（Ａｃｔｉｖｅ Ａｐｐｅａｒａｎｃｅ Ｍｏｄｅｌ、略して「ＡＡＭ」とも呼ばれる）に関する情報であるＡＡＭ情報ＡＭＩが格納されている。ＡＡＭ情報ＡＭＩは、後述のＡＡＭ設定処理によって予め設定される情報であり、後述の顔特徴位置検出処理において参照される。ＡＡＭ情報ＡＭＩの内容については、後述のＡＡＭ設定処理の説明において詳述する。

Ａ２．顔特徴位置検出処理：
図２は、第１実施例における顔特徴位置検出処理の流れを示すフローチャートである。本実施例における顔特徴位置検出処理は、ＡＡＭを利用して、顔画像における特徴部位の位置を検出する処理である。本実施例においてＡＡＭとは、複数のサンプル画像に含まれる顔の特徴部位（例えば目尻や鼻頭やフェイスライン）の位置（座標）や画素値（例えば輝度値）の統計的分析を通じて、上記特徴部位の位置により特定される顔の形状を表す形状モデルや、平均的な形状における「見え（Ａｐｐｅａｒａｎｃｅ）」を表すテクスチャーモデルを設定することであり、これらのモデルを用いて、任意の顔画像のモデル化（合成）や、画像に含まれる顔の特徴部位の位置の検出をおこなうことができる。

本実施例では、顔特徴位置検出処理に用いられる形状モデルおよびテクスチャーモデルを設定するためのＡＡＭ設定処理については後述する。このＡＡＭ設定処理において、形状モデルおよびテクスチャーモデルを設定するために用いたサンプル画像には、人物の顔の器官および顔の輪郭における所定位置が、特徴部位として設定される。本実施例では、特徴部位として、人物の顔における眉毛上の所定位置（例えば端点や４分割点等、以下同じ）、目の輪郭上の所定位置、鼻筋および小鼻の輪郭上の所定位置、上下唇の輪郭上の所定位置、顔の輪郭（フェイスライン）上の所定位置といった６８箇所の部位が設定されている。そのため、本実施例の顔特徴位置検出処理により、人物の顔の器官および顔の輪郭における所定位置を示す６８個の特徴点ＣＰの位置を特定することで特徴部位の位置の検出をおこなう。

はじめに、画像処理部２００（図１）は、顔特徴位置検出処理の対象となる注目画像を表す画像データを取得する（ステップＳ１１０）。本実施例のプリンター１００では、カードスロット１７２にメモリーカードＭＣが挿入されると、メモリーカードＭＣに格納された画像ファイルのサムネイル画像が表示部１５０に表示される。処理の対象となる１つまたは複数の画像は、操作部１４０を介してユーザにより選択される。画像処理部２００は、選択された１つまたは複数の画像に対応する画像データを含む画像ファイルをメモリーカードＭＣより取得して内部メモリー１２０の所定の領域に格納する。なお、取得された画像データを注目画像データと呼び、注目画像データの表す画像を注目画像ＯＩと呼ぶものとする。

顔領域検出部２1０（図１）は、注目画像ＯＩに含まれる顔画像の少なくとも一部を含む画像領域を顔領域ＦＡとして検出する（ステップＳ１２０）。図３は、注目画像ＯＩにおける顔領域ＦＡの検出を説明するための説明図である。図３（ａ）に示すように、顔領域検出部２1０は、予め規定された種々のサイズの正方形形状を有する複数のウィンドウＳＷのうちの１つを注目画像ＯＩに設定する。顔領域検出部２1０は、図３（ｂ）に示すように、設定されたウィンドウＳＷを注目画像ＯＩ上で走査させ、１つのサイズのウィンドウＳＷの走査が完了すると、異なるサイズのウィンドウＳＷを注目画像ＯＩ上に設定して順次走査をおこなう。

ウィンドウＳＷの走査と並行して、顔領域検出部２1０は、ウィンドウＳＷにより規定される画像領域から顔判定に用いるための評価値を算出する。評価値の算出方法については特に限定はないが、本実施例では、評価値の算出にＮ個のフィルタ（フィルタ１〜フィルタＮ）が用いられる。図４は、評価値の算出に用いられるフィルタを説明するための説明図である。各フィルタ（フィルタ１〜フィルタＮ）の外形はウィンドウＳＷと同じアスペクト比を有しており（すなわち正方形形状であり）、各フィルタにはプラス領域ｐａとマイナス領域ｍａとが設定されている。顔領域検出部２1０は、ウィンドウＳＷにより規定される画像領域にフィルタＸ（Ｘ＝１，２，・・・，Ｎ）を順に適用し、それぞれから評価値の基礎となる基礎評価値を算出する。具体的には、基礎評価値は、フィルタＸのプラス領域ｐａに対応する画像領域に含まれる画素の輝度値の合計から、マイナス領域ｍａに対応する画像領域に含まれる画素の輝度値の合計を差し引いた値である。

顔領域検出部２1０は、算出した基礎評価値と、各基礎評価値に対応して設定された閾値とをそれぞれ比較する。本実施例では、顔領域検出部２1０は、基礎評価値が閾値以上となるフィルタでは、ウィンドウＳＷにより規定される画像領域が顔の画像に対応する画像領域であると判定し、フィルタの出力値として値「１」を設定する。一方、基礎評価値が閾値より小さいフィルタでは、ウィンドウＳＷにより規定される画像領域が顔の画像に対応するとは考えられない画像領域であると判定し、フィルタの出力値として値「０」を設定する。各フィルタには重み係数が設定されており、すべてのフィルタについての出力値と重み係数との積の合計を評価値とする。顔領域検出部２1０は、算出された評価値と閾値とを比較し、ウィンドウＳＷにより規定される画像領域が顔の画像に対応する画像領域であるか否かを判定する。

顔領域検出部２1０は、ウィンドウＳＷにより規定される画像領域が顔の画像に対応する画像領域であると判定したウィンドウＳＷが複数存在する場合には、各ウィンドウＳＷにおける所定の点（例えばウィンドウＳＷの重心）の座標の平均の座標を重心とし、各ウィンドウＳＷのサイズの平均のサイズを有する１つの新たなウィンドウを顔領域ＦＡとして検出する。図５は、顔の画像に対応する画像領域であると判定された複数のウィンドウＳＷを例示した説明図である。図５（ａ）に示すように、例えば、互いに一部が重複する４つのウィンドウＳＷ（ＳＷ１〜ＳＷ４）により規定される画像領域が顔画像に対応する画像領域であると判定した場合には、図５（ｂ）に示すように、４つのウィンドウＳＷのそれぞれの重心の座標の平均の座標を重心とし、４つのウィンドウＳＷのそれぞれのサイズの平均のサイズを有する１つのウィンドウを顔領域ＦＡとして設定する。

なお、上記に示した顔領域ＦＡの検出方法は一例にすぎず、顔領域ＦＡの検出には、上記検出方法以外の種々の公知の顔検出手法を用いることができる。公知の顔検出手法としては、例えば、パターンマッチングによる手法や肌色領域抽出による手法、サンプル画像を用いた学習（例えばニューラルネットワークを用いた学習や、ブースティングを用いた学習、サポートベクターマシーンを用いた学習等）により設定される学習データを用いる手法等がある。

顔領域仮信頼度算出部２３２（図１）は、顔領域仮信頼度を算出する（ステップＳ１３０）。顔領域仮信頼度は、顔領域ＦＡの検出過程に基づき算出される指標であって、検出された顔領域ＦＡが真に顔の画像に対応する画像領域であることの確からしさを表す指標である。顔領域ＦＡの検出処理では、顔の画像に対応しない画像領域、すなわち、顔の画像をまったく含まない画像領域や顔の画像の一部を含むが顔の画像に真に対応する画像領域ではない画像領域が、誤って顔領域ＦＡとして検出される可能性がある。顔領域仮信頼度は、顔領域ＦＡの検出が、誤検出ではなく正しい検出であることの確からしさを表している。

本実施例では、重複ウィンドウ数を最大重複ウィンドウ数で除した値を顔領域仮信頼度として用いている。ここで、重複ウィンドウ数は、顔領域ＦＡを設定する際に参照したウィンドウＳＷの数、すなわち、ウィンドウＳＷにより規定される画像領域が顔の画像に対応する画像領域であると判定されたウィンドウＳＷの数である。例えば、図５（ｂ）に示した顔領域ＦＡの設定の際には、図５（ａ）に示した４つのウィンドウＳＷ（ＳＷ１〜ＳＷ４）が参照されているため、重複ウィンドウ数は４となる。また、最大重複ウィンドウ数は、顔領域ＦＡの検出の際に、注目画像ＯＩ上に配置されたすべてのウィンドウＳＷの内、少なくとも一部が顔領域ＦＡに重複するウィンドウＳＷの数である。最大重複ウィンドウ数は、ウィンドウＳＷの移動ピッチやサイズ変更のピッチにより一義的に定まる。重複ウィンドウ数と最大重複ウィンドウ数はいずれも顔領域ＦＡの検出過程において算出することができる。

検出された顔領域ＦＡが真に顔の画像に対応する画像領域である場合には、位置およびサイズが互いに近似する複数のウィンドウＳＷについて、ウィンドウＳＷにより規定される画像領域が顔の画像に対応する顔領域であると判定される可能性が高い。一方、検出された顔領域ＦＡが顔の画像に対応する画像領域ではなく誤検出である場合には、あるウィンドウＳＷについてはウィンドウＳＷにより規定される画像領域が顔の画像に対応する顔領域であると判定されたとしても、当該ウィンドウＳＷに位置およびサイズが近似する別のウィンドウＳＷについてはウィンドウＳＷにより規定される画像領域が顔の画像に対応する顔領域ではないと判定される可能性が高い。そのため、本実施例では、重複ウィンドウ数を最大重複ウィンドウ数で除した値を顔領域仮信頼度として用いている。

特徴位置検出部２２０（図１）は、注目画像ＯＩにおける特徴点ＣＰの初期位置を設定する（ステップＳ１４０）。図６は、第１実施例における特徴点ＣＰの初期位置設定処理の流れを示すフローチャートである。特徴位置検出部２２０は、特徴点ＣＰの初期位置を設定するためにＡＡＭ設定処理において設定された平均形状ｓ₀を用いる。平均形状ｓ₀は、サンプル画像の各特徴点ＣＰについての平均位置（平均座標）により特定される平均的な顔の形状を表すモデルである。本実施例では、特徴位置検出部２２０は、顔領域ＦＡに対する顔画像の大きさ、傾き、位置（上下方向の位置および左右方向の位置）を表すグローバルパラメーターの値を種々変更して、特徴点ＣＰを注目画像ＯＩ上の仮設定位置に設定する（ステップＳ２１０）。

図７は、グローバルパラメーターの値を変更することによる特徴点ＣＰの仮設定位置の一例を示す説明図である。図７（ａ）および図７（ｂ）には、注目画像ＯＩにおける特徴点ＣＰおよび特徴点ＣＰをつないで形成されるメッシュが示されている。特徴位置検出部２２０は、図７（ａ）および図７（ｂ）の中央に示すように、顔領域ＦＡの中央部に平均形状ｓ₀が形成されるような特徴点ＣＰの仮設定位置（以下、「基準仮設定位置」とも呼ぶ）を設定する。

特徴位置検出部２２０は、また、基準仮設定位置に対して、グローバルパラメーターの値を種々変更させた複数の仮設定位置を設定する。グローバルパラメーター（大きさ、傾き、上下方向の位置および左右方向の位置）を変更することは、注目画像ＯＩにおいて特徴点ＣＰにより形成されるメッシュが拡大・縮小、傾きを変更、並行移動することに相当する。従って、特徴位置検出部２２０は、図７（ａ）に示すように、基準仮設定位置のメッシュを所定倍率で拡大または縮小したメッシュを形成するような仮設定位置（基準仮設定位置の図の下および上に示す）や、所定角度だけ時計回りまたは半時計回りに傾きを変更したメッシュを形成するような仮設定位置（基準仮設定位置の図の右および左に示す）を設定する。また、特徴位置検出部２２０は、基準仮設定位置のメッシュに対して、拡大・縮小および傾きの変更を組み合わせた変換を行ったメッシュを形成するような仮設定位置（基準仮設定位置の図の左上、左下、右上、右下に示す）も設定する。

また、図７（ｂ）に示すように、特徴位置検出部２２０は、基準仮設定位置のメッシュを所定量だけ上または下に並行移動したメッシュを形成するような仮設定位置（基準仮設定位置の図の上および下に示す）や、左または右に並行移動したメッシュを形成するような仮設定位置（基準仮設定位置の図の左および右に示す）を設定する。また、特徴位置検出部２２０は、基準仮設定位置のメッシュに対して、上下および左右の並行移動を組み合わせた変換を行ったメッシュを形成するような仮設定位置（基準仮設定位置の図の左上、左下、右上、右下に示す）も設定する。

特徴位置検出部２２０は、図７（ａ）に示す基準仮設定位置以外の８つの仮設定位置のそれぞれにおけるメッシュに対して図７（ｂ）に示す上下左右の並行移動が実行される仮設定位置も設定する。従って、本実施例では、４つのグローバルパラメーター（大きさ、傾き、上下方向の位置、左右方向の位置）をそれぞれ既知の３段階の値として組み合わせにより設定される８０通り（＝３×３×３×３−１）の仮設定位置と、基準仮設定位置の合計８１通りの仮設定位置が設定される。

特徴位置検出部２２０は、設定された各仮設定位置に対応する平均形状画像Ｉ（Ｗ（ｘ；ｐ））を生成する（ステップＳ２２０）。図８は、平均形状画像Ｉ（Ｗ（ｘ；ｐ））の一例を示す説明図である。平均形状画像Ｉ（Ｗ（ｘ；ｐ））は、入力画像における特徴点ＣＰの配置が平均形状ｓ₀における特徴点ＣＰの配置と等しくなるような変換によって算出される。

平均形状画像Ｉ（Ｗ（ｘ；ｐ））を算出するための変換は、ＡＡＭ設定処理において、サンプル画像ＳＩｗ算出のための変換と同様に、三角形領域ＴＡ毎のアフィン変換の集合であるワープＷにより行われる。具体的には、注目画像ＯＩに配置された特徴点ＣＰによって、外周に位置する特徴点ＣＰ（フェイスラインおよび眉毛、眉間に対応する特徴点ＣＰ）を結ぶ直線により囲まれた領域である平均形状領域ＢＳＡが特定され、注目画像ＯＩにおける平均形状領域ＢＳＡに対して三角形領域ＴＡ毎のアフィン変換が行われることにより、平均形状画像Ｉ（Ｗ（ｘ；ｐ））が算出される。本実施例では、平均形状画像Ｉ（Ｗ（ｘ；ｐ））は、ワープＷの後のサンプル画像の平均の顔が表された画像である平均顔画像Ａ₀（ｘ）と同様に平均形状領域ＢＳＡおよびマスク領域ＭＡにより構成され、平均顔画像Ａ₀（ｘ）と同サイズの画像として算出される。ワープＷ、平均形状領域ＢＳＡ、平均顔画像Ａ₀（ｘ）およびマスク領域ＭＡについては、ＡＡＭ設定処理において詳述する。

ここで、平均形状ｓ₀における平均形状領域ＢＳＡに位置する画素の集合を画素群ｘと表す。また、ワープＷ実行後の画像（平均形状ｓ₀を有する顔画像）における画素群ｘに対応するワープＷ実行前の画像（注目画像ＯＩの平均形状領域ＢＳＡ）における画素群をＷ（ｘ；ｐ）と表す。平均形状画像は、注目画像ＯＩの平均形状領域ＢＳＡにおける画素群Ｗ（ｘ；ｐ）のそれぞれにおける輝度値により構成される画像であるため、Ｉ（Ｗ（ｘ；ｐ））と表される。図８には、図７（ａ）に示した９個の仮設定位置に対応する９個の平均形状画像Ｉ（Ｗ（ｘ；ｐ））を示している。

特徴位置検出部２２０は、各仮設定位置に対応する平均形状画像Ｉ（Ｗ（ｘ；ｐ））とＡＡＭ設定処理において設定された平均顔画像Ａ₀（ｘ）との差分画像Ｉｅを算出する（ステップＳ２３０）。差分画像Ｉｅは、平均形状画像Ｉ（Ｗ（ｘ；ｐ））と平均顔画像Ａ₀（ｘ）の各画素値の差であり、本実施例では差分値とも呼ぶ。差分画像Ｉｅは、特徴点ＣＰの設定位置が、特徴部位の位置と一致している場合には表れないため、特徴点ＣＰの設定位置と、特徴部位の位置と差異を表している。本実施例では、特徴点ＣＰの仮設定位置は８１種類設定されているため、特徴位置検出部２２０は、８１個の差分画像Ｉｅを算出することとなる。

特徴位置検出部２２０は、各差分画像Ｉｅの画素値からノルムを算出し、ノルムの値が最も小さい差分画像Ｉｅに対応する仮設置位置（以下「ノルム最小仮設定位置」とも呼ぶ）を、注目画像ＯＩにおける特徴点ＣＰの初期位置として設定する（ステップＳ２４０）。本実施例において、ノルムを算出するための画素値は輝度値であってもよいしＲＧＢ値であってもよい。本実施例における「差分画像Ｉｅのノルム」は、特許請求の範囲における「差異量」に該当する。以上により特徴点ＣＰ初期位置設定処理が完了する。

特徴点ＣＰ初期位置設定処理が完了すると、特徴位置検出部２２０は、注目画像ＯＩにおける特徴点ＣＰの設定位置の補正を行う（ステップＳ1５０）。図９は、第１実施例における特徴点ＣＰ設定位置補正処理の流れを示すフローチャートである。

特徴位置検出部２２０は、注目画像ＯＩから平均形状画像Ｉ（Ｗ（ｘ；ｐ））を算出する（ステップＳ３１０）。平均形状画像Ｉ（Ｗ（ｘ；ｐ））の算出方法は、特徴点ＣＰ初期位置設定処理におけるステップＳ２２０と同様である。

特徴位置検出部２２０は、平均形状画像Ｉ（Ｗ（ｘ；ｐ））と平均顔画像Ａ₀（ｘ）との差分画像Ｉｅを算出する（ステップＳ３２０）。特徴位置検出部２２０は、差分画像Ｉｅに基づき、特徴点ＣＰの設定位置補正処理が収束したか否かを判定する（ステップＳ３３０）。特徴位置検出部２２０は、差分画像Ｉｅのノルムを算出し、ノルムの値が予め設定された閾値より小さい場合には収束したと判定し、ノルムの値が閾値以上の場合には未だ収束していないと判定する。

なお、特徴位置検出部２２０は、算出された差分画像Ｉｅのノルムの値が前回のステップＳ３２０において算出された値よりも小さい場合には収束したと判定し、前回値以上である場合には未だ収束していないと判定するものとしてもよい。あるいは、特徴位置検出部２２０は、閾値による判定と前回値との比較による判定とを組み合わせて収束判定を行うものとしてもよい。例えば、特徴位置検出部２２０は、算出されたノルムの値が、閾値より小さく、かつ、前回値より小さい場合にのみ収束したと判定し、それ以外の場合には未だ収束していないと判定するものとしてもよい。

上記のステップＳ３３０の収束判定において未だ収束していないと判定された場合には、特徴位置検出部２２０は、パラメーター更新量ΔＰを算出する（ステップＳ３４０）。パラメーター更新量ΔＰは、４個のグローバルパラメーター（全体としての大きさ、傾き、Ｘ方向位置、Ｙ方向位置）、および、ＡＡＭ設定処理により算出されるｎ個の形状パラメーターｐ_iの値の変更量を意味している。なお、特徴点ＣＰを初期位置に設定した直後においては、グローバルパラメーターは、特徴点ＣＰ初期位置設定処理において決定された値が設定されている。また、このときの特徴点ＣＰの初期位置と平均形状ｓ₀の特徴点ＣＰの設定位置との相違は、全体としての大きさ、傾き、位置の相違に限られるため、形状モデルにおける形状パラメーターｐ_iの値はすべてゼロである。

パラメーター更新量ΔＰは、下記の式（１）により算出される。すなわち、パラメーター更新量ΔＰは、アップデートマトリックスＲと差分画像Ｉｅとの積である。

式（１）におけるアップデートマトリックスＲは、差分画像Ｉｅに基づきパラメーター更新量ΔＰを算出するために予め学習により設定されたＭ行Ｎ列のマトリックスであり、ＡＡＭ情報ＡＭＩ（図１）として内部メモリー１２０に格納されている。本実施例では、アップデートマトリックスＲの行数Ｍは、グローバルパラメーターの数（４個）と、形状パラメーターｐ_iの数（ｎ個）との和（（４＋ｎ）個）に等しく、列数Ｎは、平均顔画像Ａ₀（ｘ）の平均形状領域ＢＳＡ内の画素数（５６画素×５６画素−マスク領域ＭＡの画素数）に等しい。アップデートマトリックスＲは、下記の式（２）および（３）により算出される。

特徴位置検出部２２０は、算出されたパラメーター更新量ΔＰに基づきパラメーター（４個のグローバルパラメーターおよびｎ個の形状パラメーターｐ_i）を更新する（ステップＳ３５０）。これにより、注目画像ＯＩにおける特徴点ＣＰの設定位置が更新される。特徴位置検出部２２０は、差分画像Ｉｅのノルムが小さくなるように更新する。パラメーターの更新の後には、再度、特徴点ＣＰの設置位置が補正された注目画像ＯＩからの平均形状画像Ｉ（Ｗ（ｘ；ｐ））の算出（ステップＳ３１０）、差分画像Ｉｅの算出（ステップＳ３２０）、差分画像Ｉｅに基づく収束判定（ステップＳ３３０）が行われる。再度の収束判定においても収束していないと判定された場合には、さらに、差分画像Ｉｅに基づくパラメーター更新量ΔＰの算出（ステップＳ３４０）、パラメーターの更新による特徴点ＣＰの設定位置補正（ステップＳ３５０）が行われる。

図９のステップＳ３１０からＳ３５０までの処理が繰り返し実行されると、注目画像ＯＩにおける各特徴部位に対応する特徴点ＣＰの位置は実際の特徴部位の位置に全体として近づいていき、ある時点で収束判定（ステップＳ３３０）において収束したと判定される。収束判定において収束したと判定されると、顔特徴位置検出処理が完了する（ステップＳ３６０）。このとき設定されているグローバルパラメーターおよび形状パラメーターの値により特定される特徴点ＣＰの設定位置が、最終的な注目画像ＯＩにおける特徴点ＣＰの設定位置として特定される。ステップＳ３１０からＳ３５０までの処理の繰り返しにより、注目画像ＯＩにおける各特徴部位に対応する特徴点ＣＰの位置と実際の特徴部位の位置とが一致する場合もある。

図１０は、顔特徴位置検出処理の結果の一例を示す説明図である。図１０には、注目画像ＯＩにおいて最終的に特定された特徴点ＣＰの設定位置が示されている。特徴点ＣＰの設定位置により、注目画像ＯＩに含まれる顔の特徴部位（人物の顔の器官（眉毛、目、鼻、口）および顔の輪郭における所定位置）の位置が特定されるため、注目画像ＯＩにおける人物の顔の器官の形状・位置や顔の輪郭形状の検出が可能となる。

特徴点ＣＰ設定位置補正処理が完了すると、特徴部位信頼度算出部２３４（図１）は、特徴部位信頼度を算出する（ステップＳ１６０）。特徴部位信頼度は、収束した差分画像Ｉｅのノルムに基づき算出される指標であって、検出された特徴部位の位置が真に顔の特徴部位の位置であることの確からしさを表す指標である。顔領域ＦＡの検出処理と同様に、顔特徴位置検出処理では、顔の特徴部位の位置ではない位置、すなわち、真の顔の特徴部位の位置とまったく重複しない位置や、真の顔の特徴部位の位置の一部と重複するが正確に対応する位置ではない位置が、誤って顔の特徴部位の位置として検出される可能性がある。特徴部位信頼度は、顔の特徴部位の位置の検出が、誤検出ではなく正しい検出であることの確からしさを表している。

図１１は、差分画像のノルムと特徴部位信頼度との関係を例示した説明図である。本実施例では、予め定義された図１１に示す対応図を用いて、差分画像Ｉｅのノルムから一義的に特徴部位信頼度を算出する。図１１の対応図を用いることで、特徴部位信頼度の値が０〜１００の範囲となるように差分画像Ｉｅのノルムがスケール変換される。ここで、特徴部位信頼度が０の場合は、顔の特徴部位の位置が正しく検出されていない可能性が高いことを意味し、信頼度が１００の場合は、顔の特徴部位の位置が正しく検出された可能性が高いことを意味する。なお、差分画像Ｉｅのノルムから照明などの影響を取り除くために、平均形状画像Ｉ（Ｗ（ｘ；ｐ））に含まれる各画素の輝度値と平均顔画像Ａ₀（ｘ）の画素値（輝度値）の平均値や分散を揃えるように正規化をおこなってもよい。

特徴部位信頼度を算出した後、顔領域信頼度算出部２３０（図１）は、顔領域信頼度を算出する（ステップＳ１７０）。顔領域信頼度は、ステップＳ１３０で算出された顔領域仮信頼度と前のステップＳ１６０で算出された特徴部位信頼度とを用いて算出される指標であって、顔領域仮信頼度と同様に、検出された顔領域ＦＡが真に顔の画像に対応する画像領域であることの確からしさを表す指標である。本実施例では、顔領域信頼度算出部２３０は、算出された顔領域仮信頼度と特徴部位信頼度との平均値を顔領域信頼度として算出する。

顔領域信頼度が算出されると、判定部２４０（図１）は、顔領域信頼度に基づいて、検出された顔領域ＦＡが真に顔の画像に対応する画像領域か否かについての判定をおこなう（ステップＳ１８０）。本実施例では、判定部２４０は、予め設定されている閾値と顔領域信頼度とを比較することにより判定をおこなう。以上により、顔特徴位置検出処理が完了する。

印刷処理部３２０は、顔領域信頼度が算出された注目画像ＯＩについての印刷データを生成する。具体的には、印刷処理部３２０は、注目画像ＯＩについて、各画素の画素値をプリンター１００が用いるインクに合わせるための色変換処理や、色変換処理後の画素の階調をドットの分布によって表すためのハーフトーン処理や、ハーフトーン処理された画像データのデータ並びをプリンター１００に転送すべき順序に並び替えるためのラスタライズ処理等を実施して印刷データを生成する。印刷機構１６０は、印刷処理部３２０により生成された印刷データに基づいて、顔領域信頼度が算出された注目画像ＯＩの印刷をおこなう。
なお、印刷処理部３２０は、顔領域信頼度が算出された注目画像ＯＩについて必ず、印刷データを生成する必要はなく、例えば、ステップＳ１７０により算出される顔領域信頼度の値や、ステップＳ１８０における判定の結果に基づいて印刷データを生成するか否かが分かれる構成であっても良い。また、顔領域信頼度や判定結果が表示部１５０に表示され、ユーザによる、印刷をおこなうか否かの選択に基づいて印刷データの生成をおこなっても良い。なお、印刷処理部３２０は、注目画像ＯＩについての印刷データに限らず、検出された顔の器官の形状・位置や顔の輪郭形状に基づいて、顔変形や、顔の陰影補正など所定の処理が施された画像の印刷データについても生成することができる。また、印刷機構１６０は、印刷処理部３２０により生成された印刷データに基づいて、顔変形や、顔の陰影補正などの処理が施された画像の印刷をおこなうこともできる。

Ａ３．その他の信頼度算出方法
上述のステップＳ１６０で算出される特徴部位信頼度の算出方法は種々変形可能である。図１２は、特徴部位信頼度を算出する第２の方法を説明するための説明図である。第２の方法では、収束した後の差分画像Ｉｅに含まれる各差分値を三角形領域ＴＡごとに重み付けした修正差分値のノルムにより特徴部位信頼度を算出する。具体的には、差分画像Ｉｅにおいて、６８個の特徴点ＣＰにより形成される１０７個の三角形領域ＴＡ（ｊ）（ｊ＝１，２，３・・・１０７）ごとの差分値Ｍｊ（ｊ＝１，２，３・・・１０７）にそれぞれに重み係数（α、β、γ・・・）を掛けて修正差分値Ｍｒを算出する。すなわち、修正差分値Ｍｒは、Ｍｒ＝α×Ｍ１＋β×Ｍ２＋γ×Ｍ３＋・・・により表される。図１２に示す、三角形領域ＴＡ１、ＴＡ２、ＴＡ３において、差分値Ｍ１、Ｍ２、Ｍ３とは、それぞれの領域に含まれる画素ごとの差分値の集合であり、領域に含まれる画素数Ｐ１、Ｐ２、Ｐ３についての差分値を表している。算出された修正差分値Ｍｒのノルムに、例えば、図１１に示すような対応図を適用することにより、特徴部位信頼度を算出することができる。修正差分値Ｍｒを用いることで、顔領域に含まれる複数の領域ごとの差異（差分）の信頼度への寄与率を変化させて特徴部位信頼度を算出することができる。例えば、目と検出された位置についての確からしさが顔の特徴部位の検出において重要な要素となる場合には、目の領域を含む三角形領域の差分値に掛ける係数の値を大きくすることで、目の領域についての差分値の大小が特徴部位信頼度に与える影響を大きくすることができる。第２の方法では、「修正差分値Ｍｒのノルム」が特許請求の範囲における「差異量」に該当する。

図１３は、特徴部位信頼度を算出する第３の方法を説明するための説明図である。第３の方法では、差分画像Ｉｅを構成する三角形領域ＴＡごとに特徴部位信頼度を算出する。具体的には、図１３（ａ）に示すように、上述の三角形領域ＴＡ１、ＴＡ２、ＴＡ３において、差分値Ｍ１、Ｍ２、Ｍ３からそれぞれノルムＲ１、Ｒ２、Ｒ３を算出し、それぞれのノルムＲ１、Ｒ２、Ｒ３に、信頼度との対応図を適用することにより、三角形領域ＴＡごとの特徴部位信頼度Ｃ１、Ｃ２、Ｃ３を算出することができる。三角形領域ＴＡごとに特徴部位信頼度を算出することで、図１３（ｂ）に示すように、例えば、顔画像の左側全体の三角形領域ＴＡにおいて特徴部位信頼度が低い場合には、顔の左半分に陰の影響があると推定することができる。このほかにも、特徴部位信頼度の分布により、撮影条件の良否、顔が上下左右に向いているか否か、等について推定することができる。また、特徴部位信頼度の高い三角形領域ＴＡのみ肌色補正のサンプリング対象とすることや、特徴部位信頼度が大きい領域のみ補正をおこなうといった処理をおこなうこともできる。

Ａ４．ＡＡＭ設定処理：
図１４は、ＡＡＭ設定処理の流れを示すフローチャートである。ＡＡＭ設定処理は、画像のモデル化に用いられる形状モデルおよびテクスチャーモデルを設定する処理である。本実施例において、ＡＡＭ設定処理は、ユーザによりおこなわれる。

はじめに、ユーザは、人物の顔を含んだ複数の画像をサンプル画像ＳＩとして用意する（ステップＳ４１０）。図１５は、サンプル画像ＳＩの一例を示す説明図である。図１５に示すように、サンプル画像ＳＩは、個性、人種・性別、表情（怒り、笑い、困り、驚き等）、向き（正面向き、上向き、下向き、右向き、左向き等）といった種々の属性に関して互いに相違する顔画像が含まれるように用意される。サンプル画像ＳＩがそのように用意されれば、ＡＡＭによってあらゆる顔画像を精度良くモデル化することが可能となり、あらゆる顔画像を対象とした精度の良い顔特徴位置検出処理（後述）の実行が可能となる。なお、サンプル画像ＳＩは、学習用画像とも呼ばれる。

それぞれのサンプル画像ＳＩに含まれる顔画像に、特徴点ＣＰを設定する（ステップＳ４２０）。図１６は、サンプル画像ＳＩにおける特徴点ＣＰの設定方法の一例を示す説明図である。すなわち、本実施例では、上述の通り、顔の器官（眉毛、目、鼻、口）および顔の輪郭における所定位置を、特徴部位として設定する。図１６に示すように、特徴点ＣＰは、各サンプル画像ＳＩにおいてユーザにより指定された６８個の特徴部位を表す位置に設定（配置）される。このように設定された各特徴点ＣＰは各特徴部位に対応しているため、顔画像における特徴点ＣＰの配置は顔の形状を特定していると表現することができる。

サンプル画像ＳＩにおける特徴点ＣＰの位置は、座標により特定される。図１７は、サンプル画像ＳＩに設定された特徴点ＣＰの座標の一例を示す説明図である。図１７において、ＳＩ（ｊ）（ｊ＝１，２，３・・・）は各サンプル画像ＳＩを示しており、ＣＰ（ｋ）（ｋ＝０，１，・・・，６７）は各特徴点ＣＰを示している。また、ＣＰ（ｋ）−Ｘは、特徴点ＣＰ（ｋ）のＸ座標を示しており、ＣＰ（ｋ）−Ｙは、特徴点ＣＰ（ｋ）のＹ座標を示している。特徴点ＣＰの座標としては、顔の大きさと顔の傾き（画像面内の傾き）と顔のＸ方向およびＹ方向の位置とのそれぞれについて正規化されたサンプル画像ＳＩにおける所定の基準点（例えば画像の左下の点）を原点とした座標が用いられる。また、本実施例では、１つのサンプル画像ＳＩに複数の人物の顔画像が含まれる場合が許容されており（例えばサンプル画像ＳＩ（２）には２人の顔画像が含まれている）、１つのサンプル画像ＳＩにおける各人物は人物ＩＤによって特定される。

つづいて、ユーザは、ＡＡＭの形状モデルの設定をおこなう（ステップＳ４３０）。具体的には、各サンプル画像ＳＩにおける６８個の特徴点ＣＰの座標（Ｘ座標およびＹ座標）により構成される座標ベクトル（図５参照）に対する主成分分析をおこない、特徴点ＣＰの位置により特定される顔の形状ｓが下記の式（４）によりモデル化する。なお、形状モデルは、特徴点ＣＰの配置モデルとも呼ぶ。

上記式（４）において、ｓ₀は平均形状である。図１８は、平均形状ｓ₀の一例を示す説明図である。図１８（ａ）および（ｂ）に示すように、平均形状ｓ₀は、サンプル画像ＳＩの各特徴点ＣＰについての平均位置（平均座標）により特定される平均的な顔の形状を表すモデルである。なお、平均形状ｓ₀において、外周に位置する特徴点ＣＰ（フェイスラインおよび眉毛、眉間に対応する特徴点ＣＰ）を結ぶ直線により囲まれた領域（図１８（ｂ）においてハッチングを付して示す）が平均形状領域ＢＳＡである。平均形状ｓ₀においては、図１８（ａ）に示すように、特徴点ＣＰを頂点とする複数の三角形領域ＴＡが、平均形状領域ＢＳＡをメッシュ状に分割するように設定される。

形状モデルを表す上記式（４）において、ｓ_iは形状ベクトルであり、ｐ_iは形状ベクトルｓ_iの重みを表す形状パラメーターである。形状ベクトルｓ_iは、顔の形状ｓの特性を表すベクトルであり、主成分分析により得られる第ｉ主成分に対応する固有ベクトルである。上記式（４）に示すように、本実施例における形状モデルでは、特徴点ＣＰの配置を表す顔形状ｓが、平均形状ｓ₀とｎ個の形状ベクトルｓ_iの線形結合との和としてモデル化される。形状モデルにおいて形状パラメーターｐ_iを適切に設定することにより、あらゆる画像における顔の形状ｓを再現することが可能である。

図１９は、形状ベクトルｓ_iおよび形状パラメーターｐ_iと、顔の形状ｓとの関係を例示した説明図である。図１９（ａ）に示すように、顔の形状ｓを特定するために、寄与率のより大きい主成分に対応する固有ベクトルから順に、累積寄与率に基づき設定された個数ｎ（図１９ではn＝４）の固有ベクトルが、形状ベクトルｓ_iとして採用される。形状ベクトルｓ_iのそれぞれは、図１９（ａ）の矢印に示すように、各特徴点ＣＰの移動方向・移動量と対応している。本実施例では、最も寄与率の大きい第１主成分に対応する第１形状ベクトルｓ₁は顔の左右振りにほぼ相関するベクトルとなっており、形状パラメーターｐ₁を大小することにより、図１９（ｂ）に示すように、顔の形状ｓの横方向の顔向きが変化する。２番目に寄与率の大きい第２主成分に対応する第２形状ベクトルｓ₂は顔の上下振りにほぼ相関するベクトルとなっており、形状パラメーターｐ₂を大小することにより、図１９（ｃ）に示すように、顔の形状ｓの縦方向の顔向きが変化する。また、３番目に寄与率の大きい第３主成分に対応する第３形状ベクトルｓ₃は顔の形状の縦横比にほぼ相関するベクトルとなっており、４番目に寄与率の大きい第４主成分に対応する第４形状ベクトルｓ₄は口の開きの程度にほぼ相関するベクトルとなっている。このように、形状パラメーターの値は、顔の表情や、顔向きなど顔画像の特徴を表す。本実施例における「形状パラメーター」は特許請求の範囲における「特徴量」に該当する。

なお、形状モデル設定ステップ（ステップＳ４３０）において設定された平均形状ｓ₀および形状ベクトルｓ_iは、ＡＡＭ情報ＡＭＩ（図１）として内部メモリー１２０に格納される。

つづいて、ＡＡＭのテクスチャーモデルの設定をおこなう（ステップＳ４４０）。具体的には、まず、各サンプル画像ＳＩに対して、サンプル画像ＳＩにおける特徴点ＣＰの設定位置が平均形状ｓ₀における特徴点ＣＰの設定位置と等しくなるように、画像変換（ワープＷ）を行う。

図２０は、サンプル画像ＳＩのワープＷの方法の一例を示す説明図である。各サンプル画像ＳＩにおいては、平均形状ｓ₀と同様に、外周に位置する特徴点ＣＰにより囲まれた領域をメッシュ状に分割する複数の三角形領域ＴＡが設定される。ワープＷは、複数の三角形領域ＴＡのそれぞれについてのアフィン変換の集合である。すなわち、ワープＷにおいては、サンプル画像ＳＩにおけるある三角形領域ＴＡの画像は、平均形状ｓ₀における対応する三角形領域ＴＡの画像へとアフィン変換される。ワープＷにより、特徴点ＣＰの設定位置が平均形状ｓ₀における特徴点ＣＰの設定位置と等しいサンプル画像ＳＩｗが生成される。

なお、各サンプル画像ＳＩｗは、平均形状領域ＢＳＡ（図２０においてハッチングを付して示す）を内包する矩形枠を外周とし、平均形状領域ＢＳＡ以外の領域（マスク領域ＭＡ）がマスクされた画像として生成される。また、各サンプル画像ＳＩｗは、例えば５６画素×５６画素のサイズの画像として正規化される。

次に、各サンプル画像ＳＩｗの画素群ｘのそれぞれにおける輝度値により構成される輝度値ベクトルに対する主成分分析が行われ、顔のテクスチャー（「見え」とも呼ぶ）Ａ（ｘ）が下記の式（５）によりモデル化される。なお、画素群ｘは、平均形状領域ＢＳＡに位置する画素の集合である。

上記式（５）において、Ａ₀（ｘ）は平均顔画像である。図２１は、平均顔画像Ａ₀（ｘ）の一例を示す説明図である。平均顔画像Ａ₀（ｘ）は、ワープＷの後のサンプル画像ＳＩｗの平均の顔が表された画像である。すなわち、平均顔画像Ａ₀（ｘ）は、サンプル画像ＳＩｗの平均形状領域ＢＳＡ内の画素群ｘの画素値（輝度値）の平均をとることにより算出される画像である。従って、平均顔画像Ａ₀（ｘ）は、平均的な顔の形状における平均的な顔のテクスチャー（見え）を表すモデルである。なお、平均顔画像Ａ₀（ｘ）は、サンプル画像ＳＩｗと同様に、平均形状領域ＢＳＡとマスク領域ＭＡとで構成され、例えば５６画素×５６画素のサイズの画像として算出される。

テクスチャーモデルを表す上記式（５）において、Ａ_i（ｘ）はテクスチャーベクトルであり、λ_iはテクスチャーベクトルＡ_i（ｘ）の重みを表すテクスチャーパラメーターである。テクスチャーベクトルＡ_i（ｘ）は、顔のテクスチャーＡ（ｘ）の特性を表すベクトルであり、具体的には、主成分分析により得られる第ｉ主成分に対応する固有ベクトルである。すなわち、寄与率のより大きい主成分に対応する固有ベクトルから順に、累積寄与率に基づき設定された個数ｍの固有ベクトルが、テクスチャーベクトルＡ_i（ｘ）として採用される。本実施例では、最も寄与率の大きい第１主成分に対応する第１テクスチャーベクトルＡ₁（ｘ）は、顔色の変化（性別の差とも捉えられる）にほぼ相関するベクトルとなっている。

上記式（５）に示すように、本実施例におけるテクスチャーモデルでは、顔の見えを表す顔のテクスチャーＡ（ｘ）が、平均顔画像Ａ₀（ｘ）とｍ個のテクスチャーベクトルＡ_i（ｘ）の線形結合との和としてモデル化される。テクスチャーモデルにおいてテクスチャーパラメーターλ_iを適切に設定することにより、あらゆる画像における顔のテクスチャーＡ（ｘ）を再現することが可能である。なお、テクスチャーモデル設定ステップ（ステップＳ４４０）において設定された平均顔画像Ａ₀（ｘ）およびテクスチャーベクトルＡ_i（ｘ）は、ＡＡＭ情報ＡＭＩ（図１）として内部メモリー１２０に格納される。

以上説明したＡＡＭ設定処理により、顔の形状をモデル化する形状モデルと、顔のテクスチャーをモデル化するテクスチャーモデルが設定される。設定された形状モデルとテクスチャーモデルとを組み合わせることにより、すなわち合成されたテクスチャーＡ（ｘ）に対して平均形状ｓ₀から形状ｓへの変換（図２０に示したワープＷの逆変換）を行うことにより、あらゆる顔画像の形状およびテクスチャーを再現することが可能である。

以上説明したように、第１の実施例に係る画像処理装置によれば、差異量を用いて顔領域信頼度を算出するため、顔領域信頼度をより精度良く算出することができる。

具体的には、差分画像Ｉｅのノルムは、特徴点ＣＰにより特定した特徴部位の位置と、真の顔の特徴部位の位置との差異を表す、平均形状画像Ｉ（Ｗ（ｘ；ｐ））と平均顔画像Ａ₀（ｘ）との差分値に基づいて算出されている。そのため、パラメーター更新量ΔＰを用いた特徴点ＣＰの設定位置の更新により、差分画像Ｉｅのノルムの値が０近くに収束した場合には、検出した顔領域ＦＡは真の顔画像を含んでいる可能性が高い。反対に、パラメーターの更新によっても、差分画像Ｉｅのノルムの値が収束せず、ノルムの値が大きままの場合には、検出した顔領域ＦＡには真の顔画像が含まれていなかった可能性が高い。このことから、差分画像Ｉｅのノルムを用いることにより、顔領域信頼度をより精度良く算出することができる。

また、修正差分値Ｍｒのノルムについても、差分画像Ｉｅに基づいて算出されるため、特徴点ＣＰにより特定した特徴部位の位置と、真の顔の特徴部位の位置との差異に対応した値となる。よって、修正差分値Ｍｒのノルムを用いることで、差分画像Ｉｅのノルムを用いた場合と同様に、顔領域信頼度をより精度良く算出することができる。また、修正差分値Ｍｒを用いることで、顔領域に含まれる複数の領域ごとの差異（差分）の信頼度への寄与率を変化させて特徴部位信頼度を算出することができる。

第１の実施例に係る画像処理装置によれば、特徴部位信頼度および顔領域仮信頼度を用いて、顔領域信頼度を算出するため、顔領域信頼度をより精度良く算出することができる。具体的には、差異量に基づいて算出される特徴部位信頼度と、顔領域ＦＡの検出過程に基づき算出される顔領域仮信頼度の２つの指標を用いて顔領域信頼度を算出することができるため、顔領域信頼度をより精度良く算出することができる。

第１の実施例に係る画像処理装置によれば、顔領域仮信頼度と特徴部位信頼度との平均値を顔領域信頼度とするため、顔領域信頼度をより精度良く算出することができる。具体的には、顔領域ＦＡが真の顔の画像に対応する画像領域であった場合であっても、重複ウィンドウ数が少ない場合、もしくは、最大重複ウィンドウ数が多い場合など、顔領域仮信頼度が低く算出された場合には、検出された顔領域ＦＡが真に顔の画像に対応する画像領域ではないと判断されうるが、特徴部位信頼度との平均値とすることにより、顔領域信頼度の値を上げることができ、誤判断を抑制することができる。

第１の実施例に係るプリンター１００によれば、顔領域信頼度が算出された注目画像ＯＩについての印刷をおこなうことができる。これにより、顔領域についての判定結果に基づいて任意の画像を選択して印刷をおこなうことができる。また、検出された顔の器官の形状・位置や顔の輪郭形状に基づいて、顔変形や、顔の陰影補正など所定の処理が施された画像の印刷をおこなうことができる。これにより、特定の顔画像について、顔変形や、顔の陰影補正等をおこなった後に印刷をおこなうことができる。

Ｂ．第２実施例：
図２２は、第２実施例における顔特徴位置検出処理の流れを示すフローチャートである。第１実施例では、顔領域仮信頼度と特徴部位信頼度との平均値を顔領域信頼度として算出していたが、第２実施例では、顔領域仮信頼度と特徴部位信頼度の値に応じて、顔領域仮信頼度および特徴部位信頼度のいずれかを顔領域信頼度とする。図２２に示すように、第１実施例と同様に、画像データの取得（ステップＳ１１０）、顔領域ＦＡの検出（ステップＳ１２０）、顔領域仮信頼度の算出（ステップＳ１３０）をおこなう。

判定部２４０は、顔領域仮信頼度の判定をおこなう（ステップＳ５１０）。具体的には、判定部２４０は、顔領域仮信頼度と閾値ＴＨ１とを比較し、顔領域仮信頼度が閾値ＴＨ１より小さい場合には（ステップＳ５１５：ＮＯ）、検出された顔領域ＦＡが真に顔の画像に対応する画像領域ではないと判定する（ステップＳ５１７）。すなわち、顔領域検出は失敗したと判定する。顔領域信頼度が閾値ＴＨ１以上である場合には、（ステップＳ５１５：ＹＥＳ）、第１実施例と同様に、特徴点ＣＰ初期位置設定（ステップＳ１４０）、特徴点ＣＰ設定位置補正（ステップＳ１５０）、特徴部位信頼度算出（ステップＳ１６０）をおこなう。

特徴部位信頼度が算出されると、判定部２４０は、特徴部位信頼度の判定をおこなう（ステップＳ５３０）。具体的には、判定部２４０は、特徴部位信頼度と閾値ＴＨ２とを比較し、特徴部位信頼度が閾値ＴＨ２以上である場合には（ステップＳ５３１：ＹＥＳ）、検出された特徴部位の位置が真の顔の特徴部位の位置であると判定する（ステップＳ５３２）。すなわち、特徴部位の位置の検出は成功したと判定する。

特徴部位信頼度が閾値ＴＨ２より小さい場合には（ステップＳ５３１：ＮＯ）、判定部２４０は、特徴部位信頼度と閾値ＴＨ３とを比較する（ステップＳ５３３）。閾値ＴＨ３は、閾値ＴＨ２より小さい値である。判定部２４０は、特徴部位信頼度が閾値ＴＨ３以上である場合には（ステップＳ５３３：ＹＥＳ）、検出された特徴部位の位置が真の顔の特徴部位の位置ではないと判定する（ステップＳ５３４）。すなわち、特徴部位の位置の検出は失敗したと判定する。

特徴部位信頼度が閾値ＴＨ３より小さい場合には（ステップＳ５３３：ＮＯ）、検出された顔領域ＦＡが真に顔の画像に対応する画像領域ではないと判定する（ステップＳ５３５）。すなわち、顔領域検出は失敗したと判定する。

第２実施例によれば、検出された顔領域に含まれる顔画像が真の顔画像であることの確からしさを表す顔領域信頼度は、常に、顔領域仮信頼度と特徴部位信頼度とを用いて算出される値である必要はなく、顔領域仮信頼度、もしくは、特徴部位信頼度の値によって、顔領域仮信頼度が顔領域信頼度となる場合や、特徴部位信頼度が顔町域信頼度となってもよい。すなわち、第２実施例では、顔領域仮信頼度が閾値ＴＨ１より小さい場合には（ステップＳ５１５：ＮＯ）検出された顔領域ＦＡが真に顔の画像に対応する画像領域ではないと判定している。この場合、顔領域仮信頼度を顔領域信頼度として用いている。また、特徴部位信頼度が閾値ＴＨ３より小さい場合には（ステップＳ５３３：ＮＯ）、検出された顔領域ＦＡが真に顔の画像に対応する画像領域ではないと判定している。この場合、特徴部位信頼度を顔領域信頼度として用いている。第２実施例によっても、検出された顔領域ＦＡが真に顔の画像に対応する画像領域であるか否かについて精度良く判定することができる。すなわち、精度のよい顔領域信頼度を算出することができる。

Ｃ．変形例：
なお、この発明は上記の実施例や実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば次のような変形も可能である。

Ｃ１．変形例１：
図２３は、変形例に係る差分画像のノルムと特徴部位信頼度との関係を例示した説明図である。本実施例では、図１１により、差分画像Ｉｅのノルムと特徴部位信頼度との線形の対応関係を示したが、差分画像Ｉｅのノルムと特徴部位信頼度との対応関係は任意に設定可能であり、例えば、図２３の（ａ）および（ｂ）に示すように、一部が非線形であっても良いし、これ以外の対応関係であってもよい。

Ｃ２．変形例２：
本実施例では、判定部２４０により、顔領域信頼度に基づいて判定をおこなっているが、判定部２４０を備えず、顔領域信頼度のみを出力する構成としてもよい。

Ｃ３．変形例３：
本実施例では、顔領域仮信頼度と特徴部位信頼度との平均値を顔領域信頼度としているが、これに限られず、それぞれに任意の重み付けをした値を顔領域信頼度としてもよい。

Ｃ４．変形例４：
本実施例の顔領域検出と特徴部位信頼度とを用いれば、リアルタイムの動画から連続して顔領域ＦＡを取得した際、顔認証において、特徴部位信頼度の高いフレームを用いて認証をおこなうことができる。これにより、顔認証の精度を向上させることができる。

Ｃ５．変形例５：
本実施例におけるサンプル画像ＳＩはあくまで一例であり、サンプル画像ＳＩとして採用する画像の数、種類は任意に設定可能である。また、本実施例において、特徴点ＣＰの位置で示される顔の所定の特徴部位はあくまで一例であり、実施例において設定されている特徴部位の一部を省略したり、特徴部位として他の部位を採用したりしてもよい。

また、本実施例では、サンプル画像ＳＩｗの画素群ｘのそれぞれにおける輝度値により構成される輝度値ベクトルに対する主成分分析によってテクスチャーモデルが設定されているが、顔画像のテクスチャー（見え）を表す輝度値以外の指標値（例えばＲＧＢ値）に対する主成分分析によってテクスチャーモデルが設定されるものとしてもよい。

また、本実施例において、平均顔画像Ａ₀（ｘ）のサイズは５６画素×５６画素に限られず他のサイズであってもよい。また、平均顔画像Ａ₀（ｘ）は、マスク領域ＭＡ（図８）を含む必要はなく、平均形状領域ＢＳＡのみによって構成されるとしてもよい。また、平均顔画像Ａ₀（ｘ）の代わりに、サンプル画像ＳＩの統計的分析に基づき設定される他の基準顔画像が用いられるとしてもよい。

また、本実施例では、ＡＡＭを用いた形状モデルおよびテクスチャーモデルの設定が行われているが、他のモデル化手法（例えばＭｏｒｐｈａｂｌｅ Ｍｏｄｅｌと呼ばれる手法やＡｃｔｉｖｅ Ｂｌｏｂと呼ばれる手法）を用いて形状モデルおよびテクスチャーモデルの設定が行われるとしてもよい。

また、本実施例では、メモリーカードＭＣに格納された画像が注目画像ＯＩに設定されているが、注目画像ＯＩは例えばネットワークを介して取得された画像であってもよい。また、検出モード情報についても、ネットワークを介して取得されてもよい。

また、本実施例では、画像処理装置としてのプリンター１００による画像処理を説明したが、処理の一部または全部がパーソナルコンピューターやデジタルスチルカメラ、デジタルビデオカメラ等の他の種類の画像処理装置により実行されるものとしてもよい。また、プリンター１００はインクジェットプリンターに限らず、他の方式のプリンター、例えばレーザプリンターや昇華型プリンターであるとしてもよい。

本実施例において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。

また、本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア（コンピュータープログラム）は、コンピューター読み取り可能な記録媒体に格納された形で提供することができる。この発明において、「コンピューター読み取り可能な記録媒体」とは、フレキシブルディスクやＣＤ−ＲＯＭのような携帯型の記録媒体に限らず、各種のＲＡＭやＲＯＭ等のコンピューター内の内部記憶装置や、ハードディスク等のコンピューターに固定されている外部記憶装置も含んでいる。

１００…プリンター
１１０…ＣＰＵ
１２０…内部メモリー
１４０…操作部
１５０…表示部
１６０…印刷機構
１７０…カードインターフェース
１７２…カードスロット
２００…画像処理部
２1０…顔領域検出部
２２０…特徴位置検出部
２３０…顔領域信頼度算出部
２３２…顔領域仮信頼度算出部
２３４…特徴部位信頼度算出部
２４０…判定部
３１０…表示処理部
３２０…印刷処理部

Claims (13)

1. 注目画像に含まれる顔の特徴部位の座標位置を検出する画像処理装置であって、
   前記注目画像から顔画像の少なくとも一部を含む画像領域を顔領域として検出する顔領域検出部と、
   前記特徴部位の座標位置を検出するための特徴点を前記顔領域に基づいて前記注目画像に設定するとともに、前記特徴部位の座標位置が既知の顔画像を含む複数のサンプル画像に基づいて算出される特徴量を用いて、前記特徴点の設定位置を前記座標位置に近づける、または、一致させるように更新し、更新された前記設定位置を前記座標位置として検出する特徴位置検出部と、
   前記更新された前記設定位置と、前記座標位置との差異に基づいて算出される差異量を用いて、前記顔領域検出部により検出された前記顔領域に含まれる顔画像が真の顔画像であることの確からしさを表す顔領域信頼度を算出する顔領域信頼度算出部と、を備える画像処理装置。
2. 請求項１に記載の画像処理装置において、
   前記顔領域信頼度算出部は、
   前記差異量に基づいて、検出された前記座標位置が前記顔の特徴部位の座標位置である確からしさを表す特徴部位信頼度を算出する特徴部位信頼度算出部と、
   顔領域検出部による前記顔領域の検出過程に基づいて、検出された前記顔領域に含まれる顔画像が真の顔画像であることの確からしさを表す顔領域仮信頼度を算出する顔領域仮信頼度算出部と、を備え、
   前記特徴部位信頼度および前記顔領域仮信頼度を用いて、前記顔領域信頼度を算出する画像処理装置。
3. 請求項２に記載の画像処理装置において、
   前記顔領域信頼度算出部は、前記顔領域仮信頼度と前記特徴部位信頼度との平均値を前記顔領域信頼度とする画像処理装置。
4. 請求項１ないし請求項３のいずれかに記載の画像処理装置において、
   前記差異量は、前記注目画像に設定された前記特徴点に基づいて、前記注目画像の一部を変換した画像である平均形状画像と、前記複数のサンプル画像に基づいて生成された画像である平均顔画像との差分値に基づく値である画像処理装置。
5. 請求項４に記載の画像処理装置において、
   前記差分値は、前記平均形状画像を構成する画素の画素値と、前記平均顔画像において前記平均形状画像と対応する画素の画素値との差により表される画像処理装置。
6. 請求項５に記載の画像処理装置において、
   前記差異量は、前記差分値のノルムである画像処理装置。
7. 請求項５に記載の画像処理装置において、
   前記差異量は、前記平均形状画像を構成する複数のメッシュ領域ごとの前記差分値に、それぞれ係数をかけた修正差分値のノルムである画像処理装置。
8. 請求項１ないし請求項７のいずれかに記載の画像処理装置はさらに、
   前記顔領域信頼度に基づいて、前記顔領域検出部により検出された前記顔領域に含まれる顔画像が真の顔画像であるか否かを判定する判定部を備える画像処理装置。
9. 請求項１ないし請求項８のいずれかに記載の画像処理装置において、
   前記特徴量は、前記複数のサンプル画像に含まれる前記特徴部位の座標ベクトルを主成分分析して得られる形状ベクトルの係数である画像処理装置。
10. 請求項１ないし請求項９のいずれかに記載の画像処理装置において、
    前記特徴部位は、眉毛と目と鼻と口とフェイスラインとの一部である画像処理装置。
11. 注目画像に含まれる顔の特徴部位の座標位置を検出するプリンターであって、
    前記注目画像から顔画像の少なくとも一部を含む画像領域を顔領域として検出する顔領域検出部と、
    前記特徴部位の座標位置を検出するための特徴点を前記顔領域に基づいて前記注目画像に設定するとともに、前記特徴部位の座標位置が既知の顔画像を含む複数のサンプル画像に基づいて算出される特徴量を用いて、前記特徴点の設定位置を前記座標位置に近づける、または、一致させるように更新し、更新された前記設定位置を前記座標位置として検出する特徴位置検出部と、
    前記更新された前記設定位置と、前記座標位置との差異に基づいて算出される差異量を用いて、前記顔領域検出部により検出された前記顔領域に含まれる顔画像が真の顔画像であることの確からしさを表す顔領域信頼度を算出する顔領域信頼度算出部と、
    前記顔領域信頼度が算出された前記注目画像を印刷するための印刷部と、を備えるプリンター。
12. 注目画像に含まれる顔の特徴部位の座標位置を検出する画像処理方法であって、
    前記注目画像から顔画像の少なくとも一部を含む画像領域を顔領域として検出する工程と、
    前記特徴部位の座標位置を検出するための特徴点を前記顔領域に基づいて前記注目画像に設定するとともに、前記特徴部位の座標位置が既知の顔画像を含む複数のサンプル画像に基づいて算出される特徴量を用いて、前記特徴点の設定位置を前記座標位置に近づける、または、一致させるように更新し、更新された前記設定位置を前記座標位置として検出する工程と、
    前記更新された前記設定位置と、前記座標位置との差異に基づいて算出される差異量を用いて、前記顔領域検出部により検出された前記顔領域に含まれる顔画像が真の顔画像であることの確からしさを表す顔領域信頼度を算出する工程と、を備える画像処理方法。
13. 注目画像に含まれる顔の特徴部位の座標位置を検出する画像処理のためのコンピュータープログラムであって、
    前記注目画像から顔画像の少なくとも一部を含む画像領域を顔領域として検出する顔領域検出機能と、
    前記特徴部位の座標位置を検出するための特徴点を前記顔領域に基づいて前記注目画像に設定するとともに、前記特徴部位の座標位置が既知の顔画像を含む複数のサンプル画像に基づいて算出される特徴量を用いて、前記特徴点の設定位置を前記座標位置に近づける、または、一致させるように更新し、更新された前記設定位置を前記座標位置として検出する特徴位置検出機能と、
    前記更新された前記設定位置と、前記座標位置との差異に基づいて算出される差異量を用いて、前記顔領域検出部により検出された前記顔領域に含まれる顔画像が真の顔画像であることの確からしさを表す顔領域信頼度を算出する顔領域信頼度算出機能と、をコンピューターに実現させるコンピュータープログラム。

Images