JP2017102748A - 瞳画像学習装置、瞳位置検出装置及びそのプログラム - Google Patents
瞳画像学習装置、瞳位置検出装置及びそのプログラム Download PDFInfo
- Publication number
- JP2017102748A JP2017102748A JP2015236043A JP2015236043A JP2017102748A JP 2017102748 A JP2017102748 A JP 2017102748A JP 2015236043 A JP2015236043 A JP 2015236043A JP 2015236043 A JP2015236043 A JP 2015236043A JP 2017102748 A JP2017102748 A JP 2017102748A
- Authority
- JP
- Japan
- Prior art keywords
- pupil
- image
- feature amount
- learning
- image feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
Description
また、特許文献5〜7に記載の発明は、複数台の撮影カメラが必要となるので、装置の大型化、複雑化を招いてしまう。
また、瞳画像学習装置は、瞳画像判別モデル生成部によって、瞳画像の画像特徴量及び非瞳画像の画像特徴量を機械学習することで、瞳画像判別モデルを生成する。この瞳画像判別モデルは、エッジに関する画像特徴量を学習しているため、1台の撮影カメラで人物が撮影された撮影画像から、高い正確性で瞳画像の判別を可能とする。
また、瞳位置検出装置は、第2画像特徴量算出部によって、瞳候補領域について、エッジに関する画像特徴量を算出する。
そして、瞳位置検出装置は、瞳位置算出部によって、瞳画像と判別された瞳候補領域に含まれる瞳位置を算出する。
本願発明に係る瞳画像学習装置は、エッジに関する画像特徴量を学習した瞳画像判別モデルを生成し、本願発明に係る瞳位置検出装置は、1台の撮影カメラで人物が撮影された撮影画像から、この瞳画像判別モデルを用いて瞳位置を検出する。このように、本願発明によれば、高解像度の瞳拡大画像を撮影できない場合でも、複数台の撮影カメラを必要とせずに簡易な構成で瞳位置を検出可能とする。
図1を参照し、本願発明の実施形態に係る瞳検出装置1の構成について、説明する。
瞳検出装置1は、瞳画像の判別に利用する瞳画像判別モデルを生成すると共に、その瞳画像判別モデルを用いて、撮影画像に含まれる瞳位置を検出するものである。図1のように、瞳検出装置1は、瞳画像学習装置2と、瞳画像判別モデル記憶部3と、瞳位置検出装置4とを備える。
瞳画像学習装置2は、後記する学習用画像集合から、瞳画像を判別する瞳画像判別モデルを生成するものである。図1のように、瞳画像学習装置2は、学習用画像集合生成部20と、瞳画像学習部22とを備える。
顔画像集合とは、人物の顔領域が撮影された顔画像の集合である。この顔画像集合は、瞳画像判別モデルの正確性を向上させるため、様々な人物の顔画像や、同一人物であっても顔の向きが異なる顔画像を含んでいることが好ましい。
学習用画像集合とは、人物の瞳領域を切り出した瞳画像と、人物の瞳以外の顔領域を切り出した非瞳画像との集合である。
なお、学習用画像集合生成部20は、教師あり機械学習を行うために、瞳画像に正解データであることを示す識別情報を付加し、非瞳画像に不正解データであることを示す識別情報を付加してもよい。
また、学習用画像集合生成部20は瞳画像学習装置2の外部にあって、瞳画像学習装置2は学習用画像集合を外部から取り込むこととしてもよい。
この多重スケールエッジヒストグラムとは、異なるスケールで延長されたエッジのヒストグラムのことであり、多重スケールエッジ方向ヒストグラムや多重スケールエッジ接続角度ヒストグラムが含まれる。
なお、Nはスケールの多重数であり、1≦n≦Nを満たす。
参考文献:震災映像アーカイブス検索システムへの類似画像検索技術の適用、望月貴裕他、2014年映像情報メディア学会年次大会(ITE Annual Convention 2014)
瞳画像判別モデル記憶部3は、瞳画像判別モデル生成部26が生成した瞳画像判別モデルを記憶するメモリ、ハードディスク(HDD:Hard Disk Drive)等の記憶装置である。
なお、瞳画像判別モデル記憶部3は、瞳画像学習装置2に備えられてもよく、瞳位置検出装置4に備えられてもよい。
瞳位置検出装置4は、瞳画像判別モデル記憶部3に記憶された瞳画像判別モデルを用いて、撮影画像に含まれる人物の瞳位置を検出するものである。図1のように、瞳位置検出装置4は、瞳候補領域設定部40と、瞳位置検出部42とを備える。
すなわち、瞳位置検出装置4は、以下で説明する処理を各フレーム画像に施すと、撮影映像の瞳位置を検出、追跡することが可能となる。
右瞳候補領域の幅 W_r=R2×W_f
右瞳候補領域の高さ H_r=R4×H_f
左瞳候補領域の左上座標 (x_l,y_l)=((1-R1-R2)×W_f,R3×H_f)
左瞳候補領域の幅 W_l=R2×W_f
左瞳候補領域の高さ H_l=R4×H_f
また、画像特徴量算出部44では、窓領域96のスライド方法も任意に設定できる。例えば、画像特徴量算出部44は、右瞳候補領域95Rの左上から右下まで、ラスタスキャンのように窓領域96をスライドさせてもよい。
また、画像特徴量算出部44は、右瞳候補領域95Rと同様、左瞳候補領域95Lについても窓領域96の画像特徴量を算出する。
本実施形態では、瞳位置算出部48は、図8(a)のように、左右の瞳候補領域95について、瞳画像であると判別された全ての窓領域96の中心座標を求める。そして、瞳位置算出部48は、図8(b)のように、右瞳候補領域95Rから求めた中心座標の平均値を、正規化顔領域画像94における右瞳位置97Rとして算出する。さらに、瞳位置算出部48は、左瞳候補領域95Lから求めた中心座標の平均値を、正規化顔領域画像94における左瞳位置97Lとして算出する。
y_pr=y_f+(h_f/H_f)×Y_pr
x_pl=x_f+(w_f/W_f)×X_pl
y_pl=y_f+(h_f/H_f)×Y_pl
図10を参照し、瞳画像学習装置2による瞳画像学習処理について説明する(適宜図1参照)。
瞳画像学習装置2は、学習用画像集合生成部20によって、人物の瞳領域を切り出した瞳画像を生成する(ステップS2)。
瞳画像学習装置2は、学習用画像集合生成部20によって、人物の非瞳域を切り出した非瞳画像を生成する(ステップS3)。
瞳画像学習装置2は、瞳画像判別モデル生成部26によって、瞳画像の画像特徴量及び非瞳画像の画像特徴量を機械学習することで、瞳画像判別モデルを生成する(ステップS5)。
図11を参照し、瞳位置検出装置4による瞳位置検出処理について説明する(適宜図1参照)。
瞳位置検出装置4は、瞳候補領域設定部40によって、撮影画像に含まれる矩形状の顔領域を検出し、検出した顔領域を切り出して顔領域画像を生成する(ステップS11)。
瞳位置検出装置4は、瞳候補領域設定部40によって、顔領域画像から予め設定されたサイズの正規化顔領域画像を生成し、この正規化顔領域画像に左右の瞳候補領域を設定する(ステップS12)。
瞳位置検出装置4は、瞳画像判別部46によって、各窓領域の画像特徴量を瞳画像判別モデルに入力し、各窓領域が瞳画像である確率を算出する(ステップS14)。
瞳位置検出装置4は、瞳画像判別部46によって、瞳画像であると判別された全ての窓領域の中心座標の平均値を瞳位置として算出する(ステップS16)。
本願発明の実施形態に係る瞳検出装置1は、瞳画像学習装置2が、エッジに関する画像特徴量を学習した瞳画像判別モデルを生成し、瞳位置検出装置4が、この瞳画像判別モデルを用いて、1台の撮影カメラCで人物が撮影された撮影画像から瞳画像を判別する。従って、瞳検出装置1は、高解像度の瞳拡大画像を撮影できない場合でも、複数台の撮影カメラCを必要とせずに簡易な構成で瞳位置を検出することができる。
2 瞳画像学習装置
3 瞳画像判別モデル記憶部
4 瞳位置検出装置
20 学習用画像集合生成部
22 瞳画像学習部
24 画像特徴量算出部(第1画像特徴量算出部)
26 瞳画像判別モデル生成部
40 瞳候補領域設定部
42 瞳位置検出部
44 画像特徴量算出部(第2画像特徴量算出部)
46 瞳画像判別部
48 瞳位置算出部
Claims (6)
- 人物の瞳領域を切り出した瞳画像と、前記人物の瞳以外の顔領域を切り出した非瞳画像との集合である学習用画像集合から、前記瞳画像を判別する瞳画像判別モデルを生成する瞳画像学習装置であって、
前記学習用画像集合に含まれる瞳画像及び非瞳画像のそれぞれについて、エッジに関する画像特徴量を算出する第1画像特徴量算出部と、
前記瞳画像の画像特徴量及び前記非瞳画像の画像特徴量を機械学習することで、前記瞳画像判別モデルを生成する瞳画像判別モデル生成部と、
を備えることを特徴とする瞳画像学習装置。 - 前記第1画像特徴量算出部は、前記エッジに関する画像特徴量として、異なるスケールで延長されたエッジのヒストグラムである多重スケールエッジヒストグラムを算出することを特徴とする請求項1に記載の瞳画像学習装置。
- 請求項1に記載の瞳画像学習装置が生成した瞳画像判別モデルを用いて、撮影画像に含まれる人物の瞳位置を検出する瞳位置検出装置であって、
前記撮影画像に含まれる前記人物の顔領域を切り出した顔画像に、当該顔領域よりも小さいサイズの瞳候補領域を設定する瞳候補領域設定部と、
前記学習用画像集合と同じサイズの窓領域を前記瞳候補領域に設定し、前記窓領域について、エッジに関する画像特徴量を算出する第2画像特徴量算出部と、
前記窓領域の画像特徴量を前記瞳画像判別モデルに入力することで、前記窓領域が前記瞳画像であるか否かを判別する瞳画像判別部と、
前記瞳画像であると判別された窓領域に含まれる瞳位置を算出する瞳位置算出部と、
を備えることを特徴とする瞳位置検出装置。 - 前記第2画像特徴量算出部は、前記窓領域を前記瞳候補領域の異なる位置に設定し、各窓領域について、前記エッジに関する画像特徴量を算出し、
前記瞳画像判別部は、前記各窓領域が前記瞳画像であるか否かを判別し、
前記瞳位置算出部は、前記瞳画像であると判別された全ての窓領域の中心座標を求め、求めた前記中心座標の平均値を前記瞳位置として算出することを特徴とする請求項3に記載の瞳位置検出装置。 - 前記第2画像特徴量算出部は、前記エッジに関する画像特徴量として、異なるスケールで延長されたエッジのヒストグラムである多重スケールエッジヒストグラムを算出することを特徴とする請求項3又は請求項4に記載の瞳位置検出装置。
- コンピュータを、請求項3から請求項5の何れか一項に記載の瞳位置検出装置として機能させるための瞳位置検出プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015236043A JP2017102748A (ja) | 2015-12-02 | 2015-12-02 | 瞳画像学習装置、瞳位置検出装置及びそのプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015236043A JP2017102748A (ja) | 2015-12-02 | 2015-12-02 | 瞳画像学習装置、瞳位置検出装置及びそのプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017102748A true JP2017102748A (ja) | 2017-06-08 |
Family
ID=59018049
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015236043A Pending JP2017102748A (ja) | 2015-12-02 | 2015-12-02 | 瞳画像学習装置、瞳位置検出装置及びそのプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017102748A (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006285956A (ja) * | 2005-03-11 | 2006-10-19 | Fuji Photo Film Co Ltd | 赤目検出方法および装置並びにプログラム |
JP2009211180A (ja) * | 2008-02-29 | 2009-09-17 | Canon Inc | 眼の開閉度判定装置、方法及びプログラム、撮像装置 |
-
2015
- 2015-12-02 JP JP2015236043A patent/JP2017102748A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006285956A (ja) * | 2005-03-11 | 2006-10-19 | Fuji Photo Film Co Ltd | 赤目検出方法および装置並びにプログラム |
JP2009211180A (ja) * | 2008-02-29 | 2009-09-17 | Canon Inc | 眼の開閉度判定装置、方法及びプログラム、撮像装置 |
Non-Patent Citations (1)
Title |
---|
望月 貴裕、外3名: ""震災映像アーカイブス検索システムへの類似画像検索技術の適用"", 映像情報メディア学会 2014年年次大会講演予稿集, JPN6019035080, 10 August 2014 (2014-08-10), JP, pages 1 - 2, ISSN: 0004193001 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10810438B2 (en) | Setting apparatus, output method, and non-transitory computer-readable storage medium | |
JP4461747B2 (ja) | 対象決定装置 | |
JP4575829B2 (ja) | 表示画面上位置解析装置及び表示画面上位置解析プログラム | |
US10146992B2 (en) | Image processing apparatus, image processing method, and storage medium that recognize an image based on a designated object type | |
JP2005309746A (ja) | 動物体追跡方法、動物体追跡プログラムおよびその記録媒体、ならびに、動物体追跡装置 | |
US8368764B2 (en) | Digital photographing apparatus and method for controlling the same | |
JP2010225118A (ja) | 画像処理装置、方法及びプログラム | |
JP5371685B2 (ja) | 情報処理装置及び制御方法、プログラム | |
JP2011089784A (ja) | 物体方向推定装置 | |
JP6511950B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2019040306A (ja) | 情報処理装置、情報処理プログラム、及び、情報処理方法 | |
JP7312026B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2014102713A (ja) | 顔構成部抽出装置、顔構成部抽出方法及びプログラム | |
EP3699865A1 (en) | Three-dimensional face shape derivation device, three-dimensional face shape deriving method, and non-transitory computer readable medium | |
JPWO2020213166A1 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP2020072349A (ja) | 画像処理装置、画像処理方法 | |
JP2008211534A (ja) | 顔検知装置 | |
JP2017102748A (ja) | 瞳画像学習装置、瞳位置検出装置及びそのプログラム | |
JP7232663B2 (ja) | 画像処理装置及び画像処理方法 | |
JP6776532B2 (ja) | 画像処理装置、撮像装置、電子機器及び画像処理プログラム | |
JP2020043544A (ja) | 撮像装置およびその制御方法、プログラムならびに記憶媒体 | |
JP2013157675A (ja) | 撮像装置及びその制御方法、プログラム、並びに記憶媒体 | |
JP7324066B2 (ja) | 画像処理装置およびその制御方法、ならびに撮像装置 | |
JP6525693B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2018005727A (ja) | 情報処理装置、情報処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181102 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190904 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190910 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191107 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200121 |