JP2014064784A - 視線検出装置、視線検出方法及びプログラム - Google Patents
視線検出装置、視線検出方法及びプログラム Download PDFInfo
- Publication number
- JP2014064784A JP2014064784A JP2012212701A JP2012212701A JP2014064784A JP 2014064784 A JP2014064784 A JP 2014064784A JP 2012212701 A JP2012212701 A JP 2012212701A JP 2012212701 A JP2012212701 A JP 2012212701A JP 2014064784 A JP2014064784 A JP 2014064784A
- Authority
- JP
- Japan
- Prior art keywords
- cornea
- image
- subject
- distance
- line
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Eye Examination Apparatus (AREA)
- Position Input By Displaying (AREA)
Abstract
【課題】事前調整及び再調整が不要である視線検出装置、視線検出方法及びプログラムを提供する。
【解決手段】略平面の対象物内における被験者の注視点を特定する視線検出装置10は、ズーム機能を備え、被験者を撮影して、撮影した画像及びズーム値を出力する撮影手段11、画像から被験者の角膜の像を判別する角膜判定手段12、角膜の像に基づいて被験者の眼球の中心を特定し、眼球の中心から対象物への垂線と、対象物との交点を基準点として特定する基準点特定手段13、角膜の像が所定のサイズとなるズーム値を特定し、そのズーム値に基づいて角膜から対象物までの距離を特定する距離測定手段14、角膜の像の移動量に基づいて角膜の移動量を特定し、角膜の移動量と、角膜から対象物までの距離と、に基づき対象物上の視線移動量を特定する視線移動量特定手段15、基準点と視線移動量とに基づき注視点を特定する注視点特定手段16、を有する。
【選択図】図1
【解決手段】略平面の対象物内における被験者の注視点を特定する視線検出装置10は、ズーム機能を備え、被験者を撮影して、撮影した画像及びズーム値を出力する撮影手段11、画像から被験者の角膜の像を判別する角膜判定手段12、角膜の像に基づいて被験者の眼球の中心を特定し、眼球の中心から対象物への垂線と、対象物との交点を基準点として特定する基準点特定手段13、角膜の像が所定のサイズとなるズーム値を特定し、そのズーム値に基づいて角膜から対象物までの距離を特定する距離測定手段14、角膜の像の移動量に基づいて角膜の移動量を特定し、角膜の移動量と、角膜から対象物までの距離と、に基づき対象物上の視線移動量を特定する視線移動量特定手段15、基準点と視線移動量とに基づき注視点を特定する注視点特定手段16、を有する。
【選択図】図1
Description
本発明は、視線検出装置、視線検出方法及びプログラムに関し、特に被験者が見ている画面上の位置である注視点の検出技術に関する。
近年、筋委縮性測策硬化症(以後、ALSと称す)患者向けの介護支援装置や、タブレット等のユーザーインターフェイスとして、視線検出が注目されている。ALSは、最終的には筋肉の自由が利かなくなり、会話もできなくなる難病であり、ALS患者向けの介護支援装置では、コミュニケーション手段として視線検出の要望が強い。また、タブレットでは、指でタブレットの画面内の対象物を選択する機能の代わりに視線検出を使用することで利便性の向上が期待されている。また、スマートTVにおいても、チャンネル切り替えや、未使用時の電源OFF機能など、リモコンに代わる新しいユーザーインターフェイスとして視線検出が注目されている。
視線検出の手法としては、被験者の眼球に赤外線やLEDなどの光源を照射し、眼球からの反射光をカメラでとらえることにより、視線を特定することが一般的である。この手法による視線検出の際は、被験者の視線と、被験者の視線から特定される視線検出装置の画面上における視線の位置(注視点)と、の誤差をなくすために、事前準備が必要であった。ここで、事前準備とは、被験者の個人差を吸収するため、視線検出装置の使用前に行う調整のことである。また、この手法では、視線検出装置の使用中に、被験者と視線検出装置との距離等の使用環境が変化した場合、視線検出装置の再調整(以後、視線検出装置の使用中に行う再調整のことをキャリブレーションと称す)を行う必要があった(一例として特許文献1を参照)。
事前準備、キャリブレーションは、一般に、視線検出装置の画面の四隅を視線で追ったり、画面の一点を数秒注視したりすることにより行われるが、これは被験者にとってはわずらわしい。そのため、被験者ごとの事前準備を要せず、かつ視線検出装置の使用中に環境が変わった場合でもキャリブレーションを要しない視線検出が望まれる。
その他の課題と新規な特徴は、本明細書の記述及び添付図面から明らかになるであろう。
本発明にかかる視線検出装置は、被験者が略平面の対象物内において注視している位置を示す注視点を特定する視線検出装置であって、ズーム機能を備え、前記被験者を撮影して、前記撮影した画像及びズーム値を出力する撮影手段と、前記画像から前記被験者の角膜の像を判別する角膜判定手段と、前記角膜の像に基づいて前記被験者の眼球の中心を特定し、前記眼球の中心から前記対象物への垂線と、前記対象物と、の交点を基準点として特定する基準点特定手段と、前記角膜の像が所定のサイズとなるズーム値を特定し、前記ズーム値に基づいて前記角膜から前記対象物までの距離を特定する距離測定手段と、前記角膜の像の移動量に基づいて前記角膜の移動量を特定し、前記角膜の移動量と、前記角膜から前記対象物までの距離と、に基づき前記対象物上の視線移動量を特定する視線移動量特定手段と、前記基準点と前記視線移動量とに基づき前記注視点を特定する注視点特定手段と、を有する。
本発明にかかる視線検出方法は、被験者が略平面の対象物内において注視している位置を示す注視点を特定する視線検出方法であって、ズーム機能を備えた撮影手段により前記被験者を撮影して、前記撮影した画像及びズーム値を出力する撮影ステップと、前記画像から前記被験者の角膜の像を判別する角膜判定ステップと、前記角膜の像に基づいて前記被験者の眼球の中心を特定し、前記眼球の中心から前記対象物への垂線と、前記対象物と、の交点を基準点として特定する基準点特定ステップと、前記角膜の像が所定のサイズとなるズーム値を特定し、前記ズーム値に基づいて前記角膜から前記対象物までの距離を特定する距離測定ステップと、前記角膜の像の移動量に基づいて前記角膜の移動量を特定し、前記角膜の移動量と、前記角膜から前記対象物までの距離と、に基づき前記対象物上の視線移動量を特定する視線移動量特定ステップと、前記基準点と前記視線移動量とに基づき前記注視点を特定する注視点特定ステップと、を有する。
本発明にかかるプログラムは、コンピュータに上記視線検出方法を実行させるためのプログラムである。
本発明により、事前調整及び再調整が不要である視線検出装置、視線検出方法及びプログラムを提供することができる。
最初に、本発明の実施の形態との対比のため、特許文献1記載の視線計測装置について説明する。
特許文献1記載の視線計測装置は、所定の画面を見ている被験者について所定の光源からの光が反射した眼球の画像である眼球画像を取得し、前記眼球画像から、角膜の曲率中心と瞳孔の瞳孔中心とを結ぶ軸である光軸を算出し、算出した前記光軸を利用して、当該光軸と、中心窩と角膜の曲率中心とを結ぶ軸である視軸との間のずれを算出し、前記光軸と前記視軸との間のずれに基づき、被験者の前記画面上での注視点を算出する。
図8に示すように、視線計測装置21は、CPU211、メモリ212、ハードディスク213、キーボード214、マウス215、ディスプレイ216a、216b、光学式ドライブ217、LED218及びカメラ219を備えている。
このうち、ディスプレイ216aは視線を計測する被験者に見てもらう画像を表示する。ディスプレイ216bは、ステレオカメラ219C0、219C1で撮影した被験者の眼球画像を、視線計測装置21の被験者の確認のために表示する。LED218L0、218L1、218L2は、視線計測装置21によって視線を計測する被験者に対して、光を照射する。LED218L0乃至218L2は、角膜形状の問題や角膜外での反射の問題を防ぐために、図9のように配置される。LED218L0はディスプレイ216aに向かって右側のフレームに接する位置に、LED218L1はディスプレイ216aに向かって左側のフレームに接する位置にそれぞれ配置される。ステレオカメラ219C0、219C1は、目が半分閉じたような場合や目が細い人にも対応するため、ディスプレイ216の下部に配置される。
図10は、視線計測装置21のCPU211の動作を示すフローチャートである。
CPU211は、ステレオカメラ219C0、219C1で撮影した画像を取得する。CPU211は、ステップS503〜S513において光軸算出処理を実行する。なお、光軸算出処理は種々の既存の手法により可能である。
さらにCPU211は、注視点算出処理を実行する(S515)。CPU211は、注視点算出処理によって、被験者が実際にディスプレイ216を見ている注視点を算出する。CPU211は、ステップS501〜S515までの処理を視線計測装置21の動作が終了するまで繰り返し実行する(S517)。
さらにCPU211は、注視点算出処理を実行する(S515)。CPU211は、注視点算出処理によって、被験者が実際にディスプレイ216を見ている注視点を算出する。CPU211は、ステップS501〜S515までの処理を視線計測装置21の動作が終了するまで繰り返し実行する(S517)。
CPU211は、光軸算出処理に際し、第一プルキニエ像(角膜表面における光源の反射像)抽出処理を実行する。これは、光軸を推定する際に発生する誤差を減少させることを目的する処理である。第一プルキニエ像抽出処理においては、図8に示すステレオカメラ219C0、219C1によって撮影される眼球画像に表示されるLED218L0乃至218L2の三つの反射像のうち、画像瞳孔中心に近いものが二つ選択される。これにより、より球状に近い部分での反射像のみを用いて、光軸が計算される。また、CPU211は、実際の眼球における視軸と光軸のずれを修正するために、注視点算出処理を実行する。図11に示すように、一般的に、被験者が実際に見ている点と、左右の目の光軸とディスプレイとの交点は一致しないからである。そこで、ディスプレイ216a上の被験者が注視している点(注視点)を、「ディスプレイと左目の光軸の交点」および「ディスプレイと右目の光軸の交点」の中点と推定する。
特許文献1記載の視線計測装置21では、使用中に視線計測装置21のディスプレイ216aと被験者の距離が変化するような、被験者の距離が一定でない環境では、ディスプレイ216a上で被験者が注視している点(注視点)の誤差が大きくなるため、視線検出が正常にできないという問題がある。以下にこの問題が生じる理由を説明する。
視線計測装置21は、視線計測装置21の表示部を見ている被験者に対してLEDを照射することにより、反射した眼球の画像を取得する。そして、眼球画像から、角膜の曲率中心と瞳孔の瞳孔中心と結ぶ軸である光軸を推定し、光軸を用いて注視点を算出している。
視線計測装置21を使用する際は、LEDの位置をあらかじめ計測し、焦点距離、画像平面の中心位置、レンズひずみ係数等の内部パラメータおよび、カメラの位置、向きなどの外部パラメータをカメラキャリブレーションにより算出し、ハードディスクにあらかじめ記憶しておく必要がある。そのため、使用中に視線計測装置21のディスプレイ216aと被験者の距離(焦点距離)が変わると、再度カメラキャリブレーションを行う必要がある。
上述の理由により、カメラキャリブレーション後の使用中は、視線計測装置21のディスプレイ216aと被験者の距離は一定でなければならない。視線計測装置21のディスプレイ216aと被験者の距離が変化すると、被験者の視線と、被験者の視線から特定された視線計測装置21のディスプレイ216a上の視線位置(注視点)と、の誤差が大きくなるため、視線検出が正常にできない。
一方、本発明の実施の形態によれば、被験者ごとの事前準備を要せず、かつ視線検出装置の使用中に環境が変わった場合でもキャリブレーションを要しない視線検出が可能である。
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
はじめに、図1を用いて、本実施の形態における視線検出装置10の構成について説明する。
視線検出装置10は、図外の被験者の顔、特に目の角膜を撮影し、被験者が見ている図外の対象物上の位置、すなわち注視点を特定することを目的とする装置である。ここで、対象物とは、典型的には図外の表示装置の略平面の表示面上に表示された画像である。
視線検出装置10は、撮影手段11、角膜判定手段12、基準点特定手段13、距離測定手段14、視線移動量特定手段15、及び注視点特定手段16を有する。これらの手段は、視線検出装置10が備える処理装置(図示しない)が、記憶装置(図示しない)に記憶されたプログラムを実行することにより実現される、論理的な情報処理手段である。
撮影手段11は、被験者を撮影するための、ズーム機能を備えたカメラを含み、撮影により得られた被験者の像(画像)と、その画像を撮影した際のズーム値とを出力する。ここで、ズーム機能とは、カメラにより得られる像の倍率を変化させる機能をいう。ズーム機能としては例えば、光学系により像の倍率を変化させる光学ズーム、一旦得られた像にデジタル処理を施して倍率を変化させた像を生成するデジタルズームがあるが、同等の機能を実現できるのであればいかなる機構によるものであってもよい。また、上記カメラは、被験者の画像を得られるのであればカメラ以外の任意の機構によって代替されてもよい。本実施の形態では、撮影手段11として、光学ズーム又はデジタルズーム機能を備えるカメラを用いることとする。
角膜判定手段12は、撮影手段11が被験者を撮影した画像から、被験者の目の角膜を判別し、角膜の画像を出力する。より詳細には、角膜判定手段12は、撮影手段11が出力した画像を入力し、上記画像から顔を検出して、顔の画像データを出力する顔検出機能、顔検出機能が出力した顔の画像データを入力し、上記画像データからから目を検出して、目の画像データを出力する目検出機能、及び目検出機能が出力した目の画像データを入力し、上記画像データから角膜を判別して、角膜の画像データを出力する角膜判定機能を有する。
基準点特定手段13は、角膜判定手段12が出力した角膜の画像を入力し、この角膜の画像に基づいて被験者の眼球の中心を特定し、眼球の中心から前記対象物への垂線と、対象物と、の交点を基準点として特定し、この基準点を出力する。
距離測定手段14は、撮影手段11が出力するズーム値と、角膜判定手段12が出力する角膜の画像データと、を入力し、これらに基づいて被験者(より具体的には被験者の角膜)と対象物との距離を算出し、この距離を出力する。
視線移動量特定手段15は、角膜判定手段12が出力する角膜の画像データに基づいて角膜の移動量(角膜移動量)を算出及び出力する角膜移動量測定機能と、角膜移動量測定機能が出力した角膜移動量、及び距離測定手段14が特定した角膜と対象物との距離を入力し、これらに基づいて対象物上における被験者の視線の移動量である視線移動量を算出及び出力する視線移動量特定機能と、を有する。
注視点特定手段16は、基準点特定手段13が出力した基準点と、視線移動量特定手段15が出力した視線移動量と、を入力し、これらに基づいて、対象物上において被験者が注視している位置を示す注視点を算出及び出力する。
注視点特定手段16が出力した注視点は、例えば図外の表示装置に入力して対象物と重畳して表示させることができる。また、他の任意の処理手段に入力して、公知のポインティングデバイスによる座標入力と同様に扱わせることが可能である。
つぎに、図2を用いて、視線検出装置10の利用環境と、視線検出装置10が注視点を特定する処理の原理について説明する。
視線検出装置10の撮影手段11は、撮影手段11と被験者との距離が、対象物を表示する表示装置と被験者との距離と略等しくなるよう設置されることが望ましい。好ましくは、図2に示すように、撮影手段11は、表示装置の表示面と略同一平面上に位置するよう設置される。これにより、視線検出装置10が、撮影手段11が出力する被験者の画像及びズーム値に基づいて算出する距離(撮影手段11と被験者との距離)を、被験者と対象物との距離として扱うことができる。
上述のように、視線検出装置10は、撮影手段11が撮影した被験者の画像から、角膜移動量を算出し、さらには対象物上の視線移動量を算出する。ここで、視線検出装置10と被験者の距離が異なれば、角膜移動量が同じであっても、対象物上の視線移動量は異なってくる。そこで、視線移動量を特定するためには、対象物と被験者との距離を特定する必要がある。
視線検出装置10では、この対象物と被験者との距離を特定するために、撮影手段11が撮影した画像に含まれる角膜の大きさと、その画像を撮影した際のズーム値と、を用いる。その理由は、一般に、撮影手段11から距離Y1にある被写体Aをズーム値X1で撮影した画像中の被写体Aの大きさW1と、撮影手段11から距離Y2にある被写体Aをズーム値X2で撮影した画像中の被写体Aの大きさW2が同じであるとき、以下の関係式(1)が成り立つからである。
Y2 = (X2/X1)・Y1 ・・・(1)
Y2 = (X2/X1)・Y1 ・・・(1)
つまり、視線検出を行う前に、予め撮影手段11によって被写体Aを撮影し、その際の撮影手段11と被写体Aとの距離(Y1に相当)、対象物をズームアップした時のズーム値(X1に相当)、被写体Aの像の大きさ(W1に相当)を基準値として保持しておく。そして、実際に視線検出を行う際は、被写体Aの像の大きさ(W2に相当)が上記基準値(W1)と同じになるときのズーム値(X2に相当)を取得できれば、上記関係式(1)により、その際の撮影手段11と被写体Aとの距離(Y2に相当)を導出できることになる。
ここで、発明者は、上記被写体Aとして、被験者の角膜が好適であることを発見した。それは、一定年齢以上の人間の角膜の大きさには、大きな個人差がないからである。そのため、ある被験者の角膜をサンプルとして撮影し、その画像における角膜の像の大きさ(W1)、撮影時のズーム値(X1)及び距離(Y1)からなる基準値を、図示しない記憶装置等に予め格納しておくことができる。これにより、視線検出を実施する際には、特段の事前準備を行う必要がなく、被験者の角膜の像の大きさ(W2)が像の大きさ基準値(W1)と等しくなるようズームアップして撮影するだけで、被験者と撮影手段11との距離を導出できる。
なお、ここでは被験者と撮影手段11との距離を算出するための被写体として被験者の角膜を用いたが、必ずしもこれに限定する必要は無く、サイズに個人差が出にくいようなものであれば任意の被写体を用いてよい。
つぎに、図3のフローチャートを用いて、視線検出装置10の動作について説明する。
まず、視線検出装置10の図示しない記憶装置は、上述の基準値として、角膜の像の大きさ(W1。画像上での角膜の直径をいうものとする。以下、基本サイズと称す)、角膜が基本サイズとなるようある被験者の角膜を撮影した際の、撮影手段11と被験者との距離(Y1)、及びズーム値を予め格納しているものとする。ここで、基本サイズは、視線の動きが充分に検出可能な程度の大きさを有していることが好ましい。さらに、記憶装置は、基本サイズが実際の角膜の大きさの何倍であるかを示す倍率を格納しているものとする。なお、実際の角膜のサイズは、撮影手段11と被験者との距離を0、かつズーム値を1倍としたときの、角膜の像のサイズとなる。ここで、これらの基準値及び倍率(以下、初期パラメータ)は、視線検出装置10の使用前に都度設定することを要する値ではなく、例えば視線検出装置10の製造時に記憶装置に対して予め格納されるべき数値である。なお、初期パラメータの格納タイミングは必ずしも製造時である必要は無く、視線検出装置10の使用前であれば任意のタイミングであってよい。
本実施の形態では、図4に示すように、角膜の像の基本サイズ(W)=20mm、撮影手段11と被験者との距離(Y1)=10cm、ズーム値(X2)=2倍を内容とする基準値と、倍率=1.6倍(実際の角膜のサイズは12mmということになる)とが、予め初期パラメータとして記憶装置に格納されているものとする。
つづいて、視線検出装置10が被験者の視線検出を行う際の処理について説明する。
F110:撮影手段11は、被験者を撮影し、撮影した画像とその際のズーム値とを出力する。角膜判定手段12は、撮影手段11が出力した画像を1つ入力し、その画像から被験者の顔を検出する(顔検出機能)。顔検出の手法としては、例えば鼻、耳、眉などの顔の特徴を検出し、検出した特徴に基づき顔の位置を特定する手法が公知であるが、これに限定されること無く、撮影画像から顔を検出できるのであれば任意の手法を採用可能である。
なお、撮影手段11は、所定の時間間隔で断続的に被験者を撮影して撮影画像を出力し、角膜判定手段12はこれらの撮影画像から順次角膜を判別する処理を行うことが好ましい。
F111:角膜判定手段12は、顔検出機能によって検出した顔画像から、さらに被験者の目を検出する(目検出機能)。顔画像から目を検出する手法としては、例えば目の特徴である白黒エッジがはっきりした部分を検出することにより、目の位置を特定する手法が公知であるが、これに限定されること無く、顔画像から目が検出できるのであれば任意の方法を採用可能である。
F112:角膜判定手段12は、目検出機能によって検出した目の画像から、さらに被験者の角膜を判別する(角膜判別機能)。例えば目の画像のうち黒色部分を角膜として判別することができる。角膜判定手段12は、判別した角膜の画像を出力する。
F120:基準点特定手段13は、角膜判定手段12が出力した角膜の画像から、被験者の眼球の中心点を求める。角膜から眼球の中心を求める手法としては、例えば瞳孔を円や楕円として捉え、最小2乗法やハフ変換を用いて瞳孔中心を求めることにより眼球の中心を特定する手法が公知であるが、これに限定されること無く、角膜から眼球の中心が検出できるのであれば任意の方法を採用可能である。
次に、基準点特定手段13は、眼球の中心点から対象物に対して仮想的な垂線を引く。そして、基準点特定手段13は、この垂線と対象物、具体的には表示装置の表示面とが交わった点を、基準点として決定する。
F121:距離測定手段14は、撮影手段11のズーム機能を制御し、角膜の像が基本サイズとなるまで被験者の目をズームアップする。
F121:距離測定手段14は、上記ズームアップが完了したならば、そのときの、すなわち角膜の像が基本サイズ(W1)と同サイズ(W2)であるときのズーム値(X2)を撮影手段11から取得する。また、距離測定手段14は、初期パラメータ(X1,Y1)を記憶装置から取得する。
次に、距離測定手段14は、撮影手段11から取得したズーム値(X2)、及び初期パラメータ(X1,Y1)を、上述の関係式(1)に代入し、撮影手段11と被験者との距離(Y2)を算出する。例えば図5に示すように、基本サイズになるまでズームアップした時のズーム値が6倍であったとすると、撮影手段11と被験者との距離は、
(6倍/2倍)×(10cm)=30cm
となる。
(6倍/2倍)×(10cm)=30cm
となる。
F130:視線移動量特定手段15は、まず角膜の像の移動量を特定する。視線移動量特定手段15は、角膜判定手段12から、時系列順に撮影された複数の角膜の画像を入力する。複数の角膜の画像は、例えば撮影手段11が所定の時間間隔で被験者を撮影して撮影画像を出力し、角膜判定手段12がこれらの撮影画像から順次角膜を判別する処理を行うことにより、生成することができる。視線移動量特定手段15は、複数の角膜の画像のうち、好ましくはステップF120において基準点を特定した際に用いた画像と、この画像よりも時間的に新しい1つの画像とを比較することにより、角膜の像の移動量を求めることができる。例えば、角膜の像のエッジ部分(黒目と白目の境)の差分を求め、この差分を角膜の像の移動量とすることができるが、これに限定されること無く、角膜の像の移動量が算出できるのであれば任意の手法を採用可能である。
次に、視線移動量特定手段15は、図6に示すように、角膜の像の移動量に基づいて、実際の角膜の移動量(角膜移動量)を特定する。例えば、視線移動量特定手段15は、角膜の像の移動量に初期パラメータの倍率を乗ずることにより、角膜移動量を算出することができる。具体的には、角膜の像が、撮影手段11を正面に見て左に4mm移動したとすると、基本サイズは実際の角膜の1.6倍の大きさであるため、実際の角膜移動量は、対象物の中央から左方向へ4/1.6 = 2.5mmである。
さらに、視線移動量特定手段15は、図7に示すように、角膜移動量に基づいて、対象物上における被験者の視線の移動量である視線移動量を特定する。一般に角膜は、眼球の中心を軸に移動する。よって、角膜が眼球の中心を軸として角膜移動量だけ移動した場合、底辺が眼球の半径、高さが角膜移動量である直角三角形(以下、三角形1)が形成される。ここで、底辺が、眼球の半径+撮影手段11と被験者との距離である、三角形1と相似の三角形2を想定する。このとき、三角形2の高さに相当するのが、対象物上における被験者の視線の移動量である。なお、ここで撮影手段11と対象物とは、略等距離であり、かつ略同一平面上に配置されているものとする。
すなわち、視線移動量(三角形2の高さ)は、三角形1と三角形2の相似比により、以下の関係式(2)で求められる。
三角形1の高さ(角膜移動量):三角形2の高さ(視線移動量)=三角形1の底辺(眼球の半径):三角形2の底辺(眼球の半径+撮影手段11と被験者との距離) ・・・(2)
三角形1の高さ(角膜移動量):三角形2の高さ(視線移動量)=三角形1の底辺(眼球の半径):三角形2の底辺(眼球の半径+撮影手段11と被験者との距離) ・・・(2)
ここで、発明者は、三角形1の底辺(眼球の半径)すなわち眼球の中心から角膜までの距離は、一定年齢以上であれば大きな個人差がないことを発見した。よって、三角形1の底辺(眼球の半径)は、記憶装置に固定値として予め記憶させておくことができ、上記計算の際に取得して利用することが可能である。
したがって、視線移動量特定手段16は、上述の手法により求めた角膜移動量と、予め定められた眼球の半径と、に加え、距離測定手段14が出力する撮影手段11と被験者との距離を利用することにより、視線移動量を算出することが可能である。
そこで、視線移動量特定手段16は、距離測定手段14が出力する撮影手段11と被験者との距離を入力する。そして、この距離と、角膜移動量、及び眼球の半径を、上記関係式(2)に代入し、視線移動量を算出する。
例えば、眼球の半径=12mm、撮影手段11と被験者との距離=300mm、角膜移動量=2.5mmであるとすると、関係式(2)は
2.5 : X = 12 : 312
となり、対象物上の視線移動量は65mmと特定できる。
2.5 : X = 12 : 312
となり、対象物上の視線移動量は65mmと特定できる。
F140:注視点特定手段16は、基準点特定手段13が出力する基準点に、視線移動量特定手段16が出力する視線移動量を足し合わせることにより、被験者の注視点を特定する。例えば、視線移動量が左方向に65mmである場合は、基準点から左側に65mm移動した点が、被験者の注視点となる。注視点特定手段16は、この注視点を出力する。
F150:これらの処理の後、角膜判定手段12は、この時点における被験者の撮影画像を撮影手段11から入力し、顔検出機能により被験者の最新の顔の位置を検出する。そして、被験者の最新の顔の位置と、好ましくはF110において検出した、基準点特定時点の顔の位置とを比較する。ここで、被験者の顔の位置の移動量が、所定のしきい値を超えていると判定された場合、視線検出装置10は、ステップF112以降の処理を再度実行して、基準点及び注視点を再特定する。
一方、被験者の顔の位置の移動量が所定のしきい値を超えていないと判定された場合、角膜判定手段12は、入力した画像から被験者の角膜を判別し、被験者の最新の角膜の像と、好ましくはF110において検出した、基準点特定時点の角膜の像とを比較する。ここで、被験者の角膜の像が移動している場合、視線検出装置10は、ステップF130以降の処理を再度実行して、注視点を再特定する。一方、被験者の角膜の像が移動していないならば、視線検出装置10は、ステップF150の処理を再度実行する。
本実施の形態によれば、距離測定手段14は、撮影手段11の撮影画像に基づき角膜判定手段12が判別した被験者の角膜の像のサイズと、撮影手段11のズーム値とに基づき、撮影手段11と被験者との距離を特定することができる。これにより、視線検出装置10の使用前に、被験者毎の事前準備等を行う必要がない。これは、角膜の大きさには大きな個人差がないという発明者の知見に基づき、角膜の像の大きさ(W1)、撮影時のズーム値(X1)及び距離(Y1)からなる基準値を、図示しない記憶装置等に予め格納しておくこととしたためである。これにより、視線検出を実施する際には、被験者の角膜の像の大きさ(W2)が像の大きさ基準値(W1)と等しくなるようズームアップして撮影することで、被験者と撮影手段11との距離を導出することができる。
また、本実施の形態によれば、視線移動量特定手段15は、角膜移動量と、距離測定手段14が出力する撮影手段11と被験者との距離とに基づき、視線移動量を算出することができる。これは、眼球の半径には大きな個人差がないという発明者の知見に基づき、眼球の半径を予め記憶することとしたためである。
また、本実施の形態によれば、視線検出装置10は、被験者の顔の位置を随時モニタリングし、顔の位置変化を確認すると、再度顔の位置特定、目の位置特定、角膜の位置特定を行い、距離を再度算出し、基準点及び注視点の再特定を行う。これにより、視線検出装置10の使用中に撮影手段11と被験者との距離が変化するような、距離が一定でない環境でも、都度明示的なキャリブレーションを要せず、かつ注視点の誤差を生じることなく、視線検出を正常に行うことができる。
<その他の実施の形態>
なお、本発明は上述した実施の形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
なお、本発明は上述した実施の形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
例えば、上述の実施の形態では、角膜の像の基本サイズと、その像が得られた際のズーム値、距離等を基準値として予め格納し、実際の視線検出においては、角膜の像が基本サイズとなるように撮影手段11をズームアップする構成を開示した。ここで、基準値は1種類であることが前提であった。しかしながら、基準値は必ずしも1種類である必要は無く、角膜の像のサイズ、ズーム値、距離が対応づけられた基準値が、記憶装置に複数格納されていてもよい。この場合、距離測定手段14は、角膜判定手段12が出力する角膜の像のサイズと同一又は最も近いサイズの基準値を利用することにより、撮影手段11のズーム機能の利用を最小限に抑えつつ、撮影手段11と被験者との距離を高速に測定することができる。これにより、距離測定手段14の処理を高速化することができる。但し、基準値となる角膜の像のサイズは、視線の動きが充分に検出可能な程度の大きさの範囲内であることが好ましい。
また、視線検出装置10は、複数の基準値を予め格納する場合であっても、視線の動きを検出するうえで最も好ましい角膜の像のサイズを、他と識別可能に格納してもよい。この場合、視線検出装置10は、最初にステップF121を実行する場合においては、この最も好ましい角膜の像のサイズを含む基準値を用いて、被験者との距離を特定することができる。これにより、視線検出の実行開始の際は、ズーム機能を最大限に利用し、被験者との距離を精密に測定することができる。一方、F150において被験者の顔の位置の動きが検出され、再度ステップF121を実行する場合においては、複数の基準値のうち、角膜判定手段12が出力する角膜の像のサイズと同一又は最も近いサイズの基準値を利用することができる。これにより、視線検出の実行中には、撮影手段11のズーム機能の利用を最小限に抑え、被験者との距離を高速に再測定し、視線検出処理の遅延を抑制することができる。
例えば、上述の実施の形態では、ステップF150において、被験者の顔の位置の移動を検出したが、必ずしも顔である必要は無く、被験者の移動を検出できるのであれば他の任意の特徴点であってもよい。
また、上述の実施の形態における基準点特定手段13、距離測定手段14の動作は、順序が逆であっても良く、あるいは平行して実行されてもよい。
また、上述の実施の形態では、ハードウェアの構成として説明したが、これに限定されるものではなく、任意の処理を、CPU(Central Processing Unit)にコンピュータプログラムを実行させることにより実現することも可能である。この場合、コンピュータプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non?transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD?ROM(Read Only Memory)、CD?R、CD?R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(random access memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
10 視線検出装置
11 撮影手段
12 角膜判定手段
13 基準点特定手段
14 距離測定手段
15 視線移動量特定手段
16 注視点特定手段
11 撮影手段
12 角膜判定手段
13 基準点特定手段
14 距離測定手段
15 視線移動量特定手段
16 注視点特定手段
また、上述の実施の形態では、ハードウェアの構成として説明したが、これに限定されるものではなく、任意の処理を、CPU(Central Processing Unit)にコンピュータプログラムを実行させることにより実現することも可能である。この場合、コンピュータプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non−transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(random access memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
Claims (9)
- 被験者が略平面の対象物内において注視している位置を示す注視点を特定する視線検出装置であって、
ズーム機能を備え、前記被験者を撮影して、前記撮影した画像及びズーム値を出力する撮影手段と、
前記画像から前記被験者の角膜の像を判別する角膜判定手段と、
前記角膜の像に基づいて前記被験者の眼球の中心を特定し、前記眼球の中心から前記対象物への垂線と、前記対象物と、の交点を基準点として特定する基準点特定手段と、
前記角膜の像が所定のサイズとなるズーム値を特定し、前記ズーム値に基づいて前記角膜から前記対象物までの距離を特定する距離測定手段と、
前記角膜の像の移動量に基づいて前記角膜の移動量を特定し、前記角膜の移動量と、前記角膜から前記対象物までの距離と、に基づき前記対象物上の視線移動量を特定する視線移動量特定手段と、
前記基準点と前記視線移動量とに基づき前記注視点を特定する注視点特定手段と、を有する
視線検出装置。 - 前記被験者の位置が変化したことを検知した場合、
前記距離測定手段及び基準点特定手段は、
前記角膜から前記対象物までの距離の特定、及び前記基準点の特定を再度、実行する
請求項1記載の視線検出装置。 - 前記距離測定手段は、
予め記憶された、基準値としての角膜の像のサイズ、基準値としてのズーム値、及び基準値としての角膜から前記対象物までの距離を取得し、
前記撮影手段の前記ズーム機能を、前記角膜の像のサイズが前記基準値としての角膜の像のサイズと同等となるよう制御し、
前記制御した際のズーム値と、前記基準値としてのズーム値と、前記基準値としての角膜から前記対象物までの距離と、に基づいて前記角膜から前記対象物までの距離を特定する
請求項1又は2記載の視線検出装置。 - 前記視線移動量特定手段は、予め記憶された、前記眼球の中心から前記角膜までの距離を用いて、前記視線移動量を特定する
請求項1乃至3いずれか1項記載の視線検出装置。 - 被験者が略平面の対象物内において注視している位置を示す注視点を特定する視線検出方法であって、
ズーム機能を備えた撮影手段により前記被験者を撮影して、前記撮影した画像及びズーム値を出力する撮影ステップと、
前記画像から前記被験者の角膜の像を判別する角膜判定ステップと、
前記角膜の像に基づいて前記被験者の眼球の中心を特定し、前記眼球の中心から前記対象物への垂線と、前記対象物と、の交点を基準点として特定する基準点特定ステップと、
前記角膜の像が所定のサイズとなるズーム値を特定し、前記ズーム値に基づいて前記角膜から前記対象物までの距離を特定する距離測定ステップと、
前記角膜の像の移動量に基づいて前記角膜の移動量を特定し、前記角膜の移動量と、前記角膜から前記対象物までの距離と、に基づき前記対象物上の視線移動量を特定する視線移動量特定ステップと、
前記基準点と前記視線移動量とに基づき前記注視点を特定する注視点特定ステップと、を有する
視線検出方法。 - 前記被験者の位置が変化したことを検知した場合、
前記距離測定ステップ及び基準点特定ステップを再度、実行する
請求項5記載の視線検出方法。 - 前記距離測定ステップは、
予め記憶された、基準値としての角膜の像のサイズ、基準値としてのズーム値、及び基準値としての角膜から前記対象物までの距離を取得し、
前記撮影ステップの前記ズーム機能を、前記角膜の像のサイズが前記基準値としての角膜の像のサイズと同等となるよう制御し、
前記制御した際のズーム値と、前記基準値としてのズーム値と、前記基準値としての角膜から前記対象物までの距離と、に基づいて前記角膜から前記対象物までの距離を特定する
請求項5又は6記載の視線検出方法。 - 前記視線移動量特定ステップは、予め記憶された、前記眼球の中心から前記角膜までの距離を用いて、前記視線移動量を特定する
請求項5乃至7いずれか1項記載の視線検出方法。 - コンピュータに、請求項5乃至8いずれか1項記載の視線検出方法を実行させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012212701A JP2014064784A (ja) | 2012-09-26 | 2012-09-26 | 視線検出装置、視線検出方法及びプログラム |
US14/036,546 US20140085189A1 (en) | 2012-09-26 | 2013-09-25 | Line-of-sight detection apparatus, line-of-sight detection method, and program therefor |
CN201310445566.0A CN103654709A (zh) | 2012-09-26 | 2013-09-26 | 视线检测设备、视线检测方法及用于其的程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012212701A JP2014064784A (ja) | 2012-09-26 | 2012-09-26 | 視線検出装置、視線検出方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014064784A true JP2014064784A (ja) | 2014-04-17 |
Family
ID=50294371
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012212701A Pending JP2014064784A (ja) | 2012-09-26 | 2012-09-26 | 視線検出装置、視線検出方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20140085189A1 (ja) |
JP (1) | JP2014064784A (ja) |
CN (1) | CN103654709A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015207290A (ja) * | 2014-04-22 | 2015-11-19 | レノボ・シンガポール・プライベート・リミテッド | 自動ゲイズ・キャリブレーション |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014188727A1 (ja) * | 2013-05-22 | 2014-11-27 | 国立大学法人神戸大学 | 視線計測装置、視線計測方法および視線計測プログラム |
WO2016147498A1 (ja) * | 2015-03-17 | 2016-09-22 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
CN104921697B (zh) * | 2015-05-18 | 2017-04-26 | 华南师范大学 | 一种人眼视线纵向距离的快速测量方法 |
US10303246B2 (en) * | 2016-01-20 | 2019-05-28 | North Inc. | Systems, devices, and methods for proximity-based eye tracking |
JP6756127B2 (ja) * | 2016-03-22 | 2020-09-16 | 日本電気株式会社 | 視線推定装置及び視線推定方法 |
WO2018098772A1 (zh) * | 2016-12-01 | 2018-06-07 | 深圳前海达闼云端智能科技有限公司 | 视点确定方法、装置、电子设备和计算机程序产品 |
JP6911809B2 (ja) * | 2018-05-09 | 2021-07-28 | 日本電信電話株式会社 | 推定方法、推定プログラム及び推定装置 |
CN109044263A (zh) * | 2018-07-13 | 2018-12-21 | 北京七鑫易维信息技术有限公司 | 眼睛视线的检测方法、装置、设备及存储介质 |
CN109442254A (zh) * | 2018-09-27 | 2019-03-08 | 广东小天才科技有限公司 | 一种基于智能台灯的学习辅助方法及智能台灯 |
CN113743209A (zh) * | 2021-07-30 | 2021-12-03 | 北京长峰科威光电技术有限公司 | 一种用于大规模线上考试的辅助监考方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6659611B2 (en) * | 2001-12-28 | 2003-12-09 | International Business Machines Corporation | System and method for eye gaze tracking using corneal image mapping |
US7380938B2 (en) * | 2003-03-25 | 2008-06-03 | Sarnoff Corporation | Apparatus to detect and measure saccade and pupilary changes |
US7963652B2 (en) * | 2003-11-14 | 2011-06-21 | Queen's University At Kingston | Method and apparatus for calibration-free eye tracking |
WO2005046465A1 (en) * | 2003-11-14 | 2005-05-26 | Queen's University At Kingston | Method and apparatus for calibration-free eye tracking |
WO2009094587A1 (en) * | 2008-01-23 | 2009-07-30 | Deering Michael F | Eye mounted displays |
WO2010003410A1 (en) * | 2008-07-08 | 2010-01-14 | It-University Of Copenhagen | Eye gaze tracking |
-
2012
- 2012-09-26 JP JP2012212701A patent/JP2014064784A/ja active Pending
-
2013
- 2013-09-25 US US14/036,546 patent/US20140085189A1/en not_active Abandoned
- 2013-09-26 CN CN201310445566.0A patent/CN103654709A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015207290A (ja) * | 2014-04-22 | 2015-11-19 | レノボ・シンガポール・プライベート・リミテッド | 自動ゲイズ・キャリブレーション |
Also Published As
Publication number | Publication date |
---|---|
US20140085189A1 (en) | 2014-03-27 |
CN103654709A (zh) | 2014-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014064784A (ja) | 視線検出装置、視線検出方法及びプログラム | |
JP6894845B2 (ja) | ウェアラブルコンピューティングデバイスの視力矯正を制御するための技術 | |
JP2019519859A (ja) | 視線追跡を実行するシステム及び方法 | |
JP6123694B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2016512765A (ja) | 軸上視線追跡システム及び方法 | |
JP2010099470A (ja) | 視線追跡方法及び視線追跡システム | |
JPWO2012020760A1 (ja) | 注視点検出方法及び注視点検出装置 | |
US20220100268A1 (en) | Eye tracking device and a method thereof | |
EP4095744A1 (en) | Automatic iris capturing method and apparatus, computer-readable storage medium, and computer device | |
CN109472189A (zh) | 瞳孔半径补偿 | |
JP2017522104A (ja) | 目状態決定システム | |
JP7081599B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
WO2020010868A1 (zh) | 眼睛视线的检测方法、装置、设备及存储介质 | |
JP2019215688A (ja) | 自動キャリブレーションを行う視線計測装置、視線計測方法および視線計測プログラム | |
JP6981277B2 (ja) | 検出装置、及び検出プログラム | |
JP2019097675A (ja) | 視線検出校正方法、システム、及びコンピュータプログラム | |
JP2015169959A (ja) | 回転角度算出方法、注視点検出方法、情報入力方法、回転角度算出装置、注視点検出装置、情報入力装置、回転角度算出プログラム、注視点検出プログラム及び情報入力プログラム | |
JP5995217B2 (ja) | 瞳孔部分を近似する楕円の検出を行う方法 | |
JP2019062982A (ja) | 眼科装置及び瞳孔状態計測方法 | |
Yang et al. | Wearable eye-tracking system for synchronized multimodal data acquisition | |
KR101526557B1 (ko) | 다중 카메라 기반 시선 추적 장치 및 방법 | |
JP3711053B2 (ja) | 視線測定装置及びその方法と、視線測定プログラム及びそのプログラムを記録した記録媒体 | |
JP2006285531A (ja) | 視線方向の検出装置、視線方向の検出方法およびコンピュータに当該視線方向の視線方法を実行させるためのプログラム | |
JP2016087291A (ja) | 瞳孔・視線計測装置および照明システム | |
JP2017102731A (ja) | 視線検出装置及び視線検出方法 |