JP5204781B2 - 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路 - Google Patents

視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路 Download PDF

Info

Publication number
JP5204781B2
JP5204781B2 JP2009534785A JP2009534785A JP5204781B2 JP 5204781 B2 JP5204781 B2 JP 5204781B2 JP 2009534785 A JP2009534785 A JP 2009534785A JP 2009534785 A JP2009534785 A JP 2009534785A JP 5204781 B2 JP5204781 B2 JP 5204781B2
Authority
JP
Japan
Prior art keywords
electrooculogram
signal
saccade
calibration
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009534785A
Other languages
English (en)
Other versions
JPWO2009142008A1 (ja
Inventor
敏康 杉尾
大将 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2009534785A priority Critical patent/JP5204781B2/ja
Publication of JPWO2009142008A1 publication Critical patent/JPWO2009142008A1/ja
Application granted granted Critical
Publication of JP5204781B2 publication Critical patent/JP5204781B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Theoretical Computer Science (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Eye Examination Apparatus (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Position Input By Displaying (AREA)

Description

本発明は、ユーザの眼電位を用いてユーザの視線位置を求める際に、ドリフトの影響を受けずに眼電位と視線位置との較正を行う視線検出装置に関するものである。
近年、人の眼球運動を利用した視線入力インタフェース等が提案されている。人の眼球運動検出方法には、角膜と網膜との間の発生電位を利用するEOG法、スポットライトを眼球に入射させることによって角膜内部に生じる虚像の動きを検出する角膜反射法、角膜と強膜との反射率の違いを利用する強反射法、およびコンタクトレンズを用いる方法等がある。
ここで、EOG法とは、人間の角膜が網膜に対して正に帯電していることを利用した眼球運動検出方法である。具体的には、人間の眼球付近に電極を貼付し、その電極から計測される電位の変化から眼球運動を検出する。図36A及び図36BにEOG法を用いた眼球運動検出方法の例を示す。図36A及び図36Bは、ユーザの右眼の外側と内側との2箇所に、眼球の中心から等距離離して電極を貼付した場合の例である。
外側の電極Aに発生する眼電位をVa、内側の電極Bに発生する眼電位をVbとすると、図36Aのように、ユーザの眼球が真中位置にある場合は、VaとVbが等しくなり、計測される眼電位Va-bは0Vとなる。一方、図36Bのように、ユーザが右を見た場合は、電極Aの方が右眼の角膜に近くなるため、Va>Vbとなり、計測眼電位Va-bは正の値を示す。逆に、ユーザが左を見た場合は、Va<Vbとなり、計測眼電位Va-bは負の値を示す。つまり、計測眼電位Va-bが正の値を示すならばユーザは右に眼を動かしたことがわかり、負の値を示すならば左に眼を動かしたことがわかる。EOG法では、このような計測眼電位Va-bの変化を利用することにより、ユーザの眼球運動を検出する。
EOG法を用いて眼球運動を検出し、ユーザの視線位置を特定する場合、発生した眼電位と、その際のユーザの視線位置とを較正することが必要となる。実空間におけるユーザの視線位置と発生眼電位との較正方法の例として、以下の特許文献1、特許文献2に記載の技術がある。
特許文献1に開示されている較正方法では、較正時にディスプレイに任意の較正パターンを表示させる。そして、ユーザがこの較正パターンを見たときの水平方向および垂直方向の眼球運動データを取得し、これらのデータから較正係数を求める。眼球運動データを取得する方法としては、角膜反射法による方法、角膜と強膜との反射率の違いを利用する方法、コンタクトレンズを用いる方法、あるいは角膜と網膜との間の発生電位を用いるEOG法等を用いる。
特許文献2に開示されている較正方法は、ユーザの眼電位を検出し、それを用いてディスプレイ内のマウスカーソルを操作する。ディスプレイ内の様々な位置に順次視覚指標を提示し、ユーザにこれを注視させて、その際の眼電位を測定する。そして、この測定結果を較正に用いる。
特許第2615831号公報 特開平11−85384号公報
特許文献1や特許文献2では、ディスプレイ内に表示した較正指標と、それを注視している際に発生する眼電位とを用いて較正パラメータを求めることにより、眼電位と視線位置との較正を行う。しかし、眼電位を計測する際には、ドリフトという現象が発生する。ドリフトとは、時間的に眼電位の基線が変化する現象であり、眼電位の計測に用いる電極の材料や、皮膚と電極との接触状況の変化等の要因が挙げられる。
図37に実際にユーザに電極を貼付して眼電位を計測した結果を示す。図37は、複数の指標を図38に示される順序で1秒毎に表示させたときの眼電位の測定結果である。図37を参照すれば、時間経過と共に眼電位の基線が変化していることがわかる。より具体的には、ドリフトの影響で、指標(R4)を注視している際も眼電位に変化が起きる。このようなドリフトが発生する状況で特許文献1や特許文献2のような較正方法を適用すれば、一点を注視している状況でも眼電位が変化するため、正しく較正が行えないという課題がある。
本発明は、上記課題を解決するためになされたもので、ユーザの眼電位と視線位置とを正しく較正する視線検出装置を提供することを目的とする。
本発明に係る視線検出装置は、眼電位からユーザの視線方向を検出する。具体的には、眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部と、ユーザに対して較正指標を提示する較正指標提示部と、前記較正指標提示部によって提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出部と、前記較正指標提示部によって提示された前記較正指標の位置、及び前記サッケード検出部から出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算部と、前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正部とを備える。
上記構成のように、サッケード運動の前後における眼電位の変化量に基づいて較正パラメータを算出することにより、ドリフトの影響を排除した適切な較正パラメータを算出することができる。
また、前記サッケード検出部は、前記眼電位原信号を所定の時間遅延させて遅延信号を出力する遅延信号生成部と、前記眼電位原信号から前記遅延信号を減算して得られる出力信号を生成する減算部と、前記出力信号のうちの予め定めた閾値を上回る信号をサッケード運動を示すサッケード信号と判定するサッケード判定部とを備えてもよい。これにより、符号(眼球の移動方向を示す情報)付のサッケード信号を検出することができる。
また、前記所定の遅延時間は、ユーザが前記較正指標を固視している時間より短くてもよい。これにより、サッケード波形の破綻を防止することができる。
また、前記サッケード検出部は、前記眼電位原信号に最大値フィルタ処理及び最小値フィルタ処理のいずれか一方を施して第1の眼電位信号を出力する第1のフィルタ処理部と、前記第1の眼電位信号、及び前記眼電位原信号から得られる第2の眼電位信号の一方から他方を減算し、出力信号を生成する減算部と、前記出力信号のうちの予め定めた閾値を上回る信号をサッケード運動を示すサッケード信号と判定するサッケード判定部とを備えてもよい。
上記構成によってもサッケード信号を検出することができる。なお、上記の「第2の眼電位信号」は、眼電位原信号から直接的又は間接的に得られる眼電位信号であり、眼電位原信号そのものであってもよい。
さらに、前記サッケード検出部は、前記眼電位原信号に最大値フィルタ処理及び最小値フィルタ処理のいずれか他方を施して前記第2の眼電位信号を出力する第2のフィルタ処理部を備えてもよい。これにより、サッケードの発生時刻を含んだサッケード信号を簡易に取得できる。
また、前記サッケード検出部は、さらに、前記第1の眼電位信号に最大値フィルタ処理及び最小値フィルタ処理のいずれか他方を施して前記第2の眼電位信号を出力する第2のフィルタ処理部を備えてもよい。これにより、まばたき信号を除去すると共に、サッケード信号を検出することができる。
また、前記較正指標提示部は、較正パラメータ更新指示を受け付けたことに応じて第1の較正指標をユーザに提示した後、前記サッケード検出部によってサッケード運動が検出されたことに応じて前記第1の較正指標と異なる位置に第2の較正指標を提示する。そして、前記サッケード検出部は、ユーザの視線位置が前記第1の較正指標から前記第2の較正指標に移動する際の前記眼電位変化量を前記較正パラメータ計算部に出力してもよい。これにより、ドリフトの影響を排除して、適切な較正パラメータを算出することができる。
また、前記パラメータ計算部は、前記サッケード検出部から出力される前記眼電位変化量を、ユーザの視線位置が前記第1の較正指標から前記第2の較正指標に移動する際の眼球移動角で除した値を較正パラメータとしてもよい。または、前記較正パラメータは、ユーザの視線位置が前記第1の較正指標から前記第2の較正指標に移動する際の眼球移動角と、前記眼球移動角に対応する前記眼電位変化量との組み合わせを複数保持するテーブルであってもよい。上記のいずれの方法でも、眼電位と較正パラメータとから視線方向を検出することができる。
本発明に係る撮像装置は、ユーザの視線方向を撮像する。具体的には、撮像部と、上記記載の視線検出装置と、前記較正部によって検出された視線方向を前記撮像部に撮像させる撮像制御部とを備える。これにより、ユーザの視線移動に追従して撮像部向きを変更することができる。
本発明に係る視線検出方法は、眼電位からユーザの視線方向を検出する。具体的には、眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定ステップと、ユーザに対して較正指標を提示する較正指標提示ステップと、前記較正指標提示ステップで提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出ステップと、前記較正指標提示ステップで提示された前記較正指標の位置、及び前記サッケード検出ステップで出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算ステップと、前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正ステップとを含む。
本発明に係るプログラムは、眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部に接続されたコンピュータに、ユーザの視線方向を検出させる。具体的には、ユーザに対して較正指標を提示する較正指標提示ステップと、前記較正指標提示ステップで提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出ステップと、前記較正指標提示ステップで提示された前記較正指標の位置、及び前記サッケード検出ステップで出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算ステップと、前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正ステップとを含む。
本発明に係る集積回路は、眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部に接続されてユーザの視線方向を検出する。具体的には、ユーザに対して較正指標を提示する較正指標提示部と、前記較正指標提示部によって提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出部と、前記較正指標提示部によって提示された前記較正指標の位置、及び前記サッケード検出部から出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算部と、前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正部とを備える。
なお、本発明は、視線検出装置及び撮像装置として実現できるだけでなく、視線検出装置及び撮像装置の機能を実現する集積回路として実現したり、そのような機能をコンピュータに実行させるプログラムとして実現したりすることもできる。そして、そのようなプログラムは、CD−ROM等の記録媒体及びインターネット等の伝送媒体を介して流通させることができるのは言うまでもない。
本発明によれば、サッケード運動の前後における眼電位の変化量である眼電位変化量に基づいて較正パラメータを算出するので、ドリフトの影響を排除した適切な較正パラメータを算出できる視線検出装置を得ることができる。
図1は、実施の形態1に係る視線検出装置のブロック図である。 図2Aは、較正パラメータの一例であって、対応する眼電位変化量と眼球移動角との組み合わせを複数保持するテーブルを示す図である。 図2Bは、較正パラメータの他の例であって、対応する眼電位変化量と視線位置との組み合わせを複数保持するテーブルを示す図である。 図3は、サッケード信号を含む眼電位信号の一例を示す図である。 図4は、図3の眼電位信号から抽出されたサッケード検出信号を説明するための図である。 図5は、ディスプレイに較正指標が表示されている状態を示す図である。 図6は、実施の形態1に係る視線検出装置の動作を示すフローチャートである。 図7は、図3の眼電位信号に高域通過フィルタ処理を適用して得られた眼電位信号を示す図である。 図8は、実施の形態2に係るサッケード検出部のブロック図である。 図9は、図3の眼電位信号に最大値フィルタ処理(単位処理間隔=0.25秒)を適用して得られた眼電位信号を示す図である。 図10は、図3の眼電位信号に最大値フィルタ処理(単位処理間隔=1.0秒)を適用して得られた眼電位信号を示す図である。 図11は、図3の眼電位信号に最小値フィルタ処理(単位処理間隔=0.25秒)を適用して得られた眼電位信号を示す図である。 図12は、図3の眼電位信号に最小値フィルタ処理(単位処理間隔=1.0秒)を適用して得られた眼電位信号を示す図である。 図13は、実施の形態3に係るサッケード検出部のブロック図である。 図14は、図9の眼電位信号から図3の眼電位信号を減算して得られたサッケード検出信号を示す図である。 図15は、実施の形態4に係るサッケード検出部のブロック図である。 図16は、図3の眼電位信号から図11の眼電位信号を減算して得られたサッケード検出信号を示す図である。 図17は、実施の形態5に係るサッケード検出部のブロック図である。 図18は、遅延信号生成部の遅延時間を0.25秒としたときのサッケード検出信号を示す図である。 図19は、遅延信号生成部の遅延時間を1.1秒としたときのサッケード検出信号を示す図である。 図20Aは、電極の貼付パターンの一例を示す図である。 図20Bは、電極の貼付パターンの他の例を示す図である。 図20Cは、電極の貼付パターンの他の例を示す図である。 図20Dは、電極の貼付パターンの他の例を示す図である。 図21は、まばたき信号を含む眼電位信号の一例を示す図である。 図22は、図21の眼電位信号にメディアンフィルタ処理を適用して得られた眼電位信号を示す図である。 図23は、実施の形態6に係る眼電位計測装置のブロック図である。 図24は、フィルタ処理内容決定部の動作を示すフローチャートである。 図25は、図23のフィルタ処理部のブロック図である。 図26は、図21の眼電位信号に最小値フィルタ処理を適用して得られた眼電位信号を示す図である。 図27は、図26の眼電位信号に最大値フィルタ処理を適用して得られた眼電位信号を示す図である。 図28は、実施の形態7に係る眼電位計測装置のブロック図である。 図29は、図28のフィルタ処理部のブロック図である。 図30は、図26の眼電位信号を図29のフィルタ処理部に入力して得られたまばたき信号を示す図である。 図31は、実施の形態8に係る眼電位計測装置のブロック図である。 図32は、図31のフィルタ処理部のブロック図である。 図33は、図26の眼電位信号を図32のフィルタ処理部に入力して得られたサッケード信号を示す図である。 図34は、実施の形態9に係る撮像装置をユーザが装着した状態を示す図である。 図35は、実施の形態9に係る撮像装置のブロック図である。 図36Aは、EOG法を説明するための図であって、ユーザの眼球が正面を向いている状態を示す図である。 図36Bは、EOG法を説明するための図であって、ユーザの眼球が右側を向いている状態を示す図である。 図37は、眼電位計測におけるドリフトの例を示す図である。 図38は、眼電位計測におけるドリフトを説明するための図である。
以下、図面を参照しながら本発明の実施の形態について説明する。なお、下記の各実施の形態は、本発明の効果を減殺しない限り、任意の組み合わせで組み合わせることが出来るものとする。
(実施の形態1)
図1は、本発明の実施の形態1に係る視線検出装置100の構成を表すブロック図である。図1に示される視線検出装置100は、ユーザの眼の周囲に貼付されて眼電位を測定し、眼電位原信号を出力する眼電位測定部(図示省略)と、眼電位原信号を視線位置(「視線方向」と読み替えることができる。以下同じ)に変換する較正部101と、較正パラメータの更新を指示する較正パラメータ更新指示部102と、較正パラメータ更新指示を受けて較正指標を提示する較正指標提示部103と、眼電位原信号からサッケード信号を検出するサッケード検出部104と、サッケード検出部104から出力された眼電位変化量および較正指標提示部103によって出力された較正指標の位置に基づいて較正パラメータを算出する較正パラメータ計算部105と、眼電位原信号の出力先を較正部101及びサッケード検出部104のいずれかに切り替えるスイッチ106とから成る。
眼電位測定部は、典型的には、ユーザの眼の周辺に貼付される電極である。具体的な貼付方法は特に限定されないが、例えば、図36A及び図36Bに示されるように、目尻側貼付される電極Aと、目頭側に貼付される電極Bとを組み合わせて使用してもよい。または、図20A〜図20Dに示されるように、電極を眼の上下の一方又は両方に貼付してもよい。さらには、電極をこめかみの上下に貼付してもよい。
較正部101は、予め保持している較正パラメータを用いて、眼電位原信号からユーザの視線位置を算出する。ここで、較正パラメータとは、眼電位原信号を眼球移動角に変換するためのパラメータであり、そのうちの一つとして、以下の式1で用いられる較正係数αが挙げられる。
一般的に計測眼電位Va-bは、眼球移動角θが一定の範囲内であれば線形に変化することが知られている。つまり、計測眼電位Va-bは較正係数αと眼球移動角θとを用いて次式1で近似することができる。
Figure 0005204781
EOG法を用いた較正時の動作例を説明する。眼電位原信号として眼電位Veが較正部101に入力された場合、式1を用いて眼球移動角θを求める。そして、移動角θからユーザと注視物体との距離等の情報を用いて視線位置を求める。以上の手順により、眼電位から視線位置を求めることができる。なお、ユーザと注視物体との距離を測定する方法は特に限定されないが、例えば、測距センサ等を用いることができる。
なお、本発明は式1を用いた較正方法に限定されず、図2Aに示すような対応する眼電位変化量と眼球移動角との組み合わせを複数保持するテーブルを、較正パラメータとして用いて構わない。さらに、図2Bに示すような対応する眼電位とディスプレイ座標やカメラ座標等の視線位置との組み合わせを複数保持するテーブルを、較正パラメータとして用いて構わない。
較正パラメータ更新指示部102は、視線検出開始時等のイベントが発生した場合に、較正指標提示部103とスイッチ106とに較正パラメータ更新指示信号を出力する。そして、較正パラメータの更新を終了する際には、較正パラメータ更新指示信号の出力を停止する。
スイッチ106は、較正パラメータ更新指示に従って、眼電位原信号を較正部101及びサッケード検出部104のどちらに送信するかを切り替える。
サッケード検出部104は、眼電位原信号からサッケード信号を検出し、それを用いてサッケード発生時の眼電位の変化量を算出する。サッケード(衝動性眼球運動)とは、解像度の低い周辺網膜に映った対象を、解像度の高い網膜中心窩で捉えるために発生する眼球運動であり、その速度は100〜500(°/sec)と非常に大きいことが知られている。
図3にサッケード信号を含んだ眼電位信号の波形の例を示す。図3において、点線で囲った部分がサッケードを示す箇所である。サッケードが発生すると、急峻に電位変化が起こった後、一定時間停留(固視)し、再び元の電位まで戻っている。これは、ある指標Aからある指標Bまで眼球をサッケードによって動かし、再び指標Bから指標Aまで眼球をサッケードによって動かした場合の一例である。一般に人間は0.3秒程度の固視と数十ミリ秒のサッケードを繰り返すことによって、周囲の情報を取得している。
図3のような眼電位原信号からサッケード信号を検出する方法の一つとして、眼電位原信号に最大値フィルタ処理と最小値フィルタ処理とをそれぞれ適用し、その差分を求める方法がある。この処理の詳細は、後述する。
図3に示される眼電位原信号に最大値フィルタ処理及び最小値フィルタ処理を適用することによって得られる出力信号を図4に示す。図4に示されるように、サッケードが発生したときのみ、出力信号にピークが現れる。
サッケード検出部104は、出力信号のうちの予め定めた閾値を上回る信号をサッケード運動を示すサッケード信号と判定するサッケード判定部(図示省略)をさらに備える。そして、サッケード信号の変化量(すなわち、サッケード運動の前後における眼電位の変化量)を求め、較正パラメータ計算部105に出力する。そして、サッケード信号を検出したことを示すサッケード検出信号を較正指標提示部103と較正パラメータ計算部105とに出力する。
なお、実施の形態1ではサッケード信号の検出方法として、最小値フィルタと最大値フィルタとを使用したが、高域通過フィルタ等のサッケードを検出するものであればどのような手法でも構わない。また、実施の形態1ではサッケード中に変化した眼電位の変化量を求めたが、サッケード検出信号の振幅そのものを眼電位の変化量として用いても構わない。
較正指標提示部103は、較正パラメータ更新指示を受けると、較正指標をユーザに提示する。そして、サッケード検出部104からのサッケード検出信号に従って、較正指標の提示位置を変化させる。
一例として、図5のようなディスプレイ10を用いて較正を行う場合、較正パラメータ更新指示を受け付けたことに応じてディスプレイ10の中心に第1の較正指標20を表示させる。その後、サッケード検出信号を受け付けると、第2の較正指標30を左上に表示させる。そして、再びサッケード検出信号を受けると、次の較正指標を右上等に表示させる。このように、ユーザのサッケードに応じて較正指標の位置を変化させることにより、ユーザにサッケードを誘発することができる。このようにしてユーザのサッケードに応じて変化させた較正指標の位置は、較正パラメータ計算部105に出力される。
なお、実施の形態1では、第1及び第2の較正指標20、30をディスプレイ10に表示したが、較正指標を提示する方法はこれに限定されない。例えば、実空間上にレーザポイント等で較正指標を表示させてもよい。さらには、カメラ等を用いて周辺に存在する物体(例えば、人の顔等)から較正指標を選択し、当該較正指標をユーザに認識させるための音声情報を出力するようにしてもよい。つまり、較正指標提示部103は、ユーザが較正指標を特定するための情報を出力するものであればどのようなものであってもよい。
較正パラメータ計算部105は、サッケード検出部104からのサッケード検出信号を受けると、眼電位変化量と較正指標位置とを用いて較正パラメータの更新を行う。較正パラメータの一つである較正係数αの計算例を示す。まず、較正指標位置と、ユーザと較正指標が表示された物体(典型的には、ディスプレイ)との距離情報等とを用いて、較正指標を見た場合のユーザの眼球移動角θを求める。そして、入力された眼電位変化量Vcおよび眼球移動角θを式1に代入することにより、較正係数αを求めることができる。なお、ユーザとディスプレイとの距離情報の取得方法は特に限定されないが、例えば、測距センサ等を用いてもよいし、ディスプレイから予め定められた距離だけ離れた位置にユーザを立たせてから較正パラメータ更新指示を出力するようにしてもよい。
次に、図6を参照して、実施の形態1に係る視線検出装置100が較正パラメータを更新する手順を説明する。この視線検出装置100は、外部から較正パラメータ更新指示が入力されたことを契機として、新たな較正パラメータを計算する。
まず、視線検出装置100は、較正パラメータ更新指示の入力を監視する(S1001)。この較正パラメータ更新指示は、較正パラメータ更新指示部102から較正指標提示部103及びスイッチ106に送信される。較正パラメータ更新指示の入力方法は特に限定されないが、例えば、較正パラメータ更新指示部102がユーザからの指示を受け付けてもよいし、視線検出装置100の電源投入時等の所定のタイミングで自動的に当該指示を発行してもよい。
次に、較正パラメータ更新指示を受け付けた較正指標提示部103(S1001でYes)は、ユーザに対して第1の較正指標20を提示する(S1002)。また、較正指標提示部103は、第1の較正指標20の位置情報を較正パラメータ計算部105に通知する。同様に、較正パラメータ更新指示を受け付けたスイッチ106は、眼電位原信号の出力先を較正部101からサッケード検出部104に切り替える。
次に、サッケード検出部104は、スイッチ106を経由して入力される眼電位原信号中にサッケード信号が含まれているか否かを監視する(S1003)。ディスプレイ10上に第1の較正指標20が表示されると、ユーザの視線が任意の位置から第1の較正指標20に移動する。このときにサッケード信号が現れる。
なお、サッケード信号の検出方法は特に限定されないが、例えば、最大値フィルタ、最小値フィルタ、遅延器等を利用して検出する方法がある。詳細は後述する。サッケード信号が検出されると(S1003でYes)、サッケード検出部104は、較正指標提示部103にサッケード検出信号を出力する。同様に、較正パラメータ計算部105にサッケード検出信号及び眼電位変化量Va-bを出力する。
次に、サッケード検出信号を受け付けた較正指標提示部103は、ユーザに対して全ての較正指標を提示したか否かを判断する(S1004)。提示すべき較正指標の数は予め定められていてもよいし、ユーザに対して較正指標の提示を継続するか否かを問い合わせるようにしてもよい。なお、実施の形態1においては、提示すべき較正指標が2個であるとして説明する。
現時点では第1の較正指標20しか提示していないので(S1004でNo)、較正指標提示部103は、次の較正指標を提示する(S1002)。具体的には、第1の較正指標20をディスプレイ10上から削除すると共に、第2の較正指標30をディスプレイ10上に表示させる。また、第2の較正指標30の位置情報を較正パラメータ計算部105に通知する。
次に、サッケード検出部104は、眼電位原信号中にサッケード信号が含まれているか否かを監視する(S1003)。第2の較正指標30がディスプレイ10上に表示されると、ユーザの視線が第1の較正指標20から第2の較正指標30に移動する。このときにサッケード信号が現れる。
サッケード信号を検出したサッケード検出部104は、前回と同様に、サッケード検出信号及び眼電位変化量Va-bを出力する。また、第2の較正指標30を提示した後のステップS1004において、較正指標提示部103は、全ての較正指標を提示したと判断する(S1004でYes)。
次に、較正パラメータ計算部105は、較正指標提示部103から受信した第1及び第2の較正指標20、30の位置情報と、サッケード検出部104から受信した第2の較正指標30を出力した後の眼電位変化量Va-bとに基づいて、新たな較正パラメータを計算する(S1005)。具体的には、第1及び第2の較正指標20、30の位置情報から眼球移動角θを算出する。そして、眼電位変化量Va-bと眼球移動角θとを式1に代入して、較正係数αを得る。
なお、実施の形態1では較正パラメータの更新例として較正係数αの計算方法について説明したが、較正パラメータの更新方法はこれに限定されない。例えば、較正パラメータ計算部105に入力された眼電位変化量と、眼球移動角や較正指標位置とを用いて、図2A及び図2Bに示すような対応する眼電位変化量と眼球移動角や視線位置との組み合わせを複数保持するテーブルを更新しても構わない。この場合、提示すべき較正指標の総数を増やすことにより、図2A及び図2Bのテーブルのレコード数が増加するので、より信頼性の高い較正パラメータを得ることができる。
以上に示した実施の形態1の構成によれば、眼電位原信号からサッケード信号を検出し、サッケード運動中に発生した眼電位の変化量を用いて較正パラメータの更新を行う。その結果、従来方式の課題であったドリフトの影響を受けずに正しく較正パラメータを求めることができる。
また、ユーザのサッケードを誘発しながら較正パラメータを更新することができる。その結果、ユーザは較正指標を眼で追うだけでよく、較正時のユーザの負担を軽減することができる。
また、較正パラメータを、図2A及び図2Bに示されるようなテーブルとして保持することにより、較正時間を短縮することができる。
また、較正パラメータを眼電位変化量Va-bと眼球移動角θとの関数の傾き(較正係数α)として保持することにより、メモリを削減できる。
次に、サッケード検出部104において、眼電位原信号中のサッケード信号の検出方法を詳しく説明する。なお、サッケード信号は、上記の視線検出装置100に限らず、医療機器、運転支援機器、およびユーザインタフェース等の分野において、ユーザの眼球運動や状態を検出する上で広く利用されている。そのため、高精度かつ簡易にサッケード信号を検出することは非常に有効である。
例えば、眼電位原信号からサッケード信号を検出する方法として、以下の特許文献3〜5に記載の技術がある。
特開平11−276461号公報(特許文献3)には、操作者のサッケード信号を検出し、その発生頻度に基づいて操作者の注意力を判定する技術が開示されている。なお、サッケード信号の検出には、遮断周波数が0.05〜0.1Hz程度の高域通過フィルタを用いる。
特開平9−034631号公報(特許文献4)には、ディスプレイ画面上のポインタと操作者の注視点との手動による位置あわせ作業を不要にするための技術が開示されている。具体的には、ディスプレイ画面上に較正用シンボルを発生させた後の所定時間内にサッケード信号が検出されると、較正用シンボルと操作者の注視点とが一致したと判断してポインタ位置を較正する。なお、サッケード信号の検出には、遮断周波数が0.05〜0.1Hz程度の高域通過フィルタを用いる。
特開2002−272693号公報(特許文献5)には、眼球運動信号に基づいてサッケード運動の終了時点を検出する。そして、サッケード運動が終了するごとに、その時点から一定期間内の脳波を単位脳波として脳の複数の部位ごとに順次記憶することにより、眼球停留関連電位を取得する技術が開示されている。なお、サッケード信号の検出には、眼球運動方向が所定時間範囲内で連続して同じであった後に変化したかどうかを判定することにより検出する。
図1に示されるサッケード検出部104に、特許文献3〜5に開示されるようなサッケード検出方法を採用してもよい。しかしながら、特許文献3、4に示す方法では、高域通過フィルタによってサッケード信号を検出している。図3に示した眼電位原信号が広域通過フィルタを通過すると、図7に示すように、サッケード信号の振幅が小さくなる場合がある。特に、振幅の小さいサッケード信号は、ノイズ成分と区別がつかなくなる場合がある。
また、特許文献5に示す方法では、眼球運動方向を検出する際にノイズ成分等の影響により、サッケード運動中であっても眼球運動方向が連続して同じだと判定されない等、誤検出のおそれがある。
そこで、本発明の実施の形態2〜5では、ユーザの眼電位原信号から高精度かつ簡易に、サッケード信号を検出する方法を説明する。
(実施の形態2)
図8は、本発明の実施の形態2に係るサッケード検出部200の構成を表すブロック図である。図8に示されるサッケード検出部200は、眼電位原信号に最大値フィルタ処理を適用する最大値フィルタ部(第1のフィルタ処理部)201と、眼電位原信号に最小値フィルタ処理を適用する最小値フィルタ部(第2のフィルタ処理部)202と、減算部203とから成る。
より具体的には、最大値フィルタ部201と最小値フィルタ部202とが並列に接続されている。最大値フィルタ部201は、眼電位原信号に最大値フィルタ処理を施して第1の眼電位信号を出力する。最小値フィルタ部202は、眼電位原信号に最小値フィルタ処理を施して第2の眼電位信号を出力する。そして、減算部203は、第1の眼電位信号から第2の眼電位信号を減算して出力信号を生成する。
なお、本発明は、図36A及び図36Bに示されるように、眼球の左右に電極を貼付する場合や、眼から離れた位置に電極を貼付する計測方法のように、ユーザのまばたき成分が眼電位原信号に混入されない場合を対象としており、そのような計測方法時のサッケード信号の検出に関して説明する。
次に、図8の最大値フィルタ部201の処理について説明する。最大値フィルタ部201は、眼電位原信号f(x)に対し、以下のフィルタ処理を適用する。
fmax(x)=max(fmax(x),f(x+i))
nが奇数の場合(−n/2<i<n/2)
nが偶数の場合(−n/2≦i<n/2)又は(−n/2<i≦n/2)
ここで、fmax(x)は最大値フィルタ処理適用後の眼電位信号、nはフィルタタップ数、iは整数である。また、max(a,b)はa及びbのうち大きい方の値を返す関数である。つまり、最大値フィルタ処理は、眼電位原信号中の任意のサンプルf(x)を中心とするnサンプルのうちの最も振幅の大きいサンプル値を出力する。この処理を眼電位原信号の全てのサンプルについて実行することにより、第1の眼電位信号を得ることができる。
上記フィルタ処理を、図3の眼電位原信号に適用した例を図9に示す。なお、眼電位原信号からサッケード信号を検出するために、最大値フィルタ処理の単位処理間隔を0.25秒としている。単位処理間隔は、1回の最大値フィルタ処理の対象となるサンプルが含まれる時間間隔を示す。また、最大値フィルタ部201のフィルタタップ数nは、単位処理間隔(0.25秒)に含まれるサンプル数である。すなわち、フィルタタップ数nは、単位処理間隔と、眼電位原信号をA/D変換する際のサンプリング周波数とに基づいて算出することができる。
図9に示すように、眼電位原信号に最大値フィルタ処理を適用すると、正の信号は時間方向に広がり、負の信号は時間方向に狭くなる。ただし、最大値フィルタ部201の単位処理間隔を一般的な1回の固視時間(0.3秒から0.4秒程度)より大きくすると、図10に示されるように、負の方向のサッケード波形が破綻する。図10は、単位処理間隔を1.0秒として最大値フィルタ処理を実行した例である。図10のようにサッケード波形が破綻すると、サッケード信号を検出できなくなるため、最大値フィルタ部201の単位処理間隔は、一般的な1回の固視時間より短くする必要がある。
なお、実施の形態2では、最大値フィルタ処理の単位処理間隔を0.25秒とした例を示したが、一般的な1回の固視時間より短ければどのような値であってもよい。
次に最小値フィルタ部202の処理について説明する。最小値フィルタ部202は、眼電位原信号f(x)に対して、以下のフィルタ処理を適用する。
fmin(x)=min(fmin(x),f(x+i))
nが奇数の場合(−n/2<i<n/2)
nが偶数の場合(−n/2≦i<n/2)又は(−n/2<i≦n/2)
ここで、fmin(x)は最小値フィルタ処理適用後の眼電位信号、nはフィルタタップ数、iは整数である。また、min(a,b)はa及びbのうち小さい方の値を返す関数である。つまり、最小値フィルタ処理は、眼電位原信号中の任意のサンプルf(x)を中心とするnサンプルのうちの最も振幅の小さいサンプル値を出力する。この処理を眼電位原信号の全てのサンプルについて実行することにより、第2の眼電位信号を得ることができる。
上記フィルタ処理を、図3の眼電位原信号に適用した例を図11に示す。
図11では、眼電位原信号からサッケード信号を検出するために、最小値フィルタ処理の単位処理間隔を0.25秒としている。
図11に示すように、眼電位原信号に最小値フィルタ処理を適用すると、正の信号は時間方向に狭くなり、負の信号は時間方向に広がる。ここで、最小値フィルタ部202の単位処理間隔を一般的な1回の固視時間より大きくすると、図12に示されるように、正の方向のサッケード波形が破綻する。図12は、単位処理間隔を1.0秒として最小値フィルタ処理を実行した例である。図12のようにサッケード波形が破綻すると、サッケード成分を検出できなくなるため、最小値フィルタ部202の単位処理間隔は、一般的な1回の固視時間より短くする必要がある。
なお、実施の形態2では、最小値フィルタ部の単位処理間隔を0.25秒とした例を示したが、一般的な1回の固視時間より短ければ、どのような値であってもよい。
次に、減算部203の処理について説明する。減算部203は、最大値フィルタ部201から出力される第1の眼電位信号fmax(x)から、最小値フィルタ部202から出力される第2の眼電位信号fmin(x)を減算することにより、サッケード信号の抽出を行う。
図9に示される第1の眼電位信号と、図11に示される第2の眼電位信号との差分をとった信号を図4に示す。図4を参照すれば、サッケードの発生した時間帯を含む検出信号が得られていることがわかる。
サッケード検出部200は、図4に示されるような出力信号に基づいてサッケード検出信号及び眼電位変化量を生成し、較正指標提示部103及び較正パラメータ計算部105に出力する。例えば、サッケード運動に要する時間に相当する時間内におけるサンプル値の変化量が予め定めた閾値を上回った場合にサッケード運動が発生したと判定し、サッケード検出信号を出力する。また、このときのサンプル値の変化量を眼電位変化量として出力する。
なお、実施の形態2では、最大値フィルタ部201及び最小値フィルタ部202を用いたが、最大値や最小値に近い値を選択するフィルタを使用しても構わない。その場合、最大値・最小値に対して、90%程度の値を選択するものであることが望ましい。
また、実施の形態2では、最大値フィルタ部201及び最小値フィルタ部201の単位処理間隔(フィルタタップ数)を同じ値に設定した例を示したが、異なる値を設定してもよい。
以上に示した実施の形態2の構成によれば、眼電位原信号に最大値フィルタ処理と最小値フィルタ処理とをそれぞれ適用し、最大値フィルタ処理適用後の第1の眼電位信号から最小値フィルタ処理適用後の第2の眼電位信号を減算してサッケード信号を検出する。その結果、サッケードの発生時刻を含んだサッケード信号を簡易に取得できる。
(実施の形態3)
図13は、本発明の実施の形態3に係るサッケード検出部300の構成を表すブロック図である。
実施の形態3に係るサッケード検出部300は、最大値フィルタ処理部(第1のフィルタ処理部)201と、減算器203とを備える。すなわち、最小値フィルタ部202が省略されている点が実施の形態2と異なる。最小値フィルタ部202を省略することによって、処理量を抑えつつ、サッケード信号を簡易に取得できる。
図13において、図8と同様の構成についてはすでに説明しているので、同一の参照符号を付し、説明を省略する。実施の形態3に係るサッケード検出部300において、眼電位原信号は2つに分岐する。そして、一方は最大値フィルタ部201を通過して第1の眼電位信号として減算部203に入力し、他方は第2の眼電位信号として減算部203に直接入力する。そして、減算部203が最大値フィルタ処理適用後の第1の眼電位信号fmax(x)から眼電位原信号f(x)(「第2の眼電位信号」に相当)を減算してサッケード信号を出力する点が実施の形態2と異なる。
図9に示される最大値フィルタ処理適用後の第1の眼電位信号と、図3に示される眼電位原信号との差分をとった信号を図14に示す。図14を参照すれば、サッケードの発生時に検出信号が得られていることがわかる。
このサッケード検出部300は、図14に示されるような出力信号に基づいてサッケード検出信号及び眼電位変化量を生成し、較正指標提示部103及び較正パラメータ計算部105に出力する。例えば、サッケード運動に要する時間に相当する時間内においてサンプル値の変化量が予め定めた閾値を上回った場合にサッケード運動が発生したと判定し、サッケード検出信号を出力する。また、このときのサンプル値の変化量を眼電位変化量として出力する。
ただし、負の方向のサッケード成分の検出信号は、サッケード発生時の前後に現れる。そのため、時間的な情報を必要としないサッケードの発生頻度等を求める際には、本実施の形態3は処理量において有効である。
なお、実施の形態3では、最大値フィルタ部201を用いたが、最大値に近い値を選択するフィルタを使用しても構わない。その場合、最大値に対して90%程度の値を選択するものであることが望ましい。
以上に示した実施の形態3の構成によれば、眼電位原信号に最大値フィルタ処理を適用した第1の眼電位信号から眼電位原信号を減算してサッケード信号を検出するため、サッケード信号を簡易に取得できる。
(実施の形態4)
図15は、本発明の実施の形態4に係るサッケード検出部400の構成を表すブロック図である。
実施の形態4に係るサッケード検出部400は、最小値フィルタ部(第1のフィルタ処理部)202と、減算部203とを備える。すなわち、最大値フィルタ部201が省略されている点が実施の形態2と異なる。最大値フィルタ部201を省略することによって、処理量を抑えつつ、サッケード信号を簡易に取得できる。
図15において、図8と同様の構成についてはすでに説明しているので、同一の参照符号を付し、説明を省略する。実施の形態4に係るサッケード検出部400において、眼電位原信号は2つに分岐する。そして、一方は最小値フィルタ部202を通過して第1の眼電位信号として減算部203に入力し、他方は第2の眼電位信号として減算部203に直接入力する。そして、減算部203が眼電位原信号f(x)(「第2の眼電位信号」に相当)から最小値フィルタ処理適用後の第1の眼電位信号fmin(x)を減算してサッケード信号を出力する点が実施の形態2と異なる。
図3に示される眼電位原信号と図11に示される最小値フィルタ処理適用後の第2の眼電位信号との差分をとった信号を図16に示す。図16を参照すれば、サッケードの発生時に検出信号が得られていることがわかる。
このサッケード検出部400は、図16に示されるような出力信号に基づいてサッケード検出信号及び眼電位変化量を生成し、較正指標提示部103及び較正パラメータ計算部105に出力する。例えば、サッケード運動に要する時間に相当する時間内においてサンプル値の変化量が予め定めた閾値を上回った場合にサッケード運動が発生したと判定し、サッケード検出信号を出力する。また、このときのサンプル値の変化量を眼電位変化量として出力する。
ただし、正の方向のサッケード信号は、サッケード発生時の前後に現れる。そのため、時間的な情報を必要としないサッケードの発生頻度等を求める際には、実施の形態4は処理量において有効である。
なお、実施の形態4では、最小値フィルタ部202を用いたが、最小値に近い値を選択するフィルタを使用しても構わない。その場合、最小値に対して90%程度の値を選択するものであることが望ましい。
以上に示した実施の形態4の構成によれば、眼電位原信号(第2の眼電位信号)から、眼電位原信号に最小値フィルタ処理を適用した第1の眼電位信号を減算してサッケード信号を検出するため、サッケード信号を簡易に取得できる。
(実施の形態5)
次に、実施の形態5に係るサッケード検出部500のブロック図を図17に示す。
実施の形態5に係るサッケード検出部500は、遅延信号生成部501と、減算部203とで構成される。遅延信号生成部501は、眼電位原信号を所定の時間遅延させて遅延信号を出力する。また、サッケード検出部500に入力する眼電位原信号は、2つに分岐する。そして、一方は遅延信号生成部501を通過して遅延信号として減算部203に入力し、他方は減算部203に直接入力する。そして、減算部203は、眼電位原信号から遅延信号を減算してサッケード信号を出力する。この遅延信号生成部501を備えることによって、正負の符号付のサッケード信号を簡易に取得できる。
図17に示される遅延信号生成部501の処理について説明する。遅延信号生成部501は、眼電位原信号f(x)に対し、以下の処理を適用する。
fdelay(x)=f(x−t)
ここで、fdelay(x)は遅延処理後の眼電位信号(遅延信号)、tは遅延時間である。上記遅延処理を、図3に示される眼電位原信号に適用することによって遅延信号が得られる。そして、減算部203によって、眼電位原信号から遅延信号を減算した例を図18に示す。なお、眼電位原信号から符号付のサッケード成分を検出するために、遅延時間t=0.25秒としている。図18を参照すれば、サッケードの発生した時間帯を含む符号付のサッケード信号が得られていることがわかる。
このサッケード検出部500は、図18に示されるような出力信号に基づいてサッケード検出信号及び眼電位変化量を生成し、較正指標提示部103及び較正パラメータ計算部105に出力する。例えば、サッケード運動に要する時間に相当する時間内においてサンプル値の変化量が予め定めた閾値を上回った場合にサッケード運動が発生したと判定し、サッケード検出信号を出力する。また、このときのサンプル値の変化量を眼電位変化量として出力する。
ここで、遅延時間tを一般的な1回の固視時間=(0.3秒から0.4秒程度)より大きくすると、図19に示されるように、サッケード信号が破綻する。図19は、遅延時間tとして1.1秒を用いた例である。図19のようにサッケード信号が破綻すると、サッケード信号を抽出できなくなるため、遅延信号生成部501の遅延時間tは、一般的な1回の固視時間より短くする必要がある。なお、実施の形態5では、0.25秒の遅延時間を適用する例を示したが、一般的な1回の固視時間より短い遅延時間であれば、どのような値でも構わない。
以上に示した実施の形態5の構成によれば、眼電位原信号から遅延信号を生成し、眼電位原信号から遅延信号を減算して符号付のサッケード信号を検出するため、正負のサッケード信号を区別できる点において有効である。
次に、まばたきの影響を考慮した眼電位の計測方法を説明する。EOG法等、眼電位の変化を用いて眼球運動を検出する場合、ユーザのまばたきによる信号(以下、「まばたき信号」と呼ぶ)の影響が課題となる。
まばたき信号は、眼電位の計測方法によって、常に正の方向に発生する場合や、常に負の方向に発生する場合がある。図20A〜図20Dに、眼電位測定部の貼付パターンと、眼電位原信号の計測方法の例を示す。
図20Aに示される貼付パターンでは、眼の上下に電極を貼付し、眼の上側の電極Aで計測した眼電位Vaと、眼の下側の電極Bで計測した眼電位Vbとの差分電位Va−Vbを計測する。この場合、まばたき信号は常に正の方向に発生する。人のまばたきは、眼球が毎回上方向に移動するからである。
図20Bに示される貼付パターンでは、眼の上側に電極Aを貼付し、もう一方はアースや眼電位の影響を受けにくい箇所に電極を貼付することで、電極Aの眼電位Vaを計測する。この場合も、まばたき信号は常に正の方向(基準値よりも大きい値で)に発生する。
同様に、図20Cに示される貼付パターンでは、眼の上下に電極A、Bを貼付し、眼の下側の電極Bで計測した眼電位Vbと、眼の上側の電極Aで計測した眼電位Vaとの差分電位Vb−Vaを計測する。この場合は、まばたき信号は常に負の方向に発生する。図20Dに示される貼付パターンでは、眼の下側に電極Bを貼付し、もう一方はアースや眼電位の影響を受けにくい箇所に電極を貼付することで、電極Bの眼電位Vbを計測する。この場合も、まばたき信号は常に負の方向に発生する。
図20A及び図20Bに示される貼付パターンで計測する場合、ユーザがまばたきを行うと、図21中の領域(a)に示すように、正の方向に急峻な電位(これが「まばたき信号」である)が発生する。このまばたき信号を直接、視線位置の検出に利用すると、視線位置が急激に変化し、正しく視線の追跡が行えない。
そこで、眼電位原信号からまばたき信号(まばたきによる信号の成分)等の影響を低減する方法として、特開平11−85384号公報(特許文献6)に記載の技術がある。
特許文献6に記載の技術では、ユーザの眼電位を検出し、注視位置(カーソル)をリアルタイムに入力できるようにすることを目的とする。その際に、眼電位の変動波形に遅れ要素を導入することによって注視位置(カーソル)の時間的変化を平滑化し、まばたきによる注視位置の急変を低減する。
また、まばたき信号の影響を提供する技術として、真鍋宏幸,福本雅朗,“ヘッドフォンを用いた常時装用視線インタフェース”,インタラクション2006,pp.23−24,2006(非特許文献1)に記載の技術がある。
非特許文献1に記載の技術では、左右合計8個の電極をヘッドフォンに貼付する。8個の電極から得られる眼電位の変化について、時間的に0.4秒のメディアンフィルタを適用することにより、該時間より短いまばたき信号の変化を除去する。
しかしながら、特許文献6に示す方法のように、眼電位原信号を単に時間的に平滑化するだけでは、視線の追跡を行う上で重要となるサッケード(人間の眼が1つの注視点から次の注視点に素早く移動する運動(飛越運動))の成分変化を示すサッケード波形まで平滑化してしまうという副作用が発生する。
また、非特許文献1に示すように、眼電位原信号にメディアンフィルタを適用すれば、図22に示すように、単発で発生したまばたき信号は除去できるが、所定時間以上、連続的に発生したまばたき信号の影響は完全に除去しきれない。また、サッケード波形が一部破綻するという副作用が発生する。
即ち、まばたき信号の除去とサッケード信号の保存とを考慮した上で、どのような平滑化フィルタをどの時間分どの順で適用するのが最適かは、上述文献では明らかにされていない。
そこで、実施の形態6〜8において、ユーザの眼電位信号から、高精度かつ簡易に、まばたき信号を除去もしくは検出し、さらに、サッケードの信号を検出する方法を説明する。
(実施の形態6)
図23は、本発明の実施の形態6に係る眼電位計測装置600の構成を表すブロック図である。
眼電位計測装置600は、ユーザの眼の周囲に貼付されて眼電位を測定し、眼電位原信号を出力する眼電位測定部(図示省略)と、眼電位の測定方法を示す信号(図中:眼電位計測方法)によってフィルタ処理内容を決定するフィルタ処理内容決定部610と、フィルタ処理内容決定部610から出力されるフィルタ処理内容信号に従って、眼電位原信号にフィルタ処理を適用するフィルタ処理部620とから成る。
まず、眼電位の測定方法は、あらかじめ実験者やユーザが指定してもよいし、眼電位原信号の変化の傾向から推定されたものであってもよい。
具体的には、図36A及び図36Bに示したように、眼球の左右に電極A、Bを貼付する計測方法であることをユーザが指定したり、ユーザがまばたきを行った際に、眼電位原信号に常に上方向の信号が発生する場合は、図20A及び図20Bに示したような貼付パターンによる計測方法であると推定したりすればよい。
図24は、フィルタ処理内容決定部610のフィルタ処理内容決定動作を示すフローチャートである。フィルタ決定処理内容決定部610は、最初にまばたきの影響を除去するためにフィルタ処理部620でのフィルタの適用順序(後述)を決定する。また、図示しないが、眼電位計測方法の違いに応じて、必要なタップ数(時間)を決定する。また、予め貼付けられた電極が水平方向か垂直方向に貼り付けられているかに応じて、フィルタの適用の有無を変更する。
具体的には、図20A及び図20Bの貼付パターンのように、まばたき信号が常に正の方向に発生する計測方法かどうかを判定する(ステップS2001)。まばたき信号が常に正の電位を示す場合(ステップS2001でYes)、フィルタ処理内容として、最小値フィルタ処理、最大値フィルタ処理の順に適用するように決定する(ステップS2002)。
まばたき信号が正の電位を示さない場合(ステップS2001でNo)、図20C及び図20Dの貼付パターンのように、まばたき信号が常に負の方向に発生する計測方法かどうかを判定する(ステップS2003)。まばたき信号が常に負の電位を示す場合(ステップS2003でYes)、フィルタ処理内容として、最大値フィルタ処理、最小値フィルタ処理の順に適用するように決定する(ステップS2004)。
まばたき信号が負の電位を示さない場合(ステップS2003でNo)、計測方法がまばたきの影響を受けない場合だと判定し、まばたき信号除去のためのフィルタ処理を行わないことを決定する(ステップS2005)。なお、計測方法がまばたきの影響を受けない場合の例としては、図36A及び図36Bのように眼の左右に電極A、Bを貼付してその差分を計測する場合や、眼から離れた位置に電極A、Bを貼付する場合などが考えられる。
フィルタ処理内容決定部610は、上記の処理で決定されたフィルタの適用順序、及びフィルタのタップ数nや単位処理間隔等の情報を含めて、フィルタ処理内容信号(向き、タップ数n、有無(n=0として出力しても良い))を出力する。尚、上述フローチャートの判定順は一例であり、その判定順は問わない。
図25は、フィルタ処理部620の構成について示す図である。フィルタ処理部620は、フィルタ処理内容決定部610からのフィルタ処理内容信号に応じて、眼電位原信号にフィルタ処理を適用する。
フィルタ処理部620は、2つの最小値フィルタ部621、624と、2つの最大値フィルタ部622、623と、入力端子から出力端子に至る第1〜第3の経路のうちのいずれに眼電位原信号を出力するかを切り替えるスイッチ625とで構成されている。
第1の経路は、眼電位原信号に最小値フィルタ処理を適用して第1の眼電位信号を出力する最小値フィルタ部(第1のフィルタ処理部)621と、第1の眼電位信号に最大値フィルタ処理を適用して第2の眼電位信号(フィルタ処理後信号)を出力する最大値フィルタ部(第2のフィルタ処理部)622とが直列に接続されている。第2の経路は、眼電位原信号に最大値フィルタ処理を適用して第1の眼電位信号を出力する最大値フィルタ部(第1のフィルタ処理部)623と、第1の眼電位信号に最小値フィルタ処理を適用して第2の眼電位信号(フィルタ処理後信号)を出力する最小値フィルタ部(第2のフィルタ処理部)624とが直列に接続されている。第3の経路は、眼電位原信号にフィルタ処理を適用せずに出力する経路である。そして、スイッチ625は、フィルタ処理内容決定部610で決定したフィルタ処理内容に従って眼電位原信号の出力先を切り替える。
スイッチ625は、図24のステップS2002で生成されたフィルタ処理内容信号を受け付けた場合、眼電位原信号を第1の経路に出力するように、接続先を図25の上段に切り替える。また、図24のステップS2004で生成されたフィルタ処理内容信号を受け付けた場合、眼電位原信号を第2の経路に出力するように、接続先を図25の中段に切り替える。さらに、図24のステップS2005で生成されたフィルタ処理内容信号を受け付けた場合、眼電位原信号を第3の経路に出力するように、接続先を図25の下段に切り替える。
なお、最小値フィルタ部621、624及び最大値フィルタ部622、623の処理内容は実施の形態2の説明と同一であるので、省略する。また、実施の形態6では、最小値フィルタ部621、624と最大値フィルタ部622、623とをそれぞれ2組用意したが、それぞれを1組ずつにして、フィルタ処理内容信号に基づいて接続順序を切り替える等によって実現しても構わない。
次に、眼電位原信号が第1の経路に入力した場合の処理を説明する。まず、図26は、図21に示される眼電位原信号に最小値フィルタ部621で最小値フィルタ処理を適用することによって得られる第1の眼電位信号を示す図である。
なお、眼電位原信号からまばたき信号を除去するために、フィルタ処理内容信号で定められた値に従って最小値フィルタ部621の単位処理間隔を0.25秒としている。
図26中の領域(a)を参照すれば、眼電位原信号に最小値フィルタ処理を適用することによって、連続的なまばたき信号、および単発のまばたき信号を除去できていることがわかる。但し、図26に示される第1の眼電位信号には、最小値フィルタ処理を適用した副作用として、サッケード波形に変形(時間幅の増加)が生じる。
なお、実施の形態6では、最小値フィルタ部621の単位処理間隔を0.25秒として最小値フィルタ処理を実行した例を示したが、一般的な1回のまばたきの時間=(0.15秒から0.2秒程度)より長く、かつ、1回の固視時間=(0.3秒から0.4秒程度)より短ければどのような値であってもよい。
次に、図27は、図26に示される第1の眼電位信号に最大値フィルタ部622で最大値フィルタ処理を適用することによって得られる第2の眼電位信号(フィルタ処理後信号)を示す図である。なお、最小値フィルタ部621と同様に、単位処理間隔を0.25秒としている。
図27に示されるように、第1の眼電位信号に最大値フィルタ処理を適用することによって、図26のようなサッケード波形の変形を、元の信号波形の幅に復元することができる。
最大値フィルタ部623、および最小値フィルタ部624の基本的な処理は、それぞれ最大値フィルタ部622と、最小値フィルタ部621と同じであり、最大値フィルタ処理、最小値フィルタ処理の順にフィルタ処理を行うことによって、サッケード波形に影響を与えずに、負の方向のまばたき信号を除去することができる。
なお、実施の形態6では、最小値フィルタ部621、624、及び最大値フィルタ部622、623を用いた例を示したが、最小値や最大値に近い値を選択するフィルタを使用しても構わない。その場合、最大値・最小値に対して、90%程度の値を選択するものであることが望ましい。
また、実施の形態6では、最小値フィルタ処理及び最大値フィルタ処理のフィルタタップ数は同じ値を用いたが、近い値を用いても構わない。つまり、必ずしも厳密に一致していることまでは必要ない。
複数のフィルタ処理を連続して適用する場合は、まばたき信号の影響を除去するためのフィルタ処理が先に適用され、その後、サッケードの時間波形を復元するためのフィルタ処理が適用されるようにすればよい。
また、実施の形態6では、最小値フィルタ処理と最大値フィルタ処理とを連続して適用することによって、まばたき信号を除去すると共にサッケード波形を復元したが、まばたき信号の除去だけを目的とする場合には、どちらか一方のみを適用しても、本発明の範囲を逸脱しない。
以上に示した実施の形態6の構成によれば、眼電位原信号の計測方法に応じて眼電位原信号に対するフィルタ処理内容を決定し、その内容に従ってフィルタ処理する。その結果、例えば、電極の貼付け向きが逆になったとしても、まばたき信号を適切に除去できる。
また、眼電位原信号の正の方向にまばたき信号が発生するような計測方法の場合に、最小値フィルタ処理、最大値フィルタ処理の順に連続して適用するようにフィルタ処理内容を決定する。その結果、正の方向のまばたき信号を簡易に除去しつつ、更に、サッケード波形を復元できる。
また、眼電位原信号の負の方向にまばたき信号が発生するような計測方法の場合は、最大値フィルタ処理、最小値フィルタ処理の順に連続して適用するようにフィルタ処理内容を決定する。その結果、負の方向のまばたき信号を簡易に除去しつつ、更に、サッケード波形を復元できる。
上記構成の眼電位計測装置600は、図1に示される視線検出装置100に適用することができる。例えば、眼電位計測装置600から出力されるフィルタ処理信号を眼電位原信号として、図1に示されるスイッチ106に入力する。これにより、眼電位計測部でまばたき信号を含む眼電位信号を計測したとしても、較正部101やサッケード検出部104では、まばたき信号を考慮する必要がなくなる。
(実施の形態7)
図28及び図29は、本発明の実施の形態7に係る眼電位計測装置700の構成を表すブロック図である。
実施の形態7では、眼電位原信号からフィルタ処理後の眼電位信号を減算する減算部726をフィルタ処理部720に備える点が実施の形態6と異なる。この減算部726を備えることによって、フィルタ処理後信号に加えてまばたき信号を出力することができるようになる。
図29は、実施の形態7の眼電位計測装置700におけるフィルタ処理部720の一例を示すブロック図である。なお、図25と同様の構成についてはすでに説明しているので、同一の参照符号を付し、説明を省略する。
減算部726は、眼電位原信号と、フィルタ処理後信号との差分を出力する。これがまばたき信号となる。
図21の眼電位原信号から図27の第2の眼電位信号を減算することによって得られるまばたき信号を図30に示す。図30を参照すれば、眼電位原信号からまばたき信号のみを検出できていることがわかる。
以上に示した実施の形態7の構成によれば、眼電位原信号の計測方法に応じて眼電位原信号に対するフィルタ処理内容を決定し、その内容に従って適切なフィルタ処理を適用する。その結果、どのような計測方法であっても、まばたき信号を検出できる。
また、眼電位原信号の正の方向にまばたき信号が発生するような計測方法の場合は、最小値フィルタ処理、最大値フィルタ処理の順に連続して適用するようにフィルタ処理内容を決定する。その結果、正の方向のまばたき信号を簡易に検出しつつ、サッケード成分を復元できる。
また、眼電位原信号の負の方向にまばたき信号が発生するような計測方法の場合は、最大値フィルタ処理、最小値フィルタ処理の順に連続して適用するようにフィルタ処理内容を決定する。その結果、負の方向のまばたき信号を簡易に検出しつつ、サッケード成分を復元できる。
(実施の形態8)
図31及び図32は、本発明の実施の形態8に係る眼電位計測装置800の構成を表すブロック図である。
実施の形態8では、最大値フィルタ処理及び最小値フィルタ処理の両方を適用した信号(第2の眼電位信号)から、最大値フィルタ処理及び最小値フィルタ処理の一方を適用した信号(第1の眼電位信号)を減算する減算部826、827をフィルタ処理部820に備える点が実施の形態6と異なる。この減算部826、827を備えることによって、フィルタ処理後信号に加えてサッケード信号を出力することができるようになる。
図32は、実施の形態8に係る眼電位計測装置800におけるフィルタ処理部820の一例を示すブロック図である。なお、図25と同様の構成についてはすでに説明しているので、同一の参照符号を付し、説明を省略する。
減算部826は、最大値フィルタ部622の出力信号から最小値フィルタ621の出力信号を減算することにより、サッケード信号を出力する。同様に、減算部827は、最小値フィルタ部624の出力信号から最大値フィルタ部623の出力信号を減算することにより、サッケード信号を出力する。
図27の最大値フィルタ処理適用後の第2の眼電位信号から図26の最小値フィルタ処理適用後の第1の眼電位信号を減算して得られるサッケード信号を図33に示す。図33を参照すれば、眼電位原信号から、サッケード信号のみを検出できていることがわかる。
以上に示した実施の形態8の構成によれば、眼電位原信号の計測方法に応じて眼電位原信号に対するフィルタ処理内容を決定し、その内容に従ってフィルタ処理する。その結果、どのような計測方法であっても、サッケード信号を検出できる。つまり、当該フィルタ処理部820を図1に示されるサッケード検出部104に適用すれば、まばたき信号の影響を受けずに適切なサッケード検出が可能となる。
また、眼電位原信号の正の方向にまばたき信号が発生するような計測方法の場合は、最小値フィルタ処理、最大値フィルタ処理の順に連続して適用し、さらに、最大値フィルタ処理後の第2の眼電位信号から最小値フィルタ処理後の第1の眼電位信号を減算するようにフィルタ処理内容を決定する。その結果、正の方向のまばたき信号を除去しつつ、サッケード信号を検出できるという効果を有する。
また、実施の形態8において、最大値フィルタ処理のフィルタタップ数を最小値フィルタ処理のフィルタタップ数より大きくすることで、サッケード信号の発生時刻を含んだサッケード信号を検出できるという効果を有する。
一方、眼電位原信号の負の方向にまばたき信号が発生するような計測方法の場合は、最大値フィルタ処理、最小値フィルタ処理の順に連続して適用し、さらに、最小値フィルタ処理後の第2の眼電位信号から最大値フィルタ処理後の第1の眼電位信号を減算するようにフィルタ処理内容を決定する。その結果、負の方向のまばたき信号を除去しつつ、サッケード信号を検出できるという効果を有する。この場合のサッケード信号は、常に負の方向に現れる(図33と反対の波形になる)。したがって、図33に示す信号を得るためには、正負を反転させる処理を追加する必要がある。一方、サッケードの発生タイミングを検出する目的のみにサッケード信号を使用する場合には、正負が逆転していても問題はない。
また、実施の形態8において、最小値フィルタ処理のフィルタタップ数を最大値フィルタ処理のフィルタタップ数より大きくすることで、サッケード信号の発生時刻を含んだサッケード信号を検出できるという効果を有する。
なお、上述各実施の形態6〜8では、まばたき信号の除去、まばたき信号の検出、あるいはサッケード信号の検出を主眼とし、先に適用される最小値フィルタ処理および最大値フィルタ処理のフィルタタップ数を説明した。これらは、筋電位やノイズ等の時間幅に合わせることにより、それらを除去する目的で使用することも可能である。
(実施の形態9)
次に、図34及び図35を参照して、本発明の実施の形態9に係る撮像装置900を説明する。この撮像装置900は、例えば、ユーザの側頭部に装着され、ユーザの視線方向を撮像する装置である。具体的には、撮像装置900は、撮像部901と、視線検出装置902と、撮像制御部903とを備える。
撮像装置900は、例えば、静止画を撮影するカメラであってもよいし、動画を撮影するビデオカメラであってもよい。視線検出装置900には、例えば、実施の形態1に係る視線検出装置100を適用することができる。また、実施の形態9における眼電位計測部としての電極は、図34に示されるように、ユーザの左眼のこめかみの上下に貼付されている。
そして、撮像制御部903は、視線検出装置902からの出力信号を監視し、ユーザの視線の移動に追従して撮像部901の向きを変えさせる。これにより、撮像部901にユーザの視線方向を撮像させることができる。
ただし、実施の形態1に係る視線検出装置100は、上記の用途に限定されない。他の用途としては、撮像装置で撮像された映像上に、視線検出装置100で検出されたユーザの視線位置をプロットするような装置に適用することもできる。
(その他変形例)
なお、本発明を上記各実施の形態1〜9に基づいて説明してきたが、本発明は、上記の各実施の形態1〜9に限定されないのはもちろんである。以下のような場合も本発明に含まれる。
(1)上記の各装置は、具体的には、マイクロプロセッサ、ROM、RAM、ハードディスクユニット、ディスプレイユニット、キーボード、マウスなどから構成されるコンピュータシステムである。前記RAMまたはハードディスクユニットには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムにしたがって動作することにより、各装置は、その機能を達成する。ここでコンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
(2)上記の各装置を構成する構成要素の一部または全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしてもよい。システムLSIは、複数の構成要素を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。前記RAMには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムにしたがって動作することにより、システムLSIは、その機能を達成する。
(3)上記の各装置を構成する構成要素の一部または全部は、各装置に脱着可能なICカードまたは単体のモジュールから構成されているとしてもよい。前記ICカードまたは前記モジュールは、マイクロプロセッサ、ROM、RAMなどから構成されるコンピュータシステムである。前記ICカードまたは前記モジュールは、上記の超多機能LSIを含むとしてもよい。マイクロプロセッサが、コンピュータプログラムにしたがって動作することにより、前記ICカードまたは前記モジュールは、その機能を達成する。このICカードまたはこのモジュールは、耐タンパ性を有するとしてもよい。
(4)本発明は、上記に示す方法であるとしてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしてもよいし、前記コンピュータプログラムからなるデジタル信号であるとしてもよい。
また、本発明は、前記コンピュータプログラムまたは前記デジタル信号をコンピュータ読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blu−ray Disc)、半導体メモリなどに記録したものとしてもよい。また、これらの記録媒体に記録されている前記デジタル信号であるとしてもよい。
また、本発明は、前記コンピュータプログラムまたは前記デジタル信号を、電気通信回線、無線または有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送するものとしてもよい。
また、本発明は、マイクロプロセッサとメモリを備えたコンピュータシステムであって、前記メモリは、上記コンピュータプログラムを記憶しており、前記マイクロプロセッサは、前記コンピュータプログラムにしたがって動作するとしてもよい。
また、前記プログラムまたは前記デジタル信号を前記記録媒体に記録して移送することにより、または前記プログラムまたは前記デジタル信号を前記ネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしてもよい。
(5)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
以上、図面を参照してこの発明の実施形態を説明したが、この発明は、図示した実施形態のものに限定されない。図示した実施形態に対して、この発明と同一の範囲内において、あるいは均等の範囲内において、種々の修正や変形を加えることが可能である。
本発明は放送や通信および蓄積の分野において、映像や音声を記録再生する機器等として有用である。また、静止画像記録再生機器等としても適用が可能である。さらに、健康医療機器としても適用が可能である。
10 ディスプレイ
20 第1の較正指標
30 第2の較正指標
100,902 視線検出装置
101 較正部
102 較正パラメータ更新指示部
103 較正指標提示部
104,200,300,400,500 サッケード検出部
105 較正パラメータ計算部
106,625 スイッチ
201,622,623 最大値フィルタ部
202,621,624 最小値フィルタ部
203,726,826,827 減算部
501 遅延信号生成部
600,700,800 眼電位計測装置
610 フィルタ処理内容決定部
620,720,820 フィルタ処理部
900 撮像装置
901 撮像部
903 撮像制御部

Claims (13)

  1. 眼電位からユーザの視線方向を検出する視線検出装置であって、
    眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部と、
    ユーザに対して較正指標を提示する較正指標提示部と、
    前記較正指標提示部によって提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出部と、
    前記較正指標提示部によって提示された前記較正指標の位置、及び前記サッケード検出部から出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算部と、
    前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正部とを備える
    視線検出装置。
  2. 前記サッケード検出部は、
    前記眼電位原信号を所定の時間遅延させて遅延信号を出力する遅延信号生成部と、
    前記眼電位原信号から前記遅延信号を減算して得られる出力信号を生成する減算部と、
    前記出力信号のうちの予め定めた閾値を上回る信号をサッケード運動を示すサッケード信号と判定するサッケード判定部とを備える
    請求項1に記載の視線検出装置。
  3. 前記所定の遅延時間は、ユーザが前記較正指標を固視している時間より短い
    請求項2に記載の視線検出装置。
  4. 前記サッケード検出部は、
    前記眼電位原信号に最大値フィルタ処理及び最小値フィルタ処理のいずれか一方を施して第1の眼電位信号を出力する第1のフィルタ処理部と、
    前記第1の眼電位信号、及び前記眼電位原信号から得られる第2の眼電位信号の一方から他方を減算し、出力信号を生成する減算部と、
    前記出力信号のうちの予め定めた閾値を上回る信号をサッケード運動を示すサッケード信号と判定するサッケード判定部とを備える
    請求項1に記載の視線検出装置。
  5. 前記サッケード検出部は、さらに、前記眼電位原信号に最大値フィルタ処理及び最小値フィルタ処理のいずれか他方を施して前記第2の眼電位信号を出力する第2のフィルタ処理部を備える
    請求項4に記載の視線検出装置。
  6. 前記サッケード検出部は、さらに、前記第1の眼電位信号に最大値フィルタ処理及び最小値フィルタ処理のいずれか他方を施して前記第2の眼電位信号を出力する第2のフィルタ処理部を備える
    請求項4に記載の視線検出装置。
  7. 前記較正指標提示部は、較正パラメータ更新指示を受け付けたことに応じて第1の較正指標をユーザに提示した後、前記サッケード検出部によってサッケード運動が検出されたことに応じて前記第1の較正指標と異なる位置に第2の較正指標を提示し、
    前記サッケード検出部は、ユーザの視線位置が前記第1の較正指標から前記第2の較正指標に移動する際の前記眼電位変化量を前記較正パラメータ計算部に出力する
    請求項1〜6のいずれか1項に記載の視線検出装置。
  8. 前記パラメータ計算部は、前記サッケード検出部から出力される前記眼電位変化量を、ユーザの視線位置が前記第1の較正指標から前記第2の較正指標に移動する際の眼球移動角で除した値を較正パラメータとする
    請求項7に記載の視線検出装置。
  9. 前記較正パラメータは、ユーザの視線位置が前記第1の較正指標から前記第2の較正指標に移動する際の眼球移動角と、前記眼球移動角に対応する前記眼電位変化量との組み合わせを複数保持するテーブルである
    請求項7に記載の視線検出装置。
  10. ユーザの視線方向を撮像する撮像装置であって、
    撮像部と、
    請求項1〜9のいずれか1項に記載の視線検出装置と、
    前記較正部によって検出された視線方向を前記撮像部に撮像させる撮像制御部とを備える
    撮像装置。
  11. 眼電位からユーザの視線方向を検出する視線検出方法であって、
    眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定ステップと、
    ユーザに対して較正指標を提示する較正指標提示ステップと、
    前記較正指標提示ステップで提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出ステップと、
    前記較正指標提示ステップで提示された前記較正指標の位置、及び前記サッケード検出ステップで出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算ステップと、
    前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正ステップとを含む
    視線検出方法。
  12. 眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部に接続されたコンピュータに、ユーザの視線方向を検出させるプログラムであって、
    ユーザに対して較正指標を提示する較正指標提示ステップと、
    前記較正指標提示ステップで提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出ステップと、
    前記較正指標提示ステップで提示された前記較正指標の位置、及び前記サッケード検出ステップで出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算ステップと、
    前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正ステップとを含む
    プログラム。
  13. 眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部に接続されてユーザの視線方向を検出する集積回路であって、
    ユーザに対して較正指標を提示する較正指標提示部と、
    前記較正指標提示部によって提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出部と、
    前記較正指標提示部によって提示された前記較正指標の位置、及び前記サッケード検出部から出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算部と、
    前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正部とを備える
    集積回路。
JP2009534785A 2008-05-20 2009-05-20 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路 Active JP5204781B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009534785A JP5204781B2 (ja) 2008-05-20 2009-05-20 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路

Applications Claiming Priority (8)

Application Number Priority Date Filing Date Title
JP2008131506 2008-05-20
JP2008131506 2008-05-20
JP2008161328 2008-06-20
JP2008161329 2008-06-20
JP2008161328 2008-06-20
JP2008161329 2008-06-20
PCT/JP2009/002220 WO2009142008A1 (ja) 2008-05-20 2009-05-20 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路
JP2009534785A JP5204781B2 (ja) 2008-05-20 2009-05-20 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路

Publications (2)

Publication Number Publication Date
JPWO2009142008A1 JPWO2009142008A1 (ja) 2011-09-29
JP5204781B2 true JP5204781B2 (ja) 2013-06-05

Family

ID=41339948

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009534785A Active JP5204781B2 (ja) 2008-05-20 2009-05-20 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路

Country Status (4)

Country Link
US (1) US8419654B2 (ja)
JP (1) JP5204781B2 (ja)
CN (1) CN101754715B (ja)
WO (1) WO2009142008A1 (ja)

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5828070B2 (ja) 2010-08-20 2015-12-02 パナソニックIpマネジメント株式会社 撮像装置および撮像方法
US20120235064A1 (en) 2011-03-16 2012-09-20 Intellirad Control, Inc. Radiation control and minimization system and method
US9135508B2 (en) 2011-12-20 2015-09-15 Microsoft Technology Licensing, Llc. Enhanced user eye gaze estimation
TWI466655B (zh) * 2012-03-16 2015-01-01 Univ Nat Chiao Tung 可偵測眼動訊號之影像控制系統
JP5926210B2 (ja) 2012-03-21 2016-05-25 国立大学法人浜松医科大学 自閉症診断支援システム及び自閉症診断支援装置
US8864310B2 (en) 2012-05-01 2014-10-21 RightEye, LLC Systems and methods for evaluating human eye tracking
JP5888205B2 (ja) * 2012-11-02 2016-03-16 ソニー株式会社 画像表示装置並びに情報入力装置
CN103054576B (zh) * 2012-12-20 2014-07-30 清华大学 基于眼电信号的阅读状态识别方法
US9147248B2 (en) * 2012-12-21 2015-09-29 Tobii Technology Ab Hardware calibration of eye tracker
CN103054549B (zh) * 2012-12-29 2015-07-01 西安交通大学 一种可穿戴便携式眼动分析装置及其分析方法
CN103110462B (zh) * 2013-02-21 2014-10-08 河海大学常州校区 自然环境下视觉调节及生物电与行为记录的装置与方法
US9671619B2 (en) * 2013-02-28 2017-06-06 Johnson & Johnson Vision Care, Inc. Electronic ophthalmic lens with eye gaze sensor
CN103186240B (zh) * 2013-03-25 2016-02-10 成都西可科技有限公司 一种基于高像素摄像头探测眼球运动的方法
JP6181974B2 (ja) * 2013-05-23 2017-08-16 株式会社Nttドコモ 視線計測装置及び視線計測方法
JP2015046089A (ja) * 2013-08-29 2015-03-12 ソニー株式会社 情報処理装置および情報処理方法
JP2018082727A (ja) * 2015-03-26 2018-05-31 株式会社ジンズ 信号処理方法、プログラム、情報処理装置及びアイウエア
JP6594953B2 (ja) * 2015-04-02 2019-10-23 株式会社ジンズホールディングス 視線移動検出方法、プログラム、情報処理装置及びアイウエア
CN105691160B (zh) * 2015-04-12 2018-02-02 宁波市鄞州乐可机电科技有限公司 一种基于定位信息来调整遮阳件位置的汽车
CN106293045B (zh) 2015-06-30 2019-09-10 北京智谷睿拓技术服务有限公司 显示控制方法、显示控制装置及用户设备
CN106331464B (zh) * 2015-06-30 2019-10-15 北京智谷睿拓技术服务有限公司 拍摄控制方法、拍摄控制装置及用户设备
CN106293046B (zh) 2015-06-30 2020-03-17 北京智谷睿拓技术服务有限公司 信息处理方法、信息处理装置及用户设备
TWI604823B (zh) * 2015-08-18 2017-11-11 國立交通大學 利用腦波進行注意力反饋訓練之方法及其系統
US9857871B2 (en) 2015-09-04 2018-01-02 Sony Interactive Entertainment Inc. Apparatus and method for dynamic graphics rendering based on saccade detection
TWI563970B (zh) * 2015-09-16 2017-01-01 國立交通大學 眼球位置偵測裝置及其方法
WO2017069176A1 (ja) * 2015-10-19 2017-04-27 株式会社オリィ研究所 視線入力装置、視線入力方法、および、視線入力プログラム
US10643741B2 (en) 2016-11-03 2020-05-05 RightEye, LLC Systems and methods for a web platform hosting multiple assessments of human visual performance
JP7099036B2 (ja) * 2018-05-07 2022-07-12 オムロン株式会社 データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム
US10528131B2 (en) * 2018-05-16 2020-01-07 Tobii Ab Method to reliably detect correlations between gaze and stimuli
US10855978B2 (en) * 2018-09-14 2020-12-01 The Toronto-Dominion Bank System and method for receiving user input in virtual/augmented reality
US11786694B2 (en) 2019-05-24 2023-10-17 NeuroLight, Inc. Device, method, and app for facilitating sleep
CN112578903A (zh) * 2019-09-30 2021-03-30 托比股份公司 眼动追踪方法、眼动追踪器以及计算机程序

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2615831B2 (ja) * 1988-05-11 1997-06-04 竹井機器工業株式会社 視覚情報分析装置
JPH1185384A (ja) * 1997-09-03 1999-03-30 Rikagaku Kenkyusho 角膜網膜電位を用いた視力入力方法及び装置
WO2006106877A1 (ja) * 2005-03-31 2006-10-12 The University Of Tokyo 視野計及び視野計測方法
JP2007252879A (ja) * 2006-02-27 2007-10-04 Univ Of Electro-Communications 眼球位置計測方法及び眼球位置計測装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5360971A (en) * 1992-03-31 1994-11-01 The Research Foundation State University Of New York Apparatus and method for eye tracking interface
JPH0934631A (ja) 1995-07-14 1997-02-07 Suzuki Motor Corp コンピュータ入力装置
JPH11276461A (ja) 1998-03-27 1999-10-12 Suzuki Motor Corp 注意力測定装置及びこれを用いた情報提示装置
JP4822235B2 (ja) 2001-03-21 2011-11-24 公益財団法人新産業創造研究機構 眼球停留関連電位解析装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2615831B2 (ja) * 1988-05-11 1997-06-04 竹井機器工業株式会社 視覚情報分析装置
JPH1185384A (ja) * 1997-09-03 1999-03-30 Rikagaku Kenkyusho 角膜網膜電位を用いた視力入力方法及び装置
WO2006106877A1 (ja) * 2005-03-31 2006-10-12 The University Of Tokyo 視野計及び視野計測方法
JP2007252879A (ja) * 2006-02-27 2007-10-04 Univ Of Electro-Communications 眼球位置計測方法及び眼球位置計測装置

Also Published As

Publication number Publication date
US8419654B2 (en) 2013-04-16
CN101754715A (zh) 2010-06-23
CN101754715B (zh) 2012-07-25
JPWO2009142008A1 (ja) 2011-09-29
US20100204608A1 (en) 2010-08-12
WO2009142008A1 (ja) 2009-11-26

Similar Documents

Publication Publication Date Title
JP5204781B2 (ja) 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路
JP5613528B2 (ja) 眼電位計測装置、眼科診断装置、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがね、眼電位計測方法、及びプログラム
JP5613533B2 (ja) ノイズ低減装置、眼電位計測装置、眼科診断装置、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがね、及びプログラム
JP5490664B2 (ja) 眼電位推定装置、眼電位算出方法、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイおよび電子めがね
JP7007436B2 (ja) 眼科装置
JP5613025B2 (ja) 視線検出装置、視線検出方法、眼電位計測装置、ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがねおよび眼科診断装置
JP5665241B2 (ja) 眼球疲労判定装置およびその作動方法
JP5721291B2 (ja) 視力矯正処置においてリアルタイムのフィードバックを提供するための機器およびその作動方法
JP4668204B2 (ja) 眼科用両眼波面測定システム
Olsson Real-time and offline filters for eye tracking
US20120134029A1 (en) Ophthalmic diagnostic instrument
JP7057186B2 (ja) 眼科装置、及び眼科情報処理プログラム
US20180070814A1 (en) Systems and methods for combined structure and function evaluation of retina
US20100309432A1 (en) Eyeball motion measurement apparatus
US8357101B2 (en) Electro-oculography apparatus, imaging apparatus, electro-oculography method, program, and integrated circuit
Tatler et al. Eye movement recordings in natural settings
Ivanchenko et al. A low-cost, high-performance video-based binocular eye tracker for psychophysical research
US11317861B2 (en) Vestibular-ocular reflex test and training system
Miyashita et al. Implementation of EOG-based gaze estimation in HMD with head-tracker
WO2018025125A1 (en) Method of retinal sensitivity mapping using near-eye display
Pölzer et al. Assisting people with nystagmus through image stabilization: Using an arx model to overcome processing delays
Federighi et al. On the development of a data base for saccadic parameters and main sequence relationships—a quantitative study of video-base eye tracking
JP2014171586A (ja) 視線検出装置、眼鏡レンズ設計方法、および眼鏡レンズ製造方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130215

R150 Certificate of patent or registration of utility model

Ref document number: 5204781

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160222

Year of fee payment: 3