JP5077879B2 - 視線入力装置、視線入力方法、及び、視線入力プログラム - Google Patents
視線入力装置、視線入力方法、及び、視線入力プログラム Download PDFInfo
- Publication number
- JP5077879B2 JP5077879B2 JP2007222667A JP2007222667A JP5077879B2 JP 5077879 B2 JP5077879 B2 JP 5077879B2 JP 2007222667 A JP2007222667 A JP 2007222667A JP 2007222667 A JP2007222667 A JP 2007222667A JP 5077879 B2 JP5077879 B2 JP 5077879B2
- Authority
- JP
- Japan
- Prior art keywords
- input
- line
- blink
- index
- sight
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Position Input By Displaying (AREA)
Description
本発明に係る視線入力装置は、入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力する視線入力装置において、前記入力操作者の瞬きを検出する瞬き検出手段と、前記瞬き検出手段が検出した結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示手段と、前記切替表示手段により切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を順次移動制御する指標移動制御手段と、前記指標移動制御手段により移動制御された指標で特定される入力要素を、前記瞬き検出手段が検出した瞬きを確定情報として入力することで決定する入力要素決定手段とを備えることを特徴とする。
さらに、入力操作者は瞬きをするだけで、様々な入力処理を行うことができるため操作を簡単で楽に行うことができ、入力操作者の負担を軽減することができる。
本発明に係る視線入力装置は、前記入力操作者の左右の少なくとも一方の視線を検出する視線検出手段と、前記視線検出手段が検出した結果に基づいて画面表示の制御を行う表示制御手段とを備えることを特徴とする。
さらにまた、前記同様に操作環境の変化により瞬き、または、視線方向の認識精度が低くなってしまった場合であっても、瞬き検出と多くても2方向の視線方向の検出の校正を行えばよいため、短時間で簡単に校正を行うことができる。
さらに、視線方向の検出は、左右のいずれか一方のみの視線を検出するようにしてもよい。
本発明に係る視線入力装置は、前記入力操作者の上下の少なくとも一方の視線を検出する視線検出手段と、前記視線検出手段が検出した結果に基づいて画面表示の制御を行う表示制御手段とを備えることを特徴とする。
また、前記と同様に視線方向と瞬きを組み合わせた画面表示の制御を行うことができるため、様々な操作を実現することができる。
さらにまた、前記同様に操作環境の変化により瞬き、または、視線方向の認識ができなくなってしまった場合でも、瞬き検出と、多くても2方向の視線方向の検出の校正を行えばよいため、短時間で簡単に校正を行うことができる。
さらに、視線方向の検出は、上下のいずれか一方のみの視線を検出するようにしてもよい。
本発明に係る視線入力装置は、前記視線検出手段が、前記入力操作者の上下左右の少なくとも4方向の視線を検出し、当該視線検出手段が検出した結果に基づいて、前記表示制御手段が画面表示の制御を行うことを特徴とする。
また、登録する視線方向は4方向であるため、登録や校正に掛かる時間や手間を従来に比べて格段に減らすことができると共に、上下左右という極端な位置を検出するため、検出精度も高く、確実に視線入力操作を行うことができる。
本発明に係る視線入力装置は、前記眼球周辺画像における肌色部分を検出する肌色検出手段と、前記肌色検出手段が検出した肌色部分、並びに前記眼球周辺画像における白目部分、及び黒目部分から、当該眼球周辺画像の画素値の平均を算出する画素値平均算出手段と、前記眼球周辺画像から当該眼球周辺画像の輝度を算出する輝度算出手段と、前記画素値平均算出手段が算出した画素値の平均と前記輝度算出手段が算出した輝度から画素値の平均が黒色かどうかを判定するための最適な閾値を算出する閾値算出手段とを備え、前記瞬き検出手段は、前記閾値算出手段が算出した閾値に基づいて、前記入力操作者の瞬きを検出することを特徴とする。
また、輝度の大きさを考慮して瞬きを検出しているため、窓から差し込む自然光や照明等の環境が変わった場合でも対応することができる。
本発明に係る視線入力装置は、前記瞬き検出手段が、前記入力操作者により自然に行われた瞬きと意図的に行われた瞬きとを区別して、意図的に行われた瞬きのみを検出することを特徴とする。
本発明に係る視線入力装置は、前記入力操作者が、前記各処理手段における処理パラメータを自由に設定できることを特徴とする。
このように、本発明においては、入力操作者が処理パラメータを設定することができるため、入力操作者に対応して視線入力装置をカスタマイズすることができ、様々な入力操作者が快適に利用することができる。
なお、各パラメータの設定は、予めパラメータファイルに設定を登録しておいてもよいし、入力操作者が入力操作を行いながら、随時変更できるようにしてもよい。
本発明に係る視線入力装置は、前記入力要素がパソコンのキーボードと同じ構成であることを特徴とする。
このように、本発明においては、入力要素がパソコンのキーボードと同じ構成であるため、キーボードを利用した操作と全く同じ操作を視線入力で行うことができる。
なお、複数キーを同時に押下する操作については、例えば、瞬きを2回行った場合はホールド状態とすることで実現することができる。
さらに、上記で示したマウス操作以外の全ての操作は左右いずれか一方の眼球周辺画像を取得できれば実現することができる。
また、本発明に係る視線入力装置は、入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力する視線入力装置において、前記入力操作者の瞬きを検出する瞬き検出手段と、前記瞬き検出手段が検出した結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示手段と、前記切替表示手段により切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を順次移動制御する指標移動制御手段と、前記指標移動制御手段により移動制御された指標で特定される入力要素を、前記瞬き検出手段が検出した瞬きを確定情報として入力することで決定する入力要素決定手段とを備え、前記入力要素には直前に確定された確定情報を入力状態のまま維持するHOLDボタンを含み、当該HOLDボタンを確定情報として入力した場合に、複数の前記確定情報が同時に入力されるものである。
さらに、本発明に係る視線入力装置は、入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力する視線入力装置において、前記入力操作者の瞬きを検出する瞬き検出手段と、前記瞬き検出手段が検出した結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示手段と、前記切替表示手段により切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を順次移動制御する指標移動制御手段と、前記指標移動制御手段により移動制御された指標で特定される入力要素を、前記瞬き検出手段が検出した瞬きを確定情報として入力することで決定する入力要素決定手段と、前記入力操作者の視線方向を検出する視線検出手段とを備え、前記入力操作者の視線方向が予め設定された方向である場合に、当該視線方向に前記指標を移動制御し、当該視線方向が検出されている間、前記指標が、隣接配置されて表示された前記入力要素に連続して順次移動制御され、前記視線方向が連続して検出されている時間に応じて前記指標の移動速度を変化させて制御するものである。
これまで、本発明を装置として示したが、所謂当業者であれば明らかであるように本発明をシステム、方法、及び、プログラムとして捉えることもできる。これら前記の発明の概要は、本発明に必須となる特徴を列挙したものではなく、これら複数の特徴のサブコンビネーションも発明となり得る。
(1.構成)
(1−1 視線入力装置のハードウェア構成)
図1は、本実施形態に係る視線入力装置100のハードウェア構成を示した模式図である。
本実施形態に係る視線入力装置100は、視線入力装置本体110と、カメラ106と、ディスプレイ107と、スピーカー108とを備える。視線入力装置本体110は、CPU(Central Processing Unit)101と、RAM102と、ROM103と、HDD(Hard Disk Drive)104と、CD−ROM120からデータを読み出すCD−ROMドライブ105と、ネットワークに接続するためのLANインターフェース109とを備える。
なお、図1は本実施形態に係る視線入力処理装置100のハードウェア構成を模式的に示した一例に過ぎず、本実施形態を適用可能であれば、他の様々な構成を採ることができる。
なお、視線入力装置プログラムは、CD−ROM等の記録媒体から提供されるようにしてもよいし、LANインターフェース109を介してネットワークに接続された他のコンピュータから提供されるようにしてもよい。
図2は、本実施形態に係る視線入力装置100全体のモジュール構成図、図3は、前処理部210のモジュール構成図、図4は、瞬き登録処理部323のモジュール構成図である。
図2において、視線入力装置本体110は、前処理部210と、瞬き検出処理部220と、視線検出処理部230と、表示制御処理部240と、画面表示処理部250とを備える。表示制御処理部240は、切替表示処理部241と、入力要素決定処理部242と、カーソル移動制御部243と、カーソル速度制御部244とを備える。
前処理部210は、視線入力処理を行う前の処理を行う。起動時の前処理や校正時の処理は、この前処理部210により行われる。前処理部210の詳細な構成は後述する。
瞬き検出処理部220は、瞬きの検出を行う。ここでは、前処理部210で登録した瞬き情報から、入力操作者Mが瞬きを行ったかどうかを判定する処理が行われる。
画面表示処理部250は、入力要素やカーソルを画面に表示する処理を行う。
図3において、前処理部210は、眼球周辺画像取得処理部310と、登録処理部320とを備える。登録処理部320は、右視線方向登録処理部321と、左視線方向登録処理部322と、瞬き登録処理部323とを備える。
眼球周辺画像取得処理部310は、カメラ106で撮影された入力操作者Mの顔画像から眼球の周辺の画像を取得する処理を行う。この画像を基にして、視線方向や瞬きの検出を行う。
左視線方向登録処理部322は、入力操作者Mの注視点から左の視線方向を検出し、その場合の眼球の黒目の状態(位置)を登録する処理を行う。
瞬き登録処理部323は、瞼を閉じた場合の画像の画素値と、瞼を閉じていない場合の画像の画素値を判別するための閾値を算出し登録する処理を行う。瞬き登録処理部323の詳細な構成は後述する。
図4において、瞬き登録処理部323は、肌色検出処理部410と、画素値平均算出処理部420と、輝度算出処理部430と、閾値決定処理部440とを備える。
肌色検出処理部410は、眼球周辺画像mにおける肌色の部分を検出する処理を行う。ここでは色相の角度(6度から38度)から、一般的な肌色の画素値を示す画素を肌色の部分であるとする。
図5は、本実施形態に係る視線入力装置100の処理を示すフローチャートである。まず、装置を起動したら、前処理が行われる(ステップS501)。前処理について詳細に説明する。前処理に関する詳細なフローチャートを図6に示す。まず、入力操作者Mの正面側からカメラ106により入力操作者Mの顔画像を撮像する(ステップS601)。
また、撮影された顔画像を視線入力装置本体110に取り込むソフトウェアも上記DirectShowに限定せず、何でもよい。
なお、ここでは、左右の2つの視線方向を登録しているが、左右のどちらか一方だけでもよい。そうすることで、さらに処理を簡潔にし、効率を上げることができる。
ステップS605の瞬きの登録処理について、以下に詳細に説明する。図7は、瞬きの登録処理に関する詳細なフローチャートである。まず、眼球周辺画像mの肌色部分を検出する(ステップS701)。
図5に戻って、上記前処理が終了すると、カメラ106により入力操作者Mの顔画像が撮像され(ステップS502)、撮像された顔画像から眼球周辺画像mを取得する(ステップS503)。取得された眼球周辺画像mから、入力操作者Mの視線方向を検出する(ステップS504)。検出の際には、前処理にて登録された右視線方向の情報と左視線方向の情報から、視線方向の検出を行う。右視線方向または左視線方向が検出されたかどうかを判定し(ステップS505)、検出されなかった場合は、検出されるまでステップS504の処理が繰り返して行われる。検出された場合は、カーソルの移動を行う(ステップS506)。選択されている入力要素が、入力操作者が入力したい要素かどうかを判定し(ステップS507)、入力したくない要素であれば、入力したい要素が選択されるまで、ステップS506の処理が繰り返して行われる。入力したい要素が選択されている場合は、眼球周辺画像mの肌色部分が検出される(ステップS508)。検出された肌色部分は「黒色」として画像全体を2値化し、画素値の平均を算出する(ステップS509)。算出した画素値の平均が、前処理で登録した、瞬きを判定するための閾値以下かどうかを判定し(ステップS510)、画素値の平均が閾値より大きければ、瞬きと判断されずにステップS508に戻って、瞬きが検出されるまで処理が繰り返して行われる。画素値の平均が閾値以下であれば、瞬きと判断され、ステップS511の処理に進む。ステップS511では、画素値の平均が閾値以下であるフレームの数から、自然の瞬きか意図的な瞬きかどうかが判定され、自然の瞬きであればステップS508に戻る。意図的な瞬きであれば、選択されている入力要素が決定され(ステップS512)、入力内容がディスプレイ107に表示されて(ステップS513)処理を終了する。
なお、瞬きを判定するためのフレーム数については、入力操作者毎に設定することができる。
さらに、左右の視線方向の検出は必ずしも必要ではない。すなわち、前記にも示した通り、カーソルの移動開始の合図を瞬きで行い、所定の間隔で入力要素ごとにカーソルを順次移動するようにし、入力操作者Mが、選択したい入力要素が選択状態になった場合(カーソルが当たった場合)に瞬きにより決定を行うことで、視線方向を検出しなくても、装置の操作を行うことが可能となる。
視線入力装置100の動作について、さらに詳細に説明する。図12は、視線入力装置100のディスプレイ107に表示された表示画面の一例である。画面の上下には50音の1行目(あ、か、さ、た、な、は、ま、や、ら、わ)の文字キーが表示され、真ん中には処理を実行するためのキーが表示されている。画面の右端には「右」の文字と、左端には「左」の文字が表示されている。
さらにまた、図中には示していないが、モードを変更するキーを追加することで、入力モードと編集モードを切り替えることができる。入力モードは、上記のように文字をテキストに入力する。編集モードは、入力したテキストに対して文字の追加、削除、変更等の編集処理を行うことができる。
さらにまた、図12及び図13において、「右」、「左」の文字は必須の表示ではない。文字を見なくても右方向と左方向さえ検出できれば、上記操作は可能である。
本実施形態においては、入力操作者Mは自分に適した操作を行うために、処理パラメータを自由に設定することができる。以下にパラメータの設定の一部を例示する。
(1)瞬きによる入力要素の決定において、瞬きの回数を設定することができる。例えば、決定の場合は瞬き検出を2回に設定する。
(2)定期的に校正を行う場合に、その時間を設定することができる。例えば、環境が変化しやすい場合は精度が下がりやすくなる可能性があるため、時間を短めに設定して校正を多くする。本発明の場合は、最小で瞬きのみ、最大でも瞬きと上下左右の4方向の視線方向の校正だけで処理できるため、校正を多めに行っても入力操作者の負担はそれほど大きいものにならない。
(3)未操作の時間が所定の時間を越えた場合に、校正を行うように入力操作者Mに促すが、その未操作の時間を設定することができる。
(4)眼球周辺画像mを取得する際の枠のサイズと位置を設定することができる。例えば、入力操作者の顔は人それぞれで異なっており、人によっては目の位置が上方にあったり下方にあったりして、眼球周辺画像が正確に取得できない場合があるが、枠のサイズと位置を調整することで、正確に眼球周辺画像を取得することができる。
(5)校正が終了したら自動で入力モードにするか、モード変更のキーによりモードの設定を行うかどうかを設定することができる。
(6)校正が終了したら自動でテキストファイル(NOTEPAD等)を起動するかしないかを設定することができる。
(7)カメラのキャプチャサイズを設定することができる。通常は640×480に設定しておくが、処理が遅い場合は320×240に設定することができる。
(8)カメラのキャプチャインターバルを設定することができる。
(9)頻繁に起動するアプリケーションをショットカットで設定することができる。
なお、パラメータの設定は上記のみならず、様々な操作環境に対応して設定することができる。つまり、入力操作者や操作環境に対応して装置をカスタマイズすることができ、入力操作者の負担を大きく軽減することができる。
(1 構成と機能)
図15は、本実施形態に係る視線入力装置100全体のモジュール構成図である。第1の実施形態と異なる点は、音声出力処理部260を新たに備えた点である。
音声出力処理部260は、入力操作者Mが入力した文字を音声として出力する処理を行う。重度の筋萎縮性側策硬化症患者(ALSという)には、肢体不自由なだけではなく、言語を発することができない患者が多い。そのため、人とのコミュニケーションにおいては上記のように文字を入力して行うが、本実施形態では、その文字が音声として出力されるため、音によるコミュニケーションを図ることができる。音でコミュニケーションが図れることで、入力操作者Mは安心感と得ることができ、また、コミュニケーションにおいて解読する行為を行わなくてよいため、楽に行うことができる。
102 RAM
103 ROM
104 HDD
105 CD−Rドライブ
106 カメラ
107 ディスプレイ
108 スピーカー
109 LAN I/F
100 視線入力装置
110 視線入力装置本体
120 CD−ROM
210 前処理部
220 瞬き検出処理部
230 視線検出処理部
240 表示制御処理部
241 切替表示処理部
242 入力要素決定処理部
243 カーソル移動制御部
244 カーソル速度制御部
250 画面表示処理部
260 音声出力処理部
265 スピーカー
310 眼球周辺画像取得処理部
320 登録処理部
321 右視線方向登録処理部
322 左視線方向登録処理部
323 瞬き登録処理部
410 肌色検出処理部
420 画素値平均算出処理部
430 輝度算出処理部
440 閾値決定処理部
Claims (9)
- 入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力する視線入力装置において、
前記入力操作者の瞬きを検出する瞬き検出手段と、
前記瞬き検出手段が検出した結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示手段と、
前記切替表示手段により切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を、隣接配置されて表示された前記入力要素に連続して順次移動制御する指標移動制御手段と、
前記指標移動制御手段により移動制御された指標で特定される入力要素を、前記瞬き検出手段が検出した瞬きを確定情報として入力することで決定する入力要素決定手段と、を備え、
前記指標移動制御手段が、検出された瞬きの回数に応じて前記指標の移動速度を変化させて制御することを特徴とする、視線入力装置。 - 入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力する視線入力装置において、
前記入力操作者の瞬きを検出する瞬き検出手段と、
前記瞬き検出手段が検出した結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示手段と、
前記切替表示手段により切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を順次移動制御する指標移動制御手段と、
前記指標移動制御手段により移動制御された指標で特定される入力要素を、前記瞬き検出手段が検出した瞬きを確定情報として入力することで決定する入力要素決定手段とを備え、
前記入力要素には直前に確定された確定情報を入力状態のまま維持するHOLDボタンを含み、当該HOLDボタンを確定情報として入力した場合に、複数の前記確定情報が同時に入力されることを特徴とする、視線入力装置。 - 入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力する視線入力装置において、
前記入力操作者の瞬きを検出する瞬き検出手段と、
前記瞬き検出手段が検出した結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示手段と、
前記切替表示手段により切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を順次移動制御する指標移動制御手段と、
前記指標移動制御手段により移動制御された指標で特定される入力要素を、前記瞬き検出手段が検出した瞬きを確定情報として入力することで決定する入力要素決定手段と、
前記入力操作者の視線方向を検出する視線検出手段とを備え、
前記入力操作者の視線方向が予め設定された方向である場合に、当該視線方向に前記指標を移動制御し、当該視線方向が検出されている間、前記指標が、隣接配置されて表示された前記入力要素に連続して順次移動制御され、前記視線方向が連続して検出されている時間に応じて前記指標の移動速度を変化させて制御することを特徴とする、視線入力装置。 - 入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力する視線入力方法において、
コンピュータが、
前記入力操作者の瞬きを検出する瞬き検出ステップと、
前記瞬き検出ステップで検出された結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示ステップと、
前記切替表示ステップにより切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を、隣接配置されて表示された前記入力要素に連続して順次移動制御する指標移動制御ステップと、
前記指標移動制御ステップにより移動制御された指標で特定される入力要素を、前記瞬き検出ステップで検出された瞬きを確定情報として入力することで決定する入力要素決定ステップとを実行し、
前記指標移動制御ステップが、検出された瞬きの回数に応じて前記指標の移動速度を変化させて制御することを特徴とする視線入力方法。 - 入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力する視線入力方法において、
コンピュータが、
前記入力操作者の瞬きを検出する瞬き検出ステップと、
前記瞬き検出ステップで検出された結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示ステップと、
前記切替表示ステップにより切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を順次移動制御する指標移動制御ステップと、
前記指標移動制御ステップにより移動制御された指標で特定される入力要素を、前記瞬き検出ステップで検出された瞬きを確定情報として入力することで決定する入力要素決定ステップとを実行し、
前記入力要素には直前に確定された確定情報を入力状態のまま維持するHOLDボタンを含み、当該HOLDボタンを確定情報として入力した場合に、複数の前記確定情報が同時に入力されることを特徴とする視線入力方法。 - 入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力する視線入力方法において、
コンピュータが、
前記入力操作者の瞬きを検出する瞬き検出ステップと、
前記瞬き検出ステップで検出された結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示ステップと、
前記切替表示ステップにより切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を順次移動制御する指標移動制御ステップと、
前記指標移動制御ステップにより移動制御された指標で特定される入力要素を、前記瞬き検出ステップで検出された瞬きを確定情報として入力することで決定する入力要素決定ステップと、
前記入力操作者の視線方向を検出する視線検出ステップとを実行し、
前記入力操作者の視線方向が予め設定された方向である場合に、当該視線方向に前記指標を移動制御し、当該視線方向が検出されている間、前記指標が、隣接配置されて表示された前記入力要素に連続して順次移動制御され、前記視線方向が連続して検出されている時間に応じて前記指標の移動速度を変化させて制御することを特徴とする視線入力方法。 - 入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力するようにコンピュータを機能させる視線入力プログラムにおいて、
前記入力操作者の瞬きを検出する瞬き検出手段、
前記瞬き検出手段が検出した結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示手段、
前記切替表示手段により切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を、隣接配置されて表示された前記入力要素に連続して順次移動制御する指標移動制御手段、
前記指標移動制御手段により移動制御された指標で特定される入力要素を、前記瞬き検出手段が検出した瞬きを確定情報として入力することで決定する入力要素決定手段としてコンピュータを機能させ、
前記指標移動制御手段が、検出された瞬きの回数に応じて前記指標の移動速度を変化させて制御することを特徴とする視線入力プログラム。 - 入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力するようにコンピュータを機能させる視線入力プログラムにおいて、
前記入力操作者の瞬きを検出する瞬き検出手段、
前記瞬き検出手段が検出した結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示手段、
前記切替表示手段により切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を順次移動制御する指標移動制御手段、
前記指標移動制御手段により移動制御された指標で特定される入力要素を、前記瞬き検出手段が検出した瞬きを確定情報として入力することで決定する入力要素決定手段としてコンピュータを機能させ、
前記入力要素には直前に確定された確定情報を入力状態のまま維持するHOLDボタンを含み、当該HOLDボタンを確定情報として入力した場合に、複数の前記確定情報が同時に入力されることを特徴とする視線入力プログラム。 - 入力操作者の眼球周辺画像を取得し、当該眼球周辺画像から視線方向を検出して表示画面に表示された入力要素を入力するようにコンピュータを機能させる視線入力プログラムにおいて、
前記入力操作者の瞬きを検出する瞬き検出手段、
前記瞬き検出手段が検出した結果に基づいて、前記表示画面に表示された前記入力要素を切り替えて表示する切替表示手段、
前記切替表示手段により切り替えて表示された複数の入力要素のうち、任意の1または複数の入力要素を特定する指標を順次移動制御する指標移動制御手段、
前記指標移動制御手段により移動制御された指標で特定される入力要素を、前記瞬き検出手段が検出した瞬きを確定情報として入力することで決定する入力要素決定手段、
前記入力操作者の視線方向を検出する視線検出手段としてコンピュータを機能させ、
前記入力操作者の視線方向が予め設定された方向である場合に、当該視線方向に前記指標を移動制御し、当該視線方向が検出されている間、前記指標が、隣接配置されて表示された前記入力要素に連続して順次移動制御され、前記視線方向が連続して検出されている時間に応じて前記指標の移動速度を変化させて制御することを特徴とする視線入力プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007222667A JP5077879B2 (ja) | 2007-08-29 | 2007-08-29 | 視線入力装置、視線入力方法、及び、視線入力プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007222667A JP5077879B2 (ja) | 2007-08-29 | 2007-08-29 | 視線入力装置、視線入力方法、及び、視線入力プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009054101A JP2009054101A (ja) | 2009-03-12 |
JP5077879B2 true JP5077879B2 (ja) | 2012-11-21 |
Family
ID=40505100
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007222667A Expired - Fee Related JP5077879B2 (ja) | 2007-08-29 | 2007-08-29 | 視線入力装置、視線入力方法、及び、視線入力プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5077879B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9818029B2 (en) | 2014-12-11 | 2017-11-14 | Samsung Electronics Co., Ltd. | Apparatus and method for computer aided diagnosis (CAD) based on eye movement |
US10678329B2 (en) | 2015-10-19 | 2020-06-09 | Orylab Inc. | Line-of-sight input device, and method of line-of-sight input |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102290494B (zh) * | 2011-09-14 | 2013-09-18 | 江阴鑫辉太阳能有限公司 | 一种太阳能电池片干法刻蚀工艺 |
JP2014157466A (ja) | 2013-02-15 | 2014-08-28 | Sony Corp | 情報処理装置及び記憶媒体 |
CN103605422A (zh) * | 2013-10-23 | 2014-02-26 | 苏州安可信通信技术有限公司 | 一种触摸屏操作方法和装置 |
JP2015090569A (ja) * | 2013-11-06 | 2015-05-11 | ソニー株式会社 | 情報処理装置及び情報処理方法 |
JP6669183B2 (ja) * | 2018-03-05 | 2020-03-18 | セイコーエプソン株式会社 | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
CN113891002B (zh) * | 2021-11-12 | 2022-10-21 | 维沃移动通信有限公司 | 拍摄方法及装置 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09167049A (ja) * | 1995-12-15 | 1997-06-24 | Nissan Motor Co Ltd | コンソール用視線入力装置 |
JPH10207615A (ja) * | 1997-01-22 | 1998-08-07 | Tec Corp | ネットワークシステム |
JP2002236957A (ja) * | 2001-02-09 | 2002-08-23 | Victor Co Of Japan Ltd | 電子投票装置、電子投票システム |
JP2003196017A (ja) * | 2001-12-25 | 2003-07-11 | Gen Tec:Kk | データ入力方法及び同装置等 |
JP2006285715A (ja) * | 2005-04-01 | 2006-10-19 | Konica Minolta Holdings Inc | 視線検出システム |
JP2006323769A (ja) * | 2005-05-20 | 2006-11-30 | Tokai Univ | 対面入力装置 |
JP4864541B2 (ja) * | 2006-05-23 | 2012-02-01 | 旭化成株式会社 | まばたきデータ種別装置、覚醒状態判定装置及び覚醒状態判断装置 |
-
2007
- 2007-08-29 JP JP2007222667A patent/JP5077879B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9818029B2 (en) | 2014-12-11 | 2017-11-14 | Samsung Electronics Co., Ltd. | Apparatus and method for computer aided diagnosis (CAD) based on eye movement |
US10678329B2 (en) | 2015-10-19 | 2020-06-09 | Orylab Inc. | Line-of-sight input device, and method of line-of-sight input |
Also Published As
Publication number | Publication date |
---|---|
JP2009054101A (ja) | 2009-03-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5077879B2 (ja) | 視線入力装置、視線入力方法、及び、視線入力プログラム | |
US9489574B2 (en) | Apparatus and method for enhancing user recognition | |
US8737693B2 (en) | Enhanced detection of gesture | |
EP2577426B1 (en) | Information processing apparatus and method and program | |
US10255690B2 (en) | System and method to modify display of augmented reality content | |
KR100692526B1 (ko) | 시스템 자동제어용 제스처 인식 장치 및 그 방법 | |
CN105518657B (zh) | 信息处理设备、信息处理方法及计算机可读记录介质 | |
JP3272906B2 (ja) | 視線方向検出方法及び装置及びそれを含むマンマシンインターフェース装置 | |
JP2017208638A (ja) | 虹彩認証装置、虹彩認証方法、及びプログラム | |
JP2016208370A (ja) | ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法 | |
JP2006350705A (ja) | 情報提供装置および方法並びにプログラム | |
TWI617994B (zh) | 使用於互動裝置並用於辨識使用者操作該互動裝置的行為的方法,以及相關互動裝置與電腦可讀媒體 | |
CN105302294B (zh) | 一种交互式虚拟现实演示装置 | |
KR20120010875A (ko) | 증강 현실 객체 인식 가이드 제공 장치 및 방법 | |
JP2007163864A (ja) | 表示制御装置、表示制御方法、表示制御プログラム、および表示制御プログラム記録媒体 | |
EP3218896A1 (en) | Externally wearable treatment device for medical application, voice-memory system, and voice-memory-method | |
JP6914724B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
KR101835531B1 (ko) | 얼굴 인식 기반의 증강현실 영상을 제공하는 디스플레이 장치 및 이의 제어 방법 | |
CN110246206B (zh) | 辅助画眉的方法、装置及*** | |
KR20180074124A (ko) | 얼굴 인식을 통해 전자 장치를 제어하는 방법 및 이를 수행하는 전자 장치 | |
JP4088282B2 (ja) | コンピュータ入力方法と装置 | |
Ahmed et al. | Controlling multimedia player with eye gaze using webcam | |
KR20200081529A (ko) | 사회적 수용성을 고려한 hmd 기반 사용자 인터페이스 방법 및 장치 | |
CN101446859B (zh) | 一种基于机器视觉的输入方法及其*** | |
CN107241548A (zh) | 一种光标控制方法、装置、终端及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100806 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110920 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111004 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111202 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120306 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120323 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120807 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120821 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150907 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |