JPH1039995A - 視線・音声入力装置 - Google Patents

視線・音声入力装置

Info

Publication number
JPH1039995A
JPH1039995A JP8209127A JP20912796A JPH1039995A JP H1039995 A JPH1039995 A JP H1039995A JP 8209127 A JP8209127 A JP 8209127A JP 20912796 A JP20912796 A JP 20912796A JP H1039995 A JPH1039995 A JP H1039995A
Authority
JP
Japan
Prior art keywords
operator
sight
line
voice
mouse
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP8209127A
Other languages
English (en)
Inventor
Takeshi Endo
武 遠藤
Seiichiro Mori
誠一郎 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP8209127A priority Critical patent/JPH1039995A/ja
Publication of JPH1039995A publication Critical patent/JPH1039995A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Position Input By Displaying (AREA)

Abstract

(57)【要約】 【課題】マウス等によるマウスカーソル等の移動、アイ
コンの選択や画面移動等の操作を、アイカメラやゴーグ
ルなどの装備を装着すること無しに、オペレータの視線
を利用して簡単に操作でき、マウス等のボタン操作を音
声によって行うことにより、手を使わずにマウスと同等
の機能を実現する入力装置の提供。 【解決手段】オペレータと離間した所定の位置にオペレ
ータの注目する視線を入力するカメラを備え、カメラか
ら入力信号に基づきオペレータの注目する視線の前記デ
ィスプレイ装置の画面上における位置及び移動の情報を
取得する画像処理手段を備え、該取得した情報に基づき
カーソル移動等のポインティング操作を行い、オペレー
タの発する音声をマイクで拾い、オペレータの音声情報
を認識する音声認識手段で認識された指示に従いマウス
やジョイスティックのボタン操作を行う。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、コンピュータ等情
報処理装置の入力装置に関し、特に、視線・音声入力装
置に関する。
【0002】
【従来の技術】従来、コンピュータ等情報処理装置の入
力手段のうちディスプレイ表示画面上を指示するポイン
ティングデバイスとしては、マウス、ジョイスティック
等が使われているが、マウス、ジョイスティック等のそ
れぞれの有する欠点を取り除き、コンピュータ入力の操
作性を向上する目的で、操作者(オペレータ)が注目す
る視線を利用し、マウス等の同等の機能を実現する方法
が提案されてる。
【0003】例えば特開平6−242883号公報に
は、ゴーグルに光センサーを配設し、光センサーの光源
部から赤外線を第1ハーフミラーを通過させ、かつ第2
ハーフミラーで反射させて眼球に照射し、この眼球から
の反射光を第2及び第1ハーフミラーで反射させ、CC
Dカメラに入射し、CCDカメラで入射光線を電気信号
に変換し、映像処理部で映像処理し、輪郭処理部で輪郭
を識別処理し、座標位置検出部にて視線の方向をディス
プレイ上の位置座標として検出するようにした入力装置
が提案されている。すなわち、この装置では、ゴーグル
に光センサーを配設し、光センサーの光源部より赤外線
を眼球にあて、眼球からの反射光を検出することにより
画面上のオペレータの注目する視線の座標位置を検出す
るものである。
【0004】
【発明が解決しようとする課題】従来、マウスポインタ
やカーソルの移動、アイコンの選択、画面移動、線描画
等の入力処理は、マウス、ジョイスティック等の入力装
置(ポインティングデバイス)を手で操作することによ
って行ってきた。このため、手が使えない状況にある場
合や、身体的な障害のある操作者が操作する場合、これ
らの装置を使用することは困難を伴う。
【0005】一方、入力手段として、オペレータの視線
を利用した場合でも、アイカメラやゴーグル等の装置を
操作者は装着することが必要とされ、非常に煩わしいも
のである。特に画面上で長時間の作業を行う場合、ゴー
グル等の装着は疲労を招き作業効率を低下させる。
【0006】従って、本発明は、上記事情に鑑みてなさ
れたものであって、その目的は、マウス、ジョイスティ
ック等のポインティングデバイスにより行っていたマウ
スカーソル等の移動、アイコンの選択やウインドウ(画
面)移動等の操作を、オペレータにアイカメラやゴーグ
ルなどの装備を装着すること無しに、オペレータの視線
を利用して簡単に操作できるようした入力装置を提供す
ることにある。また、本発明の他の目的は、マウス、ジ
ョイスティックのボタン操作を音声によって行うことに
より、手を使わずにマウスと同等の機能を実現する入力
装置を提供することにある。
【0007】
【課題を解決するための手段】前記目的を達成するた
め、本発明は、オペレータと離間した所定の位置に、前
記オペレータの注目する視線を入力するカメラを備える
と共に、前記カメラから入力信号に基づき、前記オペレ
ータの注目する視線のディスプレイ装置の表示画面上に
おける位置及び移動の情報を取得する画像処理手段を備
え、該取得した情報に基づき前記ディスプレイ装置の表
示画面上のカーソル移動等のポインティング操作を行う
ようにしたことを特徴とする情報処理装置の入力装置を
提供する。
【0008】本発明においては、前記オペレータの発す
る音声を集音するマイクロフォンと、前記マイクロフォ
ンから入力されたオペレータの音声情報を認識する音声
認識手段と、を備え、認識された音声情報に基づき、マ
ウスやジョイスティックのボタン操作を行うようにした
ことを特徴とする。
【0009】本発明の概要を以下に説明する。
【0010】本発明は、ディスプレイ装置(図2の2)
に装備されたカメラ(図2の1)を通し、オペレータ
(図2の5)のディスプレイ上での視線の座標位置を計
算機(図2の3)により計算し、これにより従来のマウ
スによるマウスポインタの移動の操作を行うものであ
る。
【0011】また、本発明は、マイク(図2の4)入力
されたオペレータの音声を、計算機の音声認識手段によ
り自動認識し、従来のマウスのボタン操作と同等の操作
を行うものである。
【0012】本発明によれば、マウス等による操作を、
オペレータの視線、及び音声により行うことによって、
マウス操作の煩雑さをなくし、従来のマウスのスペース
も不要となる。さらに、オペレータは、視線検出装置を
装着する必要がなく、利用が容易であり、視線検出装置
の装着に伴う煩わしさがない。
【0013】このように、本発明によれば、例えば利用
者がマウス等の手による操作、またはジョイスティック
等指による操作を自由に行えない場合であっても、容易
にマウスと同等の機能を利用することが可能となる。特
に本発明は、身障者等の情報処理装置及びゲーム機器の
利用を可能とするものである。
【0014】
【発明の実施の形態】次に、本発明の実施の形態につい
て図面を参照して説明する。
【0015】図1は、本発明の実施の形態の構成を示す
図である。図1を参照すると、本発明の実施の形態は、
オペレータを撮影するカメラ1と、カメラ1によって撮
影された映像を入力しこの映像信号を計算機で処理でき
る画像データに変換する画像処理回路2と、を備え、画
像信号変換回路2から出力される画像データは視線認識
部3に入力され、視線認識部3は、入力された画像デー
タより、オペレータの目の位置を認識する。
【0016】視線位置計算部4は、オペレータの目に対
する瞳の位置関係より、視線がディスプレイ上のどの座
標に注目しているかを計算する。
【0017】また、本発明の実施の形態においては、オ
ペレータの音声を拾うマイク5と、マイク5で入力した
音声信号計算機で扱える音声データに変換する音声変換
回路6と、音声データを自動で音声認識し、オペレータ
が与えた指示を解析する音声認識部7と、を備えてい
る。
【0018】制御部8では、視線位置計算部4より得ら
れた視線の座標位置と、音声認識部7より得られた指示
よりマウスカーソルの移動や動作を制御し、ディスプレ
イ9上に表示する。
【0019】本発明の実施の形態の動作を図1を参照し
て説明する。
【0020】通常、マウスの情報は、マウスを移動する
ことにより得られる情報と、マウスに取り付けられたボ
タンの押下操作(クリック操作)によって得られる情報
に分けられる。
【0021】マウスカーソルの移動の操作は、マウスカ
ーソルを移動したい方向に、マウス本体を移動すること
によって行う。これらのマウスカーソル移動機能は、本
発明の実施の形態においては、カメラ1、画像変換回路
2、視線認識部3、視線位置計算部4によって実現され
ている。
【0022】視線認識部3は、例えばパターン認識技術
を利用して、オペレータの目の位置、及び目の中の瞳の
位置を認識する。この情報は視線位置計算部4に入力さ
れ、そこでこれらの位置関係より、オペレータの注目し
ている視線の位置を計算する。
【0023】一方、本発明の実施の形態において、従来
のマウスのボタンの操作は、オペレータの音声入力によ
り行う。このマウスのボタン押下機能は、本発明の実施
の形態においては、マイク5、音声変換回路5、音声認
識装置7によって実現されている。
【0024】音声認識装置7では、音声認識技術によ
り、従来のマウスボタンのオン、オフに相当するオペレ
ータの命令を解析する。これにより、手を使わずにマウ
スの機能を実現することができる。
【0025】
【実施例】次に、上記した本発明の実施の形態をさらに
詳細に説明すべく、具体例を示す実施例に基づき以下に
説明する。
【0026】まず、図2は、本発明の一実施例の概略構
成を模式的に示す図である。図2を参照して、オペレー
タ10はディスプレイ9の表示画面を見て作業を行う。
その際、カメラ1はオペレータ10の視線を監視し続
け、表示画面上で、オペレータ10の視線が止まった箇
所にマウスカーソルを移動させる。
【0027】この時点でオペレータ10が音声で、例え
ば「クリック」と発音すると、マイク5は、この音声を
検出し、コンピュータの制御部は、シングルクリック動
作を行わせる。また、例えば「ダブル」と発音すれば、
ダブルクリック動作を行わせる。また、それ以外の音声
は無視する。これにより、マウスを使用せずに、表示画
面上でマウスカーソルを用いた操作(カーソル移動、ア
イコン選択、ウインドウ生成、移動等)が可能となる。
【0028】本発明の実施例におけるカメラは、ディス
プレイ装置以外の場所であっても、オペレータの視線を
識別可能な位置ならば、どこに設けられていてもよい。
【0029】また、カメラは複数装備されることよっ
て、視線の測定精度、信頼性を向上することが可能であ
る。
【0030】本発明で、マウスと表現されているもの
は、マウスと同等の機能を持つもの、すなわちコンピュ
ータのポインティングデバイスといわれる入力装置、例
えば、ジョイスティック、トラックボール、ジョイパッ
ド、ライトペン等を含むものとする。
【0031】
【発明の効果】以上説明したように、本発明によれば、
手によるマウスやジョイスティックの操作を不要とし、
また、オペレータは視線検出用の装置を装備する必要が
ないため、身体的に障害のある人にも、表示画面上のポ
インティング操作を容易に行うことを可能とする、とい
う効果を有する。
【0032】また、本発明によれば、マウス、ジョイス
ティックが不要となることにより、マウススペース等の
作業スペースが不要となるという利点も有している。
【図面の簡単な説明】
【図1】本発明の実施の形態の構成を示すブロック図で
ある。
【図2】本発明の一実施例の外観を模式的に示す図であ
る。
【符号の説明】 1 カメラ 2 信号変換回路 3 視線認識部 4 視線位置計算部 5 マイク 6 音声信号変換部 7 音声認識部 8 制御部 9 ディスプレイ 10 オペレータ

Claims (4)

    【特許請求の範囲】
  1. 【請求項1】マウスカーソルの移動距離を及び移動方向
    をオペレータの視線をカメラで捉えて割り出し、クリッ
    ク操作等の指示をオペレータの音声を認識して行うこと
    を特徴とする入力装置。
  2. 【請求項2】オペレータと離間した所定の位置に、前記
    オペレータの注目する視線を入力するカメラを備えると
    共に、 前記カメラから入力信号に基づき、前記オペレータの注
    目する視線のディスプレイ装置の表示画面上における位
    置及び移動の情報を取得する画像処理手段を備え、 該取得した情報に基づき前記ディスプレイ装置の表示画
    面上のカーソル移動等のポインティング操作を行うよう
    にしたことを特徴とする情報処理装置の入力装置。
  3. 【請求項3】前記オペレータの発する音声を集音するマ
    イクロフォンと、 前記マイクロフォンから入力されたオペレータの音声情
    報を認識する音声認識手段と、を備え、 認識された音声情報に基づき、マウスやジョイスティッ
    クのボタン操作を行うようにしたことを特徴とする請求
    項2記載の情報処理装置の入力装置。
  4. 【請求項4】前記カメラが前記オペレータと対向する前
    記ディスプレイ装置上又はその近傍に設けられたことを
    特徴とする請求項2記載の情報処理装置の入力装置。
JP8209127A 1996-07-19 1996-07-19 視線・音声入力装置 Pending JPH1039995A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP8209127A JPH1039995A (ja) 1996-07-19 1996-07-19 視線・音声入力装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP8209127A JPH1039995A (ja) 1996-07-19 1996-07-19 視線・音声入力装置

Publications (1)

Publication Number Publication Date
JPH1039995A true JPH1039995A (ja) 1998-02-13

Family

ID=16567739

Family Applications (1)

Application Number Title Priority Date Filing Date
JP8209127A Pending JPH1039995A (ja) 1996-07-19 1996-07-19 視線・音声入力装置

Country Status (1)

Country Link
JP (1) JPH1039995A (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000026758A1 (en) * 1998-10-30 2000-05-11 Amd Industries Llc Non-manual control of a medical image display station
KR20030022538A (ko) * 2001-09-11 2003-03-17 김태용 시점 추적 좌표 입력 시스템을 이용한 데이터 입력 방법
KR20030022537A (ko) * 2001-09-11 2003-03-17 김태용 동공 추적 카메라를 이용한 좌표 입력 시스템 및 그 방법
GB2388209A (en) * 2001-12-20 2003-11-05 Canon Kk Control apparatus with speech and gaze input
WO2013183608A1 (ja) 2012-06-07 2013-12-12 株式会社エヌ・ティ・ティ・ドコモ 表示装置、表示方法及びプログラム
WO2013190989A1 (ja) 2012-06-22 2013-12-27 株式会社エヌ・ティ・ティ・ドコモ 表示装置、表示方法及びプログラム
WO2016151958A1 (ja) * 2015-03-20 2016-09-29 ソニー株式会社 情報処理装置、情報処理システム、情報処理方法およびプログラム

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000026758A1 (en) * 1998-10-30 2000-05-11 Amd Industries Llc Non-manual control of a medical image display station
KR20030022538A (ko) * 2001-09-11 2003-03-17 김태용 시점 추적 좌표 입력 시스템을 이용한 데이터 입력 방법
KR20030022537A (ko) * 2001-09-11 2003-03-17 김태용 동공 추적 카메라를 이용한 좌표 입력 시스템 및 그 방법
GB2388209A (en) * 2001-12-20 2003-11-05 Canon Kk Control apparatus with speech and gaze input
GB2388209B (en) * 2001-12-20 2005-07-13 Canon Kk Control apparatus
US7212971B2 (en) 2001-12-20 2007-05-01 Canon Kabushiki Kaisha Control apparatus for enabling a user to communicate by speech with a processor-controlled apparatus
US7664649B2 (en) 2001-12-20 2010-02-16 Canon Kabushiki Kaisha Control apparatus, method and computer readable memory medium for enabling a user to communicate by speech with a processor-controlled apparatus
WO2013183608A1 (ja) 2012-06-07 2013-12-12 株式会社エヌ・ティ・ティ・ドコモ 表示装置、表示方法及びプログラム
US9582169B2 (en) 2012-06-07 2017-02-28 Ntt Docomo, Inc. Display device, display method, and program
WO2013190989A1 (ja) 2012-06-22 2013-12-27 株式会社エヌ・ティ・ティ・ドコモ 表示装置、表示方法及びプログラム
WO2016151958A1 (ja) * 2015-03-20 2016-09-29 ソニー株式会社 情報処理装置、情報処理システム、情報処理方法およびプログラム

Similar Documents

Publication Publication Date Title
US9367127B1 (en) System and method for detecting facial gestures for control of an electronic device
US6345111B1 (en) Multi-modal interface apparatus and method
US11782514B2 (en) Wearable device and control method thereof, gesture recognition method, and control system
JP3114813B2 (ja) 情報入力方法
US10095033B2 (en) Multimodal interaction with near-to-eye display
WO2017149868A1 (ja) 情報処理装置、情報処理方法、およびプログラム
US20140043234A1 (en) Computer vision gesture based control of a device
JPH07248873A (ja) 筋電信号を用いた制御装置
US20020039111A1 (en) Automated visual tracking for computer access
JPH0981309A (ja) 入力装置
JP2006516772A (ja) 視線追跡システム及び方法
WO2021073743A1 (en) Determining user input based on hand gestures and eye tracking
JPH10260773A (ja) 情報入力方法及びその装置
US11573648B2 (en) Information processing apparatus and information processing method to identify gesture operation of a user
JPH08322796A (ja) 視線方向検出方法及び装置及びそれを含むマンマシンインターフェース装置
JPH09179062A (ja) コンピュータシステム
JPH1039995A (ja) 視線・音声入力装置
JP3487237B2 (ja) ポインティング装置とそれを用いたコンピュータシステム
CN101446859B (zh) 一种基于机器视觉的输入方法及其***
CN112114672A (zh) 一种眼动结合语音辅助交互装置及方法
JPH11184621A (ja) 視線入力装置
Deb et al. Designing an intelligent blink analyzer tool for effective human computer interaction through eye
JPH1173273A (ja) 肢体不自由者用入力装置
KR102586144B1 (ko) 딥러닝을 이용한 손 움직임 추적방법 및 장치
JPH11345073A (ja) 携帯情報端末操作システム

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 19990323