JP6547741B2 - 情報処理システムおよび情報処理方法 - Google Patents

情報処理システムおよび情報処理方法 Download PDF

Info

Publication number
JP6547741B2
JP6547741B2 JP2016517837A JP2016517837A JP6547741B2 JP 6547741 B2 JP6547741 B2 JP 6547741B2 JP 2016517837 A JP2016517837 A JP 2016517837A JP 2016517837 A JP2016517837 A JP 2016517837A JP 6547741 B2 JP6547741 B2 JP 6547741B2
Authority
JP
Japan
Prior art keywords
display
user
information processing
movement
neck
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016517837A
Other languages
English (en)
Other versions
JPWO2015170520A1 (ja
Inventor
亜由美 加藤
亜由美 加藤
俊一 笠原
俊一 笠原
翼 塚原
翼 塚原
木村 淳
淳 木村
真一 河野
真一 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2015170520A1 publication Critical patent/JPWO2015170520A1/ja
Application granted granted Critical
Publication of JP6547741B2 publication Critical patent/JP6547741B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485Scrolling or panning
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Description

本開示は、情報処理システムおよび情報処理方法に関する。
近年、ユーザが装着して使用するウェアラブル端末の開発が盛んに行われている。ウェアラブル端末の1つとして、ユーザが頭部に装着して使用する頭部装着型端末がある。頭部装着型端末は、これ装着したユーザの眼の前に表示部が位置するように構成されている。したがって、ユーザは、頭部装着型端末を装着することで、例えば表示端末を鞄やポケット等から取り出す動作をすることなく、情報の確認や操作を行うことが可能となる。
このような頭部装着端末は、例えば端末に設けられたタッチセンサへの入力や音声により操作することもできるが、表示部がユーザの眼の前に設けられることから、視線による操作も多く試みられている。例えば特許文献1には、頭部装着端末を装着したユーザの視線の動きを用い、アイコンをスクロールさせる技術が開示されている。また、例えば特許文献2には、視線でパスコード解除を行う技術が開示されている。
米国特許公開2013/0106674号 米国特許第8235529号明細書
しかし、視線による操作では、表示部に表示されたアイコンの選択決定において、視線を動かして画面の端付近のアイコンを選択、決定するのは眼の負担となる。このため、ユーザが視線を動かして操作できる範囲は限定される。また、個人差はあるが、ユーザの視線の動きに対して画像でのピクセル移動は小さく、視線の細かな動きで隣り合うアイコンを選択するのは不自由である。
そこで、本開示では、頭部装着端末での視線による操作性を高めることが可能な、新規かつ改良された情報処理システムおよび情報処理方法を提案する。
本開示によれば、ユーザの視線を検出する視線検出部と、ユーザが装着する装置の動きを検出する動き検出部と、表示領域に表示されている視線により選択可能なオブジェクトを前記装置の動きに応じて移動させる表示制御部と、を備える、情報処理システムが提供される。
また、本開示によれば、ユーザが装着する装置の動きを検出すること、表示領域に表示されている視線により選択可能なオブジェクトを前記装置の動きに応じて移動させること、を含む、情報処理方法が提供される。
本開示によれば、装置を装着したユーザの動きを動き検出部により検出し、視線により選択可能なオブジェクトの表示位置をユーザの動きに応じて変更する。これにより、ユーザが視線を動かし易い位置にオブジェクトを表示させ、視線によるオブジェクトの選択を行い易くする。
以上説明したように本開示によれば、頭部装着端末での視線による操作性を高めることが可能となる。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
頭部装着型端末の一例を示す説明図である。 本開示の第1の実施形態に係る情報処理装置によるオブジェクトの表示位置変更処理の一例を示す説明図である。 同実施形態に係る情報処理装置の機能構成を示すブロック図である。 同実施形態に係るユーザの首の動きに応じた表示変更処理を示すフローチャートである。 表示部がオフ状態となる状況を説明する説明図である。 ユーザの首の動きによる表示変更を不可とするための操作入力の一例を示す説明図である。 ユーザの首の動きによる表示変更を不可とするための操作入力の他の一例を示す説明図である。 ユーザの首の動きに応じてオブジェクトの表示位置を変更し、オブジェクトを選択する操作の一例を示す説明図である。 選択されたオブジェクトをキャンセルする操作入力の一例を示す説明図である。 選択されたオブジェクトをキャンセルするキャンセルアイコンが表示された例を示す説明図である。 表示領域に表示されているオブジェクト数が多い場合のオブジェクトの表示位置変更処理を説明する説明図である。 表示領域に表示されているオブジェクト数が少ない場合のオブジェクトの表示位置変更処理を説明する説明図である。 本開示の第2の実施形態に係る表示変更処理の説明図であって、非表示のオブジェクトを表示領域に表示させる動作を示す。 同実施形態に係る表示変更処理の説明図であって、スクロール後に表示されたオブジェクトの表示状態を所定時間維持する状態を示す。 同実施形態に係る表示変更処理の説明図であって、オブジェクトの表示状態が所定時間経過後に通常状態に戻る状態を示す。 オブジェクトの間隔の広げ方の一例を示す説明図である。 オブジェクトの間隔の広げ方の他の一例を示す説明図である。 頭部装着型端末のハードウェア構成の一例を示すハードウェア構成図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.第1の実施形態(首の動きに応じてオブジェクトの間隔を広げる)
1.1.概要
1.2.機能構成
1.3.ユーザの首の動きに応じた表示変更処理
2.第2の実施形態(首の動きに応じて非表示のオブジェクトを表示させる)
3.変形例
4.ハードウェア構成例
<1.第1の実施形態>
[1.1.概要]
まず、図1および図2を参照して、本開示の第1の実施形態に係る情報処理装置による処理の概要について説明する。なお、図1は、頭部装着型端末10の一例を示す説明図である。図2は、本実施形態に係る情報処理装置によるオブジェクトの表示位置変更処理の一例を示す説明図である。
本実施形態において用いられる頭部装着型端末10は、ユーザが頭部に装着して使用される装置である。頭部装着型端末10としては、例えば、図1に示すようなメガネ型端末がある。図1に示す頭部装着型端末10では、装着時にユーザの眼の前に位置する表示部12を備えるフロント部と、フロント部の左右にそれぞれ設けられる支持部14R、14Lとからなる。支持部14R、14Lを頭部側部に位置させ、フロント部を鼻に固定することで、頭部装着型端末10を装着することができる。
表示部12は、右眼用表示部12Rと、左眼用表示部12Lとからなる。表示部12には、映像を投影する表示ユニット(図示せず。)によって各種情報が表示される。本実施形態に係る表示部12は、例えば光学透過型の表示パネルであって、外界の視界を遮らないため、ユーザは外界と表示部12に表示される内容とを自然に見ることができる。
本実施形態に係る頭部装着型端末10は、当該端末を装着したユーザの首の動きを検出するためのセンサとして、例えば角速度を検出するジャイロセンサ16を備えている。ジャイロセンサ16は、例えば支持部14Lに設けてもよく、端末の他の場所に設けてもよい。頭部装着型端末10を装着したユーザが首を回転させると、首の回転とともに回転する頭部装着型端末10の角速度がジャイロセンサ16により検出される。このジャイロセンサ16により検出された角速度がユーザの首の回転の動きを表す値として利用される。
また、頭部装着型端末10は、当該端末を装着したユーザの視線を検出する視線センサ(図3の符号18)を備える。視線センサとしては、例えば、ユーザの眼を撮像する可視カメラや赤外線カメラ等を用いてもよい。視線センサにより取得された画像を解析することで、ユーザの視線を特定することができる。この機能により、本実施形態に係る頭部装着型端末10では、ユーザは視線を動かすことで表示部12の表示領域に表示された情報を操作することができる。
なお、頭部装着型端末10の形態は、図1に示すものに限定されない。例えば頭部装着型端末10の形状は、ゴーグル型端末等であってもよく、表示部は、図1に示すように両眼に設けられていてもよく、いずれか一方の眼に対応して設けられていてもよい。また、表示方式は、光学透過型に限定されず、外界の視界を遮る非透過型や、外界の様子を撮影して表示部に映し出すビデオ透過型等であってもよい。さらに、頭部装着型端末10は、表示部12、表示ユニット、ジャイロセンサ16以外にも、例えばタッチセンサやマイク、スピーカ、GPS等を備えていてもよい。
このような頭部装着型端末10は、各種機能を制御するため情報処理装置(図3の符号100)を備えている。情報処理装置は、例えば表示部12に情報を表示させる表示ユニットを制御したり、ユーザの操作に基づきアプリケーションを機能させたりする処理を行う。
ここで、本実施形態に係る頭部装着型端末10は、当該端末の操作を視線によって行うことができる。例えば図2左側に示すように、頭部装着型端末10を装着しているユーザは、表示部12の表示領域200を見ているとする。表示領域200には、例えば、メーラーを起動するメールアイコン212や、アプリケーションを機能するアプリアイコン214、マイクアイコン216等のオブジェクトが表示されている。ユーザは、視線を動かし、オブジェクトに視線を合わせることで、任意のオブジェクトを選択することができる。
このような視線による操作においては、表示領域200のうちユーザが視線を動かすことの可能な範囲で操作を行うことができるが、例えばメールアイコン212のように表示領域200の端付近にあるオブジェクトに視線を向けるのは眼の負担が大きくなる。一般に、人が顔を動かさずに自然に視線を動かすことのできる範囲は、水平方向約30°である。このため、表示領域200の画角が30°を超えて広くなると、ユーザが自然に視線を向けることのできる範囲を超えてしまい、表示領域200の両端にあるオブジェクトの選択が難しくなる。
また、人の視線の動きに対して表示領域200での視線の移動量は小さく、ユーザが視線を動かしても思ったほどに表示領域200では視線は移動しない。例えば、視線を水平方向に10°動かしたとき、表示領域200では30〜40ピクセルほどしか動かない。このため、視線の細かな動きで、例えばメールアイコン212とアプリアイコン214とのように隣接するオブジェクトを選択するのは不自由である。
そこで、本実施形態に係る頭部装着型端末10では、ユーザの首の動きに応じて表示領域200に表示されているオブジェクトの表示位置を変化させて、視線による操作が行い易くなるようにする。例えば、図2右側に示すように、ユーザが左を向くと、表示領域200の左側に隣接して表示されていたメールアイコン212およびアプリアイコン214を、それぞれ右側に移動させ、これらの間隔Lが広くなるように表示位置を変化させる。これにより、ユーザが自然に視線を動かすことのできる範囲にオブジェクトが表示され、また、隣接するオブジェクトの間隔Lが広がることで、それぞれのオブジェクトを選択し易くなる。
このように、情報処理装置は、ユーザが操作したいオブジェクトの存在する方向に首を動かしたとき、その動きに応じて、視線で選択し易くなるようにオブジェクトを移動させる。以下、情報処理装置による首の動きに応じたオブジェクトの表示位置を変更する処理について、詳細に説明していく。
[1.2.機能構成]
図3に、本実施形態に係る頭部装着型端末10の情報処理装置100の機能構成を示す。なお、図3には、首の動きに応じたオブジェクトの表示位置を変更する処理に関係する機能部を示しているが、情報処理装置100は、これ以外の他の機能部を備えていてもよい。本実施形態に係る情報処理装置100と、ジャイロセンサ16および視線センサ18により、ユーザの首の動きに応じてオブジェクトの表示位置を変更させる情報処理システムが構成される。
本実施形態に係る情報処理装置100は、図3に示すように、表示部状態確認部110と、入力情報処理部120と、表示制御部130と、表示処理部140と、実行処理部150とを備える。
表示部状態確認部110は、表示部12のオンオフ状態を確認する機能部である。表示部状態確認部110は、表示部12のオンオフ状態を入力情報処理部120へ出力する。
入力情報処理部120は、頭部装着型端末10のジャイロセンサ16や視線センサ18の検出結果や、頭部装着型端末10の各種入力部からの情報に基づいて、ユーザからの入力情報を取得する。例えば、入力情報処理部120は、ジャイロセンサ16の検出結果よりユーザの首の動きを解析し、ユーザが行った入力を特定する。また、例えば、入力情報処理部120は、視線センサ18の検出結果より、表示部12の表示領域200に表示されているオブジェクトのうち、ユーザが見ているオブジェクトを特定する。また、入力情報処理部120は、表示部状態確認部110から入力された表示部12のオンオフ状態と、各種入力部を用いて行われたユーザの操作とに基づいて、表示部12のオンオフ状態の切り換える入力情報を特定する。
このように、入力情報処理部120は、ジャイロセンサ16や視線センサ18の検出結果や、頭部装着型端末10の各種入力部からの情報に基づいて、ユーザから入力された操作あるいは動作の内容を入力情報として取得する。入力情報は、表示制御部130や実行処理部150へ出力される。
表示制御部130は、入力情報処理部120により取得された入力情報に基づいて、表示部12に表示されているオブジェクトの表示位置を変更する。表示制御部130は、入力情報に基づき、ユーザの首の動きに応じて表示部12に表示されたオブジェクトの表示位置を、ユーザが操作し易いように変更する。また、表示制御部130は、視線の動きに応じて選択されたオブジェクトを視覚的にわかるような表示を行ってもよい。なお、この表示制御部130による処理の詳細については後述する。表示制御部130は、表示部12の表示を変化させる表示制御情報を表示処理部140へ出力する。
表示処理部140は、表示制御情報に基づいて表示部12に表示するための各種表示処理を行う。オブジェクト等の表示領域200に表示される表示情報は、表示処理部140により表示処理された後、表示部12に表示される。
実行処理部150は、入力情報処理部120により取得された入力情報に基づいて、各種処理を実行する。実行処理部150は、例えば、表示部12に表示されたオブジェクトが選択され、決定されたとき、当該オブジェクトに関連付けられているアプリケーションを実行する。
なお、本実施形態では、情報処理システムを構成するジャイロセンサ16、視線センサ18および情報処理装置100を頭部装着型端末10にすべて備える構成を示したが、本開示はかかる例に限定されない。例えば、頭部装着型端末10にはジャイロセンサ16および視線センサ18のみを設け、情報処理装置100を別途の情報処理端末に設けてもよい。情報処理端末としては、例えばスマートフォンやサーバ等が考えられる。この場合、各センサの検出結果は情報処理端末に送信され、情報処理端末の情報処理装置100により表示制御処理される。情報処理端末は、処理結果に応じて頭部装着型端末10の表示部12に表示させる表示情報を頭部装着型端末10に送信する。
[1.3.ユーザの首の動きに応じた表示変更処理]
次に、図4〜図10に基づいて、本実施形態に係るユーザの首の動きに応じた表示変更処理について説明する。なお、図4は、本実施形態に係るユーザの首の動きに応じた表示変更処理を示すフローチャートである。図5は、表示部12がオフ状態となる状況を説明する説明図である。図6は、ユーザの首の動きによる表示変更を不可とするための操作入力の一例を示す説明図である。図7は、ユーザの首の動きによる表示変更を不可とするための操作入力の他の一例を示す説明図である。図8は、ユーザの首の動きに応じてオブジェクトの表示位置を変更し、オブジェクトを選択する操作の一例を示す説明図である。図9は、選択されたオブジェクトをキャンセルする操作入力の一例を示す説明図である。図10は、選択されたオブジェクトをキャンセルするキャンセルアイコンが表示された例を示す説明図である。
上述したように、頭部装着型端末10において、視線入力を用いて表示部12に表示されたオブジェクトを選択するとき、表示領域200の端部に表示されているオブジェクトの選択は眼の負担となる。そこで、本実施形態では、ユーザの首の動きに応じて表示部12に表示されたオブジェクトの表示位置を変更することにより、視線入力を用いてオブジェクトを選択するときの負荷を軽減する。
まず、入力に関して、一般的に頭部装着型端末10では、ユーザからの入力が所定時間以上ない場合、電力消費抑制のため、自動で表示部12をオフ状態にすることがある。例えば、図5左側に示すように、表示領域200に2つのオブジェクト4A、4Bが表示されているとする。このとき、ユーザからの入力が所定時間以上ない場合、図5右側に示すように表示部12はオフ状態となり、オブジェクト4A、4Bは非表示となる。表示部12がオフ状態のときには、ユーザが首を左右に回しても何も起こらない。これは、例えばユーザが人と話している際の首の動き等により誤って何かしらの処理を実行してしまわないようにするためである。
そこで、本実施形態に係る表示変更処理では、図4に示すように、まず、表示部12がオン状態であるか否かが確認される(S100)。表示部12のオンオフ状態の確認は、表示部状態確認部110により行われ、確認結果は入力情報処理部120へ出力される。入力情報処理部120は、確認結果より表示部12がオン状態であれば、ステップS120の処理へ進む。一方、表示部12がオフ状態であれば、入力情報処理部120は、表示部12をオン状態とするユーザの操作入力があったか否かを判定する(S110)。
表示部12をオン状態とする操作入力としては、例えば、頭部装着型端末10に設けられた入力部から所定の操作を行ったり、首を上下に動かしてうなずくジェスチャを行ったりする等が考えられる。入力情報処理部120は、ステップS110にて、表示部12をオン状態とする操作入力の有無を判定し、当該操作入力が検出されるまでステップS100からの処理を繰り返す。そして、入力情報処理部120は、表示部12をオン状態とする操作入力を検出すると、次いで、ユーザの首の動きに応じてオブジェクトの表示位置を変更する首入力モードがオン状態であるかを確認する(S120)。
表示部12はオン状態であるが、首の動きによってオブジェクトの表示位置を変更させたくない場合もある。このような場合、例えばユーザは、首入力モードをオフ状態にすることもできる。首入力モードをオフ状態にする操作入力としては、例えば、図6に示すように、ユーザが首を左右に軽く振るような簡易な首のジェスチャであってもよい。あるいは、例えば図7に示すように、表示領域200に表示された首入力モードをオフ状態にするためのholdボタン220に視線を移動させて選択、決定する操作であってもよい。
ステップS120にて首入力モードがオフ状態であると判定した場合には、ステップS100からの処理に戻り、処理を繰り返す。一方、首入力モードがオン状態である場合、ユーザの首の動きを検出するジャイロセンサ16の検出結果に基づき、表示制御部130によってユーザの首の動きに応じて表示部12の表示領域200に表示されたオブジェクトの表示位置が変更される(S130)。
例えば、図8左上に示すように、通常状態として表示領域200の端部付近に2つのオブジェクト4A、4Bからなるオブジェクト群が表示されており、ユーザがオブジェクト4Aを選択する場合を考える。通常状態において、ユーザは正面を向いており、この正面の向きを基準位置とする。このとき、ユーザが選択したいオブジェクトが表示されている向き(図8では左側)に首を回す。この首の動きにより、図8右上に示すように、首を回した向きに表示されているオブジェクト群のみ、オブジェクト4A、4Bの間隔Lが通常状態よりも大きくなるようにオブジェクト4A、4Bの表示位置が変更される。
オブジェクト4A、4Bの間隔Lは、ユーザの視線により選択されるオブジェクトを誤認識しない程度に広げればよい。例えば、40ピクセル程度に間隔Lを設定するようにしてもよい。なお、この間隔Lは、ユーザの個人差やシステムの構成によって変化するため、例えば、頭部装着型端末10の起動時に眼球のサッケード運動の程度を検出し、ユーザの視線の動きに応じた間隔Lを設定することで、より確実に視線入力の誤検出を防止することができる。
このように、オブジェクト4A、4Bの間隔Lを大きくすることで、各オブジェクト4A、4Bに視線を向けやすくなり、視線入力を用いて、よりロバストにオブジェクトを選択することができるようになる。また、首を左右に回すことにより、表示領域200のサイズに寄らず、ユーザが自然に視線を動かすことのできる範囲にオブジェクトを配置させることが可能となる。
また、ユーザの首の動きによってオブジェクト4A、4Bの間隔Lを広げる際に、これらのオブジェクト群において首の回転の向きと反対側にあるオブジェクト4Bの表示位置のみを変更させてもよいが、オブジェクト4Aも表示領域中央側へ移動させてもよい。これにより、ユーザが自然に視線を向けにくい範囲から自然に視線を動かすことのできる範囲にオブジェクトが表示されるので、オブジェクトの選択が容易になる。
ユーザは、首を左右に回して表示領域200に表示されているオブジェクト4A、4Bの表示位置を変更させたりしながら、所望のオブジェクトを視線により選択する。例えば図8右下に示すように、視線をオブジェクト4Aに向けることで、当該オブジェクト4Aが選択された状態となる。このとき、ユーザに選択されているオブジェクトがわかりやすくなるように、例えばオブジェクトが選択されている状態を示す選択オブジェクト230を表示させてもよい。
そして、入力情報処理部120は、オブジェクトが選択された状態で当該オブジェクトを決定する操作入力が行われたか否かを判定する(S140)。オブジェクトを決定する操作入力としては、例えば、選択されたオブジェクトを所定時間見続けたり、頭部装着型端末10の入力部から所定の操作を行ったり、首を上下に動かしてうなずくジェスチャを行ったりする等が考えられる。
ステップS140にてオブジェクトを決定する操作入力が行われない間は、ステップS130に戻り、処理を繰り返す。すなわち、ユーザの首の動きに応じて、表示領域200に表示されたオブジェクトの表示位置が変更される。このとき、首の動きやユーザの視線により、選択されたオブジェクトのキャンセルを行うようにしてもよい。例えば図9左側に示すように、ユーザが首を左に回し、オブジェクト4Aを選択した状態から、図9右側に示すように正面を向くことで、表示領域200のオブジェクト4A、4Bの表示位置を通常状態に戻し、オブジェクト4Aの選択をキャンセルしてもよい。
あるいは、図10に示すように、ユーザが首を回した向きと反対側にオブジェクトの表示を通常状態に戻すためのキャンセルオブジェクト240を設けてもよい。キャンセルオブジェクト240がユーザの視線により選択、決定されることで、オブジェクトの表示は通常状態となる。表示部12のオブジェクト表示が通常状態とされると、ユーザが正面を向いたことを検出した後、ステップS130の処理が行われる。
ステップS140にてオブジェクトを決定する操作入力が行われたことが検出されると、実行処理部150は、決定されたオブジェクトに関連付けられた処理を実行する(S150)。
以上、本実施形態に係るユーザの首の動きに応じたオブジェクトの表示位置変更処理について説明した。本実施形態のように、ユーザが首を回すと、オブジェクトの表示位置をオブジェクトの間隔が広くなるように変更する。これにより、ユーザが視線を動かし易い位置にオブジェクトが表示されるので、視線によるオブジェクトの選択が行い易くなる。
なお、上記説明では、例えば図8に示すように、オブジェクト4A、4Bが表示領域200の左端付近に表示されている場合について説明したが、通常状態におけるオブジェクトの表示位置は上述の例に限らない。例えば、図11に示すように、表示領域200の幅方向にわたって複数のオブジェクト4A〜4Gが近接して配列されている場合もある。このような場合にも、上述と同様、ユーザが首を回転させた向きにあるオブジェクトについてオブジェクトの間隔を広げることで、オブジェクトを選択しやすくなる。
具体的には、表示領域200に配列されているオブジェクト4A〜4Gの数が多いときには、例えば、ユーザが首を回転させた向きのオブジェクトの間隔を広げるとともに、首の回転角度に応じて表示領域200に表示するオブジェクトを変化させてもよい。例えば、ユーザが正面を向いているときの表示状態である図11左上の通常状態から、ユーザが少し(例えば15°程度)首を左へ回転させると、図11右上に示すように、通常状態において中央から左側にあるオブジェクト4B〜4Dのみが表示される。このときオブジェクト4B〜4Dは、通常状態よりも広い間隔で、等間隔に表示される。
そして、さらにユーザが首を左へ回転させると、図11右下に示すように、通常状態において左端付近に表示されていたオブジェクト4A〜4Cが、通常状態よりも広い間隔で、等間隔に表示される。このように、ユーザの首の回転に応じてオブジェクトの間隔を広げて表示する際に、首の回転角度に応じて表示するオブジェクトを変化させることにより、ユーザが視線により選択しやすいオブジェクトの間隔を維持することができる。
一般に、人の首を自然に回転させることの可能な範囲は左右それぞれ70°程度とされている。これより、例えば、首が右に70°回転されたとき右端のオブジェクトが表示され、首が左に70°回転されたとき左端のオブジェクトが表示されるようにし、首が所定角度回転する毎に表示領域200に表示されるオブジェクトを変化させるようにしてもよい。これにより、ユーザは無理のない首の動きで、選択しやすい状態で所望のオブジェクトを表示させることが可能となる。
一方、図12に示すように、表示領域200に表示されているオブジェクト4A〜4Cの数が少ない場合もある。図12に示す例では、図11とは異なり、隣接するオブジェクトの間隔は十分にある。このとき、よりユーザがオブジェクトを選択しやすいように、図11の場合と同様、首の回転と反対側にオブジェクトを移動させて、ユーザが視線で操作しやすい中央付近に表示させるようにしてもよい。
さらに、ユーザが首を回転させた分だけ、すなわち首の回転角度が大きくなるほど、隣接するオブジェクトの間隔を広げるようにしてもよい。オブジェクトの間隔が大きくなることで、隣接するオブジェクトを誤って選択する可能性が低くなり、誤操作を防止することができる。かかる処理は、オブジェクトの数が少ない場合に特に有効である。
<2.第2の実施形態>
次に、図13〜図15に基づいて、本開示の第2の実施形態に係るユーザの首の動きに応じたオブジェクトの表示位置変更処理について説明する。本実施形態では、表示部12に表示可能なオブジェクト4A〜4Zのうち、一部のみが表示領域200に配列されている場合の処理について説明する。本実施形態においても、ユーザの首の動きに応じて、オブジェクトの間隔が大きくなるようにオブジェクトの表示位置が変更されるが、選択したいオブジェクトが非表示の場合もある。そこで、ユーザの首の動きにより、所望のオブジェクトを表示領域200に表示させた後、オブジェクトの間隔を広げる処理を行うようにしてもよい。
例えば、図13上側に示すように、ユーザが正面を向いている通常状態において、表示領域200内にオブジェクト4A〜4Eが表示されており、オブジェクト4F〜4Zが非表示とされているとする。このとき、ユーザが首を所定の角速度以上で左に回転させると、表示領域200に表示されているオブジェクト4A〜4Eが右側へ移動する。そして、図13下側に示すように、通常状態において表示領域200の左端に表示されていたオブジェクトが表示領域200の中央付近に表示されるとともに、非表示であったオブジェクト4Y、4Zが表示され、オブジェクト4D、4Eが非表示となる。
このように、ユーザが首を所定の角速度以上で動かすことにより、オブジェクトをスクロールすることができ、非表示のオブジェクトを表示させることが可能となる。ユーザはかかる動作を行い、所望のオブジェクトを表示領域200に表示させる。その後、ユーザは視線により所望のオブジェクトを選択するが、第1の実施形態にて説明したように、表示領域200の端部付近に表示されているオブジェクトには視線を向けにくい。そこで、第1の実施形態に係る処理を適用し、ユーザの首の動きによってオブジェクトの間隔を広げることで、端部にあったオブジェクトも視線により容易に操作できるようになる。
ここで、オブジェクトの間隔を広げるための首の動作は、ユーザが正面を向いた状態から行うと行い易い。そこで、ユーザが首を所定の角速度以上で動かしてオブジェクトをスクロールさせた後、所定時間はユーザが所定の角速度より遅く首を回転させても、その表示を変化させないようにしてもよい。
例えば、図14上側に示すように、ユーザが所定の角速度以上で左に首を回転させ、表示領域200にオブジェクト4Y〜4Cが表示されているとする。その後、所定時間内にユーザが所定の角速度より遅く首を回転させて正面を向いても、図14下側に示すように、表示領域200にはオブジェクト4Y〜4Cが表示されている状態を維持する。これにより、ユーザは、オブジェクト4Y〜4Cから所望のオブジェクトを選択する際に、オブジェクトの間隔を広げるための首の動作を行い易くなる。
なお、ユーザが首を所定の角速度以上で動かしてオブジェクトをスクロールさせた後、所定時間内に首を回転させて正面を向いた後、首を回転させる動作が所定時間以上行われなかった場合には、図15に示すように、表示領域200に表示されるオブジェクトをスクロール前の状態に戻すようにしてもよい。
以上、第2の実施形態に係るユーザの首の動きに応じたオブジェクトの表示位置変更処理について説明した。本実施形態によれば、表示領域200に表示されないオブジェクトが存在する場合に、首を所定の角速度以上で回転させることでオブジェクトをスクロールすることが可能となる。そして、表示領域200に所望のオブジェクトが表示された状態で、所定の角速度より遅く首を回転させることで、回転方向に表示されているオブジェクトの間隔を広げることができる。これにより、オブジェクトを選択しやすい状態で表示させることができる。
<3.変形例>
上記実施形態では、ユーザの首の動きに応じてオブジェクトの間隔を広げるとき、表示領域の幅方向(水平方向)の間隔が広くなるようにオブジェクトの表示位置を変更させたが、本技術はかかる例に限定されない。例えば、図16に示すように、ユーザが正面を向いている通常状態において、表示領域200の左端にオブジェクト4A、4Bが隣接して表示されているとする。このとき、ユーザが左側に首を回転すると、オブジェクト4A、4Bを水平方向および垂直方向に移動させることにより、これらの間隔を広げるようにしてもよい。
あるいは、図17に示すように、ユーザが正面を向いている通常状態において、表示領域200の左端にオブジェクト4A〜4Cが積層して表示されているとする。このとき、ユーザが左側に首を回転すると、オブジェクト4A〜4Cを水平方向および垂直方向にばらけるように移動させて、これらの間隔を広げるようにしてもよい。
このように、ユーザの首の動きに応じて変更されるオブジェクトの表示位置は、水平方向のみ変更するようにしてもよく、水平方向および垂直方向ともに変更するようにしてもよい。また、ユーザの首の動きは左右(すなわち、水平方向)の動き以外にも、上下の動きであってもよい。
<4.ハードウェア構成例>
本実施形態に係る頭部装着型端末10は、例えば図18に示すように構成することもできる。以下、図18に基づいて、本実施形態に係る頭部装着型端末10の一ハードウェア構成例について説明する。
本実施形態に係る頭部装着型端末10は、上述したように、コンピュータ等の処理装置により実現することができる。頭部装着型端末10は、図18に示すように、CPU(Central Processing Unit)901と、ROM(Read Only Memory)902と、RAM(Random Access Memory)903と、ホストバス904aとを備える。また、頭部装着型端末10は、ブリッジ904と、外部バス904bと、インタフェース905と、入力装置906と、出力装置907と、ストレージ装置908と、ドライブ909と、接続ポート911と、通信装置913とを備える。
CPU901は、演算処理装置および制御装置として機能し、各種プログラムに従って頭部装着型端末10内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはCPUバスなどから構成されるホストバス904aにより相互に接続されている。
ホストバス904aは、ブリッジ904を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス904bに接続されている。なお、必ずしもホストバス904a、ブリッジ904および外部バス904bを分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
入力装置906は、マウス、キーボード、タッチパネル、ボタン、マイク、スイッチおよびレバーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU901に出力する入力制御回路などから構成されている。出力装置907は、例えば、液晶ディスプレイ(LCD)装置、OLED(Organic Light Emitting Diode)装置およびランプなどの表示装置や、スピーカなどの音声出力装置を含む。
ストレージ装置908は、頭部装着型端末10の記憶部の一例であり、データ格納用の装置である。ストレージ装置908は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。このストレージ装置908は、ハードディスクを駆動し、CPU901が実行するプログラムや各種データを格納する。
ドライブ909は、記憶媒体用リーダライタであり、頭部装着型端末10に内蔵、あるいは外付けされる。ドライブ909は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記録媒体に記録されている情報を読み出して、RAM903に出力する。
接続ポート911は、外部機器と接続されるインタフェースであって、例えばUSB(Universal Serial Bus)などによりデータ伝送可能な外部機器との接続口である。また、通信装置913は、例えば、通信網5に接続するための通信デバイス等で構成された通信インタフェースである。また、通信装置913は、無線LAN(Local Area Network)対応通信装置であっても、ワイヤレスUSB対応通信装置であっても、有線による通信を行うワイヤー通信装置であってもよい。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記実施形態では、ユーザの首の動きを検出するためのセンサとして、ジャイロセンサ16を用いたが、本技術はかかる例に限定されない。例えば、頭部装着型端末10に外部を撮影するカメラを設け、当該カメラにより撮影された画像に含まれる特徴点の移動量を画像処理により取得することで、ユーザの首の動きや角速度を求めてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)ユーザの視線を検出する視線検出部と、
ユーザが装着する装置の動きを検出する動き検出部と、
表示領域に表示されている視線により選択可能なオブジェクトを前記装置の動きに応じて移動させる表示制御部と、
を備える、情報処理システム。
(2)前記表示制御部は、前記オブジェクトを前記装置の動いた方向と異なる方向に移動させる、前記(1)に記載の情報処理システム。
(3)前記表示制御部は、隣接する前記オブジェクトの間隔が広がるように移動させる、前記(1)または(2)に記載の情報処理システム。
(4)前記装置の動きに応じて前記オブジェクトが移動されたとき、前記表示制御部は、移動前の前記オブジェクトの表示状態に戻すためのキャンセルオブジェクトを、前記表示領域における前記装置の動いた方向と逆側の位置に表示させる、前記(1)〜(3)のいずれか1項に記載の情報処理システム。
(5)前記装置が前記オブジェクトを移動させる前の位置に戻ったとき、前記表示制御部は、前記オブジェクトを移動前の表示状態に戻す、前記(1)〜(4)のいずれか1項に記載の情報処理システム。
(6)前記動き検出部は、基準位置からの前記装置の回転角度を検出する、前記(1)〜(5)のいずれか1項に記載の情報処理システム。
(7)前記動き検出部は、前記装置の角速度を検出する、前記(1)〜(6)のいずれか1項に記載の情報処理システム。
(8)前記表示制御部は、前記装置の角速度が所定速度以上であるとき、前記オブジェクトを前記装置の動いた方向と異なる方向にスクロールさせる、前記(7)に記載の情報処理システム。
(9)前記表示制御部は、前記オブジェクトがスクロールされた後、所定時間が経過するまで、前記スクロール後のオブジェクトの表示状態を維持する、前記(8)に記載の情報処理システム。
(10)前記装置は頭部装着型表示装置であり、
前記動き検出部は、前記頭部装着型表示装置を装着したユーザの首の動きによる装置の動きを検出する、前記(1)〜(9)のいずれか1項に記載の情報処理システム。
(11)ユーザが装着する装置の動きを検出すること、
表示領域に表示されている視線により選択可能なオブジェクトを前記装置の動きに応じて移動させること、
を含む、情報処理方法。
10 頭部装着型端末
12 表示部
16 ジャイロセンサ
18 視線センサ
100 情報処理装置
110 表示部状態確認部
120 入力情報処理部
130 表示制御
140 表示処理部
150 実行処理部
200 表示領域

Claims (10)

  1. ユーザの視線を検出する視線検出部と、
    ユーザが装着する装置の動きを検出する動き検出部と、
    表示領域に表示されている視線により選択可能なオブジェクトを前記装置の動きに応じて移動させると共に、隣接する前記オブジェクトの間隔が広がるように移動させる表示制御部と、
    を備える、情報処理システム。
  2. 前記表示制御部は、前記オブジェクトを前記装置の動いた方向と異なる方向に移動させる、請求項1に記載の情報処理システム。
  3. 前記装置の動きに応じて前記オブジェクトが移動されたとき、前記表示制御部は、移動前の前記オブジェクトの表示状態に戻すためのキャンセルオブジェクトを、前記表示領域における前記装置の動いた方向と逆側の位置に表示させる、請求項1または2に記載の情報処理システム。
  4. 前記装置が前記オブジェクトを移動させる前の位置に戻ったとき、前記表示制御部は、前記オブジェクトを移動前の表示状態に戻す、請求項1〜のいずれか1項に記載の情報処理システム。
  5. 前記動き検出部は、基準位置からの前記装置の回転角度を検出する、請求項1〜のいずれか1項に記載の情報処理システム。
  6. 前記動き検出部は、前記装置の角速度を検出する、請求項1〜のいずれか1項に記載の情報処理システム。
  7. 前記表示制御部は、前記装置の角速度が所定速度以上であるとき、前記オブジェクトを前記装置の動いた方向と異なる方向にスクロールさせる、請求項に記載の情報処理システム。
  8. 前記表示制御部は、前記オブジェクトがスクロールされた後、所定時間が経過するまで、前記スクロール後のオブジェクトの表示状態を維持する、請求項に記載の情報処理システム。
  9. 前記装置は頭部装着型表示装置であり、
    前記動き検出部は、前記頭部装着型表示装置を装着したユーザの首の動きによる装置の動きを検出する、請求項1〜のいずれか1項に記載の情報処理システム。
  10. ユーザが装着する装置の動きを検出すること、
    表示領域に表示されている視線により選択可能なオブジェクトを前記装置の動きに応じて移動させると共に、隣接する前記オブジェクトの間隔が広がるように移動させること、
    を含む、情報処理方法。
JP2016517837A 2014-05-09 2015-03-23 情報処理システムおよび情報処理方法 Active JP6547741B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014098043 2014-05-09
JP2014098043 2014-05-09
PCT/JP2015/058782 WO2015170520A1 (ja) 2014-05-09 2015-03-23 情報処理システムおよび情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2015170520A1 JPWO2015170520A1 (ja) 2017-04-20
JP6547741B2 true JP6547741B2 (ja) 2019-07-24

Family

ID=54392374

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016517837A Active JP6547741B2 (ja) 2014-05-09 2015-03-23 情報処理システムおよび情報処理方法

Country Status (6)

Country Link
US (1) US20170038838A1 (ja)
EP (1) EP3144775B1 (ja)
JP (1) JP6547741B2 (ja)
KR (1) KR102391860B1 (ja)
CN (1) CN106255940B (ja)
WO (1) WO2015170520A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6507252B2 (ja) * 2015-09-04 2019-04-24 富士フイルム株式会社 機器操作装置、機器操作方法、及び電子機器システム
JP2017130190A (ja) * 2015-12-04 2017-07-27 株式会社半導体エネルギー研究所 電子機器、表示システム
WO2017169909A1 (ja) * 2016-03-29 2017-10-05 日本電気株式会社 作業支援装置、ウェアラブル端末、作業支援方法および記録媒体
US9990524B2 (en) * 2016-06-16 2018-06-05 Hand Held Products, Inc. Eye gaze detection controlled indicia scanning system and method
JP6298130B2 (ja) 2016-09-14 2018-03-20 株式会社バンダイナムコエンターテインメント シミュレーションシステム及びプログラム
JP6373920B2 (ja) * 2016-09-14 2018-08-15 株式会社バンダイナムコエンターテインメント シミュレーションシステム及びプログラム
JP7095602B2 (ja) * 2017-02-16 2022-07-05 ソニーグループ株式会社 情報処理装置、情報処理方法及び記録媒体
CN107320957B (zh) * 2017-08-21 2021-01-26 网易(杭州)网络有限公司 游戏界面显示方法及装置
US11468868B2 (en) 2017-12-20 2022-10-11 Sony Corporation Information processing apparatus and information processing method to perform transition display control
CN113196377B (zh) * 2018-12-20 2024-04-12 Ns西日本株式会社 显示光射出装置、平视显示装置、图像显示***及头盔
JP7491300B2 (ja) 2019-03-15 2024-05-28 ソニーグループ株式会社 情報処理装置、情報処理方法、及びコンピュータが読み取り可能な記録媒体
JP7277306B2 (ja) 2019-07-31 2023-05-18 キヤノン株式会社 電子機器、電子機器の制御方法、プログラム、記憶媒体
JP7039672B1 (ja) 2020-10-29 2022-03-22 ソフトバンク株式会社 制御装置、プログラム、及び制御方法
CN112704876B (zh) * 2020-12-30 2022-10-04 腾讯科技(深圳)有限公司 虚拟对象互动模式的选择方法、装置、设备及存储介质

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6184847B1 (en) * 1998-09-22 2001-02-06 Vega Vista, Inc. Intuitive control of portable data displays
JPH11259226A (ja) * 1998-03-13 1999-09-24 Canon Inc 視線入力意思伝達装置、視線入力意思伝達方法および記憶媒体
DE19954653B4 (de) * 1999-11-13 2006-01-19 Contitech Profile Gmbh Extruder zur Aufbereitung von Kautschukmischungen
US7928926B2 (en) * 2006-06-27 2011-04-19 Panasonic Corporation Display apparatus and method for hands free operation that selects a function when window is within field of view
JP4927631B2 (ja) * 2006-06-27 2012-05-09 パナソニック株式会社 表示装置、その制御方法、プログラム、記録媒体および集積回路
JP2008178075A (ja) * 2006-12-18 2008-07-31 Sony Corp 表示制御装置、表示制御方法、及びプログラム
JP5211019B2 (ja) * 2009-11-26 2013-06-12 京セラドキュメントソリューションズ株式会社 表示装置及びこれを搭載した画像形成装置、電子機器
CN103064579A (zh) * 2011-10-21 2013-04-24 艾迪讯科技股份有限公司 智能机互动***服务平台
US8970452B2 (en) 2011-11-02 2015-03-03 Google Inc. Imaging method
US8866852B2 (en) * 2011-11-28 2014-10-21 Google Inc. Method and system for input detection
US8235529B1 (en) 2011-11-30 2012-08-07 Google Inc. Unlocking a screen using eye tracking information
CN103020983B (zh) * 2012-09-12 2017-04-05 深圳先进技术研究院 一种用于目标跟踪的人机交互装置及方法
JP2014092941A (ja) * 2012-11-02 2014-05-19 Sony Corp 情報処理装置及び情報処理方法、並びにコンピューター・プログラム
GB2514603B (en) * 2013-05-30 2020-09-23 Tobii Ab Gaze-controlled user interface with multimodal input
KR20150037254A (ko) * 2013-09-30 2015-04-08 엘지전자 주식회사 착용형 디스플레이 디바이스 및 레이어 제어 방법
US9442631B1 (en) * 2014-01-27 2016-09-13 Google Inc. Methods and systems for hands-free browsing in a wearable computing device

Also Published As

Publication number Publication date
WO2015170520A1 (ja) 2015-11-12
CN106255940B (zh) 2019-06-25
EP3144775A4 (en) 2018-03-21
US20170038838A1 (en) 2017-02-09
JPWO2015170520A1 (ja) 2017-04-20
CN106255940A (zh) 2016-12-21
KR102391860B1 (ko) 2022-04-29
EP3144775A1 (en) 2017-03-22
EP3144775B1 (en) 2020-07-08
KR20170005406A (ko) 2017-01-13

Similar Documents

Publication Publication Date Title
JP6547741B2 (ja) 情報処理システムおよび情報処理方法
JP6551502B2 (ja) ヘッドマウントディスプレイ、情報処理方法、及びプログラム
EP3454184B1 (en) Dual screen head mounted display
US20160132189A1 (en) Method of controlling the display of images and electronic device adapted to the same
CN106066537B (zh) 头戴式显示器和头戴式显示器的控制方法
CN108474950B (zh) Hmd设备及其控制方法
CN110546601B (zh) 信息处理装置、信息处理方法和程序
KR20160027097A (ko) 니어 아이 디스플레이용 웹형 계층적 메뉴 디스플레이 구성
JP7005161B2 (ja) 電子機器及びその制御方法
US20170115736A1 (en) Photo-Based Unlock Patterns
KR102197964B1 (ko) 포터블 디바이스 및 그 제어 방법
TWI671552B (zh) 穿戴式眼鏡、顯示影像方法以及非暫時性電腦可讀取儲存媒體
EP2902998A1 (en) Display device, control system, and control programme
US20180314326A1 (en) Virtual space position designation method, system for executing the method and non-transitory computer readable medium
US20170139567A1 (en) Entering Unlock Sequences Using Head Movements
JP7495459B2 (ja) 頭部装着型ディスプレイ装置、頭部装着型ディスプレイ装置の制御方法
CN106257394B (zh) 用于头戴显示器的三维用户界面
US11474595B2 (en) Display device and display device control method
WO2018186004A1 (ja) 電子機器及びその制御方法
JP7005160B2 (ja) 電子機器及びその制御方法
US11842119B2 (en) Display system that displays virtual object, display device and method of controlling same, and storage medium
US12032754B2 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium
US20230036474A1 (en) Non-transitory computer readable medium
US20240053832A1 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium
WO2023181549A1 (ja) 制御装置、制御方法、プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180207

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190319

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190514

TRDD Decision of grant or rejection written
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190528

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190610

R151 Written notification of patent or utility model registration

Ref document number: 6547741

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151