JPWO2020202488A1 - 検出されたユーザの意思を利用した端末装置 - Google Patents

検出されたユーザの意思を利用した端末装置 Download PDF

Info

Publication number
JPWO2020202488A1
JPWO2020202488A1 JP2019518334A JP2019518334A JPWO2020202488A1 JP WO2020202488 A1 JPWO2020202488 A1 JP WO2020202488A1 JP 2019518334 A JP2019518334 A JP 2019518334A JP 2019518334 A JP2019518334 A JP 2019518334A JP WO2020202488 A1 JPWO2020202488 A1 JP WO2020202488A1
Authority
JP
Japan
Prior art keywords
user
intention
pseudo
terminal device
input interface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019518334A
Other languages
English (en)
Other versions
JP6695004B1 (ja
Inventor
一喜 森下
一喜 森下
賢 成田
賢 成田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Gungho Online Entertainment Inc
Original Assignee
Gungho Online Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Gungho Online Entertainment Inc filed Critical Gungho Online Entertainment Inc
Application granted granted Critical
Publication of JP6695004B1 publication Critical patent/JP6695004B1/ja
Publication of JPWO2020202488A1 publication Critical patent/JPWO2020202488A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72454User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72427User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for supporting games or graphical animations

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Neurology (AREA)
  • Neurosurgery (AREA)
  • Dermatology (AREA)
  • Biomedical Technology (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Environmental & Geological Engineering (AREA)
  • User Interface Of Digital Computer (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

ユーザの意図・意思に関する情報を利用して、ユーザが実際に入力インターフェイスを操作するよりも簡便に操作入力を可能にするための、ユーザによる疑似的な操作が可能に構成された疑似入力インターフェイスと、前記疑似入力インターフェイスに対する操作を行う前記ユーザの意思を検出可能なセンサ装置から、前記センサ装置で検出されたユーザの意思を示す意思情報を受信する外部通信インターフェイスと、前記疑似入力インターフェイスに対して前記ユーザが実際に行う操作に関わらず、前記外部通信インターフェイスが受信した前記意思情報から前記ユーザの操作を特定し、特定された前記操作に対応する処理を実行するように構成されたプロセッサと、を含む端末装置。

Description

本開示は、検出されたユーザの意思を利用した端末装置、プログラム、方法、及びシステムに関する。
ヒトは、外部から刺激を受けると、感覚受容器でその刺激を知覚し、判断し、なすべきことをデザインし、最終的に末梢の筋肉を収縮させ動作する。そして、一般的に、この刺激から動作まで何ら負荷のない状況でさえ200ミリ秒の時間を要することが知られていた(非特許文献1)。例えばスマートフォンに代表されるような端末装置の操作においては、端末装置以外からも様々な刺激を受けそれによる判断が必要とされる状況下で操作されるため、ディスプレイから何らかの刺激を受けて指示入力を与えるまでに、200ミリ秒以上の時間を要することが容易に考えられる。
また、入力インターフェイスにおいては、筋肉を収縮させ動作を開始してからも、手指やマウスの移動、位置決め、タッチ(クリック)などの各タスクをこなす必要があり、全てを完結させるのに200ミリ秒〜1200ミリ秒もの時間を要することが知られている(非特許文献2)。
一方、従来より、ユーザの脳波を検出して、測定された脳波に基づいてユーザの意図を測り、様々な機器を操作し得ることが知られていた。たとえば、特許文献1には、ユーザの脳波によりユーザの注意領域及び注意度を測定し、電動車椅子の移動方向や速度を制御することが記載されている。
特開2007−202882号公報
川村仁視ら「『反応時間の筋電図学的研究』 I」 愛知工業大学研究報告 No.7,33〜43頁,1972年3月30日発行 駒崎雅信「タッチスクリーンにおける人のポインティング特性に関する研究」 電気通信大学博士論文,2008年9月
そこで、上記のような技術を踏まえ、本開示では、様々な実施形態により、ユーザの意図・意思に関する情報を利用して、ユーザが実際に入力インターフェイスを操作するよりも簡便に操作入力が可能な端末装置、プログラム、方法、及びシステムを提供する。
本開示の一態様によれば、「ユーザによる疑似的な操作が可能に構成された疑似入力インターフェイスと、有線又は無線により接続され、かつ前記疑似入力インターフェイスに対する操作を行う前記ユーザの意思を検出可能なセンサ装置から、前記センサ装置で検出されたユーザの意思を示す意思情報を受信する外部通信インターフェイスと、所定の指示命令を記憶するように構成されたメモリと、前記指示命令に基づいて、前記疑似入力インターフェイスに対して前記ユーザが実際に行う操作に関わらず、前記外部通信インターフェイスが受信した前記意思情報から前記ユーザの操作を特定し、特定された前記操作に対応する処理を実行するように構成されたプロセッサと、を含む端末装置」が提供される。
本開示の一態様によれば、「ユーザによる疑似的な操作が可能に構成された疑似入力インターフェイスと、有線又は無線により接続され、かつ前記疑似入力インターフェイスに対する操作を行う前記ユーザの意思を検出可能なセンサ装置から、前記センサ装置で検出されたユーザの意思を示す意思情報を受信する外部通信インターフェイスと、所定の指示命令を記憶するように構成されたメモリと、を含むコンピュータを、前記指示命令に基づいて、前記疑似入力インターフェイスに対して前記ユーザが実際に行う操作に関わらず、前記外部通信インターフェイスが受信した前記意思情報から前記ユーザの操作を特定し、特定された前記操作に対応する処理を実行するように構成されたプロセッサ、として機能させるプログラム」が提供される。
本開示の一態様によれば、「ユーザによる疑似的な操作が可能に構成された疑似入力インターフェイスと、有線又は無線により接続され、かつ前記疑似入力インターフェイスに対する操作を行う前記ユーザの意思を検出可能なセンサ装置から、前記センサ装置で検出されたユーザの意思を示す意思情報を受信する外部通信インターフェイスと、所定の指示命令を記憶するように構成されたメモリと、を含むコンピュータにおいて、プロセッサが前記指示命令を実行することによりなされる方法であって、前記疑似入力インターフェイスに対して前記ユーザが実際に行う操作に関わらず、前記外部通信インターフェイスが受信した前記意思情報から前記ユーザの操作を特定する段階と、特定された前記操作に対応する処理を実行する段階と、を含む方法」が提供される。
本開示の一態様によれば、「上記のいずれかの端末装置と、前記端末装置に有線又は無線により接続され、かつ前記端末装置の入力インターフェイスに一又は複数の操作入力をするユーザの意思を検出可能なセンサ装置と、を含む、システム」が提供される。
本開示の一態様によれば、「ユーザによる疑似的な操作が可能に構成された疑似入力インターフェイスと、有線又は無線により接続され、かつ前記疑似入力インターフェイスに対する操作を行う前記ユーザの意思を示す信号を受信する外部通信インターフェイスと、所定の指示命令を記憶するとともに、前記信号と前記ユーザの意思との対応関係を記憶するメモリと、前記指示命令に基づいて、前記疑似入力インターフェイスに対して前記ユーザが実際に行う操作に関わらず、受信した前記信号と前記メモリに記憶された前記対応関係とから前記ユーザの意思情報を生成し、生成された前記意思情報から前記ユーザの操作を特定し、特定された前記操作に対応する処理を実行するように構成されたプロセッサと、を含む端末装置」が提供される。
本開示の様々な実施形態によれば、ユーザの意図・意思に関する情報を利用して、ユーザが実際に入力インターフェイスを操作するよりも簡便に操作入力が可能な端末装置、プログラム、方法、及びシステムを提供することができる。
なお、上記効果は説明の便宜のための例示的なものであるにすぎず、限定的なものではない。上記効果に加えて、または上記効果に代えて、本開示中に記載されたいかなる効果や当業者であれば明らかな効果を奏することも可能である。
図1は、本開示の様々な実施形態に係るシステムにおける処理を概念的に示す図である。 図2は、本開示の第1実施形態に係るシステムにおける処理を概念的に示す図である。 図3は、本開示の第1実施形態に係るシステム1の構成の例を示すブロック図である。 図4Aは、本開示の第1実施形態に係る脳波センサ装置200のメモリ212に記憶される操作特定テーブルを概念的に示す図である。 図4Bは、本開示の第1実施形態に係る端末装置100のメモリ113に記憶される処理特定テーブルを概念的に示す図である。 図5は、本開示の第1実施形態に係る端末装置100、脳波センサ装置200、及びサーバー装置300との間で実行される処理シーケンスを示す図である。 図6は、本開示の第1実施形態にかかる端末装置100において実行される処理フローを示す図である。 図7は、本開示の第2実施形態に係るシステムにおける処理を概念的に示す図である。 図8Aは、本開示の第2実施形態に係る脳波センサ装置200のメモリ212に記憶される操作特定テーブルを概念的に示す図である。 図8Bは、本開示の第2実施形態に係る端末装置100のメモリ113に記憶される処理特定テーブルを概念的に示す図である。 図9は、本開示の第3実施形態に係るシステムにおける処理を概念的に示す図である。 図10Aは、本開示の第3実施形態に係る脳波センサ装置200のメモリ212に記憶される操作特定テーブルを概念的に示す図である。 図10Bは、本開示の第3実施形態に係る端末装置100のメモリ113に記憶される処理特定テーブルを概念的に示す図である。
添付図面を参照して本開示の様々な実施形態を説明する。なお、図面における共通する構成要素には同一の参照符号が付されている。
<本開示に係るシステムの概要>
図1は、本開示の様々な実施形態に係るシステムにおける処理を概念的に示す図である。図1によると、当該システムでは、ユーザ11に取り付けた脳波センサ装置200により検出した脳波に基づいて、ユーザ11の操作入力をするという意思を検出し、その検出結果に応じて、ユーザ11が入力しようとする操作に対応する処理を実行する。
ここで、一般に、スマートフォンなどに代表される端末装置において、ユーザが端末装置を操作するための入力インターフェイスは、非常に重要な構成要素である。例えば、ユーザの意図を脳波により検出し、その検出された意図に応じて端末装置を処理しさえすれば、ユーザが見たい画面への遷移など、ユーザの所望の結果を得ることは可能である。しかし、その場合、端末装置に対してユーザは何ら操作を行っていないため、ユーザ自らが端末装置を操作している感覚を得づらく、操作感の乏しいものとなる。より充実した操作感を得るためには、ユーザ自らが端末装置の入力インターフェイスを「押した」、「接触した」などの操作を行ったことを知覚することが重要となる。
そこで、本開示の端末装置においては、ユーザの意図を脳波により検出し、その検出された意図に応じた処理がなされる一方で、端末装置を操作したユーザに対して、「押した」、「接触した」などの操作を行ったことを知覚させることが可能な疑似入力インターフェイスを備える。
一例として示された図1のシステムでは、端末装置100のディスプレイ111にアイコン21及び22を表示させる。当該アイコン21及び22は、ユーザがこれらのアイコンに指示体12で接触すると、各アイコンに割り当てられた処理が実行されることを疑似的に知覚させるために表示される。したがって、実際にアイコン21及び22に接触したとしても、当該接触をトリガーとして処理が実行されるわけではない。
一方で、ユーザ11に取り付けた脳波センサ装置200で、ディスプレイ111に表示されたアイコン21又は22のいずれかを操作するというユーザ11の意思を検出すると、当該意思に関する情報を端末装置100に送信する。端末装置100は、当該情報を受信すると、アイコン21又は22のいずれかに対応付けられた処理を実行する。つまり、アイコン21又は22に対応付けられた処理の実行は、ユーザ11が指示体12によって実際に接触されたことを検出することを要せず、検出された意思に関する情報に基づいて行われる。
なお、本開示において、「疑似入力インターフェイス」とは、接触や押下などの操作がなされたとしても、当該操作が処理の実行のトリガーとして扱われない入力インターフェイスのことをいう。したがって、図1では、「疑似入力インターフェイス」の例として、ディスプレイ111に表示されたアイコンを挙げた。しかし、「疑似入力インターフェイス」は、アイコンに限らず、ディスプレイ111に表示された他の表示オブジェクトや、ディスプレイ111そのもの、端末装置100の筐体に固定的に設けられたハードキーなどであってもよい。
また、「疑似入力インターフェイス」は、常に、接触や押下などの操作がなされても当該操作をトリガーとして扱わないようにする必要はない。すなわち、端末装置100のモード、起動している機能・アプリケーション、ユーザの選択などに応じて、ユーザの意思検出機能がオンになっているときだけ、トリガーとして扱わないようにすれば良い。したがって、上記以外の時には、疑似入力インターフェイスとして機能するのではなく、操作を受け付けると所定の処理を実行するためのトリガーとなる入力インターフェイスとして機能してもよい。
<第1実施形態>
1.本開示の第1実施形態に係るシステム1の構成
図2は、本開示の第1実施形態に係るシステムにおける処理を概念的に示す図である。図2によると、ユーザ11に取り付けた脳波センサ装置200で、疑似入力インターフェイスとして機能するディスプレイ111に対する接触、又はハードキー116に対する押下をするというユーザ11の意思を脳波から検出すると、サーバー装置300との通信を開始し、必要な情報の送受信を行う。このとき、サーバー装置300との通信は検出されたユーザ11の意思に基づいて行われており、実際にユーザ11の指示体12でディスプレイ111に対する接触や、ハードキー116に対する押下の検出は必要としていない。つまり、ディスプレイ111に対する接触やハードキー116に対する押下の有無にかかわらず、検出された意思に対応する処理を実行する。
図3は、本開示の第1実施形態に係るシステム1の構成の例を示すブロック図である。図3を参照すると、システム1は、端末装置100と、当該端末装置100と有線又は無線により通信可能に接続された脳波センサ装置200とを含む。端末装置100及び脳波センサ装置200は、図3に示す構成要素の全てを備える必要はなく、一部を省略した構成をとることも可能であるし、他の構成要素を加えることも可能である。
端末装置100は、一例としては、スマートフォンに代表される無線通信可能な携帯型の端末装置が挙げられる。しかし、それ以外にも、携帯型ゲーム機、フィーチャーフォン、携帯情報端末、PDA、ラップトップパソコン、デスクトップパソコン、据え置き型ゲーム機、音楽プレイヤー、複合機やレーザープリンターなどの印刷装置、工作機械や製造機械などの操作装置、カーナビゲーションシステムや自動車などの車載装置など、他の装置や他のモジュールなどと情報の入出力が可能で、ユーザによる操作入力が可能な装置であれば、本実施形態に係るシステム1を好適に適用することが可能である。
図3によると、端末装置100は、ディスプレイ111、プロセッサ112、メモリ113、タッチセンサ115及びハードキー116を含む入力インターフェイス114、並びにアンテナに接続された無線通信処理回路118及びI/Oポート119を含む外部通信インターフェイス117を含む。そして、これらの各構成要素が制御ライン及びデータラインを介して互いに電気的に接続される。
ディスプレイ111は、プロセッサ112の指示に応じて、メモリ113に記憶された画像情報を読み出して各種表示を行う表示部として機能する。具体的には、ディスプレイ111は、例えば、図2の例においては、ゲームアプリケーションを起動した直後の画面において、ユーザからのスタート操作を受け付けるタイトル画面を表示する。また、特に図示はしないが、タイトル画面でタッチセンサ115又はハードキー116に対する操作入力を受け付けた場合には、当該ゲームアプリケーションのスタート画面を表示する。また、これらの表示によって、ディスプレイ111に対する操作が可能なことをユーザ11に知覚させることで、ディスプレイ111そのものが疑似入力インターフェイスとして機能する。ディスプレイ111は、例えば液晶ディスプレイから構成される。
プロセッサ112は、CPU(マイクロコンピュータ:マイコン)から構成され、メモリ113に記憶された各種プログラムに基づいて、接続された他の構成要素を制御する制御部として機能する。プロセッサ112は、メモリ113に記憶された指示命令、すなわち本実施形態に係るゲームアプリケーションを実行するためのプログラムやOSを実行するためのプログラムを処理する。具体的には、プロセッサ112は、脳波センサ装置200から受信した「操作入力をする」というユーザの意思を示す意思情報からユーザの操作を特定し、特定される操作に対応する処理を実行する。また、プロセッサ112は、場合により、入力インターフェイス114によりユーザの操作入力を受け付けると、当該操作入力により特定される操作情報に対応する処理を行ってもよい。なお、プロセッサ112は、単一のCPUで構成されても良いが、複数のCPUで構成されても良い。また、GPU等、他の種類のプロセッサを適宜組み合わせてもよい。
メモリ113は、RAM、ROM、又は不揮発性メモリ(場合によっては、HDD)を含み、記憶部として機能する。ROMは、本実施形態に係るアプリケーションやOSを実行するための指示命令をプログラムとして記憶する。RAMは、ROMに記憶されたプログラムがプロセッサ112により処理されている間、データの書き込み及び読み込みをするために用いられるメモリである。不揮発性メモリは、当該プログラムの実行によってデータの書き込み及び読み込みが実行されるメモリであって、ここに書き込まれたデータは、当該プログラムの実行が終了した後でも保存される。また、メモリ113には、脳波センサ装置200によって検出された操作情報と、その操作によってなされる処理内容とが対応付けられた処理特定テーブル(図4B)が記憶される。
入力インターフェイス114は、タッチセンサ115及びハードキー116を含み、ユーザからの様々な操作入力を受け付けるための入力部として機能する。タッチセンサ115は、ディスプレイ111に表示されたアイコンの操作や、ユーザによる文字列の入力など、ユーザからの各種操作入力の受け付けに利用される。タッチセンサ115は、ディスプレイ111を被覆するように配置され、ディスプレイ111の表示する画像データに対応して、指示体12(ユーザの指やスタイラス等)の近接座標や接触座標の情報を出力する。タッチセンサ方式としては、抵抗膜方式、静電容量結合方式、超音波表面弾性波方式など、公知の方式を利用することができる。本実施形態においては、ユーザの指示体12の近接も検出するため、静電容量結合方式のタッチセンサ115を用いるのが好ましい。ハードキー116には公知のものを適宜利用することができる。
本実施形態においては、脳波センサ装置200で検出された脳波に基づいて処理を行うため、疑似入力インターフェイスを備える。したがって、必ずしも入力インターフェイス114を備える必要はない。入力インターフェイス114を備える場合には、脳波センサ装置200に基づく処理と併用してもよいし、脳波センサ装置200に基づく処理がされない場合にのみ、入力インターフェイス114に基づく処理を行うようにしてもよい。
また、本実施形態においては、ディスプレイ111を疑似入力インターフェイスとして機能させる。しかし、入力インターフェイス114も、場合に応じて、受け付けた操作を処理のトリガーとはせずに、疑似入力インターフェイスとして機能させてもよい。
外部通信インターフェイス117は、無線通信処理回路118、及び当該無線通信処理装置に接続されたアンテナ、並びにI/Oポート119を含み、通信部として機能する。外部通信インターフェイス117は、遠隔に設置され、ネットワークを介して接続されたサーバー装置300と、様々なアプリケーションの実行に必要なプログラムや、ユーザ情報、描画情報などの送受信を行う。特に本実施形態では、操作入力をするユーザの意思情報を脳波センサ装置200から受信する。
無線通信処理回路118及びアンテナは、W−CDMA(Wideband−Code
Division Multiple Access)方式やLTE(Long Term Evolution)方式に代表されるような広帯域の無線通信方式に基づいて処理されるが、IEEE802.11に代表されるような無線LANやBluetooth(登録商標)のような狭帯域の無線通信に関する方式に基づいて処理することも可能である。
I/Oポート119は、有線により接続された外部装置のI/Oポートと接続される。I/Oポート119は、シリアルポート、パラレルポート、USB等、所望の接続形式を採用することが可能である。
なお、本実施形態においては、脳波センサ装置200との間で意思情報を含む様々な情報の送受信を行うが、この送受信は、無線通信処理回路118を介した無線通信と、I/Oポート119を介した有線通信とのいずれで行ってもよい。本実施形態にかかる端末装置100を使用する場合、感覚受容器でその刺激を知覚し(ディスプレイ111上に表示された情報を認識し)、判断し、操作入力を決定し、最終的に末梢の筋肉を収縮させて動作(タッチセンサ115への操作入力)させるまでに200ミリ秒以上の時間を要する。したがって、この時間を考慮して、脳波センサ装置200との間の通信方式は、通信速度が早ければ早いほど好ましいが、一定以上の通信速度が確保できればよく、通信の安定性や速度の観点から適宜選択することが可能である。
また、図3によると、脳波センサ装置200は、一又は複数の電極E1〜Enを含む脳波センサ211、メモリ212、プロセッサ213、外部通信インターフェイス214を含む。そして、これらの各構成要素が制御ライン及びデータラインを介して互いに電気的に接続される。
脳波センサ211は、一又は複数の電極E1〜Enを含む。脳は、一般に大脳皮質が知覚、随意運動、思考、推理などの各機能をつかさどり、さらに大脳皮質の中でも各部位ごとに果たす役割が異なることが知られている。たとえば、端末装置100の操作入力を指で行うには、眼窩前頭皮質、運動連合野、一次運動野の働きが必要となる。したがって、電極E1〜Enは、これらの活動部位に対応する頭皮上の位置に配置される。なお、電極E1〜Enの配置及び個数は、あらかじめ脳波センサ装置200を用いて、ユーザの脳波のサンプリングを行い、入力インターフェイス114への操作を行うときに観測されるピークが最も強く検出される電極を適宜選択することで決定することも可能である。各電極E1〜Enから出力されるアナログ信号は適宜デジタル信号に変換されてその後の処理に用いられる。
メモリ212は、RAM、ROM、又は不揮発性メモリ等を含み、記憶部として機能する。ROMは、本実施形態に係る脳波センサ211の制御や端末装置100への情報の送受信を実行するための指示命令をプログラムとして記憶する。RAMは、ROMに記憶されたプログラムがプロセッサ213により処理されている間、データの書き込み及び読み込みをするために用いられるメモリである。不揮発性メモリは、当該プログラムの実行によってデータの書き込み及び読み込みが実行されるメモリであって、ここに書き込まれたデータは、当該プログラムの実行が終了した後でも保存される。本実施形態においては、メモリ212には、疑似入力インターフェイスに対して操作をしようとした場合に検出される脳波の特徴点と、その特徴点が検出された場合に行われる処理内容とが対応付けられた操作特定テーブル(図4A)が記憶される。
プロセッサ213は、CPU(マイクロコンピュータ:マイコン)から構成され、メモリ212に記憶された各種プログラムに基づいて、接続された他の構成要素を制御する制御部として機能する。プロセッサ213は、メモリ212に記憶された指示命令を実行するためのプログラムを処理する。具体的には、プロセッサ213は、脳波センサ211から出力された脳波信号と、操作特定テーブルを参照し、あらかじめサンプリングされた脳波信号の特徴点との一致点を判定し、ユーザがどのような操作内容の入力を行おうとしていたのかを判定する。
外部通信インターフェイス214は、端末装置100との情報の送受信のために用いられる通信部として機能する。したがって、外部通信インターフェイス214は、端末装置100の外部通信インターフェイス117に対応して、無線通信処理回路118、当該無線通信処理装置に接続されたアンテナ、並びにI/Oポート119を適宜含む。
2.メモリ212に記憶された情報
図4Aは、本開示の第1実施形態に係る脳波センサ装置200のメモリ212に記憶される操作特定テーブルを概念的に示す図である。具体的には、当該テーブルは、あらかじめサンプリングされたユーザが各操作入力を疑似的に行う時の脳波信号の特徴点を記憶し、ユーザがどのような疑似的な操作を行おうとしていたのかの判定に用いられる。図4Aによると、各操作入力ID情報に対応付けて、特徴点情報と、操作内容情報とが記憶されている。特徴点情報は、あらかじめユーザが各種操作入力を疑似入力インターフェイスとして機能するディスプレイ111に対して行う時の脳波をサンプリングし、そこから得られた波形から特定された疑似的な各操作の特徴的なピークに関する情報である。操作内容情報は、各特徴点情報が得られたときにユーザが行っていた疑似的な操作の内容を示す情報である。本実施形態においては、例えば脳波センサ211において検出された脳波の波形が有する特徴点と、図4Aの操作特定テーブルに記憶された各特徴点とを比較し、「T1」の特徴点情報と一致した場合には、疑似的な操作内容情報として「タッチ」入力が特定される。そして、脳波センサ装置200からは、「タッチ」入力に対応する操作入力ID情報「O1」が意思情報として端末装置100に出力される。
図4Bは、本開示の第1実施形態に係る端末装置100のメモリ113に記憶される処理特定テーブルを概念的に示す図である。具体的には、当該テーブルは、意思情報として脳波センサ装置200から受信した操作入力ID情報と、それによって特定される処理内容とを対応付けて記憶する。図4Bによると、各処理ID情報に対応付けて、操作入力ID情報と処理内容とが記憶されている。操作入力ID情報は、脳波センサ装置200で特定されたユーザが入力しようとした疑似的な操作を特定した情報である。処理内容情報は、ユーザが疑似入力インターフェイスに対して行った所定の疑似操作に基づいてプロセッサ112によって実行される処理内容を示す情報である。本実施形態においては、例えば脳波センサ装置200から操作入力ID情報「O1」を受信すると、プロセッサ112は、当該処理特定テーブルを参照して、操作入力ID情報「O1」に対応付けられた処理内容情報(「次画面へ遷移」)を判定し、次画面へ遷移するための処理(サーバー装置300との通信、描画処理など)を実行する。
3.各装置間で実行される処理シーケンス
図5は、本開示の第1実施形態に係る端末装置100、脳波センサ装置200、及びサーバー装置300との間で実行される処理シーケンスを示す図である。具体的には、図5は、図2に示す「格闘ゲームA」のゲームアプリケーションを端末装置100において起動しタイトル画面が表示されたときに行う操作入力の例であって、脳波センサ装置200においてユーザの操作入力を行うという意思を検出し、その検出に基づいて生成された意思情報を脳波センサ装置200が送信することによって開始される割り込み処理のシーケンスを示す。なお、図5は、図2のタイトル画面での操作入力をすることで行われるサーバー装置300との情報の送受信の例を挙げた。しかし、これは単なる一例である。つまり、ユーザに知覚させる状況は、タイトル画面に限らず他の状況であってもよい。また、サーバー装置300が関わらない処理を行ってもよいし、他のサーバー装置や他の端末装置が関わる処理を行ってもよい。
図5において、タイトル画面がディスプレイ111に表示されると、端末装置100は、ディスプレイ111及びハードキー116を疑似入力インターフェイスとして設定する(S11)。ディスプレイ111を通じてそれを知覚したユーザは、ディスプレイ111を接触又はハードキー116を押下するか否かの判断を行う。そして、ユーザは、その判断の結果、ディスプレイ111を接触(操作)してスタート画面に移行させるという意思決定を行う。この間、脳波センサ装置200のプロセッサ213は、電極E1〜Enを有する脳波センサ211から出力される波形が有する特徴点を随時監視する(S12)。プロセッサ213は、得られた特徴点を、その都度、図4Aに示す操作特定テーブルを参照し、あらかじめサンプリングされたユーザの操作入力が有する特徴点との一致を判定する。一致がなかった場合には、プロセッサ213は再び波形の監視処理に戻る。
一方、特徴点の一致があった場合には、プロセッサ213は、一致した特徴点と対応付けられた操作内容情報を参照しユーザが操作入力しようとした内容を特定する。本実施形態においては、上記のとおり、タッチセンサ115のタッチという操作入力をする意思決定が行われているので、操作入力ID情報が「O1」の特徴点と一致する。したがって、プロセッサ213は、操作入力ID情報として「O1」を少なくとも含む意思情報を生成し、当該意思情報(T11)を、外部通信インターフェイス214を介して端末装置100に送信するよう制御する。
次に、端末装置100は、図4Bに記憶された処理特定テーブルを参照して、意思情報として受信した操作入力ID情報にあらかじめ対応付けられた処理を開始する(S13)。本実施形態においては、まず、端末装置100は、サーバー装置300へ、メモリ113に記憶されたユーザ情報(T12)を送信する。そして、これを受信したサーバー装置300は、ユーザの認証処理を行い(S14)、「格闘ゲームA」のゲームアプリケーションの正当なユーザであると認証がされると、サーバー装置300に記憶された当該ユーザのゲームデータ(T13)を端末装置100に送信する。
端末装置100は、サーバー装置300から送信されたゲームデータを順次受信する(S15)。ゲームデータの受信が完了すると、端末装置100は、受信したゲームデータや、メモリ113に記憶されたスタート画面の描画情報を利用して、ディスプレイ111にスタート画面を表示するための描画処理を開始する(S16)。
ここで、本実施形態においては、当該処理の過程で、疑似入力インターフェイスとして機能するディスプレイ111又はハードキー116に対する実際の接触や押下操作の検出を必要としない。すなわち、実際のこれらの操作の有無にかかわらず、意思情報として受信した操作入力ID情報に基づいて、端末装置100は、S13〜S16に係る処理を実行する。すなわち、仮に、操作するという意思の検出から遅れて、疑似入力インターフェイスとして機能するディスプレイ111又はハードキー116に対するユーザの実際の操作が終了したとしても、端末装置100では実際の操作入力を検出する処理を行ったり(S111)、実際の操作入力をトリガーとして操作情報(T111)をサーバー装置300に送信したりすることはない。
4.端末装置100で実行される処理フロー
図6は、本開示の第1実施形態にかかる端末装置100において実行される処理フローを示す図である。具体的には、当該処理フローは、脳波センサ装置200から意思情報を受信することによって開始される割り込み処理に関する。
図6によると、プロセッサ112が、ディスプレイ111に、図2に示されたタイトル画面の表示を行うとともに、ディスプレイ111及びハードキー116を疑似入力インターフェイスとして設定することにより開始される(S101)。そして、プロセッサ112は、外部通信インターフェイス117を介して、脳波センサ装置200から意思情報として操作入力ID情報を受信したか否かを判断する(S102)。そして、当該意思情報を受信すると、操作入力ID情報からユーザがこれから行おうとしている疑似的操作が、ディスプレイ111へのタッチであると特定する。そして、タイトル画面において疑似的なタッチ操作に対応付けられた処理を実行する。
具体的には、まず、プロセッサ112は、サーバー装置300にメモリ113に記憶されたユーザ情報を送信するよう、外部通信インターフェイス117を制御する(S103)。そして、プロセッサ112は、サーバー装置300においてユーザの認証が行われゲームアプリケーションの実行に必要なゲームデータの受信を開始するよう制御する(S104)。次に、プロセッサ112は、受信したゲームデータと、メモリ113に記憶された描画情報に基づいて、順次、次の画面(スタート画面)の描画を開始する(S105)。
ここで、本実施形態においては、当該処理の過程で、疑似入力インターフェイスとして機能するディスプレイ111又はハードキー116に対する実際の接触や押下操作の検出を必要としない。すなわち、実際のこれらの操作の有無にかかわらず、意思情報として受信した操作入力ID情報に基づいて、プロセッサ112はS103〜S105に係る処理を実行する。すなわち、仮に、操作するという意思の検出ののちに、疑似入力インターフェイスとして機能するディスプレイ111又はハードキー116に対するユーザの実際の操作が終了したとしても、端末装置100では実際の操作入力を検出する処理(S201)を行ったり、実際の操作入力をトリガーとして操作情報をサーバー装置300に送信する処理(S202)を行うことはない。
なお、疑似入力インターフェイスに対するユーザの疑似的な操作の意思が演出され、その操作内容が特定されると、特定された操作に応じたフィードバックをユーザに付与するようにしてもよい。具体的には、メモリ113に、特定された操作入力IDごとに、付与するフィードバックを対応付けたフィードバックテーブルを記憶する。そして、プロセッサ112は、操作入力ID情報を受信することで操作内容が特定されると、当該テーブルを参照し、その特定された操作に応じたフィードバックを決定する。フィードバックの例としては、振動モータを利用したバイブレーションの駆動や、LEDの点灯、画面へのインジケータの表示などが挙げられる。
以上、本実施形態においては、脳波センサ装置200によってユーザの操作に対する意思を検出することによって、端末装置100における処理を実行させることができる。一方、端末装置100は、疑似入力インターフェイスとして機能するディスプレイ111及びハードキー116を備えることで、処理の実行自体は脳波センサ装置200で検出された意思に基づいて行われるものの、ユーザが実際に端末装置100を操作しているかのような操作感を与えることが可能となる。
<第2実施形態>
第1実施形態では、タイトル画面において、ディスプレイ111の全体及びハードキー116が疑似入力インターフェイスとして機能する場合について説明した。つまり、脳波センサ装置200によって、ディスプレイ111又はハードキー116に対するユーザの疑似的な操作をするという意思を検出し、その検出された意思に基づいて処理を実行する場合について説明した。第2実施形態においては、ディスプレイ111の全体を疑似入力インターフェイスとして機能させるのではなく、ディスプレイ111に表示された一部の領域のみを疑似入力インターフェイスとして機能させる場合について説明する。なお、本実施形態は、以下で具体的に説明する点を除いて、第1実施形態における構成、処理、手順と同様である。したがって、それらの事項の詳細な説明は省略する。
図7は、本開示の第2実施形態に係るシステムにおける処理を概念的に示す図である。図2によると、ディスプレイ111の少なくとも一部の領域には、1又は複数のアイコン(アイコン21及び22)が表示されている。本実施形態においては、当該アイコン21及び22が表示された領域を疑似入力インターフェイスとして機能させ、例えば「格闘ゲームA」と表示された他の領域は疑似入力インターフェイスとして機能させず、単なる表示エリアとして機能させる。
まず、ユーザ11に取り付けた脳波センサ装置200で、疑似入力インターフェイスとして機能するアイコン21及びアイコン22のいずれかに対して、指示体12でタッチするというユーザの意思の検出を行う。そして、その検出がなされると、検出されたユーザの意思に応じて、それに対応付けられた処理の実行を行う。例えば、スタートアイコン21に対してタッチ(いわゆる短押し)をするというユーザの意思が検出された場合には、当該意思情報から特定されたスタート画面の表示に係る処理を端末装置100は実行する。このとき、処理の実行は検出されたユーザ11の意思に基づいて行われており、実際にユーザ11の指示体12でアイコン21に対して接触することは必要としていない。つまり、アイコン21及び22への操作の有無にかかわらず、検出された意思に対応する処理を実行する。
図8Aは、本開示の第2実施形態に係る脳波センサ装置200のメモリ212に記憶される操作特定テーブルを概念的に示す図である。具体的には、当該テーブルは、あらかじめサンプリングされたユーザが各操作入力を疑似的に行う時の脳波信号の特徴点を記憶し、ユーザがどのような疑似的な操作を行おうとしていたのかの判定に用いられる。図8Aによると、各操作入力ID情報に対応付けて、特徴点情報と、操作内容情報とが記憶されている。特徴点情報は、あらかじめユーザが各操作を疑似入力インターフェイスとして機能する各アイコンに対して行おうと意図したときの脳波をサンプリングし、そこから得られた波形から特定された特徴的なピークに関する情報である。操作内容情報は、各特徴点情報が得られたときにユーザが行っていた疑似的な操作の内容を示す情報であって、どのアイコンに対してどのような操作をしていたかが特定される。本実施形態においては、例えば脳波センサ211において検出された脳波の波形が有する特徴点と、図8Aの操作特定テーブルに記憶された各特徴点とを比較し、「S1」の特徴点情報と一致した場合には、疑似的な操作内容情報として「アイコン21に対するタッチ(短押し)」が特定される。そして、脳波センサ装置200からは、「タッチ」入力に対応する操作入力ID情報「Q1」が意思情報として端末装置100に出力される。
図8Bは、本開示の第2実施形態に係る端末装置100のメモリ113に記憶される処理特定テーブルを概念的に示す図である。具体的には、当該テーブルは、意思情報として脳波センサ装置200から受信した操作入力ID情報と、それによって特定される処理内容とを対応付けて記憶する。図8Bによると、各処理ID情報に対応付けて、操作入力ID情報と処理内容とが記憶されている。操作入力ID情報は、脳波センサ装置200で特定されたユーザが入力しようとした疑似的な操作を特定した情報である。処理内容情報は、ユーザが疑似入力インターフェイスに対して行った所定の疑似操作に基づいてプロセッサ112によって実行される処理内容を示す情報である。本実施形態においては、例えば脳波センサ装置200から操作入力ID情報「Q1」を受信すると、プロセッサ112は、当該処理特定テーブルを参照して、操作入力ID情報「Q1」に対応付けられた処理内容情報(「スタート画面の表示」)を判定し、スタート画面を表示するための処理(サーバー装置300との通信、描画処理など)を実行する。
なお、本実施形態においては、端末装置100、脳波センサ装置200、及びサーバー装置300との間で行われる処理シーケンスや、端末装置100のプロセッサ112が行う処理フローについて図示していない。しかし、第1実施形態と同様に、脳波センサ装置200によってユーザのアイコン21及び22に対する操作の意思を検出することで、所定の処理を実行する。一方、疑似入力インターフェイスとして機能するアイコン21及び22に対するユーザの実際の操作がなされたとしても、端末装置100では、この実際の操作入力を検出する処理を行ったり、スタート画面の表示のために実際の操作入力をトリガーとすることはない。
以上、本実施形態においては、脳波センサ装置200によってユーザの操作に対する意思を検出することによって、端末装置100における処理を実行させることができる。一方、端末装置100は、疑似入力インターフェイスとして機能するアイコン21及び22を表示することで、処理の実行自体は脳波センサ装置200で検出された意思に基づいて行われるものの、ユーザが実際に端末装置100を操作しているかのような操作感を与えることが可能となる。
<第3実施形態>
第1実施形態では、タイトル画面において、ディスプレイ111の全体及びハードキー116が疑似入力インターフェイスとして機能する場合について説明した。また、第2実施形態では、タイトル画面において、ディスプレイの少なくとも一部の領域、具体的にはアイコン21及び22が疑似入力インターフェイスとして機能する場合について説明した。第3実施形態においては、ディスプレイ111やディスプレイ111に表示されたアイコン21及び22を疑似入力インターフェイスとして機能させるのではなく、端末装置100の筐体上に固定的に設けられたハードキー24及び25を疑似入力インターフェイスとして機能させる場合について説明する。なお、本実施形態は、以下で具体的に説明する点を除いて、第1実施形態における構成、処理、手順と同様である。したがって、それらの事項の詳細な説明は省略する。
図9は、本開示の第3実施形態に係るシステムにおける処理を概念的に示す図である。図9によると、端末装置100は、筐体の表面上に固定的に設けられた方向キーや決定キーを含むハードキー24、1〜0の数字に対応して設けられるテンキーを含むハードキー25を備える。本実施形態においては、これらハードキー24及び25を疑似入力インターフェイスとして機能させる。図9の例では、ディスプレイ111に表示された文字入力アプリケーションの画面において、ユーザが文字(数字等)の入力を行う場合について説明する。具体的には、ディスプレイ111には、これまでに入力された文字(「A」〜「G」)とともに、次に文字が入力される位置を示すカーソル(「G」の右隣)が示されている。
まず、ユーザ11に取り付けた脳波センサ装置200で、疑似入力インターフェイスとして機能するハードキー24及び25のうちのいずれかのキーに対して、指示体12で押下するというユーザの意思の検出を行う。そして、その検出がなされると、検出されたユーザの意思に応じて、それに対応付けられた処理の実行を行う。例えば、ハードキー24のうちの左キーを押下するというユーザの意思が検出された場合には、当該意思情報から特定された処理を端末装置100は実行する。このとき、処理の実行は検出されたユーザ11の意思に基づいて行われており、実際にユーザ11の指示体12でハードキー24を押下することは必要としていない。つまり、ハードキー24又は25への操作の有無にかかわらず、検出された意思に対応する処理を実行する。
図10Aは、本開示の第3実施形態に係る脳波センサ装置200のメモリ212に記憶される操作特定テーブルを概念的に示す図である。具体的には、当該テーブルは、あらかじめサンプリングされたユーザが各操作入力を疑似的に行う時の脳波信号の特徴点を記憶し、ユーザがどのような疑似的な操作を行おうとしていたのかの判定に用いられる。図10Aによると、各操作入力ID情報に対応付けて、特徴点情報と、操作内容情報とが記憶されている。特徴点情報は、あらかじめユーザが疑似入力インターフェイスとして機能するハードキー24及び25のうちのいずれかに対して押下を行おうと意図したときの脳波をサンプリングし、そこから得られた波形から特定された特徴的なピークに関する情報である。操作内容情報は、各特徴点情報が得られたときにユーザが行っていた疑似的な操作の内容を示す情報であって、どのハードキーに対して操作を行おうとしていたかが特定される。本実施形態においては、例えば脳波センサ211において検出された脳波の波形が有する特徴点と、図10Aの操作特定テーブルに記憶された各特徴点とを比較し、「U1」の特徴点情報と一致した場合には、疑似的な操作内容情報として「上キーの操作」が特定される。そして、脳波センサ装置200からは、「上キーの操作」に対応する操作入力ID情報「R1」が意思情報として端末装置100に出力される。
図10Bは、本開示の第3実施形態に係る端末装置100のメモリ113に記憶される処理特定テーブルを概念的に示す図である。具体的には、当該テーブルは、意思情報として脳波センサ装置200から受信した操作入力ID情報と、それによって特定される処理内容とを対応付けて記憶する。図10Bによると、各処理ID情報に対応付けて、操作入力ID情報と処理内容とが記憶されている。操作入力ID情報は、脳波センサ装置200で特定されたユーザが入力しようとした疑似的な操作を特定した情報である。処理内容情報は、ユーザが疑似入力インターフェイスに対して行った所定の疑似操作に基づいてプロセッサ112によって実行される処理内容を示す情報である。本実施形態においては、例えば脳波センサ装置200から操作入力ID情報「R1」を受信すると、プロセッサ112は、当該処理特定テーブルを参照して、操作入力ID情報「R1」に対応付けられた処理内容情報(「カーソルの上への移動」)を判定し、ディスプレイ111の表示されたカーソルを上方向へ移動して表示させる処理を実行する。
なお、本実施形態においては、端末装置100、脳波センサ装置200、及びサーバー装置300との間で行われる処理シーケンスや、端末装置100のプロセッサ112が行う処理フローについて図示していない。しかし、第1及び第2実施形態と同様に、脳波センサ装置200によってユーザのハードキー24及び25のうちのいずれかに対する操作の意思を検出することで、所定の処理を実行する。一方、疑似入力インターフェイスとして機能するハードキー24及び25に対するユーザの実際の操作がなされたとしても、端末装置100では、この実際の操作入力を検出する処理を行ったり、スタート画面の表示のために実際の操作入力をトリガーとすることはない。
以上、本実施形態においては、脳波センサ装置200によってユーザの操作に対する意思を検出することによって、端末装置100における処理を実行させることができる。一方、端末装置100は、疑似入力インターフェイスとして機能するハードキー24及び25を設けることで、処理の実行自体は脳波センサ装置200で検出された意思に基づいて行われるものの、ユーザが実際に端末装置100を操作しているかのような操作感を与えることが可能となる。特に、ハードキーの場合、キーのクリック感をユーザが直接的に感じることが可能となり、より高い操作感を得ることができる。
<第4実施形態>
第1〜第3実施形態では、脳波センサ装置200において、ユーザの脳波を検出し、あらかじめサンプリングされたユーザの脳波と検出された脳波とを比較して、ユーザの意思情報を特定する場合について説明した。第4実施形態においては、電極E1〜Enによって検出されたユーザの脳波についてA/D変換等の処理を行った信号を端末装置100に送信し、端末装置100のプロセッサ112においてユーザの意思情報を特定する。なお、本実施形態は、以下で具体的に説明する点を除いて、第1〜第3実施形態における構成、処理、手順と同様である。したがって、それらの事項の詳細な説明は省略する。
本実施形態においては、上記のとおり、端末装置100のプロセッサ112においてユーザの意思情報を特定するため、図4A、図8A、及び図10Aに示す操作特定テーブルは端末装置100のメモリ113に記憶される。そして、図5のS12及びS13の間に、第1〜第3実施形態では意思情報(T11)の受信がなされるが、本実施形態においては、脳波センサ211によって検出された脳波信号を受信する。そして、脳波信号を受信すると、プロセッサ112は、メモリ113に記憶された操作特定テーブルを参照して、ユーザの意思情報を特定する。そして、特定されたユーザの意思情報に基づいて、第1〜第3実施形態と同様に、当該意思情報に基づく処理を行う。以降の処理は、第1〜第3実施形態と同様である。
以上、本実施形態においては、脳波センサ装置200によってユーザの操作に対する意思を検出することによって、端末装置100における処理を実行させることができる。一方、端末装置100は、疑似入力インターフェイスとして機能するハードキー24及び25を設けることで、処理の実行自体は脳波センサ装置200で検出された意思に基づいて行われるものの、ユーザが実際に端末装置100を操作しているかのような操作感を与えることが可能となる。
<その他>
第1〜第4実施形態においては、脳波センサ装置200を用いる場合について説明した。しかし、本開示においては、ユーザの意思情報が検出されれば良いので、脳波に限らず様々な信号を用いて実施することが可能である。一例としては、ユーザの意思を脳から筋肉に伝達し、筋肉が動くときに検出される電気信号が検出可能なセンサ装置を利用することも可能である。
なお、各実施形態で説明した各要素を適宜組み合わせるか、それらを置き換えてシステムを構成することも可能である。
本明細書で説明される処理及び手順は、実施形態において明示的に説明されたものによってのみならず、ソフトウェア、ハードウェア又はこれらの組み合わせによっても実現可能である。具体的には、本明細書で説明された処理及び手順は、集積回路、揮発性メモリ、不揮発性メモリ、磁気ディスク、光ストレージ等の媒体に、当該処理に相当するロジックを実装することによって実現される。また、本明細書で説明される処理及び手順は、それらの処理・手順をコンピュータプログラムとして実装し、端末装置やサーバー装置を含む各種のコンピュータに実行させることが可能である。
本明細書中で説明される処理及び手順が単一の装置、ソフトウェア、コンポーネント、モジュールによって実行される旨が説明されたとしても、そのような処理又は手順は、複数の装置、複数のソフトウェア、複数のコンポーネント、及び/又は、複数のモジュールによって実行可能である。また、本明細書中で説明される各種情報が単一のメモリや記憶部に格納される旨が説明されたとしても、そのような情報は、単一の装置に備えられた複数のメモリ又は複数の装置に分散して配置された複数のメモリに分散して格納可能である。さらに、本明細書において説明されるソフトウェアおよびハードウェアの要素は、それらをより少ない構成要素に統合して、又は、より多い構成要素に分解することによって実現可能である。
100 端末装置
200 脳波センサ装置
300 サーバー装置

Claims (12)

  1. ユーザによる疑似的な操作が可能に構成された疑似入力インターフェイスと、
    有線又は無線により接続され、かつ前記疑似入力インターフェイスに対する操作を行う前記ユーザの意思を検出可能なセンサ装置から、前記センサ装置で検出されたユーザの意思を示す意思情報を受信する外部通信インターフェイスと、
    所定の指示命令を記憶するように構成されたメモリと、
    前記指示命令に基づいて、前記疑似入力インターフェイスに対して前記ユーザが実際に行う操作に関わらず、前記外部通信インターフェイスが受信した前記意思情報から前記ユーザの操作を特定し、特定された前記操作に対応する処理を実行するように構成されたプロセッサと、
    を含む端末装置。
  2. 前記端末装置は所定の表示をするように構成されたディスプレイを含み、
    前記ユーザによる疑似的な操作は前記ディスプレイに対する操作である、
    請求項1に記載の端末装置。
  3. 前記端末装置は所定の表示をするように構成されたディスプレイを含み、
    前記疑似入力インターフェイスは、前記ディスプレイに表示されたアイコンである、
    請求項1に記載の端末装置。
  4. 前記疑似入力インターフェイスは、前記端末装置の筐体に固定的に設けられた操作キーである、請求項1に記載の端末装置。
  5. 前記外部通信インターフェイスは、遠隔に設置されたサーバー装置との間で所定の情報の送受信を行い、
    前記処理は、前記サーバー装置との間で前記所定の情報の送受信を行う処理である、
    請求項1〜4のいずれか一項に記載の端末装置。
  6. 前記プロセッサは、前記疑似入力インターフェイスに対して前記ユーザが実際に操作を行ったとしても、前記ユーザが実際に行った操作の検出を行うことなく、前記処理を実行する、請求項1〜5のいずれか一項に記載の端末装置。
  7. 前記センサ装置は、前記ユーザの脳波を検出するための一又は複数の電極を含む、請求項1〜6のいずれか一項に記載の端末装置。
  8. 前記端末装置は、前記ユーザの操作が特定されると、特定された前記操作に応じたフィードバックを前記ユーザに付与する、請求項1〜7のいずれか一項に記載の端末装置。
  9. ユーザによる疑似的な操作が可能に構成された疑似入力インターフェイスと、有線又は無線により接続され、かつ前記疑似入力インターフェイスに対する操作を行う前記ユーザの意思を検出可能なセンサ装置から、前記センサ装置で検出されたユーザの意思を示す意思情報を受信する外部通信インターフェイスと、所定の指示命令を記憶するように構成されたメモリと、を含むコンピュータを、
    前記指示命令に基づいて、前記疑似入力インターフェイスに対して前記ユーザが実際に行う操作に関わらず、前記外部通信インターフェイスが受信した前記意思情報から前記ユーザの操作を特定し、特定された前記操作に対応する処理を実行するように構成されたプロセッサ、
    として機能させるプログラム。
  10. ユーザによる疑似的な操作が可能に構成された疑似入力インターフェイスと、有線又は無線により接続され、かつ前記疑似入力インターフェイスに対する操作を行う前記ユーザの意思を検出可能なセンサ装置から、前記センサ装置で検出されたユーザの意思を示す意思情報を受信する外部通信インターフェイスと、所定の指示命令を記憶するように構成されたメモリと、を含むコンピュータにおいて、プロセッサが前記指示命令を実行することによりなされる方法であって、
    前記疑似入力インターフェイスに対して前記ユーザが実際に行う操作に関わらず、前記外部通信インターフェイスが受信した前記意思情報から前記ユーザの操作を特定する段階と、
    特定された前記操作に対応する処理を実行する段階と、
    を含む方法。
  11. 請求項1〜8のいずれか一項に記載の端末装置と、
    前記端末装置に有線又は無線により接続され、かつ前記端末装置の入力インターフェイスに一又は複数の操作入力をするユーザの意思を検出可能なセンサ装置と、
    を含む、システム。
  12. ユーザによる疑似的な操作が可能に構成された疑似入力インターフェイスと、
    有線又は無線により接続され、かつ前記疑似入力インターフェイスに対する操作を行う前記ユーザの意思を示す信号を受信する外部通信インターフェイスと、
    所定の指示命令を記憶するとともに、前記信号と前記ユーザの意思との対応関係を記憶するメモリと、
    前記指示命令に基づいて、前記疑似入力インターフェイスに対して前記ユーザが実際に行う操作に関わらず、受信した前記信号と前記メモリに記憶された前記対応関係とから前記ユーザの意思情報を生成し、生成された前記意思情報から前記ユーザの操作を特定し、特定された前記操作に対応する処理を実行するように構成されたプロセッサと、
    を含む端末装置。
JP2019518334A 2019-04-03 2019-04-03 検出されたユーザの意思を利用した端末装置 Active JP6695004B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/014734 WO2020202488A1 (ja) 2019-04-03 2019-04-03 端末装置、プログラム、方法、及びシステム

Publications (2)

Publication Number Publication Date
JP6695004B1 JP6695004B1 (ja) 2020-05-20
JPWO2020202488A1 true JPWO2020202488A1 (ja) 2021-04-30

Family

ID=70682326

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019518334A Active JP6695004B1 (ja) 2019-04-03 2019-04-03 検出されたユーザの意思を利用した端末装置

Country Status (3)

Country Link
US (1) US10761606B1 (ja)
JP (1) JP6695004B1 (ja)
WO (1) WO2020202488A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113887643B (zh) * 2021-10-12 2023-07-18 西安交通大学 一种基于伪标签自训练和源域再训练的新对话意图识别方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4093478B2 (ja) 2003-09-10 2008-06-04 日本電信電話株式会社 リンク先コンテンツの先読み装置及び先読み方法
JP5150942B2 (ja) 2006-02-03 2013-02-27 株式会社国際電気通信基礎技術研究所 活動補助システム
US20090247895A1 (en) * 2006-11-15 2009-10-01 Koji Morikawa Apparatus, method, and computer program for adjustment of electroencephalograms distinction method
US8126541B2 (en) * 2007-03-28 2012-02-28 Panasonic Corporation Device and method for deciding necessity of brainwave identification
JP5283065B2 (ja) 2008-08-26 2013-09-04 学校法人慶應義塾 運動関連電位信号検出システム
US20140078318A1 (en) * 2009-05-22 2014-03-20 Motorola Mobility Llc Electronic Device with Sensing Assembly and Method for Interpreting Consecutive Gestures
US8792976B2 (en) * 2010-02-18 2014-07-29 The Board Of Trustees Of The Leland Stanford Junior University Brain machine interface
JP5544620B2 (ja) * 2010-09-01 2014-07-09 独立行政法人産業技術総合研究所 意思伝達支援装置及び方法
JP2013128642A (ja) 2011-12-21 2013-07-04 Kumamoto Univ ブレイン・コンピュータ・インターフェース及びブレイン・コンピュータ・インターフェースにおける対象物の制御方法
US9223459B2 (en) * 2013-01-25 2015-12-29 University Of Washington Through Its Center For Commercialization Using neural signals to drive touch screen devices
JP2014174880A (ja) 2013-03-12 2014-09-22 Aisin Aw Co Ltd 情報提供装置、及び情報提供プログラム
JP2015156912A (ja) 2014-02-21 2015-09-03 株式会社コロプラ ゲームサーバ、ゲームサーバ用プログラム及びゲームシステム
US10564714B2 (en) * 2014-05-09 2020-02-18 Google Llc Systems and methods for biomechanically-based eye signals for interacting with real and virtual objects
KR101648017B1 (ko) 2015-03-23 2016-08-12 현대자동차주식회사 디스플레이 장치, 차량 및 디스플레이 방법
JP6759496B2 (ja) 2016-05-12 2020-09-23 株式会社国際電気通信基礎技術研究所 脳波パターン分類装置、脳波パターン分類方法、脳波パターン分類プログラムおよびニューロフィードバックシステム
JP2018025888A (ja) 2016-08-08 2018-02-15 日本精機株式会社 操作装置
JP2018190258A (ja) * 2017-05-10 2018-11-29 キヤノン株式会社 制御装置

Also Published As

Publication number Publication date
WO2020202488A1 (ja) 2020-10-08
US10761606B1 (en) 2020-09-01
JP6695004B1 (ja) 2020-05-20

Similar Documents

Publication Publication Date Title
EP2729897B1 (en) Secure input via a touchscreen
CN106126077B (zh) 一种应用程序图标的显示控制方法和移动终端
US8619046B2 (en) Information processing apparatus, notification method, and program
RU2662408C2 (ru) Способ, аппаратура и устройство обработки информации
CN106951174B (zh) 一种虚拟键盘的调整方法及移动终端
KR102139526B1 (ko) 전자 장치의 화면상에 표시되는 복수의 객체들을 실행하는 장치, 방법 및 컴퓨터 판독 가능한 기록 매체
EP3133483B1 (en) Touchscreen apparatus and user interface processing method for the touchscreen apparatus
CN107219988B (zh) 一种界面操作引导方法及移动终端
WO2002095563A1 (en) User input apparatus, computer connected to user input apparatus, method of controlling computer connected to user input apparatus, and storage medium
MX2008014057A (es) Tecla de multiples funciones con desplazamiento.
US20020190959A1 (en) Data processing apparatus having control element for detecting false touch
WO2018130082A1 (zh) 一种消息震动提示的方法及移动终端
US10001962B2 (en) Control method, control apparatus, and electronic device
US20230359279A1 (en) Feedback method and related device
WO2019019970A1 (zh) 分屏显示方法和终端
JP6710771B1 (ja) 端末装置、プログラム、方法、及びシステム
JP6695004B1 (ja) 検出されたユーザの意思を利用した端末装置
WO2019153362A1 (zh) 一种指纹录入方法及终端
JP6220429B1 (ja) 情報処理装置、タッチパネル感度制御方法、及びプログラム
JP6112554B2 (ja) 電子機器
CN106383651B (zh) 一种隐藏应用的开启方法及移动终端
CN105320386A (zh) 控制计算设备的输入形式
US20210373759A1 (en) Touch operation method and touch device using the same
US20110205157A1 (en) System and Method for Information Handling System Touchpad Enablement
US11526220B2 (en) Method and apparatus of using a computer touchpad or digitizer stylus pad as a mousepad

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190403

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20200106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200414

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200420

R150 Certificate of patent or registration of utility model

Ref document number: 6695004

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250