JP2014515147A - 拡張現実のためのジェスチャベースユーザインターフェース - Google Patents
拡張現実のためのジェスチャベースユーザインターフェース Download PDFInfo
- Publication number
- JP2014515147A JP2014515147A JP2014508330A JP2014508330A JP2014515147A JP 2014515147 A JP2014515147 A JP 2014515147A JP 2014508330 A JP2014508330 A JP 2014508330A JP 2014508330 A JP2014508330 A JP 2014508330A JP 2014515147 A JP2014515147 A JP 2014515147A
- Authority
- JP
- Japan
- Prior art keywords
- gesture
- keyboard
- command
- key
- input device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04886—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/044—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/041—Indexing scheme relating to G06F3/041 - G06F3/045
- G06F2203/04108—Touchless 2D- digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface without distance measurement in the Z direction
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
- Input From Keyboards Or The Like (AREA)
Abstract
仮想ディスプレイと共に用いることができるジェスチャキーボードを提供するのに有効なシステムおよび方法のための技術が一般的に説明されている。ある例では、本発明による方法は、少なくとも3つのレベルの相互作用の差異から検出された少なくとも1つのレベルの相互作用の差異を受け取ることを含む、入力装置に近接または接触しているオブジェクトと関連する知覚情報を受け取ることと、知覚情報からのコマンドを、少なくとも1つのレベルの相互作用の差異に応じて解釈することと、コマンドに基づき動作表示を出力することと、を含む。
Description
本開示は、一般にジェスチャキーボードに関し、例えば拡張現実のためのジェスチャベースユーザインターフェースに関する。
コンピューティングシステムの使用と複雑性が進展するにつれて、操作が簡単でユーザにとって楽しいコンピューティングシステムを提供したいという希望もまた同様の状況にある。多くのコンピューティングシステムは、キーボードとディスプレイを用いている。キーボードに入力がなされると、対応する出力をディスプレイ上に提示することが可能である。入力のあるものは、出力されるべき対応の動作に対するコマンドとして入力される。しかし、コマンドの入力は、伝統的に、キーボードおよび/またはマウスを通じて行われてきており、実行するのが厄介である場合がある。例えば、いくつかのコマンドを入力するためには、ある場合には、キーボード上の複数のキーがある順序で押下されるが、そうしないと、所望の入力は達成されない。
いくつかのコンピューティングシステムでは、コマンドの入力のためにタッチスクリーンを用いている。しかし、タッチスクリーンは2次元の入力空間を利用しており、タッチ表面の上方の3次元空間を用いることはできない。したがって、タッチスクリーンに向かう方向またはタッチスクリーンから遠ざかる方向のユーザによる動きは、何の効果も生じない。更に、コンピューティングシステムによっては、キーボードはディスプレイから分離しているため、例えばシフトロックやカーソル移動などのタイピングと関係するコマンドをディスプレイ内に配置するのは実際的でない。これは、ディスプレイがキーパッドから遠く離れすぎているからであり、したがって、ユーザの(一方または両方の)手は、そのようなコマンドを入力するにはあまりに遠くまで移動するからである。
ジェスチャベースコンピューティングシステムへの従来型のアプローチの短所について上述したが、これは、従来型のアプローチおよび技法に関する問題点のいくつかの概観を提供することを単に意図しただけであり、網羅的であることは意図していない。従来型のシステムおよび技法に付随する他の問題点と、本明細書において説明される様々な非限定的な実施形態のそれに対応する利点とは、以下の説明を検討することで、更に明らかになるであろう。
様々な非限定的な実施形態において、コマンドを認識し、ジェスチャの形式でおよび/またはタイピングとして入力し、コマンドに基づき1つまたは複数の動作を実行するように構成されているジェスチャキーボードが開示されている。ある例では、この1つまたは複数の動作は、拡張現実において実行される。ジェスチャキーボードは、押下されるとタイプを行いキーボードに近接しているまたはキーボードに接触している指を感知することもできるキーを含む。指は、そのキャパシタンスによって感知されうる。キーボードとの接触は、指とキーの間の電気的接触によって感知されうる。電気的接触による指の検出は、仮想現実メガネにおいて表示される仮想キーボードをハイライト表示するのに用いることができる。なお、仮想現実メガネは、タイプされているテキストを示すこともできる。容量性感知は、キーボードに近接する指によるジェスチャを検出するのに用いることができ、このジェスチャは、コマンドをタイプするのに用いることができる。
ある実施形態では、方法が、少なくとも2つのレベルの相互作用の差異(interaction differentiation)から検出された少なくとも1つのレベルの相互作用の差異を受け取ることを含む、入力装置に近接または接触しているオブジェクトと関連する知覚情報を受け取ることと、知覚情報からのコマンドを、少なくとも1つのレベルの相互作用の差異に応じて解釈することと、コマンドに基づき動作表示を出力することと、を含む。
別の実施形態では、システムが、キーボードに対する空間内部の少なくとも1つのジェスチャを受け取るように構成された環境捕捉コンポーネントと、少なくとも1つのジェスチャに基づきコマンドを識別するように構成された解釈コンポーネントと、少なくとも1つのジェスチャの情報とコマンドの結果とをレンダリングするように構成された出力コンポーネントであって、この情報は仮想ディスプレイ上でレンダリングされるように構成されている、出力コンポーネントと、を含む。
追加的な実施形態では、コンピュータ実行可能な命令が記憶されている、コンピュータ可読記憶媒体が説明され、命令は、実行に応じて、コンピューティングデバイスに、実行されるべき少なくとも1つのコマンドを示すジェスチャを検出することと、ジェスチャを、複数のコマンドから選択された少なくとも1つのコマンドとして解釈することと、少なくとも1つのコマンドの結果を、仮想空間内部の知覚可能なイベントとして開始することと、を含む動作を実行させる。
更に別の実施形態では、システムが、ジェスチャの形式で入力を受け取る手段と、ジェスチャを、近接性レベル、電気的導通性レベル、および作動レベルのうちの1つまたは複数に応じて、1組の択一的なコマンドから選択されたコマンドに変換する手段と、コマンドの結果を、知覚可能なフォーマットで、遠隔の表示装置に出力する手段と、を含む。
更に別の実施形態は、キーのアレイを含むキーボードを含むコンピューティングデバイスである。このコンピューティングデバイスにおいて、キーのアレイの少なくとも1つの部分集合が、その少なくとも1つの部分集合のそれぞれのキーに加えられた圧力を検出するように構成されたそれぞれの変位作動式スイッチを含む。このコンピューティングデバイスは、キーボードに近接する指を検出するように構成された少なくとも1つの容量性センサを更に含む。
以上の概要は、説明のためだけのものであり、いかなる意味でも限定を意図しない。上述した説明のための態様、実施形態および特徴に加えて、別の態様、実施形態および特徴が、図面と以下の詳細な説明を参照することにより明らかになるはずである。
様々な非限定的な実施形態が、以下の添付の図面を参照して、更に説明される。
概観
以下の詳細な説明では添付の図面を参照するが、これらの図面は、詳細な説明の一部を形成する。詳細な説明、図面、および特許請求の範囲に記載されている説明のための実施形態は、限定的であることを意味していない。ここで提示される主題の趣旨または範囲から逸脱することなく、他の実施形態を用いることが可能であり、他の変更を行うことが可能である。本明細書で一般的に説明され図面に図解されている本開示の複数の態様は、広範な異なる構成においては、整理され、置き換えられ、組み合わされ、分離され、設計されることが可能であり、これらのすべてについて、本明細書で明示的に企図されることが容易に理解されよう。
以下の詳細な説明では添付の図面を参照するが、これらの図面は、詳細な説明の一部を形成する。詳細な説明、図面、および特許請求の範囲に記載されている説明のための実施形態は、限定的であることを意味していない。ここで提示される主題の趣旨または範囲から逸脱することなく、他の実施形態を用いることが可能であり、他の変更を行うことが可能である。本明細書で一般的に説明され図面に図解されている本開示の複数の態様は、広範な異なる構成においては、整理され、置き換えられ、組み合わされ、分離され、設計されることが可能であり、これらのすべてについて、本明細書で明示的に企図されることが容易に理解されよう。
ディスプレイとタッチスクリーンが組み合わされたものを経由してコンピュータシステムに運ばれるコマンドが、ますます用いられるようになった。元来は、このようなコマンドは、アイコンが表示されているスクリーン上の位置で(例えば、指先で)スクリーンを押すことによってアイコンを選択することに限られていた。しかし最近は、電話、コンピュータ、タブレット、およびそれ以外のデバイスにおいて、表示を横方向または垂直方向に移動させるためのタッチ表面を横断するスウィープ状の動き、表示されている画像を回転させるために2本の指でスクリーンに触れて回転させること、および表示されている画像を縮小または拡大するための放射状の動きを利用することなど、進んだ機能が組み入れられてきている。これらのコマンドに人気があるのは、これらのコマンドが自然で直感的な動作を用いており、例えばディスプレイに対して仮想的な質量や仮想的な摩擦を加えることによって、結果が現実のオブジェクトを模倣できるからである。しかし、これらの新しいコマンドにも限界がいくつか存在する。例えば、コマンドがディスプレイだけに関係しているために、これらのコマンドはディスプレイ自体にだけ影響を及ぼすことが可能であり、したがって、その適用に限界がある。
上述したように、今日、コンピューティングデバイス上で費やされる大量の時間は、ユーザの観点からは、タイピングすることで消費されている。通常、キーボードはディスプレイと切り離されているから、(例えば、シフトロックやカーソル移動などの)タイピングに関係するコマンドを、ディスプレイ内に配置するのは現実的でない。その理由は、例えば、現在、ユーザによって用いられているキーから更に遠くにあるなど、ディスプレイが、ユーザの物理的な入力から遠く離れすぎているからである。場合によっては、ラップトップにおいてはユーザの親指の近くに配置されているのが典型的であるマウスパッドは、手が遠くに移動する必要がないという理由から、類似した複数のコマンドに用いられることがありうる。しかし、(例えば、スウィープの動き、回転、半径方向の動きなどの)2次元的なスクリーン空間におけるタッチスクリーンというコンテキストにおいて進歩してきた新たなコマンドは、マウスパッドやタブレット上でのタイピングの動きには適していない。
更に、これらの新たなタッチスクリーンコマンドは、タッチ表面の上方にある空間を利用できないため、タッチスクリーンに向かう方向またはタッチスクリーンから遠ざかる方向の動きが、どのような効果も生じない。更に、これらの新たなタッチスクリーンコマンドは、すぐに陳腐化する可能性があるハードウェアに、すなわちディスプレイに基づいている。例えば、ディスプレイは仮想現実ヘッドギア(後述)によって置き換えられるか、または補完されることが予測されている。したがって、これらのコマンドは、その現在の形式では、やはり陳腐化する可能性がある。
様々な非限定的な実施形態が、様々なジェスチャを実質的に同時にタイピングとして適用できることにより、タイピングをする人々の労働条件が改善されうる環境での、様々なジェスチャの使用に向けられている。タイピングは、人々の時間の多くを消費させる活動であるが、現在のタイピングのパラダイムは非効率的でストレスを生じさせる。コンピュータがタイピストに要求するおかしいしイライラさせ間違いを生じさせる傾向を有する微小運動の時間密度を得て、それにタイピングに費やされた時間量を乗算すると、その結果は、かなり大量の時間およびエネルギの浪費であり、イライラの原因であり、おそらくは、ユーザが受ける様々なストレスに起因する、多くのストレスに関係する不具合の原因である。長年にわたる改革を求める声にもかかわらず、QWERTYキーボードは現状のまま留まるように思われる。しかし、議論の余地はあるもののQWERTYキーボードより不便なカーソル制御やそれ以外のコマンドに対しては、ほとんど注意が向けられてきていない。
例えば、QWERTYキーボードは、26個の文字キーと10個の数字キーを含み、更に48個の他のキーを備えているので、他のキーと本質的な数字/文字キーとの比率は4:3である。これらの48個のキーのうちで、いくつかは印刷記号のキー(例えば、コロンやセミコロンのためのキー)である。これらの印刷記号を引くと、「他の」キーの数は37個に減るが、それでもまだ、数字/文字/記号のキーよりも多い。
ナイーブな人は、ほとんどのキーを解読できないだろう。多くは(例えば、「F6」のように)暗号的であり、経験またはルックアップテーブルがなければ、使えない。他に、(例えば、「キャプスロック」または「?」のように)その機能を明示的に宣言しているキーも存在する。暗号的なキーと明示的なキーとの比率は、おおよそ2:1である。これらのおおよそ27個の暗号的でミステリであるキーの配置および関係には、ほとんど論理的でない。
多くのキーは、非本質的な機能を有し、多くの人々がいくつかのキーが何をするのか知らない。これらのキーによって、議論の余地はあるだろうが、キーボードを拡大させるべきではないのである。タイピストであればこれらのキーの機能についてぼんやりとした考えをもっているのかもしれないけれど、他に、まったく用いられないキーもある。したがって、いくつかのキーは削除されて、メニュによる選択肢によって置き換えられるべきなのである。
キーを介してコマンドを入力するには、ユーザに対して正確な動作が要求され、意図していたキーを指が外し、隣接するキーをヒットすると、精度の欠如のために、希望しない動作が生じてしまう。近くに設置された「タブ」、「キャプスロック」、「シフト」、および「コントロール」は、特に、いらだたしい混同を生じさせる傾向がある。不必要なマクロ、ウインドウ、またはモードもキーを打ち間違えることから生じる。これらのエラーのために、ユーザが事故の前に居た場所に戻るには、追加的な正確な動作が次に必要となる。デバイスのサイズが小さくなるにつれて、それに対応してキーのサイズも小さくする圧力が生じることになり、耐え難いほどに小型のキーボードによって、ユーザのフラストレーションが悪化することになりかねない。
(現在では、「マウスパッド」上で実行されるのが通常である)マウス/クリックコマンドは、コンピュータシステムの必須の部分にもなりうる。しかし、これは、キー自体よりも劣っていることが多い。マウスパッドは、寸法が小さいために正確な動きが要求されるから、ユーザにそのエネルギを浪費させることになるし、また、マウスパッドは、それ自体ではいかなる動作も実行することができず、補助的な左クリックまたは右クリックを必要とする。
マウスパッドの代わりにディスプレイをタッチスクリーンとして用いることは、精度の問題の助けになる。しかし、上述したように、これには、手をキーパッドから離れてタッチスクリーンに向かう方向に移動させることが要求され、自分の手を前後に移動させることの結果として、新たな不自然さが生じてしまう。
従来型の入力装置とその限界とに伴う上述の問題を考察すると、本明細書において説明される1つまたは複数の実施形態は、物理的ディスプレイを必要としないコンパクトなシステムを提供する。例示的な実施形態では、仮想現実デバイスが、テキストとキーボード画像とをユーザのパースペクティブからの現実世界上に重ね合わせることができる。
ある実施形態では、少なくとも2つのレベルの相互作用の差異から検出された少なくとも1つのレベルの相互作用の差異を受け取ることを含む、入力装置に近接または接触しているオブジェクトと関連する知覚情報を受け取ることと、知覚情報からのコマンドを、少なくとも1つのレベルの相互作用の差異に応じて解釈することと、コマンドに基づき動作表示を出力することと、を含む方法が本明細書で説明される。
ある例によると、少なくとも2つのレベルの相互作用の差異が近接性レベルと電気的導通性レベルとを含む。この例では、知覚情報を受け取ることは、近接性レベルをキャパシタンスに応じて解釈すること、または、オブジェクトによる入力装置の少なくとも1つのコンポーネントの表面の接地に基づき電気的導通性レベルを感知すること、の少なくとも一方を更に含む。更にこの例では、この方法は、近接性レベルの解釈と電気的導通性レベルの感知とに基づきコマンドジェスチャの数を増加させることを更に含む。
上述の例では更に、近接性レベルを解釈することが、少なくとも1つの共振回路からの出力に基づき入力装置の上のオブジェクトの高さを確認することと、入力装置に対するオブジェクトの横方向の位置を特定することと、を含む。更に、高さを確認することが、入力装置の第1のコンポーネントの第1の共振周波数と入力装置の第2のコンポーネントの第2の共振周波数とを比較し、第1の共振周波数と第2の共振周波数とのうちの最低共振周波数を決定することと、最低共振周波数に基づき、オブジェクトが第1のコンポーネントにより近いこと、または、オブジェクトが第2のコンポーネントにより近いことを決定することを含む、最低共振周波数に基づきオブジェクトと入力装置との間の距離を測定することと、を含む。別の例では、高さを確認することが、入力装置のコンポーネントの応答を比較することと、オブジェクトの高さを間接的に確認するために、三角関数を応答に適用することと、を含む。
別の例では、横方向の位置を特定することが、入力装置の第1のコンポーネントの第1の共振周波数と入力装置の第2のコンポーネントの第2の共振周波数とを計算することと、第1の共振周波数と第2の共振周波数との間の極小値に応じて、横方向の位置を決定することと、を含む。別の例では、横方向の位置を特定することが、第1のコンポーネントの第1の共振周波数と、第1のコンポーネントに隣接する第2のコンポーネントの第2の共振周波数との間の差を検出することと、オブジェクトが第1のコンポーネントにより近いこと、または、オブジェクトが第2のコンポーネントにより近いことを、差に応じて決定することと、を含む。
更なる例によると、動作表示を出力することが、第1の部分と第2の部分とを含む仮想ディスプレイ上でアイテムをハイライト表示することを含み、第1の部分が動作表示と関連するコマンドを含み、第2の部分が入力装置の仮想表現を含む。更にこの例では、アイテムをハイライト表示することが、オブジェクトが入力装置と物理的に接触していることに応答して実行される。
別の例によると、知覚情報を受け取ることが、入力装置に近接するまたは接触する2つ以上のオブジェクトを同時に検出することと、ジェスチャコマンドのために2つ以上のオブジェクトを単一のオブジェクトとして識別することと、を含み、知覚情報を受け取ることが、単一のオブジェクトと関連する知覚情報を受け取ることを含む。別の例では、動作表示を出力することが、ディスプレイ装置に、動作表示を含む信号と、ディスプレイ装置による出力のためのコマンドの解釈とを送信することを含む。いくつかの例では、コマンドの解釈がオブジェクトの動きを補間することを含む。更に、いくつかの例では、補間することが、入力装置の複数のコンポーネントからデータを受け取ることと、データに基づき、オブジェクトを特定するなめらかな線を構築することと、を含む。
別の実施形態では、本明細書で説明されるシステムは、キーボードに対する空間内部の少なくとも1つのジェスチャを受け取るように構成された環境捕捉コンポーネントと、少なくとも1つのジェスチャに基づきコマンドを識別するように構成された解釈コンポーネントと、少なくとも1つのジェスチャの情報とコマンドの結果とをレンダリングするように構成された出力コンポーネントであって、情報は仮想ディスプレイ上でレンダリングされるように構成される、出力コンポーネントと、を含む。ある例によると、解釈コンポーネントが、更に、少なくとも1つのジェスチャと関連する近接性または電気的導通性を確認するように構成される。更にこの例では、解釈コンポーネントが、更に、カーソル制御を検出することにより近接性を確認するように構成され、機械的作動が手動のコマンドを示すことを確認するように構成されており、電気的導通性が仮想ディスプレイにおけるキーのハイライト表示を容易にする。いくつかの例では、環境捕捉コンポーネントが、キーボードに対するおよび近接する空間における移動を検出し、キーボードに加えられた圧力を検出するように構成される。更にこの例では、出力コンポーネントが、更に、キーボードに加えられた圧力の検出に応答して仮想ディスプレイの少なくとも一部をハイライト表示するように構成されている。
別の例では、このシステムは、キーボードの上の指先の高さと横方向の位置との決定への入力としてキャパシタンスを測定するように構成されたセンサを更に含む。この例では、指先とキーボードのキーとが共振回路のコンデンサを形成し、指先とキーのサイズの2分の1を単位とする分離距離をdとすると、指先とキーの間のキャパシタンスが物理学で1/dに比例し、ここで、共振回路の周波数が距離の尺度である。更にこの例では、このシステムは、指先が1対のキーにおいて第2のキーよりも第1のキーにより近い度合いを表すうなり周波数を測定するように構成された評価コンポーネントを更に含む。第1のキーと第2のキーとのうなり周波数は、指先が第1のキーと第2のキーとの間にあることに応答して消滅する。
更なる例によると、仮想ディスプレイは、拡張現実メガネを含む。別の例では、キーボードがそれぞれの親指で作動されるスペースバーを有する2つの部分を含んでおり、2つの部分が、その2つの部分自体と関連するキーを覆うように相互に折り畳まれるように構成される。
追加的な実施形態では、コンピュータ実行可能な命令が記憶されている、コンピュータ可読記憶媒体が説明される。命令は、実行に応答して、コンピューティングデバイスに、実行されるべき少なくとも1つのコマンドを示すジェスチャを検出することと、ジェスチャを、複数のコマンドから選択された少なくとも1つのコマンドとして解釈することと、少なくとも1つのコマンドの結果を、仮想空間内部の知覚可能なイベントとして開始することと、を含む動作を実行させる。1つまたは複数の例によると、ジェスチャを検出することが、少なくとも1つのコマンドを示すジェスチャと、1組の一般的な近接性レベルのジェスチャ(common proximity-level gestures)とを区別することを更に含み、1組の一般的な近接性レベルのジェスチャが無視される。別の例では、ジェスチャを検出することが、外部行為者と、キーボード上の導電性作動キーとの間の電気的接触を示す作動を受け取ることを更に含むことができる。更に別の例では、ジェスチャを検出することが、入力装置の第1の導電性作動キーの第1の共振周波数と入力装置の第2の導電性作動キーの第2の共振周波数とを比較し、第1の共振周波数と第2の共振周波数とのうちの最低共振周波数を決定することと、最低共振周波数に基づき、外部行為者が第1の導電性作動キーにより近いこと、または、外部行為者が第2の導電性作動キーにより近いことを決定することを含む、最低共振周波数に基づき外部行為者と入力装置との間の距離を測定することと、を含むことができる。更なる例では、ジェスチャを検出することが、入力装置の第1の導電性作動キーの第1の共振周波数と入力装置の第2の導電性作動キーの第2の共振周波数とを計算することと、第1の共振周波数と第2の共振周波数との間の極小値に応じて、外部行為者の横方向の位置を決定することと、を含むことができる。
いくつかの例によると、ジェスチャを解釈することが、ジェスチャが、スウィープジェスチャ、プッシュプルジェスチャ、サークルジェスチャ、デフレクションジェスチャ、拡大縮小ジェスチャ、または回転ジェスチャのうちの少なくとも1つであることを確認することを含む。別の例によると、結果を開始することが、第1の部分と第2の部分とを含む仮想ディスプレイ上でアイテムをハイライト表示すること、第1の部分によってジェスチャと関連するコマンドを図解すること、および第2の部分によって入力装置の表現を提示することを含む。別の例では、アイテムをハイライト表示することが、外部行為者と入力装置との間の物理的接触に応答する。
更に別の実施形態では、本明細書に記載されているシステムは、ジェスチャの形式で入力を受け取る手段と、ジェスチャを、近接性レベル、電気的導通性レベル、および作動レベルのうちの1つまたは複数に応じて、1組の択一的なコマンドから選択されたコマンドに変換する手段とを含む。システムはまた、コマンドの結果を、知覚可能なフォーマットで、遠隔の表示デバイスに出力する手段を含む。
ある例では、このシステムは、近接性レベルをキャパシタンスに応じて解釈する手段と、オブジェクトによる入力装置のコンポーネントの表面の接地に基づき電気的導通性レベルを感知する手段と、外部の力による前記コンポーネントの移動から作動レベルを検出する手段と、を更に含む。
本明細書で説明される更に別の実施形態は、キーボードを含むコンピューティングデバイスである。キーボードは、キーのアレイであって、キーのアレイの少なくとも1つの部分集合が、少なくとも部分集合のそれぞれのキーに加えられた圧力を検出するように構成されたそれぞれの変位作動式スイッチを備えている、キーのアレイと、キーボードに近接する指を検出するように構成された少なくとも1つの容量性センサと、を含む。このコンピューティングデバイスは、キーボードに近接するジェスチャをコマンドに変換するように構成された変換モジュールと、コマンドに応じて表示を変更するように構成されたプロセッサと、を更に含む。ある例では、このキーボードは、容量性相互作用、導電性相互作用、または機械的相互作用から相互作用情報を受け取るために、指とキーの少なくとも1つの部分集合との間の電気的接触を検出するように構成される。いくつかの例では、ディスプレイが遠隔仮想ディスプレイであり、プロセッサが、信号を生成し信号を遠隔仮想ディスプレイに送信するように更に構成される。他の例では、変換モジュールが、異なるコマンドに対応する1組のコマンドジェスチャを含むデータストアにアクセスするように更に構成される。別の例では、データストアが、1組のコマンドジェスチャと区別可能な1組の一般的な近接性レベルのジェスチャを更に含む。
本明細書では、ジェスチャキーボードを提供するための実施形態のいくつかに関する概観が、以上で提示されてきた。以下で述べることのためのロードマップとして、拡張現実のためのジェスチャベースユーザインターフェースのための様々な例、非限定的な実施形態、および特徴が、詳細に説明されている。そして、そのような実施形態および/または特徴を実装することができる計算環境のための非限定的な実装形態が与えられる。
拡張現実のためのジェスチャベースユーザインターフェース
上述したように、様々な実施形態において、コマンドを認識し、ジェスチャの形式で入力を行い、コマンドに基づいて1つまたは複数の動作を実行するように構成されたジェスチャキーボードが開示されている。いくつかの態様では、コマンドの1つまたは複数を、タイピングの形式で入力が可能である。いくつかの態様によると、コマンドを、ジェスチャとタイピングの組み合わせで入力することもできる。本明細書で用いられるとき「タイピング」とは伝統的なタイピング動作(例えば、キーボード上のキーとの接触)を、「ジェスチャ」とはキーボードの上方または近傍での動き(例えば、タイピング以外の動作)を、意味する。ある例では、この1つまたは複数のコマンドが、拡張現実の中で実行される。図1は、コマンドを認識し実行するための方法の例示的で非限定的な実施形態を図解する流れ図を示している。図1の流れ図は、例えば、本明細書で説明される(図4の)システム400などのシステムの任意のものを用いて実行されうる。ここでの説明を通じて用いられる例は、キーボードおよび/またはメガネに関するものである。キーボードは、容量性のキーボードを含みうる。メガネは、ヘッドマウントギアを含みうる。しかし、本明細書で説明される実施形態はキーボードおよび/またはメガネという特定の例に限定されないこと、また、本明細書で説明される実施形態は他の入力装置および/または出力装置と共に機能すると考えるべきであること、を理解すべきである。
上述したように、様々な実施形態において、コマンドを認識し、ジェスチャの形式で入力を行い、コマンドに基づいて1つまたは複数の動作を実行するように構成されたジェスチャキーボードが開示されている。いくつかの態様では、コマンドの1つまたは複数を、タイピングの形式で入力が可能である。いくつかの態様によると、コマンドを、ジェスチャとタイピングの組み合わせで入力することもできる。本明細書で用いられるとき「タイピング」とは伝統的なタイピング動作(例えば、キーボード上のキーとの接触)を、「ジェスチャ」とはキーボードの上方または近傍での動き(例えば、タイピング以外の動作)を、意味する。ある例では、この1つまたは複数のコマンドが、拡張現実の中で実行される。図1は、コマンドを認識し実行するための方法の例示的で非限定的な実施形態を図解する流れ図を示している。図1の流れ図は、例えば、本明細書で説明される(図4の)システム400などのシステムの任意のものを用いて実行されうる。ここでの説明を通じて用いられる例は、キーボードおよび/またはメガネに関するものである。キーボードは、容量性のキーボードを含みうる。メガネは、ヘッドマウントギアを含みうる。しかし、本明細書で説明される実施形態はキーボードおよび/またはメガネという特定の例に限定されないこと、また、本明細書で説明される実施形態は他の入力装置および/または出力装置と共に機能すると考えるべきであること、を理解すべきである。
100では、知覚情報が受け取られる。知覚情報は、入力装置と近接または接触しているオブジェクトと関連する。ある特定の例では、入力装置はキーボードであり、オブジェクトは指先またはキーボードと相互作用する外部行為者(例えば、人)によって用いられる別のアイテムでありうる。例えば、人が、手のジェスチャの形式でまたはタイピングによりコマンドを入力するために、キーボードと相互作用をすることがありうる。このようなコマンドが、知覚情報として受け取られうる。
100におけるこの受け取りは、少なくとも2つのレベルの相互作用の差異から検出された少なくとも1つのレベルの相互作用の差異を受け取ることを含みうる。いくつかの態様では、相互作用の差異は、タイピングによって入力されたコマンドと、ジェスチャとして入力されたコマンドとの間での区別が可能である。ある例では、この少なくとも2つのレベルの相互作用の差異には、近接性のレベルと電気的導通性のレベルとが含まれる。キーボードの場合での特定の非限定的な例では、近接性レベルはキャパシタンスによって感知が可能であり、電気的導通性レベルはユーザの指によるキー表面の接地によって感知が可能である。いくつかの例では、別のレベルの相互作用の差異として、作動レベルが含まれる。作動レベルは、力または押下によるキーの作動によって感知が可能である。
102では、知覚情報からのコマンドが、検出された少なくとも1つのレベルの相互作用の差異に応じて解釈されうる(例えば、近接性レベル、電気的導通性レベルの少なくとも1つ、または、いくつかの態様では、作動レベル)。例えば、解釈されたコマンドは、複数のコマンドからの選択が可能である。例えば、ジェスチャの形式で受け取られる解釈されたコマンドは、コマンドとして機能することが意図されていない1組の一般的な近接性レベルのジェスチャからも区別が可能である。そのジェスチャが一般的な近接性レベルのジェスチャであると判断される場合には、そのジェスチャは無視される(例えば、コマンドとして実行されない)。以下では、様々なタイプのジェスチャに関係する更なる情報を提供する。
104では、コマンドに基づいて、動作表示が出力される。例えば、この出力される表示には、仮想キーボードを表す仮想ディスプレイにおけるキーをハイライト表示することが含まれうる。他の例としては、カーソルの移動、ページの移動、カット、コピーおよびペーストのためのハイライト表示、ならびに、仮想ディスプレイでの表現が可能なドキュメントの中で実行されるべきそれ以外の動作が含まれる。別の例では、出力される表示は、仮想空間の中の知覚可能なイベントとしての提示が可能である。更なる例では、出力される表示は、作動レベルとして、テキストファイルに記号を追加することを含みうる。別の態様によると、仮想ディスプレイは、拡張現実メガネを用いることにより実装が可能である。
本明細書で開示されているこのおよび他のプロセスおよび方法に関しては、これらのプロセスおよび方法で実行される機能は異なる順序でも実行が可能であることを、当業者であれば、理解するはずである。更に、ここで概観されたステップおよび動作は、単に例として提供されているのであり、これらのステップおよび動作のいくつかはオプションでありうるのであって、開示されている実施形態の本質から離れることなく、組み合わされてより少数のステップおよび動作になったり、追加的なステップおよび動作に拡大されたりすることがありうる。
次に図2を参照すると、ある態様によるジェスチャキーボードを用いている人の特定の非限定的な例が図解されている。キーボード206上に置かれている左手202と右手204とが示されている。右手204の指が、キーボード206の右側から距離h1の上方に配置されている。開かれた左手202は、キーボード206の左側から距離h2の上方に配置されている。ある例では、キーボードの上方における指先の高さと横方向の位置の両方を検出することができる。高さと横方向の位置との検出に関する追加的な情報が、以下で更に詳細に提供される。
いくつかの態様では、ユーザが、いくつかの状況で、接地されている場合がある。キーボードは、***リムまたは軽くバイアスがかけられた接地バーを含みうるのであり、それに接するように手首を乗せることができることで、ユーザおよびユーザの両手が接地電位にあることが保証される。オプションとして、接地のためのリストストラップが提供されることもある。
タイピングのときは、両手202、204は、1つまたは複数のジェスチャを入力するのに用いられる位置と類似する位置に、キーボード206の上に置かれる。ある態様では、1つまたは複数のジェスチャは、容量性のジェスチャでありうる。例えば、知られている容量性のキーボードでは、キーは、指の近接性に起因する「手のキャパシタンス」によって作動される。この開示されている態様によると、キーボードのキーは、指先の近接性を検出するのに用いられる回路に接続されている。キーボードへの指先の近接性の検出は、キーボードに対する空間における指の動きを検出するのに用いられ、よって、手のジェスチャを検出することができる。手のジェスチャは、コマンドとして機能し、いくつかの態様によると、タイピングコマンドとしても機能する。
開示されているいくつかの態様では、スクリーンの移動、カーソルの移動、リターン機能、コントロール機能、クリッキングなどのために用いられるコマンドなど、キーによって作動されるものやマウスパッドのコマンドに代わるものとして、容量性の手のジェスチャを用いることができる。従来型のシステムでは、これらのコマンドは、正確な動きを用いて実行され、しばしばエラーを生じさせる。しかし、本明細書で開示されているように、これらのコマンドは、より少ないエラーしか生じないように、精度がより低い動きを用いて入力することが可能なのである。
ある例では、センサが、キーボード206の上方の指先の高さと横方向の位置との決定への入力としてキャパシタンスを測定するように構成されている。例えば、手のキャパシタンスは、センサが高さと横方向の位置とを決定するのに用いることができる。「手のキャパシタンス」という用語は、元来、人の手が無線アンテナの近くに持ってこられたときのその無線アンテナのキャパシタンスの変化を意味していた。可変コンデンサがラジオのチューニングに用いられるのであるが、特に、影響を生じさせる人間が接地されているときには、そのアンテナの近傍に手または身体の他の部分が存在することによって、アンテナのチューニングがずれてしまうことがある。
手のキャパシタンスは、テルミンの基礎として、意図的に用いられた。なお、テルミンとは、直接的な接触なしで演奏された最初の楽器である。テルミンは、任意のピッチの音を生じ、演奏者の手が動くにつれて、その音は、急速に周波数を掃引することができるのである。テルミンでは、アンテナが用いられる。そして、そのアンテナは、共振LC(インダクタ・コンデンサ)回路を含むオーディオ周波数発振器に結合されている。演奏者の手がアンテナに近づくまたはアンテナから遠ざかることによってアンテナのキャパシタンスに変動が生じると、LC発振の周波数が変動する。発振は電子的に増幅され、次にラウドスピーカに送られ、人の手の位置によって決まるピッチの音が生じるのである。
導電性または部分的に導電性のオブジェクトは、どのようなものでも、キャパシタンスを有し、そのキャパシタンスは、近くに持ってこられた別のオブジェクトによって影響を受ける(その別のオブジェクトのキャパシタンスも、同じように影響を受ける)。例えば人の指は、何らかのキャパシタンスを有している。別の小さな導電性のオブジェクトも、これはキーボード上のキーであるかもしれないが、やはりキャパシタンスを有しており、したがって、これら2つのオブジェクトは相互キャパシタンスを有する。これらの相互キャパシタンスは、幾何学的形状によって決定される。
平行板コンデンサでは、極板が近接しているために、キャパシタンスは大きい。第1の極板が接地されていると、バッテリによって第2の極板上に電圧が生じ、第2の極板上に電荷が生じる(第1の極板は接地されているので、第1の極板には生じない)。オブジェクトのキャパシタンスは、そのオブジェクトを1ボルトの電位まで上昇させるときに、そのオブジェクトに集積する電荷の量として定義される。
極板を離れる方向に移動させると、電荷は第2の極板から流れ出て電池に戻る。第2の極板がバッテリに接続されていない場合には、電荷は一定のままであるが、極板が離れると電圧が上昇する。結果的には、帯電している極板が接地されている極板から非常に離れているため、接地されている極板の影響は背後の影響(周囲にある接地されているすべてのオブジェクト)の中に吸収され、それ以上離しても差を生じない。したがって、孤立しているオブジェクトのキャパシタンスは、いずれかの他の特定のオブジェクトではなく、(接地電位を有する)宇宙との関係で決定される。
指先は、そのキャパシタンスを調べるという目的に関しては、球として、おおよそモデル化できる。孤立している球のキャパシタンスを求める公式は、aを球の半径として、C=4πε0aである。空気中で保持されている指先が半径0.6センチメートルの球で近似されるとすると、そのキャパシタンスは、4π×(8.85×10−12F/m)×0.006m=6.67×10−13F、すなわち、3分の2ピコファラッドとなる。
しかし、球(すなわち指)が何かの近くに持ってこられると、そのキャパシタンスは増加する。半径がaであり、中心の間がdだけ分離している2つの球の間のキャパシタンスは、次の通りである。
C=4πε0(a2/d){1+[a2/(d2−2a2)]+・・・[より高次の項]}
dが2aに近づくと(すなわち、2つの球が、接触する方向に接近すると)、(d2−2a2)という量はゼロに近づき、[a2/(d2−2a2)]は非常に大きくなり、したがって、キャパシタンス自体も同様に非常に大きくなる。(このとき、(a2/d)という量は0.5に近づくため、[a2/(d2−2a2)]よりも重要性が小さくなる。)より高次の項を無視し、球が単位半径を有する(ただし、d≧2)と仮定すると、相対的なキャパシタンスは、次の通りである。
(1/d){1+[1/(d2−2)]+・・・}
すなわち、おおよそ1/dである。指先とキーボード上のキーとは、共に、同一サイズの球であるものとして近似できるので、指先とキーとの間のキャパシタンスは、近似的に1/dに比例するものと考えることができる。なお、dは、指先とキーボードとのサイズ(指先とキーボードのキーとは同一のサイズ)の半分を単位とする分離距離である。
C=4πε0(a2/d){1+[a2/(d2−2a2)]+・・・[より高次の項]}
dが2aに近づくと(すなわち、2つの球が、接触する方向に接近すると)、(d2−2a2)という量はゼロに近づき、[a2/(d2−2a2)]は非常に大きくなり、したがって、キャパシタンス自体も同様に非常に大きくなる。(このとき、(a2/d)という量は0.5に近づくため、[a2/(d2−2a2)]よりも重要性が小さくなる。)より高次の項を無視し、球が単位半径を有する(ただし、d≧2)と仮定すると、相対的なキャパシタンスは、次の通りである。
(1/d){1+[1/(d2−2)]+・・・}
すなわち、おおよそ1/dである。指先とキーボード上のキーとは、共に、同一サイズの球であるものとして近似できるので、指先とキーとの間のキャパシタンスは、近似的に1/dに比例するものと考えることができる。なお、dは、指先とキーボードとのサイズ(指先とキーボードのキーとは同一のサイズ)の半分を単位とする分離距離である。
キーと指先とがLC共振回路のコンデンサを形成するのに用いられる場合に、共振周波数は近似的にdの平方根として変動するが、これは、周波数が、LとCの積の平方根の逆数に比例するからである。dは指またはキーのいずれかのサイズに相当する単位を有するから、キー・指先回路の周波数は、特に指先がキーに近接しているときには、感度が高い距離の尺度となる。
それぞれのキーが、コンデンサの一部としての当該キー自体と固定されたインダクタンスとによって形成されるそれ自身の共振回路を有する場合には、最低の共振周波数を有するキーが、指先に最も近接しているキーであり、その周波数が指先から最も近くにあるキーまでの距離(例えば、高さ)の尺度である。
キーと関連する回路の共振周波数によって決定されるそれらの相互キャパシタンスを測定することによって指からキーまでの距離を測定することとは別に、指の高さは、三角法によって、キーの応答を比較することによっても間接的に検出が可能である。空中にある指先から真下のキーまでの距離と同じ指先から隣接するキーまでの距離との比率は、指先がその指先の真下にあるキーに近づく方向に移動するにつれて増大する。真下のキーまでの距離がdであるときには、その次のキーまでの距離は1.41dである。その理由は、2つのキーが45度−45度−90度の直角3角形を形成するからである。高さがより大きい場合には、30度−60度−90度の直角3角形が形成され、距離の比率は、1.41ではなくて、1.15である。指がキーボード表面に近づくほど、隣接するキーの間での指までの距離の比例差が大きくなり、また、隣接するLC回路の周波数の差も大きくなる。最も近い指までの距離は、比率によっても、同様にして計算できる。
いくつかの態様では、センサを、局所的な領域ではそのLC回路において最低の周波数を有するキーを見つけることによって、位置を検出するように構成することが可能である。指先によって2つのキーに同一の共振周波数を有することになる場合には、その指は、2つのキーの中間にあるのである。
共振周波数は距離の平方根として変動するのだから、周波数の変化と距離の変化との比率は、最短の距離のときに最大になり、距離が大きくなると、はるかに小さくなることに留意されたい。すなわち、このデバイスは、より近い距離においてより感度が高いことになる。この物理的な事実は、本明細書に開示されているジェスチャベースシステムの有用性を高める。というのは、手をキーボードに対して平坦で平行に保持するようなジェスチャ(後述する)は、より高い位置で実行される可能性はあるが、ジェスチャ検出回路において混乱を生じさせる可能性は低いからである。
いくつかの態様によると、うなり周波数(beat frequency)が提供される。うなり周波数とは、指先が、1対のキーにおいて、第2のキーよりも第1のキーの方により近接している度合いを表す。例えば、それぞれのキーの共振周波数を直接的に用いて、上方にある指を示す周波数の極小値を見つけることができる。いくつかの態様では、それぞれのキーの共振周波数を、2つの隣接するキーの周波数の差異(変調)であるうなり周波数を見つけることにより、間接的に利用することができる。
うなり周波数は、指先が他方のキーよりも一方のキーに、より近接している度合いを表す。2つのキーの間のうなり周波数が消滅するときは、指がこれらのキーの中間地点にある。同様に、ユーザの手が遠く離れているときは、どのようなキーの対をとっても、うなり周波数は本質的にゼロである。これは、それぞれのキーが、ほとんど同一の周波数を有しているからである(上述したように、dの平方根として変動するから)。一般に、キーボードの近くにある単一の指先は、ほぼゼロのうなり周波数のリングまたはループによって囲まれるが、それぞれのリングまたはループの中のキーは、キーの下の点から更に離れているまたはより近いキーとの関係では、非ゼロのうなり周波数を有する。
いくつかの態様では、1次のうなり周波数の間のうなり周波数である2次のうなり周波数を見つけることができる。2次のうなり周波数は、いくつかの状況においては、計算上の利点を提供することができる。3次および更に高次のものも見つけることができる。しかし、キーの外部の層が取り除かれるにつれて、それぞれの反復の度に結果の数は縮小するために、このプロセスには限度が存在する。
上述したように、相互作用には3つのレベルが存在し、これら3つのレベルの相互作用は、相互に機能的に区別されることにより、可能な限り最大の相互作用の差異が提供される。第1のレベルは近接性であり、近接性はキャパシタンスによって感知される。第2は電気的導通性であり、電気的導通性はユーザの指によるキー表面の接地によって感知される。第3は、標準的なキーボードのように、力または押下によるキーの作動である。いくつかの態様によると、より大きな機械的な凹凸および/またはより低いプロファイルに対しては、圧電デバイス、コンデンサマイクロフォンに似た容量性デバイス、またはそれ以外のデバイスなど、可動部分を有しないまたは可動部分が最小限のキーによって、力を感知できる。
容量性感知は、カーソル制御に用いられることがある。電気的導通性は、仮想ディスプレイにおいてあるキーをハイライト表示するために用いられることがある(例えば、「H」のキーは、軽く触れることで、仮想キーボードディスプレイにおいてハイライト表示することができる)。機械的なキー作動は、記号のタイピングや、またはユーザに深く染み込んでいる「エンタ」および「シフト」などのコマンドのために用いられることがあり、その理由で、おそらくは変更されるべきではない。
容量性ジェスチャと導通性ジェスチャとの差異は、コマンドジェスチャの数を倍増させる可能性がある。これは、「コントロール(ctrl)」などのキーが、選択された組のキーに対する機能の数を効果的に倍増させるのと同じである。例えば、キーボードの上で右方向に手を移動させること(スウィープ)は、カーソルを右へ移動させるコマンドになりうるし、他方で、キーを軽くブラッシングするのは、いくらか別のコマンドとなりうる。しかし、上で述べたばかりの2つのような重なることなく実行することが困難な2つのジェスチャは、非常に異なる意味を有するべきではなく、フラストレーションを生じさせるべきではない。今日、このフラストレーションは、意図していたキーの代わりに隣のキーを押下することによって、生じているのである。以下で更に詳細に論じられるが、容量性スウィープと導電性スウィープとの間での混乱を緩和する1つの方法として、ある最小距離またはある最短時間に及ぶ導電性スウィープだけを登録するというものがある。ジェスチャと関連するコマンドとに関係する更なる情報については、後述する。
手のキャパシタンスの感知は、仮想キーボード210と2つのドキュメント212(例えば、テキストドキュメントまたはそれ以外のタイプのドキュメント)を含むように示されている仮想ディスプレイ208と結合させることができる。仮想ディスプレイ208は、拡張現実メガネ214によって提供することが可能である。メガネ214を用いることで、このユニットをポケットサイズまで縮小することが可能であるし、また、追加的な表示および制御態様を備えた3次元ディスプレイを提供することもできる。
ある態様では、ユーザが、テキスト、画像、または現在作業をしている他の情報と、仮想キーボード210との両方を見ることを可能にするように、メガネ214を構成することができる。ここで、仮想キーボード210のキーは、ユーザによるキーボード206への軽い接触に応答してハイライト表示216させることができる。以下で論じるようなメガネによって、現在のフラットディスプレイを置き換えることができる。その理由は、メガネの方がより小型で、より軽く、盗難の可能性もより低く(というのは人によって携帯される可能性が高いから)、環境への負荷もより小さく、より安価にすることが可能であるからである。更に、メガネは、多くのアプリケーションと共に用いることができる拡張現実デバイスである。更に、耳に取り付ける電話や音楽装置を身につけるのが一般的であるように、メガネを装着することも一般的になりうる。
メガネ214は、テキストとキーボードの画像とを現実世界の上に重畳させる仮想現実デバイスを提供する。これにより、話している人と取っているテキストによるノートとの間で注意を分割することを必要とせずに、会議の間にノートをタイプすることが可能になる。更に、それらのノートはスクリーン上にではなくメガネ上だけに存在するため、機密性を維持することができる。
以下では、開示されている態様と共に用いることができるメガネに関係する情報を提供する。しかし、開示されている態様は、メガネに限定されることはなく、ラップトップ屋タブレットとの互換性を有する。仮想キーボードがディスプレイの下半分に、テキストが上半分に配置されたスプリットディスプレイを用いることができる。様々な態様と共に用いることができるメガネの1つのタイプとして、カール・ツァイス(Carl Zeiss)社からのシネマイザ(Cinemizer)があり、これによると、プライベート映画の視聴が可能になる。シネマイザは、物理的には、ラップアラウンド型のサングラスに類似している。2つの高解像度液晶ディスプレイ(LCD)スクリーンと2つの合焦可能なレンズシステムとを用い、画像は、6フィート(約182センチメートル)離れて置かれた1/20インチ(約0.125センチメートル)のピクセルで45インチ(112.5センチメートル)の対角サイズ(アスペクト比が3:4)の現実のスクリーンでのものと類似する。ある非限定的なテストは、電力は4時間継続し、重量は100グラムであった。
別の例では、開示されている態様と共に用いられたメガネでは、テンプル部分から投影された光線をユーザの目の中に反射させる、部分的に銀メッキをしたゼロジオプターレンズ(zero-diopter lenses)レンズを用いることができる。このメガネは、低出力のレーザダイオード(レーザポインタで用いられるタイプのものと類似する)を用いることができ、これは、単にパワーのオンオフを切り換えることによって、メガヘルツの速さで変調が可能である。変調されたレーザビームは、1つまたは複数のミラーによってラスタパターンにステアリングをして、画像を生じさせることができる。レーザビームを表面の上に走査するのではなく、メガネのレンズの部分的に銀メッキされた内側表面を集光鏡として用いることで、変調されたビームは、目の中に直接的に走査することが可能である(「仮想網膜ディスプレイ」)。
別の例によると、コンパクト性、外観、および光学的な理由のために、用いることができるメガネは、レーザとメガネのテンプルに設置されたビームステアリングミラーとを有するメガネである。ステアリングミラーは、上述したように、レンズの部分的に金属加工された内部からビームを目の中に反射させる。例えば、メガネのレンズは、外側部分の上を完全に銀メッキされた表面を有することがある。ただし、ユーザがそこを通して見る部分は、集光(合焦)要素として機能するように、放物面、回転楕円体、またはそれ以外の適切な形状として形成することができる。その効果は、ユーザの目の直前に配置された集光レンズの効果と類似しており、走査鏡がレンズ軸上に配置され、レンズを通過してユーザの目の中に至るようにビームを輝かせる。こうして、このレンズは、仮想的な画像を形成することができる。外観的なサイズは、レンズの焦点距離に依存することになる。
レーザビームがこのようにして直接に目の中に送られると、現実の画像は存在せず、したがって、合焦についての不安は存在せず、見かけの焦点距離と視差による見かけの距離(これらの間の不一致が疲労を生じさせうる)との間のミスマッチは存在しえない。集光鏡の焦点距離が、ユーザの視野角を決定するので、広範囲の画像が可能である。レーザビームは細いため、画像の解像度は高く、仮想的なオブジェクトは精細であり、投影された画像およびテキストは大きい必要がない。
フルカラーのステレオビジョンは、6つのレーザと対応する数のミラーとを用いることができる。これらのコンポーネントは小型であり、光学システムの全体を、依然として、厚いフレームのメガネのサイドレール(テンプル)の中に、ぴったりはめ込むことができる。(タイピングを含む)ほとんどの目的のために、モノクロの2次元または3次元の画像がやはり適している。2つのレーザダイオードと2つのビームステアリングミラーとにより、プッシュ/プルジェスチャを用いて、異なるテキストファイル(または、それ以外の画像)を背景の中に押し込んだり、手前に引き出したりすることを可能にする3次元画像を提供することができる。レーザポインタからなどの通常の赤色のレーザ光もまた、本明細書において論じている様々な態様に適応しうる。
(補正レンズでもありうる)メガネのレンズを例外として、メガネの残りのコンポーネントは小型である。したがって、メガネフレームの設計は制約を受けず、このメガネは、現在のスタイルと合致するように製作できる。本明細書で用いられるとき「メガネ」という用語は、画像を形成するコンタクトレンズや移植組織など将来において開発されるすべてのデバイスに及ぶことが意図されている。「メガネ」という用語は、また、単眼鏡やそれ以外の片目用のデバイスを含むことが意図されている。
上述したように、電気的導通性は、仮想ディスプレイ208においてキーをハイライト表示するのに用いることができる。仮想ディスプレイ208は、テキスト(および/または数字など)を示す上側部分と(ラップトップに類似の)キーボードを示す下側部分という2つの部分を有しうる。例えば、テキストを示す上側部分とキーボードを示す下側部分とは、2つのドキュメント212と類似するものでありうる。接地されているキーは仮想ディスプレイにおいてハイライト表示することが可能であり、これによって、タイピングがはるかに容易になる。エキスパートには至らないタッチタイピストは、数字キーや、ましてや「z」のキーを探すためにもディスプレイから視線を外すことがあるのだが、(キーボード210に示されているように)タッチしたキーをハイライト表示することができるのであるから、目をそらす必要はなくなるであろう。例えば、タッチされたキーを、明るくする、点滅させる、異なる色にする、またはそれ以外の方法でハイライト表示させることが可能であり、したがって、指を滑るように動かすことによって、希望するキーを容易に見つけることができる。いったん位置が特定されれば、エラーの可能性なく(または、最小限の可能性だけで)記号をタイプするためにキーを押下することができる。
図3は、ジェスチャキーボードを提供するのに用いることができる非限定的で例示的な電気回路300を図解している。3要素相互作用を達成するために、標準的なキーボードのキーの表面上に、金属フォイル302またはそれ以外の導電性部材を装備することができる。フォイル302は、コンデンサ極板と接地電極との両方として機能することができ、これらの電極は、下位の回路に結合することができる。指先304が近づくと、回路の周波数が変化する。キーボード308上のキー306が接触されると、したがって、接地されると、発振が停止する。例えば、フォイル302からのリード線310は電気的接点感知モジュール312への入力を提供することができ、電気的接点感知モジュール312はプロセッサ314と相互作用することができる。ある態様では、電気的接点感知モジュール312は、電気的導通性を検出するように構成されている。
キー306上のフォイル302は、接地された指304に対向するコンデンサ極板として作用し、リード線310を通じてインダクタ318と接続することによって、共振タンク回路(他のタイプの共振回路を用いることも可能である)を形成する。この回路は更に、例えば、周波数検出モジュール320に結合されており、コイル318における共振からの信号をピックアップすることにより、指304がキー306に近いのか、キー306から離れているのか、またはキー306と接触さえしているのか、を判断する磁気結合されたピックアップコイル316を含む。指304とフォイル302の物理的接触は、専用の接触感知回路312によっても感知されることが可能である。ピックアップコイル316、別の類似のコイル(図示せず)、またはタンク回路への別のタイプの接続により、例えば正のフィードバックを用いてインダクタ318とコンデンサ302/304によって形成されるタンク回路の発振を駆動することが可能である。いくつかの態様では、周波数検出モジュール320は、近接性を検出するセンサとして用いられる。
別の例では、キー306の下に配置された圧力スイッチ322がデバウンスモジュール324によって検出されることが可能であり、デバウンスモジュール324はプロセッサ314と通信することが可能である。ある態様では、圧力スイッチ322および/またはデバウンスモジュール324が、機械的作動の感知を容易にする。
プロセッサ314は、キーをモニタするように構成されており、周波数によって指の位置を確認することができる。または、別の態様では、プロセッサ314は、導通性だけを検出する並列回路によってキーをモニタすることができる。プロセッサ314は、出力(例えば、コマンド、情報、動作表示などの結果)がディスプレイ326上でレンダリングされるようにすることができ、それが、知覚可能なフォーマットでユーザに提示されることが可能である。
ここで、検出されうる例示的なジェスチャについて論じる。重ねられた2本の指または相互に接触された複数の指は、回路によって、孤立したすなわち1本の指と同じように解釈され、扱われうる。しかし、1本の指または1群の指は、図2の左手202によって図解されているように、指が約2インチ(約5センチ)離れた手を開いたジェスチャと区別されることがありうる。図2に示されている手が開いているジェスチャは、キャパシタンス勾配の減少に基づいて、特に、キーボードから更に離れているとき(例えば、図2において、h1がh2よりも小さいとき)に、区別が可能である。精度を要求されるジェスチャは最小化されるべきであるが、その理由は、特定のキーをたたくのに要求される精細な動きと同じように、そのようなジェスチャは正確に実行するのが困難であるからである。
更に、現在のミステリキー/ポイントクリックコマンドの最悪なものの代わりになることを特に意図しているジェスチャを、選択することができる。これには、カーソル移動、ページ移動、ならびに切り取り、コピー、およびペーストのためのハイライト表示が含まれる。これらは、典型的には、4分の1インチ(約0.625センチ)内で、対応する複数のターゲットキーの位置に同時に配置される1本ではなく2本の指を使用するものである(例えば、ペーストのために、「コントロールキー+V」を押す場合など)。
利用できるタイプのジェスチャに、スウィープがある。これは、例えば、手または1本もしくは複数の指をキーボード表面と平行に移動させる(キャパシタンスの感知によって検出可能)ことによる、キーボードを横断する手または指の横方法の動きである。スウィープは、キーボードの上方で、水平方向軸を中心にして手を回転させることにより反復的かつ迅速に実行可能であり、カーソルまたは表示の大きな変位を目的とする活発で大胆な動きから、精細な変位のための小さなまたはより低速での動きまで、容易に変動させることが可能であり、これは、直感的な動きである。回路が、キーボードからの所定の作動距離の範囲内で指を単に検出するのではなく指の高さをトラッキングするのであれば、例えば速度と最低の共振周波数とを乗算することによってキーボード表面に平行な動きと高さの逆数とが乗算される場合には、スウィープ制御をより精細かつより直感的にすることが可能である。これにより、指がキーボードにより近いときには、より大きな応答を生じさせることができることになり、これは、直感的なバリエーションである。スウィープは、例えば、キーボード上で指を軽くこすって、電気的接触を生じさせるがタイピングを生じさせるほどにはキーを作動しないことによって、導電的に実行することも可能である。これについては、後で更に詳述する。
関連するジェスチャの別の例として、タッチスクリーン接触スウィープがある。これは、表示されている画像を横方向に移動させるコマンドを入力するのに、いくつかのデバイスで用いられる。タッチスクリーン接触スウィープは、容量的にまたは導電的に実行することができる。仮想的な運動量または摩擦力を用いることもできる。混乱を緩和するため、例えば一定の距離および/または継続時間でない場合には、接触スウィープを無視することもありうる。
別の例では、スウィープが水平方法だけである場合には、垂直方向のものをロールと称する場合もありうる。ソフトウェアに応じて、タッチスクリーン接触スウィープおよびロールは、別のジェスチャにもなりうるし、または、任意の角度での単一の横方向への移動に包含されることにより、表示要素を対角線方向に移動させることも可能である。スウィープのバリエーションにディザがあり、これは、キーボードに平行な連続的で交互の反対方向への動きを含む往復の動きである。
ジェスチャの別の例に、プッシュまたはプルがある。このジェスチャでは、手を平坦に拡げ、指を伸ばし、キーボードに平行なコンデンサの接地極板を形成して、キーボードに向かって、または、キーボードから離れる方向に動かす。このジェスチャは、キーボードの2つの面で独立に実行することが可能であり、それぞれが2つの意味を有する2つのコマンドが可能になる。手を開いて空中で静止させることで、例えば、他方の手によってなされるジェスチャを修正するモード変更コマンドといった、「コントロール」または「アルト」と類似のコマンドを構築することができる。
プッシュおよびプルのジェスチャは、仮想的なテキスト(または他の表示)をユーザに向かう方向にまたはユーザから遠ざかる方向に、移動させるのに用いることができる。これは、ドキュメントを切り換えるのに便利である可能性がある。すなわち、1つのドキュメントをこちら側に移動させ、他方で、別のドキュメントを(メガネの3次元機能を用いて達成される)目の輻輳範囲の外に後退させ、混乱を避けるために表示をよりぼんやりさせることもできる。また、開いているドキュメントを、水平方向のスウィープと垂直方向のロールとによって、横方向に移動させることもできる。
別の例示的なタイプのジェスチャに、サークリングがある。これは、容量的または導電的のどちらでも実行が可能である。キーボードには2つのサイドがあり、回転には2つの意味があるので、サークリングは、4つの異なるコマンド(円の直径が検出され、ジェスチャの1つのファクタとなる場合には、更に多くのコマンド)を伝達することができる。
ジェスチャの更に別の例として、キーボードのある領域で指を保持するというものがある。この場合、中心からの距離と方向が、ジョイスティックの偏向と類似の効果を有する。(極座標では、中心からの距離と方向はrおよびθである。)これは、ナビン(nubbin)を備えておりそのナビンが偏向される方向にカーソルが移動する仕組みを有するある種のラップトップのように、カーソルの制御に用いることができる。このタイプの制御は、仮想的な物理学から利益を得ることができる。この偏向が(仮想的な摩擦力を伴う可能性がある)仮想的に質量の大きなカーソルに対する加速度を生じさせる仮想的な力として解釈される場合には、インターフェースはより自然的なものとなりうる。更に、指の反転は、中心から離れる方向での指の進みとは異なって解釈される可能性があるのであって、前者は、位置に応じて異なる加速度に至る。指の高さは既に検出されているので、このジェスチャを、制御のためのファクタとして高さを含むように一般化することが可能であろう。円筒座標の場合には、r、θ、およびzは、すべて入力変数である。
ジェスチャの他の例として、拡大/縮小があり、これは、2本の指または手を相互により近接させる方向におよびより遠ざかる方向に移動させることによって達成することができる。このジェスチャは、表示されている画像の拡大または縮小を命じるために、タッチスクリーンデバイスにおいて用いることができる。キーボードでは、このジェスチャは、異なる意味をもちうる。更に別の例示的なジェスチャに、2つの指を用いた回転があり、これは、画像を回転させるのに用いることができる。
本明細書において論じられる非限定的で例示的なジェスチャには、タイピングコマンドとして用いられるために設定されうるよりも多くのジェスチャが含まれ、したがって、より少数のキーとより低い精度とを用いる新たなインターフェースが可能になる。また、これにより、プログラマたちは、ユーザをイライラさせるのではなく、ユーザに従う新たなコードを書く機会を得ることができる。ジェスチャと表示を変更するコマンドとの最良の対応は、心理学者によっておよび/またはユーザの評価によって決定することができる事柄である。例えば、タイピングを開始するのと同時にキーボードの上の位置に両手を移動させるような通常生じるジェスチャは、コマンドとして解釈されるべきではなく、除外(または、無視)されうる。
タイピングの即座適用とは異なり、ジェスチャは、おそらくジェスチャまたはキーを介してモードを切り換えた後に、メニュのナビゲーションのためにも用いられうる。あるいは、ここで開示されている複数の態様は、タイピングとは無関係でありジェスチャによって制御される更に大きな仮想的な世界に組み入れることが可能である。
ジェスチャキーボードを実装するための1つまたは複数の非限定的な方法に関し、図4に、コマンドを認識し実行するように構成されているシステムの例示的で非限定的な実施形態のブロック図が図解されている。図4に示されているように、キーボード406に対する空間の範囲内での少なくとも1つのジェスチャ404を受け取るように構成されている環境捕捉コンポーネント402を含む、ジェスチャベースのシステム400が示されている。いくつかの態様では、ジェスチャ404は、例えば、カーソル制御、ドキュメントのスクロールなどのコマンド408であることが意図されている。いくつかの態様では、コマンド408は、タイピング410の形として受け取られる。
キーボード406に対する空間は、(例えば、物理的に接触している)キーボード406上の場所、または、(例えば、物理的接触のない)キーボード406の上方の場所でありうる。環境捕捉コンポーネント402は、いずれか一方または両手の指の存在を、たとえ指がキーボード406と物理的に接触していない場合であっても、検出するように構成される。
ある例では、キーボード406は、キー表面に金属製フォイルまたはそれ以外の導電性部材が事後的に設置された標準的なキーボードでありうる。これについては、以下で更に詳述する。別の例では、キーボード406は、2つの部分から構成される折り曲げ式のキーボードであることも可能であり、その場合には、これら2つの半部分は、人間工学的なキーボードのように分割されるが、それぞれの半部分に親指によって作動されるスペースバーを備えている。上側エッジの中間に配置された堅固ではあるが曲げることが可能なユニバーサルジョイントで接続されている場合には、キーボードのそれぞれの半分は、テーブル上で通常の向きに位置合わせすることが可能であり、若干は人間工学的な構成に、または、膝の上でドレープ状に拡げられる。用いられていないときには、2つの半部分はキーをカバーするように相互に折り曲げることが可能であり、結果的に、ペーパーバックの小説のサイズである、およそ4.5インチ(約11.25センチ)X6インチ(約15センチ)の大きさのパッケージになる。ある態様によると、1つの部分から構成されるキーボードを用いることもできる。プロセッサは、(現在のラップトップのように)キーボードの内部に配置する、または、別個のユニットに配置することが可能である。いくつかの態様では、キーボードの2つの面を独立に用いることが可能であり、したがって、機械的な設計を何らかの別個の機構のために用意することもありうる。
ジェスチャベースのシステム400に更に含まれているのは、少なくとも1つのジェスチャ404またはタイピング410に基づきコマンド408を識別するように構成されている解釈コンポーネント412である。また、ジェスチャベースのシステム400は、コマンド408に関係する情報416とコマンドの結果418とをレンダリングするように構成されている出力コンポーネント414を含む。情報416および/または結果418は、仮想ディスプレイ420上にレンダリングされるように構成されている。ある態様では、情報416および/または結果418は、仮想空間にレンダリングされるように構成されている。
図5には、手のジェスチャまたはタイピングの形式で受け取られたコマンドを解釈し実行するための非限定的で例示的なシステムが図解されている。示されているように、図5には、キーボード506に対する空間内にある少なくとも1つのコマンド504を受け取るように構成された環境捕捉コンポーネント502を含むジェスチャベースシステム500が示されている。ある例では、キーボード506は、図4におけるキーボード406に類似している。ある例では、環境捕捉コンポーネント502は、キーボード506に対して近接する空間における動き(例えば、ジェスチャ)を検出し、キーボード506に加えられた圧力(例えば、タイピング)を検出するように構成されている。例えば、1つまたは複数のセンサを、近接性508、電気的導通性510、および機械的作動512を検出するように構成することが可能である。いくつかの態様では、センサを、キャパシタンスによって、キーボードの上方にある指先の高さと横方向の位置とを検出するように構成することができる。
ジェスチャベースシステム500には、少なくとも1つのジェスチャおよび/またはタイピングに基づいてコマンド516を識別するように構成された解釈コンポーネント514も含まれている。ある例では、解釈コンポーネント514は、少なくとも1つのコマンドを、例えばキャパシタンスによる近接性508に応じて識別するように構成されている。別の例では、解釈コンポーネント514は、手動によるコマンドを示しうる機械的作動512に基づき少なくとも1つのコマンドを識別するように構成されている。更に、解釈コンポーネント514は、コマンドを識別でき、電気的導通性510が仮想ディスプレイにおけるキーのハイライト表示を生じさせるべきだと解釈することができる。
ジェスチャベースシステム500には、更に、指先が1対のキーにおいて第2のキーよりも第1のキーにより近い度合いを表すうなり周波数を測定するように構成された評価コンポーネント516が含まれる。例えば、評価コンポーネント516は、それぞれのキーの共振周波数を直接的に用いて、上方にある指を示す周波数の極小値を見つけるように構成される。別の例では、評価コンポーネント516は、2つの隣接するキーの周波数の差(変調)であるうなり周波数を見つけることにより、それぞれのキーの共振周波数を間接的に用いるように構成される。いくつかの態様では、評価コンポーネント516は、2次のうなり周波数または更に高次のうなり周波数を見つけるように構成される。
いくつかの態様によると、キーボード506は、いつ発振器の周波数がキーボード506の上方のある距離と相関する固定のまたは所定の周波数よりも低くなるのかを検出する回路を含む。これにより仮想バリアが形成されうる。指先によって仮想バリアが貫通されると、そのキーに登録させるイベントが生じうる。そのようなバリアは2つまたはそれより多くが存在しうるのであって、それらのバリアは、異なる高さで実行されるジェスチャを区別するのに用いることができる。検出方法としては、多くのものが可能である。開示されている態様には、キーボード506に近接する指またはそれ以外のオブジェクトを検出し、そのような指またはオブジェクトを、キーボード506の近くでのジェスチャを区別し判断することができるような方法でトラッキングする任意のプログラムまたは回路が含まれる。
ジェスチャベースシステム500に更に含まれているものとして、コマンド504の情報520とコマンドの結果522とをレンダリングするように構成された出力コンポーネント518がある。情報520および/または結果522は、仮想ディスプレイ524上にレンダリングされるように構成されている。いくつかの態様では、情報520および/または結果522は、仮想空間においてレンダリングされるように構成される。ある実装形態では、出力コンポーネント518は、キーボード506に加えられた圧力の検出に応答して仮想ディスプレイ524の少なくとも一部をハイライト表示するように構成される。
既存の容量性キーボードとは対照的に、キーボード506は、キーを作動するのにキャパシタンスを用いるのではなく、代わりに、機械的なキー作動を用いており、それによって、ユーザに優れた触覚的および聴覚的なフィードバックを提供する。キーボード506は、このようにして、作動を生じさせずに指がキーに触れることを可能にすることで、ユーザは、キーボード506を軽くヒットすることに関して心配することなく、キーボード506の上方の空間で手のジェスチャをすることができるようになる。このようにエラーから解放されることにより、ジェスチャの実行がより容易になり、ストレスも生じにくくなる。
図6は、コマンドを認識して実行するための方法600の例示的で非限定的な実施形態を図解する流れ図である。図6の方法600は、例えば本明細書で説明されるシステム400などのシステムの任意のものを用いて実行することができ、コマンドを認識して実行するのに用いることができる。602では、方法600は、少なくとも2つのレベルの相互作用の差異から検出された少なくとも1つのレベルの相互作用の差異を受け取ることを含む、入力装置に近接または接触しているオブジェクトと関連する知覚情報を受け取ることを含みうる。例えば、少なくとも2つのレベルの相互作用の差異には、近接性のレベルと電気的導通性のレベルとが含まれうる。いくつかの態様では、第3のレベルの相互作用の差異として、作動レベルが含まれる。
604では、近接性レベルが、キャパシタンスに応じて解釈される。606では、電気的導通性レベルが、オブジェクトによる入力装置の少なくとも1つのコンポーネントの表面の接地に基づいて、感知される。作動レベルを用いるいくつかの態様では、作動レベルが、608において、外部の力による少なくとも1つのコンポーネントの移動から検出される。604における解釈、606における感知、または608における検出のうちの少なくとも1つが実行されうることに注意すべきである。例えば、ある態様によると、電気的導通性レベルは感知されるが、近接性レベルは解釈されず、作動レベルは検出されないことがありうる。
610では、知覚情報からのコマンドが、少なくとも1つのレベルの相互作用の差異に応じて解釈される。612では、動作表示が、コマンドに基づき出力される。動作表示は、仮想キーボード上のキーをハイライト表示する、および/または、仮想ディスプレイ内で動作を実行することができる。仮想キーボードおよび/または仮想ディスプレイは、メガネの使用を通じて、または、仮想現実を提供することができる他のデバイスの使用を通じて、実現することができる。
図7は、コマンドを認識して実行するための方法700の例示的で非限定的な実施形態を図解する流れ図である。図7の方法700は、例えば本明細書で説明されるシステム500などのシステムの任意のものを用いて実行することができ、コマンドを認識して実行するのに用いることができる。702では、方法700は、少なくとも2つのレベルの相互作用の差異から検出された少なくとも1つのレベルの相互作用の区別を受け取ることを含む、入力装置に近接または接触しているオブジェクトと関連する知覚情報を受け取ることを含みうる。例えば、少なくとも2つのレベルの相互作用の差異には、近接性のレベルと電気的導通性のレベルとが含まれうる。
704では、知覚情報からのコマンドが、少なくとも1つのレベルの相互作用の差異に応じて解釈される。コマンドを解釈することは、706で、少なくとも1つの共振回路からの出力に基づき入力装置の上のオブジェクトの高さを確認することと、708で、入力装置に対するオブジェクトの横方向の位置を特定することとを含みうる。
ある実装形態では、706でオブジェクトの高さを確認することは、入力装置の第1のコンポーネントの第1の共振周波数と入力装置の第2のコンポーネントの第2の共振周波数とを比較し、第1の共振周波数と第2の共振周波数とのうちの最低共振周波数を決定することを含む。更にこの実装形態を参照すると、706でオブジェクトの高さを確認することは、710で、最低共振周波数に基づき、オブジェクトが第1のコンポーネントにより近いこと、または、オブジェクトが第2のコンポーネントにより近いことを決定することを含む、最低共振周波数に基づきオブジェクトと入力装置との間の距離を測定することを含む。
別の実装形態では、706でオブジェクトの高さを確認することは、712で入力装置のコンポーネントの応答を比較し、オブジェクトの高さを間接的に確認するために三角関数を応答に適用することを含む。
更なる実装形態では、708で横方向の位置を特定することは、714で、入力装置の第1のコンポーネントの第1の共振周波数と前記入力装置の第2のコンポーネントの第2の共振周波数とを計算することと、第1の共振周波数と第2の共振周波数との間の極小値に応じて、横方向の位置を決定することと、を含む。
別の実装形態では、708で横方向の位置を特定することは、716で、第1のコンポーネントの第1の共振周波数と第1のコンポーネントに隣接する第2のコンポーネントの第2の共振周波数との間の差を検出することと、オブジェクトが第1のコンポーネントにより近いこと、または、オブジェクトが第2のコンポーネントにより近いことを、差に応じて決定することと、を含む。
718で、コマンドに基づいて、動作表示が出力される。動作表示は、他人に見られることのありえない、したがって、ユーザに対する機密性が維持される仮想ディスプレイおよび/または仮想空間に出力することができる。
図8は、コマンドを認識して実行するための方法800の例示的で非限定的な実施形態を図解する流れ図である。図8の方法800は、例えば本明細書で説明されるシステム400などのシステムの任意のものを用いて実行することができる。802では、知覚情報が受け取られる。知覚情報は、入力装置と近接または接触しているオブジェクトと関連している。知覚情報を受け取ることは、少なくとも2つのレベルの相互作用の差異から検出された少なくとも1つのレベルの相互作用の差異を受け取ることを含みうる。ある例では、少なくとも2つのレベルの相互作用の差異には、近接性レベルと電気的導通性レベルとが含まれうる。いくつかの態様では、第3のレベルの相互作用の差異として、作動レベルが含まれる。
804では、知覚情報からのコマンドが、少なくとも1つのレベルの相互作用の差異に応じて解釈される。コマンドの解釈には、2以上の指を検出することと、知覚情報を解釈するために、その2以上の指を単一の孤立した指として解釈することとが含まれることがある。
806では、動作表示が、コマンドに基づいて出力される。ある実装形態では、808で動作表示を出力することは、第1の部分と第2の部分とを含む仮想ディスプレイ上でアイテムをハイライト表示することを含む。第1の部分は動作表示と関連するコマンドを含み、第2の部分は入力装置の仮想表現を含む。ある例では、アイテムをハイライト表示することは、オブジェクトが入力装置と物理的に接触していることに応答して実行される。代替えの実装形態では、動作表示を出力することは、810で動作表示とコマンドの解釈とを含む信号を送信することを含む。この信号は、動作表示とコマンドの解釈とを出力するように構成されるディスプレイ装置に送信されうる。このディスプレイ装置は、メガネの使用や、ユーザに仮想ディスプレイを与えるように構成することが可能な別のデバイスを通じて実装することができる。
図9は、コマンドを認識し実行するための方法900の例示的で非限定的な実施形態を図解する流れ図である。図9の方法900は、例えば、本明細書において説明されコマンドを認識し実行するために用いることができるシステム500などのシステムの任意のものを用いて実行が可能である。902で、知覚情報が受け取られる。この知覚情報は、入力装置と近接または接触しているオブジェクトと関連している。ある実装形態では、902で知覚情報を受け取ることは、また、904で、入力装置に近接するまたは接触する2つ以上のオブジェクトを同時にまたは実質的に同時に検出することと、コマンドのために、これら2つ以上のオブジェクトを単一のオブジェクトとして識別することとを含む。知覚情報を受け取ることは、単一のオブジェクトと関連する知覚情報を受け取ることを含む。
906では、知覚情報からのコマンドが、少なくとも1つのレベルの相互作用の差異に応じて解釈される。ある実装形態では、906におけるこの解釈は、908においてオブジェクトの運動を補間することを含む。ある例では、オブジェクトの動きを補間することは、910において、入力装置の複数のコンポーネントからデータを受け取ることと、そのデータに基づき、オブジェクトを特定するなめらかな線を構築することとを含む。
例えば、正確な動き、特に迅速な動きを、キーデータから補間することができる。例えば、多数のキーからのデータが考察されるが、これらのデータから、グラフのための平滑化方法、および/または、共振周波数の比較によって測定されたキーの間の相対的な距離を用いて、キーの間隔よりも正確に特定されるなめらかな線を構築することができる。隣接するキーの共振周波数は、2つのキーからの指先の相対的な距離の指示を提供することができ、したがって、キーアレイの間隔よりも高い精度で指先を特定することができる。
いくつかの態様では、方法900は、912において、近接性レベルの解釈と電気的導通性レベルの感知とに基づいて、コマンドジェスチャの数を増加させることを含むことができる。914において、動作表示は、コマンドに基づいて出力される。
図10には、本明細書における開示の少なくともいくつかの態様によるジェスチャキーボードのためのコンピュータ可読な命令セットの、例示的で非限定的な実施形態の流れ図が図解されている。コンピュータ可読な記憶媒体1000には、コンピュータ実行可能な命令が含まれうる。1002では、これらの命令は、実行されるべき少なくとも1つのコマンドを示すジェスチャまたはタイピングを検出するように機能しうる。ある例では、ジェスチャを検出するために、命令は、少なくとも1つのコマンドを示すジェスチャと1組の一般的な近接性レベルのジェスチャとを区別するように機能しうるのであって、1組の一般的な近接性レベルのジェスチャは無視される。
別の例では、ジェスチャを検出するために、命令は、外部行為者とキーボード上の導電性作動キーとの間の電気的接触を示す作動を受け取るように機能しうる。
別の例では、ジェスチャを検出するために、入力装置の第1の導電性作動キーの第1の共振周波数と入力装置の第2の導電性作動キーの第2の共振周波数とを比較し、第1の共振周波数と第2の共振周波数とのうちの最低共振周波数を決定するように機能しうる。更に、この例では、命令は、最低共振周波数に基づき、外部行為者が第1の導電性作動キーにより近いこと、または、外部行為者が第2の導電性作動キーにより近いことを決定することを含む、最低共振周波数に基づき前記外部行為者と前記入力装置との間の距離を測定するように機能しうる。
更なる例によると、ジェスチャを検出するために、命令は、入力装置の第1の導電性作動キーの第1の共振周波数と入力装置の第2の導電性作動キーの第2の共振周波数とを計算するように機能しうる。更にこの例では、命令は、第1の共振周波数と前記第2の共振周波数との間の極小値に応じて、外部行為者の横方向の位置を決定するように機能しうる。
1004では、命令は、ジェスチャを、複数のコマンドから選択された少なくとも1つのコマンドとして解釈するように機能しうる。ある例では、ジェスチャを解釈するために、命令は、そのジェスチャが、スウィープジェスチャ、プッシュプルジェスチャ、サークルジェスチャ、デフレクションジェスチャ、拡大縮小ジェスチャ、または回転ジェスチャのうちの少なくとも1つであることを確認するように機能しうる。
1006では、命令は、少なくとも1つのコマンドの結果を仮想空間の中の知覚可能なイベントとして開始するように機能しうる。ある例では、結果を開始するために、命令は、第1の部分と第2の部分とを含む仮想ディスプレイ上でアイテムをハイライト表示し、第1の部分によってジェスチャと関連するコマンドを図解し、および第2の部分によって入力装置の表現を提示するように機能しうる。アイテムをハイライト表示することは、外部行為者と入力装置との間の物理的接触への応答でありうる。
図11は、本開示の少なくともいくつかの態様によるジェスチャキーボード型のコンピューティングデバイスの例示的で非限定的な実施形態のブロック図である。示されているように、コンピューティングデバイス1100は、キーボード1102を含みうる。ある例では、キーボード1102は、指と、キーの少なくとも部分集合との間の電気的接触を検出して、容量性相互作用、導電性相互作用、または機械的相互作用からの相互作用情報を受け取るように構成されている。
キーボード1102は、キーのアレイを含むことができ、このキーのアレイの少なくとも1つの部分集合が、この少なくとも1つの部分集合自体のそれぞれのキーに加えられた圧力を検出するように構成されたそれぞれの変位作動式スイッチを備えている。キーボード1102は、少なくとも1つの容量性センサ1106を含みうる。この少なくとも1つの容量性センサ1106は、キーボード1102に近接する指を検出するように構成されている。
コンピューティングデバイス1100は、また、キーボードに近接するジェスチャをコマンドに変換するように構成された変換モジュール1108を含む。ある例では、変換モジュール1108は、異なるコマンドに対応する1組のコマンドジェスチャを含むデータストア1110にアクセスするように更に構成されている。ある例では、データストア1110は、1組のコマンドジェスチャから区別可能な1組の一般的な近接性レベルのジェスチャを含む。
コンピューティングデバイス1100は、更に、コマンドに応じてディスプレイ1114を変更するように構成されたプロセッサ1112を含む。ある例では、ディスプレイ1114は遠隔仮想ディスプレイであり、更に、プロセッサ1112は、信号を生成しその信号をその遠隔仮想ディスプレイに送信するように構成される。
本明細書において論じられているように、ジェスチャキーボードと関係する様々な態様が、物理的なディスプレイがなくても実装可能であり、また、持ち運びが容易な折り畳み型またはロールアップ型のキーボードによって用いることができる。このコンパクトなシステムは、航空機のような不便な場所でも容易に用いることができる。しかし、様々な態様が、現実の(例えば、物理的な)ディスプレイを備えた暫定的なラップトップコンピュータとも互換性を有している。様々な態様が、メガネの使用と共に、テキストとキーボード画像とを現実の世界の上に重ね合わせる仮想現実デバイスを提供することができる。これにより、会議の間に、話している人間と取っている文字のノートとの間で注意を分割することの必要なく、ノートをタイプすることが可能になる。このノートは、スクリーン上にレンダリングされないのであるから、機密とすることが可能である。
様々な態様において、本発明によるキーボードは、従来型のキーボードよりも小型でありうるが、その理由は、多くのキーが用いられない、および/または、キーボード上に含まれていないからである。更に、大きなジェスチャを、開示されている態様と共に用いることが可能であることにより、誤り、余分な作業、および苛立ちの量を軽減することが可能になる。例えば、ジェスチャをキーボードの真上で行うのであるから、ユーザは、コマンドを出すためにタイピング位置から手を離す必要がない。更に、本明細書で開示されている態様によると、ハイライト表示されているキーは軽い接触でトリガされるために、タッチタイピングのために手を迅速に位置合わせできる。手の位置がディスプレイ上で明白であるから、ユーザは、自らの手を導くためにキーボードを一瞥することも必要ない。別の例では、本明細書で開示されている態様によると、多数のジェスチャが提供されるが、これらのジェスチャはスケールを変えることができるのであって、つまり、ジェスチャのサイズがコマンドの一部に変換されることが可能であることを意味する。コマンドは、度合いを持つ通常のコマンド(例えば、カーソル制御、ディスプレイの移動)すべてに用いることができ、更に、どのような大きさも含まない離散的なコマンド(例えば、シフトロックなど)にも用いることができる。
例示的なコンピューティング環境
図12には、例示のコンピューティングデバイス1200が図解されているブロック図である。この例示のコンピューティングデバイス1200は、主題の開示の少なくともいくつかの実施形態によるジェスチャベースキーボード用に構成される。非常に基本的な構成1202において、コンピューティングデバイス1200は、典型的には、1つまたは複数のプロセッサ1204と、システムメモリ1206とを含む。メモリバス1208は、プロセッサ1204とシステムメモリ1206との間の通信に用いられうる。
図12には、例示のコンピューティングデバイス1200が図解されているブロック図である。この例示のコンピューティングデバイス1200は、主題の開示の少なくともいくつかの実施形態によるジェスチャベースキーボード用に構成される。非常に基本的な構成1202において、コンピューティングデバイス1200は、典型的には、1つまたは複数のプロセッサ1204と、システムメモリ1206とを含む。メモリバス1208は、プロセッサ1204とシステムメモリ1206との間の通信に用いられうる。
所望の構成に応じて、プロセッサ1204は、これらに限定されるのではないが、マイクロプロセッサ(μP)、マイクロコントローラ(μC)、デジタル信号プロセッサ(DSP)、またはこれらの任意の組み合わせを含む任意のタイプでありうる。プロセッサ1204は、レベル1キャッシュ1210、レベル2キャッシュ1212、プロセッサコア1214、およびレジスタ1216など、キャッシングの1つまたは複数のレベルを含みうる。例示的なプロセッサコア1214は、算術論理ユニット(ALU)、浮動小数点ユニット(FPU)、デジタル信号処理コア(DSPコア)、またはこれらの任意の組み合わせを含みうる。例示的なメモリコントローラ1218はプロセッサ1204と共に用いられることもあり、または、いくつかの実装形態では、メモリコントローラ1218はプロセッサ1204の内部的な部分であることもありうる。
所望の構成に応じて、システムメモリ1206は、これらの限定されるのではないが、(RAMなどの)揮発性メモリ、(ROMやフラッシュメモリなどの)不揮発性メモリ、またはこれらの任意の組み合わせを含む任意のタイプでありうる。システムメモリ1206は、オペレーティングシステム1220、1つまたは複数のアプリケーション1222、およびプログラムデータ1224を含みうる。アプリケーション1222は、図4のジェスチャベースシステム400に関して説明されたものを含む本明細書で説明された機能を実行するように構成されたジェスチャ検出および解釈アルゴリズム1226を含みうる。プログラムデータ1224は、本明細書で説明されているようなジェスチャ検出および解釈アルゴリズム1226を用いた操作のために便利でありうるジェスチャコマンドと一般的な近接性レベルのジェスチャ情報1228とを含みうる。いくつかの実施形態では、アプリケーション1222は、ジェスチャベースキーボードと拡張された仮想現実経験が提供されうるように、オペレーティングシステム1220上でプログラムデータ1224を用いて動作するように構成されうる。この説明されている基本構成1202は、図12では、内側の破線の内部のコンポーネントによって図解されている。
コンピューティングデバイス1200は、基本構成1202と任意の必要とされるデバイスおよびインターフェースとの間の通信を容易にするために、追加的な特徴または機能と、追加的なインターフェースとを有することがある。例えば、基本構成1202と1つまたは複数のデータ記憶デバイス1232との間での、ストレージインターフェースバス1234経由での通信を容易にするために、バス/インターフェースコントローラ1230が用いられることがある。データ記憶デバイス1232は、取り外し可能な記憶デバイス1236、取り外し不可能な記憶デバイス1238、またはそれらの組み合わせでありうる。取り外し可能な記憶デバイスと取り外し不可能な記憶デバイスとの例には、いくつかの例を挙げると、フレキシブルディスクドライブやハードディスクドライブ(HDD)などの磁気ディスクデバイス、コンパクトディスク(CD)やデジタルバーサタイルディスク(DVD)などの光ディスクドライブ、ソリッドステートドライブ(SSD)、およびテープドライブが含まれうる。例示的なコンピュータ記憶媒体には、コンピュータ可読な命令、データ構造、プログラムモジュール、またはそれ以外のデータなどの情報を記憶するための任意の方法または技術として実装されている、揮発性および不揮発性、そして、取り外し可能および取り外し不可能な媒体が含まれうる。
システムメモリ1206、取り外し可能な記憶デバイス1236、および取り外し不可能な記憶デバイス1238は、コンピュータ記憶媒体の例である。コンピュータ記憶媒体には、これらに限定されることはないが、RAM、ROM、EEPROM、フラッシュメモリもしくはそれ以外のメモリ技術、CD−ROM、デジタルバーサタイルディスク(DVD)もしくはそれ以外の光学ストレージ、磁気カセット、磁気テープ、磁気ディスクストレージもしくはそれ以外の磁気記憶デバイス、または、所望の情報を記憶するのに用いることができコンピューティングデバイス1200によってアクセスが可能である任意のそれ以外の媒体が含まれる。任意のそのようなコンピュータ記憶媒体は、コンピューティングデバイス1200の一部でありうる。
コンピューティングデバイス1200は、また、様々なインターフェース装置(例えば、出力装置1242、周辺インターフェース1244、および通信装置1246)からバス/インターフェースコントローラ1230を介して基本構成1202への通信を容易にするためのインターフェースバス1240を含みうる。例示的な出力装置1242には、グラフィクス処理ユニット1248と音声処理ユニット1250とが含まれ、これらは、1つまたは複数のA/Vポート1252を介してディスプレイまたはスピーカなど様々な外部装置と通信するように構成されうる。例示的な周辺インターフェース1244の例は、シリアルインターフェースコントローラ1254やパラレルインターフェースコントローラ1256が含まれ、これらは、入力装置(例えば、マウス、ペン、音声入力装置など)や他の周辺装置(例えば、プリンタ、スキャナなど)などの外部装置と1つまたは複数のI/Oポート1258を介して通信するように構成されうる。例示的な通信装置1246には、ネットワークコントローラ1260が含まれるが、これは、1つまたは複数の通信ポート1264を介し、ネットワーク通信リンク経由で1つまたは複数のコンピューティングデバイス1262との通信が容易になるように構成されうる。
ネットワーク通信リンクは、通信媒体の一例でありうる。通信媒体は、典型的には、コンピュータ可読命令、データ構造、プログラムモジュール、または搬送波やそれ以外の輸送機構などの変調されたデータ信号の中のそれ以外のデータによって、実現され、任意の情報搬送媒体を含みうる。「変調されたデータ信号」とは、その特性の1つまたは複数を当該信号の中の情報が符号化されるように設定または変更した信号でありうる。例として、限定を意味するのではないが、通信媒体には、ワイアードネットワークやダイレクトワイアード接続などのワイアード媒体と、音響、無線周波数(RF)、マイクロ波、赤外(IR)、およびそれ以外のワイヤレス媒体などのワイヤレス媒体とが含まれうる。本明細書において用いられるときコンピュータ可読媒体という用語は、記憶媒体と通信媒体との両者を含みうる。
主題である開示は、本出願で説明されている特定の実施形態として限定されず、これらの実施形態は、様々な態様の説明として意図されている。その精神および精神趣旨ら逸脱することなく、多くの修正および変更をなすことが可能であり、そのことは、当業者には明らかであろう。本明細書において列挙されているものに加え、本開示の範囲に属する機能的に均等な方法および装置は、以上の説明から当業者には明らかであろう。そのような修正および変更は、特許請求の範囲の範囲に属することが意図されている。主題の開示は、特許請求の範囲が及ぶ均等物の全範囲と共に、添付の特許請求の範囲の文言によってのみ限定されるべきである。本開示は、変動することが当然である特定の方法、試薬、化合物、組成または生物システムに限定されないことを理解すべきである。また、本明細書において用いられている用語は特定の実施形態を説明するという目的のためであり、限定を意図していないことを理解すべきであろう。
図解されている実施形態では、本明細書で説明されている動作やプロセスなどはどれもが、コンピュータ可読な媒体上に記憶されたコンピュータ可読な命令として実装することができる。このコンピュータ可読な命令は、モバイル装置、ネットワーク要素、および/または任意の他のコンピューティングデバイスのプロセッサによって実行されうる。
システムの側面でのハードウェアの実装形態とソフトウェアの実装形態との間には、ほとんど相違が残されていない。ハードウェアまたはソフトウェアの使用は、一般に(いつもそうではないが、ある状況ではハードウェアとソフトウェアの間の選択が重要になりうるという点で)コスト対効果のトレードオフを表す設計上の選択である。本明細書に記載された、プロセスおよび/またはシステムおよび/または他の技術をもたらすことができる様々な達成手段があり(例えば、ハードウェア、ソフトウェア、および/またはファームウェア)、好ましい達成手段は、プロセスおよび/またはシステムおよび/または他の技術が導入される状況によって異なる。例えば、実装者が速度と正確性が最も重要であると決定すると、実装者は主にハードウェアおよび/またはファームウェアの達成手段を選択することができる。フレキシビリティが最も重要なら、実装者は主にソフトウェアの実装形態を選択することができる。または、更に別の代替案として、実装者は、ハードウェア、ソフトウェア、および/またはファームウェアの何らかの組み合わせを選択することができる。
前述の詳細な説明では、ブロック図、フローチャート、および/または例の使用によって、装置および/またはプロセスの様々な実施形態を説明してきた。そのようなブロック図、フローチャート、および/または例が1つまたは複数の機能および/または動作を含む限りにおいて、そのようなブロック図、フローチャート、または例の中のそれぞれの機能および/または動作は、広範囲のハードウェア、ソフトウェア、ファームウェア、または実質上それらのすべての組み合わせにより、個別におよび/または集合的に実装可能であることが、当業者には理解されるであろう。ある実施形態では、本明細書に記載された主題のいくつかの部分は、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、デジタルシグナルプロセッサ(DSP)、または他の集積化方式によって実装することができる。しかし、本明細書で開示された実施形態のいくつかの態様が、全体においてまたは一部において、1つまたは複数のコンピュータ上で動作する1つまたは複数のコンピュータプログラムとして(例えば、1つまたは複数のコンピュータシステム上で動作する1つまたは複数のプログラムとして)、1つまたは複数のプロセッサ上で動作する1つまたは複数のプログラムとして(例えば、1つまたは複数のマイクロプロセッサ上で動作する1つまたは複数のプログラムとして)、ファームウェアとして、あるいは実質上それらの任意の組み合わせとして、等価に集積回路に実装することができることを、当業者は認識するであろうし、電気回路の設計ならびに/またはソフトウェアおよび/もしくはファームウェアのコーディングが、本開示に照らして十分当業者の技能の範囲内であることを、当業者は認識するであろう。更に、本明細書に記載された主題のメカニズムを様々な形式のプログラム製品として配布することができることを、当業者は理解するであろうし、本明細書に記載された主題の例示的な実施形態が、実際に配布を実行するために使用される信号伝達媒体の特定のタイプにかかわらず適用されることを、当業者は理解するであろう。信号伝達媒体の例には、フロッピー(登録商標)ディスク、ハードディスクドライブ、CD、DVD、デジタルテープ、コンピュータメモリ、などの記録可能なタイプの媒体、ならびに、デジタル通信媒体および/またはアナログ通信媒体(例えば、光ファイバケーブル、導波管、有線通信リンク、無線通信リンクなど)の通信タイプの媒体が含まれるが、それらには限定されない。
本明細書で説明したやり方で装置および/またはプロセスを記載し、その後そのように記載された装置および/またはプロセスを、データ処理システムに統合するためにエンジニアリング方式を使用することは、当技術分野で一般的であることを当業者は認識するであろう。すなわち、本明細書に記載された装置および/またはプロセスの少なくとも一部を、妥当な数の実験によってデータ処理システムに統合することができる。通常のデータ処理システムは、一般に、システムユニットハウジング、ビデオディスプレイ装置、揮発性メモリおよび不揮発性メモリなどのメモリ、マイクロプロセッサおよびデジタル信号プロセッサなどのプロセッサ、オペレーティングシステムなどの計算実体、ドライバ、グラフィカルユーザインターフェース、およびアプリケーションプログラムのうちの1つもしくは複数、タッチパッドもしくはスクリーンなどの1つもしくは複数の相互作用装置、ならびに/またはフィードバックループおよびコントロールモータを含むコントロールシステム(例えば、位置検知用および/もしくは速度検知用フィードバック、コンポーネントの移動用および/もしくは数量の調整用コントロールモータ)を含むことを、当業者は理解するであろう。通常のデータ処理システムは、データコンピューティング/通信システムおよび/またはネットワークコンピューティング/通信システムの中に通常見られるコンポーネントなどの、市販の適切なコンポーネントを利用して実装することができる。
本明細書に記載された主題は、様々なコンポーネントをしばしば例示しており、これらのコンポーネントは、他の様々なコンポーネントに包含されるか、または他の様々なコンポーネントに接続される。そのように図示されたアーキテクチャは、単に例にすぎず、実際には、同じ機能を実現する多くの他のアーキテクチャが実装可能であることが理解されよう。概念的な意味で、同じ機能を実現するコンポーネントの任意の構成は、所望の機能が実現されるように効果的に「関連付け」される。したがって、特定の機能を実現するために組み合わされた、本明細書における任意の2つのコンポーネントは、アーキテクチャまたは中間のコンポーネントにかかわらず、所望の機能が実現されるように、お互いに「関連付け」されていると見ることができる。同様に、そのように関連付けされた任意の2つのコンポーネントは、所望の機能を実現するために、互いに「動作可能に接続」または「動作可能に結合」されていると見なすこともでき、そのように関連付け可能な任意の2つのコンポーネントは、所望の機能を実現するために、互いに「動作可能に結合できる」と見なすこともできる。動作可能に結合できる場合の具体例には、物理的にかみ合わせ可能な、および/もしくは物理的に相互作用するコンポーネント、ならびに/またはワイヤレスに相互作用可能な、および/もしくはワイヤレスに相互作用するコンポーネント、ならびに/または論理的に相互作用する、および/もしくは論理的に相互作用可能なコンポーネントが含まれるが、それらに限定されない。
本明細書における実質的にすべての複数形および/または単数形の用語の使用に対して、当業者は、状況および/または用途に適切なように、複数形から単数形に、および/または単数形から複数形に変換することができる。様々な単数形/複数形の置き換えは、理解しやすいように、本明細書で明確に説明することができる。
通常、本明細書において、特に添付の特許請求の範囲(例えば、添付の特許請求の範囲の本体部)において使用される用語は、全体を通じて「オープンな(open)」用語として意図されていることが、当業者には理解されよう(例えば、用語「含む(including)」は、「含むがそれに限定されない(including but not limited to)」と解釈されるべきであり、用語「有する(having)」は、「少なくとも有する(having at least)」と解釈されるべきであり、用語「含む(includes)」は、「含むがそれに限定されない(includes but is not limited to)」と解釈されるべきである、など)。導入される請求項で具体的な数の記載が意図される場合、そのような意図は、当該請求項において明示的に記載されることになり、そのような記載がない場合、そのような意図は存在しないことが、当業者には更に理解されよう。例えば、理解の一助として、添付の特許請求の範囲は、導入句「少なくとも1つの(at least one)」および「1つまたは複数の(one or more)」を使用して請求項の記載を導くことを含む場合がある。しかし、そのような句の使用は、同一の請求項が、導入句「1つまたは複数の」または「少なくとも1つの」および「a」または「an」などの不定冠詞を含む場合であっても、不定冠詞「a」または「an」による請求項の記載の導入が、そのように導入される請求項の記載を含む任意の特定の請求項を、単に1つのそのような記載を含む実施形態に限定する、ということを示唆していると解釈されるべきではない(例えば、「a」および/または「an」は、「少なくとも1つの」または「1つまたは複数の」を意味すると解釈されるべきである)。同じことが、請求項の記載を導入するのに使用される定冠詞の使用にも当てはまる。また、導入される請求項の記載で具体的な数が明示的に記載されている場合でも、そのような記載は、少なくとも記載された数を意味すると解釈されるべきであることが、当業者には理解されよう(例えば、他の修飾語なしでの「2つの記載(two recitations)」の単なる記載は、少なくとも2つの記載、または2つ以上の記載を意味する)。更に、「A、BおよびC、などの少なくとも1つ」に類似の慣例表現が使用されている事例では、通常、そのような構文は、当業者がその慣例表現を理解するであろう意味で意図されている(例えば、「A、B、およびCの少なくとも1つを有するシステム」は、Aのみ、Bのみ、Cのみ、AおよびBを共に、AおよびCを共に、BおよびCを共に、ならびに/またはA、B、およびCを共に、などを有するシステムを含むが、それに限定されない)。「A、B、またはC、などの少なくとも1つ」に類似の慣例表現が使用されている事例では、通常、そのような構文は、当業者がその慣例表現を理解するであろう意味で意図されている(例えば、「A、B、またはCの少なくとも1つを有するシステム」は、Aのみ、Bのみ、Cのみ、AおよびBを共に、AおよびCを共に、BおよびCを共に、ならびに/またはA、B、およびCを共に、などを有するシステムを含むが、それに限定されない)。2つ以上の代替用語を提示する事実上いかなる離接する語および/または句も、明細書、特許請求の範囲、または図面のどこにあっても、当該用語の一方(one of the terms)、当該用語のいずれか(either of the terms)、または両方の用語(both terms)を含む可能性を企図すると理解されるべきであることが、当業者には更に理解されよう。例えば、句「AまたはB」は、「A」または「B」あるいは「AおよびB」の可能性を含むことが理解されよう。
更に、開示の特徴や態様がマーカッシュグループとして説明されている場合には、当業者であれば、本明細書での開示が、そのマーカッシュグループの任意の個々の構成要素または複数の構成要素で構成されるサブグループとしても説明されることを理解するであろう。
当業者であれば理解するであろうように、任意のおよびすべての目的について、記載された説明を提供することに関してなど、本明細書で開示されているすべての範囲は、任意のおよびすべての可能性のある下位の範囲と下位の範囲の組み合わせとに及ぶ。任意のリストされている範囲は、同一の範囲が、少なくとも、等しい2分の1、3分の1、4分の1、5分の1、10分の1などに分割されることを十分に説明し可能にしているものとして、容易に認識されうる。非限定的な例として、本明細書で論じられているそれぞれの範囲は、下位の3分の1、中間の3分の1、上位の3分の1などに容易に分割することができる。当業者であれば容易に理解するであろうように、「まで」や「少なくとも」などのすべての言葉は、言及された数字を含み、上述したように、以後に下位の範囲に分割することができる範囲を示す。最後に、当業者に理解されるであろうように、範囲はそれぞれの個別の構成要素を含む。したがって、例えば、1から3個のセルを有するグループは、1、2または3個のセルを有するグループに及ぶ。同様に、1から5個のセルを有するグループは、1、2、3、4または5個のセルを有するグループに及ぶ、などである。
様々な態様が様々な図面と対応する説明によって以上で詳述されているが、ある図面との関係で説明された特徴は、他の図面に示され説明されている態様に含まれる。例をただ1つだけ挙げておくが、図5との関係で説明された「仮想バリア」は、図2や図3などで示されている態様における特徴でもある。
本明細書では主題である開示に関して様々な実施形態を説明のために論じてきたが、本開示の範囲と趣旨とから逸脱せずに様々な修正をなしうることは、以上から、理解されるであろう。したがって、本明細書において開示されている様々な実施形態は限定を意図しておらず、真の範囲および趣旨は、以下の特許請求の範囲によって示される。
Claims (40)
- 少なくとも2つのレベルの相互作用の差異から検出された少なくとも1つのレベルの相互作用の差異を受け取ることを含む、入力装置に近接または接触しているオブジェクトと関連する知覚情報を受け取ることと、
前記知覚情報からのコマンドを、前記少なくとも1つのレベルの相互作用の差異に応じて解釈することと、
前記コマンドに基づき動作表示を出力することと、
を含む、方法。 - 前記少なくとも2つのレベルの相互作用の差異が近接性レベルと電気的導通性レベルとを含み、前記知覚情報を受け取ることが、
前記近接性レベルをキャパシタンスに応じて解釈すること、または、
前記オブジェクトによる前記入力装置の少なくとも1つのコンポーネントの表面の接地に基づき前記電気的導通性レベルを感知すること、
の少なくとも一方を更に含む、請求項1に記載の方法。 - 前記近接性レベルの前記解釈と前記電気的導通性レベルの前記感知とに基づきコマンドジェスチャの数を増加させることを更に含む、請求項2に記載の方法。
- 前記近接性レベルを解釈することが、
少なくとも1つの共振回路からの出力に基づき前記入力装置上の前記オブジェクトの高さを確認することと、
前記入力装置との関係で前記オブジェクトの横方向の位置を特定することと、
を含む、請求項2に記載の方法。 - 前記高さを確認することが、
前記入力装置の第1のコンポーネントの第1の共振周波数を前記入力装置の第2のコンポーネントの第2の共振周波数と比較し、前記第1の共振周波数と前記第2の共振周波数とのうちの最低共振周波数を決定することと、
前記最低共振周波数に基づき、前記オブジェクトが前記第1のコンポーネントにより近いこと、または、前記オブジェクトが前記第2のコンポーネントにより近いことを決定することを含む、前記最低共振周波数に基づき前記オブジェクトと前記入力装置との間の距離を測定することと、
を含む、請求項4に記載の方法。 - 前記高さを確認することが、
前記入力装置のコンポーネントの応答を比較することと、
前記オブジェクトの高さを間接的に確認するために、三角関数を前記応答に適用することと、
を含む、請求項4に記載の方法。 - 前記横方向の位置を特定することが、
前記入力装置の第1のコンポーネントの第1の共振周波数と前記入力装置の第2のコンポーネントの第2の共振周波数とを計算することと、
前記第1の共振周波数と前記第2の共振周波数との間の極小値に応じて、前記横方向の位置を決定することと、
を含む、請求項4に記載の方法。 - 前記横方向の位置を特定することが、
第1のコンポーネントの第1の共振周波数と、前記第1のコンポーネントに隣接する第2のコンポーネントの第2の共振周波数との間の差を検出することと、
前記オブジェクトが前記第1のコンポーネントにより近いこと、または、前記オブジェクトが前記第2のコンポーネントにより近いことを、前記差に応じて決定することと、
を含む、請求項4に記載の方法。 - 前記動作表示を出力することが、第1の部分と第2の部分とを含む仮想ディスプレイ上でアイテムをハイライト表示することを含み、前記第1の部分が前記動作表示と関連するコマンドを含み、前記第2の部分が前記入力装置の仮想表現を含む、請求項1に記載の方法。
- 前記アイテムをハイライト表示することが、前記オブジェクトが前記入力装置と物理的に接触していることに応答して実行される、請求項9に記載の方法。
- 前記知覚情報を受け取ることが、
前記入力装置に近接するまたは接触する2つ以上のオブジェクトを同時に検出することと、
ジェスチャコマンドのために前記2つ以上のオブジェクトを単一のオブジェクトとして識別することと、
を含み、前記知覚情報を受け取ることが、前記単一のオブジェクトと関連する前記知覚情報を受け取ることを含む、請求項1に記載の方法。 - 前記動作表示を出力することが、ディスプレイ装置に、前記動作表示を含む信号と前記ディスプレイ装置による出力のためのコマンドの解釈とを送信することを含む、請求項1に記載の方法。
- 前記コマンドの解釈が前記オブジェクトの運動を補間することを含む、請求項1に記載の方法。
- 前記補間することが、
前記入力装置の複数のコンポーネントからデータを受け取ることと、
前記データに基づき、前記オブジェクトを特定するなめらかな線を構築することと、
を含む、請求項13に記載の方法。 - キーボードに対する空間内部の少なくとも1つのジェスチャを受け取るように構成された環境捕捉コンポーネントと、
前記少なくとも1つのジェスチャベースコマンドを識別するように構成された解釈コンポーネントと、
前記少なくとも1つのジェスチャの情報と前記コマンドの結果とをレンダリングするように構成された出力コンポーネントであって、前記情報は仮想ディスプレイ上でレンダリングされるように構成される、出力コンポーネントと、
を備える、システム。 - 前記解釈コンポーネントが、前記少なくとも1つのジェスチャと関連する近接性または電気的導通性を確認するように更に構成される、請求項15に記載のシステム。
- 前記解釈コンポーネントが、カーソル制御を検出することにより前記近接性を確認するように更に構成され、機械的作動が手動のコマンドを示すことを確認するように構成されており、前記電気的導通性が前記仮想ディスプレイにおけるキーのハイライト表示を容易にする、請求項16に記載のシステム。
- 前記環境捕捉コンポーネントが、前記キーボードに対するおよび近接する空間における移動を検出し、前記キーボードに加えられた圧力を検出するように構成される、請求項15に記載のシステム。
- 前記出力コンポーネントが、更に、前記キーボードに加えられた圧力の検出に応答して前記仮想ディスプレイの少なくとも一部をハイライト表示するように構成される、請求項18に記載のシステム。
- 前記キーボード上の指先の高さと横方向の位置との決定への入力としてキャパシタンスを測定するように構成されたセンサを更に備える、請求項15に記載のシステム。
- 前記指先と前記キーボードのキーとが共振回路のコンデンサを形成し、前記指先と前記キーのサイズの2分の1を単位とする分離距離をdとすると、前記指先と前記キーの間のキャパシタンスが1/dに比例し、前記共振回路の周波数が距離の尺度である、請求項20に記載のシステム。
- 前記指先が1対のキーにおいて第2のキーよりも第1のキーにより近い度合いを表すうなり周波数を測定するように構成された評価コンポーネントを更に備える、請求項20に記載のシステム。
- 前記第1のキーと前記第2のキーとの前記うなり周波数は、前記指先が前記第1のキーと前記第2のキーとの間にあることに応答して消滅する、請求項22に記載のシステム。
- 前記仮想ディスプレイが拡張現実メガネを含む、請求項15に記載のシステム。
- 前記キーボードがそれぞれの親指で作動されるスペースバーを有する2つの部分を含んでおり、前記2つの部分が前記2つの部分と関連するキーを覆うように相互に折り畳まれるように構成される、請求項15に記載のシステム。
- コンピュータ実行可能な命令が記憶されるコンピュータ可読記憶媒体であって、前記命令は、実行に応じて、コンピューティングデバイスに、
実行されるべき少なくとも1つのコマンドを示すジェスチャを検出することと、
前記ジェスチャを、複数のコマンドから選択された前記少なくとも1つのコマンドとして解釈することと、
前記少なくとも1つのコマンドの結果を、仮想空間内部の知覚可能なイベントとして開始することと、
を含む動作を実行させる、コンピュータ可読記憶媒体。 - 前記ジェスチャを検出することが、
前記少なくとも1つのコマンドを示すジェスチャと1組の一般的な近接性レベルのジェスチャとを区別することを更に含み、前記1組の一般的な近接性レベルのジェスチャが無視される、請求項26に記載のコンピュータ可読記憶媒体。 - 前記ジェスチャを検出することが、
外部行為者とキーボード上の導電性作動キーとの間の電気的接触を示す作動を受け取ることを更に含む、請求項26に記載のコンピュータ可読記憶媒体。 - 前記ジェスチャを検出することが、
入力装置の第1の導電性作動キーの第1の共振周波数と前記入力装置の第2の導電性作動キーの第2の共振周波数とを比較し、前記第1の共振周波数と前記第2の共振周波数とのうちの最低共振周波数を決定することと、
前記最低共振周波数に基づき、外部行為者が前記第1の導電性作動キーにより近いこと、または、外部行為者が前記第2の導電性作動キーにより近いことを決定することを含む、前記最低共振周波数に基づき前記外部行為者と前記入力装置との間の距離を測定することと、
を更に含む、請求項26に記載のコンピュータ可読記憶媒体。 - 前記ジェスチャを検出することが、
入力装置の第1の導電性作動キーの第1の共振周波数と前記入力装置の第2の導電性作動キーの第2の共振周波数とを計算することと、
前記第1の共振周波数と前記第2の共振周波数との間の極小値に応じて、外部行為者の横方向の位置を決定することと、
を更に含む、請求項26に記載のコンピュータ可読記憶媒体。 - 前記ジェスチャを解釈することが、前記ジェスチャが、スウィープジェスチャ、プッシュプルジェスチャ、サークルジェスチャ、デフレクションジェスチャ、拡大縮小ジェスチャ、または回転ジェスチャのうちの少なくとも1つであることを確認することを含む、請求項26に記載のコンピュータ可読記憶媒体。
- 前記結果を開始することが、第1の部分と第2の部分とを含む仮想ディスプレイ上でアイテムをハイライト表示すること、前記第1の部分によって前記ジェスチャと関連するコマンドを図解すること、および前記第2の部分によって入力装置の表現を提示することを含む、請求項26に記載のコンピュータ可読記憶媒体。
- 前記アイテムをハイライト表示することが、外部行為者と前記入力装置との間の物理的接触に応答する、請求項32に記載のコンピュータ可読記憶媒体。
- ジェスチャの形式で入力を受け取る手段と、
前記ジェスチャを、近接性レベル、電気的導通性レベル、および作動レベルのうちの1つまたは複数に応じて、1組の択一的なコマンドから選択されたコマンドに変換する手段と、
前記コマンドの結果を、知覚可能なフォーマットで、遠隔の表示デバイスに出力する手段と、
を備える、システム。 - 前記近接性レベルをキャパシタンスに応じて解釈する手段と、
オブジェクトによる入力装置のコンポーネントの表面の接地に基づき前記電気的導通性レベルを感知する手段と、
外部の力による前記コンポーネントの移動から前記作動レベルを検出する手段と、
を更に備える、請求項34に記載のシステム - キーボードであって、
キーのアレイであって、前記キーのアレイの少なくとも1つのキーの部分集合が、少なくとも前記キーの部分集合のそれぞれのキーに加えられた圧力を検出するように構成されたそれぞれの変位作動式スイッチを備える、キーのアレイと、
前記キーボードに近接する指を検出するように構成された少なくとも1つの容量性センサと、
を備えるキーボードと、
前記キーボードに近接するジェスチャをコマンドに変換するように構成された変換モジュールと、
前記コマンドに応じて表示を変更するように構成されたプロセッサと、
を備える、コンピューティングデバイス。 - 前記キーボードは、容量性相互作用、導電性相互作用、または機械的相互作用から相互作用情報を受け取るために、前記指と、少なくとも前記キーの前記部分集合との間の電気的接触を検出するように構成される、請求項36に記載のコンピューティングデバイス。
- 前記ディスプレイが遠隔仮想ディスプレイであり、前記プロセッサが、信号を生成し前記信号を前記遠隔仮想ディスプレイに送信するように更に構成される、請求項36に記載のコンピューティングデバイス。
- 前記変換モジュールが、異なるコマンドに対応する1組のコマンドジェスチャを含むデータストアにアクセスするように更に構成される、請求項36に記載のコンピューティングデバイス。
- 前記データストアが、前記1組のコマンドジェスチャと区別可能な1組の一般的な近接性レベルのジェスチャを更に含む、請求項39に記載のコンピューティングデバイス。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/US2011/041173 WO2012177237A1 (en) | 2011-06-21 | 2011-06-21 | Gesture based user interface for augmented reality |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014515147A true JP2014515147A (ja) | 2014-06-26 |
Family
ID=47361356
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014508330A Pending JP2014515147A (ja) | 2011-06-21 | 2011-06-21 | 拡張現実のためのジェスチャベースユーザインターフェース |
Country Status (5)
Country | Link |
---|---|
US (2) | US9547438B2 (ja) |
JP (1) | JP2014515147A (ja) |
KR (1) | KR101516513B1 (ja) |
CN (1) | CN103635869B (ja) |
WO (1) | WO2012177237A1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2018047791A1 (ja) * | 2016-09-09 | 2019-06-24 | パナソニックIpマネジメント株式会社 | 入力装置及びそれを備えた電子機器 |
JP2019537084A (ja) * | 2016-09-16 | 2019-12-19 | タクチュアル ラブズ シーオー. | タッチセンサ式キーボード |
US11037743B2 (en) | 2018-10-26 | 2021-06-15 | Dynabook Inc. | Electronic device |
Families Citing this family (52)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7920129B2 (en) | 2007-01-03 | 2011-04-05 | Apple Inc. | Double-sided touch-sensitive panel with shield and drive combined layer |
US9430145B2 (en) * | 2011-04-06 | 2016-08-30 | Samsung Electronics Co., Ltd. | Dynamic text input using on and above surface sensing of hands and fingers |
US20150169059A1 (en) * | 2012-04-18 | 2015-06-18 | Nokia Corporation | Display apparatus with haptic feedback |
US10281986B2 (en) * | 2012-05-03 | 2019-05-07 | Georgia Tech Research Corporation | Methods, controllers and computer program products for accessibility to computing devices |
US9696547B2 (en) * | 2012-06-25 | 2017-07-04 | Microsoft Technology Licensing, Llc | Mixed reality system learned input and functions |
US9300645B1 (en) * | 2013-03-14 | 2016-03-29 | Ip Holdings, Inc. | Mobile IO input and output for smartphones, tablet, and wireless devices including touch screen, voice, pen, and gestures |
US10940311B2 (en) * | 2013-03-29 | 2021-03-09 | Neurometrix, Inc. | Apparatus and method for button-free control of a wearable transcutaneous electrical nerve stimulator using interactive gestures and other means |
FR3003964B1 (fr) | 2013-04-02 | 2016-08-26 | Fogale Nanotech | Dispositif pour interagir, sans contact, avec un appareil electronique et/ou informatique, et appareil equipe d'un tel dispositif |
US9829992B2 (en) | 2013-05-02 | 2017-11-28 | Synaptics Incorporated | Multi-function keys providing additional functions and previews of functions |
WO2015016894A1 (en) * | 2013-07-31 | 2015-02-05 | Hewlett-Packard Development Company, L.P. | Gesture detection |
US9804712B2 (en) * | 2013-08-23 | 2017-10-31 | Blackberry Limited | Contact-free interaction with an electronic device |
US20150185858A1 (en) * | 2013-12-26 | 2015-07-02 | Wes A. Nagara | System and method of plane field activation for a gesture-based control system |
US10001645B2 (en) * | 2014-01-17 | 2018-06-19 | Sony Interactive Entertainment America Llc | Using a second screen as a private tracking heads-up display |
FR3017723B1 (fr) * | 2014-02-19 | 2017-07-21 | Fogale Nanotech | Procede d'interaction homme-machine par combinaison de commandes tactiles et sans contact |
WO2015139002A1 (en) * | 2014-03-14 | 2015-09-17 | Sony Computer Entertainment Inc. | Gaming device with volumetric sensing |
US9746984B2 (en) | 2014-08-19 | 2017-08-29 | Sony Interactive Entertainment Inc. | Systems and methods for providing feedback to a user while interacting with content |
US9696549B2 (en) * | 2014-12-22 | 2017-07-04 | International Business Machines Corporation | Selectively pairing an application presented in virtual space with a physical display |
CN104656893B (zh) * | 2015-02-06 | 2017-10-13 | 西北工业大学 | 一种信息物理空间的远程交互式操控***及方法 |
JP6596883B2 (ja) | 2015-03-31 | 2019-10-30 | ソニー株式会社 | ヘッドマウントディスプレイ及びヘッドマウントディスプレイの制御方法、並びにコンピューター・プログラム |
CN110275619A (zh) * | 2015-08-31 | 2019-09-24 | 北京三星通信技术研究有限公司 | 在头戴式显示器中显示真实物体的方法及其头戴式显示器 |
US9939908B2 (en) * | 2015-09-28 | 2018-04-10 | Paypal, Inc. | Multi-device authentication |
CN108700991A (zh) * | 2015-12-01 | 2018-10-23 | 量子界面有限责任公司 | 用于为移动设备建立3轴坐标系并且利用虚拟键盘进行写入的基于运动的***、装置和方法 |
EP3384370A4 (en) * | 2015-12-01 | 2020-02-19 | Quantum Interface, LLC | MOTION-BASED SYSTEMS, APPARATUSES AND METHODS FOR IMPLEMENTING 3D CONTROLS USING 2D CONSTRUCTIONS, USE OF REAL OR VIRTUAL CONTROLS, USE OF OVERVIEW SCREENING, AND BLOB DATA CONTROLS |
US10452227B1 (en) * | 2016-03-31 | 2019-10-22 | United Services Automobile Association (Usaa) | System and method for data visualization and modification in an immersive three dimensional (3-D) environment |
CN105975067A (zh) * | 2016-04-28 | 2016-09-28 | 上海创米科技有限公司 | 应用于虚拟现实产品的按键输入设备及方法 |
US10672149B2 (en) | 2016-06-22 | 2020-06-02 | Huawei Technologies Co., Ltd. | Head mounted display device and processing method of head mounted display device |
CN106249882B (zh) | 2016-07-26 | 2022-07-12 | 华为技术有限公司 | 一种应用于vr设备的手势操控方法与装置 |
TWI609316B (zh) * | 2016-09-13 | 2017-12-21 | 精元電腦股份有限公司 | 可疊加虛擬鍵盤的顯示裝置 |
US10817126B2 (en) * | 2016-09-20 | 2020-10-27 | Apple Inc. | 3D document editing system |
CN106527916A (zh) * | 2016-09-22 | 2017-03-22 | 乐视控股(北京)有限公司 | 基于虚拟现实设备的操作方法、装置及操作设备 |
US10845891B2 (en) * | 2016-09-30 | 2020-11-24 | Disney Enterprises, Inc. | Displaying proximate keys in a virtual reality environment |
CN106502417A (zh) * | 2016-11-08 | 2017-03-15 | 北京暴风魔镜科技有限公司 | 移动虚拟现实设备适配电脑外设的方法、装置和*** |
US10394342B2 (en) | 2017-09-27 | 2019-08-27 | Facebook Technologies, Llc | Apparatuses, systems, and methods for representing user interactions with real-world input devices in a virtual space |
US10732774B1 (en) * | 2018-03-21 | 2020-08-04 | Rockwell Collins, Inc. | Increasing cursor control device sensitivity |
US10719173B2 (en) * | 2018-04-04 | 2020-07-21 | Facebook Technologies, Llc | Transcribing augmented reality keyboard input based on hand poses for improved typing accuracy |
CN108519855A (zh) * | 2018-04-17 | 2018-09-11 | 北京小米移动软件有限公司 | 字符输入方法及装置 |
KR102174039B1 (ko) * | 2018-12-12 | 2020-11-04 | 한국광기술원 | 증강현실을 이용하여 어디에서도 파일을 편집할 수 있는 장치 및 방법 |
CN110275610B (zh) * | 2019-05-27 | 2022-09-30 | 山东科技大学 | 一种基于LeapMotion体感控制器的协同手势控制采煤仿真控制方法 |
JP6675136B1 (ja) * | 2019-06-20 | 2020-04-01 | パルス株式会社 | 仮想空間提供システム、仮想空間提供方法及びプログラム |
KR102137092B1 (ko) * | 2019-08-06 | 2020-07-23 | 삼성전기주식회사 | 듀얼 센싱 구조를 이용하여 터치센싱 및 포스센싱을 구현한 스위칭 조작 센싱 장치 및 전자 기기 |
US11009969B1 (en) | 2019-12-03 | 2021-05-18 | International Business Machines Corporation | Interactive data input |
KR102333090B1 (ko) * | 2019-12-17 | 2021-12-01 | 삼성전기주식회사 | 센싱 코일 부품 및 이를 포함하는 스위치 조작 센싱 장치 |
TWI778347B (zh) * | 2020-01-06 | 2022-09-21 | 美商矽成積體電路股份有限公司 | 臨近偵測方法及臨近偵測鍵盤 |
EP4295314A1 (en) | 2021-02-08 | 2023-12-27 | Sightful Computers Ltd | Content sharing in extended reality |
EP4288856A1 (en) * | 2021-02-08 | 2023-12-13 | Sightful Computers Ltd | Extended reality for productivity |
EP4288950A1 (en) | 2021-02-08 | 2023-12-13 | Sightful Computers Ltd | User interactions in extended reality |
TW202307637A (zh) | 2021-03-03 | 2023-02-16 | 美商加爾汀玻璃有限責任公司 | 用以建立與被動檢測電場變化之系統及/或方法 |
US11757951B2 (en) | 2021-05-28 | 2023-09-12 | Vizio, Inc. | System and method for configuring video watch parties with gesture-specific telemojis |
WO2023009580A2 (en) | 2021-07-28 | 2023-02-02 | Multinarity Ltd | Using an extended reality appliance for productivity |
US11948263B1 (en) | 2023-03-14 | 2024-04-02 | Sightful Computers Ltd | Recording the complete physical and extended reality environments of a user |
US20230334795A1 (en) | 2022-01-25 | 2023-10-19 | Multinarity Ltd | Dual mode presentation of user interface elements |
US20230324997A1 (en) * | 2022-04-11 | 2023-10-12 | Meta Platforms Technologies, Llc | Virtual Keyboard Selections Using Multiple Input Modalities |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11194882A (ja) * | 1998-01-06 | 1999-07-21 | Poseidon Technical Systems:Kk | キーボードおよび入力装置 |
JP2007149028A (ja) * | 2005-11-30 | 2007-06-14 | Toyota Motor Corp | 2次元座標検出装置 |
JP2008117371A (ja) * | 2006-10-13 | 2008-05-22 | Sony Corp | 近接検知型情報表示装置およびこれを使用した情報表示方法 |
JP2010092419A (ja) * | 2008-10-10 | 2010-04-22 | Sony Corp | 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4524348A (en) | 1983-09-26 | 1985-06-18 | Lefkowitz Leonard R | Control interface |
US7911456B2 (en) * | 1992-06-08 | 2011-03-22 | Synaptics Incorporated | Object position detector with edge motion feature and gesture recognition |
US6417892B1 (en) * | 1995-05-23 | 2002-07-09 | Colorlink, Inc. | Color filters, sequencers and displays using color selective light modulators |
US5790107A (en) * | 1995-06-07 | 1998-08-04 | Logitech, Inc. | Touch sensing method and apparatus |
JP3484355B2 (ja) | 1998-09-28 | 2004-01-06 | オムロンヘルスケア株式会社 | 生体検知装置 |
EP1717683A3 (en) * | 1998-01-26 | 2010-03-17 | Apple Inc. | Method and apparatus for integrating manual input |
US20050002158A1 (en) * | 2002-02-25 | 2005-01-06 | Robert Olodort | Mobile computer with foldable keyboard |
US7821425B2 (en) | 2002-07-12 | 2010-10-26 | Atmel Corporation | Capacitive keyboard with non-locking reduced keying ambiguity |
WO2004093005A1 (ja) * | 2003-04-15 | 2004-10-28 | Fujitsu Limited | 情報処理装置 |
CN100462899C (zh) | 2005-04-30 | 2009-02-18 | 埃派克森微电子有限公司 | 电容触摸板数据输入装置和键盘 |
US7903092B2 (en) | 2006-05-25 | 2011-03-08 | Atmel Corporation | Capacitive keyboard with position dependent reduced keying ambiguity |
US8786554B2 (en) | 2006-07-10 | 2014-07-22 | Atmel Corporation | Priority and combination suppression techniques (PST/CST) for a capacitive keyboard |
US8766910B2 (en) * | 2007-07-04 | 2014-07-01 | Cypress Semiconductor Corporation | Capacitive sensing control knob |
US8219936B2 (en) * | 2007-08-30 | 2012-07-10 | Lg Electronics Inc. | User interface for a mobile device using a user's gesture in the proximity of an electronic device |
US8179375B2 (en) * | 2008-01-04 | 2012-05-15 | Tactus Technology | User interface system and method |
US8156809B2 (en) * | 2008-03-27 | 2012-04-17 | Immersion Corporation | Systems and methods for resonance detection |
US20090251422A1 (en) | 2008-04-08 | 2009-10-08 | Honeywell International Inc. | Method and system for enhancing interaction of a virtual keyboard provided through a small touch screen |
TW200949632A (en) | 2008-05-22 | 2009-12-01 | Prospect Technology Corp | A trigger-threshold adaptable and auto-adjustable capacitive induction-type keying device |
TWI392876B (zh) | 2008-08-08 | 2013-04-11 | Sony Corp | 電容感測器裝置之電容變化測量電路,電容感測器模組,電容感測器裝置之測量電容變化之方法及電子裝置 |
KR20100031204A (ko) * | 2008-09-12 | 2010-03-22 | 삼성전자주식회사 | 근접 센서 기반의 입력 장치 및 그의 운용 방법 |
US8497786B2 (en) | 2009-03-26 | 2013-07-30 | Freescale Semiconductor, Inc. | Capacitive keyboard with enhanced electrode areas |
US20100253629A1 (en) | 2009-04-03 | 2010-10-07 | Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. | Combined Mutual Capacitance and Switch-Actuated Keyboard for Enhanced Texting in an Electronic Device |
US8115499B2 (en) * | 2009-05-22 | 2012-02-14 | Freescale Semiconductor, Inc. | Device with proximity detection capability |
FR2949007B1 (fr) * | 2009-08-07 | 2012-06-08 | Nanotec Solution | Dispositif et procede d'interface de commande sensible a un mouvement d'un corps ou d'un objet et equipement de commande integrant ce dispositif. |
US9372579B2 (en) * | 2009-10-27 | 2016-06-21 | Atmel Corporation | Touchscreen electrode arrangement |
US8816964B2 (en) * | 2010-11-26 | 2014-08-26 | Mckesson Financial Holdings | Sensor-augmented, gesture-enabled keyboard and associated apparatus and computer-readable storage medium |
-
2011
- 2011-06-21 JP JP2014508330A patent/JP2014515147A/ja active Pending
- 2011-06-21 KR KR1020137022939A patent/KR101516513B1/ko not_active IP Right Cessation
- 2011-06-21 WO PCT/US2011/041173 patent/WO2012177237A1/en active Application Filing
- 2011-06-21 US US13/320,904 patent/US9547438B2/en not_active Expired - Fee Related
- 2011-06-21 CN CN201180071787.5A patent/CN103635869B/zh not_active Expired - Fee Related
-
2016
- 2016-11-28 US US15/361,638 patent/US9823752B2/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11194882A (ja) * | 1998-01-06 | 1999-07-21 | Poseidon Technical Systems:Kk | キーボードおよび入力装置 |
JP2007149028A (ja) * | 2005-11-30 | 2007-06-14 | Toyota Motor Corp | 2次元座標検出装置 |
JP2008117371A (ja) * | 2006-10-13 | 2008-05-22 | Sony Corp | 近接検知型情報表示装置およびこれを使用した情報表示方法 |
JP2010092419A (ja) * | 2008-10-10 | 2010-04-22 | Sony Corp | 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2018047791A1 (ja) * | 2016-09-09 | 2019-06-24 | パナソニックIpマネジメント株式会社 | 入力装置及びそれを備えた電子機器 |
JP2019537084A (ja) * | 2016-09-16 | 2019-12-19 | タクチュアル ラブズ シーオー. | タッチセンサ式キーボード |
US11037743B2 (en) | 2018-10-26 | 2021-06-15 | Dynabook Inc. | Electronic device |
Also Published As
Publication number | Publication date |
---|---|
US9823752B2 (en) | 2017-11-21 |
KR101516513B1 (ko) | 2015-05-04 |
US9547438B2 (en) | 2017-01-17 |
CN103635869A (zh) | 2014-03-12 |
KR20130129271A (ko) | 2013-11-27 |
WO2012177237A1 (en) | 2012-12-27 |
CN103635869B (zh) | 2017-02-15 |
US20170075429A1 (en) | 2017-03-16 |
US20120326961A1 (en) | 2012-12-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9823752B2 (en) | Gesture based user interface for augmented reality | |
KR101459816B1 (ko) | 압력 센서를 갖는 광학 용량성 썸 컨트롤 | |
US8248386B2 (en) | Hand-held device with touchscreen and digital tactile pixels | |
EP2717120B1 (en) | Apparatus, methods and computer program products providing finger-based and hand-based gesture commands for portable electronic device applications | |
CN105116971B (zh) | 基于使用历史的gui布局的定制 | |
KR101534282B1 (ko) | 포터블 디바이스의 사용자 입력 방법 및 상기 사용자 입력 방법이 수행되는 포터블 디바이스 | |
US8179408B2 (en) | Projective capacitive touch apparatus, and method for identifying distinctive positions | |
CN105745669A (zh) | 移动装置中的用户验证生物计量技术 | |
US20160042172A1 (en) | Method and apparatus for unlocking devices | |
CN106372544B (zh) | 经由保持在原地的输入对象的暂时安全访问 | |
KR102353919B1 (ko) | 터치의 압력에 응답하여 지정된 동작을 수행하는 전자 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140819 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20141112 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20141205 |