JP2019537084A - タッチセンサ式キーボード - Google Patents

タッチセンサ式キーボード Download PDF

Info

Publication number
JP2019537084A
JP2019537084A JP2019511924A JP2019511924A JP2019537084A JP 2019537084 A JP2019537084 A JP 2019537084A JP 2019511924 A JP2019511924 A JP 2019511924A JP 2019511924 A JP2019511924 A JP 2019511924A JP 2019537084 A JP2019537084 A JP 2019537084A
Authority
JP
Japan
Prior art keywords
touch
keyboard
keys
key
sensitive
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019511924A
Other languages
English (en)
Other versions
JP2019537084A5 (ja
Inventor
フォーラインズ,クリフトン
ホルマン,デイビッド
デニス,スティーヴン
コスタ,リカルド ホルヘ ホタ
コスタ,リカルド ホルヘ ホタ
レオナルド サンダース,スティーヴン
レオナルド サンダース,スティーヴン
クラーク ウィルキンソン,デイビッド
クラーク ウィルキンソン,デイビッド
モーズリー,ブラオン
アラウーホ,ブルーノ ロドリゲス デ
アラウーホ,ブルーノ ロドリゲス デ
Original Assignee
タクチュアル ラブズ シーオー.
タクチュアル ラブズ シーオー.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by タクチュアル ラブズ シーオー., タクチュアル ラブズ シーオー. filed Critical タクチュアル ラブズ シーオー.
Publication of JP2019537084A publication Critical patent/JP2019537084A/ja
Publication of JP2019537084A5 publication Critical patent/JP2019537084A5/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/0202Constructional details or processes of manufacture of the input device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • G06F3/0233Character input methods
    • G06F3/0234Character input methods using switches operable in different directions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • G06F3/0233Character input methods
    • G06F3/0235Character input methods using chord techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • G06F3/0238Programmable keyboards
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • G06F3/0426Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected tracking fingers with respect to a virtual keyboard projected or printed on the surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04108Touchless 2D- digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface without distance measurement in the Z direction

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)
  • Electronic Switches (AREA)
  • Input From Keyboards Or The Like (AREA)

Abstract

タッチセンサ式キーボードが開示される。一実施形態では、キーボードキーと離れているタッチパッド領域を有するタッチセンサ式キーボードが提供される。キーボードは、特定のタッチ信号が受信された時にタッチパッドの感度を無効にするように構成される。別の実施形態において、タッチセンサ式キーボードはコントローラとして使用される。コントローラモードにおいて、タッチセンサ式キーボード上のキーは、キーと、制御として動作する指との間の距離に対応する信号強度を出力するのに適している。一実施形態において、タッチセンサ式キーボードは、押されている複数のタッチセンサ式キーの1つに応えてキーストロークを出力し、およびキーボード上の複数のタッチセンサ式キーの各々に信号強度を補間することによって判定される1つ以上のタッチ点を出力するのに適したプロセッサを含む。【選択図】図8

Description

出願は、2016年9月16日に出願された米国仮特許出願第62/395,835号、「TOUCH SENSITIVE DEVICE INTERACTIONS」の優先権を主張する特許出願である。本出願は、2016年7月29日に出願された米国特許出願第15/224,226号、「HOVER−SENSITIVE TOUCHPAD」、2016年8月30日に出願された米国特許出願第15/251,859号、「TOUCH−SENSITIVE OBJECTS」、および2017年8月25日に出願された米国特許出願第15/678,401号、「SYSTEMS AND METHODS FOR ULTRASONIC,MILLIMETER WAVE AND HYBRID SENSING」の開示に関する。本出願はまた、2016年2月29日出願の米国特許出願第15/056,805号、「ALTERABLE GROUND PLANE FOR TOUCH SURFACES」、および2014年9月18日出願の米国特許出願第14/490,363号、「SYSTEMS AND METHODS FOR PROVIDING RESPONSE TO USER INPUT USING INFORMATION ABOUT STATE CHANGES AND PREDICTING FUTURE USER INPUT」に開示される、高速マルチタッチセンサおよび他のインターフェースなどのユーザーインターフェースに関する。本出願はさらに、2016年4月14日出願の米国特許出願第15/099,179号、「CAPACITIVE SENSOR PATTERNS」、および2017年8月29日出願の米国特許出願第15/690,234号、「CAPACITIVE SENSOR」に開示されるもの等の、静電容量センサのコンダクタのための様々なレイアウトに関する。上記の出願および/または特許の全ての開示が、この参照により本明細書に組み込まれる。
本出願は著作権保護の対象である資料を含んでいる。著作権の所有者は、それが特許商標庁のファイルまたは記録に現われるため特許情報開示者による複製に反対しないが、そうでない場合には著作権をすべて留保する。
本開示のシステムは、概してユーザー入力の分野に関し、とりわけ、ホバーと圧力を含むタッチに感度のあるキーボードとキーボードスイッチに関する。
既知の方法は一般的に、いつキーが押されたのかを判定するためにキー内の接触のみに頼るという欠点を有する。本明細書に記載されるような、ホバー、接触、およびキー押の情報を感知するための能力、およびユーザーのジェスチャとインタラクションを理解するのに有効な情報を有する能力は、タッチデバイスとのインタラクションに無数の可能性をもたらす。
本発明の目的、特徴、および利点は、参照文字が様々な図面にわたって同一部品を指している添付の図面で例示されるような、好適な実施形態についての以下の具体的な記載から明らかになる。図面は同一縮尺である必要はなく、その代わりに本発明の原則の例示が強調されている。例としての実施形態と関連するデータは、本発明を例示する目的で開示されるが、他の実施形態と関連するデータは、本開示の範囲と精神から逸脱することなく、本開示に照らして当業者に明白となる。
従来のスタイルのキーボードと共に使用するためのキーボードスイッチの典型的な実施形態の斜視図を示す。 キーカバーのない典型的なキーボードスイッチの斜視図を示す。 キーボードスイッチの左側正面図を示す。 キーボードスイッチの断面の右側面図を示す。 図1A−1Dに示される典型的なキーボードスイッチを使用する、キーボードの典型的な送信層および受信層を示す。 図1A−1Dに示される典型的なキーボードスイッチを使用する、キーボードの典型的な送信層および受信層を示す。 キーボードスイッチの別の典型的な実施形態を示す。 キーボードスイッチの別の典型的な実施形態を示す。 キーボードスイッチのさらに別の典型的な実施形態を示す。 キーボードスイッチのさらに別の典型的な実施形態を示す。 キーボードスイッチのさらなる典型的な実施形態を示す。 キーボードスイッチのさらなる典型的な実施形態を示す。 ユーザーの手がその近位に位置している典型的なキーボードを示し、および、ユーザーの手の位置付けと、典型的なキーボードとの近接に対応する例示されたキーボード上に重ねられた、コンピュータ生成されたヒートマップを有するそのキーボードの図を示す。 ユーザーの手がその近位に再配置されている典型的なキーボードの別の図と、コンピュータ生成されたヒートマップを上に重ねた図を有するそのキーボードの図を示している。 特徴のあるキーボードの、ユーザー視野および現実世界の視野のハイブリッドを示す図である。 特徴のまばらな(feature−sparse)キーボードの、ユーザー視点および現実世界の視点のハイブリッドを示す図である。 特徴のあるキーボードの典型的な実施形態を示す。 特徴のあるキーボードの例示的なセンサ範囲を示す。 特徴のあるキーボード上のセンサ範囲内のユーザーの指と手のヒートマップの例を示す。 仮想現実または拡張現実感における、キーボード上に再生成されているユーザーの指、手および手首の例と、視覚的コンテキストを示す。 ユーザーの仮想視点または拡張現実視点における、フローティング型ツールチップを表示するキーボードの、ユーザーの視野と現実世界の視野のハイブリッドを示す図である。 本明細書に開示されるタッチセンサ式デバイスに関連して使用され得る、空中ジェスチャのサンプルリストを提供する。 別個のキーボードとタッチパッドを有するデバイスを示す。 使用中のデバイスのキーボードを示し、偶発的な入力を防ぐためにタッチパッドは無効にされている。 ユーザーの手/指がタッチセンサ式キーボードのキーから離れている時に使用されるデバイスのタッチパッドを示す。 CTRLとALTキーにあるユーザーの2つの指、およびタッチセンサ式キーボードにタッチするのに使用される人差し指を示す。 タッチセンサ領域にわたる人差し指の動きを示す。 SPACEキーにあるユーザーの2つの親指、およびタッチセンサ式キーボードにタッチするのに使用される人差し指を示す。 タッチセンサ領域にわたる人差し指の動きを示す。 キーボードのホームキーにあり、状態の変化を引き起こすユーザーの手/指を示す。 Kキーの真中に指が載っているのを示す。 Kキーの左側に指が載っているのを示す。 Kキーの右側に指が載っているのを示す。 Kキーの上縁に指が載っているのを示す。 タッチセンサ式キーボードを示し、キーボード上の各キーによって測定された信号強度を表す。 不規則な間隔のキーから生成された、規則化されたヒートマップを示す。
様々な実施形態では、本開示は、ホバー、接触、および圧力に感度のあるキーボードを対象とし、および現実世界、仮想現実、および拡張現実の環境におけるそれらの適用を対象とする。本開示は概して、限定されないがメンブレンキーボード、ドームスイッチキーボード、シザースイッチキーボード、静電容量式キーボード、メカニカルスイッチキーボード、バックリングスプリング式キーボード、ホール効果キーボード、レーザー照射キーボード、ロールアップキーボード、および光学キーボード技術を含む全てのタイプのキーボードに適用されることが、当業者によって理解されるだろう。
本開示全体にわたって、用語「ホバー(hover)」、「タッチ(touch)」、「タッチ(touches)」、「接触(contact)」、「接触(contacts)」、「圧力(pressure)」、もしくは「圧力(pressures)」、または他の記述は、ユーザーの指、スタイラス、物体、または身体部分がセンサによって検出される事象または期間を記載するために使用され得る。いくつかの実施形態において、および単語「接触」によって一般的に意味されるように、ユーザーがセンサまたはセンサが埋め込まれたデバイスと物理的に接触している時に、このような検出が起こる。他の実施形態において、および用語「ホバー」によって一般的に言及されるように、タッチ面の上を一定距離離れてホバーしている、またはそうでなければタッチセンサ式デバイスから離れている「タッチ」の検出を可能にするために、センサは調整され得る。
本明細書において使用されるように、「タッチ面」はキーボードまたはキーを含む;しかしながら、容易に理解されるように、タッチ面は実際のキーまたは特徴を有していなくてもよく、一般的には特徴のまばらな(feature−sparse)面であり得る。検出された物理的接触への依存を示唆する本明細書内での言葉の使用は、記載された技術がそれらの実施形態にのみ適用されることを意味すると解釈するべきではなく;実際、一般的に、本明細書に記載されるものは一様に「接触」と「ホバー」に当てはまり、その各々は「タッチ」である。より一般的に、本明細書で使用されるように用語「タッチ」は、本明細書に記載される種類のセンサによって検出可能な行為を指し、したがって、本明細書で使用されるように用語「ホバー」は、本明細書で意図される「タッチ」の意味において「タッチ」の一種である。「圧力」は、「接触」の圧力、つまりユーザーが自身の指または手をキーまたは他の面に対して押す力を指す。「圧力」の量は同様に、ある程度の「タッチ」である。押し下げられたキーは「タッチ」のさらなる一種であり、したがって一般的に、本明細書に記載されるように、「タッチ」は「ホバー」、「接触」、および完全に押し下げられたキーの状態を指し、「タッチ」の不足は一般的に、センサによる正確な測定のための閾値を下回る信号によって特定されることに、さらに留意するべきである。本明細書およびとりわけ特許請求の範囲において使用されるように、第1および第2などの順序を示す用語は、それ自体が配列、時間または独自性を示唆するようには意図されておらず、むしろ請求される構成物を他から区別するために使用される。文脈が規定するいくつかの使用において、これらの用語は、第1と第2が特有であることを示唆し得る。例えば、事象が第1の時間に生じ、別の事象が第2の時間に生じる場合、第1の時間が第2の時間の前に生じるという意味には意図されていない。しかし、第2の時間が第1の時間の後であるというさらなる制限が請求項に提示される場合、文脈は、第1の時間と第2の時間が独自の時間であると読み取ることを要求する。同様に、文脈がそのように規定または容認する場合、順序を示す用語は、2つの特定の請求される構成が同じ特徴または異なる特徴となり得るように広く解釈されるように意図される。故に、例えば、第1と第2の周波数は、限定されないが、同じ周波数であってもよく、例えば第1の周波数が10Mhzであり、第2の周波数が10Mhzであってもよく;または、異なる周波数でもよく、例えば第1の周波数が10Mhzであり、第2の周波数が11Mhzであってもよい。そうでなければ、文脈は、例えば、第1と第2の周波数が互いに直交するようにさらに限定されることを示す場合もあり、その場合、これらは同じ周波数ではない。
本明細書に開示されるシステムは、静電容量タッチセンサ、とりわけ、限定されないが周波数分割多重化(FDM)、符号分割多重化(CDM)、またはFDM法とCDM法の両方を組み合わせるハイブリッド変調技術などの直交信号に基づく多重化機構を利用する静電容量タッチセンサを、設計、製造、および使用するための工程を提供する。本明細書における周波数への言及は、他の直交信号ベースを指す場合もある。そのため、本出願は、出願人の先の米国特許出願第13/841,436号、2013年3月15日出願の「Low−Latency Touch Sensitive Device」、および米国特許出願第14/069,609号、2013年11月1日出願の「Fast Multi−Touch Post Processing」を参照により組み込む。これらの出願は、本明細書に開示されるセンサに連結して使用され得る静電容量FDM、CDM、またはFDM/CDMハイブリッドのタッチセンサを熟慮する。そのようなセンサでは、駆動コンダクタとセンスコンダクタの静電容量関係が変化(例えば増加または減少)した時にタッチが検出され得、および結果がセンスコンダクタ上で検出される。
本開示は最初に、設計、製造、および使用のために本システムと方法を適用することができる高速マルチタッチセンサの操作について全体的に記載する。ホバー、接触、および圧力に感度のあるキーボードに関係するシステムと方法の詳細は、下記の表題「キーボードの実施形態」の部分でさらに記載される。
本明細書で使用されるように、句「タッチ事象」および単語「タッチ」は、名詞として使用される場合、タッチに近いもの、およびタッチに近い事象、またはセンサを使用して識別される他のジェスチャを含む。一実施形態に従い、タッチ事象は、非常に低いレイテンシ、例えば約10ミリ秒以下、または約1ミリ秒未満で検出され、処理され、およびダウンストリームの計算プロセスに供給されてもよい。
一実施形態において、本開示の高速マルチタッチセンサは、タッチ事象の高い更新速度と低レイテンシの測定のために強化された、投影型の(projected)容量方式を利用する。この技術は、上記の利点を得るために並列ハードウェアとより高い周波数の波形を使用することができる。一実施形態において、開示される方法と装置は、高感度かつロバストな測定を行なうために使用することができ、該方法は、透明なディスプレイ表面上で使用されてもよく、この技術を使用する製品の安価な製造を可能にする場合もある。一実施形態において、開示される方法と装置は、従来のキーボード、メンブレンキーボード、キーのある他のキーボード、さらに特徴のまばらな面上または触覚キー面上、さらに様々なキーボードスイッチ(すなわちキー)で使用されてもよく、およびこの技術を使用する製品の安価な製造を可能にし得る。この点において、本明細書に使用されるような「静電容量性の物体」は、指、人体の他の部分、スタイラス、またはセンサに感度のある任意の物体であり得る。本明細書に開示されるセンサと方法は、静電容量に頼る必要はない。例えば光学センサに関して、このような実施形態は、タッチ事象を感知するためにフォトントンネリングと光漏出を利用し、本明細書で使用される「静電容量性の物体」には、そのような感知に適合自在なスタイラスまたは指などの任意の物体が含まれる。同様に、本明細書で使用される「タッチ位置」および「タッチセンサ式デバイス」は、静電容量性の物体と開示されるセンサとの間の実際のタッチ接触を必要としない。
2014年3月17日に出願された米国特許出願第14/216,948号、「Fast Multi−Touch Stylus and Sensor」に記載されるように、高速マルチタッチセンサはユニットの各行に異なる信号を送信する。本出願の開示全体が、参照により本明細書に組み込まれる。信号は一般的に、「直交」、つまり互いに分離可能かつ区別可能であるように設計される。受信器は、ユニットの恣意的に指定された列の各々に取り付けられる。受信器は、他の信号および/またはノイズの有無に関わらず、送信される信号のいずれか、またはそれらの恣意的な組み合わせを受信するように設計され、および尺度、例えばその列に存在する直交送信信号の各々に関する量を個々に判定するように設計されている。センサのタッチ面は、一連の行と列を含み、それらに沿って直交信号は伝搬することができる。
一実施形態において、行と列は、それらがタッチ事象に供されない場合、ある量の信号がその間で結合され、他方で行と列がタッチ事象に供されると、別の量の信号がその間で結合されるように、設計される。一実施形態において、より少ない量の信号はタッチ事象を表す場合もあり、およびより多くの量の信号はタッチの欠如を表す場合もある。タッチセンサは、カップリングにおける変化によってタッチを最終的に検出するため、特定の実施形態にとっては明白であろう理由を除いて、タッチ関連のカップリングが、列上に存在する行信号の量の増加または列上に存在する行信号の量の減少を引き起こすかどうかは特に重要ではない。上記で論じられるように、タッチまたはタッチ事象は、物理的なタッチではなく、むしろカップリングされた信号のレベルに影響を及ぼす事象を必要とする。一実施形態において、一般的に、行と列両方に近接するタッチ事象の容量性の結果は、列にカップリングされている行に存在する信号の量の無視できない変化を引き起こし得る。より一般的には、タッチ事象は、列上で受信された信号を生じさせ、したがってそれに対応する。行にある信号が直交であるため、多数の行信号が列にカップリングされ、受信器によって区別され得る。同様に、各行上の信号は多数の列に結合され得る。任意の行にカップリングされた各列に関し(およびカップリングが列に存在する行信号の増加または減少を引き起こすかどうかにかかわらず)、列に見られる信号は、どの行がその列の近くでタッチされているかを示す情報を含んでいる。受信された各信号の量は一般に、対応する信号を運ぶ列と行の間の結合の量に関連し、したがって、タッチ物体のタッチ面までの距離、タッチによって覆われるタッチ面の面積、および/またはタッチの圧力を示し得る。
行と列が同時にタッチされると、行に存在する信号のいくつかは対応する列に結合される(結合は、列上の行信号の増加または減少を引き起こす場合もある)。(上記で論じられるように、用語「タッチ」または「タッチした」は、実際の物理的な接触ではなく、むしろ相対的な接近を要求する)。実際に、タッチデバイスの様々な実装において、行および/または列と、タッチを行う指または他の物体との間に保護バリアが存在し得るため、行および/または列との物理的接触は起こりそうもない。さらに、一般に、行と列自体は互いに接触していないが、むしろ、ある量の信号がその間で結合されるのを可能にするように接近して配され、およびその量は(ポジティブまたはネガティブに)タッチで変化する。通常、行と列の結合は、それらの間での実際の接触によるものでも、指または他のタッチ物体からの実際の接触によるものでもなく、むしろ指(または他の物体)を接近させることによる容量性の効果によってもたらされるものであり、容量性の効果をもたらす接近は、タッチとして本明細書で言及される。
参照によりその全開示が本明細書に組み込まれる、2016年7月1日に出願された米国特許出願第15/200,320号、「Systems and Methods for Sensing Pressure in Touch Sensitive Devices」に記載されるように、実際の物理的接触がある場合、指とタッチ面との間の接触領域の大きさと形と、面に適用された圧力の量には関係がある。ヒトの指は固くないため、範囲にわたって指は圧力に従って変形する。そのため、指の接触面積は、高レベルの圧力がタッチ面に適用された時には一般的により大きく、より低レベルの圧力が適用された時にはより小さい。同様に、静電容量タッチセンサにある行と列の間の容量性カップリングに関しては、一般的に、より大きな圧力が適用されると、容量性カップリングはより高まる。容量性カップリングの量は、タッチシステムの通常の操作方法によって推測することができる。一実施形態において、容量性カップリングの量の変化は、行と列との間の測定される信号強度を変化させる。より大きなレベルの圧力は、より多くの皮膚、脂肪、筋肉および組織をタッチ面に近接させ、および人体のこれらの部分は、結果として容量性カップリングをもたらすコンダクタンスと絶縁体を提供する。
行と列の性質は恣意的であり、特定の配向は関連性がない。実際、用語「行」と「列」は、四方格子よりもむしろ、信号が送信される導体のセット(行)と、信号が結合され得る導体のセット(列)を指すように意図される(信号が行上で送信され、および列上で受信されるという概念自体が恣意的であり、信号は、恣意的に列と名づけられた導体に容易に送信され、かつ恣意的に行と名づけられた導体上で受信され得、または両者共に恣意的に他の何らかの名をつけられ得る)。さらに、行と列が格子状である必要はない。タッチ事象が「行」の一部と「列」の一部にタッチする限り、他の形状が可能であり、かつ結合のいくつかの形態を生じさせる。例えば、「行」は同心円にあり、および「列」は中心から外に向かって放射するスポーク(spokes)であり得る。別の例として、米国特許出願第15/690,234号に開示されるように、行と列が交差する必要は全くない。また、「行」と「列」はいずれも幾何学的または空間的なパターンに従う必要はなく、したがって例えば、キーボード上のキーは恣意的に、行と列を(それらの相対位置に関連するかどうかに関わらず)形成するために結合され得る。さらに、信号の伝搬チャネルが2種類のみである必要はない:行と列の代わりに、一実施形態において、チャネル「A」と「B」と「C」を設けてもよく、ここで「A」に送信された信号は「B」と「C」で受信され、または一実施形態では、「A」と「B」に送信された信号は「C」で受信され得る。信号の伝搬チャネルが機能を交互に行い、時に送信を支援し、時に受信を支援し得ることも可能である。また、送信される信号は直交であり、したがって受信される信号と分離可能であるならば、信号の伝播チャネルが、送信器および受信器を同時に支持することができることも熟考される。単なる「行」と「列」ではなく、3種類以上のアンテナ導体が使用されてもよい。多くの代替的な実施形態が可能であり、かつ本開示を考慮した後に当業者に明白となるであろう。
上述のように、一実施形態において、タッチ面は一連の行と列で構成され、信号はそれに沿って伝搬され得る。上記で論じられるように、行と列は、タッチされていない時にある量の信号がそれらの間で結合され、タッチされている時に別の量の信号がそれらの間で結合されるように、設計されている。それらの間で結合された信号における変化は、一般にタッチに比例または反比例する場合もあり(しかし必ずしも線形比例しない)、それによってタッチは、イエス/ノーで答える問題というよりも、むしろ漸次的変化であり、これによって、より強いタッチ(つまり、より近い、またはよりしっかりとした)とより弱いタッチ(つまり、より遠い、またはより優しい)、およびタッチなしの区別さえも可能にする。さらに、異なる信号が行の各々に送信される。一実施形態において、これらの異なる信号の各々は、互いに直交している(すなわち分離可能、かつ識別可能である)。行と列が同時にタッチされると、行に存在する信号が(ポジティブまたはネガティブに)結合され、多かれ少なかれ対応する列への出現を引き起こす。列に結合される信号の量は、タッチの接近性、圧力または面積に関連し得る。
受信器が各列に付けられる。受信器は、直交信号、直交信号の恣意的な組み合わせ、および存在するノイズまたは他の信号のいずれかを含む、列上に存在する信号を受信するように設計されている。一般的に、受信器は、列に存在する信号のフレームを受信し、かつ信号を供給する列を識別するように設計されている。一実施形態では、受信器(または受信器データに関連付けられた信号プロセッサ)は、信号のフレームが捕捉されている間にその列上に存在する直交の送信信号の各々の量に関連付けられた尺度を判定し得る。このように、各列にタッチしている行の識別に加えて、受信器は、タッチに関する付加的な(例えば、質的な)情報を提供することができる。概して、タッチ事象は、列上の受信された信号に対応し得る(または逆に対応し得る)。各列について、そこで受信された異なる信号は、どの対応する行が、その列の近位でタッチされているのかを示す。一実施形態では、対応する行と列の間の結合量は、例えば、タッチによって覆われたタッチ面の面積、タッチの圧力などを示し得る。一実施形態では、対応する行と列の間の結合における経時的変化は、二者の交点でのタッチにおける変化を示す。
<単純なシヌソイドの実施形態>
一実施形態において、行に送信される直交信号は、未変調のシヌソイドであってもよく、その各々が異なる周波数を有しており、該周波数は、受信器において互いに容易に区別され得るように選択される。一実施形態では、周波数は、受信器において互いにより容易に区別され得るように、それらの間に十分な間隔を設けるように選択される。一実施形態では、周波数は、選択された周波数間に単純な調波関係が存在しないように選択される。単純な調波関係の欠如は、1つの信号に別の信号を模倣させ得る非線形のアーチファクト(non−linear artifacts)を緩和し得る。
一般的に、隣接する周波数間の間隔が一定である周波数の「コーム」は、周波数間の間隔Δfが、少なくとも測定期間(つまり積分期間)τの逆数ならば、これらの基準を満たす。一実施形態において、周波数のそのような「コーム」は、最も高い周波数が最も低い周波数の2倍よりも小さいという制約を含む場合もある。例えば、どの行信号が1ミリ秒(τ)であるかを判定するために(例えば、列からの)信号の組み合わせを測定することが好ましい場合、周波数間隔(Δf)は1キロヘルツ以上でなければならない(つまり、Δf>1/τ)。疑念を避けるために、測定または積分の期間τは、いつ測定が行われるかは規定しないが、むしろ測定値がとられる期間が規定される。言い換えれば、測定期間τの測定値は、より遅い速度でとることができ、したがって1ミリセカンドの測定期間τの測定値は、必須ではないがミリセカンドごとに採取され得る。例えば、そのような測定値は、本開示の精神と範囲から逸脱することなく、ミリセカンドごと、または1.5ミリセカンドごと、または2ミリセカンドごと、または任意の他の間隔でとることができる。
例示的な例において、10の行で以下の周波数を使用することができる:
行1:5.000MHz 行6:5.005MHz
行2:5.001MHz 行7:5.006MHz
行3:5.002MHz 行8:5.007MHz
行4:5.003MHz 行9:5.008MHz
行5:5.004MHz 行10:5.009MHz
周波数間隔が、この最小Δf=1/τよりも大きい場合があることが、当業者に明白となる。一例として、0.5cmの行/列の間隔を持つ20cm×20cmのタッチ面は、40の行と40の列を必要とし、40の異なる周波数でシヌソイドを必要とする。1ミリ秒当たり1回の分析速度が1kHzの間隔しか必要としない一方で、恣意的に大きな間隔は、よりロバストな実施のために利用される。一実施形態では、恣意的に大きな間隔は、最高周波数が最低周波数の2倍より大きくなるべきではない(つまりfmax<2(fmin))という制約にさらされる。したがって、典型的な実施形態では、5MHzに設定された最低周波数を有する100kHzの周波数間隔が使用されてもよく、これにより5.0MHz、5.1MHz、5.2MHzなどの、最大8.9MHzまでの周波数リストが得られる。
一実施形態では、周波数リストの各シヌソイドは、信号発生器によって生成され、信号エミッタまたは送信器によって別々の行に送信されてもよい。一実施形態において、シヌソイドはあらかじめ生成されてもよい。同時にタッチされる行と列を識別するために、受信器は、列に存在する信号を受信し、信号プロセッサは、もしあれば、リストのどの周波数が現れるかを判定するために信号を分析する。一実施形態では、周波数分析技術(例えばフーリエ変換)により、またはフィルタバンクの使用により識別を助けることができる。一実施形態では、受信器は列信号のフレームを受信し、そのフレームはFFTによって処理され、したがって各周波数ごとに尺度が判定される。一実施形態では、FFTは、各フレームごとに各周波数に対する同相および直角位相の尺度を提供する。
一実施形態では、受信器/信号プロセッサは、各列の信号から、その列上の信号に見られる周波数のリストからの各周波数に対する値(および一実施形態では、同相と直角位相の値)を判定することができる。一実施形態では、周波数に対応する値が、いくつかの閾値より大きいまたは小さい場合に、または先の値から変化する場合に、その周波数に対応する列と行の間のタッチ事象を識別するために、その情報が使用される。一実施形態では、行/列の交差からのタッチの距離、タッチ物体の大きさ、物体を押し下げる圧力、タッチされている行/列の交差の部分等を含む、様々な物理現象に対応し得る信号強度の情報が、タッチ事象の領域の位置を突き止める助けとして使用されてもよい。一実施形態では、判定された値は、タッチを自己決定する値ではなく、むしろタッチ事象を判定するために他の値と共にさらに処理される。
一旦、直交周波数の各々に関する値が、少なくとも2つの周波数(行に対応)または少なくとも2つの列に関して判定されると、二次元マップを生成することができ、その値は、その行/列の交点でのマップの値に比例/反比例するものとして使用される。一実施形態では、タッチ面またはタッチ領域に関するマップを生成するために、タッチ面上の複数の行/列の交点で値が判定される。一実施形態では、タッチ面またはタッチ領域に関するマップを生成するために、タッチ面上またはタッチ面の領域にあるあらゆる行/列の交差に関して値が判定される。一実施形態では、信号値は、各列上の各周波数に対して計算される。一旦、信号値が計算されると、二次元マップが作成され得る。一実施形態では、信号値は、その行/列の交点でのマップの値である。一実施形態では、信号値は、その行/列の交点でのマップの値として使用される前に、ノイズを減らすように処理される。一実施形態では、(ノイズを減らすように処理された後に)信号値に比例または反比例する、そうでなくとも関連する別の値が、その行/列の交点でのマップの値として利用される。一実施形態では、異なる周波数でのタッチ面における物理的相違により、信号値は、任意のタッチに関して標準化され、または較正される。同様に、一実施形態では、タッチ面にわたる、または交差間にある物理的相違により、信号値は、任意のタッチに関して標準化され、または較正される。
一実施形態において、タッチ事象は、値情報から作られたマップを使用して識別され、したがって隣接する行/列の交差の値の変化を考慮する。一実施形態において、二次元マップのデータは、タッチ事象をより良く識別、判定、または分離するために閾値処理(thresholded)されてもよい。一実施形態において、二次元マップのデータは、面をタッチする物体の形状や配向などに関する情報を推測するために使用されてもよい。
一実施形態では、本明細書に記載されるそのような解析とタッチ処理は、タッチセンサの別々のタッチコントローラで行われ得る。別の実施形態では、そのような解析とタッチ処理は、限定されないが、1つ以上のASIC、MCU、FPGA、CPU、GPU、SoC、DSPまたは専用回線などの、他のコンピュータシステムコンポーネント上で実行され得る。本明細書で使用される用語「ハードウェアプロセッサ」は、上記のデバイスのいずれか、または(現在既知の、または今後開発される)計算機能を実行する他のデバイスを意味する。
行に送信される信号の議論に戻ると、シヌソイドは、上述の構成に使用可能な唯一の直交信号ではない。実際に、上記で論じられるように、互いに区別され得る信号の任意のセットが、機能することになる。それにもかかわらず、シヌソイドは、より単純な工学技術と、この技術を使用するデバイスのよりコスト効率の良い製造を可能にし得る、いくつかの有利な特性を有し得る。例えばシヌソイドは、(定義により)非常に狭い周波数特性を有しており、DCの付近で低周波数に及ぶ必要はない。さらにシヌソイドは、1/fのノイズによる影響を比較的受けず、このノイズは、より低い周波数にまで及ぶ、より広域な信号に影響を及ぼし得る。
一実施形態において、シヌソイドはフィルタバンクにより検出されてもよい。一実施形態において、シヌソイドは周波数分析技術(例えばフーリエ変換/高速フーリエ変換)により検出され得る。周波数分析技術は比較的効率的な方法で実施されてもよく、および優れたダイナミックレンジ特性を有する傾向があり、それらが大多数の同時のシヌソイド間で検出および区別されることを可能にする。広い信号処理期間において、受信器の複数のシヌソイドの復号化は、周波数分割多重化の形態として考慮されてもよい。一実施形態において、時分割および符号分割多重化などの他の変調技術もまた、使用することができる。時分割多重化は、優れたダイナミックレンジ特性を有しているが、典型的には、タッチ面への送信(または、そこからの受信信号の分析)に費やされる限定された時間を必要とする。符号分割多重化は、周波数分割多重化と同様の同時特性を有しているが、ダイナミックレンジの問題に遭遇する場合もあり、かつ複数の同時信号の間で容易に区別されない場合もある。
<変調されたシヌソイドの実施形態>
一実施形態において、変調されたシヌソイドは、上述のシヌソイドの実施形態の代わりとして、それと組み合わせて、および/またはそれを改良したものとして使用され得る。未変調のシヌソイドの使用は、タッチ面付近の他のデバイスに無線周波干渉を引き起こす場合もあり、したがってそれらを使用するデバイスは、規定上の試験(例えばFCC、CE)を通過するという問題に遭遇する場合がある。加えて、未変調のシヌソイドの使用は、意図的な送信器または他の干渉装置(恐らく、別の同一のタッチ面)のいずれかから、環境内にある他のシヌソイドからの干渉を受けやすい場合もある。一実施形態において、そのような干渉は、記載の装置での誤った、または劣化したタッチ測定を引き起こし得る。
一実施形態において、干渉を回避するために、シヌソイドは、信号が受信器に達すると復調され得る(かき乱されない(unstirred))方法で、送信器によって送信される前に変調され、または「かき乱され」得る。一実施形態において、変換を補い、且つ信号が受信器に達すると実質的に復元され得るように、信号を変調するために、可逆的な変換(またはほぼ可逆的な変換)を使用してもよい。当業者にも明白となるように、本明細書に記載されるタッチデバイスにおいて変調技術を使用して放出または受信される信号は、他のものとはあまり関連付けられず、したがって環境内に存在する他の信号に類似し、および/または他の信号からの干渉に供されるというよりもむしろ、単なるノイズのように作用する。
「Low−Latency Touch Sensitive Device」と題された2013年3月15日出願の米国特許出願第13/841,436号は、周波数変調、ダイレクトシーケンススペクトラム拡散、および低コストの実施の実装実施形態を対象とする実施形態を開示する。この出願の開示全体が、参照により本明細書に組み込まれる。
<シヌソイド検出>
一実施形態において、シヌソイドは、フーリエ変換検出スキームを備えた完全な無線受信器を使用して、受信器において検出され得る。そのような検出は、高速RF波形をデジタル化し、その後にデジタル信号処理を行なうことを必要とする場合がある。別々のデジタル化と信号処理は、面の全ての列ごとに実施されてもよい。これにより、信号プロセッサが、どの行信号がその列とタッチ状態にあるのかを見つけることが可能となる。上述の例において、タッチ面に40の行と40の列を備えることで、この信号チェーンの40のコピーが必要とされる。今日、デジタル化とデジタル信号処理は、ハードウェア、コスト、および電力の点で比較的高価な操作である。シヌソイドを検出するためのよりコスト効率の良い方法、特に、容易に複製することができ且つ電力をほとんど必要としない方法を利用することが、有用である。
一実施形態において、シヌソイドはフィルタバンクを使用して検出されてもよい。フィルタバンクは、入力信号を取り上げ、それを各フィルタに関連した周波数構成要素に分割することができる、バンドパスフィルタのアレイを含む。離散フーリエ変換(DFT、そのFFTは効率的な実装である)は、周波数分析に使用され得る、均一に間隔を置いたバンドパスフィルタを備えたフィルタバンクの形態である。DFTはデジタルで実装されてもよいが、デジタル化の工程は高価な場合もある。パッシブLC(インダクタとコンデンサ)またはRCアクティブフィルタなどの個々のフィルタから、フィルタバンクを実装することが可能である。インダクタはVLSIプロセス上にうまく実装するのが難しく、個別のインダクタは大きくて高額であり、したがってフィルタバンクにおいてインダクタを使用することはコスト効率が良くないだろう。
より低い周波数(約10MHz以下)で、VLSI上でRCアクティブフィルタのバンクを作ることが可能である。そのようなアクティブフィルタは十分に動作し得るが、多くのダイ空間(die space)を取り上げ、所望されるよりも多くの電力を必要とする場合もある。
より高い周波数で、表面超音波(SAW)フィルタ技術によりフィルタバンクを作ることが可能である。これにより、ほぼ恣意的なFIRフィルタの形状が可能となる。SAWフィルタ技術は、直線のCMOS VLSIよりも高価な圧電材料を必要とする。さらに、SAWフィルタ技術は、単一のパッケージへと十分に多くのフィルタを統合し、それにより製造原価を上げるほど十分な同時のタップを可能にしない場合もある。
一実施形態において、シヌソイドは、FFTのような「バタフライ」トポロジー(“butterfly”topology)を利用する標準CMOS VLSIプロセス上で、スイッチドキャパシタ技術により実装されるアナログフィルタバンクを使用して、検出されてもよい。そのような実装に必要なダイ面積は典型的にチャネルの数の二乗の関数であり、これは、同じ技術を使用する64チャネルのフィルタバンクが、1024チャネルのバージョンのダイ面積のうち1/256のみを必要とすることを意味する。一実施形態において、低レイテンシのタッチセンサ用の完全な受信システムは、フィルタバンクと適切な増幅器、スイッチ、エネルギー検出器などの適切なセットを含む、複数のVLSIダイ上に実装される。一実施形態において、低レイテンシのタッチセンサのための完全な受信システムは、フィルタバンクと適切な増幅器、スイッチ、エネルギー検出器などの適切なセットを含む、単一のVLSIダイ上に実装される。一実施形態において、低レイテンシのタッチセンサのための完全な受信システムは、n−チャネルのフィルタバンクのn個のインスタンスを含み、且つ、適切な増幅器、スイッチ、エネルギー検出器などのための空間を残す、単一のVLSIダイ上に実装される。
<シヌソイド生成>
主として、各行が1つの信号(またはより少ない数の信号)の生成を必要としながら、列の受信器は多くの信号間で検出と区別を行う必要があるため、低レイテンシのタッチセンサにおける送信信号(例えばシヌソイド)の生成は通常、検出に比べてさほど複雑ではない。一実施形態において、シヌソイドは、一連の位相ロックループ(PLL)により生成することができ、その各々は共通の基準周波数に異なる倍数を掛ける。
一実施形態において、低レイテンシのタッチセンサの設計は、送信されたシヌソイドが非常に高品質であることを要求しないが、むしろ、無線回路において通常可能である、または望まれるよりも多くの位相ノイズ、周波数変動(経時的、温度による等)、高調波歪、および他の欠点を持つ、送信されたシヌソイドを収容し得る。一実施形態において、大多数の周波数はデジタル手段によって生成され、その後、比較的粗いデジタル/アナログ変換プロセスを使用してもよい。上記で論じられるように、一実施形態において、生成された行の周波数は、互いに単純な調和関係にはなく、生成プロセスにおける任意の非線形性は、セットにおける1つの信号に「エイリアスを生じさせ(alias)」ず、または他を模倣させない。
一実施形態において、周波数コームは、フィルタバンクによってフィルタ処理される連続した狭いパルスを持つことにより生成され、フィルタバンクの各フィルタは、行への送信のために信号を出力する。周波数「コーム」は、受信器によって使用され得るフィルタバンクと同一であり得るフィルタバンクによって作られる。一例として、一実施形態において、100kHzの速度で反復される10ナノ秒のパルスが、5MHzから始まる周波数構成要素のコームを分離するように設計されるフィルタバンクに通されて、そして100kHzに分離される。定義されるようなパルス列は、100kHzから数十MHzまでの周波数構成要素を有し、したがって送信器のすべての行のための信号を有する。したがって、パルス列が同一のフィルタバンクを通って上記のものへと進み、それにより受信した列信号のシヌソイドを検出する場合、フィルタバンク出力はそれぞれ、その後に行に送信され得る1つのシヌソイドを包含する。
<高速マルチタッチ後処理>
各列内の各行からの信号強度が、例えば上記の手順を使用して算出された後、結果として得た2−Dの「ヒートマップ」(または「マトリックス」とも呼ばれる)を使用可能なタッチ事象へと変換するために後処理を行う。一実施形態において、そのような後処理は、以下の4つ手順の少なくともいくつかを含む:フィールド平坦化、タッチポイント検出、補間、およびフレーム間で一致するタッチ点。フィールド平坦化の手順は、行と列の間のクロストークを取り除くためにオフセットレベルを控除し、減衰により特定の行/列の組み合わせの間の振幅の差を補う。タッチ点の検出手順は、平坦化された信号の極大値を見出すことにより、粗いタッチ点を計算する。補間の手順は、粗いタッチ点に関連したデータを放物面に適合させることにより、細かいタッチ点を計算する。フレームマッチングの手順は、計算されたタッチ点をフレーム全体で互いに一致させる。以下、4つの手順の各々を順に説明する。さらに、各処理工程ごとに実装、可能な不良モード、および結果の例が開示される。非常に低いレイテンシを必要とするため、処理工程は最適化され、且つ平行処理されねばならない。
フィールド平坦化の手順がまず記載される。タッチ面とセンサ電子機器の設計に起因する系統的な問題は、各列の受信された信号強度においてアーチファクトを引き起こす場合がある。一実施形態において、これらのアーチファクトは以下のように補われる場合もある。最初に、行と列の間のクロストークゆえに、各行/列の組み合わせごとの受信された信号強度は、オフセットレベルを経験することになる。良好な近似値になるまで、このオフセットレベルは一定であり、減算(または加算)され得る。
次に、任意の行と列の交差において較正されたタッチに起因する、列で受信された信号の振幅は、大抵は行と列に沿って伝搬するにつれて信号が減衰するため、特定の行と列に依存することになる。信号がより遠くに移動するにつれてさらに減衰されるので、送信器から遠くにある列と受信器から遠くにある行は、それらの相当物よりも「ヒートマップ」における信号強度が低くなる。行と列のRF減衰が少ない場合、信号強度差は些細なものであり、補正(compensation)はほとんど又は全く必要とされない。減衰が多い場合、補正が必要とされ、またはタッチ検出の感度または品質を改善し得る。通常、受信器で測定された信号強度は、列に送信された信号の量と線形になると予測される。したがって一実施形態において、補正は、ヒートマップにおける各位置を、特定の行/列の組み合わせごとに一定な較正に掛けることを含む。一実施形態において、測定または推定は、ヒートマップの補正テーブルを測定するために使用されてもよく、そのテーブルは、乗算により補正を提供するために同様に使用され得る。一実施形態において、較正操作は、ヒートマップの補正テーブルを生成するために使用される。本明細書で使用される用語「ヒートマップ」は、熱の実際のマップを必要としないが、むしろ、位置に対応するデータを含む少なくとも二次元の任意のアレイを意味し得る。
典型的な実施形態において、全体的なフィールド平坦化手順は次のとおりである。何も面にタッチすることなく、最初に各列の受信器における各行信号に関する信号強度を測定する。タッチが無いので、受信された実質的に全信号がクロストークによるものである。測定された値(例えば、各列に見られる各行の信号の量)は、ヒートマップのその位置から控除される必要のあるオフセットレベルである。その後、一定のオフセットが控除され、各行/列の交差に較正されたタッチ物体を配し、その列の受信器においてその行の信号の信号強度を測定する。一実施形態において、全ての行/列の交差は較正に使用される。信号プロセッサは、タッチ事象をタッチ面上の1つの位置の値へ標準化するように構成されてもよい。(最小の減衰を経験がゆえに)恐らく最も強い信号を持つ位置、つまり送信器と受信器に最も接近した行/列の交差を恣意的に選択することができる。この位置における較正されたタッチ信号の強度がSNであり、各行と列に関する較正されたタッチ信号強度がSR,Cである場合、そして、ヒートマップにおける各位置を(SN/SR,C)で掛けた場合、全てのタッチ値は標準化される。一実施形態において、較正されたタッチは、ヒートマップにおける任意の行/列に関する標準化された信号強度を1に等しくさせる。
フィールド平坦化手順は十分に並列処理を行う。一旦、オフセットと標準化のパラメータが測定されて保存されると、これは1回のみ行う必要があるが(または、メンテナンス間隔で可能なら再度行う)、各信号強度が測定されるとすぐに補正が適用され得る。
一実施形態において、各行/列の交差の較正は、規則的または選択されたメンテナンス間隔で要求される場合がある。一実施形態において、各行/列の交差の較正は、1つの単位につき1回要求され得る。一実施形態において、各行/列の交差の較正は、1つの設計につき1回要求され得る。一実施形態において、特に、例えば行と列のRF減衰が少ない場合、各行/列の交差の較正が全く必要とされない場合もある。さらに、行と列に沿った信号減衰が十分に予測できない実施形態において、ほんの少数の交差の測定値から全表面を較正することが出来る場合がある。
タッチ面が多くの減衰を経験すると、フィールド平坦化手順は、少なくともある程度まで測定値を標準化するが、いくつかの副作用を伴う場合もある。例えば、その標準化の定数が大きくなるにつれ、各測定値に対するノイズが増加する。より低い信号強度とより多くの減衰について、これは、タッチ点の検出と補間のプロセスにおいて誤差と不安定性を生じさせ得ることは、当業者に明白であろう。したがって一実施形態において、最大の減衰(例えば、最も遠い行/列の交差)を受ける信号に十分な信号強度を提供する。
タッチ点の検出はここで処理され、1つ以上の粗いタッチ点が識別される。一実施形態では、ヒートマップが生成され、フィールド平坦化が行われた後に、1つ以上の粗いタッチ点が識別され得る。一実施形態では、1以上の粗いタッチ点の識別は、標準化された(つまり平坦化された)信号強度における極大値を見出すことにより行われ得る。一実施形態では、1つ以上のタッチ点を見出すための迅速かつ平衡処理自在な方法は、標準化されたヒートマップの各要素をその近隣と比較し、かつそれら全てよりも厳密に大きい場合には、要素を極大値として標識する。一実施形態において、点は、その近傍全てよりも厳密に大きく、且つ与えられた閾値を超える場合に、極大値であると識別される。
様々な方法で隣接値のセットを定義することは、本開示の範囲内にある。一実施形態において、最も近くの隣接値は、Von Neumannの近傍により定義される。一実施形態において、最も近くの隣接値は、Mooreの近傍により定義される。Von Neumannの近傍は4つの要素から成る場合もあり、それは、中心において要素と垂直であり、且つ水平に隣接している(つまりその北、南、東、および西に隣接した要素)。これは、「4つの接続された」近傍とも称される。より複雑な(つまりより大きな)Von Neumannの近傍もまた適用可能であり、使用してもよい。Mooreの近傍は、中心において要素と垂直、水平、且つ対角線に隣接している8つの要素から成る(つまりその北、南、東、西、北東、北西、南東、および南西に隣接した要素)。これは、「8つの接続された」近傍とも称される。
選択された近傍は、細かいタッチ点を算出するのに使用される補間スキームに依存し得る。これは、以下で詳細に示される。
任意の隣接値の比較において、要素の標準化された信号強度がその隣接値の1つ以上に等しい、または厳密には、ノイズレベルを許容する許容範囲内にあるという特殊な場合が存在し得る。一実施形態において、そのような組における点はいずれも、閾値より上の値を有していたとしても、タッチ点では無いと見なされる。一実施形態において、そのような組における点は共に、タッチ点であると見なされる。一実施形態において、2つ以上の隣接する点がほぼ同じ値を持つ領域は、1つのタッチ事象として扱われる。一実施形態において、2つ以上の隣接する点がほぼ同じ値を持つ領域は、単一の極大値が見られ得る領域からの異なる種類のタッチ事象として扱われる(例えば、おそらく誰かの手首がタッチ面に接している)。
ここで、補間の手順に移る。一旦、粗いタッチ点が判定(つまり識別)されると、細かいタッチ点が補間を使用して計算され得る。一実施形態において、分散したタッチの容量性の接触は、最大値を持つモデル関数に適合される。一実施形態において、モデル関数は、2以上の次元における二次元の関数である。一実施形態において、二次元の関数は放物面である。一実施形態において、放物面モデルは、指またはスタイラスなどの、タッチ面にタッチするために使用される様々な物体に対して許容可能な近似である。さらに、以下に議論されるように、放物面モデルは計算上、比較的集約的ではない。一実施形態において、より複雑または計算上より集約的なモデルは、平坦化されたヒートマップからタッチのより正確な推定を提供するために使用されてもよい。下記の議論のために、放物面は実例として使用されるが、より大きな、またはより小さな複雑性のモデルを含む他のモデルが補間のために使用されてもよいことは、本開示の観点から当業者に明白である。
そのような4つの接続された、典型的な極大値付近のVon Neumannの近傍において、関連する点は、極大値である中央要素と、それに関連する特定の要素の座標であるサブスクリプトを伴って現れる。5つの要素の位置と信号強度は、放物面を規定する以下の方程式にあてはまる。
式中、xとyが要素の位置である場合、zは要素の信号強度であり、A、C、D、EおよびFは二次元の多項式の係数である。中心点に対して、要素x、yの位置の全ては一定である。z値は、各要素において測定された信号強度であり、ゆえに既知である。一実施形態において、5つの連立方程式が、5つの未知の整式の係数を解決するために使用され得る。各方程式は、中心点とその4つの隣接値を含む5つの点の1つを表わす。
一実施形態において、Vandermonde様のマトリックスが、以下のように、整式の係数を解くために使用され得る:
要素の位置に関する値に代入して以下を得る:
そしてその後、一定のVandermonde様のマトリックスを反転することにより、整式の係数を解く:
これにより、以下を得る:
一実施形態において、整式の係数は、否定とシングルシフトを含む、信号強度と単に単純な掛け算の直線的な組み合わせであり、それらを計算することが要求される;したがって、それらはFPGAまたはASICで効率的に計算可能である。
放物面の最大値において、両方の偏導関数は0である:
これは点x、yで生じる。このとき:
ゆえに、近傍のデータが放物面にあてはまる実施形態において、放物面が1つの最大値を持つがゆえに、その最大値は細かいタッチ点の位置として使用される。4つの接続された近傍を利用する実施形態において、値xとyは互いに独立しており、xは中央点の左と右の要素の信号強度にのみ依存し、yはそれよりも上および下にある要素の信号強度にのみ依存する。
Mooreの近傍または極大値付近の8つの接続された近傍において、関連する点は、極大値である中央要素と、関連する特定の要素の座標であるサブスクリプトを伴って現れる。9つの要素の位置と信号強度は、放物面の方程式に当てはめることができる。より多くの入力データが以前の例よりもこの例において利用可能なため、放物面についていくらかより複雑な方程式を利用することができる:
Ax+Bxy+Cy+Dx+Ey+F=z
この方程式は、追加の交差項と、xまたはy以外の方向でモデルが伸長を補うことを可能にする新たな係数を有する。再び、中心点に対してすべての要素の位置は一定であり、値は既知である。9の連立方程式(1つの要素につき1つ)が、6つの未知の多項式係数を判定(つまり過剰に判定)するために使用され得る。最小自乗技術が、6つの未知の整式の係数を解くために使用されてもよい。
Vandermonde様のマトリックスが、多項式に適合するように使用されてもよい。上述の実施形態と異なり、マトリックスは、9の行と6の列を持つ非正方である。
Vandermonde様のマトリックスのすべてのエントリは一定であり、z値は既知であり、したがって一定値を置換することにより以下を得る。
Vandermonde様のマトリックスが非正方であるため、それは、整式の係数を解くために反転することができない。しかし、それは、Moore−Penroseの疑似反転を使用し、且つ整式の係数に最小自乗をあてはめることによって解くことができる。一実施形態において、疑似反転は、以下のように定義される。
ここで以下である。
多項式係数は信号強度の一次結合である。その乗法はわずかにより複雑であるが、被乗数の多くは因数分解して、計算の最後のほうで単回利用することができる。この工程の目的は最大放物面を見つけることである。ゆえに、スケール係数(scale factors)全体は無関係であり、関数を最大化する相対的な値と独立変数に焦点を合わせる必要がある。一実施形態では、演算の多くを相殺することもあり、実施効率が改善される。
上記のように、細かいタッチ点は最大放物面で推定され、このとき両方の偏導関数が0である:
これは点x、yで生じる。このとき:
=(BE−2CD)/(4AC−B)およびy=(DB−2AE)/(4AC−B
8つの接続された近傍について、値xとyは互いに独立してはいない。双方とも8つのすべての近傍の信号強度に依存する。したがって、この手法では、計算上の負担が増え、信号強度の特定の組み合わせが細かいタッチ点に対する特異値を生成する可能性が高まる場合もある。8つのMooreの近傍で最小二乗アプローチを使用する一実施形態では、そのような実施はノイズの多い信号強度値に対してはよりロバストである。言い換えれば、一実施形態では、1つの信号強度における小さな誤差は、計算で使用されるデータの増加とそのデータの首尾一貫性によって補われるであろう。
さらに、8つの接続された近傍は、ユーザーインターフェースの一部として有用であると証明されるであろうB係数−追加の情報−を提供する。xy交差項のB係数を用いて、タッチが生じている角度をソフトウェアに判定させることを可能にするAとCの係数に固有な縦横比情報と共に、フィットした放物面の非対称性を特徴づけることができる。
例として、楕円の断面図を有するタッチ点は、特定のz値で放物面を切り捨てることにより得ることができる。aとbの値は多項式のAとCの係数から得ることができ、こうした値は面に触れる物体の縦横比に関する情報を提供する。例えば、指またはスタイラスは必ずしも環状に対称である必要はなくなり、b対aの比はその形状に関する情報を提供することができる。
角度Φについての知識により楕円の配向に関する情報が得られ、例えば、指またはスタイラスが指している方角を示すこともある。Φは以下により与えられる2×2マトリックスMの固有値と固有ベクトル(eignevectors)から計算することができる:
このマトリックスは2つの固有値と2つの固有ベクトルを有する。最大の固有値に関連した固有ベクトルは、楕円の長軸の方向を指す。別の固有ベクトルは短軸の方向を指す。固有値、λとλは以下のように計算することができる:
式中、tr(M)はマトリックスMのトレースであり、これはACと等しく、det(M)はマトリックスMの行列式であり、これはAC−B/4と等しい。
一旦固有値が得られると、ケーリー・ハミルトンの定理を、固有ベクトルを計算するために使用することができる。λに関連する固有ベクトルは、マトリックスM−λIの列のいずれかであり、λに関連する固有ベクトルはマトリックスM−λIの列のいずれかである。固有値の添え字の反転に留意せよ。楕円の長軸が我々の座標システムのx軸に対して作る角度Φは、固有ベクトルの傾斜のアークタンジェントである。固有ベクトルの傾斜は単にΔy/Δxである。
上記で論じられるように、補間工程は、例えば平坦化したヒートマップから得たデータを使用して、細かなタッチ点を判定することを要求するが、上記で論じられる例示的な放物面モデルに限定される必要はない。細かなタッチ点を判定する目的は、後処理装置がタッチ点のよりすぐれた粒状度を提供できるようにすること、とりわけ、センサの交点をしのぐ粒状度を提供できるようにすることである。別の方法を記載すると、モデル化され補間された細かなタッチ点は直接、行/列の交差位置に、または交差位置の間の任意の場所に降りることができる。モデルの精度とその計算上の要件との間にはトレードオフが存在し得る。同様に、モデルの精度と、実際のタッチに一致する補間された細かなタッチ点を提供するその能力との間にトレードオフがあることもある。したがって、一実施形態では、モデルは最小の計算負荷を要求しつつ、補間されたタッチ点と実際のタッチとの間で十分な一致を提供するように選択される。一実施形態では、モデルは、補間されたタッチ点と実際のタッチとの間に十分な一致を要求するように選択され、処理ハードウェアはモデルの計算負荷を与えるように選択される。一実施形態では、あらかじめ選択されたハードウェアおよび/またはタッチインタフェースを操作する他のソフトウェアの計算能力を超えないモデルが選択される。
フレーム整合手順に目を向けると、時間とともにタッチ面を移動する物体を適切に追跡するために、計算されたタッチ点をフレーム境界全体で互いに整合させることが、したがって例えば、物体が移動している際にタッチ面を移動する物体を追跡することが重要である。したがって、一実施形態では、1つのフレーム内の計算された各タッチ点は、次のフレーム内で識別されなければならず、あるいは次のフレームで別の傾向を有していなければならない(例えば、除去されなければならない)。これは一般的な場合では解決不可能なこともある基本的に困難な問題を表すが、一実施形態では、解は幾何学と物理的法則の両方を使用して実施される。タッチ面に接しているアイテムはサイズに限りがあり、特定の物理的原則に従って移動するため、一実施形態では、特定の場合は妥当な範囲外として無視することができる。さらに、一実施形態では、フレーム速度は、合理的な確実性をもって物体の追跡(すなわち、フレームからフレームへのタッチ点の追跡)を可能にするほど十分に高く選択される必要がある。したがって、例えば、追跡される物体がタッチ面全体で最大速度で移動することが知られている、または追跡が最大速度で物体のみを追跡するよう設計されている場合、合理的な確実性で追跡を可能にするフレーム速度を選択することができる。例えば、タッチ面の行または列を通る移動の最大速度が、例えば毎秒1000の行または列である場合、1000Hzのフレーム速度は、せいぜい1フレーム当たり1行または1列の物体の動きを「見る」ことになる。一実施形態では、(上記で論じられるような)タッチ点の補間は、タッチ点位置のより正確な測定値を与えることができるため、行内および列内の位置は本明細書でより十分に記載されるように容易に識別可能である。
指とスタイラスは最小限の大きさであり、ほとんどの場合には曖昧なケースが生じるほど互いに近接することはない。これらはまた、人間の腕やその一部(例えば手首、肘、指など)の動作に特徴的な速度で動くが、このことが制約をもたらす。一実施形態において、タッチ面は、約1キロヘルツ以上の更新率を有し、したがって、面に触れている指とスタイラスは、1つのフレームから次のフレームへの更新間中にとても遠くまで、または極端な角度で動くことができない。距離と角度の制約ゆえに、追跡は、1つのフレームからのデータを1つ以上の過去のフレームと比較することによって、本開示に従って行なうことができる。
一実施形態では、過去のフレーム(例えばヒートマップ)に関するデータは一時的バッファに維持され得る。一実施形態では、過去のフレーム(例えば、フィールド平坦化したヒートマップやフィットした多項式係数)に関する処理済みデータは、一時的なバッファに維持されることもある。一実施形態では、一時的なバッファに維持される過去のフレームに関するデータは、以前のフレームの個々の細かなタッチ点に関する補間された細かなタッチ点の座標と、こうした座標が存在する程度でそのような細かなタッチ点の以前の動作に関するベクトルとを含む、またはこれらから構成されることもある。一時的なバッファは、1つ以上の過去のフレームに関するデータを保持し、およびデータが後の計算にもはや関係しない場合にはデータを保持することをやめてもよい。
一実施形態では、フレーム整合プロセスは最初に、現在のフレームiのタッチ点が、それに幾何学的に近い以前のフレーム(つまり、i−1)のタッチ点であると推定する。
一実施形態では、タッチ点の動きに関するデータ(例えば速度と方向)は、1つ以上のフレームに関連して決定および保存される。一実施形態では、タッチ点の動きに関するデータは、次のフレームにおけるそのタッチ点の見込みのある位置を予測するために使用される。タッチ点の動きに関するデータは、例えば、速度または位置の変化を含むこともあり、1つ以上の以前のフレームからもたらされるものであってもよい。一実施形態では、あるフレーム内の見込みのある位置の予測は、2つのフレーム間での動きを考慮することによってなされ、フレームごとの変位とその方向が得られる。一実施形態では、フレーム内の見込みのある位置の予測は3つ以上のフレーム内の運動を考慮することで行われる。フレームごとの変位と方向に加えて、加速と方向転換を考慮することができるため、3つ以上のフレームからの細かなタッチ点の位置情報を用いてより正確な予測がなされ得る。一実施形態では、より古いフレームデータよりも最新のフレームデータの方により多くの重みが置かれる。フレーム整合プロセスは最初に、最新のフレームiにおける物体のタッチ点が、最新のフレームのタッチ点にもっとも近いであろうと予測される位置に関連する以前のフレーム(つまりi−1)のタッチ点に一致する可能性がより高いと推定することもある。
一実施形態では、タッチ点の大きさ(規模)に関するデータ(例えば、放物面のAとCの係数)は、1つ以上のフレームに関連して判定され、保存される。フレーム整合プロセスは、最新のフレームiの所定の物体のサイズが以前のフレーム(つまり、i−1)のその物体のサイズに恐らく一致するであろうと最初は推定することもある。
一実施形態では、経時的なタッチ点のサイズ(規模)の変化に関するデータは、1つ以上のフレームに関連して決定および保存される。一実施形態では、フレームの(例えば、最後のフレーム以降の、あるいは複数のフレームにわたる)タッチ点のサイズの変化に関するデータは、次のフレームのそのタッチ点の可能性のあるサイズを予測するために使用される。フレーム整合プロセスは、最新のフレームiの物体が、最新のフレームのタッチ点のサイズに最も近いサイズでありそうだと予測されたサイズに関連する以前のフレーム(つまりi−1)の物体に一致する可能性がより高いと、最初は推定することもある。
一実施形態では、経時的なタッチ点の回転方向の変化に関するデータ(例えば放物面のB係数)は、1つ以上のフレームに関連して決定され保存される。一実施形態では、フレームの(例えば、最後のフレーム以降の、あるいは複数のフレームにわたる)タッチ点の回転方向に関するデータは、次のフレームのそのタッチ点の回転方向を予測するために使用される。フレーム整合プロセスは、最新のフレームiの物体が、最新のフレームのタッチ点の回転方向に最も近い回転方向でありそうだと予測された回転方向に関連する以前のフレーム(つまりi−1)の物体に一致する可能性がより高いと、最初は推定することもある。一実施形態では、タッチ点の回転方向は、回転の単一のタッチ点制御(例えば単一の指制御)を可能にすることができ、したがって例えば、スクリーン上での1本の指の回転は、例えば視界を回転させるのに十分な情報を提供することができる−タッチ面を備えた2つの回転する接点を従来は要求する機能である。経時的な回転方向を記載するデータを使用して、回転速度を計算することができる。同様に、回転方向または回転速度に関するデータを用いて、回転加速度を計算することができる。したがって、回転速度と回転加速度は共に回転方向を利用する。回転方向、回転速度および/または回転加速度をタッチ点に関して計算し、フレーム整合プロセスで出力し、または使用することもある。
一実施形態では、フレーム整合のためのヒューリスティックスは、タッチ点の距離と速度ベクトルの変化を含んでいる。一実施形態では、フレーム整合のためのヒューリスティックスは限定されないが以下の1つ以上を含んでいる:
フレームi+1の物体のタッチ点は、それに幾何学的に最も近いフレームiのタッチ点である可能性がより高い;
フレームi+1の物体のタッチ点は、物体の速度の履歴を与えられると予測される点に最も近いフレームiのタッチ点である可能性がより高い;および、
フレームi+1の物体のタッチ点は、フレームiのそのタッチ点に似たサイズになる可能性がより高い。
過去のデータの他の組み合わせを本開示の範囲から逸脱することなく使用してもよい。一実施形態では、以前の位置と速度の履歴の両方を、ヒューリスティックなフレーム整合プロセスで使用してもよい。一実施形態では、以前の位置、速度の履歴、および大きさの履歴を、ヒューリスティックなフレーム整合プロセスで使用してもよい。一実施形態では、以前の位置と他の過去の情報を、ヒューリスティックなフレーム整合プロセスで使用してもよい。一実施形態では、複数のフレームに関する過去の情報をヒューリスティックなフレーム整合プロセスで使用する。他の組み合わせは、前述の開示の観点から当業者に明らかとなるであろう。
2014年3月17日出願の米国特許出願第14/216,791号、「Fast Multi−Touch Noise Reduction」では、ノイズが高速マルチタッチ(FMT)センサにおいて干渉またはファントムタッチを作り出す特定の条件に打ち勝つための方法とシステムが提供される。この出願の全開示は参照により本明細書に組み込まれる。一実施形態において、独特な信号は、全ての行と列に送信されてもよい。一実施形態において、独特な信号は、行の1以上のサブセットの各行に送信されてもよい。一実施形態において、独特な信号は、列の1以上のサブセットの各列に送信されてもよい。一実施形態において、すべての行と列は、独特な信号を検出するように構成される。一実施形態において、行の1以上のサブセットの各行は、独特な信号を検出するように構成される。一実施形態において、列の1以上のサブセットの各列は、独特な信号を検出するように構成される。
「Dynamic Assignment of Possible Channels in a Touch Sensor」と題された2015年1月22日出願の米国特許出願第14/603,104号に開示されるように、システムと方法は、他のコンピュータシステムコンポーネントまたは望まれない外部信号からの干渉を起こす電磁雑音に近似するとしても、タッチセンサによってそのような誤ったまたはノイズの多い読み取りを減らし、または除去し、かつ高い信号対雑音比を維持することを可能にする。この方法はさらに、センサの総電力消費を減らすべく、所定の時点でタッチセンサの選択部分または全表面領域を統制する信号変調スキームを動的に再構成するのに使用可能であり、その一方で並列性、レイテンシ、サンプルレート、ダイナミックレンジ、感知粒状度などの観点からセンサの全体的な性能を最適化することができる。この出願の全開示は参照により本明細書に組み込まれる。
<キーボードの実施形態>
仮想現実または拡張現実感(以下「VR/AR」、2つの用語は相互排他的であり得る)の環境における物理キーボードの使用は、VR/AR環境内ではユーザーにはキーボードが全く見えない、またはその全体は見えないであろうという事実によって複雑になる。本明細書に開示されるキーボードとキーボードスイッチは、1つ以上のキー、タッチ面、またはキーボードを、従来のキーボードとキー入力アプリケーションの両方、およびキーまたは面から入手可能な追加の情報によって可能となる多くの新規なアプリケーションに使用可能な、感度のある、動的で、ホバーする、接触および圧力の感度面へ変える。一実施形態において、物理キーボードは、従来のキーボード入力を検出可能なだけでなく、指とキーの接触および指のホバーを識別することが可能な場合もあり、したがってキーボードが使用されている時にユーザーの指、手、手首、および可能性として前腕のそれぞれの位置の判定を可能にする。一実施形態において、キーボードデータは、VR/AR環境においてユーザーの指、手、手首、前腕およびを可能性としてキーボード(キートップまたはサイドラベル、または例えばツールチップの付加などのキーボードへの変更を含む)の位置と向きを再構成するために使用される。そのような再構成は、ユーザーがVR/AR環境においてキーボードに対する自身の指、手、手首、および場合によって前腕を「見る」ことを可能にし、VR/AR環境でのキーボードの使用を可能にする。
まず図1A−1Dに目を向けると、キーボードスイッチ(110)の例示的な実施形態が示される。一実施形態において、キーベース(100)は、キーボードスイッチ(110)の他の要素を支持する。一実施形態において、キーカバー(101)は、キーベース(100)との移動可能な関係で提供される。一実施形態において、キーカバー(101)は、キーベース(100)に対して単に部分的に移動可能である。一実施形態において、付勢手段(図示せず)は、静止時にキーカバー(101)をその伸長位置へと促し、および当業者に明白なように、キーカバー(101)はその上面におおよそ垂直な方向に動く。
一実施形態において、2つのアンテナ(102)(103)は、キーボードスイッチ(110)に関連付けられており、2つのアンテナの1つは受信アンテナ(103)であり、他方は送信アンテナ(102)である。送信または受信の名称は恣意的であるが、一実施形態において、その少なくとも1つがキーボードスイッチと関係していることは例外である。送信アンテナ(102)のどの部分も受信アンテナ(103)のどの部分にも触れることがないように、2つのアンテナ(102)(103)が互いに一定間隔離れて配置される。一実施形態において、キーボードスイッチ(110)は、1つ以上の他のキーとそのアンテナ(102)(103)を共有する。一実施形態において、キーボードスイッチ(110)は1本の特有のアンテナを含み、1つ以上の他のキーとその別のアンテナを共有する。以下でより完全に論じられるように、キーボードスイッチ(110)は単独のキーボードスイッチであってもよく、またはより一般的には、キーボードの複数の他のキーボードスイッチと共に使用されてもよい。
一実施形態において、1つのアンテナは送信アンテナ(102)であり、および他のアンテナは受信アンテナ(103)である。一実施形態において、キーボードスイッチ(110)は1つ以上の追加の送信アンテナ(図示せず)を有する場合もある。一実施形態において、キーボードスイッチ(110)は1つ以上の追加の受信アンテナ(図示せず)を有する場合もある。キーボードスイッチ(110)に関係するアンテナの各々は、アンテナのどの部分も、他のアンテナのどの部分とも接触しないように、他のアンテナと互いに一定の間隔をあけて配置される。
キーベース(100)の正面および裏面の典型的な実施形態に示されるが、アンテナは、意図した用途に最も適するように配置され得る。例えば、様々な実施形態では、
1)送信アンテナはキーの片面に配置され、および受信アンテナは反対側にある;
2)送信アンテナは、キーベース内に配置され、および1つの受信アンテナリングはキーベースのまわりにある;
3)送信アンテナは、キーベースの両側に配置され、および受信アンテナは、キーベースの中央に配置される;
4)受信アンテナは、キーベースの両側に配置され、および送信アンテナはキーベースの中央に配置される;または、
5)送信アンテナはキーベースの両側に配置され、および受信アンテナはキーベースの正面および後面に配置される。
他の多くの構成が、本開示の観点から当業者に明白になり、かつ本明細書で請求される本発明の精神と範囲から逸脱することなく実施可能である。
一実施形態において、アンテナ(102)(103)は固定されており、キーカバー(101)が動かされ、または押し下げられた時に、互いに関連して動くことはない。一実施形態において、アンテナ(102)(103)の少なくとも1つは、他方に関連して動くことができる。一実施形態において、キーカバー(101)が動かされ、または押し下げられた時に、アンテナ(102)(103)の少なくとも1つは他方に関連して動く。アンテナの動き(または動きの欠如)は、アンテナが静止している場合とは異なるキー押に対する応答をもたらすだろう。当業者に理解されるであろうように、キー押の圧力またはレベルは実質的細分性、すなわちキーカバー(101)がどの程度押されるかの非常に繊細な測定を必要とし、そのキーカバー(101)を押す結果として、アンテナ(102)(103)の少なくとも1つを有するのが望ましいであろう。キーカバー(101)の移動に応じて動く1つ以上のアンテナもまた望ましく、ここでキーを押す物体は、限定的な容量性の含意を有する(例えば、長い爪でのタイピング、手袋をつけてのタイピング、鉛筆または他の物体でのタイピング、水中でのタイピング等)。
一実施形態において、送信アンテナ(102)は信号エミッタ(図示せず)に関連付けられている。一実施形態において、アンテナ(102)(103)は、信号が送信アンテナ(102)に送信され、受信器(図示せず)が受信アンテナ(103)に存在する信号を受信するときに、タッチセンサを形成する。一実施形態において、プロセッサ信号(図示せず)は、受信アンテナ(103)の信号に存在する、送信アンテナ(102)へと送信される信号の量、および/またはその量の変化を判定するために使用される。一実施形態において、送信アンテナ(102)と受信アンテナ(103)は、それらがタッチ事象に供されない場合、ある量の信号がその間で結合され、他方でタッチ事象に供されると、別の量の信号がその間で結合されるように、設計される。さらに、一実施形態において、送信アンテナ(102)および受信アンテナ(103)は、それらの間に結合された信号の量がタッチ事象、すなわち最も離れたホバーから、キー接触、およびキーが完全に押し下げられる場合までの全ての方法によって変動するように設計される。一実施形態において、最も離れたホバーから、キーが完全に押し下げられた場合までにおける変動は、少なくとも3つのタッチ状態を含み得る、検出可能な様々なタッチ状態を含む(つまり、ホバー、接触、および押し下げ)。一実施形態において、ホバータッチ状態を表わす信号の変動は複数の離散レベルを含む。一実施形態において、接触タッチ状態を表わす信号の変動は複数の離散レベルを含む。一実施形態において、最も離れたホバーから、キーが完全に押し下げられた場合までにおける変動は、非タッチ状態に加えて少なくとも255以上のタッチ状態を含む、検出可能な様々なタッチ状態を含む。上記で論じられるように、タッチセンサは、結合の変化によりタッチを最終的に検出するため、特定の実施形態では明白であろう理由を除いて、タッチ関連の結合が、受信アンテナ(103)に存在する信号の量の増加、または受信アンテナ(103)に存在する信号の量の減少を引き起こすかどうかは特に重要ではない。
タッチを識別するために、受信器は受信アンテナ(103)に存在する信号を受信し、および信号プロセッサは、結合された送信信号の量を判定するために受信された信号を分析する。一実施形態では、周波数分析技術(例えばフーリエ変換)により、またはフィルタバンクの使用により識別を助けることができる。一実施形態では、受信器は信号のフレームを受信し、そのフレームはFFTによって処理され、したがって少なくとも送信された周波数に関する尺度が判定される。一実施形態では、FFTは、各フレームごとに少なくとも送信周波数に関する同相および直角位相の尺度を提供する。
一実施形態において、信号エミッタは、キーボードスイッチ(110)用の送信アンテナ(102)に導電的に連結される。信号エミッタは、関係する送信アンテナ(102)にソース信号を送信させるソース信号を発する。ソース信号は、例えば他の信号の組み合わせであってもよく、したがって例えば、ソース信号は単純な正弦波(例えば5.01Mhz)であってもよく、ソース信号が2つ以上の正弦波の組み合わせである場合も本開示の範囲内である。一実施形態において、複数の信号エミッタは、キーボードスイッチ(110)用の送信アンテナ(102)に導電的に連結され得る。複数の信号エミッタが送信アンテナ(102)に導電的に連結される場合、複数の信号エミッタの出力は、送信アンテナ(102)によって送信された信号を提供する。一実施形態において、多数のソース信号の伝達は感度を高め得る。一実施形態において、高周波と低周波の信号を組み合わせる場合、多数のソース信号の伝達は感度をさらに高め得る。一実施形態において、ソース信号は周波数−直交である。本明細書で先に使用されたように、周波数−直交は、ソース信号が互いに分離可能であり、かつ識別可能であることを意味する。一実施形態において、受信器は受信アンテナ(103)に連結され、および連結された受信アンテナ(103)上に存在する信号のフレームを捕らえるのに適している。別の受信アンテナ(図示せず)がキーボードスイッチ(110)に関係している場合、追加の受信アンテナは同じ受信器を共有してもよく(したがって、当業者に明らかであるように、同じアンテナの異なる部分と見なされ得る)、または代替的に、別個の受信器に導電的に連結されてもよい。
一実施形態において、多数の直交信号は送信アンテナ(102)を介して送信される。そのような実施形態におけるタッチの識別のために、受信器は、受信アンテナ(103)に存在する信号を受信し、信号プロセッサは受信信号を分析して、それらの間で結合された直交送信信号の各々に対応する量を判定する。周波数分析技術(例えばフーリエ変換)により、またはフィルタバンクの使用により識別を助けることができる。一実施形態では、受信器は信号のフレームを受信し、そのフレームはFFTによって処理され、したがって各送信周波数ごとに尺度が判定される。一実施形態では、FFTは、各フレームごとに各送信周波数に対する同相および直角位相の尺度を提供する。
一実施形態において、受信信号から、受信器/信号プロセッサは、その受信アンテナ(103)で受信した信号に見られる周波数のリストからの各周波数に対する値(および一実施形態では、同相かつ直角位相の値)を判定することができる。一実施形態において、周波数に対応する値がいくつかの閾値より大きい、または小さい、あるいは以前の値から変化している(または、以前の値から閾値より大きな量に変化する)場合、その情報はキーボードスイッチ(110)でタッチ事象を識別するために使用され得る。一実施形態において、キーボードスイッチ(110)からのタッチの距離、タッチ物体のサイズ、物体をキーボードスイッチに押し付ける圧力、タッチされているキーカバー(101)の任意の部分などを含む様々な物理現象に対応し得る値の情報は、検出可能なタッチ状態の範囲からタッチ状態を識別するために使用され得る。一実施形態において、値情報における変化は、検出可能なタッチ状態の範囲からタッチ状態を特定するために使用され得る。一実施形態では、判定された値は、タッチ状態を自己判定するものではなく、むしろタッチ事象を判定するために他の値と共にさらに処理される。一実施形態において、判定された値は、キーボードスイッチ(110)のタッチ状態を判定するために、キーボードスイッチ(110)に近接する他のキーボードスイッチからの値と共にさらに処理される。
一実施形態において、キーボードスイッチ(110)に関係するアンテナ(102)(103)は同様の形になっている。一実施形態において、キーボードスイッチ(110)に関係するアンテナ(102)(103)は異なる形になっている。異なる形のアンテナ(102)(103)は、アンテナ(102)(103)の形状に基づいた異なるアンテナパターンを生成する。本開示の観点から当業者に明らかになるであろうように、キーボードスイッチ(110)に関係するアンテナ(102)(103)は、異なるアンテナパターンを生成するために異なる空間的配向で配向され得る。一実施形態において、各送信および受信アンテナ(102)(103)は、送信層または受信層に関連付けられ、それによってキーボードスイッチ(110)のマルチレイヤ構造がもたらされる。
一実施形態において、信号プロセッサは、受信アンテナ(103)上に存在するソース信号の量に対応する各フレームからの測定値を判定するのに適している。一実施形態において、信号プロセッサはさらに、対応する測定値に少なくとも部分的に基づいて、タッチ状態の範囲からキーボードスイッチのタッチ状態を判定するのに適している。
キーボードスイッチ(110)は、単独のキーボードスイッチであってもよく、またはより一般的には、キーボードにある複数の他のキーボードスイッチ(図示せず)と共に使用されてもよい。一実施形態において、キーボードは一群のキーボードスイッチ(110)から構成される。一実施形態において、キーボードスイッチ(110)は、複数のキーボードスイッチの各々が、1つの行と1つの列に関係し、およびそれらによって独自に識別されるように、論理(ロジカル)行および論理(ロジカル)列へと体系づけられる。一実施形態において、キーボードスイッチ(110)は、複数のキーボードスイッチの各々が、少なくとも1つの行と1つの列に関係し、およびそれらによって独自に識別されるように、論理(ロジカル)行および論理(ロジカル)列へと体系づけられ得る。
一実施形態において、キーボードの2つのキーボードスイッチはいずれも、一般的な行/列の組み合わせを共有していないこともあり、したがってキーボードは、それぞれのキーボードスイッチ(110)に特有の尺度を検出することができる。一実施形態において、各キーボードスイッチ(110)は、アンテナ(102)を通じて信号を送信し、および他のアンテナ(103)上で結合信号を受信することによって、近接センサとして動作する。上記で論じられるように、各キーボードスイッチ(110)に関して、そのキーボードスイッチ(110)におけるタッチに関係する値は、結合信号に見られる送信信号の量、またはその量の変化から導き出されてもよい。値は様々なタッチ状態の1つと関連している場合もある。一実施形態において、タッチ状態の範囲は、ホバーなし、ホバー、接触、および圧力または押し下げを含む。一実施形態において、「ホバーなし」は、ユーザーの指、手または前腕が、キーボードスイッチ(110)の付近で検出されないことを意味する。本明細書で使用されるように、一般的に「ホバー」は、限定されないがキーボードスイッチまたはキーボードとの実際の接触を含む、キーボードスイッチの検出限界からの静電容量性の物体(例えばユーザーの指、手、前腕、またはスタイラス)の検出可能な位置に対応するタッチ状態を指す。本明細書で使用されるように、通常、「接触」は、押されている間ずっと、キーボードスイッチまたはキーボードと、静電容量性の物体との間の検出可能な接触に対応するタッチ状態を指す。押されている、または押し下げられていることは、例えば対応する文字が画面上に示される時の、閉じられているキーの従来の概念に対応する。しかしながら、本明細書で使用されるように、「押し下げられた」または「押された」は、完全に押し下げられたキーの検出に対応するタッチ状態を指し、完全に押し下げられた後のキーに対する圧力に対応する様々な追加の状態をさらに含んでもよい。一実施形態において、タッチ状態は、例えば0〜255の順序尺度を使用してもよく、0はタッチ無しの状態に対応し、第1の範囲、例えば1〜127は様々なホバー状態に対応し、第2の範囲、例えば128−197は様々な接触状態に対応し、および第3の範囲、例えば198−255は様々な押下状態に対応する。一実施形態において、タッチ状態の範囲は少なくとも4つの状態を含む。一実施形態において、タッチ状態の範囲は少なくとも6つの状態を含み、ホバーおよび接触に対応する少なくとも2つの下位状態(substate)を伴う。一実施形態において、タッチ状態の範囲は少なくとも256の状態を含み、ホバー、接触、および押下に対応する少なくとも3つの下位状態を伴う。一実施形態において、タッチ状態の範囲は少なくとも1024の状態を含む。本開示に照らして当業者に明らかになるように、タッチ状態の数と、そのような状態と任意の下位状態との関連性は設計上の選択であり、キーボードスイッチに望ましい細分性を提供するように選択されねばならない。さらに、下位状態は他の下位状態と同等の細分性を持つ必要はない。例えば、一実施形態において、(図4Aと4Bに関してより詳細に論じられるように)接触状態、またはホバー状態と接触状態の間の区分において、より多くの細分性を有するのが望ましい場合もある。同様に、一実施形態において、ホバー状態または押下状態においてさらなる細分性を有することがより望ましい場合もある。明らかなように、本明細書(の上記および以下の両方)に開示される新規なタッチセンサ式キーは、キーストロークを検出する従来の機械的接触の有無に関係なく使用され得る。したがって、一実施形態において、本明細書に開示される容量性のキースイッチは、タッチと様々な押下レベルを報告するのに使用可能であり、他方で従来の機械的接触(または他の指標)はキーストロークを明確に識別するために使用することができる。
一実施形態において、これらの状態を使用すると、キーボードのキーボードスイッチ(110)は、それぞれのキーボードスイッチ(110)上(および可能性としてとそれらの間)にあるユーザーの指に関する粒状のマルチレベル情報を提供することができる。例えば、一実施形態において、キーカバー(101)が押し下げられると、キーボードは、指に接触しているキーの表面領域における変化を検出し得る。さらに、一実施形態では、キーが押し下げられると、キーカバー(101)はコンダクタに接近し、したがって表面領域および静電容量性の物体のコンダクタの近位における変化の両方が、結果として静電容量変化をもたらす場合もあり、キーボードスイッチ上のユーザーの指に関する情報を提供する。
図2Aと2Bは、典型的で代表的なキーボードの実施形態のアンテナ層を示す。図2Aは、複数の送信アンテナ(220)の導電的に連結された列(水平に示される)の典型的な図を示す(行と列の名称は恣意的である)。送信トレース(225)は、送信層(210)に沿ってトレースされ、送信アンテナ(220)のグループを一緒に連結し、およびバンドル(235)で一緒に束ねられる。図2Bは、導電的に連結された行(垂直に示される)へと組織された複数の受信アンテナ(200)の典型図を示す。受信トレース(205)、受信層(230)に沿ってバンドル(215)までトレースされる。アンテナ層(250)(260)は、複数のキーベース(図示せず)を有するキーボード(図示せず)に分離されて積み重ねられており、各ベースはキーカバーを有する(図示せず)。一実施形態において、アンテナ(220)(200)は、各キーボードスイッチ(図示せず)の送信アンテナ(102)と受信アンテナ(103)(例えば図1Bを参照)を形成する。
一実施形態において、信号エミッタ(図示せず)は、各送信トレース(225)に導電的に連結され、およびエミッタを介して、複数の信号がそれぞれの送信アンテナ(220)の行の各々を通じて送信される。一実施形態において、複数の信号の各々は、他の複数の信号の各々に対して直交である。一実施形態において、複数の信号は、送信アンテナ(102)の各々を通じて同時に送信される。
受信器(図示せず)は、受信トレース(205)の各々に導電的に連結される。受信器および/またはそれに関連するプロセッサ信号(図示せず)は、受信トレース(205)に存在する(つまり受信アンテナ(200)から来る)信号のフレームを受信し、およびフレームから、各送信アンテナ(102)を通じて送信される複数の信号の各々に関する値を判定するのに適している。一実施形態において、各値は、様々なタッチ状態の1つに相関しており、すべての値が一緒になってキーボード状態を生成する。一実施形態において、キーボードの各キーボードスイッチは、様々なタッチ状態の1つに関連しており、その関連性は、そのキーボードスイッチに関連する値に少なくとも部分的に基づいて計算される。一実施形態において、関連性は、そのキーボードスイッチに関連する値、および少なくとも1つの近傍のキーボードスイッチに関連する値に少なくとも部分的に基づいて計算される。
複数の信号の各々に関する値の判定は、送信アンテナ(102)の各々を通じて送信され、周波数分析技術(例えばフーリエ変換)で、またはフィルタバンクの使用によって支持され得る。一実施形態では、受信器は信号のフレームを受信し、そのフレームはFFTによって処理され、したがって各送信周波数ごとに尺度が判定される。一実施形態では、FFTは、各フレームごとに各送信周波数に対する同相および直角位相の尺度を提供する。
送信器を介して送信される複数の信号の少なくとも1つが、各送信アンテナ(102)を通じて送信される一方で、一実施形態では、少なくとも1つの送信アンテナ(102)が、複数の信号の2つ目のものを同時に送信する。一実施形態において、複数の直交信号は、直交信号の少なくとも2つが各送信アンテナ(102)を通じて同時に送信されるように、同時に送信される。一実施形態において、1つの送信アンテナを通じた複数の信号の同時送信は、感度を高め得る。一実施形態において、周波数−距離の直交信号は、単一の送信アンテナ(102)を通じて同時に送信される。
図3A−6に目を向けると、キーボードスイッチのいくつかのさらなる典型的な実施形態が示される。図1A−1Dで示されるキーボードスイッチ(110)と同様に、図3A−6に示されるキーボードスイッチは、単独で、またはキーパッドあるいはキーボードの一部として使用することができる。図3A−6に開示されるキーボードスイッチは、多くの対応のキーボードに使用可能である一方で、それらは、従来型ではないキーボード、例えば「チクレット」(またはアイランドスタイル)キーボードおよびメンブレンキーボードなどのより薄いキーボードの設計に、特に有用である。図3A−5に開示されるキーボードスイッチは、1つの送信アンテナと1つの受信アンテナを持っていることが示される。本開示の精神および範囲から逸脱することなく、これらのキーボードスイッチは、1つ以上の追加の送信アンテナおよび/または1つ以上の追加の受信アンテナを持つことができる。例えば、より詳細に以下で論じられるように、図6は2つの送信アンテナを有する実施形態を示す。
図1A−1Dに例示される、先に論じられたキーボードスイッチ(110)と同様に、一実施形態において、図3A−5に開示されるキーボードスイッチはそれぞれ、その送信アンテナを通じて単一の周波数を送信する。さらに図1A−1Dに例示される、先に論じられたキーボードスイッチと同様に、一実施形態において、図3A−5に開示されるキーボードスイッチはそれぞれ、その送信アンテナを通じて複数の直交信号を送信する。2つの送信アンテナを有する、図6に例示されるキーボードスイッチは同様に、単一の送信周波数、または多数の、同時の、直交の送信周波数と共に使用されてもよい。
図3Aは、送信アンテナ(300)と、それに導電的に連結された送信トレース(301)、および受信アンテナ(302)と、それに導電的に連結された受信トレース(303)を含むキーボードスイッチのアンテナコンポーネント(310)の例示的な配向を示す。当業者によって理解されるであろうように、ここでの送信と受信の名称は恣意的なものであり、送信アンテナ(300)は受信のために使用されてもよく、同時に受信アンテナ(302)は送信のために使用されてもよい;これらの恣意的な名称は、例示的な目的のための単なる便宜である。一実施形態において、信号エミッタ(図示せず)は、送信トレース(301)を介して送信アンテナ(300)での送信のための1つ以上の信号を発し、および受信器(図示せず)は、受信トレース(303)を介して受信アンテナ(302)上に存在する信号のフレームを受信する。信号プロセッサ(図示せず)は、送信アンテナ(300)で送信された1つ以上の信号の量に対応する値を判定するためにフレームを分析する。値(または値における変化)は、様々なタッチ状態の1つと相関している場合もある。図3Bは、図3Aのアンテナコンポーネント(310)の例示的な配向を使用したキーボードスイッチ(311)の概略図を示す。キーボードスイッチ(311)は、アンテナコンポーネント(310)を覆うキーカバー(305)を含む。一実施形態において、ユーザーは、キーボードのキーとしてのキーカバー(305)とインタラクトすることができる。一実施形態において、キーカバー(305)は、ばねなどの付勢手段(図示せず)を有し、それはアンテナコンポーネント(310)から遠ざかる定位置の方へとバイアスをかける。一実施形態において、キーカバー(305)は、それ自体がアンテナコンポーネント(310)から遠ざかって本来の形状に戻るメモリ材料(形状記憶材料)から作られる。
上記で詳細に論じられるように、一実施形態において、静電容量性の物体、例えばユーザーの手または指、またはスタイラスは、アンテナ(300)(302)を使用して形成されたタッチ検出器によって検出され、および様々なタッチ状態の1つは、それによってキーボードスイッチ(311)に関連付けられ得る。さらに上記で論じられるように、一実施形態において、キーボードスイッチ(311)はキーボードでの使用に適している。一実施形態において、行と列は、キーボードスイッチのマトリックスの各々に関連している。一実施形態において、キーのタッチ状態は、アンテナ(300)(302)を使用して形成されたタッチ検出器によって情報、またはその情報における変化に少なくとも部分的に基づいて判定され得る。一実施形態において、キーボードスイッチのタッチ状態は、他の近位のキーボードスイッチのアンテナによって検出された情報(または検出された情報の変化)に、少なくとも部分的に基づいて判定され得る。
図4Aは、送信アンテナ(300)と、それに導電的に連結された送信トレース(301)、および受信アンテナ(302)と、それに導電的に連結された受信トレース(303)を有するキーボードスイッチのアンテナコンポーネント(410)の例示的な配向を示す。導電性基板(404)がさらに示される。上記のように、送信と受信の名称は恣意的である。一実施形態において、信号エミッタ(図示せず)は、送信トレース(301)を介して送信アンテナ(300)での送信のための1つ以上の信号を発し、および受信器(図示せず)は、受信トレース(303)を介して受信アンテナ(302)上に存在する信号のフレームを受信する。信号プロセッサ(図示せず)は、送信アンテナ(300)で送信された1つ以上の信号の量に対応する値を判定するためにフレームを解析する。値(または値における変化)は、様々なタッチ状態の1つと相関している場合もある。
ここで、図4Aのアンテナコンポーネント(410)の例示的な配向を使用したキーボードスイッチ(411)の概略図である図4Bに目を向ける。キーボードスイッチ(411)は、アンテナコンポーネント(410)を覆うキーカバー(405)を含む。一実施形態において、キーカバー(405)は、接触されていない時に定位置に向かってそれを付勢する付勢手段(図示せず)を有する。一実施形態において、付勢手段はばねであってもよい。一実施形態において、付勢手段は可撓性の変形可能なキーカバーを含んでもよい。導電性基板(404)は、キーカバー(405)の下側に配置される。一実施形態において、導電性基板(404)は、キーカバー(405)の上部面の少なくとも一部と同じ調子で動くのに適している。一実施形態において、導電性基板(404)は、接触させられた静電容量性の物体の静電容量効果を拡大するために作用し得る。一実施形態において、導電性基板(404)は、ホバーおよび接触のタッチ状態間の推移におけるタッチ検出器からのより測定可能な応答をもたらす。一実施形態において、導電性基板(404)は、静電容量性の物体がキーカバー(405)と接触している時にタッチ状態の測定可能な範囲を向上させ、したがってタッチセンサの測定可能な状態の細分性を改善するのに使用され得る。一実施形態において、導電性基板(404)は固形導電材料である。一実施形態において、導電性基板(404)は導電性のメッシュ材料である。一実施形態において、導電性基板(404)の導電特性は、キーカバー(405)の導電特性とは異なる。一実施形態において、導電性基板(404)は、固着プロセスを使用してキーカバー(405)に付けられる。一実施形態において、導電性基板(404)の導電性部分が、キーカバー(405)から突出し、および静電容量性の物体に直接接触し得るように、導電性基板(404)はキーカバー(405)に付けられる。一実施形態において、導電性基板(404)およびキーカバー(405)は同じ物質から形成され、導電性基板(404)はキーカバー(405)の上部よりも厚みが大きい。一実施形態において、導電性基板(404)およびキーカバー(405)は単一の物体として成型される。キーボードスイッチ(411)は、キーボードスイッチ(311)と同じ方法で使用することができるが、静電容量基板(404)の追加は、接触の検出を向上させる場合もあり、接触タッチ状態のうち十分に測定可能な細分性を提供し得る。
ここで図5に目を向けると、キーボードスイッチ(511)の他の実施形態が概略的な断面図で示される。キーボードスイッチ(511)は、送信アンテナ(300)、送信トレース(301)、受信アンテナ(302)、受信トレース(303)、およびキーカバー(405)と導電性基板(404)を含む、キーボードスイッチ(411)(図4B)との多くの共通コンポーネントを含む。キーボードスイッチ(511)もまた、信号エミッタ(図示せず)および受信器(図示せず)を使用してキーボードスイッチ(411)と同様に操作される。キーボードスイッチ(511)はさらに、導電性基板(404)と送信アンテナ(300)との間の導電結合(506)を含む。一実施形態において、導電結合は、ばね(例えばコイルばねまたは板ばね)などの付勢手段を形成する場合もあり、それはキーカバー(405)を定位置へと促す。導電性基板(404)と送信アンテナ(300)の間の導電結合(506)は、導電性基板(404)を送信信号の送信のためのさらなるアンテナとして動作させる。一実施形態において、送信アンテナ(300)、導電性基板(404)および導電結合(506)は共に、送信信号を送信する(または、受信器に取り付けられた場合は信号を受信する)ために使用可能な単一の移動可能なアンテナを形成する。
図6は、さらなる他のキーボードスイッチ(611)の実施形態の概略的な断面図を示し、これには2つの送信アンテナ(または2つの受信アンテナ)がある。キーボードスイッチ(611)は、キーボードスイッチ(411)(図4B)と共通する多くの共通コンポーネントを含み、これには送信アンテナ(300)、送信トレース(301)、受信アンテナ(302)、受信トレース(303)、およびキーカバー(405)と導電性基板(404)が含まれる。その共通コンポーネントの程度において、キーボードスイッチ(611)は、信号エミッタ(図示せず)および受信器(図示せず)を使用してキーボードスイッチ(411)と同様に操作される。キーボードスイッチ(611)はさらに、導電性基板(404)に導電的に連結された導電性リード(606)を含む。さらなる信号エミッタ(図示せず)は、導電性リード(606)に導電的に連結される。さらなる信号エミッタは、導電性基板(404)での送信のための1つ以上のさらなる信号を発する。一実施形態において、1つ以上のさらなる信号は、送信アンテナ(300)で送信される1つ以上の信号に直交である。信号プロセッサ(図示せず)はまた、導電性基板(404)で送信される1つ以上のさらなる信号の量に対応するさらなる値を判定するために、受信器によって受信された信号のフレームを解析する。一実施形態において、さらなる値(またはさらなる値における変化)は、様々なタッチ状態の1つと相関している場合もある。一実施形態において、値(1つ以上の信号に対応する)およびさらなる値(1つ以上のさらなる信号に対応する)は共に、キーボードスイッチに関するタッチ状態の識別のための基準として使用される。他の実施形態のように、近傍または近位のキーからの値(およびさらなる値)は、キーボードスイッチに関するタッチ状態を識別するための基準の少なくとも一部として、付加的に使用されてもよい。本開示の精神および範囲から逸脱することなく、2つの送信アンテナと1つの受信アンテナを持つ代わりに、キーボードスイッチ(611)は2つの受信アンテナと1つの送信アンテナを持つことができる。
一実施形態において、キーボードの様々なキーボードスイッチによって提供されるタッチ状態の範囲は、キーボードに対する容量性の物体とその位置および配向のモデル化に使用可能である。一実施形態において、そのようなモデル化は、VR/AR環境において、静電容量性の物体の視覚的な3Dモデルを含む視覚フィードバックを提供するために使用することができる。例えば、VR/AR環境における2Dと3Dの「ホログラフィック」ビジュアルフィードバックのオーバーレイは、タッチ検出キーボードスイッチから成る物理キーボード上の、またはその近位にあるユーザーの指、手、手首、および前腕の現実世界の位置に基づき得る。さらに、キーボードがそれに対する静電容量性の物体の位置の細かな測定を行うことができるため、タッチ測定は、手と前腕が指に対して動くことができる限定的な数の方法、例えば有限範囲と自由度により、指、手、および場合によっては手首および/または前腕を含む他の部分の位置と配向を再生成するために使用することができる。
ここで図7と8に目を向けると、本開示に係るタッチセンサ式キーボードの図の上に示されたコンピュータ生成されたタッチ状態の情報の例示的な例が示される。図7と8の挿入画(700)(800)は、典型的な物理キーボード(702)(802)に対する手(701)(801)の位置を示す。キーボードの図の高さと色(703)(803)の両方は、タッチ状態の例示の目的に使用される。示される高さと色は、単に例示的なものである。図7と8に例示されるように、本明細書に開示される物理キーボード(702)(802)の実施形態は、各キーボードスイッチのタッチ状態に関する情報を提供するために使用されてもよく、例示されるように、ホバー、キーへの接触、およびキーの押し下げの視覚的表示(704)(804)を提供することができる。具体的には、図7は、ユーザーの手(701)が近位にある本開示に係る典型的なキーボード(702)と、コンピュータ生成されたヒートマップ(703)を上に重ねたキーボード(705)の図を示している。コンピュータ生成されたヒートマップ(703)は、様々なキーボードスイッチのタッチ状態に対応し、したがって、ユーザーの手の位置と典型的なキーボード(702)の近位に対応するように意図される。図8は、ユーザーの手(801)が図7から再配置されている典型的なキーボード(802)の他の図と、コンピュータ生成されたヒートマップ(803)を上に重ねたそのキーボード(805)の図を示している。
一実施形態において、ホバー、接触、および圧力の情報の再構成は、3Dモデルとして表示するように構成されてもよく、これによりユーザーは、VR/ARでの視野におけるキーボードに対する自身の指、および場合によっては手、手首、および/または前腕を見ることができる。一実施形態において、ホバーに対応するタッチ状態の範囲は、キーボードスイッチの表面から少なくとも5mm拡張する。一実施形態において、ホバーに対応するタッチ状態の範囲は、キーボードスイッチの表面から少なくとも10mm拡張する。一実施形態において、ホバーに対応するタッチ状態の範囲は、キーボードスイッチの表面から実質的に10mmより多く拡張する。
一実施形態において、オンザフライチューニングが、拡張されたホバーを可能にしつつ接触に敏感なキーボードを維持するために行われてもよい。一実施形態において、異なる直交信号は、ホバーなしの状態、および接触状況の範囲で使用される信号からのホバー状態;または離れたホバー状態 対 近くのホバー状態において使用される。一実施形態において、異なる物理アンテナは、ホバーなしの状態、および接触状態の範囲で使用されるアンテナからのホバー状態、または離れたホバー状態 対 近くのホバー状態において信号を送受信するのに使用される。
「Transmitting and Receiving System and Method for Bidirectional Orthogonal Signaling Sensors」と題された2016年5月23日出願の米国特許出願第15/162,240号は、参照により全体が本明細書に組み込まれており、高速マルチタッチセンサにおけるユーザー、手、および物体の判別を提供する。一実施形態において、双方向の直交信号伝達が、その出願にて説明されるような利点を提供するためにタッチセンサ式キーボードと共に使用される。双方向の直交信号伝達が使用されると、各アンテナは受信アンテナと送信アンテナの両方として使用され得る。
「Orthogonal Signaling Touch User, Hand and Object Discrimination Systems and Methods」と題された2014年8月22日出願の米国特許出願第14/466,624号の全開示は、参照により本明細書に組み込まれる。一実施形態において、本明細書に開示されるキーボードまたはキーボードスイッチは、複数ユーザーの手と指、同じユーザーの異なる手、同じユーザーの異なる指、および手と物体を識別することができる。
図9は、ユーザーのVR/AR視野を部分的に表し、かつ特徴のあるキーボードの現実世界での視野を表すハイブリッド視野を示す。一実施形態において、VR/AR環境では、キーボード上の各インタラクティブキーは、独立したインタラクティブなタッチディスプレイになり得る。キーボードをソフトウェア定義または関連タスクにより柔軟に適応させることを可能にし、かつキーボードの使用中に動的な視覚フィードバックをユーザーに提供する。一実施形態において、3Dモデリングは、ユーザーに自身の指、手、手首、前腕、さらにVR/AR環境内のキーボードまでもの視野を提供するために、開示されるタッチセンサ式キーボードからのタッチ状態情報を用いて使用することができる。一実施形態において、タッチ状態の情報は、ユーザーの動作の予測と関連して使用されてもよく、およびそのような予測はレイテンシを緩和または除去するために使用することができる。
図10は、ユーザーのVR/AR視野を部分的に表し、かつ特徴のまばらなキーボードの現実世界での視野を表すハイブリッド視野を示す。本明細書において使用されるように、「特徴のまばらなキーボード」という用語は、一般的に固定されたキー間隔を有する特定の物理キーのない面を含む。例えば、iPadまたは携帯電話のキーボードは、特徴のまばらなキーボードと見なされ得る。しかしながら、特徴のまばらなキーボードはまた、いくつかの物理的特徴を含むキーボードも含み、およびキーボードのキーまたは他の特徴を提示するための触覚フィードバックを含んでもよい。そのような触覚(ハプティクス)として、限定されないが、動く機械部品、ロボットグラフィクス、静電気フィードバック、および/または電気ショックフィードバックがあげられるだろう。一実施形態において、VR/AR環境では、特徴のまばらなおよび/または触覚キーボードは、独立したインタラクティブなタッチディスプレイになり得る。VR/AR環境では、当技術分野で既知の技術を通じて、特徴のまばらな触覚キーボードは、触覚的にはキーを有しているように思われ、およびこの環境でキーボードを使用する間にユーザーに動的な物理的フィードバックを提供し得る。VR/AR環境では、当技術分野で既知の技術を通じて、特徴のまばらなおよび/または触覚キーボードは、視覚的にはキーおよび/またはラベルを有しているように見え、およびこの環境でキーボードを使用する間にユーザーに動的な物理的フィードバックを提供し得る。したがって、たとえユーザーが現実世界の環境において限定された特徴を見る、または何の特徴も見ないとしても、キーの輪郭とラベルがVR/AR環境内で付加され得る。
図11および12A−12Cは、本明細書に開示される方法と装置と共に使用することができるいくつかの実施形態を示す。図11は、現実世界の環境内の物理的特徴(1101)を有するキーボード(1100)の典型的な実施形態を例示する。一実施形態において、上記されるように、キーボードは、VR/AR環境で使用される特徴のまばらなおよび/または触覚キーボードであり得る。図12Aは、使用されている特徴のあるキーボード(1200)のタッチセンサ範囲(1201)の例を示す。センサ範囲(1201)が描かれるが、その描写は単なる例示的目的のためのものである。一実施形態において、上記されるように、キーボード(1200)は、VR/AR環境で使用される特徴のまばらなおよび/または触覚キーボードであり得る。一実施形態において、タッチセンサのセンサ範囲(1201)は、キーボード(1200)上のキーボードスイッチのタッチ感度に対応する。図12Bは、ユーザーの指と手のタッチセンサ範囲内の情報のヒートマップ(1203)と、ユーザーの手首(1204)のヒートマップ(1203)からの外挿の例を示す。
図12Cは、同じユーザーの指、手および手首のVR/AR世界での視野と、VR/AR環境内のキーボードと共に使用するために改造され得る視覚背景の実施形態を示す。一実施形態において、タッチ状態の情報は、低レイテンシで、VR/AR環境において、3Dでユーザーの指、手および手首を復元するために使用することができる。低レイテンシは、VR/ARシステムによって3D触覚を提供するのを可能にする場合もあり、したがってVR/ARキーボード上のソフトウェア定義ボタンと制御を反映する現実世界のキーボード上の物理ボタンとコントローラをユーザーに提供する。例えば、一実施形態において、3D触覚は、任意のVR/AR用途のVR/ARデジタル制御と一致するように柔軟にそれらの物的制御を変形させることができる物理的な入力面を生成し得る。一実施形態において、触覚は、任意のVR/AR用途のVR/ARデジタル制御と一致する物理的な入力面をユーザーに知覚させ得る。一実施形態において、物理インターフェースまたは触覚インターフェースは、それらの意図された用途に適合可能なように、かつVR/AR環境でのそれらのデジタル当量を反映するように提供される。
一実施形態において、接触が必要ではないために、タッチ状態の情報はジェスチャ解釈アルゴリズムへの入力として使用されてもよい。したがって、キーボードの上の離れた位置は、ユーザーがジェスチャをすることができる区域へと変えられ得る。そのような区域はモーダルであってもよく、それ自体が、ジェスチャ、接触またはキー押、またはジェスチャ、接触またはキー押の組み合わせによってアクティブにされてもよい。一実施形態において、手はコンピュータマウスとして使用することができ、手をキーボードの近位から離すことなくおなじみの動作を行う。一実施形態において、マウスに似た形状に手を「カップ状にする」ことで、その手からのさらなるジェスチャは自動的に、例えばボタンのクリック、回転および移動を含むマウスジェスチャとして解釈されることになる。一実施形態において、空中でタップする動きは、ジェスチャとして解釈することができ、結果としてシステムの応答をもたらし得る。一実施形態において、ユーザーがそれらの上で自身の指または手をかすめるように動かす、または他のいくつかの種類のジェスチャを行うと、キーまたはキーのサブセットの表面はトラックパッドとして動作し得る。
本明細書に提示される新規なキーボードスイッチおよびキーボードによって提供されるタッチ状態の情報は、アプリケーションとオペレーティングシステムソフトウェアが、物理キー(またはVR/ARキー)の上にある、またはその上をホバーしているのを識別する際に基づくことができる情報を得ることを可能にする。図13に目を向けると、ツール・チッピング(tool−tipping)の典型的な実装が示される。図13は、ユーザーが見たキーボードと現実世界で見えるキーボードのハイブリッドの典型図を例示し、例えば任意のアプリケーションまたはオペレーティングシステム用のキーボードショートカットを学習する際に助けとなるようにユーザーにフローティング型を提供し、これはなぜなら、キーボードが、キーの上にあるまたはホバーしているユーザーを感知可能であり、またはユーザーがキーに接触する前に、ユーザーの次のキー押を予測することができるからである。一実施形態において、タッチ状態の情報は、ツールチップまたは他のフィードバックが望ましい特定の位置または位置の組み合わせを判定するのに使用され、そのようなツールチップまたは他のフィードバックはVR/AR表現で提示可能である。同様に、追加の表示空間は、風船の形状であるのが望ましい場合もあり、そうすると例えば、ユーザーがキーボードスイッチ(または組み合わせ)の上をホバーしているか接触していると、「次の」キーが押されると「次の歌」が演奏されるように、風船が表示され得る。例示的な実施形態では、開示されるキーボードは、限定されないがキーボードを含む、物理的な入力面にマッピングされたVR/ARユーザーインターフェースを可能にする。そうする際に、物理キーボード上の各キーがVR/AR環境における視覚スクリーンになることができるため、キーボード上の各キーはマルチタッチ、ジェスチャのディスプレイであり得る。例えば、VR/ARユーザーインターフェース要素は、インタラクティブな2Dのアイコン、画像およびテキスト(例えば、現在の音量レベルを示す音量ボタン等)、さらには3Dアイコン、画像およびテキスト(例えば、ユーザーが自身の指を関連する物理キーに置いている時に現れる演奏ボタンであって、それにより何のアルバムがアルバムアートディスプレイを介して演奏されるのかをユーザーに示すZ軸に沿った3Dツールチップを生成する等)として、物理キーボード入力制御にマッピングされ得る。
<キーボードインタラクション>
以下では、タッチ、空中でのもの、およびハイブリッドタッチ/空中でのキーボードユーザー入力インタラクションの新たな形態が論じられる。一実施形態において、タッチ、空中でのもの、およびハイブリッドタッチ/空中でのキーボードユーザー入力インタラクションの新たな形態は、上記に特定された同時係属中の出願に開示された新規なデバイスの1つ以上によって実施可能となり、または向上され得る。一実施形態において、インタラクションの開示された形態は、本明細書に記載の1つ以上の実施形態を可能にする特定のAPIを提示する、専用のデバイスに特徴として含ませることができ、またはソフトウェア開発者キット(SDK)に含ませることができる。SDKに含ませることにより、OSメーカー、OEM、アプリケーション開発者およびユーザーは、通常のまたは標準的なインターフェースに基づいたタッチセンサ式デバイスを開発し、構築し、またはそれに接続することができ、および望ましい場合には、本明細書に記載のものを含むジェスチャのメカニズムのいくつか、またはすべてを支持することができる。様々な実施形態では、新規なインタラクション技術は、限定されないが以下を含む様々な物体上で実装され、またはそのような物体と接触して使用され得る:多数の物理キーキャップを含むキーボード;限定されないが単一の物理キーキャップ(例えばボタン)を含むキーボード;限定されないがスイッチ、スライダおよびダイヤルを含む他の物理制御を含むキーボード;限定されないが電気静力学、電気ショックおよびバイブロ・触覚フィードバックを含む触覚技術によってシミュレートされる、仮想キーキャップ、ボタン、スイッチ、スライダ、およびダイヤルを制限なく含む仮想制御を含むキーボード;限定されないがマイクロ電気機械的ロボット工学および電気的活性のあるポリマーを含むコンピュータ制御された物理的変形技術を通じて形成し、または改造することができる、物理キーキャップ、ボタン、スイッチ、スライダおよびダイヤルを制限なく含む、ジャスト・イン・タイムまたは再形成(リシェイプ)可能な物理制御を含むキーボード;タッチ/ホバーパッド;およびゲームコントローラ、ステアリングホイール、スポーツ用品の柄とボールを含む他のタッチセンサ式物理オブジェクト。本開示全体にわたって、「タッチセンサ式キーボード」「タッチパッド」「ホバーパッド」および、「タッチセンサ式デバイス」等の用語は、接触と様々な度合のホバーを検出可能なタッチセンサ式デバイスのカテゴリーを指し、区別なく使用される。そのようなタッチセンサ式デバイスは、同時係属中の米国特許出願第15/200,642号、2016年7月1日出願の「TOUCH SENSITIVE KEYBOARD」;米国特許出願第15/221,391号;2016年7月29日出願の米国特許出願第15/224,226号、「HOVER−SENSITIVE TOUCHPAD」;および、「TOUCH−SENSITIVE OBJECTS」と題した、2016年8月30日出願の米国特許出願第15/251,859号に記載され、開示される。それらの開示とそこで使用される用語に精通しているものと仮定する。
<片手でのスワイプジェスチャ>
一実施形態において、タッチセンサ式キーボード上で、キーボードを左から右へ、キーボードを右から左へ、上から下へ、または下から上へと、空中でまたはキーボードのキーと接触しながら動く1つの手は、ユーザーによって行われる入力ジェスチャと認めることができる。実施形態において、キーの平面におよそ垂直な平面では、キーボードの表面から上に離れる、またはキーボードの表面に向かって下に動く手の動きもまた、認めることができる。
一実施形態において、追跡される点または物体によって規定される3D空間内の経路は、限定されないがテンプレートマッチングまたはヒューリスティックアプローチ等の動きを認識するための既知の技術を使用して、応答にマッピングされ得る。一実施形態において、追跡される点は、指先に関する1つ以上の点などの恣意的な点であってもよい。一実施形態において、追跡される点は、指の「曲がり」を検出するための指先と手のひらの相対的な区別などの、点の構成であってもよい。使用される特定の認識アルゴリズムは重要ではない。本明細書に開示されるアルゴリズム、システムおよび方法は、認識アルゴリズムよりも高いレベルにある;例として、一実施形態において、アルゴリズム、システムおよび方法は、認識自体ではなく、ジェスチャの認識に応じてシステムによってとられる動作を記載する。
一旦ジェスチャが認識されると、システムからの無数の反応が可能である。一実施形態において、そのような反応は、以下の2つのカテゴリーに分類され得る:連続動作(例えば、システムからの連続的な(または多数の)応答を生成する動作);および個別の動作(例えば個別の反応を生成する動作)。一実施形態において、同じ物理的ジェスチャは、そのようなカテゴリーの両方にマッピングされる場合もある。1つの例として、キーボードとおよそ平行でありその上で行う左から右への手のスワイプは、個別のアプリケーションスイッチを引き起こし、または連続応答を引き起こす場合もあり、それによってシステムが連続してフィードバック、手の動きへのスクリーン上のオブジェクトの変換のマッピング等を供給する。システムによって行なうことができる、またはシステムによって開始することができるいかなる動作も、1つのジェスチャまたは複数のジェスチャの認識に関連し得る。さらに、ジェスチャは、指または手の動きのように単純であってもよく、手のいくつかの指またはすべての指の動き(例えば手で形を作る)のようにより複雑であってもよく、または複数の手を必要としてもよい(例えば、2つの手の動き、手の中でのスタイラスの動き)。ジェスチャの認識に応じてとられる動作の他の例として、限定されないが以下があげられる:現在のアプリケーションを閉じる、コンピュータをロックする、リストにある次のアプリケーションに切り替える、文書を1ページ進むまたは戻る、ウェブブラウザに戻る、スワイプして移動する(swipe−to−move)およびスワイプして終了する(swipe−to−close)/アーカイブ等のインタラクション、メディアを再生/一時停止する、ウィンドウ管理コマンド、または通信セッションの流量等の個別の動作;および(b)音量の調整、明るさの調整、ビデオ/オーディオのスクラブ・ホイール(video/audio scrub−wheel)を介したナビゲート、カメラの操作、ズーム、スクロール、およびポインター(例えばマウスポインター)を動かす等の連続した入力。1つ以上の特定のジェスチャが、1つ以上の特定のシステム応答にマッピングされ得ること、および1つ以上の特定のシステム応答が連続した、または個別のタイプのものであり得ることが、本開示の観点から当業者に明らかになり、それらのすべては本開示の範囲と精神内にある。
<両手を使ったジェスチャ>
タッチセンサ式デバイス上の空間で両手を動作させることで、さらなる忠実度が可能になるであろう。そのようなジェスチャの検出に適用される検出と認識のための技術は、交換可能である;例えば、同じ手にある2つの点 対 2つの手の各々にある1つの点の追跡は、検出アルゴリズム選択のレベルにおいて機能的に異なってはいない。検出され得るジェスチャの観点において:2つの手は、例えば協調して動いてもよく(例えば、2つの手はタッチセンサ式デバイスの左から右へ動く)、または例えば互いに反対方向に動いてもよい(例えば、2つの手はキーボード上を離れて、または一緒に動く)。両手はまた、同時に手の一部を動かしながら動く場合もある。一実施形態において、ジェスチャの用語は、手の機敏さのすべて、または実質的にすべてに及ぶ。
一実施形態において、認識されたジェスチャは、キーボードのそれにおおよそ平行な平面に生じ得るいくつかの手の姿勢を識別する。これらのパラメータは、限定されないが以下を含む:両手が一緒に左に移動する;両手が一緒に右に移動する;両手が一緒に前進する;両手が一緒に後方に移動する;両手が一緒に合わさる;両手が離れていく;片方の手が前に動き、他方が後ろに動く;および、片方の手が静止しており、同時に他方の手が左右または前後に動く。一実施形態において、タッチセンサ式デバイスは、以下の垂直運動を識別することができる:上に動く両手;下に動く両手;片方の手は上に動き、他方で別の手は反対方向に動く;および、片方の手は上または下に動き、他方で別の手は(垂直に)静止したままである。一実施形態において、タッチセンサ式デバイスは、ホストオペレーティングシステム、またはジェスチャの発生に際して動作するように構成され得る他の計算デバイスに、全ての認識されたジェスチャを報告することができる。一実施形態において、タッチセンサ式デバイスは、ホストオペレーティングシステム、またはジェスチャの発生に際して動作するように構成され得る他の計算デバイスに、認識されたジェスチャのサブセットを報告することができる。
<ダイヤリングジェスチャ(Dialing Gesture)>
タッチセンサ式デバイスを用いて行われる点ベースの入力およびマルチポイントベースの入力に加えて、一実施形態では、キー面上でなされたタッチまたはキーの上で行われた動きは、ダイヤリングジェスチャと解される。ダイヤリングジェスチャは、連続入力の本来の手段を提供し得る。一実施形態において、例えば、キーボードの上の指または他の物体を反時計回りに回すと、スクロールアップまたはスクロールダウンされるだろう。ダイヤリングジェスチャには、本来の範囲がない(すなわち、例えばジョイントムーブメントとは異なり、最大位置または最小位置がない)。したがって、一実施形態において、ダイヤリングジェスチャは、非常に長い文書を含む文書のスクロールのために使用されてもよい。一実施形態において、ダイヤリングが、ダイヤリングされるオブジェクトに対して多かれ少なかれ効果を生み出し得るように、恣意的な抑制/表示利得機能が提供される。
<仮想ステアリングホイール>
物理制御によって抑制されるインタラクションは、限定的な自由度を提供し、およびユーザーが縮小されたインタラクション空間に集中することができるため、さらなる正確さを可能にすることが知られている。例として、ステアリングホイールで自動車の向きを変えるのは、ジョイスティックで方向と燃料の流れを同時に制御するよりも単純である。したがって、一実施形態において、手の動作は、仮想物理オブジェクトにマッピングされ、その操作は制御信号を提供する。一実施形態において、ユーザーは、2Dモニターまたはヘッドマウント型のVRまたはARディスプレイを介してステアリングホイールのデジタル画像を提示されてもよく、それらは回転してドライブシミュレータへの入力を供給する;3D空間での手の動きは、ユーザーがホイールを保持しているかのように、ホイールの動きにマッピングすることができる。一実施形態において、3D空間内での手の動きは、従来のものではない(例えばより速い、またはより遅い)ホイールの動きにマッピングすることができ、したがって、この技術を使用して、ユーザーがホイールを保持していたならば不可能であろう方法で制御を行うことができる。
<手以外の物体を見分ける>
キーボード付近の片方または両方の手の認識に加えて、一実施形態において、タッチセンサ式デバイスは、手がいつ物理オブジェクトをつかむかを検出することができる。例として限定されないが、片方の手がキーボードの上でモバイルデバイスを持っている時、または両方の手が物理的なステアリングホイール制御をつかんでいる時があげられる。一実施形態において、タッチセンサ式デバイスの上に生成された電気的な検出フィールドは、入力処理アルゴリズムがタッチセンサ式デバイスの上でユーザーまたは複数のユーザーによってつかまれている物理オブジェクトを識別するのを助けるために、物理オブジェクトの表面の上または下で3Dマーカーまたはマーカーのセットを検出することができる。一実施形態において、タッチセンサ式デバイスの上で保持された物理オブジェクトの形状またはカテゴリーは、物理オブジェクトを保持するユーザーまたは複数のユーザーの3Dハンドおよび掌握姿勢の分析によって、タッチセンサ式デバイスにより推論され得る。一実施形態において、3D空間内のタッチセンサ式デバイスに近位の物理オブジェクトは、タッチセンサ式デバイスによって検出された既知の周波数またはコード分割変調信号を介して、または限定さないが近距離無線通信、WiFi、およびbluetoothなどの個別の無線周波数通信チャネル経由で、その正体とカテゴリー、および3D位置をタッチセンサ式デバイスに通信することができる。
<多モードのインタラクション>
一実施形態において、タッチセンサ式デバイス近くの片方または両方の手の認識に加えて、手とデバイス入力の組み合わせがジェスチャに対して使用される。一実施形態において、手とデバイス入力の組み合わせは、(i)マウスまたはタッチセンサ式スクリーンを使用してコンピュータディスプレイ上の標的を選択する時、そして次に(ii)手のジェスチャで選択された標的を編集する時に、使用される。一実施形態において、ユーザーは、マウスを使用して地図アプリケーション上の関心地点を選択し、次に、手をキーボードから上へと離れるように移動させることによって、地図をズームアウトさせる。一実施形態において、限定されないが、検出される2D手モデル、3D手モデル、2D指モデル、3D指モデル、タッチセンサ式デバイス面の上の2D指先位置、タッチセンサ式デバイス面の上の3D指先位置、キーボード面に平行またはその上にある2D/3D面で起こる複数の指によるジェスチャ、手の識別、およびユーザーの識別などの任意の入力ストリームに適合した、個別のフィルタリング、処理、後処理、およびアプリケーションプログラムインターフェースを用いて、タッチセンサ式デバイスは、その行検出データを多数の入力ストリームへと細分化する。
<形成された面の記載>
一実施形態において、タッチセンサ式デバイスまたはapiは、容積内の手およびホバージェスチャを検出し、および表面の幾可学的形状を描写するためにそれらの位置と形状を使用する。一実施形態において、これは、平面のポインティングデバイス(すなわちマウスまたはトラックパッド)を使用して、3次元面、特に複雑な幾可学的形状のものの描写を容易にする。一実施形態において、3次元のNURBS(非一様有理Bスプライン)面は、想像上の面の上で1つ以上の手を動かすことによって予想され得る。一実施形態において、主要な曲率または等高線は、3D面を規定するために容積内で追跡され得る。一実施形態において、ジェスチャは、3Dモデル化機能を開始させるのに使用することができ、限定されないが以下を含む:押し出す、払う、回転、押す/引く動作、および彫刻をすること。一実施形態において、容積内のジェスチャは3Dモデル化機能を開始させるのに使用することができる。一実施形態において、片手でのジェスチャは、3Dモデル化機能を開始させるのに使用することができる。一実施形態において、両手でのジェスチャは、3Dモデル化機能を開始させるのに使用することができる。
<入力の転送>
電話などのモバイルデバイス、とりわけスマートウォッチのように小さなスクリーンをベースにした小さなモバイルデバイス等にタイプするのは困難であろう。一実施形態において、モバイルデバイスがタッチセンサ式デバイスの近位にある容積に配置される時に、例えばモバイルデバイスへのキーボード入力として、タッチセンサ式デバイスへの認識されたジェスチャまたは入力が転送される。一実施形態において、ユーザーは、タッチセンサ式デバイスまたはキーボードの上の容積にスマートウォッチを着用している腕を保つことができる。一実施形態において、ユーザーは、タッチセンサ式デバイスまたはキーボードの上の容積に携帯電話を置くことができる。いずれの場合も、ユーザーは、タッチセンサ式デバイスとインタラクトする(例えば、キーボードにタイプする)ために、別の手(またはデバイスが静止していれば両方の手)を使用することができ、およびインタラクションはモバイル機器(例えばスマートウォッチまたは携帯電話)に転送され得る。一実施形態において、タッチセンサ式デバイスに関する比容積にデバイス(例えばスマートウォッチまたは携帯電話)を配置することは、デバイスがタッチセンサ式デバイスからキーボード入力を受信すべきであることを示す。一実施形態において、タッチセンサ式デバイスまたはキーボードは、デバイスにキーボードデータを出力する。一実施形態において、タッチセンサ式デバイスとのインタラクションに対応する情報が、それぞれのデバイスのスクリーンに自動的に現われる。一実施形態において、タッチセンサ式キーボードのタイプに対応する情報が、タッチセンサ式キーボードに関係する容積に近接するモバイル機器のスクリーンに自動的に現われる。
<垂直平面上での先取り検出>
従来のラップトップディスプレイでは、ホバー情報は限定されており、離れた指先の位置を検出することはできない。垂直ディスプレイ(例えばラップトップディスプレイ)の下に配されたタッチセンサ式デバイスを使用して、指がどのようにスクリーン、例えばラップトップスクリーンに接近し、接触するのかを検出することができる。一実施形態において、タッチセンサ式ではないディスプレイは、そのディスプレイ上でのタッチ性能を可能にするために、タッチセンサ式デバイスと組み合わせて使用される。一実施形態において、タッチ性能を備えた既存のラップトップディスプレイは、キーボードからの垂直ホバーデータを有する既存のディスプレイ2Dタッチ情報を補うために、タッチセンサ式デバイスと組み合わせて使用される。一実施形態において、(例えばタッチセンサ式キーボードからの)垂直ホバーデータを有する既存のディスプレイ2Dタッチ情報を補うために、タッチセンサ式デバイスを組み合わせることで、ディスプレイからの3D検出が可能になる。一実施形態において、入力情報と組み合わせたそのようなタッチセンサ式デバイス/ディスプレイのサブセットは、アプリケーションに提供される。一実施形態において、タッチセンサ式キーボードからのホバー入力は、指がいつスクリーンに接近したのかを示すために使用することができる。一実施形態において、指がスクリーンに接近していることを示すタッチセンサ式キーボードからのホバー入力は、例えばディープスリープから、ディスプレイのタッチセンサを覚醒させるのに使用される。一実施形態において、指がスクリーンに接触し、ユーザーインターフェースを準備し、かつ標的選択精度を改善するのに使用される前に、指の軌道が算出される。
<状態間の推移>
本発明の実施形態において、タッチセンサ式キーボードからのユーザーの身体(指、手など)の距離は、連続変数(例えば「z」の値)として、アプリケーションまたは他のソフトウェアに提示され得る。一実施形態において、この距離は、「状態」と名付けられ得るものへと離散化されてもよく、およびそのような状態へのエントリ、その様な状態の存在、および/またはそのような状態からの脱出を判定するために利用されてもよい。一実施形態において、そのような「状態」は、反応を提供する(例えば開始する)ための方法の一部として使用される。一実施形態において、ホバー情報は、「ホバーしている」状態および「タイプしている」状態、または「キーに置かれている」状態へと離散化されてもよい。一実施形態において、離散化された情報は、ユーザーが関連する状態にある場合、例えばタイプを始める準備ができている時に、意味をなす動作を引き起こすのに使用される。一実施形態において、状態は、「遠くにホバーする」および「近くにホバーする」等の他の離散化を含む場合もある。一実施形態において、より多くの状態が使用される。一実施形態において、状態は下位状態を含み得る。一実施形態において、「ホバー」状態は下位状態を含む。一実施形態において、「ホバー」状態は、「遠くにホバーする」および「近くにホバーする」等の少なくとも2つの下位状態を含む。
一実施形態において、ホバー状態は、「スリープ中の」ディスプレイをつけるために使用される。一実施形態において、かなりの時間使用されていないロックされたコンピュータでは、「ホバー」でディスプレイをつける。一実施形態では、パスワードフィールドにフォーカスするためにマウスカーソルを使用する代わりに、「ホバー」から「キーに置く」へと推移することで、正しいフィールドにフォーカスすることができる。さらに、ユーザーがキーボードに近づく(および推移を生成する)手段は、ユーザーを識別し、かつ(例えば、正しいユーザー名とパスワードで、または他の生体認証に基づいて)コンピュータをロック解除するための迅速な手段を提供するために、使用することができる。逆もまた適用可能である。一実施形態において、ワークステーションは、一定時間、ホバー(またはキーインタラクション)が全く検出されないと、ロックされ得る。したがって、一実施形態において、スクリーンのロックのカウントダウンは、キーボードの近くに手がない場合に、およびそのような場合のみに開始される。
別の例として、一実施形態において、本発明を実施するシステムは、「ジェスチャ」などの状態間の推移を指示する場合もあり、手を「近くのホバー」から「遠くのホバー」へと動かくことで、そのコンテンツではなく本出願のウィンドウに適用される操作または運動をもたらし得る。これは、異なるコンテンツを操作するためにユーザーが同じ運動(キーボード領域の一番上で自身の手を横に滑らせる)を行なうことを可能にする。
<指の追跡>
タイプしている時にいくつかの指、特に親指には、いくらかの動きの自由がある。親指は、スペースキー以外にはめったに使用されない。しかしながら、多数のボタンを有する親指アイランドは生産性を高めるであろう。ホバー検出は、例えば以下のものなどの、親指のジェスチャを検出するのに使用されてもよい:親指の接近を考慮してスペースバーに過負荷をかける;イタリック体および/またはボールドなどのテキストフォーマットを変更するジェスチャとして識別された親指のホバー運動を有する;および/または、「ホバー」状態で識別された水平運動が取り消しまたは削除動作を引き起こす。一実施形態において、親指検出は、キーボードから手全体を持ち上げる必要なく、変更を開始させるのに利用可能である。一実施形態において、タイピング中に使われていない指の指追跡(finger tracking pose)は、タイプされるテキストに自動的にラベル付けする関連するエモティコンに使用することができる。これは、テキストベースの会話の表現性を高めるのに非常に有用であり、共有されているテキストを補う1セットのあらかじめ定義されたラベルへの迅速で広範なアクセスを可能にする。これはまた、文書をタイピングしている時に適用可能であり、ラベルまたは脚注として追加情報を加えることができる。
<ホバーのための開いた/閉じた手の選択>
「ホバー」状態にある手は、手が閉じたり開いたりしている時はいつでも、異なるサインを提示する。一実施形態において、この情報は、ホバーをやめることなく、選択した動作を引き起こすために使用することができる。一実施形態において、この挙動は、例えば、特定ウィンドウへと「alt−tab」する水平運動を使用し、およびウィンドウを「つかんで」左半分または右半分の最大化へとそれを視覚的にドラッグするために、使用することができる。ラップトップ上でトラックパッドを有するタッチセンサ式デバイスを使用する場合、一実施形態において、「ドラッグ」は、トラックパッドを使用して片手で制御可能であり、および選択の開始と終了は、タッチセンサ式デバイスによって検出される容積に位置する場合にもう一方の手を開いたり閉じたりすることにより識別され得る。より一般的には、手が開いているか閉じているかの検出、または手で形を作ることは、スタイラスのインタラクション(例えばインクの色、または、線の厚みまたは消しゴム対ペン)、他の手のジェスチャ(例えば、より速くまたはゆっくりスクロールする)、キーボード上の別の手のインタラクション等の他のインタラクションを解釈するために使用することができる。一実施形態において、手が開いているか閉じているかの検出は、その手の動作を解釈するために使用されてもよく、例えば、ある形状に手を置くことは、それがマウス上であれば、その手はマウスの移動として解釈されるだろう。
<キー押、フリーハンドのマルチモード入力>
より深遠な状態はマルチキーショートカットによって達成することができる。一実施形態において、例えば、ズームは制御され、control+とcontrol−はしばしば、ウェブページ上で漸増的にズームするために使用されるマルチキーの組み合わせである。一実施形態において、「ホバー」状態は、どのキーが押されているかに基づいた異なる意味を有し得る。したがって例えば、一実施形態では、固有キー(例えばZキー)が押されている間、「ホバー」情報は連続的な(相対的または絶対的な)ズームとして解釈され得る。別の例では、「space」を押すと、「ホバー」情報はグーグルマップ上のパン動作として解釈される。
<ホバー情報を使用した、指の動きに基づくテキスト修正>
「ホバー」の導入は、キーからキーへの完全な指の推移を提供することができる。一実施形態において、この情報は、ユーザーが誤って自身の手を配置し、間違った文字列をタイプしたために始まる多数の文字の誤植を識別するために使用することができる。例えば、tomorrowとタイプする代わりに、ユーザーがtonirriwとタイプすると、最初の「o」から始まる適切な位置に右手を置いていなかったことを示すだろう。一実施形態において、一旦この種の誤植が識別されると、「ホバー」情報は、残りのキー押を適切に修正するために使用することができる。一実施形態において、一旦この種の誤植が識別されると、「ホバー」情報は、スペルチェックアルゴリズムで使用される追加の情報を加えるために使用することができる。そのような実装は、「書かれた言語」だけでなくユーザーの典型的な手の位置の誤りに基づいたリアルタイムでのスペルチェックを達成し、および手の位置が悪かったとしても正しいタイピングを提供し、したがって場合によってはスクリーン上で目視可能な誤植を先んじて回避し得る。
<他の入力デバイスのための包含>
本発明のいくつかの実施形態では、タッチセンサ式キーボードは、ムーブなどの他の入力デバイスによって囲まれていてもよく、「ホバー」状態は、タイピングとマウスへのエンゲージメントとの間の推移を示すことができる(右手の水平運動がキーボードの右に去るのを観察することによって)。一実施形態において、これは、マウスのサンプリング速度を高めるために、またはちょうどマウスが使用されようとしている時にマウスカーソルを強調するために、合図を提供することができる。一実施形態では、ラップトップコンピュータなどの、キーボードの下のデバイスに組み込まれたトラックパッドが含まれ、そのようなトラックパッドはしばしば、ユーザーの掌がキーボードの下にあるために、偶発的な入力の主体となる。一実施形態において、ユーザーの指がホバーキーボードに載っている場合、そのような偶発的な入力は、トラックパッドをオフにする、そうでなければ無視することによって、緩和または回避される。一実施形態において、ユーザーの指がホバーキーボードに載っている場合、そのような偶発的な入力は、トラックパッドをオフにする、そうでなければ無視することによって、緩和または回避される。
一実施形態において、タッチセンサ式キーボードは:各々が、指の近接に応じてタッチ信号を出力するのに適した複数のキー;キーと離れているタッチパッド領域であって、近接に敏感なタッチパッド領域;および、タッチ信号出力を受信できるように複数のキーに動作可能に連結され、および少なくとも1つのタッチ信号を受信した時にタッチパッドのタッチへの感度を無効にするように構成されたプロセッサ、を含む。一実施形態において、プロセッサは、タッチ信号のあらかじめ構成されたグループが受信されると、タッチパッドのタッチへの感度を無効にするように構成される。一実施形態において、プロセッサは、1セットのあらかじめ構成されたキーからのタッチ信号に応じて、タッチパッドのタッチへの感度を無効にしないように構成される。一実施形態において、複数のキーは、キーの事前に選択されたグループを含まない。一実施形態において、キーの事前に選択されたグループは、以下から成るグループから選択された少なくとも1つを含む:control、shift、およびalt。一実施形態において、キーの事前に選択されたグループは、以下から成るグループから選択された少なくとも1つを含む:control、shift、alt、functionキー、caps lock、tab、enter、insert、delete home、end、pgup、pgdn、arrowキー、prtscn、scrlk、pause。一実施形態において、キーの事前に選択されたグループは、非文字キーをすべて含む。
例示として、図15Aは、典型的なラップトップ上に見られるキーボード、および別個のタッチパッドを示す。一実施形態において、手および/または指がタッチセンサ式キーボード上および/またはその上で検出される場合、タッチパッドは無効になる。図15Bは、キーボードを使用するユーザーを示し、タッチパッドは無効になっている。手および/または指がタッチセンサ式キーボードから遠く離れている場合(図15C)、タッチパッドは有効になっている。
<等大のジョイスティック(Isometric Joystick)としてのキー>
一実施形態において、単一のキーまたはキーの集合は、等大のジョイスティックとして作用する。一実施形態において、ジョイスティックの方向は、キーボード上の近傍のキーの間で信号強度を補間することにより算出される。一実施形態において、キーボード上の単一のキーは、「center」キーとして示され、および等大のジョイスティックの方向は、この「center」キーおよびそのすぐ近くのキーの信号強度の補間によって判定される。
この等大のジョイスティックのそのような1つの使用は、ポインティングスティック、コンピュータポインティングデバイスを制御する等大のジョイスティックとしてのものである。そのような物理的なポインティングスティックは、それらのサイズが小さいために、ラップトップおよび他のポータブルコンピュータにおいて一般的である(他にもいろいろとあるが、IBM/Lenovo TrackPoint、Dell Track Stick、およびSamsung Pointing Stickを参照)。これらの物理的なポインティングスティックはすべて、マシンのキーボードに加えて追加のハードウェアを必要とする。典型的には、歪みゲージの対抗ペアは、ユーザーの指によってポインティングスティックに適用された横力を測定する。本明細書に開示される等大のジョイスティックは、追加のポインティングハードウェアの必要を緩和する。一実施形態において、1セットのキーは、等大のジョイスティックとして機能し得る。
一実施形態において、タッチセンサ式キーボードは、ジョイスティックまたは他の制御として使用されてもよい。一実施形態において、タッチセンサ式キーボード上の複数のキーが使用され、キーの各々は、そのキーと制御として作用する指との間の距離に対応する信号強度を出力するのに適している。一実施形態では、該方法は以下の工程を含む:タッチセンサ式キーボードに対する少なくとも1つの指の少なくとも1つの部分のあらかじめ規定された位置付けに基づいて、タッチセンサ式キーボードを制御状態に置く工程;キーボード上の近傍のキーのグループの間の信号強度の補間によって制御方向を判定する工程;および、制御に使用するためのホストシステムに制御方向を出力する工程。一実施形態において、該方法はさらに以下の工程を含む:キーボード上の近傍のキーのグループの間の信号強度の補間によって制御の規模を判定する工程;および、制御に使用するためのホストシステムに制御の規模を出力する工程。一実施形態において、あらかじめ規定された位置付けは、以下のグループから選択されたものである:ctrlキーとaltキーに載っている片方の手の2つの指;およびスペースバーに載っている両方の親指。一実施形態において、あらかじめ規定された位置付けは、人間工学的に容易であるが、通常のキーボードの使用中には起こらないであろうように、あらかじめ選択される。一実施形態において、近傍のキーのグループはセンタキーおよび各隣接キーを含む。一実施形態において、近傍のキーのグループはセンタキーに隣接している各キーを含む。一実施形態において、近傍のキーのグループは、センタキーの一定距離内にある各キーを含む。該方法はまた、制御としての指の動作のベースライン位置を確立する工程を含むことができ、および制御方向を判定する工程は、ベースライン位置からデルタを確立することができる。一実施形態において、ベースラインアプローチからのデルタは、ジョイスティックまたは他の制御出力をエミュレートするために使用することができる。一実施形態において、制御方向、および随意にその規模は、制御方向または他の制御をエミュレートするために使用することができる。一実施形態では、制御方向は、以下から成る群から選択される:上、下、左、および右。一実施形態では、タッチセンサ式キーボードは、一定期間、制御状態に留まる。一実施形態において、タッチセンサ式キーボードは、タッチセンサ式キーボードに対する少なくとも1つの指の少なくとも一部のあらかじめ規定された第二の位置付けが起こるまで、制御状態に留まる。一実施形態において、あらかじめ規定された第2の位置付けは、ホームキー列の位置である。
図16Aは、ユーザーの左手の2本の指がCTRLとALTキーにある一実施形態を例示する。この指の位置付けは、システムを、右手(図16A/Bでは、右手の人差し指)によって行われたタッチセンサ式キーボード上のタッチが、タッチ入力事象を生成する状態にする。図16Aと16Bの間の人差し指の移動は、スワイプする右入力動作に対応する。左手の指がCTRLとALTキーから上げられると、システムはこの状態ではなくなる。
図17Aと17Bは、スペースバーに両方の親指を置くことによってタッチ状態が入力される、関連する実施形態を示す。再び、右手の人差し指はタッチ入力を行なう。
関連する実施形態において、タッチセンサ式キーボード上の特定の配置に指を置くことによって入力された状態は、それらの指が上げられた後でさえ、保持される。該システムは、指の第2の配置が検出されるまで、この状態に留まる。図18は、そのような1つの構成を示し、タッチ状態を出て、キーボードのタイピングに戻るために、指がキーボードのホームキーに置かれている。
<アナログまたは多軸デジタルジョイスティックとしてのキーボードセクション>
一実施形態において、単一のキーまたはキーの集合は、ジョイスティックとして作用する。一実施形態において、ジョイスティックの方向は、キーボード上の近傍のキーの間で信号強度を補間することにより算出される。一実施形態において、キーボード上の単一のキーは、「センタ」キーとして示され、および等大のジョイスティックの方向は、この「センタ」キーおよびそのすぐ近くのキーの信号強度の補間によって判定される。一実施形態において、2つの(またはより多くの)キーまたは2つの(またはより多くの)キーの集合は、独立したジョイスティックとして作用する。
図19A−19Dは、制御方向の生成と、タッチセンサ式キーボードでのジョイスティックのエミュレーションを例示する。本実施形態において、Kキーはセンタキーとして扱われる。指がKキーの真中にある時(図19A)、方向は生成されない。Kキーとその近傍のキーの相対的な近接強度を見ることによって、タッチセンサ式キーボードは、左(図19B)、右(図19C)、または上(図19D)などの方向を生成することができる。このように、ユーザーは、Kキーの上で自身の指を揺り動かすことによって、カーソルまたは他の要素の方向を制御することができる。
<フェーダー制御としてのキーボードセクション>
フェーダー制御は、しばしば線形の様式で範囲を選択するスライドスイッチである。一実施形態において、タッチセンサ式キーボードはフェーダーをエミュレートすることができる。タッチセンサ式キーボードがフェーダーをエミュレートすると、キーボードのセクションは、フェーダー制御に相当する入力を提供するように支持され、ここでデジタル配列またはアナログ値が仮想フェーダーの位置を示すために提供される。一実施形態において、仮想フェーダーは、解放されると真中に戻ることができる。一実施形態において、仮想フェーダーは、解放されるとその最後の位置に留まることができる。一実施形態において、仮想フェーダーの解放は、タッチまたはホバー信号の欠如によって開始される。一実施形態において、フェーダー制御は、キーボードのスペースバーを使用する場合もある。スペースバーの長い形状は、その上で人の指を左と右にスライドさせるのに当然のことながら適している。一実施形態において、多数のセンサが、そのようなスライド動作またはホバー動作を検出するために、スペースバー内にある。一実施形態において、スペースバーの上にあるユーザーの指の左/右の位置が研鑽され、アプリケーションに流される。
<「タッチパッド」としてのキーボード>
一実施形態において、タッチセンサ式キーボードには1つ以上のモードが提供され、そこでタッチパッドポインタデバイスのように挙動する。一実施形態において、タッチセンサ式キーボードは、通常タッチパッドに関するジェスチャの少なくともいくつか、可能性としてはその全てに関する入力を提供する。一実施形態において、タッチパッドモードにある時、タッチセンサ式キーボードは以下の少なくともいくつかに関する入力を提供する:タップ、ダブルタップ、スワイプ、ピンチズーム、スクロール、全てのウィンドウを開ける、デスクトップを示す、ウィンドウ間の切り替え、およびデスクトップインタラクションに提供されるものなどの、ホストによってインタラクションとして受け入れられる他のジェスチャ。
一実施形態において、提供されるモードは、「状態」を変更することにより、つまり上記のように異なる「状態」に移動することにより、入力され得る。一実施形態において、モードは、ユーザーアクションの代わりに、またはそれに加えて、アプリケーションによって入力され得る。一実施形態において、モードは、ユーザーの目の位置、姿勢等の変化に気づくコンピュータのカメラなどの、他のデバイスまたはセンサからの入力を通じて入力され得る(または付加的に入力され得る)。一実施形態において、モードはまた、タッチセンサ式キーボードが気付いたユーザーの手の姿勢の変化を通じて入力され得る(または付加的に入力され得る)。一実施形態において、ユーザーの手の姿勢の変更は、キーボードから1つの手を取り除くことを含み得る。一実施形態において、ユーザーの手の姿勢の変更は、一緒に「ピンチ」姿勢で動く2つの指を含むことができる。タッチパッドモードにおいて、タッチ圧力は、ユーザーによく知られているインタラクションを提供するホバー距離に委任される(delegated)場合もある。
一実施形態において、タッチセンサ式キーボードは、以下を有して提供される:複数のタッチセンサ式キー;複数のタッチセンサ式キーと、その近位にある少なくとも1つの指の間の距離に対応する信号強度を測定するのに適した信号プロセッサ;および、押されている複数のタッチセンサ式キーの1つに応えてキーストロークを出力し、およびキーボード上の複数のタッチセンサ式キーの各々に関する信号強度を補間することによって判定された1つ以上のタッチ点を周期的に出力するように構成されたプロセッサ。一実施形態において、プロセッサは1つ以上のタッチ点を出力し、他方でキーボードはタッチパッドモードにある。一実施形態において、プロセッサは、押されているキーに対応するキーストロークを出力せず、他方でキーボードはタッチパッドモードにある。一実施形態において、プロセッサは、押されているキーに対応するキーストロークを出力し、他方でキーボードはタイピングモードにある。一実施形態において、プロセッサは1つ以上のタッチ点を出力せず、他方でキーボードはタイピングモードにある。
本発明に記載されるキーボードと合わせて使用することが望まれ得る従来のタッチパッド用の、多くのソフトウェアライブラリが存在する。これらのライブラリは、タッチパッドにおいて均一に間隔を置いたX,Yセンサを備えた直線の入力アレイを備える。そのようなライブラリは、非直線のアレイに一定間隔で配置されたキーを含むキーボードとじかに互換性をもつわけではない。一実施形態において、センサ値は、ソフトウェアの既存のライブラリと互換性のある直線のグリッドを生成するために修正される。一実施形態において、直線補間は、直線のアレイを生成するために散在しているセンサ上で使用される。一実施形態において、二次補間は、直線のアレイを生成するために散在しているセンサ上で使用される。一実施形態において、共一次内挿法は、直線のアレイを生成するために散在しているセンサ上で使用される。一実施形態において、キュービック補間は、直線のアレイを生成するために散在しているセンサ上で使用される。開示されるタッチセンサ式キーボードによって生成可能なヒートマップ等の非直線のアレイと、従来のタッチパッドに関連するもの等の直線のアレイとの間の変換には多数の方法があることは、本開示の観点から当業者には明白であろう。
図20Aは、タッチセンサ式キーボード上のキーと、それらに関する信号強度を示す。図20Bは、キーボード上に不規則な間隔で配置されたキーから生成された、規則化されたヒートマップを示す。
キュービック補間または共一次内挿法に加えて、一実施形態は、キーボード上で不規則に間隔を置いて配置されたキーから規則化されたヒートマップを生成するために、動径基底関数を使用する。
動径基底関数は、他のタイプの補間よりも優れているだろう。高レベルでは、任意のタッチセンサからの全てのサンプリングされた点は、いくらかのノイズを含み、およびそのセンサの値の「真の」測定値ではないと仮定することができる。放射基底関数を行なうことによって、本発明者等は、補間されたヒートマップの値を生成するためにいくつかの物理キーからの測定値を使用している。
キーの測定値をMと見なす場合、それは信号T+いくつかの誤差Eの「真の」測定である:
M=T+E
タッチセンサはMを受信するが、Tがより望ましい。
放射基底関数を使用することによって、いくつかのキー(規格化されたヒートマップ内の点の近傍)は、規格化されたヒートマップにおける各値の一因となっている。誤差Eが標準的に分散していれば(または、一様にバイアスをかけられている以外であれば)、それらは部分的にまたは完全に互いを相殺し、Tのみを、または少なくとも、Mのみから得るよりもより近いTの近似値を残す。
<ゼロ・レイテンシのタイピングキーボード>
キーボードとマウスからの入力は、最近のコンピューティングシステムにおいて最も速く有効なものと考えられており、ゲーム産業のおかげで近年のいくつかの機械的な革新に好都合である。しかしながら、既存の計算用の入力デバイスとしてのそれらの優位性を考慮したとしても、機械のみのキーボードは依然として、通信チャネルと、それらがオペレーティングシステムによって処理される方法に固有のレイテンシを示す。一実施形態において、新たな情報チャネルは、キーボードに関するレイテンシ問題に取り組むことを可能にする。特に、一実施形態において、タッチセンサ式キーボードの検出能力は、同時係属中の米国特許出願第14/490,363号に記載されているようなキーボードへの、レイテンシ低減技術の適用を可能にする。本明細書に開示されるタッチセンサ式デバイスは、タッチスクリーンにこれまでに委託された技術が、物理ボタンをベースにしたデバイスを使用するのを可能にし、指の軌道を理解するために、および指がいつキーに触れてその動作を引き起こすかをより正確に予測するために、物理キーボード付近での動きを分析するためにヒートマップホバー検出情報を使用する。ホバー性能は、ハードウェアまたはソフトウェア通信による応答時間を減少させ、コンピューティングシステディスプレイ適合技術におけるより即時の視覚応答を提供する、予測方法の適用を可能にする。
<キーボードインタラクションのアプリケーション視覚化>
ホバーキーボードは、タッチとタッチ近接についての高解像度データを提供する。一実施形態において、アプリケーションは、検証、開発またはエンターテインメント用に、タッチとタッチの近接についての詳細情報を表示するために、このデータを使用してもよい。一実施形態において、タッチとタッチ近接データは、アプリケーションインタラクションについてユーザーにビジュアルキューを提供するために、アプリケーションキャンバスに重ねて表示され得る。一実施形態において、タッチとタッチ近接データは、ヒートマップ、ヒストグラム、手と指の表現、ツール、キャラクター、アバター、および他のアプリケーションの適切なビジュアル化の形態であり得る。
<空中+指接触キーボードジェスチャ>
一実施形態において、タッチセンサ式デバイスは、キーキャップとの物理的接触および空中事象におよぶハイブリッドジェスチャを可能にする。ここで、タッチセンサ式デバイス面との検出された物理的接触の瞬間は、空中ジェスチャのキーキャップ標的を指定し、かつ多数のキーキャップ(書き言葉における句読点のようなもの)の上、またはそれをまたがる空中ジェスチャの「開始」と「停止」を区切るために、使用される。および、空中ジェスチャの検出は、検出された入力事象に表現性とモダリティを加えるために使用される。任意のタッチセンサ式デバイスのキーキャップでの単一の指による入力に関する一実施形態において、以下の空中+接触ハイブリッドジェスチャボキャブラリが可能である:図14は、本明細書に開示されるタッチセンサ式デバイスと関連して使用され得る空中ジェスチャのサンプルリスト(つまり、サンプルジェスチャボキャブラリ)を提供する。一実施形態において、1つ以上のハイブリッドジェスチャは、あらかじめ決められた、またはプログラム可能な機能を行なうために使用することができる。以下の例は、そのようなハイブリッドジェスチャを使用することができる方法の例示を意図しているが、本開示のより一般的な性質を制限するようには意図されておらず、それらは添付された特許請求の範囲によってのみ制限される。
<キーキャップ接触間の空中「コーナー」ジェスチャ>
一実施形態において、これらのハイブリッドタッチセンサ式デバイス入力ジェスチャは、2つ以上の別個のキーキャップ入力起動を、単一のキーキャップ起動にリンクするために使用されてもよく、限定されないが、多数のキーキャップ起動にわたってキーボード上のFunction−/Crtl−/Shift−Lockを保つこと、または多数のキーキャップの同時または連続した入力が結合されて単一のキーキャップ起動にリンクされる連続キーボードマクロコマンドを生成することを含む。
<接触後の空中「コーナー」または「直線スワイプ」ジェスチャ>
一実施形態において、3つのハイブリッドタッチセンサ式デバイス入力ジェスチャは、キーを指に接触させ(しかし起動しない、すなわち単にキーキャップに載せている)、次にキーキャップを持ち上げ、その後、後々その物理キーの起動に関係するキーキャップ機能の連続したリストを繰り返すために直線スワイプを行うことによって、タッチセンサ式デバイスの任意のキーキャップの起動機能を変更するために使用されてもよい。
<接触前の空中「円」ジェスチャ>
一実施形態において、これらの3つのタッチセンサ式デバイス入力ジェスチャは、キーに接触する前に空中で時計回りまたは反時計回りに円を描くことによって、2つの状態間でキーキャップ機能を素早く変更するために使用されてもよい。一実施形態において、起動前に「j」キーキャップの上で空中で右回りに円を描くことで、「j」文字入力を小文字に設定し、他方で起動前に「j」キーキャップ上で空中で左回りに円を描くことで、「j」文字入力を大文字に設定する。一実施形態において、2つの状態の機能キーキャップは、キーキャップの左側に音量ミュートコマンドアイコンを、およびキーキャップの右側にF4機能アイコンを示してもよい。音量ミュートコマンドに向けた反時計回りの空中ジェスチャは、キーキャップ起動にそのコマンドを記録し、F4機能アイコンに向けた時計回りの空中ジェスチャは、キーキャップ起動にそのコマンドを記録する。
<接触間での空中「円」ジェスチャ>
一実施形態において、これらのハイブリッドタッチセンサ式デバイス入力ジェスチャは、2つ以上の別個のキーキャップ入力起動を、単一のキーキャップ起動にリンクするために使用されてもよく、限定されないが、多数のキーキャップ起動にわたってキーボード上のFunction−/Crtl−/Shift−Lockを保つこと、または多数のキーキャップの同時または連続した入力が結合されて単一のキーキャップ起動にリンクされる連続キーボードマクロコマンドを生成することを含む。
<接触後の空中「円」ジェスチャ>
一実施形態において、これらのハイブリッドタッチセンサ式デバイス入力ジェスチャは、音量機能専用のキーキャップに接触することによって(しかし起動しない、すなわち単にキーキャップに載せている)、次にキーキャップを持ち上げ、その後に円形運動を行って、右回りまたは左回りの回転が音量レベルの増減に直線的にマッピングされることにより、タッチセンサ式デバイスによって制御されるコンピュータシステムの音量または明るさを変更するために使用されてもよい。
<接触間の空中「ピグテール」ジェスチャ>
一実施形態において、これらのハイブリッドタッチセンサ式デバイス入力ジェスチャは、2つ以上の別個のキーキャップ入力起動を、単一のキーキャップ起動にリンクするために使用されてもよく、限定されないが、多数のキーキャップ起動にわたってキーボード上のFunction−/Crtl−/Shift−Lockを保つこと、または多数のキーキャップの同時または連続した入力が結合されて単一のキーキャップ起動にリンクされる連続キーボードマクロコマンドを生成することを含む。
<接触後の空中「ピグテール」ジェスチャ>
一実施形態において、これらのハイブリッドタッチセンサ式デバイス入力ジェスチャは、音量機能専用のキーキャップに接触することによって(しかし起動しない、すなわち単にキーキャップに載せている)、次にキーキャップを持ち上げ、その後に円形運動を行って、右回りまたは左回りの回転が音量レベルの増減に直線的にマッピングされることにより、タッチセンサ式デバイスによって制御されるコンピュータシステムの音量または明るさを変更するために使用されてもよい。
<接触間の空中「ジグザグ」ジェスチャ>
一実施形態において、これらのハイブリッドタッチセンサ式デバイス入力ジェスチャは、2つ以上の別個のキーキャップ入力起動を、単一のキーキャップ起動にリンクするために使用されてもよく、限定されないが、多数のキーキャップ起動にわたってキーボード上のFunction−/Crtl−/Shift−Lockを保つこと、または多数のキーキャップの同時または連続した入力が結合されて単一のキーキャップ起動にリンクされる連続キーボードマクロコマンドを生成することを含む。
<接触後の空中「ジグザグ」ジェスチャ>
一実施形態において、これらのハイブリッドタッチセンサ式デバイス入力ジェスチャは、空中のジグザグジェスチャを検出する前にちょうど行なわれたキーキャップ起動の連続したセットを削除または取消すために使用されてもよい。
<接触前の空中「スパイク」ジェスチャ>
一実施形態において、これらのハイブリッドタッチセンサ式デバイス入力ジェスチャは、キーキャップ起動の力に関するプロキシとして、またはキーキャップ起動前に指の軌道の空中でのZの高さが、特定の閾値の高さまたは傾斜を超えるかどうかを測定することによって、任意のキーキャップに関する2つの可能な入力コマンド間を素早くトグルで切り替えるための手段として、使用されてもよい。
<接触間の空中「スパイク」ジェスチャ>
一実施形態において、これらのハイブリッドタッチセンサ式デバイス入力ジェスチャは、特定の傾斜または高さの閾値の空中ジェスチャによってリンクされた2つ以上の別個のキーキャップ入力起動を、単一のキーキャップ起動にリンクするために使用されてもよく、限定されないが、多数のキーキャップ起動にわたってキーボード上のFunction−/Crtl−/Shift−Lockを保つこと、または多数のキーキャップの同時または連続した入力が結合されて単一のキーキャップ起動にリンクされる連続キーボードマクロコマンドを生成することを含む。
<接触後の空中「スパイク」ジェスチャ>
一実施形態において、これらのハイブリッドタッチセンサ式デバイス入力ジェスチャは、物理キーキャップ起動に現在割り当てられているキーキャップコマンドとまず接触し、次にキーボード面から「それを捨てる、または引き離す」ために空中スパイクジェスチャを行なうことによって、任意の物理キーキャップにマッピングされた1セットの入力コマンドのうち可能性のある潜在的な入力コマンドを取り出すために使用されてもよい。
<空中ジェスチャコマンド、範囲内および近距離マイクロキージェスチャ(On and Close Range Micro Key Gestures)(キーに対する方向、位置、距離)>
タッチセンサ式デバイスの一実施形態において、ソフトウェアの補足的情報は、そのキーボードASCIIコードへのアタッチメントとしてのキーボードの各キーに提供され得る。これは、キーの意味を修正する近距離動作に使用することができる。例えば、チェックボックス、コンボリスト、ラジオボタン、およびスライダなどの既存のGUIウィジェットは、キーによって表され識別されたUI要素を制御するためにそのホバー検出性能を使用してキー上に直接マッピングされてもよい。例えば、1セットのキーは、任意のキーに対するホバー距離に基づいた1セットの範囲値を特定するために1セットのスライダをマッピングすることができる。オンキー(On key)ジェスチャはまた、キーボードをGUIインタラクションとユーザーがキーを押している時のタイピングのための同じタイプとして使用できるようにするUI要素の選択を確認するために使用可能である。
一実施形態において、オンキージェスチャの辞書(レキシコン)は、任意のアプリケーションによってショートカットまたは押されたキーに連結した検出情報を使用する修飾子として使用され得る、キー上の方向性のフリックジェスチャなどの、キージェスチャの基礎を提供するように拡張され得る。これらのマイクロ指示ジェスチャは、任意のキーの端部近くでの指の動きに基づいて、アプリケーションに追加の入力事象を提供する。例えば、テキストエディタアプリケーションでは、これは、タイプされるテキストのフォントサイズを変更するのに使用可能であり、フォントサイズを大きくする、小さくする、またはこれらのマイクロオンキージェスチャの使用に応じて単語をボールド体にする。
一実施形態において、タッチセンサ式デバイスは、キー押情報を補完するために使用され、ここで指はキー、つまりキーの真中、またはキーの任意の端部(左、右、上、下)付近、または方位を打っている。そのようなキー内の位置情報は、押されているキーに関する任意の動作に対するショートカットまたは修飾子を起動するために使用可能である。例えば、キーの上部分を押すことによって、文字は大文字化され、キャップまたはシフトキーの必要に取って代わる。
<測定システムとしてのキーボードの使用>
タッチセンサ式デバイスの一実施形態において、キーボードの上のヒートマップ情報と動きは、次元を導入するためにキーボードの上部にオブジェクトを置くことによる、または任意のキーに近づくのにかかる時間に基づいて時間を規定するのを可能にするキーとのインタラクションによる測定システムとして、またはキーに近づくときの動きを見ることによる力として、使用される。これらのモードは、他の領域またはキーボードのキーを使用して起動され得る。測定値と形状は、センサによって提供されるヒートマップの足跡を使用して規定され得る。指が実際にキーを打つまで、指がいつ任意のキーの範囲にあるかを検出して、時間を特定することができる。指がキーの範囲にある時から指がキーを打つ時までの動作を見て、力を推定することができる。
<音楽動作>
「動作」は、音楽の表記法、研究および実施において特定の意味を有する「ジェスチャ」と区別するために選ばれる。「ジェスチャ」が使用される場合、これはキーボードまたはその入力データの処理によるジェスチャの定義と認識を指す。以下の実施形態は、音楽の動作を支持するために調整されたタッチセンサ式デバイスの使用を実証する。各楽器とのインタラクションは、ホバーとタッチデータの分析、および楽器の操作に関して予期されるジェスチャとの一致によってシミュレートすることができる。この方法では、楽器とのインタラクションがシミュレートされ、関係するソフトウェアが、シンセサイザーとシーケンサーで現在使用されている従来のピアノ様式のキーボードを越える方法で、実際の楽器の調子、音声、振幅および音を演奏する。パーカッション動作には、たたく、はらいのける、タップする、および他の動作が含まれる。これらの動作は、キーボードが仮想ドラムセットになる仮想の打楽器を動かすためのジェスチャとして識別され、および様々な打楽器の音と特徴を演奏することができる。キーボードからの入力は、ドラムスティック、ブラシおよび他のパーカッションデバイスの形状で、タッチデータのオーバーレイを用いてディスプレイを駆動する。ギターまたはバイオリンなどの弦楽器とのインタラクションは、ソフトウェアによって特定のジェスチャに識別され、および仮想弦楽器の状態と出力を変更することができる、様々な動作を有している。楽器および楽器に対する動作は、手、(打楽器の)つめ、および弓の形態で視覚化可能である。
シーケンサー、シンセサイザー、ドラムマシン、歪みデバイス等の音楽デバイスは、ホバーキーボードからの入力によって制御することができる。新たなジェスチャおよび音楽信号処理は、入力ストリームからジェスチャを分類し、かつ音楽出力に適用することにより可能である。例えば、歪みは、観察された手の形状とその動きによって制御され得る。他の例は、いくつかのジェスチャがエコライザまたはチャネル調節を制御するであろうというものである。
一実施形態において、楽器は、指揮者の動作をシミュレートした手によって制御される完全なオーケストラであり、ここで指と手は、指揮者の身体、腕、手、バトンの代用物である。方向、速度、およびリズムの変化形体を使用して、多くの仮想楽器を指揮することができる。手を閉じたり開いたりする、または掌を上または下にする特定の動作は、オーケストラが静かになる、ゆっくりになる、攻撃的になる、または速くなる部分を示すために使用可能である。指によるリズミカルな動作は、速さを早める、またはゆっくりにするためのテンポを示すことができる。
<バイオメトリックス>
これまでの試みは、従来の機械的キーキャップとのインタラクションに関連する特定の特徴をみることによって、異なるキーボードのユーザーを区別するためになされてきた。そのような特徴は、個々のキー押の長さ、続くキー押間の時間、一連のキー押の時間、およびタイプされたキーへの圧力を含む。これらの技術は、「他者のタイプの仕方」から「あなたのタイプの仕方」を区別しようと試みる。
一実施形態において、タッチセンサ式デバイスは、キーの方へ移動している時に指が通過する経路、手と指のサイズと形状、タイピング操作中の手の姿勢、(押していない時に)キーにどのように指と手を置いているか、手と指の導通性、および接触している時のキー上での位置の検出を可能にし得る。一実施形態において、これらの追加の特徴は、異なるユーザーを区別し、またはモード(例えばタイピング 対 トラックパッド)を変更するのに使用される。一実施形態において、これらの追加の特徴は、分類法またはアルゴリズムを満たす。一実施形態において、タイピストは以下の少なくとも1つを使用して区別される:キーの方へ移動している時に指が通過する経路、手と指のサイズと形状、タイピング操作中の手の姿勢、(押していない時に)キーにどのように指と手を置いているか、手と指の導通性、および接触している時のキー上での位置。
一実施形態において、タッチセンサ式デバイスセンサは、キーボードの近距離にある指と手の形状とサイズを区別することができ、どのユーザーがキーボードとインタラクトしているのかを区別するのに使用することができる。一実施形態において、検出された手または指のサイズおよび/または形状は、任意のコンテンツまたはデバイスへのアクセスをロックする(および/またはロック解除する)ためのメカニズムとして使用することができる。一実施形態において、検出された手または指のサイズおよび/または形状は、既存のオペレーティングシステムに提供される、ファイルまたはユーザーごとに規定された従来の明確なアクセスポリシーを補う。
<ハンドモデリング>
キーボードに対するユーザーの手の正確な位置と姿勢を理解することは、VR、ARおよびバイオメトリックスにおける価値のある応用を有している。そのため、一実施形態において、タッチセンサ式デバイスによって測定されたヒートマップと、追加のセンサによって測定された手の姿勢との間に一致を確立する。そのような追加のセンサは、限定されないが、モーションキャプチャシステム、飛行時間型3Dセンサ(例えばKinect、およびLeap−Motion Controller)、およびカメラを含む。タッチセンサ式デバイスの上で検出されたヒートマップデータは、まず距離画像として解釈することができ、そのような変換されたマップからの特定の特徴は、キーボードの範囲にある時のユーザーの手の手骨格モデルを計算するために使用することができる。手骨格は、指に対応するすべての関節と同様に手の位置も含む。そのような手骨格の適用は、上記のジェスチャを可能にする確実なジェスチャ認識を可能にするであろう。そのような手骨格情報を衝突検出と物理演算エンジン(game physic engine)と組み合わせて、ユーザーの存在と仮想コンテンツの物理的リアリズムを増強する、仮想環境のための手の仮想表現を提示することも可能である。
<仮想現実ミラーリング>
一実施形態において、タッチセンサ式デバイスは、ユーザーがVR環境でキーボードとインタラクトしている時に、ユーザーの手を追跡するために使用される。キーボードと手の両方を、参照システムとして使用することができる。そうすることで、タッチセンサ式デバイスの手検出性能によるキーボードの仮想表現の提示が可能になる。一実施形態において、手がキーボードによって検出されると、キーボードの仮想表現をユーザーに提示することができ、VR環境を去ることなくユーザーはキーボードとインタラクトすることができる。一実施形態において、手が物理キーボードの範囲にない場合(例えばタイピングが終わっている場合)、キーボードの仮想表現は、ユーザーをVR環境に没頭させたまま消えることができる。一実施形態において、仮想キーボード表現は、キーボードの物理的表現と一致できる。一実施形態において、仮想キーボード表現は、キーのレイアウトを示すフローティング式オーバーレイである。一実施形態において、仮想手ミラーリングは、キーボードの上に現実的に表される。一実施形態において、仮想手ミラーリングは、仮想キーボードのレイアウトの上に象徴的に表される。
本明細書の開示によれば、VRにあるタッチセンサ式デバイスの単数または複数のユーザーの物理的な指、手、および前腕の正確な位置の低レイテンシのミラーリングは、単数または複数のユーザーが、デジタル環境でタイプしている際に自身の物理的な指、手、および前腕の姿勢を見ることを可能にする。加えて、単数または複数の任意のユーザーの指、手および前腕の正確なサイズと解剖学的構造のミラーリングが、没入を強化するのを可能にする。
<AR手ミラーリング>
一実施形態において、タッチセンサ式デバイスは、タッチセンサ式デバイス上またはその上にあるユーザーの指または手の姿勢/モデルの2Dまたは3Dの手モデルを検出および表示するための、ARとVRアプリケーションのためのアプリケーションプログラムインターフェイスを提供する。一実施形態において、この2Dまたは3Dの指または手の姿勢/モデルは、タッチセンサ式デバイス面上の、またはその上にある検出された指と手の解剖学的に正確な再構成である。一実施形態において、この2Dまたは3Dの指または手の姿勢/モデルは、タッチセンサ式デバイス面上の、またはその上にある検出された指と手の解剖学的に正確な再構成として単数または複数のユーザーに表示される。一実施形態において、この2Dまたは3Dの指または手の姿勢/モデルは、タッチセンサ式デバイス面上の、またはその上にある検出された指と手の架空の、または改良された再現として単数または複数のユーザーに表示され、限定されないが、ユーザーの2Dまたは3Dの指と手の姿勢モデルの解剖学的構造と検出された動きを、限定されないがビデオゲームの架空のキャラクターの3Dロボット爪などの人工3Dモデルにマッピングすることなどである。一実施形態において、ARまたはVRにおいて、この2Dまたは3Dの手の姿勢/モデルが、タッチセンサ式デバイスの物理面に垂直な固定されたz高さにある任意の平行面の上を動いていると検出されると、タッチセンサ式デバイスはユーザーには見えなくなる。一実施形態において、ARまたはVRにおいて、この2Dまたは3Dの手の姿勢/モデルが、タッチセンサ式デバイスの物理面に垂直な固定されたz高さにある任意の平行面の下を動いていると検出されると、タッチセンサ式デバイスはユーザーには見えるようになる。一実施形態において、ARまたはVRにおいて、この2Dまたは3Dの手の姿勢/モデルの垂直なz高さは、タッチセンサ式デバイスの物理面の与えられた透明度にリンクされ、その結果、タッチセンサ式デバイスは、単数または複数のユーザーの手がその面に近づいたり遠ざかったりすると、視界にフェードインおよび視界からフェードアウトし、逆もまた同じである。一実施形態において、協同的なインタラクション中に、1つのタッチセンサ式デバイスのユーザーの検出された2Dまたは3Dの指および/または手の姿勢モデルは、別のユーザーのタッチセンサ式デバイスの3Dまたは物理モデルにマッピングされる、2D、AR、またはVRディスプレイ上に与えられる。そのような実施形態は、両方のユーザーに、彼らの間での指/手の姿勢の通信の意図に関する優れたコンテキストを提供し、一実施形態においては、タッチセンサ式デバイス上のコマンドのいくつかを使用する方法を1人のユーザーが別のユーザーに教えるためのツールとして特に有用であり得る。
<仮想現実の物理オブジェクトマッピングUI>
一実施形態において、VR環境では、タッチセンサ式デバイスは、アプリケーション開発者および/またはコンピュータシステムが、任意の物理的なまたは仮想のキーキャップ、制御、スライダまたはボタンに正確にマッピングされた2Dおよび3DのVRホログラムを生成することができるようにする、1セットのアプリケーションプログラムインターフェイスを有する。これらは、物理的なキーキャップ起動に際して生じ得る入力コマンドの、現在マッピングされているセットを示し、一方で、キーボードのショートカットを学習するための視覚的なアフォーダンスを提供する。一実施形態において、それは、タッチセンサ式デバイスに接続されたコンピュータシステム上の稼働中のアプリケーションに関連する利用可能なキーキャップコマンドを特定することができる。一実施形態において、任意のVR技術(限定されないがヘッドマウントディスプレイ、ペイント目視可能な2Dおよび3DのVRホログラフィ)を使用してブランク物理キーキャップ(blank physical keycap)が仮想環境から観察される一方で、インタラクティブアイコンがユーザーに表示されてもよく、それは特定の物理キーボード位置にマッピングされ、その上をフローティングする。一実施形態において、多段階の物理ボタン/デジタルボタンが提示され、ここで任意の物理ボタンが多層のデジタルボタンへと拡張され、後者は、キーボードの物理面の上の漸進的により高くなるz高さで蝶のように開く、1セットの連続的なホログラフィUI層として存在する。一実施形態において、2Dおよび3Dの視覚フィードバックは、面につながれ、および/またはキーキャップの近接、休止、および起動状態に応答する任意の物理キーキャップ面の上の特定のz高さに設定され、これは、例えば視覚フィードバックを爆発等のように活気づけるために使用することができ、VR環境により多くの映像をもたらす。
<ARホログラフィUI>
一実施形態において、ユーザーインターフェースにマッピングされたVR物理オブジェクトはまた、仮想コンテンツと物理的なタッチセンサ式デバイスの両方が、フォトリアリスティックな、またはフォトリアリスティックではない方法でシームレスに重複する拡張現実環境において、適用可能である。一実施形態において、AR環境では、タッチセンサ式デバイスは、アプリケーション開発者および/またはコンピュータに制御された2Dおよび3DのARホログラムが、任意の物理的なキーキャップ、制御、またはボタンに正確にオーバーレイされるのを可能にする、1セットのアプリケーションプログラムインターフェイスを有する。
これらは、物理キーキャップの起動に際して生じ得る現在のマッピングされた入力コマンドのセットを示し、同時に、拡張現実ディスプレイまたは投影システムのおかげで、物理キーボードの上のそのようなデジタル情報にオーバーレイするキーボードショートカットを学習するための視覚的アフォーダンスを提供する。一実施形態において、それは、タッチセンサ式デバイスに接続されたコンピュータシステム上の稼働中のアプリケーションに関連する利用可能なキーキャップコマンドを特定することができる。ARから観察された時、ブランク物理キーキャップは、ペイントされた2Dおよび3Dのホログラフィのインタラクティブアイコンによって視覚的に置き換えられ、ユーザーの物理キーボードの認識を変化させる。一実施形態において、多段階の物理ボタン/デジタルボタンが提示され、ここで任意の物理ボタンが多層のデジタルボタンへと拡張され、後者は、キーボードの物理面の上の漸進的により高くなるz高さで蝶のように開く、1セットの連続的なホログラフィUI層として存在する。一実施形態において、2Dおよび3Dの視覚フィードバックは、面につながれ、および/またはキーキャップの近接、休止、および起動状態に応答する任意の物理キーキャップ面の上の特定のz高さに設定され、これは、例えば視覚フィードバックを爆発等のように活気づけるために使用することができ、AR環境により多くの映像をもたらし、且つ物理環境の認識を変化させる現実感のある視覚効果を生成する。
<キーキャップ−および指特異的触覚>
一実施形態において、タッチセンサ式デバイスは、ユーザーの物理的な指および/または手の姿勢の3Dの指および/または手のモデルを検出することができるように、提供される。一実施形態において、そのようなタッチセンサ式デバイスは、ユーザー入力に応じて、キーキャップ−および指特異的触覚を、ユーザーの指および/または手に向けるために使用され得る。
<仮想制御>
一実施形態において、タッチセンサ式デバイスが提供され、ここでその入力制御のいくつか、またはすべては、限定されないが振動触覚、静電気、物理的アフォーダンス、または電気ショック技術を含む手段を通じて、局所的な触覚フィードバックによりシミュレートされる。
<動的で再形成可能な物理制御>
一実施形態において、タッチセンサ式デバイスが提供され、ここでその物理的な入力制御のいくつかまたはすべては、限定されないが電気的活性のあるポリマーおよびマイクロ電気機械的ロボット工学を含む、制御された物理的変形技術を通じて形成され、または再形成される。
本システムは、周波数分割変調タッチシステムにおける、ホバー、接触、および圧力に感度のあるキーボードのためのデバイスに関して上記に記載される。アナログまたはデジタルのハードウェアとコンピュータプログラム命令によって、それぞれの操作に関する例示が実行され得ることが理解される。コンピュータプログラム命令は、コンピュータあるいは他のプログラム可能なデータ処理装置のプロセッサによって実行されるコンピュータプログラム命令が、指定された機能/動作を実行するように、汎用コンピュータ、専用コンピュータ、ASIC、あるいは他のプログラム可能なデータ処理装置のプロセッサに提供されてもよい。上記の議論によって明示的に制限されることを除けば、いくつかの交互の実施において、機能/行為は操作に関する例示に明記された順序以外で生じることもある。
本明細書において使用され、特許請求の範囲内に含まれる、番号を付けられた対象を特定するのに使用される場合の第1、第2などの順序を表す単語は、それらの対象を識別するために使用されているだけであり、対象の順序を作り出し、またはそうでなければ特定のために使用された対象を制限することは意図されない。同様に、該当する場合は、上記および/または以下の特許請求の範囲に記載される要素および/または工程は、本発明から逸脱することなく異なる順序で実行され得る。上記の実施形態および選択物は本発明の例示である。可能性のあるあらゆる組み合わせまたは実施形態を概説または定義することは、この特許に関しては必要ではなく、かつ意図されてもいない。本開示は、当業者が本発明の少なくとも1つの実施形態を実行することができるように十分な情報を開示することを意図する。
上記の記述および図面は、本発明の単なる例示であり、およびコンポーネント、構造および手順における変更は、以下の特許請求の範囲に定義される本発明の範囲から逸脱することなく可能であり、実際に意図されている。したがって、本発明はその実施形態に関連して具体的に示され記載されているが、形態および詳細の様々な変更が、本発明の精神および範囲から逸脱することなくここでなされてもよいことが、当業者によって理解される。

Claims (22)

  1. タッチセンサ式キーボードであって:
    a.各々が指の近接に応じてタッチ信号を出力するのに適した複数のキー;
    b.キーから分離しており、タッチに感度のあるタッチパッド領域;および
    c.複数のキーに動作可能に連結されたプロセッサであって、それによってタッチ信号出力を受信することができ、および、少なくとも1つの近接信号が受信された時にタッチに対するタッチパッドの感度を無効にするように構成された、プロセッサ、
    を含む、タッチセンサ式キーボード。
  2. プロセッサは、近接信号のあらかじめ構成されたグループが受信されると、タッチパッドのタッチへの感度を無効にするように構成される、請求項1に記載のタッチセンサ式キーボード。
  3. プロセッサは、1セットのあらかじめ構成されたキーからの近接信号に応じて、タッチパッドのタッチへの感度を無効にしないように構成される、請求項1に記載のタッチセンサ式キーボード。
  4. 複数のキーは、あらかじめ選択されたキーのグループを含まない、請求項1に記載のタッチセンサ式キーボード。
  5. あらかじめ選択されたキーのグループは、control、shift、およびaltから成る群から選択される少なくとも1つを含む、請求項4に記載のタッチセンサ式キーボード。
  6. 制御としてタッチセンサ式キーボードを使用する方法であって、タッチセンサ式キーボード上の複数のキーの各キーは、制御として動作するキーと指の間の距離に対応する信号強度を出力するのに適しており、該方法は、
    a.タッチセンサ式キーボードに対する少なくとも1つの指の少なくとも一部のあらかじめ規定された位置付けに基づいて、タッチセンサ式キーボードを制御状態に置く工程;
    b.制御状態にある間に、キーボード上の近傍のキーのグループの間で信号強度を補間することにより、繰り返し制御方向を判定する工程;および
    c.制御に使用するためのホストに制御方向を出力する工程、
    を含む、方法。
  7. a.キーボード上の近傍のキーのグループの間の信号強度の補間によって制御規模を判定する工程;および
    b.制御に使用されるホストに制御規模を出力する工程、
    をさらに含む、請求項6に記載の方法。
  8. あらかじめ規定された位置付けは、ctrlキーとaltキーに載っている片方の手の2つの指;およびスペースバーに載っている両方の親指、の群から選択される1つである、請求項6に記載の方法。
  9. あらかじめ規定された位置付けは、人間工学的に容易であるが、通常のキーボードの使用中には起こらないであろうように、あらかじめ選択される、請求項6に記載の方法。
  10. 近傍のキーのグループはセンタキーおよび各隣接キーを含む、請求項6に記載の方法。
  11. 近傍のキーのグループはセンタキーに隣接している各キーを含む、請求項6に記載の方法。
  12. 近傍のキーのグループは、センタキーの一定距離内にある各キーを含む、請求項6に記載の方法。
  13. 近傍のキーのグループは、タッチセンサ式キーボードの1つの行の隣接するキーのグループを含む、請求項6に記載の方法。
  14. 近傍のキーのグループは、タッチセンサ式キーボードの少なくとも2つの隣接する行の隣接するキーのグループを含む、請求項6に記載の方法。
  15. 制御方向と制御規模は、ジョイスティックをエミュレートするために使用される、請求項7に記載の方法。
  16. 制御方向と制御規模は、コンピュータマウスをエミュレートするために使用される、請求項7に記載の方法。
  17. a.制御として動作する指のベースライン位置を確立する工程;および
    b.制御方向を判定する工程は、ベースライン位置からデルタを確立する、
    工程をさらに含む、請求項6に記載の方法。
  18. 制御方向は、上、下、左、および右から成る群から選択される、請求項6に記載の方法。
  19. タッチセンサ式キーボードは、一定期間、制御状態に留まる、請求項6に記載の方法。
  20. タッチセンサ式キーボードは、タッチセンサ式キーボードに対する少なくとも1つの指の少なくとも一部のあらかじめ規定された第二の位置付けが起こるまで、制御状態に留まる、請求項6に記載の方法。
  21. 第2のあらかじめ規定された位置付けは、ホーム行の位置である、請求項20に記載の方法。
  22. タッチセンサ式キーボードであって:
    a.複数のタッチセンサ式キー;
    b.複数のタッチセンサ式キーの各々と、その近位にある少なくとも1つの指の間の距離に対応する信号強度を測定するのに適した信号プロセッサ;
    c.プロセッサであって、
    i.押されている複数のタッチセンサ式キーの1つに応えてキーストロークを出力し、および
    ii.キーボード上の複数のタッチセンサ式キーの各々に関する信号強度を補間することによって判定された1つ以上のタッチ点を出力するように構成された、
    プロセッサ、
    を含む、タッチセンサ式キーボード。
JP2019511924A 2016-09-16 2017-09-15 タッチセンサ式キーボード Pending JP2019537084A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201662395835P 2016-09-16 2016-09-16
US62/395,835 2016-09-16
PCT/US2017/051918 WO2018053357A1 (en) 2016-09-16 2017-09-15 Touch sensitive keyboard

Publications (2)

Publication Number Publication Date
JP2019537084A true JP2019537084A (ja) 2019-12-19
JP2019537084A5 JP2019537084A5 (ja) 2020-10-22

Family

ID=61619763

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019511924A Pending JP2019537084A (ja) 2016-09-16 2017-09-15 タッチセンサ式キーボード

Country Status (5)

Country Link
US (1) US11029843B2 (ja)
JP (1) JP2019537084A (ja)
CN (1) CN109952551A (ja)
DE (1) DE112017004677T5 (ja)
WO (1) WO2018053357A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9858754B2 (en) 2012-06-14 2018-01-02 Bally Gaming, Inc. System and method for augmented reality gaming
DE102016212240A1 (de) * 2016-07-05 2018-01-11 Siemens Aktiengesellschaft Verfahren zur Interaktion eines Bedieners mit einem Modell eines technischen Systems
US10394342B2 (en) * 2017-09-27 2019-08-27 Facebook Technologies, Llc Apparatuses, systems, and methods for representing user interactions with real-world input devices in a virtual space
CN107833251B (zh) * 2017-11-13 2020-12-04 京东方科技集团股份有限公司 瞳孔定位装置和方法、虚拟现实设备的显示驱动器
US20190213519A1 (en) * 2018-01-05 2019-07-11 Saent Holding Ltd. Productivity Improvement Device
US10318811B1 (en) * 2018-04-22 2019-06-11 Bubbler International Llc Methods and systems for detecting objects by non-visible radio frequencies and displaying associated augmented reality effects
US11177093B1 (en) * 2018-09-27 2021-11-16 Apple Inc. Touch-sensitive mechanical keyboard with sensing circuits for touch events and key depression events
WO2020081943A1 (en) 2018-10-19 2020-04-23 Hit Box, L.L.C. Ergonomic game controller and system
US10769874B2 (en) * 2018-12-11 2020-09-08 Ford Global Technologies, Llc Variable height exterior keypad
WO2020147840A1 (zh) * 2019-01-17 2020-07-23 北京钛方科技有限责任公司 触控板按压力检测方法、装置、存储介质和计算机设备
US10852844B1 (en) * 2019-05-09 2020-12-01 Dell Products, L.P. Configuring the layout of a keyboard using gestures
US10719137B1 (en) * 2019-05-09 2020-07-21 Dell Products, L.P. User identification via hand detection using a hovering keyboard
CN211555751U (zh) * 2019-05-20 2020-09-22 光宝电子(广州)有限公司 剪刀件与按键结构
JP2021005127A (ja) * 2019-06-25 2021-01-14 株式会社東海理化電機製作所 認証装置およびプログラム
US10852842B1 (en) * 2019-07-29 2020-12-01 Cirque Corporation, Inc. Keyboard capacitive backup
KR20210069491A (ko) * 2019-12-03 2021-06-11 삼성전자주식회사 전자 장치 및 이의 제어 방법
DE102020113863A1 (de) * 2020-05-23 2021-11-25 Andreas Fischer Elektronisches Labor- und Prüfgerät und Verfahren zum Betreiben eines solchen
US11471765B2 (en) * 2020-11-30 2022-10-18 Sony Interactive Entertainment Inc. Handwriting recognition using cardinal directions between sample points
US11614824B2 (en) * 2021-07-29 2023-03-28 Talent Unlimited Online Services Pvt. Ltd. System and method to measure latency in displaying a key tap event
US11983327B2 (en) * 2021-10-06 2024-05-14 Fotonation Limited Method for identifying a gesture
US20230121241A1 (en) * 2021-10-20 2023-04-20 Dell Products L.P. System and method of utilizing a keyboard with a display
TWI824632B (zh) * 2022-07-26 2023-12-01 達方電子股份有限公司 具有鍵擊手感的可靜音輸入裝置
DE102022127225A1 (de) 2022-10-17 2024-04-18 Inventus Engineering Gmbh Vorrichtung und Verfahren zum Steuern von Tasteneinheiten

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11345076A (ja) * 1998-04-30 1999-12-14 Hewlett Packard Co <Hp> スクリ―ンポインタ位置制御装置
JP2003208261A (ja) * 2002-01-16 2003-07-25 Toshiba Corp 電子機器およびポインティング手段制御方法
JP2004295727A (ja) * 2003-03-28 2004-10-21 Toshiba Corp 情報処理装置、および入力制御方法
JP2008004000A (ja) * 2006-06-26 2008-01-10 Toshiba Corp 入力装置
JP2008134836A (ja) * 2006-11-28 2008-06-12 Wacom Co Ltd タッチパネル装置
JP2014515147A (ja) * 2011-06-21 2014-06-26 エンパイア テクノロジー ディベロップメント エルエルシー 拡張現実のためのジェスチャベースユーザインターフェース
US20150309589A1 (en) * 2014-04-23 2015-10-29 Wistron Corporation Electronic device and associated control method and computer program product
JP2015219663A (ja) * 2014-05-15 2015-12-07 アルプス電気株式会社 キーボード装置
JP2015219664A (ja) * 2014-05-15 2015-12-07 アルプス電気株式会社 キーボード装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20010040550A1 (en) * 1998-03-12 2001-11-15 Scott Vance Multiple pressure sensors per finger of glove for virtual full typing
US20020180704A1 (en) * 2001-05-30 2002-12-05 Rudd Michael L. Automatic disabling of computer keyboard insertion point control during typing
US20060132447A1 (en) * 2004-12-16 2006-06-22 Conrad Richard H Method and apparatus for automatically transforming functions of computer keyboard keys and pointing devices by detection of hand location
JP2010533329A (ja) * 2007-07-12 2010-10-21 アトメル・コーポレイション 2次元タッチパネル
US9448721B2 (en) * 2008-03-19 2016-09-20 Blackberry Limited Electronic device including touch-sensitive input device and method of determining selection
US8471814B2 (en) * 2010-02-26 2013-06-25 Microsoft Corporation User interface control using a keyboard
EP2592566A1 (en) * 2011-11-10 2013-05-15 Research In Motion Limited Touchscreen keyboard predictive display and generation of a set of characters
CN203838674U (zh) * 2014-05-21 2014-09-17 合肥联宝信息技术有限公司 一种笔记本电脑的触摸装置硬件
US9612664B2 (en) * 2014-12-01 2017-04-04 Logitech Europe S.A. Keyboard with touch sensitive element
US9746937B2 (en) * 2015-10-02 2017-08-29 Blackberry Limited Method and apparatus for movable assembly position sensing and virtual keyboard display
US10365775B2 (en) * 2016-01-21 2019-07-30 Microchip Technology Incorporated Method and system for sensing impedance change in the local space between electrodes

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11345076A (ja) * 1998-04-30 1999-12-14 Hewlett Packard Co <Hp> スクリ―ンポインタ位置制御装置
JP2003208261A (ja) * 2002-01-16 2003-07-25 Toshiba Corp 電子機器およびポインティング手段制御方法
JP2004295727A (ja) * 2003-03-28 2004-10-21 Toshiba Corp 情報処理装置、および入力制御方法
JP2008004000A (ja) * 2006-06-26 2008-01-10 Toshiba Corp 入力装置
JP2008134836A (ja) * 2006-11-28 2008-06-12 Wacom Co Ltd タッチパネル装置
JP2014515147A (ja) * 2011-06-21 2014-06-26 エンパイア テクノロジー ディベロップメント エルエルシー 拡張現実のためのジェスチャベースユーザインターフェース
US20150309589A1 (en) * 2014-04-23 2015-10-29 Wistron Corporation Electronic device and associated control method and computer program product
JP2015219663A (ja) * 2014-05-15 2015-12-07 アルプス電気株式会社 キーボード装置
JP2015219664A (ja) * 2014-05-15 2015-12-07 アルプス電気株式会社 キーボード装置

Also Published As

Publication number Publication date
US20190294258A1 (en) 2019-09-26
WO2018053357A1 (en) 2018-03-22
CN109952551A (zh) 2019-06-28
DE112017004677T5 (de) 2019-06-06
US11029843B2 (en) 2021-06-08

Similar Documents

Publication Publication Date Title
US11029843B2 (en) Touch sensitive keyboard
US10620707B2 (en) Systems and methods for interfaces featuring surface-based haptic effects
US20160364138A1 (en) Front touchscreen and back touchpad operated user interface employing semi-persistent button groups
US9891820B2 (en) Method for controlling a virtual keyboard from a touchpad of a computerized device
US9678662B2 (en) Method for detecting user gestures from alternative touchpads of a handheld computerized device
US9891821B2 (en) Method for controlling a control region of a computerized device from a touchpad
US20170017393A1 (en) Method for controlling interactive objects from a touchpad of a computerized device
US9529523B2 (en) Method using a finger above a touchpad for controlling a computerized system
CN106716317B (zh) 解决触摸不连续性的方法和装置
EP2717120B1 (en) Apparatus, methods and computer program products providing finger-based and hand-based gesture commands for portable electronic device applications
KR101670109B1 (ko) 표면-기반 햅틱 효과를 특징으로 하는 인터페이스에 대한 시스템 및 방법
US9477874B2 (en) Method using a touchpad for controlling a computerized system with epidermal print information
US9542032B2 (en) Method using a predicted finger location above a touchpad for controlling a computerized system
JP2019527400A (ja) タッチセンシティブキーボード
US20150363038A1 (en) Method for orienting a hand on a touchpad of a computerized system
US10175772B2 (en) Touch sensitive keyboard
US11656718B2 (en) Method and apparatus for variable impedance touch sensor array force aware interaction in large surface devices
Rekimoto Organic interaction technologies: from stone to skin
US20200218418A1 (en) Method and apparatus for indirect force aware touch control with variable impedance touch sensor arrays
US9639195B2 (en) Method using finger force upon a touchpad for controlling a computerized system
WO2015178893A1 (en) Method using finger force upon a touchpad for controlling a computerized system
WO2015013662A1 (en) Method for controlling a virtual keyboard from a touchpad of a computerized device
WO2015042444A1 (en) Method for controlling a control region of a computerized device from a touchpad
WO2018035353A1 (en) Front touchscreen and back touchpad operated user interface employing semi-persistent button groups
CN109558007B (zh) 手势控制装置及其方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200910

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200911

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210726

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220302