JP4869135B2 - コンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法及びマウスをエミュレートするシステム - Google Patents

コンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法及びマウスをエミュレートするシステム Download PDF

Info

Publication number
JP4869135B2
JP4869135B2 JP2007103859A JP2007103859A JP4869135B2 JP 4869135 B2 JP4869135 B2 JP 4869135B2 JP 2007103859 A JP2007103859 A JP 2007103859A JP 2007103859 A JP2007103859 A JP 2007103859A JP 4869135 B2 JP4869135 B2 JP 4869135B2
Authority
JP
Japan
Prior art keywords
finger
location
mouse
sensitive screen
touch sensitive
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007103859A
Other languages
English (en)
Other versions
JP2007299384A (ja
Inventor
アラン・ダブリュ・エセンサー
カスリーン・リャル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Research Laboratories Inc
Original Assignee
Mitsubishi Electric Research Laboratories Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Research Laboratories Inc filed Critical Mitsubishi Electric Research Laboratories Inc
Publication of JP2007299384A publication Critical patent/JP2007299384A/ja
Application granted granted Critical
Publication of JP4869135B2 publication Critical patent/JP4869135B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Description

本発明は、包括的にはタッチセンシティブ画面に関し、より詳細にはマルチタッチセンシティブ画面に触れることによりマウスをエミュレートすることに関する。
パーソナルコンピュータでは、間接式及び直接式という、表示画面上でカーソルの動きを制御する2つの基本的な方法がある。最も一般的な方法では、マウス又はタッチパッド上の指がテーブルトップ、デスクトップ若しくはラップトップ等の水平な作用面上で動かされ、一方カーソルが垂直な画面上を動く。入力空間及び表示空間は独立している。タッチセンシティブダイレクトタッチ画面では、カーソルが画面に直接触れている指又はスタイラスの動きに追従し、通常接触点の真下で位置決めされる。表示空間及び入力空間は同じ空間であり一致するように較正される。
カーソルの制御では、カーソルを操作するために、位置決め及びエンゲージメント(engagement、関与)という2つのモードが通常認識される。位置決めモードは、コンテンツを明らかに変更し又はコンテンツとアクティブに相互作用することなく、表示されるコンテンツ上でカーソルを単純に動かす一方、エンゲージメントモードは、例えば選択されたウィンドウを動かし又は選択されたコンテンツの外観を変更する等、コンテンツとアクティブに相互作用する。従来のデスクトップの環境では、カーソルを位置決めすることは通常マウスを動かすことによって行われ、エンゲージメントは1つ又は複数のマウスボタンを押下すると共に場合によってはまたマウスを動かすことによって達成される。エンゲージメントモードの通常の動作は、ドラッグ、すなわちマウスボタンを押下した状態でカーソルを動かすこと、並びにクリック及びダブルクリック、すなわちマウスボタンを1回又は複数回素早く押下すると共に離すこと、を含む。
通常、位置決めは表示されるコンテンツに視覚的な変化をもたらす一方で、その変化はカーソルの動きに付随すること、すなわち変化は一時的なものであり、システム/アプリケーションによって提供され、ユーザに対するフィードバックを意図するものであることに留意されたい。たとえば、或るグラフィカルユーザインタフェース(GUI)要素はマウスオーバーによりトリガされる「ツールチップ(ToolTips)」を提供する。すなわち、カーソルがこのような要素上に配置されると、情報の吹き出しが表示される。別の例では、カーソルがGUI要素内に及び要素外に移動すると、要素は視覚的な外観を変化させ、例えば要素をハイライト及びアンハイライトしてそれがアクティブな要素であることを示す場合がある。マウスボタンが作動して初めてエンゲージメントが起きることになる。
ダイレクトタッチ入力の1つ又は複数の根本的な課題は、ユーザがいかなる「マウス」ボタンも関与させずにタッチセンシティブディスプレイにわたってカーソルを動かすことを望む(例えば、カーソルをアイコン上で単純に動かすことを望む)場合があるということである。しかしながら、ユーザがタッチセンシティブ面に触れると、そのタッチが単純にカーソルを動かすことを意図するものであるのか、又はコンテンツと相互作用することを意図するものであるのか、例えば移動の間左のマウスボタンを押下することにより間接的に制御するように、カーソルでコンテンツを「ドラッグ」することを意図するものであるのかをシステムが検出することは困難である。
このように、ダイレクトタッチシステムは、異なる様々な既知の「ミダスタッチ(Midas touch)」問題、すなわち全てのタッチが有意である、という問題に遭遇する。Hansen, J., Andersen, A.及びRoed, P.著「Eye gaze control of multimedia systems」(ACM Symposium on Eye Tracking Research & Applications, 1995)を参照のこと。
大半のタッチ面は大型のタッチセンシティブ画面用に設計されてはいないが、どのように他のタッチ面がこの問題に対処するかを考慮することが有益である。
大半のラップトップコンピュータで見られるタッチパッドはまた、通常左のマウスボタン及び右のマウスボタンを有する。ボタンを使用せずにモード間で切り替える機構もある。ユーザは、カーソルを動かすこと、及びパッド上で1度タッピングしその後素早くパッドを連続的に押下してカーソルをドラッグすることの間で切り替えることができる。この一連の行為は、間接的な制御で左のマウスボタンを押下するのと同様であるものとして認識される。
タッチセンシティブ画面における第2の問題は、指により、ユーザが接触したいと望む画面のまさに正確な部分が曖昧になり得るため、カーソルを比較的「面積が大きな」指先で正確に位置決めすることが困難であり得るということである。
この問題は、カーソルをタッチロケーションからずらす(offset)ことにより解決することができる。しかしながら、これにより直接入力面の大きな利点の1つ、すなわち制御される表示コンテンツに直接触れる能力を喪失する。
いくつかの抵抗膜式又は感圧式のタッチセンシティブ面は通常、カーソルの表示位置として、指が触れる2つの連続したロケーションの平均を使用する。ラップトップタッチパッドは1つの入力点を提供する。しかしながら、これらは間接的な入力装置であり、位置決めマウスモードとエンゲージメントマウスモードとの間で流動的に切り替えるという問題に対処しない。ラップトップタッチパッドの場合、モード間で流動的に切り替えるという問題に対処するために補助的なボタンを設けてもよいが、これは付加的な間接入力装置に頼る必要があるという問題を解決しない。
2005年1月31日にHotelling他により出願された「Gestures for touch sensitive input devices」と題する米国特許出願第11/048264号は、1人のユーザからのハンドヘルドデバイスへのタッチ入力を処理する方法及びシステムを記載している。そのシステムは、マルチポイントタッチスクリーン等のマルチポイント感知装置からデータを読み出す。データはマルチポイント感知装置に関するタッチ入力に関連し、マルチポイントジェスチャ(multipoint gesture)を識別する。特に、記載されたシステムは通常片手に保持され、他方の手で操作される。そのシステムは異なるユーザによる複数のタッチを識別及び区別することができない。すなわち、システムは、スクリーンに触れている人が装置を保持している人と同一であるのか又は誰か他の人であるのかを判断することができない。装置がハンドヘルドであるため、異なるジェスチャの数は大幅に制限される。
2003年12月30日にAokiに対して発行された「Coordinates input method」と題する米国特許第6,670,561号のダイレクトタッチセンシティブ面は、カーソルの位置として2つの連続したタッチロケーションの平均を使用する。しかしながら、この特定の技術を利用すると、1つ又は複数のロケーションが同時に触れられたかどうかを検出することができず、それにより装置の実用性が制限される。例えば、装置は、タッチが左クリック又は右クリックとして解釈されるべきかどうかを指定するために専用のオンスクリーン「右クリックモード」ボタンを必要とする。この解決法は全く位置決めモードをサポートせず、ボタンを押下せずにどのようにカーソルの動きをエミュレートするかという問題を回避する。
別の装置は特別に設計されたスタイラスを使用する。2005年8月30日にNguyenに対して発行された「User Interface for Stylus-Based User Input」と題する米国特許第6,938,221号、及び2004年9月14日にKeely他に対して発行された「Simulating Gestures of a Pointing Device using a Stylus and Providing Feedback Thereto」と題する米国特許第6,791,536号を参照のこと。その装置は「ホバーリング」、すなわちスタイラスが面近くにあるが実際には面に接触していない状態、を検出することができる。スタイラスがホバーリングしている場合には、カーソルは単純に移動し、すなわち位置決めし、ペンが面に接触している場合には、カーソルがドラッグされる、すなわち関与される。
右クリックはスタイラス上のボタンを保持することにより、さらに長い時間にわたりスタイラスを面に接触させることにより、又はメニューアイコンに表示される「右クリック」を選択して次のタッチが右クリックとして解釈されるべきであるということを示すことによりサポートされる。大半のタッチ面では、触れている又は触れていないという2つの異なる状態とは対照的に、ホバーリング状態がないため、マウスの位置決めモード及びエンゲージメントモードの双方をエミュレートすることが非常に困難になる。大半の場合には、このような装置は位置決め又はエンゲージメントというモードのうちの1つのモードのみをサポートし、2つのモードの間での円滑な遷移はサポートされていない。
マルチタッチセンシティブ画面に触れることによりマウスをエミュレートすることが望ましい。
本発明は、マルチタッチセンシティブ画面上の第1のロケーションでの第1の指による第1のタッチを感知するステップと、前記マルチタッチセンシティブ画面上の第2のロケーションでの第2の指による第2のタッチを同時に感知するステップと、前記マルチタッチセンシティブ画面上の前記第1のロケーション及び前記第2のロケーションに依存する位置でグラフィックオブジェクトを表示するステップと、を含み、さらに前記マルチタッチセンシティブ画面上の第3のロケーションでの第3の指による第3のタッピングを同時に感知するステップと、前記第3のタッチに従ってカーソル制御モード間の切り替えを行うステップと、を含み、前記第3のロケーションの感知は、前記第1のロケーション及び前記第2のロケーションにより画定される対角部を有する矩形のバウンディングボックスに制限されるコンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法を提供する。
本発明の実施の形態は、マルチタッチセンシティブ画面でマウスのような制御をエミュレートする。本明細書において定義するように、位置及び位置決めが表示されるカーソルにあてられ、ロケーション及び位置付けが面上のタッチにあてられる。すなわち、位置決めは仮想的であり、カーソル又は面上に表示される画像中の他のグラフィックオブジェクトを表示することに関する。位置付けは物理的であり、指又は手全体による接触を物理的に感知することに関する。ここに述べる方法はいずれのマルチタッチタッチセンシティブ装置にも適用可能であることに留意されたい。本発明の好適な実施の形態はタッチ面をテーブルとして使用するが、面の向きは任意、例えば壁、テーブル、角度付き面であってもよい。
図1は、本発明の実施の形態によるマルチモデルマルチタッチセンシティブグラフィカルユーザインタフェース100の一例を示す。例示のシステムは、マルチタッチセンシティブ画面200に電気的に接続されるテーブル110、椅子120、プロジェクタ130、及びプロセッサ140を備える。椅子の1つに座っているユーザが画面200上の1つ又は複数のロケーションに触れると、ユーザと面上の触れられたロケーションとの間に静電結合が発生する。ロケーションはプロセッサにより感知され、触れられたロケーションに従って操作が行われる。
例えば1本又は複数本の指で、1本又は2本の手で、拳(手)等で面に直接触れることにより手で操作される「マウス」をエミュレートすることが望ましい。コンピュータシステムがとる動作は、触れることにより発生するマウスイベントに応答する基礎となっているアプリケーションプログラムに依存することは留意すべきである。
1人のユーザ又は複数のユーザによる複数のタッチ又はジェスチャを同時に感知することができる。複数のユーザが同時に面に触れている間であっても、触れている特定のユーザを識別することも可能である。プロセッサ140により処理されるタッチに従って、画像がプロジェクタ130により面上に表示される。画像は、グラフィカルオブジェクトのセットを含む。特定のセットは1つ又は複数のオブジェクトを含むことができる。表示されるオブジェクトは、テキスト、データ、画像、メニュー、アイコン、及びポップアップアイテム等のアイテムであることができる。本発明の好適な実施の形態では、タッチ面は正面投影型であり、ディスプレイ技術は本発明の相互作用の技法とは無関係である。本発明の技法は、どのように画像が表示されるかに関わらず、任意のマルチタッチタッチセンシティブ面で使用することができる。
複数のユーザが同時に触れる複数のロケーションを感知することが可能なダイレクトタッチ画面を使用することが好ましい。参照により本明細書に援用される、Dietz他著「DiamondTouch: A multi-user touch technology」(Proc. User Interface Software and Technology (UIST) 2001, pp. 219-226, 2001)、及び2002年12月24日にDietz他に対して発行された「Multi-user touch surface」と題する米国特許第6,498,590号を参照のこと。ハンドジェスチャが、参照により本明細書に援用される、2003年9月10にWu他により出願された「Hand Gesture Interaction with Touch Surface」と題する米国特許出願番号第10/659,180号に記載される。
1つの特徴として、本発明によるマルチタッチセンシティブ画面はマウスに見られるいかなる物理的なボタンも、又は他のユーザインタフェースも必要としない。
表示されるグラフィックオブジェクトは、オブジェクトが表示されるロケーション上又はロケーション付近の面に触れることにより任意に制御される。制御するとは、ここでは、機械式マウスによるように、オブジェクトに対して移動、ドラッグ、選択、ハイライト、回転、サイズ変更、及び向き変更等を行うことができることを意味する。向き変更は、1回のタッチ動作によるアイテムの平行移動及び回転として定義される。触れることは、指、手、スタイラス若しくはライトペン等のポインティングデバイス又はマーキングデバイス、或いは画面に適した他のトランスデューサにより実行することができる。
このようなマルチタッチセンシティブ画面上でのマウスエミュレーションを円滑且つ自然なものにするために、いくつかのことが望まれる。
第1に、グラフィックオブジェクトの1つのタイプであるカーソルを画面上で正確に位置決めすることが要求される。これは指による微細な位置決めを試みる際に特有の問題である。その理由は、指での物理的なロケーションは通常、画面上でのカーソルの仮想的な位置を曖昧にするためである。
第2に、位置決めモード、すなわちカーソルを単に動かすこと、及びエンゲージメントモード、すなわちドラッグ又はドローイングとの間で切り替えを行うための単純な機構が存在しなくてはならない。
第3に、この切り替え機構がカーソル自体の動きを要求することは望ましくない。例えば、カーソルはマルチタッチセンシティブ面上の指の物理的なロケーションに一致する表示位置に動いた後、切り替えの間同じロケーションにとどまっているべきである。
第4に、そしておそらくこれが最も重要なことであるが、マウス制御をエミュレートするいかなる解決法も極めて容易且つ自然であると「感じる」ものであるべきである。
本発明の一実施の形態によれば、ユーザが1本の指でタッチセンシティブ面に触れると、システムは左のマウスボタンが押下されたかのように振る舞う。これによりユーザがスクロール、ドラッグ、及びドローイング等の一般的な操作を実行する際に単純且つ直感的な挙動が促進される。
しかしながら、これにより、メニューアイテムを作動させるようにカーソルを位置決めすること、ツールチップ、及びウェブページでの画像ロールオーバー(カーソルを画像上で動かすと画像の外観が変化する)等の「マウスオーバー」操作を実行することが不便になる。本来であればマウスオーバー操作であるはずの操作の間に左のマウスボタンが押下されると、例えばテキストが不意に選択されることになり得る。
図2Aに示すように、2本の指201及び202、例えば中指及び親指が同時に面200に触れると、図2Bに示すように、2本の指の位置間の中間ロケーションにグラフィックオブジェクトとしてカーソル210が表示される。これにより指により曖昧にされることがないカーソルの図が提供される。指を位置変更するとカーソルもそれに従って移動する。2本の指の間の距離が伸びるか又は縮まると、図2Cに示すように、カーソルは引き続き中間ロケーションで表示されることになる。
図3に示すように、カーソル210が位置付けられると、ユーザは第3の指301、例えば人差し指で面200をタッピングし、それにより左のマウスの押下をシミュレートする、すなわち左のマウスボタンを押下することができる。これによりユーザは位置決めモードとエンゲージメントモードとの間で円滑に切り替えつつカーソル210を位置決めすることができるようになる。第3の指がどこをタッピングするかは問題ではない。しかしながら、アクティブなタッピングエリアは、2本の指201及び202の位置であると画定される対角部を有する矩形のバウンディングボックス310に制限されることができる。この技法によりユーザは2本の指を面に接触させておきつつ、マウスのような方法でカーソルを円滑且つ正確に位置決めすることが可能になる。
図4は、矢印410により示されるように手を移動させることにより、ユーザが線401(これは別のグラフィックオブジェクトである)を引くことができる方法を示す。移動の初めにおいて、単純にカーソルを位置決めする代わりに、ユーザが第3の指301で面をタッピングすることによりドローイングモードが可能になる。「移動」の完了は第3の指を上げることにより、又は3本全ての指をほぼ同時に上げることにより示される。
実際には、片手の親指及び中指を使用してカーソル位置決めモードを開始することが最も自然であるように思われる。これにより人差し指は他の2本の指の間でタッピングするために使用することができる。
しかしながら、手がカーソル又は他の表示されるコンテンツを曖昧にする場合、ユーザは図5に示すように2本の人差し指501及び502を使用してカーソルを位置付けることができる。1つの利点としては、2本の指の間の距離を大きくすることによりカーソルの位置決めの精度を高めることができる。
片手の親指及び中指を使用してカーソルの位置を指定することが人の手にとっては最も自然且つ安定しているように思われる。2本の指はタッチを「固定する(anchor)」傾向があり、これはカーソルを正確に位置決めしようとする際には特に重要である。
図6〜図10は、本発明の一実施の形態による、マルチタッチセンシティブ画面を使用してマウス形態のイベントをエミュレートする状態図である。「丸いボックス」は状態を、矩形のボックスはマウス形態のイベントを、そして矢印付きの弧は様々な状態間での一目瞭然の遷移を示す。
左のマウスボタンをクリックすることをエミュレートするためには、ユーザは単純に所望のロケーションを素早くタッピングする。左のマウスボタンでのダブルクリックをエミュレートするためには、ユーザは単純に所望のロケーションを2度素早くタッピングする。
図6は、マウスの左クリック及びドラッグをエミュレートする状態を示す。状態は指が触れて(down)いない601、1本の指が触れている602、及び1本の指でドラッグしている603である。イベントは左クリック611、左のボタンを下げる612、左のボタンを上げる613、及び左ボタンでのドラッグ614である。指が面と接触した状態を保ちつつ位置変更又は「ドラッグ」されると、カーソルは位置決めする指に対応したロケーションに表示され、且つ表示されるグラフィカルオブジェクトに関与する。エンゲージメントのタイプは基本となっているアプリケーションに依存する。例えば、グラフィカルオブジェクトがワードプロセッサでのテキストである場合、マウスを使用したと仮定した場合のように、関与することによりテキストがハイライトされる。オブジェクトが「ウィンドウ」のタイトルバーである場合、ウィンドウは指と共にドラッグされる。
一実施の形態によれば、右のマウスボタンを押下することをエミュレートするためには、ユーザは面上の所望のロケーションを1本の指で押下し、その直後に任意の第2のロケーションのどこかを第2の指でタッピングする(下げると共に上げる)。続いて第1の指を動かすことにより右のマウスボタンを押下した状態でドラッグすることを効果的にエミュレートする。第2の指が面をタッピングした後、ユーザが第1の指で押下することを止めると、システムは右のマウスボタンを離すことをエミュレートする。右クリックをエミュレートするために(ボタンは押下されその後離される)、ユーザは単純に第1の指で所望のクリックロケーションを押下し、第2の指で軽くタッピングし、そして第1の指を離す(触れることを止める)。1回のクリック及び右のマウスボタンでドラッグする状態図が図7に示される。状態は指が触れていない701、1本の指が触れている702、及び右のマウスボタンモード703である。イベントは左クリック711、右のボタンを下げる712、右のボタンを上げる713、及び右ボタンでのドラッグ714である。
一実施の形態によれば、中央のマウスボタンを押下することをエミュレートするためには、ユーザは面上の所望のロケーションを1本の指で押下し、その直後に任意の第2のロケーションのどこかを第2の指で2回タッピングする(下げると共に上げる、ただし2回)。続いて第1の指を動かすことにより中央のマウスボタンを押下した状態でドラッグすることを効果的にエミュレートする。第2の指が面を2回タッピングした後、ユーザが第1の指で押下することを止めると、システムは中央のマウスボタンを離すことをエミュレートする。中央クリックをエミュレートするために(ボタンは押下されその後離される)、ユーザは単純に第1の指で所望のクリックロケーションを押下し、第2の指で軽く2回タッピングし、そして第1の指を離す(触れることを止める)。1回のクリック及び中央のマウスボタンでドラッグする状態図が図8に示される。状態は指が触れていない801、1本の指が触れている802、右のボタンであるか又は中央のボタンであるかが保留にされているモード803、及び中央のボタンモード804である。イベントは左クリック811、中央のボタンを下げる812、中央のボタンを上げる813、及び中央のボタンでのドラッグ814である。
一実施の形態によれば、ユーザはマウスカーソルを動かすこと、すなわちマウスボタンが関与していない状態でマウスカーソルを位置変更すること、をエミュレートしてもよい。これをするためには、図9に示すように、指が触れていない状態901で開始し、ユーザは同時に2本の指で面を押下することにより精度−ホバー(Precision-Hover)モード902を開始する。これによりカーソルを2本の指の中間点に移動させる(912)。続いて、マウスボタンが一切関与していない状態で、1本又は両方の指を動かすことによりカーソルが2本の指の中間点にとどまるようにカーソルを連続的に位置変更させる(912)。このモードの間、第3の指でタッピングすることにより押下された状態903と離された状態902との間で左のマウスボタンの状態をトグリングする。ユーザは一方又は両方の指を動かす一方で左のマウスボタンを下げる903ことによりドラッグ及びドローイング等の通常の「左ドラッグ」操作を実行してもよい。精度−ホバーモード902及びパートナー左ドラッグモード903はユーザの全ての指が面に触れることを止めた時に終了する(913)。
したがって、図9は、本発明の一実施の形態による、マウスボタンが関与していない状態でマウスカーソルの位置変更をエミュレートする、またマルチタッチセンシティブ面上で左のマウスボタンの作動をトグリングすることをエミュレートする原則的な(principle)状態を示す状態図である。状態は指が触れていない901、精度−ホバーモード902、左のマウスボタンを下げるモード903である。イベントは左のボタンを下げる911、指の動きがカーソルを位置変更する912、左のボタンを上げる913、及び左のマウスボタンでドラッグする914である。
本発明のこの実施の形態によれば、マウスホイールを回転させることをエミュレートするために、ユーザは片方の拳で面を押下し、その後その拳を上に/離れるように又は下に/近づけるようにスライドさせ、マウスホイールを上又は下にスクロールすることをエミュレートする。この実施の形態は、触れているエリアの大きさをシステムが判断することができるという事実に依存している。この場合、指先で触れているエリアは握り拳により触れているエリアよりも実質的に小さい。スライドする量とその結果としてマウスホイールが回転する量との比は構成可能であり得る。これは図10に示される。状態は指が触れていない1001、及びマウスホイールモード1002である。イベントはマウスホイールがスクロールダウンする1011、及びマウスホイールがスクロールアップする1012である。
様々な他の適用及び変更を本発明の精神及び範囲内で行い得ることを理解されたい。したがって、添付の特許請求の範囲の目的は、本発明の真の精神及び範囲内に入る全てのこのような変形及び変更を網羅することである。
本発明の一実施の形態によるマルチタッチセンシティブ画面を使用するユーザインタフェースの概略図である。 本発明の一実施の形態による片手の複数の指を使用してカーソルを位置決めすることを示す概略図である。 本発明の一実施の形態による片手の複数の指を使用してカーソルを位置決めすることを示す概略図である。 本発明の一実施の形態による片手の複数の指を使用してカーソルを位置決めすることを示す概略図である。 本発明の一実施の形態による複数の指を使用してカーソルモード間で切り替えることを示す概略図である。 本発明の一実施の形態による複数の指を使用してカーソルをドラッグすることを示す概略図である。 本発明の一実施の形態による2本の手の複数の指を使用してカーソルを位置決めすることを示す概略図である。 本発明の一実施の形態によるマルチタッチセンシティブ面で関与する左のマウスボタンでのクリック及びドラッグをエミュレートする原則的な状態の状態図である。 本発明の一実施の形態による、マルチタッチセンシティブ面で関与する右のマウスボタンでのクリック及びドラッグをエミュレートする原則的な状態の状態図である。 本発明の一実施の形態による、マルチタッチセンシティブ面で関与する中央のマウスボタンでのクリック及びドラッグをエミュレートする原則的な状態の状態図である。 本発明の一実施の形態による、マルチタッチセンシティブ面上でマウスボタンが関与していない状態でマウスカーソルの位置変更をエミュレートする、また左のマウスボタンの作動をトグリングすることをエミュレートする原則的な状態の状態図である。 本発明の一実施の形態による、マルチタッチセンシティブ面上でマウスホイールを上又は下へ回転させることをエミュレートする原則的な状態の状態図である。

Claims (14)

  1. マルチタッチセンシティブ画面上の第1のロケーションでの第1の指による第1のタッチを感知するステップと、
    前記マルチタッチセンシティブ画面上の第2のロケーションでの第2の指による第2のタッチを同時に感知するステップと、
    前記マルチタッチセンシティブ画面上の前記第1のロケーション及び前記第2のロケーションに依存する位置でグラフィックオブジェクトを表示するステップと、
    を含み、さらに
    前記マルチタッチセンシティブ画面上の第3のロケーションでの第3の指による第3のタッピングを同時に感知するステップと、
    前記第3のタッチに従ってカーソル制御モード間の切り替えを行うステップと、
    を含み、
    前記第3のロケーションの感知は、前記第1のロケーション及び前記第2のロケーションにより画定される対角部を有する矩形のバウンディングボックスに制限される
    コンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法。
  2. グラフィカルオブジェクトを表示する一方でマルチタッチセンシティブ画面上の第1のロケーションでの第1の指による第1のタッチを感知するステップと、
    前記マルチタッチセンシティブ画面上の第2のロケーションでの第2の指による第2のタッチを同時に感知する一方で前記第1の指の動きを感知するステップと、
    前記第1の指の動きに従って前記グラフィカルオブジェクトに関与し、マウスの左クリック及びドラッグ操作をエミュレートするステップと、
    を含み、
    前記グラフィカルオブジェクトはウィンドウであり、前記動きにより該ウィンドウが回転する
    コンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法。
  3. グラフィカルオブジェクトを表示する一方でマルチタッチセンシティブ画面上の第1のロケーションでの第1の指による第1のタッチを感知するステップと、
    前記マルチタッチセンシティブ画面上の第2のロケーションでの第2の指によるタッピングを感知するステップと、
    前記第1の指のロケーションに従って前記グラフィカルオブジェクトに関与して、マウスの右ボタンを押下する操作をエミュレートするステップと、
    を含み、さらに
    前記マルチタッチセンシティブ画面にタッチしている前記第1の指の動きを感知するステップと、
    前記第1の指のロケーションに従って前記グラフィカルオブジェクトに関与して、マウスの右ボタンを関与させた状態でマウスをドラッグする操作をエミュレートするステップと、
    を含むコンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法。
  4. グラフィカルオブジェクトを表示する一方でマルチタッチセンシティブ画面上の第1のロケーションでの第1の指による第1のタッチを感知するステップと、
    前記マルチタッチセンシティブ画面上の第2のロケーションでの第2の指による2回の連続するタッチを感知するステップと、
    前記第1の指のロケーションに従って前記グラフィカルオブジェクトに関与して、前記マウスの中央ボタンを押下する操作をエミュレートするステップと、
    を含むコンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法。
  5. 前記マルチタッチセンシティブ画面にタッチしている前記第1の指の動きを感知するステップと、
    前記第1の指のロケーションに従って前記グラフィカルオブジェクトに関与して、前記マウスの中央ボタンを関与させた状態でマウスをドラッグする操作をエミュレートするステップと、
    をさらに含む請求項4に記載のコンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法。
  6. 前記第1の指が前記マルチタッチセンシティブ画面に触れることを止めることを感知するステップと、
    前記第1の指のロケーションに従って前記グラフィカルオブジェクトに関与して、前記マウスの中央ボタンを離す操作をエミュレートするステップと、
    をさらに含む請求項4に記載のコンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法。
  7. グラフィカルオブジェクトを表示する一方でマルチタッチセンシティブ画面上の第1のロケーションでの拳による第1のタッチを感知するステップと、
    グラフィカルオブジェクトを表示する一方で前記マルチタッチセンシティブ画面にタッチしながらの前記拳の動きを感知するステップと、
    動きに従って前記グラフィカルオブジェクトに関与して、マウスホイールをスクロールすることをエミュレートするステップと、
    を含むコンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法。
  8. マルチタッチセンシティブ画面であって、該マルチタッチセンシティブ画面上の第1のロケーションでの第1の指による第1のタッチと、同時に第2のロケーションでの第2の指による第2のタッチとを感知すると共に、第3のロケーションでの第3の指による第3のタッピングを同時に感知するように構成されたものと、
    前記マルチタッチセンシティブ画面上の前記第1のロケーション及び前記第2のロケーションに依存する位置でグラフィックオブジェクトを表示する手段と、
    前記第3のタッチに従ってカーソル制御モード間の切り替えを行う手段と、
    を備え、
    前記第3のロケーションの感知は、前記第1のロケーション及び前記第2のロケーションにより画定される対角部を有する矩形のバウンディングボックスに制限される
    マウスをエミュレートするシステム。
  9. マルチタッチセンシティブ画面であって、グラフィカルオブジェクトを表示する一方で該マルチタッチセンシティブ画面上の第1のロケーションでの第1の指による第1のタッチと、第2のロケーションでの第2の指による第2のタッチを同時に感知する一方で前記第1の指の動きを感知するように構成されたものと、
    前記第1の指の動きに従って前記グラフィカルオブジェクトに関与し、マウスの左クリック及びドラッグ操作をエミュレートする手段と、
    を備え、
    前記グラフィカルオブジェクトはウィンドウであり、前記動きにより該ウィンドウが回転する
    マウスをエミュレートするシステム。
  10. マルチタッチセンシティブ画面であって、グラフィカルオブジェクトを表示する一方で該マルチタッチセンシティブ画面上の第1のロケーションでの第1の指による第1のタッチと、第2のロケーションでの第2の指によるタッピングを感知すると共に、前記マルチタッチセンシティブ画面にタッチしている前記第1の指の動きを感知するように構成されたものと、
    前記第1の指のロケーションに従って前記グラフィカルオブジェクトに関与して、マウスの右ボタンを押下する操作をエミュレートする手段と、
    前記第1の指のロケーションに従って前記グラフィカルオブジェクトに関与して、マウスの右ボタンを関与させた状態でマウスをドラッグする操作をエミュレートする手段と、
    を備えたマウスをエミュレートするシステム。
  11. マルチタッチセンシティブ画面であって、グラフィカルオブジェクトを表示する一方で該マルチタッチセンシティブ画面上の第1のロケーションでの第1の指による第1のタッチと、第2のロケーションでの第2の指による2回の連続するタッチを感知するように構成されたものと、
    前記第1の指のロケーションに従って前記グラフィカルオブジェクトに関与して、前記マウスの中央ボタンを押下する操作をエミュレートする手段と、
    を備えたマウスをエミュレートするシステム。
  12. 前記マルチタッチセンシティブ画面が、前記マルチタッチセンシティブ画面にタッチしている前記第1の指の動きを感知するように構成され、
    前記第1の指のロケーションに従って前記グラフィカルオブジェクトに関与して、前記マウスの中央ボタンを関与させた状態でマウスをドラッグする操作をエミュレートする手段をさらに備えた請求項11に記載のマウスをエミュレートするシステム。
  13. 前記マルチタッチセンシティブ画面が、前記第1の指が前記マルチタッチセンシティブ画面に触れることを止めることを感知するように構成され、
    前記第1の指のロケーションに従って前記グラフィカルオブジェクトに関与して、前記マウスの中央ボタンを離す操作をエミュレートする手段をさらに備えた請求項11に記載のマウスをエミュレートするシステム。
  14. マルチタッチセンシティブ画面であって、グラフィカルオブジェクトを表示する一方で該マルチタッチセンシティブ画面上の第1のロケーションでの拳による第1のタッチと、グラフィカルオブジェクトを表示する一方で前記マルチタッチセンシティブ画面にタッチしながらの前記拳の動きを感知するように構成されたものと、
    動きに従って前記グラフィカルオブジェクトに関与して、マウスホイールをスクロールすることをエミュレートする手段と、
    を備えたマウスをエミュレートするシステム。
JP2007103859A 2006-05-03 2007-04-11 コンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法及びマウスをエミュレートするシステム Expired - Fee Related JP4869135B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11/416,719 US20070257891A1 (en) 2006-05-03 2006-05-03 Method and system for emulating a mouse on a multi-touch sensitive surface
US11/416,719 2006-05-03

Publications (2)

Publication Number Publication Date
JP2007299384A JP2007299384A (ja) 2007-11-15
JP4869135B2 true JP4869135B2 (ja) 2012-02-08

Family

ID=38283314

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007103859A Expired - Fee Related JP4869135B2 (ja) 2006-05-03 2007-04-11 コンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法及びマウスをエミュレートするシステム

Country Status (3)

Country Link
US (2) US20070257891A1 (ja)
EP (1) EP1852774A3 (ja)
JP (1) JP4869135B2 (ja)

Families Citing this family (210)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9722766D0 (en) 1997-10-28 1997-12-24 British Telecomm Portable computers
US20090143141A1 (en) * 2002-08-06 2009-06-04 Igt Intelligent Multiplayer Gaming System With Multi-Touch Display
US8225231B2 (en) 2005-08-30 2012-07-17 Microsoft Corporation Aggregation of PC settings
US9696808B2 (en) * 2006-07-13 2017-07-04 Northrop Grumman Systems Corporation Hand-gesture recognition method
US7777732B2 (en) * 2007-01-03 2010-08-17 Apple Inc. Multi-event input system
US7877707B2 (en) * 2007-01-06 2011-01-25 Apple Inc. Detecting and interpreting real-world and security gestures on touch and hover sensitive devices
US7844915B2 (en) 2007-01-07 2010-11-30 Apple Inc. Application programming interfaces for scrolling operations
KR100894146B1 (ko) * 2007-02-03 2009-04-22 엘지전자 주식회사 이동통신 단말기 및 그 동작 제어방법
US8074178B2 (en) * 2007-06-12 2011-12-06 Microsoft Corporation Visual feedback display
US9740386B2 (en) 2007-06-13 2017-08-22 Apple Inc. Speed/positional mode translations
US8681104B2 (en) 2007-06-13 2014-03-25 Apple Inc. Pinch-throw and translation gestures
US8302033B2 (en) * 2007-06-22 2012-10-30 Apple Inc. Touch screen device, method, and graphical user interface for providing maps, directions, and location-based information
US9953392B2 (en) 2007-09-19 2018-04-24 T1V, Inc. Multimedia system and associated methods
US20100179864A1 (en) 2007-09-19 2010-07-15 Feldman Michael R Multimedia, multiuser system and associated methods
US9965067B2 (en) 2007-09-19 2018-05-08 T1V, Inc. Multimedia, multiuser system and associated methods
US8600816B2 (en) * 2007-09-19 2013-12-03 T1visions, Inc. Multimedia, multiuser system and associated methods
US8583491B2 (en) * 2007-09-19 2013-11-12 T1visions, Inc. Multimedia display, multimedia system including the display and associated methods
US11441919B2 (en) * 2007-09-26 2022-09-13 Apple Inc. Intelligent restriction of device operations
US20090096573A1 (en) 2007-10-10 2009-04-16 Apple Inc. Activation of Cryptographically Paired Device
US20090125848A1 (en) * 2007-11-14 2009-05-14 Susann Marie Keohane Touch surface-sensitive edit system
US9513765B2 (en) * 2007-12-07 2016-12-06 Sony Corporation Three-dimensional sliding object arrangement method and system
US8610671B2 (en) 2007-12-27 2013-12-17 Apple Inc. Insertion marker placement on touch sensitive display
US8327272B2 (en) 2008-01-06 2012-12-04 Apple Inc. Portable multifunction device, method, and graphical user interface for viewing and managing electronic calendars
US20090213083A1 (en) * 2008-02-26 2009-08-27 Apple Inc. Simulation of multi-point gestures with a single pointing device
JP4650699B2 (ja) * 2008-03-06 2011-03-16 Necインフロンティア株式会社 入力装置、入力方法およびプログラム
US8237665B2 (en) * 2008-03-11 2012-08-07 Microsoft Corporation Interpreting ambiguous inputs on a touch-screen
TW200941307A (en) * 2008-03-24 2009-10-01 Acer Inc Extended cursor generating method and device
US20090256807A1 (en) * 2008-04-14 2009-10-15 Nokia Corporation User interface
US20090295746A1 (en) * 2008-04-29 2009-12-03 Davidson Philip L Event registration and dispatch system and method for multi-point controls
US20090282332A1 (en) * 2008-05-12 2009-11-12 Nokia Corporation Apparatus, method and computer program product for selecting multiple items using multi-touch
US20090284478A1 (en) * 2008-05-15 2009-11-19 Microsoft Corporation Multi-Contact and Single-Contact Input
US9268483B2 (en) * 2008-05-16 2016-02-23 Microsoft Technology Licensing, Llc Multi-touch input platform
TWI543029B (zh) * 2008-05-23 2016-07-21 微軟技術授權有限責任公司 用於利用拖曳操作平移內容的電腦可讀取硬體裝置、系統及方法
US8375336B2 (en) * 2008-05-23 2013-02-12 Microsoft Corporation Panning content utilizing a drag operation
JP5164675B2 (ja) * 2008-06-04 2013-03-21 キヤノン株式会社 ユーザインターフェースの制御方法及び情報処理装置及びプログラム
US8754855B2 (en) * 2008-06-27 2014-06-17 Microsoft Corporation Virtual touchpad
US9041653B2 (en) * 2008-07-18 2015-05-26 Htc Corporation Electronic device, controlling method thereof and computer program product
US8358268B2 (en) * 2008-07-23 2013-01-22 Cisco Technology, Inc. Multi-touch detection
US9459784B2 (en) * 2008-07-25 2016-10-04 Microsoft Technology Licensing, Llc Touch interaction with a curved display
TW201007526A (en) * 2008-08-13 2010-02-16 Elan Microelectronics Corp Signal processing method of multi-fingers touch apparatus having invisible physical button structure
CN111522493A (zh) * 2008-08-22 2020-08-11 谷歌有限责任公司 移动设备上的三维环境中的导航
US20100060588A1 (en) * 2008-09-09 2010-03-11 Microsoft Corporation Temporally separate touch input
US9372590B2 (en) * 2008-09-26 2016-06-21 Microsoft Technology Licensing, Llc Magnifier panning interface for natural input devices
US8176438B2 (en) * 2008-09-26 2012-05-08 Microsoft Corporation Multi-modal interaction for a screen magnifier
US8427424B2 (en) 2008-09-30 2013-04-23 Microsoft Corporation Using physical objects in conjunction with an interactive surface
US8086275B2 (en) 2008-10-23 2011-12-27 Microsoft Corporation Alternative inputs of a mobile communications device
US8385952B2 (en) 2008-10-23 2013-02-26 Microsoft Corporation Mobile communications device user interface
US8411046B2 (en) 2008-10-23 2013-04-02 Microsoft Corporation Column organization of content
JP5306780B2 (ja) * 2008-11-05 2013-10-02 シャープ株式会社 入力装置
US8502785B2 (en) * 2008-11-12 2013-08-06 Apple Inc. Generating gestures tailored to a hand resting on a surface
CN101751194B (zh) * 2008-12-12 2014-01-29 华硕电脑股份有限公司 具多点触控功能的触控面板与多点触控侦测方法
GB2466077A (en) * 2008-12-15 2010-06-16 Symbian Software Ltd Emulator for multiple computing device inputs
US20100162179A1 (en) * 2008-12-19 2010-06-24 Nokia Corporation Method and Apparatus for Adding or Deleting at Least One Item Based at Least in Part on a Movement
US20100162181A1 (en) * 2008-12-22 2010-06-24 Palm, Inc. Interpreting Gesture Input Including Introduction Or Removal Of A Point Of Contact While A Gesture Is In Progress
US20100229090A1 (en) * 2009-03-05 2010-09-09 Next Holdings Limited Systems and Methods for Interacting With Touch Displays Using Single-Touch and Multi-Touch Gestures
JP2010218422A (ja) * 2009-03-18 2010-09-30 Toshiba Corp 情報処理装置および情報処理装置の制御方法
US8686951B2 (en) 2009-03-18 2014-04-01 HJ Laboratories, LLC Providing an elevated and texturized display in an electronic device
KR101546966B1 (ko) * 2009-03-27 2015-08-26 (주)멜파스 제스처 판단 방법 및 접촉 감지 방법
US8355698B2 (en) 2009-03-30 2013-01-15 Microsoft Corporation Unlock screen
US8238876B2 (en) 2009-03-30 2012-08-07 Microsoft Corporation Notifications
US8175653B2 (en) 2009-03-30 2012-05-08 Microsoft Corporation Chromeless user interface
US20100265185A1 (en) * 2009-04-17 2010-10-21 Nokia Corporation Method and Apparatus for Performing Operations Based on Touch Inputs
US20100265186A1 (en) * 2009-04-17 2010-10-21 Nokia Corporation Method and Apparatus for Performing Selection Based on a Touch Input
US8446367B2 (en) * 2009-04-17 2013-05-21 Microsoft Corporation Camera-based multi-touch mouse
KR101553629B1 (ko) * 2009-05-06 2015-09-17 삼성전자주식회사 인터페이스 제공 방법
US8355007B2 (en) * 2009-05-11 2013-01-15 Adobe Systems Incorporated Methods for use with multi-touch displays for determining when a touch is processed as a mouse event
US8269736B2 (en) * 2009-05-22 2012-09-18 Microsoft Corporation Drop target gestures
US8836648B2 (en) 2009-05-27 2014-09-16 Microsoft Corporation Touch pull-in gesture
US9207806B2 (en) * 2009-05-28 2015-12-08 Microsoft Technology Licensing, Llc Creating a virtual mouse input device
US9141284B2 (en) * 2009-05-28 2015-09-22 Microsoft Technology Licensing, Llc Virtual input devices created by touch input
JP2011028524A (ja) * 2009-07-24 2011-02-10 Toshiba Corp 情報処理装置、プログラムおよびポインティング方法
KR101608770B1 (ko) * 2009-08-03 2016-04-04 엘지전자 주식회사 이동단말기 및 그 제어방법
EP2473909A4 (en) * 2009-09-04 2014-03-19 Rpo Pty Ltd METHODS OF MAPPING GESTURES TO USER GRAPHIC INTERFACE INSTRUCTIONS
US20110080344A1 (en) * 2009-10-02 2011-04-07 Dedo Interactive Inc. Blending touch data streams that include touch input data
TW201115413A (en) * 2009-10-16 2011-05-01 Skillclass Ltd Optical sensing system
US20110138284A1 (en) * 2009-12-03 2011-06-09 Microsoft Corporation Three-state touch input system
US20100085323A1 (en) * 2009-12-04 2010-04-08 Adam Bogue Segmenting a Multi-Touch Input Region by User
EP2507683A1 (en) * 2009-12-04 2012-10-10 Next Holdings Limited Methods and systems for position detection using an interactive volume
US8862576B2 (en) 2010-01-06 2014-10-14 Apple Inc. Device, method, and graphical user interface for mapping directions between search results
KR101632750B1 (ko) * 2010-01-13 2016-06-22 삼성전자주식회사 터치스크린의 한글 입력 방법
TWI420359B (zh) * 2010-01-27 2013-12-21 Chunghwa Picture Tubes Ltd 觸控裝置及其觸控面板的驅動方法
US20110195781A1 (en) * 2010-02-05 2011-08-11 Microsoft Corporation Multi-touch mouse in gaming applications
US20110231796A1 (en) * 2010-02-16 2011-09-22 Jose Manuel Vigil Methods for navigating a touch screen device in conjunction with gestures
US20110199342A1 (en) 2010-02-16 2011-08-18 Harry Vartanian Apparatus and method for providing elevated, indented or texturized sensations to an object near a display device or input detection using ultrasound
US8730309B2 (en) 2010-02-23 2014-05-20 Microsoft Corporation Projectors and depth cameras for deviceless augmented reality and interaction
CN101799717A (zh) * 2010-03-05 2010-08-11 天津大学 基于手部行为捕捉的人机交互方法
US20110227947A1 (en) * 2010-03-16 2011-09-22 Microsoft Corporation Multi-Touch User Interface Interaction
CN101819466A (zh) * 2010-03-22 2010-09-01 鸿富锦精密工业(深圳)有限公司 具有触摸输入功能的键盘及使用该键盘的电子设备
CN102200876B (zh) * 2010-03-24 2013-10-09 昆盈企业股份有限公司 执行多点触控的方法及其***
US9990062B2 (en) * 2010-03-26 2018-06-05 Nokia Technologies Oy Apparatus and method for proximity based input
US9383864B2 (en) * 2010-03-31 2016-07-05 Smart Technologies Ulc Illumination structure for an interactive input system
CN102221957B (zh) * 2010-04-16 2014-04-23 联想(北京)有限公司 电子设备的操作控制的方法及电子设备
JP5423593B2 (ja) * 2010-06-23 2014-02-19 株式会社Jvcケンウッド 情報処理装置
CN102314251A (zh) * 2010-07-02 2012-01-11 宏碁股份有限公司 触控屏幕的操作方法
KR101712909B1 (ko) * 2010-07-16 2017-03-22 엘지전자 주식회사 터치 스크린 디스플레이를 포함하는 전자 장치, 이를 이용한 인터페이스 방법 및 컴퓨터 판독 가능한 저장매체
FR2963970B1 (fr) * 2010-08-17 2013-07-12 Compagnie Ind Et Financiere Dingenierie Ingenico Procede de commande d'actions au moyen d'un ecran tactile.
US9465457B2 (en) * 2010-08-30 2016-10-11 Vmware, Inc. Multi-touch interface gestures for keyboard and/or mouse inputs
KR20120062037A (ko) * 2010-10-25 2012-06-14 삼성전자주식회사 전자책 단말기에서 페이지를 전환하는 방법
US20120159395A1 (en) 2010-12-20 2012-06-21 Microsoft Corporation Application-launching interface for multiple modes
US20120159383A1 (en) 2010-12-20 2012-06-21 Microsoft Corporation Customization of an immersive environment
US8612874B2 (en) 2010-12-23 2013-12-17 Microsoft Corporation Presenting an application change through a tile
US8689123B2 (en) 2010-12-23 2014-04-01 Microsoft Corporation Application reporting in an application-selectable user interface
US9423951B2 (en) 2010-12-31 2016-08-23 Microsoft Technology Licensing, Llc Content-based snap point
EP2487571A1 (en) * 2011-02-14 2012-08-15 Research In Motion Limited Portable electronic device including touch-sensitive display and method of controlling same
US8624858B2 (en) * 2011-02-14 2014-01-07 Blackberry Limited Portable electronic device including touch-sensitive display and method of controlling same
US9480907B2 (en) 2011-03-02 2016-11-01 Microsoft Technology Licensing, Llc Immersive display with peripheral illusions
CN102654821B (zh) * 2011-03-04 2016-08-24 腾讯科技(深圳)有限公司 一种定位文本光标的方法及装置
US20120233545A1 (en) * 2011-03-11 2012-09-13 Akihiko Ikeda Detection of a held touch on a touch-sensitive display
US9383917B2 (en) 2011-03-28 2016-07-05 Microsoft Technology Licensing, Llc Predictive tiling
US10146423B1 (en) 2011-04-07 2018-12-04 Wells Fargo Bank, N.A. System and method for generating a position based user interface
US9158445B2 (en) 2011-05-27 2015-10-13 Microsoft Technology Licensing, Llc Managing an immersive interface in a multi-application immersive environment
US9658766B2 (en) 2011-05-27 2017-05-23 Microsoft Technology Licensing, Llc Edge gesture
US8893033B2 (en) 2011-05-27 2014-11-18 Microsoft Corporation Application notifications
US9104440B2 (en) 2011-05-27 2015-08-11 Microsoft Technology Licensing, Llc Multi-application environment
US20120304132A1 (en) 2011-05-27 2012-11-29 Chaitanya Dev Sareen Switching back to a previously-interacted-with application
US9104307B2 (en) 2011-05-27 2015-08-11 Microsoft Technology Licensing, Llc Multi-application environment
US9597587B2 (en) 2011-06-08 2017-03-21 Microsoft Technology Licensing, Llc Locational node device
US8975903B2 (en) 2011-06-09 2015-03-10 Ford Global Technologies, Llc Proximity switch having learned sensitivity and method therefor
US8928336B2 (en) 2011-06-09 2015-01-06 Ford Global Technologies, Llc Proximity switch having sensitivity control and method therefor
US8298081B1 (en) 2011-06-16 2012-10-30 Igt Gaming system, gaming device and method for providing multiple display event indicators
US8687023B2 (en) 2011-08-02 2014-04-01 Microsoft Corporation Cross-slide gesture to select and rearrange
US10004286B2 (en) 2011-08-08 2018-06-26 Ford Global Technologies, Llc Glove having conductive ink and method of interacting with proximity sensor
CN102955590A (zh) * 2011-08-19 2013-03-06 ***通信集团公司 对触摸屏显示的光标进行定位的方法和装置
US20130057587A1 (en) 2011-09-01 2013-03-07 Microsoft Corporation Arranging tiles
US8922575B2 (en) 2011-09-09 2014-12-30 Microsoft Corporation Tile cache
US9557909B2 (en) 2011-09-09 2017-01-31 Microsoft Technology Licensing, Llc Semantic zoom linguistic helpers
US10353566B2 (en) 2011-09-09 2019-07-16 Microsoft Technology Licensing, Llc Semantic zoom animations
US9146670B2 (en) 2011-09-10 2015-09-29 Microsoft Technology Licensing, Llc Progressively indicating new content in an application-selectable user interface
US9244802B2 (en) 2011-09-10 2016-01-26 Microsoft Technology Licensing, Llc Resource user interface
US8933952B2 (en) 2011-09-10 2015-01-13 Microsoft Corporation Pre-rendering new content for an application-selectable user interface
US9143126B2 (en) 2011-09-22 2015-09-22 Ford Global Technologies, Llc Proximity switch having lockout control for controlling movable panel
US9658715B2 (en) 2011-10-20 2017-05-23 Microsoft Technology Licensing, Llc Display mapping modes for multi-pointer indirect input devices
US9274642B2 (en) 2011-10-20 2016-03-01 Microsoft Technology Licensing, Llc Acceleration-based interaction for multi-pointer indirect input devices
US8933896B2 (en) 2011-10-25 2015-01-13 Microsoft Corporation Pressure-based interaction for indirect touch input devices
US9116558B2 (en) 2011-10-28 2015-08-25 Atmel Corporation Executing gestures with active stylus
US10112556B2 (en) 2011-11-03 2018-10-30 Ford Global Technologies, Llc Proximity switch having wrong touch adaptive learning and method
US8994228B2 (en) 2011-11-03 2015-03-31 Ford Global Technologies, Llc Proximity switch having wrong touch feedback
US8878438B2 (en) 2011-11-04 2014-11-04 Ford Global Technologies, Llc Lamp and proximity switch assembly and method
US9389679B2 (en) * 2011-11-30 2016-07-12 Microsoft Technology Licensing, Llc Application programming interface for a multi-pointer indirect touch input device
US9223472B2 (en) 2011-12-22 2015-12-29 Microsoft Technology Licensing, Llc Closing applications
US9128605B2 (en) 2012-02-16 2015-09-08 Microsoft Technology Licensing, Llc Thumbnail-image selection of applications
US8605114B2 (en) 2012-02-17 2013-12-10 Igt Gaming system having reduced appearance of parallax artifacts on display devices including multiple display screens
KR20130101864A (ko) * 2012-03-06 2013-09-16 삼성전자주식회사 클라이언트 장치, 클라이언트의 제어 방법, 서버 및 서버의 영상 제공 방법
GB201204336D0 (en) * 2012-03-12 2012-04-25 Stepsahead Ltd Projection system
US8933708B2 (en) 2012-04-11 2015-01-13 Ford Global Technologies, Llc Proximity switch assembly and activation method with exploration mode
US9831870B2 (en) 2012-04-11 2017-11-28 Ford Global Technologies, Llc Proximity switch assembly and method of tuning same
US9520875B2 (en) 2012-04-11 2016-12-13 Ford Global Technologies, Llc Pliable proximity switch assembly and activation method
US9944237B2 (en) 2012-04-11 2018-04-17 Ford Global Technologies, Llc Proximity switch assembly with signal drift rejection and method
US9184745B2 (en) 2012-04-11 2015-11-10 Ford Global Technologies, Llc Proximity switch assembly and method of sensing user input based on signal rate of change
US9197206B2 (en) 2012-04-11 2015-11-24 Ford Global Technologies, Llc Proximity switch having differential contact surface
US9559688B2 (en) 2012-04-11 2017-01-31 Ford Global Technologies, Llc Proximity switch assembly having pliable surface and depression
US9065447B2 (en) 2012-04-11 2015-06-23 Ford Global Technologies, Llc Proximity switch assembly and method having adaptive time delay
US9568527B2 (en) 2012-04-11 2017-02-14 Ford Global Technologies, Llc Proximity switch assembly and activation method having virtual button mode
US9531379B2 (en) 2012-04-11 2016-12-27 Ford Global Technologies, Llc Proximity switch assembly having groove between adjacent proximity sensors
US9287864B2 (en) 2012-04-11 2016-03-15 Ford Global Technologies, Llc Proximity switch assembly and calibration method therefor
US9219472B2 (en) 2012-04-11 2015-12-22 Ford Global Technologies, Llc Proximity switch assembly and activation method using rate monitoring
US9660644B2 (en) 2012-04-11 2017-05-23 Ford Global Technologies, Llc Proximity switch assembly and activation method
US8866771B2 (en) * 2012-04-18 2014-10-21 International Business Machines Corporation Multi-touch multi-user gestures on a multi-touch display
US20130285924A1 (en) * 2012-04-26 2013-10-31 Research In Motion Limited Method and Apparatus Pertaining to the Interpretation of Touch-Based Actions
JP5721662B2 (ja) * 2012-04-26 2015-05-20 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 入力受付方法、入力受付プログラム、及び入力装置
DE102012103887B4 (de) * 2012-05-03 2018-12-13 Thomas Reitmeier Anordnung aus einem Tisch und einer bildprojizierenden Vorrichtung sowie Verwendung und Steuerungsverfahren
US9136840B2 (en) 2012-05-17 2015-09-15 Ford Global Technologies, Llc Proximity switch assembly having dynamic tuned threshold
JP5377709B2 (ja) 2012-05-23 2013-12-25 株式会社スクウェア・エニックス 情報処理装置,情報処理方法,及びゲーム装置
US8981602B2 (en) 2012-05-29 2015-03-17 Ford Global Technologies, Llc Proximity switch assembly having non-switch contact and method
US9337832B2 (en) 2012-06-06 2016-05-10 Ford Global Technologies, Llc Proximity switch and method of adjusting sensitivity therefor
KR20130143160A (ko) * 2012-06-20 2013-12-31 삼성전자주식회사 휴대단말기의 스크롤 제어장치 및 방법
US9641172B2 (en) 2012-06-27 2017-05-02 Ford Global Technologies, Llc Proximity switch assembly having varying size electrode fingers
JP5812054B2 (ja) * 2012-08-23 2015-11-11 株式会社デンソー 操作デバイス
US8777743B2 (en) * 2012-08-31 2014-07-15 DeNA Co., Ltd. System and method for facilitating interaction with a virtual space via a touch sensitive surface
US8922340B2 (en) 2012-09-11 2014-12-30 Ford Global Technologies, Llc Proximity switch based door latch release
US8796575B2 (en) 2012-10-31 2014-08-05 Ford Global Technologies, Llc Proximity switch assembly having ground layer
KR101992314B1 (ko) * 2012-11-20 2019-10-01 삼성전자주식회사 포인터 제어 방법 및 그 전자 장치
US9265458B2 (en) 2012-12-04 2016-02-23 Sync-Think, Inc. Application of smooth pursuit cognitive testing paradigms to clinical drug development
CN103279218A (zh) * 2012-12-24 2013-09-04 李永贵 无边框平板
US10042544B2 (en) 2012-12-27 2018-08-07 Keysight Technologies, Inc. Method for controlling the magnification level on a display
GB2510333A (en) * 2013-01-30 2014-08-06 Ibm Emulating pressure sensitivity on multi-touch devices
JP2014149796A (ja) * 2013-02-04 2014-08-21 Sharp Corp 位置検出装置、画像処理装置及び位置検出方法
US9380976B2 (en) 2013-03-11 2016-07-05 Sync-Think, Inc. Optical neuroinformatics
US9311204B2 (en) 2013-03-13 2016-04-12 Ford Global Technologies, Llc Proximity interface development system having replicator and method
US9450952B2 (en) 2013-05-29 2016-09-20 Microsoft Technology Licensing, Llc Live tiles without application-code execution
KR101489069B1 (ko) * 2013-05-30 2015-02-04 허윤 동작 기반의 정보 입력 방법 및 이러한 방법을 사용한 입력 장치
KR20150017399A (ko) * 2013-06-03 2015-02-17 원혁 터치스크린 입력 방법 및 장치
US20150077352A1 (en) * 2013-09-13 2015-03-19 Lili Michael Ma Multi-Touch Virtual Mouse
JP6264871B2 (ja) 2013-12-16 2018-01-24 セイコーエプソン株式会社 情報処理装置および情報処理装置の制御方法
JP6391247B2 (ja) * 2014-02-05 2018-09-19 パナソニックオートモーティブシステムズアジアパシフィックカンパニーリミテッド エミュレーション装置
CN105359094A (zh) 2014-04-04 2016-02-24 微软技术许可有限责任公司 可扩展应用表示
KR102107275B1 (ko) 2014-04-10 2020-05-06 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 컴퓨팅 디바이스에 대한 접이식 쉘 커버
KR20160143784A (ko) 2014-04-10 2016-12-14 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 컴퓨팅 디바이스용 슬라이더 커버
US10254942B2 (en) 2014-07-31 2019-04-09 Microsoft Technology Licensing, Llc Adaptive sizing and positioning of application windows
US10678412B2 (en) 2014-07-31 2020-06-09 Microsoft Technology Licensing, Llc Dynamic joint dividers for application windows
US10592080B2 (en) 2014-07-31 2020-03-17 Microsoft Technology Licensing, Llc Assisted presentation of application windows
US10642365B2 (en) 2014-09-09 2020-05-05 Microsoft Technology Licensing, Llc Parametric inertia and APIs
US10038443B2 (en) 2014-10-20 2018-07-31 Ford Global Technologies, Llc Directional proximity switch assembly
CN106662891B (zh) 2014-10-30 2019-10-11 微软技术许可有限责任公司 多配置输入设备
KR102304305B1 (ko) 2015-01-21 2021-09-23 엘지전자 주식회사 이동단말기 및 그 제어방법
US9654103B2 (en) 2015-03-18 2017-05-16 Ford Global Technologies, Llc Proximity switch assembly having haptic feedback and method
US9548733B2 (en) 2015-05-20 2017-01-17 Ford Global Technologies, Llc Proximity sensor assembly having interleaved electrode configuration
CN105138256A (zh) * 2015-07-08 2015-12-09 小米科技有限责任公司 光标定位方法、装置及终端
KR101634907B1 (ko) * 2015-08-12 2016-06-29 원혁 터치스크린 입력 방법 및 장치
AU2015410106B2 (en) 2015-09-23 2021-05-27 Razer (Asia-Pacific) Pte. Ltd. Trackpads and methods for controlling a trackpad
JP2017068569A (ja) * 2015-09-30 2017-04-06 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US10061427B2 (en) 2016-03-24 2018-08-28 Microsoft Technology Licensing, Llc Selecting first digital input behavior based on a second input
US10228892B2 (en) * 2017-03-17 2019-03-12 Dell Products L.P. Information handling system management of virtual input device interactions
US10223057B2 (en) 2017-03-17 2019-03-05 Dell Products L.P. Information handling system management of virtual input device interactions
CN110069147B (zh) * 2018-01-23 2023-02-03 可赛尔内存股份有限公司 操控装置及其控制方法
US11169613B2 (en) * 2018-05-30 2021-11-09 Atheer, Inc. Augmented reality task flow optimization systems
US11669243B2 (en) 2018-06-03 2023-06-06 Apple Inc. Systems and methods for activating and using a trackpad at an electronic device with a touch-sensitive display and no force sensors
US10776006B2 (en) 2018-06-03 2020-09-15 Apple Inc. Systems and methods for activating and using a trackpad at an electronic device with a touch-sensitive display and no force sensors
CN113918076A (zh) * 2021-12-15 2022-01-11 深圳佑驾创新科技有限公司 一种触控屏的触控方法、触控装置及存储介质
US11966515B2 (en) * 2021-12-23 2024-04-23 Verizon Patent And Licensing Inc. Gesture recognition systems and methods for facilitating touchless user interaction with a user interface of a computer system

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0454629A (ja) * 1990-06-25 1992-02-21 Toshiba Corp 画像表示装置
US5483261A (en) * 1992-02-14 1996-01-09 Itu Research, Inc. Graphical input controller and method with rear screen image detection
JPH0628095A (ja) * 1992-07-08 1994-02-04 Fuji Xerox Co Ltd 座標入力制御装置
US5870083A (en) * 1996-10-04 1999-02-09 International Business Machines Corporation Breakaway touchscreen pointing device
US8479122B2 (en) * 2004-07-30 2013-07-02 Apple Inc. Gestures for touch sensitive input devices
JP3867226B2 (ja) * 2000-02-15 2007-01-10 株式会社 ニューコム 複数の指示部位で操作可能なタッチパネルシステム
US6670561B2 (en) * 2000-05-08 2003-12-30 Wacom Co., Ltd. Coordinates input method
US6791536B2 (en) * 2000-11-10 2004-09-14 Microsoft Corporation Simulating gestures of a pointing device using a stylus and providing feedback thereto
US7030861B1 (en) * 2001-02-10 2006-04-18 Wayne Carl Westerman System and method for packing multi-touch gestures onto a hand
US6498590B1 (en) * 2001-05-24 2002-12-24 Mitsubishi Electric Research Laboratories, Inc. Multi-user touch surface
US6938221B2 (en) * 2001-11-30 2005-08-30 Microsoft Corporation User interface for stylus-based user input
CN100412766C (zh) * 2003-08-29 2008-08-20 诺基亚公司 在基于触摸的用户输入装置上用于识别双点用户输入的方法和装置
US7411575B2 (en) 2003-09-16 2008-08-12 Smart Technologies Ulc Gesture recognition method and touch system incorporating the same
KR101128572B1 (ko) * 2004-07-30 2012-04-23 애플 인크. 터치 감지 입력 장치용 제스처
US7728823B2 (en) * 2004-09-24 2010-06-01 Apple Inc. System and method for processing raw data of track pad device
US8077153B2 (en) * 2006-04-19 2011-12-13 Microsoft Corporation Precise selection techniques for multi-touch screens

Also Published As

Publication number Publication date
US20120068963A1 (en) 2012-03-22
JP2007299384A (ja) 2007-11-15
US20070257891A1 (en) 2007-11-08
EP1852774A3 (en) 2010-10-20
EP1852774A2 (en) 2007-11-07

Similar Documents

Publication Publication Date Title
JP4869135B2 (ja) コンピュータで実施するマルチタッチセンシティブ画面でマウスをエミュレートする方法及びマウスをエミュレートするシステム
JP4890853B2 (ja) カーソルを用いて入力を制御する入力制御方法
Esenther et al. Fluid DTMouse: better mouse support for touch-based interactions
JP5456529B2 (ja) グラフィカル・ユーザ・インターフェース・オブジェクトを操作する方法及びコンピュータシステム
US9811186B2 (en) Multi-touch uses, gestures, and implementation
US9223471B2 (en) Touch screen control
Hinckley et al. Touch-sensing input devices
JP5691464B2 (ja) 情報処理装置
Miyaki et al. GraspZoom: zooming and scrolling control model for single-handed mobile interaction
JP5559866B2 (ja) バイモーダルタッチセンサ式デジタルノートブック
JP2011028524A (ja) 情報処理装置、プログラムおよびポインティング方法
Fruchard et al. MarkPad: Augmenting touchpads for command selection
US20120233545A1 (en) Detection of a held touch on a touch-sensitive display
TWM347623U (en) Handheld mobile communication device
JP2010517197A (ja) マルチポイント感知装置でのジェスチャー
JP7233109B2 (ja) タッチ感知面-ディスプレイによる入力方法、電子装置、触覚-視覚技術による入力制御方法及びシステム
JP2010079868A (ja) ユーザーインターフェースを操作する方法
TW201005598A (en) Touch-type mobile computing device and display method thereof
JP5275429B2 (ja) 情報処理装置、プログラムおよびポインティング方法
Tu et al. Text Pin: Improving text selection with mode-augmented handles on touchscreen mobile devices
US20150100912A1 (en) Portable electronic device and method for controlling the same
KR20150098366A (ko) 가상 터치패드 조작방법 및 이를 수행하는 단말기
RU96671U1 (ru) Универсальное устройство ввода информации в персональный компьютер (варианты)
TW201131432A (en) Electronic device and enable method of virtual mouse
JP2015072561A (ja) 情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110816

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110817

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111018

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111115

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141125

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees