JPWO2012157272A1 - 表示装置、表示制御方法及び表示制御プログラム、並びに、入力装置、入力支援方法及びプログラム - Google Patents

表示装置、表示制御方法及び表示制御プログラム、並びに、入力装置、入力支援方法及びプログラム Download PDF

Info

Publication number
JPWO2012157272A1
JPWO2012157272A1 JP2013515001A JP2013515001A JPWO2012157272A1 JP WO2012157272 A1 JPWO2012157272 A1 JP WO2012157272A1 JP 2013515001 A JP2013515001 A JP 2013515001A JP 2013515001 A JP2013515001 A JP 2013515001A JP WO2012157272 A1 JPWO2012157272 A1 JP WO2012157272A1
Authority
JP
Japan
Prior art keywords
display
touch panel
control unit
pointer
detection target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013515001A
Other languages
English (en)
Other versions
JP6073782B2 (ja
Inventor
大岳 直人
直人 大岳
俊平 造田
俊平 造田
登 尾花
登 尾花
達郎 五十嵐
達郎 五十嵐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Publication of JPWO2012157272A1 publication Critical patent/JPWO2012157272A1/ja
Application granted granted Critical
Publication of JP6073782B2 publication Critical patent/JP6073782B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/01Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour 
    • G02F1/13Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells
    • G02F1/133Constructional arrangements; Operation of liquid crystal cells; Circuit arrangements
    • G02F1/1333Constructional arrangements; Manufacturing methods
    • G02F1/13338Input devices, e.g. touch panels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03547Touch pads, in which fingers can move on a surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/041012.5D-digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface and also measures the distance of the input means within a short range in the Z direction, possibly with a separate measurement setup
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Nonlinear Science (AREA)
  • Crystallography & Structural Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Chemical & Material Sciences (AREA)
  • Mathematical Physics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Abstract

表示装置は、検知対象が接近又は接触したことを検知するタッチパネル近接タッチパネル50と、接近又は接触したことが検知された検知対象の、XY方向の座標とZ方向の座標とからなる位置座標を検出する位置検出部30と、近接タッチパネル50が配置された表示部40と、検出された位置座標に基づいて、検知対象の向きを判定する向き判定部12と、判定された検知対象の向きに基づいて、検知対象によって遮られる表示部40の一部を避けるよう、表示部40の表示を制御する表示制御部14と、を備える。

Description

本発明は、タッチパネルが配置された表示部の表示を制御する表示装置、表示制御方法及び表示制御プログラム、並びに、タッチパネルに対する入力操作を受け付ける入力装置、入力支援方法及びプログラムに関する。
従来、表示装置に応用可能な近接タッチパネル技術が知られている。近接タッチパネル技術とは、パネルに対して水平なXY方向の位置だけでなく、垂直なZ方向の位置も検出し、XYZの座標位置に応じた処理を可能にする技術である(例えば、非特許文献1参照)。
また、近接タッチパネル装置の一例として、表示部の画面と指示手段(指又はスタイラスペン等)との距離を算出し、この距離に応じて表示の内容を変更させるものが知られている(例えば、特許文献1参照)。
日本国特開2008−250948号公報
鷲野浩之、岡野祐一、川又武典著 「3次元タッチパネルインタフェース」 情報処理学会 インタラクション2009
しかしながら、上記従来の表示装置である特許文献1の近接タッチパネル装置は、指等の向きを考慮していないので、単に近接タッチパネルに指等を近づけるだけで表示の内容が変更されると、その変更に伴って予期しない表示内容の一部が指等により隠れてしまい、見にくくなり、ユーザの表示内容に対する視認性を劣化させることがあった。
本発明は、上記事情に鑑みてなされたものであり、タッチパネルの使用時、使用者が画面に表示された情報を容易に視認できる表示装置、表示制御方法、及び表示制御プログラムを提供することを目的とする。
本発明の一実施形態の表示装置は、検知対象が近接又は接触したことを検知するタッチパネルと、前記タッチパネルにより近接又は接触したことが検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるZ方向の座標とを含む位置座標を検出する位置検出部と、前記タッチパネルが配置された表示部と、前記位置検出部により検出された前記位置座標に基づいて、前記検知対象の向きを判定する向き判定部と、前記向き判定部により判定された前記検知対象の向きに基づいて、前記検知対象によって遮られる前記表示部の表示内容の一部を避けるように、前記表示部に表示させる表示制御部と、を備える。
この構成によれば、検知対象の向きに基づいて、検知対象によって遮られる表示部の画面を避けるように表示部の表示が制御される。これにより、指などの検知対象で表示部の画面を触れる際、検知対象によって画面に表示された表示対象が隠れてしまうことが回避され、タッチパネルの使用時、使用者は画面に表示された情報を容易に視認でき、使用者の表示内容に対する視認性を劣化させることがない。
また、本発明の一実施形態の表示制御方法は、検知対象が近接又は接触したことを検知するタッチパネルを有する表示装置における表示制御方法であって、前記タッチパネルにより近接又は接触したことが検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるZ方向の座標とを含む位置座標を検出するステップと、前記検出された位置座標に基づいて、前記検知対象の向きを判定するステップと、前記判定された前記検知対象の向きに基づいて、前記タッチパネルが配置された表示部において前記検知対象によって遮られる表示内容の一部を避けるように前記表示部に表示させるステップと、を有する。
この方法によれば、検知対象の向きに基づいて、検知対象によって遮られる表示部の画面を避けるように表示部の表示が制御される。これにより、指などの検知対象で表示部の画面を触れる際、検知対象によって画面に表示された表示対象が隠れてしまうことが回避され、タッチパネルの使用時、使用者は画面に表示された情報を容易に視認でき、使用者の表示内容に対する視認性を劣化させることがない。
また、本発明の一実施形態の表示制御プログラムは、検知対象が近接又は接触したことを検知するタッチパネルを有する表示装置であるコンピュータに、前記タッチパネルにより近接又は接触したことが検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるz方向の座標とを含む位置座標を検出するステップと、前記位置検出部により検出された位置座標に基づいて、前記検知対象の向きを判定するステップと、前記向き判定部により判定された前記検知対象の向きに基づいて、前記タッチパネルが配置された表示部において前記検知対象によって遮られる一部を避けるよう、前記表示部の表示を制御するステップと、を実行させるためのプログラムである。
このプログラムによれば、検知対象の向きに基づいて、検知対象によって遮られる表示部の画面を避けるように表示部の表示が制御される。これにより、指などの検知対象で表示部の画面を触れる際、検知対象によって画面に表示された表示対象が隠れてしまうことが回避され、タッチパネルの使用時、使用者は画面に表示された情報を容易に視認でき、使用者の表示内容に対する視認性を劣化させることがない。
また、本発明の一実施形態の入力装置は、検知対象が近接又は接触したことを検知するタッチパネルと、前記タッチパネルにより近接又は接触が検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるz方向の座標とを含む位置座標を検出する位置検出部と、前記タッチパネルが配置された表示部と、前記位置検出部により検出された前記検知対象のz方向の座標を含む情報と、予め定められた判定条件とに基づいて、前記検知対象が指定する操作対象の位置を指し示すインジケータを表示するか否かを判定するポインタ座標制御部と、前記ポインタ座標制御部により前記インジケータを表示すると判定された場合、前記インジケータを前記表示部に表示させる表示制御部と、を備える。
この構成によれば、タッチパネルに対するユーザの入力操作に応じて、入力操作の対象を指し示すインジケータを画面に表示するか否かを簡易に判定し、快適な操作性をユーザに享受させることができる。
また、本発明の一実施形態の入力支援方法は、タッチパネルが配置された表示部を有する入力装置における入力支援方法であって、前記タッチパネルにおいて検知対象が近接又は接触したことを検知するステップと、前記近接又は接触が検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるz方向の座標とを含む位置座標を検出するステップと、前記検出された前記検知対象のz方向の座標を含む情報と、予め定められた判定条件とに基づいて、前記検知対象が指定する操作対象の位置を指し示すインジケータを表示するか否かを判定するステップと、前記インジケータを表示すると判定された場合、前記インジケータを前記表示部に表示させるステップと、を有する。
この方法によれば、タッチパネルに対するユーザの入力操作に応じて、入力操作の対象を指し示すインジケータを画面に表示するか否かを簡易に判定し、快適な操作性をユーザに享受させることができる。
また、本発明の一実施形態のプログラムは、タッチパネルが配置された表示部を有する入力装置であるコンピュータに、前記タッチパネルにおいて検知対象が近接又は接触したことを検知するステップと、前記近接又は接触が検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるz方向の座標とを含む位置座標を検出するステップと、前記検出された前記検知対象のz方向の座標を含む情報と、予め定められた判定条件とに基づいて、前記検知対象が指定する操作対象の位置を指し示すインジケータを表示するか否かを判定するステップと、前記インジケータを表示すると判定された場合、前記インジケータを前記表示部に表示させるステップと、を実行させるためのプログラムである。
このプログラムによれば、タッチパネルに対するユーザの入力操作に応じて、入力操作の対象を指し示すインジケータを画面に表示するか否かを簡易に判定し、快適な操作性をユーザに享受させることができる。
本発明によれば、タッチパネルの使用時、使用者が画面に表示された情報を容易に視認できる。
第1の実施形態における表示装置としての3次元タッチパネル装置の機能構成例を示すブロック図 (A)、(B)第1の実施形態における3次元タッチパネル装置の外観例を示す図 (A)、(B)第1の実施形態における近接タッチパネルが検知する高さ範囲の一例を示す図 第1の実施形態における3次元タッチパネル装置の表示制御手順の一例を示すフローチャート (A)、(B)第1の実施形態における指の向きを決定する方法の一例を説明するための図 (A)〜(C)第1の実施形態における指が接近したことによりポップアップ画面が表示される表示部の画面例を示す図 (A)、(B)第1の実施形態における指が第1閾値以内と第2閾値以内にある場合の表示部の画面例を示す図 第2以降の各実施形態における入力装置としての3次元タッチパネル装置の機能構成例を示すブロック図 3次元タッチパネル装置の表示部における表示画面及びユーザの指の位置の具体例を示す図 3次元タッチパネル装置の操作面とユーザの指との位置関係の具体例を示す図 第2の実施形態の3次元タッチパネル装置の動作を説明するフローチャート 第3の実施形態の3次元タッチパネル装置の動作を説明するフローチャート 第4の実施形態の3次元タッチパネル装置の動作を説明するフローチャート 第5の実施形態の3次元タッチパネル装置の動作を説明するフローチャート 第6の実施形態の3次元タッチパネル装置の動作を説明するフローチャート 第7の実施形態の3次元タッチパネル装置の動作を説明するフローチャート 第8の実施形態の3次元タッチパネル装置の動作を説明するフローチャート 第9の実施形態の3次元タッチパネル装置の動作を説明するフローチャート
(第1の実施形態)
以下、本発明に係る表示装置の第1の実施形態について図面を用いて説明する。
本実施形態の表示装置は、タッチパネルの面に沿って水平なXY方向の位置だけでなく、タッチパネルの面に対して垂直なZ方向の位置も検出可能な近接タッチパネルを搭載した3次元タッチパネル装置に適用される。
図1は、第1の実施形態における表示装置としての3次元タッチパネル装置1の機能構成例を示すブロック図である。3次元タッチパネル装置1は、制御部10、位置検出部30、表示部40、および近接タッチパネル50、を有して構成される。
制御部10は、3次元タッチパネル装置1全体を制御する。また、制御部10は、向き判定部12および表示制御部14を有する。
向き判定部12は、後述するように、位置検出部30により検出された位置座標に基づいて、近接タッチパネル50に接触する指等の検知される対象(検知対象)の向きを判定する。この向き判定部12による判定の仕方については後述する。
表示制御部14は、表示部40の表示を制御するとともに、向き判定部12から通知される指等の方向をもとに、指等が接近した際に表示される、吹き出し等のポップアップ画面の表示位置を制御する。このとき、表示制御部14は、向き判定部12により判定された指等の検知対象の向きに基づいて、検知対象によって遮られる表示部40の一部を避けるよう、表示部40の表示を制御する。
位置検出部30は、近接タッチパネル50の出力をもとに、近接タッチパネル50に接近したあるいは接触した指などの位置、つまり近接タッチパネル50に対して水平なXY座標および垂直なZ座標を検出し、制御部10内の向き判定部12に通知する。すなわち、位置検出部30は、近接タッチパネル50により近接したことが検知された指等の検知対象の、XY方向の座標とZ方向の座標とを含む位置座標を検出する。
表示部40は、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機EL(Electroluminescence)ディスプレイ)からなり、画面に各種のアイコン等を表示する。また、表示部40上には、近接タッチパネル50が配置される。
近接タッチパネル50は、表示部40の画面上に配置され、多点検出(検知)が可能な静電容量方式のタッチパネルである。つまり、近接タッチパネル50は、検知対象としての指等が近接又は接触したことを検知する。この近接タッチパネル50は、ユーザの指等が近づくと、近接タッチパネル50に沿って水平なXY方向に配置されたセンサによって検出される電流値が大きくなることを利用し、近接タッチパネル50に対して垂直方向(Z方向)の距離に応じた信号を位置検出部30に出力する。
図2は、第1の実施形態における3次元タッチパネル装置1の外観例を示す図である。図2(A)は、表示部40にメニュー画面が縦方向を長手方向として表示された場合を示す。メニュー画面における各種のアイコン41が指でタッチされると、このアイコン41に対応する処理が制御部10によって実行される。また、図2(B)は、表示部40に写真リスト画面が横方向を長手方向として表示された場合を示す。写真リスト画面におけるサムネイル45がタッチされると、このサムネイル45の拡大等の処理が行われる。
本実施形態の3次元タッチパネル装置1では、指が画面にタッチする前の、近接した状態(ホバー中)でも、後述するように、表示部40の画面の表示が変化する。図3は、第1の実施形態における近接タッチパネル50が検知する高さ範囲の一例を示す図である。図3(A)は、近接タッチパネル50の横方向(厚さ方向)から見た、画面からの高さ方向に位置する指の検知範囲の一例を示す。図3(B)は、近接タッチパネル50の上方から見た、近接タッチパネル50と指との位置関係の一例を示す。
本実施形態では、2つの閾値(第1閾値、第2閾値)が位置検出部30に設定されている。近接タッチパネル50から出力される信号をもとに、位置検出部30は、第1閾値(5cm)以内の指の近接と第2閾値(1cm)以内の指の近接とを識別する。なお、第1閾値および第2閾値はそれぞれ近接タッチパネル50の仕様、操作性等により任意に設定可能である。また、3つ以上の閾値を設定して指の近接を識別するようにしてもよい。
上記構成を有する3次元タッチパネル装置1の表示動作例について説明する。
3次元タッチパネル装置1では、指(検知対象の一例)が画面(LCD面)の高さ方向において上方から下がってきて第1閾値(例えば5cm)以内(第1の座標範囲)に到達すると、向き判定部12により指の向きが判定される。さらに、指が下降して画面から第2閾値(例えば1cm)以内(第2の座標範囲)に到達すると、指の位置に対応するアイテム(アイコン41もしくはサムネイル45)のポップアップ画面が、指の向きに合わせて表示される。さらに、指が近接タッチパネル50に接触すると、指がタッチされたアイテムに対応する処理が制御部10によって行われる。接触時の処理も指の向きにあわせた動作にすることもできる。
このように、向き判定部12は、位置検出部30により検出された指等の検知対象のZ方向の座標が第1の座標範囲にある場合に、検知対象の向きを判定し、表示制御部14は、検知対象のZ方向の座標が第2の座標範囲にある場合に、検知対象によって遮られる表示部40の画面を避けるように表示部40の表示を制御する。これにより、3次元タッチパネル装置1は、指(検知対象)のZ方向における空間上の位置によって、段階的に処理を行うことができる。
図4は、第1の実施形態における3次元タッチパネル装置1の表示制御手順の一例を示すフローチャートである。この表示制御プログラムは、制御部10内のROMに格納されており、位置検出部30によって第1閾値(5cm)以内に指が検知された場合、割り込み処理として制御部10内のCPUによって実行される。また、第1閾値(5cm)以内に指が検知されなくなると、この処理は停止される。
まず、制御部10は、指の向きをデフォルトである「上」に設定する(ステップS1)。本実施形態では、指の向きは8方向、つまり上、下、左、右、右上、右下、左上、左下の方向に設定可能である。なお、指の向きは、8方向に限らず、任意の方向に設定されてもよい。
続いて、制御部10は、位置検出部30によって第2閾値(1cm)以内に指が検知されたか否かを判別する(ステップS2)。指の高さが第2閾値を越える場合(ステップS2、NO)、制御部10は、近接タッチパネル50により検出される検知点が2点以上あるか否かを判別する(ステップS3)。
1点である場合(ステップS3、NO)、制御部10の動作は、ステップS2の処理に戻る。一方、2点以上ある場合(ステップS3、YES)、向き判定部12は、2点以上の検知点の位置から指の向きを決定する(ステップS4)。この後、制御部10の動作はステップS2の処理に戻る。
一方、ステップS2で指の高さが第2閾値(1cm)以下である場合(ステップS2、YES)、表示制御部14は、ステップS4で決定された指の向きをもとに、その指の先に位置するように、ポップアップ画面を表示させる(図6(A)〜(C)参照)(ステップS5)。ここでは、ポップアップ画面は、8方向のいずれか1つの方向であって、指の先の方向に位置するように表示される。この後、制御部10の動作はステップS2の処理に戻る。
図5は、第1の実施形態におけるステップS4で指の向きを決定する方法の一例を説明するための図である。図5(A)は、近接タッチパネル50の上方から見た場合のホバー中に近接する指の位置の一例を示す。図5(B)は、近接タッチパネル50の横方向(厚さ方向)から見た場合のホバー中に近接する指の位置の一例を示す。
例えば、人差し指でタッチ操作を行う際、通常、親指又は中指も第1閾値(5cm)以内となり、3本の指により3点が検出されることがある。この場合、図5(A)に示すように、近接タッチパネル50の上方(Z方向)から見て、人差し指、親指、中指の検知点で三角形が形成され、向き判定部12は、人差し指の検知点65を頂点とし、親指の検知点66と中指の検知点67を結ぶ直線を底辺とする三角形の傾きあるいは形状から人差し指の向きを決定する。また、このとき、近接タッチパネル50に対して最も近い人差し指の検知点(第3の点)と2番目に近い親指の検知点(第2の点)とを結ぶ直線の右側に、3番目に近い中指の検知点(第1の点)がある場合、向き判定部12は、右手と判断することができる。一方、向き判定部12は、左側に中指の検知点(第1の点)がある場合、左手と判断することもできる。
このように、向き判定部12は、位置検出部30により3点の位置座標が検出された場合、3点のうち、Z方向の座標が最も大きい第1の点と2番目に大きい第2の点とを結ぶ直線と、Z方向の座標が3番目に大きい第3の点と、の位置関係に基づいて、指等の検知対象の向きを判定する。例えば、図5(B)に示すように、z方向の座標が最も大きい第1の点は人差し指の検知点65、z方向の座標が2番目に大きい第2の点は親指の検知点66、z方向の座標が3番目に大きい第3の点は中指の検知点67である。これにより、向き判定部12は、3つの検知点65,66,67で指(例えば人差し指)の向きを確実に決定することができる。
指の向きの決定の仕方は、他にも様々な方法が考えられる。例えば、人差し指でタッチ操作を行う際、親指と合わせて2点が検出されることがある。この場合、向き判定部12は、Z方向の座標の大きい親指の検知点(第1の点)からZ方向の座標の小さい人差し指の検知点(第2の点)に至るベクトルの方向から指等の検知対象の向きを決定する。これにより、向き判定部12は、2点でも簡単に指の向きを決定することができる。さらに、向き判定部12は、親指のように遠い点から人差し指のように近接タッチパネル50に近い点へと左斜め上(左上)方向となるベクトルが指の向きとして決定された場合、同時に右手と判断することができる。
また、人差し指の検知点を通るX軸もしくはY軸の直線に対して親指が右側にあるか左側にあるかによって指の向きが変わる。例えば、表示制御部14は、人差し指等の検知点(第2の点)でアイコン等の表示対象を特定し、親指の検知点(第1の点)をこの直線に対して右側あるいは左側に動かすことによって、使用者が意図的に表示対象のポップアップ画面等の表示位置を制御するようにしてもよい。このように、表示制御部14は、2点のうち第2の点で表示部40の画面に表示された表示対象を特定し、第1の点の位置座標に応じて、特定された表示対象に関する情報の表示部40における表示位置を制御してもよい。これにより、表示制御部14は、ユーザの動作に応じて情報の表示位置を柔軟に変更することができる。
また、片手で親指によりタッチ操作する場合、向き判定部12は、親指の腹とこの親指の付け根部分とを検出することで、指の向きを決定することも可能である。
また、3つ以上の検知点が検出される場合、向き判定部12は、人差し指と親指の2つの検知点から決定される直線に対してどちらの側に検知点の数が多いか、あるいは検知点の面積が大きいかによって、右手か左手かを判断するようにしてもよい。
なお、本実施形態では、2点以上の検知点があった場合、指の向きが決定されたが、向き判定部12は、1点の検知点であっても、最初に検出された座標から、一定距離以上離れて検知点の座標が検出された場合、この2検知点に対応する指は別の指であると判定し、この検知点の移動方向から指の移動方向を決定するようにしてもよい。そして、表示制御部14は、この指の移動方向をもとに、その移動先にポップアップの表示位置を制御するようにしてもよい。
また、ステップS4で指の向きが決定される際、表示制御部14は、人差し指を含む手の部分と表示部40の画面とのXY方向における重複範囲(重複部分)を推定することを並行して行う。この推定される重複範囲は、使用者自身の人差し指近傍の手の部分によって、表示部40の画面が視界から遮られると考えられる範囲であり、例えば検出された検知点の数と位置座標から算出可能である。
例えば、向き判定部12は指の向きから右手であるか左手であるかを判断し、右手である場合、表示制御部14は、人差し指の検知点である位置座標を頂点とする幾何学形状が手の部分であるとして、この手の部分と表示部40の画面の重複範囲がXY方向に算出される。このように、表示制御部14は、表示部40の画面が視界から遮られると考えられる範囲を定量的に求めることができる。
このように、表示制御部14は、XY方向における表示部40の画面と検知対象との重複部分を推定し、この重複部分を避けて表示部40が表示するよう制御する。これにより、指等の検知対象により必要な情報が隠れてしまうことを防止でき、ユーザは容易に表示内容を確認することができ、ユーザの表示部40の表示内容の視認性を劣化させることがない。
なお、手の部分の形状を厳密な形として求めなくてもよく、表示制御部14は、単純な楕円形又は四角形等、単純な図形に置き換えることで、重複範囲の計算が簡単になる。あるいは、表示制御部14は、計算することなく、常に、検知点から一定の範囲を手の部分であるとしてもよい。この場合、表示制御部14は、検知点となる人差し指が右手である場合に左上隅を頂点とする四角形等の形状とし、左手である場合、右上隅を頂点とする四角形等の形状とすることも可能である。
また、上記説明では、指の向きを決定することと、右手あるいは左手を判断することが同時に行われたが、同時に行われなくてもよい。例えば、表示制御部14は、タッチ操作を行う手を、常に右手もしく左手としてあらかじめ登録しておき、前述した手順で決定された指の向きに応じて、右手もしくは左手によって視界が遮られないように、ポップアップなどの表示を制御するようにしてもよい(例えば、右手設定は左上表示、左手設定は右上表示)。
図6は、第1の実施形態における指が接近したことによりポップアップ画面が表示される表示部40の画面例を示す図である。図6(A)は、縦方向を長手方向として表示されたメニュー画面に対し、右手の人差し指で指示する場合を示す。この場合、人差し指63が近接するアイコン41の内容を表すポップアップ画面(吹き出し)42が人差し指63から逃れるように、つまり、前述した重複範囲を避けるように、左上方向に表示される。
図6(B)は、横方向を長手方向として表示された写真リスト画面に対し、左手の人差し指で指示する場合を示す。この場合、人差し指63が近接するサムネイル45の内容を表すポップアップ画面(吹き出し)46が右上方向に表示される。図6(C)は、横方向を長手方向として表示された写真リスト画面に対し、右手の人差し指で指示する場合を示す。この場合も同様に、人差し指63が近接するサムネイル45の内容を表すポップアップ画面(吹き出し)46が左上方向に表示される。
このように、表示制御部14は、向き判定部12により判定された指等の検知対象の向きに基づいて、検知対象からその向きの先へ(例えば右手のときに人指し指が左上を向いているのでアイコン等の左上に)、表示部40が表示対象に関する情報(例えばポップアップ)を表示するよう制御してもよい。これにより、より見やすい位置にポップアップ等を表示することができる。
以上により、本実施形態の3次元タッチパネル装置1は、人差し指等で画面に表示されたアイコンもしくはサムネイルをタッチ操作し、近接タッチパネル50を使用する時、人差し指等から逃れるようにポップアップ画面を表示する。これにより、3次元タッチパネル装置1は、人差し指等を含む手によって画面に表示されたアイテムが隠れてしまうことが回避され、使用者に表示部40の画面に表示されたアイテム等を容易に視認させることができる。
なお、上記実施形態では、指が近接したアイテムに関するポップアップ画面を表示させる場合を示したが、表示態様の変化はポップアップ画面に限られない。表示制御部14が、指が近接したアイテムだけを指の方向にあわせて拡大表示してもよいし、指を含む手で覆われる画面の範囲(重複範囲)内に表示されるアイテムを、この重複範囲を避けるように、残りの画面部分に退避するように画面全体の表示を変化させてもよい。
また、表示制御部14は、指が画面の上方から下がってきて、第1閾値以内に到達した場合、さらに、指等が下降して画面から第2閾値以内に到達した場合、その旨、つまり「ホバー中」であることを表示部40の画面に表示させるようにしてもよい。
図7は、第1の実施形態における指が第1閾値以内と第2閾値以内にある場合の表示部40の画面例を示す図である。図7(A)では、指が第1閾値以内に到達した場合、画面の上部に「ホバー中」の文字メッセージ71が表示されている。図7(B)では、指が第2閾値以内に到達した場合、画面の上部に「ホバー中」の文字メッセージ71が表示されるととともに、アイテムの内容を表すポップアップが表示されている。これにより、3次元タッチパネル装置1は、使用者にホバー中であることを明示的に認識させることができる。なお、3次元タッチパネル装置1は、指が第1閾値から第2閾値にある間、「ホバー中」の文字メッセージ71を表示し続けてもよい。この場合、表示制御部14は、第1閾値以内に入った場合と第2閾値以内に入った場合とでメッセージ内容を変更し、あるいは文字の属性(色、大きさ、フォント)などを変更して区別できるようにしてもよい。
また、上記実施形態では、近接タッチパネル50は、近接する指等の位置を検知する場合を示したが、指の代わりに導電性のスタイラスペンなどを検知する構成にしてもよい。
また、上記実施形態の機能を実現するプログラムを、ネットワークあるいは各種記憶媒体を介して3次元タッチパネル装置1に供給し、この3次元タッチパネル装置1のコンピュータが読み出して実行するプログラムも、本発明の適用範囲である。
第1の実施形態の近接タッチパネル50に関連する先行技術として、参考特許文献1の入力表示装置が知られている。参考特許文献1の入力表示装置は、指の位置からずれた位置にポインタを表示し、ユーザが画面上の小さいボタン等に指で触れる際に、操作対象のボタンが指で隠れるのを防止でき、指で操作する位置を正確に位置決めするための操作を簡易化することができる。
(参考特許文献1)日本国特開2009−26155号公報
しかし、ユーザが例えば大きいボタン又は画像のように比較的サイズの大きいオブジェクトを操作しようとする場合には、操作する位置を指し示すポインタの位置が実際の指の位置からずれているため、かえって指の位置決めが難しくなる。即ち、サイズの大きいオブジェクトを操作する場合であっても、直感的な操作を行うことができず、ユーザは表示されたポインタを見ながら慎重に指を動かして位置決めしなければなない。そのため、素早いタッチ操作ができなくなり、ユーザの操作性が損なわれる。
また、第1の実施形態において検知対象の位置からずれた位置にポインタを表示させる技術に関する先行技術として、参考特許文献2の情報処理装置が知られている。この情報処理装置は、ペン入力装置を備え、操作するペン入力装置の先端位置と画面上に表示するペンカーソルの位置との間に所定量のオフセットを与えるか否かを画面の領域毎に切り替える。これにより、オフセットの影響により操作性が損なわれるのを抑制可能である。
(参考特許文献2)日本国特開平6−131120号公報
しかし、参考特許文献2では、画面上の領域毎に「オフセットを与えるか否か」を表す属性を予め決定しておかなければならない。このため、汎用的な用途に利用することが困難であると考えられる。例えば、ウェブブラウザを用いてHTML(Hypertext Markup Language)で記述されたコンテンツを表示する場合であれば、タッチする対象が大きいかどうかはコンテンツ次第であるため、予め属性を決めておくことは困難である。
(第2の実施形態〜第9の実施形態)
そこで、第2以降の各実施形態では、タッチパネルに対するユーザの入力操作に応じて、入力操作の対象を直接的に指し示すインジケータを画面に表示するか否かを簡易に判定し、快適な操作感を享受させる入力装置、入力支援方法及びプログラムを説明する。
<前提の説明>
以下の各実施形態の入力装置は、様々な情報又はデータを画面に表示する機能を有する表示部を含む電子機器に搭載可能である。このような電子機器の具体例として、例えば携帯電話機、スマートフォン、タブレット端末、デジタルスチルカメラ、PDA(personal digital assistant)、電子書籍端末等がある。以下の説明においては、代表例として、第2以降の各実施形態の入力装置をスマートフォンとした場合について説明する。
なお、本発明は、装置としての入力装置、又は入力装置をコンピュータとして動作させるためのプログラムとして表現することも可能である。更に、本発明は、入力装置により実行される各動作(ステップ)を含む入力支援方法として表現することも可能である。即ち、本発明は、装置、方法及びプログラムのうちいずれのカテゴリーにおいても表現可能である。
第2以降の各実施形態の入力装置は、ユーザの入力操作を受け付け、ユーザが画面上に表示された表示内容(例えばオブジェクト)に対して操作しようとしている位置を直接的に指し示すインジケータ(例えばポインタPT)を画面上に表示し又は非表示(消去)する。
第2以降の各実施形態の入力装置は、ユーザの入力操作を受け付けることにより、例えばユーザが指示した処理を実行することが可能になる。処理の対象となるオブジェクトは、処理可能なコンテンツのデータファイル、コンテンツの中の一部分の領域、アプリケーション(プログラム)、コンテンツ又はアプリケーションと関連付けられたアイコン、ハイパーリンクされた文字列等である。なお、コンテンツの具体例としては、静止画、動画、文字列、音声情報、あるいはそれらの複数の組み合わせ等がある。
更に、以下の各実施形態において、処理の代表例は次の通りであるが、これらの処理に限定されない。第1の処理は、ユーザの操作により指定されたアプリケーションを起動する処理である。第2の処理は、ユーザの操作により指定されたコンテンツのファイルを開く処理である。第3の処理は、起動したアプリケーション上でユーザ操作により指定された機能を実行する処理である。第4の処理は、処理中のコンテンツに対してユーザ操作により指定された編集を施す処理である。
後述するように、第2以降の各実施形態の入力装置は、ユーザの操作面であるタッチパネル及び表示部における画面の表面或いはその表面に近接した空間上のユーザの指の位置を検知することができる。この位置を表現するために、互いに直交する3軸、すなわちx軸、y軸、z軸の各軸方向の位置情報を用いる。ここで、x軸、y軸は、タッチパネルの表面と平行な向きの軸を表す。また、z軸はタッチパネルの表面に対して垂直な方向の軸を表す。
以下の説明では、タッチパネルの表面上に接触しているユーザの指等の平面上の位置を表現するために2軸の2次元座標(x、y)を用いる。また、タッチパネルの表面上から離間した空間上の位置に近接しているユーザの指等の空間上の位置を表現するために3軸の3次元座標(x、y、z)を用いる。3軸の3次元座標(x、y、z)におけるz軸方向の位置は、タッチパネルの表面に対する垂直(z)方向の高さを表している。
更に、以下の説明において、指をタッチパネルの面上から離間した空間上の位置にかざす操作又はタッチパネルの面上から離間した空間上の位置からタッチパネルの面に対して略平行にスライドする操作を、「ホバー操作」と定義する。従って、指がタッチパネルの面上に直接タッチする操作は「ホバー操作」ではなく、タッチ操作となる。なお、ホバー操作において指とタッチパネルの面上との距離は、タッチパネルが検出する静電容量に反比例するため、タッチパネルが検出可能な静電容量の範囲に対応する距離であることが好ましい。
また、タッチパネルの面から十分に離れた位置から指をタッチパネルに近づけて「ホバー操作」に遷移した状態を「ホバーイン」と定義する。従って、指が近接したことをタッチパネルが検知することができるときのz座標(高さ)をzthとすると、「ホバーイン」に遷移した状態とは、指とタッチパネルとの距離(z座標、高さ)となった状態である。
また、「ホバー操作」状態から指をタッチパネルの面から遠ざけたために「ホバー操作」でなくなった状態を「ホバーアウト」と定義する。従って、「ホバーアウト」に遷移した状態とは、指とタッチパネルとの距離(z座標、高さ)が閾値zthを超えた状態である。なお、ここでは閾値zthを長さとして表しているが、例えば静電容量として表しても良く、閾値zthの単位は長さの単位(例えばcm)ではなく、F(ファラド)となる。
<第2以降の各実施形態に共通する3次元タッチパネル装置1の構成例>
図8は、第2以降の各実施形態における入力装置としての3次元タッチパネル装置1の機能構成例を示すブロック図である。なお、図8に示した3次元タッチパネル装置1の構成は、後述する様々な実施形態の全てに共通である。
図1に示すように、3次元タッチパネル装置1は、制御部10、位置検出部30、表示部40及び近接タッチパネル50を含む。制御部10は、ポインタ座標制御部11、アプリケーション処理部13及びポインタ表示制御部15を含む。
近接タッチパネル50(タッチパネル)は、平面状の操作面を有しており、操作面の微小領域毎に、検知対象物(例えば指又はスタイラス)が近接したこと又は接触したことを検知することができる。近接タッチパネル50は、検知対象物(例えばユーザの指)の3次元座標(x、y、z)の情報を周期的に取得する。この取得タイミングは、例えば15ミリ秒周期とする。以下、近接タッチパネル50の検知対象物として、ユーザの指を用いて説明する。即ち、ユーザは、指を近接タッチパネル50の操作面に近づけることにより、3次元タッチパネル装置1に対して入力操作を行うことができる。なお、指の代わりにペン或いはスタイラスを用いることも可能である。具体例としては、近接タッチパネル50は、操作面の微小領域毎に静電容量の大きさを検知することにより、指等の検知対象物の近接状態又は接触状態を検知できる。
位置検出部30は、近接タッチパネル50の操作面に近接又は接触した指等の検知対象物の各軸方向の位置を示す3次元座標(x、y、z)を算出して抽出する。また、位置検出部30は、指等の検知対象物の状態として、「非検出状態」、「近接状態」及び「接触状態」のうちいずれかの状態を検知する。なお、近接状態はユーザの指がホバー操作中に検知され、接触状態はユーザの指がタッチ操作中に検知される。
表示部40は、例えば表示画面を有するLCD又は有機ELディスプレイを用いて構成され、制御部10から出力されたデータ又はポインタ等の可視情報を表示画面に表示する。表示部40の表示画面上には、透明な材料により構成されている近接タッチパネル50の操作面が重なった状態で配置されている。
また、近接タッチパネル50上で検出される指の操作位置の2次元座標(x、y)と、表示部40の表示画面上の各位置とは互いに一致するように制御される。従って、ユーザは、表示部40の表示画面に表示された可視情報(例えばオブジェクト)を見ながら、可視情報に直接触れるような感覚で操作することができる。
制御部10は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成され、3次元タッチパネル装置1の総括的な制御を行い、その他の種々の演算処理又は制御処理を行う。制御部10は、制御部10に内蔵されているROM(不図示)に格納されているプログラム及びデータを読み込んで、第2以降の各実施形態における種々の処理を行う。
ポインタ座標制御部11は、位置検出部30が検出した指の3次元座標(x、y、z)及び予め定められた判定条件を基に、ポインタPTを表示するか否かを判定し、判定結果をポインタ表示制御部15に出力する。ポインタ座標制御部11は、位置検出部30が検出した指の3次元座標(x、y、z)を基に、ユーザの入力操作としてホバー操作又はタッチ操作のいずれかを検出し、入力操作に応じた指示をアプリケーション処理部13に出力する。ポインタ座標制御部11は、必要に応じてアプリケーション処理部13の状態を参照する。
アプリケーション処理部13は、自動的に又はユーザの入力操作に従って様々なアプリケーションプログラムを実行する。アプリケーション処理部13は、アプリケーションプログラムが生成した様々な可視情報、例えばアプリケーションの全体を表すフレーム、メニュー、ボタン、アイコン等を表示部40の表示画面上に表示する。アプリケーション処理部13は、現在実行しているアプリケーションの情報又は表示部40の表示画面の表示領域毎に表示されているオブジェクトの情報を判定してポインタ座標制御部11に出力する。
ポインタ表示制御部15は、操作対象の位置を指し示すポインタPTを表示部40の表示画面上に表示させる。ポインタPTを表示する位置は、位置検出部30が検出した指等の2次元座標(x、y)に基づいて決定される。ポインタPTを表示する位置の詳細については後述する。また、ポインタPTを表示部40の表示画面上に表示するか否かは、ポインタ座標制御部11の判定結果により決定される。
<表示部40の画面表示例>
図9は、3次元タッチパネル装置1の表示部40における表示画面及びユーザの指UFの位置の具体例を示す図である。図9に示すように、表示部40の表示画面上には様々なアイコン等の可視情報(例えばオブジェクト)が表示されている。表示部40の表示画面には近接タッチパネル50が重なって配置されているので、ユーザは表示画面に手UHを近づけて、表示画面の表示内容を見ながら所望の操作対象に指UFで触れるような操作を行うことにより、所望の入力操作を行うことができる。
図9では、表示画面上にポインタPTとして、矢印形状のパターンを有するオブジェクトが表示されている。このポインタPTは、矢印の先端の位置が操作対象の位置を指し示すように制御されている。また、図9に示す例では、ポインタPTの表示位置は、所定量のオフセットが与えられている。即ち、ユーザの指UFの先端位置の2次元座標(x、y)ではなく、ユーザの指UFの先端位置の2次元座標(x、y)から所定量のオフセットが与えられた位置にポインタPTが表示されている。
このように、3次元タッチパネル装置1は、指UFの先端位置の2次元座標(x、y)ではなく、指UFの先端位置の2次元座標(x、y)から所定量のオフセットが与えられた位置にポインタPTを表示することにより、指UFが表示部40の表示画面に近づいた場合に、ポインタPT又は小さい操作対象のオブジェクト(例えばアイコン又はボタン等)が指UFに隠れてユーザの視界から見えなくなることを避けることができ、ユーザの表示画面に表示されている表示内容に対する視認性を向上させることができる。
<指の検出状態の具体例>
図10は、3次元タッチパネル装置1の操作面とユーザの指UFとの位置関係の具体例を示す図である。表示部40の表示画面上に配置されている近接タッチパネル50は、近接タッチパネル50の性能理論値によれば、図10に示すように、例えば表示画面(近接タッチパネル50の操作面)からのz方向の距離が10cm以内であれば、指UFの存在及び指UFの位置を示す3次元座標(x、y、z)を検知でき、距離が10cmよりも離れると非検知状態になる。
しかし、指UFと近接タッチパネル50の操作面との間の距離が離れすぎている状態では、近接タッチパネル50における指UFの位置決めの精度が3次元タッチパネル装置1の使用状況によっては劣化することが考えられる。従って、近接タッチパネル50は、図10に示すように、例えば近接タッチパネル50の操作面からのz方向の距離が2cm以内の時に、ユーザの指UFのホバー操作を受け付けるとする。この場合、近接タッチパネル50が指UFの近接状態を検知することができるか否かを判定するための閾値zthは2cmとなる。
即ち、ポインタ座標制御部11は、位置検出部30が検出した3次元座標(x、y、z)のz方向の位置を閾値zth(2cm)と比較し、ユーザの指UFによりホバー操作が行われているか否かを判定する。従って、図10に示すように、ユーザが手UHを近接タッチパネル50に近づけた際には、近接タッチパネル50の操作面と指UFとの間のz方向の距離が10cm以内になった時点で「非検出状態」ではなくなるが、近接タッチパネル50は、近接タッチパネル50の操作面と指UFとの間のz方向の距離が閾値zth(2cm)よりも離れたときに、ホバーアウト状態を検知する。
近接タッチパネル50は、近接タッチパネル50の操作面と指UFとの間のz方向の距離が閾値zth(2cm)以内になると、ホバーイン状態を検知し、ユーザの指UFによりホバー操作が行われていることを検知する。また、近接タッチパネル50は、近接タッチパネル50の操作面と指UFとの間のz方向の距離が予め定められたタッチ判定用閾値未満となるか又は実際に接触したことを検知した場合に、ユーザの指UFによりタッチ操作が行われたことを検知する。なお、閾値zthについては、3次元タッチパネル装置1の動作中において変更しても良い。
<3次元タッチパネル装置1の動作>
次に、第2以降の各実施形態の入力装置としての3次元タッチパネル装置1の動作について、図11から図18までの各図を参照して説明する。
<第2の実施形態>
図11は、第2の実施形態における3次元タッチパネル装置1の動作を説明するフローチャートである。制御部10のポインタ座標制御部11は、図11に示すフローチャートの動作を実行することにより、ポインタPTの表示又は非表示の制御と、ポインタPTの表示位置を制御する。なお、図11に示す各動作のステップにおいて、等号「=」は右辺の内容を左辺に代入することを意味し、図12以降の各図においても同様である。
図11に示す座標入力制御が開始すると、ポインタ座標制御部11は、位置検出部30から出力された指の位置座標を監視し、指UFの近接を検知するまで待機する(S11)。即ち、ポインタ座標制御部11は、指UFの位置に関する近接タッチパネル50の操作面からのz方向の距離と図10に示す閾値zthとを比較する(S11)。ユーザの指UFが近接タッチパネル50に近づいてホバーアウト状態からホバーイン状態になる、即ち、指UFの位置に関する近接タッチパネル50の操作面からのz方向の距離が閾値zth以下となった場合には(S11、YES)、ポインタ座標制御部11の動作は次のステップS12に進む。
ポインタ座標制御部11は、ポインタPTの表示位置の座標オフセット量を初期化する(S12)。即ち、ポインタ座標制御部11は、x方向のオフセット量を表すパラメータdXに「0」を代入し、y方向のオフセット量を表すパラメータdYに「0」を代入する。従って、最初の状態では、オフセット量は「0」になる。オフセット量は、指UFの近接を検出した3次元座標(x、y、z)に対応する近接タッチパネル50上の位置の2次元座標(x、y)とポインタPTの表示位置との間のずれ量を意味する。
ポインタ座標制御部11は、ポインタ表示制御部15にポインタPTを非表示させる(S13)。また、ホバー操作を開始してからの経過時間を測定するために、ポインタ座標制御部11は、不図示のタイマに計時動作を開始させる(S14)。なお、タイマは、図8に示す3次元タッチパネル装置1に図示されていないが、例えば制御部10内に設けられ、制御部10内の各部からの指示を受けて計時動作を開始する。タイマの計時動作によりカウントされている経過時間情報は、制御部10内の各部から必要に応じて参照される。
ポインタ座標制御部11は、ユーザの指UFの操作状態を監視するために、位置検出部30から指UFの位置を表す3次元座標(x、y、z)の情報を取得し、現在、ユーザの指UFにより行われている操作種別(例えば、タッチ操作又はホバー操作)の操作状態情報を取得する(S15)。
ステップS15の後の処理群PR1では、ポインタ座標制御部11は、ポインタPTの表示制御を実行する。なお、第3,第4,第5,第6,第7,第8の各実施形態では、図12,図13,図14,図15,図16,図17の点線内の処理群PR2,PR3,PR41,PR42,PR43,PR5の内容が異なる。
先ず、ポインタ座標制御部11は、予め定められた判定条件に従って、ポインタPTを表示するか否かを判定する(S16)。即ち、処理群PR1では、ポインタ座標制御部11は、ステップS15において取得された操作状態情報が非タッチ操作を示す情報であって、且つ、ステップS14においてタイマの計時動作を開始させてから所定時間T1が経過したか否かを判定する(S16)。操作状態情報が非タッチ操作(例えばホバー操作。以下同様)を示す情報であって、且つ、所定時間T1が経過した場合には(S16、YES)、ポインタ座標制御部11は、ポインタPTを表示すると判定する。この後、ポインタ座標制御部11の動作はステップS17に進む。
一方、操作状態情報が非タッチ操作を示す情報ではない場合、即ち、操作状態情報がタッチ操作を示す情報である場合(S16、NO)、又は、所定時間T1が経過していない場合には(S16、NO)、ポインタ座標制御部11は、ポインタPTを表示しないと判定する。この後、ポインタ座標制御部11の動作はステップS19に進む。
ステップS17では、ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量として、パラメータdXに予め定められた定数OXを代入し、パラメータdYに予め定められた定数OYを代入する(S17)。以下の説明において、定数OX,OYは、正の所定値である。
ポインタ座標制御部11は、ポインタ表示制御部15に、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS17により代入されたオフセット量(dX、dY)ほどずれた位置にポインタPTを表示させる旨の指示を出力する(S18)。なお、この指示には、オフセット量(dX、dY)の情報が含まれている。
ポインタ表示制御部15は、ポインタ座標制御部11から出力された指示に従って、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS17により代入されたオフセット量(dX、dY)ほどずらした位置にポインタPTを表示する(S18)。なお、ポインタPTは、例えば指UFが指し示す方向の延長線上の方向に表示される。
ポインタ座標制御部11は、表示画面上に表示されたオブジェクトのうちユーザの操作対象の位置を指し示す近接タッチパネル50上の2次元座標の座標値として、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の各座標値と、ステップS17により代入されたオフセット量(dX、dY)とを加算した座標値とする(S19)。
なお、ステップS19では、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の各座標値とオフセット量(dX、dY)とが加算されているが、指UFの方向に応じて加算されたり減算されたりしても良く、以下の各実施形態においても同様である。
例えば、第1の実施形態において説明したように、ポインタ座標制御部11は、ユーザの指UFの向きを判定した上で、例えば指UFの向きがX軸の負方向であってY軸の正方向である場合(図9参照)にはオフセット量dXを減算してオフセット量dYを加算する。また、ポインタ座標制御部11は、例えば指UFの向きがX軸の正方向であってY軸の負方向である場合にはオフセット量dXを加算してオフセット量dYを減算する。なお、オフセット量の加算又は減算については、以下の各実施形態においても同様である。
なお、ステップS16において所定時間T1が経過していない場合にはポインタPTは表示されないが、ステップS11において検知された指UFの3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)に、ステップS12におけるオフセット量の初期値(dX、dY)=(0、0)が加算される(S19)。
ポインタ座標制御部11は、ステップS19において加算又は減算によって修正されたポインタPT表示位置、即ち、ユーザの操作対象を指し示す位置の座標と、ユーザの指UFの操作状態情報(タッチの有無等の状態を表す情報)をアプリケーション処理部13に通知する(S20)。アプリケーション処理部13は、ユーザの指UFによるタッチ等の入力操作を受け付けることができる。
ポインタ座標制御部11は、位置検出部30からの出力を基にタッチ操作又はホバー操作が行われていると判定している間は(S21、YES)、ステップS15からステップS21の各動作を繰り返して実行する。ユーザの指UFが近接タッチパネル50の操作面から閾値zthを超えて離間すると(S21、NO)、ポインタ座標制御部11の動作はステップS22に進む。
ポインタ座標制御部11は、ポインタ表示制御部15にポインタPTを非表示させ(S22)、指UFによるホバー操作を検知していない旨をアプリケーション処理部13に通知する(S23)。なお、図11に示す動作は繰り返して実行される。即ち、ステップS23の後、再びステップS11に戻ってステップS11からステップS23までの各動作が繰り返される。
以上により、本実施形態の3次元タッチパネル装置1は、図11に示す動作を行うことにより、ポインタPTの表示又は非表示を自動的に切り替えることができる。即ち、初期状態ではポインタPTは非表示になる。また、ユーザが指を操作面に接近させる操作によって、ホバーアウトからホバーイン(ホバー操作)に遷移した後、一定の時間T1(例えば1秒間)を経過するまではポインタPTの非表示状態が維持される。また、ホバーイン(ホバー操作)に遷移した後で一定の時間T1を経過するとポインタPTが表示状態に切り替わる。更に、タッチ操作又はホバー操作状態から、ユーザが指を遠ざけてホバーアウトに遷移した場合には、ポインタPTは非表示に切り替わる。
また、ポインタPTを表示する時には、ポインタPTの表示位置と一致するように、ユーザが操作する位置も、実際の指の位置からオフセット量(dx、dy)だけずれた位置になる。ポインタPTが非表示状態の時には、オフセット量の影響はなくなり、ユーザが操作する位置は実際の指の位置と一致する。
例えば、画面上に表示されている比較的大きいボタンをユーザが指でタッチして操作しようとする場合には、操作対象領域の面積が大きいので、ユーザは指でボタンをすばやくタッチすることができる。このような場合には、指の操作に要する時間が短いので、ホバーアウトからホバーイン(ホバー操作)に遷移した後、所定時間T1が経過する前にタッチ操作が終了する。従って、この場合にはポインタPTは非表示のままであり、操作する位置についてはオフセット量の影響は生じない。このため、ユーザは直感的な指の操作によりすばやく入力操作を行うことができる。
一方、画面上に表示されている比較的小さいボタンをユーザが指でタッチして操作しようとする場合には、操作対象領域の面積が小さいので、ユーザは操作する指の位置を細かく調整する必要がある。この場合も、最初はポインタPTが非表示であるが、ホバーアウトからホバーイン(ホバー操作)に遷移した後、そのまま所定時間T1が経過するとポインタPTが自動的に表示される。また、ポインタPTが表示される位置は、指の位置に対してオフセット量(dx、dy)だけずれている。このため、ユーザが指を操作面に近づけた場合でも、操作対象のボタンやポインタPTが指に隠れることはなく、位置決めを容易に行うことができる。
従って、本実施形態の3次元タッチパネル装置1は、面積の大きいボタン及び面積の小さいボタンのいずれに対しても、ユーザは指で触れて簡単に入力操作することができる。また、ポインタPTを表示するか否かを事前に決めておく必要がないので汎用性が高く、オブジェクトの種類を問わず様々な用途で利用できる。
<第3の実施形態>
図12は、第3の実施形態における3次元タッチパネル装置1の動作を説明するフローチャートである。図12に示す処理群PR2は、図11に示す処理群PR1と同様に、ポインタPTの表示制御を説明し、制御部10内のポインタ座標制御部11により実行される。本実施形態では、図11に示す各ステップS11〜S15の各動作が実行された後に図12に示すステップS201の動作が実行され、図12に示すステップS205の動作が実行された後に図11に示すステップS20以降の各動作が実行される。以下、本実施形態を含む後述の各実施形態において、図11に示す各ステップS11〜S15の各動作、並びに図11に示すステップS20以降の動作の説明は省略する。
図11に示すステップS15の後の処理群PR2では、ポインタ座標制御部11は、位置検出部30から取得した指の位置を指し示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の情報をアプリケーション処理部13に出力する(S201)。アプリケーション処理部13は、ポインタ座標制御部11から出力された2次元座標(x、y)の位置の表示領域に表示されているオブジェクトの情報を判定してポインタ座標制御部11に出力する(S201)。
ポインタ座標制御部11は、アプリケーション処理部13から出力されたオブジェクト(例えばボタン、メニュー、アイコン等)の情報及びステップS15において取得された操作状態情報を基に、タッチ操作が行われていない状態であるか否か及びポインタPTの表示が必要か否かを判定する(S202)。例えば、ポインタ座標制御部11は、ステップS15において取得された操作状態情報が非タッチ操作を示す情報であるか否かを判定すると共に、ホバー操作中の指UFの位置に対応する近接タッチパネル50上の2次元座標(x、y)の表示領域に表示されているオブジェクトの大きさと所定の閾値とを比較する。ポインタ座標制御部11は、操作状態情報が非タッチ操作を示す情報ではない場合又は所定の閾値を超える大きいオブジェクトである場合にはポインタPTの表示を不要と判定し、操作状態情報が非タッチ操作を示す情報であり且つ所定の閾値を超えない小さいオブジェクトである場合には、ポインタPTの表示を必要と判定する。
また、ステップS15において取得された操作状態情報が非タッチ操作を示す情報であっても、例えばHTMLで記述された文書のコンテンツが表示部40の表示画面に表示されている場合、ポインタ座標制御部11は、コンテンツ上の領域毎に埋め込まれている画像、ボタン、リンク等のオブジェクトの種類又は大きさに応じて、ポインタPTの表示が必要か否かを判定する。例えば、ポインタ座標制御部11は、ステップS15において取得された操作状態情報が非タッチ操作を示す情報であっても、ホバー操作中の指UFの位置に対応する近接タッチパネル50上の2次元座標(x、y)の位置がコンテンツ上でサイズの大きい画像又はボタンの領域の内側である場合はポインタPTの表示は不要と判定し、ステップS15において取得された操作状態情報が非タッチ操作を示す情報であって、且つ、サイズの小さいリンクが表示されている領域の近傍である場合はポインタPTの表示は必要と判定する。
操作状態情報が非タッチ操作を示す情報であって結果的にポインタPTの表示が必要と判定された場合には(S202、YES)、ポインタ座標制御部11の動作はステップS203に進み、操作状態情報が非タッチ操作を示す情報ではなく結果的にポインタPTの表示が不要と判定された場合には(S202、NO)、ポインタ座標制御部11の動作はステップS205に進む。
ステップS203では、ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量として、パラメータdXに予め定められた定数OXを代入し、パラメータdYに予め定められた定数OYを代入する(S203)。
ポインタ座標制御部11は、ポインタ表示制御部15に、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS203により代入されたオフセット量(dX、dY)ほどずれた位置にポインタPTを表示させる旨の指示を出力する(S204)。なお、この指示には、オフセット量(dX、dY)の情報が含まれている。
ポインタ表示制御部15は、ポインタ座標制御部11から出力された指示に従って、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS203により代入されたオフセット量(dX、dY)ほどずらした位置にポインタPTを表示する(S204)。
ポインタ座標制御部11は、表示画面上に表示されたオブジェクトのうちユーザの操作対象の位置を指し示す近接タッチパネル50上の2次元座標の座標値として、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の各座標値と、ステップS203により代入されたオフセット量(dX、dY)とを加算した座標値とする(S205)。
なお、ステップS202においてポインタPTの表示が不要と判定された場合にはポインタPTは表示されないが、ステップS11において検知された指UFの3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)に、ステップS12におけるオフセット量の初期値(dX、dY)=(0、0)が加算される(S205)。
以上により、本実施形態の3次元タッチパネル装置1は、図12に示す処理群PR2を実行することにより、ユーザの指UFが現在指し示している領域について、ポインタPTを表示するか否かを動的に切り替えることができる。即ち、所定の閾値を超えるサイズが大きいオブジェクトを操作する場合のようにユーザがポインタPTを使わずに指UFで直感的に操作したい時にはポインタPTを非表示にすることができる。また、所定の閾値を超えないサイズが小さいオブジェクトを操作する場合のようにユーザがポインタPTを必要とする状況においては、ポインタPTを表示することができる。また、本実施形態の3次元タッチパネル装置1は、ポインタ表示の要否を判定するために、第2の実施形態のように所定時間T1経過の時間待ちをする必要がなく、ポインタPTの表示を素早く実行できる。
<第4の実施形態>
図13は、第4の実施形態における3次元タッチパネル装置1の動作を説明するフローチャートである。図13に示す処理群PR3は、図11に示す処理群PR1と同様に、ポインタPTの表示制御を説明し、制御部10内のポインタ座標制御部11により実行される。本実施形態では、図11に示す各ステップS11〜S15の各動作が実行された後に図13に示すステップS301の動作が実行され、図13に示すステップS307の動作が実行された後に図11に示すステップS20以降の各動作が実行される。
図11に示すステップS15の後の処理群PR3では、ポインタ座標制御部11は、ホバーアウト状態からホバーイン状態に遷移した後における1回目の位置検出部30からのz方向の座標取得か否かを判定する(S301)。即ち、ポインタ座標制御部11は、指UFのz方向における移動速度(近接速度)の算出に必要な過去の座標データが存在するか否かを判定する。1回目のz方向の座標取得であればz方向の近接速度を計算できないので、ポインタ座標制御部11の動作はステップS306に進む。2回目以降のz方向の座標取得であれば、ポインタ座標制御部11の動作はステップS302に進む。
ステップS302では、ポインタ座標制御部11は、前回z方向の座標を取得した時から現在までの経過時間とz方向の移動距離(z座標の変位差)を取得する(S302)。また、ポインタ座標制御部11は、ステップS15において取得された操作状態情報及びステップS302で得られたz方向の経過時間及び移動距離を基に、ステップS15において取得された操作状態情報がタッチ操作を示す情報であるか否かを判定すると共に、今回の瞬間移動速度、即ち、ステップS302で得られた移動距離を経過時間で除算した値を算出する。なお、移動距離及び移動速度に関しては、ここでは近接タッチパネル50の操作面(表示画面)に近づく方向(z軸の負方向)を正とし、近接タッチパネル50の操作面(表示画面)から遠ざかる方向(z軸の正方向)を負とする。更に、ポインタ座標制御部11は、ステップS302で得られたz方向の瞬間移動速度と予め定められた速度閾値V1とを比較する(S303)。
操作状態情報がタッチ操作を示す情報である場合又は瞬間移動速度が速度閾値V1を超える場合にはポインタ座標制御部11の動作はステップS306に進み、操作状態情報がタッチ操作を示す情報ではない場合であって且つ瞬間移動速度が速度閾値V1以下である場合にはポインタ座標制御部11の動作はステップS304に進む。
ステップS304では、ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量として、パラメータdXに予め定められた定数OXを代入し、パラメータdYに予め定められた定数OYを代入する(S304)。
ポインタ座標制御部11は、ポインタ表示制御部15に、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS304により代入されたオフセット量(dX、dY)ほどずれた位置にポインタPTを表示させる旨の指示を出力する(S305)。なお、この指示には、オフセット量(dX、dY)の情報が含まれている。
ポインタ表示制御部15は、ポインタ座標制御部11から出力された指示に従って、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS304により代入されたオフセット量(dX、dY)ほどずらした位置にポインタPTを表示する(S305)。
ポインタ座標制御部11は、表示画面上に表示されたオブジェクトのうちユーザの操作対象の位置を指し示す近接タッチパネル50上の2次元座標の座標値として、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の各座標値と、ステップS304により代入されたオフセット量(dX、dY)とを加算した座標値とする(S306)。
なお、ステップS301において1回目のz方向の座標取得であると判定された場合にはポインタPTは表示されないが、ステップS11において検知された指UFの3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)に、ステップS12におけるオフセット量の初期値(dX、dY)=(0、0)が加算される(S306)。
ポインタ座標制御部11は、位置検出部30から今回取得した座標及びこの座標を取得した時刻の情報を次回のステップS303以降の動作のために、3次元タッチパネル装置1に内蔵されるメモリ(図8には不図示)に記憶する(S307)。
以上により、本実施形態の3次元タッチパネル装置1は、図13に示す処理群PR3を実行することにより、実際のユーザの指UFの動き(近接速度)の大きさを基に、ポインタPTを表示するか否かを簡易に判定することができる。即ち、サイズの大きいボタン等をユーザが直接触れて直感的に操作したいと考えている状況では、指を早く表示画面に近接させる可能性が高い。この場合、z方向の瞬間移動速度が速度閾値V1よりも大きくなるので、3次元タッチパネル装置1は、ポインタPTを非表示することができる。また、この場合はオフセット量の影響を受けないので、ユーザが指UFで直接タッチした位置に対する入力操作を実行することができる。
一方、例えば指に隠れて見えなくなるような小さいボタンを操作する場合には、ユーザは指UFを慎重に動かすことになり、指UFを比較的ゆっくりと表示画面に近接させる可能性が高い。この場合は、z方向の瞬間移動速度が閾値V1以下になるので、3次元タッチパネル装置1は、オフセット量ほどずらした位置にポインタPTを表示することができる。従って、ユーザは指UFの位置から少しずれた位置に表示されるポインタPTにより操作位置を視認して確認しながら、正確な位置決めを行った上で入力操作を容易に行うことができる。
<第5の実施形態>
図14は、第5の実施形態における3次元タッチパネル装置1の動作を説明するフローチャートである。図14に示す処理群PR41は、図11に示す処理群PR1と同様に、ポインタPTの表示制御を説明し、制御部10内のポインタ座標制御部11により実行される。本実施形態では、図11に示す各ステップS11〜S15の動作が実行された後に図14に示すステップS411の動作が実行され、図14に示すステップS415の動作が実行された後に図11に示すステップS20以降の動作が実行される。
図11に示すステップS15の後の処理群PR41では、ポインタ座標制御部11は、ユーザが指UFを表示画面にタッチした後に指UFを表示画面から離す操作(タッチのリリース)を行ったか否かを判定する(S411)。即ち、ポインタ座標制御部11は、位置検出部30から取得した指UFの3次元座標(x、y、z)の情報を基に、前回取得した時には「タッチ」状態(z座標=0)であって、今回取得した時には「非タッチ」状態(z座標≠0)であるか否かを判定する(S411)。
なお、ステップS411中に示す「&&」は論理積(AND)を意味し、以下の各実施形態においても同様である。近接タッチパネル50が前回取得した指UFの3次元座標のz座標が0(タッチ状態)から0でない値(非タッチ状態)に遷移した場合には(S411、YES)、ポインタ座標制御部11の動作はステップS412に進む。近接タッチパネル50が前回取得した指UFの3次元座標のz座標が0(タッチ状態)から0でない値(非タッチ状態)に遷移していない場合には(S411、NO)、ポインタ座標制御部11の動作はステップS416に進む。
ステップS412では、ポインタ座標制御部11は、図11に示すステップS14で計時動作を開始したタイマのカウンタをリセットさせた後、タイマの計時動作を再開させる(S412)。
ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量を解除し、具体的には、パラメータdXに「0」を代入し、パラメータdYに「0」を代入する(S413)。
ポインタ座標制御部11は、ポインタ表示制御部15にポインタPTを非表示させる(S414)。
一方、ステップS416では、ポインタ座標制御部11は、ステップS15において取得された操作状態情報が非タッチ操作を示す情報であって、且つ、図11に示すステップS14でタイマの計時動作を開始させてから所定時間T1が経過したか否かを判定する(S416)。操作状態情報が非タッチ操作を示す情報であって、且つ、所定時間T1が経過した場合には(S416、YES)、ポインタ座標制御部11は、ポインタPTを表示すると判定する。この判定後、ポインタ座標制御部11の動作はステップS417に進む。
一方、操作状態情報が非タッチ操作を示す情報ではない場合、即ち、操作状態情報がタッチ操作を示す情報である場合(S416、NO)、又は、所定時間T1が経過していない場合には(S416、NO)、ポインタ座標制御部11は、ポインタPTを表示しないと判定する。この判定後、ポインタ座標制御部11の動作はステップS415に進む。
ステップS417では、ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量として、パラメータdXに予め定められた定数OXを代入し、パラメータdYに予め定められた定数OYを代入する(S417)。
ポインタ座標制御部11は、ポインタ表示制御部15に、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS417により代入されたオフセット量(dX、dY)ほどずれた位置にポインタPTを表示させる旨の指示を出力する(S418)。なお、この指示には、オフセット量(dX、dY)の情報が含まれている。
ポインタ表示制御部15は、ポインタ座標制御部11から出力された指示に従って、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS417により代入されたオフセット量(dX、dY)ほどずらした位置にポインタPTを表示する(S418)。
ポインタ座標制御部11は、表示画面上に表示されたオブジェクトのうちユーザの操作対象の位置を指し示す近接タッチパネル50上の2次元座標の座標値として、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の各座標値と、ステップS417により代入されたオフセット量(dX、dY)とを加算した座標値とする(S415)。
なお、ステップS416において所定時間T1が経過していないと判定された場合にはポインタPTは表示されないが、ステップS11において検知された指UFの3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)に、ステップS12におけるオフセット量の初期値(dX、dY)=(0、0)が加算される(S415)。
ユーザが画面上の様々なオブジェクトを操作しようとする場合に、例えば次のような状況が想定される。ユーザが比較的小さいボタンを操作(タッチ)した後で、比較的大きい別のボタンを操作する場合がある。従って、3次元タッチパネル装置1が図11に示す処理群PR1を実行する場合には、小さいボタンを操作する際にポインタPTが表示され、ホバーアウトする位置まで指を遠ざけない限り、ポインタPTの表示が継続される。そのため、ユーザが次に大きいボタンを一連の操作として連続的に操作する時にオフセットの影響が現れ、ユーザは自分が思っているような直感的な操作ができない。
以上により、本実施形態の3次元タッチパネル装置1は、図14に示す処理群PR41を実行することにより、小さいボタンを操作する際にポインタPTを表示した後、ユーザが指をタッチしこのタッチを直ぐに解除すれば、ステップS414においてポインタPTを一旦非表示し、オフセット量の影響を解除する。更に、ユーザが小さいボタンの次に大きいボタンを連続して操作する時には、3次元タッチパネル装置1は、オフセット量の影響を受けることなく、目的のボタンに直接タッチするような直感的な入力操作をユーザに対して簡易に行わせることができる。
更に、3次元タッチパネル装置1は、本実施形態におけるタッチリリース後にポインタPTを非表示にすることに加え、第2の実施形態におけるポインタPTの表示要否の判定条件を組み合わせることで、ユーザの指UFが所定時間T1を超えて近接状態を維持するか否かに応じて、ポインタPTの表示又は非表示を簡易に切り替えることができる。
<第6の実施形態>
図15は、第6の実施形態における3次元タッチパネル装置1の動作を説明するフローチャートである。図15に示す処理群PR42は、図11に示す処理群PR1と同様に、ポインタPTの表示制御を説明し、制御部10内のポインタ座標制御部11により実行される。本実施形態では、図11に示す各ステップS11〜S15の各動作が実行された後に図15に示すステップS421の動作が実行され、図15に示すステップS425の動作が実行された後に図11に示すステップS20以降の各動作が実行される。
図11に示すステップS15の後の処理群PR42では、ポインタ座標制御部11は、ユーザが指UFを表示画面にタッチした後に指UFを表示画面から離す操作(タッチのリリース)を行ったか否かを判定する(S421)。即ち、ポインタ座標制御部11は、位置検出部30から取得した指UFの3次元座標(x、y、z)の情報を基に、前回取得した時には「タッチ」状態(z座標=0)であって、今回取得した時には「非タッチ」状態(z座標≠0)であるか否かを判定する(S421)。
近接タッチパネル50が前回取得した指UFの3次元座標のz座標が0(タッチ状態)から0でない値(非タッチ状態)に遷移した場合には(S421、YES)、ポインタ座標制御部11の動作はステップS422に進む。近接タッチパネル50が前回取得した指UFの3次元座標のz座標が0(タッチ状態)から0でない値(非タッチ状態)に遷移していない場合には(S421、NO)、ポインタ座標制御部11の動作はステップS426に進む。
ステップS422では、ポインタ座標制御部11は、図11に示すステップS14で計時動作を開始したタイマのカウンタをリセットさせた後、タイマの計時動作を再開させる(S422)。
ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量を解除し、具体的には、パラメータdXに「0」を代入し、パラメータdYに「0」を代入する(S423)。
ポインタ座標制御部11は、ポインタ表示制御部15にポインタPTを非表示させる(S424)。
一方、ステップS426では、ポインタ座標制御部11は、位置検出部30から取得した指の位置を指し示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の情報をアプリケーション処理部13に出力する(S426)。アプリケーション処理部13は、ポインタ座標制御部11から出力された2次元座標(x、y)の位置の表示領域に表示されているオブジェクトの情報を判定してポインタ座標制御部11に出力する(S426)。
ポインタ座標制御部11は、ステップS426においてアプリケーション処理部13から取得した情報及びステップS15において取得された操作状態情報を基に、タッチ操作が行われていない状態であるか否か及びポインタPTの表示が必要か否かを判定する(S427)。ステップS427の動作の詳細は、図12に示すステップS202と同一であるため説明を省略する。
操作状態情報が非タッチ操作を示す情報であって結果的にポインタPTの表示が必要と判定された場合には(S427、YES)、ポインタ座標制御部11の動作はステップS428に進む。操作状態情報が非タッチ操作を示す情報ではなく結果的にポインタPTの表示が不要と判定された場合には(S427、NO)、ポインタ座標制御部11の動作はステップS425に進む。
ステップS428では、ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量として、パラメータdXに予め定められた定数OXを代入し、パラメータdYに予め定められた定数OYを代入する(S428)。
ポインタ座標制御部11は、ポインタ表示制御部15に、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS428により代入されたオフセット量(dX、dY)ほどずれた位置にポインタPTを表示させる旨の指示を出力する(S429)。なお、この指示には、オフセット量(dX、dY)の情報が含まれている。
ポインタ表示制御部15は、ポインタ座標制御部11から出力された指示に従って、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS428により代入されたオフセット量(dX、dY)ほどずらした位置にポインタPTを表示する(S429)。
ポインタ座標制御部11は、表示画面上に表示されたオブジェクトのうちユーザの操作対象の位置を指し示す近接タッチパネル50上の2次元座標の座標値として、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の各座標値と、ステップS428により代入されたオフセット量(dX、dY)とを加算した座標値とする(S425)。
なお、ステップS427においてポインタPTの表示が不要と判定された場合にはポインタPTは表示されないが、ステップS11において検知された指UFの3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)に、ステップS12におけるオフセット量の初期値(dX、dY)=(0、0)が加算される(S425)。
以上により、本実施形態の3次元タッチパネル装置1は、図15に示す処理群PR42を実行することにより、図14の処理群PR41を実行する場合と同様に、ポインタPTを表示した後にユーザが表示画面から指を離間させてタッチ状態を解除すれば、ポインタPTを一旦非表示に簡易に切り替えることができる。
更に、3次元タッチパネル装置1は、本実施形態におけるタッチリリース後にポインタPTを非表示にすることに加え、第3の実施形態におけるポインタPTの表示要否の判定条件を組み合わせることで、ユーザの指UFが現在指し示している領域について、ポインタPTを表示するか否かを動的に切り替えることができる。
<第7の実施形態>
図16は、第7の実施形態における3次元タッチパネル装置1の動作を説明するフローチャートである。図16に示す処理群PR43は、図11に示す処理群PR1と同様に、ポインタPTの表示制御を説明し、制御部10内のポインタ座標制御部11により実行される。本実施形態では、図11に示す各ステップS11〜S15の各動作が実行された後に図16に示すステップS431の動作が実行され、図16に示すステップS436の動作が実行された後に図11に示すステップS20以降の各動作が実行される。
図11に示すステップS15の後の処理群PR43では、ポインタ座標制御部11は、ユーザが指UFを表示画面にタッチした後に指UFを表示画面から離す操作(タッチのリリース)を行ったか否かを判定する(S431)。即ち、ポインタ座標制御部11は、位置検出部30から取得した指UFの3次元座標(x、y、z)の情報を基に、前回取得した時には「タッチ」状態(z座標=0)であって、今回取得した時には「非タッチ」状態(z座標≠0)であるか否かを判定する(S431)。
近接タッチパネル50が前回取得した指UFの3次元座標のz座標が0(タッチ状態)から0でない値(非タッチ状態)に遷移した場合には(S431、YES)、ポインタ座標制御部11の動作はステップS432に進む。近接タッチパネル50が前回取得した指UFの3次元座標のz座標が0(タッチ状態)から0でない値(非タッチ状態)に遷移していない場合には(S431、NO)、ポインタ座標制御部11の動作はステップS437に進む。
ステップS432では、ポインタ座標制御部11は、図11に示すステップS14で計時動作を開始したタイマのカウンタをリセットさせた後、タイマの計時動作を再開させる(S432)。
ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量を解除し、具体的には、パラメータdXに「0」を代入し、パラメータdYに「0」を代入する(S433)。
ポインタ座標制御部11は、ポインタ表示制御部15にポインタPTを非表示させる(S434)。
一方、ステップS437では、ポインタ座標制御部11は、ホバーアウト状態からホバーイン状態に遷移した後における1回目の位置検出部30からのz方向の座標取得か否かを判定する(S437)。即ち、ポインタ座標制御部11は、指UFのz方向における移動速度(近接速度)の算出に必要な過去の座標データが存在するか否かを判定する。1回目のz方向の座標取得であればz方向の近接速度を計算できないので、ポインタ座標制御部11の動作はステップS435に進む。2回目以降のz方向の座標取得であれば、ポインタ座標制御部11の動作はステップS438に進む。
ステップS438では、ポインタ座標制御部11は、前回z方向の座標を取得した時から現在までの経過時間とz方向の移動距離(z座標の変位差)を取得する(S438)。また、ポインタ座標制御部11は、ステップS15において取得された操作状態情報及びステップS438で得られたz方向の経過時間及び移動距離を基に、ステップS15において取得された操作状態情報がタッチ操作を示す情報であるか否かを判定すると共に、今回の瞬間移動速度、即ち、ステップS438で得られた移動距離を経過時間で除算した値を算出する。なお、移動距離及び移動速度に関しては、ここでは近接タッチパネル50の操作面(表示画面)に近づく方向(z軸の負方向)を正とし、近接タッチパネル50の操作面(表示画面)から遠ざかる方向(z軸の正方向)を負とする。更に、ポインタ座標制御部11は、ステップS438で得られたz方向の瞬間移動速度と予め定められた速度閾値V1とを比較する(S439)。
操作状態情報がタッチ操作を示す情報である場合又は瞬間移動速度が速度閾値V1を超える場合にはポインタ座標制御部11の動作はステップS435に進み、操作状態情報がタッチ操作を示す情報ではない場合であって且つ瞬間移動速度が速度閾値V1以下である場合にはポインタ座標制御部11の動作はステップS440に進む。
ステップS440では、ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量として、パラメータdXに予め定められた定数OXを代入し、パラメータdYに予め定められた定数OYを代入する(S440)。
ポインタ座標制御部11は、ポインタ表示制御部15に、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS304により代入されたオフセット量(dX、dY)ほどずれた位置にポインタPTを表示させる旨の指示を出力する(S441)。なお、この指示には、オフセット量(dX、dY)の情報が含まれている。
ポインタ表示制御部15は、ポインタ座標制御部11から出力された指示に従って、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS440により代入されたオフセット量(dX、dY)ほどずらした位置にポインタPTを表示する(S441)。
ポインタ座標制御部11は、表示画面上に表示されたオブジェクトのうちユーザの操作対象の位置を指し示す近接タッチパネル50上の2次元座標の座標値として、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の各座標値と、ステップS440により代入されたオフセット量(dX、dY)とを加算した座標値とする(S435)。
なお、ステップS437において1回目のz方向の座標取得であると判定された場合にはポインタPTは表示されないが、ステップS11において検知された指UFの3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)に、ステップS12におけるオフセット量の初期値(dX、dY)=(0、0)が加算される(S435)。
ポインタ座標制御部11は、位置検出部30から今回取得した座標及びこの座標を取得した時刻の情報を次回のステップS439以降の動作のために、3次元タッチパネル装置1に内蔵されるメモリ(図8には不図示)に記憶する(S436)。
以上により、本実施形態の3次元タッチパネル装置1は、図16に示す処理群PR43を実行することにより、図14の処理群PR41を実行する場合と同様に、ポインタPTを表示した後にユーザが表示画面から指を離間させてタッチ状態を解除すれば、ポインタPTを一旦非表示に簡易に切り替えることができる。
更に、3次元タッチパネル装置1は、本実施形態におけるタッチリリース後にポインタPTを非表示にすることに加え、第4の実施形態におけるポインタPTの表示要否の判定条件を組み合わせることで、ユーザの指UFの動き(近接速度)の大きさを基にしてポインタPTを表示するか否かを簡易に切り替えることができる。
<第8の実施形態>
図17は、第8の実施形態における3次元タッチパネル装置1の動作を説明するフローチャートである。図17に示す処理群PR5は、図11に示す処理群PR1と同様に、ポインタPTの表示制御を説明し、制御部10内のポインタ座標制御部11により実行される。本実施形態では、図11に示す各ステップS11〜S15の各動作が実行された後に図17に示すステップS501の動作が実行され、図17に示すステップS512の動作が実行された後に図11に示すステップS20以降の各動作が実行される。
図11に示すステップS15の後の処理群PR5では、ポインタ座標制御部11は、ユーザが指UFを表示画面にタッチした後に指UFを表示画面から離す操作(タッチのリリース)を行ったか否かを判定する(S501)。即ち、ポインタ座標制御部11は、位置検出部30から取得した指UFの3次元座標(x、y、z)の情報を基に、前回取得した時には「タッチ」状態(z座標=0)であって、今回取得した時には「非タッチ」状態(z座標≠0)であるか否かを判定する(S501)。
近接タッチパネル50が前回取得した指UFの3次元座標のz座標が0(タッチ状態)から0でない値(非タッチ状態)に遷移した場合には(S501、YES)、ポインタ座標制御部11の動作はステップS508に進む。近接タッチパネル50が前回取得した指UFの3次元座標のz座標が0(タッチ状態)から0でない値(非タッチ状態)に遷移していない場合には(S501、NO)、ポインタ座標制御部11の動作はステップS502に進む。
ステップS508では、ポインタ座標制御部11は、図11に示すステップS14で計時動作を開始したタイマのカウンタをリセットさせた後、タイマの計時動作を再開させる(S508)。
ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量を解除し、具体的には、パラメータdXに「0」を代入し、パラメータdYに「0」を代入する(S509)。
ポインタ座標制御部11は、ポインタ表示制御部15にポインタPTを非表示させ(S510)、タッチリリースフラグF10に「1」をセットする(S511)。なお、図17に示すフローチャートの動作の初期状態では、タッチリリースフラグF10は「0」とする。
一方、ステップS502では、ポインタ座標制御部11は、タッチリリースフラグF10が0(ゼロ)であるか否かを判定する(S502)。タッチリリースフラグF10が初期値「0」であればポインタ座標制御部11の動作はステップS503に進み、タッチリリースフラグF10=「1」であればポインタ座標制御部11の動作はステップS504に進む。
ポインタ座標制御部11は、予め定められた第1判定条件に従って、ポインタPTの表示要否に関する比較処理を行う(S503)。また、ポインタ座標制御部11は、予めに定められた第2判定条件に従って、ポインタPTの表示要否に関する比較処理を行う(S504)。
具体例としては、図11に示すステップS16の判定条件、即ち、ステップS14においてタイマの計時動作を開始させてから所定時間T1が経過したか否かに応じて、ポインタPTの表示要否を判定すること、を第1判定条件とする。本実施形態では、この第1判定条件は、ポインタ座標制御部11の動作において予め規定されているとする。
また、図12に示すステップS201及びS202の処理、即ち、アプリケーション処理部13から出力された表示部40の表示画面における表示領域毎のオブジェクト(例えばボタン、メニュー、アイコン等)の情報を基に、ポインタPTの表示要否を判定すること、を第2判定条件とする。本実施形態では、この第2判定条件は、ポインタ座標制御部11の動作において予め規定されているとする。
なお、上述した第1判定条件及び第2判定条件は一例にすぎず、ポインタ座標制御部11は、ステップS503及びS504において、例えば図11に示すステップS16の判定条件に従って、ポインタPTの表示要否を判定し、ステップS503では判定条件における所定時間T1に「0.5秒」を用い、ステップS504では判定条件における所定時間T1に「1秒」を用いても良い。
ステップS505では、ポインタ座標制御部11は、ステップS503又はステップS504の判定結果及びステップS15において取得された操作状態情報を基に、タッチ操作が行われていない状態であるか否か及びポインタPTの表示要否を判定する(S505)。操作状態情報が非タッチ操作を示す情報であって結果的にステップS503の第1判定条件又はステップS504の第2判定条件に従ってポインタPTを表示すると判定された場合にはポインタ座標制御部11の動作はステップS506に進み、操作状態情報が非タッチ操作を示す情報ではなく結果的にポインタPTを表示しないと判定された場合にはポインタ座標制御部11の動作はステップS512に進む。
ステップS506では、ポインタ座標制御部11は、ポインタPTの表示位置のオフセット量として、パラメータdXに予め定められた定数OXを代入し、パラメータdYに予め定められた定数OYを代入する(S506)。
ポインタ座標制御部11は、ポインタ表示制御部15に、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS506により代入されたオフセット量(dX、dY)ほどずれた位置にポインタPTを表示させる旨の指示を出力する(S507)。なお、この指示には、オフセット量(dX、dY)の情報が含まれている。
ポインタ表示制御部15は、ポインタ座標制御部11から出力された指示に従って、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の位置から、ステップS428により代入されたオフセット量(dX、dY)ほどずらした位置にポインタPTを表示する(S507)。
ポインタ座標制御部11は、表示画面上に表示されたオブジェクトのうちユーザの操作対象の位置を指し示す近接タッチパネル50上の2次元座標の座標値として、ステップS11により検知された指UFの位置を示す3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)の各座標値と、ステップS506により代入されたオフセット量(dX、dY)とを加算した座標値とする(S512)。
なお、ステップS505においてポインタPTの表示が不要と判定された場合にはポインタPTは表示されないが、ステップS11において検知された指UFの3次元座標(x、y、z)に対応する近接タッチパネル50上の2次元座標(x、y)に、ステップS12におけるオフセット量の初期値(dX、dY)=(0、0)が加算される(S512)。
以上により、本実施形態の3次元タッチパネル装置1は、図17に示すステップS502〜ステップS504のように、ポインタPTの表示要否に関する判定条件を、3次元タッチパネル装置1の使用状況に応じて切り替え、ポインタPTの表示又は非表示をより適切且つ簡易に制御できる。即ち、3次元タッチパネル装置1は、ユーザがポインタPTの表示を必要とする時に素早くポインタPTを表示することができ、ユーザがポインタPTの表示を必要としない時には素早くポインタPTを非表示にしてオフセットの影響をなくすことができる。
<第9の実施形態>
図18は、第9の実施形態における3次元タッチパネル装置1の動作を説明するフローチャートである。図18に示す各動作は、上述したポインタPTを表示する場合のオフセット量又は表示位置を、3次元タッチパネル装置1の使用状況に合わせて変更する場合に用いられる。
図18に示す各動作は、ポインタ座標制御部11により、例えば短い周期で周期的に実行される。従って、3次元タッチパネル装置1は、図11〜図17に示すいずれかの動作を実行する際に、図18に示す動作を並行して実行することができる。上述した第2〜第8の各実施形態でオフセット量のパラメータOX,OYは共に定数であったが、本実施形態ではOX、OYは変数とする。以下、図18に示す動作について説明する。なお、図18に示す動作の前提として、上述した第2〜第8の各実施形態により、表示部40の表示画面上にポインタPTが表示されているとする。
ポインタ座標制御部11は、位置検出部30から出力された指の3次元座標(x、y、z)に対応する近接タッチパネル50上の位置の2次元座標(x、y)の変化を監視することにより、ポインタ移動方向が左右(x軸方向)のいずれであるかを検出する(S51)。
ポインタ座標制御部11は、位置検出部30から出力された指の3次元座標(x、y、z)のz方向の変化及び時間を監視することにより、z方向の指の近接速度Vzを算出する(S52)。
ポインタ座標制御部11は、ステップS52で得られた近接速度Vzと予め定められた速度閾値Vth1とを比較する(S53)。ここで、近接速度Vzが速度閾値Vth1を超えている場合には、ポインタ座標制御部11の動作はステップS54に進み、近接速度Vzが速度閾値Vth1以下である場合には、ポインタ座標制御部11の動作はステップS55に進む。
また、ポインタ座標制御部11は、ステップS52で得られた近接速度Vzと予め定められた速度閾値Vth2とを比較する(S55)。ここで、近接速度Vzが速度閾値Vth2を超えている場合には、ポインタ座標制御部11の動作はステップS56に進み、近接速度Vzが速度閾値Vth2以下である場合には、ポインタ座標制御部11の動作はステップS57に進む。
ステップS54では、ポインタ座標制御部11は、x方向の位置のオフセット量を表す変数OXに予め定められた定数「Vx0」を代入し、y方向の位置のオフセット量を表す変数OYに予め定められた定数「Vy0」を代入する(S54)。
また、ステップS56では、ポインタ座標制御部11は、x方向の位置のオフセット量を表す変数OXに予め定められた定数「Vx1」を代入し、y方向の位置のオフセット量を表す変数OYに予め定められた定数「Vy1」を代入する(S56)。
また、ステップS57では、ポインタ座標制御部11は、x方向の位置のオフセット量を表す変数OXに予め定められた定数「Vx2」を代入し、y方向の位置のオフセット量を表す変数OYに予め定められた定数「Vy2」を代入する(S57)。
ステップS54、ステップS56又はステップS57の後、ポインタ座標制御部11は、ステップS51で検出されたポインタPTの移動方向が左方向又は右方向のいずれであるのかを判定する(S58)。ポインタPTの移動方向が右方向の場合は、ポインタ座標制御部11の動作はステップS59に進み、ポインタPTの移動方向が左方向の場合は、図18に示す動作は終了する。
ステップS59では、ポインタ座標制御部11は、x方向の位置のオフセット量を表す変数OXの符号を反転する(S59)。即ち、ポインタ座標制御部11は、変数OXの値が正の場合は負の値に変更し、負の場合は正の値に変更することで、既にオフセット量ほどずれたポインタPTの表示位置の2次元座標(x、y)を更に補正する。
上述したように、ポインタPTを表示する位置と実際の指UFの近接状態における空間上の位置との間のオフセット量は、変数OX、OYにより決定される。従って、本実施形態の3次元タッチパネル装置1は、図18に示す動作を実行することにより、ポインタPTの表示位置のオフセット量及びオフセットの方向を、ユーザの指UFの動き(近接速度)に応じて変更することができる。即ち、ユーザが指UFを表示画面(近接タッチパネル50)に近接させる時の近接速度の大きさに応じて、3種類のオフセット量を使い分けることができる。
また、ユーザの指が表示画面の左方向に向かって移動している時には、3次元タッチパネル装置1は、図9に示すように指UFの左上方にポインタPTを表示し、指UFが右方向に移動している時には、オフセット量の符号(+/−)を反転して指UFの右上方にポインタを表示することができる。
<その他の変形例>
上述した各実施形態では、ユーザがポインタPTの表示を必要としない場合にポインタPTを非表示させているが、ポインタPTを表示させた状態を継続した上で、ポインタPTの表示位置のオフセット量を変更しても良い。即ち、ユーザがポインタPTの表示を必要としない場合には、オフセット量(dX、dY)を0にし、指UFの位置とユーザの操作対象となる表示画面上の位置とがずれないようにすれば、ポインタPTの表示が継続していても問題は生じない。
また、図11に示すステップS11では、指UFの近接状態における位置の表示画面からの距離が閾値zth以下になったことが検知され、即ち、ホバーイン状態に遷移したか否かが判定されている。つまり、ホバーイン状態に遷移したことを契機として、ポインタPTの表示制御が開始している。しかし、ポインタPTの表示制御の開始距離は、ホバーイン状態に遷移するための条件(閾値zth以下)とは異なる閾値を用いて判定されても良い。
また、図11に示すステップS21では、指UFの近接状態における位置の表示画面からの距離が閾値zthを超えたことが検知され、即ち、ホバーアウト状態に遷移したか否かが判定され、閾値zthを超えた場合にポインタPTの表示制御が終了している。しかし、ポインタPTの表示制御の終了距離は、ホバーアウト状態に遷移するための条件(閾値zthより大きい)とは異なる閾値を用いて判定されても良い。
また、図11では、ホバーアウト状態に遷移したことがステップS21において判定されると、直ちに、ポインタ座標制御部11は、ポインタPTを非表示する(S22)。しかし、ポインタPTを非表示するタイミングは様々な変形が考えられる。例えば、ホバーアウト状態に遷移したことが判定されてから所定時間(例えば0.5秒)が経過するまではポインタPTの表示状態が継続されても良い。図14に示すステップS414においてポインタPTを非表示するタイミングについても同様である。
また、図13に示す処理群PR3では、ステップS303においてz方向の近接速度と速度閾値V1とが比較されているが、ポインタ座標制御部11は、同時に他の方向の移動速度も考慮して判定しても良い。例えば、xy平面に平行な方向の移動速度が所定値以下で、且つz方向の移動速度が所定値以下の場合に限り、ポインタPTを表示しても良い。
更に、図14に示す処理群PR41では、ステップS411でタッチ状態からタッチが解除された(タッチのリリース)ことが検知されると、ポインタPTが一旦非表示されている(S414)。しかし、ポインタ座標制御部11は、タッチの解除以外の操作によって、ポインタPTを非表示しても良い。例えば、ポインタPTが表示されている状態で、アプリケーションの制御により画面上にポップアップ画面が表示されたことが検知された場合は、ポインタ座標制御部11は、ポインタPTを一旦非表示し、ステップS416の条件を満たす時にポインタPTを再表示させる。或いは、ポインタ座標制御部11は、ポインタPTが表示されている状態で、指UFのz方向の近接速度(画面から離れる方向)が所定以上になったことを検知した場合にポインタPTを一旦非表示し、ステップS303(図13参照)の条件を満たす時にポインタPTを再表示させても良い。
以上、図面を参照して各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種実施の形態の変更例または修正例、更に各種実施の形態の組み合わせ例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
なお、本出願は、2011年5月16日出願の日本特許出願(特願2011−109344)に基づくものであり、その内容はここに参照として取り込まれる。
本発明は、タッチパネルの使用時、使用者が画面に表示された情報を容易に視認できる表示装置、表示制御方法、及び表示制御プログラム等に有用である。
1 3次元タッチパネル装置
10 制御部
11 ポインタ座標制御部
12 向き判定部
13 アプリケーション処理部
14 表示制御部
15 ポインタ表示制御部
30 位置検出部
40 表示部
41 アイコン
42、46 ポップアップ
45 サムネイル
50 近接タッチパネル
63 人差し指
65、66、67 検知点
71 文字メッセージ

Claims (22)

  1. 検知対象が近接又は接触したことを検知するタッチパネルと、
    前記タッチパネルにより近接又は接触したことが検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるZ方向の座標とを含む位置座標を検出する位置検出部と、
    前記タッチパネルが配置された表示部と、
    前記位置検出部により検出された前記位置座標に基づいて、前記検知対象の向きを判定する向き判定部と、
    前記向き判定部により判定された前記検知対象の向きに基づいて、前記検知対象によって遮られる前記表示部の表示内容の一部を避けるように、前記表示部に表示させる表示制御部と、を備える表示装置。
  2. 請求項1に記載の表示装置であって、
    前記表示制御部は、前記XY方向における前記表示部の画面と前記検知対象との重複部分を推定し、前記重複部分を避けて前記表示部に表示させる表示装置。
  3. 請求項1に記載の表示装置であって、
    前記表示制御部は、前記向き判定部により判定された前記検知対象の向きに基づいて、前記表示部の表示内容の一部を前記検知対象からその向きの先へ、前記表示部に表示させる表示装置。
  4. 請求項1から3までのうちいずれか一項に記載の表示装置であって、
    前記向き判定部は、前記位置検出部により2点の位置座標が検出された場合、前記2点のうち前記Z方向の座標が大きい第1の点から前記Z方向の座標の小さい第2の点に至るベクトルの方向に基づいて、前記検知対象の向きを判定する表示装置。
  5. 請求項1から3までのうちいずれか一項に記載の表示装置であって、
    前記向き判定部は、前記位置検出部により3点の位置座標が検出された場合、前記3点のうち、前記Z方向の座標が最も大きい第1の点と2番目に大きい第2の点とを結ぶ直線と、前記Z方向の座標が3番目に大きい第3の点と、の位置関係に基づいて、前記検知対象の向きを判定する表示装置。
  6. 請求項4に記載の表示装置であって、
    前記表示制御部は、前記2点のうち前記第2の点で前記画面に表示された表示対象を特定し、前記第1の点の位置座標に応じて、前記特定された表示対象に関する情報の前記表示部における表示位置を制御する表示装置。
  7. 請求項1から6のうちいずれか一項に記載の表示装置であって、
    前記向き判定部は、前記位置検出部により検出された前記検知対象の前記Z方向の座標が第1の座標範囲にある場合、前記検知対象の向きを判定し、
    前記表示制御部は、前記位置検出部により検出された前記検知対象の前記Z方向の座標が前記第1の座標範囲よりも前記Z方向の座標が小さい第2の座標範囲にある場合、前記検知対象によって遮られる前記表示部の画面を避けるように前記表示部に表示させる表示装置。
  8. 請求項7に記載の表示装置であって、
    前記表示制御部は、前記Z方向の座標が前記第1の座標範囲にある場合又は前記第2の座標範囲にある場合、その旨を前記表示部に表示させる表示装置。
  9. 検知対象が近接又は接触したことを検知するタッチパネルを有する表示装置における表示制御方法であって、
    前記タッチパネルにより近接又は接触したことが検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるZ方向の座標とを含む位置座標を検出するステップと、
    前記検出された位置座標に基づいて、前記検知対象の向きを判定するステップと、
    前記判定された前記検知対象の向きに基づいて、前記タッチパネルが配置された表示部において前記検知対象によって遮られる表示内容の一部を避けるように前記表示部に表示させるステップと、を有する表示制御方法。
  10. 検知対象が近接又は接触したことを検知するタッチパネルを有する表示装置であるコンピュータに、
    前記タッチパネルにより近接又は接触したことが検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるz方向の座標とを含む位置座標を検出するステップと、
    前記位置検出部により検出された位置座標に基づいて、前記検知対象の向きを判定するステップと、
    前記向き判定部により判定された前記検知対象の向きに基づいて、前記タッチパネルが配置された表示部において前記検知対象によって遮られる一部を避けるよう、前記表示部の表示を制御するステップと、を実行させるための表示制御プログラム。
  11. 検知対象が近接又は接触したことを検知するタッチパネルと、
    前記タッチパネルにより近接又は接触が検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるZ方向の座標とを含む位置座標を検出する位置検出部と、
    前記タッチパネルが配置された表示部と、
    前記位置検出部により検出された前記検知対象のZ方向の座標を含む情報と、予め定められた判定条件とに基づいて、前記検知対象が指定する操作対象の位置を指し示すインジケータを表示するか否かを判定するポインタ座標制御部と、
    前記ポインタ座標制御部により前記インジケータを表示すると判定された場合、前記インジケータを前記表示部に表示させる表示制御部と、を備えた入力装置。
  12. 請求項11に記載の入力装置であって、
    前記ポインタ座標制御部は、前記判定条件として、前記検知対象が前記タッチパネルの面から所定距離未満ほど離間している状態の経過時間の長さと、所定時間の閾値とを比較する入力装置。
  13. 請求項11に記載の入力装置であって、
    前記表示部の表示領域毎に、前記表示部に表示されているオブジェクトを判定するアプリケーション処理部と、を更に備え、
    前記ポインタ座標制御部は、前記判定条件として、前記判定された前記表示領域毎の前記オブジェクトを基に、前記検知対象が指定する操作対象の位置を、前記インジケータを表示する表示領域又は前記インジケータを表示しない表示領域として判定する入力装置。
  14. 請求項11に記載の入力装置であって、
    前記ポインタ座標制御部は、前記判定条件として、前記検知対象における前記Z方向の座標又は前記検知対象における前記タッチパネルに対するZ方向の近接速度と、所定の閾値とを比較する入力装置。
  15. 請求項11に記載の入力装置であって、
    前記ポインタ座標制御部は、前記検知対象が前記タッチパネルの面に対して接触した状態から非接触状態になったことが前記タッチパネルにより検知された場合に、前記表示部に表示された前記インジケータを非表示すると判定し、
    前記表示制御部は、前記ポインタ座標制御部の判定結果を基に、前記表示部に表示された前記インジケータを非表示させる入力装置。
  16. 請求項15に記載の入力装置であって、
    前記ポインタ座標制御部は、前記表示部に表示された前記インジケータを非表示すると判定した後、前記インジケータを再び表示するか否かの判定を、前記判定前における判定条件と同一の判定条件を用いて継続する入力装置。
  17. 請求項15に記載の入力装置であって、
    前記ポインタ座標制御部は、前記表示部に表示された前記インジケータを非表示すると判定した後、前記インジケータを再び表示するか否かの判定を、前記判定前における判定条件と異なる判定条件を用いる入力装置。
  18. 請求項11から17までのうちいずれか一項に記載の入力装置であって、
    前記表示制御部は、前記位置検出部により検出された前記検知対象のXY方向の座標を所定のオフセット量ほど移動させた位置に前記インジケータを表示する入力装置。
  19. 請求項18に記載の入力装置であって、
    前記ポインタ座標制御部は、前記表示部に所定の画面が表示されたことを判定し、
    前記表示制御部は、前記ポインタ座標制御部の判定結果を基に、前記オフセット量を変更する入力装置。
  20. 請求項18に記載の入力装置であって、
    前記ポインタ座標制御部は、前記検知対象における前記タッチパネルに対するZ方向の近接速度が前記タッチパネルから離間する方向に所定の近接速度を超えたことを判定し、
    前記表示制御部は、
    前記ポインタ座標制御部の判定結果を基に、前記オフセット量を変更する入力装置。
  21. タッチパネルが配置された表示部を有する入力装置における入力支援方法であって、
    前記タッチパネルにおいて検知対象が近接又は接触したことを検知するステップと、
    前記近接又は接触が検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるZ方向の座標とを含む位置座標を検出するステップと、
    前記検出された前記検知対象のZ方向の座標を含む情報と、予め定められた判定条件とに基づいて、前記検知対象が指定する操作対象の位置を指し示すインジケータを表示するか否かを判定するステップと、
    前記インジケータを表示すると判定された場合、前記インジケータを前記表示部に表示させるステップと、を有する入力支援方法。
  22. タッチパネルが配置された表示部を有する入力装置であるコンピュータに、
    前記タッチパネルにおいて検知対象が近接又は接触したことを検知するステップと、
    前記近接又は接触が検知された前記検知対象の、前記タッチパネルの面に沿う方向であるXY方向の座標と、前記タッチパネルの面に対して垂直方向であるZ方向の座標とを含む位置座標を検出するステップと、
    前記検出された前記検知対象のZ方向の座標を含む情報と、予め定められた判定条件とに基づいて、前記検知対象が指定する操作対象の位置を指し示すインジケータを表示するか否かを判定するステップと、
    前記インジケータを表示すると判定された場合、前記インジケータを前記表示部に表示させるステップと、を実行させるためのプログラム。
JP2013515001A 2011-05-16 2012-05-16 表示装置、表示制御方法及び表示制御プログラム、並びに、入力装置、入力支援方法及びプログラム Active JP6073782B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011109344 2011-05-16
JP2011109344 2011-05-16
PCT/JP2012/003210 WO2012157272A1 (ja) 2011-05-16 2012-05-16 表示装置、表示制御方法及び表示制御プログラム、並びに、入力装置、入力支援方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2012157272A1 true JPWO2012157272A1 (ja) 2014-07-31
JP6073782B2 JP6073782B2 (ja) 2017-02-01

Family

ID=47176621

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013515001A Active JP6073782B2 (ja) 2011-05-16 2012-05-16 表示装置、表示制御方法及び表示制御プログラム、並びに、入力装置、入力支援方法及びプログラム

Country Status (4)

Country Link
US (1) US9470922B2 (ja)
EP (1) EP2711818A1 (ja)
JP (1) JP6073782B2 (ja)
WO (1) WO2012157272A1 (ja)

Families Citing this family (49)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10180746B1 (en) 2009-02-26 2019-01-15 Amazon Technologies, Inc. Hardware enabled interpolating sensor and display
US9740341B1 (en) 2009-02-26 2017-08-22 Amazon Technologies, Inc. Capacitive sensing with interpolating force-sensitive resistor array
US9740340B1 (en) 2009-07-31 2017-08-22 Amazon Technologies, Inc. Visually consistent arrays including conductive mesh
US9785272B1 (en) 2009-07-31 2017-10-10 Amazon Technologies, Inc. Touch distinction
US9594405B2 (en) * 2011-10-19 2017-03-14 Facebook, Inc. Composite touch gesture control with touch screen input device and secondary touch input device
US9201546B2 (en) * 2012-03-09 2015-12-01 Elo Touch Solutions, Inc. Acoustic touch apparatus with multi-touch capability
US9201510B2 (en) * 2012-04-16 2015-12-01 Blackberry Limited Method and device having touchscreen keyboard with visual cues
JP5579780B2 (ja) 2012-06-06 2014-08-27 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 入力装置、入力支援方法及びプログラム
US9280235B2 (en) 2012-09-13 2016-03-08 Panasonic Intellectual Property Corporation Of America Portable electronic device
JP5798103B2 (ja) * 2012-11-05 2015-10-21 株式会社Nttドコモ 端末装置、画面表示方法、プログラム
JP6040420B2 (ja) * 2013-01-31 2016-12-07 パナソニックIpマネジメント株式会社 操作装置及び洗濯機
CN103116432B (zh) * 2013-03-04 2016-08-31 惠州Tcl移动通信有限公司 一种触摸屏的三维操作控制方法、装置及其移动终端
CN104035699A (zh) * 2013-03-05 2014-09-10 中兴通讯股份有限公司 电容式触摸屏终端及其输入方法
US9164609B2 (en) 2013-03-13 2015-10-20 Amazon Technologies, Inc. Managing sensory information of a user device
JP5679595B2 (ja) 2013-03-14 2015-03-04 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 電子機器及び座標判定方法
JP5894957B2 (ja) * 2013-03-29 2016-03-30 株式会社ジャパンディスプレイ 電子機器、電子機器の制御方法
KR102056316B1 (ko) * 2013-05-03 2020-01-22 삼성전자주식회사 터치 스크린 동작 방법 및 그 전자 장치
JP2014219841A (ja) * 2013-05-08 2014-11-20 住友電工ネットワークス株式会社 操作入力装置および操作入力プログラム
JP5736005B2 (ja) * 2013-06-11 2015-06-17 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 入力処理装置、情報処理装置、情報処理システム、入力処理方法、情報処理方法、入力処理プログラム、及び情報処理プログラム
US10318090B2 (en) 2013-08-13 2019-06-11 Samsung Electronics Company, Ltd. Interaction sensing
US10042446B2 (en) * 2013-08-13 2018-08-07 Samsung Electronics Company, Ltd. Interaction modes for object-device interactions
US20150077352A1 (en) * 2013-09-13 2015-03-19 Lili Michael Ma Multi-Touch Virtual Mouse
JP6252061B2 (ja) * 2013-09-17 2017-12-27 日本電気株式会社 情報表示装置、制御方法、及びプログラム
JP5802247B2 (ja) * 2013-09-25 2015-10-28 株式会社東芝 情報処理装置
KR20150050758A (ko) * 2013-10-31 2015-05-11 삼성전자주식회사 전자 장치의 입력 처리 방법 및 장치
US9501218B2 (en) * 2014-01-10 2016-11-22 Microsoft Technology Licensing, Llc Increasing touch and/or hover accuracy on a touch-enabled device
KR101583817B1 (ko) * 2014-04-17 2016-01-08 주식회사 케이씨텍 화학 기계적 연마 공정의 보정 제어 장치 및 그 방법
KR20150129419A (ko) * 2014-05-12 2015-11-20 한국전자통신연구원 사용자 입력 장치 및 그 방법
JP6381989B2 (ja) * 2014-06-26 2018-08-29 京セラ株式会社 携帯電子機器、携帯電子機器の制御方法およびプログラム
JP6561562B2 (ja) * 2014-06-30 2019-08-21 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 加熱調理装置、情報表示装置、制御方法、調理器具、およびコンピュータプログラム
JP5969551B2 (ja) * 2014-07-22 2016-08-17 日本電信電話株式会社 マルチタッチスクリーン付き携帯端末およびその動作方法
KR101610880B1 (ko) * 2014-08-12 2016-04-08 네이버 주식회사 표시 제어 장치, 표시 제어 방법 및 이를 컴퓨터에서 실행하기 위한 컴퓨터 프로그램
FR3028968B1 (fr) * 2014-11-21 2016-11-25 Renault Sa Interface graphique et procede de gestion de l'interface graphique lors de la selection tactile d'un element affiche
FR3028967B1 (fr) 2014-11-21 2017-12-15 Renault Sas Interface graphique et procede de gestion de l'interface graphique lors de la selection tactile d'un element affiche
KR20160112559A (ko) * 2015-03-19 2016-09-28 삼성전자주식회사 터치 패널을 포함하는 전자 장치 및 그 제어 방법
US10564770B1 (en) * 2015-06-09 2020-02-18 Apple Inc. Predictive touch detection
EP3330842A4 (en) * 2015-07-28 2019-03-27 Nippon Telegraph and Telephone Corporation INFORMATION TERMINAL OF THE TOUCH SCREEN TYPE, INFORMATION INPUT PROCESSING METHOD THEREFOR AND PROGRAM
TWI576752B (zh) * 2015-08-17 2017-04-01 宏碁股份有限公司 觸控裝置及其觸控偵測方法
WO2017064771A1 (ja) * 2015-10-14 2017-04-20 日立マクセル株式会社 入力端末装置および操作入力方法
WO2017154119A1 (ja) * 2016-03-08 2017-09-14 富士通株式会社 表示制御装置、表示制御方法および表示制御プログラム
JP6307576B2 (ja) * 2016-11-01 2018-04-04 マクセル株式会社 映像表示装置及びプロジェクタ
JP6741999B2 (ja) 2017-11-02 2020-08-19 パナソニックIpマネジメント株式会社 表示装置および入力装置
US10824308B2 (en) * 2017-12-04 2020-11-03 Avaya Inc. System and method of controlling a cursor display in a co-browsing communication session
US11079932B2 (en) * 2018-10-29 2021-08-03 International Business Machines Corporation Pop-up adjustment for mobile devices
JP7400205B2 (ja) * 2019-04-02 2023-12-19 船井電機株式会社 入力装置
WO2021075103A1 (ja) * 2019-10-17 2021-04-22 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
CN111475247B (zh) * 2020-04-10 2023-09-26 维沃移动通信有限公司 显示方法及电子设备
US11422679B2 (en) * 2021-01-21 2022-08-23 Ford Global Technologies, Llc Systems and methods for navigating pages of a digital map
JP2023128474A (ja) * 2022-03-03 2023-09-14 アルプスアルパイン株式会社 入力装置

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06301486A (ja) * 1993-04-16 1994-10-28 Hitachi Ltd ポインティング装置および入出力一体型情報処理装置
JP2002358162A (ja) * 2001-06-01 2002-12-13 Sony Corp 画像表示装置
JP2006520024A (ja) * 2002-11-29 2006-08-31 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 接触エリアの移動させられた表現を用いたユーザインタフェース
JP2006285491A (ja) * 2005-03-31 2006-10-19 Digital Electronics Corp 表示入力装置
JP2008065630A (ja) * 2006-09-07 2008-03-21 Ricoh Co Ltd 画像処理装置及びガイダンス表示方法
JP2009026155A (ja) * 2007-07-20 2009-02-05 Toshiba Corp 入力表示装置および移動無線端末装置
JP2009064109A (ja) * 2007-09-04 2009-03-26 Canon Inc 画像投影装置及びその制御方法
JP2009116769A (ja) * 2007-11-09 2009-05-28 Sony Corp 入力装置、入力装置の制御方法、及びプログラム
US20090295715A1 (en) * 2008-06-02 2009-12-03 Lg Electronics Inc. Mobile communication terminal having proximity sensor and display controlling method therein
JP2010061372A (ja) * 2008-09-03 2010-03-18 Nec Corp 情報処理装置、ポインタ指定方法、及びプログラム
US20100107099A1 (en) * 2008-10-27 2010-04-29 Verizon Data Services, Llc Proximity interface apparatuses, systems, and methods
WO2010073329A1 (ja) * 2008-12-25 2010-07-01 富士通株式会社 コンピュータプログラム、入力装置及び入力方法
JP2010152827A (ja) * 2008-12-26 2010-07-08 Brother Ind Ltd 入力装置
JP2011028560A (ja) * 2009-07-27 2011-02-10 Sony Corp 情報処理装置、表示方法及び表示プログラム
WO2012027422A2 (en) * 2010-08-24 2012-03-01 Qualcomm Incorporated Methods and apparatus for interacting with an electronic device application by moving an object in the air over an electronic device display

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5621438A (en) 1992-10-12 1997-04-15 Hitachi, Ltd. Pointing information processing apparatus with pointing function
JPH06131120A (ja) 1992-10-20 1994-05-13 Sharp Corp 情報処理装置
JP2008505381A (ja) * 2004-06-29 2008-02-21 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 表示装置の汚れを防ぐ方法及び装置
US7605804B2 (en) * 2005-04-29 2009-10-20 Microsoft Corporation System and method for fine cursor positioning using a low resolution imaging touch screen
JP2008250948A (ja) 2007-03-30 2008-10-16 Sharp Corp 情報処理装置、情報処理方法、情報処理プログラム、情報処理プログラムを記録した記憶媒体、並びに情報表示装置
KR20090047828A (ko) * 2007-11-08 2009-05-13 삼성전자주식회사 컨텐츠 표시 방법 및 이를 적용한 전자기기
US8237666B2 (en) * 2008-10-10 2012-08-07 At&T Intellectual Property I, L.P. Augmented I/O for limited form factor user-interfaces
TW201104529A (en) * 2009-07-22 2011-02-01 Elan Microelectronics Corp Touch device, control method and control unit for multi-touch environment
US20120120002A1 (en) * 2010-11-17 2012-05-17 Sony Corporation System and method for display proximity based control of a touch screen user interface
JP2012247938A (ja) * 2011-05-26 2012-12-13 Sony Corp 情報処理装置、表示制御方法及びプログラム

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06301486A (ja) * 1993-04-16 1994-10-28 Hitachi Ltd ポインティング装置および入出力一体型情報処理装置
JP2002358162A (ja) * 2001-06-01 2002-12-13 Sony Corp 画像表示装置
JP2006520024A (ja) * 2002-11-29 2006-08-31 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 接触エリアの移動させられた表現を用いたユーザインタフェース
JP2006285491A (ja) * 2005-03-31 2006-10-19 Digital Electronics Corp 表示入力装置
JP2008065630A (ja) * 2006-09-07 2008-03-21 Ricoh Co Ltd 画像処理装置及びガイダンス表示方法
JP2009026155A (ja) * 2007-07-20 2009-02-05 Toshiba Corp 入力表示装置および移動無線端末装置
JP2009064109A (ja) * 2007-09-04 2009-03-26 Canon Inc 画像投影装置及びその制御方法
JP2009116769A (ja) * 2007-11-09 2009-05-28 Sony Corp 入力装置、入力装置の制御方法、及びプログラム
US20090295715A1 (en) * 2008-06-02 2009-12-03 Lg Electronics Inc. Mobile communication terminal having proximity sensor and display controlling method therein
JP2010061372A (ja) * 2008-09-03 2010-03-18 Nec Corp 情報処理装置、ポインタ指定方法、及びプログラム
US20100107099A1 (en) * 2008-10-27 2010-04-29 Verizon Data Services, Llc Proximity interface apparatuses, systems, and methods
WO2010073329A1 (ja) * 2008-12-25 2010-07-01 富士通株式会社 コンピュータプログラム、入力装置及び入力方法
JP2010152827A (ja) * 2008-12-26 2010-07-08 Brother Ind Ltd 入力装置
JP2011028560A (ja) * 2009-07-27 2011-02-10 Sony Corp 情報処理装置、表示方法及び表示プログラム
WO2012027422A2 (en) * 2010-08-24 2012-03-01 Qualcomm Incorporated Methods and apparatus for interacting with an electronic device application by moving an object in the air over an electronic device display

Also Published As

Publication number Publication date
US20140028557A1 (en) 2014-01-30
EP2711818A1 (en) 2014-03-26
US9470922B2 (en) 2016-10-18
JP6073782B2 (ja) 2017-02-01
WO2012157272A1 (ja) 2012-11-22

Similar Documents

Publication Publication Date Title
JP6073782B2 (ja) 表示装置、表示制御方法及び表示制御プログラム、並びに、入力装置、入力支援方法及びプログラム
JP5701440B1 (ja) ユーザ入力の操作性を向上させる方法
JP5779923B2 (ja) 情報処理装置、情報処理方法およびコンピュータプログラム
JP4734435B2 (ja) タッチパネル式ディスプレイを持った携帯型ゲーム装置
JP6132644B2 (ja) 情報処理装置、表示制御方法、コンピュータプログラム、及び記憶媒体
JP5780438B2 (ja) 電子機器、位置指定方法及びプログラム
US20130088450A1 (en) Information processing system, operation input device, information processing device, information processing method, program, and information storage medium
US20140139482A1 (en) Touch sensor system
JP5640486B2 (ja) 情報表示装置
JP2014021829A (ja) 情報処理装置及びその制御方法
US9430089B2 (en) Information processing apparatus and method for controlling the same
JP2011221821A (ja) 情報処理システム、操作入力装置、情報処理装置、情報処理方法、プログラム及び情報記憶媒体
CN103019577A (zh) 选择对象的方法及装置、控制方法和控制装置
US9367169B2 (en) Method, circuit, and system for hover and gesture detection with a touch screen
KR101432483B1 (ko) 제어영역을 이용한 터치스크린 제어방법 및 이를 이용한 단말
JP5705393B1 (ja) ユーザ入力の操作性を向上させる方法
JP2018023792A (ja) ゲーム装置及びプログラム
JP5769841B2 (ja) タッチパネル式ディスプレイを持った携帯型ゲーム装置
JP2015153197A (ja) ポインティング位置決定システム
JP5841023B2 (ja) 情報処理装置、情報処理方法、プログラム及び情報記憶媒体
JP6106973B2 (ja) 情報処理装置及びプログラム
JP6126639B2 (ja) タッチパネル式ディスプレイを持った携帯型ゲーム装置及びゲームプログラム。
KR20140088487A (ko) 단말기 및 그의 조작 방법
JP5523381B2 (ja) タッチパネル式ディスプレイを持った携帯型ゲーム装置
JP6204414B2 (ja) ゲーム装置及びプログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20140606

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20150121

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150514

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160831

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170105

R150 Certificate of patent or registration of utility model

Ref document number: 6073782

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150