JP4650559B2 - 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム - Google Patents

情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム Download PDF

Info

Publication number
JP4650559B2
JP4650559B2 JP2008299407A JP2008299407A JP4650559B2 JP 4650559 B2 JP4650559 B2 JP 4650559B2 JP 2008299407 A JP2008299407 A JP 2008299407A JP 2008299407 A JP2008299407 A JP 2008299407A JP 4650559 B2 JP4650559 B2 JP 4650559B2
Authority
JP
Japan
Prior art keywords
detection
distance
key
information processing
sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008299407A
Other languages
English (en)
Other versions
JP2010128544A (ja
Inventor
晴夫 大場
篤 越山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008299407A priority Critical patent/JP4650559B2/ja
Priority to US12/589,672 priority patent/US8115737B2/en
Priority to CN200910226567XA priority patent/CN101901049B/zh
Publication of JP2010128544A publication Critical patent/JP2010128544A/ja
Application granted granted Critical
Publication of JP4650559B2 publication Critical patent/JP4650559B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/0202Constructional details or processes of manufacture of the input device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • G06F3/0445Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means using two or more layers of sensing electrodes, e.g. using two layers of electrodes separated by a dielectric layer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • G06F3/0446Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means using a grid-like structure of electrodes in at least two directions, e.g. using row and column electrodes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • G06F3/0447Position sensing using the local deformation of sensor cells

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Input From Keyboards Or The Like (AREA)
  • Position Input By Displaying (AREA)
  • Telephone Set Structure (AREA)
  • Telephone Function (AREA)

Description

この発明は、ユーザの例えばキー入力などに応じて制御を行う情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラムに関する。
従来、人が何らかの入力をする場合には、操作ボタンやタッチパネルが用いられるのが一般的である。タッチパネルの場合には、LCD(Liquid Crystal Display)などの平面ディスプレイと組み合わせられ、表示画面に表示されたボタンアイコンなどをあたかも押下操作するような操作入力となる。
これらの入力操作は、操作ボタントップの平面やタッチパネルの画面への接触や加圧を前提したものとなっている。そのため、平面との接触や加圧という限られた動作が操作入力となっていた。また、平面との接触が可能な限られた用途となっていた。
このため、接触や加圧による振動や力が、機器の性能を阻害するという問題や、接触面を汚したり、傷つけたりするなどという問題もあった。
上述の問題点を改善したものとして、出願人は、先に、特許文献1(特開2008−117371号公報)に、近接検知方情報表示装置を開示した。この特許文献1においては、例えば、互いに直交する2方向に複数のライン電極または点電極を配したセンサパネルを備えるセンサ手段を用いる。
そして、このセンサ手段においては、複数個の電極を含むセンサパネル面と、このパネル面に対して空間的に離間する検出対象物、例えば人の手や指との距離を、当該距離に応じた静電容量を複数の電極について検出することにより検出する。
すなわち、センサパネルの複数の電極のそれぞれと接地点との間の静電容量は、人の手や指の位置と、パネル面との空間的な離間距離に応じて変化する。そこで、人の指の位置と、パネル面との空間的な距離にスレッショールド値を設定し、その距離よりも指がパネルに近接したか、遠のいたかを、前記距離に応じた静電容量の変化を検出することにより、検出するものである。
そして、特許文献1では、特に、検出対象物とセンサパネル面との距離に応じて、静電容量を検出する電極の間隔を変えることにより、静電容量の検知感度を向上させることができる技術が開示されている。
この先に提案した技術によれば、センサパネルに接触することなく、スイッチ入力を行うことができる。また、センサパネルには、互いに直交する2方向に複数のライン電極または点電極を配しているので、パネル面に沿う方向の手や指の動きを空間的に検出することができ、空間内での手や指の動きに応じた操作入力をすることもできるという特徴がある。
上記の先行技術文献は、次の通りである。
特開2008−117371号公報
ところで、上述の特許文献1に示したセンサ手段を用いた入力手段は、キーボードのような文字入力を行う手段としては適していない。このため、キーボードと、特許文献1に示したセンサ手段を用いて入力手段とを、パソコンなどの情報処理装置に接続して、それぞれの用途に応じて、入力手段を取り替えて操作をすることが考えられる。
しかしながら、入力手段を取り替えながら操作をすることは手間が面倒である。また、パーソナルコンピュータ(以下、パソコンと略称する)などの情報処理装置に、2種の入力手段を接続する必要があると言う問題もある。さらに、両者の入力機能を連携した操作がし辛いという問題もある。
この発明は、以上の問題点を解消できる情報処理装置および方法を提供することを目的とする。
上記の課題を解決するために、この発明においては、
1または複数の操作キーが平面的に配設され、操作キーの操作に応じたキー操作出力を出力するキー操作部と、
前記キー操作部の前記操作キーの配設面から空間的に離間する検出対象物の、前記配設面からの距離に応じた検出出力を出力するセンサ手段と、
前記センサ手段からの前記検出出力から前記検出対象物の、前記配設面からの距離を検出する検出手段と、
前記検出手段で検出された前記距離が、所定の距離より小さいときには、前記操作キーの操作に応じたキー操作出力のみを有効として、前記センサ手段の検出出力を無効とし、前記所定の距離以上のときには、前記検出手段で検出された前記距離に応じた制御機能を行う制御手段と、
を備える情報処理装置を提供する。
上述の構成のこの発明による情報処理装置においては、検出手段において、センサ手段からの検出出力から検出対象物の、キー操作部のキー配設面からの距離が検出される。そして、この検出手段で検出された検出対象物の、キー配設面からの距離が、予め定められている所定の距離よりも小さいときには、制御手段は、キー操作部に配列されている操作キーに対する入力操作を有効と判断する。
また、検出手段で検出された検出対象物の、キー操作部のキー配設面からの距離が、予め定められている所定の距離以上のときには、制御手段は、検出手段で検出された検出対象物の前記距離に応じた制御機能を行う。
検出対象物の例としての人の手や指を想定した場合には、次のようになる。
ユーザが手や指により、キー配設面に配列されている操作キーを操作する状態では、当該ユーザの手や指は、キー配設面からの距離が、予め定められている所定の距離よりも小さい位置にあるとされる。そこで、制御手段は、キー配設面に配列されている操作キーに対する入力操作を有効と判断して、当該操作キーに応じた制御処理を実行するようにする。
一方、ユーザの手や指のキー配設面からの距離が、予め定められている所定の距離以上である場合には、制御手段は、ユーザにより空間入力操作がなされたと判断し、当該ユーザの手や指のキー配設面からの距離に応じた制御機能を実行する。
こうして、ユーザは、手をキー配設面上に置いたままで、操作キーによる入力操作と、キー配設面上における空間入力操作とをすることができ、非常に便利である。
この発明によれば、キー配設面上に配列された操作キーによる入力操作と、キー配設面上における空間入力操作との、2種類の入力操作に応じた制御を行うことができる情報処理装置を提供することができる。この場合に、この発明によれば、ユーザは、手をキー配設面上に置いたままで、操作キーによる入力操作と、キー配設面上における空間入力操作とをすることができ、非常に便利である。
以下、この発明による情報処理装置および情報処理システムの実施形態を、図を参照しながら説明する。以下に説明する実施形態においては、センサ手段は、特許文献1に開示した静電容量を検出することにより、検出対象物との距離を検出するセンサ手段を用いる。また、検出対象物は、操作者の手や指を想定するものである。
<第1の実施形態>
第1の実施形態は、操作入力装置と情報処理装置とからなる情報処理システムの実施形態である。図3は、この第1の実施形態としての情報処理システムの構成例を示す図である。
この図3に示すように、この実施形態の情報処理システムは、操作入力装置1と、情報処理装置としてのパソコン2とからなり、操作入力装置1が接続ケーブル3を通じてパソコン本体2Aに接続されている。そして、パソコン本体2Aには、例えばLCD(Liquid Crystal Display)からなる表示装置2Bが接続されている。
操作入力装置1の表面部分には、この例では、複数の操作キーが平面的に配列されたキーボード11が配設されている。ユーザが、このキーボード11の操作キーを押下操作すると、押下操作された操作キーに応じたキー操作出力を、この操作入力装置1は、出力する。
この実施形態の操作入力装置1においては、図3では図示されないが、キーボード11の下側に、検出対象物としての手や指の空間的な離間距離を検出するセンサ部が積層されて配設されている。
センサ部は、このセンサ部に対する検出対象物としての手や指の空間的な離間距離に応じたセンサ検出出力を出力する。後述するように、この実施形態では、センサ部は、後述するように、所定の大きさの2次元平面からなる矩形状のセンサパネルを備え、このセンサパネル面から検出対象物までの距離を検出するものである。
そして、この実施形態では、センサ部は、センサパネル面の横方向および縦方向において、それぞれ複数の位置において、独立して検出対象物までの距離に応じたセンサ検出出力を出力することができるように構成されている。これにより、この実施形態では、センサ部は、検出対象物がセンサパネル面のいずれの位置上にあるかをも検出可能とされている。
すなわち、例えばセンサパネル面の横方向をx軸方向、縦方向をy軸方向とすると共に、センサパネル面に直交する方向をz軸方向としたとき、検出対象物の空間的な離間距離は、z軸座標値として検出される。そして、センサパネル上の検出対象物の空間位置は、x軸座標値およびy軸座標値により検出される。
パソコン本体2Aは、この実施形態では、操作入力装置1のキーボード11における押下操作キーに応じたキー操作出力を受けると共に、センサ部からのセンサ検出出力を受ける。センサ部からのセンサ検出出力は、検出対象物のセンサパネル面における位置(x、y座標)および空間離間距離(z座標)に応じたものとなる。
パソコン本体2Aは、この実施形態では、操作入力装置1からのキー操作出力と、センサ検出出力との両方の入力情報を監視し、検出した両入力情報に応じた制御を行うようにする。この実施形態では、その制御結果は、表示装置2Bの画面上において具現表示される。
[第1の実施形態における操作入力装置1の構造の説明]
図1は、この実施形態における操作入力装置1の分解構成図を示すもので、この実施形態の操作入力装置1は、キーボード11と、センサ部との積層構造となっている。
すなわち、図1に示すように、操作入力装置1の操作方向の前面側から、その奥行き方向(操作キーの押下操作方向)に順に、キーボード11、X−Zセンサパネル12、Y−Zセンサパネル13、外周フレーム14、キーボードプリント配線基板15、背面フレーム16が設けられる。
キーボード11は、周知のように、複数個の操作キー11Kが平面的に縦方向および横方向に配設されたものである。キーボード11の複数個の操作キー11Kのそれぞれが押下操作されると、キーボードプリント配線基板15の、それぞれの操作キー11Kに対応して設けられている押下検出スイッチがオンとなる。
キーボードプリント配線基板15からは、押下操作された操作キー11Kに応じてオンとなった押下検出スイッチの位置に応じたキー操作出力が出力され、パソコン本体2Aは、当該キー操作出力からいずれの操作キー11Kが押下されたかを検知する。
X−Zセンサパネル12およびY−Zセンサパネル13は、この実施形態のセンサ部10を構成するものである。これら、X−Zセンサパネル12およびY−Zセンサパネル13は、この例では、互いに直交する2方向に複数本のワイヤ電極が配列されて構成されている。
X−Zセンサパネル12においては、ワイヤ電極の延伸方向が図1上の垂直方向(縦方向)である複数の縦電極12V1,12V2,12V3,・・・,12Vn(nは、2以上の整数)が、図2上、水平方向(横方向)に、この例では等間隔に配置されている。
また、Y−Zセンサパネル13においては、ワイヤ電極の延伸方向が図1上の水平方向(横方向)である複数の横電極13H1,13H2,13H3,・・・,13Hm(mは、2以上の整数)が、図1上の垂直方向(縦方向)に、この例では等間隔に配置されている。
図4(A)および(B)は、それぞれX−Zセンサパネル12およびY−Zセンサパネル13の横断面図を示すものである。
X−Zセンサパネル12は、2枚のガラス板17V,18Vの間に、複数個の縦電極12V1,12V2,12V3,・・・,12Vnが含まれる電極層19Vが挟持される構成とされている。
また、Y−Zセンサパネル13は、2枚のガラス板17H,18Hの間に、複数個の横電極13H1,13H2,13H3,・・・,13Hmが含まれる電極層19Hが挟持される構成とされている。なお、図4(B)における13Hiは、i番目の横電極を意味している。
図1では、図示を省略したが、X−Zセンサパネル12およびY−Zセンサパネル13には、キーボード11の各操作キー11Kが押されたとき、キーボードプリント配線基板15の押下検出スイッチを押圧偏倚させる操作子が挿通される透孔が設けられている。
外周フレーム14は、例えば絶縁材料である樹脂により構成され、キーボード14、X−Zセンサパネル12およびY−Zセンサパネル13が収納される透孔14Aを設けられている。
外周フレーム14の下部に、キーボードプリント配線基板15が設けられている。このキーボードプリント配線基板15には、後述するように、X−Zセンサパネル12およびY−Zセンサパネル13の電極端子が接続されると共に、X−Zセンサパネル12およびY−Zセンサパネル13を含むセンサ部の回路構成部品も搭載されている。つまり、この実施形態では、キーボードプリント配線基板15は、センサ部10用のプリント配線基板としても用いられている。
背面フレーム16は、例えば絶縁材料である樹脂により構成され、外周フレーム14に対して接着される。以上により、操作入力装置1は、外周フレーム14と、背面フレーム16とに形成される凹部に、キーボード11の構成部と、センサ部10の構成部とが、積層されて配設されて構成される。したがって、この実施形態の操作入力装置1は、概観上は、図2に示すように、従来からある一般的なキーボードと同じようなものとなる。
[センサ部10の回路構成]
この実施形態においても、特許文献1の場合と同様に、センサ部10のX−Zセンサパネル12およびY−Zセンサパネル13と検出対象物との距離に応じた静電容量は、発振回路の発振周波数に変換して検出する。そして、この実施形態では、センサ部10は、発振周波数に応じたパルス信号のパルス数を計数し、その発信周波数に応じた計数値をセンサ出力信号とする。
図5は、X−Zセンサパネル12およびY−Zセンサパネル13を積層した状態のセンサパネルについての説明図である。また、図6は、センサ部10から出力するセンサ検出出力信号を生成するための回路構成例を示している。
図5に示すように、この実施形態のセンサ部10では、前述もしたように、互いに直交する2方向に複数本のワイヤ電極が配列されて構成されている。すなわち、複数個の縦電極12V1,12V2,12V3,・・・,12Vnと、複数の横電極12H1,12H2,12H3,・・・,12Hmとが、互いに直交する方向に配列されている。
この場合、複数の横電極13H1,13H2,13H3,・・・,13Hmのそれぞれと、接地間には静電容量(浮遊容量)CH1,CH2,CH3,・・・,CHmが存在する。そして、これらの静電容量CH1,CH2,CH3,・・・,CHmは、Y−Zセンサパネル13面上の空間における手や指の存在位置により変化する。
複数の横電極13H1,13H2,13H3,・・・,13Hmの一方および他方の端部は、それぞれ横電極端子とされている。そして、この例では、複数の横電極13H1,13H2,13H3,・・・,13Hmのそれぞれの横電極端子の一方は、図6に示す横電極用の発信器101Hに接続される。
また、複数の横電極13H1,13H2,13H3,・・・,13Hmのそれぞれの横電極端子の他方は、アナログスイッチ回路103に接続される。なお、図6に示す回路部品は、キーボードプリント配線基板15上に設けられていることは、既に述べたとおりである。
この場合、横電極13H1,13H2,13H3,・・・,13Hmは、図6に示すような等価回路で表わすことができる。図6では、横電極13H1についての等価回路が示されているが、他の横電極13H2,・・・,13Hmにおいても同様である。
すなわち、横電極13H1の等価回路は、抵抗RHと、インダクタンスLHと、検出対象の静電容量CH1とからなる。他の横電極13H2,13H3,・・・,13Hmでは、静電容量がCH2,CH3,・・・,CHmに変わる。
この横電極13H1,13H2,13H3,・・・,13Hmの等価回路は、共振回路を構成するもので、発信器101Hと共に発振回路を構成し、それぞれ横電極容量検出回路102H1,102H2,102H3,・・・,102Hmを構成する。そして、横電極容量検出回路102H1,102H2,102H3,・・・,102Hmのそれぞれの出力は、検出対象物のセンサパネル10面からの距離に応じた静電容量CH1,CH2,CH3,・・・,CHmのそれぞれに応じた発振周波数の信号となる。
ユーザが、Y−Zセンサパネル13上で、手や指先の位置をY−Zセンサパネル13に対して近づけたり、遠ざけたりすると、静電容量CH1,CH2,CH3,・・・,CHmの値が変化する。そのため、横電極容量検出回路102H1,102H2,102H3,・・・,102Hmのそれぞれでは、手や指先位置の位置変化が、発振回路の発振周波数の変化として検出される。
一方、複数の縦電極12V1,12V2,12V3,・・・,12Vnの一方および他方の端部は、それぞれ縦電極端子とされている。そして、この例では、複数の縦電極12V1,12V2,12V3,・・・,12Vnのそれぞれの縦電極端子の一方は、縦電極用の発信器101Vに接続される。この例では、縦電極用の発信器101Vの出力信号の基本周波数は、横電極用の発信器101Hとは周波数が異なるものとされる。
また、複数の縦電極12V1,12V2,12V3,・・・,12Vnのそれぞれの縦電極端子の他方は、アナログスイッチ回路103に接続される。
この場合、縦電極12V1,12V2,12V3,・・・,12Vnも、図6に示すように、横電極の場合と同様の等価回路で表わすことができる。図6では、縦電極12V1についての等価回路が示されているが、他の縦電極12V2,・・・,12Vnにおいても同様である。
すなわち、縦電極12V1の等価回路は、抵抗RVと、インダクタンスLVと、検出対象の静電容量CV1とからなる。他の横電極12V2,12V3,・・・,12Vnでは、静電容量がCV2,CV3,・・・,CVnに変わる。
そして、この縦電極12V1,12V2,12V3,・・・,12Vnの等価回路は、共振回路を構成するもので、発信器101Vと共に発振回路を構成し、それぞれ縦電極容量検出回路102V1,102V2,102V3,・・・,102Vnを構成する。そして、縦電極容量検出回路102V1,102V2,102V3,・・・,102Vnのそれぞれの出力は、検出対象物のX−Zセンサパネル12面からの距離に応じた静電容量CV1,CV2,CV3,・・・,CVnのそれぞれに応じた発振周波数の信号となる。
そして、縦電極容量検出回路102V1,102V2,102V3,・・・,102Vnのそれぞれにおいても、手や指先位置の位置変化に応じた静電容量CV1,CV2,CV3,・・・,CVnの値の変化が、発振回路の発振周波数の変化として検出される。
そして、横電極容量検出回路102H1,102H2,102H3,・・・,102Hmのそれぞれの出力と、縦電極容量検出回路102V1,102V2,102V3,・・・,102Vnのそれぞれの出力とがアナログスイッチ回路103に供給される。
このアナログスイッチ回路103は、パソコン本体2Aからの切替信号SWにより、横電極容量検出回路102H1〜102Hmおよび縦電極容量検出回路102V1〜102Vnのうちの、いずれか1つの出力を、順次に、所定の速度で選択して出力する。
そして、このアナログスイッチ回路103からの出力が、周波数カウンタ104に供給される。この周波数カウンタ104は、これに入力される信号の発振周波数を計数する。すなわち、周波数カウンタ104の入力信号は、発振周波数に応じたパルス信号であり、そのパルス信号の所定時間区間におけるパルス数を計数すると、その計数値は、発振周波数に対応したものとなる。
この周波数カウンタ104の出力計数値は、パソコン本体2Aに、アナログスイッチ回路103で選択されたワイヤ電極についてのセンサ出力として供給される。そして、周波数カウンタ104の出力計数値は、パソコン本体2Aからアナログスイッチ回路103に供給される切替信号SWに同期して得られる。
したがって、パソコン本体2Aは、アナログスイッチ回路103に供給する切替信号SWから、周波数カウンタ104の出力計数値がいずれのワイヤ電極についてのセンサ出力であるかを判断する。そして、パソコン本体2Aは、自己が備えるバッファ部に、ワイヤ電極と、出力計数値とを対応付けて保持する。
そして、パソコン本体2Aは、バッファ部に保持した検出対象の全てのワイヤ電極についてのセンサ出力から、検出対象物の空間位置(センサ部10からの距離およびセンサ部10でのx,y座標)を検出する。
特許文献1に記載されているように、実際的には、センサ部10のセンサパネル上における検出対象物のx,y座標位置に応じて、複数個の横電極容量検出回路102H1〜102Hmおよび縦電極容量検出回路102V1〜102Vnからのセンサ出力が得られる。そして、その複数のセンサ出力は、検出対象物が存在するセンサ部10上におけるx,y座標位置から、センサ部10までの距離が最も短くなるので、当該位置に対応する2電極間の静電容量を検出する横電極容量検出回路および縦電極容量検出回路からのセンサ出力が、他に比べて顕著なものとなる。
以上のことから、パソコン本体2Aは、センサ部10からの複数個のセンサ出力から、センサ部10上における検出対象物が位置するx,y座標およびセンサ部10から検出対象物までの距離を求める。すなわち、検出したx,y座標位置上の空間に、検出対象物、例えば手の位置があると判断する。なお、検出対象物は、所定の大きさを有するので、検出対象物の大きさ分に相当する、センサパネル12,13上のx,y座標位置範囲上において、静電容量に応じた距離だけ離れているとして検出されるものである。
この実施形態でも、検出対象物の、センサパネル12,13面に対する空間的な離間位置の距離に応じて、特許文献1の場合と同様にして、静電容量を検出するワイヤ電極の間引き切り替えをするようにする。このワイヤ電極の間引き切り替えは、パソコン2Aからの切り替え制御信号SWにより、アナログスイッチ回路103において、順次に選択するワイヤ電極を、何本置き(0本を含む)のワイヤ電極を選択するかが制御されることによりなされる。切り替えタイミングは、センサパネル12,13面から検出対象物までの距離に応じて予め定められ、例えば、後述するレイヤの変化点とするようにしてもよい。
なお、発信器は、上述の説明では、横電極用と縦電極用とを用いるようにしたが、簡易的には、1個の共通の発信器とするようにしても良い。また、理想的には、各ワイヤ電極毎に周波数の異なる複数個の発信器を設ける方が良い。
パソコン本体2Aは、このセンサ部10からのセンサ出力と共に、キーボード11からのキー操作出力も受ける。そして、パソコン本体2Aは、センサ出力と、キー操作出力の両方から、対応する処理制御処理を決定して実行し、必要に応じて表示装置2Bの表示画面に表示されている表示画像を変更する。
なお、図6においては、センサ部10とキーボード11とを別々のものとして示したが、この実施形態では、操作入力装置1内に存在するものである。そして、センサ部10とパソコン本体2Aとの接続ケーブル部と、キーボード11とパソコン本体2Aとの接続ケーブル部とは、ケーブル3に含まれているものである。
[操作入力装置1からのキー操作出力およびセンサ出力を用いた処理動作例]
以下に説明する例は、保持していた複数のファイルの中から選択したファイルを、表示装置2Aの表示画面の中央に表示し、キーボード11によりキー操作に応じて、テキスト文字などの入力により、文書を適宜、修正する場合の例である。この例においては、その補助操作として、センサ部10におけるユーザの手による空間操作入力に用いるようにする。
図7は、この処理例における表示装置2Bの表示画面の一例およびこの場合の実施形態の情報処理システムの構成例を示すものである。なお、センサ部10のX−Zセンサパネル12およびY−Zセンサパネル13は積層されて1枚のセンサパネルと同様の構成となるので、以下の説明においては、これら積層された状態のセンサパネルとセンサパネル10Pとして示す。
この図7に示すように、この処理例においては、センサ部10のセンサパネル10Pの縦横の平面領域は、この例では、左右方向に2分割されて、例えば右側の分割領域は、選択領域111とされ、左側の分割領域は、決定領域112とされる。この分割領域の情報は、パソコン本体2Aが保持しており、パソコン本体2Aは、センサ部10のセンサ出力から、いずれの領域におけるセンサ出力であるかを判別できるように構成されている。
そして、この実施形態では、センサ部10においては、選択領域111と、決定領域112とに対して、入力操作が同時になされるものとされる。すなわち、後述するように、この実施形態では、選択領域111に対して、所定の選択入力操作を行うと共に、決定領域112に対して、選択領域111に対してなされた選択入力に対する決定操作を行うようにする。
例えば一人の人が操作入力をする場合には、右手で選択領域111における選択入力操作を行い、左手で決定領域112における決定入力操作をするようにする。
なお、この実施形態では、センサパネル10Pの領域を分割して、選択領域111および決定領域112とを構成したが、選択領域111と決定領域112とは、別々のセンサ部として構成されようにしてもよい。
図8に示すように、パソコン本体2Aは、システムバス200を介して、CPU(Central Processing Unit)201に対して、プログラムROM(Read Only Memory)202およびワークエリア用RAM(Random Access Memory)203が接続されている。
そして、この実施形態では、システムバス200に対しては、I/Oポート204、表示コントローラ205、ファイルメモリ206、レイヤ情報記憶部207が接続されている。さらに、システムバス200には、空間位置検出部208が接続されると共に、キーボードインターフェース209が接続されている。空間位置検出部208は、CPU201が、ROM202に記憶されるプログラムに従ったソフトウエア処理としても実現することができる機能部である。
I/Oポート204は、センサ部10に接続され、このセンサ部10の選択領域111および決定領域112からのセンサ出力信号を受ける。
表示コントローラ205は、表示装置2Bに接続され、パソコン本体2Aからの表示情報が表示装置2Bに供給される。表示装置2Bは、例えばLCDを表示素子として用いるもので構成されている。
ファイルメモリ206には、この例では、テキスト情報や図形情報などを含む複数のファイルが記憶されている。なお、この例のパソコン本体2Aは、この処理例のアプリケーションにおいて、ファイルメモリ206に記憶されているファイルについてのサムネイル画像を生成する機能を備えている。
レイヤ情報記憶部207は、センサ部10が検知する空間において、センサパネル10Pからの距離に応じて設定されるレイヤに関する情報が記憶されている。この例では、選択領域111と決定領域112とのそれぞれについてのレイヤ情報が記憶されている。このレイヤ情報記憶部207に記憶されるレイヤ情報については、後で詳述する。
パソコン本体2Aは、センサ部10の選択領域111および決定領域112からのセンサ出力信号を受けて、操作者の手の空間上の位置を検出する。そして、パソコン本体2Aは、操作者の手が、予め、設定されている複数のレイヤのうちの、いずれのレイヤに位置しているかや、手の振る舞いなどを判定する。
そして、パソコン本体2Aは、センサ部10からのセンサ出力信号から判定したレイヤおよび手の振る舞いに応じた処理動作を行う。例えば、パソコン本体2Aは、ファイルメモリ206から、操作者に指定されたファイルを読み出して表示装置2Bに表示したり、表示されたファイル内容をスクロール移動したり、回転したり、拡大/縮小したりする。
また、パソコン本体2Aは、センサ部10からのセンサ出力とは、別個に、キーボード11からのキー操作出力をキーボードインターフェース209を通じて受け付け、操作されたキーに応じた処理動作を実行する。
[距離方向(z方向)の複数レイヤと、機能や機能属性の割り付け]
ここで、この実施形態においては、パソコン本体2Aでは、操作入力装置1のキーボード11上のユーザの手の位置が、キーボード11の操作キー11Kを操作するような空間位置にあるときは、センサ部10からのセンサ出力を無効としている。
すなわち、この実施形態では、パソコン本体2Aでは、センサ部10からのセンサ出力から検出されるセンサ部10のセンサパネル10P面からの空間離間距離が、予め定めた距離Th以上であるか否か判別する。そして、パソコン本体2Aは、センサ部10のセンサ出力が、予め定めた距離Th以上であるときにのみ、当該センサ出力を有効として取り込むようにする。つまり、センサ部10からのセンサ出力に対して、パソコン2Aは、不感帯を有するものである。
ここで、前記予め定められる距離Thは、ユーザがキーボード11の操作キー11Kを操作するとき、およびその準備をしているような空間を含む距離よりも、安全を見越した余裕分だけ大きい距離に設定される。
すなわち、先ず、キーボード11の操作キー11Kの配列面(キートップの上面を含む面)からの距離として、ユーザがキーボード11の操作キー11Kを操作するとき、およびその準備をしているときに、ユーザの手が存在する空間を含む距離T1を求める。次に、センサパネル10Pの面と、キーボード11の操作キー11Kの配列面との距離T2とを求める。最後に、余裕分T3を定める。
そして、距離Thは、
Th=T1+T2+T3
として定める。
図9は、この実施形態におけるセンサ部10の選択領域111および決定領域112上の空間に設定されるレイヤについて説明するための図である。また、図10は、この実施形態におけるパソコン本体2Aのレイヤ情報記憶部206の記憶内容の例を示す図である。
この実施形態では、センサ部10のセンサパネル10P上の空間においては、センサパネル10P面から前記距離Thまでは、前述したように、パソコン本体2Aで、センサ部10からのセンサ出力を無効として無視する不感帯とする。
そして、距離Thよりもさらにセンサ部10のセンサパネル10Pの面から離れた空間において、選択領域111および決定領域112において、センサパネル10P面からの距離の違いにより、複数個のレイヤが設定される。
すなわち、選択領域111においては、2個のレイヤC1,C2が設定される。
この場合、図9に示すように、センサパネル10Pの表面位置をz軸の原点位置0としたとき、2個のレイヤC1、C2の境界となるz方向の距離を、LP1、LP2に設定する。したがって、Th<レイヤC1≦LP1、LP1<レイヤB2≦LP2、として、各レイヤC1、C2の距離範囲が設定される。
また、決定領域112のセンサパネル上の空間においても、センサパネル10P面からの距離の違いにより、2個のレイヤD1,D2が設定される。この場合、図9に示すように、2個のレイヤD1、D2の境界となるz方向の距離を、LDに設定する。すなわち、Th<レイヤD1≦LD、LD<レイヤB2、として、各レイヤD1、D2の距離範囲が設定される。
つまり、決定領域112においては、センサパネル10Pとの距離が、境界距離LDよりも小さく、距離Thよりも大きい距離範囲のレイヤD1と、境界距離LDよりも大きい距離範囲のレイヤD2とに分けられる。
そして、この実施形態では、決定領域112のセンサパネル10P上の空間のレイヤD2は、そのレイヤに検出対象物、この例では手があれば、「未決定」を意味するものとされ、レイヤD1は、そのレイヤに検出対象物があれば、「決定」を意味するものとされる。つまり、操作者が、レイヤD2から、レイヤD1へ手を移動させると、それが決定操作となる。
選択領域111における機能等選択操作を行いながら、この決定領域112における決定操作を行えるようにすることで、この実施形態では、選択領域111における機能等選択操作が階層的に行えるようにしている。
すなわち、この実施形態においては、選択領域111上の空間におけるレイヤ選択操作により、まず、この実施形態の情報処理システムが備える基本機能の選択ができるように構成する。この実施形態では、基本機能の選択が、選択領域111における上位階層の操作である。そして、選択領域111における下位階層の操作は、上位階層で選択された機能の属性について入力操作とされる。
基本機能としては、この実施形態では、ドラッグ機能、ファイル選択機能、拡大/縮小機能が設けられている。
ドラッグ機能は、表示画面に表示された画像を指定し、その指定した画像を平行移動させたり、回転させたりすることにより、画像の移動をしたり、画像の回転をする機能である。なお、この実施形態では、画像の移動と、画像の回転は、別々の機能として選択可能とされている。画像の移動には、例えば画像の上下左右のスクロールも含む。
ファイル選択機能は、ファイルメモリ206に記憶されているファイルの中から、操作者が表示したいファイルを選択する機能である。
拡大/縮小機能は、表示装置2Bの表示画面に表示されている画像の拡大または縮小を行う機能である。
そして、この実施形態では、選択領域111のセンサパネル10P上の空間に設定されたレイヤC2では、基本機能の選択操作がなされるように構成される。
この基本機能の選択のために、図7に示すように、表示装置2Bの表示画面には、基本機能アイコンボタンの表示バー21が表示される。図7に示すように、この例では、表示バー21には、「移動」、「拡大/縮小」、「回転」、「ファイル選択」の4種の基本機能アイコンボタンが表示される。
そして、表示バー21中の4種の基本機能アイコンボタン、すなわち、「移動」、「拡大/縮小」、「回転」、「ファイル選択」のうちのいずれが選択中であるかを示すカーソルマーク22が、表示バー21に関連して表示される。図7の例では、カーソルマーク22は、三角形マークであり、「ファイル選択」のアイコンボタンが選択されている状態を示している。
そして、操作者は、レイヤC2に手を位置させた状態で、このレイヤC2内において、x,y方向に手を移動させることで、カーソルマーク22を移動させて、自分が希望する基本機能を選択することができる。
そして、当該基本機能選択という上位階層において、手をレイヤC2からレイヤC1に移動させると、それは、レイヤC2で選択された基本機能の確認を意味し、この実施形態では、選択中の基本機能のアイコンボタンがハイライト表示される。
そして、このハイライト表示による確認がなされている状態で、決定領域112において、上述した決定操作がなされると、レイヤC2で選択された基本機能の選択が確定する。
以上のことから、この実施形態では、基本機能選択という上位階層に対しては、選択領域111のセンサパネル10P上の空間におけるレイヤC1およびC2については、図10に示すように、機能が割り付けられる。つまり、レイヤC2に対しては、基本機能を選択する機能が割り付けられ、レイヤC1に対しては、選択された機能の確認機能が割り付けられる。
また、上述したように、選択領域111における下位階層の操作は、上位階層で選択された機能の属性について入力操作とされる。
例えば、上位階層で選択された機能が「ファイル選択」であるときには、当該ファイル選択という下位階層においては、図10に示すように、レイヤC2に対しては、ファイルを選択するファイル選択機能が割り付けられる。
このファイル選択機能によってファイルの選択をするのために、図7に示すように、表示装置2Bの表示画面には、ファイルメモリ206に記憶されているファイルの内容のサムネイル画像の一覧23が表示されるように構成されている。
そして、当該ファイル選択という下位階層において、手をレイヤC2からレイヤC1に移動させると、それは、レイヤC2で選択されたファイルの確認を意味し、この実施形態では、選択中のファイルのサムネイルがハイライト表示される。図7の例においては、サムネイル画像23Aが一覧23におけるがハイライト表示されている状態を示している。
そして、このハイライト表示による確認がなされている状態で、決定領域112において、上述した決定操作がなされると、レイヤC2で選択されたファイルがファイルメモリ206から読み出されて、図7に示すように、画像24として表示される。
以上のことから、この実施形態では、ファイル選択という下位階層に対しては、選択領域111のセンサパネル10P上の空間におけるレイヤC1およびC2については、図10に示すように、機能が割り付けられる。つまり、レイヤC2に対しては、ファイル選択機能が割り付けられ、レイヤC1に対しては、選択された画像ファイルの確認機能が割り付けられる。
同様にして、移動または回転のドラッグという下位階層においては、レイヤC2に対しては、ドラッグ位置の選択機能が割り付けられ、レイヤC1に対しては、選択されたドラッグ位置の確認およびドラッグ実行機能が割り付けられる。
すなわち、基本機能選択の上位階層において、移動または回転のドラッグが選択されたときには、図11(C)において矢印AR2で示すように、レイヤC2内において、操作者は、画像の一部の位置を指定するように、手をx,y方向に移動させる。
そして、図11(A)または(B)において、画像Pxの一部の位置Poを示している状態において、操作者が手をレイヤC1に移動させると、指示された位置Poがハイライト表示されると共に、レイヤC1においてドラッグ機能が有効となる。そこで、操作者が、手を、例えば図11(A)に示すように、水平方向に位置Poから移動させると、その移動に伴って、パソコン本体2Aは、画像Pxを平行移動させるようにする制御を実行する。すなわち、レイヤC1内において、操作者は、図11(C)で矢印AR1で示すように、手をx,y方向に移動させることにより、ドラッグ操作が可能となる。
そして、移動操作後、決定領域112において、上述した決定操作がなされると、画像Pxの表示位置がそのままの状態で確定して、ドラッグ機能が終了となる。
また、指示された位置Poがハイライト表示されている状態において、レイヤC1内において、操作者が、手を、例えば図11(B)に示すように、位置Poから回転させると、その回転に伴って、パソコン本体2Aは、画像Pxを回転させるようにする制御を実行する。
そして、移動操作または回転操作後、決定領域112において、上述した決定操作がなされると、画像Pxの表示位置がそのままの状態で確定して、ドラッグ機能が終了となる。
また、拡大/縮小という下位階層においては、レイヤC2に対しては、拡大/縮小の速度大が割り付けられ、また、レイヤC1に対しては、拡大/縮小の速度小が割り付けられる。つまり、拡大/縮小という下位階層においては、レイヤC1とC2とには、拡大/縮小の速度属性が割り付けられる。
なお、基本機能の選択において、拡大/縮小が選択されるときには、レイヤC1における選択領域111のセンサパネル10Pのx,y座標位置に応じて、拡大か、縮小かの選択がなされる。例えば、レイヤC1における手の位置が、選択領域111のセンサパネル10Pの左領域または上領域であるときには拡大、選択領域111のセンサパネル111Pの右領域または下領域であるときには縮小、がそれぞれ選択される。
[パソコン本体2Aにおける処理動作]
以上のように構成された実施形態の情報処理システムにおいては、センサ10のセンサパネル面10P上の空間における操作者の左手および右手の距離位置および左手および右手の振る舞いに応じて、パソコン本体2Aが、表示装置2Bの表示画像の表示制御を行う。
以上の説明は、センサ部10が検出するべき、不感帯より上方の空間における手の位置および振る舞いによる空間操作入力に関するものである。一方、不感帯にある手によるキーボード11の操作キー11Kに対する押下操作は、その操作があれば、常にパソコン本体2Aは、そのキー操作出力を判別して、対応する処理を実行するものである。
<パソコン本体2Aの処理ルーチンの全体>
図12は、操作入力装置1からのキー操作出力およびセンサ出力を受けるパソコン本体2Aにおける基本的な処理ルーチンの例を示すフローチャートである。
この図12のフローチャートの各ステップの処理は、CPU201が、ROM202に記憶されるプログラムにしたがって、RAM203をワークエリアとして用いて実行するものである。
先ず、CPU201は、操作入力装置1のキーボード11のキー配列面の上方の検出対象物としての手の検知空間における手の存在を検知したか否かを判別する(ステップS101)。このステップS101で、検知空間における手の存在を検知しないときには、CPU201は、このステップS101を繰り返す。
このステップS101で、検知空間における手の存在を検知したと判別したときには、CPU201は、空間位置検出部208で、検知空間における手の高さ位置(センサパネル10P面からの距離)を検出する(ステップS102)。
そして、検出した手の高さ位置、つまりセンサパネル10P面からの距離は、距離Thよりも大きいか否かにより、手の高さ位置が不感帯にあるか否かを判別する(ステップS103)。
手が不感帯にあると判別したときには、CPU201は、センサ部10からのセンサ出力を無視して無効とし、キーボード11における操作キー11Kの押下操作を監視する(ステップS104)。
ステップS104で操作キー11Kの押下操作がないと判別したときには、CPU201は、ステップS101に戻り、このステップS101以降の処理を繰り返す。
また、ステップS104で操作キー11Kの押下操作があったと判別したときには、CPU201は、押下操作された操作キー11Kを判別し、その操作キーに対応した処理を実行する(ステップS105)。例えば、後述する選択されたファイルにおけるテキスト文字の入力操作処理などが、このステップS105の処理に対応する。
次に、CPU201は、手が不感帯から逸脱したか否か判別し(ステップS106)、逸脱してはいないと判別したときには、ステップS104に戻り、キーボード11における操作キー11Kの押下操作を監視し、このステップS104以降の処理を繰り返す。
また、ステップS106で、手が不感帯から逸脱したと判別したときには、CPU201は、ステップS101に戻り、このステップS101以降の処理を繰り返す。
また、ステップS103で、手の高さ位置が不感帯よりも上の位置であると判別したときには、センサパネル10P上の検知空間における手による空間操作入力について、当該時点における処理ルーチンを判断して実行する(ステップS107)。
ステップS107では、最初は、基本機能選択処理ルーチンが実行されるが、その後は、この基本機能選択処理ルーチンで決定された機能の処理ルーチンが実行される。どの機能の処理ルーチンを実行するかは、当該時点の前の基本機能選択処理ルーチンで、どの機能が選択決定されたかによる。
そして、このステップS107の次には、ステップS101に戻り、このステップS101以降の処理を繰り返す。
次に、ステップS107で実行される基本機能選択処理ルーチンの例およびこの基本機能選択処理ルーチンで決定された機能のそれぞれについての処理ルーチンの例を説明する。
<基本機能選択処理ルーチン>
図13は、この実施形態の情報処理システムのパソコン本体2Aにおける基本機能選択の上位階層の操作入力に対する処理動作の一例のフローチャートである。この図13のフローチャートの各ステップの処理は、パソコン2AのCPU201が、ROM202に記憶されたプログラムにしたがって、RAM203をワークエリアとして用いて実行するものである。
なお、基本機能選択処理ルーチンの開始の際に、CPU201は、レイヤ情報記憶部207を参照して、当該基本機能選択におけるレイヤC1,C2およびレイヤD1,D2に対して割り付けられた機能や意味などを認識しておく。すなわち、CPU201は、レイヤC2に割り付けられている機能が基本機能の選択であると認識し、また、レイヤC2に割り付けられているのは選択された基本機能の確認機能であると認識する。また、CPU201は、レイヤD2から移動して、レイヤD1に手が存在する状態が決定操作であると認識する。
そして、この例では、先ず、パソコン2AのCPU201は、センサ部10の選択領域111からの出力を監視して、選択領域111のセンサパネル10Pの不感帯より上方空間における操作者の手の接近を待つ(ステップS201)。
ステップS201で、選択領域111のセンサパネル10Pの不感帯より上方空間における操作者の手の接近があると判別したときには、CPU201は、手が位置しているのはレイヤC2であるか否かを判別する(ステップS202)。
ステップS202で、手が位置しているのはレイヤC2であると判別したときには、CPU201は、基本機能の選択のための処理、この例では、機能選択用ポインタ、つまり、カーソルマーク22を、表示装置2Bの表示画面に表示する(ステップS203)。
次に、CPU201は、レイヤC2内において、手がx,y方向に移動して、選択する機能の変更操作があったか否か判別する(ステップS204)。
ステップS204で、選択する機能の変更操作があったと判別したときには、表示装置2Bの表示画面の機能選択用ポインタ、つまり、カーソルマーク22を、レイヤC2内における変更移動操作に応じた位置に変更表示する(ステップS205)。
次に、CPU201は、手がレイヤC2からレイヤC1に移動したか否か判別する(ステップS206)。また、ステップS204で、選択する機能の変更操作がなかったと判別したときにも、ステップS206に進んで、手がレイヤC2からレイヤC1に移動したか否か判別する。さらに、ステップS202で、手がレイヤC2に存在しないと判別したときにも、ステップS206に進んで、手がレイヤC1にあるか否か判別する。
そして、ステップS206で、手がレイヤC1に存在しないと判別したときには、CPU201は、ステップS202に戻り、このステップS202以降の処理を繰り返す。
また、ステップS206で、手がレイヤC1に存在すると判別したときには、CPU201は、選択された基本機能の選択確認の処理をする。この例では、CPU201は、表示バー21の基本機能アイコンボタンのうちの、レイヤC2で選択された基本機能のアイコンボタンをハイライト表示して、確認表示する(ステップS207)。
次に、CPU201は、決定領域112のセンサパネル10P上の手が、レイヤD1にあるか否か判別する(ステップS208)。ステップS208で、決定領域112のセンサパネル10P上の手が、レイヤD1にないと判別したときには、CPU201は、ステップS202に戻って、このステップS202以降の処理を繰り返す。
また、ステップS208で、決定領域112のセンサパネル10P上の手が、レイヤD1にあると判別したときには、CPU201は、選択中の基本機能について決定操作がなされと判定する(ステップS209)。
そして、CPU201は、選択された機能の処理ルーチンを実行し(ステップS210)、選択された機能の処理ルーチンについて終了操作がなされたら、ステップS201に戻って、ステップS201以降の処理を繰り返す。
次に、ステップS210における、選択された機能の処理ルーチンの例について説明する。
<移動または回転のドラッグについての処理ルーチン>
基本機能選択処理ルーチンにより移動または回転のドラッグの機能が選択されたときの、ステップS210での処理ルーチンの例を、図14に示す。この図14のフローチャートの各ステップの処理も、パソコン本体2AのCPU201が、ROM202に記憶されたプログラムにしたがって、RAM203をワークエリアとして用いて実行するものである。
なお、ドラッグ機能の処理ルーチンの開始の際に、CPU201は、レイヤ情報記憶部207を参照して、当該ドラッグ機能におけるレイヤC1,C2およびレイヤD1,D2に対して割り付けられた機能や意味などを認識しておく。すなわち、CPU201は、レイヤC2に割り付けられている機能がドラッグ位置選択であると認識し、また、レイヤC2に割り付けられている機能は、ドラッグ位置確認およびドラッグ実行機能であると認識する。また、CPU201は、レイヤD1に手が存在する状態が決定操作、この場合には、ドラッグ機能の終了操作であるであると認識する。
そして、先ず、パソコン本体2AのCPU201は、センサ部10の選択領域111からの出力を監視して、選択領域111のセンサパネル10Pの不感帯より上方空間における操作者の手の接近を待つ(ステップS221)。
ステップS221で、選択領域111のセンサパネル10Pの不感帯より上方空間における操作者の手の接近があると判別したときには、CPU201は、手が位置しているのはレイヤC2であるか否かを判別する(ステップS222)。
ステップS222で、手が位置しているのはレイヤC2であると判別したときには、CPU201は、当該レイヤC2に割り付けられているドラッグ位置選択機能についての処理を実行する。この例では、先ず、CPU201は、ドラッグ位置ポインタ、つまり、ドラッグ点Poを、表示装置2Bの表示画面に表示する(ステップS223)。次に、CPU201は、レイヤC2内において、手がx,y方向に移動して、ドラッグ位置の変更操作があったか否か判別する(ステップS224)。
ステップS224で、ドラッグ位置の変更操作があったと判別したときには、表示装置2Bの表示画面におけるドラッグ点Poの位置を、レイヤC2内における変更移動操作に応じた位置に変更表示する(ステップS225)。
次に、CPU201は、手がレイヤC2からレイヤC1に移動したか否か判別する(ステップS226)。また、ステップS224で、ドラッグ位置の変更操作がなかったと判別したときにも、ステップS226に進んで、手がレイヤC2からレイヤC1に移動したか否か判別する。さらに、ステップS222で、手がレイヤC2に存在しないと判別したときにも、ステップS226に進んで、手がレイヤC1にあるか否か判別する。
そして、ステップS226で、手がレイヤC1に存在しないと判別したときには、CPU201は、ステップS222に戻り、このステップS222以降の処理を繰り返す。
また、ステップS226で、手がレイヤC1に存在すると判別したときには、CPU201は、この例では、ドラッグ機能、すなわち、移動または回転の機能を有効とする。そして、このとき、指定されたドラッグ位置をハイライト表示すると共に、表示バー71の基本機能アイコンボタンのうちの、レイヤC2で選択された移動または回転のいずれかのアイコンボタンをハイライト表示して確認表示する(ステップS227)。
次に、CPU201は、レイヤC1内における手のx,y方向の動きに応じたドラッグ処理、つまり、画像移動(あるいはスクロール)または画像回転を実行する(ステップS228)。
次に、CPU201は、決定領域112のセンサパネル10P上の手が、レイヤD1にあるか否か判別する(ステップS229)。ステップS229で、決定領域112のセンサパネル10P上の手が、レイヤD1にないと判別したときには、CPU201は、ステップS222に戻って、このステップS222以降の処理を繰り返す。
また、ステップS229で、決定領域112のセンサパネル10P上の手が、レイヤD1にあると判別したときには、CPU201は、実行中の移動または回転のドラッグ機能を終了する(ステップS230)。そして、図13のステップS201に戻り、基本機能選択処理ルーチンを再開する。
なお、この移動または回転のドラッグについての処理ルーチンが終了した後、手が不感帯に置かれ、キーボード11の操作キー11Kが押下操作されると、その押下キーに応じた処理がパソコン本体2Aによりなされる。つまり、文字キー入力などがなされる。
<ファイル選択の処理ルーチン>
基本機能選択処理ルーチンによりファイル選択の機能が選択されたときの、ステップS210での処理ルーチンの例を、図15に示す。この図15のフローチャートの各ステップの処理も、パソコン本体2AのCPU201が、ROM202に記憶されたプログラムにしたがって、RAM203をワークエリアとして用いて実行するものである。
なお、ファイル選択機能の処理ルーチンの開始の際に、CPU201は、レイヤ情報記憶部207を参照して、当該ファイル選択機能におけるレイヤC1,C2およびレイヤD1,D2に対して割り付けられた機能や意味などを認識しておく。すなわち、CPU201は、レイヤC2に割り付けられている機能がファイル選択であると認識し、また、レイヤC2に割り付けられている機能は、選択されたファイルの確認機能であると認識する。また、CPU201は、レイヤD1に手が存在する状態が決定操作、この場合には、ファイル決定操作であると認識する。
そして、先ず、パソコン本体2AのCPU201は、センサ部10の選択領域111からの出力を監視して、選択領域111のセンサパネル10Pの不感帯より上方空間における操作者の手の接近を待つ(ステップS241)。
ステップS221で、選択領域51のセンサパネル10Pの不感帯より上方空間における操作者の手の接近があると判別したときには、CPU201は、手が位置しているのはレイヤC2であるか否かを判別する(ステップS242)。
ステップS222で、手が位置しているのはレイヤC2であると判別したときには、CPU201は、当該レイヤC2に割り付けられているファイル選択機能についての処理を実行する。この例では、CPU201は、表示装置2Bの表示画面に表示されているサムネイル画像一覧23の中の、選択中のサムネイル画像をハイライト表示し、かつ、ハイライト表示するサムネイル画像を移動する(ステップS243)。
次に、CPU201は、手がレイヤC2からレイヤC1に移動したか否か判別する(ステップS244)。また、ステップS242で、手がレイヤC2に存在しないと判別したときにも、ステップS244に進んで、手がレイヤC1にあるか否か判別する。
そして、ステップS244で、手がレイヤC1に存在しないと判別したときには、CPU201は、ステップS242に戻り、このステップS242以降の処理を繰り返す。
また、ステップS244で、手がレイヤC1に存在すると判別したときには、CPU201は、ハイライトするサムネイル画像の移動を停止して、当該停止した位置のサムネイル画像が選択されていることを確認報知する(ステップS245)。
次に、CPU201は、決定領域112のセンサパネル10P上の手が、レイヤD1にあるか否か判別する(ステップS246)。ステップS246で、決定領域112のセンサパネル10P上の手が、レイヤD1にないと判別したときには、CPU201は、ステップS242に戻って、このステップS242以降の処理を繰り返す。
また、ステップS246で、決定領域112のセンサパネル10P上の手が、レイヤD1にあると判別したときには、CPU201は、確認報知された選択中のサムネイル画像が選択されたことが決定されたと判断する。そして、CPU201は、選択中のサムネイル画像に対応するファイルのデータを、ファイルメモリ206から読み出して、表示装置2Bの表示画面に、表示画像24として表示する(ステップS247)。
そして、CPU201は、このファイル選択機能の処理ルーチンを終了し(ステップS248)、その後、図13のステップS201に戻り、基本機能選択処理ルーチンを再開する。
なお、このファイル選択についての処理ルーチンが終了した後、手が不感帯に置かれ、キーボード11の操作キー11Kが押下操作されると、その押下キーに応じた処理がパソコン本体2Aによりなされる。つまり、選択されたファイルにおける文字キー入力などがなされる。
<拡大/縮小の処理ルーチン>
基本機能選択処理ルーチンにより拡大/縮小の機能が選択されたときの、ステップS210での処理ルーチンの例を、図16に示す。この図16のフローチャートの各ステップの処理も、パソコン本体2AのCPU201が、ROM202に記憶されたプログラムにしたがって、RAM203をワークエリアとして用いて実行するものである。
なお、前述したように、基本機能選択処理ルーチンにおける拡大/縮小の基本機能の選択において、選択領域111のセンサパネル10Pにおける左領域と右領域あるいは上領域と下領域のような選択領域の違いに応じて、拡大と縮小のいずれかが選択される。
この拡大/縮小機能の処理ルーチンの開始の際に、CPU201は、レイヤ情報記憶部207を参照して、当該拡大/縮小機能におけるレイヤC1,C2およびレイヤD1,D2に対して割り付けられた機能や意味などを認識しておく。すなわち、CPU201は、レイヤC2に割り付けられている機能が低速の拡大/縮小処理であると認識し、また、レイヤC2に割り付けられている機能は、高速の拡大/縮小処理であると認識する。また、CPU201は、レイヤD1に手が存在する状態が決定操作、この場合には、拡大/縮小機能の終了操作であると認識する。
そして、先ず、パソコン本体2AのCPU201は、センサ部10の選択領域111からの出力を監視して、選択領域111のセンサパネル10Pの不感帯より上方空間における操作者の手の接近を待つ(ステップS251)。
ステップS251で、選択領域111のセンサパネル10Pの不感帯より上方空間における操作者の手の接近があると判別したときには、CPU201は、手が位置しているのはレイヤC2であるか否かを判別する(ステップS252)。
ステップS252で、手が位置しているのはレイヤC2であると判別したときには、CPU201は、当該レイヤC2に割り付けられている機能、すなわち、低速での画像の拡大または縮小を実行する(ステップS243)。
次に、CPU201は、手がレイヤC2からレイヤC1に移動したか否か判別する(ステップS254)。また、ステップS252で、手がレイヤC2に存在しないと判別したときにも、ステップS254に進んで、手がレイヤC1にあるか否か判別する。
そして、ステップS254で、手がレイヤC1に存在しないと判別したときには、CPU201は、ステップS252に戻り、このステップS252以降の処理を繰り返す。
また、ステップS254で、手がレイヤC1に存在すると判別したときには、CPU201は、当該レイヤC2に割り付けられている機能、すなわち、高速での画像の拡大または縮小を実行する(ステップS255)。
次に、CPU201は、決定領域112のセンサパネル10P上の手が、レイヤD1にあるか否か判別する(ステップS256)。ステップS256で、決定領域112のセンサパネル10P上の手が、レイヤD1にないと判別したときには、CPU201は、ステップS252に戻って、このステップS252以降の処理を繰り返す。
また、ステップS256で、決定領域112のセンサパネル10P上の手が、レイヤD1にあると判別したときには、CPU201は、画像の拡大または縮小を停止し、この拡大/縮小機能の処理ルーチンを終了する(ステップS248)。そして、その後、図13のステップS201に戻り、基本機能選択処理ルーチンを再開する。
なお、この拡大/縮小機能についての処理ルーチンが終了した後、手が不感帯に置かれ、キーボード11の操作キー11Kが押下操作されると、その押下キーに応じた処理がパソコン本体2Aによりなされる。つまり、拡大または縮小されたファイルにおける文字キー入力などがなされる。
以上のようにして、上述した第1の実施形態によれば、操作者は、操作入力装置1のキーボード11の操作キー11Kを用いた入力操作を行うと共に、キーボード11の操作パネルに対して、非接触の状態での空間操作入力で、階層化された複数の機能を選択および実行することができる。そして、操作者は、例えば右手を、選択領域111のセンサパネル10Pの空間を上下させて機能選択を行い、左手で、決定領域センサ112のセンサパネル10Pの空間を上下させることで決定操作をすることができ、操作が簡単であるというメリットがある。
そして、キーボード11の操作キーを用いたテキスト文字入力をしながら、キーボード11の不感帯よりも上方空間における手による空間入力操作をすることで、入力した文字画像をスクロールしたり、拡大/縮小したりする処理ができる。したがって、入力操作手段を複数用いる必要はなく、多様な操作入力ができる。
なお、上述の第2の実施形態の説明では、選択中の機能やサムネイルは、ハイライト表示するようにしたが、ユーザに注目させることができる報知表示であれば、ハイライト表示に限られるものではないことは言うまでもない。
また、上述の実施形態では、センサ部10のセンサパネル面は、選択領域111と、決定領域とに分けて、決定領域で選択領域で選択操作されたものの決定入力を、決定領域で行うようにした。しかし、センサ部10のセンサパネル面の領域を分割せずに、全て選択領域とし、決定入力操作は、キーボード11のエンターキーなどの操作キーにより行うようにすることもできる。
その場合には、例えば左手を不感帯よりも上方空間において上述したような空間入力操作を行うと共に、右手の中指などでエンターキーを操作するような操作が可能である。
[第2の実施形態]
上述した第1の実施形態は、操作入力装置1と、パソコン2とからなる情報処理システムの構成としたが、操作入力装置1と同様の構造を備える操作入力部を一部の構成部分として備える情報処理装置も可能である。
例えば、図17は、この発明をノート型パソコンに利用した場合の実施形態の構成例を示すもので、概観上の構成は、図17に示すように全く変わらない。
しかし、この図17の例の情報処理装置としてのノート型パソコン30のキーボード部31の下部には、図1に示したものと同様にして、X−Zセンサパネル、Y−Zセンサパネル、キーボードプリント配線基板などが配設される。
この第2の実施形態のノート型パソコンにおいても、上述の第1の実施形態と同様の処理動作が可能である。
例えば、文書入力のアプリケーションにおいて、キーボード31で文字入力を実行すると共に、キーボード31の面よりの上方の空間の、不感帯よりさらに上方空間における手の位置に応じた制御ができる。例えば、表示画面32に表示されている文字入力画面における文字列の上下左右のスクロール移動、表示文字の大きさの拡大/縮小などが可能となる。
[第3の実施形態]
この第3の実施形態も、情報処理装置の実施形態である。この第3の実施形態は、情報処理装置が、携帯電話端末40の場合の例である。
この実施形態の携帯電話端末40では、図18に示すように、キー操作部は、テンキー41と、上下左右方向キー42と、決定キー43などを備える。このキー操作部のテンキー41は、少ない操作キー数であるので、1つの操作キーに複数の種類の文字入力が割り当てられている。
従来は、入力する文字種を、上下左右キー42などと、決定キー43とを用いて決定すると共に、1つの操作キーを何回も押下することにより、入力する文字種を選択するようにしている。しかし、そのような操作入力は非常に厄介である。
この第3の実施形態では、キー操作部のテンキー41の上方空間における手の高さ位置に応じて、テンキー41で入力する文字種を決定するようにする。決定操作は、この例では、決定キー43の押下操作とされる。
この第3の実施形態においては、テンキー41の下側に、第1の実施形態におけるセンサ部10と同様にして、センサパネル45が設けられる。この例においては、センサ部は、手の高さ位置を検出するだけでよいので、X−ZセンサパネルまたはY−Zセンサパネルのいずれか1枚のセンサパネルで構成することができる。
そして、図示は省略するが、センサパネル45の下側に、テンキー41の操作検出用スイッチなどと、センサパネル45についてのセンサ出力を生成するための図6に示したような回路が形成されているプリント配線基板が設けられる。
そして、この実施形態の携帯電話端末40においては、前述の実施形態と同様に、レイヤ情報記憶部を備えるが、その記憶部に記憶されるレイヤの情報としては、図19に示すようなものとされる。
この第3の実施形態においても、センサパネル45上の空間においては、センサパネル45面から距離Thaまでは、前述したように、パソコン本体2Aで、センサ部10からのセンサ出力を無効として無視する不感帯とする。
この距離Thaも、前述の第1の実施形態における距離Thと同様にして定める。すなわち、先ず、携帯電話端末40のテンキー41の操作面からの距離として、ユーザがテンキー41を操作するとき、およびその準備をしているときに、ユーザの手が存在する空間を含む距離T1aを求める。次に、センサパネル45の面と、テンキー41の操作面との距離T2aとを求める。最後に、余裕分T3aを定める。
そして、距離Thaは、
Tha=T1a+T2a+T3a
として定める。
そして、距離Thaよりもさらにセンサパネル45の面から離れた空間において、センサパネル45面からの距離の違いにより、複数個のレイヤが設定される。この例では、3個のレイヤK1,K2,K3が設定される。
この場合、図19に示すように、センサパネル45の表面位置をz軸の原点位置0としたとき、3個のレイヤK1,K2,K3の境界となるz方向の距離を、LK1,LK2,LK3に設定する。したがって、Tha<レイヤK1≦LK1、LK1<レイヤK2≦LK2、LK2<レイヤK3≦LK3、として、各レイヤK1,K2,K3の距離範囲が設定される。
そして、この第3の実施形態では、レイヤK1,K2,K3のいずれに手が在るかにより、テンキー41を通じて操作入力される文字種を切り替えることができるように構成されている。
すなわち、ここでは、図示は省略するが、この実施形態におけるレイヤ情報記憶部には、図19において、括弧をして示すように、各レイヤK1,K2,K3と、それぞれに対して割り当てられた文字種との対応テーブルが記憶される。すなわち、図19の例では、レイヤK1に対しては「数字」が、レイヤK2に対しては「英記号」が、レイヤK3に対しては「ひらがな」が、それぞれ割り当てられる。
そして、この第3の実施形態では、レイヤK1,K2,K3のうち、どのレイヤで決定するかの決定操作は、決定キー43により行うように構成されている。
例えば図18において点線の手で示すように、左手で携帯電話端末を保持すると共に、左手の親指を決定キー43に位置させるようにし、また、右手をテンキー41の上空の空間領域において上下させ、レイヤ選択を行うようにする。
この実施形態の携帯電話端末40においては、手がレイヤK1,K2,K3のうち、どのレイヤに存在しているかを、対応して割り付けてある文字種を表示画面44に表示することでユーザに報知する。
そこで、ユーザは、表示画面44に表示される文字種を見ながら、右手をテンキー41の上空の空間領域において上下させて、自分が選択したい文字種のレイヤの空間位置で、右手を保持する。そして、左手の親指で決定キー43を押下する。これにより、ユーザによりテンキー41を用いて入力する文字種が決定される。
すなわち、レイヤK1が選択されると、テンキー41は、図20(A)に示すように、数字入力キーとなる。
また、レイヤK2が選択されると、テンキー41は、図20(B)に示すように、英記号の入力キーとなる。この場合、図20(B)に示したように、テンキー41の1つのキーについて、複数の文字が割り当てられるが、同じキーを複数回押下することにより、押下毎に入力文字が変更される。このとき、表示画面44には、入力された文字が表示が表示され、左右キーを押下したり、決定キー43を押下したり、テンキー41の他のキーを押下することで、そのとき表示されていた文字で確定となる。これは、従来と同様である。
また、レイヤK3が選択されると、テンキーは、図20(C)に示すように、ひらがなの入力キーとなる。この場合は、テンキーの各キーには、50音の「あ」行、「か」行、「さ」行、・・・のように各行が割り当てられ、英記号の入力キーとなる場合と同様に、1つのキーに複数の文字が割り当てられる。この場合も、上述の英記号の場合と同様に、同じキーを複数回押下することにより、押下毎に入力文字が変更され、表示画面44には、入力された文字が表示が表示される。そして、左右キーを押下したり、決定キー43を押下したり、テンキー41の他のキーを押下することで、そのとき表示されていた文字で確定となる。
[第3の実施形態の処理動作例]
図21および図22は、この第3の実施形態の情報処理装置としての携帯電話端末40におけるユーザ操作入力についての処理動作例のフローチャートである。この図21および図22の各ステップの処理動作は、携帯電話端末40が備えるマイクロコンピュータが、メモリに記憶されているプログラムにしたがって実行されるものである。
先ず、携帯電話端末40のマイクロコンピュータ(以下、マイコンという)は、テンキー41のキー配列面の上方の検出対象物としての手の検知空間における手の存在を検知したか否かを判別する(ステップS301)。このステップS301で、検知空間における手の存在を検知しないときには、マイコンは、このステップS301を繰り返す。
このステップS301で、検知空間における手の存在を検知したと判別したときには、マイコンは、検知空間における手の高さ位置(センサパネル45面からの距離)を検出する(ステップS302)。
そして、マイコンは、検出した手の高さ位置、つまりセンサパネル45面からの距離は、距離Thaよりも大きいか否かにより、手の高さ位置が不感帯にあるか否かを判別する(ステップS303)。
手が不感帯にあると判別したときには、マイコンは、センサ部のセンサパネル45からのセンサ出力を無視して無効とし、携帯電話端末40のテンキー41およびその他の操作キーの押下操作を監視する(ステップS304)。
ステップS304で操作キーの押下操作がないと判別したときには、マイコンは、ステップS301に戻り、このステップS301以降の処理を繰り返す。
また、ステップS304で操作キーの押下操作があったと判別したときには、マイコンは、押下操作された操作キーを判別し、その操作キーに対応した処理を実行する(ステップS305)。
次に、マイコンは、手が不感帯から逸脱したか否か判別し(ステップS306)、逸脱してはいないと判別したときには、ステップS304に戻り、操作キーの押下操作を監視し、このステップS304以降の処理を繰り返す。
また、ステップS306で、手が不感帯から逸脱したと判別したときには、マイコンは、ステップS301に戻り、このステップS301以降の処理を繰り返す。
また、ステップS303で、手の高さ位置が不感帯よりも上の位置であると判別したときには、センサパネル45上の検知空間に設定された3個のレイヤK1,K2,K3のうちのいずれのレイヤに手が存在するかを判断する(ステップS311)。
ステップS311で、手はレイヤK1に在ると判別したときには、マイコンは、レイヤ情報記憶部を参照して、テンキー41は数字入力キーと判断する(ステップS312)。また、ステップS311で、手はレイヤK2に在ると判別したときには、マイコンは、レイヤ情報記憶部を参照して、テンキー41は英記号入力キーと判断する(ステップS313)。また、ステップS311で、手はレイヤK3に在ると判別したときには、マイコンは、レイヤ情報記憶部を参照して、テンキー41はひらがな入力キーと判断する(ステップS314)。
そして、ステップS312,313,314の次には、マイコンは、表示画面にテンキー41について判断した文字種を表示する(ステップS315)。次に、マイコンは、決定キー43が押下されたか否か判別し(ステップS316)、決定キー43が押下されていないと判別したときには、ステップS311に戻って、このステップS311以降の処理を繰り返す。
ステップS316で、決定キー43が押下されたと判別したときには、マイコンは、テンキー41を、決定キー43が押下されたときに判断されていた入力キーとして決定する(ステップS317)。
したがって、この決定後に、ステップS304で操作キーが押下されたと判別したときに、押下された操作キーがテンキー41のいずれかであるときには、マイコンは、テンキー41は、決定された入力キーとして判断して、ステップS305の処理を行う。なお、テンキー41について決定された文字種は、表示画面44に表示して、現在のテンキー41は、どの文字種の入力キーであるかをユーザに報知するようにする。
以上のようにして、この第3の実施形態によれば、テンキーなどの操作キーを、文字種など複数種の入力キーとして用いる場合に、いずれの入力キーであるかを、操作キーの上方空間における手の位置に応じて切り替えることができ、非常に便利である。
ステップS316における決定キー43についての操作判断は、テンキー41上の空間における手の存在を検知しているときの判断である。マイコンは、決定キー43が押下操作されたときに、センサ部のセンサパネル45からのセンサ出力を監視して、センサ出力がレイヤK1,K2,K3のいずれかに検出対象物(ここでは手)が存在しているときには、ステップS316の処理を行うことになる。
一方、マイコンは、決定キー43が押下操作されたときに、センサ出力がレイヤK1,K2,K3のいずれにも検出対象物が存在していないことを示しているときには、ステップS316の処理以外の、他の決定入力として処理する。
なお、操作キーについて割り当てられる複数の種別は、文字種に限られるものではない。例えば、操作キーが機能を選択するキーであるときには、当該キーに複数種の機能を割り当て、空間における手の位置に応じてその割り当てられている機能を切り替えるようにすることができる。
なお、上述の第3の実施形態の説明では、決定操作は、決定キー43の押下操作としてが、レイヤを選択する手の特定の振る舞いを、決定入力とするようにしてもよい。この決定入力の例を、図23に示す。
図23(A)の例は、ある一つのレイヤ内に在る手を、水平方向に移動させて、他のレイヤに移動することなく、センサパネル10上から外に出す操作を、手が存在しているレイヤを選択することの決定操作とするものである。これは、センサパネル45からのセンサ出力信号を監視するマイコンでは、あるレイヤに存在していた手が、他のレイヤに移動することなく消えたこととして検出される。
この場合に用いられるセンサパネル45は、電極層に縦電極が複数本設けられてなるX−Zセンサパネルとされる。なお、もしも、手がレイヤから消える移動方向が水平方向に直交する縦方向である場合には、用いられるセンサパネル45は、電極層に横電極が複数本設けられてなるY−Zセンサパネルとされる。
図23(B)の例は、他のレイヤに移動することなく、当該レイヤ内における手の所定の振る舞い操作、つまり、手による所定のジェスチャーを決定操作とするものである。図23(B)の例では、手で丸を描くジェスチャーを決定操作としている。
この場合に用いられるセンサパネル45は、電極層に縦電極が複数本設けられてなるX−Zセンサパネルと、電極層に横電極が複数本設けられてなるY−Zセンサパネルとが積層されたものとされる。
このように積層されたセンサパネルを用いれば、前述したように、マイコンは、センサ部からの出力信号から、センサパネル45のx,y軸方向の検出対象物の移動も検出可能である。したがって、マイコンは、レイヤ内における水平方向の手の所定の振る舞いを検出して、その振る舞いが決定操作であるかどうかを判別することが可能とある。
なお、上述の第3の実施形態では、センサパネル45は、テンキー41の下側にのみ設けるように説明したが、テンキー41を含む操作キーの操作面全体の下側にセンサパネルを設けるようにしても、勿論よい。
[第4の実施形態]
第4の実施形態は、第1の実施形態と同様に、操作入力装置と、パソコンからなる情報処理システムの場合である。この第4の実施形態は、3次元(3D)のビジュアルチャットの際に、チャットしながらアバターの移動を行うために、操作入力装置のキーボードから他の入力手段に変更することなく、キーボード上に手を置いたままで、アバターの移動操作を可能にする例である。
以下に説明する例は、地図上にアバターを表示する画面において、手の空間位置に応じて、地図に対して俯瞰的操作を行いながら、キーボードの移動のための操作キーを用いて、アバターの移動を行う。
図24は、この第4の実施形態の情報処理システムの構成例を示す図であり、第1の実施形態と同様に、センサ部10と、キーボード11とを備える操作入力装置1と、パソコン2とからなる。操作入力装置1は、パソコン2のパソコン本体2Aに接続され、パソコン本体2Aに接続される表示装置2Bに、パソコン本体2Aの制御に基づく表示画像が表示される。
操作入力装置1は、図1に示したものと同様の構造を備えており、前述したように、キーボード11上の空間におけるユーザの手の位置に応じたセンサ出力をパソコン本体2Aに供給する。
この実施形態のパソコン本体2Aには、ビジュアルチャットのためのアプリケーションプログラムを備えていると共に、表示画面に表示する地図を、3D表現することができる機能を備えている。
そして、この実施形態においては、パソコン本体2Aは、センサ部10からのセンサ出力から検出される手の空間位置を視点位置として、3D表現地図を生成して表示画面に表示するようにする機能も備えている。
この実施形態では、不感帯においては、常に、キーボード11でのキー操作入力をすることができる。したがって、キーボード11上の不感帯より上方空間における手の位置を視点として俯瞰した3D表現地図を表示画面に表示し、その地図上で、キーボード11の移動のための操作キーを操作することで、アバターを移動させるように操作することができる。
例えば、図24の操作入力装置1上における手で示すように、左手を、キーボード11上の不感帯より上方空間に位置させると共に、右手の指で上下左右キーを操作することにより、表示装置2Bの表示画面のアバター25を移動させることができる。また、キーボード11の操作キーを用いて、文字入力をすることもできる。
次に、この第4の実施形態における操作入力装置1の上方空間におけるレイヤの割り当てについて、図25および図26を参照して説明する。
この第4の実施形態においては、センサ部10のセンサパネル10P上の空間については、図25のような3つのレイヤS1,S2,S3が割り当てられる。そして、第1の実施形態と同様に、センサパネル10Pの面から距離Thまでの空間は、不感帯とされる。
そして、この不感帯よりも上方の空間において、3つのレイヤS1,S2,S3が割り当てられる。
この場合、図25に示すように、センサパネル10Pの表面位置をz軸の原点位置0としたとき、3個のレイヤS1,S2,S3の境界となるz方向の距離を、LS1,LS2,LS3に設定する。したがって、Th<レイヤS1≦LS1、LS1<レイヤS2≦LS2、LS2<レイヤS3≦LS3、として、各レイヤS1,S2,S3の距離範囲が設定される。
これら3個のレイヤS1,S2,S3のそれぞれには、図26のように3D表現地図の視点が割り当てられる。図26は、パソコン本体2Aが備えるレイヤ情報記憶部の記憶内容を示すものである。
すなわち、図26に示すように、レイヤS1に対しては、プレーヤの視点が割り当てられる。したがって、ユーザの手がレイヤS1にあるときには、プレーヤの視点からの地図が表示画面に表示される。
次に、レイヤS2に対しては、中間位置(中間の高さ)からの部分的地図俯瞰視点が割り当てられる。したがって、ユーザの手がレイヤS2にあるときには、中間の高さ位置から見た、全体のうちの部分的に見えない部分が生じる状態の3D表現地図が表示画面に表示される。
次に、レイヤS3に対しては、上空からの全体地図俯瞰視点が割り当てられる。したがって、ユーザの手がレイヤS3にあるときには、上空から見た、全体が見渡せる状態の3D表現地図が表示画面に表示される。
[第4の実施形態の処理動作例]
図27および図28は、この第4の実施形態の情報処理システムにおけるパソコン本体2Aにおけるユーザ操作入力についての処理動作例のフローチャートである。この図27および図28の各ステップの処理動作は、パソコン2Aの前述したCPU201が、RAM202に記憶されているプログラムにしたがって実行されるものである。
先ず、CPU201は、操作入力装置1のキーボード11のキー配列面の上方の検出対象物としての手の検知空間における手の存在を検知したか否かを判別する(ステップS401)。このステップS401で、検知空間における手の存在を検知しないときには、マイコンは、このステップS401を繰り返す。
このステップS401で、検知空間における手の存在を検知したと判別したときには、CPU201は、検知空間における手の高さ位置(センサパネル10P面からの距離)を検出する(ステップS402)。
そして、CPU201は、検出した手の高さ位置、つまりセンサパネル10P面からの距離は、距離Thよりも大きいか否かにより、手の高さ位置が不感帯にあるか否かを判別する(ステップS403)。
手が不感帯にあると判別したときには、CPU201は、センサ部10からのセンサ出力を無視して無効とし、キーボード11におけ操作キー11Kの押下操作を監視する(ステップS404)。
ステップS404で操作キー11Kの押下操作がないと判別したときには、CPU201は、ステップS401に戻り、このステップS401以降の処理を繰り返す。
また、ステップS404で操作キーの押下操作があったと判別したときには、CPU201は、押下操作された操作キーを判別し、その操作キーに対応した処理を実行する(ステップS405)。
次に、CPU201は、手が不感帯から逸脱したか否か判別し(ステップS406)、逸脱してはいないと判別したときには、ステップS404に戻り、操作キーの押下操作を監視し、このステップS404以降の処理を繰り返す。
また、ステップS406で、手が不感帯から逸脱したと判別したときには、CPU201は、ステップS401に戻り、このステップS401以降の処理を繰り返す。
また、ステップS403で、手の高さ位置が不感帯よりも上の位置であると判別したときには、センサパネル10P上の検知空間に設定された3個のレイヤS1,S2,S3のうちのいずれのレイヤに手が存在するかを判断する(ステップS411)。
ステップS411で、手はレイヤS1に在ると判別したときには、CPU201は、レイヤ情報記憶部を参照して、プレーヤの視点からの地図画像を描画生成して、表示装置2Bの表示画面に表示する(ステップS412)。
また、ステップS411で、手はレイヤS2に在ると判別したときには、CPU201は、レイヤ情報記憶部を参照して、中間位置を視点とした部分的俯瞰地図画像を描画生成して、表示装置2Bの表示画面に表示する(ステップS413)。
また、ステップS411で、手はレイヤS3に在ると判別したときには、CPU201は、レイヤ情報記憶部を参照して、上空からの全体俯瞰地図画像を描画生成して、表示装置2Bの表示画面に表示する(ステップS414)。
そして、ステップS412,413,414の次には、CPU201は、キーボード11の右エリアにある前後左右キーの押下操作があるか否か判別する(ステップS415)。そして、前後左右キーの押下操作があると判別したときには、地図上に表示されているアバターを指示された位置に移動させる(ステップS416)。その後、ステップS401に戻り、このステップS401以降の処理を繰り返す。
また、ステップS415で、前後左右キーの押下操作はないと判別したときには、CPU201は、ステップS401に戻り、このステップS401以降の処理を繰り返す。
なお、この第4の実施形態においては、センサ部10は、手の高さ位置を検出することができればよいので、X−ZセンサパネルとY−Zセンサパネルの両方を接合したものを用いる必要はなく、どちらか一方のセンサパネルのみで構成することが可能である。
[その他の実施形態および変形例]
上述の実施形態では、キー操作部は、キーボードやテンキーなど、複数個の操作キーを備える場合を想定したが、キー操作部は、1個の操作キーからなる場合においても、この発明は適用可能であることは言うまでもない。
また、操作キーは、押しボタン式のものについて説明したが、操作キーは、シーソー型やスライド型などの操作キーであっても良い。また、操作キーは、表示画面に表示され、タッチパネルで検出されるものであっても良い。
また、キー操作部の上空におけるユーザの手の空間的位置座標に応じた機能制御も、上述の例に限られるものではない。例えば、ピアノなどの楽器の鍵盤の下側にセンサパネルと配設し、鍵の上空に指を置いたとき、当該鍵を押下操作したときに発生される音を表示画面に表示して、打鍵する鍵の音を事前通知するような機能にも適用できる。前述の実施形態の操作入力装置においても、キーボードにおいて、操作するキーが何であるかを事前通知するような機能を実現するようにしてもよい。
また、上述の実施形態の説明では、押下式の操作キーを用いる場合において、センサパネルに押下操作をプリント配線基板に伝達するための操作子を挿通する孔を設けるようにした。
しかし、センサパネルをフレキシブルパネルの構成として、プリント配線基板に押圧式のスイッチを設け、操作キーを押下したとき、センサパネルの偏倚により、押下された操作キーに対応する押圧式のスイッチがオンになるように構成しても良い。その場合にも、センサパネルには、前記操作子を挿通する孔を穿つ必要はない。
なお、以上の実施形態では、センサ手段は、検出対象物までの空間離間距離に応じた静電容量を発振周波数に変換し、その発振周波数を周波数カウンタで計数して出力するようにしたが、前記静電容量に応じたセンサ出力を得る手法は、これに限られない。すなわち、例えば特許文献1と同様に、周波数−電圧変換器を用いて、発振周波数に応じた出力電圧をセンサ出力としてもよい。
また、例えば、検出対象物までの空間離間距離に応じた静電容量を電圧に変換する、いわゆるチャージドトランスファー法を用いるようにしても良い。また、プロジェクテッドキャパシタ法によっても、検出対象物までの空間離間距離に応じた静電容量を検出することができる。
また、上述の実施形態では、センサ手段の電極はワイヤー電極を用いるようにしたが、前記横方向のワイヤー電極と、縦方向のワイヤー電極との交点に、点電極を配置するようにした構成とすることもできる。その場合には、各点電極と接地間における静電容量を検出するので、複数の電極について、1電極毎に、横方向および縦方向の順次に切り替えて静電容量を検出するようにする。そして、検出する距離に応じて検出感度を適正なものとするために、検出する距離に応じて検出する電極を間引いた飛び飛びの電極を用いるようにするのは、ワイヤー電極の場合と同様である。
また、以上の実施形態では、センサ手段は、静電容量により検出対象物までの空間離間距離を検出するものを用いたが、これに限らず、検出対象物までの空間離間距離を検出することができるものであれば、いずれのセンサ手段をも用いることができる。
この発明による情報処理システムの実施形態に用いる操作入力装置の構成例を示す分解斜視図である。 この発明による情報処理システムの実施形態に用いる操作入力装置の構成例を示す斜視図である。 この発明による情報処理システムの実施形態のハードウエア構成例を示す図である。 この発明による情報処理システムの実施形態における操作入力装置に用いるセンサ部の構成例を説明するための図である。 この発明による情報処理システムの実施形態における操作入力装置に用いるセンサ部の構成例を説明するための図である。 この発明による情報処理システムの実施形態のハードウエア構成例を説明するためのブロック図である。 この発明による情報処理システムの実施形態における処理動作例を説明するための図である。 この発明による情報処理システムの実施形態のハードウエア構成例を説明するためのブロック図である。 この発明による情報処理システムの実施形態における操作入力装置のセンサ部から検出対象物までの距離に応じたレイヤの設定の例を説明するための図である。 この発明による情報処理システムの実施形態における操作入力装置のセンサ手段から検出対象物までの距離に応じたレイヤと、割り付けられる機能との対応関係を説明するための図である。 この発明による情報処理システムの実施形態の説明のための図である。 この発明による情報処理システムの実施形態における処理動作の例を説明するためのフローチャートを示す図である。 この発明による情報処理システムの実施形態における処理動作の例を説明するためのフローチャートを示す図である。 この発明による情報処理システムの実施形態における処理動作の例を説明するためのフローチャートを示す図である。 この発明による情報処理システムの実施形態における処理動作の例を説明するためのフローチャートを示す図である。 この発明による情報処理システムの実施形態における処理動作の例を説明するためのフローチャートを示す図である。 この発明による情報処理装置の実施形態を説明するための図である。 この発明による情報処理装置の他の実施形態を説明するための図である。 この発明による情報処理装置の他の実施形態におけるセンサ部から検出対象物までの距離に応じたレイヤの設定の例を説明するための図である。 この発明による情報処理装置の他の実施形態におけるセンサ部から検出対象物までの距離に応じたレイヤの設定の例を説明するための図である。 この発明による情報処理装置の他の実施形態における処理動作の例を説明するためのフローチャートの一部を示す図である。 この発明による情報処理装置の他の実施形態における処理動作の例を説明するためのフローチャートの一部を示す図である。 この発明による情報処理装置の他の実施形態の変形例を説明するために用いる図である。 この発明による情報処理システムの他の実施形態のハードウエア構成例を示す図である。 この発明による情報処理システムの他の実施形態における操作入力装置のセンサ部から検出対象物までの距離に応じたレイヤの設定の例を説明するための図である。 この発明による情報処理システムの他の実施形態における操作入力装置のセンサ手段から検出対象物までの距離に応じたレイヤと、割り付けられる機能との対応関係を説明するための図である。 この発明による情報処理システムの実施形態における処理動作の例を説明するためのフローチャートの一部を示す図である。 この発明による情報処理システムの実施形態における処理動作の例を説明するためのフローチャートの一部を示す図である。
符号の説明
1…操作入力装置、2…パソコン、10…センサ部、11…キーボード、11K…操作キー、10P…センサパネル、207…レイヤ情報記憶部、208…空間位置検出部

Claims (14)

  1. 1または複数の操作キーが平面的に配設され、操作キーの操作に応じたキー操作出力を出力するキー操作部と、
    前記キー操作部の前記操作キーの配設面から空間的に離間する検出対象物の、前記配設面からの距離に応じた検出出力を出力するセンサ手段と、
    前記センサ手段からの前記検出出力から前記検出対象物の、前記配設面からの距離を検出する検出手段と、
    前記検出手段で検出された前記距離が、所定の距離より小さいときには、前記操作キーの操作に応じたキー操作出力のみを有効として、前記センサ手段の検出出力を無効とし、前記所定の距離以上のときには、前記検出手段で検出された前記距離に応じた制御機能を行う制御手段と、
    を備える情報処理装置。
  2. 請求項1に記載の情報処理装置において、
    前記センサ手段は、複数個の電極を備え、前記複数個の電極を含む面と、前記面に対して空間的に離間する検出対象物との距離を、前記複数の電極についての前記距離に応じた静電容量から検出する
    情報処理装置。
  3. 請求項1または請求項2に記載の情報処理装置において、
    前記所定の距離は、前記キー操作部の前記操作キーをユーザが入力操作するときに、前記センサ手段が前記検出対象物となる前記ユーザの手の位置の検出出力を無効とする値に設定されてなる
    情報処理装置。
  4. 請求項1または請求項2に記載の情報処理装置において、
    異なった機能がそれぞれ割り付けられ、前記所定の距離以上の前記距離の違いにより設定された複数個のレイヤの、境界値の情報を記憶する記憶手段と、
    前記記憶手段の前記複数個のレイヤの境界値と、前記検出手段で検出された前記距離とから、前記検出対象物が、前記複数個のレイヤのいずれ内に位置しているかを判定する判定手段と、
    を備え、
    前記制御手段は、前記判定手段の判定結果に基づいて、前記検出対象物が位置しているレイヤに割り付けられている機能についての処理を行う
    情報処理装置。
  5. 請求項1または請求項2に記載の情報処理装置において、
    前記センサ手段は、複数個の電極を備え、前記複数個の電極を含む面と、前記面に対して空間的に離間する検出対象物との距離に応じた前記検出出力を、前記複数の電極についての前記距離に応じた静電容量から生成する
    情報処理装置。
  6. 請求項1または請求項2に記載の情報処理装置において、
    前記センサ手段は、前記検出対象物の、前記距離の方向とは交差する方向の位置に応じた検出出力を出力可能であり、
    前記検出手段は、前記センサ手段からの前記検出出力から、前記検出対象物の、前記距離の方向とは交差する方向の位置を検出し、
    前記制御手段は、前記検出手段で検出された前記検出対象物の前記位置に基づいて前記機能についての処理を行う
    情報処理装置。
  7. 請求項4に記載の情報処理装置において、
    前記センサ手段は、前記判定されたレイヤ内における前記検出対象物の、前記距離の方向とは交差する方向の位置に応じた検出出力を出力可能であり、
    前記検出手段は、前記センサ手段からの前記検出出力から、前記検出対象物の、前記距離の方向とは交差する方向の位置を検出し、
    前記制御手段は、前記検出手段で検出された前記検出対象物の前記位置に基づいて、前記判定されたレイヤ内における前記検出対象物の、予め定められた特定の移動軌跡を、前記機能の制御における決定入力として検出する
    情報処理装置。
  8. 請求項1または請求項2に記載の情報処理装置において、
    前記制御手段は、前記キー操作部の所定のキー操作のキー操作出力を、前記検出手段で検出された前記距離に応じた制御機能における決定入力として検出する
    情報処理装置。
  9. 請求項1または請求項2に記載の情報処理装置において、
    前記制御手段は、前記検出手段で検出された前記距離が、前記所定の距離以上のときに、前記検出手段で検出された前記距離に応じた制御機能を行うと共に、前記キー操作部からのキー操作出力を前記制御機能の関連入力として検知する
    情報処理装置。
  10. 請求項1または請求項2に記載の情報処理装置において、
    前記キー操作部と、前記操作キーの操作を検出する配線基板との間に、前記センサ手段が設けられて、一つの操作入力手段の構成とされてなる
    情報処理装置。
  11. パーソナルコンピュータである請求項1または請求項2に記載の情報処理装置。
  12. 1または複数の操作キーが平面的に配設され、操作キーの操作に応じたキー操作出力を出力するキー操作部と、センサ手段と、検出手段と、制御手段とを備える情報処理装置における情報処理方法であって、
    前記センサ手段が、前記キー操作部の前記操作キーの配設面から空間的に離間する検出対象物の、前記配設面からの距離に応じた検出出力を出力する工程と、
    前記検出手段が、前記センサ手段からの前記検出出力から前記検出対象物の、前記配設面からの距離を検出する検出工程と、
    前記制御手段が、前記検出工程で検出された前記距離が、所定の距離より小さいときには、前記操作キーの操作に応じたキー操作出力のみを有効として、前記センサ手段の検出出力を無効とし、前記所定の距離以上のときには、前記センサ手段で検出された距離に応じた制御機能を行う制御工程と、
    を有する情報処理方法。
  13. 操作入力装置と、前記操作入力装置からの出力信号を受ける情報処理装置とからなる情報処理システムであって、
    前記操作入力装置は、
    1または複数の操作キーが平面的に配設され、操作キーの操作に応じたキー操作出力を出力するキー操作部と、
    前記キー操作部の前記操作キーの配設面から空間的に離間する検出対象物の、前記配設面からの距離に応じた検出出力を出力するセンサ手段と、
    を備え、
    前記情報処理装置は、
    前記センサ手段からの前記検出出力から前記検出対象物の、前記配設面からの距離を検出する検出手段と、
    前記検出手段で検出された前記距離が、所定の距離より小さいときには、前記操作キーの操作に応じたキー操作出力のみを有効として、前記センサ手段の検出出力を無効とし、前記所定の距離以上のときには、前記検出手段で検出された前記距離に応じた制御機能を行う制御手段と、
    を備える情報処理システム。
  14. 1または複数の操作キーが平面的に配設され、操作キーの操作に応じたキー操作出力を出力するキー操作パネル部と、前記キー操作パネル部の前記操作キーの配設面から空間的に離間する検出対象物の、前記配設面からの距離に応じた検出出力を出力するセンサ手段とを備える操作入力手段からの検出出力を受ける情報処理装置が備えるコンピュータを、
    前記センサ手段からの前記検出出力から前記検出対象物の、前記配設面からの距離を検出する検出手段、
    前記検出手段で検出された前記距離が、所定の距離より小さいときには、前記操作キーの操作に応じたキー操作出力のみを有効として、前記センサ手段の検出出力を無効とし、前記所定の距離以上のときには、前記検出手段で検出された前記距離に応じた制御機能を行う制御手段、
    として機能させるための情報処理用プログラム。
JP2008299407A 2008-11-25 2008-11-25 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム Expired - Fee Related JP4650559B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008299407A JP4650559B2 (ja) 2008-11-25 2008-11-25 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム
US12/589,672 US8115737B2 (en) 2008-11-25 2009-10-27 Information processing apparatus, information processing method, information processing system and information processing program
CN200910226567XA CN101901049B (zh) 2008-11-25 2009-11-25 信息处理设备、信息处理方法、信息处理***和信息处理程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008299407A JP4650559B2 (ja) 2008-11-25 2008-11-25 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム

Publications (2)

Publication Number Publication Date
JP2010128544A JP2010128544A (ja) 2010-06-10
JP4650559B2 true JP4650559B2 (ja) 2011-03-16

Family

ID=42195796

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008299407A Expired - Fee Related JP4650559B2 (ja) 2008-11-25 2008-11-25 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム

Country Status (3)

Country Link
US (1) US8115737B2 (ja)
JP (1) JP4650559B2 (ja)
CN (1) CN101901049B (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101741662B1 (ko) * 2010-07-19 2017-05-30 삼성전자 주식회사 디스플레이장치 및 그 제어방법
US20120120051A1 (en) * 2010-11-16 2012-05-17 Shu-Ming Liu Method and system for displaying stereoscopic images
CN102622091B (zh) * 2011-01-28 2015-11-25 清华大学 柔性键盘
CN102622089B (zh) * 2011-01-28 2016-03-30 清华大学 柔性键盘
JP5857414B2 (ja) * 2011-02-24 2016-02-10 ソニー株式会社 情報処理装置
JP2012174208A (ja) * 2011-02-24 2012-09-10 Sony Corp 情報処理装置、情報処理方法、プログラム及び端末装置
US8970498B2 (en) * 2011-04-29 2015-03-03 Hewlett-Packard Development Company, L.P. Touch-enabled input device
WO2013088655A1 (ja) * 2011-12-16 2013-06-20 パナソニック株式会社 タッチパネル及び電子機器
US20140201685A1 (en) * 2013-01-14 2014-07-17 Darren Lim User input determination
JP6077573B2 (ja) * 2015-01-15 2017-02-08 シャープ株式会社 情報処理装置、その制御方法、および制御プログラム
WO2016114288A1 (ja) * 2015-01-15 2016-07-21 シャープ株式会社 情報処理装置、情報処理装置の制御方法および制御プログラム
JP2016133934A (ja) * 2015-01-16 2016-07-25 シャープ株式会社 情報処理装置、情報処理装置の制御方法、および制御プログラム
JP2016198441A (ja) * 2015-04-14 2016-12-01 フィールズ株式会社 遊技機
JP6027703B1 (ja) * 2016-09-12 2016-11-16 シャープ株式会社 情報処理装置および制御プログラム
JP2022078606A (ja) * 2020-11-13 2022-05-25 ヤマハ株式会社 鍵盤装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004535712A (ja) * 2001-06-06 2004-11-25 サーク・コーポレーション 移動電話キーマットの後ろに近接感知タッチパッドを配置するシステム
JP2005043954A (ja) * 2003-07-22 2005-02-17 Sharp Corp 仮想キーボードシステム
JP2008505381A (ja) * 2004-06-29 2008-02-21 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 表示装置の汚れを防ぐ方法及び装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62172417A (ja) * 1986-01-24 1987-07-29 Ricoh Co Ltd 入力装置
US5923267A (en) * 1992-05-08 1999-07-13 U.S. Philips Corporation Device with a human-machine interface
US6288707B1 (en) * 1996-07-29 2001-09-11 Harald Philipp Capacitive position sensor
US6204839B1 (en) * 1997-06-27 2001-03-20 Compaq Computer Corporation Capacitive sensing keyboard and pointing device
JPH11194882A (ja) * 1998-01-06 1999-07-21 Poseidon Technical Systems:Kk キーボードおよび入力装置
DE10295763D2 (de) * 2001-12-11 2004-12-02 Wolfgang Fallot-Burghardt Kombination von Computertastatur und Maussteuerungsvorrichtung
CN1258108C (zh) * 2003-01-17 2006-05-31 财团法人工业技术研究院 产生虚拟键盘/显示器的装置及方法
US7659887B2 (en) * 2005-10-20 2010-02-09 Microsoft Corp. Keyboard with a touchpad layer on keys
JP2007219676A (ja) 2006-02-15 2007-08-30 Tokyo Institute Of Technology データ入力装置、情報機器、およびデータ入力方法
WO2007145003A1 (ja) * 2006-06-14 2007-12-21 Mitsubishi Electric Corporation 車載情報装置
US7813774B2 (en) * 2006-08-18 2010-10-12 Microsoft Corporation Contact, motion and position sensing circuitry providing data entry associated with keypad and touchpad
JP4766340B2 (ja) 2006-10-13 2011-09-07 ソニー株式会社 近接検知型情報表示装置およびこれを使用した情報表示方法
US8284165B2 (en) 2006-10-13 2012-10-09 Sony Corporation Information display apparatus with proximity detection performance and information display method using the same

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004535712A (ja) * 2001-06-06 2004-11-25 サーク・コーポレーション 移動電話キーマットの後ろに近接感知タッチパッドを配置するシステム
JP2005043954A (ja) * 2003-07-22 2005-02-17 Sharp Corp 仮想キーボードシステム
JP2008505381A (ja) * 2004-06-29 2008-02-21 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 表示装置の汚れを防ぐ方法及び装置

Also Published As

Publication number Publication date
US8115737B2 (en) 2012-02-14
JP2010128544A (ja) 2010-06-10
US20100127989A1 (en) 2010-05-27
CN101901049B (zh) 2012-08-22
CN101901049A (zh) 2010-12-01

Similar Documents

Publication Publication Date Title
JP4650559B2 (ja) 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム
WO2013018480A1 (ja) タッチ入力が可能な画面内に原画像を縮小表示するタッチパッドを有するユーザインタフェース装置、入力処理方法及びプログラム
JP4775669B2 (ja) 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム
TWI382739B (zh) 用以提供資訊的卷軸運動之方法、電腦程式產品、電子裝置及卷軸多功能鍵模組
US8098879B2 (en) Information processing device, image movement instructing method, and information storage medium
JP5640486B2 (ja) 情報表示装置
EP2431853A2 (en) Character input device
JP6429886B2 (ja) 触感制御システムおよび触感制御方法
KR20150014745A (ko) 휴대단말기의 락 또는 언락 제어 방법 및 장치
KR20110063561A (ko) 다접촉 터치 스크린 상의 그래픽 객체를 다루는 것에 의해 전자 기기를 제어하기 위한 장치
US20230359351A1 (en) Virtual keyboard processing method and related device
TW200928916A (en) Method for operating software input panel
CN114690887B (zh) 一种反馈方法以及相关设备
CN114764304A (zh) 一种屏幕显示方法
JP6127679B2 (ja) 操作装置
JP2010204725A (ja) 電子機器及び情報処理システム
WO2018123320A1 (ja) ユーザーインターフェイス装置及び電子機器
US9898106B2 (en) Information processing system, information processing apparatus, and information processing method
JP4663039B2 (ja) 位置入力装置
KR20100107996A (ko) 터치면을 구비한 펜형 촉감 제시 장치와 그를 이용한 촉감 인터페이스 시스템
JP4443395B2 (ja) 入力装置
JP2013239100A (ja) 情報入力装置
JP4600485B2 (ja) 装置
WO2022143607A1 (zh) 一种应用界面的处理方法以及相关设备
JP2009104612A (ja) 装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100910

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101116

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101129

R151 Written notification of patent or utility model registration

Ref document number: 4650559

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131224

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees