JP2012089083A - 電子機器の情報入力装置及び方法 - Google Patents

電子機器の情報入力装置及び方法 Download PDF

Info

Publication number
JP2012089083A
JP2012089083A JP2010237657A JP2010237657A JP2012089083A JP 2012089083 A JP2012089083 A JP 2012089083A JP 2010237657 A JP2010237657 A JP 2010237657A JP 2010237657 A JP2010237657 A JP 2010237657A JP 2012089083 A JP2012089083 A JP 2012089083A
Authority
JP
Japan
Prior art keywords
input
finger
information
state
pointing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010237657A
Other languages
English (en)
Inventor
Morio Akiyama
守男 秋山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
DIPROSS CO Ltd
Original Assignee
DIPROSS CO Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by DIPROSS CO Ltd filed Critical DIPROSS CO Ltd
Priority to JP2010237657A priority Critical patent/JP2012089083A/ja
Publication of JP2012089083A publication Critical patent/JP2012089083A/ja
Pending legal-status Critical Current

Links

Landscapes

  • User Interface Of Digital Computer (AREA)

Abstract

【課題】任意に設定できる指の姿、動きに応じて入力面を選択、切替えることができ、選択された入力面に対して他の入力面に影響を与えることなく、文字と同等、マウスと同等、テンキーと同等、ショートカットキーと同等情報などを入力可能とする。
【解決手段】情報入力装置は、撮像手段S020と、該撮像手段の映像から指情報を抽出する抽出手段S030と、前記指情報に基づき、入力面上の指の2次元座標を算出すると共に、操作者が操作し易いように予め定めた指示指状態テーブルより現在の指示指状態を確定する指示指確定手段S040と、前記指示指状態と指示指状態が継続する時間と操作指示との組合せからなり、予め定めた操作手順と対応付けた操作状態判定テーブルより指示指状態に応じた操作状態を確定する操作状態確定手段S050と、確定した前記操作状態に従って、入力面の選択又は入力情報の生成の操作指示を実施する操作手順実施手段S060とを具備する。
【選択図】図9

Description

本発明は、電子機器の情報入力装置及びその方法に関するものである。より詳しくは、予め設定された操作者の指の姿態、動きに応じて、マウス情報のみならず文字情報、テンキー情報等も入力することが可能な電子機器の情報入力装置及び方法に関するものである。
入力作業の効率化、疲労の軽減、及び、省スペース化を目的とした電子機器の入力装置として、1つの入力面に対し、従来の機械的入力操作に加えて、更に入力面を操作する指の動きをカメラで撮影した映像を入力情報として使用する入力装置が提案されている。
その1つは、ノート型パーソナルコンピュータに適用したもので、通常のキーボード操作入力に加えて、更にキーボード上の指の動きをカメラで撮影した映像で、マウス機能を代替入力するもので、キーボード上のホームポジションを基点として操作する通常の操作では、人差し指と中指を揃えて動かすことはありえないことに着眼し、人差し指と中指が揃って動いたときに映像入力をするものである。
即ち、キーボード上の指の映像の中に、人差し指と中指が揃って動いていることが確認されたときは、マウスポインタを移動させる操作と判断し、また、人差し指と中指を揃えた状態からどちらかの指を上下に動かしたときはクリック操作をしていると判断するもので、キーボード上の指の映像を入力情報として使用し、マウスポインタの移動操作とクリック操作とを行うものが提案されている(例えば、特許文献1を参照)。
しかしながら、この方式では、2種類の入力面の切換(通常のキーボード入力と映像情報によるポインティング入力)しかできないし、人差し指と中指を揃えた状態でのポインティング操作しかできないので、ユーザーフレンドリな入力装置と言えない欠点があった。
他の1つは、電子機器等の小型パッケージ内に収納可能な入力装置を提供することを目的として、1つの入力面を複数の入力面として使用できるように、この複数の入力面を夫々入力パネル化して、1つの入力面を選択して呼び出す事ができるようにし、2台のカメラで撮影している入力面に、この選択した入力パネルを呼び出し、この呼び出した入力パネル上での入力をカメラで撮影した映像情報から検出し、今日の機械式入力装置に作り出されているタイプの入力信号を生成するものが提案されている(例えば、特許文献2を参照)。
しかしながら、複数の入力面を選択可能にしたものであるが、選択可能な入力面を選択する選択ボタンを各入力面に設けているので、入力面の増減に伴い、各入力面への変更も発生し、操作性や小型化において欠点があった。また、入力判定が、利用者の指と入力面との距離のみに依存していて簡潔であるが、ユーザーフレンドリな入力操作にできないという欠点もあった。
特開2008−242881号公報 特表2006−509269号公報
本発明は、前記問題点を解消し、電子機器への手入力作業において、入力作業の高効率化、疲労の軽減(省力)化、入力装置の省スペース化を図るとともに、ユーザーフレンドリなマン・マシンインターフェイスとして、画像認識を利用した入力装置を提供することを目的とするものである。
即ち、電子機器の入力操作面上に備える本発明の入力装置の入力面は、他の入力面に影響を与えることがなく、操作者により入力面の追加や変更ができる。
本発明の入力装置を操作する指の姿は、操作者が操作し易い指の姿や、操作者にとって意味のある指の姿で操作が行えるように等、操作者の要望を考慮して任意に変更又は設定することができる。
本発明の入力装置の操作手順は、操作者が定めた入力面毎に操作者が定めた指の姿や指の姿の変化の速度により、入力操作の操作性や確実性を考慮して構築ができる。
請求項1に記載の電子機器の情報入力装置は、
入力操作面の所定の領域の映像を逐次撮像する撮像手段と、
前記撮像手段の映像より指情報を抽出する指情報抽出手段と、
前記指情報抽出手段からの指情報に基づき現在の指の姿と映像上の指の位置座標を確定し、前記現在の指の位置座標と記憶されている前回の指の抽出情報の指の位置座標との差異状況を確定し、予め定められ且つ変更し得る、前記指の姿と前記位置座標の差異状況に対して指示指状態を対応付けた指示指状態テーブルより現在の指示指状態を確定するとともに、前記現在の指の位置座標より入力操作面の所定の位置に形成される入力面上の現在の指の2次元座標を算出する指示指確定手段と、
予め定められ且つ変更し得る、前記入力操作面の所定の位置に形成される前記入力面に対して、前記指示指状態と該指示指状態が継続する時間と操作指示との組合せからなる少なくとも1組以上の操作手順を対応付けた操作状態判定テーブルより、前記指示指確定手段によって確定した指示指状態に応じた操作状態を確定する操作状態確定手段と、
前記操作状態確定手段によって確定した前記操作状態に従って、入力面の選択又は入力情報の生成の何れかの操作指示を実施する操作手順実施手段と、を備えていることを特徴とする。
請求項2に記載の入力装置は、請求項1に記載の入力装置において、撮像手段が2次元イメージセンサで構成されることを特徴とする。
請求項3に記載の入力装置は、請求項1に記載の入力装置において、撮像手段が、入力面に対して横方向に設けられた少なくとも2個の1次元イメージセンサで構成され、入力面上の2次元座標が三角測量法で算出されることを特徴とする。
請求項4に記載の入力装置は、請求項1に記載の入力装置において、撮像手段が2次元イメージセンサと1次元イメージセンサの組合せで構成されることを特徴とする。
請求項5に記載の入力装置は、請求項1に記載の入力装置において、撮像手段がその近傍に入力操作面の所定の領域を照射するための照射手段を備えることを特徴とする。
請求項6に記載の入力装置は、請求項1に記載の入力装置において、指示指確定手段が、操作者の指の姿を、指の間の隙間の有無、指の本数、又は指の本数と指の幅として認識することを特徴とする。
請求項7に記載の入力装置は、請求項1に記載の入力装置において、操作手順実施手段が、前記入力面と入力情報の生成指示と2次元座標に対して予め定められ且つ変更し得る複数の入力情報を対応付けた入力情報テーブルを有し、
操作状態確定手段からの操作指示の内容が入力面の選択指示であれば、現在選択されている入力面を前記入力面の選択指示に従い変更し、
操作状態確定手段からの操作指示の内容が入力情報の生成の指示であれば、現在選択されている入力面において、
入力面と入力情報の生成の指示に対して操作者が定めた入力情報を生成し、または、
入力面と入力情報の生成の指示と指の2次元座標から、入力情報テーブルより入力情報を生成する、ことを特徴とする。
請求項8に記載の入力装置は、請求項1に記載の入力装置において、入力操作面の所定の位置に形成される入力面は、少なくともキーボートの入力面とテンキー情報の入力面とマウス情報の入力面とを含み、これらの各入力面が操作手順実施手段によって相互に切り替えられることを特徴とする。
請求項9に記載の入力装置は、請求項8に記載の入力装置において、入力操作面の所定の位置に形成される入力面には更に、マウス情報の入力面との間で、操作手順実施手段によって切り替えられる左クリック押下継続の入力面とスクロール待ちの入力面が含まれることを特徴とする。
請求項10に記載の電子機器への情報を入力する方法は、
入力操作面の所定の領域の映像を逐次撮像する撮像過程と、
前記撮像過程で得られた映像より指情報を抽出する指情報抽出過程と、
前記指情報抽出過程で得られた指情報に基づき現在の指の姿と映像上の指の位置座標を確定し、前記現在の指の位置座標と記憶されている前回の指の抽出情報の指の位置座標との差異状況を確定し、予め定められ且つ変更し得る、前記指の姿と前記位置座標の差異状況に対して指示指状態を対応付けた指示指状態テーブルより現在の指示指状態を確定するとともに、前記現在の指の位置座標より入力操作面の所定の位置に形成される入力面上の現在の指の2次元座標を算出する指示指確定過程と、
予め定められ且つ変更し得る、前記入力操作面の所定の位置に形成される前記入力面に対して、前記指示指状態と該指示指状態が継続する時間と操作指示との組合せからなる少なくとも1組以上の操作手順を対応付けた操作状態判定テーブルより、前記指示指確定過程によって確定した指示指状態に応じた操作状態を確定する操作状態確定過程と、
前記操作状態確定過程によって確定した前記操作状態に従って、入力面の選択又は入力情報の生成の何れかの操作指示を実施する操作手順実施過程と、からなることを特徴とする。
請求項11に記載の情報入力方法は、請求項10に記載の入力方法において、撮像過程が2次元イメージセンサを用いて行われることを特徴とする。
請求項12に記載の情報入力方法は、請求項10に記載の入力方法において、撮像過程が入力面に対して横方向に設けられた少なくとも2個の1次元イメージセンサを用いて行われ、入力面上の2次元座標が三角測量法で算出されることを特徴とする。
請求項13に記載の情報入力方法は、請求項10に記載の入力方法において、撮像過程が2次元イメージセンサと1次元イメージセンサの組合せで行われることを特徴とする。
請求項14に記載の情報入力方法は、請求項10に記載の入力方法において、指示指確定過程が、操作者の指の姿を、指の間の隙間の有無、指の本数、又は指の本数と指の幅として認識することを特徴とする。
本発明の請求項1の入力装置では、撮像手段により撮像された映像より抽出した指の情報を、予め定められ且つ操作者が変更し得る指示指状態として表現できる。操作状態確定手段は、この指示指状態が、予め操作者が定めた操作状態判定テーブルで現在選択されている入力面のデータの1組目に登録されている指示指状態と一致したときを操作手順の開始トリガーとし、続く指示指状態を選択決定意思の指示指状態として受けて、前記開始トリガーとしたデータに登録された指示指状態と一致したとき、操作手順の操作指示を確定する。したがって、操作手順実施手段により、操作指示に従って入力面の選択や、選択された入力面の入力情報を生成できる。
請求項2の入力装置では、撮像手段が2次元イメージセンサで構成されるため、指の情報を正確に検出することができる。
請求項3の入力装置では、撮像手段が入力面に対して横方向に設けられた少なくとも二つの1次元イメージセンサで構成されるため、装置を安価に構成することができる。
請求項4の入力装置では、撮像手段が2次元センサと1次元センサの組合せで構成されるため、指の情報を正確に検出できるとともに、装置全体を安価に構成することができる。
請求項5の入力装置では、撮像手段が照射手段を備えているため、指と背景とを明確に区別して撮影することができる。
請求項6の入力装置では、用いられる撮像手段の種類により、指示指確定手段は、操作者の指の姿を、指の間の隙間の有無、指の本数、又は指の本数と指の幅という自由な組合せで容易に認識することができる。
請求項7の入力装置では、操作手順実施手段が、操作者が任意に設定・変更し得る複数の入力情報を対応付けた入力情報テーブルを有しているため、選択された入力面上の指の2次元座標に基づき、入力情報テーブルに定められた入力情報を直ちに入力することができる。
請求項8の入力装置では、入力操作面の所定の位置に形成される入力面には、少なくともキーボートの入力面とテンキー情報の入力面とマウス情報の入力面が含まれ、これらの各入力面を操作手順実施手段によって相互に切り替えることができるので、通常のコンピュータの入力操作に必要なすべての情報を入力面を切り替えながら、効率良く入力することができる。
請求項9の入力装置は、入力面に更に、マウス情報の入力面との間で、操作手順実施手段によって切り替えることができる左クリック押下継続の入力面とスクロール待ちの入力面を含むので、通常のマウスが有するすべての情報を集約的に効率良く入力することができる。
本発明の請求項10の入力方法では、撮像過程により撮像された映像より抽出した指の情報を、予め定められ且つ操作者が変更し得る指示指状態として表現できる。操作状態確定過程は、この指示指状態が、予め操作者が定めた操作状態判定テーブルで現在選択されている入力面のデータの1組目に登録されている指示指状態と一致したときを操作手順の開始トリガーとし、続く指示指状態を選択決定意思の指示指状態として受けて、前記開始トリガーとしたデータに登録された指示指状態と一致したとき、操作手順の操作指示を確定する。したがって、操作手順実施過程により、操作指示に従って入力面の選択や、選択された入力面の入力情報を生成できる。
請求項11の入力方法では、撮像過程が2次元イメージセンサを用いて行われるため、指情報を正確に検出することができる。
請求項12の入力方法では、撮像過程が入力面に対して横方向に設けられた少なくとも2個の1次元イメージセンサを用いて行われ、入力面上の2次元座標が三角測量法で算出されるため、指情報を安価に得ることができる。
請求項13の入力方法では、撮像過程が、2次元イメージセンサと1次元イメージセンサの組合せで行われるため、指情報を正確且つ安価に得ることができる。
請求項14の入力方法では、指示指確定過程は、撮像過程に応じて、操作者の指の姿を、指の間の隙間の有無、指の本数、又は指の本数と指の幅という自由な組合せで容易に認識することができる。
図1は実施例1のパーソナルコンピュータの斜視図である。 図2は実施例1のキーボードの正面図である。 図3Aは実施例1の電気的構成を示すブロック図である。 図3Bは図3Aのブロック図内のRAMの記憶内容を示す図である。 図3Cは図3Aのブロック図内のHDDの記憶内容を示す図である。 図4は実施例1の操作手順の概要図である。 図5Aは実施例1のマウス情報の入力面における指示指状態図である。 図5Bは実施例1のスクロール待ちの入力面における指示指状態図である。 図5Cは実施例1の左クリック押下継続の入力面における指示指状態図である。 図5Dは実施例1のキーボードの入力面における指示指状態図である。 図5Eは実施例1のテンキー入力面における指示指状態図である。 図5Fは実施例1のマウス情報の入力面の選択の第2手順における指示指状態図である。 図6は実施例1の操作状態判定テーブルである。 図7は実施例1の入力情報テーブルである。 図8Aは実施例1の操作手順の変更例の操作状態判定テーブルである。 図8Bは実施例1の操作手順の変更例の入力情報テーブルである。 図8Cは実施例1の操作手順の変更例における指示指状態図である。 図9は実施例1における全体処理の流れ図である。 図10は実施例2のパーソナルコンピュータの斜視図である。 図11は実施例2のパーソナルコンピュータを左横から見た図である。 図12は実施例2のキーボードの正面図である。 図13Aは実施例2における2次元の映像情報図である。 図13Bは図13Aのときの1次元の映像情報図である。 図13Cは実施例2における2次元の映像情報図である。 図13Dは図13Cのときの1次元の映像情報図である。 図14は実施例2の2次元座標の算出手順説明図である。 図15Aは実施例2で指が静止しているときの2次元の映像情報図である。 図15Bは実施例2で指が動いているときの2次元の映像情報図である。 図15Cは実施例2で指がないときの2次元の映像情報図である。 図15Dは実施例2で2本の指が静止しているときの2次元の映像情報図である。 図15Eは実施例2で2本の指が動いているときの2次元の映像情報図である。 図15Fは実施例2で3本の指が静止しているときの2次元の映像情報図である。 図15Gは実施例2で3本の指が動いているときの2次元の映像情報図である。 図16は実施例2の操作状態判定テーブルである。 図17Aは実施例4における2次元の映像情報図である。 図17Bは図17Aのときの1次元の映像情報図である。 図17Cは実施例4における2次元の映像情報図である。 図17Dは図17Cのときの1次元の映像情報図である。 図18Aは実施例4におけるカメラから異なる距離L、2Lにある指の状態図である。 図18Bは実施例4における距離Lにある指の1次元の映像情報図である。 図18Cは実施例4における距離2Lにある指の1次元の映像情報図である。 図19は実施例5のパーソナルコンピュータの斜視図である。 図20は実施例5のパーソナルコンピュータを左横から見た図である。 図21は実施例5のキーボードの正面図である。 図22Aは実施例5の指示指状態図である。 図22Bは実施例5の操作状態判定テーブルの抜粋図である。 図23は実施例7の撮像手段を別筺体とした斜視図である。 図24Aは実施例7の撮像装置側が行う処理の流れ図である。 図24Bは実施例7のPC側が行う処理の流れ図である。 図25は実施例9の撮像手段を別筺体とした斜視図である。 図26Aは実施例11の撮像手段を別筺体とした斜視図である。 図26Bは実施例11の撮像装置を左横から見た図である。 図27は実施例11の入力補助シートの正面図である。 図28は実施例11の操作手順の概要図である。 図29Aは実施例11の操作状態判定テーブルの抜粋図である。 図29Bは実施例11の入力情報テーブルの抜粋図である。 図30Aは実施例11におけるある状態の指の撮像図である。 図30Bは図30Aにおける状態の指の1次元の映像情報図である。 図30Cは実施例11におけるある状態から特定の指の状態が変化したときの1次元の映像情報図である。 図31は実施例13の斜視図である。 図32は実施例15の斜視図である。 図33は実施例16の斜視図である。
以下、本発明の好適実施例を添付図面を参照しながら詳しく説明する。尚、全図面を通して、同一参照番号又は符号は、明細書全体を通して同一又は同等の部品を表わすものとする。
最初に、発明の入力装置として機能するノート型パソコンであって、ノート型パソコンのキーボード上で、従来のキーボード操作に加え、画像認識を利用したマウスと同等情報やテンキーと同等情報やショートカットキーと同等情報や文字と同等情報の入力ができる実施例1を図1から図9を参照して説明する。
先ず、物理的構成について、図1及び図2を参照して説明する。
参照符号1は、開閉式のノート型パーソナルコンピュータ(以下、PC1と呼ぶ)であり、本体側に各種の文字や記号や機能情報(ファンクションキー等)を入力するための複数の操作キーからなるキーボード4が設けられている。
また、蓋側の中央に表示画面であるディスプレイ2が設けられ、上部には、キーボード4上の指を動作中常時撮影するCCD(Charge Coupled Device)カメラ3(以下、カメラ3と呼ぶ)が設けられている。また、本体側の側面には、USB(Universal Serial Bus)コネクタ8が設けられている。
図1及び図2の点線4a部分は、カメラ3の映像からマウスと同等情報やテンキーと同等情報やショートカットキーと同等情報や文字と同等情報を入力するときに使用する領域であり、図2の点線4b部分の小領域は、テンキー情報の0から9の数字と四則演算の記号を入力するための領域の配置位置である。
カメラ3のレンズ周囲部には調整ツマミ5が設けられ、キーボード4を操作する指を映像として確実に捉えることができるように、カメラ3の視野が調整できるようになっている。
特に、カメラ3で撮像対象としたいのはキーボード4上の左手と右手の部分であるから、キーボード4を手から識別し易い色、例えば黒にすることが好ましい。この様にすれば、手のコントラストが高くなるため、手の部分を容易に抽出することができる。また、カメラ3の付近にキーボード4上を照射する照射手段を備え、キーボード4の面を反射率の低い部材とすることにより、より、手のコントラストを高くすることができる。
次に、図3Aを参照して、PC1の電気的構成について説明する。
PC1は、その制御部50内に、PC1が具備する各種機能の全体を制御するCPU10が設けられている。このCPU10には、入力プログラムの他、PC1を動作させるための各種プログラム等を記憶したROM11と、前記入力プログラムで使用する各種のデータ(後述の図3Bを参照)の他、PC1の各種のデータを一時的に記憶するRAM12と、前記入力プログラムにおいて時間の経過を計測するためのタイマ13と、I/Oインターフェイス14とがバスを介して接続されている。I/Oインターフェイス14には、ディスプレイ2及びカメラ3を制御するためのビデオコントローラ15と、キーボード4を制御するためのキーコントローラ16と、前記入力プログラムを制御するための各種テーブル(後述の図3Cを参照)を記憶するための記憶装置であるハードディスク装置(HDD)17とUSBコネクタ8とが接続されている。
次に、入力装置の操作手順の概要について、図4を参照して説明する。
入力装置は、キーボード4から操作キーを打鍵する入力とショートカットキーと同等情報と文字と同等情報を入力するための入力面(OP−K:キーボードの入力面)と、マウスと同等情報を入力するための入力面(OP−M:マウス情報の入力面)と、テンキーと同等情報を入力するための入力面(OP−T:テンキー情報の入力面)と、スクロール情報を入力するための入力面(OP−MS:スクロール待ちの入力面)と、左クリック押下継続(ドラック操作をするための操作)をするための入力面(OP−MC:左クリック押下継続の入力面)とを備えていて、入力操作で使用する入力面を選択した後に入力操作を行う。
キーボードの入力面(OP−K)が選択されていると、マウス情報の入力面(OP−M)やスクロール待ちの入力面(OP−MS)やテンキー情報の入力面(OP−T)の入力面を選択するためのトリガーとなる指の姿、或いは、ショートカットキーと同等情報や文字と同等情報の入力情報を入力するためのトリガーとなる指の姿を、所定の時間間隔で取得している映像にないかを監視(K−1とK−3とK−2とIN−SC:詳細は、図6を参照して後述する)している。
もし、カメラ3が撮像した映像が入力面を選択するためのトリガーとなる指の姿に当てはまれば、続く、カメラ3が撮像した映像が、予め登録されている入力面の選択を確定する指の姿かどうかを判定し、入力面の選択が確定する。
また、カメラ3が撮像した映像が前記入力情報を入力するためのトリガーとなる指の姿に当てはまれば、続く、カメラ3が撮像した映像が、予め登録されている前記入力情報を決定する指の姿かどうかを判定し、前記入力情報が確定する。
このトリガーとなる指の姿とこれに続く指の姿が、入力面を選択する操作手順や入力情報を決定する操作手順(以下、入力装置の操作手順と呼ぶ)となる。
マウス情報の入力面(OP−M)が選択されていると、
キーボードの入力面(OP−K)やテンキー情報の入力面(OP−T)や左クリック押下継続の入力面(OP−MC)やスクロール待ちの入力面(OP−MS)を選択するためのトリガーとなる指の姿、或いは、マウス情報の入力面における入力情報を決定する為のトリガーとなる指の姿を、所定の時間間隔で取得している映像にないかを監視(M−9とM−10とM−7とM−8とM−1:詳細は、図6を参照して後述する)している。
テンキー情報の入力面(OP−K)が選択されていると、
キーボードの入力面(OP−K)やマウス情報の入力面(OP−M)を選択するためのトリガーとなる指の姿か、或いは、テンキー情報を入力するためのトリガーとなる指の姿を、所定の時間間隔で取得している映像にないかを監視(T−2とT−3とT−1:詳細は、図6を参照して後述する)している。
したがって、キーボードの入力面(OP−K)やマウス情報の入力面(OP−M)やテンキー情報の入力面(OP−K)は、操作者が、トリガーとなる特別に意味のある指の姿をとることに応じて相互に往来できる。
また、マウス情報の入力面(OP−M)において、入力情報を決定する為のトリガーとなる指の姿を見つけると、これに続く指の姿により入力情報を決定するが、このトリガーとなる指の姿とそれに続く指の姿が、マウス情報の入力面における入力情報を決定する操作手順(M−2からM−6)となる。
したがって、入力面を選択する操作手順と選択された入力面における入力情報を決定する操作手順からなる入力装置の操作手順は、操作手順が使用できる入力面毎に、操作手順を開始する指の姿とそれに続く指の姿の連続する組合せで表現できる。
言いかえれば、この指の姿の組合せは、入力装置に対して、入力面の選択の指示や選択されている入力面における入力情報の生成の指示(以下、操作指示という)を出せる。
さらに、この指の姿の組合せを構成する指の姿毎に、指の姿が継続しなければならない最短の時間(以下、指示指継続時間という)を予め設定しておくことで、この指の姿が、設定された指示指継続時間を継続したか否かを、操作指示を出す判定条件とする事ができる。例えば、指示指継続時間がゼロ秒なら、指の姿が変化した時点で直ちに操作指示を出せる。
また、この指示指継続時間に達する前に指の姿が変化した場合は、操作手順に従った操作が実施されなかった事になる。
したがって、操作者にとって、より、操作し易い速度で操作できるように操作手順を構築することができる。また、同一の指示指状態を持続させている時間により、操作指示を決定することができる。
この指示指継続時間と比較する経過時間は、同一の指の姿が継続している持続時間で、タイマ13により計測し、随時、経過時間122に記憶している。
次に、操作者が定める、操作者にとって操作し易い指の姿や、操作者にとって意味のある指の姿をどの様にして識別するかについて、図5を参照して説明する。
指の姿は、操作者が容易にその姿態をとることができ、且つカメラ3の映像情報から容易に抽出・判定できるものである事を考慮して、以下の基準で識別し、識別した指の姿を指示指状態と呼ぶ。
先ず、前記映像情報から指の間の隙間が有るかどうかを判定し、隙間状況を確定する。尚、指先の隙間だけが無い場合も、指の間の隙間が無いと判断する。次に、左右の指で動いている指を特定するために、前記映像情報上における左右の指の位置座標を求め、前回の映像情報の左右の指の位置座標を記憶してある記憶領域の前回座標121と比較し位置座標の差異状況を確定する。尚、映像情報上における指の位置座標は、図2の点線4aの領域内の各指の先端の位置で求めればよい。
前記隙間状況と前記位置座標の差異状況が確定すると、前記隙間状況と前記位置座標の差異状況に対して指示指状態を対応付けた指示指状態テーブル173より、指示指状態を確定する。尚、入力面上における指の2次元座標は、映像情報上における指の位置座標と同一とする。尚、差異状況が確定後、指の位置座標を前回座標121へ格納する。
例えば、マウス情報の入力面を選択するためのトリガーとなる指の姿と、マウスポインタを移動するときに使用する指の姿は、操作者にとって意味のある指の姿となるように、右手は、マウスを握るような形状とした。この右手は、親指と人差し指の隙間が有り、人差し指と中指の隙間が有り、中指と薬指の間の隙間と薬指と小指の間の隙間の有無については問わない形状とする。そして、左手は、図2の点線4a内に入れないようにする。
この指の姿が静止している状態を、以後、指示指状態"001"と呼ぶ(図5Aの指示指状態"001"を参照)。
次に、カメラ3の映像から確定した指示指状態は、
操作手順通りに操作し、操作手順が終了するものである(以下、W操作状態という)、1つの操作手順に絞りこまれていて操作手順通りに操作中である(以下、X操作状態という)、操作手順の絞り込み中である(以下、Y操作状態という)、操作手順に当てはまらない指示指状態だった(以下、Z操作状態という)かの、いずれの操作状態かを判定し確定するための、操作状態判定テーブル171について、図6を参照して説明する。
これまでの説明から操作手順は、入力面毎に、開始の手順となる「指示指状態と指示指継続時間と操作指示」と、必要であれば、それに続く手順となる「指示指状態と指示指継続時間と操作指示」とから構成されることが判る。
したがって、入力装置は、入力面に対して、1組以上の指示指状態と指示指継続時間と操作指示を対応させた操作状態判定テーブル171(図6を参照)を備えることで、カメラ3から所定の時間間隔で取得する映像から確定した指示指状態と経過時間122と操作状態判定テーブル171とを突き合わせることで、前記操作状態(前記W、或いはX、或いはY、或いはZ操作状態)を把握する事ができる。
例えば、キーボードの入力面(図4のOP−K)が選択されている状態で、カメラ3から取得した映像が指示指状態"001"とすると、図6の操作状態判定テーブル171の現在選択されている入力面がキーボードの入力面であるデータの中で、開始の手順の指示指状態が"001"のデータは、図6の(K−1)のみであることから、図6の(K−1)のデータで示す操作手順が、指示指状態"001"を開始トリガーとして、開始したことになり、X操作状態となる。
その後、カメラ3から取得する映像の指示指状態は"001"で、指示指状態"001"を連続して取得している時間が1秒未満であれば、操作状態は、予め定めた入力装置の操作手順通りに操作中で、X操作状態が継続する。
その後、カメラ3から取得する映像の指示指状態"001"が指示指継続時間で指定されている1秒以上連続した場合、操作状態は、予め定めた入力装置の操作手順通りに操作し、操作者の選択決定意思がされたとして、W操作状態となる。操作指示は、マウス情報の入力面が選択され、指示指状態"001"を開始トリガーとした操作手順が終了する。
したがって、入力装置は、選択されている入力面と操作指示で入力情報生成の指示があれば、入力情報の生成ができる。
また、選択されている入力面と入力情報生成の指示に対する入力情報を、指の2次元座標に対して決定する場合(例えば、テンキー情報)は、選択されている入力面と入力情報生成の指示と指の2次元座標の判定条件に対して、入力情報を対応付けた入力情報テーブル172(図7を参照)を備えればよい。
尚、図6の操作状態判定テーブル171では、開始手順の後の続く手順の個数は、3ケとなっているが、4ケ以上でも良い。
次に、操作手順の詳細について、図4から図7を参照して説明する。
先ず、PC1の起動直後の入力装置は、パソコンの起動画面が表示されるとカメラ3によりキーボード4上の所定の領域(図2の点線4a内)の撮影を開始し、マウス情報の入力面を選択するためのトリガーとなる指の姿(指示指状態"001")が、所定の時間間隔で取得している映像にないかを監視(K−1)する。なお、パソコン起動時に自動的に選択される入力面は、キーボードの入力面(図4のOP−K)とする。
この状態から、「PC1の起動画面からメールソフトを起動する為に、マウスポインタをメールソフト起動のアイコンまで移動して、その位置でダブルクリックし、メールソフトを起動する。その後、宛先をアドレス帳より選択し、件名と本文を入力し送信する。その後、メールソフトウィンドウを閉じる」操作手順を例にして、図4を参照して説明すると、
手順その1:先ず、キーボードの入力面(図4のOP−K)が選択されている初期状態から、マウス情報の入力面(図4のOP−M)を選択(図4のK−1)する。
手順その2:マウスと同等情報の入力待ち状態(図4のM−1)となる。
手順その3:その後、左ダブルクリックをするためにマススポインタを移動(図4のM−2)。
手順その4:その後、左ダブルクリック(図4のM−4)をするとメールソフトが起動する。
手順その5:その後、メニューより、マウスと同等情報を使って、新規メール作成を選択、そして、宛先を選択する。
手順その6:その後、キーボード4より、件名と本文を入力するために、キーボードの入力面が選択されている状態とする(図4のM−9)。尚、本文の氏名と住所は、文字と同等情報の入力情報(図4のK−4、K−5)として入力する。
手順その7:その後、キーボードの入力面が選択されている状態から、メール送信のショートカットキーと同等情報(図4のK−6)を入力し、メールを送信、その後、メールソフトウィンドウを閉じるショートカットキーと同等情報(図4のK−7)を入力し、メールソフトを閉じる。
となる。
前記各操作手順を、操作状態判定テーブル171(図6を参照)と関連付けて説明する。
手順その1:キーボードの入力面が選択されている状態でマウス情報の入力面を選択するには、マウスを握るような指の姿である指示指状態"001"の状態で、1秒以上静止すればよい。これは、指示指状態"001"で、1秒以上静止することは、キーボード4の操作キーを打鍵して入力する操作者にとって、あり得ない操作手順である事に着目した。
尚、「指示指状態"001"で、1秒以上静止」の操作手順がキーボード4の操作キーを打鍵して入力する時にあり得るという操作者やキーボード4からの入力操作とマウスと同等情報の入力操作を繰り返すことが多い操作者にとっては、例えば、左手は、親指と人差し指の隙間有り、人差し指と中指の隙間無し、その他の指の間の隙間は問わず、そして、右手は、指示指状態"001"と同様で、左右の全指が静止している状態(指示指状態"003"の状態、図5Fを参照)で、1秒以上静止することにより、マウス情報の入力面を選択するようにすれば、この操作者にとって、より操作性が良くなる(この操作手順を、マウス情報の入力面の選択の第2手順、と呼ぶ)。
このようにして、操作者にとって操作のし易い指示指状態とこの指示指状態が継続している時間である指示指継続時間を任意に設定することができる。
入力装置は、カメラ3の映像を取得し、指示指状態を"001"と確定すると、キーボードの入力面を選択している状態で、開始のトリガーとなる指示指状態が"001"となっている操作状態判定テーブル171は、図6のK−1のデータのみであると判定し、操作状態を、図6のK−1のデータにより、「マウス情報の入力面を選択する」操作手順が操作手順通りに操作中であることから、X操作状態とする。
その後、入力装置は、図6のK−1のデータの指示指状態"001"の指示指継続時間が1秒であることから、操作者による入力面の選択の選択決定意思として、続く映像で指示指状態"001"が1秒以上継続して見つかるかどうかを監視する。
もし、1秒継続しなかった場合は、操作者の入力の選択決定意思がされなかったことになり、手順その1は、操作手順通りに操作されなかったのでZ操作状態となり、キーボードの入力面(図4のOP−K)が選択されている状態が変更されることなく継続する事になる。
もし、1秒以上継続すれば、操作者の入力の選択決定意思がなされたことになる。すなわち、操作状態は、操作手順通り操作されたのでW操作状態となり、操作指示としてのマウス情報の入力面の選択がされ、手順その1の操作手順が終了する。
このように、入力面を選択する操作手順は、入力面の選択が決定すると、その操作手順は終了するように構築する。何故なら、操作手順は、現在使用できる入力面毎に定められているからである。
手順その2:マウス情報の入力面が選択されると、マウスと同等情報の入力待ちの状態となる。この状態を継続するには、指示指状態"001"を継続すればよい。
入力装置は、カメラ3の映像を取得し、指示指状態を"001"と確定すると、マウス情報の入力面が選択されている状態で、開始のトリガーとなる指示指状態が"001"となっているのは、図6のM−1のデータのみであると判定し、この指示指状態の指示指継続時間はゼロ秒で、且つ続く手順がないので、指示指状態"001"を見つけると、操作状態を、操作手順通り操作されたのでW操作状態とする。そして、直ちに、マウスと同等情報が入力できる状態とする入力情報(右手の中指の2次元座標を現在のマウスポインタの位置とする)が入力(図7のM−1を参照)され、手順その2の操作手順が終了する。
このように、開始のトリガーとなる指示指状態により、直ちに、操作者の入力の選択決定意思がされたとすることもできる。
手順その3:左ダブルクリックに先立ってマウスポインタを移動(図4のM−2)するには、マウス情報の入力面(図4のOP−M)において、右手全体を動かせばよい。
右手全体を動かすとは、指示指状態"001"において、右手全体を動かすことである(以下、この状態を指示指状態"006"と呼ぶ、図5Aを参照)。
尚、マウス情報の入力面の選択の第2手順でマウス情報の入力面を選択した時は、指示指状態"003"の状態で右手だけを動かす(以下、指示指状態"007"と呼ぶ、図5Fを参照)事でマウスポインタを移動する。
入力装置は、カメラ3の映像を取得し、指示指状態を"006"と確定すると、マウス情報の入力面が選択されている状態で、開始のトリガーとなる指示指状態が"006"となっているのは、図6のM−2のデータのみであると判定し、この指示指状態の指示指継続時間はゼロ秒で、且つ続く手順がないので、指示指状態"006"を見つけると、操作状態を、操作手順通り操作されたのでW操作状態とする。そして、直ちに、マウスポインタが移動する入力情報が入力(図7のM−2を参照)され、手順その3の操作手順が終了する。
手順その4:左ダブルクリックをするには、マウス情報の入力面が選択されている状態において、人差し指だけを動かした(以下、この状態を指示指状態"008"と呼ぶ、図5Aを参照:動かす方向は、上下でも良いし、横でも良い)後、指示指状態"001"の状態にして、指示指状態"001"が0.5秒以上経過する前に、再度、指示指状態"008"とし、再度、指示指状態"001"とすればよい。
尚、マウス情報の入力面の選択の第2手順でマウス情報の入力面を選択した時も、同様に、右手の人差し指だけを動かせばよい(指示指状態"009"、図5Fを参照)。
入力装置は、カメラ3の映像を取得し、指示指状態を"008"と確定すると、マウス情報の入力面が選択されている状態で、開始のトリガーとなる指示指状態が"008"となっているのは、図6のM−3、M−4、M−6、M−8のデータであり、開始のトリガーだけでは、この4つのデータの内、どのデータを使用したらよいかは確定できない為、どの操作手順が操作中か確定ができていない。
したがって、操作状態は、操作手順の絞り込み中のY操作状態となる。
その後、指示指状態"001"を取得すると、図6のM−3、M−4のデータが操作手順中として絞り込まれ、操作状態は、操作手順の絞り込み中のY操作状態となる。
その後、指示指状態"001"の経過時間が指示指継続時間の0.5秒を超えると、図6のM−3のデータにより、操作者の入力の選択決定意思がされたとして、操作状態は、操作手順通り操作されたのでW操作状態となり、左クリックが入力(図7のM−3参照)され、手順その4の操作手順が終了する。
また、指示指状態"001"の経過時間が指示指継続時間の0.5秒を超える前に、指示指状態"008"を取得すると、図6のM−4のデータのみが絞り込まれ、操作状態は、操作手順通りに操作中となり、X操作状態となる。その後、続く指示指状態に"001"を取得すると、操作状態は、操作手順通り操作されたのでW操作状態となり、ダブルクリックが入力(図7のM−4参照)され、メールソフトが起動する。
手順その5:メールソフトのメニューより、新規メール作成を選択、そして、宛先を選択する。これは、マウスポインタの移動の操作手順を実施後、左ダブルクリックの操作手順を行えば良い。
手順その6:件名や本文にキーボード4より文字を入力するために、キーボードの入力面を選択するには、マウス情報の入力面を選択している状態において、指示指状態"001"の状態に対して、左手を任意の姿で図2の点線4a内に置き、カメラ3の映像に写るようにする(以下、指示指状態"002"と呼ぶ、図5Aを参照)とすればよい。
尚、マウス情報の入力面の選択の第2手順でマウス情報の入力面を選択した時は、左手の中指と接触している人差し指を動かし(以下、指示指状態"004"と呼ぶ、図5Fを参照)、左手の人差し指と中指に隙間がある状態(以下、指示指状態"005"と呼ぶ、図5Fを参照)で静止させればよい。
入力装置は、カメラ3の映像を取得し、指示指状態を"002"と確定すると、マウス情報の入力面が選択されている状態で、開始のトリガーとなる指示指状態が"002"となっているのは、図6の、キーボードの入力面(図4のOP−K)を選択するデータ(M−9)とテンキー情報の入力面を選択するデータ(M−10)であるので、操作状態を、操作手順の絞り込み中のY操作状態とする。
図6のM−9のデータによる操作者の入力の選択決定意思は、指示指状態"002"で、指示指継続時間が1秒である事が判る。
したがって、操作手順は、指示指状態"002"を継続して1秒以上取得すると、M−9のデータの操作手順通り操作されたのでW操作状態となり、キーボードの入力面が選択される。
その後、キーボード4を使用し、件名と本文を入力する(図4のIN−K)。但し、本文の氏名と住所は、文字と同等情報の入力情報(図4のK−4、K−5)として入力する。
したがって、住所の入力は、左右の手の親指と人差し指、及び、人差し指と中指の隙間がある状態で、左右の親指同士を接触させ、全指が静止している(以下、指示指状態"010"と呼ぶ、図5Dを参照)状態とし、その後、右手の人差し指だけを動かす(以下、指示指状態"011"と呼ぶ、図5Dを参照)。その後、指示指状態"010"の状態で静止すると、操作者が定めた住所情報の内容が入力される。
入力装置は、カメラ3の映像を取得し、指示指状態を"010"と確定すると、キーボードの入力面(図4のOP−K)が選択されている状態において、開始のトリガーとなる指示指状態が"010"となっているのは、図6のK−4、K−5、K−6、K−7のデータであると判定し、操作状態を、操作手順の絞り込み中のY操作状態とする。
その後、指示指状態"011"を取得すると、図6のK−4のデータが対象となり、操作状態は、文字1(住所情報)の入力の操作手順通りに操作中となり、X操作状態となる。その後、指示指状態"010"を取得すると、K−4のデータの操作手順通り操作されたのでW操作状態となり、住所情報が入力(図7のK−4を参照)される。
尚、氏名の入力は、指示指状態"010"の状態において、中指だけを動かす(指示指状態"012"、図5Dを参照)。これは、図6のK−5と図7のK−5のデータにより、同様にして入力される。
手順その7:件名と本文の入力が終了したので、メール送信のショートカットキー(例えば、Alt+S)を入力するために、指示指状態"010"の状態の次に、指示指状態"010"の状態で左手の人差し指を動かし(以下、指示指状態"013"と呼ぶ、図5Dを参照)、その後、再度、指示指状態"010"の状態とすればよい。これは、図6のK−6のデータと図7のK−6のデータにより実現される。
尚、メールソフトウィンドウを閉じるショートカットキー(Alt+F4)の入力も、指示指状態"010"の状態において、左手の中指だけを動かす(以下、指示指状態"014"と呼ぶ、図5Dを参照)。これは、図6のK−7と図7のK−7のデータにより実現される。
以降、その他のマウスと同等情報の入力の操作手順について、概要を説明する。
右クリック(M−5)は、マウスと同等情報の入力待ち状態(図4のOP−M)において、右手の中指のみを動かし(以下、指示指状態"015"と呼ぶ、図5Aを参照)、その後、続く指示指状態"001"が0.5秒継続すると右クリックされる。これは、図6のM−5と図7のM−5のデータにより実現される。
マウスポインタ移動の繰り返し(M−6:マウス操作で長い距離を動かすときに、一度、マウスを浮かせて戻し、再度マウスを動かす操作)は、動かした手を戻す時は、マウスポインタが移動しないようにするために、移動していた手を一旦静止し(指示指状態を"001")、その後、人差し指を動かし(指示指状態を"008")、その直後に指全体を動かす(指示指状態を"006")ようにする。これは、図6のM−6と図7のM−1のデータにより実現される。図6のM−6の操作指示は、図6のM−1の操作指示と同じなので、図7のM−1により入力情報が生成される。
移動(ドラック)操作は(C−2)、左クリック押下継続の入力面(図4のOP−MC)を選択した状態にて行う。
左クリック押下継続の入力面にするには、マウス情報の入力面(図4のOP−M)が選択されている状態において、親指だけを動かす状態(以下、指示指状態"016"と呼ぶ図5Aを参照)とし、その後、続く指示指状態を"001"とし、0.3秒経過すると、左クリック押下継続の入力面が選択される。これは、図6のM−7のデータにより実現される。
左クリック押下継続の入力面(図4のOP−MC)が選択されると、指示指状態"001"により、左クリック押下継続の状態が継続される。これは、図6のC−1のデータにより、実現される。その後、左クリック押下継続の入力面(図4のOP−MC)を選択した状態にて、指示指状態を"006"とすれば、移動(ドラック)操作が行える。これは、図6のC−2と図7のC−2のデータにより実現される。
ドロップ操作は、左クリック押下状態を解除(図4のC−3)し、マウス情報の入力面(図4のOP−M)を選択すればよい。
左クリック押下状態の解除は、左クリック押下状態が継続されている状態(指示指状態を"001")で、親指だけを動かす状態(指示指状態を"016")とし、その後、続く指示指状態を"001"とすればよい。これは、図6のC−3と図7のC−3のデータにより実現される。
画面スクロール操作(S−2)は、マウス情報の入力面(図4のOP−M)が選択されている状態において、スクロール待ちの入力面(図4のOP−MS)を選択(M−8)してから行う操作手順と、キーボードの入力面(図4のOP−K)が選択されている状態において、スクロール待ちの入力面(図4のOP−MS)を選択(K−3)してから行う2つの操作手順がある。
前者(M−8)の場合のスクロール待ちの入力面は、人差し指を右横に動かして、人差し指と中指の隙間が無い状態(以下、指示指状態を"017"と呼ぶ、図5Aを参照)とし、0.5秒以上静止することにより選択される。これは、図6のM−8のデータにより実現される。
尚、スクロール待ちの状態となったときの中指の2次元座標をスクロール判定用座標125に記憶し、このスクロール判定用座標125を基準にして、上下左右に右手を動かす(指示指状態を"018"、図5Bを参照)と、上下左右にスクロールされることになる。
スクロール待ちの入力面が選択され、指示指状態が"017"(図5Aを参照)を継続すると画面スクロールができる状態が継続する。これは、図6のS−1のデータにより実現される。
尚、図6のS−1の操作指示の「画面スクロールできる状態」に対応するデータが、入力情報テーブル(図7を参照)に存在しないので、入力情報は生成されないで、画面スクロールができる状態を継続する。
後者(K−3)の場合のスクロール待ちの入力面は、指示指状態を"017"の状態で1秒以上静止することにより、選択される。これは、図6のK−3のデータにより実現される。
画面スクロール(S−2)は、スクロール待ちの入力面(図4のOP−MS)において、右手を動かせば(指示指状態を"018"、図5Bを参照)、スクロール判定用座標125を基準にして、指が所定の距離以上動くと、指の動いた方向に従い、画面スクロールされる(図7のS−2の指の2次元座標の判定条件を参照)。これは、図6のS−2と図7のS−2のデータにより実現される。
スクロール待ちの入力面(図4のOP−MS)が選択されている状態から、マウス情報の入力面(図4のOP−M)を選択するには、右手の人差し指を左に動かし(指示指状態が"008")、その後、指示指状態を"001"とし、0.5秒以上静止すればよい。これは、図6のS−3のデータにより実現される。
スクロール待ちの入力面(図4のOP−MS)が選択されている状態から、キーボードの入力面(図4のOP−K)を選択するには、画面スクロール待ち状態の状態とする指示指状態"017"や画面スクロールする指示指状態"018"やマウス情報の入力面を選択するための指示指状態"008"以外の指示指状態とするとキーボードの入力面が選択される。これは、図6のS−4のデータにより実現される。
次に、「キーボード4から文字を入力した後、テンキー情報の入力面を選択し、テンキー情報を入力後、キーボードの入力面に戻り、キーボード4から文字を入力する」操作手順を、図4を参照して説明すると、
手順その1:先ず、キーボードの入力面(図4のOP−K)が選択されている状態でテンキー情報の入力面を選択(図4のK−2)する。
手順その2:その後、テンキー情報を入力する(図4のT−1)。
手順その3:その後、キーボード4より、文字を入力するために、キーボードの入力面を選択(図4のT−2)する。
となる。
この操作手順を、操作状態判定テーブル171(図6を参照)と関連付けて説明する。
手順その1:キーボードの入力面が選択されている状態でテンキー情報の入力面を選択するには、テンキーパッドの押下キーを叩くような指の姿で、例えば、右手の人差し指だけで入力文字情報を指し示す状態(以下、指示指状態"019"と呼ぶ、図5Aを参照)で1秒以上静止すれば良い。尚、指示指状態"019"は、左手の状態はどの様な状態であっても良い。
入力装置は、カメラ3の映像を取得し、指示指状態を"019"と確定すると、キーボードの入力面(図4のOP−K)が選択されている状態で、開始のトリガーとなる指示指状態が"019"となっている操作状態判定テーブル171は、図6のK−2のデータのみで、図6のK−2のデータの操作手順が操作手順通りに操作中となり、操作状態を、X操作状態とする。
その後、入力装置は、操作者による入力面の選択の選択決定意思として、続く映像で指示指状態"019"が1秒以上継続して見つかるかどうかを監視する(指示指継続時間が1秒)。
もし、1秒継続しなかった場合は、操作者の入力の選択決定意思がされなかったので、手順その1は、操作手順通りに操作されなかったのでZ操作状態となり、キーボードの入力面が選択されている状態が継続する事になる。
もし、1秒以上継続すれば、操作者の入力の選択決定意思がなされたので、操作手順は、操作手順通り操作されたので、操作状態は、W操作状態となる。そして、操作指示としてのテンキー情報の入力面が選択され、手順その1の操作手順が終了する。
手順その2:テンキー情報を入力するには、指示指状態"019"の状態で1秒以上静止すれば、右手の中指の位置で入力できる。
入力装置は、カメラ3の映像を取得し、指示指状態を"019"と確定すると、テンキーの入力面(図4のOP−T)が選択されている状態で、開始のトリガーとなる指示指状態が"019"となっている操作状態判定テーブル171は、図6のT−1のデータのみであると判定し、図6のT−1のデータの操作手順が操作手順通りに操作中となり、操作状態を、X操作状態とする。
その後、入力装置は、操作者による入力面の選択の選択決定意思として、続く映像で指示指状態"019"が1秒以上継続して見つかるかどうかを監視する(指示指継続時間が1秒)。
もし、1秒以上継続すれば、操作者の入力の選択決定意思がなされたとして、操作手順は、操作手順通り操作されたので、操作状態は、W操作状態となる。そして、操作指示としてのテンキー情報の入力が決定され、右手の中指の2次元座標に対応付けられた入力情報(図7のT−1を参照)が決定され入力情報として生成され、手順その2の操作手順が終了する。
手順その3:キーボード4より、文字を入力するために、キーボードの入力面(図4のOP−K)を選択するには、指示指状態を"019"、及び、指示指状態を"001"以外の状態とすると、キーボードの入力面が選択される。
入力装置は、カメラ3の映像を取得し、指示指状態を"019"、及び、指示指状態を"001"以外の状態と確定すると、開始のトリガーとなる指示指状態が"019"、及び、指示指状態が"001"以外の状態となっている操作状態判定テーブル171は、図6のT−2のデータのみなので、データの操作手順が操作手順通りに操作中となり、操作状態を、X操作状態とする。その後、同一の指示指状態が1秒以上継続すると、操作手順は、操作手順通り操作されたので、操作状態は、W操作状態となる。そして、キーボードの入力面が選択され、手順その3の操作手順が終了する。
尚、テンキー情報の入力面からマウス情報の入力面を選択するには、指示指状態"001"の状態で1秒間静止すれば良く(図6のT−3を参照)、マウス情報の入力面からテンキー情報の入力面を選択するには、指示指状態"002"の状態とした後、指示指状態"019"の状態で1秒静止すれば良い(図6のM−10を参照)。
以上の入力面や指示指状態や操作手順の変更は、操作状態判定テーブル171や入力情報テーブル172や指示指状態テーブル173の内容を変更することにより、操作者自身によって容易に行える。
したがって、操作者にとって、最も操作し易い入力面と指示指状態と操作手順により入力操作ができるようにすることができる。以下に入力面や指示指状態や操作手順の変更例を説明する。
先ず、入力操作を行う指示指状態の変更について説明する。
マウスポインタの移動は、タッチパッドを操作するように1本の指(指示指状態"019"、図5Aを参照)で行いたいと操作者が希望すれば、入力操作を行う指示指状態を変更する事ができる。
その為には、先ず、図6の操作状態判定テーブル171のK−1とM−1のデータの指示指状態"001"を"019"に変更する(図8AのK−1´とM−1´を参照)。
そして、指示指状態"019"が動いている指示指状態を、例えば、"029"として、指示指状態テーブル173に追加する。
そして、図6の操作状態判定テーブル171のM−2のデータの指示指状態"006"を指示指状態"029"に変更すれば良い(図8AのM−2´を参照)。
次に、入力面や入力面の選択の操作手順の追加は、例えば、実施例1のテンキー情報の入力面は、半角の数字や記号を入力するための入力面なので、追加する入力面は、全角の数字や記号を入力するための入力面とし、入力面を選択する操作手順と選択された入力面において入力情報を決定する操作手順の追加について、説明する。
先ず、追加する入力面を「テンキー情報の入力面2」とし、図7の入力情報テーブル172のT−1のデータの選択されている入力面を「テンキー情報の入力面2」とし、入力情報の内容を全角に変更し、図7の入力情報テーブル172に追加すれば良い(図8BのT−4を参照)。
次に、図6の操作状態判定テーブル171に「テンキー情報の入力面2」を選択する操作手順を追加する。先ず、「テンキー情報の入力面2」を選択する指示指状態は、人差し指と中指をVの字の様な形状(図8Cの指示指状態"039"を参照)にする。そして、この指示指状態"039"で1秒間静止すると、「テンキー情報の入力面2」が選択される(図8AのK−8を参照)。そして、このテンキー情報の入力面2が選択されている状態において、入力情報を決定する操作手順を追加すれば良い(図8AのT−5を参照)。
次に、選択決定意思の変更について説明する。
操作手順は、開始の指の姿のみでも操作指示を出せるが、操作者が入力の選択決定意思を促すものとして、指示指継続時間を利用したり、続く指の姿を利用したり、さらには、操作者が入力の選択決定意思を出した後、ディスプレイ2に確認用のOKボタン押下用メッセージ等を出し、再確認をさせること等もでき、より、堅実な入力作業が行える。
例えば、図6の操作状態判定テーブル171のK−1のデータの指示指継続時間をゼロ秒とすれば、指示指状態"001"を見つけると、直ちに、マウス情報の入力面が選択されマウスポインタの移動ができる様になる。
また、図6の操作状態判定テーブル171のT−1のデータでは、指示指状態"019"が1秒以上継続すると入力されるが、指示指状態"019"が動いている状態の指示指状態"029"を追加して、指示指状態"019"が1秒経過後、指示指状態"029"が見つかったら入力を決定するようにも変更できる(図8AのT−6を参照)。
また、図6の操作状態判定テーブル171のT−1のデータでは、指示指状態"019"が1秒以上継続したら、図7の入力情報テーブル172の入力情報で、確認用のOKボタン押下用メッセージ等を出し、再確認をさせるアプリケーションプログラムを起動するように変更することもできる(図8BのT−7を参照)。
また、入力情報は、開始の指の姿に対してこれに続く指の姿を幾つか連ねる、或いは、入力面から入力面へ遷移させることにより、様々な入力操作が行えるようになる。
例えば、2種類の指示指状態"019"と"029"だけでも、様々な入力操作が構築できる。
図8AのT−5は、指示指状態"019"で1秒以上静止すると、テンキー情報の入力面2における入力が決定する。
図8AのT−8は、指示指状態"019"で2秒以上静止後、指示指状態"029"とすると、個人情報の入力面における住所の入力が決定する。
図8AのT−9は、指示指状態"019"で1秒経過する前に、指示指状態"029"とし、その後、指示指状態"019"とすると、個人情報の入力面における郵便番号の入力が決定する。
次に、上記の様に構成された実施例1の入力装置の全体動作について、図9の流れ図を参照して説明する。入力装置が起動するとROM11に記憶されている入力プログラムがRAM12に読み込まれて、CPU10により図9に示す処理が開始される。
まず、映像の取り込みタイミングかどうかを判断する(S010)。入力装置は、所定の時間間隔(本実施例では、30ミリ秒間隔)でカメラ3から映像を取り込み、以下の(S020以降の)処理を実行する。取り込みタイミングでなければ(S010:NO)、取り込みタイミングになるまで待機する。
取り込みタイミングになったら(S010:YES)、カメラ3からの映像を取り込む(S020)。
次に、前記映像より、左右の手の指の情報を抽出する(S030)。
次に、前記指の抽出情報より、以下の(1)、(2)、(3)の手順で指示指状態を確定するとともに、入力面における指の2次元座標を確定する(S040)。
(1)先ず、操作する指の状態を識別するために、指の間の隙間が有るかどうか判定し、隙間状況を確定する。尚、指先の隙間だけが無い場合も、指の間の隙間が無いと判断する。
(2)次に、左右の指で動いている指を特定するために、前記左右の指の映像上の位置座標を求め、前回の映像の左右の指の位置座標を記憶してある記憶領域の前回座標121と比較し位置座標の差異状況を確定する。尚、位置座標の差異状況を確定後、位置座標を前回座標121に記憶する。また、初期起動時は、前回座標121は初期設定値なので、次の映像を取得しても良いし(S010へ戻る)、位置座標の差異があったとして差異状況を確定しても良い。
(3)次に、前記隙間状況と前記位置座標の差異状況が確定すると、前記隙間状況と前記位置座標の差異状況に対して指示指状態を対応付けた指示指状態テーブル173より、指示指状態を確定する。
そして、前記左右の指の位置座標を、選択されている入力面における指の2次元座標とする。
次に、確定された指示指状態は、操作手順通りに操作し、操作手順が終了するものである(W操作状態)、1つの操作手順に絞りこまれていて操作手順通りに操作中である(X操作状態)、操作手順の絞り込み中である(Y操作状態)、操作手順に当てはまらない指示指状態であった(Z操作状態)かのいずれの操作状態かを、操作状態判定テーブル171と突き合わせて、確定する(S050)。
操作状態の確定は、
先ず、前回の映像の指示指状態の操作状態を記憶している前回操作状態127がW、或いはZ操作状態、或いは初期値の場合、操作状態を確定するための作業領域であり、操作状態判定テーブル171と同一項目で構成される検索用テーブル126の準備を後述するように行う(S051)。
その後、確定された指示指状態により、どの様な操作状態になるかを検索用テーブル126の全データを基に操作状態の判定を行い、判定が終了すると、操作状態が確定できるので、確定した操作状態を前回操作状態127に設定する(S052)。
前記検索用テーブル126の準備(S051)は、操作状態判定テーブル171に登録されているデータを基にして、操作状態判定テーブル171の現在選択されている入力面と、入力装置で選択されている入力面を記憶している選択中入力面124(初期値は、OP−Kで、キーボードの入力面が選択されている)が等しく、かつ、今回確定された指示指状態と操作状態判定テーブル171の開始の手順の指示指状態とが等しいデータを抽出し、記憶領域の検索用テーブル126に記憶する。
尚、抽出対象データが1件も無い場合は、記憶領域の検索用テーブル126に空白が設定される。
前記データ毎の操作状態の判定(S052)は、以下の(1)或いは(2)或いは(3)の方法、とする。但し、判定処理前において、前記検索用テーブル126が空白であれば、データ毎の操作状態の判定処理は実施する必要はなく、操作状態をZ操作状態で確定する。
また、前記全データに対する判定処理中において、操作状態がW操作状態となるデータが見つかると、以降のデータに関する操作状態の判定は不要となり、データ毎の操作状態の判定処理を終了し、操作状態をW操作状態で確定する。
前記検索用テーブル126の全データに対する操作状態の判定が終了後、前記検索用テーブル126が空白になっていたら、操作状態をZ操作状態で確定し、前記検索用テーブル126に1件のデータが残っていれば、操作状態をX操作状態で確定し、前記検索用テーブル126に2件以上のデータが残っていれば、操作状態をY操作状態で確定する。
(1)今回、前記検索用テーブル126の準備を行った時、確定した指示指状態を前回指示指状態123に設定する。
その後、操作状態の判定は、前記検索用テーブル126の開始の手順に対して、以下の判定をする。
そして、判定が終了すると、タイマ13を起動し、経過時間を随時、経過時間122に記憶する。
(1−1)指示指継続時間が"ゼロ"で、前記開始の手順に続く手順がないデータで有れば、このデータの操作状態をW操作状態とする。
(1−2)指示指継続時間が"ゼロ"で、前記開始の手順に続く手順があるデータで有れば、このデータの操作状態をY操作状態とする。
(1−3)指示指継続時間が"ゼロ"でなければ、このデータの操作状態をY操作状態とする。
(2)確定された指示指状態と前回指示指状態123が等しくないとき、確定した指示指状態を前回指示指状態123に設定する。その後、操作状態の判定は、前回の操作状態の確定で使用した前記検索用テーブル126の手順の次の続く手順に対して、以下の判定をする。
そして、判定が終了すると、タイマ13を停止し、タイマ13を再起動し、経過時間を随時、経過時間122に記憶する。
(2−1)確定した指示指状態と前記続く手順の指示指状態が等しくないとき、このデータは、操作状態の判定対象から外れる事となるので、前記検索用テーブル126から削除する。
(2−2)確定した指示指状態と前記続く手順の指示指状態が等しく、さらに、指示指継続時間が"ゼロ"で、さらに、前記続く手順に続く手順がないデータであれば、このデータの操作状態をW操作状態とする。
但し、経過時間122が前回の指示指状態の指示指継続時間を経過していなければ、このデータは、操作状態の判定対象から外れる事となるので、前記検索用テーブル126から削除する。
(2−3)確定した指示指状態と前記続く手順の指示指状態が等しく、さらに、指示指継続時間が"ゼロ"で、さらに、前記続く手順に続く手順があるデータであれば、このデータの操作状態をY操作状態とする。
但し、経過時間122が前回の指示指状態の指示指継続時間を経過していなければ、このデータは、操作状態の判定対象から外れる事となるので、前記検索用テーブル126から削除する。
(2−4)確定した指示指状態と前記続く手順の指示指状態が等しく、さらに、指示指継続時間が"ゼロ"でなければ、このデータの操作状態をY操作状態とする。
但し、経過時間122が前回の指示指状態の指示指継続時間を経過していなければ、このデータは、操作状態の判定対象から外れる事となるので、前記検索用テーブル126から削除する。
(3)確定された指示指状態と前回指示指状態123が等しいときは、
前回の操作状態の確定の判定に使用した前記検索用テーブル126の手順の指示指状態の指示指継続時間と経過時間122の関係が、
(3−1)経過時間122<指示指継続時間のとき、このデータの操作状態をY操作状態とする。
(3−2)指示指継続時間≦経過時間122であり、かつ、現在の手順に続く手順がないデータであれば、このデータの操作状態をW操作状態とする。
(3−3)指示指継続時間≦経過時間122であり、かつ、現在の手順に続く手順があるデータであれば、このデータの操作状態をY操作状態とする。
次に、確定された操作状態に従い、入力面の選択、或いは、入力情報の生成と次回の指示指状態に対する操作状態の確定の準備を以下の(1)或いは(2)或いは(3)或いは(4)の方法で行う(S060)。
(1)前記W操作状態の場合、即ち、操作手順通りに操作し、操作手順が終了するものであるときで(S061:W)、
・操作状態がW操作状態と確定されたデータの操作指示で入力面が選択されていたら、選択された入力面を記憶領域の選択中入力面124に設定する。また、選択された入力面がスクロール待ちの入力面のとき、右手中指の2次元座標をスクロール判定用座標125に設定する(S062)。
・操作状態がW操作状態と確定されたデータの操作指示で入力情報生成の指示が出されていたら、入力情報テーブル172を基に、入力情報を生成する(S063)。最後に、次の映像を取得するために、S010へ戻る。
・操作状態がW操作状態と確定されたデータの操作指示による指示が無い場合は、次の映像を取得するために、S010へ戻る。
(2)前記X操作状態の場合、即ち、前記操作状態が操作手順通りに操作中であるときで(S061:X)、操作指示で入力情報生成の指示が出されていたら、入力情報テーブル172を基に、入力情報を生成する(S063)。最後に、次の映像を取得するために、S010へ戻る。
もし、操作指示で入力情報生成の指示が出されていなかったら、次の映像を取得するために、S010へ戻る。
(3)前記Y操作状態の場合、即ち、操作手順の絞り込み中であるときは(S61:Y)、次の映像を取得するために、S010へ戻る。
(4)前記Z操作状態の場合、即ち、前記操作状態が操作手順にない指示指状態であったとき(S061:Z)、その後、次回、操作状態を決定する為に、以下の準備を行う。
タイマ13を停止し、
記憶領域の経過時間122に、初期値(ゼロ)を、
記憶領域の選択中入力面124に、初期値("OP−K")を、
記憶領域のスクロール判定用座標125に、初期値(ゼロ)を、
記憶領域の検索用テーブル126に、初期値(空白)を、
記憶領域の前回操作状態127に初期値(空白)をそれぞれ設定する(S064)。
最後に、次の映像を取得するために(S010)へ戻る。
上記中、記憶領域の選択中入力面124の設定内容は、操作者が決定できるようにしてもよい。
尚、図9の処理は、所定の時間間隔で処理を行うので、経過時間をタイマ13で測定する替わりに図9の処理フローが実施される処理回数を利用しても良い。例えば、0.1秒間隔で繰り返し処理している場合、経過時間が1秒とは、処理回数が10回であることと同様に取り扱える。
また、PC1は、ノート型パーソナルコンピュータに限らず、デスクトップ型パーソナルコンピュータであっても良い。
尚、上記実施形態において、
図9のS010からS030が本発明の指情報抽出手段及び過程に相当する。また、
図9のS040が本発明の指示指確定手段及び過程に相当する。また、
図9のS050が本発明の操作状態確定手段及び過程に相当する。また、
図9のS060が本発明の操作手順実施手段及び過程に相当する。
次に、ノート型パソコンのキーボード上で、従来のキーボード操作に加え、画像認識を利用したマウスと同等情報やテンキーと同等情報やショートカットキーと同等情報や文字と同等情報の入力ができる実施例2について、実施例1と異なる点を、図10から図16を参照して説明する。
先ず、物理的構成について、実施例1と異なる点を図10から図12を参照して説明する。
カメラ3は、キーボード4の向う側の右端の位置にカメラ3aを、キーボード4の向う側の中央付近の位置にカメラ3b(図10を参照)を、各カメラのレンズの画角の中心3a1が対角方向でキーボード4の操作キー面の直上の位置4cと平行(図11を参照)となるように設置する。また、各カメラのレンズの画角は、約90度である。
図10と図12の点線4a部分は、マウスと同等情報やテンキーと同等情報やショートカットキーと同等情報や文字と同等情報を入力するときに使用する領域であり、カメラ3aとカメラ3bの共通の視野となるように、カメラ3aとカメラ3bが設置されている。
尚、カメラ3bは、右手によりマウスと同等情報やテンキーと同等情報やショートカットキーと同等情報や文字と同等情報を、キーボード4を操作するホームポジションで入力することを前提としていて、左手がカメラ3bの視野に入らないように設置されている。
特に、カメラ3aとカメラ3bで撮像対象としたいのはキーボード4上の手の部分であるから、カメラ3aとカメラ3bの付近にキーボード4上の手を照射する照射手段を備えることにより、さらに、手と背景のコントラストを高くすることができる。
実施例2の電気的構成は、実施例1の図3Aのブロック図のカメラ3の替わりにカメラ3aとカメラ3bで構成される。操作手順の概要は、実施例1と同様である(図4を参照)。
次に、指の姿の識別の方法について、実施例1と異なる点を、図13から図15を参照して説明する。
実施例2では、指の隙間状況の代わりに指の数を確定する。そして、位置座標の差異状況の確定は、カメラ3aとカメラ3bの映像でキーボード4の操作キー面の直上の位置4c(図11を参照)の1次元の映像情報を使用する。実施例2においては、カメラ毎の映像情報に対して指の位置座標を確定する。
図13Aは、図12の点線4aの領域を、タッチパッドを操作するように1本の指で操作をする指のカメラ3aの映像であり、指6aは、操作キー面の直上の位置4cを過っている状態で、カメラ3aから遠くにある背景6bは黒く、カメラ3aから近くにある指6aは白く撮像されている。
図13Bは、図13Aの操作キー面の直上の位置4cの1次元の映像情報である。同様に、図13Cは、カメラ3bの映像で、図13Dは、図13Cの操作キー面の直上の位置4cの1次元の映像情報である。
入力面における指の2次元座標の算出方法を、図14を参照して説明する。
図14の指6aの2次元座標は、図13Bの指6aの中央付近の位置座標から、図13Bの指6aの中央付近とカメラ3aを結ぶ直線7aとカメラ3aとカメラ3bを結ぶ基線7との角度7a1が判り、図13Dの指6aの中央付近の位置座標から、図13Dの指6aの中央付近とカメラ3bを結ぶ直線7bとカメラ3aとカメラ3bを結ぶ基線7との角度7b1が判るので、三角測量法で指6aの2次元座標を求める。
図13の指の姿の場合、指の数は1本で指が静止している状態は、指示指状態を"101"(図15Aを参照)とする。他方、この指の姿が動いている、指示指状態を"102"と呼ぶ(図15Bを参照)。また、映像情報に指の情報があっても、キーボード4の操作キー面の直上の位置4cの1次元の映像情報に指の情報が無ければ、指は無いと判定する(以下、指示指状態"103"と呼ぶ、図15Cを参照)。
この様に指の姿を識別して指示指状態を確定し、図16の操作状態判定テーブルを備えれば、実施例1と同様な入力が行える。例えば、キーボードの入力面が選択されている状態で、指示指状態"101"で1秒以上静止すると、マウス情報の入力面が選択され(図16のK−1を参照)、その後、指を動かすと指示指状態は"102"となり、マウスポインタが移動される(図16のM−2と図7のM−2を参照)。
実施例2の流れ図は、実施例1の図9の流れ図のS030において、取り込んだ映像より指の情報を抽出した後、さらに、操作キー面の直上の位置4cの1次元の映像情報を抽出するように変更する。
尚、カメラの設置位置を変更したり、或いは、各カメラのレンズの画角を変更(例えば、画角を135度のレンズ)することで、図12の点線4aの領域を変更し、操作性の向上を図ったり、操作可能領域を変更したり、左手によりマウスポインタを操作するように、変更する事も出来る。
また、PC1は、ノート型パーソナルコンピュータに限らず、デスクトップ型パーソナルコンピュータであっても良い。
次に、実施例2のCCDカメラを1次元イメージセンサに置き換えた実施例3について、実施例2と異なる点を説明する。実施例2における図10のカメラ3aを1次元イメージセンサ3cに、カメラ3bを1次元イメージセンサ3dで置き換えて構成させた入力装置が実施例3となる。
実施例2のカメラ3aの映像は、図13Aであるが、実施例3の1次元イメージセンサ3cの映像は、図13Bとなり、カメラ3aの映像でキーボード4の操作キー面の直上の位置4cの1次元の映像情報と同じとなる。同様に、1次元イメージセンサ3dの映像は、図13Dと同様になる。
したがって、実施例2の指の数と位置座標の差異状況の確定は、カメラ3aとカメラ3bの映像でキーボード4の操作キー面の直上の位置4cの1次元の映像情報を使用するとしているが、実施例3の指の数と位置座標の差異状況の確定は、1次元イメージセンサ3cと1次元イメージセンサ3dの映像を使用すれば良い。したがって、図9のS030において、取り込んだ映像が1次元の映像情報となるので、この1次元の映像情報より、指の数と位置座標の差異状況の確定を行う。
また、この様な構成にしても、前記実施例2と同様な作用効果が得られるとともに、撮像手段を1次元イメージセンサとすることができるので、CCDカメラに対して安価な入力装置が提供できるようになる。尚、カメラ3c、或いはカメラ3dの何れか一方をCCDカメラとして、CCDカメラの映像情報からは、操作キー面の直上の位置4cの1次元の映像情報を抽出する形態としても、同様な作用効果が得られる。
実施例2および実施例3における、1次元の映像情報から判断できる指の情報では、1本の指なのか(図15Aを参照)、或いは、複数の指を揃えているか(例えば、中指と薬指と小指を揃えた形状、図17Aを参照)、の判定ができない。
そこで、1次元の映像情報より抽出した指の情報から判断できる指の幅は、カメラと指6aの距離に依存する事を利用する。
例えば、図18Aは、カメラ3aから距離Lにある指6aと、カメラ3aから距離2L(距離Lの2倍の距離)にある指6aを示した図である。図18Bは、カメラ3aから距離Lにある指6aのカメラ3aの1次元の映像情報であり、図18Cは、カメラ3aから距離2Lにある指6aのカメラ3aの1次元の映像情報である。図18Bの指6aの幅と背景の比率は1対3で、撮像幅を16cmとすれば、指6aの幅は、4cmとなる。図18Cの指6aの幅と背景の比率は1対7で、撮像幅を16cmとすれば、指6aの幅は2cmとなる。
ここで、距離Lと図18Bの指6aの幅(4cm)の積は、距離2Lと図18Cの指6aの幅(2cm)の積と等しくなる事が判る。したがって、指の情報から判断できる指の幅とカメラと指6aの距離の積は、一定になることが判る。
そこで、指示指状態の確定は、さらに、前記1次元の映像情報より抽出した指が、1本の指なのか、或いは、複数の指を揃えているか、を意味する指の構成状況を考慮し、前記指の数と前記位置座標の差異状況と前記指の構成状況に対して、指示指状態を対応付けた指示指状態テーブル173より指示指状態を確定する。
指の構成状況は、以下の要領で求める。
入力装置は、右側のカメラから所定の距離の指の幅が1本の指か、或いは、複数の指を揃えたものかを判定をする為に、標準基準幅を備えている。例えば、「標準基準幅その1≦指の幅≦標準基準幅その2」を満たすときは、指が1本の指で構成されていると判定し、「標準基準幅その2<指の幅」を満たすときは、3本の指を揃えた状態で構成されていると判定し、「指の幅<標準基準幅その1」の場合は、映像情報に指が写っていないか、指が入力操作を開始し出したばかりと判定し、指の情報が無いものと判定するものである。
前記所定の距離と所定の距離の標準基準幅の積と、任意の位置の基準幅と前記任意の位置の指とカメラとの距離の積が一定になることにより、任意の位置の基準幅が求まるので、任意の位置の指の構成が確定する。
また、利用者を特定すれば、標準基準幅を3ケ設定し、指の構成が1本か2本か3本かの判定もできる。また、標準基準幅を1つにして、1本の指のときと複数の指を揃えたときを同一の指状態情報とすることもできる。
実施例1で構成されるPC1に、さらに、キーボード4の向う側の中央にCCDカメラ3aを備えた実施例5について、図19から図22を参照して説明する。
先ず、物理的な構成について、実施例1の図1及び図2と異なる点を、図19から図21を参照して説明する。
カメラ3aを、カメラ3aのレンズの画角の中心3a1がキーボード4の操作キー面の直上の位置4cと平行(図20を参照)でかつ、キーボード4を左右に2等分する位置3a2となり、カメラ3aの撮影領域が、カメラ3が作る領域4aを含むように設置する(図21を参照)。また、カメラ3aのレンズの画角は、約135度である。
次に、電気的構成において、実施例1の図3Aと異なる点は、カメラ3とカメラ3aがビデオコントローラ15に接続されている点である。
次に、操作手順において、実施例1と異なる点は、テンキー情報の入力面の選択の操作手順とテンキー情報の入力の操作手順である。
さらに、テンキー情報の入力の操作手順の操作状態の判定は、カメラ3とカメラ3aの映像より確定した指示指状態を使用する。したがって、操作状態判定テーブル171は、カメラ3とカメラ3aの指示指状態と指示指継続時間により構築する。
以下、テンキー情報の入力面の選択の操作手順とテンキー情報の入力の操作手順について説明する。キーボードの入力面(図4のOP−Kを参照)が選択されている状態において、テンキー情報の入力面(図4のOP−Tを参照)を選択する操作手順は、左手の親指と人差し指の隙間が有り、人差し指と中指の隙間が無い状態で静止していて、右手はどの様な状態であっても良い指示指状態(以下、指示指状態を"501"と呼ぶ、図22Aを参照)を、カメラ3の映像から判断すると、テンキー情報の入力面が選択される(図22Bの操作状態判定テーブル171のK−2を参照)。
テンキー情報の入力面が選択されている状態で、テンキー情報を入力するには、指示指状態が"501"の状態で、かつ、カメラ3aの映像から、右手部分の指示指状態が"103"の状態から"101"の状態(図15を参照)に変化したと判断した時である(図22Bの操作状態判定テーブル171のT−1を参照)。
そして、テンキー情報の入力があったと判定されると、カメラ3aの右手部分の指示指状態"101"の指6aの中心の映像上の位置座標が判るので、この位置座標とカメラ3の映像より抽出した指の情報より、キーボード4の操作キー面の直上の位置4cを過った指が判るので、前記過った指の2次元座標をカメラ3の映像より確定し、図7の入力情報テーブル172より、入力情報を決定する。
以上の様に構成された実施例5の入力装置の動作について、実施例1と異なる点を、図9を参照して説明する。
・S020の映像の取り込みでは、カメラ3とカメラ3aからの映像を取り込む。
・S030の指の情報を抽出処理では、カメラ3aについては、実施例2と同様に、キーボード4の操作キー面の直上の位置4cの1次元の映像情報を抽出する。
・S040の指示指状態確定処理では、実施例1と同様に指示指状態を確定し、さらに、カメラ3aの指の抽出情報より、実施例2と同様に指示指状態を確定する。
そして、S063において入力情報を決定する為の指の2次元座標は、カメラ3aの映像上の指の位置座標とカメラ3が撮影した指の姿から求めた2次元座標から特定する。
尚、マウスと同等情報の操作手順もカメラ3とカメラ3aの指示指状態を使って構築する事が出来る。
この様な構成にしても、前記実施例1と同様な作用効果が得られるとともに、カメラ3とカメラ3aの撮像から取得した指示指状態に対して操作手順が構築できるので、よりユーザーフレンドリな操作手順とする事ができる。
実施例6は、実施例5に備えられたカメラ3aの代わりに1次元イメージセンサ3cとし、指の情報の抽出は1次元イメージセンサ3cの映像を使用する事を特徴とする。
この様な構成にしても、前記実施例5と同様な作用効果が得られるとともに、安価な入力装置が提供できるようになる。
実施例1で構成される入力装置のカメラ3を外付けの撮像装置9にした実施例7について、図23から図24を参照して説明する。
先ず、物理的な構成と電気的構成を、図23を参照して説明する。
入力装置は、撮像装置9を、USBコネクタ8を介してPC1に接続し、撮像装置9の制御回路9aでカメラ3の映像を取得し、指の情報を抽出後、指の抽出情報を、USBコネクタ8を経由して、PC1に送出する構成である。
次に、上記の様に構成された実施例7の入力装置の動作、即ち、撮像装置9とPC1の動作について、実施例1の図9と異なる点を、図24の流れ図を参照して説明する。
撮像装置9では、実施例1のS010からS030に相当する処理を行う(図24Aを参照)。
先ず、映像の取り込みタイミングかどうかを判断する(S710)。撮像装置9は、所定の時間間隔でカメラ3から映像を取り込み、以下の処理を実行する。取り込みタイミングでなければ(S710:NO)、取り込みタイミングになるまで待機する。取り込みタイミングになったら(S710:YES)、カメラ3からの映像を取り込む(S720)。
次に、前記映像より、左右の手の指の情報を抽出し、抽出データを、USBコネクタ8を介して送出する。(S730)。
PC1では、実施例1のS040からS060に相当する処理を行う(図24Bを参照)。
先ず、USBコネクタ8を介して、撮像装置9から送出された送出データの取り込みタイミングかどうか判定する。取り込みタイミングでなければ(S711:NO)、再度、取り込みタイミングかどうか判定する。取り込みタイミングであれば(S711:YES)、送出データを取り込む(S721)。
その後、実施例1と同じであるS040からS060の処理を行う(S740からS760)。
この様な構成にしても、前記実施例1と同様な作用効果が得られるとともに、様々な入力操作面での利用が可能になる。例えば、机上の操作面上に入力面が形成されるように外付け撮像装置9を設置すれば、マウス専用装置として、風塵、油水の多い利用環境でも利用できる。
実施例7の制御回路9aに、PC1を入力装置として機能させるため制御部50に備えた入力プログラムや入力プログラムにおいて時間の経過を計測するためのタイマや入力プログラムを制御するための各種テーブルを備えた実施例8の撮像装置9について説明する。
この様な構成にすると、撮像装置9は、撮像装置9をパーソナルコンピュータのUSBコネクタ8に接続することにより、前記パーソナルコンピュータの入力装置とすることができる。
尚、操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173の更新は、これらのテーブルを編集するためのプログラムとこれらのテーブルを制御回路9aに伝送するプログラムを前記パーソナルコンピュータに備えれば良い。
実施例2で構成される入力装置のカメラ3aとカメラ3bを外付けの撮像装置9にした実施例9について、図25を参照して説明する。
先ず、物理的な構成と電気的構成を、図25を参照して説明する。
入力装置は、撮像装置9を、USBコネクタ8を介してPC1に接続し、撮像装置9の制御回路9aでカメラ3aとカメラ3bの映像を取得し、指の情報を抽出後、指の抽出情報をUSBコネクタ8を経由してPC1に送出する構成である。
尚、実施例3及び実施例4も同様な構成にできる。また、カメラ3aとカメラ3bの何れか一方を1次元イメージセンサにしても良い。
この様な構成にしても、前記実施例2と同様な作用効果が得られるとともに、様々な入力操作面での利用が可能になる。例えば、机上の操作面上に外付け撮像装置9を設置すれば、マウス専用装置として、風塵、油水の多い利用環境でも利用できる。
実施例9の制御回路9aに、PC1を入力装置として機能させるため制御部50に備えた入力プログラムや入力プログラムにおいて時間の経過を計測するためのタイマや入力プログラムを制御するための各種テーブルを備えた実施例10の撮像装置9について説明する。
この様な構成にすると、撮像装置9は、撮像装置9をUSBコネクタ8に接続することによりパーソナルコンピュータの入力装置とすることができる。
尚、操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173の更新は、これらのテーブルを編集するためのプログラムと制御回路9aに伝送するためのプログラムを前記パーソナルコンピュータに備えれば良い。
この様な構成にしても、前記実施例2と同様な作用効果が得られるとともに、様々な入力操作面での利用が可能になる。例えば、机上の操作面上に外付け撮像装置9を設置すれば、マウス専用装置として、風塵、油水の多い利用環境でも利用できる。
実施例5で構成される入力装置のカメラ3とカメラ3aを外付けの撮像装置9とし、さらに、撮像装置9からキーボードと同等情報が入力できるようにした実施例11について、図26から図30を参照して説明する。
先ず、物理的な構成について、実施例5と異なる点を、図26から図27を参照して説明する。
入力装置は、撮像装置9を、USBコネクタ8を介してPC1に接続し、撮像装置9の制御回路9aでカメラ3とカメラ3aの映像を取得し、指の情報を抽出後、指の抽出情報を、USBコネクタ8を経由してPC1に送出する構成である。
撮像装置9からキーボードと同等情報やテンキーと同等情報を入力する時に使用する入力面上に配置される入力情報の領域を示した入力補助シート4d(図26と図27を参照)を、カメラ3の撮像領域内に入るように、入力操作面上に設置する。
カメラ3aを、カメラ3aのレンズの画角の中心3a1が入力補助シート4d面の直上の位置4cと平行(図26Bを参照)でかつ、入力補助シート4dを左右に2等分する位置3a2となり、カメラ3aの撮像領域が、カメラ3が作る領域4aを含むように設置し(図27を参照)、左右の手のどの指が入力補助シート4d面の直上の位置4cを過っているかどうかが判定できるようにしている。また、カメラ3aのレンズの画角は、約135度である。
次に、操作手順の概要について、実施例5と異なる点を、図28を参照して説明する。
先ず、実施例5で備えていた「キーボードの入力面(OP−K)」に変えて、キーボードと同等情報を入力する為の「QWERTYの入力面(OP−Q)」とした。これに伴い、QWERTYの入力面を選択する操作手順とQWERTYの入力面が選択されている状態において入力情報を決定する操作手順とQWERTYの入力面が選択されている状態において入力できる入力情報を定め、マウスと同等情報やテンキーと同等情報やショートカットキーと同等情報や文字と同等情報やキーボードと同等情報の入力ができる操作手順とした。
QWERTYの入力面、或いは、テンキー情報の入力面が選択されている状態における操作手順は、カメラ3とカメラ3aから求めた夫々の指示指状態が使用され、マウス情報の入力面、或いは、スクロール待ち入力面、或いは、左クリック押下継続の入力面が選択されている状態における操作手順は、カメラ3の指示指状態が使用される。
次に、操作手順の詳細について、実施例5と異なる点を、図29を参照して説明する。
キーボードの入力面(OP−K)に変えて、QWERTYの入力面(OP−Q)としたので、M−9とS−4とT−2の操作指示内容が変更されている。
実施例5では、テンキー情報を入力する時、右手部分の指示指状態が"103"から"101"へ変化した時に操作指示を出していた(T−1)。しかし、複数本の指が入力補助シート4d面の直上の位置4cを過っている状態で、新たな指が位置4cを過った事で入力指示を出した場合、操作状態判定テーブル171へ指示指状態の変化の組合せを登録するには、相当の負荷が増大する。
そこで、入力補助シート4d面の直上の位置4cを過っている指の映像上の位置座標が指毎に判るので、前回の映像上の各指の位置座標と今回の各指の位置座標を比較し、新たに発生した位置座標以外は、全て同じ位置座標であった場合、カメラ3aの指示指状態を、例えば、"999"として、操作状態判定テーブル171を構築すれば良い。
例えば、入力操作をする手を、カメラ3aから見た様が図30Aであったとすると、カメラ3aの映像情報の入力補助シート4d面の直上の位置4cの1次元の映像情報は、図30Bの様に撮像されている。この状態から、右手の人差し指を下に下し、入力補助シート4d面の直上の位置4cを過らせると、図30Cの1次元の映像情報が取得される。
したがって、図30Bと図30Cの1次元の映像情報より、新たに入力補助シート4d面の直上の位置4cを過った指が判り、右手の人差し指の位置座標(図30Cを参照)が判る。
したがって、カメラ3の映像より抽出した指の情報から確定した指示指状態が、"501"や"010"以外であり、かつ、カメラ3aの映像より抽出した指の情報から確定した指示指状態が"999"の時、キーボードと同等情報の入力があったと判定できる(図29AのK−8を参照)。
尚、指示指状態"001"、"017"は、マウス情報の入力面やスクロール待ち入力面の選択で使用しているが、1秒を経過した時に操作指示が出されるので、1秒未満であれば、K−8の指示指状態として利用できる。
そして、キーボードと同等情報の入力があったと判定されると、指示指状態を"999"とした指の位置座標とカメラ3の映像より抽出した指の情報より、新たに入力補助シート4d面の直上の位置4cを過った指の2次元座標が確定できるので、図29Bの入力情報テーブル172より、入力情報を決定する。
以上の様に構成された実施例11の入力装置の動作、即ち、撮像装置9とPC1の動作について、実施例7の図24の流れ図と異なる点を説明する。
・S720では、カメラ3とカメラ3aから映像を取り出す。
・S730では、取り込んだ映像より、指の情報を抽出する。カメラ3aについては、入力補助シート4d面の直上の位置4cの1次元の映像情報を抽出する。そして、抽出データをPC1に送出する。
・S740では、実施例7の指示指確定手段により指示指状態を確定し、さらに、カメラ3aの指の情報に対しても指示指状態を確定する。
そして、入力情報を決定する為の指の2次元座標は、カメラ3aの映像上の指の位置座標とカメラ3が撮影した指の姿から求めた2次元座標から特定する。
尚、カメラ3aは1次元イメージセンサ3cであっても良い。この時は、入力補助シート4d面の直上の位置4cの1次元の映像情報の抽出は不要となる。
実施例11の制御回路9aに、PC1を入力装置として機能させるため制御部50に備えた入力プログラムや入力プログラムにおいて時間の経過を計測するためのタイマや入力プログラムを制御するための各種テーブルを備えた実施例12の撮像装置9について説明する。この様な構成にすると、撮像装置9は、撮像装置9をUSBコネクタ8に接続することによりパーソナルコンピュータの入力装置とすることができる。
尚、操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173の更新は、これらのテーブルを編集するためのプログラムと制御回路9aに伝送するプログラムを前記パーソナルコンピュータに備えれば良い。
実施例13は、実施例1と実施例2のカメラの設置方法を組み合わせた構成の入力装置であって、図31を参照して説明する。
実施例13は、カメラ3により入力面が配置される領域4aとカメラ3aとカメラ3bにより入力面が配置される領域4a´を備える。
カメラ毎に判定した指示指状態は、一意に定めることにより、実施例1と実施例2の操作手順が自由に選択できるようになる。
尚、カメラ3a、或いは、カメラ3bの何れか一方、または、カメラ3aとカメラ3bがともに1次元イメージセンサであっても良い事は、既に説明済みの実施例と同様である。また、撮像手段や、PC1を入力装置として機能させるため制御部50に備えた入力プログラムや入力プログラムにおいて、時間の経過を計測するためのタイマや入力プログラムを制御するための各種テーブルを別筺体にしても良い事も、既に説明済みの実施例と同様である。
以上に述べてきた入力装置の入力操作面に形成される入力面は、カメラの映像を基にして生成されるので、必ずしも、説明したようなキーボードのような機械的な構成を有する入力操作面上に生成される必要はなく、単なる平面上又は空間領域中に生成することも可能である。
本発明による入力装置は、同一のハードウェアとソフトウェアであっても、予め入力面や指の姿や操作手順や入力情報を定め且つこれらを必要により任意に変更し得るようにする事により、パソコンのキーボード装置面上に限らず、様々な領域を入力操作面とすることができる。そのような実施例を、以下説明する。
そこで、先ず、表示画面上に入力面を形成する実施例14について説明する。
実施例9、或いは、実施例10の撮像装置9をディスプレイ装置に設置し、表示画面上に入力面が形成されるようにし、表示画面の絶対位置のポインティング操作ができるように、入力面と操作手順や入力情報や指示指状態を定め、操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173を構築すれば、タッチパネルとして利用できる。
尚、大型のディスプレイに設置する場合、実施例3で示した1次元イメージセンサを使用すると、安価なタッチパネルの構築が可能となる。
また、既存のタッチパネルでは、画面上の指定された位置を指し示すことで、ページを移動するなどの操作をしていたが、機能情報を入力するための入力面と操作手順や入力情報や指示指状態を定め、操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173を構築すれば、画面上の任意の位置でページ移動等の操作が行えるようになる。
次に、机上に入力面を形成する実施例15について説明する。
実施例12の撮像装置9とディスプレイをデスクトップパソコンの本体60のUSBコネクタ8に接続した実施例15(図32を参照)の操作手順は、実施例11と同様である。この様な形態にすると、打鍵式のキーボード装置やマウス装置に代わり、撮像装置9から入力できるようになる。したがって、業務向け専用のキーボード装置の構築が容易になる。
さらに、カメラ3により撮影されたバーコードから、バーコードで示された内容から入力面を選択する入力平面選択代替手段を備えれば、POS端末としても利用できる。
前記入力平面選択代替手段は、
先ず、バーコードにより入力面選択の操作指示を取得したら、図9のS061の操作状態の判定は、無条件にW操作状態とする。次に、入力面の選択指示があったとし、バーコードで指定された入力面を選択する。
次に、机上に入力面を形成する実施例16について説明する。
実施例15の制御部60と撮像手段9を一体型とした、画像認識を利用した入力装置を備えたパーソナルコンピュータ70である実施例16について、図33を参照して説明する。
パーソナルコンピュータ70には、ディスプレイ装置に代えてディスプレイ装置に表示する表示内容102を壁101に投影する投影手段20と、入力面を選択すると入力面の選択と連動して、入力情報を選択する位置を示すための入力補助情報4eを机上100に投影するようにした入力補助情報投影手段21が接続されている。尚、操作手順は、実施例11と同様である。
この様な形態にすると、実施例5や実施例6や実施例11や実施例12の作用効果に加え、パーソナルコンピュータの小型化が図れる。
また、このような形態の入力装置は、電子ピアノと同等情報や電子打楽器と同等情報やミキサーの制御情報やゲーム装置の入力情報を入力するための入力面と操作手順や入力情報や指示指状態を定め、操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173を構築すれば、電子楽器や音響機器やゲーム装置の入力装置として利用できる。
次に、机上に入力面を形成する実施例17について説明する。
実施例7、或いは、実施例8の撮像装置9を机上に入力面が形成されるように上部に設置し、家電製品(例えば、照明の電源や照度スイッチ、テレビの各種スイッチ、エアコンの操作等)のスイッチ毎に入力面と操作手順や入力情報や指示指状態を定めたり、ゲーム内容毎に入力面と操作手順や入力情報や指示指状態を定め、操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173を構築すれば、各種家電製品のパネルスイッチを総合的に管理する装置やゲームの入力を総合的に管理する入力装置として利用できる。
次に、机上に入力面を形成する実施例18について説明する。
実施例7、或いは、実施例8の撮像装置9を机上に設置したり、
実施例9、或いは、実施例10の撮像装置9を机上に設置することで、
机上に入力面が形成されるようにし、入力面上の絶対座標の入力情報を生成する入力面と操作手順や入力情報や指示指状態を定め、操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173を構築すれば、タブレットの入力装置として利用できる。
次に、壁上に入力面を形成する実施例19について説明する。
実施例9、或いは、実施例10の撮像装置9を入口の壁に設置し、
壁上に入力面が形成されるようにし、
家電製品(例えば、照明の電源や照度スイッチ、テレビの各種スイッチ、エアコンの操作等)のスイッチ毎に入力面と操作手順や入力情報や指示指状態を定めたり、
入管装置(例えば、インターフォンや暗証番号入力等)の入力目的毎に入力面と操作手順や入力情報や指示指状態を定め、
操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173を構築すれば、各種家電製品のパネルスイッチを総合的に管理する装置や入管装置を総合的に管理する装置としてとして利用できる。
次に、壁上に入力面を形成する実施例20について説明する。
実施例8の撮像装置9を、プロジェクタを接続したパソコンに接続し、タッチパネルや電子黒板の入力情報と同等情報を入力するための入力面と操作手順や入力情報や指示指状態を定め、操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173を構築すれば、プロジェクタで投影する壁上の映像をタッチパネルや電子黒板として利用できる。尚、実施例7の撮像装置9を利用する場合は、パソコンにパソコンを入力装置として機能させるための資源をインストールすれば良い。
次に、既存装置面上に入力面を形成する実施例21について説明する。パソコンのキーボード装置面上に入力面を形成する形態もこの形態の1つである。
実施例8の撮像装置9を車のハンドル上を撮影できるように設置し、車のオーディオの制御情報やエアコンの制御情報や車載電話の制御情報やナビゲーションシステムの制御情報の入力面と操作手順や入力情報や指示指状態を定め、操作状態判定テーブル171と入力情報テーブル172と指示指状態テーブル173を構築すれば、車載電子機器装置の総合的に管理する入力装置として利用できる。
尚、実施例7の撮像装置9を利用する場合は、車載の電子機器に車載の電子機器を入力装置として機能させるための資源をインストールすれば良い。
次に、空間上に入力面を形成する実施例22について説明する。
デジタルカメラのカメラを利用して実施例8の撮像装置9をデジタルカメラに備えれば、デジタルカメラは、例えば、指示指状態"039"を見つけた後、3秒後にシャッターを切る様に操作状態テーブル171と入力情報テーブル172を設定し、操作者の設定した方法やタイミングでデジタルカメラを遠隔操作することもできる。
また、監視カメラを利用して、同様に入力情報を入力させ遠隔操作をすることもできる。
以上、本発明の好適実施例及びその具体的応用例を図面を参照しながら説明したが、本発明の技術的範囲はこれらに限定されるものではなく、以下に記載する特許請求の範囲を逸脱することなく、その一部の例は本願明細書において説明したが、各種の変更、改変ができることは言うまでもない。
本発明は、コンピュータを始め、電子楽器、ゲーム装置、音響機器などの各種電子機器への情報入力装置として利用することができる。
1 パーソナルコンピュータ
2 ディスプレイ
3 カメラ
3a カメラ
3a1 カメラのレンズの画角の中心
3a2 キーボード或いは入力補助シートを左右に均等に分割する位置
3b カメラ
3c 1次元イメージセンサ
3d 1次元イメージセンサ
4 キーボード
4a 入力面が形成される範囲
4b テンキー情報の各入力情報の配置位置
4c 直上の位置
4d 入力補助シート
5 調整ツマミ
6 手
6a 指
6b 背景
7 カメラを結ぶ基線
7a カメラ3aと指を結ぶ直線
7a1 基線7と直線7aの作る角度
7b カメラ3bと指を結ぶ直線
7b1 基線7と直線7bの作る角度
8 USBコネクタ
9 撮像装置
9a 制御回路
10 CPU
11 ROM
12 RAM
121 前回座標
122 経過時間
123 前回指示指状態
124 選択中入力面
125 スクロール判定用座標
126 検索用テーブル
127 前回操作状態
13 タイマ
17 HDD
171 操作状態判定テーブル
172 入力情報テーブル
173 指示指状態テーブル

Claims (14)

  1. 電子機器の情報入力装置であって、該装置は、
    入力操作面の所定の領域の映像を逐次撮像する撮像手段と、
    前記撮像手段の映像より指情報を抽出する指情報抽出手段と、
    前記指情報抽出手段からの指情報に基づき現在の指の姿と映像上の指の位置座標を確定し、前記現在の指の位置座標と記憶されている前回の指の抽出情報の指の位置座標との差異状況を確定し、予め定められ且つ変更し得る、前記指の姿と前記位置座標の差異状況に対して指示指状態を対応付けた指示指状態テーブルより現在の指示指状態を確定するとともに、前記現在の指の位置座標より入力操作面の所定の位置に形成される入力面上の現在の指の2次元座標を算出する指示指確定手段と、
    予め定められ且つ変更し得る、前記入力操作面の所定の位置に形成される前記入力面に対して、前記指示指状態と該指示指状態が継続する時間と操作指示との組合せからなる少なくとも1組以上の操作手順を対応付けた操作状態判定テーブルより、前記指示指確定手段によって確定した指示指状態に応じた操作状態を確定する操作状態確定手段と、
    前記操作状態確定手段によって確定した前記操作状態に従って、入力面の選択又は入力情報の生成の何れかの操作指示を実施する操作手順実施手段と、
    を備えていることを特徴とする電子機器の情報入力装置。
  2. 請求項1に記載の情報入力装置であって、前記撮像手段は、2次元イメージセンサで構成されることを特徴とする電子機器の情報入力装置。
  3. 請求項1に記載の情報入力装置であって、前記撮像手段は、入力面に対して横方向に設けられた少なくとも2個の1次元イメージセンサで構成され、前記入力面上の2次元座標が三角測量法で算出されることを特徴とする電子機器の情報入力装置。
  4. 請求項1に記載の情報入力装置であって、前記撮像手段は、2次元イメージセンサと1次元イメージセンサの組合せで構成されることを特徴とする電子機器の情報入力装置。
  5. 請求項1に記載の情報入力装置であって、前記撮像手段は、その近傍に前記入力操作面の所定の領域を照射するための照射手段を備えることを特徴とする電子機器の情報入力装置。
  6. 請求項1に記載の情報入力装置であって、前記指示指確定手段は、操作者の指の姿を、指の間の隙間の有無、指の本数、又は指の本数と指の幅として認識することを特徴とする電子機器の情報入力装置。
  7. 請求項1に記載の情報入力装置であって、前記操作手順実施手段は、前記入力面と入力情報の生成指示と2次元座標に対して予め定められ且つ変更し得る複数の入力情報を対応付けた入力情報テーブルを有し、
    前記操作状態確定手段からの前記操作指示の内容が入力面の選択指示であれば、現在選択されている入力面を前記入力面の選択指示に従い変更し、
    前記操作状態確定手段からの前記操作指示の内容が入力情報の生成の指示であれば、現在選択されている入力面において、
    前記入力面と前記入力情報の生成の指示に対して操作者が定めた入力情報を生成し、または、
    前記入力面と前記入力情報の生成の指示と前記指の2次元座標から、前記入力情報テーブルより入力情報を生成する、
    ことを特徴とする電子機器の情報入力装置。
  8. 請求項1に記載の情報入力装置において、前記入力操作面の所定の位置に形成される入力面には、少なくともキーボートの入力面とテンキー情報の入力面とマウス情報の入力面が含まれ、これらの各入力面は前記操作手順実施手段によって相互に切り替えられることを特徴とする電子機器の情報入力装置。
  9. 請求項8に記載の情報入力装置において、前記入力操作面の所定の位置に形成される入力面には更に、前記マウス情報の入力面との間で、前記操作手順実施手段によって切り替えられる左クリック押下継続の入力面とスクロール待ちの入力面が含まれることを特徴とする電子機器の情報入力装置。
  10. 電子機器へ情報を入力する方法であって、該方法は、
    入力操作面の所定の領域の映像を逐次撮像する撮像過程と、
    前記撮像過程で得られた映像より指情報を抽出する指情報抽出過程と、
    前記指情報抽出過程で得られた指情報に基づき現在の指の姿と映像上の指の位置座標を確定し、前記現在の指の位置座標と記憶されている前回の指の抽出情報の指の位置座標との差異状況を確定し、予め定められ且つ変更し得る、前記指の姿と前記位置座標の差異状況に対して指示指状態を対応付けた指示指状態テーブルより現在の指示指状態を確定するとともに、前記現在の指の位置座標より入力操作面の所定の位置に形成される入力面上の現在の指の2次元座標を算出する指示指確定過程と、
    予め定められ且つ変更し得る、前記入力操作面の所定の位置に形成される前記入力面に対して、前記指示指状態と該指示指状態が継続する時間と操作指示との組合せからなる少なくとも1組以上の操作手順を対応付けた操作状態判定テーブルより、前記指示指確定過程によって確定した指示指状態に応じた操作状態を確定する操作状態確定過程と、
    前記操作状態確定過程によって確定した前記操作状態に従って、入力面の選択又は入力情報の生成の何れかの操作指示を実施する操作手順実施過程と、
    からなることを特徴とする電子機器への情報入力方法。
  11. 請求項10に記載の情報入力方法において、前記撮像過程は、2次元イメージセンサを用いて行われることを特徴とする電子機器への情報入力方法。
  12. 請求項10に記載の情報入力方法において、前記撮像過程は、前記入力面に対して横方向に設けられた少なくとも2個の1次元イメージセンサを用いて、前記入力面上の2次元座標が三角測量法で算出されることを特徴とする電子機器への情報入力方法。
  13. 請求項10に記載の情報入力方法において、前記撮像過程は、2次元イメージセンサと1次元イメージセンサの組合せで行われることを特徴とする電子機器への情報入力方法。
  14. 請求項10に記載の情報入力方法において、前記指示指確定過程は、操作者の指の姿が、指の間の隙間の有無、指の本数、又は指の本数と指の幅として認識されることを特徴とする電子機器への情報入力方法。
JP2010237657A 2010-10-22 2010-10-22 電子機器の情報入力装置及び方法 Pending JP2012089083A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010237657A JP2012089083A (ja) 2010-10-22 2010-10-22 電子機器の情報入力装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010237657A JP2012089083A (ja) 2010-10-22 2010-10-22 電子機器の情報入力装置及び方法

Publications (1)

Publication Number Publication Date
JP2012089083A true JP2012089083A (ja) 2012-05-10

Family

ID=46260611

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010237657A Pending JP2012089083A (ja) 2010-10-22 2010-10-22 電子機器の情報入力装置及び方法

Country Status (1)

Country Link
JP (1) JP2012089083A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016092617A1 (ja) * 2014-12-08 2016-06-16 日立マクセル株式会社 投射型映像表示装置及び映像表示方法
US10162420B2 (en) 2014-11-17 2018-12-25 Kabushiki Kaisha Toshiba Recognition device, method, and storage medium
US10296096B2 (en) 2015-07-15 2019-05-21 Kabushiki Kaisha Toshiba Operation recognition device and operation recognition method

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10162420B2 (en) 2014-11-17 2018-12-25 Kabushiki Kaisha Toshiba Recognition device, method, and storage medium
WO2016092617A1 (ja) * 2014-12-08 2016-06-16 日立マクセル株式会社 投射型映像表示装置及び映像表示方法
CN107003716A (zh) * 2014-12-08 2017-08-01 日立麦克赛尔株式会社 投射型影像显示装置以及影像显示方法
JPWO2016092617A1 (ja) * 2014-12-08 2017-09-21 日立マクセル株式会社 投射型映像表示装置及び映像表示方法
US10452206B2 (en) 2014-12-08 2019-10-22 Maxell, Ltd. Projection video display device and video display method
US10296096B2 (en) 2015-07-15 2019-05-21 Kabushiki Kaisha Toshiba Operation recognition device and operation recognition method

Similar Documents

Publication Publication Date Title
TWI423096B (zh) 具可觸控投影畫面之投影系統
TWI303773B (ja)
WO2012011263A1 (ja) ジェスチャ入力装置およびジェスチャ入力方法
CN103365617B (zh) 一种投影控制***、装置及投影控制方法
JP2008192092A (ja) タッチパネル装置、情報処理装置及びプログラム
US9035882B2 (en) Computer input device
USRE48054E1 (en) Virtual interface and control device
JP2012027515A (ja) 入力方法及び入力装置
US9367140B2 (en) Keyboard device and electronic device
JP2010160772A (ja) バーチャル入力装置を有する電子装置
JP2012089083A (ja) 電子機器の情報入力装置及び方法
TWI401585B (zh) 具指標器之電子裝置及指標器操作方法
US20140015750A1 (en) Multimode pointing device
JP2017174177A (ja) 情報処理装置、情報処理方法およびプログラム
JP5401675B1 (ja) 情報入力装置および情報入力方法
CN111142775A (zh) 一种手势交互方法和装置
WO2012126193A1 (zh) 一种影像键盘的生成方法和装置
JP2016119019A (ja) 情報処理装置、情報処理方法、プログラム
JP5928628B2 (ja) 仮想キーボード入力方法
KR20110033318A (ko) 영상인식을 이용한 가상마우스 시스템
JP2000187551A (ja) 入力装置
US9405460B2 (en) Touch mouse supporting key functions of keyboard device and related method used in touch mouse
TWI697827B (zh) 控制系統及其控制方法
TWI542185B (zh) 具投影功能的行動裝置
US20230299974A1 (en) Display apparatus, method for generating electronic signature, and electronic signature system