JP6763434B2 - 情報入力装置および情報入力方法 - Google Patents
情報入力装置および情報入力方法 Download PDFInfo
- Publication number
- JP6763434B2 JP6763434B2 JP2018547634A JP2018547634A JP6763434B2 JP 6763434 B2 JP6763434 B2 JP 6763434B2 JP 2018547634 A JP2018547634 A JP 2018547634A JP 2018547634 A JP2018547634 A JP 2018547634A JP 6763434 B2 JP6763434 B2 JP 6763434B2
- Authority
- JP
- Japan
- Prior art keywords
- projection
- indicator
- projected
- instruction
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
- G06F3/0425—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B21/00—Projectors or projection-type viewers; Accessories therefor
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B21/00—Projectors or projection-type viewers; Accessories therefor
- G03B21/14—Details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
- G06F21/31—User authentication
- G06F21/36—User authentication by graphic or iconic representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/74—Projection arrangements for image reproduction, e.g. using eidophor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3102—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM] using two-dimensional electronic spatial light modulators
- H04N9/312—Driving therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3141—Constructional details thereof
- H04N9/315—Modulator illumination systems
- H04N9/3155—Modulator illumination systems for controlling the light source
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3191—Testing thereof
- H04N9/3194—Testing thereof including sensor feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- User Interface Of Digital Computer (AREA)
- Controls And Circuits For Display Device (AREA)
- Projection Apparatus (AREA)
- Position Input By Displaying (AREA)
- Image Analysis (AREA)
Description
〔構成〕
図1は、本実施形態に係る情報入力装置1の構成を示すブロック図である。情報入力装置1は、撮像装置10、投射装置20、制御装置30および通信装置40を備える。
次に、情報入力装置1が備える制御装置30の詳細構成について図面を参照しながら説明する。
図4は、制御装置30に含まれる検出手段33の内部構成を含むブロック図である。検出手段33は、被投射体検出手段331、進入検知手段332、指示体検出手段333を有する。
図8は、制御装置30に含まれる座標設定手段34の内部構成を含むブロック図である。座標設定手段34は、投射座標系設定手段341と、指示座標特定手段342とを有する。
次に、本実施形態に係る情報入力装置1の動作について図面を参照しながら説明する。まず、本実施形態の情報入力装置1の典型的な動作例について概念図を用いて説明する。図10は、本実施形態における情報入力方法の一例を示す概念図である。図10は、以下の入力手順を示す。
図12は、情報入力装置の投射条件設定処理に関する動作を示すフローチャートである。図12に関しては、情報入力装置1の構成要素を動作主体として説明する。
図13は、情報入力装置1の指示位置特定処理に関する動作を示すフローチャートである。図13に関しては、情報入力装置1の構成要素を動作主体として説明する。
次に、情報入力装置1の撮像装置10について図面を参照しながら説明する。図14は、撮像装置10の構成を示すブロック図である。撮像装置10は、撮像素子11、画像処理プロセッサ13、内部メモリ15およびデータ出力回路17を有する。撮像装置は、一般的なデジタルカメラの機能を含む。
次に、投射装置20について図面を参照しながら説明する。図15は、情報入力装置1の投射装置20の構成を示すブロック図である。また、図16は、情報入力装置1に含まれる光学系の構成例を示す概念図である。
ここで、本実施形態の情報入力装置1の適用例についていくつか例を挙げて説明する。図18〜図19は、本実施形態の情報入力装置1に係る適用例の一例を示す概念図である。なお、図18〜図19の例は一例であって、本実施形態の範囲を限定するものではない。
次に、本発明の第2の実施形態に係る情報入力装置について図面を参照しながら説明する。本実施形態においては、被投射体に投影される表示情報と指示体とが重なった場合に指示体を検出しやすくする方法を示す。
図22は、情報入力装置1の指示位置特定処理に関する動作を示すフローチャートである。図22においては、情報入力装置1の構成要素を動作主体として説明する。
次に、本発明の第3の実施形態に係る情報入力装置について図面を参照しながら説明する。本実施形態の情報入力装置は、座標設定手段の構成が第1の実施形態と異なる。本実施形態の情報入力装置は、機械学習データを用いて指示位置を特定する。なお、本実施形態の構成のうち、第1の実施形態と同様の構成や動作については詳細な説明は省略する。
図25は、本実施形態の情報入力装置に含まれる座標設定手段34−3の構成を示すブロック図である。座標設定手段34−3は、投射座標系設定手段341と指示座標特定手段342に加えて、位置特定情報記憶手段343を有する。すなわち、座標設定手段34−3は、位置特定情報記憶手段343を含む点で、第1の実施形態の座標設定手段34と異なる。
ここで、本実施形態の情報入力装置の動作について図面を参照しながら説明する。図26は、本実施形態の情報入力装置の指示位置特定処理に関する流れを示すフローチャートである。本実施形態の情報入力装置の動作は、指示位置特定処理(図13)が第2の実施形態と異なる。
ここで、本実施形態の情報入力装置に関する別の動作例について、図面を参照しながら説明する。図27は、機械学習データを用いた処理とエッジ検出処理とを併用したハイブリッド処理の一例を示すフローチャートである。
次に、本発明の第4の実施形態に係る認証システムについて図面を参照しながら説明する。図28は、本実施形態の認証システム4の構成を示すブロック図である。図28のように、認証システム4は、情報入力装置1に認証装置50を追加した構成を有する。なお、認証システム4は、第1の実施形態の情報入力装置1ではなく、第2または第3の実施形態の情報入力装置を備えていてもよい。
次に、本実施形態の認証システム4の適用例について図面を参照しながら説明する。なお、以下の適用例の図面においては、認証システム4に含まれる情報入力装置1のみを図示している。
図33は、図32とは別の適用例である。図33の適用例では、手の平に表示させたUIを用いた認証に加えて、顔認証を用いる。図33の適用例の情報入力装置1−2は、手の平を撮像する撮像装置10に加えて、認証対象者の顔を撮像するカメラを備える。なお、図33の適用例は、状態1以外は図32と同様であるため、詳細な説明は省略する。
図34は、情報入力装置1から子供の手の平に表示情報を表示させる例である。
ここで、本実施形態に係る情報入力装置の制御系統を実現するハードウェア構成について、図35のコンピュータ90を一例として挙げて説明する。なお、図35のコンピュータ90は、各実施形態の投射システムを実現するための構成例であって、本発明の範囲を限定するものではない。
4 認証システム
10 撮像装置
11 撮像素子
13 画像処理プロセッサ
15 内部メモリ
17 データ出力回路
20 投射装置
21 光源
22 光源駆動電源
23 空間光変調素子
24 変調素子駆動手段
25 投射光学系
30 制御装置
31 撮像制御手段
32 投射制御手段
33 検出手段
34 座標設定手段
35 投射条件設定手段
36 投射条件記憶手段
37 指示内容同定手段
38 指示内容記憶手段
39 出力手段
40 通信装置
50 認証装置
51 入力手段
52 判定手段
53 認証情報記憶手段
54 出力手段
210 コリメータ
251 フーリエ変換レンズ
252 アパーチャ
253 投射レンズ
331 被投射体検出手段
332 進入検知手段
333 指示体検出手段
341 投射座標系設定手段
342 指示座標特定手段
343 位置特定情報記憶手段
Claims (10)
- 投射範囲に投射光を投射する投射装置と、
前記投射範囲を撮像して画像データを生成する撮像装置と、
前記投射装置および前記撮像装置を制御する制御装置と、
前記制御装置の制御に応じて外部と通信し合う通信装置とを備え、
前記制御装置は、
前記撮像装置を制御することで生成された前記画像データに含まれる被投射体および投射禁止体を含む対象の特徴に基づいて前記投射範囲内に進入した前記対象を検出し、前記被投射体には入力を受け付ける表示情報を前記被投射体上に表示させる投射光を投射するように前記投射装置を制御するとともに、前記被投射体の上方領域に指示体が進入したことを前記画像データに基づいて検出し、前記被投射体の上方領域における前記指示体の動きに応じて情報入力を判定し、前記被投射体上に表示された前記表示情報と前記指示体に含まれる指示部との位置関係に基づいて指示内容を同定し、同定した前記指示内容を入力情報として外部に送信するように前記通信装置を制御し、前記投射禁止体には投射光を投射しないように前記投射装置を制御し、
前記制御装置は、
前記撮像装置に前記投射範囲を撮像させる制御をする撮像制御手段と、
前記画像データから前記投射範囲に位置する前記被投射体および前記指示体を検出し、前記被投射体および前記指示体の検出状態に応じた指示信号を出力する検出手段と、
前記検出手段からの前記指示信号に応じて、検出された前記被投射体上に投射座標系を設定し、前記被投射体の上方領域で検出された前記指示体に含まれる指示部の位置を示す指示座標を前記投射座標系において特定する座標設定手段と、
前記座標設定手段によって設定された前記投射座標系および前記指示座標に基づいた前記表示情報を前記被投射体上に形成させるための投射光の投射条件を設定する投射条件設定手段と、
前記投射条件設定手段によって設定された前記投射条件に基づいて前記投射装置を制御する投射制御手段と、
前記座標設定手段によって特定された前記指示座標に基づいて指示内容を同定する指示内容同定手段と、
前記検出手段からの前記指示信号に応じて前記指示内容同定手段によって同定された前記指示内容を前記通信装置に出力する出力手段とを有し、
前記検出手段は、
前記画像データを解析し、前記被投射体と前記指示体とを合わせた領域の面積が大きくなったことを検出した際に、前記被投射体の上方領域に前記指示体が進入したと判定し、
前記画像データを解析し、前記被投射体の上方領域から前記指示体が外れた状態になった時点において、前記指示部による情報入力がなされたと判定し、前記指示部による前記指示内容を出力するように前記出力手段に指示し、
前記出力手段は、
前記検出手段からの指示に応じて、前記被投射体の上方領域から前記指示体が外れた状態になったことが検知された時点における前記指示内容を前記指示内容同定手段から取得し、取得した前記指示内容を前記通信装置に出力する情報入力装置。 - 投射範囲に投射光を投射する投射装置と、
前記投射範囲を撮像して画像データを生成する撮像装置と、
前記投射装置および前記撮像装置を制御する制御装置と、
前記制御装置の制御に応じて外部と通信し合う通信装置とを備え、
前記制御装置は、
前記撮像装置を制御することで生成された前記画像データに含まれる被投射体および投射禁止体を含む対象の特徴に基づいて前記投射範囲内に進入した前記対象を検出し、前記被投射体には入力を受け付ける表示情報を前記被投射体上に表示させる投射光を投射するように前記投射装置を制御するとともに、前記被投射体の上方領域に指示体が進入したことを前記画像データに基づいて検出し、前記被投射体の上方領域における前記指示体の動きに応じて情報入力を判定し、前記被投射体上に表示された前記表示情報と前記指示体に含まれる指示部との位置関係に基づいて指示内容を同定し、同定した前記指示内容を入力情報として外部に送信するように前記通信装置を制御し、前記投射禁止体には投射光を投射しないように前記投射装置を制御し、
前記制御装置は、
前記撮像装置に前記投射範囲を撮像させる制御をする撮像制御手段と、
前記画像データから前記投射範囲に位置する前記被投射体および前記指示体を検出し、前記被投射体および前記指示体の検出状態に応じた指示信号を出力する検出手段と、
前記検出手段からの前記指示信号に応じて、検出された前記被投射体上に投射座標系を設定し、前記被投射体の上方領域で検出された前記指示体に含まれる指示部の位置を示す指示座標を前記投射座標系において特定する座標設定手段と、
前記座標設定手段によって設定された前記投射座標系および前記指示座標に基づいた前記表示情報を前記被投射体上に形成させるための投射光の投射条件を設定する投射条件設定手段と、
前記投射条件設定手段によって設定された前記投射条件に基づいて前記投射装置を制御する投射制御手段と、
前記座標設定手段によって特定された前記指示座標に基づいて指示内容を同定する指示内容同定手段と、
前記検出手段からの前記指示信号に応じて前記指示内容同定手段によって同定された前記指示内容を前記通信装置に出力する出力手段とを有し、
前記検出手段は、
前記画像データを解析し、前記被投射体と前記指示体とを合わせた領域の面積が大きくなったことを検出した際に、前記被投射体の上方領域に前記指示体が進入したと判定し、
前記画像データを解析し、前記被投射体の上方領域において前記指示体が一定時間停止したことを検知した時点において、前記指示体による情報入力がなされたと判定し、前記指示体による前記指示内容を出力するように前記出力手段に指示し、
前記出力手段は、
前記検出手段からの指示に応じて、前記被投射体の上方領域において前記指示体が一定時間停止したことが検知された時点における前記指示内容を前記指示内容同定手段から取得し、取得した前記指示内容を前記通信装置に出力し、
前記検出手段は、
前記画像データを解析し、前記被投射体の上方領域から前記指示体が外れたことを検知した時点において、前記被投射体に投射する前記表示情報を切り替えるように前記投射制御手段に指示し、
前記投射制御手段は、
前記検出手段からの指示に応じて、前記被投射体の上方領域から前記指示体が外れたことが検知された時点において、前記被投射体に投射する前記表示情報を切り替えるように前記投射装置を制御する情報入力装置。 - 前記検出手段は、
前記画像データ中において前記被投射体を検出し、検出された前記被投射体に前記投射座標系を設定することを指示する第1の指示信号を前記座標設定手段に出力する被投射体検出手段と、
前記被投射体の上方領域に前記指示体が位置する状態を検知し、前記指示体が一定時間停止したことを検知した際に前記指示体を抽出する指示を出力する進入検知手段と、
前記進入検知手段の指示に応じて前記指示体を抽出し、抽出された前記指示体に含まれる前記指示部に前記指示座標を設定することを指示する第2の指示信号を前記座標設定手段に出力する指示体検出手段とを有し、
前記座標設定手段は、
前記撮像制御手段から前記画像データを取得し、前記第1の指示信号に応じて、前記被投射体に合わせて前記投射座標系を設定する投射座標系設定手段と、
前記撮像制御手段から前記画像データを取得し、前記第2の指示信号に応じて、前記画像データを解析して前記投射座標系における前記指示部の前記指示座標を特定する指示座標特定手段とを有し、
前記進入検知手段は、
前記被投射体の上方領域から前記指示体が外れた状態を検知すると、前記被投射体によって選択されていた入力情報を出力することを指示する第3の指示信号を前記出力手段に出力する請求項1に記載の情報入力装置。 - 前記検出手段は、
前記画像データ中において前記被投射体を検出し、検出された前記被投射体に前記投射座標系を設定することを指示する第1の指示信号を前記座標設定手段に出力する被投射体検出手段と、
前記被投射体の上方領域に前記指示体が位置する状態を検知し、前記指示体が一定時間停止したことを検知した際に前記指示体を抽出する指示を出力する進入検知手段と、
前記進入検知手段の指示に応じて前記指示体を抽出し、抽出された前記指示体に含まれる前記指示部に前記指示座標を設定することを指示する第2の指示信号を前記座標設定手段に出力する指示体検出手段とを有し、
前記座標設定手段は、
前記撮像制御手段から前記画像データを取得し、前記第1の指示信号に応じて、前記被投射体に合わせて前記投射座標系を設定する投射座標系設定手段と、
前記撮像制御手段から前記画像データを取得し、前記第2の指示信号に応じて、前記画像データを解析して前記投射座標系における前記指示部の前記指示座標を特定する指示座標特定手段とを有し、
前記進入検知手段は、
前記被投射体の上方領域から前記指示体が外れた状態を検知すると、前記被投射体によって選択されていた入力情報を出力することを指示する第3の指示信号を前記出力手段に出力する請求項2に記載の情報入力装置。 - 投射範囲に投射光を投射する投射装置と、
前記投射範囲を撮像して画像データを生成する撮像装置と、
前記投射装置および前記撮像装置を制御する制御装置と、
前記制御装置の制御に応じて外部と通信し合う通信装置とを備え、
前記制御装置は、
前記撮像装置を制御することで生成された前記画像データに含まれる被投射体および投射禁止体を含む対象の特徴に基づいて前記投射範囲内に進入した前記対象を検出し、前記被投射体には入力を受け付ける表示情報を前記被投射体上に表示させる投射光を投射するように前記投射装置を制御するとともに、前記被投射体の上方領域に指示体が進入したことを前記画像データに基づいて検出し、前記被投射体の上方領域における前記指示体の動きに応じて情報入力を判定し、前記被投射体上に表示された前記表示情報と前記指示体に含まれる指示部との位置関係に基づいて指示内容を同定し、同定した前記指示内容を入力情報として外部に送信するように前記通信装置を制御し、前記投射禁止体には投射光を投射しないように前記投射装置を制御し、
前記制御装置は、
前記撮像装置に前記投射範囲を撮像させる制御をする撮像制御手段と、
前記画像データから前記投射範囲に位置する前記被投射体および前記指示体を検出し、前記被投射体および前記指示体の検出状態に応じた指示信号を出力する検出手段と、
前記検出手段からの前記指示信号に応じて、検出された前記被投射体上に投射座標系を設定し、前記被投射体の上方領域で検出された前記指示体に含まれる指示部の位置を示す指示座標を前記投射座標系において特定する座標設定手段と、
前記座標設定手段によって設定された前記投射座標系および前記指示座標に基づいた前記表示情報を前記被投射体上に形成させるための投射光の投射条件を設定する投射条件設定手段と、
前記投射条件設定手段によって設定された前記投射条件に基づいて前記投射装置を制御する投射制御手段と、
前記座標設定手段によって特定された前記指示座標に基づいて指示内容を同定する指示内容同定手段と、
前記検出手段からの前記指示信号に応じて前記指示内容同定手段によって同定された前記指示内容を前記通信装置に出力する出力手段とを有し、
前記検出手段は、
前記画像データ中において前記被投射体を検出し、検出された前記被投射体に前記投射座標系を設定することを指示する第1の指示信号を前記座標設定手段に出力する被投射体検出手段と、
前記被投射体の上方領域に前記指示体が位置する状態を検知し、前記指示体が一定時間停止したことを検知した際に前記指示体を抽出する指示を出力する進入検知手段と、
前記進入検知手段の指示に応じて前記指示体を抽出し、抽出された前記指示体に含まれる前記指示部に前記指示座標を設定することを指示する第2の指示信号を前記座標設定手段に出力する指示体検出手段とを有し、
前記座標設定手段は、
前記撮像制御手段から前記画像データを取得し、前記第1の指示信号に応じて、前記被投射体に合わせて前記投射座標系を設定する投射座標系設定手段と、
前記撮像制御手段から前記画像データを取得し、前記第2の指示信号に応じて、前記画像データを解析して前記投射座標系における前記指示部の前記指示座標を特定する指示座標特定手段とを有し、
前記進入検知手段は、
前記被投射体の上方領域から前記指示体が外れた状態を検知すると、前記被投射体によって選択されていた入力情報を出力することを指示する第3の指示信号を前記出力手段に出力する情報入力装置。 - 前記座標設定手段は、
前記被投射体上に前記指示体が位置する状態の複数の前記画像データ上における前記指示部による指示位置を学習させた機械学習データを記憶する位置特定情報記憶手段を有し、
前記指示座標特定手段は、
前記位置特定情報記憶手段に記憶された前記機械学習データを用いて、前記撮像装置によって生成された前記画像データにおける前記指示部の前記指示座標を特定し、
前記指示内容同定手段は、
前記指示内容が設定された位置座標のうち、特定された前記指示座標に最も近接する前記位置座標に設定された前記指示内容が選択されたものと同定する請求項5に記載の情報入力装置。 - 前記投射装置は、
光源と、
前記制御装置の制御に応じて前記光源を駆動させる光源駆動手段と、
前記光源からの出射光を反射する表示部を含む位相変調型の空間光変調素子と、
前記制御装置の制御に応じて前記被投射体に表示される前記表示情報を生成するためのパターンを前記空間光変調素子の表示部に表示させる変調素子駆動手段と、
前記空間光変調素子で変調された変調光を照射光として投射する投射光学系とを有する請求項1乃至6のいずれか一項に記載の情報入力装置。 - 請求項1乃至7のいずれか一項に記載の情報入力装置と、
前記通信装置に接続され、前記情報入力装置に入力される少なくとも一つの入力情報によって構成される情報を解析して認証情報としての成否を判定する認証装置とを備える認証システム。 - 前記認証装置は、
前記被投射体に表示された前記表示情報上の特定位置と前記指示部との位置関係に基づいて判定した少なくとも一つの入力情報を解析して認証情報としての成否を判定する請求項8に記載の認証システム。 - 投射範囲に投射光を投射する投射装置と、前記投射範囲を撮像して画像データを生成する撮像装置と、前記投射装置および前記撮像装置を制御する制御装置と、前記制御装置の制御に応じて外部と通信し合う通信装置とを備える情報入力装置を用いる情報入力方法であって、
前記制御装置が、
前記投射範囲を撮像させるように前記撮像装置を制御し、
前記撮像装置を制御することで生成された前記画像データに含まれる被投射体および投射禁止体を含む対象の特徴に基づいて前記投射範囲内に進入した前記対象を検出し、
前記被投射体には入力を受け付ける表示情報を前記被投射体上に表示させる投射光を投射するように前記投射装置を制御し、
前記画像データから前記投射範囲に位置する前記被投射体および指示体を検出し、
前記被投射体上に投射座標系を設定し、
前記被投射体の上方領域で検出された前記指示体に含まれる指示部の位置を示す指示座標を前記投射座標系において特定し、
前記投射座標系および前記指示座標に基づいた前記表示情報を前記被投射体上に形成させるための投射光の投射条件を設定し、
前記投射条件に基づいて前記投射装置を制御し、
前記被投射体の上方領域に前記指示体が進入したことを前記画像データに基づいて検出し、
前記被投射体の上方領域における前記指示体の動きに応じて情報入力を判定し、
前記被投射体上に表示された前記表示情報と前記指示体に含まれる指示部との位置関係を前記指示座標に基づいて同定し、
前記指示座標に基づいて指示内容を同定し、
同定した前記指示内容を入力情報として外部に送信するように前記通信装置を制御し、
前記投射禁止体には投射光を投射しないように前記投射装置を制御し、
前記画像データを解析して、前記被投射体と前記指示体とを合わせた領域の面積が大きくなったことを検出した際に、前記被投射体の上方領域に前記指示体が進入したと判定し、
前記画像データを解析して、前記被投射体の上方領域から前記指示体が外れた状態になった時点において、前記指示部による情報入力がなされたと判定して、前記被投射体の上方領域から前記指示体が外れた状態になったことが検知された時点における前記指示内容を前記通信装置に出力する、情報入力方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016210192 | 2016-10-27 | ||
JP2016210192 | 2016-10-27 | ||
PCT/JP2017/038047 WO2018079446A1 (ja) | 2016-10-27 | 2017-10-20 | 情報入力装置および情報入力方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018079446A1 JPWO2018079446A1 (ja) | 2019-09-19 |
JP6763434B2 true JP6763434B2 (ja) | 2020-09-30 |
Family
ID=62024832
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018547634A Active JP6763434B2 (ja) | 2016-10-27 | 2017-10-20 | 情報入力装置および情報入力方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10955971B2 (ja) |
JP (1) | JP6763434B2 (ja) |
WO (1) | WO2018079446A1 (ja) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018056195A1 (ja) * | 2016-09-21 | 2018-03-29 | 日本電気株式会社 | 投射システム、投射方法およびプログラム記録媒体 |
KR20180068411A (ko) * | 2016-12-14 | 2018-06-22 | 삼성전자주식회사 | 무인 비행 전자 장치의 운행 제어 방법 및 이를 지원하는 전자 장치 |
JP6859863B2 (ja) * | 2017-06-15 | 2021-04-14 | コニカミノルタ株式会社 | 情報処理装置及びプログラム |
US11082669B2 (en) * | 2017-06-19 | 2021-08-03 | Sony Corporation | Image projection apparatus, image processing apparatus, image projection method, image processing method, and image projection system |
US10678342B2 (en) * | 2018-10-21 | 2020-06-09 | XRSpace CO., LTD. | Method of virtual user interface interaction based on gesture recognition and related device |
JP2022047549A (ja) * | 2019-01-18 | 2022-03-25 | ソニーグループ株式会社 | 情報処理装置、情報処理方法、及び、記録媒体 |
JP6705926B1 (ja) * | 2019-03-13 | 2020-06-03 | Necプラットフォームズ株式会社 | ウェアラブルデバイスおよび制御方法 |
CN114616533A (zh) * | 2019-10-30 | 2022-06-10 | 艾梅崔克斯持株公司株式会社 | 目光交流检测装置 |
US11782548B1 (en) * | 2020-03-25 | 2023-10-10 | Apple Inc. | Speed adapted touch detection |
CN112716117B (zh) * | 2020-12-28 | 2023-07-14 | 维沃移动通信有限公司 | 智能手环及其控制方法 |
CN115840327A (zh) * | 2021-09-21 | 2023-03-24 | 卡西欧计算机株式会社 | 投影处理装置、投影***、方法及记录有程序的记录介质 |
US20240048983A1 (en) * | 2022-08-08 | 2024-02-08 | Qualcomm Incorporated | Mutual authentication for reliable configuration reception over reference signals |
CN115802111A (zh) * | 2022-11-02 | 2023-03-14 | 深圳创维-Rgb电子有限公司 | 电视控制方法及其相关设备 |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008143220A (ja) * | 2006-12-06 | 2008-06-26 | Tokai Rika Co Ltd | 個人認証システム |
US20090102603A1 (en) * | 2007-10-19 | 2009-04-23 | Fein Gene S | Method and apparatus for providing authentication with a user interface system |
JP4931788B2 (ja) | 2007-12-18 | 2012-05-16 | 日本電信電話株式会社 | 情報提示制御装置及び情報提示制御方法 |
JP5272827B2 (ja) * | 2009-03-18 | 2013-08-28 | ブラザー工業株式会社 | ヘッドマウントディスプレイ |
US20100251176A1 (en) * | 2009-03-24 | 2010-09-30 | Microsoft Corporation | Virtual keyboard with slider buttons |
US7940448B2 (en) * | 2009-06-11 | 2011-05-10 | Alces Technology, Inc. | Display system |
US9542091B2 (en) * | 2010-06-04 | 2017-01-10 | Apple Inc. | Device, method, and graphical user interface for navigating through a user interface using a dynamic object selection indicator |
KR101446902B1 (ko) * | 2011-08-19 | 2014-10-07 | 한국전자통신연구원 | 사용자 인터랙션 장치 및 방법 |
JP2013125181A (ja) * | 2011-12-15 | 2013-06-24 | Nikon Corp | 投影装置 |
US20130155018A1 (en) * | 2011-12-20 | 2013-06-20 | Synaptics Incorporated | Device and method for emulating a touch screen using force information |
KR20140004335A (ko) * | 2012-07-02 | 2014-01-13 | 한국전자통신연구원 | 프로젝션 컴퓨터용 사용자 인터페이스 장치 및 이를 이용한 인터페이스 방법 |
US20150186039A1 (en) * | 2012-08-27 | 2015-07-02 | Citizen Holdings Co., Ltd. | Information input device |
WO2014136292A1 (ja) * | 2013-03-04 | 2014-09-12 | 日本電気株式会社 | インタフェース装置、及び制御方法 |
JP6146094B2 (ja) * | 2013-04-02 | 2017-06-14 | 富士通株式会社 | 情報操作表示システム、表示プログラム、および、表示方法 |
WO2015049866A1 (ja) * | 2013-10-02 | 2015-04-09 | 日本電気株式会社 | インターフェース装置、モジュール、制御部品、制御方法およびプログラム記憶媒体 |
US9244608B2 (en) * | 2013-11-27 | 2016-01-26 | Synaptics Incorporated | Method and system for gesture identification |
JP2015111772A (ja) | 2013-12-06 | 2015-06-18 | シチズンホールディングス株式会社 | 投影装置 |
JP2015121979A (ja) | 2013-12-24 | 2015-07-02 | 株式会社東芝 | 装着型情報入力装置、情報入力システム、及び情報入力方法 |
WO2015105044A1 (ja) * | 2014-01-10 | 2015-07-16 | 日本電気株式会社 | インターフェース装置、可搬装置、制御装置、モジュール、制御方法およびプログラム記憶媒体 |
WO2015120913A1 (en) * | 2014-02-17 | 2015-08-20 | Metaio Gmbh | Method and device for detecting a touch between a first object and a second object |
WO2015175964A1 (en) * | 2014-05-15 | 2015-11-19 | Burch Reuben | Wearable devices for courier processing and methods of use thereof |
JP2016005157A (ja) * | 2014-06-18 | 2016-01-12 | トヨタ紡織株式会社 | 操作装置 |
KR101687017B1 (ko) * | 2014-06-25 | 2016-12-16 | 한국과학기술원 | 머리 착용형 컬러 깊이 카메라를 활용한 손 위치 추정 장치 및 방법, 이를 이용한 맨 손 상호작용 시스템 |
US10757382B2 (en) * | 2014-12-18 | 2020-08-25 | Nec Corporation | Projection apparatus and interface apparatus |
US10908694B2 (en) * | 2016-02-01 | 2021-02-02 | Microsoft Technology Licensing, Llc | Object motion tracking with remote device |
US20190302963A1 (en) * | 2016-06-01 | 2019-10-03 | Carnegie Mellon University | Hybrid depth and infrared image sensing and method for enhanced touch tracking on ordinary surfaces |
-
2017
- 2017-10-20 JP JP2018547634A patent/JP6763434B2/ja active Active
- 2017-10-20 US US16/345,307 patent/US10955971B2/en active Active
- 2017-10-20 WO PCT/JP2017/038047 patent/WO2018079446A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
US20190302964A1 (en) | 2019-10-03 |
US10955971B2 (en) | 2021-03-23 |
JPWO2018079446A1 (ja) | 2019-09-19 |
WO2018079446A1 (ja) | 2018-05-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6763434B2 (ja) | 情報入力装置および情報入力方法 | |
TWI559174B (zh) | 以手勢爲基礎之三維影像操控技術 | |
US8837780B2 (en) | Gesture based human interfaces | |
TWI531929B (zh) | 基於影像來識別觸控表面的目標接觸區域之技術 | |
KR102335132B1 (ko) | 하나의 단일 감지 시스템을 이용하는 멀티 모드 제스처 기반의 상호작용 시스템 및 방법 | |
RU2608462C2 (ru) | Обработка пользовательской входной информации с отслеживанием глаз | |
EP3885986B1 (en) | User terminal apparatus and iris recognition method thereof | |
JPWO2015105044A1 (ja) | インターフェース装置、可搬装置、制御装置、モジュール、制御方法およびコンピュータプログラム | |
WO2015159548A1 (ja) | 投影制御装置、投影制御方法及び投影制御プログラムを記録した記録媒体 | |
CN102196176A (zh) | 信息处理设备、信息处理方法和程序 | |
US20160054806A1 (en) | Data processing apparatus, data processing system, control method for data processing apparatus, and storage medium | |
US10444825B2 (en) | Drift cancelation for portable object detection and tracking | |
JP2015094828A (ja) | 画像投影方法、情報入力装置及びプログラム | |
JP6645588B2 (ja) | 表示システム | |
JP6801329B2 (ja) | 画像形成装置、情報処理装置及び情報処理システム | |
JP2016099939A (ja) | 顔認識装置 | |
JP2019046310A (ja) | 情報処理システム、端末装置、情報処理方法及び情報処理プログラム | |
JP2010079529A (ja) | 情報処理装置、情報処理方法、そのプログラム及および記録媒体 | |
US11054941B2 (en) | Information processing system, information processing method, and program for correcting operation direction and operation amount | |
JP6460510B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6166250B2 (ja) | 情報処理装置及びその制御方法、プログラム | |
WO2022064914A1 (ja) | 制御装置、制御方法、および記録媒体 | |
US20230305634A1 (en) | Gesture recognition apparatus, head-mounted-type display apparatus, gesture recognition method, and non-transitory computer readable medium | |
KR102405476B1 (ko) | 비접촉 입력에 기초한 엘리베이터 조작 방법 및 시스템 | |
JP2005078291A (ja) | 画像投影表示装置、ポインティング位置検出方法、プログラムおよび記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190408 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200121 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200316 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200526 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200630 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20200708 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200811 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200824 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6763434 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |