JPWO2014128750A1 - 入出力装置、入出力プログラム、および入出力方法 - Google Patents
入出力装置、入出力プログラム、および入出力方法 Download PDFInfo
- Publication number
- JPWO2014128750A1 JPWO2014128750A1 JP2015501062A JP2015501062A JPWO2014128750A1 JP WO2014128750 A1 JPWO2014128750 A1 JP WO2014128750A1 JP 2015501062 A JP2015501062 A JP 2015501062A JP 2015501062 A JP2015501062 A JP 2015501062A JP WO2014128750 A1 JPWO2014128750 A1 JP WO2014128750A1
- Authority
- JP
- Japan
- Prior art keywords
- display
- input
- region
- depth
- shadow
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 109
- 238000001514 detection method Methods 0.000 claims abstract description 119
- 230000008569 process Effects 0.000 claims description 54
- 238000012545 processing Methods 0.000 claims description 18
- 230000008859 change Effects 0.000 claims description 13
- 210000003811 finger Anatomy 0.000 description 62
- 238000010586 diagram Methods 0.000 description 37
- 239000011521 glass Substances 0.000 description 14
- 210000003813 thumb Anatomy 0.000 description 13
- 210000000323 shoulder joint Anatomy 0.000 description 10
- 210000004247 hand Anatomy 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 8
- 230000001133 acceleration Effects 0.000 description 7
- 230000004397 blinking Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 210000000887 face Anatomy 0.000 description 4
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 210000004932 little finger Anatomy 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000010287 polarization Effects 0.000 description 3
- 230000004888 barrier function Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 244000060701 Kaempferia pandurata Species 0.000 description 1
- 235000016390 Uvaria chamae Nutrition 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
- H04N13/344—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/163—Wearable computers, e.g. on a belt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/254—Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/371—Image reproducers using viewer tracking for tracking viewers with different interocular distances; for tracking rotational head movements around the vertical axis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- Electromagnetism (AREA)
- User Interface Of Digital Computer (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
Description
特許文献1に記載の高速画像生成表示方法においては、立体構造をもつ対象を2次元画面に投影して表示する高速画像生成表示方法であって、対象の構成面は、対象座標系において、領域の大きさを少なくとも1つの要素として階層的に記述され、任意の視点から見た時の該対象の構成面を2次元画面へ投影するに際して、表示基準座標系原点または視点から対象座標系で表される該対象の任意の点までの距離を少なくとも1つのパラメータとして階層度を設定することを特徴とする。
特許文献2に記載の立体視画像生成方法は、三次元座標を有するポリゴンで構成されるオブジェクトのうち、平面視表示させるオブジェクトデータを基準カメラを原点とする基準カメラ座標系データに、立体視表示させるオブジェクトのデータを所定の視差角を有する右眼用及び左眼用視差カメラをそれぞれ原点とする右眼用及び左眼用視差カメラ座標系データに変換し、基準カメラ座標系のオブジェクトのデータと、右眼用視差カメラ座標系のオブジェクトのデータを右眼用画像データとして、ビデオメモリに描画し、基準カメラ座標系のオブジェクトのデータと、左眼用視差カメラ座標系のオブジェクトのデータを左眼用画像データとして、ビデオメモリに描画し、ビデオメモリに描画された右眼用画像データと左眼用画像データを合成して、立体視オブジェクトと平面視オブジェクトの混在する画像を立体視表示装置に表示することを特徴とする。
特許文献3に記載の方法は、ユーザの気質を示す属性を視覚表示に適用するための方法であって、ユーザの視覚表示をレンダリングするステップと、物理的な空間のデータを受信するステップであって、データが、物理的な空間内のユーザを代表しているものと、ユーザの気質を推論するために、少なくとも1つの検出可能な特徴を解析するステップと、ユーザの気質を示す属性を視覚表示に適用するステップと、を含む。
特許文献4に記載のシステムは、入力デバイスと、プロセッサに結合され、入力デバイスの方位を検出する検出器と、を備えているシステムであって、入力デバイスが、方位に対応する複数のモード方位を有し、複数のモード方位が、ジェスチャ制御システムの複数の入力モードに対応し、検出器が、ジェスチャ制御システムに結合され、方位に応答して、複数の入力モードからの入力モードの選択を自動的に制御する。
一局面に従う入出力装置は、立体視像を生成可能な表示装置と、対象物までの距離を測定する深度センサと、対象物の態様に応じて、表示装置により生成された立体視像の立体視領域および深度センサの深度検知領域の少なくともいずれかにおいて、イベントを発生させるイベント発生部と、を含むものである。
なお、深度とは、深度センサから検知対象となる対象物までの距離をいう。
第2の発明にかかる入出力装置は、一局面に従う入出力装置において、イベント発生部が、深度検知領域において、対象物の陰影を表示させる陰影表示部を含んでもよい。
第3の発明にかかる入出力装置は、第2の発明にかかる入出力装置において、陰影表示部が、対象物の深度方向の動きに応じて対象物の陰影を変化させる陰影変化部を含んでもよい。
第4の発明にかかる入出力装置は、一局面から第3の発明にかかる入出力装置において、イベント発生部が、立体視領域と深度検知領域との共有領域において、対象物の周囲の表示を変化させる周囲変化部を含んでもよい。
第5の発明にかかる入出力装置は、一局面から第4の発明にかかる入出力装置において、イベント発生部が、対象物が立体視領域と深度検知領域との共有領域、または深度検知領域に存在することを報知する報知部を含んでもよい。
第6の発明にかかる入出力装置は、一局面から第5の発明にかかる入出力装置において、表示装置がヘッドマウントディスプレイであってよい。
他の局面に従う入出力プログラムは、立体視像を生成する表示処理と、対象物までの距離を測定する深度センサ処理と、表示処理により立体視像を生成する立体視領域と深度センサ処理による深度検知領域との少なくともいずれかにおいて、対象物の態様に応じてイベントを発生させるイベント発生処理と、を含むものである。
なお、深度とは、深度センサから検知対象となる対象物までの距離をいう。
第8の発明にかかる入出力プログラムは、他の局面に従う入出力プログラムにおいて、イベント発生処理が、深度検知領域において、対象物の陰影を表示させる陰影表示処理を含んでもよい。
第9の発明にかかる入出力プログラムは、第8の発明にかかる入出力プログラムにおいて、陰影表示処理が、対象物の深度方向の動きに応じて対象物の陰影を変化させる陰影変化処理を含んでもよい。
第10の発明にかかる入出力プログラムは、他の局面から第9の発明にかかる入出力プログラムにおいて、イベント発生処理が、立体視領域と深度検知領域との共有領域において、対象物の周囲の表示を変化させる周囲変化処理を含んでもよい。
第11の発明にかかる入出力プログラムは、他の局面から第10の発明にかかる入出力プログラムにおいて、イベント発生処理が、対象物が立体視領域と深度検知領域との共有領域または深度検知領域に存在することを報知する報知処理を含んでもよい。
さらに他の局面に従う入出力方法は、立体視像を生成する表示工程と、対象物までの距離を測定する深度センサ工程と、表示プログラムにより立体視像を生成する立体視領域および深度センサプログラムによる深度検知領域の少なくともいずれかにおいて、対象物の態様に応じてイベントを発生させるイベント発生工程と、を含むものである。
なお、深度とは、深度センサから検知対象となる対象物までの距離をいう。
第13の発明にかかる入出力方法は、さらに他の局面に従う入出力方法において、イベント発生工程が、深度検知領域において、対象物の陰影を表示させる陰影表示工程を含んでもよい。
第14の発明にかかる入出力方法は、第13の発明にかかる入出力方法において、陰影表示工程が、対象物の深度方向の動きに応じて対象物の陰影を変化させる陰影変化工程を含んでもよい。
第15の発明にかかる入出力方法は、さらに他の局面から第14の発明にかかる入出力方法において、イベント発生工程が、立体視領域と深度検知領域との共有領域において、対象物の周囲の表示を変化させる周囲変化工程を含んでもよい。
第16の発明にかかる入出力方法は、さらに他の局面から第15の発明にかかる入出力方法において、イベント発生工程が、対象物が立体視領域と深度検知領域との共有領域または深度検知領域に存在することを報知する報知工程を含んでもよい。
220 半透過ディスプレイ
221 広告
2203D 仮想イメージ表示領域(共有領域)
300 通信システム
303 カメラユニット
410 赤外線検知ユニット
410c 操作領域
420 ジャイロセンサユニット
430 加速度検知ユニット
4103D 三次元空間検知領域
450 制御ユニット
454 解剖学的認識ユニット
456 ジェスチャ識別ユニット
460 イベントサービスユニット
461 キャリブレーションサービスユニット
701,〜,707 表示
900 入出力装置
H1 手
H2,H3 陰影
RP 右肩関節
LP 左肩関節
OF 外形
pn,p0,p1 頂点
PP1 基準線分
pp2 辺
ppk 辺
P0 先端点
P1 根元点
C 最大内接円
V3 顔認識アプリ画面
V5 SNSアプリ画面
また、本発明は、以下に説明する眼鏡表示装置に限定されるものではなく、他の入出力装置、表示装置、テレビジョン、モニタ、プロジェクタ等にも適用することができる。
図1は、一実施の形態にかかる眼鏡表示装置100の基本構成の一例を示す模式的外観正面図であり、図2は、眼鏡表示装置100の一例を示す模式的外観斜視図である。
図1および図2に示すように、眼鏡ユニット200は、眼鏡フレーム210および一対の半透過ディスプレイ220からなる。眼鏡フレーム210は、主にリムユニット211、テンプルユニット212を含む。
眼鏡フレーム210のリムユニット211により一対の半透過ディスプレイ220が支持される。
また、当該レンズ類の一部に、半透過ディスプレイ220を埋め込んで設けてもよい。
次に、通信システム300について説明を行なう。
通信システム300は、バッテリーユニット301、アンテナモジュール302、カメラユニット303、スピーカユニット304、GPS(Global Positioning System)ユニット307、マイクユニット308、SIM(Subscriber Identity Module Card)ユニット309およびメインユニット310を含む。
なお、カメラユニットにはCCDセンサが備えられてよい。スピーカユニット304は、ノーマルイヤホンであってもよいし、骨伝導イヤホンであってもよい。SIMユニット309には、NFC(Near Field Communication:近距離無線通信)ユニットおよび他の接触式ICカードユニット、ならびに非接触式ICカードユニットを含む。
したがって、ユーザは、眼鏡表示装置100を用いて、通信装置、スピーカおよびマイクにより、携帯電話と同様の通話機能を使用することができる。また、眼鏡型であるので、両手を利用せず、通話を行なうことができる。
続いて、操作システム400は、赤外線検知ユニット410、ジャイロセンサユニット420、加速度検知ユニット430および制御ユニット450からなる。赤外線検知ユニット410は、主に赤外線照射素子411および赤外線検知カメラ412からなる。
ジェスチャ識別ユニット456は、ジェスチャデータ記録ユニット455に記録されたジェスチャデータを参照し、解剖学的特徴が識別された外形からジェスチャの識別を行なう。なお、ジェスチャ識別ユニット456は、ジェスチャデータ記録ユニット455からのジェスチャデータを参照することとしているが、参照することに限定されず、他の任意のデータを参照してもよく、全く参照することなく処理してもよい。
以上により、図5(a)に示すように、手のジェスチャを認識する。
これによって、図5(b)に示すように、たとえば写真アプリによる画像が表示される。この際、当該画面には、カメラユニット303からの撮像データが表示されてよい。
次に、操作システム400の赤外線検知ユニット410の検知領域と、一対の半透過ディスプレイ220の仮想表示領域との関係について説明を行なう。
図6は、赤外線検知ユニット410の検知領域と、一対の半透過ディスプレイ220の仮想表示領域とを説明するための模式的斜視図であり、図7は図6の上面図であり、図8は、図6の側面図である。
三次元空間検知領域4103Dは、赤外線検知ユニット410からの円錐状または角錐状の三次元空間からなる。
また、本実施の形態においては、赤外線検知ユニット410を1個設けることとしているが、これに限定されず、赤外線検知ユニット410を複数個設けてもよいし、赤外線照射素子411を1個、赤外線検知カメラ412を複数個設けてもよい。
すなわち、実際には眼鏡表示装置100の半透過ディスプレイ220に表示されるものの、ユーザは、右目のイメージは右目側の半透過ディスプレイ220を透過し三次元空間領域2203DRで認識し、左目のイメージは左目側の半透過ディスプレイ220を透過し三次元空間領域2203DLで認識する。その結果、認識された両イメージがユーザの脳内で合成されることにより、仮想イメージ表示領域2203Dで仮想イメージとして認識することができる。
また、図8に示すように、一対の半透過ディスプレイ220よりも赤外線検知ユニット410が上方(y軸正方向)に配設されている場合について説明しているが、鉛直方向(y軸方向)に対して、赤外線検知ユニット410の配設位置が半透過ディスプレイ220よりも下方(y軸負方向)または半透過ディスプレイ220と同位置であっても、同様に、仮想イメージ表示領域2203Dは、三次元空間検知領域4103Dと共有する空間領域を有する。
続いて、図9から図11は、図6から図8において示した検知領域と仮想表示領域との他の例を示す模式図である。
この場合、入出力装置900による仮想イメージ表示領域2203Dが、三次元空間検知領域4103Dと共有の空間領域として生じる。
この場合でも、入出力装置900による仮想イメージ表示領域2203Dが、三次元空間検知領域4103Dと共有の空間領域として生じる。
続いて、検知領域における操作領域とジェスチャ領域とについて説明する。図12および図13は、検知領域における操作領域と、ジェスチャ領域との一例を示す模式図である。
また、三次元空間検知領域4103D内における操作領域410c以外の部分で、かつ腕の移動領域Lおよび移動領域Rを合わせた領域と重なる部分をジェスチャ領域410gとして設定する。
次いで、キャリブレーション処理について説明を行なう。図14は、キャリブレーション処理の説明を行なうためのフローチャートである。
また、キャリブレーション処理には、ユーザの個々で異なる指の長さ、手の長さ、腕の長さの調整も行なう。
すなわち、ユーザによりユーザの個々で異なる指の長さ、手の長さ、腕の長さが異なるので、操作領域410cの調整を行なうものである。
なお、ジェスチャ領域410gは、仮想イメージ表示領域2203Dと重ならないように配置しかつ深さ方向(z軸正方向)に厚みを持たせることが好ましい。
そのため、赤外線検知ユニット410からの信号を無処理のまま使用すると、ユーザは、手先が仮想イメージ表示領域2203Dから外れたとしても、そのような状態であることを体感しにくい。
その結果、ユーザは、両腕を最大限に伸ばした状態、または少し曲げた状態で、奥行きのある平面状の仮想イメージ表示領域2203D内の中央部から端部まで操作することができる。
続いて、半透過ディスプレイ220に、像の周囲を指で囲んでくださいと、表示を行なう(ステップS16)。ここで、像の近傍に指の形の像を薄く表示してもよいし、半透過ディスプレイ220に表示を行なう代わりにスピーカから音声により指示をユーザに伝えてもよい。
なお、上記においては、指で矩形を形作り、そのように定められた矩形と、像の外縁の矩形にあわせる。このことによって、指により定められた矩形の視認サイズおよび位置と像の外縁の矩形の視認サイズ及び位置とを合わせることとした。しかしながら、指によって形状を定める手法はこれに限定されず、表示された像の外縁を指でなぞる手法、表示された像の外縁上の複数の点を指で指し示す手法等、他の任意の手法であってもよい。また、これらの手法を複数のサイズの像について行ってもよい。
次いで、指認識について説明を行い、その後掌認識、腕認識の順で説明を行なう。図15は、指認識の一例を示す模式図である。図15において、(A)は指の先端付近の拡大図であり、(B)は指の根元付近の拡大図である。図16は、指認識の処理の一例を示すフローチャートである。
次に、赤外線検知ユニット410により画像データをピクセル単位で距離に置き換える(ステップS23)。この場合、赤外線の明るさは、距離の三乗に反比例する。これを利用し、デプスマップを作成する(ステップS24)。
続いて、二値化した画像データから約100個の頂点を持つポリゴンを作成する(ステップS26)。そして、頂点が滑らかになるようにローパスフィルタ(LPF)により、より多くの頂点pnを有する新たな多角形を作成することによって、図15に示す手の外形OFを抽出する(ステップS27)。
なお、本実施の形態においては、ステップS26において二値化したデータからポリゴンを作成するために抽出する頂点の数を約100個としているが、これに限定されず、1000個、その他の任意の個数であってもよい。
その後、ステップS27で作成された新たな多角形と、ステップS28で作成された凸包との共有の頂点p0を抽出する(ステップS29)。このように抽出された共有の頂点p0自体を指の先端点として用いることができる。
さらに、頂点p0の位置に基づいて算出される他の点を指の先端点として用いてもよい。例えば、図15(A)に示すように頂点p0における外形OFの内接円の中心を先端点P0として算出することもできる。
全ての指について同様の処理を行なうことで、全ての指のスケルトンを得る。これにより、手のポーズを認識することができる。すなわち、親指、人差し指、中指、薬指、小指のいずれの指が広げられ、いずれの指が握られているかを認識することができる。
グラフィック演算ユニット463は、キャリブレーションサービスユニット461を用いてキャリブレーションデータ記録ユニット457を参照し、表示の補正を行なう(ステップS36)。
最後に、ディスプレイ演算ユニット464により半透過ディスプレイ220に表示を行なう(ステップS37)。
次いで、図17は、掌認識の一例を示す模式図である。
次いで、腕認識について説明を行なう。本実施の形態において、腕認識は、指、掌および親指のいずれかを認識した後に実施する。なお、腕認識は、指、掌および親指のいずれかを認識する前、またはそれらの少なくともいずれかと同時に実施してもよい。
その後、抽出した外形に外接する四角枠を選定する。本実施の形態においては、当該四角枠は、平行四辺形または長方形からなる。
この場合、平行四辺形または長方形は、対向する長辺を有するので、長辺の延在方向から腕の延在方向を認識することができ、長辺の向きから腕の向きを判定することが出来る。なお、ステップS32の処理と同様に、直前の数フレームの画像データと比較して、腕の動きを検知させてもよい。
次に、図19は、眼鏡表示装置100の半透過ディスプレイ220の表示の一例を示す模式図である。
次に、眼鏡表示装置100の半透過ディスプレイ220に表示される表示の一例について説明を行なう。図20(a)は、半透過ディスプレイ220の視野の一例、図20(b)は、半透明ディスプレイ220の表示の一例を説明する図である。
図20に示すように、縦方向に表示703、702、701、704、705の表示が設けられており、表示701を中央として、左右に表示706,707が設けられる。なお、当然のことながら、当該表示701,〜,707は、ユーザによって自由に削除または変更することができ、さらに他の表示を追加することもできる。
なお、本実施の形態においては、表示701,〜,707はシームレスに連続した画像であるが、切替えされるべき表示は、それぞれが独立した非連続の像であってもよい。
一方、天空情報の表示703および地図情報の表示705はパノラマ表示であってよく、この場合、左右方向の動きに伴ってそれら表示703,705をスクロールさせてよい。
続いて、指、掌、手、腕が操作領域410cに存在する場合と、ジェスチャ領域410gに存在する場合との違いをユーザが認識し易いように、所定のイベントを発生させる。以下、所定のイベントについて説明を行なう。図21は、所定のイベント発生の一例を示す模式図であり、図22は、図21のイベント発生の他の例を示す模式図であり、図23は、他のイベント発生の一例を示す模式図である。
これにより、ユーザは、ジェスチャ領域410gに手が存在することを容易に認識できる。
以上の指、掌、腕認識およびイベント発生を伴う眼鏡表示装置100の使用態様について説明する。
例えば、広告221には、店舗の、商品、サービス等の情報が表示されている。ユーザがその広告221をタッチした場合、当該店舗に関するさらに詳しい情報を追加表示させてもよい。たとえば、飲食店の場合には、当該飲食店の代表メニュ、ユーザからの評価、価格帯等を表示させてもよい。
なお、広告221は、店舗をカメラユニット303で撮影された像そのものであってもよいし、カメラユニット303による当該店舗の撮像データに基づいて店舗認識を自動で開始し、その結果、店舗認識アプリ画面に表示された認識結果情報であってもよい。
また、図25に示すように、半透過ディスプレイ220に一の企業(○○社)のロゴマークが表示されている際に、画面中のロゴマークにタッチ等行なうことで、競合又は非競合の他の企業(△△社)に関連する情報を表示させることができる。この場合、例えばパロディモードとして、当該他の企業のロゴを表示させてもよい。
また、ユーザがジェスチャ領域410g内で所定の手のポーズを作ることにより、予め設定された動作が実施される。図26から図33は、ジェスチャ認識の例を示す模式図である。
Claims (16)
- 立体視像を生成可能な表示装置と、
対象物までの距離を測定する深度センサと、
前記対象物の態様に応じて、前記表示装置により生成された立体視像の立体視領域および前記深度センサの深度検知領域の少なくともいずれかにおいて、イベントを発生させるイベント発生部と、を含む、入出力装置。 - 前記イベント発生部は、
前記深度検知領域において、前記対象物の陰影を表示させる陰影表示部を含む、請求項1に記載の入出力装置。 - 前記陰影表示部は、前記対象物の深度方向の動きに応じて前記対象物の陰影を変化させる陰影変化部を含む、請求項2に記載の入出力装置。
- 前記イベント発生部は、
前記立体視領域と前記深度検知領域との共有領域において、前記対象物の周囲の表示を変化させる周囲変化部を含む、請求項1から3のいずれか1項に記載の入出力装置。 - 前記イベント発生部は、
前記対象物が前記立体視領域と前記深度検知領域との共有領域または前記深度検知領域に存在することを報知する報知部を含む、請求項1から4のいずれか1項に記載の入出力装置。 - 前記表示装置がヘッドマウントディスプレイである、請求項1から5のいずれか1項に記載の入出力装置。
- 立体視像を生成する表示処理と、
対象物までの距離を測定する深度センサ処理と、
前記対象物の態様に応じて、前記表示処理により生成された立体視像の立体視領域および前記深度センサ処理による深度検知領域の少なくともいずれかにおいて、イベントを発生させるイベント発生処理と、を含む、入出力プログラム。 - 前記イベント発生処理は、
前記深度検知領域において、前記対象物の陰影を表示させる陰影表示処理を含む、請求項7に記載の入出力プログラム。 - 前記陰影表示処理は、前記対象物の深度方向の動きに応じて前記対象物の陰影を変化させる陰影変化処理を含む、請求項8に記載の入出力プログラム。
- 前記イベント発生処理は、
前記立体視領域と前記深度検知領域との共有領域において、前記対象物の周囲の表示を変化させる周囲変化処理を含む、請求項7から9のいずれか1項に記載の入出力プログラム。 - 前記イベント発生処理は、
前記対象物が前記立体視領域と前記深度検知領域との共有領域または前記深度検知領域に存在することを報知する報知処理を含む、請求項7から10のいずれか1項に記載の入出力プログラム。 - 立体視像を生成する表示工程と、
対象物までの距離を測定する深度センサ工程と、
前記表示工程により生成された立体視像の立体視領域および前記深度センサ工程による深度検知領域の少なくともいずれかにおいて、前記対象物の態様に応じてイベントを発生させるイベント発生工程と、を含む、入出力方法。 - 前記イベント発生工程は、
前記深度検知領域において、前記対象物の陰影を表示させる陰影表示工程を含む、請求項12に記載の入出力方法。 - 前記陰影表示工程は、前記対象物の深度方向の動きに応じて前記対象物の陰影を変化させる陰影変化工程を含む、請求項13に記載の入出力方法。
- 前記イベント発生工程は、
前記立体視領域と前記深度検知領域との共有領域において、前記対象物の周囲の表示を変化させる周囲変化工程を含む、請求項12から14のいずれか1項に記載の入出力方法。 - 前記イベント発生工程は、
前記対象物が前記立体視領域と前記深度検知領域との共有領域または前記深度検知領域に存在することを報知する報知工程を含む、請求項12から15のいずれか1項に記載の入出力方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2013/000910 WO2014128750A1 (ja) | 2013-02-19 | 2013-02-19 | 入出力装置、入出力プログラム、および入出力方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2014128750A1 true JPWO2014128750A1 (ja) | 2017-02-02 |
JP6250025B2 JP6250025B2 (ja) | 2017-12-20 |
Family
ID=51390598
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015501062A Active JP6250025B2 (ja) | 2013-02-19 | 2013-02-19 | 入出力装置、入出力プログラム、および入出力方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10171800B2 (ja) |
JP (1) | JP6250025B2 (ja) |
WO (1) | WO2014128750A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014128749A1 (ja) * | 2013-02-19 | 2014-08-28 | 株式会社ブリリアントサービス | 形状認識装置、形状認識プログラム、および形状認識方法 |
US9560103B2 (en) * | 2013-06-26 | 2017-01-31 | Echostar Technologies L.L.C. | Custom video content |
US10168873B1 (en) * | 2013-10-29 | 2019-01-01 | Leap Motion, Inc. | Virtual interactions for machine control |
JP6646361B2 (ja) | 2015-04-27 | 2020-02-14 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム |
JP2017191546A (ja) * | 2016-04-15 | 2017-10-19 | ミラマ サービス インク | 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法 |
US10672243B2 (en) * | 2018-04-03 | 2020-06-02 | Chengfu Yu | Smart tracker IP camera device and method |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011081480A (ja) * | 2009-10-05 | 2011-04-21 | Seiko Epson Corp | 画像入力システム |
JP2011128220A (ja) * | 2009-12-15 | 2011-06-30 | Toshiba Corp | 情報提示装置、情報提示方法及びプログラム |
JP2011175617A (ja) * | 2010-01-29 | 2011-09-08 | Shimane Prefecture | 画像認識装置および操作判定方法並びにプログラム |
JP2012022458A (ja) * | 2010-07-13 | 2012-02-02 | Canon Inc | 情報処理装置およびその制御方法 |
JP2013021389A (ja) * | 2011-07-07 | 2013-01-31 | Nikon Corp | 画像表示装置 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0831140A (ja) | 1994-07-15 | 1996-02-02 | Victor Co Of Japan Ltd | テープリール |
JP4228646B2 (ja) | 2002-10-02 | 2009-02-25 | 株式会社セガ | 立体視画像生成方法および立体視画像生成装置 |
KR100851977B1 (ko) * | 2006-11-20 | 2008-08-12 | 삼성전자주식회사 | 가상 평면을 이용하여 전자 기기의 사용자 인터페이스를제어하는 방법 및 장치. |
US9256282B2 (en) | 2009-03-20 | 2016-02-09 | Microsoft Technology Licensing, Llc | Virtual object manipulation |
JP5782431B2 (ja) | 2009-05-27 | 2015-09-24 | オブロング・インダストリーズ・インコーポレーテッド | 空間動作システムと共に用いるための空間マルチモード制御デバイス |
US8390680B2 (en) | 2009-07-09 | 2013-03-05 | Microsoft Corporation | Visual representation expression based on player expression |
US8861797B2 (en) * | 2010-11-12 | 2014-10-14 | At&T Intellectual Property I, L.P. | Calibrating vision systems |
US8872762B2 (en) * | 2010-12-08 | 2014-10-28 | Primesense Ltd. | Three dimensional user interface cursor control |
JP2012106005A (ja) | 2012-01-25 | 2012-06-07 | Konami Digital Entertainment Co Ltd | 画像表示装置、ゲームプログラム、ゲーム制御方法 |
US9116666B2 (en) * | 2012-06-01 | 2015-08-25 | Microsoft Technology Licensing, Llc | Gesture based region identification for holograms |
KR101958778B1 (ko) * | 2012-08-31 | 2019-03-15 | 엘지전자 주식회사 | 헤드 마운트 디스플레이 및 이를 이용한 디지털 디바이스 제어 방법 |
US8836768B1 (en) * | 2012-09-04 | 2014-09-16 | Aquifi, Inc. | Method and system enabling natural user interface gestures with user wearable glasses |
US9202313B2 (en) * | 2013-01-21 | 2015-12-01 | Microsoft Technology Licensing, Llc | Virtual interaction with image projection |
US10133342B2 (en) * | 2013-02-14 | 2018-11-20 | Qualcomm Incorporated | Human-body-gesture-based region and volume selection for HMD |
-
2013
- 2013-02-19 WO PCT/JP2013/000910 patent/WO2014128750A1/ja active Application Filing
- 2013-02-19 JP JP2015501062A patent/JP6250025B2/ja active Active
- 2013-02-19 US US14/768,238 patent/US10171800B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011081480A (ja) * | 2009-10-05 | 2011-04-21 | Seiko Epson Corp | 画像入力システム |
JP2011128220A (ja) * | 2009-12-15 | 2011-06-30 | Toshiba Corp | 情報提示装置、情報提示方法及びプログラム |
JP2011175617A (ja) * | 2010-01-29 | 2011-09-08 | Shimane Prefecture | 画像認識装置および操作判定方法並びにプログラム |
JP2012022458A (ja) * | 2010-07-13 | 2012-02-02 | Canon Inc | 情報処理装置およびその制御方法 |
JP2013021389A (ja) * | 2011-07-07 | 2013-01-31 | Nikon Corp | 画像表示装置 |
Also Published As
Publication number | Publication date |
---|---|
US20150381970A1 (en) | 2015-12-31 |
US10171800B2 (en) | 2019-01-01 |
WO2014128750A1 (ja) | 2014-08-28 |
JP6250025B2 (ja) | 2017-12-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6195893B2 (ja) | 形状認識装置、形状認識プログラム、および形状認識方法 | |
JP6177872B2 (ja) | 入出力装置、入出力プログラム、および入出力方法 | |
JP6333801B2 (ja) | 表示制御装置、表示制御プログラム、および表示制御方法 | |
JP6250024B2 (ja) | キャリブレーション装置、キャリブレーションプログラム、およびキャリブレーション方法 | |
WO2014128751A1 (ja) | ヘッドマウントディスプレイ装置、ヘッドマウントディスプレイ用プログラム、およびヘッドマウントディスプレイ方法 | |
JP6250025B2 (ja) | 入出力装置、入出力プログラム、および入出力方法 | |
JP6446465B2 (ja) | 入出力装置、入出力プログラム、および入出力方法 | |
JP6479835B2 (ja) | 入出力装置、入出力プログラム、および入出力方法 | |
JP6479836B2 (ja) | 入出力装置、入出力プログラム、および入出力方法 | |
JP2017111724A (ja) | 配管用ヘッドマウントディスプレイ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20161107 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170221 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20170224 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170421 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170515 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170703 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171107 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171121 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6250025 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |