JP2020513618A - 複合現実環境における仮想ユーザ入力制御 - Google Patents
複合現実環境における仮想ユーザ入力制御 Download PDFInfo
- Publication number
- JP2020513618A JP2020513618A JP2019528510A JP2019528510A JP2020513618A JP 2020513618 A JP2020513618 A JP 2020513618A JP 2019528510 A JP2019528510 A JP 2019528510A JP 2019528510 A JP2019528510 A JP 2019528510A JP 2020513618 A JP2020513618 A JP 2020513618A
- Authority
- JP
- Japan
- Prior art keywords
- virtual
- remote device
- user
- wearable system
- active surface
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 claims abstract description 122
- 230000003993 interaction Effects 0.000 claims abstract description 77
- 230000004438 eyesight Effects 0.000 claims abstract description 23
- 230000033001 locomotion Effects 0.000 claims description 82
- 238000003384 imaging method Methods 0.000 claims description 57
- 238000004422 calculation algorithm Methods 0.000 claims description 55
- 238000004891 communication Methods 0.000 claims description 29
- 239000013598 vector Substances 0.000 claims description 23
- 230000006870 function Effects 0.000 claims description 17
- 238000012800 visualization Methods 0.000 claims description 14
- 238000013528 artificial neural network Methods 0.000 claims description 12
- 238000013507 mapping Methods 0.000 claims description 12
- 230000009471 action Effects 0.000 claims description 11
- 230000004913 activation Effects 0.000 claims description 11
- 230000003213 activating effect Effects 0.000 claims description 8
- 210000003811 finger Anatomy 0.000 description 45
- 230000008569 process Effects 0.000 description 35
- 230000003287 optical effect Effects 0.000 description 32
- 230000036544 posture Effects 0.000 description 22
- 238000012545 processing Methods 0.000 description 22
- 210000001747 pupil Anatomy 0.000 description 22
- 210000003128 head Anatomy 0.000 description 17
- 238000009877 rendering Methods 0.000 description 17
- 230000008859 change Effects 0.000 description 16
- 230000004308 accommodation Effects 0.000 description 15
- 230000004044 response Effects 0.000 description 15
- 230000000007 visual effect Effects 0.000 description 15
- 238000000605 extraction Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 13
- 230000003190 augmentative effect Effects 0.000 description 9
- 238000006073 displacement reaction Methods 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 7
- 239000000835 fiber Substances 0.000 description 7
- 239000000463 material Substances 0.000 description 7
- 238000003825 pressing Methods 0.000 description 7
- 230000000977 initiatory effect Effects 0.000 description 6
- 238000010801 machine learning Methods 0.000 description 6
- 230000035807 sensation Effects 0.000 description 6
- 238000013500 data storage Methods 0.000 description 5
- 230000007423 decrease Effects 0.000 description 5
- 230000001960 triggered effect Effects 0.000 description 5
- 210000004556 brain Anatomy 0.000 description 4
- 230000004424 eye movement Effects 0.000 description 4
- 238000002347 injection Methods 0.000 description 4
- 239000007924 injection Substances 0.000 description 4
- 239000013307 optical fiber Substances 0.000 description 4
- 230000035515 penetration Effects 0.000 description 4
- 230000008447 perception Effects 0.000 description 4
- 230000001953 sensory effect Effects 0.000 description 4
- 238000000926 separation method Methods 0.000 description 4
- 239000007787 solid Substances 0.000 description 4
- 238000003860 storage Methods 0.000 description 4
- 210000003813 thumb Anatomy 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 239000000047 product Substances 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000005266 casting Methods 0.000 description 2
- 238000003066 decision tree Methods 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 210000000613 ear canal Anatomy 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000007499 fusion processing Methods 0.000 description 2
- 125000001475 halogen functional group Chemical group 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 210000001525 retina Anatomy 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 241000256837 Apidae Species 0.000 description 1
- 206010019233 Headaches Diseases 0.000 description 1
- 239000004983 Polymer Dispersed Liquid Crystal Substances 0.000 description 1
- 230000002350 accommodative effect Effects 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 229910052782 aluminium Inorganic materials 0.000 description 1
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 1
- 208000003464 asthenopia Diseases 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000005253 cladding Methods 0.000 description 1
- 230000001427 coherent effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000002570 electrooculography Methods 0.000 description 1
- 230000005057 finger movement Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 231100000869 headache Toxicity 0.000 description 1
- 238000010438 heat treatment Methods 0.000 description 1
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000036651 mood Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000001208 nuclear magnetic resonance pulse sequence Methods 0.000 description 1
- 230000003565 oculomotor Effects 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 230000004043 responsiveness Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 125000006850 spacer group Chemical group 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000004936 stimulating effect Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000008093 supporting effect Effects 0.000 description 1
- 238000012876 topography Methods 0.000 description 1
- 230000036410 touch Effects 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
- G06V10/464—Salient features, e.g. scale invariant feature transforms [SIFT] using a plurality of salient features, e.g. bag-of-words [BoW] representations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/107—Static hand or arm
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Medical Informatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Optics & Photonics (AREA)
- User Interface Of Digital Computer (AREA)
- Processing Or Creating Images (AREA)
Abstract
Description
本願は、2016年12月5日に出願され“UNIVERSAL VISUAL REMOTE”と題された米国仮出願第62/430,308号および2016年12月5日に出願され“MECHANISM FOR A VIRTUAL BUTTON”と題された米国仮出願第62/430,279号に対する35 U.S.C.§119(e)のもとでの優先権の利益を主張するものであり、これらの開示の全体は、参照により本明細書中に援用される。
(概要)
(ウェアラブルシステムの3Dディスプレイの実施例)
(導波管スタックアセンブリ)
(ウェアラブルシステムの他のコンポーネント)
(例示的ウェアラブルシステム、環境、およびインターフェース)
(仮想遠隔制御装置をレンダリングする実施例)
(仮想遠隔装置上で選択イベントを開始する実施例)
(標的デバイスを認識する実施例)
(仮想遠隔装置をレンダリングする実施例)
(仮想遠隔装置と相互作用する実施例)
(仮想遠隔装置をレンダリングする例示的プロセス)
(仮想ユーザインターフェース上の仮想要素との例示的相互作用)
(仮想ボタンと相互作用するための例示的プロセス)
(付加的側面)
(他の考慮点)
Claims (20)
- 複合現実環境において仮想遠隔制御装置を提供するためのウェアラブルシステムであって、前記ウェアラブルシステムは、
仮想画像をユーザに提示するための複合現実ディスプレイと、
ユーザの環境を結像するように構成される外向きに面した結像システムと、
親デバイスと通信するように構成されるセンサと、
ハードウェアプロセッサであって、
前記外向きに面した結像システムによって入手された画像にアクセスすることと、
前記画像を分析し、前記親デバイスと関連付けられた物理的遠隔装置を識別することと、
前記物理的遠隔装置の仕様にアクセスすることと、
少なくとも部分的に、前記物理的遠隔装置の仕様に基づいて、仮想遠隔装置を生成することと、
前記ディスプレイに前記仮想遠隔装置をレンダリングさせることと、
前記親デバイスとの相互作用のための前記仮想遠隔装置の作動を受信することと、
命令を生成し、前記命令を前記親デバイスに伝送し、前記親デバイスに、前記物理的遠隔装置が作動されるかのように機能を実施させることと
を行うようにプログラムされる、ハードウェアプロセッサと
を備える、ウェアラブルシステム。 - 前記物理的遠隔装置を識別するために、前記ハードウェアプロセッサは、
特色特徴点アルゴリズム、単語の袋タイプ検索、またはニューラルネットワークアルゴリズムのうちの少なくとも1つを含む、1つ以上のコンピュータビジョンアルゴリズムを使用して、前記画像を分析し、前記物理的遠隔装置を認識する
ようにプログラムされる、請求項1に記載のウェアラブルシステム。 - 前記ハードウェアプロセッサはさらに、少なくとも部分的に、前記外向きに面した結像システムによって入手された画像または前記親デバイスの存在を示す前記センサによって受信された信号に基づいて、前記親デバイスの存在を識別するようにプログラムされる、請求項2に記載のウェアラブルシステム。
- 前記仕様は、前記物理的遠隔装置の制御要素の前記親デバイスの対応する機能へのマッピング、または前記物理的遠隔装置と前記親デバイスとの間の通信プロトコルのうちの少なくとも1つを含む、請求項1に記載のウェアラブルシステム。
- 前記仮想遠隔装置を生成するために、前記ハードウェアプロセッサは、
少なくとも部分的に、前記仕様に基づいて、前記仮想遠隔装置のための仮想要素のレイアウトを決定することと、
前記仮想要素に対応する制御要素が前記物理的遠隔装置上で作動されるかのように、前記仮想遠隔装置上の仮想要素の作動が前記親デバイスを反応させ得るように、前記仮想遠隔装置の仮想要素と前記物理的遠隔装置の制御要素とを関連付けることと
を行うようにプログラムされる、請求項4に記載のウェアラブルシステム。 - 前記ハードウェアプロセッサはさらに、
前記親デバイスと関連付けられた複数の候補仮想遠隔装置を決定することと、
少なくとも部分的に、前記ユーザの姿勢またはユーザ入力デバイスからのインジケーションに基づいて、前記複数の候補仮想遠隔装置の中の仮想遠隔装置を選択することと
を行うようにプログラムされる、請求項1に記載のウェアラブルシステム。 - 前記センサは、赤外線光源を備え、前記命令は、赤外線データ協会通信規格または無線周波数通信規格に従って、生成され、前記親デバイスに伝送される、請求項1に記載のウェアラブルシステム。
- 前記仮想遠隔装置は、仮想ボタンを備え、前記仮想ボタンは、空間の体積と関連付けられ、前記仮想ボタンとの前記ユーザの相互作用を追跡するように構成されるアクティブ表面と、ユーザインターフェースアクションをトリガするためのトリガ表面とを有する、請求項1に記載のウェアラブルシステム。
- 前記アクティブ表面は、前記トリガ表面と平行関係にある、請求項8に記載のウェアラブルシステム。
- 前記仮想遠隔装置の作動を受信するために、前記ハードウェアプロセッサは、
前記アクティブ表面の第1の位置を識別することと、
少なくとも部分的に、前記ユーザの移動に基づいて、前記アクティブ表面の第2の位置および移動を計算することと、
前記アクティブ表面の移動が前記トリガ表面に向かっており、前記アクティブ表面の第2の位置が前記トリガ表面の少なくとも一部と交差するとき、前記仮想ボタンを作動させること、または、前記アクティブ表面の移動が前記トリガ表面から離れており、前記アクティブ表面の第1の位置が前記トリガ表面の少なくとも一部と交差するとき、前記仮想ボタンを解除すること
を行うように構成される、請求項8に記載のウェアラブルシステム。 - 前記仮想ボタンはさらに、解除表面を備え、前記ハードウェアプロセッサは、前記アクティブ表面の第2の位置が前記解除表面の少なくとも一部と交差するとき、前記仮想ボタンを解除するようにプログラムされる、請求項10に記載のウェアラブルシステム。
- 前記アクティブ表面の移動を計算するために、前記ハードウェアプロセッサは、
前記ユーザの移動の速度ベクトルを計算することと、
前記アクティブ表面に対して法線方向の前記速度ベクトルの値、前記アクティブ表面と平行な前記速度ベクトルの値、または前記アクティブ表面に対して接線方向の前記速度ベクトルの値のうちの少なくとも1つに基づいて、前記アクティブ表面の速度を計算することと
を行うようにプログラムされる、請求項10に記載のウェアラブルシステム。 - 前記ハードウェアプロセッサは、前記複合現実ディスプレイによるユーザへの提示のために、前記仮想ボタンの可視化を提供するようにプログラムされ、前記可視化は、少なくとも部分的に、前記アクティブ表面の移動に基づく、請求項8に記載のウェアラブルシステム。
- 複合現実環境において仮想遠隔制御装置を提供するための方法であって、前記方法は、
ウェアラブルデバイスによって入手されたユーザの環境の画像にアクセスすることと、
前記画像を分析し、前記ユーザの環境内の標的デバイスを識別することと、
前記標的デバイスと関連付けられた仕様にアクセスすることであって、前記仕様は、少なくとも、物理的遠隔装置の制御要素と親デバイスの機能との間のマッピングを備える、ことと、
少なくとも部分的に、前記仕様に基づいて、仮想遠隔装置を生成することと、
前記ウェアラブルデバイスに前記仮想遠隔装置を複合現実環境にレンダリングさせることと、
前記親デバイスとの相互作用のための前記仮想遠隔装置の作動を検出することと、
命令を生成し、前記命令を前記親デバイスに伝送し、前記親デバイスに、前記物理的遠隔装置が作動されるかのように機能を実施させることと
を含む、方法。 - 前記標的デバイスは、前記物理的遠隔装置または前記親デバイスを備える、請求項14に記載の方法。
- 前記標的デバイスを識別することは、特色特徴点アルゴリズム、単語の袋タイプ検索、またはニューラルネットワークアルゴリズムのうちの少なくとも1つを含む、1つ以上のコンピュータビジョンアルゴリズムを使用して、前記画像を分析し、前記標的デバイスを認識することを含む、請求項14に記載の方法。
- 前記仮想遠隔装置を生成することは、
少なくとも部分的に、前記仕様に基づいて、前記仮想遠隔装置のための仮想要素のレイアウトを決定することと、
前記仮想要素に対応する制御要素が前記物理的遠隔装置上で作動されるかのように、前記仮想遠隔装置上の仮想要素の作動が前記親デバイスを反応させ得るように、前記仮想遠隔装置の仮想要素と前記物理的遠隔装置の制御要素とを関連付けることと
を含む、請求項14に記載の方法。 - 前記仮想遠隔装置は、仮想ボタンを備え、前記仮想ボタンは、空間の体積と関連付けられ、前記仮想ボタンとの前記ユーザの相互作用を追跡するように構成されるアクティブ表面と、ユーザインターフェースアクションをトリガするためのトリガ表面とを有する、請求項14に記載の方法。
- 前記仮想遠隔装置の作動を検出することは、
前記アクティブ表面の第1の位置を識別することと、
少なくとも部分的に、前記ユーザの移動に基づいて、前記アクティブ表面の第2の位置および移動を計算することと、
前記アクティブ表面の移動が前記トリガ表面に向かっており、前記アクティブ表面の第2の位置が前記トリガ表面の少なくとも一部と交差するとき、前記仮想ボタンを作動させること、または、前記アクティブ表面の移動が前記トリガ表面から離れており、前記アクティブ表面の第1の位置が前記トリガ表面の少なくとも一部と交差するとき、前記仮想ボタンを解除することと
を含む、請求項14に記載の方法。 - 前記仮想ボタンはさらに、解除表面を備え、前記方法はさらに、前記アクティブ表面の第2の位置が前記解除表面の少なくとも一部と交差するとき、前記仮想ボタンを解除することを含む、請求項19に記載の方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022079580A JP7339392B2 (ja) | 2016-12-05 | 2022-05-13 | 複合現実環境における仮想ユーザ入力制御 |
JP2023136234A JP2023153357A (ja) | 2016-12-05 | 2023-08-24 | 複合現実環境における仮想ユーザ入力制御 |
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662430308P | 2016-12-05 | 2016-12-05 | |
US201662430279P | 2016-12-05 | 2016-12-05 | |
US62/430,279 | 2016-12-05 | ||
US62/430,308 | 2016-12-05 | ||
PCT/US2017/064311 WO2018106542A1 (en) | 2016-12-05 | 2017-12-01 | Virtual user input controls in a mixed reality environment |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022079580A Division JP7339392B2 (ja) | 2016-12-05 | 2022-05-13 | 複合現実環境における仮想ユーザ入力制御 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020513618A true JP2020513618A (ja) | 2020-05-14 |
JP7112399B2 JP7112399B2 (ja) | 2022-08-03 |
Family
ID=62243916
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019528510A Active JP7112399B2 (ja) | 2016-12-05 | 2017-12-01 | 複合現実環境における仮想ユーザ入力制御 |
JP2022079580A Active JP7339392B2 (ja) | 2016-12-05 | 2022-05-13 | 複合現実環境における仮想ユーザ入力制御 |
JP2023136234A Pending JP2023153357A (ja) | 2016-12-05 | 2023-08-24 | 複合現実環境における仮想ユーザ入力制御 |
Family Applications After (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022079580A Active JP7339392B2 (ja) | 2016-12-05 | 2022-05-13 | 複合現実環境における仮想ユーザ入力制御 |
JP2023136234A Pending JP2023153357A (ja) | 2016-12-05 | 2023-08-24 | 複合現実環境における仮想ユーザ入力制御 |
Country Status (9)
Country | Link |
---|---|
US (3) | US11150777B2 (ja) |
EP (2) | EP3549109B1 (ja) |
JP (3) | JP7112399B2 (ja) |
KR (3) | KR20230070318A (ja) |
CN (2) | CN116883628A (ja) |
AU (1) | AU2017370555B2 (ja) |
CA (1) | CA3045664A1 (ja) |
IL (2) | IL266888B2 (ja) |
WO (1) | WO2018106542A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2023512122A (ja) * | 2020-12-30 | 2023-03-24 | 広東視場科技有限公司 | スマート制御グラス |
Families Citing this family (65)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8977255B2 (en) | 2007-04-03 | 2015-03-10 | Apple Inc. | Method and system for operating a multi-function portable electronic device using voice-activation |
CN113470640B (zh) | 2013-02-07 | 2022-04-26 | 苹果公司 | 数字助理的语音触发器 |
US11269480B2 (en) * | 2016-08-23 | 2022-03-08 | Reavire, Inc. | Controlling objects using virtual rays |
AU2017370555B2 (en) | 2016-12-05 | 2022-12-15 | Magic Leap, Inc. | Virtual user input controls in a mixed reality environment |
US10768425B2 (en) * | 2017-02-14 | 2020-09-08 | Securiport Llc | Augmented reality monitoring of border control systems |
US10627895B2 (en) * | 2017-03-21 | 2020-04-21 | Lenovo (Singapore) Pte Ltd | Providing a virtual control |
US20180336275A1 (en) | 2017-05-16 | 2018-11-22 | Apple Inc. | Intelligent automated assistant for media exploration |
CA3068448A1 (en) | 2017-07-26 | 2019-01-31 | Magic Leap, Inc. | Training a neural network with representations of user interface devices |
CN110192169B (zh) * | 2017-11-20 | 2020-10-02 | 腾讯科技(深圳)有限公司 | 虚拟场景中菜单处理方法、装置及存储介质 |
US10739861B2 (en) * | 2018-01-10 | 2020-08-11 | Facebook Technologies, Llc | Long distance interaction with artificial reality objects using a near eye display interface |
GB2574372B (en) * | 2018-05-21 | 2021-08-11 | Imagination Tech Ltd | Implementing Traditional Computer Vision Algorithms As Neural Networks |
US10725629B2 (en) * | 2018-06-25 | 2020-07-28 | Google Llc | Identifying and controlling smart devices |
JP7172207B2 (ja) * | 2018-07-10 | 2022-11-16 | オムロン株式会社 | 入力装置 |
US11348316B2 (en) * | 2018-09-11 | 2022-05-31 | Apple Inc. | Location-based virtual element modality in three-dimensional content |
EP3656094B1 (en) * | 2018-09-24 | 2021-05-19 | Google LLC | Controlling a device based on processing of image data that captures the device and/or an installation environment of the device |
US10824244B2 (en) * | 2018-11-19 | 2020-11-03 | Facebook Technologies, Llc | Systems and methods for transitioning between modes of tracking real-world objects for artificial reality interfaces |
US11487351B2 (en) * | 2018-11-23 | 2022-11-01 | International Business Machines Corporation | Intelligent directing system in an internet of things (IoT) computing environment |
US11188148B2 (en) * | 2018-12-27 | 2021-11-30 | Facebook Technologies, Llc | User interaction in head-mounted display with eye tracking |
US10831268B1 (en) * | 2019-03-15 | 2020-11-10 | Facebook Technologies, Llc | Systems and methods for using eye tracking to improve user interactions with objects in artificial reality |
CN109935206B (zh) * | 2019-04-15 | 2021-08-20 | 京东方科技集团股份有限公司 | 基于神经网络的显示器件亮度补偿方法、装置及设备 |
US10942585B2 (en) * | 2019-07-22 | 2021-03-09 | Zspace, Inc. | Trackability enhancement of a passive stylus |
GB2586059B (en) * | 2019-08-01 | 2023-06-07 | Sony Interactive Entertainment Inc | System and method for generating user inputs for a video game |
US11074081B2 (en) * | 2019-08-02 | 2021-07-27 | GM Global Technology Operations LLC | Architecture and method supporting multiple vision stream using shared server on embedded platform |
US20220270363A1 (en) * | 2019-08-09 | 2022-08-25 | Sony Group Corporation | Image processing apparatus, image processing method, and program |
WO2021034315A1 (en) * | 2019-08-19 | 2021-02-25 | Light Field Lab, Inc. | Light field display for consumer devices |
CN112954422A (zh) * | 2019-12-11 | 2021-06-11 | 天翼智慧家庭科技有限公司 | 一种用于在vr设备上实现iptv遥控器的方法 |
CN111006720B (zh) * | 2019-12-18 | 2021-06-11 | 刘启 | 一种测量仪器的仿真模拟方法 |
US11687778B2 (en) | 2020-01-06 | 2023-06-27 | The Research Foundation For The State University Of New York | Fakecatcher: detection of synthetic portrait videos using biological signals |
EP3851939A1 (en) * | 2020-01-14 | 2021-07-21 | Apple Inc. | Positioning a user-controlled spatial selector based on extremity tracking information and eye tracking information |
JP2023511311A (ja) * | 2020-01-27 | 2023-03-17 | マジック リープ, インコーポレイテッド | ユーザ入力デバイスの機能性の注視タイマベースの拡張 |
US11830291B2 (en) * | 2020-02-10 | 2023-11-28 | University Of Maryland, College Park | System and method for multimodal emotion recognition |
CN111459266A (zh) * | 2020-03-02 | 2020-07-28 | 重庆爱奇艺智能科技有限公司 | 一种在虚拟现实的3d场景中操作2d应用的方法和装置 |
US11567571B2 (en) * | 2020-05-05 | 2023-01-31 | Autodesk, Inc. | Remote control of a device via a virtual interface |
US20210358294A1 (en) * | 2020-05-15 | 2021-11-18 | Microsoft Technology Licensing, Llc | Holographic device control |
CN111538252B (zh) * | 2020-05-25 | 2021-09-21 | 厦门大学 | 一种应用vr技术的智能家居演示*** |
CN111672115B (zh) | 2020-06-05 | 2022-09-23 | 腾讯科技(深圳)有限公司 | 虚拟对象控制方法、装置、计算机设备及存储介质 |
US20220050432A1 (en) * | 2020-08-14 | 2022-02-17 | VTouch Co., Ltd. | Method, system and non-transitory computer-readable recording medium for supporting object control |
KR102477006B1 (ko) * | 2020-08-14 | 2022-12-14 | 주식회사 브이터치 | 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체 |
US11474690B2 (en) | 2020-08-14 | 2022-10-18 | VTouch Co., Ltd. | Method, system and non-transitory computer-readable recording medium for non-contact control |
US11467403B2 (en) * | 2020-08-20 | 2022-10-11 | Htc Corporation | Operating method and electronic system |
CN114200895A (zh) * | 2020-09-17 | 2022-03-18 | 北京小米移动软件有限公司 | 设备控制方法、装置及存储介质 |
CN112164216A (zh) * | 2020-09-18 | 2021-01-01 | 深圳市欧瑞博科技股份有限公司 | 智能遥控器的配置方法、装置、智能网关设备及存储介质 |
US20230360264A1 (en) * | 2020-11-16 | 2023-11-09 | Google Llc | Identifying a position of a controllable device using a wearable device |
US11914835B2 (en) * | 2020-11-16 | 2024-02-27 | Samsung Electronics Co., Ltd. | Method for displaying user interface and electronic device therefor |
US11423585B2 (en) * | 2020-11-30 | 2022-08-23 | Microsoft Technology Licensing, Llc | Velocity-based controls |
US11656690B2 (en) * | 2021-03-05 | 2023-05-23 | MediVis, Inc. | User input and virtual touch pad in augmented reality for use in surgical settings |
US20220392170A1 (en) * | 2021-06-07 | 2022-12-08 | Citrix Systems, Inc. | Interactive Display Devices in Extended Reality Environments |
US11579752B1 (en) * | 2021-07-20 | 2023-02-14 | Sony Interactive Entertainment Inc. | Augmented reality placement for user feedback |
US20230060150A1 (en) * | 2021-09-01 | 2023-03-02 | Snap Inc. | Physical action-based augmented reality communication exchanges |
WO2023055492A1 (en) * | 2021-09-28 | 2023-04-06 | Arris Enterprises Llc | Device and method to switch television operation to primary content mode after displaying an important content on secondary input mode |
US11836828B2 (en) * | 2021-10-29 | 2023-12-05 | Meta Platforms Technologies, Llc | Controlling interactions with virtual objects |
WO2023086392A1 (en) * | 2021-11-10 | 2023-05-19 | Drnc Holdings, Inc. | Context aware object recognition for iot control |
KR20230073869A (ko) * | 2021-11-19 | 2023-05-26 | 삼성전자주식회사 | 인터랙션을 지원하는 사용자 인터페이스를 제공하는 방법 및 이를 수행하는 전자 장치 |
US20230168786A1 (en) * | 2021-11-30 | 2023-06-01 | Verizon Patent And Licensing Inc. | Methods and Systems for Location-Based Accessing of Predesignated Data Payloads Using Extended Reality |
KR20230106257A (ko) * | 2022-01-06 | 2023-07-13 | 삼성전자주식회사 | 가상환경에서 실 세계의 외부 전자 장치를 제어할 수 있는 시스템, 전자 장치 및 방법 |
WO2023130435A1 (zh) * | 2022-01-10 | 2023-07-13 | 深圳市闪至科技有限公司 | 交互方法、头戴式显示设备、***及存储介质 |
US12020382B2 (en) * | 2022-03-24 | 2024-06-25 | Kyndryl, Inc. | Physical and virtual environment synchronization |
TWI804294B (zh) * | 2022-04-28 | 2023-06-01 | 中華電信股份有限公司 | 用於擴增實境協作之遠端設備控制系統、方法及電腦可讀媒介 |
US20230409174A1 (en) * | 2022-06-15 | 2023-12-21 | Apple Inc. | Home automation device control and designation |
US12026325B2 (en) | 2022-08-17 | 2024-07-02 | Apple Inc. | Handheld input devices with sleeves |
KR20240028880A (ko) * | 2022-08-25 | 2024-03-05 | 삼성전자주식회사 | 원격 제어 장치를 이용하여 외부 전자 장치를 제어하기 위한 방법 및 이를 지원하는 전자 장치 |
US20240077935A1 (en) * | 2022-09-01 | 2024-03-07 | Youjean Cho | Virtual interfaces for controlling iot devices |
KR20240058665A (ko) * | 2022-10-26 | 2024-05-03 | 삼성전자주식회사 | 센서에 의해 식별된 데이터를 이용하여 시각적 객체를 변경하기 위한 웨어러블 장치 및 그 방법 |
KR20240084665A (ko) * | 2022-12-06 | 2024-06-14 | 삼성전자주식회사 | 외부 전자 장치의 제어와 관련된 사용자 인터페이스를 표시하기 위한 웨어러블 장치 및 그 방법 |
CN118192793A (zh) * | 2022-12-14 | 2024-06-14 | 北京小米移动软件有限公司 | Ar眼镜交互显示方法、装置、设备及存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10200971A (ja) * | 1997-01-13 | 1998-07-31 | Mitsubishi Electric Corp | パーソナルコンピュータによるワイヤレスリモコンの信号発生装置 |
JP2006146803A (ja) * | 2004-11-24 | 2006-06-08 | Olympus Corp | 操作装置及び遠隔操作システム |
JP2010146481A (ja) * | 2008-12-22 | 2010-07-01 | Brother Ind Ltd | ヘッドマウントディスプレイ |
JP2011209965A (ja) * | 2010-03-29 | 2011-10-20 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
JP2012090077A (ja) * | 2010-10-20 | 2012-05-10 | Konica Minolta Business Technologies Inc | 携帯端末及び処理装置の操作方法 |
JP2013041431A (ja) * | 2011-08-16 | 2013-02-28 | Fujitsu Ltd | 入力装置、入力制御方法及び入力制御プログラム |
JP2013172432A (ja) * | 2012-02-23 | 2013-09-02 | Panasonic Corp | 機器制御装置、機器制御方法、機器制御プログラム、及び集積回路 |
JP2014192838A (ja) * | 2013-03-28 | 2014-10-06 | Saitama Univ | 携帯端末向けarジェスチャユーザインタフェースシステム |
JP2016148968A (ja) * | 2015-02-12 | 2016-08-18 | セイコーエプソン株式会社 | 頭部装着型表示装置、制御システム、頭部装着型表示装置の制御方法、および、コンピュータープログラム |
Family Cites Families (101)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5291560A (en) | 1991-07-15 | 1994-03-01 | Iri Scan Incorporated | Biometric personal identification system based on iris analysis |
US6222525B1 (en) | 1992-03-05 | 2001-04-24 | Brad A. Armstrong | Image controllers with sheet connected sensors |
US5583795A (en) | 1995-03-17 | 1996-12-10 | The United States Of America As Represented By The Secretary Of The Army | Apparatus for measuring eye gaze and fixation duration, and method therefor |
US5670988A (en) | 1995-09-05 | 1997-09-23 | Interlink Electronics, Inc. | Trigger operated electronic device |
US7227526B2 (en) * | 2000-07-24 | 2007-06-05 | Gesturetek, Inc. | Video-based image control system |
DE60332328D1 (de) | 2002-03-13 | 2010-06-10 | Imax Corp | Systeme und verfahren für ein digitales remastering oder anderweitiges modifizieren von beweglichen bildern oder anderen bildsequenzdaten |
US8098901B2 (en) | 2005-01-26 | 2012-01-17 | Honeywell International Inc. | Standoff iris recognition system |
KR20050025927A (ko) | 2003-09-08 | 2005-03-14 | 유웅덕 | 홍채인식을 위한 동공 검출 방법 및 형상기술자 추출방법과 그를 이용한 홍채 특징 추출 장치 및 그 방법과홍채인식 시스템 및 그 방법 |
USD514570S1 (en) | 2004-06-24 | 2006-02-07 | Microsoft Corporation | Region of a fingerprint scanning device with an illuminated ring |
US7248720B2 (en) | 2004-10-21 | 2007-07-24 | Retica Systems, Inc. | Method and system for generating a combined retina/iris pattern biometric |
US11428937B2 (en) | 2005-10-07 | 2022-08-30 | Percept Technologies | Enhanced optical and perceptual digital eyewear |
US8696113B2 (en) | 2005-10-07 | 2014-04-15 | Percept Technologies Inc. | Enhanced optical and perceptual digital eyewear |
US20070081123A1 (en) | 2005-10-07 | 2007-04-12 | Lewis Scott W | Digital eyewear |
JP4824420B2 (ja) | 2006-02-07 | 2011-11-30 | アイテック株式会社 | 視線ベクトル検出方法及び同装置 |
US7970179B2 (en) | 2006-09-25 | 2011-06-28 | Identix Incorporated | Iris data extraction |
US8363783B2 (en) | 2007-06-04 | 2013-01-29 | Oraya Therapeutics, Inc. | Method and device for ocular alignment and coupling of ocular structures |
KR20090034089A (ko) * | 2007-10-02 | 2009-04-07 | 삼성전자주식회사 | 원격 제어 장치 및 방법 |
US8098891B2 (en) | 2007-11-29 | 2012-01-17 | Nec Laboratories America, Inc. | Efficient multi-hypothesis multi-human 3D tracking in crowded scenes |
KR100927009B1 (ko) | 2008-02-04 | 2009-11-16 | 광주과학기술원 | 증강 현실에서의 햅틱 상호 작용 방법 및 그 시스템 |
WO2010003044A2 (en) | 2008-07-03 | 2010-01-07 | Nec Laboratories America, Inc. | Epithelial layer detector and related methods |
US20100131947A1 (en) | 2008-11-24 | 2010-05-27 | Disney Enterprises, Inc. | System and method for enabling a local user of a real-life simulation environment to interact with a remote user of a corresponding virtual environment |
US8768014B2 (en) | 2009-01-14 | 2014-07-01 | Indiana University Research And Technology Corp. | System and method for identifying a person with reference to a sclera image |
CN104997587B (zh) | 2010-01-22 | 2017-12-01 | 眼科医疗公司 | 用于自动放置扫描激光撕囊切口的装置 |
US8345984B2 (en) | 2010-01-28 | 2013-01-01 | Nec Laboratories America, Inc. | 3D convolutional neural networks for automatic human action recognition |
US20150309316A1 (en) | 2011-04-06 | 2015-10-29 | Microsoft Technology Licensing, Llc | Ar glasses with predictive control of external device based on event input |
US9977496B2 (en) * | 2010-07-23 | 2018-05-22 | Telepatheye Inc. | Eye-wearable device user interface and augmented reality method |
US8683086B2 (en) * | 2010-11-17 | 2014-03-25 | Flextronics Ap, Llc. | Universal remote control with automated setup |
US9304319B2 (en) | 2010-11-18 | 2016-04-05 | Microsoft Technology Licensing, Llc | Automatic focus improvement for augmented reality displays |
AU2011348122A1 (en) | 2010-12-24 | 2013-07-11 | Magic Leap Inc. | An ergonomic head mounted display device and optical system |
US10156722B2 (en) | 2010-12-24 | 2018-12-18 | Magic Leap, Inc. | Methods and systems for displaying stereoscopy with a freeform optical system with addressable focus for virtual and augmented reality |
CA3035118C (en) | 2011-05-06 | 2022-01-04 | Magic Leap, Inc. | Massive simultaneous remote digital presence world |
WO2013049861A1 (en) | 2011-09-29 | 2013-04-04 | Magic Leap, Inc. | Tactile glove for human-computer interaction |
US20130104085A1 (en) | 2011-10-21 | 2013-04-25 | Digital Artforms, Inc. | Systems and methods for human-computer interaction using a two handed interface |
RU2621633C2 (ru) | 2011-10-28 | 2017-06-06 | Мэджик Лип, Инк. | Система и способ для дополненной и виртуальной реальности |
KR102440195B1 (ko) | 2011-11-23 | 2022-09-02 | 매직 립, 인코포레이티드 | 3차원 가상 및 증강 현실 디스플레이 시스템 |
US9497501B2 (en) * | 2011-12-06 | 2016-11-15 | Microsoft Technology Licensing, Llc | Augmented reality virtual monitor |
US20130147686A1 (en) * | 2011-12-12 | 2013-06-13 | John Clavin | Connecting Head Mounted Displays To External Displays And Other Communication Networks |
KR102022719B1 (ko) | 2012-04-05 | 2019-11-05 | 매직 립, 인코포레이티드 | 능동 포비에이션 능력을 갖는 와이드-fov(field of view) 이미지 디바이스들 |
US9671566B2 (en) | 2012-06-11 | 2017-06-06 | Magic Leap, Inc. | Planar waveguide apparatus with diffraction element(s) and system employing same |
AU2013274359B2 (en) | 2012-06-11 | 2017-05-25 | Magic Leap, Inc. | Multiple depth plane three-dimensional display using a wave guide reflector array projector |
US9141916B1 (en) | 2012-06-29 | 2015-09-22 | Google Inc. | Using embedding functions with a deep network |
KR101506525B1 (ko) | 2012-07-31 | 2015-03-27 | 도꾸리쯔교세이호징 가가꾸 기쥬쯔 신꼬 기꼬 | 주시점 검출 장치, 주시점 검출 방법, 개인 파라미터 산출 장치, 개인 파라미터 산출 방법, 프로그램, 및 컴퓨터 판독 가능한 기록 매체 |
US8369595B1 (en) | 2012-08-10 | 2013-02-05 | EyeVerify LLC | Texture features for biometric authentication |
US9329678B2 (en) * | 2012-08-14 | 2016-05-03 | Microsoft Technology Licensing, Llc | Augmented reality overlay for control devices |
CN104813218A (zh) | 2012-09-11 | 2015-07-29 | 奇跃公司 | 人机工程学的头戴显示设备和光学*** |
US20140152558A1 (en) * | 2012-11-30 | 2014-06-05 | Tom Salter | Direct hologram manipulation using imu |
WO2014106823A2 (en) | 2013-01-03 | 2014-07-10 | Meta Company | Extramissive spatial imaging digital eye glass apparatuses, methods and systems for virtual or augmediated vision, manipulation, creation, or interaction with objects, materials, or other entities |
KR102274413B1 (ko) | 2013-01-15 | 2021-07-07 | 매직 립, 인코포레이티드 | 초고해상도 스캐닝 섬유 디스플레이 |
IL298018B2 (en) | 2013-03-11 | 2024-04-01 | Magic Leap Inc | System and method for augmentation and virtual reality |
US9147154B2 (en) | 2013-03-13 | 2015-09-29 | Google Inc. | Classifying resources using a deep network |
EP2973532A4 (en) | 2013-03-15 | 2017-01-18 | Magic Leap, Inc. | Display system and method |
WO2014182769A1 (en) | 2013-05-07 | 2014-11-13 | The Johns Hopkins University | Automated and non-mydriatic fundus-perimetry camera for irreversible eye diseases |
US20140341441A1 (en) | 2013-05-20 | 2014-11-20 | Motorola Mobility Llc | Wearable device user authentication |
US9275308B2 (en) | 2013-05-31 | 2016-03-01 | Google Inc. | Object detection using deep neural networks |
US9874749B2 (en) | 2013-11-27 | 2018-01-23 | Magic Leap, Inc. | Virtual and augmented reality systems and methods |
US10262462B2 (en) | 2014-04-18 | 2019-04-16 | Magic Leap, Inc. | Systems and methods for augmented and virtual reality |
US20140380249A1 (en) | 2013-06-25 | 2014-12-25 | Apple Inc. | Visual recognition of gestures |
CN103431840B (zh) | 2013-07-31 | 2016-01-20 | 北京智谷睿拓技术服务有限公司 | 眼睛光学参数检测***及方法 |
IL295157B2 (en) | 2013-10-16 | 2023-10-01 | Magic Leap Inc | An augmented or virtual reality head device with intrapupillary distance adjustment |
US9202144B2 (en) | 2013-10-30 | 2015-12-01 | Nec Laboratories America, Inc. | Regionlets with shift invariant neural patterns for object detection |
US10095917B2 (en) | 2013-11-04 | 2018-10-09 | Facebook, Inc. | Systems and methods for facial representation |
JP6236296B2 (ja) | 2013-11-14 | 2017-11-22 | 株式会社デンソーアイティーラボラトリ | 学習装置、学習プログラム、及び学習方法 |
US9857591B2 (en) | 2014-05-30 | 2018-01-02 | Magic Leap, Inc. | Methods and system for creating focal planes in virtual and augmented reality |
AU2014354673B2 (en) | 2013-11-27 | 2019-04-11 | Magic Leap, Inc. | Virtual and augmented reality systems and methods |
CN104750234B (zh) | 2013-12-27 | 2018-12-21 | 中芯国际集成电路制造(北京)有限公司 | 可穿戴智能设备及可穿戴智能设备的互动方法 |
KR20160113592A (ko) | 2014-01-27 | 2016-09-30 | 엘지전자 주식회사 | 안경형 단말기와 그 안경형 단말기의 제어방법 |
US9430829B2 (en) | 2014-01-30 | 2016-08-30 | Case Western Reserve University | Automatic detection of mitosis using handcrafted and convolutional neural network features |
CA3089749A1 (en) | 2014-01-31 | 2015-08-06 | Magic Leap, Inc. | Multi-focal display system and method |
JP6509883B2 (ja) | 2014-01-31 | 2019-05-08 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | 多焦点表示システムおよび方法 |
US10203762B2 (en) | 2014-03-11 | 2019-02-12 | Magic Leap, Inc. | Methods and systems for creating virtual and augmented reality |
IL231862A (en) | 2014-04-01 | 2015-04-30 | Superfish Ltd | Image representation using a neural network |
WO2015164807A1 (en) | 2014-04-25 | 2015-10-29 | Texas State University | Detection of brain injury and subject state with eye movement biometrics |
US9766715B2 (en) | 2014-05-01 | 2017-09-19 | Seiko Epson Corporation | Head-mount type display device, control system, method of controlling head-mount type display device, and computer program |
KR102173699B1 (ko) | 2014-05-09 | 2020-11-03 | 아이플루언스, 인크. | 안구 신호들의 인식 및 지속적인 생체 인증을 위한 시스템과 방법들 |
USD759657S1 (en) | 2014-05-19 | 2016-06-21 | Microsoft Corporation | Connector with illumination region |
WO2015184413A1 (en) | 2014-05-30 | 2015-12-03 | Magic Leap, Inc. | Methods and systems for generating virtual content display with a virtual or augmented reality apparatus |
USD752529S1 (en) | 2014-06-09 | 2016-03-29 | Comcast Cable Communications, Llc | Electronic housing with illuminated region |
US9766806B2 (en) * | 2014-07-15 | 2017-09-19 | Microsoft Technology Licensing, Llc | Holographic keyboard display |
US9536293B2 (en) | 2014-07-30 | 2017-01-03 | Adobe Systems Incorporated | Image assessment using deep convolutional neural networks |
US20160034811A1 (en) | 2014-07-31 | 2016-02-04 | Apple Inc. | Efficient generation of complementary acoustic models for performing automatic speech recognition system combination |
US9659384B2 (en) | 2014-10-03 | 2017-05-23 | EyeEm Mobile GmbH. | Systems, methods, and computer program products for searching and sorting images by aesthetic quality |
EP3204888A4 (en) | 2014-10-09 | 2017-10-04 | Microsoft Technology Licensing, LLC | Spatial pyramid pooling networks for image processing |
US9530071B2 (en) | 2014-10-10 | 2016-12-27 | Beijing Kuangshi Technology Co., Ltd. | Hierarchical interlinked multi-scale convolutional network for image parsing |
US9900541B2 (en) * | 2014-12-03 | 2018-02-20 | Vizio Inc | Augmented reality remote control |
KR102276339B1 (ko) | 2014-12-09 | 2021-07-12 | 삼성전자주식회사 | Cnn의 근사화를 위한 학습 장치 및 방법 |
US9836641B2 (en) | 2014-12-17 | 2017-12-05 | Google Inc. | Generating numeric embeddings of images |
US9678664B2 (en) | 2015-04-10 | 2017-06-13 | Google Inc. | Neural network for keyboard input decoding |
US10007413B2 (en) * | 2015-04-27 | 2018-06-26 | Microsoft Technology Licensing, Llc | Mixed environment display of attached control elements |
USD758367S1 (en) | 2015-05-14 | 2016-06-07 | Magic Leap, Inc. | Virtual reality headset |
CN108135469B (zh) | 2015-08-21 | 2021-03-09 | 奇跃公司 | 使用眼睛姿态测量的眼睑形状估计 |
USD805734S1 (en) | 2016-03-04 | 2017-12-26 | Nike, Inc. | Shirt |
USD794288S1 (en) | 2016-03-11 | 2017-08-15 | Nike, Inc. | Shoe with illuminable sole light sequence |
CN109661194B (zh) | 2016-07-14 | 2022-02-25 | 奇跃公司 | 使用角膜曲率的虹膜边界估计 |
KR102450441B1 (ko) | 2016-07-14 | 2022-09-30 | 매직 립, 인코포레이티드 | 홍채 식별을 위한 딥 뉴럴 네트워크 |
IL281241B (en) | 2016-08-22 | 2022-08-01 | Magic Leap Inc | An augmented reality display device with deep learning sensors |
RU2016138608A (ru) | 2016-09-29 | 2018-03-30 | Мэджик Лип, Инк. | Нейронная сеть для сегментации изображения глаза и оценки качества изображения |
IL281321B (en) | 2016-10-04 | 2022-07-01 | Magic Leap Inc | Efficient data layouts for convolutional neural networks |
US10621747B2 (en) | 2016-11-15 | 2020-04-14 | Magic Leap, Inc. | Deep learning system for cuboid detection |
AU2017370555B2 (en) | 2016-12-05 | 2022-12-15 | Magic Leap, Inc. | Virtual user input controls in a mixed reality environment |
US10803616B1 (en) | 2017-04-13 | 2020-10-13 | Facebook Technologies, Llc | Hand calibration using single depth camera |
CA3068448A1 (en) | 2017-07-26 | 2019-01-31 | Magic Leap, Inc. | Training a neural network with representations of user interface devices |
-
2017
- 2017-12-01 AU AU2017370555A patent/AU2017370555B2/en not_active Expired - Fee Related
- 2017-12-01 EP EP17878799.0A patent/EP3549109B1/en active Active
- 2017-12-01 EP EP23166917.7A patent/EP4220572A1/en active Pending
- 2017-12-01 WO PCT/US2017/064311 patent/WO2018106542A1/en active Application Filing
- 2017-12-01 KR KR1020237015360A patent/KR20230070318A/ko not_active Application Discontinuation
- 2017-12-01 IL IL266888A patent/IL266888B2/en unknown
- 2017-12-01 KR KR1020227021144A patent/KR102531542B1/ko active IP Right Grant
- 2017-12-01 CN CN202310836975.7A patent/CN116883628A/zh active Pending
- 2017-12-01 KR KR1020197018077A patent/KR102413561B1/ko active IP Right Grant
- 2017-12-01 CN CN201780085438.6A patent/CN110249368B/zh active Active
- 2017-12-01 US US15/829,249 patent/US11150777B2/en active Active
- 2017-12-01 JP JP2019528510A patent/JP7112399B2/ja active Active
- 2017-12-01 CA CA3045664A patent/CA3045664A1/en active Pending
- 2017-12-01 IL IL308490A patent/IL308490A/en unknown
-
2021
- 2021-09-22 US US17/482,256 patent/US11720223B2/en active Active
-
2022
- 2022-05-13 JP JP2022079580A patent/JP7339392B2/ja active Active
-
2023
- 2023-06-08 US US18/331,308 patent/US20230315250A1/en active Pending
- 2023-08-24 JP JP2023136234A patent/JP2023153357A/ja active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10200971A (ja) * | 1997-01-13 | 1998-07-31 | Mitsubishi Electric Corp | パーソナルコンピュータによるワイヤレスリモコンの信号発生装置 |
JP2006146803A (ja) * | 2004-11-24 | 2006-06-08 | Olympus Corp | 操作装置及び遠隔操作システム |
JP2010146481A (ja) * | 2008-12-22 | 2010-07-01 | Brother Ind Ltd | ヘッドマウントディスプレイ |
JP2011209965A (ja) * | 2010-03-29 | 2011-10-20 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
JP2012090077A (ja) * | 2010-10-20 | 2012-05-10 | Konica Minolta Business Technologies Inc | 携帯端末及び処理装置の操作方法 |
JP2013041431A (ja) * | 2011-08-16 | 2013-02-28 | Fujitsu Ltd | 入力装置、入力制御方法及び入力制御プログラム |
JP2013172432A (ja) * | 2012-02-23 | 2013-09-02 | Panasonic Corp | 機器制御装置、機器制御方法、機器制御プログラム、及び集積回路 |
JP2014192838A (ja) * | 2013-03-28 | 2014-10-06 | Saitama Univ | 携帯端末向けarジェスチャユーザインタフェースシステム |
JP2016148968A (ja) * | 2015-02-12 | 2016-08-18 | セイコーエプソン株式会社 | 頭部装着型表示装置、制御システム、頭部装着型表示装置の制御方法、および、コンピュータープログラム |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2023512122A (ja) * | 2020-12-30 | 2023-03-24 | 広東視場科技有限公司 | スマート制御グラス |
Also Published As
Publication number | Publication date |
---|---|
US20220083198A1 (en) | 2022-03-17 |
WO2018106542A1 (en) | 2018-06-14 |
KR20220088962A (ko) | 2022-06-28 |
KR20230070318A (ko) | 2023-05-22 |
KR102531542B1 (ko) | 2023-05-10 |
AU2017370555B2 (en) | 2022-12-15 |
CN110249368B (zh) | 2023-07-07 |
US11150777B2 (en) | 2021-10-19 |
EP3549109B1 (en) | 2023-04-19 |
EP3549109A4 (en) | 2020-07-29 |
IL266888B2 (en) | 2024-05-01 |
JP7112399B2 (ja) | 2022-08-03 |
KR20190094381A (ko) | 2019-08-13 |
CN116883628A (zh) | 2023-10-13 |
IL308490A (en) | 2024-01-01 |
CN110249368A (zh) | 2019-09-17 |
JP2022097726A (ja) | 2022-06-30 |
AU2017370555A1 (en) | 2019-06-13 |
IL266888A (en) | 2019-07-31 |
KR102413561B1 (ko) | 2022-06-24 |
JP2023153357A (ja) | 2023-10-17 |
CA3045664A1 (en) | 2018-06-14 |
EP3549109A1 (en) | 2019-10-09 |
US20180157398A1 (en) | 2018-06-07 |
US11720223B2 (en) | 2023-08-08 |
IL266888B1 (en) | 2024-01-01 |
US20230315250A1 (en) | 2023-10-05 |
JP7339392B2 (ja) | 2023-09-05 |
EP4220572A1 (en) | 2023-08-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7339392B2 (ja) | 複合現実環境における仮想ユーザ入力制御 | |
JP7186913B2 (ja) | 姿勢および複数のdofコントローラを用いた3d仮想オブジェクトとの相互作用 | |
JP7407219B2 (ja) | 3次元空間内の仮想オブジェクトの自動配置 | |
JP7198383B2 (ja) | ユーザインターフェースデバイスの表現を用いたニューラルネットワークの訓練 | |
JP7411133B2 (ja) | 仮想現実ディスプレイシステム、拡張現実ディスプレイシステム、および複合現実ディスプレイシステムのためのキーボード | |
JP7492558B2 (ja) | 視野周辺の視覚的背光 | |
CA3065131A1 (en) | Eye tracking calibration techniques | |
US20220148274A1 (en) | Object interactivity in virtual space |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201127 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210929 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211001 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211209 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20220117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220513 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20220513 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20220523 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20220524 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220707 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220722 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7112399 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |