JP7459050B2 - 仮想キャラクタの姿勢空間変形のための姿勢空間次元低減 - Google Patents
仮想キャラクタの姿勢空間変形のための姿勢空間次元低減 Download PDFInfo
- Publication number
- JP7459050B2 JP7459050B2 JP2021503745A JP2021503745A JP7459050B2 JP 7459050 B2 JP7459050 B2 JP 7459050B2 JP 2021503745 A JP2021503745 A JP 2021503745A JP 2021503745 A JP2021503745 A JP 2021503745A JP 7459050 B2 JP7459050 B2 JP 7459050B2
- Authority
- JP
- Japan
- Prior art keywords
- pose
- user
- poses
- input
- space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000009467 reduction Effects 0.000 title description 8
- 238000000034 method Methods 0.000 claims description 149
- 230000009466 transformation Effects 0.000 claims description 90
- 239000011159 matrix material Substances 0.000 claims description 88
- 230000002829 reductive effect Effects 0.000 claims description 31
- 239000013598 vector Substances 0.000 claims description 24
- 238000013507 mapping Methods 0.000 claims description 18
- 238000004891 communication Methods 0.000 claims description 15
- 238000000513 principal component analysis Methods 0.000 claims description 15
- 230000008859 change Effects 0.000 claims description 14
- 230000003190 augmentative effect Effects 0.000 claims description 10
- 230000005484 gravity Effects 0.000 claims description 4
- 210000001508 eye Anatomy 0.000 description 101
- 238000012545 processing Methods 0.000 description 75
- 230000033001 locomotion Effects 0.000 description 49
- 230000008569 process Effects 0.000 description 41
- 210000001503 joint Anatomy 0.000 description 40
- 238000003384 imaging method Methods 0.000 description 36
- 238000004422 calculation algorithm Methods 0.000 description 35
- 238000009877 rendering Methods 0.000 description 27
- 238000000844 transformation Methods 0.000 description 25
- 230000003287 optical effect Effects 0.000 description 23
- 210000000695 crystalline len Anatomy 0.000 description 22
- 230000036544 posture Effects 0.000 description 20
- 210000001747 pupil Anatomy 0.000 description 20
- 239000000203 mixture Substances 0.000 description 16
- 230000004044 response Effects 0.000 description 15
- 210000003128 head Anatomy 0.000 description 14
- 230000004308 accommodation Effects 0.000 description 13
- 238000000605 extraction Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 230000000007 visual effect Effects 0.000 description 11
- 238000004458 analytical method Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 10
- 238000013519 translation Methods 0.000 description 10
- 230000014616 translation Effects 0.000 description 10
- 230000007423 decrease Effects 0.000 description 9
- 238000010801 machine learning Methods 0.000 description 9
- 238000013528 artificial neural network Methods 0.000 description 8
- 230000003993 interaction Effects 0.000 description 8
- 210000003205 muscle Anatomy 0.000 description 8
- 238000012937 correction Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 7
- 230000004424 eye movement Effects 0.000 description 7
- 230000001815 facial effect Effects 0.000 description 7
- 230000008921 facial expression Effects 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 6
- 210000003484 anatomy Anatomy 0.000 description 5
- 238000003064 k means clustering Methods 0.000 description 5
- 230000035807 sensation Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 4
- 230000006399 behavior Effects 0.000 description 4
- 210000002310 elbow joint Anatomy 0.000 description 4
- 239000000463 material Substances 0.000 description 4
- 230000008447 perception Effects 0.000 description 4
- 230000000717 retained effect Effects 0.000 description 4
- 230000001953 sensory effect Effects 0.000 description 4
- 238000000926 separation method Methods 0.000 description 4
- 210000000323 shoulder joint Anatomy 0.000 description 4
- 239000007787 solid Substances 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 230000002350 accommodative effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 210000004556 brain Anatomy 0.000 description 3
- 238000000354 decomposition reaction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000004438 eyesight Effects 0.000 description 3
- 238000005192 partition Methods 0.000 description 3
- 239000000047 product Substances 0.000 description 3
- 210000003813 thumb Anatomy 0.000 description 3
- 210000003857 wrist joint Anatomy 0.000 description 3
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 2
- 206010019233 Headaches Diseases 0.000 description 2
- 241000282412 Homo Species 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 2
- 208000003464 asthenopia Diseases 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000003066 decision tree Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 210000000613 ear canal Anatomy 0.000 description 2
- 210000004709 eyebrow Anatomy 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 210000003811 finger Anatomy 0.000 description 2
- 238000007499 fusion processing Methods 0.000 description 2
- 210000004209 hair Anatomy 0.000 description 2
- 231100000869 headache Toxicity 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 210000001331 nose Anatomy 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 230000002207 retinal effect Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 208000002874 Acne Vulgaris Diseases 0.000 description 1
- 241000256837 Apidae Species 0.000 description 1
- 206010011878 Deafness Diseases 0.000 description 1
- 239000004983 Polymer Dispersed Liquid Crystal Substances 0.000 description 1
- 208000036366 Sensation of pressure Diseases 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 206010000496 acne Diseases 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 229910052782 aluminium Inorganic materials 0.000 description 1
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000005253 cladding Methods 0.000 description 1
- 230000001427 coherent effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 238000013479 data entry Methods 0.000 description 1
- 210000000852 deltoid muscle Anatomy 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000001627 detrimental effect Effects 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 210000003414 extremity Anatomy 0.000 description 1
- 210000000744 eyelid Anatomy 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000010348 incorporation Methods 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 210000000088 lip Anatomy 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000036651 mood Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000003565 oculomotor Effects 0.000 description 1
- 238000013488 ordinary least square regression Methods 0.000 description 1
- 238000010422 painting Methods 0.000 description 1
- 210000002976 pectoralis muscle Anatomy 0.000 description 1
- 230000001144 postural effect Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 230000004043 responsiveness Effects 0.000 description 1
- 210000001525 retina Anatomy 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000000243 solution Substances 0.000 description 1
- 125000006850 spacer group Chemical group 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000037303 wrinkles Effects 0.000 description 1
- 210000000707 wrist Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
- G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
- G06V10/763—Non-hierarchical techniques, e.g. based on statistics of modelling distributions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/7715—Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Health & Medical Sciences (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- User Interface Of Digital Computer (AREA)
- Processing Or Creating Images (AREA)
Description
本願は、2018年7月27日号に出願され、「POSE SPACE DIMENSIONALITY REDUCTION FOR POSE SPACE DEFORMATION OF A VIRTUAL CHARACTER」と題された、米国仮特許出願第62/711,326号の優先権を主張する。国内外の優先権の主張が本願とともに申請されるアプリケーションデータシート内で識別される、あらゆる出願は、37CFR1.57下、参照することによって本明細書に組み込まれる。
仮想アバタは、AR/VR/MR環境内の実際または架空の人物(または創造物または擬人化されたオブジェクト)の仮想表現であってもよい。例えば、その中で2人のAR/VR/MRユーザが相互に相互作用する、テレプレゼンスセッションの間、視認者は、別のユーザのアバタを視認者の環境内で知覚し、それによって、他のユーザの存在の有形感覚を視認者の環境内に作成することができる。アバタはまた、共有仮想環境内において、ユーザが、相互に相互作用し、ともに物事を行うための方法を提供することができる。例えば、オンラインクラスに出席する生徒は、仮想教室内の他の生徒または教師のアバタを知覚し、彼らと相互作用することができる。別の実施例として、AR/VR/MR環境内でゲームをプレーしているユーザは、ゲーム内の他のプレーヤのアバタを視認し、彼らと相互作用してもよい。
本発明は、例えば、以下を提供する。
(項目1)
システムであって、
仮想キャラクタのための骨格系の複数の例示的姿勢を記憶するための非一過性コンピュータ記憶装置と、
前記非一過性コンピュータ記憶装置と通信するハードウェアコンピュータプロセッサであって、前記ハードウェアコンピュータプロセッサは、
前記複数の例示的姿勢を1つ以上のクラスタにクラスタ化することであって、前記複数の例示的姿勢は、入力姿勢空間を定義し、前記複数の例示的姿勢はそれぞれ、関節回転のセットを備え、前記関節回転は、特異性のない数学的表現を有する、ことと、
クラスタ毎に、代表的姿勢を決定することと、
前記入力姿勢空間と比較して低減された次元を伴う出力姿勢空間を提供することと
を含む方法を実行することによって、前記入力姿勢空間の次元を低減させるように構成される、ハードウェアコンピュータプロセッサと
を備える、システム。
(項目2)
前記関節回転の特異性のない数学的表現は、四元数表現を含む、項目1に記載のシステム。
(項目3)
オイラー角表現を有する前記関節回転とともに、前記複数の例示的姿勢を受信することと、
前記オイラー角表現を前記四元数表現に変換することと
をさらに含む、項目2に記載のシステム。
(項目4)
前記例示的姿勢は、各例示的姿勢と各クラスタとの間の類似性を決定するためのメトリックに基づいて、前記1つ以上のクラスタにクラスタ化される、項目1に記載のシステム。
(項目5)
前記例示的姿勢をクラスタ化することは、前記例示的姿勢のそれぞれを多次元空間内の点にマッピングすることを含む、項目1に記載のシステム。
(項目6)
前記例示的姿勢をクラスタ化することはさらに、
クラスタ毎に、重心を決定することと、
前記例示的姿勢毎の点と各クラスタの重心との間の距離を決定することと、
各例示的姿勢を最も近くのクラスタに割り当てることと
を含む、項目5に記載のシステム。
(項目7)
反復的に、クラスタ毎に、前記重心を決定し、各例示的姿勢を最も近くのクラスタに割り当てることをさらに含む、項目6に記載のシステム。
(項目8)
前記クラスタ毎の代表的姿勢は、そのクラスタに割り当てられる例示的姿勢またはそのクラスタの重心と関連付けられる例示的姿勢のうちの1つを含む、項目6に記載のシステム。
(項目9)
クラスタの数を決定することをさらに含む、項目1に記載のシステム。
(項目10)
クラスタの数を決定することは、
クラスタの複数の異なる候補数毎に、前記複数の例示的姿勢を前記1つ以上のクラスタにクラスタ化することと、
クラスタの各候補数と関連付けられる誤差メトリックを計算することと、
前記クラスタの候補数と関連付けられる前記誤差メトリックに基づいて、前記クラスタの候補数のうちの1つを選択することと
を含む、項目9に記載のシステム。
(項目11)
前記誤差メトリックは、前記入力姿勢空間内の例示的姿勢の全てに関する各例示的姿勢に対応する点とその割り当てられるクラスタの重心との間の二乗距離の和を含む、項目10に記載のシステム。
(項目12)
前記クラスタの候補数のうちの1つを選択することは、その誤差メトリックが選択された基準を満たすかどうかを決定することを含む、項目10に記載のシステム。
(項目13)
前記基準は、前記誤差メトリックの変化率が指定された閾値を超えることである、項目12に記載のシステム。
(項目14)
前記出力姿勢空間を使用して、姿勢空間デフォーマを訓練することをさらに含む、項目1に記載のシステム。
(項目15)
前記姿勢空間デフォーマを使用して、仮想キャラクタのためのメッシュ変形を計算することをさらに含む、項目14に記載のシステム。
(項目16)
前記姿勢空間デフォーマを使用して、出力変形行列内の複数のブレンドシェイプを制御することをさらに含む、項目14に記載のシステム。
(項目17)
前記出力変形行列は、主成分分析を使用して入力変形行列の次元を低減させることによって生成される、項目16に記載のシステム。
(項目18)
前記入力変形行列の次元を低減させることは、
前記入力変形行列の主成分を決定することと、
前記主成分のうちの1つ以上のものを省略し、1つ以上の残りの主成分を残すことと、
前記1つ以上の残りの主成分と関連付けられる1つ以上のブレンドシェイプを使用して、前記出力変形行列を生成することと
を含む、項目17に記載のシステム。
(項目19)
前記出力姿勢空間は、前記入力姿勢空間より少なくとも30%小さい、項目1に記載のシステム。
(項目20)
前記システムは、仮想現実、拡張現実、または複合現実ディスプレイシステムを備える、項目1に記載のシステム。
(項目21)
方法であって、
仮想キャラクタのための骨格系の複数の例示的姿勢を取得することであって、前記複数の例示的姿勢は、入力姿勢空間を定義し、前記複数の例示的姿勢はそれぞれ、関節回転のセットを備え、前記関節回転は、特異性のない数学的表現を有する、ことと、
前記複数の例示的姿勢を1つ以上のクラスタにクラスタ化することと、
クラスタ毎に、代表的姿勢を決定することと、
前記入力姿勢空間と比較して低減された次元を伴う出力姿勢空間を提供することと
を含む、方法。
ウェアラブルシステム(本明細書では、拡張現実(AR)システムとも称される)は、2Dまたは3D仮想画像をユーザに提示するために構成されることができる。画像は、組み合わせまたは同等物における、静止画像、ビデオのフレーム、またはビデオであってもよい。ウェアラブルシステムの少なくとも一部は、ユーザ相互作用のために、単独で、または組み合わせて、VR、AR、またはMR環境を提示し得る、ウェアラブルデバイス上に実装されることができる。ウェアラブルデバイスは、ARデバイス(ARD)と同義的に使用されることができる。さらに、本開示の目的のために、用語「AR」は、用語「MR」と同義的に使用される。
ウェアラブルシステムの例示的コンポーネント
導波管スタックアセンブリ
ウェアラブルシステムの他のコンポーネント
(ウェアラブルシステムとのユーザ相互作用の例示的プロセス)
(複合現実におけるアバタレンダリングの実施例)
(ユーザの環境をマッピングする実施例)
(複数のウェアラブルシステム間の例示的通信)
(テレプレゼンスセッションの実施例)
(仮想アバタの実施例)
(仮想キャラクタのためのリギングシステムの実施例)
(仮想キャラクタの姿勢空間変形のための姿勢空間次元低減)
(主成分分析を使用したブレンドシェイプの圧縮)
(例示的実施形態)
システムであって、仮想キャラクタのための骨格系の複数の例示的姿勢を記憶するための非一過性コンピュータ記憶装置と、非一過性コンピュータ記憶装置と通信する、ハードウェアコンピュータプロセッサであって、複数の例示的姿勢を1つ以上のクラスタにクラスタ化するステップであって、複数の例示的姿勢は、入力姿勢空間を定義し、複数の例示的姿勢はそれぞれ、関節回転のセットを備え、関節回転は、特異性のない数学的表現を有する、ステップと、クラスタ毎に、代表的姿勢を決定するステップと、入力姿勢空間と比較して低減された次元を伴う、出力姿勢空間を提供するステップとを含む、方法を実行することによって、入力姿勢空間の次元を低減させるように構成される、ハードウェアコンピュータプロセッサとを備える、システム。
関節回転の特異性のない数学的表現は、四元数表現を含む、項目1に記載のシステム。
オイラー角表現を有する関節回転とともに、複数の例示的姿勢を受信するステップと、オイラー角表現を四元数表現に変換するステップとをさらに含む、項目2に記載のシステム。
例示的姿勢は、各例示的姿勢と各クラスタとの間の類似性を決定するためのメトリックに基づいて、1つ以上のクラスタにクラスタ化される、項目1に記載のシステム。
例示的姿勢をクラスタ化するステップは、例示的姿勢のそれぞれを多次元空間内の点にマッピングするステップを含む、項目1に記載のシステム。
例示的姿勢をクラスタ化するステップはさらに、クラスタ毎に、重心を決定するステップと、例示的姿勢毎の点と各クラスタの重心との間の距離を決定するステップと、各例示的姿勢を最も近くのクラスタに割り当てるステップとを含む、項目5に記載のシステム。
反復的に、クラスタ毎に、重心を決定し、各例示的姿勢を最も近くのクラスタに割り当てるステップをさらに含む、項目6に記載のシステム。
クラスタ毎の代表的姿勢は、そのクラスタに割り当てられる例示的姿勢またはそのクラスタの重心と関連付けられる例示的姿勢のうちの1つを含む、項目6に記載のシステム。
クラスタの数を決定するステップをさらに含む、項目1に記載のシステム。
クラスタの数を決定するステップは、クラスタの複数の異なる候補数毎に、複数の例示的姿勢を1つ以上のクラスタにクラスタ化するステップと、クラスタの各候補数と関連付けられる誤差メトリックを計算するステップと、クラスタの候補数と関連付けられる誤差メトリックに基づいて、クラスタの候補数のうちの1つを選択するステップとを含む、項目9に記載のシステム。
誤差メトリックは、入力姿勢空間内の例示的姿勢の全てに関する、各例示的姿勢に対応する点とその割り当てられるクラスタの重心との間の二乗距離の和を含む、項目10に記載のシステム。
クラスタの候補数のうちの1つを選択するステップは、その誤差メトリックが選択された基準を満たすかどうかを決定するステップを含む、項目10に記載のシステム。
基準は、誤差メトリックの変化率が指定された閾値を超えることである、項目12に記載のシステム。
出力姿勢空間を使用して、姿勢空間デフォーマを訓練するステップをさらに含む、項目1に記載のシステム。
姿勢空間デフォーマを使用して、仮想キャラクタのためのメッシュ変形を計算するステップをさらに含む、項目14に記載のシステム。
姿勢空間デフォーマを使用して、出力変形行列内の複数のブレンドシェイプを制御するステップをさらに含む、項目14に記載のシステム。
出力変形行列は、主成分分析を使用して入力変形行列の次元を低減させることによって生成される、項目16に記載のシステム。
入力変形行列の次元を低減させるステップは、入力変形行列の主成分を決定するステップと、主成分のうちの1つ以上のものを省略し、1つ以上の残りの主成分を残すステップと、1つ以上の残りの主成分と関連付けられる1つ以上のブレンドシェイプを使用して、出力変形行列を生成するステップとを含む、項目17に記載のシステム。
出力姿勢空間は、入力姿勢空間より少なくとも30%小さい、項目1に記載のシステム。
システムは、仮想現実、拡張現実、または複合現実ディスプレイシステムを備える、項目1に記載のシステム。
方法であって、仮想キャラクタのための骨格系の複数の例示的姿勢を取得するステップであって、複数の例示的姿勢は、入力姿勢空間を定義し、複数の例示的姿勢はそれぞれ、関節回転のセットを備え、関節回転は、特異性のない数学的表現を有する、ステップと、複数の例示的姿勢を1つ以上のクラスタにクラスタ化するステップと、クラスタ毎に、代表的姿勢を決定するステップと、入力姿勢空間と比較して低減された次元を伴う、出力姿勢空間を提供するステップとを含む、方法。
関節回転の特異性のない数学的表現は、四元数表現を含む、項目21に記載の方法。
オイラー角表現を有する関節回転とともに、複数の例示的姿勢を受信するステップと、オイラー角表現を四元数表現に変換するステップとをさらに含む、項目22に記載の方法。
例示的姿勢は、各例示的姿勢と各クラスタとの間の類似性を決定するためのメトリックに基づいて、1つ以上のクラスタにクラスタ化される、項目21に記載の方法。
例示的姿勢をクラスタ化するステップは、例示的姿勢のそれぞれを多次元空間内の点にマッピングするステップを含む、項目21に記載の方法。
例示的姿勢をクラスタ化するステップはさらに、クラスタ毎に、重心を決定するステップと、例示的姿勢毎の点と各クラスタの重心との間の距離を決定するステップと、各例示的姿勢を最も近くのクラスタに割り当てるステップとを含む、項目25に記載の方法。
反復的に、クラスタ毎に、重心を決定し、各例示的姿勢を最も近くのクラスタに割り当てるステップをさらに含む、項目26に記載の方法。
クラスタ毎の代表的姿勢は、そのクラスタに割り当てられる例示的姿勢またはそのクラスタの重心と関連付けられる例示的姿勢のうちの1つを含む、項目26に記載の方法。
クラスタの数を決定するステップをさらに含む、項目21に記載の方法。
クラスタの数を決定するステップは、クラスタの複数の異なる候補数毎に、複数の例示的姿勢を1つ以上のクラスタにクラスタ化するステップと、クラスタの各候補数と関連付けられる誤差メトリックを計算するステップと、クラスタの候補数と関連付けられる誤差メトリックに基づいて、クラスタの候補数のうちの1つを選択するステップとを含む、項目29に記載の方法。
誤差メトリックは、入力姿勢空間内の例示的姿勢の全てに関する、各例示的姿勢に対応する点とその割り当てられるクラスタの重心との間の二乗距離の和を含む、項目30に記載の方法。
クラスタの候補数のうちの1つを選択するステップは、その誤差メトリックが選択された基準を満たすかどうかを決定するステップを含む、項目30に記載の方法。
基準は、誤差メトリックの変化率が指定された閾値を超えることである、項目32に記載の方法。
出力姿勢空間を使用して、姿勢空間デフォーマを訓練するステップをさらに含む、項目21に記載の方法。
姿勢空間デフォーマを使用して、仮想キャラクタのためのメッシュ変形を計算するステップをさらに含む、項目34に記載の方法。
姿勢空間デフォーマを使用して、出力変形行列内の複数のブレンドシェイプを制御するステップをさらに含む、項目34に記載の方法。
出力変形行列は、主成分分析を使用して入力変形行列の次元を低減させることによって生成される、項目36に記載の方法。
入力変形行列の次元を低減させるステップは、入力変形行列の主成分を決定するステップと、主成分のうちの1つ以上のものを省略し、1つ以上の残りの主成分を残すステップと、1つ以上の残りの主成分と関連付けられる1つ以上のブレンドシェイプを使用して、出力変形行列を生成するステップとを含む、項目37に記載の方法。
出力姿勢空間は、入力姿勢空間より少なくとも30%小さい、項目21に記載の方法。
方法は、仮想現実、拡張現実、または複合現実ディスプレイシステムによって実施される、項目21に記載の方法。
非一過性コンピュータ可読媒体であって、ハードウェアコンピュータプロセッサによって読み取られると、ハードウェアコンピュータプロセッサに、仮想キャラクタのための骨格系の複数の例示的姿勢を取得するステップであって、複数の例示的姿勢は、入力姿勢空間を定義し、複数の例示的姿勢はそれぞれ、関節回転のセットを備え、関節回転は、特異性のない数学的表現を有する、ステップと、複数の例示的姿勢を1つ以上のクラスタにクラスタ化するステップと、クラスタ毎に、代表的姿勢を決定するステップと、入力姿勢空間と比較して低減された次元を伴う、出力姿勢空間を提供するステップとを含む、方法を実施させる、非一過性コンピュータ可読媒体。
関節回転の特異性のない数学的表現は、四元数表現を含む、項目41に記載のコンピュータ可読媒体。
本方法はさらに、オイラー角表現を有する関節回転とともに、複数の例示的姿勢を受信するステップと、オイラー角表現を四元数表現に変換するステップとを含む、項目42に記載のコンピュータ可読媒体。
例示的姿勢は、各例示的姿勢と各クラスタとの間の類似性を決定するためのメトリックに基づいて、1つ以上のクラスタにクラスタ化される、項目41に記載のコンピュータ可読媒体。
例示的姿勢をクラスタ化するステップは、例示的姿勢のそれぞれを多次元空間内の点にマッピングするステップを含む、項目41に記載のコンピュータ可読媒体。
例示的姿勢をクラスタ化するステップはさらに、クラスタ毎に、重心を決定するステップと、例示的姿勢毎の点と各クラスタの重心との間の距離を決定するステップと、各例示的姿勢を最も近くのクラスタに割り当てるステップとを含む、項目45に記載のコンピュータ可読媒体。
本方法はさらに、反復的に、クラスタ毎に、重心を決定し、各例示的姿勢を最も近くのクラスタに割り当てるステップを含む、項目46に記載のコンピュータ可読媒体。
クラスタ毎の代表的姿勢は、そのクラスタに割り当てられる例示的姿勢またはそのクラスタの重心と関連付けられる例示的姿勢のうちの1つを含む、項目46に記載のコンピュータ可読媒体。
本方法はさらに、クラスタの数を決定するステップを含む、項目41に記載のコンピュータ可読媒体。
クラスタの数を決定するステップは、クラスタの複数の異なる候補数毎に、複数の例示的姿勢を1つ以上のクラスタにクラスタ化するステップと、クラスタの各候補数と関連付けられる誤差メトリックを計算するステップと、クラスタの候補数と関連付けられる誤差メトリックに基づいて、クラスタの候補数のうちの1つを選択するステップとを含む、項目49に記載のコンピュータ可読媒体。
誤差メトリックは、入力姿勢空間内の例示的姿勢の全てに関する、各例示的姿勢に対応する点とその割り当てられるクラスタの重心との間の二乗距離の和を含む、項目50に記載のコンピュータ可読媒体。
クラスタの候補数のうちの1つを選択するステップは、その誤差メトリックが選択された基準を満たすかどうかを決定するステップを含む、項目50に記載のコンピュータ可読媒体。
基準は、誤差メトリックの変化率が指定された閾値を超えることである、項目52に記載のコンピュータ可読媒体。
本方法はさらに、出力姿勢空間を使用して、姿勢空間デフォーマを訓練するステップを含む、項目41に記載のコンピュータ可読媒体。
本方法はさらに、姿勢空間デフォーマを使用して、仮想キャラクタのためのメッシュ変形を計算するステップを含む、項目54に記載のコンピュータ可読媒体。
本方法はさらに、姿勢空間デフォーマを使用して、出力変形行列内の複数のブレンドシェイプを制御するステップを含む、項目54に記載のコンピュータ可読媒体。
出力変形行列は、主成分分析を使用して入力変形行列の次元を低減させることによって生成される、項目56に記載のコンピュータ可読媒体。
入力変形行列の次元を低減させるステップは、入力変形行列の主成分を決定するステップと、主成分のうちの1つ以上のものを省略し、1つ以上の残りの主成分を残すステップと、1つ以上の残りの主成分と関連付けられる1つ以上のブレンドシェイプを使用して、出力変形行列を生成するステップとを含む、項目57に記載のコンピュータ可読媒体。
出力姿勢空間は、入力姿勢空間より少なくとも30%小さい、項目41に記載のコンピュータ可読媒体。
方法は、仮想現実、拡張現実、または複合現実ディスプレイシステムによって実施される、項目41に記載のコンピュータ可読媒体。
(他の考慮点)
Claims (22)
- システムであって、前記システムは、
仮想キャラクタのための骨格系の複数の例示的姿勢を記憶するための非一過性のコンピュータ記憶装置と、
前記非一過性のコンピュータ記憶装置と通信するハードウェアコンピュータプロセッサであって、前記ハードウェアコンピュータプロセッサは、方法を実行することによって、入力姿勢空間の次元を低減するように構成されている、ハードウェアコンピュータプロセッサと
を備え、
前記方法は、
前記複数の例示的姿勢を1つ以上のクラスタにクラスタ化することであって、前記複数の例示的姿勢は、前記入力姿勢空間を定義し、前記複数の例示的姿勢のそれぞれは、関節回転のセットを備え、前記関節回転は、関節の同一角回転を表すオイラー角の3値セットを含まない数学的表現を有する、ことと、
前記複数の例示的姿勢のそれぞれに対応する多次元空間内の点を決定することによって、クラスタ毎に、代表的姿勢を決定することであって、クラスタ毎の前記代表的姿勢に対応する多次元空間内の前記点は、各クラスタの重心に最も近い位置に配置される、ことと、
前記入力姿勢空間と比較して低減された次元を有する出力姿勢空間を提供することと
を含む、システム。 - 前記関節回転の数学的表現は、四元数表現を含む、請求項1に記載のシステム。
- 前記方法は、
オイラー角表現を有する前記関節回転とともに、前記複数の例示的姿勢を受信することと、
前記オイラー角表現を前記四元数表現に変換することと
をさらに含む、請求項2に記載のシステム。 - 前記複数の例示的姿勢は、各例示的姿勢と各クラスタとの間の類似性を決定するためのメトリックに基づいて、前記1つ以上のクラスタにクラスタ化される、請求項1に記載のシステム。
- 前記複数の例示的姿勢をクラスタ化することは、前記複数の例示的姿勢のそれぞれを多次元空間内の点にマッピングすることを含む、請求項1に記載のシステム。
- 前記複数の例示的姿勢をクラスタ化することは、
クラスタ毎に、重心を決定することと、
各例示的姿勢の点と各クラスタの重心との間の距離を決定することと、
各例示的姿勢を最も近くのクラスタに割り当てることと
をさらに含む、請求項5に記載のシステム。 - 前記方法は、クラスタ毎に、前記重心を反復的に決定することと、各例示的姿勢を最も近くのクラスタに割り当てることとをさらに含む、請求項6に記載のシステム。
- クラスタ毎の前記代表的姿勢は、それぞれのクラスタに割り当てられた前記複数の例示的姿勢のうちの1つまたはそれぞれのクラスタの重心に関連付けられた例示的姿勢を含む、請求項6に記載のシステム。
- 前記方法は、クラスタの数を決定することをさらに含む、請求項1に記載のシステム。
- クラスタの数を決定することは、
クラスタの複数の異なる候補数のそれぞれに対して、前記複数の例示的姿勢を前記1つ以上のクラスタにクラスタ化することと、
クラスタの各候補数に関連付けられた誤差メトリックを計算することと、
クラスタの各候補数に関連付けられた誤差メトリックに基づいて、クラスタの前記複数の候補数のうちの1つを選択することと
を含む、請求項9に記載のシステム。 - 前記誤差メトリックは、前記入力姿勢空間内の前記複数の例示的姿勢のすべてに対して、各例示的姿勢に対応する点とその割り当てられたクラスタの重心との間の二乗距離の和を含む、請求項10に記載のシステム。
- クラスタの前記複数の候補数のうちの1つを選択することは、クラスタの前記複数の候補数のうちの前記1つに関連付けられた前記誤差メトリックが選択された基準を満たすかどうかを決定することを含む、請求項10に記載のシステム。
- 前記選択された基準は、前記誤差メトリックの変化率が指定された閾値を超えることである、請求項12に記載のシステム。
- 前記方法は、前記出力姿勢空間を使用して、姿勢空間デフォーマを訓練することをさらに含み、前記姿勢空間デフォーマは、特定の姿勢と定義された姿勢との間の1つ以上の距離に基づいて、前記特定の姿勢のための変形出力を決定する、請求項1に記載のシステム。
- 前記方法は、前記姿勢空間デフォーマを使用して、仮想キャラクタのためのメッシュ変形を計算することをさらに含む、請求項14に記載のシステム。
- 前記方法は、前記姿勢空間デフォーマを使用して、出力変形行列内の複数のブレンドシェイプを制御することをさらに含み、前記複数のブレンドシェイプは、入力変形行列のための基底ベクトルである前記入力変形行列の複数の主成分によって定義され、前記入力変形行列の前記複数の主成分は、前記入力変形行列によって特定された複数の点の間の最大分散の方向を指す第1の主成分を含み、前記出力変形行列の次元は、前記入力変形行列の次元より低い、請求項14に記載のシステム。
- 前記出力変形行列は、主成分分析を使用して、前記入力変形行列の次元を低減することによって生成される、請求項16に記載のシステム。
- 前記入力変形行列の次元を低減することは、
前記入力変形行列の前記複数の主成分を決定することと、
前記複数の主成分のうちの1つ以上を省略することにより、1つ以上の残りの主成分を残すことと、
前記1つ以上の残りの主成分に関連付けられた1つ以上のブレンドシェイプを使用して、前記出力変形行列を生成することと
を含む、請求項17に記載のシステム。 - 前記出力姿勢空間は、前記入力姿勢空間より少なくとも30%小さい、請求項1に記載のシステム。
- 前記システムは、仮想現実ディスプレイシステム、または、拡張現実ディスプレイシステム、または、複合現実ディスプレイシステムを備える、請求項1に記載のシステム。
- 前記低減された次元を有する前記出力姿勢空間は、クラスタ毎の前記代表的姿勢から成る、請求項1に記載のシステム。
- 方法であって、
仮想キャラクタのための骨格系の複数の例示的姿勢を取得することであって、前記複数の例示的姿勢は、入力姿勢空間を定義し、前記複数の例示的姿勢のそれぞれは、関節回転のセットを備え、前記関節回転は、関節の同一角回転を表すオイラー角の3値セットを含まない数学的表現を有する、ことと、
前記複数の例示的姿勢を1つ以上のクラスタにクラスタ化することと、
前記複数の例示的姿勢のそれぞれに対応する多次元空間内の点を決定することによって、クラスタ毎に、代表的姿勢を決定することであって、クラスタ毎の前記代表的姿勢に対応する多次元空間内の前記点は、各クラスタの重心に最も近い位置に配置される、ことと、
前記入力姿勢空間と比較して低減された次元を有する出力姿勢空間を提供することと
を含む方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2024043769A JP2024069598A (ja) | 2018-07-27 | 2024-03-19 | 仮想キャラクタの姿勢空間変形のための姿勢空間次元低減 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862711326P | 2018-07-27 | 2018-07-27 | |
US62/711,326 | 2018-07-27 | ||
PCT/US2019/043506 WO2020023788A1 (en) | 2018-07-27 | 2019-07-25 | Pose space dimensionality reduction for pose space deformation of a virtual character |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2024043769A Division JP2024069598A (ja) | 2018-07-27 | 2024-03-19 | 仮想キャラクタの姿勢空間変形のための姿勢空間次元低減 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2021530815A JP2021530815A (ja) | 2021-11-11 |
JPWO2020023788A5 JPWO2020023788A5 (ja) | 2022-08-02 |
JP7459050B2 true JP7459050B2 (ja) | 2024-04-01 |
Family
ID=69177449
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021503745A Active JP7459050B2 (ja) | 2018-07-27 | 2019-07-25 | 仮想キャラクタの姿勢空間変形のための姿勢空間次元低減 |
JP2024043769A Pending JP2024069598A (ja) | 2018-07-27 | 2024-03-19 | 仮想キャラクタの姿勢空間変形のための姿勢空間次元低減 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2024043769A Pending JP2024069598A (ja) | 2018-07-27 | 2024-03-19 | 仮想キャラクタの姿勢空間変形のための姿勢空間次元低減 |
Country Status (5)
Country | Link |
---|---|
US (3) | US10950024B2 (ja) |
EP (1) | EP3830673A4 (ja) |
JP (2) | JP7459050B2 (ja) |
CN (1) | CN112753007A (ja) |
WO (1) | WO2020023788A1 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109584295B (zh) | 2017-09-29 | 2022-08-26 | 阿里巴巴集团控股有限公司 | 对图像内目标物体进行自动标注的方法、装置及*** |
WO2020023788A1 (en) | 2018-07-27 | 2020-01-30 | Magic Leap, Inc. | Pose space dimensionality reduction for pose space deformation of a virtual character |
KR20220143721A (ko) | 2020-03-31 | 2022-10-25 | 소니그룹주식회사 | 볼류메트릭 캡처 및 메시 추적 기반 머신 학습 |
JP2022108496A (ja) * | 2021-01-13 | 2022-07-26 | 株式会社リコー | 光学装置、視線検出装置、網膜投影表示装置、頭部装着型表示装置、検眼装置、立体物の傾き検出方法及び視線検出方法 |
CN113470113B (zh) * | 2021-08-13 | 2023-07-21 | 西南科技大学 | 一种融合brief特征匹配与icp点云配准的零部件姿态估计方法 |
CN113766418B (zh) * | 2021-08-31 | 2022-07-15 | 中国矿业大学 | 一种基于uwb技术的姿态自校正井下运输设备及其控制方法 |
CN113554736B (zh) * | 2021-09-22 | 2021-12-21 | 成都市谛视科技有限公司 | 骨骼动画顶点矫正方法及模型的学习方法、装置和设备 |
WO2023152974A1 (ja) * | 2022-02-14 | 2023-08-17 | 日本電気株式会社 | 画像処理装置、画像処理方法、およびプログラム |
US11887233B2 (en) * | 2022-02-18 | 2024-01-30 | Digital Domain Virtual Human (Us), Inc. | Machine learning acceleration of complex deformations such as muscle, skin and clothing simulation |
WO2023170795A1 (ja) * | 2022-03-08 | 2023-09-14 | ソフトバンク株式会社 | 情報処理装置、情報処理方法、およびプログラム |
CN115223240B (zh) * | 2022-07-05 | 2023-07-07 | 北京甲板智慧科技有限公司 | 基于动态时间规整算法的运动实时计数方法和*** |
US20240085987A1 (en) * | 2022-09-12 | 2024-03-14 | Apple Inc. | Environmentally Aware Gestures |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005165962A (ja) | 2003-12-05 | 2005-06-23 | Konami Computer Entertainment Japan Inc | データ処理方法、データ処理装置 |
JP2009064069A (ja) | 2007-09-04 | 2009-03-26 | Konami Digital Entertainment:Kk | 画像処理プログラム、画像処理装置及び画像処理制御方法 |
JP2010176380A (ja) | 2009-01-29 | 2010-08-12 | Sony Corp | 情報処理装置および方法、プログラム、並びに記録媒体 |
WO2015133206A1 (ja) | 2014-03-05 | 2015-09-11 | コニカミノルタ株式会社 | 画像処理装置、画像処理方法、および、画像処理プログラム |
US20160093084A1 (en) | 2014-09-30 | 2016-03-31 | Pixar | Subspace clothing simulation using adaptive bases |
Family Cites Families (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6222525B1 (en) | 1992-03-05 | 2001-04-24 | Brad A. Armstrong | Image controllers with sheet connected sensors |
US5459636A (en) | 1994-01-14 | 1995-10-17 | Hughes Aircraft Company | Position and orientation estimation neural network system and method |
US5670988A (en) | 1995-09-05 | 1997-09-23 | Interlink Electronics, Inc. | Trigger operated electronic device |
JP4509860B2 (ja) | 2005-05-25 | 2010-07-21 | 株式会社東芝 | データ分割装置、データ分割方法およびプログラム |
US8696113B2 (en) | 2005-10-07 | 2014-04-15 | Percept Technologies Inc. | Enhanced optical and perceptual digital eyewear |
US11428937B2 (en) | 2005-10-07 | 2022-08-30 | Percept Technologies | Enhanced optical and perceptual digital eyewear |
US20070081123A1 (en) | 2005-10-07 | 2007-04-12 | Lewis Scott W | Digital eyewear |
US9304319B2 (en) | 2010-11-18 | 2016-04-05 | Microsoft Technology Licensing, Llc | Automatic focus improvement for augmented reality displays |
US10156722B2 (en) | 2010-12-24 | 2018-12-18 | Magic Leap, Inc. | Methods and systems for displaying stereoscopy with a freeform optical system with addressable focus for virtual and augmented reality |
KR101890328B1 (ko) | 2010-12-24 | 2018-08-21 | 매직 립, 인코포레이티드 | 인체공학적 머리 장착식 디스플레이 장치 및 광학 시스템 |
EP3462286A1 (en) | 2011-05-06 | 2019-04-03 | Magic Leap, Inc. | Massive simultaneous remote digital presence world |
WO2013049861A1 (en) | 2011-09-29 | 2013-04-04 | Magic Leap, Inc. | Tactile glove for human-computer interaction |
CA3164530C (en) | 2011-10-28 | 2023-09-19 | Magic Leap, Inc. | System and method for augmented and virtual reality |
CA3111134A1 (en) | 2012-04-05 | 2013-10-10 | Magic Leap, Inc. | Wide-field of view (fov) imaging devices with active foveation capability |
US9671566B2 (en) | 2012-06-11 | 2017-06-06 | Magic Leap, Inc. | Planar waveguide apparatus with diffraction element(s) and system employing same |
US9123175B1 (en) | 2012-06-29 | 2015-09-01 | Lucasfilm Entertainment Company Ltd. | Pose space simplicial interpolation |
WO2014043196A1 (en) | 2012-09-11 | 2014-03-20 | Magic Leap, Inc | Ergonomic head mounted display device and optical system |
IL293789B2 (en) | 2013-01-15 | 2023-08-01 | Magic Leap Inc | A system for scanning electromagnetic imaging radiation |
IL308285B1 (en) | 2013-03-11 | 2024-07-01 | Magic Leap Inc | System and method for augmentation and virtual reality |
CA3160567A1 (en) | 2013-03-15 | 2014-09-18 | Magic Leap, Inc. | Display system and method |
US9874749B2 (en) | 2013-11-27 | 2018-01-23 | Magic Leap, Inc. | Virtual and augmented reality systems and methods |
US10262462B2 (en) | 2014-04-18 | 2019-04-16 | Magic Leap, Inc. | Systems and methods for augmented and virtual reality |
CA2927818C (en) | 2013-10-16 | 2021-11-30 | Magic Leap, Inc. | Virtual or augmented reality headsets having adjustable interpupillary distance |
US9857591B2 (en) | 2014-05-30 | 2018-01-02 | Magic Leap, Inc. | Methods and system for creating focal planes in virtual and augmented reality |
IL305162A (en) | 2013-11-27 | 2023-10-01 | Magic Leap Inc | Virtual and augmented reality systems and methods |
US9524582B2 (en) * | 2014-01-28 | 2016-12-20 | Siemens Healthcare Gmbh | Method and system for constructing personalized avatars using a parameterized deformable mesh |
WO2015117043A1 (en) | 2014-01-31 | 2015-08-06 | Magic Leap, Inc. | Multi-focal display system and method |
KR102207799B1 (ko) | 2014-01-31 | 2021-01-26 | 매직 립, 인코포레이티드 | 멀티-포컬 디스플레이 시스템 및 방법 |
JP2015163947A (ja) | 2014-02-03 | 2015-09-10 | キヤノン株式会社 | 光源光学系およびこれを用いた光源装置、画像表示装置 |
US10203762B2 (en) | 2014-03-11 | 2019-02-12 | Magic Leap, Inc. | Methods and systems for creating virtual and augmented reality |
EP3140780B1 (en) | 2014-05-09 | 2020-11-04 | Google LLC | Systems and methods for discerning eye signals and continuous biometric identification |
KR102193052B1 (ko) | 2014-05-30 | 2020-12-18 | 매직 립, 인코포레이티드 | 가상 또는 증강 현실 장치로 가상 콘텐츠 디스플레이를 생성하기 위한 방법들 및 시스템들 |
WO2016025941A1 (en) | 2014-08-15 | 2016-02-18 | University Of Central Florida Research Foundation, Inc. | Control interface for robotic humanoid avatar system and related methods |
WO2020023788A1 (en) | 2018-07-27 | 2020-01-30 | Magic Leap, Inc. | Pose space dimensionality reduction for pose space deformation of a virtual character |
-
2019
- 2019-07-25 WO PCT/US2019/043506 patent/WO2020023788A1/en unknown
- 2019-07-25 US US16/522,540 patent/US10950024B2/en active Active
- 2019-07-25 CN CN201980062589.9A patent/CN112753007A/zh active Pending
- 2019-07-25 EP EP19841390.8A patent/EP3830673A4/en active Pending
- 2019-07-25 JP JP2021503745A patent/JP7459050B2/ja active Active
-
2021
- 2021-02-03 US US17/166,929 patent/US11328467B2/en active Active
-
2022
- 2022-04-06 US US17/714,958 patent/US11670032B2/en active Active
-
2024
- 2024-03-19 JP JP2024043769A patent/JP2024069598A/ja active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005165962A (ja) | 2003-12-05 | 2005-06-23 | Konami Computer Entertainment Japan Inc | データ処理方法、データ処理装置 |
JP2009064069A (ja) | 2007-09-04 | 2009-03-26 | Konami Digital Entertainment:Kk | 画像処理プログラム、画像処理装置及び画像処理制御方法 |
JP2010176380A (ja) | 2009-01-29 | 2010-08-12 | Sony Corp | 情報処理装置および方法、プログラム、並びに記録媒体 |
WO2015133206A1 (ja) | 2014-03-05 | 2015-09-11 | コニカミノルタ株式会社 | 画像処理装置、画像処理方法、および、画像処理プログラム |
US20160093084A1 (en) | 2014-09-30 | 2016-03-31 | Pixar | Subspace clothing simulation using adaptive bases |
Also Published As
Publication number | Publication date |
---|---|
US10950024B2 (en) | 2021-03-16 |
US20210304477A1 (en) | 2021-09-30 |
US11670032B2 (en) | 2023-06-06 |
US11328467B2 (en) | 2022-05-10 |
EP3830673A1 (en) | 2021-06-09 |
CN112753007A (zh) | 2021-05-04 |
JP2021530815A (ja) | 2021-11-11 |
US20200035009A1 (en) | 2020-01-30 |
US20220327756A1 (en) | 2022-10-13 |
WO2020023788A1 (en) | 2020-01-30 |
JP2024069598A (ja) | 2024-05-21 |
EP3830673A4 (en) | 2022-05-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US12033263B2 (en) | Using three-dimensional scans of a physical subject to determine positions and/or orientations of skeletal joints in the rigging for a virtual character | |
JP7437327B2 (ja) | 異種入力の補間のための方法およびシステム | |
JP7459050B2 (ja) | 仮想キャラクタの姿勢空間変形のための姿勢空間次元低減 | |
JP7342008B2 (ja) | 仮想アバタのためのメッシュの合致 | |
US20220366626A1 (en) | Contextual-based rendering of virtual avatars | |
US11868515B2 (en) | Generating textured polygon strip hair from strand-based hair for a virtual character | |
US11557076B2 (en) | Computer generated hair groom transfer tool | |
JP2023165936A (ja) | 仮想アバタをアニメーション化するための骨格システム | |
WO2019209431A1 (en) | Avatar facial expression representation in multidimensional space | |
US11836840B2 (en) | Systems and methods for cross-application authoring, transfer, and evaluation of rigging control systems for virtual characters | |
US20230260156A1 (en) | Methods and systems for interpolation of disparate inputs |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220725 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220725 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230828 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230901 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240219 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240319 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7459050 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |