JP6609383B2 - オーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ - Google Patents
オーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ Download PDFInfo
- Publication number
- JP6609383B2 JP6609383B2 JP2018568745A JP2018568745A JP6609383B2 JP 6609383 B2 JP6609383 B2 JP 6609383B2 JP 2018568745 A JP2018568745 A JP 2018568745A JP 2018568745 A JP2018568745 A JP 2018568745A JP 6609383 B2 JP6609383 B2 JP 6609383B2
- Authority
- JP
- Japan
- Prior art keywords
- digital camera
- digital
- sound
- sensor
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000033001 locomotion Effects 0.000 title claims description 59
- 230000000007 visual effect Effects 0.000 title claims description 19
- 238000004458 analytical method Methods 0.000 title claims description 16
- 238000000034 method Methods 0.000 claims description 74
- 230000008569 process Effects 0.000 claims description 54
- 238000003384 imaging method Methods 0.000 claims description 43
- 238000012545 processing Methods 0.000 claims description 41
- 230000003190 augmentative effect Effects 0.000 claims description 22
- 230000007613 environmental effect Effects 0.000 claims description 16
- 238000013507 mapping Methods 0.000 claims description 15
- 238000004364 calculation method Methods 0.000 claims description 12
- 230000004807 localization Effects 0.000 claims description 6
- 230000008045 co-localization Effects 0.000 claims description 5
- 238000013528 artificial neural network Methods 0.000 claims description 3
- 230000001360 synchronised effect Effects 0.000 claims description 3
- 230000015572 biosynthetic process Effects 0.000 claims 1
- 238000003786 synthesis reaction Methods 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 41
- 238000009877 rendering Methods 0.000 description 18
- 239000000463 material Substances 0.000 description 14
- 238000004088 simulation Methods 0.000 description 13
- 230000000704 physical effect Effects 0.000 description 11
- 239000002245 particle Substances 0.000 description 10
- 230000002093 peripheral effect Effects 0.000 description 9
- 239000002775 capsule Substances 0.000 description 8
- 238000003860 storage Methods 0.000 description 6
- 238000010521 absorption reaction Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 239000002131 composite material Substances 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000012634 optical imaging Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 239000011449 brick Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 230000005236 sound signal Effects 0.000 description 3
- 238000001931 thermography Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 230000005670 electromagnetic radiation Effects 0.000 description 2
- 230000001771 impaired effect Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000004091 panning Methods 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 238000004886 process control Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000000342 Monte Carlo simulation Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 238000011960 computer-aided design Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 239000013078 crystal Substances 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 230000005672 electromagnetic field Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000011065 in-situ storage Methods 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000005304 joining Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000010255 response to auditory stimulus Effects 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
- 239000002023 wood Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B31/00—Arrangements for the associated working of recording or reproducing apparatus with related apparatus
- G11B31/006—Arrangements for the associated working of recording or reproducing apparatus with related apparatus with video camera or receiver
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/04—Synchronising
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
- H04N5/772—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
- H04N5/92—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N5/9201—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving the multiplexing of an additional signal and the video signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
- H04N5/92—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N5/9201—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving the multiplexing of an additional signal and the video signal
- H04N5/9202—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving the multiplexing of an additional signal and the video signal the additional signal being a sound signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/802—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving processing of the sound signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
- H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/579—Depth or shape recovery from multiple images from motion
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B20/00—Signal processing not specific to the method of recording or reproducing; Circuits therefor
- G11B20/10—Digital recording or reproducing
- G11B20/10527—Audio or video recording; Data buffering arrangements
- G11B2020/10537—Audio or video recording
- G11B2020/10546—Audio or video recording specifically adapted for audio data
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B20/00—Signal processing not specific to the method of recording or reproducing; Circuits therefor
- G11B20/10—Digital recording or reproducing
- G11B20/10527—Audio or video recording; Data buffering arrangements
- G11B2020/10537—Audio or video recording
- G11B2020/10592—Audio or video recording specifically adapted for recording or reproducing multichannel signals
- G11B2020/10611—3D video data
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2101/00—Still video cameras
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
- Image Analysis (AREA)
- Position Input By Displaying (AREA)
Description
を含んでいる。特定の実施形態では、前記ARは音を含んでおり、特定の別の実施形態では、前記ARは画像を含んでおり、またさらなる特定の他の実施形態では、前記ARは音及び画像の両方を含んでいる。
・既存の物理スピーカを使用して、新たな3D位置環境をシミュレートする(それによって、例えば、音楽ホールのようなホームシアター音を作成する)
・ユーザに対して部屋を歩き回っている際のARプレビューを提供することにより、部屋に対する任意の変化がその結果生じるオーディオに対して及ぼす影響をシミュレートする(例えば、新たなソファが部屋の音響に及ぼす影響をシミュレートする)。
・既存のシステム(例えば、サラウンド音システム)における問題点を決定して、その既存のシステムに適用するための矯正用オーディオカーブ(設定)を提供する。
図23を参照して、部屋を音響的にモデリングするためのプロセス330は、音響属性について部屋をスキャンする動作332から開始する。非限定的な例では、デジタルカメラ10を保持するユーザは、カメラを部屋の周りにパンし、それによって対象の壁、床、天井及びオブジェクトをスキャンし得る。次に、動作334では、部屋の音響属性を診断及び処理する。最後に、動作336では、部屋の音響を改善するための提案をする。
・撮像センサと、音センサと、モーションセンサとを少なくとも含む複数のセンサから、生の入力データを収集するステップ、
・生の入力データからメタデータを導出するステップ、及び、
・デジタルカメラの周囲環境のモデルを構築するために、メタデータ及び生の入力データを処理するステップ。
・撮像センサと、音センサと、モーションセンサとを少なくとも含むデジタルカメラを用いて、周囲環境を走査するステップ、
・デジタルカメラのデジタルプロセッサを用いて、撮像センサ、音センサ及びモーションセンサから導出されたデータから、複数の物理オブジェクト及びそれらの特性を含む周囲環境のモデルを構築するステップ、及び、
・周囲環境を重ね合わせる拡張現実(AR)を構築するステップ。
Claims (25)
- カメラ本体と、
前記カメラ本体によって支持されているレンズと、
前記カメラ本体によって、前記レンズと並んで支持されている撮像センサと、
前記カメラ本体によって支持されている音センサと、
前記カメラ本体によって支持されている入力処理システムであって、
(a)システムバス、
(b)前記バスに結合されたデジタルプロセッサ、
(c)前記音センサの出力を前記バスに結合する音センササブシステム、
(d)前記音センササブシステムに対して同期クロック信号を供給するための、システムクロックから分離された高精度クロック、並びに、
(e)前記バスに結合された非一時的デジタルメモリであって、リアルタイムでのオーディオ、ビジュアル及びモーション分析のために、前記音センササブシステムから導出されるデータから、デジタルカメラの周囲環境のデジタルモデルを構築するよう、デジタルプロセッサによって実行可能なコードセグメントを含む、非一時的デジタルメモリ
を含んでいる、入力処理システムと、
を備えている、オーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ。 - 前記撮像センサの出力を前記バスに結合する撮像センササブシステムと、前記カメラ本体によって支持されているモーションセンサと、前記モーションセンサの出力を前記バスに結合するモーションセンササブシステムとをさらに備えており、前記周囲環境の前記デジタルモデルは、前記撮像センササブシステム及び前記モーションセンササブシステムのうち少なくとも1つからのデータからも導出される、請求項1に記載のオーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ。
- 全地球測位センサ及び前記全地球測位センサを前記システムバスに結合する全地球測位センササブシステム、並びに、環境センサ及び前記環境センサを前記システムバスに結合する環境センササブシステムをさらに備えており、前記周囲環境の前記デジタルモデルは、前記全地球測位センササブシステム及び前記環境センササブシステムのうち少なくとも1つからのデータからも導出される、請求項1に記載のオーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ。
- ストラクチャーフロムモーション(SfM)プロセスを実装する複数のコードセグメントをさらに備えている、請求項1に記載のオーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ。
- 同時局在化及びマッピング(SLAM)プロセスを実装する複数のコードセグメントをさらに備えている、請求項1に記載のオーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ。
- 複数のセンサからの生の入力データから、前記周囲環境の前記デジタルモデルを構築するために使用されるメタデータを導出する複数のコードセグメントをさらに備えている、請求項1に記載のオーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ。
- 前記カメラ本体によって支持されている、前記周囲環境の画像を表示可能なディスプレイをさらに備えている、請求項1に記載のオーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ。
- 前記周囲環境の画像の上に拡張現実(AR)画像を重ね合わせる複数のコードセグメントをさらに備えている、請求項7に記載のオーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ。
- デジタルカメラの撮像センサから、生の画像データを収集するステップと、
デジタルカメラの音センサから、生の音データを収集するステップと、
前記生の画像データ及び前記生の音データから、モーション信号と撮像信号との両方の合成を含むメタデータを導出するステップと、
ストラクチャーフロムモーション(SfM)プロセスと同時局在化及びマッピング(SLAM)プロセスとのうち少なくとも1つを実施することによって前記デジタルカメラの周囲環境のモデルを構築するために、前記メタデータ及び前記生の音データを処理するステップと、
を備えている、デジタルカメラを用いて周囲環境をモデリングする方法。 - ストラクチャーフロムモーション(SfM)プロセスと同時局在化及びマッピング(SLAM)プロセスとのうち少なくとも1つを実施している間に、前記生の画像データを処理するステップをさらに備えている、請求項9に記載のデジタルカメラを用いて周囲環境をモデリングする方法。
- ストラクチャーフロムモーション(SfM)プロセスと同時局在化及びマッピング(SLAM)プロセスとのうち少なくとも1つを実施している間に、生のモーションデータを収集し、前記生のモーションデータを処理するステップをさらに備えている、請求項9に記載のデジタルカメラを用いて周囲環境をモデリングする方法。
- 前記モデルは、モーション信号と前記音データのみからの撮像信号との両方の合成を含んでいる、請求項9に記載のデジタルカメラを用いて周囲環境をモデリングする方法。
- 音センサを含むデジタルカメラを用いて、周囲環境を走査するステップと、
前記デジタルカメラのデジタルプロセッサを用いて、前記音センサから導出されたデータから、複数の物理オブジェクト及びそれらの特性を含む周囲環境のモデルを構築するステップと、
前記周囲環境を重ね合わせる拡張現実(AR)を構築するステップと、
を備えている、デジタルカメラを用いて拡張現実を提供する方法。 - ARを構築する前記ステップは、前記周囲環境の画像の上にAR画像を重ね合わせるステップを備えており、前記AR画像は、前記周囲環境の複数の物理的特性に関連する複数の仮想特性を備えた複数の仮想オブジェクトを含んでいる、請求項13に記載のデジタルカメラを用いて拡張現実を提供する方法。
- ARを構築する前記ステップは、前記周囲環境の音の上にAR音を重ね合わせるステップを備えており、前記AR音は、前記周囲環境の複数の物理的特性に関連する複数の仮想特性を備えた複数の仮想オブジェクトを含んでいる、請求項13に記載のデジタルカメラを用いて拡張現実を提供する方法。
- ストラクチャーフロムモーション(SfM)プロセスを実装するステップをさらに備えている、請求項13に記載のデジタルカメラを用いて拡張現実を提供する方法。
- 同時局在化及びマッピング(SLAM)プロセスを実装するステップをさらに備えている、請求項13に記載のデジタルカメラを用いて拡張現実を提供する方法。
- 仮想特性を備えた仮想オブジェクト及び物理特性を備えた物理オブジェクトのうち少なくとも1つを含むデータベースをさらに備えている、請求項13に記載のデジタルカメラを用いて拡張現実を提供する方法。
- 音センサを含むデジタルカメラを用いて、周囲環境を走査するステップと、
前記デジタルカメラのデジタルプロセッサを用いて、前記音センサから導出されたデータから、複数の物理オブジェクト及びそれらの特性を含む周囲環境のモデルを構築するステップと、
前記周囲環境を重ね合わせる拡張現実(AR)を構築するステップと
を行うための、デジタルカメラのデジタルプロセッサ上で実行可能な複数のコードセグメントを備えた非一時的コンピュータ可読媒体。 - ARを構築する前記ステップは、前記周囲環境の画像の上にAR画像を重ね合わせるステップを備えており、前記AR画像は、前記周囲環境の複数の物理的特性に関連する複数の仮想特性を備えた複数の仮想オブジェクトを含んでいる、請求項19に記載のデジタルカメラのデジタルプロセッサ上で実行可能な複数のコードセグメントを備えた非一時的コンピュータ可読媒体。
- ARを構築する前記ステップは、前記周囲環境の音の上にAR音を重ね合わせるステップを備えており、前記AR音は、前記周囲環境の複数の物理的特性に関連する複数の仮想特性を備えた複数の仮想オブジェクトを含んでいる、請求項19に記載のデジタルカメラのデジタルプロセッサ上で実行可能な複数のコードセグメントを備えた非一時的コンピュータ可読媒体。
- ストラクチャーフロムモーション(SfM)プロセスを実装するステップをさらに備えている、請求項19に記載のデジタルカメラのデジタルプロセッサ上で実行可能な複数のコードセグメントを備えた非一時的コンピュータ可読媒体。
- 同時局在化及びマッピング(SLAM)プロセスを実装するステップをさらに備えている、請求項19に記載のデジタルカメラのデジタルプロセッサ上で実行可能な複数のコードセグメントを備えた非一時的コンピュータ可読媒体。
- 仮想特性を備えた仮想オブジェクト及び物理特性を備えた物理オブジェクトのうち少なくとも1つを含むデータベースをさらに備えている、請求項19に記載のデジタルカメラのデジタルプロセッサ上で実行可能な複数のコードセグメントを備えた非一時的コンピュータ可読媒体。
- 前記周囲環境を重ね合わせるARを構築する前記ステップは、センサ入力又はニューラルネットワークのうち少なくとも1つを使用して、AR計算プロセスを加速することを含んでいる、請求項19に記載のデジタルカメラのデジタルプロセッサ上で実行可能な複数のコードセグメントを備えた非一時的コンピュータ可読媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662342916P | 2016-05-28 | 2016-05-28 | |
US62/342,916 | 2016-05-28 | ||
PCT/US2017/035076 WO2017210228A1 (en) | 2016-05-28 | 2017-05-30 | Digital camera with audio, visual and motion analysis |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019526956A JP2019526956A (ja) | 2019-09-19 |
JP6609383B2 true JP6609383B2 (ja) | 2019-11-20 |
Family
ID=60418203
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018568745A Active JP6609383B2 (ja) | 2016-05-28 | 2017-05-30 | オーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ |
Country Status (10)
Country | Link |
---|---|
US (3) | US9959682B2 (ja) |
EP (1) | EP3465391B1 (ja) |
JP (1) | JP6609383B2 (ja) |
KR (1) | KR102036545B1 (ja) |
CN (1) | CN109564467B (ja) |
AU (2) | AU2017273462A1 (ja) |
CA (1) | CA3025525C (ja) |
IL (1) | IL263302B (ja) |
NZ (1) | NZ748891A (ja) |
WO (1) | WO2017210228A1 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109564467B (zh) | 2016-05-28 | 2022-04-15 | 声学知识有限责任公司 | 具有音频、视觉和运动分析的数码相机 |
US10586379B2 (en) | 2017-03-08 | 2020-03-10 | Ebay Inc. | Integration of 3D models |
US10306212B2 (en) * | 2017-03-31 | 2019-05-28 | Verizon Patent And Licensing Inc. | Methods and systems for capturing a plurality of three-dimensional sub-frames for use in forming a volumetric frame of a real-world scene |
CA3096877A1 (en) * | 2018-04-11 | 2019-10-17 | Bongiovi Acoustics Llc | Audio enhanced hearing protection system |
US11727656B2 (en) * | 2018-06-12 | 2023-08-15 | Ebay Inc. | Reconstruction of 3D model with immersive experience |
CN110377776B (zh) * | 2018-07-23 | 2022-06-07 | 北京京东尚科信息技术有限公司 | 生成点云数据的方法和装置 |
EP3942261B1 (en) * | 2019-03-22 | 2024-05-29 | Signify Holding B.V. | Augmented reality-based acoustic performance analysis |
KR102247557B1 (ko) | 2019-04-01 | 2021-05-03 | 숭실대학교산학협력단 | 인-아웃 판정 방법, 이를 수행하기 위한 기록 매체 및 장치 |
KR102387501B1 (ko) | 2020-03-03 | 2022-04-19 | 주식회사 코아소프트 | 증강현실 제공장치 및 제공방법 |
US11830119B1 (en) * | 2020-05-29 | 2023-11-28 | Apple Inc. | Modifying an environment based on sound |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8170222B2 (en) * | 2008-04-18 | 2012-05-01 | Sony Mobile Communications Ab | Augmented reality enhanced audio |
KR101285391B1 (ko) | 2010-07-28 | 2013-07-10 | 주식회사 팬택 | 음향 객체 정보 융합 장치 및 방법 |
US9563265B2 (en) * | 2012-01-12 | 2017-02-07 | Qualcomm Incorporated | Augmented reality with sound and geometric analysis |
US20130235223A1 (en) * | 2012-03-09 | 2013-09-12 | Minwoo Park | Composite video sequence with inserted facial region |
EP2688318B1 (en) * | 2012-07-17 | 2018-12-12 | Alcatel Lucent | Conditional interaction control for a virtual object |
GB201216210D0 (en) | 2012-09-12 | 2012-10-24 | Appeartome Ltd | Augmented reality apparatus and method |
CA2896985A1 (en) * | 2013-01-03 | 2014-07-10 | Meta Company | Extramissive spatial imaging digital eye glass for virtual or augmediated vision |
US10339711B2 (en) | 2013-03-15 | 2019-07-02 | Honda Motor Co., Ltd. | System and method for providing augmented reality based directions based on verbal and gestural cues |
US10031490B2 (en) * | 2013-03-15 | 2018-07-24 | Fisher-Rosemount Systems, Inc. | Mobile analysis of physical phenomena in a process plant |
WO2014169238A1 (en) * | 2013-04-11 | 2014-10-16 | Digimarc Corporation | Methods for object recognition and related arrangements |
US20140313303A1 (en) * | 2013-04-18 | 2014-10-23 | Digimarc Corporation | Longitudinal dermoscopic study employing smartphone-based image registration |
US9645652B2 (en) * | 2013-05-28 | 2017-05-09 | The Boeing Company | Ubiquitous natural user system for human-machine interaction |
US10295338B2 (en) * | 2013-07-12 | 2019-05-21 | Magic Leap, Inc. | Method and system for generating map data from an image |
US9582516B2 (en) | 2013-10-17 | 2017-02-28 | Nant Holdings Ip, Llc | Wide area augmented reality location-based services |
KR102273027B1 (ko) * | 2014-06-09 | 2021-07-05 | 삼성전자주식회사 | 위치정보를 사용하여 설정된 관심영역을 사용하여 영상데이터를 생성하는 방법 및 장치 |
KR102297148B1 (ko) | 2014-10-31 | 2021-09-03 | 삼성메디슨 주식회사 | 3차원 영상을 표시하는 초음파 시스템 및 그 방법 |
CN109564467B (zh) | 2016-05-28 | 2022-04-15 | 声学知识有限责任公司 | 具有音频、视觉和运动分析的数码相机 |
-
2017
- 2017-05-30 CN CN201780046908.8A patent/CN109564467B/zh active Active
- 2017-05-30 US US15/608,952 patent/US9959682B2/en active Active
- 2017-05-30 US US16/304,299 patent/US10477117B2/en active Active
- 2017-05-30 KR KR1020187037508A patent/KR102036545B1/ko active IP Right Grant
- 2017-05-30 CA CA3025525A patent/CA3025525C/en active Active
- 2017-05-30 WO PCT/US2017/035076 patent/WO2017210228A1/en unknown
- 2017-05-30 AU AU2017273462A patent/AU2017273462A1/en not_active Abandoned
- 2017-05-30 JP JP2018568745A patent/JP6609383B2/ja active Active
- 2017-05-30 EP EP17807356.5A patent/EP3465391B1/en active Active
- 2017-05-30 NZ NZ748891A patent/NZ748891A/en unknown
-
2018
- 2018-04-30 US US15/967,537 patent/US10204457B2/en active Active
- 2018-11-27 IL IL263302A patent/IL263302B/en active IP Right Grant
-
2019
- 2019-12-11 AU AU2019279990A patent/AU2019279990B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019526956A (ja) | 2019-09-19 |
KR102036545B1 (ko) | 2019-10-25 |
EP3465391B1 (en) | 2021-10-20 |
US20180247461A1 (en) | 2018-08-30 |
KR20190004809A (ko) | 2019-01-14 |
US10204457B2 (en) | 2019-02-12 |
NZ748891A (en) | 2019-12-20 |
AU2017273462A1 (en) | 2019-01-03 |
AU2019279990B2 (en) | 2020-10-01 |
CN109564467A (zh) | 2019-04-02 |
EP3465391A1 (en) | 2019-04-10 |
EP3465391A4 (en) | 2020-01-01 |
AU2019279990A1 (en) | 2020-01-23 |
CA3025525A1 (en) | 2017-12-07 |
WO2017210228A1 (en) | 2017-12-07 |
US10477117B2 (en) | 2019-11-12 |
IL263302A (en) | 2018-12-31 |
CA3025525C (en) | 2020-07-14 |
IL263302B (en) | 2019-07-31 |
US20170345216A1 (en) | 2017-11-30 |
CN109564467B (zh) | 2022-04-15 |
US20190089911A1 (en) | 2019-03-21 |
US9959682B2 (en) | 2018-05-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6609383B2 (ja) | オーディオ、ビジュアル及びモーション分析を備えたデジタルカメラ | |
US11080937B2 (en) | Wearable augmented reality devices with object detection and tracking | |
JP7283506B2 (ja) | 情報処理装置、情報処理方法、及び情報処理プログラム | |
JP4926916B2 (ja) | 情報処理装置、情報処理方法、およびコンピュータプログラム | |
KR102197732B1 (ko) | 실내공간의 3차원 지도 생성 방법 및 장치 | |
WO2018113759A1 (zh) | 基于定位***和ar/mr的探测***及探测方法 | |
US12067157B2 (en) | Drift cancelation for portable object detection and tracking | |
KR20210086837A (ko) | 증강현실을 이용한 실내 인테리어 시뮬레이션 방법 | |
JP7103354B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
Afif et al. | Orientation control for indoor virtual landmarks based on hybrid-based markerless augmented reality | |
US11385856B2 (en) | Synchronizing positioning systems and content sharing between multiple devices | |
JP7405083B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
CN114026527A (zh) | 可穿戴装置的空间音频 | |
JP2019040356A (ja) | 画像処理装置、画像処理方法、コンピュータプログラム | |
WO2023179369A1 (zh) | 控制装置的定位方法、装置、设备、存储介质及计算机程序产品 | |
JP2020071394A (ja) | 情報処理装置、情報処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A529 | Written submission of copy of amendment under article 34 pct |
Free format text: JAPANESE INTERMEDIATE CODE: A529 Effective date: 20181227 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181227 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20181227 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190701 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190705 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190917 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190927 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191025 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6609383 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |