JP6782239B2 - パターン光を用いた深さマップを提供するための方法およびシステム - Google Patents
パターン光を用いた深さマップを提供するための方法およびシステム Download PDFInfo
- Publication number
- JP6782239B2 JP6782239B2 JP2017535872A JP2017535872A JP6782239B2 JP 6782239 B2 JP6782239 B2 JP 6782239B2 JP 2017535872 A JP2017535872 A JP 2017535872A JP 2017535872 A JP2017535872 A JP 2017535872A JP 6782239 B2 JP6782239 B2 JP 6782239B2
- Authority
- JP
- Japan
- Prior art keywords
- depth map
- edge
- axis
- light
- present
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 16
- 238000004458 analytical method Methods 0.000 claims description 9
- 230000000694 effects Effects 0.000 claims description 9
- 230000003287 optical effect Effects 0.000 claims description 6
- 210000003811 finger Anatomy 0.000 description 28
- 230000011218 segmentation Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 7
- 210000004247 hand Anatomy 0.000 description 4
- 210000003813 thumb Anatomy 0.000 description 4
- 230000014509 gene expression Effects 0.000 description 2
- 238000003709 image segmentation Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 241000272525 Anas platyrhynchos Species 0.000 description 1
- 230000005057 finger movement Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000010587 phase diagram Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/107—Static hand or arm
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/12—Acquisition of 3D measurements of objects
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Optics & Photonics (AREA)
- Human Computer Interaction (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Description
本明細書で用いる用語「構造化光」は、既知の画素パターンをシーンに投影するプロセスとして定義される。これらが面に当たるときにどのように変形するかにより、シーン内における物体の深さおよび表面情報を映像システムにより計算することが可能となる。目に見えない構造化光は、投影パターンが複雑化する他のコンピュータ映像タスクを妨げることなく構造化光を使用する。
本発明のこれらの、付加的な、および/または他の態様および/または実施形態の利点は以下の詳細な説明で説明され、それらは、以下の詳細な説明から推測可能であり、および/または本発明の実施形態の実施よって理解可能である。
手のひらによるストライプのセグメント化によって生じたストライプセグメントの集合は、X軸においてユーザの手の指のストライプセグメントの集合との重なりを有する上部ストリップセグメントを含む。上部ストリップセグメントはX軸において4つの指の集合に重なるが、4つの指の集合の下部セグメントの最小X値や最大X値を超えていない。
図10は、本発明の実施形態による、非限定的な例示的な方法1000のステップを示すフローチャートである。方法1000は、例えば、ストライプ(他のパターンも使用することができる)を含む構造化光の解析に基づいて生成された物体の深さマップを取得すること(1010)、物体のエッジが与えられたとき、z軸値が不正確であるまたはz軸値が完全である深さマップの部分を判定すること(1020)、判定した深さマップの部分に関連付けられた物体の幾何学的特徴を、深さマップのラインのエッジに基づいて検出すること(1030)、検出した幾何学的特徴に基づいてテンプレート関数を選択すること(1040)、対応する深さマップの部分の局所的な幾何学的特徴に基づいて、選択したテンプレートに制約を適用すること(1050)、物体のパターン外の領域により反射された強度に基づいて、対応する深さマップの部分のxy平面のエッジ点を検出すること(1060)、対応する制約と、検出されたエッジ点とを用いて、選択したテンプレートに基づいて曲線近似を行うことによりエッジ点のx軸値を生成すること(1070)、深さマップ部分の点を外挿することによりエッジ点のz軸値を近似曲線に適用して、エッジ点と元の深さマップとの間のさらなる点のz軸値を推定すること(1080)、導出されたエッジ点のz軸値と、エッジと元の深さマップとの間のさらなる点とに基づいて、元の深さマップを完成させること(1090)を含む。
本発明の教示の原理および使用は、実施例や添付の図面を参照することによって、より良く理解され得る。
また、本発明は種々の方法で実行または実施することができ、上述した説明以外の実施形態でも実施することができる。
明細書または特許請求の範囲が「一つ」の要素を参照する場合、そのような参照は、その要素が1つのみ存在すると解釈されるべきではない。
特許請求の範囲および明細書に記載した説明、実施例、方法および材料は、限定として解釈されるべきでなく、単に例示として解釈されるべきである。
本発明は、本明細書で説明するものと同等または類似の方法および材料を用いて試験または実施において実施することができる。
Claims (1)
- 方法であって、
ストライプを含むパターンの構造化光の解析に基づいて生成された物体の深さマップを、カメラ、光プロジェクタ、及びセンサを有するシステムによって取得すること、ここで前記センサは、前記カメラと、前記光プロジェクタと、前記物体から反射して戻ってきた光との間で三角測量効果を生じさせるように位置決めされている、
前記物体のエッジが与えられたとき、第1のz軸値が不正確または不完全である前記深さマップの部分を判定すること、
前記深さマップの判定した部分に関連付けられた前記物体の幾何学的特徴を、前記深さマップの判定した部分に近接した隣接部分のエッジに基づいて検出すること、ここで前記幾何学的特徴は、前記物体の表面の構造に関連している、
検出した前記物体の幾何学的特徴、前記深さマップの隣接部分、及びパターン外の領域とパターン外の領域ではない領域との間の光強度の不一致に基づいて、前記深さマップにより示される前記物体のエッジに沿った第2のz軸データを推定すること、及び
前記第1のz軸値を、第2のz軸値に置き換えること
を備える方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562100340P | 2015-01-06 | 2015-01-06 | |
US62/100,340 | 2015-01-06 | ||
PCT/US2016/012197 WO2016112019A1 (en) | 2015-01-06 | 2016-01-05 | Method and system for providing depth mapping using patterned light |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018507399A JP2018507399A (ja) | 2018-03-15 |
JP6782239B2 true JP6782239B2 (ja) | 2020-11-11 |
Family
ID=56286778
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017535872A Active JP6782239B2 (ja) | 2015-01-06 | 2016-01-05 | パターン光を用いた深さマップを提供するための方法およびシステム |
Country Status (6)
Country | Link |
---|---|
US (1) | US20160196657A1 (ja) |
EP (1) | EP3243188A4 (ja) |
JP (1) | JP6782239B2 (ja) |
KR (1) | KR20170104506A (ja) |
CN (1) | CN107408204B (ja) |
WO (1) | WO2016112019A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9507411B2 (en) * | 2009-09-22 | 2016-11-29 | Facebook, Inc. | Hand tracker for device with display |
US9842392B2 (en) * | 2014-12-15 | 2017-12-12 | Koninklijke Philips N.V. | Device, system and method for skin detection |
US10116915B2 (en) * | 2017-01-17 | 2018-10-30 | Seiko Epson Corporation | Cleaning of depth data by elimination of artifacts caused by shadows and parallax |
US10620316B2 (en) * | 2017-05-05 | 2020-04-14 | Qualcomm Incorporated | Systems and methods for generating a structured light depth map with a non-uniform codeword pattern |
US10535151B2 (en) | 2017-08-22 | 2020-01-14 | Microsoft Technology Licensing, Llc | Depth map with structured and flood light |
Family Cites Families (45)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2572286B2 (ja) * | 1989-12-15 | 1997-01-16 | 株式会社豊田中央研究所 | 3次元形状寸法計測装置 |
JPH11108633A (ja) * | 1997-09-30 | 1999-04-23 | Peteio:Kk | 3次元形状計測装置及びそれを用いた3次元彫刻装置 |
US6912293B1 (en) * | 1998-06-26 | 2005-06-28 | Carl P. Korobkin | Photogrammetry engine for model construction |
JP2001012922A (ja) * | 1999-06-29 | 2001-01-19 | Minolta Co Ltd | 3次元データ処理装置 |
JP2001319245A (ja) * | 2000-05-02 | 2001-11-16 | Sony Corp | 画像処理装置および方法、並びに記録媒体 |
JP2003016463A (ja) * | 2001-07-05 | 2003-01-17 | Toshiba Corp | 図形の輪郭の抽出方法、パターン検査方法、パターン検査装置、プログラムおよびこれを格納したコンピュータ読み取り可能な記録媒体 |
US20110057930A1 (en) * | 2006-07-26 | 2011-03-10 | Inneroptic Technology Inc. | System and method of using high-speed, high-resolution depth extraction to provide three-dimensional imagery for endoscopy |
EP2087466B1 (en) * | 2006-11-21 | 2020-06-17 | Koninklijke Philips N.V. | Generation of depth map for an image |
KR101468267B1 (ko) * | 2008-10-02 | 2014-12-15 | 프라운호퍼-게젤샤프트 추르 푀르데룽 데어 안제반텐 포르슝 에 파우 | 중간 뷰 합성 및 멀티-뷰 데이터 신호 추출 |
EP2184713A1 (en) * | 2008-11-04 | 2010-05-12 | Koninklijke Philips Electronics N.V. | Method and device for generating a depth map |
US8553973B2 (en) * | 2009-07-07 | 2013-10-08 | University Of Basel | Modeling methods and systems |
EP2272417B1 (en) * | 2009-07-10 | 2016-11-09 | GE Inspection Technologies, LP | Fringe projection system for a probe suitable for phase-shift analysis |
US9507411B2 (en) * | 2009-09-22 | 2016-11-29 | Facebook, Inc. | Hand tracker for device with display |
US9870068B2 (en) * | 2010-09-19 | 2018-01-16 | Facebook, Inc. | Depth mapping with a head mounted display using stereo cameras and structured light |
EP2666295A1 (en) * | 2011-01-21 | 2013-11-27 | Thomson Licensing | Methods and apparatus for geometric-based intra prediction |
US8724887B2 (en) * | 2011-02-03 | 2014-05-13 | Microsoft Corporation | Environmental modifications to mitigate environmental factors |
US9536312B2 (en) * | 2011-05-16 | 2017-01-03 | Microsoft Corporation | Depth reconstruction using plural depth capture units |
US20120314031A1 (en) * | 2011-06-07 | 2012-12-13 | Microsoft Corporation | Invariant features for computer vision |
US9131223B1 (en) * | 2011-07-07 | 2015-09-08 | Southern Methodist University | Enhancing imaging performance through the use of active illumination |
US9002099B2 (en) * | 2011-09-11 | 2015-04-07 | Apple Inc. | Learning-based estimation of hand and finger pose |
US9117295B2 (en) * | 2011-12-20 | 2015-08-25 | Adobe Systems Incorporated | Refinement of depth maps by fusion of multiple estimates |
JP6041513B2 (ja) * | 2012-04-03 | 2016-12-07 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP2013228334A (ja) * | 2012-04-26 | 2013-11-07 | Topcon Corp | 三次元計測システム及び三次元計測方法及び三次元計測プログラム |
EP2674913B1 (en) * | 2012-06-14 | 2014-07-23 | Softkinetic Software | Three-dimensional object modelling fitting & tracking. |
US8805057B2 (en) * | 2012-07-31 | 2014-08-12 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for generating structured light with spatio-temporal patterns for 3D scene reconstruction |
US9514522B2 (en) * | 2012-08-24 | 2016-12-06 | Microsoft Technology Licensing, Llc | Depth data processing and compression |
US9639944B2 (en) * | 2012-10-01 | 2017-05-02 | Telefonaktiebolaget Lm Ericsson (Publ) | Method and apparatus for determining a depth of a target object |
RU2012145349A (ru) * | 2012-10-24 | 2014-05-10 | ЭлЭсАй Корпорейшн | Способ и устройство обработки изображений для устранения артефактов глубины |
US8792969B2 (en) * | 2012-11-19 | 2014-07-29 | Xerox Corporation | Respiratory function estimation from a 2D monocular video |
RU2012154657A (ru) * | 2012-12-17 | 2014-06-27 | ЭлЭсАй Корпорейшн | Способы и устройство для объединения изображений с глубиной, генерированных с использованием разных способов формирования изображений с глубиной |
JP6071522B2 (ja) * | 2012-12-18 | 2017-02-01 | キヤノン株式会社 | 情報処理装置および情報処理方法 |
RU2013106513A (ru) * | 2013-02-14 | 2014-08-20 | ЭлЭсАй Корпорейшн | Способ и устройство для улучшения изображения и подтверждения границ с использованием по меньшей мере одного дополнительного изображения |
WO2014155715A1 (ja) * | 2013-03-29 | 2014-10-02 | 株式会社日立製作所 | 物体認識装置および物体認識方法並びにプログラム |
US9373171B2 (en) * | 2013-07-22 | 2016-06-21 | Stmicroelectronics S.R.L. | Method for generating a depth map, related system and computer program product |
JP6547104B2 (ja) * | 2013-10-23 | 2019-07-24 | フェイスブック・テクノロジーズ・リミテッド・ライアビリティ・カンパニーFacebook Technologies, Llc | 動的構造化光を用いた三次元深度マッピング |
US20150193971A1 (en) * | 2014-01-03 | 2015-07-09 | Motorola Mobility Llc | Methods and Systems for Generating a Map including Sparse and Dense Mapping Information |
EP2894546B1 (en) * | 2014-01-13 | 2018-07-18 | Facebook Inc. | Sub-resolution optical detection |
US9519060B2 (en) * | 2014-05-27 | 2016-12-13 | Xerox Corporation | Methods and systems for vehicle classification from laser scans using global alignment |
US9582888B2 (en) * | 2014-06-19 | 2017-02-28 | Qualcomm Incorporated | Structured light three-dimensional (3D) depth map based on content filtering |
US9752864B2 (en) * | 2014-10-21 | 2017-09-05 | Hand Held Products, Inc. | Handheld dimensioning system with feedback |
WO2016138145A1 (en) * | 2015-02-25 | 2016-09-01 | Oculus Vr, Llc | Identifying an object in a volume based on characteristics of light reflected by the object |
EP3262439B1 (en) * | 2015-02-25 | 2022-11-02 | Facebook Technologies, LLC | Using intensity variations in a light pattern for depth mapping of objects in a volume |
US9694498B2 (en) * | 2015-03-30 | 2017-07-04 | X Development Llc | Imager for detecting visual light and projected patterns |
US9679192B2 (en) * | 2015-04-24 | 2017-06-13 | Adobe Systems Incorporated | 3-dimensional portrait reconstruction from a single photo |
CN107850782B (zh) * | 2015-05-13 | 2019-10-25 | 脸谱科技有限责任公司 | 用反射率图表示增强深度图表示 |
-
2016
- 2016-01-05 WO PCT/US2016/012197 patent/WO2016112019A1/en active Application Filing
- 2016-01-05 US US14/988,411 patent/US20160196657A1/en not_active Abandoned
- 2016-01-05 KR KR1020177021149A patent/KR20170104506A/ko active IP Right Grant
- 2016-01-05 JP JP2017535872A patent/JP6782239B2/ja active Active
- 2016-01-05 EP EP16735304.4A patent/EP3243188A4/en not_active Withdrawn
- 2016-01-05 CN CN201680013804.2A patent/CN107408204B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
WO2016112019A1 (en) | 2016-07-14 |
CN107408204A (zh) | 2017-11-28 |
EP3243188A4 (en) | 2018-08-22 |
CN107408204B (zh) | 2021-03-09 |
EP3243188A1 (en) | 2017-11-15 |
JP2018507399A (ja) | 2018-03-15 |
US20160196657A1 (en) | 2016-07-07 |
KR20170104506A (ko) | 2017-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6782239B2 (ja) | パターン光を用いた深さマップを提供するための方法およびシステム | |
JP6621836B2 (ja) | 光パターンの強度変動を利用した体積内の物体の深さマッピング | |
US9594950B2 (en) | Depth mapping with enhanced resolution | |
CN108431548B (zh) | 使用lidar以六个自由度(6dof)进行运动估计 | |
GB2564794B (en) | Image-stitching for dimensioning | |
US9898651B2 (en) | Upper-body skeleton extraction from depth maps | |
KR102424135B1 (ko) | 2개의 카메라로부터의 곡선의 세트의 구조형 광 매칭 | |
JP6377863B2 (ja) | 反射マップ表現による奥行きマップ表現の増補 | |
US20170308736A1 (en) | Three dimensional object recognition | |
US10643343B2 (en) | Structured light matching of a set of curves from three cameras | |
US6665066B2 (en) | Machine vision system and method for analyzing illumination lines in an image to determine characteristics of an object being inspected | |
US9922244B2 (en) | Fast and robust identification of extremities of an object within a scene | |
CA3120145A1 (en) | Systems and methods for generating augmented reality environments from two-dimensional drawings | |
Iwai et al. | Shadow removal of projected imagery by occluder shape measurement in a multiple overlapping projection system | |
JP2003262510A (ja) | 三次元形状測定方法及び三次元スキャナ | |
JP6425406B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2021081791A5 (ja) | ||
Karagiannidis et al. | On low cost model-based monitoring of industrial robotic arms using standard machine vision | |
Xie et al. | Comparison of calibration methods for the multi-touch system with four collaborative cameras |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181228 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190517 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20190604 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190617 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191120 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191203 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200428 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200828 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20200908 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201006 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201019 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6782239 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |