JP7143449B2 - デプス画像補完方法及び装置、コンピュータ可読記憶媒体 - Google Patents
デプス画像補完方法及び装置、コンピュータ可読記憶媒体 Download PDFInfo
- Publication number
- JP7143449B2 JP7143449B2 JP2020568542A JP2020568542A JP7143449B2 JP 7143449 B2 JP7143449 B2 JP 7143449B2 JP 2020568542 A JP2020568542 A JP 2020568542A JP 2020568542 A JP2020568542 A JP 2020568542A JP 7143449 B2 JP7143449 B2 JP 7143449B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- diffusion
- pixel
- waiting
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 118
- 238000003860 storage Methods 0.000 title claims description 20
- 238000009792 diffusion process Methods 0.000 claims description 693
- 239000011159 matrix material Substances 0.000 claims description 78
- 238000010606 normalization Methods 0.000 claims description 48
- 238000000605 extraction Methods 0.000 claims description 35
- 239000013598 vector Substances 0.000 claims description 33
- 238000005457 optimization Methods 0.000 claims description 31
- 230000015654 memory Effects 0.000 claims description 29
- 230000000295 complement effect Effects 0.000 claims description 18
- 238000009825 accumulation Methods 0.000 claims description 3
- 230000006870 function Effects 0.000 description 42
- 238000010586 diagram Methods 0.000 description 33
- 238000012545 processing Methods 0.000 description 32
- 238000012549 training Methods 0.000 description 31
- 230000000694 effects Effects 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 12
- 238000005070 sampling Methods 0.000 description 10
- 238000009826 distribution Methods 0.000 description 9
- 238000004590 computer program Methods 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 5
- 238000012360 testing method Methods 0.000 description 5
- 230000017105 transposition Effects 0.000 description 4
- 230000002159 abnormal effect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 241000473391 Archosargus rhomboidalis Species 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 238000000513 principal component analysis Methods 0.000 description 2
- KLDZYURQCUYZBL-UHFFFAOYSA-N 2-[3-[(2-hydroxyphenyl)methylideneamino]propyliminomethyl]phenol Chemical compound OC1=CC=CC=C1C=NCCCN=CC1=CC=CC=C1O KLDZYURQCUYZBL-UHFFFAOYSA-N 0.000 description 1
- 241000879217 Apocynum androsaemifolium Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 201000001098 delayed sleep phase syndrome Diseases 0.000 description 1
- 208000033921 delayed sleep phase type circadian rhythm sleep disease Diseases 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/529—Depth or shape recovery from texture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/60—Image enhancement or restoration using machine learning, e.g. neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
- G06T2207/10044—Radar image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Image Processing (AREA)
- Measurement Of Optical Distance (AREA)
- Image Analysis (AREA)
Description
本願は、2019年08月30日にに提出された、出願番号が201910817815.1である中国特許出願に基づく優先権を主張し、該中国特許出願の全内容が参照として本願に組み込まれる。
設けられたレーダーにより、ターゲットシーンのデプス画像を収集し、設けられたカメラにより、前記ターゲットシーンの二次元画像を収集することと、
収集されたデプス画像及び前記二次元画像に基づいて、拡散待ち画像及び特徴画像を決定することと、
前記拡散待ち画像及び前記特徴画像に基づいて、前記拡散待ち画像における各画素の拡散強度を決定することであって、前記拡散強度は、前記拡散待ち画像における各画素の画素値が隣接画素へ拡散する強度を表す、ことと、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、補完後のデプス画像を決定することと、を含む。
設けられたレーダーにより、ターゲットシーンのデプス画像を収集し、設けられたカメラにより、前記ターゲットシーンの二次元画像を収集するように構成される収集モジュールと、
収集されたデプス画像及び前記二次元画像に基づいて、拡散待ち画像及び特徴画像を決定し、前記拡散待ち画像及び前記特徴画像に基づいて、前記拡散待ち画像における各画素の拡散強度を決定するように構成される処理モジュールであって、前記拡散強度は、前記拡散待ち画像における各画素の画素値が隣接画素へ拡散する強度を表す、処理モジュールと、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、補完後のデプス画像を決定するように構成される拡散モジュールと、を備える。
前記メモリは、実行可能なデプス画像補完命令を記憶するように構成され、
前記プロセッサは、前記メモリに記憶された実行可能なデプス画像補完命令を実行し、上記第1態様のいずれか一項に記載の方法を実現させるように構成される。
本願明細書は、例えば、以下の項目も提供する。
(項目1)
デプス画像補完方法であって、前記方法は、
設けられたレーダーにより、ターゲットシーンのデプス画像を収集し、設けられたカメラにより、前記ターゲットシーンの二次元画像を収集することと、
収集されたデプス画像及び前記二次元画像に基づいて、拡散待ち画像及び特徴画像を決定することと、
前記拡散待ち画像及び前記特徴画像に基づいて、前記拡散待ち画像における各画素の拡散強度を決定することであって、前記拡散強度は、前記拡散待ち画像における各画素の画素値が隣接画素へ拡散する強度を表す、ことと、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、補完後のデプス画像を決定することと、を含む、デプス画像補完方法。
(項目2)
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、補完後のデプス画像を決定することは、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、前記拡散待ち画像における各画素の拡散後の画素値を決定することと、
前記拡散待ち画像における各画素の拡散後の画素値に基づいて、補完後のデプス画像を決定することと、を含むことを特徴とする
項目1に記載の方法。
(項目3)
前記拡散待ち画像は、初期段階の補完デプス画像であり、前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定することは、
前記拡散待ち画像における各画素の拡散後の画素値を拡散後の画像の各画素の画素値とすることと、
拡散後の画像を補完後のデプス画像とすることと、を含むことを特徴とする
項目2に記載の方法。
(項目4)
前記拡散待ち画像は、第1平面原点距離画像であり、前記デプス画像及び前記二次元画像に基づいて拡散待ち画像及び特徴画像を決定することは、
前記カメラのパラメータ行列を取得することと、
前記収集されたデプス画像及び前記二次元画像に基づいて、前記初期段階の補完デプス画像、前記特徴画像及び法線方向予測画像を決定することであって、前記法線方向予測画像は、三次元シーンにおける各点の法線ベクトルを画素値とした画像を指す、ことと、
前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出することであって、前記第1平面原点距離画像は、前記初期段階の補完デプス画像を利用して算出された前記カメラから前記三次元シーンにおける各点の所在する平面までの距離を画素値とした画像である、ことと、を含むことを特徴とする
項目2に記載の方法。
(項目5)
前記方法は、
前記収集されたデプス画像及び前記二次元画像に基づいて第1信頼度画像を決定することであって、前記第1信頼度画像は、前記収集されたデプス画像における各画素に対応する信頼度を画素値として用いた画像を指す、ことと、
前記収集されたデプス画像、前記パラメータ行列及び前記法線方向予測画像に基づいて、第2平面原点距離画像を算出することであって、前記第2平面原点距離画像は、前記収集されたデプス画像を利用して算出された前記カメラから前記三次元シーンにおける各点の所在する平面までの距離を画素値として用いた画像を指す、ことと、
前記第1信頼度画像における画素、前記第2平面原点距離画像における画素及び前記第1平面原点距離画像における画素に基づいて、前記第1平面原点距離画像における画素を最適化し、最適化後の第1平面原点距離画像を得ることと、を更に含むことを特徴とする
項目4に記載の方法。
(項目6)
前記第1信頼度画像における画素、前記第2平面原点距離画像における画素及び前記第1平面原点距離画像における画素に基づいて、前記第1平面原点距離画像における画素を最適化し、最適化後の第1平面原点距離画像を得ることは、
前記第2平面原点距離画像から、前記第1平面原点距離画像の第1画素点に対応する画素点を置換え画素点として決定し、前記置換え画素点の画素値を決定することであって、前記第1画素点は、前記第1平面原点距離画像におけるいずれか1つの画素点である、ことと、
前記第1信頼度画像から、前記置換え画素点に対応する信頼度情報を決定することと、
前記置換え画素点の画素値、前記信頼度情報及び前記第1平面原点距離画像の第1画素点の画素値に基づいて、前記第1平面原点距離画像の前記第1画素点の最適化後の画素値を決定することと、
を繰り返して実行し、前記第1平面原点距離画像の各画素の最適化後の画素値を決定して前記最適化後の第1平面原点距離画像を得るまで継続すること、を含むことを特徴とする
項目5に記載の方法。
(項目7)
前記拡散待ち画像及び前記特徴画像に基づいて、前記拡散待ち画像における各画素の拡散強度を決定することは、
所定拡散範囲に基づいて、前記拡散待ち画像から、前記拡散待ち画像の第2画素点に対応する拡散待ち画素集合を決定し、前記拡散待ち画素集合における各画素の画素値を決定することであって、前記第2画素点は、前記拡散待ち画像におけるいずれか1つの画素点である、ことと、
前記特徴画像、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する拡散強度を算出することと、を含み、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、前記拡散待ち画像における各画素の拡散後の画素値を決定することは、
前記拡散待ち画像の第2画素点の拡散強度、前記拡散待ち画像の第2画素点の画素値及び前記拡散待ち画素集合における各画素の画素値に基づいて、前記拡散待ち画像の第2画素点の拡散後の画素値を決定すること、
を繰り返して実行し、前記拡散待ち画像における各画素の拡散後の画素値を決定するまで継続すること、を含むことを特徴とする
項目2-6のうちいずれか一項に記載の方法。
(項目8)
前記特徴画像、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する拡散強度を算出することは、
拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する強度正規化パラメータを算出することと、
前記特徴画像において、前記拡散待ち画像の第2画素点に対応する画素を第1特徴画素とすることと、
前記特徴画像において、前記拡散待ち画素集合における第3画素点に対応する画素を第2特徴画素とすることであって、前記第3画素点は、拡散待ち画素集合におけるいずれか1つの画素点である、ことと、
前記第1特徴画素の特徴情報及び前記第2特徴画素の特徴情報を抽出することと、
前記第1特徴画素の特徴情報、前記第2特徴画素の特徴情報、前記強度正規化パラメータ及び所定拡散制御パラメータ利用して、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における第3画素点からなる拡散画素ペアのサブ拡散強度を算出することと、
を繰り返して実行し、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素からなる拡散画素ペアのサブ拡散強度を決定するまで継続することと、
前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素からなる拡散画素ペアのサブ拡散強度を前記拡散待ち画像の第2画素点に対応する拡散強度とすることと、を含むことを特徴とする
項目7に記載の方法。
(項目9)
前記サブ拡散強度は、前記拡散待ち画像の第2画素点と前記拡散待ち画素集合における第3画素点との類似度であることを特徴とする
項目8に記載の方法。
(項目10)
拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する強度正規化パラメータを算出することは、
前記拡散待ち画像の第2画素点の特徴情報及び前記拡散待ち画素集合における第3画素点の特徴情報を抽出することと、
抽出して得られた拡散待ち画像の第2画素点の特徴情報、前記拡散待ち画素集合における第3画素点の特徴情報及び前記所定拡散制御パラメータ利用して、前記拡散待ち画素集合における第3画素点のサブ正規化パラメータを算出することと、
を繰り返して実行し、前記拡散待ち画素集合における各画素のサブ正規化パラメータを得るまで継続することと、
前記拡散待ち画素集合における各画素のサブ正規化パラメータに対して累加を行い、前記拡散待ち画像の第2画素点に対応する強度正規化パラメータを得ることと、を含むことを特徴とする
項目8に記載の方法。
(項目11)
前記拡散待ち画像の第2画素点の拡散強度、前記拡散待ち画像の第2画素点の画素値及び前記拡散待ち画素集合における各画素の画素値に基づいて、前記拡散待ち画像の第2画素点の拡散後の画素値を決定することは、
前記拡散強度における各サブ拡散強度をそれぞれ前記拡散待ち画像の第2画素点の画素値と乗算し、得られた乗算結果を累加し、前記拡散待ち画像の第2画素点の第1拡散部を得ることと、
前記拡散強度における各サブ拡散強度をそれぞれ拡散待ち画素集合における各画素の画素値と乗算し、得られた乗算結果を累加し、前記拡散待ち画像の第2画素点の第2拡散部を得ることと、
前記拡散待ち画像の第2画素点の画素値、前記拡散待ち画像の第2画素点の第1拡散部及び前記拡散待ち画像の第2画素点の第2拡散部に基づいて、前記拡散待ち画像の第2画素点の拡散後の画素値を算出することと、を含むことを特徴とする
項目8に記載の方法。
(項目12)
前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定した後、前記方法は、
前記補完後のデプス画像を拡散待ち画像とし、前記拡散待ち画像及び前記特徴画像に基づいて前記拡散待ち画像における各画素の拡散強度を決定するステップ、前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて前記拡散待ち画像における各画素の拡散後の画素値を決定するステップ、及び前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定するステップを繰り返して実行し、所定の繰り返し回数に達するまで継続することを更に含むことを特徴とする
項目3に記載の方法。
(項目13)
前記拡散待ち画像における各画素の拡散後の画素値に基づいて、補完後のデプス画像を決定した後、前記方法は、
前記補完後のデプス画像を初期段階の補完デプス画像とし、前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出して前記第1平面原点距離画像を拡散待ち画像とするステップ、前記拡散待ち画像及び前記特徴画像に基づいて前記拡散待ち画像における各画素の拡散強度を決定するステップ、前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて前記拡散待ち画像における各画素の拡散後の画素値を決定するステップ、及び前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定するステップを繰り返して実行し、所定の繰り返し回数に達するまで継続することを更に含むことを特徴とする
項目4-11のうちいずれか一項に記載の方法。
(項目14)
毎回に実行される、前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出して前記第1平面原点距離画像を拡散待ち画像とするステップは、
前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出するステップと、
前記収集されたデプス画像及び前記二次元画像に基づいて、第1信頼度画像を決定するステップと、
前記収集されたデプス画像、パラメータ行列及び法線方向予測画像に基づいて、第2平面原点距離画像を算出するステップと、
前記第1信頼度画像における画素、前記第2平面原点距離画像における画素及び前記第1平面原点距離画像における画素に基づいて、前記第1平面原点距離画像における画素を最適化し、最適化後の第1平面原点距離画像を得て、最適化後の第1平面原点距離画像を拡散待ち画像とするステップと、を含むことを特徴とする
項目13に記載の方法。
(項目15)
デプス画像補完装置であって、前記装置は、
設けられたレーダーにより、ターゲットシーンのデプス画像を収集し、設けられたカメラにより、前記ターゲットシーンの二次元画像を収集するように構成される収集モジュールと、
収集されたデプス画像及び前記二次元画像に基づいて、拡散待ち画像及び特徴画像を決定し、前記拡散待ち画像及び前記特徴画像に基づいて、前記拡散待ち画像における各画素の拡散強度を決定するように構成される処理モジュールであって、前記拡散強度は、前記拡散待ち画像における各画素の画素値が隣接画素へ拡散する強度を表す、処理モジュールと、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、補完後のデプス画像を決定するように構成される拡散モジュールと、を備える、デプス画像補完装置。
(項目16)
前記拡散モジュールは更に、前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、前記拡散待ち画像における各画素の拡散後の画素値を決定し、前記拡散待ち画像における各画素の拡散後の画素値に基づいて、補完後のデプス画像を決定するように構成されることを特徴とする
項目15に記載のデプス画像補完装置。
(項目17)
前記拡散待ち画像は、初期段階の補完デプス画像であり、
前記拡散モジュールは、前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定するように構成される場合、更に、前記拡散待ち画像における各画素の拡散後の画素値を拡散後の画像の各画素の画素値とし、拡散後の画像を補完後のデプス画像とするように構成されることを特徴とする
項目16に記載のデプス画像補完装置。
(項目18)
前記拡散待ち画像は、第1平面原点距離画像であり、
前記処理モジュールは、前記デプス画像及び前記二次元画像に基づいて拡散待ち画像及び特徴画像を決定するように構成される場合、更に、前記カメラのパラメータ行列を取得し、前記デプス画像及び前記二次元画像に基づいて、前記初期段階の補完デプス画像、前記特徴画像及び法線方向予測画像を決定するように構成され、前記法線方向予測画像は、三次元シーンにおける各点の法線ベクトルを画素値とした画像を指し、前記処理モジュールは更に、前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出するように構成され、前記第1平面原点距離画像は、前記初期段階の補完デプス画像を利用して算出された前記カメラから前記三次元シーンにおける各点の所在する平面までの距離を画素値とした画像であることを特徴とする
項目16に記載のデプス画像補完装置。
(項目19)
前記処理モジュールは更に、前記デプス画像及び前記二次元画像に基づいて第1信頼度画像を決定するように構成され、前記第1信頼度画像は、前記デプス画像における各画素に対応する信頼度を画素値として用いた画像を指し、前記処理モジュールは更に、前記デプス画像、前記パラメータ行列及び前記法線方向予測画像に基づいて、第2平面原点距離画像を算出するように構成され、前記第2平面原点距離画像は、前記デプス画像を利用して算出された前記カメラから前記三次元シーンにおける各点の所在する平面までの距離を画素値として用いた画像を指し、前記処理モジュールは更に、前記第1信頼度画像における画素、前記第2平面原点距離画像における画素及び前記第1平面原点距離画像における画素に基づいて、前記第1平面原点距離画像における画素を最適化し、最適化後の第1平面原点距離画像を得るように構成されることを特徴とする
項目18に記載のデプス画像補完装置。
(項目20)
前記処理モジュールは、前記第1信頼度画像における画素、前記第2平面原点距離画像における画素及び前記第1平面原点距離画像における画素に基づいて、前記第1平面原点距離画像における画素を最適化し、最適化後の第1平面原点距離画像を得るように構成される場合、更に、前記第2平面原点距離画像から、前記第1平面原点距離画像の第1画素点に対応する画素点を置換え画素点として決定し、前記置換え画素点の画素値を決定することであって、前記第1画素点は、前記第1平面原点距離画像におけるいずれか1つの画素点である、ことと、前記第1信頼度画像から、前記置換え画素点に対応する信頼度情報を決定することと、前記置換え画素点の画素値、前記信頼度情報及び前記第1平面原点距離画像の第1画素点の画素値に基づいて、前記第1平面原点距離画像の前記第1画素点の最適化後の画素値を決定することと、を繰り返して実行し、前記第1平面原点距離画像の各画素の最適化後の画素値を決定して前記最適化後の第1平面原点距離画像を得るまで継続するように構成されることを特徴とする
項目19に記載のデプス画像補完装置。
(項目21)
前記処理モジュールは、前記拡散待ち画像及び前記特徴画像に基づいて、前記拡散待ち画像における各画素の拡散強度を決定するように構成される場合、更に、所定拡散範囲に基づいて、前記拡散待ち画像から、前記拡散待ち画像の第2画素点に対応する拡散待ち画素集合を決定し、前記拡散待ち画素集合における各画素の画素値を決定するように構成され、前記第2画素点は、前記拡散待ち画像におけるいずれか1つの画素点であり、前記処理モジュールは更に、前記特徴画像、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する拡散強度を算出するように構成され、
前記拡散モジュールは、前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、前記拡散待ち画像における各画素の拡散後の画素値を決定するように構成される場合、更に、前記拡散待ち画像の第2画素点の拡散強度、前記拡散待ち画像の第2画素点の画素値及び前記拡散待ち画素集合における各画素の画素値に基づいて、前記拡散待ち画像の第2画素点の拡散後の画素値を決定すること、を繰り返して実行し、前記拡散待ち画像における各画素の拡散後の画素値を決定するまで継続するように構成されることを特徴とする
項目16-20のうちいずれか一項に記載のデプス画像補完装置。
(項目22)
前記処理モジュールは、前記特徴画像、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する拡散強度を算出するように構成される場合、更に、拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する強度正規化パラメータを算出することと、前記特徴画像において、前記拡散待ち画像の第2画素点に対応する画素を第1特徴画素とすることと、前記特徴画像において、前記拡散待ち画素集合における第3画素点に対応する画素を第2特徴画素とすることであって、前記第3画素点は、拡散待ち画素集合におけるいずれか1つの画素点である、ことと、前記第1特徴画素の特徴情報及び前記第2特徴画素の特徴情報を抽出することと、前記第1特徴画素の特徴情報、前記第2特徴画素の特徴情報、前記強度正規化パラメータ及び所定拡散制御パラメータ利用して、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における第3画素点からなる拡散画素ペアのサブ拡散強度を算出することと、を繰り返して実行し、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素からなる拡散画素ペアのサブ拡散強度を決定するまで継続することと、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素からなる拡散画素ペアのサブ拡散強度を前記拡散待ち画像の第2画素点に対応する拡散強度とすることと、を実行するように構成されることを特徴とする
項目21に記載のデプス画像補完装置。
(項目23)
前記処理モジュールは、拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する強度正規化パラメータを算出するように構成される場合、更に、前記拡散待ち画像の第2画素点の特徴情報及び前記拡散待ち画素集合における第3画素点の特徴情報を抽出することと、抽出して得られた拡散待ち画像の第2画素点の特徴情報、前記拡散待ち画素集合における第3画素点の特徴情報及び前記所定拡散制御パラメータ利用して、前記拡散待ち画素集合における第3画素点のサブ正規化パラメータを算出することと、を繰り返して実行し、前記拡散待ち画素集合における各画素のサブ正規化パラメータを得るまで継続することと、前記拡散待ち画素集合における各画素のサブ正規化パラメータに対して累加を行い、前記拡散待ち画像の第2画素点に対応する強度正規化パラメータを得ることと、実行するように構成されることを特徴とする
項目22に記載のデプス画像補完装置。
(項目24)
前記拡散モジュールは、前記拡散待ち画像の第2画素点の拡散強度、前記拡散待ち画像の第2画素点の画素値及び前記拡散待ち画素集合における各画素の画素値に基づいて、前記拡散待ち画像の第2画素点の拡散後の画素値を決定するように構成される場合、更に、前記拡散強度における各サブ拡散強度をそれぞれ前記拡散待ち画像の第2画素点の画素値と乗算し、得られた乗算結果を累加し、前記拡散待ち画像の第2画素点の第1拡散部を得て、前記拡散強度における各サブ拡散強度をそれぞれ拡散待ち画素集合における各画素の画素値と乗算し、得られた乗算結果を累加し、前記拡散待ち画像の第2画素点の第2拡散部を得て、前記拡散待ち画像の第2画素点の画素値、前記拡散待ち画像の第2画素点の第1拡散部及び前記拡散待ち画像の第2画素点の第2拡散部に基づいて、前記拡散待ち画像の第2画素点の拡散後の画素値を算出するように構成されることを特徴とする
項目22に記載のデプス画像補完装置。
(項目25)
前記拡散モジュールは更に、前記補完後のデプス画像を拡散待ち画像とし、前記拡散待ち画像及び前記特徴画像に基づいて前記拡散待ち画像における各画素の拡散強度を決定するステップ、前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて前記拡散待ち画像における各画素の拡散後の画素値を決定するステップ、及び前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定するステップを繰り返して実行し、所定の繰り返し回数に達するまで継続するように構成されることを特徴とする
項目17に記載のデプス画像補完装置。
(項目26)
前記拡散モジュールは更に、前記補完後のデプス画像を初期段階の補完デプス画像とし、前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出して前記第1平面原点距離画像を拡散待ち画像とするステップ、前記拡散待ち画像及び前記特徴画像に基づいて前記拡散待ち画像における各画素の拡散強度を決定するステップ、前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて前記拡散待ち画像における各画素の拡散後の画素値を決定するステップ、及び前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定するステップを繰り返して実行し、所定の繰り返し回数に達するまで継続するように構成されることを特徴とする
項目18-24のうちいずれか一項に記載のデプス画像補完装置。
(項目27)
前記拡散モジュールは、毎回に実行される、前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出して前記第1平面原点距離画像を拡散待ち画像とするように構成される場合、更に、前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び法線方向予測画像に基づいて、第1平面原点距離画像を算出し、前記デプス画像及び前記二次元画像に基づいて、第1信頼度画像を決定し、前記デプス画像、パラメータ行列及び法線方向予測画像に基づいて、第2平面原点距離画像を算出し、前記第1信頼度画像における画素、前記第2平面原点距離画像における画素及び前記第1平面原点距離画像における画素に基づいて、前記第1平面原点距離画像における画素を最適化し、最適化後の第1平面原点距離画像を得て、最適化後の第1平面原点距離画像を拡散待ち画像とするように構成されることを特徴とする
項目26に記載のデプス画像補完装置。
(項目28)
デプス画像補完装置であって、前記装置は、メモリと、プロセッサと、を備え、
前記メモリは、実行可能なデプス画像補完命令を記憶するように構成され、
前記プロセッサは、前記メモリに記憶された実行可能なデプス画像補完命令を実行し、項目1-14のうちいずれか一項に記載の方法を実現させるように構成される、デプス画像補完装置。
(項目29)
コンピュータ可読記憶媒体であって、前記コンピュータ可読記憶媒体に、実行可能なデプス画像補完命令が記憶されており、実行可能なデプス画像補完命令が、プロセッサに、項目1-14のうちいずれか一項に記載の方法を実現させる、コンピュータ可読記憶媒体。
初期段階の補完デプス画像、カメラのパラメータ行列及び法線方向予測画像に基づいて、第1平面原点距離画像を算出するステップと、デプス画像及び二次元画像に基づいて、第1信頼度画像を決定するステップと、デプス画像、パラメータ行列及び法線方向予測画像に基づいて、第2平面原点距離画像を算出するステップと、第1信頼度画像における画素、第2平面原点距離画像における画素及び第1平面原点距離画像における画素に基づいて、第1平面原点距離画像における画素を最適化し、最適化後の第1平面原点距離画像を得て、最適化後の第1平面原点距離画像を拡散待ち画像とするステップと、を含む。
設けられたレーダーにより、ターゲットシーンのデプス画像を収集し、設けられたカメラにより、前記ターゲットシーンの二次元画像を収集するように構成される収集モジュール10と、
収集されたデプス画像及び前記二次元画像に基づいて、拡散待ち画像及び特徴画像を決定し、前記拡散待ち画像及び前記特徴画像に基づいて、前記拡散待ち画像における各画素の拡散強度を決定するように構成される処理モジュール11であって、前記拡散強度は、前記拡散待ち画像における各画素の画素値が隣接画素へ拡散する強度を表す、処理モジュール11と、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、補完後のデプス画像を決定するように構成される拡散モジュール12と、を備えてもよい。
前記拡散モジュール12は、前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、前記拡散待ち画像における各画素の拡散後の画素値を決定するように構成される場合、更に、前記拡散待ち画像の第2画素点の拡散強度、前記拡散待ち画像の第2画素点の画素値及び前記拡散待ち画素集合における各画素の画素値に基づいて、前記拡散待ち画像の第2画素点の拡散後の画素値を決定すること、を繰り返して実行し、前記拡散待ち画像における各画素の拡散後の画素値を決定するまで継続するように構成される。
Claims (17)
- デプス画像補完方法であって、前記方法は、
設けられたレーダーにより、ターゲットシーンのデプス画像を収集し、設けられたカメラにより、前記ターゲットシーンの二次元画像を収集することと、
収集されたデプス画像及び前記二次元画像に基づいて、拡散待ち画像及び特徴画像を決定することと、
前記拡散待ち画像及び前記特徴画像に基づいて、前記拡散待ち画像における各画素の拡散強度を決定することであって、前記拡散強度は、前記拡散待ち画像における各画素の画素値が隣接画素へ拡散する強度を表す、ことと、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、補完後のデプス画像を決定することと
を含む、デプス画像補完方法。 - 前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、補完後のデプス画像を決定することは、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、前記拡散待ち画像における各画素の拡散後の画素値を決定することと、
前記拡散待ち画像における各画素の拡散後の画素値に基づいて、補完後のデプス画像を決定することと
を含む、請求項1に記載の方法。 - 前記拡散待ち画像は、初期段階の補完デプス画像であり、前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定することは、
前記拡散待ち画像における各画素の拡散後の画素値を拡散後の画像の各画素の画素値とすることと、
拡散後の画像を補完後のデプス画像とすることと
を含む、請求項2に記載の方法。 - 前記拡散待ち画像は、第1平面原点距離画像であり、前記デプス画像及び前記二次元画像に基づいて拡散待ち画像及び特徴画像を決定することは、
前記カメラのパラメータ行列を取得することと、
前記収集されたデプス画像及び前記二次元画像に基づいて、初期段階の補完デプス画像、前記特徴画像及び法線方向予測画像を決定することであって、前記法線方向予測画像は、三次元シーンにおける各点の法線ベクトルを画素値とした画像を指す、ことと、
前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出することであって、前記第1平面原点距離画像は、前記初期段階の補完デプス画像を利用して算出された前記カメラから前記三次元シーンにおける各点の所在する平面までの距離を画素値とした画像である、ことと
を含む、請求項2に記載の方法。 - 前記方法は、
前記収集されたデプス画像及び前記二次元画像に基づいて第1信頼度画像を決定することであって、前記第1信頼度画像は、前記収集されたデプス画像における各画素に対応する信頼度を画素値として用いた画像を指す、ことと、
前記収集されたデプス画像、前記パラメータ行列及び前記法線方向予測画像に基づいて、第2平面原点距離画像を算出することであって、前記第2平面原点距離画像は、前記収集されたデプス画像を利用して算出された前記カメラから前記三次元シーンにおける各点の所在する平面までの距離を画素値として用いた画像を指す、ことと、
前記第1信頼度画像における画素、前記第2平面原点距離画像における画素及び前記第1平面原点距離画像における画素に基づいて、前記第1平面原点距離画像における画素を最適化し、最適化後の第1平面原点距離画像を得ることと
を更に含む、請求項4に記載の方法。 - 前記第1信頼度画像における画素、前記第2平面原点距離画像における画素及び前記第1平面原点距離画像における画素に基づいて、前記第1平面原点距離画像における画素を最適化し、最適化後の第1平面原点距離画像を得ることは、
前記第2平面原点距離画像から、前記第1平面原点距離画像の第1画素点に対応する画素点を置換え画素点として決定し、前記置換え画素点の画素値を決定することであって、前記第1画素点は、前記第1平面原点距離画像におけるいずれか1つの画素点である、ことと、
前記第1信頼度画像から、前記置換え画素点に対応する信頼度情報を決定することと、
前記置換え画素点の画素値、前記信頼度情報及び前記第1平面原点距離画像の第1画素点の画素値に基づいて、前記第1平面原点距離画像の前記第1画素点の最適化後の画素値を決定することと、
を繰り返して実行し、前記第1平面原点距離画像の各画素の最適化後の画素値を決定して前記最適化後の第1平面原点距離画像を得るまで継続することを含む、請求項5に記載の方法。 - 前記拡散待ち画像及び前記特徴画像に基づいて、前記拡散待ち画像における各画素の拡散強度を決定することは、
所定拡散範囲に基づいて、前記拡散待ち画像から、前記拡散待ち画像の第2画素点に対応する拡散待ち画素集合を決定し、前記拡散待ち画素集合における各画素の画素値を決定することであって、前記第2画素点は、前記拡散待ち画像におけるいずれか1つの画素点である、ことと、
前記特徴画像、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する拡散強度を算出することと
を含み、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、前記拡散待ち画像における各画素の拡散後の画素値を決定することは、
前記拡散待ち画像の第2画素点の拡散強度、前記拡散待ち画像の第2画素点の画素値及び前記拡散待ち画素集合における各画素の画素値に基づいて、前記拡散待ち画像の第2画素点の拡散後の画素値を決定すること、
を繰り返して実行し、前記拡散待ち画像における各画素の拡散後の画素値を決定するまで継続することを含む、請求項4~6のうちいずれか一項に記載の方法。 - 前記特徴画像、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する拡散強度を算出することは、
拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する強度正規化パラメータを算出することと、
前記特徴画像において、前記拡散待ち画像の第2画素点に対応する画素を第1特徴画素とすることと、
前記特徴画像において、前記拡散待ち画素集合における第3画素点に対応する画素を第2特徴画素とすることであって、前記第3画素点は、拡散待ち画素集合におけるいずれか1つの画素点である、ことと、
前記第1特徴画素の特徴情報及び前記第2特徴画素の特徴情報を抽出することと、
前記第1特徴画素の特徴情報、前記第2特徴画素の特徴情報、前記強度正規化パラメータ及び所定拡散制御パラメータ利用して、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における第3画素点からなる拡散画素ペアのサブ拡散強度を算出することと、
を繰り返して実行し、前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素からなる拡散画素ペアのサブ拡散強度を決定するまで継続することと、
前記拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素からなる拡散画素ペアのサブ拡散強度を前記拡散待ち画像の第2画素点に対応する拡散強度とすることと
を含む、請求項7に記載の方法。 - 前記サブ拡散強度は、前記拡散待ち画像の第2画素点と前記拡散待ち画素集合における第3画素点との類似度である、請求項8に記載の方法。
- 拡散待ち画像の第2画素点及び前記拡散待ち画素集合における各画素を利用して、前記拡散待ち画像の第2画素点に対応する強度正規化パラメータを算出することは、
前記拡散待ち画像の第2画素点の特徴情報及び前記拡散待ち画素集合における第3画素点の特徴情報を抽出することと、
抽出して得られた拡散待ち画像の第2画素点の特徴情報、前記拡散待ち画素集合における第3画素点の特徴情報及び前記所定拡散制御パラメータ利用して、前記拡散待ち画素集合における第3画素点のサブ正規化パラメータを算出することと、
を繰り返して実行し、前記拡散待ち画素集合における各画素のサブ正規化パラメータを得るまで継続することと、
前記拡散待ち画素集合における各画素のサブ正規化パラメータに対して累加を行い、前記拡散待ち画像の第2画素点に対応する強度正規化パラメータを得ることと
を含む、請求項8に記載の方法。 - 前記拡散待ち画像の第2画素点の拡散強度、前記拡散待ち画像の第2画素点の画素値及び前記拡散待ち画素集合における各画素の画素値に基づいて、前記拡散待ち画像の第2画素点の拡散後の画素値を決定することは、
前記拡散強度における各サブ拡散強度をそれぞれ前記拡散待ち画像の第2画素点の画素値と乗算し、得られた乗算結果を累加し、前記拡散待ち画像の第2画素点の第1拡散部を得ることと、
前記拡散強度における各サブ拡散強度をそれぞれ拡散待ち画素集合における各画素の画素値と乗算し、得られた乗算結果を累加し、前記拡散待ち画像の第2画素点の第2拡散部を得ることと、
前記拡散待ち画像の第2画素点の画素値、前記拡散待ち画像の第2画素点の第1拡散部及び前記拡散待ち画像の第2画素点の第2拡散部に基づいて、前記拡散待ち画像の第2画素点の拡散後の画素値を算出することと
を含む、請求項8に記載の方法。 - 前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定した後、前記方法は、
前記補完後のデプス画像を拡散待ち画像とし、前記拡散待ち画像及び前記特徴画像に基づいて前記拡散待ち画像における各画素の拡散強度を決定するステップ、前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて前記拡散待ち画像における各画素の拡散後の画素値を決定するステップ、及び前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定するステップを繰り返して実行し、所定の繰り返し回数に達するまで継続することを更に含む、請求項3に記載の方法。 - 前記拡散待ち画像における各画素の拡散後の画素値に基づいて、補完後のデプス画像を決定した後、前記方法は、
前記補完後のデプス画像を初期段階の補完デプス画像とし、前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出して前記第1平面原点距離画像を拡散待ち画像とするステップ、前記拡散待ち画像及び前記特徴画像に基づいて前記拡散待ち画像における各画素の拡散強度を決定するステップ、前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて前記拡散待ち画像における各画素の拡散後の画素値を決定するステップ、及び前記拡散待ち画像における各画素の拡散後の画素値に基づいて補完後のデプス画像を決定するステップを繰り返して実行し、所定の繰り返し回数に達するまで継続することを更に含む、請求項4~11のうちいずれか一項に記載の方法。 - 毎回に実行される、前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出して前記第1平面原点距離画像を拡散待ち画像とするステップは、
前記初期段階の補完デプス画像、前記カメラのパラメータ行列及び前記法線方向予測画像に基づいて、第1平面原点距離画像を算出するステップと、
前記収集されたデプス画像及び前記二次元画像に基づいて、第1信頼度画像を決定するステップと、
前記収集されたデプス画像、パラメータ行列及び法線方向予測画像に基づいて、第2平面原点距離画像を算出するステップと、
前記第1信頼度画像における画素、前記第2平面原点距離画像における画素及び前記第1平面原点距離画像における画素に基づいて、前記第1平面原点距離画像における画素を最適化し、最適化後の第1平面原点距離画像を得て、最適化後の第1平面原点距離画像を拡散待ち画像とするステップと
を含む、請求項13に記載の方法。 - デプス画像補完装置であって、前記装置は、
設けられたレーダーにより、ターゲットシーンのデプス画像を収集し、設けられたカメラにより、前記ターゲットシーンの二次元画像を収集するように構成される収集モジュールと、
収集されたデプス画像及び前記二次元画像に基づいて、拡散待ち画像及び特徴画像を決定し、前記拡散待ち画像及び前記特徴画像に基づいて、前記拡散待ち画像における各画素の拡散強度を決定するように構成される処理モジュールであって、前記拡散強度は、前記拡散待ち画像における各画素の画素値が隣接画素へ拡散する強度を表す、処理モジュールと、
前記拡散待ち画像における各画素の画素値及び前記拡散待ち画像における各画素の拡散強度に基づいて、補完後のデプス画像を決定するように構成される拡散モジュールと
を備える、デプス画像補完装置。 - デプス画像補完装置であって、前記装置は、メモリとプロセッサとを備え、
前記メモリは、実行可能なデプス画像補完命令を記憶するように構成され、
前記プロセッサは、前記メモリに記憶された前記実行可能なデプス画像補完命令を実行することにより、請求項1~14のうちいずれか一項に記載の方法を実現するように構成される、デプス画像補完装置。 - コンピュータ読み取り可能な記憶媒体であって、前記コンピュータ読み取り可能な記憶媒体には、実行可能なデプス画像補完命令が記憶されており、前記実行可能なデプス画像補完命令は、請求項1~14のうちいずれか一項に記載の方法を実現することをプロセッサに行わせる、コンピュータ読み取り可能な記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910817815.1A CN112446909B (zh) | 2019-08-30 | 2019-08-30 | 一种深度图像补全方法及装置、计算机可读存储介质 |
CN201910817815.1 | 2019-08-30 | ||
PCT/CN2019/128828 WO2021036135A1 (zh) | 2019-08-30 | 2019-12-26 | 一种深度图像补全方法及装置、计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022501681A JP2022501681A (ja) | 2022-01-06 |
JP7143449B2 true JP7143449B2 (ja) | 2022-09-28 |
Family
ID=74684872
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020568542A Active JP7143449B2 (ja) | 2019-08-30 | 2019-12-26 | デプス画像補完方法及び装置、コンピュータ可読記憶媒体 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20210082135A1 (ja) |
JP (1) | JP7143449B2 (ja) |
KR (1) | KR20210027269A (ja) |
CN (1) | CN112446909B (ja) |
SG (1) | SG11202012443SA (ja) |
WO (1) | WO2021036135A1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US12008740B2 (en) * | 2020-08-12 | 2024-06-11 | Niantic, Inc. | Feature matching using features extracted from perspective corrected image |
CN113012210B (zh) * | 2021-03-25 | 2022-09-27 | 北京百度网讯科技有限公司 | 深度图的生成方法、装置、电子设备和存储介质 |
US20220390591A1 (en) * | 2021-06-03 | 2022-12-08 | Ford Global Technologies, Llc | Depth map generation |
CN113625271B (zh) * | 2021-07-29 | 2023-10-27 | 中汽创智科技有限公司 | 基于毫米波雷达和双目相机的同时定位与建图方法 |
KR102641108B1 (ko) * | 2021-08-03 | 2024-02-27 | 연세대학교 산학협력단 | 깊이맵 완성 장치 및 방법 |
GB2609983A (en) * | 2021-08-20 | 2023-02-22 | Garford Farm Machinery Ltd | Image processing |
WO2023106119A1 (ja) * | 2021-12-09 | 2023-06-15 | ソニーグループ株式会社 | 制御装置、制御方法、情報処理装置、生成方法、およびプログラム |
CN114897955B (zh) * | 2022-04-25 | 2023-04-18 | 电子科技大学 | 一种基于可微几何传播的深度补全方法 |
WO2024076027A1 (ko) * | 2022-10-07 | 2024-04-11 | 삼성전자 주식회사 | 포인트 클라우드를 생성하는 방법 및 전자 장치 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018072858A1 (en) | 2016-10-18 | 2018-04-26 | Photonic Sensors & Algorithms, S.L. | Device and method for obtaining distance information from views |
JP2019016275A (ja) | 2017-07-10 | 2019-01-31 | キヤノン株式会社 | 画像処理方法、画像処理プログラム、記憶媒体、画像処理装置、および撮像装置 |
WO2019035155A1 (ja) | 2017-08-14 | 2019-02-21 | 楽天株式会社 | 画像処理システム、画像処理方法、及びプログラム |
JP2019091122A (ja) | 2017-11-10 | 2019-06-13 | 凸版印刷株式会社 | デプスマップフィルタ処理装置、デプスマップフィルタ処理方法及びプログラム |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5363213A (en) * | 1992-06-08 | 1994-11-08 | Xerox Corporation | Unquantized resolution conversion of bitmap images using error diffusion |
CN103198486B (zh) * | 2013-04-10 | 2015-09-09 | 浙江大学 | 一种基于各向异性扩散的深度图像增强方法 |
AU2013206597A1 (en) * | 2013-06-28 | 2015-01-22 | Canon Kabushiki Kaisha | Depth constrained superpixel-based depth map refinement |
CN103839258A (zh) * | 2014-02-13 | 2014-06-04 | 西安交通大学 | 一种二值化激光散斑图像的深度感知方法 |
CN106780593B (zh) * | 2016-11-28 | 2019-07-26 | 深圳奥比中光科技有限公司 | 一种彩色深度图像的获取方法、获取设备 |
CN108062769B (zh) * | 2017-12-22 | 2020-11-17 | 中山大学 | 一种用于三维重建的快速深度恢复方法 |
CN108932734B (zh) * | 2018-05-23 | 2021-03-09 | 浙江商汤科技开发有限公司 | 单目图像的深度恢复方法及装置、计算机设备 |
CN109325972B (zh) * | 2018-07-25 | 2020-10-27 | 深圳市商汤科技有限公司 | 激光雷达稀疏深度图的处理方法、装置、设备及介质 |
CN109685732B (zh) * | 2018-12-18 | 2023-02-17 | 重庆邮电大学 | 一种基于边界捕捉的深度图像高精度修复方法 |
CN110047144A (zh) * | 2019-04-01 | 2019-07-23 | 西安电子科技大学 | 一种基于Kinectv2的完整物体实时三维重建方法 |
-
2019
- 2019-08-30 CN CN201910817815.1A patent/CN112446909B/zh active Active
- 2019-12-26 KR KR1020207036589A patent/KR20210027269A/ko not_active Application Discontinuation
- 2019-12-26 JP JP2020568542A patent/JP7143449B2/ja active Active
- 2019-12-26 WO PCT/CN2019/128828 patent/WO2021036135A1/zh active Application Filing
- 2019-12-26 SG SG11202012443SA patent/SG11202012443SA/en unknown
-
2020
- 2020-11-30 US US17/107,065 patent/US20210082135A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018072858A1 (en) | 2016-10-18 | 2018-04-26 | Photonic Sensors & Algorithms, S.L. | Device and method for obtaining distance information from views |
JP2019016275A (ja) | 2017-07-10 | 2019-01-31 | キヤノン株式会社 | 画像処理方法、画像処理プログラム、記憶媒体、画像処理装置、および撮像装置 |
WO2019035155A1 (ja) | 2017-08-14 | 2019-02-21 | 楽天株式会社 | 画像処理システム、画像処理方法、及びプログラム |
JP2019091122A (ja) | 2017-11-10 | 2019-06-13 | 凸版印刷株式会社 | デプスマップフィルタ処理装置、デプスマップフィルタ処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
WO2021036135A1 (zh) | 2021-03-04 |
KR20210027269A (ko) | 2021-03-10 |
CN112446909B (zh) | 2022-02-01 |
SG11202012443SA (en) | 2021-04-29 |
JP2022501681A (ja) | 2022-01-06 |
CN112446909A (zh) | 2021-03-05 |
US20210082135A1 (en) | 2021-03-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7143449B2 (ja) | デプス画像補完方法及び装置、コンピュータ可読記憶媒体 | |
US20190035150A1 (en) | Resolution adaptive mesh for performing 3-d metrology of an object | |
EP3132418B1 (en) | Non local image denoising | |
CA3098402C (en) | Rendering images using modified multiple importance sampling | |
JP6202147B2 (ja) | 曲線検出方法と曲線検出装置 | |
CN111028327A (zh) | 一种三维点云的处理方法、装置及设备 | |
KR20210027380A (ko) | 다수의 센서들 및 감소된 복잡도 신경망들을 사용한 오브젝트 검출 | |
CN110632608A (zh) | 一种基于激光点云的目标检测方法和装置 | |
EP3945497A1 (en) | Method and apparatus with image depth estimation | |
WO2023075885A1 (en) | Denoising depth image data using neural networks | |
CN114494433B (zh) | 图像处理方法、装置、设备和计算机可读存储介质 | |
US20180025535A1 (en) | Hölder Adaptive Image Synthesis | |
US11470298B2 (en) | Method and apparatus with updating of algorithm for generating disparity image | |
CN113281779A (zh) | 一种3d物体快速检测方法、装置、设备及介质 | |
CN111179331B (zh) | 深度估计方法、装置、电子设备及计算机可读存储介质 | |
US9852537B2 (en) | Rendering via ray-depth field intersection | |
KR20110048829A (ko) | 레인지 영상의 노이즈 제거장치 및 방법 | |
CN112150529A (zh) | 一种图像特征点的深度信息确定方法及装置 | |
EP3579138A1 (en) | Method for determining a type and a state of an object of interest | |
EP3276577B1 (en) | Hölder adaptive image synthesis | |
WO2023095564A1 (ja) | 情報処理装置及び情報処理方法 | |
US20240126953A1 (en) | Arithmetic operation system, training method, and non-transitory computer readable medium storing training program | |
EP4322112A1 (en) | Method and device for representing rendered scenes | |
CN118298194B (zh) | 一种面向相机光通信的条纹图像处理方法、装置及设备 | |
US20230229971A1 (en) | Systems and methods for optimizing a machine learning model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201208 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220127 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220421 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220826 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220914 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7143449 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |