JP7328366B2 - 情報処理方法、測位方法及び装置、電子機器並びに記憶媒体 - Google Patents

情報処理方法、測位方法及び装置、電子機器並びに記憶媒体 Download PDF

Info

Publication number
JP7328366B2
JP7328366B2 JP2021574903A JP2021574903A JP7328366B2 JP 7328366 B2 JP7328366 B2 JP 7328366B2 JP 2021574903 A JP2021574903 A JP 2021574903A JP 2021574903 A JP2021574903 A JP 2021574903A JP 7328366 B2 JP7328366 B2 JP 7328366B2
Authority
JP
Japan
Prior art keywords
point cloud
image
dimensional
dimensional point
points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021574903A
Other languages
English (en)
Other versions
JP2022537984A (ja
Inventor
ヨウジー フォン
ジーチャオ イエ
ジアチョン ジン
グオフォン ジャン
Original Assignee
チョーチアン センスタイム テクノロジー デベロップメント カンパニー,リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by チョーチアン センスタイム テクノロジー デベロップメント カンパニー,リミテッド filed Critical チョーチアン センスタイム テクノロジー デベロップメント カンパニー,リミテッド
Publication of JP2022537984A publication Critical patent/JP2022537984A/ja
Application granted granted Critical
Publication of JP7328366B2 publication Critical patent/JP7328366B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/10Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/20Linear translation of whole images or parts thereof, e.g. panning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/008Cut plane or projection plane definition

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Description

(関連出願の相互参照)
本願は、2019年7月29日に中国特許局に提出された、出願番号が201910690235.0であり、名称が「情報処理方法、測位方法及び装置、電子機器並びに記憶媒体」である中国特許出願に基づく優先権を主張し、該中国特許出願の全内容が参照として本願に組み込まれる。
本願は、コンピュータビジョン技術分野に関し、特に情報処理方法、測位方法及び装置、電子機器並びに記憶媒体に関する。
三次元再構成技術は、近年では、新興技術であり、その用途は、極めて広く、工業、医学乃至生活娯楽などの各分野に適用されている。三次元再構成技術は、シーンにおける三次元物体を再構成し、カメラなどの画像収集装置により収集された画像を利用して物体の三次元映像を再構成し、物体を直観的に画像に示す。
画像に基づいた三次元再構成は、シーンの三次元ポイントクラウドを生成することができる。そのうちの三次元ポイントの座標は、一般的には、画像収集装置の座標系において定義され、現実的地理的意味を持たない。幾つかの実際の用途(例えば、視覚的測位)においてこれらの三次元ポイントクラウドを利用することは、重要な意味を持つ。
本願は、情報処理及び測位の技術的解決手段を提供する。
本願の一態様によれば、情報処理方法を提供する。前記方法は、三次元ポイントクラウドの三次元ポイント情報を取得することと、前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成することと、前記二次元ポイントクラウド画像と参照平面図との一致度に基づいて、前記参照平面図の参照座標系における、前記三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定することであって、前記参照平面図は、ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を示すためのものであり、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものである、ことと、を含む。
可能な実現形態において、前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成する前に、画像情報収集過程における画像収集装置の少なくとも2つの位置姿勢情報を取得することであって、前記画像情報は、前記三次元ポイントクラウドを構築するためのものである、ことと、前記画像収集装置の少なくとも2つの位置姿勢情報に基づいて、前記三次元ポイントクラウドを投影する水平面を決定することと、を更に含む。
可能な実現形態において、前記位置姿勢情報は、向き情報及び位置情報を含み、前記画像収集装置の少なくとも2つの位置姿勢情報に基づいて、前記三次元ポイントクラウドを投影する水平面を決定することは、前記画像収集装置の少なくとも2つの位置情報に基づいて、画像情報収集過程における前記画像収集装置のいずれか2つの位置間の変位を決定することと、前記画像収集装置の少なくとも2つの向き情報及びいずれか2つの位置間の変位に基づいて、前記三次元ポイントクラウドを投影する水平面を決定することと、を含む。
可能な実現形態において、前記画像収集装置は、画像情報収集過程における前記画像収集装置の所在する水平軸が、前記三次元ポイントクラウドを投影する水平面に平行するという所定の基礎条件、画像情報収集過程における前記画像収集装置の地面からの高さが、所定の高さ範囲内で変動するという所定の基礎条件、のうちの少なくとも1つを満たす。
可能な実現形態において、前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成することは、前記三次元ポイントクラウドの三次元ポイント情報に基づいて、前記三次元ポイントクラウドに含まれる少なくとも1つの平面を決定することと、前記少なくとも1つの平面のうちの各平面に含まれる三次元ポイントの数及び各平面の法線方向に基づいて、前記三次元ポイントクラウドにおけるフィルタ除去すべき三次元ポイントを決定することと、前記三次元ポイントクラウドから前記フィルタ除去すべき三次元ポイントを削除し、前記三次元ポイントクラウドにおける残りの三次元ポイントを得ることと、残りの三次元ポイントの三次元ポイント情報に基づいて、残りの三次元ポイントを前記水平面へ投影し、前記三次元ポイントクラウドを投影する二次元ポイントクラウド画像を生成することと、を含む。
可能な実現形態において、前記少なくとも1つの平面のうちの各平面に含まれる三次元ポイントの数及び各平面の法線方向に基づいて、前記三次元ポイントクラウドにおけるフィルタ除去すべき三次元ポイントを決定することは、前記少なくとも1つの平面のうちの各平面に含まれる三次元ポイントの数に基づいて、前記少なくとも1つの平面のうち、三次元ポイントの数が最も多く且つ第1閾値より大きい第1平面を決定することと、
前記第1平面の法線方向が前記水平面に垂直するかどうかを判定することと、前記第1平面の法線方向が前記水平面に垂直する場合、前記第1平面に含まれる三次元ポイントを前記フィルタ除去すべき三次元ポイントとして決定することと、を含む。
可能な実現形態において、前記三次元ポイント情報は、三次元座標ベクトルを含み、前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を決定することは、前記三次元ポイントクラウドの三次元座標ベクトル及び投影する水平面に基づいて、前記三次元ポイントクラウドを前記水平面へ投影する二次元ポイントクラウドの座標情報を決定することと、前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる、直線条件を満たすターゲット直線を決定することと、前記ターゲット直線と前記水平面の座標軸との位置関係に基づいて、前記二次元ポイントクラウドの回転角を決定することと、前記回転角に従って、前記二次元ポイントクラウドを回転し、前記三次元ポイントクラウドを前記水平面へ投影する二次元ポイントクラウド画像を得ることと、を含む。
可能な実現形態において、前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる、ターゲット直線条件を満たすターゲット直線を決定することは、前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる少なくとも1本の直線を決定することであって、前記少なくとも1本の直線のうちの各直線に含まれる二次元ポイントの数は、第2閾値より大きい、ことと、前記少なくとも1本の直線のうちの各直線に含まれる二次元ポイントの数を統計し、前記二次元ポイントの数に従って、前記少なくとも1本の直線を順序付け、順序付け結果を得ることと、前記順序付け結果に基づいて、前記少なくとも1本の直線のうちの現在の直線を逐次取得し、前記少なくとも1本の直線のうち、前記現在の直線に垂直する直線の数を決定することと、現在の直線に垂直する直線の数が第3閾値より大きい場合、現在の直線を、直線条件を満たすターゲット直線として決定することと、を含む。
可能な実現形態において、前記二次元ポイントクラウド画像と参照平面図との一致度に基づいて、前記参照平面図の参照座標系における、前記三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定することは、前記二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行うことと、毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することと、前記少なくとも1回の相似変換後に決定された一致度に基づいて、前記三次元ポイントクラウドにおける三次元ポイントを前記参照平面図における参照点にマッチングさせるための変換関係を決定することと、前記変換関係に基づいて、前記三次元ポイントクラウドを前記参照平面図へ投影し、前記参照平面図の参照座標系における、前記三次元ポイントクラウドの投影座標を得ることと、を含む。
可能な実現形態において、前記二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行うことは、前記二次元ポイントクラウド画像に対して相似変換を行うための変換範囲を決定することと、前記変換範囲内で、前記二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行うことと、を含む。
可能な実現形態において、前記相似変換は、平行移動変換を含み、毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することは、毎回の平行移動変換後の二次元ポイントクラウド画像を対象にして、前記二次元ポイントクラウド画像に対して所定の回数でサブサンプリング処理を行い、毎回のサブサンプリング処理後の第1サンプリング画像を得ることと、サブサンプリング処理回数の降順に従って、毎回のサブサンプリング処理後の第1サンプリング画像に対して、順に、該第1サンプリング画像における二次元ポイントと第2サンプリング画像における参照点との一致度を決定することであって、第2サンプリング画像は、前記参照平面図に対して該第1サンプリング画像と同様なサブサンプリング処理を行うことで得られたものである、ことと、1回目のサブサンプリング処理後に決定された第1サンプリング画像と第2サンプリング画像との一致度に基づいて、毎回の平行移動変換後の二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することと、を含む。
可能な実現形態において、毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することは、
毎回の相似変換後の二次元ポイントクラウド画像に対して、前記二次元ポイントクラウド画像の第1画素点をトラバーサルすることであって、前記第1画素点は、前記二次元ポイントクラウド画像における、前記二次元ポイントを構成する画素点である、ことと、前記参照平面図における、前記第1画素点に対応する第1画像領域を決定することと、前記第1画像領域に、前記参照点を表す第2画素点が存在する場合、前記第1画素点を第1ターゲット画素点として決定することと、前記二次元ポイントクラウド画像に含まれる第1ターゲット画素点の数と前記二次元ポイントクラウド画像に含まれる第1画素点の数との第1比例を決定することと、
前記第1比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と前記参照平面図との一致度を決定することと、を含む。
可能な実現形態において、毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することは、毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、前記参照平面図の第2画素点をトラバーサルすることであって、前記第2画素点は、前記参照平面図における、前記参照点を構成する画素点である、ことと、前記二次元ポイントクラウド画像における、前記第2画素点に対応する第2画像領域を決定することと、前記第2画像領域内に、前記二次元ポイントを表す第1画素点が存在する場合、前記第2画素点を第2ターゲット画素点として決定することと、前記参照平面図に含まれる第2ターゲット画素点の数と前記参照平面図に含まれる第2画素点の数との第2比例を決定することと、前記第2比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定することと、を含む。
可能な実現形態において、毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することは、毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、前記二次元ポイントクラウド画像における、非閉鎖領域内に位置する第1画素点を決定することであって、前記第1画素点は、前記二次元ポイントクラウド画像における、前記二次元ポイントを構成する画素点である、ことと、前記非閉鎖領域に位置する第1画素点の数と前記二次元ポイントクラウド画像に含まれる第1画素点の数との第3比例を決定することと、前記第3比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定することと、を含む。
可能な実現形態において、毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することは、毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、画像情報収集過程における前記画像収集装置の位置姿勢情報に基づいて、前記画像収集装置が前記二次元ポイントクラウド画像へ投影する第3画素点を決定することであって、前記画像情報は、前記三次元ポイントクラウドを構築するためのものである、ことと、前記非閉鎖領域に位置する第3画素点の数と前記二次元ポイントクラウド画像に含まれる第3画素点の数との第4比例を決定することと、前記第4比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定することと、を含む。
可能な実現形態において、前記少なくとも1回の相似変換後に決定された一致度に基づいて、前記三次元ポイントクラウドにおける三次元ポイントを前記参照平面図における参照点にマッチングさせるための変換関係を決定することは、前記少なくとも1回の相似変換後に決定された一致度に基づいて、前記二次元ポイントクラウド画像における二次元ポイントを前記参照平面図における参照点にマッチングさせる二次元変換行列を決定することと、前記二次元変換行列に基づいて、前記三次元ポイントクラウドにおける三次元ポイントを前記参照平面図における参照点にマッチングさせるための変換関係を決定することと、を含む。
本願のもう1つの態様によれば、測位方法を提供する。前記方法は、ターゲット物体に対して画像収集装置により収集されたターゲット画像情報を取得することと、収集された前記ターゲット画像情報と三次元ポイントクラウドにおける三次元ポイントを比較することであって、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものであり、前記三次元ポイントクラウドにおける三次元ポイントは、投影座標に対応し、前記投影座標は、二次元ポイントクラウド画像と参照平面図との一致度に基づいて決定されたものであり、前記二次元ポイントクラウド画像は、前記三次元ポイントクラウドを水平面へ投影することで生成されたものであり、前記参照平面図は、前記ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を表すためのものである、ことと、前記ターゲット画像情報とマッチングする三次元ポイントに対応する投影座標に基づいて、前記画像収集装置を測位することと、を含む。
本願のもう1つの態様によれば、情報処理装置を提供する。前記情報処理装置は、三次元ポイントクラウドの三次元ポイント情報を取得するように構成される取得モジュールと、前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成するように構成される生成モジュールと、前記二次元ポイントクラウド画像と参照平面図との一致度に基づいて、前記参照平面図の参照座標系における、前記三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定するように構成される決定モジュールであって、前記参照平面図は、ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を示すためのものであり、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものである、決定モジュールと、を備える。
可能な実現形態において、前記装置は、画像情報収集過程における画像収集装置の少なくとも2つの位置姿勢情報を取得するように構成される位置姿勢取得モジュールであって、前記画像情報は、前記三次元ポイントクラウドを構築するためのものである、位置姿勢取得モジュールと、前記画像収集装置の少なくとも2つの位置姿勢情報に基づいて、前記三次元ポイントクラウドを投影する水平面を決定するように構成される平面決定モジュールと、を更に備える。
可能な実現形態において、前記位置姿勢情報は、向き情報及び位置情報を含み、前記平面決定モジュールは具体的には、前記画像収集装置の少なくとも2つの位置情報に基づいて、画像情報収集過程における前記画像収集装置のいずれか2つの位置間の変位を決定し、前記画像収集装置の少なくとも2つの向き情報及びいずれか2つの位置間の変位に基づいて、前記三次元ポイントクラウドを投影する水平面を決定するように構成される。
可能な実現形態において、前記画像収集装置は、画像情報収集過程における前記画像収集装置の所在する水平軸が、前記三次元ポイントクラウドを投影する水平面に平行するという所定の基礎条件、画像情報収集過程における前記画像収集装置の地面からの高さが、所定の高さ範囲内で変動するという所定の基礎条件、のうちの少なくとも1つを満たす。
可能な実現形態において、前記生成モジュールは具体的には、前記三次元ポイントクラウドの三次元ポイント情報に基づいて、前記三次元ポイントクラウドに含まれる少なくとも1つの平面を決定し、前記少なくとも1つの平面のうちの各平面に含まれる三次元ポイントの数及び各平面の法線方向に基づいて、前記三次元ポイントクラウドにおけるフィルタ除去すべき三次元ポイントを決定し、前記三次元ポイントクラウドから前記フィルタ除去すべき三次元ポイントを削除し、前記三次元ポイントクラウドにおける残りの三次元ポイントを得て、残りの三次元ポイントの三次元ポイント情報に基づいて、残りの三次元ポイントを前記水平面へ投影し、前記三次元ポイントクラウドを投影する二次元ポイントクラウド画像を生成するように構成される。
可能な実現形態において、前記生成モジュールは具体的には、前記少なくとも1つの平面のうちの各平面に含まれる三次元ポイントの数に基づいて、前記少なくとも1つの平面のうち、三次元ポイントの数が最も多く且つ第1閾値より大きい第1平面を決定し、前記第1平面の法線方向が前記水平面に垂直するかどうかを判定し、前記第1平面の法線方向が前記水平面に垂直する場合、前記第1平面に含まれる三次元ポイントを前記フィルタ除去すべき三次元ポイントとして決定するように構成される。
可能な実現形態において、前記三次元ポイント情報は、三次元座標ベクトルを含み、前記生成モジュールは具体的には、前記三次元ポイントクラウドの三次元座標ベクトル及び投影する水平面に基づいて、前記三次元ポイントクラウドを前記水平面へ投影する二次元ポイントクラウドの座標情報を決定し、前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる、直線条件を満たすターゲット直線を決定し、前記ターゲット直線と前記水平面の座標軸との位置関係に基づいて、前記二次元ポイントクラウドの回転角を決定し、前記回転角に従って、前記二次元ポイントクラウドを回転し、前記三次元ポイントクラウドを前記水平面へ投影する二次元ポイントクラウド画像を得るように構成される。
可能な実現形態において、前記生成モジュールは具体的には、前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる少なくとも1本の直線を決定するように構成され、前記少なくとも1本の直線のうちの各直線に含まれる二次元ポイントの数は、第2閾値より大きく、前記生成モジュールは具体的には、前記少なくとも1本の直線のうちの各直線に含まれる二次元ポイントの数を統計し、前記二次元ポイントの数に従って、前記少なくとも1本の直線を順序付け、順序付け結果を得て、前記順序付け結果に基づいて、前記少なくとも1本の直線のうちの現在の直線を逐次取得し、前記少なくとも1本の直線のうち、前記現在の直線に垂直する直線の数を決定し、現在の直線に垂直する直線の数が第3閾値より大きい場合、現在の直線を、直線条件を満たすターゲット直線として決定するように構成される。
可能な実現形態において、前記決定モジュールは具体的には、前記二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行い、毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定し、前記少なくとも1回の相似変換後に決定された一致度に基づいて、前記三次元ポイントクラウドにおける三次元ポイントを前記参照平面図における参照点にマッチングさせるための変換関係を決定し、前記変換関係に基づいて、前記三次元ポイントクラウドを前記参照平面図へ投影し、前記参照平面図の参照座標系における、前記三次元ポイントクラウドの投影座標を得るように構成される。
可能な実現形態において、前記決定モジュールは具体的には、前記二次元ポイントクラウド画像に対して相似変換を行うための変換範囲を決定し、前記変換範囲内で、前記二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行うように構成される。
可能な実現形態において、前記相似変換は、平行移動変換を含み、前記決定モジュールは具体的には、毎回の平行移動変換後の二次元ポイントクラウド画像を対象にして、前記二次元ポイントクラウド画像に対して所定の回数でサブサンプリング処理を行い、毎回のサブサンプリング処理後の第1サンプリング画像を得て、サブサンプリング処理回数の降順に従って、毎回のサブサンプリング処理後の第1サンプリング画像に対して、順に、該第1サンプリング画像における二次元ポイントと第2サンプリング画像における参照点との一致度を決定するように構成され、第2サンプリング画像は、前記参照平面図に対して該第1サンプリング画像と同様なサブサンプリング処理を行うことで得られたものであり、前記決定モジュールは具体的には、1回目のサブサンプリング処理後に決定された第1サンプリング画像と第2サンプリング画像との一致度に基づいて、毎回の平行移動変換後の二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定するように構成される。
可能な実現形態において、前記決定モジュールは具体的には、毎回の相似変換後の二次元ポイントクラウド画像に対して、前記二次元ポイントクラウド画像の第1画素点をトラバーサルするように構成され、前記第1画素点は、前記二次元ポイントクラウド画像における、前記二次元ポイントを構成する画素点であり、前記決定モジュールは具体的には、前記参照平面図における、前記第1画素点に対応する第1画像領域を決定し、前記第1画像領域に、前記参照点を表す第2画素点が存在する場合、前記第1画素点を第1ターゲット画素点として決定し、前記二次元ポイントクラウド画像に含まれる第1ターゲット画素点の数と前記二次元ポイントクラウド画像に含まれる第1画素点の数との第1比例を決定し、前記第1比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と前記参照平面図との一致度を決定するように構成される。
可能な実現形態において、前記決定モジュールは具体的には、毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、前記参照平面図の第2画素点をトラバーサルするように構成され、前記第2画素点は、前記参照平面図における、前記参照点を構成する画素点であり、前記決定モジュールは具体的には、前記二次元ポイントクラウド画像における、前記第2画素点に対応する第2画像領域を決定し、前記第2画像領域内に、前記二次元ポイントを表す第1画素点が存在する場合、前記第2画素点を第2ターゲット画素点として決定し、前記参照平面図に含まれる第2ターゲット画素点の数と前記参照平面図に含まれる第2画素点の数との第2比例を決定し、前記第2比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定するように構成される。
可能な実現形態において、前記決定モジュールは具体的には、毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、前記二次元ポイントクラウド画像における、非閉鎖領域内に位置する第1画素点を決定するように構成され、前記第1画素点は、前記二次元ポイントクラウド画像における、前記二次元ポイントを構成する画素点であり、前記決定モジュールは具体的には、前記非閉鎖領域に位置する第1画素点の数と前記二次元ポイントクラウド画像に含まれる第1画素点の数との第3比例を決定し、前記第3比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定するように構成される。
可能な実現形態において、前記決定モジュールは具体的には、毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、画像情報収集過程における前記画像収集装置の位置姿勢情報に基づいて、前記画像収集装置が前記二次元ポイントクラウド画像へ投影する第3画素点を決定するように構成され、前記画像情報は、前記三次元ポイントクラウドを構築するためのものであり、前記決定モジュールは具体的には、前記非閉鎖領域に位置する第3画素点の数と前記二次元ポイントクラウド画像に含まれる第3画素点の数との第4比例を決定し、前記第4比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定するように構成される。
可能な実現形態において、前記決定モジュールは具体的には、前記少なくとも1回の相似変換後に決定された一致度に基づいて、前記二次元ポイントクラウド画像における二次元ポイントを前記参照平面図における参照点にマッチングさせる二次元変換行列を決定し、前記二次元変換行列に基づいて、前記三次元ポイントクラウドにおける三次元ポイントを前記参照平面図における参照点にマッチングさせるための変換関係を決定するように構成される。
本願のもう1つの態様によれば、測位装置を提供する。前記装置は、ターゲット物体に対して画像収集装置により収集されたターゲット画像情報を取得するように構成される取得モジュールと、収集された前記ターゲット画像情報と三次元ポイントクラウドにおける三次元ポイントを比較するように構成される比較モジュールであって、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものであり、前記三次元ポイントクラウドにおける三次元ポイントは、投影座標に対応し、前記投影座標は、二次元ポイントクラウド画像と参照平面図との一致度に基づいて決定されたものであり、前記二次元ポイントクラウド画像は、前記三次元ポイントクラウドを水平面へ投影することで生成されたものであり、前記参照平面図は、前記ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を表すためのものである、比較モジュールと、前記ターゲット画像情報とマッチングする三次元ポイントに対応する投影座標に基づいて、前記画像収集装置を測位するように構成される測位モジュールと、を備える。
本願のもう1つの態様によれば、電子機器を提供する。前記電子機器は、プロセッサと、プロセッサによる実行可能な命令を記憶するためのメモリと備え、前記プロセッサは、上記情報処理方法を実行するように構成される。
本願の一態様によれば、コンピュータ可読記憶媒体を提供する。該コンピュータ可読記憶媒体にはコンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令がプロセッサにより実行される時、上記情報処理方法を実現させる。
本願の一態様によれば、コンピュータプログラムを提供する。前記コンピュータプログラムは、コンピュータ可読コードを含み、前記コンピュータ可読コードが電子機器で実行される時、前記電子機器におけるプロセッサは、本願の実施例の第1態様のいずれか1つの方法に記載の全て又は一部の工程を実行する。
本願の実施例において、三次元ポイントクラウドの三次元ポイント情報を取得し、三次元ポイント情報に基づいて、三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成することができる。従って、三次元ポイントクラウドを二次元ポイントクラウド画像に変換することができる。続いて、二次元ポイントクラウド画像と参照平面との一致度に基づいて、前記参照平面図の参照座標系における、前記三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定することができる。参照平面図は、ターゲット物体を水平面へ投影する、参照座標を有する投影図を示すためのものであり、三次元ポイントクラウドは、ターゲット物体の三次元空間情報を表すためのものである。従って、三次元ポイントクラウドを参照平面図に自動的にマッチングさせ、三次元ポイントクラウドを参照平面図に正確にラベル付け、三次元ポイントクラウドを参照平面図にマッチングさせる効率及び精度を向上させることができる。また、ユーザの三次元ポイント情報により、参照座標系における、ユーザの位置を決定し、ユーザに対する測位を実現させることができる。
上記の一般的な説明及び後述する細部に関する説明は、例示及び説明のためのものに過ぎず、本願を限定するものではないことが理解されるべきである。
本発明の他の特徴及び態様は、下記の図面に基づく例示的な実施例の詳細な説明を参照すれば明らかになる。
本願の実施例による情報処理方法を示すフローチャートである。 本願の実施例による三次元ポイントクラウドを投影する二次元ポイントクラウド画像を示すブロック図である。 本願の実施例による参照座標系における、三次元ポイントクラウドの投影画像を示すブロック図である。 本願の実施例による測位方法を示すフローチャートである。 本願の実施例による情報処理装置を示すブロック図である。 本願の実施例による測位装置を示すブロック図である。 本願の実施例による電子機器の一例を示すブロック図である。
ここで添付した図面は、明細書に引き入れて本明細書の一部分を構成し、本発明に適合する実施例を示し、かつ、明細書とともに本願の技術的解決手段を解釈することに用いられる。
以下、図面を参照しながら本願の種々の例示的な実施例、特徴及び態様を詳しく説明する。図面における同一の符号は、同一または類似する機能を有する要素を示す。図面は、実施例の種々の態様を示しているが、特別な説明がない限り、必ずしも比率どおりの図面ではない。ここで使用した「例示的」という用語は「例、実施例として用いられるか、または説明のためのものである」ことを意味する。ここで、「例示的なもの」として説明される如何なる実施例は、他の実施例より好適または有利であると必ずしも解釈されるべきではない。本明細書において、用語「及び/又は」は、関連対象の関連関係を説明するためのものであり、3通りの関係が存在することを表す。例えば、A及び/又はBは、Aのみが存在すること、AとBが同時に存在すること、Bのみが存在するという3つの場合を表す。また、本明細書において、用語「少なくとも1つ」は、複数のうちのいずれか1つ又は複数のうちの少なくとも2つの任意の組み合わせを表す。例えば、A、B、Cのうちの少なくとも1つを含むことは、A、B及びCからなる集合から選ばれるいずれか1つ又は複数の要素を含むことを表す。なお、本願をより良く説明するために、以下の具体的な実施形態において具体的な細部を多く記載した。当業者は、これら具体的な詳細に関わらず、本開示は同様に実施可能であると理解すべきである。本発明の主旨を明確にするために、一部の実例において、当業者に熟知されている方法、手段、素子及び回路については詳しく説明しないことにする。
本願の実施例で提供される情報処理方法は、三次元再構成で得られた三次元ポイントクラウドの三次元ポイント情報を取得することができ、続いて、三次元ポイントクラウドの三次元ポイント情報を利用して、三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成し、生成された二次元ポイントクラウド画像と参照平面図との一致度に基づいて、参照平面図の参照座標系における、三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定する。それによって、画像収集装置の座標系における三次元ポイントクラウドを参照平面図の参照座標に変換し、三次元ポイントクラウドに含まれる三次元ポイントを参照平面図に対応する位置に自動的にマッチングさせ、三次元ポイントを投影する二次元ポイントと、参照平面図における、同一のターゲット物体を表す参照点と、をアライメントする。ここで、参照平面図は、ターゲット物体を水平面へ投影する、参照座標を有する投影図を示すためのものであり、三次元ポイントクラウドは、ターゲット物体の三次元空間情報を表すためのものである。
関連技術において、三次元ポイントクラウドを参照平面図にマッチングさせる時に、手動方式で三次元ポイントクラウドの三次元ポイントを参照平面図にマッチングさせる。例えば、屋内地図にマッチングさせ、形状、境界及び曲がり角などのような視覚的手がかりを目視で観察し、三次元ポイントクラウドのスケール、回転及び平行移動を手動で調整し、参照平面図とアライメントする。このような方法は、効率が低く、大規模なタスクの処理に不利であり、また、手動処理方式に、統一された標準が存在せず、作業者によって操作精度が大きく相違する。本願の実施例で提供される情報処理方法は、三次元ポイントクラウドに対応する二次元ポイントクラウド画像と参照平面図との一致度により、三次元ポイントクラウドにおける三次元ポイントを参照平面図に自動的にマッチングさせることができる。大量の労働力を節約し、マッチング効率を向上させることができるだけでなく、三次元ポイントクラウドを参照平面図にマッチングさせる正確率を向上させることもできる。
本願の実施例で提供される情報処理方法は、三次元ポイントを平面へ投影させる如何なるシーンに適用可能である。例えば、大型建築屋内シーンに対応する三次元ポイントクラウドを建築物の平面図に自動的にマッチングさせることができる。また、三次元ポイントを利用した測位、ナビゲーションのシーンにも適用可能である。例えば、ユーザは、携帯電話などの機器により撮られた画像から三次元ポイント情報を得て、現在のシーンにおける、ユーザの位置を推定し、視覚的測位を実現させることができる。以下、実施例を参照しながら、本願の実施例で提供される情報処理方法を説明する。
図1は、本願の実施例による情報処理方法を示すフローチャートである。該情報処理方法は、端末装置、サーバ又は他の情報処理装置により実行されてもよい。ここで、端末装置は、ユーザ装置(User Equipment:UE)、携帯機器、ユーザ端末、端末、セルラ電話、コードレス電話、パーソナルデジタルアシスタント(Personal Digital Assistant:PDA)、ハンドヘルドデバイス、コンピューティングデバイス、車載機器、ウェアブル機器などであってもよい。幾つかの可能な実現形態において、該情報処理方法は、プロセッサによりメモリに記憶されているコンピュータ可読命令を呼び出すことで実現することができる。以下、情報処理装置を例として本願の実施例の情報処理方法を説明する。
図1に示すように、前記情報処理方法は、下記ステップを含む。
ステップS11において、三次元ポイントクラウドの三次元ポイント情報を取得する。
本願の実施例において、情報処理装置は、三次元で再構成された三次元ポイントクラウドを取得し、該三次元ポイントクラウドの三次元ポイント情報を取得することができる。三次元ポイントクラウドは、複数の三次元ポイントからなる三次元ポイント集合であってもよい。該集合における三次元ポイントは、画像収集装置により1つのシーンに対して収集された画像情報に基づいて得られたものであってもよい。三次元ポイントクラウドの三次元ポイント情報は、三次元ポイントの位置情報を含んでもよい。該位置情報は、画像収集装置の座標系における、三次元ポイントの位置情報であってもよい。それは、画像収集装置の座標系における三次元座標と表されてもよく、又は、画像収集装置の座標系における三次元ベクトルと表されてもよい。三次元ポイントクラウドは、例えば、ターゲット物体の所在するシーンの三次元空間情報のような、ターゲット物体の所在する三次元空間情報を表すためのものであってもよい。ターゲット物体は、、シーンに存在する如何なる物体であってもよく、例えば、壁面、支柱、机や椅子、標識、建築物などの固定した物体である。また例えば、ターゲット物体は、車両、歩行者などのような移動中の物体であってもよい。
ここで、三次元ポイントクラウドに含まれる三次元ポイントは、1つ又は複数の画像収集装置により収集された画像情報から得られたものであってもよい。画像収集装置は、異なる角度からシーンにおけるターゲット物体を撮影することができる。画像収集装置によりターゲット物体に対して撮影を行うことで形成された画像情報は、該ターゲット物体に対応する三次元ポイントを形成することができる。複数の三次元ポイントは、該シーンにおける三次元ポイントクラウドを形成することができる。具体的な実現において、形成された三次元ポイントは、三次元空間座標系において、対応する座標を持つ。従って、ターゲット物体の三次元ポイントは、対応する座標に基づいて、三次元空間座標系において配列され、立体的三次元モデルを構成する。該三次元モデルは、三次元ポイントクラウドである。
ステップS12において、前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成する。
本願の実施例において、取得された三次元ポイントクラウドの三次元ポイント情報に基づいて、三次元ポイントクラウドを水平面へ投影することができる。ここでの水平面は、撮影過程における画像収集装置の所在する撮影平面に基づいて決定された仮想平面であってもよい。三次元ポイントクラウドを水平面へ投影することで、三次元ポイントクラウドを投影する二次元ポイントクラウド画像を生成することができる。
ここで、三次元ポイント情報に基づいて、三次元ポイントクラウドを投影する二次元ポイントクラウド画像を生成する前に、画像収集装置の位置姿勢情報に基づいて、撮影過程における画像収集装置の撮影平面を決定し、続いて該撮影平面に基づいて、三次元ポイントクラウドを投影する水平面を決定することができる。従って、三次元ポイントクラウドを、決定した水平面へ投影し、三次元ポイントクラウドの二次元ポイントクラウド画像を生成することができる。ここでの水平面は、画像収集装置の座標系における平面であってもよく、真実の三次元空間における水平面と同じであっても異なってもよい。三次元ポイントクラウドを画像収集装置の座標系で投影し、投影する二次元ポイントクラウド画像を生成する。
図2は、本願の実施例による三次元ポイントクラウドを投影する二次元ポイントクラウド画像を示すブロック図である。図2に示すように、三次元ポイントクラウドを投影する水平面は、真実の三次元空間におけるZ軸に垂直していない。三次元ポイントクラウドを水平面へ投影する後、三次元ポイントクラウドの二次元ポイントクラウド画像を得ることができる。
ステップS13において、前記二次元ポイントクラウド画像と参照平面図との一致度に基づいて、前記参照平面図の参照座標系における、前記三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定し、前記参照平面図は、ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を示すためのものであり、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものである。
本願の実施例において、二次元ポイントクラウド画像と参照平面図との一致度は、同一の画像領域内に、二次元ポイントクラウド画像における二次元ポイントと参照平面図における参照点とのマッチング度合いと理解されてもよい。二次元ポイントクラウド画像と参照平面との一致度に基づいて、二次元ポイントクラウド画像を参照平面図にマッチングさせるための相似変換を決定し、続いて、決定された相似変換に基づいて、二次元ポイントクラウドマップと参照平面図をアライメントし、参照平面図の参照座標系における、三次元ポイントクラウドにおける三次元ポイントの投影座標を得ることができる。又は、決定された相似変換に基づいて、三次元ポイントクラウドを参照平面図の参照座標系で投影するための投影変換を決定する。これにより投影変換を利用して、三次元ポイントクラウドを参照平面図へ投影し、参照平面図の参照座標系における、三次元ポイントクラウドの投影画像を得ることができる。ここで、相似変換は、二次元ポイントクラウド画像から参照平面図への変換の変換関係を指す。具体的には、二次元ポイントクラウド画像を参照平面図にマッチングさせるための相似変換は、二次元ポイントクラウド画像の回転、平行移動、スケーリングなどの画像変換を含んでもよいが、これらに限定されない。相似変換により、二次元ポイントクラウド画像を参照平面図における対応する位置にマッチングさせ、二次元ポイントクラウド画像におけるターゲット物体を表す二次元ポイントを参照平面図における該ターゲット物体を表す参照点とアライメントすることができる。
ここで、参照平面図は、ターゲット物体を水平面へ投影する平面図であってもよい。例えば、建築物の平面図、マッピングした二次元地図であってもよい。本願の実施例において、壁面、支柱などの目立つ構造を利用して、三次元ポイントクラウドを参照平面図に自動的にマッチングさせることができる。無用な情報による影響を減少させるために、ここでの参照平面図は、簡略化された平面図であってもよい。つまり、参照平面図に、壁面、支柱などの目立つ構造を表すための参照点又は参照線分を残すことができる。参照平面図において、残した参照点又は参照線分の画素点は、1と設定されてもよく、他の画素点は、0と設定されてもよい。これにより、平面図を簡略化することができる。
図3は、本願の実施例による参照座標系における、三次元ポイントクラウドの投影画像を示すブロック図である。図3に示すように、三次元ポイントクラウドを水平面へ投影して二次元ポイントクラウド画像を得た後、二次元ポイントクラウド画像は、参照平面図と自動的にアライメントされる。本願の実施例で提供される情報処理方法によれば、二次元ポイントクラウド画像と参照平面図との一致度に基づいて、三次元ポイントクラウドを参照平面図へ投影し、画像収集装置の座標系における三次元ポイントクラウドを参照平面図の参考座標系に自動的に変換し、大量の労働力を節約し、マッチング効率を向上させることができる。
本願の実施例で三次元ポイントクラウドを投影する水平面の可能な実現形態を提供する。上記情報処理方法は、下記ステップを更に含む。
ステップS121において、画像情報収集過程における画像収集装置の少なくとも2つの位置姿勢情報を取得し、前記画像情報は、前記三次元ポイントクラウドを構築するためのものである。
ステップS122において、前記画像収集装置の少なくとも2つの位置姿勢情報に基づいて、前記三次元ポイントクラウドを投影する水平面を決定する。
該実現形態において、三次元ポイントクラウドが画像収集装置の座標系を基準としたものであるため、画像収集装置の座標系は、実際の三次元空間の座標系と異なってもよく、まず、三次元ポイントクラウドを投影する水平面を決定することができる。ここで、画像収集装置の座標系は、画像収集装置の画像センサの所在する平面で確立された座標系であってもよい。実際の三次元空間の座標系は、ワールド座標系であってもよい。これにより、撮影過程における画像収集装置の少なくとも2つの時刻に対応する位置姿勢情報を取得することができる。各時刻における位置姿勢情報は、2つの位置姿勢情報であってもよい。又は、撮影過程における2つの画像収集装置の位置姿勢情報を取得することができる。1つの画像収集装置の位置姿勢情報は、1つの位置姿勢情報であってもよい。位置姿勢情報は、画像収集装置の位置情報及び向き情報を含んでもよい。ここでの位置情報は、画像収集装置の座標系における位置であってもよい。画像収集装置の少なくとも2つの位置姿勢情報に基づいて、画像収集装置の撮影平面を決定し、該撮影平面に基づいて、三次元ポイントクラウドを投影する水平面を決定することができる。これにより、三次元ポイントクラウドの三次元ポイント情報を該水平面の座標系に投影し、三次元ポイントクラウドの二次元ポイントクラウド画像を生成することができる。
可能な実現形態において、上記ステップS122は、下記ステップを含んでもよい。
ステップS1221において、前記画像収集装置の少なくとも2つの位置情報に基づいて、画像情報収集過程における前記画像収集装置のいずれか2つの位置間の変位を決定する。
ステップS1222において、前記画像収集装置の少なくとも2つの向き情報及びいずれか2つの位置間の変位に基づいて、前記三次元ポイントクラウドを投影する水平面を決定する。
該実現形態において、三次元ポイントクラウドを投影する水平面が画像収集装置の所在する水平軸に平行し、且つ、該水平面が画像収集装置の移動平面に平行するとすることができる。従って、画像収集装置の少なくとも2つの向き情報に対応する向きは、水平面に平行し、画像収集装置の少なくとも2つの位置情報で決定された変位は、水平面に平行する。こにより、画像収集装置の少なくとも2つの位置情報に基づいて、画像情報収集過程における画像収集装置のいずれか2つの位置間の変位を決定し、続いて、水平面と画像収集装置の向き、変位との平行関係に基づいて、三次元ポイントクラウドを投影する水平面を決定することができる。
ここで、上記画像収集装置は、画像情報収集過程における前記画像収集装置の所在する水平軸が、前記三次元ポイントクラウドを投影する水平面に平行するという所定の基礎条件、画像情報収集過程における前記画像収集装置の地面からの高さが、所定の高さ範囲内で変動するという所定の基礎条件、のうちの少なくとも1つを満たす。ここで、画像情報収集過程における前記画像収集装置の所在する水平軸が、前記三次元ポイントクラウドを投影する水平面に平行することは、画像収集装置が三次元ポイントクラウドを再構成するための画像情報を撮る時に、画像収集装置が水平しており、つまり、画像収集装置の向きに基づいて決定された画像収集装置の座標系のx又はy軸が撮影水平面に平行することを表すことができる。
ここで、画像収集装置の結像平面の中心を画像収集装置の座標系の原点とし、画像収集装置の結像平面に垂直し、且つ上記原点を経過する方向を画像収集装置の座標系のz軸とし、画像収集装置の結像平面の所在する平面のいずれか2つの相互垂直な方向を画像収集装置の座標系のx軸又はy軸とすることができる。画像情報収集過程における画像収集装置の収集の高さが所定の高さ範囲内で変動することは、画像収集装置の撮影の高さがほぼ決まったものであり、画像収集装置の変位が水平面に水平することを表すことができる。従って、少なくとも1つの上記基礎条件に基づいて、三次元ポイントクラウドを投影する水平面を決定することができる。つまり、画像収集装置の所在する水平軸が三次元ポイントクラウドを投影する水平面に平行する場合、画像情報収集過程における画像収集装置の少なくとも2つの時刻で所在する水平軸により形成される平面により、三次元ポイントクラウドを投影する水平面を決定することができる。又は、画像収集装置の収集の高さが所定の高さ範囲内で変動する場合、画像情報収集過程における異なる方向における変位ベクトルにより、三次元ポイントクラウドを投影する水平面を決定することができる。従って、三次元ポイントクラウドの所在する画像収集装置の座標系がワールド座標系と異なっても、三次元ポイントクラウドを投影する水平面を迅速に決定することができる。これにより、三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成するために投影条件を提供する。
例えば、上記基礎条件に基づいて、まず、三次元ポイントクラウドを投影する水平面のx軸方向を決定し、更に、水平面のy軸とz軸方向を決定することができる。Aは、画像収集装置の向きに基づいて決定された行列であり、Aの各行は、1つの収集時刻における画像収集装置の水平軸x軸の方向ベクトルの転置を表すと仮定すると、画像収集装置が該収集時刻で位置姿勢の回転行列をRと決定すれば、該収集時刻における画像収集装置のx軸の方向ベクトルは、Rの1行目の行ベクトル(1,0,0)であってもよい。Bが画像収集装置の2つの収集時刻における変位に基づいて得られた行列であると仮定すると、安定性を向上させるために、画像収集装置の2つの収集時刻における変位は所定の閾値より大きくてもよい、例えば、閾値を画像収集装置の2つの収集時刻における最大変位の0.2倍として、小さな変位をフィルタ除去することができる。上記行列A及びBに基づいて、式(1)に示すように、水平面の法線ベクトルに関わる線形関係を確立することができる。
式(1)
ただし、nは、水平面の法線ベクトルである。公式(1)は、求められるべき水平面の法線方向が画像収集装置のx軸に垂直し、また、画像収集装置の変位に垂直することを表すことができる。
上記式(1)は、特異値分解(Singular Value Decomposition:SVD)によりn最小二乗解を求めることができる。
とすれば、Mに対してSVDを行った後に、M=UDVと表されてもよい。ここで、Uは、m×m次のユニタリー行列である。Dは、半正定値m×3次の対角行列である。Vは、3×3次の特異ベクトルである。Vにおける最小特異値に対応する特異ベクトルは、nの最小二乗解であってもよい。特異値が降順に従って配列されると、Vに対応する特異ベクトルはそれぞれV、V及びVである。従って、n=Vである。
三次元ポイントクラウドを水平面へ投影して二次元ポイントクラウドマップを生成するために、三次元ポイントクラウドを投影する水平面の法線方向を決定する以外に、三次元ポイントクラウドを投影する水平面のx軸方向及びy軸方向を決定することができる。例えば、上記Vにおける他の2つの特異ベクトルであるV及びVをそれぞれ、投影する水平面のx軸の方向ベクトル及びy軸の方向ベクトルとすることができる。
上記方式により、三次元ポイントクラウドを投影する水平面の所在する座標系を決定することができる。これにより、三次元ポイントクラウドを、決定された水平面へ投影することができる。
可能な実現形態において、上記ステップS12は、下記ステップを含んでもよい。
ステップS123において、前記三次元ポイントクラウドの三次元ポイント情報に基づいて、前記三次元ポイントクラウドに含まれる少なくとも1つの平面を決定する。
ステップS124において、前記少なくとも1つの平面のうちの各平面に含まれる三次元ポイントの数及び各平面の法線方向に基づいて、前記三次元ポイントクラウドにおけるフィルタ除去すべき三次元ポイントを決定する。
ステップS125において、前記三次元ポイントクラウドから前記フィルタ除去すべき三次元ポイントを削除し、前記三次元ポイントクラウドにおける残りの三次元ポイントを得る。
ステップS126において、残りの三次元ポイントの三次元ポイント情報に基づいて、残りの三次元ポイントを前記水平面へ投影し、前記三次元ポイントクラウドを投影する二次元ポイントクラウド画像を生成する。
該実現形態において、屋内シーンにおいて、壁面、支柱などの標識的構造を利用して、三次元ポイントクラウドを参照平面図にマッチングさせることができる。三次元ポイントクラウドが、屋内シーンにおけるいずれか1つ又は複数のターゲット物体を表す三次元ポイントを含んでもよいため、三次元ポイントクラウドにおける三次元ポイントを水平面へ投影するとした場合、非標識的構造に対応する三次元ポイントが水平面へ投影された後、標識的構造に対応する三次元ポイントを水平面へ投影することで生成された二次元ポイントに干渉を与えてしまい、壁面、支柱などの標識的構造の二次元ポイントの弁別の難度を増加させてしまう。従って、三次元ポイントクラウドの二次元ポイントクラウド画像を参照平面図にマッチングさせる効果を向上させるために、三次元ポイントクラウドを水平面へ投影する時、三次元ポイントクラウドにおける三次元ポイントをフィルタ除去することができる。例えば、三次元ポイントクラウドにおける、天井板、地面などの物体を表す三次元ポイントをフィルタ除去することで、三次元ポイントにおける、大量の非標識的構造に対応する三次元ポイントを減少させることができる。三次元ポイントクラウドの三次元ポイントをフィルタ除去する時に、三次元ポイント情報における位置情報に基づいて、三次元ポイントクラウドからなる1つ又は複数の平面を決定し、続いて、形成された各平面に含まれる三次元ポイントの数を統計し、各平面の法線方向を取得することができる。一般的には、天井板及び地面の所在する平面内に含まれる三次元ポイントの数が多く、且つ、天井板及び地面の所在する平面の法線方向が地面に垂直する。従って、各平面に含まれる三次元ポイントの数及び法線方向に基づいて、天井板、地面などの物体の平面を決定し、続いて、天井板、地面などの物体の平面に含まれる三次元ポイントをフィルタ除去すべき三次元ポイントとして決定することができる。これにより、該平面における三次元ポイントを三次元ポイントクラウドから削除し、三次元ポイントクラウドにおける残りの三次元ポイントを得ることができる。続いて、残りの三次元ポイントの位置情報に基づいて、残りの三次元ポイントを水平面へ投影し、三次元ポイントクラウドを投影する二次元ポイントクラウド画像を生成することができる。
該実現形態の一例において、上記ステップS124は、前記少なくとも1つの平面のうちの各平面に含まれる三次元ポイントの数に基づいて、前記少なくとも1つの平面のうち、三次元ポイントの数が最も多く且つ第1閾値より大きい第1平面を決定することと、前記第1平面の法線方向が前記水平面に垂直するかどうかを判定することと、前記第1平面の法線方向が前記水平面に垂直する場合、前記第1平面に含まれる三次元ポイントを前記フィルタ除去すべき三次元ポイントとして決定することと、を含む。
該例において、取得された各平面に含まれる三次元ポイントの数に基づいて、三次元ポイント集合における三次元ポイントに含まれる1つ又は複数の平面のうち、三次元ポイントの数が最も多く且つ第1閾値より大きい第1平面を決定することができる。続いて、第1平面の法線方向が水平面に垂直するかどうかを判定し、第1平面の法線方向が水平面に垂直する場合、第1平面が天井板又は地面の所在する平面であることを表し、第1平面に含まれる三次元ポイントが三次元ポイントクラウドにおけるフィルタ除去すべき三次元ポイントであると見なせる。そうでなければ、第1平面における三次元ポイントを上記三次元ポイント集合から保留三次元ポイント集合に移し、三次元ポイント集合における残りの三次元ポイントを得て、続いて、三次元ポイント集合における三次元ポイントに含まれる1つ又は複数の平面のうち、三次元ポイントの数が最も多く且つ第1閾値より大きい第1平面を決定するステップを繰り返して実行し、上記三次元ポイント集合における三次元ポイントの数が所定の残存数閾値以下になるまで継続する。ここで、残りの三次元ポイントは、三次元ポイント集合における残りの三次元ポイント及び保留三次元ポイント集合における三次元ポイントからなるものであってもよい。第1閾値は、実際の適用シーンに応じて設定されてもよい。
可能な実現形態において、上記ステップS12は、下記ステップを含んでもよい。
ステップS12aにおいて、前記三次元ポイントクラウドの三次元座標ベクトル及び投影する水平面に基づいて、前記三次元ポイントクラウドを前記水平面へ投影する二次元ポイントクラウドの座標情報を決定する。
ステップS12bにおいて、前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる、直線条件を満たすターゲット直線を決定する。
ステップS12cにおいて、前記ターゲット直線と前記水平面の座標軸との位置関係に基づいて、前記二次元ポイントクラウドの回転角を決定する。
ステップS12dにおいて、前記回転角に従って、前記二次元ポイントクラウドを回転し、前記三次元ポイントクラウドを前記水平面へ投影する二次元ポイントクラウド画像を得る。
該実現形態において、三次元ポイント情報は、三次元座標ベクトルを含んでもよい。該三次元座標ベクトルは、画像収集装置の座標系における座標ベクトルであってもよい。三次元ポイントクラウドを投影する二次元ポイントクラウド画像を生成する時に、参照平面図における標識的構造の画像位置に基づいて、三次元ポイントクラウドを水平面へ投影することができる。例えば、通常、参照平面図における壁面又は支柱などの標識的構造が参照平面図の座標系のx軸又はy軸に平行するという性質に基づいて、三次元ポイントクラウドを水平面へ投影することができる。更に、三次元ポイントクラウドにおける各三次元ポイントの三次元座標ベクトルを水平面へ投影し、投影後の二次元ポイントクラウドにおける二次元ポイントの座標情報を得る。例えば、1つの三次元ポイントiの座標ベクトルがXであれば、三次元ポイントiを水平面へ投影する後に得られた二次元ポイントxの座標は(x,y)であり、x=V・Xiであり、y=V・Xである。続いて、二次元ポイントクラウドの座標情報に基づいて、二次元ポイントクラウドをフィッティングして少なくとも1本の直線を得る。フィッティングで得られた直線から、直線条件を満たすターゲット直線を決定し、直線条件を満たすターゲット直線に含まれる二次元ポイントを、標識的構造を表す二次元ポイントとする。続いて、ターゲット直線と前記水平面の座標軸との位置関係に基づいて、ターゲット直線と水平面のx軸又はy軸との挟角を決定し、該挟角を二次元ポイントクラウドの回転角とし、二次元ポイントクラウドを回転角に従って回転し、ターゲット直線を、水平面座標軸の座標軸のx軸又はy軸に水平又は垂直にして、最終的に三次元ポイントクラウドを投影する二次元ポイントクラウド画像を得ることができる。
例えば、二次元ポイントクラウドの回転角riniをとすれば、二次元ポイントクラウドを回転角riniに従って回転し、ターゲット直線を水平面のx軸又はy軸に平行にする。続いて、二次元ポイントクラウドの座標情報に基づいて、二次元ポイントクラウドの座標の極値を決定する。得られた二次元ポイントクラウドの極値座標は、(x,y)と表されてもよい。二次元ポイントクラウドの所在する矩形領域の長さ及び幅は、それぞれw及びhと表される。該矩形領域は、二次元ポイントクラウドの少なくとも1つの二次元ポイントを含んでもよい。該矩形領域の縦横比をそのまま保持し、該矩形領域をsini倍スケーリングすることで、長さが所定の数値である二次元ポイントクラウド画像を生成することができる。ここで、二次元ポイントクラウド画像のサイズは、参照平面図の解像度に応じて調整されてもよい。例えば、二次元ポイントクラウド画像の長さを参照平面図における1つの領域の長さと設定してもよい。二次元ポイントクラウド画像における二次元ポイントの所在位置の画素値は、1と設定されてもよく、他の位置の画素値は、0と設定されてもよい。これにより、三次元ポイントクラウドを投影する二次元ポイントクラウド画像を得ることができる。
該実現形態の一例において、前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる、ターゲット直線条件を満たすターゲット直線を決定することは、前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる少なくとも1本の直線を決定することと、前記少なくとも1本の直線のうちの各直線に含まれる二次元ポイントの数を統計し、前記二次元ポイントの数に従って、前記少なくとも1本の直線を順序付け、順序付け結果を得ることと、前記順序付け結果に基づいて、前記少なくとも1本の直線のうちの現在の直線を逐次取得し、前記少なくとも1本の直線のうち、前記現在の直線に垂直する直線の数を決定することと、現在の直線に垂直する直線の数が第3閾値より大きい場合、現在の直線を、直線条件を満たすターゲット直線として決定することと、を含んでもよい。ここで、前記少なくとも1本の直線のうちの各直線に含まれる二次元ポイントの数は、第2閾値より大きい。該例において、屋内の参照平面図において、壁面、支柱などの目立つ構造は一般的には、x軸又はy軸に平行する。これによれば、二次元ポイントクラウドに含まれる、直線条件を満たすターゲット直線を決定することは、下記ステップを含んでもよい。
ステップ1において、二次元ポイントクラウドの二次元ポイント集合において、二次元ポイントを直線フィッティングする。例えば、RANSACアルゴリズムを利用する。直線における二次元ポイントの数が最も多く且つ第2閾値より大きい直線を取得し、該直線を直線配列に入れ、二次元ポイント集合から、該直線における二次元ポイントを除去する。ここで、二次元ポイントの数として、二次元ポイントの数がピーク値に達すると最大限理解されてもよい。
ステップ2において、二次元ポイント集合における残りの二次元ポイントの数が所定の残存数閾値より大きい場合、前のステップを繰り返す。このような方式により、二次元ポイントの数が第2閾値より大きい少なくとも1本の直線を決定することができる。
ステップ3において、統計された各直線に含まれる二次元ポイントの数に従って、直線配列から、最も先頭に配列された現在の直線を取り出す。最も先頭に配列された現在の直線は、直線のうち、二次元ポイントの数が最も多い直線と理解されてもよい。現在の直線と他の直線との挟角を算出する。現在の直線に垂直する直線の数が第3閾値より大きいと、現在の直線がx軸又はy軸に垂直な標識的構造を表すと認められ、現在の直線を、直線条件を満たすターゲット直線として決定することができる。そうでなければ、ステップ3を繰り返し、直線条件を満たすターゲット直線が出現するか又は直線配列が空になるまで継続する。直線配列からターゲット条件を満たす直線を見付けなかった場合、配列に最初に加えられた直線である、含まれる二次元ポイントの数が最も多い直線を、ターゲット直線とすることができる。
本願の実施例は、参照座標系における、三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定するための実現形態を更に提供する。以下、上記ステップS13を説明する。上記ステップS13は、下記ステップを含んでもよい。
ステップS131において、前記二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行う。
ステップS132において、毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定する。
ステップS133において、前記少なくとも1回の相似変換後に決定された一致度に基づいて、前記三次元ポイントクラウドにおける三次元ポイントを前記参照平面図における参照点にマッチングさせるための変換関係を決定する。
ステップS134において、前記変換関係に基づいて、前記三次元ポイントクラウドを前記参照平面図へ投影し、前記参照平面図の参照座標系における、前記三次元ポイントクラウドの投影座標を得る。
該実現形態において、二次元ポイントクラウド画像のサイズ及び位置は、参照平面図のサイズ及び位置とマッチングしない可能性があるため、二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行い、二次元ポイントクラウド画像と参照平面図における同一の物体を表す画像をアライメントする。ここで、回転、スケーリング及び平行移動を含んでもよい。相似変換を行った毎に、相似変換された二次元ポイントクラウド画像における二次元ポイントと参照平面図における参照点との一致度を決定することができる。一致度が最も高い相似変換は、最終的に決定された相似変換であってもよい。最終的に決定された相似変換は、二次元ポイントクラウド画像を参照平面図にマッチングさせるための二次元相似変換であるため、最終的に決定された相似変換に基づいて、三次元ポイントクラウドにおける三次元ポイントを参照平面図における参照点にマッチングさせるための変換関係を決定することができる。つまり、二次元相似変換に基づいて三次元の変換関係を決定し、該三次元の変換関係に基づいて、三次元ポイントクラウドを参照平面図にマッチングさせ、参照座標系における、三次元ポイントクラウドの投影座標を得ることができる。
可能な実現形態において、上記ステップS131は、下記ステップを含んでもよい。
ステップS1311において、前記二次元ポイントクラウド画像に対して相似変換を行うための変換範囲を決定する。
ステップS1312において、前記変換範囲内で、前記二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行う。
該実現形態において、まず、二次元ポイントクラウド画像に対して相似変換を行うための変換範囲を決定することができる。ここでの相似変換の変換範囲は、回転角度、スケーリングの大きさ及び平行移動区間を含んでもよい。決定された変動範囲内で、二次元ポイントクラウド画像に対して一回又は複数回の相似変換を行い、二次元ポイントクラウド画像を参照平面図にマッチングさせることができる。
例えば、二次元ポイントクラウド画像を上記回転角riniで回転することができる。二次元ポイントクラウド画像における壁面などの標識的構造を表す二次元ポイントは、x軸又はy軸に平行する。参照平面図における壁面などの標識的構造を表す参照点もx軸又はy軸に平行する。従って、二次元ポイントクラウド画像の回転角度は、4つの回転角度を含んでもよい。つまり、回転角度は、{0°,90°,180°,270°}であってもよい。スケーリングの大きさは、区間[0.55,1.4]で等間隔変換を行うことができる。間隔は、0.05と設定されてもよい。
平行移動区間は、参照平面図の中心の周囲の1つの矩形領域と設定されてもよい。平行移動ベクトルが(t,t)であって、

であるとすれば、平行移動ベクトルの変動間隔は、1画素であってもよい。ここで、wは、参照平面図の幅を表す。hは、参照平面図の高さを表す。
は、参照平面図の中心の
座標を表す。
は、平面図の中心の
座標を表す。
は、二次元ポイントクラウド画像の中心の
座標を表す。
は、二次元ポイントクラウド画像の中心の
座標を表す。該平行移動区間は、二次元ポイントクラウド画像の中心を参照平面図の中心の周囲の1つの矩形領域内に移動することを表す。該矩形領域の大きさは、参照平面図の大きさと同じである。
可能な実現形態において、前記相似変換は、平行移動変換を含み、上記ステップS132は、毎回の平行移動変換後の二次元ポイントクラウド画像を対象にして、前記二次元ポイントクラウド画像に対して所定の回数でサブサンプリング処理を行い、毎回のサブサンプリング処理後の第1サンプリング画像を得ることと、毎回のサブサンプリング処理後の第1サンプリング画像に対して、該第1サンプリング画像における二次元ポイントと第2サンプリング画像における参照点との一致度を決定することであって、第2サンプリング画像は、前記参照平面図に対して該第1サンプリング画像と同様なサブサンプリング処理を行うことで得られたものである、ことと、1回目のサブサンプリング処理後に決定された第1サンプリング画像と第2サンプリング画像との一致度に基づいて、毎回の平行移動変換後の二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することと、を含んでもよい。
該実現形態において、最適な相似変換の決定の効率を向上させるために、二次元ポイントクラウド画像を平行移動変換する場合、粗から細への方式で、毎回の平行移動変換後の二次元ポイントクラウド画像と参照平面図との一致度を決定することができる。つまり、毎回の平行移動変換後の二次元ポイントクラウド画像を対象にして、該二次元ポイントクラウド画像に対して所定の回数でサブサンプリング処理を行い、サブサンプリング処理した毎に、二次元ポイントクラウド画像に対応する第1サンプリング画像を得ることができる。それと同時に、参照平面図を所定の回数でサブサンプリング処理し、毎回のサブサンプリング処理後に、参照平面図に対応する第2サンプリング画像を得ることができる。複数の第1サンプリング画像及び二次元ポイントクラウド画像は、画像ピラミッドを構成することができる。画像ピラミッドは、複数層を含んでもよい。最下位層は、二次元ポイントクラウド画像を表すことができる。他の層は、二次元ポイントクラウド画像をサブサンプリング処理した後に得られた第1サンプリング画像を表すことができる。例えば、二次元ポイントクラウド画像を最大プーリング処理した後に得られた第1サンプリング画像を表すことができる。層数が高いほど、第1サンプリング画像に対応するサブサンプリング処理の回数は多くなる。なお、複数の第2サンプリング画像及び参照平面図は、画像ピラミッドを構成することができる。画像ピラミッドの最下位層は、参照平面図を表すことができる。他の層は、参照平面図をサブサンプリング処理した後に得られた第2サンプリング画像を表すことができる。参照平面図に対応する画像ピラミッドの層数は、二次元ポイントクラウド画像に対応する画像ピラミッドの層数と同じである。画像ピラミッドの頂上から、各層の第1サンプリング画像と第2サンプリング画像との一致度を順次決定する。つまり、サブサンプリング処理の回数の降順に従って、サブサンプリング処理の回数が同一である第1サンプリング画像と第2サンプリング画像との一致度を順次決定し、各層の第1サンプリング画像と第2サンプリング画像における各画素点の位置の一致度を決定する。これにより、最適な20個の候補位置を保留することができる。次の層において、保留した候補位置の周囲の7×7画素点位置の位置の近傍領域で、該層の第1サンプリング画像と第2サンプリング画像との一致度を決定し、最下位層まで継続する。つまり、二次元ポイントクラウド画像と参照平面図との一致度を決定する。このような方式で、最適な相似変換の決定効率を向上させることができる。
可能な実現形態において、上記ステップS132は、下記ステップを含んでもよい。
ステップS1321において、毎回の相似変換後の二次元ポイントクラウド画像に対して、前記二次元ポイントクラウド画像の第1画素点をトラバーサルし、前記第1画素点は、前記二次元ポイントクラウド画像における、前記二次元ポイントを構成する画素点である。
ステップS1322において、前記参照平面図における、前記第1画素点に対応する第1画像領域を決定する。
ステップS1323において、前記第1画像領域に、前記参照点を表す第2画素点が存在する場合、前記第1画素点を第1ターゲット画素点として決定する。
ステップS1324において、前記二次元ポイントクラウド画像に含まれる第1ターゲット画素点の数と前記二次元ポイントクラウド画像に含まれる第1画素点の数との第1比例を決定する。
ステップS1325において、前記第1比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と前記参照平面図との一致度を決定する。
該実現形態において、毎回の相似変換後の二次元ポイントクラウド画像と参照平面図との一致度を決定することができる。ここでの一致度は、同一の画像領域内で、二次元ポイントクラウド画像と参照平面図との一致度であってもよい。これにより、二次元ポイントクラウド画像における、二次元ポイントを表す各第1画素点をトラバーサルすることができる。いずれか1つの第1画素点に対して、該第1画素点の画像位置を決定し、続いて、参照平面図における同一の画像位置で、第1画像領域を決定する。例えば、同一の画像位置の近傍領域を第1画像領域とすることができる。続いて、第1画像領域内に、参照点を表す第2画素点が存在するかどうかを判定する。存在すれば、第1画素点を第1ターゲット画素点として決定し、続いて、二次元ポイントクラウド画像における第1ターゲット画素点の数と第1画素点の数との第1比例を算出する。該第1比例は、二次元ポイントクラウド画像と参照平面図との一致度と決定されてもよい。
例えば、Cp2fで二次元ポイントクラウド画像と参照平面図との一致度を表すことができる。二次元ポイントクラウド画像における、二次元ポイントを表す画素点は、第1画素点であってもよい。第1画素点は、有意義な画素点と認められてもよい。例えば、二次元ポイントクラウド画像中における第1画素点の画素値は1と設定されてもよく、第1画素点以外の他の画素点の画素値は、0と設定されてもよい。二次元ポイントクラウド画像のいずれか1つの第1画素点の画像位置に対して、参照平面図における、該第1画素点の画像位置と同様な位置における画素点が第2画素点であるかどうかを判定する。第2画素点であれば、該第1画素点は、第1ターゲット画素点である。第1画素点における第1ターゲット画素点が占める第1比例を決定する。エラー耐性を向上させるために、同一の位置を近傍位置に調整することができる。例えば、近傍位置を7×7画素点の近傍領域と設定することができる。
可能な実現形態において、上記ステップS132は、毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、前記参照平面図の第2画素点をトラバーサルすることであって、前記第2画素点は、前記参照平面図における、前記参照点を構成する画素点である、ことと、前記二次元ポイントクラウド画像における、前記第2画素点に対応する第2画像領域を決定することと、前記第2画像領域内に、前記二次元ポイントを表す第1画素点が存在する場合、前記第2画素点を第2ターゲット画素点として決定することと、前記参照平面図に含まれる第2ターゲット画素点の数と前記参照平面図に含まれる第2画素点の数との第2比例を決定することと、前記第2比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定することと、を含んでもよい。
該実現形態において、二次元ポイントクラウド画像と参照平面図との一致度は、同一の画像領域内で、参照平面図と二次元ポイントクラウド画像との一致度であってもよい。これにより、参照平面図における、参照点を表す各第2画素点をトラバーサルすることができる。いずれか1つの第2画素点に対して、該第2画素点の画像位置を決定し、続いて、二次元ポイントクラウド画像における同一の画像位置で、第2画像領域を決定することができる。例えば、同一の画像位置の近傍領域を第2画像領域とする。続いて、第2画像領域内に、二次元ポイントを表す第1画素点が存在するかどうかを判定する。存在すれば、該第2画素点を第2ターゲット画素点として決定する。続いて、参照平面図における第2ターゲット画素点の数と第2画素点の数との第2比例を算出する。該第2比例は、参照平面図と二次元ポイントクラウド画像との一致度を表すことができる。なお、Cf2pで参照平面図と二次元ポイントクラウド画像との一致度を表すことができる。幾つかの実現形態において、Cp2f+Cf2pで、二次元ポイントクラウド画像と参照平面図との相互一致度を表すことができる。一致度が高いほど、二次元ポイントクラウド画像と参照平面図とアライメント度合いが高くなることを表す。
可能な実現形態において、上記ステップS132は、下記ステップを更に含んでもよい。
ステップS132aにおいて、毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、前記二次元ポイントクラウド画像における、非閉鎖領域内に位置する第1画素点を決定し、前記第1画素点は、前記二次元ポイントクラウド画像における、前記二次元ポイントを構成する画素点である。
ステップS132bにおいて、前記非閉鎖領域に位置する第1画素点の数と前記二次元ポイントクラウド画像に含まれる第1画素点の数との第3比例を決定する。
ステップS132cにおいて、前記第3比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定する。
該実現形態において、参照座標系における三次元ポイントクラウドの投影のロバスト性を向上させるために、二次元ポイントクラウド画像と参照平面図との一致度を決定する場合、三次元ポイントクラウドの投影の制限領域の制約条件を考慮することができる。つまり、三次元ポイントクラウドにおける三次元ポイントが幾つかの領域に現れるべきではなく、例えば、幾つかの閉鎖した画像空間に現れるべきではないと理解されてもよい。なお、三次元ポイントを投影する二次元ポイントも幾つかの画像領域に現れるべきではない。これにより、二次元ポイントクラウド画像における、非閉鎖領域内に位置する第1画素点を統計し、続いて、非閉鎖領域に位置する第1画素点の数と二次元ポイントクラウド画像に含まれる第1画素点の数との第3比例を算出することができる。該第3比例は、二次元ポイントクラウド画像と参照平面図との一致度を表すことができる。
可能な実現形態において、上記ステップS132は、毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、画像情報収集過程における前記画像収集装置の位置姿勢情報に基づいて、前記画像収集装置が前記二次元ポイントクラウド画像へ投影する第3画素点を決定することであって、前記画像情報は、前記三次元ポイントクラウドを構築するためのものである、ことと、前記非閉鎖領域に位置する第3画素点の数と前記二次元ポイントクラウド画像に含まれる第3画素点の数との第4比例を決定することと、前記第4比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定することと、を更に含んでもよい。
該実現形態において、二次元ポイントクラウド画像と参照平面図との一致度を決定する場合、画像収集装置が画像情報を収集する過程における制約条件を考慮することもできる。例えば、画像収集装置が画像情報を収集する過程における幾つかの空間に現れるべきではなく、例えば、幾つかの閉鎖空間内に現れるべきではない。なお、画像収集装置が二次元ポイントクラウド画像へ投影する二次元ポイントは、幾つかの領域に現れるべきではない。これにより、画像情報収集過程における画像収集装置の位置姿勢情報に基づいて、画像収集装置が二次元ポイントクラウド画像へ投影する第3画素点を決定し、続いて、非閉鎖領域内に位置する第3画素点の数を統計し、非閉鎖領域内に位置する第3画素点の数と二次元ポイントクラウド画像に含まれる第3画素点との第4比例を算出することができる。該第4比例は、二次元ポイントクラウド画像と参照平面図との一致度を表すことができる。
幾つかの実現形態において、二次元ポイントクラウド画像と参照平面図との一致度をより十分に決定するために、上記第1比例、第2比例、第3比例、第4比例のうちの1つ又は複数の比例を考慮して、二次元ポイントクラウド画像と参照平面図との一致度を決定することもできる。該一致度が高いほど、二次元ポイントクラウド画像と参照平面図とのアライメント度合いが高くなることを表す。上記各実現形態によれば、一例において、毎回の相似変換後の二次元ポイントクラウド画像と参照平面図との一致度を決定する場合、上記第1比例、第2比例、第3比例及び第4比例に基づいて、毎回の相似変換後の二次元ポイントクラウド画像と参照平面図との一致度を共同で決定することができる。対応する一致度の表現式は、式(2)に示すとおりである。
式(2)
ただし、
は、二次元ポイントクラウド画像と参照平面図との一致度であってもよく、一致度が高いほど、二次元ポイントクラウド画像と参照平面図とのアライメント度合いが高くなることを表す。Cp2fは、上記第1比例を表すことができる。Cf2pは、上記第2比例を表すことができる。Clcは、上記第3比例を表すことができる。Clpは、上記第4比例を表すことができる。
可能な実現形態において、上記ステップS133は、下記ステップを含んでもよい。
ステップS1331において、前記少なくとも1回の相似変換後に決定された一致度に基づいて、前記二次元ポイントクラウド画像における二次元ポイントを前記参照平面図における参照点にマッチングさせる二次元変換行列を決定する。
ステップS1332において、前記二次元変換行列に基づいて、前記三次元ポイントクラウドにおける三次元ポイントを前記参照平面図における参照点にマッチングさせるための変換関係を決定する。
該可能な実現形態において、少なくとも1回の相似変換のうち、一致度が最も高い相似変換を最終的相似変換とすることができる。最終的相似変換に基づいて、二次元ポイントクラウド画像を参照平面図にマッチングさせる二次元変換行列を決定することができる。続いて、二次元変換行列に基づいて、三次元ポイントクラウドにおける三次元ポイントを参照平面図における参照点にマッチングさせるための変換関係を得ることができる。該変換関係は、三次元変換行列で表されてもよい。例えば、一致度が最も高い相似変換に対応する回転角は、rbestであってもよく、スケーリングの大きさは、sbestであってもよい。ここで、rbestに、初期回転角riniが既に含まれてもよい。sbestに、初期スケーリングの大きさsiniが既に含まれてもよい。該回転角及びスケーリングの大きさにおける最適な平行移動は、tbestであってもよい。これにより、二次元ポイントクラウド画像における二次元ポイントから参照平面図における参照点への相似変換の二次元変換行列を得ることができる。該二次元変換行列s2Dは、式(3)に示す通りであってもよい。
式(3)
ただし、R(rbest)は、回転角がrbestである
の回転行列を表すことができる。
二次元相似行列を得た後、二次元相似行列から三次元変換行列を得ることができる。三次元変換行列s3Dは、式(4)に示すとおりであってもよい。
式(4)
ただし、R(rbest)は、z軸を回転軸としてrbestで回転する三次元回転行列を表すことができる。Vは、上記ステップS1222における特異ベクトル行列であってもよく、Vの3つの列ベクトルV、V及びVは、それぞれ、投影の水平面のx軸、y軸及びz軸であってもよい。
上記三次元変換行列により、三次元ポイントクラウドの三次元ポイント情報に基づいて、参照平面図内の、三次元ポイントクラウドにおけるいずれか1つの三次元ポイントの投影座標を得て、三次元ポイントクラウドを参照平面図にマッチングさせる効率及び精度を向上させることができる。
本願の実施例で提供される上記情報処理方法によれば、本願の実施例は、測位方法を更に提供する。図4は、本願の実施例による測位方法を示すフローチャートである。該測位方法は、端末装置、サーバ又は他の情報処理装置により実行されてもよい。ここで、端末装置は、ユーザ装置(User Equipment:UE)、携帯機器、ユーザ端末、端末、セルラ電話、コードレス電話、パーソナルデジタルアシスタント(Personal Digital Assistant:PDA)、ハンドヘルドデバイス、コンピューティングデバイス、車載機器、ウェアブル機器などであってもよい。幾つかの可能な実現形態において、該測位方法は、プロセッサによりメモリに記憶されているコンピュータ可読命令を呼び出すことで実現することができる。
図4に示すように、前記測位方法は、下記ステップを含んでもよい。
ステップS21において、ターゲット物体に対して画像収集装置により収集されたターゲット画像情報を取得する。
ステップS22において、収集された前記ターゲット画像情報と三次元ポイントクラウドにおける三次元ポイントを比較し、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものであり、前記三次元ポイントクラウドにおける三次元ポイントは、投影座標に対応し、前記投影座標は、二次元ポイントクラウド画像と参照平面図との一致度に基づいて決定されたものであり、前記二次元ポイントクラウド画像は、前記三次元ポイントクラウドを水平面へ投影することで生成されたものであり、前記参照平面図は、前記ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を表すためのものである。
ステップS23において、前記ターゲット画像情報とマッチングする三次元ポイントに対応する投影座標に基づいて、前記画像収集装置を測位する。
本願の実施例において、測位装置は、画像収集装置により収集された現在のシーンにおけるターゲット物体のターゲット画像情報を取得し、続いて、収集されたターゲット画像と現在のシーンの三次元ポイントクラウドにおける三次元ポイントを比較し、収集されたターゲット画像情報とマッチングする三次元ポイントを決定することができる。続いて、該三次元ポイントの三次元ポイント情報に基づいて、参照平面図における、該三次元ポイントの投影座標を決定する。例えば、上記三次元投影行列を利用して、参照平面図における、三次元ポイントの投影座標を決定する。続いて、該三次元ポイントの投影座標に基づいて、現在のシーンにおける、画像収集装置の位置を決定することができる。例えば、ユーザは、画像収集装置を利用してターゲット物体を撮影する。測位装置は、画像収集装置により収集されたターゲット画像情報に基づいて、現在のシーンの参照平面図における、ユーザの位置を決定し、ユーザに対する測位を実現させることができる。
本願で言及した上記各方法の実施例は、原理や論理から逸脱しない限り、互いに組み合わせることで組み合わせた実施例を構成することができ、紙数に限りがあるため、本願において逐一説明しないことが理解されるべきである。
なお、本願は、情報処理装置、電子機器、コンピュータ可読記憶媒体、プログラムを更に提供する。上記はいずれも、本願で提供されるいずれか1つの情報処理方法を実現させるためのものである。対応する技術的解決手段及び説明は、方法に関連する記述を参照されたい。ここで、詳細な説明を省略する。
本願の実施例で提供される情報処理方法は、二次元ポイントクラウド画像と参照平面図との一致度により、三次元ポイントクラウドを参照平面図へ投影し、画像収集装置の座標系における三次元ポイントクラウドを参照平面図の参照座標系に自動的に変換することができる。大量の労働力を節約し、マッチング効率を向上させることができる。また、三次元ポイントクラウドに対するフィルタ除去という前処理及び複数の制約条件により、自動マッチング登録を行い、マッチングの正確立を向上させることができる。例えば、大型建築屋内シーンに対して、まず、シーンの画像を収集して三次元再構成を行い、続いて、本願の実施例で提供される情報処理方法を利用して、三次元再構成で得られた三次元ポイントクラウドを建築物の平面図に自動的にマッチングさせることができる。マッチングにより得られた投影画像に基づいて、ユーザは、ユーザは、携帯電話などの機器により撮られた画像に基づいて、建築物の平面図における、ユーザの位置を推定し、つまり、現在のシーンにおける位置を推定し、視覚的測位を実現させることができる。
具体的な実施形態の上記方法において、各ステップの記述順番は、厳しい実行順番として実施過程を限定するものではなく、各ステップの具体的な実行順番はその機能及び考えられる内在的論理により決まることは、当業者であれば理解すべきである。
図5は、本願の実施例による情報処理装置を示すブロック図である。図5に示すように、前記情報処理装置は、
三次元ポイントクラウドの三次元ポイント情報を取得するように構成される取得モジュール31と、前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成するように構成される生成モジュール32と、前記二次元ポイントクラウド画像と参照平面図との一致度に基づいて、前記参照平面図の参照座標系における、前記三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定するように構成される決定モジュール33であって、前記参照平面図は、ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を示すためのものであり、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものである、決定モジュール33と、を備える。
図6は、本願の実施例による測位装置を示すブロック図である。前記測位装置は、ターゲット物体に対して画像収集装置により収集されたターゲット画像情報を取得するように構成される取得モジュール41と、収集された前記ターゲット画像情報と三次元ポイントクラウドにおける三次元ポイントを比較するように構成される比較モジュール42であって、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものであり、前記三次元ポイントクラウドにおける三次元ポイントは、投影座標に対応し、前記投影座標は、二次元ポイントクラウド画像と参照平面図との一致度に基づいて決定されたものであり、前記二次元ポイントクラウド画像は、前記三次元ポイントクラウドを水平面へ投影することで生成されたものであり、前記参照平面図は、前記ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を表すためのものである、比較モジュール42と、前記ターゲット画像情報とマッチングする三次元ポイントに対応する投影座標に基づいて、前記画像収集装置を測位するように構成される測位モジュール43と、を備える。
幾つかの実施例において、本願の実施例で提供される装置における機能及びモジュールは、上記方法実施例に記載の方法を実行するために用いられ、具体的な実現形態は上記方法実施例の説明を参照されたい。簡潔化のために、ここで詳細な説明を省略する。
本願の実施例は電子機器を更に提供する。該電子機器は、プロセッサと、プロセッサによる実行可能な命令を記憶するためのメモリとを備え、前記プロセッサは、上記方法を実行するように構成される。
電子機器は、端末、サーバ又は他の形態の機器として提供されてもよい。
図7は、一例示的な実施例による電子機器1900を示すブロック図である。例えば、電子機器1900は、サーバとして提供されてもよい。図7を参照すると、電子機器1900は、処理ユニット1922を備える。ぞれは1つ又は複数のプロセッサと、メモリ1932で表されるメモリリソースを更に備える。該メモリリソースは、アプリケーションプログラムのような、処理ユニット1922により実行される命令を記憶するためのものである。メモリ1932に記憶されているアプリケーションプログラムは、それぞれ一組の命令に対応する1つ又は1つ以上のモジュールを含んでもよい。なお、処理ユニット1922は、命令を実行して、上記方法を実行するように構成される。
電子機器1900は、電子機器1900の電源管理を実行するように構成される電源ユニット1926と、電子機器1900をネットワークに接続するように構成される有線又は無線ネットワークインタフェース1950と、入力出力(I/O)インタフェース1958を更に備えてもよい。電子機器1900は、Windows ServerTM、Mac OS XTM、UnixTM、LinuxTM、FreeBSDTM又は類似したもののような、メモリ1932に記憶されているオペレーティングシステムを実行することができる。
例示的な実施例において、例えば、コンピュータプログラム命令を含むメモリ1932のような不揮発性コンピュータ可読記憶媒体を更に提供する。上記コンピュータプログラム命令は、電子機器1900の処理ユニット1922により実行されて上記方法を完了する。
本願は、システム、方法及び/又はコンピュータプログラム製品であってもよい。コンピュータプログラム製品は、コンピュータ可読記憶媒体を備えてもよく、プロセッサに本願の各態様を実現させるためのコンピュータ可読プログラム命令がそれに記憶されている。
コンピュータ可読記憶媒体は、命令実行装置に用いられる命令を保持又は記憶することができる有形装置であってもよい。コンピュータ可読記憶媒体は、例えば、電気記憶装置、磁気記憶装置、光記憶装置、電磁記憶装置、半導体記憶装置又は上記の任意の組み合わせであってもよいが、これらに限定されない。コンピュータ可読記憶媒体のより具体的な例(非網羅的なリスト)は、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、消去可能なプログラマブル読み出し専用メモリ(EPROM又はフラッシュ)、スタティックランダムアクセスメモリ(SRAM)、ポータブルコンパクトディスク読み出し専用メモリ(CD-ROM)、デジタル多目的ディスク(DVD)、メモリスティック、フレキシブルディスク、命令が記憶されているパンチカード又は凹溝内における突起構造のような機械的符号化装置、及び上記任意の適切な組み合わせを含む。ここで用いられるコンピュータ可読記憶媒体は、電波もしくは他の自由に伝搬する電磁波、導波路もしくは他の伝送媒体を通って伝搬する電磁波(例えば、光ファイバケーブルを通過する光パルス)、または、電線を通して伝送される電気信号などの、一時的な信号それ自体であると解釈されるべきではない。
ここで説明されるコンピュータ可読プログラム命令を、コンピュータ可読記憶媒体から各コンピューティング/処理装置にダウンロードすることができるか、又は、インターネット、ローカルエリアネットワーク、ワイドエリアネットワーク及び/又は無線ネットワークのようなネットワークを経由して外部コンピュータ又は外部記憶装置にダウンロードすることができる。ネットワークは、伝送用銅線ケーブル、光ファイバー伝送、無線伝送、ルータ、ファイアウォール、交換機、ゲートウェイコンピュータ及び/又はエッジサーバを含んでもよい。各コンピューティング/処理装置におけるネットワークインターフェースカード又はネットワークインタフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、該コンピュータ可読プログラム命令を転送し、各コンピューティング/処理装置におけるコンピュータ可読記憶媒体に記憶する。
本願の操作を実行するためのコンピュータ可読プログラム命令は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又は1つ又は複数のプログラミング言語で記述されたソースコード又はターゲットコードであってもよい。前記プログラミング言語は、Smalltalk、C++などのようなオブジェクト指向プログラミング言語と、「C」プログラミング言語又は類似したプログラミング言語などの従来の手続型プログラミング言語とを含む。コンピュータ可読プログラム命令は、ユーザコンピュータ上で完全に実行してもよいし、ユーザコンピュータ上で部分的に実行してもよいし、独立したソフトウェアパッケージとして実行してもよいし、ユーザコンピュータ上で部分的に実行してリモートコンピュータ上で部分的に実行してもよいし、又はリモートコンピュータ又はサーバ上で完全に実行してもよい。リモートコンピュータの場合に、リモートコンピュータは、ローカルエリアネットワーク(LAN)やワイドエリアネットワーク(WAN)を含む任意の種類のネットワークを通じてユーザのコンピュータに接続するか、または、外部のコンピュータに接続することができる(例えばインターネットサービスプロバイダを用いてインターネットを通じて接続する)。幾つかの実施例において、コンピュータ可読プログラム命令の状態情報を利用して、プログラマブル論理回路、フィールドプログラマブルゲートアレイ(FPGA)又はプログラマブル論理アレイ(PLA)のような電子回路をカスタマイズする。該電子回路は、コンピュータ可読プログラム命令を実行することで、本願の各態様を実現させることができる。
ここで、本願の実施例の方法、装置(システム)及びコンピュータプログラム製品のフローチャート及び/又はブロック図を参照しながら、本願の各態様を説明する。フローチャート及び/又はブロック図の各ブロック及びフローチャート及び/又はブロック図における各ブロックの組み合わせは、いずれもコンピュータ可読プログラム命令により実現できる。
これらのコンピュータ可読プログラム命令は、汎用コンピュータ、専用コンピュータまたはその他プログラマブルデータ処理装置のプロセッサに提供でき、それによって機器を生み出し、これら命令はコンピュータまたはその他プログラマブルデータ処理装置のプロセッサにより実行される時、フローチャート及び/又はブロック図における1つ又は複数のブロック中で規定している機能/操作を実現する装置を生み出した。これらのコンピュータ可読プログラム命令をコンピュータ可読記憶媒体に記憶してもよい。これらの命令によれば、コンピュータ、プログラマブルデータ処理装置及び/又は他の装置は特定の方式で動作する。従って、命令が記憶されているコンピュータ可読記憶媒体は、フローチャート及び/又はブロック図おける1つ又は複数のブロック中で規定している機能/操作を実現する各態様の命令を含む製品を備える。
コンピュータ可読プログラム命令をコンピュータ、他のプログラマブルデータ処理装置又は他の装置にロードしてもよい。これにより、コンピュータ、他のプログラマブルデータ処理装置又は他の装置で一連の操作の工程を実行して、コンピュータで実施されるプロセスを生成する。従って、コンピュータ、他のプログラマブルデータ処理装置又は他の装置で実行される命令により、フローチャート及び/又はブロック図における1つ又は複数のブロック中で規定している機能/操作を実現させる。
図面におけるフローチャート及びブック図は、本願の複数の実施例によるシステム、方法及びコンピュータプログラム製品の実現可能なアーキテクチャ、機能および操作を例示するものである。この点で、フローチャート又はブロック図における各ブロックは、1つのモジュール、プログラムセグメント又は命令の一部を表すことができる。前記モジュール、、プログラムセグメント又は命令の一部は、1つまたは複数の所定の論理機能を実現するための実行可能な命令を含む。いくつかの取り替えとしての実現中に、ブロックに表記される機能は図面中に表記される順序と異なる順序で発生することができる。例えば、二つの連続するブロックは実際には基本的に並行して実行でき、場合によっては反対の順序で実行することもでき、これは関係する機能から確定する。ブロック図及び/又はフローチャートにおける各ブロック、及びブロック図及び/又はフローチャートにおけるブロックの組み合わせは、所定の機能又は操作を実行するための専用ハードウェアベースシステムにより実現するか、又は専用ハードウェアとコンピュータ命令の組み合わせにより実現することができる。
以上は本発明の各実施例を説明したが、前記説明は例示的なものであり、網羅するものではなく、且つ開示した各実施例に限定されない。説明した各実施例の範囲と趣旨から脱逸しない場合、当業者にとって、多くの修正及び変更は容易に想到しえるものである。本明細書に用いられる用語の選択は、各実施例の原理、実際の応用、或いは市場における技術の改善を最もよく解釈すること、或いは他の当業者が本明細書に開示された各実施例を理解できることを目的とする。

Claims (20)

  1. 情報処理方法であって、
    三次元ポイントクラウドの三次元ポイント情報を取得することと、
    前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成することと、
    前記二次元ポイントクラウド画像と参照平面図との一致度に基づいて、前記参照平面図の参照座標系における、前記三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定することであって、前記参照平面図は、ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を示すためのものであり、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものである、ことと、を含む、情報処理方法。
  2. 前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成する前に、前記方法は、
    画像情報収集過程における画像収集装置の少なくとも2つの位置姿勢情報を取得することであって、前記画像情報は、前記三次元ポイントクラウドを構築するためのものである、ことと、
    前記画像収集装置の少なくとも2つの位置姿勢情報に基づいて、前記三次元ポイントクラウドを投影する水平面を決定することと、を更に含むことを特徴とする
    請求項1に記載の方法。
  3. 前記位置姿勢情報は、向き情報及び位置情報を含み、
    前記画像収集装置の少なくとも2つの位置姿勢情報に基づいて、前記三次元ポイントクラウドを投影する水平面を決定することは、
    前記画像収集装置の少なくとも2つの位置情報に基づいて、画像情報収集過程における前記画像収集装置のいずれか2つの位置間の変位を決定することと、
    前記画像収集装置の少なくとも2つの向き情報及びいずれか2つの位置間の変位に基づいて、前記三次元ポイントクラウドを投影する水平面を決定することと、を含むことを特徴とする
    請求項2に記載の方法。
  4. 前記画像収集装置は、
    画像情報収集過程における前記画像収集装置の所在する水平軸が、前記三次元ポイントクラウドを投影する水平面に平行するという所定の基礎条件、
    画像情報収集過程における前記画像収集装置の地面からの高さが、所定の高さ範囲内で変動するという所定の基礎条件、のうちの少なくとも1つを満たすことを特徴とする
    請求項2又は3に記載の方法。
  5. 前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成することは、
    前記三次元ポイントクラウドの三次元ポイント情報に基づいて、前記三次元ポイントクラウドに含まれる少なくとも1つの平面を決定することと、
    前記少なくとも1つの平面のうちの各平面に含まれる三次元ポイントの数及び各平面の法線方向に基づいて、前記三次元ポイントクラウドにおけるフィルタ除去すべき三次元ポイントを決定することと、
    前記三次元ポイントクラウドから前記フィルタ除去すべき三次元ポイントを削除し、前記三次元ポイントクラウドにおける残りの三次元ポイントを得ることと、
    残りの三次元ポイントの三次元ポイント情報に基づいて、残りの三次元ポイントを前記水平面へ投影し、前記三次元ポイントクラウドを投影する二次元ポイントクラウド画像を生成することと、を含み、
    前記少なくとも1つの平面のうちの各平面に含まれる三次元ポイントの数及び各平面の法線方向に基づいて、前記三次元ポイントクラウドにおけるフィルタ除去すべき三次元ポイントを決定することは、
    前記少なくとも1つの平面のうちの各平面に含まれる三次元ポイントの数に基づいて、前記少なくとも1つの平面のうち、三次元ポイントの数が最も多く且つ第1閾値より大きい第1平面を決定することと、
    前記第1平面の法線方向が前記水平面に垂直するかどうかを判定することと、
    前記第1平面の法線方向が前記水平面に垂直する場合、前記第1平面に含まれる三次元ポイントを前記フィルタ除去すべき三次元ポイントとして決定することと、を含むことを特徴とする
    請求項1から4のうちいずれか一項に記載の方法。
  6. 前記三次元ポイント情報は、三次元座標ベクトルを含み、前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を決定することは、
    前記三次元ポイントクラウドの三次元座標ベクトル及び投影する水平面に基づいて、前記三次元ポイントクラウドを前記水平面へ投影する二次元ポイントクラウドの座標情報を決定することと、
    前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる、直線条件を満たすターゲット直線を決定することと、
    前記ターゲット直線と前記水平面の座標軸との位置関係に基づいて、前記二次元ポイントクラウドの回転角を決定することと、
    前記回転角に従って、前記二次元ポイントクラウドを回転し、前記三次元ポイントクラウドを前記水平面へ投影する二次元ポイントクラウド画像を得ることと、を含み、
    前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる、ターゲット直線条件を満たすターゲット直線を決定することは、
    前記二次元ポイントクラウドの座標情報に基づいて、前記二次元ポイントクラウドに含まれる少なくとも1本の直線を決定することであって、前記少なくとも1本の直線のうちの各直線に含まれる二次元ポイントの数は、第2閾値より大きい、ことと、
    前記少なくとも1本の直線のうちの各直線に含まれる二次元ポイントの数を統計し、前記二次元ポイントの数に従って、前記少なくとも1本の直線を順序付け、順序付け結果を得ることと、
    前記順序付け結果に基づいて、前記少なくとも1本の直線のうちの現在の直線を逐次取得し、前記少なくとも1本の直線のうち、前記現在の直線に垂直する直線の数を決定することと、
    現在の直線に垂直する直線の数が第3閾値より大きい場合、現在の直線を、直線条件を満たすターゲット直線として決定することと、を含むことを特徴とする
    請求項2に記載の方法。
  7. 前記二次元ポイントクラウド画像と参照平面図との一致度に基づいて、前記参照平面図の参照座標系における、前記三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定することは、
    前記二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行うことと、
    毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することと、
    前記少なくとも1回の相似変換後に決定された一致度に基づいて、前記三次元ポイントクラウドにおける三次元ポイントを前記参照平面図における参照点にマッチングさせるための変換関係を決定することと、
    前記変換関係に基づいて、前記三次元ポイントクラウドを前記参照平面図へ投影し、前記参照平面図の参照座標系における、前記三次元ポイントクラウドの投影座標を得ることと、を含むことを特徴とする
    請求項1から6のうちいずれか一項に記載の方法。
  8. 前記二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行うことは、
    前記二次元ポイントクラウド画像に対して相似変換を行うための変換範囲を決定することと、
    前記変換範囲内で、前記二次元ポイントクラウド画像に対して少なくとも1回の相似変換を行うことと、を含むことを特徴とする
    請求項7に記載の方法。
  9. 前記相似変換は、平行移動変換を含み、毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することは、
    毎回の平行移動変換後の二次元ポイントクラウド画像を対象にして、前記二次元ポイントクラウド画像に対して所定の回数でサブサンプリング処理を行い、毎回のサブサンプリング処理後の第1サンプリング画像を得ることと、
    毎回のサブサンプリング処理後の第1サンプリング画像に対して、該第1サンプリング画像における二次元ポイントと第2サンプリング画像における参照点との一致度を決定することであって、第2サンプリング画像は、前記参照平面図に対して該第1サンプリング画像と同様なサブサンプリング処理を行うことで得られたものである、ことと、
    1回目のサブサンプリング処理後に決定された第1サンプリング画像と第2サンプリング画像との一致度に基づいて、毎回の平行移動変換後の二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することと、を含むことを特徴とする
    請求項7に記載の方法。
  10. 毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することは、
    毎回の相似変換後の二次元ポイントクラウド画像に対して、前記二次元ポイントクラウド画像の第1画素点をトラバーサルすることであって、前記第1画素点は、前記二次元ポイントクラウド画像における、前記二次元ポイントを構成する画素点である、ことと、
    前記参照平面図における、前記第1画素点に対応する第1画像領域を決定することと、
    前記第1画像領域に、前記参照点を表す第2画素点が存在する場合、前記第1画素点を第1ターゲット画素点として決定することと、
    前記二次元ポイントクラウド画像に含まれる第1ターゲット画素点の数と前記二次元ポイントクラウド画像に含まれる第1画素点の数との第1比例を決定することと、
    前記第1比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と前記参照平面図との一致度を決定することと、を含むことを特徴とする
    請求項7に記載の方法。
  11. 毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することは、
    毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、前記参照平面図の第2画素点をトラバーサルすることであって、前記第2画素点は、前記参照平面図における、前記参照点を構成する画素点である、ことと、
    前記二次元ポイントクラウド画像における、前記第2画素点に対応する第2画像領域を決定することと、
    前記第2画像領域内に、前記二次元ポイントを表す第1画素点が存在する場合、前記第2画素点を第2ターゲット画素点として決定することと、
    前記参照平面図に含まれる第2ターゲット画素点の数と前記参照平面図に含まれる第2画素点の数との第2比例を決定することと、
    前記第2比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定することと、を含むことを特徴とする
    請求項7に記載の方法。
  12. 毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することは、
    毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、前記二次元ポイントクラウド画像における、非閉鎖領域内に位置する第1画素点を決定することであって、前記第1画素点は、前記二次元ポイントクラウド画像における、前記二次元ポイントを構成する画素点である、ことと、
    前記非閉鎖領域に位置する第1画素点の数と前記二次元ポイントクラウド画像に含まれる第1画素点の数との第3比例を決定することと、
    前記第3比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定することと、を含むことを特徴とする
    請求項7に記載の方法。
  13. 毎回の相似変換後の前記二次元ポイントクラウド画像における二次元ポイントと参照平面図の参照点との一致度を決定することは、
    毎回の前記二次元ポイントクラウド画像に対して相似変換を行った後に、画像情報収集過程における前記画像収集装置の位置姿勢情報に基づいて、前記画像収集装置が前記二次元ポイントクラウド画像へ投影する第3画素点を決定することであって、前記画像情報は、前記三次元ポイントクラウドを構築するためのものである、ことと、
    前記非閉鎖領域に位置する第3画素点の数と前記二次元ポイントクラウド画像に含まれる第3画素点の数との第4比例を決定することと、
    前記第4比例に基づいて、毎回の相似変換後の前記二次元ポイントクラウド画像と参照平面図との一致度を決定することと、を含むことを特徴とする
    請求項7に記載の方法。
  14. 前記少なくとも1回の相似変換後に決定された一致度に基づいて、前記三次元ポイントクラウドにおける三次元ポイントを前記参照平面図における参照点にマッチングさせるための変換関係を決定することは、
    前記少なくとも1回の相似変換後に決定された一致度に基づいて、前記二次元ポイントクラウド画像における二次元ポイントを前記参照平面図における参照点にマッチングさせる二次元変換行列を決定することと、
    前記二次元変換行列に基づいて、前記三次元ポイントクラウドにおける三次元ポイントを前記参照平面図における参照点にマッチングさせるための変換関係を決定することと、を含むことを特徴とする
    請求項7に記載の方法。
  15. 測位方法であって、
    ターゲット物体に対して画像収集装置により収集されたターゲット画像情報を取得することと、
    収集された前記ターゲット画像情報と三次元ポイントクラウドにおける三次元ポイントを比較することであって、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものであり、前記三次元ポイントクラウドにおける三次元ポイントは、投影座標に対応し、前記投影座標は、二次元ポイントクラウド画像と参照平面図との一致度に基づいて決定されたものであり、前記二次元ポイントクラウド画像は、前記三次元ポイントクラウドを水平面へ投影することで生成されたものであり、前記参照平面図は、前記ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を表すためのものである、ことと、
    前記ターゲット画像情報とマッチングする三次元ポイントに対応する投影座標に基づいて、前記画像収集装置を測位することと、を含む、測位方法。
  16. 情報処理装置であって、
    三次元ポイントクラウドの三次元ポイント情報を取得するように構成される取得モジュールと、前記三次元ポイント情報に基づいて、前記三次元ポイントクラウドを水平面へ投影する二次元ポイントクラウド画像を生成するように構成される生成モジュールと、
    前記二次元ポイントクラウド画像と参照平面図との一致度に基づいて、前記参照平面図の参照座標系における、前記三次元ポイントクラウドに含まれる三次元ポイントの投影座標を決定するように構成される決定モジュールであって、前記参照平面図は、ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を示すためのものであり、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものである、決定モジュールと、を備える、情報処理装置。
  17. 測位装置であって、
    ターゲット物体に対して画像収集装置により収集されたターゲット画像情報を取得するように構成される取得モジュールと、
    収集された前記ターゲット画像情報と三次元ポイントクラウドにおける三次元ポイントを比較するように構成される比較モジュールであって、前記三次元ポイントクラウドは、前記ターゲット物体の三次元空間情報を表すためのものであり、前記三次元ポイントクラウドにおける三次元ポイントは、投影座標に対応し、前記投影座標は、二次元ポイントクラウド画像と参照平面図との一致度に基づいて決定されたものであり、前記二次元ポイントクラウド画像は、前記三次元ポイントクラウドを水平面へ投影することで生成されたものであり、前記参照平面図は、前記ターゲット物体を前記水平面へ投影する、参照座標を有する投影図を表すためのものである、比較モジュールと、
    前記ターゲット画像情報とマッチングする三次元ポイントに対応する投影座標に基づいて、前記画像収集装置を測位するように構成される測位モジュールと、を備える、測位装置。
  18. 電子機器であって、
    プロセッサと、
    プロセッサによる実行可能な命令を記憶するためのメモリと備え、
    前記プロセッサは、前記メモリに記憶された命令を呼び出し、請求項1から14のうちいずれか一項に記載の方法、又は、請求項15に記載の方法を実行するように構成される、電子機器。
  19. コンピュータ可読記憶媒体であって、該コンピュータ可読記憶媒体にはコンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令がプロセッサにより実行される時、請求項1から14のうちいずれか一項に記載の方法を実現させるか、又は、前記コンピュータプログラム命令がプロセッサにより実行される時、請求項15に記載の方法を実現させる、コンピュータ可読記憶媒体。
  20. コンピュータプログラムであって、前記コンピュータプログラムが電子機器で実行される時、前記電子機器におけるプロセッサに、請求項1から14のうちいずれか一項に記載の方法、又は、請求項15に記載の方法を実行させる、コンピュータプログラム。
JP2021574903A 2019-07-29 2019-11-14 情報処理方法、測位方法及び装置、電子機器並びに記憶媒体 Active JP7328366B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201910690235.0A CN112381919B (zh) 2019-07-29 2019-07-29 信息处理方法、定位方法及装置、电子设备和存储介质
CN201910690235.0 2019-07-29
PCT/CN2019/118453 WO2021017314A1 (zh) 2019-07-29 2019-11-14 信息处理方法、定位方法及装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
JP2022537984A JP2022537984A (ja) 2022-08-31
JP7328366B2 true JP7328366B2 (ja) 2023-08-16

Family

ID=74228306

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021574903A Active JP7328366B2 (ja) 2019-07-29 2019-11-14 情報処理方法、測位方法及び装置、電子機器並びに記憶媒体

Country Status (5)

Country Link
US (1) US11983820B2 (ja)
JP (1) JP7328366B2 (ja)
CN (1) CN112381919B (ja)
TW (1) TWI743645B (ja)
WO (1) WO2021017314A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11574485B2 (en) * 2020-01-17 2023-02-07 Apple Inc. Automatic measurements based on object classification
JP2023525538A (ja) * 2020-05-11 2023-06-16 コグネックス・コーポレイション 3d画像の体積を決定する方法及び装置
CN113077500A (zh) * 2021-03-12 2021-07-06 上海杰图天下网络科技有限公司 基于平面图的全景视点定位定姿方法、***、设备及介质
CN113223179B (zh) * 2021-05-12 2022-08-05 武汉中仪物联技术股份有限公司 管道选定线路长度的确定方法和装置
CN113657074A (zh) * 2021-08-13 2021-11-16 杭州安恒信息技术股份有限公司 三维空间内的线性文本布局方法、电子装置及存储介质
CN113744409B (zh) * 2021-09-09 2023-08-15 上海柏楚电子科技股份有限公司 工件定位方法、装置、***、设备与介质
CN114004882A (zh) * 2021-09-24 2022-02-01 奥比中光科技集团股份有限公司 一种二维地图生成方法、装置、终端设备及存储介质
CN113970295B (zh) * 2021-09-28 2024-04-16 湖南三一中益机械有限公司 一种摊铺厚度测量方法、装置及摊铺机
CN113587930B (zh) * 2021-10-08 2022-04-05 广东省科学院智能制造研究所 基于多传感融合的自主移动机器人室内外导航方法及装置
CN113607166B (zh) * 2021-10-08 2022-01-07 广东省科学院智能制造研究所 基于多传感融合的自主移动机器人室内外定位方法及装置
CN114202684B (zh) * 2021-11-29 2023-06-16 哈尔滨工程大学 一种适用于水面环境的点云数据投影方法、***及装置
US12017657B2 (en) * 2022-01-07 2024-06-25 Ford Global Technologies, Llc Vehicle occupant classification using radar point cloud
CN114442101B (zh) * 2022-01-28 2023-11-14 南京慧尔视智能科技有限公司 基于成像毫米波雷达的车辆导航方法、装置、设备及介质
CN114781056B (zh) * 2022-04-13 2023-02-03 南京航空航天大学 一种基于特征匹配的飞机整机外形测量方法
CN114963025B (zh) * 2022-04-19 2024-03-26 深圳市城市公共安全技术研究院有限公司 泄漏点定位方法、装置、电子设备及可读存储介质
CN115423933B (zh) * 2022-08-12 2023-09-29 北京城市网邻信息技术有限公司 户型图生成方法、装置、电子设备及存储介质
CN115330652B (zh) * 2022-08-15 2023-06-16 北京城市网邻信息技术有限公司 点云拼接方法、设备及存储介质
CN116030103B (zh) * 2023-03-07 2024-02-27 北京百度网讯科技有限公司 确定砌筑质量的方法、装置、设备和介质
CN116542659B (zh) * 2023-04-10 2024-06-04 北京城市网邻信息技术有限公司 资源分配方法、装置、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011186808A (ja) 2010-03-09 2011-09-22 Sony Corp 情報処理装置、マップ更新方法、プログラム及び情報処理システム
JP2019506919A (ja) 2015-12-15 2019-03-14 セント・ジュード・メディカル・インターナショナル・ホールディング・エスエーアールエルSt. Jude Medical International Holding S.a,r.l. 電磁センサ追跡システムのためのモーション・ボックス視覚化
CN109872350A (zh) 2019-02-18 2019-06-11 重庆市勘测院 一种新的点云自动配准方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9025861B2 (en) * 2013-04-09 2015-05-05 Google Inc. System and method for floorplan reconstruction and three-dimensional modeling
CN104422406A (zh) * 2013-08-30 2015-03-18 鸿富锦精密工业(深圳)有限公司 平面度量测***及方法
US20150278155A1 (en) * 2014-03-27 2015-10-01 Knockout Concepts, Llc Identifying objects using a 3d scanning device, images, and 3d models
CN104217458B (zh) * 2014-08-22 2017-02-15 长沙中科院文化创意与科技产业研究院 一种三维点云的快速配准方法
TWI550425B (zh) * 2014-12-24 2016-09-21 財團法人工業技術研究院 三維點雲融合二維影像的方法、裝置與儲存媒體
CN105469388B (zh) * 2015-11-16 2019-03-15 集美大学 基于降维的建筑物点云配准方法
US10724848B2 (en) * 2016-08-29 2020-07-28 Beijing Qingying Machine Visual Technology Co., Ltd. Method and apparatus for processing three-dimensional vision measurement data
CN108932475B (zh) * 2018-05-31 2021-11-16 中国科学院西安光学精密机械研究所 一种基于激光雷达和单目视觉的三维目标识别***及方法
CN108830894B (zh) * 2018-06-19 2020-01-17 亮风台(上海)信息科技有限公司 基于增强现实的远程指导方法、装置、终端和存储介质
CN109035329A (zh) * 2018-08-03 2018-12-18 厦门大学 基于深度特征的相机姿态估计优化方法
CN109900338B (zh) 2018-12-25 2020-09-01 西安中科天塔科技股份有限公司 一种路面坑槽体积测量方法及装置
US10353073B1 (en) * 2019-01-11 2019-07-16 Nurulize, Inc. Point cloud colorization system with real-time 3D visualization
CN109993793B (zh) * 2019-03-29 2021-09-07 北京易达图灵科技有限公司 视觉定位方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011186808A (ja) 2010-03-09 2011-09-22 Sony Corp 情報処理装置、マップ更新方法、プログラム及び情報処理システム
JP2019506919A (ja) 2015-12-15 2019-03-14 セント・ジュード・メディカル・インターナショナル・ホールディング・エスエーアールエルSt. Jude Medical International Holding S.a,r.l. 電磁センサ追跡システムのためのモーション・ボックス視覚化
CN109872350A (zh) 2019-02-18 2019-06-11 重庆市勘测院 一种新的点云自动配准方法

Also Published As

Publication number Publication date
US20220108528A1 (en) 2022-04-07
CN112381919A (zh) 2021-02-19
WO2021017314A1 (zh) 2021-02-04
US11983820B2 (en) 2024-05-14
JP2022537984A (ja) 2022-08-31
TWI743645B (zh) 2021-10-21
CN112381919B (zh) 2022-09-27
TW202105328A (zh) 2021-02-01

Similar Documents

Publication Publication Date Title
JP7328366B2 (ja) 情報処理方法、測位方法及び装置、電子機器並びに記憶媒体
US11270460B2 (en) Method and apparatus for determining pose of image capturing device, and storage medium
WO2020206903A1 (zh) 影像匹配方法、装置及计算机可读存储介质
TWI587241B (zh) Method, device and system for generating two - dimensional floor plan
CN105005964B (zh) 基于视频序列影像的地理场景全景图快速生成方法
CN111127524A (zh) 一种轨迹跟踪与三维重建方法、***及装置
CN106462943A (zh) 将全景成像与航拍成像对齐
CN105809729B (zh) 一种虚拟场景的球形全景渲染方法
CN112150518B (zh) 一种基于注意力机制的图像立体匹配方法及双目设备
Meuleman et al. Real-time sphere sweeping stereo from multiview fisheye images
Komatsu et al. 360 depth estimation from multiple fisheye images with origami crown representation of icosahedron
Sandnes et al. Translating the viewing position in single equirectangular panoramic images
CN113902802A (zh) 视觉定位方法及相关装置、电子设备和存储介质
US8509522B2 (en) Camera translation using rotation from device
CN113436269B (zh) 图像稠密立体匹配方法、装置和计算机设备
US20240087231A1 (en) Method, apparatus, computer device and storage medium for three-dimensional reconstruction of indoor structure
Ventura et al. Structure and motion in urban environments using upright panoramas
US20190101765A1 (en) A method and an apparatus for generating data representative of a pixel beam
Lin et al. Real-time low-cost omni-directional stereo vision via bi-polar spherical cameras
Skuratovskyi et al. Outdoor mapping framework: from images to 3d model
Li et al. Automatic Keyline Recognition and 3D Reconstruction For Quasi‐Planar Façades in Close‐range Images
Li et al. Depth-assisted demosaicing for light field data in layered object space
Sahin The geometry and usage of the supplementary fisheye lenses in smartphones
Boussias-Alexakis et al. Automatic adjustment of wide-base Google Street View panoramas
Yang et al. Dense depth estimation from multiple 360-degree images using virtual depth

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211216

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230411

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230801

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230803

R150 Certificate of patent or registration of utility model

Ref document number: 7328366

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150