JP2019067402A - 回帰分析により2dバウンディングボックスからスード(pseudo)−3dボックスを獲得する方法及びこれを利用した学習装置及びテスト装置 - Google Patents

回帰分析により2dバウンディングボックスからスード(pseudo)−3dボックスを獲得する方法及びこれを利用した学習装置及びテスト装置 Download PDF

Info

Publication number
JP2019067402A
JP2019067402A JP2018188341A JP2018188341A JP2019067402A JP 2019067402 A JP2019067402 A JP 2019067402A JP 2018188341 A JP2018188341 A JP 2018188341A JP 2018188341 A JP2018188341 A JP 2018188341A JP 2019067402 A JP2019067402 A JP 2019067402A
Authority
JP
Japan
Prior art keywords
box
pseudo
test
bounding box
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018188341A
Other languages
English (en)
Other versions
JP6720263B2 (ja
Inventor
キム、ヨンジョン
Yongjoong Kim
ナム、ウンユン
Woonhyun Nam
ボ、シュクフン
Sukhoon Boo
シュン、ミュンチュル
Myungchul Sung
エオ、ドンフン
Donghun Yeo
リュウ、ウージュ
Wooju Ryu
ジャン、タエウォン
Taewoong Jang
ジョン、キュンジョン
Kyungjoong Jeong
ジェ、ホンモ
Hong Mo Je
チョ、ホジン
Hojin Cho
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Stradvision Inc
Original Assignee
Stradvision Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Stradvision Inc filed Critical Stradvision Inc
Publication of JP2019067402A publication Critical patent/JP2019067402A/ja
Application granted granted Critical
Publication of JP6720263B2 publication Critical patent/JP6720263B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/18Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/10Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/181Segmentation; Edge detection involving edge growing; involving edge linking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/12Bounding box

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Geometry (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computer Graphics (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Pure & Applied Mathematics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Multimedia (AREA)
  • Operations Research (AREA)
  • Probability & Statistics with Applications (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】トレーニングイメージ上の2Dバウンディングボックスからスード−3Dボックスを獲得する方法及びこれを利用した学習装置及びテスト装置を提供する。【解決手段】学習装置は、2Dバウンディングボックスによって囲まれた客体を含むトレーニングイメージを獲得するか獲得するように支援する通信部と、各々のスード−3D方向パターンに対応する確率情報を参照して客体のスード−3D方向を分類するか分類するように支援し、回帰分析を利用してスード−3Dボックス頂点の2D座標を獲得するか獲得するように支援し、スード−3Dボックス頂点の2D座標とスード−3Dボックスに対応されるGTの2D座標との間の差、及び分類されたスード−3D方向とその方向に対応されるGTとの間の差のうち少なくとも一つを参照して決定されるロス情報をバックプロパゲーションして自身のパラメータを調整するか調整するように支援するプロセッサと、を含む。【選択図】図1

Description

本発明はトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得する方法及び装置に関し、より詳細には、(a)前記2Dバウンディングボックスによって囲まれた客体を含む前記トレーニングイメージを獲得する段階;(b)(i)各々のスード(pseudo)−3D方向パターンに対応する確率情報を参照して前記客体のスード(pseudo)−3D方向を分類し、(ii)回帰分析を利用して前記スード(pseudo)−3Dボックス頂点の2D座標を獲得する段階;及び(c)(i)前記スード(pseudo)−3Dボックス頂点の2D座標と前記スード(pseudo)−3Dボックスに対応されるGT(Ground Truth)の2D座標との間の差及び(ii)分類された前記スード(pseudo)−3D方向と前記スード(pseudo)−3D方向に対応されるGTとの間の差のうち少なくとも一つを参照して決定されるロス情報をバックプロパゲーションして自身のパラメータを調整する段階;を含むことを特徴とする学習方法、テスト方法及びこれを利用する学習装置、テスト装置に関する。
自律走行車は周辺環境を感知して人の介入なしに走行することができる自動車である。自律走行車はレーダやレーザ、GPS、走行記録計及びコンピュータビジョンなど周辺状況を探知する多様な技術を利用する。
自律走行と個人用ロボットなどの分野ではコンピュータビジョンを利用して2次元(2D)単眼イメージを通じて3次元(3D)情報を推定することは重要である。一般的に、イメージ上の客体を囲んだ2Dボックスが形成され、以後前記2Dボックスから3Dモデルが作られる。
既存技術では前記客体を囲んだ2Dボックスを探すために一般的にテンプレート基盤方式を使用した。前記2Dボックスを形成する既存の方法の中にはスライディングウィンドウ方式がある。この方法は全体イメージ上でウィンドウのようなボックスを大きさを変化させて反復的に移動させ、前記ウィンドウのようなボックス内部にある各客体を感知する。即ち、前記イメージ内の前記客体は大きさや尺度が異なる場合があるので、前記イメージは数回スケールダウンされ、前記ウィンドウのようなボックスは再び前記イメージ上を移動しながら大きさが各々異なる前記客体を探す。
既存方法の中でまた他の一つはアンカーボックス技術である。この方法によれば、多様なアンカーボックスが一定の位置中央にあり、多様なアンカーボックスのうち確率が最も高いアンカーボックス、即ち、GT(ground truth)客体と重畳が最も多い領域を有するアンカーボックスが回帰分析を利用して決定される。
以後、3Dバウンディングボックスは前記決定されたアンカーボックスから生成されるが制限が多い。第一に、前記3Dバウンディングボックスは6面であり、6面のうち3面は全数調査が要求され得る。第二に、前記3Dバウンディングボックスの3面を決定するのに単一テンプレートが使用される場合、前記客体の3D方向が変われば回帰分析の境界条件が異なり得るため正確性が低くなり得る。第三に、前記3Dバウンディングボックスを得るための既存の方法は多くの演算資源が要求される。例えば、3Dバウンディングボックスを探すために直方体テンプレートやボクセルをマッチングさせるのに多くの演算時間がかかる。
ここに、本発明ではかかる重複的演算をなくし、感知正確性を改善するための新しい方法を提案する。
本発明は前記のようなすべての問題点を解決することを目的とする。
また、本発明はスード(pseudo)−3Dボックスを利用して3D客体と外接する3Dバウンディングボックスを単純化することを他の目的とする。
本発明はスード(pseudo)−3Dボックス頂点の2D座標を利用して演算時間と資源を減らすことをまた他の目的とする。
前記のような本発明の目的を達成し、後述する本発明の特徴的な効果を実現するための、本発明の特徴的な構成は下記のとおりである。
本発明の一態様によれば、トレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得する方法において、(a)学習装置が、前記2Dバウンディングボックスによって囲まれた客体を含む前記トレーニングイメージを獲得するか獲得するように支援する段階;(b)前記学習装置が、(i)各々のスード(pseudo)−3D方向パターンに対応する確率情報を参照して前記客体のスード(pseudo)−3D方向を分類するか分類するように支援し、(ii)回帰分析を利用して前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援する段階;及び(c)前記学習装置が、(i)前記スード(pseudo)−3Dボックス頂点の2D座標と前記スード(pseudo)−3Dボックスに対応されるGT(Ground Truth)の2D座標との間の差及び(ii)分類された前記スード(pseudo)−3D方向と前記スード(pseudo)−3D方向に対応されるGTとの間の差のうち少なくとも一つを参照して決定されるロス情報をバックプロパゲーションして自身のパラメータを調整するか調整するように支援する段階;を含むことを特徴とする方法が提供される。
一例として、前記(b)段階で、前記学習装置は回帰分析を利用して前記2Dバウンディングボックス頂点からの各変位を計算する過程を遂行するか遂行するように支援することを特徴とする。
一例として、前記(b)段階のうち(ii)の過程で、前記学習装置は前記2Dバウンディングボックスの頂点V1とその対角線に位置した頂点V2を前記スード(pseudo)−3Dボックスの二つの頂点P1とP8に決定するか決定するように支援し、前記客体の前記スード(pseudo)−3D方向を参照して前記2Dバウンディングボックスのラインセグメントに接しない二つの頂点P4とP5の前記変位を計算するが、前記変位は前記2Dバウンディングボックスの前記ラインセグメントと平行をなすことを特徴とする。
一例として、前記(b)段階のうち(ii)の過程で、前記学習装置は(b−1)(i)前記スード(pseudo)−3Dボックスの第1面に対応される第1ターゲット2Dボックスの中心である第1ベクタの終点を定めるための前記2Dバウンディングボックスの中心から前記第1ベクタと(ii)前記客体の前記スード(pseudo)−3D方向を参照して前記スード(pseudo)−3Dボックスの前記第1面と対蹠される第2面に対応される第2ターゲット2Dボックスの中心である第2ベクタの終点を定めるための前記2Dバウンディングボックスの中心からの前記第2ベクタ及び(b−2)(i)前記第1ターゲット2Dボックス幅に対する前記2Dバウンディングボックス幅の比率、(ii)前記第2ターゲット2Dボックス幅に対する前記2Dバウンディングボックス幅の比率、(iii)前記第1ターゲット2Dボックス高さに対する前記2Dバウンディングボックス高さの比率、及び(iv)前記第2ターゲット2Dボックス高さに対する前記2Dバウンディングボックス高さの比率と(b−3)前記変位と前記比率を参照して前記第1ターゲット2Dボックスの頂点であるP5、P6、P7、P8の座標と前記第2ターゲット2Dボックスの頂点であるP1、P2、P3、P4の座標を計算するか計算するように支援するが、前記P8は前記2Dバウンディングボックスの頂点であり、前記P1は前記P8の対角線に位置した前記2Dバウンディングボックスの頂点であり、前記P4及び前記P5は前記2Dバウンディングボックスのラインセグメントに接しないことを特徴とする。
一例として、前記(b)段階のうち(i)の過程で、スード(pseudo)−3D方向の前記パターンはデータベースに保存され、前記確率の予測に使用されることを特徴とする。
一例として、前記学習装置は、CNN(convolutional neural network)を含むが、(i)前記トレーニングイメージを獲得して操作して少なくとも一つのコンボリューションレイヤを利用して少なくとも一つの特徴マップを作り、(ii)前記特徴マップ上の前記2Dバウンディングボックスに対応される領域を定め、少なくとも一つのプーリングレイヤを利用して前記領域から特徴ベクタを抽出し、(iii)第1FC(fully connected)レイヤを利用して前記入力された特徴ベクタから前記客体のスード(pseudo)−3D方向を定め、(iv)第2FC(fully connected)レイヤを利用して前記スード(pseudo)−3Dボックスの頂点に対する前記2D座標を定めて前記スード(pseudo)−3Dボックスの頂点の2D座標を獲得するか獲得を支援することを特徴とする。
本発明の他の態様によれば、テストイメージ上の客体を囲んだスード(pseudo)−3Dボックスを獲得する方法において、(a)テスト装置は、(i)学習装置がトレーニング用2Dバウンディングボックスに囲まれたトレーニング用客体を含んだトレーニングイメージを獲得するか獲得するように支援し、(ii)(ii−1)スード(pseudo)−3D方向の各パターンに対応する確率情報を参照して前記トレーニング用客体のスード(pseudo)−3D方向を分類し、(ii−2)回帰分析を利用してトレーニング用前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援し、(iii)(iii−1)前記獲得したトレーニング用前記スード(pseudo)−3Dボックス頂点の2D座標とトレーニング用前記スード(pseudo)−3Dボックスに対応されるGTの2D座標との間の差と(iii−2)分類された前記トレーニング用スード(pseudo)−3D方向と前記トレーニング用スード(pseudo)−3D方向に対応されるGTとの間の差のうち少なくとも一つを参照して決定されるロス情報をバックプロパゲーションして自身のパラメータを調整するか調整するように支援した状態で、テスト用2Dバウンディングボックスに囲まれたテスト用客体を含む前記テストイメージを獲得するか獲得するように支援する段階;及び(b)前記テスト装置が、(i)スード(pseudo)−3D方向の各パターンに対応される確率情報を参照して前記テスト用客体のスード(pseudo)−3D方向を分類し、(ii)回帰分析を利用して前記テスト用スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援する段階;を含むことを特徴とする方法が提供される。
一例として、前記(b)段階のうち(ii)の過程で、前記テスト装置が前記テスト用2Dバウンディングボックスの頂点V1とその対角線上の位置にある頂点V2を前記テスト用スード(pseudo)−3Dボックスの頂点P1とP8に決定し、前記テスト用客体の前記スード(pseudo)−3D方向を参照して前記テスト用2Dバウンディングボックスのラインセグメントに接しない二つの頂点P4とP5の変位を演算するが、前記変位は前記テスト用2Dバウンディングボックスの前記ラインセグメントと平行であることを特徴とする。
一例として、前記(b)段階のうち(ii)の過程で、前記テスト装置が(b−1)(i)前記テスト用2Dバウンディングボックスの中心と第1ターゲット2Dボックスの中心である第1点との間の変位を演算するが、前記第1ターゲット2Dボックスは前記テスト用スード(pseudo)−3Dボックスの第1面に対応して(ii)前記テスト用2Dバウンディングボックスの前記中心と第2ターゲット2Dボックスの中心である第2点との間の変位を演算するが、前記第2ターゲット2Dボックスは前記テスト用スード(pseudo)−3Dボックスの第2面に対応し、前記第2面は前記テスト用スード(pseudo)−3Dボックスの前記第1面と対蹠される位置に存在し;(b−2)(i)前記テスト用2Dバウンディングボックスの幅に対する前記第1ターゲット2Dボックスの幅、(ii)前記テスト用2Dバウンディングボックスの前記幅に対する前記第2ターゲット2Dボックスの幅、(iii)前記テスト用2Dバウンディングボックスの高さに対する前記第1ターゲット2Dボックスの高さ、そして(iv)前記テスト用2Dバウンディングボックスの前記高さに対する前記第2ターゲット2Dボックスの高さ、各々の比率を演算し;(b−3)前記各変位と前記各比率を参照し、前記第1ターゲット2Dボックスの頂点をなすP5、P6、P7、及びP8の座標と、前記第2ターゲット2Dボックスの頂点をなすP1、P2、P3、及びP4の座標を演算するが、前記P8は前記テスト用2Dバウンディングボックスの頂点であり、前記P1は前記テスト用2Dバウンディングボックスの前記P8に対して対角線上に位置した頂点であり、前記P4及び前記P5は前記テスト用2Dバウンディングボックスの前記ラインセグメントと接触しないことを特徴とする。
本発明のまた他の態様によれば、トレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得する学習装置において、前記2Dバウンディングボックスによって囲まれた客体を含む前記トレーニングイメージを獲得するか獲得するように支援する通信部;及び(i)各々のスード(pseudo)−3D方向パターンに対応する確率情報を参照して前記客体のスード(pseudo)−3D方向を分類するか分類するように支援し、(ii)回帰分析を利用して前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援するプロセス;及び(I)前記スード(pseudo)−3Dボックス頂点の2D座標と前記スード(pseudo)−3Dボックスに対応されるGT(Ground Truth)の2D座標との間の差及び(II)分類された前記スード(pseudo)−3D方向と前記スード(pseudo)−3D方向に対応されるGTとの間の差のうち少なくとも一つを参照して決定されるロス情報をバックプロパゲーションして自身のパラメータを調整するか調整するように支援するプロセスを遂行するプロセッサ;を含むことを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする学習装置が提供される。
一例として、前記(ii)のプロセスで、前記プロセッサは回帰分析を利用して前記2Dバウンディングボックス頂点からの各変位を計算する過程を遂行するか遂行するように支援することを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする。
一例として、前記(ii)のプロセスで、前記プロセッサは前記2Dバウンディングボックスの頂点V1とその対角線に位置した頂点V2を前記スード(pseudo)−3Dボックスの二つの頂点P1とP8に決定するか決定するように支援し、前記客体の前記スード(pseudo)−3D方向を参照して前記2Dバウンディングボックスのラインセグメントに接しない二つの頂点P4とP5の前記変位を計算するが、前記変位は前記2Dバウンディングボックスの前記ラインセグメントと平行をなすことを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする。
一例として、前記(ii)のプロセスで、前記プロセッサは(b−1)(i)前記スード(pseudo)−3Dボックスの第1面に対応される第1ターゲット2Dボックスの中心である第1ベクタの終点を定めるための前記2Dバウンディングボックスの中心から前記第1ベクタと(ii)前記客体の前記スード(pseudo)−3D方向を参照して前記スード(pseudo)−3Dボックスの前記第1面と対蹠される第2面に対応される第2ターゲット2Dボックスの中心である第2ベクタの終点を定めるための前記2Dバウンディングボックスの中心からの前記第2ベクタ及び(b−2)(i)前記第1ターゲット2Dボックス幅に対する前記2Dバウンディングボックス幅の比率、(ii)前記第2ターゲット2Dボックス幅に対する前記2Dバウンディングボックス幅の比率、(iii)前記第1ターゲット2Dボックス高さに対する前記2Dバウンディングボックス高さの比率、及び(iv)前記第2ターゲット2Dボックス高さに対する前記2Dバウンディングボックス高さの比率と(b−3)前記変位と前記比率を参照して前記第1ターゲット2Dボックスの頂点であるP5、P6、P7、P8の座標と前記第2ターゲット2Dボックスの頂点であるP1、P2、P3、P4の座標を計算するか計算するように支援するが、前記P8は前記2Dバウンディングボックスの頂点であり、前記P1は前記P8の対角線に位置した前記2Dバウンディングボックスの頂点であり、前記P4及び前記P5は前記2Dバウンディングボックスのラインセグメントに接しないことを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする。
一例として、前記(i)のプロセスで、スード(pseudo)−3D方向の前記パターンはデータベースに保存され、前記確率の予測に使用されることを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする。
一例として、前記学習装置は、CNN(convolutional neural network)を含むが、(i)前記トレーニングイメージを獲得して操作して少なくとも一つのコンボリューションレイヤを利用して少なくとも一つの特徴マップを作り、(ii)前記特徴マップ上の前記2Dバウンディングボックスに対応される領域を定め、少なくとも一つのプーリングレイヤを利用して前記領域から特徴ベクタを抽出し、(iii)第1FC(fully connected)レイヤを利用して前記入力された特徴ベクタから前記客体のスード(pseudo)−3D方向を定め、(iv)第2FC(fully connected)レイヤを利用して前記スード(pseudo)−3Dボックスの頂点に対する前記2D座標を定めて前記スード(pseudo)−3Dボックスの頂点の2D座標を獲得するか獲得するように支援することを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする。
一例として、前記客体のスード(pseudo)−3D方向を分類するプロセスは、前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するプロセス以前に遂行されることを特徴とする。
本発明のまた他の態様によれば、テストイメージ上の客体を囲んだスード(pseudo)−3Dボックスを獲得するテスト装置において、学習装置がトレーニング用2Dバウンディングボックスに囲まれたトレーニング用客体を含んだトレーニングイメージを獲得するか獲得するように支援し、(i)(i−1)スード(pseudo)−3D方向の各パターンに対応する確率情報を参照して前記トレーニング用客体のスード(pseudo)−3D方向を分類し、(i−2)回帰分析を利用してトレーニング用前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援し、(ii)(ii−1)前記獲得したトレーニング用前記スード(pseudo)−3Dボックス頂点の2D座標とトレーニング用前記スード(pseudo)−3Dボックスに対応されるGTの2D座標との間の差と(ii−2)分類された前記トレーニング用スード(pseudo)−3D方向と前記トレーニング用スード(pseudo)−3D方向に対応されるGTとの間の差のうち少なくとも一つを参照して決定されるロス情報をバックプロパゲーションして自身のパラメータを調整するか調整するように支援した状態で、テスト用2Dバウンディングボックスに囲まれたテスト用客体を含む前記テストイメージを獲得するか獲得するように支援する通信部;及び(I)スード(pseudo)−3D方向の各パターンに対応される確率情報を参照して前記テスト用客体のスード(pseudo)−3D方向を分類し、(II)回帰分析を利用して前記テスト用スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援するプロセスを遂行するプロセッサ;を含むことを特徴とするテストイメージ上の客体を囲んだスード(pseudo)−3Dボックスを獲得することを特徴とするテスト装置が提供される。
一例として、前記(II)のプロセスで、前記プロセッサが前記テスト用2Dバウンディングボックスの頂点V1とその対角線上の位置にある頂点V2を前記テスト用スード(pseudo)−3Dボックスの頂点P1とP8に決定し、前記テスト用客体の前記スード(pseudo)−3D方向を参照して前記テスト用2Dバウンディングボックスのラインセグメントに接しない二つの頂点P4とP5の変位を演算するが、前記変位は前記テスト用2Dバウンディングボックスの前記ラインセグメントと平行であることを特徴とするテストイメージ上の客体を囲んだスード(pseudo)−3Dボックスを獲得することを特徴とする。
一例として、前記(II)のプロセスで、前記プロセッサが(b−1)(i)前記テスト用2Dバウンディングボックスの中心と第1ターゲット2Dボックスの中心である第1点との間の変位を演算するが、前記第1ターゲット2Dボックスは前記テスト用スード(pseudo)−3Dボックスの第1面に対応して(ii)前記テスト用2Dバウンディングボックスの前記中心と第2ターゲット2Dボックスの中心である第2点との間の変位を演算するが、前記第2ターゲット2Dボックスは前記テスト用スード(pseudo)−3Dボックスの第2面に対応し、前記第2面は前記テスト用スード(pseudo)−3Dボックスの前記第1面と対蹠される位置に存在し;(b−2)(i)前記テスト用2Dバウンディングボックスの幅に対する前記第1ターゲット2Dボックスの幅、(ii)前記テスト用2Dバウンディングボックスの前記幅に対する前記第2ターゲット2Dボックスの幅、(iii)前記テスト用2Dバウンディングボックスの高さに対する前記第1ターゲット2Dボックスの高さ、そして(iv)前記テスト用2Dバウンディングボックスの前記高さに対する前記第2ターゲット2Dボックスの高さ、各々の比率を演算し;(b−3)前記各変位と前記各比率を参照し、前記第1ターゲット2Dボックスの頂点をなすP5、P6、P7、及びP8の座標と、前記第2ターゲット2Dボックスの頂点をなすP1、P2、P3、及びP4の座標を演算するが、前記P8は前記テスト用2Dバウンディングボックスの頂点であり、前記P1は前記テスト用2Dバウンディングボックスの前記P8に対して対角線上に位置した頂点であり、前記P4及び前記P5は前記テスト用2Dバウンディングボックスの前記ラインセグメントと接触しないことを特徴とするテストイメージ上の客体を囲んだスード(pseudo)−3Dボックスを獲得することを特徴とする。
本発明によれば、次のような効果がある。
本発明は3次元客体を表現する3次元モデルを簡便化することができるようになる。
本発明はバウンディングボックスの頂点の座標決定に必要な演算を最小化することで演算時間と資源の消費を減少させることができるようになる。
本発明は人の介入を最小化するための、3次元ボックスの獲得を学習することができる方法を提供することができるようになる。
本発明の実施例の説明に利用されるために添付された下記図面は本発明の実施例のうち単に一部に過ぎず、本発明が属する技術分野の通常の技術者においては発明的作業がなされることなく本図面に基づいて他の図面が得られることがある。
図1は、本発明の一実施例によってトレーニングイメージ内の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得するための学習装置の構成を示す図面である。 図2は、本発明の一実施例によってトレーニングイメージからスード(pseudo)−3Dボックスを獲得することができるCNN(convolutional neural network)を含んだ学習装置の構成を概略的に示した図面である。 図3は、本発明の一実施例によってトレーニングイメージ内の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得する学習装置の流れを簡略に示した図面である。 図4は、本発明の一実施例によって2Dバウンディングボックスからスード(pseudo)−3Dボックス頂点座標を獲得する方法を簡略に示す図面である。 図5は、本発明の一実施例によって2Dバウンディングボックスからスード(pseudo)−3Dボックス頂点座標を獲得するまた他の方法を簡略に示す図面である。 図6は、本発明のまた他の一実施例によってテストイメージ内の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得するためのテスト装置の構成を示す図面である。 図7は、本発明の一実施例によって客体のスード(pseudo)−3D方向のパターンに対応される確率予測に使用される客体のスード(pseudo)−3D方向のパターンを概略的に示した図面である。
後述する本発明に対する詳細な説明は、本発明が実施され得る特定の実施例を例示として示す添付図面を参照する。これらの実施例は当業者が本発明を実施することができるように充分詳細に説明される。本発明の多様な実施例は相互異なるが、相互排他的である必要はないことを理解されたい。例えば、ここに記載されている特定の形状、構造及び特性は一実施例にかかる本発明の精神及び範囲を逸脱せずに他の実施例で具現され得る。また、各々の開示された実施例内の個別構成要素の位置または配置は本発明の精神及び範囲を逸脱せずに変更され得ることを理解されたい。従って、後述する詳細な説明は限定的な意味で捉えようとするものではなく、本発明の範囲は、適切に説明されると、その請求項が主張することと均等なすべての範囲と、併せて添付された請求項によってのみ限定される。図面で類似する参照符号はいくつかの側面にかけて同一か類似する機能を指称する。
図1は本発明によって少なくとも一つの客体を含むトレーニングイメージ内の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得するための学習装置100の構成を示した図面である。ここに、前記スード(pseudo)−3Dボックスと前記2Dバウンディングボックスは前記客体に正確に外接され得る。また、前記学習装置100は機能を遂行するいくつかの装置に分けられ得るが、本明細書では便宜上一つの装置として具現された前記学習装置100を記述する。本発明による前記学習装置100はコンボリューションレイヤ、RPN(region proposal network)及びFC(fully connected)レイヤなどの一部が含まれ得る。
図1を参照すれば、前記トレーニングイメージ内の前記2Dバウンディングボックスから前記スード(pseudo)−3Dボックスを獲得するための前記学習装置100には通信部110とプロセッサ120が含まれる。また、図1ではデータベース130が学習装置100の外部にあると示されているが、前記データベース130は学習装置100に含まれ得る。
前記通信部110は外部装置や内部構成要素間のデータをやり取りし得る。特に、前記通信部110は前記トレーニングイメージを獲得し得る。
図2は2Dバウンディングボックス及びスード(pseudo)−3Dボックスを獲得するための前記学習装置100に含まれたCNNの構成を示す。前記CNN内の第1部分201は前記トレーニングイメージ内の前記2Dバウンディングボックスを獲得するように構成され、前記CNN内の第2部分202は前記2Dバウンディングボックスから前記スード(pseudo)−3Dボックスを獲得するために構成される。
前記第1部分201にはコンボリューションレイヤ210とRPN220、プーリングレイヤ230及び二つのFCレイヤ240、245が含まれ得る。ここに、前記コンボリューションレイヤ210は前記トレーニングイメージから少なくとも一つの特徴マップを生成し得る。また、前記FCレイヤ240、245は各々客体分類及びボックス回帰を遂行し得る。
前記第2部分202にはプーリングレイヤ250と他の二つのFCレイヤ260、265が含まれ得る。ここに、前記FCレイヤ260、265は各々方向分類及び変位回帰を遂行し得る。
また他の例示として、前記FCレイヤ240、245は単一FCレイヤとして具現されてもよく、前記FCレイヤ260、265も単一FCレイヤとして具現されてもよい。前記実線矢印は下向きの流れを示し、前記点線矢印はバックプロパゲーションの上向きの流れを示し得る。
図2を参照すれば、前記トレーニングイメージは前記コンボリューションレイヤ210に入力され得て、以後前記コンボリューションレイヤ210から出力される前記特徴マップは前記RPN220に入力され得る。以後、前記トレーニングイメージ上のいくつかのROI(region of interest)に対する情報は前記RPN220から出力され得る。前記ROI情報は前記第1部分201内の前記プーリングレイヤ230と前記第2部分202内の前記プーリングレイヤ250に入力され得る。
第一に、前記プーリングレイヤ230はmax poolingであり得るプーリングを遂行し得て、前記二つのFCレイヤ240、245に入力され得るプーリング特徴マップを出力し得る。前記FCレイヤ240は前記客体分類に対する情報、例として前記客体が自動車である情報を出力し得て、前記FCレイヤ245は前記2Dバウンディングボックスと関連して前記ボックス回帰情報、例として、前記2Dバウンディングボックス頂点の座標に対する情報を出力し得る。
第二に、前記RPN220から前記プーリングレイヤ250に入るようにする前記入力は前記FCレイヤ240の結果を参照してフィルタリングされ得て、以後前記プーリングレイヤ250に入力され得る。即ち、前記RPN220から前記プーリングレイヤ250に入り得る前記入力は前記ROI情報のうち特定ROI情報になり得る。前記特定ROI情報は前記FCレイヤ240から出力されたクラス情報、例えば自動車、を参照して選択される。
前記プーリングレイヤ250はaverage poolingを遂行し得て、その結果は前記二つのFCレイヤ260、265に入力され得る。
一方、前記第1部分201にある前記FCレイヤ245から出力された前記ボックス回帰情報は前記第2部分202内の前記FCレイヤ265に入力され得る。
ここに、前記FCレイヤ260は前記方向分類情報、例えば前記自動車が向かっているスード(pseudo)−3D方向に対する情報、を出力し得て、これは前記プーリングレイヤ250の出力情報を利用して演算される。また、前記FCレイヤ265は前記変位回帰に対する情報、例えば前記スード(pseudo)−3Dボックス頂点の2D座標情報、を出力し得て、これは前記プーリングレイヤ250出力情報及び前記FCレイヤ245から獲得した前記2Dバウンディングボックスに対して前記ボックス回帰情報を利用して演算される。前記FCレイヤ260、265から出たかかる結果は前記スード(pseudo)−3Dボックスを構成するのに活用され得る。
ここで、前記第1部分201は場合によって前記学習装置100に含まれないこともある。即ち、他の装置にある前記第1部分201が前記トレーニングイメージから出た前記2Dバウンディングボックス情報を獲得し得る。以後、前記学習装置100は前述した他の装置から出た前記2Dバウンディングボックス情報が既に含まれたトレーニングイメージ(即ち、いわゆる修正されたトレーニングイメージ)を受信し得る。
この場合、前記第2部分202は前記プーリングレイヤ250前に前記プーリングレイヤ250に入力され得る特徴マップを獲得するコンボリューションレイヤ(未図示)が含まれ得る。また、前記RPN220に入力される前記特徴マップは前記プーリングレイヤ250によって活用され得るが、これは必須条件ではない。
図3は本発明の一実施例によって前記トレーニングイメージ内の前記2Dバウンディングボックスから前記スード(pseudo)−3Dボックスを獲得する前記学習装置100の流れを示すフローチャートである。
第1プロセスとして、前記通信部110はS310段階で前記修正されたトレーニングイメージ、即ち前記2Dバウンディングボックスが囲んだ前記客体を含む前記トレーニングイメージを獲得するか獲得するように支援する。前記修正されたトレーニングイメージは前記客体のみならず背景がある全体イメージや前記2Dバウンディングボックス内の前記客体のみを含むように切った一部イメージを含み得る。
第2プロセスとして、前記プロセッサ120は前記修正されたトレーニングイメージにコンボリューション演算を適用するか適用するように支援して特徴マップを獲得し、以後前記特徴マップにプーリング演算を適用するか適用するように支援してプーリング特徴マップを獲得する。以後、前記プーリング特徴マップは上で言及したように前記二つのFCレイヤ260、265に入力される。参考までに、前記第2プロセスは図3に示されていない。
第3プロセスとして、前記プロセッサ120は前記FCレイヤ260をもってS320段階の(A)で前記データベース130に保存された前記スード(pseudo)−3D方向の各パターンに対応される予測確率に対する情報を参照して前記客体のスード(pseudo)−3D方向を分類する過程を遂行するようにする。図7を参照すれば、かかるパターンは例えば自動車である前記客体の(a)は後面、(b)は右側後面、(c)は右側面、(d)は右側正面、(e)は正面、(f)は左側正面、(g)は左側面、(h)は左側後面を示し得る。例えば、図4にある前記自動車は右側正面に対応される方向パターンを有するものとして分類され得る。また、前記プロセッサ120は前記FCレイヤ265をもって前記S320段階の(B)で回帰分析を利用して前記スード(pseudo)−3Dボックス頂点の2D座標に対する情報を獲得するようにする。ここで、前記回帰分析は前記スード(pseudo)−3D方向のすべてのパターンに対して遂行される。また、前記スード(pseudo)−3D方向の分類は前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するのに先立って遂行され得る。
第4プロセスとして、前記プロセッサ120はS330段階で(i)獲得した前記スード(pseudo)−3Dボックス頂点の2D座標と前記スード(pseudo)−3Dボックスに対応されるGT(ground truth)の2D座標の差及び(ii)分類された前記スード(pseudo)−3D方向と前記スード(pseudo)−3D方向に対応されるGTの方向の差のうち少なくとも一つを参照して決定されたバックプロパゲーションロス情報で前記CNNのパラメータを調整するか調整するように支援する。ここに、前記スード(pseudo)−3Dボックスに対応されるGTの2D座標は前記客体に正確に外接する3Dボックス頂点の2D座標になり得る。また、前記バックプロパゲートされた情報には(i)回帰分析を利用して演算された、前記スード(pseudo)−3D方向の各パターンとそれに対応する2D座標との間の差及び(ii)前記スード(pseudo)−3D方向及び前記GTの2D座標との間の差、各々を示すロスが含まれ得る。
図4は本発明の一実施例によって座標獲得方法を簡略に示す図面である。図4は前記客体に外接する点線からなる前記2Dバウンディングボックスと前記回帰によって獲得される座標を有した頂点がある実線からなる前記スード(pseudo)−3Dボックスを示す。
図4を参照すれば、前記プロセッサ120は回帰分析を利用して前記2Dバウンディングボックス頂点から前記スード(pseudo)−3Dボックス頂点までの各変位を演算する過程を遂行するか遂行するように支援する。ここに、前記スード(pseudo)−3Dボックスの頂点と前記スード(pseudo)−3Dボックスに対応される前記GTの差に対する情報は前記CNNのパラメータを調整するためにバックプロパゲートされ得る。
もう少し具体的には、前記プロセッサ120は前記2Dバウンディングボックスの頂点V1及びその対角の頂点V2を前記スード(pseudo)−3Dボックスの二つの頂点P1及びP8に決定するか決定するように支援する。以後前記プロセッサ120は回帰分析を利用してP1及びP8から(前記2Dバウンディングボックスの点線で表示されたラインセグメントと接しない)二つの頂点P4及びP5の変位を演算するか演算するように支援する。ここで、前記変位は前記2Dバウンディングボックスのラインセグメントと平行をなし得る。前記座標P4及びP5は各々P1及びP8からの変位から直接演算されてもよく、残りの頂点P2、P3、P6、P7座標は前記P4及びP5座標から推定され得る。
図5は本発明の一実施例によってまた他の前記座標獲得方法を簡略に示す図面である。図5は前記2Dバウンディングボックスの中心と、前記スード(pseudo)−3Dボックスの第1面に対応される第1ターゲット2Dボックスの推定上の中心と、前記第1面の対蹠点である第2面に対応される第2ターゲット2Dボックスの推定上の中心を示す。
図5を参照すれば、前記プロセッサ120は前記第1ターゲット2Dボックスの中心である第1ベクタの終点を決定するために前記2Dバウンディングボックス中心からの前記第1ベクタを、前記第2ターゲット2Dボックスの中心である第2ベクタの終点を決定するために前記2Dバウンディングボックス中心からの前記第2ベクタを演算する過程を遂行するか遂行するように支援する。二つのターゲット2Dボックスの二つの中心は前記回帰分析によって獲得される。前記第1ターゲット2Dボックスの頂点はP5、P6、P7、P8であり、前記第2ターゲット2Dボックスの頂点はP1、P2、P3、P4である。また、前記プロセッサ120は前記第1ターゲット2Dボックスの幅と前記2Dバウンディングボックスの幅の比率、前記第2ターゲット2Dボックスの幅と前記2Dバウンディングボックスの幅の比率、前記第1ターゲット2Dボックスの高さと前記2Dバウンディングボックスの高さの比率、前記第2ターゲット2Dボックスの高さと前記2Dバウンディングボックスの高さの比率を演算する過程を遂行するか遂行するように支援する。例えば、(i)P7からP8まで両方向矢印で表示される前記第1ターゲット2Dボックスの幅と(ii)また他のさらに長い両方向矢印で表示される前記2Dバウンディングボックスの幅の比率が獲得される。また、かかる比率は前記回帰分析で得られ得る。併せて、前記プロセッサ120は前記変位と前記比率を参照してP1、P2、P3、P4、P5、P6、P7、P8の座標を演算する過程を遂行するか遂行を支援する。ここで、P1は前記2Dバウンディングボックスの頂点であり、P8は前記P1の対角線に位置した前記2Dバウンディングボックスの頂点である。また、P4及びP5は前記2Dバウンディングボックスのラインセグメントに接しない。即ち、P1、P4、P5、P8の座標がわかれば、残りの頂点の座標は自明である。ここで、前記スード(pseudo)−3Dボックスの頂点と前記スード(pseudo)−3Dボックスに対応される前記GTとの間の差に対する情報も前記CNNのパラメータを調整するためにバックプロパゲートされ得る。
図6はテストイメージ内の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得するためのテスト装置を示す。
図6を参照すれば、前記テスト装置600は通信部610とプロセッサ620が含まれ得る。前記テスト装置600は、前記データベース130の場合と類似して、データベース630を含むこともある。
前記テスト装置600はいくつかの装置に分けて各機能が遂行され得る。但し、本明細書では便宜上単一装置として具現されるテスト装置600を記述する。
本発明による前記テスト装置600はコンボリューションレイヤ、RPN、FCレイヤなどの一部を含む。
ここで、”トレーニング用”という形容詞句は前記学習装置100を説明する時に使用する概念を示すが、前記テスト装置600の説明に使用される”テスト用”に対置される用語として使用される。前記”トレーニング用”という形容詞句は便宜のために前記説明では省略した。
詳細には、前記学習装置100が(i)前記トレーニング用2Dバウンディングボックスが囲んだ前記トレーニング用客体を含んだ前記トレーニングイメージを獲得するか獲得するように支援し、(ii)(ii−1)前記スード(pseudo)−3D方向の各パターンに対応される確率情報を参照して前記トレーニング用客体の前記スード(pseudo)−3D方向を分類する過程及び(ii−2)回帰分析を利用して前記トレーニング用スード(pseudo)−3Dボックス頂点の2D座標を獲得する過程を遂行するか遂行するように支援し、(iii)(iii−1)前記トレーニング用スード(pseudo)−3Dボックス頂点の獲得された2D座標と前記トレーニング用スード(pseudo)−3Dボックスに対応される前記GTの2D座標との間の差及び(iii−2)前記分類されたトレーニング用スード(pseudo)−3D方向と前記トレーニング用スード(pseudo)−3Dボックスに対応される前記GT方向の差を参照して決定された情報をバックプロパゲーションして前記パラメータを調整するか調整するように支援した状態で、前記通信部610はテスト用2Dバウンディングボックスに囲まれたテスト用客体を含んだ前記テストイメージを獲得するか獲得するように支援し得る。
また、前記プロセッサ620は(i)スード(pseudo)−3D方向の各パターンに対応される確率情報を参照して前記テスト用客体のスード(pseudo)−3D方向を分類する過程及び(ii)回帰分析を利用して前記テスト用スード(pseudo)−3Dボックス頂点の2D座標を獲得する過程を遂行するか遂行するように支援し得る。ここで、前記テスト用スード(pseudo)−3Dボックス頂点の2D座標に対する前記回帰分析は前記スード(pseudo)−3D方向の一つのパターンに対してのみ遂行され得る。
残りの過程は、バックプロパゲーションによる前記パラメータの調整と同じテスト用には不要な部分を除いては前記内容とほぼ同一であり省略する。
一方、以上で説明された本発明にかかる実施例は多様なコンピュータ構成要素を通じて遂行され得るプログラム命令語の形態で具現されてコンピュータで判読可能な記録媒体に記録され得る。前記コンピュータで判読可能な記録媒体はプログラム命令語、データファイル、データ構造などを単独または組み合わせて含まれ得る。前記コンピュータで判読可能な記録媒体に記録されるプログラム命令語は本発明のために特別に設計されて構成されたものか、コンピュータソフトウェア分野の当業者に公知となって使用可能なものでもよい。コンピュータで判読可能な記録媒体の例には、ハードディスク、フロッピィディスク及び磁気テープのような磁気媒体、CD−ROM、DVDのような光記録媒体、フロプティカルディスク(floptical disk)のような磁気−光媒体(magneto−optical media)、及びROM、RAM、フラッシュメモリなどのようなプログラム命令語を保存して遂行するように特別に構成されたハードウェア装置が含まれる。プログラム命令語の例には、コンパイラによって作られるもののような機械語コードだけではなく、インタプリタなどを用いてコンピュータによって実行され得る高級言語コードも含まれる。前記ハードウェア装置は本発明にかかる処理を遂行するために一つ以上のソフトウェアモジュールとして作動するように構成されることがあり、その逆も同様である。
以上、本発明が具体的な構成要素などのような特定の事項と限定された実施例及び図面によって説明されたが、これは本発明のより全般的な理解を助けるために提供されたものであるに過ぎず、本発明が前記実施例に限定されるものではなく、本発明が属する技術分野において通常の知識を有する者であればかかる記載から多様な修正及び変形が行なわれ得る。
従って、本発明の思想は前記説明された実施例に極限されて定められてはならず、後述する特許請求の範囲だけではなく、本特許請求の範囲と均等または等価的に変形されたすべてのものは本発明の思想の範疇に属するといえる。

Claims (19)

  1. トレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得する方法において、
    (a)学習装置が、前記2Dバウンディングボックスによって囲まれた客体を含む前記トレーニングイメージを獲得するか獲得するように支援する段階;
    (b)前記学習装置が、(i)各々のスード(pseudo)−3D方向パターンに対応する確率情報を参照して前記客体のスード(pseudo)−3D方向を分類するか分類するように支援し、(ii)回帰分析を利用して前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援する段階;及び
    (c)前記学習装置が、(i)前記スード(pseudo)−3Dボックス頂点の2D座標と前記スード(pseudo)−3Dボックスに対応されるGT(Ground Truth)の2D座標との間の差及び(ii)分類された前記スード(pseudo)−3D方向と前記スード(pseudo)−3D方向に対応されるGTとの間の差のうち少なくとも一つを参照して決定されるロス情報をバックプロパゲーションして自身のパラメータを調整するか調整するように支援する段階;
    を含むことを特徴とする方法。
  2. 前記(b)段階で、
    前記学習装置は回帰分析を利用して前記2Dバウンディングボックス頂点からの各変位を計算する過程を遂行するか遂行するように支援することを特徴とする請求項1に記載の方法。
  3. 前記(b)段階のうち(ii)の過程で、
    前記学習装置は前記2Dバウンディングボックスの頂点V1とその対角線に位置した頂点V2を前記スード(pseudo)−3Dボックスの二つの頂点P1とP8に決定するか決定するように支援し、前記客体の前記スード(pseudo)−3D方向を参照して前記2Dバウンディングボックスのラインセグメントに接しない二つの頂点P4とP5の前記変位を計算するが、前記変位は前記2Dバウンディングボックスの前記ラインセグメントと平行をなすことを特徴とする請求項2に記載の方法。
  4. 前記(b)段階のうち(ii)の過程で、
    前記学習装置は、
    (b−1)(i)前記スード(pseudo)−3Dボックスの第1面に対応される第1ターゲット2Dボックスの中心である第1ベクタの終点を定めるための前記2Dバウンディングボックスの中心から前記第1ベクタと(ii)前記客体の前記スード(pseudo)−3D方向を参照して前記スード(pseudo)−3Dボックスの前記第1面と対蹠される第2面に対応される第2ターゲット2Dボックスの中心である第2ベクタの終点を定めるための前記2Dバウンディングボックスの中心からの前記第2ベクタ及び(b−2)(i)前記第1ターゲット2Dボックス幅に対する前記2Dバウンディングボックス幅の比率、(ii)前記第2ターゲット2Dボックス幅に対する前記2Dバウンディングボックス幅の比率、(iii)前記第1ターゲット2Dボックス高さに対する前記2Dバウンディングボックス高さの比率、及び(iv)前記第2ターゲット2Dボックス高さに対する前記2Dバウンディングボックス高さの比率と(b−3)前記変位と前記比率を参照して前記第1ターゲット2Dボックスの頂点であるP5、P6、P7、P8の座標と前記第2ターゲット2Dボックスの頂点であるP1、P2、P3、P4の座標を計算するか計算するように支援するが、
    前記P8は前記2Dバウンディングボックスの頂点であり、前記P1は前記P8の対角線に位置した前記2Dバウンディングボックスの頂点であり、前記P4及び前記P5は前記2Dバウンディングボックスのラインセグメントに接しないことを特徴とする請求項1に記載の方法。
  5. 前記(b)段階のうち(i)の過程で、
    スード(pseudo)−3D方向の前記パターンはデータベースに保存され、前記確率の予測に使用されることを特徴とする請求項1に記載の方法。
  6. 前記学習装置は、
    CNN(convolutional neural network)を含むが、
    (i)前記トレーニングイメージを獲得して操作して少なくとも一つのコンボリューションレイヤを利用して少なくとも一つの特徴マップを作り、(ii)前記特徴マップ上の前記2Dバウンディングボックスに対応される領域を定め、少なくとも一つのプーリングレイヤを利用して前記領域から特徴ベクタを抽出し、(iii)第1FC(fully connected)レイヤを利用して前記入力された特徴ベクタから前記客体のスード(pseudo)−3D方向を定め、(iv)第2FC(fully connected)レイヤを利用して前記スード(pseudo)−3Dボックスの頂点に対する前記2D座標を定めて前記スード(pseudo)−3Dボックスの頂点の2D座標を獲得するか獲得を支援することを特徴とする請求項1に記載の方法。
  7. テストイメージ上の客体を囲んだスード(pseudo)−3Dボックスを獲得する方法において、
    (a)テスト装置は、(i)学習装置がトレーニング用2Dバウンディングボックスに囲まれたトレーニング用客体を含んだトレーニングイメージを獲得するか獲得するように支援し、(ii)(ii−1)スード(pseudo)−3D方向の各パターンに対応する確率情報を参照して前記トレーニング用客体のスード(pseudo)−3D方向を分類し、(ii−2)回帰分析を利用してトレーニング用前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援し、(iii)(iii−1)前記獲得したトレーニング用前記スード(pseudo)−3Dボックス頂点の2D座標とトレーニング用前記スード(pseudo)−3Dボックスに対応されるGTの2D座標との間の差と(iii−2)分類された前記トレーニング用スード(pseudo)−3D方向と前記トレーニング用スード(pseudo)−3D方向に対応されるGTとの間の差のうち少なくとも一つを参照して決定されるロス情報をバックプロパゲーションして自身のパラメータを調整するか調整するように支援した状態で、テスト用2Dバウンディングボックスに囲まれたテスト用客体を含む前記テストイメージを獲得するか獲得するように支援する段階;及び
    (b)前記テスト装置が、(i)スード(pseudo)−3D方向の各パターンに対応される確率情報を参照して前記テスト用客体のスード(pseudo)−3D方向を分類し、(ii)回帰分析を利用して前記テスト用スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援する段階;
    を含むことを特徴とする方法。
  8. 前記(b)段階のうち(ii)の過程で、
    前記テスト装置が前記テスト用2Dバウンディングボックスの頂点V1とその対角線上の位置にある頂点V2を前記テスト用スード(pseudo)−3Dボックスの頂点P1とP8に決定し、前記テスト用客体の前記スード(pseudo)−3D方向を参照して前記テスト用2Dバウンディングボックスのラインセグメントに接しない二つの頂点P4とP5の変位を演算するが、前記変位は前記テスト用2Dバウンディングボックスの前記ラインセグメントと平行であることを特徴とする請求項7に記載の方法。
  9. 前記(b)段階のうち(ii)の過程で、
    前記テスト装置が、
    (b−1)(i)前記テスト用2Dバウンディングボックスの中心と第1ターゲット2Dボックスの中心である第1点との間の変位を演算するが、前記第1ターゲット2Dボックスは前記テスト用スード(pseudo)−3Dボックスの第1面に対応して(ii)前記テスト用2Dバウンディングボックスの前記中心と第2ターゲット2Dボックスの中心である第2点との間の変位を演算するが、前記第2ターゲット2Dボックスは前記テスト用スード(pseudo)−3Dボックスの第2面に対応し、前記第2面は前記テスト用スード(pseudo)−3Dボックスの前記第1面と対蹠される位置に存在し;
    (b−2)(i)前記テスト用2Dバウンディングボックスの幅に対する前記第1ターゲット2Dボックスの幅、(ii)前記テスト用2Dバウンディングボックスの前記幅に対する前記第2ターゲット2Dボックスの幅、(iii)前記テスト用2Dバウンディングボックスの高さに対する前記第1ターゲット2Dボックスの高さ、そして(iv)前記テスト用2Dバウンディングボックスの前記高さに対する前記第2ターゲット2Dボックスの高さ、各々の比率を演算し;
    (b−3)前記各変位と前記各比率を参照し、前記第1ターゲット2Dボックスの頂点をなすP5、P6、P7、及びP8の座標と、前記第2ターゲット2Dボックスの頂点をなすP1、P2、P3、及びP4の座標を演算するが、前記P8は前記テスト用2Dバウンディングボックスの頂点であり、前記P1は前記テスト用2Dバウンディングボックスの前記P8に対して対角線上に位置した頂点であり、前記P4及び前記P5は前記テスト用2Dバウンディングボックスの前記ラインセグメントと接触しないことを特徴とする請求項7に記載の方法。
  10. トレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得する学習装置において、
    前記2Dバウンディングボックスによって囲まれた客体を含む前記トレーニングイメージを獲得するか獲得するように支援する通信部;及び
    (i)各々のスード(pseudo)−3D方向パターンに対応する確率情報を参照して前記客体のスード(pseudo)−3D方向を分類するか分類するように支援し、(ii)回帰分析を利用して前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援するプロセス;及び(I)前記スード(pseudo)−3Dボックス頂点の2D座標と前記スード(pseudo)−3Dボックスに対応されるGT(Ground Truth)の2D座標との間の差及び(II)分類された前記スード(pseudo)−3D方向と前記スード(pseudo)−3D方向に対応されるGTとの間の差のうち少なくとも一つを参照して決定されるロス情報をバックプロパゲーションして自身のパラメータを調整するか調整するように支援するプロセスを遂行するプロセッサ;
    を含むことを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする学習装置。
  11. 前記(ii)のプロセスで、
    前記プロセッサは回帰分析を利用して前記2Dバウンディングボックス頂点からの各変位を計算する過程を遂行するか遂行するように支援することを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする請求項10に記載の学習装置。
  12. 前記(ii)のプロセスで、
    前記プロセッサは前記2Dバウンディングボックスの頂点V1とその対角線に位置した頂点V2を前記スード(pseudo)−3Dボックスの二つの頂点P1とP8に決定するか決定するように支援し、前記客体の前記スード(pseudo)−3D方向を参照して前記2Dバウンディングボックスのラインセグメントに接しない二つの頂点P4とP5の前記変位を計算するが、前記変位は前記2Dバウンディングボックスの前記ラインセグメントと平行をなすことを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする請求項11に記載の学習装置。
  13. 前記(ii)のプロセスで、
    前記プロセッサは、
    (b−1)(i)前記スード(pseudo)−3Dボックスの第1面に対応される第1ターゲット2Dボックスの中心である第1ベクタの終点を定めるための前記2Dバウンディングボックスの中心から前記第1ベクタと(ii)前記客体の前記スード(pseudo)−3D方向を参照して前記スード(pseudo)−3Dボックスの前記第1面と対蹠される第2面に対応される第2ターゲット2Dボックスの中心である第2ベクタの終点を定めるための前記2Dバウンディングボックスの中心からの前記第2ベクタ及び(b−2)(i)前記第1ターゲット2Dボックス幅に対する前記2Dバウンディングボックス幅の比率、(ii)前記第2ターゲット2Dボックス幅に対する前記2Dバウンディングボックス幅の比率、(iii)前記第1ターゲット2Dボックス高さに対する前記2Dバウンディングボックス高さの比率、及び(iv)前記第2ターゲット2Dボックス高さに対する前記2Dバウンディングボックス高さの比率と(b−3)前記変位と前記比率を参照して前記第1ターゲット2Dボックスの頂点であるP5、P6、P7、P8の座標と前記第2ターゲット2Dボックスの頂点であるP1、P2、P3、P4の座標を計算するか計算するように支援するが、
    前記P8は前記2Dバウンディングボックスの頂点であり、前記P1は前記P8の対角線に位置した前記2Dバウンディングボックスの頂点であり、前記P4及び前記P5は前記2Dバウンディングボックスのラインセグメントに接しないことを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする請求項10に記載の学習装置。
  14. 前記(i)のプロセスで、
    スード(pseudo)−3D方向の前記パターンはデータベースに保存され、前記確率の予測に使用されることを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする請求項10に記載の学習装置。
  15. 前記学習装置は、
    CNN(convolutional neural network)を含むが、
    (i)前記トレーニングイメージを獲得して操作して少なくとも一つのコンボリューションレイヤを利用して少なくとも一つの特徴マップを作り、(ii) 前記特徴マップ上の前記2Dバウンディングボックスに対応される領域を定め、少なくとも一つのプーリングレイヤを利用して前記領域から特徴ベクタを抽出し、(iii)第1FC(fully connected)レイヤを利用して前記入力された特徴ベクタから前記客体のスード(pseudo)−3D方向を定め、(iv)第2FC(fully connected)レイヤを利用して前記スード(pseudo)−3Dボックスの頂点に対する前記2D座標を定めて前記スード(pseudo)−3Dボックスの頂点の2D座標を獲得するか獲得するように支援することを特徴とするトレーニングイメージ上の2Dバウンディングボックスからスード(pseudo)−3Dボックスを獲得することを特徴とする請求項10に記載の学習装置。
  16. 前記客体のスード(pseudo)−3D方向を分類するプロセスは、前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するプロセス以前に遂行されることを特徴とする請求項10に記載の学習装置。
  17. テストイメージ上の客体を囲んだスード(pseudo)−3Dボックスを獲得するテスト装置において、
    学習装置がトレーニング用2Dバウンディングボックスに囲まれたトレーニング用客体を含んだトレーニングイメージを獲得するか獲得するように支援し、(i)(i−1)スード(pseudo)−3D方向の各パターンに対応する確率情報を参照して前記トレーニング用客体のスード(pseudo)−3D方向を分類し、(i−2)回帰分析を利用してトレーニング用前記スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援し、(ii)(ii−1)前記獲得したトレーニング用前記スード(pseudo)−3Dボックス頂点の2D座標とトレーニング用前記スード(pseudo)−3Dボックスに対応されるGTの2D座標との間の差と(ii−2)分類された前記トレーニング用スード(pseudo)−3D方向と前記トレーニング用スード(pseudo)−3D方向に対応されるGTとの間の差のうち少なくとも一つを参照して決定されるロス情報をバックプロパゲーションして自身のパラメータを調整するか調整するように支援した状態で、テスト用2Dバウンディングボックスに囲まれたテスト用客体を含む前記テストイメージを獲得するか獲得するように支援する通信部;及び
    (I)スード(pseudo)−3D方向の各パターンに対応される確率情報を参照して前記テスト用客体のスード(pseudo)−3D方向を分類し、(II)回帰分析を利用して前記テスト用スード(pseudo)−3Dボックス頂点の2D座標を獲得するか獲得するように支援するプロセスを遂行するプロセッサ;
    を含むことを特徴とするテストイメージ上の客体を囲んだスード(pseudo)−3Dボックスを獲得することを特徴とするテスト装置。
  18. 前記(II)のプロセスで、
    前記プロセッサが前記テスト用2Dバウンディングボックスの頂点V1とその対角線上の位置にある頂点V2を前記テスト用スード(pseudo)−3Dボックスの頂点P1とP8に決定し、前記テスト用客体の前記スード(pseudo)−3D方向を参照して前記テスト用2Dバウンディングボックスのラインセグメントに接しない二つの頂点P4とP5の変位を演算するが、前記変位は前記テスト用2Dバウンディングボックスの前記ラインセグメントと平行であることを特徴とするテストイメージ上の客体を囲んだスード(pseudo)−3Dボックスを獲得することを特徴とする請求項17に記載のテスト装置。
  19. 前記(II)のプロセスで、
    前記プロセッサが、
    (b−1)(i)前記テスト用2Dバウンディングボックスの中心と第1ターゲット2Dボックスの中心である第1点との間の変位を演算するが、前記第1ターゲット2Dボックスは前記テスト用スード(pseudo)−3Dボックスの第1面に対応して(ii)前記テスト用2Dバウンディングボックスの前記中心と第2ターゲット2Dボックスの中心である第2点との間の変位を演算するが、前記第2ターゲット2Dボックスは前記テスト用スード(pseudo)−3Dボックスの第2面に対応し、前記第2面は前記テスト用スード(pseudo)−3Dボックスの前記第1面と対蹠される位置に存在し;
    (b−2)(i)前記テスト用2Dバウンディングボックスの幅に対する前記第1ターゲット2Dボックスの幅、(ii)前記テスト用2Dバウンディングボックスの前記幅に対する前記第2ターゲット2Dボックスの幅、(iii)前記テスト用2Dバウンディングボックスの高さに対する前記第1ターゲット2Dボックスの高さ、そして(iv)前記テスト用2Dバウンディングボックスの前記高さに対する前記第2ターゲット2Dボックスの高さ、各々の比率を演算し;
    (b−3)前記各変位と前記各比率を参照し、前記第1ターゲット2Dボックスの頂点をなすP5、P6、P7、及びP8の座標と、前記第2ターゲット2Dボックスの頂点をなすP1、P2、P3、及びP4の座標を演算するが、前記P8は前記テスト用2Dバウンディングボックスの頂点であり、前記P1は前記テスト用2Dバウンディングボックスの前記P8に対して対角線上に位置した頂点であり、前記P4及び前記P5は前記テスト用2Dバウンディングボックスの前記ラインセグメントと接触しないことを特徴とするテストイメージ上の客体を囲んだスード(pseudo)−3Dボックスを獲得することを特徴とする請求項17に記載のテスト装置。
JP2018188341A 2017-10-03 2018-10-03 回帰分析により2dバウンディングボックスからスード(pseudo)−3dボックスを獲得する方法及びこれを利用した学習装置及びテスト装置 Active JP6720263B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/723,538 2017-10-03
US15/723,538 US10402724B2 (en) 2017-10-03 2017-10-03 Method for acquiring a pseudo-3D box from a 2D bounding box by regression analysis and learning device and testing device using the same

Publications (2)

Publication Number Publication Date
JP2019067402A true JP2019067402A (ja) 2019-04-25
JP6720263B2 JP6720263B2 (ja) 2020-07-08

Family

ID=63517805

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018188341A Active JP6720263B2 (ja) 2017-10-03 2018-10-03 回帰分析により2dバウンディングボックスからスード(pseudo)−3dボックスを獲得する方法及びこれを利用した学習装置及びテスト装置

Country Status (5)

Country Link
US (1) US10402724B2 (ja)
EP (1) EP3467708A1 (ja)
JP (1) JP6720263B2 (ja)
KR (1) KR102121764B1 (ja)
CN (1) CN109598781B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112613335A (zh) * 2019-10-03 2021-04-06 本田技研工业株式会社 识别装置、识别方法及存储介质

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10614574B2 (en) * 2017-10-16 2020-04-07 Adobe Inc. Generating image segmentation data using a multi-branch neural network
FI20195061A1 (en) * 2019-01-30 2020-07-31 Aalto Univ Foundation Sr Method and device for estimating mechanical property of crack surface
CN111079523B (zh) * 2019-11-05 2024-05-14 北京迈格威科技有限公司 物体检测方法、装置、计算机设备和存储介质
US11004233B1 (en) * 2020-05-01 2021-05-11 Ynjiun Paul Wang Intelligent vision-based detection and ranging system and method
CN111626241B (zh) * 2020-05-29 2023-06-23 北京华捷艾米科技有限公司 一种人脸检测方法及装置
US11987236B2 (en) * 2020-08-31 2024-05-21 Nec Corporation Monocular 3D object localization from temporal aggregation
CN112509126B (zh) * 2020-12-18 2024-07-12 南京模数智芯微电子科技有限公司 三维物体检测的方法、装置、设备及存储介质
US11710254B2 (en) * 2021-04-07 2023-07-25 Ford Global Technologies, Llc Neural network object detection
KR102325124B1 (ko) * 2021-04-27 2021-11-12 주식회사 모빌테크 기계 학습 및 모노 카메라로 물체의 위치 정보를 획득하는 차량
WO2023245635A1 (en) * 2022-06-24 2023-12-28 Intel Corporation Apparatus and method for object detection

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9189689B2 (en) * 2013-10-30 2015-11-17 Nec Laboratories America, Inc. Robust scale estimation in real-time monocular SFM for autonomous driving
US10235771B2 (en) * 2016-11-11 2019-03-19 Qualcomm Incorporated Methods and systems of performing object pose estimation
AU2017361061B2 (en) * 2016-11-15 2022-02-03 Magic Leap, Inc. Deep learning system for cuboid detection
CN106682697B (zh) * 2016-12-29 2020-04-14 华中科技大学 一种基于卷积神经网络的端到端物体检测方法
US10373369B2 (en) * 2017-03-16 2019-08-06 Qualcomm Technologies, Inc. Three-dimensional pose estimation of symmetrical objects

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112613335A (zh) * 2019-10-03 2021-04-06 本田技研工业株式会社 识别装置、识别方法及存储介质
JP2021060661A (ja) * 2019-10-03 2021-04-15 本田技研工業株式会社 認識装置、認識方法、およびプログラム

Also Published As

Publication number Publication date
CN109598781B (zh) 2023-06-02
US20190102677A1 (en) 2019-04-04
US10402724B2 (en) 2019-09-03
KR20190039382A (ko) 2019-04-11
EP3467708A1 (en) 2019-04-10
JP6720263B2 (ja) 2020-07-08
KR102121764B1 (ko) 2020-06-12
CN109598781A (zh) 2019-04-09

Similar Documents

Publication Publication Date Title
JP2019067402A (ja) 回帰分析により2dバウンディングボックスからスード(pseudo)−3dボックスを獲得する方法及びこれを利用した学習装置及びテスト装置
EP3405845B1 (en) Object-focused active three-dimensional reconstruction
US10402978B1 (en) Method for detecting pseudo-3D bounding box based on CNN capable of converting modes according to poses of objects using instance segmentation and device using the same
JP2021523443A (ja) Lidarデータと画像データの関連付け
CN109635685A (zh) 目标对象3d检测方法、装置、介质及设备
Ding et al. Vehicle pose and shape estimation through multiple monocular vision
CN114365201A (zh) 结构注释
CN111046767B (zh) 一种基于单目图像的3d目标检测方法
US20200051254A1 (en) Decoupled motion models for object tracking
JP2022548743A (ja) 移動ロボットの障害物情報感知方法、装置
JP7224682B1 (ja) 自律走行のための3次元多重客体検出装置及び方法
US11537819B1 (en) Learned state covariances
CN111581313A (zh) 一种基于实例分割的语义slam鲁棒性改进方法
Song et al. End-to-end learning for inter-vehicle distance and relative velocity estimation in ADAS with a monocular camera
US10445611B1 (en) Method for detecting pseudo-3D bounding box to be used for military purpose, smart phone or virtual driving based-on CNN capable of converting modes according to conditions of objects and device using the same
Wang et al. 3D-LIDAR based branch estimation and intersection location for autonomous vehicles
US20230311930A1 (en) Capturing and simulating radar data for autonomous driving systems
Mentasti et al. Two algorithms for vehicular obstacle detection in sparse pointcloud
US20240193803A1 (en) Apparatus and method for object detection
US11430143B2 (en) System of depth estimation and method thereof
US20240094009A1 (en) Map annotation modification using sparse pose graph node updates
CN113516664B (zh) 一种基于语义分割动态点的视觉slam方法
Yan et al. PointSSC: A Cooperative Vehicle-Infrastructure Point Cloud Benchmark for Semantic Scene Completion
Krishtopik et al. Monitoring of Dynamic Objects on a 2d Occupancy Map Using Neural Networks and Multimodal Data
Dario Towards general end-to-end sensor fusion for robot localization: implementa-tion of visual-inertial-wheel odometry

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181101

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200617

R150 Certificate of patent or registration of utility model

Ref document number: 6720263

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250