JP7376839B2 - 3次元情報推定方法、3次元情報推定装置およびプログラム - Google Patents

3次元情報推定方法、3次元情報推定装置およびプログラム Download PDF

Info

Publication number
JP7376839B2
JP7376839B2 JP2022569414A JP2022569414A JP7376839B2 JP 7376839 B2 JP7376839 B2 JP 7376839B2 JP 2022569414 A JP2022569414 A JP 2022569414A JP 2022569414 A JP2022569414 A JP 2022569414A JP 7376839 B2 JP7376839 B2 JP 7376839B2
Authority
JP
Japan
Prior art keywords
event
event information
information
pieces
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022569414A
Other languages
English (en)
Other versions
JPWO2022130555A1 (ja
Inventor
志織 杉本
隆行 黒住
英明 木全
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Publication of JPWO2022130555A1 publication Critical patent/JPWO2022130555A1/ja
Application granted granted Critical
Publication of JP7376839B2 publication Critical patent/JP7376839B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Description

本発明は、3次元情報推定方法、3次元情報推定装置およびプログラムの技術に関する。
各画素の輝度変化を非同期で検出し、輝度値が変化した画素についてのみ、その座標、時間、及び変化量の符号をイベントデータとして出力するイベントベースビジョンセンサがある。以下では通常のイメージセンサを備えるカメラをフレームカメラ、イベントベースビジョンセンサを備えるカメラをイベントカメラと表現することがある。
フレームカメラは、各画素に積算された輝度値をフレームごとに出力する。フレームカメラにおいて、積算時間すなわち露光時間と信号のダイナミックレンジは全ての画素で同じである。そのため、非常に明るい画素と暗い画素が混在している場合、白飛び、黒つぶれや量子化誤差等が生じる。また、照明の影響などでシーンの明度が激しく変化する場合、露光時間の調整ができずに白飛びや黒つぶれが生じることもある。
一方、イベントカメラは、各画素の輝度変化が一定のしきい値を超える度に非同期でイベントデータを出力するため、白飛び、黒つぶれ、量子化誤差等の問題が生じない。また、イベントカメラから出力されるイベントデータはフレームカメラから出力される画像に比べて非常に疎なデータである。そのためイベントデータを記憶するメモリや、イベントデータを伝送するための伝送帯域が少なく済み、非常に高い時間分解能を達成することができる。同様の理由により、撮影やデータ処理に要する演算量や消費電力量は、フレームカメラと比較して非常に低く抑えることができる。
以上より、イベントカメラを用いることで、光量が少ない状況や照明の変化が激しい状況において安定的に、低電力で、また非常に高い時間分解能でマシンビジョンを行うことができる。
イベントカメラを用いた3次元位置推定方法として、SLAM(Simultaneous Localization and Mapping)法がある(非特許文献1参照)。SLAM法では、カメラを動かしながら静止した被写体を撮影し、各フレームで求めた局所特徴点についてフレーム間での対応関係を求めることで、カメラの移動量と特徴点の3次元位置を推定する。
フレームカメラを用いてSLAM法を行う場合、画像の各画素について特徴量を抽出し、全ての特徴量についてフレーム間対応の推定をするため、非常に高い演算コストがかかる。また、対応関係の誤推定が多く生じることから、これを考慮して3次元位置の推定を行うために、多くの演算が必要となる。
イベントカメラを用いてSLAM法を行う場合、処理対象のデータ数を少なく、また時間分解能が高いことで対応点探索を行う範囲を非常に狭くできる。よって、イベントカメラを用いてSLAM法を行う場合には、フレームカメラを用いてSLAM法を行う場合と比較して、高速で安定した3次元情報を推定できる。
フリー百科事典「ウィキペディア(Wikipedia)」、"SLAM"[令和2年12月2日検索]、インターネット(URL: https://ja.wikipedia.org/wiki/SLAM)
しかしながら、SLAM法では動物体に対して3次元情報を推定できない。動物体に対して3次元情報を推定する場合は、ステレオ法を用いることが考えられる。イベントカメラはシャッター機能を持たないため、異なるイベントカメラ同士で同期を行うことは難しい。またイベントビジョンセンサにはイベント出力後一定期間その画素での測定を行うことができない休眠期間が設けられている。そのため、異なるイベントカメラ同士で測定開始タイミングが同時でない場合は、イベントデータのパターンが異なる。この場合、パターンの対応関係を求めることは難しい。
このように、イベントカメラを用いて動物体の3次元情報を推定することは困難であるという課題があった。
上記事情に鑑み、本発明は、動物体の3次元情報を推定する技術の提供を目的としている。
本発明の一態様は、被写体表面上の1点から発せられた光線をイベントベースビジョンセンサ上の複数の位置に集光させる3次元情報推定装置における3次元情報推定方法であって、前記イベントベースビジョンセンサの画素のうち、輝度値の変化量が一定値を超えた場合に、輝度値の変化量が一定値を超えた画素の位置と、輝度値の変化量が一定値を超えた時刻とを含むイベント情報を取得するイベント情報取得ステップと、前記イベント情報取得ステップにより取得された複数の前記イベント情報のうち、前記イベント情報に含まれる時刻に基づいて2つの前記イベント情報を対応付ける対応ステップと、前記対応ステップにより対応付けられた2つの前記イベント情報のそれぞれに含まれる画素の位置に基づき、被写体までの距離を推定する推定ステップと、を備えた3次元情報推定方法である。
本発明の一態様は、被写体表面上の1点から発せられた光線をイベントベースビジョンセンサ上の複数の位置に集光させる3次元情報推定装置であって、前記イベントベースビジョンセンサの画素のうち、輝度値の変化量が一定値を超えた場合に、輝度値の変化量が一定値を超えた画素の位置と、輝度値の変化量が一定値を超えた時刻とを含むイベント情報を取得するイベント情報取得部と、前記イベント情報取得部により取得された複数の前記イベント情報のうち、前記イベント情報に含まれる時刻に基づいて2つの前記イベント情報を対応付ける対応部と、前記対応部により対応付けられた2つの前記イベント情報のそれぞれに含まれる画素の位置に基づき、被写体までの距離を推定する推定部と、を備えた3次元情報推定装置である。
本発明の一態様は、3次元情報推定方法をコンピュータに実行させるためのプログラムである。
本発明により、動物体の3次元情報を推定することが可能となる。
3次元情報推定装置の構成を示すブロック図である。 撮像部の概略構成を示す図である マスク部を光軸方向から見た図である。 3次元情報推定処理の流れを示すフローチャートである。 3次元情報推定処理の流れを示すフローチャートである。
本発明の実施形態について、図面を参照して詳細に説明する。
図1は、実施形態における3次元情報推定装置100の構成を示すブロック図である。3次元情報推定装置100は、撮像部110、およびイベント処理部120で構成される。撮像部110は、イベントが発生した時に、イベントデータをイベント処理部120に出力する。ここで、イベントとは、イベントベースビジョンセンサ(以下、「イベントセンサ」という)の画素の輝度値の変化量が一定値を超えたことを示す。本実施形態では、変化量として、所定時間当たりの変化量を用いている。
またイベントデータは、イベントが発生した画素の位置、輝度値の変化量が一定値を超えた時刻(以下、「タイムスタンプ」ともいう)、および輝度値の増減を示す符号情報を含む。輝度値の増減を示す符号情報は、輝度値が増加した場合にはプラスを示し、減少した場合にマイナスを示す。一般的な被写体では、イベントは各画素で同期することなく発生するため、イベントデータもその都度出力される。
イベント処理部120は、イベント情報取得部121、対応部122、推定部123、およびイベント情報記憶部124で構成される。イベント情報取得部121は、撮像部110から出力されたイベント情報を取得する。イベント情報取得部121は、取得したイベント情報をイベント情報記憶部124に記憶する。なお、イベント情報取得部121は、任意のフィルタ処理を行ってノイズ除去を行ってもよい。
対応部122は、イベント情報取得部121によりイベント情報記憶部124に記憶されたイベント情報のうち、タイムスタンプに基づいて2つのイベント情報を対応付ける。対応付けられたイベント情報をイベントセットとも表現する。対応付けの方法については後述する。
推定部123は、対応付けられた2つのイベント情報のそれぞれに含まれる画素の位置に基づき、3次元情報推定装置100から被写体までの距離を推定する。この推定された距離により、被写体の3次元情報を推定できる。3次元情報推定装置100は、推定した距離を、例えばPC(Personal Computer)などの上位装置に出力してもよい。
図2は、撮像部110の概略構成を示す図である。撮像部110は、レンズ111、マスク部112、およびイベントセンサ113で構成される。また、図2には、被写体115、および合焦面116が示されている。なお、図2では、説明を分かりやすくするためにレンズ111とマスク部112とが離して描かれているが、実際のレンズ111とマスク部112との距離は、ほぼ零である。また、図2に記載されているD、D'、C、L、L'、Rについては、後の説明で用いられる。
マスク部112には、複数(図2では2つ)の開口部112A、112Bが設けられている。図3は、マスク部112を光軸方向から見た図である。図3には、マスク部112と、開口部112A、112Bが示されている。なお、開口部112A、112Bは実際の大きさよりも大きく描かれている。すなわち、実際には、マスク部112の直径に対する開口部112A、112Bの直径は、図3に示されている場合よりもはるかに小さい。
図2において、被写体115の表面における反射光は、レンズ111、開口部112A、112Bを通過してイベントセンサ113に集光される。このように、開口部112A、112Bにより、撮像部110は、被写体表面上の1点から発せられた光線をイベントセンサ113上の複数の位置に集光させる。なお、被写体表面上の1点から発せられた光線とは、被写体自らが発する光線の他に、被写体表面に反射した光線も含む。イベント情報に含まれる画素の位置は、イベントセンサ113を2次元座標とみなしたXY座標で表現される。例えば、原点に対応する画素から右方向に5画素、上方向に3画素に位置する画素の座標は(5、3)となる。画素のピッチpが与えられると、原点(0、0)から例えば(7、0)の距離は、7pとなる。
ここで、対応部122の対応付けの方法について説明する。図2に示されるように、被写体のある1点から出た光線は、開口部112A、112Bのいずれかを通過してイベントセンサ113上の2点に到達する。このとき到達したイベントセンサ113上の2点に対応する画素において、輝度値の変化量が一定値を超えた場合、同時刻またはほぼ同時刻にイベントが発生することとなる。対応部122は、このような2つのイベント情報を対応付ける。イベント情報を対応付けるタイミングは、イベント情報記憶部124に新たなイベント情報が記憶されたタイミングでもよいし、一定時間ごとに到来するタイミングであっても良い。
対応部122は、イベント情報から、ある時刻tに発生したイベント情報のうち、同一の符号情報を含むイベント情報をグループ化し、これらからイベント情報を対応付けるマッチングを行う。符号情報は2つあるので、プラスとマイナスの2つにグループ化されることもある。このグループを候補イベント群とも表現する。
なお、時刻tに発生したイベント情報として、タイムスタンプが時刻tと完全一致するイベント情報だけとしてもよいし、タイムスタンプの差が所定範囲内のイベント情報だけとしてもよい。なお、タイムスタンプの差が所定範囲内として、例えば時刻t周辺の適当な時間しきい値の範囲に収まることが挙げられる。この場合、時間しきい値を例えばTの場合、時刻t周辺は、時刻t-Tから時刻t+Tまでであることから、タイムスタンプの差は2T以内となる。
イベントセンサ113の仕様によっては、センサ上の水平またや垂直のラインごとにイベント情報を出力する。そのため、異なるラインで発生したイベントの間でタイムスタンプにずれが生じることがある。これらのずれを考慮して時間しきい値を設けてもよいし、開口部を水平または垂直のライン上に配置することで、対応するイベントのイベント情報が同じタイミングで出力されるようにしてもよい。
このように、イベント情報は、当該イベント情報に含まれる時刻に関する条件(以下、「時刻条件」ともいう)を満たし、さらに符号情報に関する条件(以下、「符号条件」ともいう)によりグループ化される。したがって、時刻条件を満たすイベント情報が複数存在し、かつ符号条件によるグループ化によって同じグループに属するイベント情報が複数存在した場合に候補イベント群が得られる。
次に、対応部122は、候補イベント群の中でイベントセットを決定するために、マッチングを行う。各候補イベント群に対し、逐次イベントセットを決定しても良いし、全てのイベントセットを同時に決定するような最適化を行ってもよい。
マッチングの方法はどのような方法でも良い。最も単純なマッチングの方法は、候補イベント群の中から任意に2つのイベント情報を選択し、それらイベントセットとする方法である。また、例えば、候補イベント群を更に別の方法で絞り込んでもよい。絞り込む例として、あるイベント情報についてマッチングを行う際に開口部の配置に基づいてエピポーラ線を定義し、エピポーラ線上で発生したイベント情報のみを候補とする方法が上がられる。この場合、エピポーラ線上で発生したイベント情報のみに対して処理を行えばよいので、処理量を削減することができる。その他のマッチングの方法として、一般的な画像処理で行われるテンプレートマッチングや、相互相関法、ニューラルネットワークを使う方法などが考えられる。
なお、候補イベント群に属するイベント情報に含まれる位置と同じ位置またはその近傍の位置で、イベント情報に含まれるタイプスタンプの前後の時刻で発生したイベント情報をマッチングで使用してもよい。前後の時刻で発生したイベント情報を用いて決定されたイベントセットや既に推定された3次元情報に基づいて、マッチングに用いるイベント情報に拘束条件を与えてもよい。また、符号情報がプラスのイベントセットとマイナスのイベントセットの間に対応関係があるとして、プラスの候補イベント群とマイナスのイベント候補群の2つでマッチングを行ってもよい。例えば、タイムスタンプが一致する符号情報がプラスのイベント情報と符号情報がマイナスのイベント情報とを用いてマッチングを行ってもよい。
なお、被写体上の点Aと点Bから出た光がイベントセンサ113に到達した際に、到達点のどちらかが重なる場合を考慮したマッチングを行うこともできる。重なった点をX、重なっていない方の点をX_A、X_Bとする。Xでは2つの光の光量の合計に応じて輝度値が変化する。このため、X_A、X_Bからイベント情報が出力するとは異なるタイミングでXからイベント情報が出力されることもある。このとき、Xからイベント情報が出力されるタイミングから一定時間内に出力されるイベントデータの個数と、輝度値の変化パターンは、2つの光の変化パターンを合成したものと関係するものとみなす。これにより、前記関係が成立するX_A、X_Bを対応付けることができる。Aに対応する輝度値の変化とBに対応する輝度値の変化において、符号情報が異なることもあり得るため、プラスの候補イベント群とマイナスのイベント候補群の2つを用いてマッチングを行ってもよい。
上述した図2を用いて、3次元情報推定装置100から被写体までの距離の推定方法について説明する。まず、図2おいて、レンズ111と開口部112Aとの距離を0とし、同様にレンズ111と開口部112Bとの距離を0とする。レンズ111の焦点距離をf、レンズ111とイベントセンサ113との距離をLとする。レンズ111から合焦位置までの距離をDとする。開口部112Aと開口部112Bとの間の距離をAとする。被写体115とレンズ111と距離をD'とする。
開口部112Aと開口部112Bのそれぞれを通過した光線が交差する面とレンズとの距離をL'とし、それぞれの光線がイベントセンサ113に到達した点同士の距離をCとする。なお、上述したように開口部112A、112Bの大きさはごく小さいことから、イベントセンサ113上に到達した点のボケはごく小さく、互いに重ならないものとする。このときレンズの結像公式に基づくと下記(1)が成り立つ。
Figure 0007376839000001
また、R、C、L'、Lの間には下記(2)が成り立つ。
Figure 0007376839000002
上記(1)(2)から、下記(3)に示されるようにD'が求まる。
Figure 0007376839000003
よっては、画素のピッチをpとし、光線がイベントセンサ113に到達した点同士間の座標上での距離をΔxとすると、上記(3)は、下記(4)となる。
Figure 0007376839000004
この(4)に示した数式を用いて、3次元情報推定装置100は、3次元情報推定装置100から被写体までの距離を推定する。
以上説明した3次元情報推定装置100により実行される処理の流れをフローチャートを用いて説明する。図4、図5は、3次元情報推定処理の流れを示すフローチャートである。なお、図4、図5に示されるフローチャートは、イベント情報を対応付けるタイミングを、イベント情報記憶部124に新たなイベント情報が記憶されたタイミングとした場合の処理の流れを示す。
図4において、イベント情報取得部121は、イベントが発生すると(ステップS101:YES)、撮像部110から出力されるイベント情報を取得する(ステップS102)。イベント情報取得部121は、取得したイベント情報をイベント情報記憶部124に記憶する(ステップS103)。イベント情報取得部121は、イベントが発生したことを示すイベント発生MSG(メッセージ)を対応部122に送信し(ステップS104)、ステップS101の処理に戻る。
次に、図5のフローチャートについて説明する。なお、図5のフローチャートでは、上述した時刻条件を満たすイベント情報が複数存在することを、時刻条件満足情報が存在する、と表現する。また、符号条件によるグループ化によって同じグループに属するイベント情報が複数存在することを、符号条件満足情報が存在する、と表現する。
図5において、対応部122は、イベント情報取得部121からイベント発生MSGを受信すると(ステップS201:YES)、対応部122は、時刻条件満足情報が存在するか否かを判定する(ステップS202)。時刻条件満足情報が存在しない場合には(ステップS202:NO)、対応部122は、処理を終了する。
時刻条件満足情報が存在する場合には(ステップS202:YES)、対応部122は、符号条件満足情報が存在するか否かを判定する(ステップS203)。符号条件満足情報が存在しない場合には(ステップS203:NO)、対応部122は、処理を終了する。符号条件満足情報が存在する場合には(ステップS203:YES)、対応部122は、上述したマッチングを行う(ステップS204)。推定部123は、上記(4)を用いて3次元情報推定装置100から被写体までの距離を推定し(ステップS205)、処理を終了する。
以上説明した3次元情報推定処理が、イベントが発生するたびに実行されることで、3次元情報推定装置100から被写体までの距離が推定されることから、被写体の3次元情報を推定できる。
上述した実施形態において、開口部112A、112Bを有するマスク部112は、レンズ111と被写体の間にあるものとしてもよい。また、レンズ111が複数のレンズで構成される場合、マスク部112は、レンズとレンズの間にあるものとしてもよい。さらに、被写体が合焦面より手前にあるものとしてもよい。
また、被写体に照射する照明としてレーザー走査式プロジェクタを用いてもよい。レーザー走査式プロジェクタではレーザーの照射位置を高速で動かすため、肉眼では広い範囲に照明があたっているように見える場合でも、実際は常に1点にしか照明があたっていない。したがっていずれの時刻tにおいても、イベント情報は高々2つしか存在しないため、それらがそのままイベントセットとして決定される。
また、任意のプロジェクタを利用して離散的なドットパターンの照明を被写体に照射してもよい。ドットの一つから開口部を通してイベントセンサ上に到達する点のセット同士の距離が、隣り合うドットとの距離よりも十分に小さくなるように、開口部の配置とドットパターンを設計することで、到達点が重なることを考慮せずにマッチングを行うことができる。また、このような照明を高速で切り替えることによってより多くのイベント情報が得られるため、より密な3次元情報を得ることができる。
また、本実施形態では、マスク部112は、2つの開口部112A、112Bを有しているが、3つ以上の開口部を有するようにしてもよい。開口部の配置位置として、例えば開口部の中心が全て同一直線上となる位置が挙げられる。開口部が3つの場合には、開口部の配置位置として、三角形の頂点が挙げられる。
また、開口部に代えて、マイクロレンズアレイやその他の光学素子を使用して複数の像をイベントセンサ上に到達させるようにしてもよい。
なお、通常のイメージセンサを備えるカメラ(以下、「フレームカメラ」という)に、本実施形態と同様の開口部を設ける場合、イメージセンサにおいて2つの像が重畳して観測されるため、各開口部を互いに異なるカラーチャンネルに対応させて像を分離するなどしない限り3次元情報推定は不可能である。
一方、本実施形態の3次元情報推定装置100と同様に、イベントセンサを備えるカメラ(以下、「イベントカメラ」という)は被写体、照明、イベントカメラが動いた際に発生する輝度の変化量を観測するため、限られた部分でしかイベントが発生しないことから2つの像に対応するイベントが重畳する可能性が低い。
また、フレームカメラの出力画像でマッチングを行う場合、基本的に一画素の輝度情報でのマッチングは困難であるため、空間的に隣接した画素の輝度情報も使用するブロックマッチングを行う。イベントカメラでは一画素について輝度の変化を非常に高い分解能で観測するため、その変化パターンである時系列データを使用することで隣接画素の情報を使用せずにマッチングを行うことができる。したがって、イベントセンサでは、2つの像に対応するイベントの発生位置がごく近くに位置などの理由でブロックマッチングが不可能であっても探索が容易である。
以上の理由により、イベントカメラに複数の開口部を設けることで、フレームカメラでの同様の構成では不可能な、単一のチャンネルで3次元情報を推定することができる。
イベント処理部120は、CPU(Central Processing Unit)等のプロセッサーとメモリとを用いて構成されてもよい。この場合、イベント処理部120は、プロセッサーがプログラムを実行することによって、イベント処理部120として機能する。なお、イベント処理部120の各機能の全て又は一部は、ASIC(Application Specific Integrated Circuit)やPLD(Programmable Logic Device)やFPGA(Field Programmable Gate Array)等のハードウェアを用いて実現されても良い。上記のプログラムは、コンピュータ読み取り可能な記録媒体に記録されても良い。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ROM、CD-ROM、半導体記憶装置(例えばSSD:Solid State Drive)等の可搬媒体、コンピュータシステムに内蔵されるハードディスクや半導体記憶装置等の記憶装置である。上記のプログラムは、電気通信回線を介して送信されてもよい。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
本発明は、イベントベースビジョンセンサを備えた3次元情報推定装置に適用可能である。
100…3次元情報推定装置、110…撮像部、111…レンズ、112…マスク部、112A、112B…開口部、113…イベントセンサ、115…被写体、116…合焦面、120…イベント処理部、121…イベント情報取得部、122…対応部、123…推定部、124…イベント情報記憶部

Claims (6)

  1. 被写体表面上の1点から発せられた光線をイベントベースビジョンセンサ上の複数の位置に集光させる3次元情報推定装置における3次元情報推定方法であって、
    前記イベントベースビジョンセンサの画素のうち、輝度値の変化量が一定値を超えた場合に、輝度値の変化量が一定値を超えた画素の位置と、輝度値の変化量が一定値を超えた時刻とを含むイベント情報を取得するイベント情報取得ステップと、
    前記イベント情報取得ステップにより取得された複数の前記イベント情報のうち、前記イベント情報に含まれる時刻に基づいて2つの前記イベント情報を対応付ける対応ステップと、
    前記対応ステップにより対応付けられた2つの前記イベント情報のそれぞれに含まれる画素の位置に基づき、被写体までの距離を推定する推定ステップと、
    を備えた3次元情報推定方法。
  2. 前記イベント情報は、輝度値の増減を示す符号情報を含み、
    前記対応ステップは、同一の符号情報を含む前記イベント情報から2つの前記イベント情報を対応付ける請求項1に記載の3次元情報推定方法。
  3. 前記対応ステップは、前記イベント情報に含まれる時刻が同じ時刻、または前記イベント情報に含まれる時刻の差が所定範囲内の2つの前記イベント情報を対応付ける請求項1または請求項2に記載の3次元情報推定方法。
  4. 前記推定ステップは、2つの前記イベント情報のそれぞれに含まれる画素の位置の距離を用いて被写体までの距離を推定する請求項1から請求項3のいずれか1項に記載の3次元情報推定方法。
  5. 被写体表面上の1点から発せられた光線をイベントベースビジョンセンサ上の複数の位置に集光させる3次元情報推定装置であって、
    前記イベントベースビジョンセンサの画素のうち、輝度値の変化量が一定値を超えた場合に、輝度値の変化量が一定値を超えた画素の位置と、輝度値の変化量が一定値を超えた時刻とを含むイベント情報を取得するイベント情報取得部と、
    前記イベント情報取得部により取得された複数の前記イベント情報のうち、前記イベント情報に含まれる時刻に基づいて2つの前記イベント情報を対応付ける対応部と、
    前記対応部により対応付けられた2つの前記イベント情報のそれぞれに含まれる画素の位置に基づき、被写体までの距離を推定する推定部と、
    を備えた3次元情報推定装置。
  6. 請求項1から請求項4のいずれか1項に記載の3次元情報推定方法をコンピュータに実行させるためのプログラム。
JP2022569414A 2020-12-17 2020-12-17 3次元情報推定方法、3次元情報推定装置およびプログラム Active JP7376839B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/047092 WO2022130555A1 (ja) 2020-12-17 2020-12-17 3次元情報推定方法、3次元情報推定装置およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2022130555A1 JPWO2022130555A1 (ja) 2022-06-23
JP7376839B2 true JP7376839B2 (ja) 2023-11-09

Family

ID=82059231

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022569414A Active JP7376839B2 (ja) 2020-12-17 2020-12-17 3次元情報推定方法、3次元情報推定装置およびプログラム

Country Status (2)

Country Link
JP (1) JP7376839B2 (ja)
WO (1) WO2022130555A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017522669A (ja) 2014-07-24 2017-08-10 ユニヴァーシテト チューリッヒ シーンのキーポイントを追跡する方法
JP2018522348A (ja) 2015-11-02 2018-08-09 三菱電機株式会社 センサーの3次元姿勢を推定する方法及びシステム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017522669A (ja) 2014-07-24 2017-08-10 ユニヴァーシテト チューリッヒ シーンのキーポイントを追跡する方法
JP2018522348A (ja) 2015-11-02 2018-08-09 三菱電機株式会社 センサーの3次元姿勢を推定する方法及びシステム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Antoni Rosinol Vidal,Ultimate SLAM? Combining Events, Images, and IMU for Robust Visual SLAM in HDR and High-Speed Scenarios,IEEE ROBOTICS AND AUTOMATION LETTERS,米国,IEEE,2018年04月,VOL.3 NO.2 APRIL 2018,P.994-1001
Javier Hidalgo Carrio,Learning Monocular Dense Depth from Events,IEEE International Conference on 3D Vision,米国,IEEE,2020年10月22日,P.1-10

Also Published As

Publication number Publication date
WO2022130555A1 (ja) 2022-06-23
JPWO2022130555A1 (ja) 2022-06-23

Similar Documents

Publication Publication Date Title
CN109155843B (zh) 图像投影***和图像投影方法
JP2019016275A (ja) 画像処理方法、画像処理プログラム、記憶媒体、画像処理装置、および撮像装置
EP3002550B1 (en) Information processing system and information processing method for distance measurement
TW201421419A (zh) 用於深度假影之消除之影像處理方法及設備
JP2016170122A (ja) 計測装置
JP7168077B2 (ja) 3次元計測システム及び3次元計測方法
TWI507808B (zh) 攝影裝置
JP2016075658A (ja) 情報処理システムおよび情報処理方法
CN107249089B (zh) 拍摄装置及方法、摄像机和物流抓拍***
JP6652047B2 (ja) 撮像装置および撮像方法
JP5857712B2 (ja) ステレオ画像生成装置、ステレオ画像生成方法及びステレオ画像生成用コンピュータプログラム
JP6877936B2 (ja) 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体
JP7376839B2 (ja) 3次元情報推定方法、3次元情報推定装置およびプログラム
WO2020183710A1 (ja) 画像処理装置及び3次元計測システム
JP2015142364A (ja) 画像処理装置、撮像装置、及び画像処理方法
JP6395429B2 (ja) 画像処理装置、その制御方法及び記憶媒体
JP2017158018A (ja) 画像処理装置およびその制御方法、撮像装置
JP2017101965A (ja) 装置
CN112866655B (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
US10192311B2 (en) Methods and apparatus for codeword boundary detection for generating depth maps
JP6642998B2 (ja) 像ズレ量算出装置、撮像装置、および像ズレ量算出方法
JP6346484B2 (ja) 画像処理装置およびその制御方法
JP6362070B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
US9229211B2 (en) Imaging apparatus, imaging control program, and imaging method
JP2008145121A (ja) 三次元形状測定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230316

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231009

R150 Certificate of patent or registration of utility model

Ref document number: 7376839

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150