JP7281760B2 - 計測システム、車両、計測装置、計測プログラム及び計測方法 - Google Patents

計測システム、車両、計測装置、計測プログラム及び計測方法 Download PDF

Info

Publication number
JP7281760B2
JP7281760B2 JP2022522192A JP2022522192A JP7281760B2 JP 7281760 B2 JP7281760 B2 JP 7281760B2 JP 2022522192 A JP2022522192 A JP 2022522192A JP 2022522192 A JP2022522192 A JP 2022522192A JP 7281760 B2 JP7281760 B2 JP 7281760B2
Authority
JP
Japan
Prior art keywords
distance
unit
patch
vehicle
measurement system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022522192A
Other languages
English (en)
Other versions
JPWO2021230314A1 (ja
Inventor
拓 妹尾
正浩 平野
則政 岸
正俊 石川
健二 鈴木
▲尭▼ 潘
笑笑 仲
浩史 丸山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KOTEI INFORMATICS CORPORATION
University of Tokyo NUC
Original Assignee
KOTEI INFORMATICS CORPORATION
University of Tokyo NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KOTEI INFORMATICS CORPORATION, University of Tokyo NUC filed Critical KOTEI INFORMATICS CORPORATION
Publication of JPWO2021230314A1 publication Critical patent/JPWO2021230314A1/ja
Application granted granted Critical
Publication of JP7281760B2 publication Critical patent/JP7281760B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication

Landscapes

  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、計測システム、車両、計測装置、計測プログラム及び計測方法に関する。
産業界において、自動車や移動ロボット等を周囲の対象物(障害物又は移動体)と衝突しないように制御することが求められている。そのために、周囲の対象物の変位・速度・加速度といった物理量の計測が求められている。特許文献1には、対象物の速度を計測可能な物体速度算出装置が開示されている。
特開2019-53011号公報
ところで、例えば自動車の隊列走行を考慮すると、衝突回避を担保しつつ車間距離を詰めて走行することができれば経済的なメリットが大きい。しかしながら、特許文献1に記載される装置は、システムの応答性が不十分で、側方からの突然の割り込みや衝突被害軽減ブレーキ等には対処できない。これは自動車に限らず、あらゆる移動体について同様のことが想定される。
本発明では上記事情に鑑み、周囲の対象物と衝突しないような制御に寄与する技術を提供することとした。
本発明の一態様によれば、対象物を計測する計測システムが提供される。この計測システムは、撮像装置と、計測装置とを備える。撮像装置は、画角に含まれる対象物の動画を撮像可能に構成される。計測装置は、距離取得部と、受付部と、パッチ設定部と、計測部とを備える。距離取得部は、ある時刻における対象物までの距離を取得するように構成される。受付部は、動画に含まれる各フレームを受け付けるように構成される。パッチ設定部は、ある時刻以後の各フレームに対して、対象物の少なくとも一部を含むパッチを設定するように構成される。計測部は、取得された距離と、フレームごとに設定されたパッチの拡大率とに基づいて、対象物までの所望時刻の距離を計測可能に構成される。
かかる計測システムによれば、周囲の対象物と衝突しないような制御に寄与する。
計測システム1の全体構成を示す概要図である。 計測装置3のハードウェア構成を示すブロック図である。 計測装置3(制御部33)の機能構成を示すブロック図である。 撮像装置2が撮像した画像IMを示す概要図であり、図4Aは、ある時刻t(k)(t=0と例示)における左画像IMa及び右画像IMbを示し、図4B及び図4Cは、ある時刻t(k)以後(t=1,2と例示)における左画像IMaを示している。 本自動車と対象物OBJの一例である前方車両との車間距離(距離d)、前方車両の相対速度v及び相対加速度aを計測した結果を示すもので、特に図5Aは、前方車両との距離dが遠い場合を示し、図5Bは前方車両との距離dが近い場合を示している。 各参考値R(k)に対する重み付けの態様を示す概要図である。 計測方法の流れを示すアクティビティ図である。 第2の実施形態に係る計測システム1のフィルタ適用手順を説明する模式図である。 予め記憶された複数のパッチPから、適当なパッチPが選択される態様を示す模式図である。 キーフレーム処理の非同期化を表す概要図である。 本自動車と対象物OBJの一例である前方車両との車間距離(距離d)、前方車両の相対速度v及び相対加速度aを計測した結果を示している。 本自動車と対象物OBJの一例である前方車両との車間距離(距離d)、前方車両の相対速度v及び相対加速度aを計測した結果を示している。 第2の実施形態に係る計測システム1の情報処理の流れの概要を示す概念図である。
以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。
ところで、本実施形態に登場するソフトウェアを実現するためのプログラムは、コンピュータが読み取り可能な非一時的な記録媒体(Non-Transitory Computer-Readable Medium)として提供されてもよいし、外部のサーバからダウンロード可能に提供されてもよいし、外部のコンピュータで当該プログラムを起動させてクライアント端末でその機能を実現(いわゆるクラウドコンピューティング)するように提供されてもよい。
また、本実施形態において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものも含みうる。また、本実施形態においては様々な情報を取り扱うが、これら情報は、例えば電圧・電流を表す信号値の物理的な値、0又は1で構成される2進数のビット集合体としての信号値の高低、又は量子的な重ね合わせ(いわゆる量子ビット)によって表され、広義の回路上で通信・演算が実行されうる。
また、広義の回路とは、回路(Circuit)、回路類(Circuitry)、プロセッサ(Processor)、及びメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものである。
1.ハードウェア構成
本節では、本実施形態に係る計測システム1のハードウェア構成について説明する。
1.1 計測システム1
図1は、計測システム1の全体構成を示す概要図である。対象物OBJを計測する計測システム1は、撮像装置2と、計測装置3とを備え、これらが電気的に接続されたシステムである。計測システム1は、移動体に設置して使用することが好ましい。移動体とは、例えば、自動車、列車(公共交通機関だけでなく遊戯用等も含む)等の車両、船舶、移動型ロボット、ドローンや各種飛行体、ヒト、動物等が想定される。本明細書では、例として自動車を取り上げて説明を行い、計測システム1が搭載された自動車を「本自動車」と定義する。すなわち、計測システム1は、車両に載置されたもの(車両が計測システム1を備える)で、対象物OBJが車両に対する障害物又は他車両である。
1.2 撮像装置2
撮像装置2は、外界の情報を画像として取得可能に構成される、いわゆるビジョンセンサ(カメラ)であり、特に高速ビジョンと称する撮像レート(以後周波数fと称する)が高いものが採用されることが好ましい。
すなわち、撮像装置2は、画角に含まれる対象物OBJの動画を周波数fで撮像可能に構成される。好ましくは、撮像装置2の周波数fは、100Hz以上であり、具体的には例えば、100,125,150,175,200,225,250,275,300,325,350,375,400,425,450,475,500,525,550,575,600,625,650,675,700,725,750,775,800,825,850,875,900,925,950,975,1000,1025,1050,1075,1100,1125,1150,1175,1200,1225,1250,1275,1300,1325,1350,1375,1400,1425,1450,1475,1500,1525,1550,1575,1600,1625,1650,1675,1700,1725,1750,1775,1800,1825,1850,1875,1900,1925,1950,1975,2000Hzであり、ここで例示した数値の何れか2つの間の範囲内であってもよい。
ここで、撮像装置2は、異なる視点を有する2以上のカメラを含む。好ましくは、撮像装置2は、左カメラ2a及び右カメラ2bからなる、いわゆる2眼の撮像装置である。また、左カメラ2aの画角及び右カメラ2bの画角は、互いに重複する領域があることに留意されたい。また、撮像装置2において、可視光だけではなく紫外域や赤外域といったヒトが知覚できない帯域を計測可能なカメラを単独で、又は適宜、複数組み合せて採用してもよい。このようなカメラを採用することによって、暗視野であっても本実施形態に係る計測システム1を用いた計測を実施することができる。
(左カメラ2a)
左カメラ2aは、計測システム1において、右カメラ2bと並列に設けられ、本自動車の左側前方を撮像可能に構成される。具体的には、左カメラ2aの画角に、本自動車の前方に延在する路面又は前方に位置する障害物(例えば、前方車両、歩行者、動物等)がとらえられる。また、左カメラ2aは、後述の計測装置3における通信部31と電気通信回線(例えばUSBケーブル等)で接続され、撮像した画像を計測装置3に転送可能に構成される。
(右カメラ2b)
右カメラ2bは、計測システム1において、左カメラ2aと並列に設けられ、本自動車の右側前方を撮像可能に構成される。具体的には、右カメラ2bの画角に、本自動車の前方に延在する路面又は前方に位置する前方車両(すなわち障害物)がとらえられる。また、右カメラ2bは、後述の計測装置3における通信部31と電気通信回線(例えばUSBケーブル等)で接続され、撮像した画像を計測装置3に転送可能に構成される。
換言すると、撮像装置2は、左カメラ2a及び右カメラ2bの画角に含まれる対象物OBJを、左画像IMa及び右画像IMbとして時系列に動画として撮像可能に構成される。
1.3 計測装置3
図2は、計測装置3のハードウェア構成を示すブロック図である。図2に示されるように、計測装置3は、通信部31と、記憶部32と、制御部33とを有し、これらの構成要素が計測装置3の内部において通信バス30を介して電気的に接続されている。以下、各構成要素についてさらに説明する。
(通信部31)
通信部31は、USB、IEEE1394、Thunderbolt、有線LANネットワーク通信等といった有線型の通信手段が好ましいものの、無線LANネットワーク通信、3G/LTE/5G等のモバイル通信、Bluetooth(登録商標)通信等を必要に応じて含めてもよい。すなわち、これら複数の通信手段の集合として実施することがより好ましい。特に、前述の撮像装置2における左カメラ2a及び右カメラ2bとは、所定の高速通信規格(例えば、USB3.0やカメラリンク等)において通信することで、画像を受信可能に構成されることが好ましい。また、計測システム1が計測する対象物OBJの物理量(距離、速度又は加速度)や本自動車の速度等を表示するためのモニター(不図示)や、計測結果に基づいて本自動車を自動制御(自動運転)するための自動制御装置(不図示)が接続されてもよい。
(記憶部32)
記憶部32は、前述の記載により定義される様々な情報を記憶する。これは、例えばソリッドステートドライブ(Solid State Drive:SSD)等のストレージデバイスとして、あるいは、プログラムの演算に係る一時的に必要な情報(引数、配列等)を記憶するランダムアクセスメモリ(Random Access Memory:RAM)等のメモリとして実施されうる。また、これらの組合せであってもよい。
特に、記憶部32は、撮像装置2における左カメラ2a及び右カメラ2bによって撮像され、且つ通信部31が受信した画像IM(左画像IMa及び右画像IMb)を記憶する。ここで、画像IMは、例えばRGB各8ビットのピクセル情報を具備する配列情報である。
また、記憶部32は、次に説明する制御部33が読み出し可能な各種のプログラムを記憶している。
(制御部33)
制御部33は、計測装置3に関連する全体動作の処理・制御を行う。制御部33は、例えば不図示の中央処理装置(Central Processing Unit:CPU)である。制御部33は、記憶部32に記憶された所定のプログラムを読み出すことによって、計測装置3に係る種々の機能を実現する。すなわち、ソフトウェア(記憶部32に記憶されている)による情報処理がハードウェア(制御部33)によって具体的に実現されることで、図3に示されるように、制御部33における各機能部として実行されうる。これらについては、第2節において詳述する。
なお、図2においては、単一の制御部33として表記されているが、実際はこれに限るものではなく、機能ごとに複数の制御部33を有するように実施してもよい。またそれらの組合せであってもよい。
2.機能構成
本節では、本実施形態の機能構成について説明する。図3は、計測装置3(制御部33)の機能構成を示すブロック図である。図4は、撮像装置2が撮像した画像IMを示す概要図であり、図4Aは、ある時刻t(k)(t=0と例示)における左画像IMa及び右画像IMbを示し、図4B及び図4Cは、ある時刻t(k)以後(t=1,2と例示)における左画像IMaを示している。前述の制御部33に関して、計測装置3は、受付部330と、距離取得部331と、パッチ設定部332と、演算部333と、計測部334と、ペダルワーク推定部335とを備える。以下、各構成要素についてさらに説明する。
(受付部330)
受付部330は、撮像装置2によって撮像された動画に含まれる各フレームを受け付けるように構成される。具体的には、受付部330は、通信部31を介して左画像IMa及び右画像IMbを受信し、これらを記憶部32に記憶させる。また、計測装置3が撮像装置2以外の他の機器と接続されている場合は、それらの機器から送信された情報を受信するように実施してもよい。
(距離取得部331)
距離取得部331は、ある時刻t(k|k=0,1,2・・・)における対象物OBJまでの距離d(k)を取得するように構成される。すなわち、ある時刻t(k)とは、複数の時刻であり、例えば、ある時刻t(k)とは、計測を開始した初期時刻t(0)である。距離取得部331は、周波数fよりも低い周波数gで距離d(k)をある時刻t(k)ごとに取得するように構成される。ところで前述の通り、撮像装置2が左カメラ2a及び右カメラ2bを有する。したがって、好ましくは、距離取得部331は、ある時刻t(k)において異なる視点で撮像された2以上の画像IM(左画像IMa及び右画像IMb)を用いた多視点画像処理に基づいて、距離d(k)を取得するように構成される。
多視点画像処理の一例としては三角測量が挙げられる。三角測量では、左画像IMa及び右画像IMbそれぞれの画像中における対象物OBJの位置を画像処理によって求め、その位置の差と、実際の左カメラ2a及び右カメラ2bの距離(基線)とから、対象物OBJまでの距離d(k)が算出される。このように三角測量を用いることで、距離取得部331が精度高く距離d(k)を取得することができる。ただし、三角測量は相応の計算時間を要するため、距離取得部331は、計測システム1が実時間でも動作する程度の周波数gである時刻t(k)ごとに取得することとしている。ある時刻t(k)に相当するフレームは、キーフレーム(KF)と称される。
周波数gの値は特に限定されず、撮像装置2の周波数f(フレームレート)と同じでもよいし、同じでなくてもよい。好ましくは、g≦fであり、さらに好ましくは、周波数gは、100Hz以下であり、具体的には例えば、具体的には例えば、100,95,90,85,80,75,70,65,60,55,50,45,40,35,30,25,20,15,10,5Hzであり、ここで例示した数値の何れか2つの間の範囲内であってもよい。
(パッチ設定部332)
パッチ設定部332は、ある時刻t(k)以後の各フレームに対して、対象物OBJの少なくとも一部を含むパッチPを設定するように構成される。より詳細には、パッチ設定部332は、各ある時刻t(k)以後且つその次のある時刻t(k+1)以前の各フレームに対して、対象物OBJの少なくとも一部を含むパッチPを設定するように構成される。
例えば、ある時刻t(0)以後且つその次のある時刻t(1)以前の各フレームに対して、対象物OBJを含むパッチPが設定される。同様に、ある時刻t(1)以後且つその次のある時刻t(2)以前の各フレームに対して、再び対象物OBJを含むパッチPが設定される。これが繰り返される。なお、パッチPの設定は、周期的又は定期的に実施されてもよいし、対象物OBJまでの距離dや相対速度v等に基づいて、不定期又は可変に実施されてもよい。パッチPの設定方法は、特に限定されるものではないが、例えば、記憶部32に種々の対象物OBJとこれらに対する矩形領域との相関を予め学習させた学習済みモデルを記憶させ、パッチ設定部332がかかる学習済みモデルに基づいて、パッチPを設定するとよい。特に好ましくは、学習済みモデルによって得られる矩形領域(バウンディングボックス)に対して、各座標や高さ等を調整したものがパッチPとして使用されるとよい。また、パッチPは正方形に設定されるとよい。特に正方形状にパッチPを設定することによって計算コストを削減し、撮像装置2における高い周波数fで各フレームごとにパッチPを設定・更新することができる。
また、ある時刻t(0)、t(1)・・・での深層学習を実施するため、ある時刻t(k)から次のある時刻t(k+1)までの間の時刻においては、ある時刻t(k)に設定されたパッチPと同じ位置及び大きさのパッチPを切り出して計測に使用することとなる。
(演算部333)
演算部333は、ある時刻t(k)ごとに設定された複数のパッチP(k)に対する所望時刻のパッチPの拡大率と、これに基づく複数の、所望時刻(例えば現在時刻)の距離dの参考値R(k)を演算する。つまり、距離取得部331によって取得された距離d(k)及びこれに対応するパッチP(k)を基準として、所望時刻におけるフレームのパッチPの拡大率に基づいて、対象物OBJまでの所望時刻の距離dの参考値R(k)が導出される。複数の参考値R(k)は、記憶部32にそれぞれ記憶される。
より具体的に説明する。例えば、対象物OBJが本自動車の前方車両であれば、本自動車と前方車両との距離は、刻一刻と変化する。したがって、図4A~図4Cに示されるように、パッチ設定部332によって設定されたパッチP内のコンテンツ(対象物OBJの少なくとも一部が該当)の大きさも、フレームごとに変化することとなる。本実施形態では、キーフレーム(ある時刻t(k))において取得した距離d(k)と、そのキーフレームにおけるパッチP内のコンテンツの大きさ(以後パッチPの拡大率と称する)とを紐付け、その以後の各フレームでは、パッチPの拡大率から距離dの参考値R(k)を演算することとしている。
ここで、好ましくは、演算部333は、フレームに対してフーリエ変換を行ったパワースペクトルに対して、対数極座標変換と位相限定相関法とを用いて、パッチP間に含まれるコンテンツ(対象物OBJの少なくとも一部)のマッチングをとることでパッチの拡大率Pを演算する。パワースペクトルによってブレの影響を除去できる。また、対数極座標変換と位相限定相関法とによって、コンテンツの、平行移動、回転及び拡大縮小変位を得ることができる。すなわち、この拡大縮小変位がパッチPの拡大率である。もちろん、あくまでも一例でありこの限りではない。なお、計測装置3の制御レートがボトルネックとならない場合であれば、最大で撮像装置2の周波数fで距離dを計測することができる。
なお、さらに好ましくは、距離dの参考値R(k)のサンプル数は、本自動車又は他車両の速度によって可変に構成される。これについては第3節でさらに詳述する。
(計測部334)
計測部334は、取得された距離d(k)と、フレームごとに設定されたパッチPの拡大率とに基づいて、対象物OBJまでの所望時刻の距離dを計測可能に構成される。好ましくは、計測部334は、複数の参考値R(k)に重み付け演算をすることで、所望時刻の距離dを計測可能に構成される。重み付けの手法は特に限定されず、例えば、ロバスト推定であるM推定やRANSAC等が適宜採用されうる。本実施形態において、計測システム1は本自動車に搭載されていることから、所望時刻の一例としては現在時刻が挙げられる。
さらに好ましくは、計測部334は、計測された対象物OBJまでの所望時刻の距離dに対してフィルタを適用することで、本自動車に対する対象物OBJの相対速度v又は相対加速度aを推定的に計測可能に構成される。換言すると、外れ値等を除外してより正確に物理量を計測するために、計測部334は、フィルタを用いて、相対速度vや相対加速度a等の物理量を推定的に計測することとしている。このフィルタは、例えば、カルマンフィルタやベイズフィルタ等、制御系の状態空間を推定するものであれば特に限定されるものではない。図5は、本自動車と対象物OBJの一例である前方車両との車間距離(距離d)、前方車両の相対速度v及び相対加速度aを計測した結果を示すもので、特に図5Aは、前方車両との距離dが遠い場合を示し、図5Bは前方車両との距離dが近い場合を示している。なお、別途本自動車の速度及び加速度を計測する他の技術を併用すれば、対象物OBJの一例である前方車両の速度及び加速度を計測することも可能である。
(ペダルワーク推定部335)
ペダルワーク推定部335は、計測された距離dに基づいて、他車両のペダルワークを推定するように構成される。計測システム1によれば、高い時間分解能且つ素早い応答速度で前方車両(対象物OBJ)との車間距離を計測することができる。ペダルワーク推定部335は、このように計測された距離dと、本自動車の運動挙動(既存の他の技術を併用)とに基づいて、前方車両の運転者又は自動運転機能が、アクセルやブレーキをどのように踏んでいるかを示すペダルワークを推定することができる。ペダルワークの推定にあたっては、車種等により個体差があることから、前方車両の車種を認識させて、予め記憶部32に記憶させた車種ごとのペダルワークをまとめたルックアップテーブルや学習済みモデル等に基づいて、ペダルワーク推定部335がペダルワークを推定可能に構成されるとよい。
より詳細には、加速度等の高次の微分情報が計測可能となることにより、前方車両のペダルワークを推定することができる。この情報に基づいて本自動車を自動運転に応用するにあたって、加減速の頻度を抑えることにより、エネルギー効率の高い制御挙動(電気自動車に搭載されるバッテリーの消耗度合いを減少させる等)が可能となることも期待される。さらには、電気自動車における回生システムとの連携も効率化できると考えており、ブレーキを踏んでいるときのみエネルギー回生を行うなど発展的な回生システムの開発が期待される。
このように、前方車両のペダルワークを推定することによって、今後の自動運転技術等の発展に大きく貢献すると期待される。特に、衝突回避を担保しつつ車間距離を詰めた隊列走行をすることが可能となり、経済的な効果が大きいと考えられる。また、前方車両はあくまでも一例であり、後続車両や四方を走行中の車両のペダルワーク推定、前方車両の速度推定、又は加減速推定を行うこともできる。これにより、車両の交差点通過、右左折、合流、割り込み、混雑時等の運転行動予測を可能とする。すなわち、運転者又は自動運転機能の運転の癖を考慮した車間距離制御や停止制御が可能となり、交通の安全性担保に寄与する。
3.車速に応じたサンプル数の設定
本節では、車速に応じたサンプル数の設定について、対象物OBJが本自動車の前方を走行する前方車両として詳述する。図6は、各参考値R(k)に対する重み付けの態様を示す概要図である。図6に示されるように、過去に設定された各パッチP(k)及び距離d(k)に基づいて導出された距離dの参考値R(k)に対して、それぞれ重み付けを行うことで、計測部334によって計測される距離dの精度を高めることができる。また、前述の通り、好ましくは、参考値R(k)のサンプル数は、本自動車又は前方車両の速度によって可変に構成される。より好ましくは、本自動車に対する前方車両の相対速度vによって可変に構成される。図6に示される例では、R(k),R(k-1),R(k-2)の3つのサンプルに対して重み付けを行って、距離dが計測されている。
本自動車及び前方車両を含む隊列走行がなされる場合、その車間距離は予め定められたTHW(Time Headway)に応じて決定されることが多い。例えば、高速走行時であれば、車間距離は相対的に長くなり、低速走行時は車間距離が相対的に短くなる。
すなわち、高速走行時は、前方車両が遠方にあるため、ある時刻t(k)に取得された距離d(k)及びこれを参照して計測される所望時刻の距離dの推定精度が低くなる。したがって、参考値Rのサンプル数を多くすることで精度を維持する必要がある。
一方、低速走行時は、前方車両が近くにあるため、ある時刻t(k)に取得された距離d(k)及びこれを参照して計測される所望時刻の距離dの推定精度は高くなる。したがって、参考値Rのサンプル数を少なくすることで、計算コストを抑制することができる。
なお、参考値Rのサンプル数は、車速によって大小があるものの、例えば、5以上500以下であればよい。具体的には例えば、5,10,15,20,25,30,35,40,45,50,55,60,65,70,75,80,85,90,95,100,105,110,115,120,125,130,135,140,145,150,155,160,165,170,175,180,185,190,195,200,205,210,215,220,225,230,235,240,245,250,255,260,265,270,275,280,285,290,295,300,305,310,315,320,325,330,335,340,345,350,355,360,365,370,375,380,385,390,395,400,405,410,415,420,425,430,435,440,445,450,455,460,465,470,475,480,485,490,495,500であり、ここで例示した数値の何れか2つの間の範囲内であってもよい。
4.計測方法
本節では、対象物OBJを計測する計測方法について詳述する。対象物OBJを計測する計測方法は、撮像ステップと、距離取得ステップと、パッチ設定ステップと、計測ステップとを備える。撮像ステップでは、画角に含まれる対象物OBJの動画を撮像する。距離取得ステップでは、ある時刻t(k)における対象物OBJまでの距離dを取得する。パッチ設定ステップでは、動画に含まれるある時刻t(k)以後の各フレームに対して、対象物OBJの少なくとも一部を含むパッチPを設定する。計測ステップでは、取得された距離dと、フレームごとに設定されたパッチPの拡大率とに基づいて、対象物OBJまでの所望時刻の距離dを計測する。
図7は、計測方法の流れを示すアクティビティ図である。以下、図7における各アクティビティに沿ってこの計測方法を具体的に説明する。なお、図示の通り、アクティビティA1~A5は、時系列で繰り返される。
[ここから]
(アクティビティA1)
撮像装置2(左カメラ2a及び右カメラ2b)が対象物を100fps以上の撮像レートで画像(左画像IMa及び右画像IMb)として撮像する。
(アクティビティA2)
受付部330が画像IMを受け付ける。パッチ設定部332が画像IMに対してパッチP(k)を設定する。
(アクティビティA3)
画像IMがキーフレーム(すなわちある時刻t(k))である場合は、距離取得部331が三角測量によって、対象物OBJまでの距離d(k)を取得する。
(アクティビティA4)
演算部333が、パッチPの拡大率を演算することで、距離dの参考値Rを演算する。より具体的には、演算部333が、各パッチP(k),P(k-1),P(k-2)…と、その際に取得された距離d(k),d(k-1),d(k-2)…とに基づいて、所望時刻(例えば現在)の距離dの参考値R(k),R(k-1),R(k-2)…を演算し、その結果を記憶部32に記憶させる。なお、各パッチP(k),P(k-1),P(k-2)…と、その際に取得された距離d(k),d(k-1),d(k-2)…とは、すでに記憶部32に記憶されたものを制御部33が読み出されている。
(アクティビティA5)
計測部334が、参考値R(k),R(k-1),R(k-2)…に対して重み付け演算を実行して、所望時刻(例えば現在)の距離dを計測する。なお、本自動車の車速に応じて、参考値R(k)のサンプル数を可変としてもよい。また、必要に応じて、カルマンフィルタ等のフィルタを用いて、相対速度vや相対加速度aを計測するようにしてもよい。さらに、ペダルワーク推定部335によって前方車両のペダルワークが推定されてもよい。
[ここまで]
このような計測方法によれば、周囲の対象物OBJと衝突しないような制御に寄与する。特に、本自動車及び前方車両を含めて、従来よりも車間距離を詰めることも可能となる。そして、複数の車両が車間距離を詰めて走行することにより、経済的に大きな効果が得られる。また、いわゆるACC(Adaptive Cruise Control)と呼ばれる前車追従装置において、適切な車間距離を維持することで、燃費向上、渋滞防止、割込み事故防止に寄与する。
5.第2の実施形態
続いて、第2の実施形態に係る計測システム1について説明する。第2の実施形態に係る計測システム1では、車両同士が重畳した場合や、車間距離変化によって車両画像の大きさが変化した場合に対して、各車両の大きさに合わせたBounding box(BB)を適切に生成可能なトラッキング手法が提供される。これにより、継続して安定した時系列情報が取得可能になり、各車両の距離・速度をロバストに求めることができる。
特に、前方車は前々方車の全体を完全に遮蔽することはなく、その一部を視認することができる状態であると仮定する。緊急ブレーキ等の応用を考慮すると、精度だけでなく高速性も重要な要素であると考え、物体追跡手法であるMinimum Output Sum of Squared Error(MOSSE)を改良することが好ましい。一般的に使われるトラッキング手法に比べて、MOSSEは、計算時間の少ない手法となっている。本実施形態では、高フレームレートのカメラを使用する条件のもと、画像変動が少ない特徴を利用しながら、計算コストと精度のバランスを図るようにアルゴリズムを調整する。
図8は、第2の実施形態に係る計測システム1のフィルタ適用手順を説明する模式図である。MOSSEでは、Bounding box内の対象、すなわち前方車両を学習する機能が備わっているが、本実施形態では、図左カメラ2aから得られる左画像IMaと、右カメラ2bから得られる右画像IMbとに対してかけるフィルタを共有することが好ましい。このような態様によれば、従来のように、各撮像装置2ごとにフィルタを用いて対象をトラッキングする場合に比べ、精度及び頑健性の高いトラッキングを実現することができる。
また、第2の実施形態に係る計測システム1では、記憶部32が複数のパッチPを予め記憶していることが好ましい。キーフレームにおいては、パッチ設定部332は、予め記憶された複数のパッチPのうち、Bounding boxの大きさがトラッキング対象である前方車の大きさに合うパッチPを選択して、これを設定する。
パッチ設定部332は、予め設定された複数のパッチPのうちから1つを選択することで、対象物OBJの少なくとも一部を含むパッチPを設定するように構成されるとよい。好ましくは、パッチPの大きさ(パッチサイズ)は、予め離散的に定めておいたサイズから選択し、事前計算しておいたキーフレームにおけるパッチサイズと同じ大きさになりやすいようにするとよい。このためには、現在のフレームにおけるパッチサイズと同じサイズを有するパッチPに関して、キーフレームにおいて事前処理が済んでいるとよい。すなわち、パッチ設定部332は、ある時刻のフレームにおいて、複数のパッチPに対する予め定められた処理を実行する。事前処理については後述する。
さらに、利用可能なキーフレームの数を増やすため、事前に複数の大きさのパッチPが記憶部32に記憶されているとよい。図9は、予め記憶された複数のパッチPから、適当なパッチPが選択される態様を示す模式図である。このような態様によれば、急減速や急加速等のスケール変化が激しいシーンでも、適切なパッチPを選択することができ、より高い精度の推定が可能となる。
ここで、キーフレームにおけるパッチPの事前処理についてさらに説明する。第1の実施形態においても述べたように、キーフレームと現在のフレームとから同じ大きさのパッチPを切り取り且つ対数極座標変換を施した画像に対して、位相限定相関法を用いることで、各フレームにおけるパッチPの拡大率が推定されている。本実施形態では、かかる処理において、対数極座標変換や離散フーリエ変換等の、キーフレームに対する処理を事前に計算しておくことが好ましい。
さらに、このような処理を、トラッキングとは非同期に実施することが好ましい。非同期とすることで、キーフレームの、事前処理の済んだパッチPだけを、拡大率の推定に利用することができる。図10は、キーフレーム処理の非同期化を表す概要図である。図10に示されるように、現在時刻において、キーフレームKF1~KF3でのパッチPの事前処理が完了しているものの、キーフレームKF4でのパッチPの事前処理が完了していない。このため、現在時刻のフレームにおけるパッチPの拡大率の推定には、キーフレームKF1~KF3でのパッチPが用いられる。
図11及び図12は、本自動車と対象物OBJの一例である前方車両との車間距離(距離d)、前方車両の相対速度v及び相対加速度aを計測した結果を示している。図11では、道路がカーブしている場合が示され、図12では、道路に勾配がある場合が示されている。このように、第2の実施形態に係る計測システム1によれば、道路が所定の条件を有する場合であっても、第1の実施形態に比してさらに頑健性を有して、前方車両を認識することができる。その結果、周囲の対象物OBJと衝突しないような制御に寄与する。特に、本自動車及び前方車両を含めて、従来よりも車間距離を詰めることも可能となる。そして、複数の車両が車間距離を詰めて走行することにより、経済的に大きな効果が得られる。また、いわゆるACC(Adaptive Cruise Control)と呼ばれる前車追従装置において、適切な車間距離を維持することで、燃費向上、渋滞防止、割込み事故防止に寄与する。
図13は、第2の実施形態に係る計測システム1の情報処理の流れの概要を示す概念図である。前述した第2の実施形態に係る計測システム1の動作については、図13を合わせて参照されたい。
6.その他
次のような態様によって、本実施形態に係る計測システム1をさらに創意工夫してもよい。
(1)例えば計測システム1を搭載した本自動車であれば、計測された対象物OBJの物理量に基づいて、一部又は全部について自動運転がなされてもよい。例えば、衝突を回避するためのブレーキ動作や、ハンドル動作が考えられうる。また、計測された対象物OBJの認識状況を、本自動車の運転者が認知できるように、本自動車内に取り付けられたモニターに表示されるように実施してもよい。
(2)前述の実施形態では、左カメラ2a及び右カメラ2bからなる2眼の撮像装置2を用いているが、3つ以上のカメラを用いた3眼以上の撮像装置2を実施してもよい。この際、異なる種類のカメラ(例えば、可視光カメラ及び赤外線カメラ)を組み合わせて実施してもよい。カメラの個数を増やすことで、計測システム1による計測に係るロバスト性が向上する。あるいは、多視点画像処理に基づく距離d(k)の取得を行うための別のカメラを用いてもよく、このカメラは前述の周波数g(周波数fよりも低い)相当の撮像レートを有するものでよい。解像度は、高いことが好ましい。
(3)撮像装置2及び計測装置3を備える計測システム1としてではなく、計測装置3を単体で実施してもよい。このような計測装置3を、事後的に距離dを計測可能なドライブレコーダやドライブシミュレータ等に応用することができる。かかる場合、パッチ設定部332は、ある時刻t(k)以前又は以後の各フレームに対して、対象物OBJの少なくとも一部を含むパッチPを設定するように構成される。
(4)コンピュータを計測装置3として機能させる計測プログラムを実施してもよい。
(5)距離取得部331による距離d(k)の取得は、2眼の撮像装置2を用いた三角測量に限らず、他の手法によって実現してもよい。例えば撮像装置2以外のセンサ、例えば、レーザ変位センサ、赤外線センサ等を用いる態様であってもよい。
(6)本自動車に代えて、ドローン等3次元に移動可能な移動体に計測システム1を搭載してもよい。かかる場合、位相限定相関法に基づくスケールを用いて距離dを推定することに代えて、予め画像と距離dとの関係を深層学習によって学習させた学習済みモデルを用いて、対象物OBJとなる他の3次元移動体の距離dを推定可能に実施されてもよい。
(7)重み付けされた複数の参考値R(k)に代えて、複数の参考値R(k)を非線形な関数に入力した値を用いてもよい。
さらに、次に記載の各態様で提供されてもよい。
前記計測システムにおいて、前記撮像装置は、異なる視点を有する2以上のカメラを含み、前記距離取得部は、前記ある時刻において前記異なる視点で撮像された2以上の画像に基づいて、前記距離を取得するように構成される、もの。
前記計測システムにおいて、前記撮像装置は、周波数fで前記動画を撮像可能に構成され、前記ある時刻は、複数の時刻であり、前記距離取得部は、前記周波数fよりも低い周波数gで前記距離を前記ある時刻ごとに取得するように構成され、前記パッチ設定部は、各ある時刻以後且つその次のある時刻以前の各フレームに対して、前記対象物の少なくとも一部を含むパッチを設定するように構成される、もの。
前記計測システムにおいて、前記周波数fは、100Hz以上である、もの。
前記計測システムにおいて、演算部をさらに備え、前記演算部は、前記ある時刻ごとに設定された複数のパッチに対する所望時刻のパッチの拡大率と、これに基づく複数の、前記所望時刻の距離の参考値を演算するように構成され、前記計測部は、複数の前記参考値に重み付け演算をすることで、前記所望時刻の距離を計測可能に構成される、もの。
前記計測システムにおいて、前記演算部は、前記フレームに対してフーリエ変換を行ったパワースペクトルに対して、対数極座標変換と位相限定相関法とを用いて、前記パッチ間に含まれる前記対象物の少なくとも一部のマッチングをとることで、前記パッチの拡大率を演算するように構成される、もの。
前記計測システムにおいて、車両に載置されたもので、前記対象物は、前記車両に対する障害物又は他車両である、もの。
前記計測システムにおいて、ペダルワーク推定部をさらに備え、前記ペダルワーク推定部は、計測された前記距離に基づいて、前記他車両のペダルワークを推定するように構成される、もの。
前記計測システムにおいて、前記参考値のサンプル数は、前記車両又は前記他車両の速度によって可変に構成される、もの。
前記計測システムにおいて、前記計測部は、計測された前記対象物までの前記所望時刻の距離に対してフィルタを適用することで、前記対象物の速度又は加速度を推定的に計測可能に構成される、もの。
前記計測システムにおいて、記憶部をさらに備え、前記記憶部は、種々の対象物とこれらに対する矩形領域との相関を予め学習させた学習済みモデルを記憶し、前記パッチ設定部は、前記学習済みモデルに基づいて、前記パッチを設定するように構成される、もの。
前記計測システムにおいて、前記パッチ設定部は、予め設定された複数のパッチのうちから1つを選択することで、前記対象物の少なくとも一部を含むパッチを設定するように構成される、もの。
前記計測システムにおいて、前記パッチ設定部は、前記ある時刻のフレームにおいて、前記複数のパッチに対する予め定められた処理を実行する、もの。
車両であって、前記計測システムを備える、もの。
対象物を計測する計測装置であって、距離取得部と、受付部と、パッチ設定部と、計測部とを備え、前記距離取得部は、ある時刻における前記対象物までの距離を取得するように構成され、前記受付部は、動画に含まれる各フレームを受け付けるように構成され、ここで前記動画は、画角に含まれる前記対象物を撮像した動画で、前記パッチ設定部は、前記ある時刻以前又は以後の各フレームに対して、前記対象物の少なくとも一部を含むパッチを設定するように構成され、前記計測部は、取得された前記距離と、前記フレームごとに設定された前記パッチの拡大率とに基づいて、前記対象物までの所望時刻の距離を計測可能に構成される、もの。
計測プログラムであって、コンピュータを前記計測システムとして機能させる、もの。
対象物を計測する計測方法であって、撮像ステップと、距離取得ステップと、パッチ設定ステップと、計測ステップとを備え、前記撮像ステップでは、画角に含まれる前記対象物の動画を撮像し、前記距離取得ステップでは、ある時刻における前記対象物までの距離を取得し、前記パッチ設定ステップでは、前記動画に含まれる前記ある時刻以後の各フレームに対して、前記対象物の少なくとも一部を含むパッチを設定し、前記計測ステップでは、取得された前記距離と、前記フレームごとに設定された前記パッチの拡大率とに基づいて、前記対象物までの所望時刻の距離を計測する、方法。
もちろん、この限りではない。
最後に、本発明に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。当該新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。当該実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 :計測システム
2 :撮像装置
2a :左カメラ
2b :右カメラ
3 :計測装置
30 :通信バス
31 :通信部
32 :記憶部
33 :制御部
330 :受付部
331 :距離取得部
332 :パッチ設定部
333 :演算部
334 :計測部
335 :ペダルワーク推定部
D :重み付け距離データ
IM :画像
IMa :左画像
IMb :右画像
OBJ :対象物
P :パッチ
a :加速度
d :距離
f :周波数
g :周波数
t :時刻
v :速度

Claims (16)

  1. 対象物を計測する計測システムであって、
    撮像装置と、計測装置とを備え、
    前記撮像装置は、画角に含まれる前記対象物の動画を周波数fで撮像可能に構成され、
    前記計測装置は、距離取得部と、受付部と、パッチ設定部と、計測部とを備え、
    前記距離取得部は、ある時刻における前記対象物までの距離を取得するように構成され、
    前記ある時刻は、複数の時刻であり、
    前記距離取得部は、前記周波数fよりも低い周波数gで前記距離を前記ある時刻ごとに取得するように構成され、
    前記受付部は、前記動画に含まれる各フレームを受け付けるように構成され、
    前記パッチ設定部は、各ある時刻以後且つその次のある時刻以前の各フレームに対して、前記対象物の少なくとも一部を含むパッチを設定するように構成され、
    前記計測部は、取得された前記距離と、前記フレームごとに設定された前記パッチの拡大率とに基づいて、前記対象物までの所望時刻の距離を計測可能に構成される、もの。
  2. 請求項1に記載の計測システムにおいて、
    前記撮像装置は、異なる視点を有する2以上のカメラを含み、
    前記距離取得部は、前記ある時刻において前記異なる視点で撮像された2以上の画像に基づいて、前記距離を取得するように構成される、もの。
  3. 請求項1又は請求項2に記載の計測システムにおいて、
    前記周波数fは、100Hz以上である、もの。
  4. 請求項1~請求項3の何れか1つに記載の計測システムにおいて、
    演算部をさらに備え、
    前記演算部は、前記ある時刻ごとに設定された複数のパッチに対する所望時刻のパッチの拡大率と、これに基づく複数の、前記所望時刻の距離の参考値を演算するように構成され、
    前記計測部は、複数の前記参考値に重み付け演算をすることで、前記所望時刻の距離を計測可能に構成される、もの。
  5. 請求項に記載の計測システムにおいて、
    前記演算部は、前記フレームに対してフーリエ変換を行ったパワースペクトルに対して、対数極座標変換と位相限定相関法とを用いて、前記パッチ間に含まれる前記対象物の少なくとも一部のマッチングをとることで、前記パッチの拡大率を演算するように構成される、もの。
  6. 請求項に記載の計測システムにおいて、
    車両に載置されたもので、
    前記対象物は、前記車両に対する障害物又は他車両である、もの。
  7. 請求項に記載の計測システムにおいて、
    ペダルワーク推定部をさらに備え、
    前記ペダルワーク推定部は、計測された前記距離に基づいて、前記他車両のペダルワークを推定するように構成される、もの。
  8. 請求項又は請求項に記載の計測システムにおいて、
    前記参考値のサンプル数は、前記車両又は前記他車両の速度によって可変に構成される、もの。
  9. 請求項1~請求項の何れか1つに記載の計測システムにおいて、
    前記計測部は、計測された前記対象物までの前記所望時刻の距離に対してフィルタを適用することで、前記対象物の速度又は加速度を推定的に計測可能に構成される、もの。
  10. 請求項1~請求項の何れか1つに記載の計測システムにおいて、
    記憶部をさらに備え、
    前記記憶部は、種々の対象物とこれらに対する矩形領域との相関を予め学習させた学習済みモデルを記憶し、
    前記パッチ設定部は、前記学習済みモデルに基づいて、前記パッチを設定するように構成される、もの。
  11. 請求項1~請求項10の何れか1つに記載の計測システムにおいて、
    前記パッチ設定部は、予め設定された複数のパッチのうちから1つを選択することで、前記対象物の少なくとも一部を含むパッチを設定するように構成される、もの。
  12. 請求項11に記載の計測システムにおいて、
    前記パッチ設定部は、前記ある時刻のフレームにおいて、前記複数のパッチに対する予め定められた処理を実行する、もの。
  13. 車両であって、
    請求項1~請求項12の何れか1つに記載の計測システムを備える、もの。
  14. 対象物を計測する計測装置であって、
    距離取得部と、受付部と、パッチ設定部と、計測部とを備え、
    前記距離取得部は、ある時刻における前記対象物までの距離を取得するように構成され、
    前記ある時刻は、複数の時刻であり、
    前記距離取得部は、周波数fよりも低い周波数gで前記距離を前記ある時刻ごとに取得するように構成され、
    前記受付部は、動画に含まれる各フレームを受け付けるように構成され、ここで前記動画は、画角に含まれる前記対象物を前記周波数fで撮像した動画で、
    前記パッチ設定部は、各ある時刻以後且つその次のある時刻以前の各フレームに対して、前記対象物の少なくとも一部を含むパッチを設定するように構成され、
    前記計測部は、取得された前記距離と、前記フレームごとに設定された前記パッチの拡大率とに基づいて、前記対象物までの所望時刻の距離を計測可能に構成される、もの。
  15. 計測プログラムであって、
    コンピュータを請求項1~請求項12の何れか1つに記載の計測システムとして機能させる、もの。
  16. 対象物を計測する計測方法であって、
    撮像ステップと、距離取得ステップと、パッチ設定ステップと、計測ステップとを備え、
    前記撮像ステップでは、画角に含まれる前記対象物の動画を周波数fで撮像し、
    前記距離取得ステップでは、ある時刻における前記対象物までの距離を取得し、
    前記ある時刻は、複数の時刻であり、
    前記距離取得ステップでは、前記周波数fよりも低い周波数gで前記距離を前記ある時刻ごとに取得するように構成され、
    前記パッチ設定ステップでは、前記動画に含まれる各ある時刻以後且つその次のある時刻以前の各フレームに対して、前記対象物の少なくとも一部を含むパッチを設定し、
    前記計測ステップでは、取得された前記距離と、前記フレームごとに設定された前記パッチの拡大率とに基づいて、前記対象物までの所望時刻の距離を計測する、方法。
JP2022522192A 2020-05-14 2021-05-13 計測システム、車両、計測装置、計測プログラム及び計測方法 Active JP7281760B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020085088 2020-05-14
JP2020085088 2020-05-14
PCT/JP2021/018187 WO2021230314A1 (ja) 2020-05-14 2021-05-13 計測システム、車両、計測装置、計測プログラム及び計測方法

Publications (2)

Publication Number Publication Date
JPWO2021230314A1 JPWO2021230314A1 (ja) 2021-11-18
JP7281760B2 true JP7281760B2 (ja) 2023-05-26

Family

ID=78524445

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022522192A Active JP7281760B2 (ja) 2020-05-14 2021-05-13 計測システム、車両、計測装置、計測プログラム及び計測方法

Country Status (3)

Country Link
JP (1) JP7281760B2 (ja)
CN (1) CN115135959A (ja)
WO (1) WO2021230314A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000149199A (ja) 1998-11-12 2000-05-30 Mitsubishi Motors Corp 車間距離検出装置
JP2005321872A (ja) 2004-05-06 2005-11-17 Fuji Photo Film Co Ltd 撮像システム、撮像制御プログラム、撮像制御方法、および車両
JP2008128998A (ja) 2006-11-27 2008-06-05 Fuji Heavy Ind Ltd 平滑化フィルタ装置および速度検出装置
JP2012208887A (ja) 2011-03-30 2012-10-25 Denso Corp 対象物追跡装置および対象物追跡システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4733756B2 (ja) * 2009-04-28 2011-07-27 本田技研工業株式会社 車両周辺監視装置
JP5414714B2 (ja) * 2011-03-04 2014-02-12 日立オートモティブシステムズ株式会社 車戴カメラ及び車載カメラシステム
JP6473571B2 (ja) * 2014-03-24 2019-02-20 アルパイン株式会社 Ttc計測装置およびttc計測プログラム
CN104881841B (zh) * 2015-05-20 2019-01-04 南方电网科学研究院有限责任公司 基于边缘特征与点特征的航拍高压电力塔架图像拼接方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000149199A (ja) 1998-11-12 2000-05-30 Mitsubishi Motors Corp 車間距離検出装置
JP2005321872A (ja) 2004-05-06 2005-11-17 Fuji Photo Film Co Ltd 撮像システム、撮像制御プログラム、撮像制御方法、および車両
JP2008128998A (ja) 2006-11-27 2008-06-05 Fuji Heavy Ind Ltd 平滑化フィルタ装置および速度検出装置
JP2012208887A (ja) 2011-03-30 2012-10-25 Denso Corp 対象物追跡装置および対象物追跡システム

Also Published As

Publication number Publication date
WO2021230314A1 (ja) 2021-11-18
CN115135959A (zh) 2022-09-30
JPWO2021230314A1 (ja) 2021-11-18

Similar Documents

Publication Publication Date Title
JP6833936B2 (ja) 自己中心映像に基づく将来の車両位置特定のためのシステム及び方法
CN109215433B (zh) 用于自动驾驶仿真的基于视觉的驾驶场景生成器
CN110531753B (zh) 自主车辆的控制***、控制方法和控制器
CN113348422B (zh) 用于生成预测占据栅格地图的方法和***
JP7211307B2 (ja) 機械学習を使用した距離推定
EP3511863B1 (en) Distributable representation learning for associating observations from multiple vehicles
EP2960858B1 (en) Sensor system for determining distance information based on stereoscopic images
US20220182498A1 (en) System making decision based on data communication
JP2023530762A (ja) 3dバウンディングボックスからの単眼深度管理
CN114074681A (zh) 基于概率的车道变更决策和运动规划***及其方法
US20210027074A1 (en) Vehicle system, space area estimation method, and space area estimation apparatus
US20230215196A1 (en) Information processing apparatus, information processing method, and program
Lim et al. Real-time forward collision warning system using nested Kalman filter for monocular camera
CN112937582A (zh) 改进车道改变检测的***、非暂态计算机可读介质和方法
JP7281760B2 (ja) 計測システム、車両、計測装置、計測プログラム及び計測方法
JP2021092996A (ja) 計測システム、車両、計測方法、計測装置及び計測プログラム
EP4141482A1 (en) Systems and methods for validating camera calibration in real-time
Jahoda et al. Autonomous car chasing
CN113167579B (zh) 用于测量对象物位置的***、方法以及存储介质
WO2022125236A1 (en) Systems and methods for object detection using stereovision information
US11983936B2 (en) Data collection device, vehicle control device, data collection system, data collection method, and storage medium
EP4145352A1 (en) Systems and methods for training and using machine learning models and algorithms
WO2023176854A1 (ja) 俯瞰データ生成装置、学習装置、俯瞰データ生成プログラム、俯瞰データ生成方法、及びロボット
US20240161398A1 (en) Late-to-early temporal fusion for point clouds
EP4325251A1 (en) High throughput point cloud processing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20220531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230406

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230428

R150 Certificate of patent or registration of utility model

Ref document number: 7281760

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150