JP7425223B2 - 物体追跡装置及び物体追跡方法 - Google Patents

物体追跡装置及び物体追跡方法 Download PDF

Info

Publication number
JP7425223B2
JP7425223B2 JP2022558907A JP2022558907A JP7425223B2 JP 7425223 B2 JP7425223 B2 JP 7425223B2 JP 2022558907 A JP2022558907 A JP 2022558907A JP 2022558907 A JP2022558907 A JP 2022558907A JP 7425223 B2 JP7425223 B2 JP 7425223B2
Authority
JP
Japan
Prior art keywords
processor
detection
tracking
object tracking
kalman
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022558907A
Other languages
English (en)
Other versions
JPWO2022091620A1 (ja
Inventor
顕嗣 山本
淳 黒田
徹 佐原
方偉 童
拓也 本間
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Publication of JPWO2022091620A1 publication Critical patent/JPWO2022091620A1/ja
Application granted granted Critical
Publication of JP7425223B2 publication Critical patent/JP7425223B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/277Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Description

関連出願の相互参照
本出願は、日本国特許出願2020-180822号(2020年10月28日出願)の優先権を主張するものであり、当該出願の開示全体を、ここに参照のために取り込む。
本開示は、物体追跡装置及び物体追跡方法に関する。
周囲の物体を検知し、検知した物体を追跡して動きを予測する技術が知られている。例えば、特許文献1は、車両周辺の映像を取り込む車載カメラから出力される映像信号を処理して接近する車両及び歩行者の有無を検知し、接近車両及び歩行者に四角枠のマークを付加して表示する装置を開示する。
特開平11-321494号公報
一実施形態に係る物体追跡装置は、
センサデータを取得する入力インターフェイスと、
前記センサデータから複数の検出対象を検出し、前記複数の検出対象のそれぞれについてカルマンフィルタを用いて追跡を行うプロセッサと、
前記検出対象の検出結果を出力する出力インターフェイスと、を備え、
前記プロセッサは、複数の前記カルマンフィルタのグループ化を行って同一物体に対応するものか否かを判定する。
一実施形態に係る物体追跡方法は、
センサデータを取得することと、
前記センサデータから複数の検出対象を検出し、前記複数の検出対象のそれぞれについてカルマンフィルタを用いて追跡を行うことと、
前記検出対象の検出結果を出力することと、を含み、
前記追跡を行うことは、複数の前記カルマンフィルタのグループ化を行って同一物体に対応するものか否かを判定することを含む。
一実施形態に係る物体追跡装置は、
異なるセンシング手法によって得られる複数のセンサデータを取得する入力インターフェイスと、
前記複数のセンサデータから複数の検出対象を検出し、前記複数の検出対象のそれぞれについてカルマンフィルタを用いて追跡を行うためのデータ処理を行うプロセッサと、を備え、
前記プロセッサは、複数の前記カルマンフィルタのグループ化を行って同一物体に対応するものか否かを判定する。
一実施形態に係る物体追跡方法は、
異なるセンシング手法によって得られる複数のセンサデータを取得することと、
前記複数のセンサデータから複数の検出対象を検出し、前記複数の検出対象のそれぞれについてカルマンフィルタを用いて追跡を行うためのデータ処理を行うこと、を含み、
前記追跡を行うことは、複数の前記カルマンフィルタのグループ化を行って同一物体に対応するものか否かを判定することを含む。
図1は、一実施形態に係る物体追跡装置を含む物体追跡システムの概略構成を示すブロック図である。 図2は、図1の物体追跡システムを搭載する車両と検出対象とを示す図である。 図3は、動画像上の物体の像を追跡する処理の例を示すフローチャートである。 図4は、動画像上の物体の像の一例を示す図である。 図5は、実空間の物体、動画像中の物体の像及び仮想空間における質点の関係を説明する図である。 図6は、仮想空間における質点の移動の一例を示す図である。 図7は、カルマンフィルタの動作モードを説明するための図である。 図8は、データアソシエーションを説明するための図である。 図9は、代表カルマンフィルタを説明するための図である。 図10は、追跡物体ID管理のレイヤ構成を例示する図である。 図11は、同一物体の判定を説明するための図である。 図12は、追跡物体IDの継承を説明するための図である。 図13は、フュージョンを説明するための図である。 図14は、フュージョンの重複適用を説明するための図である。
以下、図面を参照して、本開示の実施形態が説明される。以下の説明で用いられる図は模式的なものである。図面上の寸法比率などは現実のものと必ずしも一致していない。
図1は、物体追跡システム1の概略構成を示すブロック図である。本開示の一実施形態に係る物体追跡装置20は、物体追跡システム1に含まれる。本実施形態において、物体追跡システム1は、撮像装置10と、物体追跡装置20と、ディスプレイ30とを含む。また、物体追跡システム1は、図2に例示するように移動体の一例である車両100に搭載される。
本実施形態に係る物体追跡装置20は、センサデータとして撮像装置10から動画像を取得する。つまり、本実施形態において、複数の検出対象を検出するために用いられるセンサは、撮像装置10が備える可視光を撮像する撮像素子12である。ただし、物体追跡システム1は、図1に示される構成に限定されない。物体追跡システム1は、複数の検出対象を検出するものであれば、撮像装置10と異なる装置を備えることができる。別の例として、物体追跡システム1は、撮像装置10に代えて、照射したレーザー光の反射波から検出対象との距離を測定する測定装置を備える構成であってよい。別の例として、物体追跡システム1は、撮像装置10に代えて、ミリ波センサを有する検出装置を備える構成であってよい。また、別の例として、物体追跡システム1は、可視光領域以外の光を撮像する撮像素子12を備える撮像装置10を備える構成であってよい。また、物体追跡システム1は、可視光を対象とする撮像装置10、照射したレーザー光の反射波から検出対象との距離を測定する測定装置、ミリ波センサを有する検出装置及び可視光以外を対象とする撮像装置10の少なくとも1つを備える構成であってよい。
また、本実施形態において、物体追跡システム1は移動体に搭載されて、移動する移動体の周囲の物体40(図2参照)を検出対象とする。ただし、物体追跡システム1は、移動体に搭載される構成に限定されない。別の例として、物体追跡システム1は、工場などの施設で用いられて、従業員、搬送ロボット及び製造物などを検出対象としてよい。また、別の例として、物体追跡システム1は、老人福祉施設などで用いられて、室内の老人及びスタッフなどを検出対象としてよい。また、物体追跡システム1は、走行又は行動の安全のために物体の追跡を行うだけでなく、例えば農業及び工業の現場において作業の効率化、品質管理又は生産性向上などのために物体の追跡を行ってよい。ここで、本開示において、物体追跡装置20の検出対象である物体は、移動体などの物だけでなく人を含む。
図2に示すように、本実施形態において、実空間の座標のうち、x軸方向は、撮像装置10が設置された車両100の幅方向とする。y軸方向は、車両100の後退する方向とする。x軸方向とy軸方向とは、車両100が位置する路面に平行な方向である。z軸方向は、路面に対して垂直な方向である。z軸方向は、鉛直方向とよぶことができる。x軸方向、y軸方向及びz軸方向は、互いに直交する。x軸方向、y軸方向及びz軸方向のとり方はこれに限られない。x軸方向、y軸方向及びz軸方向は、互いに入れ替えることができる。
撮像装置10は、撮像光学系11、撮像素子12及びプロセッサ13を含んで構成される。
撮像装置10は、車両100の種々の位置に設置され得る。撮像装置10は、フロントカメラ、左サイドカメラ、右サイドカメラ及びリアカメラなどを含むが、これらに限られない。フロントカメラ、左サイドカメラ、右サイドカメラ及びリアカメラは、それぞれ車両100の前方、左側方、右側方及び後方の周辺領域を撮像可能となるように車両100に設置される。以下に一例として説明する実施形態では、図2に示すように、撮像装置10は、車両100の後方を撮像可能なように、光軸方向を水平方向より下に向けて車両100に取付けられている。
撮像光学系11は、1つ以上のレンズを含んで構成されてよい。撮像素子12は、CCDイメージセンサ(charge-coupled device image sensor)又はCMOSイメージセンサ(complementary MOS image sensor)を含んで構成されてよい。
撮像素子12は、撮像光学系11により撮像素子12の撮像面に結像された物体の像(被写体像)を電気信号に変換する。撮像素子12は、所定のフレームレートで、動画像を撮像することができる。フレームは動画像を構成する各静止画像である。1秒間に撮像できる画像の数をフレームレートという。フレームレートは、例えば60fps(frames per second)であってよいし、30fpsであってよい。
プロセッサ13は、撮像装置10全体を制御するとともに、撮像素子12から出力された動画像に対して、種々の画像処理を実行する。プロセッサ13が行う画像処理は、歪み補正、明度調整、コントラスト調整、ガンマ補正等の任意の処理を含み得る。
プロセッサ13は、1つ又は複数のプロセッサで構成され得る。プロセッサ13は、例えば、関連するメモリに記憶された指示を実行することによって1以上のデータ計算手続又は処理を実行するように構成された1以上の回路又はユニットを含む。プロセッサ13は、1以上のプロセッサ、マイクロプロセッサ、マイクロコントローラ、特定用途向け集積回路(ASIC:application specific integrated circuit)、デジタル信号処理装置(DSP:digital signal processor)、プログラマブルロジックデバイス(PLD:programmable logic device)、フィールドプログラマブルゲートアレイ(FPGA:field-programmable gate array)又はこれらのデバイス若しくは構成の任意の組み合わせ又は他の既知のデバイス若しくは構成の組み合わせを含む。
物体追跡装置20は、入力インターフェイス21、記憶部22、プロセッサ23及び出力インターフェイス24を含んで構成される。
入力インターフェイス21は、撮像装置10との間で有線又は無線の通信手段により通信可能に構成される。入力インターフェイス21は、センサデータとして撮像装置10から動画像を取得する。入力インターフェイス21は、撮像装置10の送信する画像信号の伝送方式に対応してよい。入力インターフェイス21は、入力部又は取得部と言い換えることができる。撮像装置10と入力インターフェイス21との間は、CAN(control area network)などの車載通信ネットワークにより接続されてよい。
記憶部22は、プロセッサ23が行う処理に必要なデータ及びプログラムを格納する記憶装置である。例えば、記憶部22は、撮像装置10から取得した動画像を一時的に記憶する。例えば、記憶部22は、プロセッサ23が行う処理により生成されるデータを格納する。記憶部22は、例えば半導体メモリ、磁気メモリ及び光メモリなどのいずれか一つ以上を用いて構成されてよい。半導体メモリは、揮発性メモリ及び不揮発性メモリを含んでよい。磁気メモリは、例えばハードディスク及び磁気テープなどを含んでよい。光メモリは、例えばCD(compact disc)、DVD(digital versatile disc)及びBD(blu-ray(登録商標) disc)などを含んでよい。
プロセッサ23は、物体追跡装置20の全体を制御する。プロセッサ23は、入力インターフェイス21を介して取得した動画像に含まれる物体の像を認識する。プロセッサ23は、認識した物体の像の座標を仮想空間46(図6参照)の物体40の座標に写像変換し、仮想空間46上で物体40を表す質点45(図5参照)の位置及び速度を追跡する。質点45は、質量を有し大きさを持たない点である。仮想空間46は、実空間のx軸、y軸及びz軸の3軸より成る座標系において、z軸方向の値を所定の固定値とする2次元空間である。プロセッサ23は、追跡した質点45の仮想空間46上の座標を動画像上の座標に写像変換してよい。
また、プロセッサ23は、動画像から複数の検出対象を検出し、複数の検出対象のそれぞれについてカルマンフィルタを用いて追跡を行う。複数の検出対象を検出する場合に、動画像においてそれらの像が重なると、従来の技術では追跡を誤ったり、精度が低下したりする。本実施形態において、プロセッサ23は、複数の検出対象のそれぞれに1つ以上のカルマンフィルタを対応付けることによって、このような問題を回避できる。また、プロセッサ23は、観測値と、カルマンフィルタと、追跡物体の固有識別情報(以下「追跡物体ID」)と、を各レイヤ(階層)で管理する。プロセッサ23は、追跡物体について同一物体であるか否かを判定し、観測値と、カルマンフィルタと、追跡物体IDと、を対応付ける処理を実行する。これによって、複数の検出対象の追跡の精度をさらに向上させることができる。プロセッサ23が行う処理の詳細については後述する。プロセッサ23は、撮像装置10のプロセッサ13と同じく、複数のプロセッサを含んでよい。また、プロセッサ23は、プロセッサ13と同じく、複数の種類のデバイスが組み合わされて構成されてよい。
出力インターフェイス24は、物体追跡装置20から出力信号を出力するように構成される。出力インターフェイス24は、出力部と言い換えることができる。出力インターフェイス24は、例えば質点45の座標などの検出対象の検出結果を出力してよい。
出力インターフェイス24は、物理コネクタ及び無線通信機を含んで構成され得る。出力インターフェイス24は、例えばCANなどの車両100のネットワークに接続されてよい。出力インターフェイス24は、CANなどの通信ネットワークを介してディスプレイ30、車両100の制御装置及び警報装置などに接続され得る。出力インターフェイス24から出力された情報は、ディスプレイ30、制御装置及び警報装置の各々で適宜利用されてよい。
ディスプレイ30は、物体追跡装置20から出力される動画像を表示し得る。ディスプレイ30は、物体追跡装置20から、物体の像の位置を表す質点45の座標を受け取った場合、これに従う画像要素(例えば、接近する物体とともに表示する警告)を生成して動画像に重畳させる機能を有してよい。ディスプレイ30は、種々の種類の装置を採用し得る。例えば、ディスプレイ30は、液晶ディスプレイ(LCD:liquid crystal display)、有機EL(electro-luminescence)ディスプレイ、無機ELディスプレイ、プラズマディスプレイ(PDP:plasma display panel)、電界放出ディスプレイ(FED:field emission display)、電気泳動ディスプレイ、ツイストボールディスプレイなどを採用し得る。
次に、図3のフローチャートを参照して、物体追跡装置20が実行する物体追跡方法の詳細を説明する。物体追跡装置20は、以下に説明するプロセッサ23が行う処理を、非一時的なコンピュータ可読媒体に記録されたプログラムを読み込んで実装するように構成されてよい。非一時的なコンピュータ可読媒体は、磁気記憶媒体、光学記憶媒体、光磁気記憶媒体、半導体記憶媒体を含むがこれらに限られない。磁気記憶媒体は、磁気ディスク、ハードディスク、磁気テープを含む。光学記憶媒体は、CD、DVD及びBDなどの光ディスクを含む。半導体記憶媒体は、ROM(read only memory)、EEPROM(electrically erasable programmable read-only memory)、フラッシュメモリを含む。
図3のフローチャートは、動画像の順次のフレームを取得して、プロセッサ23が実行する処理を示す。物体追跡装置20のプロセッサ23は、図3のフローチャートに従い、動画像のフレームを取得する度に、物体の像42(図4参照)の位置を追跡(トラッキング)する。図2に示すように、検出対象となる物体40は複数であって、歩行者40A、自動車40B及び自転車40Cを含み得る。さらに、物体40は、移動している物及び人に限定されず、道路上の障害物など、種々の対象物を含み得る。以下の物体追跡方法についての説明では、車両100の後ろに設置された撮像装置10の動画像に含まれる複数の物体40のうち1つ(具体的には歩行者40A)を用いて説明する。他の物体40(例えば自動車40B及び自転車40C)のそれぞれについても、同様の処理によって追跡が行われる。
プロセッサ23は、入力インターフェイス21を介して、撮像装置10から動画像の各フレームを取得する(ステップS101)。図4に、動画像の1フレームの一例が示される。図4の例では、uv座標系からなる2次元の画像空間41に、車両100の後方の物体40の像(物体の像42)が表示されている。u座標は、画像の横方向の座標である。v座標は、画像の縦方向の座標である。図4において、uv座標の原点は、画像空間41の左上端の点である。また、u座標は、左から右へ向かう方向を正の方向とする。v座標は、上から下へ向かう方向を正の方向とする。
プロセッサ23は、画像認識により動画像の各フレームから物体の像42を認識する(ステップS102)。物体の像42の認識方法は、公知の種々の方法を含む。例えば、物体の像42の認識方法は、車及び人などの物体の形状認識による方法、テンプレートマッチングによる方法、画像から特徴量を算出しマッチングに利用する方法などを含む。特徴量の算出には、入出力の関係を学習可能な関数近似器を用いることができる。入出力の関係を学習可能な関数近似器には、例えばニューラルネットワークを用いることができる。
プロセッサ23は、画像空間41の物体の像42の座標(u,v)を仮想空間46(図6参照)の物体の座標(x´,y´)に写像変換する(ステップS103)。一般に、2次元座標である画像空間41の座標(u,v)は、実空間の座標(x,y,z)に変換することはできない。しかし、実空間における高さを特定し、z座標を所定値に固定することにより、画像空間41の座標(u,v)を、実空間の座標(x,y,z)(zは固定値)に対応する2次元の仮想空間46の座標(x´,y´)に写像することが可能になる。ここで、本実施形態では仮想空間46を2次元としたが、入力情報(センサの種類)によって3次元とすることがあり得る。
図4に示すように、物体の像42の最下部の中央に位置する代表点43が特定される。例えば、代表点43は、画像空間41において、物体の像42が占める領域のv座標の最も下の位置且つu座標の範囲の中心位置とすることができる。この代表点43は、物体の像42に対応する物体40の路面又は地面と接している位置であると想定される。
図5において、3次元の実空間に位置する物体40と、2次元の画像空間41上の物体の像42との関係が示される。撮像装置10の内部パラメータが既知の場合、画像空間41の座標(u,v)に基づき、撮像装置10の撮像光学系11の中心から実空間の対応する座標(x,y,z)に向かう方向を算出することができる。撮像装置10の内部パラメータは、撮像光学系11の焦点距離、歪み及び撮像素子12の画素サイズなどの情報を含む。実空間において、画像空間41の代表点43に対応する方向に向かう直線が、z=0の基準面44と交差する点を物体40の質点45とする。基準面44は、車両100が位置する路面又は地面に相当する。質点45は、3次元の座標(x,y,0)を有する。したがって、z=0の2次元空間を仮想空間46とするとき、質点45の座標は、(x´,y´)で表すことができる。仮想空間46上の質点45の座標(x´,y´)は、実空間においてz軸に沿う方向から物体40を見た場合のxy平面(z=0)での物体40の特定の点の座標(x,y)に相当する。特定の点は、質点45に対応する点である。
プロセッサ23は、図6に示すように、仮想空間46上で物体の像42の代表点43から仮想空間46に写像変換された質点45の位置(x´,y´)及び速度(vx´,vy´)を追跡する(ステップS104)。質点45が位置(x´,y´)及び速度(vx´,vy´)の情報を有することにより、プロセッサ23は、順次のフレームにおける質点45の位置(x´,y´)の範囲を予測することができる。プロセッサ23は、次のフレームで予測された範囲に位置する質点45を、追跡している物体の像42に対応する質点45であると認識することができる。プロセッサ23は、新たなフレームの入力を受ける毎に、順次質点45の位置(x´,y´)及び速度(vx´,vy´)を更新する。
質点45の追跡は、例えば、状態空間モデルに基づくカルマンフィルタを用いた推定を採用することができる。カルマンフィルタを用いた予測/推定を行うことにより、検出対象の物体40の検知不能及び誤検知などに対するロバスト性が向上する。一般に、画像空間41の物体の像42に対しては、運動を記述する適切なモデルで記述することは困難である。そのため、画像空間41の物体の像42に対して簡易に高精度の位置の推定を行うことは困難であった。本開示の物体追跡装置20では、物体の像42を実空間の質点45に写像変換することにより、実空間における運動を記述するモデルの適用が可能になるので、物体の像42の追跡の精度が向上する。また、物体40を、大きさを持たない質点45として扱うことにより、単純で簡易な追跡が可能となる。
プロセッサ23は、質点45の新たな位置を推定するごとに、推定位置を示すために、質点45の仮想空間46上の座標を画像空間41上の座標(u,v)に写像変換してよい(ステップS105)。仮想空間46の座標(x´,y´)に位置する質点45は、実空間の座標(x,y,0)に位置する点として、画像空間41に写像変換することができる。実空間の座標(x,y,0)は、公知の方法により撮像装置10の画像空間41上の座標(u,v)に写像することができる。プロセッサ23は、画像空間41上の座標(u,v)と、仮想空間46の座標(x´,y´)と、実空間の座標(x,y,0)と、を相互に変換することができる。
本実施形態において、プロセッサ23は、動画像から複数の検出対象を検出して、それぞれについて追跡を行う。例えば図2のような状況において、プロセッサ23は、歩行者40A、自動車40B及び自転車40Cのそれぞれについて追跡を行う。プロセッサ23は、仮想空間46を用いて、複数の検出対象のそれぞれを表す質点45の位置及び速度を追跡する。プロセッサ23が図3に示される物体追跡方法を実行するためには、複数の物体40のそれぞれについて、カルマンフィルタが用意されている必要がある。本実施形態において、プロセッサ23は、動画像で新たな物体の像42を認識した場合に、新たにカルマンフィルタを生成し、始動条件が満たされると追跡を実行する。このことにより、検出対象である複数の物体40のそれぞれについて、1つ以上のカルマンフィルタが用意される。ただし、一過性の新たな物体40(例えば一定時間で動画像に含まれなくなる対向車など)に対してカルマンフィルタが生成され続けると、カルマンフィルタの数が必要以上に増加して、計算量が多くなり、物体の追跡の処理遅延を生じるおそれがある。本実施形態において、プロセッサ23は、打ち切り条件を満たした場合にカルマンフィルタを初期化して、処理の遅延が生じないようにする。
図7は、カルマンフィルタの動作モードを説明するための図である。プロセッサ23は、カルマンフィルタを、検出対象の初期状態、追跡準備状態、追跡状態の状態別に制御を行う。
検出対象の初期状態は、プロセッサ23によって、動画像で検出対象となる新たな物体の像42が認識された状態である。このとき、検出対象に対応付けられるカルマンフィルタの動作モードは「モード0」である。モード0のカルマンフィルタは初期値(位置及び速度の情報)を有していない。プロセッサ23は、検出対象に対応付けられたカルマンフィルタがモード0の場合に、検出対象の位置の追跡すなわち次のフレームにおける質点45の位置(x´,y´)の範囲の予測を行わない。
追跡準備状態は、前のフレームで新たに認識された物体の像42が、現フレームでも認識された状態である。このとき、検出対象に対応付けられるカルマンフィルタの動作モードは「モード1」である。モード1のカルマンフィルタは、検出対象の質点45の位置(x´,y´)を取得するが、前のフレームにおける検出対象の位置の情報がないため、速度(vx´,vy´)の情報を取得しない。つまり、モード1のカルマンフィルタは、必要な初期値(位置及び速度の情報)の一部だけを有する。プロセッサ23は、検出対象に対応付けられたカルマンフィルタがモード1の場合に、検出対象の位置の追跡を行わない。
カルマンフィルタがモード1のときに、物体の像42が誤検出などでないことを確認する処理が行われる。図7に示すように、第1の打ち切り条件が満たされた場合に、すなわち、誤検出であると判定されたり、物体の像42が消失したりした場合に、カルマンフィルタの動作モードは初期化されてモード0に戻る。これによって、散発的な誤検出によって追跡を開始してしまうことを回避することができる。
また、図7に示すように、始動条件が満たされた場合、すなわち、カルマンフィルタがモード1であって、2つ前のフレームで新たに認識された物体の像42が、現フレームでも認識された場合に、カルマンフィルタの動作モードはモード2になる。
追跡状態は、上記の始動条件が満たされた後で、第2の打ち切り条件が満たされていない状態である。第2の打ち切り条件は、現フレームまで連続で所定数のフレームにおいて物体の像42が消失することである。このとき、検出対象に対応付けられるカルマンフィルタの動作モードは「モード2」である。モード2のカルマンフィルタは、必要な初期値(位置及び速度の情報)を有しており、直ちに追跡の制御に使用され得る。プロセッサ23は、検出対象に対応付けられたカルマンフィルタがモード2の場合に、検出対象の位置の追跡を行う。
図7に示すように、検出対象に対応付けられたカルマンフィルタがモード2であって、第2の打ち切り条件が満たされた場合に、カルマンフィルタの動作モードは初期化されてモード0に戻る。
このように、プロセッサ23は、同一の検出対象を連続で検出した場合に、カルマンフィルタを追跡状態(モード2)とする。ここで、本実施形態において連続で検出する数は2であるが、3以上であってよい。連続で検出する数が3以上の場合に、例えばモード1の状態(追跡準備状態)が長く続いてよい。
また、プロセッサ23は、同一の検出対象を所定数連続で検出できなかった場合に、カルマンフィルタによる追跡を停止する。ここで、本実施形態において所定数は5であるが、これに限定されない。カルマンフィルタを用いる物体の追跡において、動画像から取得される検出対象の位置の情報がなくても、検出対象の位置の範囲を予測し続けることができる。ただし、予測される位置の範囲の誤差は、そのような情報を取得できないフレームの数が重なっていくと拡大する。この誤差の大きさに基づいて、上記の所定数が決定されてよい。
プロセッサ23は、カルマンフィルタに上記のような動作モードを設定し、動的に設定を変更することによって、複数のカルマンフィルタについて、状態別に系統的な制御を行うことができる。
図8は、データアソシエーションを説明するための図である。データアソシエーションは、複数の観測値と、複数のカルマンフィルタとの対応付けである。ここで、観測値は、検出対象の位置である。プロセッサ23は、複数の観測値及び複数のカルマンフィルタに識別子を付して区別する。本実施形態において、プロセッサ23は、例えば通し番号を用いて、複数の観測値のそれぞれを観測値(1)、観測値(2)、観測値(3)…とする。また、プロセッサ23は、例えば記号及び通し番号を用いて、複数のカルマンフィルタのそれぞれをKF(1)、KF(2)、KF(3)…とする。
本実施形態において、プロセッサ23は、M個の観測値とN個のカルマンフィルタとのデータアソシエーションを行う。Mは2以上の整数である。NはM以上の整数である。図8の例において、プロセッサ23は、3個の観測値と5個のカルマンフィルタとのデータアソシエーションを行っている。観測値(1)は動画像のフレーム(k)において検出されている歩行者40Aの位置である。観測値(2)は動画像のフレーム(k)において検出されている自動車40Bの位置である。観測値(3)は動画像のフレーム(k)において検出されている自転車40Cの位置である。また、フレーム(k-1)は、動画像におけるフレーム(k)の1つ前のフレームである。フレーム(k-2)は、動画像におけるフレーム(k)の2つ前のフレームである。現フレームはフレーム(k)であるとする。
ここで、KF(2)は、フレーム(k-1)の時まで歩行者40Aの追跡に用いられていたが、第2の打ち切り条件を満たしたため初期化されている。つまり、KF(2)の動作モードはモード0となっており、検出対象の位置の追跡に用いられない。また、KF(5)は、フレーム(k-2)で新たな自転車40Cが認識されたことによって、新たに用意されたカルマンフィルタである。KF(5)は、フレーム(k-1)の時にモード1であったが、始動条件が満たされたためモード2になっている。その他のカルマンフィルタは、フレーム(k-2)の時からモード2であって、それぞれ検出対象の追跡を継続している。
図8の例において、プロセッサ23は観測値(1)にKF(1)を対応付けている。プロセッサ23は観測値(2)にKF(3)及びKF(4)を対応付けている。また、プロセッサ23は観測値(3)にKF(5)を対応付けている。観測値(2)の例のように、プロセッサ23は、複数の検出対象の追跡過程における検出結果の重複を許容する。つまり、プロセッサ23は、KF(3)及びKF(4)を用いて、観測値(2)すなわち自動車40Bの位置の範囲の予測を行う。このように、データアソシエーションにおいて重複を許容することによって、局所最適化を行うことができる。例えば、重複を許容せずに、複数の観測値と複数のカルマンフィルタとを1対1で対応づける手法(一例としてハンガリアン法)は、全体最適化のため、1つのミスアソシエーションが連鎖するおそれがある。本実施形態においては、重複が許容されるため、ミスアソシエーションの連鎖といった問題は生じない。また、追跡過程において、1つの観測値に対して1つ以上のカルマンフィルタが対応付けられており、どの観測値についても追跡の失敗が生じにくいため、ロバスト性を向上できる。
1つの観測値に複数のカルマンフィルタが対応付けられる状況としては、例えば1つの物体が光の反射の影響などで2つの物体であると認識されて、その一方に新たなカルマンフィルタが対応付けられた場合が考えられる。上記のように、対応付けられた複数のカルマンフィルタを用いて、検出対象の追跡の制御は並行して実行される。ただし、例えば車両100の衝突防止のために検出対象の予測位置が利用されるような場合に、最も確信度が高い1つの検出結果を出力インターフェイス24から出力させることが好ましいことがある。プロセッサ23は、カルマンフィルタの誤差楕円に基づいて、最も確信度が高い検出結果を示すカルマンフィルタ(以下「代表カルマンフィルタ」)を決定してよい。
図9は、代表カルマンフィルタを説明するための図である。図9の例では、1つの観測値に3つのカルマンフィルタであるKF(p)、KF(q)及びKF(r)、が対応付けられている。プロセッサ23は、3つのカルマンフィルタのそれぞれについて誤差楕円を計算する。誤差楕円は、位置の確率密度分布による推定範囲を示すものであって、所定の確率(一例として99%)で楕円の内部に位置することを示すものである。誤差楕円は、x´方向の標準偏差及びy´方向の標準偏差などを用いて計算される。プロセッサ23は、最も小さい誤差楕円を有するカルマンフィルタを代表カルマンフィルタに決定する。図9の例では、KF(r)が代表カルマンフィルタである。
このように、プロセッサ23は、検出した複数の検出対象が同一物体のものと見なせるような場合に、複数の検出対象の位置の確率密度分布による推定範囲が最も小さいものを物体のものとして代表させることができる。よって、物体追跡装置20は、車両100の衝突防止などの運転支援にも好適に適用される。
ここで、上記のように1つの観測値に複数のカルマンフィルタが対応付けられ得るが、検出対象である1つの物体に複数の観測値が対応付けられることもあり得る。例えば、検出対象が自動車40Bであって、車線変更などによって動画像から一度消失した後に再び動画像に出現した場合などに、別物体として新たな観測値が対応付けられることがあり得る。正確な物体の追跡を行うために、物体追跡装置20は、それぞれの追跡物体を識別して、観測値との対応付けを把握することが好ましい。本実施形態において、プロセッサ23は、以下に説明するように階層管理を実行し、複数のカルマンフィルタのグループ化を行って同一物体に対応するものか否かを判定する。
図10は、本実施形態における追跡物体ID管理のレイヤ構成を示す図である。図10に示すように、プロセッサ23は、観測値と、カルマンフィルタと、追跡物体IDと、を各レイヤで管理する。また、プロセッサ23は、観測値と、カルマンフィルタと、追跡物体IDと、を対応付けることによって、正確な物体の追跡を可能にする。ここで、追跡物体IDは上記のように追跡物体の固有識別情報である。複数の観測値又は複数のカルマンフィルタに対応付けられる追跡物体IDが同じであれば、これらの観測値又はカルマンフィルタは同一物体の追跡に関連するものである。
プロセッサ23は、上記のように、新たな観測値に対してカルマンフィルタを生成し、1つの観測値に1つ以上のカルマンフィルタを対応付ける。プロセッサ23は、さらにカルマンフィルタと追跡物体IDとを対応付ける。図11は、同一物体の判定を説明するための図である。プロセッサ23は、例えばDBSCAN(density-based spatial clustering of applications with noise)などのクラスタリングによって、複数のカルマンフィルタのグループ化を行う。プロセッサ23は、複数のカルマンフィルタの誤差楕円の中心が所定範囲に含まれる場合に、それらのカルマンフィルタが1つのグループに属すると判定する。図11の例において、所定範囲は円で示されている。また、KF(p)、KF(q)及びKF(r)は1つのグループである。ここで、所定範囲は追跡物体の大きさに応じて変化してよい。例えば追跡物体が自動車40Bであれば、所定範囲は追跡物体が歩行者40Aである場合よりも大きく設定されてよい。また、所定範囲は、追跡物体の種類によらずに一定であってよい。クラスタリングの手法は、DBSCANに限定されない。例えばk-means法など、他の手法でクラスタリングが実行されてよい。
プロセッサ23は、動画像のフレームが取得されると複数のカルマンフィルタのグループ化を実行する。そして、プロセッサ23は、観測値、カルマンフィルタ及び追跡物体IDの対応付けを更新する。図10の例において、プロセッサ23は、KF(1)、KF(2)及びKF(3)をグループ化して、これらのカルマンフィルタを用いて追跡する物体に識別子である「追跡物体ID(1)」を割り当てて、この物体の追跡制御を行う。また、プロセッサ23は、KF(4)及びKF(5)をグループ化して、これらのカルマンフィルタを用いて追跡する物体に識別子である「追跡物体ID(2)」を割り当てて、この物体の追跡制御を行う。
ここで、KF(1)及びKF(2)が観測値(1)に対応付けられ、KF(3)が観測値(2)に対応付けられている。プロセッサ23は、グループ化によって、それぞれ別の物体の位置としていた観測値(1)と観測値(2)とが、追跡物体ID(1)を識別子とする同一物体の位置であることを識別できる。プロセッサ23は、同一と判定した物体に対応するカルマンフィルタを紐付けし、これらのカルマンフィルタに対応する検出対象の検出結果についても紐付けする階層構造で追跡を制御することによって、誤りのない高精度な追跡が可能になる。プロセッサ23は、例えば紐づけされた複数のカルマンフィルタを用いた検出結果を比較又は選択して、確信度が高い検出結果を得ることが可能である。また、プロセッサ23は、例えば観測値(2)が失われたり、KF(3)が初期化されたりした場合でも、観測値(1)、KF(1)及びKF(2)を用いて、追跡物体ID(1)を識別子とする物体の追跡を継続することができる。つまり、ロバスト性を高めることが可能である。
ここで、プロセッサ23は、上記と同様に(図9参照)、同じグループに属する複数のカルマンフィルタについて最も小さい誤差楕円を有するカルマンフィルタを代表カルマンフィルタに決定してよい。つまり、プロセッサ23は、グループ化された同一物体に対応するカルマンフィルタのうち、複数の検出対象の位置の確率密度分布による推定範囲が最も小さいものをグループの代表としてよい。
図12は、追跡物体IDの継承を説明するための図である。上記のように、プロセッサ23は、動画像のフレームが取得されると複数のカルマンフィルタのグループ化を実行する。プロセッサ23は、グループの構成が変化した場合に、類似度に基づいて適切に追跡物体IDを継承させる。
図12の例において、プロセッサ23は、フレーム(k-1)が取得された時に、KF(1)、KF(2)及びKF(3)をグループ化して、追跡物体ID(1)と対応付けている。その後、フレーム(k)が取得された時にプロセッサ23が同様にグループ化を実行し、KF(1)及びKF(2)が集合(1)に、KF(4)及びKF(5)が別の集合(2)にグループ化されている。ここで、KF(3)は打ち切り条件を満たして、グループ化の対象から外れている。
プロセッサ23は、集合(1)及び集合(2)について、フレーム(k-1)が取得された時の集合との類似度を判定する。類似度の判定は、例えばSimpson係数を計算することによって実行されるが、この判定手法に限定されない。別の例としてJaccard係数又はDice係数などが用いられてよい。Simpson係数が大きいほど、2つの集合は類似する。図12の例では、KF(1)及びKF(2)を含む集合(1)の方が高い類似度を有するため、集合(1)が追跡物体ID(1)と対応付けられる。つまり、集合(1)が追跡物体ID(1)を継承する。集合(2)には、別の追跡物体ID(2)が対応付けられる。
ここで、例えばフレーム(k+1)が取得された時に、KF(2)が集合(1)でなく、集合(2)に区分されたとする。このとき、KF(1)だけを含む集合(1)の方が、フレーム(k)が取得された時の集合(1)との類似度が高いため、そのまま追跡物体ID(1)を継承する。
このように、プロセッサ23は、異なる時刻におけるグループの類似度によって識別子を管理する。この管理によって、同一物体の追跡の制御を適切に継続することができる。
以上のように、本実施形態に係る物体追跡装置20は、上記の構成によって、複数のカルマンフィルタのグループ化を行って同一物体に対応するものか否かを判定する。そのため、物体追跡装置20は、同一物体を別個の物体と誤るようなことなく、複数の物体を高精度に追跡できる。
本開示に係る実施形態について、諸図面及び実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形又は修正を行うことが容易であることに注意されたい。従って、これらの変形又は修正は本開示の範囲に含まれることに留意されたい。例えば、各構成部又は各ステップなどに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の構成部又はステップなどを1つに組み合わせたり、或いは分割したりすることが可能である。本開示に係る実施形態について装置を中心に説明してきたが、本開示に係る実施形態は装置の各構成部が実行するステップを含む方法としても実現し得るものである。本開示に係る実施形態は装置が備えるプロセッサにより実行される方法、プログラム又はプログラムを記録した記憶媒体としても実現し得るものである。本開示の範囲にはこれらも包含されるものと理解されたい。
上記の実施形態において、検出対象の位置である観測値は、撮像装置10からのセンサデータの検出結果である検出対象の位置がそのまま用いられた。ここで、物体追跡システム1は、撮像装置10に加えて、ミリ波センサ、レーザー光の反射波の検出装置などによって、検出を並行して行う構成であり得る。このような構成の場合に、同一の検出対象であると判定される観測値同士を関連付けることによって、物体追跡システム1は複数の物体をさらに高精度に追跡できる。以下、「フュージョン」は、物理的に異なるセンシング手法によって得られる複数の観測値から同一物体であると判定される観測値同士についてそれぞれの誤差を加味して関連付けることである。換言すると、フュージョンは、異なるセンシング手法による複数の観測値を1つの検出対象に重複して紐づけることを許容する処理である。フュージョンによって生成される新たな観測値は、複数のセンサデータの検出結果に基づくため、検出対象の位置の精度を高めることができる。また、プロセッサ23は、フュージョンされなかった観測値を棄却することがないので、その相補性が維持される。フュージョンに関する処理は、直接的な物体追跡の事前のデータ処理(前処理)として実行されてよい。
プロセッサ23は、フュージョンによって観測値を更新する場合に、重複を許容する上記のデータアソシエーションのアルゴリズムをそのまま適用する。プロセッサ23は、フュージョンを行う一方の観測値の誤差楕円を上限範囲として、フュージョンを行う他方の観測値として、マハラノビス距離が最も小さいものを1つ選択する。図13は、フュージョンを説明するための図である。図13の例において、観測値リストAは例えば撮像装置10のセンサデータの検出結果として得られる観測値である。また、観測値リストBは例えばミリ波センサのセンサデータの検出結果として得られる観測値である。プロセッサ23は、フュージョンを実行して、観測値リストA及び観測値リストBを、観測値リストABに統合する。例えば観測値リストAのa1と観測値リストBのb1のフュージョンによって、精度の高いa1b1という観測値が得られる。また、例えばa4のようにフュージョンされなかった観測値は、そのまま観測値リストABに残される。
プロセッサ23は、重畳的にフュージョンを実行してよい。フュージョンされた観測値の誤差は必ず小さくなるため、より確度と精度の高い観測値を得ることができる。図14は、フュージョンの重複適用を説明するための図である。図13の例において、観測値リストABは図13と同じである。また、観測値リストCは例えばレーザー光の反射波の検出装置のセンサデータの検出結果として得られる観測値である。プロセッサ23は、重畳的にフュージョンを実行することによって、観測値リストA、観測値リストB及び観測値リストCを、観測値リストABCに統合する。観測値リストABCは、例えばa1b1c1のように、さらに精度の高い観測値を有する。
ここで、フュージョンされた観測値は、フュージョンされなかった観測値と同じように扱うことができる。つまり、フュージョンされた観測値も、フュージョンされなかった観測値も、同じようにデータアソシエーションが行われる。そのため、フュージョンが実行された場合であっても、データアソシエーション以降のアルゴリズムは、上記の実施形態と同じである。
物体追跡システム1は、異なるセンシング手法によって得られる複数のセンサデータを取得して、上記のように観測値のフュージョンの処理(追跡を行うための前処理としてのデータ処理)を実行した上で、複数のカルマンフィルタのグループ化を行うことによって、複数の物体をさらに高精度に追跡できる。
上記の実施形態において、物体追跡システム1は、撮像装置10と、物体追跡装置20と、ディスプレイ30とを含むが、これらのうちの少なくとも2つが一体化した構成であってよい。例えば物体追跡装置20の機能は、撮像装置10に搭載することができる。このとき、撮像装置10は、撮像光学系11、撮像素子12及びプロセッサ13に加えて、上記の記憶部22、出力インターフェイス24を備えてよい。また、プロセッサ13は、撮像装置10が出力した動画像について、上記の実施形態においてプロセッサ23が行った処理を実行してよい。このような構成によって、物体の追跡を実行する撮像装置10が実現されてよい。
本開示における「移動体」には、車両、船舶、航空機を含む。本開示における「車両」には、自動車及び産業車両を含むが、これに限られず、鉄道車両及び生活車両、滑走路を走行する固定翼機を含めてよい。自動車は、乗用車、トラック、バス、二輪車及びトロリーバスなどを含むがこれに限られず、道路上を走行する他の車両を含んでよい。産業車両は、農業及び建設向けの産業車両を含む。産業車両には、フォークリフト及びゴルフカートを含むがこれに限られない。農業向けの産業車両には、トラクター、耕耘機、移植機、バインダー、コンバイン及び芝刈り機を含むが、これに限られない。建設向けの産業車両には、ブルドーザー、スクレーバー、ショベルカー、クレーン車、ダンプカー及びロードローラを含むが、これに限られない。車両は、人力で走行するものを含む。ここで、車両の分類は、上述に限られない。例えば、自動車には、道路を走行可能な産業車両を含んでよく、複数の分類に同じ車両が含まれてよい。本開示における船舶には、マリンジェット、ボート、タンカーを含む。本開示における航空機には、固定翼機、回転翼機を含む。
1 物体追跡システム
10 撮像装置
11 撮像光学系
12 撮像素子
13 プロセッサ
20 物体追跡装置
21 入力インターフェイス
22 記憶部
23 プロセッサ
24 出力インターフェイス
30 ディスプレイ
40 物体
40A 歩行者
40B 自動車
40C 自転車
41 画像空間
42 物体の像
43 代表点
44 基準面
45 質点
46 仮想空間
100 車両

Claims (10)

  1. センサデータを取得する入力インターフェイスと、
    前記センサデータの検出結果を用いる観測値から複数の検出対象を検出し、前記複数の検出対象のそれぞれについてカルマンフィルタを用いて追跡を行うプロセッサと、
    前記検出対象の検出結果を出力する出力インターフェイスと、を備え、
    前記プロセッサは、1つの前記観測値に複数の前記カルマンフィルタの対応付けを許容し、複数の前記カルマンフィルタのグループ化を行って同一物体に対応するものか否かを判定する、物体追跡装置。
  2. 前記プロセッサは、前記判定した物体に対応する前記カルマンフィルタを紐付けし、当該カルマンフィルタに対応する前記検出対象の検出結果を紐付けする階層構造で制御を行う、請求項1に記載の物体追跡装置。
  3. 前記プロセッサは、前記判定した物体に識別子を割り当てて該物体の追跡制御を行う、請求項1又は2に記載の物体追跡装置。
  4. 前記プロセッサは、異なる時刻における前記グループの類似度によって前記識別子を管理する、請求項3に記載の物体追跡装置。
  5. 前記プロセッサは、前記グループ化された前記同一物体に対応する前記カルマンフィルタのうち、前記複数の検出対象の位置の確率密度分布による推定範囲が最も小さいものを該グループの代表とする請求項1から4のいずれか一項に記載の物体追跡装置。
  6. 前記プロセッサは、前記複数の検出対象の追跡過程における検出結果の重複を許容する請求項1から5のいずれか一項に記載の物体追跡装置。
  7. 前記プロセッサは、実空間のx軸、y軸及びz軸の3軸より成る座標系において、z軸方向の値を所定の固定値とする2次元空間である仮想空間を用いて、前記複数の検出対象のそれぞれを表す質点の位置及び速度を追跡する、請求項1から6のいずれか一項に記載の物体追跡装置。
  8. センサデータを取得することと、
    前記センサデータの検出結果を用いる観測値から複数の検出対象を検出し、前記複数の検出対象のそれぞれについてカルマンフィルタを用いて追跡を行うことと、
    前記検出対象の検出結果を出力することと、を含み、
    前記追跡を行うことは、1つの前記観測値に複数の前記カルマンフィルタの対応付けを許容し、複数の前記カルマンフィルタのグループ化を行って同一物体に対応するものか否かを判定することを含む、物体追跡方法。
  9. 異なるセンシング手法によって得られる複数のセンサデータを取得する入力インターフェイスと、
    前記複数のセンサデータの検出結果を用いる観測値から複数の検出対象を検出し、前記複数の検出対象のそれぞれについてカルマンフィルタを用いて追跡を行うためのデータ処理を行うプロセッサと、を備え、
    前記プロセッサは、1つの前記観測値に複数の前記カルマンフィルタの対応付けを許容し、複数の前記カルマンフィルタのグループ化を行って同一物体に対応するものか否かを判定する、物体追跡装置。
  10. 異なるセンシング手法によって得られる複数のセンサデータを取得することと、
    前記複数のセンサデータの検出結果を用いる観測値から複数の検出対象を検出し、前記複数の検出対象のそれぞれについてカルマンフィルタを用いて追跡を行うためのデータ処理を行うこと、を含み、
    前記追跡を行うことは、1つの前記観測値に複数の前記カルマンフィルタの対応付けを許容し、複数の前記カルマンフィルタのグループ化を行って同一物体に対応するものか否かを判定することを含む、物体追跡方法。
JP2022558907A 2020-10-28 2021-09-15 物体追跡装置及び物体追跡方法 Active JP7425223B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020180822 2020-10-28
JP2020180822 2020-10-28
PCT/JP2021/033989 WO2022091620A1 (ja) 2020-10-28 2021-09-15 物体追跡装置及び物体追跡方法

Publications (2)

Publication Number Publication Date
JPWO2022091620A1 JPWO2022091620A1 (ja) 2022-05-05
JP7425223B2 true JP7425223B2 (ja) 2024-01-30

Family

ID=81382255

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022558907A Active JP7425223B2 (ja) 2020-10-28 2021-09-15 物体追跡装置及び物体追跡方法

Country Status (5)

Country Link
US (1) US20230368402A1 (ja)
EP (1) EP4239574A1 (ja)
JP (1) JP7425223B2 (ja)
CN (1) CN116457854A (ja)
WO (1) WO2022091620A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000348181A (ja) 1999-03-26 2000-12-15 Atr Media Integration & Communications Res Lab 移動物体追跡装置
JP2008535038A (ja) 2005-04-01 2008-08-28 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド カメラによりシーンに関して取得された映像中の移動物体を追跡する方法
JP2009089365A (ja) 2007-09-20 2009-04-23 Delphi Technologies Inc 物体追跡の方法
WO2018105112A1 (ja) 2016-12-09 2018-06-14 株式会社日立国際電気 水上侵入検知システムおよびその方法
JP2019168953A (ja) 2018-03-23 2019-10-03 株式会社豊田中央研究所 状態推定装置及びプログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11321494A (ja) 1998-05-08 1999-11-24 Yazaki Corp 後側方監視装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000348181A (ja) 1999-03-26 2000-12-15 Atr Media Integration & Communications Res Lab 移動物体追跡装置
JP2008535038A (ja) 2005-04-01 2008-08-28 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド カメラによりシーンに関して取得された映像中の移動物体を追跡する方法
JP2009089365A (ja) 2007-09-20 2009-04-23 Delphi Technologies Inc 物体追跡の方法
WO2018105112A1 (ja) 2016-12-09 2018-06-14 株式会社日立国際電気 水上侵入検知システムおよびその方法
JP2019168953A (ja) 2018-03-23 2019-10-03 株式会社豊田中央研究所 状態推定装置及びプログラム

Also Published As

Publication number Publication date
US20230368402A1 (en) 2023-11-16
JPWO2022091620A1 (ja) 2022-05-05
EP4239574A1 (en) 2023-09-06
WO2022091620A1 (ja) 2022-05-05
CN116457854A (zh) 2023-07-18

Similar Documents

Publication Publication Date Title
JP7140922B2 (ja) マルチセンサデータ融合方法、及び装置
US20200217950A1 (en) Resolution of elevation ambiguity in one-dimensional radar processing
US8605947B2 (en) Method for detecting a clear path of travel for a vehicle enhanced by object detection
US11782158B2 (en) Multi-stage object heading estimation
WO2020185489A1 (en) Sensor validation using semantic segmentation information
JP4956453B2 (ja) 物体検出装置
US11544940B2 (en) Hybrid lane estimation using both deep learning and computer vision
CN114902070A (zh) 传感器退化检测和修复
Dey et al. VESPA: A framework for optimizing heterogeneous sensor placement and orientation for autonomous vehicles
GB2608201A (en) Identifying objects using LiDAR
US20200133283A1 (en) Proceedable direction detection apparatus and proceedable direction detection method
US20230237783A1 (en) Sensor fusion
EP3555854B1 (en) A method of tracking objects in a scene
CN115705780A (zh) 关联被感知和映射的车道边缘以进行定位
Faisal et al. Object detection and distance measurement using AI
WO2022091595A1 (ja) 物体追跡装置及び物体追跡方法
JP7425223B2 (ja) 物体追跡装置及び物体追跡方法
WO2022230738A1 (ja) 物体追跡装置及び物体追跡方法
WO2022230739A1 (ja) 物体追跡装置
CN116229407A (zh) 用于运载工具的方法、运载工具和存储介质
US20230252638A1 (en) Systems and methods for panoptic segmentation of images for autonomous driving
US20230230257A1 (en) Systems and methods for improved three-dimensional data association using information from two-dimensional images
Murillo Deep Learning-based Sensor Fusion for Enhanced Perception in Autonomous Vehicle Environments
JP2022146384A (ja) 物体検出装置
CN111665515A (zh) 多垂直层光检测和测距***、自动泊车辅助以及计算机视觉车道检测与保持

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240118

R150 Certificate of patent or registration of utility model

Ref document number: 7425223

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150