JPH11252587A - 物体追跡装置 - Google Patents

物体追跡装置

Info

Publication number
JPH11252587A
JPH11252587A JP10050785A JP5078598A JPH11252587A JP H11252587 A JPH11252587 A JP H11252587A JP 10050785 A JP10050785 A JP 10050785A JP 5078598 A JP5078598 A JP 5078598A JP H11252587 A JPH11252587 A JP H11252587A
Authority
JP
Japan
Prior art keywords
unit
image
template
distance
matching
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP10050785A
Other languages
English (en)
Inventor
Seiji Kikazawa
征 二 気賀沢
Katsumasa Onda
田 勝 政 恩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP10050785A priority Critical patent/JPH11252587A/ja
Publication of JPH11252587A publication Critical patent/JPH11252587A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 画像中に撮像されている物体の追跡を、広範
囲にわたり精度良く高速に実現すること。 【解決手段】 距離計測部103でステレオ画像処理に
より撮像されている物体までの距離を計測し、物体検出
部106で距離情報を用いて物体を検出する。移動位置
算出部107では、距離情報により検出した物体の位置
から距離情報以外の例えば、濃淡画像や3値化エッジ画
像の情報をテンプレートとして抽出し、マッチングを行
って物体の追跡をする。距離情報により物体を検出する
のでテンプレートを正確に抽出でき、また、距離情報以
外の情報を用いて追跡するので広範囲の追跡が実現でき
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、物体追跡装置に係
り、特に撮像した画像をステレオ画像処理することによ
って物体の追跡を行なう物体追跡装置に関する。
【0002】
【従来の技術】従来の物体追跡方法として、第17回画
像工学コンファレンス16―17(1986)記載の
「車両動態計測の試み」にあるような方法が一般的に用
いられる。この従来技術では、各画像毎に物体の候補を
抽出し、抽出された複数画像の物体の候補を対応づけて
いくことで物体の追跡を実現している。
【0003】また、物体の候補の対応付け方法として、
特開平6−30417号に記載されたものがある。これ
は、予め記憶してある数種類の濃淡テンプレートを用い
て画像中の物体を抽出し、その後濃淡テンプレートマッ
チングにより物体を追跡していき、追跡の度にテンプレ
ートを更新していくものである。
【0004】この従来技術は、テンプレートマッチング
により追跡を行ない、追跡の度にテンプレートを更新し
ていくので、明るさの変化の影響を受けにくく、精度の
良い物体の追跡が実現できる。
【0005】その他の物体追跡方法として、物流計測装
置として特願平8―340254号や特願平8―340
255号に記載されたものがある。これは、複数の画像
からステレオ画像処理によって撮像空間の距離情報を獲
得し、前記距離情報を用いて複数の物体をそれぞれ個別
に検出し、前記各物体をそれぞれ時間的に追跡すること
によって例えば交通量等の物流を計測するものである。
【0006】この従来技術は、距離情報を用いているた
めに、画像中に発生した影や照明の反射などの環境変動
に起因する輝度レベルの変動の影響を受けることがな
く、正確に物体を検出/追跡ができる。さらに、撮像さ
れた画像内で重なって見える複数の物体を前記距離情報
を用いて個別に分離して検出/追跡することができる。
【0007】
【発明が解決しようとする課題】しかしながら、特願平
8―340254号や特願平8―340255号に記載
の物体追跡方法では、ステレオ画像処理により計測した
距離情報を用いて物体を追跡しているが、ステレオ画像
処理による距離情報計測は撮像装置からの距離が遠くな
ればなるほど計測される距離精度は低下するため、広範
囲の物体の追跡を実現することが困難であるという問題
がある。
【0008】そこで本発明は、広範囲にわたる物体の追
跡を実現できる物体追跡装置を提供することを第1の課
題とする。
【0009】また、特願平8―340254号や特願平
8―340255号に記載の物体追跡方法においては、
ステレオ画像処理により計測した距離情報から物体の投
影像を作成して物体を検出しているが、空間内の特定領
域毎に物体の投影像を作成しているため、例えば、画像
中の車両を追跡する場合、隣接する2つの車線にまたが
って車両が走行すると、各々の車線でその車両が検出さ
れるという問題がある。
【0010】そこで本発明は、隣接する2つの特定領域
にまたがって存在する物体を正確に検出/追跡できるよ
うにすることを第2の課題とする。
【0011】また、従来技術特開平6−30417号に
記載の物体追跡方法においては、濃淡テンプレートマッ
チングにより物体の追跡を行なうが、テンプレートは近
距離範囲ではみかけの移動量が多いためにテンプレート
マッチングの演算領域を広くとる必要があり演算量が膨
大となるだけでなく、テンプレート自体が短時間の間に
大きく変化するためにマッチング精度がよくないという
問題がある。そこで、本発明は、近距離範囲でも高速か
つ精度良い物体の検出/追跡が実現できる物体追跡装置
を提供することを第3の課題とする。
【0012】また、従来技術特開平6−30417号に
記載の物体追跡方法においては、予め記憶してある数種
類の濃淡テンプレートを用いて画像中の物体を検出し、
テンプレートを抽出しているが、テンプレートサイズを
物体の大きさより大きく設定するためマッチング時の演
算量が大きくなるという問題がある。さらに、物体をテ
ンプレートの中心にして切り出せないことがあり、この
場合、物体の追跡ができなくなるという問題がある。
【0013】そこで、本発明は、追跡に必要なテンプレ
ートを正確に過不足なく抽出し、マッチング時の演算量
削減と精度の良い物体追跡が実現できる物体追跡装置を
提供することを第4の課題とする。
【0014】また、一般的な従来技術の物体追跡方法に
おいては、画像上で複数の物体が重なり物体の一部が見
えなくなることがあり、このような場合は、物体を分離
することが難しく、物体の追跡を継続できなくなるとい
う問題がある。
【0015】そこで、本発明は、重なりが生じても物体
の追跡を継続できる物体追跡装置を提供することを第5
の課題とする。
【0016】また、従来技術特開平6−30417号に
記載の物体追跡方法においては、濃淡テンプレートマッ
チングを用いて画像中の物体を追跡しているが、濃淡テ
ンプレートはマッチングの演算量が大きいという問題が
ある。そこで、本発明は、マッチング時の演算量削減が
図れ、精度の良い物体の追跡が実現できる物体追跡装置
を提供することを第6の課題とする。
【0017】さらに、従来技術特開平6−30417号
に記載の物体追跡方法においては、濃淡画像からテンプ
レートを切り出しているため、マッチング時の演算量が
多くなるという問題がある。そして、演算量削減のため
2値化エッジ画像からテンプレートを切り出す方法があ
るが、この場合マッチング精度が低下する。
【0018】そこで、本発明は、マッチング精度を低下
させずに、マッチング時の演算量を削減できる物体追跡
装置を提供することを第7の課題とする。
【0019】そして、一般的な従来技術の物体追跡方法
においては、二次元の画像面上での物体の占有率を撮像
空間中の物体の空間占有率として求めているが、基準平
面を俯瞰で撮影する場合は誤差が大きくなるという問題
がある。この問題の対策として、従来技術特願平8―3
40255号では、ステレオ画像処理により検出した物
体を物体の進行方向と観察平面の垂線方向とが成す平面
に投影し、投影像より空間占有率を算出している。しか
し、この方法では、近距離範囲では正確に算出できるが
遠距離範囲では精度が低下するという問題がある。
【0020】そこで、本発明は、俯瞰撮影する場合で
も、また、遠距離範囲を撮影する場合でも、正確に空間
占有率を算出できる物体追跡装置を提供することを第8
の課題とする。
【0021】
【課題を解決するための手段】上記第1の課題を解決す
るために、本発明の物体追跡装置は、以下のような構成
を備える。
【0022】即ち、撮像部は、所定の間隔で複数配置さ
れていて撮像空間を撮像する。距離計測部は、撮像され
た複数の画像からステレオ画像処理によって撮像空間の
距離情報を計測する。距離情報記憶部は、基準時刻にお
ける距離情報を記憶する。物体投影部は、距離計測部よ
り得られた距離情報と距離情報記憶部に記憶された基準
時刻における距離情報から物体の進行方向と観察平面の
垂線方向とが成す平面に空間内の特定領域毎に観察面上
の物体像の投影を行う。物体検出部は、物体投影部によ
り得られた物体投影像から複数の物体の領域を個別に検
出する。移動位置算出部は、物体検出部により検出され
た物体毎に距離情報以外の特徴量を用いてある時刻と次
の時刻でマッチングを行って物体の移動位置を算出す
る。物体情報算出部は、前記移動位置算出部で得られた
結果から所定の位置を通過する物体の数、物体の移動速
度、物体の大きさと物体の異常な動きを算出する。
【0023】また、第2の課題を解決するために、本発
明の物体追跡装置は、請求項1記載の物体検出部におい
て、横幅算出部が検出された各物体の横幅を個別に算出
する。同一物体判定部が横幅算出部により算出された物
体の横幅から隣接する2つの特定領域で検出した物体が
同一の物体か判定する。
【0024】また、第3の課題を解決するために、本発
明の物体追跡装置は、以下のような構成を備える。即
ち、請求項1記載の移動位置算出部において、距離判定
部が、物体検出部により検出された物体の位置が撮像部
から近距離か遠距離かを判定する。近距離範囲移動位置
算出部は、撮像部から近距離の範囲で距離情報を特徴量
として用いてある時刻と次の時刻でマッチングを行い物
体の移動位置を算出する。遠距離範囲移動位置算出部
は、撮像部から遠距離の範囲で距離情報以外の特徴量を
用いてある時刻と次の時刻でマッチングを行い物体の移
動位置を算出する。
【0025】また、第4の課題を解決するために、本発
明の物体追跡装置は、以下のような構成を備える。即
ち、請求項1記載の移動位置算出部または請求項3記載
の遠距離範囲移動位置算出部において、物体特徴部分抽
出部は、物体投影部により作成された物体投影像から物
体の特徴的な部分を抽出する。特徴部分撮像位置算出部
は、物体特徴部分抽出部により抽出された物体特徴部分
が画像に撮像されている位置を算出する。テンプレート
抽出部は、特徴部分撮像位置算出部により算出された位
置から距離情報以外の情報をテンプレートとして抽出す
る。テンプレート記憶部は、テンプレート抽出部により
抽出されたテンプレートを記憶する。テンプレートマッ
チング部は、前記テンプレート記憶部に記憶されたテン
プレートを用いてある時刻と次の時刻でマッチングを行
い物体の移動位置を算出する。
【0026】また、第5の課題を解決するために、本発
明の物体追跡装置は、以下のような構成を備える。即
ち、請求項4記載のテンプレートマッチング部におい
て、重なり判定部は、物体検出部により検出された複数
の物体の位置から画像上での物体の重なりを判定する。
テンプレート分割部は、前記重なり判定部で複数の物体
が重なっていると判定された場合にテンプレートを複数
の領域に分割する。領域マッチング部は、テンプレート
分割部により分割された領域毎にマッチングを行う。類
似度算出部は、領域マッチング部により得られた結果に
重み付けをしてテンプレート全体の類似度を算出する。
移動位置決定部は、類似度算出部により算出された結果
から物体の移動位置を決定する。
【0027】また、第6の課題を解決するために、本発
明の物体追跡装置は、以下のような構成を備える。即
ち、請求項1記載の移動位置算出部または請求項3記載
の遠距離範囲移動位置算出部において、物体撮像位置算
出部は、物体検出部により検出された物体の位置から物
体の画像上の位置を算出する。エッジヒストグラム作成
部は、物体撮像位置算出部により算出された撮像位置に
ついてエッジ画像を作成し物体の進行方向に対し垂直な
方向に走査してエッジヒストグラムを作成する。エッジ
ヒストグラム記憶部は、エッジヒストグラム作成部によ
り作成されたエッジヒストグラムを記憶する。エッジヒ
ストグラムマッチング部は、エッジヒストグラム記憶部
に記憶されたエッジヒストグラムを用いてある時刻と次
の時刻でマッチングを行い物体の移動位置を算出する。
【0028】また、第7の課題を解決するために、本発
明の物体追跡装置は、以下のような構成を備える。即
ち、請求項1記載の距離計測部において、エッジ画像作
成部は、撮像部から撮像された画像から3値化エッジ画
像を作成する。対応付け部は、3値化エッジ画像作成部
により作成された複数の3値化エッジ画像を対応付けて
撮像空間の距離情報を計測する。請求項4記載のテンプ
レート抽出部または請求項6記載のエッジヒストグラム
作成部において、エッジ画像作成部で作成された3値化
エッジ画像を用いてテンプレートの抽出またはエッジヒ
ストグラムの作成を行う。
【0029】また、第8の課題を解決するために、本発
明の物体追跡装置は、以下のような構成を備える。即
ち、請求項1記載の物体検出部において、物体長算出部
が物体投影部で作成された物体投影像から物体の長さを
算出し、物体長記憶部が物体長算出部により物体毎に算
出された物体長を個別に記憶する。さらに、請求項1記
載の物体情報算出部において、物体長記憶部に記憶され
た物体の長さ情報と、請求項1記載の移動位置算出部ま
たは請求項3記載の遠距離範囲移動位置算出部により算
出した物体の位置情報を用いて物体の空間占有率を算出
する。
【0030】
【発明の実施の形態】本発明の請求項1に記載の発明
は、所定の間隔で配置された複数の撮像部と、前記撮像
部より撮像された複数の画像からステレオ画像処理によ
って撮像空間の距離情報を計測する距離計測部と、基準
時刻における距離情報を記憶する距離情報記憶部と、前
記距離計測部より得られた距離情報と前記距離情報記憶
部に記憶された基準時刻における距離情報から物体の進
行方向と観察平面の垂線方向とが成す平面に空間内の特
定領域毎に観察面上の物体像の投影を行う物体投影部
と、前記物体投影部により得られた物体投影像から複数
の物体の領域を個別に検出する物体検出部と、前記物体
検出部により検出された物体毎に距離情報以外の特徴量
を用いてある時刻と次の時刻でマッチングを行って物体
の移動位置を算出する移動位置算出部と、前記移動位置
算出部で選られた結果から所定の位置を通過する物体の
数、物体の移動速度、物体の大きさと物体の異常な動き
を算出する物体情報算出部とを備えたものであり、ステ
レオ画像処理により計測した距離情報を用いて物体を検
出し、かつ、距離情報以外の特徴量を用いて物体を追跡
するので、広範囲にわたって精度良く物体を検出/追跡
できるという作用を有する。
【0031】本発明の請求項2に記載の発明は、請求項
1記載の物体追跡装置において、移動位置算出部が、検
出された各物体の横幅を個別に算出する横幅算出部と、
前記横幅算出部により算出された物体の横幅から隣接す
る2つの特定領域で検出した物体が同一の物体か判定す
る同一物体判定部とを兼ね備えたものであり、物体の横
幅から隣接する2つの特定領域で検出した物体が同一の
物体か判定するので、隣接する2つの特定領域にまたが
って存在する物体を正確に検出/追跡できるという作用
を有する。
【0032】本発明の請求項3に記載の発明は、請求項
1または2記載の物体追跡装置において、移動位置算出
部が、物体検出部により検出された物体の位置が撮像部
から近距離か遠距離かを判定する距離判定部と、撮像部
から近距離の範囲で距離情報を特徴量として用いてある
時刻と次の時刻でマッチングを行い物体の移動位置を算
出する近距離範囲移動位置算出部と、撮像部から遠距離
の範囲で距離情報以外の特徴量を用いてある時刻と次の
時刻でマッチングを行い物体の移動位置を算出する遠距
離範囲移動位置算出部とからなるものであり、近距離範
囲においてはステレオ画素処理によって計測した距離情
報を用いて物体の検出/追跡を行なうので、近距離範囲
でも高速かつ精度良く物体を検出/追跡できるという作
用を有する。
【0033】本発明の請求項4に記載の発明は、請求項
1乃至3のいずれかに記載の物体追跡装置において、移
動位置算出部または遠距離範囲移動位置算出部が、物体
投影部により作成された物体投影像から物体の特徴的な
部分を抽出する物体特徴部分抽出部と、前記物体特徴部
分抽出部により抽出された物体特徴部分が画像に撮像さ
れている位置を算出する特徴部分撮像位置算出部と、前
記特徴部分撮像位置算出部により算出された位置から距
離情報以外の情報をテンプレートとして抽出するテンプ
レート抽出部と、前記テンプレート抽出部により抽出さ
れたテンプレートを記憶するテンプレート記憶部と、前
記テンプレート記憶部に記憶されたテンプレートを用い
てある時刻と次の時刻でマッチングを行い物体の移動位
置を算出するテンプレートマッチング部とからなるもの
であり、ステレオ画像処理により計測した距離情報によ
り物体を検出しテンプレートを抽出するので、テンプレ
ートを正確に過不足なく抽出し、マッチング時の演算量
を削減でき、精度良く物体を追跡できるという作用を有
する。
【0034】本発明の請求項5に記載の発明は、請求項
4記載の物体追跡装置において、テンプレートマッチン
グ部が、物体検出部により検出された複数の物体の位置
から画像上での物体の重なりを判定する重なり判定部
と、前記重なり判定部で複数の物体が重なっていると判
定された場合にテンプレートを複数の領域に分割するテ
ンプレート分割部と、前記テンプレート分割部により分
割された領域毎にマッチングを行う領域マッチング部
と、前記領域マッチング部により得られた結果に重み付
けをしてテンプレート全体の類似度を算出する類似度算
出部と、前記類似度算出部により算出された結果から物
体の移動位置を決定する移動位置決定部とからなるもの
であり、周辺に存在する他の物体の位置から追跡してい
る物体中で重なって見えなくなる部分を予測し、この部
分のテンプレートの類似度の重みを低くするので、重な
りが生じても継続して物体を追跡できるという作用を有
する。
【0035】請求項6に記載の発明は、請求項1乃至5
のいずれかに記載の物体追跡装置において、移動位置算
出部または遠距離範囲移動位置算出部が、物体検出部に
より検出された物体の位置から物体の画像上の位置を算
出する物体撮像位置算出部と、前記物体撮像位置算出部
により算出された撮像位置についてエッジ画像を作成し
物体の進行方向に対し垂直な方向に走査してエッジヒス
トグラムを作成するエッジヒストグラム作成部と、前記
エッジヒストグラム作成部により作成されたエッジヒス
トグラムを記憶するエッジヒストグラム記憶部と、前記
エッジヒストグラム記憶部に記憶されたエッジヒストグ
ラムを用いてある時刻と次の時刻でマッチングを行い物
体の移動位置を算出するエッジヒストグラムマッチング
部とからなるものであり、物体領域についてのエッジヒ
ストグラムを過不足なく正確に作成して追跡に用いるこ
とができるので、マッチング時の演算量の削減と精度の
良い物体追跡ができる。
【0036】請求項7に記載の発明は、請求項1乃至6
のいずれかに記載の物体追跡装置において、距離情報計
測部が、撮像部から撮像された画像から3値化エッジ画
像を作成する3値化エッジ画像作成部と、3値化エッジ
画像作成部により作成された複数の3値化エッジ画像を
対応付けて撮像空間の距離情報を計測する対応付け部と
から成り、前記3値化エッジ画像作成部で作成された3
値化エッジ画像をテンプレート抽出部またはエッジヒス
トグラム作成部で用いるようにしたものであり、ステレ
オ画像処理によって距離情報を計測する時に作成した3
値化から抽出したテンプレートを用いてマッチングを行
なうので、マッチング時の演算量を削減できるという作
用を有する。
【0037】請求項8に記載の発明は、請求項1乃至7
のいずれかに記載の物体追跡装置において、物体検出部
が、前記物体投影部で作成された物体投影像から物体の
長さを算出する物体長算出部と、前記物体長算出部によ
り物体毎に算出された物体長を個別に記憶する物体長記
憶部を併せ備え、物体情報算出部において、前記物体長
記憶部に記憶された物体の長さ情報と、移動位置算出部
または遠距離範囲移動位置算出部により算出した物体の
位置情報を用いて物体の空間占有率を算出するようにし
たものであり、ステレオ画像処理により計測した物体の
長さ情報を用いて空間占有率を算出するので、俯瞰撮影
する場合でも、また、遠方まで撮影する場合でも正確に
空間占有率を算出できるという作用を有する。
【0038】以下、本発明に係る物体追跡装置の実施の
形態について、図面を参照して説明する。なお、下記の
(第1の実施の形態)〜(第8の実施の形態)において
は、説明を分かり易くするために、具体的応用例として
交通流計測装置を想定して説明を行なう。
【0039】(第1の実施の形態)図1は、本発明の第
1の実施の形態の物体追跡装置のブロック図を示したも
のである。図1において、101と102は所定の間隔
で配置された撮像部、103は撮像部101と102に
より入力された画像から撮像されている物体までの距離
を計測する距離計測部、104は基準時刻t0で得られ
る距離情報を記憶しておく距離情報記憶部、105は基
準時刻t0以降の時刻で得られる距離情報を、撮像面と
撮像面から車両までの距離を表す三次元座標系から道路
面と道路面からの車両の高さを表す三次元座標系に変換
し、物体を進行方向と観察平面の垂線方向とが成す平面
に投影する物体投影部、106は物体投影手段105に
より作成された投影像から物体の領域を検出する物体検
出部、107は物体検出部106により検出された物体
毎に距離情報以外の特徴量を用いてある時刻と次の時刻
でマッチングを行って物体の移動位置を算出する移動位
置算出部、108は移動位置算出部107で得られた結
果から所定の位置を通過する物体の数、物体の移動速
度、物体の大きさ、物体の空間占有率と物体の異常な動
きを算出する物体情報算出部である。
【0040】次に上記実施の形態の動作について説明す
る。所定の間隔で配置された撮像部101と撮像部10
2によって撮像された画像は距離計測部103に送ら
れ、図2に示すように画像201を水平方向及び垂直方
向に複数に分割してなる矩形領域203毎に、撮像され
ている物体までの距離が計測される。ステレオ画像処理
による距離計測方法としては、実吉他著「三次元画像認
識技術を用いた運転支援システム」、自動車技術会学術
講演会前刷924、pp.169―172(1992―
10)や、特開平8−294143号記載のものなどが
知られている。距離計測部103では上述に紹介したよ
うな方法によって、矩形領域毎の距離情報K(X、Y)
[ただし、0<X≦M、0<Y≦N]が算出される。計
測基準時刻t0に撮像部101および102により撮像
された画像から計測した距離情報に対し、計測できた矩
形領域の情報を用いて最小二乗法などの方法で撮像され
た平面の位置を推定し、距離計測できなかった矩形領域
の距離を補完した後、距離情報記憶部104へ基準時刻
t0における距離情報として出力する。
【0041】計測基準時刻t0以降の計測時刻t(t>
t0)に撮像部101および102により撮像された画
像から計測された距離情報は、そのまま物体投影部10
5へ出力される。
【0042】物体投影部105では、距離計測部103
により計測された距離情報と距離情報記憶部104に記
憶されている基準時刻t0における距離情報を用いて、
撮像面と撮像面から物体までの距離という三次元情報
を、道路面と道路面からの物体の高さという三次元情報
に変換する。
【0043】座標変換の動作の一例を図3を用いて説明
する。図3は、撮像面301と撮像面301から車両ま
での距離を表す座標系(X、Y、K)と道路面302と
道路面302から車両の高さを表す座標系(U、V、
H)との位置関係を示したものである。
【0044】矩形領域(X、Y)に撮像されている車両
の高さHの算出は、距離計測部103により計測された
矩形領域毎の距離をK(X,Y)、基準時刻t0におけ
る矩形領域毎の距離をK0(X,Y)とすると、式1に
より求めることができる。但し、Hc はカメラの設置高
を表す。
【0045】
【数1】 …(式1)
【0046】また、この矩形領域に撮像されている車両
の進行方向の位置Vは、式2により求めることができ
る。但し、θはカメラの俯角を表す。
【0047】
【数2】 …(式2)
【0048】車両のU軸方向の位置は、U軸とX軸を平
行に設置すれば、式3により求めることができる。但
し、aおよびbは使用するカメラと設置する位置によっ
て決定される。 U=aX+b …(式3)
【0049】以上のように、(式1)〜(式3)を用い
ることにより、撮像面301と撮像面301から車両ま
での距離を表す座標系(X、Y、K)を、道路面302
と道路面302からの車両の高さを表す座標系(U、
V、H)に変換することができる。
【0050】さらに、物体投影部105では、図2に示
す画像201中の各矩形領域203に撮像されている車
両が空間内のどの特定領域(交通流計測装置において
は、車線)を走行しているかを判定し、座標変換により
算出された実空間座標系における車両情報を車両の進行
方向と道路面に対して垂直方向とがなす平面(V―H平
面)に車線毎に投影し、車両の投影像を作成する。この
ようにして作成された車両の投影像の例を図4に示す。
【0051】物体検出部106では、物体投影部105
から出力される車線毎の車両の投影像401から車両領
域402を決定する。車両領域402の決定方法の例と
しては、車両投影像がV軸方向に一定以上の大きさがあ
れば車両と判定し、この領域を車両領域とする方法があ
る。さらに、車両投影像401から車両の先頭位置また
は後端位置Vrを検出する。ここで、撮像部101、1
02が車両の前方から撮像している場合には先頭位置
を、後方から撮影している場合には後端位置を検出す
る。以降の実施の形態では車両の後端位置を検出する場
合について説明するが、先頭位置を検出する場合も同様
の方法により実現できる。
【0052】次に、移動位置算出部107では、物体検
出部106によって決定された車両領域402から、撮
像部101で撮像された画像上で車両が撮像されている
領域を決定し、車両領域全体または一部から距離情報以
外の特徴量を抽出する。
【0053】車両領域402が画像上で撮像されている
領域を算出する方法の一例を図5を用いて説明する。図
5において、車両の後端部がV=Vrで検出できたとす
ると、撮像部101からV=Vrの位置での道路面50
1までの光軸方向の距離K=Krは、式4により算出で
きる。
【0054】
【数3】 …(式4)
【0055】そして、当該車両が走行している車線50
2が画像上で撮像されている範囲において、道路面まで
の光軸方向の距離がK=Krとなる画像上の領域Y=Y
rを算出する。光軸方向の距離Kと画像上のYとの関係
は、距離情報記憶部104に記憶されている基準時刻t
0における距離情報を参照して知ることができる。図3
において、X軸とU軸を平行にとれば、KとYの関係は
式5で表せる。ここで、A、B、Cはカメラパラメータ
により決定される定数である。
【0056】 K=A/(B+CY) …(式5) したがって、Krから式5を用いてYrを算出すること
ができる。
【0057】さらに、画像中のY<Yrの範囲において
エッジ画像を作成し、当該車両が走行している車線50
2が撮像されている範囲内で、X軸503、Y軸505
上でエッジヒストグラム504、506を作成し、この
エッジヒストグラム504、506が予め定めたしきい
値THx、THyを超える範囲Xl<X<Xr、Ys<
Y<Yrを車両が撮像されている領域の一部と決定す
る。
【0058】そして、この領域から追跡に使用する距離
情報以外の特徴量をテンプレートを抽出する。なお、テ
ンプレートとして抽出する特徴量は、画像の輝度情報、
あるいは、微分情報、あるいは、色情報、あるいはそれ
らを組み合わせて使用しても良い。
【0059】このようにして抽出したテンプレートを用
いてマッチングを行って物体の移動位置を算出する。テ
ンプレートマッチングは、ある時刻tの画像から抽出し
たテンプレートと、次の時刻t+Δtの画像上の近傍の
領域との類似度を計算し、類似度が最も大きい領域に物
体のテンプレートに対応する部分が移動したとするもの
である。類似度の算出方法は、例えば、テンプレートと
して画像の輝度情報を用いた場合、差分和Sとして式6
のように求めることができる。ただし、時刻t+Δtの
画像の輝度情報をG、テンプレートの輝度情報をGT、
テンプレートのサイズをm×nとする。
【0060】
【数4】 …(式6)
【0061】差分和Sが最も小さい領域で類似度が最も
大きいと判定できる。また、テンプレートは2次元の画
像情報であり、時々刻々変化するため、テンプレートマ
ッチング終了後、テンプレートマッチングで最終的に決
定された最も一致する領域でのテンプレートと過去のテ
ンプレートを入れ替えるとよい。
【0062】最後に、物体情報算出部108では、移動
位置算出部107により得られた結果から所定の位置を
通過する物体の数を算出し、物体の移動量と移動時間か
ら移動速度を算出し、物体の投影像から物体の大きさを
算出し、物体の移動方向や移動量から物体の異常な動き
を検出する。
【0063】以上のように本発明の第1の実施の形態に
よれば、従来技術のように比較的近距離範囲のみだけで
なく遠距離範囲においても物体の追跡が精度良く実現可
能となる。
【0064】(第2の実施の形態)本発明の第2の実施
の形態は、図6に示す構成をしたものである。図6にお
いて、101〜108は第1の実施の形態および第2の
実施の形態で説明したものと同じである。また、601
は物体検出部106により検出された各々の物体の移動
位置において個別に物体の横幅を算出する横幅算出部、
602は物体検出部106により算出された各々の物体
の移動位置と横幅算出部601により算出された各々の
物体の横幅から隣接する2つの車線に存在する物体が同
一の物体であるかを判定する同一物体判定部である。
【0065】次に上記実施の形態の動作について説明す
る。101〜106は第1の実施の形態で説明したもの
と同様の動作を行う。横幅算出部601では、物体検出
部106で検出した物体の横幅を算出する。横幅算出部
601の動作について図7を用いて説明する。
【0066】ある時刻で車両が隣接する2つの車線70
1、702にまたがって走行しているとする。このと
き、物体検出部106において、車線701、702上
でそれぞれY=Yrの位置に車両が検出される。そし
て、第1の実施の形態の移動位置算出部107で説明し
たものと同じ動作でX軸703上にエッジヒストグラム
704を作成し、画像上での車幅を算出する。図7で
は、車線701上で検出した車両の画像上での車幅は
(X2−X1)、車線702上で検出した車両の車幅は
(X3−X2)となる。ここで、Y=Yrに対応する道
路面の光軸方向の距離をK=Krとし、画像上での車幅
をXW、画像上でのX軸方向の撮像範囲の幅をXNとす
ると、実際の車幅Wは式7により算出できる。ただし、
Cはカメラパラメータにより決定される定数である。
【0067】
【数5】 …(式7)
【0068】物体検出部106により検出された複数の
車両の実際の車幅を式7を用いて個別に算出しておく。
さらに、同一物体判定部602では、横幅算出部601
で算出した実際の車幅から、隣接する2つの車線で検出
された車両が同一のものかを判定する。隣接する2つの
車線の同じY座標位置または近くのY座標位置で車両が
検出された場合、2車線で検出された車両の実際の車幅
の合計を算出する。一般的な車両の車幅は2m程度であ
るから、2車線で検出された車両の車幅の合計が2m程
度であればそれらの車両は同一の車両であると判定で
き、4m程度であれば2台の別々の車両が併走している
ものと判定できる。
【0069】隣接する2つの車線で検出された車両が同
一のものであると判定された場合、移動位置算出部10
7では、どちらかの一方の車線で検出された車両の移動
位置を算出し、もう一方の車線で検出された車両は検出
されなかったものとして扱う。
【0070】以上のように本発明の第2の実施の形態に
よれば、物体の横幅から隣接する2つの車線で検出した
物体が同一の車両か判定するので、2つの車線にまたが
って走行する車両を正確に検出/追跡できる。
【0071】(第3の実施の形態)図8は、本発明の第
2の実施の形態の物体追跡装置を用いた交通流計測のブ
ロック図を示したものである。図8において、101〜
106、108は第1の実施の形態で説明したものと同
じである。801は物体検出部106で検出された物体
が撮像部から近い範囲にあるか遠い範囲にあるかを判定
する距離判定部、802は物体が撮像部に近い範囲にあ
る場合に物体の移動位置を判定する近距離範囲移動位置
算出部、803は物体が撮像部から遠い範囲にある場合
に物体の移動位置を判定する遠距離範囲移動位置算出部
である。
【0072】次に上記実施の形態の動作について説明す
る。101〜106は第1の実施の形態で説明したもの
と同じ動作を行う。距離判定部801において、車両が
図9における撮像範囲901内の近距離範囲902に存
在するか遠距離範囲903に存在するかを判定し、近距
離範囲902に存在する場合は近距離範囲移動位置算出
部802の動作を行い、遠距離範囲903に存在する場
合は近距離範囲移動位置算出部803の動作を行う。
【0073】図10を参照しながら近距離範囲移動位置
算出部802の動作を説明する。ある時刻に作成された
車両の投影像1001をH0(V)、車両後端位置10
02をV0とし、次の時刻で作成された車両の投影像1
003をH1(V)、車両後端位置1004をV1とす
る。
【0074】ある時刻の投影像H0(V)からV=V0
近傍の投影像Hp(V)を部分投影像1005として切
り出し、次の時刻の車両の投影像1003のV=V1の
近傍の投影像と比較し、相関を計算する。
【0075】相関の演算方法の一例として差分和を用い
る方法を説明する。ただし、本発明は以下に説明する演
算方法に限定されるものではない。まず、部分投影像1
005中の後端位置1006の位置と次の時刻の投影像
1003の後端位置1004を合わせて、差分和S
(V)を算出する。差分和S(V)は式8により算出で
きる。ただし、Vsは部分投影像のV軸方向の大きさで
ある。
【0076】
【数6】 …(式8)
【0077】次に、部分投影像1005中の後端位置1
006の位置をV<V1の方向に△Vずつずらしながら
差分和S(V)を順次算出していく。この操作は、後端
位置のずれ量が予め定められた量Veを超えるまで行わ
れる。さらに、V>V1の方向へも同様の動作が行われ
る。そして、求めた差分和S(V)が最も小さくなる位
置を相関が最も高い位置として、この位置を真の車両の
移動位置として決定する。
【0078】以上のような動作により車両を追跡してい
き、車両が近距離範囲902から遠距離範囲903に移
動した場合、近距離範囲移動位置算出部802の動作は
終了し遠距離範囲移動位置算出部803の動作を始め
る。803の動作は第1の実施の形態で説明したものと
同じである。
【0079】以上のように本発明の第3の実施の形態に
よれば、近距離範囲においてステレオ画像処理により計
測した距離情報を用いて物体の追跡を行うので、追跡時
の特徴量マッチングのための演算量が削減でき、広範囲
にわたる物体の追跡を高速かつ精度良く実現できる。
【0080】(第4の実施の形態)本発明の第4の実施
の形態は、第1の実施の形態で説明した移動位置算出部
107または第3の実施の形態で説明した遠距離範囲移
動位置算出部803が、図11に示す構成をしたもので
ある。図11において、1101は物体検出部106に
より検出された物体領域の情報をもとに物体の特徴的な
部分を判定する物体特徴部分抽出部、1102は物体特
徴部分抽出部1101により判定された特徴部分が撮像
部101により得られた画像中のどの位置に撮像されて
いるかを算出する特徴部分撮像位置算出部、1103は
特徴部分撮像位置算出部1102により算出された位置
に基づいてテンプレートを抽出するテンプレート抽出
部、1104はテンプレート抽出部1103により抽出
されたテンプレートを記憶するテンプレート記憶部、1
105はテンプレート記憶部1104に記憶されたテン
プレートを用いてテンプレートマッチングを行うテンプ
レートマッチング部である。
【0081】次に上記実施の形態の動作について説明す
る。まず、物体特徴部分抽出部1101では、物体検出
部106により決定された車両領域402中の車両投影
像401から抽出した物体の特徴的な部分を判定する。
物体が車両の場合、例えば、ナンバプレートやテールラ
ンプなどがある車両背面部が特徴的な部分であると判定
することができるので、図12において車両背面部を車
両特徴部1201として車両背面部の高さHrとV軸方
向の位置Vrを算出する。
【0082】次に、特徴部分撮像位置算出部1102で
は、撮像部101により撮像された画像内で車両特徴部
1201が撮像されている位置を算出する。図13にお
いて、車両特徴部1201は道路面1301のVr<V
<Vtの範囲に対応する画面上の位置に撮像される。こ
のとき、Vtは式9により算出できる。
【0083】
【数7】 …(式9)
【0084】ここで、道路面1301のVr<V<Vt
の範囲の撮像部101から光軸方向の距離の範囲Kb<
K<Ktは、第1の実施の形態で説明した式4により算
出できる。また、式5により車両特徴部1001が画像
上で撮像されているY軸方向の範囲Yt<Y<Ybを算
出できる。
【0085】そして、画像中のYt<Y<Ybの範囲に
おいてエッジ画像を作成し、当該車両が走行している車
線1302が撮像されている範囲内で、X軸1303上
でエッジヒストグラムを作成し、車両特徴部1201が
撮像されている範囲Xl<X<Xrを決定する。テンプ
レート抽出部1103では、特徴部分撮像位置算出部1
102により算出された車両特徴部1201の位置(X
l<X<Xr、Yt<Y<Yb)から追跡に使用するテ
ンプレートを抽出し、テンプレート記憶部1104に出
力する。
【0086】最後に、テンプレートマッチング部110
5では、テンプレートを抽出した時刻以降の時刻で、テ
ンプレート記憶部1104に記憶されているテンプレー
トを用いてマッチングを行い物体の移動位置を算出す
る。
【0087】以上のように本発明の第4の実施の形態に
よれば、追跡に必要なテンプレートを可不足なく正確に
抽出できるので、マッチング時の演算量の削減と精度の
良い物体追跡が実現できる。
【0088】(第5の実施の形態)本発明の第5の実施
の形態は、第4の実施の形態で説明したテンプレートマ
ッチング部1105が、図14に示す構成をしたもので
ある。図14において、1401は物体検出部106に
より検出された複数の物体の位置から画像上での物体の
重なりを判定する重なり判定部、1402は重なり判定
部1401で複数の物体が重なっていると判定された場
合にテンプレートを複数の領域に分割するテンプレート
分割部、1403はテンプレート分割部1402により
分割された領域毎にマッチングを行う領域マッチング
部、1404は領域マッチング部1403により得られ
た結果に重み付けをしてテンプレート全体の類似度を算
出する類似度算出部、1405は類似度算出部1404
により算出された結果から物体の移動位置を決定する移
動位置決定部である。
【0089】次に上記実施の形態の動作について説明す
る。まず、重なり判定部1401では、1つの車線に車
両が複数台走行している場合に、追跡中の車両のテンプ
レートに対応する部分の一部が、後ろを走行する車両に
隠されて画像上では見えなくなるかを判定する。図15
において、ある時刻tに、ある車線を2台の車両150
1、1502が走行しており、車両1501の後端位置
がV1、車高がH1、車両1502の後端位置がV2、
車高がH2、車両長がL2であったとする。このとき、
式10を満たす時、車両1501の車両特徴部1201
が隠れて見えなくなる。
【0090】
【数8】 …(式10)
【0091】また、隠れる領域1503の高さH1B
は、式11より算出することができる。
【0092】
【数9】 …(式11)
【0093】さらに、第3の実施の形態に記載した方法
と同様にして、画像上で見える領域1504と隠れる領
域1503の境界部が撮像されている位置のY座標を算
出することができる。
【0094】次の時刻t+Δtの画像上で類似する領域
を探索する時には、図16のように時刻tで抽出したテ
ンプレート1601を画像上で隠れる領域1503と見
える領域1504の2つに分割し、分割領域毎に探索す
る周辺領域との類似度を算出する。そして、画像上で見
える領域1504での類似度をS1、画像上で隠れる領
域1503の類似度をS2として、S1とS2に対して
重み付けをして、式12のようにテンプレート全体の類
似度を算出する。 S=α1×S1+α2×S2 …(式12) 画像上で隠れる領域1503部分のテンプレートには追
跡中の物体とは異なる物体が撮像されているため、テン
プレートマッチングに用いるのは適当でない。従って、
α2=0または0に近い値にする。
【0095】なお、本実施の形態では、テンプレートを
2つの領域に分割する方法について説明したが、3つ以
上の領域に分割してもよい。その場合、テンプレートの
上部にある領域の重みを大きくし、下部にある領域の重
みを小さく設定するとよい。
【0096】以上のように、本発明の第5の実施の形態
によれば、テンプレートの隠れた部分から得られる類似
度の重みを小さくするので、画像上で複数の物体が重な
り物体の一部が見えなくなっても、継続して精度良く物
体が追跡が行える。
【0097】(第6の実施の形態)本発明の第6の実施
の形態は、第1の実施の形態で説明した移動位置算出部
107または第3の実施の形態で説明した遠距離範囲移
動位置算出部803が、図17に示す構成をしたもので
ある。図17において、1701は物体検出部106に
より検出された物体の領域が画像上で撮像されている位
置を算出する物体撮像位置算出部、1702は物体撮像
位置算出部1701により算出された撮像位置について
エッジ画像を作成し物体の進行方向に対し垂直な方向に
走査してエッジヒストグラムを作成するエッジヒストグ
ラム作成部、1703はエッジヒストグラム作成部17
02により作成されたエッジヒストグラムを記憶するエ
ッジヒストグラム記憶部、1704はエッジヒストグラ
ム記憶部1703に記憶されたエッジヒストグラムを用
いてある時刻と次の時刻でマッチングを行い物体の移動
位置を算出するエッジヒストグラムマッチング部であ
る。
【0098】次に上記実施の形態の動作について説明す
る。まず、物体撮像位置算出部1701では、第1の実
施の形態で説明した方法で、車両の後端位置が画像上で
撮像されているY軸方向の位置Yrを算出する。さら
に、エッジヒストグラム作成部1702では、Y<Yr
でエッジ画像を作成しX軸方向に走査して図5のY軸上
505のエッジヒストグラム506を作成する。そし
て、エッジヒストグラム記憶部1703ではエッジヒス
トグラム作成部1702で作成したエッジヒストグラム
506を記憶する。
【0099】次に、エッジヒストグラムマッチング部1
704において、エッジヒストグラム記憶部1703に
記憶されたエッジヒストグラムを用いてマッチングを行
い車両の移動位置を算出する。マッチング方法は、第3
の実施の形態で説明した近距離範囲移動位置算出部80
2の動作における投影像から移動位置を算出する方法と
同様の方法で実現できる。ただし、エッジヒストグラム
のマッチングでは、投影像のV軸がY軸になり、投影像
の高さHがエッジ画素数になる。
【0100】以上のように、本発明の第6の実施の形態
によれば、距離情報により検出した物体領域からエッジ
ヒストグラムを作成して物体の追跡を行うので、物体領
域のみのエッジヒストグラムを正確に作成でき、マッチ
ング時の演算量削減と精度の良い物体の追跡が実現でき
る。
【0101】(第7の実施の形態)本発明の第7の実施
の形態は、図18に示す構成をしたものである。図18
において、101、102、104〜108は第1の実
施の形態で説明したものと同じであり、1101〜11
05は、第4の実施の形態で説明したものと同じであ
る。また、1801は撮像部から撮像された画像から3
値化エッジ画像を作成する3値化エッジ画像作成部、1
802は3値化エッジ画像作成部により作成された複数
の3値化エッジ画像を対応付けて撮像空間の距離情報を
計測する対応付け部である。
【0102】次に上記の実施の形態の動作について説明
する。まず、撮像部101、102により撮像された画
像から3値化エッジ画像作成部1801でエッジ画像を
作成する。対応付け部1802では3値化エッジ画像作
成部1801で作成されたエッジ画像を対応付けること
により距離情報を計測する。3値化エッジ画像を対応付
けて距離情報を計測する方法の一例としては、特開平8
−294143に記載されたものがある。本技術では、
撮像された画像を複数の周波数成分画像に展開するとと
もに各周波数成分画像に対して2次微分処理を施し、こ
の2次微分処理を施された各画像それぞれに画素毎に3
値化処理をすることによって3値化画像を作成する。そ
して、基準とする一方の3値化周波数成分画像上にサイ
ズNの1次元ウィンドウを設定し、前記一次元ウィンド
ウ内N画素の3値パターンと類似する領域をもう一方の
画像の3値化周波数成分画像中より探索し、対応領域を
決定する。さらに、画像全体をM×N画素の大きさのブ
ロックに分割し、各ブロックに含まれる1次元ウィンド
ウの対応領域を参照して、ブロックの対応領域を決定し
ている。
【0103】距離情報記憶部104、物体投影部10
5、物体検出部106、物体特徴部分検出部1101
は、第1の実施の形態または第4の実施の形態で説明し
たものと同様の動作を行う。 特徴部分撮像位置検出部
1102では車両の特徴部が画像上で撮像されている領
域を算出し、テンプレート1103では3値化エッジ画
像作成部1801で作成したエッジ画像上の車両特徴部
が撮像されている領域をテンプレートとして抽出する。
その後、テンプレート記憶部1104、テンプレートマ
ッチング部1105、物体情報算出部108は第1の実
施の形態および第4の実施の形態で説明したものと同様
の動作を行う。なお、本実施の形態では、3値化エッジ
画像作成部で作成された3値化エッジ画像を請求項4記
載のテンプレート抽出部で用いる場合について説明した
が、請求項6記載のエッジヒストグラム作成部で用いる
場合も同様の動作で実現できる。
【0104】以上のように、本発明の第7の実施の形態
によれば、ステレオ画像処理によって距離情報を計測す
る時に作成した3値化エッジ画像から抽出したテンプレ
ートを用いてマッチングを行なうので、マッチング時の
演算量の削減とマッチング精度の向上が実現できる。
【0105】(第8の実施の形態)本発明の第8の実施
の形態は、図19に示す構成をしたものである。図19
において、101〜108は第1の実施の形態で説明し
たものと同じであり、1901は物体検出部106によ
り検出された物体の領域の長さを算出する物体長算出
部、1902は物体長算出部1901により検出された
物体長を記憶する物体長記憶部である。
【0106】次に上記実施の形態の動作について説明す
る。まず、101〜106は第1の実施の形態で説明し
たものと同様の動作を行い、物体の存在する領域を検出
する。物体長算出部1901では、検出された物体の投
影像から物体の長さを算出する。ここで、物体の長さは
物体投影像のV軸方向の長さとして算出できる。物体長
記憶部1902では、検出した各車両について個別に物
体長を記憶しておく。そして、移動位置算出部107で
は、検出した各車両を個別に追跡し移動位置を算出す
る。
【0107】次に、物体情報算出部108の動作につい
て、図20を参照しながら説明する。ある時刻に、移動
位置算出部107において3台の車両(車両A200
1、車両B2002、車両C2003)の移動位置が算
出できたとする。そして、車両A、B、Cの位置がそれ
ぞれV=V1、V2、V3で検出でき、物体長記憶部1
902に記憶されている車両A、B、Cの車両長がそれ
ぞれL=L1、L2、L3とする。
【0108】画像に撮像されている範囲のうち、Vs>
V>Veの範囲を空間占有率の計測範囲2004とす
る。ここで、計測範囲2004は撮像範囲全域でもよい
し、撮像範囲の一部でもよい。このとき、Vs>V1、
V2、V3>Veであれば、空間占有率は式13により
算出できる。 空間占有率=(L1+L2+L3)/(Vs−Ve) …(式13)
【0109】また、Vs>V>Veの範囲内に車両がN
台存在する場合、同様にして、空間占有率は(数14)
で算出できる。 空間占有率=(L1+L2+・・・+LN)/(Vs−Ve) …(式14)
【0110】なお、本実施の形態では、物体情報算出部
において、物体長記憶部に記憶された物体の長さ情報
と、請求項1記載の移動位置算出部により算出した物体
の位置情報を用いて物体の空間占有率を算出したが、請
求項3記載の遠距離範囲移動位置算出部により算出した
物体の位置情報を用いて空間占有率を算出する場合も同
様の動作で実現できる。
【0111】以上のように、本発明の第8の実施の形態
によれば、ステレオ画像処理により計測した物体の長さ
情報を用いて空間占有率を算出するので、俯瞰撮影する
場合でも、また、遠方まで撮影する場合でも精度良く空
間占有率を算出できる。
【0112】
【発明の効果】以上説明したように本発明に係る物体追
跡装置によれば、以下の効果を有する。ステレオ画像処
理により計測した距離情報を用いて物体を検出し、距離
情報以外の特徴量を用いて物体を追跡することで、広範
囲にわたる物体の追跡を精度良く実現できる。
【0113】物体の実際の横幅を算出して隣接する2つ
の特定領域で検出した物体が同一の車両か判定すること
で、2つの特定領域にまたがって存在している物体を正
確に検出/追跡できる。
【0114】近距離範囲においてはステレオ画像処理に
よって計測した距離情報を用いて物体の追跡を行い、遠
距離範囲においては距離情報以外の特徴量を用いて物体
を追跡することで、広範囲にわたる物体の追跡を高速か
つ精度良く実現できる。
【0115】物体投影像から物体の特徴的な部分を判定
し、画像上で特徴的な部分が撮像されている領域を算出
して、テンプレートを抽出することで、追跡に必要なテ
ンプレートを過不足なく正確にでき、テンプレートマッ
チング時の演算量削減と精度の良い物体追跡が実現でき
る。
【0116】追跡中の物体の周辺に存在する他の物体の
位置から追跡している物体のテンプレート上で重なって
見えなくなる部分を予測し、テンプレートマッチング時
にこの部分のテンプレートの類似度の重みを低くするこ
とで、重なりが生じても物体の追跡を継続できる。
【0117】ステレオ画像処理により検出した物体の領
域からエッジヒストグラムを作成して物体追跡を行うの
で、追跡に必要なエッジヒストグラムを正確に過不足な
く作成でき、エッジヒストグラムマッチング時の演算量
削減と精度の良い物体の追跡が実現できる。
【0118】ステレオ画像処理により距離情報を計測す
る時に作成した3値化エッジ画像から抽出したテンプレ
ートまたはエッジヒストグラムを用いてマッチングを行
うので、新たなエッジ画像を作成する必要がなく追跡時
の演算量が削減でき、さらに、3値化エッジ画像からテ
ンプレートを抽出するので精度良く追跡できる。
【0119】ステレオ画像処理により計測した物体の長
さ情報を用いて空間占有率を算出することで、俯瞰撮影
する場合でも、遠距離範囲を撮影する場合でも、精度良
く空間占有率を算出できる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態における物体追跡装
置の構成を示すブロック図
【図2】本発明の第1の実施の形態における画像中の矩
形領域と画素の関係を表す模式図
【図3】本発明の第1の実施の形態における(X、Y、
K)座標系と(U、V、H)座標系の関係を示す模式図
【図4】本発明の第1の実施の形態における車両投影像
と車両領域を示す模式図
【図5】本発明の第1の実施の形態における物体撮像位
置の算出方法を示す説明図
【図6】本発明の第2の実施の形態における物体追跡装
置の構成を示すブロック図
【図7】本発明の第2の実施の形態における2つの車線
をまたがって走行する車両を説明する模式図
【図8】本発明の第3の実施の形態における物体追跡装
置の構成を示すブロック図
【図9】本発明の第3の実施の形態における近距離範囲
と遠距離範囲の関係を示す模式図
【図10】本発明の第3の実施の形態における投影像の
追跡装置の説明図
【図11】本発明の第4の実施の形態における物体追跡
装置の構成を示すブロック図
【図12】本発明の第4の実施の形態における車両投影
像と車両特徴部の関係を示す模式図
【図13】本発明の第4の実施の形態における物体特徴
部の撮像位置算出方法の説明図
【図14】本発明の第5の実施の形態における物体追跡
装置の構成を示すブロック図
【図15】本発明の第5の実施の形態における車両の重
なりを説明する模式図
【図16】本発明の第5の実施の形態におけるテンプレ
ートの分割を説明する模式図
【図17】本発明の第6の実施の形態における物体追跡
装置の構成を示すブロック図
【図18】本発明の第7の実施の形態における物体追跡
装置の構成を示すブロック図
【図19】本発明の第8の実施の形態における物体追跡
装置の構成を示すブロック図
【図20】本発明の第8の実施の形態における車両の空
間占有率の算出方法の説明図
【符号の説明】
101,102 撮像部 103 距離計測部 104 距離情報記憶部 105 物体投影部 106 物体検出部 107 移動位置算出部 108 物体情報算出部 201 左画像 202 画素 203 矩形領域 301 撮像面 302 道路面 401 投影像 402 車両領域 501 道路面 502 車線 503 X軸 504,506 エッジヒストグラム 505 Y軸 601 横幅算出部 602 同一物体判定部 701,702 車線 703 X軸 704 エッジヒストグラム 801 距離判定部 802 近距離範囲移動位置算出部 803 遠距離範囲移動位置算出部 901 撮像範囲 902 近距離範囲 903 遠距離範囲 1001 投影像 1002 後端位置 1003 次の時刻の投影像 1004 次の時刻の後端位置 1005 部分投影像 1006 部分投影像の後端位置 1101 物体特徴部分抽出部 1202 特徴部分撮像位置算出部 1203 テンプレート抽出部 1204 テンプレート記憶部 1205 テンプレートマッチング部 1201 車両特徴部 1301 道路面 1302 車線 1303 X軸 1304 エッジヒストグラム 1401 重なり判定部 1402 テンプレートマッチング部 1403 領域マッチング部 1404 類似度算出部 1405 移動位置決定部 1501,1502 車両 1503 隠れる領域 1504 見える領域 1601 テンプレート 1701 物体撮像位置算出部 1702 エッジヒストグラム作成部 1703 エッジヒストグラム記憶部 1704 エッジヒストグラムマッチング部 1801 3値化エッジ画像作成部 1802 対応付け部 1901 物体長算出部 1902 物体長記憶部 2001 車両A 2002 車両B 2003 車両C 2004 計測範囲
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 FI G01P 3/36 G01P 3/36 C G01S 3/786 G01S 3/786 G06T 7/00 H04N 5/232 C 7/20 G06F 15/62 415 H04N 5/232 15/70 410

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 所定の間隔で配置された複数の撮像部
    と、前記撮像部で撮像された複数の画像からステレオ画
    像処理によって撮像空間の距離情報を計測する距離計測
    部と、基準時刻における距離情報を記憶する距離情報記
    憶部と、前記距離計測部より得られた距離情報と前記距
    離情報記憶部に記憶された基準時刻における距離情報か
    ら物体の進行方向と観察平面の垂線方向とが成す平面に
    空間内の特定領域毎に観察面上の物体像の投影を行う物
    体投影部と、前記物体投影部により得られた物体投影像
    から複数の物体の領域を個別に検出する物体検出部と、
    前記物体検出部により検出された物体毎に距離情報以外
    の特徴量を用いてある時刻と次の時刻でマッチングを行
    って物体の移動位置を算出する移動位置算出部と、前記
    移動位置算出部で得られた結果から所定の位置を通過す
    る物体の数、物体の移動速度、物体の大きさと物体の異
    常な動きを算出する物体情報算出部とを備えた物体追跡
    装置。
  2. 【請求項2】 物体検出部が、物体検出部により検出さ
    れた複数の物体の横幅を個別に算出する横幅算出部と、
    前記横幅算出部により算出された物体の横幅から隣接す
    る2つの特定領域で検出した物体が同一の物体か判定す
    る同一物体判定部とを備えた請求項1記載の物体追跡装
    置。
  3. 【請求項3】 移動位置算出部が、物体検出部により検
    出された物体の位置が撮像部から近距離か遠距離かを判
    定する距離判定部と、撮像部から近距離の範囲で距離情
    報を特徴量として用いてある時刻と次の時刻でマッチン
    グを行い物体の移動位置を算出する近距離範囲移動位置
    算出部と、撮像部から遠距離の範囲で距離情報以外の特
    徴量を用いてある時刻と次の時刻でマッチングを行い物
    体の移動位置を算出する遠距離範囲移動位置算出部とか
    らなる請求項1または請求項2記載の物体追跡装置。
  4. 【請求項4】 移動位置算出部、または遠距離範囲移動
    位置算出部が、物体投影部により作成された物体投影像
    から物体の特徴的な部分を抽出する物体特徴部分抽出部
    と、前記物体特徴部分抽出部により抽出された物体特徴
    部分が画像に撮像されている位置を算出する特徴部分撮
    像位置算出部と、前記特徴部分撮像位置算出部により算
    出された位置から距離情報以外の情報をテンプレートと
    して抽出するテンプレート抽出部と、前記テンプレート
    抽出部により抽出されたテンプレートを記憶するテンプ
    レート記憶部と、前記テンプレート記憶部に記憶された
    テンプレートを用いてある時刻と次の時刻でマッチング
    を行い物体の移動位置を算出するテンプレートマッチン
    グ部とからなる請求項1、請求項2または請求項3のい
    ずれかに記載の物体追跡装置。
  5. 【請求項5】 テンプレートマッチング部が、物体検出
    部により検出された複数の物体の位置から画像上での物
    体の重なりを判定する重なり判定部と、前記重なり判定
    部で複数の物体が重なっていると判定された場合にテン
    プレートを複数の領域に分割するテンプレート分割部
    と、前記テンプレート分割部により分割された領域毎に
    マッチングを行う領域マッチング部と、前記領域マッチ
    ング部により得られた結果に重み付けをしてテンプレー
    ト全体の類似度を算出する類似度算出部と、前記類似度
    算出部により算出された結果から物体の移動位置を決定
    する移動位置決定部とからなる請求項4記載の物体追跡
    装置。
  6. 【請求項6】 移動位置算出部または遠距離範囲移動位
    置算出部が、物体検出部により検出された物体の位置か
    ら物体の画像上の位置を算出する物体撮像位置算出部
    と、前記物体撮像位置算出部により算出された撮像位置
    についてエッジ画像を作成し物体の進行方向に対し垂直
    な方向に走査してエッジヒストグラムを作成するエッジ
    ヒストグラム作成部と、前記エッジヒストグラム作成部
    により作成されたエッジヒストグラムを記憶するエッジ
    ヒストグラム記憶部と、前記エッジヒストグラム記憶部
    に記憶されたエッジヒストグラムを用いてある時刻と次
    の時刻でマッチングを行い物体の移動位置を算出するエ
    ッジヒストグラムマッチング部とからなる請求項1、請
    求項2または請求項3のいずれかに記載の物体追跡装
    置。
  7. 【請求項7】 距離情報計測部が、撮像部から撮像され
    た画像から3値化エッジ画像を作成する3値化エッジ画
    像作成部と、3値化エッジ画像作成部により作成された
    複数の3値化エッジ画像を対応付けて撮像空間の距離情
    報を計測する対応付け部とからなり、前記3値化エッジ
    画像作成部で作成された3値化エッジ画像をテンプレー
    ト抽出部またはエッジヒストグラム作成部で用いる請求
    項1、請求項2、請求項3、請求項4、請求項5または
    請求項6のいずれかに記載の物体追跡装置。
  8. 【請求項8】 物体検出部が、物体投影部で作成された
    物体投影像から物体の長さを算出する物体長算出部と、
    前記物体長算出部により物体毎に算出された物体長を個
    別に記憶する物体長記憶部を併せ備え、物体情報算出部
    において、前記物体長記憶部に記憶された物体の長さ情
    報と、移動位置算出部または遠距離範囲移動位置算出部
    により算出した物体の位置情報を用いて物体の空間占有
    率を算出する請求項1、請求項2、請求項3、請求項
    4、請求項5、請求項6または請求項7のいずれかに記
    載の物体追跡装置。
JP10050785A 1998-03-03 1998-03-03 物体追跡装置 Pending JPH11252587A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10050785A JPH11252587A (ja) 1998-03-03 1998-03-03 物体追跡装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10050785A JPH11252587A (ja) 1998-03-03 1998-03-03 物体追跡装置

Publications (1)

Publication Number Publication Date
JPH11252587A true JPH11252587A (ja) 1999-09-17

Family

ID=12868483

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10050785A Pending JPH11252587A (ja) 1998-03-03 1998-03-03 物体追跡装置

Country Status (1)

Country Link
JP (1) JPH11252587A (ja)

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001143075A (ja) * 1999-11-10 2001-05-25 Yaskawa Electric Corp テンプレートマッチング方法
ES2209655A1 (es) * 2002-12-12 2004-06-16 Universidad De Malaga Sistema para medida de distancias y velocidades por procedimientos electroopticos no radiantes.
JP2005339152A (ja) * 2004-05-26 2005-12-08 Clarion Co Ltd 動物体検出装置
KR100544677B1 (ko) * 2003-12-26 2006-01-23 한국전자통신연구원 다시점 영상 및 깊이 정보를 이용한 3차원 객체 추적 장치및 그 방법
WO2006016663A1 (ja) * 2004-08-11 2006-02-16 Tokyo Institute Of Technology 物体検出装置
JP2006318064A (ja) * 2005-05-10 2006-11-24 Secom Co Ltd 画像センサ
JP2008028890A (ja) * 2006-07-25 2008-02-07 Casio Comput Co Ltd 撮像装置、撮像方法及び撮像プログラム
JP2008092459A (ja) * 2006-10-04 2008-04-17 Toyota Motor Corp 周辺監視装置
JP2008113071A (ja) * 2006-10-27 2008-05-15 Matsushita Electric Works Ltd 自動追尾装置
JP2008151659A (ja) * 2006-12-18 2008-07-03 Fuji Heavy Ind Ltd 物体検出装置
WO2008114769A1 (ja) * 2007-03-22 2008-09-25 Nec Corporation 移動体検知装置および移動体検知プログラムと移動体検知方法
JP2009245042A (ja) * 2008-03-31 2009-10-22 Hitachi Ltd 交通流計測装置及びプログラム
JP2009245045A (ja) * 2008-03-31 2009-10-22 Hitachi Ltd 交通流計測装置
JP2011210030A (ja) * 2010-03-30 2011-10-20 Panasonic Corp 顔認識装置及び顔認識方法
JP2012021883A (ja) * 2010-07-14 2012-02-02 Toshiba Corp 車両間隔検出システム、車両間隔検出方法及び車両間隔検出プログラム
JP2012034069A (ja) * 2010-07-29 2012-02-16 Nikon Corp 画像処理装置、および画像処理プログラム
JP2012042720A (ja) * 2010-08-19 2012-03-01 Sony Corp 画像処理装置および方法、並びにプログラム
US8154594B2 (en) 2004-08-11 2012-04-10 Tokyo Institute Of Technology Mobile peripheral monitor
US8180100B2 (en) 2004-08-11 2012-05-15 Honda Motor Co., Ltd. Plane detector and detecting method
US8194134B2 (en) 2006-10-27 2012-06-05 Panasonic Corporation Target moving object tracking device
WO2019092874A1 (ja) * 2017-11-13 2019-05-16 三菱電機株式会社 物体認識装置および物体認識方法
JP2019126091A (ja) * 2019-04-04 2019-07-25 キヤノン株式会社 被写体追跡装置およびその制御方法、画像処理装置およびその制御方法、撮像装置およびその制御方法、プログラム
CN111145580A (zh) * 2018-11-06 2020-05-12 松下知识产权经营株式会社 移动体、管理装置及***、控制方法、计算机可读介质
JP2021103598A (ja) * 2016-03-31 2021-07-15 日本電気株式会社 画像処理装置、画像処理方法、及びプログラム
JPWO2021177236A1 (ja) * 2020-03-05 2021-09-10
JP2021173632A (ja) * 2020-04-24 2021-11-01 株式会社島津製作所 歪み分布測定装置、及び歪み分布測定方法

Cited By (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001143075A (ja) * 1999-11-10 2001-05-25 Yaskawa Electric Corp テンプレートマッチング方法
ES2209655A1 (es) * 2002-12-12 2004-06-16 Universidad De Malaga Sistema para medida de distancias y velocidades por procedimientos electroopticos no radiantes.
KR100544677B1 (ko) * 2003-12-26 2006-01-23 한국전자통신연구원 다시점 영상 및 깊이 정보를 이용한 3차원 객체 추적 장치및 그 방법
JP2005339152A (ja) * 2004-05-26 2005-12-08 Clarion Co Ltd 動物体検出装置
JP4519519B2 (ja) * 2004-05-26 2010-08-04 クラリオン株式会社 動物体検出装置
US8180100B2 (en) 2004-08-11 2012-05-15 Honda Motor Co., Ltd. Plane detector and detecting method
WO2006016663A1 (ja) * 2004-08-11 2006-02-16 Tokyo Institute Of Technology 物体検出装置
US8331653B2 (en) 2004-08-11 2012-12-11 Tokyo Institute Of Technology Object detector
US8154594B2 (en) 2004-08-11 2012-04-10 Tokyo Institute Of Technology Mobile peripheral monitor
JP2006318064A (ja) * 2005-05-10 2006-11-24 Secom Co Ltd 画像センサ
JP2008028890A (ja) * 2006-07-25 2008-02-07 Casio Comput Co Ltd 撮像装置、撮像方法及び撮像プログラム
JP2008092459A (ja) * 2006-10-04 2008-04-17 Toyota Motor Corp 周辺監視装置
US8194134B2 (en) 2006-10-27 2012-06-05 Panasonic Corporation Target moving object tracking device
JP2008113071A (ja) * 2006-10-27 2008-05-15 Matsushita Electric Works Ltd 自動追尾装置
JP2008151659A (ja) * 2006-12-18 2008-07-03 Fuji Heavy Ind Ltd 物体検出装置
WO2008114769A1 (ja) * 2007-03-22 2008-09-25 Nec Corporation 移動体検知装置および移動体検知プログラムと移動体検知方法
JP5146446B2 (ja) * 2007-03-22 2013-02-20 日本電気株式会社 移動体検知装置および移動体検知プログラムと移動体検知方法
US8509480B2 (en) 2007-03-22 2013-08-13 Nec Corporation Mobile detector, mobile detecting program, and mobile detecting method
JP2009245045A (ja) * 2008-03-31 2009-10-22 Hitachi Ltd 交通流計測装置
JP2009245042A (ja) * 2008-03-31 2009-10-22 Hitachi Ltd 交通流計測装置及びプログラム
US9621779B2 (en) 2010-03-30 2017-04-11 Panasonic Intellectual Property Management Co., Ltd. Face recognition device and method that update feature amounts at different frequencies based on estimated distance
JP2011210030A (ja) * 2010-03-30 2011-10-20 Panasonic Corp 顔認識装置及び顔認識方法
JP2012021883A (ja) * 2010-07-14 2012-02-02 Toshiba Corp 車両間隔検出システム、車両間隔検出方法及び車両間隔検出プログラム
JP2012034069A (ja) * 2010-07-29 2012-02-16 Nikon Corp 画像処理装置、および画像処理プログラム
JP2012042720A (ja) * 2010-08-19 2012-03-01 Sony Corp 画像処理装置および方法、並びにプログラム
JP2021103598A (ja) * 2016-03-31 2021-07-15 日本電気株式会社 画像処理装置、画像処理方法、及びプログラム
WO2019092874A1 (ja) * 2017-11-13 2019-05-16 三菱電機株式会社 物体認識装置および物体認識方法
JPWO2019092874A1 (ja) * 2017-11-13 2020-07-30 三菱電機株式会社 物体認識装置および物体認識方法
CN111145580A (zh) * 2018-11-06 2020-05-12 松下知识产权经营株式会社 移动体、管理装置及***、控制方法、计算机可读介质
JP2019126091A (ja) * 2019-04-04 2019-07-25 キヤノン株式会社 被写体追跡装置およびその制御方法、画像処理装置およびその制御方法、撮像装置およびその制御方法、プログラム
JPWO2021177236A1 (ja) * 2020-03-05 2021-09-10
WO2021177236A1 (ja) * 2020-03-05 2021-09-10 ファナック株式会社 3次元測定装置、及び3次元測定方法
JP2021173632A (ja) * 2020-04-24 2021-11-01 株式会社島津製作所 歪み分布測定装置、及び歪み分布測定方法

Similar Documents

Publication Publication Date Title
JPH11252587A (ja) 物体追跡装置
US7612800B2 (en) Image processing apparatus and method
JP3367170B2 (ja) 障害物検出装置
EP0747870B1 (en) An object observing method and device with two or more cameras
EP2243125B1 (en) Vision based real time traffic monitoring
US8406472B2 (en) Method and system for processing image data
JP4363295B2 (ja) ステレオ画像による平面推定方法
US6205242B1 (en) Image monitor apparatus and a method
JP3727400B2 (ja) 横断者の検出装置
JPH06107096A (ja) 車両用前方監視方法
JP3710548B2 (ja) 車両検出装置
JP2005329779A (ja) 障害物認識方法及び障害物認識装置
JP2000207693A (ja) 車載用障害物検出装置
JPH1144533A (ja) 先行車両検出装置
Kanhere et al. Real-time detection and tracking of vehicle base fronts for measuring traffic counts and speeds on highways
JP3879874B2 (ja) 物流計測装置
JP3629935B2 (ja) 移動体の速度計測方法およびその方法を用いた速度計測装置
JP3254464B2 (ja) 車輌認識装置と移動体認識方法
JP2002008019A (ja) 軌道認識装置及び軌道認識装置を用いた鉄道車両
JP3503543B2 (ja) 道路構造認識方法、距離測定方法及び距離測定装置
JP4106163B2 (ja) 障害物検出装置及びその方法
JPH0991439A (ja) 物体監視装置
JP2002002485A (ja) 軌道認識装置及び軌道認識装置を用いた鉄道車両
JP3517999B2 (ja) 車両認識装置
JP3543912B2 (ja) オプティカルフロー検出方法