JP2003235035A - 物体検出方法及びそれを用いた物体検出装置並びに物体追跡方法及びそれを用いた物体追跡装置 - Google Patents

物体検出方法及びそれを用いた物体検出装置並びに物体追跡方法及びそれを用いた物体追跡装置

Info

Publication number
JP2003235035A
JP2003235035A JP2002354224A JP2002354224A JP2003235035A JP 2003235035 A JP2003235035 A JP 2003235035A JP 2002354224 A JP2002354224 A JP 2002354224A JP 2002354224 A JP2002354224 A JP 2002354224A JP 2003235035 A JP2003235035 A JP 2003235035A
Authority
JP
Japan
Prior art keywords
image
template
zoom
recording
zoom mechanism
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2002354224A
Other languages
English (en)
Inventor
Wataru Ito
渡 伊藤
Shinya Ogura
慎矢 小倉
Hirotada Ueda
博唯 上田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Kokusai Electric Inc
Original Assignee
Hitachi Kokusai Electric Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Kokusai Electric Inc filed Critical Hitachi Kokusai Electric Inc
Priority to JP2002354224A priority Critical patent/JP2003235035A/ja
Publication of JP2003235035A publication Critical patent/JP2003235035A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】ズームレンズを有する撮像装置から取得する撮
像視野内の入力画像から物体の画像を検出し、該検出し
た物体の画像とテンプレート画像とのテンプレートマッ
チング処理によって物体を追跡する物体追跡方法におい
て、信頼性の高い物体追跡方法を提供する。 【解決手段】焦点距離の変化に基づきテンプレート画像
を拡大あるいは縮小することによって、テンプレート画
像に写る侵入物体と入力画像内に写る侵入物体の大きさ
を等しくなるようにしてテンプレートマッチングを実行
して、撮像視野内の物体を追跡するようにした。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、撮像視野内に侵入
した物体を、撮像装置から入力する映像信号の中から自
動的に検出し、検出した物体の動きを自動的に追跡する
ようにした物体追跡方法と装置に関わる。
【0002】
【従来の技術】テレビジョンカメラ(以下、TV カメラ
と称する)等の撮像装置を用いた映像監視装置は、従来
から広く用いられている。このような映像監視装置を用
いた監視システムの1つとしては、その監視視野内に入
り込んでくる人間や自動車などの侵入物体の検出及び追
跡を、監視員がモニタに表示される画像を見ながら行な
う有人監視システムがある。しかし、近年、このような
有人監視システムではなく、TV カメラ等の画像入力ユ
ニットから入力される画像から侵入物体を自動的に検出
し、その動きを自動的に追跡するようにして、所定の報
知や警報処置が得られるようにした自動監視システムが
要求されるようになってきている。
【0003】このような自動監視システムを実現するた
めには、まず、差分法などによって視野内の侵入物体を
検出する。差分法とは、撮像装置より取得した入力画像
と予め作成した基準背景画像(即ち、検出すべき物体の
写っていない画像)とを比較し、画素毎に輝度値の差分
を求め、その差分値の大きい領域を物体として検出する
ものである。このようにして検出された侵入物体の位置
に相当する入力画像の部分画像をテンプレート画像とし
て登録し、逐次入力される画像の中でテンプレート画像
と一致度が最大となる位置を検出する。この方法は、テ
ンプレートマッチングと呼ばれて広く知られている。
【0004】通常、テンプレートマッチングを用いて対
象物体(例えば、差分法によって検出された物体)を追
跡する場合、対象物体の姿勢の変化に追従するため、マ
ッチング処理によって検出された対象物体の位置の部分
画像を新たにテンプレート画像として逐次更新する(例
えば、特許文献1参照。)。この処理について、図1〜
図3を参照して説明する。
【0005】図1は、差分法によって撮像装置の視野内
に侵入した物体を検出し、検出した物体をテンプレート
マッチングで使用できるように初期のテンプレート画像
として登録する処理の流れを説明するための図である。
図1において、S01 は入力画像、S02 は基準背景画像、
S03 は入力画像 S01と基準背景画像 S02 の差分画像、S
04 は差分画像 S03 の二値化画像、S05 は差分処理部、
S06 は二値化処理部( Th )、S07 は入力画像 S01 中
に写る人型の物体、S08 は人型の物体 S07 に相当する
差分画像 S03 中の人型の差分画像、S09は人型の差分画
像 S08 に相当する二値化画像 S04 中の人型の物体(人
型の二値化画像)を表す。更に、S10 は検出された人型
の物体 S09 の外接矩形、S11 は入力画像 S01 から指定
された領域を抽出する抽出処理部( CL )、S12 はその
抽出された領域(テンプレート画像)で構成された抽出
画像、S13 はテンプレート画像を表す。
【0006】図1において、先ず、TV カメラ E01 から
侵入物体監視装置 E05 に、例えば、320 × 240 画素
( 320 × 240 pix )の入力画像 S01 を入力する。次
に、差分処理部 S05 は、入力画像 S01 と、予め作成し
た基準背景画像 S02 との画素毎の輝度値の差分を計算
し、計算した差分値をそれぞれの画素の輝度値とした差
分画像 S03 を取得する。この時、入力画像 S01 中の人
型の物体 S07 は差分画像 S03 中に、人型の差分画像 S
08 として現れる。次に、二値化処理部 S06 は、差分画
像 S03 の各画素の輝度値が所定のしきい値未満(例え
ば 20 未満)の画素の輝度値を“ 0 ”、しきい値以上
の画素の輝度値を“ 255 ”(本明細書では 1 画素( 1
pix )を 8 ビットとして取り扱って説明する)に置き
換えて、二値化画像 S04 を得る。この時、入力画像 S0
1 に撮像された人型の物体 S07 は、二値化画像 S04 中
の人型の物体 S09 として検出される(差分法による物
体検出処理の概略)。
【0007】図1において、更に、差分法によって検出
された人型の物体 S09 の外接矩形S10 を検出する。次
に、抽出処理部 S11 は、入力画像 S01 から外接矩形 S
10で表される領域を抽出する。抽出された画像は、抽出
画像 S12 中のテンプレート画像 S13 として登録される
(初期のテンプレート画像登録処理の概略)。
【0008】図2は、テンプレートマッチングによって
テンプレート画像に登録した侵入物体が入力画像中のど
の位置に存在するか検出する処理の流れの従来例を説明
するための図である。図2(a) に示す M01 は差分法に
よって得られた抽出画像(図1の抽出画像 S12 に対応
する)を表し、図2(b) において、M02 は撮像装置 E01
によって得られた入力画像、M03 はテンプレート画像
を表す。入力画像 M02 中に表した点線の領域の1つで
ある M05 はテンプレート画像 M03 の位置を表し、入力
画像 M02 中に表した点線の領域の1つである M06 はテ
ンプレートマッチングの探索範囲を表す。また、dx、dy
は探索範囲の幅( dxは水平方向、dy は垂直方向)を
表しており、追跡すべき対象物体の見かけ上の動きの量
(画像上での動きの量)に応じて設定する。例えば、dx
= 50 pix 、dy =15 pix に設定する。テンプレートマ
ッチングは、入力画像 M02 の探索範囲 M06 内でテンプ
レート画像 M03 と最も一致度が高い部分を探索する処
理である。この一致度として、例えば以下の数(1) で得
られる正規化相関と呼ばれる指標を用いることができ
る。
【0009】
【数1】
【0010】数(1) において、f() は入力画像を表し、
g() はテンプレート画像を表す。また、(x,y) は入力画
像の探索領域 M06 内の座標(マッチング対象領域と呼
ぶ)を表し、(u,v) はテンプレート画像 M03 の図中左
上(左最上部)の座標(テンプレート画像登録時の座
標)を表す。ただし、画像は全て図において左上(左最
上部)を原点 (0,0) とする。また、W はテンプレート
画像の幅(水平方向の長さ)を表し、H はテンプレート
画像の高さ(垂直方向の長さ)を表す。数(1) におい
て、数式の上に冠した棒線( ̄)は、それぞれ、その下
の数式の入力画像内のマッチング対象領域、テンプレー
ト画像の平均輝度値を表し、数(2) 、数(3) で表され
る。
【0011】
【数2】
【数3】
【0012】正規化相関 r(x,y,u,v) は、入力画像 f
(x,y) の位置 (x,y) を左上(左最上部)の座標とする
幅 W と高さ H の領域(例えば、図2(b) の M05 )の
輝度値分布と、テンプレート画像 g(u,v) の位置 (u,v)
を左上(左最上部)の座標とする幅 W と高さ H の領
域(例えば、図2(a) のM03 )の輝度値分布との一致度
を表すものである。入力画像 f() とテンプレート画像
g() の対応する各画素の輝度値が全て同じ値であった場
合、一致度は、1.0 となる。テンプレートマッチング
は、入力画像 f() 中でテンプレート画像 g() と最も一
致度が高くなる部分を検出する処理である。即ち、テン
プレート画像 g() の位置 (u,v) を基準として (x,y)
を u-dx ≦x< u+dx 、v-dy ≦ y < v+dy と変化さ
せ、数(1) で表される正規化相関 r(x,y,u,v) が最大と
なる (x,y) を見つける。
【0013】なお、正規化相関の他にも、入力画像 f()
の位置 (x,y) を左上(左最上部)の座標とする幅 W
と高さ H の領域と、テンプレート画像 g() の位置 (u,
v) を左上の座標とする幅 W と高さ H の領域との、そ
れぞれ対応する各位置での画素の輝度値の差の絶対値の
平均値を一致度として用いても良い。この場合、入力画
像 f() とテンプレート画像 g() の各画素の輝度値が全
て同じ値であった場合、一致度が 0 となり、入力画像
f() とテンプレート画像 g()の各画素の輝度値の差が大
きくなるほど高い値を取る(一致度は低くなる)。図2
(b) の例では、追跡対象である人型の物体は、M04 の位
置に存在し、テンプレートマッチングによって、領域 M
07 が検出される。この領域 M07 は、テンプレート画像
M03 内に写る人型の物体と、入力画像 M02 の人型の物
体が一致する位置に検出されるため、映像監視装置は検
出すべき人型の物体が、領域 M07に存在すると判断する
ことができる。すなわち、侵入物体は、領域 M05 の位
置から領域 M07 の位置に移動したことが分かる。この
場合、侵入物体の移動量は、例えば、領域 M05 の中心
から領域 M07 の中心を結ぶ矢印 M08 で表すことができ
る。
【0014】次に、図3を用いて、図2で説明したテン
プレートマッチングを逐次入力される入力画像に対して
適用し、視野内の侵入物体を追跡する例を説明する。図
3は、従来のテンプレートマッチング法を逐次行なう物
体追跡処理の動作を説明する図である。図3において、
T01a 、T02a 、T03a 、T04a はそれぞれ、時刻 t0-1 、
t0 、t0+1 、t0+2 それぞれにおける抽出画像、T01c 、
T02c 、T03c 、T04c はそれぞれ、時刻 t0-1 、t0 、t0
+1 、t0+2 でそれぞれ得られたテンプレート画像、T01b
、T02b 、T03b 、T04b はそれぞれ、時刻 t0 、t0+1
、t0+2 、t0+3 それぞれにおける入力画像、T05 はテ
ンプレートマッチング処理部( MT )、T06 はテンプレ
ート画像更新部( UD )を表す。ここで、時刻 t0+n と
は、時刻 t0 から nフレームの処理分だけ時間が離れて
いることを表し、1 フレームの処理時間は、例えば 100
msec である。
【0015】マッチング処理部 T05 は、抽出画像中の
テンプレート画像と入力画像を比較し、入力画像中でテ
ンプレート画像と最も一致度が高くなる部分を検出し、
それにより時刻 t0 、t0+1 、t0+2 、t0+3における追跡
すべき侵入物体の位置 T01e、T02e 、T03e 、T04e をそ
れぞれ得る(テンプレートマッチング処理)。テンプレ
ート画像更新部 T05 は、マッチング処理部 T04 で検出
された最も一致度が高い部分の画像を新たな侵入物体の
位置画像とし、その位置画像を用いて抽出画像及びテン
プレート画像を置き換えることでテンプレート画像の更
新を行なう。
【0016】図3を用いて、テンプレートマッチング処
理とテンプレート画像更新処理についての説明を、時刻
t0-1、t0、t0+1、t0+2、t0+3 と順を追って説明する。
先ず、時刻 t0-1 において得られたテンプレート画像 T
01c と時刻 t0 に得られた入力画像 T01b を使ってテン
プレートマッチング処理を行なう。ここで、追跡処理の
最初の処理フレームでは、テンプレート画像 T01c は差
分法によって検出された人型の物体 S09 の外接矩形の
位置に相当する入力画像 S01 の部分画像S13 となる。
テンプレートマッチング処理部 T05 は、上記図2(a)
、(b) を用いて説明したテンプレートマッチングによ
って侵入物体 T01d の位置画像 T01e を検出する。テン
プレート画像更新部 T06 は、新しい位置画像(テンプ
レート)T01e を有する入力画像 T01b を抽出画像とし
て用い、抽出画像をT01a からT02a へ更新し、侵入物体
の位置画像 T01e に基づいてテンプレート画像をT01c
から T02c へ更新する。このような処理を同様に時刻 t
0 、t0+1 、t0+2 、t0+3 においてそれぞれ行なうこと
で視野内の侵入物体が位置画像 T01e 、T02e 、T03e 、
T04eに示される順序で移動したことが分かる。
【0017】
【特許文献1】特願2001−184525号
【0018】
【発明が解決しようとする課題】前述の従来技術のテン
プレートマッチングは、入力画像中でテンプレート画像
と最も一致度が高くなる部分を検出するという処理であ
るため、テンプレート画像に写る侵入物体と入力画像中
で検出すべき侵入物体の大きさがほぼ等しい必要があ
る。そのため、撮像装置のズームレンズを制御してズー
ム倍率を変えると、テンプレート画像写る侵入物体と入
力画像に写る検出すべき侵入物体の大きさが異なってし
まい、侵入物体の正確な位置検出ができなくなるという
問題がある。また、侵入物体が検出できたかどうかは、
テンプレートマッチングによって得られる最大の一致度
が所定の値以上であるか否かによって判定される。所定
の値とは、正規化相関を使用した場合には、例えば、0.
5 である。また、撮像装置のズーム倍率が変わると、テ
ンプレート画像に写る侵入物体の大きさと入力画像に写
る検出すべき侵入物体の大きさが異なってしまい一致度
が低下する。一致度が所定の値以下に低下した場合、侵
入物体が検出できないと判定されてしまうという問題が
ある。
【0019】このように、前述の従来技術のテンプレー
トマッチングを用いた物体追跡方法では、ズームレンズ
を制御してズーム倍率を変えると正確な侵入物体の位置
検出が行なえず、更には、侵入物体の検出が行なえなく
なるという欠点がある。本発明の目的は、上記のような
従来技術の欠点を除去しうる物体追跡方法及び装置を提
供することにある。本発明の別の目的は、正確に物体を
検出し、追跡する信頼性の高い物体追跡方法及び装置を
提供することにある。
【0020】
【課題を解決するための手段】上記の目的を達成するた
めに、本発明の一面によれば、ズーム機構を有する撮像
装置から取得する入力画像とテンプレート画像とを比較
して物体を検出する物体検出方法において、上記撮像装
置の視野範囲内の第1の画像を上記テンプレート画像と
して記録するステップと、上記ズーム機構の変更された
倍率を記録するステップと、上記撮像装置から検出する
ための第2の画像を取得するステップと、上記ズーム機
構の変更された倍率に基いて、上記テンプレート画像ま
たは上記第2の画像のいずれか1つの大きさを変更する
ステップと、上記テンプレート画像と上記第2の画像と
のテンプレートマッチングを行なうステップを備え、物
体を検出することを特徴とするものである。
【0021】また本発明の物体検出方法の上記ズーム機
構の変更された倍率を記録するステップは、上記テンプ
レート画像が撮像された時に、上記ズーム機構の第1の
焦点距離を記録するステップと、上記第2の画像が撮像
された時に、上記ズーム機構の第2の焦点距離を記録す
るステップとを備えるものである。また本発明の物体検
出方法の上記テンプレート画像として記録するステップ
は、上記物体を含むように所定の大きさを有する領域を
設定するステップと、上記物体が上記領域内に含まれる
ように上記ズーム機構を制御するステップとを備えるも
のである。
【0022】また本発明の物体検出方法の上記テンプレ
ートマッチングを行なうステップは、上記テンプレート
画像と上記第2の画像との一致度が最大の部分画像の位
置を検出するステップである。また本発明の物体検出方
法は、更に、上記ズーム機構を手動で操作するステップ
と、表示装置の画面上に上記入力画像を表示するステッ
プとを備え、オペレータが上記画面上の上記入力画像を
見ながら上記ズーム機構を操作するものである。また本
発明の物体検出方法の上記ズーム機構は、ズーム制御開
始後予め定められた基準時間からの経過時間を計算する
ものである。また本発明の物体検出方法は、更に、テン
プレートマッチングを行なった結果に基いて新しいテン
プレート画像を上記テンプレート画像として更新するも
のである。
【0023】また本発明の物体検出装置は、ズーム機構
を有する撮像装置から取得する入力画像とテンプレート
画像とを比較して物体を検出する物体検出装置におい
て、上記撮像装置の視野範囲内の第1の画像を上記テン
プレート画像として記録するテンプレート画像記録部
と、上記ズーム機構の変更された倍率を記録する倍率記
録部と、上記撮像装置から第2の画像を取得する取得手
段と、上記ズーム機構の変更された倍率に基いて、上記
テンプレート画像または上記第2の画像のいずれか1つ
の大きさを変更する制御部と、上記テンプレート画像と
上記第2の画像とのテンプレートマッチングを行なう画
像処理部とを備えたものである。
【0024】また本発明の物体検出装置の上記倍率記録
部は、上記テンプレート画像が撮像された時に、上記ズ
ーム機構の第1の焦点距離を記録する第1の焦点距離記
録部と、上記第2の画像が撮像された時に、上記ズーム
機構の第2の焦点距離を記録する第2の焦点距離記録部
とを備えるものである。また本発明の物体検出装置の上
記テンプレート画像は、上記物体を含む所定の大きさを
有する領域であり、上記制御部は、上記物体が上記領域
内に含まれるように上記ズーム機構を制御するものであ
る。また本発明の物体検出装置の上記ズーム機構がズー
ムレンズまたは電子ズームの少なくともいずれか1つで
あることを特徴とするものである。また本発明の物体検
出装置は、上記ズーム機構を手動で変更する手段と、表
示装置の画面上に上記入力画像を表示する手段とを備
え、オペレータが上記画面上の上記入力画像を見ながら
上記ズーム機構を操作するものである。
【0025】また、本発明の物体検追跡方法は、ズーム
機構を有する撮像装置から取得する入力画像とテンプレ
ート画像とを比較して物体を検出、上記ズーム機構を制
御することによって物体を追跡する物体追跡方法におい
て、上記撮像装置の視野範囲内の第1の画像を上記テン
プレート画像として記録するステップと、上記撮像装置
から検出するための第2の画像を取得するステップと、
上記ズーム機構の変更された倍率を記録するステップ
と、上記ズーム機構の変更された倍率に基いて、上記テ
ンプレート画像または上記第2の画像のいずれか1つの
大きさを変更するステップと、上記テンプレート画像と
上記第2の画像とのテンプレートマッチングを行なうス
テップと、上記テンプレートマッチングの結果に応じ
て、上記撮像装置の移動機構を制御するステップとを備
え、上記物体を追跡するものである。
【0026】また、本発明の物体追跡方法の上記ズーム
機構の変更された倍率を記録するステップは、上記テン
プレート画像が撮像された時に、上記ズーム機構の第1
の焦点距離を記録するステップと、上記第2の画像が撮
像された時に、上記ズーム機構の第2の焦点距離を記録
するステップとを備えるものである。また、本発明の物
体追跡方法の上記テンプレート画像として記録するステ
ップは、上記物体を含むように所定の大きさを有する領
域を設定するステップと、上記物体が上記領域内に含ま
れるように上記ズーム機構を制御するステップとを備え
るものである。また、本発明の物体追跡方法の上記テン
プレートマッチングを行なうステップは、上記テンプレ
ート画像と上記第2の画像との一致度が最大の部分画像
の位置を検出するステップであることを特徴とするもの
である。また、本発明の物体追跡方法の上記撮像装置の
移動機構を制御するステップは、更に、上記物体が上記
視野範囲内の中心付近の位置になるように、上記移動機
構を制御するステップを備えるものである。
【0027】また、本発明の物体追跡方法の上記ズーム
機構は、ズームレンズまたは電子ズームの少なくともい
ずれか1つであることを特徴とするものである。また、
本発明の物体追跡方法の上記ズーム機構は、ズームレン
ズであり、更に、上記ズームレンズの上記焦点距離を手
動で変更するステップと、表示装置の画面上に上記入力
画像を表示するステップとを備え、オペレータが上記画
面上の上記入力画像を見ながら上記ズームレンズを操作
するものである。また、本発明の物体追跡方法の上記ズ
ーム機構は、上記レンズの焦点距離が、ズーム制御開始
後予め定められた基準時間からの経過時間を計算するこ
とを特徴とするものである。また、本発明の物体追跡方
法は、更に、テンプレートマッチングを行なった結果に
基いて新しいテンプレート画像を上記テンプレート画像
として更新するものである。
【0028】また本発明の物体追跡装置は、ズーム機構
を有する撮像装置から取得する入力画像とテンプレート
画像とを比較して物体を検出する物体追跡装置におい
て、上記撮像装置の視野範囲内の第1の画像を上記テン
プレート画像として記録するテンプレート画像記録部
と、上記撮像装置から第2の画像を取得する取得手段
と、上記ズーム機構の変更された倍率を記録する倍率記
録部と、上記ズーム機構の変更された倍率に基いて、上
記テンプレート画像または上記第2の画像のいずれか1
つの大きさを変更する第1の制御部と、上記テンプレー
ト画像と上記第2の画像とのテンプレートマッチングを
行なう画像処理部と、上記テンプレートマッチングの結
果に応じて、上記物体追跡するように上記撮像装置の移
動機構を制御する第2の制御部を備えたものである。
【0029】また本発明の物体追跡装置の上記倍率記録
部は、上記テンプレート画像が撮像された時に、上記ズ
ーム機構の第1の焦点距離を記録する第1の焦点距離記
録部と、上記第2の画像が撮像された時に、上記ズーム
機構の第2の焦点距離を記録する第2の焦点距離記録部
とを備えるものである。また本発明の物体追跡装置の上
記テンプレート画像は、上記物体を含む所定の大きさを
有する領域であり、上記第1の制御部は、上記第1の画
像が上記領域内に含まれるように上記ズーム機構を制御
するものである。また本発明の物体追跡装置の上記ズー
ム機構は、ズームレンズまたは電子ズームの少なくとも
いずれか1つであることを特徴とするものである。また
本発明の物体追跡装置の上記ズーム機構は、上記ズーム
機構を手動で変更する手段と、表示装置の画面上に上記
入力画像を表示する手段とを備え、オペレータが上記画
面上の上記入力画像を見ながら上記ズーム機構を操作す
るものである。
【0030】
【発明の実施の形態】本発明の物体追跡方法では、従来
からのテンプレート画像に写る侵入物体と入力画像中で
検出すべき侵入物体の大きさが異なった場合に、侵入物
体の正確な位置検出ができなくなるという問題や、テン
プレート画像と入力画像の一致度が低下するという問題
を解決するため、ズームレンズの焦点距離の変化に基づ
きテンプレート画像を拡大あるいは縮小することで、テ
ンプレート画像に写る侵入物体と入力画像内に写る侵入
物体の大きさを等しくなるようにし、テンプレートマッ
チングを実行する。
【0031】即ち、本発明は、登録されているテンプレ
ート画像を抽出した入力画像の取得時点での撮像装置の
ズームレンズの焦点距離と、テンプレートマッチングの
対象となる入力画像を取得した時点での撮像装置のズー
ムレンズの焦点距離との比によってテンプレート画像の
拡大あるいは縮小の倍率を算出し、テンプレート画像を
拡大あるいは縮小してテンプレートマッチング処理を行
なうようにして撮像装置の視野範囲内の物体を追跡する
ことで、特に撮像装置のズームレンズのズーム倍率を変
更しながらでも安定に物体の追跡を行なうことができ
る。
【0032】図6を参照して、本発明の一実施例の映像
監視装置の構成を説明する。図6は、本発明の物体追跡
装置の一実施例の構成を示すブロック図である。E01 は
撮像装置(例えば、TV カメラ)、E02 はズームレン
ズ、E03 は電動旋回台(例えば、カメラ雲台)、E04 は
操作部( operation unit )、E04a は操作部 E04 に付
属する第1のボタン、E04b は操作部 E04 に付属する第
2のボタン、E05 は侵入物体監視装置(画像処理部)で
ある。侵入物体監視装置 E05 において、E05a は画像入
力 I/F( I/F:Interface )、E05b は雲台制御 I/F 、
E05c はレンズ制御 I/F、E05d は操作入力 I/F 、E05e
は画像メモリ、E05f は画像出力 I/F 、E05g は警報出
力 I/F 、E05h は CPU( CPU:Central Processing Uni
t )、E05i はプログラムメモリ、E05j はワークメモ
リ、E05k はデータバス、E06 は出力モニタ、E07 は警
告灯、E05 は画像入力 I/F E05a 、雲台制御 I/F E05b
、レンズ制御 I/F E05c 、操作入力 I/F E05d 、画像
メモリE05e 、画像出力 I/F E05f 、警報出力 I/F E05g
、 CPU E05h、プログラムメモリ E05i 、ワークメモリ
E05j、及び、データバス E05k である。なお、画像メ
モリ E05e 、ワークメモリ E05j 及びプログラムメモリ
E05iは単一メモリで構成しても良い。
【0033】図6において、TV カメラ E01 は、画像入
力 I/F E05a に結合され、ズームレンズ E02 はレンズ
制御 I/F E05c に結合され、カメラ雲台 E03 は雲台制
御 I/FE05b に結合され、操作部 E04 は操作入力 I/F E
05d に結合され、出力モニタE06 は画像出力 I/F E05f
に結合され、警告灯 E07 は警報出力 I/F E05g に結合
されている。また、画像入力 I/F E05a 、雲台制御 I/F
E05b 、レンズ制御 I/F E05c 、入力 I/F E05d 、画像
メモリ E05e 、画像出力 I/F E05f 、警報出力I/F E05g
、CPU E05h 、プログラムメモリ E05i 、及び、ワーク
メモリ E05jは、データバス E05k に結合されている。
【0034】図6において、TV カメラ E01 は、カメラ
雲台 E03 に搭載され、ズームレンズ E02 を備えてい
る。TV カメラ E01 は、監視対象(監視視野範囲)を撮
像し、映像信号に変換して物体追跡装置 E05 の画像入
力 I/F E05a に出力する。画像入力 I/F E05a は、撮像
された映像信号を物体追跡装置 E05 の処理できる形式
の画像データに変換して、データバス E05k を介して画
像メモリ E05e に出力し、画像メモリ E05e は、入力さ
れた画像を蓄積する。
【0035】CPU E05h は、プログラムメモリ E05i に
あらかじめ保存されているプログラムに従って、画像メ
モリ E05e に蓄積された画像を読出して、ワークメモリ
E05j 内で読出した画像の解析処理を行なう。CPU E05h
は、解析処理結果に応じてデータバス E05k から、レ
ンズ制御 I/F E05c を介してズームレンズ E02 を制御
したり、雲台制御 I/F E05b を介してカメラ雲台 E03
を制御して、TV カメラE01 の撮像視野を変えたり、警
報出力 I/F E05g を介して警告灯 E07 を点灯し、画像
出力 I/F E05f を介して監視モニタ E06 に、例えば侵
入物体検出結果画像を表示する。
【0036】なお、画像メモリ E05e は、登録されたテ
ンプレート画像を保存しておくためのテンプレート画像
保持部をも備えている。以下に説明する実施例は、上記
図6で説明した物体追跡装置のハードウエア構成を使用
するものとして説明する。
【0037】本発明の一実施例を図5を参照して説明す
る。 図5は本発明の一実施例の処理プロセスを説明す
るフローチャートである。まず、初期視野移動ステップ
201 では、 ズームレンズ E02 およびカメラ雲台 E03
を所定の初期位置に移動し、TV カメラ E01 が初期視野
範囲(初期監視視野範囲)を撮像するように設定する。
初期視野とは、例えば、重点的に監視する特定の建物の
出入口等を写す視野である。
【0038】続くステップ 202 からステップ 206 は、
上記図1で説明した差分法による侵入物体検出とテンプ
レート画像登録までの処理プロセスを表す。 以下、図
1を参照して説明する。まず、画像入力ステップ 202
では、カメラ E01 から、例えば、幅 320 pix、高さ 24
0 pix 、8 bit/pix の入力画像 S01 を取得する。差分
処理ステップ 203 では、画像入力ステップ 202 で得ら
れた入力画像 S01と、予め画像メモリ E05e に記録して
おいた基準背景画像 S02 との画素毎の輝度値の差分を
計算し、差分の値をそれぞれの該当する画素の輝度値と
した差分画像 S03 を得る。
【0039】次に、二値化処理ステップ 204 では、差
分処理ステップ 203 で得られた差分画像 S03 の各画素
についてしきい値処理を行ない、画素値がしきい値(例
えば、20 )未満の場合は画素値を“ 0 ”、しきい値以
上の場合は画素値を“ 255”となるようにして二値化画
像 S04 を得る。次に、物体存在判定ステップ 205 で
は、二値化処理ステップ 204 で得られた二値化画像 S0
4 中から、例えば周知のラベリング( labeling )の方
法によって画素値が“ 255 ”の画素のかたまり S09 を
検出して物体が存在するか否かを判定する。 物体が存
在すると判定した場合には、テンプレート画像登録ステ
ップ 206 へ分岐する。一方、物体が存在しなかったと
判定した場合には,画像入力ステップ 202 へ分岐し、
次ぎの最新の(現在撮影された)入力画像を得て、ステ
ップ 203 〜 205 の処理を行なう。
【0040】テンプレート画像登録ステップ 206 で
は、画像入力ステップ 202 から 物体存在判定ステップ
205 までの処理によって検出された二値化物体 S09 の
外接矩形 S10 を算出して、入力画像 S01 から、外接矩
形 S10 に相当する領域を切り出し、これを初期のテン
プレート画像 S13 として画像メモリ E05e に登録す
る。
【0041】ステップ 207 からステップ 216 は、差分
法によって検出された侵入物体 S07をテンプレートマッ
チングによって追跡するプロセスである。画像入力ステ
ップ 207 では、画像入力ステップ 202 と同様に、TV
カメラ E01 から、例えば、幅 320 pix 、高さ 240 pix
、8 bit/pix の最新の(現在撮影された)入力画像(
M02)を取得する。次に、ズーム制御判定ステップ 208
では、追跡中の侵入物体のテンプレート画像 M03 の大
きさが所定の範囲内に収まっていない場合に、ズームレ
ンズの制御が必要だとしてズームレンズ制御ステップ 2
09 へ分岐する。 また、所定の範囲内に収まっている
場合には、ズーム倍率算出ステップへ分岐する。
【0042】ここで、所定の範囲とは、侵入物体の見か
けの大きさが入力画像に対してどの程度占めるかによっ
て設定される。 例えば、侵入物体の見かけの高さ(垂
直(y)方向の長さ:例えば、図2(b) の H )が、入
力画像の全体の高さ(例えば、図2(b) の H0 )の 1/3
から 1/2 の範囲以内に収まるようにする。これは、侵
入物体が縦長に見えるという特徴を利用したもので、侵
入物体の高さが画面内に捉えられれば侵入物体全体を画
像内(画面)に写すことができるためである。従って、
この例では、侵入物体の見かけの高さは 80pix 〜 120
pix の範囲内に設定される。
【0043】なお、所定の範囲とはそのような範囲に限
定されず、侵入物体の存在する位置から入力画面の上下
左右端部までの距離が、入力画面の1処理フレーム当り
の侵入物体のみかけの移動距離以上になるように設定す
れば良い。これは、テンプレートマッチングの処理が、
入力画像中から対象とする侵入物体の画像を見つける処
理であるため、テンプレートを更新した次の処理フレー
ムで対象とする侵入物体が入力画像の外に出てしまう
と、原理上テンプレートマッチングによる侵入物体の検
出が行えなくなるためである。従って、例えば、侵入物
体が水平方向にしか移動しない場合には、侵入物体の見
かけの高さは、入力画像の全体の高さの 1/1 の範囲以
内に収まるようにすれば良い(即ち、侵入物体の見かけ
の高さ:入力画像の全体の高さ≒1:1)。
【0044】次に、ズームレンズ制御ステップ 209 で
は、入力画像に写る侵入物体の大きさを適切に調整する
ために、テンプレート画像の大きさが上記の所定の範囲
より小さい場合に、レンズ制御 I/F E05c を介して、ズ
ームレンズ E02 をズームアップさせる(焦点距離を長
くする)。また、テンプレート画像の大きさが所定の範
囲より大きい場合に、レンズ制御 I/F E05c を介して、
ズームレンズ E02 をズームアウトさせる(焦点距離を
短くする)。このようにすることによって、侵入物体の
見かけの大きさを所定の範囲に収めるよう、即ち、上記
の設定値になるようにズームレンズ E02 を制御するこ
とができる。 このようなズームレンズ制御は、例え
ば、侵入物体の見かけの大きさに基づき、上記の設定値
になるようにズームレンズ E02 をフィードバック制御
することで実現できる。
【0045】次にズーム倍率算出ステップ 210 では、
登録したテンプレート画像 M03 の抽出画像 M01 を取得
した時点(ステップ 206 で登録されたテンプレート画
像を入力した時点、即ち、ステップ 207 での画像入力
時点、または、後述するステップ 215 で更新されたテ
ンプレート画像を入力した時点、即ち、ステップ 207
での画像入力時点)でのズームレンズの焦点距離 ft
と、入力画像 M02を取得した時点(テンプレート画像入
力の1処理フレーム後の、ステップ 207 での画像入力
時点)でのズームレンズの焦点距離 fi との比を計算し
て、ズーム倍率を算出する。 ここで、1処理フレーム
とは、ステップ 202 またはステップ 207 での入力画像
に基づくテンプレートマッチング処理をいう。ズーム倍
率は、例えば、焦点距離が ft = 12 mm 、及び、fi = 1
5 mm であった場合には、15/12 = 1.25 となる。
【0046】さらに、テンプレート拡大・縮小ステップ
211 では、ズーム倍率算出ステップ 210 で得られたズ
ーム倍率に基づき、例えば公知のアフィン変換( affin
e transform )の方法によって、テンプレート画像を拡
大(ズーム倍率が 1.0 より大きい)あるいは縮小(ズ
ーム倍率が 1.0 未満)する。この処理によって、例え
ば、拡大・縮小前のテンプレート画像の大きさが横 3
0、高さ 50 でズーム倍率が 1.25 であった場合、拡大
・縮小後のテンプレート画像の大きさは、横 30× 1.25
= 38 pix 、高さ 50 × 1.25 = 63 pix(共に四捨五
入)となる。ここで、テンプレート画像の拡大・縮小の
代わりに、入力画像の拡大・縮小を電子的、光学的に行
なっても良い。
【0047】テンプレートマッチングステップ 212 で
は、上記図2(a) 、(b) で説明したテンプレートマッチ
ング処理によって入力画像中でテンプレート画像と一致
度が最も高い部分画像を検索し、侵入物体がどの位置に
存在するかを検出する。次に一致度判定ステップ 213
では、ステップ 212でのテンプレートマッチングで得ら
れた最大の一致度が所定の値(例えば、正規化相関を適
用した場合は 0.5 )以上であるか否かを判定する。
最大の一致度が所定の値未満である場合には、侵入物体
が検出されなかった(入力画像中でテンプレート画像と
一致する部分画像が見つからなかった)として初期視野
移動ステップ 201 に分岐し、ステップ 201 〜 212 の
処理を再び行なう。 また、最大の一致度が所定の値以
上であった場合には、侵入物体が検出されたとしてカメ
ラ雲台制御ステップ 214に分岐する。
【0048】カメラ雲台制御ステップ 214 では、検出
した侵入物体の位置に基づきカメラ雲台 E03 を制御す
る。この制御は、例えば、侵入物体の位置(入力画像中
で検出された部分画像の中心位置)が画像中心から右に
位置している場合はカメラ雲台 E03 を右にパンし、画
像中心から左に位置している場合は左にパンし、画像中
心から上に位置している場合は上にチルトし、画像中心
から下に位置している場合は下にチルトする。
【0049】更に、テンプレート更新ステップ 215 で
は、図3を用いて説明したテンプレート画像更新部 T06
と同様の処理を行ない、入力画像 M02 の中でテンプレ
ート画像と最も一致度が高い部分画像 M07 に相当する
領域を切り出し、これを新たなテンプレート画像 M03
として、テンプレート画像を更新する。警報・モニタ表
示ステップ 216 では、警報出力 I/F E05g を介して、
例えば、監視モニタ E06 に対象物体の画像を表示した
り、警告灯 E07 を点灯させたりして、侵入物体が存在
することを表す報知を行なう。
【0050】上記のステップ 207 からステップ 216 の
処理を繰り返し実行して、テンプレート画像を拡大また
は縮小しながらテンプレートマッチングを行ない、侵入
物体を追跡するプロセスを、図4により説明する。 図
4は、本発明の物体追跡処理の一実施例の動作を説明す
るための図である。 図4に示すように、先ず、時刻T1
-1 で得られた入力画像に基づく抽出画像 Z01a とテン
プレート画像 Z01d を用いて撮像装置の視野範囲内の侵
入物体を追跡する。画像 Z01a 、Z02a 、Z03a はそれぞ
れ、時刻 T1-1 、T1 、T1+1 での力画像に基づき得ら
れたそれぞれの抽出画像である。また、画像 Z01d、Z02
d、Z03d はそれぞれ、時刻 T1-1 、T1 、T1+1 でのそれ
ぞれの入力画像に基づき得られたテンプレート画像であ
り、画像 Z01c 、Z02c 、Z03c はそれぞれ、時刻 T1 、
T1+1、T1+2 の入力画像である。
【0051】時刻 T1-1 において取得された入力画像に
基づくテンプレート画像 Z01d は、拡大・縮小処理部
( ZM ) Z04(ステップ 210 、211 )において、以下
のように処理される。 即ち、抽出画像 Z01a の元にな
る入力画像を TV カメラから取得した時点でのズームレ
ンズの焦点距離と、入力画像 Z01c を TV カメラから取
得した時点のズームレンズの焦点距離の比によって、ズ
ーム倍率を算出し(ステップ 210 )、該算出されたズ
ーム倍率を用いてテンプレート画像 Z01d を拡大あるい
は縮小し、拡大あるいは縮小処理後の抽出画像 Z01b 及
び、テンプレート画像 Z01e を得る。
【0052】ここで、ズームレンズの焦点距離の増加動
作を、図8と図9を用いて説明する。図8は、本発明の
実行によるズームアップ操作時のズームレンズの焦点距
離の増加の一例の様子を表す図である。 図8は、ズー
ムアップ制御時のズームレンズ制御時間 t に対するズ
ームレンズの焦点距離の増加の様子を表している。また
図9は、本発明の実行によるズームアウト操作時のズー
ムレンズの焦点距離の増加の一例の様子を表す図であ
る。図9は、ズームアウト制御時のズームレンズ制御時
間 t に対するズームレンズの焦点距離の減少の様子を
表す。
【0053】図8において、例えば、t = 0 の時刻でズ
ームアップ制御を開始する。この場合、ズームレンズが
駆動を開始するまでに時間 td の遅れ(例えば、0.1 se
c )が生じる。その後、時間 ta の間(例えば 0.5 sec
)加速され、その後一定の増加分 △fmax で焦点距離
が増加し、時刻 ts においてズームレンズ制御を停止し
たとすると、時間 td の遅れがあって、時間 tb の間
(例えば、 0.5sec )減速するという加減速特性 701
を示す。ここで、実際の焦点距離の増加は、加減速特性
701 の台形の面積であり、ts 秒間のズームアップ操作
によって、焦点距離が{( ts − ta + ts + tb )×△
fmax }/ 2( ts ≧ta )、{(fmax / ta + △fmax /
ta )× ts 2 }/ 2( ts < ta )分だけ増加する。
【0054】今、ズームアップ操作前の焦点距離が 10.
0 mm であったとすると、△fmax =2.0 mm/sec とし、t
= 5.0 sec のズームアップ操作によって、焦点距離が 2
0.0mm に増加し、ズームアップ操作前後の入力画像のズ
ーム倍率は 20.0 / 10.0 =2.0 となる。図8のズームア
ウト制御の場合も同様に、ts 秒間のズームアウト操作
によって、焦点距離が{( ts − ta + ts + tb )×△
fmin }/ 2 = 10.0mm( ts ≧ ta )、{(△fmax / t
a + △fmax / ta)× ts 2 }/ 2( ts <ta ) 分だけ
増加する。
【0055】拡大・縮小処理部 Z04 において、このズ
ーム倍率にしたがって、拡大または縮小後の抽出画像 Z
01b およびテンプレート画像 Z01e を得る。次に、テン
プレートマッチング処理部( TM ) Z05(ステップ 212
)において、拡大または縮小したテンプレート画像 Z0
1e を用いて入力画像 Z01c に対してテンプレートマッ
チングを行なうと、一致画像として入力画像 Z01c の部
分画像 Z01g を得ることができる。従って、入力画像 Z
01c 中で侵入物体は、Z01fに存在すると判定される。な
お、拡大・縮小処理部 Z04、テンプレートマッチング処
理部( TM ) Z05、テンプレート画像更新部Z06は、そ
れぞれ、プログラムメモリE05i にあらかじめ保存され
ている、拡大・縮小処理、テンプレートマッチング処
理、テンプレート画像更新処理を行なうプログラムであ
る。次にテンプレート画像更新部Z06(ステップ 215)
では、検出された入力画像Z01c の部分画像 Z01g に基
づき抽出画像とテンプレート画像を更新する、即ち、新
しい抽出画像 Z02a とテンプレート画像 Z02d を得る。
その後、得られた部分画像 Z01gを新しいテンプレート
画像 Z02dとし、これを用いて拡大・縮小処理を行な
い、拡大・縮小処理後のテンプレート画像 Z02eと時刻
t1+1での新しい入力画像とでテンプレートマッチング処
理を行なう。 そして、検出された入力画像 Z02c の部
分画像 Z02g に基づき新しい抽出画像 Z023a とテンプ
レート画像 Z03d を得る。同様な処理を順次行なうこと
で、ズームレンズ E02 を制御しながら時刻 t1+1におい
て侵入物体 Z02f、時刻 t1+2 において侵入物体 Z03f
を得ることができ、従って、入力画像中の侵入物体を追
跡することができる。
【0056】上記のように、本発明の実施例によれば、
侵入物体の大きさに基づいてズーム制御判定ステップ 2
08 とズームレンズ制御ステップ 209 によってズームレ
ンズを制御し、そのズーム倍率をズーム倍率算出ステッ
プ 210 によって算出し、テンプレート拡大・縮小ステ
ップ 210 によってズーム倍率に基づいてテンプレート
画像を拡大あるいは縮小する。 従って、ズームレンズ
を操作しながらでもテンプレート画像の位置が対象とす
る侵入物体からずれることがなく、さらには、テンプレ
ートマッチングの際の一致度を低下させることがなく正
確に侵入物体を追跡できる。なお、上記実施例では、ス
テップ 208 、209 によりズームレンズ制御された後の
画像は、ステップ 202 またはステップ 207 で入力され
る。 従って、これらステップ 208 、209 は図7に示
す変形例の様に、例えば、ステップ 214 とステップ 21
5 の間に実行しても良い。 これは後述する第2、第3
の実施例においても同様である。
【0057】本発明の第2の実施例を図10を参照して
説明する。 図10は本発明の第2実施例の処理プロセ
スを説明するフローチャートである。図10は、図5で
説明した処理プロセスにおいて、ズーム制御ステップ 2
08 の替わりにズーム操作ステップ 208′を実行するも
のとし、ズームレンズ制御ステップ 209 の替わりにズ
ームレンズ制御ステップ 209′を実行するようにしたも
のである。 従って、他のステップ 201 〜ステップ 20
7 、及び、ステップ 210 〜ステップ 216は第1の実施
例と同様であるためそれらの処理の説明については省略
する。
【0058】ステップ 201 からステップ 207 までの処
理が図5で説明したようになされると、ズーム操作判定
ステップ 208′に進む。ズーム操作判定ステップ 208′
では、オペレータが操作部 E04 を操作したか否かを、
操作部 E04 からの操作入力 I/F E05d を介した出力に
基づき判断する。 オペレータが操作部 E04 を操作し
た場合は、ズームレンズ制御ステップ 209′へ分岐す
る。また、オペレータが操作部を操作していない場合
は、ズーム倍率算出ステップ 210 へ分岐する。
【0059】ズームレンズ制御ステップ 209′では、オ
ペレータが操作部 E04 を使ってズームアップ操作をし
た場合、ズームレンズ E02 の焦点距離を所定の値(例
えば1 mm )増加させる。ここで、ズームアップ操作
は、例えば、操作部 E04 の第1のボタン E04a をオペ
レータが押すことで実行される。 一例として、操作部
E04 の第1のボタン E04a をオペレータが1回押す毎
にズームレンズ E02 の焦点距離を所定の値増加させる
ようにしても良い。また、オペレータが操作部 E04 を
使ってズームアウト操作をした場合、ズームレンズ E02
の焦点距離を所定の値(例えば 1 mm )減少させる。
ここで、ズームアウト操作は、例えば、オペレータが操
作部 E04 の第2のボタン E04b を押すことで実行され
る。一例として、操作部 E04 の第2のボタン E04b を
オペレータが1回押す毎にズームレンズ E02 の焦点距
離を所定の値減少させるようにしても良い。
【0060】なお、オペレータがズームアップ操作とズ
ームアウト操作を行った場合、上記実施例では、操作部
E04 の第1のボタンと第2のボタンを同時に押した場
合は、例えば、ズームレンズ E02 の焦点距離は変化さ
せないようにして良い。 このようにすることで、オペ
レータがズームレンズ E02 を操作することができるよ
うになる。 または、オペレータがズームアップ操作と
ズームアウト操作を同時に行なった場合は、ズームアッ
プ操作とズームアウト操作の一方を実行するようにして
も良い。以下、ステップ 210 以降の処理が実行され
る。このようにすることで、ズームレンズ E02 を操作
しながら時刻 t1+1 において侵入物体 Z02f 、時刻 t1+
2 において侵入物体 Z03f と入力画像中の侵入物体を追
跡することができる。
【0061】上記のように本発明の第2の実施例によれ
ば、オペレータのズーム操作に基づいてズーム操作判定
ステップ 208′、ズームレンズ制御ステップ 209′によ
ってズームレンズを制御し、そのズーム倍率をズーム倍
率算出ステップ 210 によって算出し、テンプレート拡
大・縮小ステップ 211 によってズーム倍率に基づいて
テンプレート画像を拡大あるいは縮小する。 従って、
出力モニタ E06 に写された入力画面を見ながらズーム
レンズを操作して、テンプレート画像の位置が対象とす
る侵入物体からずれることがないよう、さらには、テン
プレートマッチングの際の一致度を低下させることがな
いように、正確に侵入物体を追跡できる。
【0062】本発明の第3の実施例を図11によって説
明する。 図11は、本発明の一実施例の処理プロセス
を説明するフローチャートである。図11の実施例は、
図10で説明した本発明の第2の実施例において、侵入
物体の大きさに基づいて自動的にズームレンズを制御す
るようにしたものである。 即ち、オペレータのズーム
操作がない場合は、侵入者の見かけの大きさを所定の大
きさに写るように自動的にズームレンズを制御するよう
にしたものである。図11は、図10に示された第2の
実施例において、ズーム制御判定ステップ301 と、ズー
ムレンズ制御ステップ 302 を追加したものである。ス
テップ 201 〜ステップ 207 、ステップ 208′〜ステッ
プ 209′、及び、ステップ 210 〜ステップ 215 までの
処理は、前述の第2の実施例と同様であるので、これら
の処理の説明は省略する。
【0063】図11において、ズーム制御判定ステップ
301 は、ズーム操作判定ステップ208′において、オペ
レータがズーム操作を行なっていない場合に実行され
る。ズーム制御判定ステップ 301 では、追跡中の侵入
物体のテンプレート画像 M03 の大きさが上記の所定の
範囲内に収まっていない場合は、ズームレンズの制御が
必要だと判断して、ズームレンズ制御ステップ 302 へ
分岐する。 一方、テンプレート画像 M03 の大きさが
上記の所定の範囲内に収まっている場合は、ズーム倍率
算出ステップ 210 へ分岐する。
【0064】上述の本発明の第3の実施例によれば、オ
ペレータの操作に基づいてズーム操作判定ステップ 20
8′、ズームレンズ制御ステップ 209′によってズーム
レンズを制御し、オペレータが操作していない場合は、
ズーム制御判定ステップ 301、ズームレンズ制御ステッ
プ 302 によってズームレンズを制御し、そのズーム倍
率をズーム倍率算出ステップ 210 によって算出し、テ
ンプレート拡大・縮小ステップ 211 によってズーム倍
率に基づいてテンプレート画像を拡大あるいは縮小す
る。従って、ズームレンズを操作しながらでもテンプレ
ート画像の位置が対象とする侵入物体からずれることが
なく、さらには、テンプレートマッチングの際の一致度
を低下させることがなく正確に侵入物体を追跡できる。
【0065】
【発明の効果】テンプレートマッチングを用いた従来技
術では、ズームレンズを制御するような場合には、テン
プレート画像と対象としている侵入物体の大きさが異な
ってしまい、正確にマッチングしているという保証がで
きず、安定な追跡が行なえないという問題点があった。
しかし、以上のように、本発明によれば、テンプレート
画像取得時の焦点距離と入力画像取得時の焦点距離の比
によってズーム倍率を算出してテンプレート画像を拡大
するようにしたことで、ズームレンズを制御または操作
しながらでも対象とする侵入物体を正確に追跡できる。
従って、本発明によれば、撮像装置のズームレンズ制御
の従来の制限を取り除くことができ、かつ、安定に侵入
物体を追跡することができ、映像監視装置の適用範囲を
大きく広げることができる。
【図面の簡単な説明】
【図1】 従来の差分法による物体検出処理の動作を説
明するための図。
【図2】 従来のテンプレートマッチング法による物体
検出処理の動作を説明するための図。
【図3】 従来のテンプレートマッチング法を逐次行な
う物体追跡処理の動作を説明する図。
【図4】 本発明の物体追跡処理の一実施例の動作を説
明するための図。
【図5】 本発明の一実施例による処理プロセスを説明
するフローチャート。
【図6】 本発明の物体追跡装置の一実施例の構成を示
すブロック図。
【図7】 図5に示す処理プロセスの変形例を示すフロ
ーチャート。
【図8】 本発明の実施例におけるズームレンズの焦点
距離の増加動作の一例を表す図。
【図9】 本発明の実施例におけるズームレンズの焦点
距離の増加動作の一例を表す図。
【図10】 本発明の第2の実施例による処理プロセス
を説明するフローチャート。
【図11】 本発明の第3の実施例による処理プロセス
を説明するフローチャート。
【符号の説明】
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 5/232 H04N 5/232 C Fターム(参考) 5B057 BA17 CA08 CA12 CA16 CE12 CH18 DA06 DB02 DB09 DC32 5C022 AA01 AB63 AB66 AC27 AC74 5C054 CG02 CG06 EA01 FC12 HA18 HA31 5L096 AA06 BA02 CA04 EA43 FA02 GA13 HA03 JA09

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 ズーム機構を有する撮像装置から取得す
    る入力画像とテンプレート画像とを比較して物体を検出
    する物体検出方法において、 上記撮像装置の視野範囲内の第1の画像を上記テンプレ
    ート画像として記録するステップと、 上記ズーム機構の変更された倍率を記録するステップ
    と、 上記撮像装置から検出するための第2の画像を取得する
    ステップと、 上記ズーム機構の変更された倍率に基いて、上記テンプ
    レート画像または上記第2の画像のいずれか1つの大き
    さを変更するステップと、 上記テンプレート画像と上記第2の画像とのテンプレー
    トマッチングを行なうステップを備え、 物体を検出することを特徴とする物体検出方法。
  2. 【請求項2】 請求項1記載の物体検出方法において、
    上記ズーム機構の変更された倍率を記録するステップ
    は、 上記テンプレート画像が撮像された時に、上記ズーム機
    構の第1の焦点距離を記録するステップと、 上記第2の画像が撮像された時に、上記ズーム機構の第
    2の焦点距離を記録するステップとを備えることを特徴
    とする物体検出方法。
  3. 【請求項3】 請求項1記載の物体検出方法において、 上記テンプレート画像として記録するステップは、上記
    物体を含むように所定の大きさを有する領域を設定する
    ステップと、上記物体が上記領域内に含まれるように上
    記ズーム機構を制御するステップとを備えることを特徴
    とする物体検出方法。
  4. 【請求項4】 請求項1記載の物体検出方法において、
    上記テンプレートマッチングを行なうステップは、上記
    テンプレート画像と上記第2の画像との一致度が最大の
    部分画像の位置を検出するステップであることを特徴と
    する物体検出方法。
  5. 【請求項5】 請求項1記載の物体検出方法において、
    上記ズーム機構を手動で操作するステップと、表示装置
    の画面上に上記入力画像を表示するステップとを備え、
    オペレータが上記画面上の上記入力画像を見ながら上記
    ズーム機構を操作することを特徴とする物体検出方法。
  6. 【請求項6】 ズーム機構を有する撮像装置から取得す
    る入力画像とテンプレート画像とを比較して物体を検出
    する物体検出装置において、 上記撮像装置の視野範囲内の第1の画像を上記テンプレ
    ート画像として記録するテンプレート画像記録部と、 上記ズーム機構の変更された倍率を記録する倍率記録部
    と、 上記撮像装置から第2の画像を取得する取得手段と、 上記ズーム機構の変更された倍率に基いて、上記テンプ
    レート画像または上記第2の画像のいずれか1つの大き
    さを変更する制御部と、 上記テンプレート画像と上記第2の画像とのテンプレー
    トマッチングを行なう画像処理部とを備えたことを特徴
    とする物体検出装置。
  7. 【請求項7】 ズーム機構を有する撮像装置から取得す
    る入力画像とテンプレート画像とを比較して物体を検
    出、上記ズーム機構を制御することによって物体を追跡
    する物体追跡方法において、 上記撮像装置の視野範囲内の第1の画像を上記テンプレ
    ート画像として記録するステップと、 上記撮像装置から検出するための第2の画像を取得する
    ステップと、 上記ズーム機構の変更された倍率を記録するステップ
    と、 上記ズーム機構の変更された倍率に基いて、上記テンプ
    レート画像または上記第2の画像のいずれか1つの大き
    さを変更するステップと、 上記テンプレート画像と上記第2の画像とのテンプレー
    トマッチングを行なうステップと、 上記テンプレートマッチングの結果に応じて、上記撮像
    装置の移動機構を制御するステップとを備え、 上記物体を追跡することを特徴とする物体追跡方法。
  8. 【請求項8】 ズーム機構を有する撮像装置から取得す
    る入力画像とテンプレート画像とを比較して物体を検出
    する物体追跡装置において、 上記撮像装置の視野範囲内の第1の画像を上記テンプレ
    ート画像として記録するテンプレート画像記録部と、 上記撮像装置から第2の画像を取得する取得手段と、 上記ズーム機構の変更された倍率を記録する倍率記録部
    と、 上記ズーム機構の変更された倍率に基いて、上記テンプ
    レート画像または上記第2の画像のいずれか1つの大き
    さを変更する第1の制御部と、 上記テンプレート画像と上記第2の画像とのテンプレー
    トマッチングを行なう画像処理部と、 上記テンプレートマッチングの結果に応じて、上記物体
    追跡するように上記撮像装置の移動機構を制御する第2
    の制御部を備えたことを特徴とする物体追跡装置。
JP2002354224A 2001-12-05 2002-12-05 物体検出方法及びそれを用いた物体検出装置並びに物体追跡方法及びそれを用いた物体追跡装置 Pending JP2003235035A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002354224A JP2003235035A (ja) 2001-12-05 2002-12-05 物体検出方法及びそれを用いた物体検出装置並びに物体追跡方法及びそれを用いた物体追跡装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2001-371612 2001-12-05
JP2001371612 2001-12-05
JP2002354224A JP2003235035A (ja) 2001-12-05 2002-12-05 物体検出方法及びそれを用いた物体検出装置並びに物体追跡方法及びそれを用いた物体追跡装置

Publications (1)

Publication Number Publication Date
JP2003235035A true JP2003235035A (ja) 2003-08-22

Family

ID=27790511

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002354224A Pending JP2003235035A (ja) 2001-12-05 2002-12-05 物体検出方法及びそれを用いた物体検出装置並びに物体追跡方法及びそれを用いた物体追跡装置

Country Status (1)

Country Link
JP (1) JP2003235035A (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004112144A (ja) * 2002-09-17 2004-04-08 Nissan Motor Co Ltd 前方車両追跡システムおよび前方車両追跡方法
JP2005236508A (ja) * 2004-02-18 2005-09-02 Matsushita Electric Ind Co Ltd 自動追尾装置及び自動追尾方法
JP2006184742A (ja) * 2004-12-28 2006-07-13 Fujinon Corp オートフォーカスシステム
JP2006267220A (ja) * 2005-03-22 2006-10-05 Fujinon Corp オートフォーカスシステム
JP2009156776A (ja) * 2007-12-27 2009-07-16 Ihi Corp 人体検出装置及び人体検出方法
JP2009166323A (ja) * 2008-01-15 2009-07-30 Sigumakkusu Kk 射出成形機監視装置
JP2010034885A (ja) * 2008-07-29 2010-02-12 Fujitsu Ltd 撮像装置
JP2010050527A (ja) * 2008-08-19 2010-03-04 Nikon Corp 撮像装置
WO2011102495A1 (en) * 2010-02-16 2011-08-25 Ricoh Company, Ltd. Imaging device including target tracking function
JP2013054429A (ja) * 2011-09-01 2013-03-21 Renesas Electronics Corp オブジェクト追跡装置
US8625933B2 (en) 2008-10-03 2014-01-07 Canon Kabushiki Kaisha Image processing apparatus and method for the same

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004112144A (ja) * 2002-09-17 2004-04-08 Nissan Motor Co Ltd 前方車両追跡システムおよび前方車両追跡方法
JP2005236508A (ja) * 2004-02-18 2005-09-02 Matsushita Electric Ind Co Ltd 自動追尾装置及び自動追尾方法
JP4597543B2 (ja) * 2004-02-18 2010-12-15 パナソニック株式会社 自動追尾装置及び自動追尾方法
JP4596246B2 (ja) * 2004-12-28 2010-12-08 富士フイルム株式会社 オートフォーカスシステム
JP2006184742A (ja) * 2004-12-28 2006-07-13 Fujinon Corp オートフォーカスシステム
JP2006267220A (ja) * 2005-03-22 2006-10-05 Fujinon Corp オートフォーカスシステム
JP2009156776A (ja) * 2007-12-27 2009-07-16 Ihi Corp 人体検出装置及び人体検出方法
JP2009166323A (ja) * 2008-01-15 2009-07-30 Sigumakkusu Kk 射出成形機監視装置
JP2010034885A (ja) * 2008-07-29 2010-02-12 Fujitsu Ltd 撮像装置
JP2010050527A (ja) * 2008-08-19 2010-03-04 Nikon Corp 撮像装置
US8625933B2 (en) 2008-10-03 2014-01-07 Canon Kabushiki Kaisha Image processing apparatus and method for the same
WO2011102495A1 (en) * 2010-02-16 2011-08-25 Ricoh Company, Ltd. Imaging device including target tracking function
US9092877B2 (en) 2010-02-16 2015-07-28 Ricoh Company, Ltd. Imaging device including target tracking function
JP2013054429A (ja) * 2011-09-01 2013-03-21 Renesas Electronics Corp オブジェクト追跡装置

Similar Documents

Publication Publication Date Title
KR100470931B1 (ko) 템플레이트 매칭을 이용한 물체추적방법 및 장치
US7596240B2 (en) Object tracking method and object tracking apparatus
JP4699040B2 (ja) 自動追尾制御装置及び自動追尾制御方法、並びにプログラム、自動追尾システム
JP3279479B2 (ja) 映像監視方法及び装置
JP4241742B2 (ja) 自動追尾装置及び自動追尾方法
EP1635573A2 (en) Imaging system and imaging method
US20050052533A1 (en) Object tracking method and object tracking apparatus
JP2001060269A (ja) 物体追跡方法及び物体追跡装置
JP2001333422A (ja) 監視装置
JP2003235035A (ja) 物体検出方法及びそれを用いた物体検出装置並びに物体追跡方法及びそれを用いた物体追跡装置
JP4578864B2 (ja) 自動追尾装置及び自動追尾方法
JP4699056B2 (ja) 自動追尾装置及び自動追尾方法
JP3857558B2 (ja) 物体追跡方法及び装置
JPH1023322A (ja) カメラ揺れ補正方法および画像監視システム
JP3852745B2 (ja) 物体検出方法及び物体検出装置
JP2001060263A (ja) 物体追跡方法及び物体追跡装置
JP4444746B2 (ja) 物体追尾方法及び物体追尾装置
JPH0793558A (ja) 画像監視装置
KR102080456B1 (ko) 압축영상에 대한 신택스 기반의 ptz 카메라의 객체 추적 제어 방법
JP3828096B2 (ja) 物体追跡装置
JP3758511B2 (ja) 物体検出装置及び物体検出プログラム
JP2001325672A (ja) 侵入者監視システム
KR100536747B1 (ko) 팬/틸트/줌 카메라를 이용한 영상 보안 시스템 및 방법
JP4597543B2 (ja) 自動追尾装置及び自動追尾方法
JP2000224457A (ja) 監視システムおよびその制御方法およびそのプログラムを記憶した記憶媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051102

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20061003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061030

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20061218

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20070918

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20071130