JP2007274703A - ビデオ追跡システム及び方法 - Google Patents

ビデオ追跡システム及び方法 Download PDF

Info

Publication number
JP2007274703A
JP2007274703A JP2007109339A JP2007109339A JP2007274703A JP 2007274703 A JP2007274703 A JP 2007274703A JP 2007109339 A JP2007109339 A JP 2007109339A JP 2007109339 A JP2007109339 A JP 2007109339A JP 2007274703 A JP2007274703 A JP 2007274703A
Authority
JP
Japan
Prior art keywords
camera
target
image
speed
adjustment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007109339A
Other languages
English (en)
Other versions
JP5242938B2 (ja
Inventor
Sezai Sablak
セザイ・サブラク
David N Katz
デヴィッド・エヌ・カッツ
Miroslav Trajkovic
ミロスラヴ・トライコヴィッチ
Michael D Bolotine
マイケル・ディー・ボロティン
Damian Lyons
ダミアン・リオンズ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bosch Security Systems Inc
Original Assignee
Bosch Security Systems Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bosch Security Systems Inc filed Critical Bosch Security Systems Inc
Publication of JP2007274703A publication Critical patent/JP2007274703A/ja
Application granted granted Critical
Publication of JP5242938B2 publication Critical patent/JP5242938B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】動く物体を追跡するためのビデオ追跡システムを提供する。
【解決手段】ビデオ追跡システム20は、視野を有し、選択的に調整可能であり、調整が視野を変化させるビデオカメラ22と、カメラ22に動作可能に結合される少なくとも一つのプロセッサとを具備する。プロセッサは、カメラ22により取得されたビデオ画像を自動的に且つ連続的に受け取り、カメラ22を連続的に且つ選択的に調整する。プロセッサはビデオ画像内の動く目標物を検出し、目標物の属性の関数である目標値を予測するようにプログラムされ、カメラ22を、目標値の関数である選択された速度で調整する。プロセッサは自動的に画像を受け取り、取得された画像間の比較によって処理する。
【選択図】 図1

Description

本発明は、動く物体を追跡するためのビデオカメラ・システムに関する。
人間や車両のような動く物体を追跡するために利用され得る、多数の既知のビデオ監視システムがある。そのようなシステムのいくつかは、静止した視野(FOV)を有する固定されたカメラを利用する。しかし、固定されたカメラ・システムで所与の監視現場を完全にカバーするためには、しばしば、かなりの数の固定カメラを利用することが必要となる。
パン、ティルト(tilt)及びズームが可能な可動式のカメラも、物体を追跡するために用いられ得る。PTZ(パン、ティルト、ズーム)カメラ・システムの利用は、典型的には、所与の監視現場のために必要とされるカメラの数を減少させ、また、それにより、ビデオ・フィード、及びそれに関連付けられたマルチプレクサやスイッチャーのようなシステム統合ハードウェアの数及びコストをも減少させる。
視覚的監視システムはしばしば、操作者にも依存する。しかし、操作者を用いると、比較的高い時間コスト、単調でうんざりするような作業を実行する場合の疲れ易さ、複数の画像に同時に集中できないこと、及び偶然の又は意図的な人為的ミスといったいくつかの限定要素を受けやすい。そのような人間の限界による影響を軽減するため、操作者を支援又は代行する自動ビデオ追跡システムが利用されてきた。
自動ビデオ追跡システムにおいて典型的に利用される3つの主な手順は、背景減算、目標検出及び目標追跡を含む。固定されたカメラを利用すると、背景減算及び目標検出の処理が非常に単純化且つ高速化される。PTZシステムが利用される場合、典型的には、目標物の動きを分析し目標物の将来の位置を予測することにより、カメラが位置決めされる。次いで、カメラは、目標物の予測された将来の位置をFOVの中心に位置決めするように調整される。目標物がFOVの中心から離れ、新しい予測された将来の位置が計算される際、カメラは静止したままであり得る。その後、カメラは、再び目的物体を中心に置くように位置決めされる。目標物を追跡するために、そのような不連続なカメラの動きが連続的に繰り返される。従来、個々の不連続なカメラの動きは、利用できる限りで最も速いカメラの動作速度でなされ、個々のパンの動きは共通のパン速度で行われ、個々のティルトの動きは共通のティルト速度で行われ、個々のズームの動き即ちカメラの焦点距離の調整は共通のズーム速度で行われる。結果として、一連の不連続なカメラの動きは、典型的には、技能を有する人間がジョイスティック又は他のカメラ制御装置を操作して目標物を手動で追跡することにより作製したビデオ画像と比較して「がたがた揺れる」ビデオ画像をもたらす。
本発明は、可動式カメラを有する自動ビデオ追跡システムを提供し、該システムにおいては、目標物の追跡中に比較的滑らかに遷移する動きを持つビデオ画像を提供するために、目標物を追跡する際のカメラの自動調整が、連続的に様々な速度で行われ得る。
本発明は、一つの形態において、視野を有するビデオカメラを含むビデオ追跡システムを備え、当該カメラは選択的に調整可能であり、カメラの調整がカメラの視野を変化させる。本システムは、また、カメラに動作可能に結合される少なくとも一つのプロセッサを含む。プロセッサはカメラにより取得されたビデオ画像を受け取り、カメラを選択的に調整する。プロセッサは、ビデオ画像内の動く目標物を検出し、目標物を追跡するようカメラを調整するようにプログラムされており、複数の様々な調整速度でカメラを調整する。
本発明は、他の形態において、視野を有するビデオカメラを含むビデオ追跡システムを備え、当該カメラは選択的に調整可能であり、カメラの調整がカメラの視野を変化させる。本システムは、また、カメラに動作可能に結合される少なくとも一つのプロセッサを含む。プロセッサはカメラにより取得されたビデオ画像を受け取り、カメラを選択的に調整する。プロセッサは、ビデオ画像内の動く目標物を検出し、目標物の属性の関数である目標値を予測するようにプログラムされる。属性は目標物の速度であり得る。プロセッサは、目標値の関数である選択された調整速度でカメラを調整する。
代わりの実施の形態において、そのようなシステムは、目標物の少なくとも一つの属性の関数としてのカメラ調整速度を選択するプロセッサを含み得る。目標物の少なくとも一つの属性には、目標物の速度が含まれ得る。カメラのパン方向及びティルト方向のうちの少なくとも一つを調整する際、カメラは可変の速度で選択的に調整可能であり得る。
プロセッサは、第一の画像及び第二の画像の分析に基づいてカメラの調整速度を選択するようにプログラムされ得、第一の画像は第一の視野を区画するように調整されたカメラにより取得され、第二の画像は第二の視野を区画するように調整されたカメラにより取得される。第一及び第二の視野は部分的に重なり得、プロセッサによる選択された調整速度の決定は、第一及び第二の画像それぞれに現れた少なくとも一つの共通の特徴を識別し位置調整する工程を含む。カメラは選択された調整速度において調整される際に第三の視野を区画し得、カメラが第三の視野を区画する際に第三の画像がカメラにより取得される。第一、第二及び第三の画像は、プロセッサにより連続的に分析される。カメラは、選択的に調整可能な焦点距離を有し、プロセッサは、カメラから目標物までの距離の関数としてカメラの焦点距離を選択し得る。
カメラの調整は、X軸を決定するカメラの選択的なパン動作、Y軸を決定するカメラの選択的なティルト動作、及びZ軸を決定するカメラの選択的な焦点距離調整を含み得、X、Y及びZ軸は互いに垂直に向けられる。プロセッサは、当該目標物のX軸上の速度の関数である選択されたパン速度、及び目標物のY軸上の速度の関数である選択されたティルト速度でカメラを調整し得る。カメラは、また、プロセッサが第二の調整速度を選択し、カメラに第二の調整速度を伝達するまで、第一の選択された調整速度で調整され得る。
追跡システムは、また、システムに動作可能に結合される表示装置及び入力装置を備え得、操作者は表示装置上のビデオ画像を見、入力装置を介して命令又はデータをシステムに入力し得る。表示装置及び入力装置は、カメラから離れて設置されてもよい。
本発明は、更に他の形態において、視野を有するビデオカメラを含むビデオ追跡システムを備え、該カメラは選択的に調整可能であり、カメラの調整がカメラの視野を変化させる。本システムは、また、カメラに動作可能に結合される少なくとも一つのプロセッサを含む。プロセッサはカメラにより取得されたビデオ画像を受け取り、カメラを選択的に調整する。プロセッサは、ビデオ画像内の動く目標物を検出し、カメラを調整して目標物を追跡するようにプログラムされる。目標物の追跡中、プロセッサは複数の命令をカメラに伝達し、カメラは命令に従って、固定した間隔をはさまず連続的且つ可変に調整可能である。
そのようなシステムのカメラは、カメラのパン方向及びカメラのティルト方向のうちの少なくとも一つ又はそれぞれを調整する際、可変の速度において選択的に調整可能であり得る。カメラは、調整される期間に、プロセッサによる分析のための画像を取得し得、カメラの連続的且つ可変な調整は、調整方向又は調整速度を変えることを含む。命令は、第二の命令がカメラにより受信されるまでカメラを選択された速度及び方向で調整する第一の命令を含み得る。
本発明は、更に他の形態において、視野を有するビデオカメラを含むビデオ追跡システムを備え、該カメラは選択的に調整可能であり、カメラの調整がカメラの視野を変化させる。本システムは、また、カメラに動作可能に結合される少なくとも一つのプロセッサを含み、プロセッサはカメラにより取得されたビデオ画像を受け取り、カメラを選択的に調整する。プロセッサは、ビデオ画像内の動く目標物を検出し、カメラを調整して目標物を追跡するようにプログラムされる。プロセッサは、カメラにより取得された、それぞれが異なる視野を記録する第一、第二及び第三の画像を連続的に分析し得る。プロセッサは、カメラを選択的に調整する第一の命令、及びカメラを選択的に調整する第二の命令をカメラに伝達する。カメラは、第一の画像の取得と第二の画像の取得との間の第一の時間間隔の少なくとも一部の期間に、第一の命令に従って調整される。カメラは、第二の画像の取得と第三の画像の取得との間の第二の時間間隔の少なくとも一部の期間に、第二の命令に従って調整される。カメラは、第一の画像の取得から第三の画像の取得まで連続的に調整される。
本発明は、更に他の形態において、ビデオカメラで目標物を追跡する方法を含む。該方法は、視野を有する選択的に調整可能なビデオカメラを設ける工程であって、カメラの調整がカメラの視野を変化させる工程を含む。該方法は、また、目標物を追跡するために選択的に可変な調整速度でカメラを調整する工程を含む。調整速度は、目標物の少なくとも一つの属性の関数として選択され得る。
本発明は、更に他の形態において、ビデオカメラで目標物を追跡する方法を含む。該方法は、視野を有する選択的に調整可能なビデオカメラを設ける工程であって、カメラの調整がカメラの視野を変化させる工程を含む。該方法は、また、カメラにより取得された画像内の目標物を検出する工程と、目標物の少なくとも一つの属性の関数である目標値を予測する工程と、選択的に可変な速度でカメラを調整する工程であって、カメラ速度の調整速度が目標値の関数として選択される工程とを含む。
上記の方法の代わりの実施の形態において、目標物の少なくとも一つの属性は、目標物の速度を含み得る。調整速度は、第一の画像が第一の視野を区画するように調整されているときのカメラにより取得され、第二の画像が第二の視野を区画するように調整されているときのカメラにより取得される場合の、第一の画像及び第二の画像の分析に基づいて選択され得る。第一及び第二の視野は部分的に重なり得、調整速度の決定は、第一及び第二の画像のそれぞれに現れた少なくとも一つの共通の特徴を識別し位置調整する工程を含み得る。選択的に可変な調整速度におけるカメラの調整は、カメラのパン方向及びカメラのティルト方向のうちの少なくとも一つ又はそれぞれを調整する工程を含み得、選択された可変な調整速度は、目標物の速度の関数として選択され得る。調整速度の決定は、また、カメラから目標物までの実世界の距離の関数である比例係数の利用を含み得る。カメラの調整は、また、第二の選択された調整速度がカメラに伝達されるまで、第一の選択された調整速度でカメラを調整する工程を含み得る。
本発明は、他の形態において、ビデオカメラで目標物を追跡する方法を含む。該方法は、視野を有する選択的に調整可能なビデオカメラを設ける工程であって、カメラの調整がカメラの視野を変化させる工程を含む。該方法は、また、目標物を追跡するためにカメラを調整する工程を含み、カメラの調整は、少なくとも一つの調整パラメータを選択的且つ可変に調整する工程を含み、カメラは、少なくとも一つの調整パラメータの選択的且つ可変な調整の期間に、連続的に調整可能である。
カメラの少なくとも一つの調整パラメータの選択的且つ可変な調整は、カメラのパン方向及びカメラのティルト方向のうちの少なくとも一つ又はそれぞれの調整を含み得る。そのようなパラメータの調整は、選択的且つ可変であり得る。そのようなパラメータの選択的且つ可変な調整は、調整方向又は調整速度を変化させる工程を含み得、調整速度は目標物の速度の関数として選択され得る。
本発明は、他の形態において、ビデオカメラで目標物を追跡する方法を含む。該方法は、視野を有する選択的に調整可能なビデオカメラを設ける工程であって、カメラの調整がカメラの視野を変化させる工程を含む。該方法は、また、カメラにより取得された画像内の目標物を検出する工程と、それぞれ異なる視野を記録する第一、第二、及び第三の画像を取得する工程とを含む。該方法は、また、カメラを選択的に調整する第一の命令をカメラに伝達する工程と、カメラを選択的に調整する第二の命令をカメラに伝達する工程とを含む。該方法は、更に、第一の画像の取得と第三の画像の取得との間にカメラを連続的に調整する工程を含み、カメラは、第一の画像の取得と第二の画像の取得との間の第一の時間間隔の少なくとも一部の期間に第一の命令に従って調整され、第二の画像の取得と第三の画像の取得との間の第二の時間間隔の少なくとも一部の期間に第二の命令に従って調整される。
第一及び第二の命令は、カメラのパン方向及びカメラのティルト方向のうちの少なくとも一つ又はそれぞれを選択的に調整する。そのようなパラメータの調整は、選択的に可変な調整速度でなされ得、速度は目標物の速度の関数として選択され得る。
本発明は、更に他の形態において、選択的に調整可能な焦点距離を持つビデオカメラを有するビデオ追跡システムを備える。本システムは、また、カメラに動作可能に結合される少なくとも一つのプロセッサを備え、該プロセッサは、カメラにより取得されたビデオ画像を受け取り、カメラの焦点距離を選択的に調整する。プロセッサは、ビデオ画像内の動く目標物を検出し、カメラから目標物までの距離の関数としてカメラの焦点距離を調整するようにプログラムされる。システムのカメラは、また、選択的に調整可能なパン方向及び選択的に調整可能なティルト方向を有し得、プロセッサは、目標物がビデオ画像の中央になり続けるようにパン方向及びティルト方向を調整し、カメラの焦点距離をティルト角の関数として選択的に調整する。
本発明は、更に他の形態において、目標物をビデオカメラで自動追跡する方法を含む。該方法は、選択的に調整可能な焦点距離を有するビデオカメラを設ける工程と、カメラの焦点距離をカメラから目標物までの距離の関数として調整する工程とを含む。そのような方法で用いられるカメラは、また、選択的に調整可能なパン方向及び選択的に調整可能なティルト方向を有し得、物体を追跡する工程は、カメラのパン方向及びティルト方向を調整する工程と、カメラのティルト角の関数としてカメラの焦点距離を選択的に調整する工程とを含む。
本発明の利点は、目標物の追跡期間に比較的なめらかに遷移するカメラ動作を反映するビデオ画像を提供することであり、該ビデオ画像は、目標物の追跡時にある点から他の点へと「飛ぶ」ことがない。結果としてのビデオは、典型的に、より見やすく、目標物の行動を監視するためにビデオを見ている操作者にとって気が散ることが少ないと考えられる。
本発明の他の利点は、自動追跡を目的に取得される画像が、カメラが動いている期間に得られることを可能にすることにより、目標物の追跡中にカメラが画像取得のために固定した位置に止まっていることを必要としないことである。
本発明の更に他の利点は、操作者が手動でカメラを位置決めする間に、システムが目標物を追跡し続けることを可能にすることである。なぜなら、追跡システムは、目標物を追跡するために、共通の視野を持たない一連の画像を利用し得るからである。
本発明の更に他の利点は、従来のパン、ティルト、ズーム(PTZ)カメラとともに利用され得ることであり、それにより、そのような従来のPTZカメラを有する既存の設備の改装及び更新を促進することである。
添付の図面と組み合わせて以下の本発明の実施の形態の説明を参照することにより、本発明の上記の及び他の特徴及び目的、及びそれらを達成する方法がより明らかになり、本発明そのものがより良く理解される。
対応する参照符号は、いくつかの図面を通して対応する部分を示す。本明細書に述べられる例示は、本発明の実施の形態の一つを示すが、以下に開示される実施の形態は網羅的であること、又は、開示された形態のみに本発明の範囲を限定することを意図しない。
図1において、本発明に係るビデオ監視システム20が示される。システム20は、部分的に球状のカバー24の中に置かれたカメラ22を含む。カバー24は、カメラがカバー24の外の環境の画像を取得することを可能にし、同時にカメラ22により監視される環境内の個人がカメラ22の方向を決定することができないよう、薄く色がつけられる。カメラ22は、カメラ22のパン、ティルト及び焦点距離の調整を提供するコントローラー及びモーターを含む。カメラ22のパン動作は矢印26により表わされ、カメラ22のティルト動作は矢印28により表わされ、カメラ22のレンズ23の焦点距離の変更、即ちズームは、矢印30により表わされる。座標系21に示されるように、パン動作はX軸に沿った動きを追跡し、ティルト動作はY軸に沿った動きを追跡し、焦点距離調整はZ軸に沿った動きを追跡するために用いられ得る。図示された実施の形態において、カメラ22及びカバー24は、ペンシルヴァニア州ランカスターに拠点を有するボッシュ・セキュリティ・システムズ社(旧フィリップス・コミュニケーション,セキュリティ・アンド・イメージング社)から入手可能な、例えばG3 Basic AutoDome(登録商標)カメラ及びカバーのようなPhillips AutoDome(登録商標)カメラ・システム・ブランドのカメラ・システムである。本発明による利用に適したカメラは、Sergeantらにより、監視カメラシステムと題された米国特許第5,627,616号に記載されており、該特許は、参照により全文が本明細書に援用される。
システム20は、また、ヘッド・エンド・ユニット32を含む。ヘッド・エンド・ユニット32は、ビデオ・スイッチャー又はビデオ・マルチプレクサ(図示せず)を含み得る。例えば、ヘッド・エンド・ユニットは、ペンシルヴァニア州ランカスターにあるボッシュ・セキュリティ・システムズ社(旧フィリップス・コミュニケーション,セキュリティ・アンド・イメージング社)から入手可能な、例えば、64個までのカメラによる入力を提供し8つの独立したキーボードと8つのモニターを設置できるLTC8500シリーズAllegiantビデオ・スイッチャーのような、Allegiantブランドのビデオ・スイッチャーを含み得る。ヘッド・エンド・ユニット32は、操作者による入力のためのキーボード34及びジョイスティック36と、操作者が見るための表示装置38とを含む。カメラ22及び自動追跡ユニット50に電力を供給するために、24ボルトのAC電源が提供される。
図示されたシステム20は単一のカメラの適用であるが、本発明は、より大きな又はより複雑な監視領域に適用範囲を提供するために、固定式又は可動式であってもよく又はそれらの組合せであってもよい追加のカメラを有するより大きな監視システム内においても利用され得る。カメラ22及びシステム内の他のカメラにより取得されたビデオ画像の記録に備えて、ヘッド・エンド・ユニット32に、一つ又はそれ以上のVCRが接続され得る。
追跡ユニット50のハードウェア構成が図2に概略的に示される。追跡ユニット50に電力を供給するため、電力線42は、電源40をコンバーター52に接続する。追跡ユニット50は、カメラ22からビデオ線44を介してビデオ・フィード(video feed)を受け取り、ビデオ線45は、ビデオ画像をヘッド・エンド・ユニット32に伝達するために利用される。図示された実施の形態において、ビデオ線44、45は同軸75オームの1Vp−pであり、追跡ユニット50に係合するためのBNCコネクタを含む。カメラ22により提供されるビデオ画像はアナログであり、NTSC又はPAL標準に従い得る。追跡ユニット50が不活性であるとき、即ちオフにされているとき、カメラ22からのビデオ画像は、アナログ・ビデオ線54により示されるように、追跡ユニット50を通過してヘッド・エンド・ユニット32に進む。MOSFETベースの回路はビデオ入力バッファ56を提供し、ビデオ・デコーダ58は画像の復号化を実行してデジタル化されたビデオ画像をプロセッサ60に送る。図示された実施の形態において、ビデオ入力は1Vp−pより大きくはなく、ビデオ信号が1Vp−pを超える場合には1Vp−pに落とされる。ビデオ処理は、以下により詳細に記載されるソフトウェアを動かすプロセッサ60により実行される。プロセッサ60は、Phillips Electronics North America社から入手可能な、プログラム可能なメディア・プロセッサであるTriMedia TM−1300であってもよい。始動時にプロセッサ60は、シリアルのEEPROM62からブートローダー・プログラムをロードする。ブート・プログラムは、次いで、実行のためにアプリケーション・コードをフラッシュ・メモリ64からSDRAM66にコピーする。図示された実施の形態において、フラッシュ・メモリ64は1メガ・バイトのメモリを提供し、SDRAM66は8メガ・バイトのメモリを提供する。フラッシュ・メモリ64からのアプリケーション・コードが始動時にSDRAM66にロードされるため、SDRAMにはビデオ・フレームを記憶するために約7メガ・バイトのメモリが残される。
図2に示すように、ビデオ・データ・バス及び12Cバスがプロセッサ60をビデオ・デコーダ58に接続し、12Cバスがプロセッサ60をEEPROM62に接続し、XIOバスがプロセッサ60をフラッシュ・メモリ64に接続し、SDRAMバスがプロセッサ60をSDRAM66に接続し、XIOバスがプロセッサ60をUART68に接続する。UART68は、シリアル通信及び汎用的な入出力に利用される。UART68は16キャラクタのFIFOバッファ、6ビットの入力ポート及び8ビットの出力ポートを有し、出力ポートは、小信号トランジスタの利用を介してステータスLED70、エラーLED72及び出力中継器74を駆動するために利用される。中継線49は、両端である単連中継器74とヘッド・エンド・ユニット32との状態を伝達する。RS−232レベル変換器76は、UART68とRS−232シリアル線48との通信を提供する。図示された実施の形態において、RS232線48及びそれにより伝達される通信の特徴は、3ワイヤ接続、19200ボー、8データ・ビット、パリティなし、1ストップ・ビット及びハンドシェイクなしである。
図示された実施の形態において、操作者により入力されて追跡ユニット50に伝達される唯一の命令は、オン/オフ命令である。ヘッド・ユニット34と追跡ユニット50との間におけるそのようなオン/オフ命令及び他のシリアル通信は、二相線46によりヘッド・ユニット34からカメラ22へ伝達され、RS−232線48によりカメラ22からヘッド・ユニット34に伝達される。図示された実施の形態において、追跡ユニット50は、シートメタル外被及び据付けられた近接カメラ22により提供される。代わりのハードウェア構成が、追跡ユニット50に利用され得る。そのようなハードウェアは、以下に記載されるソフトウェアが実行でき、最良の結果を得るために少なくとも毎秒約5フレームの処理が可能でなければならない。
追跡ユニット50は、いくつかの機能を実行する。追跡ユニット50は、ビデオ・デコーダー58を制御し、カメラ22により取得されたビデオ・フレームを記録し、カメラ動作による効果を取り除くために異なる時刻に撮られたビデオ・フレームを登録し、カメラ22のFOV内で動く目標物を検出するためにビデオ内容の分析を実行し、検出された目標物の相対的な方向、速度及び大きさを計算し、方向及び速度命令をカメラ22に送り、上記の機能に関連付けられた全てのシリアル通信を実行し、状態インジケータ70、72及び中継器74の動作を制御する。
システム20の動作は、以下により詳細に説明される。追跡ユニット50が最初に始動されるとき、第一のステップは、カメラ22を初期化する工程と、繰り返される画像をNTSC又はPALのCIF解像度の画像である24ビットYUVカラー画像で撮ることにより、人又は動く物体がカメラ22のFOVに入るのを待つようにカメラ22の位置を決める工程とを含む。代わりに、カメラ22は、初期化の後で監視領域の予め決められた「ツアー」を行い、カメラ22が監視領域を調査する際に人又は他の動く物体がカメラ22のFOVに入るのを見張り得る。参照のため、カメラ22により分析のために取得された二つの画像即ちフレームは、
1、I2
と符号付けられる。
例としての実施の形態において、カメラ22は、連続的に新しい画像を取得し、現在の画像と参照画像とを比較するためにプロセッサ60により実行される計算分析には、カメラ22による個々の画像の取得の間隔よりも長い時間がかかる。プロセッサ60は分析を終えると、分析のための新しい画像を取り込む。プロセッサ60により連続的に取り込まれる二つの画像の時間間隔は、図示された追跡ユニット50により一定と想定される。連続的に取り込まれる二つの画像の時間間隔はわずかに異なり得るが、変化は十分に小さいと考えられ、また、この想定により達成される処理効率はこの想定を正当化するのに十分なほど大きい。他に示されない限り、本明細書で利用されたように、連続する画像という用語は、カメラ22により連続的に取得される画像ではなく、分析のためにプロセッサ60により連続的に取り込まれる画像を指す。現在のI1及びI2画像のQCIF解像度のサブ・サンプル(即ち、NTSC又はPALのCIF解像度画像の4分の1の解像度を有する画像)が生成される。サブ・サンプルは隣接するピクセルをまとめ、まとめられたピクセルに対する平均値を決定する。サブ・サンプリング処理の目的は、動きの検出に費やされる時間を減らすことである。動きの検出処理の速度を更に上げるために、一次サブ・サンプルの二次サブ・サンプル(オリジナルのCIF解像度画像の16分の1の解像度を有することになる)もまた取得され得る。しかし、そのようなサブ・サンプリングは、画像の解像度を落とし、注目の対象である特徴及び目標を検出するシステムの能力を後退させる可能性がある。参照のため、サブ・サンプリングされたこれらの画像は、
1 1、I2 1、I1 2、I2 2
と符号付けられる。個々の画像について単一のサブ・サンプルのみが取得される場合、サブ・サンプルは、
1 1、I1 2
と符号付けられる。これらのサンプルは、代わりに、1112とも符号付けられる。
目標物の検出
当初、カメラは静止して、特定の位置の動く目標物を監視し得る。システム20は、プロセッサ60が新しいフレームを取り込む度に、最新の二つの画像間の画像の差異を計算することにより、動く目標物を探す。画像の差異は、個々の画像の関連付けられたピクセル間の差異の絶対値をとることにより計算される。画像I1及びI2が位置調整される場合、カメラ22は個々の画像を同じFOVで撮影するために、又は、画像のうちの一つが第二の画像にマップされるために、画像の差異Δは、
Δ=|I2-I1|
に従って計算される。
次いで、これらの差異のヒストグラムが計算される。二つの画像内に動く物体がある場合、ヒストグラムは通常、それに関連付けられた二つの頂点を有する。最も大きな頂点は、典型的にはゼロ周辺が中央になり、画像の変化のない領域に対応する。二番目に大きな頂点は、画像の明暗度の変化が大きくいピクセルを表わし、画像内の動きのある領域、即ち動く目標物に対応する。第二の頂点に関連付けられたピクセルは、オリジナルのガウス分布の外れ値と考えられ得る。図示された実施の形態において、それらは典型的に全体のピクセル数の50%以下を構成するため、二乗の最小メジアン法の予測技術を用いて検出される。
本発明において利用され得る、追跡のために目標物の手動による識別を提供する代わりの方法が、Trajkovicらにより、自動ビデオ追跡システムにおける目標の選択方法と題された米国特許出願公開第2002/0140813A1号により論じられ、該出願は参照により全文が本明細書に援用される。本発明において利用され得る、目標物の動きを検出する方法は、Trajkovicにより、画像位置整合による動き検出と題された米国特許出願公開第2002/0168091A1号において論じられており、該出願は参照により全文が本明細書に援用される。
注目点の識別
動きを検出した後、動く目標物の図心(centroid)に対応する注目点(POI)が識別される。任意の次数のソーベル演算子により畳み込みを計算することにより、ソーベル・エッジ検出マスクは水平及び垂直方向のエッジを探し、該情報を本技術分野において知られる単一の距離関数に結合する。より具体的には、個々のピクセルにおいてソーベルX演算子及びソーベルY演算子は、当該ピクセルのグラジエント値を生成するために利用される。それらはそれぞれgx及びgyと符号付けられる。次いで、エッジの強さが、
Figure 2007274703
により計算される。
動く目標物のエッジは大きなエッジの強さの値を持ち、これらの値は目標物のエッジを決定するために利用される。目標物又は動きの領域の図心は、動きが検出された領域のメジアン及びシグマ値を利用することにより発見される。注目点即ちPOIである図心は、フレーム及び(x(0),y(0))及びx(1)y(1))として記憶される画像位置座標において発見される。
3つの関連する座標系は、POIの位置、図1に示される座標系21に対応する実世界におけるPOIの座標(X、Y、Z)、POIの画像投射座標(x、y)、及びカメラのパン角、カメラのティルト角及びPOIへの直線距離に対応するPOIのカメラ座標(α、β、k)を記述するために利用され得る。二つの画像により取得されたPOIの二つの位置は、二つのフレームの間の期間におけるPOIの相対速度だけではなく、両フレームにおけるPOIの3次元での位置の決定を可能とする。画像内の二次元位置の形による動く人物又は目標物の単純化された表示が、この決定処理において利用される。
追跡ユニット50は、個々の画像に対して同一のパン、ティルト及び焦点距離設定を持つカメラにより撮影されるべきPOIの移動を決定するために利用される二つの画像を必要としない。代わりに、追跡ユニット50は、画像のうちの一つを他の画像とマッピング又は位置調整し、POIの移動の相対的な速度及び方向を決定する。POIの移動速度及び方向を決定する二つの代わりの方法が以下に記載される。以下に記載される第一の方法は、回転マトリックスRの利用を含み、第二の方法は、分析される二つの画像のそれぞれにおいて見られる共通の静的な特徴を突き合わせ又は位置調整することにより決定されるホモグラフィ・マトリックスを用いる。
回転マトリックス法
カメラ22がパン角α及びティルト角βによりそれぞれ決定された方向を指している場合、これらの角度により決定される回転マトリックスRは、以下の数式により与えられる。即ち、
Figure 2007274703
である。画像投射座標(x、y)を有する任意の位置について、任意の点Pのワールド座標PWとカメラ座標Pcとの関係は、
Pw=RPc
により与えられ、ワールド座標と画像投射座標(x、y)との関係は、
Figure 2007274703
により与えられる。
ただし、fはカメラの焦点距離であり、(x、y)はPOIの現在の画像投射座標であり、(x0、y0)はPOIの以前の画像投射座標である。上記の数式を利用すると、
Figure 2007274703
となる。
目標物が平均的な身長の人であると想定すると、身長は一定であると考えられ(即ち、Z(0)=Zは一定である)、数式(3a)及び(3b)は、容易に解くことができる二つの未知数(X(0)、Y(0))を有する線形系を表わす。第二の画像におけるPOIの位置(X(1)、Y(1))は、同様の方法で計算され得、目標物のx及びy方向への実世界の速度であるX’及びY’は、それぞれ、
X'=X(1)-X(0) (3c)
Y'=Y(1)-Y(0) (3d)
により求められ得る。
数式(3c)及び(3d)により得られるX’及びY’の値は、文字どおり距離であるが、プロセッサ60により取り込まれる連続する画像の時間間隔は、上記に論じられたように実質的に一定であり、従って、そのような一定の時間間隔の間に目標物により移動される距離は、目標物の速度に直接的に比例し、二つの画像の取得の間の期間における目標物の平均速度の代わりに利用され得る。速度値の符号は、POIの動きの方向を示す。代わりの実施の形態においては、実際の速度が計算されてもよく、及び/又は、より変化のある時間間隔において取得される画像が利用されてもよい。POIの移動速度及び方向の知識を用いて、目標物をカメラ22のFOVの中心に置きつづけるために、カメラ22のパン速度及びティルト速度が制御され得る。
一つの実施の形態において、カメラ制御は、また、カメラ22と目標物の図心即ちPOIとの計算された距離に基づいて焦点距離を調節する工程を含む。目的の焦点距離は、POIとカメラとの距離に比例すると考えられ、この距離即ちD(k)は、
Figure 2007274703
により求められる。ただし、Pw(k)はワールド座標系における当該点の三次元での位置を表わし、X(k)は、実世界におけるカメラの焦点からPOIまでのX方向の距離であり、Y(k)は、実世界におけるカメラの焦点からPOIまでのY方向の距離であり、Zはカメラの現在の焦点距離、即ち現在のズーム設定により決定されたカメラと焦点面との間の距離である。この距離を、以下の数式、即ち、
D(k)=cf(k)
を利用することにより焦点距離ユニットとして表わされるように保つことが望ましい。ただし、f(k)は時刻ステップkにおけるカメラの焦点距離であり、cは定数である。個々の時刻ステップにおける焦点距離は、以下の数式、即ち、
Figure 2007274703
を利用することにより計算される。POIの現在の画像投射は、(xc、yc)により与えられ、以下の数式、即ち、
Figure 2007274703
に適用される。ただし、Xc、Yc及びZcはPOIの現在の実際のワールド座標であり、xcn及びycnは、それぞれ、画像の中心とPOIの現在の画像座標との間の水平又は垂直の距離である。
カメラ22の所望の又は目的の位置に到達するため、カメラをパン軸又はティルト軸について回転させることも必要である。数式2により与えられる回転マトリックスは、以下の数式、即ち、
Figure 2007274703
により所望の位置を計算するために用いられ得る。ただし、xd及びydはPOIの目的の画像座標である。又は、同様に以下の数式、即ち、
Figure 2007274703
が利用される。ただし、xdn及びydnはそれぞれ、二地点(x0、y0)及び(xd、yd)を分離する水平及び垂直の距離である。数式(4)と数式(5)を結合すると、以下の数式、即ち、
Figure 2007274703
が得られる。展開すると、この数式は以下のように表わされる。即ち、
Figure 2007274703
である。ただし、xcn及びycnは、xdn及びydnに相当するカメラ座標である。回転角は、この数式を反復して解くことにより得ることができる。この処理により決定された角度は、先に分析された二つの連続する画像I1及びI2の間の目標物の動きを表わす。上記に論じられたように、そのような二つの連続する画像の時間間隔は実質的に一定の値であり、従って、この処理により決定された角度は、二つの画像の取得の時間間隔における目標物の速度の関数である目標値である。決定された角度は、また、目標物のカメラに対するオリジナルの位置、物体の加速度及びカメラの以前の方向の関数でもある。
ホモグラフィ・マトリックス法
目標物を追跡するためのカメラ22の制御に利用され得る値であって目標物の属性を表わす目標値を決定する代わりの方法は、画像I1及びI2のコーナーを検出する工程を含む。コーナーは、近接する地点と大きく異なる強さを有する画像上の地点である。二つの画像からそのようなコーナーを識別し突き合わせる様々な方法が、本技術分野において知られている。
そのような既知のコーナー検出方法の一つは、MIC(最小強度変化)コーナー検出法である。MICコーナー検出法は、所与のピクセル位置におけるコーナー強度に対する数値を与えるコーナー応答関数(CRF)を利用する。CRFは画像全体について計算され、コーナーはCRFがローカルの最大に達する地点として検出される。CRFは以下の数式、即ち、
R=min(rA,rB)
を用いて計算される。ただし、RはCRF値であり、rAは水平方向の強度の変数であり、rBは垂直方向の強度の変数である。MIC法は、三つのステップの処理を用いる。第一のステップは、低解像度画像の個々のピクセルに対するCRFを計算する工程を含む。第一のしきい値T1以上のCRFを有するピクセルは、コーナーの可能性があるものとして識別される。この最初のステップは、画像の大幅な領域を、コーナーが無いものとして効率的に除外する。低解像度の画像では、CRFの計算を必要とするピクセル数が限定されるからである。第二のステップは、完全な解像度の画像を用いてコーナーの可能性のあるピクセルについてCRFを計算する工程を含む。結果としてのCRFが第二のしきい値T2より小さい場合、当該ピクセルはコーナーではない。第二のしきい値T2を満たすCRFを有するピクセルについて、当該ピクセルの強度の変数を決定するために、もう一つのピクセル間の近似値が計算され、例えばT2であるしきい値と比較され得る。結果がしきい値以下である場合、当該ピクセルはコーナーではない。第三のステップは、ローカルで最大のCRF値を有するピクセルの位置を特定し、コーナーとして標識付ける工程を含む。比較的高いがローカルの最大値ではないCRF値を有する近隣のピクセルは、コーナーとして標識付けられない。画像I1及びI2それぞれの検出されたコーナーのリストであるPCL1及びPCL2は、まとめられ、比較される。二つの画像におけるコーナーは、本技術分野において知られる標本相互相関(NCC)係数のような相似測定を用いて比較/突合せされる。
カメラ22が二つの画像I1及びI2の取得の間で調整される場合、最近に取得された画像内の目標物を検出するために、背景が変わらず、背景に比べて動きを示す唯一の物体が検出されるよう画像を位置調整することが必要である。カメラ22の調整は、パン動作、ティルト動作又はカメラ22の焦点距離の調整の形をとり得る。画像内の個々のピクセルの位置を修正するために、幾何学変換が用いられ得る。別の考え方としては、ある位置から新しい位置への全てのピクセルの移動が、カメラの動作に基づく。そのような、カメラが二つの画像の取得の間で調整される場合に第一の画像を第二の画像と位置調整させるように変換する方法の一つは、Trajkovicにより、パン・ティルト・ズーム・カメラによる移動に基づく追跡と題された米国特許出願公開第2002/0167537A1号により論じられており、該出願は参照により全文が本明細書に援用される。
連続する画像の位置調整は、前の画像と位置調整するために、一つの画像の移動、拡大縮小及び回転を必要とする。これらの三つの操作のうち、移動が最も単純である。更なる処理が実行される前に、ある画像を標準的な大きさに縮小、拡大又は修正するために、個々のピクセルが一般的なユーザー固有の変換をさせられる処理であるワープが必要であり得る。そのような幾何学的操作により生成された画像は、オリジナルの画像の近似である。現在の画像I1及び参照画像I2という二つの画像のマッピングは、以下の数式、即ち、
p'=sQRQ-1p=Mp (6)
により決定される。ただし、p及びp’は第一及び第二の画像の同じワールド点のホモグラフィ画像座標を示し、sは拡大縮小画像(カメラの焦点距離に対応する)を示し、Qは内部のカメラ校正マトリックスであり、Rは二つのカメラ位置間の回転マトリックスである。
代わりに、二つの連続する画像における固定されたワールド点の画像投射座標p及びp’、即ちピクセル位置(x、y)及び(x’、y’)の関係は、
Figure 2007274703
と表わされ得る。ただし、[mij]3×3は、第一の画像を第二の画像にマッピング(位置調整)するホモグラフィ・マトリックスMである。
従って、画像の位置調整の主な問題は、マトリックスMを決定することである。s、Q及びRが与えられれば、数式(6)からマトリックスMを決定することは、理論的に容易である。しかし、実際には、一般に、s、Q及びRの正確な値は知られない。数式(6)は、カメラの中心と回転の中心が同じであると想定しており、それは、典型的には、近似的にのみ正しい。加えて、カメラ設定の正確な値、即ち、Rを決定するためのパン値及びティルト値及びsを決定するためのズーム値を取り出すため、カメラは止まらなければならないが、それにより不自然な動きが生まれ、カメラ設定を取り出すシステムによっては、かなりの長さの時間がかかり得る。
本発明の例としての実施の形態は、カメラの位置及び校正に関する情報を得る必要性を回避するために、数式(7a)及び(7b)を用いて位置調整マトリックスMを画像から直接計算する。二つの画像間での点の突合せは、まず二つの画像I1及びI2のQCIFによるサブ・サンプルI1 1及びI1 2を得ることにより実行される。
より解像度の低い一組の画像であるI1 1、I2 1、I1 2、I2 2を提供するために、サブ・サンプル画像の更なるQCIFのサブ・サンプルをとることも可能である。次いで、上記のMICコーナー検出器を利用して、低解像度の画像においてコーナーが見出だされる。次に、低解像度の画像における複数の対応する座標(x、y)及び(x’、y’)に基づいて、ホモグラフィ・マトリックスが計算される。コーナーの突合せは、より高い解像度の画像において、低解像度の画像を用いて計算されたホモグラフィ・マトリックスにより予測された位置の周辺の最良のコーナーを発見することにより実行される。本技術分野において知られるRANSACアルゴリズムのような強固な方法が、より高い解像度の画像において、画像内の動く物体に対応しそうな「外れ値」のコーナー点を識別するために利用され得る。ホモグラフィ・マトリックスの計算において動く点を用いることにより持ち込まれ得るバイアスを避けるために、RANSACアルゴリズムにより識別された「外れ値」のコーナー点は、高解像度の画像を用いたホモグラフィ・マトリックスの計算においては利用されない。RANSACアルゴリズムを用いて「外れ値」のコーナーを取り除いた後、より高い解像度の画像がホモグラフィ・マトリックスMを計算するために利用される。
次いで、一つの画像を第二の画像と位置調整させるための画像の移転、回転及び拡大縮小が実行され得る。移転とは、x又はy方向へピクセルを数ピクセル動かすことである。正の移転は、行又は列の指数を増やす方向へのものであり、負の移転はその逆である。正方向への移転は、要求された増加が達成されるまで、画像の上又は左に行又は列を追加する。画像の回転は、動きの中心として定義された基点について実行され、角度として特定される。画像の拡大縮小は、特定の係数により画像を大きく又は小さくすることを意味する。以下の数式(7a)及び(7b)の概算は、上記のような移転、回転及び拡大縮小を表わすために利用される。即ち、
Figure 2007274703
である。ただし、sは拡大縮小(ズーム)係数である。αは基点に対する回転角度であり、txはx方向への移転であり、tyはy方向への移転である。a1=s cos α及びa2=s sin αである別の新しい変数を持ち込むことにより、数式(8)は、
Figure 2007274703
となる。a1、a2、tx及びtyを決定した後、二つの画像I1及びI2は位置調整され、目標物の動きの速度及び方向の決定が完了され得る。
滑らかなカメラの動きを作り出すため、カメラ22は、カメラ22が常に動き続けることを可能とするような方法で制御される。POIが視野の中心より左側にある場合、プロセッサ60は、カメラ22を特定のパン速度即ち調整速度で左にパンさせる命令を、カメラ22に伝達する。パン速度は、画像の中心からPOIまでの距離により決定される。選択されたパン速度と最近取得された画像の中心からPOIまでの水平即ちx方向の距離との間には、線形の関係がある。同様に、カメラ22のティルトの速度及び方向は、POIと最近取得された画像の中心との垂直方向の距離、即ちy方向の距離により決定される。カメラから目標物までの距離を補償するために、比例係数も適用される。
カメラから目標物までの距離も、所望のパン速度に影響する。所与の速度でx方向に移動する目標物について、物体がカメラから遠ければ遠いほど、物体を追跡するために、パン角はより遅い速度で調整されなければならない。カメラから目標物までの距離は、また、カメラのティルト及び焦点距離の所望の値に影響する。全ての目標物が共通の高さであり、目標物がパン平面と平行な平面上を移動すると想定すると、目標物を画像の中止に置くティルト角は、カメラからの当該物体への距離により決定される。同様に、目標物を所望の画像の高さに保つために、全ての目標物が同じ高さであると想定すると、カメラの所望の焦点距離は、カメラからの目標物への距離により決定される。
例としての実施の形態において、カメラ22のパン速度及びティルト速度は、以下の数式により決定される。即ち、
Xvel=(xdelta/xhigh)*sin(ティルト角)
Yvel=(ydelta/yhigh)*sin(ティルト角)
である。ただし、Xvelはパン角が調整される速度又は速さであり、Yvelはティルト角が調整される速度又は速さであり、xdeltaはPOIと画像の中心とのx方向の距離であり、ydeltaはPOIと画像の中心とのy方向の距離であり、xhigh及びyhighは正規化係数であり、sin(ティルト角)は、カメラの(水平面について測定された)ティルト角のサイン値であって、カメラから目標物までの距離を補償するために利用される比例係数を提供する。結果としての値Xvel及びYvelは、上記のように、画像の中心からPOIへの距離及びカメラから対象物までの距離を用いて計算され、画像の中心からPOIへの距離は、一定の時刻値における目標物の動きに関連する。従って、値Xvel及びYvelは目標物のいくつかの属性、即ち、実世界におけるカメラに対する位置、及び、目標物の速度及び加速度の関数であるFOV内の目標物の図心の位置の関数であり、従って、値Xvel及びYvelもまた、目標物の速度及び加速度の関数である。
カメラから目標物までの距離の関数である比例係数は、選択されたパン及びティルト調整速度を調整するために利用される。この距離は、カメラのパン及びティルトの調整の労力に影響を与えるからである。カメラのパン動作について、例えば目標物がカメラから離れている場合、目標物のx方向への動きを追跡し、対象を画像の中心に置いておくために、ごくわずかなパン動作のみが求められる。目標物がカメラにより近い場合、目標物が同じ速度でx方向に移動するとすると、目標物を追跡するために、カメラはより早くパンする必要がある。同様に、対象が同じ速度で移動するより場合、カメラにより近い対象を追跡するためには、より遠くの対象を追跡するよりも速いティルト速度が要求される。
加えて、焦点距離の調整の速度及び方向、即ち、カメラ22をいかに速くズームするか及びズームするべきか否かが、カメラから目標物までの距離を用いて決定される。異なる縮尺を有する、即ち異なる焦点距離で取得された二つの画像を位置調整するための上記の処理は、追跡中又は比較される画像を取得するためにカメラが一定のズーム又は焦点距離値を保つことを要求する代わりに、システム20が動的なズームを利用すること、即ち、目標物の追跡中にカメラ22の焦点距離を調整することを可能とする。例としての実施の形態において、目標物のサイズが予め決められたしきい値、例えば視野の10%より大きい場合に、最も大きな検出された物体が目標物として選択される。目標物の追跡が始まると、カメラ22の焦点距離は、目標物を視野の10〜70%に保つように試みる方法で調整される。対象の追跡は、物体のサイズがこの範囲から外れる場合に停止され得る。カメラ22の焦点距離は、目標物のサイズを比較的一定に、例えば視野の20%に保つことをを目的に、カメラから目標物までの距離を補償するように調整され、それにより目標物の監視が促進される。
より詳細には、まず以下のように目標物とカメラとの間の目標距離を予測することにより、所望の焦点距離が決定される。即ち、
目標距離=カメラの高さ/Sin(ティルト角)
である。ただし、ティルト角は水平面に関して決定される。カメラ22は既知の高さで据付けられ、この高さはシステム20の設置期間に追跡ユニット50に入力される。次に、解像度が限定されたFOV幅(R−L FOV幅)が計算される。即ち、
R−L FOV幅=有効ピクセル数/侵入者を識別するために要求される解像度線数
である。ただし、有効ピクセル数は、NTSCビデオ画像では768(H)、PALビデオ画像では752(H)であり、侵入者を識別するための解像度線数は、1フィート当りの解像度線数で表わすと、例としての実施の形態においては、例えば1フィート当り16本である。次いで、目標物の追跡を続けるために十分な解像度線数を提供する所望の焦点距離が計算される。即ち、
所望の焦点距離=フォーマット*目標距離(ft)/R−L FOV幅
である。ただし、フォーマットは、カメラにより用いられるCCD(電荷結合素子)のmm単位での水平方向の幅であり、例えばカメラ22では3.6mmである。図示された実施の形態において、カメラ22は、所望の焦点距離値に焦点距離を変えることにより焦点距離設定を調整するように指示される。カメラ22の焦点距離調節は、焦点距離の二地点間調整である。しかし、代わりの実施の形態においては、カメラ22は、単に所与のズーム設定に移るよう命令されるだけではなく、パン及びティルトの調整が為されたのと同様の方法で、現在の焦点距離と所望の焦点距離との差異に基づいて選択された調整速度で動くように命令され得る。カメラ22は、次いで、プロセッサ60が焦点距離調整の速度又は方向を変化させる第二の命令を伝達するまで、特定の速度(及び選択された方向、即ち、カメラの焦点距離を伸ばす又は縮める方向で)で焦点距離を調整し続ける。そのような第二の命令は、変化の速度を、一定の焦点距離値に対応する0へ変え得る。
要約すると、ビデオ内容分析アルゴリズムは、以下の機能を実行する。即ち、
・追跡器の初期化:カメラの位置を決め、動く目標物がカメラのFOVに入るのを待つように追跡器を初期化する。
・背景減算:背景を減算し動く目標物を検出するように画像を比較する。
・コーナー検出及び突き合わせ:画像取得の間のカメラ位置の変更を予測するために、背景のコーナー特徴を識別し突き合わせる。
・ワープ:異なる視野により撮られた画像を位置調整し、画像内の動く目標物を検出するために、画像を幾何学的にゆがませる。
・部分の位置特定及び抽出:目標物に対応する画像部分の位置特定及び抽出を含めて、個々の新しいフレームにおける目標物の位置を特定する。
・注目点(POI)計算:目標物及びその図心の単純化された表示を、画像の二次元のフレームワーク内に位置付ける。
・PTZカメラの調整速度の計算:カメラのパン、ティルト及び焦点距離調整速度を決定し、カメラに命令を伝達する。
図3は、上記のシステム20により用いられるビデオ内容分析アルゴリズムの一般的なロジックを描画的に図示するフローチャートを提供し、該システムは、目標物を識別し追跡するために、回転マトリックス手法の代わりにホモグラフィ・マトリックス手法を利用する。図3に示されるように、追跡ユニット50をオンにした後、EEPROM62からブートローダー・プログラムをロードし、フラッシュ・メモリ64からSDRAM66へ実行のためにアプリケーション・コードをコピーすることにより、追跡ユニットはステップ80において初期化される。ブロック82はSDRAM66の残りのメモリを表わし、該メモリは、プロセッサ60により処理されるビデオ画像フレームの記憶のためのリング・バッファとして利用可能である。決定ブロック84において、プロセッサ60は、第一のフラグが真であるか否かを決定する。第一のフラグは、カメラ22からの画像がプロセッサ60による分析のためにSDRAM66にロードされていない場合にのみ、真である。従って、追跡ユニット60はオンにされると、最初に時刻決定ブロック84に出会い、第一のフラグが真にされ、プロセッサ60はブロック86に進む。ブロック86は、プロセッサ60が二つの画像を取り込むことを表わす。プロセッサ60は、次に、二つの画像それぞれに対するカメラ22の現在のティルト値が、目的焦点距離を計算する後の利用のためにカメラ22の内部のコントローラーから得られるブロック88に進む。
次に、ブロック90は、最近取り込まれた二つの画像のサブ・サンプルをとる工程を表わす。ブロック92において、画像内に動く物体が有るか否かを決定するために、二つのサブ・サンプル化された画像の差異が計算される(動く物体が発見される場合、ユニット50の侵入者追跡機能が利用される、即ちITEトリガーである)。画像内に動く物体がある場合、ブロック94において、動く目標物の図心の位置が決定される。次いで、ブロック96において、サブサンプル化された画像内のコーナー特徴を検出し、そのようなコーナーのリストを作成するために、コーナー検出方法が利用される。次に、ブロック98において、画像I1及びI2に対するデータが入れ替えられる。画像データの入れ替えは、ステップ100〜104において要求される計算が完了した後、新しい画像が取り込まれてバッファの中に置かれる際に、新しい画像及びそれに関連付けられたデータが、バッファ内に既に存在する二つの画像のうち古いほうの画像に関連付けられた画像及びデータを上書きするように実行される。ブロック94においてサブ・サンプル画像を用いてPOIが決定されている場合、ブロック100において、最も高い解像度の画像を用いてPOIが計算される。次いで、ブロック102において、目的又は所望の焦点距離が計算される。パン速度Xvel及びティルト速度Yvelは、ブロック104において計算される。次に、ブロック106において、プロセッサ60はカメラ22に、焦点距離を所望の焦点距離に調整し、Xvelの大きさ及び符号に対応する調整速度及び方向でパンし、Yvelの大きさ及び符号に対応する調整速度及び方向でティルトする命令を伝達する。
次に、処理は、第一のフラグがもはや真ではないブロック84に戻り、単一の新しい画像が取り込まれてバッファ内の画像I2を上書きするブロック108に進む。ブロック110において、所望の焦点距離を後で計算するために、新しい画像I2に対するカメラ22のティルト値が、カメラ22の内部コントローラーから得られる。その後、ブロック112において新しい画像がサブ・サンプル化され、ブロック114において、サブ・サンプル化された画像のコーナーが検出され、そのようなコーナーのリストが作られる。上記のワープ及び位置調整の処理はブロック116で実行され、画像I1及びI2が位置調整される。ブロック118において、二つの位置調整させられた画像の差異が計算され、画像に動く物体が含まれるか否かが決定される。画像内に動く目標物がある場合、ブロック120において目標物の図心が決定される。ブロック122において、画像I1及びI2及びそれらに関連付けられたデータが、ブロック98に関して上に記されたように入れ替えられる。ブロック124において、検出された目標物のサイズ即ちBlob_Sizeがしきい値と比較され、目標物が十分に大きくない場合、又は、目標物が画像内に見つからない場合、処理はブロック84に戻る。目標物がしきい値サイズより大きい場合、処理は、上記に説明されたようにカメラ22の調整パラメータが決定され、カメラ22に伝達されるブロック100からブロック106へと続く。
図示された実施の形態において、カメラ22は、異なる特定の速度、即ち選択的に可変な調整速度でパン及びティルトし得、プロセッサ60がカメラ22に命令を伝達する際、プロセッサ60はカメラ22が選択された方向に選択された速度でパンし、選択された方向に選択された速度でティルトし、焦点距離を所望の焦点距離に変更するように指令する。この第一の命令を受け取った後、カメラ22は、第二の命令、即ち、新しく選択された方向に新しく選択された速度でパンし、新しく選択された方向に新しく選択された速度でティルトし、焦点距離を新しい所望の焦点距離に変更するよう指示する命令を受け取るまで、特定の焦点距離に移り、特定の方向に特定の速度でパン及びティルトすることにより調整する。カメラ22が限定されたパン範囲又はティルト範囲を有しており、パンとティルトの限界に到達する場合、カメラ22のパン及びティルトは、第二の命令を受け取る前に終わり得る。カメラ22に新しいパン方向及びティルト方向へ動いて止まるよう指令する代わりに、選択された方向へ選択された速度でパン及びティルトするように指令することにより、カメラ22は、目標物の追跡期間に、調整命令の受信と実行とを分離する固定した間隔なしに連続的に調整され得、それにより、比較的滑らかに遷移する動きを有するビデオ画像のストリームを提供し得る。
従って、システム20の運転中に、プロセッサ60は、全て異なるFOVを記録し得る一連の画像を連続的に分析し得る。プロセッサ60が画像を分析し、目標物を追跡するためにカメラ22を繰り返し調整するため、一連の画像は、プロセッサ60により連続的に分析される3つの画像、即ち、個々の画像が異なるFOVを記録する第一、第二及び第三の画像を含み得る。プロセッサ60は、より早い画像に基づいてカメラ22に以前の命令を伝達し、カメラ22はこの第一の命令に従って調整される。カメラ22は、第一及び第二の画像を分析し、第一及び第二の画像の分析がカメラ22への第二の命令を生じ、カメラ22は、この第二の命令に従って調整される。カメラ22は、第二及び第三の画像を分析して、カメラ22への次の調整命令を計画する。上記のように、カメラ22は、第二の命令を受け取るまで、第一の命令に従ってパン及びティルトし続ける。こうしてカメラ22は、共通のFOVを有する画像の取得のために固定した間隔を必要としたり、調整命令の実行を分離しなりすることなく、異なる視野を有する一連の画像を取得しながら連続的に調整され得る。
上記のビデオ内容分析アルゴリズムは、カメラ22が既知の高さに据付けられ、監視領域及び目標物がいくつかの特徴に従う場合に最もよく機能することを想定する。最良の結果を得るためには、目標は画像の高さの30%から70%であり、高さ対幅の割合が5:1以下であり、一定の速度で取得されたフレーム間を画像の幅の25%以下ずつ移動しなければならない。システム20は、同時に一つだけの動く目標を追跡する。FOV内に複数の目標がある場合、システム20は、最も大きい目標が次に大きな目標より20%大きければ、最も大きい目標を選択する。最も大きな目標が次に大きな目標より少なくとも20%大きくない場合、システム20は目標を無作為に変え得る。動く物体を区別するために、目標物のカラー・ヒストグラム分析のような代わりの目標物識別方法も利用され得る。注目の領域が周りの環境の平均的な強さの1標準偏差以内であることが最も望ましい。最良の結果は、また、目標動作の平面がパン平面と平行である場合に得られる。システム20は、「コーナー」を検出し続いて起こる画像を登録するために背景の特徴を利用するため、過度に特徴のない環境や、目標がFOVの大部分を占めてそのようなコーナー特徴を覆い隠してしまう場合には、失敗し得る。これらの想定及び特徴からの逸脱は、システム20の動作にとって必ずしも致命的ではなく、システム20の性能を落とすだけでもあり得る。図示された実施の形態に関するこれらの想定は、人間がいるとは考えられない限定された領域に関するビデオ監視アプリケーションの大きなサブセットをカバーする。本技術分野における通常の技能を有する者にとっては、図示されたシステム20を、これらの想定及び特徴に必ずしも限定されない更なる状況をカバーするように適応することも可能である。
図4に示されるように、追跡ユニット50は、1)追跡器オフ、2)目標探索中、3)目標追跡中という三つの主な状態を有する。追跡ユニット50は、キーボード34やジョイスティック36のような入力装置から命令を入力する操作者によりオン又はオフにされる。オン/オフ命令は、二軸ケーブル46を介してカメラ22に送られ、RS−232線を介して追跡ユニット50に送られる。追跡ユニット50は、現在の状態をLEDインジケータ70、72及び中継器74に伝達する。例えば、LED70はユニット50がオンである場合に点灯し、ユニット50が目標物を追跡している場合に点滅する。ユニット50が目標物を追跡している場合、中継器74はこの情報を中継線49を介してヘッド・エンド・ユニット34に伝達する。LED72は、ユニット50がオンであるが、ビデオ信号の損失などのエラーがあった場合に点灯する。
例としての実施の形態において、追跡ユニット50がオン即ち目標の探索中又は目標の追跡中であって、より重要度が高い活動が始動された場合、追跡ユニット50はオフ又は不活性になる。より重要度が高い活動が終わって休止時間が経過した後、即ちより重要度が高い活動がタイム・アウトした後に、追跡ユニット50は再びオンになり目標を探し始める。
Figure 2007274703
代わりの実施の形態において、追跡ユニットは、操作者及び/又はカメラが始動したカメラの運動期間にカメラ22の制御を放棄し、目標物を検出するためにカメラ22により取得された画像の分析を続ける。カメラが操作者又は分離したコントローラーに制御されている間に、目標物の検出の検出を続けることが可能である。なぜなら、追跡ユニット50は、目標物を検出するために利用される画像がカメラが静止している間に取得されることや、個々の画像が同じ視野を有することを必要としないからである。
追跡ユニット50は、目標物を検出すると、目標物の位置が特定できなくなるまで、例えば、目標物がカメラ22から見える領域を離れたり、FOV内の他の物体により一時的に隠されたりするまで、目標物を連続的に追跡する。ユニット50は、最初に目標物を失うと、再捕捉サブルーチンに入る。目標物が再度捕捉されると、追跡ユニットは目標物の追跡を続ける。再捕捉サブルーチンの完了までに目標物が発見されない場合、追跡ユニット50は状態を目標探索中に変え、カメラ位置の制御はカメラ・コントローラー又は操作者に戻る。再捕捉サブルーチンは、図5のフローチャートにより描画的に示される。再捕捉モードにおいて、追跡ユニット50はまずカメラを約10秒間、目標が追跡された最後の位置に保つ。対象が再捕捉されない場合、カメラは、カメラの最大ズームイン能力が100%に相当し、ズームなし(即ち、拡大効果なし)が0%に相当する場合に、離散した
増分でズーム・アウトする。より詳細には、カメラは20%ズームアウトして、新しいFOVにおいて約10秒間、目標を探索する。カメラは、目標が再捕捉されるか、又は、カメラが最小ズーム(0%)設定に到達するまで、10秒間隔で20%ずつズームアウトし続ける。最小ズーム設定で10秒間過ぎた後に目標物が再捕捉されていない場合、追跡ユニット50の状態は「目標探索中」に変わり、カメラ22の位置は予め決められた位置又は「ツアー」に戻り、カメラの位置制御は操作者又はカメラ22内に埋め込まれたコントローラーに戻る。
上記のように、システム20は、標準的なPTZカメラからビデオ及びカメラ制御情報を得る汎用ビデオ処理プラットフォームを利用する。この構成及び標準的なPTZカメラの使用は、追跡ユニット50を設置し、追跡ユニット50を既存のPTZカメラに結合することにより、PTZカメラが組み込まれた既存設備の改装及び更新を可能とする。一つ又はそれ以上の追跡ユニット50を加えることにより更新され得るシステムは、Sergeantらにより、米国特許第5,517,236号において論じられ、該特許は参照により全文が本明細書に援用される。シートメタル外被を有する追跡ユニット50を提供することにより、ソースであるビデオの画像処理を用いてPTZ制御を提供するための、PTZカメラの上又は付近への追跡ユニット50の据付けが容易になる。それにより、システム20は、パーソナル・コンピュータ・ベースの追跡システムを要求しないスタンド・アロンの組み込み型プラットフォームを提供する。
本発明は、ビデオ監視能力を有することが望ましい多くの環境において利用され得る。例えば、システム20は、製造及び工場設備を監視し、立ち入り禁止区域に入る人間を追跡するために利用され得る。表示装置38及び入力装置34、36を備えるヘッド・エンド・ユニット32は、例えば同じビル内の他の場所にある警備室などの、カメラ22により監視される領域から離れた地点に設置され得る。システム20は目標物を自動検出する方法を含むが、例えばジョイスティック35の操作のような操作者による目標物の手動選択も、本発明において利用され得る。目標物の手動選択の後、システム20は目標物を、自動識別された目標物について上に記載されたように追跡する。
本発明は、例としての設計を有するものとして記載されたが、本発明は、本明細書の趣旨及び範囲内で更に修正され得る。従って、この適用は、本発明の一般的な原理を用いる本発明の任意の変更、利用又は適用を包含することを意図する。
図1は、本発明に係るビデオ監視システムの概略図である。 図2は、自動追跡ユニットの概略図である。 図3は、ビデオ監視システムの動作を表わすフローチャートである。 図4は、追跡ユニットの様々な状態レベルを表わすフローチャートである。 図5は、目標物が見失われた際に用いられる再捕捉サブルーチンを表わすフローチャートである。
符号の説明
20 ビデオ監視システム、22 カメラ、23 レンズ、24 カバー、32 ヘッド・エンド・ユニット、34 キーボード、36 ジョイスティック、38 表示装置、

Claims (53)

  1. ビデオ追跡システムであって、
    視野を有し、選択的に調整可能であり、前記の調整が前記視野を変化させるビデオカメラと、
    前記カメラに動作可能に結合される少なくとも一つのプロセッサと、
    を具備し、
    前記プロセッサが、前記カメラにより取得されたビデオ画像を自動的に且つ連続的に受け取り、前記カメラを連続的に且つ選択的に調整し、
    前記プロセッサが、前記ビデオ画像内の動く目標物を検出し、前記目標物の属性の関数である目標値を予測するようにプログラムされ、
    前記プロセッサが、前記カメラを選択された速度で調整し、前記選択された調整速度が前記目標値の関数であり、
    第一の処理サイクルの完了後に、前記プロセッサが自動的に画像を受け取って処理し、前記の処理が、取得された画像間の比較によって実施されるシステム。
  2. 請求項1記載のビデオ追跡システムであって、前記カメラが、前記カメラのパン方向及び前記カメラのティルト方向のうちの少なくとも一つを調整する際に、可変の速度において選択的に調整可能であるシステム。
  3. 請求項1記載の追跡システムであって、前記カメラの選択的調整が、x軸を決定する前記カメラの選択的なパン動作、y軸を決定する前記カメラの選択的なティルト動作、及び、z軸を決定する前記カメラの選択的な焦点距離調整を含み、前記x、y及びz軸が互いに垂直に向けられるシステム。
  4. 請求項3記載の追跡システムであって、前記プロセッサが前記カメラを選択されたパン速度で調整し、前記選択されたパン速度が、前記x軸に沿った前記目標物の速度の関数であり、前記プロセッサが前記カメラを選択されたティルト速度で調整し、前記選択されたティルト速度が、前記y軸に沿った前記目標物の速度の関数であるシステム。
  5. 請求項1記載の追跡システムであって、前記プロセッサが、第一の画像及び第二の画像に基づいて前記目標値を予測するようにプログラムされ、前記第一の画像が、第一の視野を区画するように調整された前記カメラにより取得され、前記第二の画像が、第二の視野を区画するように調整された前記カメラにより取得されるシステム。
  6. 請求項5記載の追跡システムであって、前記第一及び第二の視野が部分的に重なり、前記選択された調整速度の前記プロセッサによる決定が、前記第一及び第二の画のそれぞれに現れる少なくとも一つの共通の特徴を識別し位置調整することを含むシステム。
  7. 請求項5記載の追跡システムであって、前記プロセッサが第二の調整速度を選択し、前記第二の調整速度を前記カメラに伝達するまで、前記カメラが、第一の選択された調整速度で調整されるシステム。
  8. 請求項7記載の追跡システムであって、前記カメラが前記の選択された調整速度で調整される際に前記カメラが第三の視野を区画し、前記第三の視野を区画する際に前記カメラにより第三の画像が取得されるシステムであって、前記第一、第二及び第三の画像が前記プロセッサにより連続的に分析されるシステム。
  9. 請求項1記載の追跡システムであって、前記カメラが選択的に調整可能な焦点距離を有し、前記プロセッサが、前記カメラから前記目標物までの距離の関数として前記カメラの前記焦点距離を選択するシステム。
  10. 請求項1記載の追跡システムであって、更に、前記システムに動作可能に結合される表示装置及び入力装置を備え、操作者が前記表示装置上で前記ビデオ画像を見、前記入力装置を介して前記システムに命令又はデータを入力することができ、前記表示装置及び入力装置が前記カメラから離れた場所に置かれ得るシステム。
  11. 視野を有するビデオカメラで目標物を追跡する方法であって、
    前記ビデオカメラに接続されたプロセッサで、前記ビデオカメラが捉えた画像を取得する工程と、
    取得された前記画像間の比較によって、前記取得された画像を処理する工程と、
    目標物を追跡し且つ前記視野を変えるために、前記プロセッサによって計算された選択的に可変な調整速度で前記カメラを調整するための調整命令を発するかどうかを決定する工程と、
    前記カメラから追加の画像を前記プロセッサで自動的に取得する工程と、
    を含む方法。
  12. 請求項11記載の方法であって、前記カメラが、前記目標物の少なくとも一つの属性の関数として選択される調整速度で調整される方法。
  13. 請求項12記載の方法であって、前記目標物の前記の少なくとも一つの属性が、前記目標物の速度を含む方法。
  14. 請求項12記載の方法であって、前記調整速度が第一及び第二の画像の分析に基づいて選択され、前記第一の画像が、第一の視野を区画するように調整された前記カメラにより取得され、前記第二の画像が、第二の視野を区画するように調整された前記カメラにより取得される方法。
  15. 請求項14記載の方法であって、前記第一及び第二の視野が部分的に重なり、前記調整速度の決定が、前記第一及び第二の画像のそれぞれに現れる少なくとも一つの共通の特徴を識別し位置調整する工程を含む方法。
  16. 請求項14記載の方法であって、前記調整速度の決定が、前記目標物と前記カメラとの実世界での距離の関数である比例係数の使用を含む方法。
  17. 請求項11記載の方法であって、前記プロセッサが第二の調整速度を選択し、前記第二の調整速度を前記カメラに伝達するまで、前記カメラが第一の選択された調整速度で調整される方法。
  18. 請求項11記載の方法であって、前記カメラを選択的に可変な調整速度で調整する工程が、前記カメラのパン方向及び前記カメラのティルト方向のうちの少なくとも一つを調整する工程を含む方法。
  19. 請求項11記載の方法であって、前記カメラのパン方向及び前記カメラのティルト方向のそれぞれを調整する際に、前記カメラが可変な速度で選択的に調整可能である方法。
  20. 請求項11記載の方法であって、前記カメラのパン方向及び前記カメラのティルト方向のそれぞれを調整する際に、前記カメラが可変な速度で選択的に調整可能であり、前記可変な調整速度のそれぞれが、前記目標物の速度の関数として選択される方法。
  21. ビデオカメラで目標物を追跡する方法であって、
    視野を有するビデオカメラを設ける工程であって、前記カメラが選択的に調整可能であり、前記カメラの調整が前記カメラの視野を変化させる工程と、
    前記ビデオカメラからの画像をプロセッサで取得する工程と、
    前記カメラにより取得された画像内の目標物を検出する工程と、
    前記目標物の少なくとも一つの属性の関数である目標値を予測する工程と、
    前記カメラを選択的に可変な速度で調整する工程であって、前記カメラの前記調整速度が前記目標値の関数として選択される工程と、
    前記カメラの動きと無関係に、調整命令を発した後に画像を自動的に取得する工程と、
    前記調整命令を発した後の画像と最も最近に捉えた画像とに基づいて調整値を予測する工程と、
    を含む方法。
  22. 請求項21記載の方法であって、前記目標物の前記の少なくとも一つの属性が、前記目標物の速度を含む方法。
  23. 請求項21記載の方法であって、前記カメラを選択的に可変な調整速度で調整する工程が、第一の画像及び第二の画像の分析に基づいて前記調整速度を選択する工程を含み、前記第一の画像が、第一の視野を区画するように調整された前記カメラにより取得され、前記第二の画像が、第二の視野を区画するように調整された前記カメラにより取得される方法。
  24. 請求項23記載の方法であって、前記第一及び第二の視野が部分的に重なり、前記調整速度の決定が、前記第一及び第二の画像のそれぞれに現れる少なくとも一つの共通の特徴を識別し位置調整する工程を含む方法。
  25. 請求項21記載の方法であって、前記カメラが選択的に調整可能な焦点距離を有し、前記方法が、更に、前記カメラの前記焦点距離を前記カメラから前記目標物までの距離の関数として調整する工程を含む方法。
  26. 請求項21記載の方法であって、前記カメラを調整する工程が、更に、第二の選択された調整速度が前記カメラに伝達されるまで、前記カメラを第一の選択された調整速度で調整する工程を含む方法。
  27. 請求項21記載の方法であって、前記カメラを選択的に可変な調整速度で調整する工程が、前記カメラのパン方向及び前記カメラのティルト方向のうちの少なくとも一つを調整する工程を含む方法。
  28. 請求項21記載の方法であって、前記カメラを選択的に可変な調整速度で調整する工程が、前記カメラのパン方向及び前記カメラのティルト方向のそれぞれを可変な速度で選択的に調整する工程を含む方法。
  29. 請求項21記載の方法であって、前記カメラを調整する工程が、前記カメラを調整するための第一の調整速度及び方向を選択する工程と、第二の調整速度及び方向が選択されるまで前記カメラを前記第一の調整速度及び方向で調整し続ける工程とを含む方法。
  30. ビデオ追跡システムであって、
    視野を有し、選択的に調整可能であり、前記の調整が前記視野を変更するビデオカメラと、
    前記カメラと結合された少なくとも1つのプロセッサと、
    を具備し、前記プロセッサが、
    前記カメラが取得したビデオ画像を受け取り、
    前記受け取った画像間を比較して背景を減算すると共に移動目標物を検出し、
    前記背景におけるコーナー特徴を識別して、前記画像の受け取り間の前記カメラの位置の変化を予測し、
    それぞれの新たなフレームにおいて前記目標物に対応する画像領域を抽出し、
    前記カメラの調整速度を計算し、
    前記目標物を追跡するよう前記カメラを調整する
    ようになされており、
    前記プロセッサが複数の可変の調整速度で前記カメラを連続的に調整するシステム。
  31. 請求項30記載のビデオ追跡システムであって、前記プロセッサが、前記目標物の少なくとも一つの属性の関数である前記カメラの調整速度を選択するシステム。
  32. 請求項30記載の追跡システムであって、前記カメラが、選択的に調整可能な焦点距離を有し、前記プロセッサが、前記カメラから前記目標物への距離の関数として、前記カメラの焦点距離を選択するシステム。
  33. 請求項30記載の追跡システムであって、前記カメラが、前記カメラのパン方向及び前記カメラのティルト方向のうちの少なくとも一つを調整する際に、可変の速度において選択的に調整可能であるシステム。
  34. 請求項30記載の追跡システムであって、前記カメラの選択的調整が、x軸を決定する前記カメラの選択的なパン動作、y軸を決定する前記カメラのティルト動作、及びz軸を決定する前記カメラの選択的な焦点距離調整を含み、前記x、y及びz軸が互いに垂直に向けられるシステム。
  35. 請求項30記載の追跡システムであって、更に、前記システムに動作可能に結合された表示装置及び入力装置を備え、操作者が前記表示装置上で前記ビデオ画像を見、前記入力装置を介して前記システムに命令又はデータを入力することができ、前記表示装置及び入力装置が前記カメラから離れた場所に置かれ得るシステム。
  36. ビデオ追跡システムであって、
    視野を有し、選択的に調整可能であり、前記の調整が前記視野を変化させるビデオカメラと、
    前記カメラに動作可能に結合される少なくとも一つのプロセッサと、
    を具備し、
    前記カメラが取得したビデオ画像を受け取り、
    前記受け取った画像間を比較して背景を減算すると共に移動目標物を検出し、
    前記背景におけるコーナー特徴を識別して、前記画像の受け取り間の前記カメラの位置の変化を予測し、
    それぞれの新たなフレームにおいて前記目標物に対応する画像領域を抽出し、
    前記カメラの調整速度を計算し、
    前記目標物を追跡するよう前記カメラを調整する
    ようになされており、
    前記プロセッサは複数の可変の調整速度で前記カメラを連続的に調整し、
    前記プロセッサが、第1の処理サイクルを完了した後に画像を受け取って処理し、処理が画像間の比較によって実行されるシステム。
  37. 請求項36記載のビデオ追跡システムであって、前記カメラが、前記カメラのパン方向及び前記カメラのティルト方向のうちの少なくとも一つを調整する際に、可変の速度において選択的に調整可能であるシステム。
  38. 請求項36記載の追跡システムであって、前記カメラの選択的調整が、x軸を決定する前記カメラの選択的なパン動作、y軸を決定する前記カメラの選択的なティルト動作、及び、z軸を決定する前記カメラの選択的な焦点距離調整を含み、前記x、y及びz軸が互いに垂直に向けられるシステム。
  39. 請求項36記載の追跡システムであって、前記プロセッサが、第一の画像及び第二の画像に基づいて前記目標値を予測するようにプログラムされ、前記第一の画像が、第一の視野を区画するように調整された前記カメラにより取得され、前記第二の画像が、第二の視野を区画するように調整された前記カメラにより取得されるシステム。
  40. 請求項36記載の追跡システムであって、前記カメラが選択的に調整可能な焦点距離を有し、前記プロセッサが、前記カメラから前記目標物までの距離の関数として前記カメラの前記焦点距離を選択するシステム。
  41. 請求項36記載の追跡システムであって、更に、前記システムに動作可能に結合される表示装置及び入力装置を備え、操作者が前記表示装置上で前記ビデオ画像を見、前記入力装置を介して前記システムに命令又はデータを入力することができ、前記表示装置及び入力装置が前記カメラから離れた場所に置かれ得るシステム。
  42. ビデオ追跡方法であって、
    視野を有し、選択的に調整可能であり、前記の調整が前記視野を変更するビデオカメラと結合された少なくとも1つのプロセッサにおいて、
    前記カメラが取得したビデオ画像を受け取る工程と、
    前記受け取った画像間を比較して背景を減算すると共に移動目標物を検出する工程と、
    前記背景におけるコーナー特徴を識別して、前記画像の受け取り間の前記カメラの位置の変化を予測する工程と、
    それぞれの新たなフレームにおいて前記目標物に対応する画像領域を抽出する工程と、
    前記カメラの調整速度を計算する工程と、
    前記目標物を追跡すると共に前記視野を変えるために、前記プロセッサによって計算された選択的に可変の調整速度で前記カメラを調整する調整命令を発するかどうかを決定する工程と、
    を実行し、前記プロセッサが複数の可変の調整速度で前記カメラを連続的に調整する方法。
  43. 請求項42記載の方法であって、前記カメラが、前記目標物の少なくとも一つの属性の関数として選択される調整速度で調整される方法。
  44. 請求項42記載の方法であって、前記カメラを選択的に可変な調整速度で調整する工程が、前記カメラのパン方向及び前記カメラのティルト方向のうちの少なくとも一つを調整する工程を含む方法。
  45. 請求項42記載の方法であって、前記カメラのパン方向及び前記カメラのティルト方向のそれぞれを調整する際に、前記カメラが可変な速度で選択的に調整可能である方法。
  46. 請求項42記載の方法であって、前記カメラのパン方向及び前記カメラのティルト方向のそれぞれを調整する際に、前記カメラが可変な速度で選択的に調整可能であり、前記可変な調整速度のそれぞれが、前記目標物の速度の関数として選択される方法。
  47. ビデオ追跡方法であって、
    視野を有し、選択的に調整可能であり、前記の調整が前記視野を変更するビデオカメラと結合された少なくとも1つのプロセッサにおいて、
    前記カメラが取得したビデオ画像を受け取る工程と、
    前記受け取った画像間を比較して背景を減算すると共に移動目標物を検出する工程と、
    前記背景におけるコーナー特徴を識別して、前記画像の受け取り間の前記カメラの位置の変化を予測する工程と、
    それぞれの新たなフレームにおいて前記目標物に対応する画像領域を抽出する工程と、
    前記カメラの調整速度を計算する工程と、
    前記目標物を追跡するよう前記カメラを調整する工程と、
    前記カメラの動きと無関係に、調整命令を発した後に画像を自動的に取得する工程と、
    前記調整命令を発した後の画像と最も最近に捉えた画像とに基づいて調整値を予測する工程と、
    を実行し、前記プロセッサが複数の可変の調整速度で前記カメラを連続的に調整する方法。
  48. 請求項47記載の方法であって、前記目標物の前記の少なくとも一つの属性が、前記目標物の速度を含む方法。
  49. 請求項47記載の方法であって、前記カメラを選択的に可変な調整速度で調整する工程が、第一の画像及び第二の画像の分析に基づいて前記調整速度を選択する工程を含み、前記第一の画像が、第一の視野を区画するように調整された前記カメラにより取得され、前記第二の画像が、第二の視野を区画するように調整された前記カメラにより取得される方法。
  50. 請求項47記載の方法であって、前記カメラが選択的に調整可能な焦点距離を有し、前記方法が、更に、前記カメラの前記焦点距離を前記カメラから前記目標物までの距離の関数として調整する工程を含む方法。
  51. 請求項47記載の方法であって、前記カメラを選択的に可変な調整速度で調整する工程が、前記カメラのパン方向及び前記カメラのティルト方向のうちの少なくとも一つを調整する工程を含む方法。
  52. 請求項47記載の方法であって、前記カメラを選択的に可変な調整速度で調整する工程が、前記カメラのパン方向及び前記カメラのティルト方向のそれぞれを可変な速度で選択的に調整する工程を含む方法。
  53. 請求項47記載の方法であって、前記カメラを調整する工程が、前記カメラを調整するための第一の調整速度及び方向を選択する工程と、第二の調整速度及び方向が選択されるまで前記カメラを前記第一の調整速度及び方向で調整し続ける工程とを含む方法。
JP2007109339A 2002-11-27 2007-04-18 ビデオ追跡システム及び方法 Expired - Lifetime JP5242938B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/306,509 US20040100563A1 (en) 2002-11-27 2002-11-27 Video tracking system and method
US10/306509 2002-11-27

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2003397008A Division JP4451122B2 (ja) 2002-11-27 2003-11-27 ビデオ追跡システム及び方法

Publications (2)

Publication Number Publication Date
JP2007274703A true JP2007274703A (ja) 2007-10-18
JP5242938B2 JP5242938B2 (ja) 2013-07-24

Family

ID=32312196

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2003397008A Expired - Fee Related JP4451122B2 (ja) 2002-11-27 2003-11-27 ビデオ追跡システム及び方法
JP2007109339A Expired - Lifetime JP5242938B2 (ja) 2002-11-27 2007-04-18 ビデオ追跡システム及び方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2003397008A Expired - Fee Related JP4451122B2 (ja) 2002-11-27 2003-11-27 ビデオ追跡システム及び方法

Country Status (3)

Country Link
US (2) US20040100563A1 (ja)
EP (1) EP1427212B9 (ja)
JP (2) JP4451122B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150032630A (ko) * 2013-09-19 2015-03-27 캐논 가부시끼가이샤 촬상 시스템에 있어서의 제어방법, 제어장치 및 컴퓨터 판독 가능한 기억매체
RU2559712C2 (ru) * 2009-06-30 2015-08-10 Конинклейке Филипс Электроникс Н.В. Обратная связь по релевантности для извлечения изображения на основе контента

Families Citing this family (115)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7650058B1 (en) 2001-11-08 2010-01-19 Cernium Corporation Object selective video recording
US20040233282A1 (en) * 2003-05-22 2004-11-25 Stavely Donald J. Systems, apparatus, and methods for surveillance of an area
US7397504B2 (en) * 2003-06-24 2008-07-08 Microsoft Corp. Whiteboard view camera
GB2404773B (en) * 2003-08-05 2005-06-08 Research In Motion Ltd Method for automatic backlight adjustment
US7643066B2 (en) * 2004-02-19 2010-01-05 Robert Bosch Gmbh Method and apparatus for producing frame accurate position data in a PTZ dome camera with open loop control
US7956890B2 (en) 2004-09-17 2011-06-07 Proximex Corporation Adaptive multi-modal integrated biometric identification detection and surveillance systems
US7373012B2 (en) * 2005-02-01 2008-05-13 Mitsubishi Electric Research Laboratories, Inc. Detecting moving objects in videos with corner-based background model
EP2479990A3 (en) * 2005-06-23 2013-01-23 Israel Aerospace Industries Ltd. A system and method for tracking moving objects
US8026945B2 (en) * 2005-07-22 2011-09-27 Cernium Corporation Directed attention digital video recordation
US7136524B1 (en) * 2005-09-16 2006-11-14 Proximex Corporation Robust perceptual color identification
WO2007059301A2 (en) * 2005-11-16 2007-05-24 Integrated Equine Technologies Llc Automated video system for context-appropriate object tracking
US7907750B2 (en) * 2006-06-12 2011-03-15 Honeywell International Inc. System and method for autonomous object tracking
JP4709101B2 (ja) * 2006-09-01 2011-06-22 キヤノン株式会社 自動追尾カメラ装置
US7839431B2 (en) * 2006-10-19 2010-11-23 Robert Bosch Gmbh Image processing system and method for improving repeatability
JP5074747B2 (ja) * 2006-11-22 2012-11-14 キヤノン株式会社 光学装置、撮像装置、制御方法、及びプログラム
US8792005B2 (en) * 2006-11-29 2014-07-29 Honeywell International Inc. Method and system for automatically determining the camera field of view in a camera network
KR100866963B1 (ko) * 2007-03-12 2008-11-05 삼성전자주식회사 수평 방향의 기울어짐 왜곡과 수직 방향의 스케일링 왜곡을보정할 수 있는 디지털 영상 안정화 방법
US7777783B1 (en) 2007-03-23 2010-08-17 Proximex Corporation Multi-video navigation
US9544563B1 (en) 2007-03-23 2017-01-10 Proximex Corporation Multi-video navigation system
US7916895B2 (en) * 2007-05-07 2011-03-29 Harris Corporation Systems and methods for improved target tracking for tactical imaging
KR20090062049A (ko) * 2007-12-12 2009-06-17 삼성전자주식회사 영상 데이터 압축 전처리 방법 및 이를 이용한 영상 데이터압축 방법과, 영상 데이터 압축 시스템
EP2243125B1 (en) * 2007-12-13 2020-04-29 Clemson University Research Foundation Vision based real time traffic monitoring
US8390685B2 (en) * 2008-02-06 2013-03-05 International Business Machines Corporation Virtual fence
US8345097B2 (en) * 2008-02-15 2013-01-01 Harris Corporation Hybrid remote digital recording and acquisition system
WO2009122416A2 (en) * 2008-04-02 2009-10-08 Evt Technologies Ltd. Object content navigation
US9398266B2 (en) * 2008-04-02 2016-07-19 Hernan Carzalo Object content navigation
JP5264582B2 (ja) * 2008-04-04 2013-08-14 キヤノン株式会社 監視装置、監視方法、プログラム、及び記憶媒体
DE102008001076A1 (de) 2008-04-09 2009-10-15 Robert Bosch Gmbh Verfahren, Vorrichtung sowie Computerprogramm zur Auflösungsreduktion eines Eingangsbilds
US8385688B2 (en) * 2008-08-27 2013-02-26 International Business Machines Corporation System and method for automatic recognition and labeling of anatomical structures and vessels in medical imaging scans
DE102008042562A1 (de) 2008-10-02 2010-04-08 Robert Bosch Gmbh Kamera und korrespondierendes Verfahren zur Auswahl eines aufzunehmenden Objekts
WO2010057170A1 (en) 2008-11-17 2010-05-20 Cernium Corporation Analytics-modulated coding of surveillance video
US8754940B2 (en) * 2009-01-30 2014-06-17 Robert Bosch Gmbh Method and apparatus for monitoring using a movable video device
JP2011009929A (ja) * 2009-06-24 2011-01-13 Sony Corp 可動機構部制御装置、可動機構部制御方法、プログラム
WO2011002775A1 (en) 2009-06-29 2011-01-06 Bosch Security Systems Inc. Omni-directional intelligent autotour and situational aware dome surveillance camera system and method
JP5434338B2 (ja) * 2009-07-29 2014-03-05 ソニー株式会社 撮像制御装置、撮像方法、プログラム
US8531525B2 (en) * 2009-12-22 2013-09-10 Utc Fire & Security Americas Corporation, Inc. Surveillance system and method for operating same
US20110175999A1 (en) * 2010-01-15 2011-07-21 Mccormack Kenneth Video system and method for operating same
US20110205355A1 (en) * 2010-02-19 2011-08-25 Panasonic Corporation Data Mining Method and System For Estimating Relative 3D Velocity and Acceleration Projection Functions Based on 2D Motions
KR101149329B1 (ko) * 2010-06-30 2012-05-23 아주대학교산학협력단 감시카메라를 이용한 능동적 객체 추적 장치 및 방법
US9906838B2 (en) 2010-07-12 2018-02-27 Time Warner Cable Enterprises Llc Apparatus and methods for content delivery and message exchange across multiple content delivery networks
JP5591006B2 (ja) * 2010-07-26 2014-09-17 キヤノン株式会社 自動追尾カメラシステムの制御装置及びそれを有する自動追尾カメラシステム
TWI426779B (zh) 2010-08-13 2014-02-11 Inst Information Industry Object color correction method, system and its computer program products
US8692884B2 (en) * 2010-09-17 2014-04-08 Gish Technology, Inc. Apparatus and method for assessing visual acuity
KR101425170B1 (ko) * 2010-11-16 2014-08-04 한국전자통신연구원 영상 촬영 장치의 객체 추적 장치 및 방법과 보안 관리 시스템의 객체 추적 장치
US9497388B2 (en) 2010-12-17 2016-11-15 Pelco, Inc. Zooming factor computation
JP5370398B2 (ja) * 2011-03-15 2013-12-18 オムロン株式会社 画像処理装置および画像処理プログラム
JP5911201B2 (ja) * 2011-04-20 2016-04-27 キヤノン株式会社 カメラ装置の自動追尾制御装置及びそれを有する自動追尾カメラシステム
US9441781B2 (en) 2011-11-14 2016-09-13 Motrr Llc Positioning apparatus for photographic and video imaging and recording and system utilizing same
US10791257B2 (en) 2011-11-14 2020-09-29 Gopro, Inc. Positioning apparatus for photographic and video imaging and recording and system utilizing the same
US9413941B2 (en) * 2011-12-20 2016-08-09 Motorola Solutions, Inc. Methods and apparatus to compensate for overshoot of a desired field of vision by a remotely-controlled image capture device
CN103679687A (zh) * 2012-09-18 2014-03-26 杭州海康威视数字技术股份有限公司 一种智能跟踪高速球机的目标跟踪的方法
US9465997B2 (en) * 2012-09-26 2016-10-11 General Electric Company System and method for detection and tracking of moving objects
US8842202B2 (en) * 2012-10-10 2014-09-23 Nec Casio Mobile Communications Ltd. Mobile terminal, method for adjusting magnification of camera and program
WO2014071291A2 (en) 2012-11-02 2014-05-08 Strongwatch Corporation, Nevada C Corp Wide area imaging system and method
US20140133753A1 (en) * 2012-11-09 2014-05-15 Ge Aviation Systems Llc Spectral scene simplification through background subtraction
US9319635B2 (en) 2012-11-30 2016-04-19 Pelco, Inc. Window blanking for pan/tilt/zoom camera
US10165157B2 (en) * 2013-02-19 2018-12-25 Disney Enterprises, Inc. Method and device for hybrid robotic/virtual pan-tilt-zoom cameras for autonomous event recording
US9542613B2 (en) * 2013-03-15 2017-01-10 Orcam Technologies Ltd. Systems and methods for processing images
KR20150031985A (ko) * 2013-09-17 2015-03-25 한국전자통신연구원 모바일 기기와 협력하여 위험 상황을 추적하기 위한 시스템 및 그 방법
JP6260215B2 (ja) * 2013-11-13 2018-01-17 富士通株式会社 特徴点追跡装置、及び、特徴点追跡方法
US9987743B2 (en) 2014-03-13 2018-06-05 Brain Corporation Trainable modular robotic apparatus and methods
US9533413B2 (en) 2014-03-13 2017-01-03 Brain Corporation Trainable modular robotic apparatus and methods
CN104008371B (zh) * 2014-05-22 2017-02-15 南京邮电大学 一种基于多摄像机的区域可疑目标跟踪与识别方法
US20170251169A1 (en) * 2014-06-03 2017-08-31 Gopro, Inc. Apparatus and methods for context based video data compression
CN105518555B (zh) * 2014-07-30 2017-11-03 深圳市大疆创新科技有限公司 目标追踪***及方法
KR102059697B1 (ko) * 2014-08-14 2019-12-26 한화테크윈 주식회사 돔 카메라 장치
US10176683B2 (en) * 2014-09-18 2019-01-08 Honeywell International Inc. Virtual panoramic thumbnail to summarize and visualize video content in video surveillance and in connected home business
US9840003B2 (en) 2015-06-24 2017-12-12 Brain Corporation Apparatus and methods for safe navigation of robotic devices
TWI562642B (en) * 2015-06-24 2016-12-11 Vivotek Inc Image surveillance method and image surveillance device thereof
US10445885B1 (en) 2015-10-01 2019-10-15 Intellivision Technologies Corp Methods and systems for tracking objects in videos and images using a cost matrix
KR102155895B1 (ko) * 2015-11-26 2020-09-14 삼성전자주식회사 객체를 추적하여 영상을 수신하는 방법 및 장치
GB2545900B (en) * 2015-12-21 2020-08-12 Canon Kk Method, device, and computer program for re-identification of objects in images obtained from a plurality of cameras
US10325339B2 (en) * 2016-04-26 2019-06-18 Qualcomm Incorporated Method and device for capturing image of traffic sign
TWI653563B (zh) * 2016-05-24 2019-03-11 仁寶電腦工業股份有限公司 投影觸控的圖像選取方法
WO2018170444A1 (en) 2017-03-17 2018-09-20 The Regents Of The University Of Michigan Method and apparatus for constructing informative outcomes to guide multi-policy decision making
CN107147841B (zh) * 2017-04-25 2019-12-27 北京小鸟看看科技有限公司 一种双目摄像头调整方法、装置和***
KR20200053474A (ko) * 2017-09-26 2020-05-18 소니 세미컨덕터 솔루션즈 가부시키가이샤 정보처리시스템
US11321985B2 (en) * 2017-10-10 2022-05-03 Lumileds Llc Counterfeit detection in bright environment
WO2019127227A1 (en) * 2017-12-28 2019-07-04 Intel Corporation Vehicle sensor fusion
JP6943183B2 (ja) * 2018-01-05 2021-09-29 オムロン株式会社 位置特定装置、位置特定方法、位置特定プログラムおよびカメラ装置
US10564641B2 (en) 2018-07-20 2020-02-18 May Mobility, Inc. Multi-perspective system and method for behavioral policy selection by an autonomous agent
US10614709B2 (en) 2018-07-24 2020-04-07 May Mobility, Inc. Systems and methods for implementing multimodal safety operations with an autonomous agent
US11399137B2 (en) * 2018-08-10 2022-07-26 Aurora Flight Sciences Corporation Object-tracking system
US20200090501A1 (en) * 2018-09-19 2020-03-19 International Business Machines Corporation Accident avoidance system for pedestrians
US11666203B2 (en) * 2018-10-04 2023-06-06 Biosense Webster (Israel) Ltd. Using a camera with an ENT tool
KR102619271B1 (ko) * 2018-11-01 2023-12-28 한화비전 주식회사 복수의 카메라들을 포함하는 영상 촬영 장치 및 영상 촬영 시스템
US10969470B2 (en) * 2019-02-15 2021-04-06 May Mobility, Inc. Systems and methods for intelligently calibrating infrastructure devices using onboard sensors of an autonomous agent
WO2020179439A1 (ja) * 2019-03-05 2020-09-10 パナソニックIpマネジメント株式会社 変位検出方法、撮影指示方法、変位検出装置及び撮影指示装置
CN110413166B (zh) * 2019-07-02 2022-11-25 上海熙菱信息技术有限公司 一种历史视频实时线性跟踪的方法
US11228737B2 (en) * 2019-07-31 2022-01-18 Ricoh Company, Ltd. Output control apparatus, display terminal, remote control system, control method, and non-transitory computer-readable medium
CN112788227B (zh) * 2019-11-07 2022-06-14 富泰华工业(深圳)有限公司 目标追踪拍摄方法、装置、计算机装置及存储介质
CN111060519A (zh) * 2019-12-30 2020-04-24 研祥智能科技股份有限公司 Led支架缺陷判定方法及***
CN113315902B (zh) * 2020-02-26 2022-12-20 深圳英飞拓科技股份有限公司 一种高速球型摄像机下镜头拉伸控制信号对冲优化方法
US11095825B1 (en) * 2020-06-02 2021-08-17 Vitalchat, Inc. Camera pan, tilt, and zoom history
CN111698426B (zh) * 2020-06-23 2021-08-03 广东小天才科技有限公司 一种试题拍摄的方法、装置、电子设备和存储介质
US11412133B1 (en) * 2020-06-26 2022-08-09 Amazon Technologies, Inc. Autonomously motile device with computer vision
CN111669508A (zh) * 2020-07-01 2020-09-15 海信视像科技股份有限公司 一种摄像头的控制方法及显示设备
US11352023B2 (en) 2020-07-01 2022-06-07 May Mobility, Inc. Method and system for dynamically curating autonomous vehicle policies
US11417013B2 (en) * 2020-10-13 2022-08-16 Sensormatic Electornics, LLC Iterative layout mapping via a stationary camera
US11396302B2 (en) 2020-12-14 2022-07-26 May Mobility, Inc. Autonomous vehicle safety platform system and method
WO2022133242A1 (en) 2020-12-17 2022-06-23 May Mobility, Inc. Method and system for dynamically updating an environmental representation of an autonomous agent
US20220230410A1 (en) * 2021-01-19 2022-07-21 Objectvideo Labs, Llc Object localization in video
US11882366B2 (en) * 2021-02-26 2024-01-23 Hill-Rom Services, Inc. Patient monitoring system
JP2022135081A (ja) * 2021-03-04 2022-09-15 キヤノン株式会社 撮像装置、撮像制御装置、情報処理装置およびそれらの制御方法
US11601599B1 (en) * 2021-03-22 2023-03-07 Urban Sky Theory Inc. Aerial image capture system with single axis camera rotation
EP4314708A1 (en) 2021-04-02 2024-02-07 May Mobility, Inc. Method and system for operating an autonomous agent with incomplete environmental information
WO2022256249A1 (en) 2021-06-02 2022-12-08 May Mobility, Inc. Method and system for remote assistance of an autonomous agent
CN113691777B (zh) * 2021-08-18 2023-02-28 浙江大华技术股份有限公司 球机的变倍跟踪方法及装置、存储介质及电子装置
US12012123B2 (en) 2021-12-01 2024-06-18 May Mobility, Inc. Method and system for impact-based operation of an autonomous agent
WO2023154568A1 (en) 2022-02-14 2023-08-17 May Mobility, Inc. Method and system for conditional operation of an autonomous agent
US11849206B1 (en) * 2022-02-23 2023-12-19 Amazon Technologies, Inc. Systems and methods for automated object identification and tracking
WO2024129832A1 (en) 2022-12-13 2024-06-20 May Mobility, Inc. Method and system for assessing and mitigating risks encounterable by an autonomous vehicle
WO2024124288A1 (en) * 2022-12-14 2024-06-20 Western Sydney University Systems for imaging a target object moving relative to background features
WO2024141781A1 (en) 2022-12-29 2024-07-04 Bosch Security Systems - Sistemas De Segurança, S.A. Contactless supervision system for monitoring storage shelf deflection and method thereof
CN116055898A (zh) * 2023-01-04 2023-05-02 深圳闪新软件技术服务有限公司 一种回收终端摄像头控制***

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0583712A (ja) * 1991-09-20 1993-04-02 Hitachi Ltd 画像処理システム及び監視システム
JPH05346958A (ja) * 1992-06-15 1993-12-27 Matsushita Electric Ind Co Ltd 移動体追尾装置
JPH07114642A (ja) * 1993-10-19 1995-05-02 Oyo Keisoku Kenkyusho:Kk 移動物体の計測装置
JPH09127227A (ja) * 1995-10-30 1997-05-16 Matsushita Electric Works Ltd 自動追尾装置
JP2001285695A (ja) * 2000-03-30 2001-10-12 Nec Corp 移動体追尾方法及びその装置
JP2002135766A (ja) * 2000-10-26 2002-05-10 Fuji Photo Optical Co Ltd 自動追尾装置

Family Cites Families (92)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3943561A (en) 1973-08-06 1976-03-09 Westinghouse Electric Corporation System for optically detecting moving targets
FR2502875B1 (fr) * 1981-03-30 1985-11-29 Tugaye Jean Procede et dispositif de cadrage et de stabilisation d'image de camera electro-optique
US4410914A (en) * 1982-02-01 1983-10-18 Cbs Inc. Television picture stabilizing system
US4403256A (en) * 1981-11-10 1983-09-06 Cbs Inc. Television picture stabilizing system
JPS62229082A (ja) * 1986-03-31 1987-10-07 Toshiba Corp イメ−ジ検知器
FR2610159B1 (fr) * 1987-01-22 1989-04-07 Fournier Antoine Dispositif de stabilisation d'images pour camera video transportable
US4897719A (en) * 1987-03-19 1990-01-30 Hugh Griffin Image pre-processing sub-system
US4945367A (en) * 1988-03-02 1990-07-31 Blackshear David M Surveillance camera system
US4959725A (en) * 1988-07-13 1990-09-25 Sony Corporation Method and apparatus for processing camera an image produced by a video camera to correct for undesired motion of the video camera
JPH0797295B2 (ja) 1990-03-31 1995-10-18 株式会社島津製作所 ターゲットトラッキングシステム
FR2661061B1 (fr) * 1990-04-11 1992-08-07 Multi Media Tech Procede et dispositif de modification de zone d'images.
US5237405A (en) * 1990-05-21 1993-08-17 Matsushita Electric Industrial Co., Ltd. Image motion vector detecting device and swing correcting device
ES2136603T3 (es) * 1991-07-19 1999-12-01 Princeton Video Image Inc Presentaciones televisivas con signos insertados, seleccionados.
CA2062620C (en) * 1991-07-31 1998-10-06 Robert Paff Surveillance apparatus with enhanced control of camera and lens assembly
US5371539A (en) * 1991-10-18 1994-12-06 Sanyo Electric Co., Ltd. Video camera with electronic picture stabilizer
US5610653A (en) * 1992-02-07 1997-03-11 Abecassis; Max Method and system for automatically tracking a zoomed video image
EP0557007A2 (en) * 1992-02-15 1993-08-25 Sony Corporation Picture processing apparatus
GB9206396D0 (en) * 1992-03-24 1992-05-06 British Broadcasting Corp Video image motion measurement
JP3505199B2 (ja) * 1992-06-30 2004-03-08 株式会社リコー ビデオカメラジッタ補正装置、データ圧縮装置、データ伸長装置、データ圧縮方法及びデータ伸長方法
GB9217098D0 (en) * 1992-08-12 1992-09-23 British Broadcasting Corp Derivation of studio camera position and motion from the camera image
USRE38420E1 (en) 1992-08-12 2004-02-10 British Broadcasting Corporation Derivation of studio camera position and motion from the camera image
WO1994006247A1 (en) * 1992-09-08 1994-03-17 Paul Howard Mayeaux Machine vision camera and video preprocessing system
SE502679C2 (sv) 1993-05-28 1995-12-04 Saab Scania Combitech Ab Förfarande och anordning för registrering av ett fordons förflyttning på ett underlag
DE69434657T2 (de) * 1993-06-04 2007-02-15 Sarnoff Corp. System und Verfahren zur elektronischen Bildstabilisierung
JP2940762B2 (ja) * 1993-06-28 1999-08-25 三洋電機株式会社 手振れ補正装置を有するビデオカメラ
DE69428838T2 (de) * 1993-06-29 2002-07-18 Sanyo Electric Co., Ltd. Videokamera mit elektronischer Bildstabilisierung und Erzeugung von Additionsdaten
US5528319A (en) * 1993-10-13 1996-06-18 Photran Corporation Privacy filter for a display device
US6211912B1 (en) * 1994-02-04 2001-04-03 Lucent Technologies Inc. Method for detecting camera-motion induced scene changes
JPH08123784A (ja) 1994-10-28 1996-05-17 Canon Inc データ処理方法及び装置
IL108957A (en) * 1994-03-14 1998-09-24 Scidel Technologies Ltd Video sequence imaging system
US5436672A (en) * 1994-05-27 1995-07-25 Symah Vision Video processing system for modifying a zone in successive images
US5627616A (en) * 1994-06-22 1997-05-06 Philips Electronics North America Corporation Surveillance camera system
US5517236A (en) * 1994-06-22 1996-05-14 Philips Electronics North America Corporation Video surveillance system
JP2902966B2 (ja) * 1994-12-16 1999-06-07 三洋電機株式会社 手振れ補正装置およびそれを用いたビデオカメラ
JPH08179395A (ja) * 1994-12-26 1996-07-12 Canon Inc 像ぶれ補正手段のための作動制御装置
US5629984A (en) * 1995-03-10 1997-05-13 Sun Microsystems, Inc. System and method for data security
JPH08321984A (ja) * 1995-03-22 1996-12-03 Sony Corp 自動追尾撮像装置
US5973733A (en) * 1995-05-31 1999-10-26 Texas Instruments Incorporated Video stabilization system and method
JPH0954883A (ja) * 1995-08-11 1997-02-25 Toshiba Corp 既知物体の進入検出方法およびその進入検出装置
US5835138A (en) * 1995-08-30 1998-11-10 Sony Corporation Image signal processing apparatus and recording/reproducing apparatus
GB9601101D0 (en) * 1995-09-08 1996-03-20 Orad Hi Tech Systems Limited Method and apparatus for automatic electronic replacement of billboards in a video image
GB2305051B (en) 1995-09-08 2000-06-21 Orad Hi Tec Systems Ltd Method and apparatus for automatic electronic replacement of billboards in a video image
JP3689946B2 (ja) * 1995-10-05 2005-08-31 ソニー株式会社 データ処理装置及び方法
US5969755A (en) * 1996-02-05 1999-10-19 Texas Instruments Incorporated Motion based event detection system and method
US6208379B1 (en) * 1996-02-20 2001-03-27 Canon Kabushiki Kaisha Camera display control and monitoring system
US5798786A (en) * 1996-05-07 1998-08-25 Recon/Optical, Inc. Electro-optical imaging detector array for a moving vehicle which includes two axis image motion compensation and transfers pixels in row directions and column directions
GB2316255B (en) 1996-08-09 2000-05-31 Roke Manor Research Improvements in or relating to image stabilisation
SE9603716L (sv) * 1996-10-11 1998-04-06 Polytech Ab Anordning för stabilisering av fjärrstyrd sensor, såsom kamera
JPH10145674A (ja) * 1996-11-12 1998-05-29 Sony Corp ビデオ信号処理装置及びビデオ信号処理方法
US6173087B1 (en) * 1996-11-13 2001-01-09 Sarnoff Corporation Multi-view image registration with application to mosaicing and lens distortion correction
US6100925A (en) * 1996-11-27 2000-08-08 Princeton Video Image, Inc. Image insertion in video streams using a combination of physical sensors and pattern recognition
US5982420A (en) * 1997-01-21 1999-11-09 The United States Of America As Represented By The Secretary Of The Navy Autotracking device designating a target
US6727938B1 (en) 1997-04-14 2004-04-27 Robert Bosch Gmbh Security system with maskable motion detection and camera with an adjustable field of view
US6760061B1 (en) * 1997-04-14 2004-07-06 Nestor Traffic Systems, Inc. Traffic sensor
US6734901B1 (en) * 1997-05-20 2004-05-11 Canon Kabushiki Kaisha Vibration correction apparatus
US6263088B1 (en) * 1997-06-19 2001-07-17 Ncr Corporation System and method for tracking movement of objects in a scene
US6295367B1 (en) * 1997-06-19 2001-09-25 Emtera Corporation System and method for tracking movement of objects in a scene using correspondence graphs
US6208388B1 (en) 1997-10-18 2001-03-27 Lucent Technologies, Inc. Channel responsive television input signal interface circuit and method
US6396961B1 (en) * 1997-11-12 2002-05-28 Sarnoff Corporation Method and apparatus for fixating a camera on a target point using image alignment
US5963371A (en) * 1998-02-04 1999-10-05 Intel Corporation Method of displaying private data to collocated users
FR2775813B1 (fr) * 1998-03-06 2000-06-02 Symah Vision Procede et dispositif de remplacement de panneaux cibles dans une sequence video
US6211913B1 (en) * 1998-03-23 2001-04-03 Sarnoff Corporation Apparatus and method for removing blank areas from real-time stabilized images by inserting background information
CN1178467C (zh) * 1998-04-16 2004-12-01 三星电子株式会社 自动跟踪运动目标的方法和装置
JP2000069346A (ja) * 1998-06-12 2000-03-03 Canon Inc カメラ制御装置、方法、カメラ、追尾カメラシステム及びコンピュ―タ読み取り可能な記憶媒体
US6781622B1 (en) * 1998-06-26 2004-08-24 Ricoh Company, Ltd. Apparatus for correction based upon detecting a camera shaking
US6067399A (en) * 1998-09-02 2000-05-23 Sony Corporation Privacy mode for acquisition cameras and camcorders
JP2000083246A (ja) 1998-09-04 2000-03-21 Canon Inc カメラ制御システム、カメラ制御方法、およびその処理を実行するプログラムを記憶した記録媒体
US6437819B1 (en) * 1999-06-25 2002-08-20 Rohan Christopher Loveland Automated video person tracking system
US6628711B1 (en) * 1999-07-02 2003-09-30 Motorola, Inc. Method and apparatus for compensating for jitter in a digital video image
US6778210B1 (en) * 1999-07-15 2004-08-17 Olympus Optical Co., Ltd. Image pickup apparatus with blur compensation
JP4600894B2 (ja) 1999-08-20 2010-12-22 パナソニック株式会社 映像信号処理装置
JP3722653B2 (ja) 1999-08-31 2005-11-30 松下電器産業株式会社 監視カメラ装置及び監視カメラの表示方法
US6424370B1 (en) * 1999-10-08 2002-07-23 Texas Instruments Incorporated Motion based event detection system and method
US6661450B2 (en) * 1999-12-03 2003-12-09 Fuji Photo Optical Co., Ltd. Automatic following device
US6509926B1 (en) * 2000-02-17 2003-01-21 Sensormatic Electronics Corporation Surveillance apparatus for camera surveillance system
WO2001069930A1 (en) 2000-03-10 2001-09-20 Sensormatic Electronics Corporation Method and apparatus for object surveillance with a movable camera
JP3440916B2 (ja) 2000-03-30 2003-08-25 日本電気株式会社 自動追尾装置、自動追尾方法及び自動追尾プログラムを記録した記録媒体
US7256817B2 (en) * 2000-10-26 2007-08-14 Fujinon Corporation Following device
US6442474B1 (en) * 2000-12-07 2002-08-27 Koninklijke Philips Electronics N.V. Vision-based method and apparatus for monitoring vehicular traffic events
US6478425B2 (en) * 2000-12-29 2002-11-12 Koninlijke Phillip Electronics N. V. System and method for automatically adjusting a lens power through gaze tracking
US6771306B2 (en) * 2001-03-28 2004-08-03 Koninklijke Philips Electronics N.V. Method for selecting a target in an automated video tracking system
US7173650B2 (en) * 2001-03-28 2007-02-06 Koninklijke Philips Electronics N.V. Method for assisting an automated video tracking system in reaquiring a target
US20020167537A1 (en) * 2001-05-11 2002-11-14 Miroslav Trajkovic Motion-based tracking with pan-tilt-zoom camera
US20020168091A1 (en) * 2001-05-11 2002-11-14 Miroslav Trajkovic Motion detection via image alignment
KR100792283B1 (ko) * 2001-08-07 2008-01-07 삼성전자주식회사 이동물체 자동 추적장치 및 방법
US7893959B2 (en) * 2002-01-22 2011-02-22 Sanyo Electric Co., Ltd. Video display system for correcting the position and size of mask images
JP3996805B2 (ja) * 2002-06-06 2007-10-24 株式会社日立製作所 監視カメラ装置、監視カメラシステム装置及び撮像画面のマスク方法
US7212230B2 (en) * 2003-01-08 2007-05-01 Hewlett-Packard Development Company, L.P. Digital camera having a motion tracking subsystem responsive to input control for tracking motion of the digital camera
US8558892B2 (en) * 2004-01-20 2013-10-15 Honeywell International Inc. Object blocking zones to reduce false alarms in video surveillance systems
US7382400B2 (en) 2004-02-19 2008-06-03 Robert Bosch Gmbh Image stabilization system and method for a video camera
US8212872B2 (en) 2004-06-02 2012-07-03 Robert Bosch Gmbh Transformable privacy mask for video camera images
JP5083712B2 (ja) 2007-12-21 2012-11-28 井関農機株式会社 野菜苗移植機

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0583712A (ja) * 1991-09-20 1993-04-02 Hitachi Ltd 画像処理システム及び監視システム
JPH05346958A (ja) * 1992-06-15 1993-12-27 Matsushita Electric Ind Co Ltd 移動体追尾装置
JPH07114642A (ja) * 1993-10-19 1995-05-02 Oyo Keisoku Kenkyusho:Kk 移動物体の計測装置
JPH09127227A (ja) * 1995-10-30 1997-05-16 Matsushita Electric Works Ltd 自動追尾装置
JP2001285695A (ja) * 2000-03-30 2001-10-12 Nec Corp 移動体追尾方法及びその装置
JP2002135766A (ja) * 2000-10-26 2002-05-10 Fuji Photo Optical Co Ltd 自動追尾装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2559712C2 (ru) * 2009-06-30 2015-08-10 Конинклейке Филипс Электроникс Н.В. Обратная связь по релевантности для извлечения изображения на основе контента
KR20150032630A (ko) * 2013-09-19 2015-03-27 캐논 가부시끼가이샤 촬상 시스템에 있어서의 제어방법, 제어장치 및 컴퓨터 판독 가능한 기억매체
KR101687530B1 (ko) 2013-09-19 2016-12-19 캐논 가부시끼가이샤 촬상 시스템에 있어서의 제어방법, 제어장치 및 컴퓨터 판독 가능한 기억매체
US10218899B2 (en) 2013-09-19 2019-02-26 Canon Kabushiki Kaisha Control method in image capture system, control apparatus and a non-transitory computer-readable storage medium

Also Published As

Publication number Publication date
US20120081552A1 (en) 2012-04-05
EP1427212B9 (en) 2014-11-19
EP1427212B1 (en) 2014-07-16
JP2004180321A (ja) 2004-06-24
US9876993B2 (en) 2018-01-23
JP4451122B2 (ja) 2010-04-14
EP1427212A1 (en) 2004-06-09
US20040100563A1 (en) 2004-05-27
JP5242938B2 (ja) 2013-07-24

Similar Documents

Publication Publication Date Title
JP4451122B2 (ja) ビデオ追跡システム及び方法
JP4568009B2 (ja) カメラ連携による監視装置
KR100606485B1 (ko) 물체 추미 방법 및 물체 추미 장치
US7382400B2 (en) Image stabilization system and method for a video camera
US7783076B2 (en) Moving-object tracking control apparatus, moving-object tracking system, moving-object tracking control method, and program
JP4241742B2 (ja) 自動追尾装置及び自動追尾方法
US7173650B2 (en) Method for assisting an automated video tracking system in reaquiring a target
JP6532217B2 (ja) 画像処理装置、画像処理方法、及び画像処理システム
WO2012023766A2 (ko) 열화상 좌표를 이용한 보안용 카메라 추적 감시 시스템 및 방법
JP2006229322A (ja) 自動追尾制御装置及び自動追尾制御方法、並びにプログラム、自動追尾システム
CN106488115A (zh) 控制装置和图像传感设备的控制方法
JP2013223220A (ja) 自動追尾装置
KR102282470B1 (ko) 카메라 장치 및 이를 이용한 객체 추적 방법
JP6624800B2 (ja) 画像処理装置、画像処理方法、及び画像処理システム
JP4464902B2 (ja) カメラ制御装置およびカメラ制御プログラム
JP2002374521A (ja) 移動体の監視方法および装置
KR20150019230A (ko) 복수의 카메라를 이용한 객체 추적 방법 및 장치
JP2003158664A (ja) カメラ制御装置
JP4444746B2 (ja) 物体追尾方法及び物体追尾装置
CN117014716A (zh) 一种目标追踪方法及电子设备
KR102411612B1 (ko) 다수의 카메라를 이용한 열화상 감시 시스템
JPH09322053A (ja) 自動撮影カメラシステムにおける被写体の撮影方法。
JP3828096B2 (ja) 物体追跡装置
KR100382792B1 (ko) 지능형 로보틱 카메라 및 그 분산 제어장치
JP2001285849A (ja) 撮影システム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110105

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110324

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110705

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20110913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120402

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120702

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130306

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130404

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160412

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5242938

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250