JP2020091649A - 画像処理装置、画像処理システム、画像処理装置の制御方法、及び、プログラム - Google Patents

画像処理装置、画像処理システム、画像処理装置の制御方法、及び、プログラム Download PDF

Info

Publication number
JP2020091649A
JP2020091649A JP2018228322A JP2018228322A JP2020091649A JP 2020091649 A JP2020091649 A JP 2020091649A JP 2018228322 A JP2018228322 A JP 2018228322A JP 2018228322 A JP2018228322 A JP 2018228322A JP 2020091649 A JP2020091649 A JP 2020091649A
Authority
JP
Japan
Prior art keywords
area
time
subject
image
human body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018228322A
Other languages
English (en)
Other versions
JP7299692B2 (ja
Inventor
茉莉 山▲崎▼
Mari Yamazaki
茉莉 山▲崎▼
孝志 安達
Takashi Adachi
孝志 安達
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018228322A priority Critical patent/JP7299692B2/ja
Priority to EP19209916.6A priority patent/EP3663969A1/en
Priority to US16/699,968 priority patent/US11521413B2/en
Priority to CN201911225367.2A priority patent/CN111353374A/zh
Publication of JP2020091649A publication Critical patent/JP2020091649A/ja
Application granted granted Critical
Publication of JP7299692B2 publication Critical patent/JP7299692B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】 画像内で検出された被写体を特定の領域と関連付けて滞留時間を計測可能とする技術を提供する。【解決手段】 画像処理装置であって、処理対象画像に被写体を検出する領域を設定し、時間的に連続する複数の処理対象画像を解析して被写体を検出し、時間的に連続する複数の処理対象画像における被写体の検出結果に基づいて、被写体が領域内に滞留している滞留時間を決定し、該決定において、被写体が領域内から領域外に移動して、領域内に戻った場合に、被写体が領域外に位置していた時間を滞留時間に含める。【選択図】 図1

Description

本発明は、画像処理装置、画像処理システム、画像処理装置の制御方法、及び、プログラムに関する。
監視カメラで撮影された画像や、撮影後に記憶装置に記憶された画像を解析し、活用する事例が増えている。例えば、人体検出や人体追尾の技術を用いて領域内の人数を数えたり、ラインを通過した人数を数えたりすることができる。これにより、特定領域の人体の活動状況、特には特定領域に滞在している時間を把握することが可能である。特許文献1及び2には、特定領域内における人物の滞留時間(滞在時間)を測定する発明が開示されている。
特開2015−69639号公報 特開2017−182654号公報
しかしながら、一つの窓口等に対して人物が対応を受ける所定の場所各々に対して領域を設定し、領域内における滞留時間を計測する場合、人物が複数の領域内で検出される場合がある。また、人物が一時的に異なる領域に出入りしてしまう場合や、異なる領域を通過する場合も考えられる。このような場合、人物が利用しようとしていると推測される窓口と関連付けられた特定の領域における滞留時間として、滞留時間を計測する技術が必要とされている。
そこで本発明は、画像内で検出された被写体を特定の領域と関連付けて滞留時間を計測可能とする技術を提供する。
上記課題を解決するための発明は、画像処理装置であって、
処理対象画像に被写体を検出する領域を設定する設定手段と、
時間的に連続する複数の処理対象画像を解析し、被写体を検出する検出手段と、
前記時間的に連続する複数の処理対象画像における前記被写体の検出結果に基づいて、前記被写体が前記領域内に滞留している滞留時間を決定する決定手段と
を備え、
前記決定手段は、前記被写体が前記領域内から前記領域外に移動して、前記領域内に戻った場合に、前記被写体が前記領域外に位置していた時間を前記滞留時間に含めることを特徴とする。
本発明によれば、画像内で検出された被写体を特定の領域と関連付けて滞留時間を計測することができる。
発明の実施形態に係るシステム構成の一例を示す図、及び、画像処理装置のハードウェア構成の一例を示す図。 発明の実施形態に係る画像処理装置の機能構成の一例を示す図。 発明の実施形態に係る判定領域の設定方法を説明するための図。 発明の実施形態に係る処理の一例を示すフローチャート。 発明の実施形態に係る測定結果を登録するテーブルの一例を示す図。 発明の実施形態に係る滞留単位調整処理の一例を説明するための図。 発明の実施形態に係る滞留単位調整処理の一例を示すフローチャート。 発明の実施形態に係る滞留単位調整処理の他の一例を説明するための図。 発明の実施形態に係る滞留単位調整処理の他の一例を示すフローチャート。 発明の実施形態に係る滞留単位調整処理の更なる例を説明するための図。 発明の実施形態に係る滞留単位調整処理の更なる例を示すフローチャート。
以下、図を参照して、発明の実施形態を説明する。なお以下の実施形態において示す構成は一例に過ぎず、発明は図示された構成に限定されるものではない。
[実施形態1]
図1(A)を参照して、発明の実施形態に係るシステム構成について説明する。図1(A)は、本実施形態における画像処理システム10の構成の一例を示したブロック図である。画像処理システム10は、少なくとも1台の撮像装置(ネットワークカメラ)110と画像処理装置120とがネットワーク130を介して接続されて構成される。
撮像装置110は、例えば店舗、劇場、映画館、スタジアムといった監視対象区域に設置される監視カメラである。撮像装置110は、監視対象区域における所定の領域(監視領域)を撮影するように設置され、ネットワーク130を介して撮影した画像(動画像、静止画像)を画像処理装置120に配信する機能を持つ。また、撮像装置110は複数台が用意され、監視対象区域内の複数の監視領域をそれぞれ撮影するため、個々に設置されていてもよい。
撮像装置110は、監視対象区域内の監視領域を撮影することにより画像を生成する。撮像装置110では、CCDやCMOSイメージセンサなどの撮像素子を用いて光電変換により得られたアナログ画像信号をA/D変換によりデジタル画像信号に変換する。また、デジタル画像信号に対して、例えば、ディベイヤ処理、ホワイトバランス処理、階調変換処理等の現像処理を実施する。更に、現像処理部が出力したデジタル画像信号を圧縮・符号化して、画像データを生成する。画像圧縮方式は、例えば、H.264、H.265、MJPEGまたはJPEGなどの規格に基づくことができる。さらに、mp4やavi形式などを含む任意の形式の画像データを生成しても良い。符号化された画像データは、画像処理装置120に配信される。撮像装置110では、例えば、静止画像のほかに、1秒間に所定数のフレーム分(例えば、30フレーム)の画像を取得して、監視領域の30fpsの動画像(ライブ映像)を取得することが可能である。
画像処理装置120は、例えばパソコン、サーバー、タブレット等の、情報処理装置、通信装置、制御装置等として実現することができる。画像処理装置120は、ネットワーク130を介して撮像装置110と通信し、撮像装置110の動作を制御することができる。例えば、撮像装置110の撮影方向、画質設定やPTZの制御等の変更要求を行ったりすることができる。また、撮像装置110で撮像された動画像及び静止画像をネットワーク130を介して受信する。画像処理装置120は単一の装置により実現される場合だけでなく、複数の装置が協働して各機能を実現してもよい。
画像処理装置120は、撮像装置110に対して、後述する判定領域の設定や撮像制御のコマンドを送信してもよい。撮像装置110は、それらのコマンドに対するレスポンスを画像処理装置120に送信する。画像処理装置120は、取得した映像情報に対して、後述する判定領域の設定や判定処理、出力処理など処理に関する設定をする。
ネットワーク130は、LAN(Local Area Network)として構成することができる。但し、ネットワーク130はLANに限定されるものではなく、インターネットやWAN(Wide Area Network)などであってもよい。また、LAN130への物理的な接続形態は、有線であってもよいし、無線であってもよい。さらに、図1(A)において、撮像装置110及び画像処理装置120は、1台ずつがネットワーク130に接続されているが、接続台数は図1(A)に示す数に限定されず、より多くの台数が接続されていてもよい。
次に、図1(B)を参照して、画像処理装置120のハードウェア構成について説明する。図1(B)は、発明の実施形態に係る画像処理装置120のハードウェア構成の一例を示すブロック図である。図1(B)に示した構成は、画像処理装置120の構成の一例に過ぎず、適宜変形変更が可能である。
CPU121は、主記憶部122に格納されているコンピュータプログラムやデータを用いて処理を実行する。これにより、画像処理装置120全体の動作制御を行うと共に、画像処理装置120が行うものとして後述する各処理を実行する。CPU121は、主記憶部122に格納されているコンピュータプログラムやデータを用いて処理を実行することで、後述する機能を実現する。主記憶部122は、RAM(Random Access Memory)等の記憶装置である。主記憶部122は、補助記憶部123からロードされたコンピュータプログラムやデータ、ネットワークI/F127を介して撮像装置110から受信、もしくはファイルから取得した各種のデータや画像を格納するためのエリアを有する。さらに主記憶部122は、CPU121が各種の処理を実行する際に用いるワークエリアを有する。このように主記憶部122は、各種のエリアを適宜提供することができる。
補助記憶部123は、HDD(Hard Disk Drive)、ROM(Read Only Memory)、SSD(Solid State Drive)等の大容量情報記憶装置である。補助記憶部123には、OS(オペレーティングシステム)や、画像処理装置120が行うものとして後述する各処理をCPU121に実行させるためのコンピュータプログラムやデータが保存されている。また補助記憶部123には、ネットワークI/F126を介して撮像装置110から受信した各種のデータや撮像画像、もしくは、ネットワーク130に接続された他の外部装置(画像サーバ等)から取得した画像等も保存される。補助記憶部123に保存されているコンピュータプログラムやデータは、CPU121による制御に従って適宜主記憶部122にロードされ、CPU121による処理対象となる。
入力部124は、例えばキーボードやマウス、タッチパネルなどのユーザインターフェースにより構成され、画像処理装置120のユーザが操作することで各種の指示を画像処理装置120に入力できる。表示部125は、液晶画面などにより構成されており、画像処理装置120による処理結果を画像や図、文字などでもって表示することができる。ネットワークI/F126は、画像処理装置120がネットワーク130を介して撮像装置110との間のデータ通信を行うために利用するインターフェースである。
図1(B)では、画像処理装置120が入力部124と表示部125とを備えた1つの装置としているが、入力部124と表示部125とを画像処理装置120とは別体としてもよい。また、表示部125は画像処理装置120と一体として入力部124を別体としてもよい。あるいは、入力部124は画像処理装置120と一体化させ表示部125を別体としてもよい。更には入力部124と表示部125とを一体化させつつ、画像処理装置120とは別体としてもよい。入力部124や表示部125を画像処理装置120とは別体とする場合には、画像処理装置120は、接続用のインターフェースを更に備えることができる。
次に、図2を参照して発明の実施形態に対応する画像処理装置120の機能構成について説明する。図2は、発明の実施形態に対応する画像処理装置120の機能構成の一例を示すブロック図である。以下、各機能ブロックが果たす機能について説明する。
通信部201は、ネットワーク130を介して撮像装置110と通信する。画像取得部202は、撮像装置110から通信部201を介して取得した画像、もしくは、補助記憶部123に記憶されている画像を、処理対象画像として取得する。画像は静止画であってもよいし、動画であってもよい。動画は、時間的な連続性(あるいは、関連性)を有する複数のフレーム画像により構成され、各フレーム画像(以下、簡単のため「画像」ともいう)が本実施形態における処理対象画像となる。なお、時間的に連続する複数の画像とは、撮像装置110によって撮像された動画の各フレーム画像を間引いた画像であってもよい。例えば、撮像装置110によって撮像された動画の各フレーム画像を所定の数ごとに1つ取得して、それを処理対象画像としてもよい。
人体検出部203は、処理対象画像を解析し、画像中に含まれる被写体である人体(人物)を検出する。本実施形態では、処理対象の被写体が人体である場合を説明するが、被写体には人体以外の車両などの有体物が含まれてもよい。人体追尾部204は、時間的に連続する複数の画像(フレーム)の間で検出された人体のうち、同一人体を識別して追尾する。
領域内外判定部205は、検出した人体の位置情報と設定された領域の位置情報とに基づいて、当該人物が領域の内側に存在するのか、或いは、領域の外側に存在するのかを判定する領域内外判定を行う。滞留時間計測部206は、設定された領域内に人体が滞留した滞留時間を計測する。滞留時間計測部206は、検出された人体毎に、滞留開始時刻、滞留終了時刻、滞留時間を、人体を識別する情報及び領域と関連付けて、「滞留単位」として補助記憶部123に保持する。
滞留単位調整部207は、滞留時間計測部206により生成された滞留単位の調整を行う。当該処理のことを、本実施形態では滞留単位調整処理と呼ぶ。滞留単位調整処理の詳細は後述する。滞留領域時間決定部208は、調整された滞留単位に基づいて、検出された各人体が滞留した判定領域を決定し、滞留時間を決定する。出力部209は、調整され決定された滞留単位を出力する。表示制御部210は、撮像装置110から通信部201を介して取得した画像、もしくは補助記憶部123に記憶されている画像を、複数の処理ブロック202から212を介して、表示部125に表示するための処理を行う。画像を表示する際に、滞留単位に基づく人体単位の滞留時間を表示させることもできる。表示制御部210は、画像処理装置120からの操作を受け付けるためのGUIを表示部125に表示することができる。
入力受付部211は、入力部124からの信号の取り込みを行う。画像処理装置120を操作するユーザは、入力部124を介して表示部125に表示されたGUIを操作し入力を行うことができる。後述する領域の設定等もGUIを介してユーザが行うことができる。領域設定部212は、画像内に領域を設定し、設定した領域に関する領域設定情報を保持する。一度設定した領域の領域設定情報は、次に変更が加えられるまで保持される。
以上の構成に基づき、画像処理装置120は、画像解析、設定、計測、出力等の処理を行う。上記の構成で、画像処理システム10において実行される処理の概要を説明する。まず、処理対象画像を解析して被写体となる人体を検出する。人体が画像内で複数検出された場合、時系列で個別に人体の同定を行い、同一の人体を追尾する(画像間において移動する人体の軌跡を追跡する)。また、画像内に領域が設定されている場合は、領域内に人体が滞留していた時間を計測する。時刻情報と共に計測した結果をファイル等に出力する。その際に、検出情報や追尾情報、設定情報を合わせて出力してもよい。また、検出情報やフレーム間の同一人体を識別する情報、設定情報、計測結果のいずれか一つ以上を表示部125に表示してもよい。
次に図3を参照して、画像内に判定領域を設定する方法を説明する。本実施形態において、画像処理システム10は、受付窓口や接客カウンタ、会計レジなど人が対応を受けるような場所に対して適用され、受付窓口に並ぶ人物を撮影し、対応に要した時間を測定する。よって、本実施形態では、対応窓口の各々に対して判定領域を設定する。例えば、本実施形態では、図3の対応窓口304で対応を受けた顧客毎の対応に要した時間をできるだけ正確に計測することを目的の一つとする。判定領域の設定は、判定領域301のように対応窓口304の向かい側に設定する。対応窓口305、対応窓口306で対応を受けた人毎の対応に要した時間を計測したい場合も同様である。判定領域を順に判定領域302、判定領域303のように各々の対応窓口の向かい側に設定する。
図3において、画像内に設定される複数の判定領域は、判定領域301から303のように互いに隣接し合って設定される。この場合、各判定領域内で検出される人体が、判定領域内を移動する過程において、領域の外に出てしまったり、或いは、隣の別の領域に入り込んでしまったりすることが考えられる。その場合であっても、検出人体に対応する各人物は自身が対応を受けている窓口の前に位置しているものであって、たまたま紛れ込んだ隣の領域に対応する窓口において対応を受けているわけではない。従って、人体が一時的に異なる領域で検出されたり、或いは、本来属していた領域の外に出たりした場合であっても、その時間は元の領域で対応を受けている時間に含めるべきと考えることができる。以下に説明する実施形態では、特定の領域外で人体が検出されることがあっても、特定の領域に滞在している時間として計測可能とする技術について説明する。
まず、図4のフローチャートを参照して画像処理システム10における全体的な処理の流れを説明する。ここでの処理は画像処理装置120が、画像処理装置120の内部の補助記憶部123から主記憶部122にプログラムを読み出して、CPU121がそのプログラムに基づいて実行する処理である。
画像処理装置120は、補助記憶部123に滞留時間などの情報を保持する。保持する情報は、検出された人体を識別する識別情報と、判定領域毎の滞留時間、滞留開始時刻及び滞留終了時刻の情報とを含み、これらをまとめて「滞留単位」と呼ぶ。補助記憶部123に保持された滞留単位の情報は、検出された人体の判定領域における滞留時間を計測するために使用される。この処理の手順について詳細を以下に説明する。
S401では、領域設定部212は、監視対象区域を撮影して得られた処理対象の画像において滞留時間を計測する判定領域を設定する。判定領域は1つ以上の任意の数を設定することができる。画像内に設定されたそれぞれの判定領域の位置情報は、補助記憶部123に保持される。続くS402では、画像取得部202は、処理対象の画像を取得する。画像取得部202は、通信部201を介して撮像装置110から画像を取得するか、もしくは、補助記憶部123に記憶された画像を取得する。処理対象画像が動画のフレーム画像である場合、1フレーム画像毎に撮影時刻の情報が付随している。当該撮影時刻の情報は、処理対象画像において人体が検出された時刻情報として利用することができる。続くS403では、人体検出部203は、取得した処理対象の画像を解析して人体を検出する。
続くS404では、人体追尾部204は、補助記憶部123に保持されている検出された人体の位置情報から、時間的に連続する画像間の同一人体を特定する。特定した人体に同一人体を識別するための識別情報を付与し、補助記憶部123に保持する。同一人体については共通の識別情報が付与され、時間的に連続するフレーム画像における人体の位置情報が当該識別情報と関連付けられることにより、画像間における同一人体の移動を追跡することができる。
続くS405では、領域内外判定部205は、補助記憶部123に保持されている検出された人体の位置情報と判定領域の位置情報とを取得して領域内外判定を行う。ここでは、判定領域の位置情報により特定される判定領域の範囲に人体の位置情報が含まれるか否かに基づいて、検出された人体が判定領域の内側にいるのか、それとも判定領域の外側にいるのかを判定することができる。また、判定領域が複数ある場合には、検出された人体がいずれの判定領域に属しているかを特定する。領域内外判定の結果は、補助記憶部123に保持する。
続くS406では、滞留時間計測部206は、補助記憶部123に保持されている画像毎の時刻情報と、人体の識別情報と、領域内外判定結果とを取得する。取得した情報に基づいて、滞留時間を計測する。例えば、ある判定領域で人体が検出された時刻を当該人体が検出された画像の撮像時刻に基づいて特定し、その後に同一人体が同一判定領域内にいないと判定されるまでの時間を累積して滞留時間とすることができる。滞留時間の開始時刻は、判定領域内で初めて人体が検出された画像の撮像時刻に相当する。また、滞留時間の終了時刻は、判定領域内で連続的に検出されていた人体が最後に検出された画像の撮像時刻に相当する。計測した滞留時間は、人体を特定するための識別情報と、領域を特定するための情報と関連付けられて補助記憶部123に保持される。
このとき、領域及び人体単位に生成された滞留時間の情報を「滞留単位」と呼ぶ。滞留時間計測部206は、同一の人体が同一の判定領域内で連続して検出されている間は、同一の滞留単位の情報を更新していく。例えば、滞留時間の終了時刻を現在の画像の撮像時刻に更新し、それに合わせて滞留時間を更新する。同一の人体が判定領域外に出た場合、新たな滞留単位を生成してその情報を更新し、判定領域内に戻った場合には、再度新たな滞留単位を生成して滞留時間の情報を更新していく。これにより、検出された人体が領域内外を移動する場合には、現在位置に応じた滞留単位が複数生成されることになる。
S407では、滞留単位調整部207は、補助記憶部123に保持している滞留単位を比較して、滞留単位を調整する。例えば、同一の人体について生成された滞留単位について、滞留時間が最も長い滞留単位を選択して、滞留時間の長さを調整することができる。滞留領域時間決定部208は滞留単位調整部207で調整した滞留単位に基づいて、出力部209が集計処理や出力処理、表示処理に使用する滞留した判定領域、滞留時間を決定する。出力部209では、選択された滞留単位は、適当なタイミングで出力してもよい。表示制御部210では、画像だけでなく、滞留単位の情報を表示してもよい。続くS408では、画像取得部202が、未処理の画像が存在するか否かを判定し、画像が存在する場合は、処理はS402に戻る。一方、未処理の画像が存在しない場合は、本処理を終了する。
次に図5を参照して、図4の処理に基づいて生成された測定結果を登録するテーブルのデータ構成の一例について説明する。図5は、発明の実施形態に対応する測定結果を登録するテーブルの一例を示す図である。
テーブル500の情報は、補助記憶部123に保持される。テーブル500の行は、各々の判定領域に滞留した滞留時間を含む滞留単位を人体毎に表す。列501は人体の判定領域内での滞留開始時刻を表す。列502は人体の判定領域内での滞留終了時刻を表す。列503は人体を一意に識別するための人体識別情報(追尾IDと呼ぶ)を登録する。この追尾IDにより、処理対象画像において検出された人体を、複数の画像間において一意に識別することができる。列504、列505、列506は判定領域で人体が滞留した滞留時間を表している。判定領域の設定数は処理が可能であれば、数の制限は設けなくてよい。また、滞留時間を「00:03:00」のように「時:分:秒」を各々二桁ずつ「:」で区切った形式で表しているが、滞留時間の表示の形式はこれに限らない。秒単位、ミリ秒単位などで表示をしてもよい。
図5に示した例では、検出された人体がそれぞれ同一の領域内に留まったまま、領域外にでることがない場合を示している。この場合には、滞留開始時刻611と滞留終了時刻612との差分が、そのまま対応する領域における滞留時間となる。これに対し、領域が近接して設定される場合には、同一人体が複数の領域で検出される場合がある。
そこで、図6を参照して、同一人体が複数の領域内で検出された場合の滞留単位調整処理について説明する。当該処理は、図4のS407における処理に相当する。本実施形態では、累計滞留時間が最も長い判定領域に対応する窓口で対応を受けたものと推定して、累計滞留時間が最長の滞留単位を選択する。詳細を以下に説明する。
図6(A)は、2つの隣接して設定された判定領域の間を人体が移動する様子の一例を示している。ユースケース600は、ある処理対象画像に設定された判定領域A601と判定領域B602とを切り出して示すものであり、判定領域上の点は、複数の画像フレームにおいて検出された同一人体の各位置を示している。また、矢印は移動の方向(経路、軌跡)を示している。
図6(B)は、ユースケース600に示す人体の測定結果の一例を示すテーブルである。テーブル610では、同一人体が複数の領域内で検出された場合の滞留情報を時刻順に滞留単位で示している。テーブル610の情報は補助記憶部123に保持されている。テーブル610に示す情報は、S407の滞留単位調整処理を行う前の情報である。
テーブル610の各行は、人体の各々の判定領域での滞留時間を含む滞留単位を表しており、登録されている項目は図5に示したものと基本的に同じである。列611は人体の判定領域内での滞留開始時刻を表す。列612は人体の判定領域内での滞留終了時刻を表す。列613は時間的に連続する画像間で同一人体を識別するための識別情報を表し、ここでは追尾IDで識別している。列614は判定領域A601に人体が滞留した滞留時間を表している。列615は判定領域B602に人体が滞留した滞留時間を表している。
テーブル610に示すように、検出された人体は、16:00:00から16:04:00の4分間は判定領域A601に滞在した後、16:04:05から16:04:15の10秒間だけ判定領域B602に滞在した。その後、判定領域A601に戻って2分20秒間滞在している。
次に図6(C)は、テーブル610のうち、同一の追尾ID613を有する滞留時間を抽出したテーブル620を示す。ここで、同一人体について複数の判定領域で滞留時間が記録されている場合、各判定領域における滞留時間の累計を求める。また、いずれの領域にも属していない時間の長さを領域外の累計滞留時間として求める。
列621はフレーム間の同一人体識別情報を表し、ここでは追尾IDで識別している。列622は判定領域A601における累計滞留時間を表している。追尾ID15の判定領域Aでの一回目の出入り時の滞留時間は00:04:00である。判定領域Aでの二回目の出入り時の滞留時間は00:02:20である。よって、判定領域Aでの累計滞留時間は00:06:20である。同様に、列623は判定領域B602における累計滞留時間を表している。追尾ID15の判定領域Bでの滞留時間は00:00:10である。よって、判定領域B602での累計滞留時間は00:00:10である。
列624は、判定領域A601及び判定領域B602のどの判定領域にも属さない判定領域外で人体が滞留した累計滞留時間を表している。追尾ID15の判定領域外での滞留時間は判定領域Aから判定領域Bへ移動する間の滞留時間00:00:05と判定領域Bから判定領域Aへ移動する間の滞留時間00:00:05とする。判定領域外の累計滞留時間は00:00:10とする。
テーブル620に示す例では、追尾ID15の人体は、判定領域A601の累計滞留時間622と判定領域B601の累積滞留時間623とを比較すると、前者が最も長いため、判定領域A601の滞留単位を選択する。判定領域外の累計滞留時間624は比較の対象にはしない。
図6(D)は、上記で選択した滞留単位に基づいて滞留時間を調整し、複数の滞留単位を統合した単独の滞留単位を示すテーブル630を示す。判定領域A601に一回目に入った滞留開始時刻と判定領域A601を二回目に出た滞留終了時刻を順に、追尾ID15の判定領域A601での滞留開始時刻、滞留終了時刻とする。滞留時間は、滞留開始時刻と滞留終了時刻の差分とし、滞留単位を一つに決定(統合)する。テーブル620に基づく処理の結果から、累計滞留時間が最も長い判定領域Aの滞留時間を00:06:40とする。判定領域B602の滞留時間は0にする。これにより得られた滞留単位により、テーブル610に示される滞留単位調整処理前の情報を更新する。
但し、最終的な滞留単位の決定結果はこれに限られるものではない。判定領域A601での一回目の出入り時の滞留単位と二回目の出入り時の滞留単位を統合せず、各々で保持してもよい。また、それぞれを保持する場合に、二回目の滞留時間が所定の時間よりも長い場合には別々に保持し、所定の時間以下の場合には統合するようにしてもよい。あるいは、一回目と二回目の間の領域外に滞留した時間が所定の時間よりも長い場合に、それぞれを別々に保持するようにしてもよい。このようにして、同一人体が複数の判定領域に滞留したことがある場合は、累計滞留時間が最も長い判定領域の滞留単位を基準として調整を行う。累計滞留時間が最長の判定領域を明確にすることで、実際に対応を受けた窓口等を特定する判断が容易になる。
次に図7のフローチャートを参照して、滞留単位調整処理の流れを説明する。S701〜S707の処理を、前回の処理対象画像で人体追尾が終了していない全人体それぞれについて繰り返す。人体全てに対してS701〜S707の処理が行われるまでの間行う。
S702では、滞留単位調整部207は、処理対象の人体について人体追尾処理が終了しているか否かを判定する。当該終了判定は、直前の処理対象画像には存在していた判定対象の人体が、現在の処理対象画像に存在しない場合に行うことができる。具体的に、滞留単位調整部207は、補助記憶部123に保持されている人体追尾情報と、処理対象となっている現在の画像の人体追尾情報とを比較する。比較の結果、保持されている人体追尾情報には含まれるが、現在の画像に存在しない人体がある場合は、当該人体については人体追尾が終了していると判定することができる。人体追尾が終了していると判定された場合、処理はS703進み、人体追尾が終了していないと判定された場合、処理はS707に進む。
S703では、滞留単位調整部207は、補助記憶部123に保持されている対象人体の滞留単位を取得する。そして、追跡IDに基づき特定される同一人体の同一判定領域の滞留単位の滞留時間を足して累計滞留時間を求める。続くS704では、滞留単位調整部207は、S703で求めた判定領域各々の累計滞留時間を比較する。S705では、滞留単位調整部207は、累計滞留時間が最長の判定領域の滞留単位を選択する。続くS706では、S705で選択された累計滞留時間が最長の判定領域の滞留単位に、他の滞留単位を統合する。以上の処理を、処理対象の画像において検出された全ての人体について繰り返す。
本実施形態によれば、受付窓口や接客カウンタ、会計レジなど人が対応を受けるような場所において、各々の人体の設定領域内の滞留時間を計測することが可能となるので、受付窓口等で対応に要した時間を正確に測定できる。更に、本実施形態では、累計滞留時間を調整し、その後、各窓口対応時間の平均時間を求めることが可能となるので、一人当たりの窓口対応時間を統計的に正確に計測できる。その結果、人員配置の最適化などの業務の効率化や改善に活用できる。
上述の実施形態では、各判定領域における累積滞留時間の長さに基づいて処理する場合を説明したが、これ以外にも例えば同一人体が判定領域各々で検出された回数の累計を計数して、判定領域内で検出回数が最も多い滞留単位を選択してもよい。
本実施形態では、人体毎に判定領域各々の滞留単位を保持し、判定領域各々の滞留時間を比較し、最も累積滞留時間が長い滞留単位を選択して、滞留時間の調整を行う。これにより検出された人体が判定領域内から判定領域外あるいは別の判定領域に移動して、判定領域内に戻った場合に、人体が判定領域の外に位置していた時間を滞留時間に含めることができる。また、検出人物と関連付けられる判定領域を一つの判定領域に絞り込むことができ、実際に対応を受けた窓口等を特定する判断が容易になる。
[実施形態2]
次に、発明の第2の実施形態について説明する。本実施形態では、人体が一時的に異なる判定領域もしくは、判定領域外に出入りしてしまう場合の滞留単位調整処理の他の例を説明する。実施形態1では、他の判定領域に出入りした時間を、累計滞留時間が最長の判定領域の滞留時間に統合する例を説明した。これに対して、本実施形態では、人体が一定時間内に異なる判定領域から元いた判定領域内に戻った場合の滞留単位調整処理について説明する。一定時間とはここでは、ある程度の短い時間を想定している。その場合は、異なる判定領域への出入りは無かったものとして計測する。詳細を以下に説明する。
本実施形態におけるシステム構成や画像処理装置120のハードウェア構成、ソフトウェア構成は実施形態1で図1(A)、図1(B)及び図2を参照して説明したものと同様であるので、本実施形態における説明は省略する。
次に図8(A)から図8(C)を参照して、本実施形態における、同一人体が複数の領域内で検出された場合の滞留単位調整処理について説明する。図8(A)は、1つ判定領域の内外を人体が移動する様子の一例を示している。ユースケース800は、ある処理対象の画像において判定領域A801を切り出して示すものであり、判定領域上の丸い点は、複数の画像フレームにおいて検出された同一人体の各位置を示している。また、矢印は移動の方向(経路、軌跡)を示している。
点802はフレーム001−Frameでの人体の検出位置を示している。点803から806は、それぞれフレーム002−Frameからフレーム005−Frameで検出された同一人体の検出位置を示している。図の矢印でも示しているように、フレーム番号順に時間が経過している。この場合、点804では人体は判定領域A801の外に出ている。その他の点は判定領域A801内で検出されている。
図8(B)は、ユースケース800に示す人体の検出結果の一例を示すテーブルである。テーブル810では、同一人体が判定領域の外に一時的に出て、その後戻ってくる場合の滞留情報を時刻順に滞留単位で示している。テーブル810の情報は補助記憶部123に保持される。テーブル810に示す情報は、滞留単位調整処理を行う前の情報である。
テーブル810の行は、人体毎の各々の判定領域での滞留時間を含む滞留単位を表す。行811は追尾ID15の人体が判定領域A801に滞留した滞留単位を表している。行812は追尾ID15の人体が判定領域外に滞留した滞留単位を表している。行813は追尾ID15の人体が判定領域A801に滞留した滞留単位を表している。この場合、判定領域外には00:00:10の10秒しか滞留していない。本実施形態では、人体が一時的に判定領域外の異なる判定領域に出入りした場合、もしくは一時的に領域外に出入りした場合の滞留時間が閾値以下の場合は、一時的な出入りは無かったものとする。ここでは、一例として閾値を20秒以下とすると、判定領域外へ出入りした時間が閾値よりも短かった場合は、当該時間を判定領域A801での滞留時間に含めることとする。このとき、一時的に判定領域外に出入りした滞留単位812を削除し、判定領域A801に滞留していたときの滞留単位811と滞留単位813とを統合する。
図8(C)のテーブル820は、判定領域A801に滞留している際の2つの滞留単位811と滞留単位813とを統合した滞留単位を示す。テーブル820において、滞留開始時刻821は、行811の滞留開始時刻とする。また、滞留終了時刻822は、行813の滞留終了時刻とする。判定領域A801の滞留時間を滞留開始時刻821と滞留終了時刻822との差分とする。ここでは16:00:00と16:05:00の差分00:05:00が追尾ID15の人体が判定領域A801で滞留した滞留時間となる。つまり、判定領域外に出入りしたことは無かったこととする。その結果、対応を受けたと考えられる一つの判定領域を容易に決定することができる。
また、一時的に異なる判定領域、もしくは判定領域外に出入りしたとしてもその間の時間は元いた判定領域の滞留時間に加える。継続して一つの判定領域に滞留しているように滞留時間を調整することで、実際に対応を受けた窓口等を特定する判断が容易になる。また、実際に対応に要した時間をより正確に決定することができる。
次に図9のフローチャートを参照して、本実施形態における滞留単位調整処理の流れを説明する。S901〜S905の処理を、前回の処理対象画像で人体追尾が終了していない人体それぞれについて繰り返す。人体全てに対してS901〜S905の処理が行われるまでの間行う。
S902では、滞留単位調整部207は、処理対象の人体が現在の処理対象画像において滞留している判定領域が、それ以前に滞留していた判定領域であるか否かを判定する。この判定は、処理対象の人体が、以前に滞留していた判定領域の外に出た後に、また戻ってきたかどうかを判定する処理である。具体的には、補助記憶部123に保持されている処理対象の人体の滞留単位を取得し、現在滞留している判定領域と比較する。一回でも滞留したことがある判定領域と判定された場合は、処理はS903に進み、一回も滞留したことがない場合は処理はS905に進む。
S903では、滞留単位調整部207は、現在判定領域に滞留している滞留単位の滞留開始時刻と同一の判定領域に滞留した滞留単位の滞留終了時刻との差分を求める。求めた差分は、一時的に異なる判定領域、もしくは判定領域外に出入りした時間を示す。また、当該差分は、異なる判定領域と判定領域外との両方に滞留した時間の合計を示すこともできる。当該差分と閾値とを比較して、差分が閾値以下の場合、処理はS904に進む。差分が閾値より大きい場合には処理はS905に進む。S904においては、算出した差分を現在判定領域の滞留時間に含めるように処理する。これにより一時的に異なる領域に出入りしたことは無かったこととすることができる。具体的には、異なる領域に滞留した滞留単位を削除し、元いた判定領域に滞留していた時の滞留単位と統合する。統合した結果の滞留単位を統合単位と呼ぶことにする。最初に滞留した時の滞留単位の滞留開始時刻を統合滞留単位の滞留開始時刻とする。そして、最後に滞留した時の滞留単位の滞留終了時刻を統合滞留単位の滞留終了時刻とする。統合滞留単位の滞留時間は、統合滞留単位の滞留開始時刻と統合滞留単位の滞留終了時刻の差分とする。以上の処理を、処理対象の画像において検出された全ての人体について繰り返す。
以上、説明したように、本実施形態では、人体が一時的に異なる判定領域もしくは、判定領域外に出入りしてしまう場合に滞留単位を調整する。当該調整により、異なる判定領域への出入りは無かったものとして滞留時間を決定することができる。一時的に異なる領域にいた時間が閾値以下であれば、元の判定領域に滞留していたとして滞留時間を統合する。一時的に出入りした余分な情報を削除することで、容易に一つの判定領域を決定できる。つまり、実際に対応を受けた窓口等を特定する判断が容易になる。また、同一判定領域の最初に滞留した時の滞留開始時刻と最後に滞留した時の滞留終了時刻の差分を求め、滞留時間を統合している。その結果、実際に対応を受けた時間をより正確に決定することができる。
[実施形態3]
次に、発明の第3の実施形態について説明する。監視対象区域を撮像している場合に、判定対象領域内で検出される人体には、当該領域に滞留している人体の他に、当該領域を通過する人体が含まれる可能性がある。このような人体は、滞留時間を計測する対象から除外すべきであり、本実施形態では異なる判定領域を通過する人体のための滞留単位調整処理を説明する。
本実施形態では、人体が判定領域を通過する際の移動速度を求め、移動速度と速度の閾値とを比較して、閾値以下の移動速度の場合に、該当する判定領域で対応を受けていたと判定する。一方、移動速度が閾値よりも速い場合には、当該人体は判定領域を追加しているだけであって判定領域で対応を受けてはいないとみなして、処理対象から除外する。詳細を以下に説明する。
本実施形態におけるシステム構成や画像処理装置120のハードウェア構成、ソフトウェア構成は実施形態1で図1(A)、図1(B)及び図2を参照して説明したものと同様であるので、本実施形態における説明は省略する。
次に、図10を参照して、本実施形態における滞留単位調整処理について説明する。図10は、2つ隣接して設定された判定領域の内外を人体が移動する様子の一例を示している。ユースケース1000は、ある処理対象の画像において判定領域A1001及び判定領域B1002を切り出して示すものであり、判定領域上の人物図形は、複数の画像フレーム(001−Frameから004−Frame)において検出された同一人体の各位置を示している。また、点線は移動の経路(軌跡)を示している。
人物図形1003は、フレーム001−Frameにおいて検出された人物の位置を示している。同様に、人物図形1004から1006は、フレーム002−Frame〜0004−Frameで検出された同一人物の位置を示している。このときフレーム番号の増加は時間の経過に対応する。
図10で示す例では、フレーム001−Frameにおいて検出された人物1003の位置は、判定領域外となっている。その後、同一人物は、フレーム002−Frameにおいて判定領域B1002内の人物図形1004の位置で検出され、更に、フレーム003−Frameとフレーム004−Frameにおいて判定領域A1001で人物図形1005、1006の位置で検出されている。このとき、人物図形1003の位置から人物図形1004の位置まで移動するのに要した時間を時間1とする。また、人物図形1004の位置から人物図形1005の位置へ移動するのに要した時間を時間2とする。さらに、人物図形1005の位置から人物図形1006の位置へ移動するのに要した時間を時間3とする。
ここで、簡単のためそれぞれの移動時間である時間1、時間2及び時間3の時間は全て等しいものとする。そして、時間1の間に移動した距離が最も長く、時間2の間に移動した距離が二番目に長く、時間3に移動した距離が最も短いとする。よって、速度は時間1の間に移動した速度が最も速く、次いで時間2の間に移動した速度、時間3の間に移動した速度の順で速度が遅くなる。
例えば、時間3における移動速度が速度の閾値よりも遅く、それ以外の移動速度が当該閾値よりも速い場合、判定領域A1001に向かって移動していたと推測できる。この場合、滞留時間として測定する意味があるのは判定領域A1001内に滞留した時間であって、それ以前の人物図形1003、1004の位置における時間は計測する必要がない。本実施形態では、移動速度に基づいて判定領域A1001内での滞留時間を効率的に測定するための方法を説明する。
ここで、図11のフローチャートを参照して本実施形態における滞留単位調整処理の流れを説明する。S1101〜S1110の処理を、時系列的に前回の処理対象画像で人体追尾が終了していない各々の人体について繰り返す。人体全てに対して、S1101〜S1110の処理が完了するまでの間行う。
S1102では、滞留単位調整部207は、補助記憶部123に保持されている対象の人体の領域内外判定結果が判定領域内であるかを確認する。領域内外判定結果は、後述するように図4のS405において領域内外判定処理を行った際に既に補助記憶部123に保持されている。人体が判定領域内である場合は、処理はS1103進み、判定領域外である場合は、処理はS1109に進む。
続くS1103では、滞留単位調整部207は、補助記憶部123に保持されている対象の人体の人体追尾の結果から人体の移動速度が速度の閾値以下であるかを判定する。人体の移動速度は、S404において人体追尾処理を行った際に既に補助記憶部123に保持されている。人体の移動速度が閾値以下である場合は、処理はS1104に進み、人体の移動速度が閾値より大きい(速い)場合は、処理はS1106に進む。続くS1104では、滞留単位調整部207は、移動速度が閾値以下で遅いので処理対象の人材が現在の判定領域に滞留していると判定する。続くS1105では、滞留単位調整部207は、処理対象の人体の前回の処理対象画像に基づき生成、或いは、更新された滞留単位を、現在の計測結果が反映された現在の滞留単位に更新する。前回の滞留単位がない場合は新規に用意する。
S1106では、滞留単位調整部207は、移動速度が閾値より速いので、処理対象の人材が現在の判定領域を通過していると判定する。続くS1107では、現在の判定領域が前回と同じ判定領域であるかを確認する。前回と同じ判定領域の場合、処理はS1108に進み、前回とは異なる判定領域の場合は、S1109に進む。S1108では、対象の人体の現在の計測結果が反映された現在の滞留単位を前回の滞留単位の値に戻す。これにより、滞留時間の計測がされなかったこと同等の状態にする。S1109では、対象の人体の前回の滞留単位と、現在の滞留単位の値とを共に削除する。これにより、判定領域を通過しているだけの人体については判定領域の滞留時間の計測はしない。
次に本実施形態に対応する図4のフローチャートの処理の変更部分について以下で説明する。以下の説明においては、本実施形態に対応して実施形態1とは処理が異なる部分のみを説明し、それ以外の部分は実施形態1において既に説明済みであるので説明を省略する。
S404では、実施形態1で説明した処理に追加して、直前の処理対象画像と現在の処理対象画像の間における人体の位置情報と、各々の処理対象画像の時刻情報に基づいて、人体の移動速度を決定する速度決定処理を行い、決定した移動速度を補助記憶部123に保持する。続くS405では、実施形態1で説明した処理に追加して、人体の移動速度を閾値と比較して、比較結果に基づいて領域内外判定を行う。具体的には、移動速度が閾値以下の場合は、移動速度が遅いとし、対象の判定領域内で滞留中であると判定し、かつ、判定領域内であると判定する。一方、人体の移動速度が閾値以下でない場合、移動速度が速いので、対象の判定領域内は通過したと判定し、かつ、判定領域外と判定する。
続くS406では、滞留時間計測部206は、補助記憶部123に保持されている各画像の撮像時刻に基づく時刻情報と、人体の識別情報、領域内外判定結果を取得する。滞留時間計測部206は、実施形態1で記載したのと同様の処理により前回の滞留単位を更新して現在の滞留単位を生成する。このとき、生成した現在の滞留単位は、前回の滞留単位には上書きせず、別途補助記憶部123に保存する。保存された前回の滞留単位と現在の滞留単位とは、図11の処理の流れに応じて更新されたり削除されたりする。
このようにして、人体の移動速度が閾値以下の場合は、対象の判定領域内で滞留中であると判断し、滞留時間を計測する。一方、人体の移動速度が閾値以下でない場合は、対象の判定領域内は通過したと判定し、対象の判定領域の滞留時間の計測はしない。
また、上記では人体の移動速度に基づいて人体が判定領域を通過したか否かを判定していたが、判定は移動速度に寄らなくてもよい。例えば、フレーム間の人体の移動距離を求め、移動距離の大きさに基づいて、移動距離が閾値以下の場合には滞留中と判定し、閾値より大きい場合は通過していると判定してもよい。
以上、説明したように、本実施形態によれば、判定領域を通過する場合に滞留単位を調整することができる。具体的には、移動速度の閾値を設け、速度が閾値以下であれば、判定領域内として滞留時間を計測する。閾値より大きければ、通過しているとして判定領域外として、判定領域外と同等の扱いとする。このように、人体が判定領域を単に通過しただけの場合に、当該人体の滞留時間を計測することを効果的に防止できる。その結果、実際に対応を受けた窓口等を特定することが容易になる。
以上、発明の例示的な実施形態について説明したが、発明はこれらの実施形態に限定されることなく、その要旨の範囲内で種々の変形および変更が可能である。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
10:システム、110:撮像装置、120:画像処理装置、130:ネットワーク

Claims (11)

  1. 処理対象画像に被写体を検出する領域を設定する設定手段と、
    時間的に連続する複数の処理対象画像を解析し、被写体を検出する検出手段と、
    前記時間的に連続する複数の処理対象画像における前記被写体の検出結果に基づいて、前記被写体が前記領域内に滞留している滞留時間を決定する決定手段と
    を備え、
    前記決定手段は、前記被写体が前記領域内から前記領域外に移動して、前記領域内に戻った場合に、前記被写体が前記領域外に位置していた時間を前記滞留時間に含めることを特徴とする画像処理装置。
  2. 前記決定手段は、前記被写体が前記領域内において最初に検出されてから、前記領域内で最後に検出されるまでの時間により、前記滞留時間を決定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記決定手段は、前記被写体が前記領域外に位置していた時間が第1の閾値以下である場合に、前記被写体が前記領域外に位置していた時間を前記滞留時間に含めることを特徴とする請求項1に記載の画像処理装置。
  4. 前記設定手段は、第1の領域と第2の領域とを設定し、
    前記決定手段は、前記第1の領域と前記第2の領域のうち、前記被写体が滞留している時間の合計がより長い領域について、前記滞留時間を決定することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  5. 前記被写体が前記領域外に位置していた時間には、前記第1の領域と前記第2の領域のうち、前記被写体が滞留している時間の合計がより短い領域に前記被写体が滞留していた時間が含まれることを特徴とする請求項4に記載の画像処理装置。
  6. 前記複数の時間的に連続する処理対象画像における前記被写体の検出結果に基づいて、前記被写体の移動速度を決定する速度決定手段をさらに備え、
    前記決定手段は、前記被写体の前記領域内における前記移動速度が第2の閾値以下の場合に、前記被写体の前記領域内における滞留時間を決定することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
  7. 前記決定手段は、前記被写体の前記領域内における前記移動速度が前記第2の閾値より大きい場合に、前記被写体が前記領域内に滞留している時間を前記滞留時間に含めないことを特徴とする請求項6に記載の画像処理装置。
  8. 前記決定手段は、前記被写体の前記移動速度が前記第2の閾値より大きく、かつ、前記被写体が前記領域とは異なる領域に移動した場合、前記被写体が前記領域内に滞留している時間を前記滞留時間に含めないことを特徴とする請求項6または7に記載の画像処理装置。
  9. 所定の領域を撮像して画像を生成する撮像装置と、
    前記撮像装置により生成された画像を処理する請求項1から8のいずれか1項に記載の画像処理装置と
    を備えるシステム。
  10. 設定手段が、処理対象画像に被写体を検出する領域を設定する設定工程と、
    検出手段が、時間的に連続する複数の処理対象画像を解析し、被写体を検出する検出工程と、
    決定手段が、前記時間的に連続する複数の処理対象画像における前記被写体の検出結果に基づいて、前記被写体が前記領域内に滞留している滞留時間を決定する決定工程と
    を含み、
    前記決定工程では、前記被写体が前記領域内から前記領域外に移動して、前記領域内に戻った場合に、前記被写体が前記領域外に位置していた時間を前記滞留時間に含めることを特徴とする画像処理装置の制御方法。
  11. コンピュータを請求項1から8のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2018228322A 2018-12-05 2018-12-05 画像処理装置、画像処理システム、画像処理装置の制御方法、及び、プログラム Active JP7299692B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018228322A JP7299692B2 (ja) 2018-12-05 2018-12-05 画像処理装置、画像処理システム、画像処理装置の制御方法、及び、プログラム
EP19209916.6A EP3663969A1 (en) 2018-12-05 2019-11-19 Information processing apparatus, method of controlling information processing apparatus, and non-transitory computer-readable storage medium
US16/699,968 US11521413B2 (en) 2018-12-05 2019-12-02 Information processing apparatus, method of controlling information processing apparatus, and non-transitory computer-readable storage medium
CN201911225367.2A CN111353374A (zh) 2018-12-05 2019-12-04 信息处理设备及其控制方法以及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018228322A JP7299692B2 (ja) 2018-12-05 2018-12-05 画像処理装置、画像処理システム、画像処理装置の制御方法、及び、プログラム

Publications (2)

Publication Number Publication Date
JP2020091649A true JP2020091649A (ja) 2020-06-11
JP7299692B2 JP7299692B2 (ja) 2023-06-28

Family

ID=68732641

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018228322A Active JP7299692B2 (ja) 2018-12-05 2018-12-05 画像処理装置、画像処理システム、画像処理装置の制御方法、及び、プログラム

Country Status (4)

Country Link
US (1) US11521413B2 (ja)
EP (1) EP3663969A1 (ja)
JP (1) JP7299692B2 (ja)
CN (1) CN111353374A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022025127A1 (ja) * 2020-07-28 2022-02-03 株式会社日立産業制御ソリューションズ 動画解析装置及び動画解析方法
JP7302088B1 (ja) * 2022-12-28 2023-07-03 セーフィー株式会社 システムおよびプログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7329967B2 (ja) 2019-05-23 2023-08-21 キヤノン株式会社 画像処理装置、システム、画像処理装置の制御方法、及び、プログラム
JP7370840B2 (ja) 2019-12-09 2023-10-30 キヤノン株式会社 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011086045A (ja) * 2009-10-14 2011-04-28 Giken Torasutemu Kk 店員顧客分離集計装置
JP5683663B1 (ja) * 2013-09-27 2015-03-11 パナソニックIpマネジメント株式会社 滞留時間測定装置、滞留時間測定システムおよび滞留時間測定方法
JP6413068B1 (ja) * 2017-11-29 2018-10-31 株式会社 プロネット 情報処理システム、情報処理方法、情報処理プログラム、および情報処理装置
JP2018185639A (ja) * 2017-04-25 2018-11-22 株式会社構造計画研究所 スケジューリングシステム、スケジューリング方法及びプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4541316B2 (ja) * 2006-04-06 2010-09-08 三菱電機株式会社 映像監視検索システム
JP4621716B2 (ja) * 2007-08-13 2011-01-26 東芝テック株式会社 人物行動分析装置,方法及びプログラム
JP4510112B2 (ja) * 2008-04-11 2010-07-21 東芝テック株式会社 動線解析装置
US8271497B2 (en) * 2009-12-03 2012-09-18 Sony Computer Entertainment Inc. Information processing apparatus and information processing method outputting information on movement of person
JP5962916B2 (ja) * 2012-11-14 2016-08-03 パナソニックIpマネジメント株式会社 映像監視システム
JP6364743B2 (ja) * 2013-10-31 2018-08-01 株式会社Jvcケンウッド 情報処理装置、制御方法、プログラム、及び情報システム
JP5789776B2 (ja) 2014-04-28 2015-10-07 パナソニックIpマネジメント株式会社 滞留時間測定装置、滞留時間測定システムおよび滞留時間測定方法
JP5907362B1 (ja) * 2014-10-08 2016-04-26 パナソニックIpマネジメント株式会社 活動状況分析装置、活動状況分析システムおよび活動状況分析方法
JP5906556B1 (ja) * 2014-10-17 2016-04-20 パナソニックIpマネジメント株式会社 モニタリング装置、モニタリングシステムおよびモニタリング方法
JP6478777B2 (ja) 2015-04-13 2019-03-06 キヤノン株式会社 制御装置及びその制御方法、プログラム
BR112018068324A8 (pt) 2016-03-30 2023-04-04 Nec Corp Aparelho de análise, método de análise, e programa
JP6256885B2 (ja) 2016-03-31 2018-01-10 パナソニックIpマネジメント株式会社 施設内活動分析装置、施設内活動分析システムおよび施設内活動分析方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011086045A (ja) * 2009-10-14 2011-04-28 Giken Torasutemu Kk 店員顧客分離集計装置
JP5683663B1 (ja) * 2013-09-27 2015-03-11 パナソニックIpマネジメント株式会社 滞留時間測定装置、滞留時間測定システムおよび滞留時間測定方法
JP2018185639A (ja) * 2017-04-25 2018-11-22 株式会社構造計画研究所 スケジューリングシステム、スケジューリング方法及びプログラム
JP6413068B1 (ja) * 2017-11-29 2018-10-31 株式会社 プロネット 情報処理システム、情報処理方法、情報処理プログラム、および情報処理装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022025127A1 (ja) * 2020-07-28 2022-02-03 株式会社日立産業制御ソリューションズ 動画解析装置及び動画解析方法
JP2022024915A (ja) * 2020-07-28 2022-02-09 株式会社 日立産業制御ソリューションズ 動画解析装置及び動画解析方法
JP7302088B1 (ja) * 2022-12-28 2023-07-03 セーフィー株式会社 システムおよびプログラム

Also Published As

Publication number Publication date
JP7299692B2 (ja) 2023-06-28
EP3663969A1 (en) 2020-06-10
CN111353374A (zh) 2020-06-30
US11521413B2 (en) 2022-12-06
US20200184205A1 (en) 2020-06-11

Similar Documents

Publication Publication Date Title
JP7299692B2 (ja) 画像処理装置、画像処理システム、画像処理装置の制御方法、及び、プログラム
KR102164863B1 (ko) 정보 처리장치 및 그 방법과, 컴퓨터 판독가능한 기억매체
JP5962916B2 (ja) 映像監視システム
US9842409B2 (en) Image transmission device, image transmission method, image transmission program, image recognition and authentication system, and image reception device
CN106488115B (zh) 用于追踪并传感追踪目标的图像传感设备的控制装置及方法
CN109740590B (zh) 基于目标跟踪辅助的roi精确提取方法及***
CN109740589B (zh) 视频模式中的异步对象roi检测方法及***
US20150146006A1 (en) Display control apparatus and display control method
JP2017211760A (ja) 画像処理システム、画像処理方法および撮像装置
JP6991737B2 (ja) 情報処理装置、情報処理方法及びプログラム
US20180144198A1 (en) Information processing apparatus, information processing method, and storage medium
JP2018207175A (ja) 人数管理装置、人数管理方法およびプログラム
US20120120309A1 (en) Transmission apparatus and transmission method
JP6399096B2 (ja) 情報処理装置、表示方法およびコンピュータプログラム
JP6555481B2 (ja) 映像監視システム
US10783365B2 (en) Image processing device and image processing system
JP2018116405A (ja) 情報処理装置、情報処理方法及びプログラム
JP6597838B1 (ja) 動線分析装置、動線分析方法、および動線分析システム
JPWO2020003764A1 (ja) 画像処理装置、移動装置、および方法、並びにプログラム
JP6452738B2 (ja) 画像処理装置、画像処理方法及びプログラム
US10339660B2 (en) Video fingerprint system and method thereof
JP2018092507A (ja) 画像処理装置、画像処理方法及びプログラム
JP7129920B2 (ja) 撮像装置
JP6658402B2 (ja) フレームレート判定装置、フレームレート判定方法及びフレームレート判定用コンピュータプログラム
JP2010087937A (ja) 映像検出装置、映像検出方法および映像検出プログラム

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230616

R151 Written notification of patent or utility model registration

Ref document number: 7299692

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151