JP5909711B1 - 動線分析システム及び動線表示方法 - Google Patents

動線分析システム及び動線表示方法 Download PDF

Info

Publication number
JP5909711B1
JP5909711B1 JP2015120646A JP2015120646A JP5909711B1 JP 5909711 B1 JP5909711 B1 JP 5909711B1 JP 2015120646 A JP2015120646 A JP 2015120646A JP 2015120646 A JP2015120646 A JP 2015120646A JP 5909711 B1 JP5909711 B1 JP 5909711B1
Authority
JP
Japan
Prior art keywords
flow line
image
information
line analysis
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015120646A
Other languages
English (en)
Other versions
JP2017004443A (ja
Inventor
高橋 秀明
秀明 高橋
哲生 田山
哲生 田山
隆恵 小口
隆恵 小口
晋平 萩巣
晋平 萩巣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2015120646A priority Critical patent/JP5909711B1/ja
Priority to US15/536,572 priority patent/US20170330434A1/en
Priority to PCT/JP2016/001685 priority patent/WO2016203678A1/ja
Application granted granted Critical
Publication of JP5909711B1 publication Critical patent/JP5909711B1/ja
Publication of JP2017004443A publication Critical patent/JP2017004443A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19645Multiple cameras, each having view on one of a plurality of scenes, e.g. multiple cameras for multi-room surveillance or for tracking an object by view hand-over
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/292Multi-camera tracking
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19604Image analysis to detect motion of the intruder, e.g. by frame subtraction involving reference image or background adaptation with time to compensate for changing conditions, e.g. reference image update on detection of light level change
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19654Details concerning communication with a camera
    • G08B13/19656Network used to communicate with a camera, e.g. WAN, LAN, Internet
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19682Graphic User Interface [GUI] presenting system data to the user, e.g. information on a screen helping a user interacting with an alarm system
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19686Interfaces masking personal details for privacy, e.g. blurring faces, vehicle license plates

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Processing (AREA)

Abstract

【課題】広範な撮像領域に映る人物のプライバシーを適切に保護し、広域な撮像領域における人物の滞留情報又は通過情報を容易かつ正確に確認可能な動線分析画像を表示する。【解決手段】カメラ装置100は、カメラ装置ごとの異なる撮像領域を撮像する撮像部10と、撮像領域の撮像画像の背景画像を、所定のタイミングで繰り返し生成する背景画像生成部30と、撮像画像に含まれる移動体の撮像領域における滞留位置又は通過位置に関する動線情報を抽出する動線情報分析部40と、所定の送信周期ごとに、背景画像と移動体の動線情報とをサーバ装置に送信する送信部60と、を備える。サーバ装置300は、撮像画像の背景画像と移動体の動線情報との重畳に基づく動線分析画像を、カメラ装置ごとに取得し、取得した複数の動線分析画像を用いて、広域動線分析画像を生成する画像生成部350と、広域動線分析画像を表示部に表示させる表示制御部と、を備える。【選択図】図2

Description

本発明は、カメラ装置の撮像により得られた画像に、人物の滞留情報又は通過情報を重畳した動線分析画像を表示する動線分析システム及び動線表示方法に関する。
カメラ装置が設置された撮影現場における時間ごとの人物の活動量レベルをヒートマップ画像として表示する先行技術として、例えば特許文献1が知られている。
特許文献1では、ネットワークを介して接続されたセキュリティカメラが設置された撮影現場における人物の動線を分析して活動量レベルを算出し、撮影現場の床配置図にセンサの検出結果を重畳したヒートマップ画像を生成し、セキュリティカメラに対応したブラウザの画面上にヒートマップ画像を表示することが開示されている。これにより、ブラウザの画面上に表示されたヒートマップ画像を閲覧することにより、撮影現場における人物の活動量レベルが把握可能となる。
また、特許文献1に示す床配置図とは異なり、カメラ装置が撮像した画像上に、人物の動線密度や人数検出結果を重畳したヒートマップ画像を生成して表示する技術も提案されている(例えば非特許文献1参照)。
ここで、特許文献1における床配置図にセンサの検出結果を重畳させる場合、床配置図とセキュリティカメラの撮影現場における画像とが正確にマッチング(一致)していることが必要となるが、特許文献1では床配置図は変更されず不変であるため、ヒートマップ画像の元となる床配置図と画像とはマッチングする。
特開2009−134688号公報
"今までなかった360°をたった一台で監視できる!革新的監視カメラMOBOTIX Q24",[online],株式会社オーピーエヌ,2014,[retrieved on 2014−06−16],Retrieved from the Internet:<URL:http://www.opn−web.com/mobotix/index.htm>.
ここで、カメラ装置が所定の撮像領域(例えば店舗内の予め決められた位置)を撮像し、更に、店舗内の商品棚等の配置に関するレイアウトが変更される場合を考える。
カメラ装置の撮像により得られた画像に、人物の滞留情報又は通過情報を重畳したヒートマップ画像を生成する際、店舗内のレイアウトが変更されると、変更前に得られた人物の滞留情報又は通過情報と変更後にカメラ装置の撮像により得られた画像とがマッチングしないため、正確な滞留情報又は通過情報のヒートマップ画像が得られない。
このため、店舗内のレイアウトが変更される度に、特許文献1ではレイアウトの床配置図を変更する必要があり、非特許文献1ではヒートマップ画像の元となる画像がカメラ装置の撮像により得られた画像であるため、この画像では人物が映ってしまうことになり当該人物のプライバシーが的確に保護されないという課題が生じる。また、大型の店舗等においては、店舗内の様子を監視するために複数のカメラ装置が必要となることが多いが、特許文献1や非特許文献1の構成では、このような大型の店舗等における人物(例えば顧客)の正確な滞留情報又は通過情報の広範なヒートマップ画像を得ることは困難である。
本発明は、上述した従来の課題を解決するために、広範な撮像領域に映る人物のプライバシーを適切に保護し、広域な撮像領域における人物の滞留情報又は通過情報を容易かつ正確に確認可能な動線分析画像を表示する動線分析システム及び動線表示方法を提供することを目的とする。
本発明は、複数のカメラ装置とサーバ装置とが相互に接続された動線分析システムであって、前記カメラ装置は、前記カメラ装置ごとの異なる撮像領域を撮像、前記撮像領域の撮像画像の背景画像を繰り返し生成、前記撮像画像に含まれる移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出、所定の送信周期ごとに、前記生成された前記背景画像と、前記抽出された前記移動体の動線情報とを前記サーバ装置に送信、前記サーバ装置は、前記撮像画像の背景画像と前記移動体の動線情報との重畳に基づく動線分析画像を、前記カメラ装置ごとに取得し、前記取得した複数の前記動線分析画像を用いて、広域動線分析画像を生成、前記生成された前記広域動線分析画像を表示部に表示させる、動線分析システムである。
また、本発明は、複数のカメラ装置とサーバ装置とが相互に接続された動線分析システムにおける動線表示方法であって、前記カメラ装置において、前記カメラ装置ごとの異なる撮像領域を撮像し、前記撮像領域の撮像画像の背景画像を繰り返し生成し、前記撮像画像に含まれる移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、所定の送信周期ごとに、前記生成された前記背景画像と、前記抽出された前記移動体の動線情報とを前記サーバ装置に送信し、前記サーバ装置において、前記撮像画像の背景画像と前記移動体の動線情報との重畳に基づく動線分析画像を、前記カメラ装置ごとに取得し、前記取得した複数の前記動線分析画像を用いて、広域動線分析画像を生成し、前記生成された前記広域動線分析画像を表示部に表示させる、動線表示方法である。
本発明によれば、広範な撮像領域に映る人物のプライバシーを適切に保護することができ、広域な撮像領域における人物の滞留情報又は通過情報を容易かつ正確に確認可能な動線分析画像を表示することができる。
本実施形態の動線分析システムを含む販売管理システムのシステム構成を詳細に示すシステム構成図 本実施形態のカメラ装置及びサーバ装置のそれぞれの機能的な内部構成を詳細に示すブロック図 本実施形態のカメラ装置の背景画像生成部の動作概要の説明図 (A)画像入力部に入力された撮像画像の一例を示す図、(B)背景画像生成部により生成された背景画像の一例を示す図 本実施形態のカメラ装置の画像入力、背景画像生成、動線情報分析の各処理の動作タイミングを説明するタイムチャート 本実施形態のカメラ装置が定期的に送信処理を行う場合のタイムチャート 本実施形態のカメラ装置がイベントの検出に応じて送信処理の動作タイミングを変更する場合のタイムチャート 本実施形態のカメラ装置がイベントの検出前後では送信処理を省略する場合のタイムチャート 本実施形態のカメラ装置が複数個設置された食料品売場のレイアウトの一例を示す図 本実施形態のサーバ装置の表示画像生成部により生成された店舗Aの動線分析画像を含む運用画面の一例を示す図 本実施形態のサーバ装置の表示画像生成部により生成された店舗Aの動線分析画像を含む運用画面の他の一例を示す図 本実施形態のサーバ装置のレポート生成出力部により生成された2014年5月度の店舗Aの食料品売場における月例報告書の運用画面の一例を示す図 本実施形態の変形例のカメラ装置の機能的な内部構成を詳細に示すブロック図 本実施形態のカメラ装置及びサーバ装置のそれぞれの機能的な内部構成の他の第1例を詳細に示すブロック図 本実施形態のカメラ装置及びサーバ装置のそれぞれの機能的な内部構成の他の第2例を詳細に示すブロック図 店舗の或る広いフロアの商品棚に関するレイアウトの一例を示す図 広域動線分析画像の生成手順の一例を示す模式図 (A)複数のカメラ装置とサーバ装置との間における広域動線分析画像の生成及び表示に関する動作手順の第1例を説明するフローチャート、(B)複数のカメラ装置とサーバ装置との間における広域動線分析画像の生成及び表示に関する動作手順の第2例を説明するフローチャート (A)複数のカメラ装置とサーバ装置との間における広域動線分析画像の生成及び表示に関する動作手順の第3例を説明するフローチャート、(B)複数のカメラ装置とサーバ装置との間における広域動線分析画像の生成及び表示に関する動作手順の第4例を説明するフローチャート
以下、適宜図面を参照しながら、本発明に係る動線分析システム及び動線表示方法を具体的に開示した実施形態(以下、「本実施形態」という)を詳細に説明する。なお、本発明は、カメラ装置が動線分析画像又は広域動線分析画像(後述参照)を生成する動作(ステップ)を含む動線分析画像生成方法として規定してもよい。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
また、以下の本実施形態では、図1に示すように、例えば本発明に係る動線分析システム500A,500B,500C,…が複数の店舗(店舗A,店舗B,店舗C,…)ごとに設置され、複数の動線分析システム500A,500B,500C,…がネットワークNWを介して接続された販売管理システム1000の使用形態を想定して説明する。但し、本発明に係る動線分析システム、カメラ装置及び動線分析方法の実施形態は、後述する本実施形態の内容に限定されない。
図1は、本実施形態の動線分析システム500A,500B,500C,…を含む販売管理システム1000のシステム構成を詳細に示すシステム構成図である。図1に示す販売管理システム1000は、複数の店舗A,B,C,…に個々に設置された動線分析システム500A,500B,500C,…と、運営本部のサーバ装置600と、スマートフォン700と、クラウドコンピュータ800と、設定端末装置900とを含む構成である。
それぞれの動線分析システム500A,500B,500C,…と、運営本部のサーバ装置600と、スマートフォン700と、クラウドコンピュータ800と、設定端末装置900とは、ネットワークNWを介して相互に接続されている。ネットワークNWは、無線ネットワーク又は有線ネットワークである。無線ネットワークは、例えば無線LAN(Local Area Network)、無線WAN(Wide Area Network)、3G、LTE(Long Term Evolution)又はWiGig(Wireless Gigabit)である。有線ネットワークは、例えばイントラネット又はインターネットである。
図1に示す店舗Aに設置された動線分析システム500Aは、フロア1に設置された複数のカメラ装置100,100A,…,100Nと、レコーダ200と、サーバ装置300と、入力デバイス400と、モニタ450とを含む構成である。フロア1に設置された複数のカメラ装置100,100A,…,100Nと、レコーダ200と、サーバ装置300とは、スイッチングハブSWを介して相互に接続されている。スイッチングハブSWは、カメラ装置100,100A,…,100Nからレコーダ200又はサーバ装置300へ送信するべきデータの中継を行う。なお、スイッチングハブSWは、レコーダ200からサーバ装置300へ送信するべきデータの中継を行ってもよい。なお、フロア2にもフロア1と同様に複数のカメラ装置やスイッチングハブSWが設置され、フロア2内のカメラ装置やスイッチングハブSWの図示を省略している。それぞれのカメラ装置100,100A,…100Nの内部構成は同様であり、その詳細については図2を参照して後述する。
レコーダ200は、例えば半導体メモリ又はハードディスク装置を用いて構成され、店舗A内に設置された各カメラ装置の撮像により得られた画像(以下、カメラ装置の撮像により得られた画像を「撮像画像」という)のデータを記憶する。レコーダ200に記憶された撮像画像のデータは、例えば防犯等の監視業務に供される。
サーバ装置300は、例えばPC(Personal Computer)を用いて構成され、入力デバイス400を操作するユーザ(例えば動線分析システムのユーザであって、店舗Aの店員や店長を指す。以下同様。)の入力操作に応じて、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)が発生したことをカメラ装置100に通知する。
また、サーバ装置300は、カメラ装置(例えばカメラ装置100)から送信されたデータ(後述参照)を用いて、カメラ装置(例えばカメラ装置100)の撮像領域における移動体(例えば店員、店長、来店客等の人物。以下同様。)の滞留位置又は通過位置に関する動線情報をカメラ装置(例えばカメラ装置100)の撮像画像に重畳した動線分析画像を生成してモニタ450に表示させる。
更に、サーバ装置300は、入力デバイス400を操作するユーザの入力操作に応じて、所定の処理(例えば後述する動線分析レポートの生成処理)を行い、動線分析レポートをモニタ450に表示させる。サーバ装置300の内部構成の詳細については図2を参照して後述する。
入力デバイス400は、例えばマウス、キーボード、タッチパネル又はタッチパッドを用いて構成され、ユーザの入力操作に応じた信号をカメラ装置100又はサーバ装置300に出力する。なお、図1では、図面を簡単にするために、入力デバイス400とカメラ装置100との間にだけ矢印が図示されているが、入力デバイス400と他のカメラ装置(例えばカメラ装置100A、100N)との間に矢印が図示されても良い。
モニタ450は、例えばLCD(Liquid Crystal Display)又は有機EL(Electroluminescence)を用いて構成され、サーバ装置300により生成された動線分析画像又は動線分析レポートのデータを表示する。なお、モニタ450は、サーバ装置300とは異なる外部装置として設けられるが、サーバ装置300の内部に含まれた構成としても良い。
運営本部のサーバ装置600は、運営本部のサーバ装置600を操作する運営本部の従業員(例えば役員)の入力操作に応じて、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像又は動線分析レポートを取得して表示するための閲覧用装置である。また、運営本部のサーバ装置600は、動線分析レポート(図12参照)を生成するために必要となる各種情報(例えば売上情報、来店者数情報、イベント日程情報、最高気温情報、最低気温情報)を保持する。なお、これらの各種情報は、店舗A,B,C,…ごとに設けられたサーバ装置において保持されても良い。なお、運営本部のサーバ装置600は、各店舗A,B,C,…内に設置されたサーバ装置(例えば店舗Aであればサーバ装置300)における各処理を実行しても良い。これにより、運営本部のサーバ装置600は、各店舗A,B,C,…のデータを集約して動線分析レポート(例えば後述する図12参照)を生成することができ、運営本部のサーバ装置600に対する入力操作によって選択された一つの店舗の詳細データ(例えば図12に示す動線分析レポート等)を取得することができ、又は複数の店舗間における特定の売場(例えば肉売場)のデータ比較結果の表示を行うことが可能になる。
スマートフォン700は、スマートフォン700を操作する運営本部の従業員(例えば営業担当者)の入力操作に応じて、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像又は動線分析レポートを取得して表示するための閲覧用装置である。
クラウドコンピュータ800は、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像又は動線分析レポートのデータを記憶するオンラインストレージであり、スマートフォン700を操作する運営本部の従業員(例えば営業担当者)の入力操作に応じて、所定の処理(例えばX月Y日の動線分析レポートの検索及び抽出)を行い、処理結果をスマートフォン700に送信する。
設定端末装置900は、例えばPCを用いて構成され、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…のカメラ装置の設定画面を表示する専用のブラウザソフトウェアを実行可能である。設定端末装置900は、設定端末装置900を操作する運営本部の従業員(例えば販売管理システム1000のシステム管理者)の入力操作に応じて、カメラ装置の設定画面(例えばCGI(Common Gateway Interface))をブラウザソフトウェアにおいて表示し、カメラ装置の設定情報を編集(修正、追加、削除)して設定する。
(カメラ装置)
図2は、本実施形態のカメラ装置100及びサーバ装置300のそれぞれの機能的な内部構成を詳細に示すブロック図である。図1に示す販売管理システム1000において、店舗A,B,C,…に設置されるそれぞれのカメラ装置は同様な構成であるため、図2ではカメラ装置100を例示して説明する。
図2に示すカメラ装置100は、撮像部10と、画像入力部20と、背景画像生成部30と、動線情報分析部40と、スケジュール管理部50と、送信部60と、イベント情報受領部70と、背景画像蓄積部80と、通過/滞留分析情報蓄積部90とを含む構成である。背景画像生成部30は、入力画像学習部31と、移動体分離部32と、背景画像抽出部33とを含む構成である。動線情報分析部40は、対象検出部41と、動線情報取得部42と、通過/滞留状況分析部43とを含む構成である。
撮像部10は、レンズとイメージセンサとを少なくとも有する。レンズは、カメラ装置100の外部から入射する光(光線)を集光し、イメージセンサの所定の撮像面に結像させる。レンズには、魚眼レンズ、又は例えば140度以上の画角が得られる広角レンズが用いられる。イメージセンサは、例えばCCD(Charged-Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)の固体撮像素子であり、撮像面に結像した光学像を電気信号に変換する。
画像入力部20は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成され、撮像部10からの電気信号を用いて所定の信号処理を行うことで、人間が認識可能なRGB(Red Green Blue)又はYUV(輝度・色差)等により規定される撮像画像のデータ(フレーム)を生成して背景画像生成部30及び動線情報分析部40に出力する。
背景画像生成部30は、例えばCPU、MPU又はDSPを用いて構成され、所定のフレームレート(例えば30fps(frame per second))で、画像入力部20から出力された撮像画像のデータ(フレーム)ごとに、撮像画像に含まれる移動体(例えば人物)を排除した背景画像を生成して背景画像蓄積部80に保存する。背景画像生成部30における背景画像の生成処理は、例えば下記の参考特許文献に開示されている方法を用いることができるが、この参考特許文献に開示されている方法に限定されない。
(参考特許文献)特開2012−203680号公報
ここで、背景画像生成部30の動作概要について、図3及び図4を参照して簡単に説明する。図3は、本実施形態のカメラ装置100の背景画像生成部30の動作概要の説明図である。図4(A)は、画像入力部20に入力された撮像画像の一例を示す図である。図4(B)は、背景画像生成部30により生成された背景画像の一例を示す図である。
図3では、紙面の上側から下側に向かう時間軸に直交する紙面の左側から右側に向かって、入力画像学習部31、移動体分離部32、背景画像抽出部33の生成結果が模式的に示され、店舗の来店客が飲料の入った4つの段ボールのうち1つの段ボールを持ち運ぶ様子が示されている。
入力画像学習部31は、画像入力部20から出力された複数の撮像画像のフレーム(例えば図3に示す各フレームFM1〜FM5)において、画素ごとに、画素の輝度及び色差の値の分布状況を分析する。
移動体分離部32は、入力画像学習部31の学習結果(即ち、複数のフレーム間(例えば図3に示す時間軸方向)の同一画素ごとの輝度及び色差の分布状況の分析結果を用いて、撮像画像の各フレームFM1〜FM5において、移動体(例えば人物)の情報(例えばフレームFM1a〜FM5a参照)と移動体以外(例えば背景)の情報(例えばフレームFM1b〜FM5b参照)とに分離する。なお、移動体である人物が段ボールを持ち運ぶ様子を示す撮像画像のフレームFM3,FM4では、人物が持ち運ぶ段ボールの画素に対応する輝度及び色差の値は時間軸方向(例えば図3参照)に沿って移動するので、移動体分離部32は、人物が持ち運ぶ段ボールを移動体とみなす。
背景画像抽出部33は、移動体分離部32が分離した情報のうち、移動体以外の情報が映るフレームFM1b〜FM5bを、画像入力部20から出力された撮像画像のフレームFM1〜FM5の背景画像のフレームFM1c〜FM5cとして抽出して背景画像蓄積部80に保存する。
図4(A)に示す撮像画像のフレームFM10aでは、例えば食堂の中で料理を提供している人、料理をトレーで受け取る人がそれぞれ移動体として示されている。図4(A)に示す撮像画像のフレームFM10aに対して、背景画像生成部30が生成した背景画像のフレームFM10c(図4(B)参照)では、移動体としての同じ食堂の中で料理を提供している人も料理を受け取る人も映らないように排除されている。
動線情報分析部40は、例えばCPU、MPU又はDSPを用いて構成され、所定のフレームレート(例えば10fps)で、画像入力部20から出力された撮像画像のデータ(フレーム)ごとに、撮像画像に含まれる移動体(例えば人物)の滞留位置又は通過位置に関する動線情報を検出して通過/滞留分析情報蓄積部90に保存する。
対象検出部41は、画像入力部20から出力された撮像画像のフレームに対して所定の画像処理(例えば人物検出処理、顔検出処理)を行うことで、撮像画像のフレームに含まれる移動体(例えば人物)の有無を検出する。対象検出部41は、撮像画像のフレームに含まれる移動体を検出した場合には、撮像画像のフレームに対する移動体の検出領域に関する情報(例えばフレームの座標情報)を動線情報取得部42に出力する。なお、対象検出部41は、撮像画像のフレームに含まれる移動体を検出しなかった場合には、移動体の検出領域に関する情報(例えば所定のヌル情報)を動線情報取得部42に出力する。
動線情報取得部42は、対象検出部41から出力された移動体の検出領域に関する情報を基に、画像入力部20から出力された撮像画像の情報と、過去の移動体の検出領域に関する情報(例えば、撮像画像情報や座標情報)を用いて、現在と過去の検出領域に関する情報の紐付けを行い、動線情報(例えば移動体の検出領域の座標情報の変化量)として通過/滞留状況分析部43に出力する。
通過/滞留状況分析部43は、複数の撮像画像に対して動線情報取得部42から出力された動線情報を基に、撮像画像のフレームにおける移動体(例えば人物)の滞留位置又は通過位置に関する動線情報(例えば、「対象位置情報」と「動線情報」と「通過状況又は滞留状況に関する情報」)を抽出して生成する。また、通過/滞留状況分析部43は、移動体(例えば人物)の滞留位置又は通過位置に関する動線情報の抽出結果を用いて、サーバ装置300の表示画像生成部350において生成される動線分析画像(ヒートマップ画像)のカラー部分の可視化画像を生成しても良い。
通過/滞留状況分析部43は、複数の撮像画像のフレームに対する動線情報を用いることで、画像入力部20から出力された撮像画像のフレームの中で、移動体(例えば人物)が滞留した位置又は通過した位置に関する正確な動線情報を抽出して生成することができる。
スケジュール管理部50は、例えばCPU、MPU又はDSPを用いて構成され、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとをサーバ装置300に定期的に送信するための所定の送信周期を送信部60に指示する。所定の送信周期は、例えば15分、1時間、12時間、24時間等であるが、これらの時間間隔に限定されない。
送信部60は、スケジュール管理部50又はイベント情報受領部70からの指示に応じて、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する。送信部60における送信タイミングについては、図5、図6、図7及び図8を参照して後述する。
イベント情報取得部の一例としてのイベント情報受領部70は、サーバ装置300又は入力デバイス400から所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)の検出の通知を受領(取得)し、所定のイベントの検出の通知を受領したことで、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信指示を送信部60に出力する。
背景画像蓄積部80は、例えば半導体メモリ又はハードディスク装置を用いて構成され、背景画像生成部30により生成された背景画像のデータ(フレーム)を記憶する。
通過/滞留分析情報蓄積部90は、例えば半導体メモリ又はハードディスク装置を用いて構成され、動線情報分析部40により生成された移動体(例えば人物)の滞留位置又は通過位置に関する動線情報の抽出結果(例えば、「対象位置情報」と「動線情報」と「通過状況又は滞留状況に関する情報」)のデータを記憶する。
なお、図2に示すカメラ装置100は、イベント情報受領部70の代わりに、シーン識別部SDを設けても良く、以下同様である(例えば図13参照)。画像変化検出部の一例としてのシーン識別部SDは、画像入力部20から出力された撮像画像の変化(例えば店舗Aのフロア1の売場のレイアウトが変更したというイベント)の有無を検出する。シーン識別部SDは、撮像画像の変化を検出した場合には、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信指示を送信部60に出力する。
また、図2に示すカメラ装置100は、人数カウント部CTを更に設けても良く、以下同様である(例えば図13参照)。移動体検出部の一例としての人数カウント部CTは、画像入力部20から出力された撮像画像に対して所定の画像処理(例えば人物検出処理)を行うことで、撮像画像に含まれる移動体の検出数をカウントする。人数カウント部CTは、撮像画像に含まれる移動体の検出数に関する情報を送信部60に出力する。
(サーバ装置)
図2に示すサーバ装置300は、イベント情報受領部310と、通知部320と、受信部330と、受信情報蓄積部340と、表示画像生成部350と、レポート生成出力部360とを含む構成である。
イベント情報受領部310は、該当するカメラ装置(例えばカメラ装置100)ごとに、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)が発生したことを示す情報が入力デバイス400から入力された場合には、所定のイベントの検出の通知を受領する。イベント情報受領部310は、所定のイベントの検出の通知を受領したことを通知部320に出力する。なお、所定のイベントが発生したことを示す情報には、所定のイベントが発生した場所を撮像領域として撮像するカメラ装置の識別番号(例えば後述するC1,C2,…)が含まれる。
通知部320は、イベント情報受領部310から出力された所定のイベントの検出の通知を該当するカメラ装置(例えばカメラ装置100)に送信する。
受信部330は、カメラ装置100の送信部60から送信されたデータ(即ち、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を受信して受信情報蓄積部340及び表示画像生成部350に出力する。
受信情報蓄積部340は、例えば半導体メモリ又はハードディスク装置を用いて構成され、受信部330が受信したデータ(即ち、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を記憶する。
画像生成部の一例としての表示画像生成部350は、例えばCPU、MPU又はDSPを用いて構成され、受信部330又は受信情報蓄積部340から取得したデータ(即ち、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を用いて、背景画像に移動体の滞留位置又は通過位置に関する動線情報を重畳した動線分析画像を生成する。
動線分析画像は、カメラ装置100が撮像した撮像画像の中で移動体(例えば人物)が映らないように排除された背景画像に、撮像画像に対応する撮像領域において移動体がどこによく滞留したか、又はどこを通過したかを視覚的に示す動線情報がヒートマップのように所定のレンジ(例えば0〜255の値)の範囲内に定量的に可視化された画像である。また、表示制御部の一例としての表示画像生成部350は、生成した動線分析画像をモニタ450に表示させる。
レポート生成部の一例としてのレポート生成出力部360は、例えばCPU、MPU又はDSPを用いて構成され、動線分析レポートの生成指示が入力デバイス400から入力された場合には、後述する動線分析レポート(例えば図12参照)を生成する。また、表示制御部の一例としてのレポート生成出力部360は、生成した動線分析レポートをモニタ450に表示させる。
(カメラ装置からサーバ装置へのデータ送信処理)
次に、カメラ装置100からサーバ装置300へのデータの送信処理について、図5、図6、図7及び図8を参照して説明する。図5は、本実施形態のカメラ装置100の送信処理の動作タイミングを説明するタイムチャートである。図6は、本実施形態のカメラ装置100が定期的に送信処理を行う場合のタイムチャートである。図7は、本実施形態のカメラ装置100がイベントの検出に応じて送信処理の動作タイミングを変更する場合のタイムチャートである。図8は、本実施形態のカメラ装置100がイベントの検出前後では送信処理を省略する場合のタイムチャートである。
図5において、カメラ装置100では、画像入力部20から撮像画像が出力されると(画像入力)、背景画像生成部30は画像入力部20から出力された撮像画像の背景画像を生成して背景画像蓄積部80に保存し(背景画像生成)、動線情報分析部40は画像入力部20から出力された撮像画像に含まれる移動体(例えば人物)の滞留位置又は通過位置に関する動線情報を抽出する(動線情報分析)。これらの画像入力、背景画像生成、動線情報分析の各処理は定期的に実行される。
例えば図5に示す第1回目の画像入力、背景画像生成、動線情報分析の各処理の後、送信部60は、例えば図7に示すように、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、前回の送信時刻t0から今回の送信時刻t1までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t1)。なお、上述したように送信部60における定期的な送信間隔(送信周期)は、15分、1時間、12時間、24時間等であり予めスケジュール管理部50から指示されている。また、送信部60により送信される背景画像のデータは1枚分のデータでも良いし、複数枚(例えば5分ごとに得られた複数の背景画像)分のデータでも良い。
次に、図5に示す第2回目以降の画像入力、背景画像生成、動線情報分析の各処理の度に、送信部60は、例えば図7に示すように、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、前回の送信時刻t1から今回の送信時刻t2までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t2)。
また、送信部60は、例えば図7に示すように、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)の検出の通知をイベント情報受領部70から受けると(時刻t3)、例えばイベント情報受領部70からイベント割込を受けて、前回の送信時刻t2から今回の送信時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t3)。なお、送信部60における送信処理については、図7に示す方法以外に、図6又は図8のうちいずれかの方法に従っても良い。
図6、図7及び図8では、図5の送信処理と同一の内容についての説明は簡略化又は省略し、異なる内容について説明する。具体的には、図6では、送信部60は、時刻t3においてイベント情報受領部70からイベント割込を受けても、前回の送信時刻t2から今回の送信時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t3)。
しかし、図6の送信処理では、時刻t2から時刻t3までに所定のイベントが発生した場合、撮像画像の内容が更新されているので、イベントの検出前後で異なる背景画像が混在して使用されることになり、動線分析画像の内容が正確ではない可能性がある。
そこで、図7では、送信部60は、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)の検出の通知をイベント情報受領部70から受けると(時刻t3)、例えばイベント情報受領部70からイベント割込を受けて、前回の送信時刻t2からイベント割込を受けた時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t3)。更に、送信部60は、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、イベント割込を受けた時刻t3から今回の送信時刻t4までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t4)。
また図8では、送信部60は、時刻t3においてイベント情報受領部70からイベント割込を受けても、前回の送信時刻t2からイベント割込を受けた時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t3)。更に、送信部60は、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、イベント割込を受けた時刻t3から時刻t4までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t4)。
言い換えると、送信部60は、時刻t3においてイベント情報受領部70からイベント割込を受けた場合、前回の送信時刻t2からイベント割込を受けた次の送信周期の開始時点(図8では時刻t4)までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t2〜時刻t4)。
更に、図8では、送信部60は、例えばスケジュール管理部50からタイマー割込を受けると(時刻t4)、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を再開する。具体的には、送信部60は、図8では図示されていないが、時刻t4以降にスケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受け、時刻t4から今回の送信時刻までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータを取得してサーバ装置300に送信する。
図9は、本実施形態のカメラ装置100が複数個設置された食料品売場のレイアウトの一例を示す図である。図9では、例えば店舗Aのフロア1(1F)の食料品売場において、複数(例えば8個)のカメラ装置がフロア1の天井面等に設置されている様子が示されている。具体的には、北入口カメラC1A,C1B、レジ前カメラC2A,C2B、特売品カメラC3、肉売場カメラC4、魚売場カメラC5、野菜売場カメラC6の計8個のカメラ装置(例えば全方位カメラ装置)が設定されている。なお、カメラ装置の種類は、全方位カメラ装置に限定されず、固定の画角が設定された固定カメラ装置、又は、パン方向やチルト方向並びにズーム機能を有するPTZ(Pan Tile Zoom)カメラ装置でも良い。
図10は、本実施形態のサーバ装置300の表示画像生成部350により生成された店舗Aの動線分析画像を含む運用画面の一例を示す図である。図11は、本実施形態のサーバ装置300の表示画像生成部350により生成された店舗Aの動線分析画像を含む運用画面の他の一例を示す図である。図10及び図11に示す運用画面は、表示画像生成部350によってモニタ450に表示される。
図10に示す運用画面では、左側の表示領域L1には、店舗内に設置されたカメラ装置の選択画面の一覧が階層的に表示されている。例えば、フロア1(1F)の食料品売場(識別番号:G1)では、北入口カメラC1A(識別番号:C1)、北入口カメラC1B(識別番号:C2)、レジ前カメラC2A(識別番号:C3),レジ前カメラC2B(識別番号:C4)、野菜売場カメラC6(識別番号:C5)、魚売場カメラC5(識別番号:C6)、肉売場カメラC4(識別番号:C7)、特売品カメラC3(識別番号:C8)が階層的に示されている。フロア2(2F)の衣料品売場その他の売場において同様であるため、説明を省略する。
また、図10に示す運用画面では、右側の表示領域R1には、メイン(例えば現在)の動線分析情報の表示領域MA1とサブ(例えば比較例)の動線分析情報の表示領域CE1とが表示されている。
動線分析情報の表示領域MA1には、サーバ装置300が閲覧対象の動線分析画像を生成した指定時刻(年月日を含む)と、例えば半日単位、1日単位、1週間単位又は1箇月単位を示す統計期間と、表示領域L1において選択された売場ごとのカメラ装置の選択画面とを含む指定条件表示領域MA1aと、動線分析画像の映像表示種別と、グラフ表示種別と、グラフ表示G(グループ)と、売場ごとの来店者数の表示領域CT1とを含む動線分析結果表示領域MA1bとが表示される。
動線分析画像の映像表示種別には、図10に示す移動体(例えば人物)の滞留情報が示された滞留マップと、図11に示す移動体(例えば人物)の通過情報が示されたカウントマップと、撮像画像そのものとが含まれる。売場ごとの来店者数の表示領域CT1には、時系列(例えば図10及び図11では1時間ごと)に人数カウント部CTにより検出された移動体(例えば人物)の検出数が示される。例えばユーザの入力操作により、入力デバイス400が売場ごとの来店者数の表示領域CT1に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に表示する。
なお、図11に示すように、動線分析情報の表示領域MA1の売場ごとのカメラ装置の選択画面の代わりに、図9に示す複数個のカメラ装置が売場ごとに設置されたレイアウトMP1の一例が表示されても良い。
また同様に、サブの動線分析情報の表示画面CE1には、メインの動線分析情報の表示画面MA1の比較対象としてサーバ装置300が閲覧対象の動線分析画像を生成した指定時刻(年月日を含む)と、例えば半日単位、1日単位、1週間単位又は1箇月単位を示す統計期間と、メインの動線分析情報の表示画面MA1において選択された売場ごとのカメラ装置の選択画面とを含む指定条件表示領域CE1aと、動線分析画像の映像表示種別と、グラフ表示種別と、グラフ表示G(グループ)と、売場ごとの来店者数の表示領域CT2とを含む動線分析結果表示領域CE1bとが表示される。なお、サブの動線分析情報の表示画面CE1を用いる場合には、例えば店舗内のレイアウトの変更の前後の比較以外に、割引シールを商品に貼付した前後の比較、タイムセールの前後の比較、今日と一年前の同日との比較、店舗間(例えば店舗Aの肉売場と店舗Bの肉売場との比較)等の用途が含まれても良い。
売場ごとの来店者数の表示領域CT2には、時系列(例えば図10及び図11では1時間ごと)に人数カウント部CTにより検出された移動体(例えば人物)の検出数が示される。例えばユーザの入力操作により、入力デバイス400が売場ごとの来店者数の表示領域CT2に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に再生して表示する。
また、メイン(例えば現在)の動線分析情報の表示領域MA1の売場ごとの来店者数の表示領域CT1とサブ(例えば比較例)の動線分析情報の表示領域CE1の売場ごとの来店者数の表示領域CT2とにおいて、入力デバイス400は、ユーザの入力操作により、時間軸上の特定の時間帯を指定してコメント(例えばタイムセール、3Fイベント、TV放映、隣のドームで試合等)を入力することができる。
図11では映像表示種別がカウントマップとなっており、その他の事項は図10の説明と同様であるため、詳細な説明は省略する。図11でも、図10と同様に、例えばユーザの入力操作により、入力デバイス400が売場ごとの来店者数の表示領域CT3,CT4に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に再生して表示する。
図12は、本実施形態のサーバ装置300のレポート生成出力部360により生成された2014年5月度の店舗Aの食料品売場における月例報告書の運用画面RPTの一例を示す図である。本実施形態の動線分析レポートの一例としての月例報告書(図12参照)は、図10又は図11に示す運用画面の左側の表示領域L1の下部に設けられたレポート出力ボタンOPTが入力デバイス400により押下されると、レポート生成出力部360が生成してモニタ450に表示した画面である。なお、サーバ装置300のレポート生成出力部360は、図12に示す月例報告書又はその一部の情報(例えば食料品売場のうちの肉売場における月例報告書)を、店舗Aに設置されたプリンタ(不図示)に出力しても良い。これにより、店舗Aの店員は、来店客が映っていない動線分析画像が出力された内容で、例えば食料品売場全体又はその一部の肉売場における月例報告書のプリントアウトの配布を受けることができる。
図12に示す月例報告書(動線分析レポート)の運用画面RPTでは、月例報告書のタイトルに関する各種情報と、気温に関する情報と、売上情報に関する表示領域SR1と、店舗(例えば店舗A)の来店者数等の統計情報に関する表示領域CR1と、所定のイベントの一例として売場のレイアウトの変更の発生前後において表示画像生成部350が生成したそれぞれの動線分析画像HM5,HM6の表示領域と、売場ごとの来店者数の表示領域CT5,CT6とが示されている。なお、月例報告書のタイトルに関する各種情報と、気温に関する情報と、売上情報、イベント情報、来店者構成に関する情報等は、例えば運営本部のサーバ装置600から該当する店舗(例えば店舗A)内のサーバ装置(例えばサーバ装置300)に送信される。なお、月例報告書のタイトルに関する各種情報と、気温に関する情報と、売上情報、イベント情報、来店者構成に関する情報等は、店舗内のサーバ装置300又は記憶部(不図示)に予め記憶されても良い。
図12に示す月例報告書の運用画面RPTでも、図10又は図11と同様に、例えばユーザの入力操作により、入力デバイス400が売場ごとの来店者数の表示領域CT5,CT6に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に表示する。
以上により、本実施形態の動線分析システム500Aでは、カメラ装置100は、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを所定の送信周期ごとにサーバ装置300に送信する。サーバ装置300は、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成し、この動線分析画像をモニタ450に表示させる。
これにより、動線分析システム500Aは、動線分析画像の元になる背景画像を移動体(例えば人物)が映らないように排除して生成するので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、動線分析システム500Aは、所定のタイミング(例えば定期的な送信周期の到来時)の時点において既に更新された背景画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、予め決められた送信周期ごとに、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する正確な動線情報を適切に示す動線分析画像をユーザに対して視覚的に表示することができる。
また、動線分析システム500Aは、背景画像と移動体の動線情報とを送信するための所定の送信周期をカメラ装置のスケジュール管理部50において指示するので、予め指示された送信周期に従って、背景画像と移動体の動線情報とを定期的にサーバ装置300に送信することができる。
また、動線分析システム500Aは、所定のイベント(例えば店舗内の売場のレイアウト変更のイベント)の検出の通知をイベント情報受領部70において取得すると、背景画像と移動体の動線情報とをサーバ装置300に送信するので、特定のイベントが検出された時点の前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を正確に反映させた動線分析画像をサーバ装置300において生成することができる。
また、動線分析システム500Aは、撮像画像の変化(例えば店舗内の売場のレイアウト変更)をシーン識別部SDにおいて検出すると、背景画像と移動体の動線情報とをサーバ装置300に送信するので、撮像画像の変化が検出された時点の前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を正確に反映させた動線分析画像をサーバ装置300において生成することができる。
また、動線分析システム500Aは、撮像画像に含まれる移動体の検出数を人数カウント部CTにおいてカウントし、検出数に関する情報を送信部60に出力するので、撮像領域における移動体の滞留位置又は通過位置に関する情報を含む動線分析画像と移動体の検出数とを含む表示画面(運用画面)をモニタ450に表示させることができる。
また、動線分析システム500Aは、イベント情報受領部70が所定のイベントの検出の通知を取得した時点を含む送信周期では背景画像と移動体の動線情報との送信を省略するので、サーバ装置300において動線分析画像を生成する際に、所定のイベント(例えば店舗内の売場のレイアウト変更)の検出前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を混在して使用することを回避することができる。
また、動線分析システム500Aは、所定のイベント(例えば店舗内の売場のレイアウト変更)の検出前に生成された動線分析画像と、同所定のイベントの検出後に生成された動線分析画像とを含む動線分析レポートをレポート生成出力部360において生成するので、所定のイベントにより撮像領域における移動体の滞留位置又は通過位置に関する動線情報がどのような変更があったかを対比的に分かり易く示すことができる。
また、動線分析システム500Aは、所定の入力操作(例えばユーザのレポート出力ボタンの押下操作)により、生成した動線分析レポートをモニタ450に表示させるので、動線分析レポートをユーザに対して視覚的に表示することができる。
更に、動線分析システム500Aは、撮像画像の背景画像の生成と撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報の抽出とを各カメラ装置100,100A,…,100Nにおいて実行させてから、サーバ装置300において動線分析画像を生成して表示するので、撮像画像の背景画像の生成と撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報の抽出をサーバ装置300に実行させる場合に比べて、サーバ装置300の処理負荷を軽減することができるので、1つのサーバ装置300に接続可能なカメラ装置の台数の制限を緩和することができる。
(本実施形態の変形例)
なお、上述した本実施形態では、動線分析画像の生成処理はサーバ装置300において実行されているが、動線分析画像の生成処理までをカメラ装置100が実行しても良い(図13参照)。図13は、本実施形態の変形例のカメラ装置100Sの機能的な内部構成を詳細に示すブロック図である。図13に示すカメラ装置100Sは、撮像部10と、画像入力部20と、背景画像生成部30と、動線情報分析部40と、スケジュール管理部50と、送信部60Sと、イベント情報受領部70と、背景画像蓄積部80と、通過/滞留分析情報蓄積部90と、表示画像生成部350Sとを含む構成である。図13に示すカメラ装置100Sの各部の説明において、図2に示すカメラ装置100と同一の構成及び動作のものには同一の符号を付して説明を省略し、異なる内容について説明する。
画像生成部の一例としての表示画像生成部350Sは、スケジュール管理部50又はイベント情報受領部70からの指示に応じて、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータを用いて、背景画像に移動体の滞留位置又は通過位置に関する動線情報を重畳した動線分析画像を生成して送信部60に出力する。
送信部60Sは、表示画像生成部350Sにより生成された動線分析画像のデータをサーバ装置300に送信する。
以上により、本実施形態の変形例では、カメラ装置100Sは、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを用いて、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成する。
これにより、カメラ装置100Sは、動線分析画像の元になる背景画像を移動体(例えば人物)が映らないように排除して生成するので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、カメラ装置100Sは、リアルタイムに得られた撮像画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する最新の動線情報を適切に示す動線分析画像を生成することができる。
また、カメラ装置100Sは、動線分析画像の生成処理まで実行して生成結果である動線分析画像のデータをサーバ装置300に送信するので、例えばサーバ装置300の処理負荷が相当に高い状態では、動線分析画像の生成処理をサーバ装置300に実行させないで良いため、サーバ装置300の処理負荷の増大を抑制することができる。
(後述の追加実施例の内容に至る経緯)
例えば図1に示す動線分析システム500Aによって店舗内の人物の動線分析を行う場合、単一のカメラ装置により撮像された撮像画像に対応する動線分析画像をモニタ450に表示しただけでは、大規模な店舗(例えばショッピングモール等、複数の店舗が連なった複合施設)の全景又はその一部を対象とした人物の滞留や通過に関する正確な情報が得られず、店舗全体の動線情報を俯瞰することができないという課題がある。また同様に、大規模な店舗内において、ショップの出入り口付近の状況(例えば、人物が一つのショップを出て次のショップに移動する場合の状況)の滞留や通過に関する正確な情報も得られない可能性が高い。そこで、以下の追加実施例では、広範な撮像領域に映る人物のプライバシーを適切に保護し、広域な撮像領域における人物の滞留情報又は通過情報を容易かつ正確に確認可能な動線分析画像を表示する動線分析システムの例について説明する。
(動線分析システムの追加実施例の第1例)
次に、本実施形態の動線分析システム500Aを構成するカメラ装置及びサーバ装置のそれぞれの機能的な内部構成の他の第1例について、図14を参照して説明する。図14は、本実施形態のカメラ装置及びサーバ装置のそれぞれの機能的な内部構成の他の第1例を詳細に示すブロック図である。図14に示すカメラ装置100及びサーバ装置300Aにおいて、図2に示すカメラ装置100及びサーバ装置300の各部と同一の構成及び動作を行うものには同一の符号を付与して説明を簡略化又は省略し、異なる内容について説明する。図14では、カメラ装置ごとの動線分析画像はサーバ装置300Aにより生成される。
図14に示すカメラ装置100において、送信部60は、サーバ装置300Aに送信するデータ(つまり、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を、サーバ装置300Aだけではなくレコーダ200にも送信してもよい。
レコーダ200は、カメラ装置100から送信されたデータを受信し、受信したデータをカメラ装置ごとに保存する。また、レコーダ200は、ユーザが操作する入力デバイス400により、広域動線分析画像を生成するために必要となる複数のカメラ装置のグループ(例えば各カメラ装置の識別情報)及び対象日時(つまり、撮像日時)が指定されると、対象日時に撮像された撮像画像に対応する背景画像のデータと移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300Aに送信する。
図14に示すサーバ装置300Aにおいて、受信部330Aは、カメラ装置ごとに、レコーダ200から送信されたデータ(上記参照)を受信して受信情報蓄積部340A及び表示画像生成部350Aに出力する。
受信情報蓄積部340Aは、受信部330Aがカメラ装置ごとに受信したデータを記憶する。受信部330Aが受信したデータの第1例は、個々のカメラ装置100において背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータである。受信部330Aが受信したデータの第2例は、レコーダ200から送信されたデータ(つまり、入力デバイス400により指定された、対象日時に撮像されたカメラ装置ごとの撮像画像に対応する背景画像のデータとカメラ装置ごとの移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)である。
画像生成部の一例としての表示画像生成部350Aは、受信部330A又は受信情報蓄積部340Aから取得したデータ(即ち、上記第1例のデータ又は上記第2例のデータ)を用いて、カメラ装置ごとの背景画像と移動体の滞留位置又は通過位置に関する動線情報とを重畳した動線分析画像を生成する。更に、表示画像生成部350Aは、個々のカメラ装置ごとの動線分析画像を用いて、合成処理(例えばスティッチング処理)を行うことで、広域動線分析画像TP(例えば図17参照)を生成する。表示制御部の一例としての表示画像生成部350Aは、生成した広域動線分析画像TPを表示部の一例としてのモニタ450に表示させる。
(動線分析システムの追加実施例の第2例)
次に、本実施形態の動線分析システムを構成するカメラ装置及びサーバ装置のそれぞれの機能的な内部構成の他の第2例について、図15を参照して説明する。図15は、本実施形態のカメラ装置及びサーバ装置のそれぞれの機能的な内部構成の他の第2例を詳細に示すブロック図である。図15に示すカメラ装置100S及びサーバ装置300Bにおいて、図13に示すカメラ装置100S、及び図2に示すサーバ装置300の各部と同一の構成及び動作を行うものには同一の符号を付与して説明を簡略化又は省略し、異なる内容について説明する。図15では、カメラ装置ごとの動線分析画像はそれぞれのカメラ装置により生成される。
図15に示すカメラ装置100Sにおいて、送信部60Sは、サーバ装置300Bに送信するデータ(つまり、表示画像生成部350Sにより生成された動線分析画像のデータ)を、サーバ装置300Bだけではなくレコーダ200に送信してもよい。
レコーダ200は、カメラ装置100Sから送信されたデータを受信し、受信したデータをカメラ装置ごとに保存する。また、レコーダ200は、ユーザが操作する入力デバイス400により、広域動線分析画像を生成するために必要となる複数のカメラ装置のグループ(例えば各カメラ装置の識別情報)及び対象日時(つまり、撮像日時)が指定されると、対象日時に撮像された撮像画像に対応する動線分析画像のデータを取得してサーバ装置300Bに送信する。
図15に示すサーバ装置300Bにおいて、受信部330Aは、カメラ装置ごとに、レコーダ200から送信されたデータ(上記参照)を受信して受信情報蓄積部340A及び表示画像生成部350Aに出力する。
受信情報蓄積部340Bは、受信部330Bがカメラ装置ごとに受信したデータを記憶する。受信部330Bが受信したデータの第1例は、個々のカメラ装置100において表示画像生成部350Sにより生成された動線分析画像のデータである。受信部330Bが受信したデータの第2例は、レコーダ200から送信されたデータ(つまり、入力デバイス400により指定された、対象日時に撮像されたカメラ装置ごとの撮像画像に対応する動線分析画像のデータ)である。
画像生成部の一例としての表示画像生成部350Bは、受信部330B又は受信情報蓄積部340Bから取得したデータ(即ち、上記第1例のデータ又は上記第2例のデータ)を用いて、合成処理(例えばスティッチング処理)を行うことで、広域動線分析画像TP(例えば図17参照)を生成する。表示制御部の一例としての表示画像生成部350Bは、生成した広域動線分析画像TPを表示部の一例としてのモニタ450に表示させる。
図16は、店舗の或る広いフロアの商品棚に関するレイアウトの一例を示す図である。図17は、広域動線分析画像TPの生成手順の一例を示す模式図である。図16に示すフロアFLRは、例えば大規模な店舗の広いフロアであり、数多くの商品棚が陳列されており、単一のカメラ装置では複数の商品棚に滞留した人物や通過した人物の動線情報の把握が困難であるとする。図16では、例えば4台のカメラ装置AA,BB,CC,DD(いずれもカメラ装置100又はカメラ装置100Sの構成と同一とする)によりそれぞれの商品棚の様子が撮像されている。以降の説明において、カメラ装置AA,BB,CC,DDは個々に既定された所定の画角を有する固定カメラでもよいし、自己の周囲の360度の方向の既定画角を有する全方位カメラでもよい。図17の説明では、カメラ装置AA,BB,CC,DDはそれぞれ全方位カメラとする。
図17の上段には、カメラ装置AA,BB,CC,DDによりそれぞれ撮像された全方位画像AL1,BL1,CL1,DL1が示されている。全方位画像AL1,BL1,CL1,DL1は、四方に商品棚の一部が撮像された画像である。
図17の中段には、カメラ装置AA,BB,CC,DDによりそれぞれ撮像された全方位画像AL1,BL1,CL1,DL1が平面補正処理(パノラマ変換)された後の平面画像(つまり、2次元パノラマ画像AP1,BP1,CP1,DP1)が示されている。全方位画像AL1,BL1,CL1,DL1から2次元パノラマ画像AP1,BP1,CP1,DP1に平面補正される際には、例えばユーザの入力操作により入力デバイス400から、全方位画像ALL1,BL1,CL1,DL1のうちいずれの方向が切り出されるかを示す角度(方向)が指定される。
図17の下段には、2次元パノラマ画像AP1,BP1,CP1,DP1が合成処理(例えばスティッチング処理)されたことによって得られた広域動線分析画像TPが示されている。但し、図17に示す広域動線分析画像TPでは、図面の簡略化のために、移動体の滞留や通過に関する動線情報の図示が省略されており、単に背景画像が示されている。
次に、本実施形態の動線分析システム500Aの追加実施例の第1例(図14参照)における広域動線分析画像の生成及び表示の動作手順について、図18(A)及び図18(B)を参照して説明する。図18(A)は、複数のカメラ装置とサーバ装置との間における広域動線分析画像の生成及び表示に関する動作手順の第1例を説明するフローチャートである。図18(B)は、複数のカメラ装置とサーバ装置との間における広域動線分析画像の生成及び表示に関する動作手順の第2例を説明するフローチャートである。なお、以降の説明において、カメラ装置が背景画像を生成する処理及び動線情報を抽出する処理、サーバ装置が動線分析画像を生成する処理については上記した本実施形態において説明済みであるため、詳細な処理の内容の説明は省略する。また、図18(B)の説明では、図18(A)の説明と重複する内容については同一のステップ番号を付与して説明を省略し、異なる内容について説明する。
図18(A)において、それぞれのカメラ装置100は、自己の画角内に含まれる撮像領域の背景画像のデータと、移動体(例えば人物)の滞留情報又は通過情報に関する動線情報のデータとを生成し、これらをサーバ装置300Aに送信する(S11)。サーバ装置300Aは、それぞれのカメラ装置100から送信されたデータ(つまり、自己の画角内に含まれる撮像領域の背景画像のデータ、移動体(例えば人物)の滞留情報又は通過情報に関する動線情報のデータ)を用いて、カメラ装置100ごとに、動線分析画像を生成する(S12)。
ここで、ユーザが操作する入力デバイス400により、ユーザがモニタ450上に表示したいと考えるカメラ装置100のグループが選択操作されたとする(S13)。サーバ装置300Aの表示画像生成部350Aは、ステップS13におけるユーザの選択操作により、選択された対象である複数のカメラ装置100ごとの動線分析画像を補正処理する(S14)。例えば、サーバ装置300Aの表示画像生成部350Aは、カメラ装置ごとの動線分析画像の背景画像が全方位画像である場合には、ユーザにより指定された方向又は既定の方向の範囲の画像を切り出すための補正処理を行うことで、2次元パノラマ画像を生成する(図17参照)。なお、例えば複数のカメラ装置100がいずれも全方位カメラでなく固定カメラである場合には、ステップS14における補正処理は不要となる場合が考えられるので、ステップS14が省略されてもよい。
サーバ装置300Aの表示画像生成部350Aは、ステップS14における補正処理によって得られた動線分析画像(例えば図17に示す2次元パノラマ画像AP1,BP1,CP1,DP1参照)を予め決められた配置に従って、合成処理(例えばスティッチング処理)することで、広域動線分析画像(例えば図17に示す広域動線分析画像TP)を生成する(S15)。例えば、サーバ装置300Aの表示画像生成部350Aは、隣接又は重複する2次元パノラマ画像AP1の右端部と2次元パノラマ画像BP1の左端部とが連続するように、2次元パノラマ画像AP1の右端部と2次元パノラマ画像BP1の左端部とを繋げて合成する。サーバ装置300Aの表示画像生成部350Aは、隣接又は重複する2次元パノラマ画像BP1の右端部と2次元パノラマ画像CP1の左端部とが連続するように、2次元パノラマ画像BP1の右端部と2次元パノラマ画像CP1の左端部とを繋げて合成する。サーバ装置300Aの表示画像生成部350Aは、隣接又は重複する2次元パノラマ画像CP1の右端部と2次元パノラマ画像DP1の左端部とが連続するように、2次元パノラマ画像CP1の右端部と2次元パノラマ画像DP1の左端部とを繋げて合成する。
サーバ装置300Aの表示画像生成部350Aは、ステップS15において生成した広域動線分析画像(例えば図17に示す広域動線分析画像TP)をモニタ450に表示させる(S16)。これにより、サーバ装置300Aは、リアルタイムに撮像している複数のカメラ装置100から送信された個々の背景画像及び動線情報を用いて、背景画像に人物等の移動体を映さずにプライバシーを適切に保護可能な動線分析画像をカメラ装置ごとに生成できる。更に、サーバ装置300Aは、大規模な店舗内でも複数のカメラ装置100ごとに生成した動線分析画像の合成処理によって広域動線分析画像を生成してモニタ450に表示させるので、例えば単一のカメラ装置で撮像困難な大規模な店舗内のフロア内においてレイアウト変更があった場合でも、フロアの全景又はその一部における人物等の移動体の滞留位置又は通過位置に関する動線情報を視覚的にユーザに対して把握させることができる。
図18(B)において、それぞれのカメラ装置100は、自己の画角内に含まれる撮像領域の背景画像のデータと、移動体(例えば人物)の滞留情報又は通過情報に関する動線情報のデータとを生成し、これらをレコーダ200に送信する(S11A)。レコーダ200は、それぞれのカメラ装置100から送信されたデータ(つまり、自己の画角内に含まれる撮像領域の背景画像のデータ、移動体(例えば人物)の滞留情報又は通過情報に関する動線情報のデータ)をカメラ装置100ごとに保存する(S21)。
ここで、ユーザが操作する入力デバイス400により、ユーザがモニタ450上に表示したいと考えるカメラ装置100のグループ及び対象日時(つまり、撮像日時)が選択操作されたとする(S13A)。レコーダ200は、ステップS13Aにおける入力デバイス400の操作により、選択されたグループ及び日時に対応する、撮像領域の背景画像のデータと、移動体(例えば人物)の滞留情報又は通過情報に関する動線情報のデータとをサーバ装置300Aに送信する。サーバ装置300Aは、レコーダ200から送信されたデータ(つまり、選択されたグループ及び日時に対応する、撮像領域の背景画像のデータと、移動体(例えば人物)の滞留情報又は通過情報に関する動線情報のデータ)をカメラ装置100ごとに受信する(S22)。
サーバ装置300Aは、レコーダ200から送信されたデータ(つまり、選択されたグループ及び日時に対応する、撮像領域の背景画像のデータと、移動体(例えば人物)の滞留情報又は通過情報に関する動線情報のデータ)を用いて、カメラ装置100ごとに、動線分析画像を生成する(S23)。ステップS23以降の動作は図18(A)と同様のため、説明を省略する。これにより、サーバ装置300Aは、レコーダ200にそれぞれのカメラ装置100から送信されたデータを格納できるので、リアルタイムではなく撮像後に複数のカメラ装置100ごとの背景画像及び動線情報を用いて、背景画像に人物等の移動体を映さずにプライバシーを適切に保護可能な動線分析画像をカメラ装置ごとに生成できる。更に、サーバ装置300Aは、大規模な店舗内でも複数のカメラ装置100ごとに生成した動線分析画像の合成処理によって広域動線分析画像を生成してモニタ450に表示させるので、ユーザが任意の日時を選択することにより、例えば単一のカメラ装置で撮像困難な大規模な店舗内のフロア内においてレイアウト変更があった場合でも、フロアの全景又はその一部における人物等の移動体の滞留位置又は通過位置に関する動線情報を視覚的にユーザに対して把握させることができる。
次に、本実施形態の動線分析システム500Aの追加実施例の第2例(図15参照)における広域動線分析画像の生成及び表示の動作手順について、図19(A)及び図19(B)を参照して説明する。図19(A)は、複数のカメラ装置とサーバ装置との間における広域動線分析画像の生成及び表示に関する動作手順の第3例を説明するフローチャートである。図19(B)は、複数のカメラ装置とサーバ装置との間における広域動線分析画像の生成及び表示に関する動作手順の第4例を説明するフローチャートである。また、図19(A)及び図19(B)の説明では、図18(A)又は図18(B)の説明と重複する内容については同一のステップ番号を付与して説明を省略し、異なる内容について説明する。
図19(A)において、それぞれのカメラ装置100Sは、自己の画角内に含まれる撮像領域の背景画像のデータと、移動体(例えば人物)の滞留情報又は通過情報に関する動線情報のデータとを用いて、動線分析画像を生成してサーバ装置300Bに送信する(S31)。ステップS13以降の処理は図18(A)と同様のため、説明を省略する。これにより、個々のカメラ装置100Sは、リアルタイムに撮像している撮像画像に対応する個々の背景画像及び動線情報を用いて、背景画像に人物等の移動体を映さずにプライバシーを適切に保護可能な動線分析画像を個別に生成できる。更に、サーバ装置300Bは、大規模な店舗内でも複数のカメラ装置100Sごとに生成した動線分析画像の合成処理によって広域動線分析画像を生成してモニタ450に表示させるので、例えば単一のカメラ装置で撮像困難な大規模な店舗内のフロア内においてレイアウト変更があった場合でも、フロアの全景又はその一部における人物等の移動体の滞留位置又は通過位置に関する動線情報を視覚的にユーザに対して把握させることができる。
図19(B)において、それぞれのカメラ装置100Sは、自己の画角内に含まれる撮像領域の背景画像のデータと、移動体(例えば人物)の滞留情報又は通過情報に関する動線情報のデータとを用いて、動線分析画像を生成してレコーダ200に送信する(S31A)。レコーダ200は、それぞれのカメラ装置100Sから送信された動線分析画像のデータをカメラ装置100Sごとに保存する(S21A)。
ステップS13Aの後、レコーダ200は、ステップS13Aにおける入力デバイス400の操作により、選択されたグループ及び日時に対応する、撮像領域の動線分析画像のデータをサーバ装置300Bに送信する。サーバ装置300Bは、レコーダ200から送信されたデータ(つまり、選択されたグループ及び日時に対応する、撮像領域の動線分析画像のデータ)をカメラ装置100ごとに受信する(S22A)。ステップS22A以降の動作は図18(B)に示すステップS23以降の動作と同一であるため、説明を省略する。これにより、サーバ装置300Bは、それぞれのカメラ装置100Sから送信された動線分析画像のデータをレコーダ200に格納できる。更に、サーバ装置300Bは、大規模な店舗内でも、リアルタイムではなく撮像後に複数のカメラ装置100ごとに生成した動線分析画像の合成処理によって広域動線分析画像を生成してモニタ450に表示させる。これにより、サーバ装置300Bは、ユーザが任意の日時を選択することにより、例えば単一のカメラ装置で撮像困難な大規模な店舗内のフロア内においてレイアウト変更があった場合でも、フロアの全景又はその一部における人物等の移動体の滞留位置又は通過位置に関する動線情報を視覚的にユーザに対して把握させることができる。
また、カメラ装置100,100Sは固定の画角を有する固定カメラでもよいが、全方位カメラでもよい。これにより、ユーザは、カメラ装置100,100Sの2次元パノラマ画像を生成するための切り出し範囲を入力デバイス400により指定することで、店舗内の画角内に含まれる任意の場所の動線情報がヒートマップとして示された動線分析画像をモニタ450上で簡易かつ視覚的に確認することができる。
また、カメラ装置100,100Sは、自己の撮像画像に含まれる移動体(例えば人物)をカウントし、サーバ装置300A,300Bに送信してもよい。これにより、サーバ装置300,300Bは、広域動線分析画像TPを生成した際に、広域動線分析画像TP上の検出位置における移動体(例えば人物)の検出数(つまり、人数)を示すことができ、ユーザに対して、具体的な検出数を定量的に把握させることができる。
また、本実施形態の動線分析システム500Aにおいて、店舗内の人物の検出、とりわけ従業員の情報を動線情報に利用する或いは動線情報から従業員の情報を削除する場合において、従業員等にバーコード等(例えば二次元バーコード、カラーバーコード)の識別情報を含む名札を持たせておき、このバーコード等をカメラの画像処理によって検出して従業員等の人物情報の検出を行うこともできる。この場合、動線分析システム500Aは、店舗内の従業員の識別も容易に行うことができ、顧客の動線情報に限らず、従業員の勤務状況を容易かつ正確に把握することができる。
以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
なお、上記追加実施例の説明において、サーバ装置300A,300Bが広域動線分析画像を生成する例を説明したが、サーバ装置300A,300Bは、例えば大規模な店舗のレイアウトに関する地図のデータと個々のカメラ装置100,100Sのレイアウト上の配置場所を示す位置情報のデータとをサーバ装置300,300B自身又はレコーダ200に保存しているとする。この場合、サーバ装置300A,300Bは、複数のカメラ装置100,100S又はレコーダ200が個々に送信したデータを用いて、店舗のレイアウトに関する地図のデータに、地図上の位置情報により特定されるカメラ装置100,100Sに対応する動線分析画像のデータを重畳してモニタ450に表示させてもよい。これにより、ユーザは、大規模な店舗内の実際の地図上に、移動体(例えば顧客等の人物)がどの程度滞留したり通過したりしたかを示す動線情報を、移動体が映らない状態で簡易かつ視覚的に把握することができる。
本発明は、撮像領域に映る人物のプライバシーを適切に保護し、所定のタイミングで更新された背景画像に人物の滞留情報又は通過情報を重畳した正確な動線分析画像を生成する動線分析システム、カメラ装置及び動線分析方法として有用である。
10 撮像部
20 画像入力部
30 背景画像生成部
31 入力画像学習部
32 移動体分離部
33 背景画像抽出部
40 動線情報分析部
41 対象検出部
42 動線情報取得部
43 通過/滞留状況分析部
50 スケジュール管理部
60 送信部
70 イベント情報受領部
80 背景画像蓄積部
90 通過/滞留分析情報蓄積部
100、100A、100N、100S カメラ装置
200 レコーダ
300、600 サーバ装置
310 イベント情報受領部
320 通知部
330 受信部
340 受信情報蓄積部
350 表示画像生成部
360 レポート生成出力部
400 入力デバイス
450 モニタ
500A、500B、500C 動線分析システム
700 スマートフォン
800 クラウドコンピュータ
900 設定端末装置
1000 販売管理システム
CT 人数カウント部
SD シーン識別部

Claims (5)

  1. 複数のカメラ装置とサーバ装置とが相互に接続された動線分析システムであって、
    前記カメラ装置は、
    前記カメラ装置ごとの異なる撮像領域を撮像
    前記撮像領域の撮像画像の背景画像を繰り返し生成
    前記撮像画像に含まれる移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出
    所定の送信周期ごとに、前記生成された前記背景画像と、前記抽出された前記移動体の動線情報とを前記サーバ装置に送信
    前記サーバ装置は、
    前記撮像画像の背景画像と前記移動体の動線情報との重畳に基づく動線分析画像を、前記カメラ装置ごとに取得し、
    前記取得した複数の前記動線分析画像を用いて、広域動線分析画像を生成
    記生成された前記広域動線分析画像を表示部に表示させる、
    動線分析システム。
  2. 請求項1に記載の動線分析システムであって、
    前記カメラ装置ごとの、前記撮像画像の背景画像と前記移動体の動線情報とを対応付けて格納するレコーダ、を更に備え、
    前記サーバ装置は、日時及び複数の前記カメラ装置の指定操作に応じて、指定された前記日時に複数の前記カメラ装置により撮像された撮像画像に対応する前記撮像画像の背景画像と前記移動体の動線情報とを前記レコーダから取得し、前記レコーダから取得した前記撮像画像の背景画像と前記移動体の動線情報との重畳に基づく動線分析画像を用いて、
    前記広域動線分析画像を生成して前記表示部に表示させる、
    動線分析システム。
  3. 請求項1に記載の動線分析システムであって、
    前記カメラ装置は、少なくとも1つが自己の前記撮像領域の全方位画像を撮像可能な全方位カメラであり、
    前記サーバ装置は、前記全方位カメラにより撮像された前記撮像領域の全方位画像を平面画像に変換し、変換後の前記平面画像を用いて、前記広域動線分析画像を生成して前記表示部に表示させる、
    動線分析システム。
  4. 請求項1に記載の動線分析システムであって、
    前記カメラ装置は、自己が撮像した前記撮像画像に含まれる移動体の検出数をカウント、前記カウントされた前記移動体の検出数に関する情報を前記サーバ装置に送信し、
    前記サーバ装置は、前記カメラ装置から送信された前記移動体の検出数に関する情報を用いて、前記移動体の検出数を更に重畳した前記広域動線分析画像を前記表示部に表示させる、
    動線分析システム。
  5. 複数のカメラ装置とサーバ装置とが相互に接続された動線分析システムにおける動線表示方法であって、
    前記カメラ装置において、
    前記カメラ装置ごとの異なる撮像領域を撮像し、
    前記撮像領域の撮像画像の背景画像を繰り返し生成し、
    前記撮像画像に含まれる移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、
    所定の送信周期ごとに、前記生成された前記背景画像と、前記抽出された前記移動体の動線情報とを前記サーバ装置に送信し、
    前記サーバ装置において、
    前記撮像画像の背景画像と前記移動体の動線情報との重畳に基づく動線分析画像を、前記カメラ装置ごとに取得し、
    前記取得した複数の前記動線分析画像を用いて、広域動線分析画像を生成し、
    前記生成された前記広域動線分析画像を表示部に表示させる、
    動線表示方法。
JP2015120646A 2015-06-15 2015-06-15 動線分析システム及び動線表示方法 Active JP5909711B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015120646A JP5909711B1 (ja) 2015-06-15 2015-06-15 動線分析システム及び動線表示方法
US15/536,572 US20170330434A1 (en) 2015-06-15 2016-03-23 Flow line analysis system and flow line display method
PCT/JP2016/001685 WO2016203678A1 (ja) 2015-06-15 2016-03-23 動線分析システム及び動線表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015120646A JP5909711B1 (ja) 2015-06-15 2015-06-15 動線分析システム及び動線表示方法

Publications (2)

Publication Number Publication Date
JP5909711B1 true JP5909711B1 (ja) 2016-04-27
JP2017004443A JP2017004443A (ja) 2017-01-05

Family

ID=55808206

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015120646A Active JP5909711B1 (ja) 2015-06-15 2015-06-15 動線分析システム及び動線表示方法

Country Status (3)

Country Link
US (1) US20170330434A1 (ja)
JP (1) JP5909711B1 (ja)
WO (1) WO2016203678A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5915960B1 (ja) 2015-04-17 2016-05-11 パナソニックIpマネジメント株式会社 動線分析システム及び動線分析方法
JP6558579B2 (ja) 2015-12-24 2019-08-14 パナソニックIpマネジメント株式会社 動線分析システム及び動線分析方法
US10497130B2 (en) 2016-05-10 2019-12-03 Panasonic Intellectual Property Management Co., Ltd. Moving information analyzing system and moving information analyzing method
CN110858895B (zh) * 2018-08-22 2023-01-24 虹软科技股份有限公司 一种图像处理方法和装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08242987A (ja) * 1995-03-08 1996-09-24 Sanyo Electric Co Ltd 店内レイアウト評価装置
JP2003256843A (ja) * 2002-02-26 2003-09-12 Oki Electric Ind Co Ltd 計測システム
WO2010044186A1 (ja) * 2008-10-17 2010-04-22 パナソニック株式会社 動線作成システム、動線作成装置及び3次元動線表示装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040066456A1 (en) * 2002-06-21 2004-04-08 David Read Visual imaging network systems and methods
AU2003280516A1 (en) * 2002-07-01 2004-01-19 The Regents Of The University Of California Digital processing of video images
JP2005309951A (ja) * 2004-04-23 2005-11-04 Oki Electric Ind Co Ltd 販売促進支援システム
US20080101789A1 (en) * 2006-10-30 2008-05-01 Tyco Safety Products Canada Ltd. Method and apparatus for setting camera viewpoint based on alarm event or condition
US8965042B2 (en) * 2007-03-20 2015-02-24 International Business Machines Corporation System and method for the measurement of retail display effectiveness
JP2010002997A (ja) * 2008-06-18 2010-01-07 Toshiba Tec Corp 人物行動分析装置及び人物行動分析プログラム
US8744216B2 (en) * 2010-03-18 2014-06-03 Panasonic Corporation Omnidirectional image processing device and method using warp processing for enhanced object visibility
AU2010257454B2 (en) * 2010-12-24 2014-03-06 Canon Kabushiki Kaisha Summary view of video objects sharing common attributes
JP5597781B1 (ja) * 2014-03-26 2014-10-01 パナソニック株式会社 滞留状況分析装置、滞留状況分析システムおよび滞留状況分析方法
JP2015210702A (ja) * 2014-04-28 2015-11-24 キヤノン株式会社 画像処理装置及び画像処理方法
CN107431742B (zh) * 2015-03-20 2020-06-16 索尼半导体解决方案公司 图像处理装置、图像处理***和图像处理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08242987A (ja) * 1995-03-08 1996-09-24 Sanyo Electric Co Ltd 店内レイアウト評価装置
JP2003256843A (ja) * 2002-02-26 2003-09-12 Oki Electric Ind Co Ltd 計測システム
WO2010044186A1 (ja) * 2008-10-17 2010-04-22 パナソニック株式会社 動線作成システム、動線作成装置及び3次元動線表示装置

Also Published As

Publication number Publication date
JP2017004443A (ja) 2017-01-05
US20170330434A1 (en) 2017-11-16
WO2016203678A1 (ja) 2016-12-22

Similar Documents

Publication Publication Date Title
JP5838371B1 (ja) 動線分析システム、カメラ装置及び動線分析方法
JP5915960B1 (ja) 動線分析システム及び動線分析方法
JP6558579B2 (ja) 動線分析システム及び動線分析方法
US20170193309A1 (en) Moving information analyzing system and moving information analyzing method
US10497130B2 (en) Moving information analyzing system and moving information analyzing method
JP5909711B1 (ja) 動線分析システム及び動線表示方法
JP6226308B1 (ja) 動線分析システム及び動線分析方法
JP2017123026A (ja) 動線分析システム及び動線分析方法
WO2016194275A1 (ja) 動線分析システム、カメラ装置及び動線分析方法
JP6688611B2 (ja) 動線分析システム及び動線分析方法
JP6485707B2 (ja) 動線分析システム及び動線分析方法
JP5909709B1 (ja) 動線分析システム、カメラ装置及び動線分析方法
JP5909710B1 (ja) 動線分析システム、カメラ装置及び動線分析方法
JP6226309B1 (ja) 動線分析システム及び動線分析方法
JP5909712B1 (ja) 動線分析システム、カメラ装置及び動線分析方法
JP6439934B2 (ja) 動線分析システム、カメラ装置、動線分析方法及びプログラム
JP6421936B2 (ja) 動線分析システム及び動線分析方法
JP6421937B2 (ja) 動線分析システム及び動線分析方法
JP5909708B1 (ja) 動線分析システム、カメラ装置及び動線分析方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160128

R151 Written notification of patent or utility model registration

Ref document number: 5909711

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250