JP6116168B2 - 情報処理装置およびその方法 - Google Patents

情報処理装置およびその方法 Download PDF

Info

Publication number
JP6116168B2
JP6116168B2 JP2012203538A JP2012203538A JP6116168B2 JP 6116168 B2 JP6116168 B2 JP 6116168B2 JP 2012203538 A JP2012203538 A JP 2012203538A JP 2012203538 A JP2012203538 A JP 2012203538A JP 6116168 B2 JP6116168 B2 JP 6116168B2
Authority
JP
Japan
Prior art keywords
metadata
image data
detected
event
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012203538A
Other languages
English (en)
Other versions
JP2014059660A (ja
JP2014059660A5 (ja
Inventor
敦史 川野
敦史 川野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012203538A priority Critical patent/JP6116168B2/ja
Priority to US13/965,449 priority patent/US9607013B2/en
Priority to CN201310409985.9A priority patent/CN103685914B/zh
Publication of JP2014059660A publication Critical patent/JP2014059660A/ja
Publication of JP2014059660A5 publication Critical patent/JP2014059660A5/ja
Application granted granted Critical
Publication of JP6116168B2 publication Critical patent/JP6116168B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8126Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts
    • H04N21/8133Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts specifically related to the content, e.g. biography of the actors in a movie, detailed information about an article seen in a video program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/84Generation or processing of descriptive data, e.g. content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8549Creating video summaries, e.g. movie trailer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Library & Information Science (AREA)
  • Television Signal Processing For Recording (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像した画像を、メタデータを用いた画像検索が可能な形式で保存するように処理する情報処理装置およびその方法に関する。
従来、監視カメラ、カメラから得た映像を記録する記録装置、映像を確認するビューア装置などから構成される監視カメラシステムが知られている。この監視カメラシステムの構成要素である監視カメラとして、天井や壁に設置された固定カメラや、ユーザ操作によりパン・チルト・ズームなどが可能なPTZ(パン・チルト・ズーム)カメラがある。監視カメラシステムでは、このような監視カメラが撮影した映像を24時間、絶え間なく録画する用途のため、記録装置において記録する映像のデータ量は非常に膨大なものとなる。この膨大な量の録画映像の中から異常事態を効率的に検出、確認するため、一部監視カメラシステムでは、映像解析処理を施し、映像に所定の情報が付与する処理が行われている。映像に所定の情報を付与する技術として、例えば、特許文献1や特許文献2に記載される技術がある。
特許文献1には、カメラが撮影した連続する画像データにおいて変化がある場合、その変化のレベルおよび変化箇所をインデックス情報として記録する画像記録装置が記載されている。また、特許文献1に記載されている画像記録装置は、記録した画像を再生する際、このインデックス情報を参照して、変化があった箇所のみを再生している。これによれば、カメラが撮影した画像の確認作業を容易にすることが可能となる。
特許文献2には、映像送信装置が映像データを所定の単位で分割して、この分割した映像データに関連したメタデータを付与して、映像データおよびメタデータを映像受信装置へ送信する映像監視システム記載されている。これによれば、蓄積処理と検索処理を効率化することが可能となる。
特開2004-112005号公報 特許第4099973号
上記の文献に記載されている技術では、記録する画像データまたは映像データに対してメタデータのような所定の情報を付与することによって、後の検出や確認を効率的なものにしている。しかし、いずれの文献においても、長時間の画像データや映像データに付与する情報の量は、膨大なものとなっており、検索処理負荷が十分に軽減されたとは言えないという課題があった。
本発明は、上記課題に鑑みてなされたものであり、複数の画像データそれぞれにメタデータを付与し、付与後にメタデータを検索し所望の画像データを抽出する際、処理負荷を低減しつつ効率的な検索を可能にすることを目的とする。
上記目的を達成するための一手段として、本発明の情報処理装置は以下の構成を備える。すなわち、複数の画像データを取得する画像取得手段と、複数の画像データそれぞれが対応する複数のメタデータを取得するメタデータ取得手段と、前記複数のグループにグループ化された複数のメタデータのそれぞれのグループに属する複数のメタデータの複数の集合のそれぞれに対するサマリ情報として、前記複数のグループにグループ化された複数のメタデータのそれぞれのグループに対応する複数の第1サマリメタデータを生成する生成手段と、を備え、前記生成手段は、前記複数の第1サマリメタデータの集合に対するサマリ情報として、前記複数の第1サマリメタデータがグループ化された前記複数の第1サマリメタデータのグループに対応する第2サマリメタデータを生成し、前記複数のメタデータのそれぞれは、それぞれが対応する前記複数の画像データのそれぞれでイベントが検知されたか、されなかったかを示すか、を示し、前記複数の第1サマリメタデータのそれぞれは、それぞれが対応する前記複数のメタデータのグループのいずれかがイベントが検知されたことを示すか、いずれもイベントが検知されなかったことを示すか、を示し、前記第2サマリメタデータは、対応するグループに属する前記複数の第1サマリメタデータのいずれかがイベントが検知されたことを示すか、いずれもイベントが検知されなかったことを示すか、を示すことを特徴とする。
本発明によれば、メタデータに基づいて所望の画像データを抽出する際、処理負荷を低減しつつ効率的な検索が可能となる。
第1実施形態による情報処理装置の構成を示す図。 サマリ情報の例を示す図。 サマリ情報の作成方法例を示す図。 PTZ時のサマリ情報作成方法を示す図。 映像ファイルと連結メタデータファイルを階層的に記憶させた例を示す図。 映像とメタデータの対応関係を示す図。 階層サマリ情報の例を示す図。 記憶処理のフローチャートを示す図。 録画システムを示す図。 第2実施形態による情報処理装置の構成を示す図。
以下、添付の図面を参照して、本発明をその好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
[第1実施形態]
図1は、第1実施形態による情報処理装置10の構成を示す図である。情報処理装置10は、画像取得部101、制御情報取得部102、符号化部103、解析部104、パラメータ設定部105、一時記憶部106、サマリ情報作成部107、および記録制御部108から構成される。画像取得部101は、画像を外部の撮像装置(図示せず)から取得する。この画像は、例えば時系列順に並べられている。画像取得部101はまた、取得した複数の画像に、それぞれの画像を識別するための画像IDを付与する。なお、画像取得部101が取得する画像は、外部の撮像装置が撮像した画像に限らず、外部のサーバや外部メモリに保存された画像であっても良い。
制御情報取得部102は、カメラのパン・チルト・ズーム情報などを、外部の撮像装置(図示せず)から取得する。制御情報取得部102が取得する情報は、カメラのパン・チルト・ズーム情報に限らず、ホワイトバランスや露出の変化といった、カメラ内部で取得可能な情報であれば良い。符号化部103は、画像取得部101が取得した連続画像それぞれをH.264形式に符号化し、さらに、輝度成分のみを抽出したグレイ画像を作成する。なお、符号化部103における符号化処理は、H.264形式に限らず、連続JPEGやMPEG−2など連続画像を符号化することができるものであれば良い。
解析部104は、符号化部103によって作成されたグレイ画像を用いて、背景差分法によって、動く対象(動体)または不動の対象(不動体)を検出する。さらに、検出した対象のフレーム間における位置関係から同定した対象(オブジェクト)にID(オブジェクトID)を付与し、このオブジェクトの追跡処理を行う。まず、オブジェクトそれぞれの形状の特徴および行動パターンの特徴から、人(男性、女性)、不動体、その他の属性を付与する。また、オブジェクトの形状、位置、大きさ、移動軌跡等を検出する。さらに、オブジェクトの移動軌跡が画面上の特定の場所を通過したイベント(通過イベント)、オブジェクトが画面上の同一の場所に所定時間以上滞在したイベント(置去りイベント)を検知する。そして、得られたオブジェクトやイベント等を用いて、フレーム毎にメタデータ(第1のメタデータ)を作成する。イベントについては、全てのフレームで検出されるとは限らないので、検出されたフレームにおいてメタデータに反映させる。また、メタデータの先頭部には、そのフレーム自身のデータサイズを記載する。
解析部104の処理は、上述したものに限らず、フレーム間差分法やオプティカルフローを用いた動体追尾等、画像を解析してメタデータを作成する処理であれば良い。また、 本実施形態において、解析部104は、符号化部103からグレイ画像を取得する構成となっているが、このような構成に限らず、画像取得部101から直接取得した画像を用いる構成としても良い。
パラメータ設定部105は、ユーザの操作等により、一時記憶部106において一時的に記憶する符号化画像およびメタデータに関連する上限値を受け取る。この上限値は、具体的には、ファイル上限値および階層ごとの階層上限数である。ファイル上限値とは、一時記憶するデータ量や時間等であり、符号化画像とメタデータに対してそれぞれ設定される。また、階層および階層上限数とは、記録制御部108が情報を記録する際に必要となるものであり、後に詳述する。また、パラメータ設定部105は、ユーザの操作等により、サマリ情報フィルタを受け取る。サマリ情報フィルタとは、後述するサマリ情報作成部107で作成するサマリ情報に記載する内容を指定するフィルタのことであり、メタデータに記載された情報の少なくとも1つである。
一時記憶部106は、画像取得部101によって付与された画像IDと、符号化部103によって作成された符号化画像および解析部104によって作成されたメタデータを対応付けて、一時的に記憶する。ここで、一時記憶している符号化画像もしくはメタデータが、前述したファイル上限値を超えた場合、一時記憶部106は、記憶している符号化画像とメタデータをグループ化してサマリ情報作成部107へ出力し、その後リセットする。
サマリ情報作成部107は、一時記憶部106から符号化画像とメタデータを取得し、これらから、それぞれ映像ファイルとサマリ情報(第2のメタデータ)を作成する。ここで、映像ファイルはMP4形式のファイルであり、MP4ファイル構造に必要な各符号化画像のサイズやオフセット位置等が設定され、作成される。一方、サマリ情報は、記憶されたメタデータの範囲とイベントの有無、オブジェクトの数、オブジェクトの位置情報等からなり、前述したサマリ情報フィルタの設定に従い作成される。
図2は、サマリ情報をXML形式で記載した例である。図2は、サマリ情報フィルタに、メタデータの範囲(range)、イベントの有無又は回数(event)、オブジェクトの属性および数(human)、オブジェクトの位置情報(area)を設定した場合の例である。
メタデータの範囲は、画像取得部101によって付与された画像IDを使用して、記憶されたメタデータの時間軸上の範囲を示すものである。すなわち、そのグループの最初の画像の画像IDと最後の画像の画像IDを含む。イベントの有無又は回数は、記憶されたメタデータの範囲内での、イベントの種類(通過イベント(tripwire)もしくは置去りイベント(abandoned))毎のイベントの有無又は回数である。オブジェクトの属性は、一時記憶部106から出力された複数の画像から検出されたオブジェクトを表す。オブジェクトの数は、記憶されたメタデータの範囲内でオブジェクトを属性ごとにカウントした数である。オブジェクトの位置情報は、記憶されたメタデータの範囲内において、画面上でオブジェクトを検出した位置(座標)の和集合である。図2に示した例とは別の例として、サマリ情報フィルタとして、メタデータの範囲とイベントの有無のみを設定した場合は、メタデータの範囲とイベントの有無のみが、サマリ情報に記載される。
図3は、符号化画像(図3(a))と、作成されたサマリ情報(図3(b))の例である。図3に示す例では、図3(a)のようにメタデータの範囲は1チャンク(Chunk)区間であり、1チャンク区間は複数のフレームで構成されている。解析部104は、検知したオブジェクトやイベントに基づいて、フレーム毎にメタデータを作成する。サマリ情報作成部107は、1チャンク区間分のフレーム経過後に、得られたメタデータおよび符号化画像からサマリ情報を作成する。このサマリ情報を図示化すると図3(b)のようになり、ここでは検出されたイベントについて、そのイベントに関連した情報が含まれたものとなっている。具体的には、2つの位置(Area1及びArea2)において人間および動物もしくは不動体(Human,aninmal,object)が、通過イベントもしくは置去りイベント(tripwire, abandoned)を行ったことを示すサマリ情報となっている。すなわち、このチャンク区間内のn番目の画像で通過イベントが検出され、n+m番目の画像で置去りイベントが検出されたとする。このチャンク区間のサマリ情報としては、このチャンク区間内の何れかの画像で通過イベントと置去りイベントが検出されたことが含まれる。また、サマリ情報は、通過イベント、置去りイベントが検出された位置、及び、検出されたオブジェクトの属性(人、動物、その他)を含む。
また、制御情報取得部102から、カメラのパン・チルト・ズーム(PTZ)情報等、カメラの制御情報の通知を受けた場合は、サマリ情報は分割して作成される。1サマリ情報範囲(1チャンク区間)の間に、PTZの設定変更通知を受けた場合の例を図4に示す。図4において、記憶されたメタデータのChunk n+1において、サマリ情報作成部107は、先頭からPTZ設定変更通知を受け付けるまでのメタデータを、サマリ情報s1として作成する。また、PTZ期間中はサマリ情報s2、PTZ終了後からメタデータの最後まではサマリ情報s3を作成する。このように、サマリ情報は、制御情報の変化に応じて部分毎に作成される。ここで、制御情報取得部102から受ける制御情報は、PTZ情報に限らず、ホワイトバランスの変化や露出の変化などカメラから得られる制御情報であっても良い。カメラの制御情報は、サマリ情報に反映される。
本実施形態では、サマリ情報作成部107が作成する映像ファイルは、MP4形式のファイルであるが、これに限らず、AVIなど符号化画像をひとつの映像として構成することができるコンテナであれば良い。また、本実施形態では、サマリ情報作成部107が作成するサマリ情報はXML形式であるが、これに限らず、バイナリ形式や独自の構造を持つ形式などサマリ情報を管理する形式であれば良い。サマリ情報の記載内容は本実施形態による内容に限らず、記憶されたメタデータの範囲において、メタデータの内容を集約したものであれば良い。また、本実施形態では、カメラの制御情報の変化を制御情報取得部102から取得したが、画像取得部101が取得する画像のヘッダとして付与された同情報が存在する場合、これを使用しても良い。
記録制御部108は、一時記憶部106に記憶されたメタデータとサマリ情報作成部107が作成したサマリ情報と映像ファイルをまとめて、外部装置に階層的に記録する。図5は、記録制御部108が、映像ファイルであるMP4ファイルと、メタデータから作成された連結メタデータファイルを外部装置に記憶したときの例である。図5は、Layer0からLayer3までの4階層に分けた例を示している。記録は、パラメータ設定部105で受け取った階層上限数に基づいて行われる。階層上限数とは、階層ごとに記憶できるファイルもしくはフォルダの上限数である。図5では、Layer3の階層上限数はMP4ファイルと連結メタデータファイルそれぞれで15ファイル、Layer2とLayer1の階層上限数は1000フォルダに設定されている。なお、階層上限数は1000フォルダに限定されるものではない。
記録制御部108は、MP4ファイルおよび連結メタデータファイルを最初に保存するとき、Layer1およびLayer2のフォルダを1つ作成する。それぞれのフォルダ名は作成した順に000から999までの数字とする。次に、最下位層のLayer3にMP4ファイルおよび連結メタデータファイルを保存する。そして、階層ごとに階層サマリ情報を作成する。以降、ファイルを追加するとき、階層上限数に従い、Layer2の最も数字の小さなフォルダ(図5では000)のファイル数が階層上限数より小さい場合、そのフォルダにファイルを保存する。一方で、階層上限数を超えた場合、Layer2に新規フォルダを作成し、MP4ファイルおよび連結メタデータファイルを保存する。
ただし、Layer2のフォルダ名の数字が999を超えた場合、Layer1に新たなフォルダを作成し、上記同様フォルダを作成しMP4ファイルおよび連結メタデータファイルを保存する。Layer1のファイル名の数字が上限999を超えた場合、Layer1の000フォルダを削除し、000フォルダに同様に保存する。以降は同様に削除した上で保存を繰り返す。
図6は、記録するMP4ファイルと連結メタデータファイルのファイル構成例である。上段のMP4ファイル(movie file)は、MP4BOX構造のヘッダ(Movie Header)を先頭に配置し、以降にFrame[0]〜[n]まで、符号化画像を連続して配置したものである。連結メタデータファイル(metadata file)は、サマリ情報作成部107が作成したサマリ情報を先頭に配置し、以降にFrame[0]〜[n]の符号化画像と対応させて、一時記憶部106に記憶されたメタデータを連続して配置したものである。図6に示した構成のMP4ファイルおよび連結メタデータファイルは名前は同一として、拡張子は別として記憶する。これによりMP4ファイルと連結メタデータの対応付けをとる。更に、連結メタデータファイルを保存するとき、階層サマリ情報を作成および更新する。なお、サマリ情報および連結メタデータファイルは、必ずしも同一ファイルとする必要はなく、サマリ情報と連結メタデータをそれぞれ別ファイルとして記録しても良い。
また、記録制御部108は、同じ上位階層に従属するファイルやフォルダごとにサマリ情報を集約して階層サマリ情報(第3のメタデータ)を作成し、内容が変更されるたびに更新して階層管理する。例えば、Layer3では、15ファイルごとに階層サマリ情報が作成され(例えばlayer3_1.meta)、Layer2では、999フォルダごとに階層サマリ情報が作成される(例えばlayer2_1.meta)。図7は、階層サマリ情報をXML形式で記載した例である。図7(a)には、Layer3における階層サマリ情報(階層上限数は3ファイル)、図7(b)には、Layer2における階層サマリ情報(階層上限数は3フォルダ)の例が示されている。それぞれの階層サマリ情報には、同じフォルダに記憶されている一つ以上のサマリ情報から抽出されたイベントの有無およびパン・チルト・ズーム制御情報がXML形式で記載されている。
記録制御部108が映像および連結メタデータを記録する外部装置とは、SDカードやハードディスク、NASなどデータを記憶可能な媒体であればよく、特定の機器に限定されるものではない。図8は上述した記憶処理のフローチャートである。s1においては、本記憶処理を継続するかを判定する。まず、画像取得部101から画像を取得し(s2)、符号化部103において符号化画像を作成する(s3)。次に、解析部104がs3で作成した符号化画像の解析処理を行い(s4)、符号化画像とメタデータを一時記憶部106に記憶する(s5)。次に、一時記憶部106に記憶した符号化画像もしくはメタデータがファイル上限数を下回る場合、S1判定に戻る(s6)。一方で、ファイル上限数を超えた場合、サマリ情報作成部107においてサマリ情報を作成し(s7)、記録制御部108の制御に従い、記録処理を行う(s8)。そして、一時記憶部106をリセットし、S1の判定に戻る(s9)。
図9に本実施形態による情報処理装置を用いた録画システムとその動作を示す。図9において、カメラとビューアはワイヤレスLANにより接続されており、カメラとネットワークドライブは有線LANにより接続されている。そして、本実施形態による情報処理装置はカメラ内に搭載している。本実施形態による情報処理装置は、カメラから直接画像を取得し本実施形態による処理を実施し、ネットワークドライブへ結果を出力し、記憶させる。
イベントが発生した映像のみを再生する場合、ビューアからカメラに検索メッセージを送信し、これを受け付けたカメラはネットワークドライブ内を検索する。例えば、通過イベントを検索する場合、ネットワークドライブの階層構造の最上位の階層サマリ情報から順に通過イベントの有無を確認し、通過イベントが存在する場合、下位の階層サマリ情報を確認する。最終的に、メタデータに付随したサマリ情報から通過イベントの有無を確認し、発見した場合、当該箇所の映像とメタデータをカメラ経由でビューアに送信する。システムの構成はこのようなものに限らず、本情報処理装置をネットワークドライブに搭載する構成としても良い。
このように、以上の構成に従い映像ファイルおよび連結メタデータファイルを階層化して保存することで、検索する際に、階層的にメタデータを辿ることで検索の効率化を実現できる。なお、本実施形態では、映像ファイルを保存する例を示したが、映像ファイルに限らず、静止画ファイル等を含む画像ファイルであれば良い。
[第2実施形態]
図10は、第2実施形態による記録装置の構成を示す図であり、基本的に図1と同じであるが、画像取得部201とメタデータ取得部202を備える点で異なる。画像取得部201は、外部の撮像装置が撮像した画像、およびこれらの画像に外部の装置が付与した画像IDを取得する。撮像する装置と、画像IDを付与する装置は、同一であってもよいし、別であってもよい。メタデータ取得部202は、メタデータおよびメタデータと対応する画像IDを外部の装置から取得する。外部から取得した画像の画像IDとメタデータの画像IDは、必ずしも一対一に同期している必要はないが、それぞれのIDに対応する画像とメタデータは、例えば図6のように、同じ量や時間を単位としたものとする。一時記憶部106において、画像と画像IDとメタデータを対応付けて一時的に記憶する際、メタデータと対応する画像IDを持つ画像が存在しない場合、近傍の画像IDを持つ画像をメタデータと対応付ける。逆も同様に、画像と対応するメタデータの画像IDをもつメタデータが存在しない場合、近傍のメタデータの画像IDを持つ画像と対応付ける。この他の構成は第1実施形態による例と同様であり、外部から取得した画像およびメタデータに対して記録制御を実施する。
[その他の実施形態]
以上、実施形態例を詳述したが、本発明は例えば、システム、装置、方法、プログラム若しくは記録媒体(記憶媒体)等としての実施態様をとることが可能である。具体的には、複数の機器(例えば、ホストコンピュータ、インタフェース機器、撮像装置、webアプリケーション等)から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (19)

  1. 複数の画像データを取得する画像取得手段と、
    前記複数の画像データにそれぞれが対応する複数のメタデータを取得するメタデータ取得手段と、
    複数のグループにグループ化された複数のメタデータのそれぞれのグループに属する複数のメタデータの複数の集合のそれぞれに対するサマリ情報として、前記複数のグループにグループ化された複数のメタデータのそれぞれのグループに対応する複数の第1サマリメタデータを生成する生成手段と、
    を備え、
    前記生成手段は、前記複数の第1サマリメタデータの集合に対するサマリ情報として、前記複数の第1サマリメタデータがグループ化された前記複数の第1サマリメタデータのグループに対応する第2サマリメタデータを生成し、
    前記複数のメタデータのそれぞれは、それぞれが対応する前記複数の画像データのそれぞれでイベントが検知されたか、されなかったかを示すか、を示し、
    前記複数の第1サマリメタデータのそれぞれは、それぞれが対応する前記複数のメタデータのグループのいずれかがイベントが検知されたことを示すか、いずれもイベントが検知されなかったことを示すか、を示し、
    前記第2サマリメタデータは、対応するグループに属する前記複数の第1サマリメタデータのいずれかがイベントが検知されたことを示すか、いずれもイベントが検知されなかったことを示すか、を示すことを特徴とする情報処理装置。
  2. 前記生成手段は、前記複数の第1サマリメタデータのそれぞれを記憶手段の第1の階層に、前記第2サマリメタデータを前記記憶手段の前記第1の階層より上位の第2の階層に記憶し、
    所定のメタデータに対応する画像データを、前記第2サマリメタデータ、前記複数の第1サマリメタデータの順に、前記第2サマリメタデータ及び前記複数の第1サマリメタデータが記憶された階層構造の上位の階層から検索する検索手段を更に設けたことを特徴とする請求項1に記載の情報処理装置。
  3. 前記複数の第1サマリメタデータを、予め決められた上限数に基づきグループ化して階層管理する階層管理手段を更に設けたことを特徴とする請求項1に記載の情報処理装置。
  4. 前記生成手段は、前記グループ化された複数のメタデータの集合と該集合から生成された第1のサマリメタデータとを一つのメタデータファイルとして記憶手段に記憶し、前記グループ化された複数のメタデータの1つのグループに対応する複数フレームの画像データを一つの画像ファイルとして、前記メタデータファイルと対応付けて前記記憶手段に記憶することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
  5. 前記複数の画像データは複数フレームの画像データであり、前記複数のメタデータのそれぞれは、前記複数フレームのそれぞれのフレームの画像データに対応することを特徴とする請求項1乃至4のいずれか1項に記載の情報処理装置。
  6. 前記画像取得手段は、撮像装置から前記複数の画像データを取得し、
    前記生成手段は、前記撮像装置の制御情報に応じてグループ化された前記複数のメタデータのそれぞれのグループに属する複数のメタデータの複数の集合のそれぞれに対するサマリ情報として、前記複数の第1サマリメタデータを生成することを特徴とする請求項1乃至5のいずれか1項に記載の情報処理装置。
  7. 前記生成手段は、前記サマリ情報としての前記複数の第1サマリメタデータを、前記複数のメタデータの集合によって示される時間軸上の範囲オブジェクトの属性および数、形状、位置、大きさ、移動軌跡のうち少なくとも一つ以上の情報、及び、前記複数のメタデータの集合によって示されるイベントの有無に基づいて生成することを特徴とする請求項1乃至6のいずれか1項に記載の情報処理装置。
  8. 前記生成手段は、前記複数のメタデータのグループのうちの1つのグループに属する複数の画像データから検出されたオブジェクト、及び、イベントが検知されたか、されなかったかを表す第1サマリメタデータを、前記1つのグループに対応して生成することを特徴とする請求項1、2、4、5、6のいずれか1項に記載の情報処理装置。
  9. 前記生成手段は、前記複数のメタデータのグループのうちの1つのグループに属する複数の画像データの何れかにおいてイベントが検知されたか、されなかったか、及び、検出されたイベントを表す第1サマリメタデータを、前記1つのグループに対応して生成することを特徴とする請求項1、2、4、5、6のいずれか1項に記載の情報処理装置。
  10. 前記複数の画像データは、時系列順に生成されていることを特徴とする請求項1乃至6のいずれか1項に記載の情報処理装置。
  11. 前記メタデータ取得手段は、画像を解析して前記複数のメタデータを生成することを特徴とする請求項1乃至10のいずれか1項に記載の情報処理装置。
  12. 画像取得手段が、複数の画像データを取得する工程と、
    メタデータ取得手段が、前記複数の画像データにそれぞれが対応する複数のメタデータを取得する工程と、
    生成手段が、複数のグループにグループ化された複数のメタデータのそれぞれのグループに属する複数のメタデータの複数の集合のそれぞれに対するサマリ情報として、前記複数のグループにグループ化された複数のメタデータのそれぞれのグループに対応する複数の第1サマリメタデータを生成する工程と、
    前記生成手段が、前記複数の第1サマリメタデータの集合に対するサマリ情報として、前記複数の第1サマリメタデータがグループ化された前記複数の第1サマリメタデータのグループに対応する第2サマリメタデータを生成する工程とを備え
    前記複数のメタデータのそれぞれは、それぞれが対応する前記複数の画像データのそれぞれでイベントが検知されたか、されなかったかを示すか、を示し、
    前記複数の第1サマリメタデータのそれぞれは、それぞれが対応する前記複数のメタデータのグループのいずれかがイベントが検知されたことを示すか、いずれもイベントが検知されなかったことを示すか、を示し、
    前記第2サマリメタデータは、対応するグループに属する前記複数の第1サマリメタデータのいずれかがイベントが検知されたことを示すか、いずれもイベントが検知されなかったことを示すか、を示すことを特徴とする情報処理方法。
  13. 前記複数の第1サマリメタデータを生成する工程と前記第2サマリメタデータを生成する工程では、前記生成手段が、前記複数の第1サマリメタデータのそれぞれを記憶手段の第1の階層に、前記第2サマリメタデータを前記記憶手段の前記第1の階層より上位の第2の階層に記憶し、
    検索手段が、所定のメタデータに対応する画像データを、前記第2のサマリメタデータ、前記複数の第1のサマリメタデータの順に、前記第2サマリメタデータ及び前記複数の第1サマリメタデータが記憶された階層構造の上位の階層から検索する工程を更に設けたことを特徴とする請求項12に記載の情報処理方法。
  14. 前記複数の第1のサマリメタデータを生成する工程では、前記グループ化された複数のメタデータの集合と該集合から生成された第1のサマリメタデータとを一つのメタデータファイルとして記憶手段に記憶し、前記グループ化された複数のメタデータの1つのグループに対応する複数フレームの画像データを一つの画像ファイルとして、前記メタデータファイルと対応付けて前記記憶手段に記憶することを特徴とする請求項12または13に記載の情報処理方法。
  15. 前記複数の画像データは複数フレームの画像データであり、前記複数のメタデータのそれぞれは、前記複数フレームのそれぞれのフレームの画像データに対応することを特徴とする請求項12乃至14のいずれか1項に記載の情報処理方法。
  16. 前記複数の画像データを取得する工程では、撮像装置から前記複数の画像データを取得し、
    前記複数の第1のサマリメタデータを生成する工程では、前記撮像装置の制御情報に応じてグループ化された前記複数のメタデータのそれぞれのグループに属する複数のメタデータの複数の集合のそれぞれに対するサマリ情報として、前記複数の第1サマリメタデータを生成することを特徴とする請求項12乃至15のいずれか1項に記載の情報処理方法。
  17. 前記複数の第1のサマリメタデータを生成する工程では、前記複数のメタデータのグループのうちの1つのグループに属する複数の画像データから検出されたオブジェクト、及び、イベントが検知されたか、されなかったかを表す第1のサマリメタデータを生成することを特徴とする請求項12乃至15のいずれか1項に記載の情報処理方法。
  18. 前記複数の第1のサマリメタデータを生成する工程では、前記複数のメタデータのグループのうちの1つのグループに属する複数の画像データの何れかにおいてイベントが検知されたか、されなかったか、及び、検出されたイベントを表す第1のサマリメタデータを生成することを特徴とする請求項12、14、15のいずれか1項に記載の情報処理方法。
  19. 請求項1乃至11のいずれか1項に記載された情報処理装置の各手段としてコンピュータを機能させるためのプログラム。
JP2012203538A 2012-09-14 2012-09-14 情報処理装置およびその方法 Active JP6116168B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012203538A JP6116168B2 (ja) 2012-09-14 2012-09-14 情報処理装置およびその方法
US13/965,449 US9607013B2 (en) 2012-09-14 2013-08-13 Image management apparatus, management method, and storage medium
CN201310409985.9A CN103685914B (zh) 2012-09-14 2013-09-10 图像管理装置及管理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012203538A JP6116168B2 (ja) 2012-09-14 2012-09-14 情報処理装置およびその方法

Publications (3)

Publication Number Publication Date
JP2014059660A JP2014059660A (ja) 2014-04-03
JP2014059660A5 JP2014059660A5 (ja) 2015-09-10
JP6116168B2 true JP6116168B2 (ja) 2017-04-19

Family

ID=50274546

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012203538A Active JP6116168B2 (ja) 2012-09-14 2012-09-14 情報処理装置およびその方法

Country Status (3)

Country Link
US (1) US9607013B2 (ja)
JP (1) JP6116168B2 (ja)
CN (1) CN103685914B (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9037407B2 (en) 2010-07-12 2015-05-19 Palantir Technologies Inc. Method and system for determining position of an inertial computing device in a distributed network
US9092482B2 (en) 2013-03-14 2015-07-28 Palantir Technologies, Inc. Fair scheduling for mixed-query loads
US8504542B2 (en) 2011-09-02 2013-08-06 Palantir Technologies, Inc. Multi-row transactions
US9398264B2 (en) 2012-10-19 2016-07-19 Qualcomm Incorporated Multi-camera system using folded optics
US9123086B1 (en) 2013-01-31 2015-09-01 Palantir Technologies, Inc. Automatically generating event objects from images
US10037314B2 (en) 2013-03-14 2018-07-31 Palantir Technologies, Inc. Mobile reports
US8868537B1 (en) 2013-11-11 2014-10-21 Palantir Technologies, Inc. Simple web search
JP6270433B2 (ja) * 2013-11-26 2018-01-31 キヤノン株式会社 情報処理装置、情報処理方法、情報処理システム
US9727376B1 (en) 2014-03-04 2017-08-08 Palantir Technologies, Inc. Mobile tasks
US9819863B2 (en) * 2014-06-20 2017-11-14 Qualcomm Incorporated Wide field of view array camera for hemispheric and spherical imaging
CN104216875B (zh) * 2014-09-26 2017-05-03 中国科学院自动化研究所 基于非监督关键二元词串提取的微博文本自动摘要方法
JP6203424B2 (ja) * 2014-10-29 2017-09-27 三菱電機株式会社 映像音声記録装置および監視システム
KR102380979B1 (ko) * 2015-01-05 2022-04-01 삼성전자 주식회사 이미지의 메타데이터 관리 방법 및 장치
US10257557B2 (en) * 2015-06-25 2019-04-09 At&T Intellectual Property I, L.P. Customized media streams
US10296617B1 (en) 2015-10-05 2019-05-21 Palantir Technologies Inc. Searches of highly structured data
CN105868178B (zh) * 2016-03-28 2018-07-17 浙江大学 一种基于短语主题建模的多文档自动摘要生成方法
CN108271068B (zh) * 2016-12-30 2020-04-03 华为技术有限公司 一种基于流媒体技术的视频数据的处理方法及装置
CN108012202B (zh) * 2017-12-15 2020-02-14 浙江大华技术股份有限公司 视频浓缩方法、设备、计算机可读存储介质及计算机装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002149673A (ja) * 2000-06-14 2002-05-24 Matsushita Electric Ind Co Ltd データ処理装置およびデータ処理方法
JP4099973B2 (ja) * 2001-10-30 2008-06-11 松下電器産業株式会社 映像データ送信方法及び映像データ受信方法、並びに映像監視システム
JP4335492B2 (ja) 2002-03-05 2009-09-30 キヤノン株式会社 動画像管理方法及び装置
AU2003249663A1 (en) * 2002-05-28 2003-12-12 Yesvideo, Inc. Summarization of a visual recording
JP2004112005A (ja) 2002-09-13 2004-04-08 Mega Chips Corp 画像記録装置
US8156123B2 (en) 2004-06-25 2012-04-10 Apple Inc. Method and apparatus for processing metadata
JP4577173B2 (ja) * 2005-09-29 2010-11-10 ソニー株式会社 情報処理装置および方法、並びにプログラム
US7904545B2 (en) * 2005-11-01 2011-03-08 Fuji Xerox Co., Ltd. System and method for collaborative analysis of data streams
US20100287473A1 (en) * 2006-01-17 2010-11-11 Arthur Recesso Video analysis tool systems and methods
JP2008035095A (ja) * 2006-07-27 2008-02-14 Sony Corp 監視装置、監視システム、監視方法及びプログラム
WO2010065623A1 (en) * 2008-12-02 2010-06-10 Ab Initio Software Llc Visualizing relationships between data elements and graphical representations of data element attributes
US20100201815A1 (en) * 2009-02-09 2010-08-12 Vitamin D, Inc. Systems and methods for video monitoring
JP5268787B2 (ja) 2009-06-04 2013-08-21 キヤノン株式会社 情報処理装置及びその制御方法、プログラム
US20120173577A1 (en) * 2010-12-30 2012-07-05 Pelco Inc. Searching recorded video
US9082452B2 (en) * 2011-02-21 2015-07-14 Kodak Alaris Inc. Method for media reliving on demand

Also Published As

Publication number Publication date
CN103685914B (zh) 2017-05-03
JP2014059660A (ja) 2014-04-03
CN103685914A (zh) 2014-03-26
US20140079340A1 (en) 2014-03-20
US9607013B2 (en) 2017-03-28

Similar Documents

Publication Publication Date Title
JP6116168B2 (ja) 情報処理装置およびその方法
US10559324B2 (en) Media identifier generation for camera-captured media
KR102244476B1 (ko) 비디오 레코딩 내에 존재하는 동일한 사람 또는 물건을 대화형으로 식별하기 위한 방법, 시스템 및 컴퓨터 프로그램 제품
JP6566330B2 (ja) 映像編集方法
TWI338265B (en) System, apparatus, method and program for processing image
US20150281305A1 (en) Selectively uploading videos to a cloud environment
JP5863400B2 (ja) 類似画像検索システム
US8730397B1 (en) Providing a photobook of video frame images
WO2017200849A1 (en) Scene marking
US20170062014A1 (en) Method, device, and computer-readable medium for tagging an object in a video
JP5882805B2 (ja) 情報処理装置、その処理方法及びプログラム
JP2009152697A5 (ja)
JP4959592B2 (ja) ネットワーク映像モニタリングシステム及びモニタ装置
US20040181545A1 (en) Generating and rendering annotated video files
JP6234146B2 (ja) 記録制御装置、記録制御方法、及び、プログラム
JP6589082B2 (ja) 類似画像検索システム
JP6203188B2 (ja) 類似画像検索装置
JP2008016896A (ja) 監視装置及び監視方法
JP5180052B2 (ja) 画像評価装置及び画像評価プログラム
JP6203424B2 (ja) 映像音声記録装置および監視システム
JP3834641B2 (ja) カメラ映像データ管理システム、カメラ映像データ管理方法、およびプログラム
JP2020091718A (ja) 撮像画像分類装置及び撮像画像分類方法
JP6604268B2 (ja) 情報処理装置、情報処理装置におけるコンテンツデータ表示方法及びプログラム
JP6082484B2 (ja) 情報処理装置、その処理方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150728

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160523

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160708

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160916

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161212

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20161221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170321

R151 Written notification of patent or utility model registration

Ref document number: 6116168

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151