JPWO2017026154A1 - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JPWO2017026154A1
JPWO2017026154A1 JP2017534115A JP2017534115A JPWO2017026154A1 JP WO2017026154 A1 JPWO2017026154 A1 JP WO2017026154A1 JP 2017534115 A JP2017534115 A JP 2017534115A JP 2017534115 A JP2017534115 A JP 2017534115A JP WO2017026154 A1 JPWO2017026154 A1 JP WO2017026154A1
Authority
JP
Japan
Prior art keywords
radio wave
captured image
search
information processing
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017534115A
Other languages
English (en)
Other versions
JP6724919B2 (ja
Inventor
井原 圭吾
圭吾 井原
敦 塩野崎
敦 塩野崎
宮島 靖
靖 宮島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2017026154A1 publication Critical patent/JPWO2017026154A1/ja
Application granted granted Critical
Publication of JP6724919B2 publication Critical patent/JP6724919B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • G06F16/432Query formulation
    • G06F16/434Query formulation using image data, e.g. images, photos, pictures taken by a user
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/48Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/489Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using time information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7837Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content
    • G06F16/784Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content the detected or recognised objects being people
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Mathematical Physics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】撮像画像中に一度写り込んでいる被撮像体が再度写り込んでいる撮像画像を、複数の撮像画像の中から簡便に検索すること。【解決手段】本開示に係る情報処理装置は、電波に関する電波情報と、撮像画像と、前記撮像画像が撮像された時間と、をそれぞれ関連付けて記録する記録部から、前記電波情報を読み出す読み出し部と、読み出した前記電波情報に含まれる電波の個数、又は、電波の強度の少なくとも何れかに基づいて、前記記録部に記録された複数の前記撮像画像から検索条件を満たす撮像画像を検索する検索部と、を備える。【選択図】図3

Description

本開示は、情報処理装置、情報処理方法及びプログラムに関する。
例えば娯楽施設における記念写真の撮影サービス等のように、施設の入場者が写っている記念写真を撮影して、入場者に提供するサービスがある。このようなサービスにおいて、多数の入場者と撮像された多数の記念写真との対応付けを容易なものとするために、入場者に予め電子タグを発行しておき、電子タグを利用して生成される写真との対応付けを行う技術が提案されている(例えば、以下の特許文献1を参照。)。
特開2002−41703号公報
しかしながら、上記特許文献1に開示されている技術は、写真に写る可能性のある人物(すなわち、入場者)に対して予め電子タグを発行しているからこそ有効な技術である。例えば、監視カメラ等の撮像装置によって撮像された膨大な撮像画像の記録の中から、任意の人物(例えば、不審者など)が写っている画像を探し出すような状況では、上記特許文献1に開示されているような技術を用いることはできない。
そのため、監視カメラ等の撮像装置によって生成された膨大な撮像画像の記録のうち、ある撮像画像中に一度写りこんでいる1又は複数の人物を検索ターゲットとし、再度同じ人物が写っている撮像画像を探し出すためには、膨大な労力が必要となる。
上記のような撮像画像の検索を実施する際に、検索ターゲットとなる人物の画像を利用して、画像解析処理により、求める撮像画像を検索することが考えられる。しかしながら、画像解析処理を用いた場合であっても、利用する画像によっては解析率が低下してしまい、求める画像を的確に抽出することができないことがある。
そのため、撮像画像中に一度写り込んでいる人物が再度写り込んでいる撮像画像を、複数の撮像画像の中から簡便に検索することが可能な技術が希求されている。
そこで、本開示では、撮像画像中に一度写り込んでいる被撮像体が再度写り込んでいる撮像画像を、複数の撮像画像の中から簡便に検索することが可能な、情報処理装置、情報処理方法及びプログラムを提案する。
本開示によれば、所定箇所に設置された撮像装置により生成された撮像画像、及び、前記撮像装置と予め対応付けられた通信機器から発信された、当該通信機器が検出した電波に関する電波情報、のそれぞれが、タイムスタンプと関連付けられて記録される記憶部と、検出された前記電波の強度及び個数の少なくとも何れかを検索条件とし、前記記憶部に記録されている複数の前記撮像画像の中から前記検索条件に応じて前記撮像画像を検索する検索部と、検索部により検索された前記撮像画像を表示画面に表示させるための表示制御を行う表示制御部と、を備え、前記電波は、前記撮像装置の視野内に位置した被撮像体が所持又は内蔵している電子機器もしくは通信機器から発信される電波を含む情報処理装置が提供される。
また、本開示によれば、所定箇所に設置された撮像装置により生成された撮像画像、及び、前記撮像装置と予め対応付けられた通信機器から発信された、当該通信機器が検出した電波に関する電波情報、のそれぞれを、タイムスタンプと関連付けて記録することと、検出された前記電波の強度及び個数の少なくとも何れかを検索条件とし、記録されている複数の前記撮像画像の中から前記検索条件に応じて前記撮像画像を検索することと、検索された前記撮像画像を表示画面に表示させるための表示制御を行うことと、を含み、前記電波は、前記撮像装置の視野内に位置した被撮像体が所持又は内蔵している電子機器もしくは通信機器から発信される電波を含む情報処理方法が提供される。
また、本開示によれば、コンピュータに、所定箇所に設置された撮像装置により生成された撮像画像、及び、前記撮像装置と予め対応付けられた通信機器から発信された、当該通信機器が検出した電波に関する電波情報、のそれぞれを、タイムスタンプと関連付けて記録する記憶機能と、検出された前記電波の強度及び個数の少なくとも何れかを検索条件とし、記録されている複数の前記撮像画像の中から前記検索条件に応じて前記撮像画像を検索する検索機能と、検索機能により検索された前記撮像画像を表示画面に表示させるための表示制御を行う表示制御機能と、を実現させ、前記電波は、前記撮像装置の視野内に位置した被撮像体が所持又は内蔵している電子機器もしくは通信機器から発信される電波を含むプログラムが提供される。
本開示によれば、撮像装置の視野内に位置した被撮像体が所持又は内蔵している電子機器もしくは通信機器から発信される電波に着目し、所定箇所に設置された撮像装置により生成された撮像画像、及び、撮像装置と予め対応付けられた通信機器から発信された、当該通信機器が検出した電波に関する電波情報、のそれぞれが、タイムスタンプと関連付けられて記録され、検出された電波の強度及び個数の少なくとも何れかが検索条件とされて、記録されている複数の撮像画像の中から検索条件に応じて撮像画像が検索され、検索された撮像画像を表示画面に表示させるための表示制御が行われる。
以上説明したように本開示によれば、撮像画像中に一度写り込んでいる被撮像体が再度写り込んでいる撮像画像を、複数の撮像画像の中から簡便に検索することが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、又は、上記の効果に代えて、本明細書に示されたいずれかの効果、又は、本明細書から把握され得る他の効果が奏されてもよい。
本開示の第1の実施形態に係る情報処理装置を説明するための説明図である。 同実施形態に係る情報処理装置を説明するための説明図である。 同実施形態に係る情報処理装置の構成の一例を示したブロック図である。 同実施形態に係る情報処理装置の記憶部に格納されるデータのデータ構成の一例を示した説明図である。 同実施形態に係る情報処理装置の記憶部に格納されるデータのデータ構成の一例を示した説明図である。 同実施形態に係る情報処理装置の記憶部に格納されるデータのデータ構成の一例を示した説明図である。 同実施形態に係る情報処理装置の記憶部に格納されるデータのデータ構成の一例を示した説明図である。 同実施形態に係る情報処理装置で実施される画像検索処理を説明するための説明図である。 同実施形態に係る情報処理装置の表示画面の一例を模式的に示した説明図である。 同実施形態に係る情報処理装置の表示画面の一例を模式的に示した説明図である。 同実施形態に係る情報処理装置の表示画面の一例を模式的に示した説明図である。 同実施形態に係る情報処理装置の表示画面の一例を模式的に示した説明図である。 同実施形態に係る情報処理装置の表示画面の一例を模式的に示した説明図である。 同実施形態に係る情報処理装置の表示画面の一例を模式的に示した説明図である。 同実施形態に係る情報処理装置の表示画面の一例を模式的に示した説明図である。 同実施形態に係る情報処理方法の流れの一例を示した流れ図である。 本開示の実施形態に係る情報処理装置のハードウェア構成の一例を示したブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.第1の実施形態
1.1.情報処理装置について
1.1.1.情報処理装置と他の機器との関係について
1.1.2.情報処理装置の構成について
1.1.3.撮像画像の検索処理の詳細と表示画面の例について
1.2.情報処理方法について
2.ハードウェア構成について
(第1の実施形態)
<情報処理装置について>
[情報処理装置の他の機器との関係について]
まず、図1及び図2を参照しながら、本開示の第1の実施形態に係る情報処理装置について、他の機器との関係を中心に詳細に説明する。図1及び図2は、本実施形態に係る情報処理装置を説明するための説明図である。
本実施形態に係る情報処理装置10は、以下で詳述するように、任意の地点に設けられた監視カメラ1により撮像された撮像画像を格納するとともに、かかる監視カメラに対応付けられた電波モニタノード3から送信された電波情報を格納する装置である。ここで、電波モニタノード3から送信される電波情報は、電波モニタノード3が観測した、様々な電波(例えば、Wi−FiやBluetooth(登録商標)等といった無線LAN通信などの、各種の無線通信に用いられる電波)に関する各種の情報を含む。また、本実施形態に係る情報処理装置10は、格納されている任意の撮像画像をユーザ操作に応じて再生するとともに、格納されている複数の撮像画像の中から、検索条件に合致する撮像画像を検索する機能を有している。
以上のような機能を有する情報処理装置10は、図1に模式的に示したように、任意の地点(例えば図1では、地点A、地点B及び地点C)に設置された監視カメラ1A,1B,1Cによって生成されたそれぞれの撮像画像に関する画像データを取得して、取得した画像データを、情報処理装置10内、又は、情報処理装置10の外部に設けられた各種の記憶装置に格納する。また、情報処理装置10は、地点A、地点B、地点Cに設置された電波モニタノード3A,3B,3Cで観測された電波に関する電波情報を取得して、取得した電波情報を、情報処理装置10内、又は、情報処理装置10の外部に設けられた各種の記憶装置に格納する。
なお、図1では、情報処理装置10と相互に通信可能な監視カメラ1及び電波モニタノード3の個数が各3台である場合を図示しているが、情報処理装置10と相互に通信可能な監視カメラ1及び電波モニタノード3の台数は、各1台又は各2台であってもよいし、各4台以上であってもよいことは言うまでもない。
ここで、図2に模式的に示したように、任意の地点に設けられる監視カメラ1は、撮像視野内に位置している様々な被撮像体を撮像する撮像装置の一例であり、被撮像体に関する静止画像や動画像を生成することができる機器である。かかる監視カメラ1については、特に限定されるものではなく、各種の撮像装置を適宜利用することが可能である。また、任意の地点に設けられる電波モニタノード3は、電波モニタノード3の周囲に存在している各種の電波を観測して、観測した電波に関する電波情報を生成する装置である。この電波モニタノード3についても、特に限定されるものではなく、無線LANモニタノードなどの固有な識別情報を取得できる各種の電波観測装置を適宜利用することが可能である。
ここで、ある地点に設けられている監視カメラ1と電波モニタノード3とは、予め互いに対応付けられており、どの地点に存在している監視カメラ1がどの電波モニタノード3と対応しているかという情報は、情報処理装置10に予め格納されているものとする。また、ある地点に設けられている監視カメラ1及び電波モニタノード3は、予め時間が互いに同期するように設定されているものとする。
監視カメラ1は、撮像視野内に位置する被撮像体を撮像して、静止画又は動画からなる撮像画像を生成すると、かかる撮像画像の画像データ(撮像画像データ)と、撮像画像データの生成時間を表わすタイムスタンプと、を、情報処理装置10へと随時出力する。また、電波モニタノード3は、電波モニタノード3の周囲に存在する電波を検出すると、かかる電波を特徴づける各種の特徴量(例えば、電波に固有な識別情報や、電界強度等)を観測して電波情報とし、かかる電波情報のデータ(電波情報データ)と、電波情報の生成時間を表わすタイムスタンプと、を、情報処理装置10へと随時出力する。
なお、監視カメラ1により生成される撮像画像データには、撮像画像データを生成した監視カメラ1に固有の識別情報(ID情報)が関連付けられていることが好ましく、電波モニタノード3により生成される電波情報データには、電波情報データを生成した電波モニタノード3に固有の識別情報(ID情報)が関連付けられていることが好ましい。これにより、これらのデータを取得した情報処理装置10は、取得したデータが、どの地点に設けられた監視カメラ1や電波モニタノード3から送信されたものであるのかを、容易に把握することが可能となる。
近年の情報通信技術の発達に伴い、人は、携帯電話、スマートフォン、携帯用ゲーム機、タブレット端末、ウェアラブル端末等といった、無線通信機能を有する電子機器や通信機器を所持していることが多い。また、携帯電話、スマートフォン、携帯用ゲーム機、タブレット端末、ウェアラブル端末、カーナビゲーションシステム等といった機器を内蔵/内包している物体(例えば、上記のような機器を所持している人が乗っている、又は、上記のような機器が搭載されている、車などの各種移動手段)も多く存在する。そのため、電波モニタノード3によって観測される電波の中には、上記のような無線通信機能を有する電子機器や通信機器を所持又は内蔵しており、監視カメラ1によって撮像された被撮像体からの電波も含まれている可能性が極めて高いと言える。
本実施形態に係る情報処理装置10は、各地の監視カメラ1から送信された撮像画像データを、あわせて送信されたタイムスタンプと関連付けて記録するとともに、各地の電波モニタノード3から送信された電波情報データを、あわせて送信されたタイムスタンプと関連付けて記録する。ここで、先述のように、監視カメラ1と電波モニタノード3とは、予め互いに対応付けられており、かつ、時間が同期するように設定されているため、情報処理装置10は、タイムスタンプを仲介として、監視カメラ1により撮像された撮像画像データと、電波モニタノード3により生成された電波情報と、を互いに対応付けることが可能となる。
以上、図1及び図2を参照しながら、本実施形態に係る情報処理装置10と他の機器との関係について、詳細に説明した。
[情報処理装置の構成について]
次に、図3〜図7を参照しながら、上記のような機能を有する情報処理装置10の構成の一例について、詳細に説明する。図3は、本実施形態に係る情報処理装置の構成の一例を示したブロック図である。図4〜図7は、本実施形態に係る情報処理装置の記憶部に格納されるデータのデータ構成の一例を示した説明図である。
本実施形態に係る情報処理装置10は、図3に示したように、データ取得部101と、データ記録部103と、記憶部105と、撮像画像再生部107と、画像検索部109と、表示制御部111と、を主に備える。
なお、以下では、本実施形態に係る情報処理装置10が、撮像画像データや電波情報データを格納する記憶装置を内部に有している場合を例に挙げて説明を行うが、撮像画像データや電波情報データを格納する記憶装置が情報処理装置10の外部に設けられていてもよいことは言うまでもない。また、以下で詳細に説明するデータ取得部101と、データ記録部103と、記憶部105と、撮像画像再生部107と、画像検索部109と、表示制御部111と、は、インターネット等の各種ネットワーク上に存在している複数の情報処理装置に分散して設けられており、複数の情報処理装置が互いに連携することで、本実施形態に係る情報処理装置10の機能を実現してもよい。
データ取得部101は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、通信装置等により実現される。データ取得部101は、それぞれの監視カメラ1から送信された撮像画像データ及びタイムスタンプを取得するとともに、それぞれの電波モニタノード3から送信された電波情報データ及びタイムスタンプを取得する。すなわち、データ取得部101は、監視カメラ1と情報処理装置10との間の通信、及び、電波モニタノード3と情報処理装置10との間の通信をそれぞれ実現する通信部として機能する。取得した撮像画像データ及びタイムスタンプ、並びに、電波情報データ及びタイムスタンプは、後述するデータ記録部103に伝送される。
データ記録部103は、例えば、CPU、ROM、RAM等により実現される。データ記録部103は、データ取得部101から伝送された撮像画像データ及びタイムスタンプを互いに関連付けた上で、後述する記憶部105の所定の場所に格納する。また、データ記録部103は、データ取得部101から伝送された電波情報データ及びタイムスタンプを互いに関連付けた上で、後述する記憶部105の所定の場所に格納する。これにより、後述する記憶部105には、それぞれの監視カメラ1から随時出力された撮像画像データと、それぞれの電波モニタノード3から随時出力された電波情報データと、が、蓄積されていく。ここで、情報処理装置10に対して複数の監視カメラ1及び電波モニタノード3から各種データが送信される場合には、どのデータがどの地点に設けられた機器から送信されたものかを容易に判別可能とするために、データ記録部103は、上記データに対して、監視カメラ1や電波モニタノード3に固有のID情報を更に関連付けることが好ましい。
記憶部105は、例えば本実施形態に係る情報処理装置10が備えるRAMやストレージ装置等により実現される。記憶部105には、本実施形態に係る情報処理装置10が、何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等、又は、各種のデータベースやプログラム等が、適宜記録される。
例えば、この記憶部105には、情報処理装置10が撮像画像データを取得する1又は複数の監視カメラ1と、かかる監視カメラ1に対応付けられた電波モニタノード3と、の対応関係を示すデータベースが記録されている。かかる対応関係を示すデータベース(以下、単に「対応付けデータベース(DB)」ともいう。)のデータ構成の一例を、図4に模式的に示した。図4に模式的に示したように、対応付けDBには、監視カメラ1に固有のID情報と、この監視カメラ1に対応付けられている電波モニタノード3に固有のID情報と、が関係づけられて記録されている。情報処理装置10の各処理部(特に、後述する画像検索部109)は、この対応付けDBを参照することで、どの監視カメラ1とどの電波モニタノード3とが対応付けられているのかを、容易に把握することができる。
なお、上記のような対応付けDBに記録されるID情報の種類や、ID情報の記載方法については、特に限定されるものではなく、公知の任意のものを適宜利用することが可能である。
また、かかる記憶部105には、データ記録部103によって、各監視カメラ1により生成された撮像画像データと、各電波モニタノード3により生成された電波情報データと、が、それぞれタイムスタンプと関連付けられて記録されている。撮像画像データに関するデータベース(以下、単に、「撮像画像データベース(DB)」ともいう。)のデータ構成の一例を図5に模式的に示し、電波情報データに関するデータベース(以下、単に、「電波情報データベース(DB)」ともいう。)のデータ構成の一例を図6に示した。
図5に模式的に示したように、撮像画像DBには、ある監視カメラ1により撮像された撮像画像データ(又は、かかる撮像画像データの保存場所を示す情報)が、かかる撮像画像データの生成された日時を示すタイムスタンプと互いに関連付けられて、記録されている。また、かかる撮像画像DBには、撮像画像データを生成した監視カメラのID情報が更に関連付けられていることが好ましい。また、図6に模式的に示したように、電波情報DBには、ある電波モニタノード3により生成された電波情報データ(又は、かかる電波情報データの保存場所を示す情報)が、かかる電波情報データの生成された日時を示すタイムスタンプと互いに関連付けられて、記録されている。また、かかる電波情報DBには、電波情報データを生成した電波モニタノードのID情報が更に関連付けられていることが好ましい。
なお、図5に示した撮像画像DBや図6に示した電波情報DBに記録される情報は、図5や図6に示したものに限定されるものではなく、撮像画像データや電波情報データに関する任意の情報を、これらのDBに追記することが可能である。また、図5や図6に示したタイムスタンプの記載方法についても特に限定されるものではなく、任意の記載方法を適宜利用してタイムスタンプを表記すればよい。
なお、記憶部105に格納される電波情報データは、観測された電波に固有のID情報や電界強度等といった、観測された電波を特徴づける特徴量が記載されていれば、任意のデータ構成を有していてもよい。かかる電波情報データのデータ構成の一例を、図7に模式的に示した。電波モニタノード3によって生成され、記憶部105に格納される電波情報には、図7に模式的に示したように、観測される個々の電波に固有の情報であるMACアドレスのような識別情報や、電波の電界強度等が記載されている。また、これらの特徴量以外にも、観測された電波を特徴づける任意の特徴量が記載されていてもよい。また、ある電波モニタノード3において、一度に複数の電波が観測された場合には、電波情報には、観測されたそれぞれの電波について上記のような情報が記録されている。
このような各種の情報が格納されている記憶部105は、データ取得部101、データ記録部103、撮像画像再生部107、画像検索部109、表示制御部111等が、データのリード/ライト処理を自由に行うことが可能である。
撮像画像再生部107は、例えば、CPU、ROM、RAM等により実現される。撮像画像再生部107は、情報処理装置10に対して実施されたユーザ操作に応じて、記憶部105に記録されている複数の撮像画像の中から、ユーザによって指定された撮像画像を再生する処理を実施する。再生する撮像画像のユーザによる選択は、撮像画像再生部107が後述する表示制御部111と互いに連携して、情報処理装置10の表示画面に適切な表示を行うことで実施される。また、撮像画像再生部107によって再生される撮像画像は、後述する表示制御部111による制御のもとで、表示画面における適切な領域に随時表示される。これにより、ユーザは、所望の撮像画像を情報処理装置10の表示画面で閲覧することが可能となる。
画像検索部109は、例えば、CPU、ROM、RAM等により実現される。画像検索部109は、記憶部105に記録されている電波情報等の各種データを読み出すとともに、ユーザ操作により指定された撮像画像を検索元の撮像画像とし、指定された検索元の撮像画像中に写り込んでいる被撮像体について、かかる被撮像体が写り込んでいるその他の撮像画像を、記憶部105に記録されている複数の撮像画像の中から検索する。この際に、画像検索部109は、検索元の撮像画像に写り込んでいる被撮像体を、いわゆる画像解析処理により検索するのではなく、検索元の撮像画像とあわせて生成された電波情報を利用して、求める撮像画像を検索する。
すなわち、先だって図2を参照しながら説明したように、昨今では、着目している被撮像体は、例えば無線通信に用いられる電波等といった各種の電波を発信している電子機器や通信機器を、所持又は内蔵している可能性が高い。そこで、本実施形態に係る画像検索部109は、検索元の撮像画像とあわせて生成された電波情報に着目し、かかる電波情報に含まれる情報を利用して検索条件を生成する。その上で、本実施形態に係る画像検索部109は、電波に関する検索条件に合致する電波情報を抽出して、抽出した電波情報に対応する撮像画像を特定する。
以上のような画像検索処理が実施されることで、本実施形態に係る情報処理装置10では、撮像画像中に一度写り込んでいる被撮像体が再度写り込んでいる撮像画像を、複数の撮像画像の中から簡便に検索することが可能となる。
なお、画像検索部109で実施される画像検索処理については、以下で改めて詳細に説明する。
表示制御部111は、例えば、CPU、ROM、RAM、出力装置、通信装置等により実現される。表示制御部111は、撮像画像再生部107によって再生されている撮像画像や、画像検索部109によって検索された撮像画像を、情報処理装置10が備えるディスプレイ等の出力装置や情報処理装置10の外部に設けられた出力装置等に表示する際の表示制御を行う。また、表示制御部111は、ユーザが閲覧する撮像画像を指定する際に用いられる表示画面や、撮像画像を検索する際に用いられる表示画面を、所定の出力装置等に表示する際の表示制御についても実施する。これにより、情報処理装置10のユーザは、所望の撮像画像をその場で閲覧することが可能となる。
なお、表示制御部111により実施される表示画面の表示制御処理についても、以下で具体例を挙げながら詳細に説明する。
以上、本実施形態に係る情報処理装置10の機能の一例を示した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
なお、上述のような本実施形態に係る情報処理装置の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。
[撮像画像の検索処理の詳細と表示画面の例について]
次に、図8〜図15を参照しながら、本実施形態に係る情報処理装置10で実施される撮像画像の検索処理及び表示画面の表示制御処理について、具体的に説明する。図8は、本実施形態に係る情報処理装置で実施される画像検索処理を説明するための説明図である。図9〜図15は、本実施形態に係る情報処理装置の表示画面の一例を模式的に示した説明図である。
○撮像画像検索処理の大まかな流れ
まず、図8を参照しながら、本実施形態に係る情報処理装置10の画像検索部109で実施される撮像画像検索処理の大まかな流れを説明する。
本実施形態に係る画像検索部109は、ユーザ操作によって、ある撮像画像が検索対象画像として指定された場合、いわゆる画像解析処理ではなく、電波情報を利用して所望の撮像画像を検索する。
より詳細には、画像検索部109は、ユーザ操作によって検索対象画像となった撮像画像について、記憶部105等に記録されている撮像画像DBを参照して、対応付けられているタイムスタンプを特定する。先だって説明したように、撮像画像が生成される監視カメラ1と、電波情報が生成される電波モニタノード3とは、時刻が互いに同期するように設定されている。そのため、画像検索部109は、図8上段に示したように、特定した撮像画像のタイムスタンプを利用して、記憶部105等に記録されている電波情報DBを検索し、同じ時刻のタイムスタンプを有する電波情報を特定することができる。
その後、画像検索部109は、特定した電波情報が示す電波パターン(電波情報に含まれる各電波の電界強度の大きさを模式的に示したもの)を利用して、検索対象画像に対応する電波パターンと類似する挙動を示す電波パターンを検索する。かかる電波パターンの検索は、記憶部105等に記録されている電波情報DBを参照して、記録されている電波情報が示す電波パターンと、検索対象画像に対応する電波パターンとのパターンマッチングを行うことで、実施することができる。ここで、パターンマッチングに利用される類似度合いについては、特に限定されるものではなく、例えば相互相関係数などのような公知の類似度合いを利用することが可能である。
検索対象画像に対応する電波パターンと、所定の閾値以上の類似度合いで類似する電波パターンが検出された場合、画像検索部109は、検索された電波パターンを含む電波情報を利用して、対応する監視カメラ1のIDと、タイムスタンプとを特定する。すなわち、画像検索部109は、記憶部105等に記録されている電波情報DBを参照して、着目している電波情報を生成した電波モニタノード3のIDと、タイムスタンプと、を特定する。その後、画像検索部109は、記憶部105等に記録されている対応付けDBを参照して、特定した電波モニタノード3に対応付けられている監視カメラ1のIDを特定する。
続いて、画像検索部109は、得られた監視カメラ1のIDとタイムスタンプとに基づき、記憶部105等に記録されている撮像画像DBを検索することで、検索した電波情報に対応する撮像画像を抽出することができる。
ここで、被撮像体が所持又は内蔵している電子機器もしくは通信機器は、必ずしも一定間隔で電波信号を発信しているわけではないため、生成される電波情報と撮像画像との間で、時間差が生じることも考えうる。そのため、画像検索部109は、特定したタイムスタンプに対応する撮像画像に加えて、この特定した撮像画像の前後の所定期間(例えば、前後数秒〜数十秒程度)に撮像された撮像画像を選択することが好ましい。これにより、生成される電波情報と撮像画像との間に、一定間隔で電波信号が発信されないことに起因する時間差が生じている場合であっても、所望の被撮像体が写り込んでいる他の撮像画像を抽出することが可能となる。
また、所望の被撮像体が写り込んでいる他の撮像画像を検索した結果、複数の撮像画像が検出される場合も考えうる。この際、画像検索部109は、撮像画像に対応付けられているタイムスタンプ順に、検索結果の撮像画像をユーザに提示してもよいし、検索に利用した電波パターンとの類似度合いに応じて、検索結果の表示順序を制御してもよい。類似度合いに応じて検索結果の表示順序を制御する場合には、例えば、類似度合いの高いものから順に、検索結果を表示することが好ましい。これにより、ユーザの利便性を更に向上させることが可能となる。
また、画像検索部109は、例えば静止画解析処理や動画解析処理等のような公知の画像解析処理を、上記のような電波情報に基づく検索結果に対して適用してもよい。この際に、画像検索部109は、検索結果の撮像画像に被撮像体の動きが含まれない場合や、被撮像体として人物が写り込んでいない場合などに、該当する撮像画像をハイライト表示したり、表示順序の優先度を下げたりするなど、ユーザに注意を喚起したり、より優先すべき検索結果を優先的に表示したりするような検索結果の提示処理を行っても良い。
画像検索部109は、以上のようにして特定した撮像画像を、表示制御部111と互いに連携しながら情報処理装置10の表示画面に表示させる。これにより、情報処理装置10のユーザは、得られた検索結果に対応する撮像画像を表示画面に表示されたユーザインタフェースを介して選択し、内容を確認することが可能となる。
○ユーザインタフェースの具体例
次に、図9〜図15を参照しながら、本実施形態に係る情報処理装置10において実施される撮像画像検索処理のユーザインタフェースを具体的に説明する。
本実施形態に係る情報処理装置10において、撮像画像再生部107及び表示制御部111が互いに連携して、撮像画像の再生処理が実施されている際には、図9に模式的に示したような表示画面500が、ディスプレイ等の出力装置に表示される。
この表示画面500には、表示制御部111によって、図9に模式的に示したように、ユーザ操作によって指定された撮像画像が表示される撮像画像表示領域501と、ユーザ操作によって指定された撮像画像の再生状態を指定する再生状態指定オブジェクト503と、が設けられる。ユーザは、未図示のポインティングオブジェクトを操作して、再生状態指定オブジェクト503を操作することで、撮像画像表示領域501で所望の撮像画像を再生させることができる。
また、表示画面500には、表示制御部111によって、撮像画像の検索モードを機能させるための検索処理開始オブジェクト505と、検索条件設定領域507と、が設けられている。ユーザ操作によって検索処理開始オブジェクト505が操作されると、検索条件設定領域507には、検索処理開始オブジェクト505操作時に撮像画像表示領域501に表示されている撮像画像に対応する電波情報が、検索条件設定領域507に表示される。また、この検索条件設定領域507には、撮像画像表示領域501に表示されている撮像画像に対応する電波情報に加えて、電波の強度及び個数の少なくとも何れかを指定するためのオブジェクトが表示される。この検索条件設定領域507に対するユーザ操作に応じて、撮像画像の検索処理のための検索条件が設定される。
検索条件設定領域507に対するユーザ操作によって検索条件が設定され、画像検索部109によって上記のような検索処理が実施されると、画像検索部109から検索結果に関する情報が表示制御部111へと出力される。表示制御部111は、取得した検索結果に関する情報に基づいて、図10に示したような表示画面500を表示させる。
この場合、表示画面500には、検索結果表示領域509が設けられ、この検索結果表示領域509に、検索された1又は複数の撮像画像に関する情報(例えば、検索された撮像画像のサムネイル画像など)が表示される。検索結果表示領域509に表示されている検索結果の1つがユーザ操作によって選択されると、表示画面500に設けられた検索結果詳細表示領域511に、ポインティングオブジェクト513によって選択された撮像画像が表示される。この際、先だって言及したように、検索に利用した電波パターンとの類似度合いに応じて、類似度合いの高いものから順に検索結果を表示することが好ましい。
なお、図10では、画像検索部109による検索結果が、サムネイル画像を利用した一覧表示により表示される場合を図示しているが、検索結果の表示方法は、図10に示した例に限定されるものではない。例えば、図11に模式的に示したように、検索結果の撮像画像に対応付けられているタイムスタンプを利用して、検索結果の撮像画像をタイムライン表示してもよい。
この際に、表示制御部111は、検索結果として表示されるサムネイル画像に対して、電波の検出された時間的な位置を表わす電波検出ポイント指示オブジェクト515をあわせて表示させてもよい。この電波検出ポイント指示オブジェクト515を表示させることで、ユーザは、検索結果の撮像画像に対応する電波情報が時間軸上のどのタイミングで観測されたのかを、容易に把握することが可能となる。
また、図11に示したようなタイムライン表示において、表示制御部111は、ユーザ操作により選択され、検索結果詳細表示領域511にて再生されている撮像画像について、再生位置を表わす再生位置指示オブジェクト517をあわせて表示させてもよい。これにより、ユーザは、現在閲覧している撮像画像が時間軸上のどの位置に対応しているのかを、容易に把握することが可能となる。
次に、図12〜図15を参照しながら、検索条件設定領域507に表示される内容について、具体的に説明する。
図12に模式的に示したように、例えば複数の人物が写り込んでいる撮像画像が検索対象画像として指定された場合などには、それぞれの人物から個別の電波が発信されている可能性が高い。そのため、検索対象画像に対応する電波情報には、複数の強い電波が観測されている可能性がある。そこで、画像検索部109は、表示制御部111と互いに連携しながら、図12に示したように、検索条件設定領域507に、電波の強度パターン(電界強度パターン)を示したオブジェクトである電波パターン表示オブジェクト519を表示させる。図12に示した例では、検索対象画像に対応する電波情報には、電波A〜電波Gの7つの電波に関する情報が含まれており、電波B、電波D、電波Fが相対的に強い電界強度を有している場合が示されている。
このように、電波情報に複数の強い電波に関する情報が含まれている場合には、画像検索部109は、例えば、検索に利用する前記電波の個数を指定する個数指定オブジェクト521を検索条件設定領域507に表示させてもよい。ユーザ操作によって個数指定オブジェクト521に検索に利用する電波の個数が入力されると、画像検索部109は、検索対象画像に対応する電波パターンのうち、指定された数以上の電波パターンがマッチングするかを検索条件として、複数の電波情報の中から該当する電波情報を検索していく。また、画像検索部109は、ユーザ操作によって個数指定オブジェクト521に個数の入力が行われなかった場合、所定の閾値以上の電界強度が観測された電波パターンに基づいて、複数の電波情報の中から該当する電波情報を検索する。
なお、検索結果として抽出される電波情報の中には、電波パターンの形状(図12の場合、7つの電波の電界強度を示すバーにより形作られる形状)は類似していても、電界強度が相対的に小さいものも含まれうる。そこで、画像検索部109は、電波パターンの形状が類似しており、かつ、各々の電波の電界強度が所定の閾値以上であるものを、検索結果として抽出することが好ましい。
画像検索部109は、得られた検索結果を、図11に示したようなタイムライン表示により表示させてもよいし、図10に示したような一覧表示により表示させてもよい。一覧表示により検索結果を表示させる場合、画像検索部109は、例えば合致した電波パターンの個数が多いものから順に、検索結果に対応するサムネイル画像を表示させることが好ましい。
近年、一人の人物が、無線通信機能を有する複数の電子機器又は通信機器を所有している場合も多い。このような人物が写り込んだ撮像画像が検索対象画像として指定された場合、図13に模式的に示したように、一人の人物が写り込んでいる場合であっても、強い電界強度を有する複数の電波が観測されることも考えうる。この際に、画像検索部109は、検索条件設定領域507に、図12に示したような電波パターン表示オブジェクト519及び個数指定オブジェクト521を表示させてもよいが、以下で説明するようなオブジェクトを表示させてもよい。
すなわち、図13に示したように、画像検索部109は、表示制御部111と連携しながら、電波パターン表示オブジェクト519とあわせて、組み合わせ指定オブジェクト523を表示させて、検索に利用する電波の組み合わせ条件を指定させてもよい。図13では、組み合わせ指定オブジェクト523として、and/orを指定するボタン状のオブジェクトが示されているが、組み合わせ指定オブジェクト523は図13に示したものに限定されるものではなく、同様の効果を奏する他のオブジェクトを利用可能であることは言うまでもない。ここで、画像検索部109及び表示制御部111は、デフォルトの表示形式として、最も電界強度の強い電波の組み合わせを表示させるようにしてもよい。
画像検索部109は、図12に示した場合と同様に、組み合わせを指定された電波の電波パターンに基づき、複数の電波情報の中から、所定の閾値以上の類似度合いで合致する電波情報を検索する。この際、画像検索部109は、組み合わせの電波パターンの形状が類似しており、かつ、各々の電波の電界強度が所定の閾値以上であるものを、検索結果として抽出することが好ましい。
図13に示した場合でも同様に、画像検索部109は、得られた検索結果を、図11に示したようなタイムライン表示により表示させてもよいし、図10に示したような一覧表示により表示させてもよい。
また、例えば図14に示したように、複数の人物が写り込んでいるなどして、複数の電波が観測された場合に、電波の相対的な強度を検索条件とすることも可能である。すなわち、電波モニタノード3と、人物が所持している電子機器又は通信機器と、の間の離隔距離が小さいほど、電波モニタノード3が検出する電界強度は強くなり、離隔距離が大きいほど、電波モニタノード3が検出する電界強度は弱くなる。この場合に、離隔距離が小さいほど撮像画像における被撮像体の表示サイズは大きくなり、離隔距離が大きいほど撮像画像における被撮像体の表示サイズは小さくなると考えられる。そのため、電界強度に関する相対的な閾値(換言すれば、電波モニタノード3との相対的な離隔距離の閾値でもあり、撮像画像における被撮像体の相対的な表示サイズの閾値でもある。)を指定することで、複数観測された電波の中から所望の電波を選択することが可能となる。
そこで、画像検索部109は、表示制御部111と互いに連携しながら、検索条件設定領域507に、上記のような相対的な閾値を指定するための閾値指定オブジェクト525を表示させてもよい。閾値指定オブジェクト525の具体例については、特に限定されるものではなく、図14に示したようなスライダー状のオブジェクトであってもよいし、同様の効果を奏する他のオブジェクトであってもよい。
画像検索部109は、閾値指定オブジェクト525が、この閾値指定オブジェクト525の選択可能な範囲のうち中央に位置している場合には、検索対象画像に対応する電波パターンと同程度の電界強度を有するものを検索していくようにすればよい。また、閾値指定オブジェクト525が、選択可能な範囲の中央よりも左側(すなわち、「近く」側の部分)に位置している場合には、画像検索部109は、検索対象画像に対応する電波パターンより強い電界強度に絞って、電波情報の検索を行えばよい。同様に、閾値指定オブジェクト525が、選択可能な範囲の中央よりも右側(すなわち、「遠く」側の部分)に位置している場合には、画像検索部109は、検索対象画像に対応する電波パターンより弱い電界強度にも着目して、電波情報の検索を行えばよい。
このような閾値指定オブジェクト525を利用することで、例えば、検索対象画像に写り込んだ検索対象物が、電波モニタノード3や監視カメラ1の近くに存在した場合のみの撮像画像を、複数の撮像画像の中から容易に抽出することが可能となる。
図14に示した場合でも同様に、画像検索部109は、得られた検索結果を、図11に示したようなタイムライン表示により表示させてもよいし、図10に示したような一覧表示により表示させてもよい。
また、画像検索部109は、表示制御部111と互いに連携しながら、例えば図15に示したように、検索条件設定領域507に対して、電波パターン表示オブジェクト519と、組み合わせ・閾値指定オブジェクト527と、を表示させてもよい。組み合わせ・閾値指定オブジェクト527は、図13に示した組み合わせ指定オブジェクト523の機能と、図14に示した閾値指定オブジェクト525の機能と、を兼ね備えたオブジェクトである。例えば、組み合わせ・閾値指定オブジェクト527において、最高強度(図15において「0」に対応する位置)が選択された場合には、画像検索部109は、指定された電波の強度とは関係なく、対応する電波の有無により検索を実施すればよい。また、組み合わせ・閾値指定オブジェクト527において、最低強度(図15において「−100」に対応する位置)が選択された場合には、画像検索部109は、指定された電波を検索には利用せずに、検索を実施すればよい。また、組み合わせ・閾値指定オブジェクト527において、最高強度と最低強度との間の位置が選択された場合には、閾値指定オブジェクト525と同様にして、各電波の強度閾値を考慮すればよい。
このような組み合わせ・閾値指定オブジェクト527を利用することで、例えば、検索対象画像に写り込んだ検索対象物が、電波モニタノード3や監視カメラ1の近くに存在した場合のみの撮像画像を、複数の撮像画像の中から容易に抽出することが可能となる。
図15に示した場合でも同様に、画像検索部109は、得られた検索結果を、図11に示したようなタイムライン表示により表示させてもよいし、図10に示したような一覧表示により表示させてもよい。
以上、図9〜図15を参照しながら、本実施形態に係る情報処理装置10において実施される撮像画像検索処理のユーザインタフェースを具体的に説明した。
<情報処理方法について>
次に、図16を参照しながら、本実施形態に係る情報処理装置10で実施される情報処理方法の流れの一例について、簡単に説明する。図16は、本実施形態に係る情報処理方法の流れの一例を示した流れ図である。
本実施形態に係る情報処理装置10には、互いに対応付けられている監視カメラ1及び電波モニタノード3から、それぞれ撮像画像及び電波情報が随時送信されている。情報処理装置10のデータ取得部101は、送信された撮像画像及び電波情報を取得すると、取得したこれらのデータをデータ記録部103へと出力する。データ記録部103は、取得した撮像画像のデータを、タイムスタンプと対応付けて記憶部105に格納するとともに、取得した電波情報のデータを、タイムスタンプと対応付けて記憶部105に格納する(ステップS101)。
その後、情報処理装置10は、ユーザにより画像検索操作がなされたか否かを判断する(ステップS103)。画像検索操作が行われていない場合には、情報処理装置10は、ステップS103に戻って、画像検索操作を待ち受ける。
一方、ユーザによる画像検索操作が行われた場合には、情報処理装置10の画像検索部109は、指定された撮像画像に対応する電波情報を、タイムスタンプを利用して特定し(ステップS105)、特定した電波情報とユーザ操作とに基づき、検索条件を設定する(ステップS107)。その後、画像検索部109は、設定した検索条件に合致する電波情報を、格納されている複数の電波情報の中から抽出する(ステップS109)。検索条件に合致する電波情報が抽出されると、画像検索部109は、タイムスタンプを利用して、抽出された電波情報に対応する撮像画像を特定する(ステップS111)。
その後、情報処理装置10の表示制御部111は、特定された撮像画像を表示画面に表示させる(ステップS113)。
これにより、ユーザは、指定した撮像画像に基づき設定された検索条件に合致する撮像画像を、複数の撮像画像の中から容易に抽出することが可能となる。
以上、図16を参照しながら、本実施形態に係る情報処理装置10で実施される情報処理方法の流れの一例について、簡単に説明した。
(ハードウェア構成について)
次に、図17を参照しながら、本開示の実施形態に係る情報処理装置10のハードウェア構成について、詳細に説明する。図17は、本開示の実施形態に係る情報処理装置10のハードウェア構成を説明するためのブロック図である。
情報処理装置10は、主に、CPU901と、ROM903と、RAM905と、を備える。また、情報処理装置10は、更に、ホストバス907と、ブリッジ909と、外部バス911と、インターフェース913と、入力装置915と、出力装置917と、ストレージ装置919と、ドライブ921と、接続ポート923と、通信装置925とを備える。
CPU901は、演算処理装置及び制御装置として機能し、ROM903、RAM905、ストレージ装置919、又はリムーバブル記録媒体927に記録された各種プログラムに従って、情報処理装置10内の動作全般又はその一部を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM905は、CPU901が使用するプログラムや、プログラムの実行において適宜変化するパラメータ等を一次記憶する。これらはCPUバス等の内部バスにより構成されるホストバス907により相互に接続されている。
ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ及びレバーなどユーザが操作する操作手段である。また、入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール手段(いわゆる、リモコン)であってもよいし、情報処理装置10の操作に対応した携帯電話やPDA等の外部接続機器929であってもよい。さらに、入力装置915は、例えば、上記の操作手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などから構成されている。情報処理装置10のユーザは、この入力装置915を操作することにより、情報処理装置10に対して各種のデータを入力したり処理動作を指示したりすることができる。
出力装置917は、取得した情報をユーザに対して視覚的又は聴覚的に通知することが可能な装置で構成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置及びランプなどの表示装置や、スピーカ及びヘッドホンなどの音声出力装置や、プリンタ装置、携帯電話、ファクシミリなどがある。出力装置917は、例えば、情報処理装置10が行った各種処理により得られた結果を出力する。具体的には、表示装置は、情報処理装置10が行った各種処理により得られた結果を、テキスト又はイメージで表示する。他方、音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して出力する。
ストレージ装置919は、情報処理装置10の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等により構成される。このストレージ装置919は、CPU901が実行するプログラムや各種データ、及び外部から取得した各種データなどを格納する。
ドライブ921は、記録媒体用リーダライタであり、情報処理装置10に内蔵、あるいは外付けされる。ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体927に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体927に記録を書き込むことも可能である。リムーバブル記録媒体927は、例えば、DVDメディア、HD−DVDメディア、Blu−ray(登録商標)メディア等である。また、リムーバブル記録媒体927は、コンパクトフラッシュ(登録商標)(CompactFlash:CF)、フラッシュメモリ、又は、SDメモリカード(Secure Digital memory card)等であってもよい。また、リムーバブル記録媒体927は、例えば、非接触型ICチップを搭載したICカード(Integrated Circuit card)又は電子機器等であってもよい。
接続ポート923は、機器を情報処理装置10に直接接続するためのポートである。接続ポート923の一例として、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポート等がある。接続ポート923の別の例として、RS−232Cポート、光オーディオ端子、HDMI(登録商標)(High−Definition Multimedia Interface)ポート等がある。この接続ポート923に外部接続機器929を接続することで、情報処理装置10は、外部接続機器929から直接各種データを取得したり、外部接続機器929に各種データを提供したりする。
通信装置925は、例えば、通信網931に接続するための通信デバイス等で構成された通信インターフェースである。通信装置925は、例えば、有線又は無線LAN(Local Area Network)、Bluetooth(登録商標)、又はWUSB(Wireless USB)用の通信カード等である。また、通信装置925は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、又は、各種通信用のモデム等であってもよい。この通信装置925は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。また、通信装置925に接続される通信網931は、有線又は無線によって接続されたネットワーク等により構成され、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信又は衛星通信等であってもよい。
以上、本開示の実施形態に係る情報処理装置10の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的又は例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、又は、上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。ここで、先だって説明した画像検索部が、以下の記載における読み出し部及び検索部に対応している。
(1)
電波に関する電波情報と、撮像画像と、前記撮像画像が撮像された時間と、をそれぞれ関連付けて記録する記録部から、前記電波情報を読み出す読み出し部と、
読み出した前記電波情報に含まれる電波の個数、又は、電波の強度の少なくとも何れかに基づいて、前記記録部に記録された複数の前記撮像画像から検索条件を満たす撮像画像を検索する検索部と、
を備える、情報処理装置。
(2)
前記検索部は、
任意の検索元となる前記撮像画像について、検索元の撮像画像が生成された際に検出された前記電波情報を、前記撮像画像及び前記電波情報に関連付けられているタイムスタンプに基づいて特定し、
特定した前記電波情報に含まれる前記電波の強度及び個数の組み合わせから前記検索条件を設定して、当該検索条件に適合する前記電波情報を特定し、
特定した前記電波情報に関連付けられたタイムスタンプを利用して、該当するタイムスタンプに対応する前記撮像画像を特定する、(1)に記載の情報処理装置。
(3)
前記検索部は、前記検索条件に基づき特定された前記撮像画像に加えて、前記複数の撮像画像の中から、前記特定された撮像画像の前後の所定期間に撮像された前記撮像画像を選択する、(2)に記載の情報処理装置。
(4)
前記検索部は、前記検索条件に適合する前記撮像画像が複数存在する場合、前記電波の類似度合いに応じて、検索結果の表示順序を変更する、(1)〜(3)の何れか1つに記載の情報処理装置。
(5)
前記検索部により検索された前記撮像画像を表示画面に表示させるための表示制御を行う表示制御部を更に備え、
前記表示制御部は、前記表示画面に、前記撮像画像を表示させる撮像画像表示領域と、前記検索条件を指定するための検索条件設定領域と、を少なくとも設け、前記撮像画像表示領域に表示された任意の前記撮像画像のうち、ユーザに指定された前記撮像画像について、当該ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度及び個数を表わす表示オブジェクトを、前記検索条件設定領域に表示させ、
前記検索部は、前記検索条件設定領域に対してユーザが実施したユーザ操作に応じて、前記検索条件を設定する、(1)〜(4)の何れか1つに記載の情報処理装置。
(6)
前記表示制御部は、
前記表示画面に、前記検索条件に適合する前記撮像画像を検索結果として表示させる検索結果表示領域と、前記検索条件に適合する撮像画像のうち、ユーザに指定された前記撮像画像を詳細表示させる検索結果詳細表示領域と、を設け、
前記検索結果表示領域に対し、前記検索条件に適合する撮像画像を、一覧表示又はタイムライン表示させる、(5)に記載の情報処理装置。
(7)
前記表示制御部は、前記検索結果表示領域に対して、前記検索条件に適合する撮像画像のサムネイル画像を少なくとも配置する、(6)に記載の情報処理装置。
(8)
前記表示制御部は、前記表示オブジェクトとして、前記ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度パターンを示したオブジェクトと、検索に利用する前記電波の個数を指定する個数指定オブジェクトと、を表示させ、
前記検索部は、前記個数指定オブジェクトで指定された個数を前記検索条件として、当該個数以上の前記電波情報が適合する前記撮像画像を検索する、(6)又は(7)に記載の情報処理装置。
(9)
前記表示制御部は、前記表示オブジェクトとして、前記ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度パターンを示したオブジェクトと、当該電波の組み合わせを指定する組み合わせ指定オブジェクトと、を表示させ、
前記検索部は、前記組み合わせ指定オブジェクトで指定された前記電波の組み合わせを前記検索条件として、指定された組み合わせの電波が検出された前記電波情報に対応する前記撮像画像を検索する、(6)又は(7)に記載の情報処理装置。
(10)
前記表示制御部は、前記表示オブジェクトとして、電波の相対的な強度を指定する強度指定オブジェクト、又は、撮像画像における被撮像体との相対的な離隔距離を指定する離隔距離指定オブジェクトを表示させ、
前記検索部は、前記ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度を前記強度指定オブジェクト又は前記離隔距離指定オブジェクトに対応する重み付け係数により重み付けしたものを前記検索条件として、重み付け後の強度以上又は重み付け後の強度以下の強度を有している前記電波情報に対応する前記撮像画像を検索する、(6)又は(7)に記載の情報処理装置。
(11)
前記表示制御部は、前記表示オブジェクトとして、前記ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度パターンを示したオブジェクトと、当該電波の組み合わせを指定する組み合わせ指定オブジェクトと、電波の相対的な強度を指定する強度指定オブジェクトと、を表示させ、
前記検索部は、前記ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度を前記強度指定オブジェクトに対応する重み付け係数により重み付けした値と、前記組み合わせ指定オブジェクトで指定された前記電波の組み合わせと、を前記検索条件として、重み付け後の強度以上又は重み付け後の強度以下の強度を有し、かつ、指定された組み合わせの電波が検出された前記電波情報に対応する前記撮像画像を検索する、(6)又は(7)に記載の情報処理装置。
(12)
前記電波は、無線通信に利用される電波である、(1)〜(11)の何れか1つに記載の情報処理装置。
(13)
電波に関する電波情報と、撮像画像と、前記撮像画像が撮像された時間と、をそれぞれ関連付けて記録する記録部から、前記電波情報を読み出すことと、
読み出した前記電波情報に含まれる電波の個数、又は、電波の強度の少なくとも何れかに基づいて、前記記録部に記録された複数の前記撮像画像から検索条件を満たす撮像画像を検索することと、
を含む、情報処理方法。
(14)
コンピュータに、
電波に関する電波情報と、撮像画像と、前記撮像画像が撮像された時間と、をそれぞれ関連付けて記録する記録部から、前記電波情報を読み出す読み出し機能と、
読み出した前記電波情報に含まれる電波の個数、又は、電波の強度の少なくとも何れかに基づいて、前記記録部に記録された複数の前記撮像画像から検索条件を満たす撮像画像を検索する検索機能と、
を実現させるためのプログラム。
1 監視カメラ(撮像装置)
3 電波モニタノード
10 情報処理装置
101 データ取得部
103 データ記録部
105 記憶部
107 撮像画像再生部
109 画像検索部
111 表示制御部
500 表示画面
501 撮像画像表示領域
503 再生状態指定オブジェクト
505 検索処理開始オブジェクト
507 検索条件設定領域
509 検索結果表示領域
511 検索結果詳細表示領域
513 ポインティングオブジェクト
515 電波検出ポイント指示オブジェクト
517 再生位置指示オブジェクト
519 電波パターン表示オブジェクト
521 個数指定オブジェクト
523 組み合わせ指定オブジェクト
525 閾値指定オブジェクト
527 組み合わせ・閾値指定オブジェクト

Claims (14)

  1. 電波に関する電波情報と、撮像画像と、前記撮像画像が撮像された時間と、をそれぞれ関連付けて記録する記録部から、前記電波情報を読み出す読み出し部と、
    読み出した前記電波情報に含まれる電波の個数、又は、電波の強度の少なくとも何れかに基づいて、前記記録部に記録された複数の前記撮像画像から検索条件を満たす撮像画像を検索する検索部と、
    を備える、情報処理装置。
  2. 前記検索部は、
    任意の検索元となる前記撮像画像について、検索元の撮像画像が生成された際に検出された前記電波情報を、前記撮像画像及び前記電波情報に関連付けられているタイムスタンプに基づいて特定し、
    特定した前記電波情報に含まれる前記電波の強度及び個数の組み合わせから前記検索条件を設定して、当該検索条件に適合する前記電波情報を特定し、
    特定した前記電波情報に関連付けられたタイムスタンプを利用して、該当するタイムスタンプに対応する前記撮像画像を特定する、請求項1に記載の情報処理装置。
  3. 前記検索部は、前記検索条件に基づき特定された前記撮像画像に加えて、前記複数の撮像画像の中から、前記特定された撮像画像の前後の所定期間に撮像された前記撮像画像を選択する、請求項2に記載の情報処理装置。
  4. 前記検索部は、前記検索条件に適合する前記撮像画像が複数存在する場合、前記電波の類似度合いに応じて、検索結果の表示順序を変更する、請求項1に記載の情報処理装置。
  5. 前記検索部により検索された前記撮像画像を表示画面に表示させるための表示制御を行う表示制御部を更に備え、
    前記表示制御部は、前記表示画面に、前記撮像画像を表示させる撮像画像表示領域と、前記検索条件を指定するための検索条件設定領域と、を少なくとも設け、前記撮像画像表示領域に表示された任意の前記撮像画像のうち、ユーザに指定された前記撮像画像について、当該ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度及び個数を表わす表示オブジェクトを、前記検索条件設定領域に表示させ、
    前記検索部は、前記検索条件設定領域に対してユーザが実施したユーザ操作に応じて、前記検索条件を設定する、請求項1に記載の情報処理装置。
  6. 前記表示制御部は、
    前記表示画面に、前記検索条件に適合する前記撮像画像を検索結果として表示させる検索結果表示領域と、前記検索条件に適合する撮像画像のうち、ユーザに指定された前記撮像画像を詳細表示させる検索結果詳細表示領域と、を設け、
    前記検索結果表示領域に対し、前記検索条件に適合する撮像画像を、一覧表示又はタイムライン表示させる、請求項5に記載の情報処理装置。
  7. 前記表示制御部は、前記検索結果表示領域に対して、前記検索条件に適合する撮像画像のサムネイル画像を少なくとも配置する、請求項6に記載の情報処理装置。
  8. 前記表示制御部は、前記表示オブジェクトとして、前記ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度パターンを示したオブジェクトと、検索に利用する前記電波の個数を指定する個数指定オブジェクトと、を表示させ、
    前記検索部は、前記個数指定オブジェクトで指定された個数を前記検索条件として、当該個数以上の前記電波情報が適合する前記撮像画像を検索する、請求項6に記載の情報処理装置。
  9. 前記表示制御部は、前記表示オブジェクトとして、前記ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度パターンを示したオブジェクトと、当該電波の組み合わせを指定する組み合わせ指定オブジェクトと、を表示させ、
    前記検索部は、前記組み合わせ指定オブジェクトで指定された前記電波の組み合わせを前記検索条件として、指定された組み合わせの電波が検出された前記電波情報に対応する前記撮像画像を検索する、請求項6に記載の情報処理装置。
  10. 前記表示制御部は、前記表示オブジェクトとして、電波の相対的な強度を指定する強度指定オブジェクト、又は、撮像画像における被撮像体との相対的な離隔距離を指定する離隔距離指定オブジェクトを表示させ、
    前記検索部は、前記ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度を前記強度指定オブジェクト又は前記離隔距離指定オブジェクトに対応する重み付け係数により重み付けしたものを前記検索条件として、重み付け後の強度以上又は重み付け後の強度以下の強度を有している前記電波情報に対応する前記撮像画像を検索する、請求項6に記載の情報処理装置。
  11. 前記表示制御部は、前記表示オブジェクトとして、前記ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度パターンを示したオブジェクトと、当該電波の組み合わせを指定する組み合わせ指定オブジェクトと、電波の相対的な強度を指定する強度指定オブジェクトと、を表示させ、
    前記検索部は、前記ユーザに指定された撮像画像に対応する前記電波情報に含まれる前記電波の強度を前記強度指定オブジェクトに対応する重み付け係数により重み付けした値と、前記組み合わせ指定オブジェクトで指定された前記電波の組み合わせと、を前記検索条件として、重み付け後の強度以上又は重み付け後の強度以下の強度を有し、かつ、指定された組み合わせの電波が検出された前記電波情報に対応する前記撮像画像を検索する、請求項6に記載の情報処理装置。
  12. 前記電波は、無線通信に利用される電波である、請求項1に記載の情報処理装置。
  13. 電波に関する電波情報と、撮像画像と、前記撮像画像が撮像された時間と、をそれぞれ関連付けて記録する記録部から、前記電波情報を読み出すことと、
    読み出した前記電波情報に含まれる電波の個数、又は、電波の強度の少なくとも何れかに基づいて、前記記録部に記録された複数の前記撮像画像から検索条件を満たす撮像画像を検索することと、
    を含む、情報処理方法。
  14. コンピュータに、
    電波に関する電波情報と、撮像画像と、前記撮像画像が撮像された時間と、をそれぞれ関連付けて記録する記録部から、前記電波情報を読み出す読み出し機能と、
    読み出した前記電波情報に含まれる電波の個数、又は、電波の強度の少なくとも何れかに基づいて、前記記録部に記録された複数の前記撮像画像から検索条件を満たす撮像画像を検索する検索機能と、
    を実現させるためのプログラム。
JP2017534115A 2015-08-11 2016-05-17 情報処理装置、情報処理方法及びプログラム Active JP6724919B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015158707 2015-08-11
JP2015158707 2015-08-11
PCT/JP2016/064637 WO2017026154A1 (ja) 2015-08-11 2016-05-17 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2017026154A1 true JPWO2017026154A1 (ja) 2018-05-24
JP6724919B2 JP6724919B2 (ja) 2020-07-15

Family

ID=57984198

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017534115A Active JP6724919B2 (ja) 2015-08-11 2016-05-17 情報処理装置、情報処理方法及びプログラム

Country Status (4)

Country Link
US (1) US10719543B2 (ja)
JP (1) JP6724919B2 (ja)
CN (1) CN107851129B (ja)
WO (1) WO2017026154A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11269964B2 (en) * 2017-07-24 2022-03-08 Mycelebs Co., Ltd. Field-of-interest based preference search guidance system
US11558679B1 (en) * 2018-03-01 2023-01-17 Amazon Technologies, Inc. Systems and methods for submitting video evidence
KR102619271B1 (ko) * 2018-11-01 2023-12-28 한화비전 주식회사 복수의 카메라들을 포함하는 영상 촬영 장치 및 영상 촬영 시스템
CN112054859B (zh) * 2019-11-25 2023-12-29 陕西智航信科技有限公司 天线强度失配分析***及方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006217336A (ja) * 2005-02-04 2006-08-17 Dainippon Printing Co Ltd 撮影情報検索システム
JP2007052646A (ja) * 2005-08-18 2007-03-01 Fujifilm Holdings Corp 画像検索装置、画像プリント装置、プリント注文システム、店頭プリント端末装置、撮像装置、画像検索プログラム及び方法
JP2011523126A (ja) * 2008-05-22 2011-08-04 ユー‐ブロックス、アクチエンゲゼルシャフト ファイル作成方法およびシステム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4659184B2 (ja) 2000-07-25 2011-03-30 株式会社日立製作所 娯楽施設のサービスシステム
EP1841229A4 (en) 2004-12-17 2011-12-07 Dainippon Printing Co Ltd PICTURE INFORMATION MANAGEMENT SYSTEM AND METHOD AND PICTURE INFORMATION SEARCH SYSTEM
JP2006277233A (ja) * 2005-03-29 2006-10-12 Fujitsu Ltd タグ試験装置、タグ試験方法およびタグ試験プログラム
US8022987B2 (en) * 2005-06-30 2011-09-20 Sandia Corporation Information-based self-organization of sensor nodes of a sensor network
US20070276540A1 (en) * 2006-05-16 2007-11-29 Akinobu Okuda Robot, radio detection system, radio detection method and recording medium storing radio detection processing program
JP4973406B2 (ja) * 2007-09-10 2012-07-11 ソニー株式会社 情報処理システム
JP4579316B2 (ja) * 2008-06-30 2010-11-10 任天堂株式会社 撮像装置、撮像システムおよびゲーム装置
JP5729398B2 (ja) * 2013-01-22 2015-06-03 株式会社デンソー 車載物標検出装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006217336A (ja) * 2005-02-04 2006-08-17 Dainippon Printing Co Ltd 撮影情報検索システム
JP2007052646A (ja) * 2005-08-18 2007-03-01 Fujifilm Holdings Corp 画像検索装置、画像プリント装置、プリント注文システム、店頭プリント端末装置、撮像装置、画像検索プログラム及び方法
JP2011523126A (ja) * 2008-05-22 2011-08-04 ユー‐ブロックス、アクチエンゲゼルシャフト ファイル作成方法およびシステム

Also Published As

Publication number Publication date
JP6724919B2 (ja) 2020-07-15
CN107851129B (zh) 2022-04-26
US20180173704A1 (en) 2018-06-21
US10719543B2 (en) 2020-07-21
CN107851129A (zh) 2018-03-27
WO2017026154A1 (ja) 2017-02-16

Similar Documents

Publication Publication Date Title
JP5791605B2 (ja) メタデータのタグ付けシステム、イメージ検索方法、デバイス及びそれに適用されるジェスチャーのタグ付け方法
JP5898378B2 (ja) 情報処理装置およびアプリケーション実行方法
US10460587B2 (en) Information processing apparatus, information processing method, and program
WO2018198373A1 (ja) 映像監視システム
KR20160127737A (ko) 정보 처리 장치, 정보 처리 방법 및 프로그램
WO2017026154A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP5870742B2 (ja) 情報処理装置、システムおよび情報処理方法
JP2013200793A (ja) 情報処理装置、情報処理方法およびプログラム
EP2860968A1 (en) Information processing device, information processing method, and program
WO2018154902A1 (ja) 情報処理装置、情報処理方法、及びプログラム
WO2016136104A1 (ja) 情報処理装置、情報処理方法及びプログラム
EP3070681A1 (en) Display control device, display control method and program
US10373465B2 (en) Information processing device and information processing method
US20180232384A1 (en) Methods and apparatus for information capture and presentation
JP2013171599A (ja) 表示制御装置および表示制御方法
JP2014120878A (ja) 所定領域管理システム、所定領域管理方法、及びプログラム
JP2007108989A (ja) 情報処理システム、及び情報処理方法
JP2015064824A (ja) 情報処理装置、画像処理システム、情報処理装置における画像処理方法及びプログラム
JP6394463B2 (ja) 楽曲検索システム、および楽曲検索プログラム
JP6206537B2 (ja) 携帯端末、情報処理装置、およびプログラム
JP2010157960A (ja) 撮像装置
JP6436191B2 (ja) サーバ装置、サーバ装置を用いた情報処理方法及びプログラム
JPWO2017163324A1 (ja) コミュニケーションシステム、コミュニケーション方法及びプログラム
JP6225089B2 (ja) 画像判定装置、画像判定方法、画像判定装置用プログラム
JP6263002B2 (ja) 撮像装置およびその制御方法、プログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190509

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190509

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200526

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200608

R151 Written notification of patent or utility model registration

Ref document number: 6724919

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151