JP7018462B2 - 目標対象物の監視方法、装置及びシステム - Google Patents
目標対象物の監視方法、装置及びシステム Download PDFInfo
- Publication number
- JP7018462B2 JP7018462B2 JP2019570566A JP2019570566A JP7018462B2 JP 7018462 B2 JP7018462 B2 JP 7018462B2 JP 2019570566 A JP2019570566 A JP 2019570566A JP 2019570566 A JP2019570566 A JP 2019570566A JP 7018462 B2 JP7018462 B2 JP 7018462B2
- Authority
- JP
- Japan
- Prior art keywords
- target
- image
- video
- server
- video frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 96
- 238000012544 monitoring process Methods 0.000 title claims description 54
- 230000033001 locomotion Effects 0.000 claims description 193
- 239000013598 vector Substances 0.000 claims description 149
- 238000013528 artificial neural network Methods 0.000 claims description 40
- 238000010586 diagram Methods 0.000 claims description 40
- 230000006870 function Effects 0.000 claims description 39
- 230000004913 activation Effects 0.000 claims description 33
- 238000003062 neural network model Methods 0.000 claims description 32
- 238000010606 normalization Methods 0.000 claims description 32
- 238000000605 extraction Methods 0.000 claims description 31
- 238000012806 monitoring device Methods 0.000 claims description 28
- 230000003287 optical effect Effects 0.000 claims description 28
- 230000005540 biological transmission Effects 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 15
- 238000005070 sampling Methods 0.000 claims description 15
- 230000004044 response Effects 0.000 claims description 9
- 230000008034 disappearance Effects 0.000 claims description 3
- 241000699666 Mus <mouse, genus> Species 0.000 description 64
- 238000001514 detection method Methods 0.000 description 52
- 241000699670 Mus sp. Species 0.000 description 28
- 238000004422 calculation algorithm Methods 0.000 description 25
- 241000238631 Hexapoda Species 0.000 description 23
- 230000004297 night vision Effects 0.000 description 14
- 241000607479 Yersinia pestis Species 0.000 description 11
- 238000012545 processing Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 9
- 241001674044 Blattodea Species 0.000 description 8
- 238000003384 imaging method Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 230000006855 networking Effects 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 6
- 238000007781 pre-processing Methods 0.000 description 4
- 241000255925 Diptera Species 0.000 description 3
- 238000007405 data analysis Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 239000003550 marker Substances 0.000 description 3
- 206010061217 Infestation Diseases 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 238000011410 subtraction method Methods 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 239000000853 adhesive Substances 0.000 description 1
- 230000001070 adhesive effect Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 238000010205 computational analysis Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 230000009474 immediate action Effects 0.000 description 1
- 230000009545 invasion Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 241000894007 species Species 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Closed-Circuit Television Systems (AREA)
- Alarm Systems (AREA)
- Image Analysis (AREA)
Description
前記第1のサーバが、各目標ビデオフレーム画像ごとに目標対象物の検出を行い、各前記目標ビデオフレーム画像の画像特徴を得て、前記画像は、前記目標ビデオから取得した複数の目標ビデオフレーム画像を含み、各前記目標ビデオフレーム画像は、前記目標領域における前記対象物を示すために用いられ、前記画像特徴は、前記対象物のうち、前記目標対象物との類似度が第1の閾値を超えた対象物がある目標画像領域を表すために用いられることと、
前記第1のサーバが、各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像における前記対象物の動き速度及び動き方向を表すための動き特徴を特定することと、
前記第1のサーバが、前記動き特徴及び各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを判定することと、を含んでもよい。
各前記目標ビデオフレーム画像の画像特徴で表される目標画像領域に対応する目標ベクトルを取得し、それぞれ、対応する1つの前記目標ビデオフレーム画像における前記対象物が前記目標画像領域を通る時の動き速度及び動き方向を表すための複数の目標ベクトルを得て、前記複数の目標ベクトルを、前記ビデオファイルにおける各前記目標ビデオフレーム画像の時間順に従って前記動き特徴に含まれる第1の目標ベクトルとして構成すること、或いは、
各前記目標ビデオフレーム画像の画像特徴で表される目標画像領域に対応する2次元オプティカルフロー図を取得し、それぞれ、対応する1つの前記目標ビデオフレーム画像における前記対象物が前記目標画像領域を通る時の動き速度及び動き方向を含む複数の2次元オプティカルフロー図を得て、前記複数の2次元オプティカルフロー図を、前記ビデオファイルにおける各前記目標ビデオフレーム画像の時間順に従って前記動き特徴に含まれる3次元の第2の目標ベクトルとして構成すること、を含んでもよい。
前記動き特徴及び各前記目標ビデオフレーム画像の画像特徴を、予めトレーニングしておいたニューラルネットワークモデルに入力し、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを表すための対象物認識結果を得ること、を含んでもよい。
各前記画像特徴に畳み込み層、正規化層及び活性化関数層を含むニューラルネットワーク層構造を通らせ、複数の第1の特徴ベクトルを得て、前記複数の第1の特徴ベクトルと前記動き特徴を統合し、第2の特徴ベクトルを得て、前記第2の特徴ベクトルを全結合層に入力し分類し、第1の分類結果を得て、前記ニューラルネットワークモデルは、前記ニューラルネットワーク層構造及び前記全結合層を含み、前記対象物認識結果は、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを表すための前記第1の分類結果を含むこと、或いは、
各前記画像特徴に畳み込み層、正規化層及び活性化関数層を含む第1のニューラルネットワーク層構造を通らせ、複数の第1の特徴ベクトルを得て、前記動き特徴に畳み込み層、正規化層、活性化関数層を含む第2のニューラルネットワーク層構造を通らせ、第2の特徴ベクトルを得て、前記複数の第1の特徴ベクトルと前記第2の特徴ベクトルを統合し、第3の特徴ベクトルを得て、前記第3の特徴ベクトルを全結合層に入力し分類し、第2の分類結果を得て、前記ニューラルネットワークモデルは、前記第1のニューラルネットワーク層構造、前記第2のニューラルネットワーク層構造及び前記全結合層を含み、前記対象物認識結果は、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを表すための前記第2の分類結果を含むこと、を含んでもよい。
前記第1のサーバが、ビデオ監視機器から送信された、前記ビデオ監視機器によって、前記目標ビデオのフレーム抽出・サンプリングを行い、1グループのビデオフレーム画像を得て、前記1グループのビデオフレーム画像における画素点の画素値に基づいて、前記1グループのビデオフレーム画像において特定した前記複数の目標ビデオフレーム画像を受信すること、或いは、
前記第1のサーバが、ビデオ監視機器から送信された、前記ビデオ監視機器によって、前記目標ビデオのフレーム抽出・サンプリングを行なって得られた1グループのビデオフレーム画像を受信し、前記1グループのビデオフレーム画像における画素点の画素値に基づいて、前記1グループのビデオフレーム画像において前記複数の目標ビデオフレーム画像を特定すること、を含んでもよい。
オプションとして、前記第2のサーバは、第2のクラウドサーバを含んでもよい。
方式2:第1のサーバは、第2のサーバから目標ビデオを取得し、目標ビデオは、移動する対象物が目標領域に現れると検出された場合にビデオ監視機器によって第2のサーバに送信されたものである。
第1のサーバは、対象物が現れたビデオ画像における対象物が目標対象物であるか否かを認識する。
本願の上記ステップS1に提供される技術的構成において、撮像機器は監視カメラであり、例えば、該撮像機器は、目標領域を撮像監視し、ビデオファイルを得るための赤外線微光暗視カメラである。目標領域は、目標建物内の検出される空間領域であり、即ち、目標対象物が現れたか否かを検出するための領域であり、該目標対象物は、防除の必要がある大型のベクトル生物であることができ、例えば、該目標対象物はねずみである。
ステップS2:ビデオファイルに動き物体が存在するか否かを判断する。
該実施例では、赤外線微光暗視カメラで撮像したビデオファイルを取得することと、ビデオファイルに動き物体が存在するか否かを判断することと、動き物体が存在すれば、動き物体が存在するビデオセグメントを抽出することと、動き物体が存在するビデオセグメントの画像特徴及び動的特徴を抽出することと、抽出した画像特徴及び動的特徴に基づいて、動き物体がねずみであるか否かを判断することと、判断結果がYESであれば、提示情報を送ることとにより、目標対象物を特定する効率が低いという問題を解決し、さらに、ねずみによる被害の検出正確度を向上させる効果を達成する。
移動する対象物が目標領域に現れると検出された場合にビデオ監視機器によって送信された画像を受信し、画像は、ビデオ監視機器で目標領域を撮像したビデオのうち対象物が現れた目標ビデオから取得した画像であるように構成される受信モジュール72と、
画像に基づいて、対象物が目標対象物であるか否かを判定するように構成される判定モジュール74と、を備える。
ビデオ監視機器から送信された1グループのビデオフレーム画像を受信し、1グループのビデオフレーム画像は、ビデオ監視機器によって目標ビデオのフレーム抽出・サンプリングを行ったものであり、1グループのビデオフレーム画像における画素点の画素値に基づいて、1グループのビデオフレーム画像において複数の目標ビデオフレーム画像を特定するように構成されてもよい。
移動する対象物が目標領域に現れると検出された場合に、ビデオ監視機器で目標領域を撮像したビデオのうち対象物が現れた目標ビデオから画像を取得するように構成される取得モジュール82と、
画像に基づいて、対象物が目標対象物であるか否かを判定するように第1のサーバに指示するための画像を第1のサーバに送信するように構成される送信モジュール84と、を備える。
ビデオ監視機器92は、移動する対象物が目標領域に現れると検出された場合に、目標領域を撮像したビデオのうち対象物が現れた目標ビデオから画像を取得し、画像を第1のサーバ94に送信するように構成される。
本願の代替な実施例は、目標対象物の監視アーキテクチャを提供する。図10は、本願の代替な実施例による目標対象物の監視アーキテクチャの模式図である。図10に示すように、内外部環境及び有害生物の動き情報を監視するシステムアーキテクチャを提供する。該システムは、迅速に配置されることができる特徴を有し、顧客サイトにサーバを配置する必要がなく、ビデオ監視機器でデータを収集するとともに、データアップロードのための無線ネットワーク環境を配置すればよく、全ての後続計算分析はクラウド側にて完成され、システムのハードウェアコスト、システム配置の複雑さを大幅に低減するとともに、虫類やねずみによる被害のリアルタイムな警報、ビデオ再生、パス分析、ねずみ昆虫駆除助言等の機能を見事に遂げることができる。本システムは、さらに、虫類やねずみによる被害のモニタリングと虫類やねずみによる被害の防除とを組み合わせて、良性な閉ループを形成し、実際の虫類やねずみによる被害防除作業を全体として援助する役割を担う。
Claims (33)
- 第1のサーバが、移動する対象物が目標領域に現れると検出された場合にビデオ監視機器によって送信された画像を受信し、前記画像は、前記ビデオ監視機器で目標領域を撮像したビデオのうち前記対象物が現れた目標ビデオから取得した画像であることと、
前記第1のサーバが、前記画像に基づいて前記対象物が目標対象物であるか否かを判定することと、
を含み、
前記第1のサーバが、前記画像に基づいて前記対象物が目標対象物であるか否かを判定することは、
前記第1のサーバが、各目標ビデオフレーム画像ごとに目標対象物の検出を行い、各前記目標ビデオフレーム画像の画像特徴を得て、前記画像は、前記目標ビデオから取得した複数の目標ビデオフレーム画像を含み、各前記目標ビデオフレーム画像は、前記目標領域における前記対象物を示すために用いられ、前記画像特徴は、前記対象物のうち、前記目標対象物との類似度が第1の閾値を超えた対象物がある目標画像領域を表すために用いられることと、
前記第1のサーバが、各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像における前記対象物の動き速度及び動き方向を表すための動き特徴を特定することと、
前記第1のサーバが、前記動き特徴及び各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを判定することと、を含む目標対象物の監視方法。 - 前記第1のサーバが、前記画像に基づいて前記対象物が目標対象物であるか否かを判定した後、
前記対象物が前記目標対象物であると判定された場合に、前記第1のサーバが、前記目標ビデオを取得すること、をさらに含む、請求項1に記載の方法。 - 前記第1のサーバが、前記目標ビデオを取得することは、
前記第1のサーバが、前記ビデオ監視機器から前記目標ビデオを取得すること、或いは、
前記第1のサーバが、第2のサーバから前記目標ビデオを取得すること、を含み、
前記目標ビデオは、移動する対象物が目標領域に現れると検出された場合に前記ビデオ監視機器によって前記第2のサーバに送信されたものである、請求項2に記載の方法。 - 前記第1のサーバが、前記画像に基づいて前記対象物が目標対象物であるか否かを判定した後、
前記対象物が前記目標対象物ではないと判定された場合に、前記第1のサーバが、前記目標ビデオを削除するように前記第2のサーバに指示するための指示情報を前記第2のサーバへ送信すること、をさらに含む、請求項3に記載の方法。 - 前記第1のサーバが、前記目標ビデオを取得した後、
前記第1のサーバが、前記目標ビデオにおいて、前記目標領域における前記目標対象物の移動軌跡を特定すること、をさらに含む、請求項2に記載の方法。 - 前記第1のサーバが、前記目標ビデオにおいて、前記目標領域における前記目標対象物の移動軌跡を特定した後、
前記第1のサーバが、前記移動軌跡に基づいて、前記目標対象物を排除する方式を提示するための提示情報を生成すること、をさらに含む、請求項5に記載の方法。 - 前記第1のサーバが、前記移動軌跡に基づいて、提示情報を生成した後、
前記第1のサーバが、前記目標対象物に対応する、前記目標領域に前記目標対象物が現れたことを示すためのアラート情報を生成し、前記アラート情報には、前記目標ビデオ、前記移動軌跡、前記提示情報の少なくとも一方が含まれていることと、
前記第1のサーバが、前記アラート情報をクライアントに送信することと、をさらに含む、請求項6に記載の方法。 - 第1のサーバが、移動する対象物が目標領域に現れると検出された場合にビデオ監視機器によって送信された画像を受信する前に、
前記ビデオ監視機器が、移動する対象物が目標領域に現れると検出された場合に、前記目標領域に前記対象物が現れてから所定時間毎に、前記ビデオ監視機器で目標領域を撮像したビデオから前記画像に含まれるビデオ画像を、前記対象物が前記目標領域に現れなくなるまで、キャプチャすることと、
前記ビデオ監視機器が、キャプチャした前記ビデオ画像を前記第1のサーバにリアルタイムに送信すること、或いは、前記ビデオ監視機器が、キャプチャした全てのビデオ画像を含む画像セットを取得し、前記画像セットを前記第1のサーバに送信することと、をさらに含む、請求項1に記載の方法。 - 前記第1のサーバが、前記画像に基づいて前記対象物が目標対象物であるか否かを判定することは、
前記第1のサーバが、受信した各前記ビデオ画像における前記対象物が前記目標対象物であるか否かを認識し、各前記ビデオ画像に対応する認識結果を得ることと、
前記第1のサーバが、受信した全ての前記ビデオ画像に対応する認識結果を目標結果となるように統合することと、
前記第1のサーバが、前記目標結果に基づいて、前記対象物が目標対象物であるか否かを判定することと、を含む、請求項8に記載の方法。 - 前記第1のサーバが、受信した各前記ビデオ画像における前記対象物が前記目標対象物であるか否かを認識することは、
前記第1のサーバが、受信した各前記ビデオ画像に前記対象物が現れたか否かを判定することと、
前記第1のサーバが、前記対象物が現れた前記ビデオ画像における前記対象物が前記目標対象物であるか否かを認識することと、を含む、請求項9に記載の方法。 - 前記第1のサーバが、各前記目標ビデオフレーム画像の画像特徴に基づいて、動き特徴を特定することは、
各前記目標ビデオフレーム画像の画像特徴で表される目標画像領域に対応する目標ベクトルを取得し、それぞれ、対応する1つの前記目標ビデオフレーム画像における前記対象物が前記目標画像領域を通る時の動き速度及び動き方向を表すための複数の目標ベクトルを得て、前記複数の目標ベクトルを、ビデオファイルにおける各前記目標ビデオフレーム画像の時間順に従って前記動き特徴に含まれる第1の目標ベクトルとして構成すること、或いは、
各前記目標ビデオフレーム画像の画像特徴で表される目標画像領域に対応する2次元オプティカルフロー図を取得し、それぞれ、対応する1つの前記目標ビデオフレーム画像における前記対象物が前記目標画像領域を通る時の動き速度及び動き方向を含む複数の2次元オプティカルフロー図を得て、前記複数の2次元オプティカルフロー図を、ビデオファイルにおける各前記目標ビデオフレーム画像の時間順に従って前記動き特徴に含まれる3次元の第2の目標ベクトルとして構成すること、を含む、請求項1に記載の方法。 - 前記第1のサーバが、前記動き特徴及び各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを判定することは、
前記動き特徴及び各前記目標ビデオフレーム画像の画像特徴を、予めトレーニングしておいたニューラルネットワークモデルに入力し、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを表すための対象物認識結果を得ること、を含む、請求項1に記載の方法。 - 前記動き特徴及び各前記目標ビデオフレーム画像の画像特徴を、予めトレーニングしておいたニューラルネットワークモデルに入力し、対象物認識結果を得ることは、
各前記画像特徴に畳み込み層、正規化層及び活性化関数層を含むニューラルネットワーク層構造を通らせ、複数の第1の特徴ベクトルを得て、前記複数の第1の特徴ベクトルと前記動き特徴を統合し、第2の特徴ベクトルを得て、前記第2の特徴ベクトルを全結合層に入力し分類し、第1の分類結果を得て、前記ニューラルネットワークモデルは、前記ニューラルネットワーク層構造及び前記全結合層を含み、前記対象物認識結果は、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを表すための前記第1の分類結果を含むこと、或いは、
各前記画像特徴に畳み込み層、正規化層及び活性化関数層を含む第1のニューラルネットワーク層構造を通らせ、複数の第1の特徴ベクトルを得て、前記動き特徴に畳み込み層、正規化層、活性化関数層を含む第2のニューラルネットワーク層構造を通らせ、第2の特徴ベクトルを得て、前記複数の第1の特徴ベクトルと前記第2の特徴ベクトルを統合し、第3の特徴ベクトルを得て、前記第3の特徴ベクトルを全結合層に入力し分類し、第2の分類結果を得て、前記ニューラルネットワークモデルは、前記第1のニューラルネットワーク層構造、前記第2のニューラルネットワーク層構造及び前記全結合層を含み、前記対象物認識結果は、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを表すための前記第2の分類結果を含むこと、を含む、請求項12に記載の方法。 - 前記第1のサーバが、移動する対象物が目標領域に現れると検出された場合にビデオ監視機器によって送信された画像を受信することは、
前記第1のサーバが、ビデオ監視機器から送信された、前記ビデオ監視機器によって、前記目標ビデオのフレーム抽出・サンプリングを行い、1グループのビデオフレーム画像を得て、前記1グループのビデオフレーム画像における画素点の画素値に基づいて、前記1グループのビデオフレーム画像において特定した前記複数の目標ビデオフレーム画像を受信すること、或いは、
前記第1のサーバが、ビデオ監視機器から送信された、前記ビデオ監視機器によって、前記目標ビデオのフレーム抽出・サンプリングを行なって得られた1グループのビデオフレーム画像を受信し、前記1グループのビデオフレーム画像における画素点の画素値に基づいて、前記1グループのビデオフレーム画像において前記複数の目標ビデオフレーム画像を特定すること、を含む、請求項1に記載の方法。 - 前記第1のサーバは、第1のクラウドサーバを含む、請求項1乃至14のうちいずれか一項に記載の方法。
- 前記第2のサーバは、第2のクラウドサーバを含む、請求項3に記載の方法。
- ビデオ監視機器が、移動する対象物が目標領域に現れると検出された場合に、前記ビデオ監視機器で目標領域を撮像したビデオのうち前記対象物が現れた目標ビデオから画像を取得することと、
前記ビデオ監視機器が、前記画像に基づいて前記対象物が目標対象物であるか否かを判定するように第1のサーバに指示するための前記画像を前記第1のサーバに送信することと、
を含み、
前記画像は、
各目標ビデオフレーム画像ごとに目標対象物の検出を行い、各前記目標ビデオフレーム画像の画像特徴を得て、前記画像は、前記目標ビデオから取得した複数の目標ビデオフレーム画像を含み、各前記目標ビデオフレーム画像は、前記目標領域における前記対象物を示すために用いられ、前記画像特徴は、前記対象物のうち、前記目標対象物との類似度が第1の閾値を超えた対象物がある目標画像領域を表すために用いられることと、
各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像における前記対象物の動き速度及び動き方向を表すための動き特徴を特定することと、
前記動き特徴及び各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを判定することと、
で、前記画像に基づいて前記対象物が目標対象物であるか否かを判定するよう前記第1のサーバに指示するために用いられる目標対象物の監視方法。 - 移動する対象物が目標領域に現れると検出された場合に、
前記ビデオ監視機器が、前記目標ビデオを、前記第1のサーバから送信された第1の要求を受信した場合に、前記第1の要求に応えて前記目標ビデオを前記第1のサーバに送信するための第2のサーバに送信すること、をさらに含む、請求項17に記載の方法。 - 前記ビデオ監視機器が、前記画像を第1のサーバに送信した後、
前記ビデオ監視機器が、前記第1のサーバから送信された第2の要求を受信することと、
前記ビデオ監視機器が、前記第2の要求に応えて前記目標ビデオを前記第1のサーバに送信することと、をさらに含む、請求項17に記載の方法。 - 前記ビデオ監視機器で目標領域を撮像したビデオのうち前記対象物が現れた目標ビデオから画像を取得することは、前記ビデオ監視機器が、移動する対象物が目標領域に現れると検出された場合に、前記目標領域に前記対象物が現れてから所定時間毎に、前記ビデオ監視機器で目標領域を撮像したビデオから前記画像に含まれるビデオ画像を、前記対象物が前記目標領域に現れなくなるまで、キャプチャすること、を含み、
前記ビデオ監視機器が、前記画像を第1のサーバに送信することは、前記ビデオ監視機器が、キャプチャした前記ビデオ画像を前記第1のサーバにリアルタイムに送信すること、或いは、前記ビデオ監視機器が、キャプチャした全てのビデオ画像を含む画像セットを取得し、前記画像セットを前記第1のサーバに送信すること、を含む、請求項17に記載の方法。 - 移動する対象物が目標領域に現れると検出された場合に、
前記ビデオ監視機器が、前記目標領域を撮像したビデオから、前記目標領域に前記対象物が現れてから前記目標領域に前記対象物が現れなくなるまでの第1のビデオを取得することと、
前記ビデオ監視機器が、前記目標領域に前記対象物が現れる前の第1の目標時間帯の第2のビデオ、及び、前記目標領域に前記対象物が現れなくなった後の第2の目標時間帯の第3のビデオを取得することと、
前記ビデオ監視機器が、前記第2のビデオ、前記第1のビデオ及び前記第3のビデオを前記目標ビデオとして特定することと、をさらに含む、請求項17に記載の方法。 - ビデオ監視機器と第1のサーバとを備える目標対象物の監視システムであって、
前記ビデオ監視機器が前記第1のサーバに接続され、
前記ビデオ監視機器は、移動する対象物が目標領域に現れると検出された場合に、目標領域を撮像したビデオのうち前記対象物が現れた目標ビデオから画像を取得し、前記画像を前記第1のサーバに送信するように構成され、
前記第1のサーバは、前記画像に基づいて前記対象物が目標対象物であるか否かを判定するように構成され、
前記第1のサーバは、
各目標ビデオフレーム画像ごとに目標対象物の検出を行い、各前記目標ビデオフレーム画像の画像特徴を得て、前記画像は、前記目標ビデオから取得した複数の目標ビデオフレーム画像を含み、各前記目標ビデオフレーム画像は、前記目標領域における前記対象物を示すために用いられ、前記画像特徴は、前記対象物のうち、前記目標対象物との類似度が第1の閾値を超えた対象物がある目標画像領域を表すために用いられることと、
各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像における前記対象物の動き速度及び動き方向を表すための動き特徴を特定することと、
前記動き特徴及び各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを判定することと、
で、前記画像に基づいて前記対象物が目標対象物であるか否かを判定する目標対象物の監視システム。 - 前記ビデオ監視機器は、
移動する対象物が目標領域に現れると検出された場合に、前記目標領域に前記対象物が現れてから所定時間毎に、前記ビデオ監視機器で目標領域を撮像したビデオから前記画像に含まれるビデオ画像を、前記対象物が前記目標領域に現れなくなるまで、キャプチャし、
キャプチャした前記ビデオ画像を前記第1のサーバにリアルタイムに送信するか、或いは、キャプチャした全てのビデオ画像を含む画像セットを取得し、前記画像セットを前記第1のサーバに送信するように構成される、請求項22に記載のシステム。 - 前記第1のサーバは、
受信した各前記ビデオ画像における前記対象物が前記目標対象物であるか否かを認識し、各前記ビデオ画像に対応する認識結果を得て、
受信した全ての前記ビデオ画像に対応する認識結果を目標結果となるように統合し、
前記目標結果に基づいて、前記対象物が目標対象物であるか否かを判定するように構成される、請求項23に記載のシステム。 - 前記第1のサーバは、さらに、
前記対象物が前記目標対象物であると判定された場合に、前記目標ビデオを取得し、
前記目標ビデオにおいて、前記目標領域における前記目標対象物の移動軌跡を特定し、
前記移動軌跡に基づいて、前記目標対象物を排除する方式を提示するための提示情報を生成し、
前記目標対象物に対応する、前記目標領域に前記目標対象物が現れたことを示すためのアラート情報を生成し、前記アラート情報には、前記目標ビデオ、前記移動軌跡、前記提示情報の少なくとも一方が含まれているように構成される、請求項22に記載のシステム。 - クライアントをさらに備え、
前記第1のサーバが前記クライアントに接続され、
前記第1のサーバは、前記アラート情報を前記クライアントに送信するように構成され、
前記クライアントは、表示インターフェースに前記アラート情報を表示するように構成される、請求項25に記載のシステム。 - 第2のサーバをさらに備え、
前記第2のサーバが前記ビデオ監視機器及び前記第1のサーバに接続され、
前記ビデオ監視機器は、さらに、前記ビデオを前記第2のサーバに送信するように構成され、
前記第2のサーバは、前記目標ビデオを記憶するように構成され、
前記第1のサーバは、前記第2のサーバから前記目標ビデオを取得するように構成される、請求項25に記載のシステム。 - 前記第1のサーバは、さらに、前記対象物が前記目標対象物ではないと判定された場合に、前記第2のサーバへ指示情報を送信するように構成され、
前記第2のサーバは、前記指示情報に応えて前記目標ビデオを削除するように構成される、請求項27に記載のシステム。 - 前記ビデオ監視機器は、さらに、
前記目標領域を撮像したビデオから、前記目標領域に前記対象物が現れてから前記目標領域に前記対象物が現れなくなるまでの第1のビデオを取得し、
前記目標領域に前記対象物が現れる前の第1の目標時間帯の第2のビデオ、及び、前記目標領域に前記対象物が現れなくなった後の第2の目標時間帯の第3のビデオを取得し、
前記第2のビデオ、前記第1のビデオ及び前記第3のビデオを前記目標ビデオとして特定するように構成される、請求項25に記載のシステム。 - 第1のサーバに適用される目標対象物の監視装置であって、
移動する対象物が目標領域に現れると検出された場合にビデオ監視機器によって送信された画像を受信し、前記画像は、前記ビデオ監視機器で目標領域を撮像したビデオのうち前記対象物が現れた目標ビデオから取得した画像であるように構成される受信モジュールと、
前記画像に基づいて前記対象物が目標対象物であるか否かを判定するように構成される判定モジュールと、を備え、
前記判定モジュールは、
各目標ビデオフレーム画像ごとに目標対象物の検出を行い、各前記目標ビデオフレーム画像の画像特徴を得て、前記画像は、前記目標ビデオから取得した複数の目標ビデオフレーム画像を含み、各前記目標ビデオフレーム画像は、前記目標領域における前記対象物を示すために用いられ、前記画像特徴は、前記対象物のうち、前記目標対象物との類似度が第1の閾値を超えた対象物がある目標画像領域を表すために用いられることと、
各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像における前記対象物の動き速度及び動き方向を表すための動き特徴を特定することと、
前記動き特徴及び各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを判定することと、
で、前記画像に基づいて前記対象物が目標対象物であるか否かを判定する目標対象物の監視装置。 - ビデオ監視機器に適用される目標対象物の監視装置であって、
移動する対象物が目標領域に現れると検出された場合に、前記ビデオ監視機器で目標領域を撮像したビデオのうち前記対象物が現れた目標ビデオから画像を取得するように構成される取得モジュールと、
前記画像に基づいて前記対象物が目標対象物であるか否かを判定するように第1のサーバに指示するための前記画像を前記第1のサーバに送信するように構成される送信モジュールと、を備え、
前記画像は、
各目標ビデオフレーム画像ごとに目標対象物の検出を行い、各前記目標ビデオフレーム画像の画像特徴を得て、前記画像は、前記目標ビデオから取得した複数の目標ビデオフレーム画像を含み、各前記目標ビデオフレーム画像は、前記目標領域における前記対象物を示すために用いられ、前記画像特徴は、前記対象物のうち、前記目標対象物との類似度が第1の閾値を超えた対象物がある目標画像領域を表すために用いられることと、
各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像における前記対象物の動き速度及び動き方向を表すための動き特徴を特定することと、
前記動き特徴及び各前記目標ビデオフレーム画像の画像特徴に基づいて、前記複数の目標ビデオフレーム画像に前記目標対象物が現れたか否かを判定することと、
で、前記画像に基づいて前記対象物が目標対象物であるか否かを判定するように第1のサーバに指示するために用いられる目標対象物の監視装置。 - 実行されると、請求項1乃至21のうちいずれか一項に記載の方法を実行するように構成されるコンピュータプログラムが記憶されている記憶媒体。
- メモリとプロセッサとを備え、前記メモリには、コンピュータプログラムが記憶され、前記プロセッサは、前記コンピュータプログラムを実行して請求項1乃至21のうちいずれか一項に記載の方法を実行するように構成される電子装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910068774.0 | 2019-01-24 | ||
CN201910068774.0A CN109919009A (zh) | 2019-01-24 | 2019-01-24 | 目标对象的监控方法、装置及*** |
PCT/CN2019/080747 WO2020151084A1 (zh) | 2019-01-24 | 2019-04-01 | 目标对象的监控方法、装置及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021514548A JP2021514548A (ja) | 2021-06-10 |
JP7018462B2 true JP7018462B2 (ja) | 2022-02-10 |
Family
ID=66960691
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019570566A Active JP7018462B2 (ja) | 2019-01-24 | 2019-04-01 | 目標対象物の監視方法、装置及びシステム |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP7018462B2 (ja) |
CN (1) | CN109919009A (ja) |
WO (1) | WO2020151084A1 (ja) |
Families Citing this family (37)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110472492A (zh) * | 2019-07-05 | 2019-11-19 | 平安国际智慧城市科技股份有限公司 | 目标生物检测方法、装置、计算机设备和存储介质 |
CN110516535A (zh) * | 2019-07-12 | 2019-11-29 | 杭州电子科技大学 | 一种基于深度学习的老鼠活跃度检测方法和***、及卫生评估方法 |
CN111753609B (zh) * | 2019-08-02 | 2023-12-26 | 杭州海康威视数字技术股份有限公司 | 一种目标识别的方法、装置及摄像机 |
CN110674793A (zh) * | 2019-10-22 | 2020-01-10 | 上海秒针网络科技有限公司 | 调味品容器加盖监测方法及*** |
CN111126317B (zh) * | 2019-12-26 | 2023-06-23 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、服务器及存储介质 |
CN111553238A (zh) * | 2020-04-23 | 2020-08-18 | 北京大学深圳研究生院 | 一种用于动作的时间轴定位的回归分类模块和方法 |
CN111611938B (zh) * | 2020-05-22 | 2023-08-29 | 浙江大华技术股份有限公司 | 一种逆行方向确定方法及装置 |
EP3929801A1 (en) * | 2020-06-25 | 2021-12-29 | Axis AB | Training of an object recognition neural network |
CN112001457A (zh) * | 2020-07-14 | 2020-11-27 | 浙江大华技术股份有限公司 | 图像预处理方法、装置、***和计算机可读存储介质 |
CN111898581B (zh) * | 2020-08-12 | 2024-05-17 | 成都佳华物链云科技有限公司 | 动物检测方法、装置、电子设备及可读存储介质 |
CN112101344B (zh) * | 2020-08-25 | 2022-09-06 | 腾讯科技(深圳)有限公司 | 一种视频文本跟踪方法及装置 |
CN112199993B (zh) * | 2020-09-01 | 2022-08-09 | 广西大学 | 基于人工智能识别任意方向变电站绝缘子红外图像检测模型的方法 |
CN112311966A (zh) * | 2020-11-13 | 2021-02-02 | 深圳市前海手绘科技文化有限公司 | 一种短视频中动态镜头制作的方法和装置 |
CN112437274B (zh) * | 2020-11-17 | 2022-08-30 | 浙江大华技术股份有限公司 | 一种抓拍图片的传输方法及抓拍机 |
CN112565863B (zh) * | 2020-11-26 | 2024-07-05 | 深圳Tcl新技术有限公司 | 视频播放方法、装置、终端设备及计算机可读存储介质 |
CN112633131B (zh) * | 2020-12-18 | 2022-09-13 | 宁波长壁流体动力科技有限公司 | 一种基于深度学习视频识别的井下自动跟机方法 |
CN112784738B (zh) * | 2021-01-21 | 2023-09-19 | 上海云从汇临人工智能科技有限公司 | 运动目标检测告警方法、装置以及计算机可读存储介质 |
CN112836089B (zh) * | 2021-01-28 | 2023-08-22 | 浙江大华技术股份有限公司 | 运动轨迹的确认方法及装置、存储介质、电子装置 |
CN113055654A (zh) * | 2021-03-26 | 2021-06-29 | 太原师范学院 | 边缘设备中的视频流有损压缩方法 |
CN112861826B (zh) * | 2021-04-08 | 2021-12-14 | 重庆工程职业技术学院 | 基于视频图像的煤矿监管方法、***、设备及存储介质 |
CN113221800A (zh) * | 2021-05-24 | 2021-08-06 | 珠海大横琴科技发展有限公司 | 一种待检测目标的监控判断方法及*** |
CN113435368B (zh) * | 2021-06-30 | 2024-03-22 | 青岛海尔科技有限公司 | 监控数据的识别方法和装置、存储介质及电子装置 |
CN113487821A (zh) * | 2021-07-30 | 2021-10-08 | 重庆予胜远升网络科技有限公司 | 基于机器视觉的电力设备异物入侵识别***及方法 |
CN113609317B (zh) * | 2021-09-16 | 2024-04-02 | 杭州海康威视数字技术股份有限公司 | 一种图像库构建方法、装置及电子设备 |
CN114241420A (zh) * | 2021-12-20 | 2022-03-25 | 国能(泉州)热电有限公司 | 一种动火作业检测方法及装置 |
CN114051124B (zh) * | 2022-01-17 | 2022-05-20 | 深圳市华付信息技术有限公司 | 支持多区域监控的视频监控方法、装置、设备及存储介质 |
CN114403047B (zh) * | 2022-02-09 | 2023-01-06 | 上海依蕴宠物用品有限公司 | 一种基于图像分析技术的老龄动物健康干预方法及*** |
CN115091472B (zh) * | 2022-08-26 | 2022-11-22 | 珠海市南特金属科技股份有限公司 | 基于人工智能的目标定位方法及装夹机械手控制*** |
CN115150371B (zh) * | 2022-08-31 | 2022-12-20 | 深圳市万佳安物联科技股份有限公司 | 基于云平台的业务处理方法、***及储存介质 |
CN115187916B (zh) * | 2022-09-13 | 2023-02-17 | 太极计算机股份有限公司 | 基于时空关联的建筑内疫情防控方法、装置、设备和介质 |
CN115457447B (zh) * | 2022-11-07 | 2023-03-28 | 浙江莲荷科技有限公司 | 运动物体识别的方法、装置、***及电子设备、存储介质 |
TWI826129B (zh) * | 2022-11-18 | 2023-12-11 | 英業達股份有限公司 | 週期時間偵測及修正系統與方法 |
CN116684626B (zh) * | 2023-08-04 | 2023-11-24 | 广东星云开物科技股份有限公司 | 视频压缩方法和共享售卖柜 |
CN116890668B (zh) * | 2023-09-07 | 2023-11-28 | 国网浙江省电力有限公司杭州供电公司 | 信息同步互联的安全充电方法及充电装置 |
CN117392596B (zh) * | 2023-09-07 | 2024-04-30 | 中关村科学城城市大脑股份有限公司 | 数据处理方法、电子设备和计算机可读介质 |
CN117221391B (zh) * | 2023-11-09 | 2024-02-23 | 天津华来科技股份有限公司 | 基于视觉语义大模型的智能摄像机推送方法、装置及设备 |
CN117671597B (zh) * | 2023-12-25 | 2024-07-16 | 北京大学长沙计算与数字经济研究院 | 一种老鼠检测模型的构建方法和老鼠检测方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004266735A (ja) | 2003-03-04 | 2004-09-24 | Ecore Kk | ねずみの監視システム |
JP2011197365A (ja) | 2010-03-19 | 2011-10-06 | Panasonic Corp | 映像表示装置および映像表示方法 |
WO2017208356A1 (ja) | 2016-05-31 | 2017-12-07 | 株式会社オプティム | IoT制御システム、IoT制御方法及びプログラム |
JP6388093B1 (ja) | 2017-08-31 | 2018-09-12 | 三菱電機株式会社 | データ伝送装置、データ処理システムおよびデータ伝送方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7746378B2 (en) * | 2004-10-12 | 2010-06-29 | International Business Machines Corporation | Video analysis, archiving and alerting methods and apparatus for a distributed, modular and extensible video surveillance system |
CN101854516B (zh) * | 2009-04-02 | 2014-03-05 | 北京中星微电子有限公司 | 视频监控***、视频监控服务器及视频监控方法 |
US9554063B2 (en) * | 2015-06-12 | 2017-01-24 | Google Inc. | Using infrared images of a monitored scene to identify windows |
CN106559645B (zh) * | 2015-09-25 | 2020-01-17 | 杭州海康威视数字技术股份有限公司 | 基于摄像机的监控方法、***和装置 |
CN106878666B (zh) * | 2015-12-10 | 2020-04-28 | 杭州海康威视数字技术股份有限公司 | 基于监控摄像机来查找目标对象的方法、装置和*** |
CN107358160A (zh) * | 2017-06-08 | 2017-11-17 | 小草数语(北京)科技有限公司 | 终端监控视频处理方法、监控终端以及服务器 |
CN108259830B (zh) * | 2018-01-25 | 2019-08-23 | 深圳冠思大数据服务有限公司 | 基于云服务器的鼠患智能监控***和方法 |
-
2019
- 2019-01-24 CN CN201910068774.0A patent/CN109919009A/zh active Pending
- 2019-04-01 WO PCT/CN2019/080747 patent/WO2020151084A1/zh active Application Filing
- 2019-04-01 JP JP2019570566A patent/JP7018462B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004266735A (ja) | 2003-03-04 | 2004-09-24 | Ecore Kk | ねずみの監視システム |
JP2011197365A (ja) | 2010-03-19 | 2011-10-06 | Panasonic Corp | 映像表示装置および映像表示方法 |
WO2017208356A1 (ja) | 2016-05-31 | 2017-12-07 | 株式会社オプティム | IoT制御システム、IoT制御方法及びプログラム |
JP6388093B1 (ja) | 2017-08-31 | 2018-09-12 | 三菱電機株式会社 | データ伝送装置、データ処理システムおよびデータ伝送方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109919009A (zh) | 2019-06-21 |
WO2020151084A1 (zh) | 2020-07-30 |
JP2021514548A (ja) | 2021-06-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7018462B2 (ja) | 目標対象物の監視方法、装置及びシステム | |
CN109922310B (zh) | 目标对象的监控方法、装置及*** | |
CN109886130B (zh) | 目标对象的确定方法、装置、存储介质和处理器 | |
JP6949988B2 (ja) | 領域特定方法、装置、記憶媒体及びプロセッサ | |
CN109886999B (zh) | 位置确定方法、装置、存储介质和处理器 | |
JP7026062B2 (ja) | 機械学習によってオブジェクト分類器を訓練するためのシステム及び方法 | |
US11023707B2 (en) | System and method for selecting a part of a video image for a face detection operation | |
US7868772B2 (en) | Flame detecting method and device | |
CN109886129B (zh) | 提示信息生成方法和装置,存储介质及电子装置 | |
US20130128050A1 (en) | Geographic map based control | |
KR20180072561A (ko) | 비디오 감시 시스템에서 경보들을 발생시키는 방법 | |
KR20080054368A (ko) | 화염 검출 방법 및 장치 | |
AU2012355879A1 (en) | Cloud-based video surveillance management system | |
CN110728810B (zh) | 一种分布式目标监测***和方法 | |
CN112733690A (zh) | 一种高空抛物检测方法、装置及电子设备 | |
EP2000998B1 (en) | Flame detecting method and device | |
CN109831634A (zh) | 目标对象的密度信息确定方法及装置 | |
KR101944374B1 (ko) | 이상 개체 검출 장치 및 방법, 이를 포함하는 촬상 장치 | |
CN116416281A (zh) | 一种粮库ai视频监管分析方法及*** | |
CN111860187A (zh) | 一种高精度的佩戴口罩识别方法及*** | |
WO2022108844A1 (en) | Multi-view visual data damage detection | |
KR20200009530A (ko) | 이상 개체 검출 시스템 및 방법 | |
CN116886874A (zh) | 一种生态园安防监控预警数据的采集方法及其*** | |
CN109934099A (zh) | 放置位置的提示方法及装置、存储介质、电子装置 | |
CN114782883A (zh) | 基于群体智能的异常行为检测方法、装置和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191219 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210601 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210830 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220118 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220131 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7018462 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |