JP2017207904A - Abnormality detection system, model generation device, abnormality detection device, abnormality detection method, model generation program, and abnormality detection program - Google Patents
Abnormality detection system, model generation device, abnormality detection device, abnormality detection method, model generation program, and abnormality detection program Download PDFInfo
- Publication number
- JP2017207904A JP2017207904A JP2016099638A JP2016099638A JP2017207904A JP 2017207904 A JP2017207904 A JP 2017207904A JP 2016099638 A JP2016099638 A JP 2016099638A JP 2016099638 A JP2016099638 A JP 2016099638A JP 2017207904 A JP2017207904 A JP 2017207904A
- Authority
- JP
- Japan
- Prior art keywords
- sensor
- model
- sensor data
- target
- abnormality detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Testing And Monitoring For Control Systems (AREA)
Abstract
Description
本発明は、複数のセンサを用いて異常を検知する異常検知技術に関する。 The present invention relates to an abnormality detection technique for detecting an abnormality using a plurality of sensors.
近年、様々な機器に通信機能を持たせてネットワークに接続し、あるいは相互に通信することにより、各種の制御を行うＩｏＴ（Internet of Things）が研究されている。 In recent years, research has been conducted on IoT (Internet of Things) that performs various types of control by providing various devices with a communication function to connect to a network or communicate with each other.
また、特許文献１には、利用者が機器の生成するログメッセージの生成側を知ることなく、利用者にとって異常なログ生成を検出する異常検出装置が記載されている。
パーソナルコンピュータ、スマートフォンなどのリッチデバイス（デバイスが高い処理能力を持つもの）においては、デバイスにウィルス検知、故障検知、盗難検知などの異常を検知するためのソフトウェアをインストールすることが可能である。 In rich devices such as personal computers and smartphones (devices with high processing capabilities), software for detecting abnormalities such as virus detection, failure detection, and theft detection can be installed in the device.
しかしながら、工場で稼働する機械に設置されるセンサのように、単純なセンサ（デバイス）の場合は、センサに異常を検知するためのソフトウェアをインストールすることができない。すなわち、異常検知機能を組み込むことができないような単純な多数のセンサから、連続的にデータが収集される環境において、あるセンサに故障、改ざん、盗難、すり替えなどの異常が発生した場合、異常を発見することができない。 However, in the case of a simple sensor (device) such as a sensor installed in a machine operating in a factory, software for detecting an abnormality cannot be installed in the sensor. In other words, if an abnormality such as failure, alteration, theft, or replacement occurs in a sensor in an environment where data is continuously collected from a large number of simple sensors that cannot incorporate the abnormality detection function, I can't find it.
本発明は上記事情に鑑みてなされたものであり、本発明の目的は、異常検知機能を組み込むことができないセンサにおいて発生した異常を、検知することにある。 The present invention has been made in view of the above circumstances, and an object of the present invention is to detect an abnormality that has occurred in a sensor that cannot incorporate an abnormality detection function.
上記課題を解決するために、第１の本発明は、モデル生成装置と、異常検知装置とを備える異常検知システムであって、前記モデル生成装置は、複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータを推定可能なモデルを生成し、前記異常検知装置は、前記複数のセンサから、センサデータを受信する受信部と、前記モデルに、前記受信部が受信した前記センサ群のセンサデータを入力し、前記対象センサのセンサデータの推定値を取得する推定部と、前記対象センサの推定値と、前記受信部が受信した前記対象センサのセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知する異常検知部と、を備える。 In order to solve the above problems, a first aspect of the present invention is an abnormality detection system including a model generation device and an abnormality detection device, wherein the model generation device includes a plurality of sensors as a target sensor, and the target sensor. The sensor group is divided into other sensor groups, the correlation between the sensor data of the sensor group and the sensor data of the target sensor is analyzed, and a model capable of estimating the sensor data of the target sensor from the sensor data of the sensor group is generated. The abnormality detection device receives sensor data of the sensor group received by the receiving unit to the receiving unit that receives sensor data from the plurality of sensors, and estimates the sensor data of the target sensor. When the difference between the estimation unit that acquires the value, the estimated value of the target sensor, and the sensor data of the target sensor received by the receiving unit is equal to or greater than a predetermined threshold value Comprising an abnormality detection unit for detecting an abnormality of the subject sensor.
第２の本発明は、センサの異常を検知するためのモデルを生成するモデル生成装置であって、複数のセンサからセンサデータを受信する受信部と、前記複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータを推定可能なモデルを生成するモデル生成部と、を備える。 2nd this invention is a model production | generation apparatus which produces | generates the model for detecting abnormality of a sensor, Comprising: The receiving part which receives sensor data from a some sensor, The said some sensor as an object sensor, The said object Analyzing the correlation between the sensor data of the sensor group and the sensor data of the target sensor separately from the sensor group other than the sensor group, and generating a model that can estimate the sensor data of the target sensor from the sensor data of the sensor group A model generation unit.
第３の本発明は、センサの異常を検知する異常検知装置であって、複数のセンサから、センサデータを受信する受信部と、前記複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータを推定可能なモデルを記憶する記憶部と、前記モデルに、前記受信部が受信した前記センサ群のセンサデータを入力し、前記対象センサのセンサデータの推定値を取得する推定部と、前記対象センサの推定値と、前記受信部が受信した前記対象センサのセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知する異常検知部と、を備える。 3rd this invention is an abnormality detection apparatus which detects abnormality of a sensor, Comprising: The receiving part which receives sensor data from a some sensor, The said several sensor as an object sensor, and sensor groups other than the said object sensor A storage unit that analyzes the correlation between the sensor data of the sensor group and the sensor data of the target sensor, and stores a model that can estimate the sensor data of the target sensor from the sensor data of the sensor group; The sensor data of the sensor group received by the receiving unit is input to the model, an estimation unit that acquires an estimated value of sensor data of the target sensor, an estimated value of the target sensor, and the receiving unit received An abnormality detection unit that detects an abnormality of the target sensor when a difference from the sensor data of the target sensor is equal to or greater than a predetermined threshold.
第４の本発明は、モデル生成装置と、異常検知装置とを備える異常検知システムが行う異常検知方法であって、前記モデル生成装置は、複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータが推定可能なモデルを生成する生成ステップを行い、前記異常検知装置は、 前記複数のセンサから、センサデータを受信する受信ステップと、前記モデルに、前記受信ステップで受信した前記センサ群のセンサデータを入力し、前記対象センサのセンサデータの推定値を取得する推定ステップと、前記対象センサの推定値と、前記受信ステップで受信した前記対象センサのセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知する異常検知ステップと、を行う。 4th this invention is the abnormality detection method which an abnormality detection system provided with a model production | generation apparatus and an abnormality detection apparatus performs, Comprising: The said model production | generation apparatus is a sensor other than the said target sensor and several sensors. A generation step of analyzing the correlation between the sensor data of the sensor group and the sensor data of the target sensor, and generating a model from which the sensor data of the target sensor can be estimated from the sensor data of the sensor group. The abnormality detection device receives the sensor data from the plurality of sensors, inputs the sensor data of the sensor group received in the reception step to the model, and receives the sensor data of the target sensor. An estimation step of obtaining an estimated value; an estimated value of the target sensor; and a sensor data of the target sensor received in the receiving step. Difference between the motor performs an abnormality detecting step of detecting a said object sensor abnormality when the predetermined threshold value or more, the.
第５の本発明は、コンピュータが実行する、センサの異常を検知するためのモデルを生成するモデル生成プログラムであって、前記コンピュータを、複数のセンサからセンサデータを受信する受信部、および、前記複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータを推定可能なモデルを生成するモデル生成部、として機能させる。 5th this invention is a model production | generation program which produces | generates the model for detecting the abnormality of a sensor which a computer performs, Comprising: The receiving part which receives the sensor data from several sensors, The said computer, A plurality of sensors are divided into a target sensor and a sensor group other than the target sensor, and a correlation between sensor data of the sensor group and sensor data of the target sensor is analyzed, and the target sensor is calculated from the sensor data of the sensor group. It functions as a model generation unit that generates a model that can estimate the sensor data.
第６の本発明は、コンピュータが実行する、センサの異常を検知する異常検知プログラムであって、前記コンピュータを、複数のセンサから、センサデータを受信する受信部、前記複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータを推定可能なモデルを記憶する記憶部、前記モデルに、前記受信部が受信した前記センサ群のセンサデータを入力し、前記対象センサのセンサデータの推定値を取得する推定部、および、前記対象センサの推定値と、前記受信部が受信した前記対象センサのセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知する異常検知部、として機能させる。 6th this invention is the abnormality detection program which detects abnormality of a sensor which a computer performs, Comprising: The said computer is a receiving part which receives sensor data from a some sensor, The said some sensor is made into an object sensor. The sensor data of the target sensor can be estimated from the sensor data of the sensor group by analyzing the correlation between the sensor data of the sensor group and the sensor data of the target sensor separately from the sensor group other than the target sensor A storage unit that stores a model, an estimation unit that inputs sensor data of the sensor group received by the reception unit to the model, and acquires an estimated value of sensor data of the target sensor, and an estimated value of the target sensor And an abnormality of the target sensor is detected when a difference between the sensor data of the target sensor received by the receiving unit is equal to or greater than a predetermined threshold value Normal detection unit, to function as a.
本発明によれば、異常検知機能を組み込むことができないセンサにおいて発生した異常を、検知することができる。 According to the present invention, it is possible to detect an abnormality that has occurred in a sensor that cannot incorporate an abnormality detection function.
以下、本発明の実施の形態について説明する。 Embodiments of the present invention will be described below.
＜第１の実施形態＞
図１は、本発明の第１の実施形態における異常検知システムの構成を示す構成図である。図示する異常検知システムは、モデル生成装置１と、異常検知装置２と、センサ利用装置３と、複数のセンサ４とを備える。また、これらの装置は、ネットワークにより接続されている。
<First Embodiment>
FIG. 1 is a configuration diagram showing the configuration of the abnormality detection system in the first embodiment of the present invention. The illustrated abnormality detection system includes a
モデル生成装置１は、複数のセンサ４のセンサデータ（センサ値）の相関を分析および学習し、センサ４の異常を検出するためのモデル（学習モデル）を生成する。具体的には、モデル生成装置１は、複数のセンサ４を対象センサと対象センサ以外のセンサ群とに分けて、センサ群のセンサデータと対象センサのセンサデータとの相関を分析し、センサ群のセンサデータから対象センサのセンサデータが推定可能なモデルを生成する。
The
異常検知装置２は、モデル生成装置１が生成したモデルを用いて、各センサ４の異常（故障、改ざん、盗難、すり替え等）を検知する。
The
センサ利用装置３は、複数のセンサ４のセンサデータを利用する装置である。例えば、センサ利用装置３は、異常検知装置２が検知した異常をディスプレイなどに表示する監視装置であってもよい。また、センサ利用装置３は、異常検知装置２が検知した異常をメールやメッセンジャー等へアラートをあげる監視装置であってもよい。また、センサ利用装置３は、複数のセンサ４からセンサデータを収集し、収集したセンサデータを用いて、例えばセンシング対象機器の制御などの様々なサービスを提供するデータ処理装置であってもよい。
The
センサ４は、対象となる物理量をセンシング（測定、検知）し、センサデータを出力する。具体的には、センサ４は、時間的に変化する物理量（例えば、音声、映像、言語情報(特定単語の頻度検知など)、数値など）を、周期的に所定のタイミング（例えば、ｎ秒間隔）で時系列にセンシングし、センシング結果であるセンサデータをネットワークを介して異常検知装置２に送信する。また、センサ４は、センサデータをセンサ利用装置３に送信することとしてもよい。
The
なお、複数のセンサ４は、同一の種類のセンサ４であってもよく、あるいは、複数の種類のセンサが混在してもよい。
The plurality of
図２は、モデル生成装置１の機能構成を示すブロック図である。図示するモデル生成装置１は、受信部１１と、モデル生成部１２と、モデル送信部１３と、データ記憶部１４と、モデル記憶部１５とを備える。
FIG. 2 is a block diagram illustrating a functional configuration of the
受信部１１は、各センサ４から送信されるセンサデータを受信し、データ記憶部１４に格納する。モデル生成部１２は、データ記憶部１４に記憶された複数のセンサ４のセンサデータの相関を分析および学習し、センサ４の異常を検出するためのモデルを生成する。具体的には、モデル生成部１２は、複数のセンサ４を対象センサと対象センサ以外のセンサ群とに分けて、センサ群のセンサデータと対象センサのセンサデータとの相関を分析し、センサ群のセンサデータから対象センサのセンサデータが推定可能なモデルを生成・更新する。モデル送信部１３は、モデル生成部１２が生成したモデルを、異常検知装置２に送信する。
The receiving
データ記憶部１４には、受信部１１が収集した複数のセンサ４のセンサデータが記憶される。モデル記憶部１５には、モデル生成部１２が生成したモデルが記憶される。なお、データ記憶部１４およびモデル記憶部１５には、メモリまたはＤＢなどを用いることができる。
The
図３は、異常検知装置２の機能構成を示すブロック図である。図示する異常検知装置２は、受信部２１と、推定部２２と、異常検知部２３と、データ記憶部２４と、モデル記憶部２５とを備える。
FIG. 3 is a block diagram illustrating a functional configuration of the
受信部２１は、複数のセンサ４から送信されるセンサデータを受信し、データ記憶部１４に格納する。推定部２２は、モデル記憶部２５に記憶されたモデルに受信部２１が受信したセンサ群のセンサデータを入力し、対象センサのセンサデータの推定値を取得する。異常検知部２３は、推定部２２が推定した対象センサの推定値と、受信部２１が受信した対象センサのセンサデータ（実測値）との差が、所定の閾値以上の場合に対象センサの異常を検知する。
The receiving
データ記憶部２４には、受信部２１が収集した複数のセンサ４のセンサデータが記憶される。モデル記憶部２５には、モデル生成装置１から受信したモデルが記憶される。なお、データ記憶部２４およびモデル記憶部２５には、メモリまたはＤＢなどを用いることができる。
The
上記説明したモデル生成装置１、異常検知装置２およびセンサ利用装置３は、例えば、ＣＰＵと、メモリと、ハードディスク等の外部記憶装置などを備えた汎用的なコンピュータシステムを用いることができる。なお、コンピュータシステムは、クラウド等の仮想マシンでもよく、また、複数のコンピュータで構成されるものであってもよい。また、コンピュータシステムは、ＣＰＵの他に、ＧＰＵ（Graphics Processing Unit）を備えることとしてもよい。
As the
このコンピュータシステムにおいて、ＣＰＵまたはＧＰＵがメモリ上にロードされた所定のプログラムを実行することにより、各装置の各機能が実現される。例えば、モデル生成装置１、異常検知装置２およびセンサ利用装置３の各機能は、モデル生成装置１用のプログラムの場合はモデル生成装置１のＣＰＵまたはＧＰＵが、異常検知装置２用のプログラムの場合は異常検知装置２のＣＰＵまたはＧＰＵが、そして、センサ利用装置３用のプログラムの場合はセンサ利用装置３のＣＰＵまたはＧＰＵが、それぞれ実行することにより実現される。
In this computer system, each function of each device is realized by the CPU or GPU executing a predetermined program loaded on the memory. For example, each function of the
また、モデル生成装置１用のプログラム、異常検知装置２用のプログラム、およびセンサ利用装置３用のプログラムは、ハードディスク、フレキシブルディスク、ＣＤ−ＲＯＭ、ＭＯ、ＤＶＤ−ＲＯＭなどのコンピュータ読取り可能な記録媒体に記憶することも、ネットワークを介して配信することもできる。
The program for the
次に、本実施形態の動作について説明する。 Next, the operation of this embodiment will be described.
図４は、モデル生成装置１が行うモデル生成処理を説明する説明図である。
FIG. 4 is an explanatory diagram illustrating model generation processing performed by the
複数のセンサ４の各々は、対象となる物理量をセンシングし、センサデータに変換するセンシング部４１と、センサデータを送信する送信部４２とを備える。なお、各センサ４は、所定のタイミング（時間間隔）でセンシングを行い、センサデータを送信する。なお、送信部４２は、センシング結果であるセンサデータ(センサ値)とともに、センサ識別情報（センサＩＤ）と、センシングした時刻を示すセンシング時刻とをセンサ情報として送信する。
Each of the plurality of
モデル生成装置１の受信部１１は、各センサ４から送信されたセンサデータ、センサＩＤ、センシング時刻を受信し（Ｓ１１）、これらを対応付けてデータ記憶部１４に記憶する（Ｓ１２）。これにより、データ記憶部１４には、各センサ４の時系列に発生したセンサデータ（時系列センサデータ）が記憶される。
The
なお、センサ４がセンシング時刻を送信しない場合は、受信部１１が、センサデータを受信した時刻をセンシング時刻とみなして、センサデータに対応付けて記憶することとしてもよい。
When the
そして、モデル生成部１２は、データ記憶部１４から、センシング時刻が同一の複数のセンサ４全てのセンサデータのセット（組）を、教師データとして読み出し、当該センサデータのセットを用いてモデルを生成および更新し（Ｓ１３）、モデル記憶部１５に記憶する。モデル送信部１３は、モデル記憶部１５に記憶されたモデルを異常検知装置２に送信する（Ｓ１４）。
And the model production |
図５は、Ｓ１３のモデル生成処理の一例を示す図である。本実施形態では、複数のセンサ４を、推定対象の対象センサと、対象センサ以外のセンサ群とに分けて、センサ群のセンサデータから、対象センサのセンサデータが推定可能なモデルを生成する。
FIG. 5 is a diagram illustrating an example of the model generation process of S13. In the present embodiment, the plurality of
図示する例では、ｎ個のセンサのうち、センサSnを対象センサとし、センサS１〜Sn-1をセンサ群とする。そして、モデル生成部１２は、複数の時刻（t-k, … , t-2, t-1, t）の各時刻において、センサ群S１〜Sn-1のセンサデータ、および、対象センサSnのセンサデータを教師データとして、対象センサSnのセンサデータを推定可能なモデル（Sn用モデル）を生成する。すなわち、対象センサのセンサデータと、センサ群のセンサデータとの相関を分析することでモデルを生成する。
In the illustrated example, among n sensors, the sensor Sn is a target sensor and the sensors S1 to Sn-1 are sensor groups. The
具体的には、センシング時刻が同一のセンサ群のセンサデータの値を入力データとし、この場合の出力データを対象センサのセンサデータとする教師データ（入出力ペア）を機械学習することで、ある時刻（t）におけるセンサ群のセンサデータ（S1(t), S2(t) , S3(t) , … , Sn-1(t)）５１を入力すると、対象センサのセンサデータ（Sn(t)）５２が推定可能なモデル（関数）を生成する。すなわち、モデルは、ある時刻におけるセンサ群のセンサデータが入力された場合に、当該時刻における対象センサの推定されるセンサデータ（推定値）を出力する関数である。 More specifically, machine learning is performed on teacher data (input / output pairs) in which sensor data values of sensors having the same sensing time are used as input data and output data in this case is used as sensor data of the target sensor. When sensor data (S1 (t), S2 (t), S3 (t), ..., Sn-1 (t)) 51 of the sensor group at time (t) is input, sensor data (Sn (t)) of the target sensor ) 52 generates a model (function) that can be estimated. That is, the model is a function that outputs sensor data (estimated value) estimated from the target sensor at the time when sensor data of the sensor group at a certain time is input.
モデル生成部１２は、同一時刻におけるセンサ群S１〜Sn-1のセンサデータ、および、対象センサSnのセンサデータを複数読み出し、Ｓ１３の処理を繰り返し行い、モデルを更新する。
The
本実施形態では、複数のセンサ４のセンサデータを、多次元相関分析技術、AutoEncoderなどの機械学習を用いて、相互の関連を分析・解析し、モデルを生成する。
In the present embodiment, the sensor data of the plurality of
多次元相関分析には、多変量解析、重回帰分析などが用いられる。多変量解析は、複数の変数に関するデータをもとにして、これらの変数間の相互関連を分析する統計的技法である。重回帰分析は、多変量解析の１つであって、回帰分析において独立変数が２つ以上のものである。 For multidimensional correlation analysis, multivariate analysis, multiple regression analysis, or the like is used. Multivariate analysis is a statistical technique that analyzes the correlation between variables based on data on multiple variables. The multiple regression analysis is one of multivariate analyses, and has two or more independent variables in the regression analysis.
AutoEncoderは、機械学習において、ニューラルネットワークを使用した次元圧縮のためのアルゴリズムである。 AutoEncoder is an algorithm for dimension compression using a neural network in machine learning.
本実施形態および以下に説明する全ての実施形態および変形例では、センサ毎に対応するモデルが生成される。すなわち、Sn用モデルの生成と同様に、「センサS1を対象センサとし、センサS2〜Snをセンサ群として、S2用モデルを生成する」、「センサS2を対象センサとし、センサS1,S3〜Snをセンサ群として、S3用モデルを生成する」など、全てのセンサS1〜Snのモデルを生成する。したがって、モデル記憶部１５には、各センサ用のモデルが格納される。
In this embodiment and all the embodiments and modifications described below, a model corresponding to each sensor is generated. That is, similarly to the generation of the Sn model, “generate the S2 model with the sensor S1 as the target sensor and the sensors S2 to Sn as the sensor group” and “the sensor S2 as the target sensor and the sensors S1, S3 to Sn. Generate a model for S3 using a sensor group as a sensor group, and generate models for all the sensors S1 to Sn. Therefore, the
なお、モデル生成装置１は、例えば、異常検知システムの稼働前など最初に、図４に示すモデル生成処理を行ってモデルを生成して異常検知装置２に送信し、異常検知装置２は最初に生成したモデルを使い続けてもよい。あるいは、モデル生成装置１は、所定のタイミングで各センサからセンサデータを収集してモデルを更新し、更新後のモデルを異常検知装置２に送信してもよい。
Note that the
所定のタイミングでのモデルの更新には、あらかじめパラメータとして期間を入力することで定期的にモデルを更新する場合、オペレータ（管理者）の指示等の何らかのトリガを契機にモデルを更新する場合が含まれる。 Updating the model at a predetermined timing includes updating the model periodically by inputting a period as a parameter in advance, or updating the model triggered by some trigger such as an operator (administrator) instruction It is.
所定のタイミングでモデルを更新することで、各センサのセンサデータ（対象センサとセンサ群との相関）が、時々刻々と時間ともに変化する場合であっても、推定精度の高いモデルを維持することができる。 Maintaining a model with high estimation accuracy even when the sensor data of each sensor (correlation between the target sensor and sensor group) changes with time by updating the model at a predetermined timing Can do.
図６は、異常検知装置２が行う異常検知処理を説明する図である。
FIG. 6 is a diagram for explaining an abnormality detection process performed by the
異常検知装置２の受信部２１は、各センサ４から送信されるセンサデータ、センサＩＤ、センシング時刻を受信し（Ｓ２１）、データ記憶部２４に記憶する（Ｓ２２）。そして、推定部２２は、同一のセンシング時刻における全てのセンサ４のセンサデータがデータ記憶部２４に格納されると、データ記憶部２４から当該時刻におけるセンサ群（推定元）のセンサデータを読み出し（Ｓ２３）、読み出したセンサデータをモデル記憶部２５に記憶された対象センサのモデルに入力して、対象センサのセンサデータの推定値を取得する（Ｓ２４）。
The
具体的には、図７に示すように、推定部２２は、例えば、センシング時刻tにおける対象センサSnの推定値７２を取得する場合は、センサ群のセンサデータ（S1(t), S2(t) , S3(t) , … , Sn-1(t)）７１をセンサSn用モデルに入力する。
Specifically, as illustrated in FIG. 7, for example, when the
そして、異常検知部２３は、同一のセンシング時刻の対象センサ（推定先）のセンサデータ（実測値）をデータ記憶部２４から読み出し（Ｓ２５）、Ｓ２４で取得した推定値と比較する（Ｓ２６）。異常検知部２３は、対象センサの推定値と実測値との差が、所定の閾値以上か否かを判定する（Ｓ２７）。
And the
具体的には、図７に示すように、異常検知部２３は、データ記憶部２４からセンシング時刻tにおける対象センサSnのセンサデータの実測値Sn(t)７３を読み出し、推定値Sn_eval(t)７２と実測値７３とを比較する。
Specifically, as illustrated in FIG. 7, the
所定の閾値以上の場合（Ｓ２７：ＹＥＳ）、異常検知部２３は、対象センサの異常を検知し（すなわち、対象センサに異常が発生した判別し）、センサ利用装置３に異常が発生したことを通知する（Ｓ２８）。
If it is equal to or greater than the predetermined threshold (S27: YES), the
推定値と実測値との差が所定の閾値以上の場合は、対象センサとセンサ群との間の相関が崩れた、または、相関がなくなったことを意味する。例えば、対象センサが故障した場合、改ざんされた場合、盗難された場合、すり替えられた場合などの異常時に、対象センサとセンサ群との間の相関が崩れる、または相関がなくなる。本実施形態では、対象センサとセンサ群との間の相関を示すモデルを用いて推定した対象センサの推定値と、対象データの実測値との差が乖離した場合に異常を検知することで、異常検知機能を持たないセンサの異常を、高精度に検知することができる。 If the difference between the estimated value and the actually measured value is equal to or greater than a predetermined threshold value, it means that the correlation between the target sensor and the sensor group is broken or no longer exists. For example, the correlation between the target sensor and the sensor group is broken or lost in the event of an abnormality such as when the target sensor breaks down, has been tampered with, has been stolen, or has been replaced. In the present embodiment, by detecting an abnormality when the difference between the estimated value of the target sensor estimated using the model indicating the correlation between the target sensor and the sensor group and the actual measurement value of the target data deviates, Abnormalities in sensors that do not have an abnormality detection function can be detected with high accuracy.
なお、本実施形態および以下に説明する全ての実施形態および変形例では、異常検知装置２のモデル記憶部２５には、各センサ用のモデルが格納される。そして、異常検知装置２は、対象センサとして、他の全てのセンサS1〜Sn-1についても同様に、対応するモデルを用いて推定値を取得し、推定値と実測値との差が所定の閾値の場合は異常を検知する。
In the present embodiment and all embodiments and modifications described below, models for each sensor are stored in the
そして、センサ利用装置３は、対象センサに異常が発生した旨のエラーメッセージを、ディスプレイなどの出力装置に出力する。なお、複数の対象センサにおいて、異常検知した場合、複数のエラーメッセージがセンサ利用装置３に出力される。エラーメッセージには、例えば、対象センサのセンサＩＤ、センシング時刻などが含まれる。
Then, the
以上説明した本実施形態では、モデル生成装置１は、同一時刻において複数のセンサ４がそれぞれ測定したセンサデータを用いて、モデルを生成する。異常検知装置２は、所定の時刻におけるセンサ群のセンサデータをモデルに入力し、所定の時刻における対象センサの推定値を取得し、対象センサの推定値と受信した所定の時刻における対象センサのセンサデータ（実測値）との差が所定の閾値以上の場合に対象センサの異常を検知する。
In the present embodiment described above, the
このように、本実施形態では、推定値と実測値との差が所定の閾値以上の場合に（すなわち、対象センサとセンサ群との間の相関が一定の割合まで崩れた場合に）異常を検知する。これにより、本願発明では、センサが故障した場合、あるいは、悪意を持った第三者がセンサを偽物にすり替える、センサデータを偽の値に改ざんする、盗むなどの不正行為を行った場合、容易にセンサの異常を検知することができる。 As described above, in this embodiment, when the difference between the estimated value and the actually measured value is equal to or larger than the predetermined threshold (that is, when the correlation between the target sensor and the sensor group collapses to a certain ratio), an abnormality is detected. Detect. As a result, in the present invention, if a sensor breaks down, or if a malicious third party replaces the sensor with a fake, alters the sensor data to a fake value, steals, etc., it is easy. It is possible to detect abnormality of the sensor.
なお、悪意を持った第三者が１つのセンサを偽物にすり替えたり、センサデータを偽の値に改ざんする場合、当該センサのセンサデータの連続性を考慮することは可能であるとしても、他の多数のセンサとの相関を維持しつつ、偽物にすり替えたり、センサデータの改ざんを行うことは極めて困難である。したがって、本実施形態では、高い精度で異常を検知することができるとともに、堅牢なセキュリティを確保することができる。 In addition, when a malicious third party replaces one sensor with a fake or alters sensor data to a fake value, it is possible to consider the continuity of the sensor data of the sensor. It is extremely difficult to replace the sensor data with a fake or to tamper with sensor data while maintaining the correlation with a large number of sensors. Therefore, in the present embodiment, an abnormality can be detected with high accuracy and robust security can be ensured.
また、本実施形態では、センサ自体が異常検知機能を実装することなく、センサの異常を検知することができる。すなわち、センサ自体が、高い処理能力を持たない場合であっても、異常を検知することができる。 In the present embodiment, the sensor itself can detect an abnormality of the sensor without implementing the abnormality detection function. That is, even when the sensor itself does not have a high processing capability, an abnormality can be detected.
＜第１の実施形態の変形例＞
第１の実施形態の変形例として、モデル生成装置１のモデル生成部１２は、センサ群のセンサデータからモデルの生成に用いるセンサを決定し、決定したセンサのセンサデータを用いてモデルを生成することとしてもよい。
<Modification of First Embodiment>
As a modification of the first embodiment, the
図８は、第１の実施形態の変形例におけるモデル生成処理に用いるセンサデータの一例を示す図である。本変形例では、センサ群のセンサデータから対象センサのセンサデータが推定可能なモデルを生成する際に、モデル生成部１２は、センサ群の全てのセンサデータを用いるのではなく、モデルの生成に使用するセンサを時刻毎にランダムに決定する。すなわち、モデル生成部１２は、モデルの生成に用いるセンサを一定の割合で排除する。図示する例では、時刻t-kにおいては、センサS1、S3等が排除され、残りのセンサがモデル生成に利用するセンサとして決定され、決定したセンサのセンサデータがセンサ群の教師データとしてモデルの生成に用いられる。
FIG. 8 is a diagram illustrating an example of sensor data used for model generation processing according to the modification of the first embodiment. In this modification, when generating a model that can estimate the sensor data of the target sensor from the sensor data of the sensor group, the
これにより、本変形例では、特定のセンサのセンサデータに過度に依存したモデルを生成してしまうことを回避し、センサの異常検知の精度をより高めることができる。 Thereby, in this modification, it can avoid producing | generating the model which depends too much on the sensor data of a specific sensor, and can raise the precision of sensor abnormality detection more.
なお、本変形例は、以下に説明する全ての実施形態および変形例において、適用することができる。 This modification can be applied to all the embodiments and modifications described below.
＜第２の実施形態＞
第２の実施形態は、モデルの生成および異常検知を行う際に、一定の時間幅においてセンシングされた時系列のセンサデータを用いる点において、第１の実施形態と異なり、その他については、第１の実施形態と同様である。本実施形態の構成については、第１の実施形態（図１〜図３）と同様であるため、ここでは説明を省略する。
<Second Embodiment>
The second embodiment differs from the first embodiment in that time-series sensor data sensed in a certain time width is used when generating a model and detecting an abnormality. This is the same as the embodiment. Since the configuration of this embodiment is the same as that of the first embodiment (FIGS. 1 to 3), description thereof is omitted here.
一定の時間幅は、モデルの生成処理および異常検知処理の際に使用する時間（時刻の範囲）である。以下に説明する本実施形態では、例えば、時刻t-kから時刻tまでの時間を、一定の時間幅として用いるものとする。 The certain time width is a time (time range) used in the model generation process and the abnormality detection process. In the present embodiment described below, for example, the time from time t-k to time t is used as a constant time width.
本実施形態では、モデル生成装置１は、一定の時間幅で時系列にセンシングされたセンサ群のセンサデータから、前記時間幅の中で最新の前記対象センサのセンサデータが推定可能な前記モデルを生成する。異常検知装置２の推定部２２は、受信部２１が受信した所定の時刻から前記時間幅分遡ったセンサ群の時系列に発生したセンサデータをモデルに入力し、対象センサの所定の時刻における推定値を取得し、異常検知部２３は、対象センサの推定値と、受信部２１が受信した対象センサの所定の時刻におけるセンサデータとの差が、所定の閾値以上の場合に対象センサの異常を検知する。
In the present embodiment, the
図９は、本実施形態のモデル生成装置１が行うモデル生成処理を説明する図である。 ここでは、第１の実施形態と異なるＳ１３について説明する。他の処理Ｓ１１、Ｓ１２、Ｓ１４については、第１の実施形態と同様であるため、説明を省略する。
FIG. 9 is a diagram illustrating model generation processing performed by the
Ｓ１３において、モデル生成部１２は、データ記憶部１４から、一定の時間幅で同じ時間（複数の同じ時刻）にセンシングされた時系列のセンサデータを、複数のセンサ４の全てについて読み出し、読み出した時系列のセンサデータを用いてモデルを生成および更新し、モデル記憶部１５に記憶する。
In S <b> 13, the
図１０は、本実施形態のモデル生成処理で用いるセンサデータの一例を示す図である。図示する例では、ｎ個のセンサのうち、センサSnを対象センサとし、センサS１〜Sn-1をセンサ群とする。そして、モデル生成部１２は、一定の時間幅で時系列にセンシングされたセンサ群S１〜Sn-1のセンサデータから、前記時間幅の中で最新の対象センサSnのセンサデータが推定可能なモデル（Sn用モデル）を生成する。
FIG. 10 is a diagram illustrating an example of sensor data used in the model generation process of the present embodiment. In the illustrated example, among n sensors, the sensor Sn is a target sensor and the sensors S1 to Sn-1 are sensor groups. And the model production |
具体的には、モデル生成部１２は、図１０に示すように、一定の時間幅（t-k〜t）で時系列にセンシングされたセンサデータ１０１と、前記時間幅の中で最新の対象センサSnのセンサデータ１０２とを教師データとして、モデルを生成する。また、モデル生成部１２は、前記時間幅を時間方向にずらした、次の一定の時間幅（t-k+1〜t+1）で時系列にセンシングされたセンサデータ１０３と、前記時間幅の中で最新の対象センサSnのセンサデータ１０４とを教師データとしてモデルを更新する。このように、モデル生成部１２は、一定の時間幅で時系列にセンシングされたセンサ群のセンサデータと、前記時間幅の中で最新の対象センサデータとを、時間方向にずらして複数読み出し、Ｓ１３の処理を繰り返し行い、モデルを更新する。
Specifically, as illustrated in FIG. 10, the
なお、一定の時間幅は、センサの種類毎に異なる時間幅を設定することとしてもよい。 The fixed time width may be set to a different time width for each type of sensor.
本実施形態では、センサ群の一定の時間幅の時系列に発生したセンサデータと、対象センサの前記時間幅の最新のセンサデータとの相関を分析することでモデルを生成する。本実施形態では、一定の時間幅の過去のセンサデータを含めて相関を分析することで、より高い精度で対象センサのセンサデータが推定可能な精緻なモデルを生成することができる。 In the present embodiment, a model is generated by analyzing the correlation between sensor data generated in a time series of a certain time width of the sensor group and the latest sensor data of the time width of the target sensor. In the present embodiment, by analyzing the correlation including past sensor data of a certain time width, it is possible to generate a precise model that can estimate the sensor data of the target sensor with higher accuracy.
また、図１０に示す例では、センサ群の一定の時間幅の全てのセンサデータ１０１、１０２を用いてモデルを生成することとしたが、一定の時間幅のうちの一部の時間幅のセンサデータを用いてモデルを生成することとしてもよい。
In the example illustrated in FIG. 10, the model is generated using all the
なお、本実施形態では、第１の実施形態と同様にセンサ毎に対応するモデルが生成され、モデル記憶部２５には各センサ用のモデルが格納される。
In the present embodiment, a model corresponding to each sensor is generated as in the first embodiment, and a model for each sensor is stored in the
図１１は、異常検知装置２が行う異常検知処理を説明する説明図である。ここでは、第１の実施形態と異なるＳ２３〜Ｓ２６について説明する。他の処理Ｓ２１、Ｓ２２、Ｓ２７〜Ｓ２８については、第１の実施形態と同様であるため、説明を省略する。
FIG. 11 is an explanatory diagram for explaining an abnormality detection process performed by the
Ｓ２３において、推定部２２は、所定の時刻（例えば、現時点）から一定の時間幅分遡った全てのセンサ４のセンサデータがデータ記憶部２４に格納されると、データ記憶部２４から当該時間幅におけるセンサ群（推定元）の時系列に発生したセンサデータを読み出す。そして、推定部２２は、読み出したセンサデータをモデル記憶部２５に記憶された対象センサのモデルに入力して、対象センサの所定の時刻における推定値を取得する（Ｓ２４）。
In S23, when the sensor data of all the
具体的には、図１２に示すように、推定部２２は、時刻tにおける対象センサSnの推定値７２を取得する場合は、時刻tから一定の時間幅分遡ったセンサ群のセンサデータ１２１をセンサSn用モデルに入力し、対象センサの時刻tにおける推定値を取得する。
Specifically, as illustrated in FIG. 12, when the
そして、異常検知部２３は、対象センサ（推定元）の所定の時刻のセンサデータ（実測値）をデータ記憶部２４から読み出し（Ｓ２５）、Ｓ２４で取得した推定値と比較する（Ｓ２６）。
Then, the
具体的には、図１２に示すように、異常検知部２３は、データ記憶部２４から所定の時刻tにおける対象センサSnのセンサデータの実測値Sn(t)１２３を読み出し、推定値Sn_eval(t)１２２と実測値１２３とを比較する。
Specifically, as illustrated in FIG. 12, the
なお、本実施形態では、第１の実施形態と同様に、センサ毎に推定値を取得し、実測値との比較を行うことで異常検知を行う。 In the present embodiment, as in the first embodiment, an abnormal value is detected by acquiring an estimated value for each sensor and comparing it with an actually measured value.
以上説明した本実施形態では、センサ群の一定の時間幅の時系列に発生したセンサデータと、対象センサの前記時間幅の最新のセンサデータとの相関を分析することでモデルを生成する。したがって、本実施形態では、一定の時間幅の過去のセンサデータを含めて相関を分析することで、より高い精度で対象センサのセンサデータが推定可能な精緻なモデルを生成することができる。 In the present embodiment described above, a model is generated by analyzing the correlation between sensor data generated in a time series of a certain time width of the sensor group and the latest sensor data of the time width of the target sensor. Therefore, in the present embodiment, by analyzing the correlation including past sensor data of a certain time width, it is possible to generate a precise model that can estimate the sensor data of the target sensor with higher accuracy.
なお、本実施形態は、以下に説明する全ての実施形態および変形例において、適用することができる。 This embodiment can be applied to all the embodiments and modifications described below.
＜第２の実施形態の変形例＞
第２の実施形態の変形例として、モデル生成装置１は、過去のセンサ群の一定時間幅の時系列のセンサデータから、所定の時間経過後（将来、未来）の対象センサのセンサデータの推定が可能なモデルを生成することとしてもよい。
<Modification of Second Embodiment>
As a modification of the second embodiment, the
本変形例では、モデル生成装置１のモデル生成部１２は、一定の時間幅で時系列にセンシングされたセンサ群のセンサデータから、前記時間幅から所定の時間経過後の対象センサのセンサデータが推定可能な前記モデルを生成する。異常検知装置２の推定部２２は、受信部２１が受信した、所定の時刻から前記時間幅分遡ったセンサ群の時系列に発生したセンサデータをモデルに入力し、対象センサの所定の時刻から所定の時間経過後の推定値を取得する。異常検知部２３は、対象センサの推定値と、受信部２１が受信した対象センサの所定の時刻から所定の時間経過後のセンサデータとの差が、所定の閾値以上の場合に対象センサの異常を検知する。
In the present modification, the
図１３は、本変形例のモデル生成処理で用いるセンサデータの一例を示す図である。 図示する例では、一定の時間幅（t-k〜t）で時系列にセンシングされたセンサデータ１３１と、前記時間幅から所定の時間経過後（t+α）の対象センサSnのセンサデータ１３２とを教師データとして、モデルを生成する。また、モデル生成部１２は、前記時間幅を時間方向にずらした、次の一定の時間幅（t-k+1〜t+1）で時系列にセンシングされたセンサデータ１３３と、前記時間幅から所定の時間経過後（t+1+α）の対象センサSnのセンサデータ１３４とを教師データとしてモデルを更新する。このように、モデル生成部１２は、一定の時間幅で時系列にセンシングされたセンサ群のセンサデータと、前記時間幅から所定の時間経過後の近い将来の対象センサのセンサデータとを、時間方向にずらして順次読み出し、Ｓ１３の処理を繰り返し行い、モデルを更新する。
FIG. 13 is a diagram illustrating an example of sensor data used in the model generation process of the present modification. In the example shown in the figure,
なお、所定の時間（α）は、サービス要件またはセンサの種類に応じて設定することとしてもよい。所定の時間（α）を大きくすると、一般的に推定精度は低くなるが、より離れた将来の予測が可能となる。一方、所定の時間（α）を小さくすると、一般的に推定精度は高くなるが、近い将来の予測しかできない。また、このαの最適解は適用対象システムの特性に依存するため、適用対象システム及びサービス要件（どの程度将来の値を予測したいか）に従い定めるものとする。 The predetermined time (α) may be set according to service requirements or the type of sensor. If the predetermined time (α) is increased, the estimation accuracy is generally lowered, but a further future prediction becomes possible. On the other hand, if the predetermined time (α) is reduced, the estimation accuracy is generally increased, but only prediction in the near future can be performed. Since the optimal solution of α depends on the characteristics of the application target system, it is determined according to the application target system and service requirements (how much future values are expected to be predicted).
図１４は、本変形例の異常検知処理で用いるセンサデータの一例を示す図である。本変形例では、図１１のＳ２３において、推定部２２は、一定の時間幅の全てのセンサのセンサデータがデータ記憶部２４に格納されると、データ記憶部２４から当該時間幅におけるセンサ群（推定元）のセンサデータを読み出す。そして、推定部２２は、読み出したセンサデータをモデル記憶部２５に記憶された対象センサのモデルに入力して、対象センサの所定の時間経過後の推定値を取得する（Ｓ２４）。
FIG. 14 is a diagram illustrating an example of sensor data used in the abnormality detection process of the present modification. In this modification, when the sensor data of all sensors having a certain time width is stored in the
具体的には、図１４に示すように、推定部２２は、時刻t+αにおける対象センサSnの推定値Sn_eval(t+α)１４２を取得する場合、時刻t+αから所定の時間遡った、センサ群の一定時間幅（t-k〜t）のセンサデータ１４１をセンサSn用モデルに入力する。
Specifically, as illustrated in FIG. 14, when the
そして、異常検知部２３は、所定の時刻(t+α)の対象センサSnのセンサデータ（実測値）がデータ記憶部２４に記憶されると、当該センサデータ（実測値）を読み出し（Ｓ２５）、Ｓ２４で取得した推定値と比較し（Ｓ２６）、対象センサの推定値とセンサデータ（実測値）との差が、所定の閾値以上か否かを判定する（Ｓ２７）。
Then, when the sensor data (actual measurement value) of the target sensor Sn at the predetermined time (t + α) is stored in the
本変形例では、センサ群の過去の一定時間幅の時系列に発生したセンサデータと、対象センサの前記一定時間幅から所定の時間経過後のセンサデータとの相関を分析し、モデルを生成する。これにより、センサ群のセンサデータと対象センサのセンサデータとの相関が、時間的にずれる場合であっても、より高い精度で対象センサのセンサデータが推定可能な精緻なモデルを生成することができる。 In the present modification, a model is generated by analyzing the correlation between sensor data generated in a time series of a certain time width in the past of the sensor group and sensor data after a predetermined time has elapsed from the certain time width of the target sensor. . Thereby, even if the correlation between the sensor data of the sensor group and the sensor data of the target sensor is shifted in time, it is possible to generate a precise model that can estimate the sensor data of the target sensor with higher accuracy. it can.
また、本変形例では、時間的な遅れを踏まえたセンサ群と対象センサとの相関がモデル化される。これにより、対象センサのある時刻におけるセンサデータが、センサ群のある時刻より前の過去のセンサデータと相関を有する場合、本変形例で生成したモデルを用いることで、センサ群のセンサデータから近い将来の対象センサのセンサデータを予測可能である。したがって、本変形例のモデルを用いることで、近い将来の異常の発生を予見することができる。 In this modification, the correlation between the sensor group and the target sensor based on the time delay is modeled. As a result, when sensor data at a certain time of the target sensor has a correlation with past sensor data before a certain time of the sensor group, the model generated in the present modification example is used to approximate the sensor data of the sensor group. Sensor data of future target sensors can be predicted. Therefore, by using the model of this modification, it is possible to foresee the occurrence of abnormalities in the near future.
なお、本変形例は、以下に説明する全ての実施形態および変形例において、適用することができる。 This modification can be applied to all the embodiments and modifications described below.
＜第３の実施形態＞
図１５は、本発明の第３の実施形態における異常検知システムの構成を示す構成図である。図示する異常検知システムは、複数のセンサ４の付近に構築された内部ネットワークと、複数のセンサ４と離れた場所に構築される外部ネットワーク（いわゆる、クラウド）の２つのネットワークを備える。外部ネットワークは、例えば、専用線、ＶＰＮなどを介して、内部ネットワークと接続されている。
<Third Embodiment>
FIG. 15 is a configuration diagram showing the configuration of the abnormality detection system in the third embodiment of the present invention. The illustrated anomaly detection system includes two networks: an internal network constructed in the vicinity of the plurality of
図示する例では、複数のセンサ４が配置される工場などの施設において、内部ネットワークを介して、複数のセンサ４と、異常検知装置２と、モデル生成装置１とが接続される。一方、センサ利用装置３は、外部ネットワークに接続されている。センサ利用装置３は、例えばクラウドサーバとして、センサ４が配置されている施設とは離れた場所に設置される。
In the illustrated example, in a facility such as a factory where a plurality of
本実施形態では、異常検知装置２は、複数のセンサ４の付近に配置する。異常検知装置２の受信部２１は、内部ネットワークを介して、付近に設置された複数のセンサ４からセンサデータを受信し、異常検知部２３は、センサ４の異常を検知した場合、外部ネットワークを介して、離れた場所に配置されたセンサ利用装置３に異常を通知する。
In the present embodiment, the
センサデータは、大量かつ高頻度に発生する可能性が高い。例えば、工場の機械に設置されたセンサ４では、非常に短い間隔でセンサデータが出力されるため、異常検知装置２を、センサ４と離れた場所に配置する場合、多数のセンサ４から時々刻々と発生する大量のセンサデータを、遠隔地の異常検知装置２に送信する必要があるため、大容量のネットワーク帯域が必要となり、また、ネットワーク遅延が発生し、迅速な異常検知を実現できないという問題がある。
Sensor data is likely to occur in large quantities and with high frequency. For example, in the
これに対し、本実施形態では、大量のセンサデータを、センサ４の付近に設置された異常検知装置２で処理して異常を検知し、検知結果だけを遠隔地のセンサ利用装置３に送信することで、ネットワーク帯域に負荷を与えることなく、低遅延での処理が可能であり、異常の検知および予測を即座に行うことができる。
In contrast, in this embodiment, a large amount of sensor data is processed by the
また、異常検知装置２は、異常を検知した場合に異常の検知結果のみをセンサ利用装置３に送信するため、内部ネットワークと外部ネットワークとを接続するネットワークは、狭い伝送帯域でよい。
Moreover, since the
なお、本実施形態は、前述の全ての実施形態（変形例を含む）、および、以下に説明する全ての実施形態（変形例を含む）において、適用することができる。 This embodiment can be applied to all the above-described embodiments (including modifications) and all the embodiments described below (including modifications).
＜第４の実施形態＞
図１６は、本発明の第４の実施形態における異常検知システムの構成を示す構成図である。図示する異常検知システムは、ネットワーク切断装置５およびデータ処理装置６を備える点において、第３の実施形態の異常検知システムと異なる。
<Fourth Embodiment>
FIG. 16 is a configuration diagram showing the configuration of the abnormality detection system in the fourth embodiment of the present invention. The illustrated abnormality detection system is different from the abnormality detection system of the third embodiment in that it includes a network disconnection device 5 and a
ネットワーク切断装置５は、異常検知装置２からの指示に応じて、指示されたセンサ４を内部ネットワークから切り離す。本実施形態の異常検知装置２の異常検知部２３は、センサ４の異常を検知した場合、当該センサ４をネットワークから切り離す制御を行う。
The network disconnection device 5 disconnects the instructed
データ処理装置６は、複数のセンサ４からセンサデータを収集し、収集したセンサデータを用いて、例えばセンシング対象機器の制御などの様々なサービスを提供する。図示する例では、データ処理装置６は、内部ネットワークに接続され、複数のセンサ４の付近に配置されている。なお、本実施形態のデータ処理装置６は、第１の実施形態のセンサ利用装置３の機能を分割したものである。
The
図１７は、本実施形態の異常検知処理を説明する説明図である。図１７に示すＳ２１からＳ２８は、上述したいずれかの実施形態と同様であるため、ここでは説明を省略する。 FIG. 17 is an explanatory diagram illustrating the abnormality detection process of the present embodiment. Since S21 to S28 shown in FIG. 17 are the same as in any of the above-described embodiments, description thereof is omitted here.
異常検知部２３は、異常を検知した場合、センサ利用装置３に異常が発生したことを通知するとともに（Ｓ２８）、ネットワーク切断装置５に異常を検知したセンサ４を内部ネットワークから切断するため切断指示を送信する（Ｓ２９）。
When detecting an abnormality, the
ネットワーク切断装置５は、切断指示を介して受信すると、切断指示で指定されたセンサ４を内部ネットワークから切り離す。
When receiving the network disconnection device 5 via the disconnection instruction, the network disconnection device 5 disconnects the
なお、図示する例では、ネットワーク切断装置５は、内部ネットワークと複数のセンサ４との間に設置されているが、内部ネットワークと外部ネットワークとの間に設置し、内部ネットワークと外部ネットワークとの間のネットワークを切断することとしてもよい。ネットワーク切断装置５の設置場所は、サービス要件に応じて、適宜変更することができる。
In the illustrated example, the network disconnecting device 5 is installed between the internal network and the plurality of
なお、本実施形態では、複数のセンサ４から出力される大量のセンサデータは、異常検知装置２だけではなく、内部ネットワークを介してデータ処理装置６にも送信されるものとする。
In the present embodiment, a large amount of sensor data output from the plurality of
本実施形態では、センサ４に異常が発生した場合、当該センサ４を自動的にネットワークから切り離すことで、不適切なセンサデータ（異常値）がデータ処理装置６に入力され、データ処理装置６による不適切なサービスが行われてしまうことを防止することができる。
In this embodiment, when an abnormality occurs in the
なお、内部ネットワークおよび外部ネットワークを接続するネットワークに広い伝送帯域を用いる場合は、データ処理装置６を外部ネットワークに接続する、または、データ処理装置６の機能をセンサ利用装置３に統合することとしてもよい。
When a wide transmission band is used for the network connecting the internal network and the external network, the
なお、本実施形態は、前述の全ての実施形態（変形例を含む）、および、以下に説明する全ての実施形態（変形例を含む）において、適用することができる。 This embodiment can be applied to all the above-described embodiments (including modifications) and all the embodiments described below (including modifications).
＜第４の実施形態の変形例＞
第４の実施形態の変形例として、異常検知装置２の推定部２２は、異常検知部２３が対象センサの異常を検知した場合、推定値を対象センサのセンサデータとして、データ処理装置６（外部装置）に送信することとしてもよい。
<Modification of Fourth Embodiment>
As a modification of the fourth embodiment, the
図１８は、第４の実施形態の変形例における異常検知処理の一例を示す図である。図１８に示すＳ２１からＳ２９は、第４の実施形態（図１７）と同様であるためここでは説明を省略する。 FIG. 18 is a diagram illustrating an example of an abnormality detection process in a modification of the fourth embodiment. Since S21 to S29 shown in FIG. 18 are the same as those in the fourth embodiment (FIG. 17), description thereof is omitted here.
Ｓ２９で異常検知部２３がネットワークを切断後、推定部２２は、Ｓ２４において推定した対象センサの推定値を、対象センサのセンサデータとして、データ処理装置６に送信する（Ｓ３０）。
After the
これにより、本変形例では、あるセンサに異常が発生した場合であっても、他のセンサ群のセンサデータから推定した推定値を、異常が発生したセンサのセンサデータとして代用することにより、センサデータを用いた様々な制御およびサービスが停止することを回避することができる。すなわち、センサデータの欠落が許容されない場合に、センサデータを用いるサービスが停止してしまうという不具合を回避することができる。 As a result, in this modification, even if an abnormality occurs in a certain sensor, the estimated value estimated from the sensor data of another sensor group is used as the sensor data of the sensor in which the abnormality has occurred. It is possible to avoid stopping various controls and services using data. That is, it is possible to avoid a problem that a service using sensor data is stopped when missing of sensor data is not allowed.
また、Ｓ３０において、推定部２２は、推定値とともに、推定値がどの程度の確からしさを持って推定されたかを示す信頼度（確度）を、データ処理装置６に送信することとしてもよい。なお、多次元相関分析技術、AutoEncoderなどの機械学習によるモデルを用いて推定値を算出する過程において、信頼度も併せて算出される。データ処理装置６がセンサデータを処理する際に、補助情報として信頼度を用いることとしてもよい。また、データ処理装置６は、信頼度に応じて処理を変えてもよい。
In S <b> 30, the
なお、本変形例は、前述の全ての実施形態（変形例を含む）、および、以下に説明する全ての実施形態（変形例を含む）において、適用することができる。 This modification can be applied to all the above-described embodiments (including modifications) and all the embodiments described below (including modifications).
＜第５の実施形態＞
図１９は、本発明の第５の実施形態における異常検知システムの構成を示す構成図である。本実施形態のモデル生成装置１は、複数のセンサ４から送信されるセンサデータを用いて、モデル記憶部１５に記憶されたモデルを更新し、更新後のモデルをモデル保管装置７に送信する。
<Fifth Embodiment>
FIG. 19 is a configuration diagram showing the configuration of the abnormality detection system in the fifth embodiment of the present invention. The
図示する異常検知システムは、外部ネットワークにモデル保管装置７を備える点において、第３の実施形態の異常検知システム（図１５）と異なる。
The illustrated abnormality detection system is different from the abnormality detection system of the third embodiment (FIG. 15) in that the
モデル保管装置７は、外部ネットワークに接続される装置であって、モデル生成装置１が生成・更新したモデルを保存する。本実施形態のモデル生成装置１は、複数のセンサ４から送信されるセンサデータを用いて、モデルを更新し、更新後のモデルをモデル保管装置７に送信する。
The
図２０は、本実施形態のモデル生成装置１が行うモデル生成処理を説明する説明図である。本実施形態では、モデル生成装置１は、複数のセンサ４からセンサデータを受信する度に（Ｓ１１）、データ記憶部１４に記憶し（Ｓ１２）、モデル記憶部２５に記憶されたモデルを更新する処理（Ｓ１３）を繰り返し行う。そして、モデル生成装置１のモデル送信部１３は、モデル記憶部１５に記憶された学習済みのモデルを、定期的に、外部ネットワークを介してモデル保管装置７に送信する（Ｓ１４）。モデル保管装置７は、モデル生成装置１から送信されたモデル受信し、メモリまたはディスクなどのモデル保管部に格納する（Ｓ１５）。
FIG. 20 is an explanatory diagram illustrating model generation processing performed by the
本実施形態では、学習済みのモデルを、外部ネットワークに接続されたモデル保管装置７に送信し、保管することで、故障などによりモデル生成装置１のモデル記憶部１５、または異常検知装置２のモデル記憶部２５に記憶されたモデルが消失した場合に、モデル保管装置７から消失したモデルを迅速に復旧することができる。
In the present embodiment, the learned model is transmitted to the
また、本実施形態と類似するセンサを用いて、別の場所で新たな異常検知システムを開発する場合において、モデル保管装置７に保管された学習済みのモデルを用いて、モデルの学習を開始することができる。これにより、モデル生成処理を簡略化し、短縮することができる。
In addition, when a new abnormality detection system is developed in another place using a sensor similar to the present embodiment, learning of a model is started using a learned model stored in the
また、異常検知装置２は、モデル保管装置７に記憶された複数の異常検知システムのモデルの中から最適なモデルを選択して取得し、取得したモデルをモデル記憶部２５に格納して異常検知を用いることとしてもよい。
Further, the
なお、本実施形態は、前述の全ての実施形態（変形例を含む）、および、以下に説明する全ての実施形態（変形例を含む）において、適用することができる。 This embodiment can be applied to all the above-described embodiments (including modifications) and all the embodiments described below (including modifications).
＜第６の実施形態＞
本発明の第６の実施形態は、異常を分類するための分類モデルを生成し、異常を検知した場合に、異常の種別を判別する。
<Sixth Embodiment>
The sixth embodiment of the present invention generates a classification model for classifying an abnormality, and determines the type of abnormality when detecting the abnormality.
すなわち、本実施形態のモデル生成装置１は、過去の異常時における複数のセンサ４のセンサデータを用いて、異常のパターン（種別）を特定する分類モデルを生成する。また、本実施形態の異常検知装置２は、対象センサの異常を検知した場合、異常検知時点から所定の時間遡ったセンサ群の時系列に発生したセンサデータおよび対象センサの時系列に発生したセンサデータを分類モデルに入力し、異常のパターンを取得する。
That is, the
図２１は、本実施形態のモデル生成装置１が行う分類モデルの生成処理を示す図である。モデル生成装置１の受信部１１は、過去に発生した異常時のセンサデータを、異常のパターン（種別）毎に入力し（Ｓ３１）、データ記憶部１４に記憶する（Ｓ３２）。異常のパターンとしては、例えば、センサの故障、センサの盗難、センサのすり替え、センサデータの改ざんなどがある。
FIG. 21 is a diagram illustrating classification model generation processing performed by the
図２２は、対象センサSnにおいて、異常パターン１の異常が過去に複数（ｎ）回発生した際の時系列に発生したセンサデータの一例を示す図である。本実施形態では、対象センサSnで異常が発生するまでの所定の時間の時系列なセンサ群および対象センサのセンサデータ２２１、２２２が、教師データとしてモデル生成装置１に入力される。
FIG. 22 is a diagram illustrating an example of sensor data generated in time series when the abnormality of the
モデル生成部１２は、異常のパターン毎に、センサ群のセンサデータ２２１および対象センサのセンサデータ２２２の相関の崩れの傾向を学習して分類モデルを生成し、モデル記憶部１５に分類モデルを記憶する（Ｓ３３）。すなわち、モデル生成部１２は、異常が検知された場合に、異常が検知された時点から所定の時間遡ったセンサ群および対象センサのセンサデータを入力すると、異常のパターンを判別する分類モデルを生成する。
For each abnormal pattern, the
図２３は、本実施形態における異常検知装置２が行う異常検知処理を示す説明図である。なお、本実施形態の異常検知装置２のモデル記憶部２５には、センサ毎の推定値を取得するためのモデルと、センサ毎の異常のパターンを判別するための分類モデルとが記憶されている。
FIG. 23 is an explanatory diagram illustrating an abnormality detection process performed by the
図示するＳ２１からＳ２７は、上述した実施形態のいずれかの処理と同様である。Ｓ２７において、対象センサの異常を検知した場合、異常検知部２３は、モデル記憶部２５から当該対象センサ用の分類モデルに、異常検知時点から所定の時間遡った時間幅のセンサ群のセンサデータおよび対象センサのセンサデータを分類モデルに入力して、異常パターンを判定する（Ｓ２８）。そして、異常検知部２３は、対象センサに異常が発生したこと、および、異常パターンをセンサ利用装置３に送信する（Ｓ２９）。
S21 to S27 shown in the figure are the same as those in any of the above-described embodiments. In S27, when the abnormality of the target sensor is detected, the
本実施形態では、異常を検知したことを通知するだけでなく、異常パターンを含めて通知することで、異常のパターンに応じた復旧作業を迅速に行うことができる。 In the present embodiment, not only that an abnormality has been detected, but also that an abnormality pattern is included, so that a recovery operation according to the abnormality pattern can be quickly performed.
なお、本実施形態は、前述の全ての実施形態（変形例を含む）、および、以下に説明する全ての実施形態（変形例を含む）において、適用することができる。 This embodiment can be applied to all the above-described embodiments (including modifications) and all the embodiments described below (including modifications).
＜第７の実施形態＞
本発明の第７の実施形態は、複数のセンサが地理的近傍に配置されている場合に、位置情報（空間情報）を用いて畳み込みニューラルネットワーク（Convolutional Neural Network、以下「CNN」）を適用し、モデルを生成する。
<Seventh Embodiment>
The seventh embodiment of the present invention applies a convolutional neural network (hereinafter referred to as “CNN”) using position information (spatial information) when a plurality of sensors are arranged in the geographical vicinity. Generate a model.
ＣＮＮは、Deep Learning技術の１つであり、畳み込みとプーリングの処理を複数回繰り返し行い、特徴量を自動で取得するニューラルネットワークである。ＣＮＮについては、以下に記載されている。 CNN is one of the deep learning technologies, and is a neural network that automatically performs a convolution and pooling process a plurality of times and automatically acquires feature amounts. CNN is described below.
文献「人間の「動作」を理解する新しい人工知能(AI)「時系列Deep Learning」を開発、8割強の精度で識別に成功」、NTTコミュニケーションズ株式会社、2015年10月7日、［online］、［平成28年4月25日検索］、＜URL: http://www.ntt.com/about-us/press-releases/news/article/2015/20151007_4.html＞ Document “Development of new artificial intelligence (AI)“ Time Series Deep Learning ”to understand human“ movement ”, succeeded in identification with an accuracy of more than 80%”, NTT Communications Corporation, October 7, 2015, [online ], [April 25, 2016 search], <URL: http://www.ntt.com/about-us/press-releases/news/article/2015/20151007_4.html>
図２４から図２６は、本実施形態におけるＣＮＮを説明するための説明図である。図２４は、ある空間に配置された複数のセンサ４を示している。図２５は、センサ(1)の種類Vと、時系列に発生したセンサデータとを示している。本実施形態のモデル生成装置１および異常検知装置２は、各センサの３次元の位置情報（W, D, H）と、センサ種別(V)とを管理しているものとする。
24 to 26 are explanatory diagrams for explaining the CNN in the present embodiment. FIG. 24 shows a plurality of
図２６は畳み込みのイメージを示すものである。本実施形態のモデル生成装置１は、モデルを生成する際に、センサの配置されている３次元の位置情報（W, D, H）と、センサ種類（v）と、時間情報（T）との５次元の情報の畳み込みを、ＣＮＮで実施し、モデルを生成する。これにより、これまで見えていなかった空間と時間経過における特徴点を引き出すことが可能となる。
FIG. 26 shows an image of convolution. When generating a model, the
なお、図２６では、センサ種別を含めた５次元の情報の畳み込みを行うが、同一種類のセンサのみが配置されている場合は、位置情報（W, D, H）と、時間情報（T）との４次元の情報の畳み込みをＣＮＮで実施し、モデルを生成することとしてもよい。 In FIG. 26, convolution of five-dimensional information including the sensor type is performed. When only the same type of sensor is arranged, position information (W, D, H) and time information (T) The four-dimensional information may be convolved with the CNN to generate a model.
図２７は、本実施形態のモデル生成装置１が行うモデル生成処理を説明する説明図である。本実施形態のモデル生成装置１は、各センサ４の３次元の位置情報およびセンサ種別を記憶する位置／種別記憶部１６を備える。
FIG. 27 is an explanatory diagram illustrating model generation processing performed by the
図２７のＳ１１、Ｓ１２、Ｓ１４は、上述したいずれかの実施形態（変形例を含む）と同様であるため、ここでは説明を省略する。図２７のＳ１３において、モデル生成部１２は、データ記憶部１４から各センサ４のセンサデータと読み出すとともに、位置／種別記憶部２６から各センサ４の位置情報およびセンサ種別を読み出す。そして、モデル生成部１２は、読み出したセンサデータ、位置情報およびセンサ種別を用いて、ＣＮＮを適用し、モデルを生成および更新し、モデル記憶部１５に記憶する。
Since S11, S12, and S14 in FIG. 27 are the same as in any of the above-described embodiments (including modifications), description thereof is omitted here. In S13 of FIG. 27, the
図２８は、本実施形態の異常検知装置２が行う異常検知処理を説明する説明図である。本実施形態の異常検知装置２は、各センサ４の３次元の位置情報およびセンサ種別を記憶する位置／種別記憶部２６を備える。
FIG. 28 is an explanatory diagram illustrating an abnormality detection process performed by the
図２８のＳ２１〜Ｓ２３、Ｓ２５〜Ｓ２８は、上述したいずれかの実施形態（変形例を含む）と同様であるため、ここでは説明を省略する。図２８のＳ２３において、推定部２２は、モデル記憶部２５から対象センサのモデルに、センサ群のセンサデータを入力するとともに、位置／種別記憶部２６から読み出したセンサ群の位置情報およびセンサ種別を入力し、対象センサの推定値を取得する。
Since S21 to S23 and S25 to S28 in FIG. 28 are the same as in any of the above-described embodiments (including modifications), description thereof is omitted here. In S23 of FIG. 28, the
本実施形態では、各センサの３次元の位置情報を用いたＣＮＮを適用してモデルを生成することで、センサ同士の地理的近接性を考慮した高精度なモデルを生成することができる。すなわち、本実施形態では、推定値の精度を向上し、センサの異常を高精度で検知することができる。 In the present embodiment, by generating a model by applying CNN using the three-dimensional position information of each sensor, it is possible to generate a highly accurate model that takes into account the geographical proximity between the sensors. That is, in the present embodiment, it is possible to improve the accuracy of the estimated value and detect a sensor abnormality with high accuracy.
本実施形態は、前述の全ての実施形態（変形例を含む）、および、以下に説明する全ての実施形態（変形例を含む）において、適用することができる。 This embodiment can be applied to all the above-described embodiments (including modifications) and all the embodiments described below (including modifications).
本発明は上記の実施形態に限定されるものではなく、その要旨の範囲内で数々の変形が可能である。例えば、上記第１〜第７の実施形態（変形例を含む）のいずれかを、任意に組み合わせることができる。 The present invention is not limited to the above-described embodiment, and various modifications are possible within the scope of the gist. For example, any of the first to seventh embodiments (including modifications) can be arbitrarily combined.
１ ：モデル生成装置
１１：受信部
１２：モデル生成部
１３：モデル送信部
１４：データ記憶部
１５：モデル記憶部
１６：位置／種別記憶部
２ ：異常検知装置
２１：受信部
２２：推定部
２３：異常検知部
２４：データ記憶部
２５：モデル記憶部
２６：位置／種別記憶部
３ ：センサ利用装置
４ ：センサ
５ ：ネットワーク切断装置
６ ：データ処理装置
1: Model generation device 11: Reception unit 12: Model generation unit 13: Model transmission unit 14: Data storage unit 15: Model storage unit 16: Location / type storage unit 2: Abnormality detection device 21: Reception unit 22: Estimation unit 23 : Anomaly detection unit 24: Data storage unit 25: Model storage unit 26: Position / type storage unit 3: Sensor utilization device 4: Sensor 5: Network disconnection device 6: Data processing device
Claims (17)
前記モデル生成装置は、複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータを推定可能なモデルを生成し、
前記異常検知装置は、
前記複数のセンサから、センサデータを受信する受信部と、
前記モデルに、前記受信部が受信した前記センサ群のセンサデータを入力し、前記対象センサのセンサデータの推定値を取得する推定部と、
前記対象センサの推定値と、前記受信部が受信した前記対象センサのセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知する異常検知部と、を備えること
を特徴とする異常検知システム。 An anomaly detection system comprising a model generation device and an anomaly detection device,
The model generation device divides a plurality of sensors into a target sensor and a sensor group other than the target sensor, analyzes a correlation between sensor data of the sensor group and sensor data of the target sensor, and Generating a model capable of estimating the sensor data of the target sensor from the sensor data;
The abnormality detection device is:
A receiving unit that receives sensor data from the plurality of sensors;
An estimation unit that inputs sensor data of the sensor group received by the reception unit to the model and obtains an estimated value of sensor data of the target sensor;
An abnormality detection unit that detects an abnormality of the target sensor when a difference between the estimated value of the target sensor and sensor data of the target sensor received by the reception unit is equal to or greater than a predetermined threshold. Anomaly detection system.
前記モデル生成装置は、同一時刻において前記複数のセンサがそれぞれ測定したセンサデータを用いて、前記モデルを生成し、
前記推定部は、前記受信部が受信した所定の時刻における前記センサ群のセンサデータを前記モデルに入力し、前記所定の時刻における前記対象センサの推定値を取得し、
異常検知部は、前記対象センサの推定値と、前記受信部が受信した前記所定の時刻における前記対象センサのセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知すること
を特徴とする異常検知システム。 The anomaly detection system according to claim 1,
The model generation device generates the model using sensor data measured by the plurality of sensors at the same time,
The estimation unit inputs sensor data of the sensor group at a predetermined time received by the reception unit to the model, acquires an estimated value of the target sensor at the predetermined time,
The abnormality detection unit detects an abnormality of the target sensor when a difference between the estimated value of the target sensor and sensor data of the target sensor at the predetermined time received by the reception unit is equal to or greater than a predetermined threshold. An anomaly detection system characterized by
前記モデル生成装置は、一定の時間幅で時系列にセンシングされた前記センサ群のセンサデータから、前記時間幅の中で最新の前記対象センサのセンサデータが推定可能な前記モデルを生成し、
前記推定部は、前記受信部が受信した、所定の時刻から前記時間幅分遡った前記センサ群のセンサデータを前記モデルに入力し、前記対象センサの前記所定の時刻における推定値を取得し、
前記異常検知部は、前記対象センサの推定値と、前記受信部が受信した前記対象センサの前記所定の時刻におけるセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知すること
を特徴とする異常検知システム。 The anomaly detection system according to claim 1,
The model generation device generates the model from which sensor data of the latest target sensor can be estimated in the time width from sensor data of the sensor group sensed in time series with a constant time width,
The estimation unit inputs sensor data of the sensor group that is received by the reception unit and is backed by the time width from a predetermined time to the model, and obtains an estimated value of the target sensor at the predetermined time,
The abnormality detection unit detects an abnormality of the target sensor when a difference between the estimated value of the target sensor and sensor data received by the reception unit at the predetermined time is equal to or greater than a predetermined threshold. An anomaly detection system characterized by
前記モデル生成装置は、一定の時間幅で時系列にセンシングされた前記センサ群のセンサデータから、前記時間幅から所定の時間経過後の前記対象センサのセンサデータが推定可能な前記モデルを生成し、
前記推定部は、前記受信部が受信した、所定の時刻から前記時間幅分遡った前記センサ群のセンサデータを前記モデルに入力し、前記対象センサの前記所定の時刻から所定の時間経過後の推定値を取得し、
前記異常検知部は、前記対象センサの推定値と、前記受信部が受信した前記対象センサの前記所定の時刻から所定の時間経過後のセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知すること
を特徴とする異常検知システム。 The anomaly detection system according to claim 1,
The model generation device generates the model from which sensor data of the target sensor can be estimated after a predetermined time has elapsed from the time width, from sensor data of the sensor group sensed in time series with a constant time width. ,
The estimation unit inputs sensor data of the sensor group received by the receiving unit and backed by the time width from a predetermined time to the model, and after a predetermined time has elapsed from the predetermined time of the target sensor. Get an estimate,
The abnormality detection unit is configured when the difference between the estimated value of the target sensor and sensor data after the predetermined time elapses from the predetermined time of the target sensor received by the reception unit is equal to or greater than a predetermined threshold. An abnormality detection system characterized by detecting an abnormality of the target sensor.
前記モデル生成装置は、前記複数のセンサから送信されるセンサデータを用いて前記モデルを所定のタイミングで更新し、更新後のモデルを前記異常検知装置に送信し、
前記異常検知装置の推定部は、前記更新後のモデルを用いて、前記推定値を取得すること
を特徴とする異常検知システム。 The abnormality detection system according to any one of claims 1 to 4,
The model generation device updates the model at a predetermined timing using sensor data transmitted from the plurality of sensors, transmits the updated model to the abnormality detection device,
The estimation part of the said abnormality detection apparatus acquires the said estimated value using the said model after the update. The abnormality detection system characterized by the above-mentioned.
前記モデル生成装置は、前記センサ群のセンサデータから前記モデルの生成に使用するセンサを決定し、決定したセンサのセンサデータを用いて前記モデルを生成すること
を特徴とする異常検知システム。 The abnormality detection system according to any one of claims 1 to 5,
The anomaly detection system, wherein the model generation device determines a sensor to be used for generation of the model from sensor data of the sensor group, and generates the model using sensor data of the determined sensor.
前記異常検知装置は、前記複数のセンサの付近に配置されること
を特徴とする異常検知システム。 The abnormality detection system according to any one of claims 1 to 6,
The abnormality detection system, wherein the abnormality detection device is disposed in the vicinity of the plurality of sensors.
前記異常検知部は、前記対象センサの異常を検知した場合、前記対象センサをネットワークから切り離す制御を行うこと
を特徴とする異常検知システム。 The abnormality detection system according to any one of claims 1 to 7,
The abnormality detection unit, when detecting an abnormality of the target sensor, performs control for separating the target sensor from the network.
前記推定部は、前記異常検知部が前記対象センサの異常を検知した場合、前記推定値を前記対象センサのセンサデータとして、外部装置に送信すること
を特徴とする異常検知システム。 The anomaly detection system according to claim 8,
When the abnormality detection unit detects an abnormality of the target sensor, the estimation unit transmits the estimated value as sensor data of the target sensor to an external device.
前記モデル生成装置は、前記複数のセンサから送信されるセンサデータを用いて、前記モデルを更新し、更新後のモデルをモデル保管装置に送信すること
を特徴とする異常検知システム。 The abnormality detection system according to any one of claims 1 to 9,
The model generation device updates the model using sensor data transmitted from the plurality of sensors, and transmits the updated model to the model storage device.
前記モデル生成装置は、過去の異常時における前記複数のセンサのセンサデータを用いて、異常の種別を特定する分類モデルを生成し、
前記異常検知部は、前記対象センサの異常を検知した場合、異常検知時点から所定の時間遡った前記センサ群のセンサデータおよび前記対象センサのセンサデータを、前記分類モデルに入力し、前記異常の種別を取得すること
を特徴とする異常検知システム。 The abnormality detection system according to any one of claims 1 to 10,
The model generation device generates a classification model that identifies a type of abnormality using sensor data of the plurality of sensors at the time of a past abnormality,
The abnormality detection unit, when detecting an abnormality of the target sensor, inputs sensor data of the sensor group and sensor data of the target sensor that are back for a predetermined time from the abnormality detection time point to the classification model, and An anomaly detection system characterized by acquiring the type.
前記モデル生成装置は、前記複数のセンサの位置情報に基づいて畳み込みニューラルネットワークを適用し、前記モデルを生成すること
を特徴とする異常検知システム。 The abnormality detection system according to any one of claims 1 to 11,
The abnormality detection system, wherein the model generation device generates a model by applying a convolutional neural network based on position information of the plurality of sensors.
複数のセンサからセンサデータを受信する受信部と、
前記複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータを推定可能なモデルを生成するモデル生成部と、を備えること
を特徴とするモデル生成装置。 A model generation device that generates a model for detecting an abnormality of a sensor,
A receiver for receiving sensor data from a plurality of sensors;
The plurality of sensors are divided into a target sensor and a sensor group other than the target sensor, and a correlation between sensor data of the sensor group and sensor data of the target sensor is analyzed, and the target from the sensor data of the sensor group And a model generation unit that generates a model capable of estimating sensor data of the sensor.
複数のセンサから、センサデータを受信する受信部と、
前記複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータを推定可能なモデルを記憶する記憶部と、
前記モデルに、前記受信部が受信した前記センサ群のセンサデータを入力し、前記対象センサのセンサデータの推定値を取得する推定部と、
前記対象センサの推定値と、前記受信部が受信した前記対象センサのセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知する異常検知部と、を備えること
を特徴とする異常検知装置。 An abnormality detection device for detecting an abnormality of a sensor,
A receiving unit that receives sensor data from a plurality of sensors;
The plurality of sensors are divided into a target sensor and a sensor group other than the target sensor, and a correlation between sensor data of the sensor group and sensor data of the target sensor is analyzed, and the target from the sensor data of the sensor group A storage unit for storing a model capable of estimating sensor data of the sensor;
An estimation unit that inputs sensor data of the sensor group received by the reception unit to the model and obtains an estimated value of sensor data of the target sensor;
An abnormality detection unit that detects an abnormality of the target sensor when a difference between the estimated value of the target sensor and sensor data of the target sensor received by the reception unit is equal to or greater than a predetermined threshold. An anomaly detection device.
前記モデル生成装置は、複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータが推定可能なモデルを生成する生成ステップを行い、
前記異常検知装置は、
前記複数のセンサから、センサデータを受信する受信ステップと、
前記モデルに、前記受信ステップで受信した前記センサ群のセンサデータを入力し、前記対象センサのセンサデータの推定値を取得する推定ステップと、
前記対象センサの推定値と、前記受信ステップで受信した前記対象センサのセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知する異常検知ステップと、を行うこと
を特徴とする異常検知方法。 An anomaly detection method performed by an anomaly detection system including a model generation device and an anomaly detection device,
The model generation device divides a plurality of sensors into a target sensor and a sensor group other than the target sensor, analyzes a correlation between sensor data of the sensor group and sensor data of the target sensor, and Performing a generation step of generating a model from which sensor data of the target sensor can be estimated from sensor data;
The abnormality detection device is:
A receiving step of receiving sensor data from the plurality of sensors;
An estimation step of inputting sensor data of the sensor group received in the reception step to the model and obtaining an estimated value of sensor data of the target sensor;
An abnormality detection step of detecting an abnormality of the target sensor when a difference between the estimated value of the target sensor and sensor data of the target sensor received in the reception step is equal to or greater than a predetermined threshold value. Anomaly detection method.
前記コンピュータを、
複数のセンサからセンサデータを受信する受信部、および、
前記複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータを推定可能なモデルを生成するモデル生成部、として機能させること
を特徴とするモデル生成プログラム。 A model generation program for generating a model for detecting an abnormality of a sensor executed by a computer,
The computer,
A receiver that receives sensor data from a plurality of sensors; and
The plurality of sensors are divided into a target sensor and a sensor group other than the target sensor, and a correlation between sensor data of the sensor group and sensor data of the target sensor is analyzed, and the target from the sensor data of the sensor group A model generation program that functions as a model generation unit that generates a model capable of estimating sensor data of a sensor.
前記コンピュータを、
複数のセンサから、センサデータを受信する受信部、
前記複数のセンサを対象センサと、前記対象センサ以外のセンサ群とに分けて、前記センサ群のセンサデータと前記対象センサのセンサデータとの相関を分析し、前記センサ群のセンサデータから前記対象センサのセンサデータを推定可能なモデルを記憶する記憶部、
前記モデルに、前記受信部が受信した前記センサ群のセンサデータを入力し、前記対象センサのセンサデータの推定値を取得する推定部、および、
前記対象センサの推定値と、前記受信部が受信した前記対象センサのセンサデータとの差が、所定の閾値以上の場合に前記対象センサの異常を検知する異常検知部、として機能させること
を特徴とする異常検知プログラム。 An abnormality detection program for detecting an abnormality of a sensor executed by a computer,
The computer,
A receiver for receiving sensor data from a plurality of sensors;
The plurality of sensors are divided into a target sensor and a sensor group other than the target sensor, and a correlation between sensor data of the sensor group and sensor data of the target sensor is analyzed, and the target from the sensor data of the sensor group A storage unit for storing a model capable of estimating sensor data of the sensor;
An estimation unit that inputs sensor data of the sensor group received by the reception unit to the model and obtains an estimated value of sensor data of the target sensor; and
A function of an abnormality detection unit that detects an abnormality of the target sensor when a difference between the estimated value of the target sensor and sensor data of the target sensor received by the reception unit is equal to or greater than a predetermined threshold value. An anomaly detection program.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016099638A JP6847591B2 (en) | 2016-05-18 | 2016-05-18 | Anomaly detection system, model generator, anomaly detection device, anomaly detection method, model generation program, and anomaly detection program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016099638A JP6847591B2 (en) | 2016-05-18 | 2016-05-18 | Anomaly detection system, model generator, anomaly detection device, anomaly detection method, model generation program, and anomaly detection program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2017207904A true JP2017207904A (en) | 2017-11-24 |
| JP6847591B2 JP6847591B2 (en) | 2021-03-24 |
Family
ID=60417243
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016099638A Active JP6847591B2 (en) | 2016-05-18 | 2016-05-18 | Anomaly detection system, model generator, anomaly detection device, anomaly detection method, model generation program, and anomaly detection program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6847591B2 (en) |
Cited By (21)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019138730A (en) * | 2018-02-08 | 2019-08-22 | ファナック株式会社 | Temperature measuring device |
| JP2019153080A (en) * | 2018-03-02 | 2019-09-12 | 富士通株式会社 | Abnormal sensor detection method, abnormal sensor detection system, and information processing apparatus |
| CN110348536A (en) * | 2019-07-18 | 2019-10-18 | 广州大学 | Data intelligence prediction technique, device, computer equipment and storage medium |
| KR102057081B1 (en) * | 2017-12-29 | 2019-12-18 | 한국외국어대학교 연구산학협력단 | Working error detecting apparatus and method for automatic manufacturing line |
| JP2020035109A (en) * | 2018-08-28 | 2020-03-05 | 中国電力株式会社 | Plant monitoring system and plant monitoring method |
| JP2020107001A (en) * | 2018-12-26 | 2020-07-09 | 株式会社日立製作所 | Monitoring model updating method, monitoring system, and monitoring apparatus |
| CN111712817A (en) * | 2017-12-18 | 2020-09-25 | 贝宝公司 | Spatial and temporal convolutional network for system call-based process monitoring |
| JP2020181256A (en) * | 2019-04-23 | 2020-11-05 | Kddi株式会社 | Program, device, and method which complement missing value in time-series measurement value group of plurality of sensors |
| JP2021039529A (en) * | 2019-09-03 | 2021-03-11 | 株式会社小松製作所 | Learned model manufacturing method, production system, abnormality determination device, and abnormality determination method |
| WO2021065754A1 (en) * | 2019-09-30 | 2021-04-08 | ダイキン工業株式会社 | Data collection device and data collection method |
| JP2021135780A (en) * | 2020-02-27 | 2021-09-13 | 株式会社東芝 | State monitor, method, and program |
| JP2021144433A (en) * | 2020-03-11 | 2021-09-24 | ポート・アンド・アンカー株式会社 | Structure abnormality discrimination method and abnormality discrimination system |
| JP2021529395A (en) * | 2018-06-29 | 2021-10-28 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングＲｏｂｅｒｔ Ｂｏｓｃｈ Ｇｍｂｈ | Methods for monitoring and identifying sensor failures in electrically driven systems |
| JP2022023714A (en) * | 2020-07-27 | 2022-02-08 | トヨタ自動車株式会社 | Teacher data creation device, teacher data creation method, and program |
| CN114338284A (en) * | 2021-12-24 | 2022-04-12 | 深圳尊悦智能科技有限公司 | 5G intelligent gateway of Internet of things |
| JPWO2022172452A1 (en) * | 2021-02-15 | 2022-08-18 | ||
| EP4105751A2 (en) | 2021-06-14 | 2022-12-21 | Hitachi, Ltd. | Abnormality detection system and abnormality detection method |
| JP7199609B1 (en) * | 2022-04-25 | 2023-01-05 | 三菱電機株式会社 | Abnormality Diagnosis Method, Abnormality Diagnosis Device, Abnormality Diagnosis Program, and Abnormality Diagnosis System |
| US11676071B2 (en) | 2020-06-30 | 2023-06-13 | Oracle International Corporation | Identifying and ranking anomalous measurements to identify faulty data sources in a multi-source environment |
| JP7359009B2 (en) | 2020-02-04 | 2023-10-11 | 沖電気工業株式会社 | Data analysis device, program and method |
| JP7481537B2 (en) | 2018-09-18 | 2024-05-10 | 横河電機株式会社 | Information processing system, information processing method, and information processing device |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH11161327A (en) * | 1997-11-28 | 1999-06-18 | Mitsubishi Chemical Corp | Method and device for diagnosing abnormality of process |
| JP2004265009A (en) * | 2003-02-28 | 2004-09-24 | Mitsubishi Electric Corp | Diagnostic system |
| JP2005351618A (en) * | 2005-07-07 | 2005-12-22 | Mitsubishi Electric Corp | Hydraulic circuit diagnosis method |
| JP2007156881A (en) * | 2005-12-06 | 2007-06-21 | Yamatake Corp | Control system analyzer and program |
| JP2010287011A (en) * | 2009-06-11 | 2010-12-24 | Hitachi Ltd | Device abnormality monitoring method and system |
| JP4872944B2 (en) * | 2008-02-25 | 2012-02-08 | 日本電気株式会社 | Operation management apparatus, operation management system, information processing method, and operation management program |
| JP2012158700A (en) * | 2011-02-01 | 2012-08-23 | Ihi Corp | Temperature control device and temperature control method |
| JP2015018389A (en) * | 2013-07-10 | 2015-01-29 | 株式会社日立パワーソリューションズ | Abnormality sign diagnosis device and abnormality sign diagnosis method |
-
2016
- 2016-05-18 JP JP2016099638A patent/JP6847591B2/en active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH11161327A (en) * | 1997-11-28 | 1999-06-18 | Mitsubishi Chemical Corp | Method and device for diagnosing abnormality of process |
| JP2004265009A (en) * | 2003-02-28 | 2004-09-24 | Mitsubishi Electric Corp | Diagnostic system |
| JP2005351618A (en) * | 2005-07-07 | 2005-12-22 | Mitsubishi Electric Corp | Hydraulic circuit diagnosis method |
| JP2007156881A (en) * | 2005-12-06 | 2007-06-21 | Yamatake Corp | Control system analyzer and program |
| JP4872944B2 (en) * | 2008-02-25 | 2012-02-08 | 日本電気株式会社 | Operation management apparatus, operation management system, information processing method, and operation management program |
| JP2010287011A (en) * | 2009-06-11 | 2010-12-24 | Hitachi Ltd | Device abnormality monitoring method and system |
| JP2012158700A (en) * | 2011-02-01 | 2012-08-23 | Ihi Corp | Temperature control device and temperature control method |
| JP2015018389A (en) * | 2013-07-10 | 2015-01-29 | 株式会社日立パワーソリューションズ | Abnormality sign diagnosis device and abnormality sign diagnosis method |
Cited By (32)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111712817A (en) * | 2017-12-18 | 2020-09-25 | 贝宝公司 | Spatial and temporal convolutional network for system call-based process monitoring |
| CN111712817B (en) * | 2017-12-18 | 2024-01-23 | 贝宝公司 | Space and time convolution network for system call based process monitoring |
| KR102057081B1 (en) * | 2017-12-29 | 2019-12-18 | 한국외국어대학교 연구산학협력단 | Working error detecting apparatus and method for automatic manufacturing line |
| US11280679B2 (en) | 2018-02-08 | 2022-03-22 | Fanuc Corporation | Temperature measuring device |
| JP2019138730A (en) * | 2018-02-08 | 2019-08-22 | ファナック株式会社 | Temperature measuring device |
| JP2019153080A (en) * | 2018-03-02 | 2019-09-12 | 富士通株式会社 | Abnormal sensor detection method, abnormal sensor detection system, and information processing apparatus |
| JP7127301B2 (en) | 2018-03-02 | 2022-08-30 | 富士通株式会社 | ABNORMAL SENSOR DETECTION METHOD, ABNORMAL SENSOR DETECTION SYSTEM AND INFORMATION PROCESSING DEVICE |
| JP2021529395A (en) * | 2018-06-29 | 2021-10-28 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングＲｏｂｅｒｔ Ｂｏｓｃｈ Ｇｍｂｈ | Methods for monitoring and identifying sensor failures in electrically driven systems |
| JP2020035109A (en) * | 2018-08-28 | 2020-03-05 | 中国電力株式会社 | Plant monitoring system and plant monitoring method |
| JP7121592B2 (en) | 2018-08-28 | 2022-08-18 | 中国電力株式会社 | Plant monitoring system and plant monitoring method |
| JP7481537B2 (en) | 2018-09-18 | 2024-05-10 | 横河電機株式会社 | Information processing system, information processing method, and information processing device |
| JP2020107001A (en) * | 2018-12-26 | 2020-07-09 | 株式会社日立製作所 | Monitoring model updating method, monitoring system, and monitoring apparatus |
| JP6994812B2 (en) | 2019-04-23 | 2022-01-14 | Kddi株式会社 | Programs, devices and methods that complement missing values in time-series measurements of multiple sensors |
| JP2020181256A (en) * | 2019-04-23 | 2020-11-05 | Kddi株式会社 | Program, device, and method which complement missing value in time-series measurement value group of plurality of sensors |
| JP2021018821A (en) * | 2019-07-18 | 2021-02-15 | ▲広▼州大学 | Data intelligent prediction method, device, computer device, and storage medium |
| CN110348536A (en) * | 2019-07-18 | 2019-10-18 | 广州大学 | Data intelligence prediction technique, device, computer equipment and storage medium |
| JP2021039529A (en) * | 2019-09-03 | 2021-03-11 | 株式会社小松製作所 | Learned model manufacturing method, production system, abnormality determination device, and abnormality determination method |
| JP7263185B2 (en) | 2019-09-03 | 2023-04-24 | 株式会社小松製作所 | Trained model manufacturing method, production system, abnormality determination device, and abnormality determination method |
| WO2021065754A1 (en) * | 2019-09-30 | 2021-04-08 | ダイキン工業株式会社 | Data collection device and data collection method |
| JP7359009B2 (en) | 2020-02-04 | 2023-10-11 | 沖電気工業株式会社 | Data analysis device, program and method |
| JP2021135780A (en) * | 2020-02-27 | 2021-09-13 | 株式会社東芝 | State monitor, method, and program |
| JP2021144433A (en) * | 2020-03-11 | 2021-09-24 | ポート・アンド・アンカー株式会社 | Structure abnormality discrimination method and abnormality discrimination system |
| US11676071B2 (en) | 2020-06-30 | 2023-06-13 | Oracle International Corporation | Identifying and ranking anomalous measurements to identify faulty data sources in a multi-source environment |
| JP7024829B2 (en) | 2020-07-27 | 2022-02-24 | トヨタ自動車株式会社 | Teacher data creation device, teacher data creation method and program |
| JP2022023714A (en) * | 2020-07-27 | 2022-02-08 | トヨタ自動車株式会社 | Teacher data creation device, teacher data creation method, and program |
| WO2022172452A1 (en) * | 2021-02-15 | 2022-08-18 | 三菱電機株式会社 | Data processing device and data processing method |
| JP7350198B2 (en) | 2021-02-15 | 2023-09-25 | 三菱電機株式会社 | Data processing device and data processing method |
| JPWO2022172452A1 (en) * | 2021-02-15 | 2022-08-18 | ||
| EP4105751A2 (en) | 2021-06-14 | 2022-12-21 | Hitachi, Ltd. | Abnormality detection system and abnormality detection method |
| CN114338284A (en) * | 2021-12-24 | 2022-04-12 | 深圳尊悦智能科技有限公司 | 5G intelligent gateway of Internet of things |
| JP7199609B1 (en) * | 2022-04-25 | 2023-01-05 | 三菱電機株式会社 | Abnormality Diagnosis Method, Abnormality Diagnosis Device, Abnormality Diagnosis Program, and Abnormality Diagnosis System |
| WO2023209774A1 (en) * | 2022-04-25 | 2023-11-02 | 三菱電機株式会社 | Abnormality diagnosis method, abnormality diagnosis device, and abnormality diagnosis program |
Also Published As
| Publication number | Publication date |
|---|---|
| JP6847591B2 (en) | 2021-03-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6847591B2 (en) | Anomaly detection system, model generator, anomaly detection device, anomaly detection method, model generation program, and anomaly detection program | |
| JP7010641B2 (en) | Abnormality diagnosis method and abnormality diagnosis device | |
| US8275735B2 (en) | Diagnostic system | |
| CN116841262A (en) | Intelligent factory production on-line monitoring analysis system based on machine vision | |
| US10860410B2 (en) | Technique for processing fault event of IT system | |
| US11409962B2 (en) | System and method for automated insight curation and alerting | |
| JP5277667B2 (en) | Failure analysis system, failure analysis method, failure analysis server, and failure analysis program | |
| JP6280862B2 (en) | Event analysis system and method | |
| US10684906B2 (en) | Monitoring peripheral transactions | |
| JP2017021790A (en) | Systems and methods for verification and anomaly detection using mixture of hidden markov models | |
| Karthik et al. | Data trust model for event detection in wireless sensor networks using data correlation techniques | |
| JP7481537B2 (en) | Information processing system, information processing method, and information processing device | |
| US10990090B2 (en) | Apparatus and method for automatic detection and classification of industrial alarms | |
| JP2008288870A (en) | Video image monitoring system and video image monitoring method | |
| JP2012186667A (en) | Network fault detection apparatus, network fault detection method of network fault detection apparatus, and network fault detection program | |
| Han et al. | An intelligent signal processing data denoising method for control systems protection in the industrial Internet of Things | |
| US11210566B2 (en) | Training apparatus, training method and recording medium | |
| JP5625962B2 (en) | Worker abnormality occurrence detection device, worker abnormality occurrence detection method, and program | |
| WO2017176676A1 (en) | Graph-based fusing of heterogeneous alerts | |
| JP6226463B2 (en) | Network management system, network device and control device | |
| JP2012037991A (en) | Prediction device, prediction system and program | |
| Li | Anomaly detection in wireless sensor networks based on time factor | |
| CN115315711A (en) | Machine learning device, learning model generation method, and program | |
| KR101996237B1 (en) | DEVICE AND PLATFORM FOR IoT SENSOR THROUGH DISTRIBUTED PROCESSING | |
| JP2013011987A (en) | Abnormal state detection device and abnormal state detection method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190123 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191206 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191218 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200214 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200728 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210224 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210303 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6847591 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |