JP2018147172A - 異常検知装置、異常検知方法及びプログラム - Google Patents

異常検知装置、異常検知方法及びプログラム Download PDF

Info

Publication number
JP2018147172A
JP2018147172A JP2017040589A JP2017040589A JP2018147172A JP 2018147172 A JP2018147172 A JP 2018147172A JP 2017040589 A JP2017040589 A JP 2017040589A JP 2017040589 A JP2017040589 A JP 2017040589A JP 2018147172 A JP2018147172 A JP 2018147172A
Authority
JP
Japan
Prior art keywords
unit
abnormality
data
learning
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017040589A
Other languages
English (en)
Other versions
JP6823501B2 (ja
Inventor
泰弘 池田
Yasuhiro Ikeda
泰弘 池田
中野 雄介
Yusuke Nakano
雄介 中野
敬志郎 渡辺
Keishiro Watanabe
敬志郎 渡辺
石橋 圭介
Keisuke Ishibashi
圭介 石橋
川原 亮一
Ryoichi Kawahara
亮一 川原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2017040589A priority Critical patent/JP6823501B2/ja
Publication of JP2018147172A publication Critical patent/JP2018147172A/ja
Application granted granted Critical
Publication of JP6823501B2 publication Critical patent/JP6823501B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing And Monitoring For Control Systems (AREA)
  • Debugging And Monitoring (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】異常を検知するための学習に要するデータの増加を抑制すること。【解決手段】異常検知装置は、異常の検知対象が正常である場合に前記検知対象から得られる複数の種別のデータのデータ要素間の相関関係を、前記データ要素間の相関の高さに基づいて分類される単位ごとに、当該単位に関して生成される複数の学習器を用いて学習し、学習結果を出力する学習部と、前記検知対象から複数のタイミングで得られる複数の種別のデータのデータ要素群について、前記単位ごとに、当該単位に係る学習結果に基づいて、当該単位に分類されるデータ要素群の相関関係の崩れの程度を示す異常度を算出し、前記単位ごとの異常度に基づいて前記検知対象の異常を検知する検知部と、を有する。【選択図】図3

Description

本発明は、異常検知装置、異常検知方法及びプログラムに関する。
リアルタイムな異常検知においては、様々なデータを定期的に観測し、データが正常時と異なる傾向を示した場合に「異常」が検知される。ここで、異常検知アルゴリズムは、予め正常時として定義された「学習期間」のデータを教師データとして用いて学習を行い、異常検知を行う「テスト期間」においては、観測されたテストデータと、学習した教師データの傾向の比較を行うものとする。このような異常検知アルゴリズムとしては、正常時における各種データの相関関係を学習し、テスト期間においては、学習したデータの相関関係が崩れた際に「異常」と判断するようなアルゴリズムが提案されている(例えば、非特許文献1、非特許文献2、非特許文献3)。
このようなアルゴリズムは、異常か否かを判定することが困難な異常時のデータを用いることなく、正常時のデータだけを用いて異常検知ができるという利点がある。
Hodge, Victoria J., and Jim Austin. "A survey of outlier detection methodologies." Artificial intelligence review 22.2 (2004): 85-126. 櫻田 麻由,矢入 健久,"オートエンコーダを用いた次元削減による宇宙機の異常検知", 人工知能学会全国大会論文集 28, 1-3, 2014 Ringberg, Haakon, et al. "Sensitivity of PCA for traffic anomaly detection." ACM SIGMETRICS Performance Evaluation Review 35.1 (2007): 109-120.
しかしながら、相関が低いデータが入力に多く含まれると、それに従って正常時にデータが取り得る状態のパターンも組合せ的に増加するため、学習に要する教師データが増加し、十分な教師データが無い場合に精度の良い異常検知が困難になる。特に、観測対象となるデータの種別が増加した場合、相関が低いデータが増加することから、このような問題はより顕著となる。
本発明は、上記の点に鑑みてなされたものであって、異常を検知するための学習に要するデータの増加を抑制することを目的とする。
そこで上記課題を解決するため、異常検知装置は、異常の検知対象が正常である場合に前記検知対象から得られる複数の種別のデータのデータ要素間の相関関係を、前記データ要素間の相関の高さに基づいて分類される単位ごとに、当該単位に関して生成される複数の学習器を用いて学習し、学習結果を出力する学習部と、前記検知対象から複数のタイミングで得られる複数の種別のデータのデータ要素群について、前記単位ごとに、当該単位に係る学習結果に基づいて、当該単位に分類されるデータ要素群の相関関係の崩れの程度を示す異常度を算出し、前記単位ごとの異常度に基づいて前記検知対象の異常を検知する検知部と、を有する。
異常を検知するための学習に要するデータの増加を抑制することができる。
第1の実施の形態におけるシステム構成例を示す図である。 第1の実施の形態における異常検知装置10のハードウェア構成例を示す図である。 第1の実施の形態における異常検知装置10の機能構成例を示す図である。 第1の実施の形態における学習処理の処理手順の一例を説明するためのフローチャートである。 第1の実施の形態における検知処理の処理手順の一例を説明するためのフローチャートである。 オートエンコーダを説明するための図である。 第6の実施の形態において前処理部13が追加的に実行する処理手順を説明するためのフローチャートである。
以下、図面に基づいて本発明の実施の形態を説明する。図1は、第1の実施の形態におけるシステム構成例を示す図である。図1において、ネットワークN1は、異常の検知対象とされるネットワークである。ネットワークN1は、ルータやサーバ装置等の複数のノードが相互に接続されることによって構成され、所定のサービスを提供するために任意のノード間においてパケットの送受信が行われる。
ネットワークN1の複数箇所には測定装置20が配置されている。測定装置20は、配置箇所を監視することで得られる観測データを複数のタイミングで採取する。収集される観測データの一例として、MIB(Management Information Base)データ、NetFlowによるフローデータ、CPU使用率等が挙げられる。
MIBは、ネットワーク機器を監視するためのメーカ間の共通ポリシーである。MIBデータは、例えば、5分単位で集約され、「時刻、ホスト名、インターフェース(IF)名、入力データ量(ibps)、出力データ量(obps)」等を含む。
NetFlowは、フロー単位でのネットワーク監視をおこなう技術であり、通信が終了した段階でそのフローに関する情報が出力される。また、フローとは、「何処」と「何処」が「どのような通信」を「どれだけの量」行っているかを把握するための単位をいい、通信の送り手側のIPアドレス(srcIP)、送り手側のポート番号(srcport)、受け手側のIPアドレス(dstIP)、受け手側のポート番号(dstport)、通信プロトコル(proto)の5属性によりまとめられる。フローデータは、「フロー開始時刻、srcIP、srcport、dstIP、dstport、proto、フロー継続時間、総送信パケット数、総送信バイト数」等を含む。
CPU使用率は、例えば、ネットワークN1に含まれるサーバ装置又はルータ等のCPUの使用率である。
測定装置20によって採取された観測データは、異常検知装置10によって収集される。異常検知装置10は、収集された観測データから、正常時の特徴を学習し、学習結果に基づいて、その後に入力される観測データについて、異常の発生を検知する(異常の有無を判定する)コンピュータである。なお、正常時の特徴の学習が行われる処理を「学習処理」という。学習処理において学習された結果に基づいて異常の検知が行われる処理を「テスト処理」という。
図2は、第1の実施の形態における異常検知装置10のハードウェア構成例を示す図である。図2の異常検知装置10は、それぞれバスBで相互に接続されているドライブ装置100、補助記憶装置102、メモリ装置103、CPU104、及びインタフェース装置105等を有する。
異常検知装置10での処理を実現するプログラムは、CD−ROM等の記録媒体101によって提供される。プログラムを記憶した記録媒体101がドライブ装置100にセットされると、プログラムが記録媒体101からドライブ装置100を介して補助記憶装置102にインストールされる。但し、プログラムのインストールは必ずしも記録媒体101より行う必要はなく、ネットワークを介して他のコンピュータよりダウンロードするようにしてもよい。補助記憶装置102は、インストールされたプログラムを格納すると共に、必要なファイルやデータ等を格納する。
メモリ装置103は、プログラムの起動指示があった場合に、補助記憶装置102からプログラムを読み出して格納する。CPU104は、メモリ装置103に格納されたプログラムに従って異常検知装置10に係る機能を実行する。インタフェース装置105は、ネットワークに接続するためのインタフェースとして用いられる。
図3は、第1の実施の形態における異常検知装置10の機能構成例を示す図である。図3において、異常検知装置10は、受信部11、学習処理制御部12、前処理部13、学習部14、検知処理制御部15及び検知部16等を有する。これら各部は、異常検知装置10にインストールされた1以上のプログラムが、CPU104に実行させる処理により実現される。異常検知装置10は、また、教師データ記憶部121、パラメータ記憶部122、観測データ記憶部123、学習結果記憶部124及び学習データ記憶部125等を利用する。これら各記憶部は、例えば、補助記憶装置102、又は異常検知装置10にネットワークを介して接続可能な記憶装置等を用いて実現可能である。
教師データ記憶部121には、予め正常時に収集されたことが確認されている観測データが教師データとして記憶されている。但し、教師データは、観測データから選別されるのではなく、人為的に作成されてもよい。
受信部11は、測定装置20から観測データを受信する。受信された観測データは、観測データ記憶部123に記憶される
学習処理制御部12は、学習処理を制御する。
前処理部13は、教師データの集合、観測データの集合、又は学習データ記憶部125に記憶されている学習データの集合について前処理を実行する。前処理とは、データ集合からの単位時間ごとの特徴量の抽出や、抽出された特徴量の正規化等の処理である。特徴量は、数値ベクトルの形式で表現される。なお、1回目の学習時には、教師データ記憶部121に記憶されている教師データ群が前処理の対象とされる。受信部11によって観測データの受信が開始されると、観測データ群が前処理の対象とされる。更に、検知部16による異常の検知が開始され、正常であると判定され、学習データとして学習データ記憶部125に記憶された観測データが所定数に達すると、当該学習データ群が前処理の対象とされる。
前処理部13は、また、教師データ群又は学習データ群について前処理を実行する際に、観測データ又は学習データを正規化するためのパラメータ(以下、「正規化パラメータ」という。)を生成又は更新し、生成又は更新された正規化パラメータをパラメータ記憶部122に記憶する。
学習部14は、教師データ又は学習データに基づいて学習を実行する。学習部14による学習結果は、学習結果記憶部124に記憶される。
検知処理制御部15は、検知処理を制御する。
検知部16は、観測データ記憶部123に記憶されている観測データが前処理部13によって前処理されることで生成される数値ベクトルと、学習結果記憶部124に記憶されている学習結果とに基づいて異常の発生を検知する。具体的には、検知部16は、前処理された数値ベクトルについて、学習結果との違いを異常度として算出し、当該異常度を閾値と比較することで異常の発生を検知する。異常が検知されなかった数値ベクトルの正規化前の値は、学習データとして学習データ記憶部125に記憶される。
以下、異常検知装置10が実行する処理手順について説明する。図4は、第1の実施の形態における学習処理の処理手順の一例を説明するためのフローチャートである。なお、以下においては、便宜上、フローデータが処理対象である例について示す。
学習処理が開始されると、学習処理制御部12は、教師データ記憶部121から教師データ群を取得し、当該教師データ群を前処理部13へ入力する(S101)。
続いて、前処理部13は、入力された教師データ群を、単位時間ごとの集合に分割する(S102)。なお、教師データ記憶部121には、単位時間×Uの期間(以下、「学習期間」という。)分の教師データが記憶されていることとする。したがって、教師データ群は、U個の集合に分割される。
続いて、前処理部13は、分割された集合ごとに、目的に応じた特徴量を抽出し、抽出された特徴量を各次元の要素とする多次元数値ベクトルを生成する(S103)。
例えば、単位時間が1分で、前処理部13が、1分間ごとの特徴量を抽出するとする。また、特徴量を、各プロトコル(TCP、UDP)の全送信バイト数であるとする。この場合、先頭の教師データのフロー開始時刻が12:00:00であるとすると、前処理部13は、全教師データのうち、フロー開始時刻tが11:59:00<=t<12:00:00であるような教師データ(フローデータ)の集合について、プロトコルがTCPである全フローの全送信バイト数、プロトコルがUDPである全フローの全送信バイト数等を計算し、それらの特徴量を各次元の要素とする2次元数値ベクトルを生成する。(U−1)個の他の集合についても同様に、数値ベクトルが生成される。
なお、特徴量の属性としては、「TCPかつ送信ポート番号が80」のような組合せとして指定することも可能である。また、各フローが「フロー数:1」のような値を持つと見なせば、各属性を持つフローの総フロー数についても同様に計算し、特徴量としてみなすことが可能である。
続いて、前処理部13は、各数値ベクトルにおける各メトリックi(各次元i)の最大値xmax_iを算出し、算出したxmax_1をパラメータ記憶部122に記憶する(S104)。すなわち、第1の実施の形態において、各メトリックiの最大値xmax_iが、正規化パラメータである。
ここで、U=3とする。また、ステップS103において生成された数値ベクトルが{{80,20},{90,35},{100,50}}であるとする。これは、或る3分におけるTCPの総送信バイト数及びUDPの総送信バイト数がそれぞれ「TCP:80byte,UDP:20byte」、「TCP:90byte,UDP:35byte」、「TCP:100byte,UDP:50byte」であったことを示す。この場合、これらの数値ベクトルの各メトリックの最大値xmax_iは、{100,50}である(すなわち、xmax_1=100,xmax_2=50である)。
続いて、前処理部13は、正規化パラメータに基づいて、各数値ベクトルを正規化する(S105)。正規化は、各数値ベクトルのメトリックiの値が最大値xmax_iによって除されることにより行われる。したがって、正規化された数値ベクトルは、{{0.8,0.4},{0.9,0.7},{1,1}}となる。
続いて、学習部14は、当該数値ベクトルについて学習器を利用して学習する(S106)。学習結果は、学習結果記憶部124に記憶される。
続いて、学習処理制御部12は、学習データ記憶部125に、学習期間分の学習データが記憶(蓄積)されるのを待機する(S107)。すなわち、U個の正規化前の数値ベクトルが学習データ記憶部125に記憶されるまで待機が継続する。なお、学習データ記憶部125には、検知部16によって正常である(異常が発生していない)と判定された数値ベクトルが記憶される。
学習期間分の数値ベクトルが学習データ記憶部125に記憶されると(S107でYes)、学習処理制御部12は、学習データ記憶部125から数値ベクトル群を取得し、当該数値ベクトル群を前処理部13へ入力する(S108)。なお、取得された数値ベクトル群は、学習データ記憶部125から削除される。続いて、当該数値ベクトル群について、ステップS104以降が実行される。したがって、次のステップS105では、新たに計算されるxmax_iに基づいて正規化が行われる。
図5は、第1の実施の形態における検知処理の処理手順の一例を説明するためのフローチャートである。図5の処理手順は、図4のステップS106が少なくとも1回実行された後であれば、いつ開始されてもよい。すなわち、図5の処理手順は、図4の処理手順と並行して実行される。
ステップS201において、検知処理制御部15は、単位時間の経過を待機する。当該単位時間は、図4の説明における単位時間と同じ時間長である。この待機中に、リアルタイムに収集され、受信部11によって受信された観測データは観測データ記憶部123に記憶される
単位時間が経過すると(S201でYes)、検知処理制御部15は、直近の単位時間分の観測データ群を観測データ記憶部123から取得し、当該観測データ群を前処理部13へ入力する(S202)。
続いて、前処理部13は、当該観測データ群から目的に応じた特徴量を抽出し、抽出された特徴量を各次元の要素とする多次元数値ベクトルを生成する(S203)。例えば、プロトコルがTCPである全フローの全送信バイト数、プロトコルがUDPである全フローの全送信バイト数が抽出され、これらを各次元の要素とする2次元数値ベクトルが生成される。ここでは、1つの数値ベクトルが生成される。
続いて、前処理部13は、生成された数値ベクトルを、パラメータ記憶部122に記憶されている最大値xmax_iに基づいて正規化する(S204)。すなわち、当該数値ベクトルの各メトリックiが、最大値xmax_iによって除算される。
例えば、図4のステップS104が上記の教師データに基づいて1回のみ実行されている場合、最大値xmax_iは、{100,50}である。したがって、当該数値ベクトルが{60,40}である場合、当該数値ベクトルは、{0.6,0.8}に正規化される。
続いて、検知部16は、異常判定処理を実行する(S205)。異常判定処理では、正規化された数値ベクトルと、学習結果記憶部124に記憶されている最新の学習結果とに基づいて、ネットワークN1について異常の有無が判定される。
異常が無いと判定された場合(S206でYes)、検知処理制御部15は、当該数値ベクトルの正規化前の数値ベクトルを、学習データとして学習データ記憶部125に記憶する(S207)。異常が有ると判定された場合(S206でNo)、当該数値ベクトルの正規化前の数値ベクトルは、学習データ記憶部125に記憶されない。したがって、学習データ記憶部125には、正常時の数値ベクトルのみが記憶される。
続いて、ステップS201以降が繰り返される。なお、ステップS201以降が繰り返される過程において、ステップS204で利用される正規化パラメータは、並行して実行されている図4のステップS104において随時更新される。その結果、入力される観測データのトレンドを考慮して数値ベクトルを正規化することができる。
例えば、U=3である場合、ステップS207が3回実行されて、{{60,40},{45,20},{30,30}}が学習データ記憶部125に記憶されたとする。この場合、xmax_1=60、xmax_2=40に更新され、更新結果がパラメータ記憶部122に反映される。
なお、上記では、観測データがフローデータである例について説明したが、フローデータ、MIBデータ、及びCPU使用率が並列的に観測データとして受信されてもよい。この場合、図4及び図5の処理手順の各ステップでは、データ種別ごと(フローデータ、MIBデータ、及びCPU使用率ごと)に実行されればよい。
なお、例えば{hostID,interfaceID,ibps,obps}のような形式で与えられるMIBデータについては、「単位時間におけるホストIDaのibps」、「単位時間におけるホストIDaのobps」、「単位時間におけるホストIDbのibps」、「単位時間におけるホストIDbのobps」...「単位時間におけるinterfaceIDxのibps」、「単位時間におけるinterfaceIDxのobps」、「単位時間におけるinterfaceIDyのibps」、「単位時間におけるinterfaceIDyのobps」のように、数値ベクトルを抽出することが可能である。
続いて、図4のステップS106及び図5のステップS205の一例について説明する。ステップS106及びS205では、データ種別がラベルとして付与された数値ベクトル群が学習部14又は検知部16に入力される。本実施の形態において、ラベルは「フローデータ」、「MIBデータ」、及び「CPU使用率」のいずれかである。ラベルは、例えば、測定装置20又は受信部11によって教師データ及び観測データに付与される。すなわち、観測データの採取元に基づいて当該観測データに付与すべきラベルが特定可能である。当該ラベルは、前処理部13によって生成される数値ベクトルに引き継がれる。
図4のステップS106において、学習部14は、データ種別ごとに学習器を生成する。学習部14は、入力される数値ベクトルに付与されているラベルに基づいて数値ベクトルを分類し、分類結果に対応する学習器へ当該数値ベクトルを入力する。本実施の形態では「フローデータの学習器」、「MIBデータの学習器」、「CPU使用率の学習器」が生成される。学習器としては数値ベクトルのメトリック間の相関関係の学習による異常検知を行うオートエンコーダ(非特許文献2)や主成分分析(非特許文献3)等を用いることができる。本実施の形態では、学習器にオートエンコーダを用いる例について説明する。
図6は、オートエンコーダを説明するための図である。オートエンコーダは、ディープラーニングによる異常検知アルゴリズムである。オートエンコーダは、正常時の入力データがメトリック間で相関関係を持ち、低次元に圧縮可能であることを利用する。異常時には入力データの相関関係が崩れるため、圧縮が正しく行われず入力データと出力データとの差が大きくなる。
図6の(1)に示されるように、学習部14が生成する学習器(オートエンコーダ)は、出力層(Layer L)が入力層(Layer L)に近くなるように学習を行う。具体的には、学習部14は、数値ベクトルを2つに複製し、一方を入力層へ当てはめ、他方を出力層に当てはめて学習を行い、学習結果を出力する。学習結果は、学習結果記憶部124に記憶される。学習結果は、学習器に対するパラメータ群である。なお、学習器は、データ種別ごとに生成されるため、学習結果もデータ種別ごとに出力され、学習結果記憶部124に記憶される。
一方、検知部16も、学習部14と同様に、データ種別ごとに学習器を生成する。当該学習器には、学習部14によって生成される学習器と同様にオートエンコーダ又は主成分分析等のうち、学習部14が生成する学習器に対応する方法を用いることができる。
図5のステップS205において、検知部16は、学習結果記憶部124に記憶されている学習結果に基づいて、「フローデータの学習器」、「MIBデータの学習器」、「CPU使用率の学習器」を生成する。すなわち、検知部16によって生成される学習器は、当該学習結果の出力時において学習部14によって生成された学習器と同じである。検知部16は、図6の(2)に示されるように、ステップS205において入力されたデータ種別ごとの数値ベクトルを当該数値ベクトルのデータ種別に対応する学習器へ入力し、学習器に対する入力データと出力データとの距離(メトリック間の相関関係の崩れの程度を示す指標)を異常度として計算する。本実施の形態ではオートエンコーダの入力層と出力層との距離である平均二乗誤差(MSE:Mean Squared Error)が異常度として計算される。MSEの計算式は、以下の通りである。
Figure 2018147172
本実施の形態では、フローデータのMSE、MIBデータのMSE、CPU使用率のMSEの3種のMSEが得られる。検知部16は、得られたMSEの平均を、最終的な異常度として計算し、最終的な異常度が予め定められた閾値を超えていた場合に異常であると判定する。そうでない場合、検知部16は、正常とであると判定する。
上述したように、第1の実施の形態によれば、データの種別ごとに学習器が生成されて、学習及び異常の検知が行われる。ここで、同一のデータ種別に属するメトリック(データ要素)は、相関が高いことが推定される。したがって、相関の低いデータが同一の学習器に入力される可能性を低下させることができる。その結果、異常を検知するための学習に要するデータの増加を抑制することができる。
次に、第2の実施の形態について説明する。第2の実施の形態では第1の実施の形態と異なる点について説明する。第2の実施の形態において特に言及されない点については、第1の実施の形態と同様でもよい。
第2の実施の形態において、検知部16は、各学習器から出力された異常度の重み付け平均を、最終的な異常度として算出する。この際、教師データ又は学習データに基づく数値ベクトル群を学習器に入力した際のMSEの平均値が重みとして用いられる。
そこで、第2の実施の形態では、学習部14が、図4のステップS106を実行するたびに、教師データ又は学習データの数値ベクトル群に基づくデータ種別ごとの学習器から出力される学習結果を学習結果記憶部124に記憶する際に、データ種別ごとに、当該学習結果に基づく学習器へ各数値ベクトルを入力したデータ種別ごとの数値ベクトルを入力する。そうすることで、学習部14は、データ種別ごと、かつ、数値ベクトルごとに異常度を算出し、更に、データ種別ごとに異常度の平均を算出する。例えば、U=3であれば、データ種別ごとに3つの異常度が算出され、データ種別ごとに異常度の平均が算出される。データ種別ごとの異常度の平均は、学習結果と共に学習結果記憶部124に記憶される。したがって、「フローデータのMSE平均」、「MIBデータのMSE平均」、「CPU使用率のMSE平均」が記憶される。以下、それぞれを、β'_{train,1}、β'_{train,2}、β'_{train,3}と表記する。
検知処理において、観測データに基づくデータ種別ごとの数値ベクトルを各学習器に入力することで得られるMSEの平均を算出する際に、教師データ又は学習データに基づくMSEの平均が大きいデータ種別ほど、観測データに基づくMSEも大きくなることが考えられる。そこで、検知部16は、学習結果記憶部124に記憶されている、教師データ又は学習データに基づくMSEの平均を重みとして、データ種別ごとの異常度について重み付け平均を算出する。
具体的には、フローデータ、MIBデータ、CPU使用率の観測データに基づく数値ベクトルを、学習結果に基づく学習器に入力した時のMSEが、それぞれβ_{test,1}、β_{test,2}、β_{test,3}である場合、検知部16は、最終的な異常度βを、以下の計算式に基づいて計算する。
β=(β_{test,1}/β'_{train,1}+β_{test,2}/β'_{train,2}+β_{test,3}/β'_{train,3})/(1/β'_{train,1}+1/β'_{train,2}+1/β'_{train,3})
これは、重み係数を、教師データ又は学習データに基づくMSEの平均の逆数(1/β'_{train,i})とすることで、教師データ又は学習データに基づくMSEが大きいほど、観測データに基づくMSEの重みを小さくしていることを示す。
上述したように、第2の実施の形態によれば、正常時におけるデータ種別間の異常度の大きさの違いを考慮して、検知処理において最終的な異常度を算出することができる。
次に、第3の実施の形態について説明する。第3の実施の形態では第1の実施の形態と異なる点について説明する。第3の実施の形態において特に言及されない点については、第1の実施の形態と同様でもよい。
第3の実施の形態において、検知部16は、学習器ごとに(すなわち、データ種別ごとに)異常有無の判定を行い、少なくともいずれか一つのデータ種別に関して異常が有ると判定した場合に、最終的な判定結果を「異常有り」とする。
検知処理において、データ種別ごとに、観測データに基づく数値ベクトルを当該データ種別に係る学習器に入力した際に得られるMSEを、β_{test,1}、β_{test,2}、β_{test,3}とする。ここで、閾値は、データ種別ごとに予め定められているとし、それぞれθ_1、θ_2、θ_3と表記する。この場合、検知部16は、学習器iごとに、β_{test,i}≧θ_iの場合に異常有り、そうでない場合に異常無しと判定する。本実施の形態では、「フローデータ」、「MIBデータ」、「CPU使用率」の3種の学習器についてそれぞれ異常有無の判定が行われ、少なくともいずれか一つについて「異常有り」と判定された場合に、最終的な異常有無の判断が「異常有り」とされ、そうでない場合に「異常無し」とされる。
上述したように、第3の実施の形態によれば、第1の実施の形態と同様の効果を得ることができる。
次に、第4の実施の形態について説明する。第4の実施の形態では第3の実施の形態と異なる点について説明する。第4の実施の形態において特に言及されない点については、第3の実施の形態と同様でもよい。
第4の実施の形態において、検知部16は、各データ種別の学習器ごとに異常有無の判定を行った後に、全ての学習器について「異常有り」と判定した場合にのみ、最終的な判定結果を「異常有り」とする。例えば、「フローデータ」、「MIBデータ」、「CPU使用率」の3種の全ての学習器について「異常有り」と判定された場合にのみ、最終的な判定結果が「異常有り」となり、それ以外では最終的な判定結果が「異常無し」となる。
上述したように、第4の実施の形態によれば、第1の実施の形態と同様の効果を得ることができる。
次に、第5の実施の形態について説明する。第5の実施の形態では第3の実施の形態と異なる点について説明する。第5の実施の形態において特に言及されない点については、第3の実施の形態と同様でもよい。
第5の実施の形態において、検知部16は、各データ種別の学習器ごとに異常有無の判定を行った後に、「異常有り」と判定した学習器の数と「異常無し」と判定した学習器の数との多数決によって、最終的な異常有無の判定を行う。例えば、「フローデータ」、「MIBデータ」、「CPU使用率」の3種の学習器のうち、2つ以上について「異常有り」と判定された場合には、最終的な判定結果が「異常有り」となり、それ以外では最終的な判定結果が「異常無し」となる。学習器の数が偶数の場合、「異常有り」の数と「異常無し」の数が同数で合った場合の取扱いは、「異常有り」とするか「異常無し」とするか、又はランダムに決定するか等、予め定められる。
上述したように、第5の実施の形態によれば、第1の実施の形態と同様の効果を得ることができる。
次に、第6の実施の形態について説明する。第6の実施の形態では上記各実施の形態と異なる点について説明する。第6の実施の形態において特に言及されない点については、上記各実施の形態と同様でもよい。
第6の実施の形態では、データ種別ごとではなく、データ種別ごとの数値ベクトルのメトリック間の相関関係に基づくクラスタごとに、学習器が生成される例について説明する。すなわち、上記各実施の形態では、同一のデータ種別に属する各データ要素(メトリック)は相関が高いであろうという推定に基づいて、データ種別が、データ要素間(メトリック間)の相関の高さに基づいて分類される単位として用いられた。一方、第6の実施の形態では、斯かる推定に基づくのではなく、実際に各データ要素間(各メトリック間)の相関の高さに基づいて、データ要素群が複数の集合(以下のクラスタ)に分類され、当該集合が、データ要素間(メトリック間)の相関の高さに基づいて分類される単位とされる。
まず、第6の実施の形態では、図4のステップS103及び図5のステップS203において、単位時間ごとに、データ種別ごとではなく、1つの数値ベクトルxが生成される。例えば、フローデータの数値ベクトルの各メトリック、MIBデータの数値ベクトルの各メトリック、及びCPU使用率の各メトリックを要素として含む一つの数値ベクトルxが生成される。単位時間tにおける数値ベクトルxを、x_{i,t}(i=1,...,N,t=1,...,U)と表記する。
また、前処理部13は、図4のステップS103に続いて、図7に示される処理手順を実行する。
図7は、第6の実施の形態において前処理部13が追加的に実行する処理手順を説明するためのフローチャートである。
ステップS301において、前処理部13は、数値ベクトルxの各メトリックに独立なIDを付与する。
続いて、前処理部13は、2つのメトリックの全ての組ごとに、ピアソン相関係数を算出する(S302)。すなわち、メトリックi,j間の相関係数α_{i,j}が、(x_{i,1},...,x_{i,T})と、(x_{j,1},...,{j,U})とのピアソン相関係数により算出される(i=1,...,N、j=1,...,N、i<j)。
続いて、前処理部13は、ピアソン相関係数α_{i,j}に基づいて、多次元尺度構成法を用いて、予め定めたグループ数Kに各メトリックのIDをクラスタリングする(S303)。続いて、前処理部13は、各IDが、いずれのクラスタに分類されたのかを示す、IDとクラスタとの対応情報を学習結果記憶部124に記憶する(S304)。
なお、図7の処理手順は、1回実行されればよい。すなわち、図4のステップS108に続いて実行されなくてよい。
その他においては、上記各実施の形態におけるデータ種別が、クラスタに置き換えられればよい。例えば、図4のステップS106において、学習部14は、学習結果記憶部124に記憶されている対応情報に基づいて、クラスタごとに学習器を生成し、学習を行う。各学習器には、正規化された数値ベクトルのうち、当該学習器が対応するクラスタに分類されたIDに対応するメトリックが入力される。学習結果は、クラスタごとに学習結果記憶部124に記憶される。
また、図5のステップS205において、検知部16は、学習結果記憶部124に記憶されているクラスタごとの学習結果に基づいて、クラスタごとに学習器を生成する。検知部16は、各学習器に、正規化された数値ベクトルのうち、当該学習器が対応するクラスタに分類されたIDに対応するメトリックを入力する。なお、検知処理(図5)において、例えば、ステップS203に続いて、前処理部13は、図7のステップS301と同様に、数値ベクトルの各ベクトルに独立したIDを付与すればよい。
上述したように、第6の実施の形態によれば、より相関の高いメトリック群ごとに学習器を生成することができる。
なお、上記各実施の形態は、ネットワーク以外から収集されるデータに関して適用されてもよい。例えば、コンピュータシステムから収集されるデータに関して上記各実施の形態が適用されてもよい。
なお、上記各実施の形態において、前処理部13は、分類部の一例である。
以上、本発明の実施例について詳述したが、本発明は斯かる特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
10 異常検知装置
11 受信部
12 学習処理制御部
13 前処理部
14 学習部
15 検知処理制御部
16 検知部
20 測定装置
100 ドライブ装置
101 記録媒体
102 補助記憶装置
103 メモリ装置
104 CPU
105 インタフェース装置
121 教師データ記憶部
122 パラメータ記憶部
123 観測データ記憶部
124 学習結果記憶部
125 学習データ記憶部
B バス
N1 ネットワーク

Claims (8)

  1. 異常の検知対象が正常である場合に前記検知対象から得られる複数の種別のデータのデータ要素間の相関関係を、前記データ要素間の相関の高さに基づいて分類される単位ごとに、当該単位に関して生成される複数の学習器を用いて学習し、学習結果を出力する学習部と、
    前記検知対象から複数のタイミングで得られる複数の種別のデータのデータ要素群について、前記単位ごとに、当該単位に係る学習結果に基づいて、当該単位に分類されるデータ要素群の相関関係の崩れの程度を示す異常度を算出し、前記単位ごとの異常度に基づいて前記検知対象の異常を検知する検知部と、
    を有することを特徴とする異常検知装置。
  2. 前記単位は、前記種別ごとの単位である、
    ことを特徴とする請求項1記載の異常検知装置。
  3. 異常の検知対象が正常である場合に前記検知対象から得られる複数の種別のデータのデータ要素群を、相関の高さに基づいて複数の集合に分類する分類部を有し、
    前記単位は、前記集合ごとの単位である、
    ことを特徴とする請求項1記載の異常検知装置。
  4. 前記検知部は、
    前記単位ごとの異常度の平均、
    又は、異常の検知対象が正常である場合のデータ要素群について前記単位ごとに前記学習結果に基づいて算出される異常度を重みとする、前記単位ごとの異常度の重み付け平均、
    又は、少なくとも一つの前記単位に係る異常度が閾値を超えるか、
    又は、全ての前記単位に係る異常度が閾値を超えるか、
    又は、異常度が閾値を超える前記単位の数、
    に基づいて前記検知対象の異常を検知する、
    ことを特徴とする請求項1乃至3いずれか一項記載の異常検知装置。
  5. 異常の検知対象が正常である場合に前記検知対象から得られる複数の種別のデータのデータ要素間の相関関係を、前記データ要素間の相関の高さに基づいて分類される単位ごとに、当該単位に関して生成される複数の学習器を用いて学習し、学習結果を出力する学習手順と、
    前記検知対象から複数のタイミングで得られる複数の種別のデータのデータ要素群について、前記単位ごとに、当該単位に係る学習結果に基づいて、当該単位に分類されるデータ要素群の相関関係の崩れの程度を示す異常度を算出し、前記単位ごとの異常度に基づいて前記検知対象の異常を検知する検知手順と、
    をコンピュータが実行することを特徴とする異常検知方法。
  6. 前記単位は、前記種別ごとの単位である、
    ことを特徴とする請求項5記載の異常検知方法。
  7. 異常の検知対象が正常である場合に前記検知対象から得られる複数の種別のデータのデータ要素群を、相関の高さに基づいて複数の集合に分類する分類手順を有し、
    前記単位は、前記集合ごとの単位である、
    ことを特徴とする請求項5記載の異常検知方法。
  8. 請求項1乃至4いずれか一項記載の各部としてコンピュータを機能させるためのプログラム。
JP2017040589A 2017-03-03 2017-03-03 異常検知装置、異常検知方法及びプログラム Active JP6823501B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017040589A JP6823501B2 (ja) 2017-03-03 2017-03-03 異常検知装置、異常検知方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017040589A JP6823501B2 (ja) 2017-03-03 2017-03-03 異常検知装置、異常検知方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2018147172A true JP2018147172A (ja) 2018-09-20
JP6823501B2 JP6823501B2 (ja) 2021-02-03

Family

ID=63592180

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017040589A Active JP6823501B2 (ja) 2017-03-03 2017-03-03 異常検知装置、異常検知方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6823501B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102027389B1 (ko) * 2019-03-20 2019-10-01 (주)브이엠에스 오토인코더와 딥러닝을 이용한 기계 장비 고장 진단 장치
KR20200040469A (ko) * 2018-10-10 2020-04-20 주식회사 케이티 건물 내 설비의 이상을 탐지하는 방법, 시스템 및 컴퓨터 프로그램
KR20200056183A (ko) * 2018-11-14 2020-05-22 주식회사 디플리 이상 탐지 방법
WO2020166358A1 (ja) * 2019-02-13 2020-08-20 日本電信電話株式会社 ネットワーク情報収集装置及びその方法
JP2020125971A (ja) * 2019-02-04 2020-08-20 株式会社ジェイテクト 検査装置及び検査用学習モデル生成装置
JP2020166690A (ja) * 2019-03-29 2020-10-08 株式会社日立製作所 ストレージシステム、及び、データ記録方法
CN113196312A (zh) * 2019-01-18 2021-07-30 欧姆龙株式会社 模型生成装置、模型生成方法、模型生成程序、模型生成***、检查***以及监视***
WO2022055100A1 (ko) * 2020-09-11 2022-03-17 주식회사 뉴로클 이상 탐지 방법 및 이를 위한 장치
JP2022519348A (ja) * 2019-01-29 2022-03-23 アプライド マテリアルズ インコーポレイテッド 半導体製造装置ツールにおけるニューラルネットワークを用いたチャンバ整合化
KR20220071841A (ko) * 2020-11-24 2022-05-31 고려대학교 산학협력단 메시지 id 시퀀스를 활용한 무인 이동체 이상 탐지 모델

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000321176A (ja) * 1999-05-17 2000-11-24 Mitsui Eng & Shipbuild Co Ltd 異常検知方法および装置
JP2003256443A (ja) * 2002-03-05 2003-09-12 Fuji Xerox Co Ltd データ分類装置
JP2008097360A (ja) * 2006-10-12 2008-04-24 Matsushita Electric Works Ltd 異常監視装置
JP2008234551A (ja) * 2007-03-23 2008-10-02 Hitachi Ltd 異常検知装置及び異常検知プログラム
JP2010078768A (ja) * 2008-09-25 2010-04-08 Toshiba Corp 立体映像撮影装置および立体映像撮影システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000321176A (ja) * 1999-05-17 2000-11-24 Mitsui Eng & Shipbuild Co Ltd 異常検知方法および装置
JP2003256443A (ja) * 2002-03-05 2003-09-12 Fuji Xerox Co Ltd データ分類装置
JP2008097360A (ja) * 2006-10-12 2008-04-24 Matsushita Electric Works Ltd 異常監視装置
JP2008234551A (ja) * 2007-03-23 2008-10-02 Hitachi Ltd 異常検知装置及び異常検知プログラム
JP2010078768A (ja) * 2008-09-25 2010-04-08 Toshiba Corp 立体映像撮影装置および立体映像撮影システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
神村吏、木谷友哉: "位置情報を用いた二輪車モーションセンシングデータへの正解データ自動ラベリング手法の一提案", 情報処理学会研究報告 マルチメディア通信と分散処理(DPS) [ONLINE], vol. 第2013-DPS-157巻, 第6号, JPN6019012593, 2013, JP, pages 1 - 6, ISSN: 0004085327 *

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200040469A (ko) * 2018-10-10 2020-04-20 주식회사 케이티 건물 내 설비의 이상을 탐지하는 방법, 시스템 및 컴퓨터 프로그램
KR102285987B1 (ko) * 2018-10-10 2021-08-04 주식회사 케이티 건물 내 설비의 이상을 탐지하는 방법, 시스템 및 컴퓨터 프로그램
KR20200056183A (ko) * 2018-11-14 2020-05-22 주식회사 디플리 이상 탐지 방법
KR102600745B1 (ko) * 2018-11-14 2023-11-10 주식회사 디플리 신경망 분석 기반의 소리 분류용 이상 탐지 방법
CN113196312A (zh) * 2019-01-18 2021-07-30 欧姆龙株式会社 模型生成装置、模型生成方法、模型生成程序、模型生成***、检查***以及监视***
JP2022519348A (ja) * 2019-01-29 2022-03-23 アプライド マテリアルズ インコーポレイテッド 半導体製造装置ツールにおけるニューラルネットワークを用いたチャンバ整合化
JP7200387B2 (ja) 2019-01-29 2023-01-06 アプライド マテリアルズ インコーポレイテッド 半導体製造装置ツールにおけるニューラルネットワークを用いたチャンバ整合化
JP2020125971A (ja) * 2019-02-04 2020-08-20 株式会社ジェイテクト 検査装置及び検査用学習モデル生成装置
JP7283096B2 (ja) 2019-02-04 2023-05-30 株式会社ジェイテクト 検査装置及び検査用学習モデル生成装置
US11604170B2 (en) 2019-02-04 2023-03-14 Jtekt Corporation Inspection device and inspection learning model generation device
JP2020136724A (ja) * 2019-02-13 2020-08-31 日本電信電話株式会社 ネットワーク情報収集装置及びその方法
US11444857B2 (en) 2019-02-13 2022-09-13 Nippon Telegraph And Telephone Corporation Network information collection device and method therefor
JP7193725B2 (ja) 2019-02-13 2022-12-21 日本電信電話株式会社 ネットワーク情報収集装置及びその方法
WO2020166358A1 (ja) * 2019-02-13 2020-08-20 日本電信電話株式会社 ネットワーク情報収集装置及びその方法
KR102027389B1 (ko) * 2019-03-20 2019-10-01 (주)브이엠에스 오토인코더와 딥러닝을 이용한 기계 장비 고장 진단 장치
JP7140705B2 (ja) 2019-03-29 2022-09-21 株式会社日立製作所 ストレージシステム、及び、データ記録方法
JP2020166690A (ja) * 2019-03-29 2020-10-08 株式会社日立製作所 ストレージシステム、及び、データ記録方法
WO2022055100A1 (ko) * 2020-09-11 2022-03-17 주식회사 뉴로클 이상 탐지 방법 및 이를 위한 장치
KR20220071841A (ko) * 2020-11-24 2022-05-31 고려대학교 산학협력단 메시지 id 시퀀스를 활용한 무인 이동체 이상 탐지 모델
KR102476359B1 (ko) * 2020-11-24 2022-12-09 고려대학교 산학협력단 메시지 id 시퀀스를 활용한 무인 이동체 이상 탐지 모델

Also Published As

Publication number Publication date
JP6823501B2 (ja) 2021-02-03

Similar Documents

Publication Publication Date Title
JP6823501B2 (ja) 異常検知装置、異常検知方法及びプログラム
JP6564799B2 (ja) 閾値決定装置、閾値決定方法及びプログラム
JP4786908B2 (ja) 障害検出および診断
WO2018142703A1 (ja) 異常要因推定装置、異常要因推定方法及びプログラム
US9386030B2 (en) System and method for correlating historical attacks with diverse indicators to generate indicator profiles for detecting and predicting future network attacks
JP6183450B2 (ja) システム分析装置、及び、システム分析方法
WO2017087440A1 (en) Anomaly fusion on temporal casuality graphs
WO2016017208A1 (ja) 監視システム、監視装置、および検査装置
GB2478066A (en) Identifying errors in a computer system using the relationships between the sources of log messages
Ntalampiras et al. A fault diagnosis system for interdependent critical infrastructures based on HMMs
EP3316520A1 (en) Bfd method and apparatus
JP2009217382A (ja) 障害分析システム、障害分析方法、障害分析サーバおよび障害分析プログラム
CN108154230A (zh) 深度学习处理器的监控方法和监控装置
US10904271B2 (en) Active prioritization of investigation targets in network security
JP7086230B2 (ja) プロトコルに依存しない異常検出
CN114363212A (zh) 一种设备检测方法、装置、设备和存储介质
JP6858798B2 (ja) 特徴量生成装置、特徴量生成方法及びプログラム
WO2020044898A1 (ja) 機器状態監視装置及びプログラム
JP6781776B2 (ja) 特徴量生成装置、特徴量生成方法及びプログラム
Kilinçer et al. Automatic fault detection with Bayes method in university campus network
JP2009267892A (ja) 巨大フロー特定方法とシステムおよびプログラムとフロー制御システム
JP7272189B2 (ja) 情報処理装置、無線通信システム、情報処理方法及びプログラム
JP2006033715A (ja) ネットワークe2e性能評価システムと方法およびプログラム
Shafin et al. Whose Data are Reliable: Sensor Declared Data Reliability
JP2016146555A (ja) サービス影響原因推定装置、サービス影響原因推定プログラム、及びサービス影響原因推定方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180502

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190129

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190416

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190628

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20190628

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190705

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20190709

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20190802

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20190806

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200402

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200807

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201007

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20201126

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210107

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210108

R150 Certificate of patent or registration of utility model

Ref document number: 6823501

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150