JPWO2017081866A1 - ログ分析システム、方法およびプログラム - Google Patents

ログ分析システム、方法およびプログラム Download PDF

Info

Publication number
JPWO2017081866A1
JPWO2017081866A1 JP2017549986A JP2017549986A JPWO2017081866A1 JP WO2017081866 A1 JPWO2017081866 A1 JP WO2017081866A1 JP 2017549986 A JP2017549986 A JP 2017549986A JP 2017549986 A JP2017549986 A JP 2017549986A JP WO2017081866 A1 JPWO2017081866 A1 JP WO2017081866A1
Authority
JP
Japan
Prior art keywords
sequence
log
format
logs
analysis system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017549986A
Other languages
English (en)
Other versions
JP7006272B2 (ja
Inventor
遼介 外川
遼介 外川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2017081866A1 publication Critical patent/JPWO2017081866A1/ja
Application granted granted Critical
Publication of JP7006272B2 publication Critical patent/JP7006272B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0766Error or fault reporting or storing
    • G06F11/0775Content or structure details of the error report, e.g. specific table structure, specific error fields
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466Performance evaluation by tracing or monitoring
    • G06F11/3476Data logging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/40Data acquisition and logging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting
    • G06F40/174Form filling; Merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本発明は、相関関係を有するログを集約して出力することができるログ分析システム、方法およびプログラムを提供する。本発明の一実施形態に係るログ分析システム100は、分析対象ログ10のうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定するシーケンス判定部130と、シーケンス判定部によりシーケンスに合致すると判定された複数のログを、シーケンスに基づいて集約して出力するログ集約部140と、を備える。

Description

本発明は、ログの分析を行うためのログ分析システム、方法およびプログラムに関する。
コンピュータ上で実行されるシステムにおいては、イベントの結果やメッセージ等を含むログが出力される。システム異常の原因の追及等のためにログ分析を行う際、ユーザ(オペレータ等)はシステムから出力される多数のログを参照する必要がある。ユーザへの負担を軽減するために、ログを見やすく出力することが求められている。
特許文献1には、ユーザにより入力されたキーワードに従ってログを抽出するとともに、該ログの出現位置を時系列のマップ中に表示する技術が開示されている。特許文献1の技術を用いることによって、ユーザは特定のキーワードを含むログを取得することができ、また該ログが出現するタイミングや分布を視覚的に知ることができる。
特開2005−141663号公報
一般的なシステムには複数の装置およびプログラムが含まれており、それらの装置およびプログラムからは複数の種類のログデータ(例えばログファイル等)が出力される。しかしながら、特許文献1の技術はキーワードを含むか否かに基づいてログを抽出するため、複数の種類のログデータからログ同士の相関関係に基づいてログを抽出することはできない。複数のログの相関関係を分析するために、ユーザは複数の種類のログデータから関連箇所を見つけ出す必要がある。
本発明は、上述の問題に鑑みて行われたものであって、相関関係を有するログを集約して出力することができるログ分析システム、方法およびプログラムを提供することを目的とする。
本発明の第1の態様は、ログ分析システムであって、分析対象ログのうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定するシーケンス判定部と、前記シーケンス判定部により前記シーケンスに合致すると判定された前記複数のログを、前記シーケンスに基づいて集約して出力するログ集約部と、を備える。
本発明の第2の態様は、ログ分析方法であって、分析対象ログのうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定する工程と、前記シーケンスに合致すると判定された前記複数のログを、前記シーケンスに基づいて集約して出力する工程と、を備える。
本発明の第3の態様は、ログ分析プログラムであって、コンピュータに、分析対象ログのうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定する工程と、前記シーケンスに合致すると判定された前記複数のログを、前記シーケンスに基づいて集約して出力する工程と、を実行させる。
本発明によれば、複数のログが予め決められたシーケンスに合致するか否かに基づき、所定の相関関係を有する複数のログを集約して出力することができる。
第1の実施形態に係るログ分析システムのブロック図である。 第1の実施形態に係る分析対象ログの模式図である。 第1の実施形態に係るフォーマットの模式図である。 第1の実施形態に係るシーケンスの模式図である。 第1の実施形態に係る集約結果の模式図である。 第1の実施形態に係る集約結果を表示する画面の模式図である。 第1の実施形態に係る集約結果を表示する画面の模式図である。 第1の実施形態に係るログ分析システムの概略構成図である。 第1の実施形態に係るログ分析システムを用いるログ分析方法のフローチャートを示す図である。 第2の実施形態に係るシーケンスの模式図である。 第2の実施形態に係るシーケンスの模式図である。 第2の実施形態に係るシーケンスの模式図である。 第2の実施形態に係る集約結果の模式図である。 第3の実施形態に係るログ分析システムのブロック図である。 第4の実施形態に係るシーケンス編集画面の模式図である。 第4の実施形態に係るシーケンス編集画面の模式図である。 各実施形態に係るログ分析システムのブロック図である。
以下、図面を参照して、本発明の実施形態を説明するが、本発明は本実施形態に限定されるものではない。なお、以下で説明する図面で、同機能を有するものは同一符号を付け、その繰り返しの説明は省略することもある。
(第1の実施形態)
図1は、本実施形態に係るログ分析システム100のブロック図である。図1において、矢印は主なデータの流れを示しており、図1に示したもの以外のデータの流れがあってよい。図1において、各ブロックはハードウェア(装置)単位の構成ではなく、機能単位の構成を示している。そのため、図1に示すブロックは単一の装置内に実装されてよく、あるいは複数の装置内に別れて実装されてよい。ブロック間のデータの授受は、データバス、ネットワーク、可搬記憶媒体等、任意の手段を介して行われてよい。
ログ分析システム100は、処理部として、ログ入力部110、フォーマット判定部120、シーケンス判定部130、ログ集約部140および出力部150を備える。また、ログ分析システム100は、記憶部として、フォーマット記憶部161およびシーケンス記憶部162を備える。
ログ入力部110は、分析対象ログ10を取得し、ログ分析システム100に入力する。分析対象ログ10は、ログ分析システム100の外部から取得されてよく、あるいはログ分析システム100の内部に予め記録されたものを読み出すことにより取得されてよい。分析対象ログ10は、1つ以上の装置又はプログラムから出力される1つ以上のログを含む。分析対象ログ10は、任意のデータ形式(ファイル形式)で表されたログであり、例えばバイナリデータ又はテキストデータでよい。また、分析対象ログ10はデータベースのテーブルとして記録されてよく、あるいはテキストファイルとして記録されてよい。
図2Aは、例示的な分析対象ログ10の模式図である。本実施形態における分析対象ログ10は、装置又はプログラムから出力される1つのログを1単位とし、1つ以上の任意の数のログを含む。1つのログは1行の文字列でよく、あるいは複数行の文字列でよい。すなわち、分析対象ログ10は分析対象ログ10に含まれるログの総体を指し、ログは分析対象ログ10から抜き出された1つのログを指す。各ログは、タイムスタンプおよびメッセージ等を含む。
分析対象ログ10は、第1のログデータ11および第2のログデータ12からなる。第1のログデータ11および第2のログデータ12は別々のデータ(例えばファイル、テーブル等)として記録され、それぞれ1つ以上のログを含む。第1のログデータ11および第2のログデータ12にはそれぞれ識別子(例えばmessage.log、syslog.logのようなファイル名)が付されて区別される。ログデータの数はこれに限られず、1つ以上の任意の数でよい。
フォーマット判定部120は、形式判定部であり、分析対象ログ10(第1のログデータ11および第2のログデータ12)に含まれる各ログに対して、フォーマット記憶部161に予め記録されているいずれのフォーマットに適合するかを判定し、適合するフォーマットを用いて各ログを変数と共通部分とに分離する。フォーマットとは、既知のログの形式である。変数とはフォーマットの中で変化可能な部分であり、共通部分とはログのフォーマットの中で変化しない部分である。入力されたログ中の変数の値(数値、文字列およびその他のデータを含む)を変数値と呼ぶ。
図2Bは、フォーマット記憶部161に記録される例示的なフォーマットの模式図である。フォーマットは、一意のIDに関連付けられたフォーマットを表す文字列を含む。フォーマットは、ログ中の変化可能な部分に所定の識別子を記載することによって変数として規定し、ログ中の変数以外の部分を共通部分として規定する。変数の識別子として、例えば「<変数:タイムスタンプ>」はタイムスタンプを表す変数を示し、「<変数:文字列>」は任意の文字列を表す変数を示し、「<変数:数値>」は任意の数値を表す変数を示し、「<変数:IP>」は任意のIPアドレスを表す変数を示す。変数の識別子はこれらに限られず、正規表現や、取り得る値のリスト等の任意の方法により定義されてよい。また、フォーマットは変数を含まずに共通部分のみによって構成されてよく、あるいは共通部分を含まずに変数のみによって構成されてよい。
例えば、フォーマット判定部120は、第2のログデータ12の2行目のログを、図2BのIDが223であるフォーマットに適合すると判定する。そして、フォーマット判定部120は、判定されたフォーマットに基づいて該ログを処理し、タイムスタンプである「2015/08/17 08:29:59」、文字列である「SV003」およびIPアドレスである「192.168.1.23」を変数値として決定する。
図2Bにおいて、フォーマットは視認性のために文字列のリストで表されているが、任意のデータ形式(ファイル形式)で表されてよく、例えばバイナリデータ又はテキストデータでよい。また、フォーマットはテキストファイルとしてフォーマット記憶部161に記録されてよく、あるいはデータベースのテーブルとしてフォーマット記憶部161に記録されてよい。
シーケンス判定部130は、ログ分析部であり、フォーマット判定部120によりフォーマットが判定されたログに対して、シーケンス記憶部162に記録されたシーケンス情報に基づいてシーケンスの判定を行う。シーケンス情報は、ログに係る情報に基づいてログを出力する順序(シーケンス)を定義する情報である。
図2Cは、シーケンス記憶部162に記録される例示的なシーケンス情報の模式図である。シーケンス情報は、シーケンスの識別子であるシーケンスIDに関連付けられた、シーケンスを定義するフォーマットIDのリストを含む。各シーケンスは、シーケンス記憶部162に記録されたフォーマットIDの順序でログを出力することを定義する。シーケンスを定義するために用いられるログの内容は、フォーマットIDに限られず、ログに含まれる変数値、ログの識別子(ファイル名)等、分析対象のログに係る任意の情報でよい。シーケンス判定部130は、フォーマット判定部120によりフォーマットが判定されたログから、シーケンス記憶部162に記録されたいずれかのシーケンスに合致するものを抽出する。そして、ログ集約部140はシーケンス判定部130により判定されたシーケンスに従って、該シーケンスに合致するログを並び替え、集約して出力する。シーケンス判定部130によるシーケンス判定処理は、複数の種類のログデータ(例えば第1のログデータ11および第2のログデータ12)に対して行われてよく、あるいは1つのログデータに対して行われてよい。本実施形態においてシーケンス判定部130は、シーケンスとして定義された順序でログを出力するが、順序に関係なくフォーマットIDのリストに含まれるログを集約して出力してもよい。
例えば、シーケンス判定部130は、第1のログデータ11の2行目および3行目のログのフォーマットIDが039であり、第2のログデータ12の2行目のログのフォーマットIDが223であることから、これらのログは図2CのシーケンスIDがAのシーケンス(シーケンスAと呼ぶ)に合致すると判定する。そして、シーケンス判定部130は、これらのログをシーケンスAに合致するものとして抽出する。ログ集約部140は、シーケンスAに従って該ログを並び替え、集約して出力する。1つのシーケンスに複数のログの組が合致してもよい。シーケンス判定部130は、他のシーケンスIDについて判定を繰り返す。
図3は、ログ集約部140による例示的な集約結果を示す模式図である。集約結果は、互いに関連付けられた、ログを含むファイル名、ログ、ログのフォーマットID、およびログ集約部140により判定されたシーケンスIDを含む。このように、ログのフォーマットIDが図2Cに示すシーケンス定義に合致している一群のログに対して、該シーケンス定義に対応するシーケンスIDが記録される。図3に示す集約結果は一例であり、任意の形式で記録されてよい。図3において集約結果は視認性のために文字列のリストで表されているが、任意のデータ形式(ファイル形式)で表されてよく、例えばバイナリデータ又はテキストデータでよい。また、集約結果は複数のファイル又はテーブルに別れて記録されてもよい。
出力部150は、ログ集約部140による集約結果の出力を行う。本実施形態において、出力部150は表示装置20に集約結果を出力し、表示装置20はユーザに向けて集約結果を画像として表示する。表示装置20は、画像を表示するための液晶ディスプレイ、CRT(Cathode Ray Tube)ディスプレイ等の表示部を備える。
図4A、4Bは、表示装置20を用いる例示的な集約結果の表示画面を示す模式図である。図4Aに示す画面Cは、ログ集約部140による集約結果に従って、各シーケンスの見出しC1を表示する。見出しC1は、シーケンスに合致するログの時間範囲および件数を含む。見出しC1はその他の情報を含んでよい。
ユーザが入力装置を用いて特定のシーケンスの見出しC1を選択すると、図4Bに示すように、画面Cは該シーケンスに合致するログC2を展開して表示する。選択されたシーケンス中のログC2は、ログ中のタイムスタンプに基づいて時間順に並び替えられて表示される。図4Bでは、シーケンスAに合致するログC2が上から古い順に表示されているが、逆の順でもよい。各ログC2の先頭には、そのログが含まれるログデータの識別子(ここではファイル名)が表示される。
図4A、4Bに示す画面は一例であり、ログ集約部140による集約結果をユーザに対して視認可能にログを表示できれば、いずれの表示方法を用いてもよい。ユーザは図4A、4Bの画面を参照することによって、予め登録されたシーケンスに合致するログをまとめて取得することができ、複数のログデータにまたがるログを時系列で見ることができる。
集約結果の出力方法は、ユーザに向けた画像表示に限られない。例えば、出力部150は集約結果をデータとして出力し、ログ分析システム100又はその他システムは出力部150からの集約結果のデータに対して分析処理、統計処理等を行ってもよい。
図5は、本実施形態に係るログ分析システム100の例示的な機器構成を示す概略構成図である。ログ分析システム100は、CPU(Central Processing Unit)101と、メモリ102と、記憶装置103と、通信インターフェース104とを備える。ログ分析システム100は、表示装置20に通信インターフェース104を介して接続されてよく、あるいは表示装置20を含んでよい。ログ分析システム100は独立した装置でよく、あるいは他の装置と一体に構成されてよい。
通信インターフェース104は、データの送受信を行う通信部であり、有線通信および無線通信の少なくとも一方の通信方式を実行可能に構成される。通信インターフェース104は、該通信方式に必要なプロセッサ、電気回路、アンテナ、接続端子等を含む。通信インターフェース104は、CPU101からの信号に従って、該通信方式を用いてネットワークに接続され、通信を行う。通信インターフェース104は、例えば分析対象ログ10を外部から受信する。
記憶装置103は、ログ分析システム100が実行するプログラムや、プログラムによる処理結果のデータ等を記憶する。記憶装置103は、読み取り専用のROM(Read Only Memory)や、読み書き可能のハードディスクドライブ又はフラッシュメモリ等を含む。また、記憶装置103は、CD−ROM等のコンピュータ読取可能な可搬記憶媒体を含んでもよい。メモリ102は、CPU101が処理中のデータや記憶装置103から読み出されたプログラムおよびデータを一時的に記憶するRAM(Random Access Memory)等を含む。
CPU101は、処理に用いる一時的なデータをメモリ102に一時的に記録し、記憶装置103に記録されたプログラムを読み出し、該プログラムに従って該一時的なデータに対して種々の演算、制御、判別などの処理動作を実行する処理部としてのプロセッサである。また、CPU101は、記憶装置103に処理結果のデータを記録し、また通信インターフェース104を介して処理結果のデータを外部に送信する。
本実施形態においてCPU101は、記憶装置103に記録されたプログラムを実行することによって、図1のログ入力部110、フォーマット判定部120、シーケンス判定部130、ログ集約部140および出力部150として機能する。また、本実施形態において記憶装置103は、図1のフォーマット記憶部161およびシーケンス記憶部162として機能する。
ログ分析システム100は、図5に示す具体的な構成に限定されない。ログ分析システム100は、1つの装置に限られず、2つ以上の物理的に分離した装置が有線又は無線で接続されることにより構成されていてもよい。ログ分析システム100に含まれる各部は、それぞれ電気回路構成により実現されていてもよい。ここで、電気回路構成とは、単一のデバイス、複数のデバイス、チップセット又はクラウドを概念的に含む文言である。
また、ログ分析システム100の少なくとも一部がSaaS(Software as a Service)形式で提供されてよい。すなわち、ログ分析システム100を実現するための機能の少なくとも一部が、ネットワーク経由で実行されるソフトウェアによって実行されてよい。
図6は、本実施形態に係るログ分析システム100を用いるログ分析方法のフローチャートを示す図である。まず、ログ入力部110は、分析対象ログ10を取得し、ログ分析システム100に入力する(ステップS101)。フォーマット判定部120は、ステップS101で入力された分析対象ログ10に含まれる1つのログを判定対象として、フォーマット記憶部161に記録されたいずれかのフォーマットに適合するか否かを判定する(ステップS102)。
ステップS102において判定対象のログがフォーマット記憶部161に記録されたいずれのフォーマットにも適合しない場合には(ステップS103のNO)、分析対象ログ10の次のログを判定対象としてステップS102〜S103を繰り返す。
ステップS102において判定対象のログがフォーマット記憶部161に記録されたいずれかのフォーマットに適合した場合には(ステップS103のYES)、フォーマット判定部120は、該フォーマットを用いて判定対象のログを変数と共通部分とに分離する(ステップS104)。フォーマット判定部120は、判定対象のログ中の変数値を記録する。
分析対象ログ10中の全てのログに対して分析が終了していない場合には(ステップS105のNO)、分析対象ログ10の次のログを判定対象としてステップS102〜S105を繰り返す。
分析対象ログ10中の全てのログに対して分析が終了した場合には(ステップS105のYES)、ステップS104においてフォーマットが判定されたログに対して、シーケンス記憶部162に記録されたいずれのシーケンスに合致するかを判定し、シーケンスに合致するログを抽出する(ステップS106)。そして、ログ集約部140は、ステップS106においてシーケンスに合致すると判定されたログを、該シーケンスに従って並び替え、集約して出力する(ステップS107)。
最後に、出力部150は、ステップS106で取得された集約結果を表示装置20に出力し、ユーザに向けて表示させる(ステップS108)。
以上のように、ログ分析システム100は、予め登録されたシーケンスに従ってログを集約して表示する。そのため、ユーザはログ同士の相関関係に基づいて抽出および並べられたログを参照してログ分析を行うことができる。また、複数の種類のログデータから横断してログを集約できるため、ユーザが複数のログデータを参照してログ分析を行う負担を軽減することができる。
(第2の実施形態)
第1の実施形態はフォーマットの識別子(フォーマットID)を用いてシーケンスを定義するのに対して、本実施形態はログに係る他の情報を用いてシーケンスを定義する。本実施形態において用いる装置および実行する処理は、第1の実施形態と同様である。
図7Aは、本実施形態に係る第1のシーケンス情報の模式図である。図7Aに示すシーケンス情報は、シーケンスの識別子であるシーケンスIDに関連付けられた、フォーマットIDおよび変数値の組のリストを含む。例えば、図7Aにおける「300(Start)」という文字列は、フォーマットID「300」と変数値「Start」とが組になっていることを定義する。
シーケンス判定部130は、フォーマット判定部120によりフォーマットが判定されたログのうち、該フォーマットがシーケンス記憶部162に記録されたシーケンスのフォーマットIDに合致するとともに、該フォーマットIDの組となっている変数値を含むログを抽出する。このような構成により、ログが該当するフォーマットの識別子だけでなく、ログに含まれる変数値に基づいてシーケンスの判定ができる。
図8は、図7Aに示す第1のシーケンス情報を用いて生成した例示的な集約結果を示す模式図である。集約結果は、互いに関連付けられた、ログを含むファイル名、ログ、ログのフォーマットID、およびログ集約部140により判定されたシーケンスIDを含む。この集約結果においては、図7Aの第1のシーケンス情報に従って、フォーマットIDが「300」であり、かつ「Start」、「Retry」、「End」の変数値を含むログが集約されている。
図7Bは、本実施形態に係る第2のシーケンス情報の模式図である。図7Bに示すシーケンス情報は、シーケンスの識別子であるシーケンスIDに関連付けられた、変数値のリストを含む。さらに、各フォーマットIDには、ログデータの識別子であるファイル名が付されている。
シーケンス判定部130は、フォーマット判定部120によりフォーマットが判定されたログのうち、該ログがシーケンス記憶部162に記録された変数値を含むログを抽出する。このような構成により、ログに含まれる変数値に基づいてシーケンスの判定ができる。
図7Cは、本実施形態に係る第3のシーケンス情報の模式図である。図7Cに示すシーケンス情報は、シーケンスの識別子であるシーケンスIDに関連付けられた、フォーマットIDおよびログデータの識別子としてのファイル名の組のリストを含む。例えば、図7Cにおける「039(message.log)」という文字列は、フォーマットID「039」とファイル名「message.log」とが組になっていることを定義する。
シーケンス判定部130は、フォーマット判定部120によりフォーマットが判定されたログのうち、該フォーマットがシーケンス記憶部162に記録されたシーケンスのフォーマットIDに合致するとともに、該フォーマットIDの組となっているファイル名のログデータに含まれるログを抽出する。このような構成により、ログが該当するフォーマットの識別子だけでなく、ログが含まれるログデータの識別子(ファイル名)に基づいてシーケンスの判定ができる。
図7A〜7Cのシーケンス情報を組み合わせ、ログデータの識別子、フォーマットの識別子および変数値を用いてシーケンスを定義してよい。また、さらにログに関する別の情報を組み合わせて用いることによってシーケンスを定義してもよい。
以上のように、本実施形態では、分析対象のログに係る様々な情報を用いてシーケンスの判定を行い、ログの集約を行うことができる。
(第3の実施形態)
図9は、本実施形態に係るログ分析システム100−1のブロック図である。ログ分析システム100−1は、図1の構成に加えて、フォーマット学習部171およびシーケンス学習部172を備える。
フォーマット学習部171は、フォーマット判定部120がフォーマットの判定を行う際、判定対象のログがフォーマット記憶部161に記録されているいずれのフォーマットにも適合しない場合に、新たなフォーマットを作成してフォーマット記憶部161に記録する。
フォーマット学習部171がフォーマットを学習するための第1の方法として、フォーマット学習部171は、フォーマットが未知である複数のログを蓄積し、それらに対して統計的に変化する変数と変化しない共通部分とを分離することによって、新たなフォーマットとして定義することができる。フォーマット学習部171がフォーマットを学習するための第2の方法として、フォーマット学習部171は、既知の変数値のリストを読み込み、フォーマットが未知であるログの中で既知の変数値と一致する又は類似する部分を変数と判定し、それ以外の部分を共通部分と判定することによって、新たなフォーマットを定義することができる。既知の変数値として、値そのものを用いてよく、あるいは正規表現のようなパターンを用いてよい。フォーマットの学習方法はこれらに限られず、入力されたログに対して新たなフォーマットを定義することが可能な任意の学習アルゴリズムを用いてよい。
シーケンス学習部172は、シーケンス判定部130がシーケンスの判定を行う際、判定対象のログがシーケンス記憶部162に記録されているいずれのシーケンスにも合致しない場合に、該ログのフォーマットおよびフォーマットの組み合わせ毎に出現回数(頻度)をカウントする。シーケンス学習部172は、あるフォーマットの組み合わせについて算出した頻度が所定の閾値以上になった場合に、当該フォーマットの組み合わせに基づいて、新たなシーケンスを作成し、シーケンス記憶部162に記録する。
シーケンス学習部172は、ユーザによる入力に基づいて新たなシーケンスを定義してもよい。この場合には、ユーザは入力装置を介してシーケンスを定義したいログの組み合わせを指定すると、シーケンス学習部172は当該ログのフォーマットの組み合わせに基づいて新たなシーケンスを作成し、シーケンス記憶部162に記録する。シーケンスの学習方法はこれらに限られず、入力されたログから新たにシーケンスを定義することが可能な任意の学習アルゴリズムを用いてよい。
以上のように、ログ分析システム100−1は、フォーマットおよびシーケンスの学習部を備えるため、未知のフォーマットおよびシーケンスのログから新たにフォーマットおよびシーケンスを生成し、記録することができる。
(第4の実施形態)
本実施形態は、シーケンス情報の編集を行うための画面を提供する。図10A、10Bは、表示装置20を用いる例示的なシーケンス情報の編集画面を示す模式図である。図10Aに示す画面Dは、分析対象ログ10から指定されたログをシーケンスに追加するための画面である。画面Dは、分析対象ログ10中のログD1と、シーケンスIDを選択するための選択ボックスD2と、選択した内容を登録するための設定ボタンD3とを含む。
ユーザは、入力装置を用いて、シーケンスに追加したい1つ以上のログD1に対して、選択ボックスD2上でシーケンスIDを選択した後、設定ボタンD3を押下する。その後、ログ分析システム100は、シーケンス記憶部162に記録されたシーケンス情報において、選択ボックスD2上で選択されたシーケンスIDに対して、シーケンスに追加したいログD1に対応するフォーマットIDを追加する。シーケンス記憶部162に選択ボックスD2上で選択されたシーケンスIDがシーケンス記憶部162のシーケンス情報に未登録である場合には、選択ボックスD2上で選択されたシーケンスIDと、シーケンスに追加したいログD1に対応するフォーマットIDとの組を新たに記録する。
図10Bに示す画面Eは、シーケンス記憶部162に記録されたシーケンス情報を変更するための画面である。画面Eは、シーケンス記憶部162中のシーケンスIDを表示するシーケンスID欄E1と、該シーケンスIDに関連付けられたフォーマットIDを表示するフォーマットID欄E2と、順序変更ボタンE3と、削除ボタンE4と、設定ボタンE5とを含む。
フォーマットID欄E2は、シーケンスIDに関連付けられたフォーマットIDを、シーケンス記憶部162中のシーケンス情報により定義された順番で上から下に表示する。順序変更ボタンE3は、フォーマットID欄E2のフォーマットIDを移動させるボタンであり、押下される度にフォーマットIDが上又は下に1つ移動する。また、削除ボタンE4は、フォーマットID欄E2のフォーマットIDを削除するボタンであり、押下されるとフォーマットIDを削除する。
ユーザは、入力装置を用いて、順序変更ボタンE3によるフォーマットIDの順序変更、又は削除ボタンE4によりフォーマットIDの削除を行った後、設定ボタンE5を押下する。その後、ログ分析システム100は、シーケンス記憶部162に記録されたシーケンス情報において、画面Eで設定されたようにフォーマットIDの順序を変更し、又はフォーマットIDを削除する。
図10A、10Bに示す画面は一例であり、シーケンス記憶部162中のシーケンス情報を編集可能であれば、どのような画面を用いてもよい。
(その他の実施形態)
図11は、上述の各実施形態に係るログ分析システム100の概略構成図である。図11には、ログ分析システム100がログのシーケンスに基づいてログの分析を行う装置として機能するための構成例が示されている。ログ分析システム100は、分析対象ログ10のうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定するシーケンス判定部130と、シーケンス判定部130によりシーケンスに合致すると判定された複数のログを、シーケンスに基づいて集約して出力するログ集約部140と、を備える。
本発明は、上述の実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において適宜変更可能である。
上述の実施形態の機能を実現するように該実施形態の構成を動作させるプログラム(より具体的には、図6に示す処理をコンピュータに実行させるプログラム)を記録媒体に記録させ、該記録媒体に記録されたプログラムをコードとして読み出し、コンピュータにおいて実行する処理方法も各実施形態の範疇に含まれる。すなわち、コンピュータ読取可能な記録媒体も各実施形態の範囲に含まれる。また、上述のプログラムが記録された記録媒体はもちろん、そのプログラム自体も各実施形態に含まれる。
該記録媒体としては例えばフロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、磁気テープ、不揮発性メモリカード、ROMを用いることができる。また該記録媒体に記録されたプログラム単体で処理を実行しているものに限らず、他のソフトウェア、拡張ボードの機能と共同して、OS上で動作して処理を実行するものも各実施形態の範疇に含まれる。
上述の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
分析対象ログのうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定するシーケンス判定部と、
前記シーケンス判定部により前記シーケンスに合致すると判定された前記複数のログを、前記シーケンスに基づいて集約して出力するログ集約部と、
を備えるログ分析システム。
(付記2)
前記シーケンスは、前記複数のログに係る情報と、前記複数のログを出力する順序とを関連付ける情報である付記1に記載のログ分析システム。
(付記3)
前記複数のログが予め決められたいずれの形式に合致するかを判定する形式判定部をさらに備え、
前記複数のログに係る情報は、前記形式を示す情報を含む付記2に記載のログ分析システム。
(付記4)
前記形式判定部は、前記形式に基づいて前記複数のログから変数値を抽出するように構成され、
前記複数のログに係る情報は、前記変数値を示す情報を含む付記3に記載のログ分析システム。
(付記5)
前記分析対象ログは複数のデータからなり、
前記シーケンス判定部は、前記複数のデータから読み取った前記複数のログに対して判定を行うように構成される付記1〜4のいずれか一項に記載のログ分析システム。
(付記6)
前記シーケンスに合致しないと判定された前記複数のログに基づいて、前記シーケンスを新たに生成するシーケンス学習部をさらに備える付記1〜5のいずれか一項に記載のログ分析システム。
(付記7)
分析対象ログのうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定する工程と、
前記シーケンスに合致すると判定された前記複数のログを、前記シーケンスに基づいて集約して出力する工程と、
を備えるログ分析方法。
(付記8)
コンピュータに、
分析対象ログのうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定する工程と、
前記シーケンスに合致すると判定された前記複数のログを、前記シーケンスに基づいて集約して出力する工程と、
を実行させるログ分析プログラム。
この出願は、2015年11月13日に出願された日本出願特願2015−223053を基礎とする優先権を主張し、その開示の全てをここに取り込む。

Claims (8)

  1. 分析対象ログのうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定するシーケンス判定部と、
    前記シーケンス判定部により前記シーケンスに合致すると判定された前記複数のログを、前記シーケンスに基づいて集約して出力するログ集約部と、
    を備えるログ分析システム。
  2. 前記シーケンスは、前記複数のログに係る情報と、前記複数のログを出力する順序とを関連付ける情報である請求項1に記載のログ分析システム。
  3. 前記複数のログが予め決められたいずれの形式に合致するかを判定する形式判定部をさらに備え、
    前記複数のログに係る情報は、前記形式を示す情報を含む請求項2に記載のログ分析システム。
  4. 前記形式判定部は、前記形式に基づいて前記複数のログから変数値を抽出するように構成され、
    前記複数のログに係る情報は、前記変数値を示す情報を含む請求項3に記載のログ分析システム。
  5. 前記分析対象ログは複数のデータからなり、
    前記シーケンス判定部は、前記複数のデータから読み取った前記複数のログに対して判定を行うように構成される請求項1〜4のいずれか一項に記載のログ分析システム。
  6. 前記シーケンスに合致しないと判定された前記複数のログに基づいて、前記シーケンスを新たに生成するシーケンス学習部をさらに備える請求項1〜5のいずれか一項に記載のログ分析システム。
  7. 分析対象ログのうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定する工程と、
    前記シーケンスに合致すると判定された前記複数のログを、前記シーケンスに基づいて集約して出力する工程と、
    を備えるログ分析方法。
  8. コンピュータに、
    分析対象ログのうち複数のログが、予め決められたいずれのシーケンスに合致するかを判定する工程と、
    前記シーケンスに合致すると判定された前記複数のログを、前記シーケンスに基づいて集約して出力する工程と、
    を実行させるログ分析プログラム。

JP2017549986A 2015-11-13 2016-11-09 ログ分析システム、方法およびプログラム Active JP7006272B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015223053 2015-11-13
JP2015223053 2015-11-13
PCT/JP2016/004844 WO2017081866A1 (ja) 2015-11-13 2016-11-09 ログ分析システム、方法およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2017081866A1 true JPWO2017081866A1 (ja) 2018-08-30
JP7006272B2 JP7006272B2 (ja) 2022-01-24

Family

ID=58694824

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017549986A Active JP7006272B2 (ja) 2015-11-13 2016-11-09 ログ分析システム、方法およびプログラム

Country Status (3)

Country Link
US (1) US11232013B2 (ja)
JP (1) JP7006272B2 (ja)
WO (1) WO2017081866A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113127317B (zh) * 2021-03-24 2022-07-12 深圳乐播科技有限公司 日志的采集处理方法、***、设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006252459A (ja) * 2005-03-14 2006-09-21 Nomura Research Institute Ltd 監視装置及び監視方法
JP2006259811A (ja) * 2005-03-15 2006-09-28 Nec Corp ログ作成装置及びプログラム
JP2007249694A (ja) * 2006-03-16 2007-09-27 Nec Corp ログフォーマット変換装置、ログフォーマット変換方法、及びログフォーマット変換プログラム
JP2008020984A (ja) * 2006-07-11 2008-01-31 Yokogawa Electric Corp アラーム情報表示装置およびアラーム情報表示方法
JP2008041041A (ja) * 2006-08-10 2008-02-21 Hitachi Information Systems Ltd ログ通知条件定義支援装置とログ監視システムおよびプログラムとログ通知条件定義支援方法
WO2013136418A1 (ja) * 2012-03-12 2013-09-19 株式会社日立製作所 ログ管理計算機、及びログ管理方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002358216A (ja) * 2000-08-08 2002-12-13 System Support:Kk コンピュータ監視システム
JP2005141663A (ja) 2003-11-10 2005-06-02 Hitachi Ltd イベントログ解析支援装置、イベントログ表示方法
JP2006020984A (ja) 2004-07-06 2006-01-26 Showa Device Plant Kk 遠赤外線光テラヘルツ波の発振装置
US8499240B2 (en) * 2008-10-31 2013-07-30 Sap Ag Rule-based presentation of log messages on a graphic timeline
US9400733B2 (en) * 2010-12-01 2016-07-26 Microsoft Technology Licensing, Llc Pattern matching framework for log analysis
US8589342B2 (en) * 2011-09-16 2013-11-19 International Business Machines Corporation Log message optimization to ignore or identify redundant log messages
US9729671B2 (en) * 2014-10-05 2017-08-08 YScope Inc. Systems and processes for computer log analysis
US9552249B1 (en) * 2014-10-20 2017-01-24 Veritas Technologies Systems and methods for troubleshooting errors within computing tasks using models of log files
US10614085B2 (en) * 2016-05-26 2020-04-07 International Business Machines Corporation System impact based logging with enhanced event context
US10073767B2 (en) * 2017-01-18 2018-09-11 Pivotal Software, Inc. Trace Management
US10824497B2 (en) * 2018-08-29 2020-11-03 Oracle International Corporation Enhanced identification of computer performance anomalies based on computer performance logs
US10528454B1 (en) * 2018-10-23 2020-01-07 Fmr Llc Intelligent automation of computer software testing log aggregation, analysis, and error remediation

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006252459A (ja) * 2005-03-14 2006-09-21 Nomura Research Institute Ltd 監視装置及び監視方法
JP2006259811A (ja) * 2005-03-15 2006-09-28 Nec Corp ログ作成装置及びプログラム
JP2007249694A (ja) * 2006-03-16 2007-09-27 Nec Corp ログフォーマット変換装置、ログフォーマット変換方法、及びログフォーマット変換プログラム
JP2008020984A (ja) * 2006-07-11 2008-01-31 Yokogawa Electric Corp アラーム情報表示装置およびアラーム情報表示方法
JP2008041041A (ja) * 2006-08-10 2008-02-21 Hitachi Information Systems Ltd ログ通知条件定義支援装置とログ監視システムおよびプログラムとログ通知条件定義支援方法
WO2013136418A1 (ja) * 2012-03-12 2013-09-19 株式会社日立製作所 ログ管理計算機、及びログ管理方法

Also Published As

Publication number Publication date
WO2017081866A1 (ja) 2017-05-18
US11232013B2 (en) 2022-01-25
JP7006272B2 (ja) 2022-01-24
US20200257610A1 (en) 2020-08-13

Similar Documents

Publication Publication Date Title
WO2017104119A1 (ja) ログ分析システム、方法およびプログラム
WO2017094262A1 (ja) ログ分析システム、方法およびプログラム
JP6803754B2 (ja) ログメッセージグループ化装置、ログメッセージグループ化システムおよびログメッセージグループ化方法
CN111191012B (zh) 知识图谱产生装置、方法及其计算机可读存储介质
US20170132104A1 (en) Event analysis device, event analysis system, event analysis method, and event analysis program
JP6665784B2 (ja) ログ分析システム、ログ分析方法およびログ分析プログラム
JP6787340B2 (ja) ログ分析システム、ログ分析方法及びプログラム
WO2018066661A1 (ja) ログ分析方法、システムおよび記録媒体
WO2018122890A1 (ja) ログ分析方法、システムおよびプログラム
WO2018069950A1 (ja) ログ分析方法、システムおよびプログラム
CN109815243B (zh) 一种文档界面化修改时的结构化存储方法和装置
WO2017094263A1 (ja) ログ分析システム、方法およびプログラム
JP2004302678A (ja) データベース検索経路表示方法
WO2017081866A1 (ja) ログ分析システム、方法およびプログラム
CN108170838B (zh) 话题演变的可视化展现方法、应用服务器及计算机可读存储介质
JP6756378B2 (ja) 異常検出方法、システムおよびプログラム
JP2007041638A (ja) シーケンス図作成装置、シーケンス図作成プログラムおよびシーケンス図作成プログラムを記録したコンピュータ読取り可能な記録媒体
JP6965748B2 (ja) ログ分析システム、方法およびプログラム
CN110019019B (zh) 数据文件管理方法、装置、设备及计算机可读存储介质
JP6527984B1 (ja) 差異データ抽出装置、差異データ抽出プログラムおよび差異データ抽出方法
CN114283437A (zh) 图例识别方法、装置、设备及存储介质
CN113177143A (zh) 时序数据访问方法、装置、存储介质及电子设备
JP6606876B2 (ja) 情報処理装置及び情報処理方法
CN112507690A (zh) 产品需求文档变更对比方法、装置、设备及存储介质
JP6213305B2 (ja) 情報処理プログラム、情報処理装置及び情報処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191015

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210820

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211220