JP5636922B2 - Performance prediction apparatus, performance prediction method, and program - Google Patents

Performance prediction apparatus, performance prediction method, and program Download PDF

Info

Publication number
JP5636922B2
JP5636922B2 JP2010269494A JP2010269494A JP5636922B2 JP 5636922 B2 JP5636922 B2 JP 5636922B2 JP 2010269494 A JP2010269494 A JP 2010269494A JP 2010269494 A JP2010269494 A JP 2010269494A JP 5636922 B2 JP5636922 B2 JP 5636922B2
Authority
JP
Japan
Prior art keywords
input
model
output
information processing
processing system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010269494A
Other languages
Japanese (ja)
Other versions
JP2012118872A (en
Inventor
大地 木村
大地 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2010269494A priority Critical patent/JP5636922B2/en
Publication of JP2012118872A publication Critical patent/JP2012118872A/en
Application granted granted Critical
Publication of JP5636922B2 publication Critical patent/JP5636922B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Debugging And Monitoring (AREA)

Description

本発明は、計測の対象とする情報処理システムについて、当該システムの性能を予測する技術に関し、特に、性能指標の特定の領域を精度よく予測する、性能予測装置、性能予測方法およびプログラムに関わる。   The present invention relates to a technology for predicting the performance of an information processing system to be measured, and particularly relates to a performance prediction apparatus, a performance prediction method, and a program for accurately predicting a specific region of a performance index.

情報処理システムの構築にあたって、構築するシステムが要求された性能を満たしているかどうかを判断するために、事前にそのシステムがどの程度の性能を有しているかを予測することが行われている。また、計測対象とする情報処理システムの性能予測について、予め準備されたモデルを基に予測することが行われている。   In constructing an information processing system, in order to determine whether the system to be constructed satisfies the required performance, it is predicted in advance how much the system has. Further, the performance prediction of the information processing system to be measured is predicted based on a model prepared in advance.

モデルに基づく性能予測は、例えば、特許文献1に、マルチタスク環境における並列計算機のスループットやレスポンス、リソース使用率などの性能指標を、並列計算機のシステム構成を待ち行列モデルに変換することで予測する手段が提案されている。   Performance prediction based on a model is predicted, for example, in Patent Document 1 by converting performance indexes such as throughput, response, and resource usage of a parallel computer in a multitask environment by converting the system configuration of the parallel computer into a queuing model. Means have been proposed.

上記のように待ち行列モデルなどのモデルによる予測においては、例えば、1リクエストあたりの処理時間(Demand)などのような構築するITシステムに関するパラメタが事前に与えられているものとして、そのパラメタを用いて予測する。   In the prediction based on a model such as a queuing model as described above, it is assumed that a parameter related to the IT system to be constructed, such as a processing time (Demand) per request, is given in advance. Predict.

しかし、構築するITシステムの性能を事前に与えられているパラメタを用いて予測した場合、事前に与えられたパラメタの値と、実際に構築するITシステムに与えたパラメタの値が異なることがあり、そのためにモデルを用いて予測した性能指標が実際に構築したITシステムの性能指標とずれるという問題がある。   However, when the performance of the IT system to be built is predicted using parameters given in advance, the parameter values given in advance may differ from the parameter values given to the IT system actually built. Therefore, there is a problem that the performance index predicted using the model is different from the performance index of the IT system actually constructed.

そこで、例えば、非特許文献1には、運用しているITシステムに対して、実際に得られた性能指標をカルマンフィルタを用いてモデルにフィードバックすることで上記のパラメタの補正を行い、性能指標の予測精度の向上をする方法が提案されている。   Therefore, for example, Non-Patent Document 1 corrects the above parameters by feeding back an actually obtained performance index to a model using a Kalman filter for an operating IT system. A method for improving the prediction accuracy has been proposed.

また、特許文献2では、性能を予測するために、性能指標を計測する計測点を最適化する方法が提案されている。具体的には、制御対象のモデルから予測される性能指標と、予測される性能指標に対して、設定された計測点においてサンプリングし、サンプリングされた性能指標との誤差が最小となるように、計測点の配置を最適化している。   Patent Document 2 proposes a method for optimizing measurement points for measuring a performance index in order to predict performance. Specifically, the performance index predicted from the model to be controlled and the predicted performance index are sampled at the set measurement points, and the error between the sampled performance index is minimized. The arrangement of measurement points is optimized.

特開2000−298593号公報JP 2000-298593 A 特開2009−258068号公報JP 2009-258068 A

Tao Zheng他 著、「Performance Model Estimation and Tracking Using Optimal Filters」、IEEE TRANSACTIONS ON SOFTWARE ENGINEERING、 VOL.34、 NO.3、pp391−406、2008年Tao Zheng et al., “Performance Model Estimation and Tracking Using Optimal Filters”, IEEE TRANSACTIONS ON SOFTWARE ENGINEERING, VOL. 34, NO. 3, pp 391-406, 2008

構築した情報処理システムについて、要求された性能を満たしているかどうかを判断するためには、そのシステムが各要求や状況に対してどの程度の性能を有しているかを精度よく予測することが重要である。
一例では、ITシステムにおいて、SLA(Service Level Agreement)のように、性能指標がある特定の範囲に収まるように契約が結ばれている場合、性能指標がSLAを満たさなくなるような条件を見極める必要がある。
In order to judge whether the built information processing system meets the required performance, it is important to accurately predict how much performance the system has for each request and situation. It is.
For example, in an IT system, when a contract is made so that the performance index falls within a certain range, such as SLA (Service Level Agreement), it is necessary to determine the condition that the performance index does not satisfy the SLA. is there.

しかしながら、特許文献1に記載された方法は、構築する情報処理システムについて事前に行なう方法であり、特許文献2および非特許文献1に記載された方法は、モデル全体の精度を向上させるためのものであり、例えば、上記のようにSLAを満たさなくなるような条件、といったようなピンポイントな領域を精度よく予測する目的に資するものではない。
すなわち、特許文献1、特許文献2および非特許文献1に記載された方法では、特定の性能指標の領域に注目してそのシステムがどの程度の性能を有しているのか精度よく予測することができない。
However, the method described in Patent Document 1 is a method performed in advance for the information processing system to be constructed, and the methods described in Patent Document 2 and Non-Patent Document 1 are intended to improve the accuracy of the entire model. For example, it does not contribute to the purpose of accurately predicting a pinpoint area such as a condition that does not satisfy the SLA as described above.
That is, with the methods described in Patent Document 1, Patent Document 2, and Non-Patent Document 1, it is possible to accurately predict how much performance the system has by paying attention to a specific performance index region. Can not.

そこで、本発明は、上述した課題を解決するため、計測の対象とする情報処理システムに対して、性能指標の特定の領域を精度よく予測することができる、性能予測装置、方法およびプログラムを提供することを目的とする。   Accordingly, the present invention provides a performance prediction apparatus, method, and program capable of accurately predicting a specific region of a performance index for an information processing system to be measured in order to solve the above-described problem. The purpose is to do.

本発明に係る性能予測装置は、計測の対象とする情報処理システムに関する入力と出力の関係のモデルを蓄積するモデル蓄積手段と、前記情報処理システムの性能を予測する際に、予測の対象とする特定の出力を取得する特定出力獲得手段と、前記モデル蓄積手段が蓄積している前記情報処理システムのモデルを用いて、前記特定出力獲得手段が取得した前記特定出力に対応する入力を算出し、前記特定出力に対応する入力を基に、入力内容を決定する入力内容決定手段と、前記入力内容決定手段が決定した前記入力内容を入力とするように、前記情報処理システムを実行させる計測対象システム実行手段と、前記計測対象システム実行手段が実行させた前記情報処理システムの入力、および、前記入力に対応する出力を収集する情報収集手段と、前記情報収集手段が収集した前記情報処理システムの入力、および、前記入力に対応する出力を基に、前記モデル蓄積手段から取得したモデルをフィッティングするモデルフィッティング手段と、前記モデルフィッティング手段によってフィッティングされた新たなモデルに基づいて、前記情報処理システムについて予測の対象とした特定の出力の性能を予測する性能予測手段と、を備えることを特徴とする。   The performance prediction apparatus according to the present invention is a model storage unit that stores a model of an input-output relationship related to an information processing system to be measured, and is a target for prediction when predicting the performance of the information processing system. Using a specific output acquisition means for acquiring a specific output and a model of the information processing system stored in the model storage means, an input corresponding to the specific output acquired by the specific output acquisition means is calculated, Based on the input corresponding to the specific output, the input content determining means for determining the input content, and the measurement target system for executing the information processing system so that the input content determined by the input content determining means is input. An information collecting means for collecting an input of the information processing system executed by the execution means and the measurement target system executing means, and an output corresponding to the input; A model fitting means for fitting a model acquired from the model storage means based on the input of the information processing system collected by the information collecting means and an output corresponding to the input, and fitting by the model fitting means And a performance predicting means for predicting the performance of a specific output as a prediction target for the information processing system based on the new model.

本発明によれば、計測の対象とする情報処理システムに対して、性能指標の特定の領域を精度よく予測することができる、性能予測装置、性能予測方法およびプログラムを提供できる。   ADVANTAGE OF THE INVENTION According to this invention, the performance prediction apparatus, the performance prediction method, and program which can predict the specific area | region of a performance parameter | index with sufficient precision with respect to the information processing system made into measurement object can be provided.

本発明の構成例を示す図である。It is a figure which shows the structural example of this invention. 本発明による性能予測装置の機能構成例を示すブロック図である。It is a block diagram which shows the function structural example of the performance prediction apparatus by this invention. 本発明の第1の実施形態に係る処理経過の例を示すフローチャートである。It is a flowchart which shows the example of process progress which concerns on the 1st Embodiment of this invention. システムの入力と出力の関係のモデル、および、特定の出力に対する入力の一例を示す説明図である。It is explanatory drawing which shows an example of the input with respect to the model of the relationship between the input and output of a system, and a specific output. 特定の出力に対する入力u_1の近傍を、図4のuy平面に表した一例を示す説明図である。FIG. 5 is an explanatory diagram illustrating an example in which the vicinity of an input u_1 with respect to a specific output is represented on the uy plane of FIG. 4. 計測対象システム2の入力、および、入力に対応する出力を黒点で表し、その入出力にあわせてフィッティングしたモデルh’(u)をuy平面に表した一例を示す説明図である。It is explanatory drawing which shows an example which represented the model h '(u) fitted to the input of the measurement object system 2, and the output corresponding to an input with the black point, and fitted according to the input / output on the ui plane. 本発明による性能予測装置の第2の実施形態の機能構成例を示すブロック図である。It is a block diagram which shows the function structural example of 2nd Embodiment of the performance prediction apparatus by this invention. 本発明の第2の実施形態に係る処理経過の例を示すフローチャートである。It is a flowchart which shows the example of the process progress which concerns on the 2nd Embodiment of this invention. フィッティングする前のモデルh(u)、h(u)に基づいて算出された特定の出力y_1に対する入力u_1,フィッティングしたモデルh(u)’、および、h(u)’ に基づいて算出された特定の出力y_1に対する入力u_2をuy平面に表した一例を示す説明図である。Calculated based on the model h (u) before fitting, the input u_1 for the specific output y_1 calculated based on h (u), the model h (u) ′ fitted, and h (u) ′ It is explanatory drawing which shows an example which represented input u_2 with respect to specific output y_1 on the ui plane. 計測対象システム2の入出力を黒点で表し、モデルh(u)、h(u) に基づいて算出された特定の出力y_1に対する入力u_1、および、u_1の近傍であるu_1−ε_Bからu_1+ε_Aをuy平面に表した一例を示す説明図である。The input / output of the measurement target system 2 is represented by black dots, and u_1 + ε_A is input from the input u_1 to the specific output y_1 calculated based on the models h (u) and h (u) and u_1−ε_B in the vicinity of u_1. It is explanatory drawing which shows an example represented to the plane. 計測対象システム2の入出力を黒点で表し、モデルh(u)、h(u) に基づいて算出された特定の出力y_1に対する入力u_1、および、u_1の近傍であるu_1−ε_Bからu_1+ε_Aをuy平面に表した一例を示す説明図である。The input / output of the measurement target system 2 is represented by black dots, and u_1 + ε_A is input from the input u_1 to the specific output y_1 calculated based on the models h (u) and h (u) and u_1−ε_B in the vicinity of u_1. It is explanatory drawing which shows an example represented to the plane. 本発明による性能予測装置の第3の実施形態の機能構成例を示すブロック図である。It is a block diagram which shows the function structural example of 3rd Embodiment of the performance prediction apparatus by this invention. 本発明の第3の実施形態に係る処理経過の例を示すフローチャートである。It is a flowchart which shows the example of process progress which concerns on the 3rd Embodiment of this invention. 計測対象システム2の入出力を黒点で表し、フィッティングする前のモデルh(u)、h(u)に基づいて算出された特定の出力y_1に対する入力u_1,フィッティングしたモデルh(u)’、および、h(u)’ に基づいて算出された特定の出力y_1に対する入力u_2をuy平面に表した一例を示す説明図である。The input / output of the measurement target system 2 is represented by black dots, the model h (u) before fitting, the input u_1 for the specific output y_1 calculated based on h (u), the fitted model h (u) ′, and , H (u) ′ is an explanatory diagram showing an example in which the input u_2 for the specific output y_1 calculated based on h (u) ′ is represented on the ui plane.

以下、本発明の実施形態について図面を参照して説明する。   Embodiments of the present invention will be described below with reference to the drawings.

[基本的構成]
図1は、本発明の構成例を示す図である。図1において、性能予測装置1は、通信網3を介して計測の対象とする計測対象システム2と通信可能に接続されている。性能予測装置1は、サーバやパーソナルコンピュータ等のプログラムに従って動作する情報処理装置である。計測対象システム2は、1台、もしくは複数台のサーバやパーソナルコンピュータ等のプログラムに従って動作する情報処理装置で構成された情報処理システムである。なお、複数台の情報処理装置で構成される場合は、それらの間の通信は通信網3を介して行っているものでもよいし、直接に接続された通信ケーブル等で行っているものでもよい。通信網3は、例えばインターネットなどでもよいし、あるいは、LAN(Local Area Network)でもよいが、性能予測装置1と計測対象システム2の間の通信を可能にするものであればこれらに限定されるものではない。
[Basic configuration]
FIG. 1 is a diagram showing a configuration example of the present invention. In FIG. 1, a performance prediction apparatus 1 is connected to a measurement target system 2 that is a measurement target via a communication network 3 so as to be communicable. The performance prediction apparatus 1 is an information processing apparatus that operates according to a program such as a server or a personal computer. The measurement target system 2 is an information processing system configured by an information processing apparatus that operates according to a program such as one or a plurality of servers or personal computers. In addition, when comprised by several information processing apparatus, the communication between them may be performed via the communication network 3, and may be performed with the communication cable etc. which were directly connected. . The communication network 3 may be the Internet, for example, or may be a LAN (Local Area Network), but is limited to these as long as it enables communication between the performance prediction apparatus 1 and the measurement target system 2. It is not a thing.

[第1の実施形態]
図2は、本発明による性能予測装置の第1の実施形態における機能構成例を示すブロック図である。図2に示すように、本実施形態による性能予測装置1は、モデル蓄積手段101と、特定出力獲得手段102と、性能予測手段103と、入力内容決定手段104と、計測対象システム実行手段105と、情報収集手段106と、モデルフィッティング手段107を含む。
[First Embodiment]
FIG. 2 is a block diagram showing an example of a functional configuration in the first embodiment of the performance prediction apparatus according to the present invention. As shown in FIG. 2, the performance prediction apparatus 1 according to the present embodiment includes a model accumulation unit 101, a specific output acquisition unit 102, a performance prediction unit 103, an input content determination unit 104, and a measurement target system execution unit 105. , Information collecting means 106 and model fitting means 107 are included.

モデル蓄積手段101は、例えば、コンピュータが備えているHDD(HARD DISK DRIVE)等の記憶媒体に、計測の対象とする情報処理システムの性能指標の入力と出力の関係のモデルを蓄積する機能を備えている。本実施形態では、計測対象システム2の入出力関係に関するモデルを予め蓄積する。ここで、入力とは、例えば、単位時間内にシステムが処理しなくてはならないリクエスト数などであり、出力とは、例えば、システムのスループットや応答時間などであるが、これらに限定されるものではなく、独立変数と従属変数の関係としてモデルで記述できる場合には、その独立変数を入力、従属変数を出力としてよい。   The model storage unit 101 has a function of storing, for example, a model of a relationship between input and output of a performance index of an information processing system to be measured in a storage medium such as an HDD (HARD DISK DRIVE) provided in the computer. ing. In this embodiment, a model related to the input / output relationship of the measurement target system 2 is stored in advance. Here, the input is, for example, the number of requests that the system must process within a unit time, and the output is, for example, the system throughput or response time, but is not limited thereto. Instead, if the model can describe the relationship between an independent variable and a dependent variable, the independent variable may be input and the dependent variable may be output.

特定出力獲得手段102は、例えば、ユーザの操作に従って、キーボード等の入力装置から、又は、コンピュータ等が備えているHDD等の記憶媒体から、予測の対象とする特定の出力を取得する機能を備えている。当該特定の出力は、特定出力獲得手段102を介して性能予測を行なう基準として性能予測装置1に入力され、計測対象システム2の注目する特定の性能指標領域として扱われる。なお、特定出力獲得手段102は、例えば、インターネット等の通信網を介したサーバ等から取得してもよい。   The specific output acquisition unit 102 has a function of acquiring a specific output to be predicted from an input device such as a keyboard or a storage medium such as an HDD provided in a computer or the like in accordance with a user operation. ing. The specific output is input to the performance prediction apparatus 1 as a reference for performing performance prediction via the specific output acquisition unit 102, and is handled as a specific performance index region of interest of the measurement target system 2. Note that the specific output acquisition unit 102 may acquire, for example, from a server via a communication network such as the Internet.

性能予測手段103は、モデル蓄積手段101に蓄積されているモデルに基づいて、特定出力獲得手段102から得た予測対象とする出力について、予測の対象とした特定の出力の性能を予測するとともに、その結果を出力する機能を有する。また、性能予測手段103は、後述するように、モデルフィッティング手段107によってフィッティングされた新たなモデルに基づいて、計測対象システム2について予測の対象とした特定の出力の性能を予測するとともに、その結果を出力する機能を有する。新たなモデルは、モデルフィッティング手段107から直接的に得てもよいし、モデル蓄積手段101を介して取得してもよい。
なお、性能予測手段103によって、後述する処理を行なってモデルをフィッティングした場合は、予め有しているモデルに基づき性能予測した場合に比べ、予測精度が向上する。
The performance prediction unit 103 predicts the performance of a specific output as a prediction target for the output to be predicted obtained from the specific output acquisition unit 102 based on the model stored in the model storage unit 101, and It has a function to output the result. Further, as will be described later, the performance predicting unit 103 predicts the performance of a specific output targeted for prediction for the measurement target system 2 based on the new model fitted by the model fitting unit 107, and the result thereof. Has a function of outputting. A new model may be obtained directly from the model fitting unit 107 or may be acquired via the model storage unit 101.
Note that when the model is fitted by performing the processing described later by the performance predicting unit 103, the prediction accuracy is improved as compared with the case where the performance is predicted based on a model that is held in advance.

入力内容決定手段104は、具体的には、ROM(READ ONLY MEMORY)等の記憶部から読み込まれてRAM(RANDOM ACCESS MEMORY)に展開された性能予測プログラム(以下、プログラムと記す)に従って動作する情報処理装置の制御部であるCPU(CENTRAL PROCESSING UNIT)によって実現される。入力内容決定手段104は、モデル蓄積手段101が蓄積している計測対象システム2の入力と出力の関係のモデルを用いて、特定出力獲得手段102が取得した特定の出力に対応する計測対象システム2への入力を算出し、算出した入力を基に、下記計測対象システム実行手段105に前記入力を出力させる入力内容を決定する機能を備えている。入力内容は、特定の出力に対応する入力の予測の精度を上げるために用いられ、その決定方法については後述する。   Specifically, the input content determination unit 104 is information that operates in accordance with a performance prediction program (hereinafter referred to as a program) that is read from a storage unit such as a ROM (READ ONLY MEMORY) and expanded in a RAM (RANDOM ACCESS MEMORY). This is realized by a CPU (CENTRAL PROCESSING UNIT) which is a control unit of the processing apparatus. The input content determination unit 104 uses the model of the relationship between the input and output of the measurement target system 2 stored in the model storage unit 101 and uses the measurement target system 2 corresponding to the specific output acquired by the specific output acquisition unit 102. And a function for determining the input content for causing the measurement target system execution means 105 to output the input based on the calculated input. The input content is used to increase the accuracy of prediction of an input corresponding to a specific output, and the determination method will be described later.

計測対象システム実行手段105は、具体的には、プログラムに従って動作する情報処理装置のCPUによって実現される。計測対象システム実行手段105は、通信網3を介して計測対象システム2にアクセスし、入力内容決定手段104が決定した入力内容を入力とするように計測対象システム2を動作させる機能を備えている。
このときの計測対象システム実行手段105からの出力は、計測対象システム2に入力させるために、入力内容決定手段104によって算出された特定の出力に対応する入力となる。
Specifically, the measurement target system execution unit 105 is realized by a CPU of an information processing apparatus that operates according to a program. The measurement target system execution unit 105 has a function of accessing the measurement target system 2 via the communication network 3 and operating the measurement target system 2 so that the input content determined by the input content determination unit 104 is input. .
The output from the measurement target system execution unit 105 at this time is an input corresponding to the specific output calculated by the input content determination unit 104 so as to be input to the measurement target system 2.

情報収集手段106は、具体的には、プログラムに従って動作する情報処理装置のCPUによって実現される。情報収集手段106は、通信網3を介して計測対象システム2にアクセスし、計測対象システム実行手段105が実行させた計測対象システム2への入力と、その入力に対応する出力とを収集する機能を備えている。なお、計測対象システム2への入力は、計測対象システム実行手段105から取得するようにしてもよい。   Specifically, the information collecting unit 106 is realized by a CPU of an information processing apparatus that operates according to a program. The information collection unit 106 accesses the measurement target system 2 via the communication network 3 and collects the input to the measurement target system 2 executed by the measurement target system execution unit 105 and the output corresponding to the input. It has. Note that the input to the measurement target system 2 may be acquired from the measurement target system execution unit 105.

モデルフィッティング手段107は、具体的には、プログラムに従って動作する情報処理装置のCPUによって実現される。モデルフィッティング手段107は、情報収集手段106が収集した計測対象システム2の入力、および、入力に対応する出力を基に、モデル蓄積手段101から取得したモデルをフィッティングする機能を備えている。ここで、フィッティングとは、予め準備された計測対象システム2のモデルを実測値に合うように補正することを言う。すなわち、実測された入力及び出力にモデルを合わせるように、モデルのパラメタを補正して性能予測手段103に対して新たなモデル(補正モデル)を提供可能とすることを言う。   Specifically, the model fitting unit 107 is realized by a CPU of an information processing apparatus that operates according to a program. The model fitting unit 107 has a function of fitting the model acquired from the model storage unit 101 based on the input of the measurement target system 2 collected by the information collecting unit 106 and the output corresponding to the input. Here, fitting means correcting a model of the measurement target system 2 prepared in advance so as to match the actual measurement value. That is, it means that a new model (corrected model) can be provided to the performance prediction means 103 by correcting the parameters of the model so that the model is matched with the actually measured input and output.

フィッティングされた新たなモデルは、モデルフィッティング手段107から直接的に性能予測手段103に送られてもよいし、モデル蓄積手段101を介して性能予測手段103に送られてもよい。また、性能予測手段103側から、補正に関するパラメタをモデルフィッティング手段107から取得し、モデル蓄積手段101から元のモデルを取得して、フィッティングされた新たなモデルとして使用してもよい。   The new fitted model may be sent directly from the model fitting unit 107 to the performance prediction unit 103 or may be sent to the performance prediction unit 103 via the model storage unit 101. Further, a parameter relating to correction may be acquired from the model fitting unit 107 from the performance prediction unit 103 side, and the original model may be acquired from the model storage unit 101 and used as a new fitted model.

尚、実施の形態の説明では、各種手段が入力内容等のデータを生成するが、これら生成されたデータは、適宜RAMやHDD等の記憶媒体に記録され、読み出し可能に保持されることは自明であろう。   In the description of the embodiment, various means generate data such as input contents, but it is obvious that the generated data is appropriately recorded in a storage medium such as a RAM or an HDD and is readable. Will.

また、上記各種手段のほかに、必要に応じて、作成したデータを記憶保持する記憶手段や、作成したデータを画面上に表示する表示手段を有することはいうまでもない。   In addition to the various means described above, it goes without saying that a storage means for storing and holding the created data and a display means for displaying the created data on the screen are provided as necessary.

次に性能予測装置1の動作について説明する。図3は、性能予測装置1の処理例を示すフローチャートである。   Next, the operation of the performance prediction apparatus 1 will be described. FIG. 3 is a flowchart illustrating a processing example of the performance prediction apparatus 1.

特定出力獲得手段102は、例えば、ユーザの入力操作に従って、予測したい特定の出力を取得する(ステップS11)。また、特定出力獲得手段102は、例えば、インターネット等の通信網を介したサーバ等からの命令に従って、特定の出力を取得するようにしてもよい。   The specific output acquisition unit 102 acquires a specific output to be predicted in accordance with, for example, a user input operation (step S11). The specific output acquisition unit 102 may acquire a specific output in accordance with a command from a server or the like via a communication network such as the Internet.

次に、入力内容決定手段104は、モデル蓄積手段101が蓄積している計測対象システム2の入力と出力の関係のモデルを用いて、特定出力獲得手段102が取得した特定の出力に対応する入力を算出する(ステップS12)。   Next, the input content determination unit 104 uses the model of the relationship between the input and output of the measurement target system 2 stored in the model storage unit 101 and inputs corresponding to the specific output acquired by the specific output acquisition unit 102. Is calculated (step S12).

ここで、使用する計測対象システム2の入力と出力の関係のモデル、および、特定の出力に対する入力の一例を図4に示す。図4に示す例では、入力uと出力yの関係のモデルy=h(u)をuy平面上でプロットした曲線、特定の出力y_1、および、それに対応する入力u_1を表している。
なお、モデルhは、入力uに対して出力yを対応させるものであり、例えば、h(u)=a*exp(b*u)(ここでa,bは事前に与えられるパラメタ)のようなuに関する数式で表現されるものでもよい。あるいは、待ち行列網のようなものでもよく、これらに限定されるものではない。
また、以下では、入力と出力がそれぞれ一変数の場合で説明していくが、それらが多変数であっても容易に適用が可能であることは言うまでもない。
Here, FIG. 4 shows an example of a model of the relationship between the input and output of the measurement target system 2 to be used and an input for a specific output. In the example shown in FIG. 4, a curve obtained by plotting a model y = h (u) of the relationship between the input u and the output y on the uy plane, a specific output y_1, and an input u_1 corresponding thereto are shown.
Note that the model h associates the output y with the input u. For example, h (u) = a * exp (b * u) (where a and b are parameters given in advance). It may be expressed by a mathematical expression related to u. Alternatively, it may be a queuing network and is not limited to these.
In the following description, the input and output are each assumed to be one variable, but it goes without saying that the present invention can be easily applied even if they are multivariable.

モデルhに基づいて、特定の出力y_1に対応する入力u_1を算出する方法は、例えば、モデルhが上述のようにuに関する数式で表現され、かつ、その逆関数を求めることができるなら、その逆関数から求めてもよい。あるいは、より一般的なhの場合には、数値計算により求めてもよい。   Based on the model h, the method for calculating the input u_1 corresponding to the specific output y_1 is, for example, if the model h is expressed by a mathematical expression related to u as described above and its inverse function can be obtained. You may obtain | require from an inverse function. Or in the case of more general h, you may obtain | require by numerical calculation.

次に、入力内容決定手段104は、ステップS12で算出した特定の出力y_1に対応する入力u_1に基づいて、特定の出力y_1に対応する入力u_1の予測の精度を上げるために用いられる入力内容を決定する(ステップS13)。以下に入力内容の決定について詳述する。   Next, the input content determination unit 104 determines the input content used to increase the prediction accuracy of the input u_1 corresponding to the specific output y_1 based on the input u_1 corresponding to the specific output y_1 calculated in step S12. Determine (step S13). The determination of input contents will be described in detail below.

ステップS12で算出した入力u_1はモデルに基づいたものであって、実際のシステムがその入力u_1に対して出力y_1を出力するとは限らない。しかし、出力y_1に対する実際のシステムの入力は、おおよそu_1の近傍であろうということは予想ができる。したがって、u_1の近傍を入力内容として決定すれば、出力y_1に対する入力をより精度よく予測する目的に沿うものと期待される。   The input u_1 calculated in step S12 is based on the model, and the actual system does not always output the output y_1 to the input u_1. However, it can be expected that the actual system input for output y_1 will be approximately in the vicinity of u_1. Therefore, if the vicinity of u_1 is determined as the input content, it is expected to meet the purpose of predicting the input to the output y_1 more accurately.

u_1の近傍を、図4のuy平面に表した一例を図5に示す。図5に示す例では、u_1−ε_Bからu_1+ε_Aの範囲がu_1の近傍を表している。入力内容決定手段104は、ε_A、および、ε_Bを、例えば、u_1の数%として決定してもよい。あるいは、y_1のプラスマイナス数%に対応する入力をモデルから算出し、それぞれをε_A、および、ε_Bに対応させて決定してもよい。範囲の決定は、これらの方法に限定されるものではなく、他の方法でもよい。また、範囲の決定方法は、取得された特定の出力の種類毎に自動的に選択されるようにしてもよい。   FIG. 5 shows an example in which the vicinity of u_1 is represented on the ui plane of FIG. In the example shown in FIG. 5, the range from u_1-ε_B to u_1 + ε_A represents the vicinity of u_1. The input content determination unit 104 may determine ε_A and ε_B as, for example, several percent of u_1. Alternatively, an input corresponding to plus or minus several% of y_1 may be calculated from the model, and each may be determined corresponding to ε_A and ε_B. The determination of the range is not limited to these methods, and other methods may be used. Further, the range determination method may be automatically selected for each type of specific output acquired.

入力内容決定手段104は、u_1の近傍内のいくつかの入力値を選んで、実際の入力内容を決定する。ここで、入力値の選び方は、u_1の近傍をあらかじめ定められた数で均等に分割した値でもよい。あるいは、uの値の小さい側又は大きい側に入力値が偏るようにといったような、所定のアルゴリズムにしたがって入力値の間隔に偏りを持たせてもよい。このときの入力値として、u_1自身を必ず含むようにしてもよいし、含まなくてもよい。   The input content determination means 104 selects some input values in the vicinity of u_1 and determines the actual input content. Here, the method of selecting the input value may be a value obtained by equally dividing the vicinity of u_1 by a predetermined number. Alternatively, the input value intervals may be biased according to a predetermined algorithm such that the input value is biased toward the smaller or larger u value. At this time, u_1 itself may or may not be included as an input value.

次に、計測対象システム実行手段105は、通信網3を介して計測対象システム2にアクセスし、入力内容決定手段104が決定した入力内容を入力とするように計測対象システム2を動作させる(ステップS14)。具体的に例示すれば、計測対象システム実行手段105は、決定した入力内容になるようなリクエストを自動生成し、計測対象システム2にリクエストの処理を実行させる。また、計測対象システム2が複数台のサーバ等の場合には、計測対象システム2に要求する動作に対応させて所要のサーバに対して、それぞれの役割に対応させたリクエストを送り、処理を実行させる。   Next, the measurement target system execution unit 105 accesses the measurement target system 2 via the communication network 3 and operates the measurement target system 2 so that the input content determined by the input content determination unit 104 is input (step). S14). Specifically, the measurement target system execution unit 105 automatically generates a request that has the determined input content, and causes the measurement target system 2 to execute the request process. In addition, when the measurement target system 2 is a plurality of servers, etc., a request corresponding to each role is sent to the required server in response to the operation requested to the measurement target system 2 and the process is executed. Let

次に、情報収集手段106は、通信網3を介して計測対象システム2にアクセスし、計測対象システム実行手段105が実行させた計測対象システム2の入力と、その入力に対応する出力とを収集する(ステップS15)。   Next, the information collection unit 106 accesses the measurement target system 2 via the communication network 3 and collects the input of the measurement target system 2 executed by the measurement target system execution unit 105 and the output corresponding to the input. (Step S15).

次に、モデルフィッティング手段107は、情報収集手段106が収集した計測対象システム2の入力と、その入力に対応する出力とを基に、モデル蓄積手段101から取得したモデルhをフィッティングし、新たなモデルh’を生成する(ステップS16)。
フィッティングの方法は、例えば、モデル蓄積手段101から取得したモデルがh(u)=a*exp(b*u)であったときに、このモデルh(u)に対する情報収集手段106が収集した計測対象システム2の入出力との誤差を最小にするようにパラメタa,bを補正する。
誤差を最小にする方法としては、例えば、最小二乗法や遺伝的アルゴリズムを用いる方法などがあるがこれらに限定されるものではない。
計測対象システム2の入力と、その入力に対応する出力とを黒点で表し、その入出力にあわせてフィッティングしたモデルh’(u)をuy平面に表した一例を図6に示す。
Next, the model fitting unit 107 fits the model h acquired from the model storage unit 101 based on the input of the measurement target system 2 collected by the information collecting unit 106 and the output corresponding to the input, and creates a new one. A model h ′ is generated (step S16).
For example, when the model acquired from the model storage unit 101 is h (u) = a * exp (b * u), the fitting method is the measurement collected by the information collection unit 106 for this model h (u). The parameters a and b are corrected so as to minimize the error with the input / output of the target system 2.
Examples of the method for minimizing the error include, but are not limited to, a method using a least square method and a genetic algorithm.
FIG. 6 shows an example in which the input of the measurement target system 2 and the output corresponding to the input are represented by black dots, and the model h ′ (u) fitted according to the input / output is represented on the uy plane.

次に、性能予測手段103は、モデルフィッティング手段107によってフィッティングされた新たなモデルh’を取得し、モデルh’に基づいて、計測対象システム2について予測の対象とした特定の出力の性能を予測し、結果を出力する(ステップS21)。   Next, the performance predicting unit 103 acquires a new model h ′ fitted by the model fitting unit 107, and predicts the performance of a specific output as a prediction target for the measurement target system 2 based on the model h ′. The result is output (step S21).

次に、本実施形態の効果について説明する。   Next, the effect of this embodiment will be described.

以上に説明したように、本実施形態では、モデルフィッティング手段107は、情報収集手段106が収集した計測対象システム2の入力、および、入力に対応する出力を基に、モデル蓄積手段101から取得したモデルをフィッティングする。
従って、本実施形態によれば、計測対象システム2の入力と出力の対応を用いて、モデルhに含まれるa,bのようなパラメタをフィッティングすることにより、より実態に近いモデルが得られる。そのモデルから、先に得られた特定の出力に対応する入力u_1よりも、精度が高い特定の出力に対応する入力を得ることができる。
As described above, in the present embodiment, the model fitting unit 107 is acquired from the model storage unit 101 based on the input of the measurement target system 2 collected by the information collection unit 106 and the output corresponding to the input. Fit the model.
Therefore, according to the present embodiment, a model closer to the actual situation can be obtained by fitting parameters such as a and b included in the model h using the correspondence between the input and output of the measurement target system 2. From the model, an input corresponding to a specific output with higher accuracy than the input u_1 corresponding to the specific output obtained earlier can be obtained.

また、本実施形態によれば、入力内容決定手段104の選択によって、予測したい特定の出力に対応する入力u_1の近傍の入出力のみを実測するので、入力、出力の計測の回数を減ずる効果が期待できる。特に、入力、出力のいずれか、または、両方が多変数になった場合にその効果は顕著である。すなわち、本実施形態によれば、モデルをフィッティングする際に全ての範囲にわたる入出力の計測を行なう技術に対して、入力u_1の近傍の入出力のみを実測することによって、計測回数を減らしつつ特定の出力に対応する入力を同等の精度で予想することができる。   Further, according to the present embodiment, only the input / output in the vicinity of the input u_1 corresponding to the specific output to be predicted is measured by the selection of the input content determination unit 104, so that the effect of reducing the number of times of input and output measurement is obtained. I can expect. In particular, the effect is significant when either input, output, or both become multivariable. That is, according to the present embodiment, in comparison with the technique for measuring input / output over the entire range when fitting a model, only the input / output in the vicinity of the input u_1 is actually measured, thereby specifying the number of measurements. The input corresponding to the output of can be predicted with the same accuracy.

[第2の実施形態]
図7は、本発明による性能予測装置の第2の実施形態の機能構成例を示すブロック図である。図7に示すように、本実施形態による性能予測装置1は、モデル蓄積手段101’と、特定出力獲得手段102と、性能予測手段103と、入力内容決定手段104’と、計測対象システム実行手段105と、情報収集手段106と、モデルフィッティング手段107と、繰返し制御手段108を含む。
[Second Embodiment]
FIG. 7 is a block diagram showing a functional configuration example of the second embodiment of the performance prediction apparatus according to the present invention. As shown in FIG. 7, the performance prediction apparatus 1 according to the present embodiment includes a model storage unit 101 ′, a specific output acquisition unit 102, a performance prediction unit 103, an input content determination unit 104 ′, and a measurement target system execution unit. 105, an information collecting unit 106, a model fitting unit 107, and a repetition control unit 108.

第1の実施形態と同様の部分については説明を簡略化または省略し、第1の実施形態との差異について説明する。
モデル蓄積手段101’は、例えば、コンピュータ等が備えているHDD等の記憶媒体に、計測の対象とするシステムの性能指標の入力と出力の関係のモデルを蓄積する機能を備えている。また、モデル蓄積手段101’は、モデルフィッティング手段107がフィッティングしたモデルを新たなモデルとして蓄積する機能を備えている。
Description of the same parts as those in the first embodiment is simplified or omitted, and differences from the first embodiment will be described.
The model storage unit 101 ′ has a function of storing a model of the relationship between the input and output of the performance index of the system to be measured, for example, in a storage medium such as an HDD provided in a computer or the like. Further, the model storage unit 101 ′ has a function of storing the model fitted by the model fitting unit 107 as a new model.

入力内容決定手段104’は、具体的には、プログラムに従って動作する情報処理装置のCPUによって実現される。入力内容決定手段104’は、モデル蓄積手段101’が蓄積しているシステムの入力と出力の関係のモデルを用いて、特定出力獲得手段102が取得した特定の出力に対応するシステムへの入力を算出し、算出した入力に加え、情報収集手段106が既に収集した計測対象システム2の入力と対応する出力とに基づいて、計測対象システム実行手段105に前記入力を出力させる入力内容を決定する機能を備えている。   Specifically, the input content determination unit 104 ′ is realized by a CPU of an information processing apparatus that operates according to a program. The input content determination unit 104 ′ uses the model of the relationship between the input and output of the system stored in the model storage unit 101 ′ to input the input to the system corresponding to the specific output acquired by the specific output acquisition unit 102. A function of calculating and determining input contents for causing the measurement target system execution means 105 to output the input based on the input corresponding to the input of the measurement target system 2 already collected by the information collection means 106 in addition to the calculated input. It has.

繰返し制御手段108は、具体的には、プログラムに従って動作する情報処理装置のCPUによって実現される。
繰返し制御手段108は、モデル蓄積手段101’がモデルフィッティング手段107によってフィッティングされたモデルを新たなモデルとして蓄積されたことを受けて、その後、入力内容決定手段104’がその新たなモデルに基づいて特定の出力(特定出力獲得手段102によって既に取得されている特定の出力)に対応する入力を再度算出して入力内容を決定し、決定した入力内容によって計測対象システム実行手段105を動作させ、情報収集手段106によって計測対象システム2からの入力と その入力に対応する出力を収集し、モデルフィッティング手段107によって収集した入出力を基に、使用した新たなモデルを再度フィッティングするという一連のプロセスを繰り返すか、または一連のプロセスを繰り返さないかを判断する機能を備えている。
本実施形態では、繰返し制御手段108は、モデルフィッティング手段107がフィッティングしたモデルの精度を基に、一連のプロセスを繰り返すか繰り返さないかを判断する機能を備えている場合について以下で説明する。しかしながら、繰返し制御手段108が繰り返しの判断をする基準は、例えば、事前に与えられた回数だけ繰り返したかどうかによってもよいし、この例示に限定されるものではない。
Specifically, the repetition control means 108 is realized by a CPU of an information processing apparatus that operates according to a program.
The iterative control unit 108 receives the fact that the model storage unit 101 ′ has stored the model fitted by the model fitting unit 107 as a new model, and thereafter the input content determination unit 104 ′ based on the new model. The input corresponding to the specific output (the specific output already acquired by the specific output acquisition unit 102) is calculated again to determine the input content, the measurement target system execution unit 105 is operated according to the determined input content, and the information The collection unit 106 collects the input from the measurement target system 2 and the output corresponding to the input, and repeats a series of processes of re-fitting the new model used based on the input / output collected by the model fitting unit 107. Or whether to repeat the process It has a function that.
In this embodiment, the case where the repetition control unit 108 has a function of determining whether to repeat a series of processes based on the accuracy of the model fitted by the model fitting unit 107 will be described below. However, the reference for the repetition control means 108 to determine repetition may be, for example, whether or not the repetition control unit 108 has been repeated a predetermined number of times, and is not limited to this example.

次に、本実施形態における性能予測装置の動作について説明する。図8は、性能予測装置の処理例を示すフローチャートである。図3で説明した第1の実施形態にかかる処理経過と同じ処理については同じステップ番号を付し、説明は省略する。   Next, the operation of the performance prediction apparatus in this embodiment will be described. FIG. 8 is a flowchart illustrating a processing example of the performance prediction apparatus. The same steps as those in the first embodiment described with reference to FIG. 3 are denoted by the same step numbers, and description thereof is omitted.

モデル蓄積手段101’は、モデルフィッティング手段107によってフィッティングされたモデルを新たなモデルとして蓄積する(ステップS17)。   The model storage unit 101 'stores the model fitted by the model fitting unit 107 as a new model (step S17).

繰返し制御手段108は、モデルフィッティング手段107によってフィッティングされた新たなモデルの精度が十分であれば性能予測の処理に移行し、十分でなければステップS12に処理を移動する(ステップS18)。   If the accuracy of the new model fitted by the model fitting unit 107 is sufficient, the iterative control unit 108 proceeds to the performance prediction process, and if not, moves the process to step S12 (step S18).

ここでフィッティングされた新たなモデルの精度は、フィッティングした新たなモデルに基づいて算出された特定の出力に対する入力と、フィッティングする前の元モデルに基づいて算出された特定の出力に対する入力との値の差に基づいてもよい。
図9に、フィッティングする前の元モデルh(u)、h(u)に基づいて算出された特定の出力y_1に対する入力u_1,フィッティングした新たなモデルh(u)’、および、h(u)’ に基づいて算出された特定の出力y_1に対する入力u_2をuy平面に表した一例を示す。このu_1とu_2の差が事前に与えられた値よりも小さければ新たなモデルh(u)’の精度が十分であるとし、小さくなければ新たなモデルh(u)’の精度は十分ではないとする。あるいは、u_1とu_2の差に加えて、フィッティングした新たなモデルh(u)’に対する情報収集手段106が収集した計測対象システム2の入出力との誤差に基づいてもよい。このようにすることにより、特定の出力y_1に対する入力という一点のみならず、その近傍においても新たなモデルが入出力の関係を正しく反映しているかどうかを考慮することができる。また、フィッティングの繰り返しを2回以上行っている場合には、初回の値と1回目の値との差、1回目の値と2回目の値との差のように、複数のモデルによる特定の出力に対する値を用いて、最後にフィッティングしたモデル(新たなモデル)の精度について、閾値や収束度に基づき精度が十分であるか否かを判定してもよい。何れの判定方法も特にモデルが複雑な形状を取る場合により好適である。
The accuracy of the new model fitted here is the value of the input for the specific output calculated based on the new model fitted and the input for the specific output calculated based on the original model before fitting. May be based on the difference.
FIG. 9 shows an input u_1 for a specific output y_1 calculated based on the original models h (u) and h (u) before fitting, a new model h (u) ′ fitted, and h (u) An example is shown in which the input u_2 for the specific output y_1 calculated based on 'is represented on the uy plane. If the difference between u_1 and u_2 is smaller than a value given in advance, the accuracy of the new model h (u) ′ is sufficient. If the difference is not small, the accuracy of the new model h (u) ′ is not sufficient. And Alternatively, in addition to the difference between u_1 and u_2, it may be based on an error between the input and output of the measurement target system 2 collected by the information collecting unit 106 for the new fitted model h (u) ′. In this way, it is possible to consider whether the new model correctly reflects the input / output relationship not only at one point of input to the specific output y_1 but also in the vicinity thereof. In addition, when the fitting is repeated two or more times, specific differences between a plurality of models, such as the difference between the first value and the first value, and the difference between the first value and the second value are used. The value for the output may be used to determine whether the accuracy of the last fitted model (new model) is sufficient based on the threshold value and the degree of convergence. Any of the determination methods is particularly suitable when the model takes a complicated shape.

入力内容決定手段104’は、ステップS12で算出した特定の出力に対応する入力に加え、情報収集手段106が収集した計測対象システム2の入力と、その入力に対応する出力とに基づいて、特定の出力に対応する入力の予測の精度を上げるために用いられる入力内容を決定する(ステップS13’)。なお、初めてステップS13’の処理を行う場合においては、モデルがまだフィッティングされていないので、第1の実施形態のステップS13と同じく、ステップS12で算出した特定の出力に対応する入力に基づいて入力内容を決定するものとする。以下は、少なくとも一回はステップS18の処理を行い、ステップS12に処理が戻った場合についての説明である。   The input content determination unit 104 ′ specifies the input based on the input corresponding to the specific output calculated in step S12, the input of the measurement target system 2 collected by the information collection unit 106, and the output corresponding to the input. The input content used for improving the accuracy of the prediction of the input corresponding to the output is determined (step S13 ′). Note that when the process of step S13 ′ is performed for the first time, since the model has not yet been fitted, input is performed based on the input corresponding to the specific output calculated in step S12, as in step S13 of the first embodiment. The contents shall be determined. The following is a case where the process of step S18 is performed at least once and the process returns to step S12.

ここで図10に、計測対象システム2の入出力を黒点で表し、モデルh(u)、特定の出力y_1に対するh(u) に基づいて算出された入力u_1、および、u_1の近傍であるu_1−ε_Bからu_1+ε_Aをuy平面に表した一例を示す。
ε_A、および、ε_Bを、例えば、第1の実施形態に述べた方法で決定したときに、図10の例では、既に実測した計測対象システム2の入出力の一部が、u_1−ε_Bからu_1+ε_Aの範囲に含まれている。モデルh(u)は、ステップS17で計測対象システム2の入出力を用いてフィッティングされていることを鑑みると、図10の例においては、u_1からu_1+ε_Aの範囲よりも、u_1−ε_Bからu_1の範囲を重点的に計測すれば、次に行うフィッティングの精度がより高まると期待される。他の例を図11に示す。図11に示す例では、計測対象システム2の入出力が、u_1−ε_Bからu_1+ε_Aの範囲に含まれていない。しかし、この場合においても、uの値の大きいところでモデルh(u)がフィッティングされているので、u_1からu_1+ε_Aの範囲よりも、u_1−ε_Bからu_1の範囲を重点的に計測すれば、u_1を挟んだモデルh(u)のuの値の小さい側もフィッティング用の値を取得することとなるので、次に行うフィッティングの精度がより高まると期待される。上述のように重点的に計測する入力を入力内容として決定すればよい。
Here, in FIG. 10, the input / output of the measurement target system 2 is represented by black dots, and the model h (u), the input u_1 calculated based on h (u) for a specific output y_1, and the vicinity of u_1. An example in which u_1 + ε_A from −ε_B to the uy plane is shown.
When ε_A and ε_B are determined by the method described in the first embodiment, for example, in the example of FIG. Included in the range. In view of the fact that the model h (u) is fitted using the input / output of the measurement target system 2 in step S17, in the example of FIG. If the range is intensively measured, the accuracy of the next fitting is expected to increase. Another example is shown in FIG. In the example illustrated in FIG. 11, the input / output of the measurement target system 2 is not included in the range from u_1−ε_B to u_1 + ε_A. However, even in this case, the model h (u) is fitted at a large value of u. Therefore, if the range from u_1-ε_B to u_1 is measured more than the range from u_1 to u_1 + ε_A, u_1 is Since the value for fitting is also acquired on the side of the sandwiched model h (u) where the value of u is small, it is expected that the accuracy of the next fitting will be further increased. As described above, an input to be intensively measured may be determined as the input content.

また、図10の例では、u_1が計測対象システム2の入出力の範囲の内側にあるので、u_1−ε_Bおよびu_1+ε_Aを、それぞれ計測対象システム2から得たu_1に最近接の2つの入出力の値としてもよい。こうすることにより、u_1の近傍を狭めることができる。ただし、一般に入出力は誤差を含むので、モデルの精度に基づいて、次近接、あるいは、次々近接を選択するようにしてもよい。   Further, in the example of FIG. 10, since u_1 is inside the input / output range of the measurement target system 2, u_1-ε_B and u_1 + ε_A are respectively set to the two input / output closest to u_1 obtained from the measurement target system 2. It may be a value. By doing so, the vicinity of u_1 can be narrowed. However, since input / output generally includes an error, the next proximity or the next proximity may be selected based on the accuracy of the model.

次に、第2の実施形態の効果について説明する。   Next, effects of the second embodiment will be described.

第2の実施形態においては、繰返し制御手段108は、一連のプロセスを繰り返すか繰り返さないかを判断する。
従って、第1の実施形態とは異なり、プロセスを繰り返すことにより、特定の出力に対応する入力を予測する精度が高まることが期待される。また、プロセスを繰り返す基準をモデルフィッティング手段107がフィッティングしたモデルの精度とすることによって、望ましい精度まで特定の出力に対応する入力を予測することができると期待される。
In the second embodiment, the repetition control means 108 determines whether or not to repeat a series of processes.
Therefore, unlike the first embodiment, it is expected that the accuracy of predicting an input corresponding to a specific output is increased by repeating the process. Further, it is expected that an input corresponding to a specific output can be predicted to a desired accuracy by setting the accuracy of the model fitted by the model fitting means 107 as a reference for repeating the process.

[第3の実施形態]
図12は、本発明による性能予測装置の第3の実施形態の機能構成例を示すブロック図である。図12に示すように、本実施形態による性能予測装置1は、モデル蓄積手段101’と、特定出力獲得手段102と、性能予測手段103と、入力内容決定手段104と、計測対象システム実行手段105と、情報収集手段106’と、モデルフィッティング手段107を含む。
[Third Embodiment]
FIG. 12 is a block diagram showing a functional configuration example of the third embodiment of the performance prediction apparatus according to the present invention. As shown in FIG. 12, the performance prediction apparatus 1 according to the present embodiment includes a model storage unit 101 ′, a specific output acquisition unit 102, a performance prediction unit 103, an input content determination unit 104, and a measurement target system execution unit 105. And an information collecting means 106 ′ and a model fitting means 107.

第1の実施形態と同様の部分については説明を簡略化または省略し、第1の実施形態との差異について説明する。
モデル蓄積手段101’は、例えば、コンピュータ等が備えているHDD等の記憶媒体に、計測の対象とするシステムの性能指標の入力と出力の関係のモデルを蓄積する機能を備えている。また、モデル蓄積手段101’は、モデルフィッティング手段107がフィッティングしたモデルを新たなモデルとして蓄積する機能を備えている。
Description of the same parts as those in the first embodiment is simplified or omitted, and differences from the first embodiment will be described.
The model storage unit 101 ′ has a function of storing a model of the relationship between the input and output of the performance index of the system to be measured, for example, in a storage medium such as an HDD provided in a computer or the like. Further, the model storage unit 101 ′ has a function of storing the model fitted by the model fitting unit 107 as a new model.

情報収集手段106’は、具体的には、プログラムに従って動作する情報処理装置のCPUによって実現される。情報収集手段106’は、通信網3を介して計測対象システム2にアクセスし、計測対象システム実行手段105が実行させた計測対象システム2の入力、および、入力に対応する出力を収集する機能を備えている。また、情報収集手段106’は、通信網3を介して計測対象システム2にアクセスし、計測対象システム2の適当な入力、および、その適当な入力に対する出力を収集する機能を備えている。また、情報収集手段106’は、特定出力獲得手段102などから指示された範囲(例えば所定の負荷領域や特定の時間帯など)について適当な入力とその入力に対応する出力を収集するようにしてもよい。   Specifically, the information collecting unit 106 'is realized by a CPU of an information processing apparatus that operates according to a program. The information collection unit 106 ′ has a function of accessing the measurement target system 2 via the communication network 3 and collecting the input of the measurement target system 2 executed by the measurement target system execution unit 105 and the output corresponding to the input. I have. The information collecting unit 106 ′ has a function of accessing the measurement target system 2 via the communication network 3 and collecting an appropriate input of the measurement target system 2 and an output corresponding to the appropriate input. Further, the information collecting unit 106 ′ collects an appropriate input and an output corresponding to the input in a range (for example, a predetermined load region or a specific time zone) designated by the specific output acquiring unit 102 or the like. Also good.

ここで、適当な入力、および、適当な入力に対する出力とは、例えば、計測対象システム2をテスト運用した場合に得られる入出力などでもよいし、あるいは、計測対象システム2を低負荷で運用している場合の入出力などでもよい。なお、適当な入力、および、適当な入力に対する出力は、これらの例示に限定されるものではない。一般には、予測の対象とする特定の出力と関係が無くてよい。なお、関係がある場合でもよいことは自明であろう。   Here, the appropriate input and the output corresponding to the appropriate input may be, for example, input / output obtained when the measurement target system 2 is tested, or the measurement target system 2 is operated at a low load. Input / output etc. may be used. Appropriate inputs and outputs corresponding to appropriate inputs are not limited to these examples. Generally, there is no relationship with a specific output to be predicted. It should be obvious that there may be a relationship.

次に、本実施形態における性能予測装置の動作について説明する。図13は、性能予測装置の処理例を示すフローチャートである。図3で説明した第1の実施形態にかかる処理経過と同じ処理については同じステップ番号を付し、説明は省略する。   Next, the operation of the performance prediction apparatus in this embodiment will be described. FIG. 13 is a flowchart illustrating a processing example of the performance prediction apparatus. The same steps as those in the first embodiment described with reference to FIG. 3 are denoted by the same step numbers, and description thereof is omitted.

情報収集手段106’は、通信網3を介して計測対象システム2にアクセスし、計測対象システム2の適当な入力と、その適当な入力に対する出力を収集する(ステップS31)。   The information collection unit 106 'accesses the measurement target system 2 via the communication network 3, and collects an appropriate input of the measurement target system 2 and an output corresponding to the appropriate input (step S31).

モデルフィッティング手段107は、情報収集手段106’が収集した計測対象システム2の入力とその入力に対応する出力を基に、モデル蓄積手段101’から取得したモデルをフィッティングし、新たなモデルを生成する(ステップS32)。
フィッティングの方法は、最小二乗法や遺伝的アルゴリズムなどを適に用いて第1の実施の形態で述べた方法で行えばよい。
The model fitting unit 107 fits the model acquired from the model storage unit 101 ′ based on the input of the measurement target system 2 collected by the information collecting unit 106 ′ and the output corresponding to the input, and generates a new model. (Step S32).
The fitting method may be performed by the method described in the first embodiment by appropriately using a least square method, a genetic algorithm, or the like.

ここで図14に、計測対象システム2の入出力を黒点で表し、フィッティングする前のモデルh(u)、特定の出力y_1に対するh(u)に基づいて算出された入力u_1、フィッティングしたモデルh(u)’、および、特定の出力y_1に対するh(u)’ に基づいて算出された入力u_2をuy平面に表した一例を示す。図14に示す例では、計測対象システム2から取得した入出力は、特定の出力y_1とは離れた領域である。しかしながら、先に述べたように、事前に与えられたパラメタが、実際に構築したITシステムの示すパラメタと異なる場合においては、このような特定の出力y_1とは関係の無い適当な入出力であっても、モデルのパラメタを補正する役に立ち、後に続く処理のステップにおいて特定の出力y_1に対する入力の予測の精度を高めると期待できる。   Here, in FIG. 14, input / output of the measurement target system 2 is represented by black dots, a model h (u) before fitting, an input u_1 calculated based on h (u) for a specific output y_1, a fitted model h An example is shown in which the input u_2 calculated based on (u) ′ and h (u) ′ for a specific output y_1 is represented on the uy plane. In the example illustrated in FIG. 14, the input / output acquired from the measurement target system 2 is a region away from the specific output y_1. However, as described above, when the parameters given in advance are different from the parameters indicated by the actually constructed IT system, the input / output is not related to the specific output y_1. However, it is useful to correct the parameters of the model, and can be expected to improve the accuracy of the input prediction for the specific output y_1 in the subsequent processing steps.

また、モデルフィッティング手段107は、モデル蓄積手段101’から取得したモデルh(u)を、当該モデルh(u)と収集した適当な入力とその出力とに基づき、推定して予測の対象とした特定の出力の近傍のモデルにフィッティングすることとしてもよい。   Further, the model fitting unit 107 estimates the model h (u) acquired from the model storage unit 101 ′ based on the model h (u), the collected appropriate input and its output, and makes it a prediction target. It is good also as fitting to the model of the vicinity of a specific output.

モデル蓄積手段101’は、モデルフィッティング手段107がフィッティングしたモデルを新たなモデルとして蓄積する(ステップS33)。   The model storage unit 101 'stores the model fitted by the model fitting unit 107 as a new model (step S33).

次に、第3の実施形態の効果について説明する。
第3の実施形態においては、モデルフィッティング手段107は、情報収集手段106’が収集した計測対象システム2の適当な入力、および、入力に対応する出力を基に、モデル蓄積手段101’から取得したモデルをフィッティングする。
従って、第1の実施形態とは異なり、システムの実際の入出力で事前にフィッティングしたモデルをステップS12で用いることができるので、特定の出力に対する入力の予測の精度を高めると期待できる。
Next, effects of the third embodiment will be described.
In the third embodiment, the model fitting means 107 is acquired from the model storage means 101 ′ based on the appropriate input of the measurement target system 2 collected by the information collection means 106 ′ and the output corresponding to the input. Fit the model.
Therefore, unlike the first embodiment, since a model fitted in advance with actual input / output of the system can be used in step S12, it can be expected to improve the accuracy of input prediction for a specific output.

また、上記複数の実施形態は、適に組み合わせることが可能である。組み合わせて用いた場合には、計測対象システム2から取得した適当な入出力に基づいてフィッティングを行なうとともに、フィッティングを適に繰り返すことが可能となる。   Further, the plurality of embodiments can be appropriately combined. When used in combination, it is possible to perform fitting based on appropriate input / output acquired from the measurement target system 2 and to repeat the fitting appropriately.

このように、性能予測装置を動作させることによって、例えば、予測したい特定の出力が高負荷の領域である場合に、高負荷の性能指標の計測に多大な時間やリソース消費を伴うなどコストがかかりやすい問題などを解決できる。   In this way, by operating the performance prediction device, for example, when a specific output to be predicted is in a high-load area, measurement of a high-load performance index requires a lot of time and resource consumption. Can solve easy problems.

これは、第3の実施形態においては、適当な入出力として低負荷の入出力をステップS31で収集しておくことにより、高負荷の領域にある特定の出力の予測の精度を上げることが可能にできる。   In the third embodiment, it is possible to improve the accuracy of prediction of a specific output in a high load region by collecting low load input / output as appropriate input / output in step S31. Can be.

また、入力内容決定手段104によって、入力された特定の出力が評価対象システム2の高負荷動作の領域に当たるか判別し、高負荷動作の領域に当たる場合に低負荷動作の領域の入出力を測定するように計測対象システム実行手段105への入力内容を定めるようにしてもよい。
このとき、低負荷時の入出力のみからフィッティングすることに変えて、入力内容決定手段の指示の元、高負荷時の入出力を1点ないし数点取得するように計測対象システム実行手段と情報収集手段を動作させ、低負荷時の入出力と高負荷時の入出力とを合わせてフィッティングすることによって、モデルのフィッティング精度を高くすることが可能となる。なお、高負荷時の入出力を取得する数については、高負荷の計測に要するコストに鑑みて定めればよい。
Further, the input content determination means 104 determines whether or not the input specific output corresponds to the high load operation region of the evaluation target system 2, and when the input content corresponds to the high load operation region, the input / output of the low load operation region is measured. As described above, the input content to the measurement target system execution unit 105 may be determined.
At this time, instead of fitting only from the input / output at the time of low load, the measurement target system execution means and the information are acquired so as to obtain one or several points of input / output at the time of the high load under the instruction of the input content determining means. The fitting accuracy of the model can be increased by operating the collecting means and fitting the input / output at the low load and the input / output at the high load together. Note that the number of inputs / outputs acquired at high load may be determined in view of the cost required for high load measurement.

これらの動作は、特に、第2の実施形態で説明したフィッティングの繰り返しを行なう場合に、低負荷の入出力によってあらかじめモデルの精度をあげておくことによって、高負荷の入出力を繰り返す回数を少なくすることができ、全体の計測のコストを下げる効果をもたらす。   In these operations, especially when the fitting described in the second embodiment is repeated, the number of times of repeating the high load input / output is reduced by increasing the accuracy of the model in advance by the low load input / output. Can bring about the effect of lowering the overall measurement cost.

上記実施の形態の説明で示したように、本発明によれば、計測の対象とするシステムに対して、システムのモデルから予測したい特定出力に対応する入力を算出し、その入力に基づいて決定された入力内容をそのシステムに実行させ、システムの入出力によってモデルをフィッティングすることで、性能指標の特定の領域を精度よく予測する性能予測装置、性能予測方法およびプログラムを提供できる。   As described in the above embodiment, according to the present invention, an input corresponding to a specific output to be predicted from a system model is calculated for a system to be measured and determined based on the input. It is possible to provide a performance prediction apparatus, a performance prediction method, and a program for accurately predicting a specific region of a performance index by causing the system to execute the input contents and fitting a model by input / output of the system.

なお、本発明の具体的な構成は前述の実施の形態に限られるものではなく、この発明の要旨を逸脱しない範囲の変更があってもこの発明に含まれる。   It should be noted that the specific configuration of the present invention is not limited to the above-described embodiment, and changes within a range not departing from the gist of the present invention are included in the present invention.

また、上記の実施形態の一部又は全部は、以下のようにも記載されうる。尚、以下の付記は本発明をなんら限定するものではない。
[付記1]
計測の対象とする情報処理システムに関する入力と出力の関係のモデルを蓄積するモデル蓄積手段と、
前記情報処理システムの性能を予測する際に、予測の対象とする特定の出力を取得する特定出力獲得手段と、
前記モデル蓄積手段が蓄積している前記情報処理システムのモデルを用いて、前記特定出力獲得手段が取得した前記特定出力に対応する入力を算出し、前記特定出力に対応する入力を基に、入力内容を決定する入力内容決定手段と、
前記入力内容決定手段が決定した前記入力内容を入力とするように、前記情報処理システムを実行させる計測対象システム実行手段と、
前記計測対象システム実行手段が実行させた前記情報処理システムの入力、および、前記入力に対応する出力を収集する情報収集手段と、
前記情報収集手段が収集した前記情報処理システムの入力、および、前記入力に対応する出力を基に、前記モデル蓄積手段から取得したモデルをフィッティングするモデルフィッティング手段と、
前記モデルフィッティング手段によってフィッティングされた新たなモデルに基づいて、前記情報処理システムについて予測の対象とした特定の出力の性能を予測する性能予測手段と、
を備えることを特徴とする性能予測装置。
In addition, a part or all of the above-described embodiments can be described as follows. Note that the following supplementary notes do not limit the present invention.
[Appendix 1]
Model storage means for storing a model of the relationship between input and output related to the information processing system to be measured;
When predicting the performance of the information processing system, specific output acquisition means for acquiring a specific output to be predicted;
The input corresponding to the specific output acquired by the specific output acquisition unit is calculated using the model of the information processing system stored in the model storage unit, and the input corresponding to the specific output is input. Input content determining means for determining the content;
Measurement target system execution means for executing the information processing system so as to input the input content determined by the input content determination means;
Information collecting means for collecting the input of the information processing system executed by the measurement target system executing means and the output corresponding to the input;
Model fitting means for fitting the model acquired from the model storage means based on the input of the information processing system collected by the information collection means and the output corresponding to the input;
Based on a new model fitted by the model fitting means, performance prediction means for predicting the performance of a specific output targeted for prediction for the information processing system;
A performance prediction apparatus comprising:

[付記2]
前記モデル蓄積手段は、前記モデルフィッティング手段がフィッティングしたモデルを新たなモデルとして蓄積することを特徴とする上記付記記載の性能予測装置。
[Appendix 2]
The performance predicting apparatus as set forth in the above supplementary note, wherein the model storing means stores the model fitted by the model fitting means as a new model.

[付記3]
前記情報収集手段は、前記情報処理システムの適当な入力、および、前記適当な入力に対する出力を収集し、
前記モデルフィッティング手段は、前記モデル蓄積手段から取得したモデルを、当該モデル、収集した前記適当な入力、および前記適当な入力に対応する出力に基づき推定して、予測の対象とした特定の出力の近傍のモデルにフィッティングする
ことを特徴とする上記付記記載の性能予測装置。
[Appendix 3]
The information collecting means collects an appropriate input of the information processing system and an output corresponding to the appropriate input;
The model fitting means estimates a model acquired from the model storage means based on the model, the collected appropriate input, and an output corresponding to the appropriate input, and outputs a specific output to be predicted. The performance prediction apparatus according to the above supplementary note, wherein fitting is performed to a nearby model.

[付記4]
前記適当な入力とは、前記情報処理システムが低負荷の場合の入力であり、
前記前記特定の出力とは、前記情報処理システムが高負荷の場合の出力である
ことを特徴とする上記付記記載の性能予測装置。
[Appendix 4]
The appropriate input is an input when the information processing system has a low load,
The said specific output is an output in case the said information processing system is a heavy load, The performance prediction apparatus of the said remarks characterized by the above-mentioned.

[付記5]
前記入力内容決定手段は、予測の対象とする特定の出力が高負荷動作時の出力であった場合に、前記計測対象システム実行手段に、前記情報処理システムが低負荷動作となるように、前記入力内容とする入力を算出し、
前記モデルフィッティング手段は、前記情報収集手段によって収集された前記情報処理システムの低負荷動作をさせる入力と、当該入力に応じて出力された低負荷動作時の出力を基に、前記モデル蓄積手段から取得したモデルをフィッティングし、
前記性能予測手段から、低負荷動作の値に基づくフィッティングを行った新たなモデルに基づき、前記情報処理システムについて予測の対象とした高負荷動作時の出力の性能を予測する
ことを特徴とする上記付記記載の性能予測装置。
[Appendix 5]
The input content determination means, when the specific output to be predicted is an output at the time of a high load operation, the measurement target system execution means, so that the information processing system becomes a low load operation Calculate the input as the input content,
The model fitting means, based on the input for performing the low load operation of the information processing system collected by the information collecting means, and the output at the time of the low load operation output according to the input, from the model storage means Fitting the acquired model,
The performance prediction means predicts the output performance at the time of high load operation targeted for prediction for the information processing system based on a new model that has been fitted based on the value of low load operation. The performance prediction device described in the appendix.

[付記6]
前記モデル蓄積手段が前記フィッティングしたモデルを新たなモデルとして蓄積し、前記入力内容決定手段が前記新たなモデルに基づいて前記特定出力手段が取得した特定の出力に対応する入力を算出して前記特定の出力に対応する入力に基づいて入力内容を決定し、前記計測対象システム実行手段が前記入力内容を入力として前記情報処理システムを実行させ、前記情報収集手段が前記計測対象システム実行手段が実行させた前記情報処理システムの入力 および 前記入力に対応する出力を収集し、前記モデルフィッティング手段が前記情報収集手段が収集した前記情報処理システムの入力 および 前記入力に対応する出力を基に、前記モデル蓄積手段から取得した前記新たなモデルをフィッティングするという一連のプロセスを繰り返すか、または、一連のプロセスを繰り返さないかを判断する繰返し制御手段を更に備える
ことを特徴とする上記付記記載の性能予測装置。
[Appendix 6]
The model accumulating unit accumulates the fitted model as a new model, and the input content determining unit calculates an input corresponding to a specific output acquired by the specific output unit based on the new model. The input content is determined based on the input corresponding to the output of the input, the measurement target system execution means executes the information processing system with the input content as input, and the information collection means causes the measurement target system execution means to execute. And collecting the model based on the input of the information processing system collected by the information collecting unit and the output corresponding to the input. Whether to repeat the process of fitting the new model obtained from the means Or the performance predicting apparatus according to the above supplementary note, further comprising a repetition control means for determining whether or not to repeat a series of processes.

[付記7]
前記繰返し制御手段は、前記モデルフィッティング手段がフィッティングしたモデルの精度を基に、前記一連のプロセスを繰り返すか繰り返さないかを判断することを特徴とする上記付記記載の性能予測装置。
[Appendix 7]
The performance prediction apparatus according to the above supplementary note, wherein the iterative control means determines whether to repeat or not repeat the series of processes based on the accuracy of the model fitted by the model fitting means.

[付記8]
前記入力内容決定手段は、前記情報収集手段が収集した前記情報処理システムの入力、および、前記入力に対応する出力に基づいて、入力内容を決定することを特徴とする上記付記記載の性能予測装置。
[Appendix 8]
The performance prediction apparatus according to the above supplementary note, wherein the input content determination unit determines the input content based on an input of the information processing system collected by the information collection unit and an output corresponding to the input. .

[付記9]
計測の対象とする情報処理システムに関する入力と出力の関係のモデルを予め蓄積し、
前記情報処理システムの性能を予測する際に基準とする、予測の対象である特定出力を取得し、
前記モデルを用いて、前記特定出力に対応する入力を算出処理し、算出した前記特定出力に対応する入力を基に、前記情報処理システムへの入力内容を決定処理し、
決定した前記入力内容を入力とするように前記情報処理システムを実行させ、
実行させた前記情報処理システムの入力、および、前記入力に対応する出力を収集し、
収集した前記情報処理システムの入力、および、前記入力に対応する出力を基に、前記モデルをフィッティングし、
フィッティングした新たなモデルに基づいて、前記情報処理システムについて予測の対象とした特定の出力の性能を予測する
ことを特徴とする性能予測方法。
[Appendix 9]
Accumulate in advance a model of the relationship between input and output for the information processing system to be measured,
Obtaining a specific output that is a target of prediction, which is a reference when predicting the performance of the information processing system;
Using the model, calculating the input corresponding to the specific output, based on the input corresponding to the calculated specific output, determining the input content to the information processing system,
Causing the information processing system to execute the input content determined as an input,
Collecting the input of the information processing system to be executed and the output corresponding to the input;
Fitting the model based on the collected input of the information processing system and the output corresponding to the input,
A performance prediction method characterized by predicting the performance of a specific output targeted for prediction for the information processing system based on a new fitted model.

[付記10]
モデルの蓄積は、フィッティングしたモデルを新たなモデルとして順次蓄積することを特徴とする上記付記記載の性能予測方法。
[Appendix 10]
The model is accumulated by sequentially accumulating the fitted model as a new model.

[付記11]
前記情報処理システムの入力および出力の情報収集は、当該情報処理システムの適当な入力、および、前記適当な入力に対する出力を収集し、
取得した元モデルを、当該モデル、収集した前記適当な入力、および前記適当な入力に対応する出力に基づき推定して、予測の対象とした特定の出力の近傍のモデルにフィッティングする
ことを特徴とする上記付記記載の性能予測方法。
[Appendix 11]
The information collection of the input and output of the information processing system collects the appropriate input of the information processing system and the output for the appropriate input,
The obtained original model is estimated based on the model, the collected appropriate input, and an output corresponding to the appropriate input, and fitted to a model in the vicinity of a specific output targeted for prediction. The performance prediction method according to the above supplementary notes.

[付記12]
前記適当な入力とは、前記情報処理システムが低負荷の場合の入力であり、
前記前記特定の出力とは、前記情報処理システムが高負荷の場合の出力である
ことを特徴とする上記付記記載の性能予測方法。
[Appendix 12]
The appropriate input is an input when the information processing system has a low load,
The said specific output is an output in case the said information processing system is a heavy load, The performance prediction method of the said remarks characterized by the above-mentioned.

[付記13]
前記情報処理システムへの入力内容を決定処理は、予測の対象とする特定の出力が高負荷動作時の出力であった場合に、前記情報処理システムが低負荷動作となるように、前記入力内容とする入力を算出し、
モデルフィッティング時に、収集された前記情報処理システムの低負荷動作をさせる入力と、当該入力に応じて出力された低負荷動作時の出力を基に、取得したモデルをフィッティングし、
低負荷動作の値に基づくフィッティングを行った新たなモデルに基づき、前記情報処理システムについて予測の対象とした高負荷動作時の出力の性能を予測する
ことを特徴とする上記付記記載の性能予測方法。
[Appendix 13]
The input content to the information processing system is determined so that the information processing system is in a low load operation when a specific output to be predicted is an output at the time of a high load operation. And calculate the input
At the time of model fitting, fitting the acquired model based on the collected input for causing the information processing system to perform low-load operation and the output at the time of low-load operation output according to the input,
The performance prediction method according to the above supplementary note, wherein the performance of the output at the time of high load operation targeted for prediction for the information processing system is predicted based on a new model that is fitted based on the value of low load operation .

[付記14]
前記フィッティングしたモデルを新たなモデルとして蓄積し、前記新たなモデルに基づいて取得した特定の出力に対応する入力を算出して前記特定の出力に対応する入力に基づいて入力内容を決定し、前記入力内容を入力として前記情報処理システムを実行させ、実行させた前記情報処理システムの入力 および 前記入力に対応する出力を収集し、収集した前記情報処理システムの入力 および 前記入力に対応する出力を基に、取得した前記新たなモデルをフィッティングするという一連のプロセスを繰り返すか、または、一連のプロセスを繰り返さないかを判断する繰返し制御処理を行う
ことを特徴とする上記付記記載の性能予測方法。
[Appendix 14]
Accumulating the fitted model as a new model, calculating an input corresponding to a specific output acquired based on the new model, determining an input content based on the input corresponding to the specific output, The information processing system is executed using the input content as input, the input of the information processing system executed and the output corresponding to the input are collected, and the collected input of the information processing system and the output corresponding to the input are collected. In addition, the performance prediction method according to the above supplementary note, wherein a repetitive control process for determining whether to repeat the series of processes of fitting the acquired new model or not to repeat the series of processes is performed.

[付記15]
前記繰返し制御処理は、フィッティングしたモデルの精度を基に、前記一連のプロセスを繰り返すか繰り返さないかを判断することを特徴とする上記付記記載の性能予測方法。
[Appendix 15]
The performance prediction method according to the above supplementary note, wherein the iterative control process determines whether or not to repeat the series of processes based on the accuracy of the fitted model.

[付記16]
前記入力内容の決定処理では、収集した前記情報処理システムの入力、および、前記入力に対応する出力に基づいて、入力内容を決定することを特徴とする上記付記記載の性能予測方法。
[Appendix 16]
In the input content determination process, the input content is determined based on the collected input of the information processing system and the output corresponding to the input.

[付記17]
情報処理装置の制御部を、
計測の対象とする情報処理システムに関する入力と出力の関係のモデルを蓄積するモデル蓄積手段と、
前記情報処理システムの性能を予測する際に、予測の対象とする特定の出力を取得する特定出力獲得手段と、
前記モデル蓄積手段が蓄積している前記情報処理システムのモデルを用いて、前記特定出力獲得手段が取得した前記特定出力に対応する入力を算出し、前記特定出力に対応する入力を基に、入力内容を決定する入力内容決定手段と、
前記入力内容決定手段が決定した前記入力内容を入力とするように、前記情報処理システムを実行させる計測対象システム実行手段と、
前記計測対象システム実行手段が実行させた前記情報処理システムの入力、および、前記入力に対応する出力を収集する情報収集手段と、
前記情報収集手段が収集した前記情報処理システムの入力、および、前記入力に対応する出力を基に、前記モデル蓄積手段から取得したモデルをフィッティングするモデルフィッティング手段と、
前記モデルフィッティング手段によってフィッティングされた新たなモデルに基づいて、前記情報処理システムについて予測の対象とした特定の出力の性能を予測する性能予測手段、
として機能させることを特徴とするプログラム。
[Appendix 17]
The control unit of the information processing device
Model storage means for storing a model of the relationship between input and output related to the information processing system to be measured;
When predicting the performance of the information processing system, specific output acquisition means for acquiring a specific output to be predicted;
The input corresponding to the specific output acquired by the specific output acquisition unit is calculated using the model of the information processing system stored in the model storage unit, and the input corresponding to the specific output is input. Input content determining means for determining the content;
Measurement target system execution means for executing the information processing system so as to input the input content determined by the input content determination means;
Information collecting means for collecting the input of the information processing system executed by the measurement target system executing means and the output corresponding to the input;
Model fitting means for fitting the model acquired from the model storage means based on the input of the information processing system collected by the information collection means and the output corresponding to the input;
Based on a new model fitted by the model fitting means, performance prediction means for predicting the performance of a specific output targeted for prediction for the information processing system;
A program characterized by functioning as

[付記18]
前記モデル蓄積手段を、前記モデルフィッティング手段がフィッティングしたモデルを新たなモデルとして蓄積するように動作させることを特徴とする上記付記記載のプログラム。
[Appendix 18]
The program according to the above supplementary note, wherein the model storage unit is operated so as to store the model fitted by the model fitting unit as a new model.

[付記19]
前記情報収集手段は、前記情報処理システムの適当な入力、および、前記適当な入力に対する出力を収集し、
前記モデルフィッティング手段は、前記モデル蓄積手段から取得したモデルを、当該モデル、収集した前記適当な入力、および前記適当な入力に対応する出力に基づき推定して、予測の対象とした特定の出力の近傍のモデルにフィッティングする
ように動作させることを特徴とする上記付記記載のプログラム。
[Appendix 19]
The information collecting means collects an appropriate input of the information processing system and an output corresponding to the appropriate input;
The model fitting means estimates a model acquired from the model storage means based on the model, the collected appropriate input, and an output corresponding to the appropriate input, and outputs a specific output to be predicted. The program according to the above supplementary note, which is operated so as to fit to a nearby model.

[付記20]
前記適当な入力とは、前記情報処理システムが低負荷の場合の入力であり、
前記前記特定の出力が、前記情報処理システムが高負荷の場合の出力となる
ように動作させることを特徴とする上記付記記載のプログラム。
[Appendix 20]
The appropriate input is an input when the information processing system has a low load,
The program according to the above supplementary note, wherein the specific output is operated so as to be an output when the information processing system is under a heavy load.

[付記21]
前記入力内容決定手段は、予測の対象とする特定の出力が高負荷動作時の出力であった場合に、前記計測対象システム実行手段に、前記情報処理システムが低負荷動作となるように、前記入力内容とする入力を算出し、
前記モデルフィッティング手段は、前記情報収集手段によって収集された前記情報処理システムの低負荷動作をさせる入力と、当該入力に応じて出力された低負荷動作時の出力を基に、前記モデル蓄積手段から取得したモデルをフィッティングし、
前記性能予測手段から、低負荷動作の値に基づくフィッティングを行った新たなモデルに基づき、前記情報処理システムについて予測の対象とした高負荷動作時の出力の性能を予測する
ように動作させることを特徴とする上記付記記載のプログラム。
[Appendix 21]
The input content determination means, when the specific output to be predicted is an output at the time of a high load operation, the measurement target system execution means, so that the information processing system becomes a low load operation Calculate the input as the input content,
The model fitting means, based on the input for performing the low load operation of the information processing system collected by the information collecting means, and the output at the time of the low load operation output according to the input, from the model storage means Fitting the acquired model,
Based on the new model that has been fitted based on the value of the low load operation from the performance predicting means, the information processing system is operated so as to predict the performance of the output at the time of high load operation targeted for prediction. The program according to the above supplementary note, which is characterized.

[付記22]
前記モデル蓄積手段が前記フィッティングしたモデルを新たなモデルとして蓄積し、前記入力内容決定手段が前記新たなモデルに基づいて前記特定出力手段が取得した特定の出力に対応する入力を算出して前記特定の出力に対応する入力に基づいて入力内容を決定し、前記計測対象システム実行手段が前記入力内容を入力として前記情報処理システムを実行させ、前記情報収集手段が前記計測対象システム実行手段が実行させた前記情報処理システムの入力 および 前記入力に対応する出力を収集し、前記モデルフィッティング手段が前記情報収集手段が収集した前記情報処理システムの入力 および 前記入力に対応する出力を基に、前記モデル蓄積手段から取得した前記新たなモデルをフィッティングするという一連のプロセスを繰り返すか、または、一連のプロセスを繰り返さないかを判断する繰返し制御手段
として更に制御部を動作させることを特徴とする上記付記記載のプログラム。
[Appendix 22]
The model accumulating unit accumulates the fitted model as a new model, and the input content determining unit calculates an input corresponding to a specific output acquired by the specific output unit based on the new model. The input content is determined based on the input corresponding to the output of the input, the measurement target system execution means executes the information processing system with the input content as input, and the information collection means causes the measurement target system execution means to execute. And collecting the model based on the input of the information processing system collected by the information collecting unit and the output corresponding to the input. Whether to repeat the process of fitting the new model obtained from the means Or the program according to the above supplementary note, wherein the control unit is further operated as a repetition control means for determining whether or not to repeat a series of processes.

[付記23]
前記繰返し制御手段が、前記モデルフィッティング手段がフィッティングしたモデルの精度を基に、前記一連のプロセスを繰り返すか繰り返さないかを判断する
ように動作させることを特徴とする上記付記記載のプログラム。
[Appendix 23]
The program according to the above supplementary note, wherein the repetition control unit is operated so as to determine whether or not to repeat the series of processes based on the accuracy of the model fitted by the model fitting unit.

[付記24]
前記入力内容決定手段が、前記情報収集手段が収集した前記情報処理システムの入力、および、前記入力に対応する出力に基づいて、入力内容を決定する
ように動作させることを特徴とする上記付記記載のプログラム。
[Appendix 24]
The additional description is characterized in that the input content determination unit is operated to determine the input content based on the input of the information processing system collected by the information collection unit and the output corresponding to the input. Program.

本発明は、計測の対象とする情報処理システムについて、性能指標の特定の領域を精度よく予測する用途に適用可能である。例えば、ITシステムにおいては、性能指標がSLAを満たさなくなるような条件を見極めることは重要であるが、そのような条件の精度のよい見積もりに役立てることができよう。   The present invention can be applied to an application for accurately predicting a specific region of a performance index for an information processing system to be measured. For example, in an IT system, it is important to determine conditions under which the performance index does not satisfy the SLA, but this can be used for accurate estimation of such conditions.

1 性能予測装置
2 計測対象システム
3 通信網
101、101’ モデル蓄積手段
102 特定出力獲得手段
103 性能予測手段
104、104’ 入力内容決定手段
105 計測対象システム実行手段
106、106’ 情報収集手段
107 モデルフィッティング手段
108 繰返し制御手段
DESCRIPTION OF SYMBOLS 1 Performance prediction apparatus 2 Measurement object system 3 Communication network 101, 101 'Model storage means 102 Specific output acquisition means 103 Performance prediction means 104, 104' Input content determination means 105 Measurement object system execution means 106, 106 'Information collection means 107 Model Fitting means 108 Repeat control means

Claims (10)

計測の対象とする情報処理システムに関する入力と出力の関係のモデルを蓄積するモデル蓄積手段と、
前記情報処理システムの性能を予測する際に、予測の対象とする特定の出力を取得する特定出力獲得手段と、
前記モデル蓄積手段が蓄積している前記情報処理システムのモデルを用いて、前記特定出力獲得手段が取得した前記特定出力に対応する入力を算出し、前記特定出力に対応する入力を基に、入力内容を決定する入力内容決定手段と、
前記入力内容決定手段が決定した前記入力内容を入力とするように、前記情報処理システムを実行させる計測対象システム実行手段と、
前記計測対象システム実行手段が実行させた前記情報処理システムの入力、および、前記入力に対応する出力を収集する情報収集手段と、
前記情報収集手段が収集した前記情報処理システムの入力、および、前記入力に対応する出力を基に、前記モデル蓄積手段から取得したモデルをフィッティングするモデルフィッティング手段と、
前記モデルフィッティング手段によってフィッティングされた新たなモデルに基づいて、前記情報処理システムについて予測の対象とした特定の出力の性能を予測する性能予測手段と、
を備えることを特徴とする性能予測装置。
Model storage means for storing a model of the relationship between input and output related to the information processing system to be measured;
When predicting the performance of the information processing system, specific output acquisition means for acquiring a specific output to be predicted;
The input corresponding to the specific output acquired by the specific output acquisition unit is calculated using the model of the information processing system stored in the model storage unit, and the input corresponding to the specific output is input. Input content determining means for determining the content;
Measurement target system execution means for executing the information processing system so as to input the input content determined by the input content determination means;
Information collecting means for collecting the input of the information processing system executed by the measurement target system executing means and the output corresponding to the input;
Model fitting means for fitting the model acquired from the model storage means based on the input of the information processing system collected by the information collection means and the output corresponding to the input;
Based on a new model fitted by the model fitting means, performance prediction means for predicting the performance of a specific output targeted for prediction for the information processing system;
A performance prediction apparatus comprising:
前記モデル蓄積手段は、前記モデルフィッティング手段がフィッティングしたモデルを新たなモデルとして蓄積することを特徴とする請求項1記載の性能予測装置。   The performance prediction apparatus according to claim 1, wherein the model storage unit stores the model fitted by the model fitting unit as a new model. 前記情報収集手段は、前記情報処理システムの適当な入力、および、前記適当な入力に対する出力を収集し、
前記モデルフィッティング手段は、前記モデル蓄積手段から取得したモデルを、当該モデル、収集した前記適当な入力、および前記適当な入力に対応する出力に基づき推定して、予測の対象とした特定の出力の近傍のモデルにフィッティングする
ことを特徴とする請求項2記載の性能予測装置。
The information collecting means collects an appropriate input of the information processing system and an output corresponding to the appropriate input;
The model fitting means estimates a model acquired from the model storage means based on the model, the collected appropriate input, and an output corresponding to the appropriate input, and outputs a specific output to be predicted. 3. The performance prediction apparatus according to claim 2, wherein fitting is performed to a nearby model.
前記適当な入力とは、前記情報処理システムが低負荷の場合の入力であり、
前記特定の出力とは、前記情報処理システムが高負荷の場合の出力である
ことを特徴とする請求項3記載の性能予測装置。
The appropriate input is an input when the information processing system has a low load,
4. The performance prediction apparatus according to claim 3, wherein the specific output is an output when the information processing system is heavily loaded.
前記入力内容決定手段は、予測の対象とする特定の出力が高負荷動作時の出力であった場合に、前記計測対象システム実行手段に、前記情報処理システムが低負荷動作となるように、前記入力内容とする入力を算出し、
前記モデルフィッティング手段は、前記情報収集手段によって収集された前記情報処理システムの低負荷動作をさせる入力と、当該入力に応じて出力された低負荷動作時の出力を基に、前記モデル蓄積手段から取得したモデルをフィッティングし、
前記性能予測手段から、低負荷動作の値に基づくフィッティングを行った新たなモデルに基づき、前記情報処理システムについて予測の対象とした高負荷動作時の出力の性能を予測する
ことを特徴とする請求項2記載の性能予測装置。
The input content determination means, when the specific output to be predicted is an output at the time of a high load operation, the measurement target system execution means, so that the information processing system becomes a low load operation Calculate the input as the input content,
The model fitting means, based on the input for performing the low load operation of the information processing system collected by the information collecting means, and the output at the time of the low load operation output according to the input, from the model storage means Fitting the acquired model,
The performance prediction means predicts the output performance at the time of high load operation, which is a target of prediction for the information processing system, based on a new model subjected to fitting based on a value of low load operation. Item 3. The performance prediction apparatus according to Item 2.
前記モデル蓄積手段が前記フィッティングしたモデルを新たなモデルとして蓄積し、前記入力内容決定手段が前記新たなモデルに基づいて前記特定出力獲得手段が取得した特定の出力に対応する入力を算出して前記特定の出力に対応する入力に基づいて入力内容を決定し、前記計測対象システム実行手段が前記入力内容を入力として前記情報処理システムを実行させ、前記情報収集手段が前記計測対象システム実行手段が実行させた前記情報処理システムの入力 および 前記入力に対応する出力を収集し、前記モデルフィッティング手段が前記情報収集手段が収集した前記情報処理システムの入力 および 前記入力に対応する出力を基に、前記モデル蓄積手段から取得した前記新たなモデルをフィッティングするという一連のプロセスを繰り返すか、または、一連のプロセスを繰り返さないかを判断する繰返し制御手段を更に備える
ことを特徴とする請求項2乃至5の何れか一項に記載の性能予測装置。
The model storage means stores the fitted model as a new model, and the input content determination means calculates an input corresponding to the specific output acquired by the specific output acquisition means based on the new model, and The input content is determined based on an input corresponding to a specific output, the measurement target system execution unit executes the information processing system with the input content as an input, and the information collection unit is executed by the measurement target system execution unit. The information processing system input and the output corresponding to the input are collected, and the model fitting unit is configured to collect the model based on the input of the information processing system collected by the information collection unit and the output corresponding to the input. Repeat a series of processes to fit the new model acquired from the storage means The performance prediction apparatus according to claim 2, further comprising a repetition control unit that determines whether or not to repeat a series of processes.
前記繰返し制御手段は、前記モデルフィッティング手段がフィッティングしたモデルの精度を基に、前記一連のプロセスを繰り返すか繰り返さないかを判断することを特徴とする請求項6記載の性能予測装置。   7. The performance prediction apparatus according to claim 6, wherein the iterative control unit determines whether or not to repeat the series of processes based on the accuracy of the model fitted by the model fitting unit. 前記入力内容決定手段は、前記情報収集手段が収集した前記情報処理システムの入力、および、前記入力に対応する出力に基づいて、入力内容を決定することを特徴とする請求項5乃至6の何れか一項に記載の性能予測装置。   7. The input content determination unit determines the input content based on an input of the information processing system collected by the information collection unit and an output corresponding to the input. The performance prediction apparatus according to claim 1. 計測の対象とする情報処理システムに関する入力と出力の関係のモデルを予め蓄積し、
前記情報処理システムの性能を予測する際に基準とする、予測の対象である特定出力を取得し、
前記モデルを用いて、前記特定出力に対応する入力を算出処理し、算出した前記特定出力に対応する入力を基に、前記情報処理システムへの入力内容を決定処理し、
決定した前記入力内容を入力とするように前記情報処理システムを実行させ、
実行させた前記情報処理システムの入力、および、前記入力に対応する出力を収集し、
収集した前記情報処理システムの入力、および、前記入力に対応する出力を基に、前記モデルをフィッティングし、
フィッティングした新たなモデルに基づいて、前記情報処理システムについて予測の対象とした特定の出力の性能を予測する
ことを特徴とする性能予測方法。
Accumulate in advance a model of the relationship between input and output for the information processing system to be measured,
Obtaining a specific output that is a target of prediction, which is a reference when predicting the performance of the information processing system;
Using the model, calculating the input corresponding to the specific output, based on the input corresponding to the calculated specific output, determining the input content to the information processing system,
Causing the information processing system to execute the input content determined as an input,
Collecting the input of the information processing system to be executed and the output corresponding to the input;
Fitting the model based on the collected input of the information processing system and the output corresponding to the input,
A performance prediction method characterized by predicting the performance of a specific output targeted for prediction for the information processing system based on a new fitted model.
情報処理装置の制御部を、
計測の対象とする情報処理システムに関する入力と出力の関係のモデルを蓄積するモデル蓄積手段と、
前記情報処理システムの性能を予測する際に、予測の対象とする特定の出力を取得する特定出力獲得手段と、
前記モデル蓄積手段が蓄積している前記情報処理システムのモデルを用いて、前記特定出力獲得手段が取得した前記特定出力に対応する入力を算出し、前記特定出力に対応する入力を基に、入力内容を決定する入力内容決定手段と、
前記入力内容決定手段が決定した前記入力内容を入力とするように、前記情報処理システムを実行させる計測対象システム実行手段と、
前記計測対象システム実行手段が実行させた前記情報処理システムの入力、および、前記入力に対応する出力を収集する情報収集手段と、
前記情報収集手段が収集した前記情報処理システムの入力、および、前記入力に対応する出力を基に、前記モデル蓄積手段から取得したモデルをフィッティングするモデルフィッティング手段と、
前記モデルフィッティング手段によってフィッティングされた新たなモデルに基づいて、前記情報処理システムについて予測の対象とした特定の出力の性能を予測する性能予測手段、
として機能させることを特徴とするプログラム。
The control unit of the information processing device
Model storage means for storing a model of the relationship between input and output related to the information processing system to be measured;
When predicting the performance of the information processing system, specific output acquisition means for acquiring a specific output to be predicted;
The input corresponding to the specific output acquired by the specific output acquisition unit is calculated using the model of the information processing system stored in the model storage unit, and the input corresponding to the specific output is input. Input content determining means for determining the content;
Measurement target system execution means for executing the information processing system so as to input the input content determined by the input content determination means;
Information collecting means for collecting the input of the information processing system executed by the measurement target system executing means and the output corresponding to the input;
Model fitting means for fitting the model acquired from the model storage means based on the input of the information processing system collected by the information collection means and the output corresponding to the input;
Based on a new model fitted by the model fitting means, performance prediction means for predicting the performance of a specific output targeted for prediction for the information processing system;
A program characterized by functioning as
JP2010269494A 2010-12-02 2010-12-02 Performance prediction apparatus, performance prediction method, and program Active JP5636922B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010269494A JP5636922B2 (en) 2010-12-02 2010-12-02 Performance prediction apparatus, performance prediction method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010269494A JP5636922B2 (en) 2010-12-02 2010-12-02 Performance prediction apparatus, performance prediction method, and program

Publications (2)

Publication Number Publication Date
JP2012118872A JP2012118872A (en) 2012-06-21
JP5636922B2 true JP5636922B2 (en) 2014-12-10

Family

ID=46501587

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010269494A Active JP5636922B2 (en) 2010-12-02 2010-12-02 Performance prediction apparatus, performance prediction method, and program

Country Status (1)

Country Link
JP (1) JP5636922B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5977714B2 (en) 2012-05-24 2016-08-24 日本特殊陶業株式会社 Gas sensor
JPWO2013183425A1 (en) * 2012-06-06 2016-01-28 日本電気株式会社 Performance prediction apparatus, performance prediction method, and program
WO2018105079A1 (en) * 2016-12-08 2018-06-14 三菱電機株式会社 Performance evaluation device, performance evaluation method, and performance evaluation program

Also Published As

Publication number Publication date
JP2012118872A (en) 2012-06-21

Similar Documents

Publication Publication Date Title
US9696786B2 (en) System and method for optimizing energy consumption by processors
US11762918B2 (en) Search method and apparatus
JP6571914B2 (en) Detecting anomalies in job performance data by combining multiple domains of information
JP5831558B2 (en) Operation management apparatus, operation management method, and program
US8849738B2 (en) Predicting a user behavior number of a word
JP5373870B2 (en) Prediction device, prediction method, and program
JP5068383B1 (en) Prediction device, prediction method, and prediction program
JP5827425B1 (en) Predictive diagnosis system and predictive diagnosis method
EP3383088A1 (en) A computer implemented method, a system and computer programs to quantify the performance of a network
JP7010674B2 (en) Power Demand Forecasting Device, Power Demand Forecasting Method and Program
JP5636922B2 (en) Performance prediction apparatus, performance prediction method, and program
Westermann et al. Efficient experiment selection in automated software performance evaluations
JP6494258B2 (en) Prediction system, prediction method, and prediction program
JP6502062B2 (en) Communication quality prediction device and communication quality prediction program
US9188968B2 (en) Run-time characterization of on-demand analytical model accuracy
JP2009193205A (en) Automatic tuning system, automatic tuning device, and automatic tuning method
JP5560220B2 (en) Effort estimation device, Effort estimation method, Effort estimation program
US11616704B2 (en) Information processing method, storage medium, and information processing device
CN112463378B (en) Server asset scanning method, system, electronic equipment and storage medium
JP2005063208A (en) Software reliability growth model selection method, software reliability growth model selection apparatus, software reliability growth model selection program and program recording medium
JP6324124B2 (en) Prediction system, prediction method, and prediction program
JP2008165412A (en) Performance-computing device
US20230039523A1 (en) Model update device and method and process control system
WO2010001966A1 (en) Time-series data processing device and method and program thereof
JP5765266B2 (en) Performance evaluation method, information processing apparatus, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140702

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140710

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141007

R150 Certificate of patent or registration of utility model

Ref document number: 5636922

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150