CN102123061A - 一种确定Web服务器性能的方法 - Google Patents

Abstract

本发明涉及一种确定Web服务器性能的方法。现有的方法难以对真实服务器进行性能评估。本发明通过监测Web服务器和宿主机内存、CPU的使用率及用户请求的响应时间和错误率，分析它们与用户请求量之间的关系来确定Web服务器的峰值负载，从而快速准确的评估Web服务器的性能，为合理有效的使用硬件资源且满足用户需求提供准确、可靠的依据。本发明选择合适的参考资源实际最大的利用率作为参照点计算下一用户请求量，不论资源是否为Web服务器性能瓶颈，计算得到的请求量都小于服务器峰值负载量。

Description

一种确定Web服务器性能的方法

技术领域

本发明属于Web服务器的测试领域，特别是涉及一种确定Web服务器性能的方法。

背景技术

Web***由Web服务器、若干客户机及网络***组成，其服务能力的好坏受Web服务器的性能、用户的行为特征及网络情况三者共同影响。近年来，随着Internet的流行，Web应用深入到我们工作、生活的各个角落，许多传统的行业及信息***被迁移到互联网上，包括电子商务、信息搜索及信息共享领域。在大量、动态、多变的用户请求情况下，Web服务器需要及时处理用户的请求并返回相应的信息。为了确保***运行的可靠性、安全性、稳定性及高效性，我们需要对Web服务器性能进行一个有效、准确的评测。

目前，评估Web服务器性能的方法一般可以分为两种，其中一种是仿真模拟的方法，例如排队论，Petri网；而另一种是测试监控的方法，其评估依据主要以日志文件、资源利用率、响应时间为主。

仿真模拟的方法的主要思想是：通过简化Web***，提取影响Web服务器性能的主要因子，包括缓存大小、请求文件大小、网络带宽、用户请求特征、硬件资源，并归纳为一个公式，并使用该公式来求取Web服务器性能指标，包括吞吐量、响应时间、资源利用率、错误率。这种方法可以直观的表示影响因子与Web服务器性能之间的关系，有助于更深入的理解Web服务器性能，而且可以指导Web服务器的优化及性能瓶颈的分析。但是由于此类方法将简化***且通过模拟虚拟用户与虚拟服务器的交互得到的数据来判断此类方法是否有效，难以对真实服务器进行性能评估。

测试监控的方法主要思想是：通过对真实环境的Web服务器进行监测，记录用户请求量、用户操作行为、资源利用率、响应时间、请求错误率、吞吐率，并通过对的所记录数据的分析来评估Web服务器的性能。这种方法根据真实的数据评估Web服务器性能，对于用于实际运行的服务器而言无疑此类方法更可靠。主流的三种方法有以下特点：根据Web服务器日志文件来分析Web服务器性能，但根据日志文件分析Web服务器性能需要长时间运行Web服务，主要用于服务器的试运行，耗费的时间较长；根据资源利用情况分析在资源为Web服务器性能瓶颈的情况下，可以正确的引导评估，然而造成这种性能下降的因素有很多，包括CPU、内存、网络、操作***、第三方软件，而不仅仅是资源；根据响应时间与用户请求量的关系评估Web服务器的服务能力适用于任何配置服务器的性能评估，因为响应时间是服务器性能的综合体现，但响应时间阀值的选定正确与否直接决定了根据响应时间评估Web服务器性能这种方法的准确性及有效性。

发明内容

为了解决以上技术问题，本发明提供了一种确定Web服务器性能的方法。该方法通过监测Web服务器和宿主机内存、CPU的使用率及用户请求的响应时间和错误率，分析它们与用户请求量之间的关系来确定Web服务器的峰值负载，从而快速准确的评估Web服务器的性能，为合理有效的使用硬件资源且满足用户需求提供准确、可靠的依据。

本发明使用两台物理机，一台作为服务器端，一台作为客户端。在服务器端用虚拟技术部署Web服务器；在客户端安装测试软件，来模拟用户访问Web服务器的行为，从而通过客户端对服务器发起请求。本发明方法通过如下步骤实现：

1）选择一个初始用户请求量，然后执行用户请求生成与性能同步监测过程；

2）根据资源利用率与用户请求量近似线性的关系，提取所监测资源中变化最大的资源作为参考资源R_reference，根据R_reference的最大值U_max估计下一用户请求量P_next，然后执行用户请求生成与性能同步监测过程。若首次根据资源利用率与用户请求量近似线性的关系计算下一用户请求量P_next时，U_max取理论最大值，转至步骤3）；否则跳转至步骤4）；

所述的资源利用率包括宿主机的CPU、内存的利用情况；虚拟机的CPU、内存的利用情况；

3）若执行结果显示参考资源R_reference并非Web服务器性能瓶颈，则记此资源利用率为参考资源R_reference实际最大的利用率，记做U_avaliable，取U_avaliable的60%～90%作为U_max，跳转至步骤2）；若执行结果显示参考资源R_reference为Web服务器性能瓶颈，则执行步骤4）；

4）根据Web服务器到达峰值负载前，客户端用户请求量与响应时间近似指数的关系，提取之前实验中监测得到的用户请求量及对应的响应时间，计算下一用户请求量P_next，执行用户请求生成与性能同步监测过程；

5）若执行结果显示请求的平均响应时间与响应时间阀值的偏差在设定范围内且用户请求错误率小于错误率阀值，则视该用户请求量为服务器能处理的最大负载，也即为Web服务器的峰值负载，否则执行步骤4）；

所述的用户请求生成与性能同步监测过程是：调用负载生成器工具，对Web服务器产生用户请求，同时监测服务器端宿主机的CPU、内存的利用情况；监测虚拟机的CPU、内存的利用情况；监测请求的响应时间和错误率；

由于本发明根据响应时间确定Web服务器的性能，为了确保结果准确，我们设定每次选定用户请求量，执行用户请求生成与性能同步监测过程后，需要确保实验结果中的响应时间具有95%置信度及90%的准确度。然而准确度与测试开销存在矛盾关系，测试时间越长，次数越多，准确度越高，本发明通过动态调节测试次数和选择合适的测试时间来均衡两者关系，从而达到快速准确的确定Web服务器性能的目的。

本发明相较与传统方法的优点如下：

1）选择U_avaliable的60%-90%作为参照点计算下一用户请求量P_next，不论资源是否为Web服务器性能瓶颈，计算得到的请求量都小于服务器峰值负载量；

2）增加错误率作为调控参数，可以有效的减少响应时间阀值取值不准确导致的误差。

在Web服务器瓶颈临界点，错误率较之于响应时间而言更具有显著的特征，当Web服务器具有足够的能力处理用户请求时，其错误率几乎为0，当错误率上升时说明服务器已接近瓶颈点，本发明中控制错误率小于1%。

3）根据Web服务器到达峰值负载前，客户端用户请求量与响应时间近似指数的关系更加快速的确定Web服务器的性能，且具有更广的适用性。

4）动态选择测试次数。对于不同的负载水平，达到同一准确度所需要花费的测试开销不同。负载越大，开销越大。采用动态的测试次数可以有效的减少测试开销且保证结果的准确度。

5）通过脚本控制测试，可以减少了测试人员的工作强度，同时提高了测试的效率。

附图说明

图1为本发明的实验环境图；

图2为负责调度、监控资源的控制器CAE执行的工作图；

图3为本发明的流程图。

具体实施方式

下面结合附图对本发明做进一步的说明:

如图1所示，我们将Web服务器建立在虚拟化环境中，利用虚拟化的硬件资源可动态调节特性，测试在不同的服务器配置情况下本发明的适应性。

图2给出了控制器CAE执行的工作图，本发明主要通过控制器CAE调用脚本从而调节资源、模拟用户请求生成、监控***性能及调整测试用例：

（1）通过xm mem-set DOMAIN MEM和xm sched-credit –d –w -c调节宿主机的内存和CPU资源量，以及虚拟机的内存CPU资源量，从而实现Web服务器不同的内存和CPU资源配置。其中DOMAIN为需要调节内存的域，MEM为调节内存大小，-d为需要调节cpu的域，-w为相对权重值，-c为绝对权重值。需要注意的是宿主机的性能会影响上层虚拟机的性能，需要首先保证宿主机可以正常运行。在本发明中，我们确保宿主机至少拥有256M内存以及20%的CPU资源。

（2）通过调用负载生成器httperf模拟用户行为，对Web服务器生成负载，每条指令中至少要包括目标服务器IP地址（--server），负载类型([−−period [d|u|e]T1[,T2]])及负载大小(--rate),此外还可以设定思考时间、并发长度、最大连接数、并发请求个数、发送缓存大小、接受缓存大小。本发明使用httperf工具对Web服务器生成到达率符合符合泊松分布的负载，并且从返回的测试结果中提取响应时间、错误率的值。

（3）使用xentop工具监控宿主机及虚拟机的CPU资源的使用情况，需要注意的是xentop命令只可以在宿主机中执行，且监测得到的值为所监测域分配到的CPU资源的使用情况。如分配30%CPU资源给虚拟机，监测得到的使用率为70%，则使用率为分配的30%资源的70%。本发明中对每个用户请求量选用的测试时间采用经验值，在本发明实验环境中，持续生成同一用户请求120s，服务器性能趋于稳定。同步监测120s，采用每隔10s采样一次，共采样11次，由于首次采样得到的值为0，故取平均时只需要除10次。

（4）使用top工具监控内存的使用情况，计算公式为used/total。由于内存的消耗是从内存池中申请，其消耗随着时间的增长而逐渐积累。为了准确的计算内存的使用情况，我们选择最后10s中每隔1s取样一次的方法进行监测计算。此外，本发明采用的Web服务器为Apache服务器，存在内存泄漏问题，为了确保内存使用率计算准确，在本发明中，我们采用每次更改用户请求量时重启Apache服务器。

如图3所示，本发明可以分为两大部分：确定用户请求量大小和执行用户请求生成与性能同步监测过程。为了确保实验结果在置信度为95%情况下具有90%准确度，我们每次确定用户请求量大小后，至少执行用户请求生成与性能同步监测过程三次，并提取实验结果中的响应时间计算其准确度，若准确度小于90%，则每次增加1次执行用户请求生成与性能同步监测过程，直到达到90%准确度。在以下步骤中不再重复说明。具体步骤如下：

1）首先给定一个较小的值作为初始用户请求量，执行用户请求生成与性能同步监测过程，直到实验结果中响应时间在置信度为95%情况下具有90%准确度；

2）根据（3）（4）监测的值提取变化最大的资源视为最有可能造成Web服务器性能瓶颈的资源，记为参考资源R_reference，并根据资源利用率与用户请求量之间近似线性的关系，计算下一用户请求量P_next大小，即

其中U_max为变化最大的资源R_reference成为服务器性能瓶颈时的理论最大值，内存、CPU理论最大值均为90%。C为资源R_reference在Web服务器0负载情况下对应的资源利用率，U(P₁)为第一次用户请求量为P₁时对应的资源利用率。执行用户请求生成与性能同步监测过程，直到实验结果中响应时间在置信度为95%情况下具有90%准确度。若首次根据资源利用率与用户请求量之间近似线性的关系计算下一用户请求量P_next，则转至步骤3）；否则跳转至步骤4）；

3）若资源R_reference不是Web服务器性能瓶颈点（响应时间及错误率远远大于其阀值且资源利用率远小于理论值），则记录该利用率为U_avaliable，U_max取U_avaliable的60%～90%作为参照值，删除本次实验结果，跳转至步骤2）；否则转至步骤4）；

4）根据Web服务器到达峰值负载前，客户端用户请求量与响应时间近似指数的关系，提取之前两次实验结果中的响应时间及对应的用户请求量，并代入下式计算影响因子lnA,B的大小，即

其中P_i,T_i为用户请求量及对应的响应时间大小。并根据影响因子计算下一用户请求量P_next大小。

其中T_sat为响应时间阀值。执行用户请求生成与性能同步监测过程，直到实验结果中响应时间在置信度为95%情况下具有90%准确度；

5）若平均响应时间及平均错误率均小于设定的阀值，且预测的下一用户请求量P_next与满足性能要求的最大用户请求量P_high之间的误差值在容许范围内，则确定满足性能要求的最大用户请求量P_high为该服务器的峰值负载量P_peak；否则，跳转至步骤4）。

Claims (1)

1.一种确定Web服务器性能的方法，其特征在于该方法包括如下步骤：

步骤1）选择一个初始用户请求量，然后执行用户请求生成与性能同步监测过程；

步骤2）根据资源利用率与用户请求量近似线性的关系，提取所监测资源中变化最大的资源作为参考资源R_reference，根据R_reference的最大值U_max估计下一用户请求量P_next，然后执行用户请求生成与性能同步监测过程；若首次根据资源利用率与用户请求量近似线性的关系计算下一用户请求量P_next时，U_max取理论最大值，转至步骤3）；否则跳转至步骤4）；

所述的资源利用率包括宿主机的CPU、内存的利用情况；虚拟机的CPU、内存的利用情况；

步骤3）若执行结果显示参考资源R_reference并非Web服务器性能瓶颈，则记此资源利用率为参考资源R_reference实际最大的利用率，记做U_avaliable，取U_avaliable的60%～90%作为U_max，跳转至步骤2）；若执行结果显示参考资源R_reference为Web服务器性能瓶颈，则执行步骤4）；

步骤4）根据Web服务器到达峰值负载前，客户端用户请求量与响应时间近似指数的关系，提取之前实验中监测得到的用户请求量及对应的响应时间，计算下一用户请求量P_next，执行用户请求生成与性能同步监测过程；

步骤5）若执行结果显示请求的平均响应时间与响应时间阀值的偏差在设定范围内且用户请求错误率小于错误率阀值，则视该用户请求量为服务器能处理的最大负载，也即为Web服务器的峰值负载，否则执行步骤4）；

所述的用户请求生成与性能同步监测过程是：调用负载生成器工具，对Web服务器产生用户请求，同时监测服务器端宿主机的CPU、内存的利用情况；监测虚拟机的CPU、内存的利用情况；监测请求的响应时间和错误率。

Images