CN102123053B - 水平分解的多类闭合分叉-汇集排队网络性能分析方法 - Google Patents

Abstract

本发明公开了一种基于水平分解的多类闭合分叉-汇集排队网络模型性能分析方法，通过对模型中的每类包含分叉-汇集操作的模型进行水平分解使得计算机能通过对排队网络模型性能的快速精确分析，进而得到实际***性能的可分析参数，提高了计算机对***性能分析的效率。

Description

水平分解的多类闭合分叉-汇集排队网络性能分析方法

技术领域

本发明涉及排队网络模型性能分析领域，主要是一种基于水平分解的多类闭合分叉-汇集排队网络模型性能分析方法。

背景技术

排队网络（Queueing Network）模型是一种经典的***性能分析方法，它用一个服务中心（Service Center）来描述一个软硬件资源，整个***可以看成是有若干个服务中心按照一定关系组合而成的网络。服务中心可分为队列型和延时型两种类型：队列型服务中心由一个队列和若干个服务器组成，服务器用于执行操作，队列则用于缓存等待服务的请求；而延时型服务中心主要用于模拟延时操作。队列网络模型根据负载类型不同，又可分为开放式模型和闭合式模型。

排队网络模型在复杂度和精确度之间具有较好的均衡效果，被广泛应用于各种计算机软硬件***的性能分析中。然而，随着并行计算、分布式计算等技术的出现，简单的排队网络模型无法适用于此类大规模复杂***的性能分析。一种包含分叉-汇集（Fork-Join）操作的排队网络模型被广泛地应用于并行计算、分布式计算和流程管理等***的性能分析。分叉-汇集操作可以用于描述并行处理场景：一个请求（或称为任务）到达分叉操作节点后将被分解成若干子任务，这些子任务可以由不同的服务中心并行处理；而汇集操作节点必须等待相关的子任务都执行完成后，将它们的结果聚合成一个新的请求发送给下一个服务中心。分叉-汇集操作使该类排队网络模型无法使用乘积形式（Product-Form）的方式计算，从而增加了该类模型分析的难度，特别是对于闭合类型的网络。

目前，关于分叉-汇集排队网络模型的精确算法只有基于马尔可夫链（Markov Chains）的分析方法，但是该类算法只适用于规模较小的模型。因此，对于大规模的分叉-汇集排队网络模型通常采用近似的分析方法。而大多数方法都是利用一种层次分解（Hierarchical Decomposition）的方法。该方法首先将大型的排队网络模型分解成多层次的子网络，每个子网络在其上层网络中用一个负载相关的服务中心表示，然后自底向上分别求解每个子网络模型。如果一个包含N个请求的单类闭合分叉-汇集排队网络模型通过层次分解方法分成L层，每层包含1个子网络，则对于每个子网络需要求解N次（请求数从1到N的情况），而整个网络至少需要求解N ^L 个闭合排队网络模型。因此，对于大规模的分叉-汇集排队网络模型使用基于层次分解的分析方法具有较高的计算复杂度。

例如，当使用分叉-汇集排队网络模型对于业务流程管理（Business Process Management，BPM）***进行建模时，通常需要考虑同时部署的多个流程。因此，对于该类型的软件***进行性能分析时，需要使用多类（Multi-Class）分叉-汇集排队网络模型进行***性能分析。但是由于求解复杂度较高，现有技术中计算机基本只能针对单类型（Single-Class）的分叉-汇集排队网络模型进行分析计算，尚无法对多类闭合分叉-汇集排队网络模型性能分析。

发明内容

本发明为解决现有技术所存在的缺陷，提出了一种基于水平分解（Horizontal Decomposition）的多类闭合分叉-汇集排队网络模型性能分析方法，使得计算机能通过对排队网络模型性能的快速精确分析，进而得到实际***性能的可分析参数。

为了实现上述目的，本发明采用如下技术方案：

水平分解的多类闭合分叉-汇集排队网络性能分析方法，包括以下步骤：

1）在计算机中对包含多类请求和分叉-汇集操作的***建立多类闭合排队网络模型，其中在所述模型中每个计算资源对应一个服务中心，分析该模型所需的两个输入参数分别为请求数                                                

 和每个服务中心i针对不同请求c的服务时间D_c,i；

所述C为请求种类总数，所述N_c为请求c的数目，所述请求数

根据所述***实际的负载规模设定，所述服务中心的服务时间D_c,i从对应计算资源的历史记录中获得；

2）所述计算机对所述多类闭合分叉-汇集排队网络模型中的每类包含分叉-汇集操作的模型进行水平分解，从而所述计算机得到若干个主干及其与之相对应分支的乘积类型混合排队网络模型，同时，所述计算机确定该混合排队网络模型的依赖关系；

3）所述计算机判断步骤2）中所述混合排队网络模型，如果所述混合排队网络模型属于非循环依赖，则根据依赖关系的相反方向逐个求解模型；否则，使用递归收敛算法求解所述循环依赖模型；

4）所述计算机根据步骤2）计算所得的每个服务中心的响应时间，重新计算所述每个单类闭合分叉-汇集排队网络模型中的主干及其各个分支中的每个服务中心响应时间；

5）判断步骤4）的计算结果，如果在步骤2）中选择的所有主干都具有最长的响应时间，则说明之前的选择是正确的，求解流程结束；否则，将响应时间最长的分支选择为主干，并重新分解原有的每类模型，然后返回步骤3）重新执行，直到每类模型选择的主干都具有最长的响应时间。

作为可选方案，所述循环依赖模型中开放模型和闭合模型是交替出现在依赖环上的；所述开放模型可以用以下公式计算：

                             

                   （1）

所述是请求c对应的***吞吐率、

是请求c的到达率，

是请求c在服务中心i的资源利用率；

所述闭合模型可以用以下公式计算：

                                    

                       （2）

所述

是将请求c-1换算成请求c后，请求c在服务中心i的服务时间、

是请求c在服务中心i的平均队列长度、

是请求c到达服务中心i时刻的队列长度、

是请求c在服务中心i的响应时间、

是发送请求c的间隔时间。

作为可选方案，所述循环依赖混合排队网络模型可以表示为

                                                  （3）

所述函数f _o 表示所述公式（1）。用f _c 表示所述公式（2）。

作为可选方案，所述循环依赖混合排队网络模型的求解包括以下步骤：

1）所述计算机为所述每个闭合模型的服务中心的平均队列长度

提供一个初始值

；

2）所述计算机根据提供的初始值，根据所述公式（3）求解，得到每个服务中心的响应时间和每类模型的吞吐量；

3）所述计算机根据步骤2）计算结果，重新计算每个服务中心的平均队列长度；

4）所述计算机判断所计算的结果，如果所有

和

的相对误差都小于用户设定的可接受误差数τ，则停止计算；否则，使用

返回步骤2）重新计算，直到所有平均队列长度的相对误差都小于τ。

本发明有益的效果是：

1)     计算机通过水平分解，可以将多类闭合分叉-汇集排队网络模型分解成若干个乘积类型等闭合和开放模型组成的混合排队网络模型，从而解决了现有技术中，为计算机能快速精确计算多类闭合分叉-汇集排队网络模型提供了一种可行的性能分析方法，提高了计算机对***性能分析的效率。

2)     对于具有非循环依赖关系的混合排队网络模型，可以按照依赖关系的相反方向逐个求解模型。

3)     对于具有循环依赖关系的混合排队网络模型，提出了一种递归收敛的方法，可以有效地求解该类模型。

附图说明

图1非循环依赖的混合排队网络模型实例；

图2循环依赖的混合排队网络模型实例；

图3基于水平分解的多类闭合分叉-汇集排队网络模型求解流程；

图4循环依赖混合排队网络模型的拓扑结构；

图5循环依赖混合排队网络模型的求解流程。

具体实施方式

下面结合附图和实施例对本发明作进一步介绍：

本发明针对多类闭合分叉-汇集排队网络模型，通过计算机使用水平分解方法将每类包含分叉-闭合操作的非乘积型排队网络模型分解成一个闭合和若干开放的乘积型排队网络模型。水平分解方法是将分叉-汇集之间并行处理的N _B 子任务分成一个主干和

个分支，其中主干的确定方法是为每个服务中心的平均队列长度提供一个合理的初始值（例如

，N为闭合排队网络模型中请求的总数，K为闭合排队网络模型中服务中心的总数），从而估算出每个子任务的响应时间（Response Time），并将响应时间最长的子任务执行路径设定为主干。

多类闭合分叉-汇集排队网络模型通过水平分解可以得到一组具有依赖关系的混合排队网络模型。产生依赖关系的原因有两个：一个是水平分解方法，其要求开放模型使用闭合模型的吞吐量作为输入条件（请求到达率）；另一个是混合模型算法，该算法使用开放模型中服务中心的利用率来放大闭合模型中服务中心的服务时间，从而可以屏蔽开放模型对闭合模型的影响。根据依赖关系的结构，可以将水平分解后得到的混合排队网络模型分成两种类型：非循环依赖和循环依赖。

图1是一个非循环依赖混合模型的实例，该混合模型是由一个两类C₁和C₂闭合分叉-汇集排队网络模型经过水平分解而来，包括2个闭合模型C₁、C₂₂和1个开放模型C₂₁。其中，C₂₁需要C₂₂的吞吐量作为输入条件，因此，C₂₁依赖C₂₂。此外，由于C1和C₂共同包含了同一个服务中心A，在求解C₂₂前需要获得C₁中A的利用率，即C₂₂依赖于C₁。

图2是一个循环依赖混合模型的实例。该混合模型是由一个两类C₃和C₄闭合分叉-汇集排队网络模型经过水平分解而来，包括2个闭合模型C₃₁、C₃₂和2个开放模型C₄₂、C₄₁。其中，C₃和C₄都包含分叉-汇集操作，且都共同包含了服务中心B和C。由于上述依赖关系产生的原因，该混合模型包含了一个依赖循环，即C₃₁依赖C₄₁，C₄₁依赖C₄₂，C₄₂依赖C₃₂，C₃₂又依赖C₃₁。

图3描述了基于水平分解的多类闭合分叉-汇集排队网络模型求解流程：

1）在计算机中对包含多类请求和分叉-汇集操作的***建立多类闭合排队网络模型，其中在所述模型中每个计算资源对应一个服务中心，分析该模型所需的两个输入参数分别为请求数

 和每个服务中心i针对不同请求c的服务时间Dc,i；

所述C为请求种类总数、所述Nc为请求c的数目，所述请求数

根据所述***实际的负载规模设定，所述服务中心的服务时间Dc,i从对应计算资源的历史记录中获得；

2）所述计算机对所述多类闭合分叉-汇集排队网络模型中的每类包含分叉-汇集操作的模型进行水平分解，从而所述计算机得到若干个主干及其与之相对应分支的乘积类型混合排队网络模型，同时，所述计算机确定该混合排队网络模型的依赖关系；

6）所述计算机判断步骤2）中所述混合排队网络模型，如果所述混合排队网络模型属于非循环依赖，则根据依赖关系的相反方向逐个求解模型，详细求解方法见 (Gunter Bolch, Stefan Greiner, Hermann de Meer, and Kishor S. Trivedi. Queueing Networks and Markov Chains: Modeling and Performance Evaluation with Computer Science Applications, Second Edition. Wiley-Interscience, 2006, pp.422-427)；否则，使用递归收敛算法求解所述循环依赖模型；

7）所述计算机根据步骤2）计算所得的每个服务中心的响应时间，重新计算所述每个单类闭合分叉-汇集排队网络模型中的主干及其各个分支中的每个服务中心响应时间；

8）判断步骤4）的计算结果，如果在步骤2）中选择的所有主干都具有最长的响应时间，则说明之前的选择是正确的，求解流程结束；否则，分别将响应时间最长的分支选择为主干，并重新分解原有的每类模型，然后返回步骤3）重新执行，直到每类模型选择的主干都具有最长的响应时间。

通过对依赖关系形成原因的分析，可以发现循环依赖混合排队网络模型具有图4的拓扑结果：开放模型和闭合模型是交替出现在依赖环上的。因此，可以将这些模型按照图4的方式排序，即开放模型位于奇数位置例如1，2n-1，闭合模型位于偶数位置例如2,2n。对于开放模型，可以用公式（1）计算：

                                               （1）

其中，

是请求c对应的***吞吐率，

是请求c的到达率，

是请求c在服务中心i的资源利用率。

而闭合模型可以用公式（2）计算：

                                      

                           （2）

其中，

是将请求c-1换算成请求c后，请求c在服务中心i的服务时间，是请求c在服务中心i的平均队列长度，

是请求c到达服务中心i时刻的队列长度，

是请求c在服务中心i的响应时间，

是发送请求c的间隔时间。

为了简便，我们使用函数f _o 表示公式（1）。用f _c 表示公式（2）。因此，循环依赖混合排队网络模型可以表示为：

                                                

                                     （3）

图5描述了循环依赖混合排队网络模型的求解流程。由于方程组（3）中的是未知数，我们采用一种递归收敛算法进行求解，具体步骤如下：

1）所述计算机为所述每个闭合模型的服务中心的平均队列长度

提供一个初始值

；

2）所述计算机根据提供的初始值，根据所述公式（3）求解，得到每个服务中心的响应时间和每类模型的吞吐量；

3）所述计算机根据步骤2）的计算结果，重新计算每个服务中心的平均队列长度

；

4）所述计算机判断所计算的结果，如果所有

和

的相对误差都小于用户设定的可接受误差数τ，则停止计算；否则，使用返回步骤2）重新计算，直到所有平均队列长度的相对误差都小于τ。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员，在不脱离本发明构思的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围内。

Claims (3)

1.水平分解的多类闭合分叉-汇集排队网络性能分析方法，其特征在于包括以下步骤：

1）在计算机中对包含多类请求和分叉-汇集操作的***建立多类闭合排队网络模型，其中在所述模型中每个计算资源对应一个服务中心，分析该模型所需的两个输入参数分别为请求数

和每个服务中心i针对不同请求c的服务时间Dc,i；

所述C为请求种类总数、所述Nc为请求c的数目，所述请求数

根据所述***实际的负载规模设定，所述服务中心的服务时间Dc,i从对应计算资源的历史记录中获得；

2）所述计算机对多类闭合分叉-汇集排队网络模型中的每类包含分叉-汇集操作的模型进行水平分解，从而所述计算机得到若干个主干及其与之相对应分支的乘积类型混合排队网络模型，同时，所述计算机确定该混合排队网络模型的依赖关系；

3）所述计算机判断步骤2）中混合排队网络模型，如果所述混合排队网络模型属于非循环依赖，则根据依赖关系的相反方向逐个求解模型；否则，使用递归收敛算法求解循环依赖模型；

4）所述计算机根据步骤2）计算所得的每个服务中心的响应时间，重新计算每个单类闭合分叉-汇集排队网络模型中的主干及其各个分支中的每个服务中心响应时间；

判断步骤4）的计算结果，如果在步骤2）中选择的所有主干都具有最长的响应时间，则说明之前的选择是正确的，求解流程结束；否则，分别将响应时间最长的分支选择为主干，并重新分解原有的每类模型，然后返回步骤3）重新执行，直到每类模型选择的主干都具有最长的响应时间，循环依赖模型中开放模型和闭合模型是交替出现在依赖环上的；所述开放模型可以用以下公式计算：

$U_{c,i}={\mathrm{\&lambda;}}_c{D}_{c,i}=\left\{\begin{array}{cc}{X}_{2n}\left(\stackrel{\&RightArrow;}{N}\right)D_{c,i}& (c=1)\\ X_{c-1}\left(\stackrel{\&RightArrow;}{N}\right)D_{c,i}& (c=2j-\mathrm{1,1}<j\&le;n)\end{array}\right.---\left(1\right)$

是请求c对应的***吞吐率、λ_c是请求c的到达率、U_c,i是请求c在服务中心i的资源利用率；

所述闭合模型可以用以下公式计算：

$\begin{array}{c}{D}_{c,i}^{*}=\frac{D_{c,i}}{1-U_{c-1,i}}\\ A_{c,i}\left(\stackrel{\&RightArrow;}{N}\right)=Q_i\left(\stackrel{\&RightArrow;}{N-1_c}\right)\\ \&ap;\left[\frac{N_c-1}{N_c}{Q}_{c,i}\left(\stackrel{\&RightArrow;}{N}\right)\right]+\underset{\underset{j\&NotEqual;c/2}{j=1}}{\overset{n}{\mathrm{\&Sigma;}}}{Q}_{2j,i}\left(\stackrel{\&RightArrow;}{N}\right)\\ R_{c,i}\left(\stackrel{\&RightArrow;}{N}\right)=D_{c,i}^{*}[1+A_{c,i}\left(\stackrel{\&RightArrow;}{N}\right)]\\ X_c\left(\stackrel{\&RightArrow;}{N}\right)=\frac{N_c}{Z_c+\underset{i=1}{\overset{K_c}{\mathrm{\&Sigma;}}}{R}_{c,i}\left(\stackrel{\&RightArrow;}{N}\right)}\\ c=2j,1\&le;j\&le;n\end{array}---\left(2\right)$

所述是将请求c-1换算成请求c后，请求c在服务中心i的服务时间、

是请求c在服务中心i的平均队列长度、是请求c到达服务中心i时刻的队列长度、

是请求c在服务中心i的响应时间、Z_c是发送请求c的间隔时间。

2.根据权利要求1所述的水平分解的多类闭合分叉-汇集排队网络性能分析方法，其特征在于，循环依赖混合排队网络模型可以表示为

$\begin{array}{c}{U}_{1,i}=f_o\left(X_{2n}\left(\stackrel{\&RightArrow;}{N}\right)\right)\\ X_2\left(\stackrel{\&RightArrow;}{N}\right)=f_c(U_{1,i},Q_{2,i}\left(\stackrel{\&RightArrow;}{N}\right))\\ .\\ .\\ .\\ U_{2n-1,i}=f_o\left(X_{2n-1}\left(\stackrel{\&RightArrow;}{N}\right)\right)\\ X_{2n}\left(\stackrel{\&RightArrow;}{N}\right)=f_c(U_{2n-1,i},Q_{2n,i}\left(\stackrel{\&RightArrow;}{N}\right))\end{array}---\left(3\right)$

所述函数f_o表示所述公式（1），用f_c表示所述公式（2）。

3.根据权利要求1～2任意一项所述的水平分解的多类闭合分叉-汇集排队网络性能分析方法，其特征在于，循环依赖混合排队网络模型的求解包括以下步骤：

31）所述计算机为所述每个闭合模型的服务中心的平均队列长度

提供一个初始值N_2c/K_2c；

32）所述计算机根据提供的初始值，根据所述公式（3）求解，得到每个服务中心的响应时间和每类模型的吞吐量；

33）所述计算机根据步骤32）的计算结果，重新计算每个服务中心的平均队列长度

34）所述计算机判断所计算的结果，如果所有

和

的相对误差都小于用户设定的可接受误差数τ，则停止计算；否则，使用

返回步骤32）重新计算，直到所有平均队列长度的相对误差都小于τ。

Images