CN101582043A - 一种异构计算***动态任务分配方法 - Google Patents

Abstract

本发明涉及一种异构计算***动态任务分配方法，异构计算***由一组异构的处理机共同协作完成应用任务，其将任务分解成一组并行的子任务，并按执行顺序调度到各处理机，本方法通过处理器对待处理任务的动态选择，实现了异构计算***中任务的动态分配和任务的优化分配。与现有技术相比，本发明从动态的角度考虑了异构计算***的优化调度问题，利用群体智能技术，提出了一种基于异构计算***的优化调度方法，该方法能够根据异构计算***中不同处理器的处理能力进行动态的任务分配，并考虑了其中可能出现的竞争问题；本发明动态的考虑处理器的计算能力，处理器的负载情况，可以进一步加快异构计算***的执行时间。

Description

一种异构计算***动态任务分配方法

技术领域

本发明涉及异构计算***的优化调度技术，特别是涉及一种异构计算***动态任务分配方法。

背景技术

异构计算***HCS(Heterogeneous Computing System)是利用一组异构的计算机共同协作完成某一应用任务。将任务分解成多个并行子任务，按执行顺序调度到HCS的各处理机，这样不但满足了不同类型的应用，也开发利用了***中各种机器的计算能力，从而使***有较高的性能。以往人们认为增加更多机器就可以提高***的性能。但是在很多情况下，使用数量更多的机器并不能达到预期的效果，因为即使选用大量的机器，但是由于各种机型的计算能力不同，从而使得各子任务间在计算过程中相互等待，延长了整个任务的执行时间，从而降低了***的性能，为此人们在考虑如何合理的分配任务使得异构计算***的性能能够很好的发挥。

发明内容

本发明所要解决的技术问题就是为了克服上述现有技术存在的缺陷而提供一种异构计算***动态任务分配方法。

本发明的目的可以通过以下技术方案来实现：一种异构计算***动态任务分配方法，异构计算***由一组异构的处理机共同协作完成应用任务，其将任务分解成一组并行的子任务，并按执行顺序调度到各处理机，其特征在于，该方法包括以下步骤：

a.为各处理机设置一个进队列门限值和一个停止进队列门限值；

b.分配任务给各处理机，执行步骤如下：

(b1)计算处理机上的等待队列的长度值；

(b2)判断该长度值是否小于该处理机的进队列门限值，若是，则执行步骤(b3)；

(b3)计算子任务组中各子任务被分配给该处理机中的概率；

(b4)将概率最大的子任务加入该处理机的等待队列，并将该子任务从子任务组中删除；

(b5)计算该处理机上的等待队列的长度值；

(b6)判断该长度值是否小于该处理机的停止进队列门限值，若是，则返回步骤(b3)，若否，则返回步骤(b1)；

c.在多个处理机竞争同一个子任务时，计算该多个处理机的负载强度，将该子任务分配给负载强度最小的处理机。

与现有技术相比，本发明从动态的角度考虑了异构计算***的优化调度问题，利用群体智能技术，提出了一种基于异构计算***的优化调度方法，该方法能够根据异构计算***中不同处理器的处理能力进行动态的任务分配，并考虑了其中可能出现的竞争问题；本发明动态的考虑处理器的计算能力，处理器的负载情况，可以进一步加快异构计算***的执行时间。

附图说明

图1为本发明的流程图。

图2为本发明的实施例的采用一台台式机时执行时间比较的比较示意图；

图3为本发明的实施例的采用六台台式机时执行时间比较的比较示意图；

图4为本发明的实施例的采用不同测试环境下的执行时间比较示意图。

具体实施方式

下面结合附图对本发明作进一步说明。

如图1～4所示，一种异构计算***动态任务分配方法，异构计算***由一组异构的处理机共同协作完成应用任务，其将任务分解成一组并行的子任务，并按执行顺序调度到各处理机，该方法包括以下步骤：

a.为各处理机设置一个进队列门限值和一个停止进队列门限值；

b.分配任务给各处理机，执行步骤如下：

(b1)计算处理机上的等待队列的长度值；

(b2)判断该长度值是否小于该处理机的进队列门限值，若是，则执行步骤(b3)；

(b3)计算子任务组中各子任务被分配给该处理机中的概率；

(b4)将概率最大的子任务加入该处理机的等待队列，并将该子任务从子任务组中删除；

(b5)计算该处理机上的等待队列的长度值；

(b6)判断该长度值是否小于该处理机的停止进队列门限值，若是，则返回步骤(b3)，若否，则返回步骤(b1)；

c.在多个处理机竞争同一个子任务时，计算该多个处理机的负载强度，将该子任务分配给负载强度最小的处理机。

异构计算***由一系列不同的处理机P＝{p₁，p₂，p₃Lp_n}组成，将任务分解为一系列的子任务T＝{t₁，t₂，t₃Lt_m}，假设这些任务是相互独立的，一般n＜m。需要解决的问题是如何根据处理机的不同处理能力，合理的分配子任务，使处理任务T的时间尽可能的短，发挥异构计算***的性能优势。

参数定义

任务t_i的优先级记作β_i，由于是异构***定义V(t_i，p_j)表示任务t_i在处理机p_j上运行的时间，定义Tp(t_i，p_j)表示任务t_i通过网络分配到处理机p_j上执行时，所需要的传输时间。Comp(t_i，p_j)表示任务t_i在p_j上的完成时间，那么

Comp(t_i，p_j)＝V(t_i，p_j)+Tp(t_i，p_j)(1)

W(t_i)表示任务t_i从分配给处理器到完成所用的时间，即t_i的等待时间。L(P，p_j)表示处理机p_j上等待执行队列的长度，其中，集合P表示处理机p_j中的任务，则有

$L\left(p_j\right)=\underset{i\∈P}{\overset{P}{\mathrm{\Σ}}}\mathrm{Comp}(t_i,p_j)---\left(2\right)$

Γ_j表示处理机p_j完成所有任务的时间，集合S表示处理机p_j中处理的所有任务的集合。那么有

${\mathrm{\Γ}}_j=\underset{i=j}{\overset{S}{\mathrm{\Σ}}}\mathrm{Comp}(t_i,p_j)---\left(3\right)$

定义Γ为整个任务的完成时间，我们的目标是最小化Γ，即

Γ＝min{max_1≤j≤nΓ_j}(4)

动态任务分配模型

异构计算***如何分配任务可以采用蜂群任务分配方式，如处理机对应蜜蜂，任务对应蜜蜂觅食、照顾后代等工作，任务分配对应蜜蜂的任务分配。因此，蜜蜂和环境之间的信息交流模型可以被用于异构计算***的任务调度中，以实现动态的、自适应的任务分配方式。

在异构计算***任务分配的蜂群算法中，对处理器的等待队列规定一个进队门限值L_in和停止进队门限值L_stop，当该处理器的等待队列的长度小于或等于进队门限值L_in时，则从未分配的任务中挑选任务加入该处理器的等待队列，当该处理器的等待队列长度大于或等于L_stop时，停止该处理器的等待队列加入任务。

每个处理器p_j对***中尚未分配资源的任务都有一个对应的反应阙值。我们用一组m×n矩阵来表示。

$A=\left(\begin{array}{cccc}{\mathrm{\α}}_{11}& {\mathrm{\α}}_{12}& L& {\mathrm{\α}}_{1n}\\ {\mathrm{\α}}_{21}& {\mathrm{\α}}_{22}& & {\mathrm{\α}}_{2n}\\ M& M& O& M\\ {\mathrm{\α}}_{n1}& {\mathrm{\α}}_{n2}& & {\mathrm{\α}}_{\mathrm{nm}}\end{array}\right)$

其中α_ij表示处理器p_j对任务t_i的相应门限值，α_ij与该任务在处理器p_j上的执行时间V(t_i，p_j)，以及任务传输到处理器p_j上的传输时间Tp(t_i，p_j)有关，其公式如下

α_ij＝ζ+u×Tp(t_i，p_j)+l×V(t_i，p_j)(5)

其中：ζ，u，l为常数。

从式(5)中可以看出，任务执行时间和数据传输时间越长，反应阙值越大，接受该任务的可能性越小；任务执行时间和数据传输时间越长，反应阙值越小，接收该任务的可能性越大。

同样，尚未分配的任务对可供选择使用的处理器会发出刺激信号，用向量B＝(θ₁θ₂L θ_n)来表示。其中θ_i表示任务发出的刺激信号，与任务等待时间W(t_i)、以及任务的优先级β_i有关，其公式如下

θ_i＝β_i+h×W(t_i)(6)

其中：h为常数。

从式(6)中可以看出，任务等待时间W(t_i)越长，任务的优先级β_i优先级越大则该任务发出的刺激信号越强，能够被优先选入处理器的负载队列。

那么，在任务分配时可以根据各个处理器的反应阙值和未完成的任务所发出的刺激信号来选择任务进入处理器的等待队列。可以按概率

$P({\mathrm{\α}}_{\mathrm{ij}},{\mathrm{\θ}}_i)=\frac{{\mathrm{\θ}}_i^2}{{\mathrm{\α}}_{\mathrm{ij}}^2+{\mathrm{\θ}}_i^2}---\left(7\right)$

根据式(7)我们可以得出以下结论，任务t_i发出的刺激信号越强，或处理器p_j的反应阙值越低，则任务被分配到该处理器的可能性越大。

下面给出了各处理器上选择任务的步骤：

Step1.计算该处理器上的等待对列L的长度，如果L＜L_in则继续；

Step2.根据公式(5)，计算所有为调度任务的刺激信号θ_i，根据公式(6)，计算该处理器的反应阙值α_ij，根据公式(7)，计算出调度任务被选入该处理器的概率P(α_ij，θ_i)；

Step3.选出概率P(α_ij，θ_i)最大的一组(t_i，p_j)，t_i进入该处理器的等待对列，将t_i从T中删除；

Step4.计算该处理器的等待对列L的长度，判断，若L＜L_stop则转Step2，否则转Step1；

在实际情况下，会出现多个处理器竟争同一个任务的情况，在文献^[1]中利用蜂群自组织的社会层次概论来解决多个蜜蜂的竞争问题，即参加竞争的蜜蜂被赋予了一个强度值，强度值越小，其获胜的概率越大。在本文中，我们可以通过衡量各个处理器的负载大小在竟争时比较处理器的强度。处理器P_j的强度W_j定义为该处理器上的待执行队列的长度与所竞争的任务t_i在该处理器上的完成时间之和。即

W_j＝L(p_j)+Comp(t_i，p_j)(8)

在出现竞争时取强度值最小的处理器。

本实施例对本发明的方法进行试验，并与现有的平均分配方法(即不考虑处理器处理能力和负载状况，而把工作量平均分配给各个处理器)相比较，本试验运行在PVM(Parallel Virtual Machine)3.4.3异构计算环境中。PVM支持在虚拟机中自动加载任务运行，任务间可以相互通信以及同步。在PVM***中允许用户指定任务被加载的结点。实验时，用1台DELL服务器PowerEdge 1800(CPU：Xeon 3.2GHz内存：1G)，作为主机。六台台式机作为节点机，其中一台CPU为Pentium41.5GHz，内存为1024MB；3台CPU为Pentium4866MHz，内存为512MB；2台CPU为Pentium3500MHz，内存为256MB。

进行模拟实验时，6台节点机依次增加，每增加一台节点机，测试一组数据，实验数据如表1所示。

表1：异构***中不同处理器下两种模型的执行时间比较

图2为只有一台节点机时的执行时间比较，此时两种实验方法的实验结果接近，本文模型仅比平均分配法节省了23.34s(3.2％)。随着实验节点机的增加，本文模型的优势越来越突出，如图3所示，是采用6台台式机时两种模型执行时间比较，本文模型比平均分配方法执行时间节省了101.42s(17.55％)。

图4是异构***中不同测试环境下两种模型的执行时间比较，从图4可以明显看出，从第四台节点机增加到第五台节点机时，平均分配法的执行时间并没有明显减少，只节省6.90s，而本文模型的执行时间节省了23.6s。原因是应为第五台节点机的计算能力与前四台节点机相比较有很大的差距，平均分配算法不考虑机器性能，只是将任务简单地平均分配给各个节点机，在处理相同数据时第五台节点机的执行时间要比前四台节点机的执行时间多，从而导致增加了一台机器，执行时间并没有明显减少。而本文算法，考虑了各节点机的处理能力，根据处理器的负载情况，动态合理的分配任务，缩短整个任务的完成时间。

本发明属于对利用群体智能技术的应用。群体智能(Swarm Intelligence)是指由多个简单个体组成的群体，具有通过相互之间的简单协作完成问题求解的能力。近十年来，应用群体智能解决各种问题的研究领域越来越受到人们的关注。在一群社会昆虫中出现的集体行为被称为群体智能，社会昆虫群体使用智能的、分布式的方法共同解决复杂的问题，这些问题是个体无法解决的。一些学者根据对昆虫群体行为的研究结果提出了用于组合优化问题的求解算法和理论，如蚁群算法、蜂群算法等，并在许多领域中得到了应用。异构计算***中的任务调度问题本身也属于组合优化问题，其中的并行子任务和各个处理器可以视为简单的个体，相互之间通过协调来实现最优。

Claims (1)

1.一种异构计算***动态任务分配方法，异构计算***由一组异构的处理机共同协作完成应用任务，其将任务分解成一组并行的子任务，并按执行顺序调度到各处理机，其特征在于，该方法包括以下步骤：

a.为各处理机设置一个进队列门限值和一个停止进队列门限值；

b.分配任务给各处理机，执行步骤如下：

(b1)计算处理机上的等待队列的长度值；

(b2)判断该长度值是否小于该处理机的进队列门限值，若是，则执行步骤(b3)；

(b3)计算子任务组中各子任务被分配给该处理机中的概率；

(b4)将概率最大的子任务加入该处理机的等待队列，并将该子任务从子任务组中删除；

(b5)计算该处理机上的等待队列的长度值；

(b6)判断该长度值是否小于该处理机的停止进队列门限值，若是，则返回步骤(b3)，若否，则返回步骤(b1)；

c.在多个处理机竞争同一个子任务时，计算该多个处理机的负载强度，将该子任务分配给负载强度最小的处理机。

Images