CN115827256B - 用于多核存算一体加速器网络的任务传输调度管理*** - Google Patents

Abstract

本发明属于数据处理领域，涉及多核加速器技术，用于解决现有存算一体加速器采用静态硬件分配的方法限制了应用程序的性能的问题，具体是用于多核存算一体加速器网络的任务传输调度管理***，包括调度管理平台，调度管理平台通信连接有任务管理模块与加速器网络，任务管理模块用于对任务传输处理进行管理分析：将应用程序编译成数据驱动的任务模式，为每一个任务提供一个唯一的特征值，动态设定任务地址空间及外部数据；本发明是通过实时检测与动态任务分配算法，使加速器网络中的每一个节点都构成可重配的存算一体加速器内核，以对数据进行近数据计算，每个节点包含一个支持实时检测和调度的重分配模块对加速器和数据进行控制。

Description

用于多核存算一体加速器网络的任务传输调度管理***

技术领域

本发明属于数据处理领域，涉及多核加速器技术，具体是用于多核存算一体加速器网络的任务传输调度管理***。

背景技术

为了满足应用程序对时延及同时处理大量数据的需要，现有多核存算一体加速器将多个内核连接到一块共享内存上以实现核间的指令及数据交换，整个交互过程由加速器连接的主处理器控制，通过执行程序设计中的数据传输及任务执行指令完成；

传统的科学仿真应用程序通常将数据划分为大小相等的数据块，进行独立的数据运算和迭代，然而，新兴的高性能计算应用程序将传统的科学仿真与高级数据分析和机械学习相结合，这些应用的数据结构常常以稀疏的数据结构形式存储，更难组织成常规的可分区的数据结构，导致不规则的细粒度数据访问和大量的数据交互和变形；现有存算一体加速器多采用静态硬件分配的方法，使得当数据结构变化的时候无法有效的调配硬件资源，从而限制了应用程序的性能；

针对上述技术问题，本申请提出一种解决方案。

发明内容

本发明的目的在于提供用于多核存算一体加速器网络的任务传输调度管理***，用于解决现有存算一体加速器采用静态硬件分配的方法限制了应用程序的性能的问题。

本发明需要解决的技术问题为：如何提供一种可以实现各个加速器之间的负载平衡，以实现最高的硬件利用率的任务传输调度管理***。

本发明的目的可以通过以下技术方案实现：

用于多核存算一体加速器网络的任务传输调度管理***，包括调度管理平台，所述调度管理平台通信连接有任务管理模块与加速器网络；

所述任务管理模块用于对任务传输处理进行管理分析：将应用程序编译成数据驱动的任务模式，为每一个任务提供一个唯一的特征值，根据其数据访问模式，动态设定任务地址空间及外部数据；

所述加速器网络的每一个节点均包括存算一体加速器内核、重分配模块以及若干个监测模块，存算一体加速器内核用于对数据进行近数据计算，加速器网络的各个节点连接成网状拓扑结构以进行数据和任务的传输；由多个存算一体加速器内核构成一个加速器群组，监测模块与加速器群组一一对应；

所述监测模块用于对加速器群组的硬件利用率进行监测分析并得到加速器群组的匹配值与优先值，将加速器群组的匹配值与优先值通过调度管理平台发送至重分配模块；

所述重分配模块用于对加速器群组进行任务重分配处理。

作为本发明的一种优选实施方式，任务的特征值由特征参数A与特征参数B构成，特征参数A为任务的数据访问模式，包括数据访问器模式、主动域对象模式、对象关系映射模式以及层模式；特征参数B为任务的数据内存值。

作为本发明的一种优选实施方式，监测模块用于对加速器群组的硬件利用率进行监测分析的具体过程包括：设定监测周期，将加速器群组标记为监测对象，获取监测对象在监测周期内的历史处理数据，历史处理数据包括处理任务的特征值、时长数据SC以及利用数据LS；将所有处理过程的利用系数LY进行求和取平均值得到监测对象的利用数据LS；通过对时长数据SC与利用数据LS进行数值计算得到监测对象进行处理任务时的应用系数YY。

作为本发明的一种优选实施方式，时长数据SC为监测对象进行处理任务的过程时长，利用数据LS的获取过程包括：将处理任务的过程时长分割为若干个处理时段，获取处理时段内监测对象的处理数据CL与内存数据NC，处理数据CL为处理时段内监测对象的处理器利用率最大值，内存数据NC为处理时段内监测对象的内存利用率最大值，通过对处理数据CL与内存数据NC进行数值计算得到监测对象在处理时段内的利用系数LY。

作为本发明的一种优选实施方式，监测对象的匹配值的获取过程包括：将监测周期内应用系数YY数值最大的处理任务标记为匹配任务，将特征参数A与匹配任务的数据访问模式相同的处理任务标记为分析任务，由分析任务的特征参数B的最大值与最小值构成内存范围，将内存范围分割为若干个内存区间，将与匹配任务的特征参数B相匹配的内存区间标记为监测对象的匹配区间，由匹配任务的特征参数A与匹配区间构成监测对象的匹配值。

作为本发明的一种优选实施方式，监测对象的优先值的获取过程包括：将分析任务的应用系数YY进行求和取平均值得到匹配对象的特征参数A对应的应用值，通过相同的方法获取到监测对象处理任务剩余特征参数A对应的应用值，将特征参数A按照应用值由大到小的顺序进行排列得到监测对象的优先值。

作为本发明的一种优选实施方式，重分配模块用于对加速器群组进行任务重分配处理的具体过程包括：为每一个存算一体节点搭载一个控制模块以检测利用率与进行任务分配，采用分配模式一进行任务数据空间分配任务，实时监测硬件利用率并标记最高利用率与最低利用率任务；监测是否存在待定节点，若是存在，则采用分配模式二进行任务数据空间分配任务；若不存在，则在任务完成后继续采用分配模式一进行任务数据空间分配任务。

作为本发明的一种优选实施方式，分配模式一的分配过程包括：获取加速器群组的匹配值，判定在任务列表中获取是否存在与加速器群组的匹配值相匹配的任务，若存在，则将对应任务与加速器群组进行任务分配；若不存在，则将加速器群组对应的节点标记为待定节点；判定依据包括：任务的特征参数A与匹配值的特征参数A相同且特征参数B位于内存区间之内；

分配模式二的分配过程包括：获取待定节点对应加速器群组的优先值，按照优先值以及特征参数B数值由大到小的顺序从任务列表中筛选任务与加速器群组进行任务分配。

该用于多核存算一体加速器网络的任务传输调度管理***的工作方法，包括以下步骤：

步骤一：将应用程序编译成数据驱动的任务模式，为每一个任务提供一个唯一的特征值，根据任务的数据访问模式，动态设定任务地址空间及外部数据；

步骤二：对加速器群组的硬件利用率进行监测分析：设定监测周期，将加速器群组标记为监测对象，获取监测对象在监测周期内的历史处理数据并进行数据分析得到监测对象的匹配值与优先值；

步骤三：对加速器群组进行任务重分配处理：为每一个存算一体节点搭载一个控制模块以检测利用率与进行任务分配，采用分配模式一与分配模式二进行任务数据空间分配任务。

本发明具备下述有益效果：

1、通过实时检测与动态任务分配算法，使加速器网络中的每一个节点都构成可重配的存算一体加速器内核，以对数据进行近数据计算，每个节点包含一个支持实时检测和调度的重分配模块对加速器和数据进行控制，各个节点连接成网状拓扑结构以进行数据和任务的传输，通过任务地址空间模式与任务寻址传输方法支持任务的分配和重组，该方法将每一个运算内核分割成多个任务模块，并利用任务地址空间技术将任务模块在网络中传输，通过实时检测与动态任务分配算法以实现各个加速器之间的负载平衡，以实现最高的硬件利用率；

2、通过监测模块可以对加速器群组的硬件利用率进行检测分析，通过在监测周期之内对加速器群组的历史处理数据进行综合分析得到优先值与匹配值，来对加速器群组的历史处理任务进行筛选，对其处理过程中的硬件利用率进行反馈，从而保证各个加速器群组进行任务处理时的硬件利用率；

3、通过重分配模块可以对加速器群组进行任务重分配处理分析，通过分配模式一与分配模式二的结合应用，分配模式一通过特征参数A与内存区间保证加速器群组的任务适配程度，分配模式二在分配模式一的基础之上，依据数据访问模式对任务进行分配。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例一的***框图；

图2为本发明实施例二的方法流程图。

具体实施方式

下面将结合实施例对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

为了满足应用程序对时延及同时处理大量数据的需要，现有多核存算一体加速器将多个内核连接到一块共享内存上以实现核间的指令及数据交换，整个交互过程由加速器连接的主处理器控制，通过执行程序设计中的数据传输及任务执行指令完成；同时，为了保证任务的可靠性，该方法需要严格控制数据处理及共享内存访问的先后顺序，在这两个限制条件下，现有多核存算一体加速器采用编译器控制的静态任务分配方法，无法同时处理多种任务，当任务数据量发生改变的时候，静态分配方法无法有效的利用多核存算一体加速器上的硬件资源从而造成硬件资源的浪费。

实施例一

如图1所示，用于多核存算一体加速器网络的任务传输调度管理***，包括调度管理平台，调度管理平台通信连接有任务管理模块与加速器网络。

任务管理模块用于对任务传输处理进行管理分析：将应用程序编译成数据驱动的任务模式，为每一个任务提供一个唯一的特征值，根据其数据访问模式，动态设定任务地址空间及外部数据；任务的特征值由特征参数A与特征参数B构成，特征参数A为任务的数据访问模式，包括数据访问器模式、主动域对象模式、对象关系映射模式以及层模式；特征参数B为任务的数据内存值。

加速器网络的每一个节点均包括存算一体加速器内核、重分配模块以及若干个监测模块，存算一体加速器内核用于对数据进行近数据计算，加速器网络的各个节点连接成网状拓扑结构以进行数据和任务的传输；由多个存算一体加速器内核构成一个加速器群组，监测模块与加速器群组一一对应；通过实时检测与动态任务分配算法，使加速器网络中的每一个节点都构成可重配的存算一体加速器内核，以对数据进行近数据计算，各个节点连接成网状拓扑结构以进行数据和任务的传输，通过任务地址空间模式与任务寻址传输方法支持任务的分配和重组，该方法将每一个运算内核分割成多个任务模块，并利用任务地址空间技术将任务模块在网络中传输，通过实时检测与动态任务分配算法以实现各个加速器之间的负载平衡，以实现最高的硬件利用率。

监测模块用于对加速器群组的硬件利用率进行监测分析：设定监测周期，将加速器群组标记为监测对象，获取监测对象在监测周期内的历史处理数据，历史处理数据包括处理任务的特征值、时长数据SC以及利用数据LS，时长数据SC为监测对象进行处理任务的过程时长，利用数据LS的获取过程包括：将处理任务的过程时长分割为若干个处理时段，获取处理时段内监测对象的处理数据CL与内存数据NC，处理数据CL为处理时段内监测对象的处理器利用率最大值，内存数据NC为处理时段内监测对象的内存利用率最大值，通过公式LY=α1*CL+α2*NC得到监测对象在处理时段内的利用系数LY，其中α1与α2均为比例系数，且α1＞α2＞1；将所有处理过程的利用系数LY进行求和取平均值得到监测对象的利用数据LS；通过公式YY=（β1*LS）/（β2*SC）得到监测对象进行处理任务时的应用系数YY，应用系数是一个反映监测对象进行任务处理时的整体处理效率的数值，应用系数的数值越大，则表示监测对象处理对应任务时的整体处理效率越高；其中β1与β2均为比例系数，且β1＞β2＞1；将监测周期内应用系数YY数值最大的处理任务标记为匹配任务，将特征参数A与匹配任务的数据访问模式相同的处理任务标记为分析任务，由分析任务的特征参数B的最大值与最小值构成内存范围，将内存范围分割为若干个内存区间，将与匹配任务的特征参数B相匹配的内存区间标记为监测对象的匹配区间，由匹配任务的特征参数A与匹配区间构成监测对象的匹配值，将分析任务的应用系数YY进行求和取平均值得到匹配对象的特征参数A对应的应用值，通过相同的方法获取到监测对象处理任务剩余特征参数A对应的应用值，将特征参数A按照应用值由大到小的顺序进行排列得到监测对象的优先值，将监测对象的优先值与匹配值通过调度管理平台发送至重分配模块；对加速器群组的硬件利用率进行检测分析，通过在监测周期之内对加速器群组的历史处理数据进行综合分析得到优先值与匹配值，来对加速器群组的历史处理任务进行筛选，对其处理过程中的硬件利用率进行反馈，从而保证各个加速器群组进行任务处理时的硬件利用率。

重分配模块用于对加速器群组进行任务重分配处理：为每一个存算一体节点搭载一个控制模块以检测利用率与进行任务分配，采用分配模式一进行任务数据空间分配任务，实时监测硬件利用率并标记最高利用率与最低利用率任务；监测是否存在待定节点，若是存在，则采用分配模式二进行任务数据空间分配任务；若不存在，则在任务完成后继续采用分配模式一进行任务数据空间分配任务；分配模式一的分配过程包括：获取加速器群组的匹配值，判定在任务列表中获取是否存在与加速器群组的匹配值相匹配的任务，若存在，则将对应任务与加速器群组进行任务分配；若不存在，则将加速器群组对应的节点标记为待定节点；判定依据包括：任务的特征参数A与匹配值的特征参数A相同且特征参数B位于内存区间之内；分配模式二的分配过程包括：获取待定节点对应加速器群组的优先值，按照优先值以及特征参数B数值由大到小的顺序从任务列表中筛选任务与加速器群组进行任务分配；对加速器群组进行任务重分配处理分析，通过分配模式一与分配模式二的结合应用，分配模式一通过特征参数A与内存区间保证加速器群组的任务适配程度，分配模式二在分配模式一的基础之上，依据数据访问模式对任务进行分配。

实施例二

如图2所示，用于多核存算一体加速器网络的任务传输调度管理方法，包括以下步骤：

步骤一：将应用程序编译成数据驱动的任务模式，为每一个任务提供一个唯一的特征值，根据任务的数据访问模式，动态设定任务地址空间及外部数据；

步骤二：对加速器群组的硬件利用率进行监测分析：设定监测周期，将加速器群组标记为监测对象，获取监测对象在监测周期内的历史处理数据并进行数据分析得到监测对象的匹配值与优先值，通过匹配值与优先值对其处理过程中的硬件利用率进行反馈；

步骤三：对加速器群组进行任务重分配处理：为每一个存算一体节点搭载一个控制模块以检测利用率与进行任务分配，采用分配模式一与分配模式二进行任务数据空间分配任务，分配模式一通过特征参数A与内存区间保证加速器群组的任务适配程度，分配模式二在分配模式一的基础之上，依据数据访问模式对任务进行分配。

用于多核存算一体加速器网络的任务传输调度管理***，工作时，将应用程序编译成数据驱动的任务模式，为每一个任务提供一个唯一的特征值，根据任务的数据访问模式，动态设定任务地址空间及外部数据；对加速器群组的硬件利用率进行监测分析：设定监测周期，将加速器群组标记为监测对象，获取监测对象在监测周期内的历史处理数据并进行数据分析得到监测对象的匹配值与优先值；对加速器群组进行任务重分配处理：为每一个存算一体节点搭载一个控制模块以检测利用率与进行任务分配，采用分配模式一与分配模式二进行任务数据空间分配任务。

以上内容仅仅是对本发明结构所作的举例和说明，所属本技术领域的技术人员对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代，只要不偏离发明的结构或者超越本权利要求书所定义的范围，均应属于本发明的保护范围。

上述公式均是采集大量数据进行软件模拟得出且选取与真实值接近的一个公式，公式中的系数是由本领域技术人员根据实际情况进行设置；如：公式YY=（β1*LS）/（β2*SC）；由本领域技术人员采集多组样本数据并对每一组样本数据设定对应的应用系数；将设定的应用系数和采集的样本数据代入公式，任意两个公式构成二元一次方程组，将计算得到的系数进行筛选并取均值，得到α1以及α2的取值分别为4.28和2.37；

系数的大小是为了将各个参数进行量化得到的一个具体的数值，便于后续比较，关于系数的大小，取决于样本数据的多少及本领域技术人员对每一组样本数据初步设定对应的应用系数；只要不影响参数与量化后数值的比例关系即可，如应用系数与利用数据的数值成正比。

在本说明书的描述中，参考术语“一个实施例”、“示例”、“具体示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

以上公开的本发明优选实施例只是用于帮助阐述本发明。优选实施例并没有详尽叙述所有的细节，也不限制该发明仅为的具体实施方式。显然，根据本说明书的内容，可作很多的修改和变化。本说明书选取并具体描述这些实施例，是为了更好地解释本发明的原理和实际应用，从而使所属技术领域技术人员能很好地理解和利用本发明。本发明仅受权利要求书及其全部范围和等效物的限制。

Claims (4)

1.用于多核存算一体加速器网络的任务传输调度管理***，其特征在于，包括调度管理平台，所述调度管理平台通信连接有任务管理模块与加速器网络；

所述任务管理模块用于对任务传输处理进行管理分析：将应用程序编译成数据驱动的任务模式，为每一个任务提供一个唯一的特征值，根据其数据访问模式，动态设定任务地址空间及外部数据；

所述加速器网络的每一个节点均包括存算一体加速器内核、重分配模块以及若干个监测模块，存算一体加速器内核用于对数据进行近数据计算，加速器网络的各个节点连接成网状拓扑结构以进行数据和任务的传输；由多个存算一体加速器内核构成一个加速器群组，监测模块与加速器群组一一对应；

所述监测模块用于对加速器群组的硬件利用率进行监测分析并得到加速器群组的匹配值与优先值，将加速器群组的匹配值与优先值通过调度管理平台发送至重分配模块；

所述重分配模块用于对加速器群组进行任务重分配处理；

任务的特征值由特征参数A与特征参数B构成，特征参数A为任务的数据访问模式，包括数据访问器模式、主动域对象模式、对象关系映射模式以及层模式；特征参数B为任务的数据内存值；

监测对象的匹配值的获取过程包括：将监测周期内应用系数YY数值最大的处理任务标记为匹配任务，将特征参数A与匹配任务的数据访问模式相同的处理任务标记为分析任务，由分析任务的特征参数B的最大值与最小值构成内存范围，将内存范围分割为若干个内存区间，将与匹配任务的特征参数B相匹配的内存区间标记为监测对象的匹配区间，由匹配任务的特征参数A与匹配区间构成监测对象的匹配值；

监测对象的优先值的获取过程包括：将分析任务的应用系数YY进行求和取平均值得到匹配对象的特征参数A对应的应用值，通过相同的方法获取到监测对象处理任务剩余特征参数A对应的应用值，将特征参数A按照应用值由大到小的顺序进行排列得到监测对象的优先值；

重分配模块用于对加速器群组进行任务重分配处理的具体过程包括：为每一个存算一体节点搭载一个控制模块以检测利用率与进行任务分配，采用分配模式一进行任务数据空间分配任务，实时监测硬件利用率并标记最高利用率与最低利用率任务；监测是否存在待定节点，若是存在，则采用分配模式二进行任务数据空间分配任务；若不存在，则在任务完成后继续采用分配模式一进行任务数据空间分配任务；

分配模式一的分配过程包括：获取加速器群组的匹配值，判定在任务列表中获取是否存在与加速器群组的匹配值相匹配的任务，若存在，则将对应任务与加速器群组进行任务分配；若不存在，则将加速器群组对应的节点标记为待定节点；判定依据包括：任务的特征参数A与匹配值的特征参数A相同且特征参数B位于内存区间之内；

分配模式二的分配过程包括：获取待定节点对应加速器群组的优先值，按照优先值以及特征参数B数值由大到小的顺序从任务列表中筛选任务与加速器群组进行任务分配。

2.根据权利要求1所述的用于多核存算一体加速器网络的任务传输调度管理***，其特征在于，监测模块用于对加速器群组的硬件利用率进行监测分析的具体过程包括：设定监测周期，将加速器群组标记为监测对象，获取监测对象在监测周期内的历史处理数据，历史处理数据包括处理任务的特征值、时长数据SC以及利用数据LS；将所有处理过程的利用系数LY进行求和取平均值得到监测对象的利用数据LS；通过对时长数据SC与利用数据LS进行数值计算得到监测对象进行处理任务时的应用系数YY。

3.根据权利要求2所述的用于多核存算一体加速器网络的任务传输调度管理***，其特征在于，时长数据SC为监测对象进行处理任务的过程时长，利用数据LS的获取过程包括：将处理任务的过程时长分割为若干个处理时段，获取处理时段内监测对象的处理数据CL与内存数据NC，处理数据CL为处理时段内监测对象的处理器利用率最大值，内存数据NC为处理时段内监测对象的内存利用率最大值，通过对处理数据CL与内存数据NC进行数值计算得到监测对象在处理时段内的利用系数LY。

4.根据权利要求 1-3任一项所述的用于多核存算一体加速器网络的任务传输调度管理***的工作方法，其特征在于，包括以下步骤：

步骤一：将应用程序编译成数据驱动的任务模式，为每一个任务提供一个唯一的特征值，根据任务的数据访问模式，动态设定任务地址空间及外部数据；

步骤二：对加速器群组的硬件利用率进行监测分析：设定监测周期，将加速器群组标记为监测对象，获取监测对象在监测周期内的历史处理数据并进行数据分析得到监测对象的匹配值与优先值；

步骤三：对加速器群组进行任务重分配处理：为每一个存算一体节点搭载一个控制模块以检测利用率与进行任务分配，采用分配模式一与分配模式二进行任务数据空间分配任务。

Images