CN115622949A - 一种流量调度方法、装置、设备和介质 - Google Patents

Abstract

本发明公开了一种流量调度方法、装置、设备和介质。该方法包括：获取至少一个数据流的分类结果，确定各所述数据流的优先级；根据各所述数据流的优先级，将各所述数据流发送至对应的服务器，以使服务器根据接收顺序处理接收到的数据流。本发明实施例能够在不增加服务器数量的前提下，提高数据流的处理效率，减少资源浪费。

Description

一种流量调度方法、装置、设备和介质

技术领域

本发明涉及计算机技术领域，尤其涉及一种流量调度方法、装置、设备和介质。

背景技术

目前，电力***针对海量并发业务的处理方法主要通过增加服务器资源，通过建立服务器集群的方式，提高服务器数量而保证海量并发数据的调度传输。

此种处理方法对***全局信息完备性要求高，要求提前预知电力***的网络拓扑和流量分布特点等条件，在增加成本的同时缺乏弹性，且容易造成资源浪费。

发明内容

本发明提供了一种流量调度方法、装置、设备和介质，实现在不增加服务器数量的前提下，提高数据流的处理效率，减少资源浪费。

根据本发明的一方面，提供了一种流量调度方法，该方法包括：

获取至少一个数据流的分类结果，确定各所述数据流的优先级；

根据各所述数据流的优先级，将各所述数据流发送至对应的服务器，以使服务器根据接收顺序处理接收到的数据流。

根据本发明的另一方面，提供了一种流量调度装置，该装置包括：

优先级确定模块，用于获取至少一个数据流的分类结果，确定各所述数据流的优先级；

数据流调度模块，用于根据各所述数据流的优先级，将各所述数据流发送至对应的服务器，以使服务器根据接收顺序处理接收到的数据流。

根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的流量调度方法。

根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的流量调度方法。

根据本发明的另一方面，提供了一种计算机产品，所述计算机程序产品包括计算机程序，所述计算机程序在被处理器执行时实现本发明任一实施例所述的流量调度方法。

本发明实施例的技术方案，通过对数据流进行分类，根据分类结果确定数据流的优先级，根据各数据流的优先级，将各数据流发送至对应的服务器，能够在不增加服务器数量的情况下，及时对数据流进行处理，减少了优先级较高的数据流的等待时间，提高了数据流的处理效率，与现有技术中通过增加服务器的方式提高数据流处理效率相比，减少了资源浪费。

应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1a是根据本发明实施例一提供的一种流量调度方法的流程图；

图1b是根据本发明实施例一提供的一种电力***进行数据流调度场景示意图；

图2是根据本发明实施例二提供的一种流量调度方法的流程图；

图3是根据本发明实施例三提供的一种流量调度方法的流程图；

图4是根据本发明实施例四提供的一种流量调度装置的结构示意图；

图5是实现本发明实施例的流量调度方法的电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。本公开的技术方案中，所涉及的数据流的收集、存储、使用、加工、传输、提供和公开等，均符合相关法律法规的规定，且不违背公序良俗。

实施例一

图1a为本发明实施例一提供了一种流量调度方法的流程图，本实施例可适用于电力***进行数据流调度的场景。图1b为本发明实施例提供的一种电力***进行数据流调度场景示意图。如图1b所示，在电力***中，包括数据采集终端、服务器和电气设备。数据流用于表征一个时隙内，一个电气设备发送的数据。时隙也可以理解为一个时间段，时间段的长度可以根据实际情况进行设置。其中，数据采集终端用于获取各电气设备发送的数据流，并将数据流发送至对应的服务器，实现流量调度。数据采集终端的数量为至少一个。一个数据采集终端可以同时获取至少一个电气设备的数据流。服务器用于处理数据采集终端发送的数据流。服务器的数量为至少一个。

本发明实施例的流量调度方法可以由流量调度装置来执行，该流量调度装置可以采用硬件和/或软件的形式实现，该流量调度装置可配置于电子设备中。如图1a所示，该方法包括：

S110、获取至少一个数据流的分类结果，确定各所述数据流的优先级。

分类结果用于对数据流进行区分。在本发明中，在可以根据数据流中的数据量进行分类，示例性的，分类结果可以包括散列数据流、平滑数据流和低速率数据流。优先级用于表征将获取的至少一个数据流，发送至服务器的顺序。示例性的，优先级越高，数据流发送至服务器的顺序越靠前，也就是，优先级高的数据流，优先发送至服务器。在本发明中，可以根据数据流对时延的要求程度确定优先级。其中，时延用于表征从电气设备发送数据流开始，到服务器完成数据流处理结束，所需要的时间段的长度。数据流的分类结果不同，对时延的要求程度不同。示例性的，散列数据流对时延的要求程度最低；平滑数据流对时延的要求程度最高；低速率数据流对时延的要求程度高于散列数据流，且低于平滑数据流。

具体的，在一个时隙中，数据采集终端可以获取到至少一个数据流，对获取到的数据流进行分类，得到各数据流的分类结果，根据分类结果，确定各数据流的优先级。

S120、根据各所述数据流的优先级，将各所述数据流发送至对应的服务器，以使服务器根据接收顺序处理接收到的数据流。

具体的，根据各数据流的优先级，对各数据流进行排列，按照各数据流的排列顺序，在至少一个服务器中，依次确定各数据流对应的服务器，并将数据流发送至对应的服务器。其中，不同的数据流可以发送至同一服务器中。服务器接收到数据流后，按照数据流的接收顺序，依次处理接收到的数据流。

在本发明中，数据流对应的服务器可以根据服务器处理数据流的能力确定，具体的，可以在服务器中选择处理数据流的能力最强的服务器，作为数据流对应的服务器。

本发明实施例的技术方案，通过对数据流进行分类，根据分类结果确定数据流的优先级，根据各数据流的优先级，将各数据流发送至对应的服务器，能够在不增加服务器数量的情况下，及时对数据流进行处理，减少了优先级较高的数据流的等待时间，提高了数据流的处理效率，与现有技术中通过增加服务器的方式提高数据流处理效率相比，减少了资源浪费。

实施例二

图2为本发明实施例二提供的一种流量调度方法的流程图，本实施例在上述实施例的基础上，将所述获取至少一个数据流的分类结果，确定各所述数据流的优先级，具体化为：获取各所述数据流的分类特征值，确定各所述数据流的分类结果；根据所述分类结果，确定各所述数据流的处理需求特征值；所述处理需求特征值包括下述至少一项：数据量、计算强度和延时限度；针对每个数量流，根据所述数量流的处理需求特征值，确定各所述数据流的优先级。如图2所示，该方法包括：

S210、获取各所述数据流的分类特征值，确定各所述数据流的分类结果。

分类特征值用于表征数据流中包含的数据量。在本发明中，分类特征值包括数据包个数、数据包平均大小和数据包大小分布方差等中的至少一项。数据流中包括至少一个数据包，各数据包的大小可以相同，也可以不同。数据包个数是指数据流中包含的数据包的数量。数据包平均大小是指数据流中包含的数据包大小的平均值。数据包大小分布方差是指数据流中包含的数据包大小的方差。

具体的，对于数据采集终端接收到的数据流，对数据流中的数据包进行分析，确定各数据流的分类特征值。根据分类特征值对数据流进行分类，得到数据流的分类结果。

在一种可实施方式中，所述获取各所述数据流的分类特征值，确定各所述数据流的分类结果，包括：获取各所述数据流的分类特征值，通过分类模型，确定各所述数据流的分类结果。

分类模型用于对数据流进行分类，得到数据流的分类结果。在本发明中，分类模型可以是神经网络模型，对此不做限定。示例性的，分类模型可以是BP(back propagation，误差反向传播)神经网络模型。

具体的，数据采集终端根据接收到的数据流，确定各数据流的分类特征值。将各数据流的分类特征值输入至分类模型中，分类模型根据输入的分类特征值，输出数据流的分类结果。

通过分类模型对数据流进行分类，能够提高数据流分类的效率和准确率，减少数据流的时延，从而提高数据流的处理效率。

S220、根据所述分类结果，确定各所述数据流的处理需求特征值。

处理需求特征值用于表征数据流对时延的要求程度。处理需求特征值包括下述至少一项：数据量、计算强度和延时限度。其中，数据量是指数据流中包含的数据的数量，也可以理解为数据流中各数据包大小的总和；计算强度用于表征对数据流进行处理时的需要的处理能力；延时限度用于表征对数据流进行处理时允许的最大时延。

具体的，根据数据流的分类结果，对数据流进行分析，提取数据流的处理需求特征值。可以理解的是，处理需求特征值可以从数据流中直接获取。

S230、针对每个数量流，根据所述数量流的处理需求特征值，确定各所述数据流的优先级。

首先，针对每个数量流，确定数据流的处理需求特征值的重要性矩阵。具体的，针对处理需求特征值包括的内容进行两两比较，引入1-9标度法，得到重要性矩阵。示例性的，重要性矩阵A可以通过如下方式进行确定：A＝(a_pi)_n×n，其中，

a_pi为重要性矩阵中的元素；p和i用于表示矩阵中的索引值；n为标度值，表示处理需求特征值包括的内容的相对重要性。需要注意的是，n的取值范围与处理需求特征值的数量相对应，且n的最大值为9。示例性的，处理需求特征值包括数据量、计算强度和延时限度，处理需求特征值的数量为3，则n的取值范围为1,2,3。

其次，根据重要性矩阵，确定处理需求特征值对应的权重矩阵，具体的，权重矩阵中的各元素可以通过如下方式进行确定：

其中，k表示处理需求特征值中包括的数值的数量；r表示数据流在权重矩阵中对应的行数；p和i用于表示矩阵中的索引值；a_ri表示数据流i在重要性矩阵中对应的元素。权重矩阵Δ最终可以表示为

再次，根据重要性矩阵，确定权重矩阵对应的特征值矩阵，具体的，可以通过如下方式确定特征值矩阵中的元素：

其中，k表示处理需求特征值中包括的数值的数量；p和i用于表示矩阵中的索引值；r表示数据流在权重矩阵中对应的行数；a_ri表示数据流i在重要性矩阵中对应的元素；U_i表示权重矩阵中第i行元素的和。特征值矩阵Ω最终可以表示为Ω＝[λ₁,λ₂,λ₃]^T。

最后，根据特征值矩阵和权重矩阵确定数据流的优先级。具体的，可以通过如下方式确定数据流的优先级矩阵P：P＝Δ×Ω，其中，P中的元素表示各数据流的优先级。

S240、根据各所述数据流的优先级，将各所述数据流发送至对应的服务器，以使服务器根据接收顺序处理接收到的数据流。

本发明实施例的技术方案，通过获取各数据流的分类特征值，确定各数据流的分类结果，在分类结果的基础上确定各数据流的处理需求特征值，能够提高处理需求特征值确定的准确性，针对每个数据流，根据处理需求特征值确定数据流的优先级，提高了优先级确定的准确性。

在上述实施例的基础上，还包括：获取所述分类模型的训练输入数据和期望输出数据；所述训练输入数据包括至少一个历史数据流的分类特征值，期望输出数据是指各历史数据流的分类结果对应的数据；将所述训练输入数据输入至所述分类模型中，得到训练输出数据；根据所述训练输出数据与所述期望输出数据，确定所述分类模型的损失函数结果，并更新分类模型的参数；在所述损失函数结果满足精度条件时，确定所述分类模型训练完成。

训练输入数据用于表征对分类模型进行训练时，输入分类模型的数据。历史数据流是指已经处理完成的数据流。训练输入数据包括至少一个历史数据流的分类特征值。期望输出数据是指历史数据流的分类结果对应的数据。训练输出数据用于表征分类模型在进行训练时，针对训练输入数据得到的分类结果。损失函数用于确定期望输出数据和训练输出数据之间的误差。在本发明中，损失函数可以根据实际情况进行确定，对此不作限定。损失函数结果用于表征损失函数的计算结果，也可以理解为，损失函数结果用于表征期望输出数据和训练输出数据之间的误差。精度条件是指确定分类模型训练完成的判断条件。精度条件可以根据实际情况进行设置。具体的，损失函数结果满足精度条件时，分类模型训练完成；损失函数不满足精度条件时，分类模型未训练完成，需要继续训练。

具体的，获取至少一个历史数据流的分类特征值，作为训练输入数据。获取的历史数据流的分类结果对应的数据，作为期望输出数据。将训练输入数据输入至未经过训练的分类模型中，得到分类模型的输出数据，作为训练输出数据。将训练输出数据和期望输出数据代入损失函数中，确定损失函数结果，根据损失函数结果更新分类模型的参数，以提高损失函数结果的精度。将损失函数结果与精度条件进行对比，在损失函数结果满足精度条件时，确定分类模型训练完成。

通过获取分类模型的训练输入数据和期望输出数据，将训练输入数据输入至分类模型中，得到训练输出数据，根据训练输出数据与期望输出数据，确定分类模型的损失函数结果，并更新分类模型的参数，实现了对分类模型的训练，在损失函数结果满足精度条件时，确定分类模型训练完成，保证了分类模型的精度，提高了分类结果确定的准确性。

实施例三

图3为本发明实施例三提供的一种流量调度方法的流程图，本实施例在上述实施例的基础上，将根据各所述数据流的优先级，将各所述数据流发送至对应的服务器，具体化为：根据各所述数据流的优先级，确定当前发送的数据流；根据所述当前发送的数据流的处理需求特征值，确定各所述服务器处理数据流的总时延；根据各所述服务器处理数据流的总时延，确定所述当前发送的数据流对应的服务器，并将所述当前发送的数据流发送至对应的服务器；返回执行根据各所述数据流的优先级，确定当前发送的数据流，直至全部数据流发送完成。如图3所示，该方法包括：

S310、获取各所述数据流的分类特征值，确定各所述数据流的分类结果。

S320、根据所述分类结果，确定各所述数据流的处理需求特征值。

S330、针对每个数量流，根据所述数量流的处理需求特征值，确定各所述数据流的优先级。

S340、根据各所述数据流的优先级，确定当前发送的数据流。

当前发送的数据流是指数据采集终端准备向服务器发送的数据流。具体的，根据各数据流的优先级，依次确定各数据流为当前发送的数据流。

S350、根据所述当前发送的数据流的处理需求特征值，确定各所述服务器处理数据流的总时延。

总时延用于表征数据流从数据采集终端传输到服务器，并处理完成所需要的时间长度。具体的，根据当前发送的数据流的处理需求特征值，可以确定当前发送的数据流从数据采集终端传输到服务器所用传输时间，以及服务器处理当前发送的数据流所用的计算时间。将传输时间与计算时间的加权求和结果，确定为总时延。其中，传输时间与计算时间的权重可以根据实际情况进行设置。可以理解的是，服务器的数量为至少一个，可以根据当前发送的数据流的处理需求特征值，确定每一个服务器处理当前发送的数据流的总时延。

示例性的，处理需求特征值包括数据量、计算强度和延时限度。传输时间可以通过如下方式进行确定：

其中，

表示第t个时隙发送的数据流i从数据采集终端传输到服务器j的传输时间；d_i表示数据流i的数据量；r_i,j表示第t个时隙发送的数据流i发送到服务器j的传输效率。r_i,j由服务器j自身决定。计算时间可以通过如下方式进行确定：

其中，

表示服务器j处理第t个时隙发送的数据流i所用的计算时间；d_i表示数据流i的数据量；ω_i表示数据流i的计算强度；f_i,j表示服务器j处理数据流i的计算能力。f_i,j由服务器j自身决定。总时延

可以通过如下方式确定：

S360、根据各所述服务器处理数据流的总时延，确定所述当前发送的数据流对应的服务器，并将所述当前发送的数据流发送至对应的服务器。

根据各服务器处理数据流的总时延，可以选择较小的总时延对应的服务器，作为当前发送的数据流对应的服务器，并将当前发送的数据流发送至对应的服务器。示例性的，可以从各服务器处理数据流的总时延中，选择最小的总时延对应的服务器，作为当前发送的数据流对应的服务器。

S370、返回执行根据各所述数据流的优先级，确定当前发送的数据流，直至全部数据流发送完成。

具体的，在将数据流发送至对应的服务器后，返回执行步骤S340，直至全部数据流发送完成。

本发明实施例的技术方案，通过根据各数据流的优先级，确定当前发送的数据流，根据当前发送的数据流的处理需求特征值，确定各服务器处理数据流的总时延，进而确定当前发送的数据流对应的服务器，并将当前发送的数据流发送至对应的服务器，能够从各服务器中选取总时延较小的服务器作为当前发送的数据流对应的服务器，减少数据流的处理时间，提高数据流的处理效率，通过重复上述过程直至全部数据流发送完成，实现了数据流的逐一发送，能够针对每个数据流的实时确定对应的服务器，提高了服务器选择的准确性。

在上述实施例的基础上，所述根据所述各服务器处理数据流的总时延，确定所述数据流对应的服务器，包括：根据各服务器处理数据流的总时延，确定各所述服务器的置信度；根据所述置信度确定所述数据流对应的服务器。

置信度用于表征选择该服务器作为数据流对应的服务器的概率。具体的，根据各服务器处理数据流的总时延，利用置信度的计算方式，确定各服务器的置信度。从各服务器的置信度中，可以选择较大的置信度对应的服务器作为数据流对应的服务器。示例性的，可以从各服务器的置信度中，选择最大的置信度对应的服务器，作为数据流对应的服务器。

通过各服务器的处理数据流的总时延确定各服务器的置信度，能够选择总时延较小的服务器作为数据流对应的服务器，从而提高服务器处理数据流的效率。

可选的，所述根据各服务器处理数据流的总时延，确定各所述服务器的置信度，包括：获取各所述数据流的序号标识；所述序号标识小于或等于服务器的数量时，依次确定各所述服务器的总时延，作为各所述服务器的置信度，根据所述置信度确定所述数据流对应的服务器；统计各所述服务器的总时延，以及选择各所述服务器的次数，得到总时延统计结果和次数统计结果，确定各所述服务器的置信度；所述序号标识大于服务器的数量时，根据各所述服务器的置信度确定所述数据流对应的服务器，并更新各所述服务器的置信度。

序号标识用于表征数据采集终端对数据流进行发送的顺序。服务器的数量用于表征能够接受数据流的服务器的数量。在序号标识小于或等于服务器的数量时，将各服务器的总时延作为该服务器的置信度，根据各服务器的置信度，选择较大置信度对应的服务器作为数据流对应的服务器。示例性的，根据各服务器的置信度，可以选择最大置信度对应的服务器作为数据流对应的服务器。

总时延统计结果用于表征在当前时隙之前，服务器接收到的数据流的总时延统计结果。总时延统计结果，可以对服务器接受到的数据流的总时延，计算总时延的倒数的平均值。次数统计结果用于表征当前时隙之前，选择该服务器作为数据流对应的服务器的次数，也可以理解为，该服务器接收的数据流的数量。根据总时延统计结果和次数统计结果，可以确定服务器的置信度。

示例性的，置信度可以通过如下方式进行确定：

其中，c_j表示服务器j；i表示数据流；

表示第t个时隙，数据流i选择服务器j作为对应的服务器的置信度；

表示前t个时隙，服务器j的总时延统计结果；ω为权重参数，可以根据实际情况进行设置；

表示第t个时隙，数据流i归一化的优先级；

表示前t个时隙，服务器j次数统计结果。

进一步的，数据流i归一化的优先级

可以通过如下方式进行确定：

其中，P_i表示数据流i的优先级；P_max表示第t个时隙中，数据流的优先级的最大值。

在序号标识大于服务器数量时，可以直接根据各服务器的置信度，选择较大置信度对应的服务器作为数据流对应的服务器。示例性的，可以选择最大置信度对应的服务器作为数据流对应的服务器。在数据流发送完成后，更新各服务器的置信度。

具体的，更新各服务器的总时延统计结果和次数统计结果，根据更新后的总时延统计结果和更新后的次数统计结果，重新计算服务区的置信度，并采用计算结果更新服务器的置信度。

示例性的，次数统计结果可以通过如下方式进行更新：

其中，

为更新后的次数统计结果；c_j表示服务器j；

为流量调度指示变量，

表示第t个时隙，数据流选择服务器j作为数据流对应的服务器，

表示第t个时隙，数据流未选择服务器j作为数据流对应的服务器。总时延统计结果可以通过如下方式进行更新：

其中，

表示更新后的总时延统计结果；

表示前t个时隙，服务器j的总时延统计结果；c_j表示服务器j；

表示第t个时隙，数据流从数据采集终端发送至服务器j的总时延；

为流量调度指示变量；

表示前t个时隙，服务器j次数统计结果。

通过获取各数据流的序号标识，将序号标识与服务器进行比较，根据比较结果采用不同的方式确定数据流对应的服务器，增加了数据流对应的服务器确定的灵活性，在序号标识大于服务器的数量时，确定所述数据流对应的服务器后，更新各所述服务器的置信度，能够实时对服务器的置信度进行更新，提高了置信度的准确性，从而在根据服务器的置信度确定数据流对应的服务器时，提高了服务器确定的准确性。

实施例四

图4为本发明实施例四提供的一种流量调度装置的结构示意图。如图4所示，该装置包括：优先级确定模块401和数据流调度模块。

其中，优先级确定模块401，用于获取至少一个数据流的分类结果，确定各所述数据流的优先级；

数据流调度模块402，用于根据各所述数据流的优先级，将各所述数据流发送至对应的服务器，以使服务器根据接收顺序处理接收到的数据流。

本发明实施例的技术方案，通过对数据流进行分类，根据分类结果确定数据流的优先级，根据各数据流的优先级，将各数据流发送至对应的服务器，能够在不增加服务器数量的情况下，及时对数据流进行处理，减少了优先级较高的数据流的等待时间，提高了数据流的处理效率，与现有技术中通过增加服务器的方式提高数据流处理效率相比，减少了资源浪费。

可选的，优先级确定模块401包括：

分类结果确定单元，用于获取各所述数据流的分类特征值，确定各所述数据流的分类结果；

特征值确定单元，用于根据所述分类结果，确定各所述数据流的处理需求特征值；所述处理需求特征值包括下述至少一项：数据量、计算强度和延时限度；

优先级确定单元，用于针对每个数量流，根据所述数量流的处理需求特征值，确定各所述数据流的优先级。

可选的，分类结果确定单元具体用于：

获取各所述数据流的分类特征值，通过分类模型，确定各所述数据流的分类结果。

可选的，该装置还包括：

训练数据获取模块，用于获取所述分类模型的训练输入数据和期望输出数据；所述训练输入数据包括至少一个历史数据流的分类特征值，期望输出数据是指各历史数据流的分类结果对应的数据；

训练输出数据获取模块，用于将所述训练输入数据输入至所述分类模型中，得到训练输出数据；

模型参数更新模块，用于根据所述训练输出数据与所述期望输出数据，确定所述分类模型的损失函数结果，并更新分类模型的参数；

训练完成确定模块，用于在所述损失函数结果满足精度条件时，确定所述分类模型训练完成。

可选的，所述服务器的数量为至少一个；

数据流调度模块402包括：

当前数据流确定单元，用于根据各所述数据流的优先级，确定当前发送的数据流；

总时延确定单元，用于根据所述当前发送的数据流的处理需求特征值，确定各所述服务器处理数据流的总时延；

数据流发送单元，用于根据各所述服务器处理数据流的总时延，确定所述当前发送的数据流对应的服务器，并将所述当前发送的数据流发送至对应的服务器；

返回单元，用于返回执行根据各所述数据流的优先级，确定当前发送的数据流，直至全部数据流发送完成。

可选的，数据流发送单元包括：

置信度确定子单元，用于根据各服务器处理数据流的总时延，确定各所述服务器的置信度；

服务器确定子单元，用于根据所述置信度确定所述数据流对应的服务器。

可选的，置信度确定子单元具体用于：

获取各所述数据流的序号标识；

所述序号标识小于或等于服务器的数量时，依次确定各所述服务器的总时延，作为各所述服务器的置信度，根据所述置信度确定所述数据流对应的服务器；

统计各所述服务器的总时延，以及选择各所述服务器的次数，得到总时延统计结果和次数统计结果，确定各所述服务器的置信度；

所述序号标识大于服务器的数量时，根据各所述服务器的置信度确定所述数据流对应的服务器，并更新各所述服务器的置信度。

本发明实施例所提供的流量调度装置可执行本发明任意实施例所提供的流量调度方法，具备执行方法相应的功能模块和有益效果。

实施例五

图5示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。

如图5所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。

电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如流量调度方法。

在一些实施例中，流量调度方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时，可以执行上文描述的流量调度方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行流量调度方法。

本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。

用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在电子设备上实施此处描述的***和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的***和技术实施在包括后台部件的计算***(例如，作为数据服务器)、或者包括中间件部件的计算***(例如，应用服务器)、或者包括前端部件的计算***(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将***的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种流量调度方法，其特征在于，包括：

获取至少一个数据流的分类结果，确定各所述数据流的优先级；

根据各所述数据流的优先级，将各所述数据流发送至对应的服务器，以使服务器根据接收顺序处理接收到的数据流。

2.根据权利要求1所述的方法，其特征在于，所述获取至少一个数据流的分类结果，确定各所述数据流的优先级，包括：

获取各所述数据流的分类特征值，确定各所述数据流的分类结果；

根据所述分类结果，确定各所述数据流的处理需求特征值；所述处理需求特征值包括下述至少一项：数据量、计算强度和延时限度；

针对每个数量流，根据所述数量流的处理需求特征值，确定各所述数据流的优先级。

3.根据权利要求2所述的方法，其特征在于，所述获取各所述数据流的分类特征值，确定各所述数据流的分类结果，包括：

获取各所述数据流的分类特征值，通过分类模型，确定各所述数据流的分类结果。

4.根据权利要求3所述的方法，其特征在于，还包括：

获取所述分类模型的训练输入数据和期望输出数据；所述训练输入数据包括至少一个历史数据流的分类特征值，期望输出数据是指各历史数据流的分类结果对应的数据；

将所述训练输入数据输入至所述分类模型中，得到训练输出数据；

根据所述训练输出数据与所述期望输出数据，确定所述分类模型的损失函数结果，并更新分类模型的参数；

在所述损失函数结果满足精度条件时，确定所述分类模型训练完成。

5.根据权利要求2中所述的方法，其特征在于，所述服务器的数量为至少一个；

根据各所述数据流的优先级，将各所述数据流发送至对应的服务器，包括：

根据各所述数据流的优先级，确定当前发送的数据流；

根据所述当前发送的数据流的处理需求特征值，确定各所述服务器处理数据流的总时延；

根据各所述服务器处理数据流的总时延，确定所述当前发送的数据流对应的服务器，并将所述当前发送的数据流发送至对应的服务器；

返回执行根据各所述数据流的优先级，确定当前发送的数据流，直至全部数据流发送完成。

6.根据权利要求5中所述的方法，其特征在于，所述根据所述各服务器处理数据流的总时延，确定所述数据流对应的服务器，包括：

根据各服务器处理数据流的总时延，确定各所述服务器的置信度；

根据所述置信度确定所述数据流对应的服务器。

7.根据权利要求6中所述的方法，其特征在于，所述根据各服务器处理数据流的总时延，确定各所述服务器的置信度，包括：

获取各所述数据流的序号标识；

所述序号标识小于或等于服务器的数量时，依次确定各所述服务器的总时延，作为各所述服务器的置信度，根据所述置信度确定所述数据流对应的服务器；

统计各所述服务器的总时延，以及选择各所述服务器的次数，得到总时延统计结果和次数统计结果，确定各所述服务器的置信度；

所述序号标识大于服务器的数量时，根据各所述服务器的置信度确定所述数据流对应的服务器，并更新各所述服务器的置信度。

8.一种流量调度装置，其特征在于，包括：

优先级确定模块，用于获取至少一个数据流的分类结果，确定各所述数据流的优先级；

数据流调度模块，用于根据各所述数据流的优先级，将各所述数据流发送至对应的服务器，以使服务器根据接收顺序处理接收到的数据流。

9.一种电子设备，其特征在于，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的流量调度方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的流量调度方法。

Images