CN115361331A - 通道选择方法、***、装置、电子设备和存储介质 - Google Patents
通道选择方法、***、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN115361331A CN115361331A CN202210887128.9A CN202210887128A CN115361331A CN 115361331 A CN115361331 A CN 115361331A CN 202210887128 A CN202210887128 A CN 202210887128A CN 115361331 A CN115361331 A CN 115361331A
- Authority
- CN
- China
- Prior art keywords
- channel
- routing
- node
- determining
- workflow
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000010187 selection method Methods 0.000 title claims abstract description 24
- 238000000034 method Methods 0.000 claims abstract description 28
- 238000012545 processing Methods 0.000 claims abstract description 27
- 230000015654 memory Effects 0.000 claims description 17
- 238000004891 communication Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 10
- 230000015556 catabolic process Effects 0.000 abstract description 2
- 230000008569 process Effects 0.000 description 12
- 238000007726 management method Methods 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 238000013500 data storage Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000000547 structure data Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/12—Shortest path evaluation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/12—Shortest path evaluation
- H04L45/121—Shortest path evaluation by minimising delays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/12—Shortest path evaluation
- H04L45/124—Shortest path evaluation using a combination of metrics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/12—Shortest path evaluation
- H04L45/125—Shortest path evaluation based on throughput or bandwidth
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/32—Flooding
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A10/00—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE at coastal zones; at river basins
- Y02A10/40—Controlling or monitoring, e.g. of flood or hurricane; Forecasting, e.g. risk assessment or mapping
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请涉及一种通道选择方法、***、装置、电子设备和存储介质,应用于数据处理技术领域,其中,方法包括:获取工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。以解决现有技术中,通道任务分配不均,易造成***崩溃的情况的问题。
Description
技术领域
本申请涉及数据处理技术领域,尤其涉及一种通道选择方法、***、装置、电子设备和存储介质。
背景技术
流水线(工作流)是互联网产品开发中常用的工具,在工作流的两个相邻节点间,通常设置有多个通道,在通过通道,将数据在节点间传输时,往往采用随机的方式,从多个通道中任选一个进行传输,从而造成了某些通道拥堵,其他通道空闲的情况,使得通道任务分配不均,易造成***崩溃的情况。
发明内容
本申请提供了一种通道选择方法、***、装置、电子设备和存储介质,用以解决现有技术中,通道任务分配不均,易造成***崩溃的情况的问题。
第一方面,本申请实施例提供了一种通道选择方法,包括:
获取工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;
基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;
将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。
可选的,所述基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道,包括:
基于所述通道运行数据,确定所述工作节点间的路由信息,所述路由信息中包括路由通道的数量和通过所述路由通道所需的路由参数;
基于所述路由通道的数量和所述路由参数确定所述目标通道。
可选的,所述基于所述通道运行数据,确定所述工作节点间的路由信息,包括:
控制所述工作流中的第一节点向第二节点发送泛洪广播信息;
基于所述通道运行数据,确定所述第二节点从各通道接收到所述泛洪广播信息的路由参数;
确定所述第一节点到第二节点的通道为路由通道;
确定所述路由参数和所述路由通道为所述路由信息。
可选的,所述第一节点和所述第二节点为所述工作流中相邻的两工作节点;
所述控制所述工作流中的第一节点向第二节点发送泛洪广播信息,包括:
控制所述工作流中的各所述第一节点向与其相邻的所述第二节点同时发送所述泛洪广播信息;或,
所述第一节点为开始节点,所述第二节点为终止节点,所述工作流中还包括中间节点;
所述控制所述工作流中的第一节点向第二节点发送泛洪广播信息,包括:
控制所述第一节点通过所述中间节点向所述第二节点发送所述泛洪广播信息,直至所述第二节点接收到所述泛洪广播信息。
可选的,所述通道运行数据包括通道执行时长、通道排队时长;所述基于所述通道运行数据,确定所述第二节点从各通道接收到所述泛洪广播信息的路由参数,包括:
确定所述通道排队时长为所述第二节点从各所述通道接收到所述泛洪广播信息的路由时长;
根据所述通道执行时长和所述通道排队时长,确定所述工作节点间的平均流量数据;
确定所述路由时长和/或所述平均流量数据为所述路由参数。
可选的,所述根据所述通道执行时长和所述通道排队时长,确定所述工作节点间的平均流量数据,包括:
根据所述通道排队时长和所述通道执行时长,确定所述通道的平均任务处理量;
确定所述平均任务处理量为所述平均流量数据。
可选的,所述路由参数包括路由时长和/或路由平均流量;所述基于所述路由通道的数量和所述路由参数确定所述目标通道,包括:
判断所述路由参数是否满足预设路由条件,所述预设路由条件包括所述路由时长超过预设时长阈值,和/或,所述路由平均流量大于预设流量阈值;
若不满足,确定路由时长最短或路由平均流量最小的路由通道为所述目标通道;
若满足,判断所述路由通道的数量是否达到通道阈值;
若路由通道的数量未达到通道阈值,在所述工作节点间创建新的路由通道。
第二方面,本申请实施例提供了一种通道选择***,包括:工作流平台和工作流管控平台;
所述工作流平台,用于向所述工作流管控平台发送工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;
所述工作流管控平台,用于获取工作流中工作节点间各通道的通道运行数据;基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。
第三方面,本申请实施例提供了一种通道选择装置,包括:
获取模块,用于获取工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;
确定模块,用于基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;
控制模块,用于将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。
第四方面,本申请实施例提供了一种电子设备,包括:处理器、通信接口、存储器和通信总线,其中,处理器、通信接口和存储器通过通信总线完成相互间的通信;
所述存储器,用于存储计算机程序;
所述处理器,用于执行所述存储器中所存储的程序,实现第一方面所述的通道选择方法。
第五方面,本申请实施例提供了一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现第一方面所述的通道选择方法。
本申请实施例提供的上述技术方案与现有技术相比具有如下优点:本申请实施例提供的该方法,通过获取工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。如此,通过通道运行数据确定出目标通道,从而,使得待处理任务能够在工作节点间以最小的路由代价的目标通道进行传输和处理,提高了通道的利用率,避免了通道任务分配不均的情况。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本申请一实施例提供的通道选择方法的应用场景图;
图2为本申请一实施例提供的通道选择方法的流程图;
图3为本申请一实施例提供的工作流中工作节点的示意图;
图4为本申请一实施例提供的通道选择***的结构图;
图5为本申请一实施例提供的通道选择装置的结构图;
图6为本申请一实施例提供的电子设备的结构图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请的一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
根据本申请一实施例提供了一种通道选择方法。可选地,在本申请实施例中,上述通道选择方法可以应用于如图1所示的由终端101和服务器102所构成的硬件环境中。如图1所示,服务器102通过网络与终端101进行连接,可用于为终端或终端上安装的客户端提供服务(如视频服务、应用服务等),可在服务器上或独立于服务器设置数据库,用于为服务器102提供数据存储服务,上述网络包括但不限于:广域网、城域网或局域网,终端101并不限定于PC、手机、平板电脑等。
本申请实施例的通道选择方法可以由服务器102来执行,也可以由终端101来执行,还可以是由服务器102和终端101共同执行。其中,终端101执行本申请实施例的通道选择方法,也可以是由安装在其上的客户端来执行。
以终端执行本申请实施例的通道选择方法为例,图2是根据本申请实施例的一种可选的通道选择方法的流程示意图,如图2所示,该方法的流程可以包括以下步骤:
步骤201、获取工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道。
一些实施例中,对于任一项目的完成往往以工作流的方式实现,在工作流中,通常包括多个节点,通过节点间的相互协同作用,完成任务的相关处理。对于工作流中的各个节点,通常节点间的通道为至少两个,通过通道实现任务的流转。
具体的,通道运行数据的获取条件可以是在监测到工作流中有新的待处理任务时,或者,每间隔预设时长获取一次。
其中,通道运行数据可以但不限于为工作流的工作节点间的结构数据,工作流工作节点间各通道的执行时长、工作流各通道的排队时长、通道属性信息。
其中,通道属性信息可以但不限于包括通道数量,创建的工作节点间通道的最大值。
步骤202、基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道。
一些实施例中,在获取到各通道的通道运行数据后,由于通道运行数据中包括通道执行时长以及排队时长等,因此,可以基于通道运行数据确定出工作节点间个通道的路由信息,进而基于路由信息,确定出路由代价最小的目标通道。
在一个可选实施例中,基于通道运行数据,确定所述工作节点间路由代价最小的目标通道,包括:
基于所述通道运行数据,确定所述工作节点间的路由信息,所述路由信息中包括路由通道的数量和通过所述路由通道所需的路由参数;基于所述路由通道的数量和所述路由参数确定所述目标通道。
一些实施例中,通道运行数据通常包括节点间通道的数量、通道执行时长以及排队时长等,从而,基于通道执行时长和排队时长,能够确定每个通道所需的路由参数以及工作节点间路由通道的数量,进而,根据路由通道的数量和路由参数确定出目标通道。
在工作节点间,从起始节点到第二节点的通道是否会出现拥塞的情况,与路由通道的数量以及路由参数均具有一定的关系,因此,在得到路由通道的数量和路由参数后,便可以基于二者确定出路由代价最小的目标通道。
其中,路由参数可以但不限于为路由时长或路由平均流量。
在一个可选实施例中,所述基于所述通道运行数据,确定所述工作节点间的路由信息,包括:
控制所述工作流中的第一节点向第二节点发送泛洪广播信息;基于所述通道运行数据,确定所述第二节点从各通道接收到所述泛洪广播信息的路由参数;确定所述第一节点到第二节点的通道为路由通道;确定所述路由参数和所述路由通道为所述路由信息。
一些实施例中,由于在工作节点间包括至少一条通道,在确定目标通道时,需要对每个通道均进行路由代价的计算。基于此,可以由工作节点间的起始节点向其相邻的下一节点发送泛洪广播信息,以泛洪广播信息的方式,使得广播信息能够在每条通道中均进行路由,从而基于各通道的通道运行数据,确定在各通道中泛洪广播信息的路由参数,并将其作为路由信息。并且,通过判断其实节点的下一节点是否为终止节点,在其不为终止节点时,由下一节点继续转发泛洪广播信息到下下节点,并重复上述流程,直至泛洪广播信息发送到终止节点。如此,通过泛洪广播信息在节点间流转,能够确定两相邻节点间路由代价最小的通道,进而选择该路由代价最小的通道进行数据的传输,以提高工作流任务的执行时间。
可以理解的是,上述泛洪广播信息的发送方式,可以是从起始节点开始,依次向下一节点传播,直至到终止节点技术;也可以是,对工作流中出终止节点外的其他工作节点,均向其下一工作节点发送泛洪广播信息。
其中,第一节点、第二节点均为工作流中的工作节点。
在一个可选实施例中,所述通道运行数据包括通道执行时长、通道排队时长;所述基于所述通道运行数据,确定所述第二节点从各通道接收到所述泛洪广播信息的路由参数,包括:
确定所述通道排队时长为所述第二节点从各所述通道接收到所述泛洪广播信息的路由时长;根据所述通道执行时长和所述通道排队时长,确定所述工作节点间的平均流量数据;确定所述路由时长和/或所述平均流量数据为所述路由参数。
一些实施例中,路由参数有多种,例如泛洪广播信息从节点间的起始节点到第二节点所需要的路由时长,以及工作节点间的平均流量数据。其中,路由时长可以是各通道的通道排队时长。
其中,通道执行时长可以是在工作节点间,通过该通道传输某一任务时处理该任务所需要的时长。平均流量数据可以是在通道中待处理任务的数量。
在一个可选实施例中,所述根据所述通道执行时长和所述通道排队时长,确定所述工作节点间的平均流量数据,包括:
根据所述通道排队时长和所述通道执行时长,确定所述通道的平均任务处理量;确定所述平均任务处理量为所述平均流量数据。
一些实施例中,通道排队时长能够表示在该通道中所有任务执行的总时长,通道执行时长表示单个任务执行时长,因此,基于通道排队时长和所述通道执行时长,将二者相除,便可以确定每个通道的评价任务处理量,得到评价流量数据。
在一个可选实施例中,所述路由参数包括路由时长或路由平均流量;所述基于所述路由通道的数量和所述路由参数确定所述目标通道,包括:
判断所述路由参数是否满足预设路由条件,所述预设路由条件包括所述路由时长超过预设时长阈值,和/或,所述路由平均流量大于预设流量阈值;若不满足,确定路由时长最短或路由平均流量最小的路由通道为所述目标通道;若满足,判断所述路由通道的数量是否达到通道阈值;若路由通道的数量未达到通道阈值,在所述工作节点间创建新的路由通道。
一些实施例中,通过路由参数和路由通道的确定目标通道的过程可以是判断路由参数是否满足预设的路由条件,在其不满足时,则认为当前的通道能够承载任务,从中选择路由时长最短或评论流量最小的通道,作为目标通道。在路由参数满足预设的路由条件时,则认为当前的通道较为拥塞,判断路由通道的数量是否达到预设通道阈值,若未达到,则创建新的通道,以使其参与下次的通道选择;若通道的数量已经达到预设通道阈值,则选择路由时长最短或路由平均流量最小的路由通道为所述目标通道。
可以理解的是,在新的通道的创建速度较快时,也可以将新的通道作为目标通道。
步骤203、将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。
一些实施例中,在确定各工作节点间的目标通道后,将待处理任务按照目标通道进行传输,从而能够提高工作流中较为空闲的通道的利用率。
在一个具体实施例中,本申请提供的一种通道选择方法,在相关技术中的工作流平台上,搭建工作流管控平台(智能管控***),基于该工作流管控平台进行通道选择,参见图3,该方法具体包括:
第一、工作流平台将工作流运行的数据(即通道运行数据),同步到智能管控***。
其中,运行的数据包括:工作流的拓扑图结构数据、工作流各节点(通道)的执行时间、工作流各节点(通道)的排队时间、通道属性(meta)信息。
第二、通过智能管控***中的特征工程,挖掘出工作流运行的数据符合管控需要的数据特征。
其中,数据特征包括:工作流各节点(通道)执行和排队时长抽象为通道平均流量情况(TPS)、工作流各节点(通道)TPS排队情况、工作流各节点(通道)TPS是否到达需要创建新通道的阈值。
第三、通过智能管控***中的Wardrop管控算法,计算出新进任务的通过工作流通道路径的最优解(即目标通道)。
第四、通过Wardrop管控算法,计算出是否需要开辟新的通道。
其中,计算方法可以是,当某个任务节点(通道)TPS达到创建新通道阈值,且通道数未达到最大创建通道数时,则创建新的通道。
第五、调用工作流平台,将第三步和第四步算出的结果,控制任务在工作流任务通道中的流转,直到完成任务。
进一步的,基于Wardrop均衡原理结合工作流拓扑结构和发送给工作流智能管控***的工作流运行数据,选择当前最优通道路径计算流程可以包括:
第一、从s0节点(工作流中的第一个工作节点)开始,选择s0节点的下一节点s1作为目的节点。
第二、从s0向s1发送泛洪广播信息M。
第三、信息M将通过s0与s1之间的所有通道,广播到达s1节点后,将各通道广播到达s1节点的时长更新至信息M,同时更新s0节点的路由表信息。
第四、判断s1是否是终止节点d0,如果是则广播停止,如果不是则向s1节点的下一节点发送泛洪广播信息M,并重复执行第二步和第三步。
第五、确定终止节点d0后,根据路由信息表中代价最小的路由时长进行路由查找,运行工作流任务。
进一步的,对于路由查找得到的路由通道的过程,可以按照一定脉冲频率(如:每5秒钟一次)重复进行第一步到第五步的计算,每次都可计算出当前脉冲间隔期间的最优工作流运转路径,根据当前路径运行工作流。
进一步的,若路由表中的通道执行时间到达工作流meta信息中设置的当前通道执行时间阈值,且通道数未到最大值,则新建当前节点任务运行通道,进而使新建通道参与下一次的最优路径计算。
可以理解的是,上述的通道选择的计算过程,也可以通过训练网络模型实现。具体可以是,对工作流数据进行收集和自动标注,基于工作流运行数据进行训练数据构造,将构造后的数据提供给算法,选择Wardrop管控算法,训练模型,对效果实际运行中进行算法的评估,将评估结果达到预期时,将模型放到实际工作流的运行中。
本申请中的流水线(工作流)可以但不限于为:专业生产内容(ProfessionalGenerated Content,PGC)、专家生产内容(Professionally-produced Content,PPC)、图片文字的生产转码过程以及视频的转码工作等。
示例性的,在工作流为视频转码的转码工作时,参见图3,其工作节点包括反显节点、音轨提取节点、预览流转码节点、成片转码节点以及发布节点。其中,反显节点与音轨提取节点之间的通道个数为3,音轨提取节点与预览流转码节点之间通道个数为2,预览流转码节点与成片转码节点之间的通道个数为1;成片转码节点与发布节点之间通道个数为5为例。在各工作节点间均配置有不同数量的通道,以利用该通道进行视频转码任务的流转。
在实际应用过程中,在有新的视频转码任务上传到工作流后,先存储到开始节点,在开始节点与反显节点间设置有两个通道,开始节点,基于每个通道通道运行数据确定两个通道间,路由代价最小的目标通道。例如,第一条通道中待处理的视频转码任务的数量为2个,该通道的排队时长为2分钟;第二条通道,第二条通道中待处理的视频转码任务的数量为3个,该通道的排队时长为1.5分钟。由此可知,第二条通道的路由时长(即排队时长)较第一条通道的路由时长要短,基于此,选择第二条通道作为目标通道,将视频转码任务流转至反显节点。
可以理解的是,选择目标通道时,也可以基于平均流量进行选择。其中,第一条通道的平均流量为每个任务执行时长为1分钟,第二条通道的平均流量为每个任务执行时长为0.5分钟,可知,第二条通道的平均流量较第一条通道的要小,因此,选择第二条通道作为目标通道。
在另一实例中,开始节点与反显节点间存在第三条通道,该通道中待处理的视频转码任务的数量为5个,该通道的排队时长为20分钟,其平均流量为4分钟,若预设时长阈值为15分钟,预设流量阈值为3分钟,可知,第三条通道的路由情况已经超过了预设时长阈值以及预设流量阈值,此时,***判断是否达到通道的最高数量5,基于上述示例,存在三条通道,未达到5条,因此,创建一新的通道,以在下次进行通道选择时,该新的通道作为备选。
可以理解的是,若两工作节点间的通道数量已经达到了最大值,例如,在成片转码节点与发布节点之间的通道数量为5,达到了最大值,那么,在选择目标通道时,选择路由时长最短或者平均流量最小的通道作为目标通道。
基于上述通道选择方法,通过通道运行数据确定出目标通道,从而,使得待处理任务能够在工作节点间以最小的路由代价的目标通道进行传输和处理,提高了通道的利用率,避免了通道任务分配不均的情况。
目前线上有上千万条通道在跑,服务于内容中台各项业务,流水线(工作流)的畅通及正常运转,能够极大的提高公司各项内容产品的上线准时性。
本申请通过将Wardrop用于流水线(工作流)中,例如,视频的转码工作,转码过程中会产生大量的数据,对这些数据进一步分析整理,找出更适合用作算法的特征参数,可以进一步优化算法效果。给整体任务完成提供最优解。从而使得流水线(工作流)的畅通及正常运转,能够极大的提高各项内容产品的上线准时性,对内容业务抢占时长先机提供了良好的保证。
基于同一构思,本申请实施例中提供了一种通道选择***,该***的具体实施可参见方法实施例部分的描述,重复之处不再赘述,如图4所示,该***主要包括:工作流平台和工作流管控平台;
所述工作流平台401,用于向所述工作流管控平台发送工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;
所述工作流管控平台402,用于获取工作流中工作节点间各通道的通道运行数据;基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。
基于同一构思,本申请实施例中提供了一种通道选择装置,该装置的具体实施可参见方法实施例部分的描述,重复之处不再赘述,如图5所示,该装置主要包括:
获取模块501,用于获取工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;
确定模块502,用于基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;
控制模块503,用于将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。
基于同一构思,本申请实施例中还提供了一种电子设备,如图6所示,该电子设备主要包括:处理器601、存储器602和通信总线603,其中,处理器601和存储器602通过通信总线603完成相互间的通信。其中,存储器602中存储有可被处理器601执行的程序,处理器601执行存储器602中存储的程序,实现如下步骤:
获取工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;
基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;
将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。
上述电子设备中提到的通信总线603可以时外设部件互连标准(PeripheralComponent Interconnect,简称PCI)总线或扩展工业标准结构(Extended IndustryStandard Architecture,简称EISA)总线等。该通信总线603可以分为地址总线、数据总线、控制总线等。为便于表示,图6中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
存储器602可以包括随机存取存储器(Random Access Memory,简称RAM),也可以包括非易失性存储器(non-volatile memory),例如至少两个磁盘存储器。可选地,存储器还可以是至少一个位于远离前述处理器601的存储装置。
上述的处理器601可以是通用处理器,包括中央处理器(Central ProcessingUnit,简称CPU)、网络处理器(Network Processor,简称NP)等,还可以是数字信号处理器(Digital Signal Processing,简称DSP)、专用集成电路(Application SpecificIntegrated Circuit,简称ASIC)、现场可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本申请的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序,当该计算机程序在计算机上运行时,使得计算机执行上述实施例中所描述的通道选择方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行该计算机指令时,全部或部分地产生按照本申请实施例所述的流程或功能。该计算机可以是通用计算机、专用计算机、计算机网络或者其他可编程装置。该计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,计算机指令从一个网站站点、计算机、服务器或者数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、微波等)方式向另外一个网站站点、计算机、服务器或数据中心进行传输。该计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。该可用介质可以是磁性介质(例如软盘、硬盘、磁带等)、光介质(例如DVD)或者半导体介质(例如固态硬盘)等。
需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本发明的具体实施方式,使本领域技术人员能够理解或实现本发明。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所申请的原理和新颖特点相一致的最宽的范围。
Claims (11)
1.一种通道选择方法,其特征在于,包括:
获取工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;
基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;
将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。
2.根据权利要求1所述的通道选择方法,其特征在于,所述基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道,包括:
基于所述通道运行数据,确定所述工作节点间的路由信息,所述路由信息中包括路由通道的数量和通过所述路由通道所需的路由参数;
基于所述路由通道的数量和所述路由参数确定所述目标通道。
3.根据权利要求2所述的通道选择方法,其特征在于,所述基于所述通道运行数据,确定所述工作节点间的路由信息,包括:
控制所述工作流中的第一节点向第二节点发送泛洪广播信息,所述第一节点和所述第二节点均为所述工作流中的工作节点;
基于所述通道运行数据,确定所述第二节点从各通道接收到所述泛洪广播信息的路由参数;
确定所述第一节点到第二节点的通道为路由通道;
确定所述路由参数和所述路由通道为所述路由信息。
4.根据权利要求3所述的通道选择方法,其特征在于,所述第一节点和所述第二节点为所述工作流中相邻的两工作节点;
所述控制所述工作流中的第一节点向第二节点发送泛洪广播信息,包括:
控制所述工作流中的各所述第一节点向与其相邻的所述第二节点同时发送所述泛洪广播信息;或,
所述第一节点为开始节点,所述第二节点为终止节点,所述工作流中还包括中间节点;
所述控制所述工作流中的第一节点向第二节点发送泛洪广播信息,包括:
控制所述第一节点通过所述中间节点向所述第二节点发送所述泛洪广播信息,直至所述第二节点接收到所述泛洪广播信息。
5.根据权利要求3所述的通道选择方法,其特征在于,所述通道运行数据包括通道执行时长、通道排队时长;所述基于所述通道运行数据,确定所述第二节点从各通道接收到所述泛洪广播信息的路由参数,包括:
确定所述通道排队时长为所述第二节点从各所述通道接收到所述泛洪广播信息的路由时长;
根据所述通道执行时长和所述通道排队时长,确定所述工作节点间的平均流量数据;
确定所述路由时长和/或所述平均流量数据为所述路由参数。
6.根据权利要求5所述的通道选择方法,其特征在于,所述根据所述通道执行时长和所述通道排队时长,确定所述工作节点间的平均流量数据,包括:
根据所述通道排队时长和所述通道执行时长,确定所述通道的平均任务处理量;
确定所述平均任务处理量为所述平均流量数据。
7.根据权利要求2所述的通道选择方法,其特征在于,所述路由参数包括路由时长和/或路由平均流量;所述基于所述路由通道的数量和所述路由参数确定所述目标通道,包括:
判断所述路由参数是否满足预设路由条件,所述预设路由条件包括所述路由时长超过预设时长阈值,和/或,所述路由平均流量大于预设流量阈值;
若不满足,确定路由时长最短或路由平均流量最小的路由通道为所述目标通道;
若满足,判断所述路由通道的数量是否达到通道阈值;
若路由通道的数量未达到通道阈值,在所述工作节点间创建新的路由通道。
8.一种通道选择***,其特征在于,包括:工作流平台和工作流管控平台;
所述工作流平台,用于向所述工作流管控平台发送工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;
所述工作流管控平台,用于获取工作流中工作节点间各通道的通道运行数据;基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。
9.一种通道选择装置,其特征在于,包括:
获取模块,用于获取工作流中工作节点间各通道的通道运行数据,所述工作节点间包括至少两个所述通道;
确定模块,用于基于所述通道运行数据,确定所述工作节点间路由代价最小的目标通道;
控制模块,用于将待处理任务按照所述目标通道在所述工作节点间进行传输和处理。
10.一种电子设备,其特征在于,包括:处理器、通信接口、存储器和通信总线,其中,处理器、通信接口和存储器通过通信总线完成相互间的通信;
所述存储器,用于存储计算机程序;
所述处理器,用于执行所述存储器中所存储的程序,实现权利要求1-7任一项所述的通道选择方法。
11.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-7任一项所述的通道选择方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210887128.9A CN115361331B (zh) | 2022-07-26 | 2022-07-26 | 通道选择方法、***、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210887128.9A CN115361331B (zh) | 2022-07-26 | 2022-07-26 | 通道选择方法、***、装置、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115361331A true CN115361331A (zh) | 2022-11-18 |
CN115361331B CN115361331B (zh) | 2024-06-14 |
Family
ID=84031941
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210887128.9A Active CN115361331B (zh) | 2022-07-26 | 2022-07-26 | 通道选择方法、***、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115361331B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20050040915A (ko) * | 2005-02-04 | 2005-05-03 | 해리스 코포레이션 | 다중채널 모바일 애드 혹 네트워크 |
CN101047660A (zh) * | 2006-03-28 | 2007-10-03 | 朗迅科技公司 | 发送数据的方法 |
CN101378363A (zh) * | 2008-09-28 | 2009-03-04 | 中兴通讯股份有限公司 | 一种通道选择方法及其装置 |
CN101686179A (zh) * | 2008-09-28 | 2010-03-31 | 华为技术有限公司 | 链路状态发布信息的传输方法、节点和点对点网络 |
WO2019241992A1 (zh) * | 2018-06-22 | 2019-12-26 | 华为技术有限公司 | 一种路由的方法、节点及计算机存储介质 |
CN114281573A (zh) * | 2021-12-28 | 2022-04-05 | 城云科技(中国)有限公司 | 工作流数据交互方法、装置及电子装置、可读存储介质 |
CN114286413A (zh) * | 2021-11-02 | 2022-04-05 | 北京邮电大学 | Tsn网络联合路由选择与流分配方法及相关设备 |
CN114598654A (zh) * | 2022-01-30 | 2022-06-07 | 阿里巴巴(中国)有限公司 | 基于内容分发网络cdn的流量均衡处理方法及装置 |
-
2022
- 2022-07-26 CN CN202210887128.9A patent/CN115361331B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20050040915A (ko) * | 2005-02-04 | 2005-05-03 | 해리스 코포레이션 | 다중채널 모바일 애드 혹 네트워크 |
CN101047660A (zh) * | 2006-03-28 | 2007-10-03 | 朗迅科技公司 | 发送数据的方法 |
CN101378363A (zh) * | 2008-09-28 | 2009-03-04 | 中兴通讯股份有限公司 | 一种通道选择方法及其装置 |
CN101686179A (zh) * | 2008-09-28 | 2010-03-31 | 华为技术有限公司 | 链路状态发布信息的传输方法、节点和点对点网络 |
WO2019241992A1 (zh) * | 2018-06-22 | 2019-12-26 | 华为技术有限公司 | 一种路由的方法、节点及计算机存储介质 |
CN114286413A (zh) * | 2021-11-02 | 2022-04-05 | 北京邮电大学 | Tsn网络联合路由选择与流分配方法及相关设备 |
CN114281573A (zh) * | 2021-12-28 | 2022-04-05 | 城云科技(中国)有限公司 | 工作流数据交互方法、装置及电子装置、可读存储介质 |
CN114598654A (zh) * | 2022-01-30 | 2022-06-07 | 阿里巴巴(中国)有限公司 | 基于内容分发网络cdn的流量均衡处理方法及装置 |
Non-Patent Citations (1)
Title |
---|
张鹏;崔勇;: "移动自组织网络路由选择算法研究进展", 计算机科学, no. 01, 15 January 2010 (2010-01-15) * |
Also Published As
Publication number | Publication date |
---|---|
CN115361331B (zh) | 2024-06-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20190173752A1 (en) | Automated Adjustment of Subscriber Policies | |
US11411865B2 (en) | Network resource scheduling method, apparatus, electronic device and storage medium | |
KR20150065837A (ko) | 가입자 이탈 예측들을 생성하기 위한 시스템 및 방법 | |
US20120317151A1 (en) | Model-Based Method for Managing Information Derived From Network Traffic | |
CN108959319B (zh) | 信息推送方法和装置 | |
CN101911599B (zh) | 使用代理器数据服务器在联合联络中心站点间传播统计的方法和*** | |
CN108427619B (zh) | 日志管理方法、装置、计算设备及存储介质 | |
CN104243590A (zh) | 资源对象推荐方法和装置 | |
CN110601978B (zh) | 流量分发控制方法和装置 | |
CN106648557A (zh) | 一种应用程序编程接口api的分享方法和装置 | |
CN108156257B (zh) | 一种信息推送方法及装置 | |
Jain et al. | F-policy for M/M/1/K retrial queueing model with state-dependent rates | |
CN111555918B (zh) | 一种回源优化方法、装置及电子设备 | |
CN115361331A (zh) | 通道选择方法、***、装置、电子设备和存储介质 | |
CN111291021A (zh) | 一种数据库管理方法、装置、电子设备及存储介质 | |
CN108156086B (zh) | 一种策略规则下发方法及装置 | |
CN112396151B (zh) | 谣言事件的分析方法、装置、设备及计算机可读存储介质 | |
Ma et al. | Fuzzy-relation-based lexicographic minimum solution to the P2P network system | |
CN112507216B (zh) | 一种数据对象推荐方法、装置、设备和存储介质 | |
KR20190114126A (ko) | 메시지의 처리 완료 지연 시간을 기초로 스위치로의 메시지 송신을 제어하는 sdn 컨트롤러 및 그 방법 | |
CN110928693B (zh) | 一种计算设备及资源分配方法 | |
CN112749204B (zh) | 一种读取数据的方法和装置 | |
CN114125597A (zh) | 一种光纤调度的方法和装置 | |
CN112488326A (zh) | 基于5g核心网的智能运维故障预警方法及装置 | |
CN115022285B (zh) | 一种一键式自动化互联网通信设备配置的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |