CN109597680A - 任务排队响应参数估算方法及装置 - Google Patents

任务排队响应参数估算方法及装置 Download PDF

Info

Publication number
CN109597680A
CN109597680A CN201811228450.0A CN201811228450A CN109597680A CN 109597680 A CN109597680 A CN 109597680A CN 201811228450 A CN201811228450 A CN 201811228450A CN 109597680 A CN109597680 A CN 109597680A
Authority
CN
China
Prior art keywords
task
probability
operation system
array
probability array
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811228450.0A
Other languages
English (en)
Other versions
CN109597680B (zh
Inventor
何昕迪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Advanced New Technologies Co Ltd
Advantageous New Technologies Co Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201811228450.0A priority Critical patent/CN109597680B/zh
Publication of CN109597680A publication Critical patent/CN109597680A/zh
Application granted granted Critical
Publication of CN109597680B publication Critical patent/CN109597680B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Debugging And Monitoring (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请公开了一种任务排队响应参数估算方法，包括：确定业务***的基准概率数组；其中，基准概率数组中的各元素，表示业务***在平稳状态下各排队任务量所对应的概率；根据基准概率数组，确定业务***在接收到定时任务时的初始状态下的初始概率数组；其中，初始概率数组中的各元素，表示业务***在初始状态下各排队任务量所对应的概率；基于基准概率数组和初始概率数组，估算业务***从初始状态返回至平稳状态的过程中的任务排队响应参数。本申请对于业务***中有定时任务到达且与随机任务共存的情况，无需业务***线上运行压测数据，通过较小的操作代价即可准确地获得业务***的任务排队响应参数，以用于对业务***的***资源进行合理配置。

Description

任务排队响应参数估算方法及装置
技术领域
本申请涉及计算机技术领域，尤其涉及一种任务排队响应参数估算方法及装置。
背景技术
随着互联网技术的成熟与发展，业务***需要处理的任务量大幅增加，用户对任务响应的时间要求也越来越严苛。
在不断有任务到达业务***的情况下，可能会出现任务的触发时间点集中、待处理的任务量剧增等情况，导致任务拥堵、任务处理延迟，不利于用户体验。
因此，亟需一种任务排队响应参数估算方法，用于对业务***的***资源进行合理配置，以缩短任务排队时间，提高任务处理效率。
发明内容
本申请实施例提供一种任务排队响应参数估算方法及装置，旨在无压测的情况下，基于业务***的平稳状态，对定时任务到达后其与随机任务共存的状态进行任务排队响应参数估算，用于对业务***的***资源进行合理配置，缩短任务排队时间，提高任务处理效率。
本申请实施例采用下述技术方案：
第一方面，本申请实施例提供一种任务排队响应参数估算方法，包括：
确定业务***的基准概率数组；其中，所述基准概率数组中的各元素，表示所述业务***在平稳状态下各排队任务量所对应的概率；
根据所述基准概率数组，确定所述业务***在接收到定时任务时的初始状态下的初始概率数组；其中，所述初始概率数组中的各元素，表示所述业务***在所述初始状态下各排队任务量所对应的概率；
基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，确定业务***的基准概率数组，包括：
获取随机任务日志；
基于所述随机任务日志中的任务运行时间参数，确定所述基准概率数组。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，所述业务***在平稳状态下的任务排队模型符合M/M/c/N/∞/FCFS模型，其中，项目c表示所述业务***的并行处理最大任务量，项目N表示所述业务***的最大缓存任务量；
则基于所述随机任务日志中的任务运行时间参数，确定所述基准概率数组，包括：
将所述任务运行时间参数输入所述M/M/c/N/∞/FCFS模型，计算得到所述基准概率数组。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，所述任务运行时间参数包括任务接收时间和任务处理时间；
则将所述任务运行时间参数输入所述M/M/c/N/∞/FCFS模型，计算得到所述基准概率数组，包括：
根据所述任务接收时间和所述任务处理时间，确定所述业务***的任务接收速率和任务处理速率；
将所述任务接收速率、所述任务处理速率、所述并行处理最大任务量和所述最大缓存任务量作为已知量，代入所述M/M/c/N/∞/FCFS模型采用的基于生灭过程的状态转移方程，求解得到所述基准概率数组。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，所述状态转移方程为：
其中，λ表示所述任务接收速率，μ表示所述任务处理速率，Pn表示排队任务数量为n的概率。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数，包括：
基于所述初始概率数组、所述任务接收速率和所述任务处理速率，估算与所述初始概率数组对应的第一子响应参数；
根据所述第一子响应参数，确定所述任务排队响应参数。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，所述方法还包括：
计算所述初始概率数组与所述基准概率数组间的第一距离；
在所述第一距离小于第一预设距离阈值的情况下，根据所述第一子响应参数，确定所述任务排队响应参数，具体为：
将所述第一子响应参数确定为所述任务排队响应参数。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，在所述第一距离大于或等于所述第一预设距离阈值的情况下，所述方法还包括：
依据所述状态转移方程，求解与目标时刻相对应的目标概率数组，所述目标时刻为所述业务***从所述初始状态返回至所述平稳状态的过程中的任一时刻；
基于所述目标概率数组、所述任务接收速率和所述任务处理速率，估算与所述目标概率数组相对应的第二子响应参数；
计算所述目标概率数组与所述基准概率数组间的第二距离；
在所述第二距离小于第二预设距离阈值的情况下，确定所述业务***从所述初始状态返回至所述平稳状态；
在所述第二距离大于或等于所述第二预设距离阈值的情况下，重复执行以上步骤，直至确定所述业务***从所述初始状态返回至所述平稳状态。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，根据所述第一子响应参数，确定所述任务排队响应参数，包括：
根据所述第一子响应参数和至少一个所述第二子响应参数，确定所述任务排队响应参数。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，根据所述基准概率数组，确定初始概率数组，包括：
确定所述定时任务的定时任务量；
根据所述定时任务量和所述基准概率数组，确定所述初始概率数组中的各元素。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，根据所述定时任务量和所述基准概率数组，确定所述初始概率数组中的各元素，包括：
将所述初始概率数组中第一排队任务量所对应的第一概率赋值为零，其中，所述第一排队任务量小于所述定时任务量；
将所述初始概率数组中第二排队任务量所对应的第二概率赋值为第三概率；其中，所述第二排队任务量大于或等于所述定时任务量、且小于所述最大缓存任务量，所述第三概率为所述基准概率数组中第三排队任务量所对应的概率，所述第三排队任务量为所述第二排队任务量与所述定时任务量之差；
将所述初始概率数组中第四排队任务量所对应的第四概率赋值为第五概率；其中，所述第四排队任务量等于所述最大缓存任务量，所述第五概率为所述基准概率数组中除所述第三概率外剩余的所有概率之和。
可选的，本申请第一方面提供的任务排队响应参数估算方法中，所述任务排队响应参数包括任务等待时间、任务逗留时间和任务丢失率中至少一项。
第二方面，本申请实施例提供一种任务排队响应参数估算装置，包括：
第一概率数组确定模块，用于确定业务***的基准概率数组；其中，所述基准概率数组中的各元素，表示所述业务***在平稳状态下各排队任务量所对应的概率；
第二概率数组确定模块，用于根据所述基准概率数组，确定所述业务***在接收到定时任务时的初始状态下的初始概率数组；其中，所述初始概率数组中的各元素，表示所述业务***在所述初始状态下各排队任务量所对应的概率；
参数估算模块，用于基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数。
第三方面，本申请实施例提供一种电子设备，包括：
处理器；以及
被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行以下操作：
确定业务***的基准概率数组；其中，所述基准概率数组中的各元素，表示所述业务***在平稳状态下各排队任务量所对应的概率；
根据所述基准概率数组，确定所述业务***在接收到定时任务时的初始状态下的初始概率数组；其中，所述初始概率数组中的各元素，表示所述业务***在所述初始状态下各排队任务量所对应的概率；
基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数。
第四方面，本申请实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行以下操作：
确定业务***的基准概率数组；其中，所述基准概率数组中的各元素，表示所述业务***在平稳状态下各排队任务量所对应的概率；
根据所述基准概率数组，确定所述业务***在接收到定时任务时的初始状态下的初始概率数组；其中，所述初始概率数组中的各元素，表示所述业务***在所述初始状态下各排队任务量所对应的概率；
基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数。
本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：
本申请实施例中，基于业务***在平稳状态下的基准概率数组，确定接收到定时任务时的初始状态下的初始概率数组，进而基于两个概率数组对业务***重新回到平稳状态的任务处理能力进行估算。因此，可以对业务***中有定时任务到达且与随机任务共存的情况，无需业务***线上运行压测数据，通过较小的操作代价即可准确地获得业务***的任务排队响应参数，以用于对业务***的***资源进行合理配置，达到缩短任务排队时间，提高任务处理效率的目的，且有利于提升用户体验。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1为本申请实施例提供的任务排队响应参数估算方法的流程示意图；
图2为本申请实施例提供的任务排队响应参数估算方法中确定基准概率数组的具体过程的流程示意图；
图3为本申请实施例提供的任务排队响应参数估算方法中任务接收时间和任务处理时间的示意图；
图4为本申请实施例提供的任务排队响应参数估算方法中生灭过程的状态转移示意图；
图5为本申请实施例提供的任务排队响应参数估算方法中确定初始概率数组的具体过程的流程示意图；
图6为本申请实施例提供的任务排队响应参数估算方法中确定任务排队响应参数的具体过程的流程示意图；
图7为本申请实施例提供的任务排队响应参数估算方法中根据第一子响应参数确定任务排队响应参数的具体过程的流程示意图；
图8为本申请实施例提供的任务排队响应参数估算装置的结构示意图；
图9为本申请实施例提供的电子设备的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
随着排队任务响应等各类信息处理技术的成熟与发展，用户对任务响应的时间要求越来越严苛，则为了能够对任务进行高效率的响应并完成处理，需要配置更加合理的***资源。
可以理解到，按照任务到达业务***的时间可以将任务分为随机任务和定时任务，具体以网络交易任务为例，有些网络交易任务的到来时间是随机的，比如用户在网上购买商品产生的一笔交易，该笔交易任务对于业务***来说是随机的；而有些网络交易任务是周期性发生的，比如用户设定每小时将自己支付宝账户中的钱转到指定银行卡中，该笔转账任务对于排队***来说是定时的。
对于上述定时任务再比如还可以包括：定时留言、定时发送邮件、定时接收邮件等便于集中和/或批量处理的任务。
当任务到达***后，为了获知***处理任务的过程中的任务排队响应参数，具体以任务排队响应时间为例，一方面，可以直接在有压测的情况下，记录业务***对每个任务的处理延迟时间(即任务排队响应时间)，最后统计结果，如果业务***的当前任务排队响应时间不能达到使业务***维持平稳运转的预期，则可以及时调整***配置资源等相关参数后继续进行压测；另一方面，可以根据排队请求数量和***吞吐量的比值来计算任务排队响应时间。
但是，直接上压测的方案操作代价比较高，通常需要线上的许多***一起配合压测，而且相关业务人员需要花很长时间才能得到最后的统计结果，此外在压测的过程中容易影响线上的业务，大大增加了造成故障的机率。而仅根据排队请求数量和***吞吐量的比值计算任务排队响应时间的方案，得到的结果精确度比较低，而且，未考虑到由于随机因素所导致的一些排队情况。
因此，采用本申请实施例提供的方法，在不需要业务***运行压测数据的情况下，基于业务***的平稳状态，对定时任务到达后与随机任务共存的状态进行任务排队响应参数的准确估算，以为业务***处理任务顺序编排、***资源配置提供参考，使业务***能够适用于不同的业务处理场景，并且尽最大可能避免出现排队任务拥堵无法及时处理而导致***崩溃的现象发生，达到提高任务处理效率的目的。
以下结合附图，详细说明本申请各实施例提供的技术方案。
参见图1所示，本申请实施例提供一种任务排队响应参数估算方法，该方法可包括：
步骤S101：确定业务***的基准概率数组。
其中，基准概率数组中的各元素，表示业务***在平稳状态下各排队任务量所对应的概率。
可以理解到，当业务***处于平稳状态时，在不同时刻，业务***的任务流入量和任务流出量保持相当，使得业务***中的排队任务量在不同时刻都保持稳定，也就是说，业务***不会因新任务的到来出现任务拥堵、任务处理延迟的情况。
能够理解，上述基准概率数组为至少一个概率的集合，以基准概率数组中包含多个概率为例，在基准概率数组为{P0,P1,P2,……,Pi}的情况下，其中，元素P0表示业务***在平稳状态下排队任务量为0时对应的概率，元素P1表示业务***在平稳状态下排队任务量为1时对应的概率，依次类推，元素Pi表示业务***在平稳状态下排队任务量为i时对应的概率。
以下将举例说明确定业务***的基准概率数组的具体过程。
参见图2所示，在确定业务***的基准概率数组时，可具体包括：
步骤S1011：获取随机任务日志。
可选的，随机任务日志为业务***线上运行日志的一部分，该部分线上运行日志，为业务***持续处理随机任务且没有出现定时任务的时间段所对应的日志。
考虑到业务***接收随机任务的随机性和处理随机任务的及时性，可知，业务***在接收到随机任务后便及时进行任务处理，如此，对于业务***而言，在仅处理随机任务的情况下，接收一个新的随机任务进入任务排队队列的速度和处理完成一个随机任务使其离开任务排队队列的速度保持相当，则可以理解到，在业务***仅处理随机任务的过程中，可以认为业务***存在平稳状态，则可以执行如下基于随机任务日志确定基准概率数组的步骤。
步骤S1013：基于随机任务日志中的任务运行时间参数，确定基准概率数组。
可以理解到，在使用随机任务日志确定基准概率数组的过程中，可以将其中包含的随机任务的任务运行时间参数作为已知量使用，且考虑到任务运行时间参数容易采集、统计等特点，则基于任务运行时间参数确定基准概率数组，能够达到提高基准概率数组的确定效率的效果。
基于上述内容可知，业务***的基准概率数组需要在其处于平稳状态下进行确定，即需要满足业务***在不同时刻的任务流入量和任务流出量保持稳定的要求，则可选的，可以使业务***在平稳状态下的任务排队模型符合M/M/c/N/∞/FCFS模型，其取自kendall(肯德尔)分布符号X/Y/Z/A/B/C。
其中，项目X表示任务到达的时间间隔分布，项目Y表示服务端处理任务的时间分布，项目Z表示并列的服务台数量，项目A表示服务端的***容量限制，项目B表示顾客源的总数量，以及项目C表示任务排队的方式。
则相应的，在该M/M/c/N/∞/FCFS模型中，第一项目M表示任务到达业务***的时间间隔满足负指数分布，可以理解到，任务单位时间内到达业务***的数量满足泊松分布。
第二项目M表示业务***处理任务的时间满足负指数分布，可以理解到，任务单位时间内离开业务***的数量满足泊松分布。
可知的是，泊松分布为概率论中常用的离散概率分布，其随机变量只能取非负整数。在任务到达业务***的过程和业务***处理任务的过程属于泊松过程的情况下，任务单位时间内到达业务***的数量满足泊松分布及任务单位时间内离开业务***的数量满足泊松分布；对于泊松过程可以理解到，任务到达事件和业务***处理完一个任务事件在一段时间内均随机发生，且符合以下条件：
(1)在将该段时间无限分割成若干个极小的时间段的情况下，每个时间段接近于零，任务到达业务***事件发生一次的概率和业务***处理完一个任务事件发生一次的概率分别与该时间段的长度成正比。
(2)在每个时间段内，任务到达业务***事件发生两次及以上的概率和业务***处理完一个任务事件发生两次及以上的概率均恒等于零。
(3)任务到达业务***事件在不同的时间段内发生与否是相互独立的，业务***处理完一个任务事件在不同的时间段内发生与否是相互独立的。
项目c表示业务***的并行处理最大任务量，可以理解到，业务***可以并行处理任一小于或等于c的任务量。
项目N表示业务***的最大缓存任务量，可以理解到，即N表示业务***的容量限制，在业务***处理的任务量大于N的情况下，超出***最大缓存任务量的部分任务会丢失，该部分任务不能被业务***正确接收并进行响应处理。
项目∞表示业务***的任务源总数无限。
项目FCFS(First Come First Served，先来先服务)表示业务***服从先到先服务原则。
基于已知随机任务日志中的任务运行时间参数和业务***在平稳状态下的任务排队模型符合M/M/c/N/∞/FCFS模型的前提下，确定基准概率数组可具体包括：
将任务运行时间参数输入M/M/c/N/∞/FCFS模型，计算得到基准概率数组。
可选的，任务运行时间参数包括任务接收时间和任务处理时间，可以理解到，任务接收时间可以指随机任务到达业务***的时刻，任务处理时间可以指业务***处理完该随机任务所需的时间，如图3所示的时间轴，任务在t1时刻到达业务***，在t2时刻离开业务***，则可以理解到，时刻t1表示任务接收时间，t2与t1之差表示任务处理时间。
则基于任务运行时间参数计算得到基准概率数组的过程，可以包括：
根据任务接收时间和任务处理时间，确定业务***的任务接收速率和任务处理速率。
可以理解到，根据随机任务日志中的各任务接收时间，即可确定业务***接收到随机任务的时间段△t，以及基于在该时间段△t内提取的任务接收时间的个数，并考虑业务***处于平稳状态时，任务到达***的过程为泊松过程，即每个时刻仅有一个任务到达，则可以将统计的任务接收时间的个数作为该时间段△t内，业务***接收到的随机任务的数量D，则任务接收速率可以为D/△t，即该时间段△t内的新任务到达业务***的平均数量；同理，在业务***处于平稳状态时，任务离开业务***的过程为泊松过程，即每个时刻仅有一个任务离开，则可以统计落在时间段△t内的任务处理时间的个数，作为业务***在该时间段△t内处理完的随机任务的数量K，则任务处理速率可以为K/△t，即该时间段△t内的任务离开业务***的平均数量。
另外，基于随机任务日志中的任务接收时间和任务处理时间，通过拟合优度检验方法还可以反向验证业务***接收随机任务和处理随机任务的过程是否满足泊松分布。
可选的，将任务接收速率、任务处理速率以及并行处理最大任务量和最大缓存任务量作为已知量，代入M/M/c/N/∞/FCFS模型采用的基于生灭过程的状态转移方程，求解得到基准概率数组。
可以理解到，对于任务排队模型符合M/M/c/N/∞/FCFS模型的业务***而言，其接收任务的过程和处理任务的过程符合泊松分布，则任务在业务***中的排队过程符合生灭过程，且考虑到业务***处于平稳状态，其任务接收速率和任务处理速率保持稳定，以及对于生灭过程中的每个状态来说，业务***接收任务的期望与处理任务的期望相同，则结合业务***中在处理的任务量n与c和N的大小关系，可以得到如下状态转移方程：
其中，λ表示任务接收速率，μ表示任务处理速率，Pn表示排队任务数量为n的概率。
在上述状态转移方程中，每个等式分别表示的含义可以作如下理解：
(1)第一个等式表示：在业务***的排队任务队列长度为0的情况下，接收到一个新任务的概率，与在业务***的排队任务队列长度为1的情况下，处理完一个任务的概率相等。
(2)在业务***的排队任务队列长度小于业务***的并行处理最大任务量c的情况下，业务***处理任务的总体速率取决于队列中任务的数量，即在队列中有n个任务的情况下，业务***处理任务的总体速率为nμ，业务***的任务接收速率λ保持不变，则第二个等式表示：从队列长度为(n-1)跳转到队列长度为n的概率与从队列长队为(n+1)跳转到队列长度为n的概率之和，与从队列长度为n跳转到队列长度为(n+1)的概率与从队列长队为n跳转到队列长度为(n-1)的概率之和相等。
(3)在业务***的排队任务队列长度大于或等于业务***的并行处理最大任务量c、且小于业务***的最大缓存任务量N的情况下，业务***处理任务的总体速率取决于并行处理最大任务量c，即业务***处理任务的总体速率保持cμ不变，业务***的任务接收速率λ保持不变，则第三个等式表示：从队列长度为(n-1)跳转到队列长度为n的概率与从队列长队为(n+1)跳转到队列长度为n的概率之和，与从队列长度为n跳转到队列长度为(n+1)的概率与从队列长队为n跳转到队列长度为(n-1)的概率之和相等。
(4)在业务***的排队任务队列长度等于最大缓存任务量N的情况下，由于网卡容量等的限制，超出最大缓存任务量N的新任务不会被业务***接收，即无法排列到业务***的排队任务队列中，会导致任务丢失，则第四个等式表示：在业务***的排队任务队列长度为(N-1)的情况下，接收到一个新任务的概率，与在业务***的排队任务队列长度为N的情况下，处理完一个任务的概率相等。
其中，上述状态转移方程可表示为：
则对其应用高斯消元法求解(N+1)个等式，以依次求解得到(N+1)个概率，即可得到基准概率数组{P0，P1，P2，……，PN}。
可选的，生灭过程的状态转移图可参见图4，其中，圆圈中的数字0、1、2、3、……、c-2、c-1、c、……、N-2、N-1、N表示业务***在处理的任务量，每个圆圈则表示在处理的任务量为相应值时的状态，λ表示任务接收速率，μ表示任务处理速率。
基于图示状态转移图可知，在业务***的并行处理任务量小于c的情况下，业务***中的排队任务数量，从后一个状态到前一个状态，会随着同时运行任务数量的增加而增加，也就是说，在并行处理的任务量偏小而新增并行运行任务量偏大的情况下，即λ＞cμ，业务***中的排队任务量会逐渐增大直至达到N，且业务***在并行处理任务量达到c后，将会保持任务处理速率cμ不变，此时，业务***将不再接收超出业务***缓存外的新任务，该部分新任务将会丢失。
在业务***的实际运行中，处理随机任务的过程中可以接收定时任务，则在业务***有定时任务和随机任务同时存在的情况下，业务***会在接收到定时任务时，迎来任务处理的高峰，则在定时任务和随机任务共存的这段时间内，若同时触发的并行处理任务量超过了业务***的并行处理最大任务量c，则业务***中会有任务排队。
对于有任务排队的业务***，若能够满足任务接收速率λ小于任务处理最大速率cμ的条件，则业务***中的任务会不断被处理完，业务***会从接收到定时任务时的初始状态逐渐返回至平稳状态。
基于上述，可以在业务***接收到定时任务的初始状态，基于业务***的基准概率数组确定其在初始状态的概率数组，可执行为如下步骤：
步骤S103：根据基准概率数组，确定业务***在接收到定时任务时的初始状态下的初始概率数组；其中，初始概率数组中的各元素，表示业务***在初始状态下各排队任务量所对应的概率。
能够理解，上述初始概率数组为至少一个概率的集合，以初始概率数组中包含多个概率为例，在初始概率数组为{P0,P1,P2,……,Pi}的情况下，其中，元素P0表示业务***在初始状态下排队任务量为0时对应的概率，元素P1表示业务***在初始状态下排队任务量为1时对应的概率，依次类推，元素Pi表示业务***在初始状态下排队任务量为i时对应的概率。
以下将举例说明确定业务***的基准概率数组的具体过程。
参见图5所示，在确定业务***的基准概率数组时，可具体包括：
步骤S1031：确定定时任务的定时任务量。
步骤S1033，根据定时任务量和基准概率数组，确定初始概率数组中的各元素。
可以理解到，业务***在不同时刻接收到的定时任务量的多少，对其处理任务的稳态有影响，接收到的定时任务量越多越容易打破业务***在接收定时任务前所处的平稳状态，因此，为了准确估算业务***的任务排队响应参数，在确定接收到定时任务的初始状态对应的初始概率数组时，可以依据定时任务量进行确定。
上述步骤S1033可以具体执行为如下实施例，包括：
将初始概率数组中第一排队任务量所对应的第一概率赋值为零，其中，第一排队任务量小于定时任务量。用方程可以具体表示即为：
Pi＝0(i＜Q)，
其中，Pi表示第一排队任务量为i时对应的第一概率，Q表示定时任务量。
将初始概率数组中第二排队任务量所对应的第二概率赋值为第三概率；其中，第二排队任务量大于或等于定时任务量、且小于最大缓存任务量，第三概率为基准概率数组中第三排队任务量所对应的概率，第三排队任务量为第二排队任务量与定时任务量之差。用方程可以具体表示即为：
Pi＝Pn(Q≤i＜N)，
其中，Pi表示初始概率数组中第二排队任务量为i时对应的第二概率，Q表示定时任务量，Pn表示基准概率数组中第三排队任务量为n时对应的第三概率，且i＝n+Q。
将初始概率数组中第四排队任务量所对应的第四概率赋值为第五概率；其中，第四排队任务量等于最大缓存任务量，第五概率为基准概率数组中除第三概率外剩余的所有概率之和。用方程可以具体表示即为：
其中，Pi表示初始概率数组中第四排队任务量为i＝N时对应的第四概率，Q表示定时任务量，Pn表示基准概率数组中除第三概率外剩余的概率，n的取值范围为：Q≤n≤N，且为整数；由上可以理解到，在业务***不崩溃的情况下，超出业务***的最大缓存任务量N的新任务不会被业务***接收，任务丢失，并继续处理排队任务队列缓存的任务。
举例来说，设置业务***的N取为6，确定基准概率数组为{P0，P1，P2，P3，P4，P5，P6}，则在接收到的定时任务量Q为3时，经赋值得到初始概率数组为{0，0，0，P0，P1，P2，P3+P4+P5+P6}。
在确定业务***接收到定时任务的初始状态后，基于平稳状态下的任务排队模型M/M/c/N/∞/FCFS对定时任务和随机任务处理的过程中，业务***的任务处理速率μ保持不变，业务***接收随机任务的任务接收速率λ既可以保持不变，也可以根据接收到的设置指令设置为其他值，以考虑不同的随机任务接收情况对业务***的任务排队响应参数的影响。
可以理解到，在对定时任务和随机任务处理过程中，当出现接收新任务使业务***的排队任务队列长度超出业务***的最大缓存任务量N的情况时，新任务将会丢失，则对于排列在业务***的排队任务队列中队列长度为N的情况，在能够满足任务接收速率λ小于任务处理最大速率cμ的条件时，则随着时间的不断变化，业务***会从初始状态返回到平稳状态。
对于从初始状态返回到平稳状态的这段过程中，业务***在不同时刻的任务排队响应情况可以基于如下步骤实现，可具体包括：
步骤S105：基于基准概率数组和初始概率数组，估算业务***从初始状态返回至平稳状态的过程中的任务排队响应参数。
在本申请的实施例中，对业务***中有定时任务到达且与随机任务共存的情况，无需业务***线上运行压测数据，在确定业务***处于平稳状态下的基准概率数组、接收到定时任务的初始状态下的初始概率数组后，即可用于完成对业务***从初始状态返回至平稳状态过程中的任务排队响应参数的估算，操作代价更小，且同时基于明确的运算输入，可以确保估算出的任务排队响应参数的准确性，以用于对业务***的***资源进行合理配置，达到缩短任务排队时间，提高任务处理效率的目的，从而有利于提升用户体验。
可选的，任务排队响应参数包括任务等待时间、任务逗留时间和任务丢失率中至少一项。
可以理解到，任务等待时间表示，从业务***接收到任务开始到其开始处理任务所经过的时间；任务逗留时间表示，从业务***接收到任务开始到其完成任务处理所经过的时间；任务丢失率发生在，业务***接收新任务即会使业务***的排队任务队列长度超出最大缓存任务量N的情况下，在业务***从初始状态返回至平稳状态的过程中，任务丢失率＝(请求进入业务***的总任务量-业务***正确接收的任务量)/请求进入业务***的总任务量。
考虑到业务***从初始状态返回至平稳状态的过程中，除了不断将业务***中缓存的定时任务和/或随机任务处理完，还存在接收新的随机任务的情况，进而会导致业务***中的任务排队情况随机发生变化，则为了进一步提高对业务***的任务排队响应参数估算的精确度，需要充分考虑从初始状态返回平稳状态过程中，由于随机任务到来导致的一些任务排队情况，可以在这个过程中的不同时刻，采用生灭过程的状态转移图模拟仿真业务***在该不同时刻处理任务的状态变化情况。
另外，业务***在接收到不同的定时任务时，对***资源造成的压力也不同，从接收到定时任务的初始状态返回至平稳状态所经历的过程也会有所区别，即初始状态与平稳状态间的差距也会不同。
基于上述内容，本申请实施例的步骤S105，如图6所示，可以具体包括：
步骤S1051：基于初始概率数组、任务接收速率和任务处理速率，估算与初始概率数组对应的第一子响应参数。
步骤S1053：根据第一子响应参数，确定任务排队响应参数。
在本申请的实施例中，估算业务***从初始状态返回至平稳状态过程中的任务排队响应参数，可选的，根据与业务***的初始概率数组对应的第一子响应参数进行确定，该第一子响应参数能够反映，业务***在刚接收到定时任务的初始状态下的任务处理能力，从而反映业务***的当前***资源配置情况是否能够满足相应的任务处理需求。
在实现根据第一子响应参数确定任务排队响应参数的过程中，基于业务***的初始状态与平稳状态间的差距的不同会有所区别。
可选的，在本申请的实施例中，通过计算初始概率数组与基准概率数组间的第一距离，表征业务***的初始状态与平稳状态间的差距。
则在第一距离小于第一预设距离阈值的情况下，上述步骤S1053可以具体包括：将第一子响应参数确定为任务排队响应参数。
可以理解到，初始概率数组与基准概率数组间的距离小于第一预设距离阈值，说明业务***不会因为接收到定时任务，使需要处理的任务量的增加而发生丢失新任务的情况，当前基于初始概率数组、任务接收速率和任务处理速率，估算出的与初始概率数组对应的第一子响应参数，即能够反映业务***在接收到与初始概率数组对应的定时任务后，其当前配置的***资源能够在不丢失新任务的情况下，确保对定时任务和随机任务的处理效率，即可以确定业务***从初始状态返回至平稳状态。
另外，在第一距离大于或等于第一预设距离阈值的情况下，如图7所示，上述步骤S1053可以具体包括：
步骤S10531：依据状态转移方程，求解与目标时刻相对应的目标概率数组，目标时刻为业务***从初始状态返回至平稳状态的过程中的任一时刻。
可选的，目标时刻可以为每次执行完下述步骤S10534对应的时刻；也可以为根据设定的时间间隔自动按照时间顺序向后跳转的时刻。
步骤S10532：基于目标概率数组、任务接收速率和任务处理速率，估算与目标概率数组相对应的第二子响应参数。
步骤S10533：计算目标概率数组与基准概率数组间的第二距离；
步骤S10534：判断第二距离是否小于第二预设距离阈值，在第二距离小于第二预设距离阈值的情况下，执行步骤S10535，在第二距离大于或等于第二预设距离阈值的情况下，返回重复执行以上步骤S10531～步骤S10534。
步骤S10535：确定业务***从初始状态返回至平稳状态。
步骤S10536：根据第一子响应参数和至少一个第二子响应参数，确定任务排队响应参数。
可以理解到，初始概率数组与基准概率数组间的距离大于或等于第一预设距离阈值，说明业务***会因为接收到定时任务，导致需要处理的任务量的增加而发生丢失新任务的情况，则为了准确评估业务***处理任务的能力，需要随着时间的不断变化，实时评估不同目标时刻对应的目标状态与平稳状态间的差距，即求解每个目标时刻对应的目标概率数组与基准概率数组间的第二距离。
在每个时刻，依据第二距离与第二预设距离阈值的大小关系，确定业务***是否从初始状态返回至平稳状态，理同第一距离与第一预设距离阈值的比较情况，在目标概率数组与基准概率数组间的距离小于第二预设距离阈值的情况下，说明业务***不会再发生丢失新任务的情况，则在确定业务***从初始状态返回至平稳状态的情况下，可以基于目标概率数组、任务接收速率和任务处理速率，估算出的与目标概率数组对应的第二子响应参数后，跳出循环，并基于第一子响应参数和所有的第二子响应参数确定最终的任务响应参数，以供合理配置***资源、编排任务处理顺序等进行参考。
在当目标概率数组与基准概率数组间的距离大于或等于第二预设距离阈值的情况下，说明业务***仍会发生丢失新任务的情况，则可以在基于目标概率数组、任务接收速率和任务处理速率，估算出的与目标概率数组对应的第二子响应参数后，返回重新依次执行求解目标概率数组、第二距离、以及将第二距离与第二预设距离阈值进行比较的步骤。
可以理解到，上述对步骤S105的描述，实现了对业务***接收到定时任务后，从初始状态返回至平稳状态的过程中，业务***的排队任务队列长度的变化过程的模拟仿真。
可选的，上述基于初始概率数组、任务接收速率和任务处理速率，估算与初始概率数组对应的第一子响应参数的步骤，以及基于目标概率数组、任务接收速率和任务处理速率，估算与目标概率数组对应的第二子响应参数的步骤，可以根据以下参数计算公式实现任务等待时间、任务逗留时间响应参数的求解：
Pi表示各概率数组中排队任务量为i时对应的概率，以及任务逗留时间＝任务等待时间+1/λ。
可选的，上述第一距离和第二距离可以为数组间的欧氏距离，举例来说，概率数组{P0，P1，P2，P3，P4}与概率数组{0，0，0，P0，P1}间的欧氏距离为sqrt((P0-0)2+(P1-0)2+(P2-0)2+(P3-P0)2+(P4-P1)2)，其中sqrt表示平方根。当然，在本申请的其他实施例中，上述第一距离和第二距离也可为除欧氏距离外的其他距离，比如巴氏距离。
可选的，上述第一预设距离阈值与第二预设距离阈值可以为相同的预设值，也可以为不同的预设值，以及第一预设距离阈值与第二预设距离阈值的选取，可以根据业务***当前的***资源配置等实际情况，设置为任一适当值。
本申请实施例还提供一种任务排队响应参数估算装置，参见图8所示，该装置可具体包括：
第一概率数组确定模块801，用于确定业务***的基准概率数组；其中，基准概率数组中的各元素，表示业务***在平稳状态下各排队任务量所对应的概率；
第二概率数组确定模块803，用于根据基准概率数组，确定业务***在接收到定时任务时的初始状态下的初始概率数组；其中，初始概率数组中的各元素，表示业务***在初始状态下各排队任务量所对应的概率；
参数估算模块805，用于基于基准概率数组和初始概率数组，估算业务***从初始状态返回至平稳状态的过程中的任务排队响应参数。
能够理解，本申请实施例提供的任务排队响应参数估算装置，能够实现前述实施例中提供的任务排队响应参数估算方法，关于任务排队响应参数估算方法的相关阐释均适用于任务排队响应参数估算装置，此处不再赘述。
图9是本申请的一个实施例电子设备的结构示意图。请参考图9，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构)总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图9中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。
存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成资源展示设备估算装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：
确定业务***的基准概率数组；其中，所述基准概率数组中的各元素，表示所述业务***在平稳状态下各排队任务量所对应的概率；
根据所述基准概率数组，确定所述业务***在接收到定时任务时的初始状态下的初始概率数组；其中，所述初始概率数组中的各元素，表示所述业务***在所述初始状态下各排队任务量所对应的概率；
基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数。
上述如本申请图1所示实施例揭示的任务排队响应参数估算装置执行的方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central ProcessingUnit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。
该电子设备还可执行图1中任务排队响应参数估算装置执行的方法，并实现任务排队响应参数估算装置在图1所示实施例的功能，本申请实施例在此不再赘述。
本申请实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的电子设备执行时，能够使该电子设备执行图1所示实施例中任务排队响应参数估算装置执行的方法，并具体用于执行：
确定业务***的基准概率数组；其中，所述基准概率数组中的各元素，表示所述业务***在平稳状态下各排队任务量所对应的概率；
根据所述基准概率数组，确定所述业务***在接收到定时任务时的初始状态下的初始概率数组；其中，所述初始概率数组中的各元素，表示所述业务***在所述初始状态下各排队任务量所对应的概率；
基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数。
本领域内的技术人员应明白，本发明的实施例可提供为方法、***、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本申请的实施例可提供为方法、***或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (15)

1.一种任务排队响应参数估算方法，包括：
确定业务***的基准概率数组；其中，所述基准概率数组中的各元素，表示所述业务***在平稳状态下各排队任务量所对应的概率；
根据所述基准概率数组，确定所述业务***在接收到定时任务时的初始状态下的初始概率数组；其中，所述初始概率数组中的各元素，表示所述业务***在所述初始状态下各排队任务量所对应的概率；
基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数。
2.根据权利要求1所述方法，其中，确定业务***的基准概率数组，包括：
获取随机任务日志；
基于所述随机任务日志中的任务运行时间参数，确定所述基准概率数组。
3.根据权利要求2所述方法，其中，所述业务***在平稳状态下的任务排队模型符合M/M/c/N/∞/FCFS模型，其中，项目c表示所述业务***的并行处理最大任务量，项目N表示所述业务***的最大缓存任务量；
则基于所述随机任务日志中的任务运行时间参数，确定所述基准概率数组，包括：
将所述任务运行时间参数输入所述M/M/c/N/∞/FCFS模型，计算得到所述基准概率数组。
4.根据权利要求3所述方法，其中，所述任务运行时间参数包括任务接收时间和任务处理时间；
则将所述任务运行时间参数输入所述M/M/c/N/∞/FCFS模型，计算得到所述基准概率数组，包括：
根据所述任务接收时间和所述任务处理时间，确定所述业务***的任务接收速率和任务处理速率；
将所述任务接收速率、所述任务处理速率、所述并行处理最大任务量和所述最大缓存任务量作为已知量，代入所述M/M/c/N/∞/FCFS模型采用的基于生灭过程的状态转移方程，求解得到所述基准概率数组。
5.根据权利要求4所述方法，其中，所述状态转移方程为：
其中，λ表示所述任务接收速率，μ表示所述任务处理速率，Pn表示排队任务数量为n的概率。
6.根据权利要求4所述方法，其中，基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数，包括：
基于所述初始概率数组、所述任务接收速率和所述任务处理速率，估算与所述初始概率数组对应的第一子响应参数；
根据所述第一子响应参数，确定所述任务排队响应参数。
7.根据权利要求6所述方法，其中，所述方法还包括：
计算所述初始概率数组与所述基准概率数组间的第一距离；
在所述第一距离小于第一预设距离阈值的情况下，根据所述第一子响应参数，确定所述任务排队响应参数，具体为：
将所述第一子响应参数确定为所述任务排队响应参数。
8.根据权利要求7所述方法，其中，在所述第一距离大于或等于所述第一预设距离阈值的情况下，所述方法还包括：
依据所述状态转移方程，求解与目标时刻相对应的目标概率数组，所述目标时刻为所述业务***从所述初始状态返回至所述平稳状态的过程中的任一时刻；
基于所述目标概率数组、所述任务接收速率和所述任务处理速率，估算与所述目标概率数组相对应的第二子响应参数；
计算所述目标概率数组与所述基准概率数组间的第二距离；
在所述第二距离小于第二预设距离阈值的情况下，确定所述业务***从所述初始状态返回至所述平稳状态；
在所述第二距离大于或等于所述第二预设距离阈值的情况下，重复执行以上步骤，直至确定所述业务***从所述初始状态返回至所述平稳状态。
9.根据权利要求8所述方法，其中，根据所述第一子响应参数，确定所述任务排队响应参数，包括：
根据所述第一子响应参数和至少一个所述第二子响应参数，确定所述任务排队响应参数。
10.根据权利要求3所述方法，其中，根据所述基准概率数组，确定初始概率数组，包括：
确定所述定时任务的定时任务量；
根据所述定时任务量和所述基准概率数组，确定所述初始概率数组中的各元素。
11.根据权利要求10所述方法，根据所述定时任务量和所述基准概率数组，确定所述初始概率数组中的各元素，包括：
将所述初始概率数组中第一排队任务量所对应的第一概率赋值为零，其中，所述第一排队任务量小于所述定时任务量；
将所述初始概率数组中第二排队任务量所对应的第二概率赋值为第三概率；其中，所述第二排队任务量大于或等于所述定时任务量、且小于所述最大缓存任务量，所述第三概率为所述基准概率数组中第三排队任务量所对应的概率，所述第三排队任务量为所述第二排队任务量与所述定时任务量之差；
将所述初始概率数组中第四排队任务量所对应的第四概率赋值为第五概率；其中，所述第四排队任务量等于所述最大缓存任务量，所述第五概率为所述基准概率数组中除所述第三概率外剩余的所有概率之和。
12.根据权利要求1～11之任一所述方法，其中，所述任务排队响应参数包括任务等待时间、任务逗留时间和任务丢失率中至少一项。
13.一种任务排队响应参数估算装置，包括：
第一概率数组确定模块，用于确定业务***的基准概率数组；其中，所述基准概率数组中的各元素，表示所述业务***在平稳状态下各排队任务量所对应的概率；
第二概率数组确定模块，用于根据所述基准概率数组，确定所述业务***在接收到定时任务时的初始状态下的初始概率数组；其中，所述初始概率数组中的各元素，表示所述业务***在所述初始状态下各排队任务量所对应的概率；
参数估算模块，用于基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数。
14.一种电子设备，其特征在于，包括：
处理器；以及
被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行以下操作：
确定业务***的基准概率数组；其中，所述基准概率数组中的各元素，表示所述业务***在平稳状态下各排队任务量所对应的概率；
根据所述基准概率数组，确定所述业务***在接收到定时任务时的初始状态下的初始概率数组；其中，所述初始概率数组中的各元素，表示所述业务***在所述初始状态下各排队任务量所对应的概率；
基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数。
15.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行以下操作：
确定业务***的基准概率数组；其中，所述基准概率数组中的各元素，表示所述业务***在平稳状态下各排队任务量所对应的概率；
根据所述基准概率数组，确定所述业务***在接收到定时任务时的初始状态下的初始概率数组；其中，所述初始概率数组中的各元素，表示所述业务***在所述初始状态下各排队任务量所对应的概率；
基于所述基准概率数组和所述初始概率数组，估算所述业务***从所述初始状态返回至所述平稳状态的过程中的任务排队响应参数。
CN201811228450.0A 2018-10-22 2018-10-22 任务排队响应参数估算方法及装置 Active CN109597680B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811228450.0A CN109597680B (zh) 2018-10-22 2018-10-22 任务排队响应参数估算方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811228450.0A CN109597680B (zh) 2018-10-22 2018-10-22 任务排队响应参数估算方法及装置

Publications (2)

Publication Number Publication Date
CN109597680A true CN109597680A (zh) 2019-04-09
CN109597680B CN109597680B (zh) 2023-07-07

Family

ID=65958241

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811228450.0A Active CN109597680B (zh) 2018-10-22 2018-10-22 任务排队响应参数估算方法及装置

Country Status (1)

Country Link
CN (1) CN109597680B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110990144A (zh) * 2019-12-17 2020-04-10 深圳市晨北科技有限公司 一种任务确定方法及相关设备
CN114067480A (zh) * 2020-07-31 2022-02-18 阿里巴巴集团控股有限公司 票务排队***控制方法
CN114300082A (zh) * 2022-03-14 2022-04-08 四川大学华西医院 一种信息处理方法、装置和计算机可读存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5349656A (en) * 1990-11-28 1994-09-20 Hitachi, Ltd. Task scheduling method in a multiprocessor system where task selection is determined by processor identification and evaluation information
US20100205607A1 (en) * 2009-02-11 2010-08-12 Hewlett-Packard Development Company, L.P. Method and system for scheduling tasks in a multi processor computing system
CN104536761A (zh) * 2014-12-31 2015-04-22 华为技术有限公司 一种评估业务模块处理时间的方法及装置
US20150169380A1 (en) * 2013-12-17 2015-06-18 International Business Machines Corporation Calculation method and apparatus for evaluating response time of computer system in which plurality of units of execution can be run on each processor core
CN105005505A (zh) * 2015-06-25 2015-10-28 南京航空航天大学 空中多目标轨迹预测的并行处理方法
CN105681096A (zh) * 2016-01-29 2016-06-15 湖南大学 一种用于云平台利润最大化的服务器配置方法和装置
CN107239324A (zh) * 2017-05-22 2017-10-10 阿里巴巴集团控股有限公司 业务流转处理方法、装置及***
CN108513318A (zh) * 2018-02-09 2018-09-07 南京邮电大学 一种基于边缘计算的用户业务排队优化方法
CN108521352A (zh) * 2018-03-26 2018-09-11 天津大学 基于随机回报网的在线云服务尾延迟预测方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5349656A (en) * 1990-11-28 1994-09-20 Hitachi, Ltd. Task scheduling method in a multiprocessor system where task selection is determined by processor identification and evaluation information
US20100205607A1 (en) * 2009-02-11 2010-08-12 Hewlett-Packard Development Company, L.P. Method and system for scheduling tasks in a multi processor computing system
US20150169380A1 (en) * 2013-12-17 2015-06-18 International Business Machines Corporation Calculation method and apparatus for evaluating response time of computer system in which plurality of units of execution can be run on each processor core
CN104536761A (zh) * 2014-12-31 2015-04-22 华为技术有限公司 一种评估业务模块处理时间的方法及装置
CN105005505A (zh) * 2015-06-25 2015-10-28 南京航空航天大学 空中多目标轨迹预测的并行处理方法
CN105681096A (zh) * 2016-01-29 2016-06-15 湖南大学 一种用于云平台利润最大化的服务器配置方法和装置
CN107239324A (zh) * 2017-05-22 2017-10-10 阿里巴巴集团控股有限公司 业务流转处理方法、装置及***
CN108513318A (zh) * 2018-02-09 2018-09-07 南京邮电大学 一种基于边缘计算的用户业务排队优化方法
CN108521352A (zh) * 2018-03-26 2018-09-11 天津大学 基于随机回报网的在线云服务尾延迟预测方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
J. CAO 等: "Web server performance modeling using an M/G/1/K*PS queue", 《10TH INTERNATIONAL CONFERENCE ON TELECOMMUNICATIONS, 2003. ICT 2003.》 *
张国有: "《基于黄蜂群算法的群机器人区域覆盖问题研究》", 《中国博士学位论文全文数据库 信息科技辑》 *
肖鹏 等: "截止时间约束下独立网格任务的协同调度模型", 《电子学报》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110990144A (zh) * 2019-12-17 2020-04-10 深圳市晨北科技有限公司 一种任务确定方法及相关设备
CN114067480A (zh) * 2020-07-31 2022-02-18 阿里巴巴集团控股有限公司 票务排队***控制方法
CN114300082A (zh) * 2022-03-14 2022-04-08 四川大学华西医院 一种信息处理方法、装置和计算机可读存储介质
CN114300082B (zh) * 2022-03-14 2022-06-10 四川大学华西医院 一种信息处理方法、装置和计算机可读存储介质

Also Published As

Publication number Publication date
CN109597680B (zh) 2023-07-07

Similar Documents

Publication Publication Date Title
CN108446176A (zh) 一种任务分配方法、计算机可读存储介质及终端设备
CN103930888B (zh) 基于更新、储存及响应约束的多粒度分组聚合选择
CN103853618B (zh) 基于截止日期驱动的云***代价最小化资源分配方法
CN107851106A (zh) 用于关系数据库即服务的自动需求驱动的资源缩放
CN109597680A (zh) 任务排队响应参数估算方法及装置
US20140129609A1 (en) Computation of Componentized Tasks Based on Availability of Data for the Tasks
CN108874535A (zh) 一种任务调节方法、计算机可读存储介质及终端设备
CN109146381A (zh) 物流数据监控方法、装置、电子设备及计算机存储介质
CN110390584A (zh) 一种异常用户的识别方法、识别装置及可读存储介质
CN107563889A (zh) 账户余额信息处理方法及装置
CN104919427B (zh) 用于处理数据的方法、计算***和计算机可读存储介质
CN110471821A (zh) 异常变更检测方法、服务器及计算机可读存储介质
CN109344316A (zh) 新闻热度计算方法及装置
CN109976975A (zh) 一种磁盘容量预测方法、装置、电子设备及存储介质
CN110020773A (zh) 一种数据处理方法、设备及计算机可读介质
CN110222871A (zh) 用于电力负荷预测的相似日的选择方法及装置
CN109117595A (zh) 一种热负荷预测方法、装置、可读介质及电子设备
CN107247763A (zh) 业务数据统计方法、装置、***、存储介质及电子设备
CN109669995A (zh) 数据存储、质量计算方法、装置、存储介质及服务器
CN110309918A (zh) 神经网络在线模型的验证方法、装置和计算机设备
CN109597800A (zh) 一种日志分发方法及装置
CN107391230B (zh) 一种确定虚拟机负载的实现方法和装置
CN105245351A (zh) 一种计费方法及装置
CN110489418A (zh) 一种数据聚合方法和***
CN106325812A (zh) 一种针对乘累加运算的处理方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20200924

Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman, British Islands

Applicant after: Advanced innovation technology Co.,Ltd.

Address before: A four-storey 847 mailbox in Grand Cayman Capital Building, British Cayman Islands

Applicant before: Alibaba Group Holding Ltd.

Effective date of registration: 20200924

Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman, British Islands

Applicant after: Innovative advanced technology Co.,Ltd.

Address before: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman, British Islands

Applicant before: Advanced innovation technology Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant