CN113918301A - 请求处理方法、装置、电子设备及存储介质 - Google Patents

请求处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN113918301A
CN113918301A CN202111219048.8A CN202111219048A CN113918301A CN 113918301 A CN113918301 A CN 113918301A CN 202111219048 A CN202111219048 A CN 202111219048A CN 113918301 A CN113918301 A CN 113918301A
Authority
CN
China
Prior art keywords
request
queue
requests
priority
waiting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111219048.8A
Other languages
English (en)
Inventor
申毅杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Dajia Internet Information Technology Co Ltd
Original Assignee
Beijing Dajia Internet Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Dajia Internet Information Technology Co Ltd filed Critical Beijing Dajia Internet Information Technology Co Ltd
Priority to CN202111219048.8A priority Critical patent/CN113918301A/zh
Publication of CN113918301A publication Critical patent/CN113918301A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G06F9/4887—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues involving deadlines, e.g. rate based, periodic
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/48—Indexing scheme relating to G06F9/48
    • G06F2209/484—Precedence

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开关于一种请求处理方法、装置、电子设备及存储介质，所述方法包括：确定具有不同队列优先级的多个请求等待队列；其中每个请求等待队列的队列优先级与所述请求等待队列中请求的优先级匹配，高优先级请求的等待响应时长小于低优先级请求的等待响应时长；监听每个请求的剩余响应时长；所述剩余响应时长为所述请求的等待响应时长与所述请求进入请求等待队列的时长的差；基于所述每个请求的所述剩余响应时长，确定待响应请求；将所述待响应请求缓存到请求响应队列中；对所述请求响应队列中的请求进行处理。本公开能够解决在对不同优先级的请求进行处理时，通过资源物理隔离造成的节点资源浪费的问题。

Description

请求处理方法、装置、电子设备及存储介质
技术领域
本公开涉及数据处理技术领域，尤其涉及一种请求处理方法、装置、电子设备及存储介质。
背景技术
在一个由几千至几万节点组成的公共集群上，同时运行的大数据分析应用数以千计，具体到每个节点，其上的Shuffle Service(数据混洗流程服务)可能同时收到来自数十个应用的Shuffle读请求。与此同时，节点上还通常部署着存储了PB(Peta Byte，千兆兆字节)级数据的分布式文件***，这导致在公共集群环境下，每个节点上由多应用共享的磁盘I/O(Input/Output，输入/输出)资源是紧张甚至稀缺资源。
当前的Shuffle Service基于简单的先来先服务(First Come First Serve，FCFS)机制向外提供Shuffle数据，然而不同的Shuffle读请求来自于不同的应用，应用本身是有不同的优先级/服务等级的，而Shuffle Service无法感知优先级，会出现后到的高优先级的Shuffle读请求被大量先到的低优先级Shuffle读阻塞的现象。
发明内容
本公开提供一种请求处理方法、装置、电子设备及存储介质，以至少解决相关技术中在对不同优先级的请求进行处理时，通过资源物理隔离造成的节点资源浪费的问题。本公开的技术方案如下：
根据本公开实施例的第一方面，提供一种请求处理方法，包括：
确定具有不同队列优先级的多个请求等待队列；其中每个请求等待队列的队列优先级与所述请求等待队列中请求的优先级匹配，高优先级请求的等待响应时长小于低优先级请求的等待响应时长；
监听每个请求的剩余响应时长；所述剩余响应时长为所述请求的等待响应时长与所述请求进入请求等待队列的时长的差；
基于所述每个请求的所述剩余响应时长，确定待响应请求；
将所述待响应请求缓存到请求响应队列中；
对所述请求响应队列中的请求进行处理。
在一示例性实施例中，所述方法还包括：
接收待处理请求，确定所述待处理请求的优先级；
确定与所述待处理请求对应的第一请求等待队列；所述第一请求等待队列的队列优先级与所述待处理请求的优先级匹配；
将所述待处理请求缓存到所述第一请求等待队列中。
在一示例性实施例中，每个请求携带有请求来源标识和请求的目标文件标识；
所述基于所述每个请求的所述剩余响应时长，确定待响应请求包括：
确定所述剩余响应时长为零的请求为目标请求、以及、所述目标请求所在的第二请求等待队列；
在所述第二请求等待队列中查找进入所述第二请求等待队列的时间在所述目标请求之后的至少一个关联请求；其中，所述关联请求与所述目标请求携带的请求来源标识和请求的目标文件标识相同；
将所述目标请求和所述至少一个关联请求确定为所述待响应请求。
在一示例性实施例中，每个请求还携带有目标文件偏移量；
所述在所述第二请求等待队列中查找进入所述第二请求等待队列的时间在所述目标请求之后的至少一个关联请求包括：
在所述第二请求等待队列中，查找进入所述第二请求等待队列的时间在所述目标请求之后的预设数量的候选请求；其中，每个候选请求与所述目标请求携带的请求来源标识和请求的目标文件标识相同；
基于每个候选请求携带的目标文件偏移量，对所述预设数量的候选请求进行排序；
基于排序结果从所述预设数量的候选请求中确定所述至少一个关联请求。
在一示例性实施例中，所述方法还包括：
基于所述第二请求等待队列的队列优先级、以及预设的队列优先级与待响应请求数量的对应关系，确定与所述第二请求等待队列对应的候选请求的所述预设数量；
其中，所述预设的队列优先级与待响应请求数量的对应关系中，高队列优先级对应的待响应请求数量大于低队列优先级对应的待响应请求数量。
在一示例性实施例中，所述方法还包括：
在将所述待处理请求缓存到所述第一请求等待队列中时，为所述待处理请求设置定时器，所述定时器的时长为所述待处理请求的等待响应时长；
所述确定所述剩余响应时长为零的请求为目标请求包括：
将定时器归零的请求确定为所述目标请求。
在一示例性实施例中，所述方法还包括：
当所述请求响应队列为空时，确定所述多个请求等待队列中的多个非空队列；
按照所述多个非空队列的队列优先级由高到低的顺序，从所述多个非空队列中选取所述待响应请求。
在一示例性实施例中，所述方法还包括：
当所述请求响应队列中请求的数量小于空载阈值时，增大每次缓存到所述请求响应队列的所述待响应请求的数量，减少所述多个请求等待队列中每个请求的等待响应时长；
当所述请求响应队列中请求的数量大于等于所述空载阈值、且小于等于满载阈值时，保持每次缓存到所述请求响应队列的所述待响应请求的数量，以及所述多个请求等待队列中每个请求的等待响应时长不变；
当所述请求响应队列中请求的数量大于所述满载阈值时，减小每次缓存到所述请求响应队列的所述待响应请求的数量，增大所述多个请求等待队列中每个请求的等待响应时长。
根据本公开实施例的第二方面，提供一种请求处理装置，包括：
请求等待队列确定单元，被配置为执行确定具有不同队列优先级的多个请求等待队列；其中每个请求等待队列的队列优先级与所述请求等待队列中请求的优先级匹配，高优先级请求的等待响应时长小于低优先级请求的等待响应时长；
监听单元，被配置为执行监听每个请求的剩余响应时长；所述剩余响应时长为所述请求的等待响应时长与所述请求进入请求等待队列的时长的差；
待响应请求确定单元，被配置为执行基于所述每个请求的所述剩余响应时长，确定待响应请求；
待响应请求缓存单元，被配置为执行将所述待响应请求缓存到请求响应队列中；
请求处理单元，被配置为执行对所述请求响应队列中的请求进行处理。
在一示例性实施例中，所述装置包括：
待处理请求接收单元，被配置为执行接收待处理请求，确定所述待处理请求的优先级；
第一确定单元，被配置为执行确定与所述待处理请求对应的第一请求等待队列；所述第一请求等待队列的队列优先级与所述待处理请求的优先级匹配；
待处理请求缓存单元，被配置为执行将所述待处理请求缓存到所述第一请求等待队列中。
在一示例性实施例中，每个请求携带有请求来源标识和请求的目标文件标识；
所述待响应请求确定单元包括：
第二确定单元，被配置为执行确定所述剩余响应时长为零的请求为目标请求、以及所述目标请求所在的第二请求等待队列；
关联请求确定单元，被配置为执行在所述第二请求等待队列中查找进入所述第二请求等待队列的时间在所述目标请求之后的至少一个关联请求；其中，所述关联请求与所述目标请求携带的请求来源标识和请求的目标文件标识相同；
待响应请求确定单元，被配置为执行将所述目标请求和所述至少一个关联请求确定为所述待响应请求。
在一示例性实施例中，每个请求还携带有目标文件偏移量；
所述关联请求确定单元包括：
候选请求确定单元，被配置为执行在所述第二请求等待队列中，查找进入所述第二请求等待队列的时间在所述目标请求之后的预设数量的候选请求；其中，每个候选请求与所述目标请求携带的请求来源标识和请求的目标文件标识相同；
候选请求排序单元，被配置为执行基于每个候选请求携带的目标文件偏移量，对所述预设数量的候选请求进行排序；
第三确定单元，被配置为执行基于排序结果从所述预设数量的候选请求中确定所述至少一个关联请求。
在一示例性实施例中，所述装置还包括：
候选请求数量确定单元，被配置为执行基于所述第二请求等待队列的队列优先级、以及预设的队列优先级与待响应请求数量的对应关系，确定与所述第二请求等待队列对应的候选请求的所述预设数量；
其中，所述预设的队列优先级与待响应请求数量的对应关系中，高队列优先级对应的待响应请求数量大于低队列优先级对应的待响应请求数量。
在一示例性实施例中，所述装置还包括：
定时器设置单元，被配置为执行在将所述待处理请求缓存到所述第一请求等待队列中时，为所述待处理请求设置定时器，所述定时器的时长为所述待处理请求的等待响应时长；
所述第二确定单元包括：
第四确定单元，被配置为执行将定时器归零的请求确定为所述目标请求。
在一示例性实施例中，所述装置还包括：
非空队列确定单元，被配置为执行当所述请求响应队列为空时，确定所述多个请求等待队列中的多个非空队列；
待响应请求选取单元，被配置为执行按照所述多个非空队列的队列优先级由高到低的顺序，从所述多个非空队列中选取所述待响应请求。
在一示例性实施例中，所述装置还包括：
第一调整单元，被配置为执行当所述请求响应队列中请求的数量小于空载阈值时，增大每次缓存到所述请求响应队列的所述待响应请求的数量，减少所述多个请求等待队列中每个请求的等待响应时长；
保持单元，被配置为执行当所述请求响应队列中请求的数量大于等于所述空载阈值、且小于等于满载阈值时，保持每次缓存到所述请求响应队列的所述待响应请求的数量，以及所述多个请求等待队列中每个请求的等待响应时长不变；
第二调整单元，被配置为执行当所述请求响应队列中请求的数量大于所述满载阈值时，减小每次缓存到所述请求响应队列的所述待响应请求的数量，增大所述多个请求等待队列中每个请求的等待响应时长。
根据本公开实施例的第三方面，提供一种电子设备，包括：处理器；用于存储所述处理器可执行指令的存储器；其中，所述处理器被配置为执行所述指令，以实现如上所述的请求处理方法。
根据本公开实施例的第四方面，提供一种计算机可读存储介质，当所述计算机可读存储介质中的指令由服务器的处理器执行时，使得服务器能够执行如上所述的请求处理方法。
根据本公开实施例的第五方面，提供一种计算机程序产品，所述计算机程序产品包括计算机程序，所述计算机程序存储在可读存储介质中，计算机设备的至少一个处理器从所述可读存储介质读取并执行所述计算机程序，使得设备执行上述的请求处理方法。
本公开的实施例提供的技术方案至少带来以下有益效果：
本公开通过对具有不同队列优先级的多个请求等待队列中的每个请求进行监听，具体监听每个请求进入相应请求等待队列的时长，当存在进入相应请求等待队列的时长达到等待相应时长的请求时，确定待响应请求；将待响应请求缓存到请求响应队列中，对请求响应队列中的请求进行处理。本公开通过将不同优先级的请求缓存到相应的请求等待队列中，并设置高优先级请求的等待响应时长小于低优先级请求的等待响应时长，从而以不同周期分别调度执行各请求等待队列中的请求，实现了对不同优先级的请求进行分级服务，在充分利用集群资源的前提下，能够为不同优先级请求的完成时间提供保障，即能够优先对高优先级请求进行处理，同时也不会疏忽低优先级请求，避免了通过资源物理隔离对不同优先级的请求进行处理所造成的节点资源浪费的问题。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理，并不构成对本公开的不当限定。
图1是根据一示例性实施例示出的实施环境示意图。
图2是根据一示例性实施例示出的一种请求处理方法流程图。
图3是根据一示例性实施例示出的一种待处理请求缓存方法流程图。
图4是根据一示例性实施例示出的一种待响应请求确定方法流程图。
图5是根据一示例性实施例示出的一种关联请求确定方法流程图。
图6是根据一示例性实施例示出的一种文件存储示意图。
图7是根据一示例性实施例示出的另一种待响应请求确定方法流程图。
图8是根据一示例性实施例示出的请求出列、入列示意图。
图9是根据一示例性实施例示出的一种参数调整方法流程图。
图10是根据一示例性实施例示出的一种请求处理装置框图。
图11是根据一示例性实施例示出的一种设备结构示意图。
具体实施方式
为了使本领域普通人员更好地理解本公开的技术方案，下面将结合附图，对本公开实施例中的技术方案进行清楚、完整地描述。
需要说明的是，本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
请参阅图1，其示出了本公开实施例提供的实施环境示意图，本公开可应用于分布式集群中，该分布式集群可包括管理节点110和多个数据处理节点120；其中管理节点110和多个数据处理节点120可通过网络进行数据通信。
具体地，管理节点110可接收多个应用发送的数据请求，将数据请求分发到相应的数据处理节点120上；数据处理节点120接收到数据请求时，基于数据请求的优先级对数据请求进行处理，并将处理结果发送给管理节点110；管理节点110将处理结果返回给相应的应用。一个示例中，应用指安装在设备中的应用程序。
其中，管理节点110和数据处理节点120具体可为服务器，可以为物理服务器也可以为云服务器。
为了解决相关技术中在对不同优先级的请求进行处理时，通过资源物理隔离造成的节点资源浪费的问题，本公开实施例提供了一种请求处理方法，请参阅图2，该方法的执行主体可以为图1中的数据处理节点，对于每个数据处理节点处的请求处理方法可至少包括S210-S250。
S210.确定具有不同队列优先级的多个请求等待队列；其中每个请求等待队列的队列优先级与所述请求等待队列中请求的优先级匹配，高优先级请求的等待响应时长小于低优先级请求的等待响应时长。
本公开实施例中，每个数据处理节点处均会设置多个不同队列优先级的请求等待队列，用于存储不同优先级的请求；请求等待队列的队列优先级与请求等待队列中请求的优先级匹配可以是指：请求等待队列的队列优先级与其中的请求优先级满足预设关系，具体地预设关系可以是指队列优先级与请求优先级相同，相同优先级的请求能够被缓存到相同的请求等待队列中，即同一请求等待队列中各请求的优先级相同；其中每个请求等待队列中的队列优先级与该请求等待队列中请求的优先级一致。
具体地，由于来自不同应用的请求的优先级可能不同，来自同一应用的请求的优先级也可能不同，在具体的请求中会携带有相关的优先级信息，从而在数据处理节点接收到一个请求时，能够根据请求中携带的优先级信息确定优先级。这里若请求的优先级包括优先级P0、P1和P2，优先级P0>优先级P1>优先级P2，相应地存在队列优先级为P0的请求等待队列，队列优先级为P1的请求等待队列，队列优先级为P2的请求等待队列，从而队列优先级为P0的请求等待队列中缓存的是优先级为P0的请求，队列优先级为P1的请求等待队列中缓存的是优先级为P1的请求，队列优先级为P2的请求等待队列中缓存的是优先级为P2的请求。在一个可选实施例中，若不存在队列优先级与请求的优先级相同的请求等待队列时，可确定与该请求对应的关联请求等待队列，关联请求等待队列可以为队列优先级大于该请求的优先级，且与该请求的优先级最接近的请求等待队列；例如请求的优先级为P0，不存在队列优先级为P0的请求等待队列，可确定该请求的关联请求等待队列为队列优先级为P1的请求等待队列；从而能够实现将没有对应请求等待队列的请求缓存到关联请求等待队列中。在另一可选实施例中，若不存在队列优先级与请求的优先级相同的请求等待队列时，也可即时创建队列优先级与该请求的请求优先级相同的请求等待队列，即实现了请求等待队列的按需动态创建，避免提前创建请求等待队列所带来的的资源浪费。
一个实施例中，还可为每个请求设置相应的等待响应时长，相同优先级的请求对应的等待响应时长相同，例如，优先级为P0的请求对应的等待响应时长为T0，优先级为P1的请求对应的等待响应时长为T1，优先级为P2的请求对应的等待响应时长为T2，T0<T1<T2，通过设置高优先级的请求对应较短的等待响应时长，能够增加对高优先级请求的处理频率，从而实现对高优先级的请求的优先处理。
对于每个请求等待队列，由于会有请求的入列以及请求的出列，入列是指接收到新的待处理请求，将新的待处理请求缓存到相应的请求等待队列中，这里相应的请求等待队列的队列优先级与待处理请求的优先级相匹配；出列是指从请求等待队列中取出请求进行处理，从而每个请求等待队列是在不断更新的，故在每次需要从队列中出列请求时，均需要重新确定一下当前请求等待队列。
对于请求入队列的方法请参阅图3，其示出了一种待处理请求缓存方法，该方法可包括S310-S330。
S310.接收待处理请求，确定所述待处理请求的优先级。
S320.确定与所述待处理请求对应的第一请求等待队列；所述第一请求等待队列的队列优先级与所述待处理请求的优先级匹配。
S330.将所述待处理请求缓存到所述第一请求等待队列中。
数据处理节点在接收到待处理请求时，会根据该待处理请求携带的优先级信息确定其优先级，这里待处理请求携带的优先级信息可以是由相应的应用所赋予的；具体地，可通过设置不同应用的优先级，从而使得基于某个应用发出的请求便具有该应用所对应的优先级，例如应用A的优先级为P0，相应的基于应用A发出的请求的优先级也为P0；进一步地，对于同一个应用所发出的不同类型的请求也可设置不同的优先级，例如应用A的优先级为P0，第一类型的请求的优先级为P0，第二类型的请求的优先级为P1。上述举例仅为了说明本公开的具体实施方式，不构成对本公开实施方式的限定。
在确定了待处理请求的优先级后，将该待处理请求缓存到相应队列优先级的请求等待队列中以更新相应的请求等待队列。
在处理具有延迟响应特性的请求时，例如具体可以为对请求的实时处理要求不高的场景或者对请求的批量处理场景等，可采用本公开对请求的处理方法，将待处理请求缓存到相应的队列中，在待处理请求可接收的延迟时间范围内读取处待处理请求进行处理；例如离线处理场景中，此时对请求的实时处理要求不高，从而对于请求的处理可以有延迟性；在对请求的批量处理场景中，当接收到的待处理请求累计到一定数量时，对该批的请求进行集中处理。上述将本公开对请求的处理方法应用到对请求的实时处理要求不高的场景或者对请求的批量处理场景，仅为了说明本公开的具体实施方式，不构成对本公开实施方式的限定，在任何能够适用本公开中请求处理方法的场景中，均可使用本实施例中的方法进行请求处理。
通过将待处理请求缓存到相应的请求等待队列中，一方面便于对待处理请求进行分级别管理与查询，便于后续对同一请求等待队列中的请求进行处理；另有一方面，为具有延迟响应特性的请求提供了缓存空间。
S220.监听每个请求的剩余响应时长；所述剩余响应时长为所述请求的等待响应时长与所述请求进入请求等待队列的时长的差。
通过监听每个请求的剩余响应时长，来判断是否需要对请求进行响应；具体地，在将所述待处理请求缓存到所述第一请求等待队列中时，为所述待处理请求设置定时器，所述定时器的时长为所述待处理请求的等待响应时长；即对于每个请求，均会设置相应的定时器，并在该请求进入相应的请求等待队列时，启动定时器开始倒计时。例如对于优先级为P0的请求，其对应的定时器时长为T0；对于优先级为P1的请求，其对应的定时器时长为T1；对于优先级为P2的请求，其对应的定时器时长为T2，具体地，P0定时器时长为1秒，P1定时器时长为5秒，P2定时器时长为15秒。这里对每个请求的剩余响应时长的监听具体可以是对定时器的监听，通过设置定时器对请求的剩余响应时长进行表示，便于对请求的剩余响应时长进行监听，提高了时长监听的便利性，并且易于实现，通过允许以不同的最大延迟请求响应时间，来达成更优的读磁盘访问模式。
S230.基于所述每个请求的所述剩余响应时长，确定待响应请求。
本公开实施例中，每个请求还可携带有请求来源标识和请求的目标文件标识；请求来源标识具体可以是发出请求的应用标识，请求的目标文件标识可以是指当前请求所要访问的目标文件的标识；从而请参阅图4，其示出了一种待响应请求确定方法，该方法可包括：
S410.确定所述剩余响应时长为零的请求为目标请求、以及所述目标请求所在的第二请求等待队列。
S420.在所述第二请求等待队列中查找进入所述第二请求等待队列的时间在所述目标请求之后的至少一个关联请求；其中，所述关联请求与所述目标请求携带的请求来源标识和请求的目标文件标识相同。
S430.将所述目标请求和所述至少一个关联请求确定为所述待响应请求。
具体地，根据上述内容可知若在每个请求进入请求等待队列时启动该请求相应的定时器，当存在定时器归零的请求时，将定时器归零的请求确定为目标请求。一种情况下，将目标请求作为待响应请求。
在另一种情况下，例如对请求进行批处理的场景中，可确定处多个待响应请求；具体可在目标请求所在的第二请求等待队列中查找与目标请求关联的关联请求，关联请求与所述目标请求携带的请求来源标识和请求的目标文件标识相同，即目标请求和关联请求来自同一应用，且需要访问同一目标文件，目标文件一般存储在磁盘中，由于目标请求和关联请求可能在队列中不连续，即第二请求等待队列中，目标请求和关联请求之间还有其他请求，若根据在第二请求等待队列中的缓存顺序依次对各请求进行处理，不同请求要求访问的目标文件不同，从而会出现对磁盘的随机访问情况；本公开实施例中将目标请求与关联请求作为一批请求来进行统一处理，一方面该批请求的请求来源标识相同，从而能够实现为同一请求来源进行请求处理，并尽快返回处理结果；另一方面，该批请求所要访问的目标文件相同，从而能够将对磁盘的小粒度随机访问转换为对磁盘的大粒度访问，从而能够优化磁盘访问模式，降低全随机访问对磁盘性能的影响。
例如，对于目标请求1，其请求来源标识为应用A，请求的目标文件标识相同文件f1；第二请求等待队列中与目标请求1相邻的目标请求2来源标识为应用B，请求的目标文件标识相同文件f2，即目标请求2为目标请求1的非关联请求，目标请求1和目标请求2所要访问的目标文件不同，若依次对目标请求1和目标请求2进行响应，需要先访问磁盘中文件f1所在的区域，再访问磁盘中文件f2所在的区域，从而出现对磁盘随机访问的情况；本公开中，查找出目标请求1后的关联请求，对目标请求和关联请求进行批处理，集中访问文件f1，从而避免了在对文件访问过程中反复调整磁盘访问区域的情况。
进一步地，每个请求还携带有目标文件偏移量；请参阅图5，其示出了一种关联请求确定方法，该方法可包括：
S510.在所述第二请求等待队列中，查找进入所述第二请求等待队列的时间在所述目标请求之后的预设数量的候选请求；其中，每个候选请求与所述目标请求携带的请求来源标识和请求的目标文件标识相同。
S520.基于每个候选请求携带的目标文件偏移量，对所述预设数量的候选请求进行排序。
S530.基于排序结果从所述预设数量的候选请求中确定所述至少一个关联请求。
这里的目标文件偏移量用于表征相对于目标文件的文件头的偏移量信息，本公开实施例中可设置关联请求的数量小于等于候选请求的数量，且在确定候选请求时，目标请求和候选请求的数量小于目标请求所在的第二请求等待队列中请求的总数量；从排序结果中选取排序靠前的R个候选请求作为关联请求。
基于相对于文件头的文件偏移量对候选请求进行排序，能够使得选取出的关联请求的所要访问的文件区域更为集中，进一步将对磁盘的随机访问转换为连续访问，避免了在对磁盘访问过程中访问位置的反复调整，进一步提高磁盘的访问性能和磁盘访问效率。
请参阅图6，其示出了一种文件存储示意图，若对于目标文件f1的存储区域包括区域0-区域n-1，区域0到区域n-1相对于文件头的偏移量逐渐增大；若候选请求的数量为6个，分别请求访问文件f1的区域n-1、区域1、区域n-2、区域2、区域8和区域3，n>10，基于偏移量进行排序，排序后的请求对应的偏移量信息为区域1、区域2、区域3、区域8、区域n-2和区域n-1，若关联请求的数量为3，则可确定与区域1、区域2、区域3对应的请求为关联请求。在这里，与区域对应的请求是指，携带该区域的区域标识的请求。
在某些实施例中，本公开中基于所述第二请求等待队列的队列优先级以及预设的队列优先级与待响应请求数量的对应关系，确定与所述第二请求等待队列对应的候选请求的所述预设数量；
其中，所述预设的队列优先级与待响应请求数量的对应关系中，高队列优先级对应的待响应请求数量大于低队列优先级对应的待响应请求数量。
例如对于队列优先级P0，对应的待响应请求数量为R0；对于队列优先级P1，对应的待响应请求数量为R1；对于队列优先级P2，对应的待响应请求数量为R2；且R0>R1>R2。不同优先级的队列，每次从其中出列的最大请求数不同，例如P0队列每次最多出列50个请求，P1队列每次最多出列30个请求，P2队列每次最多出列15个请求。每次从高优先级队列中取出的待响应请求的数量大于从低优先级中取出的待响应请求的数量，进一步保证了优先处理高优先级的请求。
S240.将所述待响应请求缓存到请求响应队列中。
对于请求等待队列中的请求，当其进入请求响应队列时，相应地取消该请求对应的定时器。
S250.对所述请求响应队列中的请求进行处理。
数据处理节点对请求响应队列中的请求依次进行处理，其中对于上述确定的批量处理的请求也可进行相应的批量处理，并返回相应的处理结果。
另外，请参阅图7，其示出了另一种待响应请求确定方法，该方法可包括：
S710.当所述请求响应队列为空时，确定所述多个请求等待队列中的多个非空队列。
S720.按照所述多个非空队列的队列优先级由高到低的顺序，从所述多个非空队列中选取所述待响应请求。
因为请求响应队列中的请求是从请求等待队列中确定出的，当存在剩余响应时长为零的请求，具体可以为定时器归零的请求时，会从相应的请求等待队列中取出该请求并放入请求响应队列中；请求响应队列为空对应的情况是，此时不存在剩余响应时长为零的请求，也即请求等待队列中所有请求的定时器时长均没有耗尽，也有可能是请求等待队列为空。
当存在非空队列时，根据非空队列的优先级由高到低的顺序依次取出待响应请求放入到请求响应队列中，具体的待响应请求的确定方法可参阅本公开实施例上述方法，在此不再赘述。在请求响应队列为空时，根据非空队列的队列优先级进行待响应请求的确定，从而能够保证高优先级请求能够得到及时响应。
对于从请求等待队列中取出待响应请求，并缓存到请求响应队列的过程，请参阅图8，其中包括优先级分别为P0、P1、P2的三个请求等待队列，当存在定时器时长耗尽的请求时，将定时器时长耗尽的请求缓存到请求响应队列中，具体是按照队列优先级从高到低的顺序，将每个请求等待队列中定时器时长耗尽的请求从其所在的请求等待队列中读出，放入到请求响应队列中。
请参阅图9，其示出了一种参数调整方法，该方法可包括：
S910.判断所述请求响应队列中请求的数量小于空载阈值；若是，执行步骤S920；若否，执行步骤S930。
S920.增大每次缓存到所述请求响应队列的所述待响应请求的数量，减少所述多个请求等待队列中每个请求的等待响应时长。
S930.判断所述请求响应队列中请求的数量大于满载阈值；若是，执行步骤S940；若否，执行步骤S950。
S940.减小每次缓存到所述请求响应队列的所述待响应请求的数量，增大所述多个请求等待队列中每个请求的等待响应时长。
S950.保持每次缓存到所述请求响应队列的所述待响应请求的数量，以及所述多个请求等待队列中每个请求的等待响应时长不变。
其中，空载阈值和满载阈值可以是预先设置的用于表征请求响应队列属性的预设值，当请求响应队列中请求的数量小于空载阈值时，可以确定请求响应队列处于空闲状态，可以缓存更多的请求；当请求响应队列中请求的数量大于满载阈值时，可以确定请求响应队列处理超载状态或者超负荷状态，需要减少请求响应队列中请求的数量。
基于当前负载，自适应地进行相关参数的调整，能够提升集群的工作效率。
需要调整的参数包括：对于每种优先级的请求，请求的最长响应时长T(请求等待队列中每个请求的等待响应时长)、每次从优先级队列取出请求个数R(每次缓存到所述请求响应队列的所述待响应请求的数量)、和反应***当前服务响应状态的请求响应队列长度L(请求响应队列中请求的数量)，其自适应调整方法如下：
1.当L小于空载阈值len1，则周期性上调R的个数：Rnew＝Rold*c1；并同时下调T时间：Tnew＝Told*c2；其中，Rold为调整前每次从优先级队列取出请求的个数，Rnew为调整后每次从优先级队列取出请求的个数；Told为调整前请求的最长响应时长，Tnew为调整后请求的最长响应时长；c1为上调比例，c2为下调比例(c1>1，c2<1)。
2.当L大于空载阈值len1小于满载阈值len2，则维持T、R数值不变；
3.当L大于满载阈值len2，则周期性下调R的个数：Rnew＝Rold*c2；并同时上调T时间：Tnew＝Told*c1。
上述算法中的len1、len2，上调下调比例c1、c2(c1>1，c2<1)，调整周期均为经验值，可通过计算节点磁盘进行估计，同时，***对经验值的取值不敏感，即***总可通过上述的自适应调整方法，达到响应时间与参数的均衡。
本公开通过对具有不同队列优先级的多个请求等待队列中的每个请求进行监听，具体监听每个请求进入相应请求等待队列的时长，当存在进入相应请求等待队列的时长达到等待相应时长的请求时，确定待响应请求；将待响应请求缓存到请求响应队列中，对请求响应队列中的请求进行处理。本公开通过将不同优先级的请求缓存到相应的请求等待队列中，并设置高优先级请求的等待响应时长小于低优先级请求的等待响应时长，从而以不同周期分别调度执行各请求等待队列中的请求，实现了对不同优先级的请求进行分级服务，在充分利用集群资源的前提下，能够为不同优先级请求的完成时间提供保障，即能够优先对高优先级请求进行处理，同时也不会疏忽低优先级请求，避免了通过资源物理隔离对不同优先级的请求进行处理所造成的节点资源浪费的问题。
本公开能够应用于Shuffle服务场景中，其中通过对Shuffle读请求的分级缓存与各级不同粒度服务，以作业优先级区分Shuffle读请求优先级。具体地，通过将不同优先级的请求缓存到相应的请求等待队列中，并设置高优先级请求的等待响应时长小于低优先级请求的等待响应时长，从而以不同周期分别调度执行各请求等待队列中的请求，实现了对不同优先级的请求进行分级服务，在充分利用集群资源的前提下，能够为不同优先级请求的完成时间提供保障，即能够优先对高优先级请求进行处理，同时也不会疏忽低优先级请求，避免大量低优Shuffle读请求阻塞高优Shuffle读请求，并且避免了通过资源物理隔离对不同优先级的请求进行处理所造成的节点资源浪费的问题。另外，将目标请求与关联请求作为一批请求来进行统一处理，一方面该批请求的请求来源标识相同，从而能够实现为同一请求来源进行请求处理，并尽快返回处理结果；另一方面，该批请求所要访问的目标文件相同，从而能够将对磁盘的小粒度随机访问转换为对磁盘的大粒度访问，从而能够优化磁盘访问模式，降低全随机访问对磁盘性能的影响。通过基于定时器的请求批出列方法，对每个请求的剩余响应时长的监听具体可以是对定时器的监听，通过设置定时器对请求的剩余响应时长进行表示，便于对请求的剩余响应时长进行监听，保障每个请求最长等待时间可控的同时，尽量优化磁盘I/O访问模式，降低全随机磁盘I/O对磁盘性能的影响；基于磁盘负载的自适应参数调整方法，基于当前负载，自适应的参数调优，提升集群Shuffle服务能力的同时，降低对***管理员的调优需求。
图10是根据一示例性实施例示出的一种请求处理装置框图。参照图10，该装置包括：
请求等待队列确定单元1010，被配置为执行确定具有不同队列优先级的多个请求等待队列；其中每个请求等待队列的队列优先级与所述请求等待队列中请求的优先级匹配，高优先级请求的等待响应时长小于低优先级请求的等待响应时长；
监听单元1020，被配置为执行监听每个请求的剩余响应时长；所述剩余响应时长为所述请求的等待响应时长与所述请求进入请求等待队列的时长的差；
待响应请求确定单元1030，被配置为执行基于所述每个请求的所述剩余响应时长，确定待响应请求；
待响应请求缓存单元1040，被配置为执行将所述待响应请求缓存到请求响应队列中；
请求处理单元1050，被配置为执行对所述请求响应队列中的请求进行处理。
在一示例性实施例中，所述装置包括：
待处理请求接收单元，被配置为执行接收待处理请求，确定所述待处理请求的优先级；
第一确定单元，被配置为执行确定与所述待处理请求对应的第一请求等待队列；所述第一请求等待队列的队列优先级与所述待处理请求的优先级匹配；
待处理请求缓存单元，被配置为执行将所述待处理请求缓存到所述第一请求等待队列中。
在一示例性实施例中，每个请求携带有请求来源标识和请求的目标文件标识；
所述待响应请求确定单元1030包括：
第二确定单元，被配置为执行确定所述剩余响应时长为零的请求为目标请求、以及所述目标请求所在的第二请求等待队列；
关联请求确定单元，被配置为执行在所述第二请求等待队列中查找进入所述第二请求等待队列的时间在所述目标请求之后的至少一个关联请求；其中，所述关联请求与所述目标请求携带的请求来源标识和请求的目标文件标识相同；
待响应请求确定单元，被配置为执行将所述目标请求和所述至少一个关联请求确定为所述待响应请求。
在一示例性实施例中，每个请求还携带有目标文件偏移量；
所述关联请求确定单元包括：
候选请求确定单元，被配置为执行在所述第二请求等待队列中，查找进入所述第二请求等待队列的时间在所述目标请求之后的预设数量的候选请求；其中，每个候选请求与所述目标请求携带的请求来源标识和请求的目标文件标识相同；
候选请求排序单元，被配置为执行基于每个候选请求携带的目标文件偏移量，对所述预设数量的候选请求进行排序；
第三确定单元，被配置为执行基于排序结果从所述预设数量的候选请求中确定所述至少一个关联请求。
在一示例性实施例中，所述装置还包括：
候选请求数量确定单元，被配置为执行基于所述第二请求等待队列的队列优先级、以及预设的队列优先级与待响应请求数量的对应关系，确定与所述第二请求等待队列对应的候选请求的所述预设数量；
其中，所述预设的队列优先级与待响应请求数量的对应关系中，高队列优先级对应的待响应请求数量大于低队列优先级对应的待响应请求数量。
在一示例性实施例中，所述装置还包括：
定时器设置单元，被配置为执行在将所述待处理请求缓存到所述第一请求等待队列中时，为所述待处理请求设置定时器，所述定时器的时长为所述待处理请求的等待响应时长；
所述第二确定单元包括：
第四确定单元，被配置为执行将定时器归零的请求确定为所述目标请求。
在一示例性实施例中，所述装置还包括：
非空队列确定单元，被配置为执行当所述请求响应队列为空时，确定所述多个请求等待队列中的多个非空队列；
待响应请求选取单元，被配置为执行按照所述多个非空队列的队列优先级由高到低的顺序，从所述多个非空队列中选取所述待响应请求。
在一示例性实施例中，所述装置还包括：
第一调整单元，被配置为执行当所述请求响应队列中请求的数量小于空载阈值时，增大每次缓存到所述请求响应队列的所述待响应请求的数量，减少所述多个请求等待队列中每个请求的等待响应时长；
保持单元，被配置为执行当所述请求响应队列中请求的数量大于等于所述空载阈值、且小于等于满载阈值时，保持每次缓存到所述请求响应队列的所述待响应请求的数量，以及所述多个请求等待队列中每个请求的等待响应时长不变；
第二调整单元，被配置为执行当所述请求响应队列中请求的数量大于所述满载阈值时，减小每次缓存到所述请求响应队列的所述待响应请求的数量，增大所述多个请求等待队列中每个请求的等待响应时长。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
在示例性实施例中，还提供了一种包括指令的计算机可读存储介质，可选地，计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等；当所述计算机可读存储介质中的指令由服务器的处理器执行时，使得服务器能够执行如上所述的任一方法。
在示例性实施例中，还提供一种计算机程序产品，所述计算机程序产品包括计算机程序，所述计算机程序存储在可读存储介质中，计算机设备的至少一个处理器从所述可读存储介质读取并执行所述计算机程序，使得设备执行上述的任一方法。
本实施例还提供了一种设备，其结构图请参见图11，该设备1100可因配置或性能不同而产生比较大的差异，可以包括一个或一个以***处理器(central processingunits，CPU)1122(例如，一个或一个以上处理器)和存储器1132，一个或一个以上存储应用程序1142或数据1144的存储媒体1130(例如一个或一个以上海量存储设备)。其中，存储器1132和存储媒体1130可以是短暂存储或持久存储。存储在存储媒体1130的程序可以包括一个或一个以上模块(图示未示出)，每个模块可以包括对设备中的一系列指令操作。更进一步地，中央处理器1122可以设置为与存储媒体1130通信，在设备1100上执行存储媒体1130中的一系列指令操作。设备1100还可以包括一个或一个以上电源1126，一个或一个以上有线或无线网络接口1150，一个或一个以上输入输出接口1158，和/或，一个或一个以上操作***1141，例如Windows ServerTM，Mac OS XTM，UnixTM，LinuxTM，FreeBSDTM等等。本实施例上述的任一方法均可基于图11所示的设备进行实施。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (10)

1.一种请求处理方法，其特征在于，包括：
确定具有不同队列优先级的多个请求等待队列；其中每个请求等待队列的队列优先级与所述请求等待队列中请求的优先级匹配，高优先级请求的等待响应时长小于低优先级请求的等待响应时长；
监听每个请求的剩余响应时长；所述剩余响应时长为所述请求的等待响应时长与所述请求进入请求等待队列的时长的差；
基于所述每个请求的所述剩余响应时长，确定待响应请求；
将所述待响应请求缓存到请求响应队列中；
对所述请求响应队列中的请求进行处理。
2.根据权利要求1所述的一种请求处理方法，其特征在于，所述方法还包括：
接收待处理请求，确定所述待处理请求的优先级；
确定与所述待处理请求对应的第一请求等待队列；所述第一请求等待队列的队列优先级与所述待处理请求的优先级匹配；
将所述待处理请求缓存到所述第一请求等待队列中。
3.根据权利要求2所述的一种请求处理方法，其特征在于，每个请求携带有请求来源标识和请求的目标文件标识；
所述基于所述每个请求的所述剩余响应时长，确定待响应请求包括：
确定所述剩余响应时长为零的请求为目标请求、以及所述目标请求所在的第二请求等待队列；
在所述第二请求等待队列中查找进入所述第二请求等待队列的时间在所述目标请求之后的至少一个关联请求；其中，所述关联请求携带的请求来源标识与所述目标请求携带的请求来源标识相同，所述关联请求所请求的目标文件标识与所述目标请求所请求的目标文件标识相同；
将所述目标请求和所述至少一个关联请求确定为所述待响应请求。
4.根据权利要求3所述的一种请求处理方法，其特征在于，每个请求还携带有目标文件偏移量；
所述在所述第二请求等待队列中查找进入所述第二请求等待队列的时间在所述目标请求之后的至少一个关联请求包括：
在所述第二请求等待队列中，查找进入所述第二请求等待队列的时间在所述目标请求之后的预设数量的候选请求；其中，所述候选请求携带的请求来源标识与所述目标请求携带的请求来源标识相同，所述候选请求所请求的目标文件标识与所述目标请求所请求的目标文件标识相同；
基于每个候选请求携带的目标文件偏移量，对所述预设数量的候选请求进行排序；
基于排序结果从所述预设数量的候选请求中确定所述至少一个关联请求。
5.根据权利要求4所述的一种请求处理方法，其特征在于，所述方法还包括：
基于所述第二请求等待队列的队列优先级、以及预设的队列优先级与待响应请求数量的对应关系，确定与所述第二请求等待队列对应的候选请求的所述预设数量；
其中，所述预设的队列优先级与待响应请求数量的对应关系中，高队列优先级对应的待响应请求数量大于低队列优先级对应的待响应请求数量。
6.根据权利要求3所述的一种请求处理方法，其特征在于，所述方法还包括：
在将所述待处理请求缓存到所述第一请求等待队列中时，为所述待处理请求设置定时器，所述定时器的时长为所述待处理请求的等待响应时长；
所述确定所述剩余响应时长为零的请求为目标请求包括：
将定时器归零的请求确定为所述目标请求。
7.一种请求处理装置，其特征在于，包括：
请求等待队列确定单元，被配置为执行确定具有不同队列优先级的多个请求等待队列；其中每个请求等待队列的队列优先级与所述请求等待队列中请求的优先级匹配，高优先级请求的等待响应时长小于低优先级请求的等待响应时长；
监听单元，被配置为执行监听每个请求的剩余响应时长；所述剩余响应时长为所述请求的等待响应时长与所述请求进入请求等待队列的时长的差；
待响应请求确定单元，被配置为执行基于所述每个请求的所述剩余响应时长，确定待响应请求；
待响应请求缓存单元，被配置为执行将所述待响应请求缓存到请求响应队列中；
请求处理单元，被配置为执行对所述请求响应队列中的请求进行处理。
8.一种电子设备，其特征在于，包括：
处理器；
用于存储所述处理器可执行指令的存储器；
其中，所述处理器被配置为执行所述指令，以实现如权利要求1至6中任一项所述的请求处理方法。
9.一种计算机可读存储介质，其特征在于，当所述计算机可读存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如权利要求1至6中任一项所述的请求处理方法。
10.一种计算机程序产品，包括计算机程序/指令，其特征在于，所述计算机程序/指令被处理器执行时实现权利要求1至6任一项所述的请求处理方法。
CN202111219048.8A 2021-10-20 2021-10-20 请求处理方法、装置、电子设备及存储介质 Pending CN113918301A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111219048.8A CN113918301A (zh) 2021-10-20 2021-10-20 请求处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111219048.8A CN113918301A (zh) 2021-10-20 2021-10-20 请求处理方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN113918301A true CN113918301A (zh) 2022-01-11

Family

ID=79241602

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111219048.8A Pending CN113918301A (zh) 2021-10-20 2021-10-20 请求处理方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN113918301A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114327841A (zh) * 2022-03-16 2022-04-12 上海闪马智能科技有限公司 一种资源调度方法、装置、存储介质及电子装置
CN115348220A (zh) * 2022-08-25 2022-11-15 中国银行股份有限公司 访问请求传输方法及装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114327841A (zh) * 2022-03-16 2022-04-12 上海闪马智能科技有限公司 一种资源调度方法、装置、存储介质及电子装置
CN115348220A (zh) * 2022-08-25 2022-11-15 中国银行股份有限公司 访问请求传输方法及装置

Similar Documents

Publication Publication Date Title
CN107423120B (zh) 任务调度方法及装置
KR100429904B1 (ko) 차등화된 ＱｏＳ 서비스를 제공하는 라우터 및 그것의고속 ＩＰ 패킷 분류 방법
CN110489447B (zh) 数据查询方法、装置、计算机设备和存储介质
US7207043B2 (en) Programmatic response-time based workload distribution techniques
US5898870A (en) Load balancing for a parallel computer system by employing resource utilization target values and states
US7076781B2 (en) Resource reservation for large-scale job scheduling
US7203747B2 (en) Load balancing system and method in a multiprocessor system
CN113918301A (zh) 请求处理方法、装置、电子设备及存储介质
US7237242B2 (en) Dynamic thread pool tuning techniques
US20010010052A1 (en) Method for controlling multithreading
US8024744B2 (en) Method and system for off-loading user queries to a task manager
CN113296929A (zh) 基于云计算的资源匹配方法、装置及***
CN113672391B (zh) 一种基于Kubernetes的并行计算任务调度方法与***
US20030191794A1 (en) Apparatus and method for dispatching fixed priority threads using a global run queue in a multiple run queue system
CN117155942A (zh) 一种微服务动态自适应客户端负载均衡方法及***
CN115439250A (zh) 一种交易请求的处理方法及装置、存储介质、电子装置
CN113038401A (zh) 差异化资源调度方法、装置、计算设备及计算机存储介质
CN117076133B (zh) 云游戏平台异构资源分配方法、计算机装置及存储介质
CN112019581A (zh) 一种调度任务处理实体的方法及装置
US8108340B2 (en) Search engine configured to minimize performance degradation under high load
CN116820769A (zh) 一种任务分配方法、装置及***
CN107911484B (zh) 一种消息处理的方法及装置
JPH09101902A (ja) ジョブスケジューリング方式
CN111444183A (zh) 一种键值存储***中的分布式自适应用户请求调度方法
CN110968409A (zh) 一种数据处理方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination