CN112015551B - 协程池的管理方法及装置 - Google Patents
协程池的管理方法及装置 Download PDFInfo
- Publication number
- CN112015551B CN112015551B CN202010873814.1A CN202010873814A CN112015551B CN 112015551 B CN112015551 B CN 112015551B CN 202010873814 A CN202010873814 A CN 202010873814A CN 112015551 B CN112015551 B CN 112015551B
- Authority
- CN
- China
- Prior art keywords
- coroutine
- range
- pool
- cooperative
- parameter data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000007726 management method Methods 0.000 title claims abstract description 48
- 238000000034 method Methods 0.000 claims abstract description 68
- 238000012544 monitoring process Methods 0.000 claims description 38
- 238000012545 processing Methods 0.000 claims description 8
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000011112 process operation Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种协程池的管理方法及装置,涉及计算机技术领域。本发明的方法主要包括:获取关联参数数据,所述关联参数数据包括***参数数据及协程参数数据;根据所述关联参数数据确定协程池安全域,所述安全域用于限定协程池的协程数量范围;根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池。
Description
技术领域
本发明涉及计算机技术领域,特别是涉及一种协程池的管理方法及装置。
背景技术
随着技术的不断发展,5G时代已经逐步到来,这样用户对数据量和低延时有了更高的要求,用户的数据需求最终通过后端的业务服务器体现出来。如何保证后端业务服务器在内部分配的***资源与当前用户业务的数据量相匹配,即在保证***稳定的前提下,又能满足用户的需求,同时还能保证整体***的高并发,是对设计者的一个考验。一般来说,当后端业务服务器***接收到大量数据请求时,往往需要启动大量协程工作,每个协程对应一个任务进行数据任务的处理,在这个过程中,可通过协程池对协程进行调配和管理。
目前,处理大量数据请求的过程中,业界通常的做法是设置一个固定值的协程池进行协程调配。然而,在实际应用中,当前这种设置了固定值的协程池实际上设置了协程上限,无论***当前的数据压力情况是何种情况,协程池中都按照这个固定值启动对应数量的协程。这就使得在实际的应用过程中,无论***是处于较大数据压力还是无较大数据请求的情况下都启动了该数量的协程,导致这种协程池的管理方式较为僵化,难以适应***动态负载情况。
发明内容
有鉴于此,本发明提供的协程池的管理方法及装置,其目的在于解决现有的协程池的管理方式僵化、难以适应***负载情况的问题。
本发明的目的是采用以下技术方案来实现的:
第一方面,本发明提供了一种协程池的管理方法,应用于服务器的协程池的管理,所述方法包括:
获取关联参数数据,所述关联参数数据包括***参数数据及协程参数数据;
根据所述关联参数数据确定协程池安全域,所述安全域用于限定协程池的协程数量范围;
根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池。
可选的,所述根据所述关联参数数据确定协程池安全域包括:
根据所述***参数数据确定***资源使用率的有效范围,并根据所述***资源使用率的有效范围确定所述协程池中的协程数范围,其中,所述***资源使用率的有效范围包括CPU使用率有效范围以及内存使用率有效范围;
和/或,
根据所述协程参数数据确定***协程数的有效值范围,并根据所述***协程数的有效值范围确定所述协程池的协程数量范围;
将所述协程池的协程数量范围确定为所述协程池的安全域,其中当存在多个所述协程池的协程数量范围时,则将所述最小的协程池的协程数范围确定为所述协程池的安全域。
可选的,所述根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池,包括:
将当前协程池中的协程数量与所述协程池安全域进行对比;
若当前协程池中的协程数量小于所述协程池安全域的协程数最小值时,则新建协程以满足任务处理需求;
若当前协程池中的协程数量大于所述协程池安全域的协程数最大值时,则关闭多余协程直至所述协程池的协程数量与所述协程池安全域的协程数最大值相同。
可选的,所述根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池,包括:
获取当前用户业务量并与预设用户业务量范围对比,所述当前用户业务量是根据***任务队列中存在的待处理任务数量确定的,所述预设用户业务量范围中包含有预设的最大任务数量及最小任务数量;
若确定当前业务量超过预设用户业务量范围中的最大任务数量,则新建协程;
若确定当前业务量小于预设用户业务量范围中的最小任务数量,则关闭多余协程。
可选的,在所述获取关联参数数据之前,所述方法还包括:
在***内设置监测哨兵,所述监测哨兵用于监测***内的***参数数据及协程参数数据;
设置所述监测哨兵的数据获取周期;
所述获取关联参数数据,包括:
通过所述监测哨兵按照所述数据获取周期获取***中关联参数数据。
第二方面,本发明提供了一种协程池的管理装置,应用于服务器的协程池的管理,所述装置包括:
获取单元,用于获取关联参数数据,所述关联参数数据包括***参数数据及协程参数数据;
确定单元,用于根据所述关联参数数据确定协程池安全域,所述安全域用于限定协程池的协程数量范围;
管理单元,用于根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池。
可选的,所述确定单元包括:
第一确定模块,用于根据所述***参数数据确定***资源使用率的有效范围,并根据所述***资源使用率的有效范围确定所述协程池中的协程数范围,所述***资源使用率的有效范围包括CPU使用率有效范围以及内存使用率有效范围;
第二确定模块,用于根据所述协程参数数据确定***协程数的有效值范围,并根据所述***协程数的有效值范围确定所述协程池的协程数量范围;
第三确定模块,用于将所述协程池的协程数量范围确定为所述协程池的安全域,其中当存在多个所述协程池的协程数量范围时,则将所述最小的协程池的协程数范围确定为所述协程池的安全域。
可选的,所述管理单元,包括:
第一对比模块,用于将当前协程池中的协程数量与所述协程池安全域进行对比;
第一新建模块,用于若当前协程池中的协程数量小于所述协程池安全域的协程数最小值时,则新建协程以满足任务处理需求;
第一关闭模块,用于若当前协程池中的协程数量大于所述协程池安全域的协程数最大值时,则关闭多余协程直至所述协程池的协程数量与所述协程池安全域的协程数最大值相同。
可选的,所述管理单元,包括:
第二对比模块,用于获取当前用户业务量并与预设用户业务量范围对比,所述当前用户业务量是根据***任务队列中存在的待处理任务数量确定的,所述预设用户业务量范围中包含有预设的最大任务数量及最小任务数量;
第二新建模块,用于若确定当前业务量超过预设用户业务量范围中的最大任务数量,则新建协程;
第二关闭模块,用于若确定当前业务量小于预设用户业务量范围中的最小任务数量,则关闭多余协程。
可选的,所述装置还包括:
第一设置单元,用于在***内设置监测哨兵,所述监测哨兵用于监测***内的***参数数据及协程参数数据;
第二设置单元,用于设置所述监测哨兵的数据获取周期;
所述获取单元,具体用于通过所述监测哨兵按照所述数据获取周期获取***中关联参数数据。
第三方面,本发明提供了一种非瞬态计算机可读存储介质,所述存储介质存储有至少一条指令,所述至少一条指令被配置为由处理器加载并执行如第一方面所述的协程池的管理方法。
第四方面,本发明提供了一种电子设备,所述电子设备包括存储介质和处理器;
所述处理器,被配置为执行指令;
所述存储介质,被配置为存储至少一条指令;
所述至少一条指令适于由所述处理器加载并执行如第一方面所述的协程池的管理方法。
借由上述技术方案,本发明提供的协程池的管理方法及装置,对于目前以固定值的协程池来启动固定数量的协程的协程池的管理方式相比,本发明能够通过获取关联参数数据,再根据所述关联参数数据确定协程池安全域,最后根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池,从而实现对协程池的管理,其中,所述安全域用于限定协程池的协程数量范围,这样可以实现一种基于安全域的协程池中协程数量的管理,从而确保后续能够基于安全域灵活调整协程的数量,同时所述关联参数数据包括***参数数据及协程参数数据,该关联参数数据能够表征***的负载情况和协程的运行情况,使得安全域能够基于***情况实时调整,可以确保后续管理协程池的过程中能够根据***运行情况而变化,更具灵活性。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了本发明实施例提供的一种协程池的管理方法的流程图;
图2示出了本发明实施例提供的另一种协程池的管理方法的流程图;
图3示出了本发明实施例提供的一种协程池的管理装置的组成框图;
图4示出了本发明实施例提供的另一种协程池的管理装置的组成框图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
本发明实施例提供了一种协程池的管理方法,如图1所示,所述方法主要包括:
101、获取关联参数数据。
其中,所述关联参数数据包括***参数数据及协程参数数据。
在计算机技术领域中,***负载情况是制约其运行效能的主要因素,例如,当***内存占用率达到100%时,***内的协程池即便还有多余的数量的协程可以新建(即当前***中协程数量小于协程池中设置的固定值),都会因内存占用过高而无法再新建新的协程,甚至可能为了确保***的稳定,***会执行内存释放功能以关闭一些任务以及对应的协程。其中,该***可以为计算机的控制***,也可以为服务器的控制***,在本发明实施例中为便于描述,所述***可以理解为可以设置协程池以服务用户请求的服务器***。因此,在本发明实施例中,在对协程池进行管理时,需要首先如本步骤的方法先获取关联参数数据。该关联参数数据可以理解为能够对协程池的协程管理造成影响的数据,如表征***负载情况的***参数数据以及表征当前***中协程池内协程运行情况的协程参数数据。这样,可以通过该关联参数数据为后续的协程池的管理奠定管理依据。
需要说明的是,在本步骤获取关联参数数据的过程中,可以通过预设监测程序进行定期获取,也可以基于用户的实时需要按照指令随时进行获取,在此对于获取方式不做限定,可以根据实际需要进行设置。
102、根据所述关联参数数据确定协程池安全域。
其中,所述安全域用于限定协程池的协程数量范围。当前述步骤101中获取到了对协程池的管理存在影响的数据后(即所述关联参数数据),则可以在本步骤基于该关联参数数据确定实际上可以启动的协程的数量范围,即所述协程池安全域。例如,当根据所述关联参数数据确定***中实际内存使用率的有效范围是0-90%时,且内存使用率达到90%时协程数量为7万,则协程数量7万为所述协程池安全域的上限。
103、根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池。
由于本发明实施例所述的方法用于对协程池进行管理,因此,在管理的过程中当确定了协程池安全域后,则相当于确定了***中能够允许使用的协程数量的范围,因此,可根据该安全域以及当前协程池中的协程数量与该协程池安全域中的范围进行对比,并基于对比结果确定是否需要新建新的协程或关闭多余协程。
例如,当确定当前协程池中的协程数量为177个,同时确定所述协程池安全域为0-200,则说明当前***内还可以新建更多的协程,因此,新建新的协程直至协程池中的协程数量至200。
本发明实施例提供的协程池的管理方法,对于目前以固定值的协程池来启动固定数量的协程的协程池的管理方式相比,本发明能够通过获取关联参数数据,再根据所述关联参数数据确定协程池安全域,最后根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池,从而实现对协程池的管理,其中,所述安全域用于限定协程池的协程数量范围,这样可以实现一种基于安全域的协程池中协程数量的管理,从而确保后续能够基于安全域灵活调整协程的数量,同时所述关联参数数据包括***参数数据及协程参数数据,该关联参数数据能够表征***的负载情况和协程运行情况,使得安全域能够基于***情况实时调整,可以确保后续管理协程池的过程中能够根据***运行情况而变化,更具灵活性。
进一步的,依据图1所示的方法,本发明的另一个实施例还提供了另一种协程池的管理方法,如图2所示,所述方法主要包括:
201、在***内设置监测哨兵。
其中,所述监测哨兵用于监测***内的***参数数据及协程参数数据。
在本发明实施例中,所述监测哨兵可以理解为在***后台中设置的实时监控程序或插件,当***启动后可以自动启动并在***后台实时监控当前***运行情况的相关数据,其中包括所述关联参数数据。这样,当***内存在大量数据请求时,能够实时监测当前***的运行状态,并将与之相关的数据进行记录。
202、设置所述监测哨兵的数据获取周期。
由于所述监控哨兵能够实时监测***的运行状态,在本发明实施例中可以直接在监控过程中通过该监控哨兵实时抓取数据以确保数据的实时性。在此可以设置该监控哨兵的数据获取周期,以便能够按照固定周期进行关联参数数据的获取,实现按照一定频率的数据抓取功能。
203、获取关联参数数据。
其中,所述关联参数数据包括***参数数据及协程参数数据。
具体的,本步骤获取过程可以为:通过所述监测哨兵按照所述数据获取周期获取***中关联参数数据。例如,当所述数据获取周期为1秒,则本步骤中获取关联参数数据的过程则可以是该监测哨兵每隔1秒进行一次关联参数数据的获取。
204、根据所述关联参数数据确定协程池安全域。
其中,所述安全域用于限定协程池的协程数量范围。
具体的,所述根据所述关联参数数据确定协程池安全域包括:
一方面,根据所述***参数数据确定***资源使用率的有效范围,并根据所述***资源使用率的有效范围确定所述协程池中的协程数范围,其中,所述***资源使用率的有效范围包括CPU使用率有效范围以及内存使用率有效范围。
另一方面,根据所述协程参数数据确定***协程数的有效值范围,并根据所述***协程数的有效值范围确定所述协程池的协程数量范围。
随后,根据上述两方面的方法所确定出的协程池的协程数量的范围确定安全域。即,将所述协程池的协程数量作为所述协程池的安全域。其中,当基于不同的关联参数分别确定出多个不同的协程池的协程数量的范围时,则可以选取其中最小的范围作为所述协程池的安全域。
例如,CPU使用率的有效范围0-N*100%,其中N为核数,当CPU使用率达到N*100%时,这时的协程数量即为***的协程池安全域的上限;内存使用率的有效范围0-90%,当内存使用率达到90%时,这时的协程数量即为***的协程池安全域的上限;***协程数的有效范围1-2*10000,则默认安全域为1-2*10000。
需要说明的是,在确定所述协程池安全域的过程中,可以采取上述两个方面中任意一种作为确定协程池的协程池的协程数量的范围的方法,当然,为了进一步确保协程池的管理的准确性,还可以同时采用两种方面的方式进行协程池的协程数量的范围的确定,这样可能存在多个协程数量的范围的情况,例如,当基于CPU使用率的有效范围确定协程池的协程数量的范围为0-9000,基于内存使用率的有效范围确定协程池的协程数量的范围为0-8000,同时基于协程参数数据确定协程池的协程数量的范围为0-9500时,则根据上述确定的三个范围中选取其最小的范围作为协程池安全域,即最终确定的协程池安全域为0-8000,以避免当协程数量超过8000时造成内存满载的情况。
205、根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池。
具体的,本步骤包括:
将当前协程池中的协程数量与所述协程池安全域进行对比。基于对比结果,可分别按照下述方式管理协程池:
一方面,若当前协程池中的协程数量小于所述协程池安全域的协程数最小值时,说明当前协程池中新建的协程较少,需要增加协程来处理任务,因此新建协程以满足任务处理需求;
另一方面,若当前协程池中的协程数量大于所述协程池安全域的协程数最大值时,说明当前***内新建的协程数量过多,***负载压力过大,这时则关闭多余协程直至所述协程池的协程数量与所述协程池安全域的协程数最大值相同。
同时,基于协程是用于对***内存在的数据请求任务进行处理,因此,在管理协程池的过程中还可以考虑***中存在的业务量,基于此,本步骤还可以包括:
获取当前用户业务量并与预设用户业务量范围对比,所述当前用户业务量是根据***任务队列中存在的待处理任务数量确定的,所述预设用户业务量范围中包含有预设的最大任务数量及最小任务数量;
若确定当前业务量超过预设用户业务量范围中的最大任务数量,则新建协程;
若确定当前业务量小于预设用户业务量范围中的最小任务数量,则关闭多余协程。
例如,若***中存在的用于表征用户业务量的任务队列中存在200个任务,且预先设置的预设用户业务量范围为任务队列中任务数量50-100个,当前用户业务量已经超出预设用户业务量范围,说明当前***中存在任务积压的情况,这时则可以在***负载允许的情况,新建更多的新协程,以便对积压的任务进行处理。
进一步的,依据上述方法实施例,本发明的另一个实施例还提供了一种协程池的管理装置,如图3所示,所述装置主要包括:
获取单元31,可以用于获取关联参数数据,所述关联参数数据包括***参数数据及协程参数数据;
确定单元32,可以用于根据所述获取单元31获取的关联参数数据确定协程池安全域,所述安全域用于限定协程池的协程数量范围;
管理单元33,可以用于根据所述确定单元32确定的协程池安全域以及当前协程池中的协程数量,管理所述协程池。
可选的,如图4所示,所述确定单元32包括:
第一确定模块321,可以用于根据所述***参数数据确定***资源使用率的有效范围,并根据所述***资源使用率的有效范围确定所述协程池中的协程数范围,所述***资源使用率的有效范围包括CPU使用率有效范围以及内存使用率有效范围;
第二确定模块322,可以用于根据所述协程参数数据确定***协程数的有效值范围,并根据所述***协程数的有效值范围确定所述协程池的协程数量范围;
第三确定模块323,可以用于将所述第一确定模块321、第二确定模块322确定的协程池的协程数量范围确定为所述协程池的安全域,其中当存在多个所述协程池的协程数量范围时,则将所述最小的协程池的协程数范围确定为所述协程池的安全域
可选的,如图4所示,所述管理单元33,包括:
第一对比模块331,可以用于将当前协程池中的协程数量与所述协程池安全域进行对比;
第一新建模块332,可以用于若第一对比模块331对比后确定当前协程池中的协程数量小于所述协程池安全域的协程数最小值时,则新建协程以满足任务处理需求;
第一关闭模块333,可以用于若第一对比模块331对比后确定当前协程池中的协程数量大于所述协程池安全域的协程数最大值时,则关闭多余协程直至所述协程池的协程数量与所述协程池安全域的协程数最大值相同。
可选的,如图4所示,所述管理单元33,包括:
第二对比模块334,可以用于获取当前用户业务量并与预设用户业务量范围对比,所述当前用户业务量是根据***任务队列中存在的待处理任务数量确定的,所述预设用户业务量范围中包含有预设的最大任务数量及最小任务数量;
第二新建模块335,可以用于若第二对比模块334对比后确定当前业务量超过预设用户业务量范围中的最大任务数量,则新建协程;
第二关闭模块336,可以用于若第二对比模块334对比后确定当前业务量小于预设用户业务量范围中的最小任务数量,则关闭多余协程。
可选的,如图4所示,所述装置还包括:
第一设置单元34,可以用于在***内设置监测哨兵,所述监测哨兵用于监测***内的***参数数据及协程参数数据;
第二设置单元35,可以用于设置所述第一设置单元34设置的监测哨兵的数据获取周期;
所述获取单元31,可以具体用于通过所述第一设置单元34的监测哨兵按照所述数据获取周期获取***中关联参数数据。
借由上述实施例所述的方案,本发明实施例提供了一种协程池的管理方法及装置,对于目前以固定值的协程池来启动固定数量的协程的协程池的管理方式相比,本发明能够通过获取关联参数数据,再根据所述关联参数数据确定协程池安全域,最后根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池,从而实现对协程池的管理,其中,所述安全域用于限定协程池的协程数量范围,这样可以实现一种基于安全域的协程池中协程数量的管理,从而确保后续能够基于安全域灵活调整协程的数量,同时所述关联参数数据包括***参数数据及协程参数数据,该关联参数数据能够表征***的负载情况和协程运行情况,使得安全域能够基于***情况实时调整,可以确保后续管理协程池的过程中能够根据***运行情况而变化,更具灵活性。
进一步的,依据上述方法实施例,本发明的另一个实施例还提供了一种存储介质,所述存储介质存储有多条指令,所述指令适用于由处理器加载并执行如上所述的协程池的管理方法。
本发明实施例提供的协程池的管理存储介质中的指令,该指令能够通过获取关联参数数据,再根据所述关联参数数据确定协程池安全域,最后根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池,从而实现对协程池的管理,其中,所述安全域用于限定协程池的协程数量范围,这样可以实现一种基于安全域的协程池中协程数量的管理,从而确保后续能够基于安全域灵活调整协程的数量,同时所述关联参数数据包括***参数数据及协程参数数据,该关联参数数据能够表征***的负载情况和协程运行情况,使得安全域能够基于***情况实时调整,可以确保后续管理协程池的过程中能够根据***运行情况而变化,更具灵活性。
进一步的,依据上述方法实施例,本发明的另一个实施例还提供了一种电子设备,所述电子设备包括存储介质和处理器;
所述存储介质,被配置为存储至少一条指令;
所述至少一条指令适于由所述处理器加载并执行如上述所述的任一项所述的协程池的管理方法。
本发明实施例提供的协程池的管理电子设备,能够通过获取关联参数数据,再根据所述关联参数数据确定协程池安全域,最后根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池,从而实现对协程池的管理,其中,所述安全域用于限定协程池的协程数量范围,这样可以实现一种基于安全域的协程池中协程数量的管理,从而确保后续能够基于安全域灵活调整协程的数量,同时所述关联参数数据包括***参数数据及协程参数数据,该关联参数数据能够表征***的负载情况和协程运行情况,使得安全域能够基于***情况实时调整,可以确保后续管理协程池的过程中能够根据***运行情况而变化,更具灵活性。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的协程池的管理方法及装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。词汇第一、第二、以及第三等的使用不表示任何顺序。可将这些词汇解释为名称。
Claims (12)
1.一种协程池的管理方法,应用于服务器的协程池的管理,其特征在于,包括:
获取关联参数数据,所述关联参数数据包括***参数数据及协程参数数据;
根据所述关联参数数据确定协程池安全域,所述安全域用于限定协程池的协程数量范围;
根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池。
2.根据权利要求1所述的方法,其特征在于,在所述获取关联参数数据之前,所述方法还包括:
在***内设置监测哨兵,所述监测哨兵用于监测***内的***参数数据及协程参数数据;
设置所述监测哨兵的数据获取周期;
所述获取关联参数数据,包括:
通过所述监测哨兵按照所述数据获取周期获取所属监测***中关联参数数据。
3.根据权利要求1或2所述的方法,其特征在于,所述根据所述关联参数数据确定协程池安全域包括:
根据所述***参数数据确定***资源使用率的有效范围,并根据所述***资源使用率的有效范围确定所述协程池中的协程数范围,其中,所述***资源使用率的有效范围包括CPU使用率有效范围以及内存使用率有效范围;
和/或,
根据所述协程参数数据确定***协程数的有效值范围,并根据所述***协程数的有效值范围确定所述协程池的协程数量范围;
将所述协程池的协程数量范围确定为所述协程池的安全域,其中当存在多个所述协程池的协程数量范围时,则将最小的协程数量范围确定为所述协程池的安全域。
4.根据权利要求3所述的方法,其特征在于,所述根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池,包括:
将当前协程池中的协程数量与所述协程池安全域进行对比;
若当前协程池中的协程数量小于所述协程池安全域的协程数最小值时,则新建协程以满足任务处理需求;
若当前协程池中的协程数量大于所述协程池安全域的协程数最大值时,则关闭多余协程直至所述协程池的协程数量与所述协程池安全域的协程数最大值相同。
5.根据权利要求3所述的方法,其特征在于,所述根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池,包括:
获取当前用户业务量并与预设用户业务量范围对比,所述当前用户业务量是根据***任务队列中存在的待处理任务数量确定的,所述预设用户业务量范围中包含有预设的最大任务数量及最小任务数量;
若确定当前业务量超过预设用户业务量范围中的最大任务数量,则新建协程;
若确定当前业务量小于预设用户业务量范围中的最小任务数量,则关闭多余协程。
6.一种协程池的管理装置,应用于服务器的协程池的管理,其特征在于,所述装置包括:
获取单元,用于获取关联参数数据,所述关联参数数据包括***参数数据及协程参数数据;
确定单元,用于根据所述关联参数数据确定协程池安全域,所述安全域用于限定协程池的协程数量范围;
管理单元,用于根据所述协程池安全域以及当前协程池中的协程数量,管理所述协程池。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
第一设置单元,用于在***内设置监测哨兵,所述监测哨兵用于监测***内的***参数数据及协程参数数据;
第二设置单元,用于设置所述监测哨兵的数据获取周期;
所述获取单元,具体用于通过所述监测哨兵按照所述数据获取周期获取***中关联参数数据。
8.根据权利要求6或7所述的装置,其特征在于,所述确定单元包括:
第一确定模块,用于根据所述***参数数据确定***资源使用率的有效范围,并根据所述***资源使用率的有效范围确定所述协程池中的协程数范围,所述***资源使用率的有效范围包括CPU使用率有效范围以及内存使用率有效范围;
第二确定模块,用于根据所述协程参数数据确定***协程数的有效值范围,并根据所述***协程数的有效值范围确定所述协程池的协程数量范围;
第三确定模块,用于将所述协程池的协程数量范围确定为所述协程池的安全域,其中当存在多个所述协程池的协程数量范围时,则将最小的协程数量范围确定为所述协程池的安全域。
9.根据权利要求8所述的装置,其特征在于,所述管理单元,包括:
第一对比模块,用于将当前协程池中的协程数量与所述协程池安全域进行对比;
第一新建模块,用于若当前协程池中的协程数量小于所述协程池安全域的协程数最小值时,则新建协程以满足任务处理需求;
第一关闭模块,用于若当前协程池中的协程数量大于所述协程池安全域的协程数最大值时,则关闭多余协程直至所述协程池的协程数量与所述协程池安全域的协程数最大值相同。
10.根据权利要求8所述的装置,其特征在于,所述管理单元,包括:
第二对比模块,用于获取当前用户业务量并与预设用户业务量范围对比,所述当前用户业务量是根据***任务队列中存在的待处理任务数量确定的,所述预设用户业务量范围中包含有预设的最大任务数量及最小任务数量;
第二新建模块,用于若确定当前业务量超过预设用户业务量范围中的最大任务数量,则新建协程;
第二关闭模块,用于若确定当前业务量小于预设用户业务量范围中的最小任务数量,则关闭多余协程。
11.一种非瞬态计算机可读存储介质,其特征在于,所述存储介质存储有至少一条指令,所述至少一条指令被配置为由处理器加载并执行如权利要求1-5中任一项所述的协程池的管理方法。
12.一种电子设备,其特征在于,所述电子设备包括存储介质和处理器;
所述处理器,被配置为执行指令;
所述存储介质,被配置为存储至少一条指令;
所述至少一条指令适于由所述处理器加载并执行如权利要求1-5中任一项所述的协程池的管理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010873814.1A CN112015551B (zh) | 2020-08-26 | 2020-08-26 | 协程池的管理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010873814.1A CN112015551B (zh) | 2020-08-26 | 2020-08-26 | 协程池的管理方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112015551A CN112015551A (zh) | 2020-12-01 |
CN112015551B true CN112015551B (zh) | 2024-06-04 |
Family
ID=73503680
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010873814.1A Active CN112015551B (zh) | 2020-08-26 | 2020-08-26 | 协程池的管理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112015551B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113419921B (zh) * | 2021-06-30 | 2023-09-29 | 北京百度网讯科技有限公司 | 一种任务监控方法、装置、设备以及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015131679A1 (zh) * | 2014-08-28 | 2015-09-11 | 中兴通讯股份有限公司 | 任务进程的处理方法及装置 |
WO2017063521A1 (zh) * | 2015-10-15 | 2017-04-20 | 中兴通讯股份有限公司 | 协程监控方法及装置 |
CN109213591A (zh) * | 2017-06-30 | 2019-01-15 | 合网络技术(北京)有限公司 | 协程运行栈的分配方法和装置 |
CN110888947A (zh) * | 2018-09-10 | 2020-03-17 | 北京嘀嘀无限科技发展有限公司 | 服务请求处理方法和*** |
CN111209094A (zh) * | 2018-11-21 | 2020-05-29 | 北京小桔科技有限公司 | 请求处理方法、装置、电子设备及计算机可读存储介质 |
-
2020
- 2020-08-26 CN CN202010873814.1A patent/CN112015551B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015131679A1 (zh) * | 2014-08-28 | 2015-09-11 | 中兴通讯股份有限公司 | 任务进程的处理方法及装置 |
WO2017063521A1 (zh) * | 2015-10-15 | 2017-04-20 | 中兴通讯股份有限公司 | 协程监控方法及装置 |
CN109213591A (zh) * | 2017-06-30 | 2019-01-15 | 合网络技术(北京)有限公司 | 协程运行栈的分配方法和装置 |
CN110888947A (zh) * | 2018-09-10 | 2020-03-17 | 北京嘀嘀无限科技发展有限公司 | 服务请求处理方法和*** |
CN111209094A (zh) * | 2018-11-21 | 2020-05-29 | 北京小桔科技有限公司 | 请求处理方法、装置、电子设备及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112015551A (zh) | 2020-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106959894B (zh) | 资源分配方法和装置 | |
CN110471749B (zh) | 任务处理方法、装置、计算机可读存储介质和计算机设备 | |
CN112346829A (zh) | 一种用于任务调度的方法及设备 | |
CN105656810B (zh) | 一种更新应用程序的方法及装置 | |
CN102831045A (zh) | 一种终端设备中启动项检测的方法和装置 | |
CN105187514B (zh) | 云端应用程序的管理方法及其*** | |
CN112015551B (zh) | 协程池的管理方法及装置 | |
CN114490078A (zh) | 一种微服务的动态缩扩容方法、装置及设备 | |
CN111796933A (zh) | 资源调度方法、装置、存储介质和电子设备 | |
CN111177032A (zh) | 缓存空间申请方法、***、装置及计算机可读存储介质 | |
CN110209548B (zh) | 服务控制方法、***、电子设备及计算机可读存储介质 | |
CN115934263A (zh) | 一种数据处理方法、装置、计算机设备以及存储介质 | |
CN109347982A (zh) | 一种数据中心的调度方法及装置 | |
CN117319400A (zh) | 一种服务处理节点调整方法、装置、设备及其存储介质 | |
CN111031350B (zh) | 转码资源调度方法、电子设备及计算机可读存储介质 | |
CN112182606A (zh) | 访问请求的处理方法、装置、电子设备及可读存储介质 | |
CN106961490A (zh) | 一种资源监控方法及***、一种本地服务器 | |
CN115469980A (zh) | 一种产品介质下载任务调度方法、装置及电子设备 | |
CN111376255A (zh) | 机器人数据采集方法、装置及终端设备 | |
CN110928860B (zh) | 数据迁移方法和装置 | |
CN110597682B (zh) | 一种应用部署方法、装置、计算机设备及存储介质 | |
CN114221964A (zh) | 一种访问请求处理方法、装置、计算机设备及存储介质 | |
CN110069493B (zh) | 数据处理方法、装置、计算机设备及存储介质 | |
CN111736992B (zh) | 机器学习平台的gpu资源的管理方法及装置 | |
US11989181B2 (en) | Optimal query scheduling for resource utilization optimization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |