CN103197968A - 一种融合同步异步特点的线程池处理方法及*** - Google Patents

Abstract

本专利提出了一种融合同步异步特点的线程池处理方法及***，对互联网上大量的任务请求，通过线程池进行异步处理，使之互相不受影响且等待时间短，同时单用户操作实现同步处理，符合按业务顺序输出的要求，而且对重要性高的任务请求，具备优先处理的优选机制。

Description

一种融合同步异步特点的线程池处理方法及***

技术领域

本发明涉及互联网通讯处理领域，是一种融合同步异步特点的线程池处理方法及***。

技术背景

计算机技术经过几十年的发展历程之后已经进入互联网时代，各种分布式应用随处可见。这些应用对***的响应速度、稳健性和整体性能都提出了较高的要求。

现在分布式应用范围很广，而且与互联网的结合也越来越紧密，像网络游戏、即时通讯、微博、手机类应用等，均具有以下典型特征：接入端数量庞大，任务请求次数很多，每次请求数据量较小。

随着物联网的兴起，大量工业数据、环境监测数据、农业数据、交通数据等，都需要进行大量采集，并通过互联网传输给相应的服务器进行处理，这种情况完全具备上述典型特征，可以推测，随着大数据量的应用越来越普及，应对这种典型特征应用的需求也将越来越迫切。

对于此类特点的应用，用单个线程来处理所有请求，或者给每个请求都生成一个新的线程进行处理，这两种模式都不理想，会降低***的响应速度和性能。线程池技术是满足这些要求而采用的技术之一，它是组织服务器应用的有效工具，可以提高***的响应速度和整体性能，线程池技术为线程创建、销毁的开销问题和***资源不足问题提供了很好的解决方案。

在专利“一种基于浏览器的web即时通讯方法”（申请号：201110454201.5）中，其提出的方法是：用户登录浏览器客户端，向服务器发起http 请求，服务器从线程池获取线程处理浏览器客户端发起的http 连接，判断其缓冲区是否有新信息，如果有，则服务器将新信息发送给浏览器客户端；如果没有，则服务器挂起连接，并释放线程到线程池；服务器判断连接是否超时，如果超时，则从线程池获取一个线程发送一个心跳信号给浏览器客户端，重新建立连接；否则服务器判断是否有新信息，如果是，则服务器将新信息发送给浏览器客户端，否则继续监控。此专利发明通过线程池实现了浏览器客户端实时获取信息，且在连接空闲时挂起连接，减轻了服务器不必要的负担，提高服务器的性能。

此专利发明只解决了互联网通讯的比较单一的异步处理方式，随着互联网应用的日益发展，其发生的应用需求也越来越复杂。现有的通讯服务器技术为了提高并发量通常采用线程池技术，对收到的任务请求进行异步处理。在线程池处理过程中，对于不同的网络环境条件，任务请求的到达顺序往往和发送顺序是不一致的。目前随着通讯服务的发展，通讯应用不仅需要满足点对点的消息互通，而且还需要具备图片、文件、语音视频传输等功能；另外通过与各个网站平台对接，接入了各种各样的业务应用服务，这些业务应用服务都和用户信息进行绑定，这就要求在处理这些业务应用时，其相关的任务请求的处理必须遵循严格的顺序处理关系。

因此在处理具有严格顺序关系业务的时候，要求***能够在实现异步处理的基础上，同时要具备同步处理任务请求的能力，从而保证业务顺序的一致性，这在目前面临困难。

关于结合同步异步处理方式的研究，已经有了一些成果，在文献《计算机与现代化》的2010年第7期发表的《半同步半异步线程池的设计与实现》中，介绍用于复杂并行***设计的半同步半异步的设计模式，这种模式把***分解成异步层、排队层、同步层，异步层异步地处理如网络接口中断等底层的任务请求来提高服务质量，同步层在一个独立的线程中同步处理如数据库查询、文件传输等上层任务请求以简化并行编程，排队层则负责协调异步层和同步层之间的通讯。而且为了避免线程池的切换开销，线程池中的所有工作线程都竞争性地等待任务请求的到来，取到任务请求的工作线程执行结束后，继续去获取新的任务请求。

此文中提出的方法用一个独立线程来处理同步层的任务请求，并不能满足互联网数量众多、处理短小的任务请求的需要。另外，在互联网大量的任务请求中，其重要性是不同的，体现在执行顺序上，其优先级也是不一样的，所有工作线程竞争性地获取任务请求的方法也难以实现任务请求优先级的执行顺序。

因此，对于任务请求数量众多、每个请求数据量较小的情况，如何在异步处理的基础上，根据业务的顺序要求实现同步处理，并能根据任务请求的重要性进行优先级的设置，是亟待解决的重要问题。

发明内容

为了解决这个问题，本专利提出了一种融合同步异步特点的线程池处理方法及***，对互联网上大量的任务请求，通过线程池进行异步处理，使之互相不受影响且等待时间短，同时单用户操作实现同步处理，符合按业务顺序输出的要求，而且对重要性高的任务请求，具备优先处理的优选机制。

本发明公开了一种融合同步异步特点的线程池处理方法，技术方案如下，包括：

采用信息指令结构，把所有的任务请求转化成信息指令，信息指令以“键值”的方式构建，主要包括类型、名称、优先级、识别号、来源、目的地。

每个信息指令可以根据实际需要添加属性字段，保证能够实时真实的区分和识别用户的实际请求和场景。

把转化后的信息指令存放到全局缓冲队列中等候。

主线程调度器按照“先入先出”的原则，逐个从全局缓冲队列中逐个取出等候处理的信息指令，按照信息指令的业务顺序以及信息指令的优先级，分发给工作者线程进行处理。

每个工作者线程设置了独立的线程处理缓冲子队列。

当有新信息指令到达时，主线程调度器首先读取该信息指令中的识别号，然后查询线程池中处于工作状态的工作者线程，判断其正在处理的信息指令的识别号是否与刚读取的信息指令的识别号相同，如果相同，则将新的信息指令增加至对应的工作者线程的线程处理缓冲子队列中；如果没有相同识别号的信息指令正在处理，从空闲的工作者线程中随机选取一个，分配该信息指令至选中的空闲工作者线程的线程处理缓冲子队列中等候。

其次，对于优先级高的信息指令，主线程调度器首先把它分配给线程池中处于空闲状态的线程进行处理，如果线程池中不存在空闲的线程，那么主线程调度器将控制线程池创建一个新的线程来处理，如果线程池中的创建的线程数量已经达到了线程池容量的上限，则主线程调度器根据线程处理缓冲队列中待处理信息指令数量，把这个信息指令安排给在缓冲子队列中待处理信息指令数量最少的工作者线程来处理。

工作者线程从自己的线程处理缓冲子队列中，取出单个信息指令进行处理，单个信息指令被提交到通讯管理器，由通讯管理器调用信息指令解析引擎进行解析，根据不同的信息指令调用数据层或者进行其他逻辑处理。

在逻辑处理后，如果形成有结果信息的信息指令，将存放到全局缓冲队列中等候处理，被工作者线程处理后，把结果信息返回给任务请求的客户端。

为了解决上述问题，本发明还公开了一种融合同步异步特点的线程池处理***，本***包括全局缓冲队列管理器、主线程调度器、分配器、线程池模块、通讯管理器、信息指令解析引擎模块、逻辑处理器。其中，全局缓冲队列管理器、分配器、线程池模块、通讯管理器、逻辑处理器顺次连接，主线程调度器与全局缓冲队列管理器、分配器、线程池模块相连接，信息指令解析引擎模块与通讯处理器相连接。

全局缓冲队列管理器，用于保存接收到的信息指令，按照“先进先出”的原则，把信息指令依次传送给分配器。

主线程调度器，用于逐个对全局缓冲队列管理器中的信息指令分配工作者线程，通过读取信息指令的识别号和优先级以及线程池模块中工作者线程的工作状态，来判断所分配工作者线程的条件，从而控制分配器对该信息指令的分配去向。

分配器，用于接收主线程调度器的控制命令，把信息指令分配到主线程调度器指定的工作者线程对应的线程处理缓冲子队列单元中。

线程池模块，包括线程处理缓冲子队列单元、工作者线程单元。在线程池模块中包含有多个线程处理缓冲子队列单元、工作者线程单元，其中一个工作者线程单元对应一个线程处理缓冲子队列单元，两者是一一对应关系。

线程处理缓冲子队列单元，用于保存分配器分配来的信息指令，按照“先进先出”的原则，把信息指令依次传送给对应的工作者线程单元处理。

工作者线程单元，用于逐个处理相应的线程处理缓冲子队列中的信息指令。

通讯管理器，作为信息指令处理的枢纽环节，先把信息指令传送给信息指令解析引擎模块进行解析，然后接受解析结果，并把解析结果传送给逻辑处理器处理。

信息指令解析引擎模块，对接收到的信息指令进行解析，解析后把解析结果传送给通讯管理器。

逻辑处理器，用于接收通讯管理器发来的解析结果，然后进行逻辑处理。

本发明还公开了一种融合同步异步特点的主线程调度器装置，包括状态查询单元、信息读取单元、同步处理判断单元、优先级判断单元、优先级设置单元、线程控制单元、信息指令控制单元，其中信息读取单元、同步处理判断单元、优先级判断单元、线程控制单元顺次连接，信息指令控制单元与同步处理判断单元、优先级判断单元、线程控制单元相连接，状态查询单元与同步处理单元连接，优先级设置单元与优先级判断单元连接。

信息读取单元，用于读取传送到分配器的信息指令中的识别号和优先级。

状态查询单元，用于查询线程池正在处理的信息指令的识别号，空闲工作者线程的数量，各个线程处理缓冲子队列中等候的信息指令的数量，以及是否达到线程池上限的标志。

同步处理判断单元，从信息读取单元获取信息指令中的识别号，从状态查询单元中获取线程池正在处理的信息指令的识别号，比较2个识别号是否相同，如果有相同的识别号，则触发信息指令控制单元动作。

优先级设置单元，用于进行设置优先级及对应的执行规则。

优先级判断单元，用于获取信息指令中的优先级，与优先级设置单元中的优先级信息比较，从而根据其中对应的规则，进行动作，如果级别是高，触发线程控制单元。如果优先级别是低，则触发信息指令控制单元动作。

线程控制单元，根据状态查询单元的空闲工作者线程的数量，以及是否达到线程池上限的标志来决定执行动作，当线程池中有空闲工作者线程时，则触发信息指令控制单元动作；当线程池中无空闲工作者线程并且处于工作状态的工作者线程数量没有达到线程池上限，则先控制线程池模块启动新的工作者线程单元，然后再触发信息指令控制单元；当线程池中无空闲工作者线程并且处于工作状态的工作者线程数量已经达到线程池上限，触发信息指令控制单元，安排线程处理缓冲子队列短的工作者线程来处理。

信息指令控制单元，用于接收各方的判断结果，控制分配器，对处于待处理状态的信息指令指定符合条件的工作者线程。

本发明与现有技术相比，其显著优点：

1、线程池融合异步同步两者特点，对互联网上大量用户的任务请求，通过线程池进行异步处理，使之互不干扰且等待时间短，同时对单用户的任务请求实现同步处理，保证其按业务顺序的要求进行处理。

2、主线程调度器能根据信息指令的优先级别，分别进行处理，对优先级别高的信息指令通过安排空闲工作者线程、启动新的工作者线程、以及安排线程处理缓冲子队列短的工作者线程来处理，使优先级别高的信息指令得到更多的优先处理的机会。

3、任务请求采用信息指令结构，针对不同的用户场景，每个信息指令可以根据实际需要添加属性字段，不仅能快捷地响应实际请求和场景的变化，且代码维护简单方便。

4、在***中，采用了全局缓冲队列和线程处理缓冲子队列二级队列，能够缓存更多的任务请求，对于充分利用线程池资源，提高***响应速度，提升效果明显。

附图说明

图1 为本发明实施例处理流程。

图2 为本发明实施例主线程调度器对信息指令的分配流程。

图3 为本发明实施例***结构图。

图4 为本发明实施例主线程调度器结构图。

图5 为本发明实施例信息指令组成结构。

具体实施方式

为使本发明的实施例的目的、技术方案和优点更加清楚，下面对本发明实施例中涉及的一些术语做简单解释。

线程，有时被称为轻量级进程(Lightweight Process，LWP)，是程序执行流的最小单元。一个标准的线程由线程ID，当前指令指针(PC)，寄存器集合和堆栈组成。

线程池：线程池是一种多线程处理形式，处理过程中将任务添加到队列，然后在启动线程后自动处理这些任务。

参阅图1所示，本发明实施例的处理流程，具体包括以下步骤：

步骤10：***接收各个客户端的信息指令，把信息指令按顺寻存放在全局缓冲队列中。

步骤11：主线程调度器依次读取存放在全局缓冲队列中的信息指令的识别号和优先级。

步骤12：主线程调度器读取线程池的状态信息，包括哪些工作者线程处于工作状态，正在处理的信息指令的识别号，每个工作者线程对应的线程处理缓冲子队列中等候的信息指令的数量，哪些工作者线程处于空闲状态，处于开启的工作者线程数量是否达到线程池上限。

步骤13：主线程调度器根据所获取的信息进行判断，得出信息指令分配给哪个工作者线程。通过比较识别号，相同的识别号放在同一个线程处理缓冲子队列中，由相同的工作者线程来处理。通过识别信息指令的优先级，给优先级高的信息指令给予优先处理的机会，例如分配空闲工作者线程，开启新的工作者线程，以及安排待处理信息指令数量少的缓冲子队列中等候。

步骤14：主线程调度器把分配结果交给分配器，由分配器来把信息指令分配到指定好的工作者线程处理。

步骤15：工作者线程从相应的缓冲子队列中取出信息指令进行解析。

步骤16：根据信息指令中的内容，进行相应的逻辑处理。

参阅图2所示，本发明实施例主线程调度器对信息指令的分配流程，具体包括以下步骤：

步骤201：信息读取单元读取信息指令中的识别号和优先级。

步骤202：状态查询单元读取线程池的状态信息，包括哪些工作者线程处于工作状态，正在处理的信息指令的识别号，哪些工作者线程处于空闲状态，处于工作状态的工作者线程数量是否达到上限，以及每个线程处理缓冲子队列中保存的等候信息指令的数量。

步骤203：信息读取单元所读取信息指令中的识别号，与状态查询单元所获取的工作者线程正在处理的信息指令的识别号相比较。如果两者的识别号相同，转到步骤204处理，如果两者的识别号不同，转到步骤205处理。

步骤204：得出分配结果，把这个信息指令分配到具有相同识别号的工作者线程处理，然后转到步骤212。

步骤205：判断信息指令中的优先级是高还是低，如果优先级高，转到步骤206，否则，转到步骤210。

步骤206：根据状态查询单元读取线程池的状态信息，判断是否在线程池中有没有处于空闲状态的工作者线程，如果有，转到步骤211，如果没有，转到步骤207处理。

步骤207：根据状态查询单元读取线程池的状态信息，判断线程池中的已启动的工作者线程数量是否已经达到了线程池的上限，如果是，转到步骤209处理，否则，转到步骤208处理。

步骤208：由主线程调度器通知线程池，启动新的工作者线程，新启动的工作者线程这时处于空闲状态。

步骤209：根据状态查询单元读取线程池的状态信息，获取线程池中每个线程处理缓冲子队列中保存的等候信息指令的数量，选择等候数量最少的工作者线程，作为信息指令的分配对象，然后转到步骤212。

步骤210：如果线程池中存在着处于空闲状态的工作者线程，随机选择其中1个的空闲工作者线程，作为信息指令的分配对象。如果线程池中不存在着处于空闲状态的工作者线程，随机选择其中1个的处于工作状态的工作者线程，作为信息指令的分配对象，然后转到步骤212。

步骤211：从线程池中随机选择处于空闲状态的工作者线程，作为信息指令的分配对象，然后转到步骤212。

步骤212：分配结束。

参阅图3所示，本发明实施例***结构图，包括：全局缓冲队列管理器31、分配器32、主线程调度器33、线程池模块34、通讯管理器35、信息指令解析引擎模块36、逻辑处理器37。其中，全局缓冲队列管理器31、分配器32、线程池模块34、通讯管理器35、逻辑处理器37顺次连接，主线程调度器33与全局缓冲队列管理器31、分配器32、线程池模块34相连接，信息指令解析引擎模块36与通讯处理器35相连接。

全局缓冲队列管理器31，用于保存接收到的信息指令，按照“先进先出”的原则，把信息指令依次传送给分配器32。

主线程调度器33，用于逐个对全局缓冲队列管理器31中的信息指令分配工作者线程，通过读取信息指令的识别号和优先级以及线程池模块34中工作者线程的工作状态，来判断所分配工作者线程的条件，从而控制分配器32对该信息指令的分配去向。

分配器32，用于接收主线程调度器33的控制命令，把信息指令分配到主线程调度器33指定的工作者线程的线程处理缓冲子队列单元中。

线程池模块34，包括多个线程处理缓冲子队列单元、工作者线程单元，如图3中，线程1处理缓冲子队列单元341，工作者线程1单元342，线程2处理缓冲子队列单元343，工作者线程2单元344，……，线程n处理缓冲子队列单元345，工作者线程n单元346，n为线程池工作者线程数量的上限。线程池中的工作者线程一般处于3个状态：工作状态、空闲状态、未开启状态，其中未开启状态指线程还不能被分配工作，并且这个状态下的线程也不占***资源，它启动后将进入空闲状态，将占用***资源。

在线程池模块34中包含有多个线程处理缓冲子队列单元、工作者线程单元，其中一个工作者线程单元对应一个线程处理缓冲子队列单元，两者是一一对应关系。

线程1处理缓冲子队列单元341，用于保存分配器32分配来的信息指令，按照“先进先出”的原则，把信息指令依次传送给对应的工作者线程1单元342处理。

工作者线程1单元342，用于逐个处理相应的线程1处理缓冲子队列单元341中的信息指令。

线程2处理缓冲子队列单元343，用于保存分配器32分配来的信息指令，按照“先进先出”的原则，把信息指令依次传送给对应的工作者线程2单元344处理。

工作者线程2单元344，用于逐个处理相应的线程2处理缓冲子队列单元343中的信息指令。

线程n处理缓冲子队列单元345，用于保存分配器32分配来的信息指令，按照“先进先出”的原则，把信息指令依次传送给对应的工作者线程n单元346处理。

工作者线程n单元346，用于逐个处理相应的线程n处理缓冲子队列单元345中的信息指令。

通讯管理器35，作为信息指令处理的枢纽环节，先把信息指令传送给信息指令解析引擎模块36进行解析，然后接受解析结果，并把解析结果传送给逻辑处理器37处理。

信息指令解析引擎模块36，对接收到的信息指令进行解析，把解析结果传送给通讯管理器35。

逻辑处理器37，用于接收通讯管理器35发来的解析结果，然后进行逻辑处理。

参阅图4所示，本发明实施例主线程调度器结构图，包括信息读取单元40、同步处理判断单元41、状态查询单元42、优先级判断单元43、优先级设置单元44、线程控制单元45、信息指令控制单元46，其中信息读取单元40、同步处理判断单元41、优先级判断单元43、线程控制单元45、信息指令控制单元46顺次连接，信息指令控制单元46与同步处理判断单元41、优先级判断单元43、线程控制单元45相连接，状态查询单元42与同步处理单元41连接，优先级设置单元44与优先级判断单元43连接。

信息读取单元40，用于读取传送到分配器32的信息指令中的识别号和优先级。

状态查询单元42，用于查询线程池模块34的工作状态，包括哪些工作者线程处于工作状态，正在处理的信息指令的识别号，哪些工作者线程处于空闲状态，处于工作状态的工作者线程数量是否达到上限，以及每个线程处理缓冲子队列中保存的等候信息指令的数量。

同步处理判断单元41，从信息读取单元40获取信息指令中的识别号，从状态查询单元42中获取线程池单元34正在处理的信息指令的识别号，比较2个识别号是否相同，如果有相同的识别号，则触发信息指令控制单元46动作。

优先级判断单元43，用于把获取到的信息指令中的优先级，与优先级设置单元44中保存的优先级信息比较，从而根据其中对应的规则，进行动作，如果级别是高，触发线程控制单元45。如果优先级别是低，则触发信息指令控制单元46动作。

优先级设置单元44，用于保存优先级及对应的执行规则。

线程控制单元45，根据状态查询单元42的空闲工作者线程的数量，以及是否达到线程池上限的标志来决定执行动作，当线程池模块34中有空闲工作者线程时，则触发信息指令控制单元动作46；当线程池模块34中无空闲工作者线程并且处于工作状态的工作者线程数量没有达到线程池上限，则先控制线程池模块34启动新的工作者线程单元，然后再触发信息指令控制单元46；当线程池中无空闲工作者线程并且处于工作状态的工作者线程数量已经达到线程池上限，触发信息指令控制单元46，安排线程处理缓冲子队列中等候数量少的工作者线程来处理。

信息指令控制单元46，用于接收各方的判断结果，给到达分配器32中信息指令指定符合条件的工作者线程。

参阅图5所示，本发明实施例信息指令组成结构，包括信息指令类型51、信息指令名称52、信息指令识别号53、信息指令优先级54、信息指令来源55、信息指令目的地56。

下面模拟信息指令被分配到工作者线程的过程实例。

假设线程池当前状态：线程池中工作者线程数量上限为100，当前处于开启状态的工作者线程数量为10，其中5个工作者线程（A、B、C、D、E）处于工作状态，另外5个工作者线程（F、G、H、I、J）处于空闲状态，对于其中5个处于工作状态的工作者线程。

工作者线程A：其正在处理的信息指令的识别号为001，其对应的线程A处理缓冲子队列中有5个信息指令在等候。

工作者线程B：其正在处理的信息指令的识别号为002，其对应的线程B处理缓冲子队列中有8个信息指令在等候。

工作者线程C：其正在处理的信息指令的识别号为003，其对应的线程C处理缓冲子队列中有4个信息指令在等候。

工作者线程D：其正在处理的信息指令的识别号为004，其对应的线程D处理缓冲子队列中有3个信息指令在等候。

工作者线程E：其正在处理的信息指令的识别号为005，其对应的线程E处理缓冲子队列中有1个信息指令在等候。

这时，主线程调度器从全局缓冲队列读取了一个信息指令，其识别号为003，优先级别为高。

主线程调度器读取线程池的工作状态，查询发现工作者线程C正在处理的信息指令的识别号也为003，那么就直接把该信息指令分配到线程C处理缓冲子队列，因为该子队列中已经有4个信息指令在等候，那么这个新分配来的信息指令就排在队列的第5位。这样具有同一识别号的信息指令由相同的工作者线程来处理，保证了同一用户数据处理按照顺序进行，在异步处理的基础上，实现了同步处理的要求。

这时，主线程调度器从全局缓冲队列读取了一个信息指令，其识别号为011，优先级别为高。

主线程调度器读取线程池的工作状态，查询发现无工作者线程处理识别号为011的信息指令，那么就直接把该信息指令随机分配到处于空闲状态的工作者线程处理，例如分配工作者线程I来处理。

如果线程池中的10个线程都处于工作状态，而该信息指令的优先级别又是高，那么线程池将启动1个处于未启动状态的工作者线程，例如工作者线程W来处理，这样保证了优先级别高的信息指令能够尽量避免等待过长时间，能够迅速处理，提高***的响应时间。

假如这个线程池的上限就是5，而且5个工作者线程（A、B、C、D、E）处于工作状态，那么***将查询每个线程处理缓冲子队列情况，找出在缓冲子队列中等候信息指令数量最少的工作者线程，在本例中，工作者线程E对应的线程E处理缓冲子队列中有1个信息指令在等候，数量最少，因此这个信息就被分配到线程E处理缓冲子队列中等候处理。

本领域的开发人员可以对本发明的实施例进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明实施例中的这些修改和变型属于本发明权利要求及其等同的范围之内，则本发明中的实施例也包含这些改动和变型在内。

Claims (9)

1.一种融合同步异步特点的线程池处理方法，其特征在于，包括：

采用信息指令结构，把所有的任务请求转化成信息指令；

把转化后的信息指令存放到全局缓冲队列中等候；

主线程调度器按照“先入先出”的原则，逐个从全局缓冲队列中逐个取出等候处理的信息指令，按照信息指令的业务顺序以及信息指令的优先级，分发给工作者线程进行处理；

当有新信息指令到达时，主线程调度器首先读取该信息指令中的识别号，然后查询线程池中处于工作状态的工作者线程，判断其正在处理的信息指令的识别号是否与刚读取的信息指令的识别号相同，如果相同，则将新的信息指令增加至对应的工作者线程的线程处理缓冲子队列中；如果没有相同识别号的信息指令正在处理，从空闲的工作者线程中随机选取一个，分配该信息指令至选中的空闲工作者线程的线程处理缓冲子队列中等候；

其次，对于优先级高的信息指令，主线程调度器首先把它分配给线程池中处于空闲状态的线程进行处理，如果线程池中不存在空闲的线程，那么主线程调度器将控制线程池创建一个新的线程来处理，如果线程池中的创建的线程数量已经达到了线程池容量的上限，则主线程调度器根据线程处理缓冲队列中待处理信息指令数量，把这个信息指令安排给在缓冲子队列中待处理信息指令数量最少的工作者线程来处理；

工作者线程从自己的线程处理缓冲子队列中，取出单个信息指令进行处理，单个信息指令被提交到通讯管理器，由通讯管理器调用信息指令解析引擎进行解析，根据不同的信息指令调用数据层或者进行其他逻辑处理；

在逻辑处理后，如果形成有结果信息的信息指令，将存放到全局缓冲队列中等候处理，被工作者线程处理后，把结果信息返回给任务请求的客户端。

2.根据权利要求1所述的线程池处理方法，其特征在于：

信息指令以“键值”的方式构建，包括类型、名称、优先级、识别号、来源、目的地；

每个信息指令根据实际需要添加属性字段，保证能够实时真实的区分和识别用户的实际请求和场景。

3.根据权利要求1所述的线程池处理方法，其特征在于：

每个工作者线程设置了独立的线程处理缓冲子队列。

4.根据权利要求1、2或3所述的线程池处理方法，其特征在于：所述主线程调度器包括状态查询单元、信息读取单元、同步处理判断单元、优先级判断单元、优先级设置单元、线程控制单元、信息指令控制单元；其中，所述信息读取单元、同步处理判断单元、优先级判断单元、线程控制单元顺次连接，所述信息指令控制单元与所述同步处理判断单元、优先级判断单元、线程控制单元相连接，所述状态查询单元与所述同步处理单元连接，所述优先级设置单元与所述优先级判断单元连接；

所述信息读取单元，用于读取传送到分配器的信息指令中的识别号和优先级；

所述状态查询单元，用于查询线程池正在处理的信息指令的识别号，空闲工作者线程的数量，各个线程处理缓冲子队列中等候的信息指令的数量，以及是否达到线程池上限的标志；

所述同步处理判断单元，从信息读取单元获取信息指令中的识别号，从状态查询单元中获取线程池正在处理的信息指令的识别号，比较2个识别号是否相同，如果有相同的识别号，则触发信息指令控制单元动作；

所述优先级设置单元，用于进行设置优先级及对应的执行规则；

所述优先级判断单元，用于获取信息指令中的优先级，与优先级设置单元中的优先级信息比较，从而根据其中对应的规则，进行动作，如果级别是高，触发线程控制单元；如果优先级别是低，则触发信息指令控制单元动作；

所述线程控制单元，根据状态查询单元的空闲工作者线程的数量，以及是否达到线程池上限的标志来决定执行动作，当线程池中有空闲工作者线程时，则触发信息指令控制单元动作；当线程池中无空闲工作者线程并且处于工作状态的工作者线程数量没有达到线程池上限，则先控制线程池模块启动新的工作者线程单元，然后再触发信息指令控制单元；当线程池中无空闲工作者线程并且处于工作状态的工作者线程数量已经达到线程池上限，触发信息指令控制单元，安排线程处理缓冲子队列短的工作者线程来处理；

所述信息指令控制单元，用于接收各方的判断结果，控制分配器，对处于待处理状态的信息指令指定符合条件的工作者线程。

5.一种融合同步异步特点的线程池处理***，其特征在于：它包括全局缓冲队列管理器、主线程调度器、分配器、线程池模块、通讯管理器、信息指令解析引擎模块、逻辑处理器；其中，所述全局缓冲队列管理器、分配器、线程池模块、通讯管理器、逻辑处理器顺次连接，所述主线程调度器与所述全局缓冲队列管理器、分配器、线程池模块相连接，所述信息指令解析引擎模块与所述通讯处理器相连接；

所述全局缓冲队列管理器，用于保存接收到的信息指令，按照“先进先出”的原则，把信息指令依次传送给分配器；

所述主线程调度器，用于逐个对全局缓冲队列管理器中的信息指令分配工作者线程，通过读取信息指令的识别号和优先级以及线程池模块中工作者线程的工作状态，来判断所分配工作者线程的条件，从而控制分配器对该信息指令的分配去向；

所述分配器，用于接收主线程调度器的控制命令，把信息指令分配到主线程调度器指定的工作者线程对应的线程处理缓冲子队列单元中；

所述线程池模块，包括线程处理缓冲子队列单元、工作者线程单元； 

所述通讯管理器，作为信息指令处理的枢纽环节，先把信息指令传送给信息指令解析引擎模块进行解析，然后接受解析结果，并把解析结果传送给逻辑处理器处理；

所述信息指令解析引擎模块，对接收到的信息指令进行解析，解析后把解析结果传送给通讯管理器；

所述逻辑处理器，用于接收通讯管理器发来的解析结果，然后进行逻辑处理。

6.根据权利要求5所述的线程池处理***，其特征在于：所述线程池模块包含有多个线程处理缓冲子队列单元、工作者线程单元，其中一个工作者线程单元对应一个线程处理缓冲子队列单元，两者是一一对应关系。

7.根据权利要求6所述的线程池处理***，其特征在于：所述线程处理缓冲子队列单元，用于保存分配器分配来的信息指令，按照“先进先出”的原则，把信息指令依次传送给对应的工作者线程单元处理；

所述工作者线程单元，用于逐个处理相应的线程处理缓冲子队列中的信息指令。

8.根据权利要求5、6或7所述的线程池处理方法，其特征在于：所述主线程调度器包括状态查询单元、信息读取单元、同步处理判断单元、优先级判断单元、优先级设置单元、线程控制单元、信息指令控制单元；其中，所述信息读取单元、同步处理判断单元、优先级判断单元、线程控制单元顺次连接，所述信息指令控制单元与所述同步处理判断单元、优先级判断单元、线程控制单元相连接，所述状态查询单元与所述同步处理单元连接，所述优先级设置单元与所述优先级判断单元连接；

所述信息读取单元，用于读取传送到分配器的信息指令中的识别号和优先级；

所述状态查询单元，用于查询线程池正在处理的信息指令的识别号，空闲工作者线程的数量，各个线程处理缓冲子队列中等候的信息指令的数量，以及是否达到线程池上限的标志；

所述同步处理判断单元，从信息读取单元获取信息指令中的识别号，从状态查询单元中获取线程池正在处理的信息指令的识别号，比较2个识别号是否相同，如果有相同的识别号，则触发信息指令控制单元动作；

所述优先级设置单元，用于进行设置优先级及对应的执行规则；

所述优先级判断单元，用于获取信息指令中的优先级，与优先级设置单元中的优先级信息比较，从而根据其中对应的规则，进行动作，如果级别是高，触发线程控制单元；如果优先级别是低，则触发信息指令控制单元动作；

所述线程控制单元，根据状态查询单元的空闲工作者线程的数量，以及是否达到线程池上限的标志来决定执行动作，当线程池中有空闲工作者线程时，则触发信息指令控制单元动作；当线程池中无空闲工作者线程并且处于工作状态的工作者线程数量没有达到线程池上限，则先控制线程池模块启动新的工作者线程单元，然后再触发信息指令控制单元；当线程池中无空闲工作者线程并且处于工作状态的工作者线程数量已经达到线程池上限，触发信息指令控制单元，安排线程处理缓冲子队列短的工作者线程来处理；

所述信息指令控制单元，用于接收各方的判断结果，控制分配器，对处于待处理状态的信息指令指定符合条件的工作者线程。

9.一种融合同步异步特点的主线程调度器装置，其特征在于：它包括状态查询单元、信息读取单元、同步处理判断单元、优先级判断单元、优先级设置单元、线程控制单元、信息指令控制单元；其中，所述信息读取单元、同步处理判断单元、优先级判断单元、线程控制单元顺次连接，所述信息指令控制单元与所述同步处理判断单元、优先级判断单元、线程控制单元相连接，所述状态查询单元与所述同步处理单元连接，所述优先级设置单元与所述优先级判断单元连接；

所述信息读取单元，用于读取传送到分配器的信息指令中的识别号和优先级；

所述状态查询单元，用于查询线程池正在处理的信息指令的识别号，空闲工作者线程的数量，各个线程处理缓冲子队列中等候的信息指令的数量，以及是否达到线程池上限的标志；

所述同步处理判断单元，从信息读取单元获取信息指令中的识别号，从状态查询单元中获取线程池正在处理的信息指令的识别号，比较2个识别号是否相同，如果有相同的识别号，则触发信息指令控制单元动作；

所述优先级设置单元，用于进行设置优先级及对应的执行规则；

所述优先级判断单元，用于获取信息指令中的优先级，与优先级设置单元中的优先级信息比较，从而根据其中对应的规则，进行动作，如果级别是高，触发线程控制单元；如果优先级别是低，则触发信息指令控制单元动作；

所述线程控制单元，根据状态查询单元的空闲工作者线程的数量，以及是否达到线程池上限的标志来决定执行动作，当线程池中有空闲工作者线程时，则触发信息指令控制单元动作；当线程池中无空闲工作者线程并且处于工作状态的工作者线程数量没有达到线程池上限，则先控制线程池模块启动新的工作者线程单元，然后再触发信息指令控制单元；当线程池中无空闲工作者线程并且处于工作状态的工作者线程数量已经达到线程池上限，触发信息指令控制单元，安排线程处理缓冲子队列短的工作者线程来处理；

所述信息指令控制单元，用于接收各方的判断结果，控制分配器，对处于待处理状态的信息指令指定符合条件的工作者线程。

Images