CN103365718A

CN103365718A - 一种线程调度方法、线程调度装置及多核处理器***

Info

Publication number: CN103365718A
Application number: CN2013102654316A
Authority: CN
Inventors: 李晓鹏; 周平
Original assignee: Guiyang Longmaster Information and Technology Co ltd
Current assignee: Guiyang Longmaster Information and Technology Co ltd
Priority date: 2013-06-28
Filing date: 2013-06-28
Publication date: 2013-10-23

Abstract

本发明实施例中提供了一种线程调度方法、线程调度装置及多核处理器***，通过接收线程请求，根据预设的分配策略，将线程分配至指定的处理核心执行，设置线程亲和性函数的参数值，将线程与指定的处理核心进行绑定，以限定所述线程只能在分配的处理核心上执行。避免了多线程的核间切换，降低了线程切换开销，缩短了线程切换时间，提升了多线程的执行效率。

Description

一种线程调度方法、线程调度装置及多核处理器***

技术领域

本发明涉及计算机领域，尤其涉及一种线程调度方法、线程调度装置及多核处理器***。

背景技术

目前，多核多线程技术广泛应用于网络服务器中，例如应用于大型聊天室、搜索引擎等需要强大的并行处理能力的软件服务平台中。

多核多线程技术是指在多核处理器***中，单个执行的程序中同时执行多个线程完成不同的工作。在多核处理器***中，同一个运算核心或不同运算核心上的线程可以相互切换，由于线程有自己的堆栈，线程间切换时，需要保存程序计数器、上下文指针、执行状态、寄存器组等信息，使得线程间切换的时间开销较大。对比一个运算核心上的线程切换时间和不同运算核心间的线程切换时间，可知，在不同运算核心间线程切换的开销远大于同一个运算核心上线程切换的开销。

现有的多媒体会议、大型聊天室等社交平台广泛应用了多核多线程技术，但是，由于不同运算核心之间的线程切换，或不同运算核心上执行线程数目的不均衡，使得一些线程长时间处于阻塞状态，不能及时提供语音服务，降低用户体验。例如：当负责聊天室进入和退出操作的业务线程长时间处于阻塞状态时，新申请加入聊天室的请求不能及时得到执行，导致用户加入失败。

发明内容

本发明实施例提供一种线程调度方法、线程调度装置及多核处理器***，解决由于不同运算核心间的线程切换耗时过长，或不同运算核心上执行线程数的不均衡，导致业务线程和语音线程无法及时得到执行的问题。

本发明实施例的目的是通过以下技术方案实现的：

一种线程调度方法，适用于多核处理***，所述方法包括：

接收线程请求；

根据预设的分配策略，将线程分配至指定的处理核心执行；

将所述线程与所述指定的处理核心进行绑定，以限定所述线程只能在所述指定的处理核心上执行。

一种线程调度装置，所述线程调度装置包括：

接收模块，用于接收线程请求；

线程分配模块，用于根据预设的分配策略，将线程分配至指定的处理核心执行；

线程绑定模块，用于将所述线程与所述线程分配模块指定的处理核心进行绑定，以限定所述线程只能在所述指定的处理核心上执行。

一种多核处理***，所述***包括：至少两个处理核心和线程调度装置，其中，

所述处理核心用于多线程执行；

所述线程调度装置，用于接收线程请求；根据预设的分配策略，将线程分配至指定的处理核心执行；将所述线程与所述指定的处理核心进行绑定，以限定所述线程只能在所述指定的处理核心上执行。

通过本发明实施例中提供了一种线程调度方法、线程调度装置及多核处理器***，通过接收线程请求，根据预设的分配策略，将线程分配至指定的处理核心执行，设置线程亲和性函数的参数值，将所述线程与所述指定的处理核心进行绑定，以限定所述线程只能在所述指定的处理核心上执行。避免了多线程的核间切换，降低了线程切换开销，缩短了线程切换时间，提升了多线程的执行效率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例中提供的一种线程调度方法的处理***结构图；

图2是本发明实施例中提供的一种线程调度方法的流程图；

图3是本发明实施例中提供的另一种线程调度方法的流程图；

图4是本发明实施例中提供的线程调度装置的示意图;

图5是本发明实施例中提供的多核处理器***的示意图。

具体实施方式

为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。

本发明实施例中多核处理***，以四核处理器120为例进行说明，如图1所示，四颗CPU核分别为CPU1、CPU2、CPU3和CPU4，四颗CPU核支持多线程（Simultaneousmultithreading）技术，线程调度器110负责接收线程请求，并将线程分配到物理核上执行。

实施例一

本发明实施例一提供了一种线程调度方法，以线程调度器110为例，如图2所示，该方法包括如下步骤：

步骤201、接收线程请求；

步骤202、根据预设的分配策略，将线程分配至指定的处理核心执行；

其中，将线程分配至指定处理核心执行有多种实现方式，例如：在指定的处理核心上创建线程，或者，在指定的处理核心上的线程池中分配一个线程。

步骤203、将所述线程与所述指定的处理核心进行绑定。

其中，将线程绑定到指定的处理核心运行，可以避免线程在多个处理核心间的频繁切换，可通过设置CPU亲和性（affinity）实现。

Linux内核中，所有的线程都有一个相关的数据结构，称为task_struct，其中与亲和性（affinity）相关度最高的是cpus_allowed位掩码。这个位掩码由N位组成（N为整数），与***中的N个逻辑处理器一一对应。例如：具有4个物理CPU的***可以有4位。如果为给定的线程设置了给定的位，那么这个线程就可以在相关的CPU上运行。

Linux内核API提供了一些方法，让用户可以修改位掩码或查看当前的位掩码：

sched_set_affinity()（用来修改位掩码），用于实现线程与特定CPU的绑定；

sched_get_affinity()（用来查看当前的位掩码），用于查看与线绑定的CPU；

本实施例中，可以通过设置sched_set_affinity函数的参数值实现与CPU的绑定，例如：当掩码参数为0010时，表示绑定的处理核心为CPU3，该掩码参数可以通过人工设定或者程序自动设定的方式完成。

通过本发明实施例一中提供的一种线程调度方法，通过接收线程请求，根据预设的分配策略，将线程分配至指定的处理核心执行，设置线程亲和性函数的参数值，将所述线程与所述指定的处理核心进行绑定，以限定所述线程只能在所述指定的处理核心上执行。避免了多线程的核间切换，降低了线程切换开销，缩短了线程切换时间，提升了多线程的执行效率。

实施例二

本实施例二中提供了一种线程调度方法，以线程调度器110为例，如图3所示，该方法包括如下步骤：

步骤301、为每个处理核心创建一个线程池；

其中，为了减少线程创建和销毁的带来的开销，预先每个处理核心创建了一个线程池。由于本实施例中多核处理***需要处理大量的、频繁的聊天室进入、聊天室退出、语音会话的操作，线程池预先建立有限几个固定线程为大量的业务操作服务，减少了创建和销毁线程所需的时间，从而提高了线程执行效率。线程池创建属于现有技术，例如：Linux***下用C语言创建的一个线程池，线程池维护一个任务链表，每个CThread_worker结构就是一个任务线程。后续具体的操作可参考现有技术，在此不再赘述。

步骤302、接收线程请求；

步骤303、根据预设的分配策略，将线程分配至指定的处理核心执行；

其中，步骤303，具体包括以下三种可选方式：

步骤303-A、判断所述线程请求的类型；根据线程请求的类型，将线程分配至对应类型的任一处理核心执行；

或者，

步骤303-B、统计处理核心的负载情况；根据所述负载情况，将所述线程分配到负载最轻的处理核心执行；

或者，

步骤303-C、判断所述线程请求的类型，并统计处理核心的负载情况；根据所述线程请求的类型及所述负载情况，将线程分配至对应类型且负载最轻的处理核心执行。

步骤304、将所述线程与所述指定的处理核心进行绑定，以限定所述线程只能在所述指定的处理核心上执行。

其中，步骤303-A中的线程请求的类型包括业务线程请求和语音线程请求，业务线程请求与业务处理核心对应，语音线程请求与语音处理核心对应，例如：在图1所示的多核处理***中，可以指定CPU1为业务处理核心，用于执行聊天室的进入、退出、检测客户端在线状态的心跳检测等线程，由于这部分线程的优先级较高，对聊天服务的质量影响较大，需要单独的处理核心来处理。指定CPU2、CPU3和CPU4为语音处理核心，用于聊天用户的语音会话处理。步骤303-A中，通过将不同类型的业务线程分配到对应类型的处理核心执行，可以有效提升聊天室的接通率，提升用户体验。

步骤303-B中，负载情况可以包括处理核心的资源利用率和/或执行队列长度，其中，资源利用率为处理核心运算时间除以处理核心运算时间与处理核心空闲时间之和。

步骤303-C则是综合了步骤303-A和步骤303-B的最优方式，既可有效提升聊天室的接通率，提升用户体验，又能实现处理核心之间的负载均衡。

通过本发明实施例二中提供了另一种线程调度方法，通过为每个处理核心创建一个线程池，接收线程请求，根据预设的分配策略，将线程分配至指定的处理核心执行，设置线程亲和性函数的参数值，将所述线程与所述指定的处理核心进行绑定，以限定所述线程只能在所述指定的处理核心上执行。减少线程创建和销毁的带来的开销，避免了多线程的核间切换，降低了线程切换开销，缩短了线程切换时间，提升了多线程的执行效率。

实施例三

本发明实施例三中提供了线程调度装置，如图4所示，该装置包括：

接收模块410，用于接收线程请求；

线程分配模块420，用于根据预设的分配策略，将线程分配至指定的处理核心执行；

线程绑定模块430，用于将线程与线程分配模块420指定的处理核心进行绑定，以限定所述线程只能在所述指定的处理核心上执行。

其中，线程分配模块420，包括：

判断单元421，用于判断线程请求的类型；

统计单元422，用于统计处理核心的负载情况；

分配单元423，用于根据判断单元421判断出的所述线程请求的类型及所述统计单元422统计的所述负载情况，将线程分配至对应类型且负载最轻的处理核心执行。

线程调度装置，还可以包括：线程池创建模块440，用于为每个处理核心创建线程池。

实施例四

本发明实施例四中提供了一中多核处理器***，如图5所示，该多核处理器***包括：

多核处理核心510和线程调度装置520，其中，

多核处理核心510包括至少两个处理核心，处理核心用于多线程执行；

线程调度装置520，用于接收线程请求；根据预设的分配策略，将线程分配至指定的处理核心执行；设置线程亲和性函数的参数值，将线程与指定的处理核心进行绑定，以限定线程只能在分配的处理核心上执行。

其中，线程调度装置520，具体可以用于接收线程请求；判断所述线程请求的类型；根据线程请求的类型，将线程分配至对应类型的任一处理核心执行；将线程与指定的处理核心进行绑定，以限定线程只能在分配的处理核心上执行。

还可以用于接收线程请求；统计处理核心的负载情况；根据所述负载情况，将所述线程分配到负载最轻的处理核心执行；将线程与指定的处理核心进行绑定，以限定线程只能在分配的处理核心上执行。

还可以用于接收线程请求；判断所述线程请求的类型，并统计处理核心的负载情况；根据所述线程请求的类型及所述负载情况，将线程分配至对应类型且负载最轻的处理核心执行；将线程与指定的处理核心进行绑定，以限定线程只能在分配的处理核心上执行。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到本发明可借助软件加必需的硬件平台的方式来实现，当然也可以全部通过硬件来实施，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案对背景技术做出贡献的全部或者部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本发明各个实施例或者实施例的某些部分所述的方法。

以上对本发明进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims

1.一种线程调度方法，其特征在于，适用于多核处理***，所述方法包括：

接收线程请求；

根据预设的分配策略，将线程分配至指定的处理核心执行；

2.根据权利要求1所述的方法，其特征在于，所述根据预设的分配策略，将线程分配至指定的处理核心执行，包括：

判断所述线程请求的类型；根据线程请求的类型，将线程分配至对应类型的任一处理核心执行；

或者，

统计处理核心的负载情况；根据所述负载情况，将所述线程分配到负载最轻的处理核心执行；

或者，

判断所述线程请求的类型，并统计处理核心的负载情况；根据所述线程请求的类型及所述负载情况，将线程分配至对应类型且负载最轻的处理核心执行。

3.根据权利要求2所述的方法，其特征在于，所述线程请求的类型包括业务线程请求和语音线程请求，所述业务线程请求与业务处理核心对应，所述语音线程请求与语音处理核心对应。

4.根据权利要求1所述的方法，其特征在于，所述方法之前，还包括：为每个处理核心创建一个线程池。

5.一种线程调度装置，其特征在于，所述线程调度装置包括：

接收模块，用于接收线程请求；

6.根据权利要求5所述的线程调度装置，其特征在于，所述线程分配模块，包括：

判断单元，用于判断所述线程请求的类型；

统计单元，用于统计处理核心的负载情况；

分配单元，用于根据所述判断单元判断出的所述线程请求的类型及所述统计单元统计的所述负载情况，将线程分配至对应类型且负载最轻的处理核心执行。

7.根据权利要求5或6所述的线程调度装置，其特征在于，所述线程调度装置，还包括：线程池创建模块，用于为每个处理核心创建线程池。

8.一种多核处理***，其特征在于，所述***包括：多核处理核心线程调度装置，其中，

所述多核处理核心包括至少两个处理核心，该处理核心用于多线程执行；

9.根据权利要求8所述的多核处理***，其特征在于，所述线程调度装置根据预设的分配策略，将线程分配至指定的处理核心执行，包括：

或者，

10.根据权利要求9所述的多核处理***，其特征在于，所述多核处理核心包括业务处理核心和语音处理核心，所述业务处理核心用于执行业务线程，所述语音处理核心用于执行语音线程。