CN110011936B

CN110011936B - 基于多核处理器的线程调度方法及装置

Info

Publication number: CN110011936B
Application number: CN201910199086.8A
Authority: CN
Inventors: 秦海洋
Original assignee: Beijing Star Net Ruijie Networks Co Ltd
Current assignee: Beijing Star Net Ruijie Networks Co Ltd
Priority date: 2019-03-15
Filing date: 2019-03-15
Publication date: 2023-02-17
Anticipated expiration: 2039-03-15
Also published as: CN110011936A

Abstract

本发明公开了一种基于多核处理器的线程调度方法，所述方法应用于包括一个无锁调度器及多个线程处理器的多核环境中；无锁调度器配置一个调度队列，每个线程处理器配置一个***PUT队列和一个删除GET队列；所述方法，包括：无锁调度器按照预设周期对所有的PUT队列进行循环遍历，每次从一个PUT队列中读取一个线程，写入所述调度队列；以及无锁调度器按照所述预设周期读取所述调度队列，将读出的线程循环写入GET队列中。本发明实施例提供的基于多核处理器的线程调度方法能够解决现有技术中多核处理器在线程调度时由于锁冲突影响CPU性能的问题。

Description

基于多核处理器的线程调度方法及装置

技术领域

本发明涉及通信技术领域，尤指一种基于多核处理器的线程调度方法及装置。

背景技术

转发性能是衡量路由设备好坏的一个重要的功能指标。为了减少转发数据包的处理环节，路由器通常采用快转来提高转发性能，这里，快转数据包转发流程：物理层接收→链路层处理→物理层发送，处理快转报文将会占用部分处理器(CPU)资源。因此，多核CPU应运而生。

在多核CPU中的快转框架中，通常有多个要处理的线程，这些线程需要通过多核调度器公平地分发到多个核上执行，以提高整体的转发性能。目前在公平调度器中，有一个Ready队列，这个队列中存放的是需要调度的线程，多个核都要访问这个Ready队列，但Ready队列一次只能让一个核访问，所以需要多核锁，取得锁的核访问队列，访问结束后释放锁。没有取得锁的核空轮等待锁的释放。

在多核CPU中，为了实现线程的公平调度。多个核需要将处理完了的线程，入队到同一个Ready队列。线程出队按先进先出的方式，出队时多个核访问同一个Ready队列，从Ready队列中获取线程并执行。如此，则会存在多个核同时访问同一个Ready队列，需要使用多核锁，产生多核锁竞争的情况，尤其在48核的情况下，如果出现锁冲突则会严重影响CPU整体性能。

发明内容

本发明实施例提供一种基于多核处理器的线程调度方法及装置，用以解决现有技术中多核处理器在线程调度时由于锁冲突影响CPU性能的问题。

一种基于多核处理器的线程调度方法，所述方法应用于包括一个无锁调度器及多个线程处理器的多核环境中；无锁调度器配置有一个调度队列，每个线程处理器配置有一个***PUT队列和一个删除GET队列；所述方法，包括：

无锁调度器按照预设周期对所有的PUT队列进行循环遍历，每次从一个PUT队列中读取一个线程，写入所述调度队列；以及

无锁调度器按照所述预设周期读取所述调度队列，将读出的线程循环写入GET队列中供所述线程处理器读取。

进一步地，所述方法，还包括：

每个线程处理器，执行如下操作：

线程处理器依次读取对应的GET队列中的线程并执行；

线程处理器将已执行结束的线程依次写入对应的PUT队列；

其中，所述GET队列为双端口环形先入先出FIFO队列，用于缓存即将执行的线程；所述PUT队列为双端口环形FIFO队列，用于缓存已执行结束的线程。

其中，所述调度队列为双端口环形FIFO队列，所述双端口包括IN端口和OUT端口。

其中，所述无锁调度器从一个PUT队列中读取一个线程，写入所述调度队列，包括：

所述无锁调度器从一个PUT队列中读取一个线程，通过IN端口将所述线程写入所述调度队列。

其中，所述无锁调度器按照所述预设周期读取所述调度队列，包括：

所述无锁调度器按照所述预设周期，通过所述OUT端口读出即将执行的线程。

一种基于多核处理器的线程调度装置，所述装置包括无锁调度单元和多个线程处理单元；所述无锁调度单元配置有一个调度队列，每个线程处理单元配置有一个PUT队列和一个GET队列；其中，

所述无锁调度单元，用于按照预设周期对所有的PUT队列进行循环遍历，每次从一个PUT队列中读取一个线程，写入所述调度队列；并按照所述预设周期读取所述调度队列，将读出的线程循环写入GET队列中；

所述线程处理单元，用于读取所述GET队列中的线程。

其中，所述线程处理单元，用于依次读取对应的GET队列中的线程并执行；并将已执行结束的线程依次写入对应的PUT队列；

其中，所述无锁调度单元，具体用于：从一个PUT队列中读取一个线程，通过IN端口将所述线程写入所述调度队列，并按照所述预设周期读取所述调度队列，将读出的线程循环写入GET队列中。

其中，所述无锁调度单元，具体用于：按照所述预设周期，通过所述OUT端口读出即将执行的线程，并将读出的线程循环写入GET队列中。

本发明有益效果如下：

本发明实施例提供的基于多核处理器的线程调度方法及装置，通过为每个线程处理器配置两个队列，为无锁调度器配置一个调度队列，且配置的队列为可以同时支持两个处理器同时读写的双端口环形FIFO队列，实现多个线程处理器无锁获取和释放线程，并通过周期性的写入读取操作将PUT队列中的线程公平分发到GET队列，进而实现多核处理器的线程持续调度，整个调度过程不需要多核锁，避免了锁冲突的出现，并且处理器不需要空等锁，提高了CPU的利用率和性能。

附图说明

图1为本发明实施例中基于多核处理器的线程调度方法的流程图；

图2为本发明实施例中基于多核处理器的线程调度方法的另一流程图

图3为本发明实施例中基于多核处理器的线程调度装置的结构示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

针对现有技术中存在的多核处理器在线程调度时由于锁冲突影响CPU性能的问题，本发明实施例提供的基于多核处理器的线程调度方法，通过为每个线程处理器配置两个队列，为无锁调度器配置一个调度队列，且配置的队列为可以同时支持两个处理器同时读写的双端口环形先入先出(First Input FirstOutput，FIFO)队列，以实现无锁的线程调度；所述方法应用于包括一个无锁调度器及多个线程处理器的多核环境中；无锁调度器配置有一个调度队列，每个线程处理器配置有一个***(PUT)队列和一个删除(GET)队列。本发明方法的流程如图1所示，执行步骤如下：

步骤101，无锁调度器按照预设周期对所有的PUT队列进行循环遍历，每次从一个PUT队列中读取一个线程，写入所述调度队列；以及

步骤102，无锁调度器按照所述预设周期读取所述调度队列，将读出的线程循环写入GET队列中供所述线程处理器读取。

这里，所述预设周期按照实际需要进行设定，具体设定的原则是保证在PUT队列中不能有线程堆积，而GET队列中的线程不能为空。

进一步地，如图2所示，所述方法还包括：

每个线程处理器，执行如下操作：

步骤201，线程处理器依次读取对应的GET队列中的线程并执行；

步骤202，线程处理器将已执行结束的线程依次写入对应的PUT队列；

其中，所述GET队列为双端口环形FIFO队列，用于缓存即将执行的线程；所述PUT队列为双端口环形FIFO队列，用于缓存已执行结束的线程。双端口环形FIFO队列，包括一个写端口和一个读端口。写端口同时只支持一个线程处理器向FIFO中写入数据。读端口同时只支持一个线程处理器从FIFO中读取数据。双端口环形FIFO，支持在写FIFO的同时读FIFO，且不需要加互斥锁，如此可以实现两个线程处理器同时分别进行写和读FIFO，而不需要多核锁。

综上，上述步骤201和步骤202是两个独立的过程，并没有必然的先后顺序。

进一步地，所述调度队列为双端口环形FIFO队列，所述双端口包括IN端口和OUT端口。所述调度队列用于对线程进行排队，实现先进先出，保证公平性。

相应地，步骤101中，所述无锁调度器从一个PUT队列中读取一个线程，写入所述调度队列，包括：

相应地，步骤102中，所述无锁调度器按照所述预设周期读取所述调度队列，包括：

上述无锁调度器执行的写入(IN)操作和读出(OUT)操作需要以稳定的周期执行，以使PUT队列不满，Get队列不空，保证线程调度能够一直正常执行下去。

基于同一发明构思，本发明实施例提供一种基于多核处理器的线程调度装置，该装置的结构如图3所示，包括无锁调度单元31和多个线程处理单元32；所述无锁调度单元31配置有一个调度队列，每个线程处理单元32配置有一个PUT队列和一个GET队列；其中，

所述无锁调度单元31，用于按照预设周期对所有的PUT队列进行循环遍历，每次从一个PUT队列中读取一个线程，写入所述调度队列；并按照所述预设周期读取所述调度队列，将读出的线程循环写入GET队列中；

所述线程处理单元，用于读取所述GET队列中的线程。这里，所述预设周期按照实际需要进行设定，具体设定的原则是保证在PUT队列中不能有线程堆积，而GET队列中的线程不能为空。

进一步地，所述线程处理单元32，用于依次读取对应的GET队列中的线程并执行；并将已执行结束的线程依次写入对应的PUT队列；

其中，所述GET队列为双端口环形FIFO队列，用于缓存即将执行的线程；所述PUT队列为双端口环形FIFO队列，用于缓存已执行结束的线程。双端口环形FIFO队列，包括一个写端口和一个读端口。写端口同时只支持一个线程处理单元32向FIFO中写入数据。读端口同时只支持一个线程处理器从FIFO中读取数据。双端口环形FIFO，支持在写FIFO的同时读FIFO，且不需要加互斥锁，如此可以实现两个线程处理单元32同时分别进行写和读FIFO，而不需要多核锁。

其中，所述调度队列为双端口环形FIFO队列，所述双端口包括IN端口和OUT端口。所述调度队列用于对线程进行排队，实现先进先出，保证公平性。

其中，所述无锁调度单元31，具体用于：从一个PUT队列中读取一个线程，通过IN端口将所述线程写入所述调度队列，并按照所述预设周期读取所述调度队列，将读出的线程循环写入GET队列中。

其中，所述无锁调度单元31，具体用于：按照所述预设周期，通过所述OUT端口读出即将执行的线程，并将读出的线程循环写入GET队列中。

上述无锁调度单元31执行的写入(IN)操作和读出(OUT)操作需要以稳定的周期执行，以使PUT队列不满，Get队列不空，保证线程调度能够一直正常执行下去。

应当理解，本发明实施例提供的基于多核处理器的线程调度装置实现原理及过程与上述图1、2及所示的实施例类似，在此不再赘述。

本发明实施例提供的基于多核处理器的线程调度方法及装置，通过为每个线程处理器配置两个队列，为无锁调度器配置一个调度队列，且配置的队列为可以同时支持两个处理器同时读写的双端口环形FIFO队列，实现多个线程处理器无锁获取和释放线程，并通过周期性的写入读取操作将PUT队列中的线程公平分发到GET队列，进而实现多核处理器的线程持续调度，整个调度过程不需要多核锁，避免了锁冲突的出现，并且处理器不需要空等锁，提高了CPU的利用率和性能。使用本发明实施例提供的基于多核处理器的线程调度方案，能够完全实现无锁调度线程，有效减少多核因为锁冲突时的空转，提高了CPU的利用率，从而提高快转性能。尤其在48核的CPU中实际测试，快转性能提高了近1/3，大大加快了数据包转发速率。

本领域普通技术人员可以理解：附图只是一个实施例的示意图，附图中的模块或流程并不一定是实施本发明所必须的。

通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本发明可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置或***实施例而言，由于其基本相似于方法实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。以上所描述的装置及***实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

另外，在上述实施例及附图中的描述的一些流程中，包含了按照特定顺序出现的多个操作，但是应该清楚了解，这些操作可以不按照其在本文中出现的顺序来执行或并行执行，操作的序号如201、202、203等，仅仅是用于区分开各个不同的操作，序号本身不代表任何的执行顺序。另外，这些流程可以包括更多或更少的操作，并且这些操作可以按顺序执行或并行执行。需要说明的是，本文中的“第一”、“第二”等描述，是用于区分不同的消息、设备、模块等，不代表先后顺序，也不限定“第一”和“第二”是不同的类型。

以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。

本发明是参照根据本发明实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本发明的可选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括可选实施例以及落入本发明范围的所有变更和修改。

显然，本领域的技术人员可以对本发明实施例进行各种改动和变型而不脱离本发明实施例的精神和范围。这样，倘若本发明实施例的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims

1.一种基于多核处理器的线程调度方法，其特征在于，所述方法应用于包括一个无锁调度器及多个线程处理器的多核环境中；无锁调度器配置有一个调度队列，每个线程处理器配置有一个***PUT队列和一个删除GET队列；所述方法，包括：

无锁调度器按照所述预设周期读取所述调度队列，将读出的线程循环写入GET队列中供所述线程处理器读取；

2.根据权利要求1所述的方法，其特征在于，所述方法，还包括：

每个线程处理器，执行如下操作：

线程处理器依次读取对应的GET队列中的线程并执行；

线程处理器将已执行结束的线程依次写入对应的PUT队列。

3.根据权利要求1或2所述的方法，其特征在于，所述调度队列为双端口环形FIFO队列，所述双端口包括IN端口和OUT端口。

4.根据权利要求3所述的方法，所述无锁调度器从一个PUT队列中读取一个线程，写入所述调度队列，包括：

5.根据权利要求3所述的方法，其特征在于，所述无锁调度器按照所述预设周期读取所述调度队列，包括：

6.一种基于多核处理器的线程调度装置，其特征在于，所述装置包括无锁调度单元和多个线程处理单元；所述无锁调度单元配置有一个调度队列，每个线程处理单元配置有一个PUT队列和一个GET队列；其中，

所述线程处理单元，用于读取所述GET队列中的线程；

7.根据权利要求6所述的装置，其特征在于，所述线程处理单元，具体用于依次读取对应的GET队列中的线程并执行；并将已执行结束的线程依次写入对应的PUT队列。

8.根据权利要求6或7所述的装置，其特征在于，所述调度队列为双端口环形FIFO队列，所述双端口包括IN端口和OUT端口。

9.根据权利要求8所述的装置，其特征在于，所述无锁调度单元，具体用于：从一个PUT队列中读取一个线程，通过IN端口将所述线程写入所述调度队列，并按照所述预设周期读取所述调度队列，将读出的线程循环写入GET队列中。

10.根据权利要求8所述的装置，其特征在于，所述无锁调度单元，具体用于：按照所述预设周期，通过所述OUT端口读出即将执行的线程，并将读出的线程循环写入GET队列中。