CN103441952A

CN103441952A - 基于多核或众核嵌入式处理器的网络数据包处理方法

Info

Publication number: CN103441952A
Application number: CN2013103656075A
Authority: CN
Inventors: 张亮; 沈沛意; 宋娟; 周梦; 王剑; 王国洗
Original assignee: Xidian University
Current assignee: Hangzhou Purevision Technology Co ltd
Priority date: 2013-08-20
Filing date: 2013-08-20
Publication date: 2013-12-11
Anticipated expiration: 2033-08-20
Also published as: CN103441952B

Abstract

本发明公开了一种基于多核或众核嵌入式处理器的网络数据包处理方法，包括：1)将多核或众核嵌入式处理器中的核划分为数据接收核和数据处理核，所述的数据接收核对共享内存区域进行缓冲区分配，且数据处理核向所述的数据接收核进行分发策略注册，确定每个数据处理核所要处理的数据包特征；2)数据接收核依据从网络硬件接收的数据包头部信息，将数据包存放至相应的缓冲区内；3)数据接收核依据数据处理核所注册的分发策略，向所述的数据处理核发送消息，所述的数据处理核根据所述的消息，读取缓冲区中的数据包进行处理，并向所述的数据接收核发送处理状态信息。

Description

基于多核或众核嵌入式处理器的网络数据包处理方法

技术领域

本发明涉及多核或众核嵌入式处理器和网络通信处理领域，尤其涉及一种基于多核或众核嵌入式处理器的网络数据包处理方法。

背景技术

传统的单核处理器处理模式是单任务串行处理，为了提高处理速度只能增加主频，而主频的提高是有限制的，并且增加了功耗。多核或众核处理器很好地解决了这些问题，多核或众核处理器采用并行处理模式，多任务并行处理，可以在低主频的情况下提高处理速度，并且降低功耗。而随着带宽的日益增加，网络数据量***式增长。物联网热的兴起更是加剧了对网络数据快速处理的需求，同时网络中的众多数据都要求很强的实时性，为了保证数据的平稳传输并降低数据传输时的流量波动，软件***如何有效利用其架构优势进行网络数据包的快速接收和分发已然成为研究的热点。

申请号为CN201010289667.X的发明专利公开了一种基于多核架构的报文转发方法及***，该发明通过获取互联网中的数据包，且在数据包为隧道链路数据包时，对其进行解封装，得到IP数据包，采用哈希算法对IP数据包的五元组进行哈希算法，再根据算得的哈希值及其哈希表大小、以及CPU的数量，将哈希值标记至上述的IP数据包中，再发送至所述的CPU中。

上述发明专利虽然是一种关于多核架构的报文发送方法，但实际上仅是一种报文的转发，并未涉及到多核或众核嵌入式***中的数据接收和分发，更未提及数据分发的策略，且对于多核或众核嵌入式处理器，针对其网络数据包的接收管理和分法处理方法的研究具有重要意义。

发明内容

本发明提供了一种多核或众核嵌入式处理器***中网络数据包的接收管理以及数据包的分发策略方法，能够快速有效准确的实现网络数据包的接收和分发。

一种基于多核或众核嵌入式处理器的网络数据包处理方法，包括以下步骤：

1)将多核或众核嵌入式处理器中的核划分为数据接收核和数据处理核，所述的数据接收核对共享内存区域进行缓冲区分配，且数据处理核向所述的数据接收核进行分发策略注册，确定每个数据处理核所要处理的数据包特征；

2)数据接收核依据从网络硬件接收的数据包头部信息，将数据包存放至相应的缓冲区内；

3)数据接收核依据数据处理核所注册的分发策略，向所述的数据处理核发送消息，所述的数据处理核根据所述的消息，读取缓冲区中的数据包进行处理，并向所述的数据接收核发送处理状态信息。

所述的多核或众核嵌入式处理器为同构或异构处理器，所述核的数量至少为8个，其中，所述数据接收核的数量为1个或多个。

数据接收核负责共享内存区域中网络数据接收缓冲区的分配管理、数据处理核注册分发策略的管理和待处理数据包的目的数据处理核的判定，数据接收核还负责网络硬件设备的配置和数据交互，包括配置网卡硬件的工作模式以及获取其状态参数等，数据交互是指网络数据的接收；数据处理核根据实际应用需求向数据接收核进行分发策略的注册，并提取存放在缓冲区中的数据包进行处理。

数据接收核的数目和数据处理核的数目均可以根据实际应用进行配置。例如，选取8个核进行简单的图像二值化处理，数据接收核仅接收完整的一幅图像，再进行分发即可，因此选取一个数据接收核就可以完成上述操作；对图像进行处理时，可以选取余下的7个核作为数据处理核进行二值化处理。同时，数据接收核可根据处理器结构、网络硬件设备位置、内存位置等综合因素进行设定，一般数据接收核为距离网络硬件接口位置最近的处理核，数据处理核的数目和位置选择依据应用需求和数据接收核而定，数据处理核完全可由用户自行设定。

在步骤1)中，所述的缓冲区的大小为256字节、512字节、1024字节、1536字节、2048字节、4096字节或10240字节，所述缓冲区的数量为多个，所述的数据处理核能查看每个缓冲区的物理地址。

多个缓冲区中，每种大小的缓冲区的数量根据数据包特征进行配置，同时所有缓冲区的物理地址都可以被数据处理核查看，也就是说这些缓冲区对于所有处理核而言都是共享的，每个缓冲区除了存放接收的指定大小的数据包内容外，还包括了要将该数据包发送到哪个数据处理核的信息，即对该数据包进行处理的数据处理核的信息。每个缓冲区的具体信息如表1所示：

表1数据接收核中数据缓冲结构

在表1中，不同大小的缓冲区其结构中缓冲区数据大小不同，缓冲区的处理核标识的大小依据所使用嵌入式处理器的处理核大小不同而不同，发送给数据处理核消息的时间是指当数据接收核判定该条记录数据发送给哪个数据处理核时，在该条数据缓冲尾部添加的时间戳。

所述的步骤2)中，所述的数据包特征包括数据包类型、硬件头部信息类型和端口信息，数据包特征决定了处理其网络数据的数据处理核。

在步骤1)中，每个数据处理核只能注册一个分发策略，同一分发策略能同时被多个数据处理核注册。

数据接收核用于对分发策略的管理和分配，可以动态配置各个数据处理核的分发策略，总共的分发策略个数依据数据处理核数而定，每个核只能注册一个分发策略。数据处理核负责通过一定的策略依据或者应用需求向数据接收核进行分发策略注册，在注册过程中指定发送到该注册核上的数据包特征。

所述的分发策略包括数据包协议策略、数据包MAC地址策略、IP地址策略和数据包端口策略。

本发明中，数据处理核发送到数据接收核的分发策略信息如下表2所不：

表2数据处理核的发奋策略内容

在表2中数据处理核向数据接收核进行分发策略注册的信息中，每个分发策略的确定由数据处理核决定，可以是综合的分发策略，也可以是单个分发策略的配置。共享标志表示该数据处理核接收到符合其分发策略的数据包后，如果有其他数据处理核也注册相同的策略，是否愿意和其他数据处理核共享。

每个数据处理核进行分发策略注册时，数据接收核判断该数据处理核请求的分发策略是否为其他数据处理核已注册的分发策略，若已经注册且需要与其他核进行共享，对各数据处理核的共享标志位进行更新。

当数据接收核接收到数据处理核的分发策略后，在数据接收核内部对每个分发策略会进行存储管理，在存储管理中，每个数据处理核的分发策略除以上表2中的内容外，还包括以下两条内容：

1)：该数据处理核所注册的分发策略是否和其它核注册的分发策略具有相同的标志位。当任何一个数据处理核向数据接收核进行分发策略注册时，数据接收核会对数据处理核已注册的分发策略进行判断，更新数据处理核的该标志位。

2)：该网络数据处理核已经接收过的数据包数目。该项用于实时获取各个数据处理核所接收的数据动态，可以用来进行后续网络分析。

数据接收核对网络数据进行分发判断时，首先依据接收到的数据包特征，利用各个数据处理核的注册分发策略进行判断，遍历找到符合该数据包特征的数据处理核。如果数据处理核注册的是可共享策略，则直接将表1中所述该缓冲结构中的缓冲区的处理核标识对应位置位，更新对应的发送给数据处理核消息的时间，然后发送消息至数据处理核即可。所述的消息包括数据包在缓冲区中的地址和缓冲大小。

当数据接收核确定了当前数据包的数据处理核之后，采用对应多核或众核嵌入式处理器的消息发送策略向各个数据处理核进行消息发送，消息中包括待处理数据的缓冲地址，缓冲大小等内容。当数据处理核处理完毕缓冲后，需要将缓冲区的处理核标识中和该处理核对应的比特位清零。

若多个数据处理核所注册的分发策略相同时，数据接收核根据各数据处理核中数据包处理状态和数据包数目，对待处理的数据包进行权重分配计算，根据权重将数据包分发给多个数据处理核同时处理。

例如，可以使用层次分析法进行决策，通过综合分析数据处理核的数据包处理速率、待处理数据包的数目，以及待处理数据包的大小等多种性能相关参数，构造两两比较判断矩阵，通过和法、最小夹角法或者特征向量法等求取不同数据处理核的权重，通过比较权重值，判断待处理数据包将被发送到的数据处理核。

如果数据处理核注册的是非共享策略而且多个数据处理核注册了同一种分发策略时，需要同时依据给数据处理核发送的最近一次数据包的时间、数据包的处理状态以及该核已经接收到的数据包数目综合进行判断，进行目的数据处理核的选择，可以多个数据处理核同时进行处理。

本发明的有益效果在于：

(1)本发明提出的网络数据缓冲管理和网络数据策略管理的扩展性很强，可以适用于目前大多数多核或众核嵌入式处理器，可以满足大部分的网络数据包侦测应用需求。

(2)本发明中网络数据处理核对数据的处理实现了零拷贝，有利于处理速度的提升。而且可以多个数据处理核对同一个网络数据包进行并行协同处理。

附图说明

图1为本发明的整体框图；

图2为本发明中数据处理核的注册及数据处理流程图；

图3为本发明中数据接收核的数据处理流程图；

图4为本发明中并行化的Snort入侵检测***框图；

图5为使用本发明进行Snort入侵检测实现的基本流程图。

具体实施方式

下面通过具体实施方式对本发明进行详细的说明。

本发明是一种基于多核或众核嵌入式处理器的网络数据包接收管理与分发处理方法。图1所示为本发明的整体框图，分为网络硬件、数据接收核、数据处理核和共享内存区域四个模块。图中：1表示数据接收核配置网络硬件设备；2表示数据接收核进行网络数据接收存放缓冲的分配和管理；3表示数据处理核向数据接收核进行策略注册；4表示数据接收核在接收到来自硬件设备的数据包头部信息后，从内存中寻找合适的缓冲区，将其地址作为网络硬件设备传输完整数据的目的地；5表示网络硬件设备向数据接收核发送消息以表明数据接收完成；6表示数据接收核根据分发策略配置信息向对应数据处理核发送消息，消息中包含数据缓冲区的地址，表明当前有完整的数据被接收并等待处理；7表示数据处理核读取对应地址缓冲区中的数据进行具体处理。

本发明中多核或众核嵌入式处理器使用Tile64多核处理器。该处理器在单芯片上集成了64个tile，以最高23W的功耗可提供192BOPs(每秒十亿次操作)的处理能力，主要面向网络处理、多媒体、信息安全、无线通信等嵌入式领域。Tile64是一款新型的多核处理器，同时解决了高处理性能、灵活可编程性以及电源功耗的问题，并且为网络应用需求的增长与现存处理器能够带来的性能之间架起了可行的桥梁。

在本发明中，数据操作的主要过程如下：数据接收核首先向网络硬件设备传递参数，配置网络硬件设备，主要是指网卡硬件工作模式的配置；硬件设备配置完毕后，数据接收专属核对共享内存区域中网络数据接收存放缓冲区进行具体分配，根据实际的应用需求，将其分配为不同大小的多种缓冲区，并对其进行管理；随后，数据处理核根据一定的策略依据或者应用需求向数据接收核进行分发策略注册，在此过程中可以指定发送到该注册核上的数据包特征，包括数据包类型，硬件头部信息类型，端口以及其他信息等；策略注册完毕后，数据接收核根据接收到数据包头部的信息，从内存中寻找合适的缓冲，将其地址作为网络硬件设备进行完整数据传输的目的地；当网络硬件设备完成数据发送后，向数据接收核发送消息表明数据接收已经完成；数据接收核收到网络硬件设备的完成消息后，根据各个数据处理核的分发策略配置信息向对应数据处理核发送消息(消息中包含接收待处理数据的缓冲地址)，表明当前有事件；最后数据处理核根据数据接收核的消息，读取对应地址缓冲区中的数据进行具体处理。

在本发明中，根据功能划分为数据接收核和数据处理核。其中数据处理核的具体数据处理流程如图2所示。数据处理核首先需要建立和数据接收核的通信，在此基础上数据处理核才能向数据接收核发送消息，注册分发策略，当分发策略注册成功后，数据处理核进入等待状态，直到数据接收核向其发送消息表明当前有事件，即有待处理的数据缓冲，网络数据处理核根据数据接收核发送的消息，获取数据缓冲进行处理，处理完毕后，再向数据接收核发送消息表明数据处理完毕，上述为一次完整的数据处理核的数据处理过程。

而数据接收核的处理流程如图3所示。数据接收核在启动后，首先需要配置网络硬件模块，包括对网卡硬件工作模式的配置，然后根据实际应用需求将缓冲分配为256字节，512字节，1024字节，1536字节，2048字节，4096字节和10240字节。然后数据接收核进入等待消息的状态。如果接收到来自数据处理核的注册消息，即根据消息请求，注册处理核的分发策略，同时对已注册的内容进行更新。当任何一个数据处理核向数据接收核进行分发策略注册时，数据接收核都会对数据处理核已注册的分发策略进行判断，更新各个处理核的标志位。如果接收到来自网络硬件设备的关于数据包头部的信息，在对其进行分析后，进行策略判断，从缓冲区中选取合适的缓冲，同时向网络硬件设备进行DMA配置。如果接收到来自网络硬件设备的关于数据包传输完成的消息，首先更新缓冲区和分发策略条目，然后向数据处理核发送消息，表明当前有待处理的数据包。

在上述基于多核或众核嵌入式处理器的网络数据包接收管理与分发处理方法的基础上，可以实现并行化的Snort入侵检测，其***框图如图4所示。仅仅通过简单的复制将Snort程序运行在多个处理核上，出于数据依赖关系的限制需要对程序进行以下两个特殊处理：

1、消除全局数据依赖，每个数据处理核上都将Snort作为一个进程执行，各个进程的数据私有性特征可以解决全局数据依赖问题。同时将Snort作为独立的进程与数据处理核进行映射绑定，这是得到并行捕获库Libpcap数据分发的前提条件。

2、消除文件资源依赖，Snort程序运行过程中会在文件中记录日志，多个数据处理核对同一文件进行操作时，容易带来串行化问题。根据数据处理核具有唯一标识的特点，将日志文件与数据处理核的标识进行绑定，这样每个Snort都会拥有各自的日志文件，从而解决了文件资源依赖的问题。

基于Snort***架构的入侵检测过程描述如下：首先，对网络在进行入侵时产生的网络数据包进行挖掘，找出带有攻击性质的网络数据包的规则特点；然后，将符合这些规则的原始网络数据包作为入侵检测***中检测引擎的知识库；最后，实时对高速网络数据进行规则匹配，一旦匹配正确就认为网络入侵产生，立刻通知输出模块进行相应的处理。按照各个部分执行次数可以将***运行分为两个阶段。第一阶段为***的初始化，准备工作完成后第一阶段执行结束，除非有新规则的注入或是异常等现象发生，否则第一阶段不会再执行。在这一阶段，***主要完成全局数据初始化、规则文件解析、插件注册、规则树的构建生成、网络数据捕获初始化等工作。第二阶段为***实时检测，随着新数据的到达循环执行。在这一阶段，***主要循环性地完成网络数据包的接收、数据解析、预处理、入侵行为检测以及报警输出等工作。***运行的基本流程如图5所示。

Snort***在第一阶段完成后，进入第二阶段循环等待处理数据包。***结束条件主要有两个：一是用户指定了检测包数量，解析检测会随着新网络数据的接收循环执行，直到检测完指定数目的数据包；二是用户没有指定检测数据数量，解析检测模块默认按单个数据包进行处理，直到***结束事件的产生后停止。每次检测完一个数据包后，都会对信号事件进行检查，执行新规则的更新判断等操作，以便及时响应需求。

经过上述实现，可以将Snort并行运行在多核或众核嵌入式平台上，不但能够提升检测***的性能，而且使得***具有很强的可扩展性。

Claims

1.一种基于多核或众核嵌入式处理器的网络数据包处理方法，其特征在于，包括：

2.如权利要求1所述的基于多核或众核嵌入式处理器的网络数据包处理方法，其特征在于，所述的多核或众核嵌入式处理器为同构或异构处理器，所述核的数量至少为8个，其中，所述数据接收核的数量为1个或多个。

3.如权利要求2所述的基于多核或众核嵌入式处理器的网络数据包处理方法，其特征在于，在步骤1)中，所述的缓冲区的大小为256字节、512字节、1024字节、1536字节、2048字节、4096字节或10240字节。

4.如权利要求3所述的基于多核或众核嵌入式处理器的网络数据包处理方法，其特征在于，所述缓冲区的数量为多个，在步骤3)中，所述的数据处理核能查看每个缓冲区的物理地址。

5.如权利要求1所述的基于多核或众核嵌入式处理器的网络数据包处理方法，其特征在于，所述的步骤2)中，所述的数据包特征包括数据包类型、硬件头部信息类型和端口信息。

6.如权利要求5所述的基于多核或众核嵌入式处理器的网络数据包处理方法，其特征在于，在步骤1)中，每个数据处理核只能注册一个分发策略，同一分发策略能同时被多个数据处理核注册。

7.如权利要求6所述的基于多核或众核嵌入式处理器的网络数据包处理方法，其特征在于，所述的分发策略包括数据包协议策略、数据包MAC地址策略、IP地址策略和数据包端口策略。

8.如权利要求7所述的基于多核或众核嵌入式处理器的网络数据包处理方法，其特征在于，每个数据处理核进行分发策略注册时，数据接收核判断该数据处理核请求的分发策略是否为其他数据处理核已注册的分发策略，若已经注册且需要与其他数据处理核进行共享，对各数据处理核的共享标志位进行更新。

9.如权利要求8所述的基于多核或众核嵌入式处理器的网络数据包处理方法，其特征在于，所述的消息包括数据包在缓冲区中的地址和缓冲大小。

10.如权利要求9所述的基于多核或众核嵌入式处理器的网络数据包处理方法，其特征在于，若多个数据处理核所注册的分发策略相同时，在所述的步骤3)中，数据接收核根据各数据处理核中数据包处理状态和数据包数目，对待处理的数据包进行权重分配计算，根据权重将数据包分发给多个数据处理核同时处理。