CN107222343A - 基于支持向量机的专用网络流分类方法 - Google Patents
基于支持向量机的专用网络流分类方法 Download PDFInfo
- Publication number
- CN107222343A CN107222343A CN201710410330.1A CN201710410330A CN107222343A CN 107222343 A CN107222343 A CN 107222343A CN 201710410330 A CN201710410330 A CN 201710410330A CN 107222343 A CN107222343 A CN 107222343A
- Authority
- CN
- China
- Prior art keywords
- stream
- classification
- network
- svms
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/16—Implementation or adaptation of Internet protocol [IP], of transmission control protocol [TCP] or of user datagram protocol [UDP]
- H04L69/164—Adaptation or special uses of UDP protocol
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明涉及一种基于支持向量机的专用网络流分类方法,包括以下步骤:从网络中抓取独立的网络分组,并把网络分组按照特征区分为一个个独立的流;对各个流进行特征提取,采用向量形式对每个流进行描述;将每类流进行分类后,生成样本集合,然后基于样本集合执行支持向量机算法,对样本进行分类,采用径向基核函数将向量映射到高维从而实现支持向量机对样本的二分类,使用1对N的扩展方法从二分类向多分类扩展。本发明解决了专用网络中以无连接协议为主,目前流量分类算法适应性不高,同时多分类扩展计算量大,准确性不高等问题,具有很好的推广应用前景。
Description
技术领域
本发明属于网络测量分析领域,具体涉及一种基于支持向量机的专用网络流分类方法。
背景技术
随着网络技术的不断发展,网络带宽的迅速增加,网络中的各种应用飞速增加,每天都有新的应用类别加入网络中来,对网络管理,网络分析的需求越来越高。网络流量分类和识别技术作为网络行为分析的基础,不仅在网络管理、分析方面,而且在网络安全,网络服务质量测评等方面,都有越来越广泛的应用。
网络流量识别分类涉及到业务行为的方方面面,每种网络流量都有各自的行为特征,随着性的网络应用及新的网络应用层协议的不断涌现,网络流量的复杂性也不断加强,其多变、动态、异质的特性也变的更为明显。目前在流量分类领域的研究十分活跃,目前的网络流量分类主要分为以下几类:
(1)基于端口映射的流量分类方法。主要通过早期IANA和后期ICANN给应用程序固定分配的固定端口来识别各种网络应用的类型,这种方式在互联网出现的早期可以识别网络上的大多数应用,但随着新的网络应用类型的出现,某些应用使用动态端口,或是非熟知端口,例如越来越多的P2P应用和某些非法程序为了绕过防火墙和网络管理程序的监管,而使用了某些熟知端口。这些都导致基于端口映射的流量分类方法对网络识别的能力越来越弱。
(2)基于有效负载的流量分类方法。通过对流量有效负荷的分析,形成对于有效负荷的特征,加入特征库,在分析过程中通过提取流的应用层内容特征,进行比对,从而有效的对流量进行分类,这种分类方式的分类准确性比较高,但是只能分析处理已知的非加密的流量,还可能带来安全问题。
(3)基于行为特征的流量分类方法。这种方法分析主机在传输层的行为特征,如TCP和UDP使用顺序,IP地址数目,速率变化等,从而区分不同的流量类型。但是这种方法对于一些特定应用类型,如P2P,用户自定义协议等无法处理。
多数的研究工作都是针对Internet开展的,目标是更好的监控和管理互联网,使其健康的工作,而互联网上的流量类型多种多样,其中基于TCP协议的流量占用了绝大比例,因此可以根据TCP协议的工作流程,提取其特征,通过基于行为特征的方法进行流量分类。但对于某些专用网络中,例如传感器网络,军用网络,应急救灾网等专用网络中,由于通信信道带宽,可靠性和业务特性等原因导致网络中的流量大多基于UDP协议,而且上层承载的应用层协议也大多为专用协议,多数无公开标准,同时由于网络中的用户相互独立,相互间缺乏统一的协调和规划,导致协议缺乏排他性,即应用层标识字段,端口号等都可能出现不同协议重用的情况,同时这些网络的专用性导致其传输内容具有一定的保密需求,通常都会采用某些加密算法对传输内容加以保护。上述这些特性都导致前三种分类方法无法在这些网络中使用。
发明内容
本发明的目的在于提供一种基于支持向量机的专用网络流分类方法,将机器学习中的支持向量机分类方法应用于以UDP业务为主的专用网络中,并简化了支持向量机由二分类向多分类的扩展问题。
实现本发明目的的技术方案为:一种基于支持向量机的专用网络流分类方法,包括以下步骤:
步骤1,从网络中抓取独立的网络分组,并把网络分组按照特征区分为一个个独立的流;
步骤2,对各个流进行特征提取,采用向量形式对每个流进行描述;
步骤3,将每类流进行分类后,生成样本集合,然后基于样本集合执行支持向量机算法,对样本进行分类,采用径向基核函数将向量映射到高维实现支持向量机对样本的二分类,使用1对N的扩展方法从二分类向多分类扩展。
与现有技术相比,本发明的显著优点为:
本发明涉及一种适用于传输层协议以UDP协议为主的专用网络流量分类方法,分类算法实现简单,提高了支持向量机由二分类向多分类扩展效率,降低了支持向量维数。
附图说明
图1是本发明一对N多分类方法扩展示意图。
图2是分类算法的执行流程图。
具体实施方式
一种基于支持向量机的专用网络流分类方法,包括以下步骤:
步骤1,从网络中抓取独立的网络分组,并将网络分组按照特征区分为一个个独立的流;
步骤2,对各个流进行特征提取,采用向量形式对每个流进行描述;
步骤3,将每类流进行分类后,生成样本集合,然后基于样本集合执行支持向量机算法,对样本进行分类,采用径向基核函数将向量映射到高维从而实现支持向量机对样本的二分类,使用1对N的扩展方法从二分类向多分类扩展。
进一步的,步骤1中采用在连续时间段内出现的五元组相同的分组确认为同一个流的方法,如果相邻两个五元组出现的间隔与该流中的其他分组差距大于阈值,则认为上一个流结束;其中,五元组是指<源地址、目的地址、源端口、目的端口、协议类型>。
进一步的,步骤2中选取每个分组中应用层净荷数据中的前n个字节作为特征统计对象,选取每个字节取值的均值、方差、最大值、最小值。
进一步的,1对N的扩展方法具体为:如果有M个分类,分别针对每个类建立样本集,在任意一个类别与其它N个类别之间建立最优超平面,N个类别为从剩余M-1个随机选取,其中N<(K-1)/2,K为网络中总的分类数,然后再按照一对多的方法进行分类判别。
下面结合附图对本发明作进一步说明。
在对网络中的流量进行分类之前需要从网络中抓取独立的网络分组,并把这些网络分组按照一定的特征区分为一个个独立的流,在传统的互联网中因为流量的传输层协议多为TCP协议,流量判别一般是根据TCP链接的建立和拆除过程来界定一个流量的边界,根据<源地址、目的地址、源端口、目的端口、协议类型>五元组来判断边界内的分组是否属于同一个流。而对于传输层协议为UDP的网络流量,由于没有严格的建链和拆链过程,因此通常无法通过分组类型界定一个流量的边界,但是大多数的流量都是有持续时间的,因此对于这类专用网络的流量归类可以采用在连续时间段内出现的五元组相同的分组确认为同一个流的方法,如果相邻两个五元组出现的间隔与该流中的其他分组差距过大,则认为上一个流结束。
当完成了流分离工作后,需要对各个流进行特征提取,用向量形式对每个流进行描述,关于样本的维数确定,在支持向量机方法中,样本的维数越多意味着计算量越大,在某些情况下,样本的维数越多,分类结果越准确,但是维数过多,许多特征是无用特征,增加了计算的复杂度,对分类判别没有帮助,在传统方法中通常通过主成分分析等方法去降低特征的维数,但需要大量的样本数据进行处理和分析。Andrew moore在2004年提出了网络流量的248项流量特征,这些流量特征可以描述网络中各种流量的特性,但其中的多个特征都是针对传统Internet业务,尤其是针对传输层协议是TCP协议的流量类型,而在一些非传统网络,例如特定专用网络,网络内的业务都是基于UDP协议的,缺乏建链过程,或是采用应用层协议进行建链,因此采用新的特征建立方法,下面描述针对传输层协议为UDP的突发类应用的特征选定方法:
选取每个分组中应用层净荷数据中的前n个字节作为特征统计对象,每个对象有255个可能取值,选取每个字节取值的均值、方差、最大值、最小值这些统计特性。这样就产生了4n个特征值,支持向量的维数就为4n维。其中有些维数是关键维,与判别密切相关,但是也有某些特征对类的判别影响不大,在具体使用过程中可以通过主成分分析法进行降维处理。
将每类流进行人工分类后,生成样本集合,样本集合中每类流的数目不少于M个,如果总的类别数为K个,则总的类别数为MK个,然后基于样本集合执行支持向量机算法,对样本进行分类,采用径向基核函数将向量映射到高维从而实现支持向量机对样本的二分类,而网络中的流量远远不只两类,因此需要实现将二分类向多分类的扩展,目前常用的支持向量机多分类实现方法主要有一对一和一对多两种。
一对多方法是在任意一个单一类与其它类别的流之间进行二分类,选取分类值最大的类作为该类的归属类的方法,该种分类方法每个流的判定需要进行M次二分类判定,其中M为网络中总得流类别数,该方法会产生一些模糊区域,并且分类计算过程中出现样本类别不均衡问题,导致这种方法不适合用于互联网流量判别。
一对一方法是再任意两个类之间建立起二分类关系,选取分类值最大的类作为该类的归属类的方法,该种分类方法每个流的判定需要进行M*(M-1)次二分类判定,其中M为网络中总得流分类数,该方法改进一对多方法的问题,目前的支持向量机流量判别多采用这种方法,但是该方法在分类数较多的情况下,计算量大,判别函数的计算量大。
本发明中提出了一种一对N的多分类扩展方法:
基本思路:如果有M个分类,分别针对每个类建立样本集,在任意一个类别与其它N个类别之间建立最优超平面,N个类别为从剩余M-1个随机选取,其中N<(K-1)/2,然后再按照一对多的方法进行分类判别。这样不仅避免了一对多方法的样本类别不均衡问题,而且减小了一对一方法的计算量大的问题。
完成分类工作后将已分类数据抽取部分更新样本库数据或者扩展样本库,以便于在一定时间后更新判别函数。
如图1、图2所示,以网络中共有4个分类流量情况下的多分类执行过程。如图所示,为了避免每次从流量1开始判定,导致流量4的计算次数最大,从而出现不公平问题,计算入口采用轮转方式,即第一个流的入口从(1,N)判别开始,下一个流的判别从(2,N)判别开始,依次类推,保证各种类型的流的判别计算在统计上公平。
本发明是一种适用于传输层协议以UDP协议为主的专用网络流量分类方法。该方法基于支持向量机机器学习算法,在将支持向量机的二分类算法扩展到多分类时采用1到N的扩展方法,来提高分类的准确率,同时降低算法的计算量,同时采用了一种基于应用层数据的新的特征定义方法,通过对应用层数据中的前n个字节进行统计分析,形成每个流的特征,该方法避免了对原有特征中对建链过程的依赖,使之更好的服务于无连接协议的网络流量分析。本发明解决了专用网络中以无连接协议为主,目前流量分类算法适应性不高,同时多分类扩展计算量大,准确性不高的问题,具有很好的推广应用前景。
下面结合实施例来详细说明本发明。
实施例
一种基于支持向量机的专用网络流分类方法,包括以下步骤:
第一、提取网络中的已知类型数据流,计算流量特征,建立样本库,每种类型流样本的个数都为M个。
第二、在样本库的基础上运行SVM(支持向量机)学***面无法分类的情况,需要采用核函数将各个流向量映射到高维进行分类,在本发明中推荐采用径向基核,即RBF核,该核函数对低维、高维、小样本、大样本等情况都适用,是目前比较优秀的分类依据函数。
第三、采集一定数量的新类型数据集合An。
第四、对数据集合中的数据,先按照元组(源地址、目的地址、源端口号、目的端口号、协议类型)归类,然后将多个分组界定为不同的流。
第五、对流类型先根据可判别标准进行分类。可判别标准是***对应用事先约定的,如限定了特定的端口号为专用,禁止其它流量使用,此时就可以根据该端口号判定某个流量的类型。
第六、对于第五步无法分类的流量,对每种流量建立流量特征,形成特征向量。
第七、按照图1所示方法,将待分类流量特征向量带入不同的分类函数中执行,最终得到该流量的分类类别。
第八、对完成分类的流进行抽样处理,选取部分流对样本集中的流进行替换,或者为了提高分类函数的精度,增加样本集的大小,通过后续分类的流对特征库进行扩展。
第九、回到第三步继续执行后续流量的判定。
Claims (4)
1.一种基于支持向量机的专用网络流分类方法,其特征在于,包括以下步骤:
步骤1,从网络中抓取独立的网络分组,并将网络分组按照特征区分为一个个独立的流;
步骤2,对各个流进行特征提取,采用向量形式对每个流进行描述;
步骤3,将每类流进行分类后,生成样本集合,然后基于样本集合执行支持向量机算法,对样本进行分类,采用径向基核函数将向量映射到高维实现支持向量机对样本的二分类,使用1对N的扩展方法从二分类向多分类扩展。
2.根据权利要求1所述的基于支持向量机的专用网络流分类方法,其特征在于,步骤1中在连续时间段内出现的五元组相同的分组确认为同一个流,如果相邻两个五元组出现的间隔与该流中的其他分组差距大于阈值,则认为上一个流结束;其中,五元组是指<源地址、目的地址、源端口、目的端口、协议类型>。
3.根据权利要求1所述的基于支持向量机的专用网络流分类方法,其特征在于,步骤2中选取每个分组中应用层净荷数据中的前n个字节作为特征统计对象,选取每个字节取值的均值、方差、最大值、最小值。
4.根据权利要求1所述的基于支持向量机的专用网络流分类方法,其特征在于,1对N的扩展方法具体为:如果有M个分类,分别针对每个类建立样本集,在任意一个类别与其它N个类别之间建立最优超平面,N个类别为从剩余M-1个随机选取,其中N<(K-1)/2,K为网络中总的分类数,然后再按照一对多的方法进行分类判别。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710410330.1A CN107222343A (zh) | 2017-06-03 | 2017-06-03 | 基于支持向量机的专用网络流分类方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710410330.1A CN107222343A (zh) | 2017-06-03 | 2017-06-03 | 基于支持向量机的专用网络流分类方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107222343A true CN107222343A (zh) | 2017-09-29 |
Family
ID=59947303
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710410330.1A Pending CN107222343A (zh) | 2017-06-03 | 2017-06-03 | 基于支持向量机的专用网络流分类方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107222343A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107729952A (zh) * | 2017-11-29 | 2018-02-23 | 新华三信息安全技术有限公司 | 一种业务流分类方法及装置 |
CN110011931A (zh) * | 2019-01-25 | 2019-07-12 | 中国科学院信息工程研究所 | 一种加密流量类别检测方法及*** |
WO2019179473A1 (en) * | 2018-03-23 | 2019-09-26 | Telefonaktiebolaget Lm Ericsson (Publ) | Methods and devices for chunk based iot service inspection |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101025862A (zh) * | 2007-02-12 | 2007-08-29 | 吉林大学 | 基于视频的混合交通流参数的检测方法 |
CN102315974A (zh) * | 2011-10-17 | 2012-01-11 | 北京邮电大学 | 基于层次化特征分析的tcp、udp流量在线识别方法和装置 |
CN102420833A (zh) * | 2011-12-27 | 2012-04-18 | 华为技术有限公司 | 一种网络协议识别的方法、装置及其*** |
CN104156733A (zh) * | 2014-08-12 | 2014-11-19 | 中国人民解放军理工大学 | 一种基于多尺度结构特征的地基云状识别方法 |
US20160188876A1 (en) * | 2014-12-30 | 2016-06-30 | Battelle Memorial Institute | Anomaly detection for vehicular networks for intrusion and malfunction detection |
CN106529576A (zh) * | 2016-10-20 | 2017-03-22 | 天津大学 | 基于测度学习改进支持向量机的钢琴乐谱难度识别算法 |
-
2017
- 2017-06-03 CN CN201710410330.1A patent/CN107222343A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101025862A (zh) * | 2007-02-12 | 2007-08-29 | 吉林大学 | 基于视频的混合交通流参数的检测方法 |
CN102315974A (zh) * | 2011-10-17 | 2012-01-11 | 北京邮电大学 | 基于层次化特征分析的tcp、udp流量在线识别方法和装置 |
CN102420833A (zh) * | 2011-12-27 | 2012-04-18 | 华为技术有限公司 | 一种网络协议识别的方法、装置及其*** |
CN104156733A (zh) * | 2014-08-12 | 2014-11-19 | 中国人民解放军理工大学 | 一种基于多尺度结构特征的地基云状识别方法 |
US20160188876A1 (en) * | 2014-12-30 | 2016-06-30 | Battelle Memorial Institute | Anomaly detection for vehicular networks for intrusion and malfunction detection |
CN106529576A (zh) * | 2016-10-20 | 2017-03-22 | 天津大学 | 基于测度学习改进支持向量机的钢琴乐谱难度识别算法 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107729952A (zh) * | 2017-11-29 | 2018-02-23 | 新华三信息安全技术有限公司 | 一种业务流分类方法及装置 |
CN107729952B (zh) * | 2017-11-29 | 2021-04-30 | 新华三信息安全技术有限公司 | 一种业务流分类方法及装置 |
WO2019179473A1 (en) * | 2018-03-23 | 2019-09-26 | Telefonaktiebolaget Lm Ericsson (Publ) | Methods and devices for chunk based iot service inspection |
CN110011931A (zh) * | 2019-01-25 | 2019-07-12 | 中国科学院信息工程研究所 | 一种加密流量类别检测方法及*** |
CN110011931B (zh) * | 2019-01-25 | 2020-10-16 | 中国科学院信息工程研究所 | 一种加密流量类别检测方法及*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102315974B (zh) | 基于层次化特征分析的tcp、udp流量在线识别方法和装置 | |
Zhang et al. | Robust network traffic classification | |
CN101741744B (zh) | 一种网络流量识别方法 | |
CN101645806B (zh) | Dpi和dfi相结合的网络流量分类***及分类方法 | |
CN106341337B (zh) | 一种sdn下可实现应用感知的流量检测与控制机构及方法 | |
CN104270392A (zh) | 一种基于三分类器协同训练学习的网络协议识别方法及*** | |
CN102420723A (zh) | 一种面向多类入侵的异常检测方法 | |
CN109150859B (zh) | 一种基于网络流量流向相似性的僵尸网络检测方法 | |
CN101841440B (zh) | 基于支持向量机与深层包检测的对等网络流量识别方法 | |
CN111817982A (zh) | 一种面向类别不平衡下的加密流量识别方法 | |
CN108028807B (zh) | 用于在线自动识别网络流量模型的方法和*** | |
CN109981474A (zh) | 一种面向应用软件的网络流量细粒度分类***及方法 | |
CN107819646A (zh) | 一种分布式传输的网络流量分类***和方法 | |
CN105141455B (zh) | 一种基于统计特征的有噪网络流量分类建模方法 | |
CN107222343A (zh) | 基于支持向量机的专用网络流分类方法 | |
CN110034966B (zh) | 一种基于机器学习的数据流分类方法及*** | |
CN104468252A (zh) | 一种基于正迁移学习的智能网络业务识别方法 | |
Kong et al. | Identification of abnormal network traffic using support vector machine | |
KR101448550B1 (ko) | 트래픽 분류 장치 및 방법 | |
Aureli et al. | Going beyond diffserv in ip traffic classification | |
CN102664807B (zh) | 流量控制的方法与装置 | |
CN101854330A (zh) | 互联网的网络应用采集与分析方法及*** | |
CN113259367B (zh) | 工控网络流量多级异常检测方法及装置 | |
CN110266603A (zh) | 基于http协议的身份认证业务网络流量分析***及方法 | |
CN101764754B (zh) | 基于dpi和dfi的业务识别***中的样本获取方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20170929 |