CN114553733B - 一种基于人工智能的智能网关监控管理***及方法 - Google Patents
一种基于人工智能的智能网关监控管理***及方法 Download PDFInfo
- Publication number
- CN114553733B CN114553733B CN202210440949.8A CN202210440949A CN114553733B CN 114553733 B CN114553733 B CN 114553733B CN 202210440949 A CN202210440949 A CN 202210440949A CN 114553733 B CN114553733 B CN 114553733B
- Authority
- CN
- China
- Prior art keywords
- data
- gateway
- time
- value
- flow
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/06—Generation of reports
- H04L43/067—Generation of reports using time frame reporting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0681—Configuration of triggering conditions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/147—Network analysis or design for predicting network behaviour
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/04—Processing captured monitoring data, e.g. for logfile generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/06—Generation of reports
- H04L43/062—Generation of reports related to network traffic
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/16—Threshold monitoring
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Mining & Analysis (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明公开了一种基于人工智能的智能网关监控管理***及方法,所述网关数据关联项整合模块对网关数据各项数据相应的集合进行分析,判断不同集合之间的是否存在关联性,通过存在关联性的集合进行整合,分别得到网关数据关联项对应的各个关联数据组;所述网关关联数据智能分析模块对各个关联数据组进行聚类,并分析,得到每个类别对应的第一变化率、第二变化率及第三变化率;所述网关流量数据预测模块结合当前时间网关数据关联项对应的各个关联数据组及历史数据中的关联数据组,对网关流量数据进行预测;所述网关流量数据校准模块根据区域内的整体网关流量数据的预测结果,对网关流量数据的预测结果进行校准。
Description
技术领域
本发明涉及网关***技术领域,具体为一种基于人工智能的智能网关监控管理***及方法。
背景技术
随着计算机技术的快速发展,人们对网络的运用越来越广泛,人们在通过网络对流量信息进行获取时,需要通过网关来对信息进行转换,因此,通过监控网关中的各个请求对应的流量数据的情况,能够实现对用户网络使用情况的有效监控。
现有的对网关的智能监控***尚且存在较大的不足,其仅能够通过统计求和的方式,实现对历史数据中某段时间内用户使用流量的总量进行监控,监控的均是固有的历史数据,无法有效的对未来某时间段内用户的流量使用情况进行预测。
针对上述情况,我们需要一种基于人工智能的智能网关监控管理***及方法。
发明内容
本发明的目的在于提供一种基于人工智能的智能网关监控管理***及方法,以解决上述背景技术中提出的问题。
为了解决上述技术问题,本发明提供如下技术方案:一种基于人工智能的智能网关监控管理***,包括:
网关数据采集模块,所述网关数据采集模块用于对网关数据进行异步采集,并将采集结果写到第一日志中,对第一日志内容进行解析,并分别提取网关数据的各项数据,得到网关数据各项数据相应的集合;
网关数据关联项整合模块,所述网关数据关联项整合模块对网关数据各项数据相应的集合进行分析,判断不同集合中的元素之间的是否存在关联性,通过存在关联性的集合元素进行整合,分别得到网关数据关联项对应的各个关联数据组;
网关关联数据智能分析模块,所述网关关联数据智能分析模块对各个关联数据组进行聚类,并分析,得到每个类别对应的第一变化率、第二变化率及第三变化率;
网关流量数据预测模块,所述网关流量数据预测模块结合当前时间网关数据关联项对应的各个关联数据组及历史数据中的关联数据组,对网关流量数据进行预测;
预警模块,所述预警模块将网关流量数据预测模块对网关流量数据的预测结果与阈值进行对比,
当预测结果大于等于阈值时,预警模块向用户进行报警,
当预测结果小于阈值时,预警模块不向用户进行报警;
对网关流量数据进行预测时,通过第二变化率及第三变化率获取第一预测值W1,通过第一变化率获取第二预测值W2,得到网关流量数据的最终预测值W={W1,W2}max,其中,{W1,W2}max表示W1与W2中的最大值。
本发明通过各个模块的协同合作,共同实现了对网关中的流量使用情况进行监控,同时根据监控的历史数据对下一阶段网关中的流量使用情况进行预测,并根据预测结果提前对用户进行预警,确保网关中对应的流量数据的正常使用。
进一步的,所述网关数据采集模块异步采集的是流量数据,不同流量数据对应的内容之间相互独立,一条流量数据对应一次请求,一次请求对应一个软件接口,一个软件接口可对应多次请求;
网关数据的各项数据包括:每条流量数据的大小、每条流量数据对应的请求时间、每条流量数据对应的请求相应的软件接口;
所述网关数据采集模块每隔第一单位时间对第一日志内容进行一次解析;
所述网关数据采集模块将解析的第一日志内容中前第一单位时间对应的每条流量数据的大小按解析后流量数据的先后顺序逐个录入一个空白集合中,得到流量值数据集合A,将流量值数据集合A中的第n个元素对应的值记为An;
所述网关数据采集模块将解析的第一日志内容中前第一单位时间对应的每条流量数据对应的请求时间按解析后流量数据的先后顺序逐个录入一个空白集合中,得到请求时间集合B,将请求时间集合B中的第n个元素对应的值记为Bn;
所述网关数据采集模块将解析的第一日志内容中前第一单位时间对应的每条流量数据每条流量数据对应的请求相应的软件接口按解析后流量数据的先后顺序逐个录入一个空白集合中,得到软件接口集合C,将软件接口集合C中的第n个元素对应的值记为Cn;
所述流量值数据集合A、请求时间集合B及软件接口集合C分别对应的元素个数均等于网关数据采集模块解析的第一日志内容中前第一单位时间对应的流量数据条数;
所述网关数据采集模块还实时监测各个软件接口的运行状态,进而得到各个软件接口的运行状态时间曲线,所述每个运行状态时间曲线表示相应接口软件的运行状态随时间变化的情况,所述运行状态包括开启状态及关闭状态,
所述开启状态对应的运行状态时间曲线的值记为1,所述关闭状态对应的运行状态时间曲线对应的值记为0。
本发明网关数据中每个软件接口发出的每次请求对应一条流量数据,每条流量数据之间是相互独立的,因此,在对网关数据进行分析,需要对分析的数据进行细化,锁定到每个软件接口对应的每次请求相应的每条流量数据的情况,进而的得到每条流量数据的大小、每条流量数据对应的请求时间、每条流量数据对应的请求相应的软件接口;设置网关数据采集模块对第一日志内容进行解析每隔第一单位时间进行一次,是为了确保对网关数据分析的频率,同时也是为了锁定每次对网关数据进行分析时,分析的数据对应的范围(最近一次解析的第一日志内容中前第一单位时间对应的流量数据情况);得到流量值数据集合A、请求时间集合B及软件接口集合C,是为了对采集的数据进行统一保存及管理,同时也为了进行数据分析时快速得到相应的关联数据组;得到各个软件接口的运行状态时间曲线,是为了得到每个软件接口的运行状态与时间的关系,进而能够快速统计第一单位时间内指定的软件接口对应的运行总时长;将运行状态对应的运行状态时间曲线的值设置为1和0,是为了清晰、直观的反应出指定软件接口指定时间对应的运行状态(1表示开启状态,0表示关闭状态)。
进一步的,所述网关数据关联项整合模块判断不同集合中的元素之间的是否存在关联性的方法包括以下步骤:
S1.1、获取网关数据采集模块中最近一次解析第一日志内容对应的流量值数据集合A、请求时间集合B及软件接口集合C;
S1.2、提取A中的第n1个元素对应的值An1、提取B中的第n2个元素对应的值Bn2、提取C中的第n3个元素对应的值Cn3;
S1.3、比较n1、n2与n3之间的大小关系,
当n1与n2之间,或n1与n3之间,或n2与n3之间中存在相等的情况时,则判定相等的两者分别对应的集合中的元素值存在关联性,
当n1与n2之间,或n1与n3之间,或n2与n3之间中均不存在相等的情况时,则判定n1、n2与n3分别对应的集合中的元素值不存在关联性;
所述网关数据关联项整合模块得到网关数据关联项对应的各个关联数据组的方法包括以下步骤:
S2.1、获取网关数据采集模块中最近一次解析第一日志内容对应的流量值数据集合A、请求时间集合B及软件接口集合C;
S2.2、提取A中的第i个元素对应的值Ai;
S2.3、提取B中与Ai存在关联性的元素对应的值Bi1、提取C中与Ai存在关联性的元素对应的值Ci2;
S2.4、得到网关数据采集模块中最近一次解析第一日志内容对应的第i个关联数据组Zi,所述Zi=[Ai,Bi1,Ci2]。
进一步的,所述网关关联数据智能分析模块对各个关联数据组进行聚类时,所述类别个数与软件接口集合C中各元素对应的软件接口种类个数相同,并将对应的软件接口相同的各个关联数据组划分为同一种类,
本发明网关关联数据智能分析模块将软件接口相同的关联数据组划分为同一类,是为了后续对网关中各个软件接口对应的流量使用情况进行分析,进而预测出各个软件接口对应的流量使用情况,将预测的各个软件接口对应的预测值进行汇总累加,进而实现对网关数据的预测。
进一步的,所述网关关联数据智能分析模块得到每个类别对应的第一变化率的方法包括以下步骤:
S3.3、将第前p天中与当前时间相同的时间点为参照点,
本发明网关关联数据智能分析模块得到每个类别对应的第一变化率的过程中,先获取第j类对应的软件接口在最近一次解析的第一日志内容中前第一单位时间对应的总流量是为了以每类对应的软件接口在每次解析的第一日志内容中前第一单位时间对应的总流量为数据分析单元,进而从历史中P、k2这两个角度对每个软件接口对应的总流量进行分析,进而得到每个类别对应的第一变化率;获取是因为第前p天中k2为不同值,因此历史上数据中前p天对应多个总流量,在进行数据预测时,需要对考虑可能发生的事件中的最坏情况,进而预测的结果才能达到预警的目的,而历史上数据中前p天对应多个总流量中的最坏情况即为k2位不同值时各个中的最大值计算是为了得到总流量在第一单位时间内的变化率;设置对的归一化处理方程g,是为了避免结算结果出现无意义的情况,进而使得预测结果无意义,影响最终对网关数据的预测结果;计算第一变化率时,设置p=p1-1,是因为p的取值范围为0≤p≤p1,而计算过程中出现p+1,通过0≤p+1≤p1,可以推导出此时p的上限为p=p1-1;计算第一变化率时,设置的调节系数是因为为第前p天相对于第前p+1天对应的第j类相应的软件接口的总流量的增长变化率,而第一变化率是相对于当前时间对应的第j类相应的软件接口的总流量的增长变化率进行获取,本身软件接口的流量使用情况就存在较大的波动性,因此历史的数据中对应的增长变化率相对于需要获取的第一变化率会存在一定的偏差,需要对其进行修正才能作为获取第一变化率的一个参考数据,进而为历史数据中对应的增长变化率设置相应的调节系数,是为了对历史数据中对应的各个增长变化率进行校准对应的调节系数为校准后的增长变化率为 其对应的是根据历史数据得到的增长变化率获取相对于当前时间对应的第j类相应的软件接口的总流量的增长变化率),再根据校准后的多个第j类相应的软件接口的总流量的增长变化率,通过求取平均值的方式得到第j个类别对应的第一变化率,该方式获取的第一变化率均是参照当前时间进行获取的,相对而言,更加精准,进而使得对网关流量数据的预测结果也更加准确;在进行获取调节系数时,考虑到增长变化率对应的时间与当前时间的时间差这个因素,一般情况下,这个时间差越大,对应的增长变化率对获取第一变化率的借鉴意义越小,越需要进行保守预测,进而需要根据时间差的长短不断调整调节系数的大小,α1为当天第j个类别对应的增长变化率对应的调节系数,设置是为了确定调节系数随时间差的变化情况相应的调节值,其整体呈递减趋势,随时间差的增大而减小,β1反应了调节值的大小程度;设置整体呈递减趋势,是为了使得减少时间差大的增长变化率对获取的第一变化率的影响,因此,不断设置时间差大的增长变化率的校准后的值,能够在一定程度上降低第一变化率的结果,降低第一变化值受时间差大的增长变化率的干扰程度,使得得到的第一变化率偏于保守数值,进而降低最终预估的网关流量数据受时间差大的历史数据的干扰程度。
进一步的,所述网关关联数据智能分析模块得到每个类别对应的第二变化率的方法包括以下步骤:
S4.3、将第前p天中与当前时间相同的时间点为参照点,
本发明网关关联数据智能分析模块得到每个类别对应的第二变化率的过程中,先获取第j类对应的软件接口在最近一次解析的第一日志内容中前第一单位时间对应的运行总时长是为了以每类对应的软件接口在每次解析的第一日志内容中前第一单位时间对应的运行总时长为数据分析单元,进而从历史中P、k2这两个角度对每个软件接口对应的运行总时长进行分析,进而得到每个类别对应的第二变化率;获取是因为第前p天中k2为不同值,因此历史上数据中前p天对应多个运行总时长,在进行数据预测时,需要对考虑可能发生的事件中的最坏情况,进而预测的结果才能达到预警的目的,而历史上数据中前p天对应多个运行总时长中的最坏情况即为k2位不同值时各个中的最大值计算是为了得到运行总时长在第一单位时间内的变化率;设置对的归一化处理方程g1,是为了避免结算结果出现无意义的情况,进而使得预测结果无意义,影响最终对网关数据的预测结果;计算第一变化率时,设置调节系数的作用于调节系数的作用相同,也是起到调节校准的效果(对进行调节校准)。
进一步的,所述网关关联数据智能分析模块得到每个类别对应的第三变化率的方法包括以下步骤:
S5.1、获取第j类中各个关联数据组中的第2个元素对应的请求时间,计算相邻两个请求时间之间的时间差,
将第j类中第v+1个关联数据组对应的请求时间与第j类中第v个关联数据组对应的请求时间之间的时间差记为tv,
S5.3、将第前p天中与当前时间相同的时间点为参照点,
进一步的,所述网关流量数据预测模块对网关流量数据进行预测的方法包括以下步骤:
S6.1、得到基于当前时间的下一次解析的第一日志内容中前第一单位时间中网关流量数据的第一预测值W1,
当j=0时,所述W1=0,
S6.2、得到基于当前时间的下一次解析的第一日志内容中前第一单位时间中网关流量数据的第二预测值W2,
当j=0时,所述W2=0,
S6.3、得到基于当前时间的下一次解析的第一日志内容中前第一单位时间中网关流量数据的最终预测值W,所述W={W1,W2}max。
本发明网关流量数据预测模块在对网关流量数据进行预测时,采用了两种预测方式,并对两种预测结果进行筛选,得到网关流量数据的最终预测值;获取第一预测值W1时,是通过第二变化率及第三变化率来进行预测的,是从软件接口的使用时间的增长情况及软件接口单位时间流量消耗值的增长情况这两个角度来分析的;获取第二预测值W2时,是通过第一变化率来进行预测的,是从软件接口使用的总流量的增长情况这个角度来分析的;由于第一变化率、第二变化率及第三变化率在获取过程中均采用调节系数的方式,减少时间差大的历史数据对应的增长变化率对其造成的干扰,进而使得得到的第一变化率、第二变化率及第三变化率属于保守数值,即得到的数值可能要比实际数据稍微偏小一点,因此,在获取最终预测值时,采用选取最大值的方式(W={W1,W2}max)得到预测结果,进而缩小预测值与实际值之间的偏差,达到缩小误差的技术效果。
一种基于人工智能的智能网关监控管理方法,所述方法包括以下步骤:
S1、通过网关数据采集模块对网关数据进行异步采集,并将采集结果写到第一日志中,对第一日志内容进行解析,并分别提取网关数据的各项数据,得到网关数据各项数据相应的集合;
S2、通过网关数据关联项整合模块对网关数据各项数据相应的集合进行分析,判断不同集合中的元素之间的是否存在关联性,通过存在关联性的集合元素进行整合,分别得到网关数据关联项对应的各个关联数据组;
S3、通过网关关联数据智能分析模块对各个关联数据组进行聚类,并分析,得到每个类别对应的第一变化率、第二变化率及第三变化率;
S4、通过网关流量数据预测模块结合当前时间网关数据关联项对应的各个关联数据组及历史数据中的关联数据组,对网关流量数据进行预测;
S5、在预警模块中,将网关流量数据预测模块对网关流量数据的预测结果与阈值进行对比,
当预测结果大于等于阈值时,预警模块向用户进行报警,
当预测结果小于阈值时,预警模块不向用户进行报警。
与现有技术相比,本发明所达到的有益效果是:本发明运用人工智能技术,通过采集分析网关的历史数据中不同软件对应的流量使用情况,进而分别得到不同软件接口单位时间内的运行总时长变化率、单位时间流量消耗值变化率及总流量的变化率,进而精准预测出单位时间后的网关的不同软件接口分别对应的流量使用情况及网关流量数据,达到提前预警的技术效果,实现了对网关的有效监控及管理。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1是本发明一种基于人工智能的智能网关监控管理***的结构示意图;
图2是本发明一种基于人工智能的智能网关监控管理***中网关关联数据智能分析模块得到每个类别对应的第一变化率的方法的流程示意图;
图3是本发明一种基于人工智能的智能网关监控管理***中网关关联数据智能分析模块得到每个类别对应的第二变化率的方法的流程示意图;
图4是本发明一种基于人工智能的智能网关监控管理方法的流程示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1-图4,本发明提供技术方案:一种基于人工智能的智能网关监控管理***,包括:
网关数据采集模块,所述网关数据采集模块用于对网关数据进行异步采集,并将采集结果写到第一日志中,对第一日志内容进行解析,并分别提取网关数据的各项数据,得到网关数据各项数据相应的集合;
网关数据关联项整合模块,所述网关数据关联项整合模块对网关数据各项数据相应的集合进行分析,判断不同集合中的元素之间的是否存在关联性,通过存在关联性的集合元素进行整合,分别得到网关数据关联项对应的各个关联数据组;
网关关联数据智能分析模块,所述网关关联数据智能分析模块对各个关联数据组进行聚类,并分析,得到每个类别对应的第一变化率、第二变化率及第三变化率;
网关流量数据预测模块,所述网关流量数据预测模块结合当前时间网关数据关联项对应的各个关联数据组及历史数据中的关联数据组,对网关流量数据进行预测;
预警模块,所述预警模块将网关流量数据预测模块对网关流量数据的预测结果与阈值进行对比,
当预测结果大于等于阈值时,预警模块向用户进行报警,
当预测结果小于阈值时,预警模块不向用户进行报警;
对网关流量数据进行预测时,通过第二变化率及第三变化率获取第一预测值W1,通过第一变化率获取第二预测值W2,得到网关流量数据的最终预测值W={W1,W2}max,其中,{W1,W2}max表示W1与W2中的最大值。
本发明通过各个模块的协同合作,共同实现了对网关中的流量使用情况进行监控,同时根据监控的历史数据对下一阶段网关中的流量使用情况进行预测,并根据预测结果提前对用户进行预警,确保网关中对应的流量数据的正常使用。
所述网关数据采集模块异步采集的是流量数据,不同流量数据对应的内容之间相互独立,一条流量数据对应一次请求,一次请求对应一个软件接口,一个软件接口可对应多次请求;
网关数据的各项数据包括:每条流量数据的大小、每条流量数据对应的请求时间、每条流量数据对应的请求相应的软件接口;
所述网关数据采集模块每隔第一单位时间对第一日志内容进行一次解析;
所述网关数据采集模块将解析的第一日志内容中前第一单位时间对应的每条流量数据的大小按解析后流量数据的先后顺序逐个录入一个空白集合中,得到流量值数据集合A,将流量值数据集合A中的第n个元素对应的值记为An;
所述网关数据采集模块将解析的第一日志内容中前第一单位时间对应的每条流量数据对应的请求时间按解析后流量数据的先后顺序逐个录入一个空白集合中,得到请求时间集合B,将请求时间集合B中的第n个元素对应的值记为Bn;
所述网关数据采集模块将解析的第一日志内容中前第一单位时间对应的每条流量数据每条流量数据对应的请求相应的软件接口按解析后流量数据的先后顺序逐个录入一个空白集合中,得到软件接口集合C,将软件接口集合C中的第n个元素对应的值记为Cn;
所述流量值数据集合A、请求时间集合B及软件接口集合C分别对应的元素个数均等于网关数据采集模块解析的第一日志内容中前第一单位时间对应的流量数据条数;
所述网关数据采集模块还实时监测各个软件接口的运行状态,进而得到各个软件接口的运行状态时间曲线,所述每个运行状态时间曲线表示相应接口软件的运行状态随时间变化的情况,所述运行状态包括开启状态及关闭状态,
所述开启状态对应的运行状态时间曲线的值记为1,所述关闭状态对应的运行状态时间曲线对应的值记为0。
本发明网关数据中每个软件接口发出的每次请求对应一条流量数据,每条流量数据之间是相互独立的,因此,在对网关数据进行分析,需要对分析的数据进行细化,锁定到每个软件接口对应的每次请求相应的每条流量数据的情况,进而的得到每条流量数据的大小、每条流量数据对应的请求时间、每条流量数据对应的请求相应的软件接口;设置网关数据采集模块对第一日志内容进行解析每隔第一单位时间进行一次,是为了确保对网关数据分析的频率,同时也是为了锁定每次对网关数据进行分析时,分析的数据对应的范围(最近一次解析的第一日志内容中前第一单位时间对应的流量数据情况);得到流量值数据集合A、请求时间集合B及软件接口集合C,是为了对采集的数据进行统一保存及管理,同时也为了进行数据分析时快速得到相应的关联数据组;得到各个软件接口的运行状态时间曲线,是为了得到每个软件接口的运行状态与时间的关系,进而能够快速统计第一单位时间内指定的软件接口对应的运行总时长;将运行状态对应的运行状态时间曲线的值设置为1和0,是为了清晰、直观的反应出指定软件接口指定时间对应的运行状态(1表示开启状态,0表示关闭状态)。
所述网关数据关联项整合模块判断不同集合中的元素之间的是否存在关联性的方法包括以下步骤:
S1.1、获取网关数据采集模块中最近一次解析第一日志内容对应的流量值数据集合A、请求时间集合B及软件接口集合C;
S1.2、提取A中的第n1个元素对应的值An1、提取B中的第n2个元素对应的值Bn2、提取C中的第n3个元素对应的值Cn3;
S1.3、比较n1、n2与n3之间的大小关系,
当n1与n2之间,或n1与n3之间,或n2与n3之间中存在相等的情况时,则判定相等的两者分别对应的集合中的元素值存在关联性,
当n1与n2之间,或n1与n3之间,或n2与n3之间中均不存在相等的情况时,则判定n1、n2与n3分别对应的集合中的元素值不存在关联性;
所述网关数据关联项整合模块得到网关数据关联项对应的各个关联数据组的方法包括以下步骤:
S2.1、获取网关数据采集模块中最近一次解析第一日志内容对应的流量值数据集合A、请求时间集合B及软件接口集合C;
S2.2、提取A中的第i个元素对应的值Ai;
S2.3、提取B中与Ai存在关联性的元素对应的值Bi1、提取C中与Ai存在关联性的元素对应的值Ci2;
S2.4、得到网关数据采集模块中最近一次解析第一日志内容对应的第i个关联数据组Zi,所述Zi=[Ai,Bi1,Ci2]。
所述网关关联数据智能分析模块对各个关联数据组进行聚类时,所述类别个数与软件接口集合C中各元素对应的软件接口种类个数相同,并将对应的软件接口相同的各个关联数据组划分为同一种类,
本发明网关关联数据智能分析模块将软件接口相同的关联数据组划分为同一类,是为了后续对网关中各个软件接口对应的流量使用情况进行分析,进而预测出各个软件接口对应的流量使用情况,将预测的各个软件接口对应的预测值进行汇总累加,进而实现对网关数据的预测。
所述网关关联数据智能分析模块得到每个类别对应的第一变化率的方法包括以下步骤:
S3.3、将第前p天中与当前时间相同的时间点为参照点,
本实施例中若网关只有一个软件接口,即j=1,且k3等于2,p1等于2,
本发明网关关联数据智能分析模块得到每个类别对应的第一变化率的过程中,先获取第j类对应的软件接口在最近一次解析的第一日志内容中前第一单位时间对应的总流量是为了以每类对应的软件接口在每次解析的第一日志内容中前第一单位时间对应的总流量为数据分析单元,进而从历史中P、k2这两个角度对每个软件接口对应的总流量进行分析,进而得到每个类别对应的第一变化率;获取是因为第前p天中k2为不同值,因此历史上数据中前p天对应多个总流量,在进行数据预测时,需要对考虑可能发生的事件中的最坏情况,进而预测的结果才能达到预警的目的,而历史上数据中前p天对应多个总流量中的最坏情况即为k2位不同值时各个中的最大值计算是为了得到总流量在第一单位时间内的变化率;设置对的归一化处理方程g,是为了避免结算结果出现无意义的情况,进而使得预测结果无意义,影响最终对网关数据的预测结果;计算第一变化率时,设置p=p1-1,是因为p的取值范围为0≤p≤p1,而计算过程中出现p+1,通过0≤p+1≤p1,可以推导出此时p的上限为p=p1-1;计算第一变化率时,设置的调节系数是因为为第前p天相对于第前p+1天对应的第j类相应的软件接口的总流量的增长变化率,而第一变化率是相对于当前时间对应的第j类相应的软件接口的总流量的增长变化率进行获取,本身软件接口的流量使用情况就存在较大的波动性,因此历史的数据中对应的增长变化率相对于需要获取的第一变化率会存在一定的偏差,进而为历史数据中对应的增长变化率设置相应的调节系数,是为了对历史数据中对应的各个增长变化率进行校准(对应的调节系数为校准后的增长变化率为 其对应的是根据历史数据得到的增长变化率获取相对于当前时间对应的第j类相应的软件接口的总流量的增长变化率),再根据校准后的多个第j类相应的软件接口的总流量的增长变化率,通过求取平均值的方式得到第j个类别对应的第一变化率,该方式获取的第一变化率均是参照当前时间进行获取的,相对而言,更加精准,进而使得对网关流量数据的预测结果也更加准确。
所述网关关联数据智能分析模块得到每个类别对应的第二变化率的方法包括以下步骤:
S4.3、将第前p天中与当前时间相同的时间点为参照点,
本实施例中若网关只有一个软件接口,即j=1,且k3等于2,p1等于2,
本发明网关关联数据智能分析模块得到每个类别对应的第二变化率的过程中,先获取第j类对应的软件接口在最近一次解析的第一日志内容中前第一单位时间对应的运行总时长是为了以每类对应的软件接口在每次解析的第一日志内容中前第一单位时间对应的运行总时长为数据分析单元,进而从历史中P、k2这两个角度对每个软件接口对应的运行总时长进行分析,进而得到每个类别对应的第二变化率;获取是因为第前p天中k2为不同值,因此历史上数据中前p天对应多个运行总时长,在进行数据预测时,需要对考虑可能发生的事件中的最坏情况,进而预测的结果才能达到预警的目的,而历史上数据中前p天对应多个运行总时长中的最坏情况即为k2位不同值时各个中的最大值计算是为了得到运行总时长在第一单位时间内的变化率;设置对的归一化处理方程g1,是为了避免结算结果出现无意义的情况,进而使得预测结果无意义,影响最终对网关数据的预测结果;计算第一变化率时,设置调节系数的作用于调节系数的作用相同,也是起到调节校准的效果(对进行调节校准)。
所述网关关联数据智能分析模块得到每个类别对应的第三变化率的方法包括以下步骤:
S5.1、获取第j类中各个关联数据组中的第2个元素对应的请求时间,计算相邻两个请求时间之间的时间差,
将第j类中第v+1个关联数据组对应的请求时间与第j类中第v个关联数据组对应的请求时间之间的时间差记为tv,
S5.3、将第前p天中与当前时间相同的时间点为参照点,
所述网关流量数据预测模块对网关流量数据进行预测的方法包括以下步骤:
S6.1、得到基于当前时间的下一次解析的第一日志内容中前第一单位时间中网关流量数据的第一预测值W1,
当j=0时,所述W1=0,
S6.2、得到基于当前时间的下一次解析的第一日志内容中前第一单位时间中网关流量数据的第二预测值W2,
当j=0时,所述W2=0,
S6.3、得到基于当前时间的下一次解析的第一日志内容中前第一单位时间中网关流量数据的最终预测值W,所述W={W1,W2}max。
本实施例中若网关只有一个软件接口,即j=1,且k3等于2,p1等于2,
则第一预测值W1=(1+0.3)*0.5*(1-0.48)*2400=811.2;
第二预测值W2=(1+0.275)*600=765;
因为811.2>765,
所以最终预测值W={W1,W2}max=811.2。
本发明网关流量数据预测模块在对网关流量数据进行预测时,采用了两种预测方式,并对两种预测结果进行筛选,得到网关流量数据的最终预测值;获取第一预测值W1时,是通过第二变化率及第三变化率来进行预测的,是从软件接口的使用时间的增长情况及软件接口单位时间流量消耗值的增长情况这两个角度来分析的;获取第二预测值W2时,是通过第一变化率来进行预测的,是从软件接口使用的总流量的增长情况这个角度来分析的。
一种基于人工智能的智能网关监控管理方法,所述方法包括以下步骤:
S1、通过网关数据采集模块对网关数据进行异步采集,并将采集结果写到第一日志中,对第一日志内容进行解析,并分别提取网关数据的各项数据,得到网关数据各项数据相应的集合;
S2、通过网关数据关联项整合模块对网关数据各项数据相应的集合进行分析,判断不同集合中的元素之间的是否存在关联性,通过存在关联性的集合元素进行整合,分别得到网关数据关联项对应的各个关联数据组;
S3、通过网关关联数据智能分析模块对各个关联数据组进行聚类,并分析,得到每个类别对应的第一变化率、第二变化率及第三变化率;
S4、通过网关流量数据预测模块结合当前时间网关数据关联项对应的各个关联数据组及历史数据中的关联数据组,对网关流量数据进行预测;
S5、在预警模块中,将网关流量数据预测模块对网关流量数据的预测结果与阈值进行对比,
当预测结果大于等于阈值时,预警模块向用户进行报警,
当预测结果小于阈值时,预警模块不向用户进行报警。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。
最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (5)
1.一种基于人工智能的智能网关监控管理***,其特征在于,包括:
网关数据采集模块,所述网关数据采集模块用于对网关数据进行异步采集,并将采集结果写到第一日志中,对第一日志内容进行解析,并分别提取网关数据的各项数据,得到网关数据各项数据相应的集合;
网关数据关联项整合模块,所述网关数据关联项整合模块对网关数据各项数据相应的集合进行分析,判断不同集合中的元素之间的是否存在关联性,通过存在关联性的集合元素进行整合,分别得到网关数据关联项对应的各个关联数据组;
网关关联数据智能分析模块,所述网关关联数据智能分析模块对各个关联数据组进行聚类,并分析,得到每个类别对应的第一变化率、第二变化率及第三变化率,第一变化率表示第一单位时间内总流量的增长变化率,第二变化率表示第一单位时间内运行总时长的变化率,第三变化率表示第一单位时间内对应单位时间流量消耗值的变化率;
网关流量数据预测模块,所述网关流量数据预测模块结合当前时间网关数据关联项对应的各个关联数据组及历史数据中的关联数据组,对网关流量数据进行预测;
预警模块,所述预警模块将网关流量数据预测模块对网关流量数据的预测结果与阈值进行对比,
当预测结果大于等于阈值时,预警模块向用户进行报警,
当预测结果小于阈值时,预警模块不向用户进行报警;
对网关流量数据进行预测时,通过第二变化率及第三变化率获取第一预测值W1,通过第一变化率获取第二预测值W2,得到网关流量数据的最终预测值W={W1,W2}max,其中,{W1,W2}max表示W1与W2中的最大值;
所述网关数据采集模块异步采集的是流量数据,不同流量数据对应的内容之间相互独立,一条流量数据对应一次请求,一次请求对应一个软件接口,一个软件接口可对应多次请求;
网关数据的各项数据包括:每条流量数据的大小、每条流量数据对应的请求时间、每条流量数据对应的请求相应的软件接口;
所述网关数据采集模块每隔第一单位时间对第一日志内容进行一次解析;
所述网关数据采集模块将解析的第一日志内容中前第一单位时间对应的每条流量数据的大小按解析后流量数据的先后顺序逐个录入一个空白集合中,得到流量值数据集合A,将流量值数据集合A中的第n个元素对应的值记为An;
所述网关数据采集模块将解析的第一日志内容中前第一单位时间对应的每条流量数据对应的请求时间按解析后流量数据的先后顺序逐个录入一个空白集合中,得到请求时间集合B,将请求时间集合B中的第n个元素对应的值记为Bn;
所述网关数据采集模块将解析的第一日志内容中前第一单位时间对应的每条流量数据对应的请求相应的软件接口按解析后流量数据的先后顺序逐个录入一个空白集合中,得到软件接口集合C,将软件接口集合C中的第n个元素对应的值记为Cn;
所述流量值数据集合A、请求时间集合B及软件接口集合C分别对应的元素个数均等于网关数据采集模块解析的第一日志内容中前第一单位时间对应的流量数据条数;
所述网关数据采集模块还实时监测各个软件接口的运行状态,进而得到各个软件接口的运行状态时间曲线,所述每个运行状态时间曲线表示相应接口软件的运行状态随时间变化的情况,所述运行状态包括开启状态及关闭状态,
所述开启状态对应的运行状态时间曲线的值记为1,所述关闭状态对应的运行状态时间曲线对应的值记为0;
所述网关数据关联项整合模块判断不同集合中的元素之间的是否存在关联性的方法包括以下步骤:
S1.1、获取网关数据采集模块中最近一次解析第一日志内容对应的流量值数据集合A、请求时间集合B及软件接口集合C;
S1.2、提取A中的第n1个元素对应的值An1、提取B中的第n2个元素对应的值Bn2、提取C中的第n3个元素对应的值Cn3;
S1.3、比较n1、n2与n3之间的大小关系,
当n1与n2之间,或n1与n3之间,或n2与n3之间中存在相等的情况时,则判定相等的两者分别对应的集合中的元素值存在关联性,
当n1与n2之间,或n1与n3之间,或n2与n3之间中均不存在相等的情况时,则判定n1、n2与n3分别对应的集合中的元素值不存在关联性;
所述网关数据关联项整合模块得到网关数据关联项对应的各个关联数据组的方法包括以下步骤:
S2.1、获取网关数据采集模块中最近一次解析第一日志内容对应的流量值数据集合A、请求时间集合B及软件接口集合C;
S2.2、提取A中的第i个元素对应的值Ai;
S2.3、提取B中与Ai存在关联性的元素对应的值Bi1、提取C中与Ai存在关联性的元素对应的值Ci2;
S2.4、得到网关数据采集模块中最近一次解析第一日志内容对应的第i个关联数据组Zi,所述Zi=[Ai,Bi1,Ci2];
所述网关关联数据智能分析模块对各个关联数据组进行聚类时,所述类别个数与软件接口集合C中各元素对应的软件接口种类个数相同,并将对应的软件接口相同的各个关联数据组划分为同一种类,
所述网关关联数据智能分析模块得到每个类别对应的第一变化率的方法包括以下步骤:
S3.3、将第前p天中与当前时间相同的时间点为参照点,
2.根据权利要求1所述的一种基于人工智能的智能网关监控管理***,其特征在于:所述网关关联数据智能分析模块得到每个类别对应的第二变化率的方法包括以下步骤:
S4.3、将第前p天中与当前时间相同的时间点为参照点,
3.根据权利要求2所述的一种基于人工智能的智能网关监控管理***,其特征在于:所述网关关联数据智能分析模块得到每个类别对应的第三变化率的方法包括以下步骤:
S5.1、获取第j类中各个关联数据组中的第2个元素对应的请求时间,计算相邻两个请求时间之间的时间差,
将第j类中第v+1个关联数据组对应的请求时间与第j类中第v个关联数据组对应的请求时间之间的时间差记为tv,
S5.3、将第前p天中与当前时间相同的时间点为参照点,
5.应用权利要求1-4任意一项所述的一种基于人工智能的智能网关监控管理***的基于人工智能的智能网关监控管理方法,其特征在于:所述方法包括以下步骤:
S1、通过网关数据采集模块对网关数据进行异步采集,并将采集结果写到第一日志中,对第一日志内容进行解析,并分别提取网关数据的各项数据,得到网关数据各项数据相应的集合;
S2、通过网关数据关联项整合模块对网关数据各项数据相应的集合进行分析,判断不同集合中的元素之间的是否存在关联性,通过存在关联性的集合元素进行整合,分别得到网关数据关联项对应的各个关联数据组;
S3、通过网关关联数据智能分析模块对各个关联数据组进行聚类,并分析,得到每个类别对应的第一变化率、第二变化率及第三变化率;
S4、通过网关流量数据预测模块结合当前时间网关数据关联项对应的各个关联数据组及历史数据中的关联数据组,对网关流量数据进行预测;
S5、在预警模块中,将网关流量数据预测模块对网关流量数据的预测结果与阈值进行对比,
当预测结果大于等于阈值时,预警模块向用户进行报警,
当预测结果小于阈值时,预警模块不向用户进行报警。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210440949.8A CN114553733B (zh) | 2022-04-26 | 2022-04-26 | 一种基于人工智能的智能网关监控管理***及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210440949.8A CN114553733B (zh) | 2022-04-26 | 2022-04-26 | 一种基于人工智能的智能网关监控管理***及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114553733A CN114553733A (zh) | 2022-05-27 |
CN114553733B true CN114553733B (zh) | 2022-07-26 |
Family
ID=81667733
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210440949.8A Active CN114553733B (zh) | 2022-04-26 | 2022-04-26 | 一种基于人工智能的智能网关监控管理***及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114553733B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10320644B1 (en) * | 2015-09-14 | 2019-06-11 | Amazon Technologies, Inc. | Traffic analyzer for isolated virtual networks |
CN110086649A (zh) * | 2019-03-19 | 2019-08-02 | 深圳壹账通智能科技有限公司 | 异常流量的检测方法、装置、计算机设备及存储介质 |
CN113591950A (zh) * | 2021-07-19 | 2021-11-02 | 中国海洋大学 | 一种随机森林网络流量分类方法、***、存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111212337B (zh) * | 2019-12-27 | 2022-02-25 | 中国联合网络通信集团有限公司 | 端口分类方法及装置 |
CN112949739A (zh) * | 2021-03-17 | 2021-06-11 | 中国电子科技集团公司第二十九研究所 | 一种基于智能流量分类的信息传输调度方法及*** |
-
2022
- 2022-04-26 CN CN202210440949.8A patent/CN114553733B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10320644B1 (en) * | 2015-09-14 | 2019-06-11 | Amazon Technologies, Inc. | Traffic analyzer for isolated virtual networks |
CN110086649A (zh) * | 2019-03-19 | 2019-08-02 | 深圳壹账通智能科技有限公司 | 异常流量的检测方法、装置、计算机设备及存储介质 |
CN113591950A (zh) * | 2021-07-19 | 2021-11-02 | 中国海洋大学 | 一种随机森林网络流量分类方法、***、存储介质 |
Non-Patent Citations (1)
Title |
---|
互联网流量分类中流量特征研究;刘珍等;《计算机应用研究》;20170131;第34卷(第01期);第8-13页 * |
Also Published As
Publication number | Publication date |
---|---|
CN114553733A (zh) | 2022-05-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111356148B (zh) | 一种实现网络优化的方法及相关设备 | |
CN108415789B (zh) | 面向大规模混合异构存储***的节点故障预测***及方法 | |
US20190222503A1 (en) | System Event Analyzer and Outlier Visualization | |
US9794158B2 (en) | System event analyzer and outlier visualization | |
CN107742127A (zh) | 一种改进的防窃电智能预警***及方法 | |
CN113159374B (zh) | 一种数据驱动的城市交通流速模式识别与实时预测预警方法 | |
US20070288626A1 (en) | Kalman filtering for grid computing telemetry and workload management | |
CN113159615A (zh) | 一种工业控制***信息安全风险智能测定***及方法 | |
CN112363896A (zh) | 日志异常检测*** | |
CN116795655B (zh) | 一种基于人工智能的存储设备性能监测***及方法 | |
CN111831706A (zh) | 一种应用之间关联规则的挖掘方法、装置及存储介质 | |
CN114553733B (zh) | 一种基于人工智能的智能网关监控管理***及方法 | |
US8471712B2 (en) | Detecting abnormal time intervals | |
CN117149733B (zh) | 一种基于大数据的多平台日志审计分析***及方法 | |
CN111784379B (zh) | 追缴电费的估算方法、装置和异常案例的筛选方法、装置 | |
CN111984514A (zh) | 基于Prophet-bLSTM-DTW的日志异常检测方法 | |
CN114779731B (zh) | 一种面向智能制造的生产数据动态监测分析***及方法 | |
Wang et al. | A state monitoring method of gas regulator station based on evidence theory driven by time-domain information | |
CN108229585A (zh) | 一种日志的归类方法及*** | |
CN117828371B (zh) | 一种综合运维平台的业务信息智能分析方法 | |
CN117391261B (zh) | 一种基于低功耗超声波测量的物联网ai智慧水务*** | |
CN117689070B (zh) | 一种基于物联网设备的电表管理*** | |
CN114647386B (zh) | 基于人工智能的大数据分布式存储方法 | |
WO2024066331A1 (zh) | 网络异常检测方法、装置、电子设备及存储介质 | |
Ou et al. | Sequential screening in semiconductor manufacturing, II: Exploiting lot-to-lot variability |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |