CN110581834A - 一种通信能力开放异常检测方法和装置 - Google Patents
一种通信能力开放异常检测方法和装置 Download PDFInfo
- Publication number
- CN110581834A CN110581834A CN201810595921.5A CN201810595921A CN110581834A CN 110581834 A CN110581834 A CN 110581834A CN 201810595921 A CN201810595921 A CN 201810595921A CN 110581834 A CN110581834 A CN 110581834A
- Authority
- CN
- China
- Prior art keywords
- operation parameters
- anomaly detection
- detected
- communication capability
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/16—Threshold monitoring
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/50—Testing arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
- H04L63/1425—Traffic logging, e.g. anomaly detection
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Computer Hardware Design (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明实施例提供一种通信能力开放异常检测方法和装置,其中方法包括:将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果;其中,运行参数包括API调用数据、并发事务数据和模块时延数据中的至少一种;异常检测模型为基于样本运行参数训练得到的。本发明实施例提供的方法和装置,通过将运行参数输入至异常检测模型,获取异常检测结果,实现了通信能力开放平台的在线实时检测,提高了异常检测的精度,从而实现了异常的提早发现、提早预警,为应对异常事件赢得了宝贵的时间,提升了运营商通信能力开放的风险防范水平,为应对瞬息万变的移动互联网应用需求提供了条件。
Description
技术领域
本发明实施例涉及通信核心网技术领域,尤其涉及一种通信能力开放异常检测方法和装置。
背景技术
通信能力开放是指电信运营商将传统的电信能力通过标准的restful API接口开放给第三方应用,以方便第三方应用开发者进行调用。通信能力开放的出现,使得应用开发者无需再了解运营商底层复杂的通信协议,也实现了传统电信能力如短彩信、单双向呼叫等的变现以及新潜能的挖掘,实现了传统电信网络与移动互联网的融合,填充了流量日渐萎缩的传统短彩信、语音管道。通信能力开放平台集成整合南向网元即能力提供者的各种能力,将各种通信协议接口进行封装,将能力转换为统一的通用API接口协议后提供给北向应用调用。
随着通信能力开放业务量的增加、北向应用的增多,加上北向应用行为不可控的特性,业务复杂性也成倍提高,精准的异常检测显得尤为必要。
而现有的通信网络能力开放异常检测方法,主要采用对各项运行参数分别设置阈值的方式。这种简单粗放、一刀切的方式,存在着虚警率高、准确度低的问题。
发明内容
本发明实施例提供一种通信能力开放异常检测方法和装置,用以解决现有的通信网络能力开放异常检测方法中异常检测的虚警率高以及准确度低问题。
一方面,本发明实施例提供一种通信能力开放异常检测方法,包括:将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果;其中,运行参数包括API调用数据、并发事务数据和模块时延数据中的至少一种;异常检测模型为基于样本运行参数训练得到的。
另一方面,本发明实施例提供一种通信能力开放异常检测装置,包括:异常检测单元,用于将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果;其中,运行参数包括API调用数据、并发事务数据和模块时延数据中的至少一种;异常检测模型为基于样本运行参数训练得到的。
再一方面,本发明实施例提供一种通信能力开放异常检测设备,包括处理器、通信接口、存储器和总线,其中,处理器,通信接口,存储器通过总线完成相互间的通信,处理器可以调用存储器中的逻辑指令,以执行如前所述的通信能力开放异常检测方法。
又一方面,本发明实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如前所述的通信能力开放异常检测方法。
本发明实施例提供的一种通信能力开放异常检测方法和装置,通过将运行参数输入至异常检测模型,获取异常检测结果,实现了通信能力开放平台的在线实时检测,提高了异常检测的精度,从而实现了异常的提早发现、提早预警,为应对异常事件赢得了宝贵的时间,提升了运营商通信能力开放的风险防范水平,为应对瞬息万变的移动互联网应用需求提供了条件。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例的一种通信能力开放异常检测方法的流程示意图;
图2为本发明实施例的一种通信能力开放平台的结构示意图;
图3为本发明实施例的一种自编码神经网络的结构示意图;
图4为本发明实施例的一种PR曲线图;
图5为本发明实施例的一种通信能力开放异常检测方法的流程示意图;
图6为本发明实施例的一种通信能力开放异常检测装置的结构示意图;
图7为本发明实施例的一种通信能力开放异常检测设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
现有技术方案中通信能力开放异常检测方法,主要采用对各项运行参数分别设置阈值的方式。这种简单粗放、一刀切的方式,存在着虚警率高、准确度低的问题,已经无法满足目前通信能力开放的运维需求。针对上述情况,本发明实施例提出一种通信能力开放异常检测方法,图1为本发明实施例的一种通信能力开放异常检测方法的流程示意图,如图1所示,该方法包括:
101,将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果。
其中,运行参数包括API调用数据、并发事务数据和模块时延数据中的至少一种。此处的API调用数据是指北向应用或南向组件调用待检测通信能力开放平台的接口的相关数据,例如调用次数、调用成功次数和调用失败次数等。并发事务数据是指待检测通信能力开放平台每秒接受并处理API调用请求的数量,是用于衡量待检测通信能力开放平台性能的重要指标。模块时延数据是指待检测通信能力开放平台各模块的时延数据,参考图2,此处的模块可以是业务能力接入模块(E-SA)、开放业务编排模块(E-SO)、运营管理服务编排模块(M-SO)或消息总线模块(BUS-SO),还可以是北向应用或南向组件。本发明实施例不对运行参数的选取作具体限定。
异常检测结果用于表征所述待检测通信能力开放平台的运行状态,可以是正常或异常。其中,异常是指待检测通信能力开放平台的运行状态与正常状态存在较大的偏离。
另外,在执行上述过程之前,还可预先训练得到异常检测模型,具体可通过如下方式训练得到:首先,收集大量样本运行参数。基于样本运行参数对初始模型进行训练,从而得到异常检测模型。其中,初始模型可以是单一神经网络模型,也可以是多个神经网络模型的组合,本发明实施例不对初始模型的类型和结构作具体限定。
本发明实施例提出的方法,通过将运行参数输入至异常检测模型,获取异常检测结果,实现了通信能力开放平台的在线实时检测,提高了异常检测的精度,从而实现了异常的提早发现、提早预警,为应对异常事件赢得了宝贵的时间,提升了运营商通信能力开放的风险防范水平,为应对瞬息万变的移动互联网应用需求提供了条件。
基于上述实施例,一种通信能力开放异常检测方法,101,将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果,具体包括:
1011,将所述运行参数输入至异常检测模型的自编码神经网络,输出运行参数对应的重构参数。
其中,自编码神经网络是一种无监督学习方法,其作用在于,将输入样本压缩到隐藏层,再在输出端重建样本。也就是说,自编码神经网络的输出x′与输入x存在如下关系:x′≈x。由此,本发明实施例中将运行参数输入至自编码神经网络,通过自编码神经网络的压缩和重建,即可得到运行参数的重构参数。
例如,当运行参数包含14个参数时,调用keras.model中的predict函数autoencoder.predict(X_test),将平台实时运行参数数据输入到predict函数中去,然后输出重建后的重构参数。
重构参数:
S’={X1’,X2’,X3’,X4’,X5’,X6’,X7’,X8’,X9’,X10’,X11’,X12’,X13’,X14’}
运行参数(输入数据):
S={X1,X2,X3,X4,X5,X6,X7,X8,X9,X10,X11,X12,X13,X14}
1012,计算运行参数和重构参数之间的重构误差。
重构误差用于衡量运行参数与重构参数之间的差距,通常重构误差越大则说明对应的运行参数与正常参数之间的差距越大。重构误差的计算方法有多种,例如将运行参数和重构参数之间差值的绝对值作为重构误差,或者将运行参数与重构参数之间差值的均方误差作为重构误差,本发明实施例对此不作具体限定。
作为优选,根据下式将运行参数与重构参数之间差值的平方作为重构误差:
L(x,x′)=||x-x′||2;
其中,x为运行参数,x′为重构参数,L(x,x′)为重构误差。
1013,若重构误差大于预设阈值,则将待检测通信能力开放平台的异常检测结果设置为异常。此处,预设阈值是根据具体应用场景和业务需求预先设定的阈值。
本发明实施例中,通过自编码神经网络获取重构参数并将运行参数和重构参数之间的重构误差作为衡量待检测通信能力开放平台异常状态的依据,有效提高了通信能力开放异常检测的准确率,提升了通信能力开放运行的稳定性。
基于上述任一实施例,一种通信能力开放异常检测方法,API调用数据包括API总调用量、API调用失败量、API调用成功量、API调用成功率、API调用最大响应时延和API调用最小响应时延中的至少一种;并发事务数据包括峰值并发事务数和/或平均并发事务数;模块时延数据包括南向组件平均时延、北向组件平均时延、E-SA业务能力接入模块平均处理时延、E-SO业务编排模块平均处理时延、M-SO运营管理编排模块平均处理时延和BUS-SO消息总线模块平均处理时延中的至少一种。
具体地,运行参数如下表所示:
表1.运行参数表
基于上述任一实施例,一种通信能力开放异常检测方法,将运行参数输入至异常检测模型的自编码神经网络,输出运行参数对应的重构参数,具体包括:将运行参数输入至自编码神经网络的编码器,输出运行参数的特征向量;编码器用于对运行参数进行压缩降维;将特征向量输入至自编码神经网络的解码器,输出运行参数对应的重构参数;解码器用于对特征向量进行还原重建。
具体地,自编码神经网络包括编码器和解码器。自编码神经网络通过将运行参数进行压缩,然后再解压,通过对比运行参数和解压后的重构参数,求出重构误差,进行反向传递,逐步提升自编码神经网络的准确性。自编码神经网络从始至终只应用了运行参数,而无需运行参数对应的数据标签,因而自编码神经网络是一种非监督学习,自编码过程即把输入的运行参数进行压缩和解压缩的过程。
其中,编码器用于对运行参数进行压缩降维,抽取代表各项运行参数的特征向量,解码器用于对运行参数进行还原重建,根据抽取的特征向量对输入编码器中的运行参数进行重建。
图3为本发明实施例的一种自编码神经网络的结构示意图,图3中每个圆圈代表一个神经元,每个隐藏层均为全连接层,即每个神经元之间均两两连接,每条线上有不同的权重,自编码神经网络通过训练会自主学习得到权重值。如图3所示,自编码神经网络包含1个输入层、N个隐藏层(图3中为N个全连接层)和1个输出层。假设输入至自编码神经网络的运行参数共14个,则对应地输入层含有14个神经元,输出层含有14个神经元。N个隐藏层中前N/2层属于编码器,后N/2层属于解码器。
以下以运行参数为14,N=6为例介绍自编码神经网络的结构:编码器中,第一层设置14个神经元,选择“tanh”为激活函数,第二层设置7个神经元,选择“relu”为激活函数,第三层设置3个神经元,选择“relu”为激活函数;解码器中,第一层设置3个神经元,选择“tanh”为激活函数,第二层设置7个神经元,选择“tanh”为激活函数,第三层设置14个神经元,选择“relu”为激活函数。需要说明的是,本发明实施例不对输入自编码神经网络的运行参数数量、自编码神经网络编码器和起码器的全连接层数量以及每一全连接层中神经元的数量作具体限定。
基于上述任一实施例,一种通信能力开放异常检测方法,若重构误差大于预设阈值,则将待检测通信能力开放平台的异常检测结果设置为异常,之前还包括:根据异常检测模型的精确率、召回率和F-Measure中的至少一种确定预设阈值。
具体地,在异常检测问题中,大部分样本运行参数是通信能力开放平台处于正常状态下的数据,因而正常和异常两类样本严重不均衡,此时的异常检测模型性能时就不能简单地用分类错误率或者正确率来描述了。异常检测的数据属偏斜数据集,即正负样本的数量非常不均衡,负样本(通信能力开放平台处于正常状态下)很多,正样本(通信能力开放平台处于正常状态下)很少。针对此类偏斜数据集需要用精确率(precision)、召回率(recall)、F-Measure等概念来度量。
其中,精确率的计算公式如下:
召回率的计算公式如下:
式中,P为精确率,R为召回率,TP为异常检测模型准确识别出的异常点的数量,FP为异常检测模型误将正常点识别为异常点的数量,FN为异常检测模型误将异常点识别为正常点的数量。
由于精确率和召回率指标可能存在矛盾的情况,需要根据模型场景综合考虑两者。因而预设阈值的选择需要结合具体应用场景及业务要求,假设在通信能力开放平台的异常检测场景中,期望每次异常均能够检测出来,因此可以通过牺牲一定准确率来换取较高的召回率。由于在正负样本分布得极不均匀的情况下,PRC曲线比ROC曲线能更有效地反应本模型的好坏,因此可以通过sklearn.metrics.precision_recall_curve绘制PR曲线(precision recall curve),参考图4,该曲线是以精确率和召回率为轴,取不同的阈值绘制的。曲线下的面积(AUC)越大或曲线更接近右上角(precision=1,recall=1),则模型越理想。根据该曲线在设定合理的准确率下,将最高的召回率作为最优阈值点,从而找到该点对应的阈值作为预设阈值。
基于上述任一实施例,一种通信能力开放异常检测方法,将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果,之前还包括:基于样本运行参数,将样本运行参数和自编码神经网络输出的重构参数的均方误差作为目标函数训练自编码神经网络;样本运行参数为通信能力开放平台处于正常状态时的运行参数。
例如,将训练次数设置为100(epochs=100),批处理大小设置为32(batch_size=32),选取样本运行参数和自编码神经网络输出的样本重构参数的均方误差MSE(MeanSquared Error)作为损失函数即目标函数(loss=′mean_squared_error′),选择adam优化器用于改善传统梯度下降的学***台处于正常状态时的运行参数)进行训练,使得重构参数与运行参数越接近越好。
另外,还可以通过测试运行参数(含通信能力开放平台处于正常状态时的运行参数和处于异常状态时的运行参数)来评价验证模型。
随着训练回合数的增加,训练误差也逐渐下降,模型逐渐收敛,将收敛后的模型在测试集上进行测试,将测试集中的运行参数输入到训练好的自编码神经网络,输出测试集中运行参数的重建值后,通过计算测试集重建值和真实值之间的均方误差MSE(MeanSquared Error)来评估模型的性能。
基于上述任一实施例,一种通信能力开放异常检测方法,基于所述样本运行参数,将样本运行参数和自编码神经网络输出的样本重构参数的均方误差作为目标函数训练自编码神经网络,之前还包括:对样本运行参数进行标准化处理。对应地,将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果,之前还包括:对运行参数进行标准化处理。
具体地,对样本运行参数或运行参数进行标准化处理,包括:使用sklearn中的函数preprocessing.StandardScaler()对每一样本运行参数或运行参数包含的每一属性的参数分别进行标准化处理,标准化处理公式为(X-mean)/std。计算时对每个属性分别进行,将样本运行参数或运行参数按其属性减去其均值,并除以其方差。经过标准化处理之后,对于每一属性而言,所有数据都聚集在0附近,方差为1。标准化处理能够提升异常检测模型的收敛速度、提高异常检测模型的精度。
此外,针对样本运行参数,在基于样本运行参数训练自编码神经网络之前,还需要根据数据集中运行参数对应的通信能力开放平台状态,从中选取通信能力开放平台处于正常状态的运行参数作为样本运行参数。
例如,在数据集中,通信能力开放平台处于正常状态的运行参数为4842个,通信能力开放平台处于异常状态的运行参数为126个,两类样本数量极不均衡。数据集的总长度为4968,取整个数据集的80%为训练数据,即作为样本运行参数,剩余20%为测试数据,即作为测试运行参数。此外,去除样本运行参数中通信能力开放平台处于异常状态的运行参数,使得样本运行参数均为通信能力开放平台处于异常状态的运行参数,同时去除样本运行参数和测试运行参数中标记有通信能力开放平台状态的标签。由此得到样本运行参数的长度X_train.shape=(3974,14),测试运行参数的长度X_test.shape=(994,14)。用样本训练参数去训练自编码神经网络,然后用测试运行参数来检验自编码神经网络的优劣。
为了更好地理解与应用本发明提出的一种通信能力开放异常检测方法,本发明进行以下示例,且本发明不仅局限于以下示例。
图5为本发明实施例的一种通信能力开放异常检测方法的流程示意图,如图5所示,
首先,获取通信能力开放平台历史运行参数,构建数据集。本示例中数据集为从运营商通信能力开放平台获取的2017年7月1日0点至2018年1月24日8点的每小时多维度运行参数,总计4968条。此处,运行数据包括API总调用量、API调用失败量、API调用成功量、API调用成功率、API调用最大响应时延、API调用最小响应时延、峰值并发事务数、平均并发事务数、南向组件平均时延、北向组件平均时延、E-SA业务能力接入模块平均处理时延、E-SO业务编排模块平均处理时延、M-SO运营管理编排模块平均处理时延和BUS-SO消息总线模块平均处理时延,共14种。
其次,对数据集进行预处理。标记数据集中运行参数对应的通信能力开放平台状态。其中,处于正常状态的运行参数为4842个,处于异常状态的运行参数为126个。随后,对数据集进行标准化处理,使用sklearn中的函数preprocessing.StandardScaler()对每一样本运行参数包含的每一属性的参数分别进行标准化处理,标准化处理公式为(X-mean)/std。计算时对每个属性分别进行,将样本运行参数按其属性减去其均值,并除以其方差。经过标准化处理之后,对于每一属性而言,所有数据都聚集在0附近,方差为1。最后,划分样本运行参数和训练运行参数。数据集的总长度为4968,取整个数据集的80%为训练数据,即作为样本运行参数,剩余20%为测试数据,即作为测试运行参数。此外,去除样本运行参数中通信能力开放平台处于异常状态的运行参数,使得样本运行参数均为通信能力开放平台处于异常状态的运行参数,同时去除样本运行参数和测试运行参数中标记有通信能力开放平台状态的标签。由此得到样本运行参数的长度X_train.shape=(3974,14),测试运行参数的长度X_test.shape=(994,14)。用样本训练参数去训练自编码神经网络,然后用测试运行参数来检验自编码神经网络的优劣。
随后,搭建自编码神经网络。此处,自编码神经网络包含1个输入层、6个隐藏层(全连接层)和1个输出层。地输入层含有14个神经元,输出层含有14个神经元。6个隐藏层中前3层属于编码器,后3层属于解码器。编码器中,第一层设置14个神经元,选择“tanh”为激活函数,第二层设置7个神经元,选择“relu”为激活函数,第三层设置3个神经元,选择“relu”为激活函数;解码器中,第一层设置3个神经元,选择“tanh”为激活函数,第二层设置7个神经元,选择“tanh”为激活函数,第三层设置14个神经元,选择“relu”为激活函数。
将训练次数设置为100(epochs=100),批处理大小设置为32(batch_size=32),选取样本运行参数和自编码神经网络输出的样本重构参数的均方误差MSE(Mean SquaredError)作为损失函数即目标函数(loss=′mean_squared_error′),选择adam优化器用于改善传统梯度下降的学***台处于正常状态时的运行参数)进行训练,使得重构参数与运行参数越接近越好。
离线训练一旦完成后,将计算得出的自编码神经网络权重导出,当需要在线检测时直接加载保存的权重,就可以使用已训练好的自编码神经网络,在线根据运行参数进行异常检测。调用keras.model中的predict函数autoencoder.predict(X_test),将平台实时运行参数数据输入到predict函数中去,然后输出重建后的重构参数。
重构参数:
S’={X1’,X2’,X3’,X4’,X5’,X6’,X7’,X8’,X9’,X10’,X11’,X12’,X13’,X14’}
运行参数(输入数据):
S={X1,X2,X3,X4,X5,X6,X7,X8,X9,X10,X11,X12,X13,X14}
随后,根据下式将运行参数与重构参数之间差值的平方作为重构误差:
L(x,x′)=||x-x′||2;
其中,x为运行参数,x′为重构参数,L(x,x′)为重构误差。
若重构误差大于预设阈值,则将待检测通信能力开放平台的异常检测结果设置为异常。.
本示例中,通过将运行参数输入至异常检测模型,获取异常检测结果,实现了通信能力开放平台的在线实时检测,提高了异常检测的精度,从而实现了异常的提早发现、提早预警,为应对异常事件赢得了宝贵的时间,提升了运营商通信能力开放的风险防范水平,为应对瞬息万变的移动互联网应用需求提供了条件。
此外,通过自编码神经网络获取重构参数并将运行参数和重构参数之间的重构误差作为衡量待检测通信能力开放平台异常状态的依据,有效提高了通信能力开放异常检测的准确率,提升了通信能力开放运行的稳定性。
基于上述任一方法实施例,图6为本发明实施例的一种通信能力开放异常检测装置的结构示意图,如图6所示,一种通信能力开放异常检测装置,包括:
异常检测单元601,用于将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果;其中,运行参数包括API调用数据、并发事务数据和模块时延数据中的至少一种;异常检测模型为基于样本运行参数训练得到的。
需要说明的是,上述异常检测单元601用以执行上述实施例中的一种通信能力开放异常检测方法,该***的具体功能参见上述的通信能力开放异常检测方法的实施例,此处不再赘述。
本发明实施例提出的装置,通过将运行参数输入至异常检测模型,获取异常检测结果,实现了通信能力开放平台的在线实时检测,提高了异常检测的精度,从而实现了异常的提早发现、提早预警,为应对异常事件赢得了宝贵的时间,提升了运营商通信能力开放的风险防范水平,为应对瞬息万变的移动互联网应用需求提供了条件。
基于上述任一实施例,一种通信能力开放异常检测装置,异常检测单元601具体包括:
重构参数子单元,用于将运行参数输入至异常检测模型的自编码神经网络,输出运行参数对应的重构参数;
重构误差子单元,用于计算运行参数和重构参数之间的重构误差;
异常检测子单元,用于若重构误差大于预设阈值,则将待检测通信能力开放平台的异常检测结果设置为异常。
基于上述任一实施例,一种通信能力开放异常检测装置,API调用数据包括API总调用量、API调用失败量、API调用成功量、API调用成功率、API调用最大响应时延和API调用最小响应时延中的至少一种;并发事务数据包括峰值并发事务数和/或平均并发事务数;模块时延数据包括南向组件平均时延、北向组件平均时延、E-SA业务能力接入模块平均处理时延、E-SO业务编排模块平均处理时延、M-SO运营管理编排模块平均处理时延和BUS-SO消息总线模块平均处理时延中的至少一种。
基于上述任一实施例,一种通信能力开放异常检测装置,重构参数子单元,具体包括:
编码模块,用于将运行参数输入至自编码神经网络的编码器,输出运行参数的特征向量;编码器用于对运行参数进行压缩降维;
解码模块,用于将特征向量输入至自编码神经网络的解码器,输出运行参数对应的重构参数;解码器用于对特征向量进行还原重建。
基于上述任一实施例,一种通信能力开放异常检测装置,异常检测单元601还包括:
阈值获取子单元,用于根据异常检测模型的精确率、召回率和F-Measure中的至少一种确定预设阈值。
基于上述任一实施例,一种通信能力开放异常检测装置,异常检测单元601还包括:
训练子单元,用于基于样本运行参数,将样本运行参数和自编码神经网络输出的样本重构参数的均方误差作为目标函数训练自编码神经网络;样本运行参数为通信能力开放平台处于正常状态时的运行参数。
基于上述任一实施例,一种通信能力开放异常检测装置,异常检测单元601还包括:
样本标准化子单元,用于对样本运行参数进行标准化处理;
参数标准化子单元,用于对运行参数进行标准化处理。
图7为本发明实施例的一种通信能力开放异常检测设备的结构示意图,如图7所示,该设备包括:处理器(processor)701、通信接口(Communications Interface)702、存储器(memory)703和总线704,其中,处理器701,通信接口702,存储器703通过总线704完成相互间的通信。处理器701可以调用存储器703中的逻辑指令,以执行如下方法:将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果;其中,运行参数包括API调用数据、并发事务数据和模块时延数据中的至少一种;异常检测模型为基于样本运行参数训练得到的。
本发明实施例公开一种计算机程序产品,计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序,计算机程序包括程序指令,当程序指令被计算机执行时,计算机能够执行上述各方法实施例所提供的方法,例如包括:将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果;其中,运行参数包括API调用数据、并发事务数据和模块时延数据中的至少一种;异常检测模型为基于样本运行参数训练得到的。
本实施例提供一种非暂态计算机可读存储介质,非暂态计算机可读存储介质存储计算机指令,计算机指令使计算机执行上述各方法实施例所提供的方法,例如包括:将待检测通信能力开放平台的运行参数输入至异常检测模型,输出待检测通信能力开放平台的异常检测结果;其中,运行参数包括API调用数据、并发事务数据和模块时延数据中的至少一种;异常检测模型为基于样本运行参数训练得到的。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所描述的通信设备等实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分的方法。
最后应说明的是:以上各实施例仅用以说明本发明的实施例的技术方案,而非对其限制;尽管参照前述各实施例对本发明的实施例进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明的实施例各实施例技术方案的范围。
Claims (10)
1.一种通信能力开放异常检测方法,其特征在于,包括:
将待检测通信能力开放平台的运行参数输入至异常检测模型,输出所述待检测通信能力开放平台的异常检测结果;
其中,所述运行参数包括API调用数据、并发事务数据和模块时延数据中的至少一种;所述异常检测模型为基于样本运行参数训练得到的。
2.根据权利要求1所述的方法,其特征在于,所述将待检测通信能力开放平台的运行参数输入至异常检测模型,输出所述待检测通信能力开放平台的异常检测结果,具体包括:
将所述运行参数输入至所述异常检测模型的自编码神经网络,输出所述运行参数对应的重构参数;
计算所述运行参数和所述重构参数之间的重构误差;
若所述重构误差大于预设阈值,则将所述待检测通信能力开放平台的异常检测结果设置为异常。
3.根据权利要求1所述的方法,其特征在于,所述API调用数据包括API总调用量、API调用失败量、API调用成功量、API调用成功率、API调用最大响应时延和API调用最小响应时延中的至少一种;
所述并发事务数据包括峰值并发事务数和/或平均并发事务数;
所述模块时延数据包括南向组件平均时延、北向组件平均时延、E-SA业务能力接入模块平均处理时延、E-SO业务编排模块平均处理时延、M-SO运营管理编排模块平均处理时延和BUS-SO消息总线模块平均处理时延中的至少一种。
4.根据权利要求2所述的方法,其特征在于,所述将所述运行参数输入至所述异常检测模型的自编码神经网络,输出所述运行参数对应的重构参数,具体包括:
将所述运行参数输入至所述自编码神经网络的编码器,输出所述运行参数的特征向量;所述编码器用于对所述运行参数进行压缩降维;
将所述特征向量输入至所述自编码神经网络的解码器,输出所述运行参数对应的重构参数;所述解码器用于对所述特征向量进行还原重建。
5.根据权利要求2所述的方法,其特征在于,所述若所述重构误差大于预设阈值,则将所述待检测通信能力开放平台的异常检测结果设置为异常,之前还包括:
根据所述异常检测模型的精确率、召回率和F-Measure中的至少一种确定所述预设阈值。
6.根据权利要求2所述的方法,其特征在于,所述将待检测通信能力开放平台的运行参数输入至异常检测模型,输出所述待检测通信能力开放平台的异常检测结果,之前还包括:
基于所述样本运行参数,将所述样本运行参数和自编码神经网络输出的样本重构参数的均方误差作为目标函数训练所述自编码神经网络;所述样本运行参数为通信能力开放平台处于正常状态时的运行参数。
7.根据权利要求6所述的方法,其特征在于,所述基于所述样本运行参数,将所述样本运行参数和自编码神经网络输出的样本重构参数的均方误差作为目标函数训练所述自编码神经网络,之前还包括:
对样本运行参数进行标准化处理;
对应地,所述将待检测通信能力开放平台的运行参数输入至异常检测模型,输出所述待检测通信能力开放平台的异常检测结果,之前还包括:
对所述运行参数进行标准化处理。
8.一种通信能力开放异常检测装置,其特征在于,包括:
异常检测单元,用于将待检测通信能力开放平台的运行参数输入至异常检测模型,输出所述待检测通信能力开放平台的异常检测结果;
其中,所述运行参数包括API调用数据、并发事务数据和模块时延数据中的至少一种;所述异常检测模型为基于样本运行参数训练得到的。
9.一种通信能力开放异常检测设备,其特征在于,包括处理器、通信接口、存储器和总线,其中,处理器,通信接口,存储器通过总线完成相互间的通信,处理器可以调用存储器中的逻辑指令,以执行如权利要求1至7任一所述的通信能力开放异常检测方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至7任一所述的通信能力开放异常检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810595921.5A CN110581834A (zh) | 2018-06-11 | 2018-06-11 | 一种通信能力开放异常检测方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810595921.5A CN110581834A (zh) | 2018-06-11 | 2018-06-11 | 一种通信能力开放异常检测方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110581834A true CN110581834A (zh) | 2019-12-17 |
Family
ID=68810309
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810595921.5A Pending CN110581834A (zh) | 2018-06-11 | 2018-06-11 | 一种通信能力开放异常检测方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110581834A (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111367781A (zh) * | 2020-05-26 | 2020-07-03 | 浙江大学 | 一种实例处理方法及其装置 |
CN112148577A (zh) * | 2020-10-09 | 2020-12-29 | 平安科技(深圳)有限公司 | 数据异常检测方法、装置、电子设备及存储介质 |
CN112364939A (zh) * | 2020-12-04 | 2021-02-12 | 中信银行股份有限公司 | 异常值检测方法、装置、设备及存储介质 |
CN112491806A (zh) * | 2020-11-04 | 2021-03-12 | 深圳供电局有限公司 | 一种云平台流量安全分析***及方法 |
CN113468519A (zh) * | 2020-03-30 | 2021-10-01 | ***通信集团浙江有限公司 | 外挂操作识别方法、装置及设备 |
CN113625681A (zh) * | 2021-07-19 | 2021-11-09 | 湖南大学 | Can总线异常检测方法、***及存储介质 |
US20220167188A1 (en) * | 2020-11-23 | 2022-05-26 | Verizon Patent And Licensing Inc. | Systems and methods for autonomous network management using deep reinforcement learning |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105160310A (zh) * | 2015-08-25 | 2015-12-16 | 西安电子科技大学 | 基于3d卷积神经网络的人体行为识别方法 |
CN106447039A (zh) * | 2016-09-28 | 2017-02-22 | 西安交通大学 | 基于自编码神经网络的无监督特征提取方法 |
US20180039861A1 (en) * | 2016-08-03 | 2018-02-08 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method, and storage medium |
CN107798243A (zh) * | 2017-11-25 | 2018-03-13 | 国网河南省电力公司电力科学研究院 | 终端应用的检测方法和装置 |
CN107886091A (zh) * | 2017-12-19 | 2018-04-06 | 南京航空航天大学 | 一种基于深度神经网络的机械故障快速诊断方法 |
CN107967941A (zh) * | 2017-11-24 | 2018-04-27 | 中南大学 | 一种基于智能视觉重构的无人机人体健康监控方法与*** |
-
2018
- 2018-06-11 CN CN201810595921.5A patent/CN110581834A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105160310A (zh) * | 2015-08-25 | 2015-12-16 | 西安电子科技大学 | 基于3d卷积神经网络的人体行为识别方法 |
US20180039861A1 (en) * | 2016-08-03 | 2018-02-08 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method, and storage medium |
CN106447039A (zh) * | 2016-09-28 | 2017-02-22 | 西安交通大学 | 基于自编码神经网络的无监督特征提取方法 |
CN107967941A (zh) * | 2017-11-24 | 2018-04-27 | 中南大学 | 一种基于智能视觉重构的无人机人体健康监控方法与*** |
CN107798243A (zh) * | 2017-11-25 | 2018-03-13 | 国网河南省电力公司电力科学研究院 | 终端应用的检测方法和装置 |
CN107886091A (zh) * | 2017-12-19 | 2018-04-06 | 南京航空航天大学 | 一种基于深度神经网络的机械故障快速诊断方法 |
Non-Patent Citations (1)
Title |
---|
AN J,CHO S: "Variational Autoencoder based Anomaly Detection using Reconstruction Probability", 《2015-2 SPECIAL LECTURE ON IE》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113468519A (zh) * | 2020-03-30 | 2021-10-01 | ***通信集团浙江有限公司 | 外挂操作识别方法、装置及设备 |
CN111367781A (zh) * | 2020-05-26 | 2020-07-03 | 浙江大学 | 一种实例处理方法及其装置 |
CN112148577A (zh) * | 2020-10-09 | 2020-12-29 | 平安科技(深圳)有限公司 | 数据异常检测方法、装置、电子设备及存储介质 |
CN112148577B (zh) * | 2020-10-09 | 2024-05-07 | 平安科技(深圳)有限公司 | 数据异常检测方法、装置、电子设备及存储介质 |
CN112491806A (zh) * | 2020-11-04 | 2021-03-12 | 深圳供电局有限公司 | 一种云平台流量安全分析***及方法 |
US20220167188A1 (en) * | 2020-11-23 | 2022-05-26 | Verizon Patent And Licensing Inc. | Systems and methods for autonomous network management using deep reinforcement learning |
US11601830B2 (en) * | 2020-11-23 | 2023-03-07 | Verizon Patent And Licensing Inc. | Systems and methods for autonomous network management using deep reinforcement learning |
US11985527B2 (en) | 2020-11-23 | 2024-05-14 | Verizon Patent And Licensing Inc. | Systems and methods for autonomous network management using deep reinforcement learning |
CN112364939A (zh) * | 2020-12-04 | 2021-02-12 | 中信银行股份有限公司 | 异常值检测方法、装置、设备及存储介质 |
CN113625681A (zh) * | 2021-07-19 | 2021-11-09 | 湖南大学 | Can总线异常检测方法、***及存储介质 |
CN113625681B (zh) * | 2021-07-19 | 2022-12-13 | 湖南大学 | Can总线异常检测方法、***及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110581834A (zh) | 一种通信能力开放异常检测方法和装置 | |
JP2023501030A (ja) | 融合ニューラルネットワークモデルに基づくエンジンサージング故障の予測システム及び方法 | |
US20220255817A1 (en) | Machine learning-based vnf anomaly detection system and method for virtual network management | |
CN111124840A (zh) | 业务运维中告警的预测方法、装置与电子设备 | |
CN111242171B (zh) | 网络故障的模型训练、诊断预测方法、装置以及电子设备 | |
CN111091278B (zh) | 机械设备异常检测的边缘检测模型构建方法及装置 | |
WO2022001125A1 (zh) | 一种存储***的存储故障预测方法、***及装置 | |
CN113705981B (zh) | 一种基于大数据的异常监测的方法及装置 | |
WO2023169274A1 (zh) | 数据处理方法、装置、存储介质以及处理器 | |
CN113240510B (zh) | 异常用户预测方法、装置、设备及存储介质 | |
CN115145812B (zh) | 测试用例生成方法、装置、电子设备和存储介质 | |
CN114490065A (zh) | 一种负载预测方法、装置及设备 | |
CN113221104A (zh) | 用户异常行为的检测方法及用户行为重构模型的训练方法 | |
CN116090544A (zh) | 神经网络模型的压缩方法、训练方法和处理方法、装置 | |
CN114332500A (zh) | 图像处理模型训练方法、装置、计算机设备和存储介质 | |
US11863398B2 (en) | Centralized management of distributed data sources | |
CN115603955B (zh) | 异常访问对象识别方法、装置、设备和介质 | |
US20220415046A1 (en) | Method for determining video coding test sequence, electronic device and computer storage medium | |
CN110855474A (zh) | Kqi数据的网络特征提取方法、装置、设备及存储介质 | |
CN116155541A (zh) | 面向网络安全应用的自动化机器学习平台以及方法 | |
CN114548307A (zh) | 分类模型训练方法和装置、分类方法和装置 | |
CN110838925B (zh) | 一种高危网元操作指令识别方法和装置 | |
CN115209452A (zh) | 核心网隐患排查方法、装置、电子设备和存储介质 | |
CN113676377A (zh) | 基于大数据的在线用户数评估方法、装置、设备及介质 | |
CN113825161A (zh) | 基于深度自编码神经网络的5g切片异常检测方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20191217 |