CN112529678B - 一种基于自监督判别式网络的金融指数时序异常检测方法 - Google Patents

Abstract

本发明公开了一种基于自监督判别式网络的金融指数时序异常检测方法，该方法基于自监督下采样模块及代理监督网络模块两个组成部分实现。其中，自监督下采样模块通过对时序信息进行下采样并赋予每一条时序子序列一个关于下采样尺度信息的标记。输入时间序列经过自监督下采样模块后产生一个带有尺度信息标记的样本集合，紧接着通过一个代理监督网络模块实现对样本集合中不同尺度的分类，从而实现对输入时间序列的特征建模。最后基于代理监督网络模块的损失函数值作为异常检测指标对金融指数时间序列样本进行异常检测。本发明公开的异常检测方法具有训练高效的特点，同时达到了高精度的金融指数时间序列异常检测效果。

Description

一种基于自监督判别式网络的金融指数时序异常检测方法

技术领域

本发明涉及金融指数时间序列的异常检测研究技术领域，具体涉及一种基于自监督判别式网络的金融指数时序异常检测方法。

背景技术

金融指数时间序列长期以来一直是人们的研究焦点，金融指数时序的波动正常与否对投资和经济运营带来了巨大的挑战。如何有效快速的对金融指数时间数据做出分析，挖掘出异常的金融指数时序序列对金融指数领域具有较大意义。

大多数现有的基于模型的异常检测方法都是通过构造一个正常实例的概要，然后将不符合正常概要的实例标识为异常样本。现有的经典异常检测方法大多基于相似度搜索和基于密度聚类实现异常检测，本质上是基于样本之间距离的异常检测。尽管基于样本之间距离的异常检测具有较好的可解释性并在实验和理论上被验证为最先进的异常检测架，但其在测试阶段需要重新遍历整个训练集去寻找最邻近样本，这是非常耗时的。基于分类的经典方法如OCSVM通过建立一个边界实现对异常样本的检测，在异常检测任务中往往不够鲁棒。此外，当经典的方法应用到大数据集上时，往往受到时间和空间限制。

相比于传统的经典异常检测算法，近年来深度学习在异常检测领域也取得了重大的进展。主流的框架基于生成式模型，其核心思想是将原始空间的数据降维到低维空间中再进行重构。该生成式框架潜在的假设是异常的特征在低维空间中被消除，因此可利用重构误差作为指标进行异常检测。重构误差大的样本对应于异常样本。在时序异常检测领域的生成式框架中，基于自编码器的工作包括Bin Zhou等人在2019年提取的BeatGAN模型。此外，基于预测型重构的网络模型包括LSTM预测模型、序列到序列模型。这类生成式模型在时序异常检测中占领了主要地位，然而这种生成式模型对正常样本的建模能力欠佳，所提取的特征难以区分于异常样本对应所提取出来的特征。

作为一种无监督提取特征的方式，自监督技术近年来在图像异常检测领域发挥出了卓越的性能，如Siqi Wang在NIPS 2019年所提出的图像异常检测领域的自监督异常检测框架。在自监督技术应用到图像异常检测之前，最先进的图像异常检测框架主要是基于降噪自编码器、变分自编码器、生成对抗网络等生成式模块。这与当前时序异常检测的主流框架十分相近，然而，自监督技术还未融入到金融指数时序异常检测领域。主要原因是时间序列领域的自监督信息还尚未明确，如何挖掘时序中的自监督信息是一个尚未研究的问题。

发明内容

本发明的目的是为了解决现有时间序列异常检测技术中的上述缺陷，提供一种基于自监督判别式网络的金融指数时序异常检测方法，该方法基于图像与时间序列的跨领域观察与分析，首次在时间序列领域中提出利用自监督技术实现对时序异常片段的高效检测。该方法将训练样本通过下采样提取出代表时序不同尺度信息的子序列样本，并赋予这些子序列样本尺度信息的类别标记；然后，通过代理监督网络模块对样本的不同尺度特征信息进行学习，使得测试阶段异常样本能够被更好地与正常样本区分开。

本发明的目的可以通过采取如下技术方案达到：

一种基于自监督判别式网络的金融指数时序异常检测方法，所述的金融指数时序异常检测方法应用于金融指数时序异常检测领域，通过一个自监督判别式网络实现高精度的金融指数时序异常检测，该方法包括以下步骤：

S1、通过下采样机制生成时序子序列，针对输入的金融指数时间序列样本，通过不同窗口大小y∈[1,2,…,K]，滑动采样得到原始时间序列在不同尺度信息下的子序列样本，其中，K为采样窗口大小上限；

S2、将步骤S1得到的金融指数时间序列不同尺度信息下的子序列样本，通过尺度信息对子序列样本进行标记，得到带有标记信息的时间序列样本集；

S3、首层卷积特征提取，将步骤S2得到的得到带有标记信息的时间序列样本集作为训练集，并将其作为网络的输入信息，接入第一层卷积层得到卷积特征；

S4、首层卷积特征池化，对经过步骤S3输出的卷积特征进行一个池化操作，得到池化特征；

S5、第二层卷积特征提取，对步骤S4输出的池化特征进行卷积特征提取；

S6、第二层卷积特征池化，对步骤S5输出的卷积特征进行池化操作，得到池化特征；

S7、Softmax分类，将步骤S6输出的池化特征连接到一个Softmax网络层，得到对金融指数时间序列所产生的带有标记信息的时间序列样本集中每一个样本的分类；

S8、针对步骤S3-S7组建的代理监督网络进行训练，基于反向传播算法实现对步骤S3-S7中网络参数权重的优化，进而得到高精度的金融指数时序异常检测网络模型的内部参数；

S9、异常指标计算，基于优化后的代理监督网络计算每个金融指数时间序列样本经过下采样生成的带有尺度信息标记样本的分类交叉熵损失，并以此作为金融指数时间序列样本的异常指标；

S10、输入测试样本，重复步骤S1将测试样本经过采样后构造出多条带有不同尺度信息的子序列样本，紧接着重复步骤S2通过尺度信息对子序列样本进行标记，然后重复步骤S3至步骤S7由一个经过训练的代理监督网络得到子序列样本在网络上的分类结果，并重复步骤S9计算代理监督网络在测试样本下的分类交叉熵损失，将此分类交叉熵损失作为金融指数时序异常检测的指标。

进一步地，所述的步骤S2中将金融指数时间序列信号样本集

经过自监督下采样模块得到时间序列样本集，

将输入信号表示成长度为T维度为M的金融指数时间序列数据

其中，X_i(t)∈R^M×1标识第i个样本在第t时刻的特征值，x_m,t代表第m个维度第t个时刻的样本特征，经过下采样后的时间序列表示为

X_i,y＝(X_i(1),X_i(y+1),…,X_i(l*y+1))

其中，y表示滑动采样窗口大小，

标识第l个下采样滑动窗口。

进一步地，所述的步骤S3至步骤S7中，通过一个代理监督网络模块实现对输入金融指数时间序列的特征提取，具体为：采用卷积及池化的操作提取特征，并结合Softmax网络层实现对金融指数时序的判别式分类。

进一步地，所述的步骤S9中，通过下采样尺度信息作为分类标签，并采用交叉熵损失函数作为分类损失函数优化代理监督网络模块，表达式如下：

其中，y表示采样窗口大小，K为采样窗口大小上限，θ为网络参数，

代表样本X_i经过滑动窗口大小为y的下采样操作后生成的时序子序列，/>

对应代理监督网络在参数θ下对时序子序列/>

分类预测正确的概率，log为以2为底的对数函数，Loss(X_i|θ)为代理监督网络模块在参数θ下对样本X_i的自监督分类损失。

本发明相对于现有技术具有如下的优点及效果：

本发明通过引入自监督下采样机制，建立起一个具有捕捉金融指数时间序列多尺度信息的自监督判别式网络。当金融指数时间序列被自监督下采样模块作用并生成一系列带有尺度信息监督的时间序列样本集后，通过一个代理监督网络模块实现对金融指数时间序列不同尺度信息的分类。整个代理监督网络模块基于反向传播算法进行优化。与现有的基于生成式框架的时序异常检测方法不同，本发明利用自监督技术从多种尺度捕捉正常金融指数时间序列样本的信息。通过大量实验表明，基于自监督判别式网络的金融指数时序异常检测方法在金融指数时序异常检测任务中表现出了优越的性能且具有训练高效的优势。

附图说明

图1是本发明中基于自监督判别式网络的金融指数时序异常检测方法的网络架构图；

图2是本发明公开的基于自监督判别式网络的金融指数时序异常检测方法的原理图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例

如图1所示，本实施例公开了一种基于自监督判别式网络的金融指数时序异常检测方法。当金融指数时间序列被自监督下采样模块作用并生成一系列带有尺度信息标记的时间序列样本集后，通过一个代理监督网络模块实现对金融指数时间序列不同尺度信息的分类。整个代理监督网络模块基于反向传播算法进行优化。其相比于传统的基于生成式框架的优越性在于更好地捕捉原始金融指数时间序列样本多种尺度的特征信息，具体包括以下步骤：

S1、针对输入的金融指数时间序列样本，通过大小f∈[1,2,…,K]的窗口滑动采样得到金融指数时间序列样本在不同尺度信息下的子序列样本(K为采样窗口大小上限)，实验中取K为50，构造出一个带有不同尺度信息的时间序列样本；

令输入信号为长度为T＝200维度为M＝10的金融指数时间序列数据

其中，X_i(t)∈R^10×1标识第i个样本在第t时刻的特征值，x_m,t代表第m个维度第t个时刻的样本特征，经过下采样后的时间序列可表示为

X_i,y＝(X_i(1),X_i(y+1),…,X_i(l*y+1))

其中，y表示滑动采样窗口大小，每种窗口大小对应一种采样的尺度信息，

标识第l个下采样滑动窗口；

S2、将步骤S1后得到的带有不同尺度信息下的子序列样本，通过尺度信息对子样本进行标记，得到带有标记信息的时间序列样本集，如图2所示，通过不同下采样窗口大小滑动得到的子序列对应着时间序列样本多种尺度的信息(灰色时间戳对应采样得到的子序列样本)，经过特定窗口大小进行下采样得到的子序列对应一个尺度信息标签作为监督信号，多种信号对应着时间序列样本不同尺度的特征信息，这是一个时间序列样本多尺度特征信息的反应；

S3、首层卷积特征提取。将下采样之后收集到的带有尺度信息标记的时间序列样本集作为训练集，将其作为代理监督网络的输入信息，接入第一层卷积层得到初步的特征提取。在实际应用中采用一维卷积操作，我们设置卷积核时间方向上的长度为1，3，5三种选择作为参数候选集，输入的通道数对应的为时间序列变量的维度M＝10,卷积通道个数设置为16，32，64三种选择作为参数候选集，通过网格搜索的方式寻得代理监督网络在金融指数时间序列异常检测任务上的最佳超参数；

S4、首层卷积特征池化。对经过步骤S3的作用后输出的卷积特征进行一个池化操作，提高特征输出的鲁棒性及泛化特性，从而进一步得到池化后的特征。在具体实施中我们采用了池化长度为2的大小，特征滑动步长同样设置为2；

S5、第二层卷积特征提取。对步骤S4输出的池化特征进行进一步的卷积特征提取，得到更深层次的样本特征输出。在实际应用中采用一维卷积操作，我们设置卷积核时间方向上的长度为1，3，5三种选择作为参数候选集，卷积通道个数设置为16，32，64中的一种，通过网格搜索的方式寻得网络最佳参数；

S6、第二层卷积特征池化。对步骤S5所输出的卷积特征做进一步的池化操作，增强特征的鲁棒性和泛化性能，得到进一步池化后的特征。在具体实施中采用了池化长度为2的大小，特征滑动步长同样设置为2；

S7、Softmax分类，将步骤S6输出的特征连接到一个Softmax网络层，得到对金融指数时间序列所产生的带有标记信息的时间序列样本集中每一个样本的分类；

S8、针对步骤S3-S7组建的代理监督网络进行训练，基于反向传播算法实现对步骤S3-S7中网络参数权重的优化，进而得到高精度的金融指数时序异常检测网络模型的内部参数；具体地，代理监督网络通过下采样窗口大小作为尺度信息标签，并采用交叉熵损失函数作为分类损失函数，表达式如下：

其中，y表示采样窗口大小，同时对应自监督下采样的尺度信息标记信号，K＝50为采样窗口大小上限，θ为网络参数，

代表样本X_i经过滑动窗口大小为y的下采样操作后生成的时序子序列，/>

对应代理监督网络在参数θ下对时序子序列/>

分类预测正确的概率，log为以2为底的对数函数，Loss(X_i|θ)为代理监督网络在参数θ下对样本X_i的自监督分类损失；

S9、异常指标计算，基于优化后的代理监督网络计算每个金融指数时间序列样本经过下采样生成的带有尺度信息标记样本的分类交叉熵损失，并以此作为金融指数时间序列样本的异常指标，指标越大意味着样本越可能是异常样本序列；

S10、输入测试样本，重复步骤S1将测试样本经过采样后构造出多条带有不同尺度信息的子序列样本，紧接着重复步骤S2通过尺度信息对子序列样本进行标记，然后重复步骤S3至步骤S7由一个经过训练的代理监督网络得到子序列样本在网络上的分类结果，并重复步骤S9计算代理监督网络在测试样本下的分类交叉熵损失，将此分类交叉熵损失作为金融指数时序异常检测的指标，指标数值越大的样本代表着该测试样本更有可能是异常，因为该测试样本所提取到的判别性特征与正常的训练样本特征存在较大的差距。

如图2所示，本实施例公开的基于自监督判别式网络的金融指数时序异常检测方法，相比于生成式框架具有捕捉时间序列样本多尺度信息的优越性。基于生成式的框架仅从输入的样本空间对时间序列样本进行单一的重构建模，忽略了时间序列样本的多尺度信息，难以捕捉时间序列样本中的丰富信息。本发明基于自监督下采样模块实现对时间序列样本中多种尺度信息的提取，并利用代理监督网络模块实现对时间序列样本多尺度信息的特征捕捉。基于自监督判别式网络的金融指数时序异常检测方法在金融指数时序异常检测任务中表现出了优越的性能，相比于传统的基于循环神经网络的生成式异常检测框架展现出了计算高效的优势。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (2)

1.一种基于自监督判别式网络的金融指数时序异常检测方法，其特征在于，所述的金融指数时序异常检测方法包括以下步骤：

S1、针对输入的金融指数时间序列样本，通过大小为y的窗口，滑动采样得到金融指数时间序列不同尺度信息下的子序列样本；

所述的步骤S1中，针对输入的金融指数时间序列样本，通过大小为y的窗口，滑动采样得到金融指数时间序列带有不同尺度信息的子序列样本，每一个采样窗口大小对应一种尺度信息：

y∈{1,2,…,K-1,K}

其中，K对应下采样窗口大小的上限，同时也对应着自监督下采样模块中尺度信息的总数；

S2、将步骤S1得到的金融指数时间序列不同尺度信息下的子序列样本，通过尺度信息对子序列样本进行标记，得到带有标记信息的时间序列样本集；

所述的步骤S2中将金融指数时间序列信号样本集

经过自监督下采样模块得到时间序列样本集，

将输入信号表示成长度为T维度为M的金融指数时间序列数据

其中，X_i(t)∈R^M×1标识第i个样本在第t时刻的特征值，x_m,t代表第m个维度第t个时刻的样本特征，经过下采样后的时间序列表示为

X_i,y＝(X_i(1),X_i(y+1),…,X_i(l*y+1))

其中，y表示滑动采样窗口大小，

标识第l个下采样滑动窗口；

S3、首层卷积特征提取，将步骤S2得到的得到带有标记信息的时间序列样本集作为训练集，并将其作为网络的输入信息，接入第一层卷积层得到卷积特征；

S4、首层卷积特征池化，对经过步骤S3输出的卷积特征进行一个池化操作，得到池化特征；

S5、第二层卷积特征提取，对步骤S4输出的池化特征进行卷积特征提取；

S6、第二层卷积特征池化，对步骤S5输出的卷积特征进行池化操作，得到池化特征；

S7、Softmax分类，将步骤S6输出的池化特征连接到一个Softmax网络层，得到对金融指数时间序列所产生的带有标记信息的时间序列样本集中每一个样本的分类；

S8、针对步骤S3-S7组建的代理监督网络进行训练，基于反向传播算法实现对步骤S3-S7中网络参数权重的优化，进而得到高精度的金融指数时序异常检测网络模型的内部参数；

S9、异常指标计算，基于优化后的代理监督网络计算每个金融指数时间序列样本经过下采样生成的带有尺度信息标记样本的分类交叉熵损失，并以此作为金融指数时间序列样本的异常指标；

所述的步骤S9中，通过下采样尺度信息作为分类标签，并采用交叉熵损失函数作为分类损失函数优化代理监督网络模块，表达式如下：

其中，y表示采样窗口大小，K为采样窗口大小上限，θ为网络参数，

代表样本X_i经过滑动窗口大小为y的下采样操作后生成的时序子序列，/>

对应代理监督网络在参数θ下对时序子序列/>

分类预测正确的概率，log为以2为底的对数函数，Loss(X_i|θ)为代理监督网络模块在参数θ下对样本X_i的自监督分类损失；

S10、输入测试样本，重复步骤S1将测试样本经过采样后构造出多条带有不同尺度信息的子序列样本，紧接着重复步骤S2通过尺度信息对子序列样本进行标记，然后重复步骤S3至步骤S7由一个经过训练的代理监督网络得到子序列样本在网络上的分类结果，并重复步骤S9计算代理监督网络在测试样本下的分类交叉熵损失，将此分类交叉熵损失作为金融指数时序异常检测的指标。

2.根据权利要求1所述的一种基于自监督判别式网络的金融指数时序异常检测方法，其特征在于，所述的步骤S3至步骤S7中，通过一个代理监督网络模块实现对输入金融指数时间序列的特征提取，具体为：采用卷积及池化的操作提取特征，并结合Softmax网络层实现对金融指数时序的判别式分类。

Images