CN111027612B - 基于加权熵fcm的能源计量数据特征约简方法及装置 - Google Patents

Abstract

本发明提供了一种基于加权熵FCM的能源计量数据特征约简方法及装置，涉及电力***自动化技术领域，其技术特点在于，包括以下步骤：步骤1：获取待处理数据；步骤2：采用高斯混合模型对所述待处理数据的数据信息进行特征提取；步骤3：基于FCM函数对步骤2中提取出的特征进行约简处理；步骤4：在确定数据约简收敛的情况下，完成特征约简，退出执行逻辑；在确定数约简不收敛的情况下，需采用更新权重的方法剔除较小特征后返回执行步骤3，进行约简处理。本发明有助于对特征数据进行准确、实时筛选。

Description

基于加权熵FCM的能源计量数据特征约简方法及装置

技术领域

本发明涉及电力***自动化技术领域，尤其是涉及一种基于特征加权熵FCM的数据特征约简方法及装置。

背景技术

电力行业置身于数字信息化时代，信息量呈***式增长，电力大数据时代随之而来，人们在享受信息化所带来的资讯与便捷的同时，也面临着如此庞大的信息量所带来的巨大挑战—信息的可用性。电力大数据具备4“V”特征，即体量(Volume)大、增长迅速(Velocity)、类别(Variety)多、价值(Value)密度稀。根据电力大数据的4“V”特征，要想从这些生成迅速、多源的、异构的、价值稀薄的海量数据中获得有益于电网运行的决策信息，就需要对其进行处理，即找出各属性数据间的内在关联性，从海量信息中筛选出有利于电网决策的有用信息。数据约简是大数据预处理中的一个关键环节，它减少了大数据分析过程中的数据处理量，提高了数据处理的效率。

传统的数据约简方式包括PCA流形学习降维方法和RELIEF算法，但是这两种算法均存在一定的局限性：PCA流形学习降维方法无法解决高维空间中的数据点到低维空间映射的不确定性，同样相应的逆映射无法被给出，因此只能用于数据集的潜在低维结构。RELIEF算法可处理离散数据与连续数据，但不能应用于多类问题，同时该算法未考虑到数据丢失的情况，也不能去除冗余特征。因此该算法无法应对高复杂度的概率计算，难以准确估计概率取值。

因此，考虑到上述缺陷，需要开发一种新的数据特征约简方法。

发明内容

本发明的目的在于克服现有技术的不足，提出一种准确率高、实时性好的基于加权熵FCM的能源计量数据特征约简方法及装置，以解决现有的数据处理方式无法有效筛选出特征数据的技术问题。

为实现上述目的，本发明提供了以下技术方案：

本发明提供的基于特征加权熵FCM的数据特征约简方法，包括以下步骤：

步骤1：获取待处理数据；

步骤2：采用高斯混合模型对所述待处理数据的数据信息特征提取；

步骤3：基于FCM函数对步骤2中提取出的特征进行约简处理；

步骤4：在确定数据约简收敛的情况下，完成特征约简，退出执行逻辑；在确定数约简不收敛的情况下，需采用更新权重的方法剔除较小特征后再次进行约简处理即重复步骤3；

而且，步骤1和步骤2之间还包括预处理步骤预处理步骤包括：

(1)采用3σ原理对待处理数据进行非正常数判断并对非正常数据进行修正；

(2)利用已知点建立差值函数对进行修正后的数据中的缺失值进行插值代替处理；

(3)对修正、插值代替后的数据集使用光滑技术减少数据噪声。

而且，所述步骤3中的数据特征提取的具体方法为：

对数据进行GMM建模，计算最佳GMM拟合参数并提取GMM模型参数作为原始数据的特征变量从而进行特征提取，建立的GMM模型如下：

其中x为输入样本变量；π_i为混合权重，且有d为输入变量的维数；p_i(x；μ_i,Σ_i)为GMM的第i个高斯分量；μ_i为第i个高斯分量的均值；∑_i为第i个高斯分量的协方差矩阵。

而且，所述步骤4中的特征约简处理具体方法为：

通过减少特征加权熵中的特征来改进FCM，目标函数为：

其中：δ_j用来控制特征权重，w_j作为第j个特征的特征权重，W为其组成的矩阵，U为隶属度矩阵，V为聚类中心。

本发明还提供了基于加权熵FCM的能源计量数据特征约简装置，包括：

数据获取单元，用于获取待处理数据；

特征提取单元，基于高斯混合模型对数据获取单元获取的待处理数据进行特征提取处理；

约简单元，基于FCM函数对特征提取单元提取出的特征进行约简处理，在确定数据约简收敛的情况下，完成特征约简，退出执行逻辑；在确定数约简不收敛的情况下，采用更新权重的方法剔除较小特征后返回进行约简处理。

本发明的优点和有益效果：

1、本发明采用基于加权熵的模糊C均值聚类(FRFCM)的特征约简方法，能在FRFCM的目标函数中添加权熵，从而自动的减少特征数量，产生良好的聚类效果。

2、本发明在FCM过程中嵌入具有特征权值的特征约简行为，提出的FRFCM算法，不仅可以提高FCM的性能，还可以通过加权来选择重要特征，并通过舍弃不重要的特征来减少特征的数量，实现特征约简的目的。

3、本发明采用的计算方法可以利用约简后的重要特征进行聚类，可以在保证准确率的同时，兼顾实时性，还可以大大减少计算时间。

4、本发明选用的计算方法能够在学习过程中来估计FRFCM目标函数中使用的参数，使FRFCM算法不受参数选择的限制，使用起来更加灵活方便。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明的处理流程图；

图2是本发明中步骤2的流程图；

图3是本发明中步骤3的流程图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将对本发明的技术方案进行详细的描述。显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所得到的所有其它实施方式，都属于本发明所保护的范围。

以下结合附图对本发明实施例作进一步详述：

一种基于加权熵FCM的能源计量数据特征约简方法，包括以下步骤：

步骤1：获取待处理数据；该待处理数据为能源计量数据；

步骤2：采用高斯混合模型对待处理数据的数据信息特征提取；

所述步骤2中的特征提取的具体方法为：

对数据进行GMM建模，计算最佳GMM拟合参数并提取GMM模型参数作为原始数据的特征变量从而进行特征提取，建立的GMM模型如下：

其中x为输入样本变量；π_i为混合权重，且有d为输入变量的维数；p_i(x；μ_i,Σ_i)为GMM的第i个高斯分量；μ_i为第i个高斯分量的均值；∑_i为第i个高斯分量的协方差矩阵。

在使用时，GMM模型一般采用最大似然估计的方法，似然函数如下：

L(λ|x)＝p(X|λ)＝Πp(x_i|λ)

训练的目的是找到一组使得似然函数L(λ|X)取得最大值，即：

最大似然估计是一个非线性优化的问题，一般通过期望最大化算法(EM算法)的迭代求解，EM算法主要分为两个步骤：期望E步和最大化M步。E步利用当前的参数集计算完整数据的似然度函数的期望值；M步通过期望函数的最大化获取新的参数，E步和M步一直迭代直至收敛。

为了说明EM算法，首先定义Q函数：

其中，y为隐状信号，指明当前产生的高斯分量的序号，如果由第i个高斯分量产生，则y＝i，λ为已有的模型参数，为待计算的新参数。

因此对Q函数改写如下：

在定义了Q函数之后，需要先设定EM算法的初始值以及迭代终止条件，求解过程简单描述如下：

1)求训练数据集中数据落在假定的隐状态的概率为则：/>

2)最大化Q函数，求相对于π_i；μ_i；Σ_i,i＝1,2,...,K的偏导数为0时的参数值π_i；μ_i；∑_i。

通过该方法提取的特征即可用于进行特征约简处理。

需要注意的是，待处理数据中可能会存在缺值或错值的情况，需要经过预处理才能进行特征约简处理，该预处理步骤包括：

(1)采用3σ原理对待处理数据进行非正常数判断并对非正常数据进行修正；

选用以下公式进行非正常数判断：

式中：ε为阈值，通常取1-1.5；

选用以下公式进行非正常数修正：

式中：p′_i,t为用户第i日t时刻经修正后的负荷数据；α、β、γ为权重系数，并满足α+β+γ＝1；和/>为距离p_i,t最近的两个观测日负荷。

(2)利用已知点建立差值函数对进行修正后的数据中的缺失值进行插值代替处理；具体方法如下：

对缺失值的处理采用三样条插值来处理缺失值，即已知函数y＝f(x)在区间[a,b]上的n+1个节点：a＝x₀＜x₁＜…＜x_n-1＜x_n＝b上的值y_i＝f(x_i)(i＝0,1,…,n)，求差值函数S(x)，使得：

A：S(x)＝y_i(i＝0,1,…,n)；

B：在每个小区间[x_i,x_i+1](i＝0,1,…,n-1)上S(x)是三次多项式，记为S_i(x)；

C：S(x)在[a,b]上二阶连续可微；

此时，函数S(x)称为f(x)的三次样条差值函数。

由条件B可以记为：S(x)＝{S_i(x),x∈[x_i,x_i+1],i＝0,1,…,n-1}，S_i(x)＝a_ix³+b_ix²+c_ix+d，式中：a_i,b_i,c_i,d_i为待定系数，共4n个。

由条件C可知：

同时又根据数据预处理所用公式可以知道共包括4n-2个方程，为了确定S(x)的4n个待定参数，还需给出两个边界条件。

常用的三次样条函数的边界条件有三种类型：

1)S'(a)＝y'₀，S'(b)＝y'_n。由这种边界条件建立的样条插值函数称为f(x)的完备样条差值函数。特别地，y'₀＝y'_n＝0时，样条曲线在端点处呈水平状态。

2)S”(a)＝y”₀，S”(b)＝y”_n。特别地，y”₀＝y”_n＝0，称为自然边界条件。

3)S'(a+0)＝S'(b-0)，S”(a+0)＝S”(b-0)，此条件称为周期条件。

根据实际情况选择上述任一公式来确定边界条件即可。

上述插值代替处理就是对数据中的缺失值进行补充处理。

(3)对修正、插值代替处理后的数据使用光滑技术减少数据噪声，具体方法如下：

式中，p_i,t为用户第i日t时刻的原始负荷数据；n为观测日总数；和/>分别为用户t时刻的平均负荷和方差。

上述预处理步骤中，(1)和(2)的操作顺序可以互换，即可以先对数据中的缺失值进行插值代替处理后在对得到的数据中的非正常数据进行修正处理。

步骤3：根据特征加权熵的模糊C均值聚类的模式对提取出的特征进行约简处理，即基于FCM函数对步骤2中提取出的特征进行约简处理；

所述步骤3中的约简处理具体方法为：

通过减少特征加权熵中的特征来改进FCM，目标函数为：

其中，δ_j用来控制特征权重。

需要注意的是，为了保证计算结果满足需求，δ_j的估值较为重要。

FRFCM目标函数有两项，第一项是数据点与聚类中心特征加权距离之和，当点与中心距离较小时，特征加权距离最小；第二项是特征权熵的变形，例如因为δ_j在/>与/>用于控制特征权重的变量，所以δ_j的选择十分重要。

为了更加方便的估计δ_j的值，本发明还提出了一个学习程序。

在概率论和统计学中，用标准差和方差来度量数据的分散性。另一个测量分散指数是一个著名的方差与均值的比(VMR)，定义为VMR＝σ²/u。VMR可用于观察分散或聚集的数据集，离散度越小，表示数据集离聚类中心越近；离散度越大，表示数据集离聚类中心越远。因为需要保留离散度小的特征，然后丢弃离散度大的特征，所以应考虑将VMR的倒数，即均值方差比(MVR)用于算法中。也就是说，可以考虑δ_j估计如下：

为使δ_j更能发挥其筛选作用，将其标准化为δ_j'＝δ_j/max(δ_j)，使得δ_j'∈(0，1)，代替原来的δ_j。

在进行FRFCM计算中，可以使用三个最小化步骤来进行：

第一步：固定和/>然后相对于U考虑最小化/>考虑到拉格朗日函数得：

将该拉格朗日函数对u_ik求偏导数设置为零，得到：

从而得到u_ik的更新方程如下：

第二步：固定和/>然后相对于V考虑最小化/>得到：

从而得到v_ik的更新方程如下：

第三步：固定和/>然后相对于W考虑最小化/>得到：

从而得到w_j的更新方程如下：

此外，为了保持约束条件需要将w_j调整为/>

需要注意的是，在实际数据处理过程中，由于FRFCM算法属于特征约简，因此需要将一些不重要特征(即小权重特征)剔除。为了更好的对数据进行剔除，需要选择一个合适的阈值：如果w_j的更新方程中的太大，则分子/>就会变得太小而趋近于0值，从而导致在更新步骤中丢失过多的特征权重；相反如果太小，则分子/>就会趋近于1，从而导致在更新步骤期间难以丢弃特征。为了避免上述情况发生，需要在FRFCM聚类算法中设置一个合适的常数来进行控制。因为在FRFCM聚类算法中，一个目标是将数据集(具有n个数据点)聚类为c个聚类。数字n和c是两个通常给定的常数，因此可以使用常数n/c来控制以免出现上述极端情况。回顾第一步中的/>在FRFCM的目标函数中选用常数n/c来处理/>

为了判断该特征约简是否收敛，需要设定一定的阈值来确定。

该待处理数据集有n个数据点，其中每个数据点都有d个特征分量，且特征权重的约束条件为如果d较大，则直观地选择特征约简阈值为1/d。

为了进一步提高该算法的适用性，考虑到d值可能偏小，因此需要将数据编号n视为另一影响因素。已知为了在大d和小d之间取得平衡，选用用数据n替换了一个d，这样它就变成了/>当数据点个数n比特征分量数d大很多时，选用/>来代替1/d就不准确了，此时选用/>代替1/d更加准确。

本发明还提供了基于加权熵FCM的能源计量数据特征约简装置，包括：

数据获取单元，用于获取待处理数据；

特征提取单元，基于高斯混合模型对数据获取单元获取的待处理数据进行特征提取处理；

约简单元，基于FCM函数对特征提取单元提取出的特征进行约简处理，在确定数据约简收敛的情况下，完成特征约简，退出执行逻辑；在确定数约简不收敛的情况下，采用更新权重的方法剔除较小特征后返回进行约简处理。

本领域内的技术人员应明白，本申请的实施例可提供为方法、***、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

最后应当说明的是：以上实施例仅用以说明本发明的技术方案而非对其限制，尽管参照上述实施例对本发明进行了详细的说明，所属领域的普通技术人员应当理解：依然可以对本发明的具体实施方式进行修改或者等同替换，而未脱离本发明精神和范围的任何修改或者等同替换，其均应涵盖在本发明的权利要求保护范围之内。

Claims (7)

1.一种基于加权熵FCM的能源计量数据特征约简方法，其特征在于，包括以下步骤：

步骤1：获取待处理数据；

步骤2：采用高斯混合模型对所述待处理数据的数据信息进行特征提取；

步骤3：基于FCM函数对步骤2中提取出的特征进行约简处理；

步骤4：在确定数据约简收敛的情况下，完成特征约简，退出执行逻辑；在确定数约简不收敛的情况下，需采用更新权重的方法剔除较小特征后返回执行步骤3，进行约简处理；

其中，采用高斯混合模型对所述待处理数据的数据信息特征提取，包括：

对所述待处理数据进行GMM建模，计算最佳GMM拟合参数并提取GMM模型参数作为原始数据的特征变量进行特征提取；

建立的GMM模型如下：

其中x为输入样本变量；π_i为混合权重，且有d为输入变量的维数；p_i(x；μ_i,Σ_i)为GMM的第i个高斯分量；μ_i为第i个高斯分量的均值；Σ_i为第i个高斯分量的协方差矩阵；

基于FCM函数对步骤2中提取出的特征进行约简处理，包括：

通过减少特征加权熵中的特征来改进FCM，目标函数为：

其中，

δ_j用来控制特征权重，w_j作为第j个特征的特征权重，W为其组成的矩阵，U为隶属度矩阵，V为聚类中心。

2.根据权利要求1所述的基于加权熵FCM的能源计量数据特征约简方法，其特征在于，所述步骤1和所述步骤2之间还包括预处理步骤，所述预处理步骤包括：

(1)采用3σ原理对待处理数据进行非正常数据判断并对非正常数据进行修正；

(2)利用已知点建立差值函数对进行修正后的数据中的缺失值进行插值代替处理；

(3)对修正、插值代替后的数据集使用光滑技术减少数据噪声。

3.根据权利要求1所述的基于加权熵FCM的能源计量数据特征约简方法，其特征在于，所述δj估值为

4.根据权利要求1所述的基于加权熵FCM的能源计量数据特征约简方法，其特征在于，δ_j'替代所述δ_j，其中δ′_j＝δ_j/max(δ_j)，且δ′_j∈(0，1)。

5.根据权利要求1所述的基于加权熵FCM的能源计量数据特征约简方法，其特征在于，特征权重的约束条件为

6.根据权利要求5所述的基于加权熵FCM的能源计量数据特征约简方法，其特征在于，当数据集内的数据点数n≤d时，设置特征权重的约简阈值为

当n＞d时，设置特征权重的约简阈值为所述约简阈值用于判断该特征约简是否收敛。

7.根据权利要求1-6任一项所述的基于加权熵FCM的能源计量数据特征约简方法的约简装置，其特征在于，包括：

数据获取单元，用于获取待处理数据；

特征提取单元，基于高斯混合模型对数据获取单元获取的待处理数据进行特征提取处理；

约简单元，基于FCM函数对特征提取单元提取出的特征进行约简处理，在确定数据约简收敛的情况下，完成特征约简，退出执行逻辑；

在确定数约简不收敛的情况下，采用更新权重的方法剔除较小特征后返回进行约简处理。