CN104616033A - 基于深度学习和支持向量机的滚动轴承故障诊断方法 - Google Patents

Abstract

本发明提供了一种基于深度学习和支持向量机的滚动轴承故障诊断方法，其利用深度信念网络理论中成熟的学习算法完成故障诊断所需的特征提取任务，可以不依赖人工选择由简单到复杂、由低级到高级自动地提取输入数据的本质特征，并能自动挖掘出隐藏在已知数据中的丰富信息；此外，由于采用了支持向量机分类方法对测试样本进行分类识别，因此可以采用之前设计好的有效方法去寻找和发现目标函数的全局最小值，从而解决深度信念网络可能陷入局部最优解的问题。本发明的滚动轴承故障诊断方法能够提高滚动轴承故障诊断的准确性和有效性，为解决滚动轴承故障诊断问题提供一种新的有效途径，可广泛应用于化工、冶金、电力、航空等领域的复杂***中。

Description

基于深度学习和支持向量机的滚动轴承故障诊断方法

技术领域

本发明属于机械故障诊断和计算机人工智能技术领域，尤其涉及一种基于深度学习和支持向量机的滚动轴承故障诊断方法。

背景技术

滚动轴承是旋转机械中最为重要的机械零件之一，广泛应用于化工、冶金、电力、航空等各个重要部门，同时它也是最易损坏的元件之一。轴承性能与工况的好坏直接影响到与之相关联的轴以及安装在转轴上的齿轮乃至整台机器设备的性能，其缺陷会导致设备产生异常振动和噪声，甚至造成设备损坏。因此，对滚动轴承故障进行诊断，尤其是对于早初期故障的分析，避免事故的发生，在生产实际中尤为重要。

目前常用的机械故障特征提取方法主要有快速傅里叶变(Fast Fouriertransform，简称FFT)、小波变换和经验模态分解(Empirical mode decomposition，简称EMD)、人工智能等。FFT方法无法同时兼顾信号在时域和频域中的全貌和局部化问题。小波变换时小波基不同，分解结果不同，小波基比较难选择。EMD方法能将信号分解为多个IMF(Intrinsicmode function，本征模态函数)分量，对所有IMF分量做Hilbert变换能得到信号的时频分布，但在理论上还存在一些问题，如EMD方法中的模态混淆、欠包络、过包络、端点效应等问题，均处在研究之中。基于人工智能的故障诊断方法中，目前主要是利用人工神经网络，通过不断的学习和对***进行信息的反馈，完成对诊断目标的分类；但其缺点是推理过程解释性差，而且当待诊断样本不完备(数据有缺失)时，神经网络不能进行有效的推理工作，无法利用故障的早期特征对轴承进行相应诊断。

发明内容

针对现有技术中存在的上述问题，本发明提供了一种基于深度学习和支持向量机的滚动轴承故障诊断方法，其首先采用深度信念网络来学习训练样本数据的本质特征，之后采用支持向量机分类方法对测试样本进行分类识别，从而确定滚动轴承故障工况类别，实现对滚动轴承故障类别的诊断，以提高滚动轴承故障诊断的准确性和有效性。

为实现上述目的，本发明采用了如下技术手段：

基于深度学习和支持向量机的滚动轴承故障诊断方法，包括如下步骤：

1)在四种不同工况下的滚动轴承转动工作时，通过加速度传感器分别采集每种工况下滚动轴承在不同转速工作的振动加速度信号，进行去噪预处理，并添加工况标签，将经过预处理并添加工况标签后的各种工况下的各个振动加速度信号数据作为训练样本；所述四种工况分别为正常运转、轴承内圈故障运转、轴承滚动体故障运转、轴承外圈故障运转；

2)建立深度信念网络模型，采用训练样本对深度信念网络模型进行训练，将训练样本输入深度信念网络模型中，采用非监督贪心逐层训练方法进行逐层训练和调优，得到深度信念网络模型的连接权值和偏置参数；

3)将各种工况下的训练样本分别作为确定连接权值和偏置参数的深度信念网络模型的输入，对训练样本进行深度学习，采用确定连接权值和偏置参数的深度信念网络模型分别对每种工况下的各个训练样本进行重构，得到每种工况下的各个训练样本对应的训练样本重构信号；

4)通过加速度传感器采集待测滚动轴承在转动工作时的振动加速度信号数据，并进行去噪预处理，作为测试样本；

5)将测试样本作为确定连接权值和偏置参数的深度信念网络模型的输入，对测试样本进行深度学习，采用确定连接权值和偏置参数的深度信念网络模型对测试样本进行重构，得到测试样本重构信号；

6)将测试样本重构信号作为测试样本的匹配特征，将每种工况下的各个训练样本对应的训练样本重构信号作为匹配基准，采用支持向量机分类方法对测试样本与训练样本进行匹配，将与测试样本最为匹配的训练样本所属的工况类别判定为测试样本的工况类别，从而得到待测滚动轴承的故障诊断结果。

上述基于深度学习和支持向量机的滚动轴承故障诊断方法中，具体而言，所述步骤2)中所建立的深度信念网络模型的联合分布函数为：

$E(v,h|\mathrm{\θ})=-\underset{i=1}{\overset{I}{\mathrm{\Σ}}}{a}_i{v}_i-\underset{j=1}{\overset{J}{\mathrm{\Σ}}}{b}_j{h}_j-\underset{i=1}{\overset{I}{\mathrm{\Σ}}}\underset{j=1}{\overset{J}{\mathrm{\Σ}}}{w}_{\mathrm{ij}}{v}_i{h}_j;---\left(1\right)$

其中，θ＝(w_ij,a_i,b_j)为深度信念网络模型参数，w_ij表示深度信念网络的可见层第i个节点v_i与隐含层第j个节点h_j之间的连接权值，a_i和b_j分别表示可见层第i个节点v_i的偏置参数和隐含层第j个节点h_j的偏置参数；

采用非监督贪心逐层训练方法对深度信念网络模型进行逐层训练和调优，具体方式为：

21)采用逐层训练的方式对深度信念网络模型各层中的受限玻尔兹曼机进行训练，低一层受限玻尔兹曼机的隐含层输出作为上一层的受限玻尔兹曼机的可见层输入，直至得到深度信念网络模型最后一层隐含层的输出；具体为：

可见层节点与隐含层节点的联合概率分布概率p(v,h|θ)为：

p(v,h|θ)＝e^-E(v,h|θ)/Z(θ)；  (2)

其中， $Z\left(\mathrm{\θ}\right)=\underset{v}{\mathrm{\Σ}}\underset{h}{\mathrm{\Σ}}{e}^{-E(v,h|\mathrm{\θ})}$ 为配分函数；

当给定可见层节点的状态时，隐含层第j个节点h_j的激活概率为：

$p(h_j=1|v,\mathrm{\θ})=\mathrm{\σ}(b_j+\underset{i=1}{\overset{I}{\mathrm{\Σ}}}{v}_i{w}_{\mathrm{ji}});---\left(3\right)$

当给定隐含层节点的状态时，可见层第i个节点v_i的激活概率为：

$p(v_i=1|h,\mathrm{\θ})=\mathrm{\σ}(a_j+\underset{i=1}{\overset{I}{\mathrm{\Σ}}}{h}_i{w}_{\mathrm{ji}});---\left(4\right)$

其中，σ(x)＝1/(1+e^-x)为sigmoid函数；

根据上述激活概率，当将给定训练样本输入至可见层节点时，采用深度信念网络模型的联合分布函数激励隐含层的所有节点后，再进行下一隐含层节点的激励，从而重新获得可见层节点；然后，采用对比散度算法计算可见层数据的条件分布，得到隐含层数据，再用计算所得隐含层数据的条件分布，计算可见层数据，对可见层数据实现重构，利用梯度下降法，对深度信念网络模型参数的调整和更新，连接权值和偏置参数的更新差值分别为：

Δw_ij＝ε(<v_ih_j>_data-<v_ih_j>_recon)；  (6)

Δa_i＝ε(<v_i>_data-<v_i>_recon)；  (7)

Δb_j＝ε(<h_j>_data-<h_j>_recon)；  (8)

其中，Δw_ij表示深度信念网络的可见层第i个节点v_i与隐含层第j个节点h_j之间的连接权值w_ij进行更新的更新差值，Δa_i和Δb_j分别表示可见层第i个节点v_i的偏置参数a_i进行更新的更新差值和隐含层第j个节点h_j的偏置参数b_j进行更新的更新差值；ε为训练的学习率，<·>_data表示训练数据集所定义的分布之上的数学期望，<·>_recon表示重构后的深度信念网络模型输出的分布上的数学期望；

经过上述逐层训练，直至得到深度信念网络模型最后一层隐含层的输出；

22)对步骤21所得的深度信念网络模型最后一层隐含层的输出进行反向传播网络的训练，并将训练预测输出的分类结果与训练样本的实际分类结果的分类误差逐层向后传播，对深度信念网络模型各层的连接权值进行调优；具体为：

反向传播网络的训练分为前向传播和后向传播两个过程；前向传播过程中，由步骤21所得的深度信念网络模型最后一层隐含层的输出作为输入被逐层传播到输出层，得到预测的分类类别，并根据训练样本的工况标签确定训练样本的实际分类结果，再将预测的分类结果与训练样本的实际分类结果进行比较得到分类误差，该分类误差被逐层向后回传，从而调优深度训练网络的参数；后向传播过程中，需要计算每一层的灵敏度δ的值，灵敏度δ被自顶向下传递以修正深度信念网络模型的连接权值；

对于输出层，假设第i个节点的实际输出为o_i，期望输出为d_i，那么第i个节点的灵敏度δ的计算表达式为：

δ_i＝o_i(1-o_i)(d_i-o_i)；  (9)

对于第m个隐含层，第i个节点的灵敏度的计算表达式为：

${\mathrm{\&delta;}}_i^m=y_i^m(1-y_i^m)\underset{j}{\mathrm{\&Sigma;}}{w}_{\mathrm{ij}}^m{\mathrm{\&delta;}}_j^{m+1};---\left(10\right)$

其中，表示第m个隐含层第i个节点的灵敏度，表示第m+1个隐含层第i个节点的灵敏度，表示第m个隐含层第i个节点的输出，表示第m个隐含层第i个节点与第m+1个隐含层第j个节点间的连接权值；

由此得到各个隐含层中各个节点的灵敏度δ之后，按下式对深度信念网络模型的连接权值进行更新调优：

$w_{\mathrm{ij}}^m\&LeftArrow;w_{\mathrm{ij}}^m+{\mathrm{\&epsiv;}}_{\mathrm{fine}-\mathrm{tuning}}\&times;y_i^m{\mathrm{\&delta;}}_j^{m+1};---\left(11\right)$

$b_j^m\&LeftArrow;b_j^m+{\mathrm{\&epsiv;}}_{\mathrm{fine}-\mathrm{tuning}}\&times;{\mathrm{\&delta;}}_j^{m+1};---\left(12\right)$

其中，ε_fine-tuning表示调优学习率，表示第m个隐含层第j个节点的偏置参数；

对深度信念网络模型各层的连接权值进行调优后，最终确定整个深度信念网络模型的连接权值和偏置参数。

上述基于深度学习和支持向量机的滚动轴承故障诊断方法中，作为一种优选方案，所述步骤6)采用支持向量机分类方法对测试样本与训练样本进行匹配的具体方式为：

61)在四种工况的训练样本中，针对其中第k类训练样本看作正类，k∈{1,2,3,4}，将其它3类训练样本看作负类，通过两类支持向量机分类方法得到第k类的分类决策函数f_k(x)：

$f_k\left(x\right)=\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_n^k{y}_{n}K(x,x_n)+b_k;$

其中，为第k类分类决策函数f_k(x)中第n个的训练样本重构信号x_n对应的拉格朗日系数；b_k为第k类分类决策函数f_k(x)的最优超平面位置系数；y_n表示第n个训练样本对应的分类标记，当第n个训练样本属于正类时y_n＝1，当第n个训练样本属于负类时y_n＝-1；n∈{1,2,…,N}，N为四种工况的训练样本的总数；K(x,x_n)表示分类决策函数f_k(x)的输入量x相对于第n个的训练样本重构信号x_n的高斯径向基核函数；

由此得到四种工况中每一种工况所对应的分类决策函数；

62)将测试样本重构信号分别作为四种工况对应的分类决策函数的输入量，计算出测试样本重构信号作为输入量的四个分类决策函数值，以其中最大的分类决策函数值所对应的工况类别判定为测试样本的工况类别，得到待测滚动轴承的故障诊断结果。

相比于现有技术，本发明具有如下有益效果：

1、本发明基于深度学习和支持向量机的滚动轴承故障诊断方法，利用深度信念网络理论中成熟的学习算法完成故障诊断所需的特征提取任务，可以不依赖人工选择由简单到复杂、由低级到高级自动地提取输入数据的本质特征，能够节约大量的人力，并能自动挖掘出隐藏在已知数据中的丰富信息，尤其适用于嘈杂、不确定性、动态的***。

2、本发明基于深度学习和支持向量机的滚动轴承故障诊断方法中，采用了支持向量机分类方法对测试样本进行分类识别，支持向量机分类方法中的学习过程可以被看成是一个优化寻找最优解的过程，因此可以采用之前设计好的有效方法去寻找和发现目标函数的全局最小值，从而解决深度信念网络可能陷入局部最优解的问题。

3、与现有技术比较，本发明的滚动轴承故障诊断方法能够提高滚动轴承故障诊断的准确性和有效性，为解决滚动轴承故障诊断问题提供一种新的有效途径，可广泛应用于化工、冶金、电力、航空等领域的复杂***中。

附图说明

图1为本发明基于深度学习和支持向量机的滚动轴承故障诊断方法的流程框图。

图2为滚动轴承内圈故障运转的原始振动加速度信号时域分布示例图(时域单位为ms)。

图3为滚动轴承滚动体故障运转的原始振动加速度信号时域分布示例图(时域单位为ms)。

图4为深度信念网络模型的模型构架示意图。

图5为受限玻尔兹曼机的模型示意图。

图6为SVM规范化最优分类超平面的位置关系示意图。

具体实施方式

为了克服现有技术的不足，本发明基于深度学习和支持向量机的滚动轴承故障诊断方法，首先采用深度信念网络来学习训练样本数据的本质特征，之后采用支持向量机分类方法对测试样本进行分类识别，从而确定滚动轴承故障工况类别，以提高滚动轴承故障诊断的准确性和有效性。

深度信念网络(Deep BeliefNetwork，简称DBN)拥有强大的函数表达能力，展现了从少数样本中学习数据本质特征的优良特性。研究表明由多层非线性映射层组成的深度网络结构比浅层结构更加有效，在复杂函数表示和复杂分类上有很好的效果和效率。深度信念网络阐述了多隐层神经网络具有优异的特征学习能力，其学习到的特征对数据有更本质的刻画，从而有助于分类和可视化。

支持向量机(Support Vector Machine，简称SVM)分类器的核心思想是通过某种非线性映射(核函数)将输入向量映射到一个高维特征空间，并构造最优分类超平面，从而实现分类识别。在解决小样本、非线性及高维模式识别中具有独特优势，又能很好地限制过学习，特别适合于小样本集的数据处理，因此能够在故障诊断和故障预测方面得到应用。

基于深度信念网络和支持向量机具备的上述优点，本发明的滚动轴承故障诊断方法将深度信念网络和支持向量机具备的上述优点加以整合，利用深度学习和支持向量机进行滚动轴承故障工况的分类，实现对滚动轴承故障的识别和诊断，其具体操作流程如图1所示，包括如下步骤：

1)在四种不同工况下的滚动轴承转动工作时，通过加速度传感器分别采集每种工况下滚动轴承在不同转速工作的振动加速度信号，进行去噪预处理，并添加工况标签，将经过预处理并添加工况标签后的各种工况下的各个振动加速度信号数据作为训练样本；所述四种工况分别为正常运转、轴承内圈故障运转、轴承滚动体故障运转、轴承外圈故障运转。

滚动轴承在四种不同工况下转动工作的振动加速度信号相互之间存在一定的差异，例如，图2和图3分别示出了滚动轴承在内圈故障运转、滚动体故障运转工况下的原始振动加速度信号时域分布图(时域单位为ms)，其信号差异较为明显。因此可以基于滚动轴承在不同工况下的振动加速度信号数据，对其故障情况进行识别。

2)建立深度信念网络模型，采用训练样本对深度信念网络模型进行训练，将训练样本输入深度信念网络模型中，采用非监督贪心逐层训练方法进行逐层训练和调优，得到深度信念网络模型的连接权值和偏置参数。

深度信念网络模型的模型构架示意图如图4所示，从结构上看，深度信念网络模型由多层无监督的受限玻尔兹曼机(Restricted Boltzmann machine，RBM)网络和一层有监督的反向传播(back-propagation，BP)网络组成。

深度训练网络模型的训练包含“预训练(pre-training)”和“调优(fine-tuning)”2个步骤。pre-training阶段深度训练网络采用逐层(layerwise)训练的方式对各层中的RBM进行训练，低一层RBM的隐含层输出作为上一层的RBM的可见层输入。fine-tuning阶段采用有监督学习方式对最后一层的BP网络进行训练，并将实际输出与预期输出的误差逐层向后传播，对整个深度训练网络的权值进行调优。RBM网络的训练过程实际上可看成是对深层BP网络权值的初始化，使深度训练网络克服了BP网络因随机初始化权值参数而导致的训练时间长和容易陷入局部最优解的缺点。

①受限玻尔兹曼机。

受限玻尔兹曼机是一种典型的基于能量的模型(energy-based model，EBM)，它由一个可见层(visible layer)与一个隐含层(hidden layer)组成，其模型示意图如图5所示。其中，v和h分别表示可见层与隐含层，W表示两层之间的连接权值。对于可见层与隐含层，其连接关系为层间神经元全连接，而层内没有神经元相连。

假设可见层与隐含层均为二值变量，可见层与隐含层的神经元数目分别为I和J，v_i和h_j分别表示第i个可见层神将元与第j个隐含层神经元的状态。对于一组特定的(v，h)，深度信念网络模型的联合分布函数为：

$E(v,h|\mathrm{\&theta;})=-\underset{i=1}{\overset{I}{\mathrm{\&Sigma;}}}{a}_i{v}_i-\underset{j=1}{\overset{J}{\mathrm{\&Sigma;}}}{b}_j{h}_j-\underset{i=1}{\overset{I}{\mathrm{\&Sigma;}}}\underset{j=1}{\overset{J}{\mathrm{\&Sigma;}}}{w}_{\mathrm{ij}}{v}_i{h}_j;---\left(1\right)$

其中，θ＝(w_ij,a_i,b_j)为深度信念网络模型参数，w_ij表示深度信念网络的可见层第i个节点v_i与隐含层第j个节点h_j之间的连接权值，a_i和b_j分别表示可见层第i个节点v_i的偏置参数和隐含层第j个节点h_j的偏置参数；

深度信念网络模型的联合分布函数，可得到(v，h)的联合概率分布：

p(v,h|θ)＝e^-E(v,h|θ)/Z(θ)；  (2)

其中，为配分函数。在实际问题中，我们最关心的是RBM所定义的关于观测变量的分布(似然函数)即p(v|θ)，它是联合概率p(v,h|θ)的边缘分布。

由于RBM的特殊结构(层内神经元无连接)，当给定可见层节点的状态时，各个隐含层节点的激活状态之间是相互独立的。此时，隐含层第j个节点h_j的激活概率为：

$p(h_j=1|v,\mathrm{\&theta;})=\mathrm{\&sigma;}(b_j+\underset{i=1}{\overset{I}{\mathrm{\&Sigma;}}}{v}_i{w}_{\mathrm{ji}});---\left(3\right)$

其中，σ(x)＝1/(1+e^-x)为sigmoid函数。类似的，当给定隐含层节点的状态时，可见层第i个节点v_i的激活概率为：

$p(v_i=1|h,\mathrm{\&theta;})=\mathrm{\&sigma;}(a_j+\underset{i=1}{\overset{I}{\mathrm{\&Sigma;}}}{h}_i{w}_{\mathrm{ji}});---\left(4\right)$

RBM采用迭代的方式进行训练，训练的目标在于学习出参数θ＝(w_ij,a_i,b_j)的值，以拟合给定的训练数据。参数θ可以通过求在训练样本集(设训练样本的总数量为T)上的极大对数似然函数得到，即：

${\mathrm{\&theta;}}^{*}=\arg \underset{\mathrm{\&theta;}}{\max }L\underset{t=1}{\overset{T}{\mathrm{\&Sigma;}}}\ln p\left(v^{\left(t\right)}\right|\mathrm{\&theta;});---\left(5\right)$

根据上述激活概率，当将训练样本输入至可见层节点时，采用深度信念网络模型的联合分布函数激励隐含层的所有节点后，再进行下一隐含层节点的激励，从而重新获得可见层节点；然后，采用对比散度算法计算可见层数据的条件分布，得到隐含层数据，再用计算所得隐含层数据的条件分布，计算可见层数据，对可见层数据实现重构，利用梯度下降法，对深度信念网络模型参数的调整和更新。采用Hinton提出的对比散度(contrastivedivergence，CD)算法，可得连接权值和偏置参数的更新差值分别如下：

Δw_ij＝ε(<v_ih_j>_data-<v_ih_j>_recon)  (6)；

Δa_i＝ε(<v_i>_data-<v_i>_recon)  (7)；

Δb_j＝ε(<h_j>_data-<h_j>_recon)  (8)；

其中，Δw_ij表示深度信念网络的可见层第i个节点v_i与隐含层第j个节点h_j之间的连接权值w_ij进行更新的更新差值，Δa_i和Δb_j分别表示可见层第i个节点v_i的偏置参数a_i进行更新的更新差值和隐含层第j个节点h_j的偏置参数b_j进行更新的更新差值；ε为训练的学习率，<·>_data表示训练数据集所定义的分布之上的数学期望，<·>_recon表示重构后的深度信念网络模型输出的分布上的数学期望。

经过上述逐层训练，直至得到深度信念网络模型最后一层隐含层的输出。

②对深度信念网络模型最后一层隐含层的输出进行反向传播网络的训练，并将训练预测输出的分类结果与训练样本的实际分类结果的分类误差逐层向后传播，对深度信念网络模型各层的连接权值进行调优。

反向传播网络是一种有监督的分类器，对RBM通过pre-training得到的特征向量进行分类，并且起到调优整个深度训练网络参数的作用。反向传播网络的训练分为前向传播和后向传播两个过程；前向传播过程中，由RBM的输出作为输入特征向量被逐层传播到输出层，得到预测的分类类别，并根据训练样本的工况标签确定训练样本的实际分类结果，再将预测的分类结果与训练样本的实际分类结果进行比较得到分类误差，该分类误差被逐层向后回传，从而调优深度训练网络的参数；后向传播过程中，需要计算每一层的灵敏度δ的值，灵敏度δ被自顶向下传递以修正深度信念网络模型的连接权值。

对于输出层，假设第i个节点的实际输出为o_i，期望输出为d_i，那么第i个节点的灵敏度δ的计算表达式为：

δ_i＝o_i(1-o_i)(d_i-o_i)；  (9)

对于第m个隐含层，第i个节点的灵敏度的计算表达式为：

${\mathrm{\&delta;}}_i^m=y_i^m(1-y_i^m)\underset{j}{\mathrm{\&Sigma;}}{w}_{\mathrm{ij}}^m{\mathrm{\&delta;}}_j^{m+1};---\left(10\right)$

其中，表示第m个隐含层第i个节点的灵敏度，表示第m+1个隐含层第i个节点的灵敏度，表示第m层第i个节点的输出，表示第m层的第i个节点与下一层第j个节点间的权值；

由此得到各个隐含层中各个节点的灵敏度δ之后，按下式对深度信念网络模型的连接权值进行更新调优：

$w_{\mathrm{ij}}^m\&LeftArrow;w_{\mathrm{ij}}^m+{\mathrm{\&epsiv;}}_{\mathrm{fine}-\mathrm{tuning}}\&times;y_i^m{\mathrm{\&delta;}}_j^{m+1};---\left(11\right)$

$b_j^m\&LeftArrow;b_j^m+{\mathrm{\&epsiv;}}_{\mathrm{fine}-\mathrm{tuning}}\&times;{\mathrm{\&delta;}}_j^{m+1};---\left(12\right)$

其中，ε_fine-tuning表示调优学习率，表示第m层第j个节点的；

对深度信念网络模型各层的连接权值进行调优后，最终确定整个深度信念网络模型的连接权值和偏置参数。

3)将各种工况下的训练样本分别作为确定连接权值和偏置参数的深度信念网络模型的输入，对训练样本进行深度学习，采用确定连接权值和偏置参数的深度信念网络模型分别对每种工况下的各个训练样本进行重构，得到每种工况下的各个训练样本对应的训练样本重构信号。

根据深度信念网络的特性，利用训练、调优后确定连接权值和偏置参数的深度信念网络模型，能够重构出具有较低误差的原数据样本，这样重构得到的数据样本重构信号能够体现和刻画了原数据样本的本质特征，从可以利用这些本质特征作为分类识别的参考特征。因此，该步骤利用确定连接权值和偏置参数的深度信念网络模型对每种工况下的各个训练样本进行重构，从而利用每种工况下的各个训练样本对应的训练样本重构信号作为后期对测试样本进行分类识别的匹配基准。

4)通过加速度传感器采集待测滚动轴承在转动工作时的振动加速度信号数据，并进行去噪预处理，作为测试样本。

5)将测试样本作为确定连接权值和偏置参数的深度信念网络模型的输入，对测试样本进行深度学习，采用确定连接权值和偏置参数的深度信念网络模型对测试样本进行重构，得到测试样本重构信号。

同理，该步骤利用确定连接权值和偏置参数的深度信念网络模型对测试样本进行重构，通过得到的测试样本重构信号刻画待测滚动轴承的振动加速度信号数中包含的本质特征，用于与各种工况下的训练样本重构信号所体现的本质特征进行匹配，以实现对待测滚动轴承所属故障工况类别的识别。

6)将测试样本重构信号作为测试样本的匹配特征，将每种工况下的各个训练样本对应的训练样本重构信号作为匹配基准，采用支持向量机分类方法对测试样本与训练样本进行匹配，将与测试样本最为匹配的训练样本所属的工况类别判定为测试样本的工况类别，从而得到待测滚动轴承的故障诊断结果。

支持向量机(SupportVector Machines，简称SVM)于1963年在AT&TBell实验室由Vapnik等提出，它是以统计学中的VC维理论和结构风险最小原理为理论基础，根据有限的样本信息在模型的复杂度(即特定训练样本的学***面，并在能够分开数据超平面的两边建立两个互相平行的超平面，分隔超平面使两个平行超平面的距离最大化，其距离越大，分类结果的误差越小。

图6为二维两类情况下的规范化最优超平面的位置关系示意图，H为分隔超平面H1、H2为两互相平行的超平面，H1、H2为分类间隔d＝2/||w||。为保证数据的线性化，需把数据映射到核函数空间；同时，为能有效地把两类分开，应保证两类被正确分开使分类间隔最大，即有目标函数为：

$\underset{w,b}{\min }\frac{1}{2}{\left|\right|w\left|\right|}^2+C\left(\underset{i=1}{\overset{N}{\mathrm{\&Sigma;}}}{\mathrm{\&epsiv;}}_i\right)=\frac{1}{2}(w\&CenterDot;w)+C\left(\underset{i=1}{\overset{N}{\mathrm{\&Sigma;}}}{\mathrm{\&epsiv;}}_i\right);---\left(13\right)$

对超平面H1、H2有：

式(14)可等价于：

其中：表示w与之间的内积，表把xi映射到核函数空间；b和C为常数；ε_i＞0为松弛变量，表示训练样本错分程度，其值越大表示错分样本越多。

对公式(13)和(15)运用Lagrange乘子法，得到：

其中：α_i＞0,β_i＞0为拉格朗日系数，L(w,b,α)为拉格朗日函数。

式(16)对w、ε_i和b的偏导数为零，得到：

把式(17)代入式(16)，最优超平面的解等价于以下对偶问题的解。

$\begin{array}{c}\max Q\left(\mathrm{\&alpha;}\right)=\underset{i=1}{\overset{N}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i-\frac{1}{2}\underset{i,j=1}{\overset{N}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j{y}_i{y}_{j}K(x_i\&CenterDot;x_j)\\ s.t.\underset{i=1}{\overset{N}{\mathrm{\&Sigma;}}}{y}_i{\mathrm{\&alpha;}}_i=0,C{>\mathrm{\&alpha;}}_i>0\end{array};---\left(18\right)$

其中：

运用Lagrange乘子法，得到解为：

由式(19)得到最优分类面的分类规则函数为：

本发明选用高斯径向基(RBF)核函数：

$K(x\&CenterDot;x_j)=\exp (-\frac{{\left|\right|x-x_i\left|\right|}^2}{{\mathrm{\&sigma;}}^2});---\left(21\right)$

其中：σ为RBF核函数的参数。

SVM算法是以统计学为基础寻求数据间的最优分类面，通过把非线性数据映射到了核函数空间，使其线性化，进而简化了计算复杂度，具有较好的分类效果。

步骤6)中，可以运用的支持向量机分类方法的具体分类方式有很多，例如一对一分类(OVO-SVM)、一对多分类(也称为一对余分类，OVR-SVM)、有向无环图分类(DAG-SVMS)、决策树分类、纠错输出编码分类等。但考虑到本发明方法中仅涉及正常运转、轴承内圈故障运转、轴承滚动体故障运转、轴承外圈故障运转这四种工况的故障工况分类识别，识别类别并不多，综合考虑识别效率和准确性的因素，采用一对多的SVM分类方法较为适合，因为采用一对多分类方法需要建立和进行识别运算的SVM分类器决策函数只有四个(每种故障工况类别对应一个)，并且滚动轴承在该四种不同工况下的振动加速度信号数据经过深度信念网络模型重构过后，其本质特征的区别已经足以识别，能够较好的保证识别准确性。

在本发明方法中，步骤6)优选采用一对多支持向量机分类方法对测试样本与训练样本进行匹配的具体方式为：

61)在四种工况的训练样本中，针对其中第k类训练样本看作正类，k∈{1,2,3,4}，将其它3类训练样本看作负类，通过两类支持向量机分类方法得到第k类的分类决策函数f_k(x)：

$f_k\left(x\right)=\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_n^k{y}_{n}K(x,x_n)+b_k;$

其中，为第k类分类决策函数f_k(x)中第n个的训练样本重构信号x_n对应的拉格朗日系数；b_k为第k类分类决策函数f_k(x)的最优超平面位置系数；y_n表示第n个训练样本对应的分类标记，当第n个训练样本属于正类时y_n＝1，当第n个训练样本属于负类时y_n＝-1；n∈{1,2,…,N}，N为四种工况的训练样本的总数；K(x,x_n)表示分类决策函数f_k(x)的输入量x相对于第n个的训练样本重构信号x_n的高斯径向基核函数；

由此得到四种工况中每一种工况所对应的分类决策函数；

62)将测试样本重构信号分别作为四种工况对应的分类决策函数的输入量，计算出测试样本重构信号作为输入量的四个分类决策函数值，以其中最大的分类决策函数值所对应的工况类别判定为测试样本的工况类别，得到待测滚动轴承的故障诊断结果。

通过实验数据验证，采用本发明的基于深度学***均故障识别准确率仅为83％左右)，完全能够满足实际应用需求。

综上所述，本发明基于深度学习和支持向量机的滚动轴承故障诊断方法，利用深度信念网络理论中成熟的学习算法完成故障诊断所需的特征提取任务，可以不依赖人工选择由简单到复杂、由低级到高级自动地提取输入数据的本质特征，能够节约大量的人力，并能自动挖掘出隐藏在已知数据中的丰富信息，尤其适用于嘈杂、不确定性、动态的***；此外，由于采用了支持向量机分类方法对测试样本进行分类识别，支持向量机分类方法中的学习过程可以被看成是一个优化寻找最优解的过程，因此可以采用之前设计好的有效方法去寻找和发现目标函数的全局最小值，从而解决深度信念网络可能陷入局部最优解的问题；与现有技术相比，本发明的滚动轴承故障诊断方法能够提高滚动轴承故障诊断的准确性和有效性，为解决滚动轴承故障诊断问题提供一种新的有效途径，可广泛应用于化工、冶金、电力、航空等领域的复杂***中。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。

Claims (3)

1.基于深度学习和支持向量机的滚动轴承故障诊断方法，其特征在于，包括如下步骤：

1)在四种不同工况下的滚动轴承转动工作时，通过加速度传感器分别采集每种工况下滚动轴承在不同转速工作的振动加速度信号，进行去噪预处理，并添加工况标签，将经过预处理并添加工况标签后的各种工况下的各个振动加速度信号数据作为训练样本；所述四种工况分别为正常运转、轴承内圈故障运转、轴承滚动体故障运转、轴承外圈故障运转；

2)建立深度信念网络模型，采用训练样本对深度信念网络模型进行训练，将训练样本输入深度信念网络模型中，采用非监督贪心逐层训练方法进行逐层训练和调优，得到深度信念网络模型的连接权值和偏置参数；

3)将各种工况下的训练样本分别作为确定连接权值和偏置参数的深度信念网络模型的输入，对训练样本进行深度学习，采用确定连接权值和偏置参数的深度信念网络模型分别对每种工况下的各个训练样本进行重构，得到每种工况下的各个训练样本对应的训练样本重构信号；

4)通过加速度传感器采集待测滚动轴承在转动工作时的振动加速度信号数据，并进行去噪预处理，作为测试样本；

5)将测试样本作为确定连接权值和偏置参数的深度信念网络模型的输入，对测试样本进行深度学习，采用确定连接权值和偏置参数的深度信念网络模型对测试样本进行重构，得到测试样本重构信号；

6)将测试样本重构信号作为测试样本的匹配特征，将每种工况下的各个训练样本对应的训练样本重构信号作为匹配基准，采用支持向量机分类方法对测试样本与训练样本进行匹配，将与测试样本最为匹配的训练样本所属的工况类别判定为测试样本的工况类别，从而得到待测滚动轴承的故障诊断结果。

2.根据权利要求1所述基于深度学习和支持向量机的滚动轴承故障诊断方法，其特征在于，所述步骤2)中所建立的深度信念网络模型的联合分布函数为：

$E(v,h|\mathrm{\&theta;})=-\underset{i=1}{\overset{I}{\mathrm{\&Sigma;}}}{a}_i{v}_i-\underset{j=1}{\overset{J}{\mathrm{\&Sigma;}}}{b}_j{h}_j-\underset{i=1}{\overset{I}{\mathrm{\&Sigma;}}}\underset{j=1}{\overset{J}{\mathrm{\&Sigma;}}}{w}_{\mathrm{ij}}{v}_i{h}_j;---\left(1\right)$

其中，θ＝(w_ij,a_i,b_j)为深度信念网络模型参数，w_ij表示深度信念网络的可见层第i个节点v_i与隐含层第j个节点h_j之间的连接权值，a_i和b_j分别表示可见层第i个节点v_i的偏置参数和隐含层第j个节点h_j的偏置参数；

采用非监督贪心逐层训练方法对深度信念网络模型进行逐层训练和调优，具体方式为：

21)采用逐层训练的方式对深度信念网络模型各层中的受限玻尔兹曼机进行训练，低一层受限玻尔兹曼机的隐含层输出作为上一层的受限玻尔兹曼机的可见层输入，直至得到深度信念网络模型最后一层隐含层的输出；具体为：

可见层节点与隐含层节点的联合概率分布概率p(v,h|θ)为：

p(v,h|θ)＝e^-E(v,h|θ)/Z(θ)；(2)

其中， $Z\left(\mathrm{\&theta;}\right)=\underset{v}{\mathrm{\&Sigma;}}\underset{h}{\mathrm{\&Sigma;}}{e}^{-E(v,h|\mathrm{\&theta;})}$ 为配分函数；

当给定可见层节点的状态时，隐含层第j个节点h_j的激活概率为：

$p(h_j=1|v,\mathrm{\&theta;})=\mathrm{\&sigma;}(b_j+\underset{i=1}{\overset{I}{\mathrm{\&Sigma;}}}{v}_i{w}_{\mathrm{ji}});---\left(3\right)$

当给定隐含层节点的状态时，可见层第i个节点v_i的激活概率为：

$p(v_i=1|h,\mathrm{\&theta;})=\mathrm{\&sigma;}(a_i+\underset{i=1}{\overset{I}{\mathrm{\&Sigma;}}}{h}_j{w}_{\mathrm{ji}});---\left(4\right)$

其中，σ(x)＝1/(1+e^-x)为sigmoid函数；

根据上述激活概率，当将给定训练样本输入至可见层节点时，采用深度信念网络模型的联合分布函数激励隐含层的所有节点后，再进行下一隐含层节点的激励，从而重新获得可见层节点；然后，采用对比散度算法计算可见层数据的条件分布，得到隐含层数据，再用计算所得隐含层数据的条件分布，计算可见层数据，对可见层数据实现重构，利用梯度下降法，对深度信念网络模型参数的调整和更新，连接权值和偏置参数的更新差值分别为：

Δw_ij＝ε(<v_ih_j>_data-<v_ih_j>_recon)；(6)

Δa_i＝ε(<v_i>_data-<v_i>_recon)；(7)

Δb_j＝ε(<h_j>_data-<h_j>_recon)；(8)

其中，Δw_ij表示深度信念网络的可见层第i个节点v_i与隐含层第j个节点h_j之间的连接权值w_ij进行更新的更新差值，Δa_i和Δb_j分别表示可见层第i个节点v_i的偏置参数a_i进行更新的更新差值和隐含层第j个节点h_j的偏置参数b_j进行更新的更新差值；ε为训练的学习率，<·>_data表示训练数据集所定义的分布之上的数学期望，<·>_recon表示重构后的深度信念网络模型输出的分布上的数学期望；

经过上述逐层训练，直至得到深度信念网络模型最后一层隐含层的输出；

22)对步骤21所得的深度信念网络模型最后一层隐含层的输出进行反向传播网络的训练，并将训练预测输出的分类结果与训练样本的实际分类结果的分类误差逐层向后传播，对深度信念网络模型各层的连接权值进行调优；具体为：

反向传播网络的训练分为前向传播和后向传播两个过程；前向传播过程中，由步骤21所得的深度信念网络模型最后一层隐含层的输出作为输入被逐层传播到输出层，得到预测的分类类别，并根据训练样本的工况标签确定训练样本的实际分类结果，再将预测的分类结果与训练样本的实际分类结果进行比较得到分类误差，该分类误差被逐层向后回传，从而调优深度训练网络的参数；后向传播过程中，需要计算每一层的灵敏度δ的值，灵敏度δ被自顶向下传递以修正深度信念网络模型的连接权值；

对于输出层，假设第i个节点的实际输出为o_i，期望输出为d_i，那么第i个节点的灵敏度δ的计算表达式为：

δ_i＝o_i(1-o_i)(d_i-o_i)；(9)

对于第m个隐含层，第i个节点的灵敏度的计算表达式为：

${\mathrm{\&delta;}}_i^m=y_i^m(1-y_i^m)\underset{j}{\mathrm{\&Sigma;}}{w}_{\mathrm{ij}}^m{\mathrm{\&delta;}}_j^{m+1};---\left(10\right)$

其中，表示第m个隐含层第i个节点的灵敏度，表示第m+1个隐含层第i个节点的灵敏度，表示第m个隐含层第i个节点的输出，表示第m个隐含层第i个节点与第m+1个隐含层第j个节点间的连接权值；

由此得到各个隐含层中各个节点的灵敏度δ之后，按下式对深度信念网络模型的连接权值进行更新调优：

$w_{\mathrm{ij}}^m\&LeftArrow;w_{\mathrm{ij}}^m+{\mathrm{\&epsiv;}}_{\mathrm{fine}-\mathrm{tuning}}\&times;y_i^m{\mathrm{\&delta;}}_j^{m+1};---\left(11\right)$

$b_j^m\&LeftArrow;b_j^m+{\mathrm{\&epsiv;}}_{\mathrm{fine}-\mathrm{tuning}}\&times;{\mathrm{\&delta;}}_j^{m+1};---\left(12\right)$

其中，ε_fine-tuning表示调优学习率，表示第m个隐含层第j个节点的偏置参数；

对深度信念网络模型各层的连接权值进行调优后，最终确定整个深度信念网络模型的连接权值和偏置参数。

3.根据权利要求1所述基于深度学习和支持向量机的滚动轴承故障诊断方法，其特征在于，所述步骤6)采用支持向量机分类方法对测试样本与训练样本进行匹配的具体方式为：

61)在四种工况的训练样本中，针对其中第k类训练样本看作正类，k∈{1,2,3,4}，将其它3类训练样本看作负类，通过两类支持向量机分类方法得到第k类的分类决策函数f_k(x)：

$f_k\left(x\right)=\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_n^k{y}_{n}K(x,x_n)+b_k;$

其中，为第k类分类决策函数f_k(x)中第n个的训练样本重构信号x_n对应的拉格朗日系数；b_k为第k类分类决策函数f_k(x)的最优超平面位置系数；y_n表示第n个训练样本对应的分类标记，当第n个训练样本属于正类时y_n＝1，当第n个训练样本属于负类时y_n＝-1；n∈{1,2,…,N}，N为四种工况的训练样本的总数；K(x,x_n)表示分类决策函数f_k(x)的输入量x相对于第n个的训练样本重构信号x_n的高斯径向基核函数；

由此得到四种工况中每一种工况所对应的分类决策函数；

62)将测试样本重构信号分别作为四种工况对应的分类决策函数的输入量，计算出测试样本重构信号作为输入量的四个分类决策函数值，以其中最大的分类决策函数值所对应的工况类别判定为测试样本的工况类别，得到待测滚动轴承的故障诊断结果。