CN111460738B - 磁悬浮***的rnn-arx建模方法、rnn-arx模型 - Google Patents

磁悬浮***的rnn-arx建模方法、rnn-arx模型 Download PDF

Info

Publication number
CN111460738B
CN111460738B CN202010300121.3A CN202010300121A CN111460738B CN 111460738 B CN111460738 B CN 111460738B CN 202010300121 A CN202010300121 A CN 202010300121A CN 111460738 B CN111460738 B CN 111460738B
Authority
CN
China
Prior art keywords
rnn
layer
output
input
arx
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010300121.3A
Other languages
English (en)
Other versions
CN111460738A (zh
Inventor
彭辉
张丁匀
童立
吴锐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Central South University
Original Assignee
Central South University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Central South University filed Critical Central South University
Priority to CN202010300121.3A priority Critical patent/CN111460738B/zh
Publication of CN111460738A publication Critical patent/CN111460738A/zh
Application granted granted Critical
Publication of CN111460738B publication Critical patent/CN111460738B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明公开了一种磁悬浮***的RNN‑ARX建模方法、RNN‑ARX模型，运用RNN循环神经网络、局部线性化方法以及状态相依ARX模型构建出磁悬浮球***的RNN‑ARX模型结构，在此基础上，通过基于时间的反向传播算法(BPTT)得到RNN‑ARX的模型参数并通过均方误差(MSE)选择最优的阶次。本发明以增加少量计算量为代价提高了磁悬浮球***辨识模型的建模精度和预测效果，特别在有大量输入输出训练样本的情况下，具有更多的模态并且模型的预测精度会进一步提升，具有较高的实用价值和应用前景。

Description

磁悬浮***的RNN-ARX建模方法、RNN-ARX模型
技术领域
本发明涉及磁悬浮球***的建模与模型参数优化领域，特别是一种磁悬浮***的RNN-ARX建模方法、RNN-ARX模型。
背景技术
磁悬浮技术是一种依靠电磁力将物体无机械接触地悬浮起来的技术，它集电磁学、电子技术、控制工程、信号处理、机械学、动力学为一体。近年来，随着控制技术的不断发展与完善，其应用从航空航天、军事等高端领域逐步扩展到交通、材料等一般工业领域。磁悬浮***因其无污染、无噪声、能耗低等优点，得到学术界的广泛关注。
由于磁悬浮***强非线性、快速性和高阶次性等特点，***建模与控制问题一直是研究热点。在建模方面，有学者直接运用传统的机理建模方法对被控对象进行分析研究，但因其复杂的物理学特性，在建模时忽略了一些不确定的因素，从而导致机理模型并不能够精确地体现被控***的非线性特性，基于该模型进行控制会影响控制效果。实验建模利用***的历史输入输出数据建立模型，无需知道精确的模型结构与相关参数，只需选择合适的模型阶次，便可以得到复杂被控对象的模型，这一建模方法对复杂***建模有着推动性的作用。因此，实验建模就是将***看作黑箱，不分析其内部机理，而只根据研究对象的输入输出数据之间的相互关系直接建模，模型的在线校正能力强，适用于高度非线性和严重不确定的磁悬浮球***。神经网络建模是一种常用的实验建模方法，它通常与常规模型相结合，用神经网络来估计常规模型的模型参数，进而实现模型的建立。相比于其他模型有非线性映射能力强、具有自适应功能、具有泛化功能、适用于多变量***等优点1927年，Yule等人提出了带外生变量的自回归模型(Auto Regressive Model with ExogenousInputs，简称ARX模型)，因其形式简单但效果出众，得到广泛应用。1980年Priestley提出了一种非线性的时间序列模型——状态相依(state-dependent，SD)模型，这成为非线性***建模有力的理论基础。Peng等将SD模型与ARX模型相结合，并使用RBF神经网络拟合模型的函数型系数，提出了RBF-ARX模型，该模型提高和发展了非线性***建模及控制性能，可广泛应用于强非线性***。其模型结构如下：
Figure GDA0002525897940000021
其中，xt表示***的状态向量，φ0、φy,i和φu,i为依存于状态向量的函数型系数，使用RBF神经网络来拟合模型的函数型系数。ny、nu分别表示输出和输入的模型阶次，εt为白噪声信号。在固定时刻，xt唯一确定，该模型表现为线性的ARX模型，而在不同的时刻，状态相依函数系数不同，该模型可用于描述非线性***的动态特性。但是传统的神经网络——前向网络(常见的有单层感知器、线性神经网络、BP神经网络和RBF神经网络等)是一种最简单的神经网络，各神经元分层排列，每个神经元只与前一层的神经元相连，接收前一层的输出，并输出给下一层，数据正向流动，输出仅由当前的输入和网络权值决定，各层间没有反馈，无法保留序列的依赖性。这种网络实现信号从输入空间到输出空间的变换，它的信息处理能力来自于简单非线性函数的多次复合，导致辨识模型的预测精度受限。
发明内容
本发明所要解决的技术问题是，针对现有技术不足，提供一种磁悬浮***的RNN-ARX建模方法、RNN-ARX模型，提高磁悬浮球***的辨识模型的预测精度。
为解决上述技术问题，本发明所采用的技术方案是：一种磁悬浮***的RNN-ARX建模方法，包括以下步骤：
1)采集各时刻磁悬浮球***的输入数据和对应的输出数据；
2)利用上述输入数据和输出数据建立RNN-ARX模型；其中，RNN-ARX模型的表达式如下：
Figure GDA0002525897940000022
其中，xt＝[yt-1,yt-2,…,yt-z]T，yt-1,yt-2,…,yt-z分别为t-1、t-2、……、t-z时刻磁悬浮球***的实际输出小球(磁悬浮球)的位置信号，z为状态向量的维度；φ0(xt)、φy,i(xt)和φu,j(xt)是依赖于工作点状态的函数型系数；ξt为高斯白噪声信号；ny、nu分别为输出向量和输入向量的阶次；yt-i为t-i时刻磁悬浮球***的实际输出小球的的位置信号，yt为t时刻磁悬浮球***的预测输出小球的位置信号；ut-j为t-j时刻的输入；
3)对所述RNN-ARX模型进行前向运算，得到预测输出，以所述预测输出和期望输出的损失函数最小化为目标，优化所述RNN-ARX模型的参数，得到最优参数；
4)根据所述最优参数计算出所述RNN-ARX模型的预测值和损失函数值；
5)重复步骤1)～4)，选择当损失函数值为最小情况下的输入向量阶次、输出向量阶次作为磁悬浮球***的RNN-ARX模型的当前输入向量阶次、输出向量阶次，分别调整RNN循环神经网络的层数和每层的神经元个数，比较在当前输入向量阶次、输出向量阶次下不同RNN结构的损失函数大小，并选取损失函数值为最小情况下的模型结构作为当前结构。
循环神经网络(Recurrent Neural Network，RNN)通过隐藏层节点周期性的连接，来捕捉序列化数据中动态信息，主要用于处理序列数据，其最大的特点就是神经元在某时刻的输出可以作为输入再次输入到神经元，可以保持数据中的序列依赖关系，特别适用于处理时间序列数据建模，如采集的磁悬浮球***数据。本发明结合RNN(循环神经网络)对时间序列数据逼近的能力和SD-ARX(带外生变量的状态相依自回归模型)对磁悬浮球***非线性特性描述的优点，具有局部线性化和全局非线性的特点。建立的磁悬浮球***的RNN-ARX模型参数均为离线状态下计算得到，基于该模型进行控制时，直接使用离线计算得到的参数值，减少了控制器在线计算优化的参数量，利用本发明的建模方法和模型，可以有效地避免后续使用过程中控制器参数在线优化时引出的实时性问题，提高了磁悬浮球***辨识模型的预测精度。
为了进一步提高模型的预测精度，步骤5)之后，还包括：
6)重复上述步骤1)～5)，比较不同输入向量阶次、输出向量阶次下不同结构的损失函数，并选取最小损失函数值对应的RNN-ARX模型参数，将该对应的RNN-ARX模型作为最后的磁悬浮球***的RNN-ARX模型。
本发明RNN-ARX模型包括：
输入层，输入数据为磁悬浮球***的RNN的输入xt和ARX的输入at；其中，xt＝[yt-1,yt-2,...yt-z]
Figure GDA0002525897940000041
中间层，包括m个依次连接的RNN层；每个所述RNN层包括依次连接的输入层、隐藏层和输出层，其中第k个RNN层的输入即为第k-1个RNN层的输出；第k个RNN层t时刻的输入
Figure GDA0002525897940000042
第k个RNN层t时刻隐藏层状态/>
Figure GDA0002525897940000043
的表达式为：/>
Figure GDA0002525897940000044
其中，/>
Figure GDA0002525897940000045
为第k个RNN层的输入层到隐藏层的权重系数；/>
Figure GDA0002525897940000046
为第k个RNN层的隐藏层到隐藏层的权重系数；/>
Figure GDA0002525897940000047
为第k个RNN层的偏移量；/>
Figure GDA0002525897940000048
Figure GDA0002525897940000049
f(·)为激活函数；
输出层，为全连接层，t时刻该输出层的输入为
Figure GDA00025258979400000410
即第m个RNN层的输出；t时刻的输出yt＝atot，ot＝[φ0(xt)φy,i(xt)φu,j(xt)]T＝g(vt)；/>
Figure GDA00025258979400000411
为中间层到输出层的权重矩阵，该权重矩阵形状(即矩阵尺寸)为nm*(ny+nu+1)，nm为第m个RNN层的神经网络节点个数；by为偏移量矩阵，矩阵形状为1*(ny+nu+1)；g(·)为激活函数。
上述模型参数可离线辨识，极大减少了在线计算量，有效地避免参数在线优化时引出的实时性问题，提高了磁悬浮球***辨识模型的预测精度。
为了进一步提高模型的准确性，步骤1)中，将采集的数据分成训练集和测试集；对于所述训练集，执行步骤2)～步骤6)的操作，得到第一损失函数值；将所述测试集输入最后的磁悬浮球***的RNN-ARX模型中，得到第二损失函数值；判断所述第一损失函数值和第二损失函数值是否均小于设定值，若是，则所述最后的磁悬浮球***的RNN-ARX模型合格。
为了进一步简化计算，本发明设定所述损失函数表达式为：
Figure GDA0002525897940000051
其中，/>
Figure GDA0002525897940000052
为t时刻磁悬浮球的真实位置目标值(即磁悬浮***的输出目标值)；T为当前时刻。
所述激活函数f(·)和g(·)均为双曲正切函数，计算量小。
本发明还提供了一种磁悬浮***的RNN-ARX模型，包括：
输入层，输入数据为RNN的输入xt和ARX的输入at；其中，xt＝[yt-1,yt-2,...yt-z]
Figure GDA0002525897940000053
Figure GDA00025258979400000516
分别为t-1、……、t-ny时刻磁悬浮球***的实际输出；/>
Figure GDA0002525897940000054
分别为t-1、……、t-nu时刻磁悬浮球***的的输入；ny、nu分别为输出向量和输入向量的阶次；
中间层，包括m个依次连接的RNN层；每个所述RNN层包括依次连接的输入层、隐藏层和输出层，其中第k个RNN层的输入即为第k-1个RNN层的输出；第k个RNN层t时刻的输入
Figure GDA0002525897940000055
第k个RNN层t时刻隐藏层状态/>
Figure GDA0002525897940000056
的表达式为：/>
Figure GDA0002525897940000057
其中，/>
Figure GDA0002525897940000058
为第k个RNN层的输入层到隐藏层的权重系数；/>
Figure GDA0002525897940000059
为第k个RNN层的隐藏层到隐藏层的权重系数；/>
Figure GDA00025258979400000510
为第k个RNN层的偏移量；/>
Figure GDA00025258979400000511
Figure GDA00025258979400000512
f(·)为激活函数；
输出层，t时刻其输入vt为：
Figure GDA00025258979400000513
t时刻的预测输出yt＝atot，ot＝[φ0(xt)φy,i(xt)φu,j(xt)]T＝g(vt)；/>
Figure GDA00025258979400000514
为中间层到输出层的权重矩阵，权重矩阵形状为nm*(ny+nu+1)，nm为第m个RNN层的神经网络节点个数；/>
Figure GDA00025258979400000515
为第m个RNN层的偏移量矩阵，偏移量矩阵形状为1*(ny+nu+1)；g(·)为激活函数。本发明中，m＝3，每个RNN层节点个数分别为n1＝5,n2＝10,n3＝5。实验证明，该结构的RNN-ARX模型可以满足磁悬浮***的预测精度要求。
相应地，本发明还提供了一种磁悬浮***的RNN-ARX模型，该模型表达式为：
Figure GDA0002525897940000061
其中，xt为t时刻磁悬浮球***的RNN层的输入，xt＝[yt-1,yt-2,…,yt-z]T，yt-1,yt-2,…,yt-z分别为t-1、t-2、……、t-z时刻磁悬浮球***的实际输出的小球位置信号，z为状态向量的维度；φ0(xt)、φy,i(xt)和φu,j(xt)是依赖于工作点状态的函数型系数；ξt为高斯白噪声信号；ny、nu分别为输出向量和输入向量的阶次；yt-i为t-i时刻磁悬浮球***的实际输出小球的位置信号，yt为t时刻磁悬浮球***的预测的输出小球的位置信号；ut-j为t-j时刻的输入。RNN层个数为m，m个RNN层依次连接；每个所述RNN层包括依次连接的输入层、隐藏层和输出层，其中第k个RNN层的输入即为第k-1个RNN层的输出；第k个RNN层t时刻的输入
Figure GDA0002525897940000062
第k个RNN层t时刻隐藏层状态/>
Figure GDA0002525897940000063
的表达式为：/>
Figure GDA0002525897940000064
其中，/>
Figure GDA0002525897940000065
为第k个RNN层的输入层到隐藏层的权重系数；/>
Figure GDA0002525897940000066
为第k个RNN层的隐藏层到隐藏层的权重系数；/>
Figure GDA0002525897940000067
为第k个RNN层的偏移量；/>
Figure GDA0002525897940000068
Figure GDA0002525897940000069
f(·)为激活函数。
实验证明，当输入阶次nu＝4，输出阶次ny＝6，状态向量维度z＝3时，模型预测性能最优。
与现有技术相比，本发明所具有的有益效果为：本发明结合RNN(循环神经网络)对时间序列数据逼近的能力和SD-ARX(带外生变量的状态相依自回归模型)对磁悬浮球***非线性特性描述的优点，具有局部线性化和全局非线性的特点。该建立的磁悬浮球***的RNN-ARX均为离线状态下计算得到，基于该模型进行控制时，直接使用离线计算得到的参数值，减少了控制器在线计算优化的参数量，利用本发明的建模方法和模型，可以有效地避免后续使用过程中控制器参数在线优化时引出的实时性问题，提高了磁悬浮球***辨识模型的预测精度；本发明的模型可以用于磁悬浮球***的数据建模，数据预测以及基于模型控制器的设计，具有较高的价值和应用前景。
附图说明
图1为本发明中磁悬浮球***的RNN-ARX模型的建模流程图。
图2为本发明中磁悬浮球***的RNN-ARX模型结构图。
具体实施方式
如图1所示，本发明实施例建模过程包括：
1)根据从实际磁悬浮球***采集的历史输入输出数据建立RNN-ARX模型，选择磁悬浮球***的RNN-ARX模型的输入向量阶次、输出向量阶次、状态向量维数和模型训练时的超参数，例如：模型迭代次数，RNN循环神经网络的层数，各层的神经网络节点个数等；
2)对磁悬浮球***的RNN-ARX模型进行前向运算得到预测输出，以预测输出和期望输出的损失函数最小化为目标，通过基于时间的反向传播算法进行参数优化，当训练达到迭代次数100时结束训练，得到最优参数；
3)根据所求最优参数，按照所建立的模型，计算出磁悬浮球***RNN-ARX模型的预测输出和损失函数值；
4)重复上述步骤1)～步骤3)，选择当损失函数值为最小情况下的阶次作为磁悬浮球***的RNN-ARX模型的当前阶次(输入向量阶次、输出向量阶次)，分别调整RNN循环神经网络的层数和每层的神经元个数，比较在当前阶次下不同结构的损失函数大小，并选取损失函数值为最小情况下的结构作为当前结构；
5)重复上述步骤1)～步骤4)，比较不同阶次不同结构的损失函数，并选取最小损失函数值相应的组合作为最后的磁悬浮球***的RNN-ARX模型。
步骤1)中，磁悬浮球***的RNN-ARX模型的表达式
Figure GDA0002525897940000071
式中：
Figure GDA0002525897940000081
上式中，yt、ut分别为t时刻的磁悬浮球***输出变量和输入变量，即磁悬浮球的位置信号和输入控制电压，ξt为高斯白噪声信号，ny、nu分别为输出向量和输入向量的阶次，
Figure GDA0002525897940000084
为t时刻第k个隐藏层的状态，ot为t时刻输出层的初始输出(即RNN-ARX模型的函数型系数)，矩阵形状为1*(1+ny+nu)，ot(0)为输出层的第1个初始输出值，ot(i)为输出层的第2至ny+1个初始输出值，ot(i+ny)为输出层的第ny+2至1+ny+nu个初始输出值，z为状态向量的阶次，φ0(xt)、φy,i(xt)和φu,j(xt)是依赖于工作点状态的函数型系数，m为中间层中RNN层的层数，/>
Figure GDA0002525897940000082
分别为第k个RNN层中输入到隐藏层的权重系数，隐藏层到隐藏层的权重系数和偏移量，Why为最后一个中间层到输出层的权重系数。
需要注意的是，上述初始输出ot乘以at，即得到输出层的最终输出yt。
如图2，步骤2)中，对磁悬浮球***的RNN-ARX模型进行前向运算得到预测输出的具体实现过程(即本发明的模型结构)包括：
1.输入层
模型中第一层为输入层，模型有两个输入流，分别为磁悬浮球***的RNN的输入xt和ARX的输入at，xt矩阵形状为1*z，z为状态向量的维数，at矩阵形状为1*(ny+nu+1)，ny、nu分别为输出和输入变量的模型阶次，表示如下：
xt＝[yt-1,yt-2,...yt-z]
Figure GDA0002525897940000083
2.中间层
模型中间层为m个RNN层，每个RNN层包含输入层、隐藏层和输出层，其中第k个RNN层的输入为第k-1个RNN层的输出，第k个RNN层的网络节点个数为nk，中间层计算公式如下：
Figure GDA0002525897940000091
式中上标k皆表示第k个RNN层的参数，
Figure GDA0002525897940000092
为第k个RNN层t时刻的输入；/>
Figure GDA0002525897940000093
为第k个RNN层输入层到隐藏层的权重系数，矩阵形状为nk-1*nk；/>
Figure GDA0002525897940000094
为第k个RNN层隐藏层到隐藏层的权重系数，矩阵形状为nk*nk；/>
Figure GDA0002525897940000095
为偏移量，矩阵形状为1*nk；/>
Figure GDA0002525897940000096
为t时刻第k个RNN层的隐藏层状态，与t时刻输入和t-1时刻隐藏层状态/>
Figure GDA0002525897940000097
有关，初始值一般选取为0；f(·)为激活函数，依次作用于向量/>
Figure GDA0002525897940000098
中的每一个元素，本发明选取激活函数为tanh，均值为0，在磁悬浮球***实际应用中效果更好。
3.输出层
模型中输出层为简单的全连接层，该全连接层网络节点个数为ny+nu+1，计算公式如下所示：
Figure GDA0002525897940000099
式中vt为t时刻输出层的输入；
Figure GDA00025258979400000910
为中间层到输出层的权重，矩阵形状为nm*(ny+nu+1)；by为偏移量，矩阵形状为1*(ny+nu+1)；at为t时刻ARX输入，通过矩阵乘法运算得到模型t时刻的预测输出yt；g(·)为激活函数，本发明选取tanh，均值为0，在磁悬浮球***实际应用中效果更好。
选取均方误差值(Mean-Squared Error,MSE)为最小化目标函数(或训练准则)，公式如下：
Figure GDA0002525897940000101
式中，
Figure GDA0002525897940000102
为t时刻磁悬浮球的真实位置目标值；yt为t时刻的磁悬浮球位置预测值，T为当前时刻。显然，均方误差值可表示模型预测值与真实目标值的接近程度。均方误差值越小，模型精度越高。
所有参数均使用相同的更新规则，例如参数w更新规则为：
Figure GDA0002525897940000103
其中α为学习率，设定为0.0001。
实施例：
1)利用磁悬浮球数据采集平台，采集实际历史输入输出数据，***采样时间为5ms，输入为控制电压u，输出为磁悬浮球位置y，为全面激发***的特性，采用综合波信号激励***，按照80％和20％划分数据集为训练集和测试集。
2)根据划分的数据集建立RNN-ARX模型，选择磁悬浮球***的RNN-ARX模型的输入向量阶次、输出向量阶次、状态向量维数和模型训练时的超参数，例如：模型迭代次数，RNN循环神经网络的层数，各层的神经网络节点个数等；
3)对磁悬浮球***的RNN-ARX模型进行前向运算得到预测输出，以预测输出和期望输出的损失函数最小化为目标，通过基于时间的反向传播算法(BPTT)进行参数优化，当训练达到迭代次数100时结束训练，得到最优参数；
4)根据所求最优的模型参数，按照所建立的模型，计算出磁悬浮球***RNN-ARX模型的预测值(即预测输出)和损失函数值；
5)重复上述步骤2)～步骤4)，选择当损失函数值为最小情况下的阶次作为磁悬浮球***的RNN-ARX模型的当前阶次，分别调整RNN循环神经网络的层数和每层的神经网络节点个数，比较在当前阶次下不同结构的损失函数大小，并选取损失函数值为最小情况下的结构作为当前结构；
6)重复上述步骤2)～步骤5)，比较不同阶次不同结构的损失函数，并选取最小损失函数值相应的组合作为最后的磁悬浮球***的RNN-ARX模型，损失函数值(MSE)低于5*10-4即可认为较小，符合建模要求。最后所建立的模型参数为：输入阶次nu＝4，输出阶次ny＝6，状态向量维度z＝3，迭代次数100，RNN循环神经网络层数m＝3，每层的循环神经网络节点个数分别为n1＝5,n2＝10,n3＝5，学习率α＝0.0001，计算出的训练集和测试集的损失函数值(MSE)分别为2.6178*10-4，3.8878*10-4，可以看出所建立的磁悬浮球***的RNN-ARX模型建模误差小、符合建模要求且预测精度高，使用所建立的模型进行后续的预测控制精度高，能使磁悬浮球快速稳定跟踪参考轨迹曲线运动，验证了该模型的优越性。

Claims (9)

1.一种磁悬浮***的RNN-ARX建模方法，其特征在于，包括以下步骤：
1)采集各时刻磁悬浮球***的输入数据和对应的输出数据；
2)利用上述输入数据和输出数据建立RNN-ARX模型；其中，RNN-ARX模型的表达式如下：
Figure FDA0003764180020000011
其中，xt＝[yt-1,yt-2,…,yt-z]T，yt-1,yt-2,…,yt-z分别为t-1、t-2、……、t-z时刻磁悬浮球***的实际输出，z为状态向量的维度；φ0(xt)、φy,i(xt)和φu,j(xt)是依赖于工作点状态的函数型系数；ξt为高斯白噪声信号；ny、nu分别为输出向量的阶次和输入向量的阶次；yt-i为t-i时刻磁悬浮球***的实际输出，yt为t时刻磁悬浮球***的预测输出；ut-j为t-j时刻的输入；
所述RNN-ARX模型包括：
输入层，输入数据为磁悬浮球***的RNN的输入xt和ARX的输入at；
其中，
Figure FDA0003764180020000012
中间层，包括m个依次连接的RNN层；每个所述RNN层包括依次连接的输入层、隐藏层和输出层，其中第k个RNN层的输入即为第k-1个RNN层的输出；第k个RNN层t时刻的输入
Figure FDA0003764180020000013
第k个RNN层t时刻隐藏层状态/>
Figure FDA0003764180020000014
的表达式为：/>
Figure FDA0003764180020000015
其中，/>
Figure FDA0003764180020000016
为第k个RNN层的输入层到隐藏层的权重系数；/>
Figure FDA0003764180020000017
为第k个RNN层的隐藏层到隐藏层的权重系数；/>
Figure FDA0003764180020000018
为第k个RNN层的偏移量；/>
Figure FDA0003764180020000021
f(·)为激活函数；
输出层，为全连接层，t时刻该输出层的输入为
Figure FDA0003764180020000022
即第m个RNN层的输出；t时刻的预测输出yt＝atot，ot＝[φ0(xt)φy,i(xt)φu,j(xt)]T＝g(vt)；/>
Figure FDA0003764180020000023
为中间层到输出层的权重矩阵，权重矩阵形状为nm*(ny+nu+1)，nm为第m个RNN层的神经网络节点个数；by为偏移量矩阵，偏移量矩阵形状为1*(ny+nu+1)；g(·)为激活函数；
3)对所述RNN-ARX模型进行前向运算，得到预测输出，以所述预测输出和期望输出的损失函数最小化为目标，优化所述RNN-ARX模型的参数，得到最优参数；
4)根据所述最优参数计算出所述RNN-ARX模型的预测输出和损失函数值；
5)重复步骤1)～4)，选择当损失函数值为最小情况下的输入向量阶次、输出向量阶次作为磁悬浮球***的RNN-ARX模型的当前输入向量阶次、输出向量阶次，分别调整RNN循环神经网络的层数和每层的神经元个数，比较在当前输入向量阶次、输出向量阶次下不同RNN结构的损失函数大小，并选取损失函数值为最小情况下的模型结构作为当前结构。
2.根据权利要求1所述的磁悬浮***的RNN-ARX建模方法，其特征在于，步骤5)之后，还包括：
6)重复上述步骤1)～5)，比较不同输入向量阶次、输出向量阶次下不同结构的损失函数，并选取最小损失函数值对应的RNN-ARX模型参数，将该对应的RNN-ARX模型作为最后的磁悬浮球***的RNN-ARX模型。
3.根据权利要求1或2所述的磁悬浮***的RNN-ARX建模方法，其特征在于，步骤1)中，将采集的数据分成训练集和测试集；对于所述训练集，执行步骤2)～步骤6)的操作，得到第一损失函数值；将所述测试集输入最后的磁悬浮球***的RNN-ARX模型中，得到第二损失函数值；判断所述第一损失函数值和第二损失函数值是否均小于设定值，若是，则所述最后的磁悬浮球***的RNN-ARX模型合格。
4.根据权利要求3所述的磁悬浮***的RNN-ARX建模方法，其特征在于，所述损失函数表达式为：
Figure FDA0003764180020000031
其中，/>
Figure FDA0003764180020000032
为t时刻磁悬浮球***的目标输出；T为当前时刻。
5.根据权利要求4所述的磁悬浮***的RNN-ARX建模方法，其特征在于，所述激活函数f(·)和g(·)均为双曲正切函数。
6.一种磁悬浮***的RNN-ARX模型，其特征在于，包括：
输入层，输入数据为RNN的输入xt和ARX的输入at；其中，
Figure FDA0003764180020000033
Figure FDA0003764180020000034
分别为t-1、……、t-ny时刻磁悬浮球***的实际输出；/>
Figure FDA0003764180020000035
分别为t-1、……、t-nu时刻磁悬浮球***的的输入；ny、nu分别为输出向量和输入向量的阶次；
中间层，包括m个依次连接的RNN层；每个所述RNN层包括依次连接的输入层、隐藏层和输出层，其中第k个RNN层的输入即为第k-1个RNN层的输出；第k个RNN层t时刻的输入
Figure FDA0003764180020000036
第k个RNN层t时刻隐藏层状态/>
Figure FDA0003764180020000037
的表达式为：/>
Figure FDA0003764180020000038
其中，/>
Figure FDA0003764180020000039
为第k个RNN层的输入层到隐藏层的权重系数；/>
Figure FDA00037641800200000310
为第k个RNN层的隐藏层到隐藏层的权重系数；/>
Figure FDA00037641800200000311
为第k个RNN层的偏移量；/>
Figure FDA00037641800200000312
f(·)为激活函数；
输出层，t时刻其输入vt为：
Figure FDA0003764180020000041
t时刻的预测输出yt＝atot，ot为t时刻RNN-ARX模型的函数型系数，ot＝[φ0(xt) φy,i(xt) φu,j(xt)]T＝g(vt)；/>
Figure FDA0003764180020000042
为中间层到输出层的权重矩阵，该权重矩阵形状为nm*(ny+nu+1)，nm为第m个RNN层的神经网络节点个数；/>
Figure FDA0003764180020000043
为第m个RNN层的偏移量矩阵，该偏移量矩阵形状为1*(ny+nu+1)；g(·)为激活函数。
7.根据权利要求6所述的模型，其特征在于，m＝3，每个RNN层节点个数分别为n1＝5,n2＝10,n3＝5。
8.一种磁悬浮***的RNN-ARX模型，其特征在于，该模型表达式为：
Figure FDA0003764180020000044
其中，xt为t时刻RNN层的输入，xt＝[yt-1,yt-2,…,yt-z]T，yt-1,yt-2,…,yt-z分别为t-1、t-2、……、t-z时刻磁悬浮球***的实际输出；z为状态向量的维度；φ0(xt)、φy,i(xt)和φu,j(xt)是依赖于工作点状态的函数型系数；ξt为高斯白噪声信号；ny、nu分别为输出向量和输入向量的阶次；yt-i为t-i时刻磁悬浮球***的实际输出，yt为t时刻磁悬浮球***的预测输出；ut-j为t-j时刻的输入；其中，RNN层个数为m，m个RNN层依次连接；每个所述RNN层包括依次连接的输入层、隐藏层和输出层，其中第k个RNN层的输入即为第k-1个RNN层的输出；第k个RNN层t时刻的输入
Figure FDA0003764180020000045
第k个RNN层t时刻隐藏层状态/>
Figure FDA0003764180020000046
的表达式为：
Figure FDA0003764180020000047
其中，/>
Figure FDA0003764180020000048
为第k个RNN层的输入层到隐藏层的权重系数；/>
Figure FDA0003764180020000051
为第k个RNN层的隐藏层到隐藏层的权重系数；/>
Figure FDA0003764180020000052
为第k个RNN层的偏移量；
Figure FDA0003764180020000053
f(·)为激活函数。
9.根据权利要求8所述的磁悬浮***的RNN-ARX模型，其特征在于，输入阶次nu＝4，输出阶次ny＝6，状态向量维度z＝3。
CN202010300121.3A 2020-04-16 2020-04-16 磁悬浮***的rnn-arx建模方法、rnn-arx模型 Active CN111460738B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010300121.3A CN111460738B (zh) 2020-04-16 2020-04-16 磁悬浮***的rnn-arx建模方法、rnn-arx模型

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010300121.3A CN111460738B (zh) 2020-04-16 2020-04-16 磁悬浮***的rnn-arx建模方法、rnn-arx模型

Publications (2)

Publication Number Publication Date
CN111460738A CN111460738A (zh) 2020-07-28
CN111460738B true CN111460738B (zh) 2023-06-16

Family

ID=71678626

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010300121.3A Active CN111460738B (zh) 2020-04-16 2020-04-16 磁悬浮***的rnn-arx建模方法、rnn-arx模型

Country Status (1)

Country Link
CN (1) CN111460738B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112580257B (zh) * 2020-12-10 2022-03-29 东北大学 基于深度学习的复杂工业***预报模型构建方法、装置、设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107169565A (zh) * 2017-04-27 2017-09-15 西安工程大学 基于烟花算法改进bp神经网络的纺纱质量预测方法
CN109491248A (zh) * 2018-11-20 2019-03-19 中南大学 基于rbf-arx模型和拉盖尔函数的磁悬浮球位置预测控制方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1503554A1 (de) * 2003-07-28 2005-02-02 Siemens Aktiengesellschaft Verfahren zur Vorfilterung einer Trainingssequenz in einem Funkkommunikationssystem
CN106781489B (zh) * 2016-12-29 2019-07-26 北京航空航天大学 一种基于递归神经网络的路网状态预测方法
US11443218B2 (en) * 2017-12-20 2022-09-13 Arizona Board Of Regents On Behalf Of Arizona State University Model guided deep learning approach towards prediction of physical system behavior
CN108280551B (zh) * 2018-02-02 2022-07-26 华北电力大学 一种利用长短期记忆网络的光伏发电功率预测方法
CN109991850B (zh) * 2019-04-15 2021-01-08 中南大学 一种磁悬浮***预测控制方法及***
CN110018675A (zh) * 2019-04-25 2019-07-16 中南大学 基于lwdnn-arx模型的非线性***建模方法
CN110187727B (zh) * 2019-06-17 2021-08-03 武汉理工大学 一种基于深度学习和强化学习的玻璃熔炉温度控制方法
CN110826710B (zh) * 2019-10-18 2021-04-23 南京大学 基于横向脉动阵列的rnn前向传播模型的硬件加速实现方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107169565A (zh) * 2017-04-27 2017-09-15 西安工程大学 基于烟花算法改进bp神经网络的纺纱质量预测方法
CN109491248A (zh) * 2018-11-20 2019-03-19 中南大学 基于rbf-arx模型和拉盖尔函数的磁悬浮球位置预测控制方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
A modeling and control approach to magnetic levitation system based on state-dependent ARX model;Yemei Qin;《Journal of Process Control》;第93-112页 *
Nonlinear modelingandcontrolapproachtomagnetic levitation ballsystemusingfunctionalweightRBF network-based state-dependentARXmodel;Yemei Qin;《ELSEVIER》;第4309-4338页 *
基于线性函数型权重的RBF-ARX模型的磁悬浮球***预测控制;覃业梅;彭辉;阮文杰;;中南大学学报(自然科学版)(08);第140-148页 *

Also Published As

Publication number Publication date
CN111460738A (zh) 2020-07-28

Similar Documents

Publication Publication Date Title
Han et al. Adaptive computation algorithm for RBF neural network
CN112115419B (zh) ***状态估计方法、***状态估计装置
CN111260124A (zh) 一种基于注意力机制深度学习的混沌时间序列预测方法
CN109884886B (zh) 一种基于宽度学习的船舶运动无模型自适应最优控制方法
CN111460738B (zh) 磁悬浮***的rnn-arx建模方法、rnn-arx模型
CN116460860A (zh) 一种基于模型的机器人离线强化学习控制方法
Goecks et al. Control of morphing wing shapes with deep reinforcement learning
CN112348223A (zh) 一种基于深度学习的导弹飞行轨迹预测方法
Hsu et al. Recurrent fuzzy-neural approach for nonlinear control using dynamic structure learning scheme
Barreto et al. Adaptive filtering with the self-organizing map: A performance comparison
Li et al. Nonlinear system identification using adaptive Chebyshev neural networks
Shen et al. Stock index prediction based on adaptive training and pruning algorithm
CN115344047A (zh) 基于神经网络模型的机器人切换式预测控制轨迹跟踪方法
Abdulsadda et al. An improved SPSA algorithm for system identification using fuzzy rules for training neural networks
CN111522240B (zh) 四旋翼飞行器mtmlp-arx模型、辨识方法、***及存储介质
Wang et al. Real-time Hybrid Modeling of Francis Hydroturbine Dynamics via a Neural Controlled Differential Equation Approach
FuCai et al. Unscented Kalman Filter Target Tracking Based on Elman Neural Network
Farooq et al. Deep Learning for Self-tuning of Control systems
CN112836818B (zh) 适合过程控制建模的动态响应人工神经网络
CN113985900B (zh) 一种四旋翼无人机姿态动态特性模型、辨识方法及自适应柔化预测控制方法
CN112669210B (zh) 一种基于静态工作点的图像超分辨率方法、设备、介质
Herz et al. Estimation of load-time curves using recurrent neural networks based on can bus signals
Chen et al. Shared reservoir modular echo state networks for chaotic time series prediction
Han et al. Multi-model KalmanNet for maneuvering target tracking
Chen et al. Generalized Predictive Control with Two-stage Neural Network Model for Nonlinear Time-delay Systems

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant