CN111460738B - 磁悬浮***的rnn-arx建模方法、rnn-arx模型 - Google Patents
磁悬浮***的rnn-arx建模方法、rnn-arx模型 Download PDFInfo
- Publication number
- CN111460738B CN111460738B CN202010300121.3A CN202010300121A CN111460738B CN 111460738 B CN111460738 B CN 111460738B CN 202010300121 A CN202010300121 A CN 202010300121A CN 111460738 B CN111460738 B CN 111460738B
- Authority
- CN
- China
- Prior art keywords
- rnn
- layer
- output
- input
- arx
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 25
- 239000000725 suspension Substances 0.000 title claims abstract description 23
- 238000005339 levitation Methods 0.000 claims abstract description 67
- 238000013528 artificial neural network Methods 0.000 claims abstract description 29
- 238000012549 training Methods 0.000 claims abstract description 14
- 230000006870 function Effects 0.000 claims description 64
- 239000011159 matrix material Substances 0.000 claims description 25
- 230000004913 activation Effects 0.000 claims description 15
- 210000002569 neuron Anatomy 0.000 claims description 6
- 238000012360 testing method Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 abstract description 10
- 230000000694 effects Effects 0.000 abstract description 5
- 230000001419 dependent effect Effects 0.000 abstract description 4
- 238000004422 calculation algorithm Methods 0.000 abstract description 3
- 239000010410 layer Substances 0.000 description 134
- 238000005457 optimization Methods 0.000 description 6
- 125000004122 cyclic group Chemical group 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000005094 computer simulation Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 230000005284 excitation Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 101100136092 Drosophila melanogaster peng gene Proteins 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000005389 magnetism Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000001373 regressive effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Feedback Control In General (AREA)
Abstract
本发明公开了一种磁悬浮***的RNN‑ARX建模方法、RNN‑ARX模型,运用RNN循环神经网络、局部线性化方法以及状态相依ARX模型构建出磁悬浮球***的RNN‑ARX模型结构,在此基础上,通过基于时间的反向传播算法(BPTT)得到RNN‑ARX的模型参数并通过均方误差(MSE)选择最优的阶次。本发明以增加少量计算量为代价提高了磁悬浮球***辨识模型的建模精度和预测效果,特别在有大量输入输出训练样本的情况下,具有更多的模态并且模型的预测精度会进一步提升,具有较高的实用价值和应用前景。
Description
技术领域
本发明涉及磁悬浮球***的建模与模型参数优化领域,特别是一种磁悬浮***的RNN-ARX建模方法、RNN-ARX模型。
背景技术
磁悬浮技术是一种依靠电磁力将物体无机械接触地悬浮起来的技术,它集电磁学、电子技术、控制工程、信号处理、机械学、动力学为一体。近年来,随着控制技术的不断发展与完善,其应用从航空航天、军事等高端领域逐步扩展到交通、材料等一般工业领域。磁悬浮***因其无污染、无噪声、能耗低等优点,得到学术界的广泛关注。
由于磁悬浮***强非线性、快速性和高阶次性等特点,***建模与控制问题一直是研究热点。在建模方面,有学者直接运用传统的机理建模方法对被控对象进行分析研究,但因其复杂的物理学特性,在建模时忽略了一些不确定的因素,从而导致机理模型并不能够精确地体现被控***的非线性特性,基于该模型进行控制会影响控制效果。实验建模利用***的历史输入输出数据建立模型,无需知道精确的模型结构与相关参数,只需选择合适的模型阶次,便可以得到复杂被控对象的模型,这一建模方法对复杂***建模有着推动性的作用。因此,实验建模就是将***看作黑箱,不分析其内部机理,而只根据研究对象的输入输出数据之间的相互关系直接建模,模型的在线校正能力强,适用于高度非线性和严重不确定的磁悬浮球***。神经网络建模是一种常用的实验建模方法,它通常与常规模型相结合,用神经网络来估计常规模型的模型参数,进而实现模型的建立。相比于其他模型有非线性映射能力强、具有自适应功能、具有泛化功能、适用于多变量***等优点1927年,Yule等人提出了带外生变量的自回归模型(Auto Regressive Model with ExogenousInputs,简称ARX模型),因其形式简单但效果出众,得到广泛应用。1980年Priestley提出了一种非线性的时间序列模型——状态相依(state-dependent,SD)模型,这成为非线性***建模有力的理论基础。Peng等将SD模型与ARX模型相结合,并使用RBF神经网络拟合模型的函数型系数,提出了RBF-ARX模型,该模型提高和发展了非线性***建模及控制性能,可广泛应用于强非线性***。其模型结构如下:
其中,xt表示***的状态向量,φ0、φy,i和φu,i为依存于状态向量的函数型系数,使用RBF神经网络来拟合模型的函数型系数。ny、nu分别表示输出和输入的模型阶次,εt为白噪声信号。在固定时刻,xt唯一确定,该模型表现为线性的ARX模型,而在不同的时刻,状态相依函数系数不同,该模型可用于描述非线性***的动态特性。但是传统的神经网络——前向网络(常见的有单层感知器、线性神经网络、BP神经网络和RBF神经网络等)是一种最简单的神经网络,各神经元分层排列,每个神经元只与前一层的神经元相连,接收前一层的输出,并输出给下一层,数据正向流动,输出仅由当前的输入和网络权值决定,各层间没有反馈,无法保留序列的依赖性。这种网络实现信号从输入空间到输出空间的变换,它的信息处理能力来自于简单非线性函数的多次复合,导致辨识模型的预测精度受限。
发明内容
本发明所要解决的技术问题是,针对现有技术不足,提供一种磁悬浮***的RNN-ARX建模方法、RNN-ARX模型,提高磁悬浮球***的辨识模型的预测精度。
为解决上述技术问题,本发明所采用的技术方案是:一种磁悬浮***的RNN-ARX建模方法,包括以下步骤:
1)采集各时刻磁悬浮球***的输入数据和对应的输出数据;
2)利用上述输入数据和输出数据建立RNN-ARX模型;其中,RNN-ARX模型的表达式如下:
其中,xt=[yt-1,yt-2,…,yt-z]T,yt-1,yt-2,…,yt-z分别为t-1、t-2、……、t-z时刻磁悬浮球***的实际输出小球(磁悬浮球)的位置信号,z为状态向量的维度;φ0(xt)、φy,i(xt)和φu,j(xt)是依赖于工作点状态的函数型系数;ξt为高斯白噪声信号;ny、nu分别为输出向量和输入向量的阶次;yt-i为t-i时刻磁悬浮球***的实际输出小球的的位置信号,yt为t时刻磁悬浮球***的预测输出小球的位置信号;ut-j为t-j时刻的输入;
3)对所述RNN-ARX模型进行前向运算,得到预测输出,以所述预测输出和期望输出的损失函数最小化为目标,优化所述RNN-ARX模型的参数,得到最优参数;
4)根据所述最优参数计算出所述RNN-ARX模型的预测值和损失函数值;
5)重复步骤1)~4),选择当损失函数值为最小情况下的输入向量阶次、输出向量阶次作为磁悬浮球***的RNN-ARX模型的当前输入向量阶次、输出向量阶次,分别调整RNN循环神经网络的层数和每层的神经元个数,比较在当前输入向量阶次、输出向量阶次下不同RNN结构的损失函数大小,并选取损失函数值为最小情况下的模型结构作为当前结构。
循环神经网络(Recurrent Neural Network,RNN)通过隐藏层节点周期性的连接,来捕捉序列化数据中动态信息,主要用于处理序列数据,其最大的特点就是神经元在某时刻的输出可以作为输入再次输入到神经元,可以保持数据中的序列依赖关系,特别适用于处理时间序列数据建模,如采集的磁悬浮球***数据。本发明结合RNN(循环神经网络)对时间序列数据逼近的能力和SD-ARX(带外生变量的状态相依自回归模型)对磁悬浮球***非线性特性描述的优点,具有局部线性化和全局非线性的特点。建立的磁悬浮球***的RNN-ARX模型参数均为离线状态下计算得到,基于该模型进行控制时,直接使用离线计算得到的参数值,减少了控制器在线计算优化的参数量,利用本发明的建模方法和模型,可以有效地避免后续使用过程中控制器参数在线优化时引出的实时性问题,提高了磁悬浮球***辨识模型的预测精度。
为了进一步提高模型的预测精度,步骤5)之后,还包括:
6)重复上述步骤1)~5),比较不同输入向量阶次、输出向量阶次下不同结构的损失函数,并选取最小损失函数值对应的RNN-ARX模型参数,将该对应的RNN-ARX模型作为最后的磁悬浮球***的RNN-ARX模型。
本发明RNN-ARX模型包括:
输入层,输入数据为磁悬浮球***的RNN的输入xt和ARX的输入at;其中,xt=[yt-1,yt-2,...yt-z]
中间层,包括m个依次连接的RNN层;每个所述RNN层包括依次连接的输入层、隐藏层和输出层,其中第k个RNN层的输入即为第k-1个RNN层的输出;第k个RNN层t时刻的输入第k个RNN层t时刻隐藏层状态/>的表达式为:/>其中,/>为第k个RNN层的输入层到隐藏层的权重系数;/>为第k个RNN层的隐藏层到隐藏层的权重系数;/>为第k个RNN层的偏移量;/> f(·)为激活函数;
输出层,为全连接层,t时刻该输出层的输入为即第m个RNN层的输出;t时刻的输出yt=atot,ot=[φ0(xt)φy,i(xt)φu,j(xt)]T=g(vt);/>为中间层到输出层的权重矩阵,该权重矩阵形状(即矩阵尺寸)为nm*(ny+nu+1),nm为第m个RNN层的神经网络节点个数;by为偏移量矩阵,矩阵形状为1*(ny+nu+1);g(·)为激活函数。
上述模型参数可离线辨识,极大减少了在线计算量,有效地避免参数在线优化时引出的实时性问题,提高了磁悬浮球***辨识模型的预测精度。
为了进一步提高模型的准确性,步骤1)中,将采集的数据分成训练集和测试集;对于所述训练集,执行步骤2)~步骤6)的操作,得到第一损失函数值;将所述测试集输入最后的磁悬浮球***的RNN-ARX模型中,得到第二损失函数值;判断所述第一损失函数值和第二损失函数值是否均小于设定值,若是,则所述最后的磁悬浮球***的RNN-ARX模型合格。
所述激活函数f(·)和g(·)均为双曲正切函数,计算量小。
本发明还提供了一种磁悬浮***的RNN-ARX模型,包括:
输入层,输入数据为RNN的输入xt和ARX的输入at;其中,xt=[yt-1,yt-2,...yt-z] 分别为t-1、……、t-ny时刻磁悬浮球***的实际输出;/>分别为t-1、……、t-nu时刻磁悬浮球***的的输入;ny、nu分别为输出向量和输入向量的阶次;
中间层,包括m个依次连接的RNN层;每个所述RNN层包括依次连接的输入层、隐藏层和输出层,其中第k个RNN层的输入即为第k-1个RNN层的输出;第k个RNN层t时刻的输入第k个RNN层t时刻隐藏层状态/>的表达式为:/>其中,/>为第k个RNN层的输入层到隐藏层的权重系数;/>为第k个RNN层的隐藏层到隐藏层的权重系数;/>为第k个RNN层的偏移量;/> f(·)为激活函数;
输出层,t时刻其输入vt为:t时刻的预测输出yt=atot,ot=[φ0(xt)φy,i(xt)φu,j(xt)]T=g(vt);/>为中间层到输出层的权重矩阵,权重矩阵形状为nm*(ny+nu+1),nm为第m个RNN层的神经网络节点个数;/>为第m个RNN层的偏移量矩阵,偏移量矩阵形状为1*(ny+nu+1);g(·)为激活函数。本发明中,m=3,每个RNN层节点个数分别为n1=5,n2=10,n3=5。实验证明,该结构的RNN-ARX模型可以满足磁悬浮***的预测精度要求。
相应地,本发明还提供了一种磁悬浮***的RNN-ARX模型,该模型表达式为:
其中,xt为t时刻磁悬浮球***的RNN层的输入,xt=[yt-1,yt-2,…,yt-z]T,yt-1,yt-2,…,yt-z分别为t-1、t-2、……、t-z时刻磁悬浮球***的实际输出的小球位置信号,z为状态向量的维度;φ0(xt)、φy,i(xt)和φu,j(xt)是依赖于工作点状态的函数型系数;ξt为高斯白噪声信号;ny、nu分别为输出向量和输入向量的阶次;yt-i为t-i时刻磁悬浮球***的实际输出小球的位置信号,yt为t时刻磁悬浮球***的预测的输出小球的位置信号;ut-j为t-j时刻的输入。RNN层个数为m,m个RNN层依次连接;每个所述RNN层包括依次连接的输入层、隐藏层和输出层,其中第k个RNN层的输入即为第k-1个RNN层的输出;第k个RNN层t时刻的输入第k个RNN层t时刻隐藏层状态/>的表达式为:/>其中,/>为第k个RNN层的输入层到隐藏层的权重系数;/>为第k个RNN层的隐藏层到隐藏层的权重系数;/>为第k个RNN层的偏移量;/> f(·)为激活函数。
实验证明,当输入阶次nu=4,输出阶次ny=6,状态向量维度z=3时,模型预测性能最优。
与现有技术相比,本发明所具有的有益效果为:本发明结合RNN(循环神经网络)对时间序列数据逼近的能力和SD-ARX(带外生变量的状态相依自回归模型)对磁悬浮球***非线性特性描述的优点,具有局部线性化和全局非线性的特点。该建立的磁悬浮球***的RNN-ARX均为离线状态下计算得到,基于该模型进行控制时,直接使用离线计算得到的参数值,减少了控制器在线计算优化的参数量,利用本发明的建模方法和模型,可以有效地避免后续使用过程中控制器参数在线优化时引出的实时性问题,提高了磁悬浮球***辨识模型的预测精度;本发明的模型可以用于磁悬浮球***的数据建模,数据预测以及基于模型控制器的设计,具有较高的价值和应用前景。
附图说明
图1为本发明中磁悬浮球***的RNN-ARX模型的建模流程图。
图2为本发明中磁悬浮球***的RNN-ARX模型结构图。
具体实施方式
如图1所示,本发明实施例建模过程包括:
1)根据从实际磁悬浮球***采集的历史输入输出数据建立RNN-ARX模型,选择磁悬浮球***的RNN-ARX模型的输入向量阶次、输出向量阶次、状态向量维数和模型训练时的超参数,例如:模型迭代次数,RNN循环神经网络的层数,各层的神经网络节点个数等;
2)对磁悬浮球***的RNN-ARX模型进行前向运算得到预测输出,以预测输出和期望输出的损失函数最小化为目标,通过基于时间的反向传播算法进行参数优化,当训练达到迭代次数100时结束训练,得到最优参数;
3)根据所求最优参数,按照所建立的模型,计算出磁悬浮球***RNN-ARX模型的预测输出和损失函数值;
4)重复上述步骤1)~步骤3),选择当损失函数值为最小情况下的阶次作为磁悬浮球***的RNN-ARX模型的当前阶次(输入向量阶次、输出向量阶次),分别调整RNN循环神经网络的层数和每层的神经元个数,比较在当前阶次下不同结构的损失函数大小,并选取损失函数值为最小情况下的结构作为当前结构;
5)重复上述步骤1)~步骤4),比较不同阶次不同结构的损失函数,并选取最小损失函数值相应的组合作为最后的磁悬浮球***的RNN-ARX模型。
步骤1)中,磁悬浮球***的RNN-ARX模型的表达式
式中:
上式中,yt、ut分别为t时刻的磁悬浮球***输出变量和输入变量,即磁悬浮球的位置信号和输入控制电压,ξt为高斯白噪声信号,ny、nu分别为输出向量和输入向量的阶次,为t时刻第k个隐藏层的状态,ot为t时刻输出层的初始输出(即RNN-ARX模型的函数型系数),矩阵形状为1*(1+ny+nu),ot(0)为输出层的第1个初始输出值,ot(i)为输出层的第2至ny+1个初始输出值,ot(i+ny)为输出层的第ny+2至1+ny+nu个初始输出值,z为状态向量的阶次,φ0(xt)、φy,i(xt)和φu,j(xt)是依赖于工作点状态的函数型系数,m为中间层中RNN层的层数,/>分别为第k个RNN层中输入到隐藏层的权重系数,隐藏层到隐藏层的权重系数和偏移量,Why为最后一个中间层到输出层的权重系数。
需要注意的是,上述初始输出ot乘以at,即得到输出层的最终输出yt。
如图2,步骤2)中,对磁悬浮球***的RNN-ARX模型进行前向运算得到预测输出的具体实现过程(即本发明的模型结构)包括:
1.输入层
模型中第一层为输入层,模型有两个输入流,分别为磁悬浮球***的RNN的输入xt和ARX的输入at,xt矩阵形状为1*z,z为状态向量的维数,at矩阵形状为1*(ny+nu+1),ny、nu分别为输出和输入变量的模型阶次,表示如下:
xt=[yt-1,yt-2,...yt-z]
2.中间层
模型中间层为m个RNN层,每个RNN层包含输入层、隐藏层和输出层,其中第k个RNN层的输入为第k-1个RNN层的输出,第k个RNN层的网络节点个数为nk,中间层计算公式如下:
式中上标k皆表示第k个RNN层的参数,为第k个RNN层t时刻的输入;/>为第k个RNN层输入层到隐藏层的权重系数,矩阵形状为nk-1*nk;/>为第k个RNN层隐藏层到隐藏层的权重系数,矩阵形状为nk*nk;/>为偏移量,矩阵形状为1*nk;/>为t时刻第k个RNN层的隐藏层状态,与t时刻输入和t-1时刻隐藏层状态/>有关,初始值一般选取为0;f(·)为激活函数,依次作用于向量/>中的每一个元素,本发明选取激活函数为tanh,均值为0,在磁悬浮球***实际应用中效果更好。
3.输出层
模型中输出层为简单的全连接层,该全连接层网络节点个数为ny+nu+1,计算公式如下所示:
式中vt为t时刻输出层的输入;为中间层到输出层的权重,矩阵形状为nm*(ny+nu+1);by为偏移量,矩阵形状为1*(ny+nu+1);at为t时刻ARX输入,通过矩阵乘法运算得到模型t时刻的预测输出yt;g(·)为激活函数,本发明选取tanh,均值为0,在磁悬浮球***实际应用中效果更好。
选取均方误差值(Mean-Squared Error,MSE)为最小化目标函数(或训练准则),公式如下:
实施例:
1)利用磁悬浮球数据采集平台,采集实际历史输入输出数据,***采样时间为5ms,输入为控制电压u,输出为磁悬浮球位置y,为全面激发***的特性,采用综合波信号激励***,按照80%和20%划分数据集为训练集和测试集。
2)根据划分的数据集建立RNN-ARX模型,选择磁悬浮球***的RNN-ARX模型的输入向量阶次、输出向量阶次、状态向量维数和模型训练时的超参数,例如:模型迭代次数,RNN循环神经网络的层数,各层的神经网络节点个数等;
3)对磁悬浮球***的RNN-ARX模型进行前向运算得到预测输出,以预测输出和期望输出的损失函数最小化为目标,通过基于时间的反向传播算法(BPTT)进行参数优化,当训练达到迭代次数100时结束训练,得到最优参数;
4)根据所求最优的模型参数,按照所建立的模型,计算出磁悬浮球***RNN-ARX模型的预测值(即预测输出)和损失函数值;
5)重复上述步骤2)~步骤4),选择当损失函数值为最小情况下的阶次作为磁悬浮球***的RNN-ARX模型的当前阶次,分别调整RNN循环神经网络的层数和每层的神经网络节点个数,比较在当前阶次下不同结构的损失函数大小,并选取损失函数值为最小情况下的结构作为当前结构;
6)重复上述步骤2)~步骤5),比较不同阶次不同结构的损失函数,并选取最小损失函数值相应的组合作为最后的磁悬浮球***的RNN-ARX模型,损失函数值(MSE)低于5*10-4即可认为较小,符合建模要求。最后所建立的模型参数为:输入阶次nu=4,输出阶次ny=6,状态向量维度z=3,迭代次数100,RNN循环神经网络层数m=3,每层的循环神经网络节点个数分别为n1=5,n2=10,n3=5,学习率α=0.0001,计算出的训练集和测试集的损失函数值(MSE)分别为2.6178*10-4,3.8878*10-4,可以看出所建立的磁悬浮球***的RNN-ARX模型建模误差小、符合建模要求且预测精度高,使用所建立的模型进行后续的预测控制精度高,能使磁悬浮球快速稳定跟踪参考轨迹曲线运动,验证了该模型的优越性。
Claims (9)
1.一种磁悬浮***的RNN-ARX建模方法,其特征在于,包括以下步骤:
1)采集各时刻磁悬浮球***的输入数据和对应的输出数据;
2)利用上述输入数据和输出数据建立RNN-ARX模型;其中,RNN-ARX模型的表达式如下:
其中,xt=[yt-1,yt-2,…,yt-z]T,yt-1,yt-2,…,yt-z分别为t-1、t-2、……、t-z时刻磁悬浮球***的实际输出,z为状态向量的维度;φ0(xt)、φy,i(xt)和φu,j(xt)是依赖于工作点状态的函数型系数;ξt为高斯白噪声信号;ny、nu分别为输出向量的阶次和输入向量的阶次;yt-i为t-i时刻磁悬浮球***的实际输出,yt为t时刻磁悬浮球***的预测输出;ut-j为t-j时刻的输入;
所述RNN-ARX模型包括:
输入层,输入数据为磁悬浮球***的RNN的输入xt和ARX的输入at;
中间层,包括m个依次连接的RNN层;每个所述RNN层包括依次连接的输入层、隐藏层和输出层,其中第k个RNN层的输入即为第k-1个RNN层的输出;第k个RNN层t时刻的输入第k个RNN层t时刻隐藏层状态/>的表达式为:/>其中,/>为第k个RNN层的输入层到隐藏层的权重系数;/>为第k个RNN层的隐藏层到隐藏层的权重系数;/>为第k个RNN层的偏移量;/>f(·)为激活函数;
输出层,为全连接层,t时刻该输出层的输入为即第m个RNN层的输出;t时刻的预测输出yt=atot,ot=[φ0(xt)φy,i(xt)φu,j(xt)]T=g(vt);/>为中间层到输出层的权重矩阵,权重矩阵形状为nm*(ny+nu+1),nm为第m个RNN层的神经网络节点个数;by为偏移量矩阵,偏移量矩阵形状为1*(ny+nu+1);g(·)为激活函数;
3)对所述RNN-ARX模型进行前向运算,得到预测输出,以所述预测输出和期望输出的损失函数最小化为目标,优化所述RNN-ARX模型的参数,得到最优参数;
4)根据所述最优参数计算出所述RNN-ARX模型的预测输出和损失函数值;
5)重复步骤1)~4),选择当损失函数值为最小情况下的输入向量阶次、输出向量阶次作为磁悬浮球***的RNN-ARX模型的当前输入向量阶次、输出向量阶次,分别调整RNN循环神经网络的层数和每层的神经元个数,比较在当前输入向量阶次、输出向量阶次下不同RNN结构的损失函数大小,并选取损失函数值为最小情况下的模型结构作为当前结构。
2.根据权利要求1所述的磁悬浮***的RNN-ARX建模方法,其特征在于,步骤5)之后,还包括:
6)重复上述步骤1)~5),比较不同输入向量阶次、输出向量阶次下不同结构的损失函数,并选取最小损失函数值对应的RNN-ARX模型参数,将该对应的RNN-ARX模型作为最后的磁悬浮球***的RNN-ARX模型。
3.根据权利要求1或2所述的磁悬浮***的RNN-ARX建模方法,其特征在于,步骤1)中,将采集的数据分成训练集和测试集;对于所述训练集,执行步骤2)~步骤6)的操作,得到第一损失函数值;将所述测试集输入最后的磁悬浮球***的RNN-ARX模型中,得到第二损失函数值;判断所述第一损失函数值和第二损失函数值是否均小于设定值,若是,则所述最后的磁悬浮球***的RNN-ARX模型合格。
5.根据权利要求4所述的磁悬浮***的RNN-ARX建模方法,其特征在于,所述激活函数f(·)和g(·)均为双曲正切函数。
6.一种磁悬浮***的RNN-ARX模型,其特征在于,包括:
输入层,输入数据为RNN的输入xt和ARX的输入at;其中, 分别为t-1、……、t-ny时刻磁悬浮球***的实际输出;/>分别为t-1、……、t-nu时刻磁悬浮球***的的输入;ny、nu分别为输出向量和输入向量的阶次;
中间层,包括m个依次连接的RNN层;每个所述RNN层包括依次连接的输入层、隐藏层和输出层,其中第k个RNN层的输入即为第k-1个RNN层的输出;第k个RNN层t时刻的输入第k个RNN层t时刻隐藏层状态/>的表达式为:/>其中,/>为第k个RNN层的输入层到隐藏层的权重系数;/>为第k个RNN层的隐藏层到隐藏层的权重系数;/>为第k个RNN层的偏移量;/>f(·)为激活函数;
7.根据权利要求6所述的模型,其特征在于,m=3,每个RNN层节点个数分别为n1=5,n2=10,n3=5。
8.一种磁悬浮***的RNN-ARX模型,其特征在于,该模型表达式为:
其中,xt为t时刻RNN层的输入,xt=[yt-1,yt-2,…,yt-z]T,yt-1,yt-2,…,yt-z分别为t-1、t-2、……、t-z时刻磁悬浮球***的实际输出;z为状态向量的维度;φ0(xt)、φy,i(xt)和φu,j(xt)是依赖于工作点状态的函数型系数;ξt为高斯白噪声信号;ny、nu分别为输出向量和输入向量的阶次;yt-i为t-i时刻磁悬浮球***的实际输出,yt为t时刻磁悬浮球***的预测输出;ut-j为t-j时刻的输入;其中,RNN层个数为m,m个RNN层依次连接;每个所述RNN层包括依次连接的输入层、隐藏层和输出层,其中第k个RNN层的输入即为第k-1个RNN层的输出;第k个RNN层t时刻的输入第k个RNN层t时刻隐藏层状态/>的表达式为:其中,/>为第k个RNN层的输入层到隐藏层的权重系数;/>为第k个RNN层的隐藏层到隐藏层的权重系数;/>为第k个RNN层的偏移量;f(·)为激活函数。
9.根据权利要求8所述的磁悬浮***的RNN-ARX模型,其特征在于,输入阶次nu=4,输出阶次ny=6,状态向量维度z=3。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010300121.3A CN111460738B (zh) | 2020-04-16 | 2020-04-16 | 磁悬浮***的rnn-arx建模方法、rnn-arx模型 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010300121.3A CN111460738B (zh) | 2020-04-16 | 2020-04-16 | 磁悬浮***的rnn-arx建模方法、rnn-arx模型 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111460738A CN111460738A (zh) | 2020-07-28 |
CN111460738B true CN111460738B (zh) | 2023-06-16 |
Family
ID=71678626
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010300121.3A Active CN111460738B (zh) | 2020-04-16 | 2020-04-16 | 磁悬浮***的rnn-arx建模方法、rnn-arx模型 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111460738B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112580257B (zh) * | 2020-12-10 | 2022-03-29 | 东北大学 | 基于深度学习的复杂工业***预报模型构建方法、装置、设备及存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107169565A (zh) * | 2017-04-27 | 2017-09-15 | 西安工程大学 | 基于烟花算法改进bp神经网络的纺纱质量预测方法 |
CN109491248A (zh) * | 2018-11-20 | 2019-03-19 | 中南大学 | 基于rbf-arx模型和拉盖尔函数的磁悬浮球位置预测控制方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1503554A1 (de) * | 2003-07-28 | 2005-02-02 | Siemens Aktiengesellschaft | Verfahren zur Vorfilterung einer Trainingssequenz in einem Funkkommunikationssystem |
CN106781489B (zh) * | 2016-12-29 | 2019-07-26 | 北京航空航天大学 | 一种基于递归神经网络的路网状态预测方法 |
US11443218B2 (en) * | 2017-12-20 | 2022-09-13 | Arizona Board Of Regents On Behalf Of Arizona State University | Model guided deep learning approach towards prediction of physical system behavior |
CN108280551B (zh) * | 2018-02-02 | 2022-07-26 | 华北电力大学 | 一种利用长短期记忆网络的光伏发电功率预测方法 |
CN109991850B (zh) * | 2019-04-15 | 2021-01-08 | 中南大学 | 一种磁悬浮***预测控制方法及*** |
CN110018675A (zh) * | 2019-04-25 | 2019-07-16 | 中南大学 | 基于lwdnn-arx模型的非线性***建模方法 |
CN110187727B (zh) * | 2019-06-17 | 2021-08-03 | 武汉理工大学 | 一种基于深度学习和强化学习的玻璃熔炉温度控制方法 |
CN110826710B (zh) * | 2019-10-18 | 2021-04-23 | 南京大学 | 基于横向脉动阵列的rnn前向传播模型的硬件加速实现方法 |
-
2020
- 2020-04-16 CN CN202010300121.3A patent/CN111460738B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107169565A (zh) * | 2017-04-27 | 2017-09-15 | 西安工程大学 | 基于烟花算法改进bp神经网络的纺纱质量预测方法 |
CN109491248A (zh) * | 2018-11-20 | 2019-03-19 | 中南大学 | 基于rbf-arx模型和拉盖尔函数的磁悬浮球位置预测控制方法 |
Non-Patent Citations (3)
Title |
---|
A modeling and control approach to magnetic levitation system based on state-dependent ARX model;Yemei Qin;《Journal of Process Control》;第93-112页 * |
Nonlinear modelingandcontrolapproachtomagnetic levitation ballsystemusingfunctionalweightRBF network-based state-dependentARXmodel;Yemei Qin;《ELSEVIER》;第4309-4338页 * |
基于线性函数型权重的RBF-ARX模型的磁悬浮球***预测控制;覃业梅;彭辉;阮文杰;;中南大学学报(自然科学版)(08);第140-148页 * |
Also Published As
Publication number | Publication date |
---|---|
CN111460738A (zh) | 2020-07-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Han et al. | Adaptive computation algorithm for RBF neural network | |
CN112115419B (zh) | ***状态估计方法、***状态估计装置 | |
CN111260124A (zh) | 一种基于注意力机制深度学习的混沌时间序列预测方法 | |
CN109884886B (zh) | 一种基于宽度学习的船舶运动无模型自适应最优控制方法 | |
CN111460738B (zh) | 磁悬浮***的rnn-arx建模方法、rnn-arx模型 | |
CN116460860A (zh) | 一种基于模型的机器人离线强化学习控制方法 | |
Goecks et al. | Control of morphing wing shapes with deep reinforcement learning | |
CN112348223A (zh) | 一种基于深度学习的导弹飞行轨迹预测方法 | |
Hsu et al. | Recurrent fuzzy-neural approach for nonlinear control using dynamic structure learning scheme | |
Barreto et al. | Adaptive filtering with the self-organizing map: A performance comparison | |
Li et al. | Nonlinear system identification using adaptive Chebyshev neural networks | |
Shen et al. | Stock index prediction based on adaptive training and pruning algorithm | |
CN115344047A (zh) | 基于神经网络模型的机器人切换式预测控制轨迹跟踪方法 | |
Abdulsadda et al. | An improved SPSA algorithm for system identification using fuzzy rules for training neural networks | |
CN111522240B (zh) | 四旋翼飞行器mtmlp-arx模型、辨识方法、***及存储介质 | |
Wang et al. | Real-time Hybrid Modeling of Francis Hydroturbine Dynamics via a Neural Controlled Differential Equation Approach | |
FuCai et al. | Unscented Kalman Filter Target Tracking Based on Elman Neural Network | |
Farooq et al. | Deep Learning for Self-tuning of Control systems | |
CN112836818B (zh) | 适合过程控制建模的动态响应人工神经网络 | |
CN113985900B (zh) | 一种四旋翼无人机姿态动态特性模型、辨识方法及自适应柔化预测控制方法 | |
CN112669210B (zh) | 一种基于静态工作点的图像超分辨率方法、设备、介质 | |
Herz et al. | Estimation of load-time curves using recurrent neural networks based on can bus signals | |
Chen et al. | Shared reservoir modular echo state networks for chaotic time series prediction | |
Han et al. | Multi-model KalmanNet for maneuvering target tracking | |
Chen et al. | Generalized Predictive Control with Two-stage Neural Network Model for Nonlinear Time-delay Systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |