CN107194460A - 金融时间序列预测的量子粒子群优化递归神经网络方法 - Google Patents
金融时间序列预测的量子粒子群优化递归神经网络方法 Download PDFInfo
- Publication number
- CN107194460A CN107194460A CN201710362965.9A CN201710362965A CN107194460A CN 107194460 A CN107194460 A CN 107194460A CN 201710362965 A CN201710362965 A CN 201710362965A CN 107194460 A CN107194460 A CN 107194460A
- Authority
- CN
- China
- Prior art keywords
- mrow
- node
- memory
- msub
- rpnn
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/004—Artificial life, i.e. computing arrangements simulating life
- G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/08—Computing arrangements based on specific mathematical models using chaos models or non-linear system models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/04—Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Business, Economics & Management (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- Technology Law (AREA)
- General Business, Economics & Management (AREA)
- Nonlinear Science (AREA)
- Algebra (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
金融时间序列预测的量子粒子群优化递归神经网络方法,涉及时间序列的分析与预测。首先应用混沌和相空间重构理论,通过饱和关联维(G‑P)方法计算混沌金融时间序列吸引子维度,确定RPNN网络的结构,然后通过量子粒子群优化QPSO算法对递归神经网络RPNN训练、最后确定网络的动态最优权值和阈值,使RPNN神经网络仿真预测值与实际值达到最小误差精度。解决了基于梯度算法优化RPNN神经网络易落入局部极小值问题,所建立的QPSO‑RPNN优化预测方法收敛速度快、搜索具有全局性,编程计算简洁、高效、预测精度高,在金融投资和社会经济中有着广泛的应用。
Description
技术领域
本发明涉及时间序列的分析与预测,尤其是涉及一种金融时间序列预测的量子粒子群优化递归神经网络方法。
背景技术
时间序列的分析与预测在诸多领域具有重要的应用价值。早期用于时间序列预测分析方法大多是线性模型,这些模型在理论与方法上具有一定的局限性。多数***均具有复杂的非线性特征,引入非线性研究范式对时间序列进行分析和预测,通过非线性迭代、学习模型,近似描述混沌动力***,是非线性时间序列预测理论发展的必然趋势[1]。
金融市场由于受多种因素影响因而是复杂非线性动力***,金融时间序列具有的非平稳性、弱混沌性等特点是金融市场复杂性的综合外在表现。由于思维惯性,金融研究者们虽然承认金融运行的复杂性,但在理论基础和研究方法上总是在刻意回避这种复杂性。长久以来,金融时间序列预测方法受制于以有效市场假说(EMH)统率的线性范式,在一系列理想的假设条件之上,线性范式把资产价格的波动归因于外部随机性因素。这一时期内比较具有代表性的线性预测模型有自回归移动平均(ARMA)模型、广义自回归条件异方差GARCH(Generalized ARCH)模型、马尔可夫转换过程(Markov Switching Process)等,然而资产收益率分布“尖峰厚尾”、波动率聚类、长期记忆”等市场非线性特征,宣布了线性范式的失灵,引入非线性研究范式对金融变量进行分析和预测,通过非线性迭代、学习模型,近似描述混沌动力***,是金融市场理论发展的必然结果[2],[3]。
混沌是金融时间序列非线性特征之一。混沌预测理论认为:一方面,混沌所具有的确定性特征使得很多看起来随机的表象实际上是可以预测的;而另一方面,混沌现象所固有的对初始条件的极度敏感性,又在根本上限制了其长期预测效果。因而,混沌动力***在短期内的演化趋势是可预测的,但长期预测不太现实[4]。
人工神经网络具备超强的自组织与自适应能力,以及对信息具有较好的容错率与联想记忆性,使其在预测混沌时间序列方面具有得天独厚的优势。递归神经网络(RPNN)是专门针对混沌时间序列预测而设计的一种动态神经网络,是特殊的多重分支时间延迟神经网络。RPNN具有时间延迟多重分支,模拟了非线性动态***的时序特性,具备存储功能和联想记忆能力[5],[6],[7],[8]。
量子粒子群优化算法(Quantum-Behaved Particle Swarm Optimization,QPSO)是从量子力学角度出发,利用量子测不准原理和波函数描述粒子运动状态,建立的一种新型PSO优化算法,这种算法主要优点是在感兴趣的问题上保持了种群的多样性,实验结果表明,该方法可以提高问题求解的效率和收敛性[9],[10]。
参考文献:
[1]Ricardo de A.Araújo and Tiago A.E.Ferreira,2009,“An intelligenthybrid morphological-rank-linear method for financial time seriesprediction”,Neurocomputing,Vol.72,Issue.10-12,pp.2507-2524.
[2]Tim Bollerslev,Ray Y.Chou and Kenneth F.Kroner,1992,“ARCH Modelingin Finance:A Review of the Theory and Empirical Evidence”,Journal ofEconometrics,Vol.52,Issues.1–2,pp.5-59.
[3]Yongmiao Hong,Yanhui Liu and Shouyang Wang,2009,“Granger causalityin risk and detection of extreme risk spillover between financial markets”,Journal of Econometrics,Vol.150,Issue.2,pp.271-287.
[4]E E Peters.Chaos and order in the capital markets[J],InternationalJournal of Theoretical and Applied Finance,1991,32(3):675-702.
[5]高鑫.基于RPNN-SAPSO混沌时间序列预测模型的程序化交易研究[D].厦门大学,2015.
[6]孟力.一种时间序列预测的智能优化递归神经网络发明专利申请号201510288774.3.
[7]Lean Yu,Shouyang Wang and Kin Keung Lai,2008,“A neural-network-based nonlinear metamodeling approach to financial time series forecasting”,Applied Soft Computing,Vol.9,Issue.2,pp.563-574.
[8]Tsung-Jung Hsieh,Hsiao-Fen Hsiao and Wei-Chang Yeh,2011,“Forecasting Stock Markets Using Wavelet Transforms and Recurrent NeuralNetworks:An Integrated System Based on Artificial Bee Colony Algorithm”,Applied Soft Computing,Vol.11,Issue.2,pp.2510–2525.
[9]周頔,孙俊,须文波.具有量子行为的协同粒子群优化算法[J].控制与决策,2011,26(04):582-586.
[10]孙俊.量子行为粒子群优化算法研究[D].江南大学,2009.
发明内容
本发明的目的在于克服现有非线性时间序列预测技术上的不足,提供基于递归预测器神经网络(Recurrent Predictor Neural Network,RPNN)结合量子行为粒子群优化算法(Quantum-Behaved Particle Swarm Optimization,QPSO)的时间序列预测模型,以混沌和相空间重构为理论基础,可实现金融非线性时间序列短期预测,提高预测精度金融时间序列预测的量子粒子群优化递归神经网络方法。
本发明包括以下步骤:
1)计算时间序列吸引子维度,选取出嵌入维数为5维,即RPNN的节点数为5个,RPNN的存储器为25个,网络有5个阈值和75个权值;
2)粒子的个数为60个,每一个粒子的状态由80个维度,其中75个维度对应RPNN的权值,5个维度对应RPNN的阈值;
3)网络训练时,首先赋予每一个粒子初始状态;RPNN每产生一个预测值要经历5个节拍,其中每一个节拍对应的时间延迟为1天;
4)第一节拍:第一个节点以外部输入数据值r1和自身的反馈即自身存储器上的值乘以相应的权值作为输入数据,然后在激活函数的作用下产生一个输出值,并且将这个输出值存放到第一个存储器中,将原先存放在第一个存储器的值存放到第二个存储器,依次自下向上更新存储器,最后一个存储器的值当即释放掉;
5)第二节拍:第二个节点以外部输入数据值r2和自身的反馈以及第一个节点的存储器上的值乘以相应的权值作为输入数据,在激活函数的作用下产生一个输出值,并与第一节拍类似,依次更新节点上的存储器,最后一个存储器的值当即释放掉;
6)第三节拍:第三个节点以外部输入数据值r3和自身的反馈以及第一个节点存储器和第二个节点存储器上的值,乘以相应的权值作为输入数据在激活函数的作用下产生一个输出值,与第一节拍和第二节拍类似,依次更新节点上的存储器,同样最后一个存储器的值当即释放掉;
7)第四节拍:第四个节点以外部输入数据值r4和自身的反馈以及第一个节点存储器、第二个节点存储器和第三个节点存储器上的值,乘以相应的权值作为输入数据在激活函数的作用下产生一个输出值,并更新存储器;
8)第五节拍:第五个节点以外部输入数据值r5和自身的反馈以及第一个节点存储器、第二个节点存储器、第三个节点存储器和第四个节点存储器的值,乘以相应的权值作为输入数据在激活函数的作用下产生一个输出值;其中第五个节点的输出值即为预测值;
9)每一个节拍中网络的输出计算公式是:
其中,yj(t)表示t时刻节点j的输出,rj(t)为t时刻节点j的外部输入值,bj(t)为节点j的阈值,n是网络节点的个数(即n=5),Cik(t)是时刻第i个节点第k个存储器的值,ωij(t)为t时刻第i个节点第j个存储器对应的权值;σj(·)是节点j的激活函数,决定了神经元j的输出;每一个节拍所使用的激活函数是:
其中A为激活函数的幅值,为斜率,通过多次测试后,设定A=1.5,
10)将预测出的值输入目标函数计算误差,其中:
目标函数为绝对误差函数:其中,S为样本总数,h(t)为t时刻对应的输出值,为t时刻对应的真实值;
11)应用QPSO算法更新粒子的状态,计算新的输出值的误差,通过不断的迭代寻找出使误差最小的权值和阈值。
在步骤11)中,所述QPSO算法更新粒子的状态的具体步骤可为:
(1)QPSO训练RPNN时,首先在[-0.5,0.5]区间内随机赋予每一个粒子一个初始状态,粒子的状态由80个维度固定,即75个权值、5个的阈值。
(2)RPNN利用由QPSO优化算法确定出的最优粒子及所对应维度代表的权值和阈值计算出预测值,然后将预测值输入目标函数计算误差。
(3)设定误差目标为累计绝对误差Es<5%,如果误差没有达到目标或迭代次数不满足条件时,根据量子行为优化的粒子进化公式,更新粒子的状态。
量子行为优化的粒子进化公式:
其中Xi,j(t+1)是第i个粒子的第j维在t+1时刻的状态(即t+1时刻的权值和阈值),pi,j(t)是t时刻的吸引子,且pi,j(t)=uj(t)·Pi,j(t)+[1-uj(t)]·Gj(t),Pi,j(t)是第i个粒子的第j维的历史最优状态,Gj(t)是粒子群体中第j维的全局最优状态,uj(t)服从在(0,1)区间均匀分布的随机数。α是收缩扩张系数,设定α=(1.0-0.5)×(MAXITER-t)/MAXITER+0.5;Cj(t)是t时刻第j维的平均最好状态,M是粒子的个数,Pi,j(t)是t时刻第i个粒子的第j维的历史最优状态,Ui,j(t)是服从在(0,1)区间均匀分布的随机数;
(4)网络的权值和阈值(即粒子的状态)按上述量子行为优化的粒子进化公式进化、更新后,计算新的输出值,并将输出值输入目标函数计算误差。通过不断的迭代寻找使误差最小的权值和阈值;
(5)找到使误差最小的权值和阈值后便完成了网络的训练,此时RPNN已获得最优网络参数,代表着混沌吸引子在重构相空间中的非线性映射F,RPNN的存储器中记录的是时间序列的关联信息。假设训练样本中最后一个数据的时间节点是T,那么在网络中输入T-4,T-3,T-2,T-1,T时刻的外部输入值时,便可以获得T+1时刻的预测值,至此该模型完成网络训练和预测功能。
本发明的RPNN训练采用QPSO混合智能优化算法,摆脱了原梯度算法对于激活函数高阶可导的限制,扩展了RPNN的多样性。QPSO算法具有快速收敛和全局搜索特性,既能快速收敛又能在整个可行解空间中进行搜索,不会散发到无穷远处,保证了不陷入局部极小值。
本发明的QPSO优化算法比SAPSO(模拟退火粒子群)优化算法在对RPNN神经网络优化预测方面,模型参数少、简洁、预测精度更高;编程方面上QPSO优化算法比SAPSO(模拟退火粒子群)优化算法,代码编写工作量少。
本发明首先应用混沌和相空间重构理论,通过饱和关联维(G-P)方法计算混沌金融时间序列吸引子维度,确定RPNN(Recurrent Predictor Neural Network,简称RPNN)网络的结构,然后通过量子粒子群优化QPSO(Quantum-Behaved Particle SwarmOptimization,简称QPSO)算法对递归神经网络RPNN训练、最后确定网络的动态最优权值和阈值,使RPNN神经网络仿真预测值与实际值达到最小误差精度。本发明解决了基于梯度算法优化RPNN神经网络易落入局部极小值问题,所建立的QPSO-RPNN优化预测方法收敛速度快、搜索具有全局性,编程计算简洁、高效、预测精度高,在金融投资和社会经济中有着广泛的应用。
附图说明
图1为QPSO算法流程图。
图2为RPNN结构示意图。
图3为RPNN网络训练结果。
图4为10天上证综指收盘价预测相对误差。
图5为20天上证综指收盘价预测相对误差。
具体实施方式
以下实施例将结合附图对本发明作进一步的说明。
本发明实施例包括以下步骤:
1)计算时间序列吸引子维度,据此选取出嵌入维数为5维,即RPNN的节点数为5个,RPNN的存储器为25个,该网络有5个阈值和75个权值,其结构图如图2所示。
2)粒子的个数为60个,每一个粒子的状态由80个维度来描述,其中75个维度对应RPNN的权值,5个维度对应RPNN的阈值。
3)网络训练时,首先赋予每一个粒子初始状态;RPNN每产生一个预测值要经历5个节拍,其中每一个节拍对应的时间延迟为1天。
4)第一节拍:第一个节点以外部输入数据值r1和自身的反馈即自身存储器上的值乘以相应的权值作为输入数据,然后在激活函数的作用下产生一个输出值,并且将这个输出值存放到第一个存储器中,将原先存放在第一个存储器的值存放到第二个存储器,依次自下向上更新存储器,最后一个存储器的值当即释放掉。
5)第二节拍:第二个节点以外部输入数据值r2和自身的反馈以及第一个节点的存储器上的值乘以相应的权值作为输入数据,在激活函数的作用下产生一个输出值,并与第一节拍类似,依次更新节点上的存储器,同样最后一个存储器的值当即释放掉。
6)第三节拍:第三个节点以外部输入数据值r3和自身的反馈以及第一个节点存储器和第二个节点存储器上的值乘以相应的权值作为输入数据在激活函数的作用下产生一个输出值,与第一和第二节拍类似,依次更新节点上的存储器,同样最后一个存储器的值当即释放掉。
7)第四节拍:第四个节点以外部输入数据值r4和自身的反馈以及第一个节点存储器,第二个节点存储器和第三个节点存储器上的值乘以相应的权值作为输入数据在激活函数的作用下产生一个输出值,存储器更新与上述类似。
8)第五节拍:第五个节点以外部输入数据值r5和自身的反馈以及第一个节点存储器,第二个节点存储器,第三个节点存储器和第四个节点存储器的值乘以相应的权值作为输入数据在激活函数的作用下产生一个输出值;其中第五个节点的输出值即为预测值。
9)上述每一个节拍中网络的输出计算公式是:
其中,yj(t)表示t时刻节点j的输出,rj(t)为t时刻节点j的外部输入值,bj(t)为节点j的阈值,n是网络节点的个数(即n=5),Cik(t)是时刻第i个节点第k个存储器的值,ωij(t)为t时刻第i个节点第j个存储器对应的权值。σj(·)是节点j的激活函数,决定了神经元j的输出。每一个节拍所使用的激活函数是:
其中A为激活函数的幅值,为斜率。通过多次测试后,本方法设定A=1.5,
10)将预测出的值输入目标函数计算误差,其中:
目标函数为绝对误差函数:其中,S为样本总数,h(t)为t时刻对应的输出值,为t时刻对应的真实值。
(11)应用QPSO算法更新粒子的状态,计算新的输出值的误差。通过不断的迭代寻找出使误差最小的权值和阈值。
在步骤11)中,所述QPSO算法更新粒子的状态的具体步骤可为:
(1)QPSO训练RPNN时,首先在[-0.5,0.5]区间内随机赋予每一个粒子一个初始状态,粒子的状态由80个维度固定,即75个权值、5个的阈值。
(2)RPNN利用由QPSO优化算法确定出的最优粒子及所对应维度代表的权值和阈值计算出预测值,然后将预测值输入目标函数计算误差。
(3)设定误差目标为累计绝对误差Es<5%,如果误差没有达到目标或迭代次数不满足条件时,根据量子行为优化的粒子进化公式,更新粒子的状态。
量子行为优化的粒子进化公式:
其中Xi,j(t+1)是第i个粒子的第j维在t+1时刻的状态(即t+1时刻的权值和阈值),pi,j(t)是t时刻的吸引子,且pi,j(t)=uj(t)·Pi,j(t)+[1-uj(t)]·Gj(t),Pi,j(t)是第i个粒子的第j维的历史最优状态,Gj(t)是粒子群体中第j维的全局最优状态,uj(t)服从在(0,1)区间均匀分布的随机数。α是收缩扩张系数,本方法设定α=(1.0-0.5)×(MAXITER-t)/MAXITER+0.5;Cj(t)是t时刻第j维的平均最好状态,M是粒子的个数,Pi,j(t)是t时刻第i个粒子的第j维的历史最优状态,Ui,j(t)是服从在(0,1)区间均匀分布的随机数。
(4)网络的权值和阈值(即粒子的状态)按上述量子行为优化的粒子进化公式进化、更新后,计算新的输出值,并将输出值输入目标函数计算误差。通过不断的迭代寻找使误差最小的权值和阈值。
(5)找到使误差最小的权值和阈值后便完成了网络的训练,此时RPNN已获得最优网络参数,代表着混沌吸引子在重构相空间中的非线性映射F,RPNN的存储器中记录的是时间序列的关联信息。假设训练样本中最后一个数据的时间节点是T,那么在网络中输入T-4,T-3,T-2,T-1,T时刻的外部输入值时,便可以获得T+1时刻的预测值。至此该模型完成网络训练和预测功能。QPSO算法流程见图1。
以下给出具体实施例:
以上证综指收盘价为研究对象,数据来源于Wind资讯金融终端。
数据区间为2013年9月1日至2016年11月1日,共771个数据。
将前751个数据(2013年9月1日至2016年9月27日)作为多重分支时间延迟递归神经网络RPNN的训练样本,并用QPSO优化算法训练网络。
如图3所示,将训练好的RPNN进行仿真(此时RPNN已获得最优网络参数,代表着混沌吸引子在重构相空间中的非线性映射F),比较仿真值与样本的拟合情况,检验网络的泛化能力。
用训练好的RPNN进行预测。后20个数据作为预测样本(2016年9月28日至2016年11月1日),采用单步动态方式进行预测,判断网络的预测性能;
对比预测值与样本,计算相关精度指标,定量化评价RPNN的预测性能。
为了定量化分析QPSO-RPNN混沌金融时间序列预测模型的预测效果,采用预测相对误差指标来评价;
其中yi和分别是预测值和期望值。预测相对误差指标越接近于0%表明预测效果越好;预测无误差时等于0%。图4和5分别显示出10天和20天的预测相对误差。
Claims (2)
1.金融时间序列预测的量子粒子群优化递归神经网络方法,其特征在于包括以下步骤:
1)计算时间序列吸引子维度,选取出嵌入维数为5维,即RPNN的节点数为5个,RPNN的存储器为25个,网络有5个阈值和75个权值;
2)粒子的个数为60个,每一个粒子的状态由80个维度,其中75个维度对应RPNN的权值,5个维度对应RPNN的阈值;
3)网络训练时,首先赋予每一个粒子初始状态;RPNN每产生一个预测值经历5个节拍,其中每一个节拍对应的时间延迟为1天;
4)第一节拍:第一个节点以外部输入数据值r1和自身的反馈即自身存储器上的值乘以相应的权值作为输入数据,然后在激活函数的作用下产生一个输出值,将所述输出值存放到第一个存储器中,将原先存放在第一个存储器的值存放到第二个存储器,依次自下向上更新存储器,最后一个存储器的值当即释放掉;
5)第二节拍:第二个节点以外部输入数据值r2和自身的反馈以及第一个节点的存储器上的值乘以相应的权值作为输入数据,在激活函数的作用下产生一个输出值,并与第一节拍依次更新节点上的存储器,最后一个存储器的值当即释放掉;
6)第三节拍:第三个节点以外部输入数据值r3和自身的反馈以及第一个节点存储器和第二个节点存储器上的值,乘以相应的权值作为输入数据,在激活函数的作用下产生一个输出值,与第一节拍和第二节拍依次更新节点上的存储器,最后一个存储器的值当即释放掉;
7)第四节拍:第四个节点以外部输入数据值r4和自身的反馈以及第一个节点存储器、第二个节点存储器和第三个节点存储器上的值,乘以相应的权值作为输入数据在激活函数的作用下产生一个输出值,并更新存储器;
8)第五节拍:第五个节点以外部输入数据值r5和自身的反馈以及第一个节点存储器、第二个节点存储器、第三个节点存储器和第四个节点存储器的值,乘以相应的权值作为输入数据在激活函数的作用下产生一个输出值;其中第五个节点的输出值即为预测值;
9)每一个节拍中网络的输出计算公式是:
<mrow>
<msub>
<mi>X</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>j</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>+</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>=</mo>
<msub>
<mi>p</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>j</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>&PlusMinus;</mo>
<mi>&alpha;</mi>
<mo>&CenterDot;</mo>
<mo>|</mo>
<msub>
<mi>C</mi>
<mi>j</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>-</mo>
<msub>
<mi>X</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>j</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>|</mo>
<mo>&CenterDot;</mo>
<mi>l</mi>
<mi>n</mi>
<mo>&lsqb;</mo>
<mfrac>
<mn>1</mn>
<mrow>
<msub>
<mi>U</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>j</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
</mrow>
</mfrac>
<mo>&rsqb;</mo>
</mrow>
其中,yj(t)表示t时刻节点j的输出,rj(t)为t时刻节点j的外部输入值,bj(t)为节点j的阈值,n是网络节点的个数(即n=5),Cik(t)是时刻第i个节点第k个存储器的值,ωij(t)为t时刻第i个节点第j个存储器对应的权值;σj(·)是节点j的激活函数,决定了神经元j的输出;每一个节拍所使用的激活函数是:
其中A为激活函数的幅值,为斜率,通过多次测试后,设定A=1.5,
10)将预测出的值输入目标函数计算误差,其中:
目标函数为绝对误差函数:其中,S为样本总数,h(t)为t时刻对应的输出值,为t时刻对应的真实值;
11)应用QPSO算法更新粒子的状态,计算新的输出值的误差,通过不断的迭代寻找出使误差最小的权值和阈值。
2.如权利要求1所述金融时间序列预测的量子粒子群优化递归神经网络方法,其特征在于在步骤11)中,所述QPSO算法更新粒子的状态的具体步骤为:
(1)QPSO训练RPNN时,首先在[-0.5,0.5]区间内随机赋予每一个粒子一个初始状态,粒子的状态由80个维度固定,即75个权值、5个的阈值;
(2)RPNN利用由QPSO优化算法确定出的最优粒子及所对应维度代表的权值和阈值计算出预测值,然后将预测值输入目标函数计算误差;
(3)设定误差目标为累计绝对误差Es<5%,如果误差没有达到目标或迭代次数不满足条件时,根据量子行为优化的粒子进化公式,更新粒子的状态;
量子行为优化的粒子进化公式:
<mrow>
<msub>
<mi>X</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>j</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>+</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>=</mo>
<msub>
<mi>p</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>j</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>&PlusMinus;</mo>
<mi>&alpha;</mi>
<mo>&CenterDot;</mo>
<mo>|</mo>
<msub>
<mi>C</mi>
<mi>j</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>-</mo>
<msub>
<mi>X</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>j</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>|</mo>
<mo>&CenterDot;</mo>
<mi>l</mi>
<mi>n</mi>
<mo>&lsqb;</mo>
<mfrac>
<mn>1</mn>
<mrow>
<msub>
<mi>U</mi>
<mrow>
<mi>i</mi>
<mo>,</mo>
<mi>j</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
</mrow>
</mfrac>
<mo>&rsqb;</mo>
</mrow>
其中Xi,j(t+1)是第i个粒子的第j维在t+1时刻的状态,即t+1时刻的权值和阈值,pi,j(t)是t时刻的吸引子,且pi,j(t)=uj(t)·Pi,j(t)+[1-uj(t)]·Gj(t),Pi,j(t)是第i个粒子的第j维的历史最优状态,Gj(t)是粒子群体中第j维的全局最优状态,uj(t)服从在(0,1)区间均匀分布的随机数;α是收缩扩张系数,设定α=(1.0-0.5)×(MAXITER-t)/MAXITER+0.5;Cj(t)是t时刻第j维的平均状态,M是粒子的个数,Pi,j(t)是t时刻第i个粒子的第j维的历史最优状态,Ui,j(t)是服从在(0,1)区间均匀分布的随机数;
(4)网络的权值和阈值,即粒子的状态,按量子行为优化的粒子进化公式进化、更新后,计算新的输出值,并将输出值输入目标函数计算误差,通过不断的迭代寻找使误差最小的权值和阈值;
(5)找到使误差最小的权值和阈值后便完成了网络的训练,此时RPNN已获得最优网络参数,代表着混沌吸引子在重构相空间中的非线性映射F,RPNN的存储器中记录的是时间序列的关联信息;假设训练样本中最后一个数据的时间节点是T,那么在网络中输入T-4,T-3,T-2,T-1,T时刻的外部输入值时,获得T+1时刻的预测值,至此该模型完成网络训练和预测功能。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710362965.9A CN107194460A (zh) | 2017-05-22 | 2017-05-22 | 金融时间序列预测的量子粒子群优化递归神经网络方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710362965.9A CN107194460A (zh) | 2017-05-22 | 2017-05-22 | 金融时间序列预测的量子粒子群优化递归神经网络方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107194460A true CN107194460A (zh) | 2017-09-22 |
Family
ID=59874391
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710362965.9A Pending CN107194460A (zh) | 2017-05-22 | 2017-05-22 | 金融时间序列预测的量子粒子群优化递归神经网络方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107194460A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108009636A (zh) * | 2017-11-16 | 2018-05-08 | 华南师范大学 | 深度学习神经网络进化方法、装置、介质和计算机设备 |
CN108428023A (zh) * | 2018-05-24 | 2018-08-21 | 四川大学 | 基于量子加权门限重复单元神经网络的趋势预测方法 |
CN109525548A (zh) * | 2018-09-25 | 2019-03-26 | 平安科技(深圳)有限公司 | 一种基于代价函数的白名单更新方法、装置及电子设备 |
CN110361966A (zh) * | 2018-06-23 | 2019-10-22 | 四川大学 | 一种基于双隐层量子线路循环单元神经网络的趋势预测方法 |
CN114363262A (zh) * | 2022-01-05 | 2022-04-15 | 西安交通大学 | 一种空天地一体化网络下的混沌动态拥塞预测***及方法 |
-
2017
- 2017-05-22 CN CN201710362965.9A patent/CN107194460A/zh active Pending
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108009636A (zh) * | 2017-11-16 | 2018-05-08 | 华南师范大学 | 深度学习神经网络进化方法、装置、介质和计算机设备 |
CN108009636B (zh) * | 2017-11-16 | 2021-12-07 | 华南师范大学 | 深度学习神经网络进化方法、装置、介质和计算机设备 |
CN108428023A (zh) * | 2018-05-24 | 2018-08-21 | 四川大学 | 基于量子加权门限重复单元神经网络的趋势预测方法 |
CN108428023B (zh) * | 2018-05-24 | 2022-03-15 | 四川大学 | 基于量子加权门限重复单元神经网络的趋势预测方法 |
CN110361966A (zh) * | 2018-06-23 | 2019-10-22 | 四川大学 | 一种基于双隐层量子线路循环单元神经网络的趋势预测方法 |
CN110361966B (zh) * | 2018-06-23 | 2022-05-27 | 四川大学 | 一种基于双隐层量子线路循环单元神经网络的趋势预测方法 |
CN109525548A (zh) * | 2018-09-25 | 2019-03-26 | 平安科技(深圳)有限公司 | 一种基于代价函数的白名单更新方法、装置及电子设备 |
CN109525548B (zh) * | 2018-09-25 | 2021-10-29 | 平安科技(深圳)有限公司 | 一种基于代价函数的白名单更新方法、装置及电子设备 |
CN114363262A (zh) * | 2022-01-05 | 2022-04-15 | 西安交通大学 | 一种空天地一体化网络下的混沌动态拥塞预测***及方法 |
CN114363262B (zh) * | 2022-01-05 | 2023-08-22 | 西安交通大学 | 一种空天地一体化网络下的混沌动态拥塞预测***及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Li et al. | Prediction for tourism flow based on LSTM neural network | |
CN107194460A (zh) | 金融时间序列预测的量子粒子群优化递归神经网络方法 | |
Milan et al. | Development of adaptive neuro fuzzy inference system–Evolutionary algorithms hybrid models (ANFIS-EA) for prediction of optimal groundwater exploitation | |
Bae et al. | Monthly dam inflow forecasts using weather forecasting information and neuro-fuzzy technique | |
Zheng et al. | An accurate GRU-based power time-series prediction approach with selective state updating and stochastic optimization | |
CN104636801A (zh) | 一种基于优化bp神经网络的预测输电线路可听噪声方法 | |
CN110826774B (zh) | 母线负荷预测方法、装置、计算机设备及存储介质 | |
Papageorgiou et al. | Application of fuzzy cognitive maps to water demand prediction | |
CN104636985A (zh) | 一种改进bp神经网络的输电线路无线电干扰预测方法 | |
CN109214579B (zh) | 基于bp神经网络的盐碱地稳定性预测方法及*** | |
Rizwan et al. | Artificial intelligence based approach for short term load forecasting for selected feeders at madina saudi arabia | |
CN109583588A (zh) | 一种短期风速预测方法及*** | |
CN107886160A (zh) | 一种bp神经网络区间需水预测方法 | |
CN106168829A (zh) | 基于蚁群算法改进的rbf‑bp神经网络的光伏发电输出功率追踪算法 | |
Mellios et al. | A multivariate analysis of the daily water demand of Skiathos Island, Greece, implementing the artificial neuro-fuzzy inference system (ANFIS) | |
Robati et al. | Inflation rate modeling: adaptive neuro-fuzzy inference system approach and particle swarm optimization algorithm (ANFIS-PSO) | |
CN115759458A (zh) | 基于综合能源数据处理和多任务深度学习的负荷预测方法 | |
Shresthamali et al. | Power management of wireless sensor nodes with coordinated distributed reinforcement learning | |
CN114202063A (zh) | 一种基于遗传算法优化的模糊神经网络温室温度预测方法 | |
Sharma et al. | Synergism of recurrent neural network and fuzzy logic for short term energy load forecasting | |
Gireeshma et al. | New Correlation Technique for RE Power Forecasting using Neural Networks | |
Sarangi et al. | Load Forecasting Using Artificial Neural Network: Performance Evaluation with Different Numbers of Hidden Neurons. | |
Coroama et al. | A study on wind energy generation forecasting using connectionist models | |
Hossain et al. | Cascading Neural Network with Particle Swarm Optimization | |
CN113592565B (zh) | 一种电力***节点重要度预测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20170922 |
|
WD01 | Invention patent application deemed withdrawn after publication |