CN111507530B - 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法 - Google Patents
基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法 Download PDFInfo
- Publication number
- CN111507530B CN111507530B CN202010309180.7A CN202010309180A CN111507530B CN 111507530 B CN111507530 B CN 111507530B CN 202010309180 A CN202010309180 A CN 202010309180A CN 111507530 B CN111507530 B CN 111507530B
- Authority
- CN
- China
- Prior art keywords
- neural network
- traffic flow
- rbf
- gradient descent
- fractional order
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 100
- 238000000034 method Methods 0.000 title claims abstract description 31
- 238000012549 training Methods 0.000 claims abstract description 26
- 230000006870 function Effects 0.000 claims description 26
- 238000004422 calculation algorithm Methods 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 6
- 230000004913 activation Effects 0.000 claims description 4
- 238000003062 neural network model Methods 0.000 claims description 3
- 230000001932 seasonal effect Effects 0.000 claims description 2
- 230000000694 effects Effects 0.000 abstract description 7
- 230000010355 oscillation Effects 0.000 abstract description 7
- 238000011478 gradient descent method Methods 0.000 abstract description 5
- 230000007547 defect Effects 0.000 abstract description 3
- 230000004044 response Effects 0.000 abstract description 3
- 238000004458 analytical method Methods 0.000 description 6
- 210000002569 neuron Anatomy 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 230000000737 periodic effect Effects 0.000 description 3
- 206010039203 Road traffic accident Diseases 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000009440 infrastructure construction Methods 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 230000007786 learning performance Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/26—Government or public services
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Tourism & Hospitality (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- General Engineering & Computer Science (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Development Economics (AREA)
- General Business, Economics & Management (AREA)
- Biophysics (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Marketing (AREA)
- Life Sciences & Earth Sciences (AREA)
- Primary Health Care (AREA)
- Educational Administration (AREA)
- Game Theory and Decision Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Traffic Control Systems (AREA)
Abstract
本发明提出一种基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法,其特征在于:以前a小时船舶交通流量与下一次涨潮前b分钟的交通流量作为神经网络的输入,输出是未来c分钟的船舶交通流量;所述神经网络采用FOGDM‑RBF神经网络。其能有效地加快梯度下降法的收敛速度,提高性能,具有较高的精度和有效性,避免了传统神经网络训练速度慢、容易陷入局部最优解、高方差振荡等缺点,并融入了分数阶运算所具有地更快的响应速度、更低的超调、更小的抖振效应和更好的预测控制性能。
Description
技术领域
本发明属于船舶交通、机器学习领域,具体涉及一种基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法。
背景技术
随着世界航运业的日益繁忙,大型船舶交通流导致海上交通事故频发,造成巨大的经济损失。船舶交通流量是海上交通工程中的基本量,是衡量海上交通基础设施建设的重要指标。其预测结果可为制定科学的港口管理规划和船舶航行管理提供依据。因此,保证船舶交通流量预测的准确性和合理性,对完善港口基础设施建设,制定科学的港口管理策略具有重要意义。许多先进的人工智能优化算法已被用于船舶交通流预测,如人工神经网络(ZHAI Jiugang,TIAN Yanfei, YAN Xinpinga.(2013)Prediction of vessel trafficflow based on BP neural network and residual analysis.Journal of ShanghaiMaritime University,34(1):19-22.ZHANG Shukui,XIAO Yingjie(2015)Grey neuralnetwork model for ship traffic flow prediction.Journal of Shanghai MaritimeUniversity,36(1):46-49)。神经网络能够处理复杂的非线性问题,并取得了一定的效果。然而,神经网络本身存在学习速度慢、易陷入局部极值、学习记忆不稳定等缺点。
近年来,人工神经网络在模式识别、专家***、机器人、复杂***控制等领域得到了广泛的应用。神经网络的权值是通过训练得到的。梯度下降(GD)是更新和优化神经网络权值的基本方法(Yin,P.,Zhang,S.,Lyu,J.et al.Res Math Sci(2019)6:14.https://doi.org/10.1007/s40687-018-0177-6.; Kobayashi,Masaki(2017)Gradient descentlearning for quaternionic Hopfield neural networks.Neurocomputing 260:174-179.)。GD标准有两个主要缺点:训练速度慢,容易陷入局部最优解。得到收敛解需要很长时间,每一步都要计算和调整下一步的方向。当应用于大型数据集时,每个输入样本都需要更新其参数,每个迭代都需要遍历所有样本。一旦落入鞍点,梯度为零,模型参数不更新。
在GD的基础上,随机梯度下降(SGD)根据数据分布将总数据分为几个小批量,并用小批量数据更新参数。每个更新步骤的计算时间不取决于训练样本的数量。它可以收敛于大量的训练样本。对于足够大的数据集,SGD可以在处理整个训练集之前收敛到最终测试器错误的容错范围。然而,很难选择合适的学习率。
如果学习率设置得太大,学习曲线将剧烈振荡,代价函数值将明显增加。如果学习率设置得太小,学习过程将非常缓慢,学习可能会陷入相当高的***值。 SGD算法在随机选择梯度的同时也引入了噪声,使得权值更新的方向不是最优的。
为了避免SGD的高方差振荡,提出了动量法(Wu W,ZhangNM,LiZX,Li L, Liu Y(2008)Convergence of gradient method with momentum for back-propagationneural networks.Journal of computational mathematics 26(4):613-623.)。通过考虑运动目标的相关训练方向,弱化不相关方向,模拟运动目标的惯性。当梯度指向先前的实际运动方向时,动量项增大,当梯度与实际运动方向相反时,动量项减小。因此,动量可以加速相关方向的学习,抑制振荡,加速收敛,特别是在处理高曲率、小而一致的梯度或带噪声的梯度时。然而,很难选择一个更好的学习率。
发明内容
为了预防海上交通事故的发生,做出科学的决策,对交通流进行科学、准确的预测。同时为了改善通过神经网络预测船舶交通流量的效果,考虑到权值更新方法在提高神经网络性能方面发挥了重要作用。为了改善训练RBF神经网络时的振荡现象,本发明提出了一种基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法,其采用分数阶动量梯度下降法(FOGDM-RBF)来更新RBF神经网络的权值。,其采用新算法调整神经网络的权值,提高其学习速度和性能,用于船舶交通流预测。将分数阶微积分应用于梯度下降的动量算法训练神经网络,避免了传统神经网络训练速度慢、容易陷入局部最优解、高方差振荡等缺点,并融入了分数阶运算所具有地更快的响应速度、更低的超调、更小的抖振效应和更好的预测控制性能。
本发明具体采用以下技术方案:
一种基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法,其特征在于:以前a小时船舶交通流量与下一次涨潮前b分钟的交通流量作为神经网络的输入,输出是未来c分钟的船舶交通流量;所述神经网络采用FOGDM-RBF 神经网络。
优选地,所述FOGDM-RBF神经网络的激活函数采用径向基函数,并采用 RBF计算神经网络的输出:其中W(n)为神经网络的权重,为径向基函数,n为训练样本,x为训练向量,W(n)=[w1(n),w2(n),…,wP(n)],P为隐含层节点数量;所述FOGDM-RBF神经网络定义d(n)为神经网络的期望输出,则误差信号为:e(n)=d(n)-y(n),其中,y(n)为神经网络的输出;所述 FOGDM-RBF神经网络的目标函数为所述 FOGDM-RBF神经网络的梯度下降动量算法为:其中η>0是学习因子,0<α<1,D 表示Riemann-Liouville积分,γn是动量系数,c表示时间起点,△表示差值或增量:0<γ<η,动量因子γ∈(0,η);所述FOGDM-RBF神经网络采用公式:
计算目标函数的Caputo分数阶导数,其中:N表示输入训练样本的数量,i表示第i个隐藏层。
优选地,所述FOGDM-RBF神经网络的训练过程包括以下步骤:
步骤S1:初始化神经网络模型;
步骤S2:初始化神经网络的权值;
步骤S3:重复执行步骤S4-步骤S10,直至误差小于预设的阈值;
步骤S4:计算神经网络的激活函数;
步骤S5:计算神经网络的输出;
步骤S6:计算神经网络的输出误差;如误差小于预设的阈值,则完成 FOGDM-RBF神经网络的训练;
步骤S7:计算目标函数;
步骤S8:计算目标函数的Caputo分数阶导数;
步骤S9:更新动量系数;
步骤S10:更新神经网络的权值;
优选地,利用训练完成的神经网络权值和输入的数据集,计算交通流预测结果。
优选地,神经网络的输入还包括季节数据和/或港口吞吐量数据和/或潮汐数据。
本发明及其优选方案证明FOGDM-RBF的收敛性,并提出利用该算法对船舶交通流进行预测的方案。随着迭代次数的增加,该算法表现稳定并收敛到零。其误差值下降曲线比梯度下降法和动量梯度下降法的误差值下降曲线平滑。误差分析表明,该算法能有效地加快梯度下降法的收敛速度,提高性能,具有较高的精度和有效性,避免了传统神经网络训练速度慢、容易陷入局部最优解、高方差振荡等缺点,并融入了分数阶运算所具有地更快的响应速度、更低的超调、更小的抖振效应和更好的预测控制性能。
附图说明
下面结合附图和具体实施方式对本发明进一步详细的说明:
图1为本发明实施例RBF神经网络结构示意图;
图2为本发明实施例比较用于训练RBF神经网络的不同算法的结果示意图 (包括梯度下降算法、带动量的梯度下降算法和本实施例提供的带动量的分数阶梯度下降算法);
图3为本发明实施例不同分数阶的计算迭代次数示意图;
图4为本发明实施例不同隐层神经元节点数的计算迭代次数和误差标准差示意图。
具体实施方式
为让本专利的特征和优点能更明显易懂,下文特举实施例,作详细说明如下:
首先介绍本实施例所依据算法模型的数学基础:
1.RBF神经网络
1985年,鲍威尔提出了一种用于多元插值的径向基函数(RBF)方法。最常用的径向基函数是高斯函数:
W(n)=[w1(n),w2(n),…,wP(n)] (2.4)
RBF神经网络的结构图如图1所示。
2.FGD-RBF神经网络
2.1分数阶微积分
分数阶微积分的Riemann-Liouville定义如下:
定义1对在[t0,t]区间绝对可积x(t),其Riemann-Liouville积分定义如下:
其中α的实部是正实数。伽马函数Γ(x)定义为:
定义2.对在[t0,t]区间绝对可积x(t),其Riemann-Liouville微分定义如下:
式中α∈[m-1,m);m为正整数。
定义3.对函数f(x)=(x-x0)v,当0≤m≤p<m+1,下式成立:
2.2 FOGDM-RBF
定义d(n)a为神经网络的期望输出,误差信号为:
定义目标函数为:
记:
Δw(n+1)=w(n+1)-Δw(n) (3.7)
梯度下降动量算法定义如下:
0<α<1(3.9)
式中η>0是学习因子,γn是动量系数:
0<γ<η (3.11)
γ∈(0,η)为动量因子,||·||是欧拉范数。根据Caputo分数阶微分定义可得:
2.3 FOGAM-RBF收敛性分析
首先给出以下假设。
(A2)w一致有界:
由于最常见的高斯函数是一致有界可微的,所以这个条件很容易满足。
引理1(Sutherland,1975)每个有界单调实数序列收敛。
Theorem1.若(A1)与(A2)成立,且有
则下式成立:
J(w(n+1))≤J(w(n)) (3.16)
证明.利用带Lagrange余项的Taylor中值定理,可以得到:
将(3.20)代入(3.19)第一项可得:
由(3.8)可得:
将(3.10)代入(3.22)可得:
将(3.23)代入(3.21)可得:
由(3.14)可得:
将(3.25)代入(3.24)可得:
由(3.12)可得:
将(3.27)代入(3.24)可得:
由(3.26)和(3.28)可得:
由(3.8)可得:
将(3.10)代入(3.30)可得:
将(3.31)代入(3.19)第二项可得:
由(3.13)可得
将(3.33)代入(3.32)可得:
将(3.13)代入(3.34)得:
将(3.35)代入(3.19)可得:
将(3.29)代入(3.36)可得:
从(3.15)可得
J(w(n+1))-J(w(n))≤0(3.38)
式(3.16)得证。
由上式可知,单调下降序列J(w(n))有界且J(w(n))≥0.由引理1可得J(w(n))收敛,因此存在J*≥0使得:
(3.17)得证。
记:
将(3.40)代入(3.37)可得:
因此可得:
因为J(w(n+1))≥0,可得:
当n→+∞,下式成立:
因此可得:
式(3.18)得证。
3 FOGDM-RBF预测流程
基于以上提出的FOGDM-RBF算法,本实施例将其应用于船舶交通流预测。
FOGDM-RBF预测交通流流程如下所示。
其中,神经网络的输入是前10小时船舶交通流量与下一次涨潮前分钟的交通流量。神经网络的输出是未来10分钟的船舶交通流量。考虑到最大限度地遵循自然规律,本实施例进一步地可以以实时季节、港口吞吐量、潮汐数据等人为和自然因素作为神经网络的输入,已获得更为精确的预测结果。
4具体测试案例
在本实施例提供的的具体测试案例当中,采用厦门港2018年1月1日至2019 年1月11日的船舶交通流量数据。交通流量数据每10分钟计算一次。因此,每天有144条记录。数据量大到足以使神经网络得到足够的样本并产生准确的结果。用这种方法训练神经网络。
利用前10小时的船舶交通流量和下一次涨潮前1分钟的船舶交通流量预测未来10分钟的船舶交通流量。例如,利用2020年1月9日19:00至102020年 1月10日5:00的交通流量,以及下一次涨潮时间前的分钟,预测2020年1月 10日5:10的交通流量。通过这种方法,对神经网络进行了测试。神经网络的结构如表1所示。
表1神经网络结构
权重 | [-1.0285,-1.4145,0.9107] |
隐含层阈值 | [1.7469,1.3322,3.3963] |
输出层阈值 | 1.0453 |
输入层神经元数 | 4 |
隐含层神经元数 | 3 |
最大迭代次数 | 10000 |
评价方法 | 均方差 |
学习率 | 0.001 |
4.1实验数据
本实施例采用厦门港2018年1月1日至2019年1月11日的船舶交通流量数据。交通流量数据每10分钟计算一次。因此,每天有144条记录。数据量大到足以使神经网络得到足够的样本并产生准确的结果。
例如,用于预测的2020年1月11日厦门港船舶交通流量如表2所示。数据每10分钟计数一次。第二栏是在厦门港航行不到4小时的船舶数量。第三栏是在厦门港航行4至12小时的船舶数量。第四栏是在厦门港航行12至24小时的船舶数量。第五栏是在厦门港航行24小时以上的船舶数量。最后一栏是厦门港的船舶总数。
表2 2020.1.11厦门船舶交通流预测
4.2潮汐变化分析
考虑到船舶交通密度受周期性潮汐和日变化的影响明显。厦门市潮位表如表 3所示,包括日期、涨潮时间、潮高、平潮时间和落潮高度。
表3厦门潮汐表
日期 | 高潮 | 潮高/cm | 低潮 | 潮高/cm |
Jan.4,2020 | 18:42 | 485 | 12:21 | 194 |
Jan.5,2020 | 19:41 | 480 | 1:15 | 191 |
Jan.6,2020 | 20:39 | 486 | 2:19 | 171 |
Jan.7,2020 | 21:34 | 500 | 3:18 | 141 |
Jan.8,2020 | 22:22 | 517 | 4:10 | 107 |
实际船舶交通流量受潮汐、季节等因素影响,具有明显的周期性波动特征。利用历史数据分析船舶交通流中长期变化趋势的周期性波动规律,并将下一次涨潮前几分钟作为神经网络的输入变量之一。
利用前10小时的船舶交通流量和下一次涨潮前1分钟的船舶交通流量预测未来10分钟的船舶交通流量。例如,利用2020年1月9日19:00至102020年 1月10日5:00的交通流量,以及下一次涨潮时间前的分钟,预测2020年1月 10日5:10的交通流量。通过这种方法,对神经网络进行了测试。2020年1月5 日预测结果见表4。
表4 2020.1.5交通流预测
时间 | 预测 | 实际 | 误差 |
16:00 | 1570 | 1567 | 0.106% |
16:10 | 1567 | 1564 | 0.192% |
16:20 | 1566 | 1562 | 0.256% |
16:30 | 1551 | 1556 | 0.321% |
16:40 | 1555 | 1558 | 0.193% |
16:50 | 1564 | 1560 | 0.256% |
17:00 | 1565 | 1562 | 0.192% |
17:10 | 1556 | 1553 | 0.193% |
17:20 | 1546 | 1551 | 0.322% |
17:30 | 1553 | 1557 | 0.257% |
17:40 | 1573 | 1569 | 0.255% |
17:50 | 1569 | 1572 | 0.191% |
18:00 | 1573 | 1576 | 0.190% |
由上表的结果进一步验证了模型和算法的有效性和正确性。神经网络可以从理论上逼近任何非线性***,适用于船舶交通流的中短期预测。样本对模型的预测效果有重要影响。在小样本情况下,预测效果往往不理想。在样本足够的情况下,预测精度可以满足要求。
4.3 RBF神经网络不同训练算法的比较
图2比较了用于训练RBF神经网络的不同算法的结果,包括梯度下降、带动量的梯度下降和带动量的分数阶梯度下降。
结果表明,梯度下降法的误差最大。然后,动量梯度下降的误差值是第二大的。动量梯度下降法的误差最小,说明训练速度加快。FOGDM-RBF可以提高神经网络的学习速度和精度。它具有良好的泛化性能,不易陷入局部最优。该算法性能稳定,随着迭代次数的增加收敛到零。实验结果验证了算法的单调性和收敛性。
同时,分数阶动量梯度下降法的误差值下降曲线比梯度下降法和动量梯度下降法的误差值下降曲线更平滑。梯度下降法误差值的下降曲线振荡更明显,跳跃次数更多。动量梯度下降法误差值的下降曲线表明,引入动量可以在一定程度上改善这种振荡现象。
4.4分数阶的影响分析。
不同分数阶的计算迭代次数如图3所示。
图3示出随着分数阶的增加,准确率提高。当分数阶数超过某一阈值时,准确率开始下降。最佳分数阶应为0.7。由于整数阶微分是分数阶微积分的特例,分数阶微积分具有参数选择范围宽、灵活性强等优点。
4.5隐藏层节点数的影响分析。
不同隐层神经元节点数的计算迭代次数和误差标准差如图4所示。
图4显示如果隐层节点的数目太少,神经网络就不能具备必要的学习和信息处理能力。神经网络可能根本无法训练,或者网络性能很差。如果隐层节点数目过多,神经网络的***误差就会减小。然而,神经网络在学习过程中容易陷入局部极小值。它不仅会增加神经网络结构的复杂性,而且会使神经网络的学习速度变慢。
本专利不局限于上述最佳实施方式,任何人在本专利的启示下都可以得出其它各种形式的基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法,凡依本发明申请专利范围所做的均等变化与修饰,皆应属本专利的涵盖范围。
Claims (4)
1.一种基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法,其特征在于:以前a小时船舶交通流量与下一次涨潮前b分钟的交通流量作为神经网络的输入,输出未来c分钟的船舶交通流量;所述神经网络采用FOGDM-RBF神经网络;
所述FOGDM-RBF神经网络的激活函数采用径向基函数,并采用RBF计算神经网络的输出:其中W(n)为神经网络的权重,为径向基函数,n为训练样本,x为训练向量,W(n)=[w1(n),w2(n),…,wP(n)],P为隐含层节点数量;所述FOGDM-RBF神经网络定义d(n)为神经网络的期望输出,则误差信号为:e(n)=d(n)-y(n),其中,y(n)为神经网络的输出;所述FOGDM-RBF神经网络的目标函数为所述FOGDM-RBF神经网络的梯度下降动量算法为:其中η>0是学习因子,0<α<1,D表示Riemann-Liouville积分,γn是动量系数,c表示时间起点,△表示差值或增量:0<γ<η,动量因子γ∈(0,η);所述FOGDM-RBF神经网络采用公式:计算目标函数的Caputo分数阶导数,其中:N表示输入训练样本的数量,i表示第i个隐藏层。
2.根据权利要求1所述的基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法,其特征在于,所述FOGDM-RBF神经网络的训练过程包括以下步骤:
步骤S1:初始化神经网络模型;
步骤S2:初始化神经网络的权值;
步骤S3:重复执行步骤S4-步骤S10,直至误差小于预设的阈值;
步骤S4:计算神经网络的激活函数;
步骤S5:计算神经网络的输出;
步骤S6:计算神经网络的输出误差;如误差小于预设的阈值,则完成FOGDM-RBF神经网络的训练;
步骤S7:计算目标函数;
步骤S8:计算目标函数的Caputo分数阶导数;
步骤S9:更新动量系数;
步骤S10:更新神经网络的权值。
3.根据权利要求2所述的基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法,其特征在于:利用训练完成的神经网络权值和输入的数据集,计算交通流预测结果。
4.根据权利要求1所述的基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法,其特征在于:神经网络的输入还包括季节数据和/或港口吞吐量数据和/或潮汐数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010309180.7A CN111507530B (zh) | 2020-04-17 | 2020-04-17 | 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010309180.7A CN111507530B (zh) | 2020-04-17 | 2020-04-17 | 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111507530A CN111507530A (zh) | 2020-08-07 |
CN111507530B true CN111507530B (zh) | 2022-05-31 |
Family
ID=71869516
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010309180.7A Active CN111507530B (zh) | 2020-04-17 | 2020-04-17 | 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111507530B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112083654B (zh) * | 2020-09-16 | 2022-09-16 | 交通运输部东海航海保障中心连云港航标处 | 一种航标船抗干扰轨迹跟踪控制方法 |
CN112488183B (zh) * | 2020-11-27 | 2024-05-10 | 平安科技(深圳)有限公司 | 一种模型优化方法、装置、计算机设备及存储介质 |
CN112929308B (zh) * | 2021-01-22 | 2022-05-17 | 西安电子科技大学 | 基于最大相关熵和分数阶常模盲均衡的信道畸变消除方法 |
CN113408824A (zh) * | 2021-07-15 | 2021-09-17 | 北京工业大学 | 一种基于rbf神经网络的生活垃圾收集过程氨气浓度智能预测方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0962979A (ja) * | 1995-08-25 | 1997-03-07 | Toshiba Corp | 交通流予測装置 |
CN106295794A (zh) * | 2016-07-27 | 2017-01-04 | 中国石油大学(华东) | 基于光滑Group Lasso惩罚项的分数阶的神经网络建模方法 |
CN109165724A (zh) * | 2018-08-06 | 2019-01-08 | 哈工大大数据(哈尔滨)智能科技有限公司 | 一种基于神经网络的梯度下降迭代次数预测方法及装置 |
CN109492814A (zh) * | 2018-11-15 | 2019-03-19 | 中国科学院深圳先进技术研究院 | 一种城市交通流量预测方法、***及电子设备 |
CN110111606A (zh) * | 2019-03-18 | 2019-08-09 | 上海海事大学 | 一种基于eemd-iaga-bp神经网络的船舶交通流预测方法 |
CN110163433A (zh) * | 2019-05-21 | 2019-08-23 | 上海海事大学 | 一种船舶流量预测方法 |
CN110222844A (zh) * | 2019-05-30 | 2019-09-10 | 西安交通大学 | 一种基于人工神经网络的压缩机性能预测方法 |
CN110555560A (zh) * | 2019-09-05 | 2019-12-10 | 浙江工商大学 | 内河船舶交通流预测方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10572800B2 (en) * | 2016-02-05 | 2020-02-25 | Nec Corporation | Accelerating deep neural network training with inconsistent stochastic gradient descent |
-
2020
- 2020-04-17 CN CN202010309180.7A patent/CN111507530B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0962979A (ja) * | 1995-08-25 | 1997-03-07 | Toshiba Corp | 交通流予測装置 |
CN106295794A (zh) * | 2016-07-27 | 2017-01-04 | 中国石油大学(华东) | 基于光滑Group Lasso惩罚项的分数阶的神经网络建模方法 |
CN109165724A (zh) * | 2018-08-06 | 2019-01-08 | 哈工大大数据(哈尔滨)智能科技有限公司 | 一种基于神经网络的梯度下降迭代次数预测方法及装置 |
CN109492814A (zh) * | 2018-11-15 | 2019-03-19 | 中国科学院深圳先进技术研究院 | 一种城市交通流量预测方法、***及电子设备 |
CN110111606A (zh) * | 2019-03-18 | 2019-08-09 | 上海海事大学 | 一种基于eemd-iaga-bp神经网络的船舶交通流预测方法 |
CN110163433A (zh) * | 2019-05-21 | 2019-08-23 | 上海海事大学 | 一种船舶流量预测方法 |
CN110222844A (zh) * | 2019-05-30 | 2019-09-10 | 西安交通大学 | 一种基于人工神经网络的压缩机性能预测方法 |
CN110555560A (zh) * | 2019-09-05 | 2019-12-10 | 浙江工商大学 | 内河船舶交通流预测方法 |
Non-Patent Citations (4)
Title |
---|
A New GA-based RBF Neural Network with Optimal Selection Clustering Algorithm for SINS Fault Diagnosis;刘志德 等;《International Conference on Industrial Engineering and Engineering Management IEEM》;20091231;第2348-2352页 * |
Ship Traffic Flow Prediction Based on Fractional Order Gradient Descent with Momentum for RBF Neural Network;薛晗;《JOURNAL OF SHIP RESEARCH》;20210630;第65卷(第2期);第100-107页 * |
分段学习的双隐层BPNN对交通流量预测的研究;毛玉明 等;《计算机工程与应用》;20080715;第44卷(第13期);第203-205页 * |
智能船舶交通管理***关键技术的研究与应用;杨鑫;《中国博士学位论文全文数据库 信息科技辑》;20130315(第3期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN111507530A (zh) | 2020-08-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111507530B (zh) | 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法 | |
CN110543929B (zh) | 一种基于Lorenz***的风速区间预测方法及*** | |
CN111310965A (zh) | 一种基于lstm网络的飞行器航迹预测方法 | |
CN111027732B (zh) | 一种多风电场出力场景的生成方法及*** | |
CN112215412B (zh) | 溶解氧预测方法及装置 | |
CN112464567A (zh) | 基于变分同化框架的智能资料同化方法 | |
Han et al. | Ship traffic flow prediction based on fractional order gradient descent with momentum for RBF neural network | |
CN111723523A (zh) | 一种基于级联神经网络的河口余水位预测方法 | |
Lubana et al. | How do quadratic regularizers prevent catastrophic forgetting: The role of interpolation | |
CN115167102A (zh) | 一种基于并行优势动作评价的强化学习自适应pid控制方法 | |
CN114740710A (zh) | 一种随机非线性多智能体的强化学习优化编队控制方法 | |
CN115062528A (zh) | 一种针对工业过程时序数据的预测方法 | |
Chi et al. | Comparison of two multi-step ahead forecasting mechanisms for wind speed based on machine learning models | |
CN116976227B (zh) | 一种基于lstm机器学习的风暴增水预报方法及*** | |
CN114330119A (zh) | 一种基于深度学习的抽蓄机组调节***辨识方法 | |
Srivastava et al. | Weather Prediction Using LSTM Neural Networks | |
CN116880191A (zh) | 一种基于时序预测的过程工业生产***的智能控制方法 | |
CN116910534A (zh) | 一种不同海域海洋环境要素时空智能预测方法和装置 | |
Zhou et al. | Application of PSO-LSTM for forecasting of ship traffic flow | |
WO2023151201A1 (zh) | 一种快速灵活全纯嵌入式神经网络广域寻优训练方法 | |
CN114995106A (zh) | 基于改进小波神经网络的pid自整定方法、装置和设备 | |
CN111144052B (zh) | 基于cnn-arx模型的直线一级倒立摆***建模方法及模型 | |
CN114202063A (zh) | 一种基于遗传算法优化的模糊神经网络温室温度预测方法 | |
Wu et al. | The mobile robot GPS position based on neural network adaptive kalman filter | |
EP3824412A1 (en) | Method and apparatus for actively tuning a predictor to an input signal |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |