CN115034126A - 一种通过灰狼算法优化lstm神经网络模型的方法与*** - Google Patents

一种通过灰狼算法优化lstm神经网络模型的方法与*** Download PDF

Info

Publication number
CN115034126A
CN115034126A CN202210402353.9A CN202210402353A CN115034126A CN 115034126 A CN115034126 A CN 115034126A CN 202210402353 A CN202210402353 A CN 202210402353A CN 115034126 A CN115034126 A CN 115034126A
Authority
CN
China
Prior art keywords
wolf
neural network
network model
lstm neural
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210402353.9A
Other languages
English (en)
Inventor
都时禹
吴宏卓
胡宇
林燕茹
张欣
张一鸣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ningbo Hangzhou Bay New Materials Research Institute
Ningbo Institute of Material Technology and Engineering of CAS
Original Assignee
Ningbo Hangzhou Bay New Materials Research Institute
Ningbo Institute of Material Technology and Engineering of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ningbo Hangzhou Bay New Materials Research Institute, Ningbo Institute of Material Technology and Engineering of CAS filed Critical Ningbo Hangzhou Bay New Materials Research Institute
Priority to CN202210402353.9A priority Critical patent/CN115034126A/zh
Publication of CN115034126A publication Critical patent/CN115034126A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/27Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/006Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00Details relating to CAD techniques
    • G06F2111/10Numerical modelling

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Geometry (AREA)
  • Medical Informatics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种通过灰狼算法优化LSTM神经网络模型的方法与***,涉及LSTM神经网络模型领域,其通过将超参数映射为灰狼个***置,以通过数据集训练灰狼个***置对应的LSTM神经网络模型得到的结果值与实际空气质量值的差值为适应度目标函数值,并通过适应度目标函数值划分出α狼,同时为了避免传统灰狼算法中β狼和δ狼对灰狼个***置的误导,只采用α狼对种群位置进行引导,并且采用莱维飞行策略引领α狼进行全局搜索,通过改进后的灰狼算法对灰狼的位置进行迭代更新;在满足迭代次数后通过α狼的个***置即最优的超参数与数据集训练LSTM神经网络模型,以通过训练后的模型预测空气质量值,其极大的提高了网络的收敛速度与模型预测的准确性。

Description

一种通过灰狼算法优化LSTM神经网络模型的方法与***
技术领域
本发明涉及LSTM神经网络模型领域,尤其涉及一种通过灰狼算法优化 LSTM神经网络模型的方法与***。
背景技术
近些年以来,随着我国经济的不断发展和提高,城市化的进程不断加快,各地的城市也在不断扩张。随之而来的就是日益增长的能源消耗和环境污染的问题,所以为了应对未来可能出现的空气污染状况,对空气排污气体采取监控措施,随时掌握污染物的排放情况极为重要。
在空气质量预测技术发展的早期,主要通过统计学的理论与方法研究空气质量的变化规律,从而提出了以统计学为基础的空气质量预测技术;接着有的学者将多元线性和分类回归树结合,并应用到空气质量预测,也取得了一定的成果。近些年,随着机器学习的发展,大量学者提出以深度学习为基础的空气质量预测技术,运用最广泛的是构建神经网络的空气质量预测模型,将多通道数据输入网络训练,挖掘非线性数据的规律,提高预测精准度和泛化能力。
在空气质量预测领域现阶段最受欢迎的神经网络是长短时长记忆神经网络(LSTM),因为LSTM神经网络可以解决长时序列记忆丢失问题,并且LSTM神经网络比传统神经网络对精准间隔时间的空气质量预测精准度更高,另外 LSTM神经网络每个序列输出都可以对应一个时间点的空气质量预测结果;但同时也因为多个序列的存在,致使LSTM神经网络存在计算费时,收敛速度延迟,进而导致模型预测精度下降的问题。所以对LSTM网络拓扑结构优化尤为重要,目前对LSTM神经网络预测模型参数的选取研究大多采取网格搜索算法,控制变量精细调,本质都是暴力搜索最优参数,该计算方式耗时耗力,而且始终得不到最优解。
发明内容
本发明为了解决上述技术问题,提高LSTM神经网络模型的预测精度,提出了一种通过灰狼算法优化LSTM神经网络模型的方法,其通过改进的灰狼算法优化LSTM神经网络模型,以预测空气质量值,包括步骤:
S1:获取预设时段内预设区域中各时刻t下,各类污染气体的浓度值与空气质量值,并构建数据集;
S2:初始化灰狼算法的输入参数,包括初始化a、A、C参数,以及设定狼群中灰狼的个数、最大迭代次数、灰狼个体维度即LSTM神经网络模型的超参数、超参数的取值范围,并根据超参数取值范围随机初始化狼群位置,所述狼群位置中灰狼的个***置即超参数;
S3:获取每个灰狼所在位置对应的适应度目标函数值,所述适应度目标函数值即通过数据集训练灰狼个***置即超参数对应的LSTM神经网络模型得到的结果值与实际空气质量值的差值;
S4:初始化迭代次数,并开始进行迭代次数的计数;
S5:获取适应度目标函数值中的最小值,并以最小值对应灰狼个***置的狼为α狼;
S6:通过莱维飞行指导α狼更新其个***置;
S7:更新a、A、C参数的值,并根据α狼的个***置更新狼群位置;
S8:迭代次数加1,并判断迭代次数是否大于等于最大迭代次数,若否,则返回步骤S5,若是,则输出α狼的所在位置,即超参数;
S9:通过数据集与步骤S8获取的超参数训练LSTM神经网络模型,并通过训练后的LSTM神经网络模型预测空气质量值。
进一步地,所述超参数具体为LSTM神经网络模型的隐藏层神经元数量和时间步长。
进一步地,所述数据集中包括若干条条目数据,所述条目数据中包括t 时刻对应的各类污染气体的浓度值与空气质量值,一个值对应一个项,所述步骤S1还包括对数据集进行预处理,具体包括:
S11:获取条目数据中数据缺失的项数,并判断项数是否大于等于预设超缺项数,若是,则删除该条目数据;若否,则获取缺失项对应t时刻上下预设时长内的数据均值,并通过均值填充该缺失项;
S12:对步骤S11处理后的数据集中各类污染气体的浓度值与空气质量值进行相关性分析,以获取相关性从大到小的排列顺序中,排列在前的预设个相关性对应的污染气体种类,并对该污染气体种类对应的浓度值进行平滑和归一化处理,以得到最终的数据集。
进一步地,所述步骤S6中通过莱维飞行指导α狼更新其个***置,其公式表达式为:
Figure RE-GDA0003772387930000031
Figure RE-GDA0003772387930000032
式中
Figure RE-GDA0003772387930000033
分别表示u、v符合正态分布,其中,σv=1,
Figure RE-GDA0003772387930000034
式中,β为预设常数;
t表示时刻,a为灰狼个***置的随机数,
Figure RE-GDA0003772387930000035
为点对点的乘法符号,Levy(β) 为随机搜索路径,Xworst表示狼群位置中最差的灰狼个***置,Xa(t)为t时刻α狼的个***置,Xa(t)′表示通过莱维飞行指导后α狼的个***置。
进一步地,所述步骤S7中根据α狼的个***置更新狼群位置的公式表达式为:
Da=|C1·Xa(t)-X(t)|;
X(t+1)=Xa(t)′-A·Da
式中,A为控制收敛因子,C1为协同系数,Xa(t)为t时刻α狼的个***置,X(t)为t时刻灰狼的个***置,Da为α狼与其他灰狼之间的距离,Xa(t)′表示通过莱维飞行指导后α狼的个***置,X(t+1)为t+1时刻即更新后的灰狼个***置。
本发明还提出了一种通过灰狼算法优化LSTM神经网络模型的***,其通过改进的灰狼算法优化LSTM神经网络模型,以预测空气质量值,包括:
数据集构建模块,用于获取预设时段内预设区域中各时刻t下,各类污染气体的浓度值与空气质量值,并构建数据集;
初始化模块,用于初始化灰狼算法的输入参数,包括初始化a、A、C参数,以及设定狼群中灰狼的个数、最大迭代次数、灰狼个体维度即LSTM神经网络模型的超参数、超参数的取值范围,并根据超参数取值范围随机初始化狼群位置,所述狼群位置中灰狼的个***置即超参数;
适应度目标函数模块,用于获取每个灰狼所在位置对应的适应度目标函数值,所述适应度目标函数值即通过数据集训练灰狼个***置即超参数对应的 LSTM神经网络模型得到的结果值与实际空气质量值的差值;
迭代模块,用于初始化迭代次数,并开始进行迭代次数的计数;
头狼获取模块,用于获取适应度目标函数值中的最小值,并以最小值对应灰狼个***置的狼为α狼;
莱维指导模块,用于通过莱维飞行指导α狼更新其个***置;
更新模块,用于更新a、A、C参数的值,并根据α狼的个***置更新狼群位置;
判断模块,用于将迭代次数加1,并在迭代次数大于等于最大迭代次数时,输出α狼的所在位置,即超参数;在迭代次数小于最大迭代次数时,则通过头狼获取模块重新进入迭代;
预测模块,用于通过数据集与步骤S8获取的超参数训练LSTM神经网络模型,并通过训练后的LSTM神经网络模型预测空气质量值。
进一步地,所述超参数具体为LSTM神经网络模型的隐藏层神经元数量和时间步长。
进一步地,所述数据集中包括若干条条目数据,所述条目数据中包括t 时刻对应的各类污染气体的浓度值与空气质量值,一个值对应一个项,所述数据集构建模块还包括对数据集进行预处理,具体包括:
均值填充单元,用于获取条目数据中数据缺失的项数,并在项数大于等于预设超缺项数时,删除该条目数据;在项数小于预设超缺项数时,获取缺失项对应t时刻上下预设时长内的数据均值,并通过均值填充该缺失项;
相关性分析单元,用于对均值填充单元处理后的数据集中各类污染气体的浓度值与空气质量值进行相关性分析,以获取相关性从大到小的排列顺序中,排列在前的预设个相关性对应的污染气体种类,并对该污染气体种类对应的浓度值进行平滑和归一化处理,以得到最终的数据集。
与现有技术相比,本发明至少含有以下有益效果:
(1)本发明通过将超参数映射为灰狼个***置,以通过数据集训练灰狼个***置即超参数对应的LSTM神经网络模型得到的结果值与实际空气质量值的差值为适应度目标函数值,并通过适应度目标函数值划分出α狼,同时为了避免传统灰狼算法中β狼和δ狼(第二和第三最佳位置)对灰狼个***置的误导,取消了β狼和δ狼的指导作用,只采用α狼(最佳位置)对种群位置进行引导,并且采用莱维飞行策略引领α狼进行全局搜索,通过改进后的灰狼算法对灰狼的位置进行迭代更新;在满足迭代次数后通过α狼的个***置即最优的超参数与数据集训练LSTM神经网络模型,以通过训练后的模型预测空气质量值,其极大的提高了网络的收敛速度与模型预测的准确性;
(2)通过改进的灰狼算法获取LSTM神经网络模型的最优超参数,解决了 LSTM关于长时序列收敛速度慢和模型预测精准度低的问题;
(3)通过莱维飞行(Levy)策略指导α狼寻找更优的位置,可以避免狼群陷入局部最优,实现在优化过程中的全局搜索,有效地解决标准灰狼算法鲁棒性差的问题,从而进一步提高LSTM神经网络的预测精准度;
(4)本发明通过步骤S11对大量缺失数据的数据条目进行删除,少量缺失数据的数据条目进行均值填充,通过步骤S12对各类污染气体的浓度值与空气质量值进行相关性分析,以筛选出和空气质量值高度相关的污染气体种类 (以避免无用的数据影响LSTM神经网络模型的性能),并对筛选出来的数据进行平滑和归一化处理,以得到最终的数据集,其极大的提高了模型的预测精度。
附图说明
图1为一种通过灰狼算法优化LSTM神经网络模型的方法流程图;
图2为一种通过灰狼算法优化LSTM神经网络模型的***模块图;
图3为传统灰狼算法中的灰狼层级图。
具体实施方式
以下是本发明的具体实施例并结合附图,对本发明的技术方案作进一步的描述,但本发明并不限于这些实施例。
实施例一
为了解决LSTM神经网络存在计算费时,收敛速度延迟,进而导致模型预测精度下降的问题,如图1所示,本发明提出了一种通过灰狼算法优化LSTM 神经网络模型的方法,其通过改进的灰狼算法优化LSTM神经网络模型,以预测空气质量值,包括步骤:
S1:获取预设时段内预设区域中各时刻t下,各类污染气体的浓度值与空气质量值,并构建数据集;
所述数据集中包括若干条条目数据,所述条目数据中包括t时刻对应的各类污染气体的浓度值与空气质量值,一个值对应一个项,所述步骤S1还包括对数据集进行预处理,具体包括:
S11:获取条目数据中数据缺失的项数,并判断项数是否大于等于预设超缺项数(表示大量缺失数据),若是,则删除该条目数据;若否(表示少量缺失数据),则获取缺失项对应t时刻上下预设时长内的数据均值,并通过均值填充该缺失项(即均值填充法);
本实施例中,具体获取的是缺失项对应t时刻上下10个小时内的数据均值。
S12:对步骤S11处理后的数据集中各类污染气体的浓度值与空气质量值进行相关性分析,以获取相关性从大到小的排列顺序中,排列在前的预设个相关性对应的污染气体种类(即高度相关的污染气体种类),并对该污染气体种类对应的浓度值进行平滑和归一化处理,以得到最终的数据集。
本发明通过步骤S11对大量缺失数据的数据条目进行删除,少量缺失数据的数据条目进行均值填充,通过步骤S12对各类污染气体的浓度值与空气质量值进行相关性分析,以筛选出和空气质量值高度相关的污染气体种类(以避免无用的数据影响LSTM神经网络模型的性能),并对筛选出来的数据进行平滑和归一化处理,以得到最终的数据集,其极大的提高了模型的预测精度。
本实施例中,对该污染气体种类对应的浓度值进行归一化处理的公式为:
Figure RE-GDA0003772387930000071
式中,x为污染气体的浓度值,Xmin为进行相关性分析后筛选出的数据中最小的污染气体浓度值;Xmax为进行相关性分析后筛选出的数据中最大的污染气体浓度值;X为归一化后输出的污染气体浓度值,归一化后污染气体浓度值的数据范围为[0,1]。
如图3所示,针对传统灰狼算法GWO,需要说明的是:
灰狼属于犬科动物,被认为是顶级的掠食者,它们处于生物圈食物链的顶端。灰狼大多喜欢群居,一般每个群体中平均有5-12只狼。特别令人感兴趣的是,它们具有非常严格的社会等级层次制度,如图3所示。金字塔第一层为种群中的领导者,称为α。在狼群中α是具有管理能力的个体,主要负责关于狩猎、睡觉的时间和地方、食物分配等群体中各项决策的事务。金字塔第二层是α的智囊团队,称为β,β主要负责协助α进行决策。当整个狼群的α出现空缺时,β将接替α的位置。β在狼群中的支配权仅次于α,它将α的命令下达给其他成员,并将其他成员的执行情况反馈给α起着桥梁的作用。金字塔第三层是δ,δ听从α和β的决策命令,主要负责侦查、放哨、看护等事务。适应度不好的α和β也会降为δ。金字塔最底层是ω,主要负责种群内部关系的平衡。
S2:初始化灰狼算法的输入参数,包括初始化a、A、C参数,以及设定狼群中灰狼的个数、最大迭代次数、灰狼个体维度即LSTM神经网络模型的超参数、超参数的取值范围,并根据超参数取值范围随机初始化狼群位置,所述狼群位置中灰狼的个***置即超参数;所述超参数具体为LSTM神经网络模型的隐藏层神经元数量和时间步长。
本实施例中,设置灰狼的个数为15,最大迭代次数为200。
其中,A=2a·r1-a;C=2·r2;式中,a是随着迭代次数的增加从 2衰减至0的常数,A为控制收敛因子,C为协同系数,r1,r2为(0,1)的随机数。
S3:获取每个灰狼所在位置对应的适应度目标函数值,所述适应度目标函数值即通过数据集训练灰狼个***置即超参数对应的LSTM神经网络模型得到的结果值与实际空气质量值的差值;
S4:初始化迭代次数,并开始进行迭代次数的计数;
S5:获取适应度目标函数值中的最小值,并以最小值对应灰狼个***置的狼为α狼;
S6:通过莱维飞行指导α狼更新其个***置;
在灰狼算法位置更新的过程中,灰狼个体均向(α狼)的个***置(最佳位置)靠近,导致种群散失多样性,会陷入局部收敛,出现早熟早收敛弊端,所以采用莱维飞行(Levy)指导α狼进行全局搜索,扩大搜索范围。
所述步骤S6中通过莱维飞行指导α狼更新其个***置,其公式表达式为:
Figure RE-GDA0003772387930000081
Figure RE-GDA0003772387930000082
式中
Figure RE-GDA0003772387930000083
分别表示u、v符合正态分布,其中,σv=1,
Figure RE-GDA0003772387930000091
式中,β为预设常数;
t表示时刻,a为灰狼个***置的随机数,
Figure RE-GDA0003772387930000092
为点对点的乘法符号,Levy(β) 为随机搜索路径,Xworst表示狼群位置中最差的灰狼个***置,Xa(t)为t时刻α狼的个***置,Xa(t)′表示通过莱维飞行指导后α狼的个***置。
S7:更新a、A、C参数的值,并根据α狼的个***置更新狼群位置;
步骤s7中,采用α狼(最佳位置)引导灰狼个***置更新,取消β狼和δ狼(第二和第三最佳位置)对种群位置更新的指挥作用,因为β狼和δ狼在指挥狼群个体更新时,会出现误导个体灰狼远离最优解位置,累积的误差会导致寻优陷入局部收敛。
所述步骤S7中根据α狼的个***置更新狼群位置的公式表达式为:
Da=|C1·Xa(t)-X(t)|;
X(t+1)=Xa(t)′-A·Da
式中,A为控制收敛因子,C1(即C)为协同系数,Xa(t)为t时刻α狼的个***置,X(t)为t时刻灰狼的个***置,Da为α狼与其他灰狼之间的距离, Xa(t)′表示通过莱维飞行指导后α狼的个***置,X(t+1)为t+1时刻即更新后的灰狼个***置。
S8:迭代次数加1,并判断迭代次数是否大于等于最大迭代次数,若否,则返回步骤S5,若是,则输出α狼的所在位置,即超参数;
S9:通过数据集与步骤S8获取的超参数训练LSTM神经网络模型,并通过训练后的LSTM神经网络模型预测空气质量值。
本发明通过将超参数映射为灰狼个***置,以通过数据集训练灰狼个***置即超参数对应的LSTM神经网络模型得到的结果值与实际空气质量值的差值为适应度目标函数值,并通过适应度目标函数值划分出α狼,同时为了避免传统灰狼算法中β狼和δ狼(第二和第三最佳位置)对灰狼个***置的误导,取消了β狼和δ狼的指导作用,只采用α狼(最佳位置)对种群位置进行引导,并且采用莱维飞行策略引领α狼进行全局搜索,通过改进后的灰狼算法对灰狼的位置进行迭代更新;在满足迭代次数后通过α狼的个***置即最优的超参数与数据集训练LSTM神经网络模型,以通过训练后的模型预测空气质量值,其极大的提高了网络的收敛速度与模型预测的准确性。
实施例二
本实施例以具体的实验数据来展示不同网络的预测效果,我们可以将根均方误差(RMSE)、平均方差(MAPE)、准确率(ACCURACY)作为网络模型性能的评价指标。见下表:
Figure RE-GDA0003772387930000101
由表中的数据可知,比较了四种不同预测模型对空气质量预测的结果。BP 神经网络虽然能够跟踪预测趋势,但是具有长时序记忆的LSTM神经网络对空气质量预测效果更好;本发明中利用Levy改进GWO,并通过改进后的GWO获取LSTM神经网络的最优超参数,可以让该模型精度有明显提高,预测值与实际值基本吻合,实验结果表明,本发明提出的通过灰狼算法优化LSTM神经网络模型的方法具有可行性,可以有效提高网络的预测能力,在模型预测精度与模型预测稳定性方面都比传统方式更具有优势,为空气质量预测提供了一种更有效的方法和途径。
实施例三
如图2所示,本发明还提出了一种通过灰狼算法优化LSTM神经网络模型的***,其通过改进的灰狼算法优化LSTM神经网络模型,以预测空气质量值,包括:
数据集构建模块,用于获取预设时段内预设区域中各时刻t下,各类污染气体的浓度值与空气质量值,并构建数据集;
所述数据集中包括若干条条目数据,所述条目数据中包括t时刻对应的各类污染气体的浓度值与空气质量值,一个值对应一个项,所述数据集构建模块还包括对数据集进行预处理,具体包括:
均值填充单元,用于获取条目数据中数据缺失的项数,并在项数大于等于预设超缺项数时,删除该条目数据;在项数小于预设超缺项数时,获取缺失项对应t时刻上下预设时长内的数据均值,并通过均值填充该缺失项;
相关性分析单元,用于对均值填充单元处理后的数据集中各类污染气体的浓度值与空气质量值进行相关性分析,以获取相关性从大到小的排列顺序中,排列在前的预设个相关性对应的污染气体种类,并对该污染气体种类对应的浓度值进行平滑和归一化处理,以得到最终的数据集。
初始化模块,用于初始化灰狼算法的输入参数,包括初始化a、A、C参数,以及设定狼群中灰狼的个数、最大迭代次数、灰狼个体维度即LSTM神经网络模型的超参数、超参数的取值范围,并根据超参数取值范围随机初始化狼群位置,所述狼群位置中灰狼的个***置即超参数;
适应度目标函数模块,用于获取每个灰狼所在位置对应的适应度目标函数值,所述适应度目标函数值即通过数据集训练灰狼个***置即超参数对应的 LSTM神经网络模型得到的结果值与实际空气质量值的差值;
迭代模块,用于初始化迭代次数,并开始进行迭代次数的计数;
头狼获取模块,用于获取适应度目标函数值中的最小值,并以最小值对应灰狼个***置的狼为α狼;
莱维指导模块,用于通过莱维飞行指导α狼更新其个***置;
更新模块,用于更新a、A、C参数的值,并根据α狼的个***置更新狼群位置;
判断模块,用于将迭代次数加1,并在迭代次数大于等于最大迭代次数时,输出α狼的所在位置,即超参数;在迭代次数小于最大迭代次数时,则通过头狼获取模块重新进入迭代;
预测模块,用于通过数据集与步骤S8获取的超参数训练LSTM神经网络模型,并通过训练后的LSTM神经网络模型预测空气质量值。
所述超参数具体为LSTM神经网络模型的隐藏层神经元数量和时间步长。
通过莱维飞行(Levy)策略指导α狼寻找更优的位置,可以避免狼群陷入局部最优,实现在优化过程中的全局搜索,有效地解决标准灰狼算法鲁棒性差的问题,从而进一步提高LSTM神经网络的预测精准度。
需要说明,本发明实施例中所有方向性指示(诸如上、下、左、右、前、后……)仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等,如果该特定姿态发生改变时,则该方向性指示也相应地随之改变。
另外,在本发明中如涉及“第一”、“第二”、“一”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“连接”、“固定”等应做广义理解,例如,“固定”可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
另外,本发明各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本发明要求的保护范围之内。

Claims (8)

1.一种通过灰狼算法优化LSTM神经网络模型的方法,其特征在于,其通过改进的灰狼算法优化LSTM神经网络模型,以预测空气质量值,包括步骤:
S1:获取预设时段内预设区域中各时刻t下,各类污染气体的浓度值与空气质量值,并构建数据集;
S2:初始化灰狼算法的输入参数,包括初始化a、A、C参数,以及设定狼群中灰狼的个数、最大迭代次数、灰狼个体维度即LSTM神经网络模型的超参数、超参数的取值范围,并根据超参数取值范围随机初始化狼群位置,所述狼群位置中灰狼的个***置即超参数;
S3:获取每个灰狼所在位置对应的适应度目标函数值,所述适应度目标函数值即通过数据集训练灰狼个***置即超参数对应的LSTM神经网络模型得到的结果值与实际空气质量值的差值;
S4:初始化迭代次数,并开始进行迭代次数的计数;
S5:获取适应度目标函数值中的最小值,并以最小值对应灰狼个***置的狼为α狼;
S6:通过莱维飞行指导α狼更新其个***置;
S7:更新a、A、C参数的值,并根据α狼的个***置更新狼群位置;
S8:迭代次数加1,并判断迭代次数是否大于等于最大迭代次数,若否,则返回步骤S5,若是,则输出α狼的所在位置,即超参数;
S9:通过数据集与步骤S8获取的超参数训练LSTM神经网络模型,并通过训练后的LSTM神经网络模型预测空气质量值。
2.根据权利要求1所述的一种通过灰狼算法优化LSTM神经网络模型的方法,其特征在于,所述超参数具体为LSTM神经网络模型的隐藏层神经元数量和时间步长。
3.根据权利要求1所述的一种通过灰狼算法优化LSTM神经网络模型的方法,其特征在于,所述数据集中包括若干条条目数据,所述条目数据中包括t时刻对应的各类污染气体的浓度值与空气质量值,一个值对应一个项,所述步骤S1还包括对数据集进行预处理,具体包括:
S11:获取条目数据中数据缺失的项数,并判断项数是否大于等于预设超缺项数,若是,则删除该条目数据;若否,则获取缺失项对应t时刻上下预设时长内的数据均值,并通过均值填充该缺失项;
S12:对步骤S11处理后的数据集中各类污染气体的浓度值与空气质量值进行相关性分析,以获取相关性从大到小的排列顺序中,排列在前的预设个相关性对应的污染气体种类,并对该污染气体种类对应的浓度值进行平滑和归一化处理,以得到最终的数据集。
4.根据权利要求2所述的一种通过灰狼算法优化LSTM神经网络模型的方法,其特征在于,所述步骤S6中通过莱维飞行指导α狼更新其个***置,其公式表达式为:
Figure RE-FDA0003772387920000021
Figure RE-FDA0003772387920000022
式中
Figure RE-FDA0003772387920000023
分别表示u、v符合正态分布,其中,σv=1,
Figure RE-FDA0003772387920000024
式中,β为预设常数;
t表示时刻,a为灰狼个***置的随机数,
Figure RE-FDA0003772387920000025
为点对点的乘法符号,Levy(β)为随机搜索路径,Xworst表示狼群位置中最差的灰狼个***置,Xa(t)为t时刻α狼的个***置,Xa(t)′表示通过莱维飞行指导后α狼的个***置。
5.根据权利要求4所述的一种通过灰狼算法优化LSTM神经网络模型的方法,其特征在于,所述步骤S7中根据α狼的个***置更新狼群位置的公式表达式为:
Da=|C1·Xa(t)-X(t)|;
X(t+1)=Xa(t)′-A·Da
式中,A为控制收敛因子,C1为协同系数,Xa(t)为t时刻α狼的个***置,X(t)为t时刻灰狼的个***置,Da为α狼与其他灰狼之间的距离,Xa(t)′表示通过莱维飞行指导后α狼的个***置,X(t+1)为t+1时刻即更新后的灰狼个***置。
6.一种通过灰狼算法优化LSTM神经网络模型的***,其特征在于,其通过改进的灰狼算法优化LSTM神经网络模型,以预测空气质量值,包括:
数据集构建模块,用于获取预设时段内预设区域中各时刻t下,各类污染气体的浓度值与空气质量值,并构建数据集;
初始化模块,用于初始化灰狼算法的输入参数,包括初始化a、A、C参数,以及设定狼群中灰狼的个数、最大迭代次数、灰狼个体维度即LSTM神经网络模型的超参数、超参数的取值范围,并根据超参数取值范围随机初始化狼群位置,所述狼群位置中灰狼的个***置即超参数;
适应度目标函数模块,用于获取每个灰狼所在位置对应的适应度目标函数值,所述适应度目标函数值即通过数据集训练灰狼个***置即超参数对应的LSTM神经网络模型得到的结果值与实际空气质量值的差值;
迭代模块,用于初始化迭代次数,并开始进行迭代次数的计数;
头狼获取模块,用于获取适应度目标函数值中的最小值,并以最小值对应灰狼个***置的狼为α狼;
莱维指导模块,用于通过莱维飞行指导α狼更新其个***置;
更新模块,用于更新a、A、C参数的值,并根据α狼的个***置更新狼群位置;
判断模块,用于将迭代次数加1,并在迭代次数大于等于最大迭代次数时,输出α狼的所在位置,即超参数;在迭代次数小于最大迭代次数时,则通过头狼获取模块重新进入迭代;
预测模块,用于通过数据集与步骤S8获取的超参数训练LSTM神经网络模型,并通过训练后的LSTM神经网络模型预测空气质量值。
7.根据权利要求6所述的一种通过灰狼算法优化LSTM神经网络模型的***,其特征在于,所述超参数具体为LSTM神经网络模型的隐藏层神经元数量和时间步长。
8.根据权利要求6所述的一种通过灰狼算法优化LSTM神经网络模型的方法,其特征在于,所述数据集中包括若干条条目数据,所述条目数据中包括t时刻对应的各类污染气体的浓度值与空气质量值,一个值对应一个项,所述数据集构建模块还包括对数据集进行预处理,具体包括:
均值填充单元,用于获取条目数据中数据缺失的项数,并在项数大于等于预设超缺项数时,删除该条目数据;在项数小于预设超缺项数时,获取缺失项对应t时刻上下预设时长内的数据均值,并通过均值填充该缺失项;
相关性分析单元,用于对均值填充单元处理后的数据集中各类污染气体的浓度值与空气质量值进行相关性分析,以获取相关性从大到小的排列顺序中,排列在前的预设个相关性对应的污染气体种类,并对该污染气体种类对应的浓度值进行平滑和归一化处理,以得到最终的数据集。
CN202210402353.9A 2022-04-18 2022-04-18 一种通过灰狼算法优化lstm神经网络模型的方法与*** Pending CN115034126A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210402353.9A CN115034126A (zh) 2022-04-18 2022-04-18 一种通过灰狼算法优化lstm神经网络模型的方法与***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210402353.9A CN115034126A (zh) 2022-04-18 2022-04-18 一种通过灰狼算法优化lstm神经网络模型的方法与***

Publications (1)

Publication Number Publication Date
CN115034126A true CN115034126A (zh) 2022-09-09

Family

ID=83119296

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210402353.9A Pending CN115034126A (zh) 2022-04-18 2022-04-18 一种通过灰狼算法优化lstm神经网络模型的方法与***

Country Status (1)

Country Link
CN (1) CN115034126A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116562824A (zh) * 2023-05-25 2023-08-08 闽通数智安全顾问(杭州)有限公司 一种公路工程全生命周期项目管理方法及***
CN116933114A (zh) * 2023-06-12 2023-10-24 浙江大学 一种基于cnn-lstm的直流微电网检测方法及装置
CN117252115A (zh) * 2023-11-20 2023-12-19 安徽建筑大学 基于神经网络的二次供水需水量软测量方法、设备及介质
CN117452828A (zh) * 2023-12-22 2024-01-26 中电行唐生物质能热电有限公司 基于神经网络的锅炉有害气体排放控制方法及***
CN117808034A (zh) * 2024-02-29 2024-04-02 济南农智信息科技有限公司 一种基于狼鸟优化算法的农作物产量预测优化方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116562824A (zh) * 2023-05-25 2023-08-08 闽通数智安全顾问(杭州)有限公司 一种公路工程全生命周期项目管理方法及***
CN116562824B (zh) * 2023-05-25 2023-11-24 闽通数智安全顾问(杭州)有限公司 一种公路工程全生命周期项目管理方法及***
CN116933114A (zh) * 2023-06-12 2023-10-24 浙江大学 一种基于cnn-lstm的直流微电网检测方法及装置
CN117252115A (zh) * 2023-11-20 2023-12-19 安徽建筑大学 基于神经网络的二次供水需水量软测量方法、设备及介质
CN117252115B (zh) * 2023-11-20 2024-02-09 安徽建筑大学 基于神经网络的二次供水需水量软测量方法、设备及介质
CN117452828A (zh) * 2023-12-22 2024-01-26 中电行唐生物质能热电有限公司 基于神经网络的锅炉有害气体排放控制方法及***
CN117452828B (zh) * 2023-12-22 2024-03-01 中电行唐生物质能热电有限公司 基于神经网络的锅炉有害气体排放控制方法及***
CN117808034A (zh) * 2024-02-29 2024-04-02 济南农智信息科技有限公司 一种基于狼鸟优化算法的农作物产量预测优化方法
CN117808034B (zh) * 2024-02-29 2024-05-10 济南农智信息科技有限公司 一种基于狼鸟优化算法的农作物产量预测优化方法

Similar Documents

Publication Publication Date Title
CN115034126A (zh) 一种通过灰狼算法优化lstm神经网络模型的方法与***
Huan et al. Prediction of dissolved oxygen in aquaculture based on gradient boosting decision tree and long short-term memory network: A study of Chang Zhou fishery demonstration base, China
CN108416366B (zh) 一种基于气象指数的加权ls-svm的电力***短期负荷预测方法
CN110782093B (zh) 融合ssae深度特征学习和lstm的pm2.5小时浓度预测方法及***
CN111882033B (zh) 一种基于Keras的区域民航主被动碳排放预测方法
CN112418498B (zh) 用于智能温室的温度预测方法及***
CN109308544B (zh) 基于对比散度-长短期记忆网络的蓝藻水华预测方法
CN108507700A (zh) 一种猪舍多点温度预测方法及***
CN114861533A (zh) 基于时间卷积网络的风功率超短期预测方法
CN114519451B (zh) 智能化孤岛型园区车辆碳排量预测方法和***
CN108399470A (zh) 一种基于多示例遗传神经网络的室内pm2.5预测方法
CN111915097B (zh) 基于改进遗传算法优化lstm神经网络的水质预测方法
CN115602337A (zh) 一种基于机器学习的刺激隐核虫疾病预警方法及***
CN115564114A (zh) 一种基于图神经网络的空域碳排放短期预测方法及***
Han et al. Mixed chaotic FOA with GRNN to construction of a mutual fund forecasting model
CN113962819A (zh) 一种基于极限学习机的工厂化水产养殖溶解氧预测方法
Yang et al. A multi-factor forecasting model for carbon emissions based on decomposition and swarm intelligence optimization
CN114548350A (zh) 一种基于樽海鞘群和bp神经网络的电力负荷预测方法
CN107038450A (zh) 基于深度学习的无人机警察***
CN115759346B (zh) 一种基于ao算法的碳排放量预测方法、装置及设备
CN111126827A (zh) 一种基于bp人工神经网络的投入产出核算模型构建方法
CN116341929A (zh) 一种基于聚类和自适应梯度提升决策树的预测方法
Tan et al. Time Series Prediction using Backpropagation Network Optimized by Hybrid K-means-Greedy Algorithm.
CN114707684A (zh) 一种基于改进lstm的原烟堆垛内部温度预测算法
Arifianto et al. Malaria incidence forecasting from incidence record and weather pattern using polynomial neural network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination