CN111860989A - 一种基于蚁群算法优化的lstm神经网络短时交通流量预测方法 - Google Patents

Abstract

本发明公开了一种基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，从某路口通行数据库及历史数据导入至Python的Pandas模块进行预处理，并按照时间段进行分组聚合；对处理后的数据进行归一化处理；使用基于长短期神经网络构建训练模型，按照80％训练集、20％验证集的比例划分训练集与验证集；通过Ant‑Cycle蚁群算法基于启发式思想对LSTM的神经网络进行优化，与实时数据进行比对，使用MASE与决定系数指标评价模型的预测准确率，最终完成对路口短时交通流的预测。本发明使用蚁群算法优化超参数的设置避免了设置超参数困难的情况，使决定系数提升8个百分点，可有效提高路口短时交通流量预测的准确率。

Description

一种基于蚁群算法优化的LSTM神经网络短时交通流量预测 方法

技术领域

本发明涉及城市路口流量预测方法，特别涉及一种基于蚁群算法优化的 LSTM神经网络短时交通流量预测方法。

背景技术

智能交通是一个集有效信息技术、数据传输技术、电子传感与控制技术、 计算机技术于一体的实时、高效、精确的综合交通***，对整个交通***来 说是值得建设的数据***。

随着信息技术的进一步发展，交通数据逐渐演变为静态数据、小尺度数 据和大尺度动态数据。静态数据是在固定时间段内相对稳定的数据，例如基 础结构，运输等。动态数据是在时间和空间上连续变化的数据，例如流量。 智能交通最重要的是在满足人们出行需求的前提下，降低人们的出行效率， 降低出行成本和运输***成本。

近年来，随着许多城市大力推广智能城市交通建设，不仅为大众提供了 便利，也为城市交管部门提供了海量的数据。在目前的交通管理***中，数 据对决策只起到一定的辅助作用，在绝大多数情况下还是以人的经验为主。 交通路口的通行数据资源丰富，无论是在提供调度决策支撑，还是在大众错 峰出行方面都具有较大的应用价值。

发明内容

发明目的：针对路***通流量实际过程中受诸多环境影响例如天气、节 假日、上下班高峰，导致很难对路***通流量做出准确预测，主要难点为短 时流量与各种影响因素相结合的预测，从而导致最终的预测数据与实际偏差 较大，本发明方法使用蚁群算法优化超参数的设置避免了原方法设置超参数 困难的情况，可有效提高预测精度，使决定系数提升8个百分点。。

技术方案：一种基于蚁群算法优化的LSTM神经网络短时交通流量预测 方法，所述方法包括如下步骤：

步骤1)从某路口通行数据库将历史数据导入至Python的Pandas模块进 行预处理，并按照时间段进行分组聚合；

步骤2)对分组聚合处理后的数据进行归一化处理以便训练时收敛；

步骤3)构建训练模型，按照80％训练集、20％验证集的比例划分训练集 与验证集；

步骤4)通过Ant-Cycle蚁群算法基于启发式思想对LSTM的神经网络进 行优化，与实时数据进行比对，使用MAE与决定系数指标评价模型的预测准 确率，最终完成对路口短时交通流的预测。

进一步的，步骤1)中对存入的数据集进行数据预处理去除错误数据、整 合为能被训练直接使用的数据具体为：通过Pandas模块判断该时段数据是否 为0、是否符合实际情况，处理历史交通路口流量情况，并将数据进行分组聚 合，使数据按照15分钟为时间间隔进行聚合，使数据可以直接被训练模型使 用。

进一步的，蚁群求解过程概率定义通过式(1)计算，

式(1)中，ρ∈[0，1]是信息素持久性系数，m是蚂蚁数，t是边缘上信息素 轨迹的强度在TSP的情况下，可以定义为城市之间的反向距离。索引i和j 是顶点的标签，allois是从第k个顶点可以到达的顶点集，最后，为蚂蚁k分 配一组可能的跃迁，当找到可行解时，巡更结束。

进一步的，迭代结束时执行更新通过式(2)计算

式(2)中，其中L_k是第k个蚂蚁的游程长度，Q是常数(通常值为1)，该算 法的进一步改进是一种信息素轨迹平滑机制，当算法陷入停滞状态时，信息 素矩阵通过按其差值的比例增大值使之平滑，以增加对解空间的探索。

进一步的，根据式(3)来对遗忘门的更新

ft＝σ(W_f·[h_t-1,x_t]+b_f) (3)

式(3)中，通过读取输入值h_t-1和x_t，产生一个大小介于0、1之间的张量， 从而表示；其中，1表示“保存所有信息”，0表示“舍弃所有信息”。

进一步的，根据式(4)设定遗忘门的权重和偏向

式(4)中，W_f和b_f分别表示遗忘门的权重和偏向，σ表示用使用Sigmoid函 数作为激活函数。

进一步的，采用二次损失函数如式(5)作为模型训练的最小化误差函数

式(5)中，C₀指二次损失函数值，a代表当前的预测结果。

根据式(6)将L2正则项加入到模型的损失函数里

式(6)中，x代表数据的输入量，y(x)表示路***通流量实际值，a代表输 入x的预测值，n代表训练总量。

进一步的，所述学习率优化Adam算法处理包括：

h_t＝η(1-β₁)g_t+ηβ₁h_t-1 (7)

式(7)、式(8)中，h_t代表一阶变量，z_t代表二阶变量，β₁、β₂为随机目 标函数。

进一步的，使用以下公式进行归一化处理：

式(8)、式(9)中，x_i代表各个数据个体，z代表输出的归一化后数据。

进一步的，所述MAE、决定系数评价处理包括：

式(8)、式(9)中，y_i表示样本的真实值，

表示预测值，

表示样本的 平均值。

有益效果：本发明的基于蚁群算法优化的LSTM神经网络短时交通流量 预测方法，首先通过Pandas模块对原始数据进行数据归一化处理，消除原始 数据的量纲关系，便于模型训练的较快收敛；然后建立基于LSTM的长短期 记忆神经网络，并训练该模型；最后利用蚁群算法对该模型进行优化，实现 对具体时间、天气情况、是否工作日的路***通流量预测操作；与现有技术 相比，本发明基于蚁群算法优化的LSTM神经网络具有对路口原始数据进行 筛选和选择的操作过程，通过对路***通流量的筛选和选择，本发明方法使 用蚁群算法优化超参数的设置避免了原方法设置超参数困难的情况，可有效 提高预测精度，使决定系数提升8个百分点。

附图说明

图1是本发明实施例子中所述基于LSTM模型的短时路***通流量预测 方法的流程示意图。

图2是本发明实施例子中预测数据处理流程示意图。

图3是本发明实施例子中所述LSTM网络模型示意图。

图4是所述LSTM网络模型的算法流程示意图。

图5是本发明实施例子中蚁群算法优化的情况示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行 清楚、完整地描述。

如图1，在本发明实施例中，提供了一种基于蚁群算法优化的LSTM神 经网络短时交通流量预测方法，具体包括步骤如下：

步骤1)从某路口通行数据库将历史数据导入至Python的Pandas模块进 行预处理，并按照时间段进行分组聚合消除原始数据中数据紊乱、数据缺失 和数据错误；结合图2，本发明方法首先调用Python的Pandas模块对原始的 路口流量计数器数据进行数据预处理，利用时间序列、车号匹配对冗余、错 误的数据进行修复操作，并对冗余数据进行删除，最后按照时间、车辆顺序 对数据进行排序。

在具体实施例中，本实施例使用原始数据的格式具体可参阅表一；分组聚 合后的数据可参阅表二；天气信息表可参阅表三。

表一

表二

表三

步骤2)对处理后的数据进行归一化处理。本发明主要通过LSTM神经 网络模型对数据集进行训练，在长短期记忆网络的前向传播过程中第一步是 对遗忘门的更新，这一步通过Sigmoid神经层决定让怎样的信息通过这个cell。 图3展示的是本文所使用的LSTM网络模型图。图4展示的是本文训练的流 程图。

通过读取输入值h_t-1和x_t，产生一个大小介于0、1之间的张量，从而表 示。其中，1表示“保存所有信息”，0表示“舍弃所有信息”，具体可通过如下 公式表示：

ft＝σ(W_f·[h_t-1,x_t]+b_f)

其中，W_f和b_f分别表示遗忘门的权重和偏向，σ表示用使用Sigmoid函数 作为激活函数。第二步是更新cell的状态值，即决定需要更新哪些信息，并 使用tanh层生成替代值以替换旧状态值，主要通过以下公式

i_t＝(W_i·[H_t-1，X_t]+b_i)

和如下公式实现

其中W_i和b_i分别是输入门的权重和偏差，W_c和b_c分别是tanh层创建的新 候选值的权重和偏移。并将状态C_t-1更新为C_t。也就是说，用C_t-1乘以信息通 过的比重f_t，然后根据比重丢弃相关的信息，加上i_t和候选值的乘积，可以用 如下公式表示：

由状态C_t确定将要输出的值，由如下两公式确定

O_t＝σ(W_o·[h_t-1,x_t]+b_o)

h_t＝O_t*tanh(C_t)

其中，W_o和b_o分别为输出门的权重和偏置，先通过Sigmoid函数决定输 出部分的信息，之后再通过tanh层的状态张量进行处理并将其和Sigmoid层 的输出的权重相乘以此得到最终的结果。

步骤3)、构建训练模型，划分训练集与验证集。本模型中使用学习率优 化Adam算法，该算法是一种在深度学习模型中用来替代随机梯度下降的优 化算法。利用该算法，提高训练效率。Adam算法的计算过程如下所示。

h_t＝η(1-β₁)g_t+ηβ₁h_t-1

其中，h_t代表一阶变量，z_t代表二阶变量，β₁、β₂为随机目标函数。在迭 代初期阶段，两个量之间有一个像初值便宜的趋势，对此，对其进行模型矫 正，并对模型的梯度进行更新。

在训练模型前，还需要对模型进行超参数的设定，主要采用如表4所示 的方案进行初始化设置。

表4方案初始化设置表

在模型训练过程中，为预防过拟合，提高模型精度，使模型可以较好的 符合实际应用情况，因此采用如下所示的损失函数。

I(t)＝f(h_t,y_t)＝||h_t-y_t||²

其中,h_t和y_t分别为输出序列和样本标签。对经过对路***通流量模型进 行模型训练，在30次训练后，模型逐渐偏于平稳，此时认为模型已经得到了 充分地训练。

步骤4)通过蚁群算法对基于LSTM的神经网络进行优化，评价模型的 预测准确率，最终完成预测。使用基于蚁群算法优化的神经网络训练模型， 在每次迭代中，每个蚂蚁都会建立一个新的可行解。它从一些初始顶点开始， 然后逐渐移动到后续顶点。路径的选择由概率决策规则指导。该规则既考虑 了路径的启发式吸引性，又考虑了前几代蚂蚁留下的信息素轨迹的值。在基 本蚁群算法蚂蚁***中，迭代t中蚂蚁k从分量i移动到分量j的概率定义如公式 如下所示。

其中ρ∈[0，1]是信息素持久性系数，m是蚂蚁数，t是边缘上信息素轨迹 的强度在TSP的情况下，可以定义为节点之间的反向距离。索引i和j是顶点 的标签。allois是从第k个顶点可以到达的顶点集。最后，为蚂蚁k分配一组可 能的跃迁，当找到可行解时，巡更结束。蚂蚁根据自己的知识更新路径上的 信息素。在经典AS版本中，根据以下公式在单个迭代结束时执行更新：

其中L_k是第k个蚂蚁的游程长度，Q是常数(通常值为1)。该算法的进一 步改进是一种信息素轨迹平滑机制。当算法陷入停滞状态时，信息素矩阵通 过按其差值的比例增大值使之平滑，以增加对解空间的探索。其他蚂蚁*** 也可以从应用这个机制中获益，如图5所示。

为了使蚁群算法的优化程度最大化，主要采用如表5所示的方案进行初 始化设置。

表5方案初始化设置表

经过蚁群优化算法改进的LSTM模型在之后的训练中实现了更快的收敛 以及更好的拟合度。经过蚁群算法优化的LSTM神经网络的拟合度为 94.8325％。MAE指标为7683.5。

综上可知，本发明的基于蚁群算法优化的LSTM神经网络短时交通流量 预测方法，与现有技术相比，本发明具有对数据进行筛选和选择的操作过程， 通过对路口数据的筛选和选择，本发明方法可有效提升对路***通流量预测 的准确性。

以上所计算的结果为本发明在试验阶段的较佳实施案例，但不局限与本 发明专利范围内，本发明针对本领域的技术人员而言，可以对前述个具体实 施的方案进行修改，或对其中部分的技术内容进行相应的修改和替换。

Claims (10)

1.一种基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，其特征在于：所述方法包括如下步骤：

步骤1)从某路口通行数据库将历史数据导入至Python的Pandas模块进行预处理，并按照时间段进行分组聚合；

步骤2)对分组聚合处理后的数据进行归一化处理以便训练时收敛；

步骤3)构建训练模型，按照80％训练集、20％验证集的比例划分训练集与验证集；

步骤4)通过Ant-Cycle蚁群算法基于启发式思想对LSTM的神经网络进行优化，与实时数据进行比对，使用MAE与决定系数指标评价模型的预测准确率，最终完成对路口短时交通流的预测。

2.根据权利要求1所述的基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，其特征在于：步骤1)中对存入的数据集进行数据预处理去除错误数据、整合为能被训练直接使用的数据具体为：通过Pandas模块判断该时段数据是否为0、是否符合实际情况，处理历史交通路口流量情况，并将数据进行分组聚合，使数据按照15分钟为时间间隔进行聚合，使数据可以直接被训练模型使用。

3.根据权利要求2所述的基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，其特征在于：Ant-Cycle蚁群求解过程概率定义通过式(1)计算，

式(1)中，ρ∈[0，1]是信息素持久性系数，m是蚂蚁数，t是边缘上信息素轨迹的强度在TSP的情况下，可以定义为蚁群算法节点之间的反向距离。索引i和j是顶点的标签，allois是从第k个顶点可以到达的顶点集，最后，为蚂蚁k分配一组可能的跃迁，当找到可行解时，巡更结束。

4.根据权利要求3所述的基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，其特征在于：迭代结束时执行更新通过式(2)计算，

式(2)中，其中L_k是第k个蚂蚁的游程长度，Q是常数(通常值为1)，该算法的进一步改进是一种信息素轨迹平滑机制，当算法陷入停滞状态时，信息素矩阵通过按其差值的比例增大值使之平滑，以增加对解空间的探索。

5.根据权利要求3所述的基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，其特征在于：根据式(3)来对遗忘门的更新

ft＝σ(W_f·[h_t-1，x_t]+b_f) (3)

式(3)中，通过读取输入值h_t-1和x_t，产生一个大小介于0、1之间的张量；其中，1表示“保存所有信息”，0表示“舍弃所有信息”。

6.根据权利要求4所述的基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，其特征在于：根据式(4)设定遗忘门的权重和偏向

式(4)中，W_f和b_f分别表示遗忘门的权重和偏向，σ表示用使用Sigmoid函数作为激活函数。

7.根据权利要求1所述的基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，其特征在于：采用二次损失函数如式(5)作为模型训练的最小化误差函数

式(5)中，C₀指二次损失函数值，a代表当前的预测结果；

根据式(6)将L2正则项加入到模型的损失函数里，

式(6)中，x代表数据的输入量，y(x)表示路***通流量实际值，a代表输入x的预测值，n代表训练总量。

8.根据权利要求1所述的基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，其特征在于：所述学习率优化Adam算法处理包括：

h_t＝η(1-β₁)g_t+ηβ₁h_t-1 (7)

式(7)、式(8)中，h_t代表一阶变量，z_t代表二阶变量，β₁、β₂为随机目标函数。

9.根据权利要求2所述的基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，其特征在于：使用以下公式进行归一化处理：

式(8)、式(9)中，x_i代表各个数据个体，z代表输出的归一化后数据。

10.根据权利要求4所述的基于蚁群算法优化的LSTM神经网络短时交通流量预测方法，其特征在于：所述MAE、决定系数评价处理包括：

式(8)、式(9)中，y_i表示样本的真实值，

表示预测值，

表示样本的平均值。

Images