CN110070713B - 一种基于双向嵌套lstm神经网络的交通流预测方法 - Google Patents

Abstract

一种基于双向嵌套LSTM神经网络的交通流预测方法，该方法基于道路交通流相关性矩阵获取预测路段及K个最相关路段的交通流数据，构建道路交通流时空矩阵数据集并进行数据序列化处理；然后构建双向嵌套LSTM神经网络预测模型，定义预测模型损失函数，结合训练集数据，完成模型训练；最后以测试集数据作为训练后模型的输入，实现测试集交通流状态的实时预测并定义模型评价标准，进行误差分析。本发明通过改善LSTM单元时间层级效应和考虑未来、历史交通流状态与现有状态的联系，提高了道路交通流数据的时间特征提取能力，从而提高了道路交通流的预测精度。

Description

一种基于双向嵌套LSTM神经网络的交通流预测方法

技术领域

本发明属于交通预测领域，涉及一种基于双向嵌套LSTM神经网络的交通流预测方法。

背景技术

随着城市现代化进程地不断推进，人们生活水平不断提高，人均车辆占有量不断增长，现有的城市道路交通网络建设难以满足日益增长的道路交通出行需求，人们开始构建智能交通***来缓解在有限道路交通建设下的道路拥堵问题。作为智能交通***重要组成部分的道路交通流预测，其不仅可以辅助道路交通管理部门对道路交通流进行控制与诱导，还可以为人们做出更为合理的出行决策提供依据。

现有的道路交通流预测方法主要可以分为三类：第一类是基于数理统计的传统预测模型，如线性回归模型、卡尔曼滤波模型等，这类模型构建模型便捷，但非线性捕捉能力不强，适应能力较差，预测精度不高。第二类是基于机器学习的预测模型，如支持向量机模型、神经网络模型等，这类模型中传统的机器学习预测模型虽然具有较好的非线性捕捉能力，但不适用于大数据；而深度学习预测模型虽然具有较好的数据特征捕捉能力，适用于大数据，但存在一定的模型过拟合问题且模型构建较为复杂。第三类是组合模型，相比于单一模型，这类模型虽然有更好的预测精度，但是模型的复杂度也随之增加。

发明内容

为了克服现有的交通流预测方法的预测精度较低的不足，本发明的目的在于提供一种基于双向嵌套LSTM神经网络的交通流预测方法。该方法通过增加LSTM神经网络的有效时间层级和考虑历史、未来交通流状态与当前交通流状态的潜在影响进行建模，充分挖掘道路交通状态数据中的时间特性变化，从而进一步提高现有LSTM的预测精度。

本发明解决其技术问题所采用的技术方案是：

一种基于双向嵌套LSTM神经网络的交通流预测方法，包括以下步骤：

(1)选取道路交通网络某一区域作为研究对象，获取道路交通流数据，进行路段交通流相关性分析，形成道路交通相关性矩阵；

(2)根据交通流相关性分析结果，获取相关路段交通流数据进行数据预处理；构建道路交通流时空矩阵数据集，划分训练集与测试集的步骤；对数据集进行序列化；

(3)构建双向嵌套LSTM神经网络，将交通流时空数据训练集作为模型输入，定义预测模型损失函数，完成模型训练；

(4)将交通流时空数据测试集作为预测模型输入，实现交通流未来状态预测；定义模型评价指标并对模型预测结果进行误差分析。

进一步，所述步骤(1)的过程为：

1.1选取道路交通网络某一区域作为研究对象，获取道路交通流数据；

1.2计算道路交通流相关性矩阵

选取研究区域内不同路段在同一历史阶段的交通流数据，计算基于交通流数据的区域路段相关性矩阵；定义路段i在a-b时段内的交通流数据为X_i＝{x_ia,x_ia+1,…,x_ib}，路段j在a-b时段内的交通流数据为X_j＝{x_ja,x_ja+1,…,x_jb}，计算路段i与j的相关性系数ρ(X_i,X_j)，其数学表达式如下所示：

其中，

表示路段i在a-b时段内交通流的均值，

表示路段j在a-b时段内交通流的均值，

表示路段j在a-b时段内的标准差，

表示路段j在a-b时段内的标准差，

表示路段i与j在a-b时段内交通流的协方差；

那么当研究区域内有n条路段时，则研究区域内路段交通流相关性矩阵如下所示：

再进一步，所述步骤(2)的过程为：

2.1道路交通流数据预处理

根据交通流相关性矩阵，按照相关性从大到小，选取每个路段K个最相关路段；

获取相应路段及K最相关路段交通流数据，进行数据归一化处理，数据归一化数学表达式如下所示：

其中，x_it为t时刻路段i的原始流量数据，minx_i为路段i原始流量数据中的最小值，maxx_i为路段i原始流量数据中的最大值，x_i′_t为归一化后的路段i流量数据；

2.2构建道路交通流时空矩阵数据集

获取相应路段及K最相关路段归一化后的交通流数据，构建道路交通流时空矩阵数据集，数据集构建形式如下所示：

其中，数据集的行向量表示不同路段同一时刻的交通流数据，列向量表示同一路段不同时刻的交通流数据，m为数据集中每个路段的数据长度；

选取一定比例将上述数据集划分为训练集和测试集；

2.3数据序列化

为满足预测模型输入数据大小的需求，对训练集和测试集进行数据序列化处理，训练集数据序列化处理结果如下所示：

其中，s为时间窗口大小，p为预测步长，q为训练集数据长度，Train′为训练集序列化处理后的结果；

测试集采用相同序列化方法进行数据序列化。

更进一步，所述步骤(3)的过程为：

3.1构建双向嵌套LSTM神经网络

首先构建嵌套LSTM神经单元，神经单元处理信息过程数学表达式如下所示：

i_t＝σ(x_tW_xi+h_t-1W_hi+b_i)

f_t＝σ(x_tW_xf+h_t-1W_hf+b_f)

o_t＝σ(x_tW_xo+h_t-1W_ho+b_o)

h_t＝o_t⊙σ(c_t)

其中，⊙表示点乘，σ(·)表示sigmoid函数，W_xf、W_xi、W_xo表示外部遗忘门、输入门、输出门的输入权重矩阵，W_hf、W_hi、W_ho表示外部遗忘门、输入门、输出门的前一时刻输出权重矩阵，b_f、b_i、b_o表示外部遗忘门、输入门、输出门的偏置矩阵，

表示内部遗忘门、输入门、状态单元、输出门的输入权重矩阵，

表示内部遗忘门、输入门、状态单元、输出门的前一时刻输出权重矩阵，

表示内部遗忘门、输入门、状态单元、输出门的偏置矩阵。i_t、f_t、c_t、o_t、h_t表示外部输入门、遗忘门、单元状态、输出门、记忆单元的输出，

表示内部输入门、遗忘门、单元状态、输出门、记忆单元的输出；

然后在嵌套LSTM单元基础上构建双向嵌套LSTM神经网络，其中M_i为嵌套LSTM单元，那么，基于双向嵌套LSTM神经网络的交通流预测过程描述为如下过程：

z_t＝f(W_xzx_t+W_hzz_t-1)

其中，x_t为t时刻的交通流状态，z_t为模型t-1时刻隐藏层的正向输出，

为模型t+1时刻隐藏层的反向输出，y_t为t时刻预测的交通流状态，f为嵌套LSTM单元函数，g为relu函数，W为各部分对应的正向权重矩阵，

为各部分对应的反向权重矩阵；

3.2定义预测模型损失函数

为使模型的预测值能更接近于实际值，本发明采用均方差作为预测模型的损失函数，其数学表达式如下：

其中，j为训练样本数量，y_i为第i个样本的预测值，y_i′为第i个样本的实际值；

3.3将训练集作为模型输入，完成模型训练

将训练集作为模型输入，根据定义的模型损失函数，基于反向传播算法采用Adam优化器对模型进行训练，选取相对最优参数下的模型训练结果作为最终结果，完成模型训练。

所述步骤(4)的过程为：

4.1：实现交通流未来状态预测

将测试集作为训练后模型的输入，对测试集交通流未来状态进行预测；

4.2：定义模型评价指标并进行误差分析

利用绝对均差MAE、相对百分绝对均差MAPE以及均方根误差RMSE来检验模型的性能并对测试集预测结果进行误差分析；

其中，y_i′为交通流标签数据，y_i为交通流的预测值。

本发明的有益效果：本发明提供了一种基于双向嵌套LSTM神经网络的交通流预测方法。与现有技术相比，本发明能够深入挖掘交通流数据中非线性特征和时空特征。此外，与传统的LSTM交通流预测方法相比，本发明不仅具有更为有效的时间层级关系，可以处理更长时间规模的信息，还在模型训练时考虑了未来状态对于当前状态的影响。

附图说明

图1是嵌套LSTM神经单元结构示意图；

图2是双向嵌套LSTM神经网络结构示意图；

图3是基于双向嵌套LSTM神经网络模型的交通流预测结果与实际值对比。

具体实施方式

下面结合附图对本发明作进一步说明。

参照图1～图3，一种基于双向嵌套LSTM神经网络的交通流预测方法，包括以下步骤：

(1)基于道路交通流状态相关性，获取道路交通相关性矩阵，过程为；

1.1选取道路交通网络某一区域作为研究对象，获取道路交通流数据；

1.2计算道路交通流相关性矩阵

选取研究区域内不同路段在同一历史阶段的交通流数据，计算基于交通流数据的区域路段相关性矩阵。定义路段i在a-b时段内的交通流数据为X_i＝{x_ia,x_ia+1,…,x_ib}，路段j在a-b时段内的交通流数据为X_j＝{x_ja,x_ja+1,…,x_jb}，计算路段i与j的相关性系数ρ(X_i,X_j)，其数学表达式如下所示：

其中，

表示路段i在a-b时段内交通流的均值，

表示路段j在a-b时段内交通流的均值，

表示路段j在a-b时段内的标准差，

表示路段j在a-b时段内的标准差，

表示路段i与j在a-b时段内交通流的协方差。

那么当研究区域内有n条路段时，则研究区域内路段交通流相关性矩阵如下所示：

(2)基于数据预处理的道路交通流时空矩阵数据集构建及数据序列化；过程为：

2.1道路交通流数据预处理

根据交通流相关性矩阵，按照相关性从大到小，选取每个路段K个最相关路段(K值可根据实际需求进行设置)。

获取相应路段及K最相关路段交通流数据，进行数据归一化处理。数据归一化数学表达式如下所示：

其中，x_it为t时刻路段i的原始流量数据，minx_i为路段i原始流量数据中的最小值，maxx_i为路段i原始流量数据中的最大值，x_i′_t为归一化后的路段i流量数据。

2.2构建道路交通流时空矩阵数据集

获取相应路段及K最相关路段归一化后的交通流数据，构建道路交通流时空矩阵数据集。数据集构建形式如下所示：

其中，数据集的行向量表示不同路段同一时刻的交通流数据，列向量表示同一路段不同时刻的交通流数据，m为数据集中每个路段的数据长度。

选取一定比例将上述数据集划分为训练集和测试集。

2.3数据序列化

为满足预测模型输入数据大小的需求，对训练集和测试集进行数据序列化处理。训练集数据序列化处理结果如下所示：

其中，s为时间窗口大小，p为预测步长，q为训练集数据长度，Train′为训练集序列化处理后的结果。

测试集采用相同序列化方法进行数据序列化。

(3)将交通流时空矩阵训练集输入双向嵌套LSTM神经网络完成模型训练；过程为：

3.1构建双向嵌套LSTM神经网络

首先构建嵌套LSTM神经单元，其单元结构如图1所示。神经单元处理信息过程数学表达式如下所示：

i_t＝σ(x_tW_xi+h_t-1W_hi+b_i)

f_t＝σ(x_tW_xf+h_t-1W_hf+b_f)

o_t＝σ(x_tW_xo+h_t-1W_ho+b_o)

h_t＝o_t⊙σ(c_t)

其中，⊙表示点乘，σ(·)表示sigmoid函数，W_xf、W_xi、W_xo表示外部遗忘门、输入门、输出门的输入权重矩阵，W_hf、W_hi、W_ho表示外部遗忘门、输入门、输出门的前一时刻输出权重矩阵，b_f、b_i、b_o表示外部遗忘门、输入门、输出门的偏置矩阵，

表示内部遗忘门、输入门、状态单元、输出门的输入权重矩阵，

表示内部遗忘门、输入门、状态单元、输出门的前一时刻输出权重矩阵，

表示内部遗忘门、输入门、状态单元、输出门的偏置矩阵。i_t、f_t、c_t、o_t、h_t表示外部输入门、遗忘门、单元状态、输出门、记忆单元的输出，

表示内部输入门、遗忘门、单元状态、输出门、记忆单元的输出。

然后在嵌套LSTM单元基础上构建双向嵌套LSTM神经网络，网络结构示意图如图2所示，其中M_i为嵌套LSTM单元。那么，基于双向嵌套LSTM神经网络的交通流预测过程可以描述为如下过程：

z_t＝f(W_xzx_t+W_hzz_t-1)

其中，x_t为t时刻的交通流状态，z_t为模型t-1时刻隐藏层的正向输出，

为模型t+1时刻隐藏层的反向输出，y_t为t时刻预测的交通流状态，f为嵌套LSTM单元函数，g为relu函数，W为各部分对应的正向权重矩阵，

为各部分对应的反向权重矩阵。

3.2定义预测模型损失函数

为使模型的预测值能更接近于实际值，本发明采用均方差作为预测模型的损失函数，其数学表达式如下：

其中，j为训练样本数量，y_i为第i个样本的预测值，y_i′为第i个样本的实际值。

3.3将训练集作为模型输入，完成模型训练

将训练集作为模型输入，根据定义的模型损失函数，基于反向传播算法采用Adam优化器对模型进行训练。选取相对最优参数下的模型训练结果作为最终结果，完成模型训练。

(4)进行交通流状态预测并进行误差分析，过程为：

4.1：实现交通流未来状态预测

将测试集作为训练后模型的输入，对测试集交通流未来状态进行预测。

4.2：定义模型评价指标并进行误差分析

利用绝对均差MAE、相对百分绝对均差MAPE以及均方根误差RMSE来检验模型的性能并对测试集预测结果进行误差分析。

其中，y_i′为交通流标签数据，y_i为交通流的预测值。

依照实际实验中的数据，实施过程如下：

1)选取实验数据

原始交通流数据集包含北京市二环部分路段连续29天的车流量数据，数据采样间隔T为2min。

本发明中前25天数据为训练集，进行预测模型的训练。剩余数据为测试集，验证本发明的有效性。

2)参数确定

本发明涉及的主要参数有最相关近邻数量k、时间窗口大小s、预测步长p、

隐藏层单元数hidden_num、输出层单元数output_num。经过试验比较，最终参数确定为k＝3、s＝5、p＝1、hidden_num＝64、output_num＝1。

3)实验结果

为检验本发明的可行性及有效性，本发明以HI2075a路段为例进行预测精度检验，衡量指标为绝对值均方差(MAE)、相对百分绝对均差(MAPE)、均方根误差(RMSE)。实际预测结果如图3所示，实际预测结果评价分析如表1所示。

MAE	MAPE(％)	RMSE
			12.97	9.13	168.24

表1。

Claims (1)

1.一种基于双向嵌套LSTM神经网络的交通流预测方法，其特征在于，所述方法包括以下步骤：

(1)选取道路交通网络某一区域作为研究对象，获取道路交通流数据，进行路段交通流相关性分析，形成道路交通相关性矩阵；

(2)根据交通流相关性分析结果，获取相关路段交通流数据进行数据预处理；构建道路交通流时空矩阵数据集，划分训练集与测试集的步骤；对数据集进行序列化；

(3)构建双向嵌套LSTM神经网络，将交通流时空数据训练集作为模型输入，定义预测模型损失函数，完成模型训练；

(4)将交通流时空数据测试集作为预测模型输入，实现交通流未来状态预测；定义模型评价指标并对模型预测结果进行误差分析；

所述步骤(1)的过程为：

1.1选取道路交通网络某一区域作为研究对象，获取道路交通流数据；

1.2计算道路交通流相关性矩阵

选取研究区域内不同路段在同一历史阶段的交通流数据，计算基于交通流数据的区域路段相关性矩阵；定义路段i在a-b时段内的交通流数据为X_i＝{x_ia,x_ia+1,…,x_ib}，路段j在a-b时段内的交通流数据为X_j＝{x_ja,x_ja+1,…,x_jb}，计算路段i与j的相关性系数ρ(X_i,X_j)，其数学表达式如下所示：

其中，

表示路段i在a-b时段内交通流的均值，

表示路段j在a-b时段内交通流的均值，

表示路段j在a-b时段内的标准差，

表示路段j在a-b时段内的标准差，

表示路段i与j在a-b时段内交通流的协方差；

那么当研究区域内有n条路段时，则研究区域内路段交通流相关性矩阵如下所示：

所述步骤(2)的过程为：

2.1道路交通流数据预处理

根据交通流相关性矩阵，按照相关性从大到小，选取每个路段K个最相关路段；

获取相应路段及K最相关路段交通流数据，进行数据归一化处理，数据归一化数学表达式如下所示：

其中，x_it为t时刻路段i的原始流量数据，minx_i为路段i原始流量数据中的最小值，maxx_i为路段i原始流量数据中的最大值，x′_it为归一化后的路段i流量数据；

2.2构建道路交通流时空矩阵数据集

获取相应路段及K最相关路段归一化后的交通流数据，构建道路交通流时空矩阵数据集，数据集构建形式如下所示：

其中，数据集的行向量表示不同路段同一时刻的交通流数据，列向量表示同一路段不同时刻的交通流数据，m为数据集中每个路段的数据长度；

选取一定比例将上述数据集划分为训练集和测试集；

2.3数据序列化

为满足预测模型输入数据大小的需求，对训练集和测试集进行数据序列化处理，训练集数据序列化处理结果如下所示：

其中，s为时间窗口大小，p为预测步长，q为训练集数据长度，Train′为训练集序列化处理后的结果；

测试集采用相同序列化方法进行数据序列化；

所述步骤(3)的过程为：

3.1构建双向嵌套LSTM神经网络

首先构建嵌套LSTM神经单元，神经单元处理信息过程数学表达式如下所示：

i_t＝σ(x_tW_xi+h_t-1W_hi+b_i)

f_t＝σ(x_tW_xf+h_t-1W_hf+b_f)

o_t＝σ(x_tW_xo+h_t-1W_ho+b_o)

h_t＝o_t⊙σ(c_t)

其中，x_t、

c_t-1、

h_t-1、

分别表示内部记忆单元输入、外部记忆单元输入、前一时刻外部单元状态、前一时刻内部单元状态、外部记忆单元前一时刻的输出、内部记忆单元前一时刻的输出；⊙表示点乘，σ(·)表示sigmoid函数，W_xf、W_xi、W_xo表示外部遗忘门、输入门、输出门的输入权重矩阵，W_hf、W_hi、W_ho表示外部遗忘门、输入门、输出门的前一时刻输出权重矩阵，b_f、b_i、b_o表示外部遗忘门、输入门、输出门的偏置矩阵，

表示内部遗忘门、输入门、状态单元、输出门的输入权重矩阵，

表示内部遗忘门、输入门、状态单元、输出门的前一时刻输出权重矩阵，

表示内部遗忘门、输入门、状态单元、输出门的偏置矩阵，i_t、f_t、c_t、o_t、h_t表示外部输入门、遗忘门、单元状态、输出门、记忆单元的输出，

表示内部输入门、遗忘门、单元状态、输出门、记忆单元的输出；

然后在嵌套LSTM单元基础上构建双向嵌套LSTM神经网络，其中M_i为嵌套LSTM单元，那么，基于双向嵌套LSTM神经网络的交通流预测过程描述为如下过程：

z_t＝f(W_xzx_t+W_hzz_t-1)

其中，x_t为t时刻的交通流状态，z_t为模型t-1时刻隐藏层的正向输出，

为模型t+1时刻隐藏层的反向输出，y_t为t时刻预测的交通流状态，f为嵌套LSTM单元函数，g为relu函数，W为各部分对应的正向权重矩阵，

为各部分对应的反向权重矩阵；

3.2定义预测模型损失函数

为使模型的预测值能更接近于实际值，本发明采用均方差作为预测模型的损失函数，其数学表达式如下：

其中，u′为训练样本数量，y_i为第i个样本的预测值，y′_i为第i个样本的实际值；

3.3将训练集作为模型输入，完成模型训练

将训练集作为模型输入，根据定义的模型损失函数，基于反向传播算法采用Adam优化器对模型进行训练，选取相对最优参数下的模型训练结果作为最终结果，完成模型训练；

所述步骤(4)的过程为：

4.1：实现交通流未来状态预测

将测试集作为训练后模型的输入，对测试集交通流未来状态进行预测；

4.2：定义模型评价指标并进行误差分析

利用绝对均差MAE、相对百分绝对均差MAPE以及均方根误差RMSE来检验模型的性能并对测试集预测结果进行误差分析；

其中，y′_i为交通流标签数据，y_i为交通流的预测值，u为测试集预测样本数量。

Images