CN116959252A - 基于r-c-r结构的时空卷积交通流预测方法及*** - Google Patents

基于r-c-r结构的时空卷积交通流预测方法及*** Download PDF

Info

Publication number
CN116959252A
CN116959252A CN202310942036.0A CN202310942036A CN116959252A CN 116959252 A CN116959252 A CN 116959252A CN 202310942036 A CN202310942036 A CN 202310942036A CN 116959252 A CN116959252 A CN 116959252A
Authority
CN
China
Prior art keywords
time
traffic flow
space
data
convolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310942036.0A
Other languages
English (en)
Inventor
景志勇
王玉森
石磊
卫琳
高宇飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhengzhou University
Zhengzhou University of Light Industry
Original Assignee
Zhengzhou University
Zhengzhou University of Light Industry
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhengzhou University, Zhengzhou University of Light Industry filed Critical Zhengzhou University
Priority to CN202310942036.0A priority Critical patent/CN116959252A/zh
Publication of CN116959252A publication Critical patent/CN116959252A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/01—Detecting movement of traffic to be counted or controlled
    • G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125—Traffic data processing
    • G08G1/0129—Traffic data processing for creating historical data or processing based on historical data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/065—Traffic control systems for road vehicles by counting the vehicles in a section of the road or in a parking area, i.e. comparing incoming count with outgoing count

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Pure & Applied Mathematics (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了基于R‑C‑R结构的时空卷积交通流预测方法及***，涉及交通流预测技术领域，包括：获取交通流数据的训练集；构建交通流预测模型；将训练集输入到交通流预测模型中，对训练集进行预处理，得到预处理后的数据；对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征；采用ConvLSTM网络作为核心模块，并辅以Resnet网络，构建R‑C‑R结构的时空特征提取层，获取空间特征与时间特征的动态相关性；经过多次迭代后，生成最优交通流预测模型，得到最优预测结果。本发明对交通流数据浅层和深层的时空特征进行提取同时减少梯度消失对网络功能的限制，提高交通流量预测的准确度。

Description

基于R-C-R结构的时空卷积交通流预测方法及***
技术领域
本发明涉及交通流预测技术领域，更具体的说是涉及基于R-C-R结构的时空卷积交通流预测方法及***。
背景技术
智能交通***(Intelligent Traffic System，ITS)是将先进的信息技术、数据通讯传输技术、电子传感技术、控制技术及计算机技术等有效地集成运用于整个地面交通管理***而建立的一种在大范围内、全方位发挥作用的，实时、准确且高效的综合交通运输管理***。而交通流量预测是智能交通***重要组成部分之一，对于缓解交通拥堵、提高道路效率、规划城市建设、提供导航服务等方面具有重要意义。交通数据是同时受到时间因素和空间因素影响的数据类型，同时考虑两种因素的影响才是更加合理的。于是，使用RNN、LSTM和GRU等循环神经网络提取时间信息的同时使用CNN或GCN提取空间关联便成了交通流预测的首选之策。也因此有许多学者使用CNN、GCN、RNN的各种组合去对已有的交通流数据进行分析，以对下一时刻的交通流量进行预测，由此提出了许多的混合神经网络。
LI M等提出了一种时空融合图神经网络(STFGNN)模型，该模型由两个子模块组成：一个是基于图卷积和门控循环单元(GRU)的时空特征提取模块，另一个是基于多头自注意力机制和全连接层的时空特征融合模块。T.Qi等提出了一种新的基于深度学习的异步扩张图卷积网络(ADGCN)来为空间-时间图建模，挖掘了交通网络中的异步空间-时间相关性，并提出了异步空间-时间图卷积(ASTGC)操作来提取这种特殊关系。Z.LI等提出了一种基于图卷积神经网络(GCN)和长短期记忆网络(LSTM)的混合深度神经网络，该网络由两个子网组成：一个是基于GCN的空间特征提取子网，另一个是基于LSTM的时间特征提取子网。以上方法均为结合了多种神经网络进行构造的混合神经网络，且这几种方法均在特定数据集上取得了较好的成绩。
但目前的方法也普遍存在着不足之处，如现有技术中的ASTGCN方法，对时间维度特性的提取不够充分；现有技术中都采用RNN系列网络去捕获时间特征，而RNN网络存在的问题也是显而易见的，梯度消失与梯度***限制了网络取得更好的交通流量预测效果的能力。
因此，如何提供一种基于R-C-R结构的时空卷积交通流预测方法及***，对交通流数据浅层和深层的时空特征进行提取同时减少梯度消失对网络功能的限制，提高交通流量预测的准确度是本领域技术人员亟需解决的问题。
发明内容
有鉴于此，本发明提供了一种基于R-C-R结构的时空卷积交通流预测方法及***，针对已有方法对交通流时空特征学习不充分，将时间特征与空间特征进行割裂讨论，对时间与空间的动态相关性特征未充分考虑的问题，提出了ASTR-C-R模型，使用注意力机制使模型更快的收敛，采用了GCN与CNN结合的时空卷积模块进行浅层的时空特征提取，设计了用双边ResNet模块与ConvLSTM模块组成的ResNet-ConvLSTM-ResNet(R-C-R)残差结构来强化网络的记忆，以减少梯度消失对网络功能的限制，并将其作为深层时空特征提取层，以进一步获取更深层次的时空特征，更好的获取交通流量的时间-空间特征，提高交通流量预测的准确度。
为了实现上述目的，本发明采用如下技术方案：一种基于R-C-R结构的时空卷积交通流预测方法，包括：
获取交通流数据的训练集；
构建交通流预测模型；
将所述训练集输入到所述交通流预测模型中，对所述训练集进行预处理，得到预处理后的数据；
对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征；
采用ConvLSTM网络作为核心模块，并辅以Resnet网络，构建R-C-R结构的时空特征提取层，获取空间特征与时间特征的动态相关性；
经过多次迭代后，生成预测数据集，将所述预测数据集与真实值进行比较，得到最优交通流预测模型；
根据所述最优交通流预测模型，输入第一时间段交通流数据，得到第二时间段交通流数据的最优预测结果；
所述第一时间段早于所述第二时间段。
优选的，还包括：根据交通流数据构建交通路网图G＝<V,E,A>；
其中，V为交通路网图中的节点集，|V|＝N代表共有N个节点；E代表交通路网图中边的集合；A∈RN×N代表G的邻接矩阵；交通路网图G中不规则分布的探测器以相同的采样频率检测测量值F，每个节点在每个时间切片上生成一个长度为F的特征向量。
优选的，对所述训练集进行预处理包括：基于空间维度和时间维度注意力机制对所述训练集进行初始权重分配；
空间维度注意力机制表示如下：
其中，是第r个时空模块的输入；Cr-1为在第r层输入数据的通道数，当r＝1时，C0＝F；Tr-1为第r-1个时空模块输出数据的时间序列长度；当r＝1时，T0＝T，T为当前数据的时间序列长度；Vs、bs∈RN×N，W1、W2和W3均为可学习的参数；σ为sigmoid激活函数，S∈RN×N为空间注意力矩阵，Si,j表示空间节点i和空间节点j的依赖强度；S'i,j∈RN×N表示通过softmax函数计算得到的空间节点间相关性权重矩阵；
时间维度注意力机制表示如下：
其中，U1∈RN，/>U1、U2和U3均为可学习的参数；E为时间注意力矩阵；Ei,j表示时间节点i和时间节点j的依赖强度；E'i,j表示通过softmax函数计算得到的时间节点间相关性权重矩阵。
优选的，对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征，包括：基于图谱理论，对交通路网图进行卷积操作，得到图谱卷积的定义如下：
其中，代表图卷积操作，Θ为卷积核，Λ为特征值对角矩阵，U是拉普拉斯特征值分解L＝UΛUT得到的傅里叶基，/>表示将信号x在基上做投影变换，其逆变换为
使用Chebyshev polynomials对上式进行处理，通过卷积核gθ提取以图中每个节点为中心的周边0到(K-1)th阶邻居的信息，初步提取数据的空间特征，得到下式：
其中，θm∈Rm是一个多项式系数向量，为经计算得出的Chebyshevpolynomials，⊙表示哈达玛积，M是卷积核的尺寸，m表示第m阶Chebyshev多项式；
初步提取数据的空间特征后，再次进行卷积操作，初步提取数据的时间特征，结合卷积操作后公式如下：
其中，Ψ为卷积操作的卷积核，ReLU是激活函数，r表示第r个时间步。
优选的，所述R-C-R结构的时空特征提取层的公式表示如下：
F(x)＝ConvLSTM(F(x)+μ1x)+μ2x；
其中，μ1，μ2为可学习调整的参数，将μ1，μ2的调整交由神经网络自动调整后获取预测结果。
优选的，所述ConvLSTM网络对数据的处理如下：
it＝σ(Wxi*xt+Whi*ht-1+Wci⊙ct-1+bi)；
ft＝σ(Wxf*xt+Whf*ht-1+Wcf⊙ct-1+bf)；
ct＝ft⊙ct-1+it⊙tanh(Wxc*xt+Whc*ht-1+bc)；
ot＝σ(Wxo*xt+Who*ht-1+Wco⊙ct+bo)；
ht＝ot⊙tanh(ct)；
式中*表示卷积运算，⊙表示哈达玛积，it表示输入门，ft表示遗忘门，ct表示长记忆，ht表示短记忆，ot表示输出门；σ为Sigmoid激活函数；xt为t时刻输入；W*i和bi分别为输入门的权重和阈值；W*f和bf分别为遗忘门的权重和阈值；W*c和bc分别为状态门的权重和阈值；W*o和bo分别为输出门的权重和阈值。其中*所表示的卷积运算为ConvLSTM相对传统LSTM做出的显著改变，使用卷积替代输入门-状态门，状态门-状态门之间使用的前馈式神经网络处理方式，以此提高模型对空间数据局部特征提取的能力。
优选的，所述ResNet网络对数据的处理如下：
F(x)＝F(x)+x；
式中，x表示输入的数据。
优选的，使用平均绝对误差MAE，均方根误差RMSE，平均百分比误差MAPE作为评估指标，公式如下：
其中，N为测试数据集的数据总数，和Yn分别为经过模型计算所得的预测结果和数据集中相应时刻的真实数值。
优选的，一种基于R-C-R结构的时空卷积交通流预测***，包括：
数据获取模块，用于获取交通流数据的训练集；
模型构建模块，用于构建交通流预测模型，所述交通流预测模型包括依次连接的输入模块、时空注意力模块、时空卷积模块、R-C-R网络模块、处理模块和输出模块；
所述输入模块，用于输入所述训练集和第一时间段交通流数据；
所述时空注意力模块，用于对所述训练集进行预处理，得到预处理后的数据；
所述时空卷积模块，用于对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征；
所述R-C-R网络模块，用于获取空间特征与时间特征的动态相关性；
所述处理模块，用于生成预测数据集，并将所述预测数据集与真实值进行比较，得到最优交通流预测模型；
所述输出模块，用于根据所述最优交通流预测模型和第一时间段交通流数据，输出第二时间段交通流数据的最优预测结果；所述第一时间段早于所述第二时间段。
经由上述的技术方案可知，与现有技术相比，本发明公开提供了一种基于R-C-R结构的时空卷积交通流预测方法及***，包括：获取交通流数据的训练集；构建交通流预测模型；将所述训练集输入到所述交通流预测模型中，对所述训练集进行预处理，得到预处理后的数据；对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征；采用ConvLSTM网络作为核心模块，并辅以Resnet网络，构建R-C-R结构的时空特征提取层，获取空间特征与时间特征的动态相关性；经过多次迭代后，生成预测数据集，将所述预测数据集与真实值进行比较，得到最优交通流预测模型；根据所述最优交通流预测模型，输入第一时间段交通流数据，得到第二时间段交通流数据的最优预测结果；所述第一时间段早于所述第二时间段。
本发明具有以下有益效果：它的空间-时间特征提取模块包含两个层次：深度空间-时间特征提取层和浅层空间-时间特征提取层。深度层采用ConvLSTM作为核心模块，并辅以前后双Resnet，解决了ConvLSTM梯度消失的问题，提升了模型交通流量预测的准确率；浅层则使用ChebyshevGCN和CNN进行初步的空间-时间特征提取。另外，还设计了一个时空注意力模块来辅助ASTR-C-R模型的训练，使模型达到快速收敛的效果；本发明对交通流时空特征充分学习，同时提取时间特征与空间特征，并对时间与空间的动态相关性特征充分考虑，使模型对交通流数据的预测结果更准确。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的交通流预测模型示意图。
图2为本发明实施例提供的交通路网图示意图。
图3为本发明实施例提供的时空卷积模块示意图。
图4为本发明实施例提供的R-C-R网络模块示意图。
图5(a)为本发明实施例提供的以μ1为横轴，μ2为各簇的纵轴对PEMS04数据集预测的MAE结果对比示意图。
图5(b)为本发明实施例提供的以μ2为横轴，μ1为各簇的纵轴对PEMS04数据集预测的MAE结果对比示意图。
图6(a)为本发明实施例提供的以μ1为横轴，μ2为各簇的纵轴对PEMS04数据集预测的RMSE结果对比示意图。
图6(b)为本发明实施例提供的以μ2为横轴，μ1为各簇的纵轴对PEMS04数据集预测的RMSE结果对比示意图。
图7(a)为本发明实施例提供的以μ1为横轴，μ2为各簇的纵轴对PEMS04数据集预测的MAPE结果对比示意图。
图7(b)为本发明实施例提供的以μ2为横轴，μ1为各簇的纵轴对PEMS04数据集预测的MAPE结果对比示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明实施例公开了一种基于R-C-R结构的时空卷积交通流预测方法及***，包括：获取交通流数据的训练集；构建交通流预测模型；将所述训练集输入到所述交通流预测模型中，对所述训练集进行预处理，得到预处理后的数据；对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征；采用ConvLSTM网络作为核心模块，并辅以Resnet网络，构建R-C-R结构的时空特征提取层，获取空间特征与时间特征的动态相关性；经过多次迭代后，生成预测数据集，将所述预测数据集与真实值进行比较，得到最优交通流预测模型；根据所述最优交通流预测模型，输入第一时间段交通流数据，得到第二时间段交通流数据的最优预测结果；所述第一时间段早于所述第二时间段。
本发明实施例解决了ConvLSTM网络梯度消失的问题，提升了模型交通流量预测的准确率，且能够使模型达到快速收敛的效果，对交通流数据的预测结果更准确。
在本发明的一个具体实施例中，本发明实施例公开了一种基于R-C-R结构的时空卷积交通流预测方法，如图1所示，包括：获取交通流数据的训练集；构建交通流预测模型；将所述训练集输入到所述交通流预测模型中，对所述训练集进行预处理，得到预处理后的数据；对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征；采用ConvLSTM网络作为核心模块，并辅以Resnet网络，构建R-C-R结构的时空特征提取层，获取空间特征与时间特征的动态相关性；经过多次迭代后，生成预测数据集，将所述预测数据集与真实值进行比较，得到最优交通流预测模型；根据所述最优交通流预测模型，输入第一时间段交通流数据，得到第二时间段交通流数据的最优预测结果；所述第一时间段早于所述第二时间段。
在本发明的一个具体实施例中，第一时间段和第二时间段可以设置为一个小时，也可以设置为2个小时或者其他时间段；例如：第一时间段可以设置为北京时间早上5点到早上6点；第二时间段可以设置为北京时间早上6点到早上7点；将已有的北京时间早上5点到早上6点的交通流数据输入到训练好的最优交通流预测模型中，预测得到北京时间早上6点到早上7点的交通流数据的最优预测结果。
其中，所述交通流预测模型包括依次连接的输入模块、时空注意力模块、时空卷积模块、R-C-R网络模块、处理模块和输出模块。
具体的，还包括：根据交通流数据构建交通路网图G＝<V,E,A>，如图2所示；由于交通流彼此存在的上下游相互影响的空间关系可近似的看作一个图，于是本发明实施例使用G＝<V,E,A>，来定义一个交通网络。其中V为图中的节点集，|V|＝N代表共有N个节点。E代表图中边的集合，也即，代表两个节点是否可以直接到达。A∈RN×N代表图G的邻接矩阵。交通路网图G中不规则分布的探测器以相同的采样频率检测测量值F，即每个节点在每个时间切片上生成一个长度为F的特征向量。
具体的，本发明实施例使用了由注意力机制为基础的时空注意力模块，所述时空注意力模块包括空间维度注意力机制和时间维度注意力机制；基于空间维度和时间维度注意力机制对所述训练集进行初始权重分配；使交通流预测模型可以更好地捕获动态的时空特征，对模型中起到更多作用的分支和节点投入更多的关注，本模块方法的描述可由以下公式定义：
公式(1)和公式(2)为空间维度注意力机制的表示，其中 是第r个时空模块的输入。Cr-1为在第r层输入数据的通道数，当r＝1时，C0＝F。Tr-1为第r-1个时空模块输出数据的时间序列长度。当r＝1时，T0＝T，T为当前数据的时间序列长度。Vs，bs∈RN×N，/> W1、W2和W3均为可学习的参数。σ为sigmoid激活函数，S∈RN×N为空间注意力矩阵，矩阵数值代表数据中不同部分的重要程度。Si,j表示空间节点i和空间节点j的依赖强度；S'i,j∈RN×N为表示通过softmax函数计算得到的空间节点间相关性权重矩阵。
公式(3)和公式94)为时间维度注意力机制的描述。U1∈RN，U1、U2和U3为可学习的参数。矩阵E代表不同输入间的时间相关性，E为时间注意力矩阵，是经过softmax归一化的矩阵；Ei,j表示时间节点i和时间节点j的依赖强度；E'i,j表示通过softmax函数计算得到的时间节点间相关性权重矩阵。
具体的，时空卷积模块通过卷积处理初步提取数据的空间特征和时间特征作为浅层时空特征提取层；如图3所示，在交通流量预测这一研究中，本发明实施例将交通路网看作一个图的形式，而路网图是一个拓扑图，为了应对路网图的这一特征，并充分地对其进行空间特征提取，本发明实施例采用了基于图谱理论实现拓扑图卷积操作的Chebyshev GCN。在图谱分析中，图的性质是由对图的Laplacian矩阵和矩阵的特征值分析得到的。图的Laplacian矩阵由L＝D-A定义，将该式进行归一化得其中，A为图G的邻接矩阵，IN为单位矩阵，D∈RN×N是由节点的度组成的对角矩阵。U是Laplacian特征值分解L＝UΛUT得到的傅里叶基，其中Λ＝diag([λ0,…,λN-1])∈RN×N为特征值对角矩阵。其n个特征向量线性无关且相互正交，将其作为变换的基，将信号x在基上做投影变换得到/>其逆变换为/>于是得到图谱卷积的定义如下：
其中代表图卷积操作，Θ为卷积核，即对信号x以Θ作为卷积核做图卷积处理。由于公式(5)的计算复杂度较高，因此采用了Chebyshevpolynomials做如下公式所示的近似表达：
其中θm∈Rm是一个多项式系数向量，为经计算得出的Chebyshevpolynomials(切比雪夫多项式)，/>λmax为Laplacian矩阵的最大特征值。M是卷积核的尺寸，m表示第m阶Chebyshev多项式，它确定了卷积的最大半径。第m阶切比雪夫多项式的递归定义为Tm(x)＝2xTm-1(x)-Tm-2(x)。当m＝0时，T0(x)＝1，当m＝1时，T1(x)＝x。使用切比雪夫多项式的近似展开来解决这个问题，相当于通过卷积核gθ提取以图中每个节点为中心的周边0到(K-1)th阶邻居的信息。为了使模型可以适应动态的节点相关性，采用/>S'∈RN×N，⊙表示哈达玛积，于是公式(6)可以再次进行整理变形为：
在公式(7)的基础上再次进行卷积操作，初步提取时间维度的特征，以第r层为例，结合卷积操作后公式变为如下形式：
其中，Ψ为卷积操作的卷积核，是可通过学习调整的参数。ReLU是激活函数。r表示第r个时间步。
现有的ASTGCN方法，对时间维度特性的提取不够充分，而且RNN网络存在梯度消失与梯度***的问题，限制了网络取得更好的预测效果的能力。因此为了解决RNN系列网络梯度消失的问题，本发明实施例设计了用双边ResNet模块与ConvLSTM模块组成的ResNet-ConvLSTM-ResNet(R-C-R)残差结构来强化网络的记忆，以减少梯度消失对网络功能的限制，并将其作为深层时空特征提取层，以进一步获取时间特征与空间特征的动态相关性。
具体的，对于R-C-R网络模块，采用ConvLSTM网络作为核心模块，并辅以Resnet网络，构建R-C-R结构的时空特征提取层，获取空间特征与时间特征的动态相关性；对交通流数据进行深层的空间特征和时间特征捕获；如图4所示，本模块中主要的时空提取器为ConvLSTM，作为能够兼顾时间特征与空间特征的网络结构，ConvLSTM在本模块的表现也相当令人满意。但是随之而来的也有RNN系列网络的通病，网络会出现梯度消失的问题，因此，本发明实施例设计了Resnet-ConvLSTM-Resnet(R-C-R)结构网络来解决这一问题。
ConvLSTM是一种用于时空预测的循环神经网络，它将卷积结构运用到了输入到状态和状态到状态的转换之中，通过输入与相邻节点的过去状态来确定当前节点的未来状态。ConvLSTM的提出便是用于预测任务，它能够很好的解决LSTM网络不能利用数据中的空间信息的缺点，可以同时捕捉数据中的时间和空间的动态相关性，适用于时空数据的处理。而本发明的交通流量预测任务很好的符合了这个特征，交通流之间既有随着时间改变而变化的时间信息，又有在整个图空间中道路上下游相互影响的空间信息。
具体的，所述ConvLSTM网络对数据的处理如下：
it＝σ(Wxi*xt+Whi*ht-1+Wci⊙ct-1+bi) (9)
ft＝σ(Wxf*xt+Whf*ht-1+Wcf⊙ct-1+bf) (10)
ct＝ft⊙ct-1+it⊙tanh(Wxc*xt+Whc*ht-1+bc) (11)
ot＝σ(Wxo*xt+Who*ht-1+Wco⊙ct+bo) (12)
ht＝ot⊙tanh(ct) (13)
式中*表示卷积运算，⊙表示哈达玛积。it表示输入门，ft表示遗忘门，ct表示长记忆，ht表示短记忆，ot表示输出门；σ为Sigmoid激活函数；xt为t时刻输入；W*i和bi分别为输入门的权重和阈值；W*f和bf分别为遗忘门的权重和阈值；W*c和bc分别为状态门的权重和阈值；W*o和bo分别为输出门的权重和阈值。其中*所表示的卷积运算为ConvLSTM相对传统LSTM做出的显著改变，使用卷积替代输入门-状态门，状态门-状态门之间使用的前馈式神经网络处理方式，以此提高模型对提取交通流数据中时间与空间动态相关性的能力。
ResNet是残差神经网络的简称，是由微软研究院的何恺明等人于2015年提出的一种深度卷积神经网络。ResNet的主要特点是引入了残差模块，即在每个卷积层后面添加一个跳跃连接(skip connection)，使得输入可以直接传递到输出，从而缓解了深度网络中的梯度消失和退化问题。
ResNet有着不俗的能力：可以构建非常深的网络，例如ResNet-152有152层，而不会降低训练效率和预测性能。可以有效地提取图像中的高层语义特征，提高了图像分类、目标检测、语义分割等任务的准确率。可以方便地进行模型微调，即在预训练好的模型基础上修改部分参数或结构来适应新的数据集或任务。
当然ResNet也有一些缺点，比如当设置的模型层数过多时，如使用ResNet-152时，网络会需要大量的计算资源和存储空间，因为此时模型参数数量较未采用ResNet-152时增加了许多。随之而来的还有模型复杂度的提高，并且还需要解决因此带来的过拟合问题，即需要更多的数据。为了解决ResNet的如上缺点，本发明实施例选择降低ResNet的层数，以期消耗更少的资源来获得较好的结果。
具体的，所述ResNet网络对数据的处理如下：
F(x)＝F(x)+x (14)
式中，x表示输入的数据。
具体的，所述R-C-R结构的时空特征提取层的公式表示如下：
F(x)＝ConvLSTM(F(x)+μ1x)+μ2x (15)
其中，μ1，μ2为可学习调整的参数，本发明实施例也对这两项参数进行了各种组合下模型效果的对比。本发明实施例使用人工修改μ1，μ2的值以及通过神经网络的反射传播机制对μ1，μ2调整，通过具体的值比较μ1，μ2值的变化对模型效果的影响，并在将μ1，μ2的调整交由神经网络自动调整后，经模型多次迭代，获取到了最优的预测结果。
实验设置
本发明实施例中，实验的检验在NVIDIA A10显卡上进行，基于Pytorch框架进行模型搭建，可以设置学习率大小为0.005，模型训练的总轮次设置为80，Chebyshevpolynomials中的参数m可以设置为3。在模型中，时空卷积模块的时间卷积层和空间卷积层的卷积核大小可以设置为64。在深层时空特征提取层中可以将μ1，μ2分别设置为0.1和0.2，或者其他数值。
使用平均绝对误差MAE，均方根误差RMSE，平均百分比误差MAPE作为评估指标，三个评价指标的计算公式如公式(16)-公式(18)所示。
其中，N为测试集的数据总数，和Yn分别为经过模型计算所得的预测结果和数据集中相应时刻的真实数值。
在两个公开的真实数据集PEMS04和PEMS08上进行实验，数据集包含的信息如表1所示。
表1
PEMS04和PEMS08两个数据集的数据收集频率均为5分钟一次，将数据集以6：2：2的比例分割，分别作为训练集、测试集和验证集。
消融实验
本发明实施例对模型进行了消融实验，检验模型中深层时空特征提取层的有效性以及深层时空特征提取层中各模块的有效性。
将模型分别进行分割退化，得到仅包含Res1的模型—ASTR-C-R_Res1，仅包含ConvLSTM的ASTR-C-R_ConvLSTM，仅包含Res1-ConvLSTM的模型—ASTR-C-R_Res1-ConvLSTM，仅包含Res2-ConvLSTM的ASTR-C-R_Res2-ConvLSTM，以及模型的完全体ASTR-C-R(交通流预测模型)。各个消融条件下的模型对比效果如表2所示：
表2
/>
经实验结果对比，可发现在各个经过消融的模型下效果均不如ASTR-C-R，这一结论在PEMS04数据集上体现的更加明显，在仅含有时空卷积模块时，模型甚至不能在同样的训练次数下收敛，所得结果的各项评价指标都异常的高。而在加入ConvLSTM网络作为深层时空特征提取器时，整体表现提升很多，也证明了在原模型中加入ConvLSTM模块是合理的。随着Res1和Res2的加入，模型效果有着进一步的提升，在所有的模块都到位之后，ASTR-C-R模型也得到了最好的效果。上表的结果也证明了本发明实施例所设计的深度特征提取模块是有效的。
对比实验
在对比实验中，本发明实施例选定以下方法作为模型实验结果的对比基线，以下方法涉及了现有技术基于参数的方法以及基于深度学习的方法，其中基于深度学习类的方法为在本领域被广泛认同或在所讨论数据集上取得很好效果的经典的方法。
HA：历史平均值。历史平均模型根据训练集数据中相应时间历史流入和流出的平均值来预测测试集未来的交通流量。
SVR：Support Vector Regression，使用线性支持向量机进行回归任务。
LSTM：长短期记忆网络。特殊的RNN网络，可以有效处理时序数据，通过门控机制一定程度上解决了梯度消失和长期记忆问题。
DCRNN：使用RandomWalk捕获空间依赖，使用定时采样的编码器-解码器捕获时间依赖性的扩散卷积递归神经网络。
STGCN：时空图卷积网络。基于空间方法的时空卷积模型，使用ChebNet编码空间信息。
ASTGCN：使用注意力机制辅助学***性，实验中不使用其多时间特征部分的模型。STSGCN：时空图卷积网络。通过构建局部时空图来同步地捕获不同时间和节点间信息。
本实验所提出的方法与其他方法在PEMS04与PEMS08数据集上的结果展示如表3所示。
表3
结果分析
在模型设计中本发明实施例对μ1和μ2设置了不同的值，以调节原数据对网络预测的影响，避免过大比例的原数据对训练过程中经网络学习后生成的数据重要性的覆盖，也要使原数据能够起到ResNet网络解决ConvLSTM梯度***与梯度消失的问题。为了探寻ConvLSTM与ResNet残差结构最合适的权重值，本发明实施例记录了过程中不同Res1和Res2权重对网络预测结果的影响。
结果对比如下图5(a)，图5(b)，图6(a)，图6(b)，图7(a)，图7(b)所示。为不同μ1和μ2设置下的模型对PEMS04数据集预测的结果，本发明实施例选取各权重下的MAE，RMSE以及MAPE作为结果的体现，各组图中的(a)图所对应的为以μ1为横轴，以μ2为各簇的纵轴；(b)图为以μ2为横轴，以μ1为各簇的纵轴。图中的虚线所表示的为相对于横坐标为0.1时的簇整体的线性变化趋势。由图中的虚线可知，(a)系列图的整体变化趋势相较(b)系列图的整体变化趋势更大，也就意味着，μ1的变化对模型效果的影响更为明显，且随着μ1的增加模型的效果变的更差。这一结论在实验结果的MAE，RMSE，MAPE上均有体现。
为进一步探寻μ1和μ2变化对模型预测结果的影响是否可从数学层面给予充分的肯定，本发明实施例对实验所得的结果进行了方差分析，如表4所示：
表4
关于μ1和μ2对模型效果的影响，本发明实施例对所得到的结果进行了方差分析，方差分析过程所得到的中间值如表4所示。在置信度为99％的前提下，μ1的F值约为0.878697，小于F0.01(9，81)＝2.6344，故可得μ1对模型效果的影响是显著的。同理，μ2的F值约为2.608094，小于F0.01(9，81)＝2.6344，可知μ2对模型效果的影响是显著的。故从数学层面分析本发明实施例的实验数据后可知，本发明实施例模型的效果受μ1和μ2值的影响显著，在调整μ1和μ2到合适的值时，模型可以发挥更好的效果。并且，由实验结果与图5(a)，图5(b)，图6(a)，图6(b)，图7(a)，图7(b)相比，可知表现更好的μ1和μ2应在值较小的范围内。当μ1和μ2的变化步长单位为0.1时，在μ1＝0.1，μ2＝0.2时取得了当前模型最好的表现结果。当将参数μ1和μ2的调整交由神经网络的反射传播机制时，实验得到了最优的结果，如表3所示。
本发明实施例提供的ASTR-C-R是一种新颖的交通流量预测方法，旨在更好地获取空间-时间特征。其中，它的空间-时间特征提取模块包含两个层次：深层时空特征提取层和浅层时空特征提取层。深层时空特征提取层采用ConvLSTM作为核心模块，并辅以前后Resnet网络；浅层时空特征提取层则使用Chebyshev GCN和CNN进行初步的空间特征和时间特征提取。另外，还设计了一个时空注意力模块来辅助ASTR-C-R模型的训练。
本发明实施例提出以ConvLSTM为主特征提取器的STblock，在对数据进行空间特征提取的同时又保证了对时间特征的捕获，解决现有方法对时间与空间的动态相关性关注度不足的问题。使用双边ResNet模块组成的R-C-R结构解决了ConvLSTM梯度消失的问题，提升了模型交通流量预测的准确率。本发明实施例在PEMS04与PEMS08数据集上进行了测试，相对基线方法取得了较好的效果。并讨论了R-C-R结构中不同ResNet权重对模型准确度的影响。在智能交通***的工作中，能够灵敏准确地提前预知下一时刻的交通状态变化，做到更加准确的交通流量预测；为城市缓解交通压力，减少市民在路途中消耗的时间。
本发明实施例还提供了一种基于R-C-R结构的时空卷积交通流预测***，包括：
数据获取模块，用于获取交通流数据的训练集；
模型构建模块，用于构建交通流预测模型，所述交通流预测模型包括依次连接的输入模块、时空注意力模块、时空卷积模块、R-C-R网络模块、处理模块和输出模块；
所述输入模块，用于输入所述训练集和第一时间段交通流数据；
所述时空注意力模块，用于对所述训练集进行预处理，得到预处理后的数据；
所述时空卷积模块，用于对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征；
所述R-C-R网络模块，用于获取空间特征与时间特征的动态相关性；
所述处理模块，用于生成预测数据集，并将所述预测数据集与真实值进行比较，得到最优交通流预测模型；
所述输出模块，用于根据所述最优交通流预测模型和第一时间段交通流数据，输出第二时间段交通流数据的最优预测结果；所述第一时间段早于所述第二时间段。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (9)

1.一种基于R-C-R结构的时空卷积交通流预测方法，其特征在于，包括：
获取交通流数据的训练集；
构建交通流预测模型；
将所述训练集输入到所述交通流预测模型中，对所述训练集进行预处理，得到预处理后的数据；
对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征；
采用ConvLSTM网络作为核心模块，并辅以Resnet网络，构建R-C-R结构的时空特征提取层，获取空间特征与时间特征的动态相关性；
经过多次迭代后，生成预测数据集，将所述预测数据集与真实值进行比较，得到最优交通流预测模型；
根据所述最优交通流预测模型，输入第一时间段交通流数据，得到第二时间段交通流数据的最优预测结果；
所述第一时间段早于所述第二时间段。
2.根据权利要求1所述的一种基于R-C-R结构的时空卷积交通流预测方法，其特征在于，还包括：根据交通流数据构建交通路网图G＝<V,E,A>；
其中，V为交通路网图中的节点集，|V|＝N代表共有N个节点；E代表交通路网图中边的集合；A∈RN×N代表G的邻接矩阵；交通路网图G中不规则分布的探测器以相同的采样频率检测测量值F，每个节点在每个时间切片上生成一个长度为F的特征向量。
3.根据权利要求1所述的一种基于R-C-R结构的时空卷积交通流预测方法，其特征在于，对所述训练集进行预处理包括：基于空间维度和时间维度注意力机制对所述训练集进行初始权重分配；
空间维度注意力机制表示如下：
其中，是第r个时空模块的输入；Cr-1为在第r层输入数据的通道数，当r＝1时，C0＝F；Tr-1为第r-1个时空模块输出数据的时间序列长度；当r＝1时，T0＝T，T为当前数据的时间序列长度；Vs、bs∈RN×N，W2和W3均为可学习的参数；σ为sigmoid激活函数，S∈RN×N为空间注意力矩阵，Si,j表示空间节点i和空间节点j的依赖强度；S'i,j∈RN×N表示通过softmax函数计算得到的空间节点间相关性权重矩阵；
时间维度注意力机制表示如下：
其中，Ve、U1、U2和U3均为可学习的参数；E为时间注意力矩阵；Ei,j表示时间节点i和时间节点j的依赖强度；E'i,j表示通过softmax函数计算得到的时间节点间相关性权重矩阵。
4.根据权利要求1所述的一种基于R-C-R结构的时空卷积交通流预测方法，其特征在于，对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征，包括：基于图谱理论，对交通路网图进行卷积操作，得到图谱卷积的定义如下：
其中，代表图卷积操作，Θ为卷积核，Λ为特征值对角矩阵，U是拉普拉斯特征值分解L＝UΛUT得到的傅里叶基，/>表示将信号x在基上做投影变换，其逆变换为
使用Chebyshev polynomials对上式进行处理，通过卷积核gθ提取以图中每个节点为中心的周边0到(K-1)th阶邻居的信息，初步提取数据的空间特征，得到下式：
其中，是一个多项式系数向量，/>为经计算得出的Chebyshevpolynomials，⊙表示哈达玛积，M是卷积核的尺寸，m表示第m阶Chebyshev多项式；
初步提取数据的空间特征后，再次进行卷积操作，初步提取数据的时间特征，结合卷积操作后公式如下：
其中，Ψ为卷积操作的卷积核，ReLU是激活函数，r表示第r个时间步。
5.根据权利要求1所述的一种基于R-C-R结构的时空卷积交通流预测方法，其特征在于，所述R-C-R结构的时空特征提取层的公式表示如下：
F(x)＝ConvISTM(F(x)+μ1x)+μ2x；
其中，μ1，μ2为可学习调整的参数，将μ1，μ2的调整交由神经网络自动调整后获取预测结果。
6.根据权利要求5所述的一种基于R-C-R结构的时空卷积交通流预测方法，其特征在于，所述ConvLSTM网络对数据的处理如下：
it＝σ(Wxi*xt+Whi*ht-1+Wci⊙ct-1+bi)；
ft＝σ(Wxf*xt+Whf*ht-1+Wcf⊙ct-1+bf)；
ct＝ft⊙ct-1+it⊙tanh(Wxc*xt+Whc*ht-1+bc)；
ot＝σ(Wxo*xt+Who*ht-1+Wco⊙ct+bo)；
ht＝ot⊙tanh(ct)；
式中*表示卷积运算，⊙表示哈达玛积，it表示输入门，ft表示遗忘门，ct表示长记忆，ht表示短记忆，ot表示输出门；σ为Sigmoid激活函数；xt为t时刻输入；W*i和bi分别为输入门的权重和阈值；W*f和bf分别为遗忘门的权重和阈值；W*c和bc分别为状态门的权重和阈值；W*o和bo分别为输出门的权重和阈值。
7.根据权利要求5所述的一种基于R-C-R结构的时空卷积交通流预测方法，其特征在于，所述ResNet网络对数据的处理如下：
F(x)＝F(x)+x；
式中，x表示输入的数据。
8.根据权利要求1所述的一种基于R-C-R结构的时空卷积交通流预测方法，其特征在于，使用平均绝对误差MAE，均方根误差RMSE，平均百分比误差MAPE作为评估指标，公式如下：
其中，N为测试数据集的数据总数，和Yn分别为经过模型计算所得的预测结果和数据集中相应时刻的真实数值。
9.一种基于R-C-R结构的时空卷积交通流预测***，其特征在于，包括：
数据获取模块，用于获取交通流数据的训练集；
模型构建模块，用于构建交通流预测模型，所述交通流预测模型包括依次连接的输入模块、时空注意力模块、时空卷积模块、R-C-R网络模块、处理模块和输出模块；
所述输入模块，用于输入所述训练集和第一时间段交通流数据；
所述时空注意力模块，用于对所述训练集进行预处理，得到预处理后的数据；
所述时空卷积模块，用于对预处理后的数据进行时空卷积处理，初步提取数据的空间特征和时间特征；
所述R-C-R网络模块，用于获取空间特征与时间特征的动态相关性；
所述处理模块，用于生成预测数据集，并将所述预测数据集与真实值进行比较，得到最优交通流预测模型；
所述输出模块，用于根据所述最优交通流预测模型和第一时间段交通流数据，输出第二时间段交通流数据的最优预测结果；所述第一时间段早于所述第二时间段。
CN202310942036.0A 2023-07-29 2023-07-29 基于r-c-r结构的时空卷积交通流预测方法及*** Pending CN116959252A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310942036.0A CN116959252A (zh) 2023-07-29 2023-07-29 基于r-c-r结构的时空卷积交通流预测方法及***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310942036.0A CN116959252A (zh) 2023-07-29 2023-07-29 基于r-c-r结构的时空卷积交通流预测方法及***

Publications (1)

Publication Number Publication Date
CN116959252A true CN116959252A (zh) 2023-10-27

Family

ID=88460135

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310942036.0A Pending CN116959252A (zh) 2023-07-29 2023-07-29 基于r-c-r结构的时空卷积交通流预测方法及***

Country Status (1)

Country Link
CN (1) CN116959252A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117292551A (zh) * 2023-11-27 2023-12-26 辽宁邮电规划设计院有限公司 基于物联网的城市交通态势调节***与方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117292551A (zh) * 2023-11-27 2023-12-26 辽宁邮电规划设计院有限公司 基于物联网的城市交通态势调节***与方法
CN117292551B (zh) * 2023-11-27 2024-02-23 辽宁邮电规划设计院有限公司 基于物联网的城市交通态势调节***与方法

Similar Documents

Publication Publication Date Title
CN112988723B (zh) 一种基于空间自注意力图卷积循环神经网络的交通数据修复方法
CN109492822B (zh) 空气污染物浓度时空域关联预测方法
CN109887282B (zh) 一种基于层级时序图卷积网络的路网交通流预测方法
CN110399857B (zh) 一种基于图卷积神经网络的脑电情感识别方法
CN110827544B (zh) 一种基于图卷积循环神经网络的短时交通流控制方法
CN111612243B (zh) 交通速度预测方法、***及存储介质
CN113705880A (zh) 基于时空注意力图卷积网络的交通速度预测方法和装置
CN111860951A (zh) 一种基于动态超图卷积网络的轨道交通客流预测方法
CN110570035B (zh) 同时建模时空依赖性和每日流量相关性的人流量预测***
CN111047078B (zh) 交通特征预测方法、***及存储介质
CN112396587B (zh) 一种基于协同训练和密度图的公交车厢内拥挤度检测方法
CN114944053B (zh) 一种基于时空超图神经网络的交通流预测方法
CN112949828A (zh) 一种基于图学习的图卷积神经网络交通预测方法及***
CN115578851A (zh) 一种基于mgcn的交通预测方法
CN112991721A (zh) 基于图卷积网络节点关联度的城市路网交通速度预测方法
Fan et al. Predicting vacant parking space availability: a long short-term memory approach
CN116959252A (zh) 基于r-c-r结构的时空卷积交通流预测方法及***
CN112562312B (zh) 一种基于融合特征的GraphSAGE交通路网数据预测的方法
CN115376317B (zh) 一种基于动态图卷积和时序卷积网络的交通流预测方法
CN116596151B (zh) 基于时空图注意力的交通流量预测方法及计算设备
CN115828990A (zh) 融合自适应图扩散卷积网络的时空图节点属性预测方法
CN112949896A (zh) 一种基于融合序列分解与时空卷积的时序预测方法
Chen et al. A short-term traffic flow prediction model based on AutoEncoder and GRU
Kumar et al. Wind speed prediction using deep learning-LSTM and GRU
Jin et al. Trafformer: unify time and space in traffic prediction

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination