CN113065722B - 一种基于深度学习的连续多步预测道路智能养护*** - Google Patents

Abstract

本发明为一种基于深度学习的连续多步预测道路智能养护***，通过预测模型和残差修正模型，可以预测出未来几年内哪些道路病害会发展成比较严重的病害。根据道路的全寿命周期策略，全寿命周期养护管理即在有限的养护资金规模下，从公路整体出发，综合考虑路基路面运行现状并结合当前可采取的预防性养护技术，制定涵盖路面全寿命周期的中长期养护战略计划，并针对最佳路段确定最佳时机，对“最差”路段采取重建、维修、改善等有效的养护措施，实现最大化的资金利用效果和路况改善效果，指导用户进行科学的道路养护，避免因养护方法不佳而造成资金的浪费。

Description

一种基于深度学习的连续多步预测道路智能养护***

技术领域

本发明涉及道路养护技术领域，尤其是涉及一种基于深度学习的连续多步预测道路智能养护***。

背景技术

截止至2020年底，我国公路总里程达到510万公里，位居世界第一位。公路建成投入使用后，受车辆荷载、气候等因素的影响，一段时间后会出现许多的路面病害如裂缝、车辙、沉陷、坑槽、波浪拥包、松散等，如不及时处理会影响道路的正常使用年限。对道路进行养护能够保证行车安全、舒适、畅通，节约运输费用和时间。

现有技术的不足之处在于，传统的养护方法具有滞后性，养护方式比较被动，往往需要重复投入，修复规模比较大，养护后的路面很难达到原来的使用效果。CN 111105332 A一种基于人工神经网络的高速公路智能预养护方法及***，提高了预测精度和预测的前瞻性，但是此种预测方式不能实现路面性能的多步预测，无法提前得知哪些病害会发展成为比较严重的病害，以至于无法判断需要对哪些病害进行重点的修复。

发明内容

针对现有技术的不足，本发明拟解决的技术问题是，提供一种基于深度学习的连续多步预测道路智能养护***。

本发明解决所述技术问题的技术方案是，设计一种基于深度学习的连续多步预测道路智能养护***，该***包括以下内容：

1)基于GRU神经网络建立预测模型，预测模型能够根据历史的路面性能指标数据和道路环境数据，计算得到未来的路面性能指标预测值；预测模型表征路面不同位置的路面性能指标值在不同年份的变化规律，历史的道路环境数据和路面性能指标数据与未来路面性能指标数据之间的因果关系；然后用路面性能指标真实值减去路面性能指标预测值，得到残差。

2)基于GRU神经网络建立残差修正模型，残差修正模型的特征值与预测模型的特征值一样，即残差修正模型的输入为固定时间步长的路面性能指标数据和道路环境数据，残差修正模型的目标值为残差；残差修正模型能够准确的预测出残差预测值，然后将预测模型计算出的路面性能指标预测值与残差修正模型计算出的残差预测值相加，得到路面性能指标修正预测值；预测模型可以得到路面性能指标预测值，残差修正模型可以得到残差预测值，残差预测值与路面性能指标预测值相加，得到的就是路面性能指标修正预测值，将路面性能指标修正预测值作为对应年份的路面性能指标数据；通过迭代训练，得到训练好的预测模型和残差修正模型。

3)将相应时间步长的路面性能指标数据和道路环境数据作为特征值，输入训练好的预测模型计算出下一年的路面性能指标预测值，同时将相应时间步长的路面性能指标修正预测值和道路环境数据作为特征值输入训练好的残差修正模型计算出残差预测值，相加以后得到下一年的路面性能指标修正预测值，根据这个过程，不断的进行迭代预测，实现路面性能指标的连续多步预测。

4)建立一个问答***，问答可以快速准确的解答用户的问题。首先利用python和neo4j建立知识图谱，然后基于LSTM神经网络建立语义解析模型，基于Bi-SLSTM神经网络(双向切片长短期记忆神经网络)和卷积神经网络CNN进行实体和关系抽取，最后构建Cypher查询语句，输出结果。

与现有技术相比，本发明的有益效果是：

1通过预测模型和残差修正模型，可以预测出未来几年内哪些道路病害会发展成比较严重的病害。根据道路的全寿命周期策略，全寿命周期养护管理即在有限的养护资金规模下，从公路整体出发，综合考虑路基路面运行现状并结合当前可采取的预防性养护技术，制定涵盖路面全寿命周期的中长期养护战略计划，并针对最佳路段确定最佳时机，对“最差”路段采取重建、维修、改善等有效的养护措施，实现最大化的资金利用效果和路况改善效果，指导用户进行科学的道路养护，避免因养护方法不佳而造成资金的浪费。

2进行路面性能预测后，将预测结果导入问答***，问答***会根据已经建立好的知识图谱，能够回答用户道路可能会在哪个时间段出现哪种病害，以及产生病害的原因、如何避免此类病害发生，并给出合适道路养护策略。

3能够自动、快速的帮助用户解答道路养护相关问题，减少用户因查阅各种资料而浪费的时间。

总之，本方法能够高效，准确地预测出未来若干年内的路面性能指标值，为路面预养护工作提供准确的数据支持，通过多步的预测，提高养护的前瞻性。通过问答***，可以科学的指导用户实施养护工作，提高养护资金的利用率，延长路面的使用寿命。

附图说明

图1为GRU神经网络预测修正流程图；

图2为知识图谱及问答***构建流程图。

具体实施方式

下面结合实施例及附图，详细叙述本发明。具体实施例仅是对发明的进一步详细地说明及解释，并不以此限定本发明权利要求的保护范围。

本发明基于深度学习的连续多步预测道路智能养护***，包括以下步骤：

步骤1，数据采集和预处理

①收集环境因素和路面性能指标值，路面建成后第一年到第t+n年的路面性能指标数据(I₁，I₂，...，I_t，...，I_t+n)，以及路面建成后第一年到第t+n年的道路环境数据(E₁，E₂，...，E_t，...，E_t+n)。I_t表示第t年的路面性能指标值，E_t表示第t年的道路环境数据。路面性能指标包括：路面损坏状况指数(PCI)、路面行驶质量指数(RQI)、路面车辙深度指数(RDI)、路面抗滑性能指数(SRI)、路面结构强度指数(PSSI)等。环境数据包括温度、降雨量、交通量等。

②对数据进行标准化处理，将数据映射到(0，1)区间内。标准化公式：

其中，其中X_norm为标准化后的数据，x为原始数据。max为x所在列的最大值，min为x所在列的最小值。

③根据桩号的不同，将数据按照7：3的比例划分为训练集和测试集。假设一共有桩号为1km-100km路段的第一年到第t+n年的路面性能指标数据和道路环境数据，则将1km-70km的数据作为训练集，(所有桩号多年的数据一起训练，但是年份不是所有的一起训练，而是每次选取固定的步长，固定的步长指几年几年的选取，也就是每次用固定的参数长度，本实施例中参数长度为t)进行训练，71km-100km的数据作为测试集。每1km为一个桩号。

步骤2，基于GRU神经网络建立预测模型

GRU神经网络计算公式：

重置门计算公式：

候选值

的计算公式为：

更新门zt的计算公式为：

当前时刻的隐藏状态：

其中，σ为sigmoid函数；tanh为双曲正切函数；h_t为当前时刻的隐藏状态，h_t-1为上一个时刻传输下来的隐藏状态，x_t为当前时刻的状态，z_t为控制更新的门控，r_t为重置的门控；W_r、W_h、W_z为待训练的参数，按照随机初始化的方法赋予其初始化值。

①基于GRU神经网络建立预测模型，将(I₁，I₂，...，I_t，E₁，E₂，...，E_t)作为输入特征值，将I_t+1作为目标值。调节超参数，训练预测模型。

②通过训练得到历史的道路环境数据和路面性能指标数据与未来路面性能指标数据之间的因果关系的预测模型，该模型可根据输入的特征值计算出目标值；使用测试集测试预测模型，调节超参数直到模型满足预测精度要求，本实施例中精度要求为平均绝对百分比误差(MAPE)小于5％。则通过预测模型可以得到路面性能指标预测值

f₁指预测模型，

表示第t+1年的路面性能指标预测值。

步骤3计算残差，基于GRU神经网络建立残差修正模型，计算路面性能指标修正预测值。

首先利用路面性能指标真实值I_t+1减去路面性能指标预测值

得到残差，残差计算公式为：

R_t+1表示第t+1年的残差。

然后，基于GRU神经网络建立残差修正模型，将(I₁，I₂，...，I_t，E₁，E₂，...，E_t)作为输入特征值，R_t+1作为目标值。通过训练得到道路环境数据、路面性能指标数据与残差之间因果关系的残差修正模型；使用测试集测试残差修正模型，调节超参数直到满足精度要求，精度要求为平均绝对百分比误差(MAPE)小于5％。通过残差修正模

型可以得到残差预测值

f₂指残差修正模型，表示第t+1年的残差预测值。则残差预测值与路面性能指标预测值相加得到最终的路面性能指标修正预测值

为：

步骤2和步骤3，分别建立了预测模型和残差修正模型。利用

和其他已有的数据，通过预测模型和残差修正模型计算出第t+2年的路面性能指标修正预测值

计算过程如下：

E_t+1是本来已有的数据，收集到的数据包括了(E₁，E₂，...E_t+1，...，E_t+n)。每次输入到模型中的参数长度是固定的，所以第一次输入的是E1，...，Et。第二次输入的是E2，...，Et+1。

重复这个过程，直至计算得到

在进行预测时，时间步长为t，历史数据为1到t+n年的数据，t和n都为大于1的整数，因为n和t的大小不是确定的，所以当n＜t时，

的计算公式为：

当n＞t时，

的计算公式为：

按照此方法，即可根据道路第1年到第t+n年路面性能指标和道路环境数据训练出预测模型和残差修正模型。取待预测年份之前的连续固定时间步长的路面性能指标(这里的路面性能指标可以是历史路面性能指标也可以包含根据本申请步骤预测获得的路面性能指标预测值，根据实际时间步长确定)和道路环境数据即可连续预测未来几年的路面性能指标，实现路面性能指标的多步预测，并且在预测模型的基础上加入了残差修正模型，能够及时的修正预测值，在进行连续多步预测时，能够减少误差的传播，提高预测精度。本实施例中t+n年的数据为已知，在实际使用时预测年份的道路环境数据可通过现有的道路环境数据预测方式进行预测获得。

最后将路面性能指标的修正预测结果保存到本地，保存的数据为每个桩号每一年的路面性能指标修正预测结果。

上述中

其中，y_a表示真实值，

表示预测值，这里n则表示值的个数。

步骤4知识图谱及问答***的构建

1)知识图谱构建。读取路面性能指标的修正预测结果，该预测结果表示为第几个桩号哪一年的路面性能指标修正预测值是多少。寻找与道路养护相关的规范，包括：道路建设期、道路服役期以及道路养护规范，例如但不限于《公路工程技术标准》JTG B01-2014、《公路技术状况评定标准》JTG5210-2018、《公路沥青路面养护技术规范》-JTG 5142-2019。将预测结果和规范的非结构化文本数据采用规则匹配与人工检查的方式进行预处理，得到结构化数据并保存到EXCEL表格中。预处理后的数据应是三元组形式的结构化数据，例如：(节点1，关系，节点2).

安装py2neo工具箱，使用python连接到neo4j图数据库平台，读取已经创建好的EXCEL文件，将节点和关系创建到neo4j平台中，构建一个关于道路病害养护的知识图谱。将知识图谱中所有的节点和关系构建为一个数据集，然后使用BIO标注法对每个词进行标注，生成BIO实体和关系标注集。

2)语义解析。给定一个单词W＝{c₁，c₂，...，c_m}，其中ci表示单词中的第i个字符，m表示单词W中有m个字符。则单词所对应的词向量可以表示为vw，单词对应的字符向量序列可以表示为：

w＝{v_c1，v_c2，...，v_cn}

使用长短期记忆(LSTM)神经网络对字符向量序列编码，得到字符级别的向量表示：

v_c＝LSTM({v_c1，v_c2，...，v_cn})

单词最终可以表示为：

V＝[v_w，v_c]

v_w为单词的词向量。

3)使用BI-SLSTM-CNN神经网络进行实体和关系抽取。

3.1)使用BI-SLSTM神经网络提取单词特征

对于问句q＝{q₁，q₂，...，q_l}，可将该问句表示为V＝{v₁，v₂，...，v_l}，l表示问句q中单词的个数。将解析后的问句V输入至双向长短期记忆(BI-SLSTM)神经网络并提取问句序列特征，得到该时刻的隐藏层输出向量h_i＝SLSTM(v_i，h_i-1)。其中，h_i-1是上一个时刻输出的隐藏层状态，i表示长短期记忆神经网络第i个时刻。将正向隐藏层状态和反向的隐藏层状态进行拼接得到双向长短期记忆(Bi-SLSTM)神经网络的输出h：

则双向切片长短期记忆(Bi-SLSTM)神经网络层的输出序列h＝{h₁，h₂，...，h_l}。

3.2)预测单词是否属于实体或关系词汇

Bi-SLSTM神经网络的输出序列h即为问句单词序列，给定一个训练集，训练集中包含一定数量的问句单词序列h＝{h₁，h₂，...，h_j}和这些问句对应的实体和关系的真实标签t＝{t₁，t₂，...，t_j}，将问句单词序列作为特征值，真实标签作为目标值，训练得到CNN预测模型。利用sigmoid函数将CNN预测模型的输出压缩到0到1之间。通过CNN预测模型可以预测得到某个词汇属于或实体或关系的概率为O_k＝σ(W[h_k-s，...，h_k，...，h_k+s]+b)，其中，W是CNN预测模型的参数，b是偏置项，σ为激活函数，此处使用sigmoid激活函数，表达式为：

k是指第k个单词，从k-s到k+s一共2s+1个数，2s+1是指CNN预测模型的滑动窗口大小。滑动窗口就是能够根据指定单位长度来框住单词局部上下文，从而获得窗口内单词上下文特征。则第k个单词属于实体或关系组成部分的概率为：P(W_k∈TE|q)＝O_k，TE是指实体和关系。最后设定一个概率阈值，例如将阈值设置为0.5，当概率P大于0.5时，单词被认为是实体或关系的组成部分。概率小于0.5的单词被认为非实体或关系组成部分。

4)结果查询与输出。通过语义解析、实体和关系抽取，可以得到问题中涉及到的实体和关系。然后根据这些实体和关系，构建Cypher查询语句。例如，识别出的实体是车辙，关系是预防方法，则需要构造一条Cypher查询语句match(a：Entity)-[b：Relation]-(c：Entity)where a.name＝'<rut>'and b.name＝'<prevent>'return c.name，用于查询车辙(rut)的预防方法。如果用户问的是多个问题，程序就会构造出多条查询语句。将查询语句通过python输入到neo4j平台进行查询，得到问题的答案，最后根据调用相应的回复模板，比如从问题中提取的关系为预防方法，则回复“****”的预防方法有“****”，如果问题中提取的关系为原因，则回复造成“****”的原因可能有“****”，将结果呈现给用户。

本发明中引入门控循环单元(GRU)神经网络，是RNN的一种变体，门控循环单元(GRU)神经网的输出不仅受当前输入特征的影响，而且受前一时刻的输出影响，所以具有更好的时间序列性能，它有一个重置门和一个更新门。重置门决定了新的输入信息与前面的记忆信息如何结合，更新门决定了之前记忆保存到当前时间步的信息，从而解决梯度消失和梯度***问题。切片长短期记忆(SLSTM)神经网络将输入序列进行多次切片处理，形成多个长度相等的最小子序列。因此，循环单元可以在每个层上同时处理每个子序列，实现并行计算，然后通过多层网络进行信息传递。SLSTM神经网络能够加快实体和关系抽取的速度，特别是处理长文本时，有较大的优势。双向切片长短期记忆神经网络(BI-SLSTM)包含前向的SLSTM与后向的SLSTM，它同时考虑了历史信息和将来信息对预测准确性的影响。

本发明未述及之处适用于现有技术。

Claims (5)

1.一种基于深度学习的连续多步预测道路智能养护***，该***包括以下内容：

基于GRU神经网络建立预测模型，预测模型能够根据历史的路面性能指标数据和道路环境数据，计算得到未来的路面性能指标预测值；预测模型表征路面不同位置的路面性能指标值在不同年份的变化规律，历史的道路环境数据和路面性能指标数据与未来路面性能指标数据之间的因果关系；

然后用路面性能指标真实值减去路面性能指标预测值，得到残差；

基于GRU神经网络建立残差修正模型，残差修正模型的特征值与预测模型的特征值一样，即残差修正模型的输入为固定时间步长的路面性能指标数据和道路环境数据，残差修正模型的目标值为残差；残差修正模型用于预测出残差预测值；

然后将预测模型计算出的路面性能指标预测值与残差修正模型计算出的残差预测值相加，得到路面性能指标修正预测值，将路面性能指标修正预测值作为对应年份的路面性能指标数据；通过迭代训练，得到训练好的预测模型和残差修正模型；

将相应时间步长的路面性能指标数据和道路环境数据作为特征值，输入训练好的预测模型计算出下一年的路面性能指标预测值，同时将相应时间步长的路面性能指标修正预测值和道路环境数据作为特征值输入训练好的残差修正模型计算出残差预测值，相加以后得到下一年的路面性能指标修正预测值，根据这个过程，不断的进行迭代预测，实现路面性能指标的连续多步预测；

该养护***还包括有知识图谱及问答***，进行路面性能连续多步预测后，将路面性能指标的修正预测结果保存到本地，保存的数据为每个桩号每一年的路面性能指标修正预测结果，将预测结果导入知识图谱及问答***中，问答***会根据已经建立好的知识图谱，能够回答用户道路可能会在哪个时间段出现哪种病害，以及产生病害的原因、如何避免此类病害发生，并给出合适道路养护策略；

所述养护***能预测出未来几年内哪些道路病害会发展成比较严重的病害，在有限的养护资金规模下，从公路整体出发，综合考虑路基路面运行现状并结合当前能采取的预防性养护技术，制定涵盖路面全寿命周期的中长期养护战略计划，并针对最佳路段确定最佳时机，对“最差”路段采取重建、维修或改善的养护措施，实现最大化的资金利用效果和路况改善效果，指导用户进行科学的道路养护，避免因养护方法不佳而造成资金的浪费。

2.根据权利要求1所述的养护***，其特征在于，所述知识图谱及问答***的构建过程是：首先利用python和neo4j建立知识图谱，然后基于LSTM神经网络建立语义解析模型，基于Bi-SLSTM神经网络和卷积神经网络CNN进行实体和关系抽取，最后构建Cypher查询语句，建立好问答***。

3.根据权利要求2所述的养护***，其特征在于，知识图谱及问答***的构建过程是：

1)知识图谱构建：

读取路面性能指标的修正预测结果，并寻找与道路养护相关的规范，包括：道路建设期、道路服役期以及道路养护规范，将规范和预测结果中的非结构化文本数据采用规则匹配与人工检查的方式进行预处理，得到结构化数据并保存到EXCEL表格中；预处理后的数据应是三元组形式的结构化数据，包括节点和关系；

安装py2neo工具箱，使用python连接到neo4j图数据库平台，读取已经创建好的EXCEL文件，将节点和关系创建到neo4j平台中，构建一个关于道路病害养护的知识图谱；将知识图谱中所有的节点和关系构建为一个数据集，然后使用BIO标注法对每个词进行标注，生成BIO实体和关系标注集；

2)语义解析：使用长短期记忆(LSTM)神经网络对字符向量序列编码，得到字符级别的向量；将字符级别的向量和词向量合并为单词，

3)使用Bi-SLSTM神经网络和卷积神经网络CNN进行实体和关系抽取：

3.1)使用BI-SLSTM神经网络提取单词特征

将单词表示的问句输入至双向长短期记忆(BI-SLSTM)神经网络并提取问句序列特征，输出为问句单词序列，

3.2)预测单词是否属于实体或关系词汇

给定一个训练集，训练集中包含大量问句单词序列h＝{h₁，h₂，...，h_j}和这些问句对应的实体和关系的真实标签t＝{t₁，t₂，...，t_j}，将问句单词序列作为特征值，真实标签作为目标值，训练得到CNN预测模型；利用sigmoid函数将CNN预测模型的输出压缩到0到1之间，通过CNN预测模型能预测得到某个词汇属于或实体或关系的概率；设定概率阈值，当概率P大于概率阈值时，单词被认为是实体或关系的组成部分，否则单词被认为非实体或关系组成部分；

4)结果查询与输出

通过语义解析、实体和关系抽取，能得到问题中涉及到的实体和关系，然后根据这些实体和关系，构建Cypher查询语句，如果用户问的是多个问题，程序就会构造出多条查询语句，将查询语句通过python输入到neo4j平台进行查询，得到问题的答案，最后根据调用相应的回复模板，将结果呈现给用户。

4.根据权利要求1所述的养护***，其特征在于，所述路面性能指标包括：路面损坏状况指数(PCI)、路面行驶质量指数(RQI)、路面车辙深度指数(RDI)、路面抗滑性能指数(SRI)、路面结构强度指数(PSSI)；道路环境数据包括温度、降雨量、交通量；收集路面建成后第一年到第t+n年的路面性能指标数据，以及路面建成后第一年到第t+n年的道路环境数据，并对数据进行标准化处理；再根据桩号不同划分测试集和训练集，用于GRU神经网络的建立。

5.根据权利要求1所述的养护***，其特征在于，根据道路第1年到第t+n年路面性能指标和道路环境数据训练出预测模型和残差修正模型；然后利用训练好的预测模型和残差修正模型实现路面性能指标的多步预测，并且在预测模型的基础上加入了残差修正模型，能够及时的修正预测值，在进行连续多步预测时，能够减少误差的传播。

Images