CN107563425A - 一种基于随机森林的隧道运营状态感知模型的建立方法 - Google Patents

Abstract

一种基于随机森林的隧道运营状态感知模型的建立方法，随机抽取ntree个新的自助样本集并构建ntree棵决策树，在决策树的每个节点随机选取mtry个特征，从中选出一个特征进行分支生长，得到随机森林泛化误差的无偏估计，计算程序运行时间；迭代运行所有ntree和mtry参数组合，输出所有参数组合对应的无偏估计和运行时间，确定随机森林中最优ntree和mtry参数组合值，建立隧道运营状态感知模型。本发明可提升其分析复杂相关关系数据的能力且不容易出现过拟合现象，实际预测结果表明其平均感知精度、召回率、F度量均优于对比模型，能够更好地适应隧道运营状态变化要求，可为隧道运营状态提供精准实时感知和预测。

Description

一种基于随机森林的隧道运营状态感知模型的建立方法

技术领域

本发明涉及隧道工程领域，尤其涉及一种基于随机森林的隧道运营状态感知模型的建立方法。

背景技术

近年来大量特长公路隧道陆续建成并投入运营，公路隧道已逐渐由建设高峰期转向运营高峰期。但由于受到交通组成和交通量的影响，洞内污染物持续累积，排出或稀释相对困难，使得通风问题成为运营期间面临的首要问题，给隧道运营管理带来难题。因此，需要对隧道内交通流数据与环境监测数据进行分析，在确定隧道运营状态后，制定相应的运营管控措施。其中隧道运营状态感知模型的合理性与科学性，直接决定了隧道运营管控措施的有效性。但由于特长公路隧道运营状态由隧道内的人、车、路、环境等交通要素共同相互影响叠加产生，其影响因素众多、演化规律复杂，目前尚无科学的划分方法和统一的划分标准。已公开的文献及专利文件中也并无综合利用隧道内实时交通流信息和通风环境信息进行运营状态分析的研究发明。

随机森林是一种有监督的集成学习分类技术，其模型由一组决策树分类器组成。而决策树算法是一种经典的数据挖掘算法，本质上是通过一系列规则对数据进行递归分类的过程，使用较为普遍的决策树算法有：ID3、C4.5和CART等。由于单决策树存在精度不高、容易过拟合等缺陷，采用集成学习将多个算法进行集成成为机器学习领域的研究热点。

2001年Breiman将其提出的Bagging理论与CART决策树以及Ho提出的随机子空间方法相结合，提出了一种非参数分类与回归算法-随机森林。随机森林的基本思想如图1所示，首先利用自助重采样技术从训练样本集中有放回地随机抽取多个子样本生成新的训练样本集；然后根据自助样本集构建多棵决策树形成随机森林；最后根据输入的待分类/回归样本。随机森林对每棵决策树的输出结果采用简单多数投票或单棵树输出结果简单平均的方式决定最后的预测结果，近年来大量理论研究和实例验证表明随机森林具备分析复杂相关关系数据的能力和预测精度较高且不容易出现过拟合等诸多优势。

但是目前，没有一种模型能够更好地适应隧道运营状态变化要求，可为隧道运营状态提供精准实时感知和预测，所以有必要提供一种基于随机森林的隧道运营状态感知模型的建立方法。

发明内容

本发明的目的在于提供一种基于随机森林的隧道运营状态感知模型的建立方法。

为实现上述目的，本发明的技术方案如下：

一种基于随机森林的隧道运营状态感知模型的建立方法，包括以下步骤：

步骤1)：确定隧道运营监测训练集样本数N和变量数M；

步骤2)：确定随机森林中参数ntree和mtry组合范围及初始值；其中，ntree为随机森林中决策树的数量，mtry为每一个***节点随机抽取变量数量，且mtry＜M；

步骤3)：利用Bootstrap法重采样有放回地随机抽取ntree个新的自助样本集并构建ntree棵决策树，每次未被抽到的样本组成ntree个袋外数据；

步骤4)：每个自助样本集生长成为一棵决策树，在决策树的每个节点随机选取mtry个特征，从中选出一个特征进行分支生长，使决策树生长；

步骤5)：根据生成的ntree棵决策树，对输入的训练集样本进行预测，同时计算每棵决策树袋外数据误差；

步骤6)：分析每棵决策树的预测结果，即输出所有树中预测概率总和最大的那一个类得到最终分类结果，再平均所有树的袋外数据误差，得到随机森林泛化误差的无偏估计，同时计算程序运行时间；

步骤7)：重复步骤2)-7)，迭代运行所有ntree和mtry参数组合，输出所有参数组合对应的随机森林泛化误差的无偏估计和运行时间；

步骤8)：确定随机森林中最优ntree和mtry参数组合值，建立基于随机森林的隧道运营状态感知模型。

本发明进一步的改进在于，步骤1)中确定隧道运营监测训练集样本数N的具体过程为：

首先自定义隧道运营状态感知问题：给定训练集T＝{(x₁,y₁),…,(x_N,y_N)}∈(X⁵×Y)^N，其中，N为训练集样本数；x_i∈X⁵表示模型输入的隧道运营监测样本数据集中第i个样本，包含CO、NO₂、风速、细颗粒物、重载车的监测结果，y_i∈Y＝{c₁,c₂,c₃,c₄}表示样本对应的轻度污染、中度污染、重度污染和严重污染四种状态中的一种，i表示训练集中样本编号，i＝1,2,3,…,N，据此寻找状态空间X⁵上的一个决策函数f(x):X⁵→Y，用以推断任一监测样本对应的隧道运营状态。

本发明进一步的改进在于，N的数值大于500。

本发明进一步的改进在于，步骤4)中按照节点不纯度最小原则从中选出一个特征进行分支生长。

本发明进一步的改进在于，步骤5)中计算每棵决策树袋外数据误差的具体过程为：所述随机森林的OOB个数为训练集T的(1-1/N)^N，当N无限大时，OOB的个数比例将收敛于1/e≈0.368，即构建每颗决策树时有37％的数据样本不会被抽出；由于OOB数据在决策树构造过程中未被使用，因此用OOB数据以下列方式进行预测：

假设是ntree棵决策树中的任意第b棵的OOB部分数据，对训练集T每个样本x_i，i＝1,2,3，……N，平均1/e≈0.368的时间内，通过OOB数据来对进行综合预测，其中，0＜b≤ntree；其分类误差率ER的估计值根据下式计算：

式(1)中：I(·)表示指标函数，ER为分类误差率，ER^OOB为袋外数据误差，为袋外数据预测结果，Y_i为实际结果。

本发明进一步的改进在于，步骤8)中选取随机森林泛化误差的无偏估计最小以及运行时间时间最短的ntree和mtry参数组合值为最优ntree和mtry参数组合值。

与现有技术相比，本发明具有的有益效果如下：本发明基于随机森林的感知模型构建，通过参数调优，综合考虑感知精确性和计算时效性，确定出模型中的最优参数ntree和mtry组合，可提升其分析复杂相关关系数据的能力且不容易出现过拟合现象。本发明实际预测结果表明其平均感知精度、召回率、F度量均优于Naive Bayes模型和SVM模型，能够更好地适应隧道运营状态变化要求，可为隧道运营状态提供精准实时感知和预测。本发明更好地适应隧道运营状态动态变化要求并提供精准预测为制定特长公路隧道通风设施和交通运行智能管控方案提供理论依据和科学方法。

进一步的，应用大数据分析技术对隧道内交通组成、交通流量等交通流数据和各类污染物浓度、风速等通风环境数据进行深入融合，建立数据驱动的运营状态感知模型，实现隧道运营状态自动识别、自动预警，进而提高隧道运营状态研判水平。

附图说明

图1为随机森林算法示意图；

图2为基于随机森林隧道运营状态感知模型建立方法的流程图；

图3为本发明实施例提供的秦岭一号隧道南行线结构示意图；

图4为本发明实施例提供的ntree和mtry参数组合对袋外数据误差的影响关系图；

图5为本发明实施例提供的ntree和mtry参数组合对运行时间的影响关系图；

图6为本发明实施例提供的特征变量重要性指标图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明确，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

随机森林中每棵决策树均为二叉树，其生成遵循自顶向下的递归***原则，即从根节点开始依次对训练集进行划分。在二叉树中，根节点包含全部训练集数据，按照节点不纯度最小原则，***为左节点和右节点，分别包含训练数据的一个子集，节点继续按照同样规则进行***，直到满足分支停止规则而停止生长。

参见图2，一种基于随机森林的隧道运营状态感知模型的建立方法，包括训练集样本数N和变量数M的确定、决策树数量ntree和随机抽取变量数mtry参数范围及初始值的确定、随机森林的构建、最优参数组合值的确定等，具体如下：

步骤1)：确定隧道运营监测训练集样本数N和变量数M；

首先自定义隧道运营状态感知问题：给定训练集T＝{(x₁,y₁),…,(x_N,y_N)}∈(X⁵×Y)^N，其中，N为训练集样本数，数值范围大于500；x_i∈X⁵表示模型输入的隧道运营监测样本数据集中第i个样本，包含CO、NO₂、风速、细颗粒物、重载车(Heavy Goods Vehicles,HGV)的监测结果，y_i∈Y＝{c₁,c₂,c₃,c₄}表示样本对应的轻度污染、中度污染、重度污染和严重污染四种状态中的一种，i表示训练集中样本编号，i＝1,2,3,…,N，据此寻找状态空间X⁵上的一个决策函数f(x):X⁵→Y，用以推断任一监测样本对应的隧道运营状态。

步骤2)：确定随机森林中参数ntree(随机森林中决策树的数量)和mtry(每一个***节点随机抽取变量数量，且mtry＜M)组合范围及初始值；

步骤3)：利用Bootstrap法重采样有放回地随机抽取ntree个新的自助样本集并构建ntree棵决策树，每次未被抽到的样本组成ntree个袋外(Out of Bag,OOB)数据；

步骤4)：每个自助样本集生长成为一棵决策树，在决策树的每个节点随机选取mtry个特征，按照节点不纯度最小原则从中选出一个特征进行分支生长，使决策树生长；

步骤5)：根据生成的ntree棵决策树，对输入的训练集样本进行预测，同时计算每棵决策树袋外数据误差(OOB Error Rate)；

所述随机森林的OOB个数为训练集T的(1-1/N)^N，当N无限大时，即趋于无穷大时，OOB的个数比例将收敛于1/e≈0.368，即构建每颗决策树时约有37％的数据样本不会被抽出。由于OOB数据在决策树构造过程中未被使用，因此可用OOB数据以下列方式进行预测：

假设是ntree棵决策树中的任意第b棵(0＜b≤ntree)决策树的OOB部分数据，对训练集T每个样本x_i，i＝1,2,3，……N，平均1/e≈0.368的时间内，可通过OOB数据来对进行综合预测。其分类误差率(Error Rate,ER)的估计值根据下式计算：

式(1)中：I(·)表示指标函数。ER为分类误差率，ER^OOB为袋外数据误差，为袋外数据预测结果，Y_i为实际结果。

步骤6)：分析每棵决策树的预测结果，即输出所有树中预测概率总和最大的那一个类得到最终分类结果，再平均所有树的袋外数据误差(OOB Error Rate)，得到随机森林泛化误差的无偏估计(OOB Estimate of Error Rate)，同时计算程序运行时间；

步骤7)：重复步骤2)-7)，迭代运行所有ntree和mtry参数组合，输出所有参数组合对应的随机森林泛化误差的无偏估计和运行时间；

步骤8)：确定随机森林中最优ntree和mtry参数组合值，即选取随机森林泛化误差的无偏估计最小以及运行时间时间最短的ntree和mtry参数组合值为最优ntree和mtry参数组合值，建立隧道运营状态随机森林感知模型。

由上述分析可知构建随机森林感知模型的两个重要参数为：

(1)ntree-随机森林中决策树的数量；

(2)mtry-每一个***节点随机抽取变量数量。

其中，ntree决定了整片随机森林的总体规模，mtry决定了单棵决策树的情况。

对于给定的轻度污染、中度污染、重度污染和严重污染四种隧道运营状态分类集合Y＝{c₁,c₂,c₃,c₄}，其感知结果混淆矩阵可由表1表示。

表1隧道运营状态混淆矩阵

如表1所示，n_i,j表示为分类器将状态类别c_i中的样本识别为类别c_j的数量。i为1～4，j为1～4，混淆矩阵主要反映状态类别空间Y的分布情况并体现分类器的识别性能。其中第i行反映的是类别c_i的召回率(Recall)，第j列反映的是类别c_j的精度(Precision)。因此对某特定隧道运营状态(如状态c_j)，计算其独立的精度和召回率可分别根据式(2)和式(3)计算:

式(4)综合利用精度和召回率的调和均值得到新的统计量-F度量(F-measure)：

下面通过一个具体实施例进行说明。

本发明以秦岭一号隧道南行线为工程依托，进而开展隧道运营实时监测实验并结合附图对本发明的具体实施方式做进一步说明。

如图3所示，秦岭一号隧道为分离式双洞四车道隧道，南行线全长6102m，隧道入口海拔为1322m，出口海拔为1391m，平均纵坡为+2.58％，设置紧急停车带11处(ESA-1至ESA-11)，共安装射流风机30台，预留送排式通风斜井1处。由于该隧道采用全射流纵向通风方式，隧道内的污染物浓度符合“上三角”分布特征，即入洞口浓度最低，出洞口浓度最高。综上分析，最终选取污染最严重的ESA-11处停车带作为本发明研究的监测地点。

如表2所示，采集隧道环境数据和交通量调查两大类七项数据，其中交通量调查将车型划分为乘用车(Passenger Cars,PC)、轻型车(Light-Duty Vehicles,LDV)和重载车(Heavy-Goods Vehicles,HGV)等三种。在隧道运营监测期内的交通组成中，PC、LDV和HGV比例分别为29.46％、3.21％和67.32％，LDV占比较低，故可忽略LDV对运营状态的影响。通过计算变量间Pearson相关系数可知，CO、NO₂均与HGV呈强相关关系，与PC呈弱相关关系，因此也可忽略PC对运营状态的影响，仅保留HGV。故最终选取CO、NO₂、风速、细颗粒物、HGV等五类数据作为本发明研究的样本数据集。

表2本发明实施例提供的隧道运营监测数据

进一步地，对监测的样本数据集进行异常值检测，判断是否含有缺失值和噪声数据。造成缺失值的主要原因为气体监测设备或车辆检测器故障，噪声数据主要为污染物浓度或交通量超出合理范围。由于异常值占总样本比例较小，故对所有异常数据进行剔除。进一步地，在所述感知模型建立之前进行参数调优，首先将经检测并处理后的隧道运营监测样本数据集按7:3的比例随机划分成训练数据集和测试数据集，前者用于随机森林模型参数调优和变量重要性计算，后者则用于评价模型分类效果。

如图4与图5所示，将ntree和mtry综合考虑，以袋外数据误差(OOB Error)最小原则确定最优参数组合。取ntree＝10,20,…,500；mtry＝1,2,3,4,5，在训练数据集中迭代运行250种ntree和mtry参数组合，得出基于随机森林分类器中ntree和mtry参数组合对袋外数据误差和运行时间的影响关系。

结合图4与图5分析可知，袋外数据误差主要受ntree影响，随ntree值增大而减小，即分类结果越精确，相应的运行时间线性增长，但仍为毫秒级，计算时效可忽略不计；mtry对OOB Error影响不大，当ntree>200后OOB Error近似收敛，再之后ntree继续增大已对于分类结果精度基本没有影响。由此可验证出随机森林不会产生过拟合现象，其分类误差随着决策树数量的增加而收敛。综合考虑分类精度和计算时效，本发明实施例选取ntree＝500；mtry＝1作为最优参数组合，其对应OOB Error的无偏估计为6.8％。

如图6所示，所述随机森林模型的建立可以度量特征变量的重要性，利用这一特性，一方面可以按照重要程度对特性变量进行排序；另一方面，可以优选特征子集进行维度约简(避免“维度灾难”)，降低计算复杂度，提高学***均下降精度(Mean Decrease Accuracy,MDA)和平均下降Gini指数(MeanDecrease Gini,MDG)。将前者定义为袋外数据自变量发生轻微扰动后的分类正确率与扰动前分类正确率的平均降低量，后者定义为Gini指数的平均降低量。MDA和MDG越大，表示特征变量越重要。

进一步地，在本发明实施例中，将训练数据集应用最优参数组合，分别计算各变量重要性指标。通过分析可知对于隧道运营状态的变化，其变量重要性从大到小依次为NO₂、CO、HGV、细颗粒物与风速，可见两种气体污染物NO₂和CO是影响隧道运营状态变化的核心因素。

最后分别应用朴素贝叶斯(Navie Bayes)、支持向量机(Support VectorMachine,SVM)和本发明实施例构建的随机森林感知模型对测试数据集中的样本状态进行预测并结合实际分类结果建立混淆矩阵，其各类评价指标结果见表3。

表3不同感知模型评价指标对比结果

注：样本集中度污染状态缺失

通过计算可得，采用Naive Bayes模型平均感知精度、召回率、F度量分别为96.72％、89.83％和92.77％；采用SVM模型平均感知精度、召回率、F度量分别为98.83％、94.43％和96.41％；而基于随机森林感知模型的平均感知精度、召回率、F度量分别为98.83％、95.52％和97.07％。由此可知，在三种模型中基于随机森林感知模型的效果最好，能够更好地适应隧道运营状态变化要求，为隧道运营状态提供精准预测进而提高隧道运营管控精准度。

以上内容是结合具体实施例对本发明方法所作的进一步详细说明，不能认定本发明方法的具体实施只局限于此。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下做出若干等同替代或明显变型，且性能或用途相同，都应当视为属于本发明由所提交的权利要求书确定的专利保护范围。

Claims (6)

1.一种基于随机森林的隧道运营状态感知模型的建立方法，其特征在于，包括以下步骤：

步骤1)：确定隧道运营监测训练集样本数N和变量数M；

步骤2)：确定随机森林中参数ntree和mtry组合范围及初始值；其中，ntree为随机森林中决策树的数量，mtry为每一个***节点随机抽取变量数量，且mtry＜M；

步骤3)：利用Bootstrap法重采样有放回地随机抽取ntree个新的自助样本集并构建ntree棵决策树，每次未被抽到的样本组成ntree个袋外数据；

步骤4)：每个自助样本集生长成为一棵决策树，在决策树的每个节点随机选取mtry个特征，从中选出一个特征进行分支生长，使决策树生长；

步骤5)：根据生成的ntree棵决策树，对输入的训练集样本进行预测，同时计算每棵决策树袋外数据误差；

步骤6)：分析每棵决策树的预测结果，即输出所有树中预测概率总和最大的那一个类得到最终分类结果，再平均所有树的袋外数据误差，得到随机森林泛化误差的无偏估计，同时计算程序运行时间；

步骤7)：重复步骤2)-7)，迭代运行所有ntree和mtry参数组合，输出所有参数组合对应的随机森林泛化误差的无偏估计和运行时间；

步骤8)：确定随机森林中最优ntree和mtry参数组合值，建立基于随机森林的隧道运营状态感知模型。

2.根据权利要求1所述的一种基于随机森林的隧道运营状态感知模型的建立方法，其特征在于，步骤1)中确定隧道运营监测训练集样本数N的具体过程为：

首先自定义隧道运营状态感知问题：给定训练集T＝{(x₁,y₁),…,(x_N,y_N)}∈(X⁵×Y)^N，其中，N为训练集样本数；x_i∈X⁵表示模型输入的隧道运营监测样本数据集中第i个样本，包含CO、NO₂、风速、细颗粒物、重载车的监测结果，y_i∈Y＝{c₁,c₂,c₃,c₄}表示样本对应的轻度污染、中度污染、重度污染和严重污染四种状态中的一种，i表示训练集中样本编号，i＝1,2,3,…,N，据此寻找状态空间X⁵上的一个决策函数f(x):X⁵→Y，用以推断任一监测样本对应的隧道运营状态。

3.根据权利要求1所述的一种基于随机森林的隧道运营状态感知模型的建立方法，其特征在于，N的数值大于500。

4.根据权利要求1所述的一种基于随机森林的隧道运营状态感知模型的建立方法，其特征在于，步骤4)中按照节点不纯度最小原则从中选出一个特征进行分支生长。

5.根据权利要求1所述的一种基于随机森林的隧道运营状态感知模型的建立方法，其特征在于，步骤5)中计算每棵决策树袋外数据误差的具体过程为：所述随机森林的OOB个数为训练集T的(1-1/N)^N，当N无限大时，OOB的个数比例将收敛于1/e≈0.368，即构建每颗决策树时有37％的数据样本不会被抽出；由于OOB数据在决策树构造过程中未被使用，因此用OOB数据以下列方式进行预测：

假设是ntree棵决策树中的任意第b棵的OOB部分数据，对训练集T每个样本x_i，i＝1,2,3，……N，平均1/e≈0.368的时间内，通过OOB数据来对进行综合预测，其中，0＜b≤ntree；其分类误差率ER的估计值根据下式计算：

<mrow> <mi>E</mi> <mi>R</mi> <mo>&amp;ap;</mo> <msup> <mi>ER</mi> <mrow> <mi>O</mi> <mi>O</mi> <mi>B</mi> </mrow> </msup> <mo>=</mo> <mfrac> <mn>1</mn> <mi>n</mi> </mfrac> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>n</mi> </munderover> <mi>I</mi> <mrow> <mo>(</mo> <msup> <mover> <mi>Y</mi> <mo>^</mo> </mover> <mrow> <mi>O</mi> <mi>O</mi> <mi>B</mi> </mrow> </msup> <mo>(</mo> <msub> <mi>x</mi> <mi>i</mi> </msub> <mo>)</mo> <mo>&amp;NotEqual;</mo> <msub> <mi>Y</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>1</mn> <mo>)</mo> </mrow> </mrow>

式(1)中：I(·)表示指标函数，ER为分类误差率，ER^OOB为袋外数据误差，为袋外数据预测结果，Y_i为实际结果。

6.根据权利要求1所述的一种基于随机森林的隧道运营状态感知模型的建立方法，其特征在于，步骤8)中选取随机森林泛化误差的无偏估计最小以及运行时间时间最短的ntree和mtry参数组合值为最优ntree和mtry参数组合值。