CN114912787A - 一种企业危险废物瞒报漏报风险的智能评估方法 - Google Patents

一种企业危险废物瞒报漏报风险的智能评估方法 Download PDF

Info

Publication number
CN114912787A
CN114912787A CN202210486252.4A CN202210486252A CN114912787A CN 114912787 A CN114912787 A CN 114912787A CN 202210486252 A CN202210486252 A CN 202210486252A CN 114912787 A CN114912787 A CN 114912787A
Authority
CN
China
Prior art keywords
enterprise
data
waste
production
abnormal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210486252.4A
Other languages
English (en)
Inventor
毕军
方文
刘苗苗
俞清源
马宗伟
黄玉洁
谢文君
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University
Original Assignee
Nanjing University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University filed Critical Nanjing University
Priority to CN202210486252.4A priority Critical patent/CN114912787A/zh
Publication of CN114912787A publication Critical patent/CN114912787A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0635Risk analysis of enterprise or organisation activities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/26Government or public services
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02WCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO WASTEWATER TREATMENT OR WASTE MANAGEMENT
    • Y02W90/00Enabling technologies or technologies with a potential or indirect contribution to greenhouse gas [GHG] emissions mitigation

Landscapes

  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Engineering & Computer Science (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Marketing (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Educational Administration (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Development Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Game Theory and Decision Science (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明提供一种企业危险废物瞒报漏报风险的智能评估方法,获取企业相关数据表,完成数据表间的精确匹配,构建不同行业的产废多维数据库;消除多维数据库中的脏数据,确定时间分辨率进行合并,得到初始样本数据集;利用无监督异常检测集成框架对初始样本数据集进行异常数据的识别、剔除,获得预测数据集;利用预测数据集,进行随机森林模型的训练和验证,对监管时间段内企业的理论产废量和理论产废范围进行预测,计算企业危废产量瞒报漏报概率和数量。本发明基于企业的基础信息和在线监测数据,结合无监督异常检测和有监督机器学习方法,精准预测企业的危废理论产废量和瞒报漏报风险,从而实现危险废物源头的智能监管。

Description

一种企业危险废物瞒报漏报风险的智能评估方法
技术领域
本发明涉及危险废物产量评估技术领域,特别是涉及一种企业危险废物瞒报漏报风险的智能评估方法。
背景技术
危险废物是指列入国家危险废物名录或者根据国家规定的危险废物鉴别标准和鉴别方法认定的具有危险特性(包括腐蚀性、毒性、易燃性、反应性和感染性)的固体废物。近年来随着城市化和工业化进程的加快,我国危险废物的产生量保持高位增长。且危险废物种类繁多,成分复杂,整体呈现产生强度大、处置利用能力不足、污染事故频发的态势,对生态环境和人体健康带来巨大威胁。
国家高度重视生态文明建设和环境保护工作,固体废物尤其是危险废物的管理工作是加强生态文明建设和改善环境质量的关键。危险废物的管理工作目前面临的挑战之一是危险废物底数不清。为了获取企业危险废物的产生和流动信息,我国目前实施的是基于企业自主申报登记危废信息的管理制度。然而部分企业在经济利益和侥幸心理的驱动下,极易发生瞒报漏报的行为。瞒报漏报的现象如果不能被及时有效地管控,可能会导致大量危险废物游离于监管范围之外,被非法地处置或倾倒,造成严重的环境风险。
为了确定企业是否存在瞒报漏报行为,需要准确掌握企业理论产废量,将理论产废量与企业申报值进行对比后,判断企业是否瞒报漏报。现有的预测企业理论产废量的方法主要包括:产排污系数法、物料衡算法和实测法。产排污系数法依据《排放源统计调查产排污核算方法和系数手册》等各类手册获得污染物产排系数,结合企业产品产量信息,计算出特定污染物的排放总量;物料衡算法和实测法通过实地研究和对特定企业生产条件的考虑,直接从生产设施收集信息。现有的技术方法都存在着一定局限性:①产废系数从地区或行业的平均水平考虑,对具体企业的实用性及适应性存在局限;②物料衡算法和实测法需精准掌握企业的生产工艺和流程,技术难度大,也很难在国家和地区层面上实施;③上述方法在工艺复杂、干扰因素多时都会引入较大偏差。
因此,有必要运用更加科学恰当的方法评估企业级别的危险废物排放,掌握企业危险废物的理论产生量,结合自主申报数据进行核查,从而实现对企业瞒报漏报行为的智能识别,有效提升危险废物管理水平。
发明内容
本发明所要解决的技术问题是:为了克服现有技术中的不足,本发明提供一种企业危险废物瞒报漏报风险的智能评估方法,提高环境监管的准度和效率。
本发明解决其技术问题所要采用的技术方案是:一种企业危险废物瞒报漏报风险的智能评估方法,包括以下步骤:
步骤1:获取企业基本信息表、企业生产数据表、污染物在线监测数据表、危废产量申报数据表、转移联单数据表、企业信用评价数据表和移动执法数据表,完成数据表间的精确匹配,并根据行业代码进行分类,构建不同行业的产废多维数据库。
步骤2:针对步骤1中的产废多维数据库中的数据进行人工清洗,消除多维数据库中的脏数据,具体的;并根据实际应用需求确定时间分辨率,对人工清洗后的数据进行合并,得到初始样本数据集;其中,脏数据是指影响预测模型构建的数据,具体是把重复、不合规、异常数据统称为脏数据;时间分辨率是指数据整理时候用的时间,也就是训练和预测的时间是企业每天、每月、还是每年产生的危废量。
步骤3:利用无监督异常检测集成框架对步骤2中的初始样本数据集进行异常数据的识别,然后,将初始样本数据集中异常数据剔除,获得预测数据集;其中,无监督异常检测集成框架是一种已知的技术,在目前异常检测任务中应用比较广泛且有比较完善的python库。
步骤4:利用步骤3中的预测数据集,以危废总产量或单类危废产量作为因变量,进行随机森林模型的训练和验证,根据均方根误差RMSE的平均数和回归决定系数R2的平均数比选出最佳超参数组合,对监管时间段内企业的理论产废量和理论产废范围进行预测,其中,监管时间段是指需要对企业产废量进行预测,并评估瞒报数量和概率的时间段。
步骤5:将步骤4获得的理论产废量与企业实际申报量进行比较,计算企业危废产量瞒报漏报概率和数量。
进一步,步骤1具体包括以下步骤:
步骤1-1:从企业级别的信息化***中获得企业相关数据表,其中,企业级别的信息化***为危险废物全生命周期监控***、污染物在线监测***等,获得权限后可访问,还可以采用其他满足要求的信息化***。
所述企业相关数据表包括:
企业基本信息表:包括但不限于企业名称、企业ID、组织机构代码、污染源代码、行业类别代码和企业员工数;
企业生产数据表:包括但不限于原辅料名称、原辅料用量、主要产品名称、主要产品产量、用电量、用水量和企业总产值;
污染物在线监测数据表:包括但不限于监测时间、污染源代码、污染因子(包括废水流量、废气流量、总铜、总铬、pH、氨氮、二氧化硫等)、污染物排放量;
危废产量申报数据表:包括但不限于废物名称、废物代码、产生量、单位、申报时间和产生单位名称;
转移联单数据表:包括但不限于转移联单编号、废物名称、废物代码、移出量、转移时间和产生单位名称。
企业信用评价数据表:包括但不限于企业名称、污染源代码、评价时间、信用评分和信用评级;
移动执法数据表:包括但不限于企业名称、污染源代码、检查时间、是否涉及环境违法和违法类型。
步骤1-2,根据企业名称、污染源代码和组织机构代码精确匹配步骤1-1中各数据表,构建初始产废多维数据库。
步骤1-3,根据国民经济行业分类与代码(GB/T 4754-2017)中小类代码划分步骤1-2中获得的初始产废多维数据库,使用历史时间段数据构建不同行业的产废多维数据库,其中,历史时间段是指用于构建模型时使用的数据集对应的时间段。
步骤1-4,可选的,根据相关企业规模划分标准(如:国家***印发的《统计上大中小微型企业划分办法(2017)》),将企业按企业员工数和总产值划分为大、中、小、微四个企业规模层级,并根据企业规模层级进一步对不同行业的产废多维数据库进行划分,或将企业规模作为后续预测模型输入变量之一。
进一步,步骤2具体包括以下步骤:
步骤2-1:采用人工筛选的方式,对步骤1获得的产废多维数据库中不符合用户定义完整性的数据和重复数据进行删除,以及对有大量缺失值的不可用变量进行删除。
步骤2-2:针对产废多维数据库中的产废企业进行合规性检验,对合规性较低的企业观测进行初步筛除;其中,合规性检验是在企业环境信用越差,环境违法行为越多,申报数据越容易作假的假设下,对数据进行粗筛查,以保证构建预测模型的数据可靠性更高,也属于人工清洗的一部分。
步骤2-3:根据实际应用需求确定时间分辨率,将经过步骤2-1和步骤2-2人工清洗后的产废多维数据库中的数据按照指定的时间周期进行合并,得到初始样本数据集。其中,时间分辨率和时间周期是根据实际需求确定的,例如:如果想要预测企业周产废量,则需要把清洗后的数据按周加和;如果想要预测企业月产废量,则需要把清洗后的数据按月加和;如果想要预测季产废量,则需要把清洗后的数据按季加和,以此类推。
具体的,步骤2-2中对企业的合规性检验包括以下步骤:
步骤2-2-1:通过企业基本信息、企业信用评价数据和移动执法数据的匹配,获得企业合规性信息表。
步骤2-2-2:根据合规性信息表统计产废企业每年检查次数和其中的违法次数,计算违法率:
Figure BDA0003629263610000041
步骤2-2-3,根据合规性信息表计算产废企业年平均信用评分结果,确定企业环保信用等级;在确定环保信用等级时,根据相关的法律法规、部门规章等进行确定,本实施例中对应《江苏省企事业环保信用评价办法》,确定企业环保信用等级。
步骤2-2-4,将违法率或环保信用等级不符合要求的企业视为低合规性企业,并删除该企业和对应年份的数据。
进一步,为了提高异常数据的识别效果,步骤3中还包括对无监督异常检测集成框架中异常检测算法的重要参数和异常比例进行优化调整的过程。
进一步,步骤3具体包括以下步骤:
步骤3-1:针对步骤2中的初始样本数据集,选取各类危废产量、各类废水因子监测值和各类废气因子监测值作为异常检测特征,对异常检测特征进行标准差标准化操作,获得标准化检测数据集;
标准差标准化(Z-normalization)操作的公式为:
Figure BDA0003629263610000042
其中,x*为转换后数据,x为原数据,μ为所有样本数据的均值,δ为所有样本数据的标准差。
步骤3-2,构建无监督异常检测集成框架,识别标准化检测数据集中的异常数据。
由于采用无监督异常检测集成框架确定的异常数据为多维异常数据,无法在二维、三维空间绘图,因此,需要对多维异常数据进行降维后映射到二维坐标图上,才能形成可视化的异常数据分布图像,对异常检测算法的重要参数和异常比例进行优化调整,因此,具体为:
步骤3-3,利用降维算法对多维异常数据进行降维,并对降维后的异常数据分布特征进行可视化,形成异常数据的分布图像,结合分布图像中异常数据分布特征调整异常检测集成框架中异常检测算法的重要参数和异常比例,作为优选,选取图像中离群值皆被标记且异常数据和正常数据的标记没有较多重叠的分布图像作为识别结果,将初始样本数据集中异常值剔除后获得预测数据集。其中,不同异常检测算法的参数不尽相同,因此,在进行参数调整时,也存在差异,但是每种异常检测算法都需要设定异常比例。作为优选,映射到二维坐标图上的数据,将正常点和异常点分别用蓝色和红色区分标记,当图像中显著离群观测点都被标记为红色,且两种数据分布没有较多重叠时,识别效果较好。
可选的,使用的降维算法为以下算法中的一种:
主成分分析(Principal Component Analysis)、t-SNE(t-DistributedStochastic Neighbor Embedding)、多维标度分析(Multidimensional Scaling)等。
进一步,步骤3-2中具体包括以下步骤:
步骤3-2-1:利用若干异常检测算法分别对步骤3-1所述标准化检测数据集分别进行异常识别,获得若干单维异常分数矩阵。
可选的,常用的异常检测算法主要包括:
线性模型(Linear Model):最小协方差矩阵(Minimum CovarianceDeterminant)、单类支持向量机(One-Class Support Vector Machines)等;
基于接近度算法(Proximity-Based):k邻近(k Nearest Neighbors)、局部利群因子(Local Outlier Factor)等;
基于概率算法(Probabilistic):绝对中位差(Angle-Based Outlier Detection)等;
集成检测(Outlier Ensembles):孤立森林(Isolation Forest)等;
神经网络(Neural Networks):变分自编码器(Variational AutoEncoder)等。
步骤3-2-2:将步骤3-2-1所述的若干单维异常分数矩阵合并成一个多维异常分数矩阵,进行标准差标准化操作,获得标准化多维异常分数矩阵。
步骤3-2-3:将步骤3-2-2所述的标准化多维异常分数矩阵采用组合函数合并,按异常比例选取综合异常得分最高的部分数据定义为异常数据。
可选的,使用的组合函数为以下算法中的一种:
简单平均(Average)、加权平均(Weighted Average)、最大化(Maximization)、简单平均和最大化结合(AOM:Average of Maximum、MOA:Maximum of Average)等。
进一步,步骤4具体包括以下步骤:
步骤4-1:确定预测的因变量,以危废总产量或单类危废产量作为预测的因变量。
步骤4-2:随机森林模型的训练与验证整体采用k折交叉验证的方法,根据所预测的因变量的数据特征,将预测数据集划分成因变量数据分布一致的k组数据,每次取k-1组数据作为训练集,剩余的1组数据作为验证集,共进行k次。
步骤4-3:确定随机森林模型的超参数,并设置每种超参数的取值范围和步长,生成备选超参数列表,对备选超参数列表使用网格搜索法将不同超参数组合分别代入随机森林模型进行训练与验证;其中,随机森林模型的超参数的选取是根据验证结果不断调试的过程,对不同的数据适宜选取的超参范围可能差别较大,因此,通过训练和验证以获得超参数的最优值。网格搜索法(Grid search方法)是调参中十分常见的做法,简单说就是穷举法。比如超参数a可以取[1,2],超参数b可以取[3,4],a和b就会有1和3,2和3,1和4,2和4四种超参数组合。
主要比选的超参数包括:
决策树数量(n_estimators):在利用最大投票数或平均值来预测之前,想要建立子树的数量,较多的子树可以让模型有更好的性能;
节点数(max_features):每个节点上随机选择的变量最大数目,进而在其中选择影响最大的变量;
最大树深(max_depth):限制子树的***高度,以减少过拟合。
步骤4-4:根据k次验证均方根误差RMSE的平均数和回归决定系数R2的平均数两种性能指标,对步骤4-3所述超参数组合进行比选,获得最优超参数组合;
均方根误差RMSE:
Figure BDA0003629263610000061
其中,
Figure BDA0003629263610000062
为验证集上真实值-预测值,m为验证集样本数;
回归决定系数R2:
Figure BDA0003629263610000063
其中,分子部分表示真实值与预测值的平方差之和;分母部分表示真实值与均值的平方差之和。
步骤4-5:根据目标企业所属行业选取最优超参数组合对应的随机森林模型作为最优模型,针对监管时间段,整理企业的自变量参数输入最优模型,对企业的理论产废量进行预测;
步骤4-6:自变量参数输入最优模型后,根据随机森林模型预测监管时间段内企业理论产废量的残差分布,并确定残差覆盖范围,综合预测数据集的预测结果及残差覆盖范围,生成预测结果的置信区间,即企业理论产废范围,其中,预测结果指预测的企业理论产废量。
具体的,步骤4-6中企业的理论产废量范围预测具体包括以下步骤:
步骤4-6-1:对于随机森林模型构建中未被抽样的包外数据集,使用步骤4-5中的最优模型进行理论产废量的预测,计算包外数据集预测产废量
Figure BDA0003629263610000071
和实际值YOOB的残差ε;
步骤4-6-2:利用包外数据自变量参数,以残差ε为因变量,按步骤4-2至4-4的流程重新构建一个残差预测随机森林模型,预测包外数据集的残差
Figure BDA0003629263610000072
Figure BDA0003629263610000073
加和获得校正后的包外数据产废量预测值
Figure BDA0003629263610000074
步骤4-6-3:利用校正后的包外数据集产废量预测值
Figure BDA0003629263610000075
与真实值YOOB相减,获得校正后包外数据的残差
Figure BDA0003629263610000076
步骤4-6-4:对于新输入的监管时间段数据集xnew,根据步骤4-5中最优模型构建过程中的包外数据集将与xnew处于同一决策树最终节点的数据样本构成新的集合BOP(xnew),利用残差预测模型计算出BOP(xnew)中各数据的校正后残差
Figure BDA0003629263610000077
获得数据集的残差分布;
步骤4-6-5:对于步骤4-6-4中获得的残差分布,设置置信度为α,残差分布中至少覆盖α%样本的上限和下限即为残差覆盖范围;
步骤4-6-6:在残差覆盖范围上下限基础上同时加上步骤4-5中预测的理论产废量,获得置信区间,即为企业理论产废范围。
进一步,步骤5具体包括以下步骤:
步骤5-1:获取并计算目标企业预测周期内危废产量申报数据,作为实际申报量,将步骤4得到的企业理论产废量作为理论预测量,计算瞒报数量:
Figure BDA0003629263610000078
其中,
Figure BDA0003629263610000079
为理论预测量,y为实际申报量。
步骤5-2:在理论产生废量符合正态分布的前提假设下,根据步骤4预测的理论产废范围获得理论产废量的累积分布函数曲线,获得取值为目标企业实际申报量时对应的概率值,即为企业瞒报概率:
瞒报概率=FX(a)=P(X>a)
其中,FX(a)为理论产废量的互补累积分布函数曲线,P(X>a)为理论产废量大于a时的概率,当a取值恰好为实际申报值时,FX(a)可代表理论产废量超过实际申报量的概率,即瞒报概率,此概率越大说明实际申报量偏少的可能性越高。
步骤5-3:根据数据实际情况,拟取阈值,将瞒报数量和瞒报概率大于阈值的企业纳入高瞒报漏报风险企业名单,作为环保执法的重点对象。作为优选,瞒报数量的阈值可以选取该行业企业产废均值,瞒报概率的阈值可以选取50%,即将瞒报数量大于该行业企业产废均值和概率大于50%的企业纳入高瞒报漏报风险企业名单,作为环保执法的重点对象。
本发明的有益效果是:
(1)构建融合多维度产废数据的数据库,可为危废产量的精准预测提供全面可靠的数据基础,避免参数选择不当导致模型准确度低,计算时间长,以及适用范围小的不足。
(2)综合采用人工数据清洗与无监督异常检测集成框架结合的方法,消除多维数据库中的脏数据,可解决目前自主申报数据真实性相对不足的问题,确保模型输入数据的可靠性,提高模型预测精度。
(3)基于多维产废数据库,使用泛化能力良好的机器学习算法,可构建出偏差小、行业内普遍适用的模型,以解决现有危废核算方法精确性和适用性不足的问题,实现在企业级别进行危险废物排放强度的核算。
(4)利用本发明所述方法全流程,可以实现涉废企业危废产量“瞒报漏报”的智能识别,解决环境执法针对性不足,执法相对滞后和监管能力有限的问题。
附图说明
下面结合附图和实施例对本发明作进一步说明。
图1是本发明智能评估方法的整体流程图。
图2为集成异常数据检测方法流程图。
图3为基于随机森林模型实现瞒报漏报智能识别方法流程图。
具体实施方式
现在结合附图对本发明作详细的说明。此图为简化的示意图,仅以示意方式说明本发明的基本结构,因此其仅显示与本发明有关的构成。
本发明提供了一种企业危险废物瞒报漏报风险的智能评估方法,本实施例阐述了将本发明所提供的方法应用于江苏省电子电路制造行业(行业代码为C3982),识别企业危险废物瞒报漏报行为的情况。
结合附图1,本发明的一种企业危险废物瞒报漏报风险的智能评估方法,包括以下步骤:
步骤1:获取企业基本信息表、企业生产数据表、污染物在线监测数据表、危废产量申报数据表、转移联单数据表、企业信用评价数据表和移动执法数据表,完成数据表间的精确匹配,并根据行业代码进行分类,构建不同行业的产废多维数据库。
步骤2:针对步骤1中的产废多维数据库中的数据进行人工清洗,消除多维数据库中的脏数据,具体的;并根据实际应用需求确定时间分辨率,对人工清洗后的数据进行合并,得到初始样本数据集;其中,脏数据是指影响预测模型构建的数据,具体是把重复、不合规、异常数据统称为脏数据;时间分辨率是指训练和预测的对象是企业每天、每月、还是每年产生的危废量;周期合并就是把日数据加起来变成月数据,把月数据加起来变成年数据。
步骤3:利用无监督异常检测集成框架对步骤2中的初始样本数据集进行异常数据的识别,然后,将初始样本数据集中异常数据剔除,获得预测数据集;其中,无监督异常检测集成框架是一种已知的技术,在目前异常检测任务中应用比较广泛且有比较完善的python库。
步骤4:利用步骤3中的预测数据集,以危废总产量或单类危废产量作为因变量,进行随机森林模型的训练和验证,根据均方根误差RMSE的平均数和回归决定系数R2的平均数比选出最佳超参数组合,对监管时间段内企业的理论产废量和理论产废范围进行预测。
步骤5:将步骤4获得的理论产废量与企业实际申报量进行比较,计算企业危废产量瞒报漏报概率和数量。
本实施例步骤1具体包括:
步骤1-1:从危险废物全生命周期监控***、污染物在线监测***等企业级别的信息化***获得相关数据表,包括:企业基本信息、企业生产数据、污染物在线监测数据、危废产量申报数据、转移联单数据、企业信用评价数据和移动执法数据。
步骤1-2:根据企业名称、污染源代码和组织机构代码精确匹配各数据表,构建产废多维数据库。
步骤1-3:根据国民经济行业分类与代码(GB/T 4754-2017)中小类代码划分产废多维数据库,筛选出所属行业为C3982的企业数据,共92家,使用2020年1月至2021年11月的历史数据,构建所属行业为C3982的企业产废多维数据库。
本实施例步骤2具体包括:
步骤2-1:对C3982的企业产废多维数据库中不符合用户定义完整性的数据、重复数据进行删除,以及对有大量缺失值的不可用变量进行删除。
步骤2-2:通过企业基本信息、企业信用评价数据和移动执法数据的匹配,获得企业合规性信息表。统计产废企业每年检查次数和其中的违法次数,计算违法率,并根据信用评分结果,对应《江苏省企事业环保信用评价办法》,确定企业环保信用等级。将违法率大于10%或环保信用等级低于蓝色等级的企业视为低合规性企业,并删除该企业对应的数据。
违法率:
Figure BDA0003629263610000101
步骤2-3,时间分辨率指整理数据时用的分辨率,本实施例中为“月”,将经过人工清洗后的数据集以月为分辨率进行合并,即将属于相同月份的数据进行合并,具体方式为各类危废、废水流量、氨氮、COD值按月加和,得到初始样本数据集,共608条数据。
结合附图2,本实施例步骤3具体包括:
步骤3-1:选取初始样本数据集的危废总量、废水流量、氨氮、COD共四个特征作为异常检测特征,对异常检测特征进行标准差标准化操作,获得标准化检测数据集;
标准差标准化(Z-normalization):
Figure BDA0003629263610000102
其中,x*为转换后数据,x为原数据,μ为所有样本数据的均值,δ为所有样本数据的标准差。
步骤3-2:选取六种常用异常检测模型,分别为孤立森林(iForest)、最小协方差矩阵(MCD)、局部离群因子法(LOF)、k最邻近法(KNN)、基于聚类的局部离群因子法(CBLOF)和基于直方图异常点检测法(HBOS),构建无监督异常检测集成框架,对标准化检测数据集进行异常值识别检测,获得六个单维异常分数矩阵。对模型识别的六维异常分数矩阵再次进行标准化处理,采用AOM(Average of Maximum)的组合函数合并,按异常比例选取综合异常得分最高的部分数据定义为异常数据;
具体的,孤立森林(iForest)是一种基于多决策树集成的检测算法。其基本原理是。在孤立森林中递归地随机分割数据集,直到所有的样本点都是孤立的,综合所有决策树结果,总路径较短的通常为异常值;
最小协方差行矩阵(MCD)是一种基于马氏距离的检测算法。其基本原理是,利用最小协方差行列式计算获取更稳健的均值和协方差估计量,再根据马氏距离计算,马氏距离大于临界值的为异常值;
局部离群因子法(LOF)是一种基于密度的检测算法。其基本思想是,根据数据点周围的数据密集情况,计算每个数据点的一个局部可达密度,通过局部可达密度进一步计算得到每个数据点的一个离群因子,该离群因子即标识了一个数据点的离群程度,因子值越大,表示离群程度越高;
k最邻近法(KNN)是一种基于距离的检测算法。其基本原理是,依次计算每个样本点与它最近的k个样本的平均距离,计算的平均距离大于阈值,则认为是异常点;
基于聚类的局部离群因子法(CBLOF)是一种基于聚类的检测算法。其基本原理是,使用聚类来确定数据中的密集区域,然后对每个聚类进行密度估计;
基于直方图异常点检测法(HBOS)是一种基于统计方法的检测算法。其基本原理是,假设每个维度独立,对每个维度再进行区间划分,每个区间所对应的异常值取决于密度。密度越高,异常值越低;
AOM组合函数是一种简单平均和最大化结合的组合方法。具体方式为将多维异常得分矩阵按维度平均划分成几组,每条数据在组内取最大异常得分,并在组间取平均值后获得综合异常得分。
步骤3-3:利用t-SNE(t-Distributed Stochastic Neighbor Embedding)降维算法对多维异常数据分布特征进行可视化,形成异常数据的分布图像,可结合分布图像中异常数据分布特征调整算法重要参数和异常比例,最终选择了10%(60条)异常数据从初始样本数据集中剔除,获得预测数据集。
具体的,t-SNE算法是一种非线性的降维技术,可以较好地通过视觉可视化来验证算法的性能。将数据点之间的相似度转换为概率,高维空间中的相似度由高斯联合概率表示,低维空间的相似度由“学生t分布”表示,通过尽可能提高高低维空间分布相似度完成数据的降维。
结合附图3,本实施例步骤4和步骤5具体包括:
步骤4-1:使用随机森林(Random Forest)算法,以预测数据集中废水流量、氨氮、COD三个特征为自变量,危废总产量作为因变量,进行模型的训练与验证;
具体的,随机森林是一种基于决策树集成的算法。在应用于回归与测试时,其基本原理为,从原始训练样本集N中有放回地重复随机抽取k个样本生成新的训练样本集合,然后生成k个回归树组成随机森林,新数据的预测值为所有回归树预测结果的平均值。
步骤4-2:随机森林模型的训练与验证整体采用十折交叉验证的方法,根据所预测的因变量数据特征,将预测数据集划分成因变量数据分布一致的10组。每次取9组作为训练集,剩余1组作为验证集,共进行10次;
步骤4-3:对三种主要超参数设置一定取值范围和步长,生成备选超参数列表,对备选超参数列表使用网格搜索法将不同超参数组合分别代入模型进行训练与验证。
主要比选超参数包括:
决策树数量(n_estimators):在利用最大投票数或平均值来预测之前,想要建立子树的数量,较多的子树可以让模型有更好的性能;
节点数(max_features):每个节点上随机选择的变量最大数目,进而在其中选择影响最大的变量;
最大树深(max_depth):限制子树的***高度,以减少过拟合。
步骤4-4:根据k次验证均方根误差(RMSE)平均数和回归决定系数(R2)平均数两种性能指标,对超参数组合进行比选,获得最优模型;最优模型的性能指标为R2=0.74,RMSE=603.21。
均方根误差(RMSE):
Figure BDA0003629263610000121
其中,
Figure BDA0003629263610000122
为验证集上真实值-预测值,m为验证集样本数;
回归决定系数(R2):
Figure BDA0003629263610000123
其中,分子部分表示真实值与预测值的平方差之和;分母部分表示真实值与均值的平方差之和;
步骤4-5:以2021年12月作为监管时间段,企业A为例,将其2021年12月废水流量、氨氮、COD作为自变量特征数值输入最优模型,预测其理论产废量为381.83吨;
步骤4-6:根据建立随机森林模型时所产生的包外数据集,预测输入数据集的残差分布。综合预测数据集的预测结果及设置的残差覆盖范围,生成预测结果的95%置信区间,获得企业理论产废范围为[122.54,479.93]。
步骤5-1:获取企业A在2021年12月危废产量申报数据,实际申报值为137.81吨,计算得瞒报数量为244.02吨。
瞒报数量:
Figure BDA0003629263610000124
其中,
Figure BDA0003629263610000125
为预测得出的理论产废量,y为实际申报量;
步骤5-2:在理论产生量符合正态分布的前提假设下,根据理论产废范围获得理论产生量的互补累积分布函数曲线,获得目标企业实际申报量对应的概率值为97.5%,即企业瞒报概率为97.5%。
步骤5-3,瞒报概率的阈值选取50%,企业A瞒报数量远超过了理论产废量的50%且瞒报概率高达97.5%,可认为该企业有较高的瞒报漏报风险,应作为重点监管对象。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种企业危险废物瞒报漏报风险的智能评估方法,其特征在于:包括以下步骤:
步骤1:获取企业基本信息表、企业生产数据表、污染物在线监测数据表、危废产量申报数据表、转移联单数据表、企业信用评价数据表和移动执法数据表,完成数据表间的精确匹配,并根据行业代码进行分类,构建不同行业的产废多维数据库;
步骤2:针对步骤1中的产废多维数据库中的数据进行人工清洗,消除多维数据库中的脏数据,并根据实际应用需求确定时间分辨率,对人工清洗后的数据进行合并,得到初始样本数据集;
步骤3:利用无监督异常检测集成框架对步骤2中的初始样本数据集进行异常数据的识别,然后,将初始样本数据集中异常数据剔除,获得预测数据集;
步骤4:利用步骤3中的预测数据集,以危废总产量或单类危废产量作为因变量,进行随机森林模型的训练和验证,根据均方根误差RMSE的平均数和回归决定系数R2的平均数比选出最佳超参数组合,对监管时间段内企业的理论产废量和理论产废范围进行预测;
步骤5:将步骤4获得的理论产废量与企业实际申报量进行比较,计算企业危废产量瞒报漏报概率和数量。
2.如权利要求1所述的企业危险废物瞒报漏报风险的智能评估方法,其特征在于:步骤1具体包括以下步骤:
步骤1-1:从企业级别的信息化***中获得企业相关数据表,所述企业相关数据表包括:
企业基本信息表:包括企业名称、企业ID、组织机构代码、污染源代码、行业类别代码和企业员工数;
企业生产数据表:包括原辅料名称、原辅料用量、主要产品名称、主要产品产量、用电量、用水量和企业总产值;
污染物在线监测数据表:包括监测时间、污染源代码、污染因子和污染物排放量;
危废产量申报数据表:包括废物名称、废物代码、产生量、单位、申报时间和产生单位名称;
转移联单数据表:包括转移联单编号、废物名称、废物代码、移出量、转移时间和产生单位名称。
企业信用评价数据表:包括企业名称、污染源代码、评价时间、信用评分和信用评级;
移动执法数据表:包括企业名称、污染源代码、检查时间、是否涉及环境违法和违法类型;
步骤1-2:根据企业名称、污染源代码和组织机构代码精确匹配步骤1-1中各数据表,构建初始产废多维数据库;
步骤1-3:根据国民经济行业分类与代码中小类代码划分步骤1-2中获得的初始产废多维数据库,使用历史时间段数据构建不同行业的产废多维数据库;
步骤1-4:根据相关企业规模划分标准,将企业按企业员工数和总产值划分为大、中、小、微四个企业规模层级,并根据企业规模层级进一步对不同行业的产废多维数据库进行划分,或将企业规模作为后续预测模型输入变量之一。
3.如权利要求1所述的企业危险废物瞒报漏报风险的智能评估方法,其特征在于:步骤2具体包括以下步骤:
步骤2-1:采用人工筛选的方式,对步骤1获得的产废多维数据库中不符合用户定义完整性的数据和重复数据进行删除,以及对不可用变量进行删除;
步骤2-2:针对产废多维数据库中的产废企业进行合规性检验,对合规性较低的企业观测进行初步筛除;
步骤2-3:根据实际应用需求确定时间分辨率,将经过步骤2-1和步骤2-2人工清洗后的产废多维数据库中的数据按照指定的时间分辨率进行合并,得到初始样本数据集。
4.如权利要求3所述的企业危险废物瞒报漏报风险的智能评估方法,其特征在于:步骤2-2中对企业的合规性检验包括以下步骤:
步骤2-2-1:通过企业基本信息、企业信用评价数据和移动执法数据的匹配,获得企业合规性信息表;
步骤2-2-2:根据合规性信息表统计产废企业每年检查次数和其中的违法次数,计算违法率:
Figure FDA0003629263600000021
步骤2-2-3,根据合规性信息表计算产废企业年平均信用评分结果,确定企业环保信用等级;
步骤2-2-4,将违法率或环保信用等级不符合要求的企业视为低合规性企业,并删除该企业和对应年份的数据。
5.如权利要求1所述的企业危险废物瞒报漏报风险的智能评估方法,其特征在于:步骤3中还包括对无监督异常检测集成框架中异常检测算法的重要参数和异常比例进行优化调整的过程。
6.如权利要求5所述的企业危险废物瞒报漏报风险的智能评估方法,其特征在于:步骤3具体包括以下步骤:
步骤3-1:针对步骤2中的初始样本数据集,选取异常检测特征,对异常检测特征进行标准差标准化操作,获得标准化检测数据集;
标准差标准化操作的公式为:
Figure FDA0003629263600000031
其中,x*为转换后数据,x为原数据,μ为所有样本数据的均值,δ为所有样本数据的标准差;
步骤3-2:构建无监督异常检测集成框架,识别标准化检测数据集中的异常数据;
步骤3-3:利用降维算法对多维异常数据进行降维,并对降维后的异常数据分布特征进行可视化,形成异常数据的分布图像,结合分布图像中异常数据分布特征调整异常检测集成框架中异常检测算法的重要参数和异常比例,将初始样本数据集中异常值剔除后获得预测数据集。
7.如权利要求6所述的企业危险废物瞒报漏报风险的智能评估方法,其特征在于:步骤3-2中具体包括以下步骤:
步骤3-2-1:利用若干异常检测算法分别对步骤3-1所述标准化检测数据集分别进行异常识别,获得若干单维异常分数矩阵;
步骤3-2-2:将步骤3-2-1所述的若干单维异常分数矩阵合并成一个多维异常分数矩阵,进行标准差标准化操作,获得标准化多维异常分数矩阵;
步骤3-2-3:将步骤3-2-2所述的标准化多维异常分数矩阵采用组合函数合并,按异常比例选取综合异常得分最高的部分数据定义为异常数据。
8.如权利要求1所述的企业危险废物瞒报漏报风险的智能评估方法,其特征在于:步骤4具体包括以下步骤:
步骤4-1:确定预测的因变量,以危废总产量或单类危废产量作为预测的因变量;
步骤4-2:随机森林模型的训练与验证整体采用k折交叉验证的方法,根据所预测的因变量的数据特征,将预测数据集划分成因变量数据分布一致的k组数据,每次取k-1组数据作为训练集,剩余的1组数据作为验证集,共进行k次;
步骤4-3:确定随机森林模型的超参数,并设置每种超参数的取值范围和步长,生成备选超参数列表,对备选超参数列表使用网格搜索法将不同超参数组合分别代入随机森林模型进行训练与验证;
步骤4-4:根据k次验证均方根误差RMSE的平均数和回归决定系数R2的平均数两种性能指标,对步骤4-3所述超参数组合进行比选,获得最优超参数组合;
均方根误差RMSE:
Figure FDA0003629263600000041
其中,
Figure FDA0003629263600000042
为验证集上真实值-预测值,m为验证集样本数;
回归决定系数R2:
Figure FDA0003629263600000043
其中,分子部分表示真实值与预测值的平方差之和;分母部分表示真实值与均值的平方差之和;
步骤4-5:根据目标企业所属行业选取最优超参数组合对应的随机森林模型作为最优模型,针对监管时间段,整理企业的自变量参数输入最优模型,对企业的理论产废量进行预测;
步骤4-6:自变量参数输入最优模型后,根据随机森林模型预测监管时间段内企业理论产废量的残差分布,并确定残差覆盖范围,综合预测数据集的预测结果及残差覆盖范围,生成预测结果的置信区间,即企业理论产废范围,其中,预测结果指预测的企业理论产废量。
9.如权利要求8所述的企业危险废物瞒报漏报风险的智能评估方法,其特征在于:步骤4-6中企业的理论产废量范围预测具体包括以下步骤:
步骤4-6-1:对于随机森林模型构建中未被抽样的包外数据集,使用步骤4-5中的最优模型进行理论产废量的预测,计算包外数据集预测产废量
Figure FDA0003629263600000044
和实际值YOOB的残差ε;
步骤4-6-2:利用包外数据自变量参数,以残差ε为因变量,按步骤4-2至4-4的流程重新构建一个残差预测随机森林模型,预测包外数据集的残差
Figure FDA0003629263600000045
Figure FDA0003629263600000046
加和获得校正后的包外数据产废量预测值
Figure FDA0003629263600000047
步骤4-6-3:利用校正后的包外数据集产废量预测值
Figure FDA0003629263600000048
与真实值YOOB相减,获得校正后包外数据的残差
Figure FDA0003629263600000049
步骤4-6-4:对于新输入的监管时间段数据集xnew,根据步骤4-5中最优模型构建过程中的包外数据集将与xnew处于同一决策树最终节点的数据样本构成新的集合BOP(xnew),利用残差预测模型计算出BOP(xnew)中各数据的校正后残差
Figure FDA00036292636000000410
获得数据集的残差分布;
步骤4-6-5:对于步骤4-6-4中获得的残差分布,设置置信度为α,残差分布中至少覆盖α%样本的上限和下限即为残差覆盖范围;
步骤4-6-6:在残差覆盖范围上下限基础上同时加上步骤4-5中预测的理论产废量,获得置信区间,即为企业理论产废范围。
10.如权利要求1所述的企业危险废物瞒报漏报风险的智能评估方法,其特征在于:步骤5具体包括以下步骤:
步骤5-1:获取并计算目标企业监管时间段内危废产量申报数据,作为实际申报量,将步骤4得到的企业理论产废量作为理论预测量,计算瞒报数量:
Figure FDA0003629263600000051
其中,
Figure FDA0003629263600000052
为理论预测量,y为实际申报量;
步骤5-2:在理论产生废量符合正态分布的前提假设下,根据步骤4预测的理论产废范围获得理论产废量的累积分布函数曲线,获得取值为目标企业实际申报量时对应的概率值,即为企业瞒报概率:
瞒报概率=FX(a)=P(X>a)
其中,FX(a)为理论产废量的互补累积分布函数曲线,P(X>a)为理论产废量大于a时的概率,当a取值恰好为实际申报值时,FX(a)可代表理论产废量超过实际申报量的概率,即瞒报概率;
步骤5-3:根据数据实际情况,拟取阈值,将瞒报数量和概率大于阈值的企业纳入高瞒报漏报风险企业名单,作为环保执法的重点对象。
CN202210486252.4A 2022-05-06 2022-05-06 一种企业危险废物瞒报漏报风险的智能评估方法 Pending CN114912787A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210486252.4A CN114912787A (zh) 2022-05-06 2022-05-06 一种企业危险废物瞒报漏报风险的智能评估方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210486252.4A CN114912787A (zh) 2022-05-06 2022-05-06 一种企业危险废物瞒报漏报风险的智能评估方法

Publications (1)

Publication Number Publication Date
CN114912787A true CN114912787A (zh) 2022-08-16

Family

ID=82765955

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210486252.4A Pending CN114912787A (zh) 2022-05-06 2022-05-06 一种企业危险废物瞒报漏报风险的智能评估方法

Country Status (1)

Country Link
CN (1) CN114912787A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116308868A (zh) * 2023-01-30 2023-06-23 河北金宁电子科技有限公司 一种用于监管钢铁工业污染物偷排偷放的方法及***
CN116363601A (zh) * 2023-06-02 2023-06-30 北京建工环境修复股份有限公司 一种污染监测设备的数据采集与分析方法及***
CN117078024A (zh) * 2023-10-17 2023-11-17 南京进唯智能科技有限公司 一种基于视频分析的危废数量变化检测***及方法
CN117131444A (zh) * 2023-10-25 2023-11-28 南京海关工业产品检测中心 一种基于深度学习的固废风险自动识别方法和***
CN117726257A (zh) * 2023-12-20 2024-03-19 重庆环问问科技有限公司 一种基于人工智能大数据模型的工业园区危险废物处理方法
CN118313564A (zh) * 2024-06-05 2024-07-09 生态环境部环境工程评估中心 企业排放物监测数据的异常识别方法、装置、设备及介质

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116308868A (zh) * 2023-01-30 2023-06-23 河北金宁电子科技有限公司 一种用于监管钢铁工业污染物偷排偷放的方法及***
CN116363601A (zh) * 2023-06-02 2023-06-30 北京建工环境修复股份有限公司 一种污染监测设备的数据采集与分析方法及***
CN116363601B (zh) * 2023-06-02 2023-07-25 北京建工环境修复股份有限公司 一种污染监测设备的数据采集与分析方法及***
CN117078024A (zh) * 2023-10-17 2023-11-17 南京进唯智能科技有限公司 一种基于视频分析的危废数量变化检测***及方法
CN117078024B (zh) * 2023-10-17 2024-02-09 南京进唯智能科技有限公司 一种基于视频分析的危废数量变化检测***及方法
CN117131444A (zh) * 2023-10-25 2023-11-28 南京海关工业产品检测中心 一种基于深度学习的固废风险自动识别方法和***
CN117131444B (zh) * 2023-10-25 2023-12-22 南京海关工业产品检测中心 一种基于深度学习的固废风险自动识别方法和***
CN117726257A (zh) * 2023-12-20 2024-03-19 重庆环问问科技有限公司 一种基于人工智能大数据模型的工业园区危险废物处理方法
CN118313564A (zh) * 2024-06-05 2024-07-09 生态环境部环境工程评估中心 企业排放物监测数据的异常识别方法、装置、设备及介质

Similar Documents

Publication Publication Date Title
CN114912787A (zh) 一种企业危险废物瞒报漏报风险的智能评估方法
Zhu et al. Application of machine learning techniques for predicting the consequences of construction accidents in China
CN106845717B (zh) 一种基于多模型融合策略的能源效率评价方法
CN112668944A (zh) 一种基于大数据征信的企业风控方法、装置、设备及介质
CN113157800B (zh) 实时发现空中动态目标识别方法
CN111178611B (zh) 一种日电量预测的方法
CN108470022A (zh) 一种基于运维管理的智能工单质检方法
CN107918639A (zh) 基于电力大数据主变高峰负荷预测方法及数据仓库***
CN113591485B (zh) 一种基于数据科学的智能化数据质量稽核***及方法
Yarragunta et al. Prediction of air pollutants using supervised machine learning
CN114201374A (zh) 基于混合机器学习的运维时序数据异常检测方法及***
CN114037138A (zh) 基于双层分解和深度学习的地铁短时进站客流预测***及实施方法
Alsaqabi et al. Using machine learning for prediction of factors affecting crimes in Saudi Arabia
CN111723136A (zh) 一种面向网格事件分类分级处置的单维聚类分析方法
CN104537383A (zh) 一种基于粒子群的海量组织机构数据分类方法及***
CN116756225B (zh) 一种基于计算机网络安全的态势数据信息处理方法
CN117726036A (zh) 污染源监测设备的智慧管理***、方法及存储介质
CN117217568A (zh) 一种基于市场主体信息资源库的经济监测方法及***
CN114662981B (zh) 基于大数据应用的污染源企业监管方法
CN113705920B (zh) 火电厂用水数据样本集的生成方法和终端设备
CN111753928B (zh) 一种基于知识图谱与树模型构造的海关检测规则生成方法
CN115209441A (zh) 基站退服告警预测方法、装置、设备及存储介质
Liu et al. Inventory Management of Automobile After-sales Parts Based on Data Mining
Zhou et al. A risk identification method for abnormal key data in the whole process of production project
CN112488572B (zh) 一种审计对象推荐方法、装置、设备和介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination