CN116624226A - 一种煤矿灾害数据采集、分析及可视化展现*** - Google Patents
一种煤矿灾害数据采集、分析及可视化展现*** Download PDFInfo
- Publication number
- CN116624226A CN116624226A CN202310377581.XA CN202310377581A CN116624226A CN 116624226 A CN116624226 A CN 116624226A CN 202310377581 A CN202310377581 A CN 202310377581A CN 116624226 A CN116624226 A CN 116624226A
- Authority
- CN
- China
- Prior art keywords
- data
- disaster
- monitoring
- analysis
- coal mine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004458 analytical method Methods 0.000 title claims abstract description 69
- 239000003245 coal Substances 0.000 title claims abstract description 54
- 230000000007 visual effect Effects 0.000 title claims abstract description 25
- 238000012544 monitoring process Methods 0.000 claims abstract description 170
- 230000002159 abnormal effect Effects 0.000 claims abstract description 39
- 238000000034 method Methods 0.000 claims abstract description 20
- 230000006978 adaptation Effects 0.000 claims abstract description 4
- 238000004422 calculation algorithm Methods 0.000 claims description 33
- 238000012545 processing Methods 0.000 claims description 28
- 238000007405 data analysis Methods 0.000 claims description 17
- 230000035772 mutation Effects 0.000 claims description 16
- 238000012360 testing method Methods 0.000 claims description 16
- 238000004364 calculation method Methods 0.000 claims description 15
- 230000001174 ascending effect Effects 0.000 claims description 14
- 230000003247 decreasing effect Effects 0.000 claims description 12
- 238000010586 diagram Methods 0.000 claims description 12
- 238000005065 mining Methods 0.000 claims description 12
- 239000000428 dust Substances 0.000 claims description 11
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 claims description 11
- 230000006855 networking Effects 0.000 claims description 10
- 230000000737 periodic effect Effects 0.000 claims description 9
- 239000000284 extract Substances 0.000 claims description 6
- 238000009423 ventilation Methods 0.000 claims description 5
- 238000009826 distribution Methods 0.000 claims description 4
- 230000001360 synchronised effect Effects 0.000 claims description 4
- 238000009529 body temperature measurement Methods 0.000 claims description 3
- 238000007418 data mining Methods 0.000 claims description 3
- 239000013307 optical fiber Substances 0.000 claims description 3
- 238000003672 processing method Methods 0.000 claims description 3
- 238000012795 verification Methods 0.000 claims description 3
- 238000013480 data collection Methods 0.000 claims 9
- 238000006467 substitution reaction Methods 0.000 claims 1
- 230000006870 function Effects 0.000 description 15
- 230000008901 benefit Effects 0.000 description 8
- 239000000779 smoke Substances 0.000 description 7
- 238000013439 planning Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000009792 diffusion process Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 230000002265 prevention Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000004088 simulation Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 230000000630 rising effect Effects 0.000 description 4
- 238000010183 spectrum analysis Methods 0.000 description 4
- 230000009172 bursting Effects 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 230000002452 interceptive effect Effects 0.000 description 3
- 230000002829 reductive effect Effects 0.000 description 3
- 238000009877 rendering Methods 0.000 description 3
- 238000005096 rolling process Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000010219 correlation analysis Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000009977 dual effect Effects 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000004886 process control Methods 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 238000003892 spreading Methods 0.000 description 2
- 230000007480 spreading Effects 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000002759 z-score normalization Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000012098 association analyses Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000002688 persistence Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000010223 real-time analysis Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000008093 supporting effect Effects 0.000 description 1
- 238000012731 temporal analysis Methods 0.000 description 1
- 238000000700 time series analysis Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- E—FIXED CONSTRUCTIONS
- E21—EARTH OR ROCK DRILLING; MINING
- E21F—SAFETY DEVICES, TRANSPORT, FILLING-UP, RESCUE, VENTILATION, OR DRAINING IN OR OF MINES OR TUNNELS
- E21F17/00—Methods or devices for use in mines or tunnels, not covered elsewhere
- E21F17/18—Special adaptations of signalling or alarm devices
-
- E—FIXED CONSTRUCTIONS
- E21—EARTH OR ROCK DRILLING; MINING
- E21F—SAFETY DEVICES, TRANSPORT, FILLING-UP, RESCUE, VENTILATION, OR DRAINING IN OR OF MINES OR TUNNELS
- E21F17/00—Methods or devices for use in mines or tunnels, not covered elsewhere
- E21F17/18—Special adaptations of signalling or alarm devices
- E21F17/185—Rock-pressure control devices with or without alarm devices; Alarm devices in case of roof subsidence
Landscapes
- Engineering & Computer Science (AREA)
- Mining & Mineral Resources (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Life Sciences & Earth Sciences (AREA)
- Geochemistry & Mineralogy (AREA)
- Geology (AREA)
- Alarm Systems (AREA)
Abstract
本发明公开了一种煤矿灾害数据采集、分析及可视化展现***,包括:灾害数据一体化采集模块,通过多协议适配将采集数据转换为结构化数据存储到数据库中,实现灾害监测数据的统一采集;灾害监测预警分析模块,对数据库中的灾害监测数据分析,识别灾害监测数据的异常情况,当识别到异常情况时,发出灾害异常报警提示语音信息;GIS生成模块,绘制矿井三维巷道空间结构,形成灾害GIS一张图,并将灾害监测点和灾害异常分析点绑定至所述灾害GIS一张图;可视化展示模块,通过列表、折线图、柱状图、饼图和灾害GIS一张图等方式展示灾害监测数据和灾害异常分析结果;灾害预警手机模块,将异常信息推送给手机端APP。本方案解决了灾害异常识别滞后性的问题。
Description
技术领域
本发明属于煤矿安全生产与管理技术领域,具体涉及一种煤矿灾害数据采集、分析及可视化展现***。
背景技术
灾害监测分析是矿井预防灾害事故的有效手段,实时监测矿井关键区域的灾害监测参数,并对监测的灾害信息进行分析处理,识别潜在的灾害异常情况,有助于改善矿井从灾后处理转变为灾前预防,提升矿井安全生产水平。
目前,大部分现有的矿井灾害提前分析预警***仅支持瓦斯、水、火、顶板、粉尘等单一灾害的监测与预警分析,对于少部分具备多灾害监测分析的软件,普遍基于成因机理分析特定条件下的灾害异常情况,通常是一矿一模型,不具备推广性。因此,为了解决灾害分析预警不全面的问题,现有技术通常采用多套不同的灾害监测***,通过多种传感器来监测不同的数据,并通过上位机显示井下监测的传感器、设备参数值。
然而,上述方案不具备多灾害的综合集成监测手段,缺乏灾害全方面分析处理策略,导致矿井灾害异常监测情况出现时,调度人员需要从多台计算机上查看多个灾害监测***数据,造成严重的灾害异常识别滞后性。
发明内容
有鉴于此,本发明的目的在于提供一种煤矿灾害数据采集、分析及可视化展现***,实现各灾害监测数据集成,从数理统计角度分析灾害监测数据的异常情况,为矿井提供便捷、直观的灾害监测、分析结果的查询展示手段,为矿井从灾后处置向灾前预防奠定基础,提高煤矿灾害数据。
为达到上述目的,本发明提供如下技术方案:
一种煤矿灾害数据采集、分析及可视化展现***,包括灾害数据一体化采集模块、灾害监测预警分析模块、GIS生成模块、可视化展示模块和灾害预警手机模块;
所述灾害数据一体化采集模块通过多协议适配将采集数据转换为结构化数据存储到数据库中,实现瓦斯、水、火、顶板、粉尘灾害监测数据的统一采集;
所述灾害监测预警分析模块对数据库中的灾害监测数据分析,识别灾害监测数据的异常情况,所述异常情况包括突变、缓升、波动、周期变化和恒定不变;当识别到异常情况时,发出灾害异常报警提示语音信息;
所述GIS生成模块根据矿井的通风***图或采掘工程平面图,绘制矿井三维巷道空间结构,形成灾害GIS一张图,并将灾害监测点和灾害异常分析点绑定至所述灾害GIS一张图;
所述可视化展示模块通过多种方式展示灾害监测数据和灾害异常分析结果,包括列表、折线图、柱状图、饼图和灾害GIS一张图;
所述灾害预警手机模块将异常信息推送给手机端APP。
其中,GIS(Geographic Information System,地理信息***),APP(Application,智能手机的第三方应用程序)。
进一步,所述灾害数据一体化采集模块包括煤矿端与公司端;所述煤矿端通过采集程序适配OPC、FTP文件、数据库、WebService以及其他数据源,实现对安全监控***、人员定位***、水文监测***、采空区发火监测***、顶板监测***、粉尘监控***以及灾害预警数据、特征图谱分析数据的统一采集;所述煤矿端通过发布/订阅者模式将采集到的数据联网上传到公司端。
其中,OPC(OLE for Process Control,用于过程控制的OLE,是一个工业标准),FTP(File Transfer Protocol,文件传输协议,用于在网络上进行文件传输的一套标准协议),WebService是一种公共网络服务模块化组件。
进一步,所述煤矿端通过以下策略同一采集灾害数据:
灾害监测数据采集:针对具备统一、通用联网上传协议的灾害监测子***数据,包括安全监控、人员定位、粉尘监测、水文监测和束管监测,通过在煤矿端部署采集上传软件,公司端部署FTP服务器,基于FTP文件上传的形式实现灾害监测数据联网采集上传;
灾害数据库同步:针对不具备统一的数据联网上传标准的数据,包括顶板灾害监测数据和光纤测温监测数据,采用数据库定时同步的方式,将矿端数据同步至公司端数据存储中心。
进一步,煤矿灾害流式数据处理框架为SparkStreaming处理框架,整个框架数据处理流程为:
通过多源异构数据集成采集器,将数据发送给Kafka;Kafka接收数据后一方面通过数据解析服务存入关系型数据库和HBase,并将重要数据映射出入Hive,另一方面通过将时间窗口内的数据传入SparkStreaming框架;
同时通过Reids加载HBase中的历史数据到SparkStreaming中,调用SparkMLib中的算法库对数据进行分析挖掘分析,并将挖掘分析结果写入关系型数据库;
针对历史数据挖掘,直接运用HiveSql实现挖掘分析算法,对历史数据进行分析,并将分析结果写入关系型数据库。
其中,SparkStreaming是一种数据处理框架;Kafka是一种高吞吐量的分布式发布订阅消息***,它可以处理在网站中的所有动作流数据;HBase是一个分布式的、面向列的开源数据库,该技术来源于Fay Chang所撰写的论文《Bigtable:一个结构化数据的分布式存储***》;Hive是一种数据仓库工具;Reids,(Remote Dictionary Server,远程字典服务);SparkMLib,MLlib(Machine Learning lib)是Spark(一个通用的分布式数据处理引擎)的机器学习库;HiveSql,配置单元查询语言。
进一步,所述灾害监测预警分析模块对灾害监测数据的突变识别如下:
以最近5分钟的监测数据设置滑动时间窗,根据不同监测点类型设置不同突变判定值,在分析的时间序列里,判断监测值从最小值突变到最大值的变化值是否达到突变判定值,计算公式为:
y=α×fmax(x)-(fmax(x)-fmin(x));
式中,α为突变因子,fmax(x)为滑动时间窗范围内的最大值;fmin(x)为滑动时间范围的最小值。
进一步,所述灾害监测预警分析模块对灾害监测数据的缓升识别如下:
通过MK算法通过计算时间序列的差值函数,通过差值函数的正负差数量判断观测序列的变化趋势;
假设时间序列为x={x1,x2,…,xn},具有0假设H0没有单调趋势,1假设Ha为单调趋势两个假设前提;
确定所有个xi-xj的差值函数f(xi-xj)(n≥i>j≥1):
计算正负差数量和S,即为差值为正的数量减去差值为负的数量:
如果S是一个正数,那么后一部分的观测值相比之前的观测值会趋势于变大;
如果S是一个负数,那么后一部分的观测值相比之前的观测值会趋势于变小;
如果n≤10,则要计算z值,S和z值的关系式如下:
如果n>10,则需要计算S的方差来判断趋势;
若数据中每个数均为唯一,则:
若数据中存在数据不唯一,则:
其中,p为重复数数量,g为唯一数数量(结组数),tp为每个重复数重复的次数;
计算n>10情况下,MK的Z值:
假设1型错误率为α,0<α<0.5;
如果ZMK≥Z1-a,就拒绝零假设H0,接受替代假设Ha,其中Z1-a是标准正态分布的100(1-α)th百分位;
测试H0与Ha有单调递减趋势:
如果ZMK≤-Z1-a,拒绝零假设,就拒绝零假设H0,接受替代假设Ha,即序列呈单调递减趋势;
测试H0与Ha有单调递增或递减趋势:
如果|ZMK|≤-Z1-a,拒绝零假设,就拒绝零假设H0,接受替代假设Ha,即序列呈单调递增或递减趋势;
基于时间序列下的监测值集合,使用MK趋势校验法得到上升趋势,线性拟合方式得到上升率,并计算最后时刻的监测值相较于初始值的增长百分比,当趋势为上升且上升的线性角度大于数学上的15°,或者趋势为上升且最后监测值较初始值的增长百分比大于30%,满足其一认为是缓升。
进一步,所述灾害监测预警分析模块对灾害监测数据的波动识别如下:
计算待分析序列的四分位数;对于矿井灾害监测时间序列数据异常识别,采用图基检验计算波动异常范围最小值fmin与最大值fmax;
fmin=Q1-k(Q3-Q1);
fmax=Q3+k(Q3-Q1);
式中,Q1为下四分位数,Q3为上四分位数,k为异常范围阈值,当取值为1.5时为中度异常范围,当取值为3时为极度异常范围;
计算原始数据序列中超出异常范围的波动值。
进一步,所述灾害监测预警分析模块对灾害监测数据的周期变化识别如下:
基于Z-Score数据标准化处理方法,首先将煤矿灾害时间序列数据取最近两个周期的数据,分别做Z-Score标准化,然后对结果做差,最后在对结果求标准差,比较标准差和1,小于1则是周期性数据。
进一步,所述灾害监测预警分析模块对灾害监测数据的恒定不变识别如下:
计算每个监测点的最长不变时间;划分Kmeans类簇;基于Kmeans算法计算每个时间周期范围内监测值恒定不变的监测点数量及恒定不变监测点数占监测点总数的百分比,得到聚类结果;根据聚类结果确定恒定不变百分比阈值,将百分比大于阈值的作为恒定不变异常点。
进一步,所述GIS生成模块采用拓扑生成算法,根据巷道坐标位置自动提取与每一条巷道相交的巷道,并进一步提取相交巷道的端点与拐点,最后使用端点与拐点的集合对巷道进行打断,将打断后的巷道分别保存拓扑表。
本发明的有益效果在于:
本方案通过提取相关监测数据特征指标,构建关联关系,消除监测数据孤岛,实现瓦斯等灾害联网监测,协同展示不同灾害的预警信息,为有效减少突出事故的发生和人员伤亡提供全新的事故预防手段和防治模式,为保障矿工生命安全、提升企业安全形象、推动矿井智能化进程及维护矿区社会和谐稳定起到重要的支撑作用,可以达到降低煤矿灾害事故风险,减少煤矿工作人员伤亡的社会效益,本发明有如下优点:
(1)实现了高可靠并行数据上传技术在煤矿灾害预警***中的应用,达到了矿井灾害监测数据实时、可靠、准确上传;
(2)基于矿井瓦斯、火、水、顶板、粉尘监测预警、数据,结合数据驱动模式构建灾害监测数据特征图谱,实现矿井灾害风险特征图谱分析;
(3)采用三维GIS技术实现了灾害监测、预警分析结果的统一展示;
经过全面、详尽的***测试和初步应用,本发明使用方便、可靠性好、通用性高。
本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。
附图说明
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作优选的详细描述,其中:
图1为本发明实施例中灾害数据一体化采集架构;
图2为本发明实施例中煤矿灾害数据采集方案示意图;
图3为本发明实施例中轻量级数据WebAPI数据交互流程;
图4为本发明实施例中Spark Streaming数据处理流程;
图5为本发明实施例中关联分析处理框架架构;
图6为本发明实施例中GIS一张图架构;
图7为本发明实施例中巷道拓扑生成算法原理;
图8为本发明实施例中井下各要素空间关系算法;
图9为本发明实施例中灾害预警平台软件功能架构。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
其中,附图仅用于示例性说明,表示的仅是示意图,而非实物图,不能理解为对本发明的限制;为了更好地说明本发明的实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;对本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
本发明实施例的附图中相同或相似的标号对应相同或相似的部件;在本发明的描述中,需要理解的是,若有术语“上”、“下”、“左”、“右”、“前”、“后”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此附图中描述位置关系的用语仅用于示例性说明,不能理解为对本发明的限制,对于本领域的普通技术人员而言,可以根据具体情况理解上述术语的具体含义。
请参阅图1~图9,为一种煤矿灾害数据采集、分析及可视化展现***,包括灾害数据一体化采集模块、灾害监测预警分析模块、GIS生成模块、可视化展示模块和灾害预警手机模块;
所述灾害数据一体化采集模块通过多协议适配将采集数据转换为结构化数据存储到数据库中,实现瓦斯、水、火、顶板、粉尘灾害监测数据的统一采集;
所述灾害监测预警分析模块对数据库中的灾害监测数据分析,识别灾害监测数据的异常情况,所述异常情况包括突变、缓升、波动、周期变化和恒定不变;当识别到异常情况时,发出灾害异常报警提示语音信息;
所述GIS生成模块根据矿井的通风***图或采掘工程平面图,绘制矿井三维巷道空间结构,形成灾害GIS一张图,并将灾害监测点和灾害异常分析点绑定至所述灾害GIS一张图;
所述可视化展示模块通过多种方式展示灾害监测数据和灾害异常分析结果,包括列表、折线图、柱状图、饼图和灾害GIS一张图;
所述灾害预警手机模块将异常信息推送给手机端APP。
如图1所示,灾害数据一体化采集模块包含煤矿端与公司端。在煤矿端,采集程序适配OPC、FTP文件、数据库、WebService以及其他数据源,实现对安全监控***、人员定位***、水文监测***、采空区发火监测***、顶板监测***、粉尘监控***以及灾害预警数据、特征图谱分析数据的统一采集。在公司端,基于发布/订阅者模式实现矿端采集数据联网上传至公司端。
如图2所示,针对安全监控、人员定位、粉尘监测、水文监测、束管监测等具备统一、通用联网上传协议的灾害监测子***数据,通过在矿端部署采集上传软件,公司端部署FTP服务器,基于FTP文件上传的形式实现灾害监测数据联网采集上传。
针对顶板灾害监测数据、光纤测温监测数据等不具备统一的数据联网上传标准的数据,采用数据库定时同步的方式,将矿端数据同步至公司端数据存储中心。
针对FTP形式与数据库同步形式的数据上传,研发了多采集任务调度程序,有效避免了多任务冲突,同时具备异常处理机制,针对部分异常任务具备定时重传、日志记录功能,为技术人员异常排查奠定基础。
灾害预警结果数据组成包括瓦斯、水文、采空区发火的灾害预警结果,这些数据输入由各个专业子***分析产生,为轻量级数据,采用WebAPI进行数据集成交互,数据之间采用JSON格式,请求方式采用Post。WebAPI接口调用的流程如图3所示,包括以下步骤:
①通过分配用户名和密码调用名为数据采集交换***登录接口进行登录,并获得用户动态码,该动态码用于表明身份。
②循环调用上传接口,上传数据,接口中需包括动态码以验证身份,接口名约定为Upload_*****。
③重复第2步,上传其它类型的数据,直到所有数据全部上传完毕。
④调用注销接口,注销本次登录,如不注销,30分钟后将自动注销。
根据各任务的描述,当各任务产生灾害预警结果信息时,调用本数据采集交换***的WebAPI接口进行实时上传。
煤矿灾害监测预警涉及的灾害监测数据量大,对数据分析的实时性要求高,将大数据流计算应用于煤矿海量数据的分析中,将极大支撑灾害精准预警。所谓流式数据即是由特定数据源持续产生的数据,具有数据量大、持续达到、数据率随时间波动等特点,煤矿环境监测、设备工况等数据正是属于流式数据。
由于煤矿灾害监测分析业务的特殊性,其对***的稳定性、错误恢复能力以及矿山数据的不断增加带来的高吞吐量均有较高要求,同时根据煤矿灾害的成因机理以及数据分析模型,需要对不同时间尺度的流式数据进行分析处理。Spark采用弹性分布式数据集(RDD)的方式将中间数据存储到内存中,在执行相同的批处理任务时具有较大的性能优势,更加适合需要实时响应的交互式查询和迭代性数据分析的场合。Spark Streaming作为Spark之上的流式数据处理框架,提供了多数据源支持。其采用离散流的数据组织方式,将接收到的流式数据跟进时间片段划分成为若干个批次,实现由流式数据到微批次的转化。因此选用Spark Streaming作为煤矿灾害流式数据处理框架。煤矿灾害数据SparkStreaming处理框架如图4所示。
为满足海量存储、快速读取与动态分析的煤矿灾害精准预警要求,构建的实时关联分析处理框架架构如下所示。选用Saprk Streaming作为实时数据关联分析处理框架,它是建立在Saprk上的实时计算框架,通过它提供丰富的API、基于内存的高速执行引擎,用户可以结合流式、批处理和交互式查询应用。
如图5所示,整个框架数据处理流程为:通过多源异构数据集成采集器,将数据发送给Kafka。Kafka接收数据后一方面通过数据解析服务存入关系型数据库和HBase,并将重要数据映射出入Hive,另一方面,通过将时间窗口内的数据传入SparkStreaming框架。同时通过Reids加载HBase中的历史数据到SparkStreaming中,调用SparkMLib中的算法库对数据进行分析挖掘分析,并将挖掘分析结果写入关系型数据库。针对历史数据挖掘,直接运用HiveSql实现挖掘分析算法,对历史数据进行分析,并将分析结果写入关系型数据库。
(1)基于Kafka数据流传输
Kafka是LinkedIn公司开发的一套高吞吐量的分布式消息订阅***,可以将大量数据以消息的形式实现端到端的快速传输,具有非常优秀的吞吐量,较高的可靠性和扩展性。其架构主要由生产者(Producer)、代理(Broker)和消费者(Consumer)三大部分构成。本架构中由数据服务总线负责数据的采集,扮演Producer角色,并将数据推送给Broker,Broker负责接收消息,并将消息本地持久化,Consumer是消息的使用者。Kafka集群由多个Broker节点组成,各个Broker节点无主从之分,每个Broker上可以有多个主题Topic。一个主题Topic被认为是一个队列,每条消息都必须指定Topic,每个Topic可分成一个或多个partition,每个partiton对应一个物理文件夹。每个Partition中每条消息都会分配一个自增的偏移量Offset,该偏移量由consumer自主控制,当消费完一条消息后,顺序递增该Offset,从而保障kafka的高吞吐量。为了保障数据的高可用性,kafka引入了replication机制,每个partition被分到多台服务器上,当主副本故障时,从备份副本中选举产生新的主副本,确保负债均衡和高可用性。
针对各式各样的数据汇聚到双总线后,由于双总线提供统一的数据格式给Kafka消息队列。Json是一种轻量级跨平台,易读易写的一种标准化语言,数据格式采用Json的形式进行传输。
(2)数据存储
将历史数据存入HBase中。HBase是一种Key/Value***,它运行在HDFS之上,Hbase能够在它的数据库上实时运行,可以实时的为SparkStreaming提供数据,供实时分析。将需要分析的数据存入Hive中。Hive是建立在Hadoop基础上的开源的数据仓库,提供类似SQL的Hive Query Language语言操作结构化数据存储服务和基本的数据分析服务。通过Hive可以使用HQL语言查询存放在HDFS上的数据。HQL是一种类SQL语言,这种语言最终被转化为Map/Reduce。虽然Hive提供了SQL查询功能,但是Hive不能够进行交互查询,因为它只能够在Haoop上批量的执行Hadoop。其非常适合用来对一段时间内的数据进行分析查询。
根据对采集数据的特征及用途分析,设计的Hbase主要表如下所示:
表4-1HBase表
(3)数据处理模型
①滚动窗口模型
滚动窗口(tumbling)根据每条数据的时间字段将数据分配到一个指定大小的窗口中进行操作,窗口以窗口大小为步长进行滑动,窗口之间不会出现重叠。
②滑动窗口模型
滑动窗口(hopping),也被称作Sliding Window。不同于滚动窗口,滑动窗口可以设置窗口滑动的步长,所以窗口可以重叠。滑动窗口有两个参数:窗口大小和滑动步长。
Spark Streaming SQL支持这两类窗口操作,每次落在窗口里面的RDD数据会被集合起来,然后生成新的RDD会作为数据窗口的一个RDD。状态监测的异常检测目的就是处理最新到达的数据,快速地找出不正常模式的数据,对监测数据的实时处理是一个连续计算的过程,其实质可以分解为短小的批处理作业,而时间滚动窗口模型和滑动窗口模型能够很好地满足这样的应用需求。SparkStreaming从Kafka获取数据,将数据在秒级进行分割,按照业务处理逻辑进行秒级分割,拆分成微批次数据进行计算。计算完毕后将数据写入到数据存储中心。根据不同的业务场景需要,选择不同的数据窗口处理模型。
对数据库中的灾害监测数据进行灾害特征图谱分析,包括识别灾害监测数据的突变、缓升、波动、周期变化和恒定不变等。
1、数据突变分析
数据突变是指在一定监测时间范围内,监测值由某个较小值突然增大到较大值的现象,对监测数据的突变状况进行分析,有助于及时发现数据急剧增大的异常现象。
以最近5分钟的监测数据设置滑动时间窗,根据不同监测点类型设置不同突变判定值,在分析的时间序列里,以监测值从最小值突变到最大值的变化值是否达到突变判定值为依据。
数据突变识别计算公式如下:
y=α×fmax(x)-(fmax(x)-fmin(x));
式中,α为突变因子,fmax(x)为滑动时间窗范围内的最大值;fmin(x)为滑动时间范围的最小值。
2、数据缓升分析
MK检验是曼-肯德尔法,又称Mann—Kenddall检验法,是一种时间序列分析预测技术,常用于检验时间序列的缓升、缓降变化趋势,使用MK算法检验时序数据大致趋势,趋势分为无明显趋势(稳定)、趋势上升、趋势下降。MK算法通过计算时间序列的差值函数,通过差值函数的正负差数量判断观测序列的变化趋势。
假设时间序列为x={x1,x2,…,xn},具有0假设H0没有单调趋势,1假设Ha为单调趋势两个假设前提。
确定所有个xi-xj的差值函数f(xi-xj)(n≥i>j≥1):
计算正负差数量和S,即为差值为正的数量减去差值为负的数量。
如果S是一个正数,那么后一部分的观测值相比之前的观测值会趋势于变大;
如果S是一个负数,那么后一部分的观测值相比之前的观测值会趋势于变小。
如果n≤10,则要计算z值,S和z值的关系式如下:
如果n>10,则需要计算S的方差来判断趋势。
若数据中每个数都是唯一的,则:
若数据中存在数据不唯一:
其中,p为重复数数量,g为唯一数数量(结组数),tp为每个重复数重复的次数。
计算n>10情况下的MK的Z值。
假设1型错误率为α,0<α<0.5。
如果ZMK≥Z1-a,就拒绝零假设H0,接受替代假设Ha,其中Z1-a是标准正态分布的100(1-α)th百分位。
测试H0与Ha(有单调递减趋势):
如果ZMK≤-Z1-a,拒绝零假设,就拒绝零假设H0,接受替代假设Ha,即序列呈单调递减趋势。
测试H0与Ha(有单调递增或递减趋势):
如果|ZMK|≤-Z1-a,拒绝零假设,就拒绝零假设H0,接受替代假设Ha,即序列呈单调递增或递减趋势。
根据MK检验算法原理,对矿井灾害缓升特征图谱分析。基于时间序列下的监测值集合,使用MK趋势校验法得到上升趋势,线性拟合方式得到上升率,并计算最后时刻的监测值相较于初始值的增长百分比。当趋势为上升且上升的线性角度大于数学上的15°,或者趋势为上升且最后监测值较初始值的增长百分比大于30%,满足其一认为是缓升。
3、数据波动分析
四分位数(Quartile)应用于统计学中的箱线图绘制,是统计学中分位数的一种,即把所有数值由小到大排列并分成四等份,处于三个分割点位置的数值就是四分位数。
第一四分位数(Q1),又称“下四分位数”,等于该样本中所有数据由小到大排列后第25%的数据。
第二四分位数(Q2),又称“中位数”,等于该样本中所有数据由小到大排列后第50%数据。
第三四分位数(Q3),又称“上四分位数”,等于该样本中所有数据由小到大排列后第75%的数据。
第三四分位数与第一四分位数的差距又称四分位距(InterQuartile Range,IQR)。
四分位数计算包括四分位数位置的确定以及四分位数确定。
四分位数位置的确定如下:
先将变量值从小到大排列。第一四分位数(Q1),又称“下四分位数”,位置的确定:
1)首先计算n/4。
2)如果n/4结果为整数,则下四分位数位于“n/4“的位置和(n/4)+1位置的中间。
3)如果n/4结果不是整数,则向上取整,所得结果即为下四分位数的位置。
第二四分位数(Q2),又称“中位数”,位置的确定:
第二四分位数(Q2),又称“中位数”位置在(n+1)/2处。
第三四分位数(Q3),又称“上四分位数”,位置的确定:
1)首先计算3n/4。
2)如果3n/4结果为整数,则上四分位数位于“3n/4“的位置和(3n/4)+1位置的中间。
3)如果3n/4结果不是整数,则向上取整,所得结果即为上四分位数的位置。
四分位数的确定:
先将变量值从小到大排列。第一四分位数(Q1),又称“下四分位数”的确定:
1)首先计算n/4。
2)如果n/4结果为整数,则将“n/4“的位置和(n/4)+1位置上的两个变量值的算术平均数作为下四分位数。
3)如果n/4结果不是整数,则向上取整,所得结果即为下四分位数的位置,该位置上的数即为下四分位数。
第二四分位数(Q2),又称“中位数”的确定:
1)如果(n+1)/2为整数,则该位置上的变量值即是中位数。
2)如果(n+1)/2不是整数,则该位置上旁边的两个变量值的算术平均数作为中位数。
第三四分位数(Q3),又称“上四分位数”的确定:
1)首先计算3n/4。
2)如果3n/4结果为整数,则将位于“3n/4位置上“的数值和(3n/4)+1位置上的两个变量值的算术平均数作为上四分位数。
3)如果3n/4结果不是整数,则向上取整,所得结果即为上四分位数的位置,该位置上的数即为上四分位数。
对于矿井灾害监测时间序列数据异常识别,采用图基检验确定异常波动范围(fmin~fmax)。
fmin=Q1-k(Q3-Q1)(4-8)
fmax=Q3+k(Q3-Q1)(4-9)
式中,Q1为下四分位数,Q3为上四分位数。k为异常范围阈值,当取值为1.5时为中度异常范围,当取值为3时为极度异常范围。
煤矿灾害数据波动分析步骤如下:
(1)计算待分析序列的上四分位数Q3与下四分位数Q1;
(2)基于图基检验,计算波动异常范围最小值fmin与最大值fmax;
(3)计算原始数据序列中超出异常范围的波动值。
4、数据周期变化分析
Z-Score标准化是数据处理的一种常用方法。通过它能够将不同量级的数据转化为统一量度的Z-Score分值进行比较。提高了数据可比性,削弱了数据解释性。
Z-Score标准化也叫标准差标准化,这种方法给予原始数据的均值(mean)和标准差(standard deviation)进行数据的标准化。经过处理的数据符合标准正态分布,即均值为0,标准差为。
标准化的公式计算步骤如下:
1)求出各变量(指标)的算术平均值(数学期望)μ和标准差σ,标准差计算公式如下:
2)通过转换函数进行标准化处理:
其中μ为所有样本数据的均值,σ为所有样本数据的标准差。
3)将逆指标前的正负号对调。
标准化后的变量值围绕0上下波动,大于0说明高于平均水平,小于0说明低于平均水平。
基于Z-Score数据标准化处理方法,首先将煤矿灾害时间序列数据取最近两个周期的数据,分别做Z-Score标准化,然后对结果做差,最后在对结果求标准差,比较标准差和1,小于1则是周期性数据。
5、数据恒定不变分析
Kmeans算法是最常用的聚类算法,主要思想是:在给定K值和K个初始类簇中心点的情况下,把每个点(亦即数据记录)分到离其最近的类簇中心点所代表的类簇中,所有点分配完毕之后,根据一个类簇内的所有点重新计算该类簇的中心点(取平均值),然后再迭代的进行分配点和更新类簇中心点的步骤,直至类簇中心点的变化很小,或者达到指定的迭代次数。
假设给定数据样本X,包含了n个对象X={X1,X2,X3,…,Xn},其中每个对象都具有m个维度的属性。Kmeans算法的目标是将n个对象间的相似性聚集到指定的k个类簇中,每个对象属于且仅属于一个其到类簇中心距离最小的类簇中。对于Kmeans,首先需要初始化k个聚类中心{C1,C2,C3,…Ck},1<k≤n,然后通过计算每一个对象到每个聚类簇中心的欧式距离,如下式所示:
上式中,Xi表示第i个对象1≤i≤n,Cj表示第j个聚类中心的1≤j≤k,表示第i个对象的第t个属性,1≤t≤m,Cjt表示第j个聚类中心的第t个属性。
依次比较每一个对象到每一个聚类中心的距离,将对象分配到距离最近的聚类中心的类簇中,得到k个类簇{S1,S2,S3,…Sk}。
Kmeans算法用中心定义了类簇的原型,类簇中心就是类簇内所有对象在各个维度的均值,其计算公式如下:
式中,Cl表示第l个聚类的中心,1≤l≤k,|Sl|表示第l个类簇中对象的个数,Xi表示第l个类簇中第i个对象,1≤i≤Sl。
数据恒定不变用于判断矿井灾害监测数据在一定时间周期范围内值恒定不变的异常情况,数据恒定不变分析包含以下步骤:
(1)计算每个监测点的最长不变时间;
(2)划分Kmeans类簇;
(3)基于Kmeans算法计算每个时间周期范围内监测值恒定不变的监测点数量及恒定不变监测点数占监测点总数的百分比,得到聚类结果。
(4)根据聚类结果确定恒定不变百分比阈值,将百分比大于阈值的作为恒定不变异常点。
灾害可视化展示基于矿井一张图综合展现,实现灾害监测***设备和实时监测数据的分层展示等。基本架构图如图6所示,GIS一张图主要包含基于openlayers的前端网页、Gis服务器、空间数据库和外部接口。数据展现的一般流程为前端通过Openlayer发出请求,Geoserver接受请求,并调用postgresql查询数据,并经过postGIS运算分析,将结果再由postgresql返回给geoserver服务器,然后经过渲染或处理传递给openlayers,最后呈现给用户。具体如下:
(1)基于openlayers的前端网页
前端界面是整个一张图模块的核心,一方面它分别由外部口获取业务数据,由gis服务器获取地理数据,综合两种数据生成最终展示图形;另一方面它接收用户的编辑操作,并将编辑结果上传至GIS服务器用于显示。以openlayers api生成的地图为核心,显示获取自gis服务端的已经渲染完成的巷道图,并根据图层控制树的筛选,显示井下的各类设备以及工作面。
(2)GeoServer服务器
GeoServer服务器是连接前端网页与空间数据库的桥梁,不同于一般程序无定型的数据结构与前后端交互方式,gis数据的格式相对复杂且固定,是一个不需要编程的通用GIS服务端程序便应运而生,而且逐渐具备了独有的常用功能,比如矢量数据渲染为栅格图像并发布。
在一张图模块中,Geoserver服务器对外发布了设备、巷道、工作面的数据接口,提供编辑与查询;发布了人员轨迹生成与巷道拓扑生成的调用接口;通过编写slg渲染样式,发布了渲染后的巷道图像。
(3)空间数据库
在一张图模块的架构中,postgis空间数据库,承当空间数据存储与空间运算两大功能。其支持的geometry空间数据格式是便捷、完整存取设备位置、巷道走势、工作范围的保证,也是进行空间运算基础。
(4)外部接口
一张图模块的对外接口都是在网页端提供的,主要是为了适配多***调用减少耦合,分为数据获取接口与功能调用接口:数据获取接口是返回JSON数据的webservice接口,包括设备的定义与监测数据接口、工作面的定义与监测数据接口;功能调用接口是前端交互的postMessage接口,包括着重显示设备接口、人员轨迹回放接口、设备点击事件回调接口等。
矿井风险一张图的GIS展现,主要涉及巷道拓扑生成算法,以实现矿井巷道的数字化;人员轨迹回放算法,以实现人员轨迹的融合与回溯;井下各要素空间关系算法,以确定并展现监测点与巷道的空间位置。
(1)巷道拓扑生成算法
用户在前端绘制巷道的时候一般不会考虑到巷道的拓扑是否完整与一致,比如通用数据结构中要求相互连接的三叉、四叉路口必须由三条、四条独立的巷道端点重合而成,而一般用户绘制时只会在主巷道上横画一条新巷道出去,不会做将主巷道打断这一步骤。
为解决用户自绘制巷道拓扑不能使用的问题,提出巷道拓扑生成算法,如图7所示,算法会根据巷道坐标位置自动提取与每一条巷道相交的巷道,并进一步提取相交巷道的端点与拐点,最后使用端点与拐点的集合对巷道进行打断,将打断后的巷道分别保存拓扑表。通过本算法,可以在不要求用户按照拓扑标准绘制巷道、不增加用户绘制工作的情况下,又能获取完整的巷道拓扑数据,以支持巷道路径运算。
(2)井下各要素空间关系的算法
一方面井下各要素都实际只存在于巷道中、相互间只能通过巷道联系;另一方面用户在绘制巷道与布置设备、关键点时,既可能为了查看方便将要素放置在巷道外,也可能为了美观不按照真实距离比例绘制巷道与布置要素。计算井下各要素空间关系时,必然要考虑到上述情况做特殊处理。
如图8所示,计算设备、关键点与巷道的关系时,首先取与之相交的巷道作为所在巷道,没有相交时,取距离最近的巷道作为所在巷道。计算设备与关键点的关系时,首先去设备与关键点在临近巷道上的最近点作为实际存在点,再获取两个最近点的最短路径,取最短路径的长度作为设备与关键点的实际距离。
GIS一张图展现的基本操作步骤为,首先结合煤矿安全监控***图、矿井通风***图和采掘工程布置图人工绘制GIS巷道,实现巷道的数字化。绘制巷道时,需要设置巷道的属性,包括巷道类型、所属工作面、所属开采水平、风向、巷道长度、巷道高度、巷道断面类型等。绘制完成后,***会运用巷道拓扑生成算法检查并生成巷道拓扑关系。然后需要将瓦斯、温度、风速、人员、局扇等进行图元化,即设置各自的图标,并手动绑定到巷道上,然后***调用井下各要素关系算法,确定巷道与设备的空间位置关系。然后,根据相关规程整理得到各巷道设备安装规则集,即不同矿井、不同类型的巷道应安装的传感器类型、个数。依据规则集和已绘制的巷道设备关系,***自动评判巷道设备绘制是否合规,并给出提示。最后通过数据接口,将实时采集的数据展现在矿井GIS一张图上。由于传感器类别不同,同时分类别设置了巷道的属性,所属水平,GIS一张图可以根据选分层展现巷道、分类别展现设备等。
(3)GIS一张图功能结构
GIS一张图结合不同的地质构造、空间环境和生产工艺、各种灾害实时监测数据、煤矿灾害事故的特点机理等多因素进行多元数据融合及深层预警分析,提供公司层面与矿井煤矿层面的灾害综合风险研判结果。
综合展示应以GIS平台为支撑,构建安全风险评价指标,构建全公司安全生产风险地图。通过采集各个煤矿的基础数据,叠加行政区域的遥感影像数据和矢量地图数据,以GIS一张图的形式展现矿井灾害监测信息、灾害分析结果、灾害预警结果等,实现不同辖区范围煤矿不同层次数据的综合查询、导航定位、数据回溯、叠加分析、对比分析以及空间分析等功能。同时对火灾、水灾进行仿真模拟,并智能规划井下人员的避灾逃生路线。具体包含以下功能:
1)灾害数据展示
基于二三维GIS服务,建立矿井GIS一张图,通过绑定配置监测点的形式,在GIS一张图展示灾害监测传感器、防灾设备的实时监测数据、设备开停情况、灾害分析结果、灾害预警结果等。同时支持鼠标点击灾害监测点钻取至详细的统计页面,包括监测点的历史曲线、设备开停列表、灾害预警结果列表等。
2)灾害模拟仿真及避灾逃生路线规划
灾害模拟仿真及避灾逃生路线规划主要针对矿井发生火灾、水灾时,为灾害区域附件井下作业人员规划避灾逃生路线
针对火灾避灾路线规划,结合矿井实际情况,研究建立矿井巷道火灾烟气量化计算模型,建立烟气在巷道网络中运动的非稳态模型,模拟火灾烟气在矿井巷道通风网络的扩散蔓延规律;通过迭代求解,对建立的火灾烟气流动的区域羽流扩散演化模型进行求解,输出计算结果,计算结果能以二维/三维图形化的形式显示烟气的扩散演化过程,同时输出关键生产区域火灾烟气扩散蔓延到达的时间,为应急逃生提供决策支持;建立矿井巷道火灾智能模拟仿真***,实现矿井巷道火灾的实时监测和动态仿真,并以图形化的形式显示烟气扩散蔓延过程,及灾变条件下井下环境的动态监测和避灾路线的智能规划。
针对水害避灾路线规划,依据煤矿巷道的基础数据信息和地图空间服务可分析计算事故最佳的逃生路线,自动规划最快的避灾路线,通过广播下发给井下人员。当***根据设置突水地点和突水参数,模拟出突水水位和巷道淹没情况后,设置好避灾人员所在点(即起始点)和安全地点(即目标点),***可以根据算法,计算最佳避灾路线。通过突(透)水点及其相关信息获取、巷道水流模拟、人员逃生行为模拟以及智能动态路径搜索,生成安全快速的井下人员最优疏散路径。
本***分为Web终端软件和手机APP软件两部分,两部分的功能如图9所示。
最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本技术方案的宗旨和范围,其均应涵盖在本发明的权利要求范围当中。
Claims (10)
1.一种煤矿灾害数据采集、分析及可视化展现***,其特征在于:包括灾害数据一体化采集模块、灾害监测预警分析模块、GIS生成模块、可视化展示模块和灾害预警手机模块;
所述灾害数据一体化采集模块通过多协议适配将采集数据转换为结构化数据存储到数据库中,实现瓦斯、水、火、顶板、粉尘灾害监测数据的统一采集;
所述灾害监测预警分析模块对数据库中的灾害监测数据分析,识别灾害监测数据的异常情况,所述异常情况包括突变、缓升、波动、周期变化和恒定不变;当识别到异常情况时,发出灾害异常报警提示语音信息;
所述GIS生成模块根据矿井的通风***图或采掘工程平面图,绘制矿井三维巷道空间结构,形成灾害GIS一张图,并将灾害监测点和灾害异常分析点绑定至所述灾害GIS一张图;
所述可视化展示模块通过多种方式展示灾害监测数据和灾害异常分析结果,包括列表、折线图、柱状图、饼图和灾害GIS一张图;
所述灾害预警手机模块将异常信息推送给手机端APP。
2.根据权利要求1所述的煤矿灾害数据采集、分析及可视化展现***,其特征在于:所述灾害数据一体化采集模块包括煤矿端与公司端;所述煤矿端通过采集程序适配OPC、FTP文件、数据库、WebService以及其他数据源,实现对安全监控***、人员定位***、水文监测***、采空区发火监测***、顶板监测***、粉尘监控***以及灾害预警数据、特征图谱分析数据的统一采集;所述煤矿端通过发布/订阅者模式将采集到的数据联网上传到公司端。
3.根据权利要求2所述的煤矿灾害数据采集、分析及可视化展现***,其特征在于:所述煤矿端通过以下策略同一采集灾害数据:
灾害监测数据采集:针对具备统一、通用联网上传协议的灾害监测子***数据,包括安全监控、人员定位、粉尘监测、水文监测和束管监测,通过在煤矿端部署采集上传软件,公司端部署FTP服务器,基于FTP文件上传的形式实现灾害监测数据联网采集上传;
灾害数据库同步:针对不具备统一的数据联网上传标准的数据,包括顶板灾害监测数据和光纤测温监测数据,采用数据库定时同步的方式,将矿端数据同步至公司端数据存储中心。
4.根据权利要求1或3所述的煤矿灾害数据采集、分析及可视化展现***,其特征在于:煤矿灾害流式数据处理框架为SparkStreaming处理框架,整个框架数据处理流程为:
通过多源异构数据集成采集器,将数据发送给Kafka;Kafka接收数据后一方面通过数据解析服务存入关系型数据库和HBase,并将重要数据映射出入Hive,另一方面通过将时间窗口内的数据传入SparkStreaming框架;
同时通过Reids加载HBase中的历史数据到SparkStreaming中,调用SparkMLib中的算法库对数据进行分析挖掘分析,并将挖掘分析结果写入关系型数据库;
针对历史数据挖掘,直接运用HiveSql实现挖掘分析算法,对历史数据进行分析,并将分析结果写入关系型数据库。
5.根据权利要求1所述的煤矿灾害数据采集、分析及可视化展现***,其特征在于:所述灾害监测预警分析模块对灾害监测数据的突变识别如下:
以最近5分钟的监测数据设置滑动时间窗,根据不同监测点类型设置不同突变判定值,在分析的时间序列里,判断监测值从最小值突变到最大值的变化值是否达到突变判定值,计算公式为:y=α×fmax(x)-(fmax(x)-fmin(x));
式中,α为突变因子,fmax(x)为滑动时间窗范围内的最大值;fmin(x)为滑动时间范围的最小值。
6.根据权利要求1所述的煤矿灾害数据采集、分析及可视化展现***,其特征在于:所述灾害监测预警分析模块对灾害监测数据的缓升识别如下:
通过MK算法通过计算时间序列的差值函数,通过差值函数的正负差数量判断观测序列的变化趋势;
假设时间序列为x={x1,x2,…,xn},具有0假设H0没有单调趋势,1假设Ha为单调趋势两个假设前提;
确定所有个xi-xj的差值函数f(xi-xj)(n≥i>j≥1):
计算正负差数量和S,即为差值为正的数量减去差值为负的数量:
如果S是一个正数,那么后一部分的观测值相比之前的观测值会趋势于变大;
如果S是一个负数,那么后一部分的观测值相比之前的观测值会趋势于变小;
如果n≤10,则要计算z值,S和z值的关系式如下:
如果n>10,则需要计算S的方差来判断趋势;
若数据中每个数均为唯一,则:
若数据中存在数据不唯一,则:
其中,p为重复数数量,g为唯一数数量,tp为每个重复数重复的次数;计算
n>10情况下,MK的Z值:
假设1型错误率为α,0<α<0.5;
如果ZMK≥Z1-a,就拒绝零假设H0,接受替代假设Ha,其中Z1-a是标准正态分布的100(1-α)th百分位;
测试H0与Ha有单调递减趋势:
如果ZMK≤-Z1-a,拒绝零假设,就拒绝零假设H0,接受替代假设Ha,即序列呈单调递减趋势;
测试H0与Ha有单调递增或递减趋势:
如果|ZMK|≤-Z1-a,拒绝零假设,就拒绝零假设H0,接受替代假设Ha,即序列呈单调递增或递减趋势;
基于时间序列下的监测值集合,使用MK趋势校验法得到上升趋势,线性拟合方式得到上升率,并计算最后时刻的监测值相较于初始值的增长百分比,当趋势为上升且上升的线性角度大于数学上的15°,或者趋势为上升且最后监测值较初始值的增长百分比大于30%,满足其一认为是缓升。
7.根据权利要求1所述的煤矿灾害数据采集、分析及可视化展现***,其特征在于:所述灾害监测预警分析模块对灾害监测数据的波动识别如下:
计算待分析序列的四分位数;对于矿井灾害监测时间序列数据异常识别,采用图基检验计算波动异常范围最小值fmin与最大值fmax;
fmin=Q1-k(Q3-Q1);
fmax=Q3+k(Q3-Q1);
式中,Q1为下四分位数,Q3为上四分位数,k为异常范围阈值,当取值为1.5时为中度异常范围,当取值为3时为极度异常范围;
计算原始数据序列中超出异常范围的波动值。
8.根据权利要求1所述的煤矿灾害数据采集、分析及可视化展现***,其特征在于:所述灾害监测预警分析模块对灾害监测数据的周期变化识别如下:
基于Z-Score数据标准化处理方法,首先将煤矿灾害时间序列数据取最近两个周期的数据,分别做Z-Score标准化,然后对结果做差,最后在对结果求标准差,比较标准差和1,小于1则是周期性数据。
9.根据权利要求1所述的煤矿灾害数据采集、分析及可视化展现***,其特征在于:所述灾害监测预警分析模块对灾害监测数据的恒定不变识别如下:
计算每个监测点的最长不变时间;划分Kmeans类簇;基于Kmeans算法计算每个时间周期范围内监测值恒定不变的监测点数量及恒定不变监测点数占监测点总数的百分比,得到聚类结果;根据聚类结果确定恒定不变百分比阈值,将百分比大于阈值的作为恒定不变异常点。
10.根据权利要求1所述的煤矿灾害数据采集、分析及可视化展现***,其特征在于:所述GIS生成模块采用拓扑生成算法,根据巷道坐标位置自动提取与每一条巷道相交的巷道,并进一步提取相交巷道的端点与拐点,最后使用端点与拐点的集合对巷道进行打断,将打断后的巷道分别保存拓扑表。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310377581.XA CN116624226A (zh) | 2023-04-10 | 2023-04-10 | 一种煤矿灾害数据采集、分析及可视化展现*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310377581.XA CN116624226A (zh) | 2023-04-10 | 2023-04-10 | 一种煤矿灾害数据采集、分析及可视化展现*** |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116624226A true CN116624226A (zh) | 2023-08-22 |
Family
ID=87640612
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310377581.XA Pending CN116624226A (zh) | 2023-04-10 | 2023-04-10 | 一种煤矿灾害数据采集、分析及可视化展现*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116624226A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116796916A (zh) * | 2023-08-24 | 2023-09-22 | 华夏天信物联科技有限公司 | 一种基于煤矿特征分析的避险路线规划方法及*** |
-
2023
- 2023-04-10 CN CN202310377581.XA patent/CN116624226A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116796916A (zh) * | 2023-08-24 | 2023-09-22 | 华夏天信物联科技有限公司 | 一种基于煤矿特征分析的避险路线规划方法及*** |
CN116796916B (zh) * | 2023-08-24 | 2023-11-03 | 华夏天信物联科技有限公司 | 一种基于煤矿特征分析的避险路线规划方法及*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Xu et al. | Real‐time regional seismic damage assessment framework based on long short‐term memory neural network | |
US20170300657A1 (en) | Computerized Event Simulation Using Synthetic Populations | |
CN117648997A (zh) | 预测管道泄漏的新型自动人工智能*** | |
Cremen et al. | A decision‐making methodology for risk‐informed earthquake early warning | |
Liu et al. | Information fusion for national airspace system prognostics: A NASA ULI project | |
CN111916215A (zh) | 一种群集性/慢性疾病早期自动报警、初步特征分析与风险评估*** | |
CN113656647B (zh) | 一种面向智能运维的工程档案数据管理平台、方法及*** | |
CN112926122A (zh) | 基于bim技术的预装三维效果图的建筑施工预拼装方法 | |
CN116624226A (zh) | 一种煤矿灾害数据采集、分析及可视化展现*** | |
CN112149300A (zh) | 一种矿井应急智能管理*** | |
CN115619245A (zh) | 一种基于数据降维方法的画像构建和分类方法及*** | |
CN117351521A (zh) | 基于数字孪生的输电线鸟类检测方法、***、介质及设备 | |
CN114626886A (zh) | 一种调查问卷数据分析方法及*** | |
US20210201179A1 (en) | Method and system for designing a prediction model | |
Al-Roumi et al. | Exploring the rate of adoption and implementation depth of building information modeling (BIM): A case of Kuwait | |
Feng et al. | The effects of factor generalization scales on the reproduction of dynamic urban growth | |
CN114266472A (zh) | 基于Spark的地铁站疏散风险分析方法 | |
CN113887115A (zh) | 运行状态的安全检测方法、装置、设备和存储介质 | |
CN113688120A (zh) | 数据仓库的质量检测方法、装置和电子设备 | |
CN114971255B (zh) | 一种参数性能自动检测***和方法 | |
CN112182346A (zh) | 一种对突发事件的实体信息进行抽取的方法与设备 | |
Liu et al. | Quality control method of steel structure construction based on digital twin technology | |
US20230274051A1 (en) | Interactive Tool for Specifying Factor Relationships in Design Structure | |
US20240143425A1 (en) | Anomaly diagnosis for time series data | |
Knežević et al. | Importance of software support in crisis situations decision-making |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |