CN113247730B - 基于多维特征的电梯乘客尖叫检测方法及*** - Google Patents
基于多维特征的电梯乘客尖叫检测方法及*** Download PDFInfo
- Publication number
- CN113247730B CN113247730B CN202110645178.1A CN202110645178A CN113247730B CN 113247730 B CN113247730 B CN 113247730B CN 202110645178 A CN202110645178 A CN 202110645178A CN 113247730 B CN113247730 B CN 113247730B
- Authority
- CN
- China
- Prior art keywords
- data
- elevator
- audio
- extracting
- imf
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66B—ELEVATORS; ESCALATORS OR MOVING WALKWAYS
- B66B5/00—Applications of checking, fault-correcting, or safety devices in elevators
- B66B5/0006—Monitoring devices or performance analysers
- B66B5/0018—Devices monitoring the operating condition of the elevator system
- B66B5/0031—Devices monitoring the operating condition of the elevator system for safety reasons
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66B—ELEVATORS; ESCALATORS OR MOVING WALKWAYS
- B66B5/00—Applications of checking, fault-correcting, or safety devices in elevators
- B66B5/0006—Monitoring devices or performance analysers
- B66B5/0012—Devices monitoring the users of the elevator system
Landscapes
- Maintenance And Inspection Apparatuses For Elevators (AREA)
- Indicating And Signalling Devices For Elevators (AREA)
Abstract
本发明涉及一种基于多维特征的电梯乘客尖叫检测方法及***,方法包括以下步骤:a、采集电梯运行的加速度数据和音频数据,对采集的数据进行预处理;b、分析所述加速度数据判断电梯运行是否发生异常,若是则提取所述音频数据的音频特征;c、分析所述音频特征判断电梯内是否发生乘客尖叫的现象,若是则发出报警信号。本发明可以通过检测乘客尖叫的方法及时上报电梯安全事故,以保证乘客安全。
Description
技术领域
本发明涉及一种基于多维特征的电梯乘客尖叫检测方法及***。
背景技术
在现代生活中电梯会给人们带来高效便捷的生活环境,因此使用越来越广泛。但是,电梯在运行过程中一旦出现故障,若无法及时救援,将会严重威胁到乘客的生命安全。现有技术中也存在一些故障的判断方法,可对噪声情况进行检测,但是存在一定的局限性。例如,专利CN105679313A公开的方案是高斯混合模型对声纹数据进行匹配来实现对噪声的检测。可见,该专利的方案利用的是比较传统的算法,并且只使用了声纹数据,其检测效果并不全面。
发明内容
本发明的目的在于提供一种基于多维特征的电梯乘客尖叫检测方法及***。
为实现上述发明目的,本发明提供一种基于多维特征的电梯乘客尖叫检测方法及***,方法包括以下步骤:
a、采集电梯运行的加速度数据和音频数据,对采集的数据进行预处理;
b、分析所述加速度数据判断电梯运行是否发生异常,若是则提取所述音频数据的音频特征;
c、分析所述音频特征判断电梯内是否发生乘客尖叫的现象,若是则发出报警信号。
根据本发明的一个方面,在所述步骤(a)中,所述预处理包括对数据进行清洗,去除无音频以及加速度数值过大和/或过小的脏数据。
根据本发明的一个方面,在所述步骤(a)中,所述音频数据为从电梯视频监控数据中提取的单通道音频信号,音频采样频率为22.05kHz,时长在1-10s之间。
根据本发明的一个方面,所述预处理还包括,对所述加速度数据进行残差计算,得到残差序列x=[x1,x2,x3,...,xn]。
根据本发明的一个方面,在所述步骤(b)中,当所述残差序列的最大最小值差min_max>70时,则判定电梯运行发生异常。
根据本发明的一个方面,在所述步骤(b)中,所述音频特征的提取包括CEEMD特征提取和特征采集;
在进行所述CEEMD特征提取时,使用CEEMD对所述音频数据的每一层IMF提取时域特征;
提取反映信号时域能量变化的IMF层能量EIMF:
提取反映不同频率尺度能量分布的IMF层能量比σ:
其中,Ex为帧信号的短时能量,y(t)是对应的IMF时域信号;
在进行所述特征采集时,通过对提取出的每一层IMF提取Fbank与LPCC得到每一层IMF的频域特征。
根据本发明的一个方面,所述音频特征的提取还包括将提取的Fbank、LPCC、EIMF和σ进行拼接得到最后的输入特征。
根据本发明的一个方面,在所述步骤(c)中,利用尖叫检测模型识别当前时段电梯内是否发生尖叫,所述尖叫检测模型为深度神经网络模型;
所述深度神经网络模型包括Conv1:3 256Relu、Conv2:3 256Relu、MaxPool1:2,2、Conv3:3 128Relu、Conv4:3 128Relu、MaxPool2:2,2、Dense1:512Relu和Dense2:2Softmax;
其中,Conv为卷积神经网络,Dense为全连接神经网络,卷积网络的卷积核大小为3*3,256和128为滤波器数量,Relu为激活函数,MaxPool2:2,2为大小为2步长为2的最大值池化,512和2为隐藏层神经元个数。
基于多维特征的电梯乘客尖叫检测***,包括:
数据采集模块,用于实时采集电梯运行数据并对数据进行预处理;
音频特征采集模块,用于提取音频数据中的音频特征;
异常运行识别模块,用于分析加速度数据判断电梯运行是否发生异常;
尖叫检测模块,用于检测电梯中是否发生乘客尖叫的现象并根据检测结果选择是否报警。
根据本发明的一个方面,所述数据采集模块包括监控摄像头和加速度传感器。
根据本发明的方案,采集电梯的视频监控数据与电梯运行的加速度数据。对加速度数据进行实时分析,进行残差计算找出异常运行的电梯时段,再从视频监控数据中截取当前时段电梯的音频数据进行分析,识别出是否有乘客并进一步确认是否发生尖叫。
附图说明
图1示意性表示本发明的一种实施方式的基于多维特征的电梯乘客尖叫检测方法的流程图;
图2示意性表示本发明的一种实施方式的基于多维特征的电梯乘客尖叫检测方法中的异常加速度数据(a)、异常加速度残差(b)、正常加速度数据(c)、正常加速度残差(d)示意图;
图3示意性表示本发明的一种实施方式的基于多维特征的电梯乘客尖叫检测方法中的音频特征提取流程图;
图4示意性表示本发明的一种实施方式的基于多维特征的电梯乘客尖叫检测方法中的尖叫检测模型结构图。
具体实施方式
为了更清楚地说明本发明实施方式或现有技术中的技术方案,下面将对实施方式中所需要使用的附图作简单地介绍。显而易见地,下面描述中的附图仅仅是本发明的一些实施方式,对于本领域普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
在针对本发明的实施方式进行描述时,术语“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”所表达的方位或位置关系是基于相关附图所示的方位或位置关系,其仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此上述术语不能理解为对本发明的限制。
下面结合附图和具体实施方式对本发明作详细地描述,实施方式不能在此一一赘述,但本发明的实施方式并不因此限定于以下实施方式。
参见图1,本发明的基于多维特征的电梯乘客尖叫检测方法,首先,采集电梯运行的加速度数据和音频数据,并对采集的数据进行预处理。实时分析加速度数据判断电梯运行是否发生异常,若是则提取音频数据的音频特征。分析音频特征判断电梯内是否发生乘客尖叫的现象,若是则发出报警信号。由此,本发明基于电梯运行加速度数据与电梯运行中的音频数据对电梯内出现的异常状况进行实时监控,若出现乘客尖叫的情况立即发出报警,反馈给相关单位,从而及时上报电梯安全事故,便于及时实施救援,保障乘客的安全。
本发明中,预处理实质上是对数据进行清洗,以保证采集的数据可用于后续检测。具体的,对于加速度数据而言,若采集到过大和/或过小的加速度数值则有可能为错误数据(即脏数据),因此应该将这些数据删除。另外,本发明的音频数据为从电梯视频监控数据中提取的单通道音频信号,音频采样频率为22.05kHz,时长(或称长度)在1-10s之间不等。由此,若采集的视频监控数据中不含音频,则也应将这些数据判定为脏数据并删除。
参见图2,对于加速度数据而言,其预处理还包括进行残差计算(或称残差处理),以得到残差序列x=[x1,x2,x3,...,xn],其中,xn为长度为n的加速度残差序列中的第n个值,目的在于去除加减速阶段的影响。经过残差分解后,加减速阶段的影响被消除,而真实异常的区域残差依旧很大,如图2b和图2d所示,因此可以将残差较大的加速度定义为异常加速度,从而区分出如图2a和图2c所示的异常加速度和正常加速度。具体的,当残差序列x的最大最小值差min_max>70时,即可判断为异常加速度,则可进而判定当前时段电梯运行发生异常。
参见图3,本发明的音频特征的提取包括CEEMD(互补集合经验模态分解)特征提取和特征采集。CEEMD是一种适用于处理非平稳非线性序列的自适应的时空分析方法,其与傅里叶变换和小波分解类似,尤其适用于分析自然信号,这些自然信号通常是非线性和非平稳的,比如音频信号。在进行CEEMD特征提取时,使用CEEMD对音频数据(即有效的音频信帧信号)的每一层IMF(内涵模态分量)提取时域特征。具体的,提取反映信号时域能量变化的IMF层能量EIMF:
以及,提取反映不同频率尺度能量分布的IMF层能量比σ:
其中,Ex为帧信号的短时能量,y(t)是对应的IMF时域信号,N表示时域信号的长度,t第几个时间单位。
在进行特征采集时,通过对提取出的每一层IMF(共七层)提取Fbank与LPCC得到每一层IMF的频域特征。Fbank为以类似于人耳的方式对音频进行处理获得的频域数据,可以提高语音识别的性能。LPCC为一种异常声音识别中的频域特征,其具有可靠性高与鲁棒性强的优点。最后,将提取的Fbank、LPCC、EIMF和σ进行拼接得到最后的输入特征。
参见图4,本发明利用尖叫检测模型识别当前时段电梯内是否发生尖叫,其中尖叫检测模型为深度神经网络模型。深度神经网络模型的结构如图4所示,其中,Conv为卷积神经网络,Dense为全连接神经网络,Conv1:3 256Relu为第一层卷积网络,卷积核大小为3*3,256为滤波器数量,Relu为激活函数,MaxPool:2,2为大小为2步长为2的最大值池化,Dense:512Relu为隐藏层神经元个数为512的全连接神经网络,其他层结构以此类推。在本实施方式中,深度神经网络模型包括Conv1:3 256Relu、Conv2:3 256Relu、MaxPool1:2,2、Conv3:3128Relu、Conv4:3 128Relu、MaxPool2:2,2、Dense1:512Relu和Dense2:2Softmax。
本发明的基于多维特征的电梯乘客尖叫检测***,包括:数据采集模块,用于实时采集电梯运行数据并对数据进行预处理;音频特征采集模块,用于提取音频数据中的音频特征;异常运行识别模块,用于分析加速度数据判断电梯运行是否发生异常;尖叫检测模块,用于检测电梯中是否发生乘客尖叫的现象并根据判断结果选择是否报警。其中,数据采集模块包括监控摄像头和加速度传感器,如此即可使用摄像头对电梯运行时的情况进行记录,同时使用加速度传感器对加速度数据进行记录。
综上所述,本发明基于海量电梯采集的数据,包括电梯运行加速度数据与电梯运行中的音频数据,对电梯内出现异常状况进行实时监控,并在异常时对各类电梯音频数据进行分析,若出现乘客尖叫的情况立即发出报警。由此,本发明适用范围较广,并且采用深度神经网络模型相较于传统算法检测效果更好,能够准确的对电梯内乘客发出的尖叫声(包括惊呼、呼救、哭闹等受到人身安全威胁发出的声音)进行实时监测。
以上所述仅为本发明的一个实施方式而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种基于多维特征的电梯乘客尖叫检测方法,包括以下步骤:
a、采集电梯运行的加速度数据和音频数据,对采集的数据进行预处理;
b、分析所述加速度数据判断电梯运行是否发生异常,若是则提取所述音频数据的音频特征;
在所述步骤b中,所述音频特征的提取包括CEEMD特征提取和特征采集;
在进行所述CEEMD特征提取时,使用CEEMD对所述音频数据的每一层IMF提取时域特征;
提取反映信号时域能量变化的IMF层能量EIMF:
提取反映不同频率尺度能量分布的IMF层能量比σ:
其中,Ex为帧信号的短时能量,y(t)是对应的IMF时域信号;
在进行所述特征采集时,通过对提取出的每一层IMF提取Fbank与LPCC得到每一层IMF的频域特征;
所述音频特征的提取还包括将提取的Fbank、LPCC、EIMF和σ进行拼接得到最后的输入特征;
c、分析所述音频特征判断电梯内是否发生乘客尖叫的现象,若是则发出报警信号。
2.根据权利要求1所述的方法,其特征在于,在所述步骤a中,所述预处理包括对数据进行清洗,去除无音频以及加速度数值过大和/或过小的脏数据。
3.根据权利要求1所述的方法,其特征在于,在所述步骤a中,所述音频数据为从电梯视频监控数据中提取的单通道音频信号,音频采样频率为22.05kHz,时长在1-10s之间。
4.根据权利要求2所述的方法,其特征在于,所述预处理还包括,对所述加速度数据进行残差计算,得到残差序列x=[x1,x2,x3,...,xn]。
5.根据权利要求4所述的方法,其特征在于,在所述步骤b中,当所述残差序列的最大最小值差min_max>70时,则判定电梯运行发生异常。
6.根据权利要求1所述的方法,其特征在于,在所述步骤c中,利用尖叫检测模型识别当前时段电梯内是否发生尖叫,所述尖叫检测模型为深度神经网络模型;
所述深度神经网络模型包括Conv1:3256Relu、Conv2:3256Relu、MaxPool1:2,2、Conv3:3128Relu、Conv4:3128Relu、MaxPool2:2,2、Dense1:512Relu和Dense2:2Softmax;
其中,Conv为卷积神经网络,Dense为全连接神经网络,卷积网络的卷积核大小为3*3,256和128为滤波器数量,Relu为激活函数,MaxPool2:2,2为大小为2步长为2的最大值池化,512和2为隐藏层神经元个数。
7.一种用于实施权利要求1-6中任一项所述的基于多维特征的电梯乘客尖叫检测方法的***,其特征在于,包括:
数据采集模块,用于实时采集电梯运行数据并对数据进行预处理;
音频特征采集模块,用于提取音频数据中的音频特征;
异常运行识别模块,用于分析加速度数据判断电梯运行是否发生异常;
尖叫检测模块,用于检测电梯中是否发生乘客尖叫的现象并根据检测结果选择是否报警。
8.根据权利要求7所述的***,其特征在于,所述数据采集模块包括监控摄像头和加速度传感器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110645178.1A CN113247730B (zh) | 2021-06-10 | 2021-06-10 | 基于多维特征的电梯乘客尖叫检测方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110645178.1A CN113247730B (zh) | 2021-06-10 | 2021-06-10 | 基于多维特征的电梯乘客尖叫检测方法及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113247730A CN113247730A (zh) | 2021-08-13 |
CN113247730B true CN113247730B (zh) | 2022-11-08 |
Family
ID=77187267
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110645178.1A Active CN113247730B (zh) | 2021-06-10 | 2021-06-10 | 基于多维特征的电梯乘客尖叫检测方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113247730B (zh) |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004018174A (ja) * | 2002-06-17 | 2004-01-22 | Hitachi Ltd | 診断用移動体装置 |
CN102897626A (zh) * | 2012-11-02 | 2013-01-30 | 智眼天下通(北京)科技发展有限公司 | 电梯监控报警装置 |
JP2013086889A (ja) * | 2011-10-14 | 2013-05-13 | Hitachi Building Systems Co Ltd | エレベーター制御装置 |
CN107522053A (zh) * | 2017-07-11 | 2017-12-29 | 浙江新再灵科技股份有限公司 | 一种基于音频分析的电梯平台检测***及方法 |
CN108382940A (zh) * | 2018-03-16 | 2018-08-10 | 深圳市敢为特种设备物联网技术有限公司 | 电梯运行安全监控方法、设备及可读存储介质 |
CN108831439A (zh) * | 2018-06-27 | 2018-11-16 | 广州视源电子科技股份有限公司 | 语音识别方法、装置、设备和*** |
CN109632311A (zh) * | 2019-01-21 | 2019-04-16 | 北京化工大学 | 一种自适应声信号轴承故障诊断方法 |
CN110033787A (zh) * | 2018-01-12 | 2019-07-19 | 英特尔公司 | 触发视频分析的音频事件 |
CN110189769A (zh) * | 2019-05-23 | 2019-08-30 | 复钧智能科技(苏州)有限公司 | 基于多个卷积神经网络模型结合的异常声音检测方法 |
CN111742365A (zh) * | 2018-02-28 | 2020-10-02 | 罗伯特·博世有限公司 | 用于监控***中的音频事件检测的***和方法 |
CN112320520A (zh) * | 2020-11-09 | 2021-02-05 | 浙江新再灵科技股份有限公司 | 基于残差分析的电梯异常振动检测方法 |
CN112693985A (zh) * | 2020-12-10 | 2021-04-23 | 太原理工大学 | 一种融合传感器数据的非侵入式电梯状态监测方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI538712B (zh) * | 2015-01-26 | 2016-06-21 | 國立交通大學 | 胸腹部運動的監控與反饋系統及其方法與電子裝置 |
CN104655425B (zh) * | 2015-03-06 | 2017-05-03 | 重庆大学 | 基于稀疏表示和大间隔分布学习的轴承故障分类诊断方法 |
TWI674881B (zh) * | 2017-05-22 | 2019-10-21 | 艾德腦科技股份有限公司 | 心血管檢測裝置與方法 |
-
2021
- 2021-06-10 CN CN202110645178.1A patent/CN113247730B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004018174A (ja) * | 2002-06-17 | 2004-01-22 | Hitachi Ltd | 診断用移動体装置 |
JP2013086889A (ja) * | 2011-10-14 | 2013-05-13 | Hitachi Building Systems Co Ltd | エレベーター制御装置 |
CN102897626A (zh) * | 2012-11-02 | 2013-01-30 | 智眼天下通(北京)科技发展有限公司 | 电梯监控报警装置 |
CN107522053A (zh) * | 2017-07-11 | 2017-12-29 | 浙江新再灵科技股份有限公司 | 一种基于音频分析的电梯平台检测***及方法 |
CN110033787A (zh) * | 2018-01-12 | 2019-07-19 | 英特尔公司 | 触发视频分析的音频事件 |
CN111742365A (zh) * | 2018-02-28 | 2020-10-02 | 罗伯特·博世有限公司 | 用于监控***中的音频事件检测的***和方法 |
CN108382940A (zh) * | 2018-03-16 | 2018-08-10 | 深圳市敢为特种设备物联网技术有限公司 | 电梯运行安全监控方法、设备及可读存储介质 |
CN108831439A (zh) * | 2018-06-27 | 2018-11-16 | 广州视源电子科技股份有限公司 | 语音识别方法、装置、设备和*** |
CN109632311A (zh) * | 2019-01-21 | 2019-04-16 | 北京化工大学 | 一种自适应声信号轴承故障诊断方法 |
CN110189769A (zh) * | 2019-05-23 | 2019-08-30 | 复钧智能科技(苏州)有限公司 | 基于多个卷积神经网络模型结合的异常声音检测方法 |
CN112320520A (zh) * | 2020-11-09 | 2021-02-05 | 浙江新再灵科技股份有限公司 | 基于残差分析的电梯异常振动检测方法 |
CN112693985A (zh) * | 2020-12-10 | 2021-04-23 | 太原理工大学 | 一种融合传感器数据的非侵入式电梯状态监测方法 |
Non-Patent Citations (2)
Title |
---|
基于CEEMD和自适应中值滤波的大地电磁数据去噪研究;吴真玮等;《世界地质》;20170925(第03期);全文 * |
基于声音信号的高压断路器机械故障诊断方法;杨元威等;《中国电机工程学报》;20181106(第22期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113247730A (zh) | 2021-08-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108648748B (zh) | 医院噪声环境下的声学事件检测方法 | |
CN107527617A (zh) | 基于声音识别的监控方法、装置及*** | |
CN109616140B (zh) | 一种异常声音分析*** | |
KR101969504B1 (ko) | 심층 신경망을 기반으로 한 사운드 이벤트 검출 방법 및 사운드 이벤트 검출 장치 | |
JP4242422B2 (ja) | 突発事象の記録・解析システム | |
CN110706700B (zh) | 一种车内骚扰预防报警方法及装置、服务器、存储介质 | |
CN111436944B (zh) | 一种基于智能移动终端的跌倒检测方法 | |
CN108877146A (zh) | 一种基于智能语音识别的乘驾安全自动报警装置及其方法 | |
CN111063162A (zh) | 静默报警方法、装置、计算机设备和存储介质 | |
CN112149638B (zh) | 基于多模态生物特征的人员身份识别***构建及使用方法 | |
US6876964B1 (en) | Apparatus for detecting fatigue and doze by voice, and recording medium | |
CN111354366A (zh) | 一种异常声音检测方法及异常声音检测装置 | |
CN112478975A (zh) | 基于音频特征的电梯门故障检测方法 | |
WO2011025460A1 (en) | Method and system for event detection | |
JP2021182131A (ja) | 情報を出力するための方法、装置及びシステム、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム | |
CN114436087B (zh) | 基于深度学习的电梯乘客扒门检测方法及*** | |
Pan et al. | Cognitive acoustic analytics service for Internet of Things | |
CN112380977A (zh) | 吸烟行为检测方法和装置 | |
CN113247730B (zh) | 基于多维特征的电梯乘客尖叫检测方法及*** | |
CN107644651A (zh) | 用于语音识别的电路和方法 | |
JP4886461B2 (ja) | 異常監視装置 | |
CN113053412A (zh) | 一种基于声音的变压器故障识别方法 | |
CN112850408B (zh) | 一种基于多模型融合的电梯急停困人故障检测方法 | |
CN111048089A (zh) | 提高智能穿戴设备语音唤醒成功率的方法、电子设备、计算机可读存储介质 | |
JP2003202260A (ja) | 音源識別装置および突発事象検出装置並びに突発事象自動記録装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |