CN111476205A - 一种基于lstm模型的人员计数方法及装置 - Google Patents
一种基于lstm模型的人员计数方法及装置 Download PDFInfo
- Publication number
- CN111476205A CN111476205A CN202010375098.4A CN202010375098A CN111476205A CN 111476205 A CN111476205 A CN 111476205A CN 202010375098 A CN202010375098 A CN 202010375098A CN 111476205 A CN111476205 A CN 111476205A
- Authority
- CN
- China
- Prior art keywords
- data
- stm
- model
- people
- personnel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
- G06V20/53—Recognition of crowd images, e.g. recognition of crowd congestion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Multimedia (AREA)
- Geophysics And Detection Of Objects (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于LSTM模型的人员计数方法及装置,所述方法包括:对双路多束型主动红外入侵探测器装置的输出数据进行标注得到标注数据集;依据标注数据集划分模式数据集以及教师集;将模式数据集和教师集作为训练集输入到LSTM神经网络模型中进行训练获取分类模型;将双路多束型主动红外入侵探测器装置采集到的输出序列输入到分类模型得到人员进出的类别;根据分类模型的类别辨识结果进行室内人数的统计;本发明的优点在于:利用LSTM模型对双路多束型主动红外入侵探测器的输出序列进行处理,能够处理长期序列,并且解决了RNN的梯度消失问题。
Description
技术领域
本发明涉及人员计数领域,更具体涉及一种基于LSTM模型的人员计数方法及装置。
背景技术
人员计数已成为近年来计算机研究的一个活跃领域,在计算机视觉领域,目前许多的国外学术机构都基于视频图像分析对人员图像的人员计数(估计)方法进行了研究。意大利热那亚大学提出了一种依靠精确的摄像机校准来估算密集环境下的人数情况的方法,该方法解决了人们在拥挤环境下的人员计数问题。近年来随着深度学习兴起的狂潮,英国金斯顿大学利用时域空间中感知卷积神经网络(CNN)的响应,提出了一种用于人们对固定摄像机视频序列的计数的有效方法。结果表明,计数估计的响应在时域中的融合可以进一步提高最终计数的准确性。前面所述的均为区域内人员计数,在某种情景下,只需通过检测某一边界区域就可实现人员的计数。Pore等人提出一种在视频监控中,通过应用HOG来寻找人,并且通过卡尔曼滤波器生成人的轨迹来检测和跟踪人员,以定向计算走过走廊或门的人数的方法。加拿大埃德蒙顿艾伯塔大学在单目视频分析应用中提出一种基于计算流体学的独特流入和流出计数(UIOC)的全新方法的组合,该方法能实现非线性回归量估算感兴趣区域ROI内的人数,以及短期内的ROI边界跟踪(与对象或特征跟踪相对)。在使用视频监控技术对人数进行统计的时候大都使用单一视图,但是单一视图不一定能够完全的监测到所在空间的每一个角落,虽然在同一空间中可以布置多个摄像头,但是对于多视图同步却是个难题。法国科学家提出了一个新的***,用于计算人群场景中多相机多方位拍摄的情况。该***融合所有单个视图前景信息以定位场景中存在的每个人。结果证明融合策略可以实时运行并且有效地进行数据关联,减少人数统计的误差。
在国内,基于计算机视觉的人数统计方法也有很多。其中包括复杂场景下利用多种高效人员检测技术应对不同的人员姿势和分布情况,并有效综合多种人员检测方法,以实现在复杂环境下对人员的高可靠度检测和计数的方法和基于归一化前景和角点信息的人数统计方法,以及静态场景中,提出一种基于LabVIEW的视觉计数***,运用投影法以及"矩"方法实现人员计数。目前现有的人群计数方法在应用于室内场景中可能会出现性能显着下降的情况,因为移动前景分割可能会导致静止人员丢失并且计数结果会因为被遮挡等情况而出现偏差。为了解决上述问题,罗军提出了一种室内场景的计数方法,不仅可以有效地计算移动人群,还可以计算静止人群。另外,针对多摄像机多方位拍摄情景下的人员计数,中国科学院也提出了一种新的双通框架,多个摄像机提供不同的主体视图,通过利用摄像机捕获的补充信息,可以在摄像机之间传递知识,以解决人数计算的困难并提高性能。以上提出的都是基于一些基于视频监控的方法。中国科学院设计了一种新颖的光学传感***,直接从一个光场相机获取场景的深度图,光场感应***可以计算穿过通道的人数,并在没有任何辅助照明设备的情况下记录快照的光线方向和强度。
在非计算机视觉领域,大多数是基于传感器来实现人员的计数。瑞士提供了一种DevCnt***,这是第一个以非侵入方式实时统计Wi-Fi智能手机数量的***,同时通过设计保护智能手机用户的隐私。除了通过探测Wi-Fi信号来进行人员的定位或计数,还可以使用RFID或蓝牙来达到同样的效果,使用蓝牙低功耗(BLE)标记作为标签,设计了一种用于感知人群的架构,不过在实际操作中有一定的局限性,需要为进入建筑物的每个活动人员配备标签。雷达也广泛应用于人数统计,但常规雷达技术需要我们将不同组的测量数据与每个检测到的目标相关联,为了解决此问题,Bartoletti提出了一种无设备计数***设计的数学框架。通过依赖于模型阶次选择,开发了用于通过宽带信号反向散射进行计数的最大后验算法。国内在这些方面也一直在努力,为了克服大多数使用无线信号的现有研究仅适用于人们不断移动的情况的限制,香港理工大学在Wi-Count***中,采用COTS Wi-Fi设备计算通过门口的人。它不仅可以检测经过的方向,而且可以在不调节通过行为和预先训练的计数模型的情况下识别同时经过的人数。通过模拟双向通过行为对Wi-Fi信号的相位差的影响来识别通过方向,利用增强的信号分离算法获得通过的人数。由于脉冲无线电超宽带(IR-UWB)雷达信号的叠加和阻碍,当前解决方案的性能在拥挤的环境中受到限制。北京邮电大学提出了一种基于曲波变换和距离的混合特征提取方法。实验结果表明,所提出的混合特征提取方法性能稳定,效果显著,最高精度达到97%以上。
相较于其他技术,红外传感器以安装简便、价格低廉、保护隐私等优势被大多数人选择用于人员的检测或计数。大多数情况下,设计了红外传感器为信号采集单元,单片机为控制核心的人员计数***,并研究其主要算法。在国内,使用CD4017和74HC153芯片组成控制模块,完成智能车辆计数,或在分析红外传感的基础上,采用信号处理专用集成芯片设计了基于红外传感器的放大电路,研究其在不同人体运动状态下的输出波形;国外方面,基于由一对单向PIR传感器组成的自持式超低功率传感器节点,开发了一种用于空间的人员计数***,通过观察向内和向外PIR传感器之间的时间差,简单地区分运动的方向,其错误率仅有百分之一。由于单方向检测的不精确性,研究人员用多对正交对齐的PIR传感器均匀分布在八个方向上检测人体运动的相对方向,收集不同方向、不同距离和不同速度下的数据,实现了98%正确的运动方向检测。还有通过使用背景均值方法对传感器输出进行二值化,通过模式识别算法识别过往人员的数量及其移动方向,可以以95%以上的准确率检测200厘米宽门上的过客人数。另外Zappi还提出了一种特征提取和传感器融合技术,该技术利用一组配备有PIR传感器的无线节点来跟踪在走廊中移动的人。能够实现100%正确的运动方向检测83.49%-95.35%的距离间隔的正确检测。
对于红外传感器输出序列的处理,传统的前馈神经网络的输出只依赖当前的输入,没有考虑不同时刻输入的相互影响,且输入和输出的维度都是固定的,没有考虑到序列结构长度的不固定性,针对此问题,提出一种循环神经网络(RecurrentNeural Network,RNN)。RNN是一种对序列数据建模的神经网络,以序列数据为输入,在序列的演进方向进行递归且所有节点(循环单元)按链式连接的递归神经网络。但在1991年,Sepp Hochreiter发现了循环神经网络的长期依赖问题,即在对序列进行学习时,循环神经网络会出现梯度消失现象,无法掌握长时间跨度的非线性关系,不能处理长期序列。
发明内容
本发明所要解决的技术问题在于如何解决现有技术循环神经网络对红外传感器输出序列处理时会出现梯度消失现象,不能处理长期序列的问题。
本发明通过以下技术手段实现解决上述技术问题的:一种基于LSTM模型的人员计数方法,所述方法包括:
步骤一:对双路多束型主动红外入侵探测器装置的输出数据进行标注得到标注数据集;
步骤二:依据标注数据集划分模式数据集以及教师集;
步骤三:将模式数据集和教师集作为训练集输入到LSTM神经网络模型中进行训练获取分类模型;
步骤四:将双路多束型主动红外入侵探测器装置采集到的输出序列输入到分类模型得到人员进出的类别;
步骤五:根据分类模型的类别辨识结果进行室内人数的统计。
本发明利用LSTM模型对双路多束型主动红外入侵探测器的输出序列进行处理,LSTM模型(Long Short-Term Memorynetworks,LSTM,长短期记忆网络)通过门控制将短期记忆与长期记忆结合起来,充分利用时间序列的时间相关性,这使得处理长期序列更加自然,能够处理长期序列,并且解决了RNN的梯度消失的问题。
优选的,所述步骤一包括:所述双路多束型主动红外入侵探测器装置的输出数据为sn表示在Tn时刻输出数据,xn表示在Tn时刻进口方向红外探测器的状态,yn表示在Tn时刻出口方向红外探测器的状态,所述标注数据集为B=(b1,...,bn-1,bn),bn表示在Tn时刻对输出数据S中sn所对应的人员进出状态标注,bn=1表示有人进,bn=2表示有人出,bn=3表示同时有人进出,bn=4表示无人进出,bn=0表示当前时刻无法判定人员的进出情况。
优选的,所述步骤二包括:对标注数据集B进行遍历,当bn≠0时,说明当前时刻触发人员进出事件,以此时刻为分割节点,对装置输出数据S进行处理,得到模式数据集Xdata=(X1,X2...Xm),其中,为这段时间内第m次触发的人员进出事件对应的模式数据;对所述模式数据集进行标注得到教师集Ydata=(Y1,Y2...Ym),Ym为模式数据集Xdata中第m个进出事件Xm对应的进出情形的标注。
优选的,所述步骤三包括:所述LSTM神经网络模型包括LSTM层、全连接层以及分类层,LSTM神经网络模型的训练过程包括两个部分,前向过程和后向传播过程,前向过程中训练集经LSTM神经网络学习后得到输出序列,将此输出序列的最后一个时刻输出数据送入全连接层,全连接层将该输出序列映射成类别个数维度后送入分类层中,从而确定人员进出类别,反向传播过程使用BPTT算法,根据损失函数求解各参数梯度,实现梯度的更新,完成参数的优化,实现模型收敛,完成LSTM神经网络模型的训练,获取分类模型。
优选的,所述步骤四包括:
步骤401:初始化参数,mid为用于存放输出序列的缓冲区,初始为空;Patterndata为待判别数据;judgeResult则为待判别数据对应的人员的进出辨识结果,初始状态为0;judgeCollection则是用于存放judgeResult的集合;
步骤402:获取输出序列中有效信号的个数sLen;
步骤403:以步长为1对输出序列中有效信号进行遍历;
步骤404:判别当前时刻输出数据是否符合划分标志的条件,若是,则执行步骤405,若否,返回步骤执行步骤403,直到符合划分标志的条件;
步骤405:将缓冲区中数据作为待判别数据;
步骤406:利用分类模型完成对待判别数据的辨识,得到辨识结果,将辨识结果存入集合judgeCollection中并清空缓冲区;
步骤407:将当前时刻的下一刻输出数据作为当前时刻输出数据返回执行步骤404至步骤407,直到完成输出序列中数据的遍历。
优选的,所述步骤五包括:根据分类模型的类别辨识结果进行室内人数的统计,若辨识结果为1,表示此刻有人进入,当前室内人数执行加1操作,若辨识结果为2,表示此刻有人离开,当前室内人数执行减1操作,当辨识结果为3或者4时,当前室内人数不发生变化,无需任何操作,最终得到当前室内人员数目。
本发明还提供一种基于LSTM模型的人员计数装置,所述装置包括:
标注数据集获取模块,用于对双路多束型主动红外入侵探测器装置的输出数据进行标注得到标注数据集;
划分模块,用于依据标注数据集划分模式数据集以及教师集;
训练模块,用于将模式数据集和教师集作为训练集输入到LSTM神经网络模型中进行训练获取分类模型;
人员进出的类别获取模块,用于将双路多束型主动红外入侵探测器装置采集到的输出序列输入到分类模型得到人员进出的类别;
人数统计模块,用于根据分类模型的类别辨识结果进行室内人数的统计。
优选的,所述标注数据集获取模块还用于:所述双路多束型主动红外入侵探测器装置的输出数据为sn表示在Tn时刻输出数据,xn表示在Tn时刻进口方向红外探测器的状态,yn表示在Tn时刻出口方向红外探测器的状态,所述标注数据集为B=(b1,...,bn-1,bn),bn表示在Tn时刻对输出数据S中sn所对应的人员进出状态标注,bn=1表示有人进,bn=2表示有人出,bn=3表示同时有人进出,bn=4表示无人进出,bn=0表示当前时刻无法判定人员的进出情况。
优选的,所述划分模块还用于:对标注数据集B进行遍历,当bn≠0时,说明当前时刻触发人员进出事件,以此时刻为分割节点,对装置输出数据S进行处理,得到模式数据集Xdata=(X1,X2...Xm),其中,为这段时间内第m次触发的人员进出事件对应的模式数据;对所述模式数据集进行标注得到教师集Ydata=(Y1,Y2...Ym),Ym为模式数据集Xdata中第m个进出事件Xm对应的进出情形的标注。
优选的,所述人员进出的类别获取模块还用于:所述LSTM神经网络模型包括LSTM层、全连接层以及分类层,LSTM神经网络模型的训练过程包括两个部分,前向过程和后向传播过程,前向过程中训练集经LSTM神经网络学习后得到输出序列,将此输出序列的最后一个时刻输出数据送入全连接层,全连接层将该输出序列映射成类别个数维度后送入分类层中,从而确定人员进出类别,反向传播过程使用BPTT算法,根据损失函数求解各参数梯度,实现梯度的更新,完成参数的优化,实现模型收敛,完成LSTM神经网络模型的训练,获取分类模型。
优选的,所述人员进出的类别获取模块还用于:
步骤401:初始化参数,mid为用于存放输出序列的缓冲区,初始为空;Patterndata为待判别数据;judgeResult则为待判别数据对应的人员的进出辨识结果,初始状态为0;judgeCollection则是用于存放judgeResult的集合;
步骤402:获取输出序列中有效信号的个数sLen;
步骤403:以步长为1对输出序列中有效信号进行遍历;
步骤404:判别当前时刻输出数据是否符合划分标志的条件,若是,则执行步骤405,若否,返回步骤执行步骤403,直到符合划分标志的条件;
步骤405:将缓冲区中数据作为待判别数据;
步骤406:利用分类模型完成对待判别数据的辨识,得到辨识结果,将辨识结果存入集合judgeCollection中并清空缓冲区;
步骤407:将当前时刻的下一刻输出数据作为当前时刻输出数据返回执行步骤404至步骤407,直到完成输出序列中数据的遍历。
优选的,所述人数统计模块还用于:根据分类模型的类别辨识结果进行室内人数的统计,若辨识结果为1,表示此刻有人进入,当前室内人数执行加1操作,若辨识结果为2,表示此刻有人离开,当前室内人数执行减1操作,当辨识结果为3或者4时,当前室内人数不发生变化,无需任何操作,最终得到当前室内人员数目。
本发明的优点在于:本发明利用LSTM模型对双路多束型主动红外入侵探测器的输出序列进行处理,LSTM模型(Long Short-Term Memory networks,LSTM,长短期记忆网络)通过门控制将短期记忆与长期记忆结合起来,充分利用时间序列的时间相关性,这使得处理长期序列更加自然,能够处理长期序列,并且解决了RNN的梯度消失的问题。
附图说明
图1为本发明实施例所公开的一种基于LSTM模型的人员计数方法的流程图;
图2为本发明实施例所公开的一种基于LSTM模型的人员计数方法的框架图;
图3为本发明实施例所公开的一种基于LSTM模型的人员计数方法中双路多束型主动红外入侵探测器装置的原理图;
图4为本发明实施例所公开的一种基于LSTM模型的人员计数方法中LSTM神经网络模型的结构图;
图5为本发明实施例所公开的一种基于LSTM模型的人员计数方法中LSTM神经网络模型的训练流程示意图;
图6为本发明实施例所公开的一种基于LSTM模型的人员计数方法中LSTM神经网络模型链式结构图;
图7为本发明实施例所公开的一种基于LSTM模型的人员计数方法中LSTM单元结构图;
图8为本发明实施例所公开的一种基于LSTM模型的人员计数方法中100个LSTM模型下的测试集辨识结果的Micro-F1值示意图;
图9为本发明实施例所公开的一种基于LSTM模型的人员计数方法中手工记录的10分钟信号数据的不同时刻的室内人数;
图10为本发明实施例所公开的一种基于LSTM模型的人员计数方法中10分钟信号数据学习得到的100个LSTM模型下的辨识结果的Micro-F1值的分布直方图;
图11为本发明实施例所公开的一种基于LSTM模型的人员计数方法中利用100个LSTM模型进行人数统计结果的直方图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例1
如图1所示和图2所示,一种基于LSTM模型的人员计数方法,所述方法包括:
步骤S1:对双路多束型主动红外入侵探测器装置的输出数据进行标注得到标注数据集;主要过程如下:设时刻t0,t1...tn-1,tn,ti-ti-1=Δt>0,i=0,1,…,n。对双路多束型主动红外入侵探测器装置,S=(s1,...,sn-1,sn),si=[xi yi]为Ti=(ti-1ti]时间段内探测器装置采集到的一个输出信号,其中xi和yi分别对应的是在Ti时刻进口方向和出口方向红外探测器的状态,xi=0或1,yi=0或1,i=1,2,…,n,则所述双路多束型主动红外入侵探测器装置的输出数据为sn表示在Tn时刻输出数据,xn表示在Tn时刻进口方向红外探测器的状态,yn表示在Tn时刻出口方向红外探测器的状态。其中,所述双路多束型主动红外入侵探测器装置的电路原理图如图3所示,采用12V电源供电,并选用12V转24V的转换器和12V转5V的转换器分别为主动红外入侵探测器和Arduino单片机供电。图中选用了两组主动红外入侵探测器,对每组主动红外入侵探测器来说,Arduino完成探测器数据的采集,ESP8266模块完成数据的传输。
当双路多束型主动红外入侵探测器装置用于人员进出检测时,装置在一定时间内的输出数据序列反映出有人进、有人出、同时有人进出、无人进出四种情形。这四种情形分别对应一定长度的双路多束型主动红外入侵探测器装置的输出序列,且考虑到人的步行速度的多样性,不同人在不同场景下通过该探测区域的时间是不固定的,故这四种情形对应的探测器的输出序列为不定长数据,即序列长度是多变的。
所述标注数据集为B=(b1,...,bn-1,bn),bn表示在Tn时刻对输出数据S中sn所对应的人员进出状态标注,bn=1表示有人进,bn=2表示有人出,bn=3表示同时有人进出,bn=4表示无人进出,bn=0表示当前时刻无法判定人员的进出情况。
步骤S2:依据标注数据集划分模式数据集以及教师集;具体包括:对标注数据集B进行遍历,当bn≠0时,说明当前时刻触发人员进出事件,以此时刻为分割节点,对装置输出数据S进行处理,得到模式数据集Xdata=(X1,X2...Xm),其中,为这段时间内第m次触发的人员进出事件对应的模式数据;对所述模式数据集进行标注得到教师集Ydata=(Y1,Y2...Ym),Ym为模式数据集Xdata中第m个进出事件Xm对应的进出情形的标注,且Xm为装置输出信号中的一段序列的长度,因人员进出的持续时间呈现不固定性。若Xi=(sj,sj+ 1...sj+k),sj+k所对应的标注信号bj+k反映这段时间人员进出情形,即bj+k为Xi的教师信号Yi。
步骤S3:将模式数据集和教师集作为训练集输入到LSTM神经网络模型中进行训练获取分类模型;具体包括:如图4所示和如图5所示,所述LSTM神经网络模型包括LSTM层、全连接层以及分类层,LSTM神经网络模型的训练过程包括两个部分,前向过程和后向传播过程,前向过程中训练集经LSTM神经网络学习后得到输出序列,将此输出序列的最后一个时刻输出数据送入全连接层,全连接层将该输出序列映射成类别个数维度后送入分类层中,从而确定人员进出类别,反向传播过程使用BPTT算法,根据损失函数求解各参数梯度,实现梯度的更新,完成参数的优化,实现模型收敛,完成LSTM神经网络模型的训练,获取分类模型。对于LSTM神经网络模型的详细训练过程如下:如图6所示,LSTM神经网络的结构具有一种重复神经网络模块的链式的形式,其中xi为第i个时刻的输入,hi为第i个时刻的输出。对每个重复模块,即图中的LSTM单元来说,其输入为当前时刻的输入以及上一时刻的输出。如图7所示,LSTM单元,主要由三个门单元组成,分别为遗忘门,输入门以及输出门。输入为xt以及上一时刻的输出ht-1,ct-1为上一时刻的单元状态。首先遗忘门ft决定上一时刻的单元状态ct-1有多少保留到当前时刻的单元状态ct,它会根据上一时刻的输出ht-1和当前输入xt产生一个0到1之间的ft数值,1表示完全保留,0表示完全舍弃;如式ft=σ(wf.[ht-1,xt]+bf)所示,其中wf和bf分别为遗忘门的权值和偏置,再者产生需要更新的能量,第一步是输入门it决定当前时刻的网络输入xt有多少能加入到当前时刻的单元状态ct,第二步是利用一个tanh层用来生成一个候选单元状态它为上一层的产生的候选值,it=σ(wi.[ht-1,xt]+bi),wi和bi分别为输入门的权值和偏置,wc和bc分别为候选单元的权值和偏置。然后进行上一时刻的单元状态ct-1的更新,ft*ct-1用来忘掉不需要的上一时刻单元状态的信息,为当前信息的候选值,两者相加即为当前时刻的单元状态ct,最后得到模型的输出,输出门ot用来控制输出哪个部分的当前时刻的单元状态ct至当前时刻输出值ht中,控制长期记忆对当前输出的影响,ot=σ(wo.[ht-1,xt]+bo),ht=ot*tanh(ct),其中wo和bo分别为输出门的权值和偏置。LSTM通过这三个门结构实现了信息的保护和控制,充分利用时间序列的相关性,解决了长期依赖问题。LSTM神经网络的学习过程包括前向训练过程和反向传播过程,以上所述为前向训练过程,反向传播的过程采用了BPTT算法。反向传播过程就是根据损失函数进行权值更新的过程,LSTM输出为ht,误差为E,则定义t时刻的误差项δt为损失函数对输出值的导数,则对于LSTM单元的四个加权输入ft、it、ct、ot来说,误差项δ为对加权输入net的导数, 首先,计算t-1时刻的误差项δt-1,采用链式法则,结果为根据该式,写出将误差项向前传递到任意k时刻的公式对于权重和偏置的梯度,它们的梯度是各个时刻梯度之和,首先求出它们在t时刻的梯度,然后再求出他们最终的梯度,计算公式如下: 最后通过公式和公式完成权值和偏置的更新,其中η为学习速率。
步骤S4:将双路多束型主动红外入侵探测器装置采集到的输出序列输入到分类模型得到人员进出的类别;具体步骤如下:
步骤401:初始化参数,mid为用于存放输出序列的缓冲区,初始为空;Patterndata为待判别数据;judgeResult则为待判别数据对应的人员的进出辨识结果,初始状态为0;judgeCollection则是用于存放judgeResult的集合;
步骤402:获取输出序列中有效信号的个数sLen;
步骤403:以步长为1对输出序列中有效信号进行遍历;
步骤404:判别当前时刻输出数据是否符合划分标志的条件,若是,则执行步骤405,若否,返回步骤执行步骤403,直到符合划分标志的条件;当前时刻的红外输出信号为si=[xi yi],当xi和yi之和不为0、缓冲区mid不为空、且mid中元素全为0时,或者当xi和yi之和为0、缓冲区mid不为空、且缓冲区mid中不存在某一行为全0数据时,说明当前时刻数据si满足标志的划分条件。
步骤405:将缓冲区中数据作为待判别数据;
步骤406:利用分类模型完成对待判别数据的辨识,得到辨识结果,将辨识结果存入集合judgeCollection中并清空缓冲区;
步骤407:将当前时刻的下一刻输出数据作为当前时刻输出数据返回执行步骤404至步骤407,直到完成输出序列中数据的遍历。
步骤S5:根据分类模型的类别辨识结果进行室内人数的统计。所述步骤S5具体包括:根据分类模型的类别辨识结果进行室内人数的统计,若辨识结果judgeResult为1,表示此刻有人进入,当前室内人数occupantCounter执行加1操作,若judgeResult为2,表示此刻有人离开,当前室内人数occupantCounter执行减1操作,当judgeResult结果为3或者4时,当前室内人数occupantCounter不发生变化,无需任何操作。最终得到的occupantCounter即为当前室内人员数目。
以下详细论述本发明的有效性,本发明为多分类问题,采用多标签下的分类效果评估方式micro-F1值来进行评估。
表1 混淆矩阵
以四分类为例,表1为标签数目为4对应的混淆矩阵,xij为实际为类别i预测为j的个数,其中i=1,2,3,4;j=1,2,3,4。
基于混淆矩阵,给出三个概念,TP、FP以及FN。TP代表预测正确的个数,如实际值为类别1预测值也为类别1的个数;FP指的是预测为某类,实际并不是该类的个数,如预测为类别1,但实际值不为类别1的个数;FN代表的是实际为某类别但预测其他类别的个数,如实际为类别1预测为除类别1之外的个数。即对于每个类别均能得到对应的TP、FP以及FN值。精确率Precision和召回率Recall的计算公式如下: 其中n为类别数,micro-F1值则由精确率和召回率得到,计算公式如式对于室内人员的计数性能好坏的评估,主要从准确率来进行考虑。准确率主要指的是与实际人员数目的误差大小,且误差体现在两个方面,最终的统计人数与实际室内人数的差异以及这段时间内的室内有人无人的判定误差。其中,根据最终统计的人数结果计算误差大小如式所示,式中,real代表的是真实的室内人数,predict为本发明室内统计方法得到的人数。为验证本发明提出的基于LSTM的室内人员进出计数方法的有效性,实验数据为200ms周期采集的双路多束型主动红外入侵探测器的输出序列,一共包含16035条数据,并对这16035条数据完成标注,依据标注数据将数据进行划分,得到507组人员进出模式样本集,且每组序列长度是不定长的,将此数据以近似7:3的比例划分为训练集和测试集,训练集为356组,测试集为151组。训练集和测试集均包含四种进出情况:有人进入、有人离开、同时进出以及无人进出,数据划分情况如表2所示。
表2 数据划分情况
将训练集用于学***均值为0.9897,标准差为0.006199,验证了基于LSTM的人员进出辨识模型的有效性。接着选取了10分钟左右双路多束型主动红外入侵探测器的输出信号,并对这期间的室内人数进行了统计,另外,真实的室内人数变化情况也被手工记录,图9为手工记录的这段时间内室内人数变化情况,图9中展示了不同时刻的室内人数,横坐标为时间,纵坐标为当前室内人数。可从图9中可知,最终室内人数为9。图10展示了这10分钟信号数据学***均值为0.9863,标准差为0.01224,可见整体的辨识效果很好。
图11则是根本发明室内人数统计方法得到的人数统计结果的直方图。同样的是利用这100个模型分别进行室内人数的统计,得到100种结果,其中横坐标为人数,纵坐标为对应人数出现的次数。从图中可知,在这100次结果中,统计的室内人数有7、8、9、10和11这五种情况,人数统计结果为8和9的情况出现比例最高,分别出现了34次和42次,其余情况下,人数统计结果为7的情况出现了15次,人数统计结果为10出现了5次,人数统计结果为11的情况出现了4次。根据实验结果可知,这100次结果中,人数统计最大值为11,最小值为1,平均值为8.49,标准差为0.9481。
从图中可知,这100次统计结果中,统计的人数结果只有7、8、9、10和11这五种情况,可知,这一百次结果统计中,判定有人的概率为100%,无人的概率为0,从判定是否有人的误差标准来分析,该基于LSTM的人员计数方法是有效的。另外,根据统计人数与实际室内人数之间的误差标准来分析,与手工记录的真实人数9相比较,计算人数统计结果的误差,可知在这100个模型下,人数统计结果的误差最低可到0,最高可达0.222,且这100次模型下的人数统计结果的平均误差为0.0856,综合可知,基于LSTM的室内人员进出计数方法的计数准确率不低于90%,满足室内计数的需求,验证了该方法的有效性。
通过以上技术方案,为了实现室内人员的计数,使用模式识别的思想设计对通过双路多束型主动红外入侵探测器装置探测区域的人数进行统计的方法,需要对合适时间范围内的装置输出序列进行分类辨识,判定该输出序列对应的有人进、有人出、同时有人进出、无人进出这四种情形的发生情况。但是这四种情形对应的装置输出序列为不定长的时间序列,其信号长度根据传感器的响应持续时间呈现不固定性,传统的前馈神经网络输入和输出的维度都是固定的,没有考虑到序列结构长度的不固定性。当训练样本输入是长短不一的连续的红外信号序列时,比较难直接的拆分成一个个独立的样本来通过传统的前馈神经网络进行训练,故本发明选用可用于处理不定长序列的LSTM神经网络实现对这四种情形的分类辨识,同时LSTM神经网络能考虑不同时刻输入的相互影响,对于处理双路多束型主动红外入侵探测器装置输出的这类时间序列有很大优势。
实施例2
与本发明实施例1相对应的,本发明实施例2还提供一种基于LSTM模型的人员计数装置,所述装置包括:
标注数据集获取模块,用于对双路多束型主动红外入侵探测器装置的输出数据进行标注得到标注数据集;
划分模块,用于依据标注数据集划分模式数据集以及教师集;
训练模块,用于将模式数据集和教师集作为训练集输入到LSTM神经网络模型中进行训练获取分类模型;
人员进出的类别获取模块,用于将双路多束型主动红外入侵探测器装置采集到的输出序列输入到分类模型得到人员进出的类别;
人数统计模块,用于根据分类模型的类别辨识结果进行室内人数的统计。
具体的,所述标注数据集获取模块还用于:所述双路多束型主动红外入侵探测器装置的输出数据为sn表示在Tn时刻输出数据,xn表示在Tn时刻进口方向红外探测器的状态,yn表示在Tn时刻出口方向红外探测器的状态,所述标注数据集为B=(b1,...,bn-1,bn),bn表示在Tn时刻对输出数据S中sn所对应的人员进出状态标注,bn=1表示有人进,bn=2表示有人出,bn=3表示同时有人进出,bn=4表示无人进出,bn=0表示当前时刻无法判定人员的进出情况。
具体的,所述划分模块还用于:对标注数据集B进行遍历,当bn≠0时,说明当前时刻触发人员进出事件,以此时刻为分割节点,对装置输出数据S进行处理,得到模式数据集Xdata=(X1,X2...Xm),其中,为这段时间内第m次触发的人员进出事件对应的模式数据;对所述模式数据集进行标注得到教师集Ydata=(Y1,Y2...Ym),Ym为模式数据集Xdata中第m个进出事件Xm对应的进出情形的标注。
具体的,所述人员进出的类别获取模块还用于:所述LSTM神经网络模型包括LSTM层、全连接层以及分类层,LSTM神经网络模型的训练过程包括两个部分,前向过程和后向传播过程,前向过程中训练集经LSTM神经网络学习后得到输出序列,将此输出序列的最后一个时刻输出数据送入全连接层,全连接层将该输出序列映射成类别个数维度后送入分类层中,从而确定人员进出类别,反向传播过程使用BPTT算法,根据损失函数求解各参数梯度,实现梯度的更新,完成参数的优化,实现模型收敛,完成LSTM神经网络模型的训练,获取分类模型。
具体的,所述人员进出的类别获取模块还用于:
步骤401:初始化参数,mid为用于存放输出序列的缓冲区,初始为空;Patterndata为待判别数据;judgeResult则为待判别数据对应的人员的进出辨识结果,初始状态为0;judgeCollection则是用于存放judgeResult的集合;
步骤402:获取输出序列中有效信号的个数sLen;
步骤403:以步长为1对输出序列中有效信号进行遍历;
步骤404:判别当前时刻输出数据是否符合划分标志的条件,若是,则执行步骤405,若否,返回步骤执行步骤403,直到符合划分标志的条件;
步骤405:将缓冲区中数据作为待判别数据;
步骤406:利用分类模型完成对待判别数据的辨识,得到辨识结果,将辨识结果存入集合judgeCollection中并清空缓冲区;
步骤407:将当前时刻的下一刻输出数据作为当前时刻输出数据返回执行步骤404至步骤407,直到完成输出序列中数据的遍历。
具体的,所述人数统计模块还用于:根据分类模型的类别辨识结果进行室内人数的统计,若辨识结果为1,表示此刻有人进入,当前室内人数执行加1操作,若辨识结果为2,表示此刻有人离开,当前室内人数执行减1操作,当辨识结果为3或者4时,当前室内人数不发生变化,无需任何操作,最终得到当前室内人员数目。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种基于LSTM模型的人员计数方法,其特征在于,所述方法包括:
步骤一:对双路多束型主动红外入侵探测器装置的输出数据进行标注得到标注数据集;
步骤二:依据标注数据集划分模式数据集以及教师集;
步骤三:将模式数据集和教师集作为训练集输入到LSTM神经网络模型中进行训练获取分类模型;
步骤四:将双路多束型主动红外入侵探测器装置采集到的输出序列输入到分类模型得到人员进出的类别;
步骤五:根据分类模型的类别辨识结果进行室内人数的统计。
3.根据权利要求2所述的一种基于LSTM模型的人员计数方法,其特征在于,所述步骤二包括:对标注数据集B进行遍历,当bn≠0时,说明当前时刻触发人员进出事件,以此时刻为分割节点,对装置输出数据S进行处理,得到模式数据集Xdata=(X1,X2...Xm),其中,为这段时间内第m次触发的人员进出事件对应的模式数据;对所述模式数据集进行标注得到教师集Ydata=(Y1,Y2...Ym),Ym为模式数据集Xdata中第m个进出事件Xm对应的进出情形的标注。
4.根据权利要求1所述的一种基于LSTM模型的人员计数方法,其特征在于,所述步骤三包括:所述LSTM神经网络模型包括LSTM层、全连接层以及分类层,LSTM神经网络模型的训练过程包括两个部分,前向过程和后向传播过程,前向过程中训练集经LSTM神经网络学习后得到输出序列,将此输出序列的最后一个时刻输出数据送入全连接层,全连接层将该输出序列映射成类别个数维度后送入分类层中,从而确定人员进出类别,反向传播过程使用BPTT算法,根据损失函数求解各参数梯度,实现梯度的更新,完成参数的优化,实现模型收敛,完成LSTM神经网络模型的训练,获取分类模型。
5.根据权利要求1所述的一种基于LSTM模型的人员计数方法,其特征在于,所述步骤四包括:
步骤401:初始化参数,mid为用于存放输出序列的缓冲区,初始为空;Patterndata为待判别数据;judgeResult则为待判别数据对应的人员的进出辨识结果,初始状态为0;judgeCollection则是用于存放judgeResult的集合;
步骤402:获取输出序列中有效信号的个数sLen;
步骤403:以步长为1对输出序列中有效信号进行遍历;
步骤404:判别当前时刻输出数据是否符合划分标志的条件,若是,则执行步骤405,若否,返回步骤执行步骤403,直到符合划分标志的条件;
步骤405:将缓冲区中数据作为待判别数据;
步骤406:利用分类模型完成对待判别数据的辨识,得到辨识结果,将辨识结果存入集合judgeCollection中并清空缓冲区;
步骤407:将当前时刻的下一刻输出数据作为当前时刻输出数据返回执行步骤404至步骤407,直到完成输出序列中数据的遍历。
6.根据权利要求1所述的一种基于LSTM模型的人员计数方法,其特征在于,所述步骤五包括:根据分类模型的类别辨识结果进行室内人数的统计,若辨识结果为1,表示此刻有人进入,当前室内人数执行加1操作,若辨识结果为2,表示此刻有人离开,当前室内人数执行减1操作,当辨识结果为3或者4时,当前室内人数不发生变化,无需任何操作,最终得到当前室内人员数目。
7.一种基于LSTM模型的人员计数装置,其特征在于,所述装置包括:
标注数据集获取模块,用于对双路多束型主动红外入侵探测器装置的输出数据进行标注得到标注数据集;
划分模块,用于依据标注数据集划分模式数据集以及教师集;
训练模块,用于将模式数据集和教师集作为训练集输入到LSTM神经网络模型中进行训练获取分类模型;
人员进出的类别获取模块,用于将双路多束型主动红外入侵探测器装置采集到的输出序列输入到分类模型得到人员进出的类别;
人数统计模块,用于根据分类模型的类别辨识结果进行室内人数的统计。
9.根据权利要求8所述的一种基于LSTM模型的人员计数装置,其特征在于,所述划分模块还用于:对标注数据集B进行遍历,当bn≠0时,说明当前时刻触发人员进出事件,以此时刻为分割节点,对装置输出数据S进行处理,得到模式数据集Xdata=(X1,X2...Xm),其中,为这段时间内第m次触发的人员进出事件对应的模式数据;对所述模式数据集进行标注得到教师集Ydata=(Y1,Y2...Ym),Ym为模式数据集Xdata中第m个进出事件Xm对应的进出情形的标注。
10.根据权利要求7所述的一种基于LSTM模型的人员计数装置,其特征在于,所述人员进出的类别获取模块还用于:所述LSTM神经网络模型包括LSTM层、全连接层以及分类层,LSTM神经网络模型的训练过程包括两个部分,前向过程和后向传播过程,前向过程中训练集经LSTM神经网络学习后得到输出序列,将此输出序列的最后一个时刻输出数据送入全连接层,全连接层将该输出序列映射成类别个数维度后送入分类层中,从而确定人员进出类别,反向传播过程使用BPTT算法,根据损失函数求解各参数梯度,实现梯度的更新,完成参数的优化,实现模型收敛,完成LSTM神经网络模型的训练,获取分类模型。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010118373 | 2020-02-26 | ||
CN2020101183734 | 2020-02-26 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111476205A true CN111476205A (zh) | 2020-07-31 |
CN111476205B CN111476205B (zh) | 2023-10-17 |
Family
ID=71757362
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010375098.4A Active CN111476205B (zh) | 2020-02-26 | 2020-05-07 | 一种基于lstm模型的人员计数方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111476205B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112686180A (zh) * | 2020-12-29 | 2021-04-20 | 中通服公众信息产业股份有限公司 | 一种封闭空间人员数量计算方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170091615A1 (en) * | 2015-09-28 | 2017-03-30 | Siemens Aktiengesellschaft | System and method for predicting power plant operational parameters utilizing artificial neural network deep learning methodologies |
US20180357542A1 (en) * | 2018-06-08 | 2018-12-13 | University Of Electronic Science And Technology Of China | 1D-CNN-Based Distributed Optical Fiber Sensing Signal Feature Learning and Classification Method |
CN110427924A (zh) * | 2019-09-09 | 2019-11-08 | 桂林电子科技大学 | 一种基于lstm的心冲击信号自动多分类识别方法 |
CN110598530A (zh) * | 2019-07-30 | 2019-12-20 | 浙江工业大学 | 一种基于acgan的小样本无线电信号增强识别方法 |
-
2020
- 2020-05-07 CN CN202010375098.4A patent/CN111476205B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170091615A1 (en) * | 2015-09-28 | 2017-03-30 | Siemens Aktiengesellschaft | System and method for predicting power plant operational parameters utilizing artificial neural network deep learning methodologies |
US20180357542A1 (en) * | 2018-06-08 | 2018-12-13 | University Of Electronic Science And Technology Of China | 1D-CNN-Based Distributed Optical Fiber Sensing Signal Feature Learning and Classification Method |
CN110598530A (zh) * | 2019-07-30 | 2019-12-20 | 浙江工业大学 | 一种基于acgan的小样本无线电信号增强识别方法 |
CN110427924A (zh) * | 2019-09-09 | 2019-11-08 | 桂林电子科技大学 | 一种基于lstm的心冲击信号自动多分类识别方法 |
Non-Patent Citations (1)
Title |
---|
陈兵;查宇飞;李运强;张胜杰;张园强;库涛;: "基于卷积神经网络判别特征学习的行人重识别" * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112686180A (zh) * | 2020-12-29 | 2021-04-20 | 中通服公众信息产业股份有限公司 | 一种封闭空间人员数量计算方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111476205B (zh) | 2023-10-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107403154B (zh) | 一种基于动态视觉传感器的步态识别方法 | |
Ko | A survey on behavior analysis in video surveillance for homeland security applications | |
US9791872B2 (en) | Method and apparatus for an energy saving heating, ventilation, and air conditioning (HVAC) control system | |
US20080123900A1 (en) | Seamless tracking framework using hierarchical tracklet association | |
CN110765906A (zh) | 一种基于关键点的行人检测算法 | |
US20150071492A1 (en) | Abnormal behaviour detection | |
CN106570490B (zh) | 一种基于快速聚类的行人实时跟踪方法 | |
CN113963301A (zh) | 一种时空特征融合的视频火灾烟雾探测方法及*** | |
CN113158983A (zh) | 一种基于红外视频序列图像的机场场面活动行为识别方法 | |
CN116311063A (zh) | 监控视频下基于人脸识别的人员细粒度跟踪方法及*** | |
CN113869274B (zh) | 基于城市管理的无人机智能跟踪监控方法及*** | |
KR102186974B1 (ko) | 차량의 주차면 분석을 위한 지능형 cctv 시스템 | |
Rezaee et al. | Deep-Transfer-learning-based abnormal behavior recognition using internet of drones for crowded scenes | |
CN111476205A (zh) | 一种基于lstm模型的人员计数方法及装置 | |
Shuai et al. | Traffic modeling and prediction using camera sensor networks | |
Tokta et al. | A fast people counting method based on optical flow | |
Zhang et al. | Multi-object crowd real-time tracking in dynamic environment based on neural network | |
CN113920470A (zh) | 一种基于自注意力机制的行人检索方法 | |
Nagolu et al. | Empirical Study on Real Time People Counting using Deep Learning | |
Burkert et al. | Complex event detection in pedestrian groups from UAVs | |
Zou et al. | Continuous learning of a multilayered network topology in a video camera network | |
Padmaja et al. | Crowd abnormal behaviour detection using convolutional neural network and bidirectional LSTM | |
CN117058627B (zh) | 一种公共场所人群安全距离监测方法、介质及*** | |
Yugendar et al. | Analysis of crowd flow parameters using artificial neural network | |
Zhang et al. | Unveiling personnel movement in a larger indoor area with a non-overlapping multi-camera system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |