CN110414313A - 异常行为告警方法、装置、服务器及存储介质 - Google Patents
异常行为告警方法、装置、服务器及存储介质 Download PDFInfo
- Publication number
- CN110414313A CN110414313A CN201910492818.2A CN201910492818A CN110414313A CN 110414313 A CN110414313 A CN 110414313A CN 201910492818 A CN201910492818 A CN 201910492818A CN 110414313 A CN110414313 A CN 110414313A
- Authority
- CN
- China
- Prior art keywords
- image
- current frame
- pedestrian
- frame image
- abnormal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 206010000117 Abnormal behaviour Diseases 0.000 title claims abstract description 115
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000003860 storage Methods 0.000 title claims abstract description 20
- 230000002159 abnormal effect Effects 0.000 claims abstract description 81
- 238000012549 training Methods 0.000 claims abstract description 58
- 238000001514 detection method Methods 0.000 claims description 22
- 230000015654 memory Effects 0.000 claims description 22
- 238000013527 convolutional neural network Methods 0.000 claims description 20
- 238000012545 processing Methods 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 18
- 230000008569 process Effects 0.000 claims description 12
- 238000012790 confirmation Methods 0.000 claims description 10
- 230000001629 suppression Effects 0.000 claims description 5
- 230000006870 function Effects 0.000 description 19
- 238000004422 calculation algorithm Methods 0.000 description 16
- 230000006399 behavior Effects 0.000 description 9
- 238000012360 testing method Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 230000007774 longterm Effects 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 241000283070 Equus zebra Species 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 235000013399 edible fruits Nutrition 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000009191 jumping Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000002547 anomalous effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000037081 physical activity Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/23—Recognition of whole body movements, e.g. for sport training
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/44—Event detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Biophysics (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Evolutionary Biology (AREA)
- Mathematical Physics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Social Psychology (AREA)
- Psychiatry (AREA)
- Image Analysis (AREA)
- Alarm Systems (AREA)
Abstract
一种异常行为告警方法,包括:通过训练预设数量的行人在预设场景下正常行走的图像样本得到预测网络模型;通过所述预测网络模型得到待识别视频中当前帧图像的预测行人图像;通过滑窗检测待识别视频中当前帧图像中的目标人物;根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域;若所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域;将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果;及根据所述分类结果发出告警信息。本发明还提供一种异常行为告警装置、服务器及存储介质。通过本发明可以准确侦测视频图像中的行人异常行为并发出告警信息。
Description
技术领域
本发明涉及图像识别技术领域,具体涉及一种异常行为告警方法、装置、服务器及存储介质。
背景技术
火车站、银行、机场等对安全性要求较高的场合对人体行为识别有巨大的需求,如果***可以识别人体行为,就可以自动判定异常情形并报警,从而大大降低人力成本,并提升监控力度,做到在线监控,实时报警。
传统人体行为识别的方案基本都是基于背景建模和和特征匹配的,该类方案含三个步骤:第一步是主要提取时空特征点,即具备时间和空间特性的像素点,使用背景差分或者光流法进行背景的建模和前景的提取;第二步是根据选定的特征,利用第一步获取的视频的特征点对其特征点周围区域的视频进行特定转换和处理,来获取描述特定行为的特征,其中多数是基于静态场景和物体识别技术;第三步是将这些特征输入分类器进行训练,获得分类器并应用于识别中。
然而,由于行人摔倒等行为属于小概率事件,发生几率低,样本较难收集,采用直接检测算法容易产生漏判。无法及时侦测到行人行走异常事件,从而无法及时实施援救或发出告警信息。
发明内容
鉴于以上内容,有必要提出一种异常行为告警方法、装置、服务器及存储介质,能够准确侦测视频图像中的行人异常行为。
本发明的第一方面提供一种异常行为告警方法,所述方法包括:
通过训练预设数量的行人在预设场景下正常行走的图像样本得到预测网络模型;
通过所述预测网络模型得到待识别视频中当前帧图像的预测行人图像;通过滑窗检测待识别视频中当前帧图像中的目标人物;
根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域;
若所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域,其中,所述异常区域指示所述目标人物的异常行为;
将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果;及
根据所述分类结果发出告警信息。
优选地,在所述通过滑窗检测待识别视频中当前帧图像的目标人物之前,所述异常行为告警方法还包括:
接受摄像头采集的待识别视频图像。
优选地,所述根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域包括:
根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,判断所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置是否一致;
当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置一致时,确认所述当前帧图像不存在异常区域;
当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置不一致时,确认所述当前帧图像存在异常区域。
优选地,所述异常行为分类器为检测行人出现异常行为的分类器,当将截取的异常区域图片输入至所述异常行为分类器后,所述异常行为分类器识别所述异常区域图片中的异常行为,并输出分类结果。
优选地,训练所述预测网络模型的过程包括:
获取预设数量的行人正常行走图像样本;
从所述行人正常行走图像样本中提取出预设比例的行人正常行走图像作为待训练的样本图片,并将所述预设数量的行人正常行走图像样本中剩余的行人正常行走图像样本作为待验证的样本图片;
利用各待训练的样本图片进行模型训练,以生成所述卷积神经网络模型,并利用各待验证的样本图片对所生成的卷积神经网络模型进行验证;
若验证通过率大于等于预设阈值,则训练完成,否则增加所述行人正常行走图像样本的数量,以重新进行训练及验证。
优选地,所述检测待识别视频中当前帧图像的目标人物包括:
通过不同窗口大小的滑窗对所述当前帧图像按预设顺序进行滑动;
每次滑动时将当前窗口对应的图像输入至预先训练好的分类器;及
当所述分类器处理所述当前窗口对应的图像后输出分类概率大于预设值,则确认检测到目标人物,输出检测到的目标人物标记。
优选地,采用非极大值抑制方法对检测到的目标人物标记进行筛选以得到所述当前帧图像中的目标人物。
本发明的第二方面提供一种异常行为告警装置,所述装置包括:
初始化模块,用于通过训练预设数量的行人在预设场景下正常行走的图像样本得到预测网络模型;
预测模块,用于通过所述预测网络模型得到待识别视频中当前帧图像的预测行人图像;
检测模块,用于通过滑窗检测待识别视频中当前帧图像中的目标人物;
确认模块,用于根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域,其中,所述异常区域指示所述目标人物的异常行为;
截取模块,用于若所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域;
处理模块,用于将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果;及
告警模块,用于根据所述分类结果发出告警信息。
本发明的第三方面提供一种服务器,所述服务器包括处理器和存储器,所述处理器用于执行所述存储器中存储的计算机程序时实现所述异常行为告警方法。
本发明的第四方面提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现所述异常行为告警方法。
本发明所述的异常行为告警方法、装置、***及存储介质,本发明通过训练一预测行人在预设场景下正常行走的预测网络模型;根据所述预测网络模型得到预测行人图像;检测待识别视频中当前帧图像的目标人物;根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域;若所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域;及将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果。通过利用时时序信息做行为判断,比仅利用单帧信息判断更为准确,尤其是对于低分辨率场景。另外,本发明通过截取当前帧图像中的异常区域,可以减小计算量,简化算法。最后本算法通过修改最终预测网络,可以推广至其他异常行为告警,可以在不改变算法的基础上,应对不同硬件场景的需求。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1是本发明实施例一提供的异常行为告警方法的流程图。
图2是本发明实施例二提供的本发明异常行为告警装置较佳实施例中的功能模块图。
图3是本发明实施例三提供的服务器的示意图。
如下具体实施方式将结合上述附图进一步说明本发明。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施例对本发明进行详细描述。需要说明的是,在不冲突的情况下,本发明的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中在本发明的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本发明。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”和“第三”等是用于区别不同对象,而非用于描述特定顺序。此外,术语“包括”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、***、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
本发明实施例的异常行为告警方法应用在由至少一个服务器和通过网络与所述服务器进行连接的移动终端所构成的硬件环境中。网络包括但不限于:广域网、城域网或局域网。本发明实施例的异常行为告警方法可以由服务器来执行,也可以由移动终端来执行;还可以是由服务器和移动终端共同执行。
所述对于需要进行异常行为告警方法的服务器,可以直接在服务器上集成本发明的方法所提供的异常行为告警功能,或者安装用于实现本发明的方法的客户端。再如,本发明所提供的方法还可以以软件开发工具包(Software Development Kit,SDK)的形式运行在服务器等设备上,以SDK的形式提供异常行为告警功能的接口,服务器或其他设备通过提供的接口即可实现异常行为告警功能。
实施例一
图1是本发明实施例一提供的异常行为告警方法的流程图。根据不同的需求,该流程图中的执行顺序可以改变,某些步骤可以省略。
步骤S1,通过训练预设数量的行人在预设场景下正常行走的图像样本得到预测网络模型。
在本实施方式中,利用大量正常情况下的行人行走视频图像来训练所述预测网络模型。例如,可以选取所述正常情况下行人行走视频图像中的前N帧图像(如3-5帧)输入至神经网络模型进行训练,得到预测行人正常行走的网络模型。
所述预设场景可以是行人正常行走的场景,如行人穿过斑马线的场景。所述预设场景还可以是商场、车站、机场等地方的行人穿行的场景。
例如,从所述行人行走的视频图像中选取行人行走图像作为数据集,每张图像的尺寸为640x640,每张图片都有其参考标准图。将所述数据集随机分为两部分,数量多的一部分作为训练所述预测网络模型用的训练集,数量少的另一部分作为测试所述预测网络模型用的测试集。在将所述行人行走图像输入至所述预测网络模型前将其裁剪为384x384,其中,所述预测网络模型可以是卷积神经网络。再采用随机高斯分布来初始化所述预测网络模型的训练参数,所述训练参数包括每层的输入大小、卷积核尺寸、卷积核的步长等。例如,可以设置每次输入到所述预测网络模型进行网络训练的图像数为50,学习率可取为0.0001。其中,学习率越小,则预测网络模型的学习能力越强,学习较为细致,但训练速度相对较慢。反之,训练速度较快但学习较为粗糙。
具体地,所述预测网络模型的训练过程包括:
获取预设数量的行人正常行走图像样本;
从所述行人正常行走图像样本中提取出预设比例的行人正常行走图像作为待训练的样本图片,并将所述预设数量的行人正常行走图像样本中剩余的行人正常行走图像样本作为待验证的样本图片;
利用各待训练的样本图片进行模型训练,以生成所述卷积神经网络模型,并利用各待验证的样本图片对所生成的卷积神经网络模型进行验证;
若验证通过率大于等于预设阈值,则训练完成,否则增加所述行人正常行走图像样本的数量,以重新进行训练及验证。
示例性的,假设获取50张行人正常行走图像样本图片。提取预设比例的行人正常行走图像样本图片作为训练集,并将预设数量的行人正常行走图像样本图片中剩余的行人正常行走图像样本图片作为测试集,训练集中的行人正常行走图像样本图片的数量大于测试集中的行人正常行走图像样本图片的数量,例如将行人正常行走图像样本图片中的80%的行人正常行走图像样本图片作为训练集,将剩余的20%的行人正常行走图像样本图片作为测试集。
在第一次训练卷积神经网络模型时,该卷积神经网络模型的参数采用默认的参数进行训练,在训练过程不断调整参数,如上所述的每层的输入大小、卷积核尺寸、卷积核的步长等,在训练生成该卷积神经网络模型后,利用各待验证的样本图片对所生成的卷积神经网络模型进行验证,如果验证通过率大于等于预设阈值,例如通过率大于等于98%,则训练结束,以该训练得到的卷积神经网络模型为识别所述行人正常行走图像中的行人;如果验证通过率小于预设阈值,例如小于98%,则增加行人正常行走图像样本的数量,并重新执行上述的步骤,直至验证通过率大于或者等于预设阈值。
步骤S2,通过所述预测网络模型得到待识别视频中当前帧图像的预测行人图像。
步骤S3,通过滑窗检测待识别视频中当前帧图像中的目标人物。
在本实施方式中,所述通过滑窗检测待识别视频中当前帧图像中的目标人物包括:
通过不同窗口大小的滑窗对所述当前帧图像按预设顺序进行滑动;
每次滑动时将当前窗口对应的图像输入至预先训练好的分类器;及
当所述分类器处理所述当前窗口对应的图像后输出分类概率大于预设值,则确认检测到目标人物,输出检测到的目标人物标记。
例如,首先对当前帧图像进行不同窗口大小的滑窗进行从左往右、从上到下的滑动。每次滑动时候对当前窗口执行分类器(分类器是事先训练好的)。如果当前窗口得到较高的分类概率,则认为检测到了目标人物。对每个不同窗口大小的滑窗都进行检测后,会得到不同窗口检测到的目标人物标记,这些窗口大小会存在重复较高的部分,最后采用非极大值抑制(Non-Maximum Suppression,NMS)的方法进行筛选。最终,经过NMS筛选后获得检测到的目标人物。
采用NMS方法进行筛选得到目标人物的步骤包括:
将所有滑窗输入至分类器后得到的概率按照降序排列,选取概最大率值对应的滑窗;
计算其他滑窗与所述最大概率值对应的滑窗之间的重叠面积(IOU),并判断所述IOU是否大于预设值;
若所述IOU大于预设值,删除对应的滑窗;
重复上述步骤,直到所有其他滑窗都比对完成。
优选地,在通过滑窗检测待识别视频中当前帧图像的目标人物之前,所述异常行为告警方法还包括接受摄像头采集的待识别视频图像的步骤。
在本实施方式中,通过摄像头采集待识别视频图像,所述摄像头被安装在所述预设场景中。所述摄像头与所述服务器之间通过有线或无线网络通信连接。所述摄像头将采集的待识别视频图像通过有线或无线网络发送至所述服务器。所述有线网络可以为传统有线通讯的任何类型,例如因特网、局域网。所述无线网络可以为传统无线通讯的任何类型,例如无线电、无线保真(Wireless Fidelity,WIFI)、蜂窝、卫星、广播等。无线通讯技术可以包括,但不限于,全球移动通信***(Global System for Mobile Communications,GSM)、通用分组无线业务(General Packet Radio Service,GPRS)、码分多址(Code DivisionMultiple Access,CDMA),宽带码分多址(W-CDMA)、CDMA2000、IMT单载波(IMT SingleCarrier)、增强型数据速率GSM演进(Enhanced Data Rates for GSM Evolution,EDGE)、长期演进技术(Long-Term Evolution,LTE)、高级长期演进技术、时分长期演进技术(Time-Division LTE,TD-LTE)、第五代移动通信技术(5G)、高性能无线电局域网(HighPerformance Radio Local Area Network,HiperLAN)、高性能无线电广域网(HighPerformance Radio Wide Area Network,HiperWAN)、本地多点派发业务(LocalMultipoint Distribution Service,LMDS)、全微波存取全球互通(WorldwideInteroperability for Microwave Access,WiMAX)、紫蜂协议(ZigBee)、蓝牙、正交频分复用技术(Flash Orthogonal Frequency-Division Multiplexing,Flash-OFDM)、大容量空分多路存取(High Capacity Spatial Division Multiple Access,HC-SDMA)、通用移动电信***(Universal Mobile Telecommunications System,UMTS)、通用移动电信***时分双工(UMTS Time-Division Duplexing,UMTS-TDD)、演进式高速分组接入(Evolved HighSpeed Packet Access,HSPA+)、时分同步码分多址(Time Division Synchronous CodeDivision Multiple Access,TD-SCDMA)、演进数据最优化(Evolution-Data Optimized,EV-DO)、数字增强无绳通信(Digital Enhanced Cordless Telecommunications,DECT)及其他。
步骤S4,根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域,其中,所述异常区域指示所述目标人物的异常行为。当确认所述当前帧图像存在异常区域时,流程进入步骤S5;当确认所述当前帧图像不存在异常区域时,流程结束。
在本实施方式中,根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,判断所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置是否一致,当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置一致时,确认所述当前帧图像不存在异常区域;当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置不一致时,确认所述当前帧图像存在异常区域。
可以理解的是,所述异常区域指示所述目标人物的异常行为。所述异常行为至少包括摔倒、跳跃和蹲下。当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置之间的距离大于第一预设值时,确认所述目标人物出现摔倒异常行为;当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置之间的距离小于等于第一预设值且大于第二预设值时,确认所述目标人物出现蹲下异常行为;当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置之间的距离小于等于所述第二预设值且大于第三预设值时,确认所述目标人物出现跳跃异常行为。
步骤S5,若所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域。
在本实施方式中,若所述当前帧图像中存在异常区域,说明视频图像中目标人物出现异常行为,从所述视频中提取当前帧图像,再从所述当前帧图像中截取出异常区域。如此,可以将较小的图片输入至异常行为分类器,有利于所述异常行为分类器更快速的输出分类结果。
在一实施方式中,为了更精确的侦测行人异常行为,所述步骤S5可以是,若所述当前帧图像中存在异常区域,从所述视频中提取当前帧图像及当前帧图像前后预设帧图像,并截取所述当前帧图像及当前帧图像前后预设帧图像中的异常区域。
从所述视频中提取当前帧图像及当前帧图像前后预设帧图像,可以更准确的将目标人物的异常行为标的出来。再从所述当前帧图像及当前帧图像前后预设帧图像截取出异常区域。如此,可以将较小的图片输入至异常行为分类器,有利于所述异常行为分类器更快速的输出分类结果。
步骤S6,将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果。
在本实施方式中,所述异常行为分类器可以是检测行人出现异常行为(如摔倒、跳跃、蹲下等)的分类器。所述异常行为分类器是预先训练好的分类器,当将截取的异常区域图片输入至所述异常行为分类器,所述异常行为分类器可以识别所述异常区域图片中的异常行为,并输出分类结果。
步骤S7,根据所述分类结果发出告警信息。
例如,当所述分类结果为目标人物摔倒时,发生行人摔倒警示信息,以防发生踩伤事件;当所述分类结果为目标人物跳跃时,发生行人跳跃警示信息,以警告行人停止跳跃;当所述分类结果为目标人物蹲下时,发生提示信息提示行人正常行走。
又如,当所述分类结果为多个目标人物摔倒时,不仅可以发生行人摔倒警示信息,还可以发送救援信息至救助站。从而可以及时制止更加严重的踩伤事件,同时还能给摔倒行人及时实施救援。
综上所述,本发明提供的异常行为告警方法,包括训练一预测行人在预设场景下正常行走的预测网络模型;根据所述预测网络模型得到预测行人图像;检测待识别视频中当前帧图像的目标人物;根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域;若所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域;及将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果。
由于预测算法检测是否存在异常行为的速度高于直接检测是否存在异常行为的检测算法,并且由于摔倒行为属于小概率事件,发生几率低,样本较难收集,所以直接检测算法容易产生漏判。本发明中的预测算法利用时时序信息做行为判断,比仅利用单帧信息判断更为准确,尤其是对于低分辨率场景;最后本算法通过修改最终预测网络,可以推广至其他异常行为告警,可以在不改变算法的基础上,应对不同硬件场景的需求。
实施例二
图2为本发明异常行为告警装置较佳实施例中的功能模块图。
在一些实施例中,所述异常行为告警装置20运行于服务器中。所述异常行为告警装置20可以包括多个由程序代码段所组成的功能模块。所述异常行为告警装置20中的各个程序段的程序代码可以存储于存储器中,并由至少一个处理器所执行,以执行异常行为告警功能。
本实施例中,所述异常行为告警装置20根据其所执行的功能,可以被划分为多个功能模块。所述功能模块可以包括:初始化模块201、预测模块202、检测模块203、确认模块204、截取模块205、处理模块206及告警模块207。本发明所称的模块是指一种能够被至少一个处理器所执行并且能够完成固定功能的一系列计算机程序段,其存储在存储器中。在一些实施例中,关于各模块的功能将在后续的实施例中详述。
所述初始化模块201用于通过训练预设数量的行人在预设场景下正常行走的图像样本得到预测网络模型。
在本实施方式中,利用大量正常情况下的行人行走视频图像来训练所述预测网络模型。例如,可以选取所述正常情况下行人行走视频图像中的前N帧图像(如3-5帧)输入至神经网络模型进行训练,得到预测行人正常行走的网络模型。
所述预设场景可以是行人正常行走的场景,如行人穿过斑马线的场景。所述预设场景还可以是商场、车站、机场等地方的行人穿行的场景。
例如,从所述行人行走的视频图像中选取行人行走图像作为数据集,每张图像的尺寸为640x640,每张图片都有其参考标准图。将所述数据集随机分为两部分,数量多的一部分作为训练所述预测网络模型用的训练集,数量少的另一部分作为测试所述预测网络模型用的测试集。在将所述行人行走图像输入至所述预测网络模型前将其裁剪为384x384,其中,所述预测网络模型可以是卷积神经网络。再采用随机高斯分布来初始化所述预测网络模型的训练参数,所述训练参数包括每层的输入大小、卷积核尺寸、卷积核的步长等。例如,可以设置每次输入到所述预测网络模型进行网络训练的图像数为50,学习率可取为0.0001。其中,学习率越小,则预测网络模型的学习能力越强,学习较为细致,但训练速度相对较慢。反之,训练速度较快但学习较为粗糙。
具体地,所述预测网络模型的训练过程包括:
获取预设数量的行人正常行走图像样本;
从所述行人正常行走图像样本中提取出预设比例的行人正常行走图像作为待训练的样本图片,并将所述预设数量的行人正常行走图像样本中剩余的行人正常行走图像样本作为待验证的样本图片;
利用各待训练的样本图片进行模型训练,以生成所述卷积神经网络模型,并利用各待验证的样本图片对所生成的卷积神经网络模型进行验证;
若验证通过率大于等于预设阈值,则训练完成,否则增加所述行人正常行走图像样本的数量,以重新进行训练及验证。
示例性的,假设获取50张行人正常行走图像样本图片。提取预设比例的行人正常行走图像样本图片作为训练集,并将预设数量的行人正常行走图像样本图片中剩余的行人正常行走图像样本图片作为测试集,训练集中的行人正常行走图像样本图片的数量大于测试集中的行人正常行走图像样本图片的数量,例如将行人正常行走图像样本图片中的80%的行人正常行走图像样本图片作为训练集,将剩余的20%的行人正常行走图像样本图片作为测试集。
在第一次训练卷积神经网络模型时,该卷积神经网络模型的参数采用默认的参数进行训练,在训练过程不断调整参数,如上所述的每层的输入大小、卷积核尺寸、卷积核的步长等,在训练生成该卷积神经网络模型后,利用各待验证的样本图片对所生成的卷积神经网络模型进行验证,如果验证通过率大于等于预设阈值,例如通过率大于等于98%,则训练结束,以该训练得到的卷积神经网络模型为识别所述行人正常行走图像中的行人;如果验证通过率小于预设阈值,例如小于98%,则增加行人正常行走图像样本的数量,并重新执行上述的步骤,直至验证通过率大于或者等于预设阈值。
所述预测模块202用于通过所述预测网络模型得到待识别视频中当前帧图像的预测行人图像。
所述检测模块203用于通过滑窗检测待识别视频中当前帧图像中的目标人物。
在本实施方式中,所述通过滑窗检测待识别视频中当前帧图像中的目标人物包括:
通过不同窗口大小的滑窗对所述当前帧图像按预设顺序进行滑动;
每次滑动时将当前窗口对应的图像输入至预先训练好的分类器;及
当所述分类器处理所述当前窗口对应的图像后输出分类概率大于预设值,则确认检测到目标人物,输出检测到的目标人物标记。
例如,首先对当前帧图像进行不同窗口大小的滑窗进行从左往右、从上到下的滑动。每次滑动时候对当前窗口执行分类器(分类器是事先训练好的)。如果当前窗口得到较高的分类概率,则认为检测到了目标人物。对每个不同窗口大小的滑窗都进行检测后,会得到不同窗口检测到的目标人物标记,这些窗口大小会存在重复较高的部分,最后采用非极大值抑制(Non-Maximum Suppression,NMS)的方法进行筛选。最终,经过NMS筛选后获得检测到的目标人物。
采用NMS方法进行筛选得到目标人物的步骤包括:
将所有滑窗输入至分类器后得到的概率按照降序排列,选取概最大率值对应的滑窗;
计算其他滑窗与所述最大概率值对应的滑窗之间的重叠面积(IOU),并判断所述IOU是否大于预设值;
若所述IOU大于预设值,删除对应的滑窗;
重复上述步骤,直到所有其他滑窗都比对完成。
优选地,在通过滑窗检测待识别视频中当前帧图像的目标人物之前,所述异常行为告警方法还包括接受摄像头采集的待识别视频图像的步骤。
在本实施方式中,通过摄像头采集待识别视频图像,所述摄像头被安装在所述预设场景中。所述摄像头与所述服务器之间通过有线或无线网络通信连接。所述摄像头将采集的待识别视频图像通过有线或无线网络发送至所述服务器。
所述确认模块204用于根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域,其中,所述异常区域指示所述目标人物的异常行为。当确认所述当前帧图像存在异常区域时,确认所述视频图像中存在异常行为;当确认所述当前帧图像不存在异常区域时,确认所述视频图像中不存在异常行为。
在本实施方式中,根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,判断所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置是否一致,当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置一致时,确认所述当前帧图像不存在异常区域;当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置不一致时,确认所述当前帧图像存在异常区域。
可以理解的是,所述异常区域指示所述目标人物的异常行为。所述异常行为至少包括摔倒、跳跃和蹲下。当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置之间的距离大于第一预设值时,确认所述目标人物出现摔倒异常行为;当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置之间的距离小于等于第一预设值且大于第二预设值时,确认所述目标人物出现蹲下异常行为;当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置之间的距离小于等于所述第二预设值且大于第三预设值时,确认所述目标人物出现跳跃异常行为。
所述截取模块205用于在所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域。
在本实施方式中,若所述当前帧图像中存在异常区域,说明视频图像中目标人物出现异常行为,从所述视频中提取当前帧图像,再从所述当前帧图像中截取出异常区域。如此,可以将较小的图片输入至异常行为分类器,有利于所述异常行为分类器更快速的输出分类结果。
在一实施方式中,为了更精确的侦测行人异常行为,所述截取模块205还用于在所述当前帧图像中存在异常区域,从所述视频中提取当前帧图像及当前帧图像前后预设帧图像,并截取所述当前帧图像及当前帧图像前后预设帧图像中的异常区域。
从所述视频中提取当前帧图像及当前帧图像前后预设帧图像,可以更准确的将目标人物的异常行为标的出来。再从所述当前帧图像及当前帧图像前后预设帧图像截取出异常区域。如此,可以将较小的图片输入至异常行为分类器,有利于所述异常行为分类器更快速的输出分类结果。
所述处理模块206用于将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果。
在本实施方式中,所述异常行为分类器可以是检测行人出现异常行为(如摔倒、跳跃、蹲下等)的分类器。所述异常行为分类器是预先训练好的分类器,当将截取的异常区域图片输入至所述异常行为分类器,所述异常行为分类器可以识别所述异常区域图片中的异常行为,并输出分类结果。
告警模块207用于根据所述分类结果发出告警信息。
例如,当所述分类结果为目标人物摔倒时,发生行人摔倒警示信息,以防发生踩伤事件;当所述分类结果为目标人物跳跃时,发生行人跳跃警示信息,以警告行人停止跳跃;当所述分类结果为目标人物蹲下时,发生提示信息提示行人正常行走。
又如,当所述分类结果为多个目标人物摔倒时,不仅可以发生行人摔倒警示信息,还可以发送救援信息至救助站。从而可以及时制止更加严重的踩伤事件,同时还能给摔倒行人及时实施救援。
综上所述,本发明提供的异常行为告警装置20,包括初始化模块201、预测模块202、检测模块203、确认模块204、截取模块205、处理模块206及告警模块207。所述初始化模块201用于训练一预测行人在预设场景下正常行走的预测网络模型;所述预测模块202用于根据所述预测网络模型得到预测行人图像;所述检测模块203用于检测待识别视频中当前帧图像的目标人物;所述确认模块204用于根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域;所述截取模块205用于若所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域;所述处理模块206用于将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果;及所述告警模块207用于根据所述分类结果发出告警信息。
由于预测算法检测是否存在异常行为的速度高于直接检测是否存在异常行为的检测算法,并且由于摔倒行为属于小概率事件,发生几率低,样本较难收集,所以直接检测算法容易产生漏判。本发明中的预测算法利用时时序信息做行为判断,比仅利用单帧信息判断更为准确,尤其是对于低分辨率场景;最后本算法通过修改最终预测网络,可以推广至其他异常行为告警,可以在不改变算法的基础上,应对不同硬件场景的需求。
上述以软件功能模块的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,双屏设备,或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分。
实施例三
图3为本发明实施例三提供的服务器的示意图。
所述服务器3包括:数据库31、存储器32、至少一个处理器33、存储在所述存储器32中并可在所述至少一个处理器33上运行的计算机程序34及至少一条通讯总线35。
所述至少一个处理器33执行所述计算机程序34时实现上述异常行为告警方法实施例中的步骤。
示例性的,所述计算机程序34可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器32中,并由所述至少一个处理器33执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序34在所述服务器3中的执行过程。
所述服务器3是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(应用程序licationSpecific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable GateArray,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。本领域技术人员可以理解,所述示意图3仅仅是服务器3的示例,并不构成对服务器3的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述服务器3还可以包括输入输出设备、网络接入设备、总线等。
所述数据库(Database)31是按照数据结构来组织、存储和管理数据的建立在所述服务器3上的仓库。数据库通常分为层次式数据库、网络式数据库和关系式数据库三种。在本实施方式中,所述数据库31用于存储所述待识别视频信息等。
所述至少一个处理器33可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。该处理器33可以是微处理器或者该处理器33也可以是任何常规的处理器等,所述处理器33是所述服务器3的控制中心,利用各种接口和线路连接整个服务器3的各个部分。
所述存储器32可用于存储所述计算机程序34和/或模块/单元,所述处理器33通过运行或执行存储在所述存储器32内的计算机程序和/或模块/单元,以及调用存储在存储器32内的数据,实现所述服务器3的各种功能。所述存储器32可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据服务器3的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器32可以包括高速随机存取存储器,还可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(SecureDigital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
所述存储器32中存储有程序代码,且所述至少一个处理器33可调用所述存储器32中存储的程序代码以执行相关的功能。例如,图2中所述的各个模块(初始化模块201、预测模块202、检测模块203、确认模块204、截取模块205、处理模块206及告警模块207)是存储在所述存储器32中的程序代码,并由所述至少一个处理器33所执行,从而实现所述各个模块的功能以达到异常行为告警目的。
所述初始化模块201用于训练一预测行人在预设场景下正常行走的预测网络模型;
所述预测模块202用于根据所述预测网络模型得到预测行人图像;
所述检测模块203用于检测待识别视频中当前帧图像的目标人物;
所述确认模块204用于根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域;
所述截取模块205用于若所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域;及
所述处理模块206用于将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果。
所述告警模块207用于根据所述分类结果发出告警信息。
优选地,在所述通过滑窗检测待识别视频中当前帧图像的目标人物之前,所述异常行为告警装置20还可以:
接受摄像头采集的待识别视频图像。
优选地,所述根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域包括:
根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,判断所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置是否一致;
当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置一致时,确认所述当前帧图像不存在异常区域;
当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置不一致时,确认所述当前帧图像存在异常区域。
优选地,所述异常行为分类器为检测行人出现异常行为的分类器,当将截取的异常区域图片输入至所述异常行为分类器后,所述异常行为分类器识别所述异常区域图片中的异常行为,并输出分类结果。
优选地,训练所述预测网络模型的过程包括:
获取预设数量的行人正常行走图像样本;
从所述行人正常行走图像样本中提取出预设比例的行人正常行走图像作为待训练的样本图片,并将所述预设数量的行人正常行走图像样本中剩余的行人正常行走图像样本作为待验证的样本图片;
利用各待训练的样本图片进行模型训练,以生成所述卷积神经网络模型,并利用各待验证的样本图片对所生成的卷积神经网络模型进行验证;
若验证通过率大于等于预设阈值,则训练完成,否则增加所述行人正常行走图像样本的数量,以重新进行训练及验证。
优选地,所述检测待识别视频中当前帧图像的目标人物包括:
通过不同窗口大小的滑窗对所述当前帧图像按预设顺序进行滑动;
每次滑动时将当前窗口对应的图像输入至预先训练好的分类器;及
当所述分类器处理所述当前窗口对应的图像后输出分类概率大于预设值,则确认检测到目标人物,输出检测到的目标人物标记。
优选地,采用非极大值抑制方法对检测到的目标人物标记进行筛选以得到所述当前帧图像中的目标人物。
所述服务器3集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
尽管未示出,所述服务器3还可以包括给各个部件供电的电源(比如电池),优选的,电源可以通过电源管理***与所述至少一个处理器33逻辑相连,从而通过电源管理***实现管理充电、放电、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电***、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述服务器3还可以包括蓝牙模块、Wi-Fi模块等,在此不再赘述。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
在本发明所提供的几个实施例中,应该理解到,所揭露的电子设备和方法,可以通过其它的方式实现。例如,以上所描述的电子设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
另外,在本发明各个实施例中的各功能单元可以集成在相同处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在相同单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外,显然“包括”一词不排除其他单元或,单数不排除复数。***权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一,第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神范围。
Claims (10)
1.一种异常行为告警方法,其特征在于,所述方法包括:
通过训练预设数量的行人在预设场景下正常行走的图像样本得到预测网络模型;
通过所述预测网络模型得到待识别视频中当前帧图像的预测行人图像;
通过滑窗检测待识别视频中当前帧图像中的目标人物;
根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域,其中,所述异常区域指示所述目标人物的异常行为;
若所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域;及
将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果;
根据所述分类结果发出告警信息。
2.如权利要求1所述的异常行为告警方法,其特征在于,在所述通过滑窗检测待识别视频中当前帧图像的目标人物之前,所述异常行为告警方法还包括:
接受摄像头采集的待识别视频图像。
3.如权利要求2所述的异常行为告警方法,其特征在于,所述根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域包括:
根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,判断所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置是否一致;
当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置一致时,确认所述当前帧图像不存在异常区域;
当所述当前帧图像中目标人物的滑窗在当前帧图像中的位置与所述预测行人图像中目标人物的滑窗在预测行人图像中的位置不一致时,确认所述当前帧图像存在异常区域。
4.如权利要求1所述的异常行为告警方法,其特征在于,所述异常行为分类器为检测行人出现异常行为的分类器,当将截取的异常区域图片输入至所述异常行为分类器后,所述异常行为分类器识别所述异常区域图片中的异常行为,并输出分类结果。
5.如权利要求1所述的异常行为告警方法,其特征在于,训练所述预测网络模型的过程包括:
获取预设数量的行人正常行走图像样本;
从所述行人正常行走图像样本中提取出预设比例的行人正常行走图像作为待训练的样本图片,并将所述预设数量的行人正常行走图像样本中剩余的行人正常行走图像样本作为待验证的样本图片;
利用各待训练的样本图片进行模型训练,以生成所述卷积神经网络模型,并利用各待验证的样本图片对所生成的卷积神经网络模型进行验证;
若验证通过率大于等于预设阈值,则训练完成,否则增加所述行人正常行走图像样本的数量,以重新进行训练及验证。
6.如权利要求1所述的异常行为告警方法,其特征在于,所述检测待识别视频中当前帧图像的目标人物包括:
通过不同窗口大小的滑窗对所述当前帧图像按预设顺序进行滑动;
每次滑动时将当前窗口对应的图像输入至预先训练好的分类器;及
当所述分类器处理所述当前窗口对应的图像后输出分类概率大于预设值,则确认检测到目标人物,输出检测到的目标人物标记。
7.如权利要求6所述的异常行为告警方法,其特征在于,采用非极大值抑制方法对检测到的目标人物标记进行筛选以得到所述当前帧图像中的目标人物。
8.一种异常行为告警装置,其特征在于,所述装置包括:
初始化模块,用于通过训练预设数量的行人在预设场景下正常行走的图像样本得到预测网络模型;
预测模块,用于通过所述预测网络模型得到待识别视频中当前帧图像的预测行人图像;
检测模块,用于通过滑窗检测待识别视频中当前帧图像中的目标人物;
确认模块,用于根据所述目标人物将所述当前帧图像与所述预测行人图像进行比对,确认所述当前帧图像是否存在异常区域,其中,所述异常区域指示所述目标人物的异常行为;
截取模块,用于若所述当前帧图像中存在异常区域,截取所述当前帧图像中的异常区域;
处理模块,用于将截取的所述异常区域输入至预先训练好的异常行为分类器中,并得到分类结果;及
告警模块,用于根据所述分类结果发出告警信息。
9.一种服务器,其特征在于,所述服务器包括处理器和存储器,所述处理器用于执行所述存储器中存储的计算机程序时实现如权利要求1至7中任意一项所述的异常行为告警方法。
10.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述的异常行为告警方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910492818.2A CN110414313B (zh) | 2019-06-06 | 2019-06-06 | 异常行为告警方法、装置、服务器及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910492818.2A CN110414313B (zh) | 2019-06-06 | 2019-06-06 | 异常行为告警方法、装置、服务器及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110414313A true CN110414313A (zh) | 2019-11-05 |
CN110414313B CN110414313B (zh) | 2024-02-13 |
Family
ID=68358437
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910492818.2A Active CN110414313B (zh) | 2019-06-06 | 2019-06-06 | 异常行为告警方法、装置、服务器及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110414313B (zh) |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110889351A (zh) * | 2019-11-18 | 2020-03-17 | 中国科学院深圳先进技术研究院 | 视频检测方法、装置、终端设备及可读存储介质 |
CN111126153A (zh) * | 2019-11-25 | 2020-05-08 | 北京锐安科技有限公司 | 基于深度学习的安全监测方法、***、服务器及存储介质 |
CN111222423A (zh) * | 2019-12-26 | 2020-06-02 | 深圳供电局有限公司 | 基于作业区域的目标识别方法、装置、计算机设备 |
CN111325278A (zh) * | 2020-02-26 | 2020-06-23 | 重庆金山医疗技术研究院有限公司 | 一种图像处理方法、装置及存储介质 |
CN111652084A (zh) * | 2020-05-13 | 2020-09-11 | 清远市智慧农业研究院 | 一种异常蛋鸡识别方法及装置 |
CN111832492A (zh) * | 2020-07-16 | 2020-10-27 | 平安科技(深圳)有限公司 | 静态交通异常的判别方法、装置、计算机设备及存储介质 |
CN112016413A (zh) * | 2020-08-13 | 2020-12-01 | 南京领行科技股份有限公司 | 对象间异常行为的检测方法及装置 |
CN112200081A (zh) * | 2020-10-10 | 2021-01-08 | 平安国际智慧城市科技股份有限公司 | 异常行为识别方法、装置、电子设备及存储介质 |
CN112232257A (zh) * | 2020-10-26 | 2021-01-15 | 青岛海信网络科技股份有限公司 | 一种交通异常确定方法、装置、设备及介质 |
CN112381066A (zh) * | 2020-12-10 | 2021-02-19 | 杭州西奥电梯有限公司 | 乘梯异常行为识别方法、监测***、计算机设备和存储介质 |
CN112395998A (zh) * | 2020-11-19 | 2021-02-23 | 南京大学 | 一种全球开放数据库中机场空间位置的验证方法 |
CN112669316A (zh) * | 2021-01-29 | 2021-04-16 | 南方电网调峰调频发电有限公司 | 电力生产异常监控方法、装置、计算机设备和存储介质 |
CN112949359A (zh) * | 2019-12-10 | 2021-06-11 | 清华大学 | 基于卷积神经网络的异常行为识别方法和装置 |
CN113190372A (zh) * | 2021-05-24 | 2021-07-30 | 平安国际智慧城市科技股份有限公司 | 多源数据的故障处理方法、装置、电子设备及存储介质 |
CN113822385A (zh) * | 2021-11-24 | 2021-12-21 | 深圳江行联加智能科技有限公司 | 基于图像的输煤异常监测方法、装置、设备及存储介质 |
CN114093117A (zh) * | 2021-10-11 | 2022-02-25 | 北京精英***科技有限公司 | 消防管控方法及其装置 |
CN114764895A (zh) * | 2020-12-31 | 2022-07-19 | 清华大学 | 异常行为检测装置和方法 |
CN116448404A (zh) * | 2023-06-15 | 2023-07-18 | 安徽容知日新科技股份有限公司 | 异常监测方法、装置、电子设备及计算机可读存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102609682A (zh) * | 2012-01-13 | 2012-07-25 | 北京邮电大学 | 一种针对感兴趣区域的反馈式行人检测方法 |
CN106571014A (zh) * | 2016-10-24 | 2017-04-19 | 上海伟赛智能科技有限公司 | 一种在视频中识别异常动作的方法和*** |
WO2018033154A1 (zh) * | 2016-08-19 | 2018-02-22 | 北京市商汤科技开发有限公司 | 手势控制方法、装置和电子设备 |
CN109241946A (zh) * | 2018-10-11 | 2019-01-18 | 平安科技(深圳)有限公司 | 异常行为监控方法、装置、计算机设备及存储介质 |
-
2019
- 2019-06-06 CN CN201910492818.2A patent/CN110414313B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102609682A (zh) * | 2012-01-13 | 2012-07-25 | 北京邮电大学 | 一种针对感兴趣区域的反馈式行人检测方法 |
WO2018033154A1 (zh) * | 2016-08-19 | 2018-02-22 | 北京市商汤科技开发有限公司 | 手势控制方法、装置和电子设备 |
CN106571014A (zh) * | 2016-10-24 | 2017-04-19 | 上海伟赛智能科技有限公司 | 一种在视频中识别异常动作的方法和*** |
CN109241946A (zh) * | 2018-10-11 | 2019-01-18 | 平安科技(深圳)有限公司 | 异常行为监控方法、装置、计算机设备及存储介质 |
Cited By (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110889351A (zh) * | 2019-11-18 | 2020-03-17 | 中国科学院深圳先进技术研究院 | 视频检测方法、装置、终端设备及可读存储介质 |
WO2021098657A1 (zh) * | 2019-11-18 | 2021-05-27 | 中国科学院深圳先进技术研究院 | 视频检测方法、装置、终端设备及可读存储介质 |
CN110889351B (zh) * | 2019-11-18 | 2023-09-26 | 中国科学院深圳先进技术研究院 | 视频检测方法、装置、终端设备及可读存储介质 |
CN111126153A (zh) * | 2019-11-25 | 2020-05-08 | 北京锐安科技有限公司 | 基于深度学习的安全监测方法、***、服务器及存储介质 |
CN112949359A (zh) * | 2019-12-10 | 2021-06-11 | 清华大学 | 基于卷积神经网络的异常行为识别方法和装置 |
CN111222423A (zh) * | 2019-12-26 | 2020-06-02 | 深圳供电局有限公司 | 基于作业区域的目标识别方法、装置、计算机设备 |
CN111222423B (zh) * | 2019-12-26 | 2024-05-28 | 深圳供电局有限公司 | 基于作业区域的目标识别方法、装置、计算机设备 |
CN111325278A (zh) * | 2020-02-26 | 2020-06-23 | 重庆金山医疗技术研究院有限公司 | 一种图像处理方法、装置及存储介质 |
CN111325278B (zh) * | 2020-02-26 | 2023-08-29 | 重庆金山医疗技术研究院有限公司 | 一种图像处理方法、装置及存储介质 |
CN111652084A (zh) * | 2020-05-13 | 2020-09-11 | 清远市智慧农业研究院 | 一种异常蛋鸡识别方法及装置 |
CN111652084B (zh) * | 2020-05-13 | 2023-04-25 | 清远市智慧农业研究院 | 一种异常蛋鸡识别方法及装置 |
CN111832492B (zh) * | 2020-07-16 | 2024-06-04 | 平安科技(深圳)有限公司 | 静态交通异常的判别方法、装置、计算机设备及存储介质 |
CN111832492A (zh) * | 2020-07-16 | 2020-10-27 | 平安科技(深圳)有限公司 | 静态交通异常的判别方法、装置、计算机设备及存储介质 |
CN112016413A (zh) * | 2020-08-13 | 2020-12-01 | 南京领行科技股份有限公司 | 对象间异常行为的检测方法及装置 |
CN112016413B (zh) * | 2020-08-13 | 2022-06-07 | 南京领行科技股份有限公司 | 对象间异常行为的检测方法及装置 |
CN112200081A (zh) * | 2020-10-10 | 2021-01-08 | 平安国际智慧城市科技股份有限公司 | 异常行为识别方法、装置、电子设备及存储介质 |
CN112232257B (zh) * | 2020-10-26 | 2023-08-11 | 青岛海信网络科技股份有限公司 | 一种交通异常确定方法、装置、设备及介质 |
CN112232257A (zh) * | 2020-10-26 | 2021-01-15 | 青岛海信网络科技股份有限公司 | 一种交通异常确定方法、装置、设备及介质 |
CN112395998A (zh) * | 2020-11-19 | 2021-02-23 | 南京大学 | 一种全球开放数据库中机场空间位置的验证方法 |
CN112381066A (zh) * | 2020-12-10 | 2021-02-19 | 杭州西奥电梯有限公司 | 乘梯异常行为识别方法、监测***、计算机设备和存储介质 |
CN112381066B (zh) * | 2020-12-10 | 2023-04-18 | 杭州西奥电梯有限公司 | 乘梯异常行为识别方法、监测***、计算机设备和存储介质 |
CN114764895A (zh) * | 2020-12-31 | 2022-07-19 | 清华大学 | 异常行为检测装置和方法 |
CN112669316A (zh) * | 2021-01-29 | 2021-04-16 | 南方电网调峰调频发电有限公司 | 电力生产异常监控方法、装置、计算机设备和存储介质 |
CN113190372A (zh) * | 2021-05-24 | 2021-07-30 | 平安国际智慧城市科技股份有限公司 | 多源数据的故障处理方法、装置、电子设备及存储介质 |
CN114093117B (zh) * | 2021-10-11 | 2023-07-25 | 北京精英***科技有限公司 | 消防管控方法及其装置 |
CN114093117A (zh) * | 2021-10-11 | 2022-02-25 | 北京精英***科技有限公司 | 消防管控方法及其装置 |
CN113822385A (zh) * | 2021-11-24 | 2021-12-21 | 深圳江行联加智能科技有限公司 | 基于图像的输煤异常监测方法、装置、设备及存储介质 |
CN113822385B (zh) * | 2021-11-24 | 2022-05-13 | 深圳江行联加智能科技有限公司 | 基于图像的输煤异常监测方法、装置、设备及存储介质 |
CN116448404A (zh) * | 2023-06-15 | 2023-07-18 | 安徽容知日新科技股份有限公司 | 异常监测方法、装置、电子设备及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110414313B (zh) | 2024-02-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110414313A (zh) | 异常行为告警方法、装置、服务器及存储介质 | |
CN108965826A (zh) | 监控方法、装置、处理设备及存储介质 | |
CN104469305B (zh) | 电网视频监控设备的故障检测方法和装置 | |
CN110427800A (zh) | 视频物体加速检测方法、装置、服务器及存储介质 | |
CN107818133A (zh) | 一种基于大数据的居民区网络能力分析方法及*** | |
CN110287804A (zh) | 一种基于移动视频监控的电力作业人员着装识别方法 | |
CN109657564A (zh) | 一种人员在岗检测方法、装置、存储介质及终端设备 | |
CN108737182A (zh) | ***异常的处理方法及*** | |
CN108353149A (zh) | Cctv自动选别监测***cctv自动选别监测管理服务器及管理方法 | |
CN105894358A (zh) | 通勤订单识别方法和装置 | |
CN103856762A (zh) | 多摄像头智能选择和视频优先级判断***及选择方法 | |
CN109889512B (zh) | 一种充电桩can报文的异常检测方法及装置 | |
CN109033973A (zh) | 监控预警方法、装置及电子设备 | |
CN111382808A (zh) | 一种车辆检测处理方法及装置 | |
CN110456234A (zh) | 故障电弧的检测方法、装置和*** | |
CN108961267A (zh) | 图片处理方法、图片处理装置及终端设备 | |
CN109947037A (zh) | 一种生活环境监控及预警方法 | |
CN109743286A (zh) | 一种基于图卷积神经网络的ip类型标记方法及设备 | |
CN115146878A (zh) | 指挥调度方法、***、车载设备及计算机可读存储介质 | |
CN111929583A (zh) | 智能终端的电量监控方法、装置及*** | |
CN114612011A (zh) | 一种风险防控决策方法及装置 | |
CN109661671A (zh) | 使用边界位图对图像分类的改善 | |
CN109857829A (zh) | 一种地理信息数据融合*** | |
CN110263622A (zh) | 列车火情监测方法、装置、终端及存储介质 | |
CN107920224A (zh) | 一种异常告警方法、设备及视频监控*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |