CN114360209B - 基于深度学习的视频行为识别安防*** - Google Patents

基于深度学习的视频行为识别安防*** Download PDF

Info

Publication number
CN114360209B
CN114360209B CN202210050744.9A CN202210050744A CN114360209B CN 114360209 B CN114360209 B CN 114360209B CN 202210050744 A CN202210050744 A CN 202210050744A CN 114360209 B CN114360209 B CN 114360209B
Authority
CN
China
Prior art keywords
unit
child
joint point
max
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210050744.9A
Other languages
English (en)
Other versions
CN114360209A (zh
Inventor
刘忠杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Changzhou College of Information Technology CCIT
Original Assignee
Changzhou College of Information Technology CCIT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Changzhou College of Information Technology CCIT filed Critical Changzhou College of Information Technology CCIT
Priority to CN202210050744.9A priority Critical patent/CN114360209B/zh
Publication of CN114360209A publication Critical patent/CN114360209A/zh
Application granted granted Critical
Publication of CN114360209B publication Critical patent/CN114360209B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0407Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis
    • G08B21/043Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis detecting an emergency event, e.g. a fall
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Evolutionary Biology (AREA)
  • Software Systems (AREA)
  • Psychiatry (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Gerontology & Geriatric Medicine (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Alarm Systems (AREA)

Abstract

本发明公开了基于深度学习的视频行为识别安防***,包括:图像采集处理模块、目标图像获取模块、***管理中心、静态分析模块、动态趋势预测模块、危险警报模块和安全防卫终端,通过图像采集处理模块获取儿童在攀爬网上的实时图像和深度图,通过卷积神经网络识别算法识别图像,通过目标图像获取模块获取儿童骨骼关节点二维图像,通过静态分析模块对关节点进行定位,分析提取儿童至攀爬网边缘的相对距离,通过动态趋势预测模块获取部分关键关节点,依据部分关键关节点的变化轨迹预测儿童的攀爬移动方向,通过危险警报模块在预测到儿童有坠落可能时发出警报信号,实现了儿童安全监测目标,提高了攀爬安全性。

Description

基于深度学习的视频行为识别安防***
技术领域
本发明涉及视频行为安防技术领域,具体为基于深度学习的视频行为识别安防***。
背景技术
游戏和动作是儿童日常活动的基本表现形式,提高运动能够促进儿童自身运动技能、认知与自我概念的发展,攀爬属于儿童基本的运动形式,能够锻炼儿童的平衡能力,还可以提高儿童的空间定位能力,游乐园中就有许多攀爬型的游乐园设备,如攀爬网,对儿童具有吸引力,也能锻炼拓展儿童的身体素质,增强儿童的四肢活动能力和四肢协调性;
然而,对于儿童来说,在攀爬网上玩耍存在很多危险情况:首先,儿童在攀爬到边缘区域时,若双脚不慎离开攀爬网,由于上肢力量不足,容易从攀爬网边缘摔下来,攀爬网具有一定高度,由于儿童骨骼相较于成人而言较脆弱,从高处坠落容易发生骨折等创伤;其次,攀爬网上往往不只一个孩子玩耍,互相之间难免会有碰撞,若儿童正好在危险区域被撞倒,也可能会发生坠落事故,现有技术中,虽然在不断地改善提高攀爬网设备的安全程度,但对于儿童而言仍存在安全隐患,需要对儿童在攀爬网上的运动状态进行实时监测和识别,并进行安全防护。
所以,人们需要基于深度学习的视频行为识别安防***来解决上述问题。
发明内容
本发明的目的在于提供基于深度学习的视频行为识别安防***,以解决上述背景技术中提出的问题。
为了解决上述技术问题,本发明提供如下技术方案:基于深度学习的视频行为识别安防***,其特征在于:所述***包括:图像采集处理模块、目标图像获取模块、***管理中心、静态分析模块、动态趋势预测模块、危险警报模块和安全防卫终端;
所述图像采集处理模块利用深度相机获取儿童在攀爬网上的实时图像,通过卷积神经网络识别算法识别图像;将对应图像及其识别结果输出至所述目标图像获取模块,所述目标图像获取模块用于获取儿童骨骼关节点二维图像;所述静态分析模块用于对关节点进行定位,通过支持向量机分析提取儿童至攀爬网边缘的相对距离;所述动态趋势预测模块用于获取部分关键关节点,依据部分关键关节点在图像中的变化轨迹预测儿童的攀爬移动方向;所述危险警报模块用于在预测到儿童有坠落可能时通过危险警报器发出警报信号;所述安全防卫终端用于接收警报信号并进行安全防卫。
进一步的,所述图像采集处理模块包括图像获取单元、主处理单元和图像识别输出单元,所述图像获取单元用于获取深度相机拍摄的儿童攀爬深度图;所述主处理单元用于利用卷积网络识别算法对图像进行识别;所述图像识别输出单元用于输出处理后的图像至所述目标图像处理模块。
进一步的,所述目标图像获取模块包括骨骼数据提取单元、攀爬网建模单元和关节点投影单元,所述骨骼数据提取单元用于提取图像中儿童的骨骼关节点数据;所述攀爬网建模单元用于以攀爬网为中心建立二维坐标系;所述关节点投影单元用于通过透视投影相机将关节点投影到二维模型中,获取儿童骨骼关节点在模型中的二维图像。
进一步的,所述静态分析模块包括关节点定位单元和相对距离提取单元,所述关节点定位单元用于获取二维模型中的骨骼关节点位置坐标;所述相对距离提取单元用于依据整体关节点坐标分析提取儿童到攀爬网边缘的相对距离。
进一步的,所述动态趋势预测模块包括关键关节点分析单元、偏转角度测量单元和移动方向预测单元,所述关键关节点分析单元用于在相对距离安全前提下,依据相对距离获取关键关节点,关键关节点为离攀爬网边缘最近的一侧关节点;所述偏转角度测量单元用于测量单个关节点的整体移动轨迹偏转角度;所述移动方向预测单元用于依据偏转角度预测儿童的整体移动方向;所述危险警报模块包括坠落危险预测单元和语音提醒单元,所述坠落危险预测单元用于依据预测数据分析儿童是否有坠落攀爬网的危险;在预测到有危险时利用所述语音提醒单元提醒安全防卫人员对对应儿童进行安全防护将预测结果传输到所述***管理中心中,所述***管理中心包括危险频次统计单元,通过所述危险频次统计单元统计预测结果中儿童处于或前往对应危险区域次数,设置危险次数阈值,将统计结果传输到所述语音提醒单元,当儿童处于或前往对应危险区域次数超出阈值时,利用所述语音提醒单元通知安全防卫人员对对应区域进行安全加固。
进一步的,所述利用卷积网络识别算法对图像进行识别,包括以下步骤:
S1:在采集的图像中获取儿童骨骼动作序列;
S2:将该序列可视化为一系列骨骼彩色图,将骨骼彩色图叠加得到骨骼能量图;
S3:使用卷积神经网络模型从骨骼能量图和深度图两组通道的图像中提取攀爬动作的时空特征。
进一步的,在步骤S3中:建立多重卷积神经网络模型,输入序列Im,获得一系列彩色图像集合为
Figure BDA0003474173630000031
将每个图像标准化为N×N像素,对所有输入图像采用均值去除,然后每个彩色图像由CNN处理,对于图像/>
Figure BDA0003474173630000032
输出Yc后,根据公式:
Figure BDA0003474173630000033
进行归一化后获得后验概率,其中,l表示第l个动作类别,L表示动作类别总数,根据类分数公式
Figure BDA0003474173630000034
获得所有CNN输出的平均值,prob(l|lc)表示图像
Figure BDA0003474173630000035
属于第l个动作类别的概率,L个动作类别被存储在所述***管理中心中,依据所有CNN输出的平均值判断图像/>
Figure BDA0003474173630000036
属于的动作类别,与所述***管理中心中存储的动作类别进行匹配,提取攀爬动作的时空特征,匹配后输出图像及其特征,CNN指卷积神经网络,结合深度图和骨骼能量图建立了双流卷积神经网络模型,丰富了提取的特征信息,卷积神经网络可直接输入经过简单预处理后的图像并提取特征,输出识别分类结果,使用Softmax归一化在多分类任务下生成样本属于各类别的概率,提高了儿童攀爬动作识别的正确率。
进一步的,利用所述骨骼数据提取单元提取图像中儿童的骨骼关节点数据,利用攀爬网建模单元以攀爬网中心为原点建立二维坐标系,获取到攀爬网的长度为a,宽度为b,设定水平方向的危险区域为距攀爬网中心大于a的区域,垂直方向的危险区域为距攀爬网中心大于b的区域,通过所述关节点投影单元将关节点投影到二维坐标系中,利用所述关节点定位单元获取到儿童骨骼关节点的位置坐标集合为(X,Y)={(X1,Y1),(X2,Y2),...,(Xn,Yn)},筛选出横坐标绝对值最大的关节点,关节点坐标为(Xmax,Yj),比较a和Xmax:若|Xmax|<a,判断儿童未进入水平方向的危险区域;若|Xmax|≥a,判断儿童已进入水平方向的危险区域;筛选出纵坐标绝对值最大的关节点,关节点坐标为(Xi,Ymax),比较b和Ymax:若|Ymax|≥b,判断儿童未进入垂直方向的危险区域;若|Ymax|<b,判断儿童已进入垂直方向的危险区域,在判断出儿童已进入危险区域后,发送语音提醒信息至所述安全防卫终端,通过儿童的骨骼关节点与攀爬网的相对距离衡量儿童当前是否处于攀爬网的危险区域中,进行静态行为识别,目的在于帮助及时提醒安全防卫人员危险情况,以达到对儿童进行安全监控的目标,同时为后续预测儿童移动方向提供关键关节点位置,有利于对儿童进行动态安全监测。
进一步的,在判断儿童未进入攀爬网上的危险区域时,将坐标为(Xmax,Yj)的关节点作为水平方向的关键关节点,将坐标为(Xi,Ymax)的关节点作为垂直方向的关键关节点,利用所述关键关节点分析单元获取对应关键关节点的移动变化轨迹,分别获取到水平和垂直方向关键关节点轨迹的始末位置连接向量坐标为(x,y)和(x’,y’),利用所述偏转角度测量单元测量关键关节点的整体移动轨迹偏转角度:根据下列公式计算水平方向的关键关节点在水平方向上的偏转角度α:
Figure BDA0003474173630000041
根据下列公式计算垂直方向的关键关节点在竖直方向上的偏转角度β:
Figure BDA0003474173630000042
将关键关节点的整体移动轨迹偏转角度传输到所述移动方向预测单元中。
进一步的,利用所述移动方向预测单元预测儿童的移动方向:若Xmax>0&α<90°或Xmax<0&α>90°,预测儿童往攀爬网水平方向的危险区域移动;若Xmax>0&α>90°或Xmax<0&α<90°,预测儿童往攀爬网水平方向危险区域的相反方向移动;若Ymax>0&β<90°或Ymax<0&β>90°,预测儿童往攀爬网垂直方向的危险区域移动;若Ymax>0&β>90°或Ymax<0&β<90°,预测儿童往攀爬网垂直方向危险区域的相反方向移动,在预测到儿童往危险区域移动时,利用所述语音提醒单元发送警报信号至所述安全防卫终端,利用所述危险频次统计单元统计到预测结果中儿童处于或前往对应危险区域次数为W,设置危险次数阈值为W,若W>W,说明危险次数超出阈值,利用所述语音提醒单元通知安全防卫人员对对应区域进行安全加固,偏转角度都是相对于正方向的偏转角度,通过儿童关键关节点的变化轨迹获取儿童攀爬的整体方向、计算关键关节点在水平和竖直方向上的偏转角度的目的在于预测儿童是否正在靠近危险区域,以便提前提醒安全防卫人员,让儿童到网中央玩耍,避免从危险区域摔下,从一个节点变化预测到整体动作变化,通过局部变化推测整体,减轻了行为识别工作难度。
与现有技术相比,本发明所达到的有益效果是:
本发明通过深度相机拍摄获取儿童在攀爬网上的图像,通过双流卷积神经网络识别算法识别图像:结合深度图和骨骼能量图建立了双流卷积神经网络模型,丰富了提取的特征信息,卷积神经网络可直接输入经过简单预处理后的图像并提取特征,输出识别分类结果,使用Softmax归一化在多分类任务下生成样本属于各类别的概率,提高了儿童攀爬动作识别的正确率;提取儿童的骨骼关节点数据,通过儿童的骨骼关节点与攀爬网的相对距离衡量儿童当前是否处于攀爬网的危险区域中以进行静态行为识别,获取关键关节点,通过儿童关键关节点的变化轨迹获取儿童攀爬的整体方向,从一个节点变化预测到整体动作变化,通过局部变化推测整体,减轻了行为识别工作难度,帮助安全防卫人员及时提醒儿童到网中央玩耍,避免从危险区域摔下,提高了攀爬安全性。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1是本发明基于深度学习的视频行为识别安防***的结构图;
图2是本发明基于深度学习的视频行为识别安防***的模块组成图;
图3是本发明基于深度学习的视频行为识别安防***的行为识别流程图。
具体实施方式
以下结合附图对本发明的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本发明,并不用于限定本发明。
请参阅图1-3,本发明提供技术方案:基于深度学习的视频行为识别安防***,其特征在于:***包括:图像采集处理模块、目标图像获取模块、***管理中心、静态分析模块、动态趋势预测模块、危险警报模块和安全防卫终端;
图像采集处理模块利用深度相机获取儿童在攀爬网上的实时图像,通过卷积神经网络识别算法识别图像;将对应图像及其识别结果输出至目标图像获取模块,目标图像获取模块用于获取儿童骨骼关节点二维图像;静态分析模块用于对关节点进行定位,通过支持向量机分析提取儿童至攀爬网边缘的相对距离;动态趋势预测模块用于获取部分关键关节点,依据部分关键关节点在图像中的变化轨迹预测儿童的攀爬移动方向;危险警报模块用于在预测到儿童有坠落可能时通过危险警报器发出警报信号;安全防卫终端用于接收警报信号并进行安全防卫。
图像采集处理模块包括图像获取单元、主处理单元和图像识别输出单元,图像获取单元用于获取深度相机拍摄的儿童攀爬深度图;主处理单元用于利用卷积网络识别算法对图像进行识别;图像识别输出单元用于输出处理后的图像至目标图像处理模块。
目标图像获取模块包括骨骼数据提取单元、攀爬网建模单元和关节点投影单元,骨骼数据提取单元用于提取图像中儿童的骨骼关节点数据;攀爬网建模单元用于以攀爬网为中心建立二维坐标系;关节点投影单元用于通过透视投影相机将关节点投影到二维模型中,获取儿童骨骼关节点在模型中的二维图像。
静态分析模块包括关节点定位单元和相对距离提取单元,关节点定位单元用于获取二维模型中的骨骼关节点位置坐标;相对距离提取单元用于依据整体关节点坐标分析提取儿童到攀爬网边缘的相对距离。
动态趋势预测模块包括关键关节点分析单元、偏转角度测量单元和移动方向预测单元,关键关节点分析单元用于在相对距离安全前提下,依据相对距离获取关键关节点,关键关节点为离攀爬网边缘最近的一侧关节点;偏转角度测量单元用于测量单个关节点的整体移动轨迹偏转角度;移动方向预测单元用于依据偏转角度预测儿童的整体移动方向;危险警报模块包括坠落危险预测单元和语音提醒单元,坠落危险预测单元用于依据预测数据分析儿童是否有坠落攀爬网的危险;在预测到有危险时利用语音提醒单元提醒安全防卫人员对儿童进行安全防护,安全防卫人员在接收到提醒信息后前往图像中的儿童所在位置查看儿童情况:若儿童未从危险区域坠落但处于危险区域中,提醒儿童到攀爬网中央玩耍;若儿童从危险区域坠落,及时查看儿童身体,处理异常情况;将预测结果传输到***管理中心中,***管理中心包括危险频次统计单元,通过危险频次统计单元统计预测结果中儿童处于或前往对应危险区域次数,设置危险次数阈值,将统计结果传输到语音提醒单元,当儿童处于或前往对应危险区域次数超出阈值时,利用语音提醒单元通知安全防卫人员对对应区域进行安全加固。
利用卷积网络识别算法对图像进行识别,包括以下步骤:
S1:在采集的图像中获取儿童骨骼动作序列;
S2:将该序列可视化为一系列骨骼彩色图,将骨骼彩色图叠加得到骨骼能量图;
S3:使用卷积神经网络模型从骨骼能量图和深度图两组通道的图像中提取攀爬动作的时空特征。
在步骤S3中:建立多重卷积神经网络模型,输入序列Im,获得一系列彩色图像集合为
Figure BDA0003474173630000061
Figure BDA0003474173630000062
将每个图像标准化为N×N像素,对所有输入图像采用均值去除,然后每个彩色图像由CNN处理,对于图像/>
Figure BDA0003474173630000071
输出Yc后,根据公式:
Figure BDA0003474173630000072
进行归一化后获得后验概率,其中,l表示第l个动作类别,L表示动作类别总数,根据类分数公式
Figure BDA0003474173630000073
获得所有CNN输出的平均值,prob(l|lc)表示图像
Figure BDA0003474173630000074
属于第l个动作类别的概率,L个动作类别被存储在***管理中心中,依据所有CNN输出的平均值判断图像/>
Figure BDA0003474173630000075
属于的动作类别,与***管理中心中存储的动作类别进行匹配,提取攀爬动作的时空特征,匹配后输出图像及其特征,CNN指卷积神经网络,结合深度图和骨骼能量图建立了双流卷积神经网络模型,丰富了提取的特征信息,卷积神经网络可直接输入经过简单预处理后的图像并提取特征,输出识别分类结果,使用Softmax归一化在多分类任务下生成样本属于各类别的概率,能够有效提高对儿童攀爬动作识别的正确率。
利用骨骼数据提取单元提取图像中儿童的骨骼关节点数据,利用攀爬网建模单元以攀爬网中心为原点建立二维坐标系,获取到攀爬网的长度为a,宽度为b,设定水平方向的危险区域为距攀爬网中心大于a的区域,垂直方向的危险区域为距攀爬网中心大于b的区域,通过关节点投影单元将关节点投影到二维坐标系中,利用关节点定位单元获取到儿童骨骼关节点的位置坐标集合为(X,Y)={(X1,Y1),(X2,Y2),...,(Xn,Yn)},筛选出横坐标绝对值最大的关节点,关节点坐标为(Xmax,Yj),比较a和Xmax:若|Xmax|<a,判断儿童未进入水平方向的危险区域;若|Xmax|≥a,判断儿童已进入水平方向的危险区域;筛选出纵坐标绝对值最大的关节点,关节点坐标为(Xi,Ymax),比较b和Ymax:若|Ymax|<b,判断儿童未进入垂直方向的危险区域;若|Ymax|≥b,判断儿童已进入垂直方向的危险区域,在判断出儿童已进入危险区域后,发送语音提醒信息至安全防卫终端,通过儿童的骨骼关节点与攀爬网的相对距离衡量儿童当前是否处于攀爬网的危险区域中,进行静态行为识别,目的在于帮助及时提醒安全防卫人员危险情况,以达到对儿童进行安全监控的目标,同时为后续预测儿童移动方向提供关键关节点位置,便于对儿童进行动态安全监测。
在判断儿童未进入攀爬网上的危险区域时,将坐标为(Xmax,Yj)的关节点作为水平方向的关键关节点,将坐标为(Xi,Ymax)的关节点作为垂直方向的关键关节点,利用关键关节点分析单元获取对应关键关节点的移动变化轨迹,分别获取到水平和垂直方向关键关节点轨迹的始末位置连接向量坐标为(x,y)和(x’,y’),利用偏转角度测量单元测量关键关节点的整体移动轨迹偏转角度:根据下列公式计算水平方向的关键关节点在水平方向上的偏转角度α:
Figure BDA0003474173630000081
根据下列公式计算垂直方向的关键关节点在竖直方向上的偏转角度β:
Figure BDA0003474173630000082
将关键关节点的整体移动轨迹偏转角度传输到移动方向预测单元中。
利用移动方向预测单元预测儿童的移动方向:若Xmax>0&α<90°或Xmax<0&α>90°,预测儿童往攀爬网水平方向的危险区域移动;若Xmax>0&α>90°或Xmax<0&α<90°,预测儿童往攀爬网水平方向危险区域的相反方向移动;若Ymax>0&β<90°或Ymax<0&β>90°,预测儿童往攀爬网垂直方向的危险区域移动;若Ymax>0&β>90°或Ymax<0&β<90°,预测儿童往攀爬网垂直方向危险区域的相反方向移动,在预测到儿童往危险区域移动时,利用语音提醒单元发送警报信号至安全防卫终端,利用危险频次统计单元统计到预测结果中儿童处于或前往对应危险区域次数为W,设置危险次数阈值为W,若W>W,说明危险次数超出阈值,利用语音提醒单元通知安全防卫人员对对应区域进行安全加固,偏转角度都是相对于正方向的偏转角度,通过儿童关键关节点的变化轨迹获取儿童攀爬的整体方向、计算关键关节点在水平和竖直方向上的偏转角度的目的在于预测儿童是否正在靠近危险区域,以便提前提醒安全防卫人员,让儿童到网中央玩耍,避免从危险区域摔下,从一个节点变化预测到整体动作变化,通过局部变化推测整体,有效地减轻了行为识别工作难度。
实施例一:利用骨骼数据提取单元提取图像中儿童的骨骼关节点数据,利用攀爬网建模单元以攀爬网中心为原点建立二维坐标系,获取到攀爬网的长度为a=2,宽度为b=1.5,单位为:米,设定水平方向的危险区域为距攀爬网中心大于a=0.6的区域,垂直方向的危险区域为距攀爬网中心大于b=0.47的区域,通过关节点投影单元将关节点投影到二维坐标系中,利用关节点定位单元获取到儿童骨骼关节点的位置坐标集合为(X,Y)={(X1,Y1),(X2,Y2),(X3,Y3),(X4,Y4),(X5,Y5)}={(0,0.4),(0.1,0.3),(0,0.2),(0.4,0),(0.5,0.2)},筛选出横坐标绝对值最大的关节点,关节点坐标为(Xmax,Yj)=(0.5,0.2),比较a和Xmax:|Xmax|<a,判断儿童未进入水平方向的危险区域;筛选出纵坐标绝对值最大的关节点,关节点坐标为(Xi,Ymax)=(0,0.4),比较b和Ymax:|Ymax|<b,,判断儿童未进入垂直方向的危险区域。
实施例二:在判断儿童未进入攀爬网上的危险区域时,将坐标为(Xmax,Yj)=(0.5,0.2)的关节点作为水平方向的关键关节点,将坐标为(Xi,Ymax)=(0,0.4)的关节点作为垂直方向的关键关节点,利用关键关节点分析单元获取对应关键关节点的移动变化轨迹,分别获取到水平和垂直方向关键关节点轨迹的始末位置连接向量坐标为(x,y)=(-0.3,-0.2),和(x’,y’)=(0.2,-0.1),利用偏转角度测量单元测量关键关节点的整体移动轨迹偏转角度:根据公式
Figure BDA0003474173630000091
计算水平方向的关键关节点在水平方向上的偏转角度α≈146°,根据公式/>
Figure BDA0003474173630000092
计算垂直方向的关键关节点在竖直方向上的偏转角度β≈117°,将关键关节点的整体移动轨迹偏转角度传输到移动方向预测单元中,利用移动方向预测单元预测儿童的移动方向:Xmax>0&α>90°,预测儿童往攀爬网水平方向危险区域的相反方向移动;Ymax>0&β>90°,预测儿童往攀爬网垂直方向危险区域的相反方向移动。
最后应说明的是:以上所述仅为本发明的优选实例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (7)

1.基于深度学习的视频行为识别安防***,其特征在于:所述***包括:图像采集处理模块、目标图像获取模块、***管理中心、静态分析模块、动态趋势预测模块、危险警报模块和安全防卫终端;
所述图像采集处理模块利用深度相机获取儿童在攀爬网上的实时图像,通过卷积神经网络识别算法识别图像;将对应图像及其识别结果输出至所述目标图像获取模块,所述目标图像获取模块用于获取儿童骨骼关节点二维图像;所述静态分析模块用于对关节点进行定位,分析提取儿童至攀爬网边缘的相对距离;所述动态趋势预测模块用于获取部分关键关节点,依据部分关键关节点在图像中的变化轨迹预测儿童的攀爬移动方向;所述危险警报模块用于在预测到儿童有坠落可能时发出警报信号;所述安全防卫终端用于接收警报信号并进行安全防卫;
所述图像采集处理模块包括图像获取单元、主处理单元和图像识别输出单元,所述图像获取单元用于获取深度相机拍摄的儿童攀爬深度图;所述主处理单元用于利用卷积网络识别算法对图像进行识别;所述图像识别输出单元用于输出处理后的图像至所述目标图像处理模块;
所述利用卷积网络识别算法对图像进行识别,包括以下步骤:
S1:在采集的图像中获取儿童骨骼动作序列;
S2:将该序列可视化为一系列骨骼彩色图,将骨骼彩色图叠加得到骨骼能量图;
S3:使用卷积神经网络模型从骨骼能量图和深度图两组通道的图像中提取攀爬动作的时空特征;
在步骤S3中:建立多重卷积神经网络模型,输入序列Im,获得一系列彩色图像集合为
Figure FDA0004209487380000011
将每个图像标准化为N×N像素,对所有输入图像采用均值去除,然后每个彩色图像由CNN处理,对于图像/>
Figure FDA0004209487380000012
输出Yc后,根据公式:
Figure FDA0004209487380000021
进行归一化后获得后验概率,其中,l表示第l个动作类别,L表示动作类别总数,根据类分数公式
Figure FDA0004209487380000022
获得所有CNN输出的平均值,prob(l|lc)表示图像/>
Figure FDA0004209487380000023
属于第l个动作类别的概率,L个动作类别被存储在所述***管理中心中,依据所有CNN输出的平均值判断图像/>
Figure FDA0004209487380000024
属于的动作类别,与所述***管理中心中存储的动作类别进行匹配,提取攀爬动作的时空特征,匹配后输出图像及其特征。
2.根据权利要求1所述的基于深度学习的视频行为识别安防***,其特征在于:所述目标图像获取模块包括骨骼数据提取单元、攀爬网建模单元和关节点投影单元,所述骨骼数据提取单元用于提取图像中儿童的骨骼关节点数据;所述攀爬网建模单元用于以攀爬网为中心建立二维坐标系;所述关节点投影单元用于将关节点投影到二维模型中,获取儿童骨骼关节点在模型中的二维图像。
3.根据权利要求2所述的基于深度学习的视频行为识别安防***,其特征在于:所述静态分析模块包括关节点定位单元和相对距离提取单元,所述关节点定位单元用于获取二维模型中的骨骼关节点位置坐标;所述相对距离提取单元用于依据整体关节点坐标分析提取儿童到攀爬网边缘的相对距离。
4.根据权利要求1所述的基于深度学习的视频行为识别安防***,其特征在于:所述动态趋势预测模块包括关键关节点分析单元、偏转角度测量单元和移动方向预测单元,所述关键关节点分析单元用于在相对距离安全前提下,依据相对距离获取关键关节点,关键关节点为离攀爬网边缘最近的一侧关节点;所述偏转角度测量单元用于测量单个关节点的整体移动轨迹偏转角度;所述移动方向预测单元用于依据偏转角度预测儿童的整体移动方向;所述危险警报模块包括坠落危险预测单元和语音提醒单元,所述坠落危险预测单元用于依据预测数据分析儿童是否有坠落攀爬网的危险,在预测到有危险时利用所述语音提醒单元提醒安全防卫人员对对应儿童进行安全防护,将预测结果传输到所述***管理中心中,所述***管理中心包括危险频次统计单元,通过所述危险频次统计单元统计预测结果中儿童处于或前往对应危险区域次数,设置危险次数阈值,将统计结果传输到所述语音提醒单元,当儿童处于或前往对应危险区域次数超出阈值时,利用所述语音提醒单元通知安全防卫人员对对应区域进行安全加固。
5.根据权利要求3所述的基于深度学***方向的危险区域为距攀爬网中心大于a的区域,垂直方向的危险区域为距攀爬网中心大于b的区域,通过所述关节点投影单元将关节点投影到二维坐标系中,利用所述关节点定位单元获取到儿童骨骼关节点的位置坐标集合为(X,Y)={(X1,Y1),(X2,Y2),...,(Xn,Yn)},筛选出横坐标绝对值最大的关节点,关节点坐标为(Xmax,Yj),比较a和Xmax:若Xmax|<a,判断儿童未进入水平方向的危险区域;若|Xmax|≥a,判断儿童已进入水平方向的危险区域;筛选出纵坐标绝对值最大的关节点,关节点坐标为(Xi,Ymax),比较b和Ymax:若|Ymax|≥b,判断儿童未进入垂直方向的危险区域;若|Ymax|<b,判断儿童已进入垂直方向的危险区域,在判断出儿童已进入危险区域后,发送语音提醒信息至所述安全防卫终端。
6.根据权利要求4所述的基于深度学***方向的关键关节点,将坐标为(Xi,Ymax)的关节点作为垂直方向的关键关节点,利用所述关键关节点分析单元获取对应关键关节点的移动变化轨迹,分别获取到水平和垂直方向关键关节点轨迹的始末位置连接向量坐标为(x,y)和(x’,y’),利用所述偏转角度测量单元测量关键关节点的整体移动轨迹偏转角度:根据下列公式计算水平方向的关键关节点在水平方向上的偏转角度α:
Figure FDA0004209487380000041
根据下列公式计算垂直方向的关键关节点在竖直方向上的偏转角度β:
Figure FDA0004209487380000042
将关键关节点的整体移动轨迹偏转角度传输到所述移动方向预测单元中。
7.根据权利要求6所述的基于深度学***方向的危险区域移动;若Xmax>0&α>90°或Xmax<0&α<90°,预测儿童往攀爬网水平方向危险区域的相反方向移动;若Ymax>0&β<90°或Ymax<0&β>90°,预测儿童往攀爬网垂直方向的危险区域移动;若Ymax>0&β>90°或Ymax<0&β<90°,预测儿童往攀爬网垂直方向危险区域的相反方向移动,在预测到儿童往危险区域移动时,利用所述语音提醒单元发送警报信号至所述安全防卫终端,利用所述危险频次统计单元统计到预测结果中儿童处于或前往对应危险区域次数为W,设置危险次数阈值为W,若W>W,说明危险次数超出阈值,利用所述语音提醒单元通知安全防卫人员对对应区域进行安全加固。
CN202210050744.9A 2022-01-17 2022-01-17 基于深度学习的视频行为识别安防*** Active CN114360209B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210050744.9A CN114360209B (zh) 2022-01-17 2022-01-17 基于深度学习的视频行为识别安防***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210050744.9A CN114360209B (zh) 2022-01-17 2022-01-17 基于深度学习的视频行为识别安防***

Publications (2)

Publication Number Publication Date
CN114360209A CN114360209A (zh) 2022-04-15
CN114360209B true CN114360209B (zh) 2023-06-23

Family

ID=81092265

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210050744.9A Active CN114360209B (zh) 2022-01-17 2022-01-17 基于深度学习的视频行为识别安防***

Country Status (1)

Country Link
CN (1) CN114360209B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
PL442060A1 (pl) * 2022-08-22 2024-02-26 Politechnika Warszawska Sposób i układ do monitorowania czynności życiowych niemowlaka podczas snu bazujący na sieci neuronowej
CN115862267B (zh) * 2022-12-01 2023-10-13 深圳市特区建发科技园区发展有限公司 一种基于人工智能的智慧物业预警提醒管理***及方法
CN115761902B (zh) * 2022-12-08 2023-07-21 厦门农芯数字科技有限公司 基于人体骨骼关节点识别的入口消毒识别方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN201820332U (zh) * 2010-07-29 2011-05-04 上海理工大学 能表明儿童处在危险位置的警示装置
CN102074095A (zh) * 2010-11-09 2011-05-25 无锡中星微电子有限公司 幼儿行为监控***及方法
JP2017046209A (ja) * 2015-08-27 2017-03-02 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム
CN106874863A (zh) * 2017-01-24 2017-06-20 南京大学 基于深度卷积神经网络的车辆违停逆行检测方法
JP2018067203A (ja) * 2016-10-20 2018-04-26 学校法人 埼玉医科大学 危険報知装置及び危険報知方法、並びに危険報知装置の校正方法
CN108830252A (zh) * 2018-06-26 2018-11-16 哈尔滨工业大学 一种融合全局时空特征的卷积神经网络人体动作识别方法
CN109949540A (zh) * 2019-04-03 2019-06-28 合肥科塑信息科技有限公司 一种人工智能预警***
CN111815898A (zh) * 2019-04-12 2020-10-23 易程(苏州)电子科技股份有限公司 一种幼儿行为监控报警***及方法
CN111968343A (zh) * 2020-08-25 2020-11-20 方艳梅 一种室内婴幼儿安全防护***

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN201820332U (zh) * 2010-07-29 2011-05-04 上海理工大学 能表明儿童处在危险位置的警示装置
CN102074095A (zh) * 2010-11-09 2011-05-25 无锡中星微电子有限公司 幼儿行为监控***及方法
JP2017046209A (ja) * 2015-08-27 2017-03-02 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP2018067203A (ja) * 2016-10-20 2018-04-26 学校法人 埼玉医科大学 危険報知装置及び危険報知方法、並びに危険報知装置の校正方法
CN106874863A (zh) * 2017-01-24 2017-06-20 南京大学 基于深度卷积神经网络的车辆违停逆行检测方法
CN108830252A (zh) * 2018-06-26 2018-11-16 哈尔滨工业大学 一种融合全局时空特征的卷积神经网络人体动作识别方法
CN109949540A (zh) * 2019-04-03 2019-06-28 合肥科塑信息科技有限公司 一种人工智能预警***
CN111815898A (zh) * 2019-04-12 2020-10-23 易程(苏州)电子科技股份有限公司 一种幼儿行为监控报警***及方法
CN111968343A (zh) * 2020-08-25 2020-11-20 方艳梅 一种室内婴幼儿安全防护***

Also Published As

Publication number Publication date
CN114360209A (zh) 2022-04-15

Similar Documents

Publication Publication Date Title
CN114360209B (zh) 基于深度学习的视频行为识别安防***
CN110765964B (zh) 基于计算机视觉的电梯轿厢内异常行为的检测方法
CN109298785A (zh) 一种监测设备的人机联控***及方法
CN108062349A (zh) 基于视频结构化数据及深度学习的视频监控方法和***
CN112287891B (zh) 基于表情行为特征提取的通过视频评估学习专注力的方法
CN110781771A (zh) 一种基于深度学习的异常行为实时监测方法
CN111062303A (zh) 图像处理方法、***及计算机存储介质
CN110287825A (zh) 一种基于关键骨骼点轨迹分析的摔倒动作检测方法
CN110633643A (zh) 一种面向智慧社区的异常行为检测方法及***
CN112183438B (zh) 基于小样本学习神经网络的违规行为的图像识别方法
CN115223246A (zh) 一种人员违规行为识别方法、装置、设备及存储介质
CN115482580A (zh) 一种基于机器视觉骨骼追踪术的多人评测***
CN114187664B (zh) 一种基于人工智能的跳绳计数***
CN115273150A (zh) 基于人体姿态估计的安全帽佩戴的新型识别方法及***
CN115841497B (zh) 分界线的检测方法、电动扶梯区域入侵检测方法和***
CN116893386A (zh) 基于深度学习图像识别的电能表装接工艺检测装置及方法
CN114264239B (zh) 一种运动平台激光校准***
CN111695404A (zh) 行人跌倒检测方法、装置、电子设备及存储介质
CN113536950A (zh) 一种基于人工智能的人员触电检测方法和***
CN114663835A (zh) 一种行人跟踪方法、***、设备及存储介质
CN112446355A (zh) 一种公共场所行人识别方法及人流统计***
CN112822460B (zh) 一种台球比赛视频监控方法及***
CN110502992A (zh) 一种基于关系图谱的固定场景视频的人脸快速识别方法
CN113408434B (zh) 一种智能监控的表情识别方法、装置、设备和存储介质
CN115601714B (zh) 基于多模态数据分析的校园暴力行为识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant