CN114005105B - 驾驶行为检测方法、装置以及电子设备 - Google Patents
驾驶行为检测方法、装置以及电子设备 Download PDFInfo
- Publication number
- CN114005105B CN114005105B CN202111638230.7A CN202111638230A CN114005105B CN 114005105 B CN114005105 B CN 114005105B CN 202111638230 A CN202111638230 A CN 202111638230A CN 114005105 B CN114005105 B CN 114005105B
- Authority
- CN
- China
- Prior art keywords
- human body
- image
- driver
- key point
- driving behavior
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24147—Distances to closest patterns, e.g. nearest neighbour classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
Abstract
本申请提供了一种驾驶行为检测方法、装置以及电子设备,涉及安防监控技术领域,缓解了检测异常驾驶行为的精确度较低的技术问题。该方法包括:获取主驾驶车窗图像;其中,所述主驾驶车窗图像中包含驾驶员;通过指定CPN卷积神经网络对所述主驾驶车窗图像中所述驾驶员的人体关键点进行提取,得到人体关键点坐标;基于所述人体关键点坐标确定驾驶行为特征数据;其中,所述驾驶行为特征数据用于表征所述驾驶员的驾驶行为;根据所述驾驶行为特征数据通过训练后的FD‑KNN判别模型检测所述驾驶员是否存在异常驾驶行为,得到异常驾驶行为检测结果。
Description
技术领域
本申请涉及安防监控技术领域,尤其是涉及一种驾驶行为检测方法、装置以及电子设备。
背景技术
目前,随着科技的进步,社会的发展,汽车在人们生活中占了很大的比重,成了人们方便的代步工具。与此同时,驾驶员不规范驾驶导致了大量的不必要的交通事故,成了威胁人们生命的一个重要方面。但是,目前现有的方法检测出的异常驾驶行为的精确度较低,很容易使异常驾驶行为的检测结果出现错误。
发明内容
本发明的目的在于提供一种驾驶行为检测方法、装置以及电子设备,以缓解检测异常驾驶行为的精确度较低的技术问题。
第一方面,本申请实施例提供了一种驾驶行为检测方法,所述方法包括:
获取主驾驶车窗图像;其中,所述主驾驶车窗图像中包含驾驶员;
通过指定姿态估计(Cascaded Pyramid Network for Multi-Person PoseEstimation,CPN)卷积神经网络对所述主驾驶车窗图像中所述驾驶员的人体关键点进行提取,得到人体关键点坐标;
基于所述人体关键点坐标确定驾驶行为特征数据;其中,所述驾驶行为特征数据用于表征所述驾驶员的驾驶行为;
根据所述驾驶行为特征数据通过训练后的k近邻检测(FD-KNN)判别模型检测所述驾驶员是否存在异常驾驶行为,得到异常驾驶行为检测结果。
在一个可能的实现中,所述获取主驾驶车窗图像的步骤,包括:
获取交通监控图像;
利用YOLOV5(单阶段图像检测算法)目标检测算法从所述交通监控图像中获取主驾驶车窗图像。
在一个可能的实现中,所述利用YOLOV5目标检测算法从所述交通监控图像中获取主驾驶车窗图像的步骤,包括:
对所述交通监控图像中的目标车辆进行跟踪,并将跟踪到的所述目标车辆的图像转化为灰度图像;
将所述灰度图像的尺寸缩放至指定尺寸,并通过以下算法计算所述指定尺寸下的所述灰度图像中每个像素点的二阶导数:
计算所有所述像素点的所述二阶导数的方差,如果所述方差大于预设阈值则确定为最优帧的主驾驶车窗图像,若所述方差未超过所述预设阈值则确定不为最优帧的主驾驶车窗图像;
将所述最优帧的主驾驶车窗图像确认为待检测的主驾驶车窗图像。
在一个可能的实现中,所述交通监控图像为通过热感摄像头采集到的图像,所述主驾驶车窗图像包含热成像图像;在所述通过指定CPN卷积神经网络对所述主驾驶车窗图像中所述驾驶员的人体关键点进行提取,得到人体关键点坐标的步骤之后,还包括:
从所述人体关键点坐标中确定所述驾驶员的人体头部对应的第一人体关键点坐标;
通过所述热成像图像确定所述第一人体关键点坐标周围预设范围内的第一温度;
如果所述第一温度大于预设温度,和/或,所述第一温度和第二人体关键点坐标处的第二温度之间的温度差大于预设温差,则确定所述驾驶员存在异常驾驶行为;其中,所述第二人体关键点坐标为所述驾驶员上除所述人体头部以外其它人体部位对应的人体关键点坐标;
基于所述交通监控图像通过车牌号识别和/或人脸识别确定所述驾驶员的目标身份,并从多个预设通讯方式中确定所述目标身份对应的目标预设通讯方式;
通过所述目标预设通讯方式发出异常驾驶行为的语音提示。
在一个可能的实现中,在所述通过指定CPN卷积神经网络对所述主驾驶车窗图像中所述驾驶员的人体关键点进行提取,得到人体关键点坐标的步骤之前,还包括:
对初始CPN卷积神经网络中加入卷积注意力机制模块(Convolutional BlockAttention Module,CBAM),得到所述指定CPN卷积神经网络;
其中,所述卷积注意力机制模块包含通道注意力子模块和空间注意力子模块;所述通道注意力子模块用于通过池化操作学***均池化进入全连接层进行学***均池化的结果按照指定维度进行拼接,基于拼接结果通过卷积生成空间注意力机制。
在一个可能的实现中,所述基于所述人体关键点坐标确定驾驶行为特征数据的步骤,包括:
对任意两个所述人体关键点坐标之间的距离进行计算,得到至少一个关键点距离;
对所述驾驶员的人体肩部以及人体腕部对应的第三人体关键点坐标处对应的肩部弯曲角度以及腕部弯曲角度进行计算,得到关键点角度;
将所述关键点距离和所述关键点角度确定为用于表征驾驶行为的驾驶行为特征数据。
在一个可能的实现中,在所述根据所述驾驶行为特征数据通过训练后的FD-KNN判别模型检测所述驾驶员是否存在异常驾驶行为,得到异常驾驶行为检测结果的步骤之前,还包括:
获取正常驾驶图像,并将所述正常驾驶图像作为正样本;
利用所述正样本对初始FD-KNN判别模型进行训练,得到所述训练后的FD-KNN判别模型;
其中,所述训练后的FD-KNN判别模型中包含指定阈值,用于在待检测样本与邻域样本之间距离的平方和超过所述指定阈值时确定所述待检测样本中存在异常驾驶行为。
第二方面,提供了一种驾驶行为检测装置,包括:
获取单元,用于获取主驾驶车窗图像;其中,所述主驾驶车窗图像中包含驾驶员;
提取单元,用于通过指定CPN卷积神经网络对所述主驾驶车窗图像中所述驾驶员的人体关键点进行提取,得到人体关键点坐标;
确定单元,用于基于所述人体关键点坐标确定驾驶行为特征数据;其中,所述驾驶行为特征数据用于表征所述驾驶员的驾驶行为;
检测单元,用于根据所述驾驶行为特征数据通过训练后的FD-KNN判别模型检测所述驾驶员是否存在异常驾驶行为,得到异常驾驶行为检测结果。
第三方面,本申请实施例又提供了一种电子设备,包括存储器、处理器,所述存储器中存储有可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述的第一方面所述方法。
本申请实施例带来了以下有益效果:
本申请实施例提供的一种驾驶行为检测方法、装置以及电子设备,能够获取主驾驶车窗图像,其中的主驾驶车窗图像中包含驾驶员,通过指定CPN卷积神经网络对主驾驶车窗图像中驾驶员的人体关键点进行提取,得到人体关键点坐标,基于人体关键点坐标确定驾驶行为特征数据;其中,驾驶行为特征数据用于表征驾驶员的驾驶行为,根据驾驶行为特征数据通过训练后的FD-KNN判别模型检测驾驶员是否存在异常驾驶行为,得到异常驾驶行为检测结果。本方案中,通过指定CPN卷积神经网络提取主驾驶车窗图像中驾驶员的人体关键点坐标,再基于人体关键点坐标确定驾驶行为特征数据,根据驾驶行为特征数据通过训练后的FD-KNN判别模型能够更加精确且高效的检测出驾驶员是否存在异常驾驶行为,利用指定CPN卷积神经网络、人体关键点坐标、训练后的FD-KNN判别模型等使检测异常驾驶行为的精确度以及检测效率得到提高,不仅提高了异常驾驶行为的检测效率,还缓解了检测异常驾驶行为的精确度较低的技术问题。
为使本申请的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本申请具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的驾驶行为检测方法的流程示意图;
图2为本申请实施例提供的驾驶行为检测方法的另一流程示意图;
图3为本申请实施例提供的驾驶行为检测方法中,驾驶员的人体关键点提取的一个示例;
图4为本申请实施例提供的一种驾驶行为检测装置的结构示意图;
图5示出了本申请实施例所提供的一种电子设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合附图对本申请的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请实施例中所提到的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、***、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括其他没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
目前,驾驶员不规范驾驶导致了大量的不必要的交通事故,成了威胁人们生命的一个重要方面。目前现有的方法需要大量标注样本,且异常驾驶行为样本搜集困难,需耗费大量的人力物力。因此需要一种无监督的方式来解决此问题。而且,目前现有的方法检测出的异常驾驶行为的精确度较低,很容易使异常驾驶行为的检测结果出现错误。
基于此,本申请实施例提供了一种驾驶行为检测方法、装置以及电子设备,通过该方法可以缓解检测异常驾驶行为的精确度较低的技术问题。
下面结合附图对本发明实施例进行进一步地介绍。
图1为本申请实施例提供的一种驾驶行为检测方法的流程示意图。其中,该方法可以应用于计算机设备。如图1所示,该方法包括:
步骤S110,获取主驾驶车窗图像。
其中,主驾驶车窗图像中包含驾驶员。
对于主驾驶车窗图像,可以从监控图像中获取,如通过道路交通卡口***拍摄的图片获取主驾驶车窗图像。示例性的,如图2所示,获取道路交通高清监控视频,对视频内的车辆进行目标跟踪,选择最优帧图像获取主驾驶车窗图像信息。
步骤S120,通过指定CPN卷积神经网络对主驾驶车窗图像中驾驶员的人体关键点进行提取,得到人体关键点坐标。
其中,驾驶行为特征数据用于表征驾驶员的驾驶行为。本步骤中,可以通过车窗图像采用指定CPN卷积神经网络得到驾驶员关键点坐标。例如,如图2所示,在获取主驾驶车窗图像信息后提取驾驶行为关键点。
步骤S130,基于人体关键点坐标确定驾驶行为特征数据。
例如,如图2所示,通过驾驶员关键点坐标挖掘表征驾驶行为的特征。对于提取的驾驶员人体关键点图的过程,示例性的,对检测到的颈部,肩部、腕部、手部信息,其对应的关键点如图3中的关键点1、关键点2、关键点3、关键点4、关键点5、关键点6和关键点7所示,然后可以确定各关键点之间的关系。例如,计算两个关键点之间的距离值,并计算关键点2、关键点3、关键点4、关键点5对应的角度值,以提取表征驾驶行为的关键特征,即角度值以及两个关键点之间的距离值。
步骤S140,根据驾驶行为特征数据通过训练后的FD-KNN判别模型检测驾驶员是否存在异常驾驶行为,得到异常驾驶行为检测结果。
例如,使用正常驾驶图像训练FD-KNN判别器,即使用FD-KNN建模训练,通过FD-KNN模型判断驾驶员是否存在异常驾驶行为。本步骤中,能够通过FD-KNN模型判断驾驶员是否存在异常驾驶行为,如是否驾驶同时接打电话、玩手机驾驶等,即通过FD-KNN判别器输出最终的检测结果。
本申请实施例中提供的方法可以作为一种基于人体关键点的驾驶员异常驾驶行为检测方法,通过指定CPN卷积神经网络提取主驾驶车窗图像中驾驶员的人体关键点坐标,再基于人体关键点坐标确定驾驶行为特征数据,根据驾驶行为特征数据通过训练后的FD-KNN判别模型能够更加精确的检测出驾驶员是否存在异常驾驶行为,利用指定CPN卷积神经网络、人体关键点、训练后的FD-KNN判别模型等使检测异常驾驶行为的精确度得到提高,缓解了检测异常驾驶行为的精确度较低的技术问题。
下面对上述步骤进行详细介绍。
在一些实施例中,上述步骤S110可以包括如下步骤:
步骤a),获取交通监控图像;
步骤b),利用YOLOV5目标检测算法从交通监控图像中获取主驾驶车窗图像。
示例性的,可以先获取城市交通高清监控视频,通过城市交通卡口***拍摄的图片,使用YOLOV5目标检测算法获取主驾驶车窗图像。通过YOLOV5目标检测算法能够更加准确且精确的从交通监控图像中获取主驾驶车窗图像。
基于上述步骤a)和步骤b),上述步骤b)可以包括如下步骤:
步骤c),对交通监控图像中的目标车辆进行跟踪,并将跟踪到的目标车辆的图像转化为灰度图像;
步骤d),将灰度图像的尺寸缩放至指定尺寸,并通过以下算法计算指定尺寸下的灰度图像中每个像素点的二阶导数:
步骤e),计算所有像素点的二阶导数的方差,如果方差大于预设阈值则确定为最优帧的主驾驶车窗图像,若方差未超过预设阈值则确定不为最优帧的主驾驶车窗图像;
步骤f),将最优帧的主驾驶车窗图像确认为待检测的主驾驶车窗图像。
在实际应用中,可以获取城市交通高清监控视频,对视频内的车辆进行目标跟踪,选择最优帧图像获取主驾驶车窗图像信息。最优帧选择方式可以包括如下过程:将跟踪到的目标转化为灰度图像,然后灰度图像缩放到固定的长宽,计算每个像素点的二阶导数,计算方法如下:
通过上述步骤c)至步骤f)的转化灰度图像、二阶导数计算、方差对比等过程,能够更加高效且精确的确定出最优帧的主驾驶车窗图像。
基于上述步骤a)和步骤b),交通监控图像为通过热感摄像头采集到的图像,主驾驶车窗图像包含热成像图像;在上述步骤S120之后,该方法还可以包括以下步骤:
步骤g),从人体关键点坐标中确定驾驶员的人体头部对应的第一人体关键点坐标;
步骤k),通过热成像图像确定第一人体关键点坐标周围预设范围内的第一温度;
步骤l),如果第一温度大于预设温度,和/或,第一温度和第二人体关键点坐标处的第二温度之间的温度差大于预设温差,则确定驾驶员存在异常驾驶行为;其中,第二人体关键点坐标为驾驶员上除人体头部以外其它人体部位对应的人体关键点坐标;
步骤m),基于交通监控图像通过车牌号识别和/或人脸识别确定驾驶员的目标身份,并从多个预设通讯方式中确定目标身份对应的目标预设通讯方式;
步骤n),通过目标预设通讯方式发出异常驾驶行为的语音提示。
本申请实施例中,通过热成像图像、人体头部温度(即第一人体关键点坐标周围预设范围内的第一温度)对比等过程,不仅能够检测出人体头部异常状态下的精神力异常驾驶行为,使异常驾驶行为的检测更加全面,还能够通过车牌号识别、人脸识别、发出异常驾驶行为语音提示等过程更加及时有效的提醒驾驶员的精神力异常状态,以使驾驶员提前采取停止驾驶等措施,避免事故发生。
在一些实施例中,在步骤S120之前,该方法还可以包括以下步骤:
步骤o),对初始CPN卷积神经网络中加入卷积注意力机制模块,得到指定CPN卷积神经网络;
其中,卷积注意力机制模块包含通道注意力子模块和空间注意力子模块;通道注意力子模块用于通过池化操作学***均池化进入全连接层进行学***均池化的结果按照指定维度进行拼接,基于拼接结果通过卷积生成空间注意力机制。
在实际应用中,可以使用改进后的CPN网络提取人体的关键点。例如,改进后的CPN卷积神经网络加入卷积注意力机制模块(Convolutional Block Attention Module,CBAM),包括通道注意力和空间注意力两部分。通道注意力通过池化操作学***均池化进入全连接层进行学***均池化后,将二者按照第一维度进行拼接,之后通过一个大小为3×3的卷积,最终生成空间注意力。
其中,卷积神经网络中的卷积注意力机制模块(Convolutional Block AttentionModule,CBAM)表示卷积模块的注意力机制模块,是一种结合了空间(spatial)和通道(channel)的注意力机制模块。相比于senet只关注通道(channel)的注意力机制可以取得更好的效果。通过CBAM使卷积层输出的结果可以先通过一个通道注意力模块,得到加权结果之后,会再经过一个空间注意力模块,最终进行加权得到结果。
需要说明的是,通道注意力机制(Channel Attention Module)是将特征图在空间维度上进行压缩,得到一个一维矢量后再进行操作。在空间维度上进行压缩时,不仅考虑到了平均值池化(Average Pooling)还考虑了最大值池化(Max Pooling)。平均池化和最大池化可用来聚合特征映射的空间信息,送到一个共享网络,压缩输入特征图的空间维数,逐元素求和合并,以产生通道注意力图。单就一张图来说,通道注意力,关注的是这张图上哪些内容是有重要作用的。平均值池化对特征图上的每一个像素点都有反馈,而最大值池化在进行梯度反向传播计算时,只有特征图中响应最大的地方有梯度的反馈。
空间注意力机制(Spatial Attention Module)是对通道进行压缩,在通道维度分别进行了平均值池化和最大值池化。操作过程包括:在通道上提取最大值,提取的次数是高乘以宽;在通道上提取平均值,提取的次数也是高乘以宽;接着将前面所提取到的特征图(通道数都为1)合并得到一个2通道的特征图。
本申请实施例中,通过卷积注意力模块(CBAM)这种前馈卷积神经网络的简单而有效的注意力模块,能够给定一个中间特征图,CBAM模块可以沿着两个独立的维度(通道和空间)依次推断注意力图,然后将注意力图与输入特征图相乘以进行自适应特征优化,由于CBAM是轻量级的通用模块,因此可以忽略的该模块的开销而将其无缝集成到任何CNN架构中,并且可以与基础CNN一起进行端到端训练。通过卷积注意力机制模块能够使指定CPN卷积神经网络的人体关键点提取过程更加精确且高效。
在一些实施例中,上述步骤S130可以包括如下步骤:
步骤p),对任意两个人体关键点坐标之间的距离进行计算,得到至少一个关键点距离;
步骤q),对驾驶员的人体肩部以及人体腕部对应的第三人体关键点坐标处对应的肩部弯曲角度以及腕部弯曲角度进行计算,得到关键点角度;
步骤r),将关键点距离和关键点角度确定为用于表征驾驶行为的驾驶行为特征数据。
例如,如图3所示,对于检测到的颈部(关键点1)、肩部(关键点2和关键点3)、腕部(关键点4和关键点5)、手部(关键点6和关键点7)信息,可以计算两个关键点之间的距离值,并计算关键点2、关键点3、关键点4和关键点5(即肩部和腕部)对应的角度值,以提取表征驾驶行为的关键特征,即角度值以及两个关键点之间的距离值。
通过关键点距离和关键点角度能够使驾驶行为特征数据更加精确且全面的表征驾驶员的驾驶行为。
在一些实施例中,在步骤S150之前,该方法还可以包括以下步骤:
步骤s),获取正常驾驶图像,并将正常驾驶图像作为正样本;
步骤t),利用正样本对初始FD-KNN判别模型进行训练,得到训练后的FD-KNN判别模型;
其中,训练后的FD-KNN判别模型中包含指定阈值,用于在待检测样本与邻域样本之间距离的平方和超过指定阈值时确定待检测样本中存在异常驾驶行为。
在实际应用中,可以使用正常驾驶图像训练FD-KNN判别器,即使用FD-KNN建模训练,通过FD-KNN模型判断驾驶员是否存在异常驾驶行为。对于挖掘的关键特征使用FD-KNN建立异常驾驶行为判别模型,示例性的,可以包括如下过程:
搜集正常驾驶样本,提取人体关键点坐标,根据上述步骤S130挖掘表征驾驶行为的特征;然后,计算每个样本与k个邻域样本之间的距离的平方和:,其中,表示第i个样本与第j个邻域样本之间的欧式距离;之后确定阈值,阈值设定为95%的校正样本低于该限值。
对于待检测样本(即待检测的主驾驶车窗图像),经过改进后的CPN卷积神经网络获取驾驶员人体关键点后,挖掘驾驶行为特征,计算与邻域样本之间距离的平方和,若超过了预先设定的阈值,则认为是异常驾驶行为。
通过步骤s)和步骤t)的FD-KNN判别模型训练过程,仅需要正常驾驶样本既可建立异常驾驶模型,减少对样本的依赖,还能够使训练后的FD-KNN判别模型更加精确高效。
图4提供了一种驾驶行为检测装置的结构示意图。如图4所示,驾驶行为检测装置400包括:
获取单元401,用于获取主驾驶车窗图像;其中,所述主驾驶车窗图像中包含驾驶员;
提取单元402,用于通过指定CPN卷积神经网络对所述主驾驶车窗图像中所述驾驶员的人体关键点进行提取,得到人体关键点坐标;
第一确定单元403,用于基于所述人体关键点坐标确定驾驶行为特征数据;其中,所述驾驶行为特征数据用于表征所述驾驶员的驾驶行为;
检测单元404,用于根据所述驾驶行为特征数据通过训练后的FD-KNN判别模型检测所述驾驶员是否存在异常驾驶行为,得到异常驾驶行为检测结果。
在一些实施例中,获取单元具体用于:
获取交通监控图像;
利用YOLOV5目标检测算法从所述交通监控图像中获取主驾驶车窗图像。
在一些实施例中,获取单元还用于:
对所述交通监控图像中的目标车辆进行跟踪,并将跟踪到的所述目标车辆的图像转化为灰度图像;
将所述灰度图像的尺寸缩放至指定尺寸,并通过以下算法计算所述指定尺寸下的所述灰度图像中每个像素点的二阶导数:
计算所有所述像素点的所述二阶导数的方差,如果所述方差大于预设阈值则确定为最优帧的主驾驶车窗图像,若所述方差未超过所述预设阈值则确定不为最优帧的主驾驶车窗图像;
将所述最优帧的主驾驶车窗图像确认为待检测的主驾驶车窗图像。
在一些实施例中,所述交通监控图像为通过热感摄像头采集到的图像,所述主驾驶车窗图像包含热成像图像;该装置还包括:
第二确定单元,用于从所述人体关键点坐标中确定所述驾驶员的人体头部对应的第一人体关键点坐标;
第三确定单元,用于通过所述热成像图像确定所述第一人体关键点坐标周围预设范围内的第一温度;
第四确定单元,用于如果所述第一温度大于预设温度,和/或,所述第一温度和第二人体关键点坐标处的第二温度之间的温度差大于预设温差,则确定所述驾驶员存在异常驾驶行为;其中,所述第二人体关键点坐标为所述驾驶员上除所述人体头部以外其它人体部位对应的人体关键点坐标;
第五确定单元,用于基于所述交通监控图像通过车牌号识别和/或人脸识别确定所述驾驶员的目标身份,并从多个预设通讯方式中确定所述目标身份对应的目标预设通讯方式;
发出单元,用于通过所述目标预设通讯方式发出异常驾驶行为的语音提示。
在一些实施例中,该装置还包括:
添加单元,用于对初始CPN卷积神经网络中加入卷积注意力机制单元,得到所述指定CPN卷积神经网络;
其中,所述卷积注意力机制单元包含通道注意力子单元和空间注意力子单元;所述通道注意力子单元用于通过池化操作学***均池化进入全连接层进行学***均池化的结果按照指定维度进行拼接,基于拼接结果通过卷积生成空间注意力机制。
在一些实施例中,第一确定单元具体用于:
对任意两个所述人体关键点坐标之间的距离进行计算,得到至少一个关键点距离;
对所述驾驶员的人体肩部以及人体腕部对应的第三人体关键点坐标处对应的肩部弯曲角度以及腕部弯曲角度进行计算,得到关键点角度;
将所述关键点距离和所述关键点角度确定为用于表征驾驶行为的驾驶行为特征数据。
在一些实施例中,该装置还包括:
作为单元,用于获取正常驾驶图像,并将所述正常驾驶图像作为正样本;
训练单元,用于利用所述正样本对初始FD-KNN判别模型进行训练,得到所述训练后的FD-KNN判别模型;
其中,所述训练后的FD-KNN判别模型中包含指定阈值,用于在待检测样本与邻域样本之间距离的平方和超过所述指定阈值时确定所述待检测样本中存在异常驾驶行为。
本申请实施例提供的驾驶行为检测装置,与上述实施例提供的驾驶行为检测方法具有相同的技术特征,所以也能解决相同的技术问题,达到相同的技术效果。
本申请实施例提供的一种电子设备,如图5所示,电子设备500包括处理器502、存储器501,所述存储器中存储有可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述实施例提供的方法的步骤。
参见图5,电子设备还包括:总线503和通信接口504,处理器502、通信接口504和存储器501通过总线503连接;处理器502用于执行存储器501中存储的可执行模块,例如计算机程序。
其中,存储器501可能包含高速随机存取存储器(Random Access Memory,简称RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。通过至少一个通信接口504(可以是有线或者无线)实现该***网元与至少一个其他网元之间的通信连接,可以使用互联网,广域网,本地网,城域网等。
总线503可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图5中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
其中,存储器501用于存储程序,所述处理器502在接收到执行指令后,执行所述程序,前述本申请任一实施例揭示的过程定义的装置所执行的方法可以应用于处理器502中,或者由处理器502实现。
处理器502可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器502中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器502可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(DigitalSignal Processing,简称DSP)、专用集成电路(Application Specific IntegratedCircuit,简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器501,处理器502读取存储器501中的信息,结合其硬件完成上述方法的步骤。
本申请实施例所提供的驾驶行为检测装置可以为设备上的特定硬件或者安装于设备上的软件或固件等。本申请实施例所提供的装置,其实现原理及产生的技术效果和前述方法实施例相同,为简要描述,装置实施例部分未提及之处,可参考前述方法实施例中相应内容。所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,前述描述的***、装置和单元的具体工作过程,均可以参考上述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的实施例中,应该理解到,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
再例如,附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请提供的实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述驾驶行为检测方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释,此外,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
最后应说明的是:以上所述实施例,仅为本申请的具体实施方式,用以说明本申请的技术方案,而非对其限制,本申请的保护范围并不局限于此,尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本申请实施例技术方案的范围。都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (8)
1.一种驾驶行为检测方法,其特征在于,所述方法包括:
获取主驾驶车窗图像;其中,所述主驾驶车窗图像中包含驾驶员;
通过指定CPN卷积神经网络对所述主驾驶车窗图像中所述驾驶员的人体关键点进行提取,得到人体关键点坐标;
基于所述人体关键点坐标确定驾驶行为特征数据;其中,所述驾驶行为特征数据用于表征所述驾驶员的驾驶行为;
根据所述驾驶行为特征数据通过训练后的FD-KNN判别模型检测所述驾驶员是否存在异常驾驶行为,得到异常驾驶行为检测结果;
所述获取主驾驶车窗图像的步骤,包括:
获取交通监控图像;
利用YOLOV5目标检测算法从所述交通监控图像中获取主驾驶车窗图像;
所述交通监控图像为通过热感摄像头采集到的图像,所述主驾驶车窗图像包含热成像图像;在所述通过指定CPN卷积神经网络对所述主驾驶车窗图像中所述驾驶员的人体关键点进行提取,得到人体关键点坐标的步骤之后,还包括:
从所述人体关键点坐标中确定所述驾驶员的人体头部对应的第一人体关键点坐标;
通过所述热成像图像确定所述第一人体关键点坐标周围预设范围内的第一温度;
如果所述第一温度大于预设温度,和/或,所述第一温度和第二人体关键点坐标处的第二温度之间的温度差大于预设温差,则确定所述驾驶员存在异常驾驶行为;其中,所述第二人体关键点坐标为所述驾驶员上除所述人体头部以外其它人体部位对应的人体关键点坐标。
2.根据权利要求1所述的方法,其特征在于,所述利用YOLOV5目标检测算法从所述交通监控图像中获取主驾驶车窗图像的步骤,包括:
对所述交通监控图像中的目标车辆进行跟踪,并将跟踪到的所述目标车辆的图像转化为灰度图像;
将所述灰度图像的尺寸缩放至指定尺寸,并通过以下算法计算所述指定尺寸下的所述灰度图像中每个像素点的二阶导数:
计算所有所述像素点的所述二阶导数的方差,如果所述方差大于预设阈值则确定为最优帧的主驾驶车窗图像,若所述方差未超过所述预设阈值则确定不为最优帧的主驾驶车窗图像;
将所述最优帧的主驾驶车窗图像确认为待检测的主驾驶车窗图像。
3.根据权利要求1所述的方法,其特征在于,所述确定所述驾驶员存在异常驾驶行为的步骤之后,还包括:
基于所述交通监控图像通过车牌号识别和/或人脸识别确定所述驾驶员的目标身份,并从多个预设通讯方式中确定所述目标身份对应的目标预设通讯方式;
通过所述目标预设通讯方式发出异常驾驶行为的语音提示。
4.根据权利要求1所述的方法,其特征在于,在所述通过指定CPN卷积神经网络对所述主驾驶车窗图像中所述驾驶员的人体关键点进行提取,得到人体关键点坐标的步骤之前,还包括:
对初始CPN卷积神经网络中加入卷积注意力机制模块,得到所述指定CPN卷积神经网络;
其中,所述卷积注意力机制模块包含通道注意力子模块和空间注意力子模块;所述通道注意力子模块用于通过池化操作学***均池化进入全连接层进行学***均池化的结果按照指定维度进行拼接,基于拼接结果通过卷积生成空间注意力机制。
5.根据权利要求1所述的方法,其特征在于,所述基于所述人体关键点坐标确定驾驶行为特征数据的步骤,包括:
对任意两个所述人体关键点坐标之间的距离进行计算,得到至少一个关键点距离;
对所述驾驶员的人体肩部以及人体腕部对应的第三人体关键点坐标处对应的肩部弯曲角度以及腕部弯曲角度进行计算,得到关键点角度;
将所述关键点距离和所述关键点角度确定为用于表征驾驶行为的驾驶行为特征数据。
6.根据权利要求1所述的方法,其特征在于,在所述根据所述驾驶行为特征数据通过训练后的FD-KNN判别模型检测所述驾驶员是否存在异常驾驶行为,得到异常驾驶行为检测结果的步骤之前,还包括:
获取正常驾驶图像,并将所述正常驾驶图像作为正样本;
利用所述正样本对初始FD-KNN判别模型进行训练,得到所述训练后的FD-KNN判别模型;
其中,所述训练后的FD-KNN判别模型中包含指定阈值,用于在待检测样本与邻域样本之间距离的平方和超过所述指定阈值时确定所述待检测样本中存在异常驾驶行为。
7.一种驾驶行为检测装置,其特征在于,包括:
获取单元,用于获取主驾驶车窗图像;其中,所述主驾驶车窗图像中包含驾驶员;
提取单元,用于通过指定CPN卷积神经网络对所述主驾驶车窗图像中所述驾驶员的人体关键点进行提取,得到人体关键点坐标;
确定单元,用于基于所述人体关键点坐标确定驾驶行为特征数据;其中,所述驾驶行为特征数据用于表征所述驾驶员的驾驶行为;
检测单元,用于根据所述驾驶行为特征数据通过训练后的FD-KNN判别模型检测所述驾驶员是否存在异常驾驶行为,得到异常驾驶行为检测结果;
所述获取单元具体用于:
获取交通监控图像;
利用YOLOV5目标检测算法从所述交通监控图像中获取主驾驶车窗图像;
所述交通监控图像为通过热感摄像头采集到的图像,所述主驾驶车窗图像包含热成像图像;该装置还包括:
第二确定单元,用于从所述人体关键点坐标中确定所述驾驶员的人体头部对应的第一人体关键点坐标;
第三确定单元,用于通过所述热成像图像确定所述第一人体关键点坐标周围预设范围内的第一温度;
第四确定单元,用于如果所述第一温度大于预设温度,和/或,所述第一温度和第二人体关键点坐标处的第二温度之间的温度差大于预设温差,则确定所述驾驶员存在异常驾驶行为;其中,所述第二人体关键点坐标为所述驾驶员上除所述人体头部以外其它人体部位对应的人体关键点坐标。
8.一种电子设备,包括存储器、处理器,所述存储器中存储有可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现上述权利要求1至6任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111638230.7A CN114005105B (zh) | 2021-12-30 | 2021-12-30 | 驾驶行为检测方法、装置以及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111638230.7A CN114005105B (zh) | 2021-12-30 | 2021-12-30 | 驾驶行为检测方法、装置以及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114005105A CN114005105A (zh) | 2022-02-01 |
CN114005105B true CN114005105B (zh) | 2022-04-12 |
Family
ID=79932451
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111638230.7A Active CN114005105B (zh) | 2021-12-30 | 2021-12-30 | 驾驶行为检测方法、装置以及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114005105B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114677504B (zh) * | 2022-05-30 | 2022-11-15 | 深圳市爱深盈通信息技术有限公司 | 目标检测方法、装置、设备终端和可读存储介质 |
CN115471826B (zh) * | 2022-08-23 | 2024-03-26 | 中国航空油料集团有限公司 | 航空加油车安全驾驶行为判别方法、装置和安全运维*** |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111046826A (zh) * | 2019-12-20 | 2020-04-21 | 北京碧拓科技有限公司 | 一种远红外热成像人脸关键点的定位方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR3063557B1 (fr) * | 2017-03-03 | 2022-01-14 | Valeo Comfort & Driving Assistance | Dispositif de determination de l'etat d'attention d'un conducteur de vehicule, systeme embarque comportant un tel dispositif, et procede associe |
WO2019028798A1 (zh) * | 2017-08-10 | 2019-02-14 | 北京市商汤科技开发有限公司 | 驾驶状态监控方法、装置和电子设备 |
CN109344901A (zh) * | 2018-10-11 | 2019-02-15 | 浙江工业大学 | 一种基于无线信道的驾驶员行车动作检测方法 |
CN109829400B (zh) * | 2019-01-18 | 2023-06-30 | 青岛大学 | 一种快速车辆检测方法 |
EP3915046A4 (en) * | 2019-01-22 | 2022-11-02 | Adam Cogtech Ltd. | DETECTION OF THE COGNITIVE STATE OF A DRIVER |
US10819923B1 (en) * | 2019-11-19 | 2020-10-27 | Waymo Llc | Thermal imaging for self-driving cars |
CN112373465A (zh) * | 2020-12-01 | 2021-02-19 | 常州科研试制中心有限公司 | 一种无轨胶轮车辅助驾驶***及控制方法 |
WO2022213336A1 (zh) * | 2021-04-09 | 2022-10-13 | 深圳市锐明技术股份有限公司 | 车辆驾驶环境异常监测方法、装置、电子设备和存储介质 |
CN113033517B (zh) * | 2021-05-25 | 2021-08-10 | 爱保科技有限公司 | 车辆定损图像获取方法、装置和存储介质 |
-
2021
- 2021-12-30 CN CN202111638230.7A patent/CN114005105B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111046826A (zh) * | 2019-12-20 | 2020-04-21 | 北京碧拓科技有限公司 | 一种远红外热成像人脸关键点的定位方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114005105A (zh) | 2022-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108256506B (zh) | 一种视频中物体检测方法及装置、计算机存储介质 | |
CN114005105B (zh) | 驾驶行为检测方法、装置以及电子设备 | |
CN111178245B (zh) | 车道线检测方法、装置、计算机设备和存储介质 | |
US9652851B2 (en) | Side window detection in near-infrared images utilizing machine learning | |
CN110751012B (zh) | 目标检测评估方法、装置、电子设备及存储介质 | |
CN108009466B (zh) | 行人检测方法和装置 | |
CN111512317A (zh) | 一种多目标实时跟踪方法、装置及电子设备 | |
CN111639653B (zh) | 一种误检图像确定方法、装置、设备和介质 | |
CN111310770B (zh) | 目标检测方法和装置 | |
JP6939362B2 (ja) | 車両捜索システム、車両捜索方法、ならびに、それに用いられる車両およびプログラム | |
CN112078571B (zh) | 自动泊车方法、设备、存储介质及装置 | |
CN111488855A (zh) | 疲劳驾驶检测方法、装置、计算机设备和存储介质 | |
US20230196841A1 (en) | Behavior recognition artificial intelligence network system and method for efficient recognition of hand signals and gestures | |
JP2012221162A (ja) | 対象物検出装置及びプログラム | |
CN113743163A (zh) | 交通目标识别模型训练方法、交通目标定位方法、装置 | |
CN117292338B (zh) | 基于视频流解析的车辆事故识别和分析方法 | |
CN112907583B (zh) | 目标对象姿态选择方法、图像评分方法及模型训练方法 | |
CN111753766A (zh) | 一种图像处理方法、装置、设备及介质 | |
CN109543610B (zh) | 车辆检测跟踪方法、装置、设备及存储介质 | |
CN111695404A (zh) | 行人跌倒检测方法、装置、电子设备及存储介质 | |
CN111144361A (zh) | 一种基于二值化cgan网络的公路车道检测方法 | |
JP2021033494A (ja) | アノテーション支援方法、アノテーション支援装置、及びアノテーション支援プログラム | |
CN112669277B (zh) | 一种车辆关联方法,计算机设备以及装置 | |
CN114445787A (zh) | 非机动车重识别方法及相关设备 | |
CN115131726A (zh) | 一种车位检测方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |