CN111160126A - 驾驶状态确定方法、装置、车辆及存储介质 - Google Patents

驾驶状态确定方法、装置、车辆及存储介质 Download PDF

Info

Publication number
CN111160126A
CN111160126A CN201911267783.9A CN201911267783A CN111160126A CN 111160126 A CN111160126 A CN 111160126A CN 201911267783 A CN201911267783 A CN 201911267783A CN 111160126 A CN111160126 A CN 111160126A
Authority
CN
China
Prior art keywords
driver
vehicle
frequency
determining
driving state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911267783.9A
Other languages
English (en)
Other versions
CN111160126B (zh
Inventor
黄凯明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Streamax Technology Co Ltd
Original Assignee
Streamax Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Streamax Technology Co Ltd filed Critical Streamax Technology Co Ltd
Priority to CN201911267783.9A priority Critical patent/CN111160126B/zh
Publication of CN111160126A publication Critical patent/CN111160126A/zh
Application granted granted Critical
Publication of CN111160126B publication Critical patent/CN111160126B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Ophthalmology & Optometry (AREA)
  • Traffic Control Systems (AREA)

Abstract

本申请适用于计算机技术领域,提出一种驾驶状态确定方法,包括:获取预设时长内的目标图像帧以及车辆行驶状态信息,所述目标图像帧包含驾驶员的面部特征信息;基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态。与现有技术相比,通过基于面部特征信息和车辆行驶状态信息确定驾驶员的驾驶状态,能够降低误判的概率,提高驾驶状态判断的准确性。

Description

驾驶状态确定方法、装置、车辆及存储介质
技术领域
本申请属于计算机技术领域,尤其涉及一种驾驶状态确定方法、装置、车辆及存储介质。
背景技术
现有常见的驾驶员状态监控***(Driver Status Monitor,DSM),主要基于计算机视觉技术,通过摄像头获取驾驶员脸部图像,根据计算机视觉算法的检测结果,判定驾驶员是否存在异常状态或行为,这种基于计算机视觉技术的检测方法仅从驾驶员的视觉信息进行分析,容易出现误判的现象。
发明内容
有鉴于此,本申请实施例提供了驾驶状态确定方法、装置、车辆及存储介质,以解决现有技术中基于计算机视觉技术进行驾驶状态确定时,出现误判的现象。
本申请实施例的第一方面提供了一种驾驶状态确定方法,包括:
获取预设时长内的目标图像帧以及车辆行驶状态信息,所述目标图像帧包含驾驶员的面部特征信息;
基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态。
在一种可选的实现方式中,所述基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态,包括:
基于所述面部特征信息确定所述驾驶员的视觉信息;
基于所述视觉信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率;
基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率;
若所述车辆在行驶过程中的左右偏转频率大于预设第一频率阈值,且所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间大于预设的第一时间阈值,则确定所述驾驶员处于分心驾驶状态;
若所述车辆在行驶过程中的左右偏转频率大于预设的第一频率阈值,且所述驾驶员在所述预设时长内视线偏离车辆行驶方向的频率大于预设的第二频率阈值,则确定所述驾驶员处于所述分心驾驶状态。
在一种可选的实现方式中,在所述基于所述视觉信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率之后,还包括:
若所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间大于预设的第一极限时间阈值,则确定所述驾驶员处于分心驾驶状态;所述第一极限时间阈值等于所述第一时间阈值的n倍,n为大于1的正整数。
在一种可选的实现方式中,所述视觉信息包括眼部状态信息;
所述基于所述面部特征信息确定所述驾驶员的视觉信息,包括:
利用预先训练完成的视觉分析模型对所述面部特征信息进行分析,得到所述眼部状态信息;
对应地,所述基于所述视觉信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率,包括:
基于所述眼部状态信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率。
在一种可选的实现方式中,所述基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态,包括:
基于所述面部特征信息确定所述驾驶员的视觉信息;
基于所述视觉信息,确定所述驾驶员在所述预设时长内眼睛闭合单次持续时间、眼睛闭合频率以及打哈欠频率中的至少一项;
基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率;
若所述车辆在行驶过程中的左右偏转频率大于预设的第三频率阈值,且所述驾驶员在所述预设时长内眼睛闭合单次持续时间大于预设的第二时间阈值,则确定所述驾驶员处于疲劳驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于所述第三频率阈值,且所述驾驶员在所述预设时长内眼睛闭合频率大于预设的第三频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于所述第三频率阈值,且所述驾驶员在所述预设时长内打哈欠频率大于预设的第四频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态。
在一种可选的实现方式中,在所述基于所述视觉信息,确定所述驾驶员在所述预设时长内眼睛闭合单次持续时间、眼睛闭合频率、或打哈欠频率之后,还包括:
若所述驾驶员在所述预设时长内眼睛闭合单次持续时间大于预设的第二极限时间阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第二极限时间阈值等于所述第二时间阈值的m倍,m为大于1的正整数;
或者,若所述驾驶员在所述预设时长内眼睛闭合频率大于预设的第三极限频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第三极限频率阈值等于所述第三频率阈值的k倍,k为大于1的正整数;
或者,若所述驾驶员在所述预设时长内打哈欠频率大于预设的第四极限频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第四极限频率阈值等于所述第四频率阈值的g倍,g为大于1的正整数。
在一种可选的实现方式中,所述车辆行驶状态信息包括车辆行驶的方向角度;
所述基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率,包括:
基于所述车辆行驶的方向角度确定所述车辆在行驶过程中的左右偏转频率。
本申请实施例第二方面提供一种驾驶状态确定装置,包括:
获取模块,用于获取预设时长内的目标图像帧以及车辆行驶状态信息,所述目标图像帧包含驾驶员的面部特征信息;
确定模块,用于基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态。
在一种可选的实现方式中,所述确定模块,包括:
第一确定单元,用于基于所述面部特征信息确定所述驾驶员的视觉信息;
第二确定单元,用于基于所述视觉信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率;
第三确定单元,用于基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率;
第四确定单元,用于在若所述车辆在行驶过程中的左右偏转频率大于预设第一频率阈值,且所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间大于预设的第一时间阈值,则确定所述驾驶员处于分心驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于预设的第一频率阈值,且所述驾驶员在所述预设时长内视线偏离车辆行驶方向的频率大于预设的第二频率阈值,则确定所述驾驶员处于所述分心驾驶状态。
在一种可选的实现方式中,所述确定模块,包括:
第五确定单元,用于在若所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间大于预设的第一极限时间阈值,则确定所述驾驶员处于分心驾驶状态;所述第一极限时间阈值等于所述第一时间阈值的n倍,n为大于1的正整数。
在一种可选的实现方式中,所述视觉信息包括眼部状态信息;
所述第一确定单元,包括:
利用预先训练完成的视觉分析模型对所述面部特征信息进行分析,得到所述眼部状态信息;
对应地,所述第二确定单元,用于:
基于所述眼部状态信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率。
在一种可选的实现方式中,所述确定模块,包括:
第六确定单元,用于基于所述面部特征信息确定所述驾驶员的视觉信息;
第七确定单元,基于所述视觉信息,确定所述驾驶员在所述预设时长内眼睛闭合单次持续时间、眼睛闭合频率以及打哈欠频率中的至少一项;
第八确定单元,用于基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率;
第九确定单元,用于在若所述车辆在行驶过程中的左右偏转频率大于预设的第三频率阈值,且所述驾驶员在所述预设时长内眼睛闭合单次持续时间大于预设的第二时间阈值,则确定所述驾驶员处于疲劳驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于所述第三频率阈值,且所述驾驶员在所述预设时长内眼睛闭合频率大于预设的第三频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于所述第三频率阈值,且所述驾驶员在所述预设时长内打哈欠频率大于预设的第四频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态。
在一种可选的实现方式中,所述确定模块,包括:
第十确定单元,用于在若所述驾驶员在所述预设时长内眼睛闭合单次持续时间大于预设的第二极限时间阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第二极限时间阈值等于所述第二时间阈值的m倍,m为大于1的正整数;
或者,若所述驾驶员在所述预设时长内眼睛闭合频率大于预设的第三极限频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第三极限频率阈值等于所述第三频率阈值的k倍,k为大于1的正整数;
或者,若所述驾驶员在所述预设时长内打哈欠频率大于预设的第四极限频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第四极限频率阈值等于所述第四频率阈值的g倍,g为大于1的正整数。
在一种可选的实现方式中,所述车辆行驶状态信息包括车辆行驶的方向角度;
所述第三确定单元,或所述第八确定单元,均具体用于:
基于所述车辆行驶的方向角度确定所述车辆在行驶过程中的左右偏转频率。
本申请实施例第一方面提供的驾驶状态确定方法,与现有技术相比,通过基于面部特征信息和车辆行驶状态信息确定驾驶员的驾驶状态,能够降低误判的概率,提高驾驶状态判断的准确性。
本申请实施例第二至第四方面与现有技术相比,与本申请实施例第一方面与现有技术相比,存在的有益效果相同,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请第一实施例提供的驾驶状态确定方法的实现流程图;
图2是图1中S102在第一实施例中的具体实施流程图;
图3是图1中S102在第二实施例中的具体实施流程图;
图4是图1中S102在第三实施例中的具体实施流程图;
图5是图1中S102在第四实施例中的具体实施流程图;
图6是本申请实施例提供的驾驶状态确定装置的结构示意图;
图7是本申请实施例提供的车辆的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定***结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的***、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
需要说明的是,现有常见的车载驾驶员状态监控***(Driver Status Monitor,DSM,或Driver Monitoring System/Driver Monitor System,DMS),主要基于计算机视觉技术,对摄像头获取的驾驶员脸部图像进行分析,判定驾驶员是否存在异常驾驶状态,例如分心驾驶、疲劳驾驶等,或者存在异常行为,例如抽烟、打电话、进食等。这种基于计算机视觉技术进行驾驶状态确定的方法,仅基于驾驶员脸部图像进行分析,存在一定的误判现象。例如,在特定情况下驾驶员可能会频繁看车外后视镜,该动作有可能被误判为分心驾驶,或者,有些驾驶员天生可能习惯性眯眼睛,这类人通过计算机视觉分析方法无法准确确定驾驶状态等。
而常见的车载惯性测量模块(Inertial measurement unit,IMU)例如陀螺仪、加速度计等惯性敏感元件,能够实时测量车辆相对于地面运动的加速度,并能感知车辆运动轨迹变化及车身稳定状态的变化,因此,在本申请的实施例中,将车辆本身的运动状态与上述的基于计算机视觉技术相结合,来判定驾驶员的驾驶状态,用于提高驾驶状态判断的准确性。
为了说明本申请所述的技术方案,下面通过具体实施例来进行说明。如图1所示,是本申请第一实施例提供的驾驶状态确定方法的实现流程图,本实施例可以由车辆内部的硬件或者软件执行实现。详述如下:
S101,获取预设时长内的目标图像帧以及车辆行驶状态信息,所述目标图像帧包含驾驶员的面部特征信息。
其中,所述目标图像帧可以由预先安装在车辆内部的摄像头拍摄得到,可以理解地,所述摄像头通常尽可能安装在能最大限度拍摄到驾驶员脸部正面图像的位置。所述车辆行驶状态信息可以由预先安装在车辆上的惯性测量模块,例如陀螺仪或者加速度计等测量得到。
在本实施例中,通过获取预设时长内包含驾驶员的面部特征信息的所述目标图像帧以及所述车辆行驶状态信息,将驾驶员的面部特征信息和车辆行驶状态信息相结合,来确定驾驶状态。
S102,基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态。
可以理解地,若驾驶员周边存在例如香烟、手机、水杯、食物等物品时,可能会导致驾驶员出现分心驾驶状态,例如驾驶员可能在驾驶过程中进行喝水、抽烟、打电话、吃食物等动作;另外,当驾驶员处于疲劳驾驶状态时,其通常对应会打哈欠或者闭眼睛等,而当驾驶员出现分心驾驶状态或是出现疲劳驾驶状态,驾驶员的面部特征信息会发生变化,且由该驾驶员控制的车辆的车辆行驶状态信息也会相应发生变化,即可以通过面部特征信息和车辆行驶状态信息确定驾驶员的驾驶状态。
具体地,如图2所示,是图1中S102在第一实施例中的具体实施流程图。由图2可知,S102,包括:
S1021,基于所述面部特征信息确定所述驾驶员的视觉信息。
所述面部特征信息包括预设的面部关键特征信息,例如眼部特征信息、嘴部特征信息、眉毛特征信息、鼻子特征信息等中的至少一种,作为示例而非限定,在本实例中,所述面部特征信息包括眼部特征信息,所述视觉信息包括眼部状态信息,所述基于所述面部特征信息确定所述驾驶员的视觉信息,包括:
利用预先训练完成的视觉分析模型对所述眼部特征信息进行分析,得到所述眼部状态信息。
其中,预先训练完成的视觉分析模型的输入是面部特征信息,输出是视觉信息;在本实施例中,所述面部特征信息为眼部特征信息,所述视觉信息为眼部状态信息。
S1022,基于所述视觉信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率。
对应地,所述基于所述视觉信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率,包括:
基于所述眼部状态信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率。
S1023,基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率。
作为示例而非限定,所述车辆行驶状态信息包括车辆行驶的方向角度。所述S1023,包括:
基于所述车辆行驶的方向角度确定所述车辆在行驶过程中的左右偏转频率。
需要说明的是,车辆行驶状态信息通常还包括加速度值或角速度值,在本实施例,通过所述车辆行驶的多个方向角度来衡量车辆的在行驶过程中向左偏转,以及向右偏转的频率,进而衡量车辆在行驶过程中的车道保持能力,根据车辆在行驶过程中的车道保持能力,来确定驾驶员是否存在异常驾驶行为。
S1024,若所述车辆在行驶过程中的左右偏转频率大于预设第一频率阈值,且所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间大于预设的第一时间阈值,则确定所述驾驶员处于分心驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于预设的第一频率阈值,且所述驾驶员在所述预设时长内视线偏离车辆行驶方向的频率大于预设的第二频率阈值,则确定所述驾驶员处于所述分心驾驶状态。
可以理解地,当驾驶员在驾驶过程中,若注意力不集中时,眼睛通常会偏离车辆行驶方向,但是仅根据驾驶员眼睛偏离车辆行驶方向来确定驾驶员是否处于分心驾驶状态,可能会出现误判,在本实施例中,将眼睛偏离车辆行驶方向和车辆在行驶过程中的左右偏转频率相结合,来确定驾驶员是否处于分心驾驶状态,提高驾驶状态确定的准确性。
如图3所述,是图1中S102在第二实施例中的具体实施流程图。由图3可知,本实施例与图2所示实施例相比,S1031~S1032与1021~S1011的具体实现过程相同,不同之处在于,在S1032之后包括S1033,不包括S1023与S1024的内容,详述如下:
S1033,若所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间大于预设的第一极限时间阈值,则确定所述驾驶员处于分心驾驶状态;所述第一极限时间阈值等于所述第一时间阈值的n倍,n为大于1的正整数。
可以理解地,在某些特殊状况下,例如惯性测量模块发生故障时,根据图2中的方法,可能出现对分心驾驶漏判的现象,因此,在本实例中,通过预设第一极限时间阈值来提高确定分心驾驶状态的准确性。需要说明的是,所述第一极限时间阈值通常为第一时间阈值的n倍,需要根据经验以及预设实验进行确定,其需要综合考虑事故发生的风险和分心驾驶的准确性。
如图4所示,是图1中S102在第三实施例中的具体实施流程图。由图4可知,本实施例与图2所示实施例相比,S1043的具体实现过程与S1013的具体实现过程相同,不同之处在于,S1041、S1042以及S104,不包括S1011、S1012以及S1013的内容。详述如下:
S1041,基于所述面部特征信息确定所述驾驶员的视觉信息。
作为示例而非限定,在本实例中,所述面部特征信息包括眼部特征信息和嘴部特征信息,所述视觉信息包括眼部状态信息和嘴部状态信息;所述基于所述面部特征信息确定所述驾驶员的视觉信息,包括:
利用预先训练完成的视觉分析模型对所述眼部特征信息进行分析,得到所述眼部状态信息、利用所述视觉分析模型对所述嘴部特征信息进行分析,得到所述嘴部状态信息。
在本实例中,预先训练完成的视觉分析模型的输入是眼部特征信息和嘴部特征信息,输出是眼部状态信息和嘴部状态信息。
S1042,基于所述视觉信息,确定所述驾驶员在所述预设时长内眼睛闭合单次持续时间、眼睛闭合频率以及打哈欠频率中的至少一项。
对应地,所述基于所述视觉信息,确定所述驾驶员在所述预设时长内眼睛闭合单次持续时间、眼睛闭合频率以及打哈欠频率中的至少一项,包括:
基于所述眼部状态信息确定所述驾驶员在所述预设时长内眼睛闭合单次持续时间或眼睛闭合频率;
基于所述嘴部状态信息确定驾驶员在所述预设时长内打哈欠频率。
S1043,基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率。
S1044,若所述车辆在行驶过程中的左右偏转频率大于预设的第三频率阈值,且所述驾驶员在所述预设时长内眼睛闭合单次持续时间大于预设的第二时间阈值,则确定所述驾驶员处于疲劳驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于所述第三频率阈值,且所述驾驶员在所述预设时长内眼睛闭合频率大于预设的第三频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于所述第三频率阈值,且所述驾驶员在所述预设时长内打哈欠频率大于预设的第四频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态。
可以理解地,驾驶员在驾驶过程中,可能会由于周围环境突变发生眼睛闭合或者打哈欠等动作,且为了防止驾驶过程中出现事故,预设的判断眼睛闭合或打哈欠的阈值通常不易过长,因此,在本实例中,在进行疲劳驾驶状态确定时,将车辆在行驶过程中的左右偏转频率与驾驶员在所述预设时长内眼睛闭合单次持续时间相结合,或者将车辆在行驶过程中的左右偏转频率与驾驶员在所述预设时长内眼睛闭合频率相结合,或者将车辆在行驶过程中的左右偏转频率与驾驶员在所述预设时长内打哈欠频率相结合,来提高疲劳驾驶状态确定的准确性。
如图5所示,是图1中S102在第四实施例中的具体实施流程图。由图5可知,本实施例与图4所示实施例相比,S1051~S1053的具体实施过程与S1041~S1042的具体实施过程相同,不同之处在于,在S1053之后还包括S1054,不包括S1043以及S1044的内容,详述如下。
S1054,若所述驾驶员在所述预设时长内眼睛闭合单次持续时间大于预设的第二极限时间阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第二极限时间阈值等于所述第二时间阈值的m倍,m为大于1的正整数;
或者,若所述驾驶员在所述预设时长内眼睛闭合频率大于预设的第三极限频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第三极限频率阈值等于所述第三频率阈值的k倍,k为大于1的正整数;
或者,若所述驾驶员在所述预设时长内打哈欠频率大于预设的第四极限频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第四极限频率阈值等于所述第四频率阈值的g倍,g为大于1的正整数。
可以理解地,在某些特殊状况下,例如惯性测量模块发生故障时,根据图4中的方法,可能出现对疲劳驾驶漏判的现象,因此,在本实例中,通过预设第二极限时间阈值、第三极限频率阈值、第四极限频率阈值中的至少一种的方法,来提高确定疲劳驾驶状态的准确性。需要说明的是,第二极限时间阈值、第三极限频率阈值以及第四极限频率阈值,均需要根据经验以及预设实验进行确定,其需要综合考虑事故发生的风险和疲劳驾驶的准确性。
通过上述分析可知,本申请实施例提供的驾驶状态确定方法,包括:获取预设时长内的目标图像帧以及车辆行驶状态信息,所述目标图像帧包含驾驶员的面部特征信息;基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态。与现有技术相比,通过基于面部特征信息和车辆行驶状态信息确定驾驶员的驾驶状态,能够降低误判的概率,提高驾驶状态判断的准确性。
图6是本申请实施例提供的驾驶状态确定装置的结构示意图。由图6可知,本实施例提供的驾驶状态确定装置6包括:获取模块601以及确定模块602,其中,获取模块601,用于获取预设时长内的目标图像帧以及车辆行驶状态信息,所述目标图像帧包含驾驶员的面部特征信息;
确定模块602,用于基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态。
在一种可选的实现方式中,所述确定模块602,包括:
第一确定单元,用于基于所述面部特征信息确定所述驾驶员的视觉信息;
第二确定单元,用于基于所述视觉信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率;
第三确定单元,用于基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率;
第四确定单元,用于在若所述车辆在行驶过程中的左右偏转频率大于预设第一频率阈值,且所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间大于预设的第一时间阈值,则确定所述驾驶员处于分心驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于预设的第一频率阈值,且所述驾驶员在所述预设时长内视线偏离车辆行驶方向的频率大于预设的第二频率阈值,则确定所述驾驶员处于所述分心驾驶状态。
在一种可选的实现方式中,所述确定模块602,包括:
第五确定单元,用于在若所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间大于预设的第一极限时间阈值,则确定所述驾驶员处于分心驾驶状态;所述第一极限时间阈值等于所述第一时间阈值的n倍,n为大于1的正整数。
在一种可选的实现方式中,所述视觉信息包括眼部状态信息;
所述第一确定单元,包括:
利用预先训练完成的视觉分析模型对所述面部特征信息进行分析,得到所述眼部状态信息;
对应地,所述第二确定单元,用于:
基于所述眼部状态信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率。
在一种可选的实现方式中,所述确定模块602,包括:
第六确定单元,用于基于所述面部特征信息确定所述驾驶员的视觉信息;
第七确定单元,基于所述视觉信息,确定所述驾驶员在所述预设时长内眼睛闭合单次持续时间、眼睛闭合频率以及打哈欠频率中的至少一项;
第八确定单元,用于基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率;
第九确定单元,用于在若所述车辆在行驶过程中的左右偏转频率大于预设的第三频率阈值,且所述驾驶员在所述预设时长内眼睛闭合单次持续时间大于预设的第二时间阈值,则确定所述驾驶员处于疲劳驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于所述第三频率阈值,且所述驾驶员在所述预设时长内眼睛闭合频率大于预设的第三频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于所述第三频率阈值,且所述驾驶员在所述预设时长内打哈欠频率大于预设的第四频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态。
在一种可选的实现方式中,所述确定模块602,包括:
第十确定单元,用于在若所述驾驶员在所述预设时长内眼睛闭合单次持续时间大于预设的第二极限时间阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第二极限时间阈值等于所述第二时间阈值的m倍,m为大于1的正整数;
或者,若所述驾驶员在所述预设时长内眼睛闭合频率大于预设的第三极限频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第三极限频率阈值等于所述第三频率阈值的k倍,k为大于1的正整数;
或者,若所述驾驶员在所述预设时长内打哈欠频率大于预设的第四极限频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第四极限频率阈值等于所述第四频率阈值的g倍,g为大于1的正整数。
在一种可选的实现方式中,所述车辆行驶状态信息包括车辆行驶的方向角度;
所述第三确定单元,或所述第八确定单元,均具体用于:
基于所述车辆行驶的方向角度确定所述车辆在行驶过程中的左右偏转频率。
图7是本申请实施例提供的车辆的示意图。如图7所示,该实施例的车辆7包括:处理器70、存储器71以及存储在存储器71中并可在处理器70上运行的计算机程序72,例如驾驶状态确定程序。处理器70执行计算机程序72时实现上述各个驾驶状态确定方法实施例中的步骤,例如图1所示的步骤101至102。
示例性的,计算机程序72可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在存储器71中,并由处理器70执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述计算机程序72在所述车辆7中的执行过程。例如,计算机程序72可以被分割成获取模块以及确定模块(虚拟装置中的模块),各模块具体功能如下:
获取模块,用于获取预设时长内的目标图像帧以及车辆行驶状态信息,所述目标图像帧包含驾驶员的面部特征信息;
确定模块,用于基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个通信单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。

Claims (10)

1.一种驾驶状态确定方法,其特征在于,包括:
获取预设时长内的目标图像帧以及车辆行驶状态信息,所述目标图像帧包含驾驶员的面部特征信息;
基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态。
2.如权利要求1所述的驾驶状态确定方法,其特征在于,所述基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态,包括:
基于所述面部特征信息确定所述驾驶员的视觉信息;
基于所述视觉信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率;
基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率;
若所述车辆在行驶过程中的左右偏转频率大于预设第一频率阈值,且所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间大于预设的第一时间阈值,则确定所述驾驶员处于分心驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于预设的第一频率阈值,且所述驾驶员在所述预设时长内视线偏离车辆行驶方向的频率大于预设的第二频率阈值,则确定所述驾驶员处于所述分心驾驶状态。
3.如权利要求2所述的驾驶状态确定方法,其特征在于,在所述基于所述视觉信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率之后,还包括:
若所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间大于预设的第一极限时间阈值,则确定所述驾驶员处于分心驾驶状态;所述第一极限时间阈值等于所述第一时间阈值的n倍,n为大于1的正整数。
4.如权利要求2所述的驾驶状态确定方法,其特征在于,所述面部特征性包括眼部特征性息,所述视觉信息包括眼部状态信息;
所述基于所述面部特征信息确定所述驾驶员的视觉信息,包括:
利用预先训练完成的视觉分析模型对所述眼部特征信息进行分析,得到所述眼部状态信息;
对应地,所述基于所述视觉信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/视线偏离车辆行驶方向的频率,包括:
基于所述眼部状态信息,确定所述驾驶员在所述预设时长内视线偏离车辆行驶方向的单次持续时间和/或视线偏离车辆行驶方向的频率。
5.如权利要求1所述的驾驶状态确定方法,其特征在于,所述基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态,包括:
基于所述面部特征信息确定所述驾驶员的视觉信息;
基于所述视觉信息,确定所述驾驶员在所述预设时长内眼睛闭合单次持续时间、眼睛闭合频率以及打哈欠频率中的至少一项;
基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率;
若所述车辆在行驶过程中的左右偏转频率大于预设的第三频率阈值,且所述驾驶员在所述预设时长内眼睛闭合单次持续时间大于预设的第二时间阈值,则确定所述驾驶员处于疲劳驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于所述第三频率阈值,且所述驾驶员在所述预设时长内眼睛闭合频率大于预设的第三频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态;
或者,若所述车辆在行驶过程中的左右偏转频率大于所述第三频率阈值,且所述驾驶员在所述预设时长内打哈欠频率大于预设的第四频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态。
6.如权利要求5所述的驾驶状态确定方法,其特征在于,在所述基于所述视觉信息,确定所述驾驶员在所述预设时长内眼睛闭合单次持续时间、眼睛闭合频率、或打哈欠频率之后,还包括:
若所述驾驶员在所述预设时长内眼睛闭合单次持续时间大于预设的第二极限时间阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第二极限时间阈值等于所述第二时间阈值的m倍,m为大于1的正整数;
或者,若所述驾驶员在所述预设时长内眼睛闭合频率大于预设的第三极限频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第三极限频率阈值等于所述第三频率阈值的k倍,k为大于1的正整数;
或者,若所述驾驶员在所述预设时长内打哈欠频率大于预设的第四极限频率阈值,则确定所述驾驶员处于所述疲劳驾驶状态,所述第四极限频率阈值等于所述第四频率阈值的g倍,g为大于1的正整数。
7.如权利要求2至6任一所述的驾驶状态确定方法,其特征在于,所述车辆行驶状态信息包括车辆行驶的方向角度;
所述基于所述车辆行驶状态信息确定所述车辆在行驶过程中的左右偏转频率,包括:
基于所述车辆行驶的方向角度确定所述车辆在行驶过程中的左右偏转频率。
8.一种驾驶状态确定装置,其特征在于,包括:
获取模块,用于获取预设时长内的目标图像帧以及车辆行驶状态信息,所述目标图像帧包含驾驶员的面部特征信息;
确定模块,用于基于所述面部特征信息和所述车辆行驶状态信息确定所述驾驶员的驾驶状态。
9.一种车辆,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述驾驶状态确定方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述驾驶状态确定方法的步骤。
CN201911267783.9A 2019-12-11 2019-12-11 驾驶状态确定方法、装置、车辆及存储介质 Active CN111160126B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911267783.9A CN111160126B (zh) 2019-12-11 2019-12-11 驾驶状态确定方法、装置、车辆及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911267783.9A CN111160126B (zh) 2019-12-11 2019-12-11 驾驶状态确定方法、装置、车辆及存储介质

Publications (2)

Publication Number Publication Date
CN111160126A true CN111160126A (zh) 2020-05-15
CN111160126B CN111160126B (zh) 2023-12-19

Family

ID=70556721

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911267783.9A Active CN111160126B (zh) 2019-12-11 2019-12-11 驾驶状态确定方法、装置、车辆及存储介质

Country Status (1)

Country Link
CN (1) CN111160126B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112883834A (zh) * 2021-01-29 2021-06-01 重庆长安汽车股份有限公司 Dms***注意力分散的检测方法、***、车辆及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002331849A (ja) * 2001-05-07 2002-11-19 Nissan Motor Co Ltd 運転行動意図検出装置
CN101984478A (zh) * 2010-08-03 2011-03-09 浙江大学 基于双目视觉车道线检测的非正常s型驾驶预警方法
CN102881116A (zh) * 2011-07-13 2013-01-16 上海库源电气科技有限公司 一种疲劳驾驶预警***及方法
CN108021875A (zh) * 2017-11-27 2018-05-11 上海灵至科技有限公司 一种车辆驾驶员个性化疲劳监测及预警方法
WO2019028798A1 (zh) * 2017-08-10 2019-02-14 北京市商汤科技开发有限公司 驾驶状态监控方法、装置和电子设备

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002331849A (ja) * 2001-05-07 2002-11-19 Nissan Motor Co Ltd 運転行動意図検出装置
CN101984478A (zh) * 2010-08-03 2011-03-09 浙江大学 基于双目视觉车道线检测的非正常s型驾驶预警方法
CN102881116A (zh) * 2011-07-13 2013-01-16 上海库源电气科技有限公司 一种疲劳驾驶预警***及方法
WO2019028798A1 (zh) * 2017-08-10 2019-02-14 北京市商汤科技开发有限公司 驾驶状态监控方法、装置和电子设备
CN109803583A (zh) * 2017-08-10 2019-05-24 北京市商汤科技开发有限公司 驾驶状态监控方法、装置和电子设备
CN108021875A (zh) * 2017-11-27 2018-05-11 上海灵至科技有限公司 一种车辆驾驶员个性化疲劳监测及预警方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112883834A (zh) * 2021-01-29 2021-06-01 重庆长安汽车股份有限公司 Dms***注意力分散的检测方法、***、车辆及存储介质

Also Published As

Publication number Publication date
CN111160126B (zh) 2023-12-19

Similar Documents

Publication Publication Date Title
CN109937152B (zh) 驾驶状态监测方法和装置、驾驶员监控***、车辆
CN111079476B (zh) 驾驶状态分析方法和装置、驾驶员监控***、车辆
US10915769B2 (en) Driving management methods and systems, vehicle-mounted intelligent systems, electronic devices, and medium
EP3617935A1 (en) Driving management method and system, vehicle-mounted intelligent system, electronic device and medium
JP7146959B2 (ja) 運転状態検出方法及び装置、運転者監視システム並びに車両
EP3872689B1 (en) Liveness detection method and device, electronic apparatus, storage medium and related system using the liveness detection method
US20210197849A1 (en) Warning device and driving tendency analysis method
CN110889351B (zh) 视频检测方法、装置、终端设备及可读存储介质
CA3025964C (en) Eyeball tracking method and apparatus, and device
KR102543161B1 (ko) 산만 운전 모니터링 방법, 시스템 및 전자기기
US9076340B2 (en) Vehicle detecting system and method
US10002300B2 (en) Apparatus and method for monitoring driver's concentrativeness using eye tracing
EP3113073A1 (en) Determination device, determination method, and non-transitory storage medium
CN107405121B (zh) 用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法和装置
WO2016043515A1 (ko) 두드림에 의해 제어되는 헤드 마운트형 디스플레이 장치, 이의 제어 방법 및 이의 제어를 위한 컴퓨터 프로그램
EP3310043A1 (en) Head-mounted display, display control method, and program
CN110909718B (zh) 驾驶状态识别方法、装置及车辆
CN110969116A (zh) 注视点位置确定方法及相关装置
CN111160126A (zh) 驾驶状态确定方法、装置、车辆及存储介质
US20210146934A1 (en) Vehicle operation assistance device, vehicle operation assistance method, and program
CN114973215A (zh) 一种疲劳驾驶的确定方法、装置及电子设备
CN111062300A (zh) 驾驶状态检测方法、装置、设备及计算机可读存储介质
CN112052770A (zh) 用于疲劳检测的方法、装置、介质以及电子设备
CN115703471A (zh) 驾驶员注意力以及手放置***和方法
CN115188048A (zh) 视线校正方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant