CN109977820A - 一种疲劳驾驶判定方法 - Google Patents

一种疲劳驾驶判定方法 Download PDF

Info

Publication number
CN109977820A
CN109977820A CN201910194587.7A CN201910194587A CN109977820A CN 109977820 A CN109977820 A CN 109977820A CN 201910194587 A CN201910194587 A CN 201910194587A CN 109977820 A CN109977820 A CN 109977820A
Authority
CN
China
Prior art keywords
fatigue
mouth
driver
eye
frame number
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910194587.7A
Other languages
English (en)
Inventor
栾晓
赵园园
李伟生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University of Post and Telecommunications
Original Assignee
Chongqing University of Post and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University of Post and Telecommunications filed Critical Chongqing University of Post and Telecommunications
Priority to CN201910194587.7A priority Critical patent/CN109977820A/zh
Publication of CN109977820A publication Critical patent/CN109977820A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/254Fusion techniques of classification results, e.g. of results related to same input data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Business, Economics & Management (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Emergency Management (AREA)
  • Human Computer Interaction (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明涉及一种疲劳驾驶判定方法,属于图像处理领域。该方法分为三个部分:驾驶员嘴部疲劳检测、驾驶员眼部疲劳检测以及驾驶员整体疲劳驾驶判定。该方法旨在解决现有检测率不高、实用性较差只能解决单帧图像下的疲劳检测的问题。在数据集的测试中能够达到更好的检测效果。此外,本方法还能为车载摄像头之类的车内设备嵌入式开发提供技术支持。

Description

一种疲劳驾驶判定方法
技术领域
本发明属于图像处理领域,涉及车内设备的嵌入式开发、智能汽车等技术,主要针对车内驾驶员的疲劳状态判定。
背景技术
随着汽车保有量的不断提高,道路交通安全事故问题已经成为当前社会面临的严重问题。目前,我国道路交通事故年死亡人数远超其他国家,高居世界第二位,遏制道路交通事故高发、降低交通事故伤害任重道远。在庞大的交通事故死亡数据背后,驾驶员疲劳驾驶是主要原因之一,因此对驾驶员疲劳状态进行检测并做出预警有着重大的意义。
现有的疲劳驾驶***包含三个部分:人脸检测、人眼检测和疲劳判定。其中,人脸检测采用了Haar和AdaBoost算法来检测人脸,人眼检测采用灰度积分投影和块复杂度分析结合来定位人眼。然后对检测出的人眼计算PERCLOS值来判断疲劳状态。但是该方法存在着检测率不高、实用性较差只能解决单帧图像下的疲劳检测问题。因此,研究可靠性高并且能针对多帧图像检测的算法有着重大的研究价值和现实意义。
发明内容
有鉴于此,本发明的目的在于提供一种疲劳驾驶判定方法,有效检测出驾驶过程中驾驶员的疲劳状态,并作出预警。
为达到上述目的,本发明提供如下技术方案:
一种疲劳驾驶判定方法,包括以下部分:
a:对驾驶员嘴部疲劳状态进行检测;
b:对驾驶员眼部疲劳状态进行检测;
c:对驾驶员整体疲劳状态进行判定。
进一步,所述部分a包括以下步骤:
a1:采用4层卷积神经网络CNN模型,对数据库进行建模;
a2:对于给定的驾驶员嘴部图片,输出嘴部疲劳状态检测结果。
进一步,所述部分b包括:
对于给定的眼部特征点,计算眼睛闭合度EAR,其公式如下:
式中,P1,P2,P3,P4,P5,P6.分别为从左眼角逆时针旋转共6个点。
进一步,所述部分c具体包括以下步骤:
c1:对于给定的驾驶员图像,取30帧图像作为一个序列窗口;
c2:分别求窗口内眼部和嘴部疲劳占比,其公式如下:
式中,C表示该窗口内的总帧数,c1表示眼部被判定为疲劳的帧数,c2表示嘴部被判定为疲劳的帧数,r1表示眼部疲劳帧数占总窗口帧数的比例,r2表示嘴部疲劳帧数占总窗口帧数的比例;
c3:根据求得的占比和给定的权值,计算驾驶员整体疲劳判定值,其公式如下:
D=w1×r1+w2×r2
式中,D表示求得的疲劳判定结果,w1和w2分别表示眼部特征和嘴部特征的权值,r1和r2分别表示当前窗口里眼部疲劳和嘴部疲劳的帧数占窗口总帧数的比值。
本发明的有益效果在于:本发明能够实现比现有技术更加稳定和可靠的检测结果,并且更适合现阶段车内嵌入式设备的开发。
本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。
附图说明
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作优选的详细描述,其中:
图1为本发明的卷积神经网络(CNN)模型图;
图2为本发明的眼部特征点排序图;
图3为本发明的驾驶员整体疲劳判定方法流程图。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
其中,附图仅用于示例性说明,表示的仅是示意图,而非实物图,不能理解为对本发明的限制;为了更好地说明本发明的实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;对本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
本发明实施例的附图中相同或相似的标号对应相同或相似的部件;在本发明的描述中,需要理解的是,若有术语“上”、“下”、“左”、“右”、“前”、“后”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此附图中描述位置关系的用语仅用于示例性说明,不能理解为对本发明的限制,对于本领域的普通技术人员而言,可以根据具体情况理解上述术语的具体含义。
本发明提供一种疲劳驾驶判定方法,包括以下部分:
a:对驾驶员嘴部疲劳状态进行检测;
b:对驾驶员眼部疲劳状态进行检测;
c:对驾驶员整体疲劳状态进行判定。
如图1所示,本发明提供一种疲劳驾驶判定方法中的嘴部疲劳检测CNN模型图。具体包括以下部分:
2个卷积层,2个全连接层和2个池化层;
激活函数采用ReLU函数,池化层采用最大池化。
对嘴部疲劳状态进行检测包括以下步骤:
a1:采用4层卷积神经网络(CNN)模型,对数据库进行建模;
a2:对于给定的驾驶员嘴部图片,输出嘴部疲劳状态检测结果。
如图2所示,本发明提供一种疲劳驾驶判定方法中的眼部特征点排序图。其中眼睛闭和度计算公式如下:
式中,P1,P2,P3,P4,P5,P6.分别为从左眼角逆时针旋转共6个点。
如图3所述,本发明提供一种疲劳驾驶判定方法中的驾驶员整体疲劳判定方法流程图。其中数据处理部分包括以下步骤:
c1:对于给定的驾驶员图像,取30帧图像作为一个序列窗口;
c2:分别求窗口内眼部和嘴部疲劳占比,其公式如下:
式中,C表示该窗口内的总帧数,c1表示眼部被判定为疲劳的帧数,c2表示嘴部被判定为疲劳的帧数,r1表示眼部疲劳帧数占总窗口帧数的比例,r2表示嘴部疲劳帧数占总窗口帧数的比例。
c3:根据求得的占比和给定的权值,计算驾驶员整体疲劳判定值,其公式如下:
D=w1×r1+w2×r2
式中,D表示求得的疲劳判定结果,w1和w2分别表示眼部特征和嘴部特征的权值,r1和r2分别表示当前窗口里眼部疲劳和嘴部疲劳的帧数占窗口总帧数的比值。
如果D大于给定的阈值θ,则当前驾驶员处于疲劳状态,给出疲劳驾驶预警。如果小于阈值θ,则窗口后移,回到步骤c1。
最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本技术方案的宗旨和范围,其均应涵盖在本发明的权利要求范围当中。

Claims (4)

1.一种疲劳驾驶判定方法,其特征在于:包括以下部分:
a:对驾驶员嘴部疲劳状态进行检测;
b:对驾驶员眼部疲劳状态进行检测;
c:对驾驶员整体疲劳状态进行判定。
2.根据权利要求1所述的,一种疲劳驾驶判定方法,其特征在于:所述部分a包括以下步骤:
a1:采用4层卷积神经网络CNN模型,对数据库进行建模;
a2:对于给定的驾驶员嘴部图片,输出嘴部疲劳状态检测结果。
3.根据权利要求1所述的,一种疲劳驾驶判定方法,其特征在于:所述部分b包括:
对于给定的眼部特征点,计算眼睛闭合度EAR,其公式如下:
式中,P1,P2,P3,P4,P5,P6.分别为从左眼角逆时针旋转共6个点。
4.根据权利要求1所述的,一种疲劳驾驶判定方法,其特征在于:所述部分c具体包括以下步骤:
c1:对于给定的驾驶员图像,取30帧图像作为一个序列窗口;
c2:分别求窗口内眼部和嘴部疲劳占比,其公式如下:
式中,C表示该窗口内的总帧数,c1表示眼部被判定为疲劳的帧数,c2表示嘴部被判定为疲劳的帧数,r1表示眼部疲劳帧数占总窗口帧数的比例,r2表示嘴部疲劳帧数占总窗口帧数的比例;
c3:根据求得的占比和给定的权值,计算驾驶员整体疲劳判定值,其公式如下:
D=w1×r1+w2×r2
式中,D表示求得的疲劳判定结果,w1和w2分别表示眼部特征和嘴部特征的权值,r1和r2分别表示当前窗口里眼部疲劳和嘴部疲劳的帧数占窗口总帧数的比值。
CN201910194587.7A 2019-03-14 2019-03-14 一种疲劳驾驶判定方法 Pending CN109977820A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910194587.7A CN109977820A (zh) 2019-03-14 2019-03-14 一种疲劳驾驶判定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910194587.7A CN109977820A (zh) 2019-03-14 2019-03-14 一种疲劳驾驶判定方法

Publications (1)

Publication Number Publication Date
CN109977820A true CN109977820A (zh) 2019-07-05

Family

ID=67079005

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910194587.7A Pending CN109977820A (zh) 2019-03-14 2019-03-14 一种疲劳驾驶判定方法

Country Status (1)

Country Link
CN (1) CN109977820A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111179551A (zh) * 2019-12-17 2020-05-19 西安工程大学 一种危化品运输驾驶员实时监控方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7027621B1 (en) * 2001-03-15 2006-04-11 Mikos, Ltd. Method and apparatus for operator condition monitoring and assessment
CN202568277U (zh) * 2012-05-22 2012-12-05 沈阳工业大学 疲劳检测装置
CN103714660A (zh) * 2013-12-26 2014-04-09 苏州清研微视电子科技有限公司 基于图像处理融合心率特征与表情特征实现疲劳驾驶判别的***
CN104809445A (zh) * 2015-05-07 2015-07-29 吉林大学 基于眼部和嘴部状态的疲劳驾驶检测方法
CN107038422A (zh) * 2017-04-20 2017-08-11 杭州电子科技大学 基于空间几何约束深度学习的疲劳状态识别方法
CN109165630A (zh) * 2018-09-19 2019-01-08 南京邮电大学 一种基于二维人眼识别的疲劳监测方法
CN109308445A (zh) * 2018-07-25 2019-02-05 南京莱斯电子设备有限公司 一种基于信息融合的固定岗位人员疲劳检测方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7027621B1 (en) * 2001-03-15 2006-04-11 Mikos, Ltd. Method and apparatus for operator condition monitoring and assessment
CN202568277U (zh) * 2012-05-22 2012-12-05 沈阳工业大学 疲劳检测装置
CN103714660A (zh) * 2013-12-26 2014-04-09 苏州清研微视电子科技有限公司 基于图像处理融合心率特征与表情特征实现疲劳驾驶判别的***
CN104809445A (zh) * 2015-05-07 2015-07-29 吉林大学 基于眼部和嘴部状态的疲劳驾驶检测方法
CN107038422A (zh) * 2017-04-20 2017-08-11 杭州电子科技大学 基于空间几何约束深度学习的疲劳状态识别方法
CN109308445A (zh) * 2018-07-25 2019-02-05 南京莱斯电子设备有限公司 一种基于信息融合的固定岗位人员疲劳检测方法
CN109165630A (zh) * 2018-09-19 2019-01-08 南京邮电大学 一种基于二维人眼识别的疲劳监测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
张智腾: "基于卷积神经网络的驾驶员疲劳检测", 《中国优秀硕士学位论文全文数据库》, 31 January 2019 (2019-01-31) *
柳龙飞: "基于人脸特征点分析的疲劳驾驶实时检测方法", 《电视技术》, 31 December 2018 (2018-12-31) *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111179551A (zh) * 2019-12-17 2020-05-19 西安工程大学 一种危化品运输驾驶员实时监控方法

Similar Documents

Publication Publication Date Title
CN105769120B (zh) 疲劳驾驶检测方法和装置
CN105844257B (zh) 基于机器视觉雾天行车错失道路标志牌的预警***及方法
CN111723596B (zh) 注视区域检测及神经网络的训练方法、装置和设备
CN104013414B (zh) 一种基于移动智能手机的驾驶员疲劳检测***
CN104751600B (zh) 基于虹膜识别的防疲劳驾驶安全设备及其使用方法
CN109685026B (zh) 一种驾驶员手持手机通话的实时监测方法
CN105354988B (zh) 一种基于机器视觉的驾驶员疲劳驾驶检测***及检测方法
CN108875642A (zh) 一种多指标融合的驾驶员疲劳检测的方法
CN110097109A (zh) 一种基于深度学习的道路环境障碍物检测***及方法
CN103714659B (zh) 基于双光谱融合的疲劳驾驶识别***
CN106781282A (zh) 一种智能行车驾驶员疲劳预警***
CN109460699A (zh) 一种基于深度学习的驾驶员安全带佩戴识别方法
CN108638999A (zh) 一种基于360度环视输入的防碰撞预警***及方法
CN103839046A (zh) 驾驶人注意力自动识别***及其识别方法
CN107844783A (zh) 一种营运车辆异常驾驶行为检测方法及***
CN105868690A (zh) 识别驾驶员打手机行为的方法和装置
CN110070078A (zh) 一种基于传感器与机器视觉的酒驾检测方法及***
CN110171354A (zh) 一种路边停车主动警示方法及***
CN104881956A (zh) 一种疲劳驾驶预警***
CN109784296A (zh) 客车乘客数量统计方法、装置及计算机可读存储介质
CN110532925A (zh) 基于时空图卷积网络的驾驶员疲劳检测方法
CN106650635A (zh) 一种驾驶员后视镜查看行为检测方法及***
CN105235451B (zh) 具有胎压监测功能的驾驶人视觉识别***
CN109977820A (zh) 一种疲劳驾驶判定方法
CN105572869B (zh) 智能眼镜及智能眼镜控制方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20190705