CN101692980B - 疲劳驾驶检测方法及装置 - Google Patents

疲劳驾驶检测方法及装置 Download PDF

Info

Publication number
CN101692980B
CN101692980B CN2009101103697A CN200910110369A CN101692980B CN 101692980 B CN101692980 B CN 101692980B CN 2009101103697 A CN2009101103697 A CN 2009101103697A CN 200910110369 A CN200910110369 A CN 200910110369A CN 101692980 B CN101692980 B CN 101692980B
Authority
CN
China
Prior art keywords
line
eyes
eyelid line
eyelid
rectangular characteristic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2009101103697A
Other languages
English (en)
Other versions
CN101692980A (zh
Inventor
吴泽俊
程如中
陈伟
戴勇
赵勇
卿云立
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Safdao Technology Corp Ltd
Original Assignee
Shenzhen Safdao Technology Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Safdao Technology Corp Ltd filed Critical Shenzhen Safdao Technology Corp Ltd
Priority to CN2009101103697A priority Critical patent/CN101692980B/zh
Publication of CN101692980A publication Critical patent/CN101692980A/zh
Priority to US13/504,762 priority patent/US8891824B2/en
Priority to PCT/CN2010/078199 priority patent/WO2011050734A1/zh
Priority to GB1209532.9A priority patent/GB2487888B/en
Priority to KR1020127014044A priority patent/KR101396851B1/ko
Priority to DE112010003914T priority patent/DE112010003914T5/de
Priority to RU2012122205/14A priority patent/RU2519964C2/ru
Application granted granted Critical
Publication of CN101692980B publication Critical patent/CN101692980B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1103Detecting eye twinkling
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6813Specially adapted to be attached to a specific body part
    • A61B5/6814Head
    • A61B5/6821Eye
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2503/00Evaluating a particular growth phase or type of persons or animals
    • A61B2503/20Workers
    • A61B2503/22Motor vehicles operators, e.g. drivers, pilots, captains
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/229Attention level, e.g. attentive to driving, reading or sleeping

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Developmental Disabilities (AREA)
  • Hospice & Palliative Care (AREA)
  • Social Psychology (AREA)
  • Psychology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Psychiatry (AREA)
  • Educational Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Ophthalmology & Optometry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Physiology (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Human Computer Interaction (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明公开了一种疲劳驾驶检测方法,包括:在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像进行分析,获取上眼睑线;根据上眼睑线的曲率或曲率表征值判断眼睛的闭合状态;对眼睛的闭合状态进行统计,根据统计结果判断驾驶员是否处于疲劳状态。本发明使用上眼睑的形态来判断眼睛的开闭,由于上眼睑线相对对比度较强,更为抗干扰,并且对于表情变化的适应性更好,因此使判断结果更准确。

Description

疲劳驾驶检测方法及装置
技术领域
本发明涉及车辆的安全驾驶技术领域,尤其涉及疲劳驾驶的监控技术领域。
背景技术
先进汽车安全技术的发展方向是主动安全技术,即通过对驾驶员和车辆以及周边环境的监测,提前判断可能的危险,并采取措施预防。而驾驶员疲劳驾驶预警技术就是一种典型的主动安全技术。驾驶员处于疲劳状态时,对周围环境的感知能力、形势判断能力和对车辆的操控能力都有不同程度的下降,容易发生交通事故。因此,研究开发高性能的驾驶员注意力实时监测及预警技术,能够有效减少疲劳驾驶等行为带来的隐患,从而达到保障驾驶员人身安全和周边相关人员安全的目的。
以驾驶员的眼部为检测对象的疲劳驾驶预警技术,其主要通过检测驾驶员眼睛状态来判断注意力不集中的程度,一般采用摄像头进行脸部和眼部图像采集,再通过图像分析、建模,确定眼部状态。其中关键的一项技术就是驾驶员眼睛开闭状态的判断。
目前的疲劳监控方法多是通过判断眼睛状态来判断驾驶员是否闭眼,这种方法的主要问题在于:
1、处理速度慢。需要对图像进行很多处理,分析方法复杂,无法达到实时要求,通常一秒钟只能处理几帧图像。而在驾驶过程中,根据车速不同,驾驶员如果眼睛处于闭合或者近闭合状态1秒左右,从而没有观察前方路况,就有可能造成重大的安全事故。只有达到实时要求,才能够保证数据精度,提高判断的准确性。
2、适应性差。首先,在图像质量较好的情况下,能够准确判断眼睛状态,一旦受到光线较暗、摄像头清晰度、驾驶员头部运动等影响导致图像不清晰、噪点增加时,就无法保证准确性。其次,当驾驶员前后左右移动,导致眼部图像大小、角度出现变化时,无法动态适应,准确度出现波动。
由于以上种种缺陷,很多方法一旦离开实验室环境真正车载使用时,就难以达到理想的效果,不具有实用性。
发明内容
本发明要解决的主要技术问题是,提供一种能够提高整体处理速度、适应性强的疲劳驾驶检测方法及装置。
根据本发明的一方面,提供一种疲劳驾驶检测方法,包括:
在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像进行分析,获取上眼睑线,具体包括:采用矩形特征模版对眼睛图像按列进行遍历,记录每列中矩形特征模版特征值最大的位置,所述矩形特征模版的特征值是指矩形特征模版所在位置的矩形上半部分和下半部分的灰度差,将该位置的矩形特征模版的中心点作为上眼睑线上的一点,从而获取上眼睑线;
根据上眼睑线的曲率或曲率表征值判断眼睛的闭合状态;
对眼睛的闭合状态进行统计,根据统计结果判断驾驶员是否处于疲劳状态。
根据本发明的另一方面,提供一种疲劳驾驶检测装置,包括:上眼睑线获取模块,用于在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像进行扫描,获取上眼睑线;第一判断模块,用于根据上眼睑线的曲率或曲率表征值判断眼睛的闭合状态;疲劳状态判断模块,用于对眼睛的闭合状态进行统计,根据统计结果判断驾驶员是否处于疲劳状态。
其中,所述上眼睑线获取模块包括:扫描单元,用于将矩形特征模版在眼睛图像的每一列上滑动;灰度差计算单元,用于记录每列中矩形特征模版特征值最大的位置,所述矩形特征模版的特征值是指矩形特征模版所在位置的矩形上半部分和下半部分的灰度差;上眼睑线描绘单元,用于将该位置的矩形特征模版的中心点作为上眼睑线上的一点。
在一种实施例中,疲劳驾驶检测装置还包括拟合模块,所述拟合模块用于采用二次多项式对眼睑线进行曲线拟合处理,得到眼睑线的二次多项式表达式,将所述二次多项式表达式的二次项系数作为上眼睑线的曲率或曲率表征值;所述第一判断模块用于将所述二次项系数与设定的眼睑线曲率阈值进行比较,根据比较结果判断驾驶者的眼睛处于睁开或闭合状态。
在另一种实施例中,所述眼睑线曲率阈值包括第一阈值和第二阈值,所述第一阈值大于第二阈值,当所述二次项系数大于第一阈值时,第一判断模块判断驾驶者的眼睛处于睁开状态;当所述二次项系数小于第二阈值时,第一判断模块判断驾驶者的眼睛处于闭合状态;当所述二次项系数介于第一和第二阈值之间时,还包括用于根据上下眼睑之间的距离对眼睛的闭合状态进行辅助判断的第二判断模块。
在一种实施例中,疲劳驾驶检测装置还包括下眼睑线获取模块,用于基于获得的上眼睑线,采用矩形特征模版对眼睛图像进行扫描,获取下眼睑线。所述第二判断模块包括:上下眼睑线距离计算单元,用于计算上下眼睑线之间的平均距离;距离比较单元,用于将所述上下眼睑线之间的平均距离与设定的眼睑线距离阈值进行比较,根据比较结果判断驾驶者的眼睛处于睁开或闭合状态。
在一种实施例中,所述眼睑线距离阈值根据上眼睑线的曲率或曲率表征值进行动态变化,当所述上下眼睑线之间的平均距离大于所述眼睑线距离阈值时,判断驾驶者的眼睛处于睁开状态,否则判断驾驶者的眼睛处于闭合状态。
在一种实施例中,所述上眼睑线获取模块还包括积分单元,积分单元用于对眼睛图像进行遍历之前对眼睛图像进行积分,获取眼睛的积分图像;所述采用矩形特征模版对眼睛图像进行扫描是在眼睛积分图像上进行扫描,并计算矩形特征模版在每个位置的特征值,所述眼睛积分图像中每一点的值等于眼睛图像中以原点和该点为对角点的矩形区域的灰度总和,所述一个矩形的灰度总和等于这个矩形的左上角的值加上右下角的值减去左下角的值再减去右上角的值。
在另一种实施例中,疲劳驾驶检测装置还包括用于对获取的上眼睑线进行去噪处理的去噪模块,所述去噪模块包括:眼睑线分割单元,用于检测眼睑线上的突变点,以突变点为分割点将眼睑线分成若干段;信任段确定单元,用于在眼睑线上确定作为眼睑线基础的信任段;眼睑线校正单元,用于采用矩形特征模版从信任段的两个端点分别向两侧局部扫描,获得校正后的眼睑线。
根据本发明的另一方面,提供一种眼睑线检测装置,包括:眼睛图像获取模块,用于获得驾驶员的眼睛图像;眼睑线获取模块,用于在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像进行扫描,获取眼睑线。
其中,所述眼睑线获取模块包括:扫描单元,用于在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像按列进行扫描;灰度差计算单元,用于记录每列中矩形特征模版特征值最大的位置,所述矩形特征模版的特征值是指矩形特征模版所在位置的矩形上半部分和下半部分的灰度差;眼睑线描绘单元,用于将该位置的矩形特征模版的中心点作为眼睑线上的一点,从而获取眼睑线。
所述眼睑线获取模块还包括积分单元,用于对眼睛图像进行遍历之前对眼睛图像进行积分,获取眼睛的积分图像;所述采用矩形特征模版对眼睛图像进行扫描是在眼睛积分图像上进行扫描,并计算矩形特征模版在每个位置的特征值,所述眼睛积分图像中每一点的值等于眼睛图像中以原点和该点为对角点的矩形区域的灰度总和,所述一个矩形的灰度总和等于这个矩形的左上角的值加上右下角的值减去左下角的值再减去右上角的值。
在一种实施例中,眼睑线检测装置还包括用于对获取的眼睑线进行去噪处理的去噪模块,所述去噪模块包括:眼睑线分割单元,用于检测眼睑线上的突变点,以突变点为分割点将眼睑线分成若干段;信任段确定单元,用于在眼睑线上确定作为眼睑线基础的信任段;眼睑线校正单元,用于采用矩形特征模版从信任段的两个端点分别向两侧扫描,获得校正后的眼睑线。
本发明使用矩形特征模板对眼睛区域进行扫描寻找并描绘眼睑线,具有较好的抗干扰能力,通过组合使用不同大小的矩形模板,能够在抗噪的同时使描绘出的眼睑线同实际的眼睑线更加吻合。本发明无需对图像进行任何复杂耗时的处理,因此整体运行速度快、效率高。本发明使用上眼睑的形态来判断眼睛的开闭,由于上眼睑线相对对比度较强,更为抗干扰,并且对于表情变化的适应性更好,因此使判断结果更准确。
附图说明
图1为根据本发明的一种实施例中眼睑线检测装置的结构示意图;
图2为根据本发明的一种实施例中疲劳驾驶检测装置的结构示意图;
图3为根据本发明的一种实施例中疲劳驾驶检测方法的流程图;
图4为上眼睑线粗定位的示意图;
图5为利用积分图像计算模版特征值的示意图;
图6为上眼睑线校正示意图;
图7为根据本发明的另一种实施例中疲劳驾驶检测装置的结构示意图;
图8为根据本发明的另一种实施例中疲劳驾驶检测方法的流程图;
图9为下眼睑线定位的示意图。
具体实施方式
下面通过具体实施方式结合附图对本发明作进一步详细说明。
实施例一:
请参考图1,在根据本发明的一种实施例中,通过采用矩形特征模版来检测眼睑线。眼睑线检测装置包括:眼睛图像获取模块110和眼睑线获取模块120。眼睛图像获取模块110用于获得驾驶员的眼睛图像;眼睑线获取模块120用于在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像进行扫描,获取眼睑线。其中,在一种实例中,眼睑线获取模块120还可以进一步包括扫描单元122、灰度差计算单元123和眼睑线描绘单元124。扫描单元122用于在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像按列进行扫描;灰度差计算单元123用于记录每列中矩形特征模版特征值最大的位置,所述矩形特征模版的特征值是指矩形特征模版所在位置的矩形上半部分和下半部分的灰度差;眼睑线描绘单元124用于将该位置的矩形特征模版的中心点作为眼睑线上的一点,从而获取眼睑线。
在另一实例中,所述眼睑线获取模块120还包括积分单元121,积分单元121用于对眼睛图像进行积分,获取眼睛的积分图像;扫描单元122采用矩形特征模版在眼睛积分图像上进行扫描,所述眼睛积分图像中每一点的灰度值等于眼睛图像中以原点和该点为对角点的矩形区域的灰度总和。
在又一实例中,眼睑线检测装置还包括用于对获取的眼睑线进行去噪处理的去噪模块130,所述去噪模块130包括:眼睑线分割单元131、信任段确定单元132和眼睑线校正单元133。眼睑线分割单元131用于检测眼睑线上的突变点,以突变点为分割点将眼睑线分成若干段;信任段确定单元132用于在眼睑线上确定作为眼睑线基础的信任段;眼睑线校正单元133用于采用矩形特征模版从信任段的两个端点分别向两侧扫描,获得校正后的眼睑线。
实施例二:
请参考图2,图2所示的实施例为上述眼睑线检测装置在疲劳驾驶检测装置中的应用,疲劳驾驶检测装置包括:眼睛图像获取模块210、上眼睑线获取模块220、第一判断模块250和疲劳状态判断模块260。眼睛图像获取模块210用于根据摄像头拍摄的驾驶员的脸部图像获取驾驶员的眼睛图像;上眼睑线获取模块220用于在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像进行扫描,获取上眼睑线;第一判断模块250用于根据上眼睑线的曲率或曲率表征值判断眼睛的闭合状态;疲劳状态判断模块260用于对眼睛的闭合状态进行统计,根据统计结果判断驾驶员是否处于疲劳状态。
其中,上眼睑线获取模块220包括:积分单元221、扫描单元222、灰度差计算单元223和上眼睑线描绘单元224。积分单元221用于对眼睛图像进行积分,获取眼睛的积分图像;扫描单元222用于将矩形特征模版在眼睛的积分图像上扫描,具体是在积分图像的每一列上滑动,计算每一点的灰度值。在眼睛积分图像中,每一点的灰度值等于眼睛图像中以原点和该点为对角点的矩形区域的灰度总和。灰度差计算单元223用于记录每列中矩形特征模版特征值最大的位置,所述矩形特征模版的特征值是指矩形特征模版所在位置的矩形上半部分和下半部分的灰度差;上眼睑线描绘单元224用于将该位置的矩形特征模版的中心点作为上眼睑线上的一点,依此方法对积分图像中的每一列进行扫描和计算,从而描绘出眼睑线。
在一种实例中,在初步获得眼睑线后,还对初步获得的眼睑线进行校正,因此,疲劳驾驶检测装置还包括去噪模块230,用于去除初步获得的眼睑线上的一些干扰点或干扰线段。所述去噪模块230包括:眼睑线分割单元231、信任段确定单元232和眼睑线校正单元233。眼睑线分割单元231用于检测眼睑线上的突变点,以突变点为分割点将眼睑线分成若干段;信任段确定单元232用于在眼睑线上确定作为眼睑线基础的信任段;眼睑线校正单元233用于采用矩形特征模版从信任段的两个端点分别向两侧扫描,获得校正后的眼睑线。
在另一实例中,上眼睑线的曲率或曲率表征值通过拟合模块240获得,拟合模块240采用二次多项式对眼睑线进行曲线拟合处理,得到眼睑线的二次多项式表达式,将所述二次多项式表达式的二次项系数作为上眼睑线的曲率或曲率表征值;所述第一判断模块250将所述二次项系数与设定的眼睑线曲率阈值进行比较,根据比较结果判断驾驶者的眼睛处于睁开或闭合状态。
如图3所示,基于以上疲劳驾驶检测装置的疲劳驾驶检测方法包括以下步骤:
步骤310,采集驾驶员面部图像。例如采用安装在驾驶员前面或前下方的红外摄像头拍摄驾驶员的脸部图像,得到驾驶员面部图像数据,然后执行步骤320。
步骤320,在面部图像中定位眉毛和眼睛区域。可采用现有的各种定位眉毛和眼睛区域的方案,本实施例中仅以举例方式说明一种检测眼睛的方法。例如,根据预先训练的人脸特征分类器定位人脸区域。在读取每帧视频图像后,根据人脸特征分类器文件中所记录的人脸Harr特征来分析脸部图像信息,然后再采用AdaBoost算法及相关人脸特征分类器对图像进行模式识别,对图像中的人脸区域进行标定。然后在人脸区域内根据人眼所处的基本位置确定人眼检测感兴趣区域,例如人脸区域的中间部分,以缩小搜索眼睛的检测范围,提高检测速度。然后根据预先训练的人眼特征分类器中记录的人眼特征分析人眼检测感兴趣区域的图像,从而定位人眼区域。对眼睛区域定位后执行步骤330。
步骤330,在眼睛区域粗定位上眼睑线。使用矩形特征模板对眼睛图像进行扫描,对眼睛图像的每一列进行遍历,分析眼睛图像的灰度变化,从而获取上眼睑线。矩形特征模板是一个矩形窗口,采用该矩形窗口在眼睛图像的每一列上滑动,如图4所示,计算矩形特征模板(图中的方框)在滑动过程中在每个位置上的矩形上半部分和下半部分的灰度差,将该灰度差定义为矩形特征模版的特征值,记录特征值最大的位置,在该位置处的矩形特征模板的中心点作为上眼睑线上的一点。依次对每一列进行遍历,则每一列上有一个点被记录为上眼睑线上的点,所有的点集合起来即可描绘出眼睑线。
在一种实施例中,为提高运算速度,在对眼睛图像进行粗定位后,对眼睛图像进行积分,获取眼睛的积分图像,积分图象中一点P的值就是灰度图象中以图像原点和P为对角点的矩形区域的灰度总和。灰度图象I的积分图象S定义为:
S ( u , v ) = ∫ x = 0 u ∫ y = 0 v I ( x , y ) dxdy
矩形特征模板上下部分的灰度差的计算如图5所示。P1点的值表示区域A的灰度总和,简记为A;P2点的值为A+B;P3点的值为A+C;P4点的值为A+B+C+D。于是由P1,P2,P3,P4围成的矩形区域D的灰度总和可以表示为:P1+P4-P2-P3。借助于积分图像,计算矩形模板的灰度特征时同矩形大小无关。
计算积分图象只需要对图像进行一次遍历,记录每个点的灰度值,不用每遍历一次计算一次,因此采用积分图像计算特征值使计算速度非常快。
为了进一步提高准确度,可以对上眼睑进行由粗到精的多次匹配。首先使用较大的矩形模板寻找眼睑线,然后在已经获得的眼睑线附近,使用较小的矩形模板进行扫描,如此进行多次。较大的矩形模板具有较好的抗干扰性能,较小的矩形模板能够更为贴合实际的边缘。
矩形模板的大小可以静态指定,或者根据图像的大小动态确定,后一种方法适应性更好。
在初步描绘出上眼睑线后,为使描绘的眼睑线与实际的眼睑线更吻合,在步骤340中,对初步描绘出的上眼睑线进行去噪处理,去除眼睑线上的不可信点或不可信线段。去噪处理包括以下步骤:
1、检测眼睑线上的突变点,以突变点为分割点将眼睑线分成若干段。计算前后点在纵向上的距离差,找出距离差大于特定阈值的点,将上眼线分成若干段,如图6,可以将整个眼睑线分为E、F、G、H 4段。阈值Df可用如下公式计算。其中L为上眼线长度,n为经验值。
Df=L/n
2、在眼睑线上确定作为眼睑线基础的信任段。
3、采用矩形特征模版从信任段的两个端点分别向两侧扫描,获得校正后的眼睑线。
从信任段的两端向左右进行矩形特征模板扫描扩展该段,扫描范围是以起始点的Y坐标为中心,上下一定的阈值范围内,阈值可以根据图像大小调整,但要小于查找突变点时的距离差。例如,最长段的右端点X坐标是30,Y坐标是20,阈值是5,那么下一个点的扫描范围就在第31列,15-25行之间。然后以新的右端点为基准向右寻找下一个点,以此类推。如图6所示,实线为初步检测出的眼睑线,实线两端的虚线为采用矩形特征模版扫描法延伸出的眼睑线,左侧类似。
在确定信任段时有两种情况。
情况一、在分出的若干段中找出段长度大于1/2L的段,将该段作为信任段,然后按照步骤3中的方法向两侧延伸。
情况二、如果按照情况一没有找到信任段。则找出所有长度大于1/4L的段,根据满足条件的段数量分别处理。
如果只有一个段的长度大于1/4L,则找出剩下段中最大的段,按照找到两个段处理。
如果有两个段满足条件,则将其中一个段按照类似步骤3的方式向另一个段的方向扩展,如果能够同另一个段重合。两个段以及两个段中间在扩展过程中得到的各点组成一个新段。以新段作为信任段,按照步骤3中的方法向两侧延伸。另一种方法是:先其中一个段按照向左右分别扩展,连接相隔一个段的下一段,如果能够连接上,则从连接后形成的新段两端继续扩展,直到两个方向都没有段可连接或者无法连接。记录新段的起始位置。恢复各段原始数据。按照同样的方式扩展另外一个段。比较两个段扩展以后的新段长度,将扩展后得到的新段最长的段(原始段)作为信任段,按照步骤3中的方法向两侧延伸。
如果有三个段的长度大于1/4L,则将中间段按照类似步骤3的方式向两端扩展连接左边或者右边的段。如果能连接上,则以形成的新段作为信任段。或将中间段连接另一边的段。如果能连接上,则以形成的新段作为信任段;如果连接不上,则连接左右两个段,以形成的新段作为信任段。形成信任段后,按照步骤3中的方法向两侧延伸。
在对眼睑线进行去噪处理后执行步骤350,对上眼睑线进行拟合处理。采用二次多项式y=ax2+bx+c作为拟合函数进行最小二乘法拟合。由于截取的画面可能包括两个眼角之外的部分,这部分通常灰度差较小,为了进一步消除这部分对结果的干扰,在进行拟合时排除对应矩形模板灰度差小于一定阈值的点,如以模板面积的两倍作为阈值。
拟合后得到眼睑线的二次多项式表达式,将所述二次多项式表达式的二次项系数a作为上眼睑线的曲率或曲率表征值,然后执行步骤360。
步骤360,根据上眼睑线的曲率或曲率表征值判断眼睛的闭合状态,具体包括:将所述二次项系数a与设定的眼睑线曲率阈值进行比较;根据比较结果判断驾驶者的眼睛处于睁开或闭合状态。
在步骤370中,对眼睛闭合状态进行统计,根据统计结果判断驾驶员是否处于疲劳状态。例如:统计最近一段时间内的连续闭眼时间,如果连续闭眼时间超过了指定长度,则判定驾驶员处于疲劳状态;或者统计最近单位时间内开闭时间比,如果单位时间内开闭时间比超过一定阈值,判定驾驶员处于疲劳状态。
本实施例采取用矩形特征模板逐列匹配的方法获取眼睑线,不需要对图像进行过多的处理,整体运行速度快,对光照等各种条件造成的图像质量下降适应性好,对于驾驶员前后移动有较好的适应性。
本实施例采用眼睑曲率来判断驾驶员的眼睛闭合状态,由于上眼睑线相对对比度较强,更为抗干扰,并且对于表情变化的适应性更好,比如微笑或者有意眯眼时,上眼睑的弧度通常变化较小,与采用虹膜上下距离或上下眼睑的距离来判断眼睛闭合状态相比,判断更准确,减少了驾驶员头部姿态对判断的影响,提高了疲劳判断的精确度。并且***整体时效性好,灵敏度高,能够有效减少误报、漏报,具有较好的实用性。
本实施例在进行扫描前,首先计算眼睛图像的积分图像,大大提高了计算矩形特征模板特征值的速度。
不同于其他的基于估计值校正的去噪算法,本实施例利用较长的段作为可信段,通过在信任段两端局部范围内进行矩形特征模板扫描,对眼睑线进行校正,是一种基于实测值的校正,更为准确。
本实施例使用最小二乘法对获得的眼睑线进行平滑处理,消除因图像质量不好而造成获得的眼睑线不够平滑的现象,使得眼睑线更为符合实际的眼睑形状,同时进一步去除个别噪点的干扰。由于眼睛睁开和闭合时,上眼睑线分别接近抛物线和直线,本实施例采用二次多项式y=ax2+bx+c作为拟合函数。最小二乘法处理过后,能够得到眼睑线的二次多项式描述,二次多项式的二次项系数能够较好的反映上眼睑曲率,同其它的直接求曲率的计算方法相比,更为精确,并且对图像角度和图像质量的适应性更好。
实施例三:
在另一实施例中进一步提高判断眼睛闭合状态的准确性。由于部分人上眼睑较平或者由于俯视等原因,上眼睑的弧度并不明显,因此眼睛在睁开状态和闭合状态下,上眼睑的曲率没有明显变化,如果单一采用上眼睑曲率来判断驾驶员的眼睛闭合状态,有时会造成误判。本实施例中,除了采用上眼睑曲率来判断驾驶员的眼睛闭合状态外,还采用上下眼睑的平均距离作为辅助判断。
本实施例的疲劳驾驶检测装置结构示意图如图7所示,在上述实施例的基础上增加了第二判断模块280和下眼睑线获取模块270。下眼睑线获取模块270用于基于获得的上眼睑线,采用矩形特征模版对眼睛图像进行扫描,获取下眼睑线。
第二判断模块280在第一判断模块250进行初步判断后,采用上下眼睑的平均距离对眼睛闭合状态再作辅助判断。
在一种实例中,所述眼睑线曲率阈值包括第一阈值和第二阈值,所述第一阈值大于第二阈值,当所述二次项系数大于第一阈值时,第一判断模块判断驾驶者的眼睛处于睁开状态;当所述二次项系数小于第二阈值时,判断驾驶者的眼睛处于闭合状态;当所述二次项系数介于第一和第二阈值之间时,采用第二判断模块根据上下眼睑之间的距离对眼睛的闭合状态进行辅助判断。
所述第二判断模块280包括:上下眼睑线距离计算单元和距离比较单元。上下眼睑线距离计算单元基于描绘的上、下眼睑线,计算上下眼睑线之间的平均距离;距离比较单元用于将所述上下眼睑线之间的平均距离与设定的眼睑线距离阈值进行比较,根据比较结果判断驾驶者的眼睛处于睁开或闭合状态。
在一种实例中,所述眼睑线距离阈值可以根据上眼睑线的曲率或曲率表征值进行动态变化,当所述上下眼睑线之间的平均距离大于所述眼睑线距离阈值时,判断驾驶者的眼睛处于睁开状态,否则判断驾驶者的眼睛处于闭合状态。
基于本实施例的疲劳驾驶检测装置的疲劳驾驶检测方法如图8所示,包括以下步骤:
步骤810,采集驾驶员面部图像。
步骤812,在面部图像中定位眉毛和眼睛区域。
步骤814,在眼睛区域粗定位上眼睑线。
步骤816,对上眼睑线进行去噪处理。
步骤818,对上眼睑线进行拟合处理。
步骤820,根据上眼睑线的形态(例如曲率或曲率表征值)判断眼睛状态。采用拟合得到的多项式的二次项系数a作为判断依据。确定上下两个阈值Ch、Cl,下限阈值Cl保证大多数情况下能够判断闭眼不会出错。为了保证适应性,下限阈值Cl还可以不单独作为判断依据。在步骤822中,如果二次项系数a高于上限阈值Ch,则认为眼睛处于睁开状态,如果二次项系数a低于下限阈值Cl,则认为眼睛处于闭合状态,执行步骤830,否则转到步骤824。
步骤824,当所述二次项系数a介于第一和第二阈值之间时,对眼睛的状态进行辅助判断。根据检测到的上眼睑线检测下眼睑线,以拟合后的眼睑线的左右两点连线,如图9中的虚线L1上下一定范围(如图9中虚线L2和L3之间的区域)作为下眼睑线的扫描区域,通过矩形特征模板扫描获得下眼睑线,如图9中的线L4。
下眼睑线同样可以像获取上眼睑线一样,通过由粗到精的多次匹配来获取。
步骤826,计算上下眼睑线之间的平均距离。
步骤828,使用上下眼睑线之间的平均距离判断眼睛是否闭合。使用上下眼睑的平均距离作为第二判断依据,确定两个参考阈值,一个参考阈值Dl较大,倾向于保证不会将闭眼误判为睁眼,一个参考阈值Ds较小,倾向于保证不会将睁眼误判为闭眼。根据二次项系数值a在上下限阈值间的位置,如下面的公式所示:
Dd=Dl-(Dl-Ds)*((a-Cl)/(Ch-Cl))
将距离阈值Dd在参考值之间滑动作为判断依据,二次项系数a接近Ch的,距离阈值向Ds滑动,反之亦然。上下眼睑的平均距离大于距离阈值的判断为睁眼,否则判断为闭眼。根据判断结果执行步骤830。
步骤830,对眼睛闭合状态的历史数据进行统计,将统计结果和设定条件进行比较,从而判断驾驶员是否处于疲劳状态。
本实施例中,还可以在对上眼睑线进行拟合后,即基于处理后的上眼睑线检测下眼睑线。
本实施例使用上下眼睑的平均距离作为辅助判断,对于第一判断不能确定的情形,根据上眼睑弧度,采用可变的阈值作出最终判定。上下眼睑的平均距离对于判断闭眼比较稳定,上眼睑弧度对于判断睁眼比较稳定,两者结合起来提高疲劳驾驶判断算法的适应性。
上述模块或流程可以编制成程序,该程序可被安装在计算机中,包括各种处理器。
上述模块或流程编制成的程序可以被存储在外部可读性存储介质中,这种存储介质可以是软盘、CD-ROM、硬盘、磁带记录介质、IC卡的半导体存储器或其它的光学记录介质(例如DVD或PD)或磁记录介质。介质还包括电、光、声或其它形式的传播信号(例如,载波、红外信号、数字信号等)。
以上内容是结合具体的实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。

Claims (19)

1.一种疲劳驾驶检测方法,其特征在于包括:
在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像进行分析,获取上眼睑线,具体包括:采用矩形特征模版对眼睛图像按列进行遍历,记录每列中矩形特征模版特征值最大的位置,所述矩形特征模版的特征值是指矩形特征模版所在位置的矩形上半部分和下半部分的灰度差,将该位置的矩形特征模版的中心点作为上眼睑线上的一点,从而获取上眼睑线;
根据上眼睑线的曲率或曲率表征值判断眼睛的闭合状态;
对眼睛的闭合状态进行统计,根据统计结果判断驾驶员是否处于疲劳状态。
2.如权利要求1所述的方法,其特征在于,在采用矩形特征模版对眼睛图像进行遍历之前对眼睛图像进行积分,获取眼睛的积分图像;所述采用矩形特征模版对眼睛图像进行遍历是在眼睛积分图像上进行遍历,并计算矩形特征模版在每个位置的特征值。
3.如权利要求1所述的方法,其特征在于,采用由大到小的矩形特征模版对眼睛图像进行多次扫描,并获取上眼睑线;所述矩形特征模版的大小根据眼部图像大小动态确定。
4.如权利要求1至3中任一项所述方法,其特征在于,在获取上眼睑线后和根据上眼睑线的曲率判断眼睛的闭合状态之前还包括:对获取的上眼睑线进行去噪处理。
5.如权利要求4所述方法,其特征在于,所述去噪处理包括:
检测眼睑线上的突变点,以突变点为分割点将眼睑线分成若干段;
在眼睑线上确定作为眼睑线基础的信任段;
采用矩形特征模版从信任段的两个端点分别向两侧局部扫描,获得校正后的眼睑线。
6.如权利要求1至3中任一项所述的方法,其特征在于,在获取上眼睑线后还包括:通过二次多项式对眼睑线进行曲线拟合处理,得到眼睑线的二次多项式表达式,将所述二次多项式表达式的二次项系数作为上眼睑线的曲率或曲率表征值;所述根据上眼睑线的曲率或曲率表征值判断眼睛的闭合状态包括:
将所述二次项系数与设定的眼睑线曲率阈值进行比较;
根据比较结果判断驾驶者的眼睛处于睁开或闭合状态。
7.如权利要求6所述的方法,其特征在于,所述眼睑线曲率阈值包括第一阈值和第二阈值,所述第一阈值大于第二阈值,当所述二次项系数大于第一阈值时,判断驾驶者的眼睛处于睁开状态;当所述二次项系数小于第二阈值时,判断驾驶者的眼睛处于闭合状态;当所述二次项系数介于第一和第二阈值之间时,还包括根据上下眼睑之间的距离对眼睛的闭合状态进行辅助判断。
8.如权利要求7所述的方法,其特征在于,所述根据上下眼睑之间的距离对眼睛的闭合状态进行辅助判断包括:
基于获得的上眼睑线,采用矩形特征模版对眼睛图像进行扫描,获取下眼睑线;
计算上下眼睑线之间的平均距离;
将所述上下眼睑线之间的平均距离与设定的眼睑线距离阈值进行比较,根据比较结果判断驾驶者的眼睛处于睁开或闭合状态。
9.如权利要求1所述的方法,其特征在于,所述对眼睛的闭合状态进行统计,根据统计结果判断驾驶员是否处于疲劳状态包括:
统计最近一段时间内的连续闭眼时间,如果连续闭眼时间超过了指定长度,则判定驾驶员处于疲劳状态;或,
统计最近单位时间内开闭时间比,如果单位时间内开闭时间比超过一定阈值,判定驾驶员处于疲劳状态。
10.一种疲劳驾驶检测装置,其特征在于包括:
上眼睑线获取模块,用于在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像进行扫描,获取上眼睑线;所述上眼睑线获取模块包括:
扫描单元,用于将矩形特征模版在眼睛图像的每一列上滑动;
灰度差计算单元,用于记录每列中矩形特征模版特征值最大的位置,所述矩形特征模版的特征值是指矩形特征模版所在位置的矩形上半部分和下半部分的灰度差;
上眼睑线描绘单元,用于将该位置的矩形特征模版的中心点作为上眼睑线上的一点,从而获取上眼睑线;
第一判断模块,用于根据上眼睑线的曲率或曲率表征值判断眼睛的闭合状态;
疲劳状态判断模块,用于对眼睛的闭合状态进行统计,根据统计结果判断驾驶员是否处于疲劳状态。
11.如权利要求10所述的装置,其特征在于,所述上眼睑线获取模块还包括积分单元,积分单元用于对眼睛图像进行遍历之前对眼睛图像进行积分,获取眼睛的积分图像;所述采用矩形特征模版对眼睛图像进行扫描是在眼睛积分图像上进行扫描,并计算矩形特征模版在每个位置的特征值。
12.如权利要求10或11所述装置,其特征在于,还包括用于对获取的上眼睑线进行去噪处理的去噪模块,所述去噪模块包括:
眼睑线分割单元,用于检测眼睑线上的突变点,以突变点为分割点将眼睑线分成若干段;
信任段确定单元,用于在眼睑线上确定作为眼睑线基础的信任段;
眼睑线校正单元,用于采用矩形特征模版从信任段的两个端点分别向两侧扫描,获得校正后的眼睑线。
13.如权利要求10或11所述的装置,其特征在于,还包括拟合模块,所述拟合模块用于采用二次多项式对眼睑线进行曲线拟合处理,得到眼睑线的二次多项式表达式,将所述二次多项式表达式的二次项系数作为上眼睑线的曲率或曲率表征值;所述第一判断模块用于将所述二次项系数与设定的眼睑线曲率阈值进行比较,根据比较结果判断驾驶者的眼睛处于睁开或闭合状态。
14.如权利要求13所述的装置,其特征在于,所述眼睑线曲率阈值包括第一阈值和第二阈值,所述第一阈值大于第二阈值,当所述二次项系数大于第一阈值时,第一判断模块判断驾驶者的眼睛处于睁开状态;当所述二次项系数小于第二阈值时,判断驾驶者的眼睛处于闭合状态;当所述二次项系数介于第一和第二阈值之间时还包括用于根据上下眼睑之间的距离对眼睛的闭合状态进行辅助判断的第二判断模块。
15.如权利要求14所述的装置,其特征在于,还包括:
下眼睑线获取模块,用于基于获得的上眼睑线,采用矩形特征模版对眼睛图像进行扫描,获取下眼睑线;
所述第二判断模块包括:
上下眼睑线距离计算单元,用于计算上下眼睑线之间的平均距离;
距离比较单元,用于将所述上下眼睑线之间的平均距离与设定的眼睑线距离阈值进行比较,根据比较结果判断驾驶者的眼睛处于睁开或闭合状态。
16.如权利要求15所述的装置,其特征在于,所述眼睑线距离阈值根据上眼睑线的曲率或曲率表征值进行动态变化,当所述上下眼睑线之间的平均距离大于所述眼睑线距离阈值时,判断驾驶者的眼睛处于睁开状态,否则判断驾驶者的眼睛处于闭合状态。
17.一种眼睑线检测装置,其特征在于包括:
眼睛图像获取模块,用于获得驾驶员的眼睛图像;
眼睑线获取模块,用于在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像进行扫描,获取眼睑线;所述眼睑线获取模块包括:
扫描单元,用于在驾驶员的眼睛图像区域使用矩形特征模版对眼睛图像按列进行扫描;
灰度差计算单元,用于记录每列中矩形特征模版特征值最大的位置,所述矩形特征模版的特征值是指矩形特征模版所在位置的矩形上半部分和下半部分的灰度差;
眼睑线描绘单元,用于将该位置的矩形特征模版的中心点作为眼睑线上的一点,从而获取眼睑线。
18.如权利要求17所述的装置,其特征在于,所述眼睑线获取模块还包括积分单元,用于对眼睛图像进行遍历之前对眼睛图像进行积分,获取眼睛的积分图像;所述采用矩形特征模版对眼睛图像进行扫描是在眼睛积分图像上进行扫描,并计算矩形特征模版在每个位置的特征值。
19.如权利要求17或18所述装置,其特征在于还包括:还包括用于对获取的眼睑线进行去噪处理的去噪模块,所述去噪模块包括:
眼睑线分割单元,用于检测眼睑线上的突变点,以突变点为分割点将眼睑线分成若干段;
信任段确定单元,用于在眼睑线上确定作为眼睑线基础的信任段;
眼睑线校正单元,用于采用矩形特征模版从信任段的两个端点分别向两侧扫描,获得校正后的眼睑线。
CN2009101103697A 2009-10-30 2009-10-30 疲劳驾驶检测方法及装置 Expired - Fee Related CN101692980B (zh)

Priority Applications (7)

Application Number Priority Date Filing Date Title
CN2009101103697A CN101692980B (zh) 2009-10-30 2009-10-30 疲劳驾驶检测方法及装置
US13/504,762 US8891824B2 (en) 2009-10-30 2010-10-28 Method and device for detecting fatigue driving and the automobile using the same
PCT/CN2010/078199 WO2011050734A1 (zh) 2009-10-30 2010-10-28 疲劳驾驶检测方法、装置及汽车
GB1209532.9A GB2487888B (en) 2009-10-30 2010-10-28 Method and device for detecting fatigue driving and the automobile using the same
KR1020127014044A KR101396851B1 (ko) 2009-10-30 2010-10-28 피로 운전 검사 방법, 장치 및 자동차
DE112010003914T DE112010003914T5 (de) 2009-10-30 2010-10-28 Verfahren und Vorrichtung zur Erkennung von Müdigkeit am Steuer sowie ein Fahrzeug
RU2012122205/14A RU2519964C2 (ru) 2009-10-30 2010-10-28 Способ и устройство для обнаружения вождения в состоянии усталости и автомобиль, использующий эти способ и устройство

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2009101103697A CN101692980B (zh) 2009-10-30 2009-10-30 疲劳驾驶检测方法及装置

Publications (2)

Publication Number Publication Date
CN101692980A CN101692980A (zh) 2010-04-14
CN101692980B true CN101692980B (zh) 2011-06-08

Family

ID=42092008

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009101103697A Expired - Fee Related CN101692980B (zh) 2009-10-30 2009-10-30 疲劳驾驶检测方法及装置

Country Status (7)

Country Link
US (1) US8891824B2 (zh)
KR (1) KR101396851B1 (zh)
CN (1) CN101692980B (zh)
DE (1) DE112010003914T5 (zh)
GB (1) GB2487888B (zh)
RU (1) RU2519964C2 (zh)
WO (1) WO2011050734A1 (zh)

Families Citing this family (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101692980B (zh) * 2009-10-30 2011-06-08 深圳市汉华安道科技有限责任公司 疲劳驾驶检测方法及装置
DE102009046913A1 (de) * 2009-11-20 2011-05-26 Robert Bosch Gmbh Verfahren und Steuergerät zur Müdigkeitserkennung
WO2012144020A1 (ja) * 2011-04-19 2012-10-26 アイシン精機株式会社 瞼検出装置、瞼検出方法及びプログラム
CN102759905B (zh) * 2011-04-26 2018-04-13 费希尔控制国际公司 用于表征过程控制设施完整性的方法和装置
JP5418579B2 (ja) * 2011-12-06 2014-02-19 株式会社デンソー 開閉眼検出装置
CN105303772A (zh) * 2012-09-24 2016-02-03 由田新技股份有限公司 瞌睡提醒装置
CN103049740B (zh) * 2012-12-13 2016-08-03 杜鹢 基于视频图像的疲劳状态检测方法及装置
CN103426275B (zh) * 2013-08-01 2016-01-06 步步高教育电子有限公司 检测用眼疲劳度的装置、台灯及方法
CN103533272B (zh) * 2013-10-28 2017-03-29 京东方科技集团股份有限公司 一种显示装置及其工作方法
JP6462209B2 (ja) 2013-12-03 2019-01-30 浜松ホトニクス株式会社 計測装置及び計測方法
CN103950386A (zh) * 2014-04-07 2014-07-30 临颍县贝克电子科技有限公司 利用机动车驾驶员状态特征进行综合监控的***
FR3032919B1 (fr) * 2015-02-19 2017-02-10 Renault Sa Procede et dispositif de detection d'un changement de comportement de conducteur d'un vehicule automobile
TWI536279B (zh) * 2015-04-22 2016-06-01 緯創資通股份有限公司 人眼偵測方法及系統
JP6399311B2 (ja) * 2015-05-07 2018-10-03 スズキ株式会社 居眠り検知装置
DE102015211443A1 (de) * 2015-06-22 2016-12-22 Robert Bosch Gmbh Verfahren und Vorrichtung zum Bereitstellen eines Bezugsniveaus für eine Augenöffnungsweite
AU2016310452B2 (en) 2015-08-21 2021-04-22 Magic Leap, Inc. Eyelid shape estimation
US10146997B2 (en) 2015-08-21 2018-12-04 Magic Leap, Inc. Eyelid shape estimation using eye pose measurement
AU2016340222B2 (en) 2015-10-16 2021-07-01 Magic Leap, Inc. Eye pose identification using eye features
DE102015225109A1 (de) * 2015-12-14 2017-06-14 Robert Bosch Gmbh Verfahren und Vorrichtung zum Klassieren von Augenöffnungsdaten zumindest eines Auges eines Insassen eines Fahrzeugs und Verfahren und Vorrichtung zum Erfassen einer Schläfrigkeit und/oder eines Sekundenschlafes eines Insassen eines Fahrzeugs
RU2731676C2 (ru) * 2016-01-19 2020-09-07 Ниссан Мотор Ко., Лтд. Способ управления устройством отображения и устройство отображения
CN106097657A (zh) * 2016-08-09 2016-11-09 乐视控股(北京)有限公司 一种提醒方法、装置和车辆
CN106446849B (zh) * 2016-09-30 2019-08-23 福建省福信富通网络科技股份有限公司 一种疲劳驾驶检测方法
CN106569612A (zh) * 2016-11-09 2017-04-19 宇龙计算机通信科技(深圳)有限公司 一种护眼方法、护眼显示装置和终端
CN106889990A (zh) * 2017-01-10 2017-06-27 闽南师范大学 一种基于蓝牙传输的驾驶员疲劳状态检测***及方法
WO2019028798A1 (zh) * 2017-08-10 2019-02-14 北京市商汤科技开发有限公司 驾驶状态监控方法、装置和电子设备
US10521661B2 (en) 2017-09-01 2019-12-31 Magic Leap, Inc. Detailed eye shape model for robust biometric applications
US10740633B2 (en) * 2017-10-02 2020-08-11 Fotonation Limited Human monitoring system incorporating calibration methodology
CN107729867A (zh) * 2017-10-31 2018-02-23 奇瑞汽车股份有限公司 识别非法驾驶的方法和***
CN108229301B (zh) * 2017-11-03 2020-10-09 北京市商汤科技开发有限公司 眼睑线检测方法、装置和电子设备
CN107832792B (zh) * 2017-11-06 2020-07-31 北京经纬恒润科技有限公司 一种疲劳驾驶检测方法及装置
CN107985193B (zh) * 2017-11-30 2021-06-04 江苏中天安驰科技有限公司 疲劳驾驶预警***
CN108154095A (zh) * 2017-12-14 2018-06-12 北京汽车集团有限公司 一种确定疲劳驾驶的方法、装置和车辆
CN108742656B (zh) * 2018-03-09 2021-06-08 华南理工大学 基于脸部特征点定位的疲劳状态检测方法
CN110163037B (zh) * 2018-03-14 2022-03-04 北京航空航天大学 监测驾驶员状态的方法、设备、***、处理器及存储介质
CN110278367B (zh) * 2018-03-14 2021-11-19 厦门歌乐电子企业有限公司 基于拍摄装置的人眼检测方法、***、设备及其介质
US11430264B2 (en) * 2018-07-16 2022-08-30 Honor Device Co., Ltd. Eye open or closed state detection method and electronic device
JP6992693B2 (ja) * 2018-07-23 2022-01-13 トヨタ自動車株式会社 乗員状態認識装置
CN109241842B (zh) * 2018-08-02 2024-03-05 平安科技(深圳)有限公司 疲劳驾驶检测方法、装置、计算机设备及存储介质
EP3627468B1 (en) * 2018-08-07 2021-02-24 Shenzhen Goodix Technology Co., Ltd. Fatigue state detection method, apparatus, and device
CN109190548B (zh) * 2018-08-28 2021-04-20 武汉真元生物数据有限公司 基于gabor滤波的快速眼睑检测方法及***
CN109034132A (zh) * 2018-09-03 2018-12-18 深圳市尼欧科技有限公司 一种驾驶异常行为的检测方法
CN111160071B (zh) * 2018-11-08 2023-04-07 杭州海康威视数字技术股份有限公司 一种疲劳驾驶检测方法和装置
CN109614901B (zh) * 2018-11-30 2023-06-20 西安思菲特信息科技有限公司 驾驶员疲劳检测***
CN109717830B (zh) * 2019-01-22 2021-09-17 中国科学院苏州生物医学工程技术研究所 基于眼动及头动参数监测的疲劳检测及促醒***
TWI697847B (zh) * 2019-02-18 2020-07-01 奇美車電股份有限公司 閉眼偵測方法、電子裝置與電腦程式產品
CN110083799B (zh) * 2019-03-12 2022-12-30 明月镜片股份有限公司 一种基于眼动技术的眼镜佩戴舒适度评价方法
CN110751011A (zh) * 2019-05-23 2020-02-04 北京嘀嘀无限科技发展有限公司 驾驶安全检测方法、驾驶安全检测装置及车载终端
CN110464370A (zh) * 2019-08-28 2019-11-19 安徽星网软件技术有限公司 一种安全驾驶状态监测报警干预装置及其使用方法
CN113208591B (zh) * 2020-01-21 2023-01-06 魔门塔(苏州)科技有限公司 一种眼睛开闭距离的确定方法及装置
CN111310683B (zh) * 2020-02-24 2023-02-24 合肥工业大学 一种基于驾驶员疲劳检测的人机协同控制方法及***
CN111281403B (zh) * 2020-03-09 2021-08-13 西安交通大学 一种基于嵌入式设备的细粒度人体疲劳检测方法及设备
CN111784973B (zh) * 2020-07-30 2021-12-14 广州敏视数码科技有限公司 一种车队管理平台的mdvr设备集成疲劳检测方法
CN112550145A (zh) * 2020-11-25 2021-03-26 国家电网有限公司 一种工程车辆疲劳驾驶干预***
CN114627450A (zh) * 2020-12-10 2022-06-14 北京巴塔科技有限公司 疲劳状态检测装置及疲劳检测方法
CN114033934A (zh) * 2021-12-16 2022-02-11 中国人民解放军空军军医大学 一种飞行人员疲劳及注意力监测装置
CN114788681B (zh) * 2022-06-23 2022-10-04 华慧健(天津)科技有限公司 基于图像采集与处理技术的智能可穿戴眼健康仪
CN115366909B (zh) * 2022-10-21 2023-04-07 四川省公路规划勘察设计研究院有限公司 长大纵坡路段驾驶员事故动态预警方法、装置及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000102510A (ja) * 1998-09-29 2000-04-11 Oki Electric Ind Co Ltd 眼の開度測定方法および装置
US7253739B2 (en) * 2005-03-10 2007-08-07 Delphi Technologies, Inc. System and method for determining eye closure state
CN101375796A (zh) * 2008-09-18 2009-03-04 浙江工业大学 疲劳驾驶实时检测***
CN101523411A (zh) * 2006-11-06 2009-09-02 丰田自动车株式会社 眼开度检测***及眼开度检测方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7253738B2 (en) 2005-03-10 2007-08-07 Delphi Technologies, Inc. System and method of detecting eye closure based on edge lines
RU60446U1 (ru) * 2006-09-15 2007-01-27 Виктор Иннокентьевич Глухих Устройство для предотвращения засыпания водителя "спасение жизни"
CN101692980B (zh) * 2009-10-30 2011-06-08 深圳市汉华安道科技有限责任公司 疲劳驾驶检测方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000102510A (ja) * 1998-09-29 2000-04-11 Oki Electric Ind Co Ltd 眼の開度測定方法および装置
US7253739B2 (en) * 2005-03-10 2007-08-07 Delphi Technologies, Inc. System and method for determining eye closure state
CN101523411A (zh) * 2006-11-06 2009-09-02 丰田自动车株式会社 眼开度检测***及眼开度检测方法
CN101375796A (zh) * 2008-09-18 2009-03-04 浙江工业大学 疲劳驾驶实时检测***

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JP特开2000102510A 2000.04.11

Also Published As

Publication number Publication date
CN101692980A (zh) 2010-04-14
GB201209532D0 (en) 2012-07-11
RU2519964C2 (ru) 2014-06-20
US20120219189A1 (en) 2012-08-30
RU2012122205A (ru) 2013-12-10
KR20120076384A (ko) 2012-07-09
KR101396851B1 (ko) 2014-05-20
WO2011050734A1 (zh) 2011-05-05
GB2487888A (en) 2012-08-08
GB2487888B (en) 2015-07-15
US8891824B2 (en) 2014-11-18
DE112010003914T5 (de) 2012-11-22

Similar Documents

Publication Publication Date Title
CN101692980B (zh) 疲劳驾驶检测方法及装置
CN102324166B (zh) 一种疲劳驾驶检测方法及装置
CN109146921B (zh) 一种基于深度学习的行人目标跟踪方法
Ahlstrom et al. Processing of eye/head-tracking data in large-scale naturalistic driving data sets
Zhu et al. Reliable detection of overtaking vehicles using robust information fusion
KR101653278B1 (ko) 색상 기반 얼굴 검출을 통한 실시간 얼굴 추적 시스템
CN104318263A (zh) 一种实时高精度人流计数方法
Li Eye blink detection based on multiple Gabor response waves
CN104269028A (zh) 一种疲劳驾驶检测方法及***
CN105286802A (zh) 基于视频信息的驾驶员疲劳检测方法
Tan et al. Detecting eye blink states by tracking iris and eyelids
Kumtepe et al. Driver aggressiveness detection via multisensory data fusion
CN112862845A (zh) 一种基于置信度评估的车道线重构方法及装置
Berriel et al. A particle filter-based lane marker tracking approach using a cubic spline model
Qu et al. Scale self-adaption tracking method of Defog-PSA-Kcf defogging and dimensionality reduction of foreign matter intrusion along railway lines
CN112200828A (zh) 一种逃票行为的检测方法、装置及可读存储介质
CN105761281A (zh) 基于双边结构张量的粒子滤波目标跟踪算法及***
CN112418149A (zh) 一种基于深卷积神经网络的异常行为检测方法
CN102999760A (zh) 投票权值在线自适应调整的目标图像区域跟踪方法
Singh et al. Driver fatigue detection using machine vision approach
CN115331162A (zh) 一种跨尺度红外行人检测方法、***、介质、设备及终端
Nikan et al. Appearance-based gaze estimation for driver monitoring
US20230334692A1 (en) Device and method for tracking an object
CN111368704B (zh) 基于头部特征点的车载热成像行人检测RoIs提取方法
CN117274762B (zh) 基于视觉的地铁隧道低照度场景下实时轨道提取方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: SHENZHEN SAFDAO TECHNOLOGY CORPORATION LIMITED

Free format text: FORMER OWNER: WU ZEJUN

Effective date: 20100706

Free format text: FORMER OWNER: CHENG RUZHONG CHEN WEI DAI YONG ZHAO YONG QING YUNLI

C41 Transfer of patent application or patent right or utility model
COR Change of bibliographic data

Free format text: CORRECT: ADDRESS; FROM: 518055 PEKING UNIVERSITY CAMPUS, SHENZHEN UNIVERSITY TOWN, XILI, NANSHAN DISTRICT, SHENZHEN CITY, GUANGDONG PROVINCE TO: 518055 ROOM 804, VENTER BUSINESSS INNOVATION PARK, LISHAN UNIVERSITY TOWN, TAOYUAN STREET, NANSHAN DISTRICT, SHENZHEN CITY

TA01 Transfer of patent application right

Effective date of registration: 20100706

Address after: 518055 Shenzhen Nanshan District city Taoyuan Street Branch University City Park 804 room

Applicant after: ShenZhen Safdao Technology Corporation Limited

Address before: 518055 Guangdong city in Shenzhen Province, Nanshan District City Xili Shenzhen University North Campus

Applicant before: Wu Zejun

Co-applicant before: Cheng Ruzhong

Co-applicant before: Chen Wei

Co-applicant before: Dai Yong

Co-applicant before: Zhao Yong

Co-applicant before: Qing Yunli

C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20110608

Termination date: 20181030