CN107405121B - 用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法和装置 - Google Patents

用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法和装置 Download PDF

Info

Publication number
CN107405121B
CN107405121B CN201680014637.3A CN201680014637A CN107405121B CN 107405121 B CN107405121 B CN 107405121B CN 201680014637 A CN201680014637 A CN 201680014637A CN 107405121 B CN107405121 B CN 107405121B
Authority
CN
China
Prior art keywords
eye
opening signal
driver
valid
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680014637.3A
Other languages
English (en)
Other versions
CN107405121A (zh
Inventor
F.武尔夫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of CN107405121A publication Critical patent/CN107405121A/zh
Application granted granted Critical
Publication of CN107405121B publication Critical patent/CN107405121B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1103Detecting eye twinkling
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/746Alarms related to a physiological condition, e.g. details of setting alarm thresholds or avoiding false alarms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2302/00Responses or measures related to driver conditions
    • B60Y2302/03Actuating a signal or alarm device

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Medical Informatics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Emergency Management (AREA)
  • Business, Economics & Management (AREA)
  • Physiology (AREA)
  • Human Computer Interaction (AREA)
  • Ophthalmology & Optometry (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Mechanical Engineering (AREA)
  • Psychology (AREA)
  • Hospice & Palliative Care (AREA)
  • Psychiatry (AREA)
  • Educational Technology (AREA)
  • Social Psychology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Developmental Disabilities (AREA)
  • Child & Adolescent Psychology (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Traffic Control Systems (AREA)

Abstract

本发明涉及一种用于对车辆的驾驶员(115)的疲劳状态和/或睡觉状态进行识别的方法。所述方法包括读入第一眼睛睁开信号(210)和第二眼睛睁开信号(220)的步骤,其中所述第一眼睛睁开信号(210)代表着所述车辆的驾驶员(115)的左眼(125a)的眼睛睁开程度和/或由其推导的信号,并且所述第二眼睛睁开信号(220)代表着所述车辆的驾驶员(115)的右眼(125b)的眼睛睁开程度和/或由其推导的信号。此外,所述方法包括对所述第一和/或第二眼睛睁开信号(210、220)的有效性进行识别的步骤,用于在所述第一眼睛睁开信号(210)符合第一标准时将所述第一眼睛睁开信号(245)识别为有效,并且/或者用于在所述第二眼睛睁开信号(220)符合第二标准时将所述第二眼睛睁开信号(250)识别为有效。最后,所述方法包括在使用所述被识别为有效的第一眼睛睁开信号(245)和/或所述被识别为有效的第二眼睛睁开信号(250)的情况下确定所述车辆(100)的驾驶员(115)的疲劳状态和/或睡觉状态的步骤。

Description

用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的 方法和装置
技术领域
本发明涉及一种用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法、涉及一种相应的装置并且涉及一种相应的计算机程序。
背景技术
驾驶时的睡意和微睡经常导致危险的情况或者事故。如果驾驶员超过某种睡意极限值,睡意识别装置比如就输出警告(=咖啡杯-符号)。
但是,这种警告可能会被驾驶员所忽视。微睡在许多睡意协助***中没有被识别为独立的危险并且由此没有进行及时的警告。
睡意识别***间接地从驾驶行为中对驾驶员的疲劳进行估计。微睡作为独立的危险源未被重视。
同样已知一些***,这些***能够基于视频摄像设备的数据来识别眼睛的当前的睁开程度(比如SmartEye、Facelab等等)。这用相应的图像处理算法来进行。在此分别为两只眼睛探测眼睛睁开水平。
发明内容
面对这种背景,用这里所介绍的方案来介绍一种用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法、此外介绍一种使用这种方法的装置以及最后介绍一种相应的计算机程序。有利的设计方案从相应的实施例和以下说明书中产生。
这里所介绍的方案提供用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法,其中所述方法具有以下步骤:
-读入第一眼睛睁开信号和第二眼睛睁开信号,其中所述第一眼睛睁开信号代表着所述车辆的驾驶员的左眼的眼睛睁开程度和/或由其推导的信号,并且所述第二眼睛睁开信号代表着所述车辆的驾驶员的右眼的眼睛睁开程度和/或由其推导的信号;
-对所述第一和/或第二眼睛睁开信号的有效性进行识别,用于在所述第一眼睛睁开信号符合第一标准时将所述第一眼睛睁开信号识别为有效,并且/或者用于在所述第二眼睛睁开信号符合第二标准时将所述第二眼睛睁开信号识别为有效;并且
-在使用所述被识别为有效的第一眼睛睁开信号和/或所述被识别为有效的第二眼睛睁开信号的情况下确定所述车辆的驾驶员的疲劳状态和/或睡觉状态。
“眼睛睁开程度”比如能够是指眼皮以多大的百分比遮住眼睛的数值或者不过也能够是指下眼皮与上眼皮相对于彼此的绝对的间距。“由所述眼睛睁开程度推导的信号”比如能够是眼睛睁开速度(也就是眼皮的运动的速度)或者眼睛睁开加速度(也就是说眼皮的运动的加速度)。比如这种信号能够在确定所述眼睛睁开程度时通过对眼皮的运动进行第一或者第二求导获取。此外,能够为所述第一和/或第二眼睛睁开信号分配属性,该属性将相关的眼睛睁开信号标识为有效。这样的被标识为有效的眼睛睁开信号符合相应的标准。而后,在确定所述车辆的驾驶员的可能状态和/或睡觉状态时,使用所述被识别为有效的第一和/或第二眼睛睁开信号。
这里所提出的方案基于以下认识:如果将经过核实的第一和/或第二眼睛睁开信号用于进行这样的识别,那就能够对驾驶员的疲劳和/或睡觉状态进行十分稳健的识别。由此能够排除或者至少尽可能地防止:由于在检测眼睛或者眼皮的参数时产生的测量误差而获取用于驾驶员的疲劳和/或睡觉状态的错误的数值。这里所提出的方案由此提供明显更加稳健地并且更加可靠地对驾驶员的疲劳和/或睡觉状态进行识别的优点,由此能够抑制发给驾驶员的错误的或者不正确的警告。这引起通过驾驶员对驾驶员的疲劳识别或者睡觉识别的接受程度的显著提高,使得通过驾驶员以更大的可能性认真对待相应的警告。
此外,有利的是这里所介绍的方案的一种实施方式,在所述方案中,如果代表着左眼和/或右眼的眼睛睁开速度的数值具有至多与预先确定的眼睛睁开速度阈值相当的数值,则在所述识别的步骤中将所述第一和/或第二眼睛睁开信号识别为有效。这里所介绍的方案的这样的实施方式提供以下优点:虽然在用于对眼睛睁开程度进行检测的摄像设备振动时检测到眼皮的很快的运动,但是所述很快的运动不是通过眼皮的实际上的运动所引起而是通过摄像设备的较快的振动运动所引起,但是通过与一个或者复数个眼睛睁开速度阈值的比较能够识别,这种较快的运动不可能是眼睛部分的自然的运动。由此明显地提高对于眼睛运动或者眼睛的部分的运动的识别的稳健性,所述稳健性由此在进行相应的疲劳识别或者睡觉识别时降低易错性。
此外,有利的是这里所介绍的方案的一种实施方式,在该方案中在所述读入的步骤中此外读入所述车辆的驾驶员的头部的头部运动速度,其中,如果所述头部运动速度具有至多与预先确定的头部运动速度阈值相当的数值,则在所述识别的步骤中将所述第一和/或第二眼睛睁开信号识别为有效。这里所介绍的方案的这样的实施方式基于以下认识:比如在不平的地带上行驶时驾驶员的头部剧烈摇晃,使得对于实际上的眼睛睁开程度的检测由此可能有错误。如果所述头部运动速度至多达到预先确定的阈值,则将所述眼睛睁开信号识别为有效,由此能够在出现剧烈的头部摇晃时为了确定驾驶员的疲劳或者睡觉状态而抑制所述眼睛睁开信号的这样的可能有错误的数值。
此外,有利的是这里所介绍的方案的一种实施方式,在该方案中在所述读入的步骤中此外读入所述车辆的驾驶员的面部的定向,其中,如果所述定向具有处于预先确定的定向角度范围之内的数值,则在所述识别的步骤中将所述第一和/或第二眼睛睁开信号识别为有效。这里所介绍的方案的这样的实施方式提供以下优点:在识别眼睛睁开程度时能够识别由于头部的大幅度的扭转引起的可能的错误,从而为了对所述车辆的驾驶员进行疲劳识别或者睡觉状态识别而尽可能地不应该使用在存在头部的这样的大幅度的扭转的时刻的眼睛睁开信号。
如果按照这里所介绍的方案的另一种实施方式在所述确定的步骤中在使用所述被识别为有效的第一和/或第二眼睛睁开信号的情况下确定总眼睛睁开信号,则能够特别可靠地识别驾驶员的疲劳或者睡觉状态,其中在所述总眼睛睁开信号的基础上确定所述车辆的驾驶员的疲劳状态和/或睡觉状态。这里所提出的方案的这样的实施方式提供以下优点:通过对于第二只眼睛的眼睛睁开程度的检测能够为第一只眼睛对在识别眼睛睁开程度时的较小的误差进行补偿。也能够考虑,如果所述第一与第二眼睛睁开信号之间的偏差大于预先确定的阈值,则根本不将所述眼睛睁开信号之一用于确定驾驶员的疲劳和/或睡觉状态,因为在这种对于大多数人来说通常出于人体构造上的原因不会出现的情况中,应该认为一只眼睛的眼睛睁开程度的测量是错误的。
按照这里所介绍的方案的另一种实施方式,能够在所述确定的步骤中将未被识别为有效的、用于确定所述车辆的驾驶员的疲劳状态和/或睡觉状态的眼睛睁开信号抛弃,并且/或者其中对被识别为有效的第一眼睛睁开信号和被识别为有效的第二眼睛睁开信号求平均,用于确定驾驶员的疲劳状态和/或睡觉状态。这里所介绍的方案的这样的实施方式提供以下优点:稳健的并且同时在技术上十分简单的并且由此成本低廉的、用于确定所述车辆的驾驶员的眼睛睁开程度或者由其所推导的信号的可行方案以及由此简单的、用于识别所述车辆的驾驶员的疲劳和/或睡觉状态的可行方案。
此外,能够考虑这里所介绍的方案的一种实施方式,在该实施方式中在所述确定的步骤中对在下述时间间隔范围内的第一和/或第二眼睛睁开信号进行内插(Interpolieren),在所述时间间隔之内所述第一和/或第二眼睛睁开信号没有被识别为有效。这里所介绍的方案的这样的实施方式也提供以下优点:在技术上容易实现的并且同时稳健的、用于识别用于一只或者两只眼睛的眼睛睁开程度或者由其推导的信号的变型方案。
此外,有利的是在这里所提出的方案的一种实施方式,在所述方案中在所述确定的步骤中将被识别为有效的、用于确定所述车辆的驾驶员的疲劳状态和/或睡觉状态的第一和/或第二眼睛睁开信号的区段抛弃,如果所述区段比预先确定的持续时间阈值短。特别可靠的是这里所介绍的方案的一种实施方式,在所述方案中将眼睛睁开信号的时段用于识别所述车辆的驾驶员的疲劳和/或睡觉状态,如果所述眼睛睁开信号的这个时段比预先确定的持续时间阈值长。由此保证,短时间的测量误差没有导致对驾驶员的错误的警告,错误的警告会降低通过驾驶员对这样的警告的将来的接受程度。
为了在确定所述车辆的驾驶员的疲劳和/或睡觉状态时能够尽可能好地对眼睛睁开程度的短时间的测量误差进行补偿,按照这里所介绍的方案的另一种实施方式也能够在所述确定的步骤中使所述被识别为有效的第一和/或第二眼睛睁开信号和/或总眼睛睁开信号平滑。
此外,能够考虑这里所介绍的方案的一种实施方式,在所述方案中在所述识别的步骤中所述第一和/或第二眼睛睁开信号代表着比预先确定的眼睛睁开程度阈值大的眼睛睁开程度。这样的实施方式也能够非常稳健地识别疲劳和/或睡觉状态,因为基于生理上的情况眼睛至少暂时地如此睁开,从而在较短的时段中也能够感知环境。处于所述眼睛睁开程度阈值之下的眼睛睁开的持续的程度由此在生理学上少有可能并且能够被视为误测量,由此不需要将这样的信号用于确定驾驶员的疲劳和/或睡觉状态。
此外,这里所介绍的方案提供一种用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的装置,其中所述装置具有以下特征:
-用于读入第一眼睛睁开信号和第二眼睛睁开信号的接口,其中所述第一眼睛睁开信号代表着所述车辆的驾驶员的左眼的眼睛睁开程度和/或由其推导的信号,并且所述第二眼睛睁开信号代表着所述车辆的驾驶员的右眼的眼睛睁开程度和/或由其推导的信号;
-用于对所述第一和/或第二眼睛睁开信号的有效性进行识别的单元,用于在所述第一眼睛睁开信号符合第一标准时将所述第一眼睛睁开信号识别为有效,并且/或者用于在所述第二眼睛睁开信号符合第二标准时将所述第二眼睛睁开信号识别为有效;以及
-用于在使用所述被识别为有效的第一眼睛睁开信号和/或所述被识别为有效的第二眼睛睁开信号的情况下确定所述车辆的驾驶员的疲劳状态和/或睡觉状态的单元。
这里所介绍的方案由此提供一种装置,该装置构造用于在相应的机构中实施、操控或者实现这里所介绍的方法的一种变型方案的步骤。通过本发明的这种以装置的形式实现的实施变型方案也能够快速而有效地解决本发明的任务。
“装置”在此能够是指电器件,该电器件处理传感器信号并且据此输出控制信号和/或数据信号。所述装置能够具有接口,所述接口能够以硬件方式并且/或者以软件方式来构造。在以硬件方式构造时,所述接口比如能够是所谓的***ASIC的部件,该部件包含所述装置的极为不同的功能。但是也可能的是,所述接口是自身的集成的开关电路或者至少部分地由分立的结构元件所构成。在以软件方式构造时,所述接口能够是软件模块,所述软件模块除了其它的软件模块之外比如也存在于微控制器上。
也有利的是一种具有程序代码的计算机程序产品或者计算机程序,所述程序代码能够被保存在机器可读的载体或者存储介质、像比如半导体存储器、硬盘存储器或者光学存储器上,并且尤其在所述程序产品或者程序在计算机或者装置上被执行时用于实施、实现并且/或者操控按前面所描述的实施方式之一所述的方法的步骤。
附图说明
下面借助于附图来示范性地对这里所介绍的方案进行详细解释。附图中:
图1示出了车辆的框图,该车辆具有用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的装置的一种实施例;
图2示出了用于对车辆的驾驶员的疲劳状态或者睡觉状态进行识别的***的框图,该***具有按照本发明的一种实施例的、用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的装置;
图3示出了用于对车辆的驾驶员的疲劳状态和/或睡意状态进行识别的***的更为详细的框图;并且
图4示出了一种按照本发明的实施例的方法的流程图。
在以下对本发明的有利的实施例所作的说明中,为在不同的附图中示出的并且类似地起作用的元件使用相同的或者类似的附图标记,其中放弃对于这些元件的重复的描述。
具体实施方式
图1示出了车辆100的框图,该车辆具有用于对该车辆100的驾驶员115的疲劳状态和/或睡觉状态进行识别的装置110的一种实施例。所述装置110在此与摄像设备120相连接,该摄像设备检测驾驶员115的眼睛125、尤其是左眼和/或右眼125的眼皮130的位置并且从中获取相应的眼睛125的眼睛睁开程度。
图2示出了用于对所述车辆的驾驶员115的疲劳状态或者睡觉状态进行识别的***200的框图,该***具有用于对车辆的驾驶员115的疲劳状态和/或睡觉状态进行识别的装置110。在此,由摄像设备120将第一眼睛睁开信号210发送给用于进行读入的接口215,所述第一眼睛睁开信号代表着左眼125a的眼睛睁开程度或者由其推导的信号。所述眼睛睁开信号在此能够代表着左眼125a的眼皮130的闭合的、在完全睁开的眼皮130与完全闭合的眼皮130之间的比例。比如如果通过所述摄像设备120来检测所述眼皮130的位置的时间上的曲线并且相应地对其进行微分,那么,比如所述第一眼睛睁开信号210也能够代表着左眼125a的、由眼睛睁开程度推导的信号、像比如眼睛睁开速度或者眼睛睁开加速度。
类似地,由所述摄像设备120将第二眼睛睁开信号220传输给用于进行读入的接口215,但是现在所述第二眼睛睁开信号与所述第一眼睛睁开信号310相类似地代表着右眼125b的眼睛睁开程度或者由其推导的信号。所述眼睛睁开程度在此同样能够代表着右眼125b的眼皮130的闭合的、在完全睁开的眼皮130与完全闭合的眼皮130之间的比例。比如如果通过所述摄像设备120来检测所述眼皮130的位置的时间上的曲线并且相应地对其进行微分,那么,比如所述第二眼睛睁开信号220同样也能够代表着右眼125b的、由眼睛睁开程度推导的信号、像比如眼睛睁开速度或者眼睛睁开加速度。
此外,用于对驾驶员115的可能状态和/或睡觉状态进行识别的装置110具有用于进行识别的单元230,由所述接口215向所述单元传输相应所读入的第一眼睛睁开信号210和第二眼睛睁开信号220。在所述用于进行识别的单元230中,如果所述第一眼睛睁开信号210符合下面还要详细描述的第一标准,则将其识别为有效。在这种情况下,向用于进行确定的单元240传输被识别为有效的第一眼睛睁开信号245。此外,在所述用于进行识别的单元230中,如果所述第二眼睛睁开信号220以类似的方式符合下面同样还要详细描述的第二标准,则也将其识别为有效。在这种情况下,向所述用于进行确定的单元240传输被识别为有效的第二眼睛睁开信号250。
所述第一标准在此能够与所述第二标准相同。但是也能够设想,所述第一标准不同于所述第二标准,比如如果对于左眼和右眼来说存在着不同的人体构造上的比例。
而后,由所述用于进行确定的单元240在使用所述被识别为有效的第一眼睛睁开信号245和/或所述被识别为有效的第二眼睛睁开信号250的情况下确定所述车辆100的驾驶员115的可能状态和/或睡觉状态,并且输出相应的信号260。这种信号260而后代表着驾驶员115的疲劳状态和/或睡觉状态,并且比如能够用于在所述车辆100中输出报警信号。
这里所介绍的方案代表着用于疲劳识别***和微睡识别***的眼睛睁开水平的识别质量的改进。在假设在行驶期间两只眼睛125仅仅一起(并且不是彼此分开地)运动的情况下,本发明的目标是,改进稳健性和眼睛睁开水平的识别质量。
在此要动用左眼125a和右眼125b的各个信号并且计算共同的眼睛睁开水平和可能另外的参数。这里所介绍的方案也能够被称为眼睛闭合预处理(Eye ClosurePreprocessing:ECP),该方案如在图3中作为框图详细示出的那样划分成一个用于对睡意和/或微睡进行识别的总***。
图3示出了用于对车辆的驾驶员115的疲劳状态和/或睡意状态进行识别的***200的更为详细的框图。在此,首先在单元310中实施眼睛闭合预处理(ECP),在进行眼睛闭合预处理时比如读入左眼和右眼的眼睛睁开程度,其中检测相应的输出信号、像比如经过低通滤波的眼睛睁开程度、眼睛睁开加速度、眼睛睁开速度和/或相关的眼睛睁开信号的有效性。就此而言,图3的单元310相当于按照图2的装置110的单元215和230。
在所述用于进行确定的单元240的第一种变型方案中,现在能够实施微睡-识别,在所述微睡识别中在由所述单元310提供的信号的基础上识别,是否在实际上存在驾驶员115的微睡行为并且以第一子信号260a来输出所述微睡行为。
在所述用于进行确定的单元240的第二种变型方案中,现在能够对驾驶员115进行疲劳分类。为此对驾驶员的疲劳进行分类并且以第二子信号260b来输出相应的信息。
参照图2已经提到第一和第二标准,所述第一和/或第二标准应该用于将所述第一或者第二眼睛睁开信号识别为有效。接下来说明一些能够用作这样的标准的可行方案。在此,为了进行更为简单的描述,仅仅介绍所述标准本身,所述标准作为第一和/或第二标准能够用在所述用于进行识别的单元230中。首先要说明,在所述用于进行识别的单元230的不同的实施例中能够使用不同的、用于所述第一和第二标准的变型方案。但是也能够考虑,将相同的标准用作第一和第二标准。
以下有效性标准能够作为第一和/或第二标准(比如对于右眼和左眼来说分别分开)来测评。这些标准能够在产生的产物中相应地一起使用、不过也分开地使用:
-可用性:所述信号(这里是相应的眼睛睁开信号210或者220)应该无论如何可用;
-质量:由图像处理机构(这里是所述摄像设备210或者所述用于进行识别的单元230)报告的、用于对相应的眼睛进行识别的质量信号210、220、245或者250应该代表着高于特定的极限值(比如>0.2)的眼睛睁开程度;
-眼睛睁开速度:在有些情况中,在图像中所识别的眼皮130在两条曲线之间来回跳动。这种行为能够(在所述眼睛睁开信号210或者220中)比较容易地通过信号值的来回跳动来识别。在此,所产生的所测量的眼睛速度大于在生理学上最大的眼皮速度。一旦这种眼皮速度由此超过特定的极限值,那就将相应的眼睛的眼睛睁开程度或者眼睛睁开信号的所属的范围标记为无效。否则,也就是如果所述眼皮速度由此低于特定的极限值,则将所述相应的眼睛的眼睛睁开程度或者眼睛睁开信号的所属的范围标记为有效;
-头部姿势:所产生的眼睛闭合信号或者眼睛睁开信号210或者220只能在特定的头部姿势(比如向右或者向左转头小于45°)之内使用。这些头部姿势能够借助于驾驶员115的面部的定向来识别,并且能够将特定的(角度)范围标记为无效或者有效;
-头部速度:恰好对于头部运动的较高的动态来说(比如在具有大量的坑洼的车行道上行驶时),所述图像处理机构在有些情况中不能使所述眼睛睁开信号210或者220足够好地跟踪驾驶员115的眼睛125的实际上的位置,因而在对眼睛睁开程度进行测评时可能产生有错误的结果,所述有错误的结果应该归因于眼睛的区域没有足够快地通过车辆100中的测评单元来跟踪。在这里,用于头部的速度的极限值的使用是合适的。一旦所述头部的速度超过特定的极限值,那就将所述眼睛睁开信号的所属的范围标记为无效,或者正好相反将所述眼睛睁开信号的下述(比如时间上的)范围识别有效,在所述范围中驾驶员115的头部的运动速度小于所述极限值。
此外,也能够将两只眼睛的有效的眼睛睁开信号合并成一个(总)信号。所产生的(总)眼睛睁开信号而后能够根据左眼和右眼的眼睛睁开信号的有效性比如以如下方式来确定:
-如果所述两个(眼睛睁开)信号是有效的,那就形成一个(可能经过加权的)平均值。作为加权因数,这里比如所述图像处理机构的质量信号是合适的。为此,能够为被识别为有效的第一和/或第二眼睛睁开信号分配质量参数,该质量参数代表着所述眼睛睁开信号的可靠性的程度或者数值的有效性,并且该质量参数而后也能够在形成所述平均值时用于进行加权;
-如果仅仅一个(眼睛睁开)信号是有效的(左眼或者右眼),那就(仅仅)使用这个(眼睛睁开)信号;
-如果没有(眼睛睁开)信号是有效的,那也将所产生的经过平均的眼睛闭合信号或者用于所述用于进行确定的单元240的相应的输入信号或者相应的输入信号245或者250宣告为无效或者不宣告为无效。
对于如此计算的总信号和/或相应的眼睛睁开信号210或者220和/或被识别有效的相应的眼睛睁开信号245或者250来说,能够考虑以下另外的处理步骤:
-内插短的无效的范围(比如t_无效<50ms);
-除去短的有效的范围(比如t_有效<1.5s);
-信号的平滑(比如用卷积平滑滤波器(Savitzky-Golay Filter))。
用所计算的并且经过平滑的眼睛睁开信号能够在预处理的范围内计算另外的信号:
-通过对所述眼睛睁开信号进行求导和/或对所述眼睛睁开程度的时间上的特性进行求导的眼皮130的速度;
-通过对所述速度信号进行求导和/或对所述眼睛睁开程度的时间上的特性进行求导(尤其是第二求导)的所述眼皮130的加速度;
-比如借助于卷积平滑滤波器的当前的眼睛睁开水平(=在没有考虑到新眨眼的情况下的眼睛睁开)。
能够将如此计算的信号245或者250用于探测微睡和睡意。
图4示出了一种用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法400的流程图。所述方法400包括读入第一眼睛睁开信号和第二眼睛睁开信号的步骤410,其中所述第一眼睛睁开信号代表着所述车辆的驾驶员的左眼的眼睛睁开程度和/或由其推导的信号,并且所述第二眼睛睁开信号代表着所述车辆的驾驶员的右眼的眼睛睁开程度和/或由其推导的信号。此外,所述方法400包括对所述第一和/或第二眼睛睁开信号的有效性进行识别的步骤420,用于在所述第一眼睛睁开信号符合第一标准时将所述第一眼睛睁开信号识别为有效,并且/或者用于在所述第二眼睛睁开信号符合第二标准时将所述第二眼睛睁开信号识别为有效。最后,所述方法400包括在使用所述被识别有效的第一眼睛睁开信号和/或所述被识别为有效的第二眼睛睁开信号的情况下确定所述车辆的驾驶员的疲劳状态和/或睡觉状态的步骤430。
仅仅示范性地选择了所描述的并且在附图中示出的实施例。不同的实施例能够完全或者关于各个特征彼此组合。一种实施例也能够通过另一种实施例的特征来得到补充。
此外,这里所介绍的方法步骤能够重复地并且以与所描述的顺序不同的顺序来执行。
如果一种实施例在第一特征与第二特征之间包括“和/或”联结,则应该对此解读如下:所述实施例按照一种实施方式不仅具有所述第一特征而且具有所述第二特征,并且按照另一种实施方式要么仅仅具有所述第一特征要么仅仅具有所述第二特征。

Claims (10)

1.用于对车辆(100)的驾驶员(115)的疲劳状态和/或睡觉状态进行识别(420)的方法(400),其中所述方法(400)具有以下步骤:
-读入(410)第一眼睛睁开信号(210)和第二眼睛睁开信号(220),其中所述第一眼睛睁开信号(210)代表着所述车辆(100)的驾驶员(115)的左眼(125a)的眼睛睁开程度和/或由其推导的信号,并且所述第二眼睛睁开信号(220)代表着所述车辆(100)的驾驶员(115)的右眼(125b)的眼睛睁开程度和/或由其推导的信号;
-对所述第一和/或第二眼睛睁开信号(210、220)的有效性进行识别(420),用于在所述第一眼睛睁开信号(210)符合第一标准时将所述第一眼睛睁开信号(245)识别为有效,并且/或者用于在所述第二眼睛睁开信号(220)符合第二标准时将所述第二眼睛睁开信号(250)识别为有效;
-在使用所述被识别为有效的第一眼睛睁开信号(245)和/或所述被识别为有效的第二眼睛睁开信号(250)的情况下,确定(430)所述车辆(100)的驾驶员(115)的疲劳状态和/或睡觉状态,
在所述读入(410)的步骤中还读入所述车辆(100)的驾驶员(115)的面部的定向,其中,如果所述定向具有处于预先确定的定向角度范围之内的数值,则在所述识别(420)的步骤中将所述第一和/或第二眼睛睁开信号(210、220)识别为有效,并且
如果代表着所述左眼(125a)和/或右眼(125b)的眼睛睁开速度的数值具有不超过预先确定的眼睛睁开速度阈值的数值,则在所述识别(420)的步骤中将所述第一和/或第二眼睛睁开信号(210、220)识别为有效。
2.按权利要求1所述的方法(400),其特征在于,在所述读入(410)的步骤中还读入所述车辆(100)的驾驶员(115)的头部的头部运动速度,其中,如果所述头部运动速度具有至多与预先确定的头部运动速度阈值相同的数值,则在所述识别(420)的步骤中将所述第一和/或第二眼睛睁开信号(210、220)识别为有效。
3.按权利要求1或2所述的方法(400),其特征在于,在所述确定(430)的步骤中在使用所述被识别为有效的第一和/或第二眼睛睁开信号(245、250)的情况下确定总眼睛睁开信号,其中在所述总眼睛睁开信号的基础上确定所述车辆(100)的驾驶员(115)的疲劳状态和/或睡觉状态。
4.按权利要求1或2所述的方法(400),其特征在于,在所述确定(430)的步骤中将未被识别为有效的、用于确定(430)所述车辆(100)的驾驶员(115)的疲劳状态和/或睡觉状态的眼睛睁开信号(245、250)抛弃,并且/或者其中对被识别为有效的第一眼睛睁开信号(245)和被识别为有效的第二眼睛睁开信号(250)求平均,用于确定驾驶员(115)的疲劳状态和/或睡觉状态。
5.按权利要求1或2所述的方法(400),其特征在于,在所述确定(430)的步骤中,在下述时间间隔之内对所述被识别为有效的第一和/或第二眼睛睁开信号(245、250)进行内插,在所述时间间隔之内所述第一和/或第二眼睛睁开信号(210、220)没有被识别为有效。
6.按权利要求1或2所述的方法(400),其特征在于,如果被识别为有效的、用于确定(430)所述车辆(100)的驾驶员(115)的疲劳状态和/或睡觉状态的第一和/或第二眼睛睁开信号(245、250)的区段比预先确定的持续时间阈值短,则在所述确定(430)的步骤中将所述区段抛弃。
7.按权利要求3所述的方法(400),其特征在于,在所述确定(430)的步骤中使所述被识别为有效的第一和/或第二眼睛睁开信号(245、250)和/或所述总眼睛睁开信号平滑。
8.按权利要求1或2所述的方法(400),其特征在于,在所述识别(420)的步骤中所述第一和/或第二眼睛睁开信号(210、220)和/或所述被识别为有效的第一和/或第二眼睛睁开信号(245、250)代表着比预先确定的眼睛睁开程度阈值大的眼睛睁开程度。
9.用于对车辆(100)的驾驶员(115)的疲劳状态和/或睡觉状态进行识别(420)的装置(110),所述装置构造用于在相应的单元(215、230、240)中实施、实现并且/或者操控按前述权利要求中任一项所述的方法(400)的所有步骤。
10.机器可读的存储介质,所述机器可读的存储介质具有在其上所保存的计算机程序,所述计算机程序被设立用于实施、实现并且/或者操控按权利要求1到8中任一项所述的方法(400)的所有步骤。
CN201680014637.3A 2015-03-10 2016-01-05 用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法和装置 Active CN107405121B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102015204247.2A DE102015204247A1 (de) 2015-03-10 2015-03-10 Verfahren und Vorrichtung zum Erkennen eines Müdigkeits- und/oder Schlafzustandes eines Fahrers eines Fahrzeugs
DE102015204247.2 2015-03-10
PCT/EP2016/050039 WO2016142074A1 (de) 2015-03-10 2016-01-05 Verfahren und vorrichtung zum erkennen eines müdigkeits- und/oder schlafzustandes eines fahrers eines fahrzeugs

Publications (2)

Publication Number Publication Date
CN107405121A CN107405121A (zh) 2017-11-28
CN107405121B true CN107405121B (zh) 2021-03-12

Family

ID=55085646

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680014637.3A Active CN107405121B (zh) 2015-03-10 2016-01-05 用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法和装置

Country Status (6)

Country Link
US (1) US10311698B2 (zh)
EP (1) EP3268942B1 (zh)
JP (1) JP6754368B2 (zh)
CN (1) CN107405121B (zh)
DE (1) DE102015204247A1 (zh)
WO (1) WO2016142074A1 (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6514651B2 (ja) * 2016-02-15 2019-05-15 ルネサスエレクトロニクス株式会社 開眼度検出システム、居眠り検知システム、自動シャッタシステム、開眼度検出方法及び開眼度検出プログラム
JP2019111092A (ja) * 2017-12-22 2019-07-11 オムロン株式会社 生体状態推定装置、方法およびプログラム
CN109017560A (zh) * 2018-07-09 2018-12-18 中国联合网络通信集团有限公司 驾驶状态分析方法、装置及驾驶提示***
JP7180227B2 (ja) * 2018-09-20 2022-11-30 いすゞ自動車株式会社 車両用監視装置
CN111079475A (zh) * 2018-10-19 2020-04-28 上海商汤智能科技有限公司 驾驶状态检测方法和装置、驾驶员监控***、车辆
US11227156B2 (en) * 2019-01-03 2022-01-18 Qualcomm Incorporated Personalized eye openness estimation
DE102019204892A1 (de) * 2019-04-05 2020-10-08 Robert Bosch Gmbh Verfahren und Steuergerät zum Erkennen einer Müdigkeit eines Fahrers für ein Fahrassistenzsystem für ein Fahrzeug
CN110728824B (zh) * 2019-09-25 2021-11-30 东南大学 一种基于多源数据的驾驶员疲劳状态检测及提醒方法
JP2021131708A (ja) * 2020-02-19 2021-09-09 いすゞ自動車株式会社 運転支援装置
DE102020214556A1 (de) 2020-11-19 2022-05-19 Volkswagen Aktiengesellschaft Kommunikationssystem für ein Fahrzeug zum Vorgehen bei einer Schlafstörung eines Insassen
DE102021123849A1 (de) 2021-09-15 2023-03-16 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Überwachungseinrichtung zum Bestimmen eines Augenzustands einer Person und Kraftfahrzeug

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5729619A (en) * 1995-08-08 1998-03-17 Northrop Grumman Corporation Operator identity, intoxication and drowsiness monitoring system and method
CN101132729A (zh) * 2005-03-04 2008-02-27 睡眠诊断学公司 警觉性的测量
JP2010005320A (ja) * 2008-06-30 2010-01-14 Isuzu Motors Ltd 運転負担判定装置
CN102125429A (zh) * 2011-03-18 2011-07-20 上海交通大学 基于眼电信号的警觉度检测***

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3334583B2 (ja) * 1997-11-18 2002-10-15 三菱自動車工業株式会社 覚醒状態検出方法
JPH11339200A (ja) * 1998-05-28 1999-12-10 Toyota Motor Corp 居眠り運転検出装置
JP2006174960A (ja) * 2004-12-21 2006-07-06 Nissan Motor Co Ltd 覚醒度情報提示装置
US7253738B2 (en) * 2005-03-10 2007-08-07 Delphi Technologies, Inc. System and method of detecting eye closure based on edge lines
FR2893245B1 (fr) * 2005-11-17 2007-12-21 Siemens Vdo Automotive Sas Procede d'evaluation de l'etat de vigilance d'un conducteur de vehicule
JP4677963B2 (ja) * 2006-09-11 2011-04-27 トヨタ自動車株式会社 居眠り検知装置、居眠り検知方法
US7692548B2 (en) * 2006-09-12 2010-04-06 Deere & Company Method and system for detecting operator alertness
US7692551B2 (en) * 2006-09-12 2010-04-06 Deere & Company Method and system for detecting operator alertness
DE102008007152B4 (de) * 2007-03-30 2019-01-17 Volkswagen Ag Verfahren zur Parametrisierung des Augenöffnungsgrades eines Fahrers eines Kraftfahrzeugs
JP5050794B2 (ja) * 2007-11-14 2012-10-17 トヨタ自動車株式会社 眠気検知装置、眠気検知方法
JP5349350B2 (ja) * 2010-01-26 2013-11-20 トヨタ自動車株式会社 開眼度判定装置及び開眼度判定方法
JP5825588B2 (ja) * 2010-10-15 2015-12-02 浜松ホトニクス株式会社 瞬目計測装置及び瞬目計測方法
JP2012139562A (ja) * 2012-04-26 2012-07-26 Hamamatsu Photonics Kk 瞬目計測装置
CN103690162B (zh) * 2013-12-24 2015-05-20 天津师范大学 一种穿戴式脑电清醒状态检测仪
CN103767715B (zh) * 2014-01-15 2015-10-28 中国人民解放军国防科学技术大学 一种驾驶员安全驾驶状态检测装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5729619A (en) * 1995-08-08 1998-03-17 Northrop Grumman Corporation Operator identity, intoxication and drowsiness monitoring system and method
CN101132729A (zh) * 2005-03-04 2008-02-27 睡眠诊断学公司 警觉性的测量
JP2010005320A (ja) * 2008-06-30 2010-01-14 Isuzu Motors Ltd 運転負担判定装置
CN102125429A (zh) * 2011-03-18 2011-07-20 上海交通大学 基于眼电信号的警觉度检测***

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
A Novel Vehicle Safety Model : Vehicle speed Controller under Driver Fatigue;Zutao Zhang等;《IJCSNS International Journal of Computer Science and Network Security》;20090131;第9卷(第1期);第355-362页 *
一种基于眼部状态的疲劳驾驶检测方法;毛须伟 等;《长春理工大学学报(自然科学版)》;20160430;第39卷(第2期);第126-136页 *

Also Published As

Publication number Publication date
EP3268942A1 (de) 2018-01-17
CN107405121A (zh) 2017-11-28
DE102015204247A1 (de) 2016-09-15
EP3268942B1 (de) 2019-06-19
US20180240319A1 (en) 2018-08-23
JP2018511376A (ja) 2018-04-26
WO2016142074A1 (de) 2016-09-15
US10311698B2 (en) 2019-06-04
JP6754368B2 (ja) 2020-09-09

Similar Documents

Publication Publication Date Title
CN107405121B (zh) 用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法和装置
CN107697069B (zh) 汽车驾驶员疲劳驾驶智能控制方法
Ahlstrom et al. Processing of eye/head-tracking data in large-scale naturalistic driving data sets
US11535280B2 (en) Method and device for determining an estimate of the capability of a vehicle driver to take over control of a vehicle
US10748404B2 (en) Method and apparatus for recognising microsleep in a driver of a vehicle
WO2019232972A1 (zh) 驾驶管理方法和***、车载智能***、电子设备、介质
CN105286802B (zh) 基于视频信息的驾驶员疲劳检测方法
US20160272217A1 (en) Two-step sleepy driving prevention apparatus through recognizing operation, front face, eye, and mouth shape
CN106965675B (zh) 一种货车集群智能安全作业***
JP5127583B2 (ja) 対象物判定装置及びプログラム
AU2015276536A1 (en) Device, method, and computer program for detecting momentary sleep
US8879790B2 (en) Image processing device and drowsiness assessment device
CN106257549B (zh) 用于提供眼睛睁开距离用的参考水平的方法和装置
US11216968B2 (en) Face direction estimation device and face direction estimation method
CN111806451A (zh) 为车辆的驾驶辅助***识别驾驶员疲劳的方法和控制设备
CN108369768B (zh) 用于检测车辆乘客的困倦和/或微睡眠的方法和装置
JP5167027B2 (ja) 瞬き状態検出装置
JP2011125620A (ja) 生体状態検出装置
CN111696312B (zh) 乘员观察装置
JP6563526B2 (ja) 目開幅を利用してまばたき事象と計器視線とを区別する方法および装置
JP7019394B2 (ja) 視認対象検知装置、視認対象検知方法、およびプログラム
JP2013120954A (ja) 寝顔認識装置
US20230206657A1 (en) Estimation apparatus and estimation method
EP4307253A1 (en) Method for determining drowsiness of a driver in a vehicle
WO2024047856A1 (ja) 眠気推定装置および眠気推定方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant