CN110178104A - 用于确定驾驶员分心的***和方法 - Google Patents
用于确定驾驶员分心的***和方法 Download PDFInfo
- Publication number
- CN110178104A CN110178104A CN201780082650.7A CN201780082650A CN110178104A CN 110178104 A CN110178104 A CN 110178104A CN 201780082650 A CN201780082650 A CN 201780082650A CN 110178104 A CN110178104 A CN 110178104A
- Authority
- CN
- China
- Prior art keywords
- attention
- diverting
- driver
- state
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q9/00—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W40/09—Driving style or behaviour
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/94—Hardware or software architectures specially adapted for image or video understanding
- G06V10/95—Hardware or software architectures specially adapted for image or video understanding structured as a network, e.g. client-server architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Mechanical Engineering (AREA)
- Automation & Control Theory (AREA)
- Ophthalmology & Optometry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Transportation (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Traffic Control Systems (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
一种用于确定车辆驾驶员分心的方法,包括在车辆的车载***处对传感器测量值进行采样;产生表示分心状态的输出;基于输出确定车辆的驾驶员以分心状态为特征;在远程计算***的第二分心检测模块处,基于传感器测量值,产生表示驾驶员以分心状态为特征的第二输出;响应于生成第二输出并基于传感器测量值和分心状态,在远程计算***的评分模块处计算分心分数。
Description
相关申请的交叉引用
本申请要求2016年11月7日提交的美国临时申请序列号62/418,655的权益,该临时申请通过引用整体并入本文。
技术领域
本发明一般涉及车辆交互领域,更具体地涉及用于车辆交互领域中的确定驾驶员分心的新的和有用的***和方法。
附图说明
图1是用于驾驶员分心确定的方法的流程图表示。
图2是用于驾驶员分心确定的作为例子的***的示意图。
图3是确定模块更新的例子的示意表示。
图4是与针对一个驾驶会话中车辆沿示例路线经过的多个地点的每一个所确定的多个驾驶员分心分数相关联的路线的示意表示。
图5是与实现方法的示例相关联的示例信息和处理流程的示意图。
图6是实现方法的特定示例的流程图表示。
图7是实现方法的特定示例的流程图表示。
优选实施例
以下对本发明优选示例的描述并非旨在将本发明限制于这些优选示例,而是使本领域技术人员能够制造和使用本发明。
1.概述。
如图1所示,用于确定驾驶员分心的方法100包括:在驾驶会话期间对传感器测量值进行采样S110;基于传感器测量值确定分心因子值S120;并且基于因子值确定驾驶员分心S130。方法100用于确定驾驶员在驾驶会话期间是否分心。在一些变型中,方法100可以确定频率,严重性,位置,周围环境(例如,并发交通参数,并发车辆内部参数等),和/或驾驶员分心事件的任何其他合适参数(例如,驾驶员分心参数)。该方法可以可选地包括将传感器测量值发送到远程计算***S140;基于确定驾驶员分心生成通知S150;并且,在应用中使用驾驶员分心确定S160。
方法100的全部或部分优选地以实时或接近实时的方式执行(例如,在驾驶会话期间,当正在采样新的传感器测量值时等),但是可替代地可以异步地执行(例如,在驾驶会话结束之后,当用于车外(off-vehicle)数据传输的合适网络链路可用时等)或在任何其他合适的时间。方法100优选地针对多个驾驶员和多个驾驶会话执行,但是可替代地针对单个驾驶员,单个驾驶会话或任何合适的驾驶员或驾驶会话群体(population)执行。方法100优选地在整个驾驶会话中重复多次,但是可以替代地每个驾驶会话执行一次,响应于确定事件的发生而执行(例如,当分心因子值超过阈值时;当接近碰撞事件发生时;当用户启动分心确定;等)时,或者在任何其他合适的时间或频率下执行。
方法100可以完全或部分地由车辆上的***(例如,车载***)执行。该***可以是改装到车辆上的辅助***,车辆本身,用户设备或任何其他合适***。该***可包括传感器(例如,光学传感器,音频传感器,立体相机,立体声麦克风,惯性传感器,加速度计,陀螺仪,磁力计等),处理***(例如,CPU,GPU),输出(例如,扬声器,振动机构等),定位***(例如,GPS,蜂窝三边测量***等),通信***(例如,远程连接,例如蜂窝或WiFi,短程连接,例如BLE或NFC,有线连接,例如车辆数据总线等),电力***(例如,车辆电源插头,电池等)或任何其他合适的部件。在一个变型中,该***包括面向内部的相机(例如,朝向车辆内部,朝向驾驶员的头部体),面向外部的相机(例如,指向地平线,朝向道路等),一组音频传感器,一组惯性传感器,定位***和安装件,该安装件配置成将***安装到车辆仪表板,挡风玻璃,后视镜或车辆的任何其他合适的部件。在另一个变型中,方法100由基本上如2017年9月14日提交的美国申请序列号15/705,043中描述的***执行,该申请通过引用以其整体并入本文。然而,该方法可以由任何其他合适的***执行。在一个例子中,面向内部的相机和面向外部的相机之间的相对位置和/或相对视场关系(例如,x,y,z关系;角度关系等)是已知的并且是静态耦合的,从而例如从由面向内部的相机(内部相机)采样的图像中提取的信息可以在空间上映射到从由外部相机采样的图像中提取的信息(外部图像)。在特定例子中,从内部图像确定的驾驶员的注视方向可以在空间上映射到出现在外部图像中的车辆周围环境中的物理区域。然而,可以以其他方式使用传感器之间的空间关系。
附加地或替代地,方法100的全部或部分可以由远程计算***(例如,远程服务器),辅助***或任何其他合适的***来执行。在分离计算的一种变型中,对与分心因子相关联的传感器测量值进行采样,将传感器测量值处理成分心因子值,以及基于分心因子值(例如,即将发生的,正在发生的或先前发生的分心事件)来识别分心事件可以全部由车载***执行,而分心事件验证和应用于其他过程(例如,后处理成分心热图,过滤驾驶路线用于最佳路线等)可以由远程计算执行***。在该变型中,车载***可以发送与分心事件相关联的传感器测量值(例如,在分心事件之前,期间和/或之后记录的传感器测量值),与分心事件相关联的衍生信息(例如,从一个或多个传感器或其他输入类型生成的衍生信息),分心事件参数值(例如,时间,驾驶员,位置,严重性等)或到远程计算***的任何其他合适的信息:在分心确定时立即(例如,使用通信***)发送,在连接到高带宽连接时(例如,在连接到家庭或办公室WiFi***时)发送,或在任何其他合适的时间发送。在第二变型中,传感器测量值可以实时或近实时地传输到远程计算***,其中远程计算***执行方法100的其余部分。然而,方法100可以由***的任何其他适合的集合以其他方式执行。
检测到的驾驶员分心(分心事件,分心状态)可以用在一个或多个应用中。在第一应用中,检测到的分心事件可以用于从多个行驶路线(例如,遍历路径)中过滤出被考虑用于最佳路线规划的的行驶路线(遍历路线),其中随后可以向驾驶员推荐最佳路线,用于引导自动驾驶车辆或以其他方式使用。例如,与分心事件相关联的第一路线或路线区段(或高于阈值水平的分心分数)可以从考虑中移除,而第二路线或路线区段没有相关的分心事件(或者分心事件低于阈值)可以保留以确定最佳路线。
在第二应用中,检测到的分心事件或其分数可用于动态调整通知参数。通知可以是即将发生的碰撞事件的通知,提醒驾驶员他们分心的通知,或者是任何其他合适的通知。即将发生的碰撞事件可以是对象移动进入或已经在车辆的预期遍历路径内的的预期车辆碰撞,或者是任何其他合适的碰撞事件。即将发生的碰撞事件可以由外部相机记录的图像(例如,使用对象检测,跟踪等),来自车辆传感器(例如,接近传感器,RF传感器等)确定,或以其他方式检测。在一个变型中,通知参数值(例如,音量,亮度,持续时间等)可以根据驾驶员分心分数(例如,针对即将发生的碰撞事件的检测时间计算)成比例地增加。在第二变型中,可以基于驾驶员分心分数(例如,针对即将发生的碰撞事件检测时间计算)来选择通知类型。例如,当分心分数低于阈值分数时,驱动轮可以振动,而当分心分数高于阈值分数时,可以控制车辆的音频***发出音频通知。然而,可以基于分心分数动态地调整通知参数。
在第三应用中,可以将检测到的分心事件或其分数馈送到接近碰撞确定模块,该模块确定是否已经发生接近碰撞事件。在第四应用中,分心分数可用于确定驾驶员是否是碰撞的原因,或确定分配给驾驶员的故障百分比。例如,如果驾驶员在碰撞前的期间或碰撞前的一段时间内没有分心或者分心分数低于阈值水平,则驾驶员可以被分配比如果在碰撞之前的期间或碰撞之前一段时间内驾驶员分心或分心分数高于阈值水平的更低的故障百分比。时间段可以是恒定的持续时间,或者可以根据碰撞类型而变化。
在第五应用中,检测到的分心事件或其分数可以与驾驶员的标识符(例如,在驾驶员配置文件中)相关联地存储。此驾驶员配置文件可用于确定特定于驾驶员的通知,警报,路线或任何其他合适的信息。在一个变型中,方法100可以包括识别与给定驾驶员的更高频率的分心相关联的情境(例如,基于历史分心模式)并且自动确定最小化驾驶员的分心概率的路线(例如,最小化遇到的与分心相关联的情境的数量)(例如,使用2017年7月5日提交的美国申请号15/642,094中公开的方法识别,其全部并入本文;或任何其他合适的方法)。在第二变型中,方法100可以包括在接近历史上与驾驶员的分心事件相关联的位置时预先通知驾驶员。在第三变型中,方法100可以包括基于与驾驶员相关联的历史分心事件数据向驾驶员提供指导(例如,基于过去的行为向驾驶员提供反馈以防止未来的分心行为,在此时类似的行为模式通过该方法被确定或在其他合适的时间。然而,可以以其他方式适当地使用驾驶员配置文件。此外,可以另外适当地使用检测到的分心事件或其分数。在此和相关应用中,分数(例如,分心分数)优选地由评分模块确定,但是可以以其他方式适当地确定。
方法100和/或其块优选地由计算***的一个或多个模块(例如,分心模块,对象分类模块,对象检测模块,评分模块,面部检测模块,任何其他合适的计算模块等)实现。多个中的每个模块可以利用以下中的一个或多个:监督学***均聚类),半监督学***滑等),基于实例的方法(例如,k-最近的邻居,学***均单独依赖估计,贝叶斯置信网络等),核方法(例如,支持向量机,径向基函数,线性判别分析等),聚类方法(例如,k均值聚类,期望最大化等),相关的规则学习算法(例如,Apriori算法,Eclat算法等),人工神经网络模型(例如,Perceptron方法,反向传播方法,Hopfield网络方法,自组织映射方法,学习矢量量化方法等),深度学习算法(例如,受限制的Boltzmann机器,深度置信网络方法,卷积网络方法,层叠自动编码器方法等),降维方法(例如,主成分分析,偏最小二乘回归,Sammon映射,多维尺度,投影寻踪等),集成方法(例如,增强,自举聚合,AdaBoost,层叠泛化,梯度增强机方法,随机森林法等),以及任何合适形式的机器学习算法。每个模块可以附加地或替代地是:概率模块,启发式模块,确定性模块,或者是利用任何其他合适的计算方法,机器学习方法或其组合的任何其他合适的模块。
可以基于新接收的最新测量值;在操作期间记录的过去测量值;在过去的操作期间记录的历史测量值;合成数据来生成,证实,验证,增强,校准或以其他方式更新每个模块;或基于任何其他合适的数据进行更新。例如,可以使用一组合成图像来训练分心模块和/或面部识别模块,合成图像可以包括过度曝光,编辑的(例如,包括模拟来自车的框架的阴影的阴影或线条),扭曲的(例如,模拟不同的相机位置或差异),和/或以其他方式修改以模拟不同的成像条件的一组驾驶员面部的真实图像。然而,可以使用任何合适的数据集,例如使用2017年7月5日提交的美国申请号15/641,982中公开的方法生成的数据,该申请通过引用以其整体并入本文,或者数据的任何其他合适的集合。每个模块都可以运行或更新:一次;以预定的频率;每次执行该方法时;每次收到意外的测量值;或以任何其他合适的频率。该组模块可以与一个或多个其他模块同时运行或更新,依次地,以变化的频率或在任何其他合适的时间运行。
2.好处
方法100的变体可以赋予各种益处和/或优点。
首先,通过警告(例如,通知)驾驶员他或她基于驾驶员行为而可能分心或可能变得分心,该方法的变型能够避免潜在的碰撞。例如,该方法可以包括当驾驶员的注视已经漂移时(例如,超过距离车辆的行进方向的偏离大于阈值时间量的阈值角度偏离)时生成音频警报,这可以重新将驾驶员的注意聚焦在路上。
其次,该方法的变体可以使远程实体(例如,车队经理)能够同时监控多个驾驶员的表现(例如,分心等级,状态,分数等)。例如,安装在车队中的每一个中的车载***可以独立地检测驾驶员是处于分心状态还是专心状态,并且可以将驾驶员的状态发送到与远程实体相关联的远程计算***。
第三,该方法的变体可以实现分布式计算,用于计算***及其模块的增强的性能。例如,该方法可以包括使用车载***的计算模块检测驾驶员的分心状态,并且可以将第一分心状态检测的结果(和/或基础传感器数据)发送到远程计算***以确认或反驳初始检测。因此,在前述例子中,车载***可以避免错误否定检测(例如,车载***可以实现用于分心的较低检测阈值和/或较不复杂的计算模型)并且快速响应于感知的驾驶员分心,同时远程计算***可以避免可能导致对驾驶员产生负面影响的假阳性检测(false positivedetection)(例如,更高的保险费,丢失他或她的工作等)。
第四,该方法的变体可以实现基于情境的动作(例如,通知)。例如,传感器数据可以被馈送到多个分析模块,其中一个分析模块的输出可以用作触发事件或用作不同分析模块的二次验证。附加地或替代地,多个分析模块的结果可以被馈送到下游模块(例如,评分模块,通知模块),其中下游模块可以基于模块的输出值动态地选择动作参数(例如,通知强度,类型,开始时间,结束时间等)。在一个具体例子中,当驾驶员分心和紧跟行驶时(例如,分别来自分心模块和紧跟行驶模块的输出),可以快速呈现紧急通知,并且仅在驾驶员分心而不是紧跟行驶时,在持续检测到分心后,才能呈现警告通知。在其他例子中,当分心事件和任何其他相关交通情况的组合(例如,临近红色或黄色交通信号,临近停车标志,接近行人或车辆等)被检测到时,可以向驾驶员呈现通知。但是,可以以其他方式使用分析模块。
然而,方法100的变体可以附加地或替代地赋予任何合适的益处和/或优点。
3.方法。
方法100包括块S110,其包括:采样传感器测量值。对传感器测量值进行采样起到以采样表示驾驶员在给定时间点或时间段内分心的信号的作用。传感器测量值优选地在驾驶会话期间被采样(例如,记录),但是可替代地可以在驾驶会话之前或之后立即执行,基本上在驾驶会话之前或之后,跨多个驾驶会话,或在任何其他合适的时间执行。传感器测量值可以以预定频率(例如,2-5Hz,10Hz,100Hz等)记录,响应于记录事件的发生而被记录(例如,当接近传感器检测到近端对象时,当车辆速度超过阈值速度时等),或在任何其他合适的时间被记录,响应于和/或基于任何合适的触发或事件。传感器测量值优选地由车载***记录,但也可以由任何其他合适的传感器组记录。
在第一变型中,传感器测量值包括车厢内部的图像或视频(例如,图像集),其可以由朝向驾驶员侧头部体积的向内相机采样或以其他方式采样(例子在图2中示出)。例如,块S110可以包括在车辆的车载***处对传感器测量值进行采样,其中传感器测量值包括驾驶员的图像(例如,S110a,S110′)。相机的视野优选地包括驾驶员头部的全部或一部分,并且可以可选地包括乘客侧体积的全部或一部分(例如,乘客的身体或头部),后座椅的全部或一部分,后窗的全部或一部分,驾驶员侧窗,乘客侧窗,或包括车辆内部的任何其他合适部分。图像可用于光学地识别和/或跟踪驾驶员的头部位置,头部运动,眼睛位置(例如,注视方向),眼睛运动,其参数(例如,持续时间,角度等),或确定任何其他合适的分心因子值。图像还可以用于确定驾驶情境,例如车辆中是否有乘客或乘客位于何处,可通过车窗看到的车辆周围的环境,和/或从图像中可导出的任何其他合适的情境。图像还可以用于证实或验证其他分心因子值。例如,当用户设备呈现在同时记录的图像中时,可以证实驾驶员与用户设备(例如,电话)的交互。图像可以是可见光谱图像,高光谱图像,IR图像,或者可以以任何其他合适的波长进行采样。可以使用环境光,由光发射器(例如,来自LED闪光灯等)发射的光或使用任何其他合适的光源来记录图像。图像可以是立体图像(例如,由立体相机记录),单个图像,或者是任何其他合适的图像。
在第二变型中,传感器测量值包括车厢音频(例如,车辆内部噪声),其可以由布置在驾驶员体积附近的音频传感器采样(例如,与车载***集成,与驾驶员相关的用户设备的一部分等)或以其他方式采样。车厢音频可用于推断驾驶员头部位置,驾驶情境(例如,驾驶员是否平静,车辆中是否有儿童等),或以其他方式使用。车厢音频优选地包括驾驶员音频,并且可以可选地包括乘客侧音频,后座音频,车辆音频(例如,由车辆生成),道路噪声,无线电音频,通知音频或任何其他合适的音频流。车厢音频可以是单个流(例如,由单个音频传感器记录),多个流(例如,由多个并置或远端音频传感器记录,其中车厢音频以立体声记录等),或者包括任何合适数量的音频流。
在第三变型中,传感器测量值包括用户设备操作参数,其可以由用户设备确定或以其他方式确定(例子在图2中示出)。用户设备操作参数可以包括用户设备的:处理负载(例如,从活动监视器确定,CPU负载,GPU负载等),处理负载变化,功耗,触摸输入操作,传感器测量值或任何其他合适的操作参数集。用户设备传感器测量值可以包括用户设备运动学,压力,温度,环境光障碍,或表示驾驶员与用户设备的交互的任何其他合适的参数测量值。用户设备操作参数可以由在用户设备上运行的一个或多个客户端(例如,应用,多个应用上的SDK等)确定,或者以其他方式确定。在变型的一个例子中,处理负载增加可以表示用户与用户设备的交互。在变型的第二例子中,触摸输入操作可以表示用户将数据输入到用户设备中。在变型的第三例子中,用户设备振动可以表示用户正在敲击用户设备。在第四例子中,用户设备翻译可以表示用户举起或接收(pick up)用户设备。在第五例子中,采样的用户设备环境压力或温度的增加可以表示用户设备被持有。然而,可以监视任何其他合适的用户设备参数以用于与用户设备的用户交互。
在第四变型中,传感器测量值包括车辆传感器数据,其可以由车辆确定或以其他方式确定(在图2中示出例子)。车辆传感器数据可以通过车辆数据总线从车辆接收,从车辆无线传送,或者以其他方式从车辆接收。车辆传感器数据可以包括:控制面板信号(例如,是否正在改变无线电,是否正在使用用户界面等),方向盘信号(例如,在方向盘上的触摸的数量,高压区域,高温区域),座椅传感器信号(例如,驾驶员的重量分布或随时间变化等),或任何其他合适的测量值组。但是,可以对任何其他合适的传感器测量值进行采样。
在第五变型中,传感器测量值包括车辆外部的图像或视频(例如,图像组),其可以由朝向车辆前方的向外的相机采样(例如,通过前挡风玻璃)或以其他方式采样(例如,如图2所示的例子)。相机的视野优选地包括朝向车辆前方定向的道路的全部或一部分(例如,朝向车辆前方的前景,车辆在其中移动的车道,相邻车道或多条车道等),并且可以可选地包括车辆侧面的区域(例如,驾驶员侧,乘客侧),至车辆后部,车辆上方的区域(例如,通过天窗和/或汽车天窗(moon-roof)),或包括车辆外部环境的任何其他合适部分。图像可用于光学地识别和/或跟踪车辆在环境中的位置(例如,定位车辆),车道内的位置,相对于其他对象(例如,车辆,行人等)的位置,或确定任何其他合适的参数值。图像还可以用于确定驾驶情境,例如在安放传感器的车辆的前方或旁边是否存在第二车辆。图像还可以用于确定,证实和/或验证其他分心因子值。例如,可以基于道路车道内的横向漂移的量和/或频率来测量驾驶员注意力。在车道内漂移可以基于车辆路径提取(例如,从图像或多个图像中提取车辆轨迹)以及与从道路图像提取的车道标记的比较。图像可以是可见光谱图像,高光谱图像,IR图像,或者可以以任何其他合适的波长进行采样。可以使用环境光,由光发射器(例如,来自LED闪光灯等)发射的光或使用任何其他合适的光源来记录图像。图像可以是立体图像(例如,由立体相机记录),单个图像,或者是任何其他合适的图像。
在第六变型中,传感器测量值包括运动信号。运动信号优选地表示车辆的运动变量(例如,加速度,速度,位置,猛拉(jerk)等),但是可以附加地或替代地表示与车辆和/或车辆乘员相关联的任何合适的运动变量(例如,驾驶员,乘客等)。运动信号优选地通过车载***的运动测量机构(例如,惯性测量单元)收集,但是可以附加地或替代地由任何其他合适的部件收集。在第一例子中,传感器测量值包括车载***的惯性测量单元的加速度计输出。然而,传感器测量值可以另外包括任何合适的运动信号,车辆信息(例如,方向盘位置,踏板位置),指示器或其他信息。
方法100包括块S120,其包括:基于传感器测量值确定分心因子值。确定分心因子值的作用是表征驾驶员的注意力,分心水平或驾驶员对与驾驶车辆相关联的任务组的驾驶员注意力的其他合适的表示符。可以确定值的分心因子可以包括:驾驶员注视方向,驾驶员眼睛运动,驾驶员头部方向,驾驶员头部运动,驾驶员身***置,车辆车厢噪声,用户设备交互(例如,电话交互,车辆控制面板交互,或者表示即将发生的,即时的或先前的驾驶员分心的任何其他合适的因子。可以同时或异步地确定一个或多个分心因子值并用于分心事件检测。
分心因子值优选地基于传感器测量值来确定,但是可以附加地或替代地被检索,接收(例如,从预处理***或数据库),或以其他方式确定。分心因子值可以从单个传感器测量类型确定,从多个传感器测量类型(例如,使用传感器合成)确定,或以其他方式确定。附加地或替代地,可以使用第二传感器测量类型来验证所确定的因子值。
分心因子值优选地在驾驶员分心模型内被隐含地确定,但是可以附加地或替代地明确地被确定和/或以其他方式计算。在第一例子中,块S120至少部分地实现为以“端到端”方式训练的学习模块,其中输入被提供给模块并且输出被标记为正(例如,分心)或负(例如,不分心),但是由学习模块实现的模型的特性(例如,分心因子值)不是预先指定的。然而,块S120可以另外适合地实现为非学习模块,和/或实现为以任何其他合适方式训练的学习模块。
每个确定的分心因子值可以与基础传感器测量的记录时间相关联,与记录时间相关联的车辆位置(例如,使用***定位***,车辆定位***等确定)相关联,与和驾驶会话和/或记录时间相关联的驾驶员(例如,如从驾驶员生物测量学确定的,驾驶员的用户设备等确定的)相关联,或与任何其他合适的并发参数相关联。然而,分心因子值可以与任何其他合适的时间,位置,驾驶员或信息相关联。
可以使用公式,回归,分类,神经网络(例如,卷积神经网络,深度神经网络),启发,选择(例如,来自库,图形或图表),基于实例的方法(例如,最近邻居),正则化方法(例如,岭回归),决策树,贝叶斯方法,核方法,概率,确定性,以上的组合,或任何其他合适的方法来确定分心因子值(例如,通过分心检测模块,其例子在图2中示出)。分心因子值可以是二元状态(例如,分心和不分心),分数(例如,分心分数等),严重性(例如,分心状态或事件导致实质损失的可能性,与分心状态相关的风险因子,等等),或者是驾驶员分心水平的任何其他合适的测量。
在特定例子中,块S120可以包括在车载***的面部检测模块处接收传感器测量值(例如,图像)。该例子可以包括在面部检测模块处生成输出,其中输出表示在图像中存在面部(例如,S120a,S120′)。输出可以用作驾驶员分心模块的输出上的检查(check,例如,多个检查中的一个),以确定驾驶员分心模块是否错误地标记了分心事件和/或分心状态。然而,可以另外适当地使用表示图像中存在面部的第一输出(例如,识别驾驶员)。
在另一具体例子中,块S120可包括在车载***的驾驶员分心模块处接收传感器测量值(例如,图像,图像序列等)。该例子可以包括在驾驶员分心模块处生成表示分心状态的输出(例如,S120b,S120”)。驾驶员分心模块的输出优选地与面部检测模块的输出并行地生成(例如,实时地,近实时地,同时地,同时期地,在微秒间隔内,在秒间隔内等),但是可以附加地或替代地依次地(例如,在面部检测模块的输出之前或之后)和/或与其他合适的模块的任何合适的生成的输出具有任何合适的时间关系。在进一步的替代方案中,驾驶员分心模块可以独立于面部检测模块操作,在一些变型中可以省略该面部检测模块。
在第一变型中,确定分心因子值可以包括确定驾驶员注视的参数,例如注视方向,注视持续时间,注视角度(例如,相对于参考点),注视方向的变化率,或任何其他合适的注视参数。这可以包括识别驾驶员的角膜反射,瞳孔,视网膜图案或采样图像或视频帧中的其他眼睛参数(例如,与驾驶员体积相关联的图像片段),以及使用注视估计,头部姿势确定或任何其他合适的技术确定驾驶员的注视方向。注视方向可以可选地被分类为一组预定方向(例如,前方,右侧,左侧,后方等)中的一个或以其他方式表征。附加地或替代地,可以针对每个头部姿势,持续时间或来自任何其他图像集确定注视的数量,频率,持续时间或其他参数。
在第二变型中,确定分心因子值可包括确定驾驶员的头部运动。这可以包括:
使用对象识别来识别图像内的驾驶员头部,通过一系列图像(例如,使用对象跟踪)跟踪头部(例如,识别的对象)运动,确定头部运动的参数(例如,转向,动作持续时间等)。该变型可以可选地包括基于头部运动参数确定当前或预期的头部姿势。
在第三变型中,确定分心因子值可包括确定驾驶员的头部姿势。这可以包括:
识别图像中的驾驶员头部,在驾驶员向前看时获取驾驶员头部的参考图像,并基于新图像中的驾驶员头部与参考图像中的驾驶员头部之间的差异来确定驾驶员的头部姿势。在一个示例中,这可以包括:使用对象识别来识别图像内的驾驶员头部,使用头部姿势确定方法(例如,迭代最接近的曲线匹配)确定头部姿势,并将确定的头部姿势与参考图像中的头部姿势进行比较。在第二示例中,这可以包括:使用对象识别来识别当前图像内的驾驶员头部,识别驾驶员头部上的一个或多个参考点(例如,眼睛,鼻子,痣,雀斑等),识别相应的参考图像上的参考点,并基于当前图像中的参考点位置与参考图像之间的差异来确定驾驶员的当前头部姿势。参考图像(或参考头部姿势)可以是具有车辆中的驾驶员的预先记录的图像(例如,其中在图像记录期间指示驾驶员向前注视),叠加在驾驶员头部体积内的驾驶员的预先记录的图像(例如,驾照标准图像),由在一个或多个驾驶会话上记录的多个图像合成的图像(例如,平均头部姿势),或者是任何其他合适的参考图像。该变化可以可选地包括识别车辆内的对象(例如,儿童,乘客等),确定对象在车辆内的位置,以及评估驾驶员与对象的交互。例如,当没有乘客在车辆中时,驾驶员的头部转动可以被分类为具有低分心分数的盲点检查,并且当儿童出现在相机框架内时被分类为具有高分心分数的儿童交互。然而,可以以其他方式确定头部姿势。
在第四变型中,确定分心因子值可以包括基于车厢声音确定驾驶员的头部姿势。在一个示例中,头部姿势可以由单个声音帧确定,由一组立体声麦克风记录。在该示例中,方法100可以包括:分别从来自第一和第二麦克风的第一和第二信号中提取与驾驶员语音相关联的声音信号(例如,使用模式匹配,降噪等);比较第一和第二信号之间驾驶员语音的大小(magnitude)或幅度;并确定驾驶员的头部姿势为转向测量声音较大的麦克风。在第二示例中,头部运动可以由一组立体声麦克风记录的一组声音帧确定。在一个例子中,由第一麦克风采样的声强度的减小与由第二麦克风采样的声强度的增加的配对可以被解释为头部转向朝向第二麦克风(例如,使用模式匹配等)。
附加地或替代地,车厢声音可用于确定驾驶情境。在一个例子中,车厢声音可以用于确定乘客是否存在于车辆中(例如,基于第二语音的检测),用于对乘客进行分类(例如,作为儿童,成人,潜在的分心等),用于确定乘客的位置或以其他方式使用。
在第五变型中,确定分心因子值可以包括确定与用户设备的用户交互程度(例如,频率,持续时间,强度等)。在一个例子中,方法100可以包括在用户设备处接收用户输入(例如,触摸输入,触觉输入等)并确定用户已经与用户设备交互。在第二例子中,方法100可以包括确定用户输入的参数(例如,输入的频率;输入类型,诸如目标输入或噪声输入;应用切换的频率;与之交互的应用的类型;等等)和基于用户输入参数确定用户交互程度。在特定例子中,目标用户输入(例如,精确键输入),高频率用户输入和消息传递应用可以与高度用户交互相关联,而噪声用户输入,低输入频率和地图应用可以是与低度用户交互相关联。在第三例子中,方法100可以包括识别采样信号(例如,(多个)图像)中的驾驶员身体部位(例如,手,躯干)的全部或部分,表征身体部位(例如,大小,位置,姿势,情境,动作等),并基于表征确定分心因子值。例如,高分心值可以与侧向躯干定向(例如,代替前向)相关联,在方向盘上检测到的小于手的阈值比例相关联,或者与任何其他合适的身体部位表征相关联。
确定用户与设备的交互程度可以可选地包括确定与设备交互的用户的身份。在一个变型中,可以使用用户设备测量的用户的生物测定(例如,指纹)来确定用户身份。在第二变型中,可以在交互会话期间使用用户设备在车辆内的位置来确定用户身份。在一个例子中,可以根据在用户设备与具有已知位置的一个或多个次要端点(例如,附接到A柱的信标,驾驶员体积附近的信标)之间建立的一个或多个短程连接来确定用户设备在车辆内的位置。在特定例子中,可以基于连接的强度来确定用户设备位置;例如,如果用户设备弱连接到驾驶员侧信标但是强连接到乘客侧信标,则交互会话可以被分类为乘客交互会话(而不是驾驶员交互会话)。但是,可以另外确定用户身份。确定用户与设备的交互程度可以可选地包括将用户引起的设备运动与车辆引起的设备运动过滤分开。可以使用以下方式过滤运动:同时测量的温度(例如,运动是否与环境温度的增加相关联),模式匹配(例如,使用先前与车辆运动相关联的模式,给定瞬时测量的车辆运动学),分类,或者以其他方式确定。然而,可以以其他方式将车辆运动与用户设备运动过滤分开。
在另一例子中,可以基于驾驶员的注视与外部对象的重叠或者基于驾驶员的预期注视与外部对象相对于车辆的预期位置的重叠量来确定分心因子值。在特定例子中,方法100可以包括识别外部对象(例如,从外部图像),向每个识别的对象分配碰撞风险(例如,基于车辆的运动学,计划路线等),确定驾驶员的注视方向(例如,从由面向内部的相机采样的图像),可选地确定驾驶员的视野,并且基于驾驶员的注视或视野与具有高于阈值风险值的碰撞风险的识别对象的重叠量来确定分心分数。但是,可以以其他方式使用外部信号。
在又一个例子中,可以基于驾驶员注视的对象改变的速率来确定分心因子值。例如,可以基于下降至低于阈值水平的速率来增加分心分数,这可以表示驾驶员在操作车辆时没有充分地扫描道路而是注视固定点(例如,并且可以是陷入沉思)。
然而,可以另外确定分心因子值。
方法100可以可选地包括确定分心状态的情境,其用于使得能够表征分心状态的严重性。在变型中,确定情境包括确定缩放因子值,其可以用于微调所确定的分心的严重性(例如,确定的分心分数)。附加地或替代地,缩放因子值可以用作分心确定模块的输入或以其他方式使用。
在第一变型中,可以基于车辆操作参数确定缩放因子值(图2中示出的例子)。车辆操作参数可以包括:车辆运动学(例如,速度,加速度),车辆位置,车辆通知,车辆驾驶仪器位置(例如,制动位置,加速器位置,方向盘位置,车轮位置等)或任何其他合适的操作参数。车辆操作参数可以由车辆,***,用户设备或任何其他合适的***确定。在一个示例中,缩放因子值可以随着碰撞概率而变化,如基于车辆操作参数所确定的。但是,可以另外确定缩放因子值。在一个例子中,可以根据车辆运动学大小来缩放分心分数(例如,当车辆移动得更快时更高,当车辆停止时更低)。在第二例子中,可以基于车辆运动学幅度(例如,车辆的速度)来选择不同的分数阈值(例如,用于确定是否记录了分心事件,以确定是否应该呈现通知等)。在第三例子中,可以基于与分心事件相关联的位置(例如,地理位置)来选择不同的缩放值(例如,权重)。分配给该位置的缩放值可以是特定于驾驶员的(例如,基于驾驶员配置文件确定的),特定于驾驶员人口统计,通用或以其他方式共享。分配给该位置的缩放值可以是静态的,动态的(例如,随着位置附近的交通,位置上游的交通等而变化),或以其他方式确定。
在第二变型中,可以基于表示驾驶环境的信号来确定缩放因子值(图2中示出的例子)。这些信号可以包括外部信号(例如,车辆周围环境的信号),内部信号(例如,车辆内部环境的信号),或任何其他合适的信号组。
外部信号可以包括交通参数(例如,交通密度,交通流动率等),道路类型(例如,高速公路或城市),交通信号(例如,道路标志,停车标志,停车灯等),对象或障碍物(例如,在预期的遍历路径中),天气条件(例如,基于天气预报或为周围环境近乎实时地确定),相邻驾驶员的配置文件,相邻驾驶员的分心水平或任何与驾驶风险相关的其他合适的外部参数。交通参数可以是众包的(例如,由输入交通信息的多个用户手动生成;从多个***自动生成,每个***具有外部相机等),自动确定(例如,使用由面向外部的相机采样的图像),根据车辆的位置和该位置的历史交通模式和周期时间确定,或以其他方式确定。可以基于市政地图和车辆位置确定道路类型,基于车辆速度(例如,当速度超过60mph时被分类为高速公路)确定道路类型,基于从外部图像提取的特性或对象来确定道路类型,或者以其他方式确定。
在一个例子中,当驾驶员在交通繁忙时分心时,可以将分心分数缩放得更高(例如,缩放因子可以更大)。在第二例子中,当外部图像中出现停车标志或红灯(例如,由面向外部的相机采样的图像)时,可以缩小分心分数,并且当在外部图像中没有交通标志或绿灯出现时缩放分数更高。在第三例子中,当在外部环境的图像中出现停车标志或红灯并且车辆在相对于交通信号的预定位置(例如,0英尺远,5英尺远等)速度超过阈值(例如,0mph,5mph)时,可以将分心分数缩放得更高(例如,权重增加),表示车辆正在进入需要增强注意力的场景。然而,基于任何合适的确定,可以附加地或替代地将分心分数缩放得更高或更低。
内部信号可以包括:乘客存在,乘客类型,乘客活动(例如,所有这些都可以从传感器测量值确定或以其他方式确定),车辆运动学(例如,快速启动或停止),重复时间(例如,一天,一月,一年中的时间),驾驶员日历,乘客日历或与驾驶风险相关的任何其他合适的内部参数。可以从车辆传感器,***传感器,用户设备传感器,与用户帐户相关联的二级用户帐户(例如,通过OAuth与用户帐户相关联的日历)接收内部信号,或以其他方式确定内部信号。
在第三变型中,可以基于车辆参数确定缩放因子值(图2中示出的例子)。车辆参数可以包括车辆自动类型(例如,自动,半自动,手动等),车辆类别(例如,轿车,卡车等),车辆行驶高度,车辆制动功率,车辆马力,车辆扭矩,或任何其他合适的车辆参数。可以从用户接收车辆参数(例如,由用户输入),从数据库自动确定,从车辆电子控制单元自动确定,从传感器测量值自动确定(例如,从在外部图像中看到的道路部分,通过匹配车辆内部与来自内部图像的车辆内部而确定),或以其他方式确定。在一个例子中,当车辆是完全自动驾驶的车辆时,分心分数可以大打折扣,并且当车辆是0级或1 SAE级自动车辆类别时,可以按比例放大。在第二例子中,可以基于车辆参数值来选择用于通知呈现,分心分数存储或用于其他应用的分心阈值。例如,可以为级别0或级别1的车辆选择第一阈值,可以为半自动车辆选择高于第一阈值的第二阈值,并且可以为自动驾驶汽车选择高于第二阈值的第三阈值。第二阈值可以更接近第一阈值而不是第三阈值,但是可以以其他方式分配阈值。然而,可以另外确定因子值和/或缩放值。
方法100包括块S130,其包括:基于因子值确定车辆驾驶员由分心状态(例如,确定驾驶员分心)为特征。基于分心因子值确定驾驶员分心用于确定给定时间段内驾驶员分心的度量。可以使用公式,回归,分类,神经网络(例如,卷积神经网络,深度神经网络),启发式,选择(例如,来自库,图或图表),基于实例的方法(例如,最近邻居),相关方法,正则化方法(例如,岭回归),决策树,贝叶斯方法,核方法,概率,确定性,以上的组合,或任何其他合适的方法来确定驾驶员分心(例如,通过驾驶员分心模块,其例子在图2中示出)。驾驶员分心可以是二元分类或二元分数(例如,分心或不分心),分数(例如,连续或不连续;与均匀分心缩放一致或不一致;等),分类(例如,高,中,低),或任何其他合适的分心测量。响应于确定事件的发生(例如,响应于车辆路径中的障碍物识别,响应于驾驶员的注视被引导到预定角度范围之外等,),可以以预定频率(例如,每5秒,连续等)确定驾驶员分心,以基于可用计算资源选择的频率,或在任何其他合适的时间确定。
驾驶员分心可以与时间或时间段,驾驶员,位置,驾驶情境,路线(例如,如图4中的例子所示)或任何其他合适的参数值相关联。与驾驶员分心相关联的参数值优选地从与用于确定驾驶员分心的驾驶员分心因子值相关联的参数值中提取,但可以是任何其他合适的参数值。例如,与所确定的驾驶员分心相关联的时间优选地是基础数据的采样时间,而不是驾驶员分心确定时间。然而,与确定的驾驶员分心相关联的时间可以是驾驶员分心确定时间或者是任何其他合适的时间。
优选地,驾驶员分心是基于分心因子值来确定,但是可以基于任何其他合适的信息来确定驾驶员分心。用于确定驾驶员分心的分心因子值优选地在预定时间段内(例如,在参考时间的2s内,其中参考时间可以是图像采样时间,位置采样时间,随机选择的时间,或者是任何其他合适的时间)被采样,但可选地,也可以是以其他方式相关的。在阈值数量的图像帧产生表示分心的分心因子值之后,优选地认为驾驶员分心(例如,以分心状态为特征),但是可替代地在来自单个帧的值表示分心之后被认为分心,当值满足预定条件(例如,超过阈值)时确定,或以其他方式确定。图像帧的阈值数量可以是预定的,动态确定的(例如,基于其他模块的输出值,例如外部障碍物接近度,面部检测,车辆运动学等),或以其他方式确定。例如,帧的阈值数量可以随着前车辆间隔减小和/或车辆速度增加而减小。图像帧的时间序列可以是连续的或不连续的(例如,与分心状态相关联的帧可以由与未分心状态相关联的帧分开),其中可以预先确定未分心帧的数量或频率,基于情境动态调整(例如,其他模块的输出值),或以其他方式确定。
在第一例子中,驾驶员分心模块可以在驾驶员向前注视时确定第一驾驶员分心分数(例如,如从内部图像确定的),并且当驾驶员正在向下或向侧面注视时,确定高于第一分数的第二驾驶员分心分数。当驾驶员注视侧面并且有吵闹的孩子在后座中时,或者当驾驶员注视远离在车辆路径中检测到的障碍物或具有与在车辆路径中检测到的障碍物不重叠(例如,从车辆接近传感器,外部图像等确定)的视野时,驾驶员分心模块可以进一步确定高于第二分数的第三驾驶员分心分数。然而,驾驶员分心模块可以在给定任何其他合适的输入组的情况下确定任何其他合适的驾驶员分心分数。
在第二例子中,驾驶员分心模块可以基于针对面部检测模块输出(例如,同时期生成,异步生成等)检查结果来确定车辆的驾驶员以分心状态为特征。在该例子中,块S130可以包括基于驾驶员分心模块的输出和面部检测模块的输出(例如,S130a,S130′)的组合来确定车辆的驾驶员以分心状态为特征。在该例子中,驾驶员分心模块确定输入数据(例如,图像数据)是否表示驾驶员分心,并且面部检测模块确定输入数据是否包括面部。对于该例子,在未检测到面部但驾驶员分心模块确定驾驶员分心的情况下,驾驶员分心模块的输出被假定为假阳性(false positive)。
方法100的块S130可以包括确定驾驶员分数,其可以与分心分数不同(例如,S130c)。驾驶员分数优选地是基于在先前驾驶会话和当前驾驶会话期间确定和记录的分心分数的历史的累积分数。个体驾驶员优选地具有与驾驶员相关联的单个驾驶员分数,但是可以附加地或替代地与多个驾驶员分数相关联。可以以与如上所述的其他分数(例如,分心分数)类似的方式在方法100的各种块中利用驾驶员分数,但是可以以其他方式适当地利用。驾驶员分数优选地至少部分地由评分模块确定(例如,如在S130c中,结合包括与驾驶员相关联的分心分数的时间历史的数据库等)。
在变型中,块S130可以部分地或完全地在远程计算***处实现。在第一例子中,块S130可以包括通过向远程计算***提供传感器测量值来检查在远程计算***处实现的第二驾驶员分心模块处的第一分心确定的结果。在该例子中,块S130包括基于传感器测量值在远程计算***的驾驶员分心模块处生成表示驾驶员以分心状态为特征的输出(例如,S130b)。在该例子和其他例子中,车载驾驶员分心模块可以被配置为比远程驾驶员分心模块在计算上更快但是不如其准确(例如,车载***可以实现为具有比远程***更少的神经元的神经网络),并且远程驾驶员分心模块可用于纠正由车载驾驶员分心模块产生的假阳性。
块S130可以包括确定分心状态的情境(例如,S130″)。可以基于如上所述的传感器测量值来确定情境,或者以其他方式适当地确定。块S130还可以包括基于分心状态的情境确定分数(例如,如上所述)(例如,S130″)。例如,确定分心状态的情境可以包括确定交通水平是稀疏的,并且交通的稀疏性可以用于加权分数(例如,由于车辆或个人损失的低风险而降低分心水平的严重性)。然而,可以另外地或替代地以其他方式适当地确定情境。
确定驾驶员分心可以可选地包括选择用于驾驶员分心确定的分心模型。当多个分心模型可用于驾驶员分心确定时,这可能是有用的。在一个变型中,可以基于分心因子值来选择分心模型。在一个例子中,可以基于用于分心因子的有限子集的分心因子值来选择分心模型,例如驾驶员的注视方向或当前车辆位置。在特定例子中,当驾驶员的注视指向前方时可以选择第一分心模型(例如,相关模型),并且当驾驶员的目光指向后方或侧面时,可以选择第二分心模型(例如,卷积神经网络或其他更复杂的模型)。在后一种情况下可以选择更复杂的模型来处理与转头的潜在原因相关的增加的复杂性。但是,可以选择任何其他合适的模型。在第二具体例子中,当车辆中存在儿童时可以选择第一分心模型(例如,相关模型),并且当车内没有孩子时可以选择第二分心模型(例如,卷积神经网络或其他更复杂的模型)。
在第二例子中,可以基于同时超过其相应阈值的分心因子的数量来选择分心模型。在特定例子中,当没有分心因子超过其阈值时可以选择第一分心模型(例如,方程)(例如,驾驶员的注视指向前方,车辆内没有分心,车辆路径中没有障碍物等),当分心因子的子集超过其阈值时,选择第二模型(例如,驾驶员的注视朝向前方并且车辆内没有干扰,但车辆路径中存在障碍物),以及当不同数量的分心因子超过其阈值时,选择第三模型(例如,驾驶员的注视指向后方,车辆内存在分心,并且车辆路径中存在障碍物)。但是,可以以其他方式选择分心模型。
方法100可以可选地包括更新分心模型。分心模型可以自动更新,手动更新或以其他方式更新。可以周期性地(例如,以预定频率)更新分心模型,响应于更新事件的发生(例如,响应于所确定的分心分数超出与实际分心分数的阈值差异),或者在任何其他适当的时间。更新分心模型可以包括:使用标记的训练数据重新训练模型或以其他方式更新分心模型。可以自动生成,手动生成或以其他方式确定训练数据。
如图3所示,在第一变型中,方法100可以包括基于在第一时间段期间采样的传感器测量值使用分心模块确定驾驶员分心分数,基于在第一时间段之后的第二时间段期间(例如,在第一时间段的预定持续时间内)采样的后续传感器测量值,识别与分心相关的事件(例如,碰撞,接近碰撞,车辆转向,突然制动等),基于分心相关事件确定实际分心分数,在第一时间段内用实际分心分数标记采样的传感器测量值,并校准或重新训练分心模块,直到确定的驾驶员分心分数基本上与实际分心分数相匹配。但是,可以以其他方式更新分心模块或模型。
方法100可以可选地包括将传感器测量值发送到远程计算***S140。块S140用于向远程计算***提供传感器测量值,其中传感器测量值可以通过附加或替代模块聚集和/或作用于车载***上可用的模块。块S140优选地与传感器测量值的收集异步地执行,并且在变化中可以响应于车载***与具有预定特征(例如,容量,上行链路速度,带宽,连接质量,等)的网络数据链路的连接,响应于确定高于阈值分心分数值的分心分数,或者响应于任何其他合适的事件。在例子中,块S140可以包括响应于确定车辆的驾驶员以分心状态为特征(例如,S140a),将传感器测量值发送到远程计算***。然而,块S140可以附加地或替代地实时或近实时,基本上实时,同时,同时期或相对于传感器测量具有任何其他合适的时间特性来执行。
方法100可以可选地包括基于确定驾驶员分心来生成通知S150。块S150用于通知实体(例如,驾驶员,远程车队经理,乘客)已确定驾驶员分心。通知可以具有任何合适的格式,包括文本格式,音频格式,视频格式(例如,在确定分心状态的时间段期间记录的视频剪辑),或者具有任何其他合适的格式。块S150优选地在确定驾驶员分心和/或其分数或其他表征时基本上立即执行,但是可以附加地或替代地异步执行,以响应于触发事件(例如,连接到具有合适特征的网络链路)和/或与任何其他合适的时间关系。
在一个例子中,块S150可以包括在车辆的车载***的输出处基于在块S130中确定的分心状态,分心状态的情境,以及分心状态的分数,基本上实时地通知驾驶员(例如,S150′)。在另一例子中,块S150可以包括在远程计算***的接口处(例如,本地PC终端,与车队经理相关联并且通信地耦合到远程计算***的用户设备等)通知车队经理,由于在响应于更新驾驶员分数(例如,实时地,异步地,等),在预定时间段(例如,一天,五分钟等)内连续确定分心状态,驾驶员的驾驶员分数已经下降到阈值以下。然而,块S150可以附加地或替代地包括以任何合适的方式生成通知,以及以任何合适的方式将通知发送和/或呈现给任何合适的实体。
在该方法的一个变型中,其例子在图5中示出,该方法可以包括采样传感器测量值,其中传感器测量值包括图像数据和信号数据(例如,时间序列信号)。该方法可以包括在多个模块处接收采样的传感器测量值,包括对象检测和分类模块,面部检测模块,分心模块和驾驶员行为模块。在该变型中,面部检测模块确定面部是否存在于输入图像中(例如,经由机器学习算法,经由任何合适的图像处理技术,霍夫变换等),并行地,分心模块基于作为分心模块的输入而接收的传感器测量值确定驾驶员分心。面部检测模块的输出(例如,表示在图像中检测到或未检测到面部的二进制输出)可用于消除分心模块的假阳性输出(例如,在未检测到面部的情况下,可以否定由分心模块输出的驾驶员分心的表示)。对象检测和分类模块,分心模块(例如,相对于面部检测模块的输出进行检查)和驾驶员行为模块(例如,基本上如2017年9月14日提交的美国专利申请序列号为15/705,043的美国申请中所述确定驾驶员和/或操作员行为,其全部内容通过引用并入本文)的输出可以在基于规则的比较器处接收,该比较器在该变型中用于确定驾驶员是否以分心状态为特征,并且还可以用于基于模块的输出确定分心程度(例如,严重性,分心分数等)。在该变型中,输入(例如,传感器测量值,上游模块的输出等)到输出的变换优选地连续地并且以实时或接近实时的方式执行,但是可以附加地或替代地以任何合适的频率执行,和/或具有任何合适的时间特性(例如,异步地,同步地,响应于触发事件,以4Hz的频率,以任何合适的频率等)。
在第一具体例子中,如图6所示,方法100包括在车辆的车载***处对传感器测量值进行采样,其中传感器测量值包括驾驶员的图像S110a;在车载***的面部检测模块接收图像,并产生第一输出,其中第一输出表示图像中存在面部S120a;在车载***的驾驶员分心模块处接收图像,并且在产生第一输出的同时期产生第二输出,其中第二输出表示分心状态S120b;基于第一输出和第二输出的组合,确定车辆的驾驶员以分心状态为特征S130a;响应于确定车辆的驾驶员以分心状态为特征,将传感器测量值发送到远程计算***S140a;基于传感器测量值,在远程计算***的第二驾驶员分心模块处产生表示驾驶员以分心状态为特征的第三输出S130b;响应于生成第三输出并且基于传感器测量值和分心状态,在远程计算***的评分模块处计算驾驶员分数S130c。
在第二具体例子中,如图7所示,方法100包括在车辆的车载***处对传感器测量值进行采样,其中传感器测量值包括驾驶员的图像S110′;在车载***的面部检测模块处接收图像,并产生第一输出,其中第一输出表示图像中存在面部S120′;在车载***的驾驶员分心模块处接收图像,并且在产生第一输出的同时期产生第二输出,其中第二输出表示分心状态S120”;基于第一输出和第二输出的组合,确定车辆的驾驶员以分心状态为特征S130′;确定分心状态的情境S130″;基于分心状态的情境确定分心状态的分数S130″′;基于分心状态,分心状态的情境和分心状态的分数,在车辆的车载***的输出处基本上实时地通知驾驶员S150′。
***和/或方法的示例可以包括各种***组件和各种方法过程的每种组合和置换,其中方法过程可以以任何合适的顺序,依次地或同时地执行。
本领域技术人员将从前面的详细描述和附图和权利要求中认识到的,在不脱离所附权利要求限定的本发明的范围的情况下,可以对本发明的优选示例进行修改和改变。
Claims (20)
1.一种用于确定车辆驾驶员分心的方法,包括:
·在所述车辆的车载***处对传感器测量值进行采样,其中所述传感器测量值包括所述驾驶员的图像;
·在所述车载***的面部检测模块处接收图像,并产生第一输出,其中所述第一输出表示在所述图像中存在面部;
·在所述车载***的驾驶员分心模块处接收图像,并且在产生所述第一输出的同时期产生第二输出,其中所述第二输出表示分心状态;
·基于所述第一输出和所述第二输出的组合,确定所述车辆的所述驾驶员以分心状态为特征;
·确定所述分心状态的情境;
·根据所述分心状态的所述情境确定所述分心状态的分数;和
·基于所述分心状态,所述分心状态的所述情境和所述分心状态的所述分数,在所述车辆的所述车载***的输出处基本上实时地通知所述驾驶员。
2.根据权利要求1所述的方法,其中,所述分心状态包括所述驾驶员的注视方向,并且其中,生成所述第二输出基于从所述图像识别所述驾驶员的所述注视方向。
3.根据权利要求1所述的方法,其中所述分心状态的所述情境包括所述分心状态的持续时间,并且其中确定严重性包括基于所述持续时间超过阈值持续时间来确定所述分心状态的所述分数。
4.根据权利要求3所述的方法,其中,所述阈值持续时间由与所述驾驶员相关联的远程实体预先确定,并且还包括基于确定的所述分心状态的分数向所述远程实体发送通知。
5.根据权利要求1所述的方法,其中,所述传感器测量值包括加速度计输出,并且还包括:
·基于所述加速度计的输出,在所述车载***的驾驶员行为分析模块处确定驾驶员行为;和
·其中,确定所述车辆的所述驾驶员以所述分心状态为特征是基于所确定的驾驶员行为。
6.根据权利要求1所述的方法,还包括:响应于所述分心状态的所述分数超过阈值分数,将所述传感器测量值发送到远程计算***。
7.根据权利要求6所述的方法,其中,在确定所述分心状态的所述分数超过所述阈值分数之后,基本上即时地执行将所述传感器测量值发送到所述远程计算***。
8.根据权利要求6所述的方法,还包括:基于所述传感器测量值,在所述远程计算***的第二驾驶员分心模块处生成表示所述驾驶员以所述分心状态为特征的第三输出。
9.根据权利要求8所述的方法,还包括:响应于生成所述第三输出,向与所述驾驶员相关联的远程实体发送通知,其中,所述通知包括所述分心状态,所述分心状态的所述分数,所述分心状态的所述情境,以及分心状态确定的时间点。
10.根据权利要求6所述的方法,还包括:基于所述传感器测量值,所确定的分数以及与所述驾驶员相关联的分数的时间历史,在所述远程计算***的评分模块处计算驾驶员分数。
11.一种用于确定车辆驾驶员分心的方法,包括:
·在驾驶会话期间在所述车辆的车载***处对传感器测量值进行采样,其中所述传感器测量值包括所述驾驶员的图像;
·在所述车载***的面部检测模块处接收图像,并产生第一输出,其中所述第一输出表示在所述图像中存在面部;
·在所述车载***的驾驶员分心模块处接收所述图像,并且在产生所述第一输出的同时期产生第二输出,其中所述第二输出表示分心状态;
·基于所述第一输出和所述第二输出的组合,确定所述车辆的所述驾驶员以所述分心状态为特征;
·响应于确定所述车辆的所述驾驶员以所述分心状态为特征,将所述传感器测量值传输到远程计算***;
·基于所述传感器测量值,在所述远程计算***的第二驾驶员分心模块处生成表示所述驾驶员以所述分心状态为特征的第三输出;
·响应于生成所述第三输出并且基于所述传感器测量值和所述分心状态,在所述远程计算***的评分模块处计算驾驶员分数。
12.根据权利要求11所述的方法,其中,所述传感器测量值包括图像序列,其中,所述分心状态包括所述驾驶员的注视方向的变化率,并且其中,基于所述图像与所述图像序列的结合,计算所述注视方向的所述变化率。
13.根据权利要求11所述的方法,其中,在确定所述车辆的所述驾驶员以所述分心状态为特征之后,基本上即时地执行将所述传感器测量值发送到所述远程计算***。
14.根据权利要求11所述的方法,还包括在所述车辆的所述车载***处基于所述传感器测量值确定所述分心状态的情境。
15.根据权利要求14所述的方法,其中,所述传感器测量值还包括在所述车辆前方区域的第二图像,并且其中确定所述分心状态的所述情境包括确定所述第二图像中描绘的对象与所述车辆之间的距离。
16.根据权利要求14所述的方法,其中,所述情境包括所述分心状态的持续时间,并且还包括基于所述持续时间超过阈值持续时间来确定所述分心状态的分数。
17.根据权利要求14所述的方法,还包括基于所述分心状态的所述情境确定所述分心状态的分数。
18.根据权利要求17所述的方法,还包括在所述车辆的所述车载***的输出处基于所述分心状态,所述分心状态的所述情境和所述分心状态的所述分数,基本上实时地通知所述驾驶员。
19.根据权利要求17所述的方法,其中,响应于所述分心状态的所述分数超过阈值分数,执行将所述传感器测量值发送到所述远程计算***。
20.根据权利要求11所述的方法,还包括:响应于生成所述第三输出,向与所述驾驶员相关联的远程实体发送通知,其中,所述通知包括所述分心状态,分心状态确定的时间点和所述分数。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662418655P | 2016-11-07 | 2016-11-07 | |
US62/418,655 | 2016-11-07 | ||
PCT/US2017/060307 WO2018085804A1 (en) | 2016-11-07 | 2017-11-07 | System and method for driver distraction determination |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110178104A true CN110178104A (zh) | 2019-08-27 |
Family
ID=62066042
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780082650.7A Pending CN110178104A (zh) | 2016-11-07 | 2017-11-07 | 用于确定驾驶员分心的***和方法 |
Country Status (5)
Country | Link |
---|---|
US (3) | US10246014B2 (zh) |
EP (1) | EP3535646A4 (zh) |
JP (1) | JP7290567B2 (zh) |
CN (1) | CN110178104A (zh) |
WO (1) | WO2018085804A1 (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110816543A (zh) * | 2019-10-28 | 2020-02-21 | 东南大学 | 一种车辆转弯和变道场景下驾驶员分神驾驶检测和预警***及方法 |
CN111317469A (zh) * | 2020-01-10 | 2020-06-23 | 深圳市宏智力科技有限公司 | 一种脑电波监测设备、***及监测方法 |
CN113147770A (zh) * | 2020-01-06 | 2021-07-23 | 安波福技术有限公司 | 驾驶员监测*** |
CN114187581A (zh) * | 2021-12-14 | 2022-03-15 | 安徽大学 | 一种基于无监督学习的驾驶员分心细粒度检测方法 |
CN114386763A (zh) * | 2021-12-10 | 2022-04-22 | 斑马网络技术有限公司 | 一种车辆交互方法、车辆交互装置及存储介质 |
WO2024114426A1 (zh) * | 2022-11-30 | 2024-06-06 | 蔚来软件科技(上海)有限公司 | 人机共驾控制方法、装置、***及车辆 |
Families Citing this family (88)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11465640B2 (en) * | 2010-06-07 | 2022-10-11 | Affectiva, Inc. | Directed control transfer for autonomous vehicles |
US9524269B1 (en) | 2012-12-19 | 2016-12-20 | Allstate Insurance Company | Driving event data analysis |
US9535878B1 (en) | 2012-12-19 | 2017-01-03 | Allstate Insurance Company | Driving event data analysis |
US10140533B1 (en) * | 2015-01-13 | 2018-11-27 | State Farm Mutual Automobile Insurance Company | Apparatuses, systems and methods for generating data representative of vehicle occupant postures |
JP6193912B2 (ja) * | 2015-04-24 | 2017-09-06 | 株式会社パイ・アール | ドライブレコーダ |
FR3038770B1 (fr) * | 2015-07-10 | 2021-03-19 | Innov Plus | Systeme de surveillance de l'etat de vigilance d'un operateur |
US11194405B2 (en) * | 2015-10-08 | 2021-12-07 | Panasonic Intellectual Property Corporation Of America | Method for controlling information display apparatus, and information display apparatus |
US10717410B2 (en) * | 2016-02-04 | 2020-07-21 | Vasile CIUPERGER | Vehicle perimeter alert system |
CN110178104A (zh) * | 2016-11-07 | 2019-08-27 | 新自动公司 | 用于确定驾驶员分心的***和方法 |
US10328913B2 (en) | 2016-11-18 | 2019-06-25 | International Business Machines Corporation | Facilitation of automatic adjustment of a braking system |
WO2018125796A1 (en) * | 2016-12-27 | 2018-07-05 | Denso International America, Inc. | System and method for microlocation sensor communication |
JP6982767B2 (ja) * | 2017-03-31 | 2021-12-17 | パナソニックIpマネジメント株式会社 | 検知装置、学習装置、検知方法、学習方法、およびプログラム |
US10902577B2 (en) * | 2017-06-19 | 2021-01-26 | Apeel Technology, Inc. | System and method for hyperspectral image processing to identify object |
US10902581B2 (en) * | 2017-06-19 | 2021-01-26 | Apeel Technology, Inc. | System and method for hyperspectral image processing to identify foreign object |
US10592785B2 (en) * | 2017-07-12 | 2020-03-17 | Futurewei Technologies, Inc. | Integrated system for detection of driver condition |
WO2019028798A1 (zh) * | 2017-08-10 | 2019-02-14 | 北京市商汤科技开发有限公司 | 驾驶状态监控方法、装置和电子设备 |
US10907980B2 (en) * | 2017-08-11 | 2021-02-02 | Here Global B.V. | Method and apparatus for detecting false positive slippery road reports using mapping data |
CN107679448B (zh) * | 2017-08-17 | 2018-09-25 | 平安科技(深圳)有限公司 | 眼球动作分析方法、装置及存储介质 |
US10373500B1 (en) * | 2017-09-22 | 2019-08-06 | State Farm Mutual Automobile Insurance Company | Technology for using image data to assess vehicular risks and communicate notifications |
US20190120640A1 (en) | 2017-10-19 | 2019-04-25 | rideOS | Autonomous vehicle routing |
US10572745B2 (en) * | 2017-11-11 | 2020-02-25 | Bendix Commercial Vehicle Systems Llc | System and methods of monitoring driver behavior for vehicular fleet management in a fleet of vehicles using driver-facing imaging device |
JP6777060B2 (ja) * | 2017-11-15 | 2020-10-28 | オムロン株式会社 | 脇見判定装置、運転支援システム、脇見判定方法及び脇見判定のためのプログラム |
JP2019091267A (ja) * | 2017-11-15 | 2019-06-13 | オムロン株式会社 | 脇見判定装置、脇見判定方法、およびプログラム |
US20200283028A1 (en) * | 2017-11-17 | 2020-09-10 | Sony Semiconductor Solutions Corporation | Information processing apparatus and information processing method |
US10783346B2 (en) * | 2017-12-11 | 2020-09-22 | Invensense, Inc. | Enhancing quality of a fingerprint image |
DE102017223005A1 (de) * | 2017-12-18 | 2019-06-19 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Bereitstellen einer Verletzungsinformation über eine Verletzung eines ungeschützten Verkehrsteilnehmers bei einer Kollision mit einem Fahrzeug |
US11775688B2 (en) * | 2017-12-20 | 2023-10-03 | Felica Networks, Inc. | Information processing device and information processing method |
JP6844568B2 (ja) * | 2018-03-27 | 2021-03-17 | 日本電気株式会社 | 余所見判定装置、余所見判定システム、余所見判定方法、プログラム |
US11565693B2 (en) * | 2018-05-03 | 2023-01-31 | Honda Motor Co., Ltd. | Systems and methods for distracted driving detection |
CN109002757A (zh) * | 2018-06-04 | 2018-12-14 | 上海商汤智能科技有限公司 | 驾驶管理方法和***、车载智能***、电子设备、介质 |
US10915769B2 (en) | 2018-06-04 | 2021-02-09 | Shanghai Sensetime Intelligent Technology Co., Ltd | Driving management methods and systems, vehicle-mounted intelligent systems, electronic devices, and medium |
US10970571B2 (en) | 2018-06-04 | 2021-04-06 | Shanghai Sensetime Intelligent Technology Co., Ltd. | Vehicle control method and system, vehicle-mounted intelligent system, electronic device, and medium |
CN110633593A (zh) * | 2018-06-21 | 2019-12-31 | 北京嘀嘀无限科技发展有限公司 | 一种恶性事件预测方法及*** |
WO2020006154A2 (en) * | 2018-06-26 | 2020-01-02 | Itay Katz | Contextual driver monitoring system |
US10655978B2 (en) * | 2018-06-27 | 2020-05-19 | Harman International Industries, Incorporated | Controlling an autonomous vehicle based on passenger behavior |
US11180158B1 (en) * | 2018-07-31 | 2021-11-23 | United Services Automobile Association (Usaa) | Routing or driving systems and methods based on sleep pattern information |
GB2577270B (en) | 2018-09-19 | 2021-04-07 | Jaguar Land Rover Ltd | Apparatus and method for monitoring vehicle operation |
US10746112B2 (en) * | 2018-10-18 | 2020-08-18 | Ford Global Technologies, Llc | Method and system for NVH control |
EP3871141A4 (en) * | 2018-10-23 | 2022-08-10 | 5DT, Inc | OPERATOR BEHAVIOR MONITORING SYSTEM |
US10807605B2 (en) * | 2018-12-19 | 2020-10-20 | Waymo Llc | Systems and methods for detecting and dynamically mitigating driver fatigue |
US11577734B2 (en) | 2018-12-20 | 2023-02-14 | Nauto, Inc. | System and method for analysis of driver behavior |
US10635917B1 (en) * | 2019-01-30 | 2020-04-28 | StradVision, Inc. | Method and device for detecting vehicle occupancy using passenger's keypoint detected through image analysis for humans' status recognition |
CN111661059B (zh) * | 2019-03-08 | 2022-07-08 | 虹软科技股份有限公司 | 分心驾驶监测方法、***及电子设备 |
GB2582775B (en) * | 2019-04-02 | 2022-04-06 | Jaguar Land Rover Ltd | Attention level determination |
KR20200117641A (ko) * | 2019-04-05 | 2020-10-14 | 현대자동차주식회사 | 경로 안내 장치 및 그 방법 |
JP7031998B2 (ja) * | 2019-04-19 | 2022-03-08 | 矢崎総業株式会社 | オーディオ制御システム及びオーディオ制御方法 |
US20200342230A1 (en) * | 2019-04-26 | 2020-10-29 | Evaline Shin-Tin Tsai | Event notification system |
US10672249B1 (en) | 2019-05-06 | 2020-06-02 | Cambridge Mobile Telematics Inc. | Determining, scoring, and reporting mobile phone distraction of a driver |
US10759441B1 (en) * | 2019-05-06 | 2020-09-01 | Cambridge Mobile Telematics Inc. | Determining, scoring, and reporting mobile phone distraction of a driver |
US11281920B1 (en) * | 2019-05-23 | 2022-03-22 | State Farm Mutual Automobile Insurance Company | Apparatuses, systems and methods for generating a vehicle driver signature |
CN110232341B (zh) * | 2019-05-30 | 2022-05-03 | 重庆邮电大学 | 基于卷积-堆叠降噪编码网络的半监督学习图像识别方法 |
JP7228472B2 (ja) * | 2019-06-07 | 2023-02-24 | 本田技研工業株式会社 | 認識装置、認識方法、およびプログラム |
US11738756B2 (en) * | 2019-06-30 | 2023-08-29 | Moment Ai, Inc. | Facial recognition and monitoring device, system, and method |
EP4001347A4 (en) | 2019-07-17 | 2023-08-09 | Kuraray Co., Ltd. | WATER SOLUBLE FILM AND PACKAGING |
US11496617B2 (en) | 2019-07-22 | 2022-11-08 | Jeremy Davis | Car surveillance system |
KR102218526B1 (ko) * | 2019-07-26 | 2021-02-19 | 엘지전자 주식회사 | 졸음 운전을 방지하기 위한 방법, 시스템 및 차량 |
US10993647B2 (en) * | 2019-08-21 | 2021-05-04 | Micron Technology, Inc. | Drowsiness detection for vehicle control |
JP7328828B2 (ja) * | 2019-08-27 | 2023-08-17 | フォルシアクラリオン・エレクトロニクス株式会社 | 状態推定装置、状態推定プログラムおよび状態推定方法 |
KR20190116187A (ko) * | 2019-09-23 | 2019-10-14 | 엘지전자 주식회사 | 차량 단말 및 그의 동작 방법 |
US11587461B2 (en) * | 2019-10-23 | 2023-02-21 | GM Global Technology Operations LLC | Context-sensitive adjustment of off-road glance time |
US10861144B1 (en) * | 2019-11-27 | 2020-12-08 | Panasonic Intellectual Property Management Co., Ltd. | Image-processing method |
JP7358958B2 (ja) * | 2019-12-11 | 2023-10-11 | トヨタ自動車株式会社 | 運転意識推定装置 |
US20230061784A1 (en) * | 2020-01-29 | 2023-03-02 | NetraDyne, Inc. | Combination alerts |
KR20210111558A (ko) * | 2020-03-03 | 2021-09-13 | 현대자동차주식회사 | 운전자 보조 장치 및 그의 경고 방법 |
US11568655B2 (en) * | 2020-03-26 | 2023-01-31 | Intel Corporation | Methods and devices for triggering vehicular actions based on passenger actions |
DE102020110417A1 (de) * | 2020-04-16 | 2021-10-21 | Valeo Schalter Und Sensoren Gmbh | Verfahren und System zur Assistenz eines Fahrers |
US11571969B2 (en) * | 2020-06-04 | 2023-02-07 | Toyota Motor Engineering & Manufacturing North America, Inc. | External communication suppression device for driving automation |
US20220032924A1 (en) * | 2020-07-30 | 2022-02-03 | Morgan State University | System and method for driver distraction detection and classification |
JP7359099B2 (ja) * | 2020-07-31 | 2023-10-11 | トヨタ自動車株式会社 | 移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害検出プログラム |
DE102020123744A1 (de) | 2020-09-11 | 2022-03-17 | Bayerische Motoren Werke Aktiengesellschaft | Bestimmen einer Blickrichtung einer Person |
US11941150B2 (en) | 2020-10-12 | 2024-03-26 | Robert Bosch Gmbh | In-vehicle system for monitoring rides of a mobility service provider |
US11748407B2 (en) | 2020-10-12 | 2023-09-05 | Robert Bosch Gmbh | Activity level based management and upload of ride monitoring data of rides of a mobility service provider |
US11518401B2 (en) * | 2020-10-14 | 2022-12-06 | Magna Electronics Inc. | Vehicular driving assist with driver monitoring |
KR20220055209A (ko) * | 2020-10-26 | 2022-05-03 | 현대자동차주식회사 | 차량 및 그 제어방법 |
DE102020213755B4 (de) | 2020-11-02 | 2023-05-04 | BSH Hausgeräte GmbH | Kopplung eines Haushaltsgeräts mit einem Mobilgerät |
US11341786B1 (en) | 2020-11-13 | 2022-05-24 | Samsara Inc. | Dynamic delivery of vehicle event data |
US11352013B1 (en) | 2020-11-13 | 2022-06-07 | Samsara Inc. | Refining event triggers using machine learning model feedback |
US11643102B1 (en) * | 2020-11-23 | 2023-05-09 | Samsara Inc. | Dash cam with artificial intelligence safety event detection |
US20220180109A1 (en) * | 2020-12-04 | 2022-06-09 | Nauto, Inc. | Devices and methods for monitoring drivers of vehicles |
DE102021200898A1 (de) | 2021-02-01 | 2022-08-04 | Volkswagen Aktiengesellschaft | Schätzung eines Fahrer-Ablenkungsgrades |
US11545029B2 (en) * | 2021-02-16 | 2023-01-03 | Atieva, Inc. | Distraction-sensitive traffic drive-off alerts |
WO2022265776A1 (en) * | 2021-06-15 | 2022-12-22 | Nauto, Inc. | Devices and methods for predicting collisions, predicting intersection violations, and/or determining region of interest for object detection in camera images |
US11945435B2 (en) * | 2021-06-15 | 2024-04-02 | Nauto, Inc. | Devices and methods for predicting collisions and/or intersection violations |
US20210312193A1 (en) * | 2021-06-15 | 2021-10-07 | Nauto, Inc. | Devices and methods for predicting intersection violations and/or collisions |
US20220410908A1 (en) * | 2021-06-29 | 2022-12-29 | Bendix Commercial Vehicle Systems, Llc | System and method for controlling vehicle functions based on evaluated driving team composition |
US11352014B1 (en) | 2021-11-12 | 2022-06-07 | Samsara Inc. | Tuning layers of a modular neural network |
US11386325B1 (en) | 2021-11-12 | 2022-07-12 | Samsara Inc. | Ensemble neural network state machine for detecting distractions |
US20230166598A1 (en) * | 2021-12-01 | 2023-06-01 | GM Global Technology Operations LLC | Control system comprising first, second, and third inputs and first, second, and third displays, and a method of operating the same |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130297097A1 (en) * | 2006-03-08 | 2013-11-07 | Richard W. Fischer | Safe driving monitoring system |
CN103661375A (zh) * | 2013-11-25 | 2014-03-26 | 同济大学 | 一种考虑驾驶分心状态的车道偏离报警方法及*** |
CN103813140A (zh) * | 2012-10-17 | 2014-05-21 | 株式会社电装 | 使用图像信息的车辆驾驶辅助*** |
US20140139655A1 (en) * | 2009-09-20 | 2014-05-22 | Tibet MIMAR | Driver distraction and drowsiness warning and sleepiness reduction for accident avoidance |
CN105654753A (zh) * | 2016-01-08 | 2016-06-08 | 北京乐驾科技有限公司 | 一种智能车载安全驾驶辅助方法及*** |
CN105966405A (zh) * | 2015-03-13 | 2016-09-28 | 哈曼国际工业有限公司 | 驾驶员分心检测*** |
CN105989749A (zh) * | 2015-03-20 | 2016-10-05 | 哈曼国际工业有限公司 | 用于优先化驾驶员警报的***和方法 |
Family Cites Families (228)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0469198B1 (en) | 1990-07-31 | 1998-05-27 | Hewlett-Packard Company | Object based system |
US7788008B2 (en) | 1995-06-07 | 2010-08-31 | Automotive Technologies International, Inc. | Eye monitoring system and method for vehicular occupants |
US8604932B2 (en) | 1992-05-05 | 2013-12-10 | American Vehicular Sciences, LLC | Driver fatigue monitoring system and method |
US5638116A (en) | 1993-09-08 | 1997-06-10 | Sumitomo Electric Industries, Ltd. | Object recognition apparatus and method |
US7421321B2 (en) | 1995-06-07 | 2008-09-02 | Automotive Technologies International, Inc. | System for obtaining vehicular information |
US5642106A (en) | 1994-12-27 | 1997-06-24 | Siemens Corporate Research, Inc. | Visual incremental turn detector |
US5961571A (en) | 1994-12-27 | 1999-10-05 | Siemens Corporated Research, Inc | Method and apparatus for automatically tracking the location of vehicles |
US5798949A (en) | 1995-01-13 | 1998-08-25 | Kaub; Alan Richard | Traffic safety prediction model |
US6662141B2 (en) | 1995-01-13 | 2003-12-09 | Alan R. Kaub | Traffic safety prediction model |
US6720920B2 (en) | 1997-10-22 | 2004-04-13 | Intelligent Technologies International Inc. | Method and arrangement for communicating between vehicles |
US20070154063A1 (en) | 1995-06-07 | 2007-07-05 | Automotive Technologies International, Inc. | Image Processing Using Rear View Mirror-Mounted Imaging Device |
US7085637B2 (en) | 1997-10-22 | 2006-08-01 | Intelligent Technologies International, Inc. | Method and system for controlling a vehicle |
US5898390A (en) | 1995-09-14 | 1999-04-27 | Zexel Corporation | Method and apparatus for calibration of a distance sensor in a vehicle navigation system |
WO1997029437A1 (en) | 1996-02-09 | 1997-08-14 | Sarnoff Corporation | Method and apparatus for training a neural network to detect and classify objects with uncertain training data |
WO1998025413A1 (en) | 1996-12-04 | 1998-06-11 | Matsushita Electric Industrial Co., Ltd. | Optical disc for high resolution and three-dimensional image recording, optical disc reproducing device, and optical disc recording device |
DE19752127A1 (de) | 1997-11-25 | 1999-07-29 | Stockhausen Chem Fab Gmbh | Verfahren zur Herstellung von synthetischen Polymerisaten mit sehr niedrigem Restmonomergehalt, danach hergestellte Produkte und deren Verwendung |
US6240367B1 (en) | 1998-11-27 | 2001-05-29 | Ching-Fang Lin | Full fusion positioning method for vehicle |
JP3243236B2 (ja) | 1999-09-24 | 2002-01-07 | 松下電器産業株式会社 | 位置データ間引き装置 |
AUPQ896000A0 (en) * | 2000-07-24 | 2000-08-17 | Seeing Machines Pty Ltd | Facial image processing system |
US6502033B1 (en) | 2000-10-05 | 2002-12-31 | Navigation Technologies Corp. | Turn detection algorithm for vehicle positioning |
FR2816200A1 (fr) | 2000-11-06 | 2002-05-10 | Praxim | Determination de la position d'une prothese du genou |
US6496117B2 (en) | 2001-03-30 | 2002-12-17 | Koninklijke Philips Electronics N.V. | System for monitoring a driver's attention to driving |
US6927694B1 (en) | 2001-08-20 | 2005-08-09 | Research Foundation Of The University Of Central Florida | Algorithm for monitoring head/eye motion for driver alertness with one camera |
US7148913B2 (en) | 2001-10-12 | 2006-12-12 | Hrl Laboratories, Llc | Vision-based pointer tracking and object classification method and apparatus |
DE10210130B4 (de) | 2002-03-08 | 2014-12-24 | Robert Bosch Gmbh | Verfahren und Vorrichtung zur Fahrerwarnung |
AU2003280516A1 (en) | 2002-07-01 | 2004-01-19 | The Regents Of The University Of California | Digital processing of video images |
US20040051659A1 (en) | 2002-09-18 | 2004-03-18 | Garrison Darwin A. | Vehicular situational awareness system |
ATE454849T1 (de) | 2002-10-15 | 2010-01-15 | Volvo Technology Corp | Verfahren für die auswertung der kopf- und augenaktivität einer person |
US20060106534A1 (en) | 2002-10-22 | 2006-05-18 | Yukihiro Kawamata | Map data delivering method for communication-type navigation system |
US7015831B2 (en) | 2002-12-17 | 2006-03-21 | Evolution Robotics, Inc. | Systems and methods for incrementally updating a pose of a mobile device calculated by visual simultaneous localization and mapping techniques |
JP4305057B2 (ja) | 2003-05-22 | 2009-07-29 | 日産自動車株式会社 | 脇見検出装置 |
DE10323915A1 (de) | 2003-05-23 | 2005-02-03 | Daimlerchrysler Ag | Kamerabasierte Positionserkennung für ein Straßenfahrzeug |
JP4841425B2 (ja) | 2003-06-06 | 2011-12-21 | ボルボ テクノロジー コーポレイション | 運転者の行動解釈に基づいて自動車のサブシステムを制御する方法および機構 |
US7212651B2 (en) | 2003-06-17 | 2007-05-01 | Mitsubishi Electric Research Laboratories, Inc. | Detecting pedestrians using patterns of motion and appearance in videos |
DE10336638A1 (de) | 2003-07-25 | 2005-02-10 | Robert Bosch Gmbh | Vorrichtung zur Klassifizierung wengistens eines Objekts in einem Fahrzeugumfeld |
WO2005069675A1 (ja) | 2004-01-20 | 2005-07-28 | Omron Corporation | 運転中における電話使用時の電話対策装置及び電話対策方法 |
US7689321B2 (en) | 2004-02-13 | 2010-03-30 | Evolution Robotics, Inc. | Robust sensor fusion for mapping and localization in a simultaneous localization and mapping (SLAM) system |
US20050234679A1 (en) | 2004-02-13 | 2005-10-20 | Evolution Robotics, Inc. | Sequential selective integration of sensor data |
CA2559726C (en) | 2004-03-24 | 2015-10-20 | A9.Com, Inc. | System and method for displaying images in an online directory |
JP4329622B2 (ja) | 2004-06-02 | 2009-09-09 | 日産自動車株式会社 | 車両用運転操作補助装置および車両用運転操作補助装置を備えた車両 |
DE102004031557B4 (de) | 2004-06-29 | 2016-12-22 | Conti Temic Microelectronic Gmbh | Verfahren und Crash-Sensor für eine Vorrichtung zur insassengefährdungsrelevanten Aktivierung von Insassen-Schutzeinrichtungen in einem Kraftfahrzeug bei Crashfällen |
US7195394B2 (en) | 2004-07-19 | 2007-03-27 | Vijay Singh | Method for resonant wave mixing in closed containers |
US7228230B2 (en) | 2004-11-12 | 2007-06-05 | Mitsubishi Denki Kabushiki Kaisha | System for autonomous vehicle navigation with carrier phase DGPS and laser-scanner augmentation |
JP4811019B2 (ja) | 2005-01-17 | 2011-11-09 | 株式会社豊田中央研究所 | 衝突挙動制御装置 |
CA2601565C (en) | 2005-03-18 | 2015-10-27 | Gatekeeper Systems, Inc. | Two-way communication system for tracking locations and statuses of wheeled vehicles |
EP1876411A4 (en) | 2005-04-25 | 2011-06-29 | Geo Technical Lab Co Ltd | METHOD FOR ANALYZING THE PICTURE POSITION |
ES2374221T3 (es) | 2005-07-11 | 2012-02-14 | Volvo Technology Corporation | Métodos y dispositivo para llevar a cabo la verificación de identidad de un conductor. |
US20070050108A1 (en) | 2005-08-15 | 2007-03-01 | Larschan Bradley R | Driver activity and vehicle operation logging and reporting |
DE602005017144D1 (de) | 2005-08-18 | 2009-11-26 | Honda Res Inst Europe Gmbh | Fahrerassistenzsystem |
US7933786B2 (en) | 2005-11-01 | 2011-04-26 | Accenture Global Services Limited | Collaborative intelligent task processor for insurance claims |
US7423540B2 (en) | 2005-12-23 | 2008-09-09 | Delphi Technologies, Inc. | Method of detecting vehicle-operator state |
US7646922B2 (en) | 2005-12-30 | 2010-01-12 | Honeywell International Inc. | Object classification in video images |
TWI302879B (en) | 2006-05-12 | 2008-11-11 | Univ Nat Chiao Tung | Real-time nighttime vehicle detection and recognition system based on computer vision |
JP4724043B2 (ja) | 2006-05-17 | 2011-07-13 | トヨタ自動車株式会社 | 対象物認識装置 |
JP4680131B2 (ja) | 2006-05-29 | 2011-05-11 | トヨタ自動車株式会社 | 自車位置測定装置 |
EP2032034B1 (en) * | 2006-06-11 | 2020-04-01 | Volvo Truck Corporation | Method for determining and analyzing a location of visual interest |
US9558505B2 (en) | 2006-07-18 | 2017-01-31 | American Express Travel Related Services Company, Inc. | System and method for prepaid rewards |
US7853072B2 (en) | 2006-07-20 | 2010-12-14 | Sarnoff Corporation | System and method for detecting still objects in images |
US7912288B2 (en) | 2006-09-21 | 2011-03-22 | Microsoft Corporation | Object detection and recognition system |
US7579942B2 (en) * | 2006-10-09 | 2009-08-25 | Toyota Motor Engineering & Manufacturing North America, Inc. | Extra-vehicular threat predictor |
US8174568B2 (en) | 2006-12-01 | 2012-05-08 | Sri International | Unified framework for precise vision-aided navigation |
US20080243378A1 (en) | 2007-02-21 | 2008-10-02 | Tele Atlas North America, Inc. | System and method for vehicle navigation and piloting including absolute and relative coordinates |
US8606512B1 (en) | 2007-05-10 | 2013-12-10 | Allstate Insurance Company | Route risk mitigation |
US7844077B2 (en) | 2007-07-06 | 2010-11-30 | Topcon Corporation | Location measuring device and method |
JP2009117832A (ja) | 2007-11-06 | 2009-05-28 | Asml Netherlands Bv | リソグラフィの基板を準備する方法、基板、デバイス製造方法、密封コーティングアプリケータ及び密封コーティング測定装置 |
WO2009076600A2 (en) | 2007-12-12 | 2009-06-18 | New York University | System, method and computer-accessible medium for normalizing databases through mixing |
US8022831B1 (en) | 2008-01-03 | 2011-09-20 | Pamela Wood-Eyre | Interactive fatigue management system and method |
GB2491987B (en) | 2008-03-03 | 2013-03-27 | Videoiq Inc | Method of searching data for objects identified by object detection |
EP2305594B1 (en) | 2008-07-23 | 2015-04-08 | Daifuku Co., Ltd. | Learning device and learning method in article conveyance facility |
JP5267570B2 (ja) | 2008-12-25 | 2013-08-21 | トヨタ自動車株式会社 | 運転支援装置 |
US7868821B2 (en) | 2009-01-15 | 2011-01-11 | Alpine Electronics, Inc | Method and apparatus to estimate vehicle position and recognized landmark positions using GPS and camera |
DE102009005730A1 (de) | 2009-01-22 | 2010-07-29 | Hella Kgaa Hueck & Co. | Verfahren und Vorrichtung zur Überwachung der Aufmerksamkeit eines Fahrzeugführers |
US8854199B2 (en) | 2009-01-26 | 2014-10-07 | Lytx, Inc. | Driver risk assessment system and method employing automated driver log |
US20100209891A1 (en) | 2009-02-18 | 2010-08-19 | Gm Global Technology Operations, Inc. | Driving skill recognition based on stop-and-go driving behavior |
US20100209881A1 (en) | 2009-02-18 | 2010-08-19 | Gm Global Technology Operations, Inc. | Driving skill recognition based on behavioral diagnosis |
US8254670B2 (en) | 2009-02-25 | 2012-08-28 | Toyota Motor Engineering & Manufacturing North America, Inc. | Self-learning object detection and classification systems and methods |
JP5142047B2 (ja) | 2009-02-26 | 2013-02-13 | アイシン・エィ・ダブリュ株式会社 | ナビゲーション装置及びナビゲーション用プログラム |
EP2402924A4 (en) | 2009-02-27 | 2012-07-04 | Toyota Motor Co Ltd | DEVICE FOR EVALUATING A RELATIVE VEHICLE POSITION AND METHOD FOR EVALUATING A RELATIVE VEHICLE POSITION |
US8266132B2 (en) | 2009-03-03 | 2012-09-11 | Microsoft Corporation | Map aggregation |
JP4788798B2 (ja) | 2009-04-23 | 2011-10-05 | トヨタ自動車株式会社 | 物体検出装置 |
KR101004664B1 (ko) | 2009-06-03 | 2011-01-04 | 주식회사 하이닉스반도체 | 반도체 메모리 장치 및 그 동작방법 |
US8369608B2 (en) | 2009-06-22 | 2013-02-05 | Toyota Motor Engineering & Manufacturing North America, Inc. | System and method for detecting drowsy facial expressions of vehicle drivers under changing illumination conditions |
US8957779B2 (en) | 2009-06-23 | 2015-02-17 | L&P Property Management Company | Drowsy driver detection system |
US9491420B2 (en) | 2009-09-20 | 2016-11-08 | Tibet MIMAR | Vehicle security with accident notification and embedded driver analytics |
US8502860B2 (en) | 2009-09-29 | 2013-08-06 | Toyota Motor Engineering & Manufacturing North America (Tema) | Electronic control system, electronic control unit and associated methodology of adapting 3D panoramic views of vehicle surroundings by predicting driver intent |
AU2009243442B2 (en) | 2009-11-30 | 2013-06-13 | Canon Kabushiki Kaisha | Detection of abnormal behaviour in video objects |
US8805707B2 (en) | 2009-12-31 | 2014-08-12 | Hartford Fire Insurance Company | Systems and methods for providing a safety score associated with a user location |
JP2011180873A (ja) | 2010-03-02 | 2011-09-15 | Panasonic Corp | 運転支援装置、及び運転支援方法 |
EP2395478A1 (en) | 2010-06-12 | 2011-12-14 | Toyota Motor Europe NV/SA | Monocular 3D pose estimation and tracking by detection |
US8676498B2 (en) | 2010-09-24 | 2014-03-18 | Honeywell International Inc. | Camera and inertial measurement unit integration with navigation data feedback for feature tracking |
JP5257433B2 (ja) | 2010-09-30 | 2013-08-07 | ブラザー工業株式会社 | 画像読取装置 |
KR101231510B1 (ko) | 2010-10-11 | 2013-02-07 | 현대자동차주식회사 | 운전자 주시방향 연동 전방충돌 위험경보 시스템, 그 방법 및 그를 이용한 차량 |
DE102010049351A1 (de) | 2010-10-23 | 2012-04-26 | Daimler Ag | Verfahren zum Betreiben einer Bremsassistenzvorrichtung und Bremsassistenzvorrichtung für ein Fahrzeug |
US8447519B2 (en) | 2010-11-10 | 2013-05-21 | GM Global Technology Operations LLC | Method of augmenting GPS or GPS/sensor vehicle positioning using additional in-vehicle vision sensors |
US9146558B2 (en) | 2010-11-30 | 2015-09-29 | Irobot Corporation | Mobile robot and method of operating thereof |
KR101306286B1 (ko) | 2010-12-17 | 2013-09-09 | 주식회사 팬택 | X-레이 뷰 기반의 증강 현실 제공 장치 및 방법 |
US8957847B1 (en) * | 2010-12-28 | 2015-02-17 | Amazon Technologies, Inc. | Low distraction interfaces |
US8862395B2 (en) | 2011-01-31 | 2014-10-14 | Raytheon Company | Coded marker navigation system and method |
US8620026B2 (en) | 2011-04-13 | 2013-12-31 | International Business Machines Corporation | Video-based detection of multiple object types under varying poses |
US20140049601A1 (en) | 2011-05-05 | 2014-02-20 | Panono Gmbh | Camera system for capturing images and methods thereof |
JP2013014225A (ja) | 2011-07-04 | 2013-01-24 | Toyota Motor Corp | 車両の追突警報装置 |
US8195394B1 (en) | 2011-07-13 | 2012-06-05 | Google Inc. | Object detection and classification for autonomous vehicles |
US8761439B1 (en) | 2011-08-24 | 2014-06-24 | Sri International | Method and apparatus for generating three-dimensional pose using monocular visual sensor and inertial measurement unit |
US8606492B1 (en) | 2011-08-31 | 2013-12-10 | Drivecam, Inc. | Driver log generation |
US9235750B1 (en) | 2011-09-16 | 2016-01-12 | Lytx, Inc. | Using passive driver identification and other input for providing real-time alerts or actions |
US8744642B2 (en) | 2011-09-16 | 2014-06-03 | Lytx, Inc. | Driver identification based on face data |
US11074495B2 (en) | 2013-02-28 | 2021-07-27 | Z Advanced Computing, Inc. (Zac) | System and method for extremely efficient image and pattern recognition and artificial intelligence platform |
US20130093886A1 (en) | 2011-10-18 | 2013-04-18 | Ariel Inventions, Llc | Method and system for using a vehicle-based digital imagery system to identify another vehicle |
US9111147B2 (en) | 2011-11-14 | 2015-08-18 | Massachusetts Institute Of Technology | Assisted video surveillance of persons-of-interest |
US20130147661A1 (en) | 2011-12-07 | 2013-06-13 | International Business Machines Corporation | System and method for optical landmark identification for gps error correction |
US8811938B2 (en) | 2011-12-16 | 2014-08-19 | Microsoft Corporation | Providing a user interface experience based on inferred vehicle state |
WO2013101054A1 (en) | 2011-12-29 | 2013-07-04 | Intel Corporation | Systems, methods, and apparatus for identifying an occupant of a vehicle |
US9784843B2 (en) | 2012-01-17 | 2017-10-10 | Limn Tech LLC | Enhanced roadway mark locator, inspection apparatus, and marker |
JP5863481B2 (ja) | 2012-01-30 | 2016-02-16 | 日立マクセル株式会社 | 車両用衝突危険予測装置 |
US8457827B1 (en) | 2012-03-15 | 2013-06-04 | Google Inc. | Modifying behavior of autonomous vehicle based on predicted behavior of other vehicles |
JP5729345B2 (ja) | 2012-04-10 | 2015-06-03 | 株式会社デンソー | 感情モニタリングシステム |
US8634822B2 (en) | 2012-06-24 | 2014-01-21 | Tango Networks, Inc. | Automatic identification of a vehicle driver based on driving behavior |
SE536586C2 (sv) | 2012-07-02 | 2014-03-11 | Scania Cv Ab | Anordning och förfarande för att bedöma olycksrisk vid framförande av ett fordon |
US9854159B2 (en) * | 2012-07-20 | 2017-12-26 | Pixart Imaging Inc. | Image system with eye protection |
JP5944781B2 (ja) | 2012-07-31 | 2016-07-05 | 株式会社デンソーアイティーラボラトリ | 移動体認識システム、移動体認識プログラム、及び移動体認識方法 |
US8510196B1 (en) | 2012-08-16 | 2013-08-13 | Allstate Insurance Company | Feedback loop in mobile damage assessment and claims processing |
US9365162B2 (en) | 2012-08-20 | 2016-06-14 | Magna Electronics Inc. | Method of obtaining data relating to a driver assistance system of a vehicle |
DE102012016800A1 (de) | 2012-08-23 | 2014-02-27 | Audi Ag | Verfahren und Vorrichtung zur Ermittlung einer Fahrzeugposition in einer kartierten Umgebung |
DE102012216386A1 (de) | 2012-09-14 | 2014-03-20 | Robert Bosch Gmbh | Verfahren zum Betreiben eines Fahrerassistenzsystems eines Fahrzeugs |
GB2506365B (en) | 2012-09-26 | 2017-12-20 | Masternaut Risk Solutions Ltd | Vehicle incident detection |
US9488492B2 (en) | 2014-03-18 | 2016-11-08 | Sri International | Real-time system for multi-modal 3D geospatial mapping, object recognition, scene annotation and analytics |
US9535878B1 (en) * | 2012-12-19 | 2017-01-03 | Allstate Insurance Company | Driving event data analysis |
US9081650B1 (en) | 2012-12-19 | 2015-07-14 | Allstate Insurance Company | Traffic based driving analysis |
EP2752348A1 (en) | 2013-01-04 | 2014-07-09 | Continental Automotive Systems, Inc. | Adaptive emergency brake and steer assist system based on driver focus |
WO2014109016A1 (ja) | 2013-01-09 | 2014-07-17 | 三菱電機株式会社 | 車両周辺表示装置 |
US9367065B2 (en) | 2013-01-25 | 2016-06-14 | Google Inc. | Modifying behavior of autonomous vehicles based on sensor blind spots and limitations |
US8847771B2 (en) * | 2013-01-25 | 2014-09-30 | Toyota Motor Engineering & Manufacturing North America, Inc. | Method and apparatus for early detection of dynamic attentive states for providing an inattentive warning |
US9439036B2 (en) | 2013-01-25 | 2016-09-06 | Visa International Service Association | Systems and methods to select locations of interest based on distance from route points or route paths |
US8952819B2 (en) * | 2013-01-31 | 2015-02-10 | Lytx, Inc. | Direct observation event triggering of drowsiness |
US9092986B2 (en) | 2013-02-04 | 2015-07-28 | Magna Electronics Inc. | Vehicular vision system |
US8799034B1 (en) | 2013-03-08 | 2014-08-05 | Allstate University Company | Automated accident detection, fault attribution, and claims processing |
US20140267703A1 (en) | 2013-03-15 | 2014-09-18 | Robert M. Taylor | Method and Apparatus of Mapping Landmark Position and Orientation |
US9349113B2 (en) | 2013-03-26 | 2016-05-24 | 3 Strike, Llc | Storage container with inventory control |
GB2512317A (en) | 2013-03-26 | 2014-10-01 | Jaguar Land Rover Ltd | Vehicle control system and method |
JP5878491B2 (ja) | 2013-03-27 | 2016-03-08 | 株式会社日本自動車部品総合研究所 | 運転支援装置 |
US9260095B2 (en) | 2013-06-19 | 2016-02-16 | Magna Electronics Inc. | Vehicle vision system with collision mitigation |
EP3017403A2 (en) | 2013-07-01 | 2016-05-11 | Agent Video Intelligence Ltd. | System and method for abnormality detection |
US20150025917A1 (en) | 2013-07-15 | 2015-01-22 | Advanced Insurance Products & Services, Inc. | System and method for determining an underwriting risk, risk score, or price of insurance using cognitive information |
JP6398347B2 (ja) | 2013-08-15 | 2018-10-03 | 株式会社リコー | 画像処理装置、認識対象物検出方法、認識対象物検出プログラム、および、移動体制御システム |
US9201424B1 (en) | 2013-08-27 | 2015-12-01 | Google Inc. | Camera calibration using structure from motion techniques |
EP2851870B1 (en) | 2013-09-20 | 2019-01-23 | Application Solutions (Electronics and Vision) Limited | Method for estimating ego motion of an object |
US20150084757A1 (en) | 2013-09-23 | 2015-03-26 | Agero, Inc. | Methods and systems for determining auto accidents using mobile phones and initiating emergency response |
US9495602B2 (en) | 2013-10-23 | 2016-11-15 | Toyota Motor Engineering & Manufacturing North America, Inc. | Image and map-based detection of vehicles at intersections |
US9305214B1 (en) | 2013-10-29 | 2016-04-05 | The United States Of America, As Represented By The Secretary Of The Navy | Systems and methods for real-time horizon detection in images |
JP6325806B2 (ja) | 2013-12-06 | 2018-05-16 | 日立オートモティブシステムズ株式会社 | 車両位置推定システム |
US9327743B2 (en) | 2013-12-19 | 2016-05-03 | Thales Canada Inc | Guideway mounted vehicle localization system |
EP3103058A1 (de) * | 2014-02-04 | 2016-12-14 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Hough-prozessor |
US10283162B2 (en) | 2014-02-05 | 2019-05-07 | Avatar Merger Sub II, LLC | Method for triggering events in a video |
US9342888B2 (en) | 2014-02-08 | 2016-05-17 | Honda Motor Co., Ltd. | System and method for mapping, localization and pose correction of a vehicle based on images |
JP6350549B2 (ja) | 2014-02-14 | 2018-07-04 | 日本電気株式会社 | 映像解析システム |
US10049408B2 (en) | 2014-04-15 | 2018-08-14 | Speedgauge, Inc. | Assessing asynchronous authenticated data sources for use in driver risk management |
US9158962B1 (en) | 2014-05-07 | 2015-10-13 | Lytx, Inc. | Passive driver identification |
EP2950294B1 (en) | 2014-05-30 | 2019-05-08 | Honda Research Institute Europe GmbH | Method and vehicle with an advanced driver assistance system for risk-based traffic scene analysis |
DE112014006721T5 (de) | 2014-06-03 | 2017-02-16 | Bayerische Motoren Werke Aktiengesellschaft | Adaptive Warnungsverwaltung für das fortschrittiiche Fahrerassistenzsystem (ADAS) |
US10572744B2 (en) | 2014-06-03 | 2020-02-25 | Mobileye Vision Technologies Ltd. | Systems and methods for detecting an object |
AU2015280776B2 (en) | 2014-06-27 | 2019-08-22 | Crown Equipment Corporation | Vehicle positioning or navigation utilizing associated feature pairs |
US9242654B2 (en) | 2014-06-27 | 2016-01-26 | International Business Machines Corporation | Determining vehicle collision risk |
US20160063761A1 (en) | 2014-08-27 | 2016-03-03 | Toyota Jidosha Kabushiki Kaisha | Communication of spatial information based on driver attention assessment |
JP6441616B2 (ja) | 2014-08-29 | 2018-12-19 | 株式会社ゼンリン | 位置特定装置、運転支援装置および制御プログラム |
US20160086021A1 (en) | 2014-09-24 | 2016-03-24 | 1A Smart Start, Inc. | Substance Testing Systems and Methods with Test Subject Identification Using Electronic Facial Recognition Techniques |
US9519289B2 (en) | 2014-11-26 | 2016-12-13 | Irobot Corporation | Systems and methods for performing simultaneous localization and mapping using machine vision systems |
US9886856B2 (en) | 2014-12-04 | 2018-02-06 | Here Global B.V. | Near miss system |
DE102014226185B4 (de) | 2014-12-17 | 2022-09-29 | Bayerische Motoren Werke Aktiengesellschaft | Verfahren und Blickrichtungserkennungssystem zum Bestimmen einer Blickrichtung einer Person, sowie Verwendung des Blickrichtungserkennungssystems in einem Kraftfahrzeug |
US9573592B2 (en) | 2014-12-23 | 2017-02-21 | Toyota Motor Engineering & Manufacturing North America, Inc. | Risk mitigation for autonomous vehicles relative to oncoming objects |
EP3057061B1 (en) | 2015-02-16 | 2017-08-30 | Application Solutions (Electronics and Vision) Limited | Method and device for the estimation of car egomotion from surround view images |
US20160244022A1 (en) | 2015-02-24 | 2016-08-25 | Ford Global Technologies, Llc | Vehicle control action sequence for operator authentication |
US11113941B2 (en) | 2015-02-27 | 2021-09-07 | Carrier Corporation | Ambient light sensor in a hazard detector and a method of using the same |
JP6411917B2 (ja) | 2015-02-27 | 2018-10-24 | 株式会社日立製作所 | 自己位置推定装置および移動体 |
GB201503413D0 (en) | 2015-02-27 | 2015-04-15 | Caring Community Sa | Improved navigation system |
US10416764B2 (en) * | 2015-03-13 | 2019-09-17 | Apple Inc. | Method for operating an eye tracking device for multi-user eye tracking and eye tracking device |
KR20160114992A (ko) | 2015-03-25 | 2016-10-06 | 한국전자통신연구원 | 빈피킹 시스템 및 빈피킹 수행 방법 |
JP2016197083A (ja) | 2015-04-06 | 2016-11-24 | ソニー株式会社 | 制御装置および方法、並びにプログラム |
DE102015206200A1 (de) | 2015-04-08 | 2016-10-13 | Robert Bosch Gmbh | Verfahren und Vorrichtung zur Aufmerksamkeitserkennung eines Fahrzeugführers |
US20160300242A1 (en) | 2015-04-10 | 2016-10-13 | Uber Technologies, Inc. | Driver verification system for transport services |
US9767625B1 (en) | 2015-04-13 | 2017-09-19 | Allstate Insurance Company | Automatic crash detection |
WO2016179303A1 (en) | 2015-05-04 | 2016-11-10 | Kamama, Inc. | System and method of vehicle sensor management |
KR101693991B1 (ko) | 2015-05-18 | 2017-01-17 | 현대자동차주식회사 | 친환경 차량의 제어 시스템 및 방법 |
US10035509B2 (en) | 2015-08-06 | 2018-07-31 | Safer Technology Solutions LLC | Early warning intersection device |
US9679480B2 (en) | 2015-08-07 | 2017-06-13 | Ford Global Technologies, Llc | Vehicle driver responsibility factor assessment and broadcast |
US9845097B2 (en) | 2015-08-12 | 2017-12-19 | Ford Global Technologies, Llc | Driver attention evaluation |
KR20170020036A (ko) | 2015-08-13 | 2017-02-22 | 현대자동차주식회사 | 운전자의 생체 정보에 관한 비밀 모드가 적용된 시스템 및 그 동작 방법 |
US10586102B2 (en) | 2015-08-18 | 2020-03-10 | Qualcomm Incorporated | Systems and methods for object tracking |
US20170053555A1 (en) | 2015-08-21 | 2017-02-23 | Trimble Navigation Limited | System and method for evaluating driver behavior |
JP6406171B2 (ja) | 2015-08-25 | 2018-10-17 | トヨタ自動車株式会社 | 瞬目検知装置 |
US9996756B2 (en) | 2015-08-31 | 2018-06-12 | Lytx, Inc. | Detecting risky driving with machine vision |
US10555021B2 (en) | 2015-08-31 | 2020-02-04 | Orcam Technologies Ltd. | Systems and methods for selecting content based on a user's behavior |
US10150448B2 (en) | 2015-09-18 | 2018-12-11 | Ford Global Technologies. Llc | Autonomous vehicle unauthorized passenger or object detection |
US11307042B2 (en) | 2015-09-24 | 2022-04-19 | Allstate Insurance Company | Three-dimensional risk maps |
US9914460B2 (en) | 2015-09-25 | 2018-03-13 | Mcafee, Llc | Contextual scoring of automobile drivers |
WO2017057044A1 (ja) | 2015-09-30 | 2017-04-06 | ソニー株式会社 | 情報処理装置及び情報処理方法 |
US9718468B2 (en) | 2015-10-13 | 2017-08-01 | Verizon Patent And Licensing Inc. | Collision prediction system |
US9981662B2 (en) | 2015-10-15 | 2018-05-29 | Ford Global Technologies, Llc | Speed limiting comfort enhancement |
US10515417B2 (en) | 2015-10-16 | 2019-12-24 | Accenture Global Services Limited | Device based incident detection and notification |
EP3159853B1 (en) | 2015-10-23 | 2019-03-27 | Harman International Industries, Incorporated | Systems and methods for advanced driver assistance analytics |
US9734455B2 (en) | 2015-11-04 | 2017-08-15 | Zoox, Inc. | Automated extraction of semantic information to enhance incremental mapping modifications for robotic vehicles |
US10019637B2 (en) | 2015-11-13 | 2018-07-10 | Honda Motor Co., Ltd. | Method and system for moving object detection with single camera |
US9491374B1 (en) | 2015-12-11 | 2016-11-08 | Fuji Xerox Co., Ltd. | Systems and methods for videoconferencing input and display management based on activity |
US11010910B2 (en) | 2015-12-18 | 2021-05-18 | Iris Automation, Inc. | Systems and methods for dynamic object tracking using a single camera mounted on a moving object |
US10460600B2 (en) | 2016-01-11 | 2019-10-29 | NetraDyne, Inc. | Driver behavior monitoring |
US10269075B2 (en) | 2016-02-02 | 2019-04-23 | Allstate Insurance Company | Subjective route risk mapping and mitigation |
US9892558B2 (en) | 2016-02-19 | 2018-02-13 | The Boeing Company | Methods for localization using geotagged photographs and three-dimensional visualization |
US10289113B2 (en) | 2016-02-25 | 2019-05-14 | Ford Global Technologies, Llc | Autonomous occupant attention-based control |
JP6724425B2 (ja) | 2016-03-04 | 2020-07-15 | アイシン精機株式会社 | 駐車支援装置 |
US10235585B2 (en) | 2016-04-11 | 2019-03-19 | The Nielsen Company (US) | Methods and apparatus to determine the dimensions of a region of interest of a target object from an image using target object landmarks |
US9896096B2 (en) | 2016-04-11 | 2018-02-20 | David E. Newman | Systems and methods for hazard mitigation |
US10247565B2 (en) | 2016-04-11 | 2019-04-02 | State Farm Mutual Automobile Insurance Company | Traffic risk avoidance for a route selection system |
US10323952B2 (en) | 2016-04-26 | 2019-06-18 | Baidu Usa Llc | System and method for presenting media contents in autonomous vehicles |
US10126141B2 (en) | 2016-05-02 | 2018-11-13 | Google Llc | Systems and methods for using real-time imagery in navigation |
JP6702543B2 (ja) | 2016-05-31 | 2020-06-03 | 株式会社東芝 | 情報処理装置、方法およびプログラム |
JP6384521B2 (ja) | 2016-06-10 | 2018-09-05 | トヨタ自動車株式会社 | 車両の運転支援装置 |
US10007854B2 (en) | 2016-07-07 | 2018-06-26 | Ants Technology (Hk) Limited | Computer vision based driver assistance devices, systems, methods and associated computer executable code |
IL247101B (en) | 2016-08-03 | 2018-10-31 | Pointgrab Ltd | Method and system for determining present in the image |
WO2018031678A1 (en) | 2016-08-09 | 2018-02-15 | Nauto Global Limited | System and method for precision localization and mapping |
CN109906165A (zh) | 2016-08-10 | 2019-06-18 | 兹沃公司 | 使用推断的注意力模型经由收集和存储的元数据提供信息的方法和设备 |
WO2018039560A1 (en) | 2016-08-26 | 2018-03-01 | Allstate Insurance Company | Automatic hail damage detection and repair |
WO2018053175A1 (en) * | 2016-09-14 | 2018-03-22 | Nauto Global Limited | Systems and methods for near-crash determination |
US9739627B1 (en) | 2016-10-18 | 2017-08-22 | Allstate Insurance Company | Road frustration index risk mapping and mitigation |
CN110178104A (zh) * | 2016-11-07 | 2019-08-27 | 新自动公司 | 用于确定驾驶员分心的***和方法 |
US20180176173A1 (en) | 2016-12-15 | 2018-06-21 | Google Inc. | Detecting extraneous social media messages |
US10259452B2 (en) | 2017-01-04 | 2019-04-16 | International Business Machines Corporation | Self-driving vehicle collision management system |
JP6867184B2 (ja) | 2017-02-13 | 2021-04-28 | トヨタ自動車株式会社 | 運転支援装置 |
US11347054B2 (en) | 2017-02-16 | 2022-05-31 | Magic Leap, Inc. | Systems and methods for augmented reality |
US10078790B2 (en) | 2017-02-16 | 2018-09-18 | Honda Motor Co., Ltd. | Systems for generating parking maps and methods thereof |
-
2017
- 2017-11-07 CN CN201780082650.7A patent/CN110178104A/zh active Pending
- 2017-11-07 JP JP2019522480A patent/JP7290567B2/ja active Active
- 2017-11-07 US US15/805,348 patent/US10246014B2/en active Active
- 2017-11-07 WO PCT/US2017/060307 patent/WO2018085804A1/en unknown
- 2017-11-07 EP EP17867780.3A patent/EP3535646A4/en active Pending
-
2019
- 2019-01-03 US US16/239,326 patent/US10703268B2/en active Active
-
2020
- 2020-07-03 US US16/946,749 patent/US11485284B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130297097A1 (en) * | 2006-03-08 | 2013-11-07 | Richard W. Fischer | Safe driving monitoring system |
US20140139655A1 (en) * | 2009-09-20 | 2014-05-22 | Tibet MIMAR | Driver distraction and drowsiness warning and sleepiness reduction for accident avoidance |
CN103813140A (zh) * | 2012-10-17 | 2014-05-21 | 株式会社电装 | 使用图像信息的车辆驾驶辅助*** |
CN103661375A (zh) * | 2013-11-25 | 2014-03-26 | 同济大学 | 一种考虑驾驶分心状态的车道偏离报警方法及*** |
CN105966405A (zh) * | 2015-03-13 | 2016-09-28 | 哈曼国际工业有限公司 | 驾驶员分心检测*** |
CN105989749A (zh) * | 2015-03-20 | 2016-10-05 | 哈曼国际工业有限公司 | 用于优先化驾驶员警报的***和方法 |
CN105654753A (zh) * | 2016-01-08 | 2016-06-08 | 北京乐驾科技有限公司 | 一种智能车载安全驾驶辅助方法及*** |
Non-Patent Citations (1)
Title |
---|
李贞等: "基于传感器技术的驾驶疲劳检测方法综述", 《测控技术》 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110816543A (zh) * | 2019-10-28 | 2020-02-21 | 东南大学 | 一种车辆转弯和变道场景下驾驶员分神驾驶检测和预警***及方法 |
CN110816543B (zh) * | 2019-10-28 | 2021-04-06 | 东南大学 | 一种车辆转弯和变道场景下驾驶员分神驾驶检测和预警***及方法 |
CN113147770A (zh) * | 2020-01-06 | 2021-07-23 | 安波福技术有限公司 | 驾驶员监测*** |
CN113147770B (zh) * | 2020-01-06 | 2023-10-20 | 安波福技术有限公司 | 驾驶员监测*** |
CN111317469A (zh) * | 2020-01-10 | 2020-06-23 | 深圳市宏智力科技有限公司 | 一种脑电波监测设备、***及监测方法 |
CN111317469B (zh) * | 2020-01-10 | 2022-12-02 | 深圳市宏智力科技有限公司 | 一种脑电波监测设备、***及监测方法 |
CN114386763A (zh) * | 2021-12-10 | 2022-04-22 | 斑马网络技术有限公司 | 一种车辆交互方法、车辆交互装置及存储介质 |
CN114187581A (zh) * | 2021-12-14 | 2022-03-15 | 安徽大学 | 一种基于无监督学习的驾驶员分心细粒度检测方法 |
CN114187581B (zh) * | 2021-12-14 | 2024-04-09 | 安徽大学 | 一种基于无监督学习的驾驶员分心细粒度检测方法 |
WO2024114426A1 (zh) * | 2022-11-30 | 2024-06-06 | 蔚来软件科技(上海)有限公司 | 人机共驾控制方法、装置、***及车辆 |
Also Published As
Publication number | Publication date |
---|---|
JP2020501227A (ja) | 2020-01-16 |
US20180126901A1 (en) | 2018-05-10 |
US10703268B2 (en) | 2020-07-07 |
US10246014B2 (en) | 2019-04-02 |
US11485284B2 (en) | 2022-11-01 |
EP3535646A4 (en) | 2020-08-12 |
US20200331387A1 (en) | 2020-10-22 |
EP3535646A1 (en) | 2019-09-11 |
JP7290567B2 (ja) | 2023-06-13 |
US20190152390A1 (en) | 2019-05-23 |
WO2018085804A1 (en) | 2018-05-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110178104A (zh) | 用于确定驾驶员分心的***和方法 | |
US11375338B2 (en) | Method for smartphone-based accident detection | |
US20220357744A1 (en) | Driving control apparatus, driving control method, and program | |
CN108137052B (zh) | 驾驶控制装置、驾驶控制方法和计算机可读介质 | |
JP7324716B2 (ja) | 情報処理装置、移動装置、および方法、並びにプログラム | |
US9956963B2 (en) | Apparatus for assessing, predicting, and responding to driver fatigue and drowsiness levels | |
JP2019533609A (ja) | ニアクラッシュ判定システムおよび方法 | |
CN107415938A (zh) | 基于乘员位置和注意力控制自主车辆功能和输出 | |
CN110023168A (zh) | 车辆控制***、车辆控制方法及车辆控制程序 | |
JP2020521978A (ja) | 安全ルート決定のためのシステムと方法 | |
JP2021128349A (ja) | 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム | |
JP2012103849A (ja) | 情報提供装置 | |
JP5742180B2 (ja) | 注視点推定装置 | |
JP2024026816A (ja) | 情報処理システム、情報処理装置、情報処理方法、及び、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20190827 |
|
WD01 | Invention patent application deemed withdrawn after publication |