JP2018127112A - 覚醒度推定装置及び覚醒度推定方法 - Google Patents

覚醒度推定装置及び覚醒度推定方法 Download PDF

Info

Publication number
JP2018127112A
JP2018127112A JP2017021599A JP2017021599A JP2018127112A JP 2018127112 A JP2018127112 A JP 2018127112A JP 2017021599 A JP2017021599 A JP 2017021599A JP 2017021599 A JP2017021599 A JP 2017021599A JP 2018127112 A JP2018127112 A JP 2018127112A
Authority
JP
Japan
Prior art keywords
arousal level
level
driver
unit
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017021599A
Other languages
English (en)
Other versions
JP6998564B2 (ja
Inventor
良宏 小島
Yoshihiro Kojima
良宏 小島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2017021599A priority Critical patent/JP6998564B2/ja
Priority to CN201711089481.8A priority patent/CN108394414B/zh
Priority to EP19217119.7A priority patent/EP3657457B1/en
Priority to EP17206259.8A priority patent/EP3361462B1/en
Priority to US15/847,994 priority patent/US10231660B2/en
Publication of JP2018127112A publication Critical patent/JP2018127112A/ja
Priority to US16/259,409 priority patent/US10485468B2/en
Priority to US16/661,574 priority patent/US10786193B2/en
Application granted granted Critical
Publication of JP6998564B2 publication Critical patent/JP6998564B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6893Cars
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7246Details of waveform analysis using correlation, e.g. template matching or determination of similarity
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7278Artificial waveform generation or derivation, e.g. synthesising signals from measured signals
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B23/00Alarms responsive to unspecified undesired or abnormal conditions

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Medical Informatics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Physiology (AREA)
  • Psychiatry (AREA)
  • Automation & Control Theory (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Cardiology (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Educational Technology (AREA)
  • Developmental Disabilities (AREA)
  • Child & Adolescent Psychology (AREA)
  • Hospice & Palliative Care (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】自動運転モードと手動運転モードとがある車両のドライバの覚醒度を高精度に推定することができる覚醒度推定装置を提供する。【解決手段】車両では、自動運転モードと手動運転モードとが切替え可能であり、車両の運転情報を検出する車両挙動検出部11と、検出された運転情報からドライバの第1の覚醒度を認識する第1の覚醒度認識部12と、ドライバの1以上の生体情報を検出する生体情報検出部16と、検出された1以上の生体情報からドライバの第2の覚醒度を認識する第2の覚醒度認識部17と、認識された第1の覚醒度及び第2の覚醒度の少なくとも一方から、ドライバの第3の覚醒度を推定する覚醒度推定部15とを備える。覚醒度推定部15は、手動運転モードでは、第1の覚醒度と第2の覚醒度とから、第3の覚醒度を推定し、自動運転モードでは、第2の覚醒度から第3の覚醒度を推定する。【選択図】図1

Description

本開示は、覚醒度推定装置及び覚醒度推定方法に関し、特に車両のドライバの覚醒度を推定する覚醒度推定装置及び覚醒度推定方法に関する。
近年、車両の加速、操舵及び制動などの車両の走行制御を自動的に行う自動運転システムの研究開発が盛んに行われている。
例えば、特許文献1には、アダプティブクルーズコントロール(ACC)を利用した自動運転中に、ドライバの運転操作を監視している運転操作検出センサにより検出された運転操作に基づいて、ドライバの覚醒度を推定する覚醒度推定装置が開示されている。なお、覚醒度は、目が醒めている度合いを示す尺度を示す。例えば、ドライバに眠気が生じている場合、覚醒度は低下する。
特許文献1に開示されている覚醒度推定装置は、ドライバのステアリング操作に対応する操舵角の変動パターンを用いてドライバの覚醒度の推定を行い、ドライバの覚醒度が低いと推定した場合、ドライバが眠気を催しているとして、アラーム等を作動させてドライバを覚醒させる。また、アラームの作動が所定回数以上になった場合には、車両のブレーキ装置を作動させて減速させたり、更には強制停止させたりする。このように、特許文献1に開示されている覚醒度推定装置によれば、確実な安全走行を実現することができる。
特開平6−171391号公報 特開2014−181020号公報 特開2016−38768号公報 特開2015−219771号公報
北島、沼田、山本、五井:自動車運転時の眠気の予測手法についての研究(第1報、眠気表情の評定法と眠気変動の予測に有効な指標について)、日本機械学会論文集C、63巻613号、pp.3059−3066、1997年9月
しかしながら、上記従来の覚醒度推定装置は、ドライバのステアリング操作に対応する操舵角の変動パターンを用いて覚醒度の推定を行う必要があるという課題がある。つまり、上記従来の覚醒度推定装置は、ドライバがステアリング操作等の運転操作を行う手動運転モードでは、覚醒度の推定を行えるものの、ドライバがステアリング操作等の運転操作をほとんど行わない自動運転モードにおいては覚醒度の推定が行えないという課題がある。
本開示は、上述の事情を鑑みてなされたもので、自動運転モードと手動運転モードとがある車両のドライバの覚醒度を高精度に推定することができる覚醒度推定装置及び覚醒度推定方法を提供することを目的とする。
本開示の一態様に係る覚醒度推定装置は、車両のドライバの覚醒度を推定する覚醒度推定装置であって、前記車両では、前記車両の走行制御を自動的に行う自動運転モードと、前記車両の走行制御をドライバが行う手動運転モードとが切り替え可能であり、前記車両の運転情報を検出する車両挙動検出部と、前記車両挙動検出部により検出された前記運転情報から前記ドライバの第1の覚醒度を認識する第1の覚醒度認識部と、前記ドライバの1以上の生体情報を検出する生体情報検出部と、前記生体情報検出部により検出された前記1以上の生体情報から前記ドライバの第2の覚醒度を認識する第2の覚醒度認識部と、前記第1の覚醒度認識部が認識する前記第1の覚醒度、及び、前記第2の覚醒度認識部が認識する前記第2の覚醒度の少なくとも一方から、前記車両が走行中における前記ドライバの第3の覚醒度を推定する覚醒度推定部とを備え、前記覚醒度推定部は、前記手動運転モードでは、前記第1の覚醒度と前記第2の覚醒度とから、第3の覚醒度を推定し、前記自動運転モードでは、前記第2の覚醒度から第3の覚醒度を推定する。
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたは記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
本開示に係る覚醒度推定装置等によれば、自動運転モードと手動運転モードとがある車両のドライバの覚醒度を高精度に推定することができる。
実施の形態における運転支援装置の構成の一例を示すブロック図 図1に示す運転操作部の詳細構成の一例を示すブロック図 図1に示す周辺環境認識部の詳細構成の一例を示すブロック図 図1に示す自車両位置検出部の詳細構成の一例を示すブロック図 図1に示す車両挙動検出部及び第1の覚醒度認識部の詳細構成の一例を示すブロック図 図1に示す生体情報検出部及び第2の覚醒度認識部の詳細構成の一例を示すブロック図 実施の形態における覚醒度推定装置が行う処理の概要を示すフローチャート 実施の形態における覚醒度推定装置が行う動作を説明するためのフローチャート 変形例における運転支援装置の構成の一例を示すブロック図
(本開示の基礎となった知見)
以下、本開示の基礎となった知見について説明する。
上述したように、近年、車両の加速、操舵及び制動などの車両の走行制御を自動的に行う自動運転システムの研究開発が盛んに行われている。自動運転システムには、自動化レベルがあり、広く用いられる自動化レベルはドライバとシステムとの運転に関する役割分担の観点から定義されている。例えば、米国運輸省道路交通***により定義される自動化レベルは、5つのレベルに分類され、手動運転がレベル0に完全自動運転がレベル4に分類される。
現在、多くの車両に搭載されている自動運転システムの自動化レベルは、レベル1である。レベル1は、自動運転ではなく、安全運転支援であるとして定義される。レベル1では、アダプティブクルーズコントロール(ACC)またはレーンキープアシスト(LKA)等が独立で車両に使用されている状態を示す。したがって、レベル1では、自動運転システムが車両の前後方向または左右方向のどちらか一方の車両制御を行い、ドライバがそれ以外の車両制御と交通状況の監視を行うことになる。また、レベル1では、安全運転の責任は、ドライバに課せられる。
例えば、ACCを装備した車両の自動運転システムは、先行車がいなければ、予め設定した車速で車両を走行させ、前方に先行車を検出した場合には、予め設定した車間距離を維持するように車速を調整する走行制御を自動的に行う。自動運転システムにより自動的に走行制御されている間、ドライバは、ペダル操作を行う必要がなくなるので、ドライバの運転操作はステアリングの操作のみになり、かなり単調なものになる。そのため、ドライバは、心の余裕が生じ、運転以外の作業を行ったり、覚醒度が低下したりする(眠気が発生する)可能性がある。つまり、ACCを装備した車両の自動運転システムはドライバに安全運転の責任があるにも関わらず、ドライバはACCを過信し、周辺環境への注意または監視が疎かになる可能性がある。
このように、ドライバの運転への意識が低下している時に、自動運転システムが突発的に機能限界に陥った場合には、ドライバは、運転において注意すべき対象への反応が遅れたり、対象を見逃したりする可能性が高くなると考えられる。そして、最悪の場合、交通事故に繋がる可能性がある。
そこで、ACC利用による快適性とドライバの安全走行とを同時に満たすために、ACC等の自動運転の機能利用時に、ドライバの状態、特に覚醒度を監視し、覚醒度が許容値より低下したら、ドライバに注意喚起する技術が提案されている(例えば特許文献1)。
特許文献1には、上述したように、ACCを利用した自動運転中に、運転操作検出センサにより検出された運転操作に基づいて、ドライバの覚醒度を推定する覚醒度推定装置が開示されている。具体的には、特許文献1に開示されている覚醒度推定装置は、ドライバのステアリングの操舵角の変動パターンを監視し、そのパターンの周波数特徴に基づいて、ドライバの覚醒度の推定を行う。ドライバの覚醒度が低いと推定した場合には、アラーム等を作動させて、ドライバを覚醒させる。そして、アラームの作動が所定回数以上になった場合には、ブレーキ装置を作動させて減速させたり、更には強制停止させたりする。このようにして、特許文献1に開示されている覚醒度推定装置は、確実な安全走行を実現することができる。
現在、次世代の自動運転システムとして、自動化レベルがレベル2である自動運転システムが一部実用化されつつある。レベル2の自動運転システムは、ACC及びLKA等を駆使して、車両の前後方向及び左右方向の車両制御を行うので、ドライバはペダル操作及びステアリング操作を行う必要がない。一方で、レベル2の安全運転の責任は、レベル1と同様にドライバにあるので、ドライバは、自動運転システムの機能限界に備えて、自動運転システム及び周辺環境の監視を常に行う必要がある。
しかしながら、レベル2では、自動運転システムが安定動作している限り、ドライバは運転操作をほとんど行う必要がないため、レベル1以上に、運転への意識または覚醒度が低下する可能性が高くなる。例えば自動運転システムが機能限界に陥った場合または故障した場合には、ドライバは、自動運転システムから運転操作を引き継ぐ必要がある。しかし、ドライバの覚醒度が低下している時に手動運転に切り替わると、ドライバは、車両の運転において注意すべき対象への反応が遅れたり、対象を見逃したりする可能性があり、最悪の場合、交通事故に繋がる可能性もある。
したがって、レベル2以上の自動運転システムを実現するためには、自動運転中のドライバの状態、特に、覚醒度を監視し、覚醒度が許容値より低下した時には、ドライバに注意喚起することで、覚醒度低下に伴う事故を未然に防ぐことが必要である。特に、自動運転中のドライバの覚醒度を精度よく推定する方法が重要な課題である。
一方、特許文献1に開示されている覚醒度推定装置には、上述したように、ACCを利用したレベル1の自動運転中のドライバの運転操作すなわちドライバのステアリング操作に対応する操舵角の変動パターンに基づいて、ドライバの覚醒度を推定する方法が開示されている。通常、ドライバは、覚醒度が低下すると、ステアリング操作を正確に行えなくなり、急激な操舵角の修正を頻繁に行うようになる。したがって、単位時間における操舵角の変動パターンの周波数特徴を用いてドライバのステアリング操作における操舵角の急激な修正を検出することができるので、その検出結果に基づいて、ドライバの覚醒度の推定を行うことができる。
しかしながら、上述したように、特許文献1に開示されている覚醒度推定装置では、ドライバがステアリング操作等の運転操作をほとんど行わない、レベル2以上の自動運転システムでは、覚醒度の推定が行えないという課題がある。
それに対して、例えば特許文献2または特許文献3では、運転操作以外の情報以外であるドライバの生体情報を用いて、ドライバの覚醒度を推定する方法について開示されている。より具体的には、特許文献2には、車載カメラを用いて取得した自動運転中のドライバの顔画像から、例えばドライバの眼の開き具合である開眼度などのドライバの状態を検出し、ドライバの覚醒度を推定する方法が開示されている。特許文献3には、ウェアラブルな生体センサを用いて検出した、例えば心拍情報や脳波情報などの自動運転中のドライバの生体情報に基づいて、ドライバの覚醒度を推定する方法が開示されている。特許文献2または特許文献3に開示されている方法を用いれば、ドライバの運転操作を用いずに、ドライバの覚醒度を推定することができる。つまり、ドライバが運転操作をほとんど行わない、レベル2以上の自動運転システムにおいても、ドライバの覚醒度を推定することが可能である。
しかしながら、一般的に、生体情報は個人差によるばらつきが大きく、十分な精度が得られないという課題がある。例えば特許文献2に開示されている方法では、ドライバの眼の開き具合である開眼度が小さくなればなるほど、ドライバの眠気が強くなっている、即ち覚醒度が低くなっていると推定する。しかし、普段から眼を大きく開けているドライバと、そうでないドライバが存在するので、同じ基準を用いた開眼度から全てのドライバに対する覚醒度を精度良く推定することはできない。同様に、特許文献3に開示されている方法では、ドライバの心拍情報や脳波を用いて覚醒度を推定しているが、自律神経系及び中枢神経系に関連するこれらの生体情報は、開眼度以上に個人差による精度のばらつきが大きい。したがって、ドライバの生体情報を用いて覚醒度を精度良く推定するためには、生体情報の個人差によるばらつきを吸収する推定方法が必要となる。
それに対して、ドライバの個人差によるばらつきを吸収する方法として、覚醒度を推定する覚醒度推定モデルに学習機能を持たせ、ドライバ個人の覚醒度推定モデルを生成する方法が考えられている。具体的には、ドライバ共通の覚醒度推定モデルに対して、ドライバ個人の教師データを用いて、モデルの学習を逐次的に行うことで、最終的にドライバ個人の覚醒度推定モデルを生成する方法が考えられている。
しかしながら、運転中のドライバに対し、ドライバ個人の教師データをどのように生成すればよいかわからないという課題がある。現在、覚醒度推定モデルの教師データとして、例えばドライバ本人の申告による主観評価値、または、ドライバの顔表情ビデオを第3者により主観的に推定された顔表情評定値が最もよく使われている。しかし、運転中のドライバからリアルタイムにこのようなデータを取得することは非常に困難である。
ところで、現在、通常の市街地において、ドライバが乗車して運転を開始してから、目的地に到着して運転を終了するまで、レベル2以上の自動運転モードで常に走行することは、技術的に非常に困難であると考えられる。車両周辺の交通状況を自動運転システムが完全に認識する必要があるが、車両周辺の交通状況を完全に認識するためのインフラの構築が実現されていないからである。よって、当面は、市街地では、レベル0の手動運転モード、または、レベル1の安全運転支援モードを使用し、郊外または高速道路では、レベル2以上の自動運転モードを使用して車両の走行制御を行うことになると考えられる。つまり、当面、ドライバは、周辺環境に応じて、手動運転モードと自動運転モードとを適宜切り替えて、運転することになると考えられる。
そこで、本願発明者は、鋭意検討の結果、手動運転時に、ドライバの生体情報を用いた覚醒度推定モデルを、ドライバの運転操作や車両挙動等の運転情報を用いた覚醒度推定モデルの推定結果を教師データとして学習することによって、生体情報を用いた覚醒度推定モデルの個人差によるばらつきを吸収することができることを見出した。
本開示の一態様に係る覚醒度推定装置は、車両のドライバの覚醒度を推定する覚醒度推定装置であって、前記車両では、前記車両の走行制御を自動的に行う自動運転モードと、前記車両の走行制御をドライバが行う手動運転モードとが切り替え可能であり、前記車両の運転情報を検出する車両挙動検出部と、前記車両挙動検出部により検出された前記運転情報から前記ドライバの第1の覚醒度を認識する第1の覚醒度認識部と、前記ドライバの1以上の生体情報を検出する生体情報検出部と、前記生体情報検出部により検出された前記1以上の生体情報から前記ドライバの第2の覚醒度を認識する第2の覚醒度認識部と、前記第1の覚醒度認識部が認識する前記第1の覚醒度、及び、前記第2の覚醒度認識部が認識する前記第2の覚醒度の少なくとも一方から、前記車両が走行中における前記ドライバの第3の覚醒度を推定する覚醒度推定部とを備え、前記覚醒度推定部は、前記手動運転モードでは、前記第1の覚醒度と前記第2の覚醒度とから、第3の覚醒度を推定し、前記自動運転モードでは、前記第2の覚醒度から第3の覚醒度を推定する。
これにより、手動運転モード時と自動運転モード時とで、ドライバの覚醒度を認識する認識部を選択的に用いることができるので、自動運転モードと手動運転モードとがある車両のドライバの覚醒度を高精度に推定することができる。
また、前記覚醒度推定部は、前記自動運転モードでは、前記第2の覚醒度を前記第3の覚醒度とすることにより、前記第2の覚醒度から前記第3の覚醒度を推定するとしてもよい。
また、前記覚醒度推定部は、前記手動運転モードでは、前記第1の覚醒度及び前記第2の覚醒度の信頼度が閾値以上か否かを判定し、前記信頼度が前記閾値以上である前記第1の覚醒度及び前記第2の覚醒度の一方を第3の覚醒度とすることにより、前記第3の覚醒度を推定するとしてもよい。
また、前記覚醒度推定部は、前記手動運転モードでは、前記第1の覚醒度及び前記第2の覚醒度それぞれの信頼度が閾値以上であり、かつ、前記第1の覚醒度及び前記第2の覚醒度が異なる場合、前記第1の覚醒度を前記第3の覚醒度とすることにより、前記第3の覚醒度を推定するとしてもよい。
また、前記覚醒度推定部は、前記手動運転モードにおいて、前記第1の覚醒度と前記第2の覚醒度とが異なる場合、前記第1の覚醒度に基づいて生成した教師データを用いて前記第2の覚醒度認識部が前記第1の覚醒度を認識結果として出力するように、前記第2の覚醒度認識部に学習処理を行わせるとしてもよい。
これにより、手動運転モード時において、第2の覚醒度の推定モデルを、第1の覚醒度から生成した教師データを用いて学習することで、生体情報の個人差による精度のばらつきを吸収することができる。したがって、ドライバの運転情報が利用できないレベル2以上の自動運転システムにおいても、ドライバの覚醒度を精度よく推定することが可能になる。
また、前記学習処理では、前記ドライバの1以上の生体情報と前記ドライバの覚醒度との関係を示している、前記第2の覚醒度認識の覚醒度識別モデルが、前記第1の覚醒度を識別結果として出力されるように更新されるとしてもよい。
また、前記第2の覚醒度認識部は、前記生体情報検出部により検出された複数の生体情報それぞれから、前記ドライバの生理状態に関する生体情報特徴を抽出する生体特徴抽出部と、前記生体特徴抽出部により抽出された複数の生体情報特徴の中から、前記第1の覚醒度から生成された前記教師データと相関の高い生体情報特徴を選択する生体特徴選択部とを備え、前記覚醒度推定部は、前記第2の覚醒度認識部が、前記生体特徴選択部により選択された生体情報特徴を教師データとして用いて、前記第1の覚醒度を認識結果として出力されるように、前記第2の覚醒度認識部に学習処理を行わせるとしてもよい。
また、前記生体情報は、前記ドライバの心拍変動を示す情報であるとしてもよい。
また、前記生体情報は、前記ドライバの顔が映った顔画像であるとしてもよい。
また、前記生体情報は、前記ドライバの体動を示す情報であるとしてもよい。
また、前記運転情報は、前記車両の操舵角を示す情報であるとしてもよい。
また、前記運転情報は、前記車両のアクセルペダル及びブレーキペダルの位置を示す情報であるとしてもよい。
また、前記運転情報は、前記車両の加速度を示す情報であるとしてもよい。
また、上記目的を達成するために、本開示の一態様に係る覚醒度推定方法は、車両のドライバの覚醒度を推定する覚醒度推定方法であって、前記車両では、前記車両の走行制御を自動的に行う自動運転モードと、前記車両の走行制御をドライバが行う手動運転モードとが切替え可能であり、前記車両の運転情報を検出する車両挙動検出ステップと、前記車両挙動検出ステップにおいて検出された前記運転情報から前記ドライバの第1の覚醒度を認識する第1の覚醒度認識ステップと、前記ドライバの生体情報を検出する生体情報検出ステップと、前記生体情報検出ステップにおいて検出された前記生体情報から前記ドライバの第2の覚醒度を認識する第2の覚醒度認識ステップと、前記第1の覚醒度認識ステップにおいて認識される前記第1の覚醒度、及び、前記第2の覚醒度認識ステップにおいて認識される前記第2の覚醒度の少なくとも一方から、前記車両が走行中における前記ドライバの第3の覚醒度を推定する覚醒度推定ステップとを含み、前記覚醒度推定ステップにおいて、前記手動運転モードでは、前記第1の覚醒度と前記第2の覚醒度とに基づいて、第3の覚醒度を推定し、前記自動運転モードでは、前記第2の覚醒度に基づいて第3の覚醒度を推定する。
なお、本開示は、装置として実現するだけでなく、このような装置が備える処理手段を備える集積回路として実現したり、その装置を構成する処理手段をステップとする方法として実現したり、それらステップをコンピュータに実行させるプログラムとして実現したり、そのプログラムを示す情報、データまたは信号として実現したりすることもできる。そして、それらプログラム、情報、データ及び信号は、CD−ROM等の記録媒体やインターネット等の通信媒体を介して配信してもよい。
以下、本開示の実施の形態について、図面を参照しながら説明する。
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態)
以下、実施の形態に係る運転支援装置について説明する。
[1.運転支援装置1の構成]
図1は、本実施の形態における運転支援装置1の構成の一例を示すブロック図である。
運転支援装置1は、車両に搭載され、運転中のドライバの覚醒度を推定して、推定された覚醒度が所定値より低ければ、ドライバに注意喚起を行うことによって、ドライバの居眠り運転を防止する装置である。本実施の形態では、車両は、車両の走行制御を自動的に行う自動運転モードと、車両の走行制御をドライバの運転操作が行う手動運転とが切り替え可能であるとして以下説明する。
運転支援装置1は、図1に示すように、運転操作部2と、周辺環境認識部3と、自車両位置検出部4と、目標走行状態決定部5と、運転モード選択部6と、車両制御部7と、通知部8と、覚醒度推定装置10とを備える。
<運転操作部2>
図2Aは、図1に示す運転操作部2の詳細構成の一例を示すブロック図である。
運転操作部2は、ドライバが車両を運転するために操作される。運転操作部2は、例えば図2Aに示すように、ステアリングホイール21と、アクセルペダル22と、ブレーキペダル23と、シフトレバー等の操舵レバー24と、運転モードを選択するための運転モード選択スイッチ25とを備える。なお、運転操作部2が備えるペダルは、アクセルペダル22と、ブレーキペダル23とに限らない。また、運転操作部2は、上記以外のものを備えるとしてもよい。
<周辺環境認識部3>
図2Bは、図1に示す周辺環境認識部3の詳細構成の一例を示すブロック図である。
周辺環境認識部3は、複数のセンサと、複数の認識部とを備え、自車両の周辺環境を認識する。
複数のセンサは、自車両の外部の状況をモニタリングするための各種情報を検出する。複数のセンサは、例えば図2Bに示すように、カメラ31及びレーダ32を含む。カメラ31は、例えば車両の外面に少なくとも一つ以上配置され、車線、路面、周囲の障害物等車両の外部の環境を撮像する。レーダ32は、例えば、車両の前部や後部に配置されたミリ波レーダやレーザーレーダであり、自車両の周囲に存在する車両或いは障害物までの距離及び位置などを測定する。
複数の認識部は、各センサから検出した情報に基づいて、自車両の周辺環境を認識する。複数の認識部は、例えば図2Bに示すように、道路形状認識部33、路面状態認識部34、及び、周辺物体認識部35を含む。道路形状認識部33は、自車両周辺の道路形状を認識する。道路形状認識部33は、カメラ31の撮影画像から道路の白線等の車線を認識し、車線の幅、曲率等を検出する。路面状態認識部34は、自車両前方の路面状態を認識する。路面状態認識部34は、カメラ31の撮影画像から、積雪または凍結等の路面の状態を認識する。周辺物体認識部35は、自車両の周囲に存在する物体を認識する。周辺物体認識部35は、カメラ31の撮影画像及びレーダ32のレーダ情報を用いて、歩行者、自転車、自動二輪車または周囲の他の車両を認識し、認識した物体の大きさ、位置、速度または移動方向等を検出する。
<自車両位置検出部4>
図2Cは、図1に示す自車両位置検出部4の詳細構成の一例を示すブロック図である。
自車両位置検出部4は、図2Cに示すように、GPS(Global Positioning System)41、車両走行位置算出部42及び地図データ記憶部43を備え、地図上での自車両の位置を検出する。GPS41は、GPS衛星から自車両の位置を示すGPS情報を受信する。地図データ記憶部43は、予め地図データを記憶している。車両走行位置算出部42は、受信したGPS情報に基づき、地図データ記憶部43に記憶された地図データにおける自車両の走行位置を算出する。
<目標走行状態決定部5>
目標走行状態決定部5は、目標とすべき自車両の走行状態である目標走行状態を決定する。図1に示す例では、目標走行状態決定部5は、周辺環境認識部3から得られる現在の周辺環境情報と、自車両位置検出部4から得られる現在の自車両の位置と、車両挙動検出部11から得られる現在の自車両の挙動とに基づいて、目標走行状態の情報を算出する。なお、走行状態の情報は、車両の位置、その位置での車両の速度または向き等の車両の走行に関連する情報を含む。目標走行状態は、既知の方法により算出できるのでここでの説明は省略する。
<運転モード選択部6>
運転モード選択部6は、車両の運転モードを自動運転モード及び手動運転モードのいずれかに切り替える。図1に示す例では、運転モード選択部6は、運転操作部2の運転モード選択スイッチ25のドライバによる操作に応じて、運転モードを自動運転モード及び手動運転モードのいずれかに切り替える。
<車両制御部7>
車両制御部7は、例えばソフトウェアと協働して所定の機能を実現するCPU等で構成され、現在選択されている運転モードに基づいて、車両の走行制御を行う。例えば、車両制御部7は、自動運転モードでは、目標走行状態決定部5から得られる目標走行状態に基づいて、自車両の加速、操舵及び制動用の各種アクチュエータ並びにECU等を制御する。また、例えば、車両制御部7は、手動運転モードでは、運転操作部2に対するドライバのの操作に応じて、自車両の加速、操舵及び制動用の各種アクチュエータ並びにECU等を制御する。
<通知部8>
通知部8は、例えば、カーナビなどの各種車載ディスプレイ、スピーカまたは振動アクチュエータを内蔵したドライバシート等で構成される。通知部8は、ドライバが選択した運転モードの通知または現在の車両の位置を示す情報を通知する。また、通知部8は、覚醒度推定部15により推定された覚醒度に応じて、ドライバに予め定められた情報を通知する。例えば、通知部8は、ドライバの覚醒度が所定値より低くなったとき、すなわち、ドライバに所定値以上の眠気が生じていると判断されるときには、ドライバの眠気を覚ますような注意喚起または警告を通知する。
<覚醒度推定装置10>
覚醒度推定装置10は、本開示における覚醒度推定装置の一例であり、車両走行中のドライバの覚醒度を推定する。以下、図を参照しながら、覚醒度推定装置10の具体的な構成等について説明する。
[覚醒度推定装置10の構成]
図3は、図1に示す車両挙動検出部11及び第1の覚醒度認識部12の詳細構成の一例を示すブロック図である。図4は、図1に示す生体情報検出部16及び第2の覚醒度認識部17の詳細構成の一例を示すブロック図である。
覚醒度推定装置10は、図1に示すように、車両挙動検出部11と、第1の覚醒度認識部12と、覚醒度推定部15と、生体情報検出部16と、第2の覚醒度認識部17とを備える。なお、覚醒度推定装置10が推定するドライバの覚醒度(眠気)は、例えば、非特許文献1に記述されている定義に従って、レベル1からレベル5までの5つのレベルのいずれかに決定される。例えば、レベル1は「全く眠くなさそうな状態」を示し、レベル2は「やや眠そうな状態」を示す。レベル3は「眠そうな状態」を示し、レベル4は「かなり眠そうな状態」を示す。レベル5は「非常に眠そうな状態」を示す。
<車両挙動検出部11>
車両挙動検出部11は、運転情報を検出する。本実施の形態では、車両挙動検出部11は、ドライバの運転操作及び車両の挙動を示す運転情報を検出するためのセンサ群で構成される。このセンサ群は、ドライバの運転操作を検出するセンサと車両の挙動を検出するセンサとを有する。
ドライバの運転操作を検出するセンサは、例えば図3に示すように、操舵角センサ111と、アクセルペダル位置センサ112と、ブレーキペダル位置センサ113とを含む。操舵角センサ111は、運転操作部2におけるステアリングホイール21の回転角度すなわち操舵角を検出する。アクセルペダル位置センサ112は、アクセルペダル22またはブレーキペダル23の位置を検出する。ブレーキペダル位置センサ113は、ブレーキペダル23の位置を検出する。
また、車両の挙動を検出するセンサは、車速センサ114と加速度センサ115とヨーレートセンサ116とを含む。車速センサ114は、車両の速度を検出する。加速度センサ115は、車両の前後方向の加速度及び車両の左右方向の加速度を検出する。ヨーレートセンサ116は、車両の鉛直方向に対する回転角度(ヨーレート)を検出する。
<第1の覚醒度認識部12>
第1の覚醒度認識部12は、車両挙動検出部11により検出された運転情報からドライバの第1の覚醒度を認識する。ここで、例えば当該運転情報は、車両の操舵角を示す情報でもよいし、車両のアクセルペダル22およびブレーキペダル23の位置を示す情報でもよいし、車両の加速度を示す情報でもよい。また、例えば当該運転情報は、車両の速度を示す情報でもよいし、ヨーレートを示す情報でもよい。本実施の形態では、第1の覚醒度認識部12は、図3に示すように、運転情報特徴抽出部121と、第1の覚醒度識別部122とを備え、周辺環境認識部3で認識された自車両の周辺環境と、車両挙動検出部11で検出された運転情報を用いて、ドライバの第1の覚醒度を認識する。
≪運転情報特徴抽出部121≫
運転情報特徴抽出部121は、周辺環境認識部3で認識された自車両の周辺環境と車両挙動検出部11で検出された運転情報とから運転情報特徴を抽出する。
ここで、自車両の周辺環境は、例えば、先行車両と自車両との車間距離または自車両と道路の白線などの車線との距離を示す情報である。また、運転情報は、上述したように、車両挙動検出部11に含まれるセンサ群によって検出され、例えばステアリングホイール21の操舵角等のドライバの運転操作または車両の速度等の自車両の挙動を示す情報である。また、運転情報特徴は、ドライバの第1の覚醒度を識別するための特徴量であり、ドライバの運転行動に関連する特徴量である。具体的には、運転情報特徴は、例えば、1分間等の所定の単位時間におけるドライバが行うステアリングホイール21の操舵角、アクセルペダル22及びブレーキペダル23の位置の変動パターン、並びに、先行車両との車間距離、車両の横変位量、車速、車両の前後左右方向の加速度及びヨーレート等の変動パターンから得られる平均値、標準偏差等の統計的特徴量である。
本実施の形態では、運転情報特徴抽出部121は、1以上の特徴抽出部を備えており、ドライバの運転行動に関連する少なくとも一つ以上の特徴量を運転情報特徴として抽出する。運転情報特徴抽出部121は、例えば図3に示す例では、車間距離特徴抽出部131、車両横変位量特徴抽出部132、操舵角特徴抽出部133、アクセルペダル位置特徴抽出部134、ブレーキペダル位置特徴抽出部135、車速特徴抽出部136、車両前後方向加速度特徴抽出部137、車両左右方向加速度特徴抽出部138、及び、ヨーレート特徴抽出部139を有している。
車間距離特徴抽出部131は、周辺環境認識部3から得られた先行車両と自車両との車間距離を用いて、所定の単位時間における車間距離の平均値または標準偏差等である車間距離特徴量を運転情報特徴として抽出する。
車両横変位量特徴抽出部132は、周辺環境認識部3から車線の幅や曲率等の道路形状の情報と、道路の白線との距離など車両と車線との距離を示す情報を取得する。車両横変位量特徴抽出部132は、周辺環境認識部3から得られた道路形状と距離の情報とに基づいて、車両の道路のセンターラインからの変位量(以下車両横変位量と称する)を算出する。そして、車両横変位量特徴抽出部132は、これらを用いて算出した所定の単位時間における車両横変位量の平均値または標準偏差等である車両横変位量特徴量を運転情報特徴として抽出する。なお、車両横変位量は、単純なセンターラインからの変位量ではなく、所定の単位時間後にドライバが目標とした走行位置との変位量であってもよい。また、ドライバの目標走行位置は、例えば特許文献4に開示されているように、車両挙動検出部11から得られるステアリングホイール21の操舵角、車両の速度またはヨーレートに基づいて算出することができる。
操舵角特徴抽出部133は、操舵角センサ111から得られるステアリングホイール21の操舵角を用いて、所定の単位時間における操舵角の変位量の平均値または標準偏差である操舵角特徴量を運転情報特徴として抽出する。なお、操舵角特徴抽出部133は、操舵角の変位量の周波数特徴等である操舵角特徴量を運転情報特徴として抽出してもよい。
アクセルペダル位置特徴抽出部134は、アクセルペダル位置センサ112から得られるアクセルペダル22の位置を用いて、所定の単位時間におけるアクセルペダルの位置の変位量の平均値または標準偏差等であるアクセルペダル位置特徴量を運転情報特徴として抽出する。
ブレーキペダル位置特徴抽出部135は、ブレーキペダル位置センサ113から得られるブレーキペダル23の位置を用いて算出したブレーキペダル位置特徴量を運転情報特徴として抽出する。ここで、ブレーキペダル位置特徴量は、所定の単位時間におけるブレーキペダルの位置の変位量の平均値または標準偏差、及び、ブレーキ操作の回数等である。
車速特徴抽出部136は、車速センサ114から得られる車両速度を用いて、所定の単位時間における車速の変位量の平均値または標準偏差等である車速特徴量を運転情報特徴として抽出する。
車両前後方向加速度特徴抽出部137は、加速度センサ115から得られる車両加速度のうち、車両の前後方向の加速度を算出する。そして、車両前後方向加速度特徴抽出部137は、算出した車両の前後方向の加速度を用いて、所定の単位時間における車両の前後方向の加速度の変位量の平均値または標準偏差等である車両前後方向加速度特徴量を運転情報特徴として抽出する。
車両左右方向加速度特徴抽出部138は、加速度センサ115から得られる車両加速度のうち、車両の左右方向の加速度を算出する。そして、車両左右方向加速度特徴抽出部138は、算出した車両の左右方向の加速度を用いて、所定の単位時間における車両の左右方向の加速度の変位量の平均値または標準偏差等である車両左右方向加速度特徴量を運転情報特徴として抽出する。
ヨーレート特徴抽出部139は、ヨーレートセンサ116から得られるヨーレートを用いて、所定の単位時間におけるヨーレートの変位量の平均値または標準偏差等であるヨーレート特徴量を運転情報特徴として抽出する。
≪第1の覚醒度識別部122≫
第1の覚醒度識別部122は、運転情報特徴抽出部121により抽出された運転情報特徴を用いて、ドライバの第1の覚醒度を識別する。
本実施の形態では、第1の覚醒度識別部122は、運転情報特徴抽出部121の1以上の特徴抽出部から得られた特徴量を少なくとも一つ以上を用いて、ドライバの覚醒度を識別し、識別結果を第1の覚醒度として出力する。識別結果には、例えばレベル1〜レベル5のいずれかを示す覚醒度のレベルとその信頼度を含んでいる。
ここで、第1の覚醒度識別部122が行う第1の覚醒度の識別方法について具体的に説明する。
運転中に、ドライバの覚醒度が低下する(眠気が強くなる)と、ドライバの車両に対する運転操作が単調になることが知られている。例えば、ステアリングホイール21、アクセルペダル22またはブレーキペダル23のドライバによる操作は、眠気が強くなると、眠気が強くなる前に比べて少なくなる。また、ドライバの眠気が強くなると、運転中の車両がふらついて、車両の横変位量または車間距離等の変動が大きくなる傾向がある。例えば、ドライバの眠気が一時的に強くなると、ステアリングホイール21の操作が減り、車両が大きくふらつく場合が発生する。しかし、ドライバは、車両が大きくふらついた瞬間に、一時的に覚醒して、車両をあるべき走行状態に修正するためにステアリングホイール21を急激に操作するという行動を取ることが多い。そして、このような場合、ステアリングホイール21の操舵角の変位量または車両の横変位量の変動パターンは、例えば一定時間変位量が比較的小さくなった後、急な修正のために、変位量が急に大きく変化するという特徴的なパターンを示す。
したがって、眠気による各運転情報特徴の特異的な変動パターンを検出することで、ドライバの眠気を検出(識別)することができる。より具体的には、このような眠気による各運動特徴の特異的な変動パターンと、そのときの覚醒度のレベルとを対応付けることができる覚醒度識別モデルを生成し、生成した覚醒度識別モデルを用いれば、ドライバの眠気を識別することができる。
本実施の形態では、第1の覚醒度識別部122は、このように生成される覚醒度識別モデルを用いて、運転情報特徴量から第1の覚醒度を識別し、識別結果として、覚醒度推定部15に出力する。なお、上述したように、識別結果には、例えばレベル1〜レベル5のいずれかを示す覚醒度に加え、その覚醒度の確からしさを示す信頼度が含まれる。例えば、識別結果として、覚醒度:3、信頼度:0.8等が出力される。また、生成される覚醒度識別モデルは、運転情報特徴抽出部121から得られた各運転情報特徴量のうち少なくとも一つ以上が選択された運転情報特徴量を入力データとして、ドライバの覚醒度のレベルを出力するものである。覚醒度識別モデルは、ニューラルネットワーク、サポートベクターマシン、ランダムフォレスト等の従来の機械学習アルゴリズムを用いて生成することができる。
<生体情報検出部16>
生体情報検出部16は、ドライバの1以上の生体情報を検出する。本実施の形態では、生体情報検出部16は、ドライバの生体情報を検出するためのセンサ群で構成される。このセンサ群は、例えば図4に示すように、車内カメラ161と、マイク162と、心拍センサ163と、血圧センサ164と、体動センサ165とを有する。なお、このセンサ群は、さらに、ドライバの呼吸変動を検出する呼吸センサ(不図示)、ドライバの皮膚温度を検出する皮膚温検出センサ(不図示)などを有するとしてもよい。
車内カメラ161は、車両内に配置され、車両の内部を撮像する。そして、車内カメラ161は、撮影画像を示す画像データを生成する。例えば、車内カメラ161は、運転中のドライバを撮影する。より具体的には、車内カメラ161は、車両内で運転席近傍を撮影可能に配置され、運転席に居るドライバを撮影する。
マイク162は、車内の音を収音する。より具体的には、マイク162は、車両内に配置され、周囲の音を収音する。そして、マイク162は、収音した音を示すデータ(オーディオデータ)を生成する。
心拍センサ163は、ドライバの心拍変動を検出する。より具体的には、心拍センサ163は、ドライバの心拍を測定し、測定結果のセンサ信号を生成する。なお、心拍センサ163は、耳たぶ等の身体に取り付ける接触型のセンサデバイスであってもよいし、脈波に対応した顔色の変化を抽出するカメラなどの非接触型のセンサデバイスであってもよい。また、心拍センサ163は、脈波センサに置き換えられ、ドライバの心拍変動を検出するとしてもよい。
血圧センサ164は、ドライバの血圧を測定し、測定結果のセンサ信号を生成する。ここで、血圧センサ164は、例えばウェアラブルデバイスで構成され、手動運転モード時に運転を行うべき責任者すなわちドライバに予め取り付けられる。
体動センサ165は、ドライバの姿勢の変化等の体動を検出する。より具体的には、体動センサ165は、例えば運転席の背もたれ或いは座面の内部に配置された荷重センサで構成される。体動センサ165は、運転席に居る者の姿勢の変化を感知し、感知した結果のセンサ信号を生成する。なお、体動センサ165は加速度センサまたは角速度センサなどで構成されてもよい。
<第2の覚醒度認識部17>
第2の覚醒度認識部17は、生体情報検出部16により検出された1以上の生体情報からドライバの第2の覚醒度を認識する。ここで、当該生体情報は、例えばドライバの心拍変動を示す情報でもよいし、ドライバの顔が映った顔画像でもよいし、ドライバの体動を示す情報でもよい。また、当該生体情報は、例えばドライバの呼吸を示す情報でもよいし、ドライバの血圧を示す情報でもよい。本実施の形態では、第2の覚醒度認識部17は、図4に示すように、生体特徴抽出部171と、第2の覚醒度識別部172とを備える。なお、第2の覚醒度認識部17は、後述する教師データ生成部152から教師データを受信した場合、その教師データに基づいて、第2の覚醒度識別部172の学習を行う。
≪生体特徴抽出部171≫
生体特徴抽出部171は、生体情報検出部16により検出された複数の生体情報それぞれから、ドライバの生理状態に関する生体情報特徴を抽出する。
ここで、生体情報特徴は、ドライバの覚醒度を識別するための特徴量であり、ドライバの生理情報に関連する特徴量である。生理情報は、眠気または疲労等の人間の生理的な状態を示す指標のことであり、例えば、視覚系生理情報、自律神経系生理情報または骨格系生理情報等がある。視覚系生理情報は、例えば1分間等の所定の単位時間におけるドライバの眼の開き度合いを示すドライバの開眼度、ドライバの瞬目の回数若しくは時間、またはドライバの頭部の位置等の変動パターンから得られる平均値、標準偏差等の統計的特徴量である。また、自律系生理情報は、所定の単位時間における呼吸数、呼吸の深さ、心拍または血圧等の変動パターンから得られる統計的特徴量である。また、骨格系生理情報は、所定の単位時間における身体の重心位置の変動パターンから得られる統計的特徴量である。
本実施の形態では、生体特徴抽出部171は、1以上の特徴抽出部を備えており、ドライバの生理状態を示す少なくとも一つ以上の特徴量を抽出する。生体特徴抽出部171は、例えば図4に示すように、顔画像抽出部181と、開眼度検出部182と、開眼度特徴抽出部183と、瞬目検出部184と、瞬目特徴抽出部185と、頭部位置検出部186と、頭部位置特徴抽出部187と、呼吸音検出部188と、呼吸特徴抽出部189と、心拍変動検出部190と、心拍変動特徴抽出部191と、血圧変動検出部192と、血圧変動特徴抽出部193と、体動検出部194と、体動特徴抽出部195とを有する。
例えば、生体特徴抽出部171は、顔画像抽出部181〜頭部位置特徴抽出部187を用いて、車内カメラ161によって撮影したドライバが含まれる画像からドライバの視覚系生理情報に関する開眼度特徴量、瞬目特徴量または頭部位置特徴量を生体情報特徴として抽出することができる。具体的には、顔画像抽出部181は、車内カメラ161からの画像データを随時取得し、画像データからドライバの顔画像領域を抽出する。開眼度検出部182は、顔画像抽出部181により抽出された顔画像領域から眼の画像領域を抽出した後に、上下まぶたを検出し、まぶた形状から、まぶたすなわち眼の開き具合を示す開眼度を検出する。開眼度特徴抽出部183は、開眼度検出部182が検出した開眼度の変動パターンから、所定の単位時間における開眼度の平均値、標準偏差、最大値または最小値等である開眼度特徴量を算出する。また、瞬目検出部184は、顔画像抽出部181により抽出された顔画像領域から眼の画像領域を抽出した後に、上下まぶたを検出し、上下まぶたの動きから瞬き(瞬目)を検出する。瞬目特徴抽出部185は、所定の単位時間における瞬目回数若しくは瞬目時間の平均値または標準偏差等である瞬目特徴量を算出する。さらに、頭部位置検出部186は、顔画像抽出部181により抽出された顔画像領域の画像中の位置に基づき、ドライバの頭部位置の変動パターンを検出する。頭部位置特徴抽出部187は、頭部位置の変動パターンから、所定の単位時間における頭部位置の平均値、標準偏差、最大値または最小値等である頭部位置特徴量を算出する。
また、例えば、生体特徴抽出部171は、呼吸音検出部188及び呼吸特徴抽出部189を用いて、車両内のマイク162から収音したデータから、ドライバの自律神経系生理情報の一つである呼吸特徴を生体情報特徴として抽出することができる。具体的には、呼吸音検出部188は、マイク162から収音したデータからドライバの呼吸音パターンを検出する。呼吸特徴抽出部189は、呼吸音検出部188が検出した呼吸音パターンから、所定の単位時間における呼吸数若しくは呼吸の深さの平均値、標準偏差または最大値等である呼吸特徴量を算出する。
また、例えば、生体特徴抽出部171は、心拍変動検出部190及び心拍変動特徴抽出部191を用いて、心拍センサ163から、ドライバの自律神経系生理情報の一つである心拍変動特徴を生体情報特徴として抽出することができる。具体的には、心拍変動検出部190は、心拍センサ163から得られる心電図波形から最も高いピークであるR波を検出した後、このR波の間隔である心拍間隔(RR間隔:RRI)の変動を心拍変動パターンとして検出する。心拍変動特徴抽出部191は、検出された心拍変動パターンから、所定の単位時間における心拍間隔(RRI)の平均値または標準偏差等である心拍変動特徴量を算出する。なお、心拍変動特徴量としては、所定の単位時間における心拍変動パターンの周波数スペクトルを求めた後、低周波成分(LF成分)と高周波成分(HF成分)とのパワーの比、または、LF成分とHF成分との比(LF/HF比)を用いてもよい。
また、例えば、生体特徴抽出部171は、血圧変動検出部192及び血圧変動特徴抽出部193を用いて、血圧センサ164から、ドライバの自律神経系生理情報の一つである血圧変動特徴を生体情報特徴として抽出することができる。具体的には、血圧変動検出部192は、血圧センサ164から得られるデータからドライバの血圧変動パターンを検出する。血圧変動特徴抽出部193は、検出された血圧変動パターンから、所定の単位時間における血圧の平均値、標準偏差、最大値または最小値等である血圧変動特徴量を算出する。
また、例えば、生体特徴抽出部171は、体動検出部194及び体動特徴抽出部195を用いて、体動センサ165から、ドライバの骨格系生理情報の一つである体動特徴を生体情報特徴として抽出することができる。具体的には、体動検出部194は、体動センサ165から得られるデータから、ドライバの体動を示す体動パターンを検出する。体動特徴抽出部195は、検出された体動パターンから、所定の単位時間における体動回数若しくは体の重心位置の変動量(体動変動量)等の平均値、標準偏差、最大値または最小値等である体動特徴量を算出する。
≪第2の覚醒度識別部172≫
第2の覚醒度識別部172は、生体特徴抽出部171により抽出された生体情報特徴を用いて、ドライバの第2の覚醒度を識別する。
本実施の形態では、第2の覚醒度識別部172は、生体特徴抽出部171の1以上の特徴抽出部から得られた特徴量を少なくとも一つ以上用いて、ドライバの覚醒度を識別し、識別結果を第2の覚醒度として出力する。なお、識別結果には、例えばレベル1〜レベル5のいずれかを示す覚醒度のレベルとその信頼度を含んでいる。
ここで、第2の覚醒度識別部172が行う第2の覚醒度の識別方法について具体的に説明する。
運転中に、ドライバの覚醒度が低下する(眠気が強くなる)と、ドライバの開眼度及び瞬目等の視覚系生理情報、心拍及び脈波等の自律神経系生理情報、並びに、体動等の骨格系生理情報等が特定の傾向を示すことが知られている。まず、視覚系生理情報に関して眠気による特定の傾向について説明する。ドライバは眠気が強くなると、まぶたが閉じ気味になるので、まぶたの開き度合いを示す開眼度は小さくなるという傾向を示す。また、ドライバは眠気が強くなると、瞬目1回あたりのまぶたが閉じる瞬目時間が長くなり、所定の単位時間における瞬目回数は減少するという傾向を示す。また、ドライバは眠気が強くなると、頭の動きも不安定になるので、頭部位置が不安定に変動するようになるという傾向を示す。
次に、自律神経系生理情報に関して眠気による特定の傾向について説明する。ドライバは眠気が強くなると、1回あたりの呼吸が深くなり、呼吸間隔が長くなるので、所定の単位時間における呼吸回数は減少するという傾向を示す。また、ドライバは眠気が強くなると、心拍数が低下するので、所定の単位時間における心拍間隔(RRI)は大きくなるという傾向を示す。また、心拍変動パターン(RRI)の周波数スペクトルは、活動時には、HF(High Frequence:0.15Hz〜0.4Hz)成分が小さく、リラックス時には、HF成分が大きくなることが知られている。そのため、LF(Low Frequence:0.04Hz〜0.15Hz)成分とHF成分の比(LF/HF)が、眠気の指標としてよく用いられる。つまり、ドライバの眠気が強くなると、ドライバのLF/HF比は、小さくなるという傾向を示す。また、血圧は、ドライバが眠気を感じはじめたときには、その眠気に対抗するために、一旦上昇するものの、更に、ドライバの眠気が強くなると、血圧は徐々に下がるという傾向を示す。
最後に、骨格系生理情報に関して眠気による特定の傾向について説明する。ドライバが眠気を感じはじめたときには、その眠気に対抗するために、体動回数は多くなり、体動変動量も増えるという傾向を示す。そして、さらに、ドライバの眠気が強くなると、ドライバは眠気に対抗できなくなり、体動回数及び体動変動量は減少するという傾向を示す。
このように、眠気による各生体情報特徴は、特定の傾向すなわち特異的な変動パターンを示す。したがって、眠気による各生体情報特徴の特異的な変動パターンを検出することで、ドライバの眠気(識別)を検出することができる。より具体的には、このような眠気による各生体情報特徴の特異的な変動パターンと、そのときの覚醒度のレベルとを対応付けることができる覚醒度識別モデルを生成し、生成した覚醒度識別モデルを用いれば、ドライバの眠気を識別することができる。
本実施の形態では、第2の覚醒度識別部172は、このように生成される覚醒度識別モデルを用いて、生体情報特徴量から第2の覚醒度を識別し、識別結果として、覚醒度推定部15に出力する。なお、上述したように、識別結果には、例えばレベル1〜レベル5のいずれかを示す覚醒度に加え、その覚醒度の確からしさを示す信頼度が含まれる。例えば、識別結果として、覚醒度:3、信頼度:0.8等が出力される。また、生成される覚醒度識別モデルは、生体特徴抽出部171から得られた各生体情報特徴量のうち少なくとも一つ以上が選択された生体情報特徴量を入力データとして、ドライバの覚醒度のレベルを出力するものである。覚醒度識別モデルは、ニューラルネットワーク、サポートベクターマシンやランダムフォレスト等の従来の機械学習アルゴリズムを用いて生成することができる。
なお、第2の覚醒度識別部172は、後述する教師データ生成部152が生成した教師データに基づいて学習が行われる。より具体的には、第2の覚醒度識別部172では、手動運転モードにおいて第1の覚醒度と第2の覚醒度とが異なる場合には、教師データ生成部152が第1の覚醒度に基づいて生成した教師データを用いて、学習処理が行われる。つまり、当該学習では、ドライバの1以上の生体情報とドライバの覚醒度との関係を示している、第2の覚醒度識別部172の覚醒度識別モデルが、当該教師データから第1の覚醒度を識別結果として出力されるようにモデルの更新が行われる。
本実施の形態では、第2の覚醒度識別部172は、教師データ生成部152から教師データを取得した場合に、その教師データを用いて、第2の覚醒度を識別するために用いている覚醒度識別モデルの学習を行う。なお、具体的な学習方法としては、例えば、覚醒度識別モデルが階層ニューラルネットワークであるならば、バックプロパゲーション法等を用いればよい。
<覚醒度推定部15>
覚醒度推定部15は、第1の覚醒度認識部12が認識する第1の覚醒度、及び、第2の覚醒度認識部17が認識する第2の覚醒度の少なくとも一方から、車両走行中におけるドライバの第3の覚醒度を推定する。
ここで、覚醒度推定部15は、手動運転モードでは、第1の覚醒度と第2の覚醒度とから、第3の覚醒度を推定し、自動運転モードでは、第2の覚醒度から第3の覚醒度を推定してもよい。より具体的には、覚醒度推定部15は、自動運転モードでは、第2の覚醒度を第3の覚醒度とすることにより、第2の覚醒度から第3の覚醒度を推定してもよい。また、覚醒度推定部15は、手動運転モードでは、第1の覚醒度及び前記第2の覚醒度の信頼度が閾値以上か否かを判定し、信頼度が閾値以上である第1の覚醒度及び第2の覚醒度の一方を第3の覚醒度とすることにより、第3の覚醒度を推定してもよい。より詳細には、覚醒度推定部15は、手動運転モードにおいて、第1の覚醒度及び第2の覚醒度それぞれの信頼度が閾値以上であり、かつ、第1の覚醒度及び第2の覚醒度が異なる場合、第1の覚醒度を第3の覚醒度とすることにより、第3の覚醒度を推定すればよい。
なお、覚醒度推定部15は、手動運転モードにおいて、第1の覚醒度と第2の覚醒度とが異なる場合、第1の覚醒度に基づいて生成した教師データを用いて学習処理が行われる。
本実施の形態では、覚醒度推定部15は、図1に示すように、覚醒度検証部151と教師データ生成部152とを備える。覚醒度推定部15は、第1の覚醒度認識部12から得られる第1の覚醒度または第2の覚醒度認識部17から得られる第2の覚醒度に基づいて、ドライバの最終的な覚醒度である第3の覚醒度を推定する。
≪覚醒度検証部151≫
覚醒度検証部151は、第1の覚醒度認識部12から得られる第1の覚醒度、または、第2の覚醒度認識部17から得られる第2の覚醒度の有効性を検証する。ここで、第1の覚醒度の有効性の検証方法は、第1の覚醒度識別部122から得られる識別結果に含まれる覚醒度レベルの信頼度が、予め定められたしきい値以上なら、有効であると判定すればよい。また、第2の覚醒度の有効性の検証方法は、上述した第1の覚醒度と同じ方法を用いればよい。
覚醒度検証部151は、検証結果と、運転モード選択部6で選択されている運転モードとに基づいて、第1の覚醒度及び第2の覚醒度のいずれかをドライバの最終的な覚醒度すなわち第3の覚醒度として出力する。例えば、覚醒度検証部151は、運転モードが手動運転モードである場合には、第1の覚醒度の有効性の確認後に、第1の覚醒度を第3の覚醒度として出力すればよい。また、例えば、覚醒度検証部151は、運転モードが自動運転モードである場合には、第2の覚醒度の有効性の確認後に、第2の覚醒度を第3の覚醒度として出力すればよい。
また、覚醒度検証部151は、運転モードが手動運転モードである場合、第1の覚醒度の値と第2の覚醒度の値とが異なるかどうか比較し、異なる場合には、学習トリガ信号を教師データ生成部152に出力する。
≪教師データ生成部152≫
教師データ生成部152は、手動運転モード時に、教師データを第1の覚醒度から生成し、第2の覚醒度認識部17に出力することで、第2の覚醒度識別部172に学習処理を行わせる。より具体的には、教師データ生成部152は、覚醒度検証部151から学習トリガ信号を受信したときには、第1の覚醒度を用いて、教師データを生成して、第2の覚醒度識別部172に出力する。なお、教師データ生成部152は、教師データを、第2の覚醒度識別部172で用いる覚醒度識別モデルに合わせて生成する。
これにより、教師データ生成部152は、第2の覚醒度識別部172に、第1の覚醒度に基づいて生成した教師データを用いて、学習処理を行わせることができる。なお、この学習処理は、上述したように、第2の覚醒度認識部17が教師データ生成部152から教師データを取得(受信)したとき、その教師データに基づいて、第2の覚醒度認識部17により行われる。
[覚醒度推定装置10の動作]
次に、以上のように構成された覚醒度推定装置10の動作について説明する。
図5は、本実施の形態における覚醒度推定装置10が行う処理の概要を示すフローチャートである。
図5に示すように、覚醒度推定装置10は、まず、運転情報を検出する(S1)。なお、詳細は上述したのでここでの説明は省略する。次に、覚醒度推定装置10は、S1において検出された運転情報からドライバの第1の覚醒度を認識する(S3)。次に、覚醒度推定装置10は、ドライバの生体情報を検出する(S5)。次に、覚醒度推定装置10は、S5において検出された生体情報からドライバの第2の覚醒度を認識する(S7)。最後に、覚醒度推定装置10は、S3において認識される第1の覚醒度、及び、S7において認識される第2の覚醒度の少なくとも一方から、車両走行中におけるドライバの第3の覚醒度を推定する(S9)。S9では、覚醒度推定装置10は、上述したように、手動運転モードでは、第1の覚醒度と第2の覚醒度とに基づいて、第3の覚醒度を推定し、自動運転モードでは、第2の覚醒度に基づいて第3の覚醒度を推定する。
なお、S5の処理は、S1の処理及びS3の処理の後に行ってもよいが、S1の処理若しくはS3の処理と同時、または、S1の処理と並列に行うとしてもよい。また、S7の処理は、S5の処理の後に行えば、S3の処理と並列に行われてもよい。
[運転支援装置1の動作]
図6は、本実施の形態における運転支援装置1が行う動作を説明するためのフローチャートである。なお、上述したように、運転支援装置1は、運転モード選択部6において、車両の走行制御を自動的に行う自動運転モードと、ドライバによる手動運転モードとを切り替えることが可能である。また、運転支援装置1は、運転モードに関わらず、周辺環境認識部3または自車両位置検出部4によって、先行車両との車間距離等、走行車両の周囲の周辺環境に関する情報を常にモニタリングしている。
図6を参照しながら、まず、手動運転モード時に運転支援装置1が行う動作について覚醒度推定装置10の動作を中心として説明する。
S101において、覚醒度推定装置10は、手動運転モードであるか否かを判定し、手動運転モードであると判定したとする(S101でY)。より具体的には、運転モード選択部6で手動運転モードが選択されている場合に、覚醒度推定部15は手動運転モードであると判定する。この場合、ドライバは、運転操作部2を用いて、車両の運転すなわち車両の走行制御を行う。
次に、覚醒度推定装置10は、ドライバの運転情報及び生体情報を検出する(S102)。具体的には、手動運転モードにおいてドライバが運転をしている間、車両挙動検出部11はドライバの運転操作による運転情報を検出し、生体情報検出部16はドライバの生体情報を検出する。
次に、覚醒度推定装置10は、周辺環境及び運転情報から運転情報特徴を抽出し、第1の覚醒度を認識する(S103)。具体的には、第1の覚醒度認識部12は、周辺環境認識部3から得られる自車両の周辺環境と、車両挙動検出部11から得られる運転情報とを用いて、ドライバの第1の覚醒度を認識する。より詳細には、上述したように、運転情報特徴抽出部121が、自車両の周辺環境と運転情報に基づいて、運転情報特徴を抽出し、第1の覚醒度識別部122が運転情報特徴抽出部121により抽出された運転情報特徴を用いて、第1の覚醒度を識別する。
次に、覚醒度推定装置10は、生体情報から生体情報特徴を抽出し、第2の覚醒度を認識する(S104)。具体的には、第2の覚醒度認識部17は、生体情報検出部16から得られる生体情報を用いて、第2の覚醒度を認識する。より詳細には、上述したように、生体特徴抽出部171が生体情報に基づいて、生体情報特徴を抽出し、第2の覚醒度識別部172が生体特徴抽出部171により抽出された生体情報特徴を用いて、第2の覚醒度を識別する。
次に、覚醒度推定部15は、第1の覚醒度と第2の覚醒度とに基づいて、ドライバの最終的な覚醒度である第3の覚醒度を推定する(S105〜S106)。具体的には、まず、覚醒度推定部15の覚醒度検証部151は、S103で認識された第1の覚醒度の有効性を検証する(S105)。なお、第1の覚醒度の有効性の検証方法は、第1の覚醒度識別部122から得られる識別結果に含まれる覚醒度レベルの信頼度が、予め定められたしきい値以上なら、有効であると判定すればよい。S105において、第1の覚醒度が有効であると判定された場合(S105でY)、第1の覚醒度を推定結果すなわち第3の覚醒度として出力する(S106)。
次に、覚醒度検証部151は、S104で認識された第2の覚醒度の有効性を検証する(S107)。なお、第2の覚醒度の有効性の検証方法は、上述した第1の覚醒度と同じ方法を用いればよい。
S107において、第2の覚醒度が有効であると判定された場合(S107でY)、第1の覚醒度と第2の覚醒度とを比較して、異なるか否かを判定する(S108)。
S108において、覚醒度検証部は、第1の覚醒度と第2の覚醒度とが異なる場合(S108でY)、その結果を教師データ生成部152に出力する。本実施の形態では、覚醒度検証部151は、第1の覚醒度と第2の覚醒度とを比較して異なる場合、学習トリガ信号を教師データ生成部152に出力する。
次に、教師データ生成部152は、第1の覚醒度から教師データを生成し(S109)、生成した教師データを第2の覚醒度認識部17に出力する。本実施の形態では、教師データ生成部152は、覚醒度検証部151から学習トリガ信号を受信したときには、第1の覚醒度を用いて、教師データを生成し、第2の覚醒度識別部172に出力する。なお、教師データ生成部152は、第2の覚醒度識別部172で用いる覚醒度識別モデルに合わせて教師データを生成する。
次に、第2の覚醒度認識部17は、教師データ生成部152から得られた教師データに基づき、学習処理を行う(S110)。そして、S101の処理に戻って処理を繰り返す。本実施の形態では、第2の覚醒度識別部172は、教師データ生成部152から教師データを取得した場合に、その教師データを用いて、第2の覚醒度を識別するために用いている覚醒度識別モデルの学習を行う。その後、S101の処理に戻る。
なお、S107において第2の覚醒度が有効でなかった場合(S107でN)、S108において第1の覚醒度と第2の覚醒度が一致していた場合(S108でN)には、第2の覚醒度認識部17の学習処理を行わせず、S101の処理に戻って処理を繰り返す。
また、S105において、S103で認識された第1の覚醒度が有効と判定されなかった場合には(S105でN)、覚醒度検証部151は、S104で認識された第2の覚醒度の有効性を検証する(S111)。S111において、S104で認識された第2の覚醒度が有効であると判定された場合(S111でY)、覚醒度検証部151は、S104で認識された第2の覚醒度を推定結果すなわち第3の覚醒度として出力する(S112)。一方、S111において、S104で認識された第2の覚醒度が有効でなかった場合には(S111でN)、覚醒度検証部151は、第3の覚醒度が推定できないというエラーを出力し(S113)、S101の処理に戻る。
次に、図6を参照しながら、自動運転モード時に運転支援装置1が行う動作について覚醒度推定装置10の動作を中心として説明する。
S101において、覚醒度推定装置10は、手動運転モードであるか否かを判定し、手動運転モードではないと判定したとする(S101でN)。より具体的には、運転モード選択部6で自動運転モードが選択されている場合に、覚醒度推定部15は自動運転モードであると判定する。この場合、ドライバは運転操作を行う必要がなく車両制御部7が周辺環境に基づいて自動運転すなわち車両の走行制御を自動的に行う。
次に、覚醒度推定装置10は、ドライバの生体情報を検出する(S121)。具体的には、自動運転モードにおいて、生体情報検出部16は、ドライバの生体情報を検出する。ここで、自動運転モードにおいては、ドライバは自ら運転操作を行わないため、車両挙動検出部11は、ステアリングの操舵角等のドライバの運転操作による有効な運転情報は得られない。一方、生体情報検出部16は、自動運転中でも、ドライバの有効な生体情報を得られる。
次に、覚醒度推定装置10は、生体情報から生体情報特徴を抽出し、第2の覚醒度を認識する(S122)。具体的には、第2の覚醒度認識部17は、生体情報検出部16から得られる生体情報を用いて、第2の覚醒度を認識する。より詳細には、上述したように、生体特徴抽出部171が、生体情報に基づいて、生体情報特徴を抽出し、第2の覚醒度識別部172が生体特徴抽出部171により抽出された生体情報特徴を用いて、第2の覚醒度を識別する。このように、覚醒度推定装置10は、第1の覚醒度認識部12を利用せず、第2の覚醒度認識部17を用いて、ドライバの生体情報からドライバの覚醒度を認識する。
次に、覚醒度推定部15は、第2の覚醒度に基づいて、ドライバの最終的な覚醒度である第3の覚醒度を推定する(S123〜S124)。具体的には、まず、覚醒度推定部15の覚醒度検証部151は、S122で認識された第2の覚醒度の有効性を検証する(S123)。なお、第2の覚醒度の有効性の検証方法は、上述した第1の覚醒度と同じ方法を用いればよい。S123において、第2の覚醒度が有効であると判定された場合(S123でY)、第2の覚醒度を推定結果すなわち第3の覚醒度として出力する(S124)。なお、S123において第2の覚醒度が有効でなかった場合には(S123でN)、覚醒度検証部151は、第3の覚醒度が推定できないというエラーを出力し(S125)、S101の処理に戻る。
[効果等]
以上のように、本実施の形態によれば、自動運転モードと手動運転モードとがある車両のドライバの覚醒度を高精度に推定することができる覚醒度推定装置を実現できる。
より具体的には、本実施の形態における覚醒度推定装置10は、手動運転モード時には、ドライバの運転情報を用いて認識した第1の覚醒度と、ドライバの生体情報を用いて認識した第2の覚醒度とを用いて、最終的な推定結果すなわち第3の覚醒度を推定する。一方、覚醒度推定装置10は、自動運転モード時には、ドライバの生体情報を用いて認識した第2の覚醒度を最終的な推定結果すなわち第3の覚醒度とする。つまり、本実施の形態における覚醒度推定装置10では、手動運転モード時と自動運転モード時とにおいて、ドライバの第3の覚醒度の推定を、第1の覚醒度認識部12が認識した第1の覚醒度と第2の覚醒度認識部17が認識した第2の覚醒度とで適宜切り替えて用いる。
さらに、本実施の形態における覚醒度推定装置10は、手動運転モード時において、第2の覚醒度認識部17に、第1の覚醒度認識部12の認識結果を教師データとして用いて学習処理させる。これにより、生体情報の個人差による第2の覚醒度を認識する精度のばらつきを吸収することができる。これにより、本実施の形態における覚醒度推定装置10自動運転モード時においてドライバの生体情報に基づいて、ドライバの覚醒度を精度よく推定することができる。すなわち、ドライバの運転操作または車両挙動等の運転情報が利用できないレベル2以上の自動運転時においても、ドライバの覚醒度を精度よく推定することが可能になる。
以上、本実施の形態における覚醒度推定装置10によれば、ドライバの生体情報に基づいてドライバの覚醒度を精度良く推定することができるので、レベル2以上の自動運転モードを備えた自動運転システムでも、精度良く、ドライバの覚醒度を検出することができる。
(変形例)
上記実施の形態では、教師データ生成部152が生成した教師データを用いて、第2の覚醒度識別部172が用いる覚醒度識別モデルそのものを学習する方法について説明したが、これに限らない。教師データである第1の覚醒度を用いて、生体特徴抽出部171から得られた複数の生体情報特徴から、第2の覚醒度の識別に有効な生体情報特徴を選択して学習処理を行ってもよい。この場合を変形例として以下に説明する。
図7は、変形例における運転支援装置の構成の一例を示すブロック図である。なお、図1と同様の内容には同一の文言が記載されており、詳細な説明は省略する。図7に示す変形例における運転支援装置1は、上記実施の形態における運転支援装置1に対して、覚醒度推定装置10Aの第2の覚醒度認識部17Aの構成が異なる。具体的には、変形例における覚醒度推定装置10Aは、上記実施の形態における第2の覚醒度認識部17Aに対して、生体情報特徴記憶部173と生体特徴選択部174とが追加され、生体特徴抽出部171Aと第2の覚醒度識別部172Aとの構成が異なる。
<生体特徴抽出部171A>
生体特徴抽出部171Aは、生体情報検出部16により検出された複数の生体情報それぞれから生体情報特徴を抽出する。生体特徴抽出部171Aは、抽出した生体情報特徴を生体特徴選択部174に出力する。なお、生体特徴抽出部171Aは、自動運転モードにおいては抽出した生体情報特徴を第2の覚醒度識別部172Aに出力するとしてもよい。
<生体情報特徴記憶部173>
生体情報特徴記憶部173は、生体特徴抽出部171から得られる生体情報特徴が記憶される。生体情報特徴記憶部173は、教師データ生成部152から得られる教師データが記憶されてもよい。
<生体特徴選択部174>
生体特徴選択部174は、手動運転モードにおいて、生体特徴抽出部171により抽出された複数の生体情報特徴の中から、教師データ生成部152で第1の覚醒度から生成された教師データと相関の高い生体情報特徴を選択する。
より具体的には、生体特徴選択部174は、手動運転モードにおいて、教師データ生成部152から得られる教師データD(t)(tは時刻を示す)を、所定の記憶部に、予め定められた時間(m個)、教師データ系列D(1)、D(2)、・・・、D(m)として記憶する。本変形例では、教師データD(t)は生体情報特徴記憶部173に記憶されるとして以下説明する。また、生体特徴選択部174は、手動運転モードにおいて、生体特徴抽出部171から得られるn種類の生体情報特徴Bi(t)(i=1〜n)を、予め定められた時間(m個)、生体情報特徴データ系列Bi(1)Bi(2)、・・・、Bi(m)として生体情報特徴記憶部173に記憶する。
生体特徴選択部174は、手動運転モードにおいて、例えば、予め定められた個数のデータ系列が生体情報特徴記憶部173に記憶したとき、生体情報特徴記憶部173に記憶された教師データ系列D(t)(t=1,2.・・・m)と、生体情報特徴記憶部173に記憶されたn種類の生体情報特徴データ系列Bi(t)(t=1,2.・・・m)との相関係数を算出する。なお、相関係数は、例えば、D(t)とBi(t)との共分散を、D(t)の標準偏差とBi(t)の標準偏差の乗算値で割ることで算出するなど既知の方法で算出することができる。
生体特徴選択部174は、手動運転モードにおいて、算出した相関係数と、予め定められたしきい値とを比較し、相関係数がしきい値以上である生体情報特徴を選択し、第2の覚醒度識別部172Aに出力する。なお、自動運転モードでは、生体特徴選択部174は、手動運転モードにおいて選択された生体情報特徴を、第2の覚醒度識別部172Aに出力すればよい。
<第2の覚醒度識別部172A>
第2の覚醒度識別部172Aは、自動運転モード及び手動運転モードにおいて、生体特徴選択部174で選択された生体情報特徴を用いて、第2の覚醒度を識別する。
第2の覚醒度識別部172Aは、手動運転モードにおいて、教師データ生成部152が生成した教師データに基づいて学習処理を行う。本変形例では、第2の覚醒度認識部17Aが教師データ生成部152から教師データを受信した場合、第2の覚醒度識別部172Aは、生体特徴選択部174により選択された生体情報特徴を教師データとして用いて学習処理を行う。なお、第2の覚醒度識別部172Aは、生体特徴選択部174で選択された生体情報特徴であって第2の覚醒度の識別に用いる生体情報特徴の種類が変更になった場合には、覚醒度識別モデルを、選択された生体情報特徴だけを用いて、生成(学習)する必要がある。
[効果等]
以上のように、本変形例によれば、自動運転モードと手動運転モードとがある車両のドライバの覚醒度を高精度に推定することができる覚醒度推定装置を実現できる。
より具体的には、本変形例における覚醒度推定装置10Aは、手動運転モード時において生体特徴選択部174において、生体特徴抽出部171から得られる複数種類の生体情報特徴のうち、教師データである第1の覚醒度と相関の高い生体情報特徴を選択する。そして、選択した生体情報特徴を教師データとして学習処理した覚醒度識別モデルを用いて第2の覚醒度を識別することができる。
このように、本変形例における覚醒度推定装置10Aによれば、覚醒度の識別に有効な生体情報特徴を選択して覚醒度識別モデルを生成(学習)することができるので、生体情報の個人差によるばらつきをより吸収することができる。
さらに、本変形例によれば、第2の覚醒度識別部172Aは、生体特徴抽出部171から得られる全ての生体情報特徴を用いて第2の覚醒度を識別する場合に比べて、処理量を削減することができるので、第2の覚醒度識別部172Aの処理速度を高速化することができる。
(他の実施形態)
本開示は、上記実施の形態に限定されるものではない。例えば、本明細書において記載した構成要素を任意に組み合わせて、また、構成要素のいくつかを除外して実現される別の実施の形態を本開示の実施の形態としてもよい。また、上記実施の形態に対して本開示の主旨、すなわち、特許請求の範囲に記載される文言が示す意味を逸脱しない範囲で当業者が思いつく各種変形を施して得られる変形例も本開示に含まれる。
例えば、上述した運転支援装置1において、周辺環境認識部3、自車両位置検出部4、目標走行状態決定部5、運転モード選択部6、車両制御部7、通知部8、並びに、覚醒度推定装置10に含まれる車両挙動検出部11、第1の覚醒度認識部12、生体情報検出部16、第2の覚醒度認識部17及び覚醒度推定部15などの各部の各構成要素は、専用のハードウェアで構成されてもよい。また、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。また、各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
また、本開示は、さらに、以下のような場合も含まれる。
(1)上記の装置は、具体的には、マイクロプロセッサ、ROM、RAM、ハードディスクユニット、ディスプレイユニット、キーボード、マウスなどから構成されるコンピュータシステムである。前記RAMまたはハードディスクユニットには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムにしたがって動作することにより、各装置は、その機能を達成する。ここでコンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
(2)さらに、上記の装置を構成する構成要素の一部または全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。前記RAMには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムにしたがって動作することにより、システムLSIは、その機能を達成する。
(3)上記の装置を構成する構成要素の一部または全部は、各装置に脱着可能なICカードまたは単体のモジュールから構成されているとしてもよい。前記ICカードまたは前記モジュールは、マイクロプロセッサ、ROM、RAMなどから構成されるコンピュータシステムである。前記ICカードまたは前記モジュールは、上記の超多機能LSIを含むとしてもよい。マイクロプロセッサが、コンピュータプログラムにしたがって動作することにより、前記ICカードまたは前記モジュールは、その機能を達成する。このICカードまたはこのモジュールは、耐タンパ性を有するとしてもよい。
(4)また、本開示の一態様は、上記に示す方法であるとしてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしてもよいし、前記コンピュータプログラムからなるデジタル信号であるとしてもよい。
(5)また、本開示の一態様は、前記コンピュータプログラムまたは前記デジタル信号をコンピュータで読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blu−ray(登録商標) Disc)、半導体メモリなどに記録したものとしてもよい。また、これらの記録媒体に記録されている前記デジタル信号であるとしてもよい。
(6)また、本開示の一態様は、前記コンピュータプログラムまたは前記デジタル信号を、電気通信回線、無線または有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送するものとしてもよい。
(7)また、本開示の一態様は、マイクロプロセッサとメモリを備えたコンピュータシステムであって、前記メモリは、上記コンピュータプログラムを記憶しており、前記マイクロプロセッサは、前記コンピュータプログラムにしたがって動作するとしてもよい。
(8)また、前記プログラムまたは前記デジタル信号を前記記録媒体に記録して移送することにより、または前記プログラムまたは前記デジタル信号を、前記ネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしてもよい。
(9)また、上記で用いた数字は、全て本開示を具体的に説明するために例示するものであり、本開示は例示された数字に制限されない。
(10)また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
(11)また、上記覚醒度推定方法に含まれる複数のステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
本開示は、覚醒度推定装置及び覚醒度推定方法に利用でき、特に、運転中のドライバの覚醒度を推定し、所定値より覚醒度が低下したときに、ドライバに注意喚起する運転支援システムなどに搭載される覚醒度推定装置及び覚醒度推定方法に利用可能である。
1 運転支援装置
2 運転操作部
3 周辺環境認識部
4 自車両位置検出部
5 目標走行状態決定部
6 運転モード選択部
7 車両制御部
8 通知部
10、10A 覚醒度推定装置
11 車両挙動検出部
12 第1の覚醒度認識部
15 覚醒度推定部
16 生体情報検出部
17、17A 第2の覚醒度認識部
21 ステアリングホイール
22 アクセルペダル
23 ブレーキペダル
24 操舵レバー
25 運転モード選択スイッチ
31 カメラ
32 レーダ
33 道路形状認識部
34 路面状態認識部
35 周辺物体認識部
41 GPS
42 車両走行位置算出部
43 地図データ記憶部
111 操舵角センサ
112 アクセルペダル位置センサ
113 ブレーキペダル位置センサ
114 車速センサ
115 加速度センサ
116 ヨーレートセンサ
121 運転情報特徴抽出部
122 第1の覚醒度識別部
131 車間距離特徴抽出部
132 車両横変位量特徴抽出部
133 操舵角特徴抽出部
134 アクセルペダル位置特徴抽出部
135 ブレーキペダル位置特徴抽出部
136 車速特徴抽出部
137 車両前後方向加速度特徴抽出部
138 車両左右方向加速度特徴抽出部
139 ヨーレート特徴抽出部
151 覚醒度検証部
152 教師データ生成部
161 車内カメラ
162 マイク
163 心拍センサ
164 血圧センサ
165 体動センサ
171、171A 生体特徴抽出部
172、172A 第2の覚醒度識別部
173 生体情報特徴記憶部
174 生体特徴選択部
181 顔画像抽出部
182 開眼度検出部
183 開眼度特徴抽出部
184 瞬目検出部
185 瞬目特徴抽出部
186 頭部位置検出部
187 頭部位置特徴抽出部
188 呼吸音検出部
189 呼吸特徴抽出部
190 心拍変動検出部
191 心拍変動特徴抽出部
192 血圧変動検出部
193 血圧変動特徴抽出部
194 体動検出部
195 体動特徴抽出部

Claims (14)

  1. 車両のドライバの覚醒度を推定する覚醒度推定装置であって、
    前記車両では、前記車両の走行制御を自動的に行う自動運転モードと、前記車両の走行制御をドライバが行う手動運転モードとが切り替え可能であり、
    前記車両の運転情報を検出する車両挙動検出部と、
    前記車両挙動検出部により検出された前記運転情報から前記ドライバの第1の覚醒度を認識する第1の覚醒度認識部と、
    前記ドライバの1以上の生体情報を検出する生体情報検出部と、
    前記生体情報検出部により検出された前記1以上の生体情報から前記ドライバの第2の覚醒度を認識する第2の覚醒度認識部と、
    前記第1の覚醒度認識部が認識する前記第1の覚醒度、及び、前記第2の覚醒度認識部が認識する前記第2の覚醒度の少なくとも一方から、前記車両が走行中における前記ドライバの第3の覚醒度を推定する覚醒度推定部とを備え、
    前記覚醒度推定部は、
    前記手動運転モードでは、前記第1の覚醒度と前記第2の覚醒度とから、第3の覚醒度を推定し、
    前記自動運転モードでは、前記第2の覚醒度から第3の覚醒度を推定する、
    覚醒度推定装置。
  2. 前記覚醒度推定部は、
    前記自動運転モードでは、前記第2の覚醒度を前記第3の覚醒度とすることにより、前記第2の覚醒度から前記第3の覚醒度を推定する、
    請求項1に記載の覚醒度推定装置。
  3. 前記覚醒度推定部は、
    前記手動運転モードでは、前記第1の覚醒度及び前記第2の覚醒度の信頼度が閾値以上か否かを判定し、前記信頼度が前記閾値以上である前記第1の覚醒度及び前記第2の覚醒度の一方を第3の覚醒度とすることにより、前記第3の覚醒度を推定する、
    請求項1または2に記載の覚醒度推定装置。
  4. 前記覚醒度推定部は、
    前記手動運転モードでは、前記第1の覚醒度及び前記第2の覚醒度それぞれの信頼度が閾値以上であり、かつ、前記第1の覚醒度及び前記第2の覚醒度が異なる場合、前記第1の覚醒度を前記第3の覚醒度とすることにより、前記第3の覚醒度を推定する、
    請求項3に記載の覚醒度推定装置。
  5. 前記覚醒度推定部は、
    前記手動運転モードにおいて、前記第1の覚醒度と前記第2の覚醒度とが異なる場合、前記第1の覚醒度に基づいて生成した教師データを用いて前記第2の覚醒度認識部が前記第1の覚醒度を認識結果として出力するように、前記第2の覚醒度認識部に学習処理を行わせる、
    請求項4に記載の覚醒度推定装置。
  6. 前記学習処理では、
    前記ドライバの1以上の生体情報と前記ドライバの覚醒度との関係を示している、前記第2の覚醒度認識の覚醒度識別モデルが、前記第1の覚醒度を識別結果として出力されるように更新される、
    請求項5に記載の覚醒度推定装置。
  7. 前記第2の覚醒度認識部は、
    前記生体情報検出部により検出された複数の生体情報それぞれから、前記ドライバの生理状態に関する生体情報特徴を抽出する生体特徴抽出部と、
    前記生体特徴抽出部により抽出された複数の生体情報特徴の中から、前記第1の覚醒度から生成された前記教師データと相関の高い生体情報特徴を選択する生体特徴選択部とを備え、
    前記覚醒度推定部は、前記第2の覚醒度認識部が、前記生体特徴選択部により選択された生体情報特徴を教師データとして用いて、前記第1の覚醒度を認識結果として出力されるように、前記第2の覚醒度認識部に学習処理を行わせる、
    請求項5に記載の覚醒度推定装置。
  8. 前記生体情報は、前記ドライバの心拍変動を示す情報である、
    請求項1〜7のいずれか1項に記載の覚醒度推定装置。
  9. 前記生体情報は、前記ドライバの顔が映った顔画像である、
    請求項1〜7のいずれか1項に記載の覚醒度推定装置。
  10. 前記生体情報は、前記ドライバの体動を示す情報である、
    請求項1〜7のいずれか1項に記載の覚醒度推定装置。
  11. 前記運転情報は、前記車両の操舵角を示す情報である、
    請求項1〜10のいずれか1項に記載の覚醒度推定装置。
  12. 前記運転情報は、前記車両のアクセルペダル及びブレーキペダルの位置を示す情報である、
    請求項1〜10のいずれか1項に記載の覚醒度推定装置。
  13. 前記運転情報は、前記車両の加速度を示す情報である、
    請求項1〜10のいずれか1項に記載の覚醒度推定装置。
  14. 車両のドライバの覚醒度を推定する覚醒度推定方法であって、
    前記車両では、前記車両の走行制御を自動的に行う自動運転モードと、前記車両の走行制御をドライバが行う手動運転モードとが切替え可能であり、
    前記車両の運転情報を検出する車両挙動検出ステップと、
    前記車両挙動検出ステップにおいて検出された前記運転情報から前記ドライバの第1の覚醒度を認識する第1の覚醒度認識ステップと、
    前記ドライバの生体情報を検出する生体情報検出ステップと、
    前記生体情報検出ステップにおいて検出された前記生体情報から前記ドライバの第2の覚醒度を認識する第2の覚醒度認識ステップと、
    前記第1の覚醒度認識ステップにおいて認識される前記第1の覚醒度、及び、前記第2の覚醒度認識ステップにおいて認識される前記第2の覚醒度の少なくとも一方から、前記車両が走行中における前記ドライバの第3の覚醒度を推定する覚醒度推定ステップとを含み、
    前記覚醒度推定ステップにおいて、
    前記手動運転モードでは、前記第1の覚醒度と前記第2の覚醒度とに基づいて、第3の覚醒度を推定し、
    前記自動運転モードでは、前記第2の覚醒度に基づいて第3の覚醒度を推定する、
    覚醒度推定方法。
JP2017021599A 2017-02-08 2017-02-08 覚醒度推定装置及び覚醒度推定方法 Active JP6998564B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2017021599A JP6998564B2 (ja) 2017-02-08 2017-02-08 覚醒度推定装置及び覚醒度推定方法
CN201711089481.8A CN108394414B (zh) 2017-02-08 2017-11-08 清醒度判定***以及清醒度判定方法
EP17206259.8A EP3361462B1 (en) 2017-02-08 2017-12-08 Arousal level assessment system and arousal level assessment method
EP19217119.7A EP3657457B1 (en) 2017-02-08 2017-12-08 Arousal level assessment system and arousal level assessment method
US15/847,994 US10231660B2 (en) 2017-02-08 2017-12-20 System and method for assessing arousal level of driver of vehicle that can select manual driving mode or automated driving mode
US16/259,409 US10485468B2 (en) 2017-02-08 2019-01-28 System and method for assessing arousal level of driver of vehicle that can select manual driving mode or automated driving mode
US16/661,574 US10786193B2 (en) 2017-02-08 2019-10-23 System and method for assessing arousal level of driver of vehicle that can select manual driving mode or automated driving mode

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017021599A JP6998564B2 (ja) 2017-02-08 2017-02-08 覚醒度推定装置及び覚醒度推定方法

Publications (2)

Publication Number Publication Date
JP2018127112A true JP2018127112A (ja) 2018-08-16
JP6998564B2 JP6998564B2 (ja) 2022-01-18

Family

ID=60813588

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017021599A Active JP6998564B2 (ja) 2017-02-08 2017-02-08 覚醒度推定装置及び覚醒度推定方法

Country Status (4)

Country Link
US (3) US10231660B2 (ja)
EP (2) EP3361462B1 (ja)
JP (1) JP6998564B2 (ja)
CN (1) CN108394414B (ja)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018134148A (ja) * 2017-02-20 2018-08-30 株式会社東海理化電機製作所 生体状態推定装置
JP6689470B1 (ja) * 2019-06-18 2020-04-28 三菱電機株式会社 情報処理装置、プログラム及び情報処理方法
CN111409551A (zh) * 2018-12-18 2020-07-14 丰田自动车株式会社 注意提醒装置及注意提醒***
JP2020177303A (ja) * 2019-04-15 2020-10-29 パナソニックIpマネジメント株式会社 監視システム、移動体、監視方法及びプログラム
WO2020230895A1 (ja) * 2019-05-15 2020-11-19 ダイキン工業株式会社 温熱快適性を推定するためのシステム
JP2020189081A (ja) * 2019-05-15 2020-11-26 ダイキン工業株式会社 温熱快適性を推定するためのシステム
EP3785608A1 (en) 2019-08-27 2021-03-03 Clarion Co., Ltd. State extrapolation device, state extrapolation program, and state extrapolation method
WO2021053780A1 (ja) * 2019-09-19 2021-03-25 三菱電機株式会社 認知機能推定装置、学習装置、および、認知機能推定方法
JP2021077135A (ja) * 2019-11-11 2021-05-20 マツダ株式会社 車両制御装置および運転者状態判定方法
JP2021077134A (ja) * 2019-11-11 2021-05-20 マツダ株式会社 車両制御装置および運転者状態判定方法
JP2021096530A (ja) * 2019-12-13 2021-06-24 トヨタ自動車株式会社 運転支援装置、運転支援プログラムおよび運転支援システム
WO2021200341A1 (ja) * 2020-03-31 2021-10-07 いすゞ自動車株式会社 許否決定装置
JPWO2022009401A1 (ja) * 2020-07-09 2022-01-13
WO2022050200A1 (ja) * 2020-09-07 2022-03-10 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理方法および情報処理プログラム
CN114368396A (zh) * 2022-01-27 2022-04-19 东风商用车有限公司 自动驾驶***管理方法、装置、存储介质及电子设备
JPWO2022172391A1 (ja) * 2021-02-12 2022-08-18
WO2023204218A1 (ja) * 2022-04-18 2023-10-26 幸男 篠崎 認知力推定装置、及びプログラム
WO2023223699A1 (ja) * 2022-05-16 2023-11-23 日立Astemo株式会社 走行支援装置

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6904849B2 (ja) * 2017-08-14 2021-07-21 本田技研工業株式会社 車両制御装置、車両制御方法、およびプログラム。
US10945651B2 (en) * 2018-07-05 2021-03-16 Denso Corporation Arousal level determination device
CN109445426A (zh) 2018-09-06 2019-03-08 百度在线网络技术(北京)有限公司 自动驾驶模式的切换方法、装置及可读存储介质
CN109532830B (zh) * 2018-11-26 2020-09-15 爱驰汽车有限公司 车辆及其横向控制方法、***、电子设备和存储介质
JP7151495B2 (ja) * 2019-01-16 2022-10-12 トヨタ自動車株式会社 自動運転システム
US10713948B1 (en) * 2019-01-31 2020-07-14 StradVision, Inc. Method and device for alerting abnormal driver situation detected by using humans' status recognition via V2V connection
KR102599558B1 (ko) * 2019-10-24 2023-11-08 현대모비스 주식회사 자동차용 센서 통합 모듈
KR20210051054A (ko) * 2019-10-29 2021-05-10 현대자동차주식회사 뇌파 신호를 이용한 모빌리티 탑승자의 승차감 판단 장치
CN111891128A (zh) * 2020-08-13 2020-11-06 广州小马智行科技有限公司 车辆的控制方法及车辆、运载工具
US20220379900A1 (en) * 2021-05-13 2022-12-01 Bendix Commercial Vehicle Systems Llc Online Driver Delay and Frequency Response Model
CN113967014B (zh) * 2021-12-22 2022-04-08 成都航空职业技术学院 基于大数据的学生行为分析装置、***及方法
CN114261395B (zh) * 2021-12-27 2024-04-09 深圳市驿航科技有限公司 信息提醒方法及相关设备和介质
US11878707B2 (en) * 2022-03-11 2024-01-23 International Business Machines Corporation Augmented reality overlay based on self-driving mode

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017146744A (ja) * 2016-02-16 2017-08-24 株式会社デンソー ドライバ状態判定装置

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06171391A (ja) 1992-12-03 1994-06-21 Toyota Motor Corp 車両用走行制御装置
JPH07257220A (ja) * 1994-03-22 1995-10-09 Toyota Motor Corp 車両用覚醒度評価装置
CN1956680A (zh) * 2004-05-24 2007-05-02 日本先锋公司 生物信息检测装置
JP3976035B2 (ja) * 2004-07-16 2007-09-12 松下電器産業株式会社 運転者モニター装置とこれを用いた安全装置
DE102012208822A1 (de) * 2012-05-25 2013-11-28 Robert Bosch Gmbh Verfahren und Vorrichtung zur Fahrerzustandserkennung
US9848813B2 (en) * 2012-08-14 2017-12-26 Volvo Lastvagnar Ab Method for determining the operational state of a driver
JP2014181020A (ja) 2013-03-21 2014-09-29 Denso Corp 走行制御装置
US8874301B1 (en) * 2013-07-09 2014-10-28 Ford Global Technologies, Llc Autonomous vehicle with driver presence and physiological monitoring
CN103770733B (zh) * 2014-01-15 2017-01-11 中国人民解放军国防科学技术大学 一种驾驶员安全驾驶状态检测方法及装置
JP6213282B2 (ja) * 2014-02-12 2017-10-18 株式会社デンソー 運転支援装置
JP6226135B2 (ja) 2014-05-19 2017-11-08 マツダ株式会社 居眠り運転防止装置
JP6135618B2 (ja) 2014-08-08 2017-05-31 トヨタ自動車株式会社 車両制御装置
US9771081B2 (en) * 2014-09-29 2017-09-26 The Boeing Company System for fatigue detection using a suite of physiological measurement devices
CN111016928B (zh) * 2014-12-12 2023-06-27 索尼公司 自动驾驶控制设备以及自动驾驶控制方法和程序
US9688271B2 (en) * 2015-03-11 2017-06-27 Elwha Llc Occupant based vehicle control
JP2016173651A (ja) * 2015-03-16 2016-09-29 株式会社デンソーアイティーラボラトリ ドライバ状態改善支援装置及びドライバ状態改善支援方法
JP6601028B2 (ja) * 2015-07-13 2019-11-06 日産自動車株式会社 車両運転制御装置及び車両運転制御方法
JP6409699B2 (ja) * 2015-07-13 2018-10-24 トヨタ自動車株式会社 自動運転システム
US9786192B2 (en) * 2015-10-14 2017-10-10 Toyota Motor Engineering & Manufacturing North America, Inc. Assessing driver readiness for transition between operational modes of an autonomous vehicle
US20180093675A1 (en) * 2016-09-30 2018-04-05 Ford Global Technologies, Llc Wake Alarm For Vehicles With An Autonomous Mode
US11623647B2 (en) * 2016-10-27 2023-04-11 Toyota Motor Engineering & Manufacturing North America, Inc. Driver and vehicle monitoring feedback system for an autonomous vehicle
US10467488B2 (en) * 2016-11-21 2019-11-05 TeleLingo Method to analyze attention margin and to prevent inattentive and unsafe driving

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017146744A (ja) * 2016-02-16 2017-08-24 株式会社デンソー ドライバ状態判定装置

Cited By (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018134148A (ja) * 2017-02-20 2018-08-30 株式会社東海理化電機製作所 生体状態推定装置
CN111409551A (zh) * 2018-12-18 2020-07-14 丰田自动车株式会社 注意提醒装置及注意提醒***
JP2020177303A (ja) * 2019-04-15 2020-10-29 パナソニックIpマネジメント株式会社 監視システム、移動体、監視方法及びプログラム
JP7281733B2 (ja) 2019-04-15 2023-05-26 パナソニックIpマネジメント株式会社 監視システム、移動体、監視方法及びプログラム
WO2020230895A1 (ja) * 2019-05-15 2020-11-19 ダイキン工業株式会社 温熱快適性を推定するためのシステム
JP2020189081A (ja) * 2019-05-15 2020-11-26 ダイキン工業株式会社 温熱快適性を推定するためのシステム
JP6689470B1 (ja) * 2019-06-18 2020-04-28 三菱電機株式会社 情報処理装置、プログラム及び情報処理方法
WO2020255238A1 (ja) * 2019-06-18 2020-12-24 三菱電機株式会社 情報処理装置、プログラム及び情報処理方法
EP3785608A1 (en) 2019-08-27 2021-03-03 Clarion Co., Ltd. State extrapolation device, state extrapolation program, and state extrapolation method
US11627918B2 (en) 2019-08-27 2023-04-18 Clarion Co., Ltd. State extrapolation device, state extrapolation program, and state extrapolation method
JPWO2021053780A1 (ja) * 2019-09-19 2021-11-18 三菱電機株式会社 認知機能推定装置、学習装置、および、認知機能推定方法
JP7031072B2 (ja) 2019-09-19 2022-03-07 三菱電機株式会社 認知機能推定装置、学習装置、および、認知機能推定方法
WO2021053780A1 (ja) * 2019-09-19 2021-03-25 三菱電機株式会社 認知機能推定装置、学習装置、および、認知機能推定方法
JP2021077135A (ja) * 2019-11-11 2021-05-20 マツダ株式会社 車両制御装置および運転者状態判定方法
JP2021077134A (ja) * 2019-11-11 2021-05-20 マツダ株式会社 車両制御装置および運転者状態判定方法
JP7342637B2 (ja) 2019-11-11 2023-09-12 マツダ株式会社 車両制御装置および運転者状態判定方法
JP7342636B2 (ja) 2019-11-11 2023-09-12 マツダ株式会社 車両制御装置および運転者状態判定方法
JP2021096530A (ja) * 2019-12-13 2021-06-24 トヨタ自動車株式会社 運転支援装置、運転支援プログラムおよび運転支援システム
WO2021200341A1 (ja) * 2020-03-31 2021-10-07 いすゞ自動車株式会社 許否決定装置
JP2021163124A (ja) * 2020-03-31 2021-10-11 いすゞ自動車株式会社 許否決定装置
JP7351253B2 (ja) 2020-03-31 2023-09-27 いすゞ自動車株式会社 許否決定装置
WO2022009401A1 (ja) * 2020-07-09 2022-01-13 三菱電機株式会社 乗員状態検出装置および乗員状態検出方法
JP7286022B2 (ja) 2020-07-09 2023-06-02 三菱電機株式会社 乗員状態検出装置および乗員状態検出方法
JPWO2022009401A1 (ja) * 2020-07-09 2022-01-13
WO2022050200A1 (ja) * 2020-09-07 2022-03-10 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理方法および情報処理プログラム
WO2022172391A1 (ja) * 2021-02-12 2022-08-18 三菱電機株式会社 乗員状態判定装置および乗員状態判定方法
JP7275409B2 (ja) 2021-02-12 2023-05-17 三菱電機株式会社 乗員状態判定装置および乗員状態判定方法
JPWO2022172391A1 (ja) * 2021-02-12 2022-08-18
CN114368396A (zh) * 2022-01-27 2022-04-19 东风商用车有限公司 自动驾驶***管理方法、装置、存储介质及电子设备
WO2023204218A1 (ja) * 2022-04-18 2023-10-26 幸男 篠崎 認知力推定装置、及びプログラム
WO2023223699A1 (ja) * 2022-05-16 2023-11-23 日立Astemo株式会社 走行支援装置

Also Published As

Publication number Publication date
CN108394414B (zh) 2023-04-07
US20190167175A1 (en) 2019-06-06
EP3361462B1 (en) 2020-02-12
EP3657457B1 (en) 2023-04-05
US20200054264A1 (en) 2020-02-20
JP6998564B2 (ja) 2022-01-18
EP3657457A1 (en) 2020-05-27
EP3361462A1 (en) 2018-08-15
US20180220948A1 (en) 2018-08-09
US10485468B2 (en) 2019-11-26
CN108394414A (zh) 2018-08-14
US10786193B2 (en) 2020-09-29
US10231660B2 (en) 2019-03-19

Similar Documents

Publication Publication Date Title
JP6998564B2 (ja) 覚醒度推定装置及び覚醒度推定方法
US11027608B2 (en) Driving assistance apparatus and driving assistance method
KR102469467B1 (ko) 차량 안전 지원 장치 및 방법
JP5326521B2 (ja) 覚醒状態判断装置及び覚醒状態判断方法
US10493914B2 (en) System and method for vehicle collision mitigation with vulnerable road user context sensing
JP6699831B2 (ja) 運転意識推定装置
US10089543B2 (en) System and method for detecting distraction and a downward vertical head pose in a vehicle
US10150478B2 (en) System and method for providing a notification of an automated restart of vehicle movement
EP2885151B1 (en) Method for determining the operational state of a driver
JP4791874B2 (ja) 運転支援装置及び運転行動判定装置
US20130135092A1 (en) Driving behavior analysis and warning system and method thereof
JP7357006B2 (ja) 情報処理装置、移動装置、および方法、並びにプログラム
WO2008090451A2 (en) Anti-drowsing device and anti-drowsing method
US11760359B2 (en) State determination device, state determination program, and computer-readable non-transitory tangible storage medium
US20240000354A1 (en) Driving characteristic determination device, driving characteristic determination method, and recording medium
JP5688811B2 (ja) 運転者状態推定装置
JP2023072271A (ja) 運転者状態判定方法及びその装置
JP2022111156A (ja) 車両制御装置および車両制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211207

R151 Written notification of patent or utility model registration

Ref document number: 6998564

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151