JP6627787B2 - ドライバ状態検出装置 - Google Patents

ドライバ状態検出装置 Download PDF

Info

Publication number
JP6627787B2
JP6627787B2 JP2017006120A JP2017006120A JP6627787B2 JP 6627787 B2 JP6627787 B2 JP 6627787B2 JP 2017006120 A JP2017006120 A JP 2017006120A JP 2017006120 A JP2017006120 A JP 2017006120A JP 6627787 B2 JP6627787 B2 JP 6627787B2
Authority
JP
Japan
Prior art keywords
driver
image
vehicle
steering
determination unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017006120A
Other languages
English (en)
Other versions
JP2018116426A (ja
Inventor
松村 健
健 松村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2017006120A priority Critical patent/JP6627787B2/ja
Priority to US15/870,485 priority patent/US10525981B2/en
Publication of JP2018116426A publication Critical patent/JP2018116426A/ja
Application granted granted Critical
Publication of JP6627787B2 publication Critical patent/JP6627787B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09Driving style or behaviour
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • B60K28/06Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0818Inactivity or incapacity of driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)
  • Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本発明はドライバ状態検出装置に関する。
急病等によって車両のドライバに異常が生じた場合、ドライバは車両を適切に運転又は監視することができない。このため、自車両及び他車両の安全を確保すべく、ドライバ状態を監視し、ドライバの異常を検出できることが望ましい。
従来、ドライバの異常を検出するための方法がいくつか提案されている。例えば、特許文献1には、走行中の車両に外力が加えられた後に検出されるドライバの顔情報(頭部の揺れの振幅の大きさ)に基づいてドライバの運転不能状態を検出することが開示されている。また、特許文献2には、ドライバの顔情報(視線情報、瞬目情報、顔向き情報等)、心拍情報、呼吸情報、脳波情報等に基づいてドライバ状態を検出することが開示されている。
国際公開第2015/198542号 特開2014−019301号公報
しかしながら、ドライバの顔情報を用いる方法では、ドライバの顔が未検出の場合、ドライバの異常を検出することができない。また、ドライバの心拍情報、呼吸情報又は脳波情報を検出するためには、複雑且つ高価な装置が必要である。
そこで、本発明の目的は、ドライバの顔が未検出の場合であっても、ドライバの異常を容易に検出することができるドライバ状態検出装置を提供することにある。
本開示の要旨は以下のとおりである。
(1)車内に設けられると共に、車両のドライバを撮影してドライバ画像を生成するドライバモニタカメラと、前記ドライバ画像に基づいて前記ドライバの状態を判定するドライバ状態判定部とを備え、前記ドライバ状態判定部は、前記ドライバ画像に基づいて前記ドライバのステアリングへの倒れ込みを検出した場合に前記ドライバが運転不能状態にあると判定する、ドライバ状態検出装置。
(2)前記ドライバ状態判定部は、前記ドライバ画像のコントラストが、前記ドライバが前記ドライバモニタカメラの前方にいないときに前記ドライバモニタカメラによって生成される車内画像のコントラストよりも低い場合に前記ステアリングへの倒れ込みを検出する、上記(1)に記載のドライバ状態検出装置。
(3)前記ドライバ状態判定部は、前記倒れ込みの検出を開始する前に、前記ドライバモニタカメラによる撮影によって前記車内画像のコントラストを更新する、上記(2)に記載のドライバ状態検出装置。
(4)前記ドライバ状態判定部は、輝度差が所定値以下の領域の面積の割合が前記車内画像よりも前記ドライバ画像において高い場合に前記ドライバ画像のコントラストが前記車内画像のコントラストよりも低いと判定する、上記(2)又は(3)に記載のドライバ状態検出装置。
(5)前記ドライバ状態判定部は、前記ドライバ画像において前記ドライバの顔を検出できず且つ前記ステアリングのホーンボタンが押圧されていることを検出した場合に前記ステアリングへの倒れ込みを検出する、上記(1)から(4)のいずれか1つに記載のドライバ状態検出装置。
(6)前記ドライバの前記ステアリングへの接触を検出するステアリングタッチセンサを更に備え、前記ドライバ状態判定部は、前記ドライバ画像において前記ドライバの顔を検出できず且つ前記ステアリングタッチセンサによって前記ステアリングへの接触が検出された場合に前記ステアリングへの倒れ込みを検出する、上記(1)から(5)のいずれか1つに記載のドライバ状態検出装置。
本発明によれば、ドライバの顔が未検出の場合であっても、ドライバの異常を容易に検出することができるドライバ状態検出装置が提供される。
図1は、本発明の第一実施形態に係るドライバ状態検出装置の構成を示すブロック図である。 図2は、ドライバ状態検出装置を搭載した車両の内部を概略的に示す図である。 図3は、ドライバのステアリングへの倒れ込みを示す図である。 図4は、第一実施形態における倒れ込み検出処理の制御ルーチンを示すフローチャートである。 図5は、第一実施形態におけるドライバ状態判定処理の制御ルーチンを示すフローチャートである。 図6は、第二実施形態におけるコントラスト更新処理の制御ルーチンを示すフローチャートである。 図7は、第三実施形態における倒れ込み検出処理の制御ルーチンを示すフローチャートである。 図8は、本発明の第四実施形態に係るドライバ状態検出装置の構成を示すブロック図である。 図9は、第四実施形態における倒れ込み検出処理の制御ルーチンを示すフローチャートである。
以下、図面を参照して本発明の実施形態について詳細に説明する。なお、以下の説明では、同様な構成要素には同一の参照番号を付す。
<第一実施形態>
以下、図1〜図5を参照して、本発明の第一実施形態について説明する。図1は、本発明の第一実施形態に係るドライバ状態検出装置の構成を示すブロック図である。ドライバ状態検出装置1は、車両に搭載され、車両のドライバの状態を検出する。ドライバ状態検出装置1はドライバモニタカメラ10と電子制御ユニット(ECU)20とを備える。
図2は、ドライバ状態検出装置を搭載した車両の内部を概略的に示す図である。ドライバモニタカメラ10は車両80のドライバを撮影してドライバ画像を生成する。ドライバモニタカメラ10は車内に設けられる。具体的には、図2に示すように、ドライバモニタカメラ10は車両80のステアリングコラム81の上部に設けられる。図2には、ドライバモニタカメラ10の投影範囲が破線で示されている。なお、ドライバモニタカメラ10は、車両80のステアリング82、メータパネル、メータフード等に設けられてもよい。
ドライバモニタカメラ10はカメラ及び投光器から構成される。例えば、カメラはCMOS(相補型金属酸化膜半導体)カメラ又はCCD(電荷結合素子)カメラであり、投光器はLED(発光ダイオード)である。また、夜間等の低照度時においてもドライバに不快感を与えることなくドライバの顔を撮影できるように、好ましくは、投光器は近赤外LEDである。例えば、投光器は、カメラの両側に配置された二個の近赤外LEDである。また、カメラには可視光カットフィルタのようなフィルタが設けられてもよい。ドライバモニタカメラ10によって生成されたドライバ画像はドライバモニタカメラ10からECU20に送信される。
ECU20は、双方向性バスによって相互に接続された中央演算装置(CPU)、読み出し専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、入力ポート及び出力ポートを備えたマイクロコンピュータである。本実施形態では、一つのECU20が設けられているが、機能毎に複数のECUが設けられていてもよい。ECU20は、ドライバモニタカメラ10によって生成されたドライバ画像に基づいてドライバの状態を判定するドライバ状態判定部21と、車両80の各種アクチュエータ40を制御する車両制御部22とを含む。
急病等によって車両80のドライバに異常が生じた場合、ドライバは車両80を適切に運転又は監視することができない。このため、自車両及び他車両の安全を確保すべく、ドライバ状態を監視し、ドライバの異常を検出できることが望ましい。しかしながら、ドライバに異常が生じたとき、ドライバモニタカメラ10によって生成されたドライバ画像からドライバの顔を検出できない場合がある。また、ドライバの心拍情報、呼吸情報又は脳波情報を検出するためには、複雑且つ高価な装置が必要である。そこで、本実施形態では、ドライバのステアリング82への倒れ込みを検出することによってドライバの異常を検出する。
具体的には、ドライバ状態判定部21が、ドライバモニタカメラ10によって生成されたドライバ画像に基づいてドライバのステアリング82への倒れ込みを検出し、ドライバのステアリング82への倒れ込みを検出した場合に、ドライバが運転不能状態にあると判定する。このことによって、本実施形態では、ドライバの顔が未検出の場合であっても、ドライバの異常を容易に検出することができる。
ドライバのステアリング82への倒れ込みは例えば以下のように検出される。図3に示すようにドライバがステアリング82に倒れ込んだ場合、ドライバがドライバモニタカメラ10に接近するため、ドライバモニタカメラ10によって生成されるドライバ画像のコントラストが低下する。このときのコントラストは、ドライバがドライバモニタカメラ10の前方にいないときにドライバモニタカメラ10によって生成される車内画像のコントラストよりも低い。また、ドライバ画像のコントラストは、ドライバが通常の運転姿勢にあるときには、上記車内画像のコントラストよりも高くなる。このため、ドライバ状態判定部21は、ドライバモニタカメラ10によって生成されるドライバ画像のコントラストが上記車内画像のコントラストよりも低い場合にドライバのステアリング82への倒れ込みを検出する。
また、ECU20の車両制御部22は、ドライバが運転不能状態にあると判定された場合には、危険回避制御を実行する。例えば、車両制御部22は車両80の各種アクチュエータ40を制御して車両80を退避させる。具体的には、車両制御部22は、車両80のハザードランプを点灯させつつ、車速を徐々に低下させて車両80を路肩に停止させる。また、車両80の走行を自動で制御可能な自動運転システムが車両80に備えられていない場合には、危険回避制御として、例えばハザードランプの点灯が行われる。
なお、ドライバ状態判定部21は、ドライバのステアリング82への倒れ込みを検出した場合に、ドライバに警報を与えてもよい。この場合、ドライバ状態判定部21は、ドライバのステアリング82への倒れ込みを検出し且つドライバが警報に反応しなかった場合にドライバが運転不能状態にあると判定する。
例えば、ドライバ状態判定部21はヒューマン・マシン・インターフェース(Human Machine Interface(HMI))50を介して視覚的又は聴覚的にドライバに警報を与える。HMI50は、ドライバと車両80との間で情報の入出力を行うためのインターフェイスである。HMI50は、例えば、文字又は画像情報を表示するディスプレイ、音を発生させるスピーカ、ドライバが入力操作を行うための操作ボタン、タッチパネル、マイク等から構成される。
以下、図4及び図5のフローチャートを参照して、ドライバ状態検出装置1を用いてドライバ状態を検出するための制御について詳細に説明する。図4は、第一実施形態における倒れ込み検出処理の制御ルーチンを示すフローチャートである。本制御ルーチンは所定のタイミングでECU20によって実行される。本制御ルーチンでは、ドライバのステアリング82への倒れ込みの有無が検出される。
最初に、ステップS101において、ドライバ状態判定部21がドライバモニタカメラ10を起動する。その後、ドライバモニタカメラ10は所定間隔で車両80のドライバを撮影してドライバ画像を生成し、生成されたドライバ画像はドライバ状態判定部21に送信される。
次いで、ステップS102において、ドライバ状態判定部21が、ドライバモニタカメラ10によって生成されたドライバ画像のコントラストCdrが、ドライバがドライバモニタカメラの前方にいないときにドライバモニタカメラによって生成される車内画像のコントラストCveよりも低いか否かを判定する。車内画像のコントラストCveは例えばECU20のROMに予め記憶されている。
例えば、ドライバ状態判定部21は、輝度差が所定値以下の領域の面積の割合が車内画像よりもドライバ画像において高い場合にドライバ画像のコントラストが車内画像のコントラストよりも低いと判定する。また、ドライバ状態判定部21は、輝度の最大値と最小値との差が車内画像よりもドライバ画像において小さい場合にドライバ画像のコントラストが車内画像のコントラストよりも低いと判定してもよい。
ステップS102においてドライバ画像のコントラストCdrが車内画像のコントラストCve以上であると判定された場合、ステップS102が繰り返し実行される。一方、ステップS102においてドライバ画像のコントラストCdrが車内画像のコントラストCveよりも低いと判定された場合、本制御ルーチンはステップS103に進む。
ステップS103では、ドライバ状態判定部21が、ドライバ画像のコントラストCdrが車内画像のコントラストCveよりも低いと判定されている第一時間Tj1が第一基準時間Tref1以上であるか否かを判定する。言い換えれば、ドライバ状態判定部21は、ドライバ画像のコントラストCdrが車内画像のコントラストCveよりも低い状態が維持されている第一時間Tj1が第一基準時間Tref1以上であるか否かを判定する。第一基準時間Tref1は、予め定められ、例えば1秒〜5秒である。ステップS103において第一時間Tj1が第一基準時間Tref1未満であると判定された場合、本制御ルーチンはステップS102に戻る。一方、ステップS103において第一時間Tj1が第一基準時間Tref1以上であると判定された場合、本制御ルーチンはステップS104に進む。
ステップS104では、ドライバ状態判定部21が、ドライバ操作が有るか否かを判定する。例えば、ドライバ状態判定部21は、車両80の加速、操舵及び制動の少なくとも一つがドライバによって操作されている場合に、ドライバ操作が有ると判定する。一方、ドライバ状態判定部21は、車両80の加速、操舵及び制動がドライバによって操作されていない場合に、ドライバ操作が無いと判定する。ステップS104においてドライバ操作が無いと判定された場合、本制御ルーチンはステップS105に進む。
この場合、ドライバがステアリング82に倒れ込んでいると推定される。このため、ステップS105では、ドライバ状態判定部21が倒れ込み検出フラグFdfを1に設定する。すなわち、ドライバ状態判定部21がドライバのステアリング82への倒れ込みを検出する。倒れ込み検出フラグFdfの初期値はゼロである。ステップS105の後、本制御ルーチンは終了する。
一方、ステップS104においてドライバ操作が有ると判定された場合、本制御ルーチンはステップS106に進む。この場合、光路内の異物等によってドライバモニタカメラ10が正常に機能していないと推定される。このため、ステップS106では、ドライバ状態判定部21が、ドライバモニタカメラ10による撮影に異常が生じていると判定し、HMI50等を用いてドライバに異常を伝達する。ステップS106の後、本制御ルーチンは終了する。なお、ステップS104及びステップS106は省略されてもよい。
図5は、第一実施形態におけるドライバ状態判定処理の制御ルーチンを示すフローチャートである。本制御ルーチンは、車両80のイグニッションスイッチがオンにされている間、ECU20によって繰り返し実行される。本制御ルーチンではドライバ状態が判定される。
最初に、ステップS201において、ドライバ状態判定部21が、倒れ込み検出フラグFdfが1であるか否かを判定する。倒れ込み検出フラグFdfが0であると判定された場合、本制御ルーチンは終了する。一方、倒れ込み検出フラグFdfが1であると判定された場合、すなわちドライバの倒れ込みが検出されている場合、本制御ルーチンはステップS202に進む。
ステップS202では、ドライバ状態判定部21がドライバに警報を与える。例えば、ドライバ状態判定部21はHMI50を介して視覚的又は聴覚的にドライバに警報を与える。警報時間は例えば2秒〜10秒である。
次いで、ステップS203において、ドライバ状態判定部21が、警報中にドライバの反応があったか否かを判定する。ドライバの反応とは、音声による応答、スイッチの押圧、運転操作等である。ステップS203において警報中にドライバの反応がなかったと判定された場合、本制御ルーチンはステップS204に進む。
ステップS204では、ドライバ状態判定部21が、ドライバが運転不能状態にあると判定する。次いで、ステップS205において、車両制御部22が危険回避制御を実行する。例えば、車両制御部22は車両80の各種アクチュエータ40を制御して車両80を退避させる。具体的には、車両制御部22は、車両80のハザードランプを点灯させつつ、車速を徐々に低下させて車両80を路肩に停止させる。また、車両80の走行を自動で制御可能な自動運転システムが車両80に備えられていない場合には、危険回避制御として、例えばハザードランプの点灯が行われる。
次いで、ステップS206において、ドライバ状態判定部21が倒れ込み検出フラグFdfをリセットしてゼロに設定する。ステップS206の後、本制御ルーチンは終了する。
一方、ステップS203において警報中にドライバの反応があったと判定された場合、本制御ルーチンはステップS206に進む。この場合、警報によってドライバの意識が回復し又は倒れ込みの誤検出があったと推定されるため、ステップS206において倒れ込み検出フラグFdfがゼロに設定される。ステップS206の後、本制御ルーチンは終了する。
なお、ステップS202及びステップS203は省略されてもよい。また、ドライバが運転不能状態にあることが明確に通知されなくても、車両80の退避のような危険回避制御が実行された場合には、実質的に、ドライバが運転不能状態にあると判定されていると言える。
<第二実施形態>
第二実施形態に係るドライバ状態検出装置の構成及び制御は、以下に説明する点を除いて、基本的に第一実施形態に係るドライバ状態検出装置の構成及び制御と同様である。このため、以下、本発明の第二実施形態について、第一実施形態と異なる部分を中心に説明する。
ドライバモニタカメラ10によって生成される画像のコントラストは、車内の照度の影響を受ける。また、車内の照度は、天候、時刻等によって変化する。そこで、第二実施形態では、ドライバ状態判定部21は、ドライバのステアリング82への倒れ込みの検出を開始する前に、ドライバモニタカメラ10による撮影によって車内画像のコントラストを更新する。このことによって、車内の照度に関わらずドライバの倒れ込みによるドライバ画像のコントラストの低下を識別することができ、ひいてはドライバの倒れ込みをより精度良く検出することができる。
図6は、第二実施形態におけるコントラスト更新処理の制御ルーチンを示すフローチャートである。本制御ルーチンは、ドライバが運転席に座る前にECU20によって実行される。例えば、本制御ルーチンは、車両80のドアロックが解除されたときに実行される。本制御ルーチンでは、車内画像のコントラストが更新される。
最初に、ステップS301において、ドライバ状態判定部21が車内画像を取得する。具体的には、ドライバ状態判定部21は、ドライバモニタカメラ10を起動して、ドライバモニタカメラ10による撮影によって生成された車内画像をドライバモニタカメラ10から受信する。次いで、ステップS302において、ドライバ状態判定部21が車内画像のコントラストCveを更新する。更新された車内画像のコントラストCveは例えばECU20のRAMに記憶される。ステップS302の後、本制御ルーチンは終了する。
第二実施形態においても、第一実施形態と同様に図4の倒れ込み検出処理の制御ルーチンと図5のドライバ判定処理の制御ルーチンとが実行される。第二実施形態では、図4のステップS102において、車内画像のコントラストCveとして、図6のステップS302において更新されたデータが用いられる。
<第三実施形態>
第三実施形態に係るドライバ状態検出装置の構成及び制御は、以下に説明する点を除いて、基本的に第一実施形態に係るドライバ状態検出装置の構成及び制御と同様である。このため、以下、本発明の第三実施形態について、第一実施形態と異なる部分を中心に説明する。
上述したように、ドライバがステアリング82に倒れ込んだ場合、ドライバがドライバモニタカメラ10に接近するため、ドライバモニタカメラ10によって生成されるドライバ画像のコントラストが低下する。この結果、ドライバ画像においてドライバの顔を検出することができない。しかしながら、ドライバがドライバモニタカメラ10の撮影範囲から外れたときにも、ドライバの顔が検出されない。一方、ドライバがステアリング82に倒れ込んだ場合、ステアリング82のホーンボタンがドライバによって押圧される場合がある。
そこで、第三実施形態では、ドライバ状態判定部21は、ドライバモニタカメラ10によって生成されたドライバ画像においてドライバの顔を検出できず且つステアリング82のホーンボタンが押圧されていることを検出した場合にドライバのステアリング82への倒れ込みを検出する。このことによって、より簡易的にドライバのステアリング82への倒れ込みを検出することができる。
図7は、第三実施形態における倒れ込み検出処理の制御ルーチンを示すフローチャートである。本制御ルーチンは所定のタイミングでECU20によって実行される。本制御ルーチンでは、ドライバのステアリング82への倒れ込みの有無が検出される。
最初に、ステップS401において、ドライバ状態判定部21がドライバモニタカメラ10を起動する。その後、ドライバモニタカメラ10は所定間隔で車両80のドライバを撮影してドライバ画像を生成し、生成されたドライバ画像はドライバ状態判定部21に送信される。
次いで、ステップS402において、ドライバ状態判定部21が、ドライバモニタカメラ10によって生成されたドライバ画像においてドライバの顔が検出不可能であるか否かを判定する。例えば、ドライバ状態判定部21は、画像処理によってドライバ画像から眼、鼻、口等の顔部品を検出できなかった場合に、ドライバ画像においてドライバの顔が検出不可能であると判定する。
ステップS402においてドライバ画像においてドライバの顔が検出可能であると判定された場合、ステップS402が繰り返し実行される。一方、ステップS402においてドライバ画像においてドライバの顔が検出不可能であると判定された場合、本制御ルーチンはステップS403に進む。
ステップS403では、ドライバ状態判定部21が、ステアリング82のホーンボタンが押圧されているか否かを判定する。例えば、ドライバ状態判定部21は、ホーンの音を検出した場合に、ステアリング82のホーンボタンが押圧されていると判定する。ステップS403においてステアリング82のホーンボタンが押圧されていないと判定された場合、本制御ルーチンはステップS402に戻る。一方、ステップS403においてステアリング82のホーンボタンが押圧されていると判定された場合、本制御ルーチンはステップS404に進む。
ステップS404では、ドライバ状態判定部21が、ステップS402及びステップS403の両方の条件が成立している第二時間Tj2が第二基準時間Tref2以上であるか否かを判定する。言い換えれば、ドライバ状態判定部21は、ドライバの顔が検出不可能であり且つホーンボタンが押圧されている状態が維持されている第二時間Tj2が第二基準時間Tref2以上であるか否かを判定する。第二基準時間Tref2は、予め定められ、例えば1秒〜5秒である。ステップS404において第二時間Tj2が第二基準時間Tref2未満であると判定された場合、本制御ルーチンはステップS402に戻る。一方、ステップS404において第二時間Tj2が第二基準時間Tref2以上であると判定された場合、本制御ルーチンはステップS405に進む。
ステップS405では、図4のステップS104と同様に、ドライバ状態判定部21が、ドライバ操作が有るか否かを判定する。ステップS405においてドライバ操作が無いと判定された場合、本制御ルーチンはステップS406に進む。ステップS406では、ドライバ状態判定部21が倒れ込み検出フラグFdfを1に設定する。フラグFdfの初期値はゼロである。ステップS406の後、本制御ルーチンは終了する。
一方、ステップS405においてドライバ操作が有ると判定された場合、本制御ルーチンはステップS407に進む。ステップS407では、ドライバ状態判定部21が、ドライバモニタカメラ10による撮影に異常が生じていると判定し、HMI50等を用いてドライバに異常を伝達する。ステップS407の後、本制御ルーチンは終了する。なお、ステップS405及びステップS407は省略されてもよい。
第三実施形態においても、第一実施形態と同様に図5のドライバ判定処理の制御ルーチンが実行される。
<第四実施形態>
第四実施形態に係るドライバ状態検出装置の構成及び制御は、以下に説明する点を除いて、基本的に第一実施形態に係るドライバ状態検出装置の構成及び制御と同様である。このため、以下、本発明の第四実施形態について、第一実施形態と異なる部分を中心に説明する。
上述したように、ドライバがステアリング82に倒れ込んだ場合、ドライバがドライバモニタカメラ10に接近するため、ドライバモニタカメラ10によって生成されるドライバ画像のコントラストが低下する。この結果、ドライバ画像においてドライバの顔を検出することができない。しかしながら、ドライバがドライバモニタカメラ10の撮影範囲から外れたときにも、ドライバの顔が検出されない。一方、ドライバがステアリング82に倒れ込んだ場合、ドライバがステアリング82に接触する。
このため、第四実施形態では、ドライバ状態判定部21は、ドライバモニタカメラ10によって生成されたドライバ画像においてドライバの顔を検出できず且つドライバのステアリング82への接触が検出された場合にドライバのステアリング82への倒れ込みを検出する。このことによって、より簡易的にドライバのステアリング82への倒れ込みを検出することができる。
ドライバのステアリング82への接触はステアリングタッチセンサによって検出される。図8は、本発明の第四実施形態に係るドライバ状態検出装置の構成を示すブロック図である。ドライバ状態検出装置1’はドライバモニタカメラ10と電子制御ユニット(ECU)20とステアリングタッチセンサ30とを備える。ステアリングタッチセンサ30は、ドライバがステアリング82に接触しているか否かを検出する。ステアリングタッチセンサ30はステアリング82に設けられる。ステアリングタッチセンサ30によって検出されたステアリング82の接触情報はECU20に送信される。
図9は、第四実施形態における倒れ込み検出処理の制御ルーチンを示すフローチャートである。本制御ルーチンは所定のタイミングでECU20によって実行される。本制御ルーチンでは、ドライバのステアリング82への倒れ込みの有無が検出される。
最初に、ステップS501において、ドライバ状態判定部21がドライバモニタカメラ10を起動する。その後、ドライバモニタカメラ10は所定間隔で車両80のドライバを撮影してドライバ画像を生成し、生成されたドライバ画像はドライバ状態判定部21に送信される。
次いで、ステップS502において、図7のステップS402と同様に、ドライバ状態判定部21が、ドライバモニタカメラ10によって生成されたドライバ画像においてドライバの顔が検出不可能であるか否かを判定する。
ステップS502においてドライバ画像においてドライバの顔が検出可能であると判定された場合、ステップS502が繰り返し実行される。一方、ステップS502においてドライバ画像においてドライバの顔が検出不可能であると判定された場合、本制御ルーチンはステップS503に進む。
ステップS503では、ドライバ状態判定部21が、ドライバがステアリング82に接触しているか否かを判定する。ドライバのステアリング82への接触はステアリングタッチセンサ30によって検出される。ステップS503においてドライバがステアリング82に接触していないと判定された場合、本制御ルーチンはステップS502に戻る。一方、ステップS503においてドライバがステアリング82に接触していると判定された場合、本制御ルーチンはステップS504に進む。
ステップS504では、ドライバ状態判定部21が、ステップS502及びステップS503の両方の条件が成立している第三時間Tj3が第三基準時間Tref3以上であるか否かを判定する。言い換えれば、ドライバ状態判定部21は、ドライバの顔が検出不可能であり且つドライバがステアリング82に接触している状態が維持されている第三時間Tj3が第三基準時間Tref3以上であるか否かを判定する。第三基準時間Tref3は、予め定められ、例えば1秒〜5秒である。ステップS504において第三時間Tj3が第三基準時間Tref3未満であると判定された場合、本制御ルーチンはステップS502に戻る。一方、ステップS504において第三時間Tj3が第三基準時間Tref3以上であると判定された場合、本制御ルーチンはステップS505に進む。
ステップS505では、図4のステップS104及び図7のステップS405と同様に、ドライバ状態判定部21が、ドライバ操作が有るか否かを判定する。ステップS505においてドライバ操作が無いと判定された場合、本制御ルーチンはステップS506に進む。ステップS506では、ドライバ状態判定部21が倒れ込み検出フラグFdfを1に設定する。フラグFdfの初期値はゼロである。ステップS506の後、本制御ルーチンは終了する。
一方、ステップS505においてドライバ操作が有ると判定された場合、本制御ルーチンはステップS507に進む。ステップS507では、ドライバ状態判定部21が、ドライバモニタカメラ10による撮影に異常が生じていると判定し、HMI50等を用いてドライバに異常を伝達する。ステップS507の後、本制御ルーチンは終了する。なお、ステップS505及びステップS507は省略されてもよい。
以上、本発明に係る好適な実施形態を説明したが、本発明はこれら実施形態に限定されるものではなく、特許請求の範囲の記載内で様々な修正及び変更を施すことができる。また、上述した実施形態は、任意に組み合わせて実施可能である。
1、1’ ドライバ状態検出装置
10 ドライバモニタカメラ
20 電子制御ユニット(ECU)
21 ドライバ状態判定部
22 車両制御部
30 ステアリングタッチセンサ
80 車両

Claims (6)

  1. 車内に設けられると共に、車両のドライバを撮影してドライバ画像を生成するドライバモニタカメラと、
    前記ドライバ画像に基づいて前記ドライバの状態を判定するドライバ状態判定部と
    を備え、
    前記ドライバ状態判定部は、前記ドライバ画像に基づいて前記ドライバのステアリングへの倒れ込みを検出した場合に前記ドライバが運転不能状態にあると判定し、
    前記ドライバ状態判定部は、前記ドライバ画像のコントラストが、前記ドライバが前記ドライバモニタカメラの前方にいないときに前記ドライバモニタカメラによって生成される車内画像のコントラストよりも低い場合に前記ステアリングへの倒れ込みを検出する、ドライバ状態検出装置。
  2. 車内に設けられると共に、車両のドライバを撮影してドライバ画像を生成するドライバモニタカメラと、
    前記ドライバ画像に基づいて前記ドライバの状態を判定するドライバ状態判定部と
    を備え、
    前記ドライバ状態判定部は、前記ドライバ画像に基づいて前記ドライバのステアリングへの倒れ込みを検出した場合に前記ドライバが運転不能状態にあると判定し、
    前記ドライバ状態判定部は、前記ドライバ画像において前記ドライバの顔を検出できず且つ前記ステアリングのホーンボタンが押圧されていることを検出した場合に前記ステアリングへの倒れ込みを検出する、ドライバ状態検出装置。
  3. 前記ドライバ状態判定部は、前記ドライバ画像のコントラストが、前記ドライバが前記ドライバモニタカメラの前方にいないときに前記ドライバモニタカメラによって生成される車内画像のコントラストよりも低い場合に前記ステアリングへの倒れ込みを検出する、請求項に記載のドライバ状態検出装置。
  4. 前記ドライバ状態判定部は、前記倒れ込みの検出を開始する前に、前記ドライバモニタカメラによる撮影によって前記車内画像のコントラストを更新する、請求項1又は3に記載のドライバ状態検出装置。
  5. 前記ドライバ状態判定部は、輝度差が所定値以下の領域の面積の割合が前記車内画像よりも前記ドライバ画像において高い場合に前記ドライバ画像のコントラストが前記車内画像のコントラストよりも低いと判定する、請求項1、3又はに記載のドライバ状態検出装置。
  6. 前記ドライバの前記ステアリングへの接触を検出するステアリングタッチセンサを更に備え、
    前記ドライバ状態判定部は、前記ドライバ画像において前記ドライバの顔を検出できず且つ前記ステアリングタッチセンサによって前記ステアリングへの接触が検出された場合に前記ステアリングへの倒れ込みを検出する、請求項1から5のいずれか1項に記載のドライバ状態検出装置。
JP2017006120A 2017-01-17 2017-01-17 ドライバ状態検出装置 Active JP6627787B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017006120A JP6627787B2 (ja) 2017-01-17 2017-01-17 ドライバ状態検出装置
US15/870,485 US10525981B2 (en) 2017-01-17 2018-01-12 Driver condition detection system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017006120A JP6627787B2 (ja) 2017-01-17 2017-01-17 ドライバ状態検出装置

Publications (2)

Publication Number Publication Date
JP2018116426A JP2018116426A (ja) 2018-07-26
JP6627787B2 true JP6627787B2 (ja) 2020-01-08

Family

ID=62838692

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017006120A Active JP6627787B2 (ja) 2017-01-17 2017-01-17 ドライバ状態検出装置

Country Status (2)

Country Link
US (1) US10525981B2 (ja)
JP (1) JP6627787B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102017201405B4 (de) * 2017-01-30 2018-12-13 Audi Ag Verfahren zum Betreiben eines Kraftfahrzeugs
US20190272755A1 (en) * 2018-03-02 2019-09-05 Resilience Magnum IP, LLC Intelligent vehicle and method for using intelligent vehicle
JP6973298B2 (ja) * 2018-05-31 2021-11-24 トヨタ自動車株式会社 物体監視装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3452685B2 (ja) * 1995-05-10 2003-09-29 三菱電機株式会社 顔画像の処理装置
JP2003308533A (ja) 2002-04-17 2003-10-31 Mitsubishi Electric Corp ドライバの顔画像処理装置
JP3093959U (ja) * 2002-11-11 2003-05-23 宣夫 芦立 非常事態伝達システムを内蔵した箱体
JP4509042B2 (ja) 2006-02-13 2010-07-21 株式会社デンソー 自動車用もてなし情報提供システム
JP2008037218A (ja) * 2006-08-03 2008-02-21 Aisin Aw Co Ltd 車両制御装置
US20080166052A1 (en) 2007-01-10 2008-07-10 Toshinobu Hatano Face condition determining device and imaging device
JP2009176112A (ja) 2008-01-25 2009-08-06 Mazda Motor Corp 乗員の視線検出装置
JP2009294753A (ja) 2008-06-03 2009-12-17 Toyota Motor Corp 画像処理装置および画像処理方法
US9460601B2 (en) 2009-09-20 2016-10-04 Tibet MIMAR Driver distraction and drowsiness warning and sleepiness reduction for accident avoidance
JP5184596B2 (ja) 2010-09-03 2013-04-17 本田技研工業株式会社 脇見判定装置
CN102985302A (zh) * 2011-07-11 2013-03-20 丰田自动车株式会社 车辆的紧急避险装置
JP5335038B2 (ja) 2011-07-15 2013-11-06 日立オムロンターミナルソリューションズ株式会社 自動処理装置
JP2014019301A (ja) 2012-07-18 2014-02-03 Toyota Motor Corp 緊急退避装置
US9751534B2 (en) * 2013-03-15 2017-09-05 Honda Motor Co., Ltd. System and method for responding to driver state
JP6056746B2 (ja) 2013-12-18 2017-01-11 株式会社デンソー 顔画像撮影装置、および運転者状態判定装置
JP6497158B2 (ja) 2014-05-16 2019-04-10 株式会社リコー 表示装置、移動体
US10430676B2 (en) 2014-06-23 2019-10-01 Denso Corporation Apparatus detecting driving incapability state of driver
JP6350145B2 (ja) 2014-09-09 2018-07-04 株式会社デンソーアイティーラボラトリ 顔向き検出装置及び車両用警告システム
JP6693427B2 (ja) * 2017-01-18 2020-05-13 トヨタ自動車株式会社 ドライバ状態検出装置
JP6915502B2 (ja) * 2017-11-09 2021-08-04 トヨタ自動車株式会社 ドライバ状態検出装置

Also Published As

Publication number Publication date
US10525981B2 (en) 2020-01-07
JP2018116426A (ja) 2018-07-26
US20180201274A1 (en) 2018-07-19

Similar Documents

Publication Publication Date Title
JP6331875B2 (ja) 車載制御装置
KR101646401B1 (ko) 운전자의 졸음상태 판단 시스템 및 그 판단 방법
JP4788624B2 (ja) 不注意警告装置、不注意警告装置の車両機器制御方法及び車両制御装置のプログラム
JP6627787B2 (ja) ドライバ状態検出装置
US10604160B2 (en) Driver condition detection system
JP2008199515A (ja) 同乗者着座姿勢検出・判定装置及び方法
JP2016085563A (ja) 車載制御装置
JP6730096B2 (ja) 乗員状態監視装置
JP2009244959A (ja) 運転支援装置、運転支援方法
US20160176339A1 (en) Vehicle periphery monitoring device
JP2020024532A (ja) 脇見運転検出装置
US20180232588A1 (en) Driver state monitoring device
EP3348453B1 (en) Control system of vehicle
JP2018128834A (ja) ドライバ状態検出装置
JP6775134B2 (ja) ドライバ状態検出装置
JP2018133007A (ja) 警報装置
JP2008305190A (ja) 居眠り警告装置及び自動車
JP7140485B2 (ja) 警報システム
JP2019087018A (ja) ドライバモニタシステム
JP2023158163A (ja) 判定装置および判定方法
JP6962141B2 (ja) ドライバ状態検出装置
KR102518576B1 (ko) 차간 거리 경고 시스템을 위한 처리 유닛 및 처리 방법, 차간 거리 경고 시스템, 및 모터사이클
JP6579496B2 (ja) 運転者状態推定装置
JP6852407B2 (ja) ドライバ状態検出装置
JP2021196941A (ja) ドライバ監視システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190611

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190612

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190806

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191118

R151 Written notification of patent or utility model registration

Ref document number: 6627787

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151