JP2008220424A - 眠気判定装置,プログラムおよび眠気判定方法 - Google Patents

眠気判定装置,プログラムおよび眠気判定方法 Download PDF

Info

Publication number
JP2008220424A
JP2008220424A JP2007058980A JP2007058980A JP2008220424A JP 2008220424 A JP2008220424 A JP 2008220424A JP 2007058980 A JP2007058980 A JP 2007058980A JP 2007058980 A JP2007058980 A JP 2007058980A JP 2008220424 A JP2008220424 A JP 2008220424A
Authority
JP
Japan
Prior art keywords
drowsiness
sleepiness
degree
determined
sign
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007058980A
Other languages
English (en)
Other versions
JP4259585B2 (ja
Inventor
Kenji Ishida
健二 石田
Kahori Uchiyama
佳保里 内山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2007058980A priority Critical patent/JP4259585B2/ja
Priority to US12/073,075 priority patent/US7948387B2/en
Publication of JP2008220424A publication Critical patent/JP2008220424A/ja
Application granted granted Critical
Publication of JP4259585B2 publication Critical patent/JP4259585B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships

Landscapes

  • Engineering & Computer Science (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Traffic Control Systems (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 高い精度で眠気の度合を判定することができる技術を提供する。
【解決手段】 本発明の居眠り防止システム1は、車両2を運転する運転者3の顔画像を撮影する撮影装置10と、顔画像に基づいて眠気の度合を判定する眠気判定装置20と、居眠りを防止するための警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60と、から構成される。
眠気判定装置20は、撮影装置10により撮影された顔画像に基づいて、眠気の兆候および葛藤の兆候を検出し、それらの検出結果の組み合わせにより眠気の度合を判定する。
【選択図】図1

Description

本発明は、対象者の眠気の度合を判定する眠気判定装置,プログラムおよび眠気判定方法に関する。
従来から、車両の運転者の居眠り運転を防止するため、車両内に搭載したカメラで運転者の顔を撮影し、得られた画像を処理して眠気の度合を段階的に判定する装置が提案されている。
このような装置では、得られた画像から運転者の目の開度を算出して、それに基づいて居眠り状態であるか否かを判定することが一般的である。
例えば、眉と目の位置を検出し、眉と目との相対距離から目の開度を判定する技術が提案されている(特許文献1参照)。この技術においては、眉と目との相対距離が大きくなることで目の開度が小さくなったと判断する。そして、目の開度が小さくなるにつれて、眠気の度合が強くなったと判定する。
特開平9−44685号公報
上述した技術のように、目の開度に基づいて眠気の度合を段階的に判定しようとすると、目の開度に対して複数のしきい値を定め、目の開度がそれらしきい値で区切られた範囲のいずれに該当するかを判断する必要がある。しかしながら、目の開度および眠気の亢進に伴う目の閉じ方には個人差があり、しきい値を一義的に定めることは難しい。
また、車両の運転者の眠気を判定する場合など、対象者が眠気に対して抵抗すべき状態である場合には、対象者は眠気を感じると、その眠気に抵抗しようとして目を大きく開けるために眉を上げる動作をとる。その動作により眉と目の相対距離は変化する。
そのため、例えば、眉が上瞼より大きく上昇すると、目の開度が小さくなる以上に眉と目の相対距離は大きくなり、実際よりも眠気の度合が強いと判定されてしまう。さらに眠気が亢進すると眉が下がるため、目の開度が小さくなっているにも拘らず眉と目の相対距離は小さくなり、実際よりも眠気の度合が弱いと判定されてしまう。
このような理由により、目の開度のみに基づいて眠気の度合を判定する技術では、その判定を精度よく行うことが困難であった。
本発明は、このような問題に鑑みてなされたものであり、高い精度で眠気の度合を判定することができる眠気判定装置,プログラムおよび眠気判定方法を提供することを目的とする。
上述した問題を解決するためになされた請求項1に記載の眠気判定装置は、覚醒低下検出手段および葛藤検出手段により、眠気による覚醒低下の兆候と眠気に逆らう葛藤の兆候とを検出し、それらに基づいて眠気判定手段が眠気の度合を判定する。具体的には、覚醒低下の兆候が検出されていない場合には眠気なしと判定し、覚醒低下の兆候が検出されている場合には眠気を有していると判定する。さらに、眠気を有していると判定されている状態において、葛藤の兆候の有無により、眠気の度合を判定する。
このように構成された眠気判定装置であれば、覚醒低下の兆候を検出することにより対象者の眠気の有無を判定できると共に、覚醒低下の兆候と葛藤の兆候との検出結果の組み合わせにより眠気の度合の強弱を判定することができる。
覚醒低下の兆候の検出結果のみに基づいて、眠気の度合を複数の段階に分けて判定しようとする場合には、検出結果に示される覚醒低下の兆候の度合を、目的とする段階数に応じて複数のしきい値で細分化した段階に分類する必要がある。しかし、覚醒低下の兆候の検出誤差や、眠気の亢進に対する覚醒低下の兆候が現れる度合には個人差があることなどから、上述した段階数が多くなるほど、上述した検出結果を正確に分類することが困難になり、その検出結果の分類の精度は低くなる。
しかし、覚醒低下の兆候のみでなく、葛藤の兆候の検出結果を組み合わせて判定する場合には、それらの兆候の検出結果それぞれを、目的とする段階数まで細分化して分類する必要がない。そのため、それぞれの検出結果ごとに分類すべき段階数が減少することで、それぞれの検出結果ごとの分類が容易かつ確実なものとなる。その結果、それらを組み合わせることで、高精度な眠気の度合の判定が可能となる。
なお、具体的に覚醒低下の兆候および葛藤の兆候を検出するためには、例えば、請求項2に記載されているように、目の開度に基づいて覚醒低下の兆候を検出し、眉と目の間の距離に基づいて、葛藤の兆候を検出するとよい。
このように構成された眠気判定装置であれば、目の開度および眉と目の間の距離に基づいて、眠気の度合を判定できる。
目の開度は、眠気の度合が強くなるにつれて徐々に小さくなっていくものである。また、眉と目の間の距離は、眠気の度合が一定以上強くなったときに大きくなるものである。そのため、目の開度が所定のしきい値より小さくなった場合(覚醒低下の兆候が検出された場合)には、眠気があると判定でき、さらに眠気が強まり、眉と目の間の距離が大きくなった場合(葛藤の兆候が検出された場合)には、そのことに基づいて眠気の度合が強くなったと判定することができる。
このことから、上述した構成の眠気判定装置であれば、少なくとも、眠気なし,弱い眠気あり,強い眠気あり,の3段階で眠気の度合を判定することができる。
また、眠気の度合をもう1段階増やして判定するためには、請求項3に記載の眠気判定装置のような方法で眠気の度合を判定する構成としてもよい。
このように構成された眠気判定装置は、目の開度が第1しきい値以下であることを条件Aとし、目の開度が前記第1しきい値より小さい第2しきい値以下であることを条件Bとし、眉と目の間の距離が所定のしきい値より大きいことを条件Cとして、これらの条件に基づいて眠気の度合を判定する。
具体的には、前記条件Bが満たされる場合には、眠気の度合を、強度眠気と判定する。また、前記条件Aおよび前記条件Cが満たされると共に、前記条件Bが満たされない場合には、眠気の度合を、前記強度眠気よりも眠気の度合が弱い中度眠気と判定する。また、前記条件Aが満たされると共に、前記条件Bおよび前記条件Cが満たされない場合には、眠気の度合を、前記中度眠気よりも眠気の度合が弱い弱度眠気と判定する。そして、前記条件Aおよび条件Bがいずれも満たされない場合には、眠気なしと判定する。
上述した第1しきい値および第2しきい値は、以下のように設定することが好ましい。それは、上記条件Cが満たされる眠気の度合より低い眠気の度合にて条件Aが満たされるように第1しきい値を設定し、条件Cが満たされる眠気の度合より高い眠気の度合にて条件Bが満たされるように第2しきい値を設定することである。
このように第1しきい値および第2しきい値を設定することで、眠気が生じると、まず条件Aのみが満たされ、弱度眠気と判定される。その後、さらに眠気が亢進すると、条件Cが満たされ、中度眠気と判定される。さらに眠気が亢進すると、条件Bを満たし、強度眠気と判定される。
よって、このような方法で眠気の度合を判定する眠気判定装置であれば、上述した請求項2の構成と比較して、さらに眠気の度合が強くなったことを判断することができ、強度眠気,中度眠気,軽度眠気,眠気なし,の4段階で眠気の度合を判定することができる。
また、さらに眠気の度合をもう1段階増やして判定するためには、請求項4に記載の眠気判定装置のような方法で眠気の度合を判定する構成としてもよい。
このように構成された眠気判定装置は、目の開度が前記第2しきい値より小さい第3しきい値以下である場合には、他の条件に関わらず、眠気の度合を、前記強度眠気よりも強いと判定する。
そのため、上述した請求項3の構成では強度眠気と判定される眠気の度合の範囲内において、2段階に分けて判定できるようになる。
よって、このような方法で眠気の度合を判定する眠気判定装置であれば、上述した請求項3の構成にて判定される4段階より1段階多い5段階で眠気の度合を判定することができる。
なお、目の開度,および,眉と目の間の距離を取得する具体的な方法については特に限定されない。
例えば、電極を顔面に貼り付け、顔の筋肉が動くときにその力の大きさに比例して発生する微弱な電気を検出して、瞼の動き,眉の動きなどを検出し、それらに基づいて目の開度および眉と目の間の距離を取得することが考えられる。
また、上述したもの以外には、対象者の顔画像に基づいて目の開度,および,眉と目の間の距離を取得する方法が考えられる。そのためには、請求項1に記載の構成を請求項5に記載の眠気判定装置のように構成するとよい。
このように構成された眠気判定装置は、顔画像を示す画像データに基づいて、該画像データに示される顔画像における目および眉の位置を示す位置情報を検出し、前記位置情報に基づいて目の開度および眉と目の間の距離を特定する。
このような眠気判定装置であれば、撮影手段により撮影された顔画像を示す画像データに基づいて、眠気の度合を判定することができる。よって、瞼の動き,眉の動きを検出するための電極などを、眠気の度合を判定する対象者に直接取り付けることなく、簡便に眠気の度合を判定することができる。
また、請求項5に記載した眠気判定装置は、請求項6に記載した眠気判定装置のように構成してもよい。
このように構成された眠気判定装置は、撮影手段を備えた車両に搭載されて用いられるものである。そして、撮影手段により撮影された顔画像を示す画像データに基づいて、該画像データに示される顔画像における目および眉の位置を示す位置情報を検出する。
このような眠気判定装置であれば、車両に搭載して用いることができるので、車両の運転者等の乗員を対象として眠気の度合を判定することができる。
なお、眠気の度合の判定結果に応じて運転者の居眠りを防止する動作を行う装置を車両に備え、その装置と連携することで、運転者の居眠りを防止することができる。例えば、上記眠気判定装置をカーナビゲーションシステムと連携して、眠気の度合の判定結果に応じた画面表示および音声出力をすることが考えられる。また、眠気の度合の判定結果に応じて、運転者に送風する装置,シートベルトを振動させる装置,ブレーキを制御する装置などを動作させてもよい。
また、具体的な覚醒低下の兆候および葛藤の兆候を検出するためには、上述したもの以外には、請求項7に記載されているように、副交感神経の活動に基づいて前記覚醒低下の兆候を検出し、交感神経の活動に基づいて前記葛藤の兆候を検出してもよい。
自律神経のうち、交感神経は、起きているとき,緊張しているときに活発になる神経である。また、副交感神経は、寝ているとき,リラックスしているときに活発になる神経である。眠気が強くなると副交感神経系の活動が活発になり、眠気に対して葛藤する動作をすると交感神経系の活動が活発になる。
そのため、上述したように構成された眠気判定装置であれば、副交感神経の活動および交感神経の活動を検出して、眠気の度合を判定することができる。
なお、副交感神経および交感神経を検出する具体的な方法については特に限定されない。例えば、請求項8に記載の眠気判定装置のように、心電図波形取得手段が心電図波形を取得し、その心電図波形に基づいて、前記副交感神経の活動,および,交感神経の活動を検出する構成としてもよい。
このように構成された眠気判定装置であれば、心電図波形から副交感神経の活動,および,交感神経の活動を検出することができるので、その検出結果に基づいて眠気の度合を判定することができる。
また、請求項8に記載した眠気判定装置は、請求項9に記載した眠気判定装置のように、車両に搭載されて用いられるものであってもよい。そうすることで、車両の運転者を対象として眠気の度合を判定することができる。
また、請求項10に記載のプログラムは、請求項1から9のいずれかに記載の覚醒低下検出手段,葛藤検出手段,および,眠気判定手段として機能させるための処理手順を、コンピュータシステムに実行させるためのプログラムである。
このようなプログラムにより制御されるコンピュータシステムは、請求項1から請求項9のいずれかに記載の眠気判定装置の一部を構成することができる。
なお、上述したプログラムは、コンピュータシステムによる処理に適した命令の順番付けられた列からなるものであって、各種記録媒体や通信回線を介して眠気判定装置や、これを利用するユーザに提供されるものである。
また、請求項11に記載の眠気判定方法は、眠気による覚醒低下の兆候,および,眠気に逆らう葛藤の兆候を検出して、その検出結果の組み合わせにより眠気の度合を判定する眠気判定方法である。この方法では、覚醒低下の兆候が検出されていない場合には眠気なしと判定し、覚醒低下の兆候が検出されている場合には眠気を有していると判定し、眠気を有していると判定されている状態において、前記葛藤の兆候の有無により、眠気の度合を判定する。
このような方法により眠気の度合の判定を行う場合、請求項1から請求項9のいずれかに記載の眠気判定装置と同様の作用,効果を得ることができる。
[実施例1]
(1.1)全体構成
実施例1における居眠り防止システム1は、車両2に搭載されて用いられるものであり、図1に示すように、運転者3の顔画像を撮影する撮影装置10と、顔画像に基づいて眠気の度合を判定する眠気判定装置20と、判定された眠気の度合に応じて居眠り運転による事故防止のための動作を行う複数の装置(警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60)と、から構成される。
これらのうち、撮影装置10は、車両2における運転者3の正面方向にて運転者3に向けて配置されており、運転者3の正面の顔画像を撮影するように構成されている。
また、眠気判定装置20は、図2に示すように、制御部21,受信部22,入力部23,記憶部24,出力部25,などを備えている。
この眠気判定装置20の制御部21は、記憶部24に記憶されているプログラムに従って、眠気判定装置20全体を制御する。
また、この制御部21は、撮影装置10により撮影された顔画像を示す画像データを受信部22より受信する毎に、内蔵するメモリ(以降、「内蔵メモリ」という)にその画像データを記憶させる。その後、その画像データに基づいて、後述する覚醒時データ収集処理,居眠り防止警報処理,位置情報検出処理,状態特定処理,眠気ステージ判定処理を行う。そして、眠気ステージ判定処理において、眠気の度合をステージ1〜5の5段階(ステージ1の眠気の度合が最も弱く,ステージ5が最も強い)にて判定する。
入力部23は、後述する覚醒時データ収集処理を開始するための開始ボタン,居眠り防止システム1の全ての処理および動作を終了させる終了ボタンなどを備えている。
記憶部24は、データを記憶する記憶領域として、制御部21を制御するプログラム用の記憶領域、後述する各種データを記憶するための記憶領域などを有している。
出力部25は、制御部21により判定された眠気の度合に応じて、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60に対し、以下に記す居眠り防止の動作をさせる。
上述した装置のうち、警報装置30は、ディスプレイおよびスピーカを備えている。この警報装置30は、制御部21により判定された眠気の度合に応じて、運転者3に居眠り運転の注意を促す表示(例えば、ステージ2と判定された場合は「早めに休憩を取りましょう」、ステージ3またはステージ4と判定された場合は「注意してください」、ステージ5と判定された場合は「運転を中止してください」など)をディスプレイに出力すると共に、上述した表示内容をスピーカにて音声で出力する。
また、首元空調装置40は、運転者3のシートにおけるヘッドレストに配置されており、制御部21によりステージ2〜5のいずれかであると判定されたときに、運転者3の首元に送風する。
また、シートベルト振動装置50は、シートベルトの引き込み機構に備えられている。そして、制御部21によりステージ3〜5であると判定されたときに、シートベルトを振動させる。
また、ブレーキ制御装置60は、ブレーキを自動的に作動させる装置である。そして、制御部21によりステージ4またはステージ5であると判定されたときに、ブレーキを作動させ、車両の走行を強制的に停止させたり、順次減速させたりする。
(1.2)判定原理
本実施例における眠気の度合の判定原理を、図3を用いて説明する。図3(a)〜(e)は、ステージ1〜ステージ5それぞれにおける目の状態を示す。
対象者が眠気を感じて覚醒が低下してくると、覚醒状態(図3におけるステージ1)における目の開度と比較して、目がやや閉じた状態となる(図3におけるステージ2)。
例えば車両を運転している場合など、対象者自身が眠ってしまわないように意識している場合、さらに眠気が強くなると、覚醒低下に対して葛藤して、目を開くために眉を上げる行動をとる(図3におけるステージ3)。
さらに眠気が強くなると、目がかなり閉じることとなり(図3におけるステージ4)、最終的には目が閉じることとなる(図3におけるステージ5)。
そこで、本実施例では、目の開度(図7(b)における(x4,y4)と(x5,y5)との距離に基づく値),眉と目の間の距離(図7(b)における(x3,y3)と(x6,y6)との距離に基づく値)を測定し、その結果を組み合わせることで、眠気の度合を判定する。
(1.3)眠気判定装置20による処理
以下に、実施例1における居眠り防止システム1の眠気判定装置20により実行される各種処理について説明する。
(1.3.1)覚醒時データ収集処理
以下に、制御部21による覚醒時データ収集処理の処理手順を、図4に基づいて説明する。この覚醒時データ収集処理は、入力部23に備えられた開始ボタンを押すことによって開始され、覚醒状態における目の開度および眉と目の間の距離を取得する。
この覚醒時データ収集処理が開始されると、まず、データの初期化を行う(ステップ1、以降ステップをSと記載する)。ここでは、この時点で制御部21の内蔵メモリに記憶されている画像データの削除と、記憶部24に記憶されている各種データの削除と、を行う。
次に、変数iを1に設定する(S2)。
次に、運転者3の目および眉の位置情報を検出する位置情報検出処理を行う(S3)。ここでは、撮影装置10により撮影された顔画像を示す画像データに基づき、目の開度を示す開度情報L1(以降、単に「L1」という),眉上がりの度合を示す眉上がり情報L2(以降、単に「L2」という)を、所定の回数(m回)算出し、記憶部24に記憶する。このとき、記憶部24には、L1,L2がそれぞれm個ずつ記憶されている。
なお、L1は、顔画像における上瞼と下瞼との間の距離に基づく値であり、眠気が強くなると小さくなる値である。また、L2は、顔画像における左目頭および左目尻の中心点と、左眉上端と、の距離(以降、単に「眉目間の距離」という)に基づく値であり、ある一定以上に眠気を感じると、眠気に抵抗しようとする(葛藤状態となり、目を大きく開けようとする)ことで大きくなる。この位置情報検出処理について詳しくは後述する。
次に、S3にて算出されたm個のL1,L2に基づき、その代表値L1a,L2aを算出する(S4)。
ここでは、まず、記憶部24に記憶されたm個のL1,L2をすべて読み出す。そして、すべてのL1による度数分布に基づき、累積相対度数が最小値より5%に該当する値をL1aとして算出する。同様に、すべてのL2による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL2aとして算出する。
そして、このように算出されたL1a,L2aそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL1,L2を削除する。記憶部24には、上述したL1a,L2aの値がそれぞれ複数個記憶できるようになっており、S4にてL1a,L2aの値が算出される毎に、記憶部24に記憶されるそれらの値それぞれの個数は1つずつ増加していくこととなる。
その後、変数iをインクリメント(i=i+1)して(S5)、変数iが所定数n以下ならば(S6:YES)、処理がS3に戻る。一方、変数iが所定数n以下でなければ(S6:NO)、処理がS7に移行する。このとき、記憶部24には、L1a,L2aがそれぞれn個ずつ記憶されている。
次に、後述する状態特定処理で用いられるL1b,L2bを算出する(S7)。
ここでは、S4にて記憶部24に記憶されたn個のL1a,L2aをすべて読み出す。そして、すべてのL1aによって作られる正規分布において、平均値をμ,標準偏差をσとしたときに、μ−2σに該当する値をL1bとして算出する。同様に、すべてのL2aによって作られる正規分布において、μ+2σに該当する値をL2bとして算出する。そして、このように算出したL1b,L2bそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL1a,L2aを削除する。
その後、居眠り防止警報処理を起動し(S8)、本処理を終了する。
(1.3.2)居眠り防止警報処理
以下に、制御部21による居眠り防止警報処理の処理手順を、図5に基づいて説明する。この居眠り防止警報処理は、覚醒時データ収集処理のS8において起動される。
この居眠り防止警報処理が開始されると、まず、変数qを0に設定すると共に、変数tを1に設定する(S21)。
次に、覚醒時データ収集処理のS3と同様に、運転者3の目および眉の位置情報を検出する位置情報検出処理を行う(S22)。ここでは、m個のL1,L2を算出して、この算出したL1,L2それぞれの値を記憶部24に記憶する。この位置情報検出処理について詳しくは後述する。
次に、S22にて算出されたL1,L2に基づき、その代表値L1d,L2dを算出する(S23)。
ここでは、まず、記憶部24に記憶されたm個のL1,L2をすべて読み出す。そして、すべてのL1による度数分布に基づき、累積相対度数が最小値より5%に該当する値をL1dとして算出する。同様に、すべてのL2による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL2dとして算出する。
そして、このように算出されたL1d,L2dそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL1,L2を削除する。
次に、運転者3の目および眉の状態を特定する状態特定処理を行う(S24)。
ここでは、S23において算出されたL1d,L2dと、覚醒時データ収集処理のS7において算出されたL1b,L2bと、後述する眠気ステージ判定処理において算出されるL1rbと、に基づき、目の開度および眉目間の距離の変化を判断する。なお、L1rbは、眠気ステージ判定処理により算出された後にのみ用いられる。この状態特定処理について詳しくは後述する。
次に、運転者3の眠気の度合を判定する眠気ステージ判定処理を行う(S25)。
ここでは、S24において特定された目および眉の状態に基づき、眠気の度合をステージ1〜5(ステージ1の眠気の度合が最も弱く,ステージ5が最も強い)にて判定する。この眠気ステージ判定処理について詳しくは後述する。
次に、S25にて判定された眠気の度合に基づいて、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60に動作を行わせる信号を出力部25より出力する(S26)。ここでは、S25においてステージ1と判定された場合には、上述したいずれの装置にも動作を行わせない。ステージ2と判定された場合には、警報装置30および首元空調装置40に動作を行わせる。ステージ3と判定された場合には、警報装置30,首元空調装置40,および,シートベルト振動装置50に動作を行わせる。ステージ4またはステージ5と判定された場合には、それら全ての装置に動作を行わせる。このS26の後、処理がS22に戻る。
この居眠り防止警報処理は、入力部23の終了ボタンが押されるか、車両2におけるエンジン等の動力部が停止して車両全体の制御が終了するまで継続する。
(1.3.3)位置情報検出処理
以下に、制御部21による位置情報検出処理の処理手順を、図6に基づいて説明する。この位置情報検出処理は、覚醒時データ収集処理におけるS3,居眠り防止警報処理におけるS22に該当する。
この位置情報検出処理では、まず、変数jを1に設定する(S41)。
次に、撮影装置10により撮影された顔画像を示す画像データに基づき、この画像データに示される顔画像における目および眉の位置を示す位置情報を検出する(S42)。ここでは、まず、撮影装置10により運転者3の顔画像を撮影する。その顔画像を示す画像データに基づき、図7(a)に示すように、画像データを黒色部分と白色部分とに分ける2値化処理を行う。具体的には、例えば、特願平03−220633号に記載されている技術を用いるとよい。
次に、図7(b)に示すように、上記画像データに示される画像をx−y平面で表した場合の(x,y)座標として、左目頭(x1,y1),左目尻(x2,y2),左上瞼上端(x4,y4),左下瞼下端(x5,y5),左眉上端(x6,y6),右目頭(x7,y7)の各位置を検出する。具体的には、例えば、特願平08−101904号に記載されている技術を応用するとよい。また、左目頭と左目尻との中点(x3,y3)が、x3=(x1+x2)/2,y3=(y1+y2)/2として算出される。
次に、S42による検出結果に基づいて、目の開度を示す開度情報L1,および,眉上がりの度合を示す眉上がり情報L2を、後述する計算式にて算出し、記憶部24に記憶する(S43)。
上述した各情報のうち、L1は、顔画像における上瞼と下瞼との間の距離に基づく値であり、次に示す式で計算される。
L1=[(x4−x52+(y4−y52]0.5/[(x1−x72+(y1−y72]0.5
上式のうち、『[(x4−x52+(y4−y52]0.5』は、顔画像における上瞼と下瞼との間の距離を表す。
また、『[(x1−x72+(y1−y72]0.5』は、左右の目頭間の距離を表す。通常、左右の目頭間は、表情の変化に伴う距離の変化が小さい。そこで、上瞼と下瞼との間の距離を左右の目頭間の距離で割ることで、左右の目頭間の距離を基準とした相対的な値を得ることができる。これにより、撮影装置10と運転者3の頭部との距離が変化することによって、顔画像における上瞼と下瞼との間の距離が変化してしまう、という問題を解消することができる。なお、後述するL2においても、同様の理由で左右の目頭間の距離を基準とした値が算出される。
また、L2は、顔画像における眉目間の距離に基づく値であり、次に示す式で計算される。
L2=[(x6−x32+(y6−y32]0.5/[(x1−x72+(y1−y72]0.5
上式のうち、『[(x6−x32+(y6−y32]0.5』は、左目頭および左目尻の中心点と、左眉上端と、の間の距離を表す。
そして、このように算出したL1,L2それぞれの値を記憶部24に記憶する。記憶部24には、L1,L2の値がそれぞれ複数個記憶できるようになっており、S43にてL1,L2の値が算出される毎に、記憶部24に記憶されるそれらの値それぞれの個数は1つずつ増加していくこととなる。
このS43の後、変数jをインクリメント(j=j+1)して(S44)、変数jが所定数m以下ならば(S45:YES)、処理がS42に戻る。一方、変数jが所定数m以下でなければ(S45:NO)、本処理が終了する。このとき、記憶部24には、L1,L2がそれぞれm個ずつ記憶されている。
(1.3.4)状態特定処理
以下に、制御部21による状態特定処理の処理手順を、図8に基づいて説明する。この状態特定処理は、居眠り防止警報処理のS24に該当する。
この眠気判定処理が開始されると、まず、変数L1f,L2fを0に設定する(S61)。
次に、運転者3の目が閉じているか否かを判定する(S62)。ここでは、覚醒時データ収集処理のS7において算出されたL1bの値と、居眠り防止警報処理のS23において算出されたL1dの値と、を比較し、L1dの値が、閉眼の検出しきい値である所定値(本実施例においてはL1bの値の1/3)以下であれば(S62:YES)、つまり、覚醒状態の1/3以下にまで目が閉じていれば、目が閉じているものとして、変数L1fを3に設定し(S63)、処理がS69へ移行する。
一方、L1dの値が上述した値以下でなければ(S62:NO)、処理がS64へ移行する。このとき、変数qが1であれば(S64:YES)、処理がS65へ移行する。また、変数qが1でなければ(S64:NO)、処理がS67へ移行する。
上述したS64の条件を満たす場合は、眠気があると検出された以降に、更に目の開度が小さくなっているか否かを判定する(S65)。ここでは、居眠り防止警報処理のS23において算出されたL1dの値と、後述する眠気ステージ判定処理のS90において算出されるL1rbと、を比較する。このL1rbは、眠気ステージ判定処理において眠気がある(ステージ2)と判定された直後に検出された目の開度に基づく値である。L1dがL1rb以下であれば(S65:YES)、つまり、運転者3の目が、眠気があると判定された直後よりさらに閉じていれば、変数L1fを2に設定し(S66)、処理がS69へ移行する。
また、L1dがL1rb以下でなければ(S65:NO)、覚醒状態と比較して目の開度が小さくなっているか否かを判定する(S67)。ここでは、L1bの値と、L1dの値と、を比較して、L1dがL1b以下であれば(S67:YES)、つまり、運転者3の目が、覚醒状態と比較して閉じていれば、変数L1fを1に設定し(S68)、処理がS69へ移行する。一方、L1dがL1b以下でなければ(S67:NO)、変数L1fを変更することなく、処理がS69へ移行する。
次に、覚醒時データ収集処理のS7において算出されたL2bの値と、居眠り防止警報処理のS23において算出されたL2dの値と、を比較する(S69)。
このとき、L2dの値がL2bの値以上であれば(S69:YES)、つまり、覚醒状態と比較して眉目間の距離が大きくなっていれば、変数L2fを1に設定し(S70)、本処理が終了する。一方、L2dの値がL2bの値以上でなければ(S69:NO)、変数L2fを変更することなく、本処理が終了する。
(1.3.5)眠気ステージ判定処理
以下に、制御部21による眠気ステージ判定処理の処理手順を、図9に基づいて説明する。この眠気ステージ判定処理は、居眠り防止警報処理のS25に該当する。
この眠気ステージ判定処理が開始されると、まず、変数L1fが0か否かを判定する(S81)。このとき、L1fが0であれば(S81:YES)、つまり、眠気に基づくいずれの状態変化も検出されていなければ、眠気の度合をステージ1と判定し(S82)、続いて変数qを0に設定して(S83)、処理がS97に移行する。
一方、L1fが0でなければ(S81:NO)、変数L1fが1であり、かつ、変数L2fが0であるか否かを判定する(S84)。上記の条件を満たす場合は(S84:YES)、つまり、目が覚醒状態と比べて閉じており、かつ、眉が覚醒状態と比べて上がっていない場合は、眠気の度合をステージ2と判定し(S85)、処理がS86へ移行する。また、上記の条件を満たさなければ(S84:NO)、処理がS92へ移行する。
上述したS85にて眠気の度合が判定されると、次に、変数qが0か否かが判定される(S86)。変数qが0でなければ(S86:NO)、処理がS97へ移行する。変数qが0であれば(S86:YES)、変数tをインクリメント(t=t+1)して(S87)、続いてL1dをL1rとして記憶部24に記憶する(S88)。記憶部24には、L1rの値が複数個記憶できるようになっており、S88の処理を行う毎に、記憶部24に記憶されるL1r個数は1つずつ増加していくこととなる。
次に、変数tが所定数n以下であるか否かを判定する(S89)。変数tが所定数n以下ならば(S89:YES)、処理がS97へ移行する。
一方、変数tが所定数n以下でなければ(S89:NO)、つまり、L1rがn個以上記憶されていれば、上述した状態特定処理のS65にて用いられるL1rbを算出する(S90)。
ここでは、S88にて記憶部24に記憶されたn個のL1rをすべて読み出す。そして、すべてのL1rによって作られる正規分布において、平均値をμ,標準偏差をσとしたときに、μ−2σに該当する値をL1rbとして算出する。そして、このように算出したL1rbの値を記憶部24に記憶し、記憶部24に記憶されていたL1rを削除する。
次に、変数qおよびtを1に設定する(S91)。その後、処理がS97に移行する。
また、上述したS84において条件を満たさなかった場合は、続いて、変数L1fが1であり、かつ、変数L2fが1であるか否かを判定する(S92)。上記の条件を満たす場合は(S92:YES)、つまり、目が覚醒状態より閉じており、かつ、眉が上がっている場合は、眠気の度合をステージ3と判定し(S93)、処理がS97へ移行する。
一方、上記の条件を満たさなければ(S92:NO)、変数L1fが2であるか否かを判定する(S94)。L1fが2であれば(S94:YES)、つまり、目が覚醒状態より閉じていると判定されたときより更に閉じていれば、眠気の度合をステージ4と判定し(S95)、処理がS97へ移行する。また、L1fが2でなければ(S94:NO)、つまり、L1fが3であって、目が閉じていれば、眠気の度合をステージ5と判定し(S96)、処理がS97へ移行する。
そして、記憶部24からL1dおよびL2dを削除し(S97)、本処理を終了する。
(1.4)効果
このように構成された実施例1における眠気判定装置20であれば、覚醒低下の兆候を検出することにより運転者3の眠気の有無を判定できると共に、覚醒低下の兆候と葛藤の兆候との検出結果の組み合わせにより眠気の度合の強弱を判定することができる。
覚醒低下の兆候の検出結果のみに基づいて、眠気の度合を複数の段階に分けて判定しようとする場合には、検出結果に示される覚醒低下の兆候の度合を、目的とする段階数に応じて複数のしきい値で細分化した段階に分類する必要がある。しかし、覚醒低下の兆候の検出誤差や、眠気の亢進に対する覚醒低下の兆候が現れる度合には個人差があることなどから、上述した段階数が多くなるほど、上述した検出結果を正確に分類することが困難になり、その検出結果の分類の精度は低くなる。
しかし、このように複数の兆候の検出結果を組み合わせて眠気の度合を判定する場合、それらの兆候の検出結果それぞれを、目的とする段階数まで細分化して分類する必要がない。そのため、それぞれの検出結果ごとに分類すべき段階数が減少することで、それぞれの検出結果ごとの分類が容易かつ確実なものとなる。その結果、それらを組み合わせることで、高精度な眠気の度合の判定が可能となる。
また、上述した眠気判定装置20であれば、目の開度および眉と目の間の距離に基づき、それらの組み合わせにより眠気の度合を判定できる。本実施例では、目の開度に3つのしきい値を設けており、さらに眉と目の距離に1つのしきい値を設けているため、それらを組み合わせることにより、ステージ1からステージ5の5段階で眠気の度合を判定することができる。
また、上述した眠気判定装置20であれば、撮影装置10により撮影された顔画像を示す画像データに基づいて、眠気の度合を判定することができる。よって、瞼の動き,眉の動きを検出するための装置などを、眠気の度合を判定する対象者に直接取り付けることなく、簡便に眠気の度合を判定することができる。
また、上述したように構成された居眠り防止システム1は、車両2に搭載して用いることができるので、車両2の運転者3を対象として眠気の度合を判定することができる。
また、上述した居眠り防止システム1においては、眠気判定装置20が警報装置30と連携しており、眠気の度合の判定結果に応じた画面表示および音声出力を行う。また、眠気の度合の判定結果に応じて、首元空調装置40,シートベルト振動装置50,ブレーキ制御装置60が動作する。そのため、運転者3に対して眠気の度合に応じた適切な居眠り防止対応を行うことができ、居眠り運転による事故を未然に防止できる。
(1.5)対応関係
以上説明した実施形態において、撮影装置10が本発明における撮影手段である。また、図5のS23,図6のS43,図8のS62,S63,S65,S66,S67,S68が本発明における覚醒低下検出手段であり、図5のS23,図6のS43,図8のS69,S70が本発明における葛藤検出手段であり、図9のS81,S82,S84,S85,S92,S93,S94,S95,S96が本発明における眠気判定手段であり、図6におけるS42が本発明における位置情報検出手段である。
[実施例2]
(2.1)全体構成
実施例2における居眠り防止システム1は、基本的に実施例1と同じ構成であり、実施例1と同様の判定原理にて判定を行う。しかしながら、制御部21による処理が一部変更されているため、変更された処理を以下に示す。
(2.2)眠気判定装置20による処理
以下に、実施例2における居眠り防止システムの眠気判定装置20により実行される各種処理について説明する。この実施例2は、上述した実施例1と比べて、眠気に基づく状態変化の特定方法が異なる。また、位置情報検出処理は、実施例1と同様の処理を行う。
(2.2.1)覚醒時データ収集処理
以下に、制御部21による覚醒時データ収集処理の処理手順を、図10に基づいて説明する。
この覚醒時データ収集処理において、S101〜S106の処理は、実施例1の覚醒時データ収集処理におけるS1〜S6と同様の処理である。S106にて変数iが所定数n以下でなければ(S106:NO)、実施例1の覚醒時データ収集処理のS7に該当する処理を行うことなく、居眠り防止警報処理を開始し(S107)、本処理を終了する。
なお、実施例1においては、覚醒時データ収集処理が終了した時点で、記憶部24にはL1b,L2bが記憶されていたが、本実施例2においては、この時点で、記憶部24にL1a,L2aがそれぞれn個ずつ記憶されているという点で異なる。
(2.2.2)居眠り防止警報処理
以下に、制御部21による居眠り防止警報処理の処理手順を、図11に基づいて説明する。この居眠り防止警報処理は、覚醒時データ収集処理のS107にて起動される。
この居眠り防止警報処理が開始されると、まず、変数qを0に設定する(S121)。
次に、変数kを1に設定する(S122)。
次に、上述した位置情報検出処理を行い、m個のL1,L2を算出する(S123)。
次に、S123にて算出されたm個のL1,L2に基づき、その代表値L1d,L2dを算出する(S124)。ここでは、居眠り防止警報処理のS23と同様の処理を行って代表値を算出する。そして、このように算出したL1d,L2dの値を記憶部24に記憶する。記憶部24には、上述した値がそれぞれ複数個記憶できるようになっており、S124にて上述した値を算出する毎に、記憶部24に記憶されるそれぞれの値の個数は1つずつ増加していくこととなる。
その後、変数kをインクリメント(k=k+1)して(S125)、変数kが所定数n以下ならば(S126:YES)、処理がS123に戻る。一方、変数kが所定数n以下でなければ(S126:NO)、処理がS127へ移行する。このとき、記憶部24には、L1d,L2dがそれぞれn個ずつ記憶されている。
次に、運転者3の目および眉の状態を特定する状態特定処理を行う(S127)。
ここでは、S124において算出されたL1d,L2dと、覚醒時データ収集処理のS104において算出されたL1a,L2aと、後述する眠気ステージ判定処理において算出されるL1rと、に基づき、目の開度および眉目間の距離の変化を判断する。なお、L1rは、眠気ステージ判定処理により算出された後にのみ用いられる。この状態特定処理について、詳しくは後述する。
次に、運転者3の眠気の度合を判定する眠気ステージ判定処理を行う(S128)。
ここでは、S127において特定された目および眉の状態に基づき、眠気の度合をステージ1〜5(ステージ1の眠気の度合が最も弱く,ステージ5が最も強い)にて判定する。この眠気ステージ判定処理について詳しくは後述する。
次に、S128にて判定された眠気の度合に基づいて、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60に動作を行わせる信号を出力部25より出力する(S129)。ここでは、実施例1の居眠り防止警報処理におけるS26と同様の処理を行う。その後、処理がS122に戻る。
この居眠り防止警報処理は、入力部23の終了ボタンが押されるか、車両2におけるエンジン等の動力部が停止して車両全体の制御が終了するまで継続する。
(2.2.3)状態特定処理
以下に、制御部21による状態特定処理の処理手順を、図12に基づいて説明する。この状態特定処理は、居眠り防止警報処理のS127に該当する。
この状態特定処理が開始されると、まず、変数L1f,L2fを0に設定する(S161)。
次に、運転者3の目が閉じているか否かを判定する(S162)。ここでは、覚醒時データ収集処理のS104において算出されたL1aの平均値と、居眠り防止警報処理のS124において算出されたL1dの平均値と、を比較し、L1dの平均値が、閉眼の検出しきい値である所定値(本実施例においては、L1aの平均値の1/3)以下であれば(S162:YES)、つまり、覚醒状態の1/3以下にまで目が閉じていれば、目が閉じているものとして、変数L1fを3に設定し(S163)、処理がS169へ移行する。
一方、L1dの平均値が上述した値以下でなければ(S162:NO)、処理がS164へ移行する。このとき、変数qが1であれば(S164:YES)、処理がS165へ移行する。また、変数qが1でなければ(S164:NO)、処理がS167へ移行する。
上述したS164の条件を満たす場合は、眠気があると検出された以降に目の開度が小さくなっているか否かを判定する(S165)。ここでは、居眠り防止警報処理のS124において算出されたL1dの値n個と、後述する眠気ステージ判定処理のS187において記憶されるL1rの値n個と、に基づいて、対応のあるt検定を行う。本処理において、対応のあるt検定の有意水準は5%とする。
このとき、L1dの平均値がL1rの平均値に対して有意に小さければ(S165:YES)、つまり、運転者3の目が、眠気があると判定された直後よりさらに閉じていれば、変数L1fを2に設定し(S166)、処理がS169へ移行する。
一方、L1dの平均値がL1rの平均値に対して有意に小さくなければ(S165:NO)、覚醒状態と比較して目の開度が小さくなっているか否かを判定する(S167)。ここでは、覚醒時データ収集処理のS104において算出されたL1aの値n個と、居眠り防止警報処理のS124において算出されたL1dの値n個と、に基づいて、対応のあるt検定を行う(S167)。
このとき、L1dの平均値がL1aの平均値に対して有意に小さければ(S167:YES)、つまり、運転者3の目が、覚醒状態と比較して閉じていれば、変数L1fを1に設定し(S166)、処理がS169へ移行する。一方、L1dの平均値がL1aの平均値に対して有意に小さくなければ(S167:NO)、変数L1fを変更することなく、処理がS69へ移行する。
次に、覚醒時データ収集処理のS104において算出されたL2aの値n個と、居眠り防止警報処理のS124において算出されたL2dの値n個と、に基づいて、対応のあるt検定を行う(S169)。
このとき、L2dの平均値がL2aの平均値に対して有意に大きければ(S169:YES)、つまり、覚醒状態と比較して眉目間の距離が大きくなっていれば、変数L2fを1に設定し(S170)、本処理が終了する。一方、L2dの平均値がL2aの平均値に対して有意に大きくなければ(S169:NO)、変数L1fを変更することなく、本処理が終了する。
(2.2.4)眠気ステージ判定処理
以下に、制御部21による眠気ステージ判定処理の処理手順を、図13に基づいて説明する。この眠気ステージ判定処理は、居眠り防止警報処理のS128に該当する。
この眠気ステージ判定処理が開始されると、まず、変数L1fが0か否かを判定する(S181)。このとき、L1fが0であれば(S181:YES)、つまり、眠気に基づくいずれの状態変化も検出されていなければ、眠気の度合をステージ1と判定し(S182)、続いて変数qを0に設定して(S183)、処理がS197に移行する。
一方、L1fが0でなければ(S181:NO)、変数L1fが1であり、かつ、変数L2fが0であるか否かを判定する(S184)。上記の条件を満たす場合は(S184:YES)、つまり、目が覚醒状態と比べて閉じている場合は、眠気の度合をステージ2と判定し(S185)、処理がS186へ移行する。また、上記の条件を満たさなければ(S184:NO)、処理がS189へ移行する。
上述したS185にて眠気の度合が判定されると、次に、変数qが0か否かが判定される(S186)。変数qが0でなければ(S186:NO)、処理がS194へ移行する。変数qが0であれば(S186:YES)、L1dをL1rとして記憶部24に記憶する(S187)。このとき、記憶部24には、L1dの値がn個記憶されており、その全てがn個のL1rとして記憶される。
次に、変数qを1に設定する(S188)。その後、処理がS194に移行する。
また、上述したS184において条件を満たさなかった場合は、続いて、変数L1fが1であり、かつ、変数L2fが1であるか否かを判定する(S189)。上記の条件を満たす場合は(S189:YES)、つまり、目が覚醒状態より閉じており、かつ、眉が上がっている場合は、眠気の度合をステージ3と判定し(S190)、処理がS194へ移行する。
一方、上記の条件を満たさなければ(S189:NO)、変数L1fが2であるか否かを判定する(S191)。L1fが2であれば(S191:YES)、つまり、目が覚醒状態より閉じていると判定されたときより更に閉じていれば、眠気の度合をステージ4と判定し(S192)、処理がS194へ移行する。また、L1fが2でなければ(S191:NO)、つまり、L1fが3であって、目が閉じていれば、眠気の度合をステージ5と判定し(S193)、処理がS194へ移行する。
そして、記憶部24からL1dおよびL2dを削除し(S194)、本処理を終了する。
(2.3)効果
実施例2に記載の眠気判定装置20および居眠り防止システム1においても、実施例1と同様の効果を得ることができる。さらに本実施例においては、状態特定処理において、目および眉の状態変化の判断(S165,S167,S169)を対応のあるt検定にて行っているため、その判定結果がより信頼性の高いものとなっており、上述した実施例1と比べて誤判定を少なくすることができる。
(2.4)対応関係
以上説明した実施形態において、撮影装置10が本発明における撮影手段である。また、図6のS43,図11のS124,図12のS162,S163,S165,S166,S167,S168が本発明における覚醒低下検出手段であり、図6のS43,図11のS124,図12のS169,S170が本発明における葛藤検出手段であり、図13のS181,S182,S184,S185,S189,S190,S191,S192,S193が本発明における眠気判定手段であり、図6におけるS42が本発明における位置情報検出手段である。
[実施例3]
(3.1)全体構成
実施例3における居眠り防止システム100は、実施例1とは異なり、撮影装置10の替わりに、図14に示すように、ステアリングに備えられたステアリング心電センサ70と、シートに備えられたシート内蔵心電センサ80と、を備えている。
ステアリング心電センサ70およびシート内蔵心電センサ80は、運転者3の心電図波形信号を検出し、各センサそれぞれに備えられた生体アンプ72,82を介して眠気判定装置20にその信号を送信する。
また、眠気判定装置20は、実施例1と同様に、図2に示すように、制御部21,受信部22,入力部23,記憶部24,出力部25,などを備えている。このうち、受信部22は、実施例1とは異なり、撮影装置10に替えて、ステアリング心電センサ70およびシート内蔵心電センサ80から生体アンプ72,82を介して心電図波形信号を受信する。
眠気判定装置20の制御部21は、上記各心電センサにより検出された心電図波形信号を受信部22より受信する毎に、内蔵するメモリ(以降、「内蔵メモリ」という)にその信号情報を記憶させる。その後、その信号情報に基づいて、後述する覚醒時データ収集処理,居眠り防止警報処理,神経情報取得処理,状態特定処理,眠気ステージ判定処理を行う。そして、眠気ステージ判定処理において、眠気の度合をステージ1〜4の4段階(ステージ1の眠気の度合が最も弱く,ステージ4が最も強い)にて判定する。
また、出力部25は、制御部21により判定された眠気の度合に応じて、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60に対し、以下に記す居眠り防止の動作をさせる。
上述した装置のうち、警報装置30は、制御部21により判定された眠気の度合に応じて、運転者3に居眠り運転の注意を促す表示(例えば、ステージ2と判定された場合は「早めに休憩を取りましょう」、ステージ3と判定された場合は「注意してください」、ステージ4と判定された場合は「運転を中止してください」など)をディスプレイに出力すると共に、上述した表示内容をスピーカにて音声で出力する。
また、首元空調装置40は、ステージ2〜4のいずれかであると判定されたときに、運転者3の首元に送風する。
また、シートベルト振動装置50は、制御部21によりステージ3〜4であると判定されたときに、シートベルトを振動させる。
また、ブレーキ制御装置60は、制御部21によりステージ4であると判定されたときに、ブレーキを作動させ、車両の走行を強制的に停止させたり、順次減速させたりする。
(3.2)判定原理
本実施例における眠気の度合の判定原理を説明する。
本実施例では、自律神経に基づいて眠気の度合を判定する。自律神経には、起きているとき,緊張しているときの神経である交感神経と、寝ているとき,リラックスしているときの神経である副交感神経がある。眠気が強くなると副交感神経系の活動が活発になり、眠気に対して葛藤する動作をすると交感神経系の活動が活発になる。
そのため、交感神経,副交感神経それぞれの活動を測定し、その変化を観測することで、対象者の眠気の度合を判定することができる。
具体的には、運転者3の心電図波形信号を測定し、瞬時心拍数HRを算出する(図15(a)参照)。さらにその情報をFFT解析してHF(High Frequency domain),および,LF(Low Frequency domain)を求める(図15(b)参照)。
ここで、交感神経活動指標はLF/HFで示すことができ、副交感神経活動指標はHFで示すことができる。そこで、眠気の兆候を示す値L3(以降、単に「L3」という)をL3=HFとし、葛藤の兆候を示す値L4(以降、単に「L4」という)をL4=LF/HFとして求め、そのL3,L4の値に基づいて眠気の度合を求める。
具体的には、覚醒状態(ステージ1)におけるL3,L4の値を通常値として規定する。対象者が眠気を感じて覚醒が低下してくると、副交感神経の活動が活発になったと判定され、L3の値が大きくなる(ステージ2の状態)。
ここで、例えば車両を運転している場合など、対象者自身が眠ってしまわないように意識している場合、さらに眠気が強くなると、覚醒低下に対して葛藤する状態となり、交感神経の活動が活発になったと判定され、L4の値が大きくなる(ステージ3の状態)。
さらに眠気が強くなると、L3の値はさらに大きくなる(ステージ4の状態)。
このように、本実施例では、交感神経と副交感神経の両方を測定し、その結果を組み合わせることで、眠気の度合を判定する。
(3.3)眠気判定装置20による処理
以下に、実施例3における居眠り防止システム100の眠気判定装置20により実行される各種処理について説明する。
(3.3.1)覚醒時データ収集処理
以下に、制御部21による覚醒時データ収集処理の処理手順を、図16に基づいて説明する。この覚醒時データ収集処理は、入力部23に備えられた開始ボタンを押すことによって開始される。
この覚醒時データ収集処理が開始されると、まず、データの初期化を行う(S201)。ここでは、この時点で制御部21の内蔵メモリに記憶されている信号情報の削除と、記憶部24に記憶されている各種データの削除と、を行う。
次に、変数iを1に設定する(S202)。
次に、運転者3の交感神経,副交感神経それぞれの活動を測定する神経情報取得処理を行う(S203)。ここでは、ステアリング心電センサ70またはシート内蔵心電センサ80のいずれかにより検出された心電図波形信号に基づき、L3およびL4を所定の回数(m回)算出し、記憶部24に記憶する。このとき、記憶部24には、L3,L4がそれぞれm個ずつ記憶されている。この神経情報取得処理について詳しくは後述する。
次に、S203にて算出されたm個のL3,L4に基づき、その代表値L3a,L4aを算出する(S204)。
ここでは、まず、記憶部24に記憶されたm個のL3,L4をすべて読み出す。そして、すべてのL3による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL3aとして算出する。同様に、すべてのL4による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL4aとして算出する。
そして、このように算出されたL3a,L4aそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL3,L4を削除する。記憶部24には、上述したL3a,L4aの値がそれぞれ複数個記憶できるようになっており、S204にてL3a,L4aの値が算出される毎に、記憶部24に記憶されるそれらの値それぞれの個数は1つずつ増加していくこととなる。
その後、変数iをインクリメント(i=i+1)して(S205)、変数iが所定数n以下ならば(S206:YES)、処理がS203に戻る。一方、変数iが所定数n以下でなければ(S206:NO)、処理がS207に移行する。このとき、記憶部24には、L3a,L4aがそれぞれn個ずつ記憶されている。
次に、後述する状態特定処理で用いられるL3b,L4bを算出する(S207)。
ここでは、S204にて記憶部24に記憶されたn個のL3a,L4aをすべて読み出す。そして、すべてのL3aによって作られる正規分布において、平均値をμ,標準偏差をσとしたときに、μ+2σに該当する値をL3bとして算出する。同様に、すべてのL4aによって作られる正規分布において、μ+2σに該当する値をL4bとして算出する。そして、このように算出したL3b,L4bそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL3a,L4aを削除する。
その後、居眠り防止警報処理を起動し(S208)、本処理を終了する。
(3.3.2)居眠り防止警報処理
以下に、制御部21による居眠り防止警報処理の処理手順を、図17に基づいて説明する。この居眠り防止警報処理は、覚醒時データ収集処理のS208において起動される。
この居眠り防止警報処理が開始されると、まず、変数qを0に設定すると共に、変数tを1に設定する(S221)。
次に、覚醒時データ収集処理のS203と同様に、運転者3の交感神経,副交感神経それぞれの活動を測定する神経情報取得処理を行う(S222)。ここでは、m個のL3,L4を算出して、この算出したL3,L4それぞれの値を記憶部24に記憶する。この神経情報取得処理について詳しくは後述する。
次に、S222にて算出されたL3,L4に基づき、その代表値L3d,L4dを算出する(S223)。
ここでは、記憶部24に記憶されたm個のL3,L4をすべて読み出す。そして、すべてのL3による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL3dとして算出する。同様に、すべてのL4による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL4dとして算出する。
そして、このように算出されたL3d,L4dそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL3,L4を削除する。
次に、運転者3の交感神経および副交感神経の状態を特定する状態特定処理を行う(S224)。
ここでは、S223において算出されたL3d,L4dと、覚醒時データ収集処理のS207において算出されたL3b,L4bと、後述する眠気ステージ判定処理において算出されるL3rbと、に基づき、交感神経および副交感神経の状態を特定する。なお、L3rbは、眠気ステージ判定処理により算出された後にのみ用いられる。この状態特定処理について詳しくは後述する。
次に、運転者3の眠気の度合を判定する眠気ステージ判定処理を行う(S225)。 ここでは、S224において特定された交感神経および副交感神経の状態に基づき、眠気の度合をステージ1〜4(ステージ1の眠気の度合が最も弱く,ステージ4が最も強い)にて判定する。この眠気ステージ判定処理について詳しくは後述する。
次に、S225にて判定された眠気の度合に基づいて、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60に動作を行わせる信号を出力部25より出力する(S226)。ここでは、S225においてステージ1と判定された場合には、上述したいずれの装置にも動作を行わせない。ステージ2と判定された場合には、警報装置30および首元空調装置40に動作を行わせる。ステージ3と判定された場合には、警報装置30,首元空調装置40,および,シートベルト振動装置50に動作を行わせる。ステージ4と判定された場合には、それら全ての装置に動作を行わせる。このS226の後、処理がS222に戻る。
この居眠り防止警報処理は、入力部23の終了ボタンが押されるか、車両2におけるエンジン等の動力部が停止して車両全体の制御が終了するまで継続する。
(3.3.3)神経情報取得処理
以下に、制御部21による神経情報取得処理の処理手順を、図18に基づいて説明する。この神経情報取得処理は、覚醒時データ収集処理におけるS203,居眠り防止警報処理におけるS222に該当する。
この神経情報取得処理では、まず、変数jを1に設定する(S241)。
次に、ステアリング心電センサ70またはシート内蔵心電センサ80により、運転者3の心電図波形信号を検出する(S242)。ここでは、図15(a)に示すような心電図波形が検出される。
次に、S242による検出結果に基づいて、眠気の兆候を示す値L3,および,葛藤の兆候を示す値L4を算出し、記憶部24に記憶する(S243)。ここでは、心電図波形をFFT解析することで(図15(b)参照)、LFおよびHFを求め、L3=HF,L4=LF/HFとしてL3およびL4の値を算出する。
そして、このように算出したL3,L4それぞれの値を記憶部24に記憶する。記憶部24には、L3,L4の値がそれぞれ複数個記憶できるようになっており、S243にてL1,L2の値が算出される毎に、記憶部24に記憶されるそれらの値それぞれの個数は1つずつ増加していくこととなる。
このS243の後、変数jをインクリメント(j=j+1)して(S244)、変数jが所定数m以下ならば(S245:YES)、処理がS242に戻る。一方、変数jが所定数m以下でなければ(S245:NO)、本処理が終了する。このとき、記憶部24には、L3,L4がそれぞれm個ずつ記憶されている。
(3.3.4)状態特定処理
以下に、制御部21による状態特定処理の処理手順を、図19に基づいて説明する。この状態特定処理は、居眠り防止警報処理のS224に該当する。
この状態特定処理が開始されると、まず、変数L3f,L4fを0に設定する(S261)。
次に、変数qが1であるか否かを判定する(S262)。このとき、変数qが1であれば(S262:YES)、処理がS263へ移行する。また、変数qが1でなければ(S262:NO)、処理がS265へ移行する。
上述したS262の条件を満たす場合は、眠気の兆候が大きくなっているか否かを判定する(S263)。ここでは、居眠り防止警報処理のS223において算出されたL3dの値と、後述する眠気ステージ判定処理のS290において算出されるL3rbの値と、を比較する。このL3rbは、眠気ステージ判定処理において眠気がある(ステージ2)と判定された直後に検出された眠気の兆候に基づく基準値である。L3dの値がL3rbの値より大きければ(S263:YES)、つまり、運転者3の眠気の兆候が、最初に眠気の兆候があると判定されたときと比較して大きくなっていれば、変数L3fを2に設定し(S264)、処理がS267へ移行する。
また、L3dの値がL3rbの値より大きくなければ(S263:NO)、覚醒状態と比較して眠気の兆候が大きくなっているか否かを判定する(S265)。ここでは、覚醒時データ収集処理のS207において算出されたL3bの値と、居眠り防止警報処理のS223において算出されたL3dの値と、を比較して、L3dの値がL3bの値より大きければ(S265:YES)、つまり、運転者3の眠気の兆候が、覚醒状態と比較して大きくなっていれば、変数L1fを1に設定し(S266)、処理がS267へ移行する。一方、L3dの値がL3bの値より大きくなければ(S265:NO)、変数L3fを変更することなく、処理がS267へ移行する。
次に、覚醒時データ収集処理のS207において算出されたL4bの値と、居眠り防止警報処理のS223において算出されたL4dの値と、を比較する(S267)。
このとき、L4dの値がL4bの値より大きければ(S267:YES)、つまり、覚醒状態と比較して葛藤の兆候が大きくなっていれば、変数L4fを1に設定し(S268)、本処理が終了する。一方、L4dの値がL4bの値より大きくなければ(S267:NO)、変数L4fを変更することなく、本処理が終了する。
(3.3.5)眠気ステージ判定処理
以下に、制御部21による眠気ステージ判定処理の処理手順を、図20に基づいて説明する。この眠気ステージ判定処理は、居眠り防止警報処理のS225に該当する。
この眠気ステージ判定処理が開始されると、まず、変数L3fが0か否かを判定する(S281)。このとき、L3fが0であれば(S281:YES)、つまり、眠気の兆候の変化が検出されていなければ、眠気の度合をステージ1と判定し(S282)、続いて変数qを0に設定して(S283)、処理がS295に移行する。
一方、L3fが0でなければ(S281:NO)、変数L3fが1であり、かつ、変数L4fが0であるか否かを判定する(S284)。上記の条件を満たす場合は(S284:YES)、つまり、覚醒状態と比べて眠気の兆候が大きくなっている場合は、眠気の度合をステージ2と判定し(S285)、処理がS286へ移行する。また、上記の条件を満たさなければ(S284:NO)、処理がS292へ移行する。
上述したS285にて眠気の度合が判定されると、次に、変数qが0か否かが判定される(S286)。変数qが0でなければ(S286:NO)、処理がS295へ移行する。変数qが0であれば(S286:YES)、変数tをインクリメント(t=t+1)して(S287)、続いてL3dをL3rとして記憶部24に記憶する(S288)。記憶部24には、L3rの値が複数個記憶できるようになっており、S288の処理を行う毎に、記憶部24に記憶されるL3r個数は1つずつ増加していくこととなる。
次に、変数tが所定数n以下であるか否かを判定する(S289)。変数tが所定数n以下であれば(S289:YES)、処理がS295へ移行する。
一方、変数tが所定数n以下でなければ(S289:NO)、つまり、L3rがn個以上記憶されていれば、上述した状態特定処理のS264にて用いられるL3rbを算出する(S290)。
ここでは、S288にて記憶部24に記憶されたn個のL3rをすべて読み出す。そして、すべてのL3rによって作られる正規分布において、平均値をμ,標準偏差をσとしたときに、μ+2σに該当する値をL3rbとして算出する。そして、このように算出したL3rbの値を記憶部24に記憶し、記憶部24に記憶されていたL3rを削除する。
次に、変数qおよびtを1に設定する(S291)。その後、処理がS295に移行する。
また、上述したS284において条件を満たさなかった場合は、変数L3fが1であり、かつ、変数L4fが1であるか否かを判定する(S292)。上記の条件を満たす場合は(S292:YES)、つまり、覚醒状態より眠気の兆候が大きくなっており、かつ、葛藤の兆候が大きくなっている場合は、眠気の度合をステージ3と判定し(S293)、処理がS295へ移行する。
一方、上記の条件を満たさなければ(S292:NO)、つまり、L3fが2であって、運転者3の眠気の兆候が、最初に眠気の兆候があると判定されたときと比較して大きくなっていれば、眠気の度合をステージ4と判定し(S294)、処理がS295へ移行する。
そして、記憶部24からL3dおよびL4dを削除し(S295)、本処理を終了する。
(3.4)効果
このように構成された実施例3における居眠り防止システム100であれば、副交感神経の活動および交感神経の活動に基づいて、高精度な眠気の度合の判定が可能となるという効果を得ることができる。
また、本実施例における眠気判定装置20であれば、ステアリング心電センサ70またはシート内蔵心電センサ80により取得された心電図波形から副交感神経の活動,および,交感神経の活動を検出して、眠気の度合を判定することができる。
また、本実施例の居眠り防止システム100は、車両2に搭載して用いることができるので、車両2の運転者3を対象として眠気の度合を判定することができる。
また、本実施例の居眠り防止システム100においては、眠気判定装置20が警報装置30と連携しており、眠気の度合の判定結果に応じた画面表示および音声出力を行う。また、眠気の度合の判定結果に応じて、首元空調装置40,シートベルト振動装置50,ブレーキ制御装置60が動作する。そのため、運転者3に対して眠気の度合に応じた適切な居眠り防止対応を行うことができ、居眠り運転による事故を未然に防止できる。
(3.5)対応関係
以上説明した実施形態において、ステアリング心電センサ70およびシート内蔵心電センサ80が本発明における心電図波形取得手段である。また、図17のS223,図18のS242,S243,図19のS263,S264,S265,S266が本発明における覚醒低下検出手段であり、図17のS223,図18のS243,図19のS267,S268が本発明における葛藤検出手段であり、図20のS281,S282,S284,S285,S292,S293,S294が本発明における眠気判定手段である。
[変形例]
以上、本発明の実施例について説明したが、本発明は、上記各実施例に何ら限定されることはなく、本発明の技術的範囲に属する限り種々の形態をとり得ることはいうまでもない。
例えば、上記実施例1および実施例2においては、撮影装置10により撮影した顔画像を示す画像データに基づいて、目および眉の位置を取得する構成について例示した。しかし、目および眉の位置を取得できれば、その具体的な構成は特に限定されない。
例えば、電極を顔面に貼り付け、顔の筋肉が動くときにその力の大きさに比例して発生する微弱な電気を検出して、瞼の動き,眉の動きなどを取得し、それに基づいて目および眉の位置を取得してもよい。
また、上記各実施例において、眠気判定装置20による処理は、入力部23に備えられた開始ボタンを押すことによって開始される構成を例示したが、それ以外の条件を満たすことによって開始される構成としても良い。
例えば、車両2におけるエンジン等の動力部が起動した際に同時に処理を開始する構成や、車両内に車両の進行速度を測定する車速センサが備えられており、車速センサが所定の速度(例えば、30km/h)を超えたことを検出したときに処理を開始する構成などが考えられる。
また、上記実施例1および実施例2においては、眠気の度合をステージ5と判定する前段階の処理として、L1f=2であるか否かを判定する処理(S94,S191)が行われ、L1f=2でない(L1f=3、つまり、目が閉じた状態である)場合に、ステージ5と判定する構成を例示した。
しかし、運転者3は、図3に示すように、居眠り状態(ステージ5)となると、葛藤の兆候がなくなる。そこで、居眠り状態となったことをより正確に判定するため、ステージ5と判定する条件に、葛藤の兆候がない(L2f=0)ことを追加しても良い。
具体的には、S94およびS191の処理を、L1f=3かつL2f=0であるか否かを判定する処理に変更し、上記条件を満たす場合は、眠気の度合をステージ5と判定し(S96,S193へ移行)、上記条件を満たさない場合は、眠気の度合をステージ4と判定する(S95,S192へ移行)こととすればよい。
実施例1の居眠り防止システムを示す側面図 眠気判定装置を示すブロック図 実施例1の眠気判定方法を示す図 覚醒時データ収集処理の手順を示すフローチャート 居眠り防止警報処理の手順を示すフローチャート 位置情報検出処理の手順を示すフローチャート 位置情報検出の方法を示す図 状態特定処理の手順を示すフローチャート 眠気ステージ判定処理の手順を示すフローチャート 覚醒時データ収集処理の手順を示すフローチャート 居眠り防止警報処理の手順を示すフローチャート 状態特定処理の手順を示すフローチャート 眠気ステージ判定処理の手順を示すフローチャート 実施例3の居眠り防止システムを示す側面図 実施例3の眠気判定方法を示す図 覚醒時データ収集処理の手順を示すフローチャート 居眠り防止警報処理の手順を示すフローチャート 神経情報取得処理の手順を示すフローチャート 状態特定処理の手順を示すフローチャート 眠気ステージ判定処理の手順を示すフローチャート
符号の説明
1,100…居眠り防止システム、2…車両、3…運転者、10…撮影装置、20…眠気判定装置、21…制御部、22…受信部、23…入力部、24…記憶部、25…出力部、30…警報装置、40…首元空調装置、50…シートベルト振動装置、60…ブレーキ制御装置、70…ステアリング心電センサ、72,82…生体アンプ、80…シート内蔵心電センサ。

Claims (11)

  1. 眠気による覚醒低下の兆候を検出する覚醒低下検出手段と、
    眠気に逆らう葛藤の兆候を検出する葛藤検出手段と、
    前記覚醒低下の兆候および前記葛藤の兆候に基づいて眠気の度合を判定する眠気判定手段と、を備え、
    前記眠気判定手段は、
    前記覚醒低下の兆候が検出されていない場合には眠気なしと判定し、
    前記覚醒低下の兆候が検出されている場合には眠気を有していると判定し、
    眠気を有していると判定されている状態において、前記葛藤の兆候の有無により、眠気の度合を判定する
    ことを特徴とする眠気判定装置。
  2. 前記覚醒低下検出手段は、目の開度に基づいて前記覚醒低下の兆候を検出し、
    前記葛藤検出手段は、眉と目の間の距離に基づいて前記葛藤の兆候を検出する
    ことを特徴とする請求項1に記載の眠気判定装置。
  3. 前記眠気判定手段は、
    目の開度が第1しきい値以下であることを条件Aとし、目の開度が前記第1しきい値より小さい第2しきい値以下であることを条件Bとし、眉と目の間の距離が所定のしきい値より大きいことを条件Cとし、
    前記条件Bが満たされる場合には、眠気の度合を、強度眠気と判定し、
    前記条件Aおよび前記条件Cが満たされると共に、前記条件Bが満たされない場合には、眠気の度合を、前記強度眠気よりも眠気の度合が弱い中度眠気と判定し、
    前記条件Aが満たされると共に、前記条件Bおよび前記条件Cが満たされない場合には、眠気の度合を、前記中度眠気よりも眠気の度合が弱い弱度眠気と判定し、
    前記条件Aおよび条件Bがいずれも満たされない場合には、眠気なしと判定する
    ことを特徴とする請求項2に記載の眠気判定装置。
  4. 前記眠気判定手段は、目の開度が前記第2しきい値より小さい第3しきい値以下である場合には、他の条件に関わらず、眠気の度合を、前記強度眠気よりも強いと判定する
    ことを特徴とする請求項3に記載の眠気判定装置。
  5. 顔画像を示す画像データに基づいて、該画像データに示される顔画像における目および眉の位置を示す位置情報を検出する位置情報検出手段を備え、
    前記覚醒低下検出手段は、前記位置情報に基づいて目の開度を特定し、
    前記葛藤検出手段は、前記位置情報に基づいて眉と目の間の距離を特定する
    ことを特徴とする請求項3または請求項4に記載の眠気判定装置。
  6. 車両に搭載されて用いられるものであって、
    前記位置情報検出手段は、該車両に備えられた撮影手段により撮影された前記画像データに基づいて、該画像データに示される顔画像における目および眉の位置を示す位置情報を検出する
    ことを特徴とする請求項5に記載の眠気判定装置。
  7. 前記覚醒低下検出手段は、副交感神経の活動に基づいて前記覚醒低下の兆候を検出し、
    前記葛藤検出手段は、交感神経の活動に基づいて前記葛藤の兆候を検出する
    ことを特徴とする請求項1に記載の眠気判定装置。
  8. 心電図波形を取得する心電図波形取得手段を備え、
    前記覚醒低下検出手段は、前記心電図波形に基づいて、前記副交感神経の活動を検出し、
    前記葛藤検出手段は、前記心電図波形に基づいて、前記交感神経の活動を検出する
    ことを特徴とする請求項7に記載の眠気判定装置。
  9. 車両に搭載されて用いられるものである
    ことを特徴とする請求項8に記載の眠気判定装置。
  10. 請求項1から9のいずれかに記載の覚醒低下検出手段,葛藤検出手段,および,眠気判定手段として機能させるための処理手順を、コンピュータシステムに実行させるためのプログラム。
  11. 眠気による覚醒低下の兆候,および,眠気に逆らう葛藤の兆候を検出し、
    前記覚醒低下の兆候が検出されていない場合には眠気なしと判定し、
    前記覚醒低下の兆候が検出されている場合には眠気を有していると判定し、
    眠気を有していると判定されている状態において、前記葛藤の兆候の有無により、眠気の度合を判定する
    ことを特徴とする眠気判定方法。
JP2007058980A 2007-03-08 2007-03-08 眠気判定装置,プログラムおよび眠気判定方法 Expired - Fee Related JP4259585B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007058980A JP4259585B2 (ja) 2007-03-08 2007-03-08 眠気判定装置,プログラムおよび眠気判定方法
US12/073,075 US7948387B2 (en) 2007-03-08 2008-02-29 Drowsiness determination apparatus, program, and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007058980A JP4259585B2 (ja) 2007-03-08 2007-03-08 眠気判定装置,プログラムおよび眠気判定方法

Publications (2)

Publication Number Publication Date
JP2008220424A true JP2008220424A (ja) 2008-09-25
JP4259585B2 JP4259585B2 (ja) 2009-04-30

Family

ID=39741090

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007058980A Expired - Fee Related JP4259585B2 (ja) 2007-03-08 2007-03-08 眠気判定装置,プログラムおよび眠気判定方法

Country Status (2)

Country Link
US (1) US7948387B2 (ja)
JP (1) JP4259585B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010179034A (ja) * 2009-02-09 2010-08-19 Denso Corp 眠気検出装置,プログラムおよび眠気検出方法
CN103287333A (zh) * 2013-06-24 2013-09-11 成都衔石科技有限公司 一种用于辅助驾驶的智能预警***
CN103318083A (zh) * 2013-06-24 2013-09-25 成都衔石科技有限公司 智能汽车感知***
WO2023096741A1 (en) * 2021-11-29 2023-06-01 Gentherm Incorporated Temperature-related drowsiness mitigation strategy
DE112020007803T5 (de) 2020-11-27 2023-11-16 Mitsubishi Electric Corporation Schlafdetektionsvorrichtung und Schlafdetektionsverfahren

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2363067B1 (en) * 2007-01-19 2016-01-06 Asahi Kasei Kabushiki Kaisha Arousal state classification model generating device, arousal state classifying device, and warning device
JP4582137B2 (ja) * 2007-10-11 2010-11-17 株式会社デンソー 眠気度判定装置
JP5262243B2 (ja) * 2008-03-31 2013-08-14 アイシン精機株式会社 眼開閉判別装置、及びプログラム
JP5078815B2 (ja) * 2008-09-12 2012-11-21 株式会社豊田中央研究所 開眼度推定装置
KR101480564B1 (ko) 2008-10-21 2015-01-12 삼성전자주식회사 안면 인식을 이용한 알람 제어 장치 및 방법
TWI488149B (zh) * 2009-09-22 2015-06-11 Automotive Res & Testing Ct Driver monitoring method and its monitoring system
KR20120058230A (ko) * 2010-11-29 2012-06-07 한국전자통신연구원 이동체 안전운행 장치 및 방법
US8698639B2 (en) 2011-02-18 2014-04-15 Honda Motor Co., Ltd. System and method for responding to driver behavior
US9292471B2 (en) 2011-02-18 2016-03-22 Honda Motor Co., Ltd. Coordinated vehicle response system and method for driver behavior
JP2013015970A (ja) * 2011-07-01 2013-01-24 Aisin Seiki Co Ltd 瞼検出装置、瞼検出方法及びプログラム
WO2013074897A1 (en) * 2011-11-16 2013-05-23 Flextronics Ap, Llc Configurable vehicle console
US9751534B2 (en) 2013-03-15 2017-09-05 Honda Motor Co., Ltd. System and method for responding to driver state
US10499856B2 (en) 2013-04-06 2019-12-10 Honda Motor Co., Ltd. System and method for biological signal processing with highly auto-correlated carrier sequences
JP6039504B2 (ja) * 2013-05-23 2016-12-07 学校法人常翔学園 覚醒維持支援装置
CN103303197A (zh) * 2013-06-24 2013-09-18 成都衔石科技有限公司 一种智能感知预警装置
JP6395087B2 (ja) * 2014-01-14 2018-09-26 パナソニックIpマネジメント株式会社 環境制御システム、制御装置、プログラム
DE102015218306A1 (de) * 2015-09-23 2017-03-23 Robert Bosch Gmbh Verfahren und Vorrichtung zum Ermitteln eines Schläfrigkeitszustands eines Fahrers
DE102015225109A1 (de) * 2015-12-14 2017-06-14 Robert Bosch Gmbh Verfahren und Vorrichtung zum Klassieren von Augenöffnungsdaten zumindest eines Auges eines Insassen eines Fahrzeugs und Verfahren und Vorrichtung zum Erfassen einer Schläfrigkeit und/oder eines Sekundenschlafes eines Insassen eines Fahrzeugs
US10065651B2 (en) 2016-05-10 2018-09-04 Samsung Electronics Co., Ltd Electronic device and method for determining a state of a driver
CN106236047A (zh) * 2016-09-05 2016-12-21 合肥飞鸟信息技术有限公司 驾驶员疲劳监测***的控制方法
CN106236046A (zh) * 2016-09-05 2016-12-21 合肥飞鸟信息技术有限公司 驾驶员疲劳监测***
JP6973928B2 (ja) * 2017-11-10 2021-12-01 アルパイン株式会社 瞼開閉判定装置および眠気検知装置
JP2019124977A (ja) * 2018-01-11 2019-07-25 トヨタ自動車株式会社 車載音声出力装置、音声出力制御方法、及び音声出力制御プログラム
CN111114315A (zh) * 2019-12-30 2020-05-08 上海臣乾物流有限公司 一种用于现代物流的安全监控***
TWI741892B (zh) * 2020-12-01 2021-10-01 咸瑞科技股份有限公司 車內駕駛監測系統
WO2023193038A1 (en) * 2022-04-08 2023-10-12 Sdip Holdings Pty Ltd Interventional protocol in respect of human-operated machine based on processing of blepharometric data and/or other physiological parameters

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05184558A (ja) * 1992-01-17 1993-07-27 Mitsubishi Motors Corp 運転者の異常検出装置
JPH06197889A (ja) * 1993-01-06 1994-07-19 Mitsubishi Motors Corp 覚醒度判定装置
JPH0919420A (ja) * 1995-07-07 1997-01-21 Omron Corp 生理状態判定方法及び生理状態判定装置
JPH0944685A (ja) * 1995-07-28 1997-02-14 Mitsubishi Electric Corp 顔画像処理装置
JPH11314534A (ja) * 1998-05-06 1999-11-16 Nissan Motor Co Ltd 車両用注意能力低下防止装置
JP2000163564A (ja) * 1998-12-01 2000-06-16 Fujitsu Ltd 目の追跡装置および瞬き検出装置
JP2001010368A (ja) * 1999-06-17 2001-01-16 Hyundai Motor Co Ltd 居眠り運転警報システムの居眠り運転判断方法
JP2001307076A (ja) * 2000-04-24 2001-11-02 Niles Parts Co Ltd 眼の状態検出装置、居眠り検出装置
JP2002010995A (ja) * 2000-06-29 2002-01-15 Nissan Motor Co Ltd 運転負荷判定装置
JP2004341954A (ja) * 2003-05-16 2004-12-02 Nissan Motor Co Ltd 覚醒度レベル判定装置
JP2004350773A (ja) * 2003-05-27 2004-12-16 Denso Corp 眠気度合検出装置
WO2005112764A1 (ja) * 2004-05-24 2005-12-01 Pioneer Corporation 生体情報検出装置
JP2008212298A (ja) * 2007-03-01 2008-09-18 Toyota Central R&D Labs Inc 眠気判定装置及びプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3063504B2 (ja) 1993-12-22 2000-07-12 日産自動車株式会社 画像データの特徴量検出装置
JP3451832B2 (ja) 1996-04-01 2003-09-29 日産自動車株式会社 顔画像の特徴量認識装置
US20080071177A1 (en) * 2005-04-28 2008-03-20 Pioneer Corporation Bioinformation Sensor

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05184558A (ja) * 1992-01-17 1993-07-27 Mitsubishi Motors Corp 運転者の異常検出装置
JPH06197889A (ja) * 1993-01-06 1994-07-19 Mitsubishi Motors Corp 覚醒度判定装置
JPH0919420A (ja) * 1995-07-07 1997-01-21 Omron Corp 生理状態判定方法及び生理状態判定装置
JPH0944685A (ja) * 1995-07-28 1997-02-14 Mitsubishi Electric Corp 顔画像処理装置
JPH11314534A (ja) * 1998-05-06 1999-11-16 Nissan Motor Co Ltd 車両用注意能力低下防止装置
JP2000163564A (ja) * 1998-12-01 2000-06-16 Fujitsu Ltd 目の追跡装置および瞬き検出装置
JP2001010368A (ja) * 1999-06-17 2001-01-16 Hyundai Motor Co Ltd 居眠り運転警報システムの居眠り運転判断方法
JP2001307076A (ja) * 2000-04-24 2001-11-02 Niles Parts Co Ltd 眼の状態検出装置、居眠り検出装置
JP2002010995A (ja) * 2000-06-29 2002-01-15 Nissan Motor Co Ltd 運転負荷判定装置
JP2004341954A (ja) * 2003-05-16 2004-12-02 Nissan Motor Co Ltd 覚醒度レベル判定装置
JP2004350773A (ja) * 2003-05-27 2004-12-16 Denso Corp 眠気度合検出装置
WO2005112764A1 (ja) * 2004-05-24 2005-12-01 Pioneer Corporation 生体情報検出装置
JP2008212298A (ja) * 2007-03-01 2008-09-18 Toyota Central R&D Labs Inc 眠気判定装置及びプログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010179034A (ja) * 2009-02-09 2010-08-19 Denso Corp 眠気検出装置,プログラムおよび眠気検出方法
CN103287333A (zh) * 2013-06-24 2013-09-11 成都衔石科技有限公司 一种用于辅助驾驶的智能预警***
CN103318083A (zh) * 2013-06-24 2013-09-25 成都衔石科技有限公司 智能汽车感知***
DE112020007803T5 (de) 2020-11-27 2023-11-16 Mitsubishi Electric Corporation Schlafdetektionsvorrichtung und Schlafdetektionsverfahren
WO2023096741A1 (en) * 2021-11-29 2023-06-01 Gentherm Incorporated Temperature-related drowsiness mitigation strategy

Also Published As

Publication number Publication date
US7948387B2 (en) 2011-05-24
US20080218359A1 (en) 2008-09-11
JP4259585B2 (ja) 2009-04-30

Similar Documents

Publication Publication Date Title
JP4259585B2 (ja) 眠気判定装置,プログラムおよび眠気判定方法
US11383721B2 (en) System and method for responding to driver state
US6337629B1 (en) Method and a system for monitoring a person
EP3683623A1 (en) System and method for responding to driver state
JP4867215B2 (ja) 生理・心理状態判定装置、生理・心理状態判定方法、リファレンスデータ生成装置、及びリファレンスデータ生成方法。
JP4458146B2 (ja) 眠気判定装置およびプログラム
JP2009039167A (ja) 眠気判定装置
JP4677963B2 (ja) 居眠り検知装置、居眠り検知方法
JP3435413B2 (ja) 車両用ヒューマンマシンシステム
US11751784B2 (en) Systems and methods for detecting drowsiness in a driver of a vehicle
US20220036101A1 (en) Methods, systems and computer program products for driver monitoring
Pullano et al. Comprehensive system for the evaluation of the attention level of a driver
JP2009028239A (ja) 居眠り運転検出装置
JP2001245871A (ja) 動脈血酸素飽和度を居眠り判定法に用いた居眠り判定装置
KR20220069177A (ko) 자율 주행 차량의 스마트 제어 시스템 및 방법
KR20180131045A (ko) 다 센서 기반의 감지ㆍ경보수단과 중앙처리수단이 일체로 구성된 졸음운전 방지장치 및 제어방법
Parsai et al. Intelligent Monitoring System for Driver’s Alertness (A vision based approach)
KR101932147B1 (ko) 심전도 신호를 이용한 운전자의 졸음운전 진단 방법 및 장치
JP2006130046A (ja) 覚醒度判定装置
JP3362664B2 (ja) 状態監視装置
KR102507038B1 (ko) 안전을 위한 운전자 감시 시스템
WO2001019249A1 (en) A method and a system for monitoring a person
SARIKA et al. DRIVER ASSISTANCE SYSTEM
Pullagura et al. Minimum System Design for Identifying Drunken Drivers to Prevent Road Accidents
JPH02151532A (ja) 居眠り警告装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081014

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081215

TRDD Decision of grant or rejection written
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20081215

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090120

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090202

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4259585

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130220

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140220

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees