JPWO2019123569A1 - 眠気推定装置、眠気推定方法、および眠気推定プログラム - Google Patents

眠気推定装置、眠気推定方法、および眠気推定プログラム Download PDF

Info

Publication number
JPWO2019123569A1
JPWO2019123569A1 JP2019559930A JP2019559930A JPWO2019123569A1 JP WO2019123569 A1 JPWO2019123569 A1 JP WO2019123569A1 JP 2019559930 A JP2019559930 A JP 2019559930A JP 2019559930 A JP2019559930 A JP 2019559930A JP WO2019123569 A1 JPWO2019123569 A1 JP WO2019123569A1
Authority
JP
Japan
Prior art keywords
feature amount
drowsiness
filtering
time
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019559930A
Other languages
English (en)
Other versions
JP7189564B2 (ja
Inventor
剛範 辻川
剛範 辻川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2019123569A1 publication Critical patent/JPWO2019123569A1/ja
Application granted granted Critical
Publication of JP7189564B2 publication Critical patent/JP7189564B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/163Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1103Detecting eye twinkling
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/725Details of waveform analysis using specific filters therefor, e.g. Kalman or adaptive filters

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Veterinary Medicine (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Developmental Disabilities (AREA)
  • Educational Technology (AREA)
  • Social Psychology (AREA)
  • Psychology (AREA)
  • Psychiatry (AREA)
  • Hospice & Palliative Care (AREA)
  • Child & Adolescent Psychology (AREA)
  • Ophthalmology & Optometry (AREA)
  • Physiology (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

眠気推定装置は対象者の開眼度の時系列信号から対象者の眠気を推定する。フィルタリング回路部は、開眼度の時系列信号から対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力する。特徴量算出器は、少なくともフィルタリング後の開眼度の時系列信号から特徴量を算出する。眠気推定器は、特徴量から眠気の評定値を推定して、推定結果を出力する。特徴量算出器は、特徴量算出窓幅内での、フィルタリング後の開眼度の時系列信号のばらつき度を算出して、そのばらつき度を第1の特徴量として出力する第1の特徴量算出回路を、少なくとも含む。

Description

本発明は、眠気推定装置、眠気推定方法、および眠気推定プログラム記録媒体に関する。
少子高齢化により生産年齢人口が減少し、労働力不足が進む中、今まで人が行っていた仕事を、ロボットやAI(artificial intelligence)で置き換えることがなされている。このような状況において、人は、ロボットやAIでは困難な知的労働の生産性を維持、向上することが必須である。
しかし、人は眠気(低覚醒状態)やストレス(高覚醒状態)の影響により、知的能力を十分に発揮できず、その人が備える知的生産性は低下する。覚醒状態の変化による知的生産性の低下を防止するように、知的労働を行うオフィス内環境等の制御を行うためには、知的生産性の低下を伴う覚醒度、すなわち人がどのような覚醒状態にあるかを推定することが必要である。本発明は、覚醒度のうち低覚醒度すなわち眠気を推定する技術に関する。
眠気は、例えば、1〜5の眠気評価値で評定されることが知られている(非特許文献1参照)。この非特許文献1によると、眠気評価値において、1は「全く眠くなさそう」を示し、2は「やや眠そう」を示し、3は「眠そう」を示し、4は「かなり眠そう」を示し、5は「非常に眠そう」を示す。
居眠り運転検知を目的として、目の開き具合(以降、「開眼度」と呼ぶ)から上記眠気を推定する技術が多数提案されている。
たとえば、特許文献1は、自動車の運転者の意識状態等を推定する状態推定装置を開示している。特許文献1に開示された状態推定装置は、運転者の開眼度を検出し、この開眼度の検出頻度の度数分布を作成して、度数分布の極値を抽出し、その度数分布の極値の時間変化に基づいて、運転者の状態を推定している。
また、特許文献2は、自動車のドライバの眠気状態を検出する方法を開示している。ドライバの目の少なくとも1つの目蓋の動きを検出し、検出された動きに応じて、ドライバの眠気状態を認識している。特に、通常の開眼度から最大で40%、特に最大で30%だけ眼が閉じる動きの周期性(0.2〜1Hz)から眠気を推定している。
また、特許文献3は、人が浅い眠気を感じている状態では、開眼時間(瞬きと瞬きとの間の眼を開いている時間)のばらつきが小さくなることを見出し、それを利用して生体状態を判定している。
さらに、非特許文献2は、眠気指標として、目が例えば80%以上閉じている時間の割合(閉眼割合)を利用し、眠気を検出している。
特開2008−099884号公報 特開2017−079055号公報 国際公開第2010/092860号
北島洋樹、他3名、「自動車運転時の眠気の予測手法についての研究(第1報、眠気表情の評定法と眠気変動の予測に有効な指標について)」、日本機械学会論文集(C編)、1997年9月、63巻、613号、p.3059-3066 "Research on Vehicle-Based Driver State/Performance Monitoring; Development, Validation, and Refinement of Algorithms For Detection of Driver Drowsiness", U.S. Department of Transportation, (December 1994), Chapter Two, p. 24-43
しかしながら、上記特許文献1乃至3、非特許文献2に記載の方法では、眠気を推定する時間窓幅や開眼度データのサンプリングレート等各種条件によっては充分高精度に眠気を推定できないという課題がある。
本発明の目的は、上述した課題を解決できる眠気推定装置、眠気推定方法、および眠気推定プログラム記録媒体を提供することにある。
本発明の一形態は、対象者の開眼度の時系列信号から前記対象者の眠気を推定する眠気推定装置であって、前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力するフィルタリング回路部と、少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出する特徴量算出器と、前記特徴量から前記眠気の評定値を推定して、推定結果を出力する眠気推定器と、を備え、前記特徴量算出器は、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する第1の特徴量算出回路を、少なくとも含む、眠気推定装置である。
本発明の一形態は、対象者の開眼度の時系列信号から前記対象者の眠気を推定する眠気推定方法であって、フィルタリング回路部が、前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力し、特徴量算出器が、少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出し、眠気推定器が、前記特徴量から前記眠気の評定値を推定して、推定結果を出力し、前記特徴量検出器では、少なくとも、第1の特徴量算出回路が、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する、眠気推定方法である。
本発明の一形態は、対象者の開眼度の時系列信号から前記対象者の眠気を推定する処理をコンピュータに実行させる眠気推定プログラムを記録した眠気推定プログラム記録媒体であって、前記眠気推定プログラムは、前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力するフィルタリング手順と、少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出する特徴量算出手順と、前記特徴量から前記眠気の評定値を推定して、推定結果を出力する眠気推定手順と、を前記コンピュータに実行させ、前記特徴量算出手順は、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する第1の特徴量算出手順を、少なくとも含む、眠気推定プログラム記録媒体である。
本発明によれば、眠気を推定する時間窓幅や開眼度データのサンプリングレート等各種条件によらず高精度に眠気を推定することができる。
本発明の第1の実施形態に係る眠気推定装置の構成を示すブロック図である。 図1の眠気推定装置に接続されたカメラで撮影される対象者の一例を示す概略正面図である。 図1の眠気推定装置で使用される開眼度検出器の一例を示すブロック図である。 図2に示した対象者の眼が冴えている状態(眠気評定値=1)のときの、対象者の開眼度の時系列信号X(t)の一例を示す波形図である。 図2に示した対象者が眠い状態(眠気評定値≧3)のときの、対象者の開眼度の時系列信号X(t)の一例を示す波形図である。 図1の眠気推定装置で使用されるフィルタリング回路部の一例を示すブロック図である。 図1の眠気推定装置で使用されるフィルタリング回路部の第1の例を示すブロック図である。 図5に示した対象者の開眼度の時系列信号X(t)を、図7に示したフィルタリング回路部を使用してフィルタリング処理した後の、対象者の開眼度の時系列信号X(t)を示す波形図である。 図6に示した対象者の開眼度の時系列信号X(t)を、図7に示したフィルタリング回路部を使用してフィルタリング処理した後の、対象者の開眼度の時系列信号X(t)を示す波形図である。 図1の眠気推定装置で使用されるフィルタリング回路部の第2の例を示すブロック図である。 図1の眠気推定装置で使用されるフィルタリング回路部の第3の例を示すブロック図である。 図1の眠気推定装置で使用されるフィルタリング回路部の第4の例を示すブロック図である。 図1に示した第1の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図1の眠気推定装置で使用される眠気推定器の動作の一例を示すフローチャートである。 図1に示した第1の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第2の実施形態に係る眠気推定装置の構成を示すブロック図である。 図16に示した第2の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図16に示した第2の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第3の実施形態に係る眠気推定装置の構成を示すブロック図である。 図19に示した第3の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図19に示した第3の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第4の実施形態に係る眠気推定装置の構成を示すブロック図である。 図22に示した第4の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図22に示した第4の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第5の実施形態に係る眠気推定装置の構成を示すブロック図である。 図25に示した第5の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図26に示した第5の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第6の実施形態に係る眠気推定装置の構成を示すブロック図である。 図28に示した第6の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図28に示した第6の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第7の実施形態に係る眠気推定装置の構成を示すブロック図である。 図31に示した第7の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図31に示した第7の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第8の実施形態に係る眠気推定装置の構成を示すブロック図である。 図34に示した第8の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図34に示した第8の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第9実施形態に係る眠気推定装置の構成を示すブロック図である。 図37に示した第9の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図37に示した第9の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。
以下、本発明の好適な実施形態について、図面を参照して詳細に説明する。
[第1の実施形態]
図1は、本発明の第1の実施形態に係る眠気推定装置100の構成を示すブロック図である。図示の眠気推定装置100は、プログラム制御により動作するコンピュータで実現可能である。
図示の眠気推定装置100は、カメラ10に接続されている。カメラ10は、対象者20の顔画像を撮像して、撮像した顔画像を示す動画像信号V(t)を生成する。この生成された動画像信号V(t)は、眠気推定装置100に供給される。ただし、tは時間のインデックスであり、フレーム番号である。一般に、動画像信号は、フレームレートfs[フレーム/秒]の信号である。図示の例では、fsは30に等しい。従って、本例では、動画像信号V(t)は30[フレーム/秒]の信号であるとする。
ここで、対象者20は、例えば、オフィスで働いている職員であってよい。この場合、眠気推定装置100は、職員20の眠気を推定する装置として使用され得る。そのような状況では、カメラ10は、例えば、机上に搭載されているパーソナルコンピュータのモニタ(ディスプレイ)やラップトップコンピュータのディスプレイの所定の箇所に取り付けられて、当該社員(従業者)20の顔画像を撮像する。眠気推定装置100は、パーソナルコンピュータやラップトップコンピュータのコンピュータ本体に内蔵されてもよいし、それらとは別体に設けられてもよい。また、コンピュータ本体に内蔵される記憶装置やネットワーク上の記憶装置に記憶された、動画像信号を眠気推定装置100に入力する構成としてもよい。
一方、対象者20は、自動車や電車、船舶、飛行機等の乗り物を運転(操縦)する運転者であってもよい。この場合、眠気推定装置100は、運転者20の眠気を推定する装置として使用され得る。このような状況では、カメラ10は、運転者20の前方の自動車の計器盤に配置されて、当該運転者20の顔画像を撮像する。眠気推定装置100には、図示しない警報器に接続されてよい。その場合、眠気推定装置100は、運転者20が眠気の状態にあると推定した場合に、その警報器に対して警報を発生させる制御信号を送出してよい。
眠気推定装置100は、開眼度検出器120と、フィルタリング回路部140と、特徴量算出器160と、眠気推定器180とを備える。開眼度検出器120は動画像信号から開眼度を検出する。フィルタリング回路部140は開眼度の時系列信号をフィルタリングする。特徴量算出器160はフィルタリング後の時系列信号から特徴量を算出する。眠気推定器180は特徴量から眠気を推定し、推定結果を出力する。以降、それぞれを詳細に説明する。
開眼度検出器120は、動画像信号V(t)を画像処理して、対象者20の開眼度を検出し、対象者20の開眼度の時系列信号X(t)を出力する。
図2に示されるように、対象者20は、左眼20Lと右眼20Rとを持つ。したがって、開眼度検出器120は、左眼20Lの開眼度および右眼20Rの開眼度を検出して、それぞれ、左眼20Lの開眼度の時系列信号X(t)および右眼20Rの開眼度の時系列信号X(t)を出力してもよい。この場合、上記対象者20の開眼度の時系列信号X(t)は、左眼20Lの開眼度の時系列信号X(t)と右眼20Rの開眼度の時系列信号X(t)とを加算平均して得られてよい。
図3は開眼度検出器120の一例を示すブロック図である。開眼度検出器120は、左眼開眼度検出回路122と、右眼開眼度検出回路124と、平均値算出回路126とを備える。
左眼開眼度検出回路122は、動画像信号V(t)から対象者20の左眼20Lの部位を抽出し、左眼20Lの開眼度を検出して、左眼20Lの開眼度の時系列信号X(t)を出力する。同様に、右眼開眼度検出回路124は、動画像信号V(t)から対象者20の右眼20Rの部位を抽出し、右眼20Rの開眼度を検出して、右眼20Rの開眼度の時系列信号X(t)を出力する。なお、左眼開眼度検出回路122と右眼開眼度検出回路124とは同じ回路を用いてもよい。例えば、左眼開眼度検出回路122に左右反転させた右眼の動画像信号を入力することで、右眼の開眼度の時系列信号X(t)を算出してもよい。
平均値算出回路126は、左眼20Lの開眼度の時系列信号X(t)と右眼20Rの開眼度の時系列信号X(t)とを加算平均して平均値を求め、その平均値を対象者20の開眼度の時系列信号X(t)として出力する。したがって、対象者20の開眼度の時系列信号X(t)は、次の数1で表される。
[数1]
X(t)={X(t)+X(t)}/2
尚、本例では、左眼20Lの開眼度の時系列信号X(t)、右眼20Rの開眼度の時系列信号X(t)、および対象者20の開眼度の時系列信号X(t)の各々として、0〜1の範囲の値に正規化された値を使用している。
図4は、対象者20の眼が冴えている状態(眠気評定値=1)のときの、対象者20の開眼度の時系列信号X(t)の一例を示す波形図である。一方、図5は、対象者20が眠い状態(眠気評定値≧3)のときの、対象者20の開眼度の時系列信号X(t)の一例を示す波形図である。
図4および図5の各々において、横軸は時間[秒]を表し、縦軸は開眼度を表している。“0”の開眼度は、対象者20が眼を完全に閉じていることを示し、“1”の開眼度は、対象者20が眼を完全に開いていることを示している。
次に、図1のフィルタリング回路部140について説明する。フィルタリング回路部140は、開眼度の時系列信号X(t)から対象者20の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号X(t)を出力する。このフィルタリング後の開眼度の時系列信号X(t)は、一般に、次の数2で表される。
[数2]
(t)=F[X(t)、・・・、X(t−N+1)]
ここで、Nはフィルタリング処理用のフレーム数を表す。従って、フィルタリング回路部140は、フィルタリング算出窓幅T[秒]単位でフィルタリング処理を行う。フレーム数Nとフィルタリング算出窓幅T[秒]との間には、次の数3で表される関係がある。
[数3]
N=T×fs
例えば、図4に示されるように、フレーム数Nが3、フレームレートfsが30[フレーム/秒]に等しいとき、フィルタリング算出窓幅T[秒]は0.1[秒]となる。
本例では、フィルタリング回路部140は、フィルタリング算出窓幅T[秒]単位でフィルタリングすることで、開眼度の時系列信号X(t)を所定の値に置換し、その置換した信号をフィルタリング後の開眼度の時系列信号X(t)として出力する。
尚、本例のフィルタリング回路部140は、開眼度の時系列信号X(t)のみを使用しているが、更に、左眼20Lの開眼度の時系列信号X(t)や右眼20Rの開眼度の時系列信号X(t)を用いてもよい。
図6は、そのような場合におけるフィルタリング回路部140の一例を示すブロック図である。フィルタリング回路部140は、主フィルタリング回路140−1と、第1の副フィルタリング回路140−2と、第2の副フィルタリング回路140−3とを備える。
主フィルタリング回路140−1は、フィルタリング算出窓幅T[秒]単位でフィルタリングすることで、開眼度の時系列信号X(t)を所定の主値に置換し、その置換した信号をフィルタリング後の開眼度の時系列信号X(t)として出力する。
第1の副フィルタリング回路140−2は、フィルタリング算出窓幅T[秒]単位でフィルタリングすることで、左眼20Lの開眼度の時系列信号X(t)を所定の第1の副値に置換し、その置換した信号をフィルタリング後の左眼20Lの開眼度の時系列信号XFL(t)として出力する。
同様に、第2の副フィルタリング回路140−3は、フィルタリング算出窓幅T[秒]単位でフィルタリングすることで、右眼20Rの開眼度の時系列信号X(t)を所定の第2の値に置換し、その置換した信号をフィルタリング後の右眼20Rの開眼度の時系列信号XFR(t)として出力する。
なお図6の例では、フィルタリング回路部140は3つのフィルタリング回路140−1、140−2、および140−3を備えているが、本発明はこれに限定せず、それら3つのフィルタリング回路の内の1つのみを備えていてもよい。但し、以下においては、説明を簡略化するために、フィルタリング回路部140は主フィルタリング回路140−1のみから成る場合を例に挙げて、説明する。
フィルタリング回路部140で実施されるフィルタリング処理としては、種々の方法を採用され得る。
次に、フィルタリング回路部140で実施されるフィルタリング処理の具体例について説明する。
図7は、フィルタリング回路部140の第1の例140Aを示すブロック図である。本第1の例のフィルタリング回路部140Aは、フィルタリング算出窓幅T[秒]が少なくとも0.1[秒]以上である場合に適用可能である(T≧0.1)。その理由は、瞬きの時間が0.1〜0.15[秒]のためである。すなわち、本第1の例のフィルタリング回路部140Aは、フレームレートfsが30[フレーム/秒]の場合、フレーム数Nが3以上である場合に適用される。本例では、図4に示されるように、フレーム数Nが30に等しく、フィルタリング算出窓幅T[秒]が1[秒]である場合について説明する。
図示のフィルタリング回路部140Aは、最大値取得回路142から成る。最大値取得回路142は、上記所定の値として、フィルタリング算出窓幅T[秒]単位でフィルタリングを行い、開眼度の時系列信号X(t)の最大値を取得し、その取得した最大値をフィルタリング後の開眼度の時系列信号X(t)として出力する。
最大値取得回路142は、次の数4で表されるように、フィルタリング算出窓幅T[秒]の開眼度の時系列信号X(t)の最大値をとる。ただし、max[]は要素の最大値をとる演算子である。
[数4]
(t)=max[X(t)、・・・、X(t−N+1)]
図8は、図4に示した対象者の開眼度の時系列信号X(t)を、図7に示したフィルタリング回路部140Aを使用してフィルタリング処理した後の、対象者の開眼度の時系列信号X(t)を示す波形図である。また、図9は、図5に示した対象者の開眼度の時系列信号X(t)を、図7に示したフィルタリング回路部を使用してフィルタリング処理した後の、対象者の開眼度の時系列信号X(t)を示す波形図である。
図8と図9との比較から、次のことが分かる。すなわち、図8に示されるように、対象者20の眼が冴えている状態では、開眼度を一定に維持できていることがわかる。一方、図9に示されるように、対象者20が眠い状態では、開眼度を一定に維持できていないことが分かる。
図10は、フィルタリング回路部140の第2の例140Bを示すブロック図である。フィルタリング回路部140Bは、分位点算出回路144から成る。分位点算出回路144は、上記所定の値として、フィルタリング算出窓幅T[秒]毎の開眼度の時系列信号X(t)の第(P−1)P分位点の値を算出し、その第(P−1)P分位点の値をフィルタリング後の開眼度の時系列信号X(t)として出力する。ここで、第(P−1)P分位点とは、データを小さい順に並べて、下から(P−1)/Pのところのデータをいう。本第2の例では、P=4であるので、第(P−1)P分位点は、第3四分位点である。
Pが2以上の整数であるとき、本第2の例のフィルタリング回路部140Bは、フィルタリング算出窓幅T[秒]が{0.1+0.1/(P−1)}[秒]以上である場合に適用可能である。その理由は、瞬きの時間が0.1〜0.15[秒]のためである。本第2の例では、Pが4に等しく、またフレームレートfsが30[フレーム/秒]に等しい。したがって、フィルタリング算出窓幅T[秒]が{0.1+0.1/3}[秒]、すなわちフレーム数Nが4より大きい場合として、フレーム数Nが30に等しい場合について説明する。
分位点算出回路144は、次の数5で表されるように、上記所定の値として、フィルタリング算出窓幅T[秒]の開眼度の時系列信号X(t)の第(P−1)P分位点の値を算出する。ただし、percentile_P[]は要素の第(P−1)P分位点の値を算出する演算子である。
[数5]
(t)=percentile_P[X(t)、・・・、X(t−N+1)]
なお、図示の例では、分位点算出回路144は、上記所定の値として、フィルタリング算出窓幅T[秒]の開眼度の時系列信号X(t)の第(P−1)P分位点の値を算出しているが、本発明はそれに限定されない。例えば、分位点算出回路144は、上記所定の値として、フィルタリング算出窓幅T[秒]の開眼度の時系列信号X(t)の第(P−1)P分位点以上の平均値を算出してもよい。
図11は、フィルタリング回路部140の第3の例140Cを示すブロック図である。フィルタリング回路部140Cは、平均値算出回路146から成る。平均値算出回路146は、上記所定の値として、フィルタリング算出窓幅T[秒]単位で開眼度の時系列信号X(t)の平均値を算出し、その平均値をフィルタリング後の開眼度の時系列信号X(t)として出力する。
本第3の例のフィルタリング部140Cは、フィルタリング算出窓幅T[秒]が0.1[秒]以上より十分に大きな値、例えば、1[秒]以上である場合に適用可能である(T≧1)。その理由は、瞬きの時間が0.1〜0.15[秒]であり、瞬きの影響を平均処理で取り除くためである。すなわち、第3の例では、フレームレートfsが30[フレーム/秒]の場合、フレーム数Nは30以上であることが好ましい。本第3の例では、フレーム数Nが30に等しく、フィルタリング算出窓幅T[秒]が1[秒]である場合について説明する。
平均値算出回路146は、次の数6で表されるように、上記所定の値として、フィルタリング算出窓幅T[秒]の開眼度の時系列信号X(t)の平均値を算出する。ただし、average[]は要素の平均値を算出する演算子である。
[数6]
(t)=average[X(t)、・・・、X(t−N+1)]
図12は、フィルタリング回路部140の第4の例140Dを示すブロック図である。フィルタリング回路部140Dは、fsより十分小さなカットオフ周波数fc[Hz]を持つローパスフィルタ(LPF)148から成る。フィルタリング回路部140Dは、ローパスフィルタ148を通して得られた値をフィルタリング後の開眼度の時系列信号X(t)として出力する。
本第4の例のフィルタリング回路部140Dは、カットオフ周波数をfc[Hz]とすると、fcがfsより十分小さな値、例えば、6[Hz]以下である場合に適用可能である(fc<<fs)。その理由は、瞬きの時間が0.1〜0.15[秒]、すなわち瞬きは10〜6.7Hzであり、その瞬きの影響をローパスフィルタで取り除くためである。本第4の例では、カットオフ周波数fc[Hz]が6[Hz]に等しい場合について説明する。
ローパスフィルタ148は、次の数7で表されるように、上記所定の値として、開眼度の時系列信号X(t)を、当該ローパスフィルタ148を通して得られた値を選択して出力する。ただし、LPF[]は要素に対してローパスフィルタを通す演算子である。
[数7]
(t)=LPF[X(t)、・・・、X(t−N+1)]
次に、図1の特徴量算出器160について説明する。特徴量算出器160は、フィルタリング後の開眼度の時系列信号X(t)から特徴量F(T)を特徴量算出窓幅T[秒]毎に算出する。ここで、Tは時間のインデックスであり、特徴量算出窓の窓番号(0,1,2,...)である。特徴量算出窓幅T[秒]とフレームレートfs[フレーム/秒]とを用いると、特徴量算出窓幅のフレーム数MはM=T×fsと表せる。T=0の場合には、特徴量算出器160は、フレーム番号t=0〜(M−1)のフィルタリング後の開眼度の時系列信号X(t)を使用して、特徴量F(0)を算出する。また、T=1の場合には、特徴量算出器160は、フレーム番号t=M〜(2M−1)のフィルタリング後の開眼度の時系列信号X(t)を使用して、特徴量F(1)を算出する。T=2の場合には、特徴量算出部160は、フレーム番号t=2M〜(3M−1)のフィルタリング後の開眼度の時系列信号X(t)を使用して、特徴量F(2)を算出する。したがって、TMずつ、特徴算出処理のスタート地点がずれることになる。図示の特徴量算出器160は、第1の特徴量算出回路を少なくとも含む。第1の特徴量算出回路は、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、そのばらつき度を第1の特徴量F1(T)として算出する。人は眠い状態では、瞼を一定に維持するのが難しく、このばらつき度は大きくなる。一方、目が冴えている状態では、瞼を一定に維持するのが容易で、このばらつき度は小さくなる。以下、特徴量算出器160の具体例について詳細に説明する。
図13は、特徴量算出器160の構成を示すブロック図である。図示の特徴量算出器160は、ばらつき度算出回路161から成る。ばらつき度算出回路161は、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、そのばらつき度を第1の特徴量F1(T)として出力する。したがって、ばらつき度算出回路161は、フィルタリング後の開眼度の時系列信号X(t)から第1の特徴量F1(T)を算出して、出力する第1の特徴量算出回路として働く。
ばらつき度、すなわち、第1の特徴量F1(T)は、次の数8で表される。
[数8]
F1(T)=V[X(TM+t)、・・・、X(TM+t−M+1)]
ここで、V[]は、分散、標準偏差、最大値と最小値との差分、エントロピー等のばらつき度を計算する演算子である。
尚、本例のばらつき度算出回路161では、フィルタリング後の開眼度の時系列信号X(t)を用いているが、その代わりに、上記フィルタリング後の左眼20Lの開眼度の時系列信号XFL(t)や、上記フィルタリング後の右眼20Rの開眼度の時系列信号XFR(t)を用いてもよい。その場合、ばらつき度算出回路161は、特徴量算出窓幅T[秒]内での、フィルタリング後の左眼20Lの開眼度の時系列信号XFL(t)のばらつき度を算出し、そのばらつき度を第1の特徴量F1(T)として出力する。また、ばらつき度算出回路161は、特徴量算出窓幅T[秒]内での、フィルタリング後の右眼20Rの開眼度の時系列信号XFR(t)のばらつき度を算出し、そのばらつき度を第1の特徴量F1(T)として出力する。
次に、図1の眠気推定器180について説明する。眠気推定器180は、特徴量F(T)から眠気の評定値を推定し、推定結果ERを出力する。図14は、眠気推定器180の動作の一例を示すフローチャートである。以下、図14を参照して、眠気推定器180の動作について説明する。
図示の眠気推定器180は、第1の特徴量F1(T)である特徴量F(T)から、上述した1〜5の眠気評定値を推定して、推定結果ERを出力する眠気推定器である。そのため、眠気推定器180には、第1乃至第4の閾値TH、TH、TH、およびTHが予め設定されている。ここで、第1乃至第4の閾値TH、TH、TH、およびTHは、この順番に大きくなる値を持っている。すなわち、TH<TH<TH<THである。
最初に、眠気推定器180は、特徴量F(T)と第1の閾値THとを比較する(ステップS11)。もし、特徴量F(T)が第1の閾値THより小さければ(ステップS11のYES)、眠気推定器180は、対象者20が「全く眠くなさそう」であると判断して、推定結果ERとして「1」の眠気評価値を出力する(ステップS12)。これは、図8に示されるように、対象者20の眼が冴えていて、開眼度を一定に維持できていることを示している。
もし、特徴量F(T)が第1の閾値TH以上であれば(ステップS11のNO)、眠気推定器180は、特徴量F(T)と第2の閾値THとを比較する(ステップS13)。もし、特徴量F(T)が第2の閾値THより小さければ(ステップS13のYES)、眠気推定器180は、対象者20が「やや眠そう」であると判断して、推定結果ERとして「2」の眠気評価値を出力する(ステップS14)。
もし、特徴量F(T)が第2の閾値TH以上であれば(ステップS13のNO)、眠気推定器180は、特徴量F(T)と第3の閾値THとを比較する(ステップS15)。もし、特徴量F(T)が第3の閾値THより小さければ(ステップS15のYES)、眠気推定器180は、対象者20が「眠そう」であると判断して、推定結果ERとして「3」の眠気評価値を出力する(ステップS16)。これは、図9に示されるように、対象者20が眠い状態であって、開眼度を一定に維持できていないことを示している。
もし、特徴量F(T)が第3の閾値TH以上であれば(ステップS15のNO)、眠気推定器180は、特徴量F(T)と第4の閾値TH4とを比較する(ステップS17)。もし、特徴量F(T)が第4の閾値THより小さければ(ステップS17のYES)、眠気推定器180は、対象者20が「かなり眠そう」であると判断して、推定結果ERとして「4」の眠気評価値を出力する(ステップS18)。
もし、特徴量F(T)が第4の閾値TH以上であれば(ステップS17のNO)、眠気推定器180は、対象者20が「非常に眠そう」であると判断して、推定結果ERとして「5」の眠気評価値を出力する(ステップS19)。
以上のようにして、眠気推定器180は、特徴量F(T)から1〜5の眠気評定値を推定して、推定結果ERを出力している。尚、推定結果ERを出力した後は、眠気推定器180はステップS11の処理に戻る。
尚、本例では、眠気推定器180は、特徴量F(T)を値の小さい第1乃至第4の閾値TH〜THの順番に比較しているが、本発明はこれに限定されない。すなわち、眠気推定器180は、特徴量F(T)を値の大きい第4乃至第1の閾値TH〜THの順番に比較してもよい。
また本例では、眠気推定器180は、推定結果ERとして1〜5の五段階の眠気評価値を出力しているが、本発明はこれに限定されない。例えば、眠気推定器180は、特徴量F(T)から、対象者20が「眠くない」状態であるのと「眠い」状態であるのと、の2つの状態のみを推定して、その2つの状態のみを推定結果ERとして出力してもよい。この場合には、眠気推定器180には1つの閾値THのみが設定される。1つの閾値THとしては、例えば、上記第3の閾値THを使用してよいが、本発明はこれに限定されない。状況に応じて、種々の閾値を選択してよいのは勿論である。また、眠気評定値は離散値だが、通常、眠気は連続値であるので、上記のように分類問題ではなく回帰問題として捉えて、連続値を推定するようにしてもよい。その場合、閾値ではなく回帰式のパラメータ、例えば線形単回帰の場合、ER=aF(T)+bにおけるaとbを事前に学習する等して設定すればよい。もちろん、上記の分類問題や回帰問題において、各種パラメータを学習する際には、線形な手法だけでなく、通常、よく利用される機械学習手法、例えば、サポートベクターマシン、ランダムフォレスト、ニューラルネットワークなど、様々な手法を適用できる。
[動作の説明]
次に、図15のフローチャートを参照して、本第1の実施形態に係る眠気推定装置100の動作について説明する。
まず、開眼度検出器120は、動画像信号V(t)から開眼度を検出して、開眼度の時系列信号X(t)を出力する(ステップS101)。
次に、フィルタリング回路部140は、開眼度の時系列信号X(t)から対象者20の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号X(t)を出力する(ステップS102)。
引き続いて、特徴量算出器160は、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、そのばらつき度を第1の特徴量F1(T)として出力する(ステップS103)。
最後に、眠気推定器180は、第1の特徴量F1(T)から対象者20の眠気を推定し、推定結果ERを出力する(ステップS104)。
[効果の説明]
次に、本第1の実施形態の効果について説明する。
本発明の第1の実施形態によれば、眠気を推定する時間窓幅や開眼度データのサンプリングレート等各種条件によらず高精度に眠気を推定することができる。第一の理由は、瞬きを眠気推定の特徴量としていないためである。瞬きの回数は、1分間に15〜20回と言われており、瞬き回数の変化や瞬き間隔の変化等の特徴を捉えるためには、最低でも1分間程度の時間窓で特徴を抽出する必要がある。しかし、本発明では瞬き区間を除く、残りの大部分の開眼度データを利用するため、時間窓幅を1分間より短く(例えば10秒)に設定しても、また長く(例えば3分)設定しても高精度に眠気を推定できる。さらに、開眼度データのサンプリングレートについては、0.1〜0.15秒の瞬きを捉えて特徴量を算出するために、高いサンプリングレート(例えば10フレーム/秒以上)に設定が必要となる。しかし、本発明では瞬きを捉える必要がないため、5フレーム/秒や3フレーム/秒としても高い精度で眠気を推定できる。低フレームレートで高精度に眠気を推定することは、カメラの要求仕様やCPUの要求仕様に直接的に影響する、すなわちシステムのコストに直接的に影響するため、産業上極めて重要である。次に、本発明が効果を得ることができる第二の理由は、本発明におけるフィルタリング回路部140で瞬きによる信号変化を除去する際、人の瞬きの時間長(0.1〜0.15秒)に基づいて、フィルタリング算出窓幅等のパラメータを設定しているためである。それにより、確実に瞬きによる信号変化の影響を取り除くことができ、パラメータ値が学習データ、すなわち人に依存しないため、高精度な眠気推定を実現できる。さらに第三の理由は、開眼度の時系列信号から対象者の瞬きによる信号変化を除去するようフィルタリングし、フィルタリング後の開眼度の時系列信号からばらつき度である第1の特徴量を算出し、その第1の特徴量から眠気の評定値を推定しているからである。フィルタリング後の開眼度の時系列信号からばらつき度を算出することで、浅い眠気であっても眠気の変化を確実にとらえることができる。
尚、眠気推定装置100の各部は、ハードウェアとソフトウェアとの組み合わせを用いて実現すればよい。ハードウェアとソフトウェアとを組み合わせた形態では、RAM(random access memory)に眠気推定プログラムが展開され、該眠気推定プログラムに基づいて制御部(CPU(central processing unit))等のハードウェアを動作させることによって、各部を各種手段として実現する。また、該眠気推定プログラムは、記録媒体に記録されて頒布されても良い。当該記録媒体に記録された眠気推定プログラムは、有線、無線、又は記録媒体そのものを介して、メモリに読込まれ、制御部等を動作させる。尚、記録媒体を例示すれば、オプティカルディスクや磁気ディスク、半導体メモリ装置、ハードディスクなどが挙げられる。
上記第1の実施形態を別の表現で説明すれば、眠気推定装置100として動作させるコンピュータを、RAMに展開された眠気推定プログラムに基づき、開眼度検出器120、フィルタリング回路部140、特徴量算出器160、および眠気推定器180として動作させることで実現することが可能である。
[第2の実施形態]
図16は、本発明の第2の実施形態に係る眠気推定装置100Aの構成を示すブロック図である。図示の眠気推定装置100Aは、プログラム制御により動作するコンピュータで実現可能である。
図示の眠気推定装置100Aは、特徴量算出器の構成が後述するように相違している点を除いて、図1に示した眠気推定装置100と同様の構成を有し、動作をする。したがって、特徴量算出器に160Aの参照符号を付してある。図1に示したものと同様の構成を有するものには同一の参照符号を付し、説明の簡略化のためにそれらの説明については省略する。
図17は、特徴量算出器160Aの構成を示すブロック図である。図示の特徴量算出器160Aは、差分最大値算出回路162を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。したがって、特徴量算出回路160Aは、ばらつき度算出回路161と、差分最大値算出回路162とを備えている。
差分最大値算出回路162は、開眼度の時系列信号X(t)のフレーム間差分の絶対値(以下、「フレーム間差分」と呼ぶ)を算出し、特徴量算出窓幅(T)[秒]内のフレーム間差分の最大値を求め、その最大値を第2の特徴量F2[T]として出力する。したがって、差分最大値算出回路162は、開眼度の時系列信号X(t)から第2の特徴量F2(T)を算出して、出力する第2の特徴量算出回路として働く。このフレーム間差分の絶対値の最大値は、眠い状態では値が小さくなり、目が冴えている状態では大きくなるため、眠気の推定に有用である。
フレーム間差分の最大値、すなわち、第2の特徴量F2(T)は、次の数9で表される。
[数9]
F2(T)
=1−max[|X(TM+t)−X(TM+t−1)|、・・・、
|X(TM+t−M+1)−X(TM+t−M+1−1)|]
ここで、1−max[]としているのは、他の特徴量と同様に、眠気が少ないほど値が小さくなるようにするためである。
尚、本例の差分最大値算出回路162では、開眼度の時系列信号X(t)を用いているが、その代わりに、上記左眼20Lの開眼度の時系列信号X(t)や、上記右眼20Rの開眼度の時系列信号X(t)を用いてもよい。その場合、差分最大値算出回路162は、特徴量算出窓幅T[秒]内での、左眼20Lの開眼度の時系列信号X(t)のフレーム間の差分の最大値を算出し、その最大値を第2の特徴量F2(T)として出力する。また、差分最大値算出回路162は、特徴量算出窓幅T[秒]内での、右眼20Rの開眼度の時系列信号X(t)のフレーム間の差分の最大値を算出し、その最大値を算出し、そのばらつき度を第2の特徴量F2(T)として出力する。
[動作の説明]
次に、図18のフローチャートを参照して、本第2の実施形態に係る眠気推定装置100Aの動作について説明する。
まず、開眼度検出器120は、動画像信号V(t)から開眼度を検出して、開眼度の時系列信号X(t)を出力する(ステップS201)。
次に、フィルタリング回路部140は、開眼度の時系列信号X(t)から対象者20の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号X(t)を出力する(ステップS202)。
引き続いて、特徴量算出器160Aは、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、そのばらつき度を第1の特徴量F1(T)として出力すると共に、特徴量算出窓幅T[秒]内での、開眼度の時系列信号X(t)のフレーム間差分の最大値を算出し、その最大値を第2の特徴量F2(T)として出力する(ステップS203)。
最後に、眠気推定器180は、第1の特徴量F1(T)と第2の特徴量F2(T)とから対象者20の眠気を推定し、推定結果を出力する(ステップS204)。
[効果の説明]
次に、本第2の実施形態の効果について説明する。
本発明の第2の実施形態によれば、第1の実施形態と比較して、さらに高精度に眠気を推定することできる。その理由は、開眼度のフレーム間差分の絶対値の最大値を第2の特徴量として加えることで、眠気推定に利用できる情報が増すためである。
尚、眠気推定装置100Aの各部は、ハードウェアとソフトウェアとの組み合わせを用いて実現すればよい。ハードウェアとソフトウェアとを組み合わせた形態では、RAM(random access memory)に眠気推定プログラムが展開され、該眠気推定プログラムに基づいて制御部(CPU(central processing unit))等のハードウェアを動作させることによって、各部を各種手段として実現する。また、該眠気推定プログラムは、記録媒体に記録されて頒布されても良い。当該記録媒体に記録された眠気推定プログラムは、有線、無線、又は記録媒体そのものを介して、メモリに読込まれ、制御部等を動作させる。尚、記録媒体を例示すれば、オプティカルディスクや磁気ディスク、半導体メモリ装置、ハードディスクなどが挙げられる。
上記第2の実施形態を別の表現で説明すれば、眠気推定装置100Aとして動作させるコンピュータを、RAMに展開された眠気推定プログラムに基づき、開眼度検出器120、フィルタリング回路部140、特徴量算出器160A、および眠気推定器180として動作させることで実現することが可能である。
[第3の実施形態]
図19は、本発明の第3の実施形態に係る眠気推定装置100Bの構成を示すブロック図である。図示の眠気推定装置100Bは、プログラム制御により動作するコンピュータで実現可能である。
図示の眠気推定装置100Bは、特徴量算出器の構成が相違している点を除いて、図1に示した眠気推定装置100と同様の構成を有し、動作をする。したがって、特徴量算出器に160Bの参照符号を付してある。図1に示したものと同様の構成を有するものには同一の参照符号を付し、説明の簡略化のためにそれらの説明については省略する。
図20は、特徴量算出器160Bの構成を示すブロック図である。図示の特徴量算出器160Bは、閉眼割合算出回路163を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。したがって、特徴量算出回路160Bは、ばらつき度算出回路161と、閉眼割合算出回路163とを備えている。
閉眼割合算出回路163は、開眼度の時系列信号X(t)から閉眼を検知し、特徴量算出窓幅(T)[秒]内の閉眼の割合を求め、その閉眼の割合を第3の特徴量F3[T]として出力する。したがって、閉眼割合算出回路163は、開眼度の時系列信号X(t)から第3の特徴量F3(T)を算出して、出力する第3の特徴量算出回路として働く。この閉眼割合は、眠い状態では値が大きくなり、目が冴えている状態では小さくなるため、眠気の推定に有用である。
[数10]
F3(T)=C/M
ただし、Cは[X(TM+t)、・・・、X(TM+t−M+1)]のうち、閉眼判定閾値(例えば、0.5)を下回る要素数とする。
尚、閉眼割合の詳細については、例えば、上記非特許文献2を参照されたい。
尚、本例の閉眼割合算出回路163でも、開眼度の時系列信号X(t)を用いているが、その代わりに、上記左眼20Lの開眼度の時系列信号X(t)や、上記右眼20Rの開眼度の時系列信号X(t)を用いてもよい。その場合、閉眼割合算出回路163は、特徴量算出窓幅T[秒]内での、左眼20Lの開眼度の時系列信号X(t)の閉眼の割合を算出し、その閉眼の割合を第3の特徴量F3(T)として出力する。また、閉眼割合算出回路163は、特徴量算出窓幅T[秒]内での、右眼20Rの開眼度の時系列信号X(t)の閉眼の割合を算出し、その閉眼の割合を第3の特徴量F3(T)として出力する。また、左眼20Lの開眼度の時系列信号X(t)と右眼20Rの開眼度の時系列信号X(t)との両方が同時に閉眼している割合を算出し、その閉眼の割合を第3の特徴量F3(T)として出力する。また、左眼20Lの開眼度の時系列信号X(t)の閉眼の割合、右眼20Rの開眼度の時系列信号X(t)の閉眼の割合をそれぞれ算出し、それらを要素とする第3の特徴量F3(T)=[X(t)の閉眼割合、X(t)の閉眼の割合]を出力する。また、複数の閉眼判定閾値(例えば、0.5と0.8等)を用いて、複数の閉眼割合を算出し、それらを要素とする第3の特徴量F3(T)=[閉眼判定閾値0.5の場合の閉眼割合、閉眼判定閾値0.8の場合の閉眼割合]を出力する。
[動作の説明]
次に、図21のフローチャートを参照して、本第3の実施形態に係る眠気推定装置100Bの動作について詳細に説明する。
まず、開眼度検出器120は、動画像信号V(t)から開眼度を検出して、開眼度の時系列信号X(t)を出力する(ステップS301)。
次に、フィルタリング回路部140は、開眼度の時系列信号X(t)から対象者20の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号X(t)を出力する(ステップS302)。
引き続いて、特徴量算出器160Bは、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、そのばらつき度を第1の特徴量F1(T)として出力すると共に、特徴量算出窓幅T[秒]内での、開眼度の時系列信号X(t)の閉眼の割合を算出し、その閉眼の割合を第3の特徴量F3(T)として出力する(ステップS303)。
最後に、眠気推定器180は、第1の特徴量F1(T)と第3の特徴量F3(T)とから対象者20の眠気の評価値を推定し、推定結果を出力する(ステップS304)。
[効果の説明]
次に、本第3の実施形態の効果について説明する。
本発明の第3の実施形態によれば、第1の実施形態と比較して、さらに高精度に眠気を推定することできる。その理由は、閉眼割合を第3の特徴量として加えることで、眠気推定に利用できる情報が増すためである。特に、完全に寝ている状態において、第1の特徴量だけで、寝ている状態と推定することは難しい。一方、完全に寝ている状態において閉眼割合は明らかに高い。そのため、この第3の特徴量を加えることで、完全に寝ている状態も含めて高精度に眠気を推定することができる。なお、第3の特徴量だけでは、閉眼割合が小さい浅い眠気を推定することが難しく、第1の特徴量と第3の特徴量を組み合わせて用いることの効果は極めて高い。
尚、眠気推定装置100Bの各部は、ハードウェアとソフトウェアとの組み合わせを用いて実現すればよい。ハードウェアとソフトウェアとを組み合わせた形態では、RAM(random access memory)に眠気推定プログラムが展開され、該眠気推定プログラムに基づいて制御部(CPU(central processing unit))等のハードウェアを動作させることによって、各部を各種手段として実現する。また、該眠気推定プログラムは、記録媒体に記録されて頒布されても良い。当該記録媒体に記録された眠気推定プログラムは、有線、無線、又は記録媒体そのものを介して、メモリに読込まれ、制御部等を動作させる。尚、記録媒体を例示すれば、オプティカルディスクや磁気ディスク、半導体メモリ装置、ハードディスクなどが挙げられる。
上記第3の実施形態を別の表現で説明すれば、眠気推定装置100Bとして動作させるコンピュータを、RAMに展開された眠気推定プログラムに基づき、開眼度検出器120、フィルタリング回路部140、特徴量算出器160B、および眠気推定器180として動作させることで実現することが可能である。
[第4の実施形態]
図22は、本発明の第4の実施形態に係る眠気推定装置100Cの構成を示すブロック図である。図示の眠気推定装置100Cは、プログラム制御により動作するコンピュータで実現可能である。
図示の眠気推定装置100Cは、特徴量算出器の構成が相違している点を除いて、図1に示した眠気推定装置100と同様の構成を有し、動作をする。したがって、特徴量算出器に160Cの参照符号を付してある。図1に示したものと同様の構成を有するものには同一の参照符号を付し、説明の簡略化のためにそれらの説明については省略する。
図23は、特徴量算出器160Cの構成を示すブロック図である。図示の特徴量算出器160Cは、動き差分平均値算出回路164を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。したがって、特徴量算出回路160Cは、ばらつき度算出回路161と、動き差分平均値算出回路164とを備えている。
動き差分平均値算出回路164は、左眼20Lの開眼度の時系列信号X(t)と右眼20Rの開眼度の時系列信号X(t)との間の動き差分の絶対値(以下、「動き差分」と呼ぶ)を算出し、特徴量算出窓幅(T)[秒]内の上記動き差分の平均値を求め、その動き差分の平均値を第4の特徴量F4[T]として出力する。したがって、動き差分平均値算出回路164は、開眼度の時系列信号X(t)から第4の特徴量F4(T)を算出して、出力する第4の特徴量算出回路として働く。この動き差分平均値は、眠い状態では値が大きくなり、目が冴えている状態では小さくなるため、眠気の推定に有用である。
動き差分の平均値、すなわち、第4の特徴量F4(T)は、次の数11で表される。
[数11]
F4(T)
=average[|{X(TM+t)−X(TM+t−1)}−
{X(TM+t)−X(TM+t−1)}|、・・・、
|{X(TM+t−M+1)−X(TM+t−M+1−1)}−
{X(TM+t−M+1)−X(TM+t−M+1−1)}|]
[動作の説明]
次に、図24のフローチャートを参照して、本第4の実施形態に係る眠気推定装置100Cの動作について詳細に説明する。
まず、開眼度検出器120は、動画像信号V(t)から開眼度を検出して、開眼度の時系列信号X(t)、左眼20Lの開眼度の時系列信号X(t)、および右眼20Rの開眼度の時系列信号X(t)を出力する(ステップS401)。
次に、フィルタリング回路部140は、開眼度の時系列信号X(t)から対象者20の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号X(t)を出力する(ステップS402)。
引き続いて、特徴量算出器160Cは、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、そのばらつき度を第1の特徴量F1(T)として出力すると共に、特徴量算出窓幅T[秒]内での、左眼と右眼の開眼度の動き差分を算出し、その動き差分の平均値を第4の特徴量F4(T)として出力する(ステップS403)。
最後に、眠気推定器180は、第1の特徴量F1(T)と第4の特徴量F4(T)とから対象者20の眠気を推定し、推定結果を出力する(ステップS404)。
[効果の説明]
次に、本第4の実施形態の効果について説明する。
本発明の第4の実施形態によれば、第1の実施形態と比較して、さらに高精度に眠気を推定することできる。その理由は、動き差分平均値を第4の特徴量として加えることで、眠気推定に利用できる情報が増すためである。眠い状態における、右眼と左眼の異なる動きを的確に捉えることにより、眠気推定の精度が向上する。
尚、眠気推定装置100Cの各部は、ハードウェアとソフトウェアとの組み合わせを用いて実現すればよい。ハードウェアとソフトウェアとを組み合わせた形態では、RAM(random access memory)に眠気推定プログラムが展開され、該眠気推定プログラムに基づいて制御部(CPU(central processing unit))等のハードウェアを動作させることによって、各部を各種手段として実現する。また、該眠気推定プログラムは、記録媒体に記録されて頒布されても良い。当該記録媒体に記録された眠気推定プログラムは、有線、無線、又は記録媒体そのものを介して、メモリに読込まれ、制御部等を動作させる。尚、記録媒体を例示すれば、オプティカルディスクや磁気ディスク、半導体メモリ装置、ハードディスクなどが挙げられる。
上記第4の実施形態を別の表現で説明すれば、眠気推定装置100Cとして動作させるコンピュータを、RAMに展開された眠気推定プログラムに基づき、開眼度検出器120、フィルタリング回路部140、特徴量算出器160C、および眠気推定器180として動作させることで実現することが可能である。
[第5の実施形態]
図25は、本発明の第5の実施形態に係る眠気推定装置100Dの構成を示すブロック図である。図示の眠気推定装置100Dは、プログラム制御により動作するコンピュータで実現可能である。
図示の眠気推定装置100Dは、特徴量算出器の構成が相違している点を除いて、図1に示した眠気推定装置100と同様の構成を有し、動作をする。したがって、特徴量算出器に160Dの参照符号を付してある。図1に示したものと同様の構成を有するものには同一の参照符号を付し、説明の簡略化のためにそれらの説明については省略する。
図26は、特徴量算出器160Dの構成を示すブロック図である。図示の特徴量算出器160Dは、隣接差分算出回路165を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。したがって、特徴量算出回路160Dは、ばらつき度算出回路161と、隣接差分算出回路165とを備えている。
隣接差分算出回路165は、ある特徴量算出窓幅(T)[秒]で算出された第1の特徴量F1[T]とそれに隣接する特徴量算出窓幅(T)[秒]で算出された第1の特徴量F1[T−1]との差分の絶対値(以下、「隣接窓間の差分」と呼ぶ)を算出して、その隣接窓間の差分を第5の特徴量F11[T]として出力する。したがって、隣接差分算出回路165は、第1の特徴量F1[T]における隣接窓間の差分を第5の特徴量F11(T)として算出して、出力する第5の特徴量算出回路として働く。この隣接窓間の差分は、眠い状態では値が大きくなり、目が冴えている状態では小さくなるため、眠気の推定に有用である。
隣接窓間の差分、すなわち、第5の特徴量F11(T)は、次の数12で表される。
[数12]
F11(T)=|F1(T)−F1(T−1)|
尚、本第5の実施形態では、第5の特徴量として、第1の特徴量F1[T]における隣接窓間の差分F11(T)を用いているが、本発明はこれに限定されない。例えば、第5の特徴量としては、上記第2の特徴量F2[T]における隣接窓間の差分F21(T)や、上記第3の特徴量F3[T]における隣接窓間の差分F31(T)や、上記4の特徴量F4[T]における隣接窓間の差分F41(T)を用いてもよい。
[動作の説明]
次に、図27のフローチャートを参照して、本第5の実施形態に係る眠気推定装置100Dの動作について詳細に説明する。
まず、開眼度検出器120は、動画像信号V(t)から開眼度を検出して、開眼度の時系列信号X(t)を出力する(ステップS501)。
次に、フィルタリング回路部140は、開眼度の時系列信号X(t)から対象者20の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号X(t)を出力する(ステップS502)。
引き続いて、特徴量算出器160Dは、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、そのばらつき度を第1の特徴量F1(T)として出力すると共に、隣接する2つの特徴量算出窓幅T[秒]間の第1の特徴量F1(T)の差分(隣接窓間の差分)を算出し、その隣接窓間の差分を第5の特徴量F11(T)として出力する(ステップS503)。
最後に、眠気推定器180は、第1の特徴量F1(T)と第5の特徴量F11(T)とから対象者20の眠気を推定し、推定結果ERを出力する(ステップS504)。
尚、本第5の実施形態では、眠気推定器180に供給する特徴量として、第1の特徴量F1(T)と第5の特徴量F11(T)との両方を使用しているが、本発明はこれに限定されない。すなわち、眠気推定器180に供給する特徴量として第5の特徴量F11(T)のみを用いてもよい。この場合、眠気推定器180は、第5の特徴量F11(T)から対象者20の眠気の評価値を推定し、推定結果ERを出力することになる。
[効果の説明]
次に、本第5の実施形態の効果について説明する。
本発明の第5の実施形態によれば、第1の実施形態と比較して、同等以上の精度で眠気を推定することできる。その理由は、隣接窓間の差分を第5の特徴量として用いることで、眠気推定に利用できる情報が増すためである。眠い状態において、隣接窓間の差分が大きくなること、より長時間の変化を簡単かつ的確に捉えることにより、眠気推定の精度が向上する。
尚、眠気推定装置100Dの各部は、ハードウェアとソフトウェアとの組み合わせを用いて実現すればよい。ハードウェアとソフトウェアとを組み合わせた形態では、RAM(random access memory)に眠気推定プログラムが展開され、該眠気推定プログラムに基づいて制御部(CPU(central processing unit))等のハードウェアを動作させることによって、各部を各種手段として実現する。また、該眠気推定プログラムは、記録媒体に記録されて頒布されても良い。当該記録媒体に記録された眠気推定プログラムは、有線、無線、又は記録媒体そのものを介して、メモリに読込まれ、制御部等を動作させる。尚、記録媒体を例示すれば、オプティカルディスクや磁気ディスク、半導体メモリ装置、ハードディスクなどが挙げられる。
上記第5の実施形態を別の表現で説明すれば、眠気推定装置100Dとして動作させるコンピュータを、RAMに展開された眠気推定プログラムに基づき、開眼度検出器120、フィルタリング回路部140、特徴量算出器160D、および眠気推定器180として動作させることで実現することが可能である。
[第6の実施形態]
図28は、本発明の第6の実施形態に係る眠気推定装置100Eの構成を示すブロック図である。図示の眠気推定装置100Eは、プログラム制御により動作するコンピュータで実現可能である。
図示の眠気推定装置100Eは、特徴量算出器の構成が相違している点を除いて、図1に示した眠気推定装置100と同様の構成を有し、動作をする。したがって、特徴量算出器に160Eの参照符号を付してある。図1に示したものと同様の構成を有するものには同一の参照符号を付し、説明の簡略化のためにそれらの説明については省略する。
図29は、特徴量算出器160Eの構成を示すブロック図である。図示の特徴量算出器160Eは、対数算出回路166を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。したがって、特徴量算出回路160Eは、ばらつき度算出回路161と、対数算出回路166とを備えている。
対数算出回路166は、第1の特徴量F1[T]の対数を算出して、その対数を第6の特徴量F12[T]として出力する。したがって、対数算出回路166は、第1の特徴量F1[T]の対数を第6の特徴量F12[T]として算出して、出力する第6の特徴量算出回路として働く。前述の通り、推定対象の眠気評定値を算出するのは、人である。一般に人の感覚は対数に従っていると言われており、眠気評定値も対数に従っている。そのため、特徴量の対数をとることで、特徴量と眠気評定値との間の関係性を線形にできる。
第1の特徴量の対数、すなわち、第6の特徴量F12(T)は、次の数13で表される。
[数13]
F12(T)=Log{F1[T]+α}
ここで、αは小さな値、例えば、10−6である。尚、第1の特徴量F1[T]に小さな値αを加えているのでは、対数の中身がゼロにならないようにするためである。
尚、本第6の実施形態では、第6の特徴量として、第1の特徴量F1[T]の対数を用いているが、本発明はこれに限定されない。例えば、第6の特徴量としては、上記第2の特徴量F2[T]の対数F22[T]や、上記第3の特徴量F3[T]の対数F32(T)や、上記4の特徴量F4[T]の対数F42[T]や、上記5の特徴量F11[T]の対数F112[T]を用いてもよい。
[動作の説明]
次に、図30のフローチャートを参照して、本第6の実施形態に係る眠気推定装置100Eの動作について詳細に説明する。
まず、開眼度検出器120は、動画像信号V(t)から開眼度を検出して、開眼度の時系列信号X(t)を出力する(ステップS601)。
次に、フィルタリング回路部140は、開眼度の時系列信号X(t)から対象者20の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号X(t)を出力する(ステップS602)。
引き続いて、特徴量算出器160Eは、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、そのばらつき度を第1の特徴量F1(T)として出力すると共に、ばらつき度の対数を算出し、その対数を第6の特徴量F12(T)として出力する(ステップS603)。
最後に、眠気推定器180は、第1の特徴量F1(T)と第6の特徴量F12(T)とから対象者20の眠気を推定し、推定結果ERを出力する(ステップS604)。
尚、本第6の実施形態では、眠気推定器180に供給する特徴量として、第1の特徴量F1(T)と第6の特徴量F12(T)との両方を使用しているが、本発明はこれに限定されない。すなわち、眠気推定器180に供給する特徴量として第6の特徴量F12(T)のみを用いてもよい。この場合、眠気推定器180は、第6の特徴量F12(T)から対象者20の眠気を推定し、推定結果ERを出力することになる。
[効果の説明]
次に、本第6の実施形態の効果について説明する。
本発明の第6の実施形態によれば、第1の実施形態と比較して、同等以上の精度で眠気を推定することできる。その理由は、第1の特徴量の対数値を第6の特徴量として用いることで、特徴量と眠気評定値との間の関係性が線形になるためである。関係性が簡単になることで、関係式を推定することが容易になり、眠気推定の精度が向上する。
尚、眠気推定装置100Eの各部は、ハードウェアとソフトウェアとの組み合わせを用いて実現すればよい。ハードウェアとソフトウェアとを組み合わせた形態では、RAM(random access memory)に眠気推定プログラムが展開され、該眠気推定プログラムに基づいて制御部(CPU(central processing unit))等のハードウェアを動作させることによって、各部を各種手段として実現する。また、該眠気推定プログラムは、記録媒体に記録されて頒布されても良い。当該記録媒体に記録された眠気推定プログラムは、有線、無線、又は記録媒体そのものを介して、メモリに読込まれ、制御部等を動作させる。尚、記録媒体を例示すれば、オプティカルディスクや磁気ディスク、半導体メモリ装置、ハードディスクなどが挙げられる。
上記第6の実施形態を別の表現で説明すれば、眠気推定装置100Eとして動作させるコンピュータを、RAMに展開された眠気推定プログラムに基づき、開眼度検出器120、フィルタリング回路部140、特徴量算出器160E、および眠気推定器180として動作させることで実現することが可能である。
[第7の実施形態]
図31は、本発明の第7の実施形態に係る眠気推定装置100Fの構成を示すブロック図である。図示の眠気推定装置100Fは、プログラム制御により動作するコンピュータで実現可能である。
図示の眠気推定装置100Fは、特徴量算出器の構成が相違している点を除いて、図1に示した眠気推定装置100と同様の構成を有し、動作をする。したがって、特徴量算出器に160Fの参照符号を付してある。図1に示したものと同様の構成を有するものには同一の参照符号を付し、説明の簡略化のためにそれらの説明については省略する。
図32は、特徴量算出器160Fの構成を示すブロック図である。図示の特徴量算出器160Fは、上述した特徴量の統計量を特徴量として用いている。図示の特徴量算出器160Fは、統計量算出窓幅T[秒]毎に、後述するように、上述した特徴量のいずれかの統計量F(S)を算出し、特徴量として用いることを特徴としている。ここで、Sは時間のインデックスであり、統計量算出窓の窓番号(0,1,2,...)を示す。また、図示の例では、統計量算出窓幅T[秒]内の特徴量の数がKであるとする。図4に示される例では、統計量算出窓幅Tは60[秒]に等しく、したがって、特徴量の数Kは6に等しい。
図示の例では、上述した特徴量として第1の特徴量F1[T]を用い、統計量として第1の特徴量F1[T]の平均値を用いている。したがって、特徴量算出器160Fは、平均値算出回路167を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。平均値算出回路167は、統計量算出回路として動作する。
平均値算出回路167は、統計量算出窓幅T[秒]内の、第1の特徴量F1(T)の平均値を算出して、その平均値を第7の特徴量F13(S)として出力する。したがって、平均値算出回路167は、統計量算出窓幅T[秒]毎に、第1の特徴量F1(T)の平均値を、第7の特徴量F13(S)として算出して、出力する第7の特徴量算出回路として働く。
第1の特徴量の平均値、すなわち、第7の特徴量F13(S)は、次の数14で表される。ただし、average[]は要素の平均値を算出する演算子である。
[数14]
F13(S)=
average[F1(S*K+T)、・・・F1(S*K+T−K+1)]
尚、本第7の実施形態では、第7の特徴量(統計量)として、第1の特徴量F1(T)の平均値を用いているが、本発明はこれに限定されない。例えば、第7の特徴量としては、上記第2の特徴量F2(T)の平均値F23(S)や、上記第3の特徴量F3(T)の平均値F33(S)や、上記4の特徴量F4(T)の平均値F43(S)や、上記5の特徴量F11(T)の平均値F113(S)や、上記第6の特徴量F12(T)の平均値F123(S)を用いてもよい。
[動作の説明]
次に、図33のフローチャートを参照して、本第7の実施形態に係る眠気推定装置100Fの動作について詳細に説明する。
まず、開眼度検出器120は、動画像信号V(t)から開眼度を検出して、開眼度の時系列信号X(t)を出力する(ステップS701)。
次に、フィルタリング回路部140は、開眼度の時系列信号X(t)から対象者20の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号X(t)を出力する(ステップS702)。
引き続いて、特徴量算出器160Fは、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、統計量算出窓幅T[秒]内でのばらつき度の平均値を算出し、その平均値を第7の特徴量F13(S)として出力する(ステップS703)。
最後に、眠気推定器180は、第7の特徴量F13(S)から対象者20の眠気を推定し、推定結果ERを出力する(ステップS704)。
尚、本第7の実施形態では、眠気推定器180に供給する特徴量として、第7の特徴量F13(S)を使用している。この場合、眠気推定器180は、第7の特徴量F13(S)から対象者20の眠気を推定し、推定結果ERを出力することになる。
[効果の説明]
次に、本第7の実施形態の効果について説明する。
本発明の第7の実施形態によれば、第1の実施形態と比較して、より安定して眠気を推定することできる。その理由は、第1の特徴量の統計値(平均値)を第7の特徴量として用いることで、より長時間の安定した特徴となるためである。
尚、眠気推定装置100Fの各部は、ハードウェアとソフトウェアとの組み合わせを用いて実現すればよい。ハードウェアとソフトウェアとを組み合わせた形態では、RAM(random access memory)に眠気推定プログラムが展開され、該眠気推定プログラムに基づいて制御部(CPU(central processing unit))等のハードウェアを動作させることによって、各部を各種手段として実現する。また、該眠気推定プログラムは、記録媒体に記録されて頒布されても良い。当該記録媒体に記録された眠気推定プログラムは、有線、無線、又は記録媒体そのものを介して、メモリに読込まれ、制御部等を動作させる。尚、記録媒体を例示すれば、オプティカルディスクや磁気ディスク、半導体メモリ装置、ハードディスクなどが挙げられる。
上記第7の実施形態を別の表現で説明すれば、眠気推定装置100Fとして動作させるコンピュータを、RAMに展開された眠気推定プログラムに基づき、開眼度検出器120、フィルタリング回路部140、特徴量算出器160F、および眠気推定器180として動作させることで実現することが可能である。
[第8の実施形態]
図34は、本発明の第8の実施形態に係る眠気推定装置100Gの構成を示すブロック図である。図示の眠気推定装置100Gは、プログラム制御により動作するコンピュータで実現可能である。
図示の眠気推定装置100Gは、特徴量算出器の構成が相違している点を除いて、図1に示した眠気推定装置100と同様の構成を有し、動作をする。したがって、特徴量算出器に160Gの参照符号を付してある。図1に示したものと同様の構成を有するものには同一の参照符号を付し、説明の簡略化のためにそれらの説明については省略する。
図35は、特徴量算出器160Gの構成を示すブロック図である。図示の特徴量算出器160Gは、上記統計量として第1の特徴量F1[T]の標準偏差を用いている。すなわち、特徴量算出器160Gは、平均値算出回路167の代わりに標準偏差算出回路168を備えている点を除いて、図32に示す特徴量算出器160Fと同様の構成を有し、動作をする。標準偏差算出回路168も統計量算出回路として動作する。
標準偏差算出回路168は、統計量算出窓幅T[秒]内の、第1の特徴量F1(T)の標準偏差を算出して、その標準偏差を第8の特徴量F14(S)として出力する。したがって、標準偏差算出回路168は、統計量算出窓幅T[秒]毎に、第1の特徴量F1(T)の標準偏差を、第8の特徴量F14(S)として算出して、出力する第8の特徴量算出回路として働く。
第1の特徴量の標準偏差、すなわち、第8の特徴量F14(S)は、次の数15で表される。ただし、standard_dev[]は要素の標準偏差を算出する演算子である。
[数15]
F14(S)=
standard_dev[F1(S*K+T)、・・・F1(S*K+T−K+1)]
尚、本第8の実施形態では、第8の特徴量(統計量)として、第1の特徴量F1(T)の標準偏差を用いているが、本発明はこれに限定されない。例えば、第8の特徴量としては、上記第2の特徴量F2(T)の標準偏差F24(S)や、上記第3の特徴量F3(T)の標準偏差F34(S)や、上記4の特徴量F4(T)の標準偏差F44(S)や、上記5の特徴量F11(T)の標準偏差F114(S)や、上記第6の特徴量F12(T)の標準偏差F124(S)を用いてもよい。
[動作の説明]
次に、図36のフローチャートを参照して、本第8の実施形態に係る眠気推定装置100Gの動作について詳細に説明する。
まず、開眼度検出器120は、動画像信号V(t)から開眼度を検出して、開眼度の時系列信号X(t)を出力する(ステップS801)。
次に、フィルタリング回路部140は、開眼度の時系列信号X(t)から対象者20の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号X(t)を出力する(ステップS802)。
引き続いて、特徴量算出器160Gは、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、統計量算出窓幅T[秒]内でのばらつき度の標準偏差を算出し、その標準偏差を第8の特徴量F14(S)として出力する(ステップS803)。
最後に、眠気推定器180は、第8の特徴量F14(S)から対象者20の眠気を推定し、推定結果ERを出力する(ステップS804)。
尚、本第8の実施形態では、眠気推定器180に供給する特徴量として、第8の特徴量F14(S)を使用している。この場合、眠気推定器180は、第8の特徴量F14(S)から対象者20の眠気を推定し、推定結果ERを出力することになる。
[効果の説明]
次に、本第8の実施形態の効果について説明する。
本発明の第8の実施形態によれば、第1の実施形態と比較して、より安定して眠気を推定することできる。その理由は、第1の特徴量の統計値(標準偏差)を第8の特徴量として用いることで、より長時間の安定した特徴となるためである。
尚、眠気推定装置100Gの各部は、ハードウェアとソフトウェアとの組み合わせを用いて実現すればよい。ハードウェアとソフトウェアとを組み合わせた形態では、RAM(random access memory)に眠気推定プログラムが展開され、該眠気推定プログラムに基づいて制御部(CPU(central processing unit))等のハードウェアを動作させることによって、各部を各種手段として実現する。また、該眠気推定プログラムは、記録媒体に記録されて頒布されても良い。当該記録媒体に記録された眠気推定プログラムは、有線、無線、又は記録媒体そのものを介して、メモリに読込まれ、制御部等を動作させる。尚、記録媒体を例示すれば、オプティカルディスクや磁気ディスク、半導体メモリ装置、ハードディスクなどが挙げられる。
上記第8の実施形態を別の表現で説明すれば、眠気推定装置100Gとして動作させるコンピュータを、RAMに展開された眠気推定プログラムに基づき、開眼度検出器120、フィルタリング回路部140、特徴量算出器160G、および眠気推定器180として動作させることで実現することが可能である。
[第9の実施形態]
図37は、本発明の第9の実施形態に係る眠気推定装置100Hの構成を示すブロック図である。図示の眠気推定装置100Hは、プログラム制御により動作するコンピュータで実現可能である。
図示の眠気推定装置100Hは、特徴量算出器の構成が相違している点を除いて、図1に示した眠気推定装置100と同様の構成を有し、動作をする。したがって、特徴量算出器に160Hの参照符号を付してある。図1に示したものと同様の構成を有するものには同一の参照符号を付し、説明の簡略化のためにそれらの説明については省略する。
図38は、特徴量算出器160Hの構成を示すブロック図である。図示の特徴量算出器160Hは、上記統計量として第1の特徴量F1[T]の分散を用いている。すなわち、特徴量算出器160Hは、平均値算出回路167の代わりに分散算出回路169を備えている点を除いて、図32に示す特徴量算出器160Fと同様の構成を有し、動作をする。分散算出回路169も、統計量算出回路として動作する。
分散算出回路169は、統計量算出窓幅T[秒]内の、第1の特徴量F1(T)の分散を算出して、その分散を第9の特徴量F15(S)として出力する。したがって、分散算出回路169は、統計量算出窓幅T[秒]毎に、第1の特徴量F1(T)の分散を、第9の特徴量F15(S)として算出して、出力する第9の特徴量算出回路として働く。
第1の特徴量の分散、すなわち、第9の特徴量F15(S)は、次の数16で表される。ただし、variance[]は要素の分散値を算出する演算子である。
[数16]
F15(S)=
variance[F1(S*K+T)、・・・F1(S*K+T−K+1)]
尚、本第9の実施形態では、第9の特徴量(統計量)として、第1の特徴量F1(T)の分散を用いているが、本発明はこれに限定されない。例えば、第9の特徴量としては、上記第2の特徴量F2(T)の分散F25(S)や、上記第3の特徴量F3(T)の分散F35(S)や、上記4の特徴量F4(T)の分散F45(S)や、上記5の特徴量F11(T)の分散F115(S)や、上記第6の特徴量F12(T)の分散F125(S)を用いてもよい。
[動作の説明]
次に、図39のフローチャートを参照して、本第9の実施形態に係る眠気推定装置100Hの動作について詳細に説明する。
まず、開眼度検出器120は、動画像信号V(t)から開眼度を検出して、開眼度の時系列信号X(t)を出力する(ステップS901)。
次に、フィルタリング回路部140は、開眼度の時系列信号X(t)から対象者20の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号X(t)を出力する(ステップS902)。
引き続いて、特徴量算出器160Hは、特徴量算出窓幅T[秒]内での、フィルタリング後の開眼度の時系列信号X(t)のばらつき度を算出し、統計量算出窓幅T[秒]内でのばらつき度の分散を算出し、その分散を第9の特徴量F15(S)として出力する(ステップS903)。
最後に、眠気推定器180は、第9の特徴量F15(S)から対象者20の眠気を推定し、推定結果ERを出力する(ステップS904)。
尚、本第9の実施形態では、眠気推定器180に供給する特徴量として、第9の特徴量F15(S)を使用している。この場合、眠気推定器180は、第9の特徴量F15(S)から対象者20の眠気を推定し、推定結果ERを出力することになる。
[効果の説明]
次に、本第9の実施形態の効果について説明する。
本発明の第9の実施形態によれば、第1の実施形態と比較して、より安定して眠気を推定することできる。その理由は、第1の特徴量の統計値(分散)を第9の特徴量として用いることで、より長時間の安定した特徴となるためである。
尚、眠気推定装置100Hの各部は、ハードウェアとソフトウェアとの組み合わせを用いて実現すればよい。ハードウェアとソフトウェアとを組み合わせた形態では、RAM(random access memory)に眠気推定プログラムが展開され、該眠気推定プログラムに基づいて制御部(CPU(central processing unit))等のハードウェアを動作させることによって、各部を各種手段として実現する。また、該眠気推定プログラムは、記録媒体に記録されて頒布されても良い。当該記録媒体に記録された眠気推定プログラムは、有線、無線、又は記録媒体そのものを介して、メモリに読込まれ、制御部等を動作させる。尚、記録媒体を例示すれば、オプティカルディスクや磁気ディスク、半導体メモリ装置、ハードディスクなどが挙げられる。
上記第9の実施形態を別の表現で説明すれば、眠気推定装置100Hとして動作させるコンピュータを、RAMに展開された眠気推定プログラムに基づき、開眼度検出器120、フィルタリング回路部140、特徴量算出器160H、および眠気推定器180として動作させることで実現することが可能である。
なお、本発明の具体的な構成は前述の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の変更があってもこの発明に含まれる。
以上、実施形態(実施例)を参照して本願発明を説明したが、本願発明は上記実施形態(実施例)に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)対象者の開眼度の時系列信号から前記対象者の眠気を推定する眠気推定装置であって、
前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力するフィルタリング回路部と、
少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出する特徴量算出器と、
前記特徴量から前記眠気の評定値を推定して、推定結果を出力する眠気推定器と、
を備え、
前記特徴量算出器は、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する第1の特徴量算出回路を、少なくとも含む、
眠気推定装置。
(付記2)前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
Nをフレーム数とし、フィルタリング算出窓幅をT[秒]としたとき、N=T×fsの関係があり、
前記フィルタリング回路部は、前記フィルタリング算出窓幅(T)単位で前記開眼度の時系列信号をフィルタリングすることにより所定の値に置換し、該置換した信号を前記フィルタリング後の開眼度の時系列信号として出力する、
付記1に記載の眠気推定装置。
(付記3)前記フィルタリング算出窓幅(T)が0.1[秒]以上であるとき、
前記フィルタリング回路部は、前記所定の値として、フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の最大値を取得する最大値取得回路から成る、
付記2に記載の眠気推定装置。
(付記4)Pが2以上の整数であり、前記フィルタリング算出窓幅(T)が0.2[秒]以上であるとき、
前記フィルタリング回路部は、前記所定の値として、前記フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の第(P−1)P分位点の値、又は該第(P−1)P分位点以上の平均値を算出する分位点算出回路から成る、
付記2に記載の眠気推定装置。
(付記5)前記フィルタリング算出窓幅(T)が1[秒]以上であるとき、
前記フィルタリング回路部は、前記所定の値として、前記フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の平均値を算出する平均値算出回路から成る、
付記2に記載の眠気推定装置。
(付記6)前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
前記フィルタリング回路部は、カットオフ周波数fc[Hz]が前記fsより十分小さく、6Hzより小さいローパスフィルタから成る、
付記1に記載の眠気推定装置。
(付記7)前記特徴量算出器は、前記開眼度の時系列信号のフレーム間差分を算出し、前記特徴量算出窓幅(T)[秒]内の前記フレーム間差分の最大値を求め、該最大値を第2の特徴量として出力する第2の特徴量算出回路を、更に含む、付記1乃至6のいずれか1項に記載の眠気推定装置。
(付記8)前記特徴量算出器は、前記開眼度の時系列信号から閉眼を検知し、前記第1の所定時間窓幅(T)[秒]内の前記閉眼の割合を求め、該閉眼の割合を第3の特徴量として出力する第3の特徴量算出回路を、更に含む、付記1乃至7のいずれか1項に記載の眠気推定装置。
(付記9)前記特徴量算出器は、前記開眼度の時系列信号から左眼と右眼の開眼度の動き差分を算出し、前記特徴量算出窓幅(T)[秒]内の前記動き差分の平均値を求め、該動き差分の平均値を第4の特徴量として出力する第4の特徴量算出回路を、更に含む、付記1乃至8のいずれか1項に記載の眠気推定装置。
(付記10)前記特徴量算出器は、隣接する2つの特徴量算出窓幅(T)[秒]で、前記第1乃至第4の特徴量算出器でそれぞれ算出される、隣接する2つの第1乃至第4の特徴量の差分を求め、該差分の中から選択された1つを第5の特徴量として出力する第5の特徴量算出回路を更に含む、付記9に記載の眠気推定装置。
(付記11)前記特徴量算出器は、前記第1乃至第5の特徴量算出回路でそれぞれ算出される、第1乃至第5の特徴量の対数を求め、該対数の中から選択された1つを第6の特徴量として出力する第6の特徴量算出回路を更に含む、付記10に記載の眠気推定装置。
(付記12)前記特徴量算出器は、前記特徴量算出窓幅(T)[秒]の倍数である統計量算出窓幅(T)[秒]内の、前記特徴量算出窓幅(T)[秒]毎に前記第1乃至第6の特徴量算出回路でそれぞれ算出された第1乃至第6の特徴量から選択された1つの統計量を算出する統計量算出回路を更に含む、付記11に記載の眠気推定装置。
(付記13)前記統計量算出回路は、前記統計量として、前記統計量算出窓幅(T)[秒]毎に、前記第1乃至第6の特徴量から選択された1つの平均値、標準偏差、および分散の中から選択された少なくとも1つを算出する、付記12に記載の眠気推定装置。
(付記14)対象者の開眼度の時系列信号から前記対象者の眠気を推定する眠気推定方法であって、
フィルタリング回路部が、前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力し、
特徴量算出器が、少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出し、
眠気推定器が、前記特徴量から前記眠気の評定値を推定して、推定結果を出力し、
前記特徴量検出器では、少なくとも、第1の特徴量算出回路が、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する、
眠気推定方法。
(付記15)前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
Nをフレーム数とし、フィルタリング算出窓幅をT[秒]としたとき、N=T×fsの関係があり、
前記フィルタリング回路部は、前記フィルタリング算出窓幅(T)単位で前記開眼度の時系列信号をフィルタリングすることにより所定の値に置換し、該置換した信号を前記フィルタリング後の開眼度の時系列信号として出力する、
付記14に記載の眠気推定方法。
(付記16)前記フィルタリング算出窓幅(T)が0.1[秒]以上であるとき、
前記フィルタリング回路部では、最大値取得回路が、前記所定の値として、フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の最大値を取得する、
付記15に記載の眠気推定方法。
(付記17)Pが2以上の整数であり、前記フィルタリング算出窓幅(T)が0.2[秒]以上であるとき、
前記フィルタリング回路部では、分位点算出回路が、前記所定の値として、前記フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の第(P−1)P分位点の値、又は該第(P−1)P分位点以上の平均値を算出する、
付記15に記載の眠気推定方法。
(付記18)前記フィルタリング算出窓幅(T)が1[秒]以上であるとき、
前記フィルタリング回路部では、平均値算出回路が、前記所定の値として、前記フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の平均値を算出する、
付記15に記載の眠気推定方法。
(付記19)前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
前記フィルタリング回路部では、カットオフ周波数fc[Hz]が前記fsより十分小さく、6Hzより小さいローパスフィルタが、前記開眼度の時系列信号を低域通過させて、低域通過された信号を、前記フィルタリング後の開眼度の時系列信号として出力する、
付記14に記載の眠気推定方法。
(付記20)前記特徴量算出器では、更に、第2の特徴量算出回路が、前記開眼度の時系列信号のフレーム間差分を算出し、前記特徴量算出窓幅(T)[秒]内の前記フレーム間差分の最大値を求め、該最大値を第2の特徴量として出力する、付記14乃至19のいずれか1項に記載の眠気推定方法。
(付記21)前記特徴量算出器では、更に、第3の特徴量算出回路が、前記開眼度の時系列信号から閉眼を検知し、前記第1の所定時間窓幅(T)[秒]内の前記閉眼の割合を求め、該閉眼の割合を第3の特徴量として出力する、付記14至20のいずれか1項に記載の眠気推定方法。
(付記22)前記特徴量算出器では、更に、第4の特徴量算出回路が、前記開眼度の時系列信号から左眼と右眼の開眼度の動き差分を算出し、前記特徴量算出窓幅(T)[秒]内の前記動き差分の平均値を求め、該動き差分の平均値を第4の特徴量として出力する、付記14乃至21のいずれか1項に記載の眠気推定方法。
(付記23)前記特徴量算出器では、更に、第5の特徴量算出回路が、隣接する2つの特徴量算出窓幅(T)[秒]で、前記第1乃至第4の特徴量算出回路でそれぞれ算出される、隣接する2つの第1乃至第4の特徴量の差分を求め、該差分の中から選択された1つを第5の特徴量として出力する、付記22に記載の眠気推定方法。
(付記24)前記特徴量算出器では、更に、第6の特徴量算出回路が、前記第1乃至第5の特徴量算出回路でそれぞれ算出される、第1乃至第5の特徴量の対数を求め、該対数の中から選択された1つを第6の特徴量として出力する、付記22に記載の眠気推定方法。
(付記25)前記特徴量算出器では、更に、統計量算出回路が、前記特徴量算出窓幅(T)[秒]の倍数である統計量算出窓幅(T)[秒]内の、前記特徴量算出窓幅(T)[秒]毎に前記第1乃至第6の特徴量算出回路でそれぞれ算出された第1乃至第6の特徴量から選択された1つの統計量を算出する、付記24に記載の眠気推定方法。
(付記26)前記統計量算出回路は、前記統計量として、前記統計量算出窓幅(T)[秒]毎に、前記第1乃至第6の特徴量から選択された1つの平均値、標準偏差、および分散の中から選択された少なくとも1つを算出する、付記25に記載の眠気推定方法。
(付記27)対象者の開眼度の時系列信号から前記対象者の眠気を推定する処理をコンピュータに実行させる眠気推定プログラムを記録した眠気推定プログラム記録媒体であって、前記眠気推定プログラムは、
前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力するフィルタリング手順と、
少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出する特徴量算出手順と、
前記特徴量から前記眠気の評定値を推定して、推定結果を出力する眠気推定手順と、を前記コンピュータに実行させ、
前記特徴量算出手順は、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する第1の特徴量算出手順を、少なくとも含む、
眠気推定プログラム記録媒体。
(付記28)前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
Nをフレーム数とし、フィルタリング算出窓幅をT[秒]としたとき、N=T×fsの関係があり、
前記フィルタリング手順は、前記コンピュータに、前記フィルタリング算出窓幅(T)単位で前記開眼度の時系列信号をフィルタリングすることにより所定の値に置換し、該置換した信号を前記フィルタリング後の開眼度の時系列信号として出力させる、
付記27に記載の眠気推定プログラム記録媒体。
(付記29)前記フィルタリング算出窓幅(T)が0.1[秒]以上であるとき、
前記フィルタリング手順は、前記所定の値として、フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の最大値を取得する最大値取得手順から成る、
付記28に記載の眠気推定プログラム記録媒体。
(付記30)Pが2以上の整数であり、前記フィルタリング算出窓幅(T)が0.2[秒]以上であるとき、
前記フィルタリング手順は、前記所定の値として、前記フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の第(P−1)P分位点の値、又は該第(P−1)P分位点以上の平均値を算出する分位点算出手順から成る、
付記28に記載の眠気推定プログラム記録媒体。
(付記31)前記フィルタリング算出窓幅(T)が1[秒]以上であるとき、
前記フィルタリング手順は、前記所定の値として、前記フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の平均値を算出する平均値算出手順から成る、
付記28に記載の眠気推定プログラム記録媒体。
(付記32)前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
前記フィルタリング手順は、カットオフ周波数fc[Hz]が前記fsより十分小さく、6Hzより小さいローパスフィルタを用いて、前記開眼度の時系列信号を低域通過させて、低域通過された信号を、前記フィルタリング後の開眼度の時系列信号として出力する手順から成る、
付記27に記載の眠気推定プログラム記録媒体。
(付記33)前記特徴量算出手順は、前記開眼度の時系列信号のサンプル間差分を算出し、前記特徴量算出窓幅(T)[秒]内の前記サンプル間差分の最大値を求め、該最大値を第2の特徴量として出力する第2の特徴量算出手順を、更に含む、付記27乃至32のいずれか1項に記載の眠気推定プログラム記録媒体。
(付記34)前記特徴量算出手順は、前記開眼度の時系列信号から閉眼を検知し、前記第1の所定時間窓幅(T)[秒]内の前記閉眼の割合を求め、該閉眼の割合を第3の特徴量として出力する第3の特徴量算出手順を、更に含む、付記27乃至33のいずれか1項に記載の眠気推定プログラム記録媒体。
(付記35)前記特徴量算出手順は、前記開眼度の時系列信号から左眼と右眼の開眼度の動き差分を算出し、前記特徴量算出窓幅(T)[秒]内の前記動き差分の平均値を求め、該動き差分の平均値を第4の特徴量として出力する第4の特徴量算出手順を、更に含む、付記27乃至34のいずれか1項に記載の眠気推定プログラム記録媒体。
(付記36)前記特徴量算出手順は、隣接する2つの特徴量算出窓幅(T)[秒]で、前記第1乃至第4の特徴量算出手順でそれぞれ算出される、隣接する2つの第1乃至第4の特徴量の差分を求め、該差分の中から選択された1つを第5の特徴量として出力する第5の特徴量算出手順を更に含む、付記35に記載の眠気推定プログラム記録媒体。
(付記37)前記特徴量算出手順は、前記第1乃至第5の特徴量算出手順でそれぞれ算出される、第1乃至第5の特徴量の対数を求め、該対数の中から選択された1つを第6の特徴量として出力する第6の特徴量算出手順を更に含む、付記36に記載の眠気推定プログラム記録媒体。
(付記38)前記特徴量算出手順は、前記特徴量算出窓幅(T)[秒]の倍数である統計量算出窓幅(T)[秒]内の、前記特徴量算出窓幅(T)[秒]毎に前記第1乃至第6の特徴量算出手順でそれぞれ算出された第1乃至第6の特徴量から選択された1つの統計量を算出する統計量算出手順を更に含む、付記37に記載の眠気推定プログラム記録媒体。
(付記39)前記統計量算出手順は、前記統計量として、前記統計量算出窓幅(T)[秒]毎に、前記第1乃至第6の特徴量から選択された1つの平均値、標準偏差、および分散の中から選択された少なくとも1つを算出する、付記38に記載の眠気推定プログラム記録媒体。
本発明に係る眠気推定装置は、オフィスで働く職員や、自動車等を操縦する運転者の眠気を推定する用途に適用可能である。
10 カメラ
20 対象者
20L 左眼
20R 右眼
100〜100H 眠気推定装置
120 開眼度検出器
122 左眼開眼度検出回路
124 右眼開眼度検出回路
126 平均値算出回路
140〜140D フィルタリング回路部
140−1 主フィルタリング回路
140−2 第1の副フィルタリング回路
140−3 第2の副フィルタリング回路
142 最大値取得回路
144 分位点算出回路
146 平均値算出回路
148 ローパスフィルタ
160〜160H 特徴量算出器
161 ばらつき度算出回路(第1の特徴量算出回路)
162 差分最大値算出回路(第2の特徴量算出回路)
163 閉眼割合算出回路(第3の特徴量算出回路)
164 動き差分平均値算出回路(第4の特徴量算出回路)
165 隣接差分算出回路(第5の特徴量算出回路)
166 対数算出回路(第6の特徴量算出回路)
167 平均値算出回路(第7の特徴量算出回路)
168 標準偏差算出回路(第8の特徴量算出回路)
169 分散算出回路(第9の特徴量算出回路)
180 眠気推定器
本発明は、眠気推定装置、眠気推定方法、および眠気推定プログラムに関する。
本発明の目的は、上述した課題を解決できる眠気推定装置、眠気推定方法、および眠気推定プログラムを提供することにある。
本発明の一形態は、対象者の開眼度の時系列信号から前記対象者の眠気を推定する眠気推定方法であって、フィルタリング回路部が、前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力し、特徴量算出器が、少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出し、眠気推定器が、前記特徴量から前記眠気の評定値を推定して、推定結果を出力し、前記特徴量算出器では、少なくとも、第1の特徴量算出回路が、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する、眠気推定方法である。
本発明の一形態は、対象者の開眼度の時系列信号から前記対象者の眠気を推定する処理をコンピュータに実行させる眠気推定プログラムであって、前記眠気推定プログラムは、前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力するフィルタリング手順と、少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出する特徴量算出手順と、前記特徴量から前記眠気の評定値を推定して、推定結果を出力する眠気推定手順と、を前記コンピュータに実行させ、前記特徴量算出手順は、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する第1の特徴量算出手順を、少なくとも含む、眠気推定プログラムである。
本発明の第1の実施形態に係る眠気推定装置の構成を示すブロック図である。 図1の眠気推定装置に接続されたカメラで撮影される対象者の一例を示す概略正面図である。 図1の眠気推定装置で使用される開眼度検出器の一例を示すブロック図である。 図2に示した対象者の眼が冴えている状態(眠気評定値=1)のときの、対象者の開眼度の時系列信号X(t)の一例を示す波形図である。 図2に示した対象者が眠い状態(眠気評定値≧3)のときの、対象者の開眼度の時系列信号X(t)の一例を示す波形図である。 図1の眠気推定装置で使用されるフィルタリング回路部の一例を示すブロック図である。 図1の眠気推定装置で使用されるフィルタリング回路部の第1の例を示すブロック図である。 図4に示した対象者の開眼度の時系列信号X(t)を、図7に示したフィルタリング回路部を使用してフィルタリング処理した後の、対象者の開眼度の時系列信号X(t)を示す波形図である。 図5に示した対象者の開眼度の時系列信号X(t)を、図7に示したフィルタリング回路部を使用してフィルタリング処理した後の、対象者の開眼度の時系列信号X(t)を示す波形図である。 図1の眠気推定装置で使用されるフィルタリング回路部の第2の例を示すブロック図である。 図1の眠気推定装置で使用されるフィルタリング回路部の第3の例を示すブロック図である。 図1の眠気推定装置で使用されるフィルタリング回路部の第4の例を示すブロック図である。 図1に示した第1の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図1の眠気推定装置で使用される眠気推定器の動作の一例を示すフローチャートである。 図1に示した第1の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第2の実施形態に係る眠気推定装置の構成を示すブロック図である。 図16に示した第2の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図16に示した第2の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第3の実施形態に係る眠気推定装置の構成を示すブロック図である。 図19に示した第3の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図19に示した第3の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第4の実施形態に係る眠気推定装置の構成を示すブロック図である。 図22に示した第4の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図22に示した第4の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第5の実施形態に係る眠気推定装置の構成を示すブロック図である。 図25に示した第5の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図25に示した第5の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第6の実施形態に係る眠気推定装置の構成を示すブロック図である。 図28に示した第6の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図28に示した第6の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第7の実施形態に係る眠気推定装置の構成を示すブロック図である。 図31に示した第7の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図31に示した第7の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第8の実施形態に係る眠気推定装置の構成を示すブロック図である。 図34に示した第8の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図34に示した第8の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。 本発明の第9実施形態に係る眠気推定装置の構成を示すブロック図である。 図37に示した第9の実施形態に係る眠気推定装置で使用される特徴量算出器の構成を示すブロック図である。 図37に示した第9の実施形態に係る眠気推定装置の動作を説明するためのフローチャートである。
図8は、図4に示した対象者の開眼度の時系列信号X(t)を、図7に示したフィルタリング回路部140Aを使用してフィルタリング処理した後の、対象者の開眼度の時系列信号X(t)を示す波形図である。また、図9は、図5に示した対象者の開眼度の時系列信号X(t)を、図7に示したフィルタリング回路部140Aを使用してフィルタリング処理した後の、対象者の開眼度の時系列信号X(t)を示す波形図である。
本第3の例のフィルタリング回路部140Cは、フィルタリング算出窓幅T[秒]が0.1[秒]以上より十分に大きな値、例えば、1[秒]以上である場合に適用可能である(T≧1)。その理由は、瞬きの時間が0.1〜0.15[秒]であり、瞬きの影響を平均処理で取り除くためである。すなわち、第3の例では、フレームレートfsが30[フレーム/秒]の場合、フレーム数Nは30以上であることが好ましい。本第3の例では、フレーム数Nが30に等しく、フィルタリング算出窓幅T[秒]が1[秒]である場合について説明する。
最後に、眠気推定器180は、第1の特徴量F1(T)から対象者20の眠気の評定値を推定し、推定結果ERを出力する(ステップS104)。
図17は、特徴量算出器160Aの構成を示すブロック図である。図示の特徴量算出器160Aは、差分最大値算出回路162を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。したがって、特徴量算出160Aは、ばらつき度算出回路161と、差分最大値算出回路162とを備えている。
差分最大値算出回路162は、開眼度の時系列信号X(t)のフレーム間差分の絶対値(以下、「フレーム間差分」と呼ぶ)を算出し、特徴量算出窓幅(T)[秒]内のフレーム間差分の最大値を求め、その最大値を第2の特徴量F2(T)として出力する。したがって、差分最大値算出回路162は、開眼度の時系列信号X(t)から第2の特徴量F2(T)を算出して、出力する第2の特徴量算出回路として働く。このフレーム間差分の絶対値の最大値は、眠い状態では値が小さくなり、目が冴えている状態では大きくなるため、眠気の推定に有用である。
最後に、眠気推定器180は、第1の特徴量F1(T)と第2の特徴量F2(T)とから対象者20の眠気の評定値を推定し、推定結果ERを出力する(ステップS204)。
図20は、特徴量算出器160Bの構成を示すブロック図である。図示の特徴量算出器160Bは、閉眼割合算出回路163を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。したがって、特徴量算出160Bは、ばらつき度算出回路161と、閉眼割合算出回路163とを備えている。
最後に、眠気推定器180は、第1の特徴量F1(T)と第3の特徴量F3(T)とから対象者20の眠気の評価値を推定し、推定結果ERを出力する(ステップS304)。
図23は、特徴量算出器160Cの構成を示すブロック図である。図示の特徴量算出器160Cは、動き差分平均値算出回路164を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。したがって、特徴量算出160Cは、ばらつき度算出回路161と、動き差分平均値算出回路164とを備えている。
最後に、眠気推定器180は、第1の特徴量F1(T)と第4の特徴量F4(T)とから対象者20の眠気の評定値を推定し、推定結果ERを出力する(ステップS404)。
図26は、特徴量算出器160Dの構成を示すブロック図である。図示の特徴量算出器160Dは、隣接差分算出回路165を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。したがって、特徴量算出160Dは、ばらつき度算出回路161と、隣接差分算出回路165とを備えている。
隣接差分算出回路165は、ある特徴量算出窓幅(T)[秒]で算出された第1の特徴量F1(T)とそれに隣接する特徴量算出窓幅(T)[秒]で算出された第1の特徴量F1(T−1)との差分の絶対値(以下、「隣接窓間の差分」と呼ぶ)を算出して、その隣接窓間の差分を第5の特徴量F11(T)として出力する。したがって、隣接差分算出回路165は、第1の特徴量F1(T)における隣接窓間の差分を第5の特徴量F11(T)として算出して、出力する第5の特徴量算出回路として働く。この隣接窓間の差分は、眠い状態では値が大きくなり、目が冴えている状態では小さくなるため、眠気の推定に有用である。
尚、本第5の実施形態では、第5の特徴量として、第1の特徴量F1(T)における隣接窓間の差分F11(T)を用いているが、本発明はこれに限定されない。例えば、第5の特徴量としては、上記第2の特徴量F1(T)における隣接窓間の差分F21(T)や、上記第3の特徴量F3(T)における隣接窓間の差分F31(T)や、上記4の特徴量F4(T)における隣接窓間の差分F41(T)を用いてもよい。
最後に、眠気推定器180は、第1の特徴量F1(T)と第5の特徴量F11(T)とから対象者20の眠気の評定値を推定し、推定結果ERを出力する(ステップS504)。
図29は、特徴量算出器160Eの構成を示すブロック図である。図示の特徴量算出器160Eは、対数算出回路166を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。したがって、特徴量算出160Eは、ばらつき度算出回路161と、対数算出回路166とを備えている。
対数算出回路166は、第1の特徴量F1(T)の対数を算出して、その対数を第6の特徴量F12(T)として出力する。したがって、対数算出回路166は、第1の特徴量F1(T)の対数を第6の特徴量F12(T)として算出して、出力する第6の特徴量算出回路として働く。推定対象の眠気評定値を算出するのは、人である。一般に人の感覚は対数に従っていると言われており、眠気評定値も対数に従っている。そのため、特徴量の対数をとることで、特徴量と眠気評定値との間の関係性を線形にできる。
第1の特徴量の対数、すなわち、第6の特徴量F12(T)は、次の数13で表される。
[数13]
F12(T)=Log{F1(T)+α}
ここで、αは小さな値、例えば、10−6である。尚、第1の特徴量F1(T)に小さな値αを加えているのでは、対数の中身がゼロにならないようにするためである。
尚、本第6の実施形態では、第6の特徴量として、第1の特徴量F1(T)の対数を用いているが、本発明はこれに限定されない。例えば、第6の特徴量としては、上記第2の特徴量F2(T)の対数F22(T)や、上記第3の特徴量F3(T)の対数F32(T)や、上記4の特徴量F4(T)の対数F42(T)や、上記5の特徴量F11(T)の対数F112(T)を用いてもよい。
最後に、眠気推定器180は、第1の特徴量F1(T)と第6の特徴量F12(T)とから対象者20の眠気の評定値を推定し、推定結果ERを出力する(ステップS604)。
尚、本第6の実施形態では、眠気推定器180に供給する特徴量として、第1の特徴量F1(T)と第6の特徴量F12(T)との両方を使用しているが、本発明はこれに限定されない。すなわち、眠気推定器180に供給する特徴量として第6の特徴量F12(T)のみを用いてもよい。この場合、眠気推定器180は、第6の特徴量F12(T)から対象者20の眠気の評定値を推定し、推定結果ERを出力することになる。
図示の例では、上述した特徴量として第1の特徴量F1(T)を用い、統計量として第1の特徴量F1(T)の平均値を用いている。したがって、特徴量算出器160Fは、平均値算出回路167を更に備えている点を除いて、図13に示す特徴量算出器160と同様の構成を有し、動作をする。平均値算出回路167は、統計量算出回路として動作する。
最後に、眠気推定器180は、第7の特徴量F13(S)から対象者20の眠気の評定値を推定し、推定結果ERを出力する(ステップS704)。
尚、本第7の実施形態では、眠気推定器180に供給する特徴量として、第7の特徴量F13(S)を使用している。この場合、眠気推定器180は、第7の特徴量F13(S)から対象者20の眠気の評定値を推定し、推定結果ERを出力することになる。
図35は、特徴量算出器160Gの構成を示すブロック図である。図示の特徴量算出器160Gは、上記統計量として第1の特徴量F1(T)の標準偏差を用いている。すなわち、特徴量算出器160Gは、平均値算出回路167の代わりに標準偏差算出回路168を備えている点を除いて、図32に示す特徴量算出器160Fと同様の構成を有し、動作をする。標準偏差算出回路168も統計量算出回路として動作する。
最後に、眠気推定器180は、第8の特徴量F14(S)から対象者20の眠気の評定値を推定し、推定結果ERを出力する(ステップS804)。
尚、本第8の実施形態では、眠気推定器180に供給する特徴量として、第8の特徴量F14(S)を使用している。この場合、眠気推定器180は、第8の特徴量F14(S)から対象者20の眠気の評定値を推定し、推定結果ERを出力することになる。
図38は、特徴量算出器160Hの構成を示すブロック図である。図示の特徴量算出器160Hは、上記統計量として第1の特徴量F1(T)の分散を用いている。すなわち、特徴量算出器160Hは、平均値算出回路167の代わりに分散算出回路169を備えている点を除いて、図32に示す特徴量算出器160Fと同様の構成を有し、動作をする。分散算出回路169も、統計量算出回路として動作する。
最後に、眠気推定器180は、第9の特徴量F15(S)から対象者20の眠気の評定値を推定し、推定結果ERを出力する(ステップS904)。
尚、本第9の実施形態では、眠気推定器180に供給する特徴量として、第9の特徴量F15(S)を使用している。この場合、眠気推定器180は、第9の特徴量F15(S)から対象者20の眠気の評定値を推定し、推定結果ERを出力することになる。
(付記6)前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
前記フィルタリング回路部は、カットオフ周波数fc[Hz]が前記fsより十分小さく、6Hz以下のローパスフィルタから成る、
付記1に記載の眠気推定装置。
(付記8)前記特徴量算出器は、前記開眼度の時系列信号から閉眼を検知し、前記特徴量算出窓幅(T)[秒]内の前記閉眼の割合を求め、該閉眼の割合を第3の特徴量として出力する第3の特徴量算出回路を、更に含む、付記1乃至7のいずれか1項に記載の眠気推定装置。
(付記14)対象者の開眼度の時系列信号から前記対象者の眠気を推定する眠気推定方法であって、
フィルタリング回路部が、前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力し、
特徴量算出器が、少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出し、
眠気推定器が、前記特徴量から前記眠気の評定値を推定して、推定結果を出力し、
前記特徴量算出器では、少なくとも、第1の特徴量算出回路が、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する、
眠気推定方法。
(付記19)前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
前記フィルタリング回路部では、カットオフ周波数fc[Hz]が前記fsより十分小さく、6Hz以下のローパスフィルタが、前記開眼度の時系列信号を低域通過させて、低域通過された信号を、前記フィルタリング後の開眼度の時系列信号として出力する、
付記14に記載の眠気推定方法。
(付記21)前記特徴量算出器では、更に、第3の特徴量算出回路が、前記開眼度の時系列信号から閉眼を検知し、前記特徴量算出窓幅(T)[秒]内の前記閉眼の割合を求め、該閉眼の割合を第3の特徴量として出力する、付記14至20のいずれか1項に記載の眠気推定方法。
(付記24)前記特徴量算出器では、更に、第6の特徴量算出回路が、前記第1乃至第5の特徴量算出回路でそれぞれ算出される、第1乃至第5の特徴量の対数を求め、該対数の中から選択された1つを第6の特徴量として出力する、付記23に記載の眠気推定方法。
(付記27)対象者の開眼度の時系列信号から前記対象者の眠気を推定する処理をコンピュータに実行させる眠気推定プログラムであって、前記眠気推定プログラムは、
前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力するフィルタリング手順と、
少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出する特徴量算出手順と、
前記特徴量から前記眠気の評定値を推定して、推定結果を出力する眠気推定手順と、を前記コンピュータに実行させ、
前記特徴量算出手順は、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する第1の特徴量算出手順を、少なくとも含む、
眠気推定プログラム
(付記28)前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
Nをフレーム数とし、フィルタリング算出窓幅をT[秒]としたとき、N=T×fsの関係があり、
前記フィルタリング手順は、前記コンピュータに、前記フィルタリング算出窓幅(T)単位で前記開眼度の時系列信号をフィルタリングすることにより所定の値に置換し、該置換した信号を前記フィルタリング後の開眼度の時系列信号として出力させる、
付記27に記載の眠気推定プログラム
(付記29)前記フィルタリング算出窓幅(T)が0.1[秒]以上であるとき、
前記フィルタリング手順は、前記所定の値として、フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の最大値を取得する最大値取得手順から成る、
付記28に記載の眠気推定プログラム
(付記30)Pが2以上の整数であり、前記フィルタリング算出窓幅(T)が0.2[秒]以上であるとき、
前記フィルタリング手順は、前記所定の値として、前記フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の第(P−1)P分位点の値、又は該第(P−1)P分位点以上の平均値を算出する分位点算出手順から成る、
付記28に記載の眠気推定プログラム
(付記31)前記フィルタリング算出窓幅(T)が1[秒]以上であるとき、
前記フィルタリング手順は、前記所定の値として、前記フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の平均値を算出する平均値算出手順から成る、
付記28に記載の眠気推定プログラム
(付記32)前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
前記フィルタリング手順は、カットオフ周波数fc[Hz]が前記fsより十分小さく、6Hz以下のローパスフィルタを用いて、前記開眼度の時系列信号を低域通過させて、低域通過された信号を、前記フィルタリング後の開眼度の時系列信号として出力する手順から成る、
付記27に記載の眠気推定プログラム
(付記33)前記特徴量算出手順は、前記開眼度の時系列信号のサンプル間差分を算出し、前記特徴量算出窓幅(T)[秒]内の前記サンプル間差分の最大値を求め、該最大値を第2の特徴量として出力する第2の特徴量算出手順を、更に含む、付記27乃至32のいずれか1項に記載の眠気推定プログラム
(付記34)前記特徴量算出手順は、前記開眼度の時系列信号から閉眼を検知し、前記特徴量算出窓幅(T)[秒]内の前記閉眼の割合を求め、該閉眼の割合を第3の特徴量として出力する第3の特徴量算出手順を、更に含む、付記27乃至33のいずれか1項に記載の眠気推定プログラム
(付記35)前記特徴量算出手順は、前記開眼度の時系列信号から左眼と右眼の開眼度の動き差分を算出し、前記特徴量算出窓幅(T)[秒]内の前記動き差分の平均値を求め、該動き差分の平均値を第4の特徴量として出力する第4の特徴量算出手順を、更に含む、付記27乃至34のいずれか1項に記載の眠気推定プログラム
(付記36)前記特徴量算出手順は、隣接する2つの特徴量算出窓幅(T)[秒]で、前記第1乃至第4の特徴量算出手順でそれぞれ算出される、隣接する2つの第1乃至第4の特徴量の差分を求め、該差分の中から選択された1つを第5の特徴量として出力する第5の特徴量算出手順を更に含む、付記35に記載の眠気推定プログラム
(付記37)前記特徴量算出手順は、前記第1乃至第5の特徴量算出手順でそれぞれ算出される、第1乃至第5の特徴量の対数を求め、該対数の中から選択された1つを第6の特徴量として出力する第6の特徴量算出手順を更に含む、付記36に記載の眠気推定プログラム
(付記38)前記特徴量算出手順は、前記特徴量算出窓幅(T)[秒]の倍数である統計量算出窓幅(T)[秒]内の、前記特徴量算出窓幅(T)[秒]毎に前記第1乃至第6の特徴量算出手順でそれぞれ算出された第1乃至第6の特徴量から選択された1つの統計量を算出する統計量算出手順を更に含む、付記37に記載の眠気推定プログラム
(付記39)前記統計量算出手順は、前記統計量として、前記統計量算出窓幅(T)[秒]毎に、前記第1乃至第6の特徴量から選択された1つの平均値、標準偏差、および分散の中から選択された少なくとも1つを算出する、付記38に記載の眠気推定プログラム

Claims (15)

  1. 対象者の開眼度の時系列信号から前記対象者の眠気を推定する眠気推定装置であって、
    前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力するフィルタリング回路部と、
    少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出する特徴量算出器と、
    前記特徴量から前記眠気の評定値を推定して、推定結果を出力する眠気推定器と、
    を備え、
    前記特徴量算出器は、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する第1の特徴量算出回路を、少なくとも含む、
    眠気推定装置。
  2. 前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
    Nをフレーム数とし、フィルタリング算出窓幅をT[秒]としたとき、N=T×fsの関係があり、
    前記フィルタリング回路部は、前記フィルタリング算出窓幅(T)単位で前記開眼度の時系列信号をフィルタリングすることにより所定の値に置換し、該置換した信号を前記フィルタリング後の開眼度の時系列信号として出力する、
    請求項1に記載の眠気推定装置。
  3. 前記フィルタリング算出窓幅(T)が0.1[秒]以上であるとき、
    前記フィルタリング回路部は、前記所定の値として、フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の最大値を取得する最大値取得回路から成る、
    請求項2に記載の眠気推定装置。
  4. Pが2以上の整数であり、前記フィルタリング算出窓幅(T)が0.2[秒]以上であるとき、
    前記フィルタリング回路部は、前記所定の値として、前記フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の第(P−1)P分位点の値、又は該第(P−1)P分位点以上の平均値を算出する分位点算出回路から成る、
    請求項2に記載の眠気推定装置。
  5. 前記フィルタリング算出窓幅(T)が1[秒]以上であるとき、
    前記フィルタリング回路部は、前記所定の値として、前記フィルタリング算出窓幅(T)内の前記開眼度の時系列信号の平均値を算出する平均値算出回路から成る、
    請求項2に記載の眠気推定装置。
  6. 前記開眼度の時系列信号は、fs[フレーム/秒]の時系列信号であり、
    前記フィルタリング回路部は、カットオフ周波数fc[Hz]が前記fsより十分小さく、6Hzより小さいローパスフィルタから成る、
    請求項1に記載の眠気推定装置。
  7. 前記特徴量算出器は、前記開眼度の時系列信号のフレーム間差分を算出し、前記特徴量算出窓幅(T)[秒]内の前記フレーム間差分の最大値を求め、該最大値を第2の特徴量として出力する第2の特徴量算出回路を、更に含む、請求項1乃至6のいずれか1項に記載の眠気推定装置。
  8. 前記特徴量算出器は、前記開眼度の時系列信号から閉眼を検知し、前記第1の所定時間窓幅(T)[秒]内の前記閉眼の割合を求め、該閉眼の割合を第3の特徴量として出力する第3の特徴量算出回路を、更に含む、請求項1乃至7のいずれか1項に記載の眠気推定装置。
  9. 前記特徴量算出器は、前記開眼度の時系列信号から左眼と右眼の開眼度の動き差分を算出し、前記特徴量算出窓幅(T)[秒]内の前記動き差分の平均値を求め、該動き差分の平均値を第4の特徴量として出力する第4の特徴量算出回路を、更に含む、請求項1乃至8のいずれか1項に記載の眠気推定装置。
  10. 前記特徴量算出器は、隣接する2つの特徴量算出窓幅(T)[秒]で、前記第1乃至第4の特徴量算出回路でそれぞれ算出される、隣接する2つの第1乃至第4の特徴量の差分を求め、該差分の中から選択された1つを第5の特徴量として出力する第5の特徴量算出回路を更に含む、請求項9に記載の眠気推定装置。
  11. 前記特徴量算出器は、前記第1乃至第5の特徴量算出回路でそれぞれ算出される、第1乃至第5の特徴量の対数を求め、該対数の中から選択された1つを第6の特徴量として出力する第6の特徴量算出回路を更に含む、請求項10に記載の眠気推定装置。
  12. 前記特徴量算出器は、前記特徴量算出窓幅(T)[秒]の倍数である統計量算出窓幅(T)[秒]内の、前記特徴量算出窓幅(T)[秒]毎に前記第1乃至第6の特徴量算出回路でそれぞれ算出された第1乃至第6の特徴量から選択された1つの統計量を算出する統計量算出回路を更に含む、請求項11に記載の眠気推定装置。
  13. 前記統計量算出回路は、前記統計量として、前記統計量算出窓幅(T)[秒]毎に、前記第1乃至第6の特徴量から選択された1つの平均値、標準偏差、および分散の中から選択された少なくとも1つを算出する、請求項12に記載の眠気推定装置。
  14. 対象者の開眼度の時系列信号から前記対象者の眠気を推定する眠気推定方法であって、
    フィルタリング回路部が、前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力し、
    特徴量算出器が、少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出し、
    眠気推定器が、前記特徴量から前記眠気の評定値を推定して、推定結果を出力し、
    前記特徴量検出器では、少なくとも、第1の特徴量算出回路が、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する、
    眠気推定方法。
  15. 対象者の開眼度の時系列信号から前記対象者の眠気を推定する処理をコンピュータに実行させる眠気推定プログラムを記録した眠気推定プログラム記録媒体であって、前記眠気推定プログラムは、
    前記開眼度の時系列信号から前記対象者の瞬きによる信号変化を除去するようフィルタリングして、フィルタリング後の開眼度の時系列信号を出力するフィルタリング手順と、
    少なくとも前記フィルタリング後の開眼度の時系列信号から特徴量を算出する特徴量算出手順と、
    前記特徴量から前記眠気の評定値を推定して、推定結果を出力する眠気推定手順と、を前記コンピュータに実行させ、
    前記特徴量算出手順は、特徴量算出窓幅(T)[秒]内での、前記フィルタリング後の開眼度の時系列信号のばらつき度を算出して、該ばらつき度を第1の特徴量として出力する第1の特徴量算出手順を、少なくとも含む、
    眠気推定プログラム記録媒体。

JP2019559930A 2017-12-20 2017-12-20 眠気推定装置、眠気推定方法、および眠気推定プログラム Active JP7189564B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/045725 WO2019123569A1 (ja) 2017-12-20 2017-12-20 眠気推定装置、眠気推定方法、および眠気推定プログラム記録媒体

Publications (2)

Publication Number Publication Date
JPWO2019123569A1 true JPWO2019123569A1 (ja) 2020-12-17
JP7189564B2 JP7189564B2 (ja) 2022-12-14

Family

ID=66994005

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019559930A Active JP7189564B2 (ja) 2017-12-20 2017-12-20 眠気推定装置、眠気推定方法、および眠気推定プログラム

Country Status (3)

Country Link
US (1) US11589787B2 (ja)
JP (1) JP7189564B2 (ja)
WO (1) WO2019123569A1 (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11339200A (ja) * 1998-05-28 1999-12-10 Toyota Motor Corp 居眠り運転検出装置
JP2006109980A (ja) * 2004-10-13 2006-04-27 Nissan Motor Co Ltd 覚醒度判定装置
JP2008210285A (ja) * 2007-02-27 2008-09-11 Kyushu Univ 居眠り運転防止装置
JP2009146377A (ja) * 2007-11-21 2009-07-02 Toyota Central R&D Labs Inc ドライバ状態推定装置及びプログラム
JP2010273800A (ja) * 2009-05-27 2010-12-09 Hamamatsu Photonics Kk 瞬目計測装置及び瞬目計測方法
JP2013214073A (ja) * 2012-04-03 2013-10-17 Johnson & Johnson Vision Care Inc 電子眼科用レンズのためのまばたき検出システム
JP2017006675A (ja) * 2015-06-22 2017-01-12 ロベルト・ボッシュ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツングRobert Bosch Gmbh 目の開度のための参照レベルを供給する方法および装置
JP2017079055A (ja) * 2015-09-23 2017-04-27 ロベルト・ボッシュ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツングRobert Bosch Gmbh ドライバの眠気状態を検出するための方法及び装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008099884A (ja) 2006-10-19 2008-05-01 Toyota Motor Corp 状態推定装置
JP2008201285A (ja) 2007-02-21 2008-09-04 Yanmar Co Ltd トランスミッション
JP5210773B2 (ja) * 2008-09-16 2013-06-12 トヨタ自動車株式会社 眠気判定装置及びプログラム
WO2010092860A1 (ja) 2009-02-13 2010-08-19 トヨタ自動車株式会社 生体状態推定装置及び車両制御装置
EP2754393A4 (en) * 2011-09-05 2015-05-06 Toyama Prefecture METHOD AND DEVICE FOR DETECTING SOMNOLENCE

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11339200A (ja) * 1998-05-28 1999-12-10 Toyota Motor Corp 居眠り運転検出装置
JP2006109980A (ja) * 2004-10-13 2006-04-27 Nissan Motor Co Ltd 覚醒度判定装置
JP2008210285A (ja) * 2007-02-27 2008-09-11 Kyushu Univ 居眠り運転防止装置
JP2009146377A (ja) * 2007-11-21 2009-07-02 Toyota Central R&D Labs Inc ドライバ状態推定装置及びプログラム
JP2010273800A (ja) * 2009-05-27 2010-12-09 Hamamatsu Photonics Kk 瞬目計測装置及び瞬目計測方法
JP2013214073A (ja) * 2012-04-03 2013-10-17 Johnson & Johnson Vision Care Inc 電子眼科用レンズのためのまばたき検出システム
JP2017006675A (ja) * 2015-06-22 2017-01-12 ロベルト・ボッシュ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツングRobert Bosch Gmbh 目の開度のための参照レベルを供給する方法および装置
JP2017079055A (ja) * 2015-09-23 2017-04-27 ロベルト・ボッシュ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツングRobert Bosch Gmbh ドライバの眠気状態を検出するための方法及び装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
峯山 貴行 他: "「眼瞼映像解析による反応時間推定の試み」", 情報処理学会研究報告高度交通システム, vol. 2006−ITS−26, JPN6021006193, 29 September 2006 (2006-09-29), pages 69 - 72, ISSN: 0004451062 *

Also Published As

Publication number Publication date
WO2019123569A1 (ja) 2019-06-27
US11589787B2 (en) 2023-02-28
US20200390379A1 (en) 2020-12-17
JP7189564B2 (ja) 2022-12-14

Similar Documents

Publication Publication Date Title
Sigari et al. A driver face monitoring system for fatigue and distraction detection
Fuletra et al. A survey on drivers drowsiness detection techniques
Assari et al. Driver drowsiness detection using face expression recognition
JP4899059B2 (ja) 眠気検知装置
WO2008127465A1 (en) Real-time driving danger level prediction
Sharma et al. Drowsiness warning system using artificial intelligence
JP2012164040A (ja) 覚醒低下検出装置
Salzillo et al. Evaluation of driver drowsiness based on real-time face analysis
Valsan et al. Monitoring driver’s drowsiness status at night based on computer vision
Gadde et al. Employee Alerting System Using Real Time Drowsiness Detection
WO2020232893A1 (zh) 一种用户疲劳状态识别方法、装置、终端设备及介质
JP7189564B2 (ja) 眠気推定装置、眠気推定方法、および眠気推定プログラム
Mašanović et al. Driver monitoring using the in-vehicle camera
Isaza et al. Dynamic set point model for driver alert state using digital image processing
Mittal et al. Driver drowsiness detection using machine learning and image processing
Pant et al. Driver's Companion-Drowsiness Detection and Emotion Based Music Recommendation System
JP7231035B2 (ja) 眠気推定情報補正装置、眠気推定装置、眠気推定情報補正方法、眠気推定方法およびプログラム
Rajasekaran et al. Enhancing Driver Safety: Real-Time Drowsiness Detection through Eye Aspect Ratio and CNN-Based Eye State Analysis
Abdullah et al. Driver fatigue detection
Apoorva et al. Review on Drowsiness Detection
Samiappan et al. Comprehensive Analysis on Drowsiness Detection of Drivers using Facial Analysis
Damousis et al. A fuzzy expert system for the early warning of accidents due to driver hypo-vigilance
Lam et al. Wearable fatigue detection based on blink-saccade synchronisation
Yao et al. In-vehicle alertness monitoring for older adults
Paidi et al. Blinking eyes detection to monitor drowsy drivers due to fatigue using matlab cascade object detector

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200619

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200619

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210423

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210609

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211203

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20211203

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20211213

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20211215

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20220204

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20220209

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220406

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20220824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220916

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20221005

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20221102

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20221102

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221124

R151 Written notification of patent or utility model registration

Ref document number: 7189564

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151