JPWO2013140725A1 - 眼球疲労判定装置およびその作動方法 - Google Patents

眼球疲労判定装置およびその作動方法 Download PDF

Info

Publication number
JPWO2013140725A1
JPWO2013140725A1 JP2013544919A JP2013544919A JPWO2013140725A1 JP WO2013140725 A1 JPWO2013140725 A1 JP WO2013140725A1 JP 2013544919 A JP2013544919 A JP 2013544919A JP 2013544919 A JP2013544919 A JP 2013544919A JP WO2013140725 A1 JPWO2013140725 A1 JP WO2013140725A1
Authority
JP
Japan
Prior art keywords
electrooculogram
unit
impedance
measurement
time interval
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013544919A
Other languages
English (en)
Other versions
JP5665241B2 (ja
Inventor
加藤 弓子
弓子 加藤
小澤 順
順 小澤
井上 剛
剛 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2013544919A priority Critical patent/JP5665241B2/ja
Application granted granted Critical
Publication of JP5665241B2 publication Critical patent/JP5665241B2/ja
Publication of JPWO2013140725A1 publication Critical patent/JPWO2013140725A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/398Electrooculography [EOG], e.g. detecting nystagmus; Electroretinography [ERG]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/053Measuring electrical impedance or conductance of a portion of the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/163Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6802Sensor mounted on worn items
    • A61B5/6803Head-worn items, e.g. helmets, masks, headphones or goggles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7278Artificial waveform generation or derivation, e.g. synthesising signals from measured signals

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Physics & Mathematics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Pathology (AREA)
  • Ophthalmology & Optometry (AREA)
  • Psychiatry (AREA)
  • Psychology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Developmental Disabilities (AREA)
  • Educational Technology (AREA)
  • Hospice & Palliative Care (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Eye Examination Apparatus (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physiology (AREA)
  • Signal Processing (AREA)

Abstract

眼球疲労判定装置は、動画コンテンツの表示中の複数の所定時間区間内に、動画コンテンツの視聴者の眼球周囲の電極で計測された電位を示す眼電位を取得する眼電位取得部(107B)と、複数の所定時間区間内に計測された、電極と視聴者の当該電極の貼り付け位置における皮膚との間のインピーダンスを取得するインピーダンス取得部(107A)と、インピーダンス取得部(107A)が取得した複数の所定時間区間内に計測されたインピーダンスに基づいて、眼電位取得部(107B)が取得した複数の所定時間区間内に計測された眼電位を補正する眼電位補正部(110)と、眼電位補正部(110)で補正された後の複数の所定時間区間内に計測された眼電位に基づいて、視聴者の眼球の疲労度を判定する疲労判定部(111)とを備える。

Description

本発明は、立体視用映像視聴時の視聴者の眼球の疲労状態を判定する眼球疲労判定装置および眼球疲労判定方法に関する。
特許文献1は、視聴者の注視点位置、調節位置及び3次元映像の注視座標値に基づいて、眼球の疲労状態を判定することを開示している。
特許文献2は、眼電位を計測するウエアラブルカメラを開示している。
特許文献3は、音刺激に対する、頭部又は頚部に付けられた電極を使用し、電極のズレによるインピーダンスのデータ変化に対して、定期的に電位計測を中断してインピーダンスを計測し、インピーダンスが不適切な値である場合にはインピーダンス計測の頻度を増やすことを開示している。
特開2006−305325号公報(段落番号0065) 特開2011−125693号公報 特開2001−231768号公報(段落番号0006、0008、0009、0016)
立体視用映像を視聴する際には、視聴者は、ディスプレイに表示される右目用映像および左目用映像に同期して、右目用と左目用のシャッタを切り替える3次元用メガネを用いる。眼電位計測用の電極を当該3次元用メガネに搭載する場合、生体の電位計測においては、皮膚と電極との間のインピーダンスが発汗等により変化する。
特許文献3は、加算平均により特定の事象と関連する電位波形を強調する際には有効だが、逐次の電位波形の記録においては、一定期間のデータの欠損を生じる。
特に電極装着直後から30分程度は皮膚と電極との間の電気的状態が不安定であり、インピーダンスが高い傾向がある。電極装着後、時間経過と供にインピーダンスは低下し、安定するが、電極が皮膚から一時的に外れたり、ずれたりすることでインピーダンスは大きく変動する。
3次元用メガネに搭載された電極で眼電位を測定し、眼球の運動状態から疲労を判定する際には、メガネのかけなおしや、姿勢変動によりメガネがずれることによるインピーダンス変動があり、インピーダンスの変動が起こるたびに眼電位の計測を中断することになる。このように、従来の方法では、インピーダンス変動により眼球の疲労判定ができない状態がたびたび起こるという課題を有している。なお、このような課題は3次元用メガネ使用時のみに発生するものではない。たとえば、電極が搭載された通常のメガネで眼電位を測定することにより眼球の疲労判定を行う場合にも同様の課題が生じる。
本発明は、かかる課題に鑑みてなされたものであって、メガネに搭載された電極と立体視用映像の視聴者の皮膚との間のインピーダンス変動が生じた場合であっても、眼球の疲労状態を正確に判定することができる眼球疲労判定装置および眼球疲労判定方法を提供することを目的とする。
上記目的を達成するために、本発明の一態様に係る眼球疲労判定装置は、動画コンテンツの表示中の複数の所定時間区間内に前記動画コンテンツの視聴者の眼球周囲の電極で計測された電位を示す眼電位を、取得する眼電位取得部と、前記複数の所定時間区間内に計測された、前記電極と前記視聴者の当該電極の貼り付け位置における皮膚との間のインピーダンスを取得するインピーダンス取得部と、前記インピーダンス取得部が取得したインピーダンスに基づいて、前記眼電位取得部が取得した眼電位を補正する眼電位補正部と、前記眼電位補正部で補正された後の眼電位に基づいて、前記視聴者の眼球の疲労度を判定する疲労判定部とを備える。
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたは記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
本発明によると、メガネに搭載された電極と立体視用映像の視聴者の皮膚との間のインピーダンス変動が生じた場合であっても、眼球の疲労状態を正確に判定することができる。
図1は、電極の接触インピーダンスの時間変化と接触インピーダンスの変化に伴う計測される電位の振幅の関係を示す模式図である。 図2は、本発明の一態様に係る眼球疲労判定装置の構成を示す図である。 図3は、本発明の実施の形態1における眼球疲労計測システムの構成の一例を示すブロック図である。 図4Aは、本発明の実施の形態1における眼球疲労計測システムの3次元用メガネ上の電極の設置位置の一例を示す模式図である。 図4Bは、電極が視聴者の顔面に接触する位置を示す模式図である。 図5は、本発明の実施の形態1におけるインピーダンス計測部の詳細な構成を示す図である。 図6は、本発明の実施の形態1におけるコンテンツ情報蓄積部に記憶されるデータの構成の一例を示す図である。 図7は、本発明の実施の形態1における計測インピーダンス記憶部に記憶されるデータの構成の一例を示す図である。 図8は、本発明の実施の形態1における計測眼電位記憶部に記憶されるデータの構成の一例を示す図である。 図9は、本発明の実施の形態1における計測スケジュール決定部の詳細な構成を示す図である。 図10は、本発明の実施の形態1におけるサイズ奥行き変換テーブル記憶部に記憶されるデータの構成の一例を示す図である。 図11は、本発明の実施の形態1における動き判断テーブル記憶部に記憶されるデータの構成の一例を示す図である。 図12は、本発明の実施の形態1における計測スケジュール決定部の動作を示すフローチャートである。 図13は、本発明の実施の形態1における眼球疲労計測システムの動作の一例を示すフローチャートである。 図14は、本発明の実施の形態1における、視聴開始からの計測スケジュール決定と、インピーダンス計測と、眼電位計測と、疲労判定との時系列を示す模式図である。 図15は、本発明の実施の形態1における、倍速再生時の眼電位計測適合度の変化の一例を示す模式図である。 図16は、本発明の実施の形態1における眼球疲労計測システムの他の構成の一例を示すブロック図である。 図17は、本発明の実施の形態2における眼球疲労計測システムの構成の一例を示すブロック図である。 図18は、本発明の実施の形態2におけるインピーダンス計測部の詳細な構成を示す図である。 図19は、本発明の実施の形態2における眼球疲労計測システムの動作の一例を示すフローチャートである。 図20は、信号の周波数の違いによる電極の接触インピーダンスの違いの関係を示す模式図である。 図21は、本発明の実施の形態3における眼球疲労計測システムの構成の一例を示すブロック図である。 図22Aは、本発明の実施の形態3における動き情報蓄積部に記憶されるデータの構成の一例を示す図である。 図22Bは、動き情報を記述する座標軸の一例を示す図である。 図23は、本発明の実施の形態3における計測スケジュール決定部の詳細な構成を示す図である。 図24は、本発明の実施の形態3における速度周波数変換テーブル記憶部に記憶されるデータの構成の一例を示す図である。 図25は、本発明の実施の形態3における計測スケジュール決定部の動作の一例を示すフローチャートである。 図26は、本発明の実施の形態4における眼球疲労計測システムの構成の一例を示すブロック図である。 図27は、本発明の実施の形態4における計測スケジュール決定部の詳細な構成を示す図である。 図28は、本発明の実施の形態4における眼球疲労計測システムの動作の一例を示すフローチャートである。 図29は、本発明の実施の形態4における計測スケジュール修正処理(図28のS4010)の詳細なフローチャートである。 図30は、本発明の実施の形態1の変形例1における眼球疲労計測システムの構成の一例を示すブロック図である。 図31は、電極の接触インピーダンスの時間変化とメガネの装着動作との関係を示す模式図である。 図32は、本発明の実施の形態1の変形例2における眼球疲労計測システムの構成の一例を示すブロック図である。 図33Aは、本発明の実施の形態1の変形例2における不具合電極パタン記憶部に記憶されるデータの構成の一例を示す図である。 図33Bは、本発明の実施の形態1の変形例2における不具合を調整するための指示内容の一例を示す模式図である。 図34は、本発明の実施の形態1の変形例2における視聴者への指示を表示する表示画面の一例を示す図である。
(本発明の基礎となった知見)
詳細な実施の形態を説明する前に、電極装着直後から30分程度の接触インピーダンスの時間経過と、計測される眼電位との関係について説明する。図1は生体電位計測用電極を皮膚に装着した際の、接触インピーダンスの絶対値の時間変化と、接触インピーダンスの大きさと、計測される電位の大きさの関係を模式的に示す。図1(a)は接触インピーダンスの絶対値の時間変化の模式図である。非特許文献1の図20には、電極を皮膚に装着した直後からの皮膚インピーダンスの時間的推移が示されている。
武田朴、2010、医療機器学80巻1号P28−37、「各種生体電気信号計測用電極の最新動向」
皮膚の電気抵抗は、電極装着直後は高く、徐々に下がり、30分を超えると安定する。非特許文献1ではゲル付の電極を貼り付けた場合の例が示されている。ゲルのない場合には、インピーダンスの絶対値すなわち抵抗はさらに高い値となり、不安定になる。
一方、電極から計測される電位は接触インピーダンスに反比例することが知られている。図1(b)は同一の電位がインピーダンスの異なる電極から計測された際の計測結果を模式的に示す。同一の電位を与えても、接触インピーダンスが高い場合には計測される電位は小さくなり、接触インピーダンスが小さい場合には計測される電位が大きくなる。
接触インピーダンスが変化する場合には、計測された電位の大きさは不確かであり、電位の大きさにより疲労度等の判断を行うことは非常に困難である。
本開示では、電極の接触インピーダンスを測定し、測定されたインピーダンスの絶対値に基づいて、計測された眼電位を補正する。このことで、電極装着直後すなわち、立体視用映像視聴のために3次元用メガネ(以下、単に「メガネ」とも言う)を装着した直後から30分のインピーダンスが不安定な時間区間(以下では、「時間区間」を単に「区間」と言う。)を含めて、眼電位を計測、比較する。これにより、眼電位の時間変化から視覚性の疲労を検出できる。
特に、眼電位を用いて視聴者の映像視聴中の眼球運動を計測する場合には、視聴者の眼球が疲労していないときの眼球運動を計測しておく必要がある。しかしながら、視聴者がメガネを装着したときには、電極と皮膚との間の接触抵抗が安定していないため、インピーダンスを考慮せずに電位を測定しても、正確な眼球運動を計測することができない。実験室等で、眼電位を計測するときには、電極を設置してから発汗等によって電極と皮膚との接触抵抗が十分に安定してから計測を行っている。しかしながら、民生用途として立体視用映像を視聴するときには、電極を装着してから接触抵抗が安定するまで、映像を視聴させないようにすると、使い勝手が非常に悪くなる。
そこで、本開示においては、3次元用メガネに装着された電極で眼電位を計測する場合には、メガネを装着した直後の眼電位とともに、そのときの電極と皮膚との間のインピーダンスを計測することで、視聴者の眼球が疲労していない視聴初期での眼球運動を正確に計測することを実現する。
本発明の一態様に係る眼球疲労判定装置は、動画コンテンツの表示中の複数の所定時間区間内に前記動画コンテンツの視聴者の眼球周囲の電極で計測された電位を示す眼電位を、取得する眼電位取得部と、前記複数の所定時間区間内に計測された、前記電極と前記視聴者の当該電極の貼り付け位置における皮膚との間のインピーダンスを取得するインピーダンス取得部と、前記インピーダンス取得部が取得したインピーダンスに基づいて、前記眼電位取得部が取得した眼電位を補正する眼電位補正部と、前記眼電位補正部で補正された後の眼電位に基づいて、前記視聴者の眼球の疲労度を判定する疲労判定部とを備える。
図2は、このような眼球疲労判定装置の構成を示す図である。眼球疲労判定装置は、インピーダンス取得部107Aと、眼電位取得部107Bと、眼電位補正部110と、疲労判定部111とを備える。各構成部の詳細な動作等については上述の通りである。
この構成によると、インピーダンスを用いて眼電位を補正している。このため、眼球周囲の電極と視聴者の皮膚との間のインピーダンス変動が生じた場合であっても、正確に眼電位を計測することができる。特に、メガネの装着開始から間もないインピーダンスが不安定な時間区間であっても、正確に眼電位を計測することができる。よって、眼球の疲労状態を正確に判定することができる。
例えば、前記眼電位補正部は、前記眼電位取得部が取得した眼電位に、前記インピーダンス取得部が取得したインピーダンスに対する前記電極の入力インピーダンスの比を乗ずることにより、前記眼電位取得部が取得した眼電位を補正しても良い。
例えば、前記複数の所定時間区間は、互いに異なる第1時間区間および第2時間区間を含み、前記眼電位取得部は、前記第1時間区間および前記第2時間区間のそれぞれの時間区間内に計測された、眼電位を取得し、前記インピーダンス取得部は、前記第1時間区間および前記第2時間区間のそれぞれの時間区間内に計測された、インピーダンスを取得し、前記眼電位補正部は、前記第1時間区間内に計測されたインピーダンスに基づいて、前記第1時間区間内に計測された眼電位を補正し、前記第2時間区間内に計測されたインピーダンスに基づいて、前記第2時間区間内に計測された眼電位を補正し、前記疲労判定部は、前記眼電位補正部でそれぞれ補正された後の前記第1時間区間内に計測された眼電位および前記第2時間区間内に計測された眼電位を比較することにより、前記視聴者の眼球の疲労度を判定しても良い。
また、前記複数の所定時間区間の各々は、少なくとも前記インピーダンス取得部が前記インピーダンスを取得する際に用いる周期的電気信号の1周期の時間長より長くても良い。
また、前記第2時間区間の開始時点は、前記第1時間区間の開始時点から10分以上経過した時点であっても良い。
例えば、上述の眼球疲労判定装置は、さらに、前記動画コンテンツを取得する動画コンテンツ取得部と、前記動画コンテンツ取得部が取得した前記動画コンテンツから、前記第1時間区間および前記第2時間区間のそれぞれの時間区間中で眼電位を計測する時間区間を決定し、決定した前記時間区間に基づいて、前記第1時間区間および前記第2時間区間のそれぞれの時間区間中でインピーダンスを計測する時間区間を決定する計測スケジュール決定部を備え、前記眼電位取得部は、前記計測スケジュール決定部が決定した眼電位を計測する時間区間で計測された眼電位を取得し、前記インピーダンス取得部は、前記計測スケジュール決定部が決定したインピーダンスを計測する時間区間で計測されたインピーダンスを取得しても良い。
また、前記計測スケジュール決定部は、前記動画コンテンツ中のオブジェクトの移動量に従って、前記第1時間区間に含まれる前記動画コンテンツ中のオブジェクトの移動量と前記第2時間区間に含まれる前記動画コンテンツ中のオブジェクトの移動量とが等しくなるように、前記第1時間区間および前記第2時間区間を決定しても良い。
また、前記計測スケジュール決定部は、前記動画コンテンツが立体視用の動画コンテンツである場合に、前記動画コンテンツ中のオブジェクトの奥行方向の移動量に従って、前記第1時間区間に含まれる前記動画コンテンツ中のオブジェクトの奥行方向の移動量と前記第2時間区間に含まれる前記動画コンテンツ中のオブジェクトの奥行方向の移動量とが等しくなるように、前記第1時間区間および前記第2時間区間を決定しても良い。
また、前記計測スケジュール決定部は、前記動画コンテンツが立体視用の動画コンテンツである場合に、前記動画コンテンツ中のオブジェクトの奥行方向の距離に従って、前記第1時間区間に含まれる前記動画コンテンツ中のオブジェクトの奥行方向の距離の範囲と前記第2時間区間に含まれる前記動画コンテンツ中のオブジェクトの奥行方向の距離の範囲とが等しくなるように、前記第1時間区間および前記第2時間区間を決定しても良い。
例えば、前記計測スケジュール決定部は、前記動画コンテンツ中のオブジェクトの奥行き方向の移動継続時間がより大きく、かつ、前記オブジェクトの奥行き方向の移動速度がより大きいほど、眼電位を計測する時間区間がより長くなるように、眼電位を計測する時間区間を決定しても良い。
オブジェクトの奥行き方向の移動速度が大きいほど、眼球がより多く運動する。このため、眼球がより多く運動する時間区間を眼電位を計測する時間区間とすることができ、眼球の疲労を早い段階で判定することができる。
例えば、前記計測スケジュール決定部は、さらに、前記動画コンテンツ取得部が取得した前記動画コンテンツの再生速度が速いほど、眼電位を計測する時間区間がより長くなるように、眼電位を計測する時間区間を決定しても良い。
コンテンツの2倍速再生したような場合には、通常再生の場合に比べてオブジェクトの奥行き方向の移動速度が大きくなる。このため、再生速度が大きいほど、眼球がより多く運動する。このため、眼球がより多く運動する時間区間を眼電位を計測する時間区間とすることができ、眼球の疲労を早い段階で判定することができる。
例えば、上述の眼球疲労判定装置は、さらに、前記視聴者の眼球周囲の電極と当該電極の貼り付け位置における皮膚との間のインピーダンスを計測するインピーダンス計測部と、前記眼電位取得部で取得された前記視聴者の眼電位の周波数分析を行う周波数分析部と、前記周波数分析部で分析された前記視聴者の眼電位の周波数に基づいて、前記インピーダンス計測部がインピーダンスの計測に用いる信号の周波数を決定する計測周波数決定部とを備え、前記インピーダンス計測部は、前記計測周波数決定部が決定した周波数の信号を用いて、インピーダンスを計測し、前記インピーダンス取得部は、前記インピーダンス計測部で計測されたインピーダンスを取得しても良い。
このように取得された眼電位の周波数にあわせてインピーダンス計測を行う際の周波数を決定することで、疲労判定に用いる眼電位を補正するインピーダンスを、対象信号である眼電位の周波数で計測することができる。よって、周波数の違いによるインピーダンスの差による眼電位の補正誤差を小さくして、より精度の高い眼球の疲労判定を行うことができる。
例えば、上述の眼球疲労判定装置は、さらに、前記視聴者の眼球周囲の電極と当該電極の貼り付け位置における皮膚との間のインピーダンスを計測するインピーダンス計測部と、前記動画コンテンツ取得部で取得された前記動画コンテンツ中のオブジェクトの動き情報を抽出する動き情報抽出部とを備え、前記計測スケジュール決定部は、前記動き情報抽出部で抽出された前記オブジェクトの動き情報から前記視聴者の眼電位の周波数を推定する周波数推定部と、前記周波数推定部で推定された前記視聴者の眼電位の周波数に基づいて、前記インピーダンス計測部がインピーダンスの計測に用いる信号の周波数の範囲を決定する周波数範囲決定部と、前記インピーダンス計測部は、前記周波数範囲決定部が決定した周波数の範囲に含まれる周波数の信号を用いて、インピーダンスを計測し、前記インピーダンス取得部は、前記インピーダンス計測部で計測されたインピーダンスを取得しても良い。
動画コンテンツ中のオブジェクトの動きから推定される眼電位の周波数にあわせてインピーダンス計測を行う際の周波数の範囲を決定することで、疲労判定に用いる眼電位を補正するインピーダンスを、対象信号である眼電位の周波数で計測することができる。よって、周波数の違いによるインピーダンスの差による眼電位の補正誤差を小さくして、より精度の高い眼球の疲労判定を行うことができる。
例えば、上述の眼球疲労判定装置は、さらに、前記視聴者の眼球周囲の電極を用いて前記視聴者の眼電位を計測する眼電位計測部と、前記視聴者の眼球周囲の電極と当該電極の貼り付け位置における皮膚との間のインピーダンスを計測するインピーダンス計測部と、前記眼電位取得部で取得された前記視聴者の眼電位の周波数分析を行う周波数分析部と、前記動画コンテンツ取得部で取得された前記動画コンテンツ中のオブジェクトの動き情報を抽出する動き情報抽出部とを備え、前記計測スケジュール決定部は、前記動き情報抽出部で抽出された前記オブジェクトの動き情報から前記視聴者の眼電位の周波数を推定する周波数推定部と、前記周波数推定部で推定された前記視聴者の眼電位の周波数に基づいて、前記インピーダンス計測部がインピーダンスの計測に用いる信号の周波数の範囲を決定する周波数範囲決定部と、前記周波数範囲決定部で決定されたインピーダンスの計測に用いる信号の周波数の範囲と前記周波数推定部で推定された眼電位の周波数との一致の状態に応じて、眼電位を計測する時間区間を変更する判断部とを備え、前記眼電位計測部は、前記判断部で変更された後の時間区間において、前記視聴者の眼電位を計測し、前記インピーダンス計測部は、前記周波数範囲決定部が決定した周波数の範囲に含まれる周波数の信号を用いて、インピーダンスを計測し、前記眼電位取得部は、前記眼電位計測部で計測された前記視聴者の眼電位を取得し、前記インピーダンス取得部は、前記インピーダンス計測部で計測されたインピーダンスを取得しても良い。
動画コンテンツ中のオブジェクトの動きから推定される眼電位の周波数にあわせてインピーダンス計測を行う際の周波数の範囲を決定することで、疲労判定に用いる眼電位を補正するインピーダンスを、対象信号である眼電位の周波数で計測することができる。よって、周波数の違いによるインピーダンスの差による眼電位の補正誤差を小さくして、より精度の高い眼球の疲労判定を行うことができる。
また、実際に計測した眼電位から得られた周波数と、推定した周波数範囲との間に違いがある場合があっても、眼電位を計測する時間区間を適切に設定することができる。
例えば、前記判断部は、前記周波数分析部が分析した眼電位の周波数が、前記周波数範囲決定部が決定したインピーダンスの計測に用いる信号の周波数の範囲よりも大きい場合には、眼電位を計測する時間区間を拡大しても良い。
このような場合には、想定したよりも実際には眼球が多く運動しているため、眼電位を計測する時間区間を拡大することで、適切に眼球の疲労判定を行うことができる。
例えば、前記判断部は、前記周波数分析部が分析した眼電位の周波数が、前記周波数範囲決定部が決定したインピーダンスの計測に用いる信号の周波数の範囲よりも小さい場合には、眼電位を計測する時間区間を縮小しても良い。
このような場合には、想定したよりも実際には眼球があまり運動していないため、想定したよりも眼電位を測定する必要性に欠ける。このため、眼電位を計測する時間区間を縮小することで、適切に眼球の疲労判定を行うことができる。
例えば、前記計測スケジュール決定部は、さらに、前記動き情報抽出部で抽出された前記オブジェクトの動き情報から、前記オブジェクトの奥行き方向の移動距離を計算する奥行き移動距離計算部を備え、前記周波数推定部は、隣接するフレーム間での、前記奥行き移動距離計算部で計算された前記オブジェクトの奥行き方向の移動距離が長いほどより周波数が大きくなるように、前記視聴者の眼電位の周波数を推定しても良い。
なぜならば、オブジェクトの奥行き方向の移動距離が長いほど眼球は多く運動すると考えられるため、眼電位の周波数は大きくなると考えられる。
例えば、前記眼電位補正部は、単位時間当たりのインピーダンスの変化量が所定の値以上の時間区間におけるインピーダンスは除外して、眼電位を補正しても良い。
電極を押圧した場合などはインピーダンスが不安定になる。このため、この構成では、このようなインピーダンスが不安定な時間区間を除いて眼電位を補正することで、より正確な眼電位を計測することができる。
例えば、前記動画コンテンツは、立体視用の動画コンテンツであり、前記視聴者の眼球周囲の電極は、前記視聴者が掛ける立体映像視聴用のビューワーに設けられており、前記眼球疲労判定装置は、さらに、前記視聴者の眼球周囲の電極の接触状態と、前記視聴者が掛けるビューワーの位置の指示情報とを対応付ける不具合電極パタン情報を取得する不具合電極パタン取得部と、前記インピーダンス取得部で取得されたインピーダンスに基づいて、前記視聴者の眼球周囲の電極の接触状態を判定する接触電極状態判定部と、前記不具合電極パタン取得部が取得した前記不具合電極パタン情報から、前記接触電極状態判定部で判定された電極の接触状態に対応する指示情報を取得することにより、指示情報を生成し、視聴者に提示する調整指示情報生成部とを備えていても良い。
インピーダンスから電極の接触状態が分かるため、インピーダンスからビューワーの位置ずれを正すための指示情報を視聴者に表示することができる。ビューワーは、メガネ、ヘッドマウントディスプレイなどを含む。
例えば、上述の眼球疲労判定装置は、さらに、前記疲労判定部が判定した疲労度に応じたメッセージを画面に表示する画面制御部を備えていても良い。
この構成によると、眼球が疲労した場合に、立体視用の動画コンテンツの視聴を止めるように視聴者に促すことができる。
例えば、上述の眼球疲労判定装置は、さらに、前記疲労判定部が判定した疲労度に応じて、画面に表示する前記動画コンテンツの奥行き度合いを制御する画面制御部を備えていても良い。
この構成によると、眼球が疲労した場合に、動画コンテンツの奥行き度合いを小さくしたり、2次元映像に切り替えたりして、眼球の疲労を和らげることができる。
例えば、前記第1時間区間は、前記視聴者による前記動画コンテンツの視聴開始時における時間区間であっても良い。
この構成によると、動画コンテンツの視聴開始時の眼電位を基準として、その眼電位からの変化から眼球の疲労状態を判定することができる。このため、より正確に眼球の疲労状態を測定することができる。
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたは記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。
以下、本発明の一態様に係る眼球疲労計測システムについて、図面を参照しながら具体的に説明する。
なお、以下で説明する実施の形態は、いずれも本発明の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
図3は、実施の形態1における立体視用映像表示システムの眼球疲労計測システム1の構成図である。
眼球疲労計測システム1は、3次元表示装置10と3次元用メガネ20とを備える。
<3次元用メガネ>
3次元用メガネ20は、ビューワーの一例であり、制御信号受信部201と、シャッタ制御部202と、電位計測部210と、送受信部204とを備える。
制御信号受信部201は、3次元表示装置10から送信される、画面表示と3次元用メガネとの同期を取るための制御信号を受信する。
シャッタ制御部202は、画面に表示される右目用または左目用の画像と同期して、右目用または左目用シャッタ(図示せず)を開閉する。
電位計測部210は、視聴者の生体電位情報を計測する。
送受信部204は、3次元表示装置10と情報通信を行う。
電位計測部210は、複数個の電極211と、スイッチ212と、インピーダンス計測部213と、眼電位計測部214とを有する。
電極211は、視聴者の眼の周囲に接触し、視聴者の眼電位を取得する。
図4Aは、本実施の形態の電極を備えた3次元用メガネ20の一例を示す。
図4Bは、図4Aの3次元用メガネ20を視聴者が装着した際に電極211が視聴者の皮膚に接触する点を示す。
本実施の形態の計測電極は、6つの電極211a〜211fと、基準電極211Rと、ボディアース用電極211Eとの合計8つの電極を備える。なお、電極の数はこれに限らない。以下、電極211a〜211f、基準電極211R、ボディアース用電極211Eをそれぞれ、電極a〜f、電極R、電極Eとも言う。
電極211a及び電極211bは、視聴者の右目の水平方向の両側に対応する位置に配置し、視聴者の右目の水平方向の眼球運動に伴う眼電位を計測する。
電極211c及び電極211dは、視聴者の左目の水平方向の両側に対応する位置に配置し、視聴者の左目の水平方向の眼球運動に伴う眼電位を計測する。
電極211b及び電極211eは、視聴者の右目の垂直方向の両側に対応する位置に配置し、視聴者の右目の垂直方向の眼球運動に伴う眼電位を計測する。
電極211c及び電極211fは、視聴者の左目の垂直方向の両側に対応する位置に配置し、視聴者の左目の垂直方向の眼球運動に伴う眼電位を計測する。
インピーダンス計測部213は、電極の接触インピーダンスを計測する。
図5はインピーダンス計測部213の詳細な構成の一例を示す。インピーダンス計測部213は、発振器301と、電圧計測部302と、インピーダンス計算部303とを備える。発振器301は、インピーダンス計測用の電流を生成する。電圧計測部302は、発振器301から出力された電流が2つの電極211と生体を流れた際の電圧を計測する。インピーダンス計算部303は、発振器301の出力と電圧計測部302の出力とから2つの電極211と生体によって構成される回路のインピーダンスを計算する。
眼電位計測部214は、眼電位を計測する。
スイッチ212は、インピーダンス計測と眼電位計測とを切り替える。
送受信部204は、インピーダンス計測情報あるいは、眼電位計測情報を送信する。
なお、視聴者が装着するのは3次元用メガネ20に限定されるものではない。つまり、本実施の形態に係る眼球疲労計測システム1は立体視映像視聴時の眼球の疲労計測を行うものに限定されず、二次元映像視聴時の眼球の疲労計測を行ってもよい。この場合、3次元用メガネ20の代わりに、制御信号受信部201と、シャッタ制御部202は備えず、電位計測部210と、送受信部204とを備えるメガネ等の冶具を視聴者は装着するものとする。たとえば、制御信号受信部201と、シャッタ制御部202とを備えるディスプレイ用メガネを視聴者が装着することにより、その視聴者の眼球の疲労計測を行っても良い。ディスプレイ用メガネとは、たとえば、ブルーライトなどの特定の波長の光をカットするメガネである。
<3次元表示装置>
図3に示す3次元表示装置10は、コンテンツ情報蓄積部101と、表示画面102と、画面制御部103と、制御信号送信部104と、計測スケジュール決定部120と、計測切り替え制御部106と、送受信部107と、計測インピーダンス記憶部108と、計測眼電位記憶部109と、眼電位補正部110と、疲労判定部111と、出力部111bとを備える。
コンテンツ情報蓄積部101は、立体視用映像を含む動画コンテンツ(以下、「コンテンツ」とも言う)を蓄積する。
図6はコンテンツ情報蓄積部101が蓄積する情報の一例である。コンテンツ情報蓄積部101は、例えば、コンテンツごとにデータを蓄積しており、各コンテンツのデータは、コンテンツ識別情報と、コンテンツ開始からの時間と各時間における右目用画像と左目用画像とを含む。
画面制御部103は、コンテンツ情報蓄積部101の動画コンテンツを表示画面102に表示する制御を行うとともに、表示画面102と3次元用メガネ20との同期を制御するための指令信号を生成する。
表示画面102は、前記動画コンテンツを表示する。
制御信号送信部104は、画面制御部103による指令信号に基づき、画面表示と3次元用メガネ20との同期を取るための制御信号を、3次元用メガネ20に送信する。
計測スケジュール決定部120は、コンテンツ情報蓄積部101に蓄積された動画コンテンツの時間情報と左目用画像と右目用画像とに基づいて、コンテンツの時間情報に対して眼電位と電極の接触インピーダンスとのどちらを測定するかの予定を画像表示に先立って決定する。
計測切り替え制御部106は、計測スケジュール決定部120が決定したスケジュールに従って、眼電位の計測と接触インピーダンスの計測との切り替えを制御する。
送受信部107は、3次元用メガネ20との情報通信を行う。3次元用メガネ20からは、インビーダンス計測情報、眼電位の計測情報を受信する。なお、送受信部107は、図2に示したインピーダンス取得部107Aおよび眼電位取得部107Bとして機能する。インピーダンス計測情報は例えば、計測時刻ごとのそれぞれの電極のインピーダンスの絶対値である。眼電位の計測情報は例えば、計測時刻ごとの電極211aから電極211fそれぞれと基準電極211Rとの電位の差分である。
計測インピーダンス記憶部108は、3次元用メガネ20から受信したインピーダンス計測情報を記憶する。
図7は、計測インピーダンス記憶部108が記憶する情報の一例である。計測インピーダンス記憶部108は例えば、眼電位計測部214の入力インピーダンスの絶対値を記憶しており、さらに、経過時間と、コンテンツ時間と、計測周波数と、電極a〜f、電極Rおよび電極Eの各電極のインピーダンスの絶対値とを記憶する。さらに、計測インピーダンス記憶部108は、映像表示開始時に最も近い時刻の眼電位計測区間の前後で計測された各電極のインピーダンスの時間平均値を初期インピーダンス絶対値として記憶する。ただし、インピーダンス計測区間は、眼電位計測区間の前および後ろのいずれか一方であっても良い。
経過時間は、視聴者が3次元表示装置10と3次元用メガネ20による立体視用映像の視聴を開始してからの経過時間を示す。コンテンツ時間は、コンテンツ情報蓄積部101に蓄積された各コンテンツの時間情報、すなわちコンテンツの先頭からの時間を示す。計測周波数はインピーダンス計測に用いた電流の周波数を示す。
計測眼電位記憶部109は、3次元用メガネ20から受信した眼電位の計測情報を記憶する。
図8は、計測眼電位記憶部109が記憶する情報の一例である。計測眼電位記憶部109は、例えば、経過時間と、コンテンツ時間と、電極aから電極fそれぞれと電極Rとの電位差とを記憶する。さらに、計測眼電位記憶部109は、映像表示開始時に最も近い時刻の眼電位計測区間で計測された各電極の電位から求めた初期眼電位の振幅値を記憶する。初期眼電位の振幅値については後に説明する。図8の経過時間とコンテンツ時間は図7と同様の定義による時間情報である。ただし、インピーダンス計測時とはサンプリング周波数が異なるため、各データ間の経過時間、コンテンツ時間の時間間隔が異なる。本実施の形態ではサンプリング周波数が100Hzの例を示す。この例では時間間隔は10msである。
なお、インピーダンス計測と眼電位の計測は同時には行われないため、図7と図8の例では時間情報が重ならないものとして示す。
眼電位補正部110は、前記眼電位の計測情報をインピーダンス計測情報に基づいて補正する。
疲労判定部111は、異なる時間に計測されて補正された眼電位を比較して視聴者の眼球の疲労状態を判定する。
出力部111bは、疲労判定部111が判定した眼球の疲労状態を画面制御部103に出力する。画面制御部103は、出力部111bから受信した眼球の疲労状態に応じたメッセージを表示画面102に表示させる。例えば、眼球が疲労している場合には、休憩を促すメッセージを表示画面102に表示させる。また、画面制御部103は、眼球の疲労状態に応じて、表示画面102に表示する動画コンテンツの奥行き度合いを制御しても良い。例えば、眼球が疲労した場合に、動画コンテンツの奥行き度合いを小さくしたり、2次元映像に切り替えたりして、眼球の疲労を和らげることができる。
送受信部107と送受信部204とは、本実施の形態では無線で通信する。通信にはRF(Radio Frequency)通信、Bluetooth(登録商標)通信、ZigBee(登録商標)、Wi−Fi(登録商標)通信、赤外線通信等を用いた双方向通信を用いる。
なお、眼球疲労計測システム1が備える動画コンテンツの表示装置は、3次元表示装置10としたが、必ずしも3次元用である必要はない。つまり、表示装置は2次元の画像表示装置であっても良い。2次元の画像表示装置は制御信号送信部104を備えておらず、コンテンツ制御部情報蓄積部101は2次元の動画コンテンツを蓄積する。画面制御部103は表示画面102を制御し、表示画面102とメガネとの同期用の指令信号は出力しない。計測スケジュール決定部120はコンテンツ情報蓄積部101に蓄積された動画コンテンツの時間情報および画像情報に基づいて、コンテンツの時間情報に対して眼電位と電極の接触インピーダンスとのどちらを測定するかの予定を決定する。
[計測スケジュール決定部]
図9は、計測スケジュール決定部120の構成を示す。
計測スケジュール決定部120は、オブジェクト抽出部121と、オブジェクトトラッキング部122と、サイズ計算部123と、記憶部124と、サイズ奥行き変換テーブル記憶部125と、奥行き変化変換部126と、動き判断テーブル記憶部127と、判断部128と、計測区間決定部129と、計測スケジュール記憶部130とを備える。
オブジェクト抽出部121は、コンテンツ情報蓄積部101に蓄積された動画コンテンツの各時間の画像情報から、右目用画像あるいは左目用画像について画像中のオブジェクトを抽出する。
オブジェクトトラッキング部122は、オブジェクト抽出部121により抽出された各オブジェクトを時間方向にトラッキングする。
サイズ計算部123は、各オブジェクトが占める画面サイズに対する領域面積の時間経過に伴う変化をオブジェクトごとに分析する。
記憶部124は、抽出されたオブジェクトごとに時間とサイズの情報を記憶する。サイズ情報は画面サイズに対する比、画素数等である。
サイズ奥行き変換テーブル記憶部125は、予め定められた、オブジェクトが占める領域の面積および面積の変化率と、奥行きおよび奥行き変化量との関係を記憶する。
オブジェクトの奥行き方向の動きは、画面中に占めるオブジェクトの面積の増減に比例する。このことから、オブジェクトの奥行き方向の指標として、例えば、当該フレームの画面全体に対するオブジェクトの面積比と直前フレームの画面全体に対するオブジェクトの面積比の比率であるフレーム間面積比をもとめ、このフレーム間面積比を直前のフレームの画面全体に対する面積比で割ることで、面積の変化の程度を算出する。
一方、オブジェクトの奥行きが小さいほど画面全体に占める面積比が大きくなり、かつ、奥行き方向の移動距離が小さくても面積の変化が大きくなることから、直前のフレームの画面全体に対する面積比の逆数を面積の変化の程度の指標に乗ずる。
図10は、サイズ奥行き変換テーブル記憶部125に記憶されている情報の一例である。動画コンテンツ中の連続する2つの前後フレームにおいて、フレーム間面積比を直前のフレームの画面全体に対する面積比で割り、さらに直前のフレームの画面全体に対する面積比の逆数を乗じた値を左の列に記憶している。この指標に対応して予め定められた奥行き変化量を右の列に記憶している。
例えばこのようにして求めた面積変化の指標に対応する奥行き変化量を記憶するテーブルが、サイズ奥行き変換テーブル記憶部125に記憶されている。
奥行き変化変換部126は、サイズ奥行き変換テーブル記憶部125に記憶されているテーブルを参照して、サイズ計算部123の計算結果を奥行きの変化量に変換する。奥行き変化変換部126は記憶部124に記憶された時間とサイズの情報より、連続する2つのフレームに相当する時間のオブジェクトのサイズ情報を取得する。奥行き変化変換部126は、取得した各フレームのサイズ情報を用いて前フレームでのオブジェクト面積に対する後ろのフレームでのオブジェクト面積の比を、前フレームでのオブジェクト面積の画面サイズに対する比の二乗で割った値を求める。奥行き変化変換部126は、サイズ奥行き変換テーブル記憶部125に記憶されているテーブルを参照し、各フレームのサイズ情報から求めた値に対応する奥行き変化量を求める。
なお、ここではオブジェクトの面積および面積の変化率と奥行き変化量との関係は固定されたものとして示したが、サイズ奥行き変換テーブル記憶部125に記憶されているテーブルの値は画面サイズによって異なる。そこで、奥行き変化変換部126はサイズ奥行き変換テーブル記憶部125に記憶されているテーブルを参照して、表示画面102のサイズに対応する係数を乗じて奥行き変化量を求めるとしても良い。
動き判断テーブル記憶部127は、オブジェクトの奥行き変化情報によりインピーダンス計測と眼電位計測を切り替えるための判断基準を記憶する。
図11は動き判断テーブル記憶部127に記憶される情報の一例である。動き判断テーブル記憶部127に記憶されているテーブルは、例えば、オブジェクトの同一方向継続時間と、オブジェクトのフレームあたりの速さと、オブジェクトの同一方向への移動の対数距離と、上記3条件の組み合わせにより予め定められた眼電位計測適合とを含む。同一方向継続時間は、動画中のオブジェクトが1つの方向に移動し続ける時間長である。フレームあたりの速さは、オブジェクトのフレーム間隔あたりの移動距離である。同一方向移動対数距離は、オブジェクトが1つの方向に移動し続けた一連の移動において移動した距離を対数に変換したものである。眼電位計測適合度(以下、「適合度」とも言う)は同一方向継続時間、フレームあたりの速さ、同一方向移動対数距離の各条件に従って予め実験的に定められた眼電位計測に適した状態であるか否かを判断する指標である。眼電位計測適合度は、値が大きいほど、より眼電位計測に適した状態であることを示す。眼電位は眼球が、大きく、速く動くとその絶対値が大きくなる。動画中のオブジェクトの動きが大きく、速い場合に、眼電位計測の適合度が高くなる。
動き判断テーブル記憶部127に記憶される同一方向継続時間と、フレームあたりの速さと、同一方向移動対数距離とは、図11のように予め定められた数値範囲で分割されている。また、動き判断テーブル記憶部127には、数値範囲ごとに眼電位計測適合度との対応が記憶されている。
なお、動き判断テーブル記憶部127には、同一方向継続時間と、フレームあたりの速さと、同一方向移動対数距離とのうち、少なくとも2つを記憶していれば良い。例えば、同一方向継続時間と、フレームあたりの速さとが記憶されていれば、同一方向移動対数距離は、これら2つの値から計算で求めることができる。
判断部128は、奥行き変化変換部126で求められたオブジェクトの奥行き変化量と記憶部124に記憶された時間とサイズより、同一方向継続時間とフレームあたりの速さと、同一方向移動対数距離とを求める。また、判断部128は、動き判断テーブル記憶部127に記憶されているテーブルを参照してインピーダンス計測と眼電位計測を切り替えるタイミングを判断する。例えば、あるオブジェクトが1秒間同一方向へ移動しており、その速さはフレームあたり9.3cmで、その移動対数距離は2.45である場合、判断部128は動き判断テーブル記憶部127に記憶されているテーブルを参照して、データAを抽出する。データAの眼電位計測適合度は4である。判断部128は、各フレームに含まれるオブジェクトごとに眼電位計測適合度を求め、フレーム内に、例えば、適合度が5以上のオブジェクトが1以上ある場合、またはフレーム内に、適合度が3以上のオブジェクトが3つ以上ある場合に、当該フレームを眼電位計測区間とする。一連の眼電位計測区間の開始フレームと終了フレームのタイミングをインピーダンス計測と眼電位計測を切り替えるタイミングとする。
計測区間決定部129は、計測を切り替えるタイミングをもとに、電極の接触インピーダンスを計測する時間区間と視聴者の眼電位を計測する時間区間とを決定する。
計測スケジュール記憶部130は、動画コンテンツの時間軸上での計測のスケジュールを記憶する。
図12は、計測スケジュール決定部120の動作フローチャートを示し、図13の計測スケジュール決定ステップ(S1010)に対応する。
<ステップS1011>
視聴が開始された後(図13のステップS1000)、オブジェクト抽出部121は、映像の各フレームの右目用画像あるいは左目用画像から、オブジェクトを分割し、抽出する。オブジェクト分割の方法は、例えば非特許文献2:「2000年、コロナ社、末松良一、山田宏尚著、メカトロニクス教科書シリーズ、画像処理工学」に示されるようなクラスタリングによる領域分割を用いるものとする。
<ステップS1012>
オブジェクトトラッキング部122は、ステップS1011により抽出した各フレームのオブジェクトについて、フレーム間で同一のオブジェクトを特定してオブジェクトトラッキングを行う。オブジェクトトラッキングについては例えば非特許文献3:「池田研二,今村幸祐,橋本秀雄,“動画像の時間・空間情報を利用した動領域セグメンテーションとトラッキング”,映像情報メディア学会誌,Vol.56, No.8, pp.1349−1353,2002」の方法による。
<ステップS1013>
サイズ計算部123は、ステップS1012でトラッキングされたオブジェクトごとに各フレームにおけるオブジェクトの領域面積を求める。
<ステップS1014>
奥行き変化変換部126は、サイズ奥行き変換テーブル記憶部125に記憶されているテーブルを参照して、各オブジェクトの領域面積のフレーム間の差を求め、フレームごとのオブジェクトの奥行き位置の相対変化を求める。
<ステップS1015>
フレームごとのオブジェクトの奥行き位置の変化は、オブジェクトの奥行き方向の動きを示す。判断部128は動き判断テーブル記憶部127に記憶されているテーブルを参照して、当該フレームに含まれるオブジェクトの奥行き方向の動きに応じて映像の当該フレームが眼電位計測に適したフレームであるか、インピーダンス計測に適したフレームであるかを判断する。
判断部128が、眼電位計測に適したフレームであるか否かを判断する方法について以下に説明する。
判断部128は、当該フレームに含まれるオブジェクトについて、動き判断テーブル記憶部127に記憶されているテーブルを参照して対応する眼電位計測の適合度を求める。
フレーム内に、適合度が5以上のオブジェクトが1以上ある場合、またはフレーム内に、適合度が3以上のオブジェクトが3つ以上ある場合に、判断部128は、当該フレームを眼電位計測区間とする。
なお、判断基準はオブジェクトの奥行き方向の運動速度と運動距離とが大きく、視聴者の眼球運動が大きいことが予測されるフレームを眼電位計測区間と判断する基準であれば、これ以外の基準でもよい。さらに、視聴者の眼球が疲労していない場合には、眼電位計測区間内での眼球の運動量が、それぞれの眼電位計測区間で概ね等しくなるようにするための判断基準を設けても良い。つまり、運動速度と運動距離とがそれぞれの眼電位計測区間において概ね等しくなるように判断基準を設けても良い。
<ステップS1016>
計測区間決定部129は、眼電位計測に適した連続するフレームを眼電位計測区間とし、インピーダンス計測に適した連続したフレームをインピーダンス計測区間として計測スケジュール記憶部130にフレームごとの計測対象を記憶する。
眼電位計測に適した連続するフレームは、例えば12フレームである。動画コンテンツのフレームレートが1秒当たり60フレームである場合は、12フレームの時間区間は200ミリ秒に相当する。例えばインピーダンス計測を100Hzの電気信号を用いて行う場合、電気信号の1周期は10msである。この場合、20周期の電気信号でインピーダンスを計測するには200ミリ秒を必要とする。なお、インピーダンス計測に用いる電気信号の周波数と周期の数はこれ以外でもよいが、インピーダンス計測区間としての連続したフレームは、インピーダンス計測に用いる電気信号の1周期の時間以上の時間長となる連続するフレームである必要がある。
なお、計測スケジュール記憶部130には、眼電位計測区間とインピーダンス計測区間の切り替えフレームまたは時間のみを記憶してもよい。
[計測インピーダンス記憶部]
図7は、計測インピーダンス記憶部108に記憶されるデータ構成の一例を示す。
計測インピーダンス記憶部108は、映像表示開始からの経過時間情報tと、映像コンテンツの時間軸上での時間情報Tと、電極ごとに計測されたインピーダンスの値の情報を記録する。
本実施の形態では、計測インピーダンス記憶部108は、更にインピーダンス計測時の信号周波数を記憶する。
また、本実施の形態では、計測インピーダンス記憶部108は、計測電極aからfのインピーダンス値に加えて、基準電極211Rとボディアース用電極211Eのインピーダンス値を記憶する。なお、計測インピーダンス記憶部108に記憶するインピーダンス値は電極211のうちの一部の電極のインピーダンス値であっても良いし、全部の電極のインピーダンス値であっても良い。
なお、本実施の形態では、計測スケジュール決定部120は、3次元動画コンテンツに対して、オブジェクトの奥行の変化を計算して、画像の動きの判断を行い計測区間を決定したが、2次元の動画コンテンツに対して動きの判断を行っても良い。その際には、オブジェクトの奥行の変化ではなく、例えば、オブジェクトの画面平面上での単位時間当たりの移動量に基づいて動きの判断を行っても良い。なお、2次元の動画コンテンツからのオブジェクトの移動量算出は、図12に示したオブジェクト抽出処理(S1011)およびオブジェクトトラッキング処理(S1012)を行うことにより行われる。2次元の動画コンテンツのフレーム中にオブジェクトが複数存在する場合には、複数のオブジェクトの移動量の平均値または最大値を、そのフレームのオブジェクトの移動量として算出することにより、単位時間当たりのオブジェクトの移動量を算出しても良い。
[計測眼電位記憶部]
図8は、計測眼電位記憶部109に記憶されるデータ構成の一例を示す。
計測眼電位記憶部109は、映像表示開始からの経過時間情報tと、映像コンテンツの時間軸上での時間情報Tと、図4Aおよび図4Bに示す各計測電極により計測された電位の値の情報を記憶する。
なお、計測インピーダンス記憶部108と計測眼電位記憶部109とに記憶されている映像表示開始からの経過時間情報tと、映像コンテンツの時間軸上での時間情報Tは、両者に共通の情報である。
図13は眼球疲労計測システム1の動作を示すフローチャートである。図13に従って、眼球疲労計測システム1の処理手順を説明する。
<ステップS1000>
まず、視聴者により図示しない電源スイッチが押され、3次元表示装置10の電源と3次元用メガネ20の電源が入り、眼球疲労計測システム1は動作を開始する。
<ステップS1010>
計測スケジュール決定部120は、コンテンツ情報蓄積部101に蓄積されたコンテンツに対して、コンテンツの時間軸上で計測インピーダンスを計測する時間区間と、眼電位を計測する時間区間とを決定する。
<ステップS1020>
画面制御部103は、コンテンツ情報蓄積部101に蓄積されたコンテンツの映像を、表示画面102へ出力する。同時に表示画面102への画像表示と3次元用メガネ20のシャッタタイミングとの同期を制御する指令信号を生成し、制御信号送信部104へ出力して立体視用映像の表示を開始する。
<ステップS1030>
映像表示開始後、疲労判定部111は、予め定められた時間に設定された、疲労判定時間であるか否かを判定する。疲労判定部111は例えば計時手段を含み、視聴開始から例えば30分ごとのように予め定められた疲労判定を行う時間の情報を記憶している。疲労判定部111は視聴開始からの経過時間が予め定められた疲労判定を行う時間またはタイミングに一致するか否かを判定することで、疲労判定時間であるか否かを判定する。
ステップS1030において疲労判定時間である(S1030でYes)場合は、ステップS1040に進む。
ステップS1030において疲労判定時間ではない(S1030でNo)場合は、ステップS1050に進む。
なお、ステップS1030において、疲労判定部111は30分ごとに疲労判定を行うこととしたが、視聴開始時から10分以上経過した時点であれば、30分ごとのタイミング以外のタイミングで疲労判定を行っても良い。子供の視覚への悪影響を避けるために、子供の立体視用映像の連続視聴を15分以内としている場合もある。視覚あるいは眼球への影響を早期に検出するためには、第1の時間区間と第2の時間区間との時間間隔は短い方が良い。一方で、正確に疲労判定を行うためには、インピーダンスおよび眼電位を計測するための充分な時間長の時間区間が必要である。そこで、視覚あるいは眼球への影響を早期に検出し、且つ正確な疲労判定に必要なインピーダンスおよび眼電位の計測時間を確保する目的で、第1の時間区間と第2の時間区間との時間間隔は10分以上とするのが望ましい。
<ステップS1040>
眼電位補正部110は、計測インピーダンス記憶部108と計測眼電位記憶部109とに、直前の疲労判定以降に新たな計測データが記憶されているか否かを確認する。
ステップS1040において計測インピーダンス記憶部108あるいは計測眼電位記憶部109のいずれかに記憶されたデータが疲労判定を行うには不足していると判断した(S1040においてNo)場合は、ステップS1050へ進む。
ステップS1040にて計測インピーダンス記憶部108と計測眼電位記憶部109とに疲労判定を行うのに十分なデータが記憶されていると判断した(S1040においてYes)場合は、ステップS1080へ進む。
<ステップS1050>
ステップS1050では、計測切り替え制御部106は、現在表示している映像がコンテンツの時間軸上でインピーダンス計測を行う時間区間の映像であるかどうかを確認する。
インピーダンス計測の時間区間内である(S1050がYes)場合は、計測切り替え制御部106は、インピーダンス計測を行う第一の指令信号を生成し、3次元表示装置10の送受信部107に出力する。送受信部107は計測切り替え制御部106より入力された第一の指令信号を送信する。
3次元用メガネ20の送受信部204は送受信部107から送信された第一の指令信号を受信してスイッチ212をインピーダンス計測部213に接続する。これにより、インピーダンス計測部213は電極211の接触インピーダンスを計測可能な状態となり、計測した接触インピーダンスのデータを3次元用メガネ20の送受信部204に出力する。
送受信部204は、インピーダンス計測部213から入力されたデータを、3次元表示装置10に送信する。
<ステップS1060>
3次元表示装置10の送受信部107は、送受信部204から送信されたデータを受信し、計測インピーダンス記憶部108に記憶する。
<ステップS1070>
一方、ステップS1050において現在表示している映像がインピーダンス計測の時間区間内の映像でない(S1050においてNo)場合は、計測切り替え制御部106は眼電位計測を行う第二の指令信号を生成し、3次元表示装置10の送受信部107に出力する。送受信部107は計測切り替え制御部106より入力された第二の指令信号を3次元用メガネ20に送信する。3次元用メガネ20の送受信部204は送受信部107から送信された第二の指令信号を受信してスイッチ212を眼電位計測部214に接続する。これにより、眼電位計測部214は電極211により眼電位を計測可能な状態となり、計測した眼電位のデータを3次元用メガネ20の送受信部204に出力する。送受信部204は眼電位計測部214から入力されたデータを3次元表示装置10に送信する。3次元表示装置10の送受信部107は、送受信部204から送信されたデータを受信して、計測眼電位記憶部109に記憶する。
ステップS1060およびステップS1070のいずれの動作の後も、ステップS1030へ戻る。
<ステップS1080>
眼電位補正部110は、映像表示開始時に最も近い時間に計測された眼電位を、計測眼電位記憶部109より抽出する。さらに眼電位補正部110は、抽出した眼電位の計測時間区間の前後のインピーダンスを計測インピーダンス記憶部108より抽出する。眼電位補正部110は抽出した眼電位を計測時間区間の前後のインピーダンスの値を用いて補正し、疲労判定部111へ出力する。なお、眼電位の計測時間区間の前または後のインピーダンスしか計測インピーダンス記憶部108には記憶されていない場合には、眼電位の計測時間区間の前または後のインピーダンスの値を用いて抽出した眼電位を補正する。
<ステップS1090>
疲労判定部111は、ステップS1080で補正された眼電位について、同一の電極、あるいは同一の電極セットで計測された眼電位について、映像表示開始時に最も近い時間に計測された眼電位の振幅平均と直近で計測された眼電位の振幅平均との比に基づいて視聴者の疲労を判定する。疲労判定方法については、後述する。なお、電極セットとは、2つの電極間の電位差を計測値として用いる場合の2つの電極の組である。
<ステップS1100>
画面制御部は、視聴者により図示しない電源スイッチあるいは図示しない他の入力手段により、電源スイッチが押される等の3次元表示装置10の電源を切るまたは視聴を終了する入力があるかどうかを判断する。
<ステップS1110>
ステップS1100において3次元表示装置10の電源を切るまたは視聴を終了する入力がある場合は、眼球疲労計測システム1の動作を終了する(S1110)。
ステップS1100において3次元表示装置10の電源を切るまたは視聴を終了する入力がない場合は、ステップS1030に戻る。ステップS1030からステップS1100を繰り返すことで、眼球疲労計測システム1は、映像表示中の視聴者の疲労を逐次判定し続ける。
ステップS1030からステップS1100を反復する際の時間間隔は、例えば10秒間隔である。なお、疲労判定部111は、映像表示開始からの時間経過に基づいて疲労判定を行う。一方、計測切り替え制御部106は動画コンテンツの時間軸上の時間に基づいて時間区間の切り替えを制御する。
ステップS1080の補正とステップS1090の疲労判定の動作では、基準値として計測眼電位記憶部109に記憶された眼電位データのうち、映像表示開始時に最も近い時刻の眼電位計測区間に計測された眼電位データと、当該眼電位計測区間の前後のインピーダンス計測区間で計測されたインピーンダンスデータとを用いる。
これに対して現在の疲労を判定するためのデータとして、直近に計測眼電位記憶部109に記憶された眼電位データと当該眼電位計測区間の前後のインピーダンス計測区間で計測されたインピーダンスデータとを用いる。
眼電位の振幅は、眼電位計測部214の入力インピーダンスと電極211の接触インピーダンスの比の逆数に比例する。眼電位計測部214の入力インピーダンスは固定値である。したがって電極211の接触インピーダンスにより眼電位の振幅は変化する。
映像表示開始時に最も近い時刻の眼電位計測区間に計測された眼電位データの振幅値をEOGs、現在時刻の直近の眼電位計測区間に計測された眼電位データの振幅値をEOGm、映像表示開始時に最も近い時刻の眼電位計測区間に計測された眼電位データの振幅の真値をXs、現在時刻の直近の眼電位計測区間に計測された眼電位データの振幅の真値をXm、眼電位計測部214の入力インピーダンスをImpI、映像表示開始時に最も近い時刻の眼電位計測区間の前後に計測された電極211の接触インピーダンスの平均をImpS、現在時刻の直近の眼電位計測区間の前後に計測された電極211の接触インピーダンスの平均をImpMとすると、計測される眼電位EOGsとEOGmはそれぞれ以下の式1および式2で示すことができる。
Figure 2013140725
入力インピーダンス、計測された電極211の接触インピーダンス、および映像表示開始時に最も近い時刻の眼電位計測区間の前後に計測された電極211の接触インピーダンスの平均は、例えば図7のように計測インピーダンス記憶部108に記憶されている。
眼電位データの振幅値は、2つの電極間の電位差を計測時点ごとに計算することにより生成される時間波形の最大値と最小値の差である。ここでの時間波形の最大値と最小値は、計測区間中の時間波形の最大値と最小値とする。2つの電極は、例えば、図8のように電極aと電極b、電極cと電極d、電極bと電極e、電極cと電極fとする。2つの電極は1つまたは2つの眼をはさむ位置に配置された電極同士が望ましい。計測された計測時点ごとの各電極の眼電位データおよび映像表示開始時に最も近い時刻の眼電位計測区間に計測された眼電位データの振幅値は、例えば図8のように計測眼電位記憶部109に記憶されている。
図14はインピーダンス計測と眼電位計測の時間的関係を図示した模式図である。視聴開始後、まず計測スケジュール決定が行われ、映像表示が開始される。EOGsは、映像表示開始後で、最初の眼電計測区間で計測された眼電位データより作成され、計測眼電位記憶部109に記憶される。また、EOGmは、予め定められた疲労判定時間以前に計測されている眼電位計測区間であり、当該の疲労判定時間に最も近い眼電位計測区間で計測された眼電位データより求める。
映像視聴による疲労を計測するためには、映像視聴開始時の眼球の状態と映像視聴中あるいは視聴終了時の眼球の状態を比較する必要がある。
正確には、まったく同じ視覚的指標に対して、同様に眼球運動で追随する際のXsとXmとを比較する必要がある。しかしながら、動画コンテンツ中でまったく同じ視覚的指標を用いた検査を行うことはできない。そこで例えば、1分程度から5分程度の振幅の長時間平均を比較する。長時間の平均にすることで、コンテンツの違いを平準化する。ここで、計測された長時間平均値をEOGs、EOGm、長時間平均の真値をXs、Xmとおいても、上記の2式は変わらない。XsとXmの比較の方法として例えばXsに対するXmの比を用いる場合、比は以下の式3のようになり、計測された眼電位を計測されたインピーダンスで補正して眼球の状態を比較することができる。
Figure 2013140725
疲労判定部111は、例えばXm/Xsの値が0.75未満となった場合に視聴者の眼球が疲労していると判定するものとする。
なお、ここでは疲労判定にXmとXsとの比を用いたが、XmとXsとの差を用いる等の他の判定方法であってもよい。
また、ここでは眼電位の振幅を、計測区間中の最大値と最小値との差としたが、以下のように眼電位を算出しても良い。つまり、計測区間中の2つの電極間の電位差の時間波形について各ピークの間の電位差を求め、ピーク間電位差の平均を眼電位の振幅としても良い。あるいは、計測区間中の2つの電極間の電位差の時間波形について、計測区間中の電位差の二乗平均平方根を振幅としても良い。
このように動画コンテンツに含まれるオブジェクトの奥行き方向の動きを指標にして、インピーダンス計測と眼電位計測を切り替える。また、眼電位計測時に近接する時間区間に計測した電極の接触インピーダンスにより眼電位を補正する。また、補正した眼電位で映像視聴開始時と疲労判定時との眼球の状態を比較する。このことで映像視聴開始直後のインピーダンス変動や、メガネのかけなおし等によるインピーダンスの変動の影響を除外して、映像視聴開始直後の疲労していない眼球と、映像視聴を続けた眼球の状態との比較により、視聴者の疲労をより正確に検出することができる。
計測インピーダンス記憶部108と計測眼電位記憶部109のどちらにも映像表示開始からの経過時間と、映像コンテンツの時間軸上での時間とが記録されている。このことにより、映像の一時停止や巻き戻し再生等、視聴者の操作により、映像表示開始からの時間とコンテンツの時間軸上の時間との間にずれが生じた場合にも、必要な眼電位とインピーダンスを抽出することができる。
なお、実施の形態1では動画コンテンツに含まれるオブジェクトの奥行き方向の動きを指標にしてインピーダンス計測と眼電位計測との時間区間を切り替えたが、この方式では、視聴者が早送りやスローの再生をしている場合には、奥行き方向の運動速度が変化する。スロー再生では視聴時の眼球運動の速度が遅くなることが予想され、眼電位計測に適合しない。また、早送りや倍速再生をしている場合には、眼球運動の速度が速くなることが予想され、眼電位計測に適合する。そこで、計測スケジュール記憶部130は、フレームまたは映像コンテンツの時間軸上の時刻と合わせて、計測対象を記憶するのみでなく、眼電位計測適合度を記憶する。
図示しない入力手段により視聴者が映像の再生速度を変化させた場合には、画面制御部103は、計測切り替え制御部106に再生速度情報を出力する。
再生速度情報は、例えば標準再生速度に対する再生速度の比の情報である。
計測切り替え制御部106は計測スケジュール記憶部130に記憶されている眼電位計測適合度を参照し、スロー再生時にはより大きな眼電位計測適合度の場合に眼電位計測を行い、早送りや倍速再生をしている場合には、より小さな眼電位計測適合度であっても眼電位計測を行うように、計測スケジュールを書き換えて、計測切り替え制御信号を出力する。
図15は倍速再生を行う際の眼電位計測適合度の変化の一例を示す。
例えば、あるオブジェクトが標準速度で再生される際には、同一方向継続時間が1秒(1000ms)で、速さがフレームあたり9.3cmで同一方向への移動対数距離が2.45である場合、データBが抽出され、そのオブジェクトの眼電位計測適合度は4となる。このオブジェクトが倍速で再生される際には、同一方向継続時間が500msとなり、速さはフレームあたり18.6cmとなり、同一方向への移動対数距離は2.45であるため、データCが抽出される。したがって、オブジェクトの眼電位計測適合度は6となる。
眼電位計測適合度を決定するオブジェクトの移動時間と速さは、倍速再生により移動時間が半分になり、速さが2倍になる。このため、移動対数距離は変化しない。倍速再生時の眼電位計測適合度は標準速度での再生時の眼電位計測適合度より高くなる。本実施の形態の計測切り替え制御部106は、各オブジェクトの動き情報を取得しないため、再生速度情報に基づいて眼電位計測適合度に対する切り替え基準を変更する。または計測切り替え制御部106は、再生速度情報に基づいて、計測スケジュール決定部120に計測スケジュールの再決定を指示する。これにより、視聴者が再生速度を変更した場合にも適切なタイミングで眼電位計測とインピーダンス計測を切り替えることができる。
計測スケジュールの変更は、例えば早送り等の再生速度に関する操作が行われた時点から5分間等の一定時間について行われるとする。再生速度に関する操作が行われるごとに、操作時点から一定時間の計測スケジュールが変更されるものとし、操作が行われなければ、さらに時間区間を延長して計測スケジュールを変更する。このようにオブジェクトの奥行き方向の動きに対する判断基準を視聴時の再生速度に合わせて変更する。これにより、スロー再生や早送りあるいは倍速再生等、視聴者が再生速度を操作することにより、予測される眼球運動の状況が変化しても、疲労判定に適した眼球運動の計測を行うことができる。
なお、実施の形態1では、図3のように3次元用メガネ20は電位計測部210と送受信部204とを備えるものとしたが、図16のように、電位計測部210、計測インピーダンス記憶部108、計測眼電位記憶部109、眼電位補正部110、疲労判定部111を3次元表示装置10Bではなく、3次元用メガネ20Bに備え、ステップS1030からステップS1090の動作は3次元用メガネ20Bで行われるものとしてもよい。
その際には、送受信部204は3次元表示装置10Bの送受信部107より、計測切り替え制御信号を受信し、疲労判定結果を送受信部107へ送信する。送受信部107は、受信した疲労判定結果を画面制御部103に送信する。
電位計測部210および電位計測部210に含まれる電極211、スイッチ212、インピーダンス計測部213、眼電位計測部214、計測インピーダンス記憶部108、計測眼電位記憶部109、眼電位補正部110、疲労判定部111のうち電極211以外は、3次元用メガネ20Bに備えられていても3次元表示装置10Bに備えられていてもよい。
なお、実施の形態1では、スイッチ212はインピーダンス計測部213と眼電位計測部214を切り替え、眼電位計測に適合する区間では眼電位を計測し、それ以外の区間ではインピーダンスを計測するとした。これに対して、スイッチ212がインピーダンス計測部213と眼電位計測部214の切り替えに加えて、さらにアースとの切り替えも可能にし、眼電位計測とインピーダンス計測のどちらも行わない区間を設けるものとしても良い。この際には、例えば、インピーダンス計測の時間区間の時間長を固定とし、インピーダンス計測部213は、眼電位計測直前の一定時間、例えば1秒間と、眼電位直後の一定時間、たとえば1秒間との区間のみインピーダンスを計測する。これにより、眼電位計測により近い時間区間のみでインピーダンスを計測することになり、計測されるインピーダンスは眼電位計測時のインピーダンスにより近い値となる。これにより、眼電位補正部110は、より正確なインピーダンスの値を用いたより正確な眼電位の補正を行うことができる。したがって、疲労判定部111は、より正確な疲労判定を行うことができる。
(実施の形態2)
図17は実施の形態2による眼球疲労計測システム2の構成図である。
眼球疲労計測システム2は、3次元表示装置10Cと、3次元用メガネ20Cとを備える。
3次元表示装置10Cは、3次元表示装置10の構成に加えて周波数分析部112と計測周波数決定部113とをさらに備える。また、3次元用メガネ20Cは、インピーダンス計測部213の代わりにインピーダンス計測部213Cを備える。図3と同一部分には同一の参照符号を付し、説明を適宜省略する。
周波数分析部112は、計測眼電位記憶部109に記憶された眼電位の周波数分析を行う。
計測周波数決定部113は、周波数分析部112より出力された眼電位の周波数に基づいて、インピーダンス計測に用いる出力信号の周波数を決定する。
図18は3次元用メガネ20Cのインピーダンス計測部213Cの詳細な構成を示す。
インピーダンス計測部213Cは、発振器301C、電圧計測部302、インピーダンス計算部303を備える。
発振器301Cは、インピーダンス計測用の信号を生成する。発振器301Cは、計測周波数決定部113が決定し、送受信部107および送受信部204を介して発振器301Cが受信する周波数を、発振周波数として用いる。
電圧計測部302は、スイッチ212を介して電極211から入力された信号の電圧を計測する。
インピーダンス計算部303は、発振器301Cから出力される電圧値と電圧計測部302により計測された電圧値とを比較してインピーダンスを計算する。
図19は、実施の形態2における眼球疲労計測システム2の動作フローチャートである。図19は、図13に示すフローチャートに、ステップS2010、ステップS2020、ステップS2030及びステップS2040を追加し、ステップS1060がステップS2060に置き換わった以外は図13と同様である。
図19のステップS1000からS1050、S1070は図13と同様である。
<ステップS1050>
計測切り替え制御部106は、現在表示している映像がインピーダンス計測を行う時間区間の映像であるかどうかを確認する。
現在表示している映像が、インピーダンス計測の時間区間内である場合には、計測切り替え制御部106は、インピーダンス計測を行うための第一の指令信号を生成し、送受信部107に出力する。
送受信部107は第一の指令信号を3次元用メガネ20Cに送信する。3次元用メガネ20Cの送受信部204は、送受信部107から送信された第一の指令信号を受信して、スイッチ212をインピーダンス計測部213Cに接続する。これにより、インピーダンス計測部213Cは電極211の接触インピーダンスを計測可能な状態となる。
<ステップS1070>
一方、ステップS1050において現在表示している映像がインピーダンス計測の時間区間内の映像でないと判断された場合には、計測切り替え制御部106は眼電位計測部214へスイッチを接続する制御信号を生成し、3次元表示装置10Cの送受信部107に出力する。送受信部107は計測切り替え制御部106より入力された制御信号を送信する。3次元用メガネ20Cの送受信部204は送受信部107から送信された信号を受信してスイッチ212を眼電位計測部214に接続する。これにより、眼電位計測部214は電極211により眼電位を計測可能な状態となり、計測した眼電位のデータを3次元用メガネ20Cの送受信部204に出力する。送受信部204は眼電位計測部214から入力されたデータを送信する。3次元表示装置10Cの送受信部107は、送受信部204から送信されたデータを受信し、計測眼電位記憶部109に記憶する。
<ステップS2010>
周波数分析部112は、計測眼電位記憶部109に記憶された眼電位のデータの周波数分析を行う。
<ステップS2020>
計測周波数決定部113は、周波数分析部112の出力に従って、インピーダンス計測に用いる信号の周波数帯域を決定する。
例えば、眼電位の周波数が12Hzから16Hzであった場合、眼電位の周波数帯域を含み、眼電位の周波数の前後10%以上の余裕を含む周波数として10Hzから40Hzの周波数帯域を設定する。なお、周波数帯域設定時の余裕の一例として10%としたが、これ以外の値でもよい。
<ステップS2030>
インピーダンス計測部213Cは、送受信部204よりステップS2010、ステップS2020で決定した、計測周波数帯域の指定信号が入力されているか否かを確認する。
計測周波数帯域の指定信号が入力されている(S2030でYes)場合は、ステップS2040に進む。
計測周波数帯域の指定信号が入力されていない(S2030でNo)場合はステップS2060へ進む。
<ステップS2040>
発振器301Cの周波数は、ステップS2010、ステップS2020で決定され、送受信部204より発振器301Cに入力された計測周波数帯域の指定信号に従って設定される。発振器301には、計測周波数帯域の初期値として、例えば10Hzから1000Hzまでの帯域が設定されている。
<ステップS2060>
発振器301に設定された周波数帯域に従って、発振器301が予め定められた電圧と電流の計測信号を、電極211の基準電極に出力する。電圧計測部302は、当該基準電極以外の電極211から取得される電圧を計測する。
インピーダンス計算部303は、発振器301より出力された信号と電極211から取得された電圧とから、発振器301が出力した信号周波数でのインピーダンスを計算し、計算したインピーダンスを計測インピーダンス記憶部108に記憶する。
ステップS2060およびステップS2020のいずれの動作の後も、ステップS1030へ戻る。
このように計測された眼電位の周波数にあわせてインピーダンス計測を行う周波数帯域を逐次設定することで、疲労判定に用いる眼電位を補正するインピーダンスを、対象信号である眼電位の周波数で計測することができる。
図20はインピーダンスと周波数の関係を模式的に示した図である。インピーダンスは周波数が低いほど大きく、10Hzより低い周波数では周波数によるインピーダンスの差が非常に大きい。眼電位の周波数が10Hzを下回ることが多いため、眼電位の周波数によって、インピーダンスは大きく異なる。したがって眼電位の振幅は眼電位の周波数によってインピーダンスの影響の大きさが異なる。
本実施の形態の構成により、周波数の違いによるインピーダンスの差による眼電位の補正誤差を小さくして、より精度の高い疲労判定を行うことができる。
なお、計測スケジュール決定部120は、必須の構成要素ではない。つまり、計測スケジュール決定部120が決定する眼電位と接触インピーダンスとの計測スケジュールが、コンテンツ情報蓄積部101に蓄積された動画コンテンツに、コンテンツの時間情報と対応付けられて付属情報として含まれていても良い。この場合、計測切り替え制御部106は、動画コンテンツの付属情報を参照することで、眼電位の計測と接触インピーダンスの計測との切り替えを制御する。
(実施の形態3)
図21は、実施の形態3による眼球疲労計測システム3の構成を示す。
眼球疲労計測システム3は、3次元表示装置10Cと、3次元用メガネ20Cとを備える。
3次元表示装置10Cは、図3に示した3次元表示装置10の計測スケジュール決定部120を、計測スケジュール決定部320に置き換え、さらに、動き情報蓄積部311と、動き情報抽出部321とを備える。それ以外の構成は、3次元表示装置10と同じである。また、3次元用メガネ20Cは、図17に示した3次元用メガネ20Cと同様の構成を有する。図3または図17と同一部分には同一の参照符号を付し、説明を適宜省略する。
本実施の形態の構成により、画面に表示されているオブジェクトの動き情報から、眼電位計測とインピーダンス測定とをそれぞれに適したタイミングで計測し、さらに予測される眼電位に対応した周波数でインピーダンス計測をすることが可能になる。
動き情報蓄積部311は、コンテンツ情報に対応するコンテンツ映像中のオブジェクトの動きの情報を蓄積する。
動き情報抽出部321は、動き情報蓄積部311から各オブジェクトの動き情報を抽出する。
計測スケジュール決定部320は、オブジェクトの速度に基づいてインピーダンス計測に用いる信号の周波数帯域を決定し、さらに眼電位を計測する時間区間とインピーダンスを計測する時間区間とを決定する。
図22Aは、動き情報蓄積部311に蓄積される動画コンテンツの動き情報の一例を示す。動き情報蓄積部311には、例えば、コンテンツごとにデータが蓄積されている。つまり、動き情報蓄積部311は、コンテンツ識別情報と、コンテンツの標準画面サイズ情報とを蓄積している。動き情報蓄積部311は、さらに、コンテンツ映像の先頭からの時間と、フレーム番号と、フレームごとの動画コンテンツ中のオブジェクトのIDと、オブジェクトのコンテンツ制作時の仮想重心座標位置(標準3次元座標)とを蓄積している。コンテンツ識別情報と時間は、コンテンツ情報蓄積部101に蓄積されている情報と同一の情報である。
図22Bは、動き情報の標準3次元座標における座標軸の配置の一例を示す図である。表示画面に平行な面の水平方向をx軸、垂直方向をy軸とする。表示画面に垂直な方向を奥行き方向としてz軸とする。表示画面の中心を原点とし、右側をx軸の正、左側をx軸の負とする。表示画面の上方向をy軸の正、表示画面の下方向をy軸の負とする。表示画面から飛び出し方向をz軸の正とし、画面から引き込み側をz軸の負とする。
図23は、計測スケジュール決定部320の詳細な構成を示す。
計測スケジュール決定部320は、奥行き移動距離計算部341、動き判断テーブル記憶部127、判断部128、計測区間決定部129、速度周波数変換テーブル記憶部343、周波数推定部344、周波数範囲決定部345、計測スケジュール記憶部342を備える。
奥行き移動距離計算部341は、オブジェクトの動き情報からオブジェクトの奥行き方向の移動距離を計算する。動き情報は図22Aに示すように標準画面サイズでの奥行き座標として記憶されている。奥行き移動距離計算部341は表示画面102の画面サイズを記憶しておき、表示画面102の画面サイズと、動き情報蓄積部に蓄積されたコンテンツの標準サイズとの比により、オブジェクトの3次元座標を表示画面102の画面サイズでの座標位置に変換して奥行き方向の移動距離を計算する。
動き判断テーブル記憶部127は、図11に示すオブジェクトの奥行き変化情報によりインピーダンス計測と眼電位計測とを切り替える判断基準を記憶している。
判断部128は、奥行き移動距離計算部341で計算されたオブジェクトの動き情報と、動き判断テーブル記憶部127に記憶されている判断基準とに基づいて、インピーダンス計測と眼電位計測とを切り替えるタイミングを判断する。
計測区間決定部129は、計測を切り替えるタイミングをもとに、電極の接触インピーダンスを計測する時間区間と視聴者の眼電位を計測する時間区間とを決定する。
速度周波数変換テーブル記憶部343は、オブジェクトの速度と視聴者の眼電位の周波数との対応関係情報を記憶している。
図24は、速度周波数変換テーブル記憶部343に記憶されている情報の一例を示す。
速度周波数変換テーブル記憶部343には、表示画面102の画面サイズで映像を表示した場合の、映像中のオブジェクトの運動の速さおよび奥行き位置と、オブジェクトの速さおよび位置に対応する、オブジェクトを視聴者が注視した際の眼球運動の予測に基づいた眼電位周波数とが記憶されている。
周波数推定部344は、速度周波数変換テーブル記憶部343に記憶されているテーブルを参照して、奥行き移動距離計算部341で計算されたオブジェクトの動き情報と奥行き位置とから眼電位の周波数を推定する。
周波数範囲決定部345は、推定された眼電位の周波数からインピーダンス計測のための信号の周波数範囲を決定する。
計測スケジュール記憶部342は、動画コンテンツの時間軸上での計測のスケジュールと周波数範囲決定部345により求められたフレームごとのインピーダンス計測用信号の周波数範囲を記憶する。
実施の形態3の動作の概要は実施の形態1の図13と同様であるので説明を省略し、図13のステップS1010の動作の詳細について図25に従って説明する。図25はフレームごとの処理を示している。
<ステップS3011>
動き情報抽出部321は、動き情報蓄積部311に蓄積されている動き情報より当該フレームに含まれる各オブジェクトの座標を抽出する。
<ステップS3012>
奥行き移動距離計算部341は、隣り合うフレーム、例えば、当該フレームと当該フレームの直後のフレームに含まれる、各オブジェクトの座標から、各オブジェクトのフレーム間の奥行き方向の移動距離を計算する(S3012)。
<ステップS3013>
周波数推定部344は、速度周波数変換テーブル記憶部343に記憶されているテーブルを参照して、ステップS3012で求めた隣接するフレーム間での奥行き方向の移動距離、すなわちオブジェクトの奥行き方向の速度に対応する眼電位の周波数を推定する。
<ステップS3014>
周波数範囲決定部345はステップS3013で推定された周波数に0.8を乗じた値を周波数範囲の最小値とし、ステップS3013で設定された周波数の最大値を最大値とする周波数範囲を決定する。
なお、ここでは眼電位周波数の推定値を含む値を設定するために周波数の値に0.8を乗じた値を最小値としたが、これ以外の方法で推定周波数の周辺周波数帯域を設定してもよい。
<ステップS3015>
一方、判断部128は、動き判断テーブル記憶部127に記憶されているテーブルを参照して、当該フレームに含まれるオブジェクトの奥行き方向の動きに応じて、当該フレームが眼電位計測に適したフレームであるか、インピーダンス計測に適したフレームであるかを判断する。
当該フレームが眼電位計測に適したフレームであるか否かの判断は、実施の形態1と同様にオブジェクトの奥行方向の動きに応じて、フレームごとに眼電位計測適合度に基づいて判断するものとする。なお、それ以外に、当該フレームを含む時間区間の映像中のオブジェクトの奥行き方向の動きの速度または移動量が、視聴開始時の眼電位計測に適した時間区間の映像中のオブジェクトの奥行方向の動きの速度または移動量と、概ね同等となる時間区間を抽出して、抽出した時間区間から眼電位計測区間とインピーダンス計測区間とを判断するものとしても良い。なお、概ね同等とは、たとえば、当該フレームと視聴開始時との間のオブジェクトの動きの速度の差またはオブジェクトの移動量の差が所定範囲内であることを示す。
なお、映像が2次元映像の場合には、当該フレームを含む時間区間の映像中のオブジェクトの画面上での動きの速度または移動量が、視聴開始時の眼電位計測に適した時間区間の映像中のオブジェクトの画面上での動きの速度または移動量と、概ね同等となる時間区間を抽出して、抽出した時間区間から眼電位計測区間とインピーダンス計測区間とを判断するものとしても良い。
また、当該フレームを含む時間区間の映像中のオブジェクトの奥行範囲が、視聴開始時の眼電位計測に適した時間区間の映像中のオブジェクトの奥行範囲と、概ね同等となる時間区間を抽出して眼電位計測区間とインピーダンス計測区間とを判断するものとしても良い。なお、概ね同等とは、たとえば、当該フレームを含む時間区間の映像中のオブジェクトの最大奥行きおよび最小奥行きと、視聴開始時の眼電位計測に適した時間区間の映像中のオブジェクトの最大奥行きおよび最小奥行きのそれぞれの差が、いずれも所定範囲内であることを示す。
計測区間決定部129は、眼電位計測に適した連続するフレームを眼電位計測区間とし、眼電位計測区間以外の区間をインピーダンス計測区間として、計測スケジュール記憶部130に記憶する。計測スケジュール記憶部130は映像のフレームごとに、当該フレームの表示中の計測対象を記憶する。計測スケジュール記憶部130は、さらに、インピーダンス計測区間においては、ステップS3014で決定されたインピーダンス計測用の信号の周波数範囲のうち、当該フレームに時間的に最も近い眼電位計測区間のフレームで計算されたインピーダンス計測用の信号の周波数範囲を抽出して記憶する。
これにより、計測する眼電位の周波数に対応するインピーダンスを計測することができる。
<ステップS3016>
奥行き移動距離計算部341は、動画コンテンツ中の全フレームの処理が完了したか否かを確認する。
ステップS3014で全フレームの処理が終了していることを確認した場合は、ステップS1020に進む。ステップS3014で全フレームの処理が完了していないと確認した場合は、ステップS3011もどる。
図20に示すように、眼電位の周波数が低い周波数範囲では、インピーダンスは信号の周波数によって大きく異なる。本実施の形態のように、動画コンテンツのオブジェクトの動きから推定される眼電位の周波数にあわせてインピーダンス計測を行う周波数帯域を逐次設定することで、疲労判定に用いる眼電位を補正するインピーダンスを、対象信号である眼電位の周波数に合わせた信号を用いて計測することができる。これにより、周波数の違いによるインピーダンスの差による補正誤差を小さくしてより精度の高い疲労判定を行うことができる。
なお、動き情報蓄積部311、動き情報抽出部321および計測スケジュール決定部320は、必須の構成要素ではない。つまり、計測スケジュール決定部320が決定する、インピーダンス計測に用いる信号の周波数帯域と、眼電位を計測する時間区間と、インピーダンスを計測する時間区間とが、コンテンツ情報蓄積部101に蓄積された動画コンテンツに、コンテンツの時間情報と対応付けられて付属情報として含まれていても良い。この場合、計測切り替え制御部106は、動画コンテンツの付属情報を参照することで、眼電位の計測と接触インピーダンスの計測との切り替えを制御する。また、インピーダンス計測部213Cは、動画コンテンツの付属情報に含まれている上記の周波数帯域の信号を用いてインピーダンスを計測する。
(実施の形態4)
図26は実施の形態4による眼球疲労計測システム4の構成を示す。
実施の形態4は、実施の形態2と実施の形態3とをあわせた実施形態である。
眼球疲労計測システム4は、3次元表示装置10Dと、3次元用メガネ20Cとを備える。
3次元表示装置10Dは、図21に示した3次元表示装置10Cにおいて、計測スケジュール決定部320が計測スケジュール決定部420に置き換わり、周波数分析部112が付け加わった構成である。また、3次元用メガネ20Cは、図17に示した3次元用メガネ20Cと同様の構成を有するため、説明を省略する。図21および図17と同一部分には同一の参照符号を付し、説明を適宜省略する。
3次元表示装置10Dは、コンテンツ情報蓄積部101と、表示画面102と、画面制御部103と、制御信号送信部104と、動き情報蓄積部311と、動き情報抽出部321と、計測スケジュール決定部420と、計測切り替え制御部106と、送受信部107と、計測インピーダンス記憶部108と、計測眼電位記憶部109と、眼電位補正部110と、疲労判定部111と、周波数分析部112を備える。
計測スケジュール決定部420は、動画コンテンツ中のオブジェクトの速度から推定される眼電位の周波数と、計測された眼電位の周波数分析結果とに基づいて、眼電位を計測する時間区間とインピーダンスを計測する時間区間とを決定し、さらにインピーダンス計測に用いる信号の周波数帯域を決定する。
図27は計測スケジュール決定部420の詳細な構成を示した図である。図27は、判断部128が判断部421に置き換わった以外は、図23と同じ構成である。図23と同一部分には同一の参照符号を付し、説明を適宜省略する。計測スケジュール決定部420は、奥行き移動距離計算部341と、動き判断テーブル記憶部127と、判断部421と、計測区間決定部129と、速度周波数変換テーブル記憶部343と、周波数推定部344と、周波数範囲決定部345と計測スケジュール記憶部342とを備える。
判断部421は、オブジェクトの動き情報に基づきインピーダンス計測と眼電位計測を切り替えるタイミングを判断し、計測された眼電位の周波数分析結果に基づいてインピーダンス計測と眼電位計測を切り替えるタイミングを修正する。
図28は実施の形態4における眼球疲労計測システム4の動作を示すフローチャートである。図28は、図13のフローチャートにステップS2010とステップS4010が付け加わったものであり、それ以外のステップの動作は図13と同様である。図13と同様の動作については適宜説明を省略し、図28に従って、眼球疲労計測システム4の処理手順を説明する。
まず、視聴者により図示しない電源スイッチが押され、3次元表示装置10Dの電源と3次元用メガネ20Cの電源が入り、眼球疲労計測システム4は動作を開始する(S1000)。計測スケジュール決定部120はコンテンツ情報蓄積部101に蓄積されたコンテンツに対して、コンテンツの時間軸上で計測インピーダンスを計測する時間区間と、眼電位を計測する時間区間とを決定する(S1010)。ステップS1010の詳細については、実施の形態3のステップS1010と同様である。続いて画面制御部103は、コンテンツ情報蓄積部101に蓄積されたコンテンツの映像を、表示画面102へ出力し、同時に3次元用メガネのシャッタのタイミングを制御する制御信号を制御信号送信部104へ出力することによって、立体視用映像の表示を開始する(S1020)。疲労判定部111は、現在の時間があらかじめ定められた疲労判定時間であるか否かを判断する(S1030)。ステップS1030において疲労判定時間であると判断した場合はステップS1040に進む。ステップS1030において疲労判定時間ではないと判断した場合はステップS4010に進む。ステップS1040では、眼電位補正部110は、計測インピーダンス記憶部108と計測眼電位記憶部109とに、疲労判定可能な計測データが記憶されているか否かを確認する(S1040)。ステップS1040において計測インピーダンス記憶部108あるいは計測眼電位記憶部109のいずれかに記憶されたデータが疲労判定を行うには不足していると判断した場合は、ステップS4010へ進む。ステップS1040で計測インピーダンス記憶部108と計測眼電位記憶部109とに疲労判定を行うのに十分なデータが記憶されていると判断した場合はステップS1080へ進む。
ステップS4010では、計測スケジュール決定部420は、ステップS1010で決定され、計測スケジュール記憶部342に記憶されたインピーダンス計測用信号の周波数範囲と、周波数分析部112で分析された眼電位の周波数とを比較して、現在時点から一定時間、例えば10分間の計測スケジュールを修正する(S4010)。
図29はステップS4010の詳細を示すフローチャートである。
判断部421はインピーダンス計測用信号の周波数範囲と、眼電位の周波数とを比較する(S4011)。ステップS4011において、インピーダンス計測用信号の周波数範囲が、分析された眼電位の周波数より小さい場合は、計測区間決定部129は当該の眼電位の計測区間を延長する。例えば、60フレームすなわち60Hzの動画の場合1秒間延長する(S4012)。ステップS4011において、インピーダンス計測用信号の周波数範囲が、分析された眼電位の周波数より大きいあるいは計測用信号の範囲内に眼電位の周波数が含まれている場合、判断部421は、分析された眼電位の周波数がインピーダンス計測用信号の周波数より小さいか否かを判断する(S4013)。ステップS4013において、分析された眼電位の周波数がインピーダンス計測用信号の周波数より小さい場合は、計測区間決定部129は当該の眼電位の計測区間を短縮する(S4014)。例えば、60フレームすなわち、60Hzの動画の場合、眼電位の計測区間を1秒間を短縮する。ステップS4013において分析された眼電位の周波数がインピーダンス計測用信号の周波数範囲内である場合は、計測区間の修正を行わない。
ステップS1050では、計測切り替え制御部106は現在表示している映像がインピーダンス計測を行う時間区間の映像であるかどうかを確認する(S1050)。インピーダンス計測の時間区間内の映像である場合は、計測切り替え制御部106はインピーダンス計測部213Cへスイッチ212を接続するための制御信号を生成し、3次元表示装置10Dの送受信部107に出力する。送受信部107は制御信号を送信する。3次元用メガネ20の送受信部204は送受信部107から送信された制御信号を受信してスイッチ212をインピーダンス計測部213Cに接続する。これにより、インピーダンス計測部213Cは電極211の接触インピーダンスを計測可能な状態となる。インピーダンス計測部213Cは、発振器301の周波数を計測スケジュール記憶部342に記憶された計測周波数帯域に設定する。発振器301に設定された周波数帯域に従って、発振器301より予め定められた電圧と電流の計測信号を電極211のうち基準電極に出力し、電圧計測部302は電極211のうち基準電極以外の電極211から取得される電圧を計測する。インピーダンス計算部303は、発振器301より出力された信号と電極211から取得された電圧とから発振器301が出力した信号の周波数でのインピーダンスを計算し、計算結果を計測インピーダンス記憶部108に記憶する(S1060)。
一方、ステップS1050において現在表示している映像がインピーダンス計測の時間区間内の映像でないと判断された場合は、計測切り替え制御部106は眼電位計測部214へスイッチ212を接続するための制御信号を生成し、3次元表示装置10Dの送受信部107に出力する。送受信部107は計測切り替え制御部106より入力された制御信号を3次元用メガネ20に送信する。3次元用メガネ20の送受信部204は送受信部107から送信された信号を受信してスイッチ212を眼電位計測部214に接続する。これにより、眼電位計測部214は電極211により眼電位を計測可能な状態となり、計測した眼電位のデータを3次元用メガネ20の送受信部204に出力する。送受信部204は眼電位計測部214から入力されたデータを3次元表示装置10Dに送信する。3次元表示装置10Dの送受信部107は、送受信部204から送信されたデータを受信し、計測眼電位記憶部109に記憶する(S1070)。周波数分析部112は計測眼電位記憶部109に記憶された眼電位のデータの周波数分析を行う(S2010)。
ステップS1060およびステップS2010のいずれの動作の後も、ステップS1030へ戻る。
ステップS1080では、眼電位補正部110は、映像表示開始時に最も近い時間に計測された眼電位を計測眼電位記憶部109より抽出し、眼電位の計測時間区間の前後のインピーダンスを計測インピーダンス記憶部108より抽出する。眼電位補正部110は抽出した眼電位を計測時間区間の前後のインピーダンスの値を用いて補正し(S1080)、疲労判定部111へ出力する。疲労判定部111は、ステップS1080で補正された眼電位について、同一の電極、あるいは同一の電極セットで計測された眼電位について、映像表示開始時に最も近い時間に計測された眼電位の振幅平均と直近で計測された眼電位の振幅平均との比に基づいて視聴者の疲労を判定する(S1090)。
画面制御部は、視聴者により図示しない電源スイッチあるいは図示しない他の入力手段により、電源スイッチが押される等の3次元表示装置10Dの電源を切るまたは視聴を終了する入力があるかどうかを判断する(S1100)。ステップS1100において3次元表示装置10Dの電源を切るまたは視聴を終了する入力がある場合は、眼球疲労計測システム4の動作を終了する(S1110)。ステップS1100において3次元表示装置10Dの電源を切るまたは視聴を終了する入力がない場合は、ステップS1030に戻る。ステップS1030からステップS1100を繰り返すことで、眼球疲労計測システム4は、映像表示中の視聴者の疲労を逐次判定し続ける。
このように、動画コンテンツのオブジェクトの動きから推定される眼電位の周波数を、計測された眼電位の周波数で修正した周波数にあわせてインピーダンス計測を行う周波数帯域を逐次設定する。これにより、疲労判定に用いる眼電位を補正するインピーダンスを、対象信号である眼電位の周波数で計測することができ、周波数の違いによるインピーダンスの差による補正誤差を小さくしてより精度の高い疲労判定を行うことができる。
なお、計測スケジュール決定部420は、ここでは周波数推定部344で推定された眼電位の周波数と周波数分析部112で分析された眼電位の周波数とが合致する区間を眼電位計測区間としたが、これには限定されない。計測スケジュール決定部420は、さらに周波数推定部344で推定された周波数と実際に計測された眼電位の周波数とを比較して、速度周波数変換テーブル記憶部343に記憶されているテーブルを修正し、動画コンテンツのオブジェクトの動きと視聴者の眼電位の周波数との対応を最適化するものとしてもよい。
(変形例1)
図2でも示したように、メガネを装着した直後は、電極と皮膚との接触が安定していないため、インピーダンス値の変動が大きい。例えば、視聴者が、3次元用メガネ20を顔に装着する際に、3次元用メガネ20を位置調整のために動かすことにより、インビーダンス値は、大きく変動する。このため、視聴者が3次元用メガネ20を装着する期間では、インビーダンスによる眼電位の補正は、十分な精度で実現することは困難である。
一方、3次元用メガネ20の装着後、発汗等の生理現象によるインピーダンスの変化は少しずつ減少する。この場合、インピーダンスによる眼電位の補正は、十分な精度で実現することが可能である。
本変形例では、単位時間におけるインピーダンスの変化が所定の値より小さくなったとき、視聴者によるメガネの操作が終了したことを認識し、眼電位の補正を開始する。
本変形例の眼球疲労計測システムの構成を図30に示す。眼球疲労計測システム5は、3次元表示装置10Eと、3次元用メガネ20とを備える。
3次元表示装置10Eは、図3に示す実施の形態1の3次元表示装置10の構成において、さらにメガネ操作完了検出部2501を備える構成を有する。
メガネ操作完了検出部2501は、インピーダンスの時系列データから視聴者によるメガネの操作が完了したか否かを検出する。
本変形例の動作について簡単に説明する。
計測インピーダンス記憶部108には、視聴者のメガネにより計測されたインピーダンスの時系列データが蓄積されている。例えば、所定の周波数において、図31に示すように500ms間隔でデータが取得できていたとする。このとき、3次元用メガネ20を装着してから数秒間は視聴者がメガネを触っているため、電極と皮膚の接触部分の変化により、インピーダンスの値は安定しない。しかしながら、視聴者がメガネの装着を完了した後、皮膚と電極の接触部分が安定すると、視聴者の発汗作用等により次第にインピーダンスが減少する傾向にある。また、メガネをかけなおしたりするために、視聴者が直接メガネに触れてメガネの位置を動かしてしまうと、再びインピーダンスが大きくなり、さらに、インピーダンスが不安定になる。
このように、インピーダンスの変化から、視聴者がメガネの物理的な位置を変更するためにメガネを掛けなおしている状況と、メガネに触れていない状況とを判断することができる。
具体的には、1秒間におけるインピーダンスの値の変化が所定の値、例えば100kΩ以上の場合には、視聴者がメガネに触れている状況と判断し、1秒間でのインピーダンスの変化が所定の値、例えば100kΩより小さいときには、視聴者がメガネに触れていない状況であると判断する。インピーダンスの値の変化は、例えば、所定時間区間内におけるインピーダンスの最大値と最小値との差で表しても良いし、所定時間区間内におけるインピーダンスの分散で表しても良い。
さらに、インピーダンスの値が大きく変化しているときには、この値を用いて眼電位を補正しても正確な値に補正することは困難なので、視聴者がメガネに触れていない状況でのみ、眼電位を補正する。
以上の動作により、視聴者がメガネの装着を完了させた状態をインピーダンスで確認することができ、その状態から眼電位の補正を行うことができる。
なお、上記変形例では、メガネの装着を完了させたか否かを判断していたが、インピーダンスの値から電極と皮膚との接触度合を検出することも可能である。
例えば、皮膚と電極が接触していない場合には、所定の値、例えば1MΩ以上のインピーダンスの値が計測されることとなり、この状態の場合には、眼電位の補正を行わないようにすることも可能である。
(変形例2)
実施の形態1では、各電極でインピーダンスを計測し、その値を用いて眼電位を補正する。本変形例2では、さらに、各電極でのインピーダンスを比較することで、視聴者の電極の接触状態からメガネの状態を推定することが可能になる。
特に、電極は上から押さえつけることにより、皮膚と電極のインピーダンスを下げることが可能になる。そこで、電極の接触状態から、メガネのどこの部分を押さえればよいかを判断することが可能になる。例えば、メガネの右のツルの部分を下に押さえつければよいか、鼻の上のブリッジを押さえつければよいか等をテレビ等の画面を利用して、情報を提供することが可能になる。
本変形例の構成を図32に示す。眼球疲労計測システム6は、3次元表示装置10Fと、3次元用メガネ20とを備える。
3次元表示装置10Fは、図3に示す実施の形態1の3次元表示装置10の構成において、さらに、接触電極状態判定部2901、不具合電極パタン記憶部2902、指示情報生成部2903を備える構成を有する。
接触電極状態判定部2901は、計測インピーダンス記憶部108に記憶されているインピーダンスの時系列情報から各電極の皮膚への接触状態を推定する。
不具合電極パタン記憶部2902は、メガネ装着時における不具合の電極の組合せパタンと、当該組合せパタンに対応するメガネの装着位置の調整指示内容とを対応付けて記憶している。
指示情報生成部2903は、接触電極状態判定部2901により検出された複数の電極の接触状態と、不具合電極パタン記憶部2902に記憶されている不具合電極のパタンから、視聴者の調整指示内容を生成する。
具体的な動作を説明する。
接触電極状態判定部2901は、メガネに装着された各電極の接触状態を判定する。例えば、図4Aのメガネの場合には、8個の電極が装着されている。このとき、いずれかの電極において計測されたインピーダンスにおいて、所定の値、例えば500kΩ以上の値が取得された場合には、皮膚と電極の接触状態が悪いことがわかる。
不具合電極パタン記憶部2902は、接触状態が悪い電極の組ごとに、メガネのどの部分に対して、どういう方向で荷重をかけると、接触状態が改善されるかの情報を蓄積している。図33Aにその例を示す。例えば、パタン1に示されるように、電極aと電極gの接触状態が不良の場合には、メガネの右の部分のツルが浮いている可能性があるため、図33Bに示すように右のツルの上から荷重をかけるための指示(指示1)を視聴者に通知する。また、パタン2に示されるように、電極bと電極cの接触状態が不良の場合には、電極bと電極cを視聴者の額に接触させる必要があるため、図33Bに示すようにメガネの前面から荷重をかけるための指示(指示2)を視聴者に通知する。このように、不具合電極パタン記憶部2902は、不具合電極が検出されたときに、視聴者に対して、メガネのどの部分にどの方向の荷重をかけるべきかの指示を行うための対応表を蓄積している。
指示情報生成部2903は、接触電極状態判定部2901で検出された不具合電極の情報を得て、不具合電極パタン記憶部2902に記憶されている不具合電極のパタンに対する、視聴者への指示内容を選択し、表示画面102へ表示する情報を生成する。例えば、接触電極状態判定部2901で電極eと電極fが不具合電極として検出された場合には、「指示2」の画像情報を生成する。その結果、指示情報生成部2903は、表示画面102に図34のような情報を表示させる。
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態の各装置などを実現するソフトウェアは、次のようなプログラムである。
すなわち、このプログラムは、コンピュータに、眼球疲労判定方法に含まれるステップをコンピュータに実行させる。この眼球疲労判定方法は、立体視用の動画コンテンツの表示中の所定時間区間内に前記動画コンテンツの視聴者の眼球周囲の電極で計測された電位を示す眼電位を、取得する眼電位取得ステップと、前記所定時間区間内に計測された、前記電極と前記視聴者の当該電極の貼り付け位置における皮膚との間のインピーダンスを取得するインピーダンス取得ステップと、前記インピーダンス取得ステップで取得されたインピーダンスに基づいて、前記眼電位取得ステップで取得された眼電位を補正する眼電位補正ステップと、前記眼電位補正ステップで補正された後の眼電位に基づいて、前記視聴者の眼球の疲労度を判定する疲労度判定ステップとを含む。
以上、本発明の一態様に係る眼球疲労判定装置について、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本発明の一態様の範囲内に含まれてもよい。
たとえば、視聴者はメガネを装着するものとしたが、メガネの変わりに、電位計測部を備えるヘッドマウントディスプレイを装着しても良い。
本発明にかかる眼球疲労判定装置は、3次元表示メガネを用いて立体映像を視聴する映像表示システムに広く利用可能であり、映画館のスクリーン、テレビ、コンピュータの表示画面等で立体視用映像を表示する際に有用である。また、コンテンツ視聴のみでなく、画像診断装置や内視鏡等の医療機器の画像表示装置や、手術や乗り物のシミュレーション等ゲームや教育訓練用のシステム等の用途に応用できる。また、本発明にかかる眼球疲労判定装置は、立体映像視聴時のみならず、2次元映像を表示する際にも有用である。つまり、眼球疲労防止のためにブルーライトなどの特定の波長の光をカットするメガネに電位計測部を取り付けることで、2次元映像を視聴する視聴者の疲労判定を行うこともできる。
1、1B、2、3、4、5、6 眼球疲労計測システム
10、10B、10C、10D、10E、10F 3次元表示装置
20、20B、20C 3次元用メガネ
101 コンテンツ情報蓄積部
102 表示画面
103 画面制御部
104 制御信号送信部
106 計測切り替え制御部
107、204 送受信部
107A インピーダンス取得部
107B 眼電位取得部
108 計測インピーダンス記憶部
109 計測眼電位記憶部
110 眼電位補正部
111 疲労判定部
111b 出力部
112 周波数分析部
113 計測周波数決定部
120、320、420 計測スケジュール決定部
121 オブジェクト抽出部
122 オブジェクトトラッキング部
123 サイズ計算部
124 記憶部
125 サイズ奥行き変換テーブル記憶部
126 奥行き変化変換部
127 動き判断テーブル記憶部
128、421 判断部
129 計測区間決定部
130、342 計測スケジュール記憶部
201 制御信号受信部
202 シャッタ制御部
210 電位計測部
211 電極
212 スイッチ
213、213C インピーダンス計測部
214 眼電位計測部
301、301C 発振器
302 電圧計測部
303 インピーダンス計算部
311 動き情報蓄積部
321 動き情報抽出部
341 奥行き移動距離計算部
343 速度周波数変換テーブル記憶部
344 周波数推定部
345 周波数範囲決定部
2501 メガネ操作完了検出部
2901 接触電極状態判定部
2902 不具合電極パタン記憶部
2903 指示情報生成部
上記目的を達成するために、本発明の一態様に係る眼球疲労判定装置は、動画コンテンツを取得する動画コンテンツ取得部と、前記動画コンテンツ取得部が取得した前記動画コンテンツから、前記動画コンテンツの表示中の第1時間区間および第2時間区間のそれぞれの時間区間中で眼電位を計測する時間区間を決定し、決定した前記時間区間に基づいて、前記第1時間区間および前記第2時間区間のそれぞれの時間区間中でインピーダンスを計測する時間区間を決定する計測スケジュール決定部と、前記計測スケジュール決定部が決定した前記第1時間区間および前記第2時間区間のそれぞれの時間区間内に前記動画コンテンツの視聴者の眼球周囲の電極で計測された電位を示す眼電位を、取得する眼電位取得部と、前記計測スケジュール決定部が決定した前記第1時間区間および前記第2時間区間のそれぞれの時間区間内に計測された、前記電極と前記視聴者の当該電極の貼り付け位置における皮膚との間のインピーダンスを取得するインピーダンス取得部と、前記第1時間区間内に計測されたインピーダンスに基づいて、前記第1時間区間内に計測された眼電位を補正し、前記第2時間区間内に計測されたインピーダンスに基づいて、前記第2時間区間内に計測された眼電位を補正する眼電位補正部と、前記眼電位補正部でそれぞれ補正された後の前記第1時間区間内に計測された眼電位および前記第2時間区間内に計測された眼電位を比較することにより、前記視聴者の眼球の疲労度を判定する疲労判定部とを備える。
本発明は、立体視用映像視聴時の視聴者の眼球の疲労状態を判定する眼球疲労判定装置およびその作動方法に関する。
本発明は、かかる課題に鑑みてなされたものであって、3次元用メガネに搭載された電極と立体視用映像の視聴者の皮膚との間のインピーダンス変動が生じた場合であっても、眼球の疲労状態を正確に判定することができる眼球疲労判定装置およびその作動方法を提供することを目的とする。
すなわち、このプログラムは、コンピュータに、眼球疲労判定装置の作動方法に含まれるステップをコンピュータに実行させる。この眼球疲労判定装置の作動方法は、立体視用の動画コンテンツの表示中の所定時間区間内に前記動画コンテンツの視聴者の眼球周囲の電極で計測された電位を示す眼電位を、取得する眼電位取得ステップと、前記所定時間区間内に計測された、前記電極と前記視聴者の当該電極の貼り付け位置における皮膚との間のインピーダンスを取得するインピーダンス取得ステップと、前記インピーダンス取得ステップで取得されたインピーダンスに基づいて、前記眼電位取得部ステップで取得された眼電位を補正する眼電位補正ステップと、前記眼球疲労度判定装置の疲労度判定部が、前記眼電位補正ステップで補正された後の眼電位に基づいて、前記視聴者の眼球の疲労度を判定する疲労度判定ステップとを含む。

Claims (24)

  1. 動画コンテンツの表示中の複数の所定時間区間内に前記動画コンテンツの視聴者の眼球周囲の電極で計測された電位を示す眼電位を、取得する眼電位取得部と、
    前記複数の所定時間区間内に計測された、前記電極と前記視聴者の当該電極の貼り付け位置における皮膚との間のインピーダンスを取得するインピーダンス取得部と、
    前記インピーダンス取得部が取得したインピーダンスに基づいて、前記眼電位取得部が取得した眼電位を補正する眼電位補正部と、
    前記眼電位補正部で補正された後の眼電位に基づいて、前記視聴者の眼球の疲労度を判定する疲労判定部と
    を備える眼球疲労判定装置。
  2. 前記眼電位補正部は、前記眼電位取得部が取得した眼電位に、前記インピーダンス取得部が取得したインピーダンスに対する前記電極の入力インピーダンスの比を乗ずることにより、前記眼電位取得部が取得した眼電位を補正する
    請求項1記載の眼球疲労判定装置。
  3. 前記複数の所定時間区間は、互いに異なる第1時間区間および第2時間区間を含み、
    前記眼電位取得部は、前記第1時間区間および前記第2時間区間のそれぞれの時間区間内に計測された、眼電位を取得し、
    前記インピーダンス取得部は、前記第1時間区間および前記第2時間区間のそれぞれの時間区間内に計測された、インピーダンスを取得し、
    前記眼電位補正部は、前記第1時間区間内に計測されたインピーダンスに基づいて、前記第1時間区間内に計測された眼電位を補正し、前記第2時間区間内に計測されたインピーダンスに基づいて、前記第2時間区間内に計測された眼電位を補正し、
    前記疲労判定部は、前記眼電位補正部でそれぞれ補正された後の前記第1時間区間内に計測された眼電位および前記第2時間区間内に計測された眼電位を比較することにより、前記視聴者の眼球の疲労度を判定する
    請求項1または2に記載の眼球疲労判定装置。
  4. 前記複数の所定時間区間の各々は、少なくとも前記インピーダンス取得部が前記インピーダンスを取得する際に用いる周期的電気信号の1周期の時間長より長い
    請求項1記載の眼球疲労判定装置。
  5. 前記第2時間区間の開始時点は、前記第1時間区間の開始時点から10分以上経過した時点である
    請求項3に記載の眼球疲労判定装置。
  6. さらに、
    前記動画コンテンツを取得する動画コンテンツ取得部と、
    前記動画コンテンツ取得部が取得した前記動画コンテンツから、前記第1時間区間および前記第2時間区間のそれぞれの時間区間中で眼電位を計測する時間区間を決定し、決定した前記時間区間に基づいて、前記第1時間区間および前記第2時間区間のそれぞれの時間区間中でインピーダンスを計測する時間区間を決定する計測スケジュール決定部を備え、
    前記眼電位取得部は、前記計測スケジュール決定部が決定した眼電位を計測する時間区間で計測された眼電位を取得し、
    前記インピーダンス取得部は、前記計測スケジュール決定部が決定したインピーダンスを計測する時間区間で計測されたインピーダンスを取得する
    請求項3記載の眼球疲労判定装置。
  7. 前記計測スケジュール決定部は、前記動画コンテンツ中のオブジェクトの移動量に従って、前記第1時間区間に含まれる前記動画コンテンツ中のオブジェクトの移動量と前記第2時間区間に含まれる前記動画コンテンツ中のオブジェクトの移動量とが等しくなるように、前記第1時間区間および前記第2時間区間を決定する
    請求項6記載の眼球疲労判定装置。
  8. 前記計測スケジュール決定部は、前記動画コンテンツが立体視用の動画コンテンツである場合に、前記動画コンテンツ中のオブジェクトの奥行方向の移動量に従って、前記第1時間区間に含まれる前記動画コンテンツ中のオブジェクトの奥行方向の移動量と前記第2時間区間に含まれる前記動画コンテンツ中のオブジェクトの奥行方向の移動量とが等しくなるように、前記第1時間区間および前記第2時間区間を決定する
    請求項7記載の眼球疲労判定装置。
  9. 前記計測スケジュール決定部は、前記動画コンテンツが立体視用の動画コンテンツである場合に、前記動画コンテンツ中のオブジェクトの奥行方向の距離に従って、前記第1時間区間に含まれる前記動画コンテンツ中のオブジェクトの奥行方向の距離の範囲と前記第2時間区間に含まれる前記動画コンテンツ中のオブジェクトの奥行方向の距離の範囲とが等しくなるように、前記第1時間区間および前記第2時間区間を決定する
    請求項6記載の眼球疲労判定装置。
  10. 前記計測スケジュール決定部は、前記動画コンテンツ中のオブジェクトの奥行き方向の移動継続時間がより大きく、かつ、前記オブジェクトの奥行き方向の移動速度がより大きいほど、眼電位を計測する時間区間がより長くなるように、眼電位を計測する時間区間を決定する
    請求項6記載の眼球疲労判定装置。
  11. 前記計測スケジュール決定部は、さらに、前記動画コンテンツ取得部が取得した前記動画コンテンツの再生速度が速いほど、眼電位を計測する時間区間がより長くなるように、眼電位を計測する時間区間を決定する
    請求項6〜10のいずれか1項に記載の眼球疲労判定装置。
  12. さらに、
    前記視聴者の眼球周囲の電極と当該電極の貼り付け位置における皮膚との間のインピーダンスを計測するインピーダンス計測部と、
    前記眼電位取得部で取得された前記視聴者の眼電位の周波数分析を行う周波数分析部と、
    前記周波数分析部で分析された前記視聴者の眼電位の周波数に基づいて、前記インピーダンス計測部がインピーダンスの計測に用いる信号の周波数を決定する計測周波数決定部とを備え、
    前記インピーダンス計測部は、前記計測周波数決定部が決定した周波数の信号を用いて、インピーダンスを計測し、
    前記インピーダンス取得部は、前記インピーダンス計測部で計測されたインピーダンスを取得する
    請求項3〜11のいずれか1項に記載の眼球疲労判定装置。
  13. さらに、
    前記視聴者の眼球周囲の電極と当該電極の貼り付け位置における皮膚との間のインピーダンスを計測するインピーダンス計測部と、
    前記動画コンテンツ取得部で取得された前記動画コンテンツ中のオブジェクトの動き情報を抽出する動き情報抽出部とを備え、
    前記計測スケジュール決定部は、
    前記動き情報抽出部で抽出された前記オブジェクトの動き情報から前記視聴者の眼電位の周波数を推定する周波数推定部と、
    前記周波数推定部で推定された前記視聴者の眼電位の周波数に基づいて、前記インピーダンス計測部がインピーダンスの計測に用いる信号の周波数の範囲を決定する周波数範囲決定部と、
    前記インピーダンス計測部は、前記周波数範囲決定部が決定した周波数の範囲に含まれる周波数の信号を用いて、インピーダンスを計測し、
    前記インピーダンス取得部は、前記インピーダンス計測部で計測されたインピーダンスを取得する
    請求項6〜11のいずれか1項に記載の眼球疲労判定装置。
  14. さらに、
    前記視聴者の眼球周囲の電極を用いて前記視聴者の眼電位を計測する眼電位計測部と、
    前記視聴者の眼球周囲の電極と当該電極の貼り付け位置における皮膚との間のインピーダンスを計測するインピーダンス計測部と、
    前記眼電位取得部で取得された前記視聴者の眼電位の周波数分析を行う周波数分析部と、
    前記動画コンテンツ取得部で取得された前記動画コンテンツ中のオブジェクトの動き情報を抽出する動き情報抽出部とを備え、
    前記計測スケジュール決定部は、
    前記動き情報抽出部で抽出された前記オブジェクトの動き情報から前記視聴者の眼電位の周波数を推定する周波数推定部と、
    前記周波数推定部で推定された前記視聴者の眼電位の周波数に基づいて、前記インピーダンス計測部がインピーダンスの計測に用いる信号の周波数の範囲を決定する周波数範囲決定部と、
    前記周波数範囲決定部で決定されたインピーダンスの計測に用いる信号の周波数の範囲と前記周波数推定部で推定された眼電位の周波数との一致の状態に応じて、眼電位を計測する時間区間を変更する判断部とを備え、
    前記眼電位計測部は、前記判断部で変更された後の時間区間において、前記視聴者の眼電位を計測し、
    前記インピーダンス計測部は、前記周波数範囲決定部が決定した周波数の範囲に含まれる周波数の信号を用いて、インピーダンスを計測し、
    前記眼電位取得部は、前記眼電位計測部で計測された前記視聴者の眼電位を取得し、
    前記インピーダンス取得部は、前記インピーダンス計測部で計測されたインピーダンスを取得する
    請求項6〜11のいずれか1項に記載の眼球疲労判定装置。
  15. 前記判断部は、前記周波数分析部が分析した眼電位の周波数が、前記周波数範囲決定部が決定したインピーダンスの計測に用いる信号の周波数の範囲よりも大きい場合には、眼電位を計測する時間区間を拡大する
    請求項14記載の眼球疲労判定装置。
  16. 前記判断部は、前記周波数分析部が分析した眼電位の周波数が、前記周波数範囲決定部が決定したインピーダンスの計測に用いる信号の周波数の範囲よりも小さい場合には、眼電位を計測する時間区間を縮小する
    請求項14または15に記載の眼球疲労判定装置。
  17. 前記計測スケジュール決定部は、さらに、
    前記動き情報抽出部で抽出された前記オブジェクトの動き情報から、前記オブジェクトの奥行き方向の移動距離を計算する奥行き移動距離計算部を備え、
    前記周波数推定部は、隣接するフレーム間での、前記奥行き移動距離計算部で計算された前記オブジェクトの奥行き方向の移動距離が長いほどより周波数が大きくなるように、前記視聴者の眼電位の周波数を推定する
    請求項13〜16のいずれか1項に記載の眼球疲労判定装置。
  18. 前記眼電位補正部は、単位時間当たりのインピーダンスの変化量が所定の値以上の時間区間におけるインピーダンスは除外して、眼電位を補正する
    請求項3〜17のいずれか1項に記載の眼球疲労判定装置。
  19. 前記動画コンテンツは、立体視用の動画コンテンツであり、
    前記視聴者の眼球周囲の電極は、前記視聴者が掛ける立体映像視聴用のビューワーに設けられており、
    前記眼球疲労判定装置は、さらに、
    前記視聴者の眼球周囲の電極の接触状態と、前記視聴者が掛けるビューワーの位置の指示情報とを対応付ける不具合電極パタン情報を取得する不具合電極パタン取得部と、
    前記インピーダンス取得部で取得されたインピーダンスに基づいて、前記視聴者の眼球周囲の電極の接触状態を判定する接触電極状態判定部と、
    前記不具合電極パタン取得部が取得した前記不具合電極パタン情報から、前記接触電極状態判定部で判定された電極の接触状態に対応する指示情報を取得することにより、指示情報を生成し、視聴者に提示する調整指示情報生成部とを備える
    請求項3〜18のいずれか1項に記載の眼球疲労判定装置。
  20. さらに、
    前記疲労判定部が判定した疲労度に応じたメッセージを画面に表示する画面制御部を備える
    請求項3〜19のいずれか1項に記載の眼球疲労判定装置。
  21. さらに、
    前記疲労判定部が判定した疲労度に応じて、画面に表示する前記動画コンテンツの奥行き度合いを制御する画面制御部を備える
    請求項3〜19のいずれか1項に記載の眼球疲労判定装置。
  22. 前記第1時間区間は、前記視聴者による前記動画コンテンツの視聴開始時における時間区間である
    請求項3〜21のいずれか1項に記載の眼球疲労判定装置。
  23. 動画コンテンツの表示中の複数の所定時間区間内に前記動画コンテンツの視聴者の眼球周囲の電極で計測された電位を示す眼電位を、取得する眼電位取得ステップと、
    前記複数の所定時間区間内に計測された、前記電極と前記視聴者の当該電極の貼り付け位置における皮膚との間のインピーダンスを取得するインピーダンス取得ステップと、
    前記インピーダンス取得ステップで取得されたインピーダンスに基づいて、前記眼電位取得ステップで取得された眼電位を補正する眼電位補正ステップと、
    前記眼電位補正ステップで補正された後の眼電位に基づいて、前記視聴者の眼球の疲労度を判定する疲労度判定ステップと
    を含む眼球疲労判定方法。
  24. 請求項23に記載の眼球疲労判定方法に含まれるステップをコンピュータに実行させるためのプログラム。
JP2013544919A 2012-03-21 2013-03-05 眼球疲労判定装置およびその作動方法 Active JP5665241B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013544919A JP5665241B2 (ja) 2012-03-21 2013-03-05 眼球疲労判定装置およびその作動方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012064350 2012-03-21
JP2012064350 2012-03-21
PCT/JP2013/001356 WO2013140725A1 (ja) 2012-03-21 2013-03-05 眼球疲労判定装置および眼球疲労判定方法
JP2013544919A JP5665241B2 (ja) 2012-03-21 2013-03-05 眼球疲労判定装置およびその作動方法

Publications (2)

Publication Number Publication Date
JP5665241B2 JP5665241B2 (ja) 2015-02-04
JPWO2013140725A1 true JPWO2013140725A1 (ja) 2015-08-03

Family

ID=49222209

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013544919A Active JP5665241B2 (ja) 2012-03-21 2013-03-05 眼球疲労判定装置およびその作動方法

Country Status (3)

Country Link
US (1) US9486156B2 (ja)
JP (1) JP5665241B2 (ja)
WO (1) WO2013140725A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130274583A1 (en) * 2010-11-15 2013-10-17 Sandy L. Heck Electrodes Adapted for Transmitting or Measuring Voltages Through Hair
US20140111558A1 (en) * 2012-10-23 2014-04-24 Semiconductor Energy Laboratory Co., Ltd. Display device and program
JP6494903B2 (ja) * 2013-02-14 2019-04-03 ソニー株式会社 分析システム、分析プログラム及び分析方法
US10786176B2 (en) 2014-03-07 2020-09-29 School Juridical Person Kitasato Institute Fat thickness estimating device, fat thickness estimating system, fat thickness measuring method, and program
KR20160064978A (ko) * 2014-11-28 2016-06-08 가부시키가이샤 한도오따이 에네루기 켄큐쇼 표시 장치, 모듈, 표시 시스템, 및 전자 기기
JP5689206B1 (ja) * 2014-12-02 2015-03-25 株式会社ジェイアイエヌ アイウエア
KR102072788B1 (ko) 2015-04-30 2020-03-12 삼성전자주식회사 휴대 장치 및 휴대 장치의 콘텐트 화면 변경방법
EP3097849A1 (en) * 2015-05-26 2016-11-30 Akern S.r.L. Eyeglasses for monitoring one or more physiological parameters of the user that wears them
KR20180021086A (ko) 2015-06-30 2018-02-28 쓰리엠 이노베이티브 프로퍼티즈 컴파니 조명기
US10757328B2 (en) 2016-12-23 2020-08-25 Microsoft Technology Licensing, Llc Eye tracking using video information and electrooculography information
CN109199409B (zh) * 2017-07-06 2021-06-29 新华网股份有限公司 人体疲劳值的获取方法及装置
JP6871104B2 (ja) * 2017-07-31 2021-05-12 株式会社東芝 帽子及びヘッドウェア
CN109431761A (zh) * 2018-08-31 2019-03-08 深圳众赢维融科技有限公司 视疲劳缓解的方法、装置、电子设备及存储介质
RU189501U1 (ru) * 2018-11-12 2019-05-24 Федеральное государственное бюджетное учреждение "Московский научно-исследовательский институт глазных болезней имени Гельмгольца" Министерства здравоохранения Российской Федерации Устройство для многоканальной электроимпедансной оценки кровотока в глазничной артерии и сосудах передней части головного мозга
AT522012A1 (de) * 2018-12-19 2020-07-15 Viewpointsystem Gmbh Verfahren zur Anpassung eines optischen Systems an einen individuellen Benutzer
US11786694B2 (en) 2019-05-24 2023-10-17 NeuroLight, Inc. Device, method, and app for facilitating sleep
CN111012345A (zh) * 2019-12-31 2020-04-17 中科诺泰(山东)智能科技有限公司 眼部疲劳度检测***及方法
EP4139937A4 (en) * 2020-04-21 2024-02-14 Mirametrix Inc. DIGITAL WELL-BEING SYSTEMS AND PROCESSES
US11954249B1 (en) 2020-06-26 2024-04-09 Apple Inc. Head-mounted systems with sensor for eye monitoring
US20240138738A1 (en) * 2021-03-11 2024-05-02 Sony Group Corporation Biopotential electrode body and biopotential sensor

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0347207A (ja) * 1989-07-14 1991-02-28 Nissan Motor Co Ltd シート
WO1993002616A1 (en) * 1991-08-09 1993-02-18 Srd Shorashim Medical, Ltd. Apparatus for mounting electrodes
JPH0918894A (ja) * 1995-06-26 1997-01-17 Sanyo Electric Co Ltd 立体映像表示装置
JPH1028680A (ja) * 1996-04-12 1998-02-03 Siemens Elema Ab 測定電極と中性電極およびそれらのリード線を監視する装置
JPH1099287A (ja) * 1996-09-30 1998-04-21 Sanyo Electric Co Ltd ダイポール推定方法
US20080188771A1 (en) * 2002-04-19 2008-08-07 Dirk Boecker Methods and apparatus for penetrating tissue
JP2011120887A (ja) * 2009-11-12 2011-06-23 Panasonic Corp 眼電位計測装置、眼科診断装置、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがね、眼電位計測方法、及びプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5649061A (en) * 1995-05-11 1997-07-15 The United States Of America As Represented By The Secretary Of The Army Device and method for estimating a mental decision
US6346887B1 (en) * 1999-09-14 2002-02-12 The United States Of America As Represented By The Secretary Of The Navy Eye activity monitor
US6475163B1 (en) 2000-01-07 2002-11-05 Natus Medical, Inc Hearing evaluation device with patient connection evaluation capabilities
EP1799105B1 (en) * 2004-09-03 2008-10-29 Canadian Space Agency System and method for mental workload measurement based on rapid eye movement
JP4890060B2 (ja) 2005-03-31 2012-03-07 株式会社トプコン 眼科装置
JP5573683B2 (ja) * 2009-01-22 2014-08-20 日本電気株式会社 立体映像鑑賞システム、表示システム、光シャッタおよび立体映像鑑賞方法
JP5490664B2 (ja) 2009-11-18 2014-05-14 パナソニック株式会社 眼電位推定装置、眼電位算出方法、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイおよび電子めがね
WO2012040390A2 (en) * 2010-09-21 2012-03-29 Somaxis Incorporated Methods for assessing and optimizing muscular performance
WO2012157195A1 (ja) * 2011-05-19 2012-11-22 パナソニック株式会社 画像表示システムおよび3次元用メガネ
JP5148016B2 (ja) * 2011-05-20 2013-02-20 パナソニック株式会社 立体映像提供装置及びその方法
WO2012160741A1 (ja) * 2011-05-20 2012-11-29 パナソニック株式会社 視覚疲労度測定装置、その方法、視覚疲労度測定システムおよび3次元メガネ

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0347207A (ja) * 1989-07-14 1991-02-28 Nissan Motor Co Ltd シート
WO1993002616A1 (en) * 1991-08-09 1993-02-18 Srd Shorashim Medical, Ltd. Apparatus for mounting electrodes
JPH0918894A (ja) * 1995-06-26 1997-01-17 Sanyo Electric Co Ltd 立体映像表示装置
JPH1028680A (ja) * 1996-04-12 1998-02-03 Siemens Elema Ab 測定電極と中性電極およびそれらのリード線を監視する装置
JPH1099287A (ja) * 1996-09-30 1998-04-21 Sanyo Electric Co Ltd ダイポール推定方法
US20080188771A1 (en) * 2002-04-19 2008-08-07 Dirk Boecker Methods and apparatus for penetrating tissue
JP2011120887A (ja) * 2009-11-12 2011-06-23 Panasonic Corp 眼電位計測装置、眼科診断装置、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがね、眼電位計測方法、及びプログラム

Also Published As

Publication number Publication date
JP5665241B2 (ja) 2015-02-04
US9486156B2 (en) 2016-11-08
US20140081117A1 (en) 2014-03-20
WO2013140725A1 (ja) 2013-09-26

Similar Documents

Publication Publication Date Title
JP5665241B2 (ja) 眼球疲労判定装置およびその作動方法
US11703947B2 (en) Apparatus and method for dynamic graphics rendering based on saccade detection
US10650533B2 (en) Apparatus and method for estimating eye gaze location
US8333475B2 (en) Electro-oculography measuring device, ophthalmological diagnosis device, eye-gaze tracking device, wearable camera, head-mounted display, electronic eyeglasses, electro-oculography measuring method, and recording medium
JP5490664B2 (ja) 眼電位推定装置、眼電位算出方法、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイおよび電子めがね
JP5475893B2 (ja) 視覚疲労度測定装置およびその方法
US8419654B2 (en) Eye gaze tracking apparatus, imaging apparatus, eye gaze tracking method, program, and integrated circuit
US7872635B2 (en) Foveated display eye-tracking system and method
KR101267637B1 (ko) 3차원 영상의 시각 피로감 측정 장치 및 유발 요인 추출 장치, 그리고 그 방법
US20180107275A1 (en) Detecting facial expressions
JP2014124308A (ja) 眼電位生成装置、眼電位生成方法およびビューワー
US10817057B2 (en) Information processing device, information processing method, and program
US10646133B2 (en) Dominant eye determining method and device
KR102468345B1 (ko) 가상 현실 콘텐츠의 시청 피로도 분석 장치 및 방법
KR20210072350A (ko) 전기 안구도 측정을 통한 안구 운동 상태 기반의 렌더링 방법
KR20200034329A (ko) 시간 동기화를 위한 방법 및 장치
JP2019024608A (ja) 視線検出校正方法、システム、及びコンピュータプログラム
US11579690B2 (en) Gaze tracking apparatus and systems
KR102281909B1 (ko) Hmd 착용자의 시선 추적 방법 및 착용자의 시선을 추적하는 헤드 마운트 디스플레이 장치
WO2023129390A1 (en) Monitoring cardiac activity using an in-ear device

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20141106

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141208

R150 Certificate of patent or registration of utility model

Ref document number: 5665241

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150