JP2014124308A - 眼電位生成装置、眼電位生成方法およびビューワー - Google Patents

眼電位生成装置、眼電位生成方法およびビューワー Download PDF

Info

Publication number
JP2014124308A
JP2014124308A JP2012282593A JP2012282593A JP2014124308A JP 2014124308 A JP2014124308 A JP 2014124308A JP 2012282593 A JP2012282593 A JP 2012282593A JP 2012282593 A JP2012282593 A JP 2012282593A JP 2014124308 A JP2014124308 A JP 2014124308A
Authority
JP
Japan
Prior art keywords
potential
eye
electrode
blink
electrooculogram
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012282593A
Other languages
English (en)
Inventor
Yumiko Kato
弓子 加藤
Takeshi Inoue
剛 井上
Jun Ozawa
順 小澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2012282593A priority Critical patent/JP2014124308A/ja
Publication of JP2014124308A publication Critical patent/JP2014124308A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Eye Examination Apparatus (AREA)

Abstract

【課題】左右の眼電位の計測特性を揃えて正確な左右の眼球運動を計測する。
【解決手段】左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とが交差するように、ユーザの頭部に装着して使用されるビューワーに配置された各電極の電位を取得する電位取得部125と、ユーザが瞬目を行った時間区間である瞬目区間を検出する瞬目検出部140と、瞬目区間における、ユーザの左眼側に配置された電極間の電位差である左眼電位と、ユーザの右眼側に配置された電極間の電位差である右眼電位との比を用いて、電位の補正値を計算する補正値計算部170と、補正値計算部170が計算した補正値を用いて、電位取得部125が取得した電位から算出される左眼電位または右眼電位を補正する補正処理部180とを備える。
【選択図】図32

Description

本発明は、ユーザの眼電位情報を生成する眼電位生成装置および眼電位生成方法、ならびに、眼電位生成装置と共に用いられるビューワーに関する。
特許文献1は、視聴者の注視点位置、調節位置及び3次元映像の注視座標値に基づいて、眼球の疲労状態を判定することと、瞬きを測定する瞬き測定部を開示している。
特許文献2は、眼電位を計測するウエアラブルカメラを開示している。
特許文献3は、電極の位置を眼球の電位モデルにより推定する方法を開示している。
特許文献4は、電位計測中に定期的に電位計測を中断して各電極のインピーダンスを計測し、インピーダンスが不適切な値である場合にはインピーダンス計測の頻度を増やすことを開示している。
特開2006−305325号公報 特開2011−125693号公報 特開2007−252879号公報 特開2001−231768号公報
電極のインピーダンスが変化すると、眼電位も変化する。また、電極の接触状態などにより、左右で同じ眼球運動を行ったとしても眼電位が異なる。このため、左右の眼電位の計測特性を揃えるために、キャリブレーションが行われる。しかし、キャリブレーションを行うためには、ユーザにキャリブレーション用指標を注視させる等の特別な動作を要求しなければならない。このため、キャリブレーション中は、ユーザが実行中のタスクに対する眼電位を計測することができないという課題がある。例えば、3次元映像を視聴しているユーザの眼電位の計測途中に、電極のインピーダンスが変化した場合には、3次元映像の視聴を中断しなければならず、3次元映像の視聴というタスクに対する眼電位を計測することができない。
本発明は、かかる課題に鑑みてなされたものであって、電極と皮膚との間の接触インピーダンスに変動が生じた場合であっても、キャリブレーション用指標を注視する特別な動作をユーザに要求することなく、左右の眼電位の計測特性を揃えて正確な左右の眼球運動を計測することができる眼電位生成装置を提供する。
本発明の一態様に係る眼電位生成装置は、左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とが交差するように、ユーザの頭部に装着して使用されるビューワーに配置された各電極の電位を取得する電位取得部と、前記ユーザが瞬目を行った時間区間である瞬目区間を検出する瞬目検出部と、前記瞬目区間における、前記ユーザの左眼側に配置された電極間の電位差である左眼電位と、前記ユーザの右眼側に配置された電極間の電位差である右眼電位との比を用いて、電位の補正値を計算する補正値計算部と、前記補正値計算部が計算した前記補正値を用いて、前記電位取得部が取得した電位から算出される左眼電位または右眼電位を補正する補正処理部とを備える。
上記のように配置された電極の電位には、瞬目時に発生する電位が含まれる。また、瞬目時に発生する電位差は、理想的には左右の眼で同じである。このため、瞬目時に発生する電位差を用いて電位の補正値を計算し、電位を補正することができる。よって、電極と皮膚との間の接触インピーダンスに変動が生じた場合であっても、キャリブレーション用指標を注視する特別な動作をユーザに要求することなく、左右の眼電位の計測特性を揃えて正確な左右の眼球運動を計測することができる。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読取可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
本発明によると、電極と皮膚との間の接触インピーダンスに変動が生じた場合であっても、キャリブレーション用指標を注視する特別な動作をユーザに要求することなく、左右の眼電位の計測特性を揃えて正確な左右の眼球運動を計測することができる。
図1は、理想状態に極めて近い、左右の瞬目時の眼電位の時間波形を示す図である。 図2は、右眼に対する電極装着位置と、各電極対で記録される眼電位の典型例を示す図である。 図3は、目頭と目じりとに装着された電極対によりそれぞれ観測される、水平眼球運動の電位差と瞬目の電位差との比を示す図である。 図4は、瞬目時の眼電位の一例を示す図である。 図5は、眼電位の補正結果の一例を示す図である。 図6は、実施の形態1における眼電位補正システムを含む3次元表示システムの構成の一例を示すブロック図である。 図7Aは、実施の形態1における電極の接触位置の一例を示す模式図である。 図7Bは、実施の形態1における3次元用メガネにおける電極の設置位置の一例を示す模式図である。 図8は、実施の形態1におけるコンテンツ情報蓄積部に記憶されるコンテンツの構成の一例を示す図である。 図9は、実施の形態1における閾値記憶部に記憶されるデータの一例を示す図である。 図10は、実施の形態1における計測値記憶部に記憶されるデータの一例を示す図である。 図11は、実施の形態1における眼電位補正システムの動作の一例を示すフローチャートである。 図12は、実施の形態1における眼電位補正システムの動作の一部を示すフローチャートである。 図13は、実施の形態1における瞬目検出部の詳細な構成を示すブロック図である。 図14は、実施の形態1における眼電位補正システムの動作の一部を示すフローチャートである。 図15は、実施の形態1の変形例1における眼電位補正システムの構成を示すブロック図である。 図16は、実施の形態1の変形例1における補正値計算スケジュール記憶部に記憶されるデータの構成の一例を示す図である。 図17は、実施の形態1の変形例1における眼電位補正システムの動作の一例を示すフローチャートである。 図18は、実施の形態1の変形例2における眼電位補正システムの構成を示すブロック図である。 図19は、実施の形態1の変形例2における眼電位補正システムの動作の一例を示すフローチャートである。 図20は、実施の形態2における眼電位補正システムを含む3次元表示システムの構成の一例を示すブロック図である。 図21は、実施の形態2における眼電位補正システムの動作の一例を示すフローチャートである。 図22は、実施の形態3における眼電位補正システムを含む3次元表示システムの構成の一例を示すブロック図である。 図23は、実施の形態3におけるコンテンツ情報蓄積部に記憶されるデータの構成の一例を示す図である。 図24は、実施の形態3における眼電位補正システムの動作の一部を示すフローチャートである。 図25は、実施の形態3における瞬目推定部の詳細な構成を示すブロック図である。 図26は、実施の形態3における適合区間記憶部に記憶されるデータの構成の一例を示す図である。 図27は、実施の形態3における眼電位補正システムの動作の一部を示すフローチャートである。 図28は、実施の形態3における眼電位補正システムを含む3次元表示システムの別の構成を示すブロック図である。 図29Aは、実施の形態3の変形例におけるコンテンツ情報蓄積部に記憶されるデータの構成の一例を示す図である。 図29Bは、3次元座標位置の座標軸の一例を示す図である。 図30は、実施の形態3の変形例における眼電位補正システムの瞬目推定部の詳細な構成を示すブロック図である。 図31は、実施の形態3の変形例における眼電位補正システムの動作の一部を示したフローチャートである。 図32は、本発明に必須の構成要素を備える眼電位生成装置の一例である眼電位補正システムの構成を示すブロック図である。
(本発明の基礎となった知見)
両眼の運動を計測して情報を取り出す技術として、さまざまなものが提案されている。立体映像の視聴中の眼球運動を計測して疲労を計測する技術、視線を検出する技術などである。眼球運動の計測には、カメラを用いた眼球の画像を利用するものと、眼球周辺に装着した電極より計測した眼電位を利用するものとがある。眼電位として計測される電位に影響を与える条件として、電極の位置と、電極および皮膚の接触インピーダンスとがある。特許文献3は電極位置を推定する方法を開示する。しかしながら、電極ごとのインピーダンスの差による電位の違いがあるため、電極位置の推定には、眼球運動が規定されたキャリブレーション用の指標をユーザが注視している際の電位が必要となる。立体映像視聴時の疲労計測を行う場合を考えると、映像視聴時にキャリブレーション用の指標を注視することをユーザに強要することは困難である。メガネ等の、頭部の特定の位置に装着される装具上の一定の位置に電極が固定されている場合は、電極は頭部の一定の範囲内の位置に装着される。そのため電極の位置が、計測される電位に与える影響はきわめて小さくなる。しかし、3次元用メガネに搭載された電極で眼電位を計測し、眼球の運動状態から疲労を判定する際には、左右の眼球の運動状態が比較可能である必要がある。すなわち、同一角度または同一距離の眼球の運動が、左右の電極で同一の電位として計測されることが望ましい。しかしながら、皮膚と電極との間の接触状態は電極ごとに異なり、それによりインピーダンスは電極ごとに異なる。そのため、左右の眼球が同一角度または同一距離の運動をしていても、計測される電位が異なる場合がある。したがって、電極位置が決定されている場合でもキャリブレーションが必要になり、映像視聴時の疲労計測に眼電位を用いることが困難になる。
眼電位計測用の電極を3次元用メガネに搭載する場合も、皮膚と電極との間のインピーダンスは電極ごとに異なり、かつ単一の電極のインピーダンスも時間経過とともに変動する。電極装着直後から30分程度は皮膚と電極との間の電気的状態が不安定であり、インピーダンスが高い傾向が続く。電極装着後、時間経過と供にインピーダンスは低下し、安定するが、電極間でインピーダンスの差がなくなるとは限らない。電極が皮膚から一時的に外れたり、ずれたりすることでインピーダンスは電極ごとに大きく変動し、電極間のインピーダンスの差も変動する。同一の電位であっても電極のインピーダンスが大きいと計測される電位の絶対値は小さくなり、電極のインピーダンスが小さいと計測される電位の絶対値が大きくなる。電極ごとにインピーダンスが異なると、電極ごとに計測された電位を比較することができない。特許文献4は、定期的に電位計測を中断してインピーダンスを計測することを開示している。メガネに電極が装着されている場合は、メガネのかけなおしや、姿勢変動によりメガネがずれて、電極の接触状態が変化する。このことにより、インピーダンス変動が生じる。特許文献4の方法ではインピーダンスの変動が起こるたびに眼電位の計測を中断することになる。このように、従来の方法では、インピーダンス変動により眼球の疲労判定ができない状態が度々起こるという課題を有している。
本発明は、かかる課題に鑑みてなされたものであって、電極と皮膚との間の接触インピーダンスに変動が生じた場合であっても、キャリブレーション用指標を注視する特別な動作をユーザに要求することなく、左右の眼電位の計測特性を揃えて正確な左右の眼球運動を計測することができる眼電位生成装置を提供する。
詳細な実施の形態を説明する前に、瞬きに関する電気的特徴について説明する。
瞬目に伴って、眼球を上下にはさんで計測する垂直方向の眼電位は、まぶたが閉じることにより、角膜側のまぶたと眼球との接触面積が大きくなることに起因するとされている。眼球は表面の角膜が正に帯電し、奥の網膜が負に帯電している。瞬目時にまぶたが角膜に接触することにより、まぶたに角膜−網膜電位が発生する。眼球を垂直方向に上下に挟んで装着された電極で記録される電位が、眼電位に記録される瞬目時の電位である(例えば、非特許文献:北大路書房、宮田洋監修、「生理心理学の基礎1」、16章瞬目活動、3EOG法、p271−p272、図16−6)。瞬目には、無自覚なもの、または自覚的なもの等いくつかの種類があり、眼電位の時間パタンまたは振幅が異なる。例えば、無自覚な瞬目は、まぶたの動きが小さく、電位の振幅は自覚的な瞬目に比してやや小さい。しかしながら、左右の眼球による瞬目時の電位の違いは小さい。図1(a)および図1(b)は、電極のインピーダンスが低い値で且つ安定している際に記録した垂直眼電位に記録された瞬目時の電位を示すグラフである。横軸は時間で、1目盛りが0.1秒である。縦軸は電位であり単位はマイクロボルトである。左右の電極は、正面視時の瞳孔位置の眉上と眼窩下に設置した。グラフの電位は左右同時に記録された電位であり、図1(a)のグラフが右眼電位を、図1(b)のグラフが左眼電位を示している。各グラフは瞬目を2回行った際の電位を示している。2回の瞬目時の電位を比較すると、左右の電位はほぼ一致している。左右で、電位の最小値と最大値の差分(peak−to−peak amplitude)を比較すると、1回目の瞬目における左右の差は1.7%、2回目の瞬目における左右の差は3%である。ノイズの混入の多い生体信号においては、これらは小さい値であり、無視しうる。
眼球を水平方向に挟んだ位置に電極を装着した場合に記録される瞬目は、図2(d)に示すように非常に小さい。なお、図2(a)は、眼の近くの電極の貼り付け位置を数字「1」〜「5」で示している。ここで、貼り付け位置iの電極を電極iと呼ぶ。図2(b)は、図2(a)に示す電極1と電極2との間の電位差(以下では、電位差のことを電位とも言う)の時系列データを示す。図2(c)は、図2(a)に示す電極3と電極4との間の電位差の時系列データを示す。図2(d)は、図2(a)に示す電極5と電極4との間の電位差の時系列データを示す。つまり、電極を垂直方向に貼り付けた場合には、図2(b)に示すように瞬目時に電位が大きく変化するのに対し、電極を水平方向に貼り付けた場合には、図2(d)に示すように瞬目時の電位は小さい。また、電極を斜め方向に貼り付けた場合には、図2(c)に示すように、電極を水平方向に貼り付けた場合に比べて瞬目時の電位は大きくなる。
図3は本願発明者らが行った第1の実験の概要を示す図である。図3(a)と図3(b)は、眼電位計測用電極の貼り付け位置を示した模式図である。図中の数字は鼻側(目頭側)の電極と耳側(目尻側)の電極とからなる電極対が水平方向に対して成す角度である。角度の正負は、眼球を上下にも挟む方向を正としている。そのため、図3(a)では鼻側(目頭側)の電極の位置が高いため、眼の上側が負の角度、眼の下側が正の角度となる。図3(b)では鼻側(目頭側)の電極の位置が低いため、眼の下側が負の角度、眼の上側が正の角度となる。図3(c)は鼻側電極と耳側電極の各電極との対で計測された、衝動性眼球運動(saccade)に伴う電極間の電位差に対する、瞬目に伴う電極間の電位差の比を示している。横軸が鼻側電極と耳側電極が水平方向(両眼を結ぶ直線)に対してなす角度を示し、縦軸が上述の電位差(電位)の比を示している。ここで想定する衝動性眼球運動(saccade)は、水平方向の視角を10度としたときの眼球の運動である。水平方向の視角を10度としたのは、所定時間当たり生じる、眼球の輻輳運動および共同運動(conjugate eye movement)の角度は高々10度だからである。
EOGのキャリブレーションに用いられることの多い視角10度の水平方向の眼球運動に伴う電位と明確に区別が可能な電位で瞬目が記録できる電極対の配置を検討した。
その結果、鼻側(目頭側)の電極から水平方向および上下方向に眼を挟む方向に耳側(目尻側)の電極を配置する場合には、電極対が水平方向に対してなす角度を10度以上とする。また、鼻側(目頭側)の電極から上下方向には眼を挟まない方向に耳側(目尻側)の電極を配置する場合には、電極対が水平方向に対してなす角度を40度以上とする。このように電極対を配置することで、上述の電位の比が1.5以上となる。このため、瞬目に伴う電位を、水平方向の眼球運動に伴う電位から分離して利用できることが示された。
理論的には、眼球との相対位置および水平方向に対する角度が左右同じとなるように電極がユーザに装着され、各電極のインピーダンスが同じであれば、斜めに眼球を挟む位置に装着した電極対で記録される瞬目時の電位は左右同じになる。実際には、電極を個別に装着する場合には、眼球との相対位置と角度が左右で同じになるように電極を装着することは困難である。眼球との相対位置と角度が左右で同じになるように電極を装着するには、左右対称の位置に電極を把持した治具が必要である。メガネやゴーグル、あるいはヘッドマウントディスプレイはこのような治具になる。メガネ等に電極を固定することで、メガネ等の装着によって、眼球との相対位置と角度が左右対称な位置に眼電位計測用の電極が装着される。眼球との相対位置と角度が左右対称な位置に電極が装着されているにもかかわらず発生する左右の電位の差は、左右の電極の接触インピーダンスに起因する。左右の電極の装着位置の差があると、そのずれ方向によって眼球運動のうち特定の方向の運動に伴う電位を大きく記録したり、小さく記録したりする。このため、電位の補正には正確な電極位置の情報が必要になる。一方、インピーダンスの違いによる電位のずれは眼球運動方向に依存しない。
本願発明者は、瞬目が左右の眼電位に等しい電位として記録されることと、電極の接触インピーダンスの違いによる電位のずれは眼球運動の方向に依存しないこととをあわせ、以下のことを発見した。つまり、垂直方向に電極対を装着した際に大きな値を示す瞬目時の眼電位を用いて水平方向の眼球運動時に発生する電位を補正して、左右の眼電位から眼球の運動の左右バランスを高精度に観察できることを第2の実験により発見した。
図4(a)は第2の実験時に装着した電極の配置を模式的に示した図である。電極は正中線上の鼻梁と、左右の眼の目じり下、すなわち、鼻梁の電極に対して眼球を挟んで耳側で且つ鼻梁の電極位置よりあご側の位置に配置した。図4(b)は図4(a)の電極の配置で記録された左右の眼電位の時間波形である。横軸が時間を示し、縦軸が鼻梁の電極と耳側の電極との電位差を示す。実線が右眼の眼電位(電位)を示し、破線が左眼の眼電位(電位)を示す。白抜きの矢印が瞬目時の電位を示す。図4(b)では左眼の眼電位の振幅が大きい。本来同じであるはずの瞬目時の眼電位に見られる左右差の多くは、左右の電極の接触インピーダンスの差に起因する。図4(b)の瞬目に伴う眼電位のうち異常値を除外した9回の瞬目に伴う眼電位を用いて、左眼の眼電位を補正するための補正値を求めた。ここで、異常値は、例えば、瞬目と眼球の運動とが同時に生じた場合などに発生する。左右の眼電位についてそれぞれに、瞬目時の眼電位ごとの負のピークと正のピークとの差分値(peak−to−peak amplitude)を各瞬目時の振幅とし、左右の眼電位のそれぞれについて、9回の瞬目時の振幅の平均を求めた。振幅の平均の左右の比を補正値として使用した。
図5(a)は図4(a)と同様の電極の配置を示す模式図である。図5(b)は、左右方向および水平方向に提示される点を交互に見る眼球運動を行った際の眼電位の時間波形である。横軸が時間を示し、縦軸が鼻梁の電極と耳側の電極との電位差を示す。細い実線が右眼の眼電位(電位)を示す。破線が補正前の左眼の眼電位(電位)を示す。太い実線が補正後の左眼の眼電位(電位)を示す。負の電位として示されているのが注視点から視角8度分右に提示された点に視線を移動させる衝動性眼球運動(saccade)を行った際の電位であり、正の電位として示されているのは、視角8度分左に提示された点に視線を移動させる衝動性眼球運動(saccade)を行った際の電位である。図5(b)に示す眼電位は、図4(b)に示す瞬目時の電位が記録された後、被験者(ユーザ)と電極をそのままに記録された眼電位である。左眼側の眼電位は右眼側の眼電位よりも振幅が大きい。左眼側の眼電位の補正により、左右で大きくずれていた右向き8度の眼球運動の眼電位が補正された。左向きの眼球運動については補正により差が大きくなっている部分もあるが、全体としては左右の差が小さくなっている。
本開示では、3次元映像を視聴中のユーザが自然に行う瞬目に伴う電位を用い、瞬目時に計測された左右の電極の電位の差に基づいて、左右の電極間のインピーダンスの差に由来する計測電位の差を補正する。このことで、ユーザにキャリブレーション用の指標を注視する負荷を強要することなく、左右の眼電位を計測および比較する。これにより、眼電位の時間変化から視覚性の疲労を検出できる。さらに、皮膚の電気抵抗は、電極装着直後は高く、徐々に下がり、30分を超えると安定することが知られているが、本開示では、このような時間変動に対して、3次元映像を視聴中のユーザに対して映像の視聴を中断させ、頻繁にキャリブレーションの動作を強要することにより、補正値を修正する必要がない。3次元映像を視聴中のユーザが自然に行う瞬目に伴う電位を利用して、逐次補正値を修正することができ、インピーダンスの時間変動に伴う補正値の修正のために、ユーザの映像視聴行動を中断する必要がない。同様に、3次元用メガネをユーザが掛け直すあるいは掛け換える等を行った場合に生じるインピーダンスの不連続な変化についても、メガネの掛け直しや掛け換えが起った時点より後で行われた瞬目を利用することで補正値の修正が可能である。
本発明の一態様に係る眼電位生成装置は、左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とが交差するように、ユーザの頭部に装着して使用されるビューワーに配置された各電極の電位を取得する電位取得部と、前記ユーザが瞬目を行った時間区間である瞬目区間を検出する瞬目検出部と、前記瞬目区間における、前記ユーザの左眼側に配置された電極間の電位差である左眼電位と、前記ユーザの右眼側に配置された電極間の電位差である右眼電位との比を用いて、電位の補正値を計算する補正値計算部と、前記補正値計算部が計算した前記補正値を用いて、前記電位取得部が取得した電位から算出される左眼電位または右眼電位を補正する補正処理部とを備える。
上記のように配置された電極の電位には、瞬目時に発生する電位が含まれる。また、瞬目時に発生する電位差は、理想的には左右の眼で同じである。このため、瞬目時に発生する電位差を用いて電位の補正値を計算し、電位を補正することができる。よって、電極と皮膚との間の接触インピーダンスに変動が生じた場合であっても、キャリブレーション用指標を注視する特別な動作をユーザに要求することなく、左右の眼電位の計測特性を揃えて正確な左右の眼球運動を計測することができる。また、皮膚状態の変化や、ビューワーのかけ直し等による電極の接触状態の変化に伴う電極のインピーダンスの変化に対しても、ユーザが瞬きを行うたびに逐次補正値を計算することで常に正しい補正値により左右の電極の電位を補正することができる。つまり、インピーダンスの変化があっても常に左右の眼電位のバランスを保つことができる。なお、ビューワーは、メガネ、ゴーグル、ヘッドマウントディスプレイを含む。
例えば、前記瞬目検出部は、前記ビューワーに配置された少なくとも1つの電極の電位および当該電位の変化速度を閾値処理することにより、前記瞬目区間を検出しても良い。
これにより、電位および電位の変化速度の絶対値が大きい部分を瞬目区間として検出することができる。
また、前記補正値計算部は、複数の瞬目区間の各々について、前記左眼電位および前記右眼電位のピーク値の比を算出し、前記複数の瞬目区間の前記ピーク値の比の平均値を、前記補正値として計算しても良い。
ピーク値の比の平均値を補正値として計算することにより、ピーク値にばらつきがあった場合であっても正確な補正値を計算することができる。
また、上述の眼電位生成装置は、さらに、電極ごとの電位変化から、当該電極の移動を検出する電極移動検出部を備え、前記補正値計算部は、前記電極移動検出部が前記電極の移動を検出した場合に、前記電極の移動より後の瞬目区間における前記左眼電位および前記右眼電位の比を用いて、前記補正値を再計算し、前記補正処理部は、再計算された補正値を用いて、前記電位取得部が取得した前記左眼電位または前記右眼電位を補正しても良い。
ユーザのビューワーのかけ直しなどによる電極の移動が生じた場合には、電極と皮膚との間の接触インピーダンスが変動する。このため、このような場合に、補正値を再計算できる。
また、上述の眼電位生成装置は、さらに、電極ごとの電位変化から、前記ユーザの眼球が想定外の動きをしているか否かを判定する異常判定部を備え、前記補正値計算部は、前記異常判定部が前記ユーザの眼球が想定外の動きをしていると判定した場合に、前記電極の移動より後の瞬目区間における前記左眼電位および前記右眼電位の比を用いて、前記補正値を再計算し、前記補正処理部は、再計算された補正値を用いて、前記電位取得部が取得した前記左眼電位または前記右眼電位を補正しても良い。
これにより、眼球の水平方向の動きの異常が検出された場合には、何らかのエラーが生じたとして、異常検出までの瞬目区間における電位差を用いないようにすることができる。これにより、正確な補正値を再計算できる。
また、上述の眼電位生成装置は、さらに、前記ユーザが視聴する映像コンテンツに含まれるオブジェクトの表示位置情報に基づいて、瞬目時の眼球の水平方向の動きが所定量より少ない時間区間を推定する瞬目推定部を備え、前記補正値計算部は、前記瞬目推定部により瞬目時に眼球の水平方向の動きが所定量より少ないと推定された時間区間内の瞬目区間における前記左眼電位および前記右眼電位の比を用いて、前記補正値を計算しても良い。
これにより、眼球の水平方向の動きが少ない瞬目区間の電位差を用いて補正値を計算することができる。このため、補正値を高精度で計算することができる。
例えば、上述の眼電位生成装置は、さらに、前記映像コンテンツに含まれる前記オブジェクトの表示位置情報を蓄積しているコンテンツ情報蓄積部を備え、前記瞬目推定部は、前記コンテンツ情報蓄積部に蓄積されている前記表示位置情報に基づいて、瞬目時の眼球の水平方向の動きが所定量より少ない時間区間を推定しても良い。
また、上述の眼電位生成装置は、さらに、前記ユーザが視聴する映像コンテンツに含まれるオブジェクトの奥行き情報に基づいて、瞬目時の眼球の水平方向の動きが所定量より少ない時間区間を推定する瞬目推定部を備え、前記補正値計算部は、前記瞬目推定部により瞬目時に眼球の水平方向の動きが所定量より少ないと推定された時間区間内の瞬目区間における前記左眼電位および前記右眼電位の比を用いて、前記補正値を計算しても良い。
これにより、眼球の水平方向の動きが少ない瞬目区間の電位差を用いて補正値を計算することができる。特に、オブジェクトの奥行き情報に基づいて眼球の水平方向の動きを判断しているため、眼球の輻輳運動が少ない瞬目区間の電位差を用いて補正値を計算することができる。このため、補正値を高精度で計算することができる。
例えば、前記瞬目推定部は、前記映像コンテンツに含まれる前記オブジェクトの前記奥行き情報に基づいて、前記オブジェクトの奥行きが予め定められた閾値より大きい時間区間を、瞬目時の眼球の水平方向の動きが前記所定量より少ない時間区間として推定しても良い。
また、上述の眼電位生成装置は、さらに、前記ユーザが視聴する映像コンテンツの輝度の変化量が所定の閾値以上の時間区間を検出する瞬目推定部を備え、前記補正値計算部は、前記瞬目推定部が検出した時間区間内の瞬目区間における前記左眼電位および前記右眼電位の比を用いて、前記補正値を計算しても良い。
映像コンテンツの輝度の変化量が大きい場合には、映像コンテンツのシーンチェンジが発生したと考えられる。このような場合には、ユーザは瞬きをすると考えられる。このため、映像コンテンツの輝度が大きく変化した時間区間内の瞬目区間の電位差を用いて補正値を計算することにより、補正値を高精度で計算することができる。
また、前記ユーザの左眼側の電極と、前記ユーザの右眼側の電極とは、前記ユーザの頭部の正中線に対して線対称となるように配置されても良い。
これにより、電極を左右対称に配置することができる。よって、補正値を高精度で計算することができる。
また、左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とがなす角は、両電極が当該眼を挟んだ位置に配置される場合には10度以上であり、両電極が当該眼を挟まない位置に配置される場合には40度以上であっても良い。
このような電極の配置により、瞬目による電位差と、眼球の水平方向の運動による電位差とを区別することができる。よって、補正値を高精度で計算することができる。
本発明の他の態様に係るビューワーは、ユーザの眼の周囲に配置された電極の電位を、前記ユーザの瞬目時における前記電極の電位を用いて補正する眼電位生成装置と共に用いられるビューワーであって、前記ユーザの左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とが交差するように、前記ビューワーに設置された電極を備える。
上記のように配置された電極の電位には、瞬目時に発生する電位が含まれる。また、瞬目時に発生する電位差は、理想的には左右の眼で同じである。このため、瞬目時に発生する電位差を用いて電位の補正値を計算し、電位を補正することができる。よって、眼電位生成装置は、電極と皮膚との間の接触インピーダンスに変動が生じた場合であっても、キャリブレーション用指標を注視する特別な動作をユーザに要求することなく、左右の眼電位の計測特性を揃えて正確な左右の眼球運動を計測することができる。
また、前記ユーザの左眼側の電極と、前記ユーザの右眼側の電極とは、前記ユーザの頭部の正中線に対して線対称となるように配置されても良い。
これにより、電極を左右対称に配置することができる。よって、眼電位生成装置は、取得した電位を正確な電位に補正することができる。
また、左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とがなす角は、両電極が当該眼を挟んだ位置に配置される場合には10度以上であり、両電極が当該眼を挟まない位置に配置される場合には40度以上であっても良い。
このような電極の配置により、瞬目による電位差と、眼球の水平方向の運動による電位差とを区別することができる。よって、眼電位生成装置は、取得した電位を正確な電位に補正することができる。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読取可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。
以下、実施の形態について、図面を参照しながら具体的に説明する。
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
図6は、実施の形態1における眼電位補正システム100を利用した3次元表示システム1の構成図である。眼電位補正システム100は、眼電位生成装置の一例を示す。
3次元表示システム1は、3次元表示装置10と、ビューワーの一例である3次元用メガネ20とを備える。眼電位補正システム100は、複数の電極110と、眼電位計測部120と、閾値記憶部130と、瞬目検出部140と、計測値記憶部150と、瞬目電位抽出部160と、補正値計算部170と、補正処理部180とを備える。本実施の形態では、眼電位補正システム100の電極110と眼電位計測部120とは3次元用メガネ20に搭載され、閾値記憶部130と、瞬目検出部140と、計測値記憶部150と、瞬目電位抽出部160と、補正値計算部170と、補正処理部180とは3次元表示装置10に搭載される。
<3次元用メガネ>
3次元用メガネ20は、制御信号受信部22と、シャッタ制御部23と、電極110と、眼電位計測部120と、送受信部21とを備える。
制御信号受信部22は、3次元表示装置10から送信される、画面表示と3次元用メガネとの同期を取るための制御信号を受信する。
シャッタ制御部23は、画面に表示される右眼用または左眼用の画像と同期して、右眼用または左眼用シャッタ(図示せず)を開閉するための制御を行う。
送受信部21は、3次元表示装置10と情報通信を行う。送受信部21は眼電位計測部120で計測された眼電位のデータを3次元表示装置10に送信する。送信は例えば0.1秒ごとに行われ、眼電位の計測時刻と、各計測時刻に各電極110で取得された電位とを示す情報が送信される。
各電極110は、ユーザの皮膚に接触して設置され、接触する皮膚の電位を取得する。
眼電位計測部120は、各電極110で取得された電位を増幅し、量子化する。量子化する際のサンプリング周波数は例えば200Hzである。
図7Aは本実施の形態における電極110のユーザ顔面での接触位置の一例を示し、図7Bは本実施の形態の電極110を備えた3次元用メガネ20の一例を示す。電極110は、ユーザの左右それぞれの眼について、片眼を挟んでユーザの頭部垂直軸および水平軸に対して斜めに配置されている。つまり、左右それぞれの眼について、眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とが交差するように、電極110が配置されている。例えば、電極110aが右眼112Rの目じり側の右上に接触し、電極110bが右眼112Rの目頭側の左下に接触するように配置されることで、電極110aと電極110bとが右眼112Rを斜めに挟んでいる。また、電極110dが左眼112Lの目じり側の左上に接触し、電極110cが左眼112Lの目頭側の右下に接触するように配置されることで、電極110cと電極110dとが左眼112Lを斜めに挟んでいる。さらに電極110は、右眼112Rをはさんで装着された電極対と左眼112Lを挟んで装着された電極対の位置が、ユーザの頭部の正中線111に対して線対称となるよう配置されている。例えば、右眼112Rの目じり側右上に接触する電極110aと左眼112Lの目じり側左上に接触する電極110dとは正中線111に対して線対称の位置にあり、右眼112Rの目頭側左下の電極110bと左眼112Lの目頭右下の電極110cとは正中線111に対して線対称の位置にある。電極110a〜110dは、例えば図7Bに示すように3次元用メガネ20上に支持されている。例えば、電極110bと電極110cとは鼻あて231に設置されており、電極110aと電極110dとはつる232の内側に設置されている。さらに3次元用メガネ20には基準電極である電極110Rとボディアースとなる電極110Eとが耳掛け230の内側に設置されている。なお電極110の設置位置と数とはこれに限らない。眼電位計測部120は、これらの電極110を用いて、視聴者の眼電位を取得する。図7Aの例では、眼電位計測部120は、電極110aと電極110bとを用いて、ユーザの右眼112Rの眼球運動と瞬目に伴う眼電位を取得する。眼電位計測部120は、電極110cと電極110dとを用いて、ユーザの左眼112Lの眼球運動と瞬目に伴う眼電位を取得する。
なお、図7Aおよび図7Bに示す電極110bと電極110cとをまとめて1つの電極により構成してもよい。つまり、図4(a)に模式図を示すように、正中線上の鼻梁に1つ電極を配置することにより、この電極に電極110bと電極110cとの役割を担わせる。
<3次元表示装置>
図6に示す3次元表示装置10は、コンテンツ情報蓄積部11と、画面制御部12と、表示画面13と、疲労判定部14と、制御信号送信部15と、送受信部16と、閾値記憶部130と、瞬目検出部140と、計測値記憶部150と、瞬目電位抽出部160と、補正値計算部170と、補正処理部180とを備える。
コンテンツ情報蓄積部11は、立体視用映像を含む動画コンテンツ(以下、「コンテンツ」と言う)を蓄積する。
図8はコンテンツ情報蓄積部11が蓄積するコンテンツの一例を示す。コンテンツ情報蓄積部11は、例えば、複数のコンテンツ(例えば、コンテンツA〜C)を蓄積しており、各コンテンツは、コンテンツ識別情報と、コンテンツ開始からの時間と、各時間における右眼用画像と左眼用画像とを含む。
画面制御部12は、コンテンツ情報蓄積部11に蓄積されている各コンテンツを表示画面13に表示するための制御を行うと共に、表示画面13と3次元用メガネ20との同期を制御するための指令信号を生成する。
表示画面13は、コンテンツを表示する。
制御信号送信部15は、画面制御部12による指令信号に基づき、画面表示と3次元用メガネ20との同期を取るための制御信号を、3次元用メガネ20に送信する。
閾値記憶部130は、眼電位から瞬目を検出するための閾値を記憶する。
瞬目検出部140は、送受信部16から取得した電極110ごとの電位から、左眼電位および右眼電位を算出する。つまり、瞬目検出部140は、それぞれの眼について、当該眼を挟んで設置された2つの電極110の電位の各々について、基準電極である電極110Rの電位との電位差を算出する。また、瞬目検出部140は、求めた2つの電位差の差分を算出することにより、当該眼の電位を算出する。例えば、図7Aおよび図7Bに示した右眼を挟んで設置された電極である電極110aと電極110bについて、瞬目検出部140は、電極110aと電極110Rとの電位差から、電極110bと電極110Rとの電位差を減算することにより得られる電位を右眼電位とするものである。左眼についても同様に、電極110dと電極110Rとの電位差から、電極110cと電極110Rとの電位差を減算することにより得られる電位を左眼電位とする。瞬目検出部140は、例えばこのようにして求めた右眼電位および左眼電位から、閾値記憶部130に記憶されている閾値に基づいて、瞬目区間を切り出す。
計測値記憶部150は、瞬目検出部140で切り出された瞬目区間の電位を時間情報と供に記憶する。
瞬目電位抽出部160は、計測値記憶部150に記憶された複数の瞬目区間から補正値計算に用いる瞬目区間を抽出する。
補正値計算部170は、瞬目電位抽出部160が抽出した瞬目区間より左右のうち少なくともいずれか一方の眼電位を補正するための補正値を計算する。
補正処理部180は、送受信部16から取得した眼電位に対して、瞬目検出部140と同様に右眼電位および左眼電位を算出する。補正処理部180は、これらの右眼電位と左眼電位を、補正値計算部170が計算した補正値を用いて補正する。
図9は閾値記憶部130が記憶するデータの一例を示す。閾値記憶部130は、例えば、正の電位に対する瞬目判定閾値と、負の電位に対する瞬目判定閾値と、正の電位の変化速度の閾値と、負の電位の変化速度の閾値と、正の電位の閾値超過時点と負の電位の閾値超過時点との時間幅に対する閾値とを記憶している。
図10は計測値記憶部150が記憶するデータの一例を示す。計測値記憶部150は例えば、瞬目検出部140が切り出した瞬目区間ごとに、切り出した順を示す切り出し番号と、切り出し開始時間と、切り出し終了時間と、左右どちらの眼のデータであるかを示す情報と、切り出し開始時点を0秒とする時間と、時間ごとに計測された電位の情報とを記憶する。電位は例えば0.005秒ごとに計測される。つまり、眼電位計測部120が各電極の電位をデジタイズする際のサンプリング周波数は200Hzである。ただし、このサンプリング周波数は一例であり、それ以外のサンプリング周波数であってもよいのは言うまでもない。
送受信部16は、3次元用メガネ20との情報通信を行う。3次元用メガネ20からは、眼電位の計測情報を受信する。なお、送受信部16は、図6に示した眼電位計測部120として機能する。眼電位の計測情報は例えば、計測時刻ごとの電極110a〜110dそれぞれの電位と、基準の電極110Rの電位の差分の情報である。
<眼電位補正システム100の動作>
図11は、本実施の形態の眼電位補正システム100の動作を示すフローチャートである。実施の形態1の眼電位補正システム100の動作を図6と図11に従って説明する。
まず図示しない入力手段あるいは入力部より開始信号が眼電位補正システム100に入力され、眼電位補正システム100は動作を開始する(ステップS1000)。補正処理部180は補正値計算部170より出力された利用可能な補正値があるか否か判断する(ステップS2000)。ステップS2000において利用可能な補正値が無いと判断された場合、すなわちステップS2000においてnoの場合は、ステップS3000に進む。ステップS2000において利用可能な補正値があると判断された場合、すなわちステップS2000においてyesの場合は、ステップS4000に進む。
ステップS3000において、眼電位補正システム100の補正値計算部170等は補正値を計算し、補正処理部180に出力する(ステップS3000)。ステップS4000では補正処理部180は眼電位計測部120で計測された眼電位のデータを補正値に従って補正して出力する(ステップS4000)。補正処理部180は図示しない入力手段あるいは入力部より終了信号が入力されたか否かを判断する(ステップS5000)。ステップS5000において終了信号の入力がある場合、すなわちステップS5000でyesの場合は、眼電位補正システム100は動作を終了する(ステップS6000)。ステップS5000において終了信号の入力がない場合、すなわちステップS5000でnoの場合は、ステップS2000へ戻る。
図12は、実施の形態1の眼電位補正システム100の動作の一部を示すフローチャートである。
図6と図12に従ってステップS3000の動作の詳細を説明する。
眼電位計測部120は、電極110からユーザの眼電位を取得する(ステップS3010)。眼電位計測部120は、ステップS3010で取得された電位を増幅し、アナログデジタル変換によってデジタイズする(ステップS3020)。瞬目検出部140は、ステップS3020でデジタイズされた各電極の電位から、閾値記憶部130に記憶された閾値に従って、瞬目と判定される区間(以下、「瞬目区間」と言う)と当該瞬目区間の電位の時系列データを検出する(ステップS3030)。ステップS3030で瞬目区間が検出された場合、すなわち、ステップS3030においてyesの場合はステップS3040へ進む。ステップS3030で瞬目区間が検出されない場合、すなわち、ステップS3030においてnoの場合はステップS3010へ戻る。ステップS3040では、瞬目検出部140が、眼電位計測部120で計測された電位の時系列データから、ステップS3030で検出された瞬目区間の電位の時系列データを切り出す(ステップS3040)。瞬目検出部140は、ステップS3040で切り出された瞬目区間の電位データを時間情報と供に計測値記憶部150に記憶する(ステップS3050)。瞬目電位抽出部160は、計測値記憶部150に記憶された電位データが属する瞬目区間が補正値計算に必要な数以上あるか否かを判断する(ステップS3060)。瞬目区間の必要数は例えば10個である。ステップS3060で計測値記憶部150に必要数以上の瞬目区間の電位データが記憶されていると判断された場合、すなわちステップS3060でyesの場合は、ステップS3070へ進む。ステップS3060で計測値記憶部150に必要数以上の瞬目区間の電位データが記憶されていないと判断された場合、すなわちステップS3060でnoの場合は、ステップS3010へ戻る。瞬目電位抽出部160は、最新10個の瞬目区間のうち、異常値を含まない瞬目区間の電位データを補正値計算用に抽出する(ステップS3070)。例えば、瞬目区間中の最大電位と瞬目区間中の最小電位について10個の瞬目区間の平均と標準偏差を求め、最大電位あるいは最小電位の一方または両方が、平均から標準偏差以上はなれた値を持つ瞬目区間を異常値を含む瞬目区間とする。例えば、図4の左から5番目の瞬目時の電位が異常値である。瞬目と同時に右眼電位に水平方向の眼球運動に伴う電位が加わったため、右眼電位のピーク値が他の電位のピーク値と大きく異なっている。補正値計算部170は、ステップS3070で抽出された複数個の瞬目区間の電位データより、左右の眼電位を補正する補正値を計算する(ステップS3080)。つまり、補正値計算部170は、例えば、各瞬目区間に含まれる電位データから、最大値すなわち正のピーク電位と最小値すなわち負のピーク電位とを抽出する。補正値計算部170は、各ピークについて左右の電位の比を求め、全ての瞬目区間の正のピーク電位に対する比および負のピーク電位に対する比を合わせた全ての比の平均を求める。補正値計算部170は、この平均値を補正値とする。なお、補正値は電位の符号で分けて求めてもよいし、ピーク間振幅の電位から求めてもよい。
図13は実施の形態1における眼電位補正システム100の瞬目検出部140の詳細な構成を示すブロック図である。
瞬目検出部140は、負電位検出部141と、負電位変化速度判定部142と、正電位検出部143と、正電位変化速度判定部144と、切り出し区間記憶部145と切り出し部146とを備える。
図14は、実施の形態1における眼電位補正システム100の動作の一部を示すフローチャートである。
図13と図14に基づいて、ステップS3030の瞬目区間の検出処理と、ステップS3040の瞬目区間の電位データの切り出し処理について、説明する。
ステップS3031において、負電位検出部141は眼電位計測部120で計測され、送受信部16が受信した各電極の電位より、電極110aと電極110Rとの電位差として計測された電位と、電極110bと電極110Rの電位差として計測された電位との差分を右眼電位として求める。また、負電位検出部141は、電極110cと電極110Rとの電位差として計測された電位と、電極110dと電極110Rの電位差として計測された電位との差分を左眼電位として求める。
ステップS3032において、負電位変化速度判定部142は、右眼電位について、閾値記憶部130に記憶された負の電位の閾値である負の電位に対する上限の値(図9の例では−60μV)を下回る電位の部分を検出する。また、負電位変化速度判定部142は、左眼電位について、閾値記憶部130に記憶された負の電位の閾値である負の電位に対する上限の値を下回る電位の部分を検出する。右眼電位および左眼電位のそれぞれについて、上記部分が検出された場合には(ステップS3032でyes)、ステップS3033に進み、上記部分が検出されなかった場合には(ステップS3032でno)、ステップS3010へ戻る。
本実施の形態では、電極間の電位の差分は左右とも目じり側の電極の電位から目頭側の電極の電位を減じて求めるものとする。すなわち、右眼電位は電極110aの電位から電極110bの電位を減じて求め、左眼電位は電極110dの電位から電極110cの電位を減じて求めるものとする。なお、電極間の電位の差分を求める際の減算の方向はこれに限らない。しかし、減算の方向は垂直方向の位置で見た場合に、左右で減算の方向が一致している必要がある。実施の形態1では右眼については上の電極である電極110aの電位から下の電極である電極110bの電位を減算し、左眼については上の電極である電極110dの電位から下の電極である電極110cの電位を減算した。例えば、右眼について下の電極である電極110bの電位から上の電極である電極110aの電位を減じてもよいが、その際には左眼に付いても電極110cの電位から電極110dの電位を減じて左眼電位を求める必要がある。
ステップS3033において、負電位変化速度判定部142は、負電位検出部141で検出された左眼電位および右眼電位のそれぞれについて、検出部分の最初の部分の電位変化を1秒あたりの電位変化である、電位変化速度に換算する。負電位変化速度判定部142は、求めた電位変化速度と閾値記憶部130に記憶された負の変化速度の閾値(図9の例では−500μV/s)とを比較する。負電位変化速度判定部142は、左眼電位および右眼電位のそれぞれから求めた電位変化速度が、負の変化速度の閾値を下回る場合には、当該の検出部分を瞬目部分候補とし、ステップS3034に進む。左眼電位および右眼電位のそれぞれから求めた電位変化速度が、負の変化速度の閾値以上の場合には(ステップS3033でno)、ステップS3010へ戻る。
ステップS3034において、正電位検出部143は、負電位変化速度判定部142で瞬目候補部分とされた部分の開始時点から、閾値記憶部130に記憶された正の電位閾値超過時点と負の電位閾値超過時点の時間差の上限の時間(図9の例では0.3秒)までの間を走査範囲として設定する。
ステップS3035において、正電位検出部143は、走査範囲において、正の電位に対する下限(図9の例では20μV)を超える電位の部分を検出する。下限を超える電位の部分が検出された場合には(ステップS3035でyes)、ステップS3036に進み、下限を超える電位の部分が検出されなかった場合には(ステップS3035でno)、ステップS3010へ戻る。
ステップS3036において、正電位変化速度判定部144は、正電位検出部143で検出された部分の左右の電位データのそれぞれについて、その検出部分の最初の部分の電位変化速度を求める。正電位変化速度判定部144は、求めた電位変化速度と閾値記憶部130に記憶された正の変化速度の閾値(図9の例では200μV/s)とを比較する。左右の電位から求めた変化速度が、正の変化速度の閾値を超えた場合には、正電位変化速度判定部144は、負電位検出部141で検出した部分から正電位検出部143で検出した部分までを一連の瞬目部分候補とする。その後、ステップS3041に進む。なお、正の変化速度の閾値を超える電位変化速度が存在しなければ(ステップS3036でno)、ステップS3010へ戻る。
ステップS3041において、切り出し部146は切り出し区間記憶部145に記憶された切り出し時間幅の定数に従って、切り出し区間を決定する。切り出し区間記憶部145には、瞬目候補部分の負の電位の開始時点よりさかのぼる時間幅として例えば、0.05秒、正の電位の終了時点より延長する時間幅として例えば、0.07秒が、記憶されている。切り出し部146は一連の瞬目部分候補部分の開始時点より0.05秒さかのぼった時点を切り出し区間の先頭とする。また、瞬目候補部分の終了時点より0.07秒延長した時点を切り出し区間の終端とする。
ステップS3042において、切り出し部146は、決定された切り出し区間に含まれる電位データを切り出す。
このように動作する眼電位補正システム100を含む3次元表示システム1は、以下の手順で3次元映像を表示し、3次元映像中のユーザの疲労度を判定する。
図6を参照して、画面制御部12は、コンテンツ情報蓄積部11に蓄積された、右眼用画像と左眼用画像とを含む3次元映像の情報を読み出す。画面制御部12は、右眼用画像と左眼用画像を交互に表示するように表示タイミングを制御する。表示画面13は、画面制御部12の制御に従って、右眼用画像と左眼用画像を交互に表示する。一方、制御信号送信部15は、画面制御部12が出力する右眼用画像と左眼用画像の表示タイミングの制御信号を3次元用メガネ20に送信する。3次元用メガネ20に含まれる制御信号受信部22は、3次元表示装置10の制御信号送信部15より送信された右眼用画像と左眼用画像の表示タイミングの制御信号を受信する。シャッタ制御部23は、制御信号受信部22で受信した表示タイミングの制御信号に基づき、3次元表示装置10に含まれる表示画面13が表示する画像に合わせて左右のシャッタ(図示せず)を開閉する。すなわち、表示画面13が右眼用画像を表示するときには、右眼のシャッタを開き、左眼のシャッタを閉じる。表示画面13が左眼用画像を表示するときには、左眼のシャッタを開き、右眼のシャッタを閉じる。これによりユーザは右眼では右眼用画像のみを見て、左眼では左眼用画像のみを見る。
なお、本実施の形態では3次元表示装置10の画面の左右の画像の表示切換えに同期して3次元用メガネ20のシャッタを開閉する方式の3次元表示の例を示したが、3次元表示の方法は、これ以外の方法でもよい。例えば、3次元表示装置10の制御信号送信部15と、3次元用メガネ20の制御信号受信部22およびシャッタ制御部23とが無い構成でもよい。この場合は、画面制御部12は、コンテンツ情報蓄積部11から右眼用画像と左眼用画像とを含む映像を取得し、表示画面の水平ライン1ラインごとに右眼用画像と左眼用画像とが互い違いに表示されるように映像を処理する。表示画面13は画面制御部12が処理した映像を出力する。表示画面13には、水平ライン1ラインごとに右眼用の偏光フィルタと左眼用の偏光フィルタが設置されている。したがって、右眼用画像は右眼用偏光フィルタを通して表示され、左眼用画像は左眼用偏光フィルタを通して表示される。3次元用メガネ20には右眼に右眼用偏光フィルタ、左眼に左眼用変更フィルタが設置されている。これにより右眼には右眼用の水平ラインによる画像、すなわち右眼用画像のみが見え、左眼には左眼用の水平ラインによる画像、すなわち左眼用画像のみが見える。
3次元映像の視聴開始または3次元用メガネ20の装着と同時に3次元用メガネ20の眼電位計測部120は眼電位の計測を開始する。眼電位計測部120は計測した眼電位の時系列データを送受信部21に出力し、送受信部21は眼電位の時系列データを3次元表示装置10に送信する。3次元表示装置10の送受信部16は眼電位の時系列データを受信し、補正処理部180に出力する。補正処理部180はステップS4000の補正処理を行う。補正処理部180は、補正により左右の眼で比較可能な状態になった眼電位データを疲労判定部14に出力する。疲労判定部14は眼球の輻輳開散運動による左右逆向きの眼球運動に起因する、左右の眼の逆相の電位の振幅を一定時間記録する。記録時間は例えば1分間である。疲労判定部14は、左右で逆相の電位振幅の左右の偏りが予め定められた値より大きくなった場合に疲労と判定する。例えば、視聴開始後10分間の偏りの平均から30%以上偏りが大きくなった場合に疲労と判定する。疲労判定部14はユーザの疲労度合いを画面制御部12に出力する。画面制御部12は疲労判定部14が出力するユーザの疲労状態の情報に基づき、表示映像の奥行の調整を行う。
以上のように、正中線に線対称に、斜めにユーザの眼を挟んで、左右の眼それぞれに設置した電極対において、左右の電極対で取得された瞬きの電位の左右の比を求め、左右の比を補正値として、左右の電極対で取得される眼電位を補正することにより、左右の電極のインピーダンスの違いにかかわらず、眼電位を比較することができる。これにより、ユーザにキャリブレーション用の指標を注視する動作を強要することなく、左右の眼電位のバランスを利用した眼精疲労の判定を行うことができる。さらに、皮膚状態の変化や、メガネのかけ直し等による電極の接触状態の変化に伴う電極のインピーダンスの変化に対しても、ユーザが瞬きを行うたびに逐次補正値を計算することで常に正しい補正値により左右の電極を補正することができる。これにより、インピーダンスの変化があっても常に左右の眼電位のバランスを利用した眼精疲労の判定を行うことができる。
なお、瞬目区間の検出は、これ以外の方法によってもよい。例えば、電位の変化率と、変化率の継続時間に閾値を設けて、一定範囲の変化率が一定以上続く区間を検出して切り出す方法や、閾値を越えた正負のピーク値を検出してその前後の一定の時間区間を切り出す方法等がある。
なお、実施の形態1では瞬目時の電位は、図1のようにまず負の大きな電位が起こり、続いて正の電位が起こるものとして説明したが、電位の符号は電極間の相対的なものであり、電極間の差を求める際の減算の方向によって変化する。符号が逆転した状態の電位データに対して、実施の形態1と符号を逆転させた動作によって補正値を求めるものとしてもよい。
(実施の形態1変形例1)
図15は実施の形態1の変形例1に係る眼電位補正システム200の構成を示すブロック図である。眼電位補正システム200は、眼電位生成装置の一例を示す。
図15では図6の送受信部16と送受信部21を省略し、眼電位計測部120および瞬目検出部140、ならびに眼電位計測部120および補正処理部180を直接接続しているが、図6と同様に送受信部を間に設けても良い。図15の眼電位補正システム200は、計時部210と補正値計算スケジュール記憶部220とが付け加わり、補正値計算部170の代わりに補正値計算部170Aを備える以外は図6の眼電位補正システム100と同様の構成である。図6と同様の構成については同じ符号を付し、説明を省略する。
眼電位補正システム200は、電極110と、眼電位計測部120と、瞬目検出部140と、閾値記憶部130と、計測値記憶部150と、瞬目電位抽出部160と、補正値計算部170Aと、補正処理部180と、計時部210と、補正値計算スケジュール記憶部220とを備える。
計時部210は経過時間を計測する。
補正値計算スケジュール記憶部220は、電極装着すなわち図6の3次元用メガネ20装着から、または、図6の3次元表示装置10による3次元映像の表示開始からの経過時間に基づいた、補正値を計算するスケジュールを記憶する。図16は補正値計算スケジュール記憶部220が記憶するデータの一例を示す。補正値計算スケジュール記憶部220は、補正値計算のタイミングを識別する補正値計算IDと、補正値計算IDに対応付けられた補正値計算を行うスケジュールとを記憶している。上記スケジュールは、視聴開始(3次元用メガネ20装着から、または、3次元表示装置10による3次元映像の表示開始)からの経過時間として示されている。図16の例では、補正値の計算は視聴開始直後では短い時間間隔(例えば3分ごと)で行われる。視聴開始からの経過時間に伴って、補正値を計算する間隔は、5分ごと、10分ごとと長くなる。例えば45分経過後以降は10分ごとに補正値の計算を行うものとしている。電極装着直後はインピーダンスが高く不安定であるので、補正値の計算を頻繁に行い、電極装着から時間が経過してから、約30分以上の時間が経過してからは補正値の計算の頻度を少なくする。つまり、電極ごとの電位の違いの原因である電極ごとの接触インピーダンスのばらつきに対して、インピーダンスの変動が大きい電極装着直後では補正値計算を頻繁に行う。電極装着後30分以上が過ぎ、インピーダンスの変動が小さいときには補正値の計算の頻度を少なくする。これにより眼電位の計測時のインピーダンスに則した補正値により眼電位を補正することができ、3次元表示システム1は精度の高い疲労判定を行うことができる。
図17は実施の形態1の変形例1に係る眼電位補正システム200の動作を示すフローチャートである。図17のステップS1000とステップS3000からステップS6000までは図11と同様である。図11と同様の部分には同一の符号を付し、適宜説明を省略する。実施の形態1の変形例1の眼電位補正システム200の動作を図15と図17に従って説明する。
まず図示しない入力手段あるいは入力部より開始信号が眼電位補正システム200に入力され、眼電位補正システム200は動作を開始する(ステップS1000)。補正値計算部170Aは補正値計算スケジュール記憶部220を参照し、計時部210で計測された視聴開始から現在までの経過時間が、補正値計算のタイミングであるか否かを判断する(ステップS2100)。ステップS2100において計時部210で計測された視聴開始から現在までの経過時間が、補正値計算スケジュールに記憶された補正値計算のタイミングであると判断された場合、すなわちステップS2100においてyesの場合はステップS3000に進む。ステップS2100において計時部210で計測された視聴開始から現在までの経過時間が補正値計算スケジュールに記憶された補正値計算のタイミングでないと判断された場合、すなわちステップS2100においてnoの場合はステップS2200に進む。ステップS2200では、補正値計算部170Aは現在の眼電位の補正に利用可能な補正値が計算済みであるか否かを判断する。ステップS2200において利用可能な補正値が計算されていないと判断された場合、すなわちステップS2200においてnoの場合は、ステップS2100に戻る。ステップS2200において利用可能な補正値が計算済みであると判断された場合、すなわちステップS2200においてyesの場合は、ステップS4000に進む。
ステップS3000において、補正値計算部170Aは補正値を計算し、補正処理部180に出力する(ステップS3000)。ステップS4000において、補正処理部180は眼電位計測部120で計測された眼電位のデータを補正値に従って補正して出力する(ステップS4000)。補正処理部180は図示しない入力手段あるいは入力部より終了信号が入力されたか否かを判断する(ステップS5000)。ステップS5000において終了信号の入力がある場合、すなわちステップS5000でyesの場合は、眼電位補正システム100は動作を終了する(ステップS6000)。ステップS5000において終了信号の入力がない場合、すなわちステップS5000でnoの場合は、ステップS2100へ戻る。
以上のように、眼電位補正システム200は、視聴開始後の経過時間を計測する計時部210と補正値計算スケジュール記憶部220とを備えている。これにより、各電極110のインピーダンスが時間とともに変化していくことに対して、予め定められたスケジュールに従って補正値を計算し直し、眼電位の計測時のインピーダンスに対応する補正値を計算する。これにより、インピーダンスの時間変化に関わらず、眼電位は正しく補正される。すなわち、実施の形態1の変形例1に係る眼電位補正システム200を含む3次元表示システムは、常に左右の眼電位のバランスを利用した眼精疲労の判定を行うことができる。
(実施の形態1の変形例2)
図18は実施の形態1の変形例2に係る眼電位補正システム300の構成を示すブロック図である。眼電位補正システム300は、眼電位生成装置の一例を示す。
図18では図6の送受信部16と送受信部21を省略し、眼電位計測部120および瞬目検出部140、ならびに眼電位計測部120および補正処理部180を直接接続しているが、図6と同様に送受信部を間に設けても良い。図18の眼電位補正システム300は、電極移動検出部310が付け加わり、補正値計算部170の代わりに補正値計算部170Bを備える以外は図6の眼電位補正システム100と同様の構成である。図6と同様の構成については同じ符号を付し、説明を省略する。
眼電位補正システム200は、電極110と、眼電位計測部120と、瞬目検出部140と、閾値記憶部130と、計測値記憶部150と、瞬目電位抽出部160と、補正値計算部170Bと、補正処理部180と、電極移動検出部310とを備える。
電極移動検出部310は、眼電位計測部120より出力される各電極の眼電位波形の急激な変動により、電極110のいずれか1つ以上が装着位置を移動したかあるいは皮膚との接触状態に変化があったことを検出する。
補正値計算部170Bは、電極移動検出部310で電極110の装着位置の移動または接触状態の変化が検出された場合に、補正値を計算しなおす。
図19は、実施の形態1の変形例2に係る眼電位補正システム300の動作を示すフローチャートである。図19のステップS1000とステップS3000からステップS6000までは図11および図17と同様である。図11および図17と同様の部分には同一の符号を付し、適宜説明を省略する。実施の形態1の変形例2に係る眼電位補正システム300の動作を図18と図19に従って説明する。
まず図示しない入力手段あるいは入力部より開始信号が眼電位補正システム300に入力され、眼電位補正システム300は動作を開始する(ステップS1000)。電極移動検出部310は眼電位計測部120で計測された電位データより、電極110のうち1つ以上の電極の接触状態が変化したか否かを判断する(ステップS2300)。ステップS2300において電極の接触状態の変化が検出された場合、すなわちステップS2300でyesの場合、ステップS2400に進む。ステップS2300において電極の接触状態の変化が検出されない場合、すなわちステップS2300でnoの場合は、ステップS2500に進む。ステップS2400では、電極移動検出部310は、計測値記憶部150に記憶されている、電極の接触状態の変化が検出される以前の瞬目区間の眼電位の計測値を消去する(ステップS2400)。ステップS2400の後、ステップS2500に進む。ステップS2500では、補正値計算部170Bは、直近の電極の接触状態の変化以降、すなわち、現在より以前で現在に最も近い時点で検出された電極の接触状態の変化以降に計算された補正値があるか否か判断する(ステップS2500)。ステップS2500において、直近の電極の接触状態の変化以降に計算された補正値が無いと判断された場合、すなわちステップS2500においてnoの場合は、ステップS2600に進む。ステップS2500において直近の電極の接触状態の変化以降に計算された補正値があると判断された場合、すなわちステップS2500においてyesの場合は、ステップS4000に進む。ステップS2600では、補正値計算部170Bは、計測値記憶部150に補正値計算に必要な数の瞬目区間の計測値が記憶されているか否か判断する(ステップS2600)。ステップS2600において、補正値計算に必要な数の瞬目区間の計測値が記憶されていると判断された場合、すなわちステップS2600においてyesの場合は、ステップS3000に進む。ステップS2600において補正値計算に必要な数の瞬目区間の計測値が記憶されていないと判断された場合、すなわちステップS2600においてnoの場合は、ステップS2300に戻る。
ステップS3000において補正値計算部170Bは補正値を計算し、補正処理部180に出力する(ステップS3000)。ステップS4000では補正処理部180は眼電位計測部120で計測された眼電位データを補正値に従って補正して出力する(ステップS4000)。補正処理部180は図示しない入力手段あるいは入力部より終了信号が入力されたか否かを判断する(ステップS5000)。ステップS5000において終了信号の入力がある場合、すなわちステップS5000でyesの場合は、眼電位補正システム100は動作を終了する(ステップS6000)。ステップS5000において終了信号の入力がない場合、すなわちステップS5000でnoの場合は、ステップS2100へ戻る。
なお、電極の接触状態の変化を検出する方法については、例えば、特許第4921621号公報のように総周波数のエネルギーの増大と、電源周波数のエネルギーの増大とを利用して接触状態の変化を検出する方法を用いる。また、瞬目検出に用いられる、正の電位に対する下限の閾値よりもさらに大きな第1閾値と、負の電位に対する上限の閾値よりもさらに小さい第2閾値とを用いて、正の電位が第1閾値よりも大きくなるか、または負の電位が第2閾値よりも小さくなった場合に、電極の接触状態が変化したと判断してもよい。
以上のように視聴開始後の電極の移動等による電極の接触状態の変化が検出された場合は、接触状態が変化した以降の瞬目における眼電位を用いて補正値を計算し直す。例えば、3次元用メガネ20のかけ直し等による接触状態の変化により起こる、各電極のインピーダンスの変化に対して、検出された接触状態の変化以降の瞬目、すなわちインピーダンスの変化以降の瞬目時の電位を用いて補正値を計算する。これにより、3次元用メガネ20のかけ直し等のユーザの3次元用メガネ20への操作によるインピーダンスの変化が起った場合であっても眼電位は正しく補正される。すなわち、実施の形態1の変形例2に係る眼電位補正システム300を含む3次元表示システムは、ユーザが3次元用メガネ20のかけ直し等を行っても常に左右の眼電位のバランスを利用した眼精疲労の判定を行うことができる。
なお、実施の形態1の変形例1の補正値計算スケジュール記憶部220の記憶内容を、視聴開始からの経過時間でなく、視聴開始または電極の接触状態の変化からの経過時間として、実施の形態1の変形例2と組み合わせることで、3次元用メガネ20のかけ直し等により接触状態大きく変動した後、インピーダンスが安定するまでのインピーダンスの時間変化に対しても常に正しい補正値を計算して眼電位を補正することができる。
(実施の形態2)
実施の形態2では、眼球が想定外の動きをした場合に、何らかのエラーが生じたと判断し、補正値を算出し直す例について説明する。なお、以下では、眼球が想定外の動きをしたか否かを判定するために、疲労度を用いる。ただし、眼球の想定外の動きを判定することができる指標であれば、疲労度以外の指標を用いても良い。例えば、視力検査を行う装置において想定外の眼球の動きが検出された場合に、補正値を算出しなおしても良い。
図20は、実施の形態2における眼電位補正システム400を利用した3次元表示システム2の構成図である。眼電位補正システム400は、眼電位生成装置の一例を示す。
図20は、補正値計算部170の代わりに補正値計算部170Cを備え、疲労判定部14と計測値記憶部150とが接続され、疲労判定部14と補正値計算部170Cとが接続された以外は図6と同様である。図6と同様の部分については同一の符号を付し、適宜説明を省略する。
3次元表示システム2は、3次元表示装置10Aと、3次元用メガネ20とを備える。眼電位補正システム400は、複数の電極110と、眼電位計測部120と、閾値記憶部130と、瞬目検出部140と、計測値記憶部150と、瞬目電位抽出部160と、補正値計算部170Cと、補正処理部180とを備える。眼電位補正システム400の眼電位計測部120と瞬目検出部140とは、送受信部21および送受信部16を経由して通信する。
<3次元用メガネ>
図20に示す3次元用メガネ20は、制御信号受信部22と、シャッタ制御部23と、電極110と、眼電位計測部120と、送受信部21とを備える。
<3次元表示装置>
図20に示す3次元表示装置10Aは、コンテンツ情報蓄積部11と、画面制御部12と、表示画面13と、疲労判定部14と、制御信号送信部15と、送受信部16と、閾値記憶部130と、瞬目検出部140と、計測値記憶部150と、瞬目電位抽出部160と、補正値計算部170Cと、補正処理部180とを備える。
疲労判定部14は、ユーザの眼球が想定外の動きをしているか否かを判定する異常判定部として動作する。つまり、疲労判定部14は、疲労度合いが急変したことが検出した場合に、ユーザの眼球が想定外の動きをしていると判定する。
補正値計算部170Cは、疲労判定部14において疲労度合いが急変したことが検出された場合、つまり眼球の想定外の動きが検出された場合に、補正値を計算しなおす。
<眼電位補正システム400の動作>
図21は本実施の形態の眼電位補正システム400の動作を示すフローチャートである。
図21のステップS1000とステップS3000からステップS6000までは図11および図19と同様である。図11および図19と同様の部分には同一の符号を付し、適宜説明を省略する。実施の形態2の眼電位補正システム400の動作を図20と図21に従って説明する。
まず図示しない入力手段あるいは入力部より開始信号が眼電位補正システム400に入力され、眼電位補正システム400は動作を開始する(ステップS1000)。3次元表示装置10Aの疲労判定部14は疲労度合いが急変しているか否かを判定する(ステップS2800)。つまり、疲労判定部14は、眼球が想定外の動きをしているか否かを判定する。
疲労度合いが急変している場合とは、過去一定時間(例えば10分)の疲労度合いの平均に対して50%以上の疲労度合いの変化があった場合とする。ステップS2800において疲労度合いの急変があったと判定された場合、すなわちステップS2800においてyesの場合には、ステップS2400に進む。ステップS2800において疲労度合いの急変が無かったと判定された場合、すなわちステップS2800においてnoの場合には、ステップS2500に進む。ステップS2400では、疲労判定部14は、計測値記憶部150に記憶されている眼電位の計測値のうち、疲労度合いの急変が検出される以前の瞬目区間の眼電位の計測値を消去する(ステップS2400)。ステップS2400の後、ステップS2700に進む。補正値計算部170Cは、直近の疲労度合いの急変以降、すなわち、現在より以前で現在に最も近い時点で検出された疲労度合いの急変以降に計算された補正値があるか否か判断する(ステップS2700)。ステップS2700において直近の疲労度合いの急変以降に計算された補正値が無いと判断された場合、すなわちステップS2700においてnoの場合は、ステップS2600に進む。ステップS2700において直近の疲労度合いの急変以降に計算された補正値があると判断された場合、すなわちステップS2700においてyesの場合は、ステップS4000に進む。ステップS2600では、補正値計算部170Cは、計測値記憶部150に補正値計算に必要な数の瞬目区間の計測値が記憶されているか否か判断する(ステップS2600)。ステップS2600において、補正値計算に必要な数の瞬目区間の計測値が記憶されていると判断された場合、すなわちステップS2600においてyesの場合は、ステップS3000に進む。ステップS2600において補正値計算に必要な数の瞬目区間の計測値が記憶されていないと判断された場合、すなわちステップS2600においてnoの場合は、ステップS2300に戻る。
ステップS3000において補正値計算部170Cは補正値を計算し、補正処理部180に出力する(ステップS3000)。ステップS4000では補正処理部180は眼電位計測部120で計測された眼電位データを補正値に従って補正して出力する(ステップS4000)。補正処理部180は図示しない入力手段あるいは入力部より終了信号が入力されたか否かを判断する(ステップS5000)。ステップS5000において終了信号の入力がある場合、すなわちステップS5000でyesの場合は、眼電位補正システム400は動作を終了する(ステップS6000)。ステップS5000において終了信号の入力がない場合、すなわちステップS5000でnoの場合は、ステップS2100へ戻る。
以上の構成により、眼電位計測部120で計測され、補正処理部180で補正された眼電位に基づき疲労判定部14がユーザの疲労を検出して表示を変更する3次元表示システム2において、疲労判定部14が疲労度合いの急変を検出し、疲労度合いの急変以降で計測された瞬目時の眼電位を用いて補正値を計算する。急激な電極の接触インピーダンスの変化によって起こる、見かけの疲労度合いの急変では表示変更を行わず、補正値を計算する。これにより、急激な電極の接触インピーダンスの変化によって起こる見かけの疲労度合いの変化に対して表示変更を行うことなく、正しい補正値を計算して、使用することで常に正しい疲労度合いを計算することができ、正しい疲労判定を行うことができる。
なお、疲労度合いの急変は、眼球の想定外の動きを意味している。このため、眼電位補正システム400によると、眼球の想定外の動きが生じた場合に、補正値を再計算することができる。これにより、眼球の想定外の動きが生じた場合であっても、正しい眼電位を計算することができる。
(実施の形態3)
瞬目時の眼電位は垂直方向に大きな値を示す。図7Aのようにユーザの頭部の正中軸とそれに直行する水平の軸に対して斜めに電極を装着して、瞬目時の眼電位によって補正値を求める場合、図4の例で示したように、水平方向の眼球運動が混入した電位は補正値の計算には適さない。眼球が極端に右あるいは左に片寄った位置にあると、瞬目と同時に眼球が正面の位置に戻る、すなわち右あるいは左に片寄った位置から水平方向に移動する場合がある。眼球は、遠方を見る場合には比較的正面向きにあるが、近い位置を見る場合には輻輳、すなわち寄り目の状態にあり、各眼球は水平方向に目頭側に片寄った位置にある。そこで、実施の形態3では、3次元映像の奥行情報を利用して、ユーザの眼球が輻輳の状態になっている可能性がある画像を提示している時間に記録された瞬目時の眼電位は、補正値の計算に用いないようにすることで、補正値の精度を高める。逆に言えば、ユーザの眼球が輻輳の状態になっている可能性がある画像を提示している時間以外に記録された瞬目時の眼電位を用いて、補正値を計算することで、補正値の精度を高める。
図22は、実施の形態3における眼電位補正システム500を利用した3次元表示システム3の構成図である。眼電位補正システム500は、眼電位生成装置の一例を示す。
図22は、瞬目検出部140およびコンテンツ情報蓄積部11の代わりに、瞬目検出部140Aおよびコンテンツ情報蓄積部19をそれぞれ備え、瞬目推定部510が付け加わった以外は図6と同様である。図6と同様の部分については同一の符号を付し、適宜説明を省略する。
3次元表示システム3は、3次元表示装置10Bと、3次元用メガネ20とを備える。眼電位補正システム500は、複数の電極110と、眼電位計測部120と、閾値記憶部130と、瞬目検出部140Aと、計測値記憶部150と、瞬目電位抽出部160と、補正値計算部170と、補正処理部180と、瞬目推定部510とを備える。眼電位補正システム500の眼電位計測部120と瞬目検出部140Aとは、送受信部21および送受信部16を経由して通信する。
瞬目推定部510は、コンテンツ情報蓄積部19に記憶されたコンテンツ情報のうち、時間情報と奥行情報とから、左右の眼球の動きに偏りの無い補正値計算に適した瞬目が起こることが推定される時間区間を特定する。つまり、瞬目推定部510で特定される時間区間とは、眼球の水平方向の動きが所定量より少ない時間区間である。
瞬目検出部140Aは、瞬目検出部140と同様にして瞬目区間の切り出しを行う。ただし、瞬目推定部510において特定された時間区間の中から瞬目区間を切り出す。
<3次元用メガネ>
図22に示す3次元用メガネ20は、制御信号受信部22と、シャッタ制御部23と、電極110と、眼電位計測部120と、送受信部21とを備える。
<3次元表示装置>
図22に示す3次元表示装置10Bは、コンテンツ情報蓄積部19と、画面制御部12と、表示画面13と、疲労判定部14と、制御信号送信部15と、送受信部16と、閾値記憶部130と、瞬目検出部140Aと、計測値記憶部150と、瞬目電位抽出部160と、補正値計算部170と、補正処理部180と、瞬目推定部510とを備える。
図23はコンテンツ情報蓄積部19に記憶されたコンテンツ情報の一例を示す。コンテンツ情報蓄積部19は少なくとも、コンテンツの時間情報と、左右の画像情報と、奥行情報とを蓄積する。図23の例では、コンテンツ情報蓄積部19は、さらに、各画像の平均輝度と、シーンIDとを蓄積している。また、奥行情報は、画像中の主たるオブジェクトの奥行を蓄積するため、オブジェクトIDと、オブジェクトごとの奥行情報とを含む。なお、奥行情報の蓄積の仕方については図23の例以外に、画面全体の奥行の平均、最大値もしくは最小値、画面を分割した領域毎の奥行の平均、最大値もしくは最小値などの方法がある。
<眼電位補正システム500の動作>
眼電位補正システム500の動作の概要は実施の形態1の図11と同様である。
図24は、実施の形態3の眼電位補正システム500の動作の一部を示すフローチャートである。図24はステップS3110が付け加わった以外は図12と同様である。図12と同一の動作については同一の符号を付し、適宜説明を省略する。
図22と図24に従って図11のステップS3000の動作の詳細を説明する。
眼電位計測部120は、電極110からユーザの眼電位を取得する(ステップS3010)。眼電位計測部120は、ステップS3010で取得された電位を増幅し、アナログデジタル変換によってデジタイズする(ステップS3020)。瞬目検出部140Aは、ステップS3010で眼電位が取得された時間が、瞬目推定部510が出力する補正値計算に適した瞬目が起こると推定される時間区間内であるか否かを判定する(ステップS3110)。瞬目推定部510はコンテンツ情報蓄積部19に蓄積された奥行情報に基づいて補正値計算に適した瞬目が起こると推定される時間区間を決定する。瞬目推定部510は補正値計算に適した瞬目が起こると推定される時間区間の決定を、その時間区間の画像が表示される以前に行う。表示以前であればいつでも良い。瞬目推定部510が補正値計算に適した瞬目が起こると推定される時間区間を決定する方法については後述する。ステップS3110において、眼電位が取得された時間が、補正値計算に適した瞬目が起こると推定される時間区間内であると判定された場合、すなわちステップS3110においてyesの場合、ステップS3030に進む。ステップS3110において、眼電位が取得された時間が、補正値計算に適した瞬目が起こると推定される時間区間外であると判定された場合、すなわちステップS3110においてnoの場合、ステップS3010に戻る。ステップS3030では、瞬目検出部140Aは、ステップS3020でデジタイズされた各電極の電位から、閾値記憶部130に記憶された閾値に従って、瞬目区間と当該瞬目区間の電位の時系列データを検出する(ステップS3030)。ステップS3030で瞬目区間が検出された場合、すなわち、ステップS3030においてyesの場合はステップS3040へ進む。ステップS3030で瞬目区間が検出されない場合、すなわち、ステップS3030においてnoの場合はステップS3010へ戻る。ステップS3040では、瞬目検出部140Aが、眼電位計測部120で計測された電位の時系列データから、ステップS3030で検出された瞬目区間の電位の時系列データを切り出す(ステップS3040)。瞬目検出部140Aは、ステップS3040で切り出された瞬目区間の眼電位データを時間情報と供に計測値記憶部150に記憶する(ステップS3050)。瞬目電位抽出部160は、計測値記憶部150に記憶された電位データが属する瞬目区間が補正値計算に必要な数以上あるか否かを判断する(ステップS3060)。瞬目区間の必要数は例えば10個である。ステップS3060で計測値記憶部150に必要数以上の瞬目区間の電位データが記憶されていると判断された場合、すなわちステップS3060でyesの場合は、ステップS3070へ進む。ステップS3060で計測値記憶部150に必要数以上の瞬目区間の電位データが記憶されていないと判断された場合、すなわちステップS3060でnoの場合は、ステップS3010へ戻る。瞬目電位抽出部160は、最新10個の瞬目区間のうち、異常値を含まない瞬目区間の電位データを補正値計算用に抽出する(ステップS3070)。補正値計算部170は、ステップS3070で抽出された複数個の瞬目区間の電位データより、左右の眼電位を補正する補正値を計算する(ステップS3080)。
<瞬目推定部の構成と動作>
図25は実施の形態3における眼電位補正システム500の瞬目推定部510の詳細な構成を示すブロック図である。瞬目推定部510は、奥行情報抽出部511と、最小奥行抽出部512と、適合奥行記憶部513と適合判定部514と、適合区間記憶部515とを備える。
奥行情報抽出部511は、コンテンツ情報蓄積部19に蓄積されている情報のうち時間情報と、時間に対応するオブジェクトの奥行情報とを抽出する。
最小奥行抽出部512は、ある時間に対応する1つ以上のオブジェクトの奥行情報の中から奥行の最小値を求める。
適合奥行記憶部513は、補正値の計算に適合する瞬目が起こると推定される奥行の最小値、すなわち閾値を記憶している。
適合判定部514は、時間ごとに、最小奥行抽出部512で抽出された奥行の最小値を適合奥行記憶部513に記憶された閾値と比較し、当該時間の画像が補正値を計算するのに用いる瞬目時の電位データを取得するのに適した画像であるかどうかを判定する。
適合区間記憶部515は、適合判定部514の判定結果をコンテンツの時間情報と対応させて記憶する。図26は適合区間記憶部515が記憶する情報の一例を示す。コンテンツ内の時間情報に対応して補正値の計算に適合するか不適合であるかの情報が記憶されている。
図27は実施の形態3における眼電位補正システム500の動作の一部を示したフローチャートである。
図25と図27に従って、瞬目推定部510の動作の一例を説明する。
奥行情報抽出部511は、コンテンツ情報蓄積部19から、コンテンツの時間情報と、その時間に対応するオブジェクトごとに蓄積された奥行情報とを抽出して取得する(ステップS7010)。この時間情報は、例えば動画の1フレームに対応する。ここでは1フレームごとに処理をするものとして説明する。なお、処理は複数フレーム、一定時間幅等、他の単位で行われても良い。最小奥行抽出部512は、ステップS7010で抽出したフレームに含まれるオブジェクトの奥行のうち、最小の値を抽出する(ステップS7020)。図23の例では時間00:28:31.032には、オブジェクトID19、20、21のオブジェクトが対応している。オブジェクトID19のオブジェクトとオブジェクトID20のオブジェクトは、奥行が700cmを超えている。これに対してオブジェクトID21のオブジェクトは奥行が540cmである。このため、奥行の最小値は540cmとなる。適合判定部514はステップS7020で抽出された最小値と適合奥行記憶部513が記憶する閾値とを比較する(ステップS7030)。適合奥行記憶部が記憶する閾値は例えば300cmである。ステップS7030において、ステップS7020で抽出した最小値が閾値未満である場合、ここでは300cm未満である場合、すなわちステップS7030でyesの場合は、ステップS7050へ進む。ステップS7030において、ステップS7020で抽出した最小値が閾値(ここでは300cm)以上である場合、すなわちステップS7030でnoの場合は、ステップS7040へ進む。ステップS7040では、適合判定部514は当該フレームを適合区間とする(ステップS7040)。ステップS7050では、適合判定部514は当該フレームを不適合区間とする(ステップS7050)。適合判定部514は、ステップS7040およびステップS7050で判定した結果を当該フレームの時間情報とともに適合区間記憶部515に書き込む(ステップS7060)。ステップS7060の終了後、ステップS7010へ戻る。瞬目推定部510は少なくとも1つのコンテンツの全フレームに対してステップS7010からステップS7060を実行して、図26のような適合区間の情報を生成する。
上記のように、コンテンツ情報の奥行情報を利用して、補正値を求めるのに適した瞬目が起こることが推定される時間区間を決定し、適合した時間区間で記録された瞬目時の眼電位のみを用いて補正値を決定することで、より精度の高い補正値を設定することができる。
なお、実施の形態3では瞬目推定部510はコンテンツ情報蓄積部19より情報を取得したが、図28の眼電位補正システム600の瞬目推定部610のように、画面制御部12から情報を取得するものとしても良い。眼電位補正システム600は、眼電位生成装置の一例を示す。
図28の例では、画面制御部12より画像の奥行情報を取得することで、コンテンツに付属する時間ではなく、コンテンツの表示時間ごとに適合区間を判断することができる。これにより、早送りや巻き戻し等の処理により視聴経過時間とコンテンツの時間とが一致しない場合であっても補正値計算に適した時間区間で取得された瞬目時の眼電位を用いて補正値を計算することができる。
なお、実施の形態3では瞬目推定部510はコンテンツ情報のうち時間情報と奥行情報のみを用い、コンテンツの時間を補正値計算に適合した時間区間とそれ以外の時間区間とに分割したが、さらにコンテンツ情報蓄積部19が蓄積する他の情報を用いて、補正値計算に適合した時間区間と、補正値計算に不適合な時間区間と、再補正により適した時間区間とに分割しても良い。例えば、輝度情報を用いる場合には、瞬目推定部510は、輝度の変化量が予め定められた閾値以上である場合、輝度変化直後に瞬目が起こりやすいことを利用して、再補正により適した時間区間と判定する。シーンIDを用いる場合には、瞬目推定部510は、シーンの切り替わりにより、瞬目がおこりやすいことを利用して、シーンの変化直後を再補正により適した時間区間と判定する。また、奥行情報を利用する際にも、瞬目推定部510は、オブジェクトの奥行の急峻な変動の直後は瞬目が起こりやすいことを利用して、奥行きの急峻な変動の直後を、再補正により適した時間区間と判定する。
なお、図23ではコンテンツ情報蓄積部19は、時間情報、左右の画像、平均輝度、シーンID、オブジェクトID、奥行を蓄積しているが、これ以外の情報を蓄積しても良い。例えば、オブジェクトの3次元位置が蓄積されている場合、瞬目推定部510は、オブジェクトの奥行のみでなく、3次元的位置の分布に基づいて補正値計算に適合した時間区間と、補正値計算に不適合な時間区間を決定しても良い。例えば、オブジェクトの奥行の値が十分に大きい場合であってもオブジェクトが画面の右または左の端によっているような場合には、ユーザが右側または左側を注視している可能性があり、瞬目時に眼球の水平運動が起こる可能性がある。このような場合を回避するため、適合奥行記憶部513は、オブジェクトの3次元位置の分布に対して適合と不適合の判定閾値をもつものとしても良い。
なお、実施の形態3において瞬目推定部510(610)が補正値計算に適合するフレームと不適合のフレームとを判定したが、コンテンツ情報蓄積部19が、予め補正値計算に対する適合フレームおよび不適合フレームの情報を蓄積していてもよい。この場合は、瞬目検出部140Aは、コンテンツ情報蓄積部19または画面制御部12から各表示フレームが補正値計算に適合するか不適合であるかの情報を取得し、補正値計算に適合するフレームに対応する時間に取得された電位から瞬目を検出する。
(実施の形態3の変形例)
実施の形態3では、3次元映像の奥行情報を利用して、ユーザの眼球が輻輳の状態になっている可能性がある画像を提示している時間に記録された瞬目区間の電位は、補正値の計算に用いないようにすることで、補正値の精度を高めるものであった。これに対し、本変形例では3次元映像中のオブジェクトの移動速度を利用して、ユーザの眼球が大きく動き、眼球運動による電位が瞬目時の電位に重なる可能性がある画像を提示している時間に記録された瞬目区間の電位は、補正値の計算に用いないようにすることで、補正値の精度を高めるもの。
本変形例における眼電位補正システムの構成は、実施の形態3の眼電位補正システム500と瞬目推定部510の詳細構成が異なるのみである。実施の形態3と同様の部分については説明を省略する。
図29Aは、コンテンツ情報蓄積部19に記憶されたコンテンツ情報の一例を示す。コンテンツ情報蓄積部19は、少なくとも、コンテンツの時間情報と、左右の画像情報と、オブジェクトIDと、オブジェクトごとの3次元座標位置とを蓄積する。3次元座標位置は、例えば、視聴者に知覚されるはずの空間位置座標としてx、y、zの3軸の座標として記憶される。
図29Bは、3次元座標位置の座標軸の一例を示す。図29Bの例では、ディスプレイの水平方向をx軸、垂直方向をy軸、ディスプレイの平面に直行する奥行方向をz軸としている。x軸は右側を正、左側を負とし、y軸は上を正、下を負としている。z軸は視聴者に近づく方向を負とし、視聴者から離れる方向を正とする。原点は画面平面上の中心に位置する。
<眼電位補正システム500の動作>
眼電位補正システム500の動作の概要は図24に示す実施の形態3と同様である。
眼電位計測部120は、電極110からユーザの眼電位を取得する(ステップS3010)。眼電位計測部120は、ステップS3010で取得された電位を増幅し、アナログデジタル変換によってデジタイズする(ステップS3020)。瞬目検出部140Aは、ステップS3010で眼電位が取得された時間が、瞬目推定部510が出力する補正値計算に適した瞬目が起こると推定される時間区間内であるか否かを判定する(ステップS3110)。瞬目推定部510はコンテンツ情報蓄積部19に蓄積された時間情報とオブジェクトごとの3次元座標位置情報より計算された、オブジェクトの移動速度に基づいて、補正値計算に適した瞬目が起こると推定される時間区間を決定する。瞬目推定部510は補正値計算に適した瞬目が起こると推定される時間区間の決定を、その時間区間の画像が表示される以前に行う。表示以前であればいつでも良い。瞬目推定部510が補正値計算に適した瞬目が起こると推定される時間区間を決定する方法については後述する。ステップS3110において、眼電位が取得された時間が、補正値計算に適した瞬目が起こると推定される時間区間内であると判定された場合、すなわちステップS3110においてyesの場合、ステップS3030に進む。ステップS3110において、眼電位が取得された時間が、補正値計算に適した瞬目が起こると推定される時間区間外であると判定された場合、すなわちステップS3110においてnoの場合、ステップS3010に戻る。ステップS3030では、瞬目検出部140Aは、ステップS3020でデジタイズされた各電極の電位から、閾値記憶部130に記憶された閾値に従って瞬目区間と当該瞬目区間の電位の時系列データを検出する(ステップS3030)。ステップS3030で瞬目区間が検出された場合、すなわち、ステップS3030においてyesの場合はステップS3040へ進む。ステップS3030で瞬目区間が検出されない場合、すなわち、ステップS3030においてnoの場合はステップS3010へ戻る。ステップS3040では、瞬目検出部140Aが、眼電位計測部120で計測された電位の時系列データから、ステップS3030で検出された瞬目区間の電位の時系列データを切り出す(ステップS3040)。瞬目検出部140Aは、ステップS3040で切り出された瞬目区間の眼電位データを時間情報と供に計測値記憶部150に記憶する(ステップS3050)。瞬目電位抽出部160は、計測値記憶部150に記憶された電位データが属する瞬目区間が補正値計算に必要な数以上あるか否かを判断する(ステップS3060)。瞬目区間の必要数は例えば10個である。ステップS3060で計測値記憶部150に必要数以上の瞬目区間の電位データが記憶されていると判断された場合、すなわちステップS3060でyesの場合は、ステップS3070へ進む。ステップS3060で計測値記憶部150に必要数以上の瞬目区間の電位データが記憶されていないと判断された場合、すなわちステップS3060でnoの場合は、ステップS3010へ戻る。瞬目電位抽出部160は、最新10個の瞬目区間のうち、異常値を含まない瞬目区間の電位データを補正値計算用に抽出する(ステップS3070)。補正値計算部170は、ステップS3070で抽出された複数個の瞬目区間の電位データより、左右の眼電位を補正する補正値を計算する(ステップS3080)。
<瞬目推定部の構成と動作>
図30は実施の形態3の変形例における眼電位補正システム500の瞬目推定部510の詳細な構成を示すブロック図である。瞬目推定部510は、オブジェクト移動抽出部811と、移動速度計算部812と、適合移動速度記憶部813と、適合判定部514と、適合区間記憶部515とを備える。
オブジェクト移動抽出部811は、コンテンツ情報蓄積部19に蓄積されている情報のうち、時間情報と、時間に対応する各オブジェクトの座標位置情報とを抽出する。
移動速度計算部812は、あらかじめ定められた時間区間において、各オブジェクトの座標空間上の移動距離を求め、時間区間の時間長で割ることで、当該時間区間の平均移動速度を計算する。
適合移動速度記憶部813は、時間区間のオブジェクトの移動速度が、補正値の計算に適合する瞬目が起こると推定される範囲を記憶している。
適合判定部514は、時間ごとに、移動速度計算部812で計算された各オブジェクトの移動速度を適合移動速度記憶部813に記憶された範囲と比較し、当該時間の画像が補正値を計算するのに用いる瞬目時の電位データを取得するのに適した画像であるかどうかを判定する。
適合区間記憶部515は、適合判定部514の判定結果をコンテンツの時間情報と対応させて記憶する。
図31は実施の形態3の変形例における眼電位補正システム500の動作の一部を示したフローチャートである。
図30と図31に従って、瞬目推定部510の動作の一例を説明する。
オブジェクト移動抽出部811は、コンテンツ情報蓄積部19から、コンテンツの時間情報と、その時間に対応するオブジェクトごとに蓄積された3次元座標位置情報と、シーンIDとを抽出して取得する(ステップS8010)。さらに、オブジェクト移動抽出部811は、あらかじめ定められた時間長あるいはフレーム数、例えば1秒間または60フレーム等の時間区間とその時間区間に対応する各オブジェクトの座標位置情報を切り出す(ステップS8020)。移動速度計算部812はステップS8020で切り出された時間区間中でシーンIDの切り替わり、すなわちシーンチェンジを探す(ステップS8030)。ステップS8030においてシーンIDの切り替わりがある場合(ステップS8030においてyes)はステップS8020へ戻る。ステップS8030においてシーンIDの切り替わりがない場合(ステップS8030においてno)は、移動速度計算部812は各オブジェクトの区間内の移動速度を計算する(ステップS8040)。計算方法は例えば、オブジェクトごとに、切り出し区間内のフレームについて隣り合うフレームの座標位置の間の距離を求め、この距離を切り出し区間の時間長で除することで、切り出し区間内の平均移動速度を計算する。すなわちオブジェクトの平均移動速度は以下の式1で求められる。
Figure 2014124308
ただし(x,y,z)は切り出し区間内のフレームiにおけるオブジェクトの座標位置とし、iは切り出し区間先頭を0としてあらかじめ定められたn個のフレーム例えば60フレームまでの時系列をあらわすものとする。Tはあらかじめ定められたn個のフレームからなる切り出し区間の時間長、例えば1秒を示す。
適合判定部514は、ステップS8040で計算された各オブジェクトの平均移動速度と、適合移動速度記憶部813が記憶する適合移動速度の範囲とを比較する(ステップS8050)。適合移動速度記憶部813が記憶する適合移動速度の範囲は、例えば、毎秒60cm未満である。ステップS8040で計算された各オブジェクトの平均移動速度が、すべてのオブジェクトについて適合移動速度の範囲内である場合、ここではすべてのオブジェクトの移動速度が毎秒60cm未満である場合、すなわちステップS8050においてyesの場合は、ステップS7040へ進む。ステップS8050において、ステップS8040で計算された各オブジェクトの平均移動速度のうち、1つでも適合移動速度の範囲外である場合、ここではオブジェクトのうち1つでも平均移動速度が毎秒60cm以上であった場合、すなわちステップS8050においてnoの場合は、ステップS7050へ進む。ステップS7040では、適合判定部514は当該切り出し区間を適合区間とする(ステップS7040)。ステップS7050では適合判定部514は当該切り出し区間を不適合区間とする(ステップS7050)。適合判定部514は、ステップS7040およびステップS7050で判定した結果を当該切り出し区間に含まれるフレームの時間情報とともに適合区間記憶部515に書き込む(ステップS7060)。ステップS7060の終了後、ステップS8010へ戻る。瞬目推定部510は少なくとも1つのコンテンツの全フレームに対してステップS8010からステップS7060を実行して、図26のような適合区間の情報を生成する。
なお、本変形例では適合移動速度記憶部813は、適合範囲を1種類、すなわち毎秒60cm未満、を記憶していた。これに対して、オブジェクトの奥行きによって複数種類の適合範囲を記憶するものとしても良い。例えば、切り出し区間の平均奥行きが−100cm未満のオブジェクトに対しては、毎秒30cm未満、切り出し区間の平均奥行きが−100cm以上100cm未満のオブジェクトに対しては、毎秒60cm未満、切り出し区間の平均奥行きが100cm以上のオブジェクトに対しては、毎秒90cm未満とする。このように、奥行きの小さいオブジェクトの適合移動速度の範囲はより小さい移動速度とし、奥行きの大きいオブジェクトの適合移動速度の範囲はより大きい移動速度とする。適合判定部514は、個々のオブジェクトについて、オブジェクトの奥行きに応じた適合移動速度の範囲と比較して、適合区間の判定を行うとしても良い。
また、本変形例ではコンテンツ情報蓄積部19は3次元座標位置情報を記憶し、移動速度計算部812は3次元座標空間上でのオブジェクトの移動速度を計算した。これに対して、移動速度計算部812は移動速度として、標準位置で視聴する標準視聴者の眼球運動の角速度を求めるものとしても良い。標準位置は例えば、画面平面からの眼球の距離が、画面の垂直方向の長さの3倍であり、視聴者左右の眼球間の中央が図29Bのz軸上にある状態である。また、標準視聴者は例えば、左右の瞳孔間距離が6.5cmであり、眼球は直径2.3cmの球であり、眼球の回転中心は球の中心である。このような場合、適合移動速度記憶部813は眼球の回転運動の角速度の範囲として適合範囲を記憶している。適合判定部514は、眼球の回転運動の角速度に基づいて、処理単位の切り出し区間が、補正値の計算に適合する瞬目が起こることが予測される区間であるか、補正値の計算に不適合な瞬目が起こることが予測される区間であるかを判定する。
また、本変形例では、瞬目推定部510は、コンテンツ情報のうち時間情報とオブジェクトの3次元座標位置情報を用いて各オブジェクトの移動速度に基づき、コンテンツの時間を、補正値計算に適合する時間区間とそれ以外の時間区間とに分割した。これに対して、瞬目推定部510は、3次元座標位置のうち、水平方向の移動速度のみを用いて補正値計算に適合する適合区間の情報を生成するとしても良い。この場合、ステップS8040において、移動速度計算部812は、3次元空間での移動距離を求めるのでなく、図29Bのx軸上の移動距離を求める。適合移動速度記憶部813は水平方向の移動についての適合範囲を記憶する。多くのコンテンツにおいては、オブジェクトは水平方向に大きく動き、視聴者は水平方向に眼球を動かしてオブジェクトを追随する。また、垂直方向の動きに対しては左右の眼球運動の量は等価であり、眼球運動による電位も左右で等価であるが、水平方向の眼球運動量はオブジェクトの3次元座標位置によって左右で異なる。このため、眼球運動による電位も左右で異なる。したがって、垂直方向の眼球運動による電位は瞬目時の電位に重畳されても補正値に影響しないが、水平方向の眼球運動は補正値に影響する可能性が高い。オブジェクトの水平方向の移動速度に基づき補正値計算に適合する時間区間を決定することで、補正値の精度を上げることができる。
なお、本変形例では3次元コンテンツについて説明したが、2次元表示のコンテンツについても同様に適用することができる。
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態の各装置などを実現するソフトウェアは、次のようなプログラムである。
すなわち、このプログラムは、コンピュータに、左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とが交差するように、ユーザの頭部に装着して使用されるビューワーに配置された各電極の電位を取得させ、前記ユーザが瞬目を行った時間区間である瞬目区間を検出させ、前記瞬目区間における、前記ユーザの左眼側に配置された電極間の電位差である左眼電位と、前記ユーザの右眼側に配置された電極間の電位差である右眼電位との比を用いて、電位の補正値を計算させ、前記補正値を用いて、左眼電位または右眼電位を補正させる。
上述した瞬目検出部は、眼電位から瞬目区間を検出することとしたが、瞬目区間の検出方法はこれに限定されるものではない。例えば、カメラによりユーザの顔を撮影し、画像処理によりユーザが瞬きをしているタイミングを検出することにより、瞬目区間を検出するようにしてもよい。
図32は、本発明に必須の構成要素を備える眼電位生成装置の一例である眼電位補正システムの構成を示す。眼電位補正システムは、電位取得部125と、瞬目検出部140と、補正値計算部170と、補正処理部180とを備える。瞬目検出部140、補正値計算部170および補正処理部180については上述したとおりである。電位取得部125は、複数の電極110の電位を取得する。つまり、電位取得部125は、左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とが交差するように、ユーザの頭部に装着して使用されるビューワーに配置された各電極の電位を取得する。上述の実施の形態によれば、電位取得部125は、例えば、眼電位計測部120と、送受信部21と、送受信部16により構成されてもよい。
以上、一つまたは複数の態様に係る眼電位補正システムについて、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本発明の一態様の範囲内に含まれてもよい。
本発明にかかる眼電位補正システムは、3次元表示メガネおよびヘッドマウントディスプレイを用いて立体映像を視聴する映像表示システムに広く利用可能であり、映画館のスクリーン、テレビ、コンピュータの表示画面等で立体視用映像を表示する際に有用である。また、コンテンツ視聴のみでなく、画像診断装置や内視鏡等の医療機器の画像表示装置や、手術や乗り物のシミュレーションゲームや、教育訓練用のシステム等の用途に応用できる。
1、2、3 3次元表示システム
10、10A、10B 3次元表示装置
11、19 コンテンツ情報蓄積部
12 画面制御部
13 表示画面
14 疲労判定部
15 制御信号送信部
16、21 送受信部
20 3次元用メガネ
22 制御信号受信部
23 シャッタ制御部
100、200、300、400、500、600 眼電位補正システム
110、110a、110b、110c、110d、110E、110R 電極
120 眼電位計測部
125 眼電位取得部
130 閾値記憶部
140、140A 瞬目検出部
141 負電位検出部
142 負電位変化速度判定部
143 正電位検出部
144 正電位変化速度判定部
145 切り出し区間記憶部
146 切り出し部
150 計測値記憶部
160 瞬目電位抽出部
170、170A、170B、170C 補正値計算部
180 補正処理部
210 計時部
220 補正値計算スケジュール記憶部
310 電極移動検出部
510、610 瞬目推定部
511 奥行情報抽出部
512 最小奥行抽出部
513 適合奥行記憶部
514 適合判定部
515 適合区間記憶部
811 オブジェクト移動抽出部
812 移動速度計算部
813 適合移動速度記憶部

Claims (17)

  1. 左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とが交差するように、ユーザの頭部に装着して使用されるビューワーに配置された各電極の電位を取得する電位取得部と、
    前記ユーザが瞬目を行った時間区間である瞬目区間を検出する瞬目検出部と、
    前記瞬目区間における、前記ユーザの左眼側に配置された電極間の電位差である左眼電位と、前記ユーザの右眼側に配置された電極間の電位差である右眼電位との比を用いて、電位の補正値を計算する補正値計算部と、
    前記補正値計算部が計算した前記補正値を用いて、前記電位取得部が取得した電位から算出される左眼電位または右眼電位を補正する補正処理部と
    を備える眼電位生成装置。
  2. 前記瞬目検出部は、前記ビューワーに配置された少なくとも1つの電極の電位および当該電位の変化速度を閾値処理することにより、前記瞬目区間を検出する
    請求項1記載の眼電位生成装置。
  3. 前記補正値計算部は、複数の瞬目区間の各々について、前記左眼電位および前記右眼電位のピーク値の比を算出し、前記複数の瞬目区間の前記ピーク値の比の平均値を、前記補正値として計算する
    請求項1記載の眼電位生成装置。
  4. さらに、
    電極ごとの電位変化から、当該電極の移動を検出する電極移動検出部を備え、
    前記補正値計算部は、前記電極移動検出部が前記電極の移動を検出した場合に、前記電極の移動より後の瞬目区間における前記左眼電位および前記右眼電位の比を用いて、前記補正値を再計算し、
    前記補正処理部は、再計算された補正値を用いて、前記電位取得部が取得した前記左眼電位または前記右眼電位を補正する
    請求項1に記載の眼電位生成装置。
  5. さらに、
    電極ごとの電位変化から、前記ユーザの眼球が想定外の動きをしているか否かを判定する異常判定部を備え、
    前記補正値計算部は、前記異常判定部が前記ユーザの眼球が想定外の動きをしていると判定した場合に、前記電極の移動より後の瞬目区間における前記左眼電位および前記右眼電位の比を用いて、前記補正値を再計算し、
    前記補正処理部は、再計算された補正値を用いて、前記電位取得部が取得した前記左眼電位または前記右眼電位を補正する
    請求項1に記載の眼電位生成装置。
  6. さらに、
    前記ユーザが視聴する映像コンテンツに含まれるオブジェクトの表示位置情報に基づいて、瞬目時の眼球の水平方向の動きが所定量より少ない時間区間を推定する瞬目推定部を備え、
    前記補正値計算部は、前記瞬目推定部により瞬目時に眼球の水平方向の動きが所定量より少ないと推定された時間区間内の瞬目区間における前記左眼電位および前記右眼電位の比を用いて、前記補正値を計算する
    請求項1に記載の眼電位生成装置。
  7. さらに、
    前記映像コンテンツに含まれる前記オブジェクトの表示位置情報を蓄積しているコンテンツ情報蓄積部を備え、
    前記瞬目推定部は、前記コンテンツ情報蓄積部に蓄積されている前記表示位置情報に基づいて、瞬目時の眼球の水平方向の動きが所定量より少ない時間区間を推定する
    請求項6に記載の眼電位生成装置。
  8. さらに、
    前記ユーザが視聴する映像コンテンツに含まれるオブジェクトの奥行き情報に基づいて、瞬目時の眼球の水平方向の動きが所定量より少ない時間区間を推定する瞬目推定部を備え、
    前記補正値計算部は、前記瞬目推定部により瞬目時に眼球の水平方向の動きが所定量より少ないと推定された時間区間内の瞬目区間における前記左眼電位および前記右眼電位の比を用いて、前記補正値を計算する
    請求項1に記載の眼電位生成装置。
  9. 前記瞬目推定部は、前記映像コンテンツに含まれる前記オブジェクトの前記奥行き情報に基づいて、前記オブジェクトの奥行きが予め定められた閾値より大きい時間区間を、瞬目時の眼球の水平方向の動きが前記所定量より少ない時間区間として推定する
    請求項8記載の眼電位生成装置。
  10. さらに、
    前記ユーザが視聴する映像コンテンツの輝度の変化量が所定の閾値以上の時間区間を検出する瞬目推定部を備え、
    前記補正値計算部は、前記瞬目推定部が検出した時間区間内の瞬目区間における前記左眼電位および前記右眼電位の比を用いて、前記補正値を計算する
    請求項1に記載の眼電位生成装置。
  11. 前記ユーザの左眼側の電極と、前記ユーザの右眼側の電極とは、前記ユーザの頭部の正中線に対して線対称となるように配置される
    請求項1記載の眼電位生成装置。
  12. 左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とがなす角は、両電極が当該眼を挟んだ位置に配置される場合には10度以上であり、両電極が当該眼を挟まない位置に配置される場合には40度以上である
    請求項1記載の眼電位生成装置。
  13. ユーザの眼の周囲に配置された電極の電位を、前記ユーザの瞬目時における前記電極の電位を用いて補正する眼電位生成装置と共に用いられるビューワーであって、
    前記ユーザの左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とが交差するように、前記ビューワーに設置された電極を備える
    ビューワー。
  14. 前記ユーザの左眼側の電極と、前記ユーザの右眼側の電極とは、前記ユーザの頭部の正中線に対して線対称となるように配置される
    請求項13記載のビューワー。
  15. 左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とがなす角は、両電極が当該眼を挟んだ位置に配置される場合には10度以上であり、両電極が当該眼を挟まない位置に配置される場合には40度以上である
    請求項13または14に記載のビューワー。
  16. 左右のそれぞれの眼について、当該眼の鼻側に配置された電極および当該眼の耳側に配置された電極を結ぶ直線と、両眼を結ぶ直線とが交差するように、ユーザの頭部に装着して使用されるビューワーに配置された各電極の電位を取得し、
    前記ユーザが瞬目を行った時間区間である瞬目区間を検出し、
    前記瞬目区間における、前記ユーザの左眼側に配置された電極間の電位差である左眼電位と、前記ユーザの右眼側に配置された電極間の電位差である右眼電位との比を用いて、電位の補正値を計算し、
    前記補正値を用いて、左眼電位または右眼電位を補正する
    眼電位生成方法。
  17. 請求項16に記載の眼電位生成方法をコンピュータに実行させるためのプログラム。
JP2012282593A 2012-12-26 2012-12-26 眼電位生成装置、眼電位生成方法およびビューワー Pending JP2014124308A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012282593A JP2014124308A (ja) 2012-12-26 2012-12-26 眼電位生成装置、眼電位生成方法およびビューワー

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012282593A JP2014124308A (ja) 2012-12-26 2012-12-26 眼電位生成装置、眼電位生成方法およびビューワー

Publications (1)

Publication Number Publication Date
JP2014124308A true JP2014124308A (ja) 2014-07-07

Family

ID=51404330

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012282593A Pending JP2014124308A (ja) 2012-12-26 2012-12-26 眼電位生成装置、眼電位生成方法およびビューワー

Country Status (1)

Country Link
JP (1) JP2014124308A (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016152849A1 (ja) * 2015-03-26 2016-09-29 株式会社ジェイアイエヌ 信号処理方法、プログラム、情報処理装置及びアイウエア
WO2016158574A1 (ja) * 2015-04-02 2016-10-06 株式会社ジェイアイエヌ 視線移動検出方法、プログラム、情報処理装置及びアイウエア
WO2016194772A1 (ja) * 2015-05-29 2016-12-08 アルプス電気株式会社 装着判定装置、眼鏡型電子機器、装着判定方法およびプログラム
EP3109689A1 (en) * 2015-06-22 2016-12-28 Nokia Technologies Oy Transition from a display power mode to a different display power mode
WO2017064800A1 (ja) * 2015-10-15 2017-04-20 株式会社ジェイアイエヌ プログラム、情報処理装置、及びアイウエア
WO2017077601A1 (ja) * 2015-11-04 2017-05-11 株式会社ジェイアイエヌ 情報処理方法、情報処理装置、プログラム及びアイウエア
WO2017081793A1 (ja) * 2015-11-12 2017-05-18 株式会社ジェイアイエヌ 情報処理方法、情報処理装置、プログラム及びアイウエア
JP2017093984A (ja) * 2015-11-27 2017-06-01 株式会社東芝 眼電位検出装置、眼電位検出方法、アイウエア及びフレーム
WO2017122533A1 (ja) * 2016-01-15 2017-07-20 アルプス電気株式会社 眼電位キャリブレーション装置、眼鏡型電子機器、眼電位キャリブレーション方法およびプログラム
WO2017150148A1 (ja) * 2016-03-03 2017-09-08 アルプス電気株式会社 瞬目検出装置、眼鏡型電子機器、瞬目検出方法およびプログラム
JP2017169601A (ja) * 2016-03-18 2017-09-28 国立大学法人大阪大学 眼疲労検査装置及び眼疲労検査方法
JP2017206067A (ja) * 2016-05-16 2017-11-24 株式会社東芝 眼電位検出電極付き制帽、眼電位検出電極付きヘッドウエア、および眼電位検出を利用したアラート方法
WO2019031600A1 (ja) * 2017-08-10 2019-02-14 ヤマハ発動機株式会社 ウェアラブルデバイス対応眼電位データ処理装置、それを備えた眼鏡型ウェアラブルデバイス、及びウェアラブルデバイス対応眼電位データ処理方法
US10292613B2 (en) * 2015-08-25 2019-05-21 Toyota Jidosha Kabushiki Kaisha Eyeblink detection device

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016152849A1 (ja) * 2015-03-26 2016-09-29 株式会社ジェイアイエヌ 信号処理方法、プログラム、情報処理装置及びアイウエア
JPWO2016158574A1 (ja) * 2015-04-02 2018-02-01 株式会社ジンズ 視線移動検出方法、プログラム、情報処理装置及びアイウエア
WO2016158574A1 (ja) * 2015-04-02 2016-10-06 株式会社ジェイアイエヌ 視線移動検出方法、プログラム、情報処理装置及びアイウエア
WO2016194772A1 (ja) * 2015-05-29 2016-12-08 アルプス電気株式会社 装着判定装置、眼鏡型電子機器、装着判定方法およびプログラム
JPWO2016194772A1 (ja) * 2015-05-29 2018-03-01 アルプス電気株式会社 装着判定装置、眼鏡型電子機器、装着判定方法およびプログラム
EP3109689A1 (en) * 2015-06-22 2016-12-28 Nokia Technologies Oy Transition from a display power mode to a different display power mode
US10292613B2 (en) * 2015-08-25 2019-05-21 Toyota Jidosha Kabushiki Kaisha Eyeblink detection device
WO2017064800A1 (ja) * 2015-10-15 2017-04-20 株式会社ジェイアイエヌ プログラム、情報処理装置、及びアイウエア
WO2017077601A1 (ja) * 2015-11-04 2017-05-11 株式会社ジェイアイエヌ 情報処理方法、情報処理装置、プログラム及びアイウエア
JPWO2017077601A1 (ja) * 2015-11-04 2018-08-16 株式会社ジンズ 情報処理方法、情報処理装置、プログラム及びアイウエア
WO2017081793A1 (ja) * 2015-11-12 2017-05-18 株式会社ジェイアイエヌ 情報処理方法、情報処理装置、プログラム及びアイウエア
JPWO2017081793A1 (ja) * 2015-11-12 2018-08-23 株式会社ジンズ 情報処理方法、情報処理装置、プログラム及びアイウエア
US10966651B2 (en) 2015-11-12 2021-04-06 Jins Holdings Inc. Analytics and processing of biological signals from sensors
US10602953B2 (en) 2015-11-27 2020-03-31 Kabushiki Kaisha Toshiba Electro-oculographic detector and electro-oculographic detection method
JP2017093984A (ja) * 2015-11-27 2017-06-01 株式会社東芝 眼電位検出装置、眼電位検出方法、アイウエア及びフレーム
WO2017122533A1 (ja) * 2016-01-15 2017-07-20 アルプス電気株式会社 眼電位キャリブレーション装置、眼鏡型電子機器、眼電位キャリブレーション方法およびプログラム
JPWO2017122533A1 (ja) * 2016-01-15 2018-09-13 アルプス電気株式会社 眼電位キャリブレーション装置、眼鏡型電子機器、眼電位キャリブレーション方法およびプログラム
WO2017150148A1 (ja) * 2016-03-03 2017-09-08 アルプス電気株式会社 瞬目検出装置、眼鏡型電子機器、瞬目検出方法およびプログラム
US10959615B2 (en) 2016-03-18 2021-03-30 Topcon Corporation Eye-fatigue examining device and eye-fatigue examining method
JP2017169601A (ja) * 2016-03-18 2017-09-28 国立大学法人大阪大学 眼疲労検査装置及び眼疲労検査方法
JP2017206067A (ja) * 2016-05-16 2017-11-24 株式会社東芝 眼電位検出電極付き制帽、眼電位検出電極付きヘッドウエア、および眼電位検出を利用したアラート方法
WO2019031600A1 (ja) * 2017-08-10 2019-02-14 ヤマハ発動機株式会社 ウェアラブルデバイス対応眼電位データ処理装置、それを備えた眼鏡型ウェアラブルデバイス、及びウェアラブルデバイス対応眼電位データ処理方法
JP2019034144A (ja) * 2017-08-10 2019-03-07 ヤマハ発動機株式会社 ウェアラブルデバイス対応眼電位データ処理装置、それを備えた眼鏡型ウェアラブルデバイス、及びウェアラブルデバイス対応眼電位データ処理方法
AU2018314050B2 (en) * 2017-08-10 2021-05-20 Yamaha Hatsudoki Kabushiki Kaisha Wearable device-compatible electrooculography data processing device, spectacle-type wearable device provided with same, and wearable device-compatible electrooculography data processing method
JP7170258B2 (ja) 2017-08-10 2022-11-14 ヤマハ発動機株式会社 ウェアラブルデバイス対応眼電位データ処理装置、それを備えた眼鏡型ウェアラブルデバイス、及びウェアラブルデバイス対応眼電位データ処理方法

Similar Documents

Publication Publication Date Title
JP2014124308A (ja) 眼電位生成装置、眼電位生成方法およびビューワー
US8449116B2 (en) Electro-oculography estimating device, electro-oculography calculating method, eye-gaze tracking device, wearable camera, head-mounted display, and electronic eyeglasses
US20200069179A1 (en) Head and eye tracking
US9439592B2 (en) Eye tracking headset and system for neuropsychological testing including the detection of brain damage
JP5665241B2 (ja) 眼球疲労判定装置およびその作動方法
US20190333480A1 (en) Improved Accuracy of Displayed Virtual Data with Optical Head Mount Displays for Mixed Reality
US8434868B2 (en) Eye-gaze tracking device, eye-gaze tracking method, electro-oculography measuring device, wearable camera, head-mounted display, electronic eyeglasses, and ophthalmological diagnosis device
US10201273B2 (en) Method for determining ocular measurements using a consumer sensor
US8333475B2 (en) Electro-oculography measuring device, ophthalmological diagnosis device, eye-gaze tracking device, wearable camera, head-mounted display, electronic eyeglasses, electro-oculography measuring method, and recording medium
US11612316B2 (en) Medical system and method operable to control sensor-based wearable devices for examining eyes
US20180098908A1 (en) Visual acuity training device and visual acuity training methods
Otero-Millan et al. Knowing what the brain is seeing in three dimensions: A novel, noninvasive, sensitive, accurate, and low-noise technique for measuring ocular torsion
JP6026836B2 (ja) 画像表示装置、制御方法、プログラム及び記憶媒体
JP6774975B2 (ja) 眼球回転検出装置、電子機器及びシステム
Roig et al. Pupil detection and tracking for analysis of fixational eye micromovements
WO2018145460A1 (zh) 一种智能用户体验设备及智能头盔
ES2932157T3 (es) Determinación de un error de refracción de un ojo
Dunn Required accuracy of gaze tracking for varifocal displays
JPWO2017094492A1 (ja) キャリブレーション方法、携帯機器およびプログラム
JP2009288529A (ja) 視野領域抽出装置、映像表示装置、視野領域抽出方法、映像表示方法、視野領域抽出プログラム、及び映像表示プログラム
Terzic et al. Causes of discomfort in stereoscopic content: a review
JP7170258B2 (ja) ウェアラブルデバイス対応眼電位データ処理装置、それを備えた眼鏡型ウェアラブルデバイス、及びウェアラブルデバイス対応眼電位データ処理方法
EP3910403B1 (en) Gaze tracking apparatus and systems
WO2017122533A1 (ja) 眼電位キャリブレーション装置、眼鏡型電子機器、眼電位キャリブレーション方法およびプログラム
Inoue et al. Fixation distance estimation using vergence eye movement for automatic focusing glasses

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20150312