JP6594953B2 - 視線移動検出方法、プログラム、情報処理装置及びアイウエア - Google Patents

視線移動検出方法、プログラム、情報処理装置及びアイウエア Download PDF

Info

Publication number
JP6594953B2
JP6594953B2 JP2017509828A JP2017509828A JP6594953B2 JP 6594953 B2 JP6594953 B2 JP 6594953B2 JP 2017509828 A JP2017509828 A JP 2017509828A JP 2017509828 A JP2017509828 A JP 2017509828A JP 6594953 B2 JP6594953 B2 JP 6594953B2
Authority
JP
Japan
Prior art keywords
electrooculogram
threshold
electrode
signal
threshold value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017509828A
Other languages
English (en)
Other versions
JPWO2016158574A1 (ja
Inventor
俊介 塩谷
晋 中村
一鷹 井上
大輔 高井
誠治 時田
尚 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alps Alpine Co Ltd
Jins Holdings Inc
Original Assignee
Alps Electric Co Ltd
Alps Alpine Co Ltd
Jins Holdings Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alps Electric Co Ltd, Alps Alpine Co Ltd, Jins Holdings Inc filed Critical Alps Electric Co Ltd
Publication of JPWO2016158574A1 publication Critical patent/JPWO2016158574A1/ja
Application granted granted Critical
Publication of JP6594953B2 publication Critical patent/JP6594953B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Surgery (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Ophthalmology & Optometry (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Human Computer Interaction (AREA)
  • Eye Examination Apparatus (AREA)

Description

本発明は、視線移動検出方法、プログラム、情報処理装置、及びアイウエアに関する。
フレーム部分に複数の電極を設け、各電極から眼電位信号を取得するアイウエアが知られている(例えば、特許文献1参照)。また、眼電位信号から、ユーザの視線方向を検出する装置が知られている(例えば、特許文献2参照)。
米国特許出願公開第2004/0070729号明細書 特開2011−125692号公報
しかしながら、眼電位信号に基づき視線移動を検出する際、視線移動した後の視線を元に戻す動きも視線移動として検出してしまうため、視線移動を適切に検出することができなかった。
そこで、本発明は、視線移動を適切に検出することができることを目的とする。
本発明の一態様における視線移動方法は、コンピュータが、対象者の眼周辺に接触する各電極により検出される眼電位に関する眼電位関連信号を取得する取得ステップと、前記眼電位関連信号が第1閾値を超えたか否かに基づいて、視線移動を検出する第1検出ステップと、前記視線移動が検出された第1時点からの経過時間が所定時間以内であるか否かを判定する判定ステップと、前記経過時間の判定結果に基づき、前記第1閾値及び前記第1閾値よりも絶対値が大きい第2閾値のいずれを閾値として用いるかを決定する決定ステップと、前記第1時点以降の眼電位関連信号が、決定された閾値を超えたか否かに基づいて、視線移動を検出する第2検出ステップと、を実行する。
本発明によれば、視線移動を適切に検出することができる。
実施例におけるメガネの前方からの一例を示す斜視図である。 実施例におけるメガネの後方からの一例を示す斜視図である。 実施例における処理装置の一例を示すブロック図である。 使用者に対する電極の接触位置を概略的に示す図である。 実施例における増幅部の構成の一例を示す図である。 バッファアンプを設ける理由を説明するための図である。 実施例における増幅部の構成の他の例を示す図である。 実施例における外部装置の構成の一例を示すブロック図である。 第1眼電位関連信号の一例を示す図である。 第2眼電位関連信号の一例を示す図である。 第3眼電位関連信号の一例を示す図である。 第4眼電位関連信号の一例を示す図である。 実施例における視線移動の検出処理に関する処理の一例を示すフローチャートである。
以下、図面を参照して本発明の実施の形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、以下に明示しない種々の変形や技術の適用を排除する意図はない。即ち、本発明は、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、以下の図面の記載において、同一または類似の部分には同一または類似の符号を付して表している。図面は模式的なものであり、必ずしも実際の寸法や比率等とは一致しない。図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることがある。
[実施例]
図1は、実施例におけるメガネ100の前方からの一例を示す斜視図である。図2は、実施例におけるメガネ100の後方からの一例を示す斜視図である。メガネ100は、レンズ110及びフレーム120を備える。メガネ100及びフレーム120は、アイウエアの一例である。
フレーム120は、一対のレンズ110を支持する。フレーム120は、リム122と、眉間部(例えばブリッジ)124と、ヨロイ126と、丁番128と、テンプル130と、モダン132と、一対のノーズパッド140と、第1電極152と、第2電極154と、第3電極156と、電線(不図示)と、処理装置200と、増幅部250とを有する。なお、メガネ100の種類によっては、一枚レンズを用いることでフレームのブリッジ部分がない場合がある。この場合、一枚レンズの眉間部分を眉間部とする。
一対のノーズパッド140は、右ノーズパッド142及び左ノーズパッド144を含む。リム122、ヨロイ126、丁番128、テンプル130、及びモダン132は、それぞれ左右一対に設けられる。
リム122は、レンズ110を保持する。ヨロイ126は、リム122の外側に設けられ、丁番128によりテンプル130を回転可能に保持する。テンプル130は、使用者の耳の上部を押圧して、この部位を挟持する。モダン132は、テンプル130の先端に設けられる。モダン132は、使用者の耳の上部に接触する。なお、モダン132は、必ずしもメガネ100に設ける必要はない。
第1電極152及び第2電極154は、一対のノーズパッド140のそれぞれの表面に設けられ、眼電位を検出する。例えば、第1電極152は、右ノーズパッド142に設けられ、第2電極154は、左ノーズパッド144に設けられる。
第1電極152は、使用者の右眼の眼電位を検出する。第2電極154は、使用者の左眼の眼電位を検出する。このように、眼電位を検出するための電極を、使用者の皮膚に必然的に接触するノーズパッドの表面に設ける。これにより、使用者の眼の周囲に二対の電極を接触させるのに比べて、使用者の皮膚に与える負担を軽減することができる。
第3電極156は、眉間部124の表面に設けられ、眼電位を検出する。接地電極(不図示)は、モダン132の表面に設けられてもよい。メガネ100にモダン132がない場合は、接地電極は、テンプル130の先に設けられる。実施例において、第1電極152、第2電極154及び第3電極156が検出する電位は、接地電極が検出する電位を基準としてもよい。
処理装置200は、例えば、テンプル130に設けてもよい。これにより、メガネ100を正面から見たときのデザイン性を損なうことがない。処理装置200の設置位置は、必ずしもテンプル130である必要はないが、メガネ100を装着した際のバランスを考慮して位置決めすればよい。処理装置200は、電線を介して増幅部250に接続される。なお、処理装置200と、増幅部250とは、無線を介して接続されてもよい。
増幅部250は、第1電極152、第2電極154及び第3電極156の近傍に設けられ、増幅対象の各電極と電線を介して接続される。増幅部250は、各電極が検出した眼電位を示す眼電位信号を取得する。例えば、増幅部250は、第1電極152、第2電極154及び第3電極156により検出された眼電位を示す眼電位信号を増幅する。
また、増幅部250は、眼電位信号を演算する処理部を有していれば、増幅する前又は増幅した後の各眼電位信号に対し、加減処理を行ってもよい。例えば、増幅部250は、第3電極156を基準とした第1電極152の電位を示す基準眼電位信号を求めてもよい。また、増幅部250は、第3電極156を基準とした第2電極154の電位を示す基準眼電位信号を求めてもよい。増幅部250により増幅又は処理された信号は、処理装置200に出力される。
外部装置300は、通信機能を有する情報処理装置である。例えば、外部装置300は、使用者が所持する携帯電話及びスマートフォン等の携帯通信端末、パーソナルコンピュータ等である。外部装置300は、図3に示す送信部220から受信した眼電位信号に基づく処理を実行する。例えば、外部装置300は、受信した眼電位信号から、瞬目や視線移動を検出する。瞬目を検出する場合の応答として、外部装置300は、使用者の瞬目の回数が増加していることを検出した場合などに、居眠りを防止するための警告を発する。外部装置300の詳細については後述する。また、外部装置300は、検出した視線移動に基づいて、アプリケーションを操作することを可能にしてもよい。
<処理装置の構成>
図3は、実施例における処理装置200の一例を示すブロック図である。図3に示すように、処理装置200は、処理部210、送信部220、及び電源部230を有する。第1電極152、第2電極154、第3電極156は、例えば増幅部250を介して処理部210に接続される。処理装置200の各構成は、一対のテンプルに分散されて設けられてもよい。
処理部210は、増幅部250から増幅された眼電位信号を取得し、処理する。例えば、処理部210は、第3電極156を基準とした第1電極152の電位を示す基準眼電位信号を処理してもよい。なお、基準眼電位信号は、説明の便宜上「基準」を付したが、概念としては眼電位信号に含まれる。また、処理部210は、第3電極156を基準とした第2電極154の電位を示す基準眼電位信号を処理してもよい。
このとき、処理部210は、右眼及び左眼において、各電極から検出された眼電位に基づいて、眼の垂直方向及び/又は水平方向の動きを示す眼電位信号となるように処理を行ってもよい。例えば、処理部210は、第2電極154の電位から第3電極156の電位を減算して眼電位信号を生成したり、第1電極152の電位から、第2電極154及び第3電極156の電位の平均を減算して眼電位信号を生成したりしてもよい。
他にも、処理部210は、取得した眼電位信号がデジタル化されていなければ、デジタル化処理を行ったり、各電極から増幅された眼電位信号を取得した場合には、眼電位信号の加減処理を行ったりする。また、処理部210は、増幅部250から取得した眼電位信号をそのまま送信部220に送信してもよい。
送信部220は、処理部210によって処理された眼電位信号を外部装置300に送信する。例えば、送信部220は、Bluetooth(登録商標)及び無線LAN等の無線通信、又は有線通信によって眼電位信号を外部装置300に送信する。電源部230は、処理部210、送信部220、及び増幅部250に電力を供給する。
図4は、使用者に対する電極の接触位置を概略的に示す図である。第1接触位置452は、第1電極152の接触位置を表す。第2接触位置454は、第2電極154の接触位置を表す。第3接触位置456は、第3電極156の接触位置を表す。水平中心線460は、右眼402の中心と左眼404の中心とを結んだ水平方向の中心線を表す。垂直中心線462は、右眼402と左眼404との中心において水平中心線460と直交する中心線を表す。
第1接触位置452及び第2接触位置454は、水平中心線460よりも下側に位置することが望ましい。また、第1接触位置452及び第2接触位置454は、第1接触位置452と第2接触位置454との中心を結ぶ線分が、水平中心線460と平行になるべく配置されることが望ましい。
また、第1接触位置452及び第2接触位置454は、第1接触位置452から右眼402への距離と、第2接触位置454と左眼404との距離が等しくなるべく配置されることが望ましい。また、第1接触位置452及び第2接触位置454は、互いに一定の距離以上離間していることが望ましい。
第3接触位置456は、垂直中心線462上に位置することが望ましい。また、第3接触位置456は、水平中心線460よりも上側であって、第1接触位置452及び第2接触位置454から離れた位置であることが望ましい。また、例えば、第3接触位置456と右眼402との距離は、右眼402と第1接触位置452との距離よりも離間させ、左眼404との距離は、左眼404と第2接触位置454との距離よりも離間させてよい。
眼球は、角膜側が正に帯電しており、網膜側が負に帯電している。したがって、視線が上に移動した場合、第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位が負となる。視線が下に移動した場合、第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位が正となる。
視線が右に移動した場合、第3電極156を基準とした第1電極152の電位が負となり、第3電極156を基準とした第2電極154の電位が正となる。視線が左に移動した場合、第3電極156を基準とした第1電極152の電位が正となり、第3電極156を基準とした第2電極154の電位が負となる。
第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位を検出することによって、好適にノイズの影響を軽減することができる。第3接触位置456を第1接触位置452及び第2接触位置454から可能な限り離間させるべく、眉間部124は、リム122の上端又はその近傍に配置されてもよい。また、眉間部124の中心よりも上側に第3電極156は設けられてもよい。この場合、第3電極156の配置位置として、縦幅の広い眉間部124を採用することが望ましい。
なお、処理部210は、第3電極156を基準とした第1電極152の電位を検出する代わりに、基準電極を基準とした第1電極152の電位から、基準電極を基準とした第3電極156の電位を減じてもよい。そして同様に、処理部210は、第3電極156を基準とした第2電極154の電位を検出する代わりに、基準電極を基準とした第2電極154の電位から、基準電極を基準とした第3電極156の電位を減じてもよい。
基準電極としては、接地電極を用いてもよい。また、メガネ100の、第1電極152、第2電極154及び第3電極156から離間した位置に、別途基準電極を設けてもよい。例えば、基準電極は、右側のモダン132に設けられてもよい。また、基準電極は、右側のテンプル130の使用者の肌に接する部位に設けられてもよい。
なお、基準電極を基準とした第1電極152の電位から第3電極156の電位を減じる処理、及び基準電極を基準とした第2電極154の電位から第3電極156の電位を減じる処理は、処理部210が実行してもよく、増幅部250又は外部装置300が実行してもよい。この場合、処理対象の電位を示す信号は、増幅部250により増幅されている。
<増幅部の構成>
次に、増幅部250の構成について説明する。図5は、実施例における増幅部250の構成の一例を示す図である。図5に示すように、増幅部250は、第1アンプ260及び第2アンプ270を有する。第1アンプ260は、第2アンプ270の前段に位置し、バッファアンプとして機能するアンプである。以下、第1アンプ260をバッファアンプ260とも称する。第2アンプ270は、メインのアンプとして機能するアンプである。以下、第2アンプ270は、メインアンプ270とも称する。メインアンプ270により増幅された信号は処理装置200に有線又は無線を用いて出力される。
増幅部250の設置位置は、眉間部124部分であることが望ましい。なお、増幅部250は、眉間部124に埋め込むようにして設けてもよい。前述したとおり、各電極は可能な限り離間させた方が望ましいが、各電極の設置位置はフレーム120の形状に依存してしまうため、離間させるにしても限界がある。
このため、各電極の電位差が十分な大きさにならない場合があり、各電極で検出された小さい電位を示す眼電位信号にノイズが混入してしまうと、十分な精度の電位を検出することが困難になってしまう。
そこで、実施例においては、検出された眼電位信号にノイズが混入する前に増幅することを目的として、増幅部250は、第1電極152、第2電極154及び第3電極156の近傍に設けられる。例えば、増幅部250は、各電極に近く、フレーム120にスペースが存在する眉間部124部分に設けることが好ましい。これにより、各電極により検出された眼電位信号が電線を通過する間に、ノイズが混入して眼電位信号の精度を低下させるリスクを減らすことができる。
次に、メインアンプ270の前段の位置にバッファアンプ260を設ける理由を、図6を用いて説明する。図6は、バッファアンプ260を設ける理由を説明するための図である。図6に示す例は、第3電極156を用いるが、第1電極152及び第2電極154においても同様である。
第3電極156は、メガネ100を装着した際、人肌に触れるため、グランドとの間に抵抗Rが存在すると考えてよい。このとき、抵抗Rは、例えば数100kΩである。また、メインアンプ270には、内部抵抗Rが存在する。このとき、メインアンプ270として通常のアンプを用いると、内部抵抗Rは、数10kΩ〜数100kΩである。
ここで、理想的にはメインアンプ270に電流が流れ込まないことであるが、内部抵抗Rが抵抗Rよりも小さいと、電流がメインアンプ270側に流れ込む。そうすると、電極の電圧Viとメインアンプ270の電圧Vxとが分圧されて観測されてしまう。そこで、メインアンプ270の前段の位置にバッファアンプ260を設けてメインアンプ270側に電流が流れ込まないようにする。
図7は、実施例における増幅部の構成の他の例を示す図である。図7に示す増幅部は、符号250Aと表記される。増幅部250Aは、バッファアンプ260、メインアンプ270、A/D変換部280、及び無線通信部290を有する。バッファアンプ260及びメインアンプ270は、図5に示す機能と同様であるため、以下では、A/D変換部280及び無線通信部290について主に説明する。
A/D変換部280は、メインアンプ270により増幅された信号をアナログからデジタルに変換する。A/D変換部280は、デジタル変換した信号を無線通信部290に出力する。
無線通信部290は、A/D変換部280により変換されたデジタル信号を、無線通信を用いて処理装置200に送信する。よって、無線通信部290は、送信部として機能する。無線通信部290は、例えばBluetooth(登録商標)及び無線LAN等の無線通信を用いる。また、無線通信部290は、外部装置300にデジタル信号を直接送信してもよい。
なお、実施例では、バッファアンプ260及びメインアンプ270を1つ設ける例を示したが、この場合は各電極からの眼電位信号に対して順番を決めて増幅していけばよい。また、各電極それぞれにバッファアンプ260及びメインアンプ270を設けてもよい。
<外部装置の構成>
次に、外部装置300の構成について説明する。図8は、実施例における外部装置300の構成の一例を示すブロック図である。図8に示すように、外部装置300は、通信部310、記憶部320、及び制御部330を有する。
通信部310は、Bluetooth(登録商標)及び無線LAN等の無線通信、又は有線通信によって眼電位信号を受信する。通信部310は、処理装置200の送信部220から受信した眼電位信号を制御部330に出力する。
記憶部320は、例えば、RAM(Random Access Memory)であり、右眼及び左眼の眼電位信号の極大値及び/又は極小値を記憶する。また、極大値又は極小値は、それぞれ所定期間毎の最大値又は最小値でもよい。
また、記憶部320は、眼電位信号の差分信号の極大値及び/又は極小値を記憶してもよい。また、記憶部320は、眼電位信号の隣り合う極値の差の信号に対する極大値及び/又は極小値や、差分信号の隣り合う極値の差の信号に対する極大値及び/又は極小値を記憶してもよい。
例えば、記憶部320は、極大値用のFIFOバッファと、極小値用のFIFOバッファとを有する。FIFOバッファは、極大値または極小値のデータにより記憶容量が一杯になったときは、最も古いデータが消去されて最新のデータが記憶されることにより、記憶領域に記憶されるデータが更新される。また、記憶部320は、後述する検出部360の検出結果を記憶してもよい。
また、記憶部320は、後述する視線移動検出処理をコンピュータに実行させるプログラムを記憶する。このプログラムは、インターネット、又はSDカードなどの記録媒体を介して外部装置300にインストールされてもよいし、プリインストールされていてもよい。また、このプログラムを記憶する記憶部は、記憶部320とは別であってもよい。
制御部330は、例えばCPU(Central Processing Unit)であり、各部の制御を行ったり、各種の演算処理を行ったりする。図8に示す例では、制御部330は、取得部340、判定部350、検出部360を有する。
取得部340は、対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電位関連信号を取得する。眼電位関連信号は、例えば通信部310から取得された眼電位信号や、この眼電位信号の差分信号や、眼電位信号又は差分信号の隣り合う極値の差を表す極値差信号を含む。取得された眼電位関連信号は、右眼及び/又は左眼の眼電位関連信号である。なお、眼電位関連信号は、アイウエア側で処理されて、外部装置300に送信されるようにしてもよい。
差分信号とは、所定の眼電位信号と、この眼電位信号の所定時間前の眼電位信号との差分を表す信号である。所定時間は、例えば5msecなどである。信号の差分を取ることにより、ノイズ耐性を強くすることができる。なお、これらの信号の差分をとることは、微分を行うことと同義であるとする。
極値差信号とは、眼電位信号又は差分信号の隣り合う極値(ピーク値)の差分を表す信号である。この極値差信号を取ることにより、眼が動く直前の信号レベルなどに影響を受けることなく、視線移動などの判定を適切に行うことができる。
取得部340は、後述する判定部350の判定対象信号を生成するため、信号処理部342を有する。信号処理部342は、取得された信号が眼電位信号であり、判定対象信号が差分信号や極値差信号である場合に、眼電位信号に基づいて、差分を算出したり、極値を求めたりして、判定対象信号を求めるための処理を行う。信号処理部342は、取得した信号が眼電位信号であり、判定対象信号が眼電位信号であれば、特に処理を行わない。取得部340は、判定対象信号として取得した眼電位関連信号を判定部350に出力する。
制御部330は、右眼及び/又は左眼の動きを示す眼電位関連信号の極大値及び極小値を記憶部320に記憶するようにする。また、制御部330は、所定期間毎に、右眼及び左眼の動きを示す眼電位関連信号の最大値及び/又は最小値を記憶部320に記憶するようにしてもよい。
所定期間は、例えば200msecとするが、この限りではない。また、所定期間は、時間窓を用いることで重複を許して時間的に変動するようにしてもよい。
判定部350は、眼電位関連信号及び閾値を用いた閾値判定処理を行ったり、経過時間が所定時間以上であるか否かの時間判定処理を行ったり、判定に用いる閾値を決定したりする。そのため、判定部350は、閾値判定部352と、時間判定部354と、決定部356とを有する。
閾値判定部352は、眼電位関連信号と閾値とを比較し、眼電位関連信号が閾値を超えるか否かを判定する。閾値を超えるとは、眼電位関連信号の絶対値が閾値を超えることを含み、正の眼電位関連信号が正の閾値以上となること、また、負の眼電位関連信号が負の閾値以下となることを含む。また、眼電位関連信号が閾値を超えるとは、眼電位関連信号自体が閾値を超えること、及び眼電位関連信号の極値が閾値を超えることを含む。
なお、閾値は、第1閾値及び第2閾値を含む。第1閾値は、視線移動判定に用いるための閾値であり、第2閾値は、一旦視線移動した後の逆視線移動判定に用いるための閾値であり、第1閾値よりも絶対値が大きい。
閾値判定部352が第1閾値又は第2閾値のどちらを用いるかは、決定部356により決められる。なお、閾値判定部352は、デフォルトでは第1閾値を判定処理に用いる。
時間判定部354は、眼電位関連信号が閾値を超えることにより視線移動が検出された場合、視線移動が検出された第1時点からの経過時間が、所定時間以内であるか否かを判定する。所定時間は、視線が例えば正面視に戻る際に要する一般的な時間であればよく、例えば1.0secである。所定時間は、事前実験等により適切な値が設定されればよい。時間判定部354は、視線移動が検出される度に経過時間のカウントを開始し、判定処理を行う。
決定部356は、時間判定部354から取得した経過時間の判定結果に基づき、第1閾値及び第2閾値のいずれを閾値として用いるかを決定する。決定部356は、決定した閾値を閾値判定部352に出力する。
決定部356は、例えば、経過時間が所定時間以内であれば、第2閾値を用いると決定し、経過時間が所定時間を経過すれば、第1閾値を用いると決定する。なお、経過時間は、視線移動が検出される度にリセットされてもよく、また、経過時間が所定時間を過ぎた後は、時間のカウントが停止されてもよい。これは、経過時間が所定時間以内かどうかが重要であるため、経過時間が所定時間を過ぎると、経過時間をカウントする必要がなくなるからである。
検出部360は、閾値判定部352による判定結果に基づいて、視線移動を検出する。例えば、閾値判定部352が、眼電位関連信号が第1閾値又は第2閾値を超えると判定した場合に、検出部360は、視線移動を検出する。例えば、眼電位関連信号が第2閾値を超える場合は、直前の視線移動の方向とは逆方向の視線移動が検出される。これは、第2閾値が、基本的には、直前の視線移動から逆方向への視線移動を検出するために用いられる閾値だからである。なお、第2閾値は、直前の視線移動と同じ方向の視線移動に用いられてもよい。
以上の検出処理により、一旦視線が移動した後、視線が元に戻る動き(例えば正面視に戻る動き)を視線移動として検出しないようにすることができる。すなわち、視線が移動した後、その視線が元に戻るような動きをするのが通常であるが、上述した視線移動検出アルゴリズムでは、視線が戻るのに要する時間を所定時間として設定する。この所定時間は、元に戻る動きを示す視線移動と、その他の方向(例えば逆方向)への視線移動が混在しうる時間である。したがって、視線検出アルゴリズムでは、特に、元の正面視に戻る動きを示す視線移動と、逆方向への視線移動との違いを判定するために、通常の第1閾値よりも大きい閾値(第2閾値)を設定し、これらの視線移動を切り分けることができるようにする。なお、所定時間が経過した後は、通常の視線移動を検出するため、第1閾値が用いられるとよい。
<視線移動検出>
次に、視線移動の検出について説明する。例えば、検出部360は、取得した眼電位信号から右眼電図と、左眼電図とに分けて、右眼電図及び左眼電図で負の電位が示された場合には視線が上を向いたことを検出する。
また、検出部360は、右眼電図及び左眼電図で正の電位が示された場合には視線が下、右眼電図で負の電位が示され左眼電図で正の電位が示された場合には視線が右、右眼電図で正の電位が示され左眼電図で負の電位が示された場合には視線が左に向いたことを検出する。
また、検出部360は、第2電極154の電位から第3電極156の電位を減算して生成された眼電位信号を用いて、負の電位が示され場合には視線が右、正の電位が示された場合には視線が左を向いたことを検出してもよい。
また、検出部360は、第1電極152の電位から、第2電極154及び第3電極156の電位の平均を減算して生成された眼電位信号を用いて、正の電位が示された場合には上、負の電位が示された場合には下を向いたことを検出してもよい。この際に、検出部360は、判定部350が、上述した第1閾値又は第2閾値を用いて正の電位や負の電位を判定した結果を用いて、視線移動を検出する。
<具体例>
次に、眼電位関連信号の具体例を用いて、視線移動検出に用いるピーク(極値)について説明する。図9〜図12に示すグラフにおいて、縦軸は、眼電位関連信号の強度(以下、眼電強度ともいう。)を表し、横軸は時間を表す。
なお、図9〜12に示すグラフでは、眼電位関連信号の一例として、第2電極154の電位から第3電極156の電位を減算して生成された眼電位信号を用いる。よって、図9〜12に示す例では、検出部360は、閾値以上となったときの信号S1の極値が正であれば、左への視線移動を検出し、信号S1の極値が負であれば、右への視線移動を検出する。また、眼電位信号の場合の眼電強度のスケールは、例えば計測値×1.5(V)÷2048÷1000とする。上述したとおり、図9〜12に示す例では、閾値の判定対象として、眼電位関連信号の極値を用いて説明する。極値が用いられることにより、極値が検出された際に閾値判定が行われればよく、閾値判定が常に行われなくてもよい。
図9は、第1眼電位関連信号の一例を示す図である。図9に示す信号S1は、両目の左右の動きを示す第1眼電位関連信号であり、閾値Th1は、第1閾値であり、閾値Th2は、第2閾値である。閾値Th1は、例えば100であり、閾値Th2は、例えば300である。
図9に示す例において、閾値判定部352は、時点t1の信号S1の極値が、第1閾値Th1を超えると判定したとする。時間判定部354は、この極値の時点t1以降の経過時間をカウントする。図9に示す例では、第1時点t1から、信号S1が、第2閾値Th2を超える極値となる時点t2までの時間をT1とすると、この時間T1は、所定時間TP以内であるとする。
この場合、時間判定部354は、このカウントされた経過時間が所定時間TP以内であると判定し、決定部356は、第2閾値Th2を視線移動に用いる閾値として決定し、閾値判定部352に通知する。
閾値判定部352は、決定部356から第2閾値が通知されると、信号S1の極値が第2閾値Th2を超えるか否かを判定し、判定結果を検出部360に出力する。
このとき、検出部360は、閾値判定部352の判定結果により、信号S1の絶対値が第2閾値Th2を超えたことを認識すると、時点t2の眼の動きとして、時点t1の視線移動とは逆方向の視線移動を検出する。
図10は、第2眼電位関連信号の一例を示す図である。図10に示す信号S2は、両目の左右の動きを示す第2眼電位関連信号であり、閾値については、図9に示す閾値と同様である。
図10に示す例において、閾値判定部352は、時点t1の信号S2の極値が、第1閾値Th1を超えると判定したとする。時間判定部354は、この極値の時点t1以降の経過時間をカウントする。なお、時点t1から時点t3までの時間をT2とすると、この時間T2は、所定時間TP以内であるとする。
この場合、時間判定部354は、このカウントされた経過時間が所定時間TP以内であると判定し、決定部356は、第2閾値Th2を視線移動に用いる閾値として決定し、閾値判定部352に通知する。
閾値判定部352は、決定部356から第2閾値が通知されると、信号S2の極値が第2閾値Th2を超えるか否かを判定し、判定結果を検出部360に出力する。なお、図10に示す例では、時点t3の信号S2の極値は、第1閾値Th1を超えるが、第2閾値Th2を超えないので、検出部360は、時点t3の極値を視線移動として検出しない。
図11は、第3眼電位関連信号の一例を示す図である。図11に示す信号S3は、両目の左右の動きを示す第3眼電位関連信号であり、閾値については、図9に示す閾値と同様である。
図11に示す例において、閾値判定部352は、時点t1の信号S3の極値が、第1閾値Th1を超えると判定したとする。時間判定部354は、この極値の時点t1以降の経過時間をカウントする。なお、時点t1から時点t4までの時間をT3とすると、この時間T3は、所定時間TPを過ぎているとする。
この場合、時間判定部354は、このカウントされた経過時間が所定時間TPを過ぎたと判定し、決定部356は、第1閾値Th1を視線移動に用いる閾値として決定し、閾値判定部352に通知する。
閾値判定部352は、決定部356から第1閾値が通知されると、信号S3の極値が第1閾値Th1を超えるか否かを判定し、判定結果を検出部360に出力する。なお、図11に示す例では、時点t4の信号S3の極値は、第1閾値を超えるので、検出部360は、時点t4の極値を視線移動として検出する。
図12は、第4眼電位関連信号の一例を示す図である。図12に示す信号S4は、両目の左右の動きを示す第4眼電位関連信号であり、閾値については、図9に示す閾値と同様である。
図12に示す例において、閾値判定部352は、時点t1の信号S4の極値が、第1閾値Th1を超えると判定したとする。時間判定部354は、この極値の時点t1以降の経過時間をカウントする。時間判定部354は、このカウントされた経過時間が所定時間TPを過ぎたと判定した場合、決定部356は、第1閾値Th1を視線移動に用いる閾値として決定し、閾値判定部352に通知する。
閾値判定部352は、決定部356から第1閾値が通知されると、信号S4の極値が第1閾値Th1を超えるか否かを判定し、判定結果を検出部360に出力する。なお、図12に示す例では、時点t1以降の信号S4の極値は、第1閾値を超えないので、検出部360は、視線移動を検出しない。
以上より、視線移動が一度検出されると、所定時間以内であれば、第2閾値が視線移動の判定に用いられ、所定時間が過ぎれば、元の第1閾値が視線移動の判定に用いられる。これにより、視線移動後に、眼が元に戻る動きを視線移動して検出されることを防ぐことができる。他方、所定時間以内においては、閾値を通常の閾値よりも大きく設定することで、逆方向の視線移動を適切に検出することができる。
なお、図9〜12に示す例では、経過時間の開始時点として、極値の時点を用いたが、閾値を超える時点を経過時間の開始時点として用いてもよい。所定時間は、事前実験等により適切な値が設定されていればよい。また、第1閾値及び第2閾値は、判定対象とする眼電位関連信号に応じて適宜設定されればよい。
<動作>
次に、実施例における外部装置300の動作について説明する。図13は、実施例における視線移動の検出処理に関する処理の一例を示すフローチャートである。図13に示すフローチャートは、使用者がメガネ100を装着して、第1電極152、第2電極154、第3電極156及び接地電極が使用者の皮膚に接触した状態であって、外部装置300が視線移動の検出を実行するモードである動作モード(通常モード)に設定された場合に開始する。
図13に示すステップS102で、取得部340は、メガネ100から、眼電位関連信号の取得を開始する。
ステップS104で、閾値判定部352は、眼電位関連信号が、第1閾値を超えたか否かを判定する。眼電位関連信号が第1閾値を超えていれば(ステップS104−YES)処理はステップS106に進み、眼電位関連信号が第1閾値を超えていなければ(ステップS104−NO)処理はステップS104に戻る。
ステップS106で、検出部360は、眼電位関連信号が第1閾値を超えることで、視線移動を検出する。視線が上下左右のいずれを向いたかは、眼電位関連信号の種類と、信号が正か負かで判断できる。
ステップS108で、時間判定部354は、視線移動が検出された第1時点からの経過時間が所定時間以内であるか否かを判定する。経過時間が所定時間以内であれば(ステップS108−YES)処理はステップS110に進み、経過時間が所定時間を過ぎていれば(ステップS108−NO)処理はステップS104に戻る。
ステップS110で、閾値判定部352は、眼電位関連信号が、第2閾値を超えたか否かを判定する。眼電位関連信号が第2閾値を超えていれば(ステップS110−YES)処理はステップS112に進み、眼電位関連信号が第2閾値を超えていなければ(ステップS110−NO)処理はステップS108に戻る。
ステップS112で、検出部360は、眼電位関連信号が第2閾値を超えることで、直前の視線移動とは逆方向の視線移動を検出する。処理はステップS104に戻る。なお、図13に示す処理は、ユーザから動作モードがOFFにされたときに処理が終了する。
以上、実施例によれば、視線移動の検出を適切に行うことができる。また、実施例によれば、視線移動後の視線が戻る動きを視線移動として検出しない処理や、通常の視線移動を検出する処理とを、閾値の切り替えを用いることで、簡単な仕組みで実現することができる。また、実施例によれば、一旦視線移動した後の逆方向の視線移動については、より適切な閾値を設定することで、視線移動後の逆方向の視線移動を検出することが可能になる。
なお、本実施例において、アイウエアがメガネである場合について説明した。しかし、アイウエアはこれに限定されない。アイウエアは、眼に関連する装具であればよく、メガネ、サングラス、ゴーグル及びヘッドマウントディスプレイならびにこれらのフレームなどの顔面装着具又は頭部装着具であってよい。
本実施例において、メガネ100が第3電極156を備える例を挙げて説明した。しかし、メガネ100はこれに限定されない。メガネ100が、第3電極156を備えなくてもよい。この場合、基準電極を基準とした第1電極152の電位が示す眼電図及び基準電極を基準とした第2電極154の電位が示す眼電図が、外部装置300に送信されればよい。ここで、接地電極を第3電極156の位置に設けて、基準電極としてもよい。また、左モダンに設けられた接地電極を基準電極として用いてもよいし、第1電極152及び第2電極154から離間した位置に、別途設けられた電極を基準電極として用いてもよい。
本実施例において、メガネ100が、リム122と一体になっているノーズパッド140を備える例を挙げて説明した。しかし、メガネ100はこれに限定されない。メガネ100が、リム122に備え付けられたクリングスと、クリングスに取り付けられたノーズパッド140とを備えてもよい。この場合、ノーズパッド140の表面に設けられた電極は、クリングスを介して、フレームに埋設された電線と電気的に接続される。
本実施例において、第1電極152及び第2電極154をノーズパッド140の中心よりも下側に設ける例を挙げて説明した。しかし、これに限定されない。ノーズパッド140が下側に延伸する延伸部を備え、第1電極152及び第2電極154を延伸部に設けてもよい。これにより、眼及び鼻の位置の個人差によってノーズパッドが眼の真横に位置してしまう使用者であっても、第1電極152及び第2電極154を眼の位置よりも下に接触させることができる。
本実施例において、第3電極156を眉間部124の表面に設ける例を挙げて説明した。しかし、これに限定されない。眉間部124が、上側に延伸する延伸部を備え、延伸部に第3電極156を設けてもよい。またさらに、延伸部と眉間部124との間に延伸部を上下に可動させる可動部を備え、第3電極156の位置を上下に調整可能としてもよい。これにより、眼の位置の個人差によって、第3電極156の接触位置が眼の近傍になってしまう使用者であっても、調整により第3電極156の接触位置を眼から離間させることができる。また、本実施例において、各電極の位置は前述した位置に限られず、眼の垂直方向及び水平方向の動きを示す眼電位信号が取得できる位置に配置されていればよい。
本実施例では、外部装置300の例として、処理装置200と別体の、携帯電話及びスマートフォン等の携帯通信端末を挙げて説明した。しかし、これに限定されない。外部装置300を、処理装置200と一体のユニットとしてもよい。この場合、外部装置300は、アイウエアに一体として設けられる。この場合、処理装置200の検出部による検出結果の送信は、リアルタイムに検出する度に外部装置300に送信する場合と、所定時間(例えば、一分間)ごとに検出結果を集計して、集計結果を外部装置300に送信する場合とがある。
リアルタイムに検出結果が送信されることにより、早期に詳細な分析をすることができる。
所定時間ごとに集計結果が送信されることにより、まとめてデータを送信するため消費電力を低減させることができる。
また、本実施例では、電線としてシールドケーブルを用いることで、ノイズの混入を防ぐようにしてもよい。
また、本実施例では、図1において3つの電極を用いる構成を例示したが、4つ以上の電極を用いる構成であってもよい。この場合、メガネは、上部電極と、下部電極と、左部電極と、右部電極とを有する。例えば、上部電極及び下部電極は、図1に示すリム122に設けられ、左部電極は、左テンプル130に設けられ、右部電極は、右テンプル130に設けられるが、必ずしもこの位置にある必要はない。なお、これらの電極は、顔の一部に接触しているとする。また、メガネは、第1電極152、第2電極154、第3電極156の位置に2つの電極を有したりしてもよい。
4つの電極の例では、上部電極及び下部電極の電圧差により、眼の上下方向を検知することができ、左部電極及び右部電極の電圧差により、眼の左右方向を検知することができる。
また、本実施例では、外部装置300が、視線移動の検出を行う例について説明したが、アイウエア側で第1閾値の視線移動検出を行い、視線移動検出の結果とその時の極値の値及び時間を外部装置に送信してもよい。この場合、外部装置300側で、経過時間の判定処理と、第2閾値の判定処理とを行い、視線移動検出から所定時間以内に第2閾値を超えていない視線移動についてはキャンセルするようにしてもよい。
以上、本発明について実施例を用いて説明したが、本発明の技術的範囲は上記実施例に記載の範囲には限定されない。上記実施例に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
100 メガネ
120 フレーム
124 眉間部
140 ノーズパッド
152 第1電極
154 第2電極
156 第3電極
200 処理装置
300 外部装置
320 記憶部
330 制御部
340 取得部
342 信号処理部
350 判定部
352 閾値判定部
354 時間判定部
356 決定部
360 検出部

Claims (8)

  1. コンピュータが、
    対象者の眼周辺に接触する各電極により検出される眼電位に関する眼電位関連信号を取得する取得ステップと、
    前記眼電位関連信号が第1閾値を超えたか否かに基づいて、視線移動を検出する第1検出ステップと、
    前記視線移動が検出された第1時点からの経過時間が所定時間以内であるか否かを判定する判定ステップと、
    前記経過時間の判定結果に基づき、前記第1閾値及び前記第1閾値よりも絶対値が大きい第2閾値のいずれを閾値として用いるかを決定する決定ステップと、
    前記第1時点以降の眼電位関連信号が、決定された閾値を超えたか否かに基づいて、視線移動を検出する第2検出ステップと、
    を実行する視線移動検出方法。
  2. 前記判定ステップは、
    前記視線移動が検出される度に前記経過時間の判定処理を行う、請求項1に記載の視線移動検出方法。
  3. 前記決定ステップは、
    前記経過時間が前記所定時間以内であれば、前記第2閾値を用いることを決定し、前記経過時間が前記所定時間を過ぎていれば、前記第1閾値を用いることを決定することを含む、請求項1又は2に記載の視線移動検出方法。
  4. 前記第2検出ステップは、
    前記第1時点の視線移動とは逆方向の視線移動を、前記第2閾値の判定結果により検出することを含む、請求項1乃至3いずれか一項に記載の視線移動検出方法。
  5. 前記眼電位関連信号は、前記眼電位を示す眼電位信号の差分信号である、請求項1乃至4いずれか一項に記載の視線移動検出方法。
  6. コンピュータに、
    対象者の眼周辺に接触する各電極により検出される眼電位に関する眼電位関連信号を取得する取得ステップと、
    前記眼電位関連信号が第1閾値を超えたか否かに基づいて、視線移動を検出する第1検出ステップと、
    前記視線移動が検出された第1時点からの経過時間が所定時間以内であるか否かを判定する判定ステップと、
    前記経過時間の判定結果に基づき、前記第1閾値及び前記第1閾値よりも絶対値が大きい第2閾値のいずれを閾値として用いるかを決定する決定ステップと、
    前記第1時点以降の眼電位関連信号が、決定された閾値を超えたか否かに基づいて、視線移動を検出する第2検出ステップと、
    を実行させるプログラム。
  7. 対象者の眼周辺に接触する各電極により検出される眼電位に関する眼電位関連信号を取得する取得部と、
    前記眼電位関連信号に基づく視線移動が検出された第1時点からの経過時間が、所定時間以内であるか否かを判定する時間判定部と、
    前記経過時間の判定結果に基づき、第1閾値及び該第1閾値よりも絶対値が大きい第2閾値のいずれを閾値として用いるかを決定する決定部と、
    前記第1時点以降の眼電位関連信号が、決定された閾値を超えたか否かを判定する閾値判定部と、
    前記閾値判定部の判定結果に基づいて、視線移動を検出する検出部と、
    を備える情報処理装置。
  8. フレームと、
    前記フレームに設けられ、対象者の眼周辺に接触する少なくとも3つの電極と、
    対象者の眼周辺に接触する各電極により検出される眼電位に関する眼電位関連信号を取得する取得部と、
    前記眼電位関連信号に基づく視線移動が検出された第1時点からの経過時間が、所定時間以内であるか否かを判定する時間判定部と、
    前記経過時間の判定結果に基づき、第1閾値及び該第1閾値よりも絶対値が大きい第2閾値のいずれを閾値として用いるかを決定する決定部と、
    前記第1時点以降の眼電位関連信号が、決定された閾値を超えたか否かを判定する閾値判定部と、
    前記閾値判定部の判定結果に基づいて、視線移動を検出する検出部と、
    を備えるアイウエア。
JP2017509828A 2015-04-02 2016-03-22 視線移動検出方法、プログラム、情報処理装置及びアイウエア Active JP6594953B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015076233 2015-04-02
JP2015076233 2015-04-02
PCT/JP2016/059028 WO2016158574A1 (ja) 2015-04-02 2016-03-22 視線移動検出方法、プログラム、情報処理装置及びアイウエア

Publications (2)

Publication Number Publication Date
JPWO2016158574A1 JPWO2016158574A1 (ja) 2018-02-01
JP6594953B2 true JP6594953B2 (ja) 2019-10-23

Family

ID=57005008

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017509828A Active JP6594953B2 (ja) 2015-04-02 2016-03-22 視線移動検出方法、プログラム、情報処理装置及びアイウエア

Country Status (2)

Country Link
JP (1) JP6594953B2 (ja)
WO (1) WO2016158574A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6904215B2 (ja) * 2017-10-30 2021-07-14 富士通株式会社 操作支援方法、操作支援プログラム及び頭部装着型表示装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5204781B2 (ja) * 2008-05-20 2013-06-05 パナソニック株式会社 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路
JP5483152B2 (ja) * 2009-03-05 2014-05-07 国立大学法人 宮崎大学 眼電位を用いたマウスカーソル制御システム
JP5661067B2 (ja) * 2012-05-29 2015-01-28 株式会社ジェイアイエヌ アイウエア
JP2014124308A (ja) * 2012-12-26 2014-07-07 Panasonic Corp 眼電位生成装置、眼電位生成方法およびビューワー

Also Published As

Publication number Publication date
JPWO2016158574A1 (ja) 2018-02-01
WO2016158574A1 (ja) 2016-10-06

Similar Documents

Publication Publication Date Title
JP6426589B2 (ja) 眼電位検出装置、眼電位検出方法、アイウエア及びフレーム
KR102627452B1 (ko) 다중 모드 눈 추적
US20160070122A1 (en) Computerized replacement temple for standard eyewear
CN107743605B (zh) 用于确定眼睛注视方向的电容传感器
JP2015213734A (ja) プログラム、情報処理装置、及びアイウエア
CN110621212A (zh) 用于评估用户健康状况的***
US20180064371A1 (en) Posture detection apparatus, glasses-type electronic device, posture detection method, and program
CN110366388B (zh) 信息处理方法、信息处理装置以及计算机可读存储介质
JP6656166B2 (ja) プログラム、情報処理装置、及びアイウエア
JP6687639B2 (ja) 情報処理方法、情報処理装置、プログラム及びアイウエア
US20240134449A1 (en) Eye detection methods and devices
JP6594953B2 (ja) 視線移動検出方法、プログラム、情報処理装置及びアイウエア
WO2016076268A1 (ja) プログラム、情報処理装置、及びアイウエア
WO2015159851A1 (ja) 検出ユニット、アイウエア、及び眼電位検出システム
JP6699308B2 (ja) ウェアラブル生体計測装置
WO2016072395A1 (ja) プログラム、情報処理装置、及びアイウエア
JP2015202183A (ja) 検出制御装置、装着具、眼電位情報処理システム、及びプログラム
JP6556860B2 (ja) 情報処理方法、情報処理装置、プログラム及びアイウエア
WO2017064800A1 (ja) プログラム、情報処理装置、及びアイウエア
WO2017064799A1 (ja) アイウエア
WO2016152849A1 (ja) 信号処理方法、プログラム、情報処理装置及びアイウエア
JP5919323B2 (ja) 瞬き検出装置及び眼鏡型電子機器
WO2017150148A1 (ja) 瞬目検出装置、眼鏡型電子機器、瞬目検出方法およびプログラム
JP2017192548A (ja) アイウエア、情報処理方法、及びプログラム
WO2017122533A1 (ja) 眼電位キャリブレーション装置、眼鏡型電子機器、眼電位キャリブレーション方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190903

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190925

R150 Certificate of patent or registration of utility model

Ref document number: 6594953

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250