JP5204781B2 - 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路 - Google Patents
視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路 Download PDFInfo
- Publication number
- JP5204781B2 JP5204781B2 JP2009534785A JP2009534785A JP5204781B2 JP 5204781 B2 JP5204781 B2 JP 5204781B2 JP 2009534785 A JP2009534785 A JP 2009534785A JP 2009534785 A JP2009534785 A JP 2009534785A JP 5204781 B2 JP5204781 B2 JP 5204781B2
- Authority
- JP
- Japan
- Prior art keywords
- electrooculogram
- signal
- saccade
- calibration
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/113—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/19—Sensors therefor
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Ophthalmology & Optometry (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Theoretical Computer Science (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Eye Examination Apparatus (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
- Position Input By Displaying (AREA)
Description
図1は、本発明の実施の形態1に係る視線検出装置100の構成を表すブロック図である。図1に示される視線検出装置100は、ユーザの眼の周囲に貼付されて眼電位を測定し、眼電位原信号を出力する眼電位測定部(図示省略)と、眼電位原信号を視線位置(「視線方向」と読み替えることができる。以下同じ)に変換する較正部101と、較正パラメータの更新を指示する較正パラメータ更新指示部102と、較正パラメータ更新指示を受けて較正指標を提示する較正指標提示部103と、眼電位原信号からサッケード信号を検出するサッケード検出部104と、サッケード検出部104から出力された眼電位変化量および較正指標提示部103によって出力された較正指標の位置に基づいて較正パラメータを算出する較正パラメータ計算部105と、眼電位原信号の出力先を較正部101及びサッケード検出部104のいずれかに切り替えるスイッチ106とから成る。
図8は、本発明の実施の形態2に係るサッケード検出部200の構成を表すブロック図である。図8に示されるサッケード検出部200は、眼電位原信号に最大値フィルタ処理を適用する最大値フィルタ部(第1のフィルタ処理部)201と、眼電位原信号に最小値フィルタ処理を適用する最小値フィルタ部(第2のフィルタ処理部)202と、減算部203とから成る。
nが奇数の場合(−n/2<i<n/2)
nが偶数の場合(−n/2≦i<n/2)又は(−n/2<i≦n/2)
nが奇数の場合(−n/2<i<n/2)
nが偶数の場合(−n/2≦i<n/2)又は(−n/2<i≦n/2)
図13は、本発明の実施の形態3に係るサッケード検出部300の構成を表すブロック図である。
図15は、本発明の実施の形態4に係るサッケード検出部400の構成を表すブロック図である。
次に、実施の形態5に係るサッケード検出部500のブロック図を図17に示す。
図23は、本発明の実施の形態6に係る眼電位計測装置600の構成を表すブロック図である。
図28及び図29は、本発明の実施の形態7に係る眼電位計測装置700の構成を表すブロック図である。
図31及び図32は、本発明の実施の形態8に係る眼電位計測装置800の構成を表すブロック図である。
次に、図34及び図35を参照して、本発明の実施の形態9に係る撮像装置900を説明する。この撮像装置900は、例えば、ユーザの側頭部に装着され、ユーザの視線方向を撮像する装置である。具体的には、撮像装置900は、撮像部901と、視線検出装置902と、撮像制御部903とを備える。
なお、本発明を上記各実施の形態1〜9に基づいて説明してきたが、本発明は、上記の各実施の形態1〜9に限定されないのはもちろんである。以下のような場合も本発明に含まれる。
20 第1の較正指標
30 第2の較正指標
100,902 視線検出装置
101 較正部
102 較正パラメータ更新指示部
103 較正指標提示部
104,200,300,400,500 サッケード検出部
105 較正パラメータ計算部
106,625 スイッチ
201,622,623 最大値フィルタ部
202,621,624 最小値フィルタ部
203,726,826,827 減算部
501 遅延信号生成部
600,700,800 眼電位計測装置
610 フィルタ処理内容決定部
620,720,820 フィルタ処理部
900 撮像装置
901 撮像部
903 撮像制御部
Claims (13)
- 眼電位からユーザの視線方向を検出する視線検出装置であって、
眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部と、
ユーザに対して較正指標を提示する較正指標提示部と、
前記較正指標提示部によって提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出部と、
前記較正指標提示部によって提示された前記較正指標の位置、及び前記サッケード検出部から出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算部と、
前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正部とを備える
視線検出装置。 - 前記サッケード検出部は、
前記眼電位原信号を所定の時間遅延させて遅延信号を出力する遅延信号生成部と、
前記眼電位原信号から前記遅延信号を減算して得られる出力信号を生成する減算部と、
前記出力信号のうちの予め定めた閾値を上回る信号をサッケード運動を示すサッケード信号と判定するサッケード判定部とを備える
請求項1に記載の視線検出装置。 - 前記所定の遅延時間は、ユーザが前記較正指標を固視している時間より短い
請求項2に記載の視線検出装置。 - 前記サッケード検出部は、
前記眼電位原信号に最大値フィルタ処理及び最小値フィルタ処理のいずれか一方を施して第1の眼電位信号を出力する第1のフィルタ処理部と、
前記第1の眼電位信号、及び前記眼電位原信号から得られる第2の眼電位信号の一方から他方を減算し、出力信号を生成する減算部と、
前記出力信号のうちの予め定めた閾値を上回る信号をサッケード運動を示すサッケード信号と判定するサッケード判定部とを備える
請求項1に記載の視線検出装置。 - 前記サッケード検出部は、さらに、前記眼電位原信号に最大値フィルタ処理及び最小値フィルタ処理のいずれか他方を施して前記第2の眼電位信号を出力する第2のフィルタ処理部を備える
請求項4に記載の視線検出装置。 - 前記サッケード検出部は、さらに、前記第1の眼電位信号に最大値フィルタ処理及び最小値フィルタ処理のいずれか他方を施して前記第2の眼電位信号を出力する第2のフィルタ処理部を備える
請求項4に記載の視線検出装置。 - 前記較正指標提示部は、較正パラメータ更新指示を受け付けたことに応じて第1の較正指標をユーザに提示した後、前記サッケード検出部によってサッケード運動が検出されたことに応じて前記第1の較正指標と異なる位置に第2の較正指標を提示し、
前記サッケード検出部は、ユーザの視線位置が前記第1の較正指標から前記第2の較正指標に移動する際の前記眼電位変化量を前記較正パラメータ計算部に出力する
請求項1〜6のいずれか1項に記載の視線検出装置。 - 前記パラメータ計算部は、前記サッケード検出部から出力される前記眼電位変化量を、ユーザの視線位置が前記第1の較正指標から前記第2の較正指標に移動する際の眼球移動角で除した値を較正パラメータとする
請求項7に記載の視線検出装置。 - 前記較正パラメータは、ユーザの視線位置が前記第1の較正指標から前記第2の較正指標に移動する際の眼球移動角と、前記眼球移動角に対応する前記眼電位変化量との組み合わせを複数保持するテーブルである
請求項7に記載の視線検出装置。 - ユーザの視線方向を撮像する撮像装置であって、
撮像部と、
請求項1〜9のいずれか1項に記載の視線検出装置と、
前記較正部によって検出された視線方向を前記撮像部に撮像させる撮像制御部とを備える
撮像装置。 - 眼電位からユーザの視線方向を検出する視線検出方法であって、
眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定ステップと、
ユーザに対して較正指標を提示する較正指標提示ステップと、
前記較正指標提示ステップで提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出ステップと、
前記較正指標提示ステップで提示された前記較正指標の位置、及び前記サッケード検出ステップで出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算ステップと、
前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正ステップとを含む
視線検出方法。 - 眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部に接続されたコンピュータに、ユーザの視線方向を検出させるプログラムであって、
ユーザに対して較正指標を提示する較正指標提示ステップと、
前記較正指標提示ステップで提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出ステップと、
前記較正指標提示ステップで提示された前記較正指標の位置、及び前記サッケード検出ステップで出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算ステップと、
前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正ステップとを含む
プログラム。 - 眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部に接続されてユーザの視線方向を検出する集積回路であって、
ユーザに対して較正指標を提示する較正指標提示部と、
前記較正指標提示部によって提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出部と、
前記較正指標提示部によって提示された前記較正指標の位置、及び前記サッケード検出部から出力された前記眼電位変化量に基づいて較正パラメータを計算する較正パラメータ計算部と、
前記較正パラメータに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正部とを備える
集積回路。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009534785A JP5204781B2 (ja) | 2008-05-20 | 2009-05-20 | 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路 |
Applications Claiming Priority (8)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008131506 | 2008-05-20 | ||
JP2008131506 | 2008-05-20 | ||
JP2008161328 | 2008-06-20 | ||
JP2008161329 | 2008-06-20 | ||
JP2008161328 | 2008-06-20 | ||
JP2008161329 | 2008-06-20 | ||
PCT/JP2009/002220 WO2009142008A1 (ja) | 2008-05-20 | 2009-05-20 | 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路 |
JP2009534785A JP5204781B2 (ja) | 2008-05-20 | 2009-05-20 | 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2009142008A1 JPWO2009142008A1 (ja) | 2011-09-29 |
JP5204781B2 true JP5204781B2 (ja) | 2013-06-05 |
Family
ID=41339948
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009534785A Active JP5204781B2 (ja) | 2008-05-20 | 2009-05-20 | 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路 |
Country Status (4)
Country | Link |
---|---|
US (1) | US8419654B2 (ja) |
JP (1) | JP5204781B2 (ja) |
CN (1) | CN101754715B (ja) |
WO (1) | WO2009142008A1 (ja) |
Families Citing this family (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5828070B2 (ja) | 2010-08-20 | 2015-12-02 | パナソニックIpマネジメント株式会社 | 撮像装置および撮像方法 |
US20120235064A1 (en) | 2011-03-16 | 2012-09-20 | Intellirad Control, Inc. | Radiation control and minimization system and method |
US9135508B2 (en) | 2011-12-20 | 2015-09-15 | Microsoft Technology Licensing, Llc. | Enhanced user eye gaze estimation |
TWI466655B (zh) * | 2012-03-16 | 2015-01-01 | Univ Nat Chiao Tung | 可偵測眼動訊號之影像控制系統 |
JP5926210B2 (ja) | 2012-03-21 | 2016-05-25 | 国立大学法人浜松医科大学 | 自閉症診断支援システム及び自閉症診断支援装置 |
US8864310B2 (en) | 2012-05-01 | 2014-10-21 | RightEye, LLC | Systems and methods for evaluating human eye tracking |
JP5888205B2 (ja) * | 2012-11-02 | 2016-03-16 | ソニー株式会社 | 画像表示装置並びに情報入力装置 |
CN103054576B (zh) * | 2012-12-20 | 2014-07-30 | 清华大学 | 基于眼电信号的阅读状态识别方法 |
US9147248B2 (en) * | 2012-12-21 | 2015-09-29 | Tobii Technology Ab | Hardware calibration of eye tracker |
CN103054549B (zh) * | 2012-12-29 | 2015-07-01 | 西安交通大学 | 一种可穿戴便携式眼动分析装置及其分析方法 |
CN103110462B (zh) * | 2013-02-21 | 2014-10-08 | 河海大学常州校区 | 自然环境下视觉调节及生物电与行为记录的装置与方法 |
US9671619B2 (en) * | 2013-02-28 | 2017-06-06 | Johnson & Johnson Vision Care, Inc. | Electronic ophthalmic lens with eye gaze sensor |
CN103186240B (zh) * | 2013-03-25 | 2016-02-10 | 成都西可科技有限公司 | 一种基于高像素摄像头探测眼球运动的方法 |
JP6181974B2 (ja) * | 2013-05-23 | 2017-08-16 | 株式会社Nttドコモ | 視線計測装置及び視線計測方法 |
JP2015046089A (ja) * | 2013-08-29 | 2015-03-12 | ソニー株式会社 | 情報処理装置および情報処理方法 |
JP2018082727A (ja) * | 2015-03-26 | 2018-05-31 | 株式会社ジンズ | 信号処理方法、プログラム、情報処理装置及びアイウエア |
JP6594953B2 (ja) * | 2015-04-02 | 2019-10-23 | 株式会社ジンズホールディングス | 視線移動検出方法、プログラム、情報処理装置及びアイウエア |
CN105691160B (zh) * | 2015-04-12 | 2018-02-02 | 宁波市鄞州乐可机电科技有限公司 | 一种基于定位信息来调整遮阳件位置的汽车 |
CN106293045B (zh) | 2015-06-30 | 2019-09-10 | 北京智谷睿拓技术服务有限公司 | 显示控制方法、显示控制装置及用户设备 |
CN106331464B (zh) * | 2015-06-30 | 2019-10-15 | 北京智谷睿拓技术服务有限公司 | 拍摄控制方法、拍摄控制装置及用户设备 |
CN106293046B (zh) | 2015-06-30 | 2020-03-17 | 北京智谷睿拓技术服务有限公司 | 信息处理方法、信息处理装置及用户设备 |
TWI604823B (zh) * | 2015-08-18 | 2017-11-11 | 國立交通大學 | 利用腦波進行注意力反饋訓練之方法及其系統 |
US9857871B2 (en) | 2015-09-04 | 2018-01-02 | Sony Interactive Entertainment Inc. | Apparatus and method for dynamic graphics rendering based on saccade detection |
TWI563970B (zh) * | 2015-09-16 | 2017-01-01 | 國立交通大學 | 眼球位置偵測裝置及其方法 |
WO2017069176A1 (ja) * | 2015-10-19 | 2017-04-27 | 株式会社オリィ研究所 | 視線入力装置、視線入力方法、および、視線入力プログラム |
US10643741B2 (en) | 2016-11-03 | 2020-05-05 | RightEye, LLC | Systems and methods for a web platform hosting multiple assessments of human visual performance |
JP7099036B2 (ja) * | 2018-05-07 | 2022-07-12 | オムロン株式会社 | データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム |
US10528131B2 (en) * | 2018-05-16 | 2020-01-07 | Tobii Ab | Method to reliably detect correlations between gaze and stimuli |
US10855978B2 (en) * | 2018-09-14 | 2020-12-01 | The Toronto-Dominion Bank | System and method for receiving user input in virtual/augmented reality |
US11786694B2 (en) | 2019-05-24 | 2023-10-17 | NeuroLight, Inc. | Device, method, and app for facilitating sleep |
CN112578903A (zh) * | 2019-09-30 | 2021-03-30 | 托比股份公司 | 眼动追踪方法、眼动追踪器以及计算机程序 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2615831B2 (ja) * | 1988-05-11 | 1997-06-04 | 竹井機器工業株式会社 | 視覚情報分析装置 |
JPH1185384A (ja) * | 1997-09-03 | 1999-03-30 | Rikagaku Kenkyusho | 角膜網膜電位を用いた視力入力方法及び装置 |
WO2006106877A1 (ja) * | 2005-03-31 | 2006-10-12 | The University Of Tokyo | 視野計及び視野計測方法 |
JP2007252879A (ja) * | 2006-02-27 | 2007-10-04 | Univ Of Electro-Communications | 眼球位置計測方法及び眼球位置計測装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5360971A (en) * | 1992-03-31 | 1994-11-01 | The Research Foundation State University Of New York | Apparatus and method for eye tracking interface |
JPH0934631A (ja) | 1995-07-14 | 1997-02-07 | Suzuki Motor Corp | コンピュータ入力装置 |
JPH11276461A (ja) | 1998-03-27 | 1999-10-12 | Suzuki Motor Corp | 注意力測定装置及びこれを用いた情報提示装置 |
JP4822235B2 (ja) | 2001-03-21 | 2011-11-24 | 公益財団法人新産業創造研究機構 | 眼球停留関連電位解析装置 |
-
2009
- 2009-05-20 US US12/669,644 patent/US8419654B2/en active Active
- 2009-05-20 WO PCT/JP2009/002220 patent/WO2009142008A1/ja active Application Filing
- 2009-05-20 JP JP2009534785A patent/JP5204781B2/ja active Active
- 2009-05-20 CN CN2009800005835A patent/CN101754715B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2615831B2 (ja) * | 1988-05-11 | 1997-06-04 | 竹井機器工業株式会社 | 視覚情報分析装置 |
JPH1185384A (ja) * | 1997-09-03 | 1999-03-30 | Rikagaku Kenkyusho | 角膜網膜電位を用いた視力入力方法及び装置 |
WO2006106877A1 (ja) * | 2005-03-31 | 2006-10-12 | The University Of Tokyo | 視野計及び視野計測方法 |
JP2007252879A (ja) * | 2006-02-27 | 2007-10-04 | Univ Of Electro-Communications | 眼球位置計測方法及び眼球位置計測装置 |
Also Published As
Publication number | Publication date |
---|---|
US8419654B2 (en) | 2013-04-16 |
CN101754715A (zh) | 2010-06-23 |
CN101754715B (zh) | 2012-07-25 |
JPWO2009142008A1 (ja) | 2011-09-29 |
US20100204608A1 (en) | 2010-08-12 |
WO2009142008A1 (ja) | 2009-11-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5204781B2 (ja) | 視線検出装置、撮像装置、視線検出方法、プログラム、及び集積回路 | |
JP5613528B2 (ja) | 眼電位計測装置、眼科診断装置、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがね、眼電位計測方法、及びプログラム | |
JP5613533B2 (ja) | ノイズ低減装置、眼電位計測装置、眼科診断装置、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがね、及びプログラム | |
JP5490664B2 (ja) | 眼電位推定装置、眼電位算出方法、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイおよび電子めがね | |
JP7007436B2 (ja) | 眼科装置 | |
JP5613025B2 (ja) | 視線検出装置、視線検出方法、眼電位計測装置、ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがねおよび眼科診断装置 | |
JP5665241B2 (ja) | 眼球疲労判定装置およびその作動方法 | |
JP5721291B2 (ja) | 視力矯正処置においてリアルタイムのフィードバックを提供するための機器およびその作動方法 | |
JP4668204B2 (ja) | 眼科用両眼波面測定システム | |
Olsson | Real-time and offline filters for eye tracking | |
US20120134029A1 (en) | Ophthalmic diagnostic instrument | |
JP7057186B2 (ja) | 眼科装置、及び眼科情報処理プログラム | |
US20180070814A1 (en) | Systems and methods for combined structure and function evaluation of retina | |
US20100309432A1 (en) | Eyeball motion measurement apparatus | |
US8357101B2 (en) | Electro-oculography apparatus, imaging apparatus, electro-oculography method, program, and integrated circuit | |
Tatler et al. | Eye movement recordings in natural settings | |
Ivanchenko et al. | A low-cost, high-performance video-based binocular eye tracker for psychophysical research | |
US11317861B2 (en) | Vestibular-ocular reflex test and training system | |
Miyashita et al. | Implementation of EOG-based gaze estimation in HMD with head-tracker | |
WO2018025125A1 (en) | Method of retinal sensitivity mapping using near-eye display | |
Pölzer et al. | Assisting people with nystagmus through image stabilization: Using an arx model to overcome processing delays | |
Federighi et al. | On the development of a data base for saccadic parameters and main sequence relationships—a quantitative study of video-base eye tracking | |
JP2014171586A (ja) | 視線検出装置、眼鏡レンズ設計方法、および眼鏡レンズ製造方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111007 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130122 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130215 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5204781 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160222 Year of fee payment: 3 |