JP2016049261A - 照明撮像装置および視線検出装置 - Google Patents

照明撮像装置および視線検出装置 Download PDF

Info

Publication number
JP2016049261A
JP2016049261A JP2014176152A JP2014176152A JP2016049261A JP 2016049261 A JP2016049261 A JP 2016049261A JP 2014176152 A JP2014176152 A JP 2014176152A JP 2014176152 A JP2014176152 A JP 2014176152A JP 2016049261 A JP2016049261 A JP 2016049261A
Authority
JP
Japan
Prior art keywords
light
light source
illumination
imaging
optical axis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2014176152A
Other languages
English (en)
Inventor
山下 龍麿
Tatsumaro Yamashita
龍麿 山下
栄樹 松尾
Eiju Matsuo
栄樹 松尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alps Alpine Co Ltd
Original Assignee
Alps Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alps Electric Co Ltd filed Critical Alps Electric Co Ltd
Priority to JP2014176152A priority Critical patent/JP2016049261A/ja
Priority to US14/798,853 priority patent/US20160063326A1/en
Publication of JP2016049261A publication Critical patent/JP2016049261A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • G02B27/14Beam splitting or combining systems operating by reflection only
    • G02B27/141Beam splitting or combining systems operating by reflection only using dichroic mirrors
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • G02B27/14Beam splitting or combining systems operating by reflection only
    • G02B27/147Beam splitting or combining systems operating by reflection only using averaging effects by spatially variable reflectivity on a microscopic level, e.g. polka dots, chequered or discontinuous patterns, or rapidly moving surfaces
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • G02B27/283Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising used for beam splitting or combining
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/30Polarising elements
    • G02B5/3025Polarisers, i.e. arrangements capable of producing a definite output polarisation state from an unpolarised input state
    • G02B5/3058Polarisers, i.e. arrangements capable of producing a definite output polarisation state from an unpolarised input state comprising electrically conductive elements, e.g. wire grids, conductive particles
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/30Polarising elements
    • G02B5/3083Birefringent or phase retarding elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Ophthalmology & Optometry (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Eye Examination Apparatus (AREA)

Abstract

【課題】瞳孔が収縮している場合や目が撮像カメラの近傍に焦点を合わせている場合であっても一定以上の輝度の瞳孔画像を得ることができるように照明と撮像を行うことが可能な照明撮像装置を提供する。【解決手段】検知光を出射する光源11の光軸11Cと、撮像部材12の光軸12Cとの交差部に、グリッド偏向素子である偏光板14と波長板15が設けられている。光源11から発せられた光は偏光板14で反射され、波長板15を透過して対象物に与えられる。光源11の光軸11Cを撮像部材12の光軸12Cに一致させることで、撮像部材12で明瞳孔画像を鮮明に取得できるようになる。【選択図】図1

Description

本発明は、撮像装置の撮像光軸とほぼ同軸に照明光を与えることができる照明撮像装置、および前記照明撮像装置を使用した視線検出装置に関する。
人間の目には、網膜による光の反射に再帰性の特性があり、瞳孔から入射した光はその入射方向の反対の方向に強く反射する。このため、視線検出装置においては、対象者の顔を撮影する際に、撮影カメラの光軸と同軸に光源を配置させることによって、対象者の目からの反射光の光路と撮影カメラの光軸を重ね、これによって瞳孔が明るい状態の画像を取得し、この画像から瞳孔画像を抽出して視線を検出することが提案されている。
このように画像を撮影するための装置としては、輪帯状に光源を設け、この光源全体の輝度分布の重心位置(仮想光軸)がカメラの光軸と同一となるように配置した輪帯照明方式(例えば特許文献1)が知られている。
ここで、目の特性として、瞳孔画像を得るためにはカメラで撮影される網膜の領域に照明光が到達している必要があるが、瞳孔が収縮しているために撮影される網膜の領域が小さい場合や、カメラとほぼ等距離の範囲に目が焦点を合わせている場合には瞳孔画像が得られにくいことが分かっている。
国際公開2012/020760号公報
しかしながら、上記輪帯方式は構造が単純ではあるが、光源とカメラの光軸を厳密に同軸に合わせるのが困難であり、このような配置関係において、瞳孔が収縮している場合や目が撮像カメラの近傍に焦点を合わせている場合は一定以上の輝度の瞳孔画像を得ることは難しい。
そこで本発明は、撮像装置の撮像光軸とほぼ同軸に照明光を与えることができる照明撮像装置を提供することを目的としている。
また本発明は、瞳孔が収縮している場合や目が撮像カメラの近傍に焦点を合わせている場合であっても、一定以上の輝度の瞳孔画像を得ることができるように照明と撮像を行うことが可能な視線検出装置を提供することを目的とする。
上記課題を解決するために、本発明は、検知光を出射する光源と、前記光源からの照明光が与えられた対象物の画像を取得する撮像部材とを備えた照明撮像装置において、
前記光源と前記撮像部材は、光軸が互いに交差して配置されており、
前記光源の光軸と前記撮像部材の光軸との交差部に配置されて、前記光源からの入射光の一部を反射し残りを透過させる分岐素子と、前記光源と前記分岐素子との間に配置されて、前記撮影部材の画角に基づいて光の発散角を調整する発散角調整素子と、前記分岐素子で分岐された前記照明光以外の光の進行方向前方に配置された反射防止部材と、が設けられていることを特徴とする
ものである。
本発明は、撮像部材による撮像光軸に、光源の発光光軸を一致させ、または接近させることができるため、光源からの照明光が与えられた対象物の画像を撮像部材で鮮明に取得できる。例えば、対象物である人の目の瞳孔が収縮している場合や、人の目が撮像部材とほぼ等距離の範囲に焦点を合わせている場合であっても、瞳孔画像(明瞳孔画像、暗瞳孔画像)を確実に取得することができる。
例えば、前記分岐素子は、グリッド偏光子と波長板とから構成され、前記検知光の偏光成分はp偏光成分とs偏光成分を含み、前記波長板が、ぞれぞれの前記光軸に対して傾けて配置されていることを特徴とするものである。
あるいは、前記分岐素子は、ポルカドット方式の反射鏡であることを特徴とする。
さらには、前記分岐素子は、波長選択式の反射鏡であることを特徴とするものである。
前記いずれかの分岐素子を使用することにより、光の吸収損失が少なく、光の利用効率を高くできる。
また、偏光板にグリッド偏光子を使用することで、光源からの光を発散角調整素子によって発散光にして偏光板に与えた場合でも、偏光板から対象物に減衰の小さい発散光を与えることができる。これにより、光源から出射される検知光と対象物からの反射光の減衰を抑えることができ、検知光の利用効率を高く維持することができる。また、撮像部材への入射光量を十分確保できるため、SN比の低下を防ぐことができ、瞳孔画像の抽出や視線方向の検出を高精度で行うことができる。
特にグリッド偏光子を使用することにより、可視光から赤外光までの広い波長範囲で高い偏光分離性能を得ることができる。また、耐熱性に優れるため、自動車の車室内などの高温環境下でも偏光分離が可能である。
また、振幅型の分岐素子としてポルカドット方式の反射鏡を使用すると、透過と反射の割合を調整しやすくなり、例えば、透過と反射比率が50%に近い分岐素子を実現することも可能である。
また、発散角調整素子を使用すると、光源から発せられる照明光の発散角を撮像部材の画角に合わせることができ、撮像部材で常に対象者の顔を含む広い範囲の画像を鮮明に取得できるようになる。
本発明の照明撮像装置においては、前記光源からの光のうち、分岐素子により照明光として対象者に向かう以外の光の進行方向前方に反射防止部材が配置されている。
これにより、対象者に与えられない光が再度分岐素子に、あるいは直接に撮像部材に入射することを抑えることができ、対象者の視線方向の検出を精度良く行うことができる。
以上のように、本発明は、高効率の分岐素子、発散角調整素子、反射防止部材等を総合的に最適化することで、対象者の照明光強度を向上するとともに、装置自身眼からのフレア発生を抑制することで、総合的に高いSN比を有する照明撮像装置を実現することが可能となる。
本発明の視線検出装置は、前記照明撮像装置が使用され、前記光源が点灯したときに、前記撮像部材で明瞳孔画像が取得され、前記光源よりも波長の長い第2の光源が点灯したときに、前記撮像部材で暗瞳孔画像が取得されることを特徴とするものである。
前記第2の光源は、前記光源から前記分岐素子に至る光路とは別の光路上に配置されているものとして構成できる。または、前記第2の光源は、前記光源から前記分岐素子に至る光路上に配置されているものとして構成できる。
本発明の視線検出装置は、明瞳孔を撮影するための光源の発光方向を、撮像部材の撮像光軸に一致させまたは接近させることができるため、明瞳孔画像を鮮明に撮影できるようになる。よって、撮像時の条件によらずに対象者の視線方向を精度良く検出することが可能となる。
本発明の照明撮像装置は、照明光を撮像部材の光軸に一致させまたは接近させて与えることができ、撮像部材で鮮明な画像を取得することができる。
本発明の視線検出装置は、明瞳孔画像を鮮明に取得できるようになり、瞳孔が収縮している場合や目が撮像カメラの近傍に焦点を合わせている場合であっても一定以上の輝度の瞳孔画像を得ることが可能となる。
本発明の実施形態に係る照明撮像装置の概略構成を示す図である。 本発明の実施形態に係る照明撮像装置を含む視線検出装置の構成を示すブロック図である。 人の目の視線の向きと照明撮像装置との関係を示す平面図である。 瞳孔中心と角膜反射光の中心とから視線の向きを算出するための説明図である。
以下、本発明の実施形態に係る照明撮像装置について図面を参照しつつ詳しく説明する。以下、対象者の視線を検出するための視線検出装置に用いる照明撮像装置について説明する。
図1は、本発明の実施形態に係る照明撮像装置の概略構成を示す図であり、図2は、本実施形態に係る照明撮像装置を含む視線検出装置の構成を示すブロック図である。
図1に示すように、本実施形態に係る照明撮像装置10は、第1の光源11と、撮像部材12と、発散角調整素子として機能するレンズ13と、偏光型の分岐素子として機能する偏光板14ならびに波長板15と、さらに反射防止部材16とを備える。
図2に示すように、本実施形態に係る視線検出装置20は、前記照明撮像装置10と、演算制御部CCとを備え、自動車の車室内の、例えばインストルメントパネルやウインドシールドの上部などに、対象物(対象者)である運転者の顔に向けるように設置される。
図1に示す第1の光源11は、赤外線光を発するLED(発光ダイオード)である。第1の光源11の前方に前記レンズ13が設けられており、第1の光源11の光軸11Cとレンズ13の光軸13Cとが一致している。第1の光源11から出射された検知光は、光軸11Cに沿った光路L11を進行してレンズ13に入射する。レンズ13は、組み合わせレンズや非球面単レンズであって、配光特性が調整され、偏光板14側へ出射角度θを有する発散光となって出射される。この射出角θは、撮像部材12の画角に基づいて決定される。
実施の形態での第1の光源11は、LEDであり、検知光として、波長850nm(第1波長)の赤外光(近赤外光)を出射する。
偏光板14は、入射光の偏光成分に応じて、入射光の一部を反射し残りを透過させる損失の少ない光学素子であり、例えばワイヤーグリッド偏光子を用いる。ワイヤーグリッド偏光子は、透光性の基板と、この基板に平行に並べられた多数の金属ワイヤ(例えばアルミニウム)とで構成されている。ワイヤーグリッド偏光子は、前記金属ワイヤに垂直な電界ベクトルを有する入射光(p偏光成分と定義する)を透過し、ワイヤに平行な電界ベクトルを有する入射光(s偏光成分と定義する)を反射する。
第1の光源11であるLEDから発せられる検知光の偏光成分のうち、ワイヤーグリッド偏光子に対しては、s偏光成分のほとんどが反射され、p偏光成分のほとんどが透過する。第1の光源11から発せられる光はレンズ13によって出射角度がθとなる発散光となるが、ワイヤーグリッド偏光子を使用すると、発散状態で入射するs偏光成分を発散光として反射させることができる。
偏光板14は、第1の光源11の光軸11Cとレンズ13の光軸13Cに対して、45度の角度を成すように対象者側に傾けて配置される。これにより、偏光板14からの反射光は、レンズ13の光軸13Cに対して90度を成す方向(光路L12)に向けて発散光として出射される。
偏光板14からの反射光の光路L12上には、波長板15が配置されている。波長板15は、偏光板14からの反射光の光路L12に対して所定角度γだけ傾けて配置されている。偏光板14と波長板15は互いに非平行となるように配置している。波長板15を光軸12Cに対して傾けて配置することにより、光源からの照明光が波長板15で反射され、撮像部材12に入射するようなフレアの発生を避けることができる。傾ける角度γは、撮影部材12の画角に依存する。また偏光板14と波長板15とを非平行にしているのは、波長板15を偏光板14と同じ角度にすると波長板15が大型化するためである。したがって、偏光板14と波長板15とを接着して一体化する場合は、波長板15は偏光板14と同じ角度(この場合45°)に配置されることになる。
波長板15は、例えばλ/4波長板を用いることができる。偏光板14を反射したs偏光成分は、波長板15を透過することで位相差が90度シフトされて円偏光に変換される。偏光板14で反射されて波長板15を透過した円偏光成分は対象者の顔に向かう。この光は拡散光であるため、対象者の目を含む広い領域で、ほぼ顔全体を照明できるようになる。
対象者の目を含む領域(ほぼ顔全体)で反射された光は、波長板15に向かって光路L13上を戻る。この反射戻り光は、対象者に反射されて位相差が180度変化して光路L12で進んだ円偏光と逆向きの円偏光となる。この円偏光がλ/4波長板である波長板15を透過すると、その透過光は主にp偏光波に変換され、ほとんどの光成分が偏光板14を透過して撮像部材12側へ向かって光路L14上を進む。
撮像部材12は、撮像素子12Aと対物レンズ12Bを備える。撮像素子12Aとしては、例えば、CMOS(相補型金属酸化膜半導体)やCCD(電荷結合素子)などを用いる。対物レンズ12Bは、レンズ13の出射角度とほぼ等しい画角θを有し、対象者の目で反射されて偏光板14を透過した光を撮像素子12A上に集光させる。撮像部材12は、その光軸12Cが、第1の光源11の光軸11Cと互いに略直交するように配置され、その交差部に偏光板14が配置されている。撮像部材12の光軸12Cは、偏光板14から撮像部材12へ入射する光の光路L14に重なっている。撮像部材12は、波長板15と偏光板14を経て入射した、運転者の目を含む顔の画像を取得する。撮像素子12Aでは、二次元的に配列された複数の画素で光が検出される。
図1に示すように、レンズ13からの出射角度θの範囲内であって、偏光板14に関してレンズ13と反対側に、反射防止部材16が設けられている。別言すると、反射防止部材16は、第1の光源11から偏光板14に入射した光のうち、偏光板14を透過した光の光路上に配置されている。反射防止部材16は、それに入射する光の光路を変換して戻り光を抑える反射鏡や、入射した光を吸収する部材で構成され、例えば、第1の光源11から出射される検知光の波長の光を吸収する材料で構成する。反射防止部材16は、表面にくさび状の凹凸をつけることで、吸収と反射防止効果を高める構成とすることが可能である。
ここで、偏光板14として使用されるワイヤーグリッド偏光子は、s偏光成分の反射率が90%程度で、p偏光成分の透過率が80%程度である。第1の光源11から発せられてレンズ13で配光調整された検知光のp偏光成分が占める比率は50%程度となるのが一般的である。波長板15の光透過率は98%程度であるため、第1の光源11から発せられた光が撮像素子12Aで取得されるまで光路上での光の利用率は、偏光板14と波長板15以外の部分での光の減衰を無視して計算すると、
0.5(レンズ13を透過したs偏光成分)×0.9(偏光板14によるs偏光成分の反射効率)×0.98(波長板15の光透過効率)×0.98(波長板15の光透過効率)×0.8(偏光板14によるp偏光成分の透過効率)=0.346(34.6%)
以上の通りである。これに対し、偏光板14と波長板15の代わりに通常の金属ハーフミラーを用いると、第1の光源11から発せられた光に対して撮像素子12Aで受光させることができる光量は、金属による吸収のためせいぜい16%程度である。このように、前記偏光板14と波長板15を使用することにより、第1の光源から発せられた光を照明光として使用したときに対象物(対象者)の画像を鮮明に取得できる。
前記実施の形態では、撮像部材12が運転者などの対象者と対向し、光源11からの照明光が分岐素子で反射されて対象者に向かう構成となっているが、光源11と対象者とを対向させ、対象者からの反射光を分岐素子で反射させて撮像部材12で撮像する構成も可能である。
図1に示すように、照明撮像装置10を含む視線検出装置20には、第2の光源17が設けられている。
第2の光源17は、第1の光源11から偏光板14に至る光路L11とは別の光路上に配置されている。例えば、第2の光源17は、偏光板14の影響を受けることがないように、偏光板14よりも対象物(対象者)に近い側に配置されることが好ましい。
第2の光源17は赤外光を発するLEDであり、発せられる赤外光の波長は940nmである。第1の光源11から発せられる850nmの赤外光(近赤外光)は、人の目の眼球内で吸収されにくい波長であり、眼球の奥の網膜での光の反射率が高くなる。これに対し、第2の光源17から発せられる940nmの赤外光は、眼球内で吸収されやすく、網膜での光の反射率が低い。
第1の光源11からの光路L11は、偏光板14で反射されて、撮像部材12に設けられている対物レンズ12Bの光軸12Cとほぼ一致する。この構造では、第1の光源11が点灯したときに、対象者の目の網膜で反射された波長850nmの赤外光が、瞳孔を通じて撮像素子12Aで鮮明に取得されるようになる。このときの取得画像が明瞳孔画像である。第1の光源11の光軸11Cと対物レンズ12Bの光軸12Cを一致させることで、比較的明るい環境下で使用されたような場合であっても、明瞳孔画像を鮮明に取得できるようになる。
これに対し、第2の光源17は、対物レンズ12Bの光軸12Cから離れた位置に配置されている。第2の光源17から発せられる波長940nmの赤外光は、網膜での光吸収率が高く、網膜からの反射率が小さくなるが、それでも少しの量の光は網膜で反射される。しかし、第2の光源17の光軸17Cと、対物レンズ12Bの光軸12Cとをずらしておくことにより、第2の光源17を点灯したときに、撮像素子12Aで取得される画像に瞳孔からの反射光が写りにくくなる。このときの取得画像が暗瞳孔画像である。
図2に示すように、演算制御部CCは、コンピュータのCPUやメモリで構成されており、図2に示す各ブロックの機能は、予めインストールされたソフトウエアを実行することで演算が行われる。
演算制御部CCには、光源制御部21と、画像取得部22と、瞳孔画像抽出部30と、瞳孔中心算出部33と、角膜反射光中心検出部34と、視線方向算出部35とが設けられている。
撮像部材12で取得された画像は、フレームごとに画像取得部22に取得される。画像取得部22で取得された画像は、フレームごとに瞳孔画像抽出部30に読み込まれる。瞳孔画像抽出部30は、明瞳孔画像検出部31と暗瞳孔画像検出部32とを備えている。
第1の光源11と第2の光源17の点灯は、光源制御部21によって切換え制御される。第1の光源11が点灯しているときは、瞳孔画像抽出部30の明瞳孔画像検出部31で明瞳孔画像が検出され、第2の光源17が点灯しているときは、暗瞳孔画像検出部32で暗瞳孔画像が検出される。
図3は、対象者の目40の視線の向きと照明撮像装置10との関係を模式的に示す平面図である。図4は、瞳孔中心と角膜反射光の中心とから視線の向きを算出するための説明図である。図3(A)と図4(A)は、対象者の視線方向VLが撮像部材12の光軸12Cに沿っている場合であり、図3(B)と図4(B)は視線方向VLが撮像部材12の光軸12Cからずれている場合である。
目40は前方に角膜41を有し、その後方に瞳孔42と水晶体43が位置している。そして最後部に網膜44が存在している。
波長850nmの検知光は、網膜44上で反射されやすいため、第1の光源11が点灯したときに、撮像部材12で取得される画像では、網膜44で反射された赤外光(近赤外光)が瞳孔42を通じて検出され、瞳孔42が明るく見える。この画像が明瞳孔画像として明瞳孔画像検出部31で抽出される。前述のように、第1の光源11の光軸11Cと、撮像部材12に設けられた対物レンズ12Bの光軸12Cとが実質的に一致しているため、第1の光源11が点灯しているときに、明瞳孔画像を鮮明に取得することができる。
これに対して、波長940nmの検知光は、網膜44上で反射されにくいため、第2の光源17が点灯したときに撮像部材12で取得される画像では、網膜44から赤外光がほとんど反射されず、瞳孔42が暗く見える。この画像が暗瞳孔画像として、暗瞳孔画像検出部32で抽出される。特に、第2の光源17の光軸17Cと対物レンズ12Bの光軸12Cとを離しておくことで、第2の光源17が点灯したときに、取得される暗瞳孔画像に、瞳孔が写りにくくなる。
瞳孔画像抽出部30では、明瞳孔画像検出部31で検出された明瞳孔画像から暗瞳孔画像検出部32で検出された暗瞳孔画像がマイナスされて、瞳孔42の形状が明るくなった瞳孔画像信号が生成される。この瞳孔画像信号は、瞳孔中心算出部33に与えられる。瞳孔中心算出部33では、瞳孔画像信号が画像処理されて二値化され、瞳孔42の形状と面積に対応する部分のエリア画像を算出される。さらに、このエリア画像を含む楕円が抽出され、楕円の長軸と短軸との交点が瞳孔42の中心位置として算出される。
一方、波長850nmと波長940nmの検知光はいずれも、角膜41の表面で反射され、その反射光が明瞳孔画像検出部31と暗瞳孔画像検出部32の双方で検出される。特に暗瞳孔画像検出部32では、瞳孔42の画像が暗いため、角膜41の反射点45から反射された反射光が明るくスポット画像として検出される。
暗瞳孔画像検出部32で検出された暗瞳孔画像信号は、角膜反射光中心検出部34に与えられる。暗瞳孔画像信号は、3と図4に示す、角膜41の反射点45から反射された反射光による輝度信号が含まれている。角膜41の反射点45からの反射光はプルキニエ像を結像するものであり、図4に示すように、撮像部材12の撮像素子には、きわめて小さい面積のスポット画像が取得される。角膜反射光中心検出部34では、スポット画像が画像処理されて、角膜41の反射点45からの反射光の中心が求められる。
瞳孔中心算出部33で算出された瞳孔中心算出値と角膜反射光中心検出部34で算出された角膜反射光中心算出値は、視線方向算出部35に与えられる。視線方向算出部35では、瞳孔中心算出値と角膜反射光中心算出値とから視線の向きが検出される。
図3(A)に示す場合では、人の目40の視線方向VLが、撮像部材12の光軸12Cと一致している。このとき、図4(A)に示すように、角膜41からの反射点45の中心が瞳孔42の中心と一致している。これに対して、図3(B)に示す場合では、人の目40の視線方向VLが、撮像部材12の光軸12Cと異なる方向へ向けられている。このとき、図4(B)に示すように、瞳孔42の中心と角膜41からの反射点45の中心とが位置ずれする。
視線方向算出部35では、瞳孔42の中心と、角膜41からの反射点45の中心との直線距離αが算出される(図4(B))。また瞳孔42の中心を原点とするX−Y座標が設定され、瞳孔42の中心と反射点45の中心とを結ぶ線とX軸との傾き角度βが算出される。さらに、前記直線距離αと前記傾き角度βとから、視線方向VLが算出される。
視線方向算出部35において、視線方向VLを精度良く算出するためには、瞳孔42の中心座標と反射点45の中心座標を高精度に検出することが必要である。
なお、視線検出装置20には、第1の光源11と第2の光源17ならびに撮像部材12を有する照明撮像装置10が2組設けられることが好ましい。2組の照明撮像装置10使用することにより、瞳孔の検出やプルキニエ像の
検出を、ステレオ方式で三次元的に求めることができる。
以上のように構成されたことから、上記実施形態によれば、次の効果を奏する。
(1)対象者の目からの反射光が偏光板14から撮像部材12へ入射する光路L14が、撮像部材12の光軸12Cに重なるように構成されているため、周囲が明るい場合や、対象者の目の瞳孔が収縮している場合、あるいは対象者の目が撮像部材12とほぼ等距離の範囲に焦点を合わせている場合であっても、明瞳孔画像を確実に取得することができ、これにより、撮像時の条件によらずに対象者の視線方向を精度良く検出することが可能となる。
(2)光学素子として偏光板14を用いたことにより、第1の光源11から出射される検知光や対象者の目からの反射光の減衰を抑えることができ、検知光の利用効率を高く維持することができる。これにより、撮像部材12への入射光量を十分確保できるため、SN比の低下を防ぐことができ、瞳孔画像の抽出や視線方向の検出を高精度で行うことができる。
(3)偏光板14としてグリッド偏光子を用いることにより、可視光から赤外光までの広い波長範囲で高い偏光分離性能を得ることができる。また、耐熱性に優れるため、自動車の車室内などの高温環境下でも偏光分離が可能である。さらに、レンズ13を用いて発散状態となった赤外光を対象物に送ることが可能になる。
(4)反射防止部材16を設けたことにより、偏光板14を透過して対象者に与えられない光が撮像部材12に入射することを抑えることができ、これにより、対象者の視線方向の検出を精度良く行うことができる。
(5)発散角調整素子として機能するレンズ13を設けることで、撮像部材の画角と照明光の照明角を最適な関係に保つことができ、照明の効率化とフレアの低減を図ることができる。
次に、本発明の変形例について説明する
(a)装置構成としての変形例
図1では、第2の光源17を、第1の光源11の光軸と離れた位置に配置しているが、第1の光源11の位置に、2つの波長の光を発する2つの発光源(発光チップ)を配置してもよい。この場合には、検知光として、波長850nm(第1波長)の赤外光と波長940nm(第2波長)の赤外光を選択的に出射できるようにする。
ただし、暗瞳孔画像に瞳孔を写りにくくするためには、940nmの光を発する第2の光源17の光軸17Cを、対物レンズ12Bの光軸12Cから離しておくことが好ましい。
なお、第2の光源17として第1の光源11と同じ波長の光を発するLEDなどを使用し、対物レンズ12Bの光軸12Cから大きく離しておいてもよい。この場合、対物レンズ12Bと同軸に光を発する第1の光源11を点灯したときに明瞳孔画像が取得され、対物レンズ12Bの光軸12Cから大きく離れた光源が点灯したときに、撮像素子12Aで暗瞳孔画像が取得される。
(b)分岐素子の変形例
前記実施の形態では、偏光型の分岐素子として、偏光板14ならびに波長板15とが組み合わされて使用されている。従来の分岐素子の例として、樹脂を一方向に引き伸ばした偏光板や金属のハーフミラーなどが一般的なものとして使用されているが、これら従来の分岐素子は吸収損失が比較的大きい。そこで、本発明で使用される分岐素子は、吸収などの損失が少なく効率の良いものが好ましく、高効率の分岐素子としては、前記偏光型の他に振幅型や波長選択型などを使用することができる。
振幅型の分岐素子としては、透明基板に島状に反射部が点在するポルカドット方式の反射鏡を利用することができる。この反射鏡は、通常の金属ミラーを用いたハーフミラーとは異なり、点在する島部の反射率を可能な限り高く設定できる。透過と反射の割合は島状の反射部とそれ以外の透明部分との比率によって決定されるため、吸収損失が少なく、透過と反射比率を50%に近い状態に設定した分岐素子とすることができる。この分岐素子の場合、角度変化による特性の変化が小さいという利点も有する。
分岐素子として波長選択型の反射鏡を利用することも可能である。これはある決められた帯域の波長の光を反射・透過するミラーで、その他の波長の光は透過させる。このような分岐素子もポルカドットと同程度の高い効率を実現できる。
(c)発散角調整素子
前記実施の形態では、発散角調整素子として、組み合わせレンズや非球面単レンズなどのレンズ13が使用されている。
撮影部材12は、あらかじめ決められた角度範囲(画角)の画像を取得するものであるため、第1の光源11からの照明光は少なくともこの画角範囲を照明できることが必要である。第1の光源11としては、実施の形態で説明したLEDの他にレーザなどを発する固体光源が使用される。これらの光源はその物理的構造により様々な発散角を持つ。これら光源固有の発散角を撮影に必要な範囲の角度に調整するのが発散角調整素子である。本明細書での発散角調整とは、光源の発散角を狭める、あるいは広げる、均一性を改善する等、使用する光源に応じた様々な調整を意味している。
この調整素子の役割は、必要な画角範囲に照明光を集中し、照明効率を高めることと、それ以外の無駄な光の割合を少なくし、フレアの発生抑制することで画像のSNを向上するという役割をもつ。このような機能を発揮できる発散角調整素子としては、前記レンズ13の他、反射鏡やフレネルレンズなどが使用される。
(d)反射防止部材の変形例
反射防止部材としては、第1の光源11から発せられる光の進行方向に対して傾けた反射鏡を配置し、分岐素子に直接戻らない構成としたものや、微小なくさび構造に反射防止塗料を塗布したものなどが使用可能である。
以上のように、本発明に係る照明撮像装置は、対象者の視線を検出するための視線検出装置における照明及び撮像に有用である。
10、110 照明撮像装置
11 第1の光源
11C 光軸
12 撮像部材
12A 撮像素子
12B 対物レンズ
12C 光軸
13 レンズ(発散角調整素子)
14 偏光板(分岐素子)
15 波長板
16 反射防止部材
17 第2の光源
30 瞳孔画像抽出部
31 明瞳孔画像検出部
32 暗瞳孔画像検出部
33 瞳孔中心算出部
34 角膜反射光中心検出部
35 視線方向算出部
40 目

Claims (7)

  1. 検知光を出射する光源と、前記光源からの照明光が与えられた対象物の画像を取得する撮像部材とを備えた照明撮像装置において、
    前記光源と前記撮像部材は、光軸が互いに交差して配置されており、
    前記光源の光軸と前記撮像部材の光軸との交差部に配置されて、前記光源からの入射光の一部を反射し残りを透過させる分岐素子と、
    前記光源と前記分岐素子との間に配置されて、前記撮影部材の画角に基づいて光の発散角を調整する発散角調整素子と、
    前記分岐素子で分岐された前記照明光以外の光の進行方向前方に配置された反射防止部材と、
    が設けられている
    ことを特徴とする照明撮像装置。
  2. 前記分岐素子は、グリッド偏光子と波長板とから構成され、前記検知光の偏光成分はp偏光成分とs偏光成分を含み、前記波長板が、ぞれぞれの前記光軸に対して傾けて配置されていることを特徴とする請求項1に記載の照明撮像装置。
  3. 前記分岐素子は、ポルカドット方式の反射鏡であることを特徴とする請求項1に記載の照明撮像装置。
  4. 前記分岐素子は、波長選択式の反射鏡であることを特徴とする請求項1に記載の照明撮像装置。
  5. 請求項1ないし4のいずれかに記載の照明撮像装置が使用され、前記光源が点灯したときに、前記撮像部材で明瞳孔画像が取得され、前記光源よりも波長の長い第2の光源が点灯したときに、前記撮像部材で暗瞳孔画像が取得されることを特徴とする視線検出装置。
  6. 前記第2の光源は、前記光源から前記分岐素子に至る光路とは別の光路上に配置されている請求項5記載の視線検出装置。
  7. 前記第2の光源は、前記光源から前記分岐素子に至る光路上に配置されている請求項5記載の視線検出装置。
JP2014176152A 2014-08-29 2014-08-29 照明撮像装置および視線検出装置 Withdrawn JP2016049261A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014176152A JP2016049261A (ja) 2014-08-29 2014-08-29 照明撮像装置および視線検出装置
US14/798,853 US20160063326A1 (en) 2014-08-29 2015-07-14 Illumination imaging device and gaze detecting apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014176152A JP2016049261A (ja) 2014-08-29 2014-08-29 照明撮像装置および視線検出装置

Publications (1)

Publication Number Publication Date
JP2016049261A true JP2016049261A (ja) 2016-04-11

Family

ID=55402857

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014176152A Withdrawn JP2016049261A (ja) 2014-08-29 2014-08-29 照明撮像装置および視線検出装置

Country Status (2)

Country Link
US (1) US20160063326A1 (ja)
JP (1) JP2016049261A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018021805A (ja) * 2016-08-03 2018-02-08 キヤノン株式会社 照明装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11343864B2 (en) * 2014-04-25 2022-05-24 Lenovo (Singapore) Pte. Ltd. Device pairing
KR101745140B1 (ko) * 2015-09-21 2017-06-08 현대자동차주식회사 시선 추적 장치 및 방법
US10750070B2 (en) * 2015-12-18 2020-08-18 Ligitek Electronics Co., Ltd. Light-emitting diode and surveillance camera device using the same

Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS50136023A (ja) * 1974-04-15 1975-10-28
US5062702A (en) * 1990-03-16 1991-11-05 Intelligent Surgical Lasers, Inc. Device for mapping corneal topography
JPH0523303A (ja) * 1991-07-20 1993-02-02 Canon Inc 検眼装置
JPH05154106A (ja) * 1991-11-29 1993-06-22 Asahi Optical Co Ltd 視線検出装置
JPH10221591A (ja) * 1997-02-05 1998-08-21 Canon Inc 視線検出機能を有する一眼レフカメラのファインダ
JP2001258842A (ja) * 2000-03-22 2001-09-25 Nidek Co Ltd 眼科装置
JP2002034919A (ja) * 2000-07-28 2002-02-05 Topcon Corp 眼光学特性測定装置
JP2003112279A (ja) * 2001-10-04 2003-04-15 Hitachi Ltd レーザ光照射装置
JP2005334131A (ja) * 2004-05-25 2005-12-08 Nippon Acp Kk 撮像装置付きヘッドライト及び撮像装置付き照明システム
JP2005345425A (ja) * 2004-06-07 2005-12-15 Sealive Inc 外観検査装置及び紫外光照明装置
JP2008125619A (ja) * 2006-11-17 2008-06-05 National Univ Corp Shizuoka Univ 瞳孔検出装置及び瞳孔検出方法
JP2009153676A (ja) * 2007-12-26 2009-07-16 Tomey Corporation 前眼部断面撮影装置
JP2011027715A (ja) * 2009-06-25 2011-02-10 Canon Inc 光干渉断層法を用いる撮像装置及び撮像方法
US20130127980A1 (en) * 2010-02-28 2013-05-23 Osterhout Group, Inc. Video display modification based on sensor input for a see-through near-to-eye display
US20130135584A1 (en) * 2010-09-22 2013-05-30 Optomed Oy Examination instrument
US20130188834A1 (en) * 2010-08-09 2013-07-25 Yoshinobu Ebisawa Gaze point detection method and gaze point detection device
JP2014151025A (ja) * 2013-02-08 2014-08-25 Scalar Corp 眼球撮像装置

Patent Citations (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS50136023A (ja) * 1974-04-15 1975-10-28
US5062702A (en) * 1990-03-16 1991-11-05 Intelligent Surgical Lasers, Inc. Device for mapping corneal topography
JPH0523303A (ja) * 1991-07-20 1993-02-02 Canon Inc 検眼装置
JPH05154106A (ja) * 1991-11-29 1993-06-22 Asahi Optical Co Ltd 視線検出装置
US5293535A (en) * 1991-11-29 1994-03-08 Asahi Kogaku Kogyo Kabushiki Kaisha Eye direction detecting device
JPH10221591A (ja) * 1997-02-05 1998-08-21 Canon Inc 視線検出機能を有する一眼レフカメラのファインダ
JP2001258842A (ja) * 2000-03-22 2001-09-25 Nidek Co Ltd 眼科装置
JP2002034919A (ja) * 2000-07-28 2002-02-05 Topcon Corp 眼光学特性測定装置
JP2003112279A (ja) * 2001-10-04 2003-04-15 Hitachi Ltd レーザ光照射装置
JP2005334131A (ja) * 2004-05-25 2005-12-08 Nippon Acp Kk 撮像装置付きヘッドライト及び撮像装置付き照明システム
JP2005345425A (ja) * 2004-06-07 2005-12-15 Sealive Inc 外観検査装置及び紫外光照明装置
JP2008125619A (ja) * 2006-11-17 2008-06-05 National Univ Corp Shizuoka Univ 瞳孔検出装置及び瞳孔検出方法
JP2009153676A (ja) * 2007-12-26 2009-07-16 Tomey Corporation 前眼部断面撮影装置
JP2011027715A (ja) * 2009-06-25 2011-02-10 Canon Inc 光干渉断層法を用いる撮像装置及び撮像方法
US20130127980A1 (en) * 2010-02-28 2013-05-23 Osterhout Group, Inc. Video display modification based on sensor input for a see-through near-to-eye display
US20130188834A1 (en) * 2010-08-09 2013-07-25 Yoshinobu Ebisawa Gaze point detection method and gaze point detection device
US20130135584A1 (en) * 2010-09-22 2013-05-30 Optomed Oy Examination instrument
JP2014151025A (ja) * 2013-02-08 2014-08-25 Scalar Corp 眼球撮像装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018021805A (ja) * 2016-08-03 2018-02-08 キヤノン株式会社 照明装置

Also Published As

Publication number Publication date
US20160063326A1 (en) 2016-03-03

Similar Documents

Publication Publication Date Title
CN108882845B (zh) 基于经由光导光学元件的视网膜成像的眼动追踪器
JP2022031715A (ja) 視標追跡及び走査レーザ投影をウェアラブルヘッドアップディスプレイに統合するシステム、デバイス、及び方法
US10684477B2 (en) Near-eye display device and methods with coaxial eye imaging
US9606354B2 (en) Heads-up display with integrated display and imaging system
US10474229B1 (en) Folded viewing optics with high eye tracking contrast ratio
KR102380693B1 (ko) 투사형 표시 장치
WO2015012280A1 (ja) 視線検出装置
JP6206560B2 (ja) システム
US10725292B2 (en) Gaze-tracking system and aperture device
KR20180021086A (ko) 조명기
JP7302592B2 (ja) 情報検出装置、映像投影装置、情報検出方法、及び映像投影方法
US10452911B2 (en) Gaze-tracking system using curved photo-sensitive chip
CN107997737B (zh) 眼部成像***、方法及装置
JP2016049261A (ja) 照明撮像装置および視線検出装置
RU2019142858A (ru) Системы и способы проецирования на глаз с управлением фокусировкой
US11256087B2 (en) Holographic eye imaging device
JP2015084972A5 (ja)
JP2016051312A (ja) 視線検出装置
US11594075B2 (en) Holographic eye imaging device
TWM547127U (zh) 具有瞳孔追蹤功能的影像投影裝置及其瞳孔位置追蹤裝置
CN112219084B (zh) 眼球检测单元和图像显示装置
TWI634869B (zh) 具有瞳孔追蹤功能的影像投影裝置及其瞳孔位置追蹤裝置
JP2016049262A (ja) 照明撮像装置
CN107300824B (zh) 光源模块

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171114

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20171207