複合現実ディスプレイシステムを含む仮想および拡張現実ニアアイディスプレイシステムは、好ましくは、高い光学品質を伴って画像情報を視認者の眼に提供する一方で、視認者の眼が移動しているときの画像情報の連続受信も可能にすることができる。例えば、ユーザは、好ましくは、ユーザの眼がディスプレイに対して移動するときでさえも、(例えば、表示された画像を視認するために)画像情報を受信し続けることができる。画像情報は、光源からの変調された光の形態をとり得る。例えば、光源からの光は、変調された光を視認者の眼の中に向ける前、画像情報で光をエンコードするために空間光変調器によって変調されることも、されないこともある。コンパクトおよび/またはポータブルディスプレイシステムを形成するために、ディスプレイシステムは、好ましくは、光源からの光を効率的に利用する。高い効率は、光源の電力要件を低減させる一方で、依然として、望ましく明るい画像を生成する。光の利用が効率的であるほど、ディスプレイシステムは、概して、より小型かつより長寿命であり得る。
変調された光は、ディスプレイシステムの射出瞳を通して視認者の眼に提供され得ることを理解されたい。例えば、ディスプレイシステムは、投影/リレーシステムを利用し得、投影/リレーシステムは、空間光変調器からの画像光を無限遠または近無限遠焦点画像に転写し、それは、上流プロジェクタ光学システムによって形成される射出瞳を通して視認者によって視認される。これらの光学システムにおいて、システムの射出瞳は、小さくあり得(例えば、0.5~2mm)、それは、ディスプレイシステムから出射する光の全てが眼瞳孔に好ましく入射することを可能にするために、射出瞳との視認者の眼瞳孔(視認者の眼の瞳孔)の慎重な整列を要求し得る。射出瞳と眼瞳孔との不整列は、ディスプレイシステムから出射する光の一部が視認者の眼によって捕捉されないことを引き起こし、それは、口径食等の望ましくない光学アーチファクトを引き起こし得る。
瞳拡張が、整列要件を緩和するためにディスプレイシステムで採用され得る。例えば、瞳拡張接眼レンズが、1つ以上の光ガイドによって形成され得る接眼レンズにわたって複数のビームレットの中に入力光を回折的にサンプリングするために使用され得る。例えば、瞳拡張は、接眼レンズにわたって光線を複製することを伴い得る。「アイボックス」は、例えば、接眼レンズから出射するビームレットを捕捉することによって、空間光変調器を使用して形成された画像を見るために、視認者がその瞳孔を設置するエリアまたはボリュームとして説明され得る。アイボックスの大きいサイズは、視認者が有意な口径食を知覚することなく、視認者の瞳孔が移動および回転することを可能にする。しかしながら、視認者の眼が、所与の瞬間にアイボックス内に存在する光のわずかな割合しかサンプリングしないであろうから、これは、効率的な光の利用を犠牲にして達成される。したがって、光源によって放射され、後に接眼レンズによって出力される光の大部分は、視認者の眼瞳孔に入射しない。
接眼レンズの光ガイドからの光線を複製および出力するために使用される光学要素はまた、非効率的な光の利用に影響し得る。例えば、回折構造自体の使用が、光の利用の非効率に影響し得る。回折構造が、典型的に、単一の所望の方向に全ての光を向けるわけでもなく、回折構造が、典型的に、所望の方向に異なる波長の光を一様に向けることもないからである。加えて、接眼レンズから外への光の一様な分布および光束は、高い知覚される画質(眼瞳孔がアイボックスにわたる移動しているときの画像明度の高い一様性を含む)を提供するために望ましい。いくつかの構成において、光ガイドから外に光を外部結合する光学要素は、アイボックスにわたり、接眼レンズから外への光の一様な分布を促進するために、低回折効率を伴う回折構造であり得る。したがって、上記と同様に、光源から光ガイドの中に結合される光のわずかな部分のみが、光ガイドから外に、光ガイドにわたる所与の場所において眼瞳孔の中に出力される。いくつかの構成において、一様性の要求は、光ガイドの中に結合される光の一部が光ガイドにわたって完全に通る前に視認者に出力されない非常に低い回折効率を伴う回折要素の使用をもたらし得る。
有利に、いくつかの実施形態において、ディスプレイシステムは、視認者の眼瞳孔を追跡し、それと整列する射出瞳を使用して、極めて効率的な光の利用を提供する。整列は、複数のまたはアレイの選択的にアクティブにされる光出力場所を備えている光源を使用して、達成され得る。光が光源によって出力される場所を変更することは、射出瞳の側方場所を変更し、それによって、眼瞳孔を追跡するように射出瞳が移動させられることを可能にする。
いくつかの実施形態において、光源の選択的にアクティブにされる光出力場所の各々は、ピクセルとして機能し得、これらの光出力場所のうちの異なるものを選択的にアクティブにすることは、画像が光源によって表示されることを可能にし得る。光源に加えて、ディスプレイシステムは、眼の画像を捕捉するための結像デバイスを備え得る。捕捉された画像は、ネガ像に変換され、ネガ像は、光源によって表示される。ネガ像において、眼の暗瞳孔は、輝点として出現し、輝点は、光源によって表示されると、ディスプレイシステムの射出瞳を画定する。したがって、眼瞳孔の場所は、眼の画像を捕捉することによって効果的に決定され得、ディスプレイシステムの射出瞳の場所は、これらの捕捉された画像のネガを表示するために光源を使用することによって設定され得る。動作時、いくつかの実施形態において、視認者の眼の画像は、連続的に捕捉され得、捕捉画像の表示されたネガも、連続的に更新され得、それによって、射出瞳の位置が調節され、眼瞳孔の位置を連続的に追跡することを可能にする。いくつかの実施形態において、光源によって出力される光は、次いで、その光がディスプレイシステムから出射する前に画像情報をエンコードするように変調され得る。画像を視認者の両眼に表示するディスプレイに関して、いくつかの実施形態において、システムは、各眼のための専用結像デバイス、光源、および関連物を備え得ることを理解されたい。
有利に、本明細書に開示されるディスプレイシステムの種々の実施形態は、いくつかの利益を提供することができる。例えば、ディスプレイシステムは、光の極めて効率的な利用を提供し得る。射出瞳が、移動し、視認者の眼の場所を追跡するので、ディスプレイシステムは、眼瞳孔の可能な場所を包含する広いエリアにわたる瞳拡張を要求しないこともある。大型アイボックスにわたる光を一様に出力しようとするのではなく、いくつかの実施形態において、画像情報をエンコードするためのその光の任意の変調に応じて、発光型光源によって出力される光の実質的に全てが、視認者の眼の中に向けられるために利用可能である。加えて、より高い光の利用効率が、所与の量の貯蔵電力を伴うよりコンパクトなデバイスおよびより長い起動時間を可能にすることができる。
視認者の眼瞳孔を追跡し、射出瞳と整列させる能力は、画質も向上させ得る。例えば、射出瞳における眼の整列を維持することは、射出瞳から出射する光の実質的に全てが視認者の眼によって捕捉されることを可能にし、それによって、光学アーチファクト、例えば、口径食の発生を減少させ得る。眼と射出瞳との追跡および整列は、鏡面光学リレーの使用が射出瞳を生成することも可能にし、漏出性回折構造の必要性を排除し得る。これは、回折構造がコヒーレント光出力を提供することの困難を排除し得る。加えて、単一の射出瞳を形成するための光のみが、画像を表示するために利用されるので、システムを通して伝搬する光の量が、低減させられ、それは、視認者の眼に到達する非意図的に散乱させられた光の量を低減させ得る。非意図的に散乱させられた光のこの低減は、有利に、表示された画像の知覚されるコントラストを増加させ得る。
本明細書に開示される種々の実施形態は、有利に、本明細書に議論されるような多種多様な光学コンバイナと適合性もあり得る。加えて、射出瞳と眼瞳孔との追跡および整列が、主に、眼のネガ像を捕捉し、反転させ、表示することに関連する比較的に単純なプロセスを伴うので、追跡および整列は、有利に、低遅延を伴って実施され、少量の処理リソースを利用し得る。
ここで、図を参照するが、同様の参照番号は、全体を通して同様の部分を指す。別様に示されない限り、図面は、概略であり、必ずしも、正確な縮尺で描かれていない。
図2Aは、単一の光エミッタを伴う光源を有するディスプレイシステムの例を図示する。ディスプレイシステムは、光エミッタ1002を有する光源1000を含む。光エミッタ1002は、光を放射し、光は、視認者の眼210の眼瞳孔208に最終的に入射し、その眼210内に画像を形成するであろう。
ディスプレイシステムは、光源集光/コリメート光学系1010も含み得る。光源集光/コリメート光学系1010は、光が画像空間光変調器(SLM)1020に到達する前、光エミッタ1002によって放射される光をコリメートするように構成され得る。
画像SLM1020は、光源1000からの光を変調するように構成される。画像SLM1020は、ピクセル要素のアレイを備え得、ピクセル要素の各々は、ピクセル要素と相互作用する(例えば、それに入射する、またはそれを通して伝搬する)光を修正し得る。画像は、光を変調すること(例えば、光の強度を変化させること、ある波長の光を選択的に透過させること、および/または偏光等)によって形成され得る。結果として、画像SLM1020は、光が眼210に到達する前、画像情報で光をエンコードすると言え得る。画像SLM1020は、透過型または反射型であり得ることを理解されたい。画像SLM1020が反射型である場合、追加の光学要素(例えば、ビームスプリッタおよび関連光学要素)が、光源1000から画像SLM1020に、かつ眼210の方へ光を向けるように提供され得る。反射型空間光変調器の使用に関する追加の詳細が、例えば、2017年2月24日に出願された米国特許出願第15/442,461号(その開示全体は、参照することによって本明細書に組み込まれる)で見出され得る。いくつかの実施形態において、画像SLM1020は、シリコン上液晶(LCOS)ディスプレイを含む液晶ディスプレイ(LCD)の形態をとり得る。
ディスプレイシステムは、出力または射出瞳を生成するように構成されたリレー光学系またはレンズ構造1030を含み得、出力または射出瞳は、光エミッタ1002の画像1031でもある。射出瞳の場所に(画像1031に)その眼瞳孔208を設置する視認者は、画像SLM1020の無限遠焦点画像を見るであろう。そのような構成は、例えば、画像コンテンツを周囲環境からの光等の他の光と組み合わせることなく、視認者がシステムから直接画像を提供される仮想現実または他のディスプレイシステムで利用され得る。
いくつかの実施形態において、リレーレンズシステム1040が、リレー光学系1030と視認者の眼瞳孔208との間の光の経路内に提供され得る。リレーレンズシステム1040は、例えば、4Fリレーシステムであり得る。いくつかの実施形態において、リレーレンズシステム1040は、接眼レンズ、例えば、コンバイナ接眼レンズを図式的に表すと理解され得、その例は、本明細書でさらに議論される。コンバイナ接眼レンズは、有利に、この環境から視認者の一方または両方の眼に光を透過させることによって、周囲環境のビューを可能にする一方で、ディスプレイシステムによって出力される画像がその光と組み合わせられることも可能にする。そのようなディスプレイシステムは、拡張現実ディスプレイシステムを構成し得る。
図2Aを継続して参照すると、上で議論されるように、リレー光学系1030は、光エミッタ1002の画像1031を形成するように構成され得、画像1031は、リレー光学系1030とリレーレンズシステム1040との間にあり得る。リレーレンズシステム1040は、第1のレンズ1042および第2のレンズ1044を含み得る。画像SLM1020の画像は、リレーレンズシステム1040の第1のレンズ1042と第2のレンズ1044との間に存在し得る。射出瞳の場所に(すなわち、リレーレンズシステム1040によって提供される光エミッタ1002の画像に)その眼瞳孔208を設置する視認者は、画像SLM1020の無限遠焦点画像を見る。
いくつかの実施形態において、無限遠以外の平面上にSLM1020の画像の焦点を合わせることが望ましくあり得る。そのような実施形態に関して、レンズ構造1046(例えば、メニスカスレンズ)が、リレーレンズシステム1040の出力と視認者との間の光の経路内に提供され得る。レンズ構造1046は、所望の深度平面におけるSLM1020の画像の焦点を修正し得る。いくつかの実施形態において、例えば、第2のレンズ1044が所望の深度平面においてSLM1020の画像の焦点を合わせる場合、レンズ構造1046は、省略され得る。第1および第2のレンズ1042、1044は、本明細書に開示される他のレンズに加えて、1つ以上のレンズ要素またはレンズ要素群を含み得ることを理解されたい。
図2Aを継続して参照すると、射出瞳の場所は、光エミッタ1002の場所によって決定され得る。対応して光エミッタ1002を側方に変位させることは、射出瞳の場所をシフトさせる。例えば、異なる場所に光エミッタ1002を設置することは、ディスプレイシステムの種々の光学構造(例えば、集光/コリメート光学系1010、リレー光学系1030、およびリレーレンズシステム1040)を通した異なる経路を光エミッタ1002からの光にとらせる。結果として、光エミッタ1002の位置をシフトさせることは、射出瞳の場所の対応するシフトを生じさせ得る。射出瞳の場所の類似シフトは、異なる場所における1つ以上の追加の光エミッタを使用しても、達成され得、すなわち、光エミッタ1002を1つ以上の他の場所にシフトさせるのではなく、他の光エミッタが、それらの場所において提供され得る。
図2Bは、異なる場所から光を放射する複数の光エミッタを伴う光源を有するディスプレイシステムの例を図示する。図2Bのディスプレイシステムは、光源1000が、異なる場所に2つの光エミッタ、すなわち、光エミッタ1002および1004を含むことを除き、図2Aのディスプレイシステムに類似する。この説明図において、光エミッタ1002からの光は、鎖線として示され、光エミッタ1000からの光は、実線として示される。光源集光/コリメート光学系1010は、いずれかの光エミッタから光を受け取り、コリメートされた光のビームとして画像SLM1020に伝搬するように、その光を集光/コリメートする。しかしながら、光エミッタ1000と光エミッタ1004との間の場所の差異により、各光エミッタからの光は、異なる角度において画像SLM1020に向かって伝搬する。したがって、リレー光学系1030は、リレー光学系1030とリレーレンズシステム1040との間に光エミッタ1002および光エミッタ1004の両方の画像を形成するが、光エミッタのこれらの画像は、互いにオフセットされている。加えて、光エミッタ1002および1004の各々からの光によって形成される画像SLM1020の画像の両方は、第1のレンズ1042と第2のレンズ1044との間に存在し得、画像SLM1020のこれらの画像も、互いにオフセットされている。光エミッタ1002と1004との間の間隔に応じて、両方の射出瞳からの光は、視認者の眼210に同時に入射し得、視認者は、無限遠において焦点を合わせられたSLMの単一の画像を見続け得る。光エミッタ1002と1004との間の場所の差異は、異なる場所にある射出瞳を提供し、眼210は、異なる射出瞳の間でシフトし得、画像SLM1020の画像は、眼210がシフトするので可視であり続けるであろう。有利に、第2の光エミッタ1004の追加は、事実上、システムの射出瞳のサイズを拡張し得る。
いくつかの実施形態において、光エミッタ1002および1004は、光エミッタのアレイの一部であり得る。例えば、光源1000は、空間光変調器であり得る。光源1000を形成する空間光変調器は、発光型空間光変調器であり得、それは、例えば、ピクセルのアレイにわたる異なる場所におけるピクセルから種々の強度および/または波長の光を出力することによって、光を空間的に変調する、発光ダイオード(有機発光ダイオード(OLED)等)から形成されるピクセルを備えている。いくつかの他の実施形態において、空間光変調器は、照明光学系によって提供される光を変調するように構成された透過型または反射型SLMであり得る。
光源が空間光変調器である場合、空間光変調器の個々のピクセルまたはピクセル群が、光エミッタ1002および1004を構成し得る。上記のように、光エミッタ1002および1004の各々の画像は、ディスプレイシステムのためのそれぞれの対応する射出瞳を提供し得、射出瞳の場所は、光エミッタ1002および1004の場所によって決定される。上で議論されるように、光エミッタの場所は、空間光変調器上の異なる場所における光エミッタ(異なるピクセル)を選択的にアクティブにすることによってシフトされ得る。加えて、射出瞳が、光エミッタの画像によって画定されるので、これらの光エミッタのサイズも、射出瞳のサイズを画定する。その結果として、いくつかの実施形態において、射出瞳のサイズおよび場所は、光源1000を形成する空間光変調器のピクセルを選択的にアクティブにすることによって設定され得る。
例えば、図2Bを参照して議論されるように、光エミッタ(この場合、そのアクティブにされたピクセルを伴う光源SLM1000)の画像が、ディスプレイシステムを通して中継され得る。視認者が、光源を形成するSLMの画像にその眼210を設置するとき、画像SLM1020の無限遠焦点画像が見えるであろう。射出瞳のサイズは、本明細書では光源SLM1000とも称される光源1000のSLM上でアクティブにされるピクセルの数によって決定されるであろう。射出瞳の位置は、アクティブにされる光源SLM1000上のピクセルによって決定され得る。したがって、光源SLM1000上の単一のピクセルがアクティブにされた場合、単一の小さい射出瞳が、光源SLM1000の画像内に位置付けられたときに視認者の眼において形成される。単一のピクセルが移動させられる場合(すなわち、そのピクセルが非アクティブにされ、光源SLM1000上の異なる場所における別の単一のピクセルがアクティブにされる場合)、ディスプレイシステムの射出瞳は、対応して移動するであろう。これらの場合の全てにおいて、画像SLMの無限遠焦点画像は、好ましくは、それが存在し得る場所、およびそれが大きくまたは小さくあり得る程度にかかわらず、射出瞳内で静止したままであり、射出瞳を通して可視であろう。
有利に、射出瞳の場所を側方に変更する能力は、画質および/またはエネルギー効率のための利点を提供することができる。例えば、ディスプレイシステムは、眼瞳孔の位置を追跡するために射出瞳の場所を変更するように構成され得る。これは、光学アーチファクト、例えば、口径食の発生を減少させ、それによって、知覚される画質を増加させ、画像明度の意図しない変動を減少させ得る。加えて、眼瞳孔および射出瞳を連続的に追跡し、整列させることによって、ディスプレイシステムは、低効率回折光学要素の使用を回避し得る。さらに、光源が発光型光エミッタ(例えば、OLEDを含むLED)を備えている場合、射出瞳のための光に寄与するこれらの光エミッタのみが、任意の所与の時間にアクティブにされ得る。結果として、光源によって放射される光の実質的に全てが、視認者の眼によって捕捉され、それによって、ディスプレイシステムの光の利用効率を増加させ得る。
加えて、複数の独立してアクティブにされる光エミッタを備えている光源を利用することは、光源のサイズが変更されること、例えば、画像を視認者に表示する間、画像が動的に変更されることを効果的に可能にする。この変更可能性は、例えば、ディスプレイシステムの被写界深度が修正されること、例えば、画像を視認者に表示している間、被写界深度が連続的に修正されることを可能にする。例えば、光源のサイズは、比較的に多数の光エミッタをアクティブにすることによって増加させられ得る一方で、光源のサイズは、より少数の光エミッタ(例えば、単一の光エミッタ)をアクティブにすることによって減少させられ得る。より大型の光源は、SLM1020の浅い被写界深度の画像を生成することが予期されるであろう一方で、比較的に小型の光源は、SLM1020の深い被写界深度の画像を生成することが予期されるであろう。光源の有効サイズを変更する能力は、視認者の眼の遠近調節機能を管理するための利点を有し得る。例えば、遠近調節キューへのユーザの眼の感受性は、比較的に大型の光源を利用することによって、高いレベルに設定され得る一方で、遠近調節キューへのユーザの眼の感受性は、比較的に小型の光源を利用することによって減少させられ得る。これは、例えば、遠近調節-両眼離反運動の不一致の影響を低減させるための利点を有し得る。例えば、遠近調節-両眼離反運動の不一致が、所望の閾値レベルを超えることが予期される場合、光源のサイズは、不一致に関連付けられた遠近調節キューへのユーザの感受性を減少させるために減少させられ得る。
複数の選択的にアクティブにされる光エミッタを備えている光源は、大まかにディスプレイとして機能すると見なされ得ることを理解されたい。光源が空間光変調器である場合、光源は、実際に、一種のディスプレイデバイスと見なされ得る。いくつかの実施形態において、眼瞳孔は、視認者の眼210の画像を捕捉し、光源SLM1000上にそれらの画像の修正された形態を表示することによって、追跡され得る。眼瞳孔は、暗いが、または黒色であるが、射出瞳は、光を放射すべきであるので、ディスプレイシステムは、光源SLM1000上に眼210の捕捉された画像のネガを表示するように構成され得る。ネガにおいて、捕捉された画像の比較的に暗いピクセルまたはエリアが、比較的に輝いて、または明るく見え、捕捉された画像の比較的に輝いた、または明るいピクセルまたはエリアは、比較的に暗く見える。結果として、暗い眼瞳孔が、白色または明るく見え得る一方で、眼210の他のエリア(白眼等)は、暗い。したがって、眼瞳孔に対応する光エミッタが、(光を放射するように)アクティブにされる一方で、眼210の他のエリアに対応する光エミッタは、(光を放射しないように)アクティブにされない。
図3は、視認者の眼の画像を捕捉するためのカメラと、捕捉された画像のネガを表示するように構成された光源とを有するディスプレイシステムの例を図示する。光源1000は、複数の光エミッタを備えている。例えば、光源1000は、LEDまたはレーザ等の光エミッタのアレイを含み得るパネルディスプレイを備え得るSLMであり得る。光源1000は、視認者の眼210のネガ像を表示する。このネガ像は、画像SLM1020が見える射出瞳を提供する。
ディスプレイシステムは、眼210の画像を捕捉するための結像デバイス1050を含む。いくつかの実施形態において、結像デバイス1050は、デジタルビデオカメラおよび/またはデジタルスチルカメラを備え得る。いくつかの実施形態において、結像デバイス1050は、眼210の画像を連続的に捕捉するように、または所望のレートでそのような画像を捕捉するように構成され得る。例えば、画像が、捕捉され得、画像のネガは、光源SLM1000によって表示されるネガ像への更新が知覚可能ではないほど十分に速いレートで表示され得る。いくつかの実施形態において、ネガ像は、フリッカ融合閾値を上回るレートで、例えば、1秒あたり60回を上回って(または60Hz)、または1秒あたり90回を上回って(または90Hz)更新される。
図3を継続して参照すると、ディスプレイシステムは、捕捉された画像を受信するように、かつそれらの画像を光源SLM1000によって表示するために、ネガ像、好ましくは、高コントラスト画像に変換するように構成された処理ユニット1051を備えている。処理ユニット1051は、結像デバイス1050と通信し、結像デバイス1050から眼210の捕捉された画像1052を(例えば、捕捉された画像を表すデータの形態で)受信する。いくつかの実施形態において、捕捉された画像1052は、グレースケールまたは白黒画像である。処理ユニット1051は、捕捉された画像1052をその捕捉された画像のネガに変換し、それによって、ネガ像1062を形成するように構成されたインバータ1060を含む。例えば、通常は黒色の瞳孔が、ここにおいて、ネガ像1062内で白色になる。処理ユニット1051は、次いで、ネガ像1062を(例えば、ネガ像を表すデータの形態で)光源SLM1000に伝送するように構成され得、SLM1000は、次いで、ネガ像1062を表示する。
いくつかの実施形態において、インバータ1060は、捕捉された画像1052の各ピクセルの強度値を反転させるように構成され得る。例として、256のグレードレベルと、0~255の対応する強度値とを有する8ビットグレースケール画像に関して、インバータ1060は、強度値を逆転させることによってピクセルの強度を反転させるように構成され得、すなわち、X(0を上回るX、可能な強度値の下限)の強度値は、その値を255未満のXである数(可能な強度値の上限)に変換することによって、反転させられ得る。
いくつかの他の実施形態において、インバータ1060は、2値化することを実施するように構成され得る。例えば、インバータ1060は、閾値未満の強度を有する各「暗い」ピクセルを特定のより高い強度(例えば、最大強度)を有するピクセルに変換するように構成され得る。好ましくは、閾値は、眼瞳孔208を表す捕捉された画像1052の実質的に黒色ピクセルのみが、より高い強度を有する白色ピクセルに変換されるようなレベルに設定される。いくつかの他の実施形態において、光源SLMは、2つのレベルの強度のみを提供するように(例えば、黒色および白色、またはオンおよびオフ状態のみを提供するように)構成されたピクセルを伴う2値SLMであり得る。2値SLMの使用は、2値化することの必要性を排除し得る。
眼の捕捉された画像1052を反転させることに加えて、いくつかの実施形態において、処理ユニット1051は、ネガ像において、眼瞳孔208ではない捕捉された画像の暗い部分を除外するように構成され得る。例えば、眼210の虹彩も、黒色部分を含み得る。ネガ像から虹彩のそのような部分を除外するために、処理ユニット1051は、画像認識を実施し、ピクセルが虹彩の画像の一部を形成するかどうか、または写真が眼瞳孔208の画像の一部を形成するかどうかをリアルタイムで決定するように構成され得る。いくつかの実施形態において、処理ユニット1051は、実質的に完全に黒色である丸いエリアを眼瞳孔208として識別し、(白色ピクセルを使用して)ネガ像1062内のこの丸いエリアのみを示すように構成され得る。
いくつかの実施形態において、処理ユニット1051は、ローカル処理およびデータモジュール140および/または遠隔処理モジュール150の一部であり得る(図17)。いくつかの他の実施形態において、ローカル処理ユニット1051は、光源SLM1000自体の一部であり得る。そのような実施形態において、光源SLM1000によって表示するためにネガ像1062を伝送することは、単に光源SLM1000内の回路(例えば、インバータ回路およびディスプレイ回路)の間に画像情報を伝送することを包含し得る。
図3を継続して参照すると、ネガ像1062は、光源SLM1000によって表示され得る。本明細書に議論されるように、光源SLM1000および画像SLM1020の画像は、ディスプレイシステムを通して中継され得る。例えば、リレー光学系1030は、リレー光学系1030とリレーレンズシステム1040との間に光源SLM1000の画像1032を形成する。加えて、画像SLM1020の画像が、リレーレンズシステム1040の第1のレンズ1042と第2のレンズ1044との間に形成される。リレーレンズシステム1040はまた、光源SLM1000の画像1048も形成する。光源SLM画像1048内に視認者の眼210を設置することは、視認者が画像SLM1020の無限遠焦点画像を見ることを可能にする。
好ましくは、射出瞳および眼瞳孔は、実質的に同じサイズを有する。例えば、光源SLM1020がネガ像1062を示しているとき、ネガ像1062の画像1048内で再現される眼瞳孔208のサイズは、実際の眼瞳孔208と実質的に同じサイズである。カメラ1050のレンズの焦点距離およびそのカメラ1050の画像センサのサイズは、その眼瞳孔の捕捉された画像内の眼瞳孔208の相対的サイズを決定し、この相対的サイズは、眼瞳孔208の実際のサイズと異なり得ることを理解されたい。したがって、眼瞳孔208の実際のサイズと捕捉された画像内の眼瞳孔208のサイズとの間にスケール係数が存在する。加えて、光源SLM1000と眼瞳孔208との間の種々のレンズ構造(例えば、レンズ1010、1030、1042、および1044)も、関連付けられたスケール係数を有し得る。それらのスケール係数の全ては、瞳孔位置208と一致する場所において所望のサイズの眼瞳孔208の画像を有する画像1048を生成するように考慮され得る。例えば、SLM1000上に示される眼瞳孔208のネガ像のサイズは、所望のサイズの眼瞳孔208を有する画像1048を提供するために、増加または減少させられ得る。
いくつかの他の実施形態において、光源SLM1020上のアクティブにされる発光ピクセル群のサイズは、眼瞳孔208のサイズよりも小さいまたは大きい、射出瞳を提供し得る。例えば、2値化ための強度値は、眼210の虹彩および瞳孔の両方は、ネガ像1062内の白色ピクセルとして示されるように、選択され得る。結果として、射出瞳のサイズは、眼210の虹彩のサイズに対応し得る。いくつかの他の実施形態において、本明細書に開示されるように、光源SLM1020上の発光エリアのサイズ(例えば、眼210の瞳孔のネガのサイズ)は、ディスプレイシステムの焦点深度を制御するために修正され得る。
光源SLM画像1048がディスプレイシステムの射出瞳を画定する白色点を含むことを理解されたい。眼210を伴う眼瞳孔208の移動は、眼210の新しい画像1052を継続的に捕捉することによって追跡され得る。加えて、眼瞳孔208とのディスプレイシステムの射出瞳の整列は、捕捉された画像1052を空間光変調器1000上に表示されるネガ像1062に継続的に変換することによって、(例えば、リアルタイムで)継続的に更新され得る。例えば、眼瞳孔208が位置においてシフトすると、このシフトは、捕捉された画像1052内で捕捉され、それは、次いで、ネガ像1062の高強度エリアの位置におけるシフトをもたらす。シフトされた高強度エリアを伴うこの更新されたネガ像1062は、次いで、光源SLM1000上に表示され、それは、射出瞳にシフトさせる。結果として、眼瞳孔208の位置の変化は、射出瞳の位置の対応する変化をもたらす。したがって、射出瞳は、実質的にリアルタイムで眼瞳孔208の位置を追跡すると理解され得る。
図4は、視認者の眼の移動を追跡する図3のディスプレイシステムの射出瞳の例を図示する。眼210の向きの上向きのシフトが、結像デバイス1050によって捕捉される画像内で観察され得る。例証を単純化するために、捕捉された画像および結果として生じる変換されたネガ像は、示されていない。しかしながら、図3に関して上で議論されるように、捕捉された画像は、処理ユニット1051によって受信され、それらの捕捉された画像のネガは、インバータ1060によって形成されることを理解されたい。ネガ像は、光源SLM1000に提供され、それによって表示される。その結果として、眼210の向きの上向きのシフトは、光源SLM1000によって表示される眼瞳孔の画像内で対応する上向きのシフトをもたらす。眼瞳孔の画像内の上向きのシフトは、射出瞳に上向きのシフトをもたらし、それによって、射出瞳を眼瞳孔208と整列させる。
拡張現実システムが、光学コンバイナを利用し得、光学コンバイナが、周囲環境からの光が視認者の眼に伝搬することを可能にし、周囲環境のビューを可能にする一方で、表示された画像からの光がユーザの眼にも伝搬することも可能にし、すなわち、周囲環境(実世界)からの光とディスプレイからの画像情報を含む光とが、組み合わせられ得、両方が視認者の眼によって受け取られ得ることを理解されたい。いくつかの実施形態において、光学コンバイナは、視認者の凝視の方向に少なくとも部分的に透明であり、それによって、実世界の可視性を可能にする光ガイド(例えば、導波管)であり得る。光ガイドは、光源SLM1000および画像情報でエンコードされた画像SLM1020からの光を誘導し、視認者の眼210に向かってその光を出力するように構成され得る。光が全内部反射によって光ガイド内で誘導され、伝搬し得ることを理解されたい。本開示の全体を通して、導波管が光ガイドの例であることも理解され得る。
図5は、光学コンバイナを伴うディスプレイシステムの例を図示する。図示されるディスプレイシステムは、リレーレンズシステム1040が光学コンバイナであることを除いて、図3および4に示されるものに類似する。図示されるように、リレーレンズシステム1040は、光ガイド1070(例えば、導波管)と、図2A-4に示されるレンズ1042および1044に対応し得る反射型レンズ構造1076および1078とを含む。光ガイド1070は、周囲環境からの光1074が視認者の眼210に到達することを可能にする。加えて、光ガイド1070は、光源SLM1000によって放射され、画像SLM1020によって修正された光1072を視認者の眼210に誘導する折り畳み型光学系として機能する。いくつかの実施形態において、反射型インストラクタ1076および1078は、部分的に透明な湾曲鏡面反射体であり得る。
図5を継続して参照すると、結像デバイス1050は、例えば、結像デバイス1050が眼210の視野内にないように、眼210の凝視方向に対して軸外に配置され得る。結像デバイス1050は、眼210から結像デバイス1050に光1058を誘導するように構成された光ガイド1054(例えば、導波管)を備えている眼結像アセンブリ1056の一部であり得る。光ガイド1054は、光ガイド1054の中に光1058を内部結合するように構成された内部結合光学要素1055を含み得る。内部結合された光1058は、結像デバイス1050に向かって光ガイド1054から出射するまで、全内部反射によって光ガイド1054内で誘導され得る。
いくつかの実施形態において、結像デバイス1050は、可視スペクトル外の電磁放射線を使用して、眼を結像するように構成され得る。例えば、結像デバイス1050は、赤外光を検出することによって眼を結像するように構成され得る。いくつかの実施形態において、結像デバイス1050は、赤外光で眼を照明するように構成された赤外光エミッタも含み得る。例えば、結像デバイス1050は、光を光ガイド1054の中に投入する赤外光エミッタを含み得、この赤外光は、光学要素1055によって光ガイド1054から外に放出され得る。
図6は、軸外のミラーベースの眼結像デバイスを有する図5のディスプレイシステムの例を図示する。図示されるディスプレイシステムは、眼210からの光1058が、部分的に反射型かつ部分的に透明なミラー1057を使用して結像デバイス1050に反射されることを除いて、図5に図示されるものに類似する。ミラー1057は、鏡面反射体であり得る。いくつかの他の実施形態において、ミラー1057は、ミラーからの光の反射角がミラーへのその光の入射角と異なる軸外ミラーであり得る。例えば、ミラー1057は、結像デバイス1050によって捕捉されるべき方向に眼210からの光を反射するように構成される(例えば、向きおよび形成される)回折構造を有する回折光学要素を含み得、眼210からの光の入射角は、ミラー1057からのその光の反射角と異なる。
図6を継続して参照すると、いくつかの実施形態において、ミラー1057は、光ガイド1070上に配置され得る。上記のように、いくつかの実施形態において、結像デバイス1050は、電磁放射線、例えば、可視スペクトル外の赤外光を検出するように構成され得る。いくつかの実施形態では。結像デバイス1050は、眼210を照明するための赤外光エミッタも含み得る。
図4および5に示される光学コンバイナ構成に加えて、本明細書に開示される眼追跡および射出瞳整列システムは、種々の他の光学コンバイナと併せて利用され得ることを理解されたい。例えば、光学コンバイナ1040は、画像情報でエンコードされる光を内部結合および外部結合するための回折光学要素を備えている1つ以上の光ガイドを備え得る。そのような光ガイドの例は、光ガイドスタック250(図14)および660(図16)の光ガイドを含む。
別の例として、光学コンバイナは、バードバス光学コンバイナであり得る。いくつかの実施形態において、バードバス光学コンバイナは、ビームスプリッタと、部分的に透明なミラー(例えば、部分的に透明な球面ミラー)とを含み得、ビームスプリッタは、画像情報でエンコードされた光をミラーに向け、ミラーは、次いで、視認者に戻るように光を反射する。ビームスプリッタおよび部分的に透明なミラーの両方は、部分的に透明であり、それによって、周囲環境(外界)からの光が視認者の眼に到達することを可能にし得る。バードバス光学コンバイナに関するさらなる詳細は、2015年12月3日に公開された第US2015/0346495号(その全体は、参照することによって本明細書に組み込まれる)で見出され得る。
別の例において、図7は、折り畳み型リレーミラーコンバイナを伴うディスプレイシステムを図示する。図7のディスプレイシステムは、リレーレンズシステム1040が、図6のレンズ構造1076および1078の代わりに折り畳み型ミラー1077および1079を備えていることを除いて、図6のものに類似する。図示されるように、眼結像アセンブリ1056は、光を結像デバイス1050に向け、眼210を結像するように構成されたミラー1057を備え得る。いくつかの他の実施形態において、眼結像アセンブリ1056は、光を収集し、画像捕捉デバイス1050に伝搬するように構成された光ガイド1054(図5)を備え得る。
図2A-7は、例証および説明を容易にするために、光および画像情報を単眼に提供するためのシステムを図示することを理解されたい。光および画像情報を視認者の2つの眼に提供するために、ディスプレイシステムは、各眼のために1つ、図示されるシステムを2つ有し得ることも理解されたい。
加えて、いくつかの実施形態において、異なる場所に配置される複数の光エミッタではなく、光源1000が、光出力の見掛けの場所を変更し、それによって、光エミッタのアレイを有する光源の光出力を模倣し得る1つ以上の光エミッタを含み得る。例えば、光源は、F-シータ(F-θまたはF-tanθ)レンズ等の線形伝達レンズと、共通または共有光エミッタと、F-シータレンズを通して異なる経路に沿って光エミッタによって放射される光を向けるためのアクチュエータとを備え得る。光は、画像面上に出射光の焦点を合わせるF-シータレンズを通して、異なる場所において光源から出射する。異なる場所において、F-シータレンズから出射する光が、画像面上の異なる場所においても配置され、画像面は、仮想2D光エミッタアレイを提供すると見なされ得る。その結果、光エミッタアレイの個々の領域および線形伝達レンズからの光が画像面を通過する場所の両方は、光源の光出力場所と見なされ得る。
いくつかの実施形態において、アクチュエータは、所望の伝搬経路に沿って光エミッタからの光を向けるように異なる軸上で独立して作動させられる複数の(例えば、一対の)ミラーを備えている二軸検流計の一部であり得る。いくつかの他の実施形態において、光源は、ファイバスキャナを備え得、アクチュエータは、ファイバスキャナのファイバを移動させるように構成されるアクチュエータであり得る。光源は、光源による光の出力をミラーまたはファイバの場所と、表示されるべき瞳孔内画像と同期させる処理モジュールも備えているか、または、それと通信し得る。例えば、ミラーまたはファイバは、既知の経路に沿って移動し得、光エミッタは、本明細書でさらに議論されるように、ミラーまたはファイバがネガ像のための所望の光出力場所に対応する位置にあるとき、光を放射するように処理モジュールによって制御され得る。そのような光源の例は、2017年10月20日に出願された米国出願第15/789,895号(その開示全体は、参照することによって本明細書に組み込まれる)に説明される。
(遠近調節-両眼離反運動一致を伴う例示的ディスプレイシステム)
有利に、本明細書に開示されるディスプレイシステムは、視認快適性および長期装着可能性のため等の種々の利益を提供し得る高レベルの遠近調節-両眼離反運動一致を提供するように構成され得る。例えば、従来の立体視ディスプレイと対照的に、ディスプレイシステムの接眼レンズ(例えば、光学コンバイナ1040)は、若干異なるビューを視認者の各眼に表示することによって提供される両眼離反運動キューとの一致を達成するための所望の遠近調節キューを提供し得る選択的に可変の波面発散量を提供するように構成され得る。
図8は、ユーザのための3次元画像をシミュレートするための従来のディスプレイシステムを図示する。ユーザの眼は、間隔を置かれており、空間内の実オブジェクトを見ているとき、各眼は、オブジェクトの若干異なるビューを有し、オブジェクトの画像を各眼の網膜上の異なる場所に形成し得ることを理解されたい。これは、両眼視差と称され得、ヒト視覚系によって、深度の知覚を提供するために利用され得る。従来のディスプレイシステムは、仮想オブジェクトが所望の深度における実オブジェクトであるように各眼によって見えるであろう仮想オブジェクトのビューに対応する同じ仮想オブジェクトの若干異なるビューを伴う2つの異なる画像190、200(各眼210、220のために1つ)を提示することによって、両眼視差をシミュレートする。これらの画像は、ユーザの視覚系が深度の知覚を導出するために解釈し得る両眼キューを提供する。
図8を継続して参照すると、画像190、200は、z-軸上で距離230だけ眼210、220から間隔を置かれる。z-軸は、その眼が視認者の直前の光学無限遠におけるオブジェクトを固視している状態の視認者の光学軸と平行である。画像190、200は、平坦であり、眼210、220から固定距離にある。眼210、220に提示される画像内の仮想オブジェクトの若干異なるビューに基づいて、眼は、オブジェクトの画像が眼のそれぞれの網膜上の対応する点に来て、単一両眼視を維持するように、自然に回転し得る。この回転は、眼210、220のそれぞれの視線が仮想オブジェクトが存在するように知覚される空間内の点上に収束することをもたらし得る。結果として、3次元画像の提供は、従来、ユーザの眼210、220の両眼離反運動を操作し得、かつヒト視覚系が深度の知覚を提供するために解釈する両眼キューを提供することを伴う。
しかしながら、深度の現実的かつ快適な知覚の生成は、困難である。眼からの異なる距離におけるオブジェクトからの光は、異なる発散量を伴う波面を有することを理解されたい。図9A-9Cは、距離と光線の発散との間の関係を図示する。オブジェクトと眼210との間の距離は、減少距離R1、R2、およびR3の順序で表される。図9A-9Cに示されるように、光線は、オブジェクトまでの距離が減少するにつれてより発散する。逆に、距離が増加するにつれて、光線は、よりコリメートされる。換言すると、点(オブジェクトまたはオブジェクトの一部)によって生成される明視野は、点がユーザの眼から離れている距離の関数である球状波面曲率を有すると言い得る。曲率が増加すると、オブジェクトと眼210との間の距離が減少する。単眼210のみが、例証を明確にするために、図9A-9Cおよび本明細書の他の図に図示されるが、眼210に関する議論は、視認者の両眼210および220に適用され得る。
図9A-9Cを継続して参照すると、視認者の眼が固視しているオブジェクトからの光は、異なる波面発散度を有し得る。異なる波面発散量に起因して、光は、眼の水晶体によって異なって集束され得、それは、次に、異なる形状をとり、焦点画像を眼の網膜上に形成することを水晶体に要求し得る。焦点画像が、網膜上に形成されない場合、結果として生じる網膜ぼけは、焦点画像が網膜上に形成されるまで、眼の水晶体の形状に変化をもたらす遠近調節のためのキューとしての機能を果たす。例えば、遠近調節のためのキューは、眼の水晶体を包囲する毛様筋が弛緩または収縮することを誘起し、それによって、水晶体を保持する提靭帯に加えられる力を変調し、したがって、固視されているオブジェクトの網膜ぼけが排除されるか、または最小化されるまで、眼の水晶体の形状に変化させ、それによって、固視されているオブジェクトの焦点画像を眼の網膜(例えば、中心窩)上に形成し得る。眼の水晶体が形状を変化させるプロセスは、遠近調節と称され得、固視されているオブジェクトの焦点画像を眼の網膜(例えば、中心窩)上に形成するために要求される眼の水晶体の形状は、遠近調節状態と称され得る。
ここで図10を参照すると、ヒト視覚系の遠近調節-両眼離反運動応答の表現が、図示される。オブジェクトを固視するための眼の移動は、眼にオブジェクトからの光を受け取らせ、光は、画像を眼の網膜の各々上に形成する。網膜上に形成される画像における網膜ぼけの存在は、遠近調節のためのキューを提供し得、網膜上の画像の相対的場所は、両眼離反運動のためのキューを提供し得る。遠近調節のためのキューは、遠近調節を生じさせ、眼の水晶体の各々にオブジェクトの焦点画像を眼の網膜(例えば、中心窩)上に形成する特定の遠近調節状態をとらせる。他方で、両眼離反運動のためのキューは、各眼の各網膜上に形成される画像が単一の両眼視を維持する対応する網膜点にあるように、両眼離反運動移動(眼の回転)を生じさせる。それらの位置において、眼は、特定の両眼離反運動状態をとっていると言え得る。図10を継続して参照すると、遠近調節は、眼が特定の遠近調節状態を達成するプロセスであると理解され得、両眼離反運動は、眼が特定の両眼離反運動状態を達成するプロセスであると理解され得る。図10に示されるように、眼の遠近調節状態と両眼離反運動状態とは、ユーザが別のオブジェクトを固視する場合、変化し得る。例えば、遠近調節された状態は、ユーザがz-軸上の異なる深度における新しいオブジェクトを固視する場合、変化し得る。
理論によって限定されるわけではないが、オブジェクトの視認者は、両眼離反運動と遠近調節との組み合わせに起因して、オブジェクトを「3次元」であると知覚し得ると考えられる。上記のように、2つの眼の互いに対する両眼離反運動移動(例えば、瞳孔が、互いに向かって、またはそれから移動し、眼の視線を収束させ、オブジェクトを固視するような眼の回転)は、眼の水晶体の遠近調節と密接に関連付けられる。通常条件下において、眼の水晶体の形状を変化させ、1つのオブジェクトから異なる距離における別のオブジェクトに焦点を変化させることは、自動的に、「遠近調節-両眼離反運動反射」として知られる関係下で、同じ距離に対する両眼離反運動の一致する変化を生じさせるであろう。同様に、両眼離反運動の変化は、通常条件下では水晶体形状の一致する変化を誘起するであろう。
ここで図11を参照すると、眼の異なる遠近調節および両眼離反運動状態の例が、図示される。一対の眼222aは、光学無限遠におけるオブジェクトを固視する一方、一対の眼222bは、光学無限遠未満におけるオブジェクト221を固視する。着目すべきこととして、各対の眼の両眼離反運動状態は、異なり、一対の眼222aは、まっすぐ向けられる一方、一対の眼222は、オブジェクト221上に収束する。各対の眼222aおよび222bを形成する眼の遠近調節状態も、水晶体210a、220aの異なる形状によって表されるように異なる。
望ましくないことに、従来の「3-D」ディスプレイシステムの多くのユーザは、これらのディスプレイにおける遠近調節状態と両眼離反運動状態との間の不一致に起因して、そのような従来のシステムを不快であると見出すこと、または奥行感を全く知覚しないこともある。上記のように、多くの立体視または「3-D」ディスプレイシステムは、若干異なる画像を各眼に提供することによって、場面を表示する。そのようなシステムは、それらが、とりわけ、単に、場面の異なる提示を提供し、眼の両眼離反運動状態に変化をもたらすが、それらの眼の遠近調節状態に対応する変化を伴わないので、多くの視認者のために不快である。むしろ、画像は、眼が全ての画像情報を単一の遠近調節状態において視認するように、ディスプレイによって眼から固定距離に示される。そのような配列は、遠近調節状態の一致する変化を伴わずに両眼離反運動状態に変化をもたらすことによって、「遠近調節-両眼離反運動反射」に逆らう。この不一致は、視認者の不快感をもたらすと考えられる。遠近調節と両眼離反運動との間のより良好な一致を提供するディスプレイシステムは、3次元画像のより現実的かつ快適なシミュレーションを形成し得る。
理論によって限定されるわけではないが、ヒトの眼は、典型的に、有限数の深度平面を解釈し、深度知覚を提供し得ると考えられる。その結果、知覚された深度の高度に真実味のあるシミュレーションが、眼にそれらの限定数の深度平面の各々に対応する画像の異なる提示を提供することによって達成され得る。いくつかの実施形態において、異なる提示は、両眼離反運動のためのキューと遠近調節のための一致するキューとの両方を提供し、それによって、生理学的に正しい遠近調節-両眼離反運動一致を提供し得る。
図11を継続して参照すると、眼210、220からの空間内の異なる距離に対応する2つの深度平面240が、図示される。所与の深度平面240に関して、両眼離反運動キューが、各眼210、220のために適切に異なる視点の画像を表示することによって提供され得る。加えて、所与の深度平面240に関して、各眼210、220に提供される画像を形成する光は、その深度平面240の距離におけるある点によって生成された明視野に対応する波面発散を有し得る。
図示される実施形態において、点221を含む深度平面240のz-軸に沿った距離は、1mである。本明細書で使用されるように、z-軸に沿った距離または深度は、ユーザの眼の瞳孔に位置するゼロ点を用いて測定され得る。したがって、1mの深度に位置する深度平面240は、眼が光学無限遠に向かって向けられた状態でそれらの眼の光学軸上のユーザの眼の瞳孔から1m離れた距離に対応する。近似値として、z-軸に沿った深度または距離は、ユーザの眼の正面のディスプレイから(例えば、光ガイドの表面から)測定され、デバイスとユーザの眼の瞳孔との間の距離に関する値が加えられ得る。その値は、瞳距離と呼ばれ得、ユーザの眼の瞳孔と眼の正面のユーザによって装着されるディスプレイとの間の距離に対応する。実践において、瞳距離に関する値は、概して、全ての視認者に使用される正規化された値であり得る。例えば、瞳距離は、20mmであると仮定され得、1mの深度における深度平面は、ディスプレイの正面の980mmの距離にあり得る。
ここで図12Aおよび12Bを参照すると、一致遠近調節-両眼離反運動距離および不一致遠近調節-両眼離反運動距離の例が、それぞれ、図示される。図12Aに図示されるように、ディスプレイシステムは、仮想オブジェクトの画像を各眼210、220に提供し得る。画像は、眼が深度平面240上の点15上に収束する両眼離反運動状態を眼210、220にとらせ得る。加えて、画像は、その深度平面240における実オブジェクトに対応する波面曲率を有する光によって形成され得る。結果として、眼210、220は、画像がそれらの眼の網膜上に焦点が合う遠近調節状態をとる。したがって、ユーザは、仮想オブジェクトを深度平面240上の点15にあるものとして知覚し得る。
眼210、220の遠近調節および両眼離反運動状態の各々は、z-軸上の特定の距離に関連付けられることを理解されたい。例えば、眼210、220からの特定の距離におけるオブジェクトは、オブジェクトの距離に基づいて、特定の遠近調節状態をそれらの眼にとらせる。特定の遠近調節状態に関連付けられた距離は、遠近調節距離Adと称され得る。同様に、特定の両眼離反運動状態における眼に関連付けられた特定の両眼離反運動距離Vdまたは互いに対する位置が、存在する。遠近調節距離と両眼離反運動距離とが一致する場合、遠近調節と両眼離反運動との間の関係は、生理学的に正しいと言え得る。これは、視認者のために最も快適なシナリオであると見なされる。
しかしながら、立体視ディスプレイにおいて、遠近調節距離と両眼離反運動距離とは、必ずしも一致しないこともある。例えば、図12Bに図示されるように、眼210、220に表示される画像は、深度平面240に対応する波面発散を伴って表示され得、眼210、220は、その深度平面上の点15a、15bが焦点が合っている特定の遠近調節状態をとり得る。しかしながら、眼210、220に表示される画像は、眼210、220を深度平面240上に位置しない点15上に収束させる、両眼離反運動のためのキューを提供し得る。結果として、遠近調節距離は、いくつかの実施形態において、眼210、220の瞳孔から深度平面240までの距離に対応する一方、両眼離反運動距離は、眼210、220の瞳孔から点15までのより大きい距離に対応する。遠近調節距離は、両眼離反運動距離と異なる。その結果、遠近調節-両眼離反運動不一致が存在する。そのような不一致は、望ましくないと見なされ、不快感をユーザにもたらし得る。不一致は、距離(例えば、Vd-Ad)に対応し、ジオプタを使用して特性評価され得ることを理解されたい。
いくつかの実施形態において、眼210、220の眼の瞳以外の参照点も、同じ参照点が遠近調節距離および両眼離反運動距離のために利用される限り、遠近調節-両眼離反運動不一致を決定するための距離を決定するために利用され得ることを理解されたい。例えば、距離は、角膜から深度平面まで、網膜から深度平面まで、接眼レンズ(例えば、ディスプレイデバイスの光ガイド)から深度平面まで等、測定され得る。
理論によって限定されるわけではないが、ユーザは、不一致自体が有意な不快感をもたらさずに、依然として、最大約0.25ジオプタ、最大約0.33ジオプタ、および最大約0.5ジオプタの遠近調節-両眼離反運動不一致を生理学的に正しいと知覚し得ると考えられる。いくつかの実施形態において、本明細書に開示されるディスプレイシステム(例えば、ディスプレイシステム250、図14)は、約0.5ジオプタ以下の遠近調節-両眼離反運動不一致を有する画像を視認者に提示する。いくつかの他の実施形態において、ディスプレイシステムによって提供される画像の遠近調節-両眼離反運動不一致は、約0.33ジオプタ以下である。さらに他の実施形態において、ディスプレイシステムによって提供される画像の遠近調節-両眼離反運動不一致は、約0.1ジオプタ以下を含む約0.25ジオプタ以下である。
図13は、波面発散を修正することによって3次元画像をシミュレートするためのアプローチの側面を図示する。ディスプレイシステムは、画像情報でエンコードされた光770を受け取るように、かつその光をユーザの眼210に出力するように構成された接眼レンズ1040を含む。いくつかの実施形態において、接眼レンズ1040は、光ガイド270(例えば、導波管)を含み得る。光ガイド270は、所望の深度平面240上のある点によって生成された明視野の波面発散に対応する定義された波面発散量を伴って光650を出力し得る。いくつかの実施形態において、同じ量の波面発散が、その深度平面上に提示される全てのオブジェクトのために提供される。加えて、ユーザの他方の眼は、同様の光ガイドからの画像情報を提供され得ることが図示されるであろう。
いくつかの実施形態において、単一の光ガイドが、単一または限定数の深度平面に対応する設定された波面発散量を伴う光を出力するように構成され得、および/または、光ガイドは、限定された範囲の波長の光を出力するように構成され得る。その結果、いくつかの実施形態において、接眼レンズ1040は、異なる深度平面のための異なる波面発散量を提供するために、および/または、異なる範囲の波長の光を出力するために利用され得る複数の光ガイドまたはそのスタックを含み得る。本明細書で使用されるように、深度平面は、平坦または湾曲表面の輪郭に従い得ることが理解されるであろう。いくつかの実施形態において、有利に、簡単にするために、深度平面は、平坦表面の輪郭に従い得る。
図14は、画像情報をユーザに出力するための光ガイドスタックの例を図示する。ディスプレイシステム250は、複数の光ガイド270、280、290、300、310を使用して3次元知覚を眼/脳に提供するために利用され得る光ガイドのスタックまたはスタックされた光ガイドアセンブリ260を有する接眼レンズ1040を含む。ディスプレイシステム250は、いくつかの実施形態において、明視野ディスプレイと見なされ得ることを理解されたい。
いくつかの実施形態において、ディスプレイシステム250は、両眼離反運動のための実質的に連続的なキューと遠近調節のための複数の別々のキューとを提供するように構成され得る。両眼離反運動のためのキューは、異なる画像をユーザの眼の各々に表示することによって提供され得、遠近調節のためのキューは、選択可能な別々の量の波面発散を伴う画像を形成する光を出力することによって提供され得る。換言すると、ディスプレイシステム250は、可変レベルの波面発散を伴う光を出力するように構成され得る。いくつかの実施形態において、各別々のレベルの波面発散は、特定の深度平面に対応し、光ガイド270、280、290、300、310のうちの特定の1つによって提供され得る。
図14を継続して参照すると、光ガイドアセンブリ260は、複数の特徴320、330、340、350を光ガイドの間に含み得る。いくつかの実施形態において、特徴320、330、340、350は、1つ以上のレンズであり得る。いくつかの実施形態において、レンズ320、330、340、350は、レンズ1046(図2A)に対応し得る。光ガイド270、280、290、300、310、および/または、複数のレンズ320、330、340、350は、種々のレベルの波面曲率または光線発散を伴って画像情報を眼に送信するように構成され得る。各光ガイドレベルは、特定の深度平面に関連付けられ得、その深度平面に対応する画像情報を出力するように構成され得る。
いくつかの実施形態において、光が、発光ダイオード(LED)等の光エミッタを含み得る光モジュール530を備えている画像投入システム520によって、光ガイド270、280、290、300、310の中に投入される。光モジュール530からの光は、ビームスプリッタ550を介して、光変調器540(例えば、空間光変調器)に向けられ、それによって修正され得る。光モジュール530は、光源1000に対応し得、光変調器540は、画像SLM1020(図2A-7)に対応し得ることを理解されたい。
光変調器540は、光ガイド270、280、290、300、310の中に投入される光の知覚される強度を変化させ、光を画像情報でエンコードするように構成され得る。空間光変調器の例は、シリコン上液晶(LCOS)ディスプレイを含む液晶ディスプレイ(LCD)を含む。いくつかの実施形態において、画像投入システム520は、光を種々のパターン(例えば、ラスタ走査、螺旋走査、リサージュパターン等)で1つ以上の光ガイド270、280、290、300、310の中に、最終的に、視認者の眼210に投影するように構成された1つ以上の走査ファイバを備えている走査ファイバディスプレイであり得る。
図14を継続して参照すると、コントローラ560は、スタックされた光ガイドアセンブリ260、光源530、および光モジュール540のうちの1つ以上のものの動作を制御する。いくつかの実施形態において、コントローラ560は、ローカルデータ処理モジュール140の一部である。コントローラ560は、例えば、本明細書に開示される種々のスキームのいずれかに従って、光ガイド270、280、290、300、310への画像情報のタイミングおよび提供を調整するプログラミング(例えば、非一過性媒体内の命令)を含む。いくつかの実施形態において、コントローラは、単一の一体型デバイス、または有線または無線通信チャネルによって接続される分散型システムであり得る。コントローラ560は、いくつかの実施形態において、処理モジュール140または150(図17)の一部であり得る。
図14を継続して参照すると、光ガイド270、280、290、300、310は、全内部反射(TIR)によって各それぞれの光ガイド内で光を伝搬するように構成され得る。光ガイド270、280、290、300、310の各々は、平面であるか、または、別の形状(例えば、湾曲)を有し得、主要な上部および底部表面、およびそれらの主要上部表面と底部表面との間に延びている縁を伴う。図示される構成において、光ガイド270、280、290、300、310の各々は、各それぞれの光ガイド内で伝搬する光を光ガイドから外に向け直し、画像情報を眼210に出力することによって、光を光ガイドから抽出するように構成された外部結合光学要素570、580、590、600、610を含み得る。抽出された光は、外部結合光とも称され得、外部結合光学要素光は、光抽出光学要素とも称され得る。外部結合光学要素570、580、590、600、610は、例えば、本明細書にさらに議論されるような回折光学特徴を含む格子であり得る。説明の容易性および図面の明確性のために、光ガイド270、280、290、300、310の底部主要表面に配置されて図示されるが、いくつかの実施形態において、外部結合光学要素570、580、590、600、610は、本明細書にさらに議論されるように、上部および/または底部主要表面に配置され得、および/または、光ガイド270、280、290、300、310の容積内に直接配置され得る。いくつかの実施形態において、外部結合光学要素570、580、590、600、610は、透明基板に取り付けられ、光ガイド270、280、290、300、310を形成する材料の層内に形成され得る。いくつかの他の実施形態において、光ガイド270、280、290、300、310は、モノリシックな材料片であり得、外部結合光学要素570、580、590、600、610は、その材料片の表面上および/または内部に形成され得る。いくつかの実施形態において、外部結合光学要素570、580、590、600、610は、レンズ構造1078、1079(図5-7)に対応し得る。
図14を継続して参照すると、本明細書に議論されるように、各光ガイド270、280、290、300、310は、光を出力し、特定の深度平面に対応する画像を形成するように構成される。例えば、眼の最も近い光ガイド270は、コリメートされた光を眼210に送達するように構成され得る。コリメートされた光は、光学無限遠焦点面を表し得る。次の上方の光ガイド280は、眼210に到達し得る前、第1のレンズ350(例えば、負のレンズ)を通過するコリメートされた光を送出するように構成され得、そのような第1のレンズ350は、眼/脳が、その次の上方の光ガイド280から生じる光を光学無限遠から眼210に向かって内側により近い第1の焦点面から生じるものとして解釈するように、若干の凸面波面曲率を生成するように構成され得る。同様に、第3の上方の光ガイド290は、眼210に到達する前、その出力光を第1の350および第2の340レンズの両方を通り、第1の350および第2の340レンズの組み合わせられた屈折力は、眼/脳が、第3の光ガイド290から生じる光を次の上方の光ガイド280からの光であった光学無限遠から人物に向かって内側にさらに近い第2の焦点面から生じるものとして解釈するように、別の漸増量の波面曲率を生成するように構成され得る。
他の光ガイド層300、310およびレンズ330、320も同様に構成され、スタック内の最も高い光ガイド310は、人物に最も近い焦点面を表す集約焦点力により、その出力をそれと眼との間のレンズの全てを通して送出する。スタックされた光ガイドアセンブリ260の他の側の世界510から生じる光を視認/解釈するとき、レンズ320、330、340、350のスタックを補償するために、補償レンズ層620が、スタックの上部に配置され、下方のレンズスタック320、330、340、350の集約力を補償し得る。そのような構成は、利用可能な光ガイド/レンズ対と同じ数の知覚される焦点面を提供する。光ガイドの外部結合光学要素およびレンズの集束側面の両方は、静的であり得る(すなわち、動的または電気活性ではない)。いくつかの代替実施形態において、いずれか一方または両方は、電気活性特徴を使用して動的であり得る。
いくつかの実施形態において、光ガイド270、280、290、300、310のうちの2つ以上のものは、同じ関連付けられた深度平面を有し得る。例えば、複数の光ガイド270、280、290、300、310は、同じ深度平面に設定される画像を出力するように構成され得るか、または、光ガイド270、280、290、300、310の複数の部分組は、深度平面毎に1つの組を伴って、同じ複数の深度平面に設定される画像を出力するように構成され得る。これは、それらの深度平面において拡張された視野を提供するようにタイル化された画像を形成するための利点を提供し得る。
図14を継続して参照すると、外部結合光学要素570、580、590、600、610は、光をそれらのそれぞれの光ガイドから外に向け直すように、かつ光ガイドに関連付けられた特定の深度平面のために適切な量の発散またはコリメーションを伴ってこの光を出力するように構成され得る。結果として、異なる関連付けられた深度平面を有する光ガイドは、関連付けられた深度平面に応じて、異なる量の発散を伴う光を出力する外部結合光学要素570、580、590、600、610の異なる構成を有し得る。いくつかの実施形態において、光抽出光学要素570、580、590、600、610は、特定の角度で光を出力するように構成され得る体積または表面特徴であり得る。例えば、光抽出光学要素570、580、590、600、610は、体積ホログラム、表面ホログラム、および/または回折格子であり得る。いくつかの実施形態において、特徴320、330、340、350は、レンズではないこともあり、むしろ、それらは、単に、スペーサ(例えば、クラッディング層および/または空隙を形成するための構造)であり得る。
いくつかの実施形態において、1つ以上のDOEは、能動的に回折する「オン」状態と有意に回折しない「オフ」状態との間で切り替え可能であり得る。例えば、切り替え可能なDOEは、ポリマー分散液晶の層を備え得、その中で微小液滴は、ホスト媒体中に回折パターンを備え、微小液滴の屈折率は、ホスト材料の屈折率に実質的に一致するように切り替えられ得る(その場合、パターンは、入射光を著しく回折しない)、または微小液滴は、ホスト媒体のものに一致しない屈折率に切り替えられ得る(その場合、パターンは、入射光を能動的に回折する)。
いくつかの実施形態において、本明細書に議論されるように、眼結像アセンブリ1056(例えば、可視光および赤外光カメラを含むデジタルカメラ)が、眼210の画像を捕捉するように提供され得る。本明細書で使用されるように、カメラは、任意の画像捕捉デバイスであり得る。いくつかの実施形態において、眼結像アセンブリ1056は、画像捕捉デバイスと、次いで、眼によって反射され、画像捕捉デバイスによって検出され得る光(例えば、赤外光)を眼に投影するための光源とを含み得る。いくつかの実施形態において、眼結像アセンブリ1056は、フレーム80(図17)に取り付けられ得、眼結像アセンブリ1056からの画像情報を処理し得る処理モジュール140および/または150と電気通信し得る。いくつかの実施形態において、1つの眼結像アセンブリ1056が、各眼のために利用され、各眼を別個に監視し得る。
いくつかの実施形態において、フルカラー画像が、原色(例えば、3つ以上の原色)の各々における画像をオーバーレイすることによって、各深度平面において形成され得る。図15は、各深度平面が、複数の異なる原色を使用して形成される画像を含むスタックされた光ガイドアセンブリの例を図示する。図示される実施形態は、深度平面240a-240fを示すが、より多いまたはより少ない深度も、想定される。各深度平面は、第1の色Gの第1の画像、第2の色Rの第2の画像、および第3の色Bの第3の画像を含むそれに関連付けられた3つ以上の原色画像を有し得る。異なる深度平面は、文字G、R、およびBに続くジオプタ(dpt)に関する異なる数字によって図に示される。単なる例として、それらの文字の各々に続く数字は、ジオプタ(1/m)、すなわち、視認者からの深度平面の逆距離を示し、図中の各ボックスは、個々の原色画像を表す。いくつかの実施形態において、異なる波長の光の眼の集束における差異を考慮するために、異なる原色に関する深度平面の正確な場所は、変動し得る。例えば、所与の深度平面に関する異なる原色画像は、ユーザからの異なる距離に対応する深度平面上に設置され得る。そのような配列は、視力およびユーザ快適性を増加させ得、および/または、色収差を減少させ得る。
いくつかの実施形態において、各原色の光は、単一の専用光ガイドによって出力され得、その結果、各深度平面は、それに関連付けられた複数の光ガイドを有し得る。そのような実施形態において、文字G、R、またはBを含む図中の各ボックスは、個々の光ガイドを表すと理解され得、3つの光ガイドは、3つの原色画像が深度平面毎に提供される深度平面毎に提供され得る。各深度平面に関連付けられた光ガイドは、この図面において、説明を容易にするために互いに隣接して示されるが、物理的デバイスにおいて、光ガイドは全て、レベル毎に1つの光ガイドを伴うスタックに配列され得ることを理解されたい。いくつかの他の実施形態において、例えば、単一の光ガイドのみが深度平面毎に提供され得るように、複数の原色が、同じ光ガイドによって出力され得る。
図15を継続して参照すると、いくつかの実施形態において、Gは、緑色であり、Rは、赤色であり、Bは、青色である。いくつかの他の実施形態において、マゼンタ色およびシアン色を含む光の他の波長に関連付けられた他の色も、赤色、緑色、または青色のうちの1つ以上のものに加えて使用され得るか、または、それらに取って代わり得る。
本開示の全体を通した所与の光の色の言及は、視認者によってその所与の色であるものとして知覚される光の波長の範囲内の1つ以上の波長の光を包含すると理解されるであろうことを理解されたい。例えば、赤色光は、約620~780nmの範囲内の1つ以上の波長の光を含み得、緑色光は、約492~577nmの範囲内の1つ以上の波長の光を含み得、青色光は、約435~493nmの範囲内の1つ以上の波長の光を含み得る。
いくつかの実施形態において、光源530(図14)は、視認者の視覚的知覚範囲外の1つ以上の波長、例えば、赤外線および/または紫外線波長の光を放射するように構成され得る。加えて、ディスプレイ250の光ガイドの内部結合、外部結合、および他の光向け直し構造は、例えば、結像および/またはユーザ刺激用途のために、この光をディスプレイからユーザの眼210に向かって向けるように、および放射するように構成され得る。
ここで図16を参照すると、いくつかの実施形態において、光ガイドに衝突する光は、その光を光ガイドの中に内部結合するように向け直され得る。内部結合光学要素が、光をその対応する光ガイドの中に向け直し、内部結合するために使用され得る。図16は、各々が内部結合光学要素を含む複数のスタックされた光ガイドまたはその組660の例の断面側面図を図示する。光ガイドの各々は、1つ以上の異なる波長または1つ以上の異なる波長範囲の光を出力するように構成され得る。スタック660は、スタック260(図14)に対応し得、スタック660の図示される光ガイドは、複数の光ガイド270、280、290、300、310の一部に対応し得ることを理解されたい。
スタックされた光ガイドの図示される組660は、光ガイド670、680、および690を含む。各光ガイドは、関連付けられた内部結合光学要素(光ガイド上の光入力エリアとも称され得る)を含み、例えば、内部結合光学要素700は、光ガイド670の主要表面(例えば、上側主要表面)上に配置され、内部結合光学要素710は、光ガイド680の主要表面(例えば、上側主要表面)上に配置され、内部結合光学要素720は、光ガイド690の主要表面(例えば、上側主要表面)上に配置される。いくつかの実施形態において、内部結合光学要素700、710、720のうちの1つ以上のものは、それぞれの光ガイド670、680、690の底部主要表面上に配置され得る(特に、1つ以上の内部結合光学要素は、反射型偏向光学要素である)。図示されるように、内部結合光学要素700、710、720は、それらのそれぞれの光ガイド670、680、690の上側主要表面(または次の下側光ガイドの上部)上に配置され得、特に、それらの内部結合光学要素は、透過型偏向光学要素である。いくつかの実施形態において、内部結合光学要素700、710、720は、それぞれの光ガイド670、680、690の本体内に配置され得る。いくつかの実施形態において、本明細書に議論されるように、内部結合光学要素700、710、720は、他の光の波長を透過させながら、1つ以上の光の波長を選択的に向け直すように、波長選択的である。それらのそれぞれの光ガイド670、680、690の片側または角に図示されるが、内部結合光学要素700、710、720は、いくつかの実施形態において、それらのそれぞれの光ガイド670、680、690の他のエリア内に配置され得ることを理解されたい。内部結合光学要素700、710、720は、レンズ構造1076、1077(図5-7)に対応し得る。
図示されるように、内部結合光学要素700、710、720は、互いに側方にオフセットされ得る。いくつかの実施形態において、各内部結合光学要素は、その光が別の内部結合光学要素を通過することなく、光を受け取るように、オフセットされ得る。例えば、各内部結合光学要素700、710、720は、異なるSLMまたは画像SLMの異なる部分から光を受け取るように構成され得、内部結合光学要素700、710、720のうちの他のものに入射する光を実質的に受け取らないように、他の内部結合光学要素700、710、720から分離され(例えば、側方に間隔を置かれ)得る。加えて、各内部結合光学要素700、710、720は、視認者の眼のネガ像を表示するための専用の関連付けられたSLMを有し得るか、または、内部結合光学要素700、710、720のうちの個々のものに対応する光源SLM1000の異なる部分においてネガ像を表示し得る。いくつかの実施形態において、各内部結合光学要素700、710、720は、表示されたネガ像から対応する内部結合光学要素700、710、または720までの光の経路内の専用の関連付けられた光源集光/コリメート光学系およびリレー光学系を含む専用の関連付けられた光学要素を有し得る。
光ガイド670、680、690は、例えば、材料のガス、液体、および/または固体層によって間隔を置かれ、分離され得る。例えば、図示されるように、層760aは、光ガイド670と680とを分離し得、層760bは、光ガイド680と690とを分離し得る。いくつかの実施形態において、層760aおよび760bは、低屈折率材料(すなわち、光ガイド670、680、690のうちの直近のものを形成する材料より低い屈折率を有する材料)から形成される。好ましくは、層760a、760bを形成する材料の屈折率は、光ガイド670、680、690を形成する材料の屈折率を0.05以上、または、0.10以下である。有利に、より低い屈折率層760a、760bは、光ガイド670、680、690を通して光の全内部反射(TIR)(例えば、各光ガイドの上部主要表面と底部主要表面との間のTIR)を促進するクラッディング層として機能し得る。いくつかの実施形態において、層760a、760bは、空気から形成される。図示されないが、光ガイドの図示される組660の上部および底部は、直近クラッディング層を含み得ることを理解されたい。
好ましくは、製造および他の考慮点を容易にするために、光ガイド670、680、690を形成する材料は、類似または同じであり、層760a、760bを形成する材料は、類似または同じである。いくつかの実施形態において、光ガイド670、680、690を形成する材料は、1つ以上の光ガイド間で異なり得、および/または、層760a、760bを形成する材料は、依然として、上記の種々の屈折率関係を保持しながら、異なり得る。
図16を継続して参照すると、光線770、780、790が、光ガイドの組660に入射する。いくつかの実施形態において、光線770、780、790は、異なる色に対応し得る異なる特性、例えば、異なる波長または異なる波長範囲を有する。内部結合光学要素700、710、720の各々は、光が、TIRによって、光ガイド670、680、690のうちのそれぞれの1つを通して伝搬するように、入射光を偏向させる。いくつかの実施形態において、内部結合光学要素700、710、720の各々は、他の波長を下層光ガイドおよび関連付けられた内部結合光学要素に透過させながら、1つ以上の特定の光の波長を選択的に偏向させる。
例えば、内部結合光学要素700は、それぞれ、異なる第2および第3の波長または波長範囲を有する光線780および790を透過させながら、第1の波長または波長範囲を有する光線770を偏向させるように構成され得る。透過させられた光線780は、第2の波長または波長範囲の光を偏向させるように構成される、内部結合光学要素710に衝突し、それによって偏向させられる。光線790は、第3の波長または波長範囲の光を選択的に偏向させるように構成される内部結合光学要素720によって偏向させられる。
図16を継続して参照すると、偏向させられた光線770、780、790は、対応する光ガイド670、680、690を通して伝搬するように偏向させられる、すなわち、各光ガイドの内部結合光学要素700、710、720は、光をその対応する光ガイド670、680、690の中に偏向させ、光をその対応する光ガイドの中に内部結合する。光線770、780、790は、光にTIRによってそれぞれの光ガイド670、680、690を通して伝搬させる角度で偏向させられる。光線770、780、790は、次いで、それぞれ、外部結合光学要素800、810、820に衝突する。いくつかの実施形態において、外部結合光学要素800、810、820は、レンズ構造1078、1079(図5-7)に対応し得る。
故に、図16を参照すると、いくつかの実施形態において、光ガイドの組660は、各原色のために、光ガイド670、680、690と、内部結合光学要素700、710、720と、外部結合光学要素800、810、820とを含む。光ガイド670、680、690は、各1つの間に空隙/クラッディング層を伴ってスタックされ得る。内部結合光学要素700、710、720は、(異なる波長の光を受け取る異なる内部結合光学要素を用いて)入射光をその光ガイドの中に向け直し、または偏向させる。光は、次いで、それぞれの光ガイド670、680、690内でTIRをもたらすであろう角度で伝搬する。示される例において、光線770(例えば、青色光)は、第1の内部結合光学要素700によって偏向させられ、次いで、光ガイドを辿って跳ね返り、次いで、外部結合光学要素800と相互作用し続ける。光線780および790(例えば、それぞれ、緑色および赤色光)は、光ガイド670を通過し、光線780は、内部結合光学要素710に衝突し、それによって偏向させられる。光線780は、次いで、TIRを介して、光ガイド680を辿って跳ね返り、外部結合光学要素810上に進む。最後に、光線790(例えば、赤色光)は、光ガイド690を通過し、光ガイド690の光内部結合光学要素720に衝突する。光内部結合光学要素720は、光線が、TIRによって外部結合光学要素820に伝搬するように、光線790を偏向させる。外部結合光学要素820は、次いで、最後に、光線790を他の光ガイド670、680からの外部結合された光も受け取り得る視認者に外部結合する。
図17は、本明細書に開示される種々の光ガイドおよび関連システムが統合され得るウェアラブルディスプレイシステム60の例を図示する。いくつかの実施形態において、ディスプレイシステム60は、図14のシステム250であり、図14は、そのシステム60のいくつかの部分をより詳細に図式的に示す。例えば、図14の光ガイドアセンブリ260は、ディスプレイ70の一部であり得る。
図17を継続して参照すると、ディスプレイシステム60は、ディスプレイ70と、そのディスプレイ70の機能をサポートするための種々の機械的および電子的モジュールおよびシステムとを含む。ディスプレイ70は、ディスプレイシステムユーザまたは視認者90によって装着可能であり、ディスプレイ70をユーザ90の眼の正面に位置付けるように構成されたフレーム80に結合され得る。ディスプレイ70は、いくつかの実施形態において、アイウェアと見なされ得る。いくつかの実施形態において、スピーカ100が、フレーム80に結合され、ユーザ90の外耳道に隣接して位置付けられるように構成される(いくつかの実施形態において、示されていない別のスピーカも、随意に、ユーザの他方の外耳道に隣接して位置付けられ、ステレオ/成形可能音制御を提供し得る)。ディスプレイシステム60は、1つ以上のマイクロホン110または他のデバイスも含み、音を検出し得る。いくつかの実施形態において、マイクロホンは、ユーザが入力またはコマンド(例えば、音声メニューコマンドの選択、自然言語質問等)をシステム60に提供することを可能にするように構成され、および/または、他の人物と(例えば、類似ディスプレイシステムの他のユーザと)のオーディオ通信を可能にし得る。マイクロホンは、周辺センサとしてさらに構成され、オーディオデータ(例えば、ユーザおよび/または環境からの音)を収集し得る。いくつかの実施形態において、ディスプレイシステム60は、ユーザの周囲の世界のオブジェクト、刺激、人々、動物、場所、または他の側面を検出するように構成された1つ以上の外向きに向けられる環境センサ112をさらに含み得る。例えば、環境センサ112は、例えば、ユーザ90の通常の視野の少なくとも一部に類似する画像を捕捉するように外向きに面して位置し得る1つ以上のカメラを含み得る。いくつかの実施形態において、ディスプレイシステムは、フレーム80と別個であり、ユーザ90の身体(例えば、ユーザ90の頭部、胴体、四肢等)に取り付けられ得る周辺センサ120aも含み得る。周辺センサ120aは、いくつかの実施形態において、ユーザ90の生理学的状態を特性評価するデータを入手するように構成され得る。例えば、センサ120aは、電極であり得る。
図17を継続して参照すると、ディスプレイ70は、有線導線または無線接続性によって等、通信リンク130によって、フレーム80に固定して取り付けられる構成、ユーザによって装着されるヘルメットまたは帽子に固定して取り付けられる構成、ヘッドホン内に埋設される構成、または、別様にユーザ90に除去可能に取り付けられる構成(例えば、リュック式構成において、ベルト結合式構成において)等、種々の構成で搭載され得るローカルデータ処理モジュール140に動作可能に結合される。同様に、センサ120aは、通信リンク120b、例えば、有線導線または無線接続性によって、ローカルプロセッサおよびデータモジュール140に動作可能に結合され得る。ローカル処理およびデータモジュール140は、ハードウェアプロセッサ、および不揮発性メモリ(例えば、フラッシュメモリまたはハードディスクドライブ)等のデジタルメモリを備え得、両方は、データの処理、キャッシュ、および記憶を補助するために利用され得る。随意に、ローカルプロセッサおよびデータモジュール140は、1つ以上の中央処理ユニット(CPU)、グラフィックス処理ユニット(GPU)、専用処理ハードウェア等を含み得る。データは、a)画像捕捉デバイス(カメラ等)、マイクロホン、慣性測定ユニット、加速度計、コンパス、GPSユニット、無線デバイス、ジャイロスコープ、および/または本明細書に開示される他のセンサ等の(例えば、フレーム80に動作可能に結合されるか、または、別様にユーザ90に取り付けられ得る)センサから捕捉されるデータ、および/または、b)おそらく処理または読み出し後にディスプレイ70への通過のための遠隔処理モジュール150および/または遠隔データリポジトリ160(仮想コンテンツに関連するデータを含む)を使用して入手および/または処理されるデータを含み得る。ローカル処理およびデータモジュール140は、これらの遠隔モジュール150、160が、互いに動作可能に結合され、ローカル処理およびデータモジュール140に対するリソースとして利用可能であるように、有線または無線通信リンクを介して等、通信リンク170、180によって、遠隔処理モジュール150および遠隔データリポジトリ160に動作可能に結合され得る。いくつかの実施形態において、ローカル処理およびデータモジュール140は、画像捕捉デバイス、マイクロホン、慣性測定ユニット、加速度計、コンパス、GPSユニット、無線デバイス、および/またはジャイロスコープのうちの1つ以上のものを含み得る。いくつかの他の実施形態において、これらのセンサのうちの1つ以上のものは、フレーム80に取り付けられ得るか、または、有線または無線通信経路によってローカル処理およびデータモジュール140と通信する独立構造であり得る。
図17を継続して参照すると、いくつかの実施形態において、遠隔処理モジュール150は、例えば、1つ以上の中央処理ユニット(CPU)、グラフィックス処理ユニット(GPU)、専用処理ハードウェア等を含むデータ、および/または、画像情報を分析および処理するように構成された1つ以上のプロセッサを備え得る。いくつかの実施形態において、遠隔データリポジトリ160は、インターネットまたは「クラウド」リソース構成における他のネットワーキング構成を通して利用可能であり得るデジタルデータ記憶設備を備え得る。いくつかの実施形態において、遠隔データリポジトリ160は、情報、例えば、拡張現実コンテンツを生成するための情報をローカル処理およびデータモジュール140および/または遠隔処理モジュール150に提供する1つ以上の遠隔サーバを含み得る。いくつかの実施形態において、全てのデータが、記憶され、全ての計算が、ローカル処理およびデータモジュール内で実施され、遠隔モジュールからの完全に自律的な使用を可能にする。随意に、CPU、GPU等を含む外部システム(例えば、1つ以上のプロセッサ、1つ以上のコンピュータのシステム)が、処理(例えば、画像情報を生成する、データを処理する)の少なくとも一部を実施し、例えば、無線または有線接続を介して、情報をモジュール140、150、160に提供し、情報をそれから受信し得る。
(捕捉された画像におけるオブジェクトまたは特徴を検出するためのコンピュータビジョン)
上で議論されるように、ディスプレイシステムは、捕捉された画像におけるオブジェクトまたは特徴を検出するように構成され得る。いくつかの実施形態において、画像内に存在するオブジェクトまたは特徴は、コンピュータビジョン技法を使用して検出され得る。例えば、ディスプレイシステムは、捕捉された画像に対して画像分析を実施し、これらの画像内の特定のオブジェクトまたは特徴の存在を決定するように構成され得る。ディスプレイシステムは、いくつかの実施形態において、捕捉された画像を分析し、眼瞳孔の存在および輪郭を決定し得る。
1つ以上のコンピュータビジョンアルゴリズムが、これらのタスクを実施するために使用され得る。コンピュータビジョンアルゴリズムの非限定的例は、スケール不変特徴変換(SIFT)、スピードアップロバスト特徴(SURF)、向きFASTおよび回転BRIEF(ORB)、バイナリロバスト不変スケーラブルキー点(BRISK)、高速網膜キー点(FREAK)、Viola-Jonesアルゴリズム、Eigenfacesアプローチ、Lucas-Kanadeアルゴリズム、Horn-Schunkアルゴリズム、平均シフトアルゴリズム、視覚的同時位置特定およびマッピング(vSLAM)技法、シーケンシャルベイズ推定器(例えば、カルマンフィルタ、拡張カルマンフィルタ等)、バンドル調節、適応2値化(および他の2値化技法)、反復最近傍点(ICP)、セミグローバルマッチング(SGM)、セミグローバルブロックマッチング(SGBM)、特徴点ヒストグラム、種々の機械学習アルゴリズム(例えば、サポートベクトルマシン、k最近傍アルゴリズム、単純ベイズ、ニューラルネットワーク(畳み込みまたは深層ニューラルネットワークを含む)、または他の教師あり/教師なしモデル等)等を含む。
(機械学習)
種々の機械学習アルゴリズムが、眼瞳孔の存在、形状、場所等を識別することを学習するために使用され得る。訓練されると、機械学習アルゴリズムは、ディスプレイシステムによって記憶され得る。機械学習アルゴリズムのいくつかの例は、回帰アルゴリズム(例えば、通常の最小2乗回帰等)、インスタンスベースのアルゴリズム(例えば、学習ベクトル量子化等)、決定ツリーアルゴリズム(例えば、分類および回帰ツリー等)、ベイズアルゴリズム(例えば、単純ベイズ等)、クラスタリングアルゴリズム(例えば、k-平均クラスタリング等)、関連付けルール学習アルゴリズム(例えば、アプリオリアルゴリズム等)、人工ニューラルネットワークアルゴリズム(例えば、Perceptron等)、深層学習アルゴリズム(例えば、ディープボルツマンマシンまたは深層ニューラルネットワーク等)、次元削減アルゴリズム(例えば、主成分分析等)、アンサンブルアルゴリズム(例えば、スタックされた一般化等)、および/または他の機械学習アルゴリズムを含む教師ありまたは教師なし機械学習アルゴリズムを含み得る。いくつかの実施形態において、個々のモデルは、個々のデータセットのためにカスタマイズされ得る。例えば、ディスプレイシステムは、ベースモデルを生成または記憶し得る。ベースモデルは、開始点として使用され、データタイプ(例えば、特定のユーザ)、データセット(例えば、取得される追加の画像の組)、条件付き状況、または他の変形例に特有の追加のモデルを生成し得る。いくつかの実施形態において、ディスプレイシステムは、複数の技法を利用して、集約されたデータの分析のためのモデルを生成するように構成され得る。他の技法は、事前に定義された閾値またはデータ値を使用することを含み得る。
オブジェクトまたは特徴を検出するための基準は、1つ以上の閾値条件を含み得る。捕捉された画像の分析が、閾値条件に合格したことを示す場合、ディスプレイシステムは、画像におけるオブジェクトの存在の検出を示す信号を提供し得る。閾値条件は、定量的および/または定質的尺度を伴い得る。例えば、閾値条件は、オブジェクトが画像内に存在することの可能性に関連付けられたスコアまたはパーセンテージを含み得る。ディスプレイシステムは、捕捉された画像から計算されるスコアを閾値スコアと比較し得る。スコアが、閾値レベルより高い場合、ディスプレイシステムは、オブジェクトまたは特徴の存在を検出し得る。いくつかの他の実施形態において、ディスプレイシステムは、スコアが閾値より低い場合、画像におけるオブジェクトの不在をシグナリングし得る。
本明細書に説明され、および/または、図に描写されるプロセス、方法、およびアルゴリズムの各々は、具体的かつ特定のコンピュータ命令を実行するように構成された1つ以上の物理的コンピューティングシステム、ハードウェアコンピュータプロセッサ、特定用途向け回路、および/または電子ハードウェアによって実行されるコードモジュールにおいて具現化され、それによって完全または部分的に自動化され得ることを理解されたい。例えば、コンピューティングシステムは、具体的コンピュータ命令とともにプログラムされる汎用コンピュータ(例えば、サーバ)、または専用コンピュータ、専用回路等を含むことができる。コードモジュールは、実行可能プログラムにコンパイルおよびリンクされる、動的リンクライブラリ内にインストールされ得るか、または、インタープリタ型プログラミング言語で書き込まれ得る。いくつかの実施形態において、特定の動作および方法が、所与の機能に特有である回路によって実施され得る。
さらに、本開示の機能性のある実施形態は、十分に数学的、コンピュータ的、または技術的に複雑であるため、(適切な特殊化された実行可能命令を利用する)特定用途向けハードウェアまたは1つ以上の物理的コンピューティングデバイスが、例えば、関与する計算の量または複雑性に起因して、機能性を実施するために、または結果を実質的にリアルタイムで提供するために、必要であり得る。例えば、ビデオは、多くのフレームを含み得、各フレームは、数百万のピクセルを有し、具体的にプログラムされたコンピュータハードウェアが、ビデオデータを処理し、商業的に妥当な時間量において所望の画像処理タスクまたは用途を提供するために必要である。
コードモジュールまたは任意のタイプのデータが、ハードドライブ、ソリッドステートメモリ、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、光学ディスク、揮発性または不揮発性記憶装置、同じ物の組み合わせ等を含む物理的コンピュータ記憶装置等の任意のタイプの非一過性コンピュータ読み取り可能な媒体上に記憶され得る。いくつかの実施形態において、非一過性コンピュータ読み取り可能な媒体は、ローカル処理およびデータモジュール(140)、遠隔処理モジュール(150)、および遠隔データリポジトリ(160)のうちの1つ以上のものの一部であり得る。方法およびモジュール(またはデータ)は、無線ベースおよび有線/ケーブルベースの媒体を含む種々のコンピュータ読み取り可能な伝送媒体上で生成されたデータ信号としても(例えば、搬送波または他のアナログまたはデジタル伝搬信号の一部として)伝送され得、種々の形態(例えば、単一または多重化アナログ信号の一部として、または複数の別々のデジタルパケットまたはフレームとして)をとり得る。開示されるプロセスまたはプロセスステップの結果は、任意のタイプの非一過性有形コンピュータ記憶装置内に持続的または別様に記憶され得るか、または、コンピュータ読み取り可能な伝送媒体を介して通信され得る。
本明細書に説明され、および/または、添付される図に描写されるフロー図内の任意のプロセス、ブロック、状態、ステップ、または機能性は、プロセスにおいて具体的機能(例えば、論理または算術)またはステップを実装するための1つ以上の実行可能命令を含むコードモジュール、セグメント、またはコードの一部を潜在的に表すものとして理解されたい。種々のプロセス、ブロック、状態、ステップ、または機能性は、組み合わせられるか、再配列されるか、本明細書に提供される例証的例に追加されるか、それから削除されるか、修正されるか、または、別様にそれから変更され得る。いくつかの実施形態において、追加のまたは異なるコンピューティングシステムまたはコードモジュールが、本明細書に説明される機能性のうちのいくつかまたは全てを実施し得る。本明細書に説明される方法およびプロセスは、いずれの特定のシーケンスにも限定されず、それに関連するブロック、ステップ、または状態は、適切である他のシーケンスで、例えば、連続して、並行して、またはある他の様式で実施され得る。タスクまたはイベントが、開示される例示的実施形態に追加され、またはそれから除去され得る。さらに、本明細書に説明される実施形態における種々のシステムコンポーネントの分離は、例証目的のためであり、全ての実施形態においてそのような分離を要求するものとして理解されるべきではない。説明されるプログラムコンポーネント、方法、およびシステムは、概して、単一のコンピュータ製品にともに統合される、または複数のコンピュータ製品にパッケージ化され得ることを理解されたい。
前述の明細書において、本発明は、その具体的実施形態を参照して説明された。しかしながら、種々の修正および変更が、本発明のより広義の精神および範囲から逸脱することなく、それらに行われ得ることが明白であろう。本明細書および図面は、故に、限定的意味ではなく、例証的と見なされるべきである。
実際、本開示のシステムおよび方法の各々は、いくつかの革新的側面を有し、そのうちのいかなるものも、本明細書に開示される望ましい属性に単独で関与しない、またはそのために要求されないことを理解されたい。上で説明される種々の特徴およびプロセスは、互いに独立して使用され得るか、または、種々の方法で組み合わせられ得る。全ての可能な組み合わせおよび副次的組み合わせは、本開示の範囲内に該当することを意図している。
別個の実施形態の文脈において本明細書に説明されるある特徴はまた、単一の実施形態において組み合わせて実装され得る。逆に、単一の実施形態の文脈において説明される種々の特徴も、複数の実施形態において別個に、または任意の好適な副次的組み合わせで実装され得る。さらに、特徴は、ある組み合わせで作用するものとして上で説明され、さらに、そのようなものとして最初に請求され得るが、請求される組み合わせからの1つ以上の特徴は、ある場合、組み合わせから削除され得、請求される組み合わせは、副次的組み合わせまたは副次的組み合わせの変形例を対象とし得る。いかなる単一の特徴または特徴群も、あらゆる実施形態に必要または必須ではない。
とりわけ、「~できる(can)」、「~し得る(could)」、「~し得る(might)」、「~し得る(may)」、「例えば(e.g.)」等、本明細書で使用される条件付き用語は、別様に具体的に記述されない限り、または使用されるような文脈内で別様に理解されない限り、概して、ある実施形態が、ある特徴、要素、および/またはステップを含む一方、他の実施形態がそれらを含まないことを伝えることを意図していることを理解されたい。したがって、そのような条件付き用語は、概して、特徴、要素、および/またはステップが、1つ以上の実施形態のためにいかようにも要求されること、または1つ以上の実施形態が、著者の入力またはプロンプトの有無を問わず、これらの特徴、要素、および/またはステップが任意の特定の実施形態において含まれる、または実施されるものであるかどうかを決定するための論理を必然的に含むことを含意することを意図していない。用語「~を備えている(comprising)」、「~を含む(including)」、「~を有する(having)」等は、同義語であり、非限定的方式で包括的に使用され、追加の要素、特徴、行為、動作等を除外しない。また、用語「または」は、例えば、要素のリストを接続するために使用されると、用語「または」が、リスト内の要素のうちの1つ、いくつか、または全てを意味するように、その包括的意味で使用される(かつその排他的意味で使用されない)。加えて、本願および添付される請求項で使用されるような冠詞「a」、「an」、および「the」は、別様に規定されない限り、「1つ以上の」または「少なくとも1つ」を意味すると解釈されるものである。同様に、動作は、特定の順序で図面に描写され得るが、望ましい結果を達成するために、そのような動作が、示される特定の順序または連続的順序で実施される必要がないこと、または、全ての図示される動作が実施される必要はないことを認識されたい。さらに、図面は、フローチャートの形態で1つ以上の例示的プロセスを図式的に描写し得る。しかしながら、描写されていない他の動作も、図式的に図示される例示的方法およびプロセス内に組み込まれ得る。例えば、1つ以上の追加の動作が、図示される動作のうちのいずれかの前、その後に、それと同時に、またはその間に実施され得る。加えて、動作は、他の実施形態において、再配列され、または再順序付けられ得る。ある状況において、マルチタスクおよび並列処理が、有利であり得る。さらに、上で説明される実施形態における種々のシステムコンポーネントの分離は、全ての実施形態においてそのような分離を要求するものとして理解されるべきではなく、説明されるプログラムコンポーネントおよびシステムは、概して、単一のソフトウェア製品に一緒に統合されるか、または、複数のソフトウェア製品にパッケージ化され得ることを理解されたい。加えて、他の実施形態も、以下の請求項の範囲内である。ある場合、請求項に列挙されるアクションは、異なる順序で実施され、依然として、望ましい結果を達成し得る。
故に、請求項は、本明細書に示される実施形態に限定されることを意図しておらず、本明細書に開示される本開示、原理、および新規の特徴と一致する最も広い範囲を与えられるものである。