以下、本発明を実施するための形態について、図面を参照して詳細に説明する。
[第1の実施の形態]
本発明の第1実施形態は、カメラ装置(以下、カメラ)をアレイ状に配列させたカメラアレイを用いてインテグラルフォトグラフィによる撮影装置を実現する例である。
図1は、第1実施形態である撮影装置を適用した撮影表示システムの概略の構成を示す構成図である。同図に示すように、撮影表示システム1は、カメラアレイ10と、画像処理装置(画像処理部)20と、投影装置210と、拡散板220と、表示用レンズアレイ230とを含んで構成される。撮影表示システム1において、撮影装置は、カメラアレイ10と、画像処理装置20とを含む。
図1には、カメラアレイ10によって撮影される被写体Sが表されている。また、同図には、相互に直交する3本の軸(X軸、Y軸、およびZ軸)が表されている。X軸およびY軸は、それぞれ、カメラアレイ10が有する複数のカメラに備えられた撮像部の撮像面の水平方向および垂直方向それぞれに平行な軸である。Z軸は、カメラアレイ10の各カメラが備える撮像部の撮像面に垂直に交わる軸である。つまり、Z軸は、撮影装置の主光軸に平行な軸である。
カメラアレイ10は、複数のカメラを二次元配列させて構成される。本実施形態において、カメラアレイ10は、例えば18台のカメラを正方格子状に配設して構成される。図1に示すように、カメラアレイ10は、各カメラに備えられた撮像部の撮像面がX軸およびY軸を含む平面(XY平面)に平行な一面上に、18台のカメラをX軸方向に6台、Y軸方向に3台、マトリクス状に配設して構成される。この18台という台数は、同図を簡略化して説明を簡単にするための例である。実際には、カメラアレイ10は、18台に限定されることなくさらに多くのカメラを二次元配列させて構成してもよい。
カメラが備える撮像レンズは、インテグラルフォトグラフィにおける撮像用レンズアレイの要素レンズに相当する。カメラは、被写体Sから到来する光束を取り込み、この光束を撮像部で光電変換させることによって要素画像データを生成する。カメラアレイ10は、18台のカメラを同時に動作させて18個の要素画像データを生成し、これら18個の要素画像データを、要素画像データセットとして画像処理装置20に供給する。
画像処理装置20は、カメラアレイ10が供給する要素画像データセットを取り込む。画像処理装置20は、要素画像データセットが有する18個の要素画像データを18個(6個×3個)のカメラの配置に対応させて合成することにより、1フレーム分の要素画像群データを生成する。具体的に、画像処理装置20は、18個の要素画像データを合成する際に、例えば、撮像部と撮像レンズとの対において撮像部の撮像面から外側に出る撮像レンズの部分に対応する画素(補間画素)の画素値(補間画素値)を、画素の内挿処理を実行することによって求める。そして、画像処理装置20は、18個の要素画像データと、画素の内挿処理により求めた補間画素値とを合成することにより、1フレーム分の要素画像群データを生成し記憶する。
画像処理装置20は、記憶された18個の要素画像データについて、個体差を除去または低減するための補正処理を実行してもよい。例えば、画像処理装置20は、要素画像間の色の属性(例えば、色相、彩度、明度)の誤差、および輝度の誤差をなくすための画像処理を実行する。画像処理装置20は、1フレーム分の要素画像群データを、インテグラル画像データとして投影装置210に供給する。画像処理装置20が要素画像データセットを合成してインテグラル画像データを得る処理(合成処理)の詳細については後述する。画像処理装置20は、CPU(Central Processing Unit)を搭載した演算処理装置、例えば、コンピュータ装置により実現される。
撮影表示システム1は、表示装置を含む。この表示装置は、投影装置210と、拡散板220と、表示用レンズアレイ230とを含む。この表示装置は、本実施形態である撮影装置が生成したインテグラル画像データを取り込み、このインテグラル画像データをインテグラルフォトグラフィで表示する。
投影装置210は、画像処理装置20が供給するインテグラル画像データを取り込む。投影装置210は、インテグラル画像データを画像光に変換し、この画像光を拡散板220に向けて投射する。投影装置210は、例えば、プロジェクタ装置により実現される。
拡散板220は、光透過性および光拡散性をともに有する平板である。拡散板220は、投影装置210によって投影された画像光を一方の面(投影装置210側の面)から拡散させながら透過させて他方の面に到達させる。これにより、拡散板220の他方の面にインテグラル画像を表出させる。
表示用レンズアレイ230は、複数の要素レンズを、各光軸が平行となるようにして規則的に二次元配列させて構成した要素レンズ群である。本実施形態において、表示用レンズアレイ230は、カメラの台数と同数(18個)の要素レンズをX軸方向に6個、Y軸方向に3個、マトリクス状に配列させて構成される。つまり、表示用レンズアレイ230が有する要素レンズの個数とカメラアレイ10が有するカメラの台数とは同数である。また、表示用レンズアレイ230における要素レンズの配列は、カメラアレイ10におけるカメラ11の配列と相対的に同一である。各要素レンズは、例えば凸レンズである。表示用レンズアレイ230は、各要素レンズの焦平面が拡散板220の他方の面に一致する位置に設けられる。拡散板220の他方の面に表示されたインテグラル画像からの光束を、表示用レンズアレイ230を通すことによって、被写体Sに対応する空間像が生成される。
撮影表示システム1において、カメラアレイ10が有する18台のカメラそれぞれが備える撮像部の撮像面をマトリクス状に並べて得られる解像度と、投影装置210が備える表示部の解像度とは等しい。また、カメラアレイ10における18個の撮像レンズのレンズピッチと、表示用レンズアレイ230における要素レンズのレンズピッチとは、相対的に等しい比率となる小数画素分である。レンズピッチとは、隣接する要素レンズの中心点間の大きさである。小数画素分とは、画素ピッチの非整数倍の大きさである。画素ピッチとは、隣接する画素の中心点間の大きさである。
図2は、図1に示したカメラアレイ10を被写体S側から見た場合の正面図である。図2には、カメラアレイ10が備える18個のカメラ11が、X軸方向に6台、Y軸方向に3台、マトリクス状に配設された様子が簡略化して表されている。本実施形態では、これら18台のカメラそれぞれの符号11に、ハイフン「−」を介して二次元座標を表す添字(2桁の数字)を付することにより、各カメラ11を区別する。
従来技術では、撮像レンズの光軸と撮像部の撮像面の中心軸とが一致するカメラ11を有するカメラアレイ10および表示用レンズアレイ230について、それぞれのレンズピッチが小数画素分である場合、カメラアレイ10が出力する18個の要素画像データを、表示用レンズアレイ230のレンズピッチに一致させて合成しようとすると、要素画像間に重複する領域(要素画像重複領域)が生ずる。これに対し、本実施形態では、各カメラ11の撮像レンズの光軸と、撮像部の中心軸とを相対的に所定方向にずらすことにより、要素画像重複領域が発生しないという効果が得られる。
図3は、カメラアレイ10におけるカメラ11の概略の機能構成を示すブロック図である。同図に示すように、カメラ11は、撮像レンズ111と、撮像部112と、出力部113と、位置調整部114とを備える。
撮像レンズ111は、取り込んだ光束を撮像部112の撮像面に結像させるレンズ光学系である。撮像レンズ111は、例えば、屈折率分布型(GRadient INdex Lenses;GRIN)レンズにより実現される。具体的に、撮像レンズ111として、以下に示す仕様の屈折率分布型レンズを用いる。すなわち、屈折率分布型レンズの光軸方向の長さをL、その屈折率分布型レンズの蛇行周期をPとし、下記の式(1)を満たす仕様の屈折率分布型レンズを撮像レンズ111として用いる。ただし、式(1)において、nは正整数である。
式(1)を満たす仕様の屈折率分布型レンズを撮像レンズ111として用いることにより、この屈折率分布型レンズの一方の端面から十分遠方に存在する被写体Sの正立実像を、他方の端面上またはこの端面の外側に現出させることができる。屈折率分布型レンズの一方の端面から十分遠方に存在する被写体Sの正立実像を他方の端面上に現出させるためには、下記の式(2)を満たす仕様の屈折率分布型レンズを用いる。ただし、式(2)において、nは正整数である。
撮像レンズ111として、式(2)を満たす屈折率分布型レンズを用いることにより、カメラアレイ10が生成する要素画像間のクロストークを抑制することができる。
撮像部112は、撮像レンズ111により得られる光束を光電変換することによって要素画像データを生成し、この要素画像データを出力部113に供給する。撮像部112は、例えば、CCD(Charged Coupled Device)イメージセンサ、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の固体撮像素子により実現される。
撮像レンズ111は、その焦平面が撮像部112の撮像面に一致するように設けられる。例えば、式(2)を満たす仕様の屈折率分布型レンズを撮像レンズ111として用いた場合、この屈折率分布型レンズの焦平面を、この屈折率分布型レンズにおける被写体S側と反対側の端面に一致させることができる。したがって、この場合、撮像レンズ111の被写体S側と反対側の端面を撮像部112の撮像面に接触させてカメラ11を構成することができる。これにより、カメラ11を小型化することができる。
出力部113は、撮像部112が供給する要素画像データを取り込み、この要素画像データを、画像処理装置20の入力部に対応する電気的特性で送信する。
位置調整部114は、撮像レンズ111の光軸Aに垂直な面(XY平面)内における任意の方向に、撮像レンズ111と撮像部112との位置関係を変更する光軸ずらし調整部である。具体的に、位置調整部114は、撮像レンズ111に対する撮像部112の位置を、例えば、撮像部112の中心軸Bが撮像レンズ111の光軸Aに一致した状態を基準として、光軸Aに対して垂直なX軸方向およびY軸方向またはいずれか一方向に任意の大きさだけ変位させる。位置調整部114に対する位置の変位の指定は、例えば、マニュアル操作、または、外部の制御装置からの指令による。変位の指定には、ずらし方向(X軸方向およびY軸方向またはいずれか一方向)およびずらし量の指定が含まれる。
すなわち、18台のカメラ11を有するカメラアレイ10は、画素ピッチの非整数倍の大きさのレンズピッチを有してZ軸に直交する第1平面上に配設される18個の撮像レンズ111を備える。また、カメラアレイ10は、第1平面と平行な第2平面上に配設される18個の撮像部112を備える。これにおいて、各カメラ11の位置調整部114は、カメラアレイ10における当該カメラ11の位置に応じて、撮像部112の位置を調整する。例えば、18個の撮像部112の撮像面を結合して得られる一枚の撮像面において、あらかじめ、各カメラ11の光軸Aが貫く画素の位置を求め、各カメラ11についての小数画素のずれ量を求めておく。そして、各カメラ11について、小数画素のずれ量に応じた光軸Aと撮像部112の中心軸Bとの変位量を求めておく。位置調整部114は、これらの変位量を用いて調整を行う。これにより、撮像レンズ111と撮像部112との位置関係は、第1平面における所定の基準位置(例えば、カメラアレイ10における中心位置)からX軸方向において撮像レンズ111の光軸Aが離れるにしたがって、撮像レンズ111の光軸Aと撮像面の中心軸BとのX軸方向における小数画素間隔のずれを整数画素間隔に補正することができる。また、上記の基準位置からY軸方向において撮像レンズ111の光軸Aが離れるにしたがって、撮像レンズ111の光軸Aと撮像面の中心軸BとのY軸方向における小数画素間隔のずれを整数画素間隔に補正することができる。
図4は、図1に示した表示用レンズアレイ230の正面図である。図4は、表示用レンズアレイ230に、拡散板220に表出する画像の画素を重ね合わせた状態を模式的に示している。同図では、要素レンズに対する画素の密度を低く、つまり要素レンズに対して画素を大きく示しているが、これは説明の便宜のためであり、実際は、要素レンズに対する画素の密度はさらに高い。また、同図における表示用レンズアレイ230は、要素レンズをX軸方向およびY軸方向に隙間なく配列したものであり、この場合、X軸方向およびY軸方向それぞれにおけるレンズピッチは要素レンズの直径に等しい。また、同図における画素は、互いに隙間なく格子状に配列されたものであり、この場合、X軸方向およびY軸方向それぞれにおける画素ピッチは画素幅に等しい。同図に示すとおり、表示用レンズアレイ230におけるレンズピッチは、画素ピッチの非整数倍の大きさである。すなわち、表示用レンズアレイ230におけるレンズピッチは、小数画素分である。
図5は、カメラアレイ10が有する18台のカメラ11それぞれについて、XY平面内での撮像レンズ111および撮像部112のずれを模式的に示す図である。同図において、2個×2個の小ブロックを含む矩形は、撮像部112の撮像面の外形を表す。また、撮像面に含まれる小ブロックは、画素を表す。また、円形は、撮像レンズ111の外形を表す。同図では、撮像レンズ111に対する撮像部112の画素の密度を低く、つまり撮像レンズ112に対して画素を大きく示しているが、これは説明の便宜のためであり、実際は、撮像レンズ111に対する画素の密度はさらに高い。
ここで、各カメラ11における、撮像レンズ111および撮像部112の位置の変位量について説明する。18台のカメラ11それぞれが備える撮像部112の撮像面を連結して得られる面上に、18個の撮像レンズ111を表示用レンズアレイ230の要素レンズと同一の配列により設けた位置関係において、各撮像レンズ111の中心位置に対応する画素の第1の座標と、各撮像面の中心位置に対応する画素の第2の座標とを求める。そして、カメラ11ごとに得られる、撮像レンズ111における第1の座標と撮像面における第2の座標とのずれを、X軸方向およびY軸方向それぞれの成分として取得し、変位量とする。
撮像レンズ111の光軸と撮像部112の中心軸との図5の位置関係を有するように調整されたカメラアレイ10から要素画像データセットを取り込んだ画像処理装置20は、要素画像重複領域を生じさせないで18個の要素画像データを合成することができる。
次に、画像処理装置20による要素画像データセットの合成処理について説明する。画像処理装置20は、カメラアレイ10から要素画像データセットを取り込み、この要素画像データセットが有する18個の要素画像データを、18台のカメラ11の配置に対応させ連結させて、自装置に内蔵する記憶部に記憶させる。この記憶部は、例えばカメラアレイ10が撮像する少なくとも1フレーム分の画像データを記憶可能なフレームメモリである。
そして、画像処理装置20は、撮像部112と撮像レンズ111との対において撮像部112の撮像面から外側に出る撮像レンズ111の部分に対応する画素(補間画素)の画素値(補間画素値)を、隣接する画素または周辺の画素の内挿処理により求める。または、画像処理装置20は、当該要素画像の周辺の一つまたは複数の要素画像に基づいて、内挿処理等により補間画素値を求める。そして、画像処理装置20は、18個の要素画像データと、画素の内挿処理により求めた補間画素値とを合成することにより、1フレーム分の要素画像群データ、すなわちインテグラル画像データを生成する。
以上説明したとおり、第1実施形態である撮影装置は、画素ピッチの非整数倍の大きさのレンズピッチを有して第1平面上に配設される18個の撮像レンズ111と、第1平面において所定の基準位置から第1平面上のX軸およびY軸それぞれの方向に離れるにしたがって、18個の撮像レンズ111それぞれの光軸Aと18個の撮像レンズ111それぞれに対応する撮像面の中心軸BとのX軸およびY軸それぞれの方向における小数画素間隔のずれを整数画素間隔に補正するよう、第1平面と平行な第2平面上に配設される18個の撮像部112と、を備える。
このように構成することにより、撮像レンズ111の光軸と撮像部112の中心軸との位置関係を図5に示したように調整されたカメラアレイ10を実現することができる。そして、このカメラアレイ10が生成する18個の要素画像データから1フレーム分のインテグラル画像を生成する場合、要素画像重複領域を生じさせないで18個の要素画像データを連結することができる。そして、表示側では、表示部の画素ピッチの非整数倍の大きさのレンズピッチを有する表示レンズアレイ230を用いて、インテグラルフォトグラフィによる空間像を得ることができる。
第1実施形態である撮影装置は、カメラ11の撮像レンズ111を要素レンズとして構成したインテグラルフォトグラフィによる撮影装置である。第1実施形態である撮像装置によれば、従来の撮像用レンズアレイを用いて構成された撮影装置に対して、各要素画像の解像度を格段に高めることができる。
また、第1実施形態である撮影装置は、18台のカメラ11の並びに応じて、撮像レンズ111の光軸と撮像部112の中心軸とをずらして構成したカメラアレイ10が撮像して得た18個の要素画像データを、18台のカメラ11の配置に対応させて合成することにより要素画像群データを生成する画像処理装置20をさらに備える。このように構成したことにより、画像処理装置20は、要素画像重複領域を生じさせることなく、18個の要素画像データを合成することができる。
ここで、画像処理装置20は、18個の要素画像データを合成する際に、撮像部112と撮像レンズ111との対において撮像部112の撮像面から外側に出る撮像レンズ111の部分に対応する画素の補間画素値を、画素の内挿処理を実行することにより求める。
このように構成したことにより、画像処理装置20は、補間画素値を周辺の画素の内挿処理によって得ることができる。つまり、画像処理装置20は、比較的簡易に要素画像データセットを合成して1フレーム分のインテグラル画像データを得ることができる。
以上により、本発明の第1実施形態である撮影装置は、インテグラルフォトグラフィによって高精細な空間像を得るためのインテグラル画像データを生成することができる。
[第1実施形態の第1の変形例]
第1実施形態の第1変形例は、第1実施形態に対して、カメラアレイ10が有する複数のカメラ11それぞれが備える撮像部112の撮像面をマトリクス状に並べて得られる解像度と、投影装置210が備える表示部の解像度とが等しくない例である。
画像処理装置20は、カメラアレイ10から取り込んだ要素画像データセットを複数のカメラ11の配置に対応させて合成することによって生成した要素画像群データを、この要素画像群データの解像度が、投影装置210における表示部の解像度に一致するよう、拡大または縮小いずれかの画像処理を行って、インテグラル画像データを生成する。
[第1実施形態の第2の変形例]
第1実施形態の第2変形例は、第1実施形態に対して、カメラアレイ10における複数の撮像レンズ111のレンズピッチと、表示用レンズアレイ230のレンズピッチとが相対的に等しい比率であり、且つ各レンズピッチが画素ピッチの整数倍となる例である。
第2変形例におけるカメラアレイ10が有する複数のカメラ11は、それぞれ、撮像レンズ111の光軸と撮像部112の中心軸とを一致させている。
画像処理装置20は、要素画像データセットが有する複数の要素画像データを複数のカメラ11の配置に対応させて連結することにより、1フレーム分のインテグラル画像データを生成する。第2変形例においては、画像処理装置20は、画素の内挿処理を実行しない。
[第1実施形態の第3の変形例]
第1実施形態の第3変形例は、第1実施形態に対して、カメラアレイ10が有する複数のカメラ11それぞれが備える撮像部112の撮像面をマトリクス状に並べて得られる解像度と、投影装置210が備える表示部の解像度とが等しくない例である。また、第3変形例は、第1実施形態に対して、カメラアレイ10における複数の撮像レンズ111のレンズピッチと表示用レンズアレイ230のレンズピッチとが相対的に等しい比率であり、且つ各レンズピッチが画素ピッチの整数倍となる例である。
第3変形例におけるカメラアレイ10が有する複数のカメラ11は、それぞれ、撮像レンズ111の光軸と撮像部112の中心軸とを一致させている。
画像処理装置20は、カメラアレイ10から取り込んだ要素画像データセットを複数のカメラ11の配置に対応させて連結することによって生成した要素画像群データを、この要素画像群データの解像度が、投影装置210における表示部の解像度に一致するよう、拡大または縮小いずれかの画像処理を行って、インテグラル画像データを生成する。第3変形例においては、画像処理装置20は、画素の内挿処理を実行しない。
[第1実施形態の第4の変形例]
第1実施形態の第4変形例は、第1実施形態に対して、カメラアレイ10におけるカメラ11の配列が、表示用レンズアレイ230における要素レンズの配列と異なる例である。
第4変形例は、図2に示したカメラアレイ10から、離散的にカメラ11を削除して構成されるカメラアレイを用いるものである。例えば、本変形例では、カメラアレイとして、同図に示したカメラアレイ10から、X軸方向およびY軸方向に一台おきにカメラ11を削除した構成とする。具体的に、本変形例におけるカメラアレイは、同図のカメラアレイ10から、カメラ11−21,11−41,11−61,11−12,11−32,11−52,11−23,11−43,11−63を削除して構成される。
画像処理装置20は、上記のカメラアレイが供給する要素画像データセットを取り込む。そして、画像処理装置20は、要素画像データセットが有する9個の要素画像データを合成する際に、例えば、要素画像間の間隙に対応する要素画像(補間要素画像)のデータ(補間要素画像データ)を、要素画像の内挿処理により求める。
カメラアレイ10における各カメラ11は、撮影装置の主光軸に対して直角である平面(XY平面)上に配列されるため、各要素画像における視線方向は、撮像レンズ111の並びに応じて徐々に変化する。つまり、隣り合う要素画像間、または、注目する要素画像とこの周辺の要素画像との間では、画像の相関が強い確率が高い。このような統計的な性質を利用し、画像処理装置20は、補間要素画像の領域に隣接する要素画像または周辺の要素画像から視線方向を変えた補間要素画像を生成する。
画像処理装置20は、9個の要素画像データと、要素画像の内挿処理により求めた補間要素画像と、補間画素値とを合成することにより、1フレーム分のインテグラル画像データを生成する。
第4変形例によれば、カメラアレイを構成するときのカメラ11の密度を低くすることができ、カメラアレイのコストを低減することができる。
[第2の実施の形態]
第1実施形態における画像処理装置20は、カメラアレイ10から要素画像データセットを取り込み、この要素画像データセットが有する複数の要素画像データを合成することによって1フレーム分のインテグラル画像データを生成する例であった。本発明の第2実施形態は、カメラアレイ10から要素画像データセットを取り込んだ画像処理装置が、その要素画像データセットが有する複数の要素画像データを所定のグループごとに合成することにより、フレームを領域分割した複数の分割インテグラル画像データを生成する例である。
図6は、本発明の第2実施形態である撮影装置を適用した撮影表示システムの概略の構成を示す構成図である。なお、第2実施形態において第1実施形態と同一の構成については、同一の符号を付してその説明を省略する。同図に示すように、撮影表示システム1aは、カメラアレイ10と、画像処理装置(画像処理部)20aと、3台の投影装置210−1,210−2,210−3と、拡散板220と、表示用レンズアレイ230とを含んで構成される。撮影表示システム1aにおいて、撮影装置は、カメラアレイ10と、画像処理装置20aとを含む。
画像処理装置20aは、カメラアレイ10が供給する要素画像データセットを取り込む。画像処理装置20aは、1フレームを例えばX軸方向に3分割して得られる分割領域ごとに、要素画像データセットが有する18個の要素画像データを18台のカメラ11の配置に対応させて合成することにより、3個の分割インテグラル画像データを生成する。
具体的に、画像処理装置20aは、カメラ11−11,11−21,11−12,11−22,11−13,11−23が供給する6個の要素画像データを、カメラ11−11,11−21,11−12,11−22,11−13,11−23の配置に対応させて合成することにより、第1の分割インテグラル画像データを生成する。また、画像処理装置20aは、カメラ11−31,11−41,11−32,11−42,11−33,11−43が供給する6個の要素画像群データを、カメラ11−31,11−41,11−32,11−42,11−33,11−43の配置に対応させて合成することにより、第2の分割インテグラル画像データを生成する。また、画像処理装置20aは、カメラ11−51,11−61,11−52,11−62,11−53,11−63が供給する6個の要素画像群データを、カメラ11−51,11−61,11−52,11−62,11−53,11−63の配置に対応させて合成することにより、第3の分割インテグラル画像データを生成する。画像処理装置20aが3個の分割インテグラル画像データを生成する際に実行する内挿処理については、第1実施形態における内挿処理と同様であるため、ここでの説明を省略する。
なお、画像処理装置20aは、画像処理装置20と同様に、要素画像データ間の個体差を除去または低減するための補正処理を実行してもよい。
画像処理装置20aは、第1の分割インテグラル画像データを投影装置210−1、第2の分割インテグラル画像データを投影装置210−2、第3の分割インテグラル画像データを投影装置210−3に供給する。画像処理装置20aは、CPUを搭載した演算処理装置、例えば、コンピュータ装置により実現される。
なお、画像処理装置20aは、3個に限定されることなく複数の分割インテグラル画像データを生成してもよい。また、1フレームを分割する方向もX軸方向に限ることなく、Y軸方向としてもよい。また、各分割領域の面積は、同一でもよいし同一でなくてもよい。
撮影表示システム1aは、表示装置を含む。この表示装置は、投影装置210−1,210−2,210−3と、拡散板220と、表示用レンズアレイ230とを含む。この表示装置は、本実施形態である撮影装置が生成した3個の分割インテグラル画像データを取り込み、これら3個の分割インテグラル画像データをインテグラルフォトグラフィで表示する。
投影装置210−1,210−2,210−3は、それぞれ、画像処理装置20aが供給する第1の分割インテグラル画像データ、第2の分割インテグラル画像データ、第3の分割インテグラル画像データそれぞれを取り込む。投影装置210−1,210−2,210−3は、第1の分割インテグラル画像データ、第2の分割インテグラル画像データ、第3の分割インテグラル画像データを第1の画像光、第2の画像光、第3の画像光に変換し、これら画像光を拡散板220に向けて投射する。投影装置210−1,210−2,210−3は、拡散板220に投影される画像光が重ならないように配置される。投影装置210−1,210−2,210−3は、例えば、プロジェクタ装置により実現される。
拡散板220は、投影装置210−1,210−2,210−3によって投影された第1の画像光、第2の画像光、第3の画像光を、一方の面(投影装置210側の面)の領域D1,D2,D3から拡散させながら透過させて他方の面に到達させる。これにより、拡散板220の他方の面に1フレーム分のインテグラル画像を表出させる。拡散板220の他方の面に表示されたインテグラル画像からの光束を、表示用レンズアレイ230を通すことによって、被写体Sに対応する空間像が生成される。
このように構成したことにより、第2実施形態における撮影表示システム1aによれば、撮影装置は、第1実施形態と同様に、インテグラルフォトグラフィによって高精細な空間像を得るためのインテグラル画像データを生成することができる。また、表示装置は、所定の解像度を有する投影装置210を用いて、前記の解像度よりも極めて高い解像度の空間像を得ることができる。
[第3の実施の形態]
図7は、本発明の第3実施形態である表示装置を適用した撮影表示システムの概略の構成を示す構成図である。同図に示すように、撮影表示システム2は、撮像用レンズアレイ240と、拡散板250と、撮影装置260と、画像処理装置(画像処理部)30と、プロジェクタアレイ40とを含んで構成される。撮影表示システム2において、表示装置は、画像処理装置30と、プロジェクタアレイ40とを含む。
図7には、撮影装置260によって撮影される被写体Sが表されている。また、同図には、相互に直交する3本の軸(X軸、Y軸、およびZ軸)が表されている。X軸およびY軸は、プロジェクタアレイ40に含まれる複数の表示素子の表示面それぞれの水平方向および垂直方向にそれぞれ平行な軸である。Z軸は、プロジェクタアレイ40の各表示素子の表示面に垂直に交わる軸である。つまり、Z軸は、表示装置の主光軸に平行な軸である。
撮像用レンズアレイ240は、複数の要素レンズを、各光軸が平行となるようにして規則的(例えば、正方格子状)に二次元配列させて構成した要素レンズ群である。各要素レンズは、例えば凸レンズである。
拡散板250は、光透過性および光拡散性をともに有する平板である。拡散板250は、その一方の面が撮像用レンズアレイ240の各要素レンズの焦平面に一致する位置に設けられる。拡散板250は、撮像用レンズアレイ240からの光束を一方の面(撮像用レンズアレイ240側の面)から拡散させながら透過させて他方の面に到達させる。これにより、拡散板250の他方の面に1フレーム分の要素画像群を表出させる。
撮影装置260は、拡散板250の他方の面に表出した1フレーム分の要素画像群を撮影してインテグラル画像データを生成し、このインテグラル画像データを画像処理装置30に供給する。
撮像用レンズアレイ240と拡散板250と撮影装置260とは、インテグラルフォトグラフィによる撮影システムを構成する。
プロジェクタアレイ40は、複数のプロジェクタを二次元配列させて構成される。本実施形態において、プロジェクタアレイ40は、例えば18台のプロジェクタを正方格子状に配設して構成される。図7に示すように、プロジェクタアレイ40は、各プロジェクタに備えられた表示部の表示面がX軸およびY軸を含む平面(XY平面)に平行となるよう、18台のプロジェクタをX軸方向に6台、Y軸方向に3台、マトリクス状に配設して構成される。この18台という台数は、同図を簡略化して説明を簡単にするための例である。実際には、プロジェクタアレイ40は、18台に限定されることなくさらに多くのプロジェクタを二次元配列させて構成してもよい。
プロジェクタが備える投射レンズは、インテグラルフォトグラフィにおける表示用レンズアレイの要素レンズに相当する。
プロジェクタアレイ40は、18台のプロジェクタを同時に動作させる。プロジェクタアレイ40は、画像処理装置30が供給する要素画像データセットを取り込む。プロジェクタアレイ40が有する18台のプロジェクタは、要素画像データセットが有する18個の要素画像データをそれぞれ表示部に表示させ、表示された18個の要素画像からの光束を、それぞれ18個の投射レンズを通して空間に放射する。
画像処理装置30は、撮影装置260が供給するインテグラル画像データを取り込む。画像処理装置30は、インテグラル画像データを18個(6個×3個)のプロジェクタの配置に対応させて分割することにより、1フレーム分の領域が18分割された18個の要素画像データを生成する。画像処理装置30が生成する18個の要素画像データは、それぞれ整数画素数分の幅および高さを有する。そして、画像処理装置30は、18個の要素画像データを1フレーム分の要素画像データセットとしてプロジェクタアレイ40に供給する。画像処理装置30がインテグラル画像データを分割して要素画像データセットを得る処理(分割処理)の詳細については後述する。画像処理装置30は、CPUを搭載した演算処理装置、例えば、コンピュータ装置により実現される。
撮影表示システム2において、撮像用レンズアレイ240が有する18個の要素レンズと画素との位置関係は、18台のプロジェクタが有する18個の投射レンズと画素との位置関係に等しい。また、撮影装置260が備える撮像部の解像度と、プロジェクタアレイ40が有する18台のプロジェクタそれぞれが備える表示部の表示面をマトリクス状に並べて得られる解像度とは等しい。また、撮像用レンズアレイ240における要素レンズのレンズピッチと、プロジェクタアレイ40における18個の投射レンズのレンズピッチとは、相対的に等しい比率となる小数画素分である。
図8は、プロジェクタアレイ40におけるプロジェクタの概略の機能構成を示すブロック図である。同図に示すように、プロジェクタ41は、入力部411と、表示部412と、投射レンズ413と、位置調整部414とを備える。
入力部411は、画像処理装置30が供給する要素画像データを取り込み、この要素画像データを表示部412に供給する。
表示部412は、入力部411が供給する要素画像データを取り込んで要素画像を表示面に表示させる。表示部412は、例えば液晶表示デバイスにより実現される。
投射レンズ413は、表示部412の表示面に表示された要素画像からの光束を通過させて外部に投射するレンズ光学系である。投射レンズ413は、例えば、第1実施形態において用いた屈折率分布型(GRadient INdex Lenses;GRIN)レンズにより実現される。投射レンズ413は、焦平面が表示部412の表示面に一致するように設けられる。例えば、前述の式(2)を満たす仕様の屈折率分布型レンズを投射レンズ413として用いた場合、この屈折率分布型レンズの焦平面を、この屈折率分布型レンズにおける空間像側と反対側の端面に一致させることができる。したがって、この場合、投射レンズ413の空間像側と反対側の端面を表示部412の表示面に接触させてプロジェクタ41を構成することができる。これにより、プロジェクタ41を小型化することができる。
位置調整部414は、投射レンズ413の光軸Cに垂直な面(XY平面)内における任意の方向に、投射レンズ413と表示部412との位置関係を変更する光軸ずらし調整部である。具体的に、位置調整部414は、投射レンズ413に対する表示部412の位置を、例えば、表示部412の中心軸Dが投射レンズ413の光軸Cに一致した状態を基準として、光軸Cに対して垂直なX軸方向およびY軸方向またはいずれか一方向に任意の大きさだけ変位させる。位置調整部414に対する位置の変位の指定は、例えば、マニュアル操作、または、外部の制御装置からの指令による。変位の指定には、ずらし方向(X軸方向およびY軸方向またはいずれか一方向)およびずらし量の指定が含まれる。
すなわち、18台のプロジェクタ41を有するプロジェクタアレイ40は、画素ピッチの非整数倍の大きさのレンズピッチを有してZ軸に直交する第1平面上に配設される18個の投射レンズ413を備える。また、プロジェクタアレイ40は、第1平面において所定の基準位置(例えば、プロジェクタアレイ40における中心位置)からX軸およびY軸それぞれに沿って離れるにしたがい、投射レンズ413の光軸Cと表示面の中心軸DとのX軸方向およびY軸方向における小数画素間隔のずれを整数画素間隔に補正するよう、第1平面と平行な第2平面上に配設される18個の表示部412を備える。
ここで、各プロジェクタ41における、投射レンズ413および表示部412の位置の変位量について説明する。18台のプロジェクタ41それぞれが備える表示部412の表示面を連結して得られる面上に、18個の投射レンズ413を撮像用レンズアレイ240の要素レンズと同一の配列により設けた位置関係において、各投射レンズ413の中心位置に対応する画素の第1の座標と、各表示面の中心位置に対応する画素の第2の座標とを求める。そして、プロジェクタ41ごとに得られる、投射レンズ413における第1の座標と表示面における第2の座標とのずれを、X軸方向およびY軸方向それぞれの成分として取得し、変位量とする。
次に、画像処理装置30によるインテグラル画像データの分割処理について説明する。画像処理装置30は、撮影装置260からインテグラル画像データを取り込み、このインテグラル画像データを自装置に内蔵する記憶部に記憶させる。この記憶部は、少なくとも1フレーム分の画像データを記憶可能なフレームメモリである。そして、画像処理装置30は、インテグラル画像データを18個(6個×3個)のプロジェクタ41の配置に対応させて分割することにより、それぞれ整数画素数分の幅および高さを有する18個の要素画像データを取得する。
以上説明したとおり、第4実施形態である表示装置は、画素ピッチの非整数倍の大きさのレンズピッチを有して第1平面上に配設される18個の投射レンズ413と、第1平面において所定の基準位置から第1平面上のX軸およびY軸それぞれの方向に離れるにしたがって、18個の投射レンズ413それぞれの光軸Cと18個の投射レンズ413それぞれに対応する表示面の中心軸DとのX軸およびY軸それぞれの方向における小数画素間隔のずれを整数画素間隔に補正するよう、第1平面と平行な第2平面上に配設される18個の表示部412と、を備える。
つまり、第3実施形態である表示装置は、プロジェクタ41の投射レンズ413を要素レンズとして構成したインテグラルフォトグラフィによる表示装置である。よって、第3実施形態である表示装置によれば、従来の表示用レンズアレイを用いて構成された表示装置に対して、各要素画像の解像度を格段に高めることができる。
また、第3実施形態である表示装置は、要素画像群データを表示部412の配置に対応させて分割することによって18個の要素画像データを生成し、18個の要素画像データを18個の表示部412に供給する画像処理装置30をさらに備える。つまり、画像処理装置30は、1フレーム分のインテグラル画像データを、整数画素数分の幅および高さを有する18個の要素画像データに分割する処理だけで、要素画像データセットを生成することができる。
以上により、本発明の第3実施形態である表示装置は、インテグラルフォトグラフィによって高精細な空間像を得ることができる。
[第4の実施の形態]
第3実施形態における画像処理装置30は、撮影装置260からインテグラル画像データを取り込み、このインテグラル画像データを分割することによって要素画像データセットを生成する例であった。本発明の第4実施形態は、撮影領域が異なる複数の撮影装置から複数の分割インテグラル画像データを取り込んだ画像処理装置が、それら複数の分割インテグラル画像データそれぞれを分割することにより要素画像データセットを生成する例である。
図9は、本発明の第4実施形態である表示装置を適用した撮影表示システムの概略の構成を示す構成図である。同図に示すように、撮影表示システム2aは、撮像用レンズアレイ240と、拡散板250と、3台の撮影装置260−1,260−2,260−3と、画像処理装置(画像処理部)30aと、プロジェクタアレイ40とを含んで構成される。撮影表示システム2aにおいて、表示装置は、画像処理装置30aと、プロジェクタアレイ40とを含む。
撮影装置260−1,260−2,260−3は、拡散板250に表出した1フレーム分のインテグラル画像をX軸方向に3分割して得られる分割領域E1,E2,E3を撮影して3個の分割インテグラル画像データを生成し、これら3個の分割インテグラル画像データを画像処理装置30aに供給する。
撮像用レンズアレイ240と拡散板250と撮影装置260−1,260−2,260−3とは、インテグラルフォトグラフィによる撮影システムを構成する。
画像処理装置30aは、撮影装置260−1,260−2,260−3が供給する3個の分割インテグラル画像データを取り込む。画像処理装置30aは、3個の分割インテグラル画像データを18個(6個×3個)のプロジェクタ40の配置に対応させて分割することにより、1フレーム分の領域が18分割された18個の要素画像データを生成する。
具体的に、画像処理装置30aは、撮影装置260−1が供給する第1の分割インテグラル画像データを取り込み、この第1の分割インテグラル画像データを、プロジェクタ41−11,41−21,41−12,41−22,41−13,41−23の配置に対応させて分割することにより6個の要素画像データを生成する。また、画像処理装置30aは、撮影装置260−2が供給する第2の分割インテグラル画像データを取り込み、この第2の分割インテグラル画像データを、プロジェクタ41−31,41−41,41−32,41−42,41−33,41−43の配置に対応させて分割することにより6個の要素画像データを生成する。また、画像処理装置30aは、撮影装置260−3が供給する第3の分割インテグラル画像データを取り込み、この第3の分割インテグラル画像データを、プロジェクタ41−51,41−61,41−52,41−62,41−53,41−63の配置に対応させて分割することにより6個の要素画像データを生成する。画像処理装置30aが3系統の要素画像データを生成する際に実行する分割処理については、第3実施形態における分割処理と同様であるため、ここでの説明を省略する。
画像処理装置30aは、CPUを搭載した演算処理装置、例えば、コンピュータ装置により実現される。
なお、撮影装置260の台数は3台に限定されることなく複数であってよい。また、1フレームを分割する方向もX軸方向に限ることなく、Y軸方向としてもよい。また、各分割領域の面積は、同一でもよいし同一でなくてもよい。これに合わせて、画像処理装置30aは、3個に限定されることなく複数の分割インテグラル画像データを取り込んで要素画像データセットを生成してもよい。
撮影表示システム2aにおいて、撮像用レンズアレイ240が有する複数の要素レンズと画素との位置関係は、18台のプロジェクタ41が有する18個の投射レンズ413と画素との位置関係に等しい。
[第5の実施の形態]
図10は、本発明の第5実施形態である撮影装置および表示装置を適用した撮影表示システムの概略の構成を示す構成図である。同図に示すように、撮影表示システム3は、カメラアレイ10と、画像処理装置(画像処理部)50と、プロジェクタアレイ40aとを含んで構成される。撮影表示システム3において、撮影装置は、カメラアレイ10を含む。また、表示装置は、プロジェクタアレイ40aを含む。
プロジェクタアレイ40aは、第3実施形態におけるプロジェクタアレイ40と同様の構成を有しているが、18台のプロジェクタ41それぞれが備える投射レンズ413は、カメラアレイ10におけるカメラ11の各撮像レンズ111が凸レンズであり且つ画像処理装置50が各カメラ11からの要素画像データを180度反転させる処理を実行しない場合は、前記の式(2)を満たす仕様の屈折率分布型レンズまたは凹レンズである。また、各投射レンズ413は、カメラ11の各撮像レンズ111が凸レンズであり且つ画像処理装置50が各カメラ11からの要素画像データを180度反転させる処理を実行する場合は、凸レンズである。
撮影表示システム3は、撮像用レンズアレイに代えてカメラアレイ10、表示用レンズアレイに代えてプロジェクタアレイ40aを用いて構成される、インテグラルフォトグラフィによる撮影表示システムである。カメラアレイ10が有するカメラ11およびプロジェクタアレイ40aが有するプロジェクタ41は、同数であり、相対的に同一の配列である。
画像処理装置50は、カメラアレイ10が供給する要素画像データセットを取り込む。画像処理装置50は、要素画像データセットが有する18個の要素画像データを18個(6個×3個)のカメラ11の配置に対応付けて、自装置に内蔵する記憶部に記憶させる。この記憶部は、例えばカメラアレイ10が撮像する少なくとも1フレーム分の画像データを記憶可能なフレームメモリである。画像処理装置50は、記憶部に記憶された18個の要素画像データについて、個体差を除去または低減するための補正処理を実行する。例えば、画像処理装置50は、要素画像間の色の属性(例えば、色相、彩度、明度)の誤差、および輝度の誤差をなくすための画像処理を実行する。また、画像処理装置50は、記憶部に記憶された18個の要素画像データを読み出し、これら18個の要素画像データを18個(6個×3個)のプロジェクタ41の配置に対応付けてプロジェクタアレイ40aに供給する。
具体的に、画像処理装置50は、カメラ11−11,11−21,11−31,11−41,11−51,11−61,11−12,11−22,11−32,11−42,11−52,11−62,11−13,11−23,11−33,11−43,11−53,11−63から取得した要素画像データを、プロジェクタ41−11,41−21,41−31,41−41,41−51,41−61,41−12,41−22,41−32,41−42,41−52,41−62,41−13,41−23,41−33,41−43,41−53,41−63に供給する。画像処理装置50は、CPUを搭載した演算処理装置、例えば、コンピュータ装置により実現される。
撮影表示システム3において、カメラアレイ10における18台のカメラ11の配列パターンと、プロジェクタアレイ40aにおける18台のプロジェクタ41の配列パターンとは、同一である。
以上により、本発明の第5実施形態における撮影表示システムは、インテグラルフォトグラフィによって高精細な空間像を得るためのインテグラル画像データを生成することができる。また、この撮影表示システムは、インテグラルフォトグラフィによって高精細な空間像を得ることができる。
[第5実施形態の第1の変形例]
第5実施形態の第1変形例は、第5実施形態に対し、カメラアレイ10が撮像用レンズアレイ越しに被写体を撮像し、プロジェクタアレイ40aがインテグラルフォトグラフィによる画像光を表示用レンズアレイ越しに投射する例である。
図11は、第5実施形態の第1変形例である撮影装置および表示装置を適用した撮影表示システムの概略の構成を示す構成図である。同図に示すように、撮影表示システム3aは、撮像用レンズアレイ240と、カメラアレイ10と、画像処理装置(画像処理部)50と、プロジェクタアレイ40aと、表示用レンズアレイ230とを含んで構成される。撮影表示システム3aにおいて、撮影装置は、撮像用レンズアレイ240とカメラアレイ10を含む。また、表示装置は、プロジェクタアレイ40aと表示用レンズアレイ23とを含む。
撮像用レンズアレイ240は、カメラアレイ10の撮影範囲をカバーするよう設けられる。撮像用レンズアレイ240とカメラアレイ10とのZ軸方向の位置関係として、カメラアレイ10は、撮像用レンズアレイ240の焦平面を撮像する位置に設けられる。
表示用レンズアレイ230は、プロジェクタアレイ40aの投射範囲をカバーするよう設けられる。カメラアレイ10における各カメラ11と撮像用レンズアレイの要素レンズとの位置関係と、プロジェクタアレイ40aにおける各プロジェクタ41と表示用レンズアレイ230の要素レンズとの位置関係は同一である。
撮影表示システム3aとして奥行き情報の反転を防ぐため、撮像用レンズアレイ240の要素レンズおよび表示用レンズアレイ230の要素レンズは、例えば、凸レンズおよび凹レンズの組み合わせとする。
カメラアレイ10において、各カメラ11は、当該カメラ11の撮像領域が他のカメラ11の撮像領域にできるだけ重複しないように配置される。
本変形例では、一枚の撮像用レンズアレイ240を18台のカメラ11が撮影することによって、カメラ1台あたりが取得する光線の空間的な情報量を増加させ、18台のプロジェクタ41が出力した画像光を一枚の表示用レンズアレイ230を通して投射することによって、プロジェクタ1台あたりが再生する光線の空間的な情報量を増加させる。
[第5実施形態の第2の変形例]
図12は、第5実施形態の第2変形例である撮影装置および表示装置を適用した撮影表示システムの概略の構成を示す構成図である。同図に示すように、撮影表示システム3bは、撮像用レンズアレイ240と、拡散板250と、カメラアレイ10と、画像処理装置(画像処理部)50と、プロジェクタアレイ40aと、拡散板220と、表示用レンズアレイ230とを含んで構成される。撮影表示システム3bにおいて、撮影装置は、撮像用レンズアレイ240と拡散板250とカメラアレイ10を含む。また、表示装置は、プロジェクタアレイ40aと拡散板220と表示用レンズアレイ23とを含む。
拡散板250は、撮像用レンズアレイ240のカメラアレイ10側の焦平面上に設けられる。また、拡散板220は、表示用レンズアレイ230のプロジェクタアレイ40a側の焦平面上に設けられる。
第5実施形態の第1変形例では、カメラアレイ10は撮像用レンズアレイ240から到来する光束を撮像したが、本変形例では、カメラアレイ10は拡散板250に表出したインテグラル画像を撮像する。また、第5実施形態の第1変形例では、表示用レンズアレイ230は、プロジェクタアレイ40aが投射した画像光をそのまま要素レンズを通して投射させたが、本変形例では、表示用レンズアレイ230は、プロジェクタアレイ40aが拡散板220に表出させた画像に基づく光束を、要素レンズを通して投射させる。
カメラアレイ10における各カメラと撮像用レンズアレイの要素レンズとの位置関係と、プロジェクタアレイ40aにおける各プロジェクタと表示用レンズアレイ230の要素レンズとの位置関係は同一である。
なお、カメラアレイ10において、18台のカメラ11それぞれは、当該カメラ11の撮像領域が他のカメラ11の撮像領域にできるだけ重複しないように配置される。これにおいて、例えば、拡散板250のカメラアレイ10側の表示面を、カメラアレイ10の各カメラ11の配置に対応させて18個の撮影範囲ブロックに区分する。そして、カメラ11ごとに、撮像レンズ111および撮像部112の位置のずれ量を調整したカメラアレイ10を用いる。同様に、拡散板220のプロジェクタアレイ40a側の表示面を、プロジェクタアレイ40aの各プロジェクタ41の配置に対応させて18個の投影範囲ブロックに区分する。そして、プロジェクタ41ごとに、表示部412および投射レンズ413の位置のずれ量を調整したプロジェクタアレイ40aを用いる。
このように構成することにより、撮影表示システム3bの表示用レンズアレイ230の焦平面上に再生されるインテグラル画像は、撮影表示システム3のプロジェクタアレイ40aの投射レンズの焦平面上に再生されるインテグラル画像よりも精細度が高い。一方、再生されるインテグラル画像の位置が前記の位置から離れるにしたがって、その精細度の違いは小さくなり、所定の距離を境に両者の精細度が逆転する。
例えば、撮影表示システム3bにおける表示用レンズアレイ230のレンズピッチおよび焦点距離それぞれを1ミリメートル(mm)、プロジェクタアレイ40aの台数を表示用レンズアレイ230のレンズ個数の半分とした場合、撮影表示システム3bのプロジェクタアレイ40aの各プロジェクタ41は、表示用レンズアレイ230において対応する4個の要素レンズの背面に要素画像を表示するために使われる。一方、撮影表示システム3におけるプロジェクタアレイ40aの配列ピッチおよび焦点距離それぞれを2(mm)とする。両者を比較すると、撮影表示システム3におけるプロジェクタアレイ40aの各プロジェクタの投射レンズピッチと撮影表示システム3bのレンズアレイ230のレンズピッチのみが異なり、表示するための画素ピッチおよび各レンズから再生される光線の角度は等しい。この場合、インテグラル方式による再生像の解像度は図14に示す限界解像度特性グラフのようになる。同図において、横軸は焦平面から再生像までの距離(単位はメートル)であり、縦軸は限界解像度(単位はcycles per degree;cpd)である。また、同図において、実線の限界解像度特性グラフは撮影表示システム3bについてのグラフであり、破線の限界解像度特性グラフは撮影表示システム3についてのグラフである。
また、カメラアレイ10が有するカメラ11の台数とプロジェクタアレイ40aが有するプロジェクタ41の台数とが同一でない場合、カメラ11における画素位置とプロジェクタ41における画素位置との対応関係をあらかじめ求めておく。そして、画像処理装置50は、その対応関係を参照テーブル化し、この参照テーブルを画像処理装置50に記憶させておく。画像処理装置50は、記憶された参照テーブルを参照することによって、拡散板250上の画素値を拡散板220上に再現させる。
[その他の実施の形態]
上述した第1実施形態から第5実施形態、および変形例は、カメラ11およびプロジェクタ41を正方格子状に配列した例とした。これらの配列パターンは、正方格子配列に限定されることなく、例えば、図13に示すデルタ配列としてもよい。同図はカメラアレイの例である。同図に示すように、撮像レンズをデルタ状に隙間なく配列したカメラアレイ10aにおいて、撮像レンズの直径をDとすると、例えば、X軸方向のレンズピッチは行ごとにDであり、隣接する行間においてはD/2である。また、Y軸方向のレンズピッチは、(√3)×D/2である。
また、第1実施形態から第5実施形態、および変形例において、撮像用レンズ111と投射レンズ413との組み合わせを以下のようにしてもよい。すなわち、撮像側または表示側いずれか一方を屈折率分布型レンズとし、他方を凸レンズとする。または、いずれか一方を凸レンズとし、他方を凹レンズとする。または、撮像側および表示側の両方を凸レンズまたは屈折率分布型レンズとし、画像処理装置において各要素画像の奥行きを反転させる画像処理を実行してもよい。
また、上述した各実施形態における画像処理装置20,20a,30,30a,50の一部の機能をコンピュータで実現するようにしてもよい。この場合、その機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録し、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませて、このコンピュータシステムが実行することによって実現してもよい。なお、このコンピュータシステムとは、オペレーティング・システム(Operating System;OS)や周辺装置のハードウェアを含むものである。また、コンピュータ読み取り可能な記録媒体とは、フレキシブルディスク、光磁気ディスク、光ディスク、メモリカード等の可搬型記録媒体、コンピュータシステムに備えられる磁気ハードディスクやソリッドステートドライブ等の記憶装置のことをいう。さらに、コンピュータ読み取り可能な記録媒体とは、インターネット等のコンピュータネットワーク、および電話回線や携帯電話網を介してプログラムを送信する場合の通信回線のように、短時間の間、動的にプログラムを保持するもの、さらには、その場合のサーバ装置やクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持するものを含んでもよい。また上記のプログラムは、前述した機能の一部を実現するためのものであってもよく、さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせにより実現するものであってもよい。
以上、本発明の実施の形態について図面を参照して詳述したが、具体的な構成はその実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計等も含まれる。