JP2012186764A - 固体撮像装置および携帯情報端末 - Google Patents

固体撮像装置および携帯情報端末 Download PDF

Info

Publication number
JP2012186764A
JP2012186764A JP2011050221A JP2011050221A JP2012186764A JP 2012186764 A JP2012186764 A JP 2012186764A JP 2011050221 A JP2011050221 A JP 2011050221A JP 2011050221 A JP2011050221 A JP 2011050221A JP 2012186764 A JP2012186764 A JP 2012186764A
Authority
JP
Japan
Prior art keywords
image
microlens
imaging device
solid
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011050221A
Other languages
English (en)
Other versions
JP5351195B2 (ja
Inventor
Kokichi Kobayashi
林 光 吉 小
Hideyuki Funaki
木 英 之 舟
Risako Ueno
野 梨紗子 上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2011050221A priority Critical patent/JP5351195B2/ja
Priority to US13/221,097 priority patent/US8681249B2/en
Publication of JP2012186764A publication Critical patent/JP2012186764A/ja
Application granted granted Critical
Publication of JP5351195B2 publication Critical patent/JP5351195B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Measurement Of Optical Distance (AREA)
  • Lenses (AREA)
  • Automatic Focus Adjustment (AREA)

Abstract

【課題】複数のマイクロレンズを有していても、補正を容易に行うことが可能で、かつ距離推定や画像再構成における誤差および画質劣化を抑制することのできる固体撮像装置および携帯情報端末を提供する。
【解決手段】本実施形態の固体撮像装置は、被写体を結像面に結像する第1の光学系と、複数画素を含む複数の画素ブロックを有する撮像領域を備えた撮像素子と、前記複数の画素ブロックに対応して設けられた複数のマイクロレンズを有するマイクロレンズアレイを含み、前記結像面に結像される予定の像を、個々のマイクロレンズに対応する画素ブロックに縮小再結像する第2の光学系と、前記撮像素子によって得られた前記被写体の画像信号を用いて、前記各マイクロレンズと前記画素ブロックとの光学位置関係を補正した画像信号処理を行う信号処理部と、を備えている。
【選択図】図1

Description

本発明の実施形態は、固体撮像装置および携帯情報端末に関する。
2次元アレイ情報として奥行き方向距離を得ることができる撮像技術は、参照光を使用する技術、複数カメラを使用したステレオ測距技術など様々な方法が検討されている。特に近年は、民生用途での新たな入力デバイスとして比較的廉価な製品のニーズが高まっている。
システムコストを抑えるため参照光を用いない距離撮像方式として、視差を利用した三角測量方式がある。この方式ではステレオカメラや複眼カメラが知られているが、これらの場合カメラを複数用いることとなり、システムの巨大化や部品点数増大による故障率上昇といった問題が存在する。
複数のマイクロレンズを有するマイクロレンズアレイを画素上方に配置し、各マイクロレンズ下部には複数の画素を配置する構造が提案されている。この構造により、画素ブロック単位で視差をもった画像群を取得することが可能であり、この視差により被写体の距離推定や距離情報を元にしたリフォーカス処理等が可能となる。
しかし、複数のマイクロレンズを有しているため、マイクロレンズアレイの取付誤差や結像レンズ歪曲収差など、光学系の誤差、歪みによりマイクロレンズ像の位置関係に誤差が生じたときの初期補正が困難であり、距離推定や画像再構成に誤差や画質劣化が生じるという問題が存在する。また、マイクロレンズアレイを組み込んだ2次元画像および3次元画像の撮像を兼用する光学系であるため、通常の補正手段をそのまま適用することは難しい。
T. Georgiev and A. Lumsdaine, COMPUTER GRAPHICS forum, Volume 29 (2010), number 6 pp. 1955-1968, "Reducing Plenoptic Camera Artifacts"
本発明が解決しようとする課題は、複数のマイクロレンズを有していても、補正を容易に行うことが可能で、かつ距離推定や画像再構成における誤差および画質劣化を抑制することのできる固体撮像装置および携帯情報端末を提供することである。
本実施形態の固体撮像装置は、被写体を結像面に結像する第1の光学系と、複数画素を含む複数の画素ブロックを有する撮像領域を備えた撮像素子と、前記複数の画素ブロックに対応して設けられた複数のマイクロレンズを有するマイクロレンズアレイを含み、前記結像面に結像される予定の像を、個々のマイクロレンズに対応する画素ブロックに縮小再結像する第2の光学系と、前記撮像素子によって得られた前記被写体の画像信号を用いて、前記各マイクロレンズと前記画素ブロックとの光学位置関係を補正した画像信号処理を行う信号処理部と、を備えていることを特徴とする。
一実施形態による固体撮像装置を示すブロック図。 信号処理部の処理手順を示すフローチャート。 信号処理部の処理手順を示すフローチャート。 一実施形態による固体撮像装置の光学系の一具体例を示す図。 一実施形態による固体撮像装置の光学系の他の具体例を示す図。 補正係数を求める方法を説明する図。 マイクロレンズアレイが撮像素子に対して傾いた状態における、マイクロレンズの組の中心の結像位置関係を説明する図。 マイクロレンズの結像位置が不均等に分布する場合、得られる画像自体を用いて補正係数を求める場合を説明する図。 Y軸方向におけるマイクロレンズの位置関係を説明する図。 補正マトリクスを用いて画素位置を補正する場合を説明する図。 図11(a)、11(b)はマイクロレンズの周辺部における輝度値分布を説明する図。 補正用の輝度値を各マイクロレンズに対して取得することを説明する図。 メモリ内のキャリブレーション用輝度値を基に撮影画像を補正する場合を説明する図。 固体撮像装置を用いた携帯情報端末を示す図。
以下に実施形態について図面を参照して説明する。
図1に、一実施形態による固体撮像装置(カメラモジュール)1を示す。この実施形態の固体撮像装置1は、撮像モジュール部10と、撮像信号プロセッサ(以下、ISP(Image Signal Processor)ともいう)20と、を有する。
撮像モジュール部10は、結像光学系12と、マイクロレンズアレイ14と、撮像素子16と、撮像回路18とを有する。結像光学系12は、被写体からの光を撮像素子16へ取り込む撮像光学系として機能する。撮像素子16は、結像光学系12により取り込まれた光を信号電荷に変換する素子として機能し、複数の画素(光電変換素子としての例えばフォトダイオード)が2次元アレイ状に配列されている。マイクロレンズアレイ14は、例えば複数のマイクロレンズを有するマイクロレンズアレイもしくはプリズム等の微小光学系である。結像光学系12によって結像面に結像する光線群を、個々のマイクロレンズと対応する画素ブロックに縮小再結像する光学系として機能する。撮像回路18は、撮像素子16の画素アレイの各画素を駆動する駆動回路部(図示せず)と、画素領域から出力される信号を処理する画素信号処理回路部(図示せず)とを有している。上記駆動回路部は、例えば駆動する画素を垂直方向に水平ライン(行)単位で順次選択する垂直選択回路と、列単位で順次選択する水平選択回路と、それらを各種パルスにて駆動するTG(タイミングジェネレータ)回路、などを有する。上記画素信号処理回路部は、画素領域からのアナログ電気信号をデジタル変換するAD変換回路と、ゲイン調整やアンプ動作を行うゲイン調整/アンプ回路と、デジタル信号の補正処理などを行うデジタル信号処理回路となどを有している。
ISP20は、カメラモジュールI/F(インターフェース)22と、画像取り込み部24と、信号処理部26と、ドライバI/F28とを備えている。撮像モジュール部10による撮像により得られたRAW画像は、カメラモジュールI/F22から画像取り込み部24へ取り込まれる。 信号処理部26は、画像取り込み部24に取り込まれたRAW画像について、信号処理を実施する。ドライバI/F(インターフェース)28は、信号処理部26での信号処理を経た画像信号を、図示しない表示ドライバへ出力する。表示ドライバは、固体撮像装置によって撮像された画像を表示する。
(信号処理部の処理手順)
次に、図2及び図3を参照して、信号処理部26による信号処理の手順を説明する。信号処理部26は、撮像モジュール部10で得られたRAW画像について光学系の歪み補正及び輝度補正を行う。
まず、キャリブレーション用画像を撮影する(図2のステップS1)。続いて、撮影したキャリブレーション用画像の2値化を行う(図2のステップS2)。この2値化された画像の輪郭フィッティングを行う(図2のステップS3)。その後、各マイクロレンズの中心位置を取得する(図2のステップS4)。続いて、各マイクロレンズ内の画素値を取得する(図2のステップS5)。各マイクロレンズの中心位置および各マイクロレンズ内の画素値から、補正マトリクスを計算する(図2のステップS6)。ステップS1からステップS6までの手順が撮影画像からマイクロレンズ中心位置及び画像補正のための補正マトリクスを求める処理ステップである。光学系のセッティングが変わらない場合、マイクロレンズ中心位置及び補正マトリクスについて同じ値を用いることが可能であるため、ステップS1からステップS6までの手順は省略することも可能である。
このようにして求められた補正マトリクスを用いて、撮影された画像の再構成(補正)を行う。この再構成の手順を図3に示す。まず、再構成用の画像を撮影する(図3のステップS7)。続いて、マイクロレンズ内における画素の輝度の補正を行う(図3のステップS8)。その後、マイクロレンズ内の画像の抜き出しを行う(図3のステップS9)。そして、マイクロレンズ中心位置の補正を行い(図3のステップS10)、マイクロレンズ内の画素位置の補正を行う(図3のステップS11)。続いて、マイクロレンズ像の拡大を行い(図3のステップS12)、マイクロレンズ像が重なる領域が生じるか否かの判定を行う(図3のステップS13)。重なり領域がない場合は補正後の位置に従ってマイクロレンズ像の画素値を再配置した画像を生成し(図3のステップS14)、信号処理を終了する。重なり領域がある場合は重なり領域に対して画像合成処理を行い(図3のステップS15)、その後補正後の位置に画素値を配置した画像を生成し(図3のステップS16)、信号処理を終了する。
(光学系の詳細)
次に、一実施形態の固体撮像装置の光学系を図4に示す。結像レンズ12、マイクロレンズアレイ14、撮像素子16の順に光線が入射する。また、Aは結像レンズ12と被写体100との間の距離、Bは結像レンズ12による結像距離、Cは結像レンズ12の結像面とマイクロレンズアレイ14のマイクロレンズとの間の距離、Dはマイクロレンズアレイ14と撮像素子16との間の距離である。fは結像レンズ12の焦点距離、gはマイクロレンズの焦点距離である。今回、説明のため光軸に対して被写体側を前方、撮像素子側を後方と定義する。光学系内でマイクロレンズアレイは結像レンズの光線を各視点の像に分離し、撮像素子16上に結像させる役割をもつ。なお、本実施形態においては、図4に示すように、マイクロレンズアレイ14が結像レンズ12の結像面より結像レンズ12に対して後方に設置されている。しかし、本実施形態では図4に示す条件に限定するものではなく、例えば図5に示すように、マイクロレンズアレイ14が結像レンズ12の結像面より前方に設置されていてもよい。
(補正係数を得る方法)
次に、信号処理部26の処理手順で述べた補正係数に関して、図6(a)、6(b)を参照してその補正係数を求める方法を説明する。図6(a)は、取り付け誤差などの光学的歪みがなく、マイクロレンズアレイ14と撮像素子16が平行に設置されている、被写体が光軸上にある場合の光学系を示し、図6(b)はマイクロレンズアレイ14と撮像素子16とを含む部分13の拡大図である。図6(b)中で、結像レンズ12の光軸と、マイクロレンズアレイ14の平面中心に位置する1つのマイクロレンズの主点が交わる点を原点0として、結像レンズ12の光軸をZ軸とし、さらにZ軸に垂直な面内にX軸をとる。本光学系は結像レンズ12の光軸に対して軸対称であるため、上記配置であれば任意のX軸を取ることができる。より厳密に言えば、マイクロレンズの並び方によって軸対称にとれる方向は有限数であり、マイクロレンズの並び方が六方配列であれば6通りの回転対称軸が、正方配列であれば4通りの対称軸が取れる。
X軸上のあるマイクロレンズの主点の座標をLxとし、Z軸に関して対称の位置にあるマイクロレンズの主点を−Lxとおく。結像レンズ12の集光点である節点(0,C)から点a1(−Lx,0)、b1(Lx,0)それぞれに入射する各マイクロレンズに対する主光線のZ軸となす角をそれぞれα、βとおくと、α=βであるから撮像素子12上に到達する各光線の位置は点a2、点b2となる。Z軸とa2間の距離をI、Z軸とb2間の距離をIIと表すとI=IIとなり、Lxの値は同じ節点から射出する光線が入射するどのZ軸に関して対称に位置するマイクロレンズの組にも適応できる。したがって、撮像素子16上のマイクロレンズの像中心間距離をIIIとおくと、図6(b)に示すように、マイクロレンズの中心を通る光線は撮像素子16上に均等に並ぶことが分かる。
これに対して、図7に示すように、マイクロレンズアレイ14が撮像素子16に対してXZ面内で角度θだけ傾いた状態における、各Z軸に関して対称に位置するマイクロレンズの組の中心の結像位置関係を求める。θはX軸を基準とし、Z軸へ反時計方向に回転する方向を正にとる。この場合では傾きθの分、原点0からLxだけ離れたマイクロレンズ中心座標a1、b1はZ軸方向に0以外の値も持ちえる。例としてθ>0の場合にはα<βとなり、したがってI<IIとなることから、撮像素子16上に結像する位置は原点から等距離とはならない。このことから、マイクロレンズアレイ14が傾いている場合、マイクロレンズの像中心は撮像素子16上に不均等に分布することとなる。
マイクロレンズの結像位置が不均等に分布する場合、光学系の歪みによる補正のため、得られる画像自体を用いて補正係数を求める。具体的には図8に示すように、信号処理部26の補正係数算出部26Aにおいて、撮影画像から公知の技術、例えば円形輪郭マッチングなどを用いて各マイクロレンズの像の中心位置を決定し、中心座標の並び方から光学系歪みパラメータを補正する補正マトリクスを推定する。なお、マイクロレンズの像の形状は絞りの形を反映したものであるため、絞りが四角形の場合は四角形のマイクロレンズ像が並んだ全体像が撮像素子16で得られる。従って絞り形状によってマッチング形状を変えることで中心位置の決定精度は良くなる。
補正係数算出部26Aの動作の詳細は、以下の通りである。まず、撮影されたキャリブレーション用の画像の二値化を二値化処理部26aにおいて行う。この二値化された画像はメモリ26bに記憶される。続いて、この二値化された画像を用いて、輪郭フィッティング部26cにおいて、輪郭フィッティングが行われる。この輪郭フィッティングは、各マイクロレンズに対して行われ、それぞれのマイクロレンズに対してマイクロレンズ輪郭フィッティング部26c、26c、26c等によって行われる。その後、これらの輪郭フィッティングに基づいてマイクロレンズ像の中心位置の取得が中心位置取得部26dによって行われ、それぞれの中心位置がメモリ26eに記憶される。そして各マイクロレンズ像の中心位置に基づいて、補正マトリクスが補正マトリクス計算部26gにおいて計算され、メモリ26hに記憶される。
補正マトリクスは以下のようにして求められる。再び図7に戻り、マイクロレンズアレイ14がθ度傾いている場合、マイクロレンズ像の中心位置の座標が少なくとも3つ分かれば傾き角度θおよび節点位置Cを求めることができる。簡略化のためZ軸と撮像素子16の交点(0,−D)にマイクロレンズの結像中心点の一つが存在するとし、さらに点a2、b2それぞれの結像点の座標が分かっているとする。このとき計算できるマイクロレンズの結像中心間距離I及びIIは以下の式で表すことができる。
したがって、この2式を連立させることで傾き角度θと節点位置Cの値を得ることができる。X軸およびZ軸に対してそれぞれ直交するY軸方向の変化に注目するとx=Lx面内でのマイクロレンズの位置関係は図9に示すように表され、中心位置のy座標も変化することが分かる。x=Lx面内の場合、マイクロレンズアレイ14の面はz=Lx・sinθに存在するため、結像位置c0、d0はそれぞれ結像位置c2、d2に移動する。このような結像点のx,y座標変化に対し、マイクロレンズアレイ14の傾きの無い場合の座標へ、補正マトリクスを用いて変換することができる。ここでLxの代わりに符号付のマイクロレンズの中心位置座標lxを導入する。すなわち点a1、b1のうちx>0にある点はlx=Lx、x<0にある点はlx=−Lxと表す。傾きが無い理想の状態におけるマイクロレンズの結像位置を(x,y,z)、傾きが有る状態におけるマイクロレンズの結像位置を(x,y,z)とおくと下式で位置補正が可能である。
同様の手法にて、別途発生する撮像素子16の傾きやディストーション(歪み)などについても補正マトリクスを求め、適応することで処理画像の補正をすることができる。
次に、上述したようにして求められた補正マトリクスを用いて画素位置を補正する場合について図10を参照して説明する。この画素位置の補正は、信号処理部26の画素位置補正部26Bによって行う。まず、画素位置補正部26Bの画像抜き出し部26iによって各マイクロレンズ内の画像の抜き出しが行われる。続いて、各マイクロレンズに対して、抜き出された画像に基づいて、マイクロレンズの中心位置、すなわち中心座標の補正が、メモリ26hに記憶された補正マトリクスを用いて、中心座標補正部26jによって行われる。その後、各マイクロレンズに対して、マイクロレンズ内の画素位置の補正がメモリ26hに記憶された補正マトリクスを用いて、マイクロレンズ内画素位置補正部26kによって行われる。続いて、マイクロレンズの像の拡大がマイクロレンズ像拡大部26lによって行われ、画素再配置しない場合には、拡大されたマイクロレンズの像から画素位置補正後の画像が得られ、画素再配置する場合には画像合成処理部26mによって画像の合成処理が行われ、画素位置補正後の画像が得られる。
なお、画素位置の補正においては、光学系の状態が変わらない条件のもとでは、補正マトリクスはそのまま再利用することが可能である。したがって、例えば携帯カメラなど固定焦点の撮像装置では出荷時に予め組立て誤差、部品ばらつき等に起因する光学歪みを補正する補正マトリクスを求めておき、撮影時では、上記求めた補正マトリクスを用いることで処理時間の短縮や処理リソースの節約といったメリットがある。
(輝度値補正を行う方法)
図11(a)に示す、マイクロレンズによって結像され撮像素子16にて得られる像は、各マイクロレンズの周辺部の光量落ちにより図11(b)に示すように、ピークを持った輝度値分布を示す。さらに、マイクロレンズごとの形状歪みなどにより、各マイクロレンズの像で光量ピークの大きさや位置は異なっている。この状態のまま画像再構成の合成処理を行うと、輝度値のピークの影響が及ぶことで画質劣化が生じてしまう可能性が存在する。そこで予め図12に示すように、白色板などのキャリブレーション用画像を撮影してメモリに保存しておき、合成処理の際にこのキャリブレーション用画像を用いて光量ピークの影響を低減させる処理を、信号処理部26の輝度補正部26Cによって行う。ここで白色板の輝度値に光量落ちが加わった結果、光量ピークが座標xの関数でf(x)と表せるとすると、f(x)の逆関数f−1(X)を求めることで元の輝度値を復元できる。
輝度補正部26Cの動作について図12を参照して説明する。まず、キャリブレーション用画像から、メモリ26eに記憶されたマイクロレンズ中心座標に基づいて各マイクロレンズ内の輝度値を、輝度値取得部26nによって取得する。続いて、取得された輝度値が補正用輝度値としてメモリ26qに記憶される。その後、撮像された撮像画像に対する輝度補正は、図13に示すように、信号処理部26の輝度補正部26Dによって行われる。すなわち、撮像画像から各マイクロレンズ内の輝度値が輝度値取得部26nによって取得される。続いて、取得された輝度値と、メモリ26eに記憶されたマイクロレンズ中心座標と、メモリ26qに記憶された補正用輝度値とに基づいて、各マイクロレンズに対して、マイクロレンズ内の輝度補正値が輝度値補正算出部26pによって行われる。そして、この輝度補正値に基づいて、撮像画像が画像補正部26rによって補正される。
(距離画像情報を得る方法)
次に、距離画像情報を得る方法について説明する。図4に示す光学系を例に取って説明する。レンズ12と被写体100との距離Aが変化すると下記も式にしたがってBの値が変化する。
結像レンズ12とマイクロレンズアレイ14との間の距離をEという値に固定している場合は、Bの変化に伴ってCの値も変化する。
B+C=E
一方、マイクロレンズ14に関しては、CとDの関係は次の式に従う。
この結果、各マイクロレンズを通って結像する像は結像レンズ12の仮想イメージである結像面をM(M=D/C)倍に縮小した画像が得られ、式で表すと下記で表される。
さらに上式をAについて整理すると、
が得られる。
したがって、このマイクロレンズによる像の縮小倍率Mをマッチング等により算出し、かつD、Eの値を予め計測しておけば、Aの値を逆算することが可能である。
以上説明したように、本実施形態によれば、光学系の誤差および歪みを反映した各マイクロレンズ像形成位置を予め推定し、補正係数マトリクスを算出する。この補正係数マトリクスを用いてマイクロレンズアレイとマイクロレンズ像の補正を一緒に行うことで、再構成時の画像合わせ精度を向上させることが可能となり、画質劣化を防止することができる。
また、補正係数を取得し、処理で利用することで、被写体までの距離推定における精度低下を防止することが可能となる。
また、補正係数を利用することで、再構成画像における画像の歪みなどの画質劣化を防止することが可能となる。
各撮像装置自体の補正係数を利用するため、例えば製造時の取り付け誤差など装置ごとに異なる誤差が生じたとしても、再構成画像からその影響を低減することができる。
すなわち、本実施形態によれば、複数のマイクロレンズを有していても、補正を容易に行うことが可能で、かつ距離推定や画像再構成における誤差および画質劣化を抑制することが可能な固体撮像装置を提供することができる。
なお、本実施形態の固体撮像装置1は、スチルカメラばかりでなく、情報携帯端末、例えば図14に示す携帯情報端末200に用いることができる。この図14に示す携帯情報端末は一例であって、符号10は第1または第2実施形態における固体撮像装置の撮像モジュール部を示す。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これらの実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これらの実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 固体撮像装置
10 撮像モジュール部
12 結像光学系(結像レンズ)
14 マイクロレンズアレイ
14a マイクロレンズ
16 撮像素子
16a 半導体基板
16b 画素(フォトダイオード)
16c カラーフィルタ
16d 画素集光用マイクロレンズ
18 撮像回路
20 撮像信号プロセッサ
22 カメラモジュールI/F
24 画像取り込み部
26 信号処理部
26A 補正係数算出部
26B 画素位置補正部
26C 輝度補正部
26D 輝度補正部
26a 二値化処理部
26b メモリ
26c 輪郭フィッティング部
26d 中心位置取得部
26e メモリ
26g 補正マトリクス計算部
26h メモリ
26i 画像抜き出し部
26j 中心座標補正部
26k マイクロレンズ内画素位置補正部
26l マイクロレンズ像拡大部
26m 画像合成処理部
26n 輝度値取得部
26p 輝度値補正算出部
26q メモリ
26r 画像補正部
28 ドライバI/F

Claims (6)

  1. 被写体を結像面に結像する第1の光学系と、
    複数画素を含む複数の画素ブロックを有する撮像領域を備えた撮像素子と、
    前記複数の画素ブロックに対応して設けられた複数のマイクロレンズを有するマイクロレンズアレイを含み、前記結像面に結像される予定の像を、個々のマイクロレンズに対応する画素ブロックに縮小再結像する第2の光学系と、
    前記撮像素子によって得られた前記被写体の画像信号を用いて、前記各マイクロレンズと前記画素ブロックとの光学位置関係を補正した画像信号処理を行う信号処理部と、
    を備えていることを特徴とする固体撮像装置。
  2. 前記信号処理部は、キャリブレーション用画像から前記第2の光学系および前記撮像素子の少なくとも一方の歪みを補正する補正係数を算出する補正係数算出部を備えていることを特徴とする請求項1記載の固体撮像装置。
  3. 前記補正係数算出部は、前記キャリブレーション用画像から前記マイクロレンズアレイの各マイクロレンズの結像の中心位置を取得する中心位置取得部と、前記中心位置取得部によって取得された各マイクロレンズの結像の中心位置と、前記画素値とに基づいて、補正マトリクスを計算する補正マトリクス計算部と、を備えていることを特徴とする請求項2記載の固体撮像装置。
  4. 前記信号処理部は、各マイクロレンズ内の画素値を取得する画素値取得部を更に備え、前記中心位置取得部によって取得された各マイクロレンズの結像の中心位置と、前記画素値取得部によって取得された各マイクロレンズ内の画素値と、前記補正マトリクス計算部によって計算された補正マトリクスとに基づいて、撮影された画像の画像信号から各マイクロレンズ内の画素位置を補正することを特徴とする請求項3記載の固体撮像装置。
  5. 前記信号処理部は、輝度校正用の補正データに基づいて、撮影された画像の画像信号の輝度値を補正することを特徴とする請求項1乃至4のいずれかに記載の固体撮像装置。
  6. 請求項1乃至5のいずれかに記載の固体撮像装置を備えていることを特徴とする携帯情報端末。
JP2011050221A 2011-03-08 2011-03-08 固体撮像装置および携帯情報端末 Expired - Fee Related JP5351195B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011050221A JP5351195B2 (ja) 2011-03-08 2011-03-08 固体撮像装置および携帯情報端末
US13/221,097 US8681249B2 (en) 2011-03-08 2011-08-30 Solid-state imaging device and portable information terminal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011050221A JP5351195B2 (ja) 2011-03-08 2011-03-08 固体撮像装置および携帯情報端末

Publications (2)

Publication Number Publication Date
JP2012186764A true JP2012186764A (ja) 2012-09-27
JP5351195B2 JP5351195B2 (ja) 2013-11-27

Family

ID=46795241

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011050221A Expired - Fee Related JP5351195B2 (ja) 2011-03-08 2011-03-08 固体撮像装置および携帯情報端末

Country Status (2)

Country Link
US (1) US8681249B2 (ja)
JP (1) JP5351195B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012198031A (ja) * 2011-03-18 2012-10-18 Ricoh Co Ltd 画像補正方法及び画像補正装置
JP2014103475A (ja) * 2012-11-19 2014-06-05 Canon Inc 画像処理方法、画像処理プログラム、画像処理装置および撮像装置
JP2014106970A (ja) * 2012-11-26 2014-06-09 Ricoh Co Ltd プレノプティック撮像システムおよび較正方法
JP2014164174A (ja) * 2013-02-26 2014-09-08 Toshiba Corp 固体撮像装置、携帯情報端末、および固体撮像システム
EP2781942A1 (en) 2013-03-19 2014-09-24 Kabushiki Kaisha Toshiba Microlens array unit and solid state imaging device
KR20160124421A (ko) * 2013-12-23 2016-10-27 유니버시티 오브 델라웨어 3-d 라이트 필드 카메라 및 사진술 방법
JP2017139743A (ja) * 2015-12-15 2017-08-10 トムソン ライセンシングThomson Licensing ライトフィールドカメラによって取り込まれたイメージに生じる口径食効果を補正する方法及び装置
JP2020515346A (ja) * 2017-03-30 2020-05-28 クイーンズランド・ユニヴァーシティ・オブ・テクノロジーQueensland University Of Technology 眼科撮像装置およびシステム

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5591851B2 (ja) 2012-03-15 2014-09-17 株式会社東芝 固体撮像装置および携帯情報端末
JP5677366B2 (ja) * 2012-05-21 2015-02-25 キヤノン株式会社 撮像装置
JP2015060053A (ja) 2013-09-18 2015-03-30 株式会社東芝 固体撮像装置、制御装置及び制御プログラム
JP2015084089A (ja) * 2013-09-19 2015-04-30 株式会社東芝 固体撮像素子用のマイクロレンズアレイ、固体撮像素子、撮像装置およびレンズユニット
US9544583B2 (en) 2015-01-09 2017-01-10 Ricoh Company, Ltd. Object space calibration of plenoptic imaging systems
CN106709912A (zh) * 2016-12-29 2017-05-24 天津市亚安科技有限公司 一种预置位精度自动测试***及其测试方法
CN109708612B (zh) * 2018-12-11 2020-12-18 清华大学深圳研究生院 一种光场相机的盲标定方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000236480A (ja) * 1999-02-16 2000-08-29 Minolta Co Ltd 撮像装置およびシェーディング補正方法
JP2007096825A (ja) * 2005-09-29 2007-04-12 Funai Electric Co Ltd 複眼撮像装置
JP2012205014A (ja) * 2011-03-24 2012-10-22 Casio Comput Co Ltd 撮像装置の製造装置及び製造方法、並びに撮像装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8680451B2 (en) * 2007-10-02 2014-03-25 Nikon Corporation Light receiving device, focus detection device and imaging device
US8189065B2 (en) * 2008-01-23 2012-05-29 Adobe Systems Incorporated Methods and apparatus for full-resolution light-field capture and rendering
JP5463718B2 (ja) * 2009-04-16 2014-04-09 ソニー株式会社 撮像装置
JP5515396B2 (ja) * 2009-05-08 2014-06-11 ソニー株式会社 撮像装置
JP2011045039A (ja) * 2009-07-21 2011-03-03 Fujifilm Corp 複眼撮像装置
KR101608970B1 (ko) * 2009-11-27 2016-04-05 삼성전자주식회사 광 필드 데이터를 이용한 영상 처리 장치 및 방법
US8803918B2 (en) * 2010-08-27 2014-08-12 Adobe Systems Incorporated Methods and apparatus for calibrating focused plenoptic camera data
JP5254291B2 (ja) 2010-09-07 2013-08-07 株式会社東芝 固体撮像装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000236480A (ja) * 1999-02-16 2000-08-29 Minolta Co Ltd 撮像装置およびシェーディング補正方法
JP2007096825A (ja) * 2005-09-29 2007-04-12 Funai Electric Co Ltd 複眼撮像装置
JP2012205014A (ja) * 2011-03-24 2012-10-22 Casio Comput Co Ltd 撮像装置の製造装置及び製造方法、並びに撮像装置

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012198031A (ja) * 2011-03-18 2012-10-18 Ricoh Co Ltd 画像補正方法及び画像補正装置
JP2014103475A (ja) * 2012-11-19 2014-06-05 Canon Inc 画像処理方法、画像処理プログラム、画像処理装置および撮像装置
JP2014106970A (ja) * 2012-11-26 2014-06-09 Ricoh Co Ltd プレノプティック撮像システムおよび較正方法
JP2014164174A (ja) * 2013-02-26 2014-09-08 Toshiba Corp 固体撮像装置、携帯情報端末、および固体撮像システム
EP2781942A1 (en) 2013-03-19 2014-09-24 Kabushiki Kaisha Toshiba Microlens array unit and solid state imaging device
JP2014182299A (ja) * 2013-03-19 2014-09-29 Toshiba Corp マイクロレンズアレイユニットおよび固体撮像装置
US9060140B2 (en) 2013-03-19 2015-06-16 Kabushiki Kaisha Toshiba Microlens array unit and solid state imaging device
JP2017510831A (ja) * 2013-12-23 2017-04-13 ユニバーシティー オブ デラウェア 3dライトフィールドカメラ及び撮影方法
KR20160124421A (ko) * 2013-12-23 2016-10-27 유니버시티 오브 델라웨어 3-d 라이트 필드 카메라 및 사진술 방법
US10397545B2 (en) 2013-12-23 2019-08-27 University Of Deleware 3-D light field camera and photography method
JP2020126245A (ja) * 2013-12-23 2020-08-20 ユニバーシティー オブ デラウェア 3dライトフィールドカメラ及び撮影方法
KR102303389B1 (ko) * 2013-12-23 2021-09-16 유니버시티 오브 델라웨어 3-d 라이트 필드 카메라 및 사진술 방법
JP7048995B2 (ja) 2013-12-23 2022-04-06 ユニバーシティー オブ デラウェア 3dライトフィールドカメラ及び撮影方法
JP2017139743A (ja) * 2015-12-15 2017-08-10 トムソン ライセンシングThomson Licensing ライトフィールドカメラによって取り込まれたイメージに生じる口径食効果を補正する方法及び装置
JP2020515346A (ja) * 2017-03-30 2020-05-28 クイーンズランド・ユニヴァーシティ・オブ・テクノロジーQueensland University Of Technology 眼科撮像装置およびシステム
JP7195619B2 (ja) 2017-03-30 2022-12-26 インテグラル・スコープス・ピーティーワイ・リミテッド 眼科撮像装置およびシステム
US11779210B2 (en) 2017-03-30 2023-10-10 Integral Scopes Pty Ltd. Ophthalmic imaging apparatus and system

Also Published As

Publication number Publication date
US20120229683A1 (en) 2012-09-13
JP5351195B2 (ja) 2013-11-27
US8681249B2 (en) 2014-03-25

Similar Documents

Publication Publication Date Title
JP5351195B2 (ja) 固体撮像装置および携帯情報端末
US11716535B2 (en) Thin multi-aperture imaging system with auto-focus and methods for using same
US9715734B2 (en) Image processing apparatus, imaging apparatus, and image processing method
US9288377B2 (en) System and method for combining focus bracket images
US9241111B1 (en) Array of cameras with various focal distances
US9060140B2 (en) Microlens array unit and solid state imaging device
US20120019624A1 (en) Image sensor for generating stereoscopic images
JP2011120138A (ja) カメラモジュール
TW201143384A (en) Camera module, image processing apparatus, and image recording method
JP2013074400A (ja) 固体撮像装置
US11375103B2 (en) Imaging device, image processing apparatus, and image processing method
CN108805921B (zh) 图像获取***及方法
WO2019048904A1 (en) STEREOSCOPIC DEPTH CARTOGRAPHY AND COMBINED PHASE DETECTION IN A DOUBLE-OPENING CAMERA
CN111127379B (zh) 光场相机2.0的渲染方法及电子设备
JP5330439B2 (ja) カメラモジュール、画像処理装置及び画像処理方法
US9596402B2 (en) Microlens array for solid-state image sensing device, solid-state image sensing device, imaging device, and lens unit

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130412

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130822

R151 Written notification of patent or utility model registration

Ref document number: 5351195

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees