以下に、本発明を適用した好ましい実施の形態を、添付の図面に基づいて説明する。
[実施例1]
[カメラ本体の構成]
図1は、本発明を実施した撮像装置の一例としての、レンズ交換式のデジタルカメラ本体100(以下、カメラ本体100)および撮影レンズ500の構成図である。
撮影レンズ500はカメラ本体100に対して着脱可能であり、撮影レンズ500内の各レンズ群を透過した光束は、カメラ本体100に備え付けられた光束分割手段としてのビームスプリッタ103に入射する。ビームスプリッタ103はカメラ本体100内に固定されており、本実施例においてはハーフミラーである。ビームスプリッタ103によって分割された光束の一方の光束はビームスプリッタ103を透過して第1の撮像面に被写体像を結像するよう配置された撮像素子101(第1の撮像素子)へと導かれる。他方の光束はビームスプリッタ103で反射して第2の撮像面に被写体像を結像するよう配置された撮像素子102(第2の撮像素子)へと導かれる。ここで、撮像面とは、撮像素子のセンサ面である。詳しくは後述する。なお、ビームスプリッタ103は、ハーフミラーと同様に入射する光束を分割することができるものであれば、ハーフミラーでなくても良い。
第1及び第2の撮像面は撮影レンズから見て光学的に等価な(共役な)位置にある。言い換えると、第1の撮像面に配置された撮像素子101と第2の撮像面に配置された撮像素子102はそれぞれ、撮影レンズ500を介して、被写体に対して光学的に共役な結像面にある。
第1及び第2の撮像面には、ビームスプリッタ103の透過率及び反射率に応じた明るさの被写体像が形成される。撮像光束中に配置されたハーフミラーは理想的な平面で、かつ光束が透過する領域の屈折率も一様であることが望ましいが、現実にはそうでない場合もあり得る。このため、ビームスプリッタ103を透過又は反射した光束により形成される画像は、ビームスプリッタ103を透過又は反射しない場合と比較して、画質が低下する場合がある。そして、ハーフミラーが薄板ガラスで構成される場合、画質低下の程度は、透過した光束により形成される画像と比較し、反射した光束により形成される画像において相対的に大きい。そこで本実施例では、透過側の撮像素子101を静止画を撮影するための撮像素子とし、反射側の撮像素子102は動画の撮影に用いる撮像素子として用いる。しかしながら本発明はこの形態に限定されるものではなく、また、ビームスプリッタ103の特性やその他の条件に応じて撮像素子101と撮像素子102の位置を入れ替えても良い。
CMOSエリアセンサからなる撮像素子101および撮像素子102は、被写体像を電気信号に変換するマトリクス状に配置された画素部を複数有する。電気信号に変換された画素情報は、画像処理専用の回路であるAFE114(第1の画像処理部)及びAFE115(第2の画像処理部)で処理される。具体的には、記録画像信号や焦点検出信号を得るための各種補正処理や、得られた記録画像信号をライブビュー画像信号や記録画像信号へ変換するための処理等が行われる。本実施例では、カメラ本体100が2つの撮像素子それぞれに対応したAFEを有することで、2つの撮像素子それぞれから取得した信号を並行して処理することができる。AFE114及びAFE115で処理された信号は、カメラCPU104へと送信される。操作部材105はカメラの撮影モードや撮影条件等を設定するための各種部材である。記憶媒体106はフラッシュメモリであり、撮影した静止画や動画を記録するための媒体である。ファインダ内表示器107は、有機ELディスプレイや液晶ディスプレイ等の小型で高精細な表示手段としてのディスプレイ108と接眼レンズ109とで構成される。外部表示器110は、裸眼視に適した画面サイズの有機ELディスプレイや液晶ディスプレイが用いられる。カメラ本体100の設定状態、ライブビュー画像、撮影済み画像等の各種情報は、ファインダ内表示器107や外部表示器110に表示される。
フォーカルプレンシャッタ111は撮像素子101の前面に配置されている。シャッタ駆動部112は例えばモーターであり、シャッタの羽根を駆動制御することで、静止画を撮像する際の露光時間を制御する。撮影レンズを装着するためのカメラマウント部(不図示)には、カメラ側通信端子113が設けられている。カメラ側通信端子113は、レンズマウント部に設けられたレンズ側通信端子508とともに、カメラCPU104と後述のレンズCPU507との間でやりとりされる情報を送受信する。
撮影レンズ500はカメラ本体100に対して着脱可能であり、本実施例では焦点距離が可変なズームレンズである。被写体からの光束は第1レンズ群501、第2レンズ群502、第3レンズ群503を透過し、カメラ本体100内の撮像面に被写体像を形成する。第2レンズ群502は光軸方向に進退して変倍を行なうバリエータとして機能する。第3レンズ群503は光軸方向に進退して焦点調節を行なうフォーカスレンズとして機能する。第3レンズ群503は、ステッピングモーターなどを用いたフォーカス駆動部504によって駆動される。虹彩絞り505は撮影レンズに入射する光量を調節するための複数の絞り羽根で構成されている。絞り駆動部506は、虹彩絞り505を、絞り羽根を所定のFナンバになるまで絞り込み駆動する。レンズCPU507は、レンズ側通信端子508及びカメラ側通信端子113を介してカメラCPU104と通信し、各種情報を送受信するとともに、カメラCPU104からの指令に基づいてフォーカス駆動部504や絞り駆動部506を駆動制御する。
撮影者は撮影意図に適した撮影レンズを選択して使用するため、撮影レンズ500のズームレンジや開放Fナンバは種々の値を取り得るが、本実施例においては、特に説明がない場合には、開放Fナンバはズーム状態やフォーカス状態によらずF2の一定値を想定して説明する。
[撮像素子の構成]
図2は撮像素子101の構成を説明する図である。本実施例の撮像素子101は撮像面で位相差式の焦点検出を行う、所謂撮像面位相差AF方式を採用した撮像素子である。本実施例では、一例として、撮像素子101と撮像素子102は、後述するマイクロレンズの偏心量を除き、同一構造で同一画素数を有する構成であるとして説明する。よって撮像素子102についての説明は省略する。ただし、撮像素子101と撮像素子102とでは異なる構造・構成を有していても良く、その例を実施例2〜実施例4において後述する。
同図(a)は撮像面の中央近傍(像高0付近)における一部の画素部を撮影レンズ側から見た平面図である。撮像素子101が有する複数の画素部はそれぞれ撮像面上の水平方向(x)、垂直方向(y)共に4μmの大きさを有した正方形の画素部である。これらの画素部が水平方向に6000画素、垂直方向に4000画素配列された、有効画素数2400万画素の撮像素子である。撮像領域の大きさは画素部の大きさ、すなわち画素ピッチに画素数を乗じれば求めることができ、この場合は水平方向に24mm、垂直方向に16mmとなる。各画素部にはRGBのカラーフィルタがモザイク状に配列されている。
同図(b)は上記画素群のうちの一つの画素部の断面図である。CMOSイメージセンサの基体を成すシリコン基板101dは、光電変換部101a(第1の光電変換部)及び光電変換部101b(第2の光電変換部)を有する。また、シリコン基板101dは、光電変換部101a及び光電変換部101bで発生した電荷を電圧に変換して外部に読み出すスイッチングトランジスタ(不図示)等を有し、光電変換後の信号は配線層101eによって読み出される。
各配線層101eは透明な層間膜101fによって絶縁されている。オンチップマイクロレンズ101cの下には色分離用のカラーフィルタ101gが設けられている。オンチップマイクロレンズ101cの形状は、その焦点位置が光電変換部101a及び光電変換部101bの上面に略一致するように決められる。そのため、光電変換部101a及び101bはオンチップマイクロレンズ101cを介して、後述する撮影レンズ500の射出瞳EP近傍に逆投影され、該逆投影像が位相差式焦点検出の際の焦点検出瞳として機能する。そして、位相差式の焦点検出を行なう際は、光電変換部101a及び光電変換部101bの出力信号を個別に処理して一対2像の位相差像を生成する。カメラCPU104(第1の焦点検出手段)が、当該2像の相対的な像ずれ量から、撮像面における被写体像のデフォーカス量を算出する。本実施例において、焦点検出とは、2像の位相差をもとにデフォーカス量を算出することである。また、AFE114(加算制御手段)が一対の光電変換部101a及び101bの信号を加算して静止画又は動画の記録画像信号もしくはライブビュー用(表示用)の画像信号を得る。なお、当該加算処理は専用の回路を設けて行っても良いし、撮像素子が光電変換部101a及び光電変換部101bの出力信号を個別に出力したのちに、撮像素子内で加算して出力しても良い。
図3は本実施例の撮像素子101の読み出し回路の構成を示したものである。光電変換部101a及び光電変換部101bは1つの画素部に配置された一対の光電変換部、121は水平走査回路、123は垂直走査回路である。そして各画素部の境界部には、水平走査ライン122a及び122bと、垂直走査ライン124a及び124bが配線され、各光電変換部からの信号は、これらの走査ラインを介して外部に読み出される。撮像素子102もこれと同様の読み出し回路を有しているため、説明は省略する。
本実施例の撮像素子101及び撮像素子102は、以下の2種類の読み出しモードを有する。第1の読み出しモードは全画素読み出しモードと称するもので、記録用の静止画や動画を撮像するためのモードである。この場合は、全画素部の信号が読み出される。第2の読み出しモードは間引き読み出しモードと称するもので、上記記録用の静止画よりも画素数の少ないライブビュー画像の表示を行うためのモードである。ライブビュー画像とは、撮像素子が取得した画像をファインダ内表示器107や外部表示器110にリアルタイムで表示するための画像である。ライブビューに必要な画素数は全画素数よりも少ないため、撮像素子はx方向及びy方向ともに所定比率に間引いた画素部のみから信号読み出すことで、信号処理回路の処理負荷を軽減するとともに、消費電力の低減にも寄与する。また、第1及び第2のいずれの読み出しモードにおいても、各画素部が備える一対2個の光電変換部の信号は独立して読み出し可能であるため、いずれのモードにおいても焦点検出のための信号(デフォーカス量算出のための信号)の生成が可能である。
なお、本実施例では撮像素子101は主として静止画撮影用に用いられるが、動画撮影を禁止するものでは無い。たとえば、撮像素子102で動画撮影中に、撮像素子101は先に説明した間引き読み画像を動画として記録することも可能である。同様に、撮像素子102は主として動画撮影用に用いられるが、静止画撮影も可能である。例えば、動画記録中に所望の1フレームを静止画として記録することも可能である。
[射出瞳・射出瞳距離(レンズ瞳距離)]
図4は、撮影レンズ500の射出瞳距離(レンズ瞳距離)PL1とセンサ瞳距離PSについて説明する図である。図4(a)は撮像素子101の説明図、図4(b)は撮像素子102の説明図である。まず、撮影レンズの射出瞳距離(レンズ瞳距離)PL1について説明する。
図4(a)には撮影レンズ500の光学要素部と、撮像素子101が有する2個の画素部1011及び1012が図示されている。画素部1011は撮像面中央、すなわち像高x=0に配置された画素部、画素部1012は撮像面の端に近い場所、例えば像高x=10mmに配置された画素部である。
当実施例を構成する撮影レンズ500は焦点距離が可変のズームレンズであり、ズーム操作に応じて焦点距離、開放Fナンバ、及び射出瞳距離PL1(後述)が変化する。図4においては、撮影レンズ500の焦点距離は広角端に設定されているものとする。撮影レンズ500を構成する第1レンズ群501は、その最前面が前枠501rで不図示のレンズ鏡筒に保持され、同じく第3レンズ群503の最後面は後枠503rでレンズ鏡筒に保持されている。第1レンズ群501と第3レンズ群503の間には虹彩絞り505がある。当図における虹彩絞りの開口は開放状態を示している。絞りが開放の時、画素部1011に到達する光束のうち、最も外側の光線L11aとL11bは虹彩絞り505の開口部で規制された光線となり、この光線がなす角度θ11は広角端における開放Fナンバに対応する光束の角度である。
一方で、撮影レンズ500を通過して撮像面の端付近に配置された画素部1012に到達する光束は、光線L12aとL12bに挟まれた領域内の光束となる。ここで、光線L12aは前枠501rで規制された光線で、いわゆる下線と称される光線である。また、光線L12bは後枠503rで規制された光線で、上線と称される光線である。上線L12bと下線L12aのなす角度θ12は、口径食のために画面中央の光線角度θ11よりも小さくなっている。
上線L12bと下線L12aの中間の光線L12cが主光線であり、光軸L11cと主光線L12cの交角は角度β1をなしている。そして、光軸L11cと主光線L12cが交差する点CL1をとおり、光軸L11cに垂直な面が、射出瞳が位置する面である射出瞳面EPL1である。また、射出瞳面EPL1上において、画素部1012へ到達する光束が通る領域が画素部1012からみた射出瞳EP(図4では不図示)である。撮像面と射出瞳EP(又は射出瞳面EPL1)の間隔(距離)が射出瞳距離PL1となる。ここでは撮影レンズの射出瞳距離PL1をレンズ瞳距離PL1とも称する。射出瞳EPの位置は撮影レンズ500のズームやフォーカスの状態変化により変化することから、レンズ瞳距離PL1も撮影レンズ500のズームやフォーカスの状態変化により変化する。
なお、虹彩絞りの絞り込みに応じて口径食が変化するため、撮影レンズ500のレンズ瞳距離PL1も厳密には絞り込み状態に応じても変化する。ただし、一般的には絞り込みによる射出瞳距離PL1の変動が僅少となるようにレンズ設計が行なわれるため、絞り込みによる射出瞳距離の変化は無視し得ることが多い。そこで、本実施例においても、射出瞳距離はズーム状態やフォーカス状態に応じて変化するが、絞り値に対しては不変であるとして説明する。
[焦点検出瞳]
次に、画素部の構造と焦点検出瞳について説明する。画素部1011は撮像領域の中央、すなわち撮影レンズの光軸上に位置した画素部である。一対の光電変換部1011a及び1011bは隣接配置され、その境界部が極小幅の不感帯である。該境界部の中心が画素部の中心と一致しており、一対の光電変換部はx方向において画素部の中心に対して対称形状である。よって、個々の光電変換部の重心位置は画素部の中心に対してx方向に等距離である。主点1011pは該画素部が備えるマイクロレンズ1011cの光線屈折作用を考える上での基準位置であり、主点1011pを通って光軸に直交する面が撮像素子101の予定結像面、いわゆる撮像面IP1となる。すなわち、撮影レンズ500によって形成される被写体像のピント位置が各マイクロレンズの主点1011pを連ねた予定結像面IP1上に一致する状態が合焦で、この時に撮像素子が取得する被写体像が最も先鋭なものとなる。なお、マイクロレンズの厚さは1μm程度であり、マイクロレンズの頂点と主点1011pの間隔は更に小さな値であるため、主点1011pはマイクロレンズの頂点とみなしても差し支えない。
画素部1011はマイクロレンズ1011cの光軸と画素部の中心(一対の光電変換部の境界中心)が一致している。一方、撮像面IP1の端部に位置する画素部1012においては、マイクロレンズ1012cの光軸と画素部の中心が一致しておらず、撮影レンズ500の光軸寄りに所定量dx1だけ偏心している。ここで、一対の光電変換部の境界部の中心とマイクロレンズの主点を結ぶ線を画素部の主光線と定義する。すると、画素部の主光線は光軸に対して所定の角度ω1だけ傾斜することになり、撮像面IP1から所定距離だけ隔たった点CS1で光軸と交差する。この交点CS1をとおり光軸と直交する仮想面をセンサ瞳面SPL1、センサ瞳面SPL1と撮像面IP1の間の距離PS1をセンサ瞳距離PS1と称する。センサ瞳面上ではすべての画素部の焦点検出瞳が実質的に一致する。その理由は後述する。
撮像面中央の画素部1011において、マイクロレンズ1011cの主点1011pと一対の光電変換部の上面間の高さh1が画素部の光学的な高さである。厳密な光学的高さは、機械的寸法である高さh1に画素部内の光路部分の屈折率を乗じた値であるが、ここでは説明を平易にするため、図示した高さh1を画素部の高さとする。そして、マイクロレンズ1011cの焦点が光電変換部1011a及び光電変換部1011bの上面と略一致するように、マイクロレンズ1011cの形状(光学パワー)が設定されている。ここで図4においては、画素部の高さh1に対してレンズ瞳距離PL1及びセンサ瞳距離PS1は数倍程度の大きさに描かれている。しかし、現実には画素部の高さh1がマイクロメートルオーダーであるのに対して、レンズ瞳距離PL1及びセンサ瞳距離PS1は数10mmオーダーであり、両者の大きさには4桁程度の開きがある。すなわち、マイクロレンズの集光作用を考える場合、画素部1011から見た撮影レンズの射出瞳やセンサ瞳面は非常に遠方にあると見なせる。そこで、マイクロレンズ1011cの焦点位置が光電変換部の上面に略一致していると、光電変換部の上面は遠方にある平面上に投影されることになるが、その投影像の大きさは投影される面の距離に比例する。ここで、投影面を前述のセンサ瞳面SPL1とすると、センサ瞳面SPL1上には一対の光電変換部1011a及び1011bに対応する一対の逆投影像AP1a及びAP1bが形成され、これが焦点検出時の光束を規定する焦点検出瞳となる。すなわち、光電変換部1011aは逆投影像AP1aに対応する領域の光束を受光し光電変換する。また光電変換部1011bは逆投影像AP1bに対応する領域の光束を受光し光電変換する。このことから、光電変換部1011a及び1011bは互いに視差を有する光束を受光する。
[画素部の構造とセンサ瞳距離]
次に、画素部1012の構造とセンサ瞳距離PS1の関係について説明する。同図(a)において、画素部1012のx座標をX1とすると、マイクロレンズ1012cの主点及びセンサ瞳面上の点CS1を頂点とする2つの三角形の相似関係より、
X1/(PS1+h1)=dx1/h1 (式1)
となる。ここで、PS1≫h1なので、左項の分母PS1+h1はPS1と近似でき、式4を変形すると、
PS1=X1×(h1/dx1) (式2)
dx1=h1×(X1/PS1) (式3)
が得られる。
また、画素部1012の画素構造や各部の寸法は、マイクロレンズの偏心量を除いて画素部1011と同一である。よって、センサ瞳面SPL1上には、一対の光電変換部1012a及び1012bに対応する一対の逆投影像が形成され、この逆投影像は画素部1011の光電変換部の逆投影像AP1a及びAP1bと実質的に同一となる。すなわち、任意の画素部において、式3が成り立つように各画素のマイクロレンズの偏心量を設定することにより、すべての画素のセンサ瞳距離PSがセンサ瞳距離PS1となる。そして、センサ瞳面上においてはすべての画素の焦点検出瞳がAP1a及びAP1bに共通化される。すなわち、マイクロレンズアレイを介して各画素が備える光電変換部とセンサ瞳面とが共役な関係になり、すべての画素の焦点検出瞳がセンサ瞳面上で実質的に一致することになる。
[焦点検出瞳の基線長(撮像素子101)]
次に焦点検出瞳の基線長について説明する。画素部1011における一対の光電変換部1011a及び1011bは、x方向において対称形状となっており、各々の光電変換部における感度重心位置のx方向間隔をGS1とする。ここで、該光電変換部の感度重心位置とマイクロレンズ1011cの主点1011pを結び、撮影レンズの射出瞳方向に延長した線を光電変換部の主光線と定義する。マイクロレンズの主点を頂点とし、一対2本の主光線S11aとS11bが形成する2つの三角形の相似関係より、
GP1/PS1=GS1/h1 (式4)
が導かれ、これを変形すると、焦点検出瞳の基線長GP1は次式、
GP1=GS1×(PS1/h1) (式5)
となる。また、一対の焦点検出光束における一対の主光線S11aとS11bのなす角度が基線角度α11で、sinα≒tanα≒αの近似が成り立つ領域では、
α11=GS1/h1=GP1/PS1 (式6)
となる。
撮像面の端部に位置する画素部1012においても、光電変換部1012aの感度重心位置と光電変換部1012bの感度重心位置のx方向間隔はGS1であり、一対の光電変換部の主光線S12aとS12bが定義でき、前述の式1及び式2が成り立つ。すなわち、画素部1011と画素部1012において、焦点検出瞳の基線長は互いに等しい値GP1となる。一方で、両者の基線角度は厳密には異なり、画素部1011の基線角度はα11、画素部1012の基線角度はα12となり、α11>α12の関係となる。
基線長という用語は、2眼式ステレオカメラや、外測式位相差検出モジュールにおける一対の光学系の入射瞳間の距離を指すが、本実施例における撮像面位相差検出方式ではセンサ瞳面SPL1上の一対の光束の間の距離GP1を基線長と称している。この場合、センサ瞳面SPL1と撮像面IP1の間隔であるセンサ瞳距離PS1が変わると基線長GP1も変化してしまうので、基線長の長短を比較する場合は、センサ瞳距離PS1を揃えて比較する必要がある。また、図4に示した基線長GP1及びGP2は画素部単体の基線長だが、焦点検出時には焦点検出瞳が撮影レンズ500の射出瞳でけられるため、けられ状況に応じて基線長も短くなる。なお、基線角度α11はレンズ瞳距離PLやセンサ瞳距離PSには依存せず、画素の構造と寸法のみで決まるため、撮像素子単体の焦点検出能力を比較する場合は基線角度αによって比較することができる。位相差検出時の一対2像の相対的な横ずれ量は基線長GP1もしくは基線角度α11に比例するので、これらの値が大きいほど、焦点検出分解能が高い。
[焦点検出瞳の基線長(撮像素子102)]
次に、撮像素子102に対応する焦点検出瞳の基線長について説明する。画素部1021における一対の光電変換部1021a及び1012bは、撮像素子101の画素部1011と同様にx方向において対称形状となっており、各々の光電変換部における感度重心位置のx方向間隔をGS2とする。また、画素部の高さはh2である。すると、撮像素子101における前述の式4ないし式6は、撮像素子102においては、
GP2/PS2=GS2/h2 (式12)
GP2=GS2×(PS2/h2) (式13)
α21=GS2/h2=GP2/PS2 (式14)
となる。そしてh1=h2、GS1=GS2であるため、撮像素子101と撮像素子102とでは基線角度は等しく、α11=α21となる。一方で、焦点検出瞳の基線長はGP2>GP1となり、両者は異なる値であるが、これは焦点検出瞳を投影する面と撮像面の間隔が異なることに起因する。そして、焦点検出精度は基線角度αに依存するため、撮像素子101と撮像素子102において、撮像面中央にある画素部単体の焦点検出性能は同一となる。撮像面の端部における画素部1022についても式12及び式13が成り立つため、撮像素子単体では撮像素子101と撮像素子102の焦点検出性能は等しい。
以上のごとく、撮像素子101と撮像素子102は、各画素部の基本的な特性は同一だが、センサ瞳距離PSが異なっている。よって、撮像面中央において両者は同等の焦点検出特性となるが、撮像面端部においては撮影レンズ500の射出瞳と撮像素子の焦点検出瞳の位置関係が異なり、焦点検出特性も異なる(図5を用いて後述する)。
[焦点検出原理]
撮像素子101及び撮像素子102を用いた焦点検出の原理を、以下に説明する。撮像素子101に配置された任意像高の画素部内の一方の光電変換部(図4の1011a及び1012a)は、マイクロレンズアレイを介して焦点検出瞳AP1aを通過した光束を受光し、光電変換信号Saを出力する。同様に画素部内の他方の光電変換部(図4の1011b及び1012b)は、マイクロレンズアレイを介して焦点検出瞳AP1bを通過した光束を受光し、光電変換信号Sbを出力する。そこで、x方向に連続して配置された複数の画素部が出力する信号Sa同士と、信号Sb同士を連ねた信号を、A像信号及びB像信号と定義する。すると、A像信号とB像信号は、被写体像のピントズレ状態に応じてx方向に横ずれしている(視差を有している)。この横ずれ量(位相差、又は像ずれ量とも称する)は、被写体像のピントズレ量すなわちデフォーカス量に比例するとともに、焦点検出瞳の基線長GP1あるいは基線角度α11にも比例する。
次に図4(b)に示した撮像素子102の画素部構造と焦点検出瞳について説明する。本実施例においては、2つの撮像素子は1つの撮影レンズ500を共用しているが、撮影レンズ500から撮像素子102に向かう光束はビームスプリッタ103を介して90度折れ曲がる。そこで、撮像素子102上に形成される被写体像は鏡像であるが、ここでは光束を直線状に展開し、鏡像も元の正像に戻した状態で説明する。
図4(b)では撮像素子102が有する複数画素部のうち、2個の画素部1021及び画素部1022を図示している。画素部1021は撮像面中央、すなわち像高x=0mmに配置され、画素部1022は像高x=10mmに配置されている。
撮像面中央の画素部1021は同図(a)の画素部1011と同一構成である。すなわち、画素部1021の画素部の高さh2は画素部1011の画素部の高さh1と同一であり、マイクロレンズ1021cの主点1021pをとおり光軸S21cに直交する面が撮像面IP2である。また、マイクロレンズ1021cの光軸は一対の光電変換部の境界部と一致し、かつマイクロレンズ1021cの焦点位置は一対の光電変換部の上面と略一致している。
一方で、撮像面IP2の端部近傍に位置する画素部1022においては、撮像素子101の画素部1012と同様に、マイクロレンズ1022cの光軸が画素部の中心に対して偏心している。その偏心量は前述の所定量dx1とは異なる所定量dx2に設定されている。そこで、画素部1022の主光線S22c(一対の光電変換部境界とマイクロレンズの主点を結ぶ線)は光軸に対して所定の角度ω2だけ傾斜することになり、撮像面IP1から所定距離だけ隔たった点CS2で光軸と交差する。この交差点CS2をとおり光軸と直交する仮想面を、同図(a)で説明したものと同様にセンサ瞳面SPL2とし、センサ瞳面SPL2と撮像面IP2の間の距離PS2をセンサ瞳距離PS2と称する。
よって、撮像素子101で説明したセンサ瞳距離PSに関する式1ないし及び式3は、撮像素子102においては、
X1/(PS2+h2)=dx2/h2 (式7)
PS2=X1×(h2/dx2) (式8)
dx2=h2×(X1/PS2) (式9)
となる。そして、画素部1022の画素構造や各部の寸法は、マイクロレンズの偏心量を除いて画素部1021と同一である。よって、センサ瞳面SPL2上には、一対の光電変換部1022a及び1022bに対応する一対の逆投影像が形成され、この逆投影像は画素部1021の光電変換部の逆投影像AP2a及びAP2bと実質的に同一となる。すなわち、任意の画素部において、式9が成り立つように当該画素部のマイクロレンズの偏心量を設定することにより、すべての画素部のセンサ瞳距離PSがセンサ瞳距離PS2となる。そして、センサ瞳面上においてはすべての画素部の焦点検出瞳がAP2a及びAP2bに共通化される。
ここで、画素部1012のマイクロレンズ1022cの偏心量dx2は、同図(a)に示した撮像素子101における偏心量dx1より小さな値である。そのために、撮像面端部における主光線角度ωとセンサ瞳距離PSの大小関係は、
ω1>ω2 (式10)
PS1<PS2 (式11)
となる。
ここで、前述のように射出瞳距離EPL1は撮影レンズ500のズームやフォーカスの状態変化により変化する。さらには、装着される撮影レンズの種類が異なれば、射出瞳距離の変化範囲も異なる。従って、センサ瞳距離PS1とセンサ瞳距離PS2は、装着される可能性のある種々の撮影レンズのレンズ瞳距離EPL1を勘案して設定されるのが好ましい。その具体的な設定方法の例を以下に説明する。 カメラ本体100に装着される撮影レンズ500の射出瞳距離について、その最小値をPLmin、最大値をPLmaxとすると、センサ瞳距離PS1及びPS2はともにPLminとPLmaxの間に設定する。また、射出瞳距離の中間値をPLmidとすると、センサ瞳距離PS1及びPS2はその一方がPLmidより小さく、他方がPLmidより大きくなるように設定されるのが好ましい。
なお、撮像素子はその製造工程において、画素部の高さには所定の製造ばらつきを生ずるため、主光線角度ωとセンサ瞳距離PSもばらつきを生ずる。そこで、画素部の高さの製造ばらつきが生じても式10及び式11の大小関係が逆転しないようにすることも重要である。
すなわち、以上のような条件を考慮してマイクロレンズの偏心量dx1及びdx2を設定するのが好ましい。
[像高に応じた、焦点検出瞳及び射出瞳の口径食]
図5は、図4に示したセンサ瞳面SPL1及びSPL2における、各画素部の焦点検出瞳と撮影レンズ500の射出瞳の相対的な位置関係を示した図である。同図(a)は撮像素子101の画素部1011に関する図、同図(b)は撮像素子101の画素部1012に関する図、同図(c)は撮像素子102の画素部1021に関する図、同図(d)は撮像素子102の画素部1022に関する図である。先に、焦点検出瞳の大きさは、焦点検出瞳の投影面距離に比例すると説明した。そして、同図(a)(b)と、同図(c)(d)は投影面であるセンサ瞳距離PSが異なるため、投影距離が揃うように図面の縮尺を調整している。また、いずれの図においても、センサ瞳面における光軸位置を原点としている。まず同図(a)について説明する。
図5(a)は、撮像素子101の撮像面中央に位置する画素部1011からセンサ瞳面SPL1を見た時の焦点検出瞳と撮影レンズ500の射出瞳を示す。原点はセンサ瞳面SPL1と光軸の交点であり、図4(a)における点CS1である。一対の焦点検出瞳AP1a及びAP1bは、マイクロレンズ1011cを介して画素部1011が有する一対の光電変換部1011a及び1011bと光学的に共役関係にある。ただし、マイクロレンズ1011cの光学収差、及び画素部の大きさが微小であることによる光波の回折により、一対の焦点検出瞳AP1a及びAP1bは輪郭がぼけている。そして各焦点検出瞳はクロスハッチングで示した中心部に行くほど効率が高い、換言すれば中心部に近づくほど受光強度が高い。また、網点で示した領域は周辺部に行くほど効率が低い、換言すれば受光強度は低くなる。そして周辺部は互いの領域の一部が重なっている。
射出瞳EP11は撮影レンズ500における絞り開放時、すなわちF2における射出瞳であり、射出瞳EP11sは小絞り時に虹彩絞りが形成する開口で、F2よりも大きいFナンバ(例えばF5.6)である場合における射出瞳を示している。撮像面中央においては焦点検出瞳と射出瞳は原点である光軸に対して瞳分割方向(横軸u方向)に対称である。よって、焦点検出時のFナンバに関わりなく、一対の焦点検出瞳のけられは瞳分割方向に対称となり、画素部1011が有する一対の光電変換部1011aと1011bの受光信号強度は等しくなる。
図5(b)は、撮像素子101の撮像面端部に位置する画素部1012からセンサ瞳面SPL1を見た時の焦点検出瞳と撮影レンズ500の射出瞳を示す。原点は同図(a)と同様に、図4(a)における点CS1である。一対の焦点検出瞳AP1a及びAP1bの形状と位置は図4(a)に示した画素部1011のものと同様であり、原点CS1に対して瞳分割方向に対称である。
射出瞳EP12は絞り開放時の射出瞳であるが、画素部1012から見た射出瞳は口径食により2つの円弧で囲まれた形状となり、u軸方向の幅は狭くなっている。また、射出瞳EP12sは同図(a)と同じく絞り値F5.6における射出瞳である。図4(a)で説明したように、レンズ瞳距離PL1と第1の撮像素子101のセンサ瞳距離PS1は若干異なっているため、開放及び絞り込み時の射出瞳中心CD1は焦点検出瞳の境界中心CS1に対して左方向に若干偏心している。しかしその偏心量は僅かであるため、一対の焦点検出瞳のけられは瞳分割方向に略対称となり、画素部1012が有する一対の光電変換部1012aと1012bの受光信号強度はほぼ等しい。
図5(c)は、撮像素子102の撮像面中央に位置する画素部1021からセンサ瞳面SPL2を見た時の焦点検出瞳と撮影レンズ500の射出瞳を示している。原点はセンサ瞳面SPL2と光軸の交点であり、図4(b)における点CS2である。一対の焦点検出瞳AP2a及びAP2bは、実質的に同図(a)の画素部1011のものと同一である。
また、絞り開放時の射出瞳EP21と、F5.6における射出瞳EP21sも同図(a)に示した射出瞳EP11及び射出瞳EP11sと同一である。よって、画素部1021においても焦点検出時のFナンバに関わりなく、一対の焦点検出瞳のけられは瞳分割方向に対称となり、一対の光電変換部1021aと1021bの受光信号強度は等しくなる。
図5(d)は、撮像素子102の撮像面端部に位置する画素部1022からセンサ瞳面SPL2を見た時の焦点検出瞳と撮影レンズの射出瞳を示す。当図の原点CS2は同図(c)と同様に、図4(b)における点CS2である。一対の焦点検出瞳AP2a及びAP2bは、図5(c)と同様に原点CS2に対して瞳分割方向に対称である。
射出瞳EP22は絞り開放時の射出瞳であり、同図(b)と同様に、口径食により2つの円弧で囲まれた形状である。また、射出瞳EP22sは他の図と同じく絞り値F5.6における射出瞳である。図4(b)で説明したように、レンズ瞳距離PL1と撮像素子102のセンサ瞳距離PS2はかなり異なっているため、開放及び絞り込み時の射出瞳中心CD2は焦点検出瞳の境界中心CS2に対して左方向に大きく偏倚する。そこで、一対の焦点検出瞳のけられは瞳分割方向に非対称となり、画素部1022が有する一対の光電変換部1022aと1022bの受光信号強度は大きく異なる。この光量差(厳密には光量比)は、像高が大きく、また小絞りになるほど著しくなる。
[シェーディング特性と焦点検出性能]
図6は撮影レンズ500の絞り値を開放(ここではF2)、及びF5.6に絞り込んだ時の、一様な輝度分布を有する被写体を撮像した際の撮像素子の受光光量、すなわちシェーディング特性を説明する図である。同図(a)は撮像素子101の特性図であり、同図(b)は撮像素子102の特性図である。まず同図(a)について説明する。
同図(a)の横軸は撮像素子101の撮像面IP1におけるx方向の像高、縦軸は一対の焦点検出瞳に対応する光束を受光する光電変換部の出力信号で、各画素部が備える光電変換部の受光光量に比例した値である。S1a(F2)は、絞り開放(F2)時における、一方の焦点検出瞳AP1aに対応する光電変換部群の出力信号であり、これをA像信号と称する。S1b(F2)は対となる他方の焦点検出瞳AP1bに対応する光電変換部の出力信号で、これをB像信号と称する。焦点検出の際は、所定の明暗パターンを有する被写体についてのA像信号とB像信号の相関演算を行なってデフォーカス量を検出する。これに対し同図の波形は、無地の均一輝度面に対する信号の特性、すなわち焦点検出系のシェーディング特性を表わしている。当図によると両信号は像高xの増加とともにその値が急激に低下するが、これは撮影レンズの口径食に起因する。また、撮像素子101はレンズ瞳距離PL1とセンサ瞳距離PS1が略一致しているが、図4(a)で説明したように、厳密にはレンズ瞳距離PL1の方が若干小さい。そこで、図5(a)及び(b)で説明したように、像高の増加と共に撮影レンズの射出瞳中心と焦点検出瞳の中立点が僅かにずれるため、図6(a)のA像信号S1a(F2)とB像信号S1b(F2)は像高に応じてその値も若干のずれを生じている。また、像高xが正の領域ではA像>B像、像高xが負の領域ではA像<B像となり、像高の正負に応じて両信号の大小関係は逆転する。
図6(a)のS1a(F5.6)及びS1b(F5.6)はF5.6に絞った時のA像及びB像信号である。両信号は像高と共に出力が緩やかに低下するが、その低下原因はコサイン4乗則によるものである。また、両信号も像高の増加とともに値が異なっていくが、その理由は絞り開放の場合と同様である。
図6(b)は撮像素子102の特性図であり、同図(a)と対応している。S2a(F2)とS2b(F2)は、絞り開放(F2)時におけるA像信号とB像信号、S2a(F5.6)とS2b(F5.6)は、F5.6に絞り込んだ時のA像信号とB像信号である。図4(b)で説明したように、撮像素子102は撮像素子101と比較して、現在のレンズ瞳距PL1に対するセンサ瞳距離PS2の乖離が大きい。そのため、図5(d)で示したように、像高の高い領域では撮影レンズの射出瞳中心と焦点検出瞳の中立点のずれも大きく、一対の焦点検出瞳の光量比もアンバランスになる。よって、撮像素子102のシェーディング特性も口径食やコサイン4乗則を起因とする光量低下に加えて、射出瞳と焦点検出瞳の位置ずれに起因するA像信号とB像信号の乖離が、撮像素子101よりも大きくなっている。A像信号とB像信号の乖離が大きいまま相関演算を行うと、焦点検出の精度が低下してしまう。このため、焦点検出時には撮像装置が記憶しているシェーディング補正情報を用いてA像信号とB像信号にシェーディングを施したのちに相間演算を行なうのが一般的である。しかしながら、元のA像信号とB像信号のレベル差が大きいとシェーディング補正誤差も大きくなりがちである。また、元の信号レベルが本来想定したレベルより低いと、シェーディング補正による信号増幅比も大きくなり、その結果ノイズ等を増幅してしまい、焦点検出精度が低下してしまう。以上説明した内容を踏まえて図6(a)と(b)のシェーディング特性を比較すると、同図(a)の方がA像信号とB像信号のレベル差が少ない。A像信号とB像信号のレベル差は小さければ小さいほど焦点検出精度が高いと言える。よって、2つの撮像素子の両方が位相差検出可能な場合、レンズ瞳距離PLとセンサ瞳距離PSの乖離がより小さく、A像信号とB像信号のシェーディング特性が一致している方の撮像素子の焦点検出結果を優先的に使用することが好ましい。
シェーディング特性の一致度は、以下のように定義して判断する。撮像面の端部に近い所定像高において、A像信号とB像信号のうちの大きな方をMax(A,B)、小さな方をMin(A,B)、両者の比をシェーディング比SHとし、次式
SH=Max(A,B)/Min(A,B) (式14)
で定義する。図7は2つの撮像素子におけるシェーディング比SHがレンズ瞳距離PLに対してどのように変化するのかを示した図である。横軸は撮影レンズのレンズ瞳距離PL、縦軸はシェーディング比SHである。本実施例の撮影レンズ500は、前述の通り、ズームやフォーカスの状態変化により、レンズ瞳距離PLがPLminからPLmaxまで変化する。シェーディング比SH1(F2)及びSH1(F5.6)は、撮影レンズの絞り値が開放及びF5.6における撮像素子101のシェーディング比である。レンズ瞳距離PL1が撮像素子101のセンサ瞳距離PS1に一致すると、A像信号とB像信号のシェーディング波形は等しく、シェーディング比SH1は極小値の1となる。そして、レンズ瞳距離PL1とセンサ瞳距離PS1との乖離が大きくなるに従って、シェーディング比SH1は増加し、撮影レンズ500の絞りが小絞りになるほどシェーディング比の増加が著しい。
シェーディング比SH2(F2)及びSH2(F5.6)は、同じく撮影レンズの絞り値が開放及びF5.6に絞った時の撮像素子102のシェーディング比である。レンズ瞳距離PL1が撮像素子102のセンサ瞳距離PS2に一致すると、A像信号とB像信号のシェーディング波形は等しく、シェーディング比SH1は極小値の1となる。そして、レンズ瞳距離PL1がセンサ瞳距離PS2からずれるに従って、シェーディング比SH2は増加し、撮影レンズ500の絞りが小絞りになるほどシェーディング比の増加が著しい。
境界瞳距離PSmid(第1の所定距離)はシェーディング比SH1とSH2の大小関係が反転するレンズ瞳距離PLである。境界瞳距離PSmidは、撮像素子101のセンサ瞳距離PS1より大きく、撮像素子102のセンサ瞳距離PS2よりも小さい。レンズ瞳距離が境界瞳距離PSmid(第1の所定距離)以下である場合は、撮像素子102のシェーディング比SH2よりも撮像素子101のシェーディング比SH1が小さい。また、レンズ瞳距離が境界瞳距離PSmid(第1の所定距離)より大きい場合は、撮像素子101のシェーディング比SH1よりも撮像素子102のシェーディング比SH2が小さい。シェーディング比SHが小さいほど、A像信号とB像信号のレベル差が少ないため、焦点検出の際にはシェーディング比SHが小さい方の撮像素子を用いるのが好ましい。よって、本実施例では、焦点検出時のレンズ瞳距離PL1が境界瞳距離PSmid以下(第1の所定距離以下)である場合は、撮像素子101の焦点検出結果を優先する。また、レンズ瞳距離PL1が境界瞳距離PSmid(所定距離)より長い時は、撮像素子102の焦点検出結果を優先する。詳しくは後述する。
図8は、所定の焦点検出エリア内に存在する被写体を焦点検出する場合の焦点検出信号の波形例で、同図(a)はシェーディング補正前、同図(b)はシェーディング補正後の波形である。両図共に、横軸は撮像面のx座標、縦軸は焦点検出信号の出力強度で、Saは撮像素子101もしくは撮像素子102から出力されるA像信号、Sbは同じくB像信号である。同図(a)はシェーディング補正前のため、一対の信号にはレベル差を生じている。すなわちB像信号Sbに対してA像信号Saは平均値が高く、かつ、像高xの増加に応じてレベル差が拡大している。
同図(b)は後述するシェーディング補正処理を行なった後の焦点検出信号であり、A像信号SaとB像信号Sbのシェーディングが解消し、信号レベルが揃っている。そこで、シェーディング補正後の一対2像の信号において、所定の相間演算により2像の位相差φを算出する。
相間演算式には種々のものが提案されているが、例えば以下の式15が用いられる。
C(φ)=Σ|A(i)−B(i)| (式15)
A(i)及びB(i)は所定の焦点検出領域から出力されたA像信号とB像信号で、iはx軸方向の画素番号を表わす。例えば焦点検出領域のx軸方向に存在する焦点検出用画素の数が100画素であれば、iは1から100の値を取る。従って、式15の右辺は、焦点検出領域内のA像信号とB像信号の差の絶対値を積算したものになる。C(φ)は相関値で、φは上記積算演算を行なう際のA像信号とB像信号の相対的なずらし量である。すなわち、相間演算はA像信号とB像信号を相対的にずらしながら式15を計算し、相関値C(φ)が極小値を取る時のφをA像信号とB像信号の位相差とみなす。
[位相差の取得と、デフォーカス量の算出(焦点検出)]
図9は一対2像の位相差と相関値の関係を説明する図である。横軸はA像信号とB像信号の相対的なずらし量、縦軸は式15の相関値C(φ)である。C1は撮像素子101の焦点検出信号の相関値で、ずらし量φ1において、相関値は極小値C1minを示す。C2は撮像素子102の焦点検出信号の相関値で、ずらし量φ2において、相関値は極小値C2minを示す。図4においては、レンズ瞳距離PLとセンサ瞳距離PSの一致度は撮像素子101の方がよいため、焦点検出信号も撮像素子101から出力された信号の方が信頼性が高い場合が多い。よって、相関値C(φ)の極小値も撮像素子101による値の方が小さく、得られた位相差も、φ2よりもφ1の方が信頼性が高いと推定される。
次いで、式15で得られた位相差φをデフォーカス量DEFに変換する。ここで、位相差φとデフォーカス量DEFは次式の関係にある。
φ=DEF×α (式16)
DEF=φ/α=φ×K (式17)
αは一対の焦点検出光束の基線角度で、図4(a)のα11やα12、あるいは同図(b)のα21やα22である。ただし、図4に示した基線角度は撮像素子単体における値であるが、焦点検出光束は撮影レンズ500の射出瞳のけられに対応してけられが生ずる。これにより、式16や式17の基線角度αは、撮影レンズ500の光学状態、すなわち撮影レンズ500のFナンバやレンズ瞳距離PLによっても変化する。従って、デフォーカス量DEFを算出するためには基線角度αに関する情報が必要となる。基線角度αについては、詳しくは後述する。
カメラCPU104は式17を用いて位相差φをデフォーカス量DEFに変換し、さらにフォーカスレンズの駆動量に変換して撮影レンズ500のレンズCPU507に送信する。するとレンズCPU507は受信したレンズ駆動量に基づいてフォーカスレンズアクチュエータ506を駆動制御することで、被写体像を合焦させる。
[シェーディング補正情報]
図10は当実施例の撮像装置が有するシェーディング補正情報で、ルックアップテーブルとして例えば記憶媒体106等のメモリに記憶されている。同図(a)は撮像素子101用に記憶された情報、同図(b)は撮像素子102用の情報である。同図(a)において、ルックアップテーブルの列方向(横方向)には撮影レンズ500のFナンバが、F1.4からF16まで1段絞りごとに8種の値として割り当てられる。行方向(縦方向)には撮影レンズ500のレンズ瞳距離PLが、最小値のレンズ瞳距離1(例えば50mm)から最大値のレンズ瞳距離8(例えば200mm)まで、等差数列もしくは等比数列として割り当てられる。そして各Fナンバとレンズ瞳距離に対応する箇所には、撮像素子101に対応するシェーディング補正情報Fs111からFs188が格納されている。ここで、Fs111ないしFs188は単一の定数ではなく、所定の関数を定義するための複数の係数で構成される。焦点検出信号に生ずるシェーディングは、図6で説明したように、撮像面上の像高に応じて連続的に変化する。そこで、シェーディング補正関数を、像高x及び像高yを変数とする多項式関数で定義し、図6のシェーディング波形を該関数で近似した時の各次数における係数を記憶すればよい。
同図(b)は撮像素子102に対するシェーディング補正情報であり、その内容は同図(a)と同様であるため、説明は省略する。
[2像の位相差φをデフォーカス量に変換するための変換情報]
図11は、図8(b)に示した2像の位相差φをデフォーカス量に変換するための変換情報で、式17のKに相当し、図10と同様のルックアップテーブルとして例えば記憶媒体106等のメモリに記憶されている。図11(a)は撮像素子101用に記憶された変換情報、同図(b)は撮像素子102用の変換情報である。同図(a)において、ルックアップテーブルのFナンバとレンズ瞳距離に対応する箇所には、撮像素子101に対応する変換情報Fk111からFk188が格納されている。ここで、Fk111ないしFk188も単一の定数ではなく、所定の関数を定義するための複数の係数で構成される。位相差検出時に撮像面上の各画素部が受光する焦点検出光束は、撮像面上のx及びy座標に応じてけられ状態が変化するため、焦点検出瞳の基線長も像高に応じて連続的に変化する。そこで、位相差φをデフォーカス量に変換する係数も、像高x及び像高yを変数とする多項式関数で定義し、光学計算もしくは実測で求めた変換係数分布を該関数で近似し、近似した関数の各次数における係数を記憶すればよい。
同図(b)は撮像素子102に対する変換情報であり、その内容は同図(a)と同様であるため、説明は省略する。
[実施例1のメインフローチャート(図12)]
図12は本実施例における撮影処理の手順を示すメインフローチャートである。S101で撮影者がカメラの電源スイッチをオン操作すると、カメラCPU104はカメラ内の各アクチュエータや撮像素子101及び撮像素子102の動作確認を行なうとともに、メモリ内容や実行プログラムの初期化を行う。
S102ではカメラCPU104がレンズCPU507と通信を行ない、撮影レンズ500の開放Fナンバ、焦点距離、レンズ瞳距離PL、フォーカスレンズ繰り出し量とピント変化量の比例定数であるフォーカス敏感度等の情報を受信する。
[静止画撮影時]
S103では、カメラCPU104が撮影モードが静止画モードであるか動画モードであるかを判別し、静止画モードであればS111へ移行し、動画モードであればS131へ移行する。
S111では、カメラCPU104が静止画撮影用の撮像素子101をライブビューモードで駆動するよう制御する。ライブビューとは、撮像素子で取得した画像を図1のファインダ内表示器107もしくは外部表示器110にリアルタイムで表示するモードである。記録用画像の画素数に対して該表示器の画素数は水平及び垂直方向共に少ないため、ライブビューモードでは撮像素子から読み出す際に、水平方向及び垂直方向共に画素の間引きを行ない、撮像素子や信号処理回路の消費電力を低く抑えている。また、ライブビューモードで読み出した画像信号を用いてカメラCPU104(第1の焦点検出手段)は位相差検出も行なうが、焦点検出信号の分解能維持のため、焦点検出領域のみ間引き読みせずに全画素部の情報を読み出してもよい。
S112では、カメラCPU104がS111で取得した画像信号の明るさを判断し、ライブビュー時の絞り制御を行なう。S111ないしS115は静止画撮影時のライブビューと焦点調節を行なうステップであるが、静止画撮影時はライブビュー時と静止画撮影時の絞り値が異なっても大きな支障は無い。一方で、静止画は記録画素数が多く、画像の解像度が高いために合焦誤差の許容値は小さい。そこで、S112では、カメラCPU104が、レンズCPU507を介して、撮影レンズ500のFナンバが小さい、すなわち絞り開口径が大きくなるように絞り制御を行なう。具体的には、撮影レンズのFナンバを開放寄りのFナンバとし、決定したFナンバ情報をカメラ側通信端子113及びレンズ側通信端子508を介してレンズCPU507に送信する。すると、レンズCPU507は絞り駆動部506を駆動制御し、虹彩絞りの開口径を所定の値に制御する。そして撮影レンズ500を通過する光量が多く露光過多となる場合は、撮像素子の信号を増幅するアンプゲインを低くするとともに、露光時間を制御する電子シャッタの蓄積時間を短くする。
S113では、撮像素子101で取得した信号を表示用信号に変換し、ファインダ内表示器107もしくは外部表示器110に送信してライブビュー表示を開始する。
S114では、カメラCPU104が、静止画撮影に適した焦点検出1のサブルーチンを実行するよう制御する。当サブルーチンの詳細は図13(a)で説明する。
S115では、カメラCPU104が、S114で算出したフォーカスレンズ駆動量を、カメラ側通信手段113及びレンズ側通信手段508を介してレンズCPU507に送信する。すると、レンズCPU507は、ピントズレを解消するために、フォーカス駆動部504を所定量だけ駆動するよう制御する。
S116では、カメラCPU104が、静止画開始トリガボタンがオン操作されたか否かを判断する。オン操作されていなければS111に戻り、S111ないしS115のライブビュー表示と焦点調節動作を繰り返し実行する。静止画開始トリガボタンがオン操作されていたら、S116からS121に移行する。
S121では、カメラCPU104が静止画撮影1のサブルーチンを実行するよう制御する。当サブルーチンの詳細は図13(b)で説明する。
S122では、カメラCPU104がS121で取得した信号の処理を行ない、静止画像信号を生成して記憶媒体106(メモリ手段)に記録する。撮像素子101の各画素部は位相差検出のために一対2個の光電変換部を有しているため、その出力信号も各画素部について一対2つの信号からなりたっている。そこで画素部毎の一対の信号をAFE114(加算制御手段)が加算し、各画素部の記録用又は表示用の画像信号を得る。ついで、ベイヤー配列の色情報をデモザイキングするカラー変換、ガンマ補正、圧縮等の処理を行ない、記録用の画像を生成する。なお、当該信号の処理や記録画像の生成は、専用の回路を設けて行っても良い。
そしてS123で、カメラCPU104は、静止画撮影を終了するよう制御する。
[動画撮影時]
次いで、動画撮影時のフローについて説明する。S103において、カメラCPU104は、動画撮影モードが設定されているかどうかを判断する。動画撮影モードが設定されていたら、S103からS131に移行する。
S131では、カメラCPU104が、動画撮影用である撮像素子102をライブビューモードで駆動するよう制御する。
S132では、カメラCPU104がが、絞り駆動部506を介して動画記録用の絞り制御を行なう。動画撮影時はライブビュー時と動画記録時の絞りが同じであるため、当ステップにおいては動画に適した絞り値を選択する。動画撮影時に電子シャッタの露光時間を短くし過ぎると、動きのある被写体の連続性が失われ、ストップモーションの静止画が高速でコマ送りされるような不自然な動画となる。よって、このような現象を回避する電子シャッタの秒時が選択され、適正露光となるように撮影レンズの絞り値や撮像素子のアンプゲインが適正に制御される。ここで決定したFナンバは、カメラCPU104によって、カメラ側通信端子113及びレンズ側通信端子508を介してレンズCPU507に送信される。すると、レンズCPU507は絞り駆動部506を駆動制御し、虹彩絞り505の開口径を所定の値に制御する。
S133では、カメラCPU104が、撮像素子102で取得した信号を表示用信号に変換し、ファインダ内表示器107もしくは外部表示器110に送信してライブビュー表示を開始するよう制御する。
S134では、カメラCPU104が、動画撮影に適した焦点検出2のサブルーチンを実行するよう制御する。当サブルーチンの詳細は図14(a)で説明する。
S135では、カメラCPU104が、S134で算出したフォーカスレンズ駆動量を、カメラ側通信端子113及びレンズ側通信端子508を介してレンズCPU507に送信する。すると、レンズCPU507は、ピントズレを解消するために、フォーカス駆動部504を所定量だけ駆動するよう制御する。
S141では動画撮影トリガボタンがオン操作されたか否かを判断する。そしてオン操作されていたら、S142でAFE115が動画用の画像処理を行い、動画を生成する。生成された動画が記録されると、S143に移行する。動画撮影トリガボタンがオン操作されていなければ動画記録することなく、S141からS143にジャンプする。
S143ではカメラCPU104が、静止画開始トリガボタンがオン操作されたか否かを判断する。本実施例では、動画用ライブビューもしくは動画記録時に静止画撮影が指示されると、撮像素子101による静止画の記録を可能としている。そこで、静止画開始トリガボタンがオン操作されていた場合には、S143からS144に移行する。
S144では、カメラCPU104が、静止画撮影2のサブルーチンを実行するよう制御する。当サブルーチンでは、S121の静止画撮影1のサブルーチンとは異なり、動画撮影モードが選択された状態で、動画撮影に並行して静止画撮影を行なうよう,カメラCPU104が制御する。詳細は図14(b)で説明する。
S145では、カメラCPU104がS144で取得した静止画信号の処理を行ない、静止画像信号を生成して記憶媒体106に記録する。なお、当該信号の処理や記録画像の生成は、専用の回路を設け、当該回路において行っても良い。具体的な処理内容は先に説明したS122と同様である。
S145を実行したのちはS146に移行し、カメラCPU104が、動画撮影トリガボタンがオフ操作されたか否かを判断する。オン状態が継続していた場合には、S131ないしS145のステップを繰り返し実行し、動画用のAF制御や動画記録を継続するとともに、静止画の割り込みも許可する。一方、S146で動画撮影トリガボタンがオフ操作されたとカメラCPU104が判断した場合には、S123に移行して動画撮影を終了する。
[焦点検出1(図13(a))]
図13(a)は静止画撮影時に実行される「焦点検出1」のフローであり、図12のS114で実行するサブルーチンである。
S114よりS151に移行すると、カメラCPU104は、レンズCPU507から送信された撮影レンズ500のレンズ瞳距離PLと、図7で説明した境界瞳距離PSmidの大小比較を行なう。そして、レンズ瞳距離PLが境界瞳距離PSmid(第1の所定距離)以下である場合は、S152へ移行する。S152では、カメラCPU104は、静止画撮影のために駆動している撮像素子101による焦点検出を行なう。具体的には、まずAFE114が撮像素子101で取得した信号から一対の焦点検出信号(A像信号とB像信号)を生成する。そして、カメラCPU104は、図10(a)に示したシェーディング補正のためのルックアップデーブルから、焦点検出時のFナンバとレンズ瞳距離PLに対応する情報を読み出し、A像信号とB像信号にシェーディング補正を施す。次いで、カメラCPU104は、式15の相間演算式を用いた相間演算により、A像信号とB像信号の位相差φ1を計算する。そして、カメラCPU104は、図11(a)に示したルックアップテーブルからデフォーカス量DEFを算出するための変換情報を読み出し、前述の式17を用いてデフォーカス量DEFを算出(焦点検出)し、S155に移行する。S155では、カメラCPU104がデフォーカス量をフォーカスレンズ駆動量に変換し、S156でメインフローにリターンする。
一方、S151においてカメラCPU104が、現在のレンズ瞳距離PLが境界瞳距離PSmid(第1の所定距離)よりも長いと判断した場合は、S153に移行する。
S153ではカメラCPU104が非駆動状態にある動画用の撮像素子102を駆動し、先に説明したS152と同様の制御を行なう。すなわち、まずAFE115が撮像素子102で取得した信号から一対の焦点検出信号(A像信号とB像信号)を生成する。そして、カメラCPU104は、図10(b)に示したシェーディング補正のためのルックアップデーブルから、焦点検出時のFナンバとレンズ瞳距離PLに対応する情報を読み出し、A像信号とB像信号にシェーディング補正を施す。次いで、カメラCPU104は、公知の相間演算アルゴリズムを用いてA像信号とB像信号の位相差φ2を計算する。そして、カメラCPU104は、図11(b)に示したルックアップデーブルからデフォーカス量DEFを算出するための変換情報を読み出し、前述の式17を用いてデフォーカス量DEFを算出し、S155に移行する。S155では、カメラCPU104は、カメラCPU104又はレンズCPU507はデフォーカス量をフォーカスレンズ駆動量に変換し、S156でメインフローにリターンする。
[焦点検出1の処理による効果]
焦点検出1のフロー(図13(a))の効果を説明する。
前述の通り、レンズ瞳距離PL1がセンサ瞳距離PS1からずれるに従って、シェーディング比SH1は大きくなる。シェーディング比が大きいということは、A像信号とB像信号のレベル差が大きいということであるため、シェーディング比が大きい場合は、シェーディング比が小さい場合と比較して、焦点検出精度が低下する。
そこで、焦点検出1において、カメラCPU104は、レンズ瞳距離PL1が境界瞳距離PSmid以下である場合には(S151)、撮像素子101から取得した信号を用いて焦点検出を行う(S152)。センサ瞳距離PS2と比較して、センサ瞳距離PS1の距離が現在のレンズ瞳距離PL1に近いからである。
また、焦点検出1において、カメラCPU104は、レンズ瞳距離PL1が境界瞳距離PSmidより長い場合には(S151)、撮像素子102から取得した信号を用いて焦点検出を行う(S154)。センサ瞳距離PS1と比較して、センサ瞳距離PS2がレンズ瞳距離PL1に対して距離が近いからである。
以上のように、焦点検出1では、レンズ瞳距離PL1に対してより近いセンサ瞳距離PSを有する撮像素子を用いて、カメラCPU104が焦点検出を行う。これにより、これにより、2つの撮像素子のセンサ瞳距離PSが同じである場合と比較して、より広い範囲のレンズ瞳距離PL1の変化にも対応することができる。すなわち、より良い精度の焦点検出を行うことができる。
[静止画撮影1(図13(b))]
図13(b)は「静止画撮影1」のフローであり、図12のS121でカメラCPU104が実行するサブルーチンである。S121よりS161に移行すると、カメラCPU104は、静止画撮影用のFナンバをカメラ側通信端子113及びレンズ側通信手段508を介してレンズCPU507に送信する。レンズCPU507は絞り駆動部506を駆動制御し、虹彩絞り505の開口径を静止画撮影に適したFナンバに対応する値に制御する。
S162では、カメラCPU104は、ライブビュー用に開放状態となっていたフォーカルプレンシャッタ111を、いったん閉鎖状態にリセット駆動するようシャッタ駆動部112を制御する。
S163では撮像素子101が、静止画撮影を行なうための電荷蓄積動作を開始する。
S164では所定の露出演算プログラムで計算された静止画撮影用のシャッタ秒時に基づき、シャッタ駆動部112がフォーカルプレンシャッタ111の先幕及び後幕を駆動し、撮像素子に所定の露光量を与える。
フォーカルプレンシャッタ111の走行が完了すると、S165で撮像素子101の蓄積動作を終了し、電荷転送を行う。S166でメインフローにリターンする。
以上のごとく、静止画撮影モードが選択された状態で静止画撮影を行なう場合は、フォーカルプレンシャッタ111が光量調節を行ない、電荷転送時には撮像素子へ到達する光束を遮蔽する。これによりスミアやブルーミングの発生が回避でき、高画質の静止画を得ることができる。
[焦点検出2(図14(a))]
図14(a)は動画撮影時に実行される「焦点検出2」のフローであり、図12のS134で実行するサブルーチンである。
S134よりS171に移行すると、カメラCPU104が、現時点での撮影レンズのレンズ瞳距離PL1と、図7で説明した境界瞳距離PSmidの大小比較を行なう。カメラCPU104が、レンズ瞳距離PL1が境界瞳距離PSmidよりも長いと判断した場合は、S172へ移行する。S172では、カメラCPU104が、動画撮影のために駆動している撮像素子102による焦点検出を行なう。その制御内容は図13(a)のS154と実質的に同一であるため、説明は省略する。S172でカメラCPU104がデフォーカス量DEFを算出すると、S175に移行する。S175では、カメラCPU104がデフォーカス量をフォーカスレンズ駆動量に変換し、S176でメインフローにリターンする。
一方、S171においてカメラCPU104が、現在のレンズ瞳距離PL1が境界瞳距離PSmid(第1の所定距離)以下である場合は、S173に移行する。
S173ではカメラCPU104が非駆動状態である静止画用の撮像素子101を駆動するよう制御し、S174では先に説明した図13(a)のS152と同様の計算を行なう。S174でカメラCPU104がデフォーカス量DEFを算出すると、S175に移行してデフォーカス量をフォーカスレンズ駆動量に変換し、S176でメインフローにリターンする。
[焦点検出2の処理による効果]
「焦点検出2」のフロー(図14(a))の効果を説明する。
焦点検出1で説明した理由と同様の理由により、撮像素子102に関しても、レンズ瞳距離PL1とセンサ瞳距離PS2とのずれが大きい場合は、ずれが小さい場合と比較して、焦点検出精度が低下する。
そこで、焦点検出1では、レンズ瞳距離PL1が境界瞳距離PSmidより長い場合には(S171)、撮像素子102から取得した信号を用いて焦点検出を行う(S172)。センサ瞳距離PS2と比較してセンサ瞳距離PS1の距離が現在のレンズ瞳距離PL1に近いからである。
また、焦点検出2では、レンズ瞳距離PL1が境界瞳距離PSmid以下である場合には(S171)、撮像素子102から取得した信号を用いて焦点検出を行う(S173)。センサ瞳距離PS2と比較して、センサ瞳距離PS1がレンズ瞳距離PL1に対して距離が近いからである。
以上のように、焦点検出2では、焦点検出1と同様に、レンズ瞳距離PL1に対してより近いセンサ瞳距離PSを有する撮像素子を用いて検出を行う。これにより、これにより、2つの撮像素子のセンサ瞳距離PSが同じである場合と比較して、より広い範囲のレンズ瞳距離PL1の変化にも対応することができる。すなわち、より良い精度の焦点検出を行うことができる。
[静止画撮影2(図14(b))]
図14(b)は動画撮影中に静止画記録を行なう「静止画撮影2」のフローであり、図12のS144でカメラCPU104が実行するサブルーチンである。
S144よりS181に移行する時点で、フォーカルプレンシャッタ111は開放状態になっているとともに、撮影レンズ500の虹彩絞り505は動画撮影用のFナンバに制御されている。そこでS181では、この時点におけるFナンバや撮像素子101について設定された感度に基づき、カメラCPU104が静止画用の撮像素子101の露出時間を演算する。
S182では、カメラCPU104は、フォーカルプレンシャッタ111は開放状態のまま、撮像素子101の電子シャッタを動作するよう制御する。これにより撮像素子101は電荷蓄積を開始する。
S183では、撮像素子101は所定時間が経過したのちに電子シャッタを閉動作させて電荷蓄積を終了し、S184で電荷転送を行ない、S184でメインフローにリターンする。
以上のごとく、動画撮影モードが選択された状態で、動画撮影に並行して静止画撮影を行なう場合は、カメラCPU104は動画撮影モードで制御されているFナンバのまま静止画撮影を行なうよう制御する。また、フォーカルプレンシャッタ111は動作させず、電子シャッタによる露光制御を行なう。したがって、動画記録中に絞り開口径が不用意に変化することなく、かつフォーカルプレンシャッタ111の動作音が録音されることもないため、高品位な動画記録を継続したまま、静止画を得ることができる。
[実施例1による効果]
以上の実施例1においては、撮像素子101のセンサ瞳距離PS1と第2の撮像素子のセンサ瞳距離PS2を異ならせる。そして、図13(a)のS151及び図14(a)のS171で説明したように、焦点検出時のレンズ瞳距離PL1と境界瞳距離PSmidの大小関係を判別し、センサ瞳距離PSとレンズ瞳距離PLの乖離が少ない方の撮像素子で焦点検出する。その結果、A像信号とB像信号のレベル差の少ない方の撮像素子を用いた焦点検出を行なうため、信頼性の高い焦点検出が可能となり、焦点の合った高品位な静止画や動画を取得できる。
実施例1においては、撮像素子101は主として静止画撮影用、第2の撮像素子は主として動画撮影用であり、センサ瞳距離PSは撮像素子101よりも撮像素子102のほうが長い。その理由は、動画撮影に適した撮影レンズ500はレンズ瞳距離PLが長くなるように設計される傾向があるためである。焦点調節時にフォーカスレンズを駆動した際に、ピント状態だけでなく、像の大きさの変化、いわゆる像倍率変動を生ずる。そして動画記録時に像倍率変動が生ずると動画の品位を低下させてしまうので、動画撮影用レンズは像倍率変化を抑えるため、レンズ瞳距離PLが長い、いわゆる像側テレセントリックとなるように設計するのが好ましい。そこで実施例1においては、上記背景に鑑み、動画撮影用の撮像素子102のセンサ瞳距離PSが、撮像素子101より長い。ただし、これに限定されるものではなく、例えば撮像素子101を動画用とする場合は、センサ瞳距離PSを長くしても良い。
また、実施例1では焦点検出に用いる撮像素子を選択するための判断基準として、センサ瞳距離PSの長さを用いていたが、これに限定されるものではない。例えば、図10に示したシェーディング補正情報を判断基準に用いることも可能である。図10において、焦点検出時のFナンバがF2、レンズ瞳距離がレンズ瞳距離2の場合、撮像素子101におけるシェーディング補正情報は同図(a)よりFs122、撮像素子102におけるシェーディング補正情報は同図(b)よりFs222である。そして、Fs122とFs222の値を比較することにより、A像信号とB像信号のレベル差を推定することが可能である。すなわち焦点検出信号の補正のために記憶された情報を比較し、その結果に基づいて焦点検出に用いる撮像素子を選択するという実施形態も可能である。なお、本実施例では、静止画もしくは動画記録に用いておらず、かつ焦点検出に適さないと判断された方の撮像素子は駆動しないため、無駄な電力消費が回避され、合焦精度の向上と省電を両立することができる。ただし、本発明はこれに限定されるものではない。2つの撮像素子を同時に駆動することで、記録に用いていない撮像素子から焦点検出信号を取得する場合に、駆動時間を短縮し、駆動タイミングを合わせることができる。この場合には、カメラ本体100は、2つの撮像素子それぞれに対応して、別個の画像処理部を有する。
[実施例2]
実施例1は、焦点検出に用いる撮像素子を選択するための判断基準として、レンズ瞳距離PLとセンサ瞳距離PSの情報や、シェーディング補正情報を用いていた。これに対し、以下に示す実施例2では、カメラCPU104が焦点検出時には2つの撮像素子の両方からの信号を用いて焦点検出し、各々の焦点検出結果のうち信頼性が高いと推定される焦点検出結果を選択するものである。実施例2における撮像装置の構成や焦点検出特性は実施例1と同様であるため、説明は省略する。実施例2における撮影処理のメインフローは図12に示したメインフローチャートと同一であるが、焦点検出のサブルーチンであるS114とS132が異なるため、焦点検出サブルーチンのみ説明する。
図12のメインフローにおいて、静止画モードの場合はS103からS111に移行し、S111ないしS113を実行してS114に移行する。S114では、図15(a)に示した焦点検出3のサブルーチンを実行する。
[焦点検出3(図15(a))]
図15(a)は、実施例2の撮像装置において、カメラCPU104静止画撮影時に実行する「焦点検出3」のフローである。
S114よりS251に移行すると、カメラCPU104は、静止画撮影のために駆動している撮像素子101による焦点検出(デフォーカス量の算出)を行なう。具体的には、カメラCPU104は、AFE114が撮像素子101で取得した信号から一対の焦点検出信号(A像信号とB像信号)を生成するよう制御する。そして、カメラCPU104は、図10(a)に示したシェーディング補正のためのルックアップデーブルから、焦点検出時のFナンバとレンズ瞳距離PLに対応する情報を読み出し、A像信号とB像信号にシェーディング補正を施すよう制御する。次いで、カメラCPU104は、式15の相間演算式を用いた相間演算により、A像信号とB像信号の位相差φ1と相関値の極小値C1を計算する。そして、カメラCPU104は、図11(a)に示したルックアップテーブルからデフォーカス量DEFを算出するための変換情報を読み出し、前述の式17を用いてデフォーカス量DEFを算出する。
S252では、カメラCPU104が非駆動状態にある動画用の撮像素子102を駆動するよう制御する。S253では、カメラCPU104が先に説明したS251と同様の制御を行なう。すなわち、カメラCPU104は、AFE115が撮像素子102で取得した信号から一対の焦点検出信号(A像信号とB像信号)を生成するよう制御する。そして、カメラCPU104は、図10(b)に示したシェーディング補正のためのルックアップデーブルから焦点検出時のFナンバとレンズ瞳距離PLに対応する情報を読み出し、A像信号とB像信号にシェーディング補正を施すよう制御する。次いで、カメラCPU104は、式15の相間演算式を用いた相間演算により、A像信号とB像信号の位相差φ2と相間値の極小値C2を計算する。そして、カメラCPU104は、図11(b)に示したルックアップデーブルからデフォーカス量DEFを算出するための変換情報を読み出し、前述の式17を用いてデフォーカス量DEFを算出し、S254に移行する。
S254では、カメラCPU104(第1の判定手段)が、S251で得た撮像素子101による焦点検出結果と、S253で得た第2の撮像素子による焦点検出結果の信頼性を比較し判定する。信頼性を示す指標の一例として、本実施例では図9で説明した相関値の極小値を用いる。A像信号とB像信号のレベル差が大きい場合、レベル差が小さい場合と比較して、レベルの低い方の信号はシェーディング補正による増幅ゲインが大きくなる。すると、元の信号のノイズ成分や、各画素部の感度バラツキに起因する出力誤差も拡大され、2像の一致度が低下する。この場合、相間値の極小値を示す位相差φにおいても、相対的に大きな値を示す。すなわち、相間値の極小値が低いほど、A像信号とB像信号の一致度が高く、得られた位相差φの信頼性が高い。よって、S254においては、カメラCPU104(第1の判定手段)が、A像とB像の相関値の極小値(以下、単に相関値の極小値とも称する)がより小さい結果、すなわちA像とB像の一致度がより高い結果をより信頼性が高いと判定する。具体的には、撮像素子101から取得した相関値の極小値が、撮像素子102から取得した相関値の極小値以下である場合には、カメラCPU104は撮像素子101から取得した信号の信頼性が撮像素子102から取得した信号の信頼性よりも高いと判定する。また、撮像素子101から取得した相関値の極小値が、撮像素子102から取得した相関値の極小値よりも大きい場合には、カメラCPU104は撮像素子102から取得した信号の信頼性が撮像素子101から取得した信号の信頼性よりも高いと判定する。カメラCPU104は撮像素子101から取得した信号又は撮像素子102から取得した信号のうちより信頼性の高い信号に基づく焦点検出結果を選択し、S255に移行する。なお、2つの撮像素子から取得した焦点検出結果のうち、より信頼性の高い焦点検出結果をより多く用いるように重みづけし、2つの撮像素子両方の焦点検出結果を用いても良い。
S255では、カメラCPU104が、S254で選択された焦点検出結果であるデフォーカス量をフォーカスレンズ駆動量に変換し、S256でメインフローにリターンする。
[焦点検出4]
図15(b)は、実施例2の撮像装置において、カメラCPU104が動画撮影時に実行する「焦点検出4」のフローである。
図12に示したメインフローのS134よりS271に移行すると、カメラCPU104は、動画撮影のために駆動している撮像素子102による焦点検出を行なう。当ステップは図15(a)のS253と同一のため、説明は省略する。S271では、カメラCPU104が、撮像素子102による位相差φ2とデフォーカス量DEF2が算出する。S272では、カメラCPU104非駆動状態にある静止画用の撮像素子102を駆動し、S273では図15(a)のS251と同様の制御を行なうため、説明を省略する。S273では、カメラCPU104が、撮像素子101による位相差φ1とデフォーカス量DEF1が算出し、S274に移行する。
S274では、カメラCPU104(第1の判定手段)が図15(a)のS254と同一の判定を行なう。すなわち、カメラCPU104が、S271で得た第2の撮像素子による焦点検出結果の信頼性と、S273で得た撮像素子101による焦点検出結果の信頼性を比較する。S274において、カメラCPU104(第1の判定手段)がより信頼性の高い焦点検出結果を選択すると、S275に移行する。S275では、S247でカメラCPU104が選択したデフォーカス量をフォーカスレンズ駆動量に変換し、S276でメインフローにリターンする。
[実施例2の効果]
以上の実施例2においては、撮像素子101の焦点検出結果と撮像素子102の焦点検出結果を比較し、カメラCPU104(第1の判定手段)がより信頼性の高い結果を採用する。なお、本実施例で例示したように一方の結果を択一的に選択するのではなく、カメラCPU104が、焦点検出結果の信頼性の大小に基づいて、両方の焦点検出結果に重み付けを施し、新たなデフォーカス量を算出しても良い。
実施例2によれば、撮像装置に記憶された情報、例えばレンズ瞳距離PLとセンサ瞳距離PSの情報や、シェーディング補正情報の精度が不足しているような場合でも、カメラCPU104がより精度の高い焦点検出結果を選択することができる。
[実施例3]
実施例1及び実施例2においては、撮像素子101と撮像素子102はセンサ瞳距離PSのみが異なり、画素部の大きさや画素数は両撮像素子において同一であった。以下に示す実施例3は、撮像素子101は高画素静止画撮影を得るために画素数が多く、撮像素子101よりもフレームレートを高くすべく、画素数が相対的に少ない撮像素子302(第2の撮像素子)を有する撮像装置に本発明を適用したものである。
[撮像素子の構成]
図16は実施例3における、撮像素子101(第1の撮像素子)および撮像素子302(第2の撮像素子)の構成を説明する図である。同図(a)は撮像素子101の中央近傍における平面図、同図(b)は一つの画素部の断面図である。実施例3における撮像素子101は、実施例1において図2(a)及び(b)に示した第1の撮像素子と同じである。すなわち、撮像素子101が有する複数の画素部はそれぞれ撮像面上の水平方向(x)、垂直方向(y)共に4μmの大きさを有した正方形の画素部であり、これらの画素部の構造は実質的にすべて同じである。これらの画素部が水平方向に6000画素、垂直方向に4000画素配列された、有効画素数2400万画素の撮像素子で、撮像領域の大きさは水平方向に24mm、垂直方向に16mmとなる。各画素部にはRGBのカラーフィルタがモザイク状に配列されている。
図16(c)及び(d)は、撮像素子302の平面図と断面図である。撮像素子302は主として動画を撮影するための撮像素子である。個々の画素部は水平方向(x)、垂直方向(y)共に6μmの大きさを有し、これらの画素部が水平方向に3840画素、垂直方向に2160画素配列された、有効画素数830万画素のいわゆる4K動画用の撮像素子である。撮像領域の大きさは第1の撮像素子と同様の計算で求めることができ、水平方向に23.04mm、垂直方向に12.96mmとなる。各画素部には撮像素子101と同様にRGBのカラーフィルタがモザイク状に配列されている。
また、同図(b)及び(d)の比較でわかるように、撮像素子101と撮像素子302の断面における構造は同一であるが、各構成部材の寸法は異なる。その結果、撮像素子101と撮像素子302における一対の焦点検出瞳の大きさや基線長も異なる。
[センサ瞳距離]
図17は、撮影レンズ500の射出瞳と、2つの撮像素子における焦点検出瞳の関係を説明する図であり、実施例1の図4に対応する。撮影レンズ500は実施例1と同一のものとして説明する。図17(a)は撮像素子101の説明図であるが、実施例3における撮像素子101は実施例1における第1の撮像素子と同一構成、同一寸法のため、詳細説明は省略する。よって、第1の撮像素子101に関する種々の特性は、式1ないし式6がそのまま適用できる。
図17(b)は撮像素子302の説明図である。画素部3021は撮像面中央、すなわち像高x=0に配置された画素部、画素部3022は撮像面の端に近い場所、例えば像高x=10mmに配置された画素部である。画素部3021の主点3021pは該画素部が備えるマイクロレンズ3021cの光線屈折作用を考える上での基準位置であり、主点3021pを通って光軸に直交する面が撮像素子302の予定結像面、いわゆる撮像面IP3となる。
撮像面中央の画素部3021において、マイクロレンズ3021cの主点3021pと一対の光電変換部上面間の高さh3が画素部の高さである。そして、マイクロレンズ3021cの焦点が光電変換部3021a及び光電変換部3021bの上面と略一致するように、マイクロレンズ3021cの形状(光学パワー)が設定されている。よって、後述するセンサ瞳面SPL3上に、一対の光電変換部3021a及び3021bに対応する一対の逆投影像AP3a及びAP3bが形成され、これが焦点検出時の光束を規定する焦点検出瞳となる。
画素部3021はマイクロレンズ3021cの光軸と画素部の中心(一対の光電変換部の境界部中心)が一致している。しかし、撮像面IP3の端部に位置する画素部3022においては、マイクロレンズ3022cの光軸と画素部の中心が一致しておらず、撮影レンズの光軸寄りに所定量dx3だけ偏心している。そこで、画素部3022の主光線S32c(一対の光電変換部境界とマイクロレンズの主点を結ぶ線)は光軸に対して所定の角度ω3だけ傾斜することになり、撮像面IP3から所定距離だけ隔たった点CS3で光軸と交差する。この交点CS3をとおり光軸と直交する仮想面がセンサ瞳面SPL3、センサ瞳面SPL3と撮像面IP1の間の距離PS3がセンサ瞳距離PS3である。センサ瞳面上ではすべての画素部の焦点検出瞳が実質的に一致する。
撮像素子101の基線長は先に説明したように式1ないし式3で計算できるが、撮像素子302の基線長GP3や基線角度α31についても同様に計算でき、以下の式で表わされる。
GP3/PS3=GS3/h3 (式18)
GP3=GS3×(PS3/h3) (式19)
α31=GS3/h3=GP3/PS3 (式20)
また、撮像素子101のセンサ瞳距離PSは式4ないし式6で計算できたが、撮像素子302のセンサ瞳距離PS3も同様の方向で計算でき、以下の式のようになる。
X3/(PS3+h3)=dx3/h3 (式21)
PS3=X3×(h3/dx3) (式22)
dx3=h3×(X3/PS3) (式23)
ここで、X3は画素部3022のx座標、dx3はマイクロレンズ3022cの偏心量、PS3はセンサ瞳距離PSである。
画素部3022の画素構造や各部の寸法は、マイクロレンズの偏心量を除いて画素部3021と同一である。よって、センサ瞳面SPL3上には、一対の光電変換部3022a及び3022bに対応する一対の逆投影像が形成され、この逆投影像は画素部3021の光電変換部の逆投影像AP3a及びAP3bと実質的に同一となる。すなわち、任意の画素部において、式23が成り立つように当該画素部のマイクロレンズの偏心量を設定することにより、すべての画素部のセンサ瞳距離がセンサ瞳距離PS3となる。つまり、センサ瞳面上においてはすべての画素部の焦点検出瞳がAP3a及びAP3bに共通化される。
以上のように、実施例3の撮像装置が備える撮像素子101と撮像素子302は、画素部の構造は実質的に同じだが、画素部の平面寸法や高さ方向の寸法も異なり、焦点検出瞳の基線長やセンサ瞳距離PSも異なる。しかしながら実施例3においても、撮像面端部における主光線角度ωとセンサ瞳距離PSの大小関係は、
ω1>ω3 (式24)
PS1<PS3 (式25)
の関係が成り立っている。すなわち、撮像素子101と撮像素子302とではセンサ瞳距離PSが異なるようにマイクロレンズの偏心量が設定されている。
[撮影処理]
実施例3における撮影処理としては、実施例1あるいは実施例2で説明した撮影フローや焦点検出フローを適用することができる。
[実施例3の効果]
実施例1及び実施例2では撮像素子101と撮像素子102とで画素数が同じであったのに対し、本実施例では撮像素子302の画素数は撮像素子101の画素数よりも相対的に少ない。これにより、撮像素子302では撮像素子101と比較して、よりフレームレートの高い動画を撮影することができる。
本実施例では、実施例1及び実施例2で説明した撮影フローや焦点検出フローを適用することで、実施例1及び実施例2と同様の効果を得ることができる。
[実施例4]
実施例1、実施例2及び実施例3においては、2つの撮像素子が共に位相差検出のための信号を出力することが可能であった。これに対して、以下に示す実施例4は、2つの撮像素子のうち一方の撮像素子302(第2の撮像素子)のみが撮像面位相差検出のための信号を出力することができる撮像装置に本発明を適用した実施例である。なお、2つの撮像素子のうちもう一方である撮像素子401は実施例1における撮像素子101に対応しており、本実施例の撮像装置は実施例1におけるAFE114の代わりに、AFE116(第3の画像処理部)を有する。
[撮像素子の構成]
図18は実施例4における、撮像素子401(第3の撮像素子)および撮像素子302(第2の撮像素子)の構成を説明する図である。同図(a)は撮像素子101の中央近傍における平面図、同図(b)は一つの画素部の断面図である。実施例4における撮像素子401は、画素部の大きさや画素数は実施例1、実施例2及び実施例3に用いられる撮像素子101と同一であるが、画素部が備える光電変換部は各画素部に対して1個であり、位相差検出のための信号を取得しない。
図18(a)において、撮像素子401が有する複数の画素部はそれぞれ撮像面上の水平方向(x)、垂直方向(y)共に4μmの大きさを有した正方形の画素部であり、これらの画素部の構造は実質的にすべて同じである。これらの画素部が水平方向に6000画素部、垂直方向に4000画素配列された、有効画素数2400万画素の撮像素子で、撮像領域の大きさは水平方向に24mm、垂直方向に16mmとなる。各画素部にはRGBのカラーフィルタがモザイク状に配列されている。そして各画素部は、同図(b)に示すように単一の光電変換部401aを備える。
[センサ瞳距離]
図19は、撮影レンズ500の射出瞳と、2つの撮像素子における焦点検出瞳の関係を説明する図であり、実施例1の図4及び実施例3の図17に対応する。撮影レンズ500は実施例1と同一のものとして説明する。図19(a)は撮像素子401の説明図、同図(b)は撮像素子302の説明図であるが、実施例4における撮像素子302は実施例3における撮像素子302と同一構成、同一寸法のため、詳細説明は省略する。以下に、撮像素子401について説明する。
図19(a)において、画素部4011は撮像面中央、すなわち像高x=0に配置された画素部、画素部3022は撮像面の端に近い場所、例えば像高x=10mmに配置された画素部である。画素部4011の主点4011pは該画素部が備えるマイクロレンズ4011cの光線屈折作用を考える上での基準位置であり、主点4011pを通って光軸に直交する面が撮像素子401の予定結像面、すなわち撮像面IP4となる。
撮像面中央の画素部4011において、マイクロレンズ4011cの主点4011pと単一の光電変換部上面間の高さh4が画素部の高さである。そして、マイクロレンズ4011cの焦点が光電変換部4011aの上面と略一致するように、マイクロレンズ4011cの形状(光学パワー)が設定されている。よって、後述するセンサ瞳面SPL4上に、単一の光電変換部4011aに対応する単一の逆投影像AP4a及が形成され、これが撮像時の光束を規定する撮像瞳となる。
画素部4011はマイクロレンズ4011cの光軸と画素部の中心(単一の光電変換部の感度重心)が一致している。しかし、撮像面IP4の端部に位置する画素部4012においては、マイクロレンズ4012cの光軸と画素部の中心が一致しておらず、撮影レンズの光軸寄りに所定量dx4だけ偏心している。そこで、画素部4012の主光線S42c(単一の光電変換部の感度重心位置とマイクロレンズの主点を結ぶ線)は光軸に対して所定の角度ω4だけ傾斜することになり、撮像面IP4から所定距離だけ隔たった点CS4で光軸と交差する。この交点CS4をとおり光軸と直交する仮想面がセンサ瞳面SPL4、センサ瞳面SPL4と撮像面IP4の間の距離PS4がセンサ瞳距離PS4である。センサ瞳面上ではすべての画素部の撮像瞳が実質的に一致する。
撮像素子401の光電変換部は単一であり、かつ画素部の中心と光電変換部の感度中心も一致しているため、位相差検出のための瞳分割機能は有していない。ただし、センサ瞳距離は瞳分割機能を備えた撮像素子と同様の方法で規定できる。すなわち実施例1の撮像素子101のセンサ瞳距離PSは式4ないし式6で計算できたが、実施例4の撮像素子401のセンサ瞳距離PS4も同様の方向で計算でき、以下の式のようになる。
X4/(PS4+h4)=dx4/h4 (式26)
PS4=X4×(h4/dx4) (式27)
dx4=h4×(X4/PS4) (式28)
ここで、X4は画素部4012のx座標、dx4はマイクロレンズ4012cの偏心量、PS4はセンサ瞳距離PS4である。
画素部4012の画素構造や各部の寸法は、マイクロレンズの偏心量を除いて画素部4011と同一である。よって、センサ瞳面SPL4上には、単一の光電変換部4012aに対応する単一の逆投影像が形成され、この逆投影像は画素部4011の光電変換部の逆投影像AP4aと実質的に同一となる。すなわち、任意の画素部において、式28が成り立つように当該画素部のマイクロレンズの偏心量を設定することにより、すべての画素部のセンサ瞳距離がセンサ瞳距離PS4となり、センサ瞳面上においてはすべての画素部の撮像瞳がAP4aに共通化される。
以上のように、実施例4の撮像装置が備える撮像素子401は瞳分割機能を有さず、撮像素子302は瞳分割機能を有しており、両撮像素子のセンサ瞳距離PSが異なる。そして実施例4においても、撮像面端部における撮像素子401及び撮像素子302における主光線角度ω4とω3の大小関係は、
ω4>ω3 (式29)
となり、第1及び第2の撮像素子におけるセンサ瞳距離PS4とPS3の大小関係は、
PS4<PS3 (式30)
の関係が成り立っている。すなわち、撮像素子401と撮像素子302はセンサ瞳距離PSが異なるようにマイクロレンズの偏心量が設定されている。
[撮影処理]
実施例4における撮影処理の手順は、図12に示した実施例1のメインフローチャートに対して、S114の焦点検出1のサブルーチンとS134の焦点検出2のサブルーチンが異なり、その他のステップは実質的に同一である。よって、実施例1に対して異なるフローのみを説明する。
実施例4における、撮像素子401による静止画撮影時には、カメラCPU104が、図12のS101からS103及びS111等を経由し、S114で静止画撮影に適した焦点検出5のサブルーチンが実行する。図20(a)は実施例4における焦点検出5のサブルーチンフローであり、一連の制御内容をS414以降のステップで示している。
S414よりS451に移行すると、カメラCPU104が、非駆動状態にある動画用の撮像素子302を駆動し、動画用の撮像素子302で取得した信号から、焦点検出領域における一対の焦点検出信号(A像信号とB像信号)を生成するよう制御する。S452では、カメラCPU104が、シェーディング補正のためのルックアップデーブルから、焦点検出時のFナンバとレンズ瞳距離PLに対応する情報を読み出し、A像信号とB像信号にシェーディング補正を施す。次いで、式15の相間演算式を用いた相間演算により、A像信号とB像信号の位相差φ2と相間値の極小値C2を計算する。そして、所定のルックアップデーブルからデフォーカス量DEFを算出するための変換情報を読み出し、前述の式17を用いてデフォーカス量DEFを算出し、S453に移行する。
S453では、S452で得た焦点検出結果の信頼性を計算する。本実施例では、一例として、信頼性を図9で説明した相関値C(φ)から求める。すなわち、カメラCPU104(第2の判定手段)は、A像とB像の相関値の極小値がより小さいほど、あるいは極小値近傍の相関値曲線の傾きが大きいほど、焦点検出結果の信頼性が高いと判定する。具体的には、本実施例では、A像とB像の極小値を、第2所定値と比較する。または、極小値近傍の相関値曲線の傾きを、第3の所定値と比較する。ただし、判断の指標はこれに限定されず、その他の指標を用いることも可能である。S454では、S453で算出された信頼性の判定を行なう。信頼性が高いと判断された場合(相関値の極小値が第2の所定値以下である、又は、極小値近傍の相関値曲線の傾きが第3の所定値よりも大きい場合)はS455へ移行する。S455では、S452で算出されたデフォーカス量をフォーカスレンズ駆動量に変換し、S458でメインフローにリターンする。
S454でカメラCPU104(第2の判定手段)が焦点検出結果の信頼性が低い(相関値の極小値が第2の所定値より大きい、又は、極小値近傍の相関値曲線の傾きが第3の所定値以下である場合)と判断した場合は、S456に移行する。S456ではカメラCPU104がコントラストAFを行なうための情報を得る。すなわち、カメラCPU104は、焦点検出領域のA像とB像を加算した撮像信号における高周波成分を検出する。そして、カメラCPU104(第2の焦点検出手段)は、高周波成分の検出結果をもとに、コントラストAF用の評価値を算出する。そして、カメラCPU104は、算出した評価値を基にS457ではコントラストAFのためのフォーカスレンズスキャン指令をレンズCPU507に対して送信し、S458に移行してメインルーチンにリターンする。
なお、S454における信頼性の判定結果に応じて、撮像素子401と撮像素子302それぞれから取得した信号に基づく結果を重みづけして用いても良い。この場合、カメラCPU104(第2の判定手段)が焦点検出結果の信頼性が高いと判定した場合には、撮像素子302から取得した信号に基づく結果を撮像素子401から取得した信号に基づく結果よりも多く採用する(多く重みづけする)。また、カメラCPU104(第2の判定手段)が焦点検出結果の信頼性が低いと判定した場合には、撮像素子401から取得した信号に基づく結果を撮像素子302から取得した信号に基づく結果よりも多く採用する(多く重みづけする)。
実施例4における、撮像素子302による動画撮影時には、カメラCPU104は、図12のS101からS103及びS131等を経由し、S134で動画撮影に適した焦点検出6のサブルーチンを実行する。図20(b)は実施例4における焦点検出6のサブルーチンフローで、一連の制御内容をS434以降のステップで示している。
S434よりS471に移行すると、カメラCPU104は、動画撮影のために駆動している撮像素子302による焦点検出を行なう。S302の制御内容は図20(a)のS452と同一である。すなわち、カメラCPU104は撮像素子302で位相差式焦点検出を行ない、デフォーカス量を算出する。S472では、カメラCPU104は、S471で算出されたデフォーカス量をフォーカスレンズ駆動量に変換し、S473でメインフローにリターンする。
[実施例4の効果]
以上の実施例4においては、撮像素子401のセンサ瞳距離PSと撮像素子302のセンサ瞳距離PSとして、各々の撮像素子の使用目的に適したセンサ瞳距離PSが設定されており、両者は異なる値である。そして、主として動画撮影に用いられる撮像素子302のみが位相差検出のための瞳分割機能を備えている。そのために、静止画撮影時の焦点調節に際しては、まずは動画撮影用の撮像素子302を用いて位相差式焦点検出を行なう。そして、該焦点検出結果の信頼性が高い場合、は位相差検出結果を用いてフォーカスレンズを駆動する。一方、位相差式焦点検出結果の信頼性が低い場合は、コントラストAF(コントラスト検出方式の焦点調節)を行なう。その理由は、静止画撮影時にはフォーカスレンズの動作の影響を考慮しなくても良い一方、合焦精度が最も重要であるため、位相差式焦点検出結果の信頼性が低い場合には、より合焦精度の高いコントラストAFを実行する方が好ましいからである。また、コントラストAFは、A像信号とB像信号を加算した撮像信号を用いるため、レンズ瞳距離PLとセンサ瞳距離PSの乖離による焦点検出精度の低下は、位相差式焦点検出よりも軽微であるというメリットもある。
一方で、動画撮影時には位相差式焦点検出結果の信頼性判定は行なわず、常に位相差式の焦点調節を実行する。その理由は、動画撮影時のAFは精度とともに動作品位も重要であるため、合焦精度が多少低下すると予想されても動作品位の良い位相差AFを行なう方が好ましいからである。
すなわち、本実施例によれば、実施例1、実施例2及び実施例3と同様、2つの撮像素子間でセンサ瞳距離を異ならせることで、センサ瞳距離PSが同じである場合と比較して、より広い範囲でのレンズ瞳距離PLの変化に対応することができる。また、本実施例によれば、特性の異なる2つのAF方式(位相差AF及びコントラストAF)を状況に応じて用いることで、記録画像の画質を担保するとともに、より精度の高い焦点検出を行うことができる。
なお、本実施例の撮像素子402の画素部が備える光電変換部は各画素部に対して1個であるとして説明したが、撮像素子302のように、複数の光電変換部を有していても良い。この場合であっても、これまで本実施例で説明した効果と同様の効果を得ることができる。
[変形例]
先に説明した実施例1、実施例2、実施例3及び実施例4の各撮像素子において、位相差検出に供される各画素部はx方向に並置された一対の光電変換部を備え、撮影レンズの射出瞳をx方向に瞳分割し、被写体像のx方向の位相差を検出する実施形態であった。これに対して、撮像素子の各画素部を撮像面に沿ったx方向とy方向にm×n個の光電変換部で構成し、被写体像の明暗パターンの方向性に応じてx方向もしくはy方向のうちの所望の方向、もしくは両方向に対して位相差検出する構成とすることも可能である。また、焦点検出だけでなく、ライトフィールド情報を取得可能な撮像装置に適用しても、同様の効果を発揮する。
また、実施例1ないし実施例4の各撮像素子において、瞳分割機能を備えた撮像素子はすべての画素部が複数の光電変換部を有し、全画素部が位相差検出可能な構成になっていた。これに対して、撮像用画素部の一部を焦点検出用画素部に置き換えた撮像素子を用いてもよい。この場合、すべての画素部は単一の光電変換部を備え、撮像用画素部は撮影レンズの射出瞳の全域を通過する光束を受光し、焦点検出用画素部は射出瞳領域において光軸に対して偏心した一部の領域の光束を受光する。焦点検出用画素部は、例えば、光電変換部を部分的に遮光する遮光部を有することにより、射出瞳領域において光軸に対して偏心した一部の領域の光束を受光することが可能である。そして、焦点検出用画素部は、撮像用画素部の間に所定の配列パターンにより配列される。あるいは、全画素部の半数がA像信号取得用、残りの半数がB像信号取得用画素部であり、これらの画素部が交互に配置される構成でも構わない。
これまで説明したように、センサ瞳距離とレンズ瞳距離(射出瞳距離)の乖離が大きくなると、撮像素子の像高が高い位置にある画素部では像高が低い位置にある画素部と比較して、A像信号とB像信号のレベル差が大きくなる。このことから、すなわち、像高の低い位置にある画素部では像高が高い位置にある画素部と比較して、センサ瞳距離とレンズ瞳距離(射出瞳距離)の乖離によるA像信号とB像信号のレベル差が小さい。このことから、位相差検出に用いる信号を取得する画素部が位置する像高に応じて、2つの撮像素子のうちどちらの撮像素子を用いて焦点検出を行うかを異ならせても良い。
図21は変形例を説明する図である。図21において、Area0は撮像素子101あるいは撮像素子102の撮像範囲、Area1は撮像領域の周辺部、Area2は撮像領域の中央部である。そして、像高が所定の像高よりも高い位置、すなわちArea1にある画素部の信号を用いて位相差を検出する場合には、実施例1〜実施例4で説明したように、焦点検出に用いる信号を取得する撮像素子を選択する。一方、像高が所定の像高よりも低い位置、すなわちArea2にある画素部の信号を用いて焦点検出する場合には、焦点検出のための信号を取得するための撮像素子を選択するために別途基準を設け、当該基準に従って乖離がより大きい撮像素子を選択する場合があっても良い。一例として、他方の撮像素子よりもセンサ瞳距離とレンズ瞳距離との乖離が大きい撮像素子から記録画像信号を取得する場合に、所定の像高よりも低い位置の画素部の信号を用いて焦点検出する場合は、同じ撮像素子の信号を用いて焦点検出しても良い。この場合、両方の撮像素子を駆動する場合と比較して、消費電力が少なくなる。また、Area2の範囲は撮影レンズのFナンバ等に応じて変化させても良い。
これらの変形例において、各画素部が備えるマイクロレンズを実施例1、実施例2、実施例3及び実施例4で説明したように偏心させることで、2つの撮像素子間でセンサ瞳距離PSを異ならせ、各実施例と同様の効果を得ることができる。