以下、本発明の実施形態について、図面を参照して詳細に説明する。各実施形態では、レンズ装置を撮像装置の本体部に装着可能なカメラシステムを説明する。ただし、これに限定されるものではなく、レンズユニット(撮像光学系)とカメラ本体部とが一体的に構成された撮像装置にも本発明を適用可能である。また本実施形態はデジタルスチルカメラに限定されることなく、ビデオカメラ等の撮像装置にも適用可能である。
[第1実施形態]
まず、図1を参照して、本実施形態の撮像装置の構成について説明する。図1は、撮像装置10としてレンズ交換可能な一眼レフタイプのデジタルカメラを例示するブロック図である。撮像装置10は、交換レンズであるレンズユニット100と、カメラ本体部120とを備える。レンズユニット100は、図1に点線で示すマウントMを介して、カメラ本体部120に対し、着脱可能に取り付けられる。
レンズユニット100は、撮像光学系を構成する第1レンズ群101、絞り102、第2レンズ群103、および、フォーカスレンズ群(以下、単に「フォーカスレンズ」という)104と、駆動および制御系とを有する。レンズユニット100は被写体像を形成する撮影レンズ装置である。
第1レンズ群101は、レンズユニット100の前端部(被写体側の端部)に配置され、光軸方向(OA)に沿って進退可能に保持される。絞り102は、その開口径を調節することで撮影時の光量調節を行い、また静止画撮影時には露光秒時調節用シャッタとして機能する。絞り102および第2レンズ群103は、光軸方向(OA)に沿って一体的に移動可能であり、第1レンズ群101の進退動作との連動によりズーム機能を実現する。フォーカスレンズ104は、光軸方向(OA)に沿って移動可能である。フォーカスレンズ104の位置に応じてレンズユニット100の焦点調節制御、つまりフォーカス制御が行われ、被写体に焦点が合うときの合焦距離が変化する。
ズームアクチュエータ111は、ズーム駆動回路114により駆動され、第1レンズ群101と第2レンズ群103を光軸方向に移動させる。これにより、レンズユニット100の画角を変更するズーム動作が行われる。絞りシャッタアクチュエータ112は、絞りシャッタ駆動回路115により駆動され、絞り102の開口径の変更や開閉動作を行う。フォーカスアクチュエータ113は、フォーカス駆動回路116により駆動され、フォーカスレンズ104を光軸方向に移動させる。これにより、レンズユニット100のフォーカス制御が行われる。フォーカス駆動回路116は、フォーカスレンズ104の現在位置(レンズ位置)を検出する位置検出機能を有する。
レンズMPU(Micro Processing Unit)117は、レンズユニット100に係る全ての演算および制御を行うレンズ制御部である。レンズMPU117は、マウントMを通じてカメラMPU125と接続され、コマンドやデータを通信する。例えば、レンズMPU117はフォーカスレンズ104の位置検出情報を取得し、カメラMPU125からの要求に応じてレンズ位置情報を通知する。このレンズ位置情報は、フォーカスレンズ104の光軸方向における位置、撮像光学系の可動光学部材が移動していない状態での射出瞳の光軸方向における位置および直径、射出瞳の光束を制限するレンズ枠の光軸方向における位置および直径等の情報を含む。またレンズMPU117は、カメラMPU125からの制御指令にしたがってズーム駆動回路114、絞りシャッタ駆動回路115、フォーカス駆動回路116を制御する。
レンズメモリ118は、自動焦点調節(AF)制御に必要な光学情報を記憶している。カメラMPU125は、例えば内蔵の不揮発性メモリやレンズメモリ118に記憶されているプログラムを実行することにより、レンズユニット100の動作制御を行う。
カメラ本体部120は、光学的ローパスフィルタ121、撮像素子122、駆動および制御系を有する。第1レンズ群101、絞り102、第2レンズ群103、フォーカスレンズ104、および、光学的ローパスフィルタ121は、撮像光学系を構成する。光学的ローパスフィルタ121は、撮像画像の偽色やモアレを軽減する光学素子である。
撮像素子122は撮像部を構成し、レンズユニット100を介して形成された被写体像(光学像)を光電変換して、撮像信号および焦点検出信号を出力する。撮像素子122は、例えばCMOS(相補型金属酸化膜半導体)イメージセンサおよびその周辺回路で構成される。撮像素子122は瞳分割機能を有し、位相差検出方式の焦点検出(位相差AF)が可能な瞳分割画素を備える。
撮像素子駆動回路123は、撮像素子122の動作を制御するとともに、撮像素子122から出力された画像信号をA/D(アナログ/デジタル)変換し、カメラMPU125と画像処理回路124に送信する。
画像処理回路124は、撮像素子122から出力される画像信号を取得して、γ変換、ホワイトバランス調整処理、色補間処理、圧縮符号化処理等、デジタルカメラで行われる一般的な画像処理を行う。画像処理回路124は取得した画像信号に基づいて、位相差AF用のデータと、表示用、記録用、およびコントラストAF(TVAF)用の各画像データを生成する。
カメラMPU125は、カメラシステム全体の演算および制御を行う制御中枢部である。カメラMPU125は、撮像素子駆動回路123、画像処理回路124、表示部126、操作部127、メモリ128、位相差AF部129、TVAF部130を制御する。カメラMPU125は、マウントMの信号線を介してレンズMPU117と接続され、レンズMPU117とコマンドやデータを通信する。カメラMPU125は、レンズMPU117に対して、レンズ位置の取得や所定の駆動量でのレンズ駆動要求を発行し、また、レンズユニット100に固有の光学情報の取得要求等を発行する。
カメラMPU125は、ROM125a、RAM125b、EEPROM125cを内蔵している。ROM(Read-Only Memory)125aは、カメラ本体部120の動作を制御するプログラムを記憶している。RAM125b(Random Access Memory)は変数値等のデータを記憶するメモリである。EEPROM(Electrically Erasable Programmable Read-Only Memory)125cは各種のパラメータを記憶する。カメラMPU125は、ROM125aに格納されているプログラムに基づいて焦点検出処理を実行する。焦点検出処理では、撮像光学系の異なる瞳部分領域をそれぞれ通過した光束により形成される光学像を光電変換した一対の像信号を用いて相関演算処理が実行される。
表示部126はLCD(液晶表示装置)等を備え、撮像装置10の撮影モードに関する情報、撮影前のプレビュー画像と撮影後の確認用画像、焦点検出時の合焦状態の表示画像等を表示する。操作部127は、電源スイッチ、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、撮影モード選択スイッチ等を備える。メモリ128は、例えば着脱可能なフラッシュメモリであり、撮影画像データ等を記録する。
位相差AF部129は撮像面位相差方式の焦点検出を行う。つまり位相差AF部129は、撮像素子122および画像処理回路124により得られる焦点検出用の像信号に基づいて、位相差方式で焦点検出処理を行う。具体的には、画像処理回路124は、撮像光学系の一対の瞳部分領域を通過する光から形成される一対の像データを焦点検出用データとして生成する。位相差AF部129は、一対の像データの像ずれ量に基づいて焦点ずれ量を検出する。本実施形態では、専用のAFセンサを用いず、撮像素子122の出力に基づく撮像面位相差AFが行われる。位相差AF部129は、取得部129aおよび算出部129bを有する。これらの動作については後述する。なお、取得部129aまたは算出部129bについてはカメラMPU125に設けてもよい。
TVAF部130は、画像処理回路124により生成されるTVAF用評価値に基づいて、コントラスト検出方式の焦点検出処理を行う。TVAF用評価値は画像データのコントラスト情報に基づく評価値である。コントラスト検出方式の焦点検出処理では、フォーカスレンズ104が移動して、評価値がピーク値となるフォーカスレンズ位置が合焦位置として検出される。
このように撮像装置10は、撮像面位相差AFとTVAFとを組み合わせて実行可能である。状況に応じて、撮像面位相差AFとTVAFを選択的に使用し、または、両方法を組み合わせて使用することができる。位相差AF部129およびTVAF部130は、各々の焦点検出結果のデータを用いて、フォーカスレンズ104の位置を制御するフォーカス制御手段を構成する。
次に図2を参照して、位相差AF部129の動作について説明する。図2(A)は、本実施形態における撮像素子122の画素配列図である。横方向をX方向とし、縦方向をY方向と定義する。図2(A)は、2次元CMOSエリアセンサのY方向6行およびX方向8列の範囲を、レンズユニット100側から観察した状態を示す。撮像素子122には、ベイヤー配列のカラーフィルタが設けられている。奇数行の画素部には、左から順に緑(G)と赤(R)のカラーフィルタが交互に配置され、偶数行の画素部には、左から順に青(B)と緑(G)のカラーフィルタが交互に配置されている。画素部211において、オンチップマイクロレンズ211iを円形枠で示す。オンチップマイクロレンズ211iの内側に配置された複数の矩形枠は、第1光電変換部211aと第2光電変換部211bを示す。
撮像素子122における全ての画素部211はX方向に2分割され、その一方の光電変換部(211aまたは211b)による光電変換信号、および、2つの光電変換信号の和は、独立して読み出し可能である。以下では、第1光電変換部211aの出力に基づく像をA像といい、第2光電変換部211bの出力に基づく像をB像という。光電変換部211aおよび211bの出力に基づく像をA+B像という。
カメラMPU125は、A+B像に係る光電変換信号から、第1光電変換部211aによる光電変換信号を減算し、B像に係る光電変換信号を取得する。つまり、第2光電変換部211bによる光電変換信号に基づくB像信号を得ることができる。カメラMPU125は上記一連の処理を行い、第1光電変換部によるA像信号を取得し、第2光電変換部によるB像信号を取得する。A像信号およびB像信号から位相差AF用のデータを算出することができる。またA像信号およびB像信号は、3D(3-Dimensional)画像、つまり立体視画像を構成するための視差を有する画像(視差画像)の生成に用いることができる。この場合、画像生成部は視点の異なる複数の画像からなる視差画像のデータを生成する。また、2つの光電変換部の信号の和から得られるA+B像のデータは、通常の撮像画像データとして用いることができる。
ここで、位相差AFを行う場合の画素信号について説明する。本実施形態では、図2に示すマイクロレンズ211iと、2分割された光電変換部211a,211bによって、撮像光学系の射出光束を瞳分割する。光電変換部211a,211bは瞳分割画素を構成する。同一画素行に配置された所定範囲内の複数の画素部211において、第1光電変換部211aの出力をつなぎ合わせて編成した像をAF用A像とする。同様に、第2光電変換部211bの出力をつなぎ合わせて編成した像をAF用B像とする。
光電変換部211a,211bの出力としては、カラーフィルタの単位配列に含まれる、ベイヤー配列の緑、赤、青、緑の出力を加算して算出された疑似的な輝度(Y)信号が用いられる。ただし、赤、青、緑の色ごとに、AF用A像とB像を編成してもよい。このように生成されたAF用A像とAF用B像との相対的な像ずれ量が相関演算により算出される。この像ずれ量に基づいて、所定領域の焦点ずれ量、すなわちデフォーカス量を算出することができる。
本実施形態では、2つの光電変換部のうちの一方の出力、および、両方の光電変換部の出力を撮像素子122から読み出す処理が行われる。AF用A像とAF用B像の一方は、撮像素子122から出力されないが、前述のように、A像出力とB像出力の和が出力される。よって、和信号(A+B像信号)と一方の出力信号との差分から、他方の信号を取得して焦点検出を行うことができる。なお、撮像素子122の構造については公知であるため、その詳細な説明を省略する。
図2(B)は、撮像素子122の読み出し回路の構成図である。読み出し回路は水平走査回路151と、垂直走査回路153を有する。各画素部の境界部には、水平走査ライン152a,152bと、垂直走査ライン154a,154bがそれぞれ配線されている。光電変換部211a,211bからの各信号は、これらの走査ラインを介して外部に読み出される。
撮像素子122は、画素部内の読み出しに加えて、以下の2種類の読み出しモードを有する。第1の読み出しモードは全画素読み出しモードと称し、高精細の静止画像を取得するためのモードである。第1の読み出しモードでは、全画素の信号が読み出される。一方、第2の読み出しモードは間引き読み出しモードと称し、動画像の記録またはプレビュー画像の表示を行うためのモードである。第2の読み出しモードでは、必要な画素数が全画素数よりも少ない。つまり全画素のうちX方向およびY方向ともに所定比率で間引いた画素のみが読み出される。また、高速な読み出しが必要である場合に、間引き読み出しモードが用いられる。X方向の間引き読み出しの際には、信号の加算を行ってS/N(信号対ノイズ)比を改善することができる。また、Y方向の間引き読み出しの際には、間引かれる行の信号出力が無視され、使用されない。通常、第2の読み出しモードで位相差AFまたはTVAFの処理(自動焦点検出および焦点調節)が行われる。
次に、図3および図4を参照して、位相差検出方式の焦点検出処理について説明する。図3は位相差検出方式の焦点検出処理を説明する模式図である。図4はA像信号およびB像信号を示すグラフである。
図3を参照して、撮像素子122におけるピント(焦点位置)と位相差との関係について説明する。図3(A)は、被写体に焦点が合っている場合、つまり合焦状態におけるレンズユニット100、被写体300、光軸301、および、撮像素子122の位置関係と、光束を示している。図3(B)は、被写体に焦点が合っていない非合焦状態における各部の位置関係と光束を示している。図3には、図2(A)に示される撮像素子122を断面方向から見た場合の状態で示す。
撮像素子122の各画素部にはマイクロレンズ211iが設けられている。フォトダイオードにより構成される光電変換部211a,211bは、同一のマイクロレンズ211iを通過した光を受光する。光電変換部211a,211bには、位相差を有する、互いに異なる像の光が入射される。図3では第1光電変換部をAで表記し、第2光電変換部をBで表記している。
撮像素子122は、1つのマイクロレンズ211iに対して第1光電変換部および第2光電変換部を有し、多数のマイクロレンズ211iが2次元状に配列されている。なお本実施形態では、1つのマイクロレンズ211iに対して2つの光電変換部211a,211bが配置されている例を説明するが、これに限定されるものではない。例えば、1つのマイクロレンズに対して、4つの光電変換部を有する構成、つまり上下方向および左右方向のそれぞれに2つのフォトダイオードを配置した構成でもよい。複数のフォトダイオードが、1つのマイクロレンズ211iを共有して、上下方向または左右方向の少なくとも一方に複数配置される構成であればよい。
図3に示すレンズユニット100は、第1レンズ群101、第2レンズ群103、および、フォーカスレンズ104を併せて1つのレンズと考えた場合の等価的な撮像レンズである。被写体300から発した光は、光軸301を中心として、レンズユニット100の各領域を通過し、撮像素子122に結像する。ここでは、射出瞳の位置と撮像レンズの中心位置を同一としている。
このような構成は、撮像光学系を第1光電変換部から見た場合と第2光電変換部から見た場合とで、撮像光学系の瞳領域が対称に分割された構成と等価である。換言すると、撮像光学系からの光束が2つの光束に分割された、いわゆる瞳分割の構成となっており、分割された光束が第1および第2光電変換部にそれぞれ入射する。第1および第2光電変換部は、撮像光学系の射出瞳のうち、異なる瞳部分領域を通過する光をそれぞれ受光して光電変換を行い、焦点検出画素として機能する。また、第1および第2光電変換部は、互いの信号を加算(合算または合成)することにより、撮像画素としても機能する。
被写体300上の特定点からの光束は光束ΦLaと光束ΦLbに分割される。光束ΦLaは、第1光電変換部211aに対応する第1瞳部分領域を通過して第1光電変換部に入射する。光束ΦLbは、第2光電変換部211bに対応する瞳部分領域を通過して第2光電変換部に入射する。2つの光束ΦLaとΦLbは、被写体300上の同一点から入射している。そのため、撮像光学系の合焦状態、つまり被写体300に焦点が合った状態では、図3(A)に示されるように、同一のマイクロレンズ211iを通過して撮像素子122上の1点に到達する。したがって、第1および第2光電変換部からそれぞれ得られる像信号は、互いに一致する。
一方、図3(B)は、結像位置と撮像素子122とが、光軸方向においてYだけずれている非合焦状態を示す。非合焦状態では、光束ΦLa,ΦLbの、マイクロレンズ211iへの入射角の変化分だけ、撮像面において光束ΦLa,ΦLbの到達位置が、光軸301と垂直な方向に互いにずれる。したがって、第1および第2光電変換部からそれぞれ得られる像信号には位相差が生じる。第1光電変換部211aは被写体像を光電変換して第1信号を生成し、第2光電変換部211bは被写体像を光電変換して第2信号を生成する。被写体像から生成される、位相差を有する第1信号および第2信号は、撮像素子122の外部へ出力され、焦点検出に用いられる。
撮像素子122は、前述のように、第1信号を焦点検出信号として独立して読み出すとともに、第1光電変換部と第2光電変換部との各信号を加算(合算または合成)した撮像信号を読み出す。第1信号がA像信号に対応し、第2信号がB像信号に対応する。第1および第2光電変換部の各信号を加算した信号は、加算画像であるIMG像の信号に対応する。
本実施形態では、1つのマイクロレンズに対して複数の光電変換部が配置され、瞳分割された光束が各光電変換部に入射される構成を示したが、これに限定されない。例えば、焦点検出画素の構成として、マイクロレンズに対して1つのフォトダイオードを有し、遮光層により左右または上下方向にて遮光することで瞳分割を行う構成がある。また、複数の撮像画素の配列の中に一対の焦点検出画素を離散的に配置し、その一対の焦点検出画素からA像信号およびB像信号を取得する構成がある。
位相差AF部129は、取得部129aが取得したA像信号とB像信号を用いて焦点検出を行う。図4(A)は、図3(A)に示す合焦状態におけるA像信号とB像信号の強度分布を示すグラフである。図4(A)にて、横軸は画素位置を表し、縦軸は出力信号の強度を表す。合焦状態にてA像信号とB像信号とは互いに一致する。
図4(B)は、図3(B)に示す非合焦状態におけるA像信号とB像信号の強度分布を示すグラフである。横軸と縦軸の設定は図4(A)と同じである。非合焦状態にてA像とB像は、前述した理由により位相差を有し、強度のピーク位置が互いにずれている。図中にずれ量Xを示す。位相差AF部129の算出部129bは、撮像画像のフレームごとにずれ量Xを算出し、算出したずれ量Xを用いて所定の演算処理を行うことにより、焦点ずれ量、すなわち図3(B)に示すY値を算出する。位相差AF部129は、算出したY値をカメラMPU125に出力する。カメラMPU125はY値に基づく制御信号を、レンズMPU117を介してフォーカス駆動回路116に出力する。
フォーカス駆動回路116は、制御信号の示すY値に基づいて、フォーカスレンズ104の移動量を算出し、フォーカスアクチュエータ113に駆動信号を出力する。フォーカスレンズ104は、フォーカスアクチュエータ113によって、所定の被写体に焦点が合う合焦位置まで移動する。こうして合焦状態が実現される。
図5を参照して、相関演算について説明する。図5は、相関演算の説明図である。図5(A)は、画素の水平方向の位置(水平画素位置)を横軸にとり、水平画素位置に対するA像信号およびB像信号のレベル(強度)を縦軸にとって、複数のグラフを示す。図5(A)は、A像信号の位置がシフト量の範囲(-S~+S)内でシフトした場合の複数のグラフを示している。ここでは、A像信号を左にシフトさせる場合のシフト量の符号をマイナスとし、A像信号を右にシフトさせる場合のシフト量の符号をプラスとしている。各位置に対応するA像信号とB像信号との差の絶対値が算出され、各画素位置の絶対値を加算した値が1行分の相関値(相関量または相関データ)として算出される。各行で算出された相関値を、各シフト量において、複数行に亘って加算してもよい。
図5(B)は、図5(A)の例において、各シフト量に対して算出される相関値を示すグラフである。図5(B)にて横軸はシフト量を表し、縦軸は相関データを表す。図5(A)に示される例において「シフト量=X」は、A像信号とB像信号とが互いに重なる焦点位置に対応するシフト量となっている。図5(B)に示されるように、「シフト量=X」の場合に相関値が最小値となる。つまり、相関値が最小値となるシフト量を算出することができる。なお、本実施形態に適用可能な相関値の算出方法は、これに限定されない。A像とB像の各データの相関を示す算出方法であれば、如何なる方法でも適用可能である。
図6を参照して焦点検出について説明する。図6は、本実施形態における焦点検出のメインフローチャートである。図6の各ステップに示す処理は、カメラMPU125の指令に基づいて、主に、位相差AF部129、フォーカスアクチュエータ113、フォーカス駆動回路116、レンズMPU117により実行される。
S601にて位相差AF部129は、撮像素子122の有効画素領域の中から焦点検出を行う対象となる焦点検出領域を設定する。続いてS602で位相差AF部129は焦点検出信号を取得する。つまり、撮像素子122から第1光電変換部211aによる第1信号(A像信号)と第2光電変換部211bによる第2信号(B像信号)が取得される。S603で位相差AF部129は、A像信号およびB像信号のそれぞれに対してシェーディング補正処理(光学補正処理)を行う。位相差検出方式の焦点検出では、A像とB像との相関値(信号の一致度)に基づいて焦点状態が検出される。シェーディングの発生によりA像信号とB像信号との相関が低下する可能性がある。A像とB像との相関を改善して焦点検出を良好に行うために、シェーディング補正処理が実行される。
S604で位相差AF部129は、A像信号とB像信号のそれぞれに対して信号補正処理を行う。信号補正処理の詳細については、図9を参照して後述する。S605で位相差AF部129は、A像信号とB像信号のそれぞれに対してフィルタ処理を行う。一般に位相差検出方式の焦点検出は、デフォーカス量が相対的に大きい状態(大デフォーカス状態)で行われるため、フィルタ処理の通過帯域が低周波帯域を含むようにフィルタが構成される。ただし、必要に応じて、大デフォーカス状態から小デフォーカス状態まで焦点調節を行う際、デフォーカス状態に応じて、焦点検出の際のフィルタ処理の通過帯域を高周波帯域側に調整してもよい。
S606で位相差AF部129内の算出部129bは、フィルタ処理後のA像信号とB像信号に対して相関演算を行い、信号の一致度を表す相関値(A像とB像との相関演算結果)を算出する。S607で算出部129bは、S606にて算出された相関値に基づいてデフォーカス量を算出する。具体的には、位相差AF部129は、サブピクセル演算により、相関値が最小値となるシフト量に基づいて像ずれ量Xを算出する。そして位相差AF部129は、像ずれ量Xに対して変換係数を乗算してデフォーカス量を算出する。変換係数は、焦点検出領域の像高と、絞り102のF値(絞り値)と、レンズユニット100の射出瞳距離に応じて決定される。以上で、焦点検出処理を終了する。
図7を参照して、A像とB像のランダムノイズ、およびランダムノイズを含むA像とB像から算出される相関値の概念を説明する。図7(A)は、A像とB像のランダムノイズの説明図である。A像信号およびB像信号はそれぞれ、画素ごとのノイズを含んでいる。図7(A)において、横軸方向に画素位置を表し、縦軸方向に出力信号の強度を表す。A像およびB像のそれぞれを分かりやすく示すため、便宜上、A像とB像の基準位置を上下方向に互いにずらして表示している。
図7(A)に示される画素ごとのノイズは、A像およびB像にランダムで生じるランダムノイズである。同一の画素に関して、A像およびB像の出力信号の強度は異なる。そのため、A像とB像とで相関関係のないノイズとなる。
図7(B)は、図7(A)のA像およびB像の各出力信号の強度に対して算出される相関値をグラフで示している。図7(B)において、横軸はシフト量を表し、縦軸は相関値(相関データ)を表している。相関値がシフト量の変化に対して不規則に変化し、ばらついていることが分かる。
このように、A像およびB像に生じるランダムノイズは、相関値のばらつきの原因となり、複数の極小値および極大値を持ち、像ずれ量Xの算出精度を低下させる。そのため、高精度な焦点検出を行うためには、ランダムノイズの低減が必要である。
次に図8を参照して、IMG像からA像を減算してB像に相当する信号を求めたことに起因するノイズ(逆相関ノイズ)に関して説明する。図8は逆相関ノイズおよび相関値の説明図である。図8(A)は、IMG像からA像を減算してB像に相当する信号を求めたことに起因するノイズを示す。横軸方向に画素位置を表し、縦軸方向に出力信号の強度を表す。A像とB像をそれぞれ示すため、便宜上、A像とB像の基準位置を上下方向にずらして表示している。
加算画像であるIMG像とA像から、B像を生成して相関演算を行う場合、A像に重畳されるランダムノイズ量の符号が反転されたランダムノイズ量が、B像に重畳される。A像が極大値となる位置でB像は極小値をとり、A像とB像とは逆相のノイズとなる。このため、シフト量がゼロである場合のA像信号とB像信号との一致度は低くなり、シフト量=0の位置で相関値に大きな極大値が生じる。
図8(B)は相関値のグラフを示し、横軸はシフト量を表し、縦軸は相関値(相関データ)を表す。シフト量がゼロである場合、他のシフト量と比較して相関量が大きく算出され、シフト量=0の位置で極大値が生じている。
このように、A像およびB像に生じる逆相関ノイズは、相関値に極大値を生じさせ、像ずれ量Xの算出精度を低下させる。高精度な焦点検出を行うためには、逆相関ノイズの低減が必要である。そこで本実施形態では、A像およびB像に生じるノイズを補正によって低減させ、補正された信号を用いて相関値を算出する。これにより、A像およびB像に生じるノイズの影響を除去または低減させ、像ずれ量Xの算出精度を低下させることなく、高精度な焦点検出を行うことができる。
図9から図13を参照して、本実施形態における信号補正(図6のS604)について説明する。図9は信号補正を説明するフローチャートであり、各ステップに示す処理は、主にカメラMPU125および位相差AF部129により実行される。図10および図11は、図9の各ステップでの信号状態の説明図であり、横軸は画素位置を表し、縦軸は信号値を表している。図12および図13は、A像とIMG像の符号および大小関係に関する信号補正の詳細な説明図である。
図9のS901でカメラMPU125は、図6のS603にてシェーディング補正された第1信号、つまりA像に対応する焦点検出信号を取得する。S902にてカメラMPU125は、シェーディング補正された第2信号、つまりB像に対応する焦点検出信号を取得する。S901、S902で取得された焦点検出信号は、被写体信号にノイズが重畳されている状態である。図10および図11を参照して具体例を説明する。
図10(A)はノイズ成分が重畳されていない状態の被写体信号を示す。図10(B)はノイズ成分が重畳されたIMG像信号を示し、図10(C)はノイズ成分が重畳されたA像信号とB像信号をそれぞれ示す。これらは、被写体信号に対して、図7のランダムノイズと、図8の逆相関ノイズが重畳された信号を示す。このように、A像信号およびB像信号に、ランダムノイズと逆相関ノイズを多く含む場合、相関演算結果に複数の極小値(極小点)および極大値(極大点)が生じ、高精度な焦点検出を行うことができない。
図9のS903でカメラMPU125は補正に用いる第1基準信号を算出し、S904で第2基準信号を算出する。第1基準信号、第2基準信号は、図11(A)に示す通りである。これらの基準信号のレベルは撮像素子の出力の黒レベルであり、メモリ128に記憶されている一定値である。本実施形態では、黒レベルを一定値として記憶している例を説明するが、これに限定されることなく、画素ごとの固定パターンノイズを考慮した画素ごとに異なる値をレベル値として記憶してもよい。また、本実施形態では、メモリに記憶されたレベル値を取得して基準信号としているが、黒レベル補正用に取得された画像信号等から黒レベルを算出して基準信号としてもよい。また、取得された焦点検出信号の最小値に所定値(ノイズばらつき量等)を加算した値や、下位の複数の値から求めた平均値や中間値を用いて基準信号を生成してもよい。本実施形態では、A像およびB像に対して共通の基準信号を用いるが、A像、B像それぞれに対して個別の基準信号を算出してもよい。
続いてS905でカメラMPU125は、S901にて取得した第1信号と、S903にて取得した第1基準信号との差分から第1補正信号を算出する。同様にして、S906でカメラMPU125は、S902にて取得した第2信号と、S904にて取得した第2基準信号の差分から第2補正信号を算出する。図11(B)は第1補正信号と第2補正信号を例示する。これらの信号は、図10(C)に示す信号から図11(A)に示す信号を減算した信号である。
S907~S910において第1補正が行われ、S911~S914において第2補正が行われる。第1補正信号、第2補正信号はいずれも、焦点検出信号から基準信号(ノイズのばらつき中心値)を減算した信号である。そのため、補正信号の値が正値の場合には、被写体信号の成分を含んでいる可能性があるが、負値の場合には、ノイズだけであるといえる。つまり、第1補正信号、第2補正信号の値が負値である場合、それらは少なくともノイズ成分であることが判定でき、負のノイズを検出することが可能である。また、A像のノイズはB像において反転して重畳されている。そのため、A像で検出された負のノイズはB像に正のノイズとして重畳され、B像で検出された負のノイズはA像に正のノイズとして重畳されているといえる。そこで第1補正では、A像で検出された負のノイズ成分をB像に加算することでB像の正のノイズを除去または低減させる処理が行われる。またB像で検出された負のノイズ成分をA像に加算することでA像の正のノイズを除去または低減させる処理が行われる。
具体的には、S907にてカメラMPU125は、第1補正信号の値を第1の閾値と比較する。第1の閾値は、例えばゼロである。カメラMPU125は第1補正信号の値が負値かどうかを判定し、負値の場合にS908の処理へ進み、負値でない場合にはS909へ処理を進める。S908でカメラMPU125は、第2信号に第1補正信号を加算することで第2信号に対する第1補正を行う。そしてS909に進む。
S909にてカメラMPU125は、第2補正信号の値を第2の閾値と比較する。第2の閾値は、例えばゼロである。カメラMPU125は第2補正信号の値が負値かどうかを判定し、負値の場合にS910の処理へ進み、負値でない場合にはS911へ処理を進める。S910でカメラMPU125は、第1信号に第2補正信号を加算することで第1信号に対する第1補正を行う。図11(C)は、第1補正後の第1信号(A像)および第2信号(B像)を例示する。図10(C)に示す補正前の第1信号(A像)と第2信号(B像)と比べて、ノイズが低減できていることがわかる。
さらに、第1補正後の第1信号(A像)と第2信号(B像)が基準信号(ノイズのばらつき中心値)よりも小さい場合、それらはノイズ成分であると判定できる。そのため、第2補正では、第1信号(A像)と第2信号(B像)ともに基準信号よりも小さい場合、第1信号および第2信号を基準信号とすることで、ノイズを除去する処理が実行される。
具体的には、S911にてカメラMPU125は、第1信号が第1基準信号(例えば信号値ゼロ)よりも小さいかどうかを判定する。第1信号が第1基準信号よりも小さい場合にはS912の処理へ進み、第1信号が第1基準信号よりも小さくない場合にはS913へ処理を進める。S912にてカメラMPU125は、第1信号として第1基準信号を用いることで第1信号に対する第2補正を行う。そしてS913に進む。
S913にてカメラMPU125は、第2信号が第2基準信号(例えば信号値ゼロ)よりも小さいかどうかを判定する。第2信号が第2基準信号よりも小さい場合にS914の処理へ進み、第2信号が第2基準信号よりも小さくない場合には信号補正を終了する。S914にてカメラMPU125は、第2信号として第2基準信号を用いることで第2信号に対する第2補正を行う。図11(D)は、第2補正後の第1信号(A像)と第2信号(B像)を例示する。図11(C)に示す第1補正後の第1信号(A像)と第2信号(B像)と比べて、負のノイズが除去できていることがわかる。
図12および図13を参照して、A像とIMG像の符号および大小関係に関し、信号補正を詳細に説明する。ここでは簡単のために、基準信号のレベルをゼロとする場合を例にして説明する。つまりデータ値が正値の場合には、被写体信号の成分を含んでいる可能性があるが、データ値が負値の場合には、それはノイズ成分であるといえる。
図12および図13に示す棒グラフはA像、B像、IMG像の各データ値を示す。左側から順に、取得されたA像、IMG像と、B像生成後のA像、B像と、第1補正後のA像、B像と、第2補正後のA像、B像をそれぞれ表している。また図中に示すSa、Sb(=Simg-Sa)、SimgはそれぞれA像、B像、IMG像の被写体信号を表しており、Na、NimgはそれぞれA像、IMG像のノイズを表している。
図12(A)は、A像とIMG像の符号および大小関係が、0<A<IMGである場合の信号補正の例を示す。図12(A)では、A像、IMG像の各データがいずれも正値であるため、取得されたA像とIMG像は以下の様に表される。
A=Sa+Na
IMG=Simg+Nimg
B像のデータは、IMG像のデータからA像のデータを減算することにより生成される。生成されたB像は以下の様に表される。
B=IMG-A
=Simg+Nimg-(Sa+Na)
=Sb+Nimg-Na
この場合、第1補正に関しては、A像、B像ともにデータが正値であるため、補正は実施されない。同様に第2補正に関しても、A像、B像ともにデータに正値であるため、補正は実施されない。このように、0<A<IMGである場合には、A像とB像のデータともに被写体信号の成分を含んでいる可能性があるため、補正は実施されない。つまり、各データから被写体信号の成分が除去されることはない。
図12(B)は、A像とIMG像の符号および大小関係が、0<IMG<Aである場合の信号補正の例を示す。図12(B)では、A像とIMG像の各データがいずれも正値であるため、取得されたA像とIMG像のデータは以下の様に表される。
A=Sa+Na
IMG=Simg+Nimg
B像のデータは、IMG像のデータからA像のデータを減算することにより生成される。生成されたB像は以下の様に表される。
B=IMG-A
=Simg+Nimg-(Sa+Na)
=Sb+Nimg-Na
この場合、第1補正では、B像のデータが負値であるため、A像に対して第1補正が実施される。また、B像のデータが負値であることから、B像の被写体信号Sb=0となるので、上式からSa=Simgとなる。補正後のA像は以下の様に表される。
A=Sa+Na+B
=Sa+Na+Nimg-Na
=Sa+Nimg
第2補正では、B像のデータが負値、つまり基準信号より小さいので、B像に対して第2補正が実施される。補正後のB像は以下の様に表される。
B=0
このように、0<IMG<Aである場合には、被写体信号の成分を含んでいる可能性があるA像については当該成分が除去されることはなく、A像のノイズNaが除去される。つまり、ノイズの削減処理が行われる。
図12(C)は、A像とIMG像の符号および大小関係が、A<0<IMGである場合の信号補正の例を示す。図12(C)では、A像のデータが負値であって、IMG像のデータが正値である。そのため、取得されたA像とIMG像は以下の様に表される。
A=Na (Sa=0、Sb=Simg)
IMG=Simg+Nimg
IMG像のデータからA像のデータを減算して生成されるB像は以下の様に表される。
B=IMG-A
=Simg+Nimg-Na
=Sb+Nimg-Na
この場合、第1補正では、A像のデータが負値であるため、B像に対して第1補正が実施される。補正後のB像は以下の様に表される。
B=Sb+Nimg-Na+A
=Sb+Nimg-Na+Na
=Sb+Nimg
第2補正では、A像のデータが負値、つまり第1基準信号より小さいので、A像に対して第2補正が実施される。補正後のA像は以下の様に表される。
A=0
このように、A<0<IMGである場合には、被写体信号の成分を含んでいる可能性があるB像について当該成分が除去されることはなく、A像のノイズNaが除去される。
図13(A)は、A像とIMG像の符号および大小関係が、IMG<0<Aである場合の信号補正の例を示す。図13(A)では、A像のデータが正値であって、IMG像のデータが負値であるため、Simg=0である。IMG像のデータはA像とB像の各データの加算により算出されるので、Simg=0の場合には、Sa=Sb=0となる。よって取得されたA像とIMG像は以下の様に表される。
A=Na (Sa=0)
IMG=Nimg (Simg=0)
IMG像のデータからA像のデータを減算することにより生成されるB像は以下の様に表される。
B=IMG-A
=Nimg-Na
この場合、第1補正では、B像のデータが負値であるため、A像に対して第1補正が実施される。補正後のA像は以下の様に表される。
A=Na+B
=Na+Nimg-Na
=Nimg
第2補正では、A像とB像の各データがともに負値、つまり基準信号より小さいので、A像とB像に対して第2補正が実施される。補正後のA像とB像は以下の様に表される。
A=0
B=0
このように、IMG<0<Aである場合には、A像、B像ともに被写体信号の成分を含んでいる可能性がなく、いずれもノイズ成分だけをもつ。よって、ノイズNa、Nimgの両方が除去される。
図13(B)は、A像とIMG像の符号および大小関係が、A<IMG<0である場合の信号補正の例を示す。図13(B)では、A像とIMG像の各データがともに負値であるため、Sa=Simg=0である。よって、取得されたA像とIMG像は以下の様に表される。
A=Na (Sa=0)
IMG=Nimg (Simg=0)
IMG像のデータからA像のデータを減算することにより生成されるB像は以下の様に表される。
B=IMG-A
=Nimg-Na
この場合、第1補正では、A像のデータが負であるため、B像に対して第1補正が実施される。補正後のB像は以下の様に表される。
B=Nimg-Na+A
=Nimg-Na+Na
=Nimg
第2補正では、A像とB像の各データがともに負値、つまり基準信号より小さいので、A像とB像に対して第2補正が実施される。補正後のA像とB像は以下の様に表される。
A=0
B=0
このように、A<IMG<0である場合には、A像、B像ともに被写体信号の成分を含んでいる可能性がなく、それらはノイズ成分だけをもつ。そのため、ノイズNa、Nimgの両方が除去される。
図13(C)は、A像とIMG像の符号および大小関係が、IMG<A<0である場合の信号補正の例を示す。図13(C)では、A像とIMG像の各データがともに負値であるため、Sa=Simg=0である。よって、取得されたA像、IMG像は以下の様に表される。
A=Na (Sa=0)
IMG=Nimg (Simg=0)
IMG像のデータからA像のデータを減算することにより生成されるB像は以下の様に表される。
B=IMG-A
=Nimg-Na
この場合、第1補正では、A像とB像のデータがともに負値であるため、A像とB像に対して第1補正が実施される。補正後のA像とB像は以下の様に表される。
A=Na+B
=Na+(Nimg-Na)
=Nimg
B=Nimg-Na+A
=Nimg-Na+Na
=Nimg
第2補正では、A像とB像の各データがともに負値、つまり基準信号より小さいので、A像とB像に対して第2補正が実施される。補正後のA像、B像は以下の様に表される。
A=0
B=0
このように、IMG<A<0である場合には、A像、B像ともに被写体信号の成分を含んでいる可能性がなく、それらはノイズ成分だけをもつ。そのため、ノイズNa、Nimgの両方が除去される。
図10(C)にて説明したように、焦点検出信号にランダムノイズおよび逆相関ノイズが重畳されている場合でも、図9に示す処理を実行することにより、A像とB像における被写体信号の成分を除去することなく、ノイズを低減できる。そして、図7(B)、図8(B)に示す極小値および極大値の影響が低減された相関演算結果を算出することができる。
本実施形態では、被写体像から得られる信号とは関係のない、A像およびB像に生じるランダムノイズおよび逆相関ノイズが焦点検出信号に重畳されている場合、焦点検出信号の補正が行われる。これにより、ノイズの影響が少ない相関値を算出して、適切なピント位置(焦点状態)を検出することができる。その結果、ノイズの影響を低減させた高精度な焦点検出が可能となる。
[第2実施形態]
次に、本発明の第2実施形態を説明する。本実施形態は、基準信号の算出方法に関して第1実施形態と異なる。よって、本実施形態にて第1実施形態との相違点を説明し、第1実施形態と同様の事項については、それらの詳細な説明を省略する。
図9および図14を参照して、本実施形態における信号補正(図6のS604)について説明する。図14は、本実施形態における信号補正の説明図であり、横軸方向に画素位置を表し、縦軸方向に信号強度を表す。
本実施形態では、図9のS903,S904において、カメラMPU125が補正に用いる第1基準信号、第2基準信号をそれぞれ算出する。図14(A)に示す第1基準信号、第2基準信号は、第1信号、第2信号に係る着目画素の周囲に位置する複数の画素(周辺画素)の画素値の中間値として算出される。この中間値は一例であり、周辺画素の画素値の平均値または加重平均値として各基準信号の信号値が算出されてもよい。また本実施形態では、A像信号とB像信号に対して個別の基準信号が用いられるが、A像、B像のそれぞれに対して共通の基準信号を算出して補正してもよい。本実施形態は、焦点検出信号であるA像信号とB像信号に関する着目画素の周辺画素を用いて基準信号が算出される点において、基準信号が黒レベルから算出される第1実施形態とは異なる。
S905でカメラMPU125は、S901にて取得した第1信号と、S903にて取得した第1基準信号との差分から、第1補正信号を算出する。S906でカメラMPU125は、S902にて取得した第2信号と、S904にて取得した第2基準信号との差分から、第2補正信号を算出する。図14(B)に示す第1補正信号、第2補正信号は、図10(C)に示す焦点検出信号(A像,B像)から、図14(A)に示す第1基準信号、第2基準信号をそれぞれ減算した後の信号である。
S908では、第2信号に第1補正信号を加算することで第2信号に対する第1補正が行われ、またS910では、第1信号に第2補正信号を加算することで第1信号に対する第1補正が行われる。図14(C)は、第1補正後の第1信号(A像)と第2信号(B像)を示す。図10(C)に示す補正前の第1信号(A像)および第2信号(B像)と比べて、正のノイズ成分が低減できていることがわかる。
S912では、第1信号として第1基準信号を用いることで、第1信号に対する第2補正が行われる。またS914では、第2信号として第2基準信号を用いることで、第2信号に対する第2補正が行われる。図14(D)は、第2補正後の第1信号(A像)と第2信号(B像)を示す。図14(C)に示す第1補正後の第1信号(A像)および第2信号(B像)と比べて、負のノイズ成分が除去できていることがわかる。
本実施形態は、被写体信号の成分を多く含む画素の信号に対して、ノイズを低減できる点で第1実施形態と異なる。図10(C)のように、焦点検出信号にランダムノイズおよび逆相関ノイズが重畳されている場合、焦点検出信号と基準信号とから算出した補正信号の負の値に基づいて、第1補正および第2補正を行うことによってノイズを低減できる。焦点検出信号に対して第1補正および第2補正を行うことで、ノイズが減少した焦点検出信号を得ることができる。図7(B)、図8(B)に示す極小値および極大値の影響が低減された相関演算結果を算出可能となる。