JP2014164236A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2014164236A JP2014164236A JP2013037086A JP2013037086A JP2014164236A JP 2014164236 A JP2014164236 A JP 2014164236A JP 2013037086 A JP2013037086 A JP 2013037086A JP 2013037086 A JP2013037086 A JP 2013037086A JP 2014164236 A JP2014164236 A JP 2014164236A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- lens
- value
- imaging
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Structure And Mechanism Of Cameras (AREA)
- Indication In Cameras, And Counting Of Exposures (AREA)
- Automatic Focus Adjustment (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
- Focusing (AREA)
Abstract
【課題】レンズ情報を取得できない交換レンズを使用しても焦点検出用画素補間を最適に行う。
【解決手段】撮像素子14は、複数の撮像用画素及び複数の焦点検出用画素を有し、撮影レンズ24により結像する被写体像を撮像してベイヤー配列画像を得る。不揮発性メモリ12は、焦点検出用画素の位置を各々記憶し、また、焦点検出用画素の画素値を、その周囲の撮像用画素の画素値を用いて補間する時に使用するパラメータをレンズ条件毎に関連付けして記憶する。レンズ通信検出部17は、交換レンズ15との間でデータ通信の可否を検出する。通信不可であることを検出すると、レンズ条件表示部19は、レンズ条件の設定画面を表示部に表示する。レンズ条件設定20は、タッチパネル22からのタッチ操作に基づいて選択されたレンズ条件を設定する。AF画素補間部40は、設定されたレンズ条件に基づいて不揮発性メモリ12に記憶の情報に基づいてパラメータを決定し、決定したパラメータを用いて焦点検出用画素の位置に対する撮像用画素の画素値を補間する。
【選択図】図1
【解決手段】撮像素子14は、複数の撮像用画素及び複数の焦点検出用画素を有し、撮影レンズ24により結像する被写体像を撮像してベイヤー配列画像を得る。不揮発性メモリ12は、焦点検出用画素の位置を各々記憶し、また、焦点検出用画素の画素値を、その周囲の撮像用画素の画素値を用いて補間する時に使用するパラメータをレンズ条件毎に関連付けして記憶する。レンズ通信検出部17は、交換レンズ15との間でデータ通信の可否を検出する。通信不可であることを検出すると、レンズ条件表示部19は、レンズ条件の設定画面を表示部に表示する。レンズ条件設定20は、タッチパネル22からのタッチ操作に基づいて選択されたレンズ条件を設定する。AF画素補間部40は、設定されたレンズ条件に基づいて不揮発性メモリ12に記憶の情報に基づいてパラメータを決定し、決定したパラメータを用いて焦点検出用画素の位置に対する撮像用画素の画素値を補間する。
【選択図】図1
Description
本発明は、撮像装置に関する。
従来、複数の撮像用画素を2次元状に配列した受光面の一部に焦点検出用の複数の画素を配列した撮像素子が知られている(特許文献1)。複数の撮像用画素は、複数の色成分の各々に対応する分光特性を有し、また、焦点検出用画素は、複数の撮像用画素とは異なる分光特性を有する。特許文献1に記載の画像処理装置では、焦点検出用画素の位置に対応する撮像用画素値を補間し、その後、撮像用画素値のうち欠落色成分の画素値を補間して3色の画像データを作る。
焦点検出用画素の位置に対応する撮像用画素値を補間する場合、撮像素子によって生成された画像のうち焦点検出用画素の近傍の撮像用画素の画素値を用いて焦点検出用画素の補間画素値を生成し、近傍の撮像用画素が焦点検出用画素と同じ分光特性を有した場合の画素値である評価画素値を算出する。
評価画素値は、加重係数とともに焦点検出用画素の近傍の複数の撮像用画素値を用いて加重和を求めることで算出している。加重係数は、焦点検出用画素の分光特性を複数の撮像用画素の各々の分光特性の加重和によって表すためパラメータであり、予め記憶部に記憶されている。
加重係数は、焦点検出用撮像画素の分光感度とその周囲の撮像用画素の分光感度によって異なる。また、加重係数は、撮像時に得られるレンズ条件、すなわち、絞り(F)値、及び射出瞳位置(PO値)に応じて光の集光が変化するため、レンズ条件毎に異なる値を使用することが望ましい。そこで、交換レンズにCPUやメモリ、及び通信用接点等を設け、撮影時に設定されているF値や、予めメモリに記憶されているPO値等のレンズ情報をカメラボディに送っている。
しかしながら、CPUやメモリ等が内蔵されていない交換レンズの場合には、レンズ情報をカメラボディ側で認識できない。この場合には、例えば、予め用意しておいた固定値になっているパラメータを用いて処理を行っており、必ずしも最適なパラメータで補間されていないために、AF画素の補間がうまくいかないおそれがあった。
本発明は、レンズ情報を取得することができない交換レンズを使用する場合でも、AF画素の補間処理を最適に行うことができる撮像装置を提供することを目的とする。
本発明を例示する撮像装置の一態様は、複数の撮像用画素及び複数の焦点検出用画素を有し撮影レンズにより結像する被写体像を撮像する撮像素子と、前記焦点検出用画素の位置を各々記憶するAF画素位置記憶手段と、操作部と、撮影時のレンズ条件を前記操作部からの操作に基づき設定するレンズ条件設定部と、前記焦点検出用画素の画素値をその周囲の撮像用画素の画素値を用いて補間する時に使用するパラメータを、前記撮影時のレンズ条件毎に記憶する記憶手段と、前記記憶手段を参照して前記レンズ条件設定部で設定された前記レンズ条件に基づいて前記パラメータを決めるパラメータ決定手段と、前記パラメータ決定手段で決めたパラメータを用いて焦点検出用画素の位置に対する撮像用画素の画素値を補間する画素補間手段と、を備えたものである。
本発明によれば、レンズ情報を取得することができない交換レンズを装着しても焦点検出用画素補間に最適なパラメータを設定することができる。
本発明を適用した電子カメラ10は、図1に示すように、CPU11を備えている。CPU11には、不揮発性メモリ12、及びワークメモリ13が接続されており、不揮発性メモリ12には、CPU11が種々の制御を行う際に参照される制御プログラムなどが格納されている。さらに、不揮発性メモリ12には、詳しくは後述する撮像素子14の種別毎の焦点検出用画素(AF画素)の位置情報、予め求めておいた画像処理プログラムに用いる各種閾値のデータや、焦点検出用画素補間用のパラメータ(加重係数)等を記述したテーブル、及び各種判定用テーブル等を記憶する。
CPU11は、不揮発性メモリ12に格納されている制御プログラムに従い、ワークメモリ13を一時記憶作業領域として利用して各部の制御を行い、電子カメラ10を構成する各部(回路)機能を作動させる。
焦点検出用画素補間用のパラメータは、焦点検出用画素補間処理(詳しくは後述する第2及び第3画素補間処理)を行う時に、撮影時のレンズ条件に応じたものが用いられる。
撮影時のレンズ条件は、交換レンズ15の種別毎に決められている射出瞳位置(PO値)、及び撮影時に決められる絞り(F)値となっている。
焦点検出用画素補間用のパラメータは、焦点検出用画素補間処理(詳しくは後述する第2及び第3画素補間処理)を行う時に、撮影時のレンズ条件に応じたものが用いられる。
撮影時のレンズ条件は、交換レンズ15の種別毎に決められている射出瞳位置(PO値)、及び撮影時に決められる絞り(F)値となっている。
交換レンズ15は、焦点距離や開放絞り(F)値等の異なる種別が複数用意されており、電子カメラ10のマウント部に着脱自在に取り付けられる。また、交換レンズ15には、CPU、メモリ、及び通信用接点等を備え、カメラボディのCPU11との間でデータ通信が行えるタイプがある。このように通信が行える交換レンズ15を使用する場合、撮像時に得られるレンズ条件をCPU11が自動的に取得することができる。なお、通信用接点等の有線通信の代わりに、無線通信で行うようにしてもよい。
また、交換レンズ15には、カメラボディのマウント部に互換性を有していないものがある。そのため、変換アダプタ16が提供されている。変換アダプタ16は、第1及び第2マウント部、入力部、及び出力部を備えている。第1マウント部は、交換レンズ15に着脱自在に取り付けられる。第2マウント部は、カメラボディに着脱自在に取り付けられる。入力部には、交換レンズ15からレンズ情報が入力される。出力部は、入力部に入力されたレンズ情報をカメラボディのCPU11に出力する。マウント部の互換性がない交換レンズ15には、前述したと同じに、データ通信が可能なものと不可なものとがある。
このため、電子カメラ10には、レンズ通信検出部17、及びレンズ条件取得部18を備えている。レンズ通信検出部17は、変換アダプタ16が装着されているか否かを検知し、変換アダプタ16が装着されていないことを検出した場合には、交換レンズ15が装着されているものと判断する。
その後、装着されている交換レンズ15が通信可能か否かを検出する。レンズ条件取得部18は、通信可能である場合、交換レンズ15のCPUとの間で通信してレンズ条件を取得してその情報をCPU11に送る。
その後、装着されている交換レンズ15が通信可能か否かを検出する。レンズ条件取得部18は、通信可能である場合、交換レンズ15のCPUとの間で通信してレンズ条件を取得してその情報をCPU11に送る。
通信が不可の交換レンズ15を使用する場合には、撮影者に射出瞳位置(PO値)、及び撮影時のF値からなるレンズ条件を手動で入力させる。そこで、CPU11は、レンズ条件表示部19、及びレンズ条件設定部20を備えている。レンズ条件表示部19は、交換レンズ15が通信不可の場合、予め不揮発性メモリ12に記憶した交換レンズ15の種別、及び種別毎に設定可能なF値の情報を読み出して、交換レンズ15の種別、及びF値の情報の一覧を表示部21に表示する。なお、表示部21としては液晶表示部が望ましい。
通信不可の交換レンズ15を使用する場合、一般的にマニュアル撮影になる。そこで、レンズ条件表示部19は、撮影者が操作部37に設けた、例えば「レンズ条件設定ボタン」等を操作することに応答して、交換レンズ15の種別、及びF値の一覧を表示する画面を表示するよう制御するのが望ましい。なお、レンズ条件表示部19は、通信不可を検出することに応答して自動的に設定画面を表示するように制御してもよい。
表示部21には、タッチパネル22が設けられている。タッチパネル22は、パネル制御部23を介してCPU11に、タッチ位置に応じた表示部21の画面に対する位置情報を入力する。レンズ条件設定部20は、位置情報に基づいて交換レンズ15の種別、及びF値を設定する。PO値は、交換レンズ15の種別毎に予め決められてので、交換レンズ15の種別を設定することで自動的に決まる。
なお、レンズ条件設定部20としては、タッチパネル22等の代わりに、例えば十字キーや決定ボタン等の操作部をカメラボディに設けて、これら操作部での操作により交換レンズ15の種別、及びF値の情報を一覧表示した画面から設定するようにしてもよい。また、前述した表示部21は、スルー画像を表示するための表示部であるので、スルー画像に重ねて設定画面を表示してもよい。また、スルー画像を表示する表示部21とは別の表示部に設定画面を表示するように構成してもよい。さらに、交換レンズ15が焦点距離可変のズームレンズを保持する種別の場合には、レンズ条件に焦点距離が加わるため、よって、レンズ条件設定時には撮影時の焦点距離も設定させるように構成する。
交換レンズ15に設けた撮影レンズ24から入射する被写体光は、CCDやCMOS等の撮像素子14の受光面に結像する。撮像素子駆動回路25は、CPU11からの制御信号に基づいて撮像素子14を駆動させる。撮像素子14は、ベイヤー配列型単板撮像素子になっており、前面には原色透過フィルタ26が取り付けられている。
原色透過フィルタ26は、撮像素子14の総画素数Nに対して、例えば、G(緑色)の解像度がN/2、R(赤色)及びB(青色)の解像度がN/4となる原色ベイヤー配列になっている。
撮像素子14の受光面に結像した被写体像は、アナログの画像信号に変換される。画像信号は、AFE(Analog Front End)回路を構成するCDS27、及びAMP28に順に送られて所定のアナログ処理が施され、その後、A/D(Analog/Digital変換器)29においてデジタルの画像データに変換されてから画像処理部30に送られる。
撮像素子14の受光面に結像した被写体像は、アナログの画像信号に変換される。画像信号は、AFE(Analog Front End)回路を構成するCDS27、及びAMP28に順に送られて所定のアナログ処理が施され、その後、A/D(Analog/Digital変換器)29においてデジタルの画像データに変換されてから画像処理部30に送られる。
画像処理部30は、分離回路、ホワイトバランス処理回路、画素補間(デモザイキング)回路、マトリクス処理回路、非線形変換(γ補正)処理回路、及び輪郭強調処理回路等を備え、デジタルの画像データに対して、ホワイトバランス、画素補間、マトリクス、非線形変換(γ補正)、及び輪郭強調等の処理を施す。分離回路は、詳しくは後述する撮像用画素から出力される信号と、焦点検出用画素から出力される信号とを分離する。画素補間回路は、1画素当たり1色のベイヤー配列データを、1画素当たり3色からなる通常のカラー画像データに変換する。
画像処理部30から出力される3色の画像データは、バス31を通じてSDRAM32に格納される。SDRAM32に格納した画像データは、CPU11の制御により読み出されて表示制御部33に送られる。表示制御部33は、入力された画像データを表示用の所定方式の信号(例えば、NTSC方式のカラー複合映像信号)に変換して表示部21にスルー画像として出力する。
また、シャッタレリーズに応答して取得した画像データは、SDRAM32から読み出した後に圧縮伸長処理部34に送られ、ここで圧縮処理が施されてからメディアコントローラ35を介して記録媒体であるカードメモリ36に記録される。
また、シャッタレリーズに応答して取得した画像データは、SDRAM32から読み出した後に圧縮伸長処理部34に送られ、ここで圧縮処理が施されてからメディアコントローラ35を介して記録媒体であるカードメモリ36に記録される。
CPU11には、レリーズボタン、電源スイッチ、及びISO感度設定部等を含む操作部37が接続されているとともに、撮像素子14の温度を検出する温度検出部38から温度情報が入力される。温度情報は、CPU11に送られ、詳しくは後述するノイズを判定する時に利用される。
AE/AF検出部39は、焦点検出用画素の信号に基づいて瞳分割型位相差検出方式によりデフォーカス量、及びデフォーカスの方向を検出する。CPU11は、AE/AF検出部39で得られるデフォーカス量、及びデフォーカスの方向に基づいてドライバ40を制御してレンズ駆動部41を駆動して撮影レンズ24のうち、フォーカスレンズを光軸方向で進退させて焦点調整を行う。
AE/AF検出部39は、焦点検出用画素の信号に基づいて瞳分割型位相差検出方式によりデフォーカス量、及びデフォーカスの方向を検出する。CPU11は、AE/AF検出部39で得られるデフォーカス量、及びデフォーカスの方向に基づいてドライバ40を制御してレンズ駆動部41を駆動して撮影レンズ24のうち、フォーカスレンズを光軸方向で進退させて焦点調整を行う。
また、AE/AF検出部39は、撮像用画素の信号に基づいて算出した輝度値(Bv)と、撮影者がISO感度設定部で設定したSv値とを用いて光値(Lv=Sv+Bv)を算出する。そして、AE/AF検出部39は、露出値(Ev=Av+Tv)が光値(Lv)になるようにF値とシャッター速度とを決定する。そして、これに従ってCPU11は、撮像素子14の電子シャッター、及びドライバ42を介して絞り駆動部43を駆動して交換レンズ15に設けた絞り44の口径を制御して適正な露光量を得る。
撮像素子14は、その受光面上にある複数の撮像用画素の各々に、R(赤)、G(緑)、B(青)のいずれかの原色透過フィルタ26がベイヤー配列型に設けられ、その上にマイクロレンズアレイが設けられたCCDやCMOSの半導体イメージセンサ等を適宜選択して用いる。さらに、本実施形態の撮像素子14は、受光面上の一部の領域に、水平走査方向に一次元的に配置された複数の焦点検出用画素(AF画素)を有する。また、AF画素は、撮像レンズ24の光学系の瞳の左側、又は右側を通過する光束を受光する2種別存在する。撮像素子14は、撮像用画素群、及びAF画素群からの画素信号を個別に読み出しすることができる。
各AF画素46は、図2に示すように、セル中心(マイクロレンズの中心)から一方に偏ったセンサ開口部46a,46bを持ち、その偏りの方向に沿って1次元状に並べられている。隣接するセンサ開口部46a,46bは、偏りが互いに逆方向であり、その偏りの距離は同一である。センサ開口部46aを有するAF画素46は、RGB原色ベイヤー配列中のG画素の代わりに置かれ、また、センサ開口部46bを有するAF画素46は、RGB原色ベイヤー配列中のB画素の代わりに置かれている。このようなセンサ開口部46a,46bをもつAF画素46によって瞳分割位相差AF方式を実現する。つまり、射出瞳を通る光束の中で撮影レンズ24の光軸に対して対称な位置にある2つの部分光束を、センサ開口部46aをもつAF画素46とセンサ開口部46bをもつAF画素46でそれぞれ受光すれば、これら2つのAF画素46から出力された信号の位相差によりデフォーカスの方向と、デフォーカス量とが分かる。これにより速やかなフォーカス合わせが可能になる。
したがって、本実施形態におけるAF画素46の各々は、白色光の輝度に応じた左側、又は右側の瞳分割された検出信号を出力する。図3は、撮像素子14によって撮像された画像データのうち、AF画素46が配置された領域を中心とした画像データの一部を示す。それぞれのセルが1つの画素を表す。各セルの先頭の記号R、G及びBは、各原色透過フィルタ26を有する撮像用画素を示す。一方、記号X及びYは、左側又は右側からの光束に感度を有するAF画素を示し、それらが交互に水平走査方向に一次元的に配列されている。これらの記号に続く2桁の番号は画素の位置を示す。
画素補間部は、AF画素46の画素値(AF画素値)を撮像用画素の画素値(撮像用画素値)に補間するAF画素補間部50と、AF画素値を撮像用画素値に補間した後に、ベイヤー配列からRGBへの線形補間法による色補間を行う画素補間部とを備える。
AF画素補間部50は、図4に示すように、ノイズ判定部51、及びフレア判定部52を備え、これら判定に基づいて異なるAF画素補間処理を行う。ノイズ判定部51は、撮影時の撮影条件に基づいてノイズが多く発生する条件かを判定する。撮影条件は、撮像素子14の温度、ISO感度、及び撮影時のシャッター速度等になっている。撮像素子14の温度情報は、CPU11から得られる。また、温度情報とともに、撮影時に設定されているISO感度や撮影時のシャッター速度の情報もCPU11から得られる。
AF画素補間部50は、図4に示すように、ノイズ判定部51、及びフレア判定部52を備え、これら判定に基づいて異なるAF画素補間処理を行う。ノイズ判定部51は、撮影時の撮影条件に基づいてノイズが多く発生する条件かを判定する。撮影条件は、撮像素子14の温度、ISO感度、及び撮影時のシャッター速度等になっている。撮像素子14の温度情報は、CPU11から得られる。また、温度情報とともに、撮影時に設定されているISO感度や撮影時のシャッター速度の情報もCPU11から得られる。
ノイズ判定部51は、撮像素子14の温度、ISO感度、及びシャッター速度との情報に基づいてノイズが多いか少ないかを判定する。なお、撮像素子14を実装するメイン基板に温度検出器を設け、メイン基板の温度、又は撮像素子14の周囲の温度を、撮像素子14の温度の代わりに利用してもよい。さらに、ノイズ判定に利用する情報としては、撮像素子14の温度、ISO感度、及びシャッター速度との3つの情報に限らず、このうちのいずれか一つ、又は2つの情報としてもよい。
ノイズが多いとノイズ判定部51が判定する場合には、AF画素値を用いず、その周囲の撮像用画素値を用いて、例えば単純平均補間を行う第1画素補間処理を行う。ノイズが少ないと判定する場合には、フレア判定部52でフレア判定を行い、フレアが発生しているか否かに応じて前記第1画素補間処理とは異なる第2、又は第3の画素補間処理を行う。
フレア判定部52は、画像データの輝度ヒストグラムに基づいて輝度が高い領域(高輝度領域)を抽出した後に、抽出された高輝度領域に、例えばマゼンタ色が存在するか否かを判定し、マゼンタ色が存在する場合、マゼンタ色となる領域(マゼンタ領域)における輝度成分の平均エッジ量、及び分散値を算出し、「マゼンタ領域の総面積」、「マゼンタ領域の分散値/マゼンタ領域の総面積」、及び「マゼンタ領域の輝度成分の平均エッジ量」を各々閾値判定してフレアが発生しているか否かを判定する。
なお、フレア判定としては、ジャイロセンサ又は加速度センサ等の姿勢検出部を設け、姿勢検出部から得られる出力値に基づく演算により撮影レンズ24の水平に対対する仰角をCPU11が求め、仰角とともに被写体距離、被写体輝度、撮影モード等の情報をフレア判定部に送り、フレア判定部で、仰角、被写体距離、被写体輝度、撮影モード等の情報に基づいて、屋外であるか屋内であるかの区別と、昼夜の区別と、及びカメラを上に向けたときの撮影画角に被写体として空が入っているかの区別とを行って、フレアが発生するか否かの判定を行ってもよい。
AF画素補間部50は、フレアが生じていないと判定する場合には、AF画素値を用いて画素補間をする第2画素補間処理(本発明の画素補間手段)を実行する。第2画素補間処理は、AF画素値(ホワイト(W)成分)から周囲の撮像用画素値を元に加重和で予測することで、そのAF画素値を補間する。このとき、予め決められている複数のパラメータのうち、レンズ条件に応じたパラメータ、すなわち詳しくは後述する加重係数を、色成分毎に選択して用いる。
フレアが生じているとフレア判定部52が判定する場合には、第3画素補間処理を実行する。第3画素補間処理は、フレア抑制手段と画素補間処理手段とを順に行う。フレア抑制手段は、AF画素の周囲の撮像用画素値を重み係数により補正する周囲撮像用画素補正手段と、周囲撮像用画素補正手段で補正した撮像用画素値を平滑化する平滑化手段と、で構成されている。周囲撮像用画素補正手段は、AF画素の近傍に位置する撮像用画素のうち、対象となる撮像用画素値から前記対象となる撮像用画素の近傍に位置する撮像用画素値と重み係数との加重和を減算することで、前記対象となる撮像用画素値を補正する。
フレア抑制手段としては、周囲撮像用画素補正手段と平滑化手段とで行う処理を、撮像用画素値に対する重み係数を変えて、例えば2回行うとともに、2回目の処理では重み計数を「0」にして平滑化手段での処理のみを行う。その後、第2画素補間処理(本発明の画素補間手段)を実行する。これにより、AF画素の周囲の撮像用画素に対してフレアにおける混色の影響を抑制することができる。よって、第2画素補間処理を行うに当たって、AF画素を撮像用画素として生成した画素値にも混色の影響が抑制される。
次に、上記AF画素補間部50の作用について図5を参照しながら説明する。なお、本実施形態において、撮像用画素の各々に設置される原色透過フィルタ26がベイヤー配列のパターンであることから、図3に示す記号XのAF画素の位置には緑色(G)の撮像用画素値が補間され、記号YのAF画素の画素位置には青色(B)の撮像用画素値が補間される。以下の説明では、Y44の青色の撮像用画素値とX45の緑色の撮像用画素値とをそれぞれ補間する場合について説明する。他のAF画素における撮像用画素値を補間する手順も同様である。
[ノイズ判定]
電子カメラ10は、電源スイッチのオンに応答して、撮像素子14を駆動し、画像処理部30に画像データを取り込む。CPU11は、画像処理後の画像データをノイズ判定部51に送る。また、CPU11は、撮影時の撮像素子14の温度、ISO感度、及びシャッター速度の情報をノイズ判定部51に送る。そして、ノイズ判定部51は、その時点で取得した前記情報に基づいて、前記画像データに対してノイズが多いか少ないかを判定する(S−1)。
電子カメラ10は、電源スイッチのオンに応答して、撮像素子14を駆動し、画像処理部30に画像データを取り込む。CPU11は、画像処理後の画像データをノイズ判定部51に送る。また、CPU11は、撮影時の撮像素子14の温度、ISO感度、及びシャッター速度の情報をノイズ判定部51に送る。そして、ノイズ判定部51は、その時点で取得した前記情報に基づいて、前記画像データに対してノイズが多いか少ないかを判定する(S−1)。
ノイズ判定部51の判定は、ノイズ判定用テーブルを参照して判定する。ノイズ判定用テーブルは、撮像素子14の温度範囲毎に複数用意されており、これらは不揮発性メモリ12に予め記憶されている。CPU11は、画像データを取得した時の撮像素子14の温度に対応するノイズ判定用テーブルをノイズ判定部51に送る。
ノイズ用判定テーブルとしては、例えば撮像素子14の温度が40℃未満の時には[表1]に記載のテーブルを、また40℃以上50℃未満の範囲の時には[表2]に記載のテーブルを選択する。各テーブルには、シャッター速度とISO感度とで決めるノイズの予測結果が予め行った実験に基づいて決められている。
ノイズ用判定テーブルとしては、例えば撮像素子14の温度が40℃未満の時には[表1]に記載のテーブルを、また40℃以上50℃未満の範囲の時には[表2]に記載のテーブルを選択する。各テーブルには、シャッター速度とISO感度とで決めるノイズの予測結果が予め行った実験に基づいて決められている。
ノイズが多いと判定する場合は、AF画素の画素値を用いず、その周囲の画素の画素値のみを用いて以下に説明する第1画素補間処理を行う(S−2)。
なお、ノイズが少ないと判定する場合には、詳しくは後述するフレア判定(S−7)の結果に基づいて第2、及び第3画素補間処理(S−8,S−9)の何れか一方を実行する。ここで、第2、及び第3画素補間処理が本発明のパラメータを用いる画素補間手段を構成する。そこで、フレア判定の前に、パラメータ決定処理(S−3〜S−6)を実行する。
なお、ノイズが少ないと判定する場合には、詳しくは後述するフレア判定(S−7)の結果に基づいて第2、及び第3画素補間処理(S−8,S−9)の何れか一方を実行する。ここで、第2、及び第3画素補間処理が本発明のパラメータを用いる画素補間手段を構成する。そこで、フレア判定の前に、パラメータ決定処理(S−3〜S−6)を実行する。
[第1画素補間処理]
第1画素補間処理を説明する。AF画素補間部50は、まず、撮像素子情報入力部53から撮像素子情報を取得して、撮像素子情報に基づいたAF画素の位置情報を不揮発性メモリ12から読み取ってAF画素の位置を特定する。その後、AF画素の位置に対して、例えば単に周囲の画素から平均補間してAF画素に対応する撮像用画素値を求める。具体的には、図3において、B画素の代わりに置かれたAF画素Y42の画素値は[数1]に記載の式から、また、AF画素Y44の画素値は[数2]に記載の式から、さらに、AF画素Y46の画素値は[数3]に記載の式からそれぞれ求める。
第1画素補間処理を説明する。AF画素補間部50は、まず、撮像素子情報入力部53から撮像素子情報を取得して、撮像素子情報に基づいたAF画素の位置情報を不揮発性メモリ12から読み取ってAF画素の位置を特定する。その後、AF画素の位置に対して、例えば単に周囲の画素から平均補間してAF画素に対応する撮像用画素値を求める。具体的には、図3において、B画素の代わりに置かれたAF画素Y42の画素値は[数1]に記載の式から、また、AF画素Y44の画素値は[数2]に記載の式から、さらに、AF画素Y46の画素値は[数3]に記載の式からそれぞれ求める。
[数1]
Y42=(B22+B62)/2
Y42=(B22+B62)/2
[数2]
Y44=(B24+B64)/2
[数3]
Y46=(B26+B66)/2
また、G画素の代わりに置かれたAF画素X43の画素値は[数4]に記載の式から、また、AF画素X45の画素値は、[数5]に記載の式からそれぞれ求める。
Y44=(B24+B64)/2
[数3]
Y46=(B26+B66)/2
また、G画素の代わりに置かれたAF画素X43の画素値は[数4]に記載の式から、また、AF画素X45の画素値は、[数5]に記載の式からそれぞれ求める。
[数4]
X43=(G32+G34+G52+G54)/4
[数5]
X45=(G34+G36+G54+G56)/4
X43=(G32+G34+G52+G54)/4
[数5]
X45=(G34+G36+G54+G56)/4
このように、ノイズが多い場合には、AF画素値を用いないで、その周辺の撮像用画素値のみからAF画素値を予測するため、予測するAF画素値がバラツキ、想定以上の補間をしてしまい、偽色とよばれる実際には存在しない色が発生することや、偽構造とよばれる存在しない構造が発生することを極力抑えることができる。なお、AF画素値を撮像用画素値に補間した画像データは、画像処理部30でベイヤー配列からRGBへの線形補間法による色補間が行われ、RGB毎の画像データとしてSDRAM32に格納される。
[パラメータ決定処理]
(データ通信可否判定)
パラメータ決定処理を説明する。パラメータ決定処理では、交換レンズ15との間でデータ通信が行えるか否かを判断する。ここで、本実施形態では、変換アダプタ16を使用せずに装着することができるマウントに互換性のある交換レンズ15は、データ通信が可能であり、また、変換アダプタ16を使用するマウントに互換性のない交換レンズ15に対しては、データ通信が可能なものと不可なものとがあると仮定している。
(データ通信可否判定)
パラメータ決定処理を説明する。パラメータ決定処理では、交換レンズ15との間でデータ通信が行えるか否かを判断する。ここで、本実施形態では、変換アダプタ16を使用せずに装着することができるマウントに互換性のある交換レンズ15は、データ通信が可能であり、また、変換アダプタ16を使用するマウントに互換性のない交換レンズ15に対しては、データ通信が可能なものと不可なものとがあると仮定している。
そこで、レンズ通信検出部17は、パラメータ決定処理の実行指示に応答して、変換アダプタ16が装着されているか否かを検知し(S−3)、その後、変換アダプタ16の装着を検知した場合にはデータ通信が可能か否かを検出する(S−4)。変換アダプタ16の装着を検知し、かつ交換レンズ15との間でデータ通信が可能であることを検出した場合には、レンズ条件取得部18を実行する(S−5)。また、変換アダプタ16の装着を検知しない場合には、データ通信が可能な交換レンズ15が装着されているとみなし、前述した同じにレンズ条件取得処理の動作を実行する(S−5)。
変換アダプタ16の装着を検知し、かつデータ通信が不可であると検出した場合には、レンズ条件選択処理の動作を実行する(S−6)。
変換アダプタ16の装着を検知し、かつデータ通信が不可であると検出した場合には、レンズ条件選択処理の動作を実行する(S−6)。
(レンズ条件取得処理)
レンズ条件取得処理(S−5)は、レンズ条件取得部18がレンズ条件の情報を交換レンズ15のCPUを介してメモリから自動的に読み出して取得する。取得したレンズ条件の情報は、交換レンズ15の種別に応じたPO値とF値とになっている。CPU11は、PO値とF値とに対応付けされた加重係数(パラメータ)を求める。加重係数は、予め不揮発性メモリ12に記憶したテーブルに記述されている。テーブルには、例えば[表3]に示すように、横軸(行)にPO値を、縦軸(列)にF値をとり、各行列の交点に加重係数が記述されている形態となっている。このようなテーブルは、画素の色成分毎に用意されている。テーブルから求めた加重係数は、ワークメモリ13に一時的に記憶され、詳しくは後述する第2、又は第3画素補間処理(S−8,S−9)で使用される。
レンズ条件取得処理(S−5)は、レンズ条件取得部18がレンズ条件の情報を交換レンズ15のCPUを介してメモリから自動的に読み出して取得する。取得したレンズ条件の情報は、交換レンズ15の種別に応じたPO値とF値とになっている。CPU11は、PO値とF値とに対応付けされた加重係数(パラメータ)を求める。加重係数は、予め不揮発性メモリ12に記憶したテーブルに記述されている。テーブルには、例えば[表3]に示すように、横軸(行)にPO値を、縦軸(列)にF値をとり、各行列の交点に加重係数が記述されている形態となっている。このようなテーブルは、画素の色成分毎に用意されている。テーブルから求めた加重係数は、ワークメモリ13に一時的に記憶され、詳しくは後述する第2、又は第3画素補間処理(S−8,S−9)で使用される。
(レンズ条件選択処理)
レンズ条件選択処理(S−6)は、詳しくは図6に示す動作手順となる。すなわち、レンズ条件表示部19は、予め不揮発性メモリ12に記憶した交換レンズ15の種別の一覧の情報を読み出し、表示制御部33を制御して読み出した情報を表示部21に表示させる。表示部21には、図7に示すように、例えば「XXXXX社 50mm f/1.2S」等のメーカー、焦点距離、及び開放絞り値からなる種別名55の一覧が表示される(S−11)。レンズ条件設定部20は、タッチパネル22から得られるタッチ操作に応じた位置情報を監視し(S−12)、位置情報が入力されることでその情報を含む範囲に表示されている種別名55を選択する。その後、レンズ条件表示部19は、選択した種別の交換レンズ15で調節可能なF値の一覧の情報を不揮発性メモリ12から読み出し、読み出した情報を表示部22に表示する。つまり、種別名55を選択すると、選択された種別名55の下にF値56の一覧が表示される(S−13)。
レンズ条件選択処理(S−6)は、詳しくは図6に示す動作手順となる。すなわち、レンズ条件表示部19は、予め不揮発性メモリ12に記憶した交換レンズ15の種別の一覧の情報を読み出し、表示制御部33を制御して読み出した情報を表示部21に表示させる。表示部21には、図7に示すように、例えば「XXXXX社 50mm f/1.2S」等のメーカー、焦点距離、及び開放絞り値からなる種別名55の一覧が表示される(S−11)。レンズ条件設定部20は、タッチパネル22から得られるタッチ操作に応じた位置情報を監視し(S−12)、位置情報が入力されることでその情報を含む範囲に表示されている種別名55を選択する。その後、レンズ条件表示部19は、選択した種別の交換レンズ15で調節可能なF値の一覧の情報を不揮発性メモリ12から読み出し、読み出した情報を表示部22に表示する。つまり、種別名55を選択すると、選択された種別名55の下にF値56の一覧が表示される(S−13)。
その後、レンズ条件設定部20は、タッチパネル22からのタッチ操作に応じた位置情報を監視し(S−14)、位置情報が入力されることでその情報を含む範囲に表示されているF値を選択する。CPU11は、不揮発性メモリ12に記憶されている種別とPO値との対応付けテーブルから、選択された種別に対応するPO値を求め、求めたPO値と選択されたF値とに基づいてパラメータを決定し、決定したパラメータをワークメモリ13に一時的に記憶しておく(S−15)。なお、図7では、矩形枠で囲んだものが選択されていることを示している。選択されていることを示す矩形枠は、次に設定操作がなされるまで継続して表示される。
[フレア判定]
パラメータ決定処理後に、CPU11は、フレア判定部51を動作させる。フレア判定部51は、前述したようにフレア判定を行う。CPU11は、その結果、フレアが発生しないと判定する場合には第2画素補間処理を実行する(S−8)。そして、フレアが発生するとフレア判定部52が判定する場合には第3画素補間処理(S−9)を実行する。
パラメータ決定処理後に、CPU11は、フレア判定部51を動作させる。フレア判定部51は、前述したようにフレア判定を行う。CPU11は、その結果、フレアが発生しないと判定する場合には第2画素補間処理を実行する(S−8)。そして、フレアが発生するとフレア判定部52が判定する場合には第3画素補間処理(S−9)を実行する。
[第2画素補間処理]
第2画素補間処理を図8を参照しながら説明する。AF画素補間部50は、まず、撮像素子情報入力部53から撮像素子情報を取得して、不揮発性メモリから、取得した撮像素子情報に基づいたAF画素の位置情報を読み取ってAF画素の位置を特定する。そして、特定したAF画素の周辺の撮像用画素値を用いて画素値の変化率である変動値が最小となる方向を求める。そして、変動の最も小さい方向にある撮像用画素値を用いてAF画素の画素値を補間する。
第2画素補間処理を図8を参照しながら説明する。AF画素補間部50は、まず、撮像素子情報入力部53から撮像素子情報を取得して、不揮発性メモリから、取得した撮像素子情報に基づいたAF画素の位置情報を読み取ってAF画素の位置を特定する。そして、特定したAF画素の周辺の撮像用画素値を用いて画素値の変化率である変動値が最小となる方向を求める。そして、変動の最も小さい方向にある撮像用画素値を用いてAF画素の画素値を補間する。
(最小となる変動値の方向を算出)
AF画素補間部50は、X45及びY44のAF画素での撮像用画素値を補間するために、X45及びY44の周辺の撮像用画素の画素値を用いて4方向の画素値の変化率である方向変動H1〜H4の値を、[数6]〜[数9]に記載の式を用いてそれぞれ求める(S−16)。なお、本実施形態における4方向とは、水平走査方向、垂直走査方向、水平走査方向に対して45度及び135度方向である。
AF画素補間部50は、X45及びY44のAF画素での撮像用画素値を補間するために、X45及びY44の周辺の撮像用画素の画素値を用いて4方向の画素値の変化率である方向変動H1〜H4の値を、[数6]〜[数9]に記載の式を用いてそれぞれ求める(S−16)。なお、本実施形態における4方向とは、水平走査方向、垂直走査方向、水平走査方向に対して45度及び135度方向である。
[数6]
水平走査方向の方向変動H1=
2×(|G34−G36|+|G54−G56|)+|R33−R35|+|R53−R55|+|B24−B26|+|B64−B66|
[数7]
垂直走査方向の方向変動H2=
2×(|G34−G54|+|G36−G56|)+|R33−R53|+|R35−R55|+|B24−B64|+|B26−B66|
水平走査方向の方向変動H1=
2×(|G34−G36|+|G54−G56|)+|R33−R35|+|R53−R55|+|B24−B26|+|B64−B66|
[数7]
垂直走査方向の方向変動H2=
2×(|G34−G54|+|G36−G56|)+|R33−R53|+|R35−R55|+|B24−B64|+|B26−B66|
[数8]
水平走査方向に対して45度の方向変動H3=
2×(|G27−G36|+|G54−G63|)+|R35−R53|+|R37−R55|+|B26−B62|+|B28−B64|
[数9]
水平走査方向に対して135度の方向変動H4=
2×(|G23−G34|+|G56−G67|)+|R33−R55|+|R35−R57|+|B22−B66|+|B24−B68|
水平走査方向に対して45度の方向変動H3=
2×(|G27−G36|+|G54−G63|)+|R35−R53|+|R37−R55|+|B26−B62|+|B28−B64|
[数9]
水平走査方向に対して135度の方向変動H4=
2×(|G23−G34|+|G56−G67|)+|R33−R55|+|R35−R57|+|B22−B66|+|B24−B68|
(最小変動値の方向に応じた周辺の撮像用画素値を用いてAF画素の画素値を補間)
AF画素補間部50は、ステップ(S−16)で求めた方向変動H1〜H4のうち最も小さい値の方向変動の方向を選択し、その方向にある撮像用画素の画素値を用いて、AF画素X45の位置でのGの撮像用画素値GX45及びAF画素Y44の位置でのBの撮像用画素値BY44を[数10]〜[数13]のうちの選択した方向に対応する式を用いて求める(S−17)。これにより、変動の小さい方向にある撮像用画素の画素値を用いることにより、より正確にX45及びY44等のAF画素の位置での撮像用画素値を補間することが可能となる。
AF画素補間部50は、ステップ(S−16)で求めた方向変動H1〜H4のうち最も小さい値の方向変動の方向を選択し、その方向にある撮像用画素の画素値を用いて、AF画素X45の位置でのGの撮像用画素値GX45及びAF画素Y44の位置でのBの撮像用画素値BY44を[数10]〜[数13]のうちの選択した方向に対応する式を用いて求める(S−17)。これにより、変動の小さい方向にある撮像用画素の画素値を用いることにより、より正確にX45及びY44等のAF画素の位置での撮像用画素値を補間することが可能となる。
[数10]
方向変動H1が最小の場合
BY44=(B24+B64)/2
GX45=(G34+G36+G54+G56)/4
[数11]
方向変動H2が最小の場合
BY44=(B24+B64)/2
GX45=(G25+G65)/2
方向変動H1が最小の場合
BY44=(B24+B64)/2
GX45=(G34+G36+G54+G56)/4
[数11]
方向変動H2が最小の場合
BY44=(B24+B64)/2
GX45=(G25+G65)/2
[数12]
方向変動H3が最小の場合
BY44=(B26+B62)/2
GX45=(G36+G54)/2
[数13]
方向変動H4が最小の場合
BY44=(B22+B66)/2
GX45=(G34+G56)/2
方向変動H3が最小の場合
BY44=(B26+B62)/2
GX45=(G36+G54)/2
[数13]
方向変動H4が最小の場合
BY44=(B22+B66)/2
GX45=(G34+G56)/2
AF画素補間部50は、AF画素の配列方向である水平走査方向において、AF画素の画素値の方向変動H5を、例えば、AF画素のY44及びX45の白色光の画素値W44及びW45と、[数14]に記載の式とを用いて算出する。
[数14]
H5=|W44−W45|
H5=|W44−W45|
AF画素補間部50は、その方向変動H5が閾値th1を超えるか否かを判定する(S−18)。方向変動H5が閾値th1を超える場合(YES側)、AF画素補間部50は、ステップ(S−17)で求めたBY44及びGX45の補間した値をY44及びX45における撮像用画素値とし、画像データを更新する。画像処理部30は、更新した画像データに対して1画素当たり3色の画素値に補間して3色の画像データを生成し、3色の画像データを、バス31を介してSDRAM32に記録する(S−19)。
一方、方向変動H5が閾値th1以下の場合(NO側)、画像処理部30は、(S−20)へ移行する。なお、閾値th1は、例えば、12ビット画像を処理する場合、512程度の値にすれば良い。
一方、方向変動H5が閾値th1以下の場合(NO側)、画像処理部30は、(S−20)へ移行する。なお、閾値th1は、例えば、12ビット画像を処理する場合、512程度の値にすれば良い。
AF画素補間部50は、ステップ(S−16)で求めた方向変動H2が閾値th2を超えるか否かを判定する(S−20)。方向変動H2が閾値th2を超える場合(YES側)、AF画素補間部50は、ステップ(S−17)で求めたBY44及びGX45の補間した値をY44及びX45における撮像用画素値とし、画像データを更新する。画像処理部30は、更新した画像データに対して3色の画素補間を施して3色の画像データを生成し、3色の画像データを、バス31を介してSDRAM32に格納する(S−19)。
一方、方向変動H2が閾値th2以下の場合(NO側)、画像処理部30は、(S−21)へ移行する。なお、閾値th2は、例えば、12ビット画像を処理する場合、64程度の値にすれば良い。
一方、方向変動H2が閾値th2以下の場合(NO側)、画像処理部30は、(S−21)へ移行する。なお、閾値th2は、例えば、12ビット画像を処理する場合、64程度の値にすれば良い。
その後、AF画素補間部50は、右側からの光束に感度を有するY44等のAF画素における白色光の平均画素値<W44>等を、近傍にある色成分R、G及びBの撮像用画素値を用いて算出する(S−21)。具体的には、ステップ(S−16)において、例えば、画像処理部30が方向変動H2を最小であると判定した場合、Bの撮像用画素値は[数10]に記載の式にあるB24とB64とを用いる。一方、R及びGの画素値については、Bの撮像用画素B24とB64との位置におけるR及びGの画素値を、[数15]に記載の4つの式を用いて補間計算する。
[数15]
(1)RB24=(R13+R15+R33+R35)/4
(2)GB24=(G14+G23+G25+G34)/4
(3)RB64=(R53+R55+R73+R75)/4
(4)GB64=(G54+G63+G65+G74)/4
(1)RB24=(R13+R15+R33+R35)/4
(2)GB24=(G14+G23+G25+G34)/4
(3)RB64=(R53+R55+R73+R75)/4
(4)GB64=(G54+G63+G65+G74)/4
そして、AF画素補間部50は、撮像用画素B24及びB64の位置における白色光の画素値W24及びW64を、ワークメモリ13に記憶された色成分毎の加重係数を読み出し(S−21)、読み出した加重係数、すなわち、R、G及びGの加重係数WR、WG、及びWBを用いて、[数16]に記載の式の加重和によって算出する。
[数16]
W24=WR×RB24+WG×GB24+WB×B24
W64=WR×RB64+WG×GB64+WB×B64
そして、画像処理部30は、Y44における白色光の平均画素値<W44>=(W24+W64)/2を算出する(S−22)。
W24=WR×RB24+WG×GB24+WB×B24
W64=WR×RB64+WG×GB64+WB×B64
そして、画像処理部30は、Y44における白色光の平均画素値<W44>=(W24+W64)/2を算出する(S−22)。
各色成分の加重係数は、AF画素の分光感度とその周囲の撮像用画素の分光感度によって異なる。また、レンズ条件であるF値、及びPO値が変わったとき、光の集光が変化するため、加重係数WR,WG、及びWBが変化する。そのため、各色成分に対するレンズ条件毎の加重係数を記述したテーブルを、撮像素子の分光感度特性(撮像素子の特性)毎にもつことが望ましい。
そこで、CPU11は、撮像素子14の分光特性の種別を表す撮像素子情報を、図示しないインタフェースを介して撮像素子情報入力部53(図1参照)から撮影毎に取り込む。これにより、CPU11は、撮影時に、撮像素子14の特性に応じた色成分毎のテーブルを不揮発性メモリ12に記憶のテーブル群から選択し、選択した色成分毎のテーブルを参照してレンズ条件に応じた加重係数を求める。なお、加重係数WR、WG、及びWBの詳しい求め方については後述する。
AF画素補間部50は、左側からの光束に感度を有するX45等のAF画素における白色光の平均画素値<W45>等を、ステップ(S−22)の場合と同様に、近傍にある色成分R、G及びBの撮像用画素の画素値を用いて算出する(S−23)。ステップ(S−17)において、画像処理部30が方向変動H2を最小であると判定した場合、Gの撮像用画素の画素値は、[数11]に記載の式にあるG25とG65とを用いる。一方、R及びBの画素値については、Gの撮像用画素G25とG65との位置におけるR及びBの画素値を[数17]に記載の4つの式を用いて補間計算する。
[数17]
(1)RG25=(R15+R35)/2
(2)BG25=(B24+B26)/2
(3)RG65=(R55+R75)/2
(4)BG65=(B64+G66)/2
(1)RG25=(R15+R35)/2
(2)BG25=(B24+B26)/2
(3)RG65=(R55+R75)/2
(4)BG65=(B64+G66)/2
そして、AF画素補間部50は、撮像用画素G25及びG65の位置における白色光の画素値W25及びW65を、[数18]に記載の式の加重和によって算出する。
[数18]
W25=WR×RG25+WG×G25+WB×BG25
W65=WR×RG64+WG×G25+WB×BG65
そして、画像処理部30は、X45における白色光の平均画素値<W45>=(W25+W65)/2を算出する(S−23)。
W25=WR×RG25+WG×G25+WB×BG25
W65=WR×RG64+WG×G25+WB×BG65
そして、画像処理部30は、X45における白色光の平均画素値<W45>=(W25+W65)/2を算出する(S−23)。
AF画素補間部50は、撮像素子2の各AF画素における白色光の画素値の高周波成分を、(S−22)及び(S−23)において求めた白色光の平均画素値を用いて求める(S−24)。AF画素補間部50は、撮像素子14の各AF画素の画素値から、各AF画素の画素位置における白色光の平均画素値を最初に求める。つまり、各AF画素の画素値は、左側又は右側からの光束を瞳分割した値である。したがって、各AF画素の位置における白色光の画素値を得るためには、左側及び右側からの光束の画素値を互いに加算する必要がある。そこで、本実施形態のAF画素補間部50は、各AF画素の画素値及び隣接するAF画素の画素値を用いて、例えば、AF画素Y44やX45の位置における白色光の平均画素値を[数19]に記載の式を用いて算出する。
[数19]
<W44>’=W44+(W43+W45)/2
<W45>’=W45+(W44+W46)/2
<W44>’=W44+(W43+W45)/2
<W45>’=W45+(W44+W46)/2
なお、ステップ(S−24)で説明した[数19]において、AF画素の配列方向に隣接するAF画素の画素値を用いて、各AF画素の位置における白色光の画素値を算出するので、配列方向に強い変動がある場合には、高周波成分の計算が不正確になり、白色光の画素値の配列方向の解像力が失われるおそれがある。そこで、前述したステップ(S−18)では、配列方向に強い変動がある場合に、高周波成分の付加を中止するようにしている。
その後、AF画素補間部50は、[数20]に記載の式から、Y44及びX45の位置における白色光の高周波成分HFY44及びHFX45を求める。
[数20]
HFY44=<W44>’−<W44>
HFX45=<W45>’−<W45>
HFY44=<W44>’−<W44>
HFX45=<W45>’−<W45>
AF画素補間部50は、ステップ(S−24)で求めた各AF画素の位置における白色光の画素値の高周波成分HFがその白色光の画素値に占める割合が、閾値th3(本実施形態では、例えば、10%程度)より小さいか否かを判定する(S−25)。閾値th3より高周波成分HFが小さい場合(YES側)、AF画素補間部50は、ステップS−22及びS−23で求めたBY44及びGX45の補間した値をY44及びX45における撮像用画素値とし、画像データを更新する。画像処理部30は、更新した画像データに対して3色の画素補間を施して3色の画像データを生成し、3色の画像データを、バス31介してSDRAM32に格納する(S−19)。
一方、高周波成分HFが閾値th3以上の場合(NO側)、AF画素補間部50は、ステップ(S−26)へ移行する。なお、閾値th3の値についての説明は、後の加重係数WR、WG及びWBの説明とともに行う。
AF画素補間部50は、Y44やX45の近傍における各色成分R、G又はBの撮像用画素の画素値の色変動VR、VGr、VB及びVGbを算出する(S−26)。ここで、色変動VGr及びVGbは、R又はBの撮像用画素の位置におけるGの色変動を示す。AF画素補間部50は、[数21]に記載の2つの式に基づいて、色変動VRとVGrとを求める。
AF画素補間部50は、Y44やX45の近傍における各色成分R、G又はBの撮像用画素の画素値の色変動VR、VGr、VB及びVGbを算出する(S−26)。ここで、色変動VGr及びVGbは、R又はBの撮像用画素の位置におけるGの色変動を示す。AF画素補間部50は、[数21]に記載の2つの式に基づいて、色変動VRとVGrとを求める。
[数21]
(1)VR =|R33−R53|+|R35−R55|+|R37−R57|
(2)VGr=|(G32+G34)/2−(G52+G54)/2|+|(G34+G36)/2−(G54+G56)/2|+|(G36+G38)/2−(G56+G58)/2|
(1)VR =|R33−R53|+|R35−R55|+|R37−R57|
(2)VGr=|(G32+G34)/2−(G52+G54)/2|+|(G34+G36)/2−(G54+G56)/2|+|(G36+G38)/2−(G56+G58)/2|
なお、本実施形態のAF画素補間部50は、Rの撮像用画素の位置R33、R35、R37、R53、R55及びR57におけるGの画素値の平均値を求めてからVGrの値を計算する。
一方、AF画素補間部50は、[数22]に記載の2つの式に基づいて、色変動VBとVGbとを求める。
一方、AF画素補間部50は、[数22]に記載の2つの式に基づいて、色変動VBとVGbとを求める。
[数22]
(1)VB =|B22−B62|+|B24−B64|+|B26−B66|
(2)VGb=|(G21+G23)/2−(G61+G63)/2|+|(G23+G25)/2−(G63+G65)/2|+|(G25+G27)/2−(G65+G67)/2|
(1)VB =|B22−B62|+|B24−B64|+|B26−B66|
(2)VGb=|(G21+G23)/2−(G61+G63)/2|+|(G23+G25)/2−(G63+G65)/2|+|(G25+G27)/2−(G65+G67)/2|
なお、本実施形態のAF画素補間部50は、Bの撮像用画素の位置B22、B24、B26、B62、B64及びB66におけるGの画素値の平均値を求めてからVGbの値を計算する。
AF画素補間部50は、ステップ(S−26)で算出した色変動VR、VGr、VB及びVGbを用いて、色成分G及びBの白色光に対する色変動率KWG及びKWBを算出する(S−27)。まず、AF画素補間部50は、色変動VR、VGr、VB及びVGbから[数23]に記載の3つの式から色変動VR2、VG2及びVB2を求める。
[数23]
(1)VR2=(VR+α)×(VGb+α)
(2)VB2=(VB+α)×(VGr+α)
(3)VG2=(VGb+α)×(VGr+α)
(1)VR2=(VR+α)×(VGb+α)
(2)VB2=(VB+α)×(VGr+α)
(3)VG2=(VGb+α)×(VGr+α)
ここで、αは、色変動率の値を安定させるための適当な定数であり、例えば、12ビット画像を処理する場合には、α=256程度の値にすれば良い。
そして、画像処理部30は、色変動VR2、VG2及びVB2を用いて、[数24]に記載の式により白色光における色変動VWを算出する。
そして、画像処理部30は、色変動VR2、VG2及びVB2を用いて、[数24]に記載の式により白色光における色変動VWを算出する。
[数24]
VW=VR2+VG2+VB2
よって、AF画素補間部50は、色変動率KWG及びKWBを[数25]から算出する。
[数25]
KWB=VG2/VW
KWB=VB2/VW
VW=VR2+VG2+VB2
よって、AF画素補間部50は、色変動率KWG及びKWBを[数25]から算出する。
[数25]
KWB=VG2/VW
KWB=VB2/VW
AF画素補間部50は、ステップ(S−24)において求めた各AF画素の位置における白色光の画素値の高周波成分HFと、ステップ(S−27)で算出した色変動率KWG及びKWBとを用いて、各AF画素の位置における色成分G及びBの画素値の高周波成分を[数26]に記載の式から算出する(S−28)。
[数26]
HFBY44=HFY44×KWB
HFGX45=HFX45×KWG
HFBY44=HFY44×KWB
HFGX45=HFX45×KWG
AF画素補間部50は、ステップ(S−28)で求めた各AF画素における各色成分の高周波成分を、ステップ(S−17)で補間して求めた撮像用画素値に付加する(S−29)。CPU11は、例えば、[数27]に記載の式に基づいて、Y44及びX45の撮像用画素値B’及びG’をそれぞれ算出する。
[数27]
B’Y44=BY44+HFBY44
G’X45=GX45+HFGX45
B’Y44=BY44+HFBY44
G’X45=GX45+HFGX45
AF画素補間部50は、Y44やX45等のAF画素の位置において補間して求めたB’Y44及びG’X45等の画素値を、それぞれの位置における撮像用画素値として、画像データを更新する。画像処理部30は、更新した画像データに対して3色に画素補間等を施してSDRAM32に格納する(S−19)。
なお、AF画素の配列方向に変動はなくても、各色成分の撮像用画素の分光特性の加重和とAF画素の分光特性とのズレ等に起因して、白色光の画素値の高周波成分が若干の誤差を持つ。垂直走査方向(AF画素の配列方向に交わる方向)に画像の大きな変動がない場合には、高周波成分を付加しなくても補間値の精度は充分であり、高周波成分を付加することによってかえって誤差に起因する偽構造が生じる恐れがある。そこで、ステップ(S−20)では、そのような場合、高周波成分の付加を抑制する。また、算出された高周波成分が充分小さい場合には、それを付加しなくても補間値の精度は充分であり、高周波成分を付加することによってかえって誤差に起因する偽構造が生じるおそれがある。このため、(S−20)では、そのような場合に高周波成分の付加を抑制するようにしている。
[加重係数WR、WG、WBの求め方]
次に、加重係数WR、WG、WBの求め方について、閾値th3とともに説明する。まず、図9に示すように、レンズ交換式の電子カメラ(製品)10、又はそれに組み込まれたものと同じ特性の撮像素子を組み込んだダミーの電子カメラを撮影位置にセットする(S−30)。そして、セットした電子カメラ10で、一様の白色パターンの画像を撮像し(S−31)、撮像した補完前(ベイヤー配列)の画像データを保存する(S−32)。この撮像は、所定の交換レンズを用いた条件、すなわち、撮影時のF値と交換レンズで決まる射出瞳位置(PO値)との条件で行われる。
次に、加重係数WR、WG、WBの求め方について、閾値th3とともに説明する。まず、図9に示すように、レンズ交換式の電子カメラ(製品)10、又はそれに組み込まれたものと同じ特性の撮像素子を組み込んだダミーの電子カメラを撮影位置にセットする(S−30)。そして、セットした電子カメラ10で、一様の白色パターンの画像を撮像し(S−31)、撮像した補完前(ベイヤー配列)の画像データを保存する(S−32)。この撮像は、所定の交換レンズを用いた条件、すなわち、撮影時のF値と交換レンズで決まる射出瞳位置(PO値)との条件で行われる。
続いて同じレンズ条件で、前記一様白色のパターンの画像を、カラーフィルタ(R,G,B)を用いて撮影をする(S−33)。そして、撮影した補完前の画像データを保存する(S−34)。なお、撮像データの保存は、必ずしも電子カメラ10のメモリや記憶部で行う必要はない。例えば電子カメラ10の組み立て・調整工程において外付けのパーソナルコンピュータ(PC)に転送して保存しても良い。
その後、周囲の撮像用画素値の重み付け加重和からAF画素値を推定するための各色成分の重み係数を算出する(S−35)。
詳しく説明すると、一様白色パターン画像を撮影した時に得た画像データに基づいて算出するパラメータを以下に設定する。
AW:AF画素値の平均の出力値。
RW:AF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:AF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:AF画素列の周囲のB色成分の撮像用画素値の平均値。
AW:AF画素値の平均の出力値。
RW:AF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:AF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:AF画素列の周囲のB色成分の撮像用画素値の平均値。
続いて、R色成分のカラーフィルタを用いて撮影した時に得た画像データに基づいて算出するパラメータを以下に設定する。
AR:AF画素値の平均の出力値。
RR:AF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:AF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:AF画素列の周囲のB色成分の撮像用画素値の平均値。
AR:AF画素値の平均の出力値。
RR:AF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:AF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:AF画素列の周囲のB色成分の撮像用画素値の平均値。
続いてG、Bのカラーフィルタを用いたときも同様に設定する。ここでは、一般化するために以下のように表す。
AC:AF画素値の平均の出力値
RC:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のB色成分の撮像用画素値の平均値。
AC:AF画素値の平均の出力値
RC:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のB色成分の撮像用画素値の平均値。
そして、周囲の撮像用画素のある重みの加重和からAF画素値を推定するには、未知の加重係数WR、WG、及びWBの関数として二乗誤差Eを[数28]に記載の式に定義する。
WR:AF画素列の周囲のR色成分の撮像用画素の重み係数
WG:AF画素列の周囲のG色成分の撮像用画素の重み係数
WB:AF画素列の周囲のB色成分の撮像用画素の重み係数
WG:AF画素列の周囲のG色成分の撮像用画素の重み係数
WB:AF画素列の周囲のB色成分の撮像用画素の重み係数
そして、二乗誤差Eを最小とする加重係数WR、WG及びWBを、すなわち二乗誤差EをWR、WG又はWBでそれぞれ偏微分した値を「0」にする加重係数WR、WG及びWBを[数29]〜[数34]に記載の式により求める。
さらに、求めた加重係数WR、WG及びWBに基づいて各撮像画像データnについて誤差率Knを[数35]に記載の式で求める。
[数35]
Kn=|WR×Rn+WG×Gn+WB×Bn−Wn|/Wn
Kn=|WR×Rn+WG×Gn+WB×Bn−Wn|/Wn
そして、Knの最大値を求め、閾値th3として不揮発性メモリ12に記録する。
このようにして、所定のレンズ条件の時に使用する加重係数WR、WG、及びWBを求めることができる。
このようにして、所定のレンズ条件の時に使用する加重係数WR、WG、及びWBを求めることができる。
前述したように、各色成分の加重係数は、AF画素の分光感度とその周囲の撮像用画素の分光感度によって異なる。また、レンズ条件であるF値、及びPO値が変わったとき、光の集光が変化するため、加重係数WR,WG、及びWBが変化する。そのため、各色成分に対するレンズ条件毎の加重係数を記述したテーブルを、撮像素子の分光感度特性(撮像素子の特性)毎に作成しておく。
しかしながら、各色成分に対するレンズ条件毎に加重係数を記述するテーブル([表3])を色成分毎に記憶するのは無駄にメモリを消費するだけで効率的ではない。
そこで、本実施形態では、所定のレンズ条件の時に使用する基準の加重係数WR、WG、及びWBのみを記述した基準パラメータ、又は基準テーブルと、他のレンズ条件の時に使用する加重係数を基準の加重係数との差分を記述した色成分毎の差分テーブルとを持つ構成としてもよい。
例えば[表4]に示すように、R色成分用基準テーブルには、F値が「4」で、PO値が「20」のレンズ条件の時に使用する加重係数が「222」であることが記述されている。そして、R色成分の差分テーブルには、[表5]に示すように、他のレンズ条件の時に使用する加重係数を算出するための基準の加重係数との差分値が記述されている。
このように、基準パラメータ、又は基準テーブルと差分テーブルとは、種々のレンズ条件にて実験を行った結果に基づいて作成されてPCの記憶部に記憶される(S−35〜S−38)。勿論、R色成分用だけでなく、G色成分とB色成分にも同様の基準テーブルと差分テーブルが作成され、これらは色成分毎に関連付けしてPCの記憶部に記憶される。そして、他の特性の撮像素子をもつ電子カメラに対しても前述したと同じ実験を行って、色成分毎の基準テーブルと、差分テーブルとを作成して記憶する(S−39)。全ての特性の撮像素子に対して実験を行うことで、撮像素子の特性に関連付けした色成分毎の基準テーブルと差分テーブルとが電子カメラに転送され、不揮発性メモリ12に記憶される(S−40)。その後、電子カメラ10が出荷される(S−41)。
これによれば、例えば、撮像素子を内蔵の交換レンズ15を交換自在に使用するカメラや製造途中で行われえる撮像素子の設計変更等により撮像素子が変更されても、その撮像素子の分光感度特性を含む撮像素子情報を得ることで、その撮像素子の特性に応じた色成分毎の基準テーブルと差分テーブルとを選択して加重係数を求めることができる。
また、レンズ交換がなされて他のレンズ条件になっても、差分テーブルからそのレンズ条件に応じた差分を読み出し、読み出した差分を基準の加重係数に加えることで、その時点のレンズ条件時に使用する加重係数を色成分毎に直ぐに求めることができる。しかも、差分テーブルには、提供されている交換式の撮影レンズ24の種別に応じたレンズ条件に加えて、将来的に提供されると予測される交換レンズに応じたレンズ条件についても予め実験により差分を求めておくことができるので簡便である。
なお、加重係数を求める処理は、必ずしも電子カメラ本体内で行う必要はない。例えば加重係数の算出は、カメラの組み立て・調整工程において外付けのパーソナルコンピュータで行い、求めた基準テーブルと差分テーブルとをカメラに転送しても良い。
また、差分テーブルとしては、略同じ差分をもつレンズ条件の範囲をグループ分けして記憶することで差分テーブルを簡易化してもよい。
図10は、本実施形態の効果が発揮される画像構造の一例を表す。同図は凸構造(明るい線あるいは点)を含む縦5画素の画像構造を縦断した図であり、横軸は垂直走査方向(y座標)であり縦軸は光量または画素値である。そして、凸構造がちょうど水平走査方向に配列されたAF画素列上にある。
図10に示す○印は、Gの撮像用画素で撮像された画素値である。ただし、AF画素の位置にはGの撮像用画素が存在しないので、その位置でのGの画素値は得られない。従って、丁度AF画素の位置に凸構造がある場合には、AF画素の近傍のGの撮像用画素の画素値からだけでは、同図の凸構造を再現できない。実際、前述したステップ(S−17)において、AF画素の近傍のGの撮像用画素の画素値を用いてAF画素の位置で補間して求めたGの画素値(図10の●印)は、凸構造を再現していない。
一方、AF画素の位置では、白色光の画素値が得られる。ただし、通常の画素は瞳の全領域を通過する光を受光するのに対し、AF画素は瞳の右側あるいは左側を通過する光のみを受光するので、瞳分割の異なる隣接するAF画素を加算することにより通常の(瞳の全領域を通過した光の)白色光の画素値が算出される([数19])。
また、AF画素の近傍のGの撮像用画素の位置に、他の色成分R及びBを補間生成して、色成分R、G及びBの加重和を求めることにより、多くの場合には充分な精度で白色光の画素値を求めることができる([数16]及び[数18])。
図10に示す□印は、そのようにして求めた白色光の画素値の分布である。多くの場合、白色光の画素値の高周波成分と、色成分Gの画素値の高周波成分とは比例するので、白色光の画素値から算出した高周波成分は、Gの画素値の凸構造成分の情報を持つ。よって、白色光の画素値の高周波成分に基づいてGの画素値の高周波成分を求め、その値を●印のデータに加えることにより、☆印のGの画素値が得られ、凸構造を再現する([数26])。
[第3画素補間処理]
次に、第3画素補間処理について図11を参照しながら説明する。AF画素補間部50は、ノイズ判定部51での判定結果によりノイズが少なく、かつフレア判定部52でのフレアが発生し易いと判断する場合、第3画素補間処理を選択して実行する。
次に、第3画素補間処理について図11を参照しながら説明する。AF画素補間部50は、ノイズ判定部51での判定結果によりノイズが少なく、かつフレア判定部52でのフレアが発生し易いと判断する場合、第3画素補間処理を選択して実行する。
第3画素補間処理では、まず、AF画素補間部50が、撮像素子情報入力部53から撮像素子情報を取得して、不揮発性メモリ12から、取得した撮像素子情報に基づいたAF画素の位置情報を読み取ってAF画素の位置を特定する。その後、AF画素の周囲の撮像用画素値を重み係数により補正し、補正した撮像用画素値を平滑化する処理を、撮像用画素値に対する重み係数を変えて2回行った後、前述した第2画素補間処理を実行する。以下、図3のAF画素X43及びAF画素Y44の2列に対する第3画素補間処理について説明する。
(AF画素列の周囲の撮像用画素値を重み係数により補正)
AF画素補間部50は、AF画素列の周囲に配置された撮像用画素の画素値が、閾値MAX_RAW以上となるか否かを判定し、その判定結果に基づいて、設定された重み係数を用いて補正する(S−42)。ここで、閾値MAX_RAWは、画素値が飽和しているか否かを判定するための閾値である。
AF画素補間部50は、AF画素列の周囲に配置された撮像用画素の画素値が、閾値MAX_RAW以上となるか否かを判定し、その判定結果に基づいて、設定された重み係数を用いて補正する(S−42)。ここで、閾値MAX_RAWは、画素値が飽和しているか否かを判定するための閾値である。
AF画素補間部50は、撮像用画素の画素値が閾値MAX_RAW以上となる場合には、撮像用画素値に対して補正は行わない。一方、AF画素補間部50は、撮像用画素の画素値が、閾値MAX_RAW未満となる場合には、重み係数を用いた加重和の値を元の画素値から減算することで撮像用画素の画素値を補正する。
AF画素補間部50は、R色成分の撮像用画素の画素値を[数36]〜[数39]を用いて補正する。
[数36]
R13’=R13−(R3U_0×R33+R3U_1×G34+R3U_2×B24)
[数37]
R33’=R33−(R1U_0×R33+R1U_1×G34+R1U_2×B24)
R13’=R13−(R3U_0×R33+R3U_1×G34+R3U_2×B24)
[数37]
R33’=R33−(R1U_0×R33+R1U_1×G34+R1U_2×B24)
[数38]
R53’=R53−(R1S_0×R53+R1S_1×G54+R1S_2×B64)
[数39]
R73’=R73−(R3S_0×R53+R3S_1×G54+R3S_2×B64)
R53’=R53−(R1S_0×R53+R1S_1×G54+R1S_2×B64)
[数39]
R73’=R73−(R3S_0×R53+R3S_1×G54+R3S_2×B64)
ここで、R1U_0,R1U_1,R1U_2,R1S_0,R1S_1,R1S_2,R3U_0,R3U_1,R3U_2,R3S_0,R3S_1,R3S_2は、重み係数である。なお、重み係数中、文字Sは、AF画素よりも上方に位置することを示し、文字Uは、AF画素よりも下方に位置することを示している。
AF画素補間部50は、G色成分の撮像用画素の画素値を[数40]〜[数45]を用いて補正する。
[数40]
G14’=G14−(G3U_0×R33+G3U_1×G34+G3U_2×B24
[数41]
G23’=G23−(G2U_0×R33+G2U_1×G34+G2U_2×B24)
G14’=G14−(G3U_0×R33+G3U_1×G34+G3U_2×B24
[数41]
G23’=G23−(G2U_0×R33+G2U_1×G34+G2U_2×B24)
[数42]
G34’=G34−(G1U_0×R33+G1U_1×G34+G1U_2×B24)
[数43]
G54’=G54−(G1S_0×R53+G1S_1×G54+G1S_2×B64)
G34’=G34−(G1U_0×R33+G1U_1×G34+G1U_2×B24)
[数43]
G54’=G54−(G1S_0×R53+G1S_1×G54+G1S_2×B64)
[数44]
G63’=G63−(G2S_0×R53+G2S_1×G54+G2S_2×B64)
[数45]
G74’=G74−(G3S_0×R53+G3S_1×G54+G3S_2×B64)
G63’=G63−(G2S_0×R53+G2S_1×G54+G2S_2×B64)
[数45]
G74’=G74−(G3S_0×R53+G3S_1×G54+G3S_2×B64)
ここで、G1U_0,G1U_1,G1U_2,G1S_0,G1S_1,G1S_2,G2U_0,G2U_1,G2U_2,G2S_0,G2S_1,G2S_2,G3U_0,G3U_1,G3U_2,G3S_0,G3S_1,G3S_2は、重み係数である。
また、AF画素補間部50は、B色成分の撮像用画素の画素値を、[数46],[数47]を用いて補正する。
[数46]
B24’=B24−(B2U_0×R33+B2U_1×G34+B2U_2×B24)
[数47]
B64’=B64−(B2S_0×R53+B2S_1×G54+B2S_2×B64)
B24’=B24−(B2U_0×R33+B2U_1×G34+B2U_2×B24)
[数47]
B64’=B64−(B2S_0×R53+B2S_1×G54+B2S_2×B64)
ここで、B2U_0,B2U_1,B2U_2,B2S_0,B2S_1,B2S_2は重み係数である。
(隣接するAF画素値を用いたクリップ量の算出)
AF画素補間部50は、隣接するAF画素X43,Y44(図2で説明したセンサ開口部46a,46bをもつAF画素)の画素値を読み出し、[数48]を用いてクリップ量th_LPFを求める(S−43)。
AF画素補間部50は、隣接するAF画素X43,Y44(図2で説明したセンサ開口部46a,46bをもつAF画素)の画素値を読み出し、[数48]を用いてクリップ量th_LPFを求める(S−43)。
[数48]
th_LPF=(X43+Y44)×K_TH_LPF
th_LPF=(X43+Y44)×K_TH_LPF
ここで、K_TH_LPFは係数であり、例えば「127」程度の大きな値が適用される。この係数K_TH_LPFは、その値が大きいほど平滑化処理の効果が高くなる。
(色成分毎の予測誤差を算出)
AF画素補間部50は、[数49]、[数50]を用いて、同一列に配置された同一の色成分となる撮像用画素のうち、AF画素から遠い位置にある撮像用画素(遠位撮像用画素)の画素値と、AF画素から近い位置にある撮像用画素(近位撮像用画素)の画素値との差分を予測誤差として算出する(S−44)。
AF画素補間部50は、[数49]、[数50]を用いて、同一列に配置された同一の色成分となる撮像用画素のうち、AF画素から遠い位置にある撮像用画素(遠位撮像用画素)の画素値と、AF画素から近い位置にある撮像用画素(近位撮像用画素)の画素値との差分を予測誤差として算出する(S−44)。
[数49]
deltaRU=R13’−R33’
deltaRS=R73’−R53’
[数50]
deltaGU=G14’−G34’
deltaGS=G74’−R54’
deltaRU=R13’−R33’
deltaRS=R73’−R53’
[数50]
deltaGU=G14’−G34’
deltaGS=G74’−R54’
(予測誤差がクリップ範囲から越えているか否かを判定)
AF画素補間部50は、[数49]、[数50]により求めた予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSの各値が、[数48]にて求めたクリップ量に基づいたクリップ範囲(−th_LPF〜th_LPF)に含まれている否かを判定する(S−45)。
AF画素補間部50は、[数49]、[数50]により求めた予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSの各値が、[数48]にて求めたクリップ量に基づいたクリップ範囲(−th_LPF〜th_LPF)に含まれている否かを判定する(S−45)。
(クリップ処理)
AF画素補間部50は、予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSのうち、クリップ範囲から外れている予測誤差に対して、クリップ処理を行う(S−46)。ここで、クリップ処理とは、クリップ範囲から外れている予測誤差の値をクリップ範囲に含まれるようにクリッピングすることである。
AF画素補間部50は、予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSのうち、クリップ範囲から外れている予測誤差に対して、クリップ処理を行う(S−46)。ここで、クリップ処理とは、クリップ範囲から外れている予測誤差の値をクリップ範囲に含まれるようにクリッピングすることである。
(近位撮像用画素値に予測誤差を加算)
AF画素補間部50は、[数51]により、予測誤差を各列の近位撮像用画素値に加算する(S−47)。ここで、予測誤差は、[数49],[数50]により求めた値、又は、クリッピングされた値である。
AF画素補間部50は、[数51]により、予測誤差を各列の近位撮像用画素値に加算する(S−47)。ここで、予測誤差は、[数49],[数50]により求めた値、又は、クリッピングされた値である。
[数51]
R33”=R33’+deltaRU
R53”=R53’+deltaRS
G34”=G34’+deltaGU
G54”=G54’+deltaGS
R33”=R33’+deltaRU
R53”=R53’+deltaRS
G34”=G34’+deltaGU
G54”=G54’+deltaGS
これにより、AF画素列の周囲の撮像用画素の画素値である、遠位撮像用画素及び近位撮像用画素の画素値がそれぞれ補正され、さらに、予測誤差を用いて近位撮像用画素の画素値が補正される。
(補正した撮像用画素値をSDRAMに記憶)
AF画素補間部50は、重み係数により補正された遠位撮像用画素と、予測誤差により補正された近位撮像用画素とを、SDRAM32に記憶する(S−48)。
AF画素補間部50は、重み係数により補正された遠位撮像用画素と、予測誤差により補正された近位撮像用画素とを、SDRAM32に記憶する(S−48)。
(2回目の処理)
1回目の処理が実行されると、2回目の処理が実行される。
1回目の処理が実行されると、2回目の処理が実行される。
(AF画素列の周囲の撮像用画素値を重み係数により補正)
AF画素補間部50は、1回目の処理により補正された撮像用画素の画素値を用いて、これら撮影用が素の画素値が閾値MAX_RAW以上となるか否かを判定する。この判定結果に基づいて、設定された重み係数を用いて補正する(S−49)。ここで、閾値MAX_RAWは、画素値が飽和しているか否かを判定するための閾値であり、1回目の処理(S−42)と同一の値が用いられる。
AF画素補間部50は、1回目の処理により補正された撮像用画素の画素値を用いて、これら撮影用が素の画素値が閾値MAX_RAW以上となるか否かを判定する。この判定結果に基づいて、設定された重み係数を用いて補正する(S−49)。ここで、閾値MAX_RAWは、画素値が飽和しているか否かを判定するための閾値であり、1回目の処理(S−42)と同一の値が用いられる。
AF画素補間部50は、撮像用画素の画素値が閾値MAX_RAW以上となる場合に、撮像用画素値に対して補正は行わない。AF画素補間部50は、撮像用画素の画素値が閾値MAX_RAW未満となる場合に、上述した[数36]〜[数47]における全ての重み係数を「0」に変えて補正する。つまり、この処理を行った場合、AF画素列の周囲に配置された撮像用画素の画素値は、元の値のままである。
[隣接するAF画素値を用いたクリップ量の算出]
AF画素補間部50は、隣接するAF画素X43,Y44の画素値を読み出し、上述した[数48]を用いてクリップ量th_LPFを求める(S−50)。ここで、K_TH_LPFの値は1回目の処理と同一の値が用いられる。
AF画素補間部50は、隣接するAF画素X43,Y44の画素値を読み出し、上述した[数48]を用いてクリップ量th_LPFを求める(S−50)。ここで、K_TH_LPFの値は1回目の処理と同一の値が用いられる。
(色成分毎の予測誤差を算出)
AF画素補間部50は、上述した[数47]、[数48]を用いて、同一列に配置された同一の色成分となる撮像用画素のうち、AF画素から遠い位置にある撮像用画素(遠位撮像用画素)の画素値と、AF画素から近い位置にある撮像用画素(近位撮像用画素)の画素値との差分を予測誤差として算出する(S−51)。
AF画素補間部50は、上述した[数47]、[数48]を用いて、同一列に配置された同一の色成分となる撮像用画素のうち、AF画素から遠い位置にある撮像用画素(遠位撮像用画素)の画素値と、AF画素から近い位置にある撮像用画素(近位撮像用画素)の画素値との差分を予測誤差として算出する(S−51)。
(予測誤差がクリップ範囲から越えているか否かを判定)
AF画素補間部50は、上述した[数49],[数50]により求めた予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSの各値が、[数48]にて求めたクリップ量に基づいたクリップ範囲(−th_LPF〜th_LPF)に含まれている否かを判定する(S−52)。
AF画素補間部50は、上述した[数49],[数50]により求めた予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSの各値が、[数48]にて求めたクリップ量に基づいたクリップ範囲(−th_LPF〜th_LPF)に含まれている否かを判定する(S−52)。
(クリップ処理)
AF画素補間部50は、予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSのうち、クリップ範囲から外れている予測誤差に対して、クリップ処理を行う(S−53)。
AF画素補間部50は、予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSのうち、クリップ範囲から外れている予測誤差に対して、クリップ処理を行う(S−53)。
(近位撮像用画素値に予測誤差を加算)
AF画素補間部50は、上述した[数51]を用いて、各列の近位撮像用画素値に加算する(S−54)。これにより、2回目の処理においては、近位撮像用画素値が予測誤差を用いて、さらに補正される。
AF画素補間部50は、上述した[数51]を用いて、各列の近位撮像用画素値に加算する(S−54)。これにより、2回目の処理においては、近位撮像用画素値が予測誤差を用いて、さらに補正される。
(補正した撮像用画素値をSDRAMに記憶)
AF画素補間部50は、重み係数により補正された遠位撮像用画素と、予測誤差により補正された近位撮像用画素とを、SDRAM23に記憶する(S−55)。
AF画素補間部50は、重み係数により補正された遠位撮像用画素と、予測誤差により補正された近位撮像用画素とを、SDRAM23に記憶する(S−55)。
このように、第3画素補間処理においては、上述した補正処理が2回繰り返し実行される。この補正処理が2回繰り返し実行された後、第2画素補間処理が実行される。
(第2画素補間処理)
AF画素補間部50は、SDRAM32に記憶した撮像用画素値を用いて、上述した第2画素補間処理を実行する(S−56)。これにより、AF画素に対応する撮像用画素値が算出される。つまり、AF画素値が補間される。
AF画素補間部50は、SDRAM32に記憶した撮像用画素値を用いて、上述した第2画素補間処理を実行する(S−56)。これにより、AF画素に対応する撮像用画素値が算出される。つまり、AF画素値が補間される。
(補間したAF画素の画素値をSDRAMに記憶)
AF画素補間部50は、第2画素補間処理(S−56)により補間したAF画素値をSDRAM32に記憶する(S−57)。
AF画素補間部50は、第2画素補間処理(S−56)により補間したAF画素値をSDRAM32に記憶する(S−57)。
上記実施形態では、ノイズ判定を行い、その結果、ノイズが少ないと判定した場合に、レンズ条件に応じたパラメータを設定して第2又は第3画素補間処理を行うようにしているが、ノイズ判定の処理を省略し、常にパラメータを設定して第2又は第3画素補間処理を実行するように構成してもよい。また、フレア判定を省略し、第2又は第3画素補間処理の何れか一方を常に実行してもよい。
上記各実施形態では、AF画素の配列方向を水平走査方向としたが、本発明はこれに限定されず、AF画素は垂直走査方向又はその他の方向に配列されていても良い。
また、上記各実施形態では、AF画素の各々は左側又は右側からの光束を瞳分割する焦点検出画素としたが、本発明はこれに限定されず、AF画素の各々は左側及び右側からの光束を瞳分割する画素を有する焦点検出画素でも良い。
上記各実施形態では、図2で説明したAF画素46に原色透過フィルタ26を設置していない例として説明している。しかしながら、本発明ではこれに限らず、AF画素46に、例えば緑(G)色の原色透過フィルタを設置してもよい。AF画素46に緑フィルタを設置する場合には、AF画素から緑フィルタを通した透過光の輝度に応じた検出信号が出力されるので、その信号を画素値として用いればよい。
上記各実施形態では、図5で説明したように、アダプタが有る場合にレンズ条件であるF値とPO値とを取得しているが、本発明ではこれに限らず、電源をオンすることに応答して、又は電源をオンした後にF値とPO値とを取り込んで予めワークメモリ等のRAMに記憶しておき、図5で説明したように、アダプタが有る場合(S−3)にRAMから読み出して使用するように構成してもよい。
さらに、上記各実施形態では、本発明を電子カメラ10として説明しているが、カメラ付き携帯電話やスマートフォン等の撮像装置としてもよい。また、本発明の記憶手段としては、不揮発性メモリ12の代わりに、外部から交換可能なカードメモリとしてもよい。
10…電子カメラ;12…不揮発性メモリ;14…撮像素子;15…交換レンズ;16…変換アダプタ;17…レンズ通信検出部;18…レンズ条件取得部;19…レンズ条件表示部;20…レンズ条件設定部
Claims (4)
- 複数の撮像用画素及び複数の焦点検出用画素を有し撮影レンズにより結像する被写体像を撮像する撮像素子と、
前記焦点検出用画素の位置を各々記憶するAF画素位置記憶手段と、
操作部と、
撮影時のレンズ条件を前記操作部からの操作に基づき設定するレンズ条件設定部と、
前記焦点検出用画素の画素値をその周囲の撮像用画素の画素値を用いて補間する時に使用するパラメータを、前記撮影時のレンズ条件毎に記憶する記憶手段と、
前記記憶手段を参照して前記レンズ条件設定部で設定された前記レンズ条件に基づいて前記パラメータを決めるパラメータ決定手段と、
前記パラメータ決定手段で決めたパラメータを用いて焦点検出用画素の位置に対する撮像用画素の画素値を補間する画素補間手段と、
を備えたことを特徴とする撮像装置。 - 請求項1記載の撮像装置において、
前記撮影レンズを保持する交換レンズが着脱自在に取り付けられるマウント部と、
前記マウント部に設けた電気的通信手段を介して前記交換レンズとの間でデータ通信の可否を検出するレンズ通信検出手段と、
前記レンズ通信検出手段が前記交換レンズとの間でデータ通信の不可を検出することに応答して、前記レンズ条件を設定するための画面を表示部に自動的に表示するレンズ条件表示手段と、
を備えることを特徴とする撮像装置。 - 請求項1又は2に記載の撮像装置において、
前記パラメータは、射出瞳距離と絞り値とで決まる加重係数となっていることを特徴とする撮像装置。 - 請求項1から3のいずれか1項に記載の撮像装置において、
前記パラメータは、画素の色成分毎に決められることを特徴とする撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013037086A JP2014164236A (ja) | 2013-02-27 | 2013-02-27 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013037086A JP2014164236A (ja) | 2013-02-27 | 2013-02-27 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014164236A true JP2014164236A (ja) | 2014-09-08 |
Family
ID=51614857
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013037086A Pending JP2014164236A (ja) | 2013-02-27 | 2013-02-27 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2014164236A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016058851A (ja) * | 2014-09-09 | 2016-04-21 | カシオ計算機株式会社 | 画像送信装置、画像送信方法及びプログラム |
-
2013
- 2013-02-27 JP JP2013037086A patent/JP2014164236A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016058851A (ja) * | 2014-09-09 | 2016-04-21 | カシオ計算機株式会社 | 画像送信装置、画像送信方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6040594B2 (ja) | 撮像装置、画像処理装置及び画像処理プログラム | |
JP5994778B2 (ja) | フレア判定装置、撮像装置及びフレア判定プログラム | |
JP5200955B2 (ja) | 画像処理装置、撮像装置及び画像処理プログラム | |
US6947080B2 (en) | Device for image processing, method of adjusting white-balance, and computer products | |
US8284278B2 (en) | Image processing apparatus, imaging apparatus, method of correction coefficient calculation, and storage medium storing image processing program | |
WO2014171304A1 (ja) | 撮像装置、撮像装置駆動方法、撮像装置制御プログラム | |
JP2014036262A (ja) | 撮像装置 | |
JP2010039759A (ja) | 撮像装置 | |
US8830378B2 (en) | Image capturing system and image capturing method, involving image restoration processing | |
JP5834542B2 (ja) | 撮像装置、画像処理装置、及びプログラム、並びに記録媒体 | |
US9143762B2 (en) | Camera module and image recording method | |
JP2013125046A (ja) | 撮像装置及びカメラシステム | |
JP5706705B2 (ja) | 画像処理装置およびその制御方法、ならびに撮像装置 | |
JP4994158B2 (ja) | 画像補正装置 | |
JP4718113B2 (ja) | ホワイトバランス調整方法および画像処理装置 | |
JP2013013006A (ja) | 撮像装置、撮像装置の製造方法、画像処理装置、及びプログラム、並びに記録媒体 | |
JP2014164236A (ja) | 撮像装置 | |
JP2016057474A (ja) | 撮像装置および焦点調節方法 | |
JP2013247597A (ja) | 画像処理装置、撮像装置及び画像処理プログラム | |
JP5412945B2 (ja) | 撮像素子、画像処理装置、撮像装置及び画像処理プログラム | |
WO2018020687A1 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US20230292004A1 (en) | Image processing apparatus, measurement method, and storage medium for measuring distance from image | |
JP2024000839A (ja) | 撮像装置および画像処理方法 | |
JP2012156751A (ja) | 画像処理装置 | |
JP2012134671A (ja) | 画像処理装置 |