JP2016029750A - 撮像装置、信号処理方法、信号処理プログラム - Google Patents

撮像装置、信号処理方法、信号処理プログラム Download PDF

Info

Publication number
JP2016029750A
JP2016029750A JP2012274684A JP2012274684A JP2016029750A JP 2016029750 A JP2016029750 A JP 2016029750A JP 2012274684 A JP2012274684 A JP 2012274684A JP 2012274684 A JP2012274684 A JP 2012274684A JP 2016029750 A JP2016029750 A JP 2016029750A
Authority
JP
Japan
Prior art keywords
phase difference
block
difference detection
correction gain
gain value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012274684A
Other languages
English (en)
Inventor
一文 菅原
Kazufumi Sugawara
一文 菅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2012274684A priority Critical patent/JP2016029750A/ja
Priority to PCT/JP2013/080992 priority patent/WO2014097792A1/ja
Publication of JP2016029750A publication Critical patent/JP2016029750A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Automatic Focus Adjustment (AREA)

Abstract

【課題】位相差検出用の画素の出力信号の補正精度を向上させる。
【解決手段】撮像用画素30及び位相差検出用画素31R,31Lを含む固体撮像素子3から出力される撮像画像信号を処理するデジタル信号処理部17は、AFエリア31を36分割し、各ブロック32について、位相差検出用画素31R,31Lそれぞれの補正ゲイン値を求める。36個のブロック32のうち、求めた補正ゲイン値の信頼性が低いブロック32については、そのブロック32の周囲にある信頼性の高い補正ゲイン値の得られたブロック32の当該補正ゲイン値を利用して、補正ゲイン値を生成する。
【選択図】図6

Description

本発明は、撮像装置、信号処理方法、信号処理プログラムに関する。
近年、CCD(Charge Coupled Device)イメージセンサ、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の固体撮像素子の高解像度化に伴い、デジタルスチルカメラ、デジタルビデオカメラ、携帯電話機、PDA(Personal Digital Assistant,携帯情報端末)等の撮影機能を有する情報機器の需要が急増している。なお、以上のような撮像機能を有する情報機器を撮像装置と称する。
主要な被写体に焦点を合わせる合焦制御方法には、コントラストAF(Auto Focus、自動合焦)方式や位相差AF方式がある。位相差AF方式は、コントラストAF方式に比べて合焦位置の検出を高速,高精度に行うことができるため、様々な撮像装置で多く採用されている。
位相差AF方式により合焦制御を行う撮像装置に搭載される固体撮像素子には、例えば、遮光膜開口が互いに逆方向に偏心した位相差検出用の画素のペアを受光面の全面に離散的に設けたものが使用される(特許文献1〜4参照)。
この位相差検出用の画素は、遮光膜開口の面積がその他の通常の画素(撮像用画素)よりも小さくなっているため、その出力信号を撮像画像信号として使用するには不十分なものとなる。そこで、位相差検出用の画素の出力信号を補正する必要が生じる。
特許文献1〜4は、位相差検出用の画素の出力信号を、その周りの通常の画素の出力信号を用いて補間生成する補間補正処理と、位相差検出用の画素の出力信号をゲイン増幅して補正するゲイン補正処理とを併用する撮像装置を開示している。
特開2009−44636号公報 特開2011−124704号公報 特開2011−81271号公報 特開2007−282108号公報
上述したゲイン補正処理に用いるゲイン値の算出方法は、位相差検出用画素の出力信号と撮像用画素の出力信号との比に基づいて求める方法が一例として挙げられる。しかし、この方法において、位相差検出用画素の出力信号や撮像用画素の出力信号が、飽和レベルに達していたり(白とび)、あまりにも小さい値(黒潰れ)であったりした場合には、求まるゲイン値の信頼性が低下するおそれがある。特許文献1〜4は、補正ゲイン値の生成方法については特に触れていない。
本発明は、上記事情に鑑みてなされたものであり、位相差検出用の画素の出力信号の補正精度を向上させることのできる撮像装置及び信号処理方法を提供することを目的とする。
本発明の撮像装置は、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子を有する撮像装置であって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理部と、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成部と、を備えるものである。
この構成によれば、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値が生成される。個々の位相差検出用画素毎にゲイン値を生成する場合は、ゲイン値の生成対象となる位相差検出用画素の周囲にある撮像用画素が白とびや黒つぶれしていた場合に、生成されるゲイン値は信頼性の低いものとなる。上記構成によれば、ブロックにある同一種類の位相差検出用画素のグループに対して、例えばそのグループの各位相差検出用画素の信号と、各位相差検出用画素の周囲にある撮像用画素の信号を用いて1つのゲイン値を生成することができるため、撮像用画素のいくつかが白とびや黒つぶれしていても、ゲイン値の信頼性に与える影響を減らすことができる。また、ブロックについて生成されるゲイン値の信頼性が低い場合でも、信頼性の高いゲイン値が生成されたブロックのそのゲイン値を用いて、信頼性の低いブロックのゲイン値を補間することも可能になる。このように、ブロック毎にゲイン値を管理することで、位相差検出用の画素の出力信号の補正精度を向上させることができる。
本発明の信号処理方法は、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号を処理する信号処理方法であって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理ステップと、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、を備えるものである。
本発明の信号処理プログラムは、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号をコンピュータにより処理するための信号処理プログラムであって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理ステップと、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、をコンピュータに実行させるためのプログラムである。
本発明によれば、位相差検出用の画素の出力信号の補正精度を向上させることのできる撮像装置及び信号処理方法を提供することができる。
本発明の一実施形態を説明するための撮像装置の一例としてのデジタルカメラの概略構成を示す図 図1に示すデジタルカメラに搭載される固体撮像素子3の概略構成を示す平面模式図 図1に示すデジタルカメラのデジタル信号処理部17の機能ブロック図 図1に示す固体撮像素子3の受光面を示す平面模式図 図1に示すデジタルカメラにおけるデジタル信号処理部17の動作を説明するためのフローチャート 図1に示すデジタルカメラにおけるデジタル信号処理部17の動作を説明するための図 図1に示すデジタルカメラにおけるデジタル信号処理部17の動作を説明するための図 撮像装置としてスマートフォンを説明する図 図8のスマートフォンの内部ブロック図
以下、本発明の実施形態について図面を参照して説明する。
図1は、本発明の一実施形態を説明するための撮像装置の一例としてのデジタルカメラの概略構成を示す図である。
図1に示すデジタルカメラの撮像系は、フォーカスレンズを含む撮影レンズ1及び絞り2を有する撮像光学系と、CCDイメージセンサやCMOSイメージセンサ等の固体撮像素子3とを備えている。このデジタルカメラは、図示しないマウント機構を有し、このマウント機構によって撮像光学系を着脱可能となっている。マウント機構を省略し、撮像光学系をデジタルカメラに固定としてもよい。
固体撮像素子3は、複数の撮像用画素と、撮像光学系の瞳領域の異なる部分を通過した一対の光束をそれぞれ受光する2種類の位相差検出用画素とを二次元状に配置した構成になっており、撮影レンズ1により結像される被写体像を受光して撮像画像信号を出力すると共に、上記一対の光束に対応する一対の像信号を出力する。
デジタルカメラの電気制御系全体を統括制御するシステム制御部11は、フラッシュ発光部12及び受光部13を制御する。また、システム制御部11は、レンズ駆動部8を制御して撮影レンズ1に含まれるフォーカスレンズの位置を調整する。更に、システム制御部11は、絞り駆動部9を介して絞り2の開口量を制御することにより、露光量の調整を行う。
また、システム制御部11は、撮像素子駆動部10を介して固体撮像素子3を駆動し、撮影レンズ1を通して撮像した被写体像を撮像画像信号として出力させる。システム制御部11には、操作部14を通してユーザからの指示信号が入力される。
デジタルカメラの電気制御系は、更に、固体撮像素子3の出力に接続された相関二重サンプリング処理等のアナログ信号処理を行うアナログ信号処理部6と、このアナログ信号処理部6から出力されるRGBの色信号をデジタル信号に変換するA/D変換回路7とを備える。アナログ信号処理部6及びA/D変換回路7は、システム制御部11によって制御される。
更に、このデジタルカメラの電気制御系は、メインメモリ16と、メインメモリ16に接続されたメモリ制御部15と、固体撮像素子3によって撮像して得られる撮像画像信号に対し、各種画像処理を行って撮影画像データを生成するデジタル信号処理部17と、デジタル信号処理部17で生成された撮影画像データをJPEG形式に圧縮したり圧縮画像データを伸張したりする圧縮伸張処理部18と、固体撮像素子3の2種類の位相差検出用画素から出力される一対の像信号の位相差に基づいて撮影レンズ1のデフォーカス量を算出する焦点検出部19と、着脱自在の記録媒体21が接続される外部メモリ制御部20と、カメラ背面等に搭載された表示部23が接続される表示制御部22とを備えている。メモリ制御部15、デジタル信号処理部17、圧縮伸張処理部18、焦点検出部19、外部メモリ制御部20、及び表示制御部22は、制御バス24及びデータバス25によって相互に接続され、システム制御部11からの指令によって制御される。
図2は、図1に示すデジタルカメラに搭載される固体撮像素子3の概略構成を示す平面模式図である。固体撮像素子3は、画素が二次元状に配置される受光面の全面又は一部に、位相差検出用画素が散在して設けられている。図2は、受光面のうちの、位相差検出用画素が設けられている部分を拡大した図を示している。
固体撮像素子3は、行方向X及びこれに直交する列方向Yに二次元状(図2の例では正方格子状)に配列された多数の画素(図中の各正方形)を備えている。多数の画素は、行方向Xに一定ピッチで並ぶ複数の画素からなる画素行を、列方向Yに一定のピッチで並べた配置となっている。多数の画素は、撮像用画素30と位相差検出用画素31Lと位相差検出用画素31Rとを含んでいる。各画素は光を受光して電荷に変換する光電変換部を含む。
撮像用画素30は、図1に示す撮影レンズ1の瞳領域の異なる2つの部分を通過した一対の光(例えば撮影レンズ1の主軸に対して左側を通過した光と右側を通過した光)の双方を受光する画素である。
位相差検出用画素31Lは、上記一対の光の一方を受光する画素であり、撮像用画素30と比較すると、光電変換部の開口(ハッチングを付していない領域)が左側に偏心した構成となっている。
位相差検出用画素31Rは、上記一対の光の他方を受光する画素であり、撮像用画素30と比較すると、光電変換部の開口(ハッチングを付していない領域)が右側に偏心した構成となっている。
なお、位相差検出用画素の構成は上述したものに限らず、よく知られている構成を採用することができる。
例えば、2つの画素に跨って1つのマイクロレンズを設けることで、この2つの画素に位相差検出用画素31R,31Lと同等の機能を持たせた構成としてもよい。また、光電変換部の開口は同じ構成とし、光電変換部上方に設けるマイクロレンズを行方向Xに互いに逆方向に偏心させることで、位相差検出用画素31R,31Lを構成してもよい。
また、ここでは、位相差検出用画素31R及び位相差検出用画素31Lによって、行方向Xに位相差を持つ一対の像信号を検出するものとしたが、遮光膜開口の偏心方向を例えば列方向Yにして、列方向Yに位相差を持つ一対の像信号を検出するようにしてもよい。
各画素に含まれる光電変換部の上方にはカラーフィルタが搭載されており、このカラーフィルタの配列が固体撮像素子3を構成する多数の画素全体でベイヤー配列となっている。
図2では、赤色(R)光を透過するカラーフィルタが搭載される画素に“R”を記している。また、緑色(G)光を透過するカラーフィルタが搭載される画素に“G”を記している。更に、青色(B)光を透過するカラーフィルタが搭載される画素に“B”を記している。なお、カラーフィルタは4色以上としてもよい。
位相差検出用画素31Lは、図2の上から3番目と9番目の画素行において、緑色(G)光を透過するカラーフィルタが搭載された画素の位置に3画素おきに配置されている。
位相差検出用画素31Rは、図2の上から4番目と10番目の画素行において、緑色(G)光を透過するカラーフィルタが搭載された画素の位置に3画素おきに配置されている。
斜め方向に隣接する位相差検出用画素31Lと位相差検出用画素31Rはペアを構成しており、固体撮像素子3の受光面には、このペアが複数設けられた構成となっている。位相差検出用画素のペアは隣接していなくてもよく、数画素程度離れていてもよい。
図1に示す焦点検出部19は、位相差検出用画素31L及び位相差検出用画素31Rから読み出される信号群を用いて、撮影レンズ1の焦点調節状態、ここでは合焦状態から離れている量とその方向、すなわちデフォーカス量を算出する。
図1に示すシステム制御部11は、焦点検出部19によって算出されたデフォーカス量に基づいて、撮像レンズ1に含まれるフォーカスレンズの位置を制御して焦点調節を行う。
焦点調節が行われた状態で撮影指示がなされると、システム制御部11は、固体撮像素子3により撮像を行わせ、この撮像によって固体撮像素子3から出力される撮像画像信号(各画素から出力される出力信号の集合)がデジタル信号処理部17に取り込まれる。
そして、デジタル信号処理部17は、この撮像画像信号に含まれる位相差検出用画素の出力信号を補正し、補正後の撮像画像信号をメインメモリ16に記録する。更に、デジタル信号処理部17は、記録した撮像画像信号を画像処理して、撮像画像データを生成する。この画像処理には、デモザイク処理、γ補正処理、ホワイトバランス調整処理等が含まれる。
図3は、図1に示すデジタルカメラにおけるデジタル信号処理部17の機能ブロック図である。
デジタル信号処理部17は、ゲイン補正処理部171と、補正ゲイン値生成部172と、画像処理部173と、を備える。これらは、デジタル信号処理部17に含まれるプロセッサがプログラムを実行することで形成される機能ブロックである。
ゲイン補正処理部171は、撮像画像信号に含まれる補正対象の位相差検出用画素(以下、補正対象画素という)の出力信号を当該出力信号に補正ゲイン値を乗じて補正するゲイン補正処理を行う。
補正ゲイン値生成部172は、ゲイン補正処理部171が用いる上記補正ゲイン値を、ライブビュー画像表示のための撮像によって得た撮像画像信号を用いて生成する。
画像処理部173は、補正後の補正対象画素の出力信号を含む撮像画像信号を画像処理して撮像画像データを生成し、記録媒体21に記録する。なお、画像処理部173は、補正後の撮像画像信号をRAWデータとしてそのまま記録媒体21に記録してもよい。
次に、補正ゲイン値生成部172について詳細に説明する。
補正ゲイン値生成部172は、図4に示すように、固体撮像素子3の受光面30におけるAFエリア31(位相差検出用画素のペアが配置される、焦点検出の対象となるエリア)を、位相差検出用画素31R、位相差検出用画素31L、及び撮像用画素31をそれぞれ含む複数個のブロック32(図4の例では6行×6列の36個)に分割する。
図4において、列方向Yに並ぶブロックからなる各ブロック列には、その上にC1、C2、・・・、C6の名称を記してある。また、行方向Xに並ぶブロックからなる各ブロック行には、その左にL1、L2、・・・、L6の名称を記してある。
上述したように、各ブロック32には、撮像用画素31と位相差検出用画素のペアとがそれぞれ複数個含まれている。各ブロック32に含まれる撮像用画素はほぼ同じとなっており、各ブロック32に含まれる位相差検出用画素のペアの数もほぼ同じとなっているが、これに限らない。
図5は、補正ゲイン値生成部172の補正ゲイン値の生成動作を説明するためのフローチャートである。図4に示した36個のブロックの各々には予め1〜36までの番号が付与されている。
固体撮像素子3によりライブビュー画像表示のための撮像が開始された後、操作部14に含まれるシャッタボタンの半押し操作により、AE(自動露出)及びAF(自動焦点調節)の指示が行われると、この指示の直後に固体撮像素子3から出力された撮像画像信号がメインメモリ16に記憶される。
撮像画像信号が記憶されると、補正ゲイン値生成部172は、ステップS1においてi=1とし、次のステップS2において、番号iのブロック(iブロック)にある全ての位相差検出用画素31Rと全ての撮像用画素31の出力信号値を抽出する。
次のステップS3において、補正ゲイン値生成部172は、抽出した出力信号値に、第一の閾値以上のレベルのものがあるか、又は、第二の閾値以下のレベルのものがあるか、を判定する。第一の閾値は画素の飽和レベルであり、第二の閾値は暗時ノイズ程度の小さな値である。つまり、ステップS3では、iブロック内の画素に飽和しているものや黒潰れしているものがあるかどうかを判定している。
ステップS3の判定がNOの場合、補正ゲイン値生成部172は、ステップS6において、iブロック内にある全ての位相差検出用画素31Rの出力信号値を積算する。
また、次のステップS7において、補正ゲイン値生成部172は、iブロックにある各位相差検出用画素31Rに最近接する少なくとも1個(好ましくは複数個)の同色を検出する撮像用画素(G色検出画素)31の出力信号値を積算する。例えば、位相差検出用画素31Rの周囲にある3つの撮像用画素を積算対象にすると、iブロックに位相差検出用画素31Rが10個あれば、3×10=30個の撮像用画素31の出力信号値を積算する。
次のステップS10で、補正ゲイン値生成部172は、ステップS6とステップS7で算出した2つの積算値の比(撮像用画素の積算値に所定係数を乗じたもの/位相差検出用画素の積算値)を、iブロックにおける位相差検出用画素31Rに対応する補正ゲイン値として生成し、これをメインメモリ16に記憶する。上記所定係数は、撮像用画素と位相差検出用画素の出力信号値の積算数の違いを考慮して決められる。
なお、ここでは、積算値の比から補正ゲイン値を求めたが、iブロックにある全ての位相差検出用画素31Rの出力信号値の平均値と、各位相差検出用画素31Rの周囲にある撮像用画素31の出力信号値の平均値との比から補正ゲイン値を求めてもよい。
ステップS10の後、補正ゲイン値生成部172は、ステップS11において、i=36か否かを判定する。そして、ステップS11の判定がNOであれば、補正ゲイン値生成部172は、ステップS12においてi=i+1に変更して、ステップS2以降の処理を行う。ステップS11の判定がYESであれば、処理を終了する。
ステップS3の判定がYESの場合、補正ゲイン値生成部172は、ステップS4において、iブロックにある位相差検出用画素31Rのうちの飽和又は黒潰れしている画素を除いた画素の数が第三の閾値以上であるか否かを判定する。
ステップS4の判定がYESの場合、補正ゲイン値生成部172は、ステップS5において、iブロックにある補正ゲイン値を求める際に信号値を積算(又は平均)する対象となる撮像用画素31(各位相差検出用画素31Rの周囲にある撮像用画素31)のうちの飽和又は黒潰れしている画素を除いた画素の数が第四の閾値以上であるか否かを判定する。
ステップS10で求める補正ゲイン値の信頼性を十分なものとするのに最低限必要な、位相差検出用画素の出力信号の積算数(平均値を求める対象となる信号値の数)と撮像用画素の出力信号の積算数(平均値を求める対象となる信号値の数)とはそれぞれ決めておくことができ、これらの値が上記第三の閾値、第四の閾値となる。
ステップS4の判定がNOの場合とステップS5の判定がNOの場合、補正ゲイン値生成部172は、iブロックにある位相差検出用画素31Rに対応する補正ゲイン値の生成は行わずに、ステップS11に進む。
ステップS5の判定がYESの場合、補間補正処理部172は、ステップS8において、iブロックにある位相差検出用画素31Rのうちの飽和又は黒潰れしている画素を除いた画素の出力信号値を積算する。
続くステップS9において、補正ゲイン値生成部172は、iブロックにある積算対象のG色検出の撮像用画素31のうちの飽和又は黒潰れしている画素を除いた画素の出力信号値を積算する。
ステップS9の後はステップS10に進み、補正ゲイン値生成部172は、ステップS8とステップS9で算出した2つの積算値を用いて、補正ゲイン値を生成する。
補正ゲイン値生成部172は、図5に示した処理フローを位相差検出用画素31Lについても同様に行う。つまり、図5の説明において、“位相差検出用画素31R”を“位相差検出用画素31L”に置き換えた動作が行われる。
このように、補正ゲイン値を、位相差検出用画素31Rと位相差検出用画素31Lとで別々に求めるのは、位相差検出用画素31Rと位相差検出用画素31Lとでは、受光面上の位置がほぼ同じでも、その感度に大きな差が生じている場合があるためである。
補正ゲイン値生成部172は、以上のようにしてブロック32毎に、位相差検出用画素31R(31L)に対応する補正ゲイン値の生成を試み、ステップS4又はステップS5の判定がNOとなったブロックについては、位相差検出用画素31R(31L)に対応する補正ゲイン値の生成は行わない。
図6と図7は、図5で説明した処理の結果を説明するための図である。図6,7は、図4に示した36個のブロック32を示している。図6,7では、各ブロック32に、補正ゲイン値が生成され記憶されている場合は“OK”を、補正ゲイン値が生成されずに記憶されていない場合は“NG”を記してある。
このように、補正ゲイン値がまだ生成されていないブロック32について、補正ゲイン値生成部172は、そのブロック32に対応する補正ゲイン値を、そのブロック32の周囲にある、既に補正ゲイン値が生成されているブロック32の当該補正ゲイン値を利用して生成する。
例えば、図6において、列C2かつ行L4のブロック32については、このブロック32に対して位相差検出用画素31R,31Lが位相差を検出する方向(行方向X)と直交する方向(列方向Y)にある他のブロック32(列C2かつ行L1,L2,L3,L5,L6のブロック32)について生成された補正ゲイン値を利用して、補正ゲイン値を生成する。
具体的には、列C2かつ行L1のブロック32、列C2かつ行L2のブロック32、列C2かつ行L3のブロック32、列C2かつ行L5のブロック32、及び、列C2かつ行L6のブロック32、の5つのブロック32について生成された5つの補正ゲイン値の平均値を算出し、この平均値を、列C2かつ行L4のブロック32の補正ゲイン値とする。
または、列C2かつ行L4のブロック32に対し列方向Yに最近接する2つのブロック(列C2かつ行L3のブロック32と、列C2かつ行L5のブロック32)について生成された2つの補正ゲイン値の平均値を算出し、この平均値を、列C2かつ行L4のブロック32の補正ゲイン値とする。
位相差検出用画素31R(又は31L)は、列方向Yにおいては、どの位置にあっても感度が同等になる。このため、補正ゲイン値が生成されていないブロック32については、そのブロック32を含むブロック列に含まれるブロック32に対応する補正ゲイン値を利用して補正ゲイン値を算出することで、補正ゲイン値の信頼性を高めることができる。
上記説明では、“NG”のブロック32を含むブロック列について求められた複数の補正ゲイン値の平均値を、当該ブロック32の補正ゲイン値としている。このように、列方向Yに並ぶ複数ブロックの補正ゲイン値を平均化することで、ブロック毎の被写体像の違いによる補正ゲイン値の差を吸収することができ、この点からも補正ゲイン値の信頼性を高めることができる。
なお、図7に示したように、ブロック列に含まれる全てのブロック32が“NG”となってしまった場合は、上述した方法によって補正ゲイン値を補間生成することはできなくなる。
そこで、このような場合には、補正ゲイン値生成部172は、“OK”のブロック32を含むブロック列であってブロック列C3に対して、位相差検出用画素31R,31Lが位相差を検出する方向(行方向X)に最近接する2つのブロック列(ブロック列C2,C4)を特定する。そして、特定した各ブロック列について生成された補正ゲイン値を用いて、ブロック列C3における各ブロック32に対応する補正ゲイン値を生成する。
例えば、補正ゲイン値生成部172は、ブロック列C2に属する6つのブロック32の補正ゲイン値の平均値Av1を算出し、ブロック列C4に属する6つのブロック32の補正ゲイン値の平均値Av2を算出する。行方向Xにおける列C1〜C6の位置を横軸にプロットし、列C1〜C6について求まる補正ゲイン値を縦軸にプロットして得られるグラフは線形性を有することが分かっている。このため、補正ゲイン値生成部172は、平均値Av1と平均値Av2とを用いた線形補間によって、列C3に対する補正ゲイン値を求めることができる。
このようにして、補正ゲイン値生成部172は、全てのブロック32に対して、位相差検出用画素31Rと位相差検出用画素31Lとにそれぞれ対応する補正ゲイン値を生成する。一旦補正ゲイン値を生成した後は、ゲイン補正処理部171が、補正対象画素が属するブロックかつ当該補正対象画素の種類に対応するゲイン値をメインメモリ16から読み出し、このゲイン値を、当該補正対象画素の出力信号に乗じることでゲイン補正処理を行う。
以上のように、図1に示すデジタルカメラによれば、あるブロック32において、位相差検出用画素や撮像用画素に白とびや黒潰れが多く発生しており、ステップS10の処理によって信頼性の高い補正ゲイン値を生成できない場合には、他のブロック32について求めた補正ゲイン値を利用して、信頼性の高い補正ゲイン値の生成が可能となる。したがって、位相差検出用画素の出力信号の補正精度が低下するのを防ぐことができ、撮像画質の向上を図ることができる。
また、図1に示すデジタルカメラによれば、固体撮像素子3により撮像して得られる撮像画像信号を用いて、補正ゲイン値を生成することができる。このため、デジタルカメラに装着可能なあらゆるレンズ装置に対応して補正ゲイン値を予め生成してカメラ本体に記憶しておく必要がなくなり、カメラの調整工数の削減が可能となる。
図1に示すデジタルカメラのように、リアルタイムに補正ゲイン値を生成する構成では、撮像する被写体のパターンによって、白とびや黒潰れとなったりする可能性がある。このため、上述した方法によって補正ゲイン値を生成することが有効となる。
また、図1に示すデジタルカメラによれば、レンズID以外の詳細な情報を取得できないようなレンズ装置であっても、そのレンズ装置を装着して撮影モードに設定し、AE・AF指示を行うだけで、補正ゲイン値を生成して記憶しておくことができる。このため、どのようなレンズ装置が装着された場合でも、撮像品質を向上させることができる。
また、以上の説明では、AE・AF指示を行ったときに補正ゲイン値を生成して記憶するものとしたが、補正ゲイン値を生成するタイミングはこれに限らない。例えば、撮影モードに設定されたタイミング、撮影モード中にレンズ装置が交換されたタイミング等としてもよい。
補正ゲイン値生成部172が生成した各ブロック32に対応する補正ゲイン値は、それを求めるときにデジタルカメラに装着されているレンズ装置の識別情報と対応付けて、デジタルカメラのメインメモリ16に記録する構成としてもよいし、デジタルカメラの識別情報と対応付けて、レンズ装置内の記録媒体に記録する構成としてもよい。または、AE・AFの指示が行われる都度、補正ゲイン値を生成するようにしてもよい。
図5のステップS4,5を省略し、ステップS3:YESのときにステップS8を行うようにしてもよい。この場合、ステップS10で算出した補正ゲイン値と関連付けて、ステップS6で積算した出力信号の数及びステップS7で積算した出力信号の数、又は、ステップS8で積算した出力信号の数及びステップS9で積算した出力信号の数をメインメモリ16に記憶しておく。
そして、全てのブロック32について補正ゲイン値の算出が終わると、補正ゲイン値生成部172は、補正ゲイン値に関連付けられた位相差検出用画素の出力信号の積算数と撮像用画素の出力信号の積算数がそれぞれ第三の閾値以上となっているブロック32を“OK”ブロックと判断し、それ以外のブロック32を“NG”ブロックと判断する。そして、“NG”ブロックについて、上述した方法により、新たな補正ゲイン値を生成する。
以上、本発明を特定の実施形態によって説明したが、本発明はこの実施形態に限定されるものではなく、開示された発明の技術思想を逸脱しない範囲で種々の変更が可能である。
また、位相差検出用画素と撮像用画素を含む固体撮像素子3の画素配列は、図2に示したものに限らず、他の公知の配列を採用することができる。
また、位相差検出用画素の検出色は緑色としたが、検出色を赤色又は青色にした構成であってもよい。また、固体撮像素子5は、モノクロ撮像用の撮像素子としてもよい。つまり、カラーフィルタは省略してもよい。
また、デジタル信号処理部17は、ゲイン補正処理だけでなく、位相差検出用画素の出力信号を、その位相差検出用画素の周囲にある同色を検出する撮像用画素31の出力信号を用いて補間する補間補正処理と併用して、位相差検出用画素の出力信号の補正を行ってもよい。
また、デジタル信号処理部17が行う処理を、コンピュータに実行させるためのプログラムとして提供することもできる。このようなプログラムは、当該プログラムをコンピュータが読取可能な一時的でない(non−transitory)記録媒体に記録される。
このような「コンピュータ読取可能な記録媒体」は、たとえば、CD−ROM(Compact Disc−ROM)等の光学媒体や、メモリカード等の磁気記録媒体等を含む。また、このようなプログラムを、ネットワークを介したダウンロードによって提供することもできる。
次に、撮像装置としてスマートフォンの構成について説明する。
図8は、本発明の撮影装置の一実施形態であるスマートフォン200の外観を示すものである。図8に示すスマートフォン200は、平板状の筐体201を有し、筐体201の一方の面に表示部としての表示パネル202と、入力部としての操作パネル203とが一体となった表示入力部204を備えている。また、この様な筐体201は、スピーカ205と、マイクロホン206と、操作部207と、カメラ部208とを備えている。なお、筐体201の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用したりすることもできる。
図9は、図8に示すスマートフォン200の構成を示すブロック図である。図9に示すように、スマートフォンの主たる構成要素として、無線通信部210と、表示入力部204と、通話部211と、操作部207と、カメラ部208と、記憶部212と、外部入出力部213と、GPS(Global Positioning System)受信部214と、モーションセンサ部215と、電源部216と、主制御部220とを備える。また、スマートフォン200の主たる機能として、図示省略の基地局装置BSと図示省略の移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部210は、主制御部220の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部204は、主制御部220の制御により、画像(静止画像および動画像)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル202と、操作パネル203とを備える。
表示パネル202は、LCD(Liquid Crystal Display)、OELD(Organic Electro−Luminescence Display)などを表示デバイスとして用いたものである。
操作パネル203は、表示パネル202の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部220に出力する。次いで、主制御部220は、受信した検出信号に基づいて、表示パネル202上の操作位置(座標)を検出する。
図8に示すように、本発明の撮影装置の一実施形態として例示しているスマートフォン200の表示パネル202と操作パネル203とは一体となって表示入力部204を構成しているが、操作パネル203が表示パネル202を完全に覆うような配置となっている。
係る配置を採用した場合、操作パネル203は、表示パネル202外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル203は、表示パネル202に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル202に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
なお、表示領域の大きさと表示パネル202の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル203が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体201の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル203で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部211は、スピーカ205やマイクロホン206を備え、マイクロホン206を通じて入力されたユーザの音声を主制御部220にて処理可能な音声データに変換して主制御部220に出力したり、無線通信部210あるいは外部入出力部213により受信された音声データを復号してスピーカ205から出力させたりするものである。また、図8に示すように、例えば、スピーカ205を表示入力部204が設けられた面と同じ面に搭載し、マイクロホン206を筐体201の側面に搭載することができる。
操作部207は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図8に示すように、操作部207は、スマートフォン200の筐体201の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部212は、主制御部220の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部212は、スマートフォン内蔵の内部記憶部217と着脱自在な外部メモリスロットを有する外部記憶部218により構成される。なお、記憶部212を構成するそれぞれの内部記憶部217と外部記憶部218は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
外部入出力部213は、スマートフォン200に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン200に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなどがある。外部入出力部213は、このような外部機器から伝送を受けたデータをスマートフォン200の内部の各構成要素に伝達することや、スマートフォン200の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部214は、主制御部220の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、当該スマートフォン200の緯度、経度、高度からなる位置を検出する。GPS受信部214は、無線通信部210や外部入出力部213(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部215は、例えば、3軸の加速度センサなどを備え、主制御部220の指示にしたがって、スマートフォン200の物理的な動きを検出する。スマートフォン200の物理的な動きを検出することにより、スマートフォン200の動く方向や加速度が検出される。係る検出結果は、主制御部220に出力されるものである。
電源部216は、主制御部220の指示にしたがって、スマートフォン200の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部220は、マイクロプロセッサを備え、記憶部212が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン200の各部を統括して制御するものである。また、主制御部220は、無線通信部210を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部212が記憶するアプリケーションソフトウェアにしたがって主制御部220が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部213を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
また、主制御部220は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部204に表示する等の画像処理機能を備える。画像処理機能とは、主制御部220が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部204に表示する機能のことをいう。
更に、主制御部220は、表示パネル202に対する表示制御と、操作部207、操作パネル203を通じたユーザ操作を検出する操作検出制御を実行する。表示制御の実行により、主制御部220は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。なお、スクロールバーとは、表示パネル202の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部220は、操作部207を通じたユーザ操作を検出したり、操作パネル203を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部220は、操作パネル203に対する操作位置が、表示パネル202に重なる重畳部分(表示領域)か、それ以外の表示パネル202に重ならない外縁部分(非表示領域)かを判定し、操作パネル203の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部220は、操作パネル203に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部208は、図1に示したデジタルカメラにおける外部メモリ制御部20、記録媒体21、表示制御部22、表示部23、及び操作部14以外の構成を含む。カメラ部208によって生成された撮像画像データは、記憶部212に記録したり、入出力部213や無線通信部210を通じて出力したりすることができる。図8に示すスマートフォン200において、カメラ部208は表示入力部204と同じ面に搭載されているが、カメラ部208の搭載位置はこれに限らず、表示入力部204の背面に搭載されてもよい。
また、カメラ部208はスマートフォン200の各種機能に利用することができる。例えば、表示パネル202にカメラ部208で取得した画像を表示することや、操作パネル203の操作入力のひとつとして、カメラ部208の画像を利用することができる。また、GPS受信部214が位置を検出する際に、カメラ部208からの画像を参照して位置を検出することもできる。更には、カメラ部208からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン200のカメラ部208の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部208からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGPS受信部214により取得した位置情報、マイクロホン206により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部215により取得した姿勢情報等などを付加して記録部212に記録したり、入出力部213や無線通信部210を通じて出力したりすることもできる。
以上のような構成のスマートフォン200においても、デジタル信号処理部17が上述した信号処理を行うことで、高品質の撮影が可能になる。
以上説明してきたように、本明細書には以下の事項が開示されている。
開示された撮像装置は、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子を有する撮像装置であって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理部と、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成部と、を備えるものである。
開示された撮像装置は、上記補正ゲイン値生成部が、上記ブロックに属する同一種類の位相差検出用画素において出力信号値が予め決めた範囲にある画素の数が第一の閾値以上、かつ、上記ブロックに属する上記同一種類の位相差検出用画素の周囲にある上記撮像用画素において出力信号値が上記予め決めた範囲にある画素の数が第二の閾値以上となるブロックである第一のブロックについては、上記第一のブロックに属する上記グループ及び上記グループと同一色を検出する上記位相差検出用画素の周囲にある上記撮像用画素の出力信号値のうちの上記予め決めた範囲にあるものを利用して、上記グループに対応する補正ゲイン値を生成するものである。
開示された撮像装置は、更に、上記補正ゲイン値生成部が、上記ブロックに属する上記同一種類の位相差検出用画素において出力信号値が上記予め決めた範囲にある画素の数が上記第一の閾値未満、又は、上記ブロックに属する上記同一種類の位相差検出用画素の周囲にある上記撮像用画素において出力信号値が上記予め決めた範囲にある画素の数が上記第二の閾値未満となるブロックである第二のブロックについては、上記第二のブロックの周囲にある上記第一のブロックについて生成された上記グループに対応する補正ゲイン値を利用して、上記第二のブロックの上記グループに対応する補正ゲイン値を生成するものである。
開示された撮像装置は、上記補正ゲイン値生成部が、上記第二のブロックについては、上記第二のブロックに対して上記位相差検出用画素が位相差を検出する方向と直交する方向にある上記第一のブロックについて生成された上記グループに対応する補正ゲイン値を利用して、上記第二のブロックの上記グループに対応する補正ゲイン値を生成するものである。
開示された撮像装置は、上記補正ゲイン値生成部が、上記第二のブロックについては、上記第二のブロックに対して上記位相差検出用画素が位相差を検出する方向と直交する方向にある全ての上記第一のブロックについて生成された上記グループに対応する補正ゲイン値の平均値を、上記第二のブロックの上記グループに対応する補正ゲイン値として生成するものである。
開示された撮像装置は、上記補正ゲイン値生成部が、上記第二のブロックについては、上記第二のブロックに対して上記位相差検出用画素が位相差を検出する方向と直交する方向に最近接する2つの上記第一のブロックについて生成された上記グループに対応する補正ゲイン値の平均値を、上記第二のブロックの上記グループに対応する補正ゲイン値として生成するものである。
開示された撮像装置は、上記複数のブロックが、上記複数種類の位相差検出用画素が位相差を検出する方向と直交する方向に並ぶ複数個の上記ブロックからなるブロック列を、上記位相差を検出する方向に3個以上並べた配置となっており、上記補正ゲイン値生成部は、全てのブロックが上記第二のブロックとなるブロック列である特定ブロック列があった場合に、上記第一のブロックを含むブロック列であって上記特定ブロック列に対して上記位相差を検出する方向に最近接するブロック列における各第一のブロックについて生成された上記グループに対応する補正ゲイン値を用いて、上記特定ブロック列における各第二のブロックの上記グループに対応する補正ゲイン値を生成するものである。
開示された撮像装置は、上記撮像光学系を着脱可能なマウント機構を備えるものである。
開示された信号処理方法は、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号を処理する信号処理方法であって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理ステップと、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、を備えるものである。
開示された信号処理プログラムは、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号をコンピュータにより処理するための信号処理プログラムであって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理ステップと、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、をコンピュータに実行させるためのプログラムである。
本発明は、特にデジタルカメラ等に適用して利便性が高く、有効である。
3 固体撮像素子
16 メインメモリ
17 デジタル信号処理部
30 撮像用画素
31R,31L 位相差検出用画素
30 受光面
31 AFエリア
32 ブロック

Claims (10)

  1. フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子を有する撮像装置であって、
    前記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、
    前記撮像素子から出力される撮像画像信号に含まれる前記位相差検出用画素の出力信号値に、前記位相差検出用画素に対応する補正ゲイン値を乗じて前記出力信号値を補正するゲイン補正処理部と、
    前記受光面において前記位相差検出用画素が配置されるエリアを前記複数種類の位相差検出用画素及び前記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、前記グループに対応する補正ゲイン値を、前記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成部と、を備える撮像装置。
  2. 請求項1記載の撮像装置であって、
    前記補正ゲイン値生成部は、前記ブロックに属する同一種類の位相差検出用画素において出力信号値が予め決めた範囲にある画素の数が第一の閾値以上、かつ、前記ブロックに属する前記同一種類の位相差検出用画素の周囲にある前記撮像用画素において出力信号値が前記予め決めた範囲にある画素の数が第二の閾値以上となるブロックである第一のブロックについては、前記第一のブロックに属する前記グループ及び前記グループと同一色を検出する前記位相差検出用画素の周囲にある前記撮像用画素の出力信号値のうちの前記予め決めた範囲にあるものを利用して、前記グループに対応する補正ゲイン値を生成する撮像装置。
  3. 請求項2記載の撮像装置であって、
    更に、前記補正ゲイン値生成部は、前記ブロックに属する前記同一種類の位相差検出用画素において出力信号値が前記予め決めた範囲にある画素の数が前記第一の閾値未満、又は、前記ブロックに属する前記同一種類の位相差検出用画素の周囲にある前記撮像用画素において出力信号値が前記予め決めた範囲にある画素の数が前記第二の閾値未満となるブロックである第二のブロックについては、前記第二のブロックの周囲にある前記第一のブロックについて生成された前記グループに対応する補正ゲイン値を利用して、前記第二のブロックの前記グループに対応する補正ゲイン値を生成する撮像装置。
  4. 請求項3記載の撮像装置であって、
    前記補正ゲイン値生成部は、前記第二のブロックについては、前記第二のブロックに対して前記位相差検出用画素が位相差を検出する方向と直交する方向にある前記第一のブロックについて生成された前記グループに対応する補正ゲイン値を利用して、前記第二のブロックの前記グループに対応する補正ゲイン値を生成する撮像装置。
  5. 請求項4記載の撮像装置であって、
    前記補正ゲイン値生成部は、前記第二のブロックについては、前記第二のブロックに対して前記位相差検出用画素が位相差を検出する方向と直交する方向にある全ての前記第一のブロックについて生成された前記グループに対応する補正ゲイン値の平均値を、前記第二のブロックの前記グループに対応する補正ゲイン値として生成する撮像装置。
  6. 請求項4記載の撮像装置であって、
    前記補正ゲイン値生成部は、前記第二のブロックについては、前記第二のブロックに対して前記位相差検出用画素が位相差を検出する方向と直交する方向に最近接する2つの前記第一のブロックについて生成された前記グループに対応する補正ゲイン値の平均値を、前記第二のブロックの前記グループに対応する補正ゲイン値として生成する撮像装置。
  7. 請求項3から6のいずれか1項記載の撮像装置であって、
    前記複数のブロックは、前記複数種類の位相差検出用画素が位相差を検出する方向と直交する方向に並ぶ複数個の前記ブロックからなるブロック列を、前記位相差を検出する方向に3個以上並べた配置となっており、
    前記補正ゲイン値生成部は、全てのブロックが前記第二のブロックとなるブロック列である特定ブロック列があった場合に、前記第一のブロックを含むブロック列であって前記特定ブロック列に対して前記位相差を検出する方向に最近接するブロック列における各第一のブロックについて生成された前記グループに対応する補正ゲイン値を用いて、前記特定ブロック列における各第二のブロックの前記グループに対応する補正ゲイン値を生成する撮像装置。
  8. 請求項1から7のいずれか1項記載の撮像装置であって、
    前記撮像光学系を着脱可能なマウント機構を備える撮像装置。
  9. フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号を処理する信号処理方法であって、
    前記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、
    前記撮像素子から出力される撮像画像信号に含まれる前記位相差検出用画素の出力信号値に、前記位相差検出用画素に対応する補正ゲイン値を乗じて前記出力信号値を補正するゲイン補正処理ステップと、
    前記受光面において前記位相差検出用画素が配置されるエリアを前記複数種類の位相差検出用画素及び前記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、前記グループに対応する補正ゲイン値を、前記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、を備える信号処理方法。
  10. フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号をコンピュータにより処理するための信号処理プログラムであって、
    前記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、
    前記撮像素子から出力される撮像画像信号に含まれる前記位相差検出用画素の出力信号値に、前記位相差検出用画素に対応する補正ゲイン値を乗じて前記出力信号値を補正するゲイン補正処理ステップと、
    前記受光面において前記位相差検出用画素が配置されるエリアを前記複数種類の位相差検出用画素及び前記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、前記グループに対応する補正ゲイン値を、前記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、をコンピュータに実行させるための信号処理プログラム。
JP2012274684A 2012-12-17 2012-12-17 撮像装置、信号処理方法、信号処理プログラム Pending JP2016029750A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012274684A JP2016029750A (ja) 2012-12-17 2012-12-17 撮像装置、信号処理方法、信号処理プログラム
PCT/JP2013/080992 WO2014097792A1 (ja) 2012-12-17 2013-11-18 撮像装置、信号処理方法、信号処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012274684A JP2016029750A (ja) 2012-12-17 2012-12-17 撮像装置、信号処理方法、信号処理プログラム

Publications (1)

Publication Number Publication Date
JP2016029750A true JP2016029750A (ja) 2016-03-03

Family

ID=50978136

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012274684A Pending JP2016029750A (ja) 2012-12-17 2012-12-17 撮像装置、信号処理方法、信号処理プログラム

Country Status (2)

Country Link
JP (1) JP2016029750A (ja)
WO (1) WO2014097792A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017170724A1 (ja) * 2016-03-31 2017-10-05 株式会社ニコン 撮像装置、レンズ調節装置、および電子機器

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106101556B (zh) 2016-07-29 2017-10-20 广东欧珀移动通信有限公司 移动终端的图像合成方法、装置及移动终端
US10554877B2 (en) 2016-07-29 2020-02-04 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image synthesis method and apparatus for mobile terminal, and mobile terminal

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002131623A (ja) * 2000-10-24 2002-05-09 Canon Inc 撮像装置及び撮像システム
JP5371331B2 (ja) * 2008-09-01 2013-12-18 キヤノン株式会社 撮像装置、撮像装置の制御方法及びプログラム
JP5645474B2 (ja) * 2010-05-19 2014-12-24 富士フイルム株式会社 撮像装置及び撮像画像信号の補正方法
EP2690874A4 (en) * 2011-03-24 2014-09-03 Fujifilm Corp COLOR IMAGE SENSOR, IMAGING DEVICE AND CONTROL PLAN FOR THE IMAGING APPARATUS

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017170724A1 (ja) * 2016-03-31 2017-10-05 株式会社ニコン 撮像装置、レンズ調節装置、および電子機器

Also Published As

Publication number Publication date
WO2014097792A1 (ja) 2014-06-26

Similar Documents

Publication Publication Date Title
JP5657182B2 (ja) 撮像装置及び信号補正方法
JP5775977B2 (ja) 画像処理装置、撮像装置、画像処理方法、及び画像処理プログラム
JP5690974B2 (ja) 撮像装置及び合焦制御方法
JP5542249B2 (ja) 撮像素子及びこれを用いた撮像装置及び撮像方法
JP5982601B2 (ja) 撮像装置及び合焦制御方法
JP5799178B2 (ja) 撮像装置及び合焦制御方法
US9743031B2 (en) Imaging device and imaging method
JP5802846B2 (ja) 撮像装置
WO2014155806A1 (ja) 撮像装置及び合焦制御方法
JP5677625B2 (ja) 信号処理装置、撮像装置、信号補正方法
JP5982600B2 (ja) 撮像装置及び合焦制御方法
JPWO2015045704A1 (ja) 撮像装置及び合焦制御方法
JP5990665B2 (ja) 撮像装置及び合焦制御方法
JP5768193B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム
US9344646B2 (en) Imaging device and imaging method
WO2014097792A1 (ja) 撮像装置、信号処理方法、信号処理プログラム
JP5798696B2 (ja) 画像処理装置、方法、記録媒体及びプログラム並びに撮像装置
JP5680803B2 (ja) 画像処理装置および方法ならびに撮像装置
WO2013145887A1 (ja) 撮像装置及び撮像方法