JP2012147141A - 画像処理装置、撮像装置、画像処理方法およびプログラム。 - Google Patents

画像処理装置、撮像装置、画像処理方法およびプログラム。 Download PDF

Info

Publication number
JP2012147141A
JP2012147141A JP2011002666A JP2011002666A JP2012147141A JP 2012147141 A JP2012147141 A JP 2012147141A JP 2011002666 A JP2011002666 A JP 2011002666A JP 2011002666 A JP2011002666 A JP 2011002666A JP 2012147141 A JP2012147141 A JP 2012147141A
Authority
JP
Japan
Prior art keywords
pixel
phase difference
difference detection
image
defective
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011002666A
Other languages
English (en)
Other versions
JP5589857B2 (ja
Inventor
Kazunari Hara
一成 原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2011002666A priority Critical patent/JP5589857B2/ja
Priority to US13/335,173 priority patent/US8587702B2/en
Priority to CN2012100076336A priority patent/CN102595033A/zh
Publication of JP2012147141A publication Critical patent/JP2012147141A/ja
Application granted granted Critical
Publication of JP5589857B2 publication Critical patent/JP5589857B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Focusing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】位相差検出画素における欠陥画素の画素値の補正の精度を向上させる。
【解決手段】欠陥補正部330は、画像生成画素と一対の位相差検出画素とのそれぞれを複数備える撮像素子により生成される画像データに含まれる画素値のうち前記画像生成画素の画素値により形成される第1像と、前記位相差検出画素の画素値により形成される第2像とのそれぞれのエッジを検出する。そして、欠陥補正部330は、前記一対の位相差検出画素に欠陥画素が含まれる場合において、前記検出されたエッジに基づいて、前記欠陥画素を前記一対のうちの一方とした場合における他方の位相差検出画素に係る第2像と、前記第1像との間のズレ量を算出し、前記算出されたズレ量および前記他方の位相差検出画素の画素値に基づいて前記欠陥画素の画素値を補正する。
【選択図】図1

Description

本発明は、画像処理装置に関し、特に画素値を補正する画像処理装置および画像処理方法ならびに当該方法をコンピュータに実行させるプログラムに関する。
近年、人物等の被写体を撮像素子を用いて撮像して撮像画像を生成し、この生成された撮像画像を記録するデジタルスチルカメラ等の撮像装置が普及している。この撮像素子として、受光面に配置される画素にカラーフィルタをベイヤー配列で配置したものが普及している。
また、近年では、撮像装置の多機能化や高画質化に伴い、撮像素子に配置される画素に画像生成用の画素以外の画素を配置する撮像素子や、ベイヤー配列に用いるカラーフィルタ(R、G、B)以外のカラーフィルタを備える画素を配置する撮像素子が検討されている。例えば、画像生成用の従来画素(画像生成画素)と、多機能化のための新たな画素とが同一の撮像素子に配置される撮像素子が検討されている。
例えば、このような撮像素子を備える撮像装置として、例えば、撮像レンズを通過した光を瞳分割する画素(位相差検出画素)が撮像素子に配置される撮像装置が提案されている(例えば、特許文献1参照。)。この撮像装置は、受光素子が受光する被写体光の半分を遮光することにより瞳分割を行う位相差検出画素を撮像素子に設けることにより一対の像を形成し、その形成された像の間隔を計測することによってフォーカスのズレの量を算出する。そして、この撮像装置は、算出したフォーカスのズレの量に基づいて撮像レンズの移動量を算出し、算出した移動量に基づいて撮像レンズの位置を調整することによってフォーカス制御を行う。
特開2009−145401号公報
上述の従来技術では、位相差検出画素と画像生成画素との両方の画素を1つの撮像素子に備えるため、焦点検出用の撮像素子と撮像画像用の撮像素子との2つの撮像素子を撮像装置に別々に設ける必要がない。
また、上述の従来技術では、位相差検出画素に欠陥画素がある場合には、その欠陥画素に近接する位相差検出画素(欠陥画素と同方向の瞳分割された光を受光する位相差検出画素)の画素値の平均値から欠陥画素の画素値を補正する。しかしながら、高周波の画像におけるエッジの位置に欠陥画素がある場合や、欠陥画素が密集している領域がある場合も想定される。この場合には、高周波成分や欠陥画素による影響により適切に補正を行うことができず、補正の精度が低下することとも想定される。そこで、このような場合でも位相差検出画素の欠陥画素を適切に補正することが重要である。
本発明はこのような状況に鑑みてなされたものであり、位相差検出画素における欠陥画素の画素値の補正の精度を向上させることを目的とする。
本発明は、上記課題を解決するためになされたものであり、その第1の側面は、画像を生成するための画素値を生成する画像生成画素と位相差検出による合焦判定を行うための画素値を生成する一対の位相差検出画素とのそれぞれを複数備える撮像素子により生成される画像データに含まれる画素値のうち上記画像生成画素の画素値により形成される第1像と、上記位相差検出画素の画素値により形成される第2像とのそれぞれのエッジを検出する検出部と、上記一対の位相差検出画素に欠陥画素が含まれる場合において、上記検出されたエッジに基づいて、上記欠陥画素を上記一対のうちの一方とした場合における他方の位相差検出画素に係る第2像と、上記第1像との間のズレ量を算出し、上記算出されたズレ量および上記他方の位相差検出画素の画素値に基づいて上記欠陥画素の画素値を補正する補正部とを具備する画像処理装置およびその画像処理方法ならびに当該方法をコンピュータに実行させるプログラムである。これにより、画像生成画素の第1像と、欠陥画素を一方とした場合における他方の位相差検出画素に係る第2像との間のズレ量および他方の位相差検出画素の画素値に基づいて欠陥画素の画素値を補正させるという作用をもたらす。
また、この第1の側面において、上記検出部は、上記ズレ量を検出するための一定範囲を設定して、上記一定範囲における上記他方の位相差検出画素のエッジと、上記範囲に近接する画像生成画素のエッジとをそれぞれ検出し、上記補正部は、上記検出された他方の位相差検出画素のエッジと画像生成画素のエッジとの間のズレ量を算出し、上記算出されたズレ量および上記他方の位相差検出画素の画素値に基づいて上記欠陥画素の画素値を補正するようにしてもよい。これにより、ズレ量を検出するための一定範囲に配置されている欠陥画素の画素値が補正されるという作用をもたらす。
また、この場合において、上記補正部は、上記画像生成画素のエッジの位置を基準として、上記欠陥画素の位置と上記他方の位相差検出画素のエッジの位置とが点対称となる場合には、上記他方の位相差検出画素のエッジに係る画素値に基づいて上記欠陥画素の画素値を補正するようにしてもよい。これにより、画像生成画素のエッジの位置を基準として、欠陥画素の位置と他方の位相差検出画素のエッジの位置とが点対称となる場合には、他方の位相差検出画素のエッジに係る画素値に基づいて欠陥画素の画素値が補正されるという作用をもたらす。
また、この場合において、上記補正部は、上記欠陥画素の位置が上記点対称とならない場合には、上記欠陥画素に近接する上記一方の位相差検出画素の画素値の平均値に基づいて上記欠陥画素の画素値を補正するようにしてもよい。これにより、欠陥画素の位置が点対称とならない場合には、欠陥画素に近接する一方の位相差検出画素の画素値の平均値に基づいて欠陥画素の画素値が補正されるという作用をもたらす。
また、この場合において、上記補正部は、上記検出された画像生成画素のエッジに対応する上記他方の位相差検出画素のエッジが上記一定範囲において検出されない場合には、上記欠陥画素に近接する上記一方の位相差検出画素の画素値の平均値に基づいて上記欠陥画素の画素値を補正するようにしてもよい。これにより、検出された画像生成画素のエッジに対応する他方の位相差検出画素のエッジが一定範囲において検出されない場合には、欠陥画素に近接する一方の位相差検出画素の画素値の平均値に基づいて欠陥画素の画素値が補正されるという作用をもたらす。
また、この第1の側面において、上記画像生成画素は、赤を示す波長領域以外の光を遮光する赤フィルタによって覆われている赤画素と、青を示す波長領域以外の光を遮光する青フィルタによって覆われている青画素と、緑を示す波長領域以外の光を遮光する緑フィルタによって覆われている緑画素とにより構成され、上記画像生成画素のエッジは、上記緑画素の画素値により形成される像におけるエッジであり、上記補正部は、上記他方の位相差検出画素のエッジと上記緑画素のエッジとの間のズレ量を算出し、上記算出されたズレ量および上記他方の位相差検出画素の画素値に基づいて上記欠陥画素の画素値を補正するようにしてもよい。これにより、他方の位相差検出画素のエッジと緑画素のエッジとの間のズレ量を算出し、算出されたズレ量および他方の位相差検出画素の画素値に基づいて欠陥画素の画素値が補されるという作用をもたらす。
また、本発明の第2の側面は、画像を生成するための画素値を生成する画像生成画素と位相差検出による合焦判定を行うための画素値を生成する一対の位相差検出画素とのそれぞれを複数備える撮像素子と、上記撮像素子により生成される画像データに含まれる画素値のうち上記画像生成画素の画素値により形成される第1像と、上記位相差検出画素の画素値により形成される第2像とのそれぞれのエッジを検出する検出部と、上記一対の位相差検出画素に欠陥画素が含まれる場合において、上記検出されたエッジに基づいて、上記欠陥画素を上記一対のうちの一方とした場合における他方の位相差検出画素に係る第2像と、上記第1像との間のズレ量を算出し、上記算出されたズレ量および上記他方の位相差検出画素の画素値に基づいて上記欠陥画素の画素値を補正する補正部と、上記補正された位相差検出画素の画素値に基づいて、合焦対象物に合焦しているか否か判定する判定部と、上記判定部による判定結果に基づいて、レンズの駆動を制御する制御部とを具備する撮像装置である。これにより、画像生成画素の第1像と、欠陥画素を一方とした場合における他方の位相差検出画素に係る第2像との間のズレ量および他方の位相差検出画素の画素値に基づいて欠陥画素の画素値を補正させ、この補正された画素値に基づいて合焦判定を行わせるという作用をもたらす。
本発明によれば、位相差検出画素における欠陥画素の画素値の補正の精度を向上させるという優れた効果を奏し得る。
本発明の実施の形態における撮像装置100の機能構成の一例を示すブロック図である。 本発明の実施の形態における撮像素子200に備えられる画素の配置の一例を示す模式図である。 本発明の実施の形態における欠陥補正部330によるエッジの検出の一例が示されている。 本発明の実施の形態における欠陥補正部330による欠陥画素の画素値の補正の一例を示す模式図である。 本発明の実施の形態において欠陥画素と対となる位相差検出画素のエッジが比較範囲の外にある場合における欠陥画素の画素値の補正の一例を示す模式的である。 本発明の実施の形態における欠陥画素を補正したデータによる位相差検出の一例および従来の欠陥画素の補正による位相差検出の一例を示す模式図である。 本発明の実施の形態における補正により位相差を検出することが可能な複数の欠陥画素を含む画素配置の一例を示す模式図である。 本発明の実施の形態における撮像装置100による位相差検出画素の欠陥画素の補正を行う際の撮像処理手順例を示すフローチャートである。 本発明の実施の形態の撮像処理動作における欠陥補正処理(ステップS910)の処理手順例を示すフローチャートである。
以下、本発明を実施するための形態(以下、実施の形態と称する)について説明する。
<1.第1の実施の形態>
[撮像装置の機能構成例]
図1は、本発明の実施の形態における撮像装置100の機能構成の一例を示すブロック図である。撮像装置100は、被写体を撮像して画像データ(撮像画像)を生成し、生成された画像データを画像コンテンツ(静止画コンテンツまたは動画コンテンツ)として記録する撮像装置である。なお、以下では、画像コンテンツ(画像ファイル)として静止画コンテンツ(静止画ファイル)を記録する例を主に示す。
撮像装置100は、レンズ部110と、操作受付部120と、制御部130と、撮像素子200と、信号処理部140と、画像生成部150と、表示部151と、記憶部152とを備える。また、撮像装置100は、欠陥画素情報保持部310と、欠陥補正部330と、位相差検出部161と、駆動部162とを備える。
レンズ部110は、被写体からの光(被写体光)を集光するためのものである。このレンズ部110は、ズームレンズ111と、絞り112と、フォーカスレンズ113とを備える。
ズームレンズ111は、駆動部162の駆動により光軸方向に移動することにより焦点距離を変動させて、撮像画像に含まれる被写体の倍率を調整するものである。
絞り112は、駆動部162の駆動により開口の度合いを変化させて、撮像素子200に入射する被写体光の光量を調整するための遮蔽物である。
フォーカスレンズ113は、駆動部162の駆動により光軸方向に移動することによりフォーカスを調整するものである。
操作受付部120は、ユーザからの操作を受け付けるものである。この操作受付部120は、例えば、シャッターボタン(図示せず)が押下された場合には、その押下に関する信号を、操作信号として制御部130に供給する。
制御部130は、撮像装置100における各部動作を制御するものである。なお、図1では、主要な信号線のみを示し、他は省略する。例えば、この制御部130は、シャッターボタンが押下されて、静止画像の記録を開始するための操作信号を受け付けた場合には、静止画像の記録実行に関する信号を、信号処理部140に供給する。
撮像素子200は、受光した被写体光を電気信号に光電変換するイメージセンサである。この撮像素子200は、例えば、CMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサなどにより実現される。撮像素子200には、受光した被写体光に基づいて撮像画像を生成するための信号を生成する画素(画像生成画素)と、位相差検出を行うための信号を生成する画素(位相差検出画素)とが配置される。ここで、位相差検出とは、撮像レンズを通過した光を瞳分割して1対の像を形成し、その形成された像の間隔(像の間のズレ量)を計測(位相差を検出)することによって合焦の度合いを検出する焦点検出の方法である。
また、撮像素子200には、画像生成画素として、赤色(R)の光を透過するカラーフィルタにより赤色の光を受光する画素(R画素)と、緑色(G)の光を透過するカラーフィルタにより緑色の光を受光する画素(G画素)とが配置される。また、撮像素子200には、R画素およびG画素の他に、画像生成画素として、青色(B)の光を透過するカラーフィルタにより青色の光を受光する画素(B画素)が配置される。なお、撮像素子200については、図2を参照して説明する。撮像素子200は、光電変換により発生した電気信号(画像信号)を信号処理部140に供給する。
信号処理部140は、撮像素子200から供給された電気信号に所定の信号処理を施して画像信号を補正するものである。この信号処理部140は、例えば、撮像素子200から供給された電気信号をデジタルの電気信号(画素値)に変換した後に、黒レベル補正、欠陥補正、シェーディング補正、混色補正等を行う。ここで、黒レベル補正とは、常に遮光されている領域の画素において生成される画素値を各画素値から減算することにより、受光量が「0」なら画素値の値は「0」となるよう黒レベルを合わせる補正する処理である。また、欠陥補正とは、撮像素子200に配置されている画像生成画素のうちの正常に機能しない画素(欠陥画素)の画素値を、欠陥画素の周囲の画素における画素値から推定して補正する処理である。なお、信号処理部140が行う欠陥補正では、画像生成画素のうちの欠陥画素は補正するが、位相差検出画素のうちの欠陥画素については補正を行わない。また、シェーディング補正とは、画素の位置が撮像素子200の中心から周辺部にずれるに従って生じる輝度の低下(シェーディング)を、画像全体の画素値に対して像高に応じたゲインをそれぞれかけることにより補正する処理である。また、混色補正とは、隣接する画素から漏れ込んだ光による画素値の増加(混色)を、この混色による増加量を推定して減算することにより補正する処理である。信号処理部140は、これらの補正処理を施した画像信号のうち位相差検出画素により生成された画像信号(位相差検出画素画像信号)を、欠陥補正部330に供給する。また、信号処理部140は、これらの補正処理を施した画像信号のうち画像生成画素により生成された画像信号(画像生成画素画像信号)を、欠陥補正部330および画像生成部150に供給する。
画像生成部150は、信号処理部140から供給された画像生成画素により生成された画像信号に所定の信号処理を施して、表示部151に表示させる画像データまたは記憶部152に記憶させる画像データを生成するものである。この画像生成部150は、例えば、画像信号にホワイトバランス補正、γ補正、デモザイク処理、画像圧縮処理等を行う。画像生成部150は、表示部151に表示させる画像データを表示部151に供給し、表示部151に表示させる。また、画像生成部150は、記憶部152に記憶させる画像データを記憶部152に供給し、記憶部152に記憶させる。
表示部151は、画像生成部150から供給された画像データに基づいて、画像を表示するものである。この表示部151は、例えば、カラー液晶パネルにより実現される。
記憶部152は、画像生成部150から供給された画像データを画像コンテンツ(画像ファイル)として記録するものである。例えば、この記憶部152として、DVD(Digital Versatile Disk)等のディスクやメモリカード等の半導体メモリ等のリムーバブルな記録媒体(1または複数の記録媒体)を用いることができる。また、これらの記録媒体は、撮像装置100に内蔵するようにしてもよく、撮像装置100から着脱可能とするようにしてもよい。
欠陥画素情報保持部310は、撮像素子200における位相差検出画素のうちの欠陥画素の位置に関する情報(欠陥画素情報)を保持するものである。欠陥画素情報保持部310は、例えば、撮像装置100の製造過程における撮像素子200の機能チェック過程で検出された位相差検出画素の欠陥画素の位置を、欠陥画素情報として保持する。この欠陥画素情報保持部310は、欠陥画素情報を、欠陥補正部330に供給する。
欠陥補正部330は、欠陥画素情報保持部310から供給される欠陥画素情報と、信号処理部140から供給される位相差検出および画像生成画素の画素値とに基づいて、位相差検出画素のうちの欠陥画素の画素値を補正するものである。この欠陥補正部330は、まず、一対の位相差検出画素の画素値を比較する範囲(比較範囲)における欠陥画素の有無を、欠陥画素情報に基づいて検出する。そして、欠陥画素が検出された場合には、比較範囲に近接する画像生成画素の画素値からの分布データと、欠陥画素の対の位相差検出画素の画素値からの分布データとからエッジを検出する。そして、欠陥画素の対の位相差検出画素のエッジの画素値から欠陥画素の画素値を補正できる場合には、欠陥画素の対の位相差検出画素のエッジの画素値に基づいて欠陥画素の画素値を補正する。なお欠陥補正部330による補正については、図3乃至図6を参照して説明する。この欠陥補正部330は、補正した後のデータ(位相差検出画素画像信号)を、位相差検出部161に供給する。なお、欠陥補正部330は、特許請求の範囲に記載の検出部および補正部の一例である。
位相差検出部161は、欠陥補正部330から供給された位相差検出画素画像信号に基づいて、フォーカスを合わせる対象の物体(合焦対象物)に対してフォーカスが合っているか否かを位相差検出により判定するものである。なお、本発明の実施の形態では説明の便宜上、位相差検出部161は、1つの比較範囲における位相差検出画素の位相差検出画素画像信号に基づいて判定を行うこととする。この位相差検出部161は、比較範囲における一対の位相差検出画素の画素値から1対の像を形成し、その形成された像の間隔から合焦判定を行う。位相差検出部161は、フォーカシングを行う領域(フォーカスエリア)における物体(合焦対象物)に対して合焦している場合には、合焦していることを示す情報を合焦判定結果情報として、駆動部162に供給する。また、この位相差検出部161は合焦対象物にフォーカスが合っていない場合には、フォーカスのズレの量(デフォーカス量)を算出し、その算出したデフォーカス量を示す情報を合焦判定結果情報として、駆動部162に供給する。なお、位相差検出部161は、特許請求の範囲に記載の判定部の一例である。
駆動部162は、ズームレンズ111、絞り112およびフォーカスレンズ113を駆動させるものである。例えば、駆動部162は、位相差検出部161から出力された合焦判定結果情報に基づいて、フォーカスレンズ113の駆動量を算出し、その算出した駆動量に応じてフォーカスレンズ113を移動させる。この駆動部162は、フォーカスが合っている場合には、フォーカスレンズ113の現在の位置を維持させる。また、駆動部162は、フォーカスがズレている場合には、デフォーカス量を示す合焦判定結果情報およびフォーカスレンズ113の位置情報に基づいて駆動量(移動距離)を算出し、その駆動量に応じてフォーカスレンズ113を移動させる。なお、駆動部162は、特許請求の範囲に記載の制御部の一例である。
[イメージセンサにおける画素の配置例]
図2は、本発明の実施の形態における撮像素子200に備えられる画素の配置の一例を示す模式図である。
同図では、左右方向をX軸とし、上下方向をY軸とするXY軸を想定して説明する。また、同図において、左下隅をXY軸における原点とし、下から上へ向かう方向をY軸の+側とし、左から右へ向かう方向をX軸の+側とする。なお、撮像素子200における信号の読み出し方向は、X軸方向(行単位で読み出される)であるものとする。
同図では、説明の便宜上、撮像素子200を構成する各画素のうちの一部の画素(18行×18列の画素)の領域(領域210)を用いて説明する。なお、撮像素子200における画素の配置は、領域210において示す画素配置を1つの単位として、この単位に対応する画素配置(領域210に対応する画素配置)が、X軸方向およびY軸方向に繰り返される配置である。
同図では、1つの画素を1つの正方形で示す。画像生成画素については、備えられるカラーフィルタを表す符号(R、G、B)を内に示した正方形により示す。すなわち、画像生成画素のR画素は同図におけるR画素211として示され、画像生成画素のB画素は、同図におけるB画素214として示されている。また、G画素については、R画素(R画素211)を含む行(ライン)におけるG画素がGr画素(Gr画素212)として示され、B画素(B画素214)を含む行(ライン)におけるG画素がGb画素(Gb画素213)として示されている。
また、位相差検出画素については、白色の長方形が付与された灰色の正方形により示す。なお、位相差検出画素における白色の長方形については、入射光が遮光層に遮光されないで受光素子により受光される側(遮光層に開口部分がある側)を示す。ここで、同図において示す位相差検出画素(右開口位相差検出画素215、左開口位相差検出画素216)について説明する。
右開口位相差検出画素215は、受光素子の右半分が開口し、受光素子の左半分が遮光するように遮光層が形成される位相差検出画素である。すなわち、右開口位相差検出画素215は、右開口位相差検出画素215のマイクロレンズに入射する被写体光のうち射出瞳の右半分(X軸方向の+側)を通過した被写体光を遮光する。また、右開口位相差検出画素215は、右開口位相差検出画素215のマイクロレンズに入射する被写体光のうち射出瞳の左半分(X軸方向の−側)を通過した被写体光が受光素子に受光される。
左開口位相差検出画素216は、受光素子の左半分が開口し、受光素子の右半分が遮光するように遮光層が形成される位相差検出画素である。すなわち、左開口位相差検出画素216は、左開口位相差検出画素216のマイクロレンズに入射する被写体光のうち射出瞳の左半分(X軸方向の−側)を通過した被写体光を遮光する。また、左開口位相差検出画素216は、左開口位相差検出画素216のマイクロレンズに入射する被写体光のうち射出瞳の右半分(X軸方向の+側)を通過した被写体光が受光素子に受光される。また、左開口位相差検出画素216は、右開口位相差検出画素215と対に用いられることで、1対の像を形成する。
ここで、撮像素子200における画素の配置について説明する。
撮像素子200では、画像生成画素が配置される複数の行(ライン)と、位相差検出画素が配置される1つの行(ライン)とが、読み出し方向に対して直行する方向(本発明の実施の形態では列方向とする)に交互に配置される。図2では、連続する画像生成画素の行の数が5行である例が示されている。なお、連続する画像生成画素の行において、画像生成画素は、ベイヤー配列で位置されている。また、同図では、位相差検出画素の行に隣接する画像生成画素の行は、R画素およびGr画素が配置される行である例が示されている。
次に、同図において示した画素のうちの一部の位相差検出画素に欠陥画素がある場合を想定し、欠陥補正部330による欠陥画素の画素値の補正について、同図において示す2行×14列(領域220)を用いて説明する。
[欠陥補正部におけるエッジの検出例]
図3は、本発明の実施の形態における欠陥補正部330によるエッジの検出の一例が示されている。
同図(a)には、撮像対象を示す領域(撮像領域410)が模式的に示されている。また、撮像領域410では、エッジを模式的に示す白色の領域(領域411)が示されている。同図では、領域411のみが光を放っている(撮像領域410における他の部分は暗闇)ことを想定して説明する。
同図(b)には、同図(a)において示した撮像領域410を撮像する画素を示す領域(画素領域420)が示されている。この画素領域420には、1行に配置された14個の位相差検出画素と、1行に配置された14個の画像生成画素とが示されている。また、画素領域420には、位相差検出画素の行の左から3列目の右開口位相差検出画素(右開口位相差検出画素430)が欠陥画素(欠陥画素460)であることが示されている。なお、同図(b)では、左開口位相差検出画素(左開口位相差検出画素440)に欠陥画素が無いことを想定する。さらに、画素領域420には、欠陥補正部330によるエッジの検出対象の画像生成画素(G画素450)が、細かい点を付加した正方形により示されている。なおG画素450については、同図(c)において説明する。
同図(c)には、同図(a)において示した撮像領域410を同図(b)の画素領域420が撮像する場合における欠陥補正部330が検出するエッジが模式的に示されている。
なお、同図(c)では、同図(b)において示す画素領域420の1行の位相差検出画素の領域(範囲)が、合焦対象物に対するフォーカスのズレを検出するために一対の位相差検出画素の画素値を比較する範囲(比較範囲)であることを想定して説明する。
同図(c)において示す各グラフは、縦軸を各画素の画素値の強度(出力階調)とし、横軸を各画素の位置(画素位置)として、欠陥補正部330が検出するエッジを模式的に示す。同図(c)には、画素領域420におけるG画素(G画素450)の画素値から生成される画素値の分布データ(分布データ451)と、画素領域420における左開口位相差検出画素の画素値から生成される分布データ(分布データ441)とが示されている。また、同図(c)には、右開口位相差検出画素の画素値から生成される分布データ(分布データ431)が示されている。
ここで、欠陥補正部330によるエッジ検出について、同図(c)を参照して説明する。欠陥補正部330は、まず、比較範囲に欠陥画素があるか否かを、欠陥画素情報に基づいて検出する。そして、欠陥画素がある場合には、欠陥補正部330は、比較範囲に隣接する画像生成画素の画素値からエッジを検出する。なお、本発明の実施の形態では、画像生成画素の画素値として、G画素(同図(b)のG画素450)の画素値を想定する。すなわち、欠陥補正部330により、G画素の画素値の分布データ(分布データ451)が生成され、その分布データ451におけるエッジ(出力階調が突出している箇所)が検出される。
そして、G画素の画素値からエッジが検出された場合には、欠陥画素(欠陥画素460)の対となる位相差検出画素の画素値からエッジを検出する。なお、同図(b)に示すように、右開口位相差検出画素が欠陥画素460であることを想定しているため、左開口位相差検出画素(左開口位相差検出画素440)の画素値からエッジを検出する。すなわち、欠陥補正部330により、左開口位相差検出画素の分布データ(分布データ441)が生成され、その分布データ441におけるエッジ(出力階調が突出している箇所)が検出される。
続いて、欠陥補正部330は、欠陥画素の対の位相差検出画素の分布データからエッジが検出された場合には、このエッジとG画素のエッジとの間の位置のズレ量(間隔(間隔A1))を測定する。そして、欠陥補正部330は、G画素のエッジの位置に対して、欠陥画素の位置と、欠陥画素の対の位相差検出画素のエッジの位置とが対象位置(点対称)になるか否か検出する。すなわち、右開口位相差検出画素の分布データ(分布データ431)が生成され、欠陥画素の画素値の位置(分布データ431における太線が無い箇所)と、G画素のエッジとの間の間隔(間隔A2)が、間隔A1と同じか否かが検出される。
次に、間隔A2が間隔A1と同じであると検出された場合における欠陥画素460の画素値の補正について、図4を参照して説明する。
[欠陥補正部による欠陥画素の画素値の補正例]
図4は、本発明の実施の形態における欠陥補正部330による欠陥画素の画素値の補正の一例を示す模式図である。
なお、同図では、図3において示したものと同じものについては、同一の符号を付して、ここでの説明を省略する。
図4(a)には、図3(c)において示した間隔A2が間隔A1と同じである場合における欠陥画素(欠陥画素460)の画素値の補正が図3(b)において示した画素配置(画素領域420)ともに模式的に示されている。また、図4(a)では、図3(c)において示した分布データ451におけるエッジを検出した画素が、太枠で囲まれた画像生成画素(Gr画素470)により示されている。また、図3(c)において示した分布データ441におけるエッジを検出した画素が、太枠の円形が付与された位相差検出画素(位相差検出画素442)により示されている。
また、図4(a)では、欠陥画素460の画素値が、位相差検出画素442の画素値に基づいて補正されることが、矢印481により模式的に示されている。
ここで、間隔A2が間隔A1と同じ距離である場合における欠陥補正部330による欠陥画素の画素値の補正について説明する。
まず、欠陥補正部330による補正の原理について説明する。位相差検出画素の画素値は、フォーカスが一致している場合には、一対の位相差検出画素のエッジの位置が同じ位置になる(図3(c)において示した分布データ441のエッジの位置と、分布データ431のエッジの位置とが重なる)。一方、フォーカスがズレると、撮像物に対するフォーカスのズレ量(デフォーカス量)に従い、2つエッジの位置が一致した位置を対称軸として、2つのエッジの位置がズレる。なお、2つエッジにおける画素値(出力階調)は、お互いに同じ大きさの画素値になる。すなわち、欠陥画素の画素値がエッジとなる場合において、一対の位相差検出画素のエッジが重なる位置を検出すれば、欠陥画素の対の位相差検出画素のエッジにおける画素値から欠陥画素の画素値を補正することができる。
そこで、欠陥補正部330は、画像生成画素(G画素)の画素値におけるエッジを、2つエッジが重なる位置として検出する。そして、この検出したエッジの位置と、欠陥画素と対となる位相差検出画素のエッジの位置とから欠陥画素がエッジであるか否か解析する。そして、欠陥画素がエッジである場合には、欠陥補正部330は、欠陥画素と対となる位相差検出画素のエッジにおける画素値を欠陥画素の画素値とすることにより、欠陥画素の画素値を補正する。
図4(b)には、欠陥画素と対となる位相差検出画素のエッジの画素値を欠陥画素の画素値とする補正が、図3(c)において示した分布データ441および分布データ431を用いて模式的に示されている。また、図4(b)では、欠陥画素460と対となる位相差検出画素のエッジの画素値に基づいて欠陥画素460の画素値が補正される(コピーされる)ことが、矢印482により模式的に示されている。さらに、同図(b)では、矢印482が示す画素値のコピーにより補正された欠陥画素460の画素値が、枠432の内の分布データにより示されている。
このように、欠陥補正部330は、欠陥画素の位置がエッジを撮像している場合には、欠陥画素と対となる位相差検出画素のエッジの画素値に基づいて欠陥画素の画素値を補正する。これにより、補正の精度を向上させている。
ここで、欠陥画素の位置がエッジを撮像していない場合における欠陥補正部330による補正について説明する。位相差検出部161による位相差検出では、比較範囲におけるエッジが重要な情報となる。すなわち、欠陥画素の位置がエッジを撮像していない場合には、欠陥画素の補正の精度を向上させても、位相差検出の精度に与える影響は少ない。そのため、欠陥画素がエッジではない場合には、欠陥補正部330は、従来の補正と同様に、近接する欠陥画素と同じ位相差検出画素の画素値に基づいて、欠陥画素の画素値を補正する。
これにより、欠陥画素の位置がエッジを撮像していない場合における補正の速度が速くなる。すなわち、欠陥補正部330は、高い精度が必要な補正のみ補正の精度を向上させることにより、迅速に補正処理を行う。
次に、欠陥画素と対となる位相差検出画素のエッジが比較範囲外にある場合について、図5を参照して説明する。
[欠陥補正部330による欠陥画素の画素値の補正例]
図5は、本発明の実施の形態において欠陥画素と対となる位相差検出画素のエッジが比較範囲の外にある場合における欠陥画素の画素値の補正の一例を示す模式的である。
同図(a)には、同図(c)において示す画素値に関する被写体(撮像対象)を示す領域(撮像領域510)が模式的に示されている。また、撮像領域510には、エッジを模式的に示す白色の領域(領域511)が示されている。
同図(b)には、同図(a)において示した撮像領域510を撮像する画素を示す領域(画素領域525)が示されている。この画素領域525には、1行に配置された24個の位相差検出画素と、1行に配置された24個の画像生成画素とが示されている。また、画素領域525には、欠陥画素560、Gr画素550、右開口位相差検出画素530、および、左開口位相差検出画素540が示されている。なお、欠陥画素560、Gr画素550、右開口位相差検出画素530、および、左開口位相差検出画素540は、図3において示した欠陥画素460、Gr画素450、右開口位相差検出画素430、および、左開口位相差検出画素440に対応するため、ここでの説明を省略する。
また、図5(b)では、一対の位相差検出画素の画素値を比較する範囲(比較範囲520)が示されている。この比較範囲520は、位相差検出部161において、比較範囲520に配置されている位相差検出画素の画素値に基づいて像(エッジ)の間隔が検出され、合焦対象物に対するフォーカスのズレが検出される一定の範囲である。すなわち、この比較範囲520の外の位相差検出画素の画素値は位相差検出に使用しないため、欠陥補正部330は、比較範囲520の内の位相差検出画素の画素値についてのみエッジを検出し、補正を行う。また、欠陥補正部330は、比較範囲520に対応(近接)する画素(Gr画素550)の画素値に基づいてエッジを検出する。
同図(c)には、同図(b)の比較範囲520に対応するGr画素550の分布データ(分布データ551)と、左開口位相差検出画素540の分布データ(分布データ541)とが、各グラフにおける太い実線により模式的に示されている。さらに、右開口位相差検出画素530の分布データ(分布データ531)が太い実線により模式的に示されている。
なお、分布データ551、分布データ541、および、分布データ531は、図3(c)において示した分布データ451、分布データ441、および、分布データ431にそれぞれ対応する。
また、各分布データの右には、画素領域525における比較範囲520外の画素の画素値による分布データが破線で示されている。
ここで、欠陥画素と対となる位相差検出画素のエッジが比較範囲の外にある場合における欠陥画素の画素値の補正について説明する。
分布データ541の右の破線におけるエッジ(枠542の内の太い点線で示すエッジ)が示すように、欠陥画素と対となる位相差検出画素のエッジが比較範囲(比較範囲520)の外にはみ出してしまった場合には、このエッジは欠陥補正部330に検出されない。
しかしながら、位相差検出では、比較範囲520に配置されている位相差検出画素の一対の分布データからフォーカスのズレ量が算出される。すなわち、一方のエッジが比較範囲の外にはみ出している場合には、正確に欠陥画素を補正しても対のエッジが無いため、フォーカスのズレ量の算出の精度は向上しない。そこで、本発明の実施の形態では、比較範囲の外の画素の画素値を用いての欠陥画素の補正は行わないことにより、フォーカスのズレ量の算出の精度を低下させずに、算出の速度を向上させている。
同図(c)には、欠陥画素と対となる位相差検出画素のエッジが比較範囲の外にある場合に、欠陥画素に近接する画素の画素値を用いて欠陥画素の画素値を補正する例が同図(b)において示した画素配置を用いて模式的に示されている。
同図(c)では、欠陥画素の画素値の補正において画素値が参照される位相差検出画素が、太線の円を付した位相差検出画素(右開口位相差検出画素533および右開口位相差検出画素534)により示されている。また、同図(c)では、欠陥画素460の画素値が、右開口位相差検出画素533および右開口位相差検出画素534の画素値に基づいて補正されることが、矢印581および矢印582により模式的に示されている。
同図(c)に示すように、対となる位相差検出画素のエッジが検出されない場合には、欠陥画素の画素値は、例えば、近接する同じ位相差検出画素(右開口位相差検出画素533および右開口位相差検出画素534)の画素値の平均値から欠陥画素の画素値を補正する。
[位相差検出の一例]
図6は、本発明の実施の形態における欠陥画素を補正したデータによる位相差検出の一例および従来の欠陥画素の補正による位相差検出の一例を示す模式図である。
なお、同図では、図3(a)において示した撮像領域410が撮像されることを想定する。
同図(a)および(b)には、従来の欠陥画素の補正による位相差検出の一例が模式的に示されている。同図(a)には、従来の欠陥画素の補正が、画素配置とともに模式的に示されている。なお、画素領域620、右開口位相差検出画素630、左開口位相差検出画素640、欠陥画素660は、図3(b)において示した画素領域420、右開口位相差検出画素430、等にそれぞれ対応するため、ここでの説明を省略する。また、図6(a)では、欠陥画素の画素値の補正において画素値が参照される位相差検出画素が、太線の円を付した位相差検出画素(右開口位相差検出画素633および634)により示されている。また、同図(a)では、欠陥画素660の画素値が、右開口位相差検出画素633および634の画素値に基づいて補正されることが、矢印681および矢印682により模式的に示されている。
同図(a)に示すように、従来の欠陥画素の補正では、例えば、欠陥画素の画素値は、近接する同じ位相差検出画素(右開口位相差検出画素633および634)の画素値の平均値から欠陥画素の画素値が補正される。
同図(b)には、同図(a)において示した欠陥画素の補正により生成された分布データ(分布データ641および分布データ631)が示されている。なお、分布データ641は左開口位相差検出画素640の各画素値に基づいて生成された分布データであり、分布データ631は右開口位相差検出画素630の各画素値に基づいて生成された分布データである。また、同図(b)では、同図(a)において示した右開口位相差検出画素633および634の画素値の平均値により補正された欠陥画素660の画素値が、枠632の内の分布データにより示されている。
従来の欠陥画素の補正方法による欠陥画素660の画素値の補正では、同図(a)に示すように、右開口位相差検出画素633および634の画素値(出力階調)の平均値が欠陥画素660の画素値となる。すなわち、右開口位相差検出画素633および634の出力階調が「0」である場合には、欠陥画素660の画素値は「0」となる。欠陥画素660にエッジがある場合において、このような補正が行われると、欠陥画素660の画素値が正確に補正されない。これにより、位相差検出において間隔を測定する2つのエッジが検出されず(同図(b)の間隔A11を参照)、位相差検出が正確に行われない問題が生じる。
同図(c)および(d)には、本発明の実施の形態における欠陥補正部330による欠陥画素の補正後の位相差検出の一例が模式的に示されている。
なお、同図(c)は、図4(a)に対応するため、ここでの説明を省略する。
また、図6(d)は、図3(c)および図4(c)において示した分布データ451、441および431と、枠432の内の分布データとが示されている。さらに、図6(d)には、分布データ441のエッジと、分布データ431のエッジとの間の間隔(間隔A12)が示されている。
間隔A12に示すように、本発明の実施の形態の補正によれば、欠陥画素の位置がエッジである場合において、対となる位相差検出画素の画素値を用いて欠陥画素の画素値が補正されることにより、位相差検出を適切に行うことができる。
[複数の欠陥画素を含む画素配置の一例]
図7は、本発明の実施の形態における補正により位相差を検出することが可能な複数の欠陥画素を含む画素配置の一例を示す模式図である。
なお、同図では、図3(b)において示した画素領域420が複数の欠陥画素を含む場合を示すため、図3(b)と同じものについては、同一の符号を付してここでの説明を省略する。
図7(a)には、複数の欠陥画素(欠陥画素460)が集まる一群がある場合の例(画素領域710)が示されている。このような場合においても、Gr画素450のエッジと、欠陥画素の対の位相差検出画素のエッジとが検出されれば、対となる位相差検出画素の画素値を用いて欠陥画素の画素値が補正される。
すなわち、画素領域710に示すように欠陥画素の一群がある場合においても、欠陥補正部330による補正により位相差検出を適切に行うことができる。
図7(b)には、一対の位相差検出画素のうちの一方が欠陥画素である場合の例(画素領域720)が示されている。このような場合においても、Gr画素450のエッジと、欠陥画素の対の位相差検出画素のエッジとが検出されれば、位相差検出を適切に行うことができる。
すなわち、画素領域720に示すように一対の位相差検出画素のうちの一方が欠陥画素である場合においても、欠陥補正部330による補正により位相差検出を適切に行うことができる。
[撮像装置の動作例]
次に、本発明の実施の形態における撮像装置100の動作について図面を参照して説明する。
図8は、本発明の実施の形態における撮像装置100による位相差検出画素の欠陥画素の補正を行う際の撮像処理手順例を示すフローチャートである。
まず、画像を撮像するための撮像動作の開始指示がユーザによりされたか否かが、制御部130により判断される(ステップS901)。そして、画像を撮像するための撮像動作の開始指示がユーザによりされていないと判断された場合には(ステップS901)、撮像処理手順は終了する。
一方、静止画を撮像するための撮像動作の開始指示がユーザによりされていると判断された場合には(ステップS901)、合焦対象物に対するデフォーカス量を算出するための比較範囲が、位相差検出部161により設定される(ステップS902)。そして、被写体が撮像され、撮像画像が撮像素子200により取得される(ステップS903)。
続いて、比較範囲における位相差検出画素の画素値および比較範囲に隣接する画像生成画素(本発明の実施の形態ではG画素)の画素値に基づいて、位相差検出画素の欠陥画素を補正する欠陥補正処理が、欠陥補正部330により行われる(ステップS910)。なお、欠陥補正処理(ステップS910)については、図9を参照して説明する。なお、ステップS910は、特許請求の範囲に記載の検出手順および補正手順の一例である。
その後、位相差検出によりデフォーカス量が算出される位相差検出処理が、位相差検出部161により行われる(ステップS904)。そして、フォーカスレンズ113が駆動部162により駆動され、合焦対象物に対して合焦させる合焦処理が行われる(ステップS905)。
次に、操作受付部120におけるシャッターボタンが押下されたか否かが、制御部130により判断される(ステップS906)。そして、シャッターボタンが押下されていないと判断された場合には(ステップS906)、ステップS909に進む。
一方、シャッターボタンが全押しされたと判断された場合には(ステップS906)、続いて、静止画が、撮像素子200により撮像される(ステップS907)。そして、画像生成部150により信号処理された静止画が、記憶部152により記憶される(ステップS908)。
次に、静止画を撮像するための撮像動作の終了指示がユーザによりされたか否かが、制御部130により判断される(ステップS909)。そして、静止画を撮像するための撮像動作の終了指示がユーザによりされていないと判断された場合には(ステップS909)、ステップS902に戻る。
一方、静止画を撮像するための撮像動作の終了指示がユーザによりされていると判断された場合には(ステップS909)、撮像処理手順は終了する。
図9は、本発明の実施の形態の撮像処理動作における欠陥補正処理(ステップS910)の処理手順例を示すフローチャートである。
まず、位相差を検出する範囲(比較範囲)における位相差検出画素に欠陥画素があるか否かが、欠陥画素情報保持部310から供給される欠陥画素情報を用いて欠陥補正部330により判断される(ステップS911)。そして、比較範囲における位相差検出画素には欠陥画素がないと判断された場合には(ステップS911)、欠陥補正処理手順は終了する。
一方、比較範囲における位相差検出画素に欠陥画素があると判断された場合には(ステップS911)、比較範囲に隣接する画像生成画素(例えば、G画素)の画素値の分布データが生成される(ステップS912)。
次に、その生成された画像生成画素の分布データにエッジがあるか否かが判断される(ステップS913)。そして、画像生成画素の分布データにエッジがないと判断された場合には(ステップS913)、ステップS918に進む。
一方、画像生成画素の分布データにエッジがあると判断された場合には(ステップS913)、欠陥画素の対の位相差検出画素の画素値の分布データが生成される(ステップS914)。次に、この生成された対の位相差検出画素の分布データにエッジがあるか否か判断される(ステップS915)。そして、対の位相差検出画素の分布データにエッジがないと判断された場合には(ステップS915)、ステップS918に進む。
一方、対の位相差検出画素の分布データにエッジがあると判断された場合には(ステップS915)、画像生成画素のエッジ(A)と、対の位相差検出画素のエッジ(B)との間の距離が検出される(ステップS916)。次に、画像生成画素のエッジ(A)を基準とした対の位相差検出画素のエッジ(B)の対象位置に欠陥画素があるか否かが判断される(ステップS917)。そして、対象位置に欠陥画素がないと判断された場合には(ステップS917)、欠陥画素に近接する位相差検出画素のうち欠陥画素と同方向の光を受光する位相差検出画素の画素値の平均値により欠陥画素の画素値が補正される(ステップS918)。そして、ステップS918の後に、欠陥補正処理手順は終了する。
一方、対象位置に欠陥画素があると判断された場合には(ステップS917)、対の位相差検出画素のエッジ(B)の画素値に基づいて欠陥画素の画素値が補正され(ステップS919)、欠陥補正処理手順は終了する。
このように、本発明の実施の形態によれば、欠陥画素の画素値を対の側の位相差検出画素の画素値から補正することにより、位相差検出画素における欠陥画素の画素値の補正の精度を向上させることができる。特に、欠陥画素にエッジが検出される場合において対の側の位相差検出画素の画素値から補正することにより、合焦判定に係る欠陥画素のみに対して精度が高い補正を行うことができる。これにより、欠陥画素の画素値の補正に係る処理を軽減することができる。また、欠陥画素がエッジである場合における補正の精度が向上するため、高周波の被写体やコントラストの高い被写体が撮像された場合において、位相差検出に係るエッジの検出の精度が向上する。すなわち、位相差オートフォーカスの性能を向上させることができる。
また、従来の撮像装置では、近接する位相差検出画素の画素値を用いて補正するため、複数の欠陥画素が集合している領域がある場合には、欠陥画素の画素値を参照して補正してしまうため、適切に補正をすることができない。本発明の実施の形態では、像の移動量が大きい場合には、欠陥画素の位置から離れている位置の画素値を用いて補正を行うため、複数の欠陥画素が集合している領域がある場合においても、精度が高い補正が行うことができる。すなわち、本発明の実施の形態により、撮像素子の製造段階における歩留まりを向上させることができる。
なお、本発明の実施の形態ではG画素について説明したが、R画素およびB画素の画素値を用いても同様に実施することができる。また、G画素、R画素およびB画素の画素値から生成される輝度信号(Y信号)を用いてもよい。なお、既知の被写体認識アルゴリズムを用いて撮像物のズレ量を算出してもよい。
なお、本発明の実施の形態では、画像生成画素のエッジと欠陥画素の対の位相差検出画素のエッジとの間の距離を算出したが、これに限定されるものではない。例えば、欠陥画素の位置と画像生成画素のエッジの位置との間の距離を算出し、それに対応する対側位相差検出画素のエッジの有無を算出するにしても、本発明の実施の形態と同様に実施することができる。
なお、本発明の実施の形態では、像の移動量は整数であることを想定したが、像の移動量が整数でない場合も考えられる(例えば、右方向に1.5画素分シフト)。この場合には、移動前の1画素分左の位置の画素値と、移動前の2画素分左の位置の画素値とから直線補間により1.5画素左の位置における画素値を生成し、この生成した画素値を用いて補正するようにしてもよい。
なお、本発明の実施の形態では、欠陥位相差検出画素が1対の位相差検出画素の片側に1つのみの場合を想定して説明したが、これに限定されるものではない。1対の位相差検出画素の両側にある場合にも、それぞれ他方の位相差検出画素の輝度値を対側画素値とし、それぞれ算出することにより、本発明の実施の形態と同様に実施することができる。
また、本発明の実施の形態では、画像生成画素に備えられるカラーフィルタが3原色(RGB)のカラーフィルタであることを想定して説明したが、これに限定されるものではない。例えば、画像生成画素に補色のカラーフィルタが備えられる場合においても、同様に適用できる。また、1つの画素の領域で可視光領域の波長の光を全て検出する画素(例えば、青色用の画素、緑色用の画素、赤色用の画素が光軸方向に重ねて配置されている撮像素子)が画像生成画素である場合においても、本発明の実施の形態は同様に適用できる。
また、本発明の実施の形態では、位相差検出画素は、2つに瞳分割された光の一方を受光することを想定して説明したが、これに限定されるものではない。例えば、2つの受光素子を備え、瞳分割された光をそれぞれの受光素子で受光することができる位相差検出画素を配置する場合においても、本発明の実施の形態を適用することができる。
また、本発明の実施の形態では、位相差検出画素について、左右に瞳分割を行う位相差検出画素のみを想定して説明したが、これに限定されるものではなく、上下および斜めなどの位相差検出画素についても、同様に実施することができる。また、図2において示した画素配置のパターンについてもこれに限定されるものではなく、位相差検出が行える配置パターンであれば、同様に実施することができる。
なお、本発明の実施の形態は本発明を具現化するための一例を示したものであり、本発明の実施の形態において明示したように、本発明の実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本発明の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本発明は実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
また、本発明の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))等を用いることができる。
100 撮像装置
110 レンズ部
120 操作受付部
130 制御部
140 信号処理部
150 画像生成部
151 表示部
152 記憶部
161 位相差検出部
162 駆動部
200 撮像素子
310 欠陥画素情報保持部
330 欠陥補正部

Claims (9)

  1. 画像を生成するための画素値を生成する画像生成画素と位相差検出による合焦判定を行うための画素値を生成する一対の位相差検出画素とのそれぞれを複数備える撮像素子により生成される画像データに含まれる画素値のうち前記画像生成画素の画素値により形成される第1像と、前記位相差検出画素の画素値により形成される第2像とのそれぞれのエッジを検出する検出部と、
    前記一対の位相差検出画素に欠陥画素が含まれる場合において、前記検出されたエッジに基づいて、前記欠陥画素を前記一対のうちの一方とした場合における他方の位相差検出画素に係る第2像と、前記第1像との間のズレ量を算出し、前記算出されたズレ量および前記他方の位相差検出画素の画素値に基づいて前記欠陥画素の画素値を補正する補正部と
    を具備する画像処理装置。
  2. 前記検出部は、前記ズレ量を検出するための一定範囲を設定して、前記一定範囲における前記他方の位相差検出画素のエッジと、前記一定範囲に近接する画像生成画素のエッジとをそれぞれ検出し、
    前記補正部は、前記検出された他方の位相差検出画素のエッジと画像生成画素のエッジとの間のズレ量を算出し、前記算出されたズレ量および前記他方の位相差検出画素の画素値に基づいて前記欠陥画素の画素値を補正する
    請求項1記載の画像処理装置。
  3. 前記補正部は、前記画像生成画素のエッジの位置を基準として、前記欠陥画素の位置と前記他方の位相差検出画素のエッジの位置とが点対称となる場合には、前記他方の位相差検出画素のエッジに係る画素値に基づいて前記欠陥画素の画素値を補正する
    請求項2記載の画像処理装置。
  4. 前記補正部は、前記欠陥画素の位置が前記点対称とならない場合には、前記欠陥画素に近接する前記一方の位相差検出画素の画素値の平均値に基づいて前記欠陥画素の画素値を補正する
    請求項3記載の画像処理装置。
  5. 前記補正部は、前記検出された画像生成画素のエッジに対応する前記他方の位相差検出画素のエッジが前記一定範囲において検出されない場合には、前記欠陥画素に近接する前記一方の位相差検出画素の画素値の平均値に基づいて前記欠陥画素の画素値を補正する
    請求項3記載の画像処理装置。
  6. 前記画像生成画素は、赤を示す波長領域以外の光を遮光する赤フィルタによって覆われている赤画素と、青を示す波長領域以外の光を遮光する青フィルタによって覆われている青画素と、緑を示す波長領域以外の光を遮光する緑フィルタによって覆われている緑画素とにより構成され、
    前記画像生成画素のエッジは、前記緑画素の画素値により形成される像におけるエッジであり、
    前記補正部は、前記他方の位相差検出画素のエッジと前記緑画素のエッジとの間のズレ量を算出し、前記算出されたズレ量および前記他方の位相差検出画素の画素値に基づいて前記欠陥画素の画素値を補正する
    請求項1記載の画像処理装置。
  7. 画像を生成するための画素値を生成する画像生成画素と位相差検出による合焦判定を行うための画素値を生成する一対の位相差検出画素とのそれぞれを複数備える撮像素子と、
    前記撮像素子により生成される画像データに含まれる画素値のうち前記画像生成画素の画素値により形成される第1像と、前記位相差検出画素の画素値により形成される第2像とのそれぞれのエッジを検出する検出部と、
    前記一対の位相差検出画素に欠陥画素が含まれる場合において、前記検出されたエッジに基づいて、前記欠陥画素を前記一対のうちの一方とした場合における他方の位相差検出画素に係る第2像と、前記第1像との間のズレ量を算出し、前記算出されたズレ量および前記他方の位相差検出画素の画素値に基づいて前記欠陥画素の画素値を補正する補正部と、
    前記補正された位相差検出画素の画素値に基づいて、合焦対象物に合焦しているか否か判定する判定部と、
    前記判定部による判定結果に基づいて、レンズの駆動を制御する制御部と
    を具備する撮像装置。
  8. 画像を生成するための画素値を生成する画像生成画素と位相差検出による合焦判定を行うための画素値を生成する一対の位相差検出画素とのそれぞれを複数備える撮像素子により生成される画像データに含まれる画素値のうち前記画像生成画素の画素値により形成される第1像と、前記位相差検出画素の画素値により形成される第2像とのそれぞれのエッジを検出する検出手順と、
    前記一対の位相差検出画素に欠陥画素が含まれる場合において、前記検出されたエッジに基づいて、前記欠陥画素を前記一対のうちの一方とした場合における他方の位相差検出画素に係る第2像と、前記第1像との間のズレ量を算出し、前記算出されたズレ量および前記他方の位相差検出画素の画素値に基づいて前記欠陥画素の画素値を補正する補正手順と
    を具備する画像処理方法。
  9. 画像を生成するための画素値を生成する画像生成画素と位相差検出による合焦判定を行うための画素値を生成する一対の位相差検出画素とのそれぞれを複数備える撮像素子により生成される画像データに含まれる画素値のうち前記画像生成画素の画素値により形成される第1像と、前記位相差検出画素の画素値により形成される第2像とのそれぞれのエッジを検出する検出手順と、
    前記一対の位相差検出画素に欠陥画素が含まれる場合において、前記検出されたエッジに基づいて、前記欠陥画素を前記一対のうちの一方とした場合における他方の位相差検出画素に係る第2像と、前記第1像との間のズレ量を算出し、前記算出されたズレ量および前記他方の位相差検出画素の画素値に基づいて前記欠陥画素の画素値を補正する補正手順と
    をコンピュータに実行させるプログラム。
JP2011002666A 2011-01-11 2011-01-11 画像処理装置、撮像装置、画像処理方法およびプログラム。 Expired - Fee Related JP5589857B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011002666A JP5589857B2 (ja) 2011-01-11 2011-01-11 画像処理装置、撮像装置、画像処理方法およびプログラム。
US13/335,173 US8587702B2 (en) 2011-01-11 2011-12-22 Image processing apparatus, image pickup apparatus, image processing method, and program
CN2012100076336A CN102595033A (zh) 2011-01-11 2012-01-04 图像处理设备,摄像设备,图像处理方法和程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011002666A JP5589857B2 (ja) 2011-01-11 2011-01-11 画像処理装置、撮像装置、画像処理方法およびプログラム。

Publications (2)

Publication Number Publication Date
JP2012147141A true JP2012147141A (ja) 2012-08-02
JP5589857B2 JP5589857B2 (ja) 2014-09-17

Family

ID=46454970

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011002666A Expired - Fee Related JP5589857B2 (ja) 2011-01-11 2011-01-11 画像処理装置、撮像装置、画像処理方法およびプログラム。

Country Status (3)

Country Link
US (1) US8587702B2 (ja)
JP (1) JP5589857B2 (ja)
CN (1) CN102595033A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013148873A (ja) * 2011-12-19 2013-08-01 Canon Inc 撮像装置及びその制御方法
WO2018168551A1 (ja) * 2017-03-16 2018-09-20 富士フイルム株式会社 撮像素子及び撮像装置

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5229060B2 (ja) * 2009-03-31 2013-07-03 ソニー株式会社 撮像装置および焦点検出方法
JP2012145664A (ja) * 2011-01-11 2012-08-02 Sony Corp 画像処理装置、撮像装置、画像処理方法およびプログラム。
WO2012147515A1 (ja) * 2011-04-28 2012-11-01 富士フイルム株式会社 撮像装置及び撮像方法
CN103842877B (zh) * 2011-09-30 2016-01-27 富士胶片株式会社 成像装置和合焦参数值计算方法
WO2013099637A1 (ja) * 2011-12-28 2013-07-04 富士フイルム株式会社 カラー撮像素子及び撮像装置
WO2013161944A1 (ja) 2012-04-25 2013-10-31 株式会社ニコン 焦点検出装置、焦点調節装置およびカメラ
JP2014137468A (ja) * 2013-01-17 2014-07-28 Sony Corp 撮像装置および撮像方法
JP6263035B2 (ja) * 2013-05-17 2018-01-17 キヤノン株式会社 撮像装置
KR102124601B1 (ko) * 2013-06-21 2020-06-19 삼성전자주식회사 피사체의 거리를 추출하여 정보를 표시하는 전자 장치 및 방법
KR102125775B1 (ko) 2014-02-24 2020-06-23 삼성전자주식회사 배제 픽셀 데이터를 보상하여 영상을 생성하는 방법 및 그것을 이용하는 영상 생성 장치
KR102346622B1 (ko) * 2014-08-04 2022-01-04 엘지이노텍 주식회사 이미지 센서 및 이를 포함하는 촬상 장치
CN106412435B (zh) * 2016-10-12 2019-05-31 Oppo广东移动通信有限公司 对焦方法、装置及移动终端
JP6765953B2 (ja) * 2016-12-22 2020-10-07 キヤノン株式会社 撮像装置及びその制御方法
CN107610143B (zh) * 2017-09-29 2020-05-19 上海天马有机发光显示技术有限公司 图像处理方法、图像处理装置、图像处理***及显示装置
CN107644410B (zh) 2017-09-29 2020-05-19 上海天马有机发光显示技术有限公司 图像处理方法、图像处理装置、图像处理***及显示装置
CN112866510B (zh) * 2019-11-12 2022-06-10 Oppo广东移动通信有限公司 对焦方法和装置、电子设备、计算机可读存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040252874A1 (en) * 2003-06-13 2004-12-16 Tatsuya Yamazaki Radiation imaging method, radiation imaging apparatus, computer program and computer-readable recording medium
JP2010139665A (ja) * 2008-12-10 2010-06-24 Canon Inc 焦点検出装置及びその制御方法
JP2010152161A (ja) * 2008-12-25 2010-07-08 Canon Inc 撮像装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5040458B2 (ja) * 2007-06-16 2012-10-03 株式会社ニコン 固体撮像素子及びこれを用いた撮像装置
JP2009115893A (ja) * 2007-11-02 2009-05-28 Canon Inc 撮像装置
JP5180795B2 (ja) * 2007-12-10 2013-04-10 キヤノン株式会社 撮像装置及びその制御方法
JP4973478B2 (ja) 2007-12-11 2012-07-11 ソニー株式会社 撮像素子および撮像装置
JP2012145664A (ja) * 2011-01-11 2012-08-02 Sony Corp 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP5751946B2 (ja) * 2011-06-15 2015-07-22 キヤノン株式会社 焦点調節装置およびその制御方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040252874A1 (en) * 2003-06-13 2004-12-16 Tatsuya Yamazaki Radiation imaging method, radiation imaging apparatus, computer program and computer-readable recording medium
JP2010139665A (ja) * 2008-12-10 2010-06-24 Canon Inc 焦点検出装置及びその制御方法
JP2010152161A (ja) * 2008-12-25 2010-07-08 Canon Inc 撮像装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013148873A (ja) * 2011-12-19 2013-08-01 Canon Inc 撮像装置及びその制御方法
WO2018168551A1 (ja) * 2017-03-16 2018-09-20 富士フイルム株式会社 撮像素子及び撮像装置
JPWO2018168551A1 (ja) * 2017-03-16 2019-11-07 富士フイルム株式会社 撮像素子及び撮像装置
JP2020025305A (ja) * 2017-03-16 2020-02-13 富士フイルム株式会社 撮像装置
JP2020099055A (ja) * 2017-03-16 2020-06-25 富士フイルム株式会社 撮像装置
JP2020113992A (ja) * 2017-03-16 2020-07-27 富士フイルム株式会社 撮像装置
JP2020113991A (ja) * 2017-03-16 2020-07-27 富士フイルム株式会社 撮像装置
US11184523B2 (en) 2017-03-16 2021-11-23 Fujifilm Corporation Imaging apparatus with phase difference detecting element
US11496666B2 (en) 2017-03-16 2022-11-08 Fujifilm Corporation Imaging apparatus with phase difference detecting element

Also Published As

Publication number Publication date
JP5589857B2 (ja) 2014-09-17
US8587702B2 (en) 2013-11-19
CN102595033A (zh) 2012-07-18
US20120176520A1 (en) 2012-07-12

Similar Documents

Publication Publication Date Title
JP5589857B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP2012145664A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP5589760B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP5664270B2 (ja) 撮像素子および撮像装置
JP5655543B2 (ja) 画像処理装置、画像処理方法およびプログラム。
JP5803095B2 (ja) 撮像素子および撮像装置
JP5853594B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP5490313B2 (ja) カラー撮像素子、撮像装置、及び撮像装置の制御プログラム
US8723991B2 (en) Color imaging element, imaging device, and storage medium storing an imaging program
JP2012042544A (ja) 撮像素子および撮像装置
JP2014137468A (ja) 撮像装置および撮像方法
JP2011221254A (ja) 撮像装置、固体撮像素子、撮像方法およびプログラム
JP5539585B2 (ja) カラー撮像素子、撮像装置、及び撮像プログラム
JP5539584B2 (ja) カラー撮像素子、撮像装置、及び撮像プログラム
US9088710B2 (en) Image processing apparatus, and method, and recording medium recording image processing program for processing output pixels utilized as phase difference detecting elements
JPWO2012128153A1 (ja) カラー撮像素子、撮像装置、及び撮像装置の制御プログラム
JP6463010B2 (ja) 撮像素子および撮像装置
US8804016B2 (en) Color imaging element, imaging device, and storage medium storing an imaging program
JP5786355B2 (ja) デフォーカス量検出装置および電子カメラ
JP2015176114A (ja) 撮像装置および撮像装置の制御方法
JP2019086789A (ja) 撮像素子

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140701

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140714

R151 Written notification of patent or utility model registration

Ref document number: 5589857

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees