JP5889441B2 - 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、撮像装置、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP5889441B2
JP5889441B2 JP2014555423A JP2014555423A JP5889441B2 JP 5889441 B2 JP5889441 B2 JP 5889441B2 JP 2014555423 A JP2014555423 A JP 2014555423A JP 2014555423 A JP2014555423 A JP 2014555423A JP 5889441 B2 JP5889441 B2 JP 5889441B2
Authority
JP
Japan
Prior art keywords
image
sensitivity
display
unit
correction coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014555423A
Other languages
English (en)
Other versions
JPWO2014106917A1 (ja
Inventor
克俊 井澤
克俊 井澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2014555423A priority Critical patent/JP5889441B2/ja
Application granted granted Critical
Publication of JP5889441B2 publication Critical patent/JP5889441B2/ja
Publication of JPWO2014106917A1 publication Critical patent/JPWO2014106917A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)

Description

本発明は、画像処理装置、撮像装置、画像処理方法及び画像処理プログラムに関する。
デジタルカメラとして、位相差検出方式やコントラスト検出方式を用いたオートフォーカスの他に、使用者が手動でフォーカス調整を行うことができる、いわゆるマニュアルフォーカスモードを備えるものが広く知られている。
マニュアルフォーカスモードを有するデジタルカメラとしては、被写体を確認しながらフォーカス調整ができるようにレフレックスミラーを設けて、目視による位相差を表示するスプリットマイクロプリズムスクリーンを用いた方法を採用したものが知られている。また、目視によるコントラストの確認を行う方法を採用したものも知られている。
ところで、近年普及しているレフレックスミラーを省略したデジタルカメラでは、レフレックスミラーがないため位相差を表示しながら被写体像を確認する方法がなく、コントラスト検出方式に頼らざるを得なかった。しかし、この場合には、LCD(liquid crystal display:液晶ディスプレイ)等の表示装置の解像度以上のコントラストの表示ができず、一部拡大するなどして表示する方法を採らざるを得なかった。
そこで、近年では、マニュアルフォーカスモード時に操作者が被写体に対してピントを合わせる作業を容易にするために、スプリットイメージをライブビュー画像(スルー画像ともいう)内に表示している。スプリットイメージとは、例えば表示領域が複数に分割された分割画像(例えば上下方向に分割された各画像)であって、ピントのずれに応じて視差発生方向(例えば左右方向)にずれ、ピントが合った状態だと視差発生方向のずれがなくなる分割画像を指す。操作者(例えば撮影者)は、スプリットイメージ(例えば上下方向に分割された各画像)のずれがなくなるように、マニュアルフォーカスリング(以下、「フォーカスリング」という)を操作してピントを合わせる。
特開2009−147665号公報(以下、「特許文献1」という)に記載の撮像装置は、撮像光学系からの光束のうち、瞳分割部によって分割された光束により形成された第1の被写体像及び第2の被写体像をそれぞれ光電変換した第1の画像及び第2の画像を生成する。そして、これらの第1及び第2の画像を用いてスプリットイメージを生成し、かつ、瞳分割部によって分割されない光束により形成された第3の被写体像を光電変換して第3の画像を生成する。そして、第3の画像を表示部に表示し、かつ、第3の画像内に、生成したスプリットイメージを表示し、かつ第3の画像から抽出した色情報をスプリットイメージに付加するようにしている。このように第3の画像から抽出した色情報をスプリットイメージに付加することにより、スプリットイメージの視認性を良好にすることができる。
特開2011−223562号公報(以下、「特許文献2」という)に記載の撮像装置は、撮影光学系の左右方向の異なる領域を通過した光を各々受光し、光電変換することにより左右の視点画像を取得し、左右の視点画像に対するシェーディング補正量を異ならせて左右の視点画像に対してシェーディング補正を行う。
特開2012−75079号公報(以下、「特許文献3」という)に記載の撮像装置は、単一の撮影光学系を用いて撮影された左右の視差画像に対して、左右の視差画像間の輝度差が軽減するようにそれぞれ異なるシェーディング補正をかけることを特徴としている。
WO2012/036019公報(以下、「特許文献4」という)に記載の撮像装置は、レンズの有するシェーディングを補正する2次元の補正テーブルと単眼3Dに起因するシェーディングを補正する1次元の補正テーブルとを備えている。
ところで、通常、スプリットイメージはライブビューで連続的に表示させるものであるが、この場合、通常画像と位相差画像という特定の異なる画像が混在するため、それぞれの画像に対して個別に画像処理が必要になり、処理負荷が大きくなる。このような処理負荷の大きな画像処理を行うと表示のリアルタイム性が損なわれる虞がある。すなわち、撮像してから、撮像して得た画像が表示されるまでの時間が長くなり、単位時間当たりに表示される画像の枚数が少なくなる虞があるということである。そのため、スプリットイメージの表示のリアルタイム性を確保するために簡易的な画像処理が要求されている。
本発明は、このような実情を鑑みて提案されたものであり、合焦画像用の画像の表示のリアルタイム性を簡素な構成で確保することができる画像処理装置、撮像装置、画像処理方法及び画像処理プログラムを提供することを目的とする。
上記目的を達成するために、本発明の第1の態様に係る画像処理装置は、撮影レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第1及び第2の画像信号を出力する第1及び第2の画素群を有する撮像素子から出力された前記第1及び第2の画像信号に基づく第1及び第2の画像を取得する画像取得部と、前記第1の画素群における瞳分割方向の画素の前記第1の領域を介して入射される光に対する感度、及び前記第2の画素群における瞳分割方向の画素の前記第2の領域を介して入射される光に対する感度を取得する感度取得部と、前記感度取得部により取得された感度に基づいて前記第1の画像及び前記第2の画像の各々に対して直線近似した感度補正係数を求め、求めた感度補正係数に基づいて前記第1及び第2の画像の輝度を補正する補正部と、前記撮像素子から出力された画像信号に基づいて第1の表示用画像を生成すると共に、前記補正部により補正された前記第1及び第2の画像に基づいて合焦確認に使用する第2の表示用画像を生成する生成部と、画像を表示する表示部と、前記表示部に対して、前記生成部により生成された前記第1の表示用画像を動画像として連続して表示させ、かつ、前記第1の表示用画像の表示領域内に、前記生成部により生成された前記第2の表示用画像を動画像として連続して表示させる制御を行う表示制御部と、を含む。これにより、本構成を有しない場合に比べ、合焦画像用の画像の表示のリアルタイム性を簡素な構成で確保することができる。
上記目的を達成するために、本発明の第2の態様に係る画像処理装置は、撮影レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第1及び第2の画像信号を出力する第1及び第2の画素群を有する撮像素子から出力された前記第1及び第2の画像信号に基づく第1及び第2の画像を取得する画像取得部と、前記第1の画素群における瞳分割方向の少なくとも両端部の画素の前記第1の領域を介して入射される光に対する感度、及び前記第2の画素群における瞳分割方向の画素の前記第2の領域を介して入射される光に対する感度を取得する感度取得部と、前記感度取得部により取得された感度に基づいて前記第1の画像及び前記第2の画像の各々に対して直線近似した感度補正係数を求め、求めた感度補正係数に基づいて前記第1及び第2の画像の輝度を補正する補正部と、前記撮像素子から出力された画像信号に基づいて第1の表示用画像を生成すると共に、前記補正部により補正された前記第1及び第2の画像に基づいて合焦確認に使用する第2の表示用画像を生成する生成部と、画像を表示する表示部と、前記生成部により生成された前記第1の表示用画像の前記表示部による動画像としての連続した表示を抑止し、かつ、前記表示部に対して、前記生成部により生成された前記第2の表示用画像を動画像として連続して表示させる制御を行う表示制御部と、を含む。これにより、本構成を有しない場合に比べ、合焦画像用の画像の表示のリアルタイム性を簡素な構成で確保することができる。
本発明の第3の態様は、本発明の第1の態様又は第2の態様において、前記感度補正係数が、更に、前記第1及び第2の画素群の各々の瞳分割方向の中央部に含まれる対応する画素間の感度差を前記第1及び第2の画素群の各々の瞳分割方向の両端部に含まれる対応する画素間の感度差よりも小さくする感度補正係数であるものとしてもよい。これにより、本構成を有しない場合に比べ、簡素な構成で、合焦確認用の画像の瞳分割方向に相当する方向の中央部に含まれる画素間の輝度差を両端部の輝度差よりも軽減することができる。
本発明の第4の態様は、本発明の第1の態様から第3の態様の何れか1つにおいて、前記補正部が、前記画像取得部により取得された前記第1及び第2の画像の輝度を、前記感度補正係数を用いて補正し、補正した輝度を所定係数を乗じて調整するものとしてもよい。これにより、本構成を有しない場合に比べ、簡素な構成で、合焦確認用の画像の全体的な輝度を目標とする輝度に近付けることができる。
本発明の第5の態様は、本発明の第1の態様から第4の態様の何れか1つにおいて、前記補正部が、撮影条件に基づいて前記感度補正係数を導出し、導出した前記感度補正係数を用いて、前記画像取得部により取得された前記第1及び第2の画像の輝度を補正するものとしてもよい。これにより、撮影条件に基づいて導出された感度補正係数を用いない場合に比べ、合焦確認用の画像の輝度が目標とする輝度から撮影条件に起因して乖離することを抑制することができる。
本発明の第6の態様は、本発明の第5の態様において、前記補正部が、前記撮影条件に基づいて定められた目標感度を参考にして前記感度補正係数を導出し、導出した前記感度補正係数を用いて前記画像取得部により取得された前記第1及び第2の画像の輝度を補正するものとしてもよい。これにより、本構成を有しない場合に比べ、簡素な構成で、合焦確認用の画像の輝度が目標とする輝度から撮影条件に起因して乖離することを抑制することができる。
本発明の第7の態様は、本発明の第6の態様において、前記撮影条件を絞り値とし、前記補正部が、予め定められた複数の絞り値の各々について前記目標感度を参考にして前記感度補正係数が予め導出された状態で、前記複数の絞り値以外の絞り値に基づく前記第1及び第2の画像が前記画像取得部によって取得される場合、前記複数の絞り値のうちの少なくとも2つの絞り値の各々についての前記感度補正係数を補間し、補間後の前記感度補正係数を用いて、前記画像取得部により取得された前記第1及び第2の画像の輝度を補正するものとしてもよい。これにより、本構成を有しない場合に比べ、絞り値が無段階的に設定される場合であっても、合焦確認用の画像の輝度が目標とする輝度から絞り値に起因して乖離することを抑制することができる。
本発明の第8の態様は、本発明の第1の態様から第7の態様の何れか1つにおいて、前記感度取得部が、前記第1及び第2の画素群の各々の瞳分割方向の中央部に含まれる複数の画素の感度を取得するものとしてもよい。これにより、第1及び第2の画素群の各々の瞳分割方向の中央部に含まれる複数の画素の感度を取得しない場合に比べ、合焦確認用の画像の中央部の輝度を高精度に補正することができる。
本発明の第9の態様は、本発明の第1の態様から第8の態様の何れか1つにおいて、前記撮像素子が、前記撮影レンズを透過した被写体像が瞳分割されずに結像されて第3の画像信号を出力する第3の画素群を更に有し、前記生成部が、前記第3の画素群から出力された前記第3の画像信号に基づいて前記第1の表示用画像を生成するものとしてもよい。本構成を有しない場合に比べ、簡素な構成で、第1の表示用画像の画質を向上させることができる。
上記目的を達成するために、本発明の第10の態様に係る撮像装置は、本発明の第1の態様から第9の態様の何れか1つの画像処理装置と、前記第1及び第2の画素群を有する撮像素子と、前記撮像素子から出力された画像信号に基づいて生成された画像を記憶する記憶部と、を含む。これにより、本構成を有しない場合に比べ、合焦画像用の画像の表示のリアルタイム性を簡素な構成で確保することができる。
上記目的を達成するために、本発明の第11の態様に係る画像処理方法は、撮影レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第1及び第2の画像信号を出力する第1及び第2の画素群を有する撮像素子から出力された前記第1及び第2の画像信号に基づく第1及び第2の画像を取得し、前記第1の画素群における瞳分割方向の画素の前記第1の領域を介して入射される光に対する感度、及び前記第2の画素群における瞳分割方向の画素の前記第2の領域を介して入射される光に対する感度を取得し、取得した感度に基づいて前記第1の画像及び前記第2の画像の各々に対して直線近似した感度補正係数を求め、求めた感度補正係数に基づいて前記第1及び第2の画像の輝度を補正し、前記撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、補正した前記第1及び第2の画像に基づいて合焦確認に使用する第2の表示用画像を生成し、画像を表示する表示部に対して、生成した前記第1の表示用画像を動画像として連続して表示させ、かつ、前記第1の表示用画像の表示領域内に、生成した前記第2の表示用画像を動画像として連続して表示させる制御を行うことを含む。これにより、本構成を有しない場合に比べ、合焦画像用の画像の表示のリアルタイム性を簡素な構成で確保することができる。
上記目的を達成するために、本発明の第12の態様に係る画像処理方法は、撮影レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第1及び第2の画像信号を出力する第1及び第2の画素群を有する撮像素子から出力された前記第1及び第2の画像信号に基づく第1及び第2の画像を取得し、前記第1の画素群における瞳分割方向の画素の前記第1の領域を介して入射される光に対する感度、及び前記第2の画素群における瞳分割方向の画素の前記第2の領域を介して入射される光に対する感度を取得し、取得した感度に基づいて前記第1の画像及び前記第2の画像の各々に対して直線近似した感度補正係数を求め、求めた感度補正係数に基づいて前記第1及び第2の画像の輝度を補正し、前記撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、補正した前記第1及び第2の画像に基づいて合焦確認に使用する第2の表示用画像を生成し、生成した前記第1の表示用画像の表示部による動画像としての連続した表示を抑止し、かつ、前記表示部に対して、生成した前記第2の表示用画像を動画像として連続して表示させる制御を行うことを含む。これにより、本構成を有しない場合に比べ、合焦画像用の画像の表示のリアルタイム性を簡素な構成で確保することができる。
上記目的を達成するために、本発明の第13の態様に係る画像処理プログラムは、本発明の第1の態様から第9の態様の何れか1つの画像処理装置における前記画像取得部、前記感度取得部、前記補正部及び前記表示制御部としてコンピュータを機能させるためのものである。これにより、本構成を有しない場合に比べ、合焦画像用の画像の表示のリアルタイム性を簡素な構成で確保することができる。
本発明によれば、合焦画像用の画像の表示のリアルタイム性を簡素な構成で確保することができる、という効果が得られる。
第1〜3実施形態に係るレンズ交換式カメラである撮像装置の外観の一例を示す斜視図である。 図1に示す撮像装置の背面側を示す背面図である。 第1〜3実施形態に係る撮像装置の電気系の構成の一例を示すブロック図である。 第1〜3実施形態に係る撮像装置に含まれる撮像素子に設けられているカラーフィルタの配置の一例を示す概略配置図である。 第1〜3実施形態に係る撮像装置に含まれる撮像素子における位相差画素の配置の一例を示す概略構成図である。 第1〜3実施形態に係る撮像装置の撮像素子に含まれる位相差画素(第1の画素及び第2の画素)の構成の一例を示す概略構成図である。 第1〜3実施形態に係る撮像装置に含まれる画像処理部の要部機能の一例を示す機能ブロック図である。 第1〜3実施形態に係る画像処理部に含まれる生成部の要部機能の一例を示す機能ブロック図である。 第1〜3実施形態に係る撮像装置の要部機能の一例を示す機能ブロック図である。 第1〜3実施形態に係る撮像装置に含まれる撮像素子における位相差画素を通常画素で補間する態様の一例を示す模式図である。 第1〜3実施形態に係る撮像装置の表示部に表示されたライブビュー画像であって、ピントが合っていない状態のライブビュー画像の一例を示す画面図である。 第1〜3実施形態に係る撮像装置の表示部に表示されたライブビュー画像であって、ピントが合っている状態のライブビュー画像の一例を示す画面図である。 第1〜3実施形態に係る撮像装置に含まれる表示装置におけるスプリットイメージの表示領域及び通常画像の表示領域の位置の一例を示す模式図である。 第1〜3実施形態に係る撮像装置に含まれる第1及び第2の画素の各々に入射する光束の経路の一例を示す模式図である。 瞳分割方向の線形的な減光特性が左目画像及び右目画像の各々における瞳分割方向に相当する方向の各画素の輝度に与える影響の一例を示すグラフである。 第1実施形態に係る画像出力処理の流れの一例を示すフローチャートである。 第1実施形態に係る感度補正係数取得処理の流れの一例を示すフローチャートである。 第1実施形態に係る感度補正係数取得処理において用いられる第1感度比曲線、第2感度比曲線、第1近似直線、第2近似直線及び目標感度比の一例を示すグラフである。 第1実施形態に係る感度補正係数取得処理が行われて得られた感度補正係数を用いて補正された瞳分割方向の画素の感度比の一例を示すグラフである。 補正前後の右目画像及び左目画像が受ける減光特性の影響の一例を示す模式図である。 第2実施形態に係る感度補正係数取得処理の流れの一例を示すフローチャートである。 F2.0が設定されている状態で絞り値を考慮せずに感度比を補正する場合に用いる第1及び第2近似直線の一例を示すグラフ及び補正後の感度比の一例を示すグラフである。 F5.6が設定されている状態で絞り値を考慮せずに感度比を補正する場合に用いる第1及び第2近似直線の一例を示すグラフ及び補正後の感度比の一例を示すグラフである。 F5.6が設定されている状態で絞り値を考慮して感度比を補正する場合に用いる第1及び第2近似直線の一例を示すグラフ及び補正後の感度比の一例を示すグラフである。 第3実施形態に係る画像出力処理の流れの一例を示すフローチャートである。 F2.0、F2.2及びF2.8の場合に導出された補正用直線の一例を示すグラフである。 感度補正係数の補間方法の一例を示すグラフである。 第4実施形態に係るスマートフォンの外観の一例を示す斜視図である。 第4実施形態に係るスマートフォンの電気系の要部構成の一例を示すブロック図である。 第1〜4実施形態に係るスプリットイメージの変形例であって、第1の画像及び第2の画像を奇数ラインと偶数ラインとに分けて交互に並べられて形成されたスプリットイメージの一例を示す模式図である。 第1〜4実施形態に係るスプリットイメージの変形例であって、行方向に対して傾いた斜めの分割線により分割されているスプリットイメージの一例を示す模式図である。 第1〜4実施形態に係るスプリットイメージの変形例であって、格子状の分割線で分割されたスプリットイメージの一例を示す模式図である。 第1〜4実施形態に係るスプリットイメージの変形例であって、市松模様に形成されたスプリットイメージの一例を示す模式図である。
以下、添付図面に従って本発明に係る撮像装置の実施の形態の一例について説明する。
[第1実施形態]
図1は、第1実施形態に係る撮像装置100の外観の一例を示す斜視図であり、図2は、図1に示す撮像装置100の背面図である。
撮像装置100は、レンズ交換式カメラである。撮影装置100は、カメラ本体200と、カメラ本体200に交換可能に装着される交換レンズ300と、を含み、レフレックスミラーが省略されたデジタルカメラである。交換レンズ300は、手動操作により光軸方向に移動可能なフォーカスレンズ302を有する撮影レンズ16(図3参照)を含む。レフレックスミラーが省略されたデジタルカメラである。また、カメラ本体200には、ハイブリッドファインダー(登録商標)220が設けられている。ここで言うハイブリッドファインダー220とは、例えば光学ビューファインダー(以下、「OVF」という)及び電子ビューファインダー(以下、「EVF」という)が選択的に使用されるファインダーを指す。
交換レンズ300は、カメラ本体200に対して交換可能に装着される。また、交換レンズ300の鏡筒にはフォーカスリング301が設けられている。フォーカスリング301の手動による回転操作に伴ってフォーカスレンズ302は光軸方向に移動し、被写体距離に応じた合焦位置で後述の撮像素子20(図3参照)に被写体光が結像される。
カメラ本体200の前面には、ハイブリッドファインダー220に含まれるOVFのファインダー窓241が設けられている。また、カメラ本体200の前面には、ファインダー切替えレバー(ファインダー切替え部)214が設けられている。ファインダー切替えレバー214を矢印SW方向に回動させると、OVFで視認可能な光学像とEVFで視認可能な電子像(ライブビュー画像)との間で切り換わるようになっている(後述)。なお、OVFの光軸L2は、交換レンズ300の光軸L1とは異なる光軸である。また、カメラ本体200の上面には、主としてレリーズボタン211及び撮影モードや再生モード等の設定用のダイヤル212が設けられている。
撮影準備指示部及び撮影指示部としてのレリーズボタン211は、撮影準備指示状態と撮影指示状態との2段階の押圧操作が検出可能に構成されている。撮影準備指示状態とは、例えば待機位置から中間位置(半押し位置)まで押下される状態を指し、撮影指示状態とは、中間位置を超えた最終押下位置(全押し位置)まで押下される状態を指す。なお、以下では、「待機位置から半押し位置まで押下される状態」を「半押し状態」といい、「待機位置から全押し位置まで押下される状態」を「全押し状態」という。
本第1実施形態に係る撮像装置100では、レリーズボタン211を半押し状態にすることにより撮影条件の調整が行われ、その後、引き続き全押し状態にすると露光(撮影)が行われる。撮影条件としては、例えば露出状態や合焦状態などが挙げられる。なお、本第1実施形態に係る撮像装置100では、撮影条件の調整として露出状態及び合焦状態の調整が行われる。つまり、レリーズボタン211を半押し状態にすることによりAE(Automatic Exposure:自動露出)機能が働いて露出状態(シャッタースピード、絞りの状態)が設定された後、AF(Auto-Focus:自動ピント)機能が働いて合焦制御される。
カメラ本体200の背面には、OVFのファインダー接眼部242、表示部213、十字キー222、MENU/OKキー224、BACK/DISPボタン225が設けられている。
十字キー222は、1つ又は複数のメニューの選択、ズームやコマ送り等の各種の指令信号を出力するマルチファンクションのキーとして機能する。MENU/OKキー224は、表示部213の画面上に1つ又は複数のメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作キーである。BACK/DISPボタン225は、選択項目など所望の対象の消去や指定内容の取消し、あるいは1つ前の操作状態に戻すときなどに使用される。
表示部213は、例えばLCDにより実現され、撮影モード時に連続フレームで撮像されて得られた連続フレーム画像の一例であるライブビュー画像(スルー画像)の表示に用いられる。また、表示部213は、静止画撮影の指示が与えられた場合に単一フレームで撮像されて得られた単一フレーム画像の一例である静止画像の表示にも用いられる。更に、表示部213は、再生モード時の再生画像の表示やメニュー画面等の表示にも用いられる。
図3は第1実施形態に係る撮像装置100の電気系の構成(内部構成)の一例を示すブロック図である。
撮像装置100は、カメラ本体200に備えられたマウント256と、マウント256に対応する交換レンズ300側のマウント346と、を含む。交換レンズ300は、マウント256にマウント346が結合されることによりカメラ本体200に交換可能に装着される。
交換レンズ300は、スライド機構303及びモータ304を含む。スライド機構303は、フォーカスリング301の操作が行われることでフォーカスレンズ302を光軸L1方向に移動させる。スライド機構303には光軸L1方向に対してスライド可能にフォーカスレンズ302が取り付けられている。また、スライド機構303にはモータ304が接続されており、スライド機構303は、モータ304の動力を受けてフォーカスレンズ302を光軸L1方向に沿ってスライドさせる。
モータ304は、マウント256,346を介してカメラ本体200に接続されており、カメラ本体200からの命令に従って駆動が制御される。なお、本第1実施形態では、モータ304の一例として、ステッピングモータを適用している。従って、モータ304は、カメラ本体200からの命令によりパルス電力に同期して動作する。
撮像装置100は、撮影した静止画像や動画像を記録するデジタルカメラであり、カメラ全体の動作は、CPU(central processing unit:中央処理装置)12によって制御されている。撮像装置100は、本発明に係る決定部及び制御部の一例であるCPU12を含む。また、撮像装置100は、操作部14、インタフェース部24、メモリ26及びエンコーダ34を含む。また、撮像部100は、本発明に係る表示制御部の一例である表示制御部36A,36Bを含む。また、撮像部100は、接眼検出部37を含む。また、撮像装置100は、本発明に係る画像取得部、感度取得部、補正部及び生成部の一例である画像処理部28を含む。なお、以下では、表示制御部36A,36Bを区別して説明する必要がない場合は「表示制御部36」と称する。また、本第1実施形態では、画像処理部28とは別のハードウェア構成として表示制御部36を設けているが、これに限らず、画像処理部28が表示制御部36と同様の機能を有するものとしてもよく、この場合、表示制御部36は不要となる。
CPU12、操作部14、インタフェース部24、記憶部の一例であるメモリ26、画像処理部28、エンコーダ34、表示制御部36A,36B、接眼検出部37及び外部インタフェース(I/F)39は、バス40を介して相互に接続されている。なお、メモリ26は、パラメータやプログラムなどが記憶された不揮発性の記憶領域(一例としてEEPROMなど)と画像などの各種情報が一時的に記憶される揮発性の記憶領域(一例としてSDRAMなど)とを有する。
なお、本第1実施形態に係る撮像装置100では、CPU12が、撮像によって得られた画像のコントラスト値が最大となるように焦点調整モータを駆動制御することによって合焦制御を行う。また、CPU12は、撮像によって得られた画像の明るさを示す物理量であるAE情報を算出する。CPU12は、レリーズボタン211が半押し状態とされたときには、AE情報により示される画像の明るさに応じたシャッタースピード及びF値を導出する。そして、導出したシャッタースピード及びF値となるように関係各部を制御することによって露出状態の設定を行う。
操作部14は、撮像装置100に対して各種指示を与える際に操作者によって操作されるユーザインタフェースである。操作部14によって受け付けられた各種指示は操作信号としてCPU12に出力され、CPU12は、操作部14から入力された操作信号に応じた処理を実行する。
操作部14は、レリーズボタン211、撮影モード等を選択するフォーカスモード切替え部212、表示部213、ファインダー切替えレバー214、十字キー222、MENU/OKキー224及びBACK/DISPボタン225を含む。また、操作部14は、各種情報を受け付けるタッチパネルも含む。このタッチパネルは、例えば表示部213の表示画面に重ねられている。
カメラ本体200は、位置検出部23を含む。位置検出部23は、CPU12に接続されている。位置検出部23は、マウント256,346を介してフォーカスリング301に接続されており、フォーカスリング301の回転角度を検出し、検出結果である回転角度を示す回転角度情報をCPU12に出力する。CPU12は、位置検出部23から入力された回転角度情報に応じた処理を実行する。
撮影モードが設定されると、被写体を示す画像光は、手動操作により移動可能なフォーカスレンズ302を含む撮影レンズ16及びシャッタ18を介してカラーの撮像素子(一例としてCMOSセンサ)20の受光面に結像される。撮像素子20に蓄積された信号電荷は、デバイス制御部22から加えられる読出し信号によって信号電荷(電圧)に応じたデジタル信号として順次読み出される。撮像素子20は、いわゆる電子シャッタ機能を有しており、電子シャッタ機能を働かせることで、読出し信号のタイミングによって各フォトセンサの電荷蓄積時間(シャッタスピード)を制御する。なお、本第1実施形態に係る撮像素子20は、CMOS型のイメージセンサであるが、これに限らず、CCDイメージセンサでもよい。
撮像素子20には一例として図4に示すカラーフィルタ21が設けられている。図4にはカラーフィルタ21の配列の一例が模式的に示されている。なお、図4に示す例では、画素数の一例として(4896×3264)画素を採用し、アスペクト比として3:2を採用しているが、画素数及びアスペクト比はこれに限られるものではない。一例として図4に示すように、カラーフィルタ21は、輝度信号を得るために最も寄与するG(緑)に対応する第1のフィルタG、R(赤)に対応する第2のフィルタR及びB(青)に対応する第3のフィルタBを含む。第1のフィルタG(以下、Gフィルタと称する)、第2のフィルタR(以下、Rフィルタと称する)及び第3のフィルタB(以下、Bフィルタと称する)の配列パターンは、第1の配列パターンAと第2の配列パターンBとに分類される。
第1の配列パターンAにおいて、Gフィルタは、3×3画素の正方配列の四隅及び中央の画素上に配置されている。第1の配列パターンAにおいて、Rフィルタは、正方配列の行方向(例えば水平方向)における中央の垂直ライン上に配置されている。第1の配列パターンAにおいて、Bフィルタは、正方配列の列方向(例えば垂直方向)における中央の水平ライン上に配置されている。第2の配列パターンBは、第1の基本配列パターンAとフィルタGの配置が同一で且つフィルタRの配置とフィルタBの配置とを入れ替えたパターンである。カラーフィルタ21は、6×6画素に対応する正方配列パターンからなる基本配列パターンCを含む。基本配列パターンCは、第1の配列パターンAと第2の配列パターンBとが点対称で配置された6×6画素のパターンであり、基本配列パターンCが行方向及び列方向に繰り返し配置されている。すなわち、カラーフィルタ21では、R,G,Bの各色のフィルタ(Rフィルタ、Gフィルタ及びBフィルタ)が所定の周期性をもって配列されている。そのため、カラー撮像素子から読み出されるR,G,B信号の同時化(補間)処理等を行う際に、繰り返しパターンにしたがって処理を行うことができる。
また、基本配列パターンCの単位で間引き処理して画像を縮小する場合、間引き処理した縮小画像のカラーフィルタ配列は、間引き処理前のカラーフィルタ配列と同じにすることができ、共通の処理回路を使用することができる。
カラーフィルタ21は、輝度信号を得るために最も寄与する色(本第1実施形態では、Gの色)に対応するGフィルタが、カラーフィルタ配列の行方向、列方向、及び斜め方向の各ライン内に配置されている。そのため、高周波となる方向によらず高周波領域での同時化処理の再現精度を向上させることができる。
カラーフィルタ21は、上記Gの色以外の2色以上の他の色(本第1実施形態では、R,Bの色)に対応するRフィルタ及びBフィルタが、カラーフィルタ配列の行方向及び列方向の各ライン内に配置されている。そのため、色モワレ(偽色)の発生が抑制され、これにより、偽色の発生を抑制するための光学ローパスフィルタを光学系の入射面から撮像面までの光路に配置しないようにすることができる。また、光学ローパスフィルタを適用する場合でも、偽色の発生を防止するための高周波数成分をカットする働きの弱いものを適用することができ、解像度を損なわないようにすることができる。
基本配列パターンCは、破線の枠で囲んだ3×3画素の第1の配列パターンAと、一点鎖線の枠で囲んだ3×3画素の第2の配列パターンBとが、行方向、列方向に交互に並べられた配列となっていると捉えることもできる。
第1の配列パターンA及び第2の配列パターンBは、それぞれ輝度系画素であるGフィルタが4隅と中央に配置され、両対角線上に配置されている。また、第1の配列パターンAは、中央のGフィルタを挟んでBフィルタが水平方向に配列され、Rフィルタが列方向に配列される。一方、第2の配列パターンBは、中央のGフィルタを挟んでRフィルタが行方向に配列され、Bフィルタが列方向に配列されている。すなわち、第1の配列パターンAと第2の配列パターンBとは、RフィルタとBフィルタとの位置関係が逆転しているが、その他の配置は同様になっている。
撮像装置100は、位相差AF機能を有する。撮像素子20は、位相差AF機能を働かせた場合に用いられる複数の位相差検出用の画素を含む。複数の位相差検出用の画素は予め定めたパターンで配置されている。一例として図5に示すように、位相差検出用の画素は、行方向の左半分の画素が遮光された第1の画素L及び行方向の右半分の画素が遮光された第2の画素Rの何れかである。なお、以下では、第1の画素L及び第2の画素Rを区別して説明する必要がない場合は「位相差画素」と称する。
一例として図6に示すように、第1の画素Lは遮光部材20Aを有し、第2の画素Rは遮光部材20Bを有する。遮光部材20Aは、フォトダイオードPDの前面側(マイクロレンズ19側)に設けられており、受光面の左半分(受光面から被写体を臨む場合の左側(換言すると、被写体から受光面を臨む場合の右側))を遮光する。一方、遮光部材20Bは、フォトダイオードPDの前面側に設けられており、受光面の右半分(受光面から被写体を臨む場合の右側(換言すると、被写体から被写体を臨む場合の左側))を遮光する。
マイクロレンズ19及び遮光部材20A,20Bは瞳分割部として機能し、第1の画素Lは、撮影レンズ16の射出瞳を通過する光束の光軸の左側のみを受光し、第2の画素Rは、撮影レンズ16の射出瞳を通過する光束の光軸の右側のみを受光する。このように、射出瞳を通過する光束は、瞳分割部であるマイクロレンズ19及び遮光部材20A,20Bにより左右に分割され、それぞれ第1の画素Lおよび第2の画素Rに入射する。
また、撮影レンズ16の射出瞳を通過する光束のうちの左半分の光束に対応する被写体像と、右半分の光束に対応する被写体像のうち、ピントが合っている(合焦状態である)部分は、撮像素子20上の同じ位置に結像する。これに対し、前ピン又は後ピンの部分は、それぞれ撮像素子20上の異なる位置に入射する(位相がずれる)。これにより、左半分の光束に対応する被写体像と右半分の光束に対応する被写体像とは、視差が異なる視差画像(後述する左眼画像及び右眼画像)として取得することができる。
撮像装置100は、位相差AF機能を働かせることにより、第1の画素Lの画素値と第2の画素Rの画素値とに基づいて位相のずれ量を検出する。そして、検出した位相のずれ量に基づいて撮影レンズの焦点位置を調整する。なお、以下では、遮光部材20A,20Bを区別して説明する必要がない場合は符号を付さずに「遮光部材」と称する。
撮像素子20は、第1の画素群、第2の画素群及び第3の画素群に分類される。第1の画素群とは、例えば複数の第1の画素Lを指す。第2の画素群とは、例えば複数の第2の画素Rを指す。第3の画素群とは、例えば複数の通常画素(第3の画素の一例)を指す。ここで言う「通常画素」とは、例えば位相差画素以外の画素(例えば遮光部材を有しない画素)を指す。なお、以下では、第1の画素群から出力されるRAW画像を「第1の画像」と称し、第2の画素群から出力されるRAW画像を「第2の画像」と称し、第3の画素群から出力されるRAW画像を「第3の画像」と称する。
第1及び第2の画素群に含まれる各画素は、第1の画素群と第2の画素群との間で行方向についての位置が1画素内で揃う位置に配置されている。また、第1及び第2の画素群に含まれる各画素は、第1の画素群と第2の画素群との間で列方向についての位置も1画素内で揃う位置に配置されている。図5に示す例では、行方向及び列方向の各々について直線状に1の画素Lと第2の画素Rとが複数画素分の間隔を空けて交互に配置されている。
また、図5に示す例では、第1及び第2の画素群に含まれる各画素の位置を行方向及び列方向の各々について1画素内で揃う位置としているが、行方向及び列方向の少なくとも一方について所定画素数内(例えば2画素以内)に収まる位置としてもよい。なお、ピントずれ以外の要因で画像ずれが発生するのを最大限に抑制するためには、一例として図5に示すように第1及び第2の画素群に含まれる各画素の位置を行方向及び列方向の各々について1画素内で揃う位置とすることが好ましい。
位相差画素は、一例として図5に示すように、2×2画素に対応する正方配列のGフィルタの画素に対して設けられている。すなわち、図5に示す例では、2×2画素のGフィルタの図中正面視右上角の画素が位相差画素に対して割り当てられている。また、位相差画素間には通常画素が配置されており、2×2画素のGフィルタの残りの画素が通常画素に対して割り当てられる。また、図5に示す例では、行方向に第1の画素Lと第2の画素Rとが交互に配置された位相差画素の行は2行単位で一組とされており、各組が列方向に所定画素数(図5に示す例では8画素)分の間隔を空けて配置されている。
このように、カラーフィルタ21では、2×2画素のGフィルタの右上角部の画素に対して遮光部材が設けられており、列方向及び行方向ともに複数画素分の間隔を空けて位相差画素が規則的に配置されている。このため、位相差画素の周囲に通常画素が比較的多く配置されるので、通常画素の画素値から位相差画素の画素値を補間する場合における補間精度を向上させることができる。しかも、位相差画素間で補間に利用する通常画素が重複しないように第1〜第3の画素群に含まれる各画素が配置されているので、補間精度のより一層の向上が期待できる。
図3に戻って、撮像素子20は、第1の画素群から第1の画像(各第1の画素Lの画素値を示すデジタル信号)を出力し、第2の画素群から第2の画像(各第2の画素Rの画素値を示すデジタル信号)を出力する。また、撮像素子20は、第3の画素群から第3の画像(各通常画素の画素値を示すデジタル信号)を出力する。なお、第3の画素群から出力される第3の画像は有彩色の画像であり、例えば通常画素の配列と同じカラー配列のカラー画像である。撮像素子20から出力された第1の画像、第2の画像及び第3の画像は、インタフェース部24を介してメモリ26における揮発性の記憶領域に一時記憶される。
画像処理部28は、メモリ26に記憶されている第1〜第3の画像に対して各種の画像処理を施す。画像処理部28は、一例として図7に示すように、画像取得部28A、感度取得部28B、補正部28C及び生成部28Dを含む。画像処理部28は、画像処理に係る複数の機能の回路を1つにまとめた集積回路であるASIC(Application Specific Integrated Circuit)により実現される。但し、ハードウェア構成はこれに限定されるものではなく、例えばプログラマブルロジックデバイスや、CPU、ROM及びRAMを含むコンピュータなどの他のハードウェア構成であっても良い。
画像取得部28Aは、撮像素子20から出力された第1の画像及び第2の画像を取得する。感度取得部28Bは、第1の画素群における瞳分割方向の画素の第1の領域を介して入射される光に対する感度を取得する。また、感度取得部28Bは、第2の画素群における瞳分割方向の画素の第1の領域を介して入射される光に対する感度を取得する。ここで、「瞳分割方向の画素」とは、瞳分割方向に配列された複数の画素の各々を指す。
補正部28Cは、感度取得部28Bにより取得された感度に基づいて第1の画像及び第2の画像の各々に対して直線近似した感度補正係数を求め、求めた感度補正係数に基づいて第1及び第2の画像の輝度を補正する。なお、本第1実施形態では、感度補正係数として、第1及び第2の画素群の各々の瞳分割方向の中央部に含まれる対応する画素間の感度差を瞳分割方向の両端部に含まれる対応する画素間の感度差よりも小さくする感度変化の直線的な傾向を示す感度補正係数を採用しているが、本発明はこれに限定されるものではなく、少なくとも第1及び第2の画素群の各々の瞳分割方向の画素の感度が補正後に目標とする感度に補正前よりも近付く感度補正係数であればよい。
なお、ここで言う「対応する画素」とは、例えば第1の画素群の瞳分割方向の位置と第2の画素群の瞳分割方向の位置とが一致する画素のことを指す。また、ここで言う「中央部」とは、例えば第1及び第2の画素群の各々の瞳分割方向の中央を中心とした瞳分割方向の画素数の半分に相当する画素数の範囲を指し、「両端部」とは、例えば第1及び第2の画素群の各々の瞳分割方向の中央部以外の部位を指す。また、「中央部に含まれる対応する画素間の感度差」とは、例えば第1及び第2の画素群の各々の瞳分割方向の中央部に含まれる代表位置(例えば瞳分割方向の中央)における画素間の感度差を指す。また、「両端部に含まれる対応する画素間の感度差」とは、例えば第1及び第2の画素群の各々の瞳分割方向の中央部に含まれる代表位置(例えば瞳分割方向の両端の各々)における画素間の感度差を指す。
生成部28Dは、撮像素子20から出力された第3の画像に基づいて第1の表示用画像を生成し、かつ、補正部28Bにより補正された第1及び第2の画像に基づいて合焦確認に使用する第2の表示用画像を生成する。生成部28Dは、一例として図8に示すように、通常処理部30及びスプリットイメージ処理部32を含む。通常処理部30は、第3の画素群に対応するR,G,B信号を処理することで第1の表示用画像の一例である有彩色の通常画像を生成する。また、スプリットイメージ処理部32は、第1の画素群及び第2の画素群に対応するG信号を処理することで第2の表示用画像の一例である無彩色のスプリットイメージを生成する。
図3に戻って、エンコーダ34は、入力された信号を別の形式の信号に変換して出力する。ハイブリッドファインダー220は、電子像を表示するLCD247を有する。LCD247における所定方向の画素数(一例として視差発生方向である行方向の画素数)は、表示部213における同方向の画素数よりも少ない。表示制御部36Aは表示部213に、表示制御分36BはLCD247に各々接続されており、LCD247及び表示部213が選択的に制御されることによりLCD247又は表示部213により画像が表示される。なお、以下では、表示部213及びLCD247を区別して説明する必要がない場合は「表示装置」と称する。
なお、本第1実施形態に係る撮像装置100は、ダイヤル212(フォーカスモード切替え部)によりマニュアルフォーカスモードとオートフォーカスモードとを切り替え可能に構成されている。何れかのフォーカスモードが選択されると、表示制御部36は、スプリットイメージが合成されたライブビュー画像を表示装置に表示させる。また、ダイヤル212によりオートフォーカスモードが選択されると、CPU12は、位相差検出部及び自動焦点調整部として動作する。位相差検出部は、第1の画素群から出力された第1の画像と第2の画素群から出力された第2の画像との位相差を検出する。自動焦点調整部は、検出された位相差に基づいてフォーカスレンズ302のデフォーカス量をゼロにするように、デバイス制御部22からマウント256,346を介してモータ304を制御し、フォーカスレンズ302を合焦位置に移動させる。なお、上記の「デフォーカス量」とは、例えば第1の画像及び第2の画像の位相ずれ量を指す。
接眼検出部37は、人(例えば撮影者)がファインダー接眼部242を覗き込んだことを検出し、検出結果をCPU12に出力する。従って、CPU12は、接眼検出部37での検出結果に基づいてファインダー接眼部242が使用されているか否かを把握することができる。
外部I/F39は、LAN(Local Area Network)やインターネットなどの通信網に接続され、通信網を介して、外部装置(例えばプリンタ)とCPU12との間の各種情報の送受信を司る。従って、撮像装置100は、外部装置としてプリンタが接続されている場合、撮影した静止画像をプリンタに出力して印刷させることができる。また、撮像装置100は、外部装置としてディスプレイが接続されている場合は、撮影した静止画像やライブビュー画像をディスプレイに出力して表示させることができる。
図9は第1実施形態に係る撮像装置100の要部機能の一例を示す機能ブロック図である。なお、図3に示すブロック図と共通する部分には同一の符号が付されている。
通常処理部30及びスプリットイメージ処理部32は、それぞれWBゲイン部、ガンマ補正部及び同時化処理部を有し(図示省略)、メモリ26に一時記憶された元のデジタル信号(RAW画像)に対して各処理部で順次信号処理を行う。すなわち、WBゲイン部は、R,G,B信号のゲインを調整することによりホワイトバランス(WB)を実行する。ガンマ補正部は、WBゲイン部でWBが実行された各R,G,B信号をガンマ補正する。同時化処理部は、撮像素子20のカラーフィルタの配列に対応した色補間処理を行い、同時化したR,G,B信号を生成する。なお、通常処理部30及びスプリットイメージ処理部32は、撮像素子20により1画面分のRAW画像が取得される毎に、そのRAW画像に対して並列に画像処理を行う。
通常処理部30は、インタフェース部24からR,G,BのRAW画像が入力され、第3の画素群のR,G,B画素を、一例として図10に示すように、第1の画素群及び第2の画素群のうちの同色の周辺画素(例えば隣接するG画素)により補間して生成する。これにより、第3の画素群から出力された第3の画像に基づいて記録用の通常画像を生成することができる。
また、通常処理部30は、生成した記録用の通常画像の画像データをエンコーダ34に出力する。通常処理部30により処理されたR,G,B信号は、エンコーダ34により記録用の信号に変換(エンコーディング)され、記録部40に記録される。また、通常処理部30により処理された第3の画像に基づく画像である表示用の通常画像は、表示制御部36に出力される。なお、以下では、説明の便宜上、上記の「記録用の通常画像」及び「表示用の通常画像」を区別して説明する必要がない場合は「記録用の」との文言及び「表示用の」との文言を省略して「通常画像」と称する。
撮像素子20は、第1の画素群及び第2の画素群の各々の露出条件(一例として電子シャッタによるシャッタ速度)を変えることができ、これにより露出条件の異なる画像を同時に取得することができる。従って、画像処理部28は、露出条件の異なる画像に基づいて広ダイナミックレンジの画像を生成することができる。また、同じ露出条件で複数の画像を同時に取得することができ、これら画像を加算することによりノイズの少ない高感度の画像を生成し、あるいは高解像度の画像を生成することができる。
一方、スプリットイメージ処理部32は、メモリ26に一旦記憶されたRAW画像から第1の画素群及び第2の画素群のG信号を抽出し、第1の画素群及び第2の画素群のG信号に基づいて無彩色のスプリットイメージを生成する。RAW画像から抽出される第1の画素群及び第2の画素群の各々に相当する画素群は、上述したようにGフィルタの画素による画素群である。そのため、スプリットイメージ処理部32は、第1の画素群及び第2の画素群の各々に相当する画素群のG信号に基づいて、無彩色の左の視差画像及び無彩色の右の視差画像を生成することができる。なお、以下では、説明の便宜上、上記の「無彩色の左の視差画像」を「左眼画像」と称し、上記の「無彩色の右の視差画像」を「右眼画像」と称する。
スプリットイメージ処理部32は、第1の画素群から出力された第1の画像に基づく左眼画像と、第2の画素群から出力された第2の画像に基づく右眼画像とを合成することによりスプリットイメージを生成する。生成したスプリットイメージの画像データは表示制御部36に出力される。
表示制御部36は、通常処理部30から入力された第3の画素群に対応する表示用の画像データと、スプリットイメージ処理部32から入力された第1、第2の画素群に対応するスプリットイメージの画像データとに基づいて表示用の画像データを生成する。例えば、表示制御部36は、通常処理部30から入力された第3の画素群に対応する画像データにより示される通常画像の表示領域内に、スプリットイメージ処理部32から入力された画像データにより示されるスプリットイメージを合成する。そして、合成して得た画像データを表示装置に出力する。すなわち、表示制御部36Aは、画像データを表示部213に出力し、表示制御部36Bは画像データをLCD247に出力することにより、表示装置に対して、通常画像を動画像として連続して表示させ、かつ、通常画像の表示領域内に、スプリットイメージを動画像として連続して表示させる。
なお、本第1実施形態では、通常画像の表示領域内にスプリットイメージを合成する例を挙げて説明しているが、これに限らず、表示制御部36は、ライブビュー表示の際に、表示装置に対して、通常画像とスプリットイメージとを同期させて重畳表示させるようにしてもよい。この場合も、表示制御部36は、表示装置に対して、通常画像を動画像として連続して表示させ、かつ、スプリットイメージを動画像として連続して表示させる。
スプリットイメージ処理部32により生成されるスプリットイメージは、左眼画像の一部と右眼画像の一部とを合成した複数分割の画像である。ここで言う「複数分割の画像」としては、例えば図11A,図11Bに示すスプリットイメージが挙げられる。図11に示すスプリットイメージは、左眼画像のうちの上半分の画像と右眼画像のうちの下半分の画像とを合成した画像であって、上下方向に2分割された画像間が合焦状態に応じて所定方向(例えば視差発生方向)にずれた画像である。なお、スプリットイメージの態様は図11A,図11Bに示す例に限定されるものではなく、表示部213の所定領域の位置に対応する位置の左眼画像の一部と右眼画像の一部とを合成した画像であってもよい。この場合、例えば上下方向に4分割された画像間が合焦状態に応じて所定方向(例えば視差発生方向)にずれる。
通常画像にスプリットイメージを合成する方法は、通常画像の一部の画像に代えて、スプリットイメージを嵌め込む合成方法に限定されない。例えば、通常画像の上にスプリットイメージを重畳させる合成方法であってもよい。また、スプリットイメージを重畳する際に、スプリットイメージが重畳される通常画像の一部の画像とスプリットイメージとの透過率を適宜調整して重畳させる合成方法であってもよい。これにより、連続的に撮影している被写体像を示すライブビュー画像が表示装置の画面上に表示されるが、表示されるライブビュー画像は、通常画像の表示領域内にスプリットイメージが表示された画像となる。
ハイブリッドファインダー220は、OVF240及びEVF248を含む。OVF240は、対物レンズ244と接眼レンズ246とを有する逆ガリレオ式ファインダーであり、EVF248は、LCD247、プリズム245及び接眼レンズ246を有する。
また、対物レンズ244の前方には、液晶シャッタ243が配設されており、液晶シャッタ243は、EVF248を使用する際に、対物レンズ244に光学像が入射しないように遮光する。
プリズム245は、LCD247に表示される電子像又は各種の情報を反射させて接眼レンズ246に導き、かつ、光学像とLCD247に表示される情報(電子像、各種の情報)とを合成する。
ここで、ファインダー切替えレバー214を図1に示す矢印SW方向に回動させると、回動させる毎にOVF240により光学像を視認することができるOVFモードと、EVF248により電子像を視認することができるEVFモードとが交互に切り替えられる。
表示制御部36Bは、OVFモードの場合、液晶シャッタ243が非遮光状態になるように制御し、接眼部から光学像が視認できるようにする。また、LCD247には、スプリットイメージのみを表示させる。これにより、光学像の一部にスプリットイメージが重畳されたファインダー像を表示させることができる。
また、表示制御部36Bは、EVFモードの場合、液晶シャッタ243が遮光状態になるように制御し、接眼部からLCD247に表示される電子像のみが視認できるようにする。なお、LCD247には、表示部213に出力されるスプリットイメージが合成された画像データと同等の画像データが入力され、これにより、表示部213と同様に通常画像の一部にスプリットイメージが合成された電子像を表示させることができる。
スプリットイメージは、一例として図12に示すように、表示装置の画面中央部の矩形枠内に表示され、スプリットイメージの外周領域に通常画像が表示される。なお、図12に示す矩形枠を表す縁の線は実際には表示されないが、図12では説明の便宜上示されている。
ところで、撮像装置100では、一例として図13に示すように、被写体が撮像される場合に撮影レンズ16を通過した左眼用光束(左眼画像の生成に寄与する光束)は、第1の画素Lに対応するマイクロレンズ19を通過し、第1の画素Lに入射する。しかし、左眼用光束は、第2の画素Rに対応するマイクロレンズ19を通過しても遮光部材20Bによって遮光されるので、第2の画素Rに入射しない。一方、撮影レンズ16を通過した右眼用光束(右眼画像の生成に寄与する光束)は、第2の画素Rに対応するマイクロレンズ19を通過し、第2の画素Rに入射する。しかし、右眼用光束は、第1の画素Lに対応するマイクロレンズ19を通過しても遮光部材20Aによって遮光されるので、第1の画素Lに入射しない。このように画素の半分に対して遮光部材が配置されている上、左眼用光束及び右眼用光束の各々の中心が、撮影レンズ16の光軸から偏倚しているため、第1の画素群及び第2の画素群の各々では、瞳分割方向の画素位置に応じて減光特性が線形的に変化する。減光特性の変化は、左眼画像及び右眼画像における輝度の変化となって現れる。すなわち、仮に撮影レンズ16に対して正面から光量が均一な光が入射された場合に得られる左眼画像及び右眼画像の左右方向(瞳分割方向に相当する方向)の輝度は画素位置に応じて線形的に変化することとなる。例えば、図14に示すように、左眼画像は、右方向の画素位置ほど輝度が小さくなり、右眼画像は、左方向の画素位置ほど輝度が小さくなる。左眼画像及び右眼画像の各輝度の左右の相反する方向への線形的な変化は、スプリットイメージの画質に対しても影響を及ぼす。
そこで、本第1実施形態に係る撮像装置100では、画像処理部28が、一例として図15に示す画像出力処理を行う。以下では、画像処理部28によって行われる画像出力処理について、図15を参照して説明する。なお、以下では、画像処理部28が画像出力処理を行う場合を例示するが、本発明はこれに限定されるものではなく、例えばCPU12が画像出力理プログラムを実行することにより撮像装置100で画像出力処理が行われるものとしてもよい。
図15において、ステップ400では、画像取得部28Aにより第3の画像が取得され、その後、ステップ402へ移行する。ステップ402では、生成部28Dにより、ステップ400で取得された第3の画像に基づく通常画像が生成され、生成された通常画像が所定の記憶領域(例えばメモリ26)及び表示制御部36に出力される。
次のステップ404では、画像取得部28Aにより、第1及び第2の画像が取得され、その後、ステップ406へ移行する。
ステップ406では、補正部28Cにより、第1の画像及び第2の画像の各々についての感度補正係数がメモリ26に記憶されているか否かが判定される。ステップ406において、第1の画像及び第2の画像の各々についての感度補正係数がメモリ26に記憶されている場合は、判定が肯定されてステップ408へ移行する。ステップ406において、第1の画像及び第2の画像の各々についての感度補正係数がメモリ26に記憶されていない場合は、判定が否定されてステップ410へ移行する。
ステップ410では、画像処理部28により、一例として図16に示す感度補正係数取得処理410が行われ、その後、ステップ408へ移行する。
図16に示す感度補正係数取得処理では、先ず、ステップ410Aにおいて、感度取得部28Bにより、第1及び第2の画素群のうち、画素の感度の取得対象とされる画素群(注目画素群)が設定され、その後、ステップ410Bへ移行する。なお、注目画素群としては、第1及び第2の画素群のうち、未だに後述のステップ410B〜410Gの処理対象とされていない画素群が該当する。
ステップ410Bでは、感度取得部28Bにより、ステップ410Aで設定された注目画素群の注目行(例えば注目画素群の中央点を通る1行)が設定され、その後、ステップ410Cへ移行する。
ステップ410Cでは、感度取得部28Bにより、ステップ410Bで設定された注目行の中央部に含まれる複数の画素の感度が取得され、その後、ステップ410Dへ移行する。
ステップ410Dでは、補正部28Cにより、ステップ410Cで取得された感度に基づいて注目行の中央部に含まれる画素毎の感度比が算出され、その後、ステップ410Eへ移行する。ここで、「感度比」とは、目標感度に対する実測感度(ステップ410Cで取得された感度)の割合を指す。なお、本第1実施形態では、目標感度の一例として“1.0”を採用している。
ステップ410Eでは、補正部28Cにより、ステップ410Dで算出された感度比に基づいて、注目行の中央部に含まれる複数の画素の感度についての近似直線が導出され、その後、ステップ410Fへ移行する。
ステップ410Eの処理が補正部28Cによって行われると、一例として図17に示すように、第1感度比曲線(太線で示した曲線)P1について、一点鎖線で示す第1近似直線α1が導出される。また、一例として図17に示すように、第2感度比曲線(細線で示した曲線)Q1について、2点鎖線で示す第2近似直線α2が導出される。
第1感度比曲線P1は、第1の画素群の注目行に含まれる画素毎の感度比の分布を示している。第2感度比曲線Q1は、第2の画素群の注目行に含まれる画素毎の感度比の分布を示している。第1近似直線α1は、第1の画素群についてステップ410Dで算出された注目行の中央部に含まれる各画素に関する感度比の近似直線である。第2近似直線α2は、第2の画素群についてステップ410Dで算出された注目行の中央部に含まれる各画素に関する感度比の近似直線である。
なお、本第1実施形態では、第1の画素群の各画素の感度比を補正するにあたって目標とする感度比の一例として、図17に示す目標感度比Y1が設定されている。また、本第1実施形態では、目標感度比Y1の一例として“1.0”を採用している。
ステップ410Fでは、補正部28Cにより、ステップ410Eで導出された近似直線に基づいて感度補正係数が導出され、その後、ステップ410Gへ移行する。ここで、感度補正係数とは、注目画素群の各画素の感度を補正することで各画素から出力される輝度を補正するために用いられる感度補正係数のことを意味する。
ここで、感度補正係数の導出手順の一例を説明する。補正部28Cは、ステップ410Eで導出された近似直線を目標感度比Y1との距離の2乗和が最小になる直線(以下、「補正用直線」という)に調整し、調整して得た補正用直線の従属変数を感度補正係数として導出する。補正用直線は一次関数であり、この一次関数の傾き及び切片は、ステップ410Eで導出された下記の数式(1)に示す近似直線(一次関数)の調整後の傾き及び切片に相当する。すなわち、数式(1)に示す近似直線の従属変数Zと目標感度比Y1との距離の2乗和S(一例として下記の数式(2))を最小にする傾きa及び切片bが補正用直線の傾き及び切片として採用される。2乗和Sを最小にする傾きa及び切片bとは、例えば下記の数式(3)を解くことによって得られる下記の数式(4)により示される傾きa及び切片bを指す。なお、数式(2)において、“K”とは目標感度比Y1の値であり、数式(1)〜(3)において、“Xi”は瞳分割方向の画素の位置の座標値を示し、“i”は“0”以上“n−1”以下の範囲内の整数を示す。
Z=aXi+b・・・・・(1)
補正用直線は、数式(4)により示される傾きa及び傾きbを数式(1)に当て嵌めて得た一次関数であり、補正用直線の従属変数が感度補正係数として採用される。すなわち、各画素の位置(Xi)毎に補正用直線の従属変数が感度補正係数として導出される。
ステップ410Gでは、補正部28Cにより、注目画素群について、ステップ410Fで導出された感度補正係数が、注目行に含まれる画素毎にメモリ26に記憶され、その後、ステップ410Hへ移行する。
ステップ410Hでは、補正部28Cにより、第1及び第2の画素群の各々についてステップ410A〜410Gの処理が行われたか否かが判定される。ステップ410Hにおいて、第1及び第2の画素群の各々についてステップ410A〜410Gの処理が行われていない場合は、判定が否定されてステップ410Aへ移行する。ステップ410Hにおいて、第1及び第2の画素群の各々についてステップ410A〜410Gの処理が行われた場合は、判定が肯定されて感度補正係数取得処理を終了する。
図15に戻って、ステップ408では、補正部28Cにより、第1及び第2の画素群の各々の注目行についてメモリ26に記憶されている感度補正係数に基づいて、ステップ404で取得された第1及び第2の画像の輝度が補正される。すなわち、補正部28Cは、第1の画素群の注目行に含まれる画素毎の感度補正係数を、第1の画素群の行毎における対応する画素の感度に乗じることで第1の画像の輝度を補正する。また、第2の画素群の注目行に含まれる画素毎の感度補正係数を、第2の画素群の行毎における対応する画素の感度に乗じることで第2の画像の輝度を補正する。
ステップ408の処理が補正部28Cによって行われると、第1の画素群の各画素の感度比が行単位で補正され、図17に示す第1感度比曲線P1が一例として図18に示すように第1感度比曲線P2(太線の曲線)に補正される。図17に示す第1感度比曲線P1と図18に示す第1感度比曲線P2とを比較すると、図18に示す第1感度比曲線P2は、図17に示す第1感度比曲線P1に比べ、目標感度比Y1に近似している。
また、ステップ408の処理が補正部28Cによって行われると、第2の画素群の各画素の感度比が行単位で補正され、図17に示す第2感度比曲線Q1が一例として図18に示す第2感度比曲線Q2(細線の曲線)に補正される。図17に示す第2感度比曲線Q1と図18に示す第2感度比曲線Q2とを比較すると、図18に示す第2感度比曲線Q2は、図17に示す第2感度比曲線Q1に比べ、目標感度比Y1に近似している。
また、一例として図18に示す第1感度比曲線P2及び第2感度比曲線Q2の各々の中央部に含まれる対応する画素間の感度比差は、両端部に含まれる対応する画素間の感度比差よりも小さくなっている。
また、ステップ408では、補正部28Cにより、感度補正係数に基づく輝度の補正が行われて得られた第1及び第2の画像の各々に含まれる全画素の輝度に対して更に所定係数を乗じることで(ゲジタルゲインの調整を行うことで)、第1及び第2の画像の輝度が調整される。
次のステップ412では、生成部28Dにより、ステップ408で補正された第1及び第2の画像に基づく左眼画像及び右眼画像が生成され、生成された左眼画像及び右眼画像に基づいてスプリットイメージが生成されて表示制御部36に出力される。表示制御部36は、上記ステップ402で出力された通常画像及び上記ステップ412で出力されたスプリットイメージが入力されると、表示装置に対して通常画像を動画像として連続して表示させ、かつ、通常画像の表示領域内にスプリットイメージを動画像として連続して表示させる制御を行う。
このように上記ステップ402,412が生成部28Dにより行われると、一例として図11A及び図11Bに示すように表示部213やハイブリッドファインダー220にライブビュー画像が表示される。図11A及び図11Bに示す例では、一例として図12に示すスプリットイメージの表示領域に相当する枠60の内側領域にスプリットイメージが表示されており、通常画像の表示領域に相当する枠60の外側領域に通常画像が表示されている。
すなわち、第1及び第2の画素群は、枠60のサイズに対応して設けられている。スプリットイメージは、第1の画素群から出力された第1の画像に対応する左眼画像おける枠60の上半分60Aの画像(視差画像)と、第2の画素群から出力された第2の画像に対応する右眼画像における枠60の下半分60Bの画像(視差画像)とに大別される。
ここで、枠60内の画像に対応する被写体に対して、撮影レンズ16のピントが合っていない場合は、図11Aに示すようにスプリットイメージの上半分60Aの視差画像と、下半分60Bの視差画像との境界の画像が視差発生方向(一例として行方向)にずれる。また、通常画像とスプリットイメージとの境界の画像も視差発生方向にずれる。これは、位相差が生じていることを表しており、撮影者はスプリットイメージを通して視覚的に位相差が生じていること及び視差発生方向を認識することができる。
一方、枠60内の画像に対応する被写体に対して、撮影レンズ16のピントが合っている場合は、図11Bに示すようにスプリットイメージの上半分60Aの視差画像と、下半分60Bの視差画像との境界の画像が一致する。また、通常画像とスプリットイメージとの境界の画像も一致する。これは、位相差が生じていないことを表しており、撮影者はスプリットイメージを通して視覚的に位相差が生じていないことを認識することができる。
このように、撮影者は、表示装置に表示されるスプリットイメージにより撮影レンズ16の合焦状態を確認することができる。また、マニュアルフォーカスモード時には、フォーカスリング301を手動操作することによりピントのずれ量(デフォーカス量)をゼロにすることができる。また、通常画像とスプリットイメージとをそれぞれ色ずれのないカラー画像で表示することができ、撮影者の手動によるフォーカス調整をカラーのスプリットイメージで支援することができる。
また、第1及び第2の画素群の各々の瞳分割方向に線形的に現れる減光特性は補正部28Cにより画素の感度が補正されることで軽減される。補正部28Cにより画素の感度が補正された場合、一例として図19に示すように、第1及び第2の画素群の各々の瞳分割方向の画素の線形的な感度変化に起因する右眼画像及び左眼画像の線形的な輝度変化は、画素の感度が補正されない場合に比べ、軽減される。
以上説明したように、本第1実施形態に係る撮像装置100では、感度取得部28Bにより、第1及び第2の画素群の各々における瞳分割方向の画素の感度が取得される。そして、補正部28Cにより、感度取得部28Bで取得された感度に基づいて第1の画像及び第2の画像の各々に対して直線近似した感度補正係数が導出され、導出された感度補正係数に基づいて、第1及び第2の画像の輝度が補正される。従って、本第1実施形態に係る撮像装置100は、本構成を有しない場合に比べ、スプリットイメージの表示のリアルタイム性を簡素な構成で確保することができる。
また、本第1実施形態に係る撮像装置100では、感度補正係数として、第1及び第2の画素群の各々の瞳分割方向の中央部に含まれる対応する画素間の感度差を第1及び第2の画素群の各々の瞳分割方向の両端部に含まれる対応する画素間の感度差よりも小さくする感度補正係数を採用している。従って、本第1実施形態に係る撮像装置100は、簡素な構成で、スプリットイメージの瞳分割方向に相当する方向の中央部に含まれる画素間の輝度差を両端部の輝度差よりも軽減することができる。
また、本第1実施形態に係る撮像装置100では、注目行の中央部に含まれる複数の画素の感度が感度取得部28Bによって取得され、取得された感度に基づいて補正部28Cにより感度補正係数が導出される。従って、本第1実施形態に係る撮像装置100は、注目行の中央部に含まれる画素の感度を取得しない場合に比べ、スプリットイメージの中央部の輝度を高精度に補正することができる。
なお、上記第1実施形態では、感度取得部28Bが、注目行の中央部に含まれる画素の感度を取得し、補正部28Cが、取得された感度に関する感度比に基づいて近似直線を導出する場合について説明したが、本発明はこれに限定されるものではない。例えば、感度取得部28Bが、注目行の中央部に含まれる画素の感度に加え、注目行の両端部に含まれる画素の感度も取得し、補正部28Cが、取得された感度に関する感度比に基づいて近似直線を導出してもよい。但し、この場合、注目行の両端部に含まれる画素のうちの感度取得対象とされる画素は、注目行の中央部の補正後の感度比差が注目行の両端部の補正後の感度比差以上にならない数及び位置の画素とする。なお、感度取得対象とされる画素の数及び位置は、例えば注目行の中央部の補正後の感度比差が注目行の両端部の感度比差以上にならない数及び位置を特定するための実験やシミュレーション等によって得られた結果に基づいて定められる。
また、上記第1実施形態では、第1及び第2の画素群の各行の減光特性が同一であることを前提にして特定の1行に含まれる各画素の感度に基づいて感度補正係数を求め、求めた感度補正係数を各行に含まれる画素の感度の補正に用いたが、本発明はこれに限定されない。例えば、第1及び第2の画素群の各々の全ての行の各々に含まれる各画素について感度補正係数を求め、求めた感度補正係数を、対応する行に含まれる画素のうちの対応する画素の感度の補正に用いてもよい。また、例えば、第1及び第2の画素群の各々の所定の行数おきに各行に含まれる各画素について感度補正係数を求め、求めた感度補正係数を、対応する行及び近隣の行の各々に含まれる画素のうちの対応する画素の感度の補正に用いてもよい。
また、上記第1実施形態では、メモリ44に感度補正係数が記憶されていない場合に感度補正係数取得処理が行われる場合を例示したが、本発明はこれに限定されるものではない。例えば、所定条件を満足した場合に図16に示す感度補正係数取得処理が行われることによって感度補正係数が更新されるようにしてもよい。所定条件としては、例えば操作部14を介して感度補正係数を更新する指示が入力された、という条件が挙げられる。その他にも例えば撮像装置100のメンテナンスを行う時期として予め定められた時期が到来した、という条件が挙げられる。
[第2実施形態]
上記第1実施形態では、補正部18Cが、撮像装置100の絞り値を無視して導出した感度補正係数に基づいて画像の輝度を補正する場合を例示したが、本第2実施形態では、絞り値に応じて導出される感度補正係数に基づいて画像の輝度を補正する場合について説明する。なお、本第2実施形態では、上記第1実施形態で説明した構成要素には同一の符号を付し、説明を省略する。
図1に示す第2実施形態に係る撮像装置100Aは、上記第1実施形態に係る撮像装置100と比較して、一例として図15に示すように、画像出力処理のステップ410に代えてステップ420を設けた点が異なっている。また、撮像装置100Aは、上記第1実施形態に係る撮像装置100と比較して、予め定められた複数の絞り値(ここでは一例としてF値)の各々に対して固有の基準感度が対応付けられている点が異なっている。複数の絞り値の各々に対して異なる基準感度を対応付けたのは、絞り値によって異なる感度変化の傾向に応じた感度補正係数を導出するためである。
例えば予め定められた複数の絞り値がF2.0及びF5.6の場合、一例として図21及び図22に示すように、F2.0の場合の第1近似直線α1及び第2近似直線α2の傾きとF5.6の場合の第1近似直線α1及び第2近似直線α2の傾きとは異なる。すなわち、F5.6の場合の第1近似直線α1及び第2近似直線α2の傾きは、F2.0の場合の第1近似直線α1及び第2近似直線α2の傾きと比較して、急峻である(傾きの絶対値が大きい)。従って、第1及び第2の画素群の各々の瞳分割方向の画素の補正後の感度比の傾向も異なる。図21及び図22に示す例では、F5.6の場合の第1及び第2の画素群の各々の瞳分割方向の画素の補正後の感度比は、F2.0の場合と比較して、瞳分割方向の両端部に含まれる画素位置において目標感度比Y1からの乖離度が大きい。ここで言う「乖離度が大きい」とは、換言すると、目標感度比Y1から上に凸となっている度合いが大きい(盛り上がりが大きい)ということである。
そこで、本第2実施形態では、F5.6の場合に感度比の算出で用いる目標感度の値の一例として、F2.0の場合に感度比の算出で用いる目標感度よりも大きな値を採用している。従って、F5.6の場合の目標感度比Y1の値は、F2.0の場合の目標感度比Y1の値よりも小さくなる。なお、本第2実施形態では、目標感度として“1.186”を採用しているため、F5.6の場合の目標感度比Y1の値の一例として“0.843”(=1.0/1.186)を採用している。
図15に示す画像出力処理では、ステップ420において、画像処理部28により、一例として図20に示す感度補正係数取得処理が行われ、その後、ステップ408へ移行する。
図20に示す感度補正係数取得処理は、上記第1実施形態で説明した図16に示す感度補正係数取得処理と比較して、ステップ410Dに代えてステップ420Aを設けた点が異なっている。
図20に示す感度補正係数取得処理では、ステップ420Aにおいて、補正部28Cにより、予め定められた複数の絞り値のうち現在設定されている絞り値に応じた目標感度を用いて、注目行の中央部に含まれる各画素に関する感度比が算出される。例えば、現在設定されている絞り値がF5.6の場合、目標感度として“1.186”を用いて感度比が算出される。
このようにして算出された感度比に基づいて感度補正係数が導出され、導出された感度補正係数に基づいて注目行に含まれる各画素の感度比が補正されると、一例として図23に示すように両端部に含まれる各画素の感度比の目標感度比Y1からの乖離が抑制される。
従って、本第2実施形態に係る撮像装置100Aは、絞り値に応じて感度補正係数を導出しない場合に比べ、スプリットイメージの瞳分割方向に相当する方向の両端部に含まれる画素の輝度が目標とする輝度から絞り値に起因して乖離することを抑制することをできる。
なお、上記第2実施形態では、現在設定されている絞り値に応じて目標感度を変更する場合を例示したが、本発明はこれに限定されるものではなく、例えば補正後の第1及び第2の画像に対するデジタルゲインの値を絞り値に応じて変更するようにしてもよい。
また、デジタルゲインを変更することにより第1及び第2の画像の輝度を変更する方法と上記第2実施形態で説明した絞り値に応じて目標感度を変更する方法とを状況に応じて使い分けてもよい。この場合、デジタルゲインを変更することにより第1及び第2の画像の輝度を変更する方法は、撮像装置100Aの出荷後に用い、上記第2実施形態で説明した絞り値に応じて目標感度を変更する方法は、撮像装置100Aの出荷前に用いる例が挙げられる。
また、上記第2実施形態では、絞り値に基づいて感度補正係数を導出する場合の例を挙げて説明したが、本発明はこれに限定されるものではなく、絞り値以外の撮影条件に基づいて感度補正係数を導出してもよい。例えば、撮影で実際に用いられる撮影レンズ16の種類に応じて感度補正係数を導出してもよい。この場合、補正部28Cは、撮影レンズ16の種類に応じた基準感度を参考にして感度補正係数を導出する。すなわち、補正部28Cは、撮影レンズ16の種類に応じた基準感度を用いて感度比を算出し、算出した感度比に基づいて近似直線を導出する。そして、導出した近似直線に基づいて感度補正係数を導出する。また、第1及び第2の画素群に割り当てられているカラーフィルタ21の色に基づいて感度補正係数を導出してもよい。この場合、補正部28Cは、第1及び第2の画素群の各々について、割り当てられているカラーフィルタ21の色に応じた基準感度を用いて感度比を算出し、算出した感度比に基づいて近似直線を導出する。そして、導出した近似直線に基づいて感度補正係数を導出する。
[第3実施形態]
上記第2実施形態では、予め定められた複数の絞り値の各々に応じた目標感度に基づいて感度補正係数を生成する場合について説明したが、本第3実施形態では、予め定められた複数の絞り値以外の絞り値が現在設定されている場合について説明する。なお、本第3実施形態では、上記各実施形態で説明した構成要素には同一の符号を付し、説明を省略する。
図1に示す第3実施形態に係る撮像装置100Bは、上記第2実施形態に係る撮像装置100Aと比較して、一例として図24に示すように、上記第2実施形態に係る図15に示す画像出力処理に対してステップ440,442を設けた点が異なっている。なお、以下では、説明の便宜上、予め定められた複数の絞り値としてF2.0及びF2.8が採用されている場合について説明する。また、以下では、説明の便宜上、F2.0及びF2.8の各々の場合に画像処理部28によって図20に示す感度補正係数取得処理が行われることによって既にメモリ44にF2.0及びF2.8の各々に対応する感度補正係数が記憶されていることを前提にして説明する。
図24に示す画像出力処理では、ステップ440において、補正部28Cにより、メモリ44に記憶されている感度補正係数が現在設定されている絞り値に対応した感度補正係数であるか否かが判定される。ステップ440において、メモリ44に記憶されている感度補正係数が現在設定されている絞り値に対応した感度補正係数である場合は、判定が肯定されてステップ408へ移行する。ステップ440において、メモリ44に記憶されている感度補正係数が現在設定されている絞り値に対応した感度補正係数でない場合は、判定が否定されてステップ442へ移行する。
感度補正係数は、上記各実施形態で説明したように補正用直線から一意に導出される。本第3実施形態では、一例として図25に示すように、F2.8の感度補正係数が、“y=a2.0x+b2.0”との一次関数で特定され、F2.8の感度補正係数が、“y=a2.8x+b2.8”との一次関数で特定される。
そこで、ステップ442では、補正部28Cにより、“y=a2.0x+b2.0”との一次関数で特定される感度補正係数と“y=a2.8x+b2.8”との一次関数で特定される感度補正係数とを補間することで現在設定されている絞り値に応じた感度補正係数を算出する。例えば、現在設定されている絞り値がF2.2の場合、感度補正係数は、一例として図25に示すように“y=a2.2x+b2.2”との一次関数で特定される。この場合、補正部28Cは、一例として図26に示すように、傾きa2.2及び切片b2.2の各々を線形補間で算出する。すなわち、下記の式(5)から傾きa2.2を算出し、下記の式(6)から切片b2.2を算出する。
2.2=(1−t)×a2.0+{log√2(2.2/2.0)}×a2.8・・・・(5)
2.2=(1−t)×b2.0+{log√2(2.2/2.0)}×b2.8・・・・(6)
このように、補正部28Cは、現在設定されている絞り値が予め定められた複数の絞り値の何れでもない場合に、予め定められた複数の絞り値のうちの2つの絞り値の各々に対応する感度補正係数を補間して得た感度補正係数を用いて第1及び第2の画像を補正する。従って、本第3実施形態に係る撮像装置100Bは、絞り値が無段階的に設定される場合であっても、スプリットイメージの瞳分割方向に相当する方向の両端部に含まれる画素の輝度が目標とする輝度から絞り値に起因して乖離することを抑制することができる。
なお、上記第3実施形態では、予め定められた複数の絞り値として2つの絞り値を採用した場合について説明したが、本発明はこれに限定されるものではなく、予め定められた複数の絞り値は、3つ以上の絞り値であってもよい。この場合、現在設定されている絞り値に最も近い2つの絞り値に対して既に割り当てられている感度補正係数を用いて補間を行ってもよい。また、2つの絞り値を1組とした場合、複数組の各々において補間を行って得た感度補正係数の平均値を第1及び第2の画像の輝度の補正に用いるようにしてもよい。この場合、例えば、絞り値A,B,Cのうちの絞り値A,Bの各々に対して既に割り当てられている感度補正係数を補間する。また、絞り値A,Cの各々に対して既に割り当てられている感度補正係数も補間する。更に、絞り値B,Cの各々に対して既に割り当てられている感度補正係数も補間する。そして、これらの補間によって各々得られた感度補正係数の平均値を第1及び第2の画像の輝度の補正に用いる。
[第4実施形態]
上記各実施形態では、撮像装置100(100A,100B)を例示したが、撮像装置100の変形例である携帯端末装置としては、例えばカメラ機能を有する携帯電話機やスマートフォンなどが挙げられる。この他にも、PDA(Personal Digital Assistants)や携帯型ゲーム機などが挙げられる。本第5実施形態では、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
図27は、スマートフォン500の外観の一例を示す斜視図である。図27に示すスマートフォン500は、平板状の筐体502を有し、筐体502の一方の面に表示部としての表示パネル521と、入力部としての操作パネル522とが一体となった表示入力部520を備えている。また、筐体502は、スピーカ531と、マイクロホン532と、操作部540と、カメラ部541とを備えている。なお、筐体502の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド構造を有する構成を採用することもできる。
図28は、図27に示すスマートフォン500の構成の一例を示すブロック図である。図28に示すように、スマートフォン500の主たる構成要素として、無線通信部510と、表示入力部520と、通話部530と、操作部540と、カメラ部541と、記憶部550と、外部入出力部560と、を備える。また、スマートフォン500の主たる構成要素として、GPS(Global Positioning System)受信部570と、モーションセンサ部580と、電源部590と、主制御部501と、を備える。また、スマートフォン500の主たる機能として、基地局装置BSと移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部510は、主制御部501の指示に従って、移動通信網NWに収容された基地局装置BSに対して無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部520は、いわゆるタッチパネルであって、表示パネル521と、操作パネル522とを備える。そのため、表示入力部520は、主制御部501の制御により、画像(静止画像および動画像)や文字情報などを表示して視覚的にユーザに情報を伝達し、かつ、表示した情報に対するユーザ操作を検出する。なお、生成された3Dを鑑賞する場合には、表示パネル521は、3D表示パネルであることが好ましい。
表示パネル521は、LCD、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル522は、表示パネル521の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。係るデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部501に出力する。次いで、主制御部501は、受信した検出信号に基づいて、表示パネル521上の操作位置(座標)を検出する。
図27に示すように、スマートフォン500の表示パネル521と操作パネル522とは一体となって表示入力部520を構成しているが、操作パネル522が表示パネル521を完全に覆うような配置となっている。この配置を採用した場合、操作パネル522は、表示パネル521外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル522は、表示パネル521に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル521に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
なお、表示領域の大きさと表示パネル521の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル522が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体502の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル522で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部530は、スピーカ531やマイクロホン532を備える。通話部530は、マイクロホン532を通じて入力されたユーザの音声を主制御部501にて処理可能な音声データに変換して主制御部501に出力する。また、通話部530は、無線通信部510あるいは外部入出力部560により受信された音声データを復号してスピーカ531から出力する。また、図28に示すように、例えば、スピーカ531を表示入力部520が設けられた面と同じ面に搭載し、マイクロホン532を筐体502の側面に搭載することができる。
操作部540は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図27に示すように、操作部540は、スマートフォン500の筐体502の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部550は、主制御部501の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータを記憶する。また、記憶部550は、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶する。また、記憶部550は、ストリーミングデータなどを一時的に記憶する。また、記憶部550は、スマートフォン内蔵の内部記憶部551と着脱自在な外部メモリスロットを有する外部記憶部552を有する。なお、記憶部550を構成するそれぞれの内部記憶部551と外部記憶部552は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)などの格納媒体を用いて実現される。格納媒体としては、この他にも、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)が例示できる。
外部入出力部560は、スマートフォン500に連結される全ての外部機器とのインタフェースの役割を果たすものであり、他の外部機器に通信等又はネットワークにより直接的又は間接的に接続するためのものである。他の外部機器に通信等としては、例えば、ユニバーサルシリアルバス(USB)、IEEE1394などが挙げられる。ネットワークとしては、例えば、インターネット、無線LAN、ブルートゥース(Bluetooth(登録商標))、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA(登録商標))が挙げられる。また、ネットワークの他の例としては、UWB(Ultra Wideband(登録商標))、ジグビー(ZigBee(登録商標))などが挙げられる。
スマートフォン500に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)が挙げられる。外部機器の他の例としては、SIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器が挙げられる。外部オーディオ・ビデオ機器の他にも、無線接続される外部オーディオ・ビデオ機器が挙げられる。また、外部オーディオ・ビデオ機器に代えて、例えば有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなども適用可能である。
外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン500の内部の各構成要素に伝達することや、スマートフォン500の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部570は、主制御部501の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、当該スマートフォン500の緯度、経度、高度からなる位置を検出する。GPS受信部570は、無線通信部510や外部入出力部560(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部580は、例えば、3軸の加速度センサなどを備え、主制御部501の指示にしたがって、スマートフォン500の物理的な動きを検出する。スマートフォン500の物理的な動きを検出することにより、スマートフォン500の動く方向や加速度が検出される。この検出結果は、主制御部501に出力されるものである。
電源部590は、主制御部501の指示にしたがって、スマートフォン500の各部に、バッテリ(図示省略)に蓄えられる電力を供給するものである。
主制御部501は、マイクロプロセッサを備え、記憶部550が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン500の各部を統括して制御するものである。また、主制御部501は、無線通信部510を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部550が記憶するアプリケーションソフトウェアにしたがって主制御部501が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部560を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
また、主制御部501は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部520に表示する等の画像処理機能を備える。画像処理機能とは、主制御部501が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部520に表示する機能のことをいう。
更に、主制御部501は、表示パネル521に対する表示制御と、操作部540、操作パネル522を通じたユーザ操作を検出する操作検出制御とを実行する。
表示制御の実行により、主制御部501は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。なお、スクロールバーとは、表示パネル521の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部501は、操作部540を通じたユーザ操作を検出したり、操作パネル522を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたりする。また、操作検出制御の実行により、主制御部501は、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部501は、操作パネル522に対する操作位置が、表示パネル521に重なる重畳部分(表示領域)か、それ以外の表示パネル21に重ならない外縁部分(非表示領域)かを判定する。そして、この判定結果を受けて、操作パネル522の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部501は、操作パネル522に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部541は、CMOSやCCDなどの撮像素子を用いて撮像するデジタルカメラであり、図1等に示す撮像装置100と同様の機能を備えている。
また、カメラ部541は、マニュアルフォーカスモードとオートフォーカスモードとを切り替え可能である。マニュアルフォーカスモードが選択されると、操作部540又は表示入力部520に表示されるフォーカス用のアイコンボタン等を操作することにより、カメラ部541の撮影レンズのピント合わせを行うことができる。また、マニュアルフォーカスモード時には、スプリットイメージが合成されたライブビュー画像を表示パネル521に表示させ、これによりマニュアルフォーカス時の合焦状態を確認できるようにしている。なお、図9に示すハイブリッドファインダー220をスマートフォン500に設けるようにしてもよい。
また、カメラ部541は、主制御部501の制御により、撮像によって得た画像データを例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換する。そして、変換して得た画像データを記憶部550に記録したり、入出力部560や無線通信部510を通じて出力することができる。図27に示すにスマートフォン500において、カメラ部541は表示入力部520と同じ面に搭載されているが、カメラ部541の搭載位置はこれに限らず、表示入力部520の背面に搭載されてもよいし、あるいは、複数のカメラ部541が搭載されてもよい。なお、複数のカメラ部541が搭載されている場合には、撮像に供するカメラ部541を切り替えて単独にて撮像したり、あるいは、複数のカメラ部541を同時に使用して撮像したりすることもできる。
また、カメラ部541はスマートフォン500の各種機能に利用することができる。例えば、表示パネル521にカメラ部541で取得した画像を表示することや、操作パネル522の操作入力のひとつとして、カメラ部541の画像を利用することができる。また、GPS受信部570が位置を検出する際に、カメラ部541からの画像を参照して位置を検出することもできる。更には、カメラ部541からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン500のカメラ部541の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部541からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データに各種情報を付加して記憶部550に記録したり、入出力部560や無線通信部510を通じて出力したりすることもできる。ここで言う「各種情報」としては、例えば、静止画又は動画の画像データにGPS受信部570により取得した位置情報、マイクロホン532により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)が挙げられる。この他にも、モーションセンサ部580により取得した姿勢情報等などであってもよい。
また、上記各実施形態では、上下方向に2分割されたスプリットイメージを例示したが、これに限らず、左右方向又は斜め方向に複数分割された画像をスプリットイメージとして適用してもよい。
例えば、図29に示すスプリットイメージ66aは、行方向に平行な複数の分割線63aにより奇数ラインと偶数ラインとに分割されている。このスプリットイメージ66aでは、第1の画素群から出力された出力信号に基づいて生成されたライン状(一例として短冊状)の位相差画像66Laが奇数ライン(偶数ラインでも可)に表示される。また、第2の画素群から出力された出力信号に基づき生成されたライン状(一例として短冊状)の位相差画像66Raが偶数ラインに表示される。
また、図30に示すスプリットイメージ66bは、行方向に傾き角を有する分割線63b(例えば、スプリットイメージ66bの対角線)により2分割されている。このスプリットイメージ66bでは、第1の画素群から出力された出力信号に基づき生成された位相差画像66Lbが一方の領域に表示される。また、第2の画素群から出力された出力信号に基づき生成された位相差画像66Rbが他方の領域に表示される。
また、図31A及び図31Bに示すスプリットイメージ66cは、行方向及び列方向にそれぞれ平行な格子状の分割線63cにより分割されている。スプリットイメージ66cでは、第1の画素群から出力された出力信号に基づき生成された位相差画像66Lcが市松模様(チェッカーパターン)状に並べられて表示される。また、第2の画素群から出力された出力信号に基づき生成された位相差画像66Rcが市松模様状に並べられて表示される。
また、スプリットイメージに限らず、2つの位相差画像から他の合焦確認画像を生成し、合焦確認画像を表示するようにしてもよい。例えば、2つの位相差画像を重畳して合成表示し、ピントがずれている場合は2重像として表示され、ピントが合った状態ではクリアに画像が表示されるようにしてもよい。
また、上記各実施形態では、第1〜第3の画素群を有する撮像素子20を例示したが、本発明はこれに限定されるものではなく、第1の画素群及び第2の画素群のみからなる撮像素子であってもよい。この種の撮像素子を有するデジタルカメラは、第1の画素群から出力された第1の画像及び第2の画素群から出力された第2の画像に基づいて3次元画像(3D画像)を生成することができるし、2次元画像(2D画像)も生成することができる。この場合、2次元画像の生成は、例えば第1の画像及び第2の画像の相互における同色の画素間で補間処理を行うことで実現される。また、補間処理を行わずに、第1の画像又は第2の画像を2次元画像として採用してもよい。
また、上記各実施形態では、第1〜第3の画像が画像処理部28に入力された場合に通常画像とスプリットイメージとの双方を表示装置の同画面に同時に表示する態様を例示したが、本発明はこれに限定されるものではない。例えば、表示制御部36が、表示装置に対する通常画像の動画像としての連続した表示を抑止し、かつ、表示装置に対してスプリットイメージを動画像として連続して表示させる制御を行うようにしてもよい。ここで言う「通常画像の表示を抑止する」とは、例えば表示装置に対して通常画像を表示させないことを指す。具体的には、通常画像を生成するものの表示装置に通常画像を出力しないことで表示装置に対して通常画像を表示させないことや通常画像を生成しないことで表示装置に対して通常画像を表示させないことを指す。表示装置の画面全体を利用してスプリットイメージを表示させてもよいし、一例として図12に示すスプリットイメージの表示領域の全体を利用してスプリットイメージを表示させてもよい。なお、ここで言う「スプリットイメージ」としては、特定の撮像素子を使用する場合において、位相差画群から出力された画像(例えば第1の画素群から出力された第1の画像及び第2の画素群から出力された第2の画像)に基づくスプリットイメージが例示できる。「特定の撮像素子を使用する場合」としては、例えば位相差画素群(例えば第1の画素群及び第2の画素群)のみからなる撮像素子を使用する場合が挙げられる。この他にも、通常画素に対して所定の割合で位相差画素(例えば第1の画素群及び第2の画素群)が配置された撮像素子を使用する場合が例示できる。
また、通常画像の表示を抑止してスプリットイメージを表示させるための条件としては、様々な条件が考えられる。例えば、スプリットイメージの表示が指示されている状態で通常画像の表示指示が解除された場合に表示制御部36が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、撮影者がハイブリッドファインダーを覗きこんだ場合に表示制御部36が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、レリーズボタン211が半押し状態にされた場合に表示制御部36が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、レリーズボタン211に対して押圧操作が行われていない場合に表示制御部36が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、被写体の顔を検出する顔検出機能を働かせた場合に表示制御部36が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。
また、上記各実施形態で説明した撮像装置100(100A,100B)は、被写界深度を確認する機能(被写界深度確認機能)を有していてもよい。この場合、例えば撮像装置100は被写界深度確認キーを有する。被写界深度確認キーは、ハードキーであってもよいし、ソフトキーであってもよい。ハードキーによる指示の場合は、例えばモーメンタリ動作型のスイッチ(非保持型スイッチ)を適用することが好ましい。ここで言うモーメンタリ動作型のスイッチとは、例えば所定位置に押し込まれている間だけ撮像装置100における特定の動作状態を維持するスイッチを指す。ここで、被写界深度確認キーは、押下されると絞り値が変更される。また、被写界深度確認キーに対する押下が継続して行われている間(所定位置に押し込まれている間)、絞り値は限界値に達するまで変化し続ける。このように、被写界深度確認キーの押下中は、絞り値が変化するため、スプリットイメージを得るために必要な位相差が得られない場合がある。そこで、スプリットイメージが表示されている状態で、被写界深度確認キーが押下された場合、押下中はスプリットイメージから通常のライブビュー表示に変更し、押下状態が解除された際に再度スプリットイメージを表示させるように画面の切り替えをCPU12が行うようにしてもよい。なお、ここでは、被写界深度確認キーの一例としてモーメンタリ動作型のスイッチを適用した場合を例示したが、これに限らず、オルタネイト動作型のスイッチ(保持型スイッチ)を適用してもよい。
また、上記各実施形態で説明した画像出力処理の流れ(図15及び図24参照)はあくまでも一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。また、上記各実施形態で説明した画像出力処理及び感度補正係数取得処理に含まれる各処理は、プログラムを実行することにより、コンピュータを利用してソフトウェア構成により実現されてもよいし、その他のハードウェア構成で実現されてもよい。また、ハードウェア構成とソフトウェア構成の組み合わせによって実現してもよい。
上記各実施形態で説明した画像出力処理を、コンピュータによりプログラムを実行することにより実現する場合は、プログラムを所定の記憶領域(例えばメモリ26)に予め記憶しておけばよい。なお、必ずしも最初からメモリ26に記憶させておく必要はない。例えば、コンピュータに接続されて使用されるSSD(Solid State Drive)、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの任意の「可搬型の記憶媒体」に先ずはプログラムを記憶させておいてもよい。そして、コンピュータがこれらの可搬型の記憶媒体からプログラムを取得して実行するようにしてもよい。また、インターネットやLAN(Local Area Network)などを介してコンピュータに接続される他のコンピュータまたはサーバ装置などに各プログラムを記憶させておき、コンピュータがこれらからプログラムを取得して実行するようにしてもよい。
16 撮影レンズ
20 撮像素子
26 メモリ
28A 画像取得部
28B 感度取得部
28C 補正部
28D 生成部
36A,36B 表示制御部
100,100A 撮像装置
213 表示部
247 LCD

Claims (13)

  1. 撮影レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第1及び第2の画像信号を出力する第1及び第2の画素群を有する撮像素子から出力された前記第1及び第2の画像信号に基づく第1及び第2の画像を取得する画像取得部と、
    前記第1の画素群における瞳分割方向の画素の前記第1の領域を介して入射される光に対する感度、及び前記第2の画素群における瞳分割方向の画素の前記第2の領域を介して入射される光に対する感度を取得する感度取得部と、
    前記感度取得部により取得された感度に基づいて前記第1の画像及び前記第2の画像の各々に対して直線近似した感度補正係数を求め、求めた感度補正係数に基づいて前記第1及び第2の画像の輝度を補正する補正部と、
    前記撮像素子から出力された画像信号に基づいて第1の表示用画像を生成すると共に、前記補正部により補正された前記第1及び第2の画像に基づいて合焦確認に使用する第2の表示用画像を生成する生成部と、
    画像を表示する表示部と、
    前記表示部に対して、前記生成部により生成された前記第1の表示用画像を動画像として連続して表示させ、かつ、前記第1の表示用画像の表示領域内に、前記生成部により生成された前記第2の表示用画像を動画像として連続して表示させる制御を行う表示制御部と、
    を含む画像処理装置。
  2. 撮影レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第1及び第2の画像信号を出力する第1及び第2の画素群を有する撮像素子から出力された前記第1及び第2の画像信号に基づく第1及び第2の画像を取得する画像取得部と、
    前記第1の画素群における瞳分割方向の少なくとも両端部の画素の前記第1の領域を介して入射される光に対する感度、及び前記第2の画素群における瞳分割方向の画素の前記第2の領域を介して入射される光に対する感度を取得する感度取得部と、
    前記感度取得部により取得された感度に基づいて前記第1の画像及び前記第2の画像の各々に対して直線近似した感度補正係数を求め、求めた感度補正係数に基づいて前記第1及び第2の画像の輝度を補正する補正部と、
    前記撮像素子から出力された画像信号に基づいて第1の表示用画像を生成すると共に、前記補正部により補正された前記第1及び第2の画像に基づいて合焦確認に使用する第2の表示用画像を生成する生成部と、
    画像を表示する表示部と、
    前記生成部により生成された前記第1の表示用画像の前記表示部による動画像としての連続した表示を抑止し、かつ、前記表示部に対して、前記生成部により生成された前記第2の表示用画像を動画像として連続して表示させる制御を行う表示制御部と、
    を含む画像処理装置。
  3. 前記感度補正係数は、更に、前記第1及び第2の画素群の各々の瞳分割方向の中央部に含まれる対応する画素間の感度差を前記第1及び第2の画素群の各々の瞳分割方向の両端部に含まれる対応する画素間の感度差よりも小さくする感度補正係数である請求項1又は請求項2に記載の画像処理装置。
  4. 前記補正部は、前記画像取得部により取得された前記第1及び第2の画像の輝度を、前記感度補正係数を用いて補正し、補正した輝度を所定係数を乗じて調整する請求項1〜請求項3の何れか1項に記載の画像処理装置。
  5. 前記補正部は、撮影条件に基づいて前記感度補正係数を導出し、導出した前記感度補正係数を用いて、前記画像取得部により取得された前記第1及び第2の画像の輝度を補正する請求項1〜請求項4の何れか1項に記載の画像処理装置。
  6. 前記補正部は、前記撮影条件に基づいて定められた目標感度を参考にして前記感度補正係数を導出し、導出した前記感度補正係数を用いて前記画像取得部により取得された前記第1及び第2の画像の輝度を補正する請求項5に記載の画像処理装置。
  7. 前記撮影条件を絞り値とし、
    前記補正部は、予め定められた複数の絞り値の各々について前記目標感度を参考にして前記感度補正係数が予め導出された状態で、前記複数の絞り値以外の絞り値に基づく前記第1及び第2の画像が前記画像取得部によって取得される場合、前記複数の絞り値のうちの少なくとも2つの絞り値の各々についての前記感度補正係数を補間し、補間後の前記感度補正係数を用いて、前記画像取得部により取得された前記第1及び第2の画像の輝度を補正する請求項6に記載の画像処理装置。
  8. 前記感度取得部は、前記第1及び第2の画素群の各々の瞳分割方向の中央部に含まれる複数の画素の感度を取得する請求項1〜請求項7の何れか1項に記載の画像処理装置。
  9. 前記撮像素子は、前記撮影レンズを透過した被写体像が瞳分割されずに結像されて第3の画像信号を出力する第3の画素群を更に有し、
    前記生成部は、前記第3の画素群から出力された前記第3の画像信号に基づいて前記第1の表示用画像を生成する請求項1〜請求項8の何れか1項に記載の画像処理装置。
  10. 請求項1〜請求項9の何れか1項に記載の画像処理装置と、
    前記第1及び第2の画素群を有する撮像素子と、
    前記撮像素子から出力された画像信号に基づいて生成された画像を記憶する記憶部と、
    を含む撮像装置。
  11. 撮影レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第1及び第2の画像信号を出力する第1及び第2の画素群を有する撮像素子から出力された前記第1及び第2の画像信号に基づく第1及び第2の画像を取得し、
    前記第1の画素群における瞳分割方向の画素の前記第1の領域を介して入射される光に対する感度、及び前記第2の画素群における瞳分割方向の画素の前記第2の領域を介して入射される光に対する感度を取得し、
    取得した感度に基づいて前記第1の画像及び前記第2の画像の各々に対して直線近似した感度補正係数を求め、求めた感度補正係数に基づいて前記第1及び第2の画像の輝度を補正し、
    前記撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、
    補正した前記第1及び第2の画像に基づいて合焦確認に使用する第2の表示用画像を生成し、
    画像を表示する表示部に対して、生成した前記第1の表示用画像を動画像として連続して表示させ、かつ、前記第1の表示用画像の表示領域内に、生成した前記第2の表示用画像を動画像として連続して表示させる制御を行うことを含む画像処理方法。
  12. 撮影レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第1及び第2の画像信号を出力する第1及び第2の画素群を有する撮像素子から出力された前記第1及び第2の画像信号に基づく第1及び第2の画像を取得し、
    前記第1の画素群における瞳分割方向の画素の前記第1の領域を介して入射される光に対する感度、及び前記第2の画素群における瞳分割方向の画素の前記第2の領域を介して入射される光に対する感度を取得し、
    取得した感度に基づいて前記第1の画像及び前記第2の画像の各々に対して直線近似した感度補正係数を求め、求めた感度補正係数に基づいて前記第1及び第2の画像の輝度を補正し、
    前記撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、
    補正した前記第1及び第2の画像に基づいて合焦確認に使用する第2の表示用画像を生成し、
    生成した前記第1の表示用画像の表示部による動画像としての連続した表示を抑止し、かつ、前記表示部に対して、生成した前記第2の表示用画像を動画像として連続して表示させる制御を行うことを含む画像処理方法。
  13. コンピュータを、
    請求項1〜請求項9の何れか1項に記載の画像処理装置における前記画像取得部、前記感度取得部、前記補正部及び前記表示制御部として機能させるための画像処理プログラム。
JP2014555423A 2013-01-04 2013-10-25 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム Active JP5889441B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014555423A JP5889441B2 (ja) 2013-01-04 2013-10-25 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2013000045 2013-01-04
JP2013000045 2013-01-04
PCT/JP2013/079030 WO2014106917A1 (ja) 2013-01-04 2013-10-25 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP2014555423A JP5889441B2 (ja) 2013-01-04 2013-10-25 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP5889441B2 true JP5889441B2 (ja) 2016-03-22
JPWO2014106917A1 JPWO2014106917A1 (ja) 2017-01-19

Family

ID=51062239

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014555423A Active JP5889441B2 (ja) 2013-01-04 2013-10-25 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム

Country Status (4)

Country Link
US (1) US9432570B2 (ja)
JP (1) JP5889441B2 (ja)
CN (1) CN104885440B (ja)
WO (1) WO2014106917A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5753321B2 (ja) * 2012-09-19 2015-07-22 富士フイルム株式会社 撮像装置及び合焦確認表示方法
JP5981026B2 (ja) * 2013-03-29 2016-08-31 富士フイルム株式会社 画像処理装置、撮像装置、プログラム及び画像処理方法
WO2015156187A1 (ja) * 2014-04-10 2015-10-15 富士フイルム株式会社 撮影装置及びその制御方法
US10104302B2 (en) * 2015-10-27 2018-10-16 Pixart Imaging Inc. Image determining method and image sensing apparatus applying the image determining method
CN105657262B (zh) * 2015-12-31 2018-11-30 青岛海信移动通信技术股份有限公司 一种图像处理方法和装置
JP6469026B2 (ja) * 2016-01-19 2019-02-13 キヤノン株式会社 撮像装置およびその制御方法
CN105763806B (zh) * 2016-02-29 2017-10-03 广东欧珀移动通信有限公司 控制方法、控制装置及电子装置
JP6712506B2 (ja) * 2016-06-23 2020-06-24 オリンパス株式会社 焦点検出装置および焦点検出方法
CN111316629B (zh) * 2017-08-02 2022-04-19 索尼公司 图像处理装置和方法、成像装置和程序
US10735640B2 (en) * 2018-02-08 2020-08-04 Facebook Technologies, Llc Systems and methods for enhanced optical sensor devices

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007189312A (ja) * 2006-01-11 2007-07-26 Nikon Corp 撮像装置、撮像方法およびカメラ
JP2009147665A (ja) * 2007-12-13 2009-07-02 Canon Inc 撮像装置
JP2011017800A (ja) * 2009-07-07 2011-01-27 Canon Inc 焦点検出装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2425363A (en) * 2005-04-18 2006-10-25 Sharp Kk Panoramic adapter with mirrors formed by rotating conic section
US8514303B2 (en) * 2006-04-03 2013-08-20 Omnivision Technologies, Inc. Advanced imaging systems and methods utilizing nonlinear and/or spatially varying image processing
JP5076240B2 (ja) * 2008-02-05 2012-11-21 富士フイルム株式会社 撮像装置、撮像方法、およびプログラム
JP5593602B2 (ja) * 2008-09-24 2014-09-24 ソニー株式会社 撮像素子および撮像装置
JP5675157B2 (ja) * 2009-05-12 2015-02-25 キヤノン株式会社 焦点検出装置
JP2011223562A (ja) 2010-03-23 2011-11-04 Fujifilm Corp 撮像装置
JP5180407B2 (ja) * 2010-03-24 2013-04-10 富士フイルム株式会社 立体撮像装置および視差画像復元方法
JP2012075079A (ja) 2010-08-30 2012-04-12 Hoya Corp シェーディング補正装置、シェーディング補正方法、シェーディング補正プログラム、及び撮影装置
WO2012036019A1 (ja) 2010-09-13 2012-03-22 富士フイルム株式会社 単眼立体撮像装置、単眼立体撮像装置用シェーディング補正方法及び単眼立体撮像装置用プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007189312A (ja) * 2006-01-11 2007-07-26 Nikon Corp 撮像装置、撮像方法およびカメラ
JP2009147665A (ja) * 2007-12-13 2009-07-02 Canon Inc 撮像装置
JP2011017800A (ja) * 2009-07-07 2011-01-27 Canon Inc 焦点検出装置

Also Published As

Publication number Publication date
JPWO2014106917A1 (ja) 2017-01-19
US9432570B2 (en) 2016-08-30
CN104885440B (zh) 2017-12-08
WO2014106917A1 (ja) 2014-07-10
US20150304546A1 (en) 2015-10-22
CN104885440A (zh) 2015-09-02

Similar Documents

Publication Publication Date Title
JP6033454B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP5889441B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP5960286B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP5681329B2 (ja) 撮像装置及び画像表示方法
JP5697801B2 (ja) 撮像装置及び自動焦点調節方法
JP5931206B2 (ja) 画像処理装置、撮像装置、プログラム及び画像処理方法
JP5901781B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP6086975B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP6000446B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP5901801B2 (ja) 画像処理装置、撮像装置、プログラム及び画像処理方法
JP5753323B2 (ja) 撮像装置及び画像表示方法
JP5833254B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP5901782B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
WO2015045785A1 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP5955417B2 (ja) 画像処理装置、撮像装置、プログラム及び画像処理方法
JP5972485B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP5901780B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP5934844B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
WO2014045741A1 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160216

R150 Certificate of patent or registration of utility model

Ref document number: 5889441

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250