JP2014204299A - 撮像装置および撮像装置の制御方法 - Google Patents

Abstract

【課題】撮影画像の解像度に応じて視差情報を変更する撮像装置を提供する。
【解決手段】撮像装置の撮像素子５０５が、一つのマイクロレンズに対して撮像光学系の射出瞳の分割された異なる領域を通過した光束を光電変換して画像信号を生成する複数の光電変換部を有する画素部を備える。撮像装置が、撮像素子が出力する画像信号の解像度を設定し、撮像素子の出力する画像信号に基づいて生成される左目用画像データと右目用画像データの視差量を検出し、検出された視差量を、上記設定された解像度に応じて編集する。
【選択図】図４

Description

本発明は、撮像装置および撮像装置の制御方法に関する。

近年、３次元（３Ｄ）シネマや３Ｄディスプレイなど、立体映像関連機器の普及が急速に進んでいる。立体映像撮影は従来からフィルム式カメラなどでも行われてきたが、デジタル撮像装置の普及に伴い、デジタルカメラやデジタルビデオカメラ等により立体映像を生成するための元画像が撮影されるようになってきている。

ユーザが立体映像を鑑賞する仕組みとしては、対象物を左目で見た像及び右目で見た像に対応するように、左右方向に視差を持たせた、右目用画像と左目用画像のデータが用意される。各画像をユーザが右目と左目でそれぞれ見ることで立体視可能である。その方法には、視差バリア方式やレンチキュラ方式などのように鑑賞対象の映像を視差分割する方法がある。また左右で特性の異なるフィルタを介して、ユーザの左目と右目に異なる映像を提示する方法などが知られている。

一方、立体映像として鑑賞可能な画像の撮影方法として、異なる視点での画像を同時に撮影する方法が、特許文献１および２に開示されている。特許文献１は、複数の微小レンズが形成され、該微小レンズの各々に近接して、対を成すフォトダイオードが１対以上配置されている固体撮像素子を開示する。フォトダイオード対のうち、一方のフォトダイオードの出力から第１の画像信号が得られ、他方のフォトダイオードの出力から第２の画像信号が得られる。第１及び第２の画像信号を、左目用画像、右目用画像としてそれぞれ用いることで、ユーザの立体映像の鑑賞が可能となる。

また、特許文献２は、第１の画像のそれぞれの画素に適用されるべきシフトに対応する出力値を持つ出力要素を有する出力視差マップを開示する。この出力視差マップと第１の画像とに基づいて、第２の画像を生成することができる。

撮影したステレオ画像を表示装置にて表示する際に、表示装置のディスプレイの大きさと鑑賞者の位置によって、得られる立体感が異なる。視差マップに保存されている視差量は、立体感を表現した値であるが、視差量と、表示装置のディスプレイの大きさとが適合していないと、表示装置がステレオ画像を表示しても不自然な立体感となってしまう。例えば、立体感を得られなかったり、立体感が多すぎて眼の疲労を起こしてしまったりする。特許文献３は、ステレオ画像の視差を変更する視差変更装置によって視差を変更した画像を、ステレオ表示装置にて再生するシステムを開示している。

特開昭５８−２４１０５号公報 特表２００８−５１８３１７号公報 特開２０１０−０４５５８４号公報

特許文献３が開示しているシステムは、情報取得部から取得したステレオ表示装置のディスプレイの大きさに基づいて視差量を変換したステレオ画像を表示する。しかし、このシステムは、再生時にディスプレイの大きさに応じた視差の補正は行えるが、撮影画像の解像度に応じた補正を考慮していないので、ステレオ画像を表示する際に、解像度の低い画像における立体感が損なわれてしまう。また、このシステムでは、出力するディスプレイに撮影画像をピクセル等倍で表示する際には、適切な立体感のあるステレオ画像を提供することができない。

本発明は、撮影画像の解像度に応じて視差情報を変更する撮像装置の提供を目的とする。

本発明の一実施形態の撮像装置は、一つのマイクロレンズに対して撮像光学系の射出瞳の分割された異なる領域を通過した光束を光電変換して画像信号を生成する複数の光電変換部を有する画素部を備える撮像素子と、前記撮像素子が出力する画像信号の解像度を設定する設定手段と、前記撮像素子の出力する画像信号に基づいて生成される左目用画像データと右目用画像データの視差量を検出する検出手段と、前記検出された視差量を、前記設定手段により設定された解像度に応じて編集する編集手段とを備える。

本発明の撮像装置によれば、解像度に応じた適切な立体感のあるステレオ画像を提供することができる。

撮像装置が適用する撮像素子の構成例を概略的に示す図である。 撮像素子の画素の構成例を示す図である。 撮影レンズの射出瞳から出た光束が撮像素子に入射する様子を表した概念図である。 本実施形態の撮像装置の構成例を示す図である。 本実施形態における視差マップの生成処理の一例を示す図である。 撮像装置が生成する画像データのファイル構造の一例である。 視差量の編集例を説明する図である。 視差量の編集例を説明する図である。 視差マップの生成処理を説明するフローチャートである。 視差量の拡大処理の例を説明するフローチャートである。 解像度に応じた視差拡大処理が行われた際の視差マップの例を示す図である。 視差マップの生成処理を説明するフローチャートである。 視差量の拡大処理の例を説明するフローチャートである。 視差拡大テーブルの一例を示す図である。

図１は、本実施形態の撮像装置が適用する撮像素子の構成例を概略的に示す図である。撮像素子１００は、画素アレイ１０１と、画素アレイ１０１における行を選択する垂直選択回路１０２と、画素アレイ１０１における列を選択する水平選択回路１０４を含む。読み出し回路１０３は、画素アレイ１０１中の画素のうち垂直選択回路１０２によって選択される画素の信号を読み出す。読み出し回路１０３は、信号を蓄積するメモリ、ゲインアンプ、ＡＤ変換器などを列毎に有する。

シリアルインターフェース（ＳＩ）部１０５は、各回路の動作モードなどを外部回路（例えば、図４中のシステム制御部５０９やタイミング発生部５０７）からの指示に従って決定する。垂直選択回路１０２は、画素アレイ１０１の複数の行を順次選択し、読み出し回路１０３に画素信号を取り出す。また水平選択回路１０４は、読み出し回路１０３によって読み出された複数の画素信号を列毎に順次選択する。なお、撮像素子１００は、図１に示す構成要素以外に、例えば、垂直選択回路１０２、水平選択回路１０４、読み出し回路１０３等にタイミング信号を提供するタイミングジェネレータや、制御回路等が存在するが、これらの詳細な説明は省略する。

図２は、撮像素子１００の画素の構成例を示す図である。図２（Ａ）は１画素の構成を概略的に示す。図２（Ｂ）は、画素アレイ１０１の配置を示す。図２（Ａ）に示す画素２０１は、光学素子としてのマイクロレンズ２０２と、受光素子としての複数のフォトダイオード（以下、ＰＤと略記する）とを有する。

図２（Ａ）には、１画素に左側のＰＤ２０３と右側のＰＤ２０４の２個を設けた例を示すが、３個以上（例えば、４個または９個）のＰＤを用いてもよい。ＰＤ２０３は、受光した光束を光電変換して左目用画像を出力する。ＰＤ２０４は、受光した光束を光電変換して右目用画像を出力する。なお、画素２０１は、図示の構成要素以外にも、例えば、ＰＤ信号を読み出し回路１０３に取り出す画素増幅アンプや、行選択スイッチ、ＰＤ信号のリセットスイッチなどを備える。

画素アレイ１０１は、２次元画像を提供するため、図２（Ｂ）に示す多数の画素３０１から３０４のように、２次元アレイ状に配列して構成される。ＰＤ３０１Ｌ、３０２Ｌ、３０３Ｌ、３０４Ｌは、図２（Ａ）中のＰＤ２０３に相当する。また、ＰＤ３０１Ｒ、３０２Ｒ、３０３Ｒ、３０４Ｒは、図２（Ａ）中のＰＤ２０４に相当する。すなわち、本実施形態の撮像装置は、各々が、左目用画像を出力する第１の光電変換部（ＰＤ２０３）と、右目用画像を出力する第２の光電変換部（ＰＤ２０４）とを有する複数の画素部を備える撮像素子を備える。

次に、図２（Ｂ）に示す画素構成を有する撮像素子１００の受光について説明する。図３は、撮影レンズの射出瞳から出た光束が撮像素子１００に入射する様子を表した概念図である。

画素アレイ１０１は、マイクロレンズ２０２と、カラーフィルタ４０３と、ＰＤ４０４および４０５を有する。ＰＤ４０４、ＰＤ４０５は、図２（Ａ）中のＰＤ２０３、ＰＤ２０４にそれぞれ相当する。

図３において、マイクロレンズ２０２に対して、撮影レンズの射出瞳４０６から出た光束の中心を光軸４０９とする。射出瞳４０６から出た光は、光軸４０９を中心として撮像素子１００に入射する。一部領域４０７、４０８は、撮影レンズの射出瞳４０６の領域である。光線４１０、４１１は、一部領域４０７を通過する光の最外周の光線である。光線４１２、４１３は、一部領域４０８を通過する光の最外周の光線である。

射出瞳４０６から出る光束のうち、光軸４０９を境界線として、上側の光束はＰＤ４０５に入射し、下側の光束はＰＤ４０４に入射する。つまり、ＰＤ４０４とＰＤ４０５は、各々、撮影光学系の射出瞳の分割された異なる領域からの光束を受光する。このように各受光素子は射出瞳での異なる領域の光を検出するため、点光源からの光が暈けた状態で撮影される状況では、それぞれに異なった形状の撮影画像が得られることになる。

図４は、本実施形態の撮像装置の構成例を示す図である。図４を参照して、図１に示す撮像素子１００の、撮像装置であるデジタルカメラへの適用例について説明する。なお、本実施形態の制御方法は、図４に示す撮像装置が備える処理部の機能によって実現される。撮像光学系を構成するレンズ部５０１は、被写体からの光を撮像素子５０５に結像する。撮像素子５０５は、図１に示す撮像素子１００に相当し、図２（Ｂ）に示す画素構成を有する。

レンズ駆動装置５０２は、ズーム制御、フォーカス制御、絞り制御などを行う。メカニカルシャッタ５０３は、シャッタ駆動装置５０４によって制御される。撮像素子５０５は、レンズ部５０１により結像した被写体像を画像信号に変換する。撮像信号処理回路５０６は、撮像素子５０５の出力する画像信号に対して各種の処理や補正を行う。タイミング発生部５０７は、撮像素子５０５や撮像信号処理回路５０６に必要なタイミング信号を出力する。

システム制御部５０９は、各種演算を行い、撮像装置全体を制御する。不図示のＣＰＵ（中央演算処理装置）がプログラムを実行することでシステム制御部５０９の機能を実現する。本実施形態に特有の動作として、システム制御部５０９は、撮像素子５０５が出力する画像信号の解像度を設定する。また、システム制御部５０９は、画像合成回路５１３が生成した合成画像と、視差マップ生成回路５１４が生成した視差マップとに基づいて、３次元表示用の左目用画像と右目用画像とを生成する。視差マップ生成回路５１４により視差マップが生成され、求められた視差マップはメモリ部５０８に蓄積される。

視差マップ生成回路５１４は、左目用画像と右目用画像を用いて、視差量を算出し、システム制御部５０９から指定された視差範囲に補正して視差マップを生成する。システム制御部５０９は、視差マップに基づいて３次元表示用の画像データを生成し、表示手段（不図示）を通じて再生することによって、ユーザに立体画像を鑑賞させる。システム制御部５０９は、例えば、撮像装置に接続されたステレオ表示装置に３次元表示用の画像データを送信して表示させる。なお、システム制御部５０９は、左目用画像と右目用画像と基づいて、位相差の検知を行って、位相差ＡＦを実現することもできる。

メモリ部５０８は、画像データを一時的に記憶するメモリを備える。記憶媒体制御インターフェース部（以下、Ｉ／Ｆ部と略記する）５１０は、記録媒体５１１に画像データ（画像ファイル）などを記録し、または記録媒体５１１から画像データを読み出すために設けられる。撮像装置に着脱可能な記録媒体５１１は、半導体メモリ等である。外部Ｉ／Ｆ部５１２は、外部装置との間でデータを送受する。

撮像信号処理回路５０６は、撮像素子５０５が出力する撮像データを左目用画像と右目用画像に振り分けて画像処理を行う。メモリ部５０８は、撮像信号処理回路５０６の出力データ、画像合成回路５１３によって生成された合成画像、視差マップ生成回路５１４によって生成された視差マップを記憶する記憶手段として機能する。

画像合成回路５１３は、左目用画像データと右目用画像データとに基づいて、合成画像データを生成する。具体的には、画像合成回路５１３は、左目用画像と右目用画像とを画素毎に加算平均処理することで左目用画像と右目用画像とを合成し、合成画像を生成する。これにより、撮像素子５０５から読み出された画像信号に基づく左目画像と右目画像とで被写体の形状が異なって撮影されていても、画像合成回路５１３による処理によって、被写体の形状が補間され、正しい形状の画像データが生成される。なお、画像合成回路５１３が、必要なＰＤ信号のみを取得して合成画像を生成するようにしてもよい。

画像合成回路５１３は、例えば、図２（Ｂ）のＰＤ３０１Ｌ乃至３０４Ｒが出力する画像信号のうち、ＰＤ３０１Ｌ、３０２Ｌ、３０３Ｌ、３０４Ｌが出力する画像信号から左目用画像を生成する。また、画像合成回路５１３は、ＰＤ３０１Ｒ、３０２Ｒ、３０３Ｒ、３０４Ｒが出力する画像信号から右目用画像を生成する。また、画像合成回路５１３は、ＰＤ３０１Ｌの出力とＰＤ３０１Ｒの出力とを加算し、ＰＤ３０２Ｌの出力とＰＤ３０２Ｒの出力とを加算し、ＰＤ３０３Ｌの出力とＰＤ３０３Ｒの出力とを加算し、ＰＤ３０４Ｌの出力とＰＤ３０４Ｒの出力とを加算する。これにより、合成画像が生成される。

測光装置５１５は、被写体の明るさを測る。圧縮伸長回路５２０は、記憶した画像データを所定の画像圧縮方法（例えば、適応離散コサイン変換（ＡＤＣＴ）等）で圧縮し、画像圧縮された画像データをメモリ部５０８に書き込む。また、圧縮伸長回路５２０は、メモリ５０８から読み出した画像データを伸長し、伸長した画像データをメモリ部５０８に書き込む。

図５は、本実施形態における視差マップの生成処理の一例を示す図である。図５（Ａ）中の符号６０１は、被写体を撮影して得られる構図を示す。符号６０２、６０３、６０４は、被写体を示す。図５（Ａ）中に示す構図では、被写体６０２、６０３、６０４は、この順に上から並んでいる。また、被写体は、図５（Ｃ）に示すように、奥行き方向に並んで配置されている。符号６０４が最も近い被写体、符号６０２が最も遠い被写体である。

図５（Ｂ）は、図５（Ａ）に示す構図を撮影して得られるステレオ画像を示す。画像６０５は左目用画像であり、画像６０６は右目用画像である。左目用画像６０５には、被写体６０２、６０３、６０４が、それぞれ、６０７Ｌ、６０８Ｌ、６０９Ｌとして示される。右目用画像６０６には、被写体６０２、６０３、６０４が、それぞれ、６０７Ｒ、６０８Ｒ、６０９Ｒとして示される。

左目用画像６０５における被写体と右目用画像６０６における当該被写体との間には、位置ずれがある。本実施形態では、位置ずれの量を視差量と定義する。視差マップ生成回路５１４は、まず、公知のパターンマッチング法を用いて、左目用画像６０５と右目用画像６０６に含まれる被写体を検知する。視差マップ生成回路５１４は、検知した被写体毎に、左目用画像における被写体の位置と右目用画像における被写体の位置とに基づいて、視差量を算出し、算出した視差量の情報（視差量情報）を持つ視差マップを生成する。なお、視差マップが含む視差量の情報は、メモリ部５０８に記憶される画像データまたは画像ファイルに含めてもよいし、関連付けされたファイルとして保存してもよい。この例では、視差量の情報は画像ファイルに含まれているものとする。

図５（Ｂ）中の符号６１０は、被写体６０２の左目用画像６０５における位置を基準とする、右目用画像６０６における位置のずれ量、つまり６０７Ｌと６０７Ｒとの間の視差量を示す。同様に、符号６１１は、被写体６０４の左目用画像６０５における位置を基準とする、右目用画像６０６における位置のずれ量、つまり６０９Ｌと６０９Ｒとの間の視差量を示す。被写体６０３については、左目用画像６０５における位置と右目用画像６０６における位置とが同じである。すなわち、被写体６０３については、視差量がない。

ここで、視差量によって立体感が変動する理由について図６を用いて説明する。図６は立体映像の観賞時の様子を模式的に示す図である。符号７０１は表示装置のスクリーン面である。符号７０２は観察者、符号７０３Ｌは観察者の左目、符号７０３Ｒは観察者の右目を示す。点線は、スクリーン面に映し出される各々の被写体が左目７０３Ｌ、右目７０３Ｒに投影される様子を模式的に示す。

スクリーン面７０１には、左目用画像、右目用画像が、それぞれ、左目のみ、右目のみに投影されるように表示される。左目用画像での被写体６０７Ｌ、６０８Ｌ、６０９Ｌの映像が、左目３０３Ｌに投影され、右目用画像での被写体６０７Ｒ、６０８Ｒ、６０９Ｒの映像が右目７０３Ｒに投影される。これにより、左目用画像での被写体６０７Ｌ、右目用画像での被写体６０７Ｒで表現される被写体６０２は、ステレオ表示装置のスクリーン面より奥の、符号７０４に示す位置に存在するように見える。

また、左目用画像での被写体６０８Ｌ、右目用画像での被写体６０８Ｒで表現される被写体６０３は、ステレオ表示装置のスクリーン面の７０５の位置に存在するように見える。さらに、左目用画像での被写体６０９Ｌ、右目用画像での被写体６０９Ｒで表現される被写体６０４は、ステレオ表示装置のスクリーン面より手前の７０６の位置に飛び出して存在するように見える。つまり、これらの被写体の奥行き量や飛び出し量は、左目用画像と右目用画像の被写体の視差量に依存し、視差量６１０が被写体６０２の奥行き量、視差量６１１が被写体６０４の飛び出し量を示している。左目用画像と右目用画像の視差量は右目と左目の視差を示し、視差量が奥行き量や飛び出し量を決定する。視差マップ生成回路５１４は、上述した視差量を求める。左目用画像６０５と右目用画像６０６に含まれる被写体を検知し、被写体のシフト量を求めることで、視差量を検出することが可能となる。

図７および図８は、視差量の編集処理の例を説明する図である。図７は、視差マップの生成例を示す。図７中の８０１は、被写体の側面図である。８０２は、被写体の正面図である。８０３は被写体から得られる視差マップの例である。視差マップ８０３においては、被写体の背景部分の視差は０、四角い被写体の視差は１、丸い被写体の視差は２である。視差の値は、整数値であってもよいし、マイナスの値や実数をとってもよい。

図８は、視差マップの視差量の編集例を示す。図８（Ａ）中の８０４は左目用画像と右目用画像とから生成した合成画像である。図８（Ｂ）中の８０５は左目用画像である。図８（Ｃ）中の８０６は右目用画像である。図８（Ｄ）中の８０７は視差マップである。

システム制御部５０９は、視差マップ生成回路５１４に指示して、視差マップ７０７の視差量を編集（重み付け）することができる。

図８（Ｅ）中の８１０は、重み付けされ、視差量が２倍となった視差マップである。システム制御部５０９は、視差マップ８１０と合成画像８０４とに基づいて、視差拡大した左目画像８０８（図８（Ｆ））と視差拡大した右目画像８０９（図８（Ｇ））とを、３次元表示用画像データとして生成する。本実施形態では、システム制御部５０９は、撮影画像の解像度に応じて、視差量の編集処理（拡大処理）を実行する。

（実施例１）
図９は、実施例１の撮像装置が実行する視差マップの生成処理を説明するフローチャートである。

まず、システム制御部５０９が、撮影画像の解像度に応じて、視差量の拡大処理を実行する（ステップＳ９０１）。続いて、システム制御部５０９が、拡大処理後の視差量を有する視差マップを生成する（ステップＳ９０２）。そして、システム制御部５０９が、生成した視差マップをメモリ部５０８に記憶する（ステップＳ９０３）。

図１０は、図９のステップＳ９０１における視差量の拡大処理の例を説明するフローチャートである。本実施例では、視差量を拡大するか否かの判断処理の基準となる解像度（基準解像度）を予め設定しておく。そして、撮像装置は、基準解像度と異なる解像度で撮影が行われた場合に、視差量の拡大を行う。

まず、システム制御部５０９が、撮影画像の解像度を確認する（ステップＳ１００１）。次に、システム制御部５０９が、ステップＳ１００１で確認された撮影画像の解像度が予め設定された基準解像度と異なるかを判断する（ステップＳ１００２）。撮影画像の解像度が基準解像度と同様である場合は、ステップＳ１００３に進む。そして、システム制御部５０９が、視差量の拡大率（視差拡大率）として１を設定する。これにより、撮影時の視差量がそのまま適用される。

撮影画像の解像度が基準解像度と異なる場合は、処理がステップＳ１００４に進む。そして、システム制御部５０９が、撮影画像の解像度に応じて、視差量の拡大率を算出する（ステップＳ１００４）。具体的には、システム制御部５０９は、予めメモリ部５０８に記憶された視差拡大テーブルを参照して、視差量の拡大率を算出する。

図１４は、視差拡大テーブルの一例を示す図である。視差拡大テーブルには、画像サイズと視差拡大率とが紐付けられて設定されている。画像サイズは、撮影画像の解像度のサイズである。視差拡大率は、視差量の補正情報（拡大率）である。本実施例では、視差拡大率は、図１０のステップＳ１００６で算出される視差量の拡大に用いられる。

撮影画像の解像度が低いほど、紐付けられている視差拡大率が高い。これにより、図１０のステップＳ１００４において、システム制御部５０９は、撮影画像の解像度が低いほど高い視差拡大率を算出する。なお、本発明において、視差拡大率の算出方法は、視差拡大テーブルを用いて行う方法に限定されない。例えば、システム制御部５０９が、撮影画像の解像度のサイズの、基準解像度のサイズに対する比率（サイズ比率）に基づいて、視差拡大率を求めるようにしてもよい。また、システム制御部５０９が、撮影画像の解像度のサイズの、基準解像度のサイズに対する比率から決まる補正率に所定の係数を演算した値を視差拡大率として算出してもよい。

次に、ステップＳ１００５からステップＳ１００８の処理が、撮影画像の全画素分実行される。具体的には、システム制御部５０９が、撮影された左目用画像、右目用画像の１画素分の視差量を算出する（ステップＳ１００６）。

次に、システム制御部５０９が、ステップＳ１００６で算出された視差量を、ステップＳ１００３，Ｓ１００４で算出された視差拡大率で乗算する（ステップＳ１００７）。これにより、視差量が拡大される。システム制御部５０９は、拡大された視差量をメモリ５０８に記憶する。

次に、システム制御部５０９が、視差量の算出対象の画素を次に配置される画素に変更して、ステップＳ１００６の処理に戻る。撮影画像の全画素分、上記の処理が繰り返される。

図１１は、解像度に応じた視差拡大処理が行われた際の視差マップの例を示す図である。図１１（Ａ）は、撮影により撮像素子５０５から読み出された画像データと、視差マップとを示す。符号１１０１は撮影により撮像素子５０５から読み出された左目用画像である。符号１１０２は、右目用画像である。符号１１０３は視差マップである。視差マップ１１０３は、左目用画像１１０１と右目用画像１１０２とから得られる。

図１１（Ｂ）は、解像度に応じた視差量の編集処理後の画像データと視差マップの例を示す。図１１（Ａ）に示す撮影画像（左目用画像、右目用画像）は、システム制御部５０９によって、撮像装置で設定されている解像度の画像サイズに変換される。システム制御部５０９は、当該変換後の画像サイズに応じて、視差量を編集する。符号１１０４は、視差量の編集後の左目用画像を示す。符号１１０５は、視差量の編集後の右目用画像を示す。符号１１０６は、編集後の視差量を有する視差マップを示す。

図１１（Ｃ）は、解像度に応じた視差量の編集処理後の画像データと視差マップの他の例を示す。図１１（Ｃ）に示す例では、図１１（Ｂ）に示す例において設定されている解像度よりも低い解像度で撮影されたものとする。撮影画像の解像度が低いので、システム制御部５０９は、視差量の拡大率を大きくする。これにより、図１１（Ｃ）に示す左目用画像１１０７、右目用画像１１０８、視差マップ１１０９が得られる。

本実施例の撮像装置は、撮影画像の解像度に応じて左目用画像と右目用画像との視差量を変更するので、解像度の低い画像を撮影した場合においても、適切な立体感を得ることができるステレオ画像を生成することができる。

（実施例２）
図１２は、実施例２の撮像装置が実行する視差マップの生成処理を説明するフローチャートである。

まず、システム制御部５０９が、撮影した左目用画像と右目用画像とに基づいて、それぞれの画素ごとの視差量を算出して、視差マップの生成を行う（ステップＳ１２０１）。続いて、システム制御部５０９が、撮影画像の解像度に応じて、上記ステップＳ１２０１で生成された視差マップが有する視差量の拡大処理を実行する（ステップＳ１２０２）。そして、システム制御部５０９が、拡大処理後の視差量を有する視差マップをメモリ部５０８に記憶する（ステップＳ１２０３）。

図１３は、図１２のステップＳ１２０２における視差量の拡大処理の例を説明するフローチャートである。
まず、システム制御部５０９が、撮影画像の解像度を確認する（ステップＳ１３０１）。次に、システム制御部５０９が、ステップＳ１３０１で確認された撮影画像の解像度が予め設定された基準解像度と異なるかを判断する（ステップＳ１３０２）。撮影画像の解像度が基準解像度と同様である場合は、処理を抜けて、図１２のステップＳ１２０１で生成された視差マップがそのまま保存される。

撮影画像の解像度が基準解像度と異なる場合は、処理がステップＳ１３０３に進む。そして、システム制御部５０９が、撮影画像の解像度に応じて、視差拡大率を算出する（ステップＳ１００４）。ステップＳ１００４における視差拡大率の算出処理は、図１０のステップＳ１００６における視差量の拡大率の算出処理と同様である。

次に、システム制御部５０９が、視差マップの情報をメモリ部５０８から読み出す（ステップＳ１３０４）。そして、システム制御部５０９が、読み出した視差マップが有する視差量を、上記ステップＳ１３０３で算出した視差拡大率で拡大して、当該拡大後の視差量を有する視差マップをメモリ部５０８に書き戻す。この書き戻された視差マップの情報が、図１２のステップＳ１２０３において保存される。

実施例２の撮像装置によれば、生成済みの視差マップが有する視差量を、撮影画像の解像度に応じて編集することを可能とし、解像度の低い画像を撮影した場合においても適切な立体感を得ることができるステレオ画像を生成することができる。

以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。

（その他の実施例）
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア（プログラム）を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ（またはＣＰＵやＭＰＵ等）がプログラムを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。

２０１ 画素
２０２ マイクロレンズ
２０３、２０４ ＰＤ

Claims (9)

1. 一つのマイクロレンズに対して撮像光学系の射出瞳の分割された異なる領域を通過した光束を光電変換して画像信号を生成する複数の光電変換部を有する画素部を備える撮像素子と、
   前記撮像素子が出力する画像信号の解像度を設定する設定手段と、
   前記撮像素子の出力する画像信号に基づいて生成される左目用画像データと右目用画像データの視差量を検出する検出手段と、
   前記検出された視差量を、前記設定手段により設定された解像度に応じて編集する編集手段とを備える
   ことを特徴とする撮像装置。
2. 前記編集された視差量を有する、３次元表示用の画像データの生成に用いる視差マップを生成する生成手段を備える
   ことを特徴とする請求項１に記載の撮像装置。
3. 一つのマイクロレンズに対して撮像光学系の射出瞳の分割された異なる領域を通過した光束を光電変換して画像信号を生成する複数の光電変換部を有する画素部を備える撮像素子と、
   前記撮像素子が出力する画像信号の解像度を設定する設定手段と、
   前記撮像素子の出力する画像信号に基づいて生成される左目用画像データと右目用画像データの視差量を検出し、検出された視差量を有する、３次元表示用の画像データの生成に用いる視差マップを生成する視差マップ生成手段と、
   前記生成された視差マップが有する視差量を、前記設定手段により設定された解像度に応じて編集する編集手段とを備える
   ことを特徴とする撮像装置。
4. 前記編集手段は、前記設定手段により設定された解像度が予め決められた基準解像度と異なるかを判断し、前記設定手段により設定された解像度が前記基準解像度と異なる場合に、前記視差量を編集する
   ことを特徴とする請求項１乃至３のいずれか１項に記載の撮像装置。
5. 前記編集手段は、前記設定手段により設定された解像度が前記基準解像度と異なる場合に、予め記憶手段に記憶された視差量の補正情報を用いて、前記視差量を編集する
   ことを特徴とする請求項４に記載の撮像装置。
6. 前記編集手段は、前記設定手段により設定された解像度が前記基準解像度と異なる場合に、前記設定手段により設定された解像度と前記基準解像度とのサイズ比率に基づいて、前記視差量を編集する
   ことを特徴とする請求項４に記載の撮像装置。
7. 前記編集手段は、前記設定手段により設定された解像度が低いほど、前記視差量を高い拡大率で拡大する
   ことを特徴とする請求項４乃至６のいずれか１項に記載の撮像装置。
8. 一つのマイクロレンズに対して撮像光学系の射出瞳の分割された異なる領域を通過した光束を光電変換して画像信号を生成する複数の光電変換部を有する画素部を備える撮像素子を備える撮像装置の制御方法であって、
   前記撮像素子が出力する画像信号の解像度を設定する工程と、
   前記撮像素子の出力する画像信号に基づいて生成される左目用画像データと右目用画像データの視差量を検出する工程と、
   前記検出された視差量を、前記設定された解像度に応じて編集する工程とを有する
   ことを特徴とする制御方法。
9. 一つのマイクロレンズに対して撮像光学系の射出瞳の分割された異なる領域を通過した光束を光電変換して画像信号を生成する複数の光電変換部を有する画素部を備える撮像素子を備える撮像装置の制御方法であって、
   前記撮像素子が出力する画像信号の解像度を設定する工程と、
   前記撮像素子の出力する画像信号に基づいて生成される左目用画像データと右目用画像データの視差量を検出し、検出された視差量を有する、３次元表示用の画像データの生成に用いる視差マップを生成する工程と、
   前記生成された視差マップが有する視差量を、前記設定された解像度に応じて編集する工程とを有する
   ことを特徴とする制御方法。

Images