以下、図面を参照して本発明の実施の形態について詳細に説明する。
図1は本発明の一実施の形態に係る撮影機器の回路構成を示すブロック図である。
撮影機器1は、CCDやCMOSセンサ等の撮像素子2aによって構成された撮像部2を有している。本実施の形態においては、撮像部2として右左の光学系を構成する右撮像部2R及び左撮像部2Lを有する3D撮影用の撮影部を採用した例を示している。なお、撮像部2として、2回の撮影によって左右画像を得ることを前提とした、1つの光学系のみを有する2D撮影用の撮影レンズを採用してもよい。
撮影機器1の前面に設けた撮影レンズ2bを含む光学系からの被写体の光学像OAは、左右撮像部2L,2Rを構成する各撮像素子2aの撮像面に結像するようになっている。この撮像部2は、信号処理及び制御部11によって駆動制御される。信号処理及び制御部11は、撮像部2に撮像素子2aの駆動信号を出力すると共に、撮像素子2aが光学像を光電変換して得た画像信号を取り込む。
信号処理及び制御部11は、撮像素子2aの光電変換によって得られた画像信号に対して、所定の信号処理、例えば、色信号生成処理、マトリックス変換処理、その他各種のデジタル処理を行う。信号処理及び制御部11は、画像信号及び音声信号等の記録に際して、符号化処理を施して圧縮した画像情報及び音声情報等を出力することもできるようになっている。
また、撮影機器1には、操作判定部3、操作部4、時計部5、タッチパネル6も配設されている。時計部5は信号処理及び制御部11が用いる時間情報を発生する。操作判定部3は、操作部4に対するユーザ操作に基づく操作信号を発生して、信号処理及び制御部11に出力するようになっている。なお、操作部4は、撮影機器1に設けられた撮影開始終了ボタンや撮影モード設定等の図示しない各種スイッチによって構成される。タッチパネル6は、ユーザのタッチ操作に基づく操作信号を発生して、信号処理及び制御部11に出力するようになっている。信号処理及び制御部11は、操作信号に基づいて、各部を制御する。
また、撮影機器1には、記録再生制御部11a及び表示制御部11eが設けられている。記録再生制御部11aは、信号処理及び制御部11からの画像情報及び音声情報を記録部8に与えて記録することができるようになっている。記録部8は記録再生制御部11aに制御されて、記録及び再生を行う。記録部8としては、例えばカードインターフェースを採用することができ、記録部8はメモリカード等の記録媒体に画像情報及び音声情報等を記録可能である。また、記録部8は、記録媒体に記録された画像情報及び音声情報を読み出して信号処理及び制御部11の記録再生制御部11aに供給することができる。信号処理及び制御部11は、記録再生制御部11aによって再生された記録部8からの画像情報及び音声情報を復号化して、画像信号及び音声信号を得ることができるようになっている。
表示制御部11eは、撮像部2からの撮像画像や記録再生制御部11aからの再生画像を表示部7に与えて、これらの画像を表示させるようになっている。また、表示制御部11eは、撮影機器1の操作を行うためのメニュー表示等を表示部7に表示させることもできるようになっている。
表示部7は、撮影機器1の本体の背面に設けられており、撮影者は、撮影時に表示部7の表示画面を視認可能になっている。表示部7としては、視差画像である左画像及び右画像を夫々表示する左目用表示領域7L及び右目用表示領域7Rを有する3D表示用の表示部である。
なお、表示部7としては、3D表示が可能なパララックスバリア方式やレンチキュラ方式等の視差分割方式を採用した表示部を採用可能である。視差分割方式においては、3D表示用のメガネ等を用いることなく、3D表示が可能である。また、表示部7としては、3D表示用の眼鏡等を用いて3D観察を可能にする表示部を採用してもよく、更に、2D表示用の表示部を採用してもよい。
表示制御部11eは、記録部8に記録されている3D画像である右画像及び左画像が再生されると、これらの右画像及び左画像を表示部7の対応する右目用表示領域7R及び左目用表示領域7Lに表示させるように、表示制御を行う。これにより、撮像した3D画像を表示部7に立体表示することができ、撮影者は、表示部7の表示画面上において立体撮影効果を確認することが可能である。なお、表示制御部11eは、左右画像として同一の画像を表示部7に与えることにより、2D表示を行うこともできる。
タッチパネル6は、ユーザが指で指し示した位置に応じた操作信号を発生する。タッチパネル6は、例えば表示部7の表示画面上に設けることができる。この場合には、ユーザは、表示部7の画面上に表示された各種コマンドボタンを、タッチパネル6により指示することができる。タッチパネル6はユーザ操作に基づく操作信号を信号処理及び制御部11に供給する。
本実施の形態においては、簡単な構成で、撮影時のフレーミングを意識することなく、適切な遠近感のある3D画像を簡単に取得するために、信号処理及び制御部11には、主被写体判定部11b、背景判定部11c、距離判定部11d、共通撮影範囲判定部11f、補助画像生成部11g及び合成部11hが設けられている。
なお、信号処理及び制御部11内の各部は、CPUにより実行されるソフトウエアプログラムによって構成されてもよく、ハードウエア回路によって構成されてもよい。さらに、信号処理及び制御部11は、デジタルシグナルプロセッサ(DSP)により構成されていてもよい。
次に、図2乃至図6を参照して、信号処理及び制御部11によるカメラ制御について説明する。図2は3D撮影において得られる3D撮影範囲を説明するための説明図である。
撮影機器1の2つの撮像部2R、2Lは、左右方向において、互いに基線長Bだけ離れて配置されている。なお、図2では、各構成要素を図面上で認識可能な程度の大きさとするため、撮影機器1及びその内部の構成要素のサイズ、基線長B等は、構成要素毎に縮尺を異ならせてある。また、撮像部の撮像方向は変えないものとし、輻輳角はない例で考える。
各撮像部2R,2Lの画角をθとし、撮影機器1から被写体Sまでの距離をLとしたとき、各撮像部の撮影範囲X1は、次の式(1)により算出された値となる。なお、以下の式において*は乗算を示す。
X1=2*(L*tan(θ/2)) ・・・式(1)
また、3D撮影範囲EDは、2つの撮像部2R,2Lにより撮像された2つの画像同士で重なり合うオーバーラップ領域であるので、次の式(2)により算出された値となる。
ED=X1−B ・・・式(2)
例えば、X1=L*tanθに近似できるような画角θ(例えば、35mm判換算で略50mmのレンズに相当する)で、基線長Bが5cmで、距離Lが、自分撮りをする場合の距離、例えば50cm(=l1)、の場合、2つの撮像部2R、2Lによる3D撮影範囲EDは、次のようになる。
ED=X1−B=l1*tanθ−B=50−5=45 ・・・式(3)
すなわち、3D撮影範囲EDは、横方向に45cmしかない。これでは、肩幅が45cmの人の場合は、被写体Sの顔を画面の略中央に位置させなければ、自分の3D撮影が適切にできないことになる。更にこの場合には、撮影範囲の左右方向の略全域に人物が配置され、背景が配置される領域がなく、適切な立体感が得られにくい。
一方、撮影機器1と被写体S間の距離Lが、l1より大きいL2の場合は、図2に示すように、距離l1の場合に比べて、3D撮影範囲EDは、広くなる。すなわち、撮影機器1と被写体S間の距離Lが大きくなれば、3D撮影範囲EDも広くなる。
図3は左右画像による一般的な3D画像の生成方法を説明するための説明図である。
図3(a)は撮像部2として2D撮影用の撮像部を採用し、撮像部2を水平方向に移動させながら、異なる時間に2回の撮影を行うことで右画像及び左画像を得る例を示している。図3(b)は図3(a)の2回の撮像によって得られる画像の一例を説明するためのものであり、破線は撮像範囲25を示している。
図3(b)は天井23u、床23d、左右の壁23l,23r及び奥の壁23oによって囲まれた部屋23内に、人物21が立ち、奥の壁23oに額縁22が飾ってある様子を示している。図3(a)では図面の簡略化のために、人物21を四角の被写体21で表し、額縁22を丸い被写体22で表している。
図3(a)に示すように、撮像部2は撮影レンズ2b及び撮像素子2aによって構成され、撮像部2から人物21(以下、被写体21ともいう),額縁22(以下、被写体22ともいう)までの距離が夫々l1,l2の例である。
いま、図3(a)において、撮像部2が左側の位置L1において被写体21,22を撮像するものとする。図3(c1)はこの場合の撮像画像(左画像)を示しており、被写体21に対応する画像23L及び被写体22に対応する画像24Lが撮像されたことを示している。次に、撮像部2を右側の位置R1に移動させて、基線長x1で右画像を撮像するものとする。右側の位置R1において同一の被写体21,22を撮像した場合の撮像画像(右画像)は図3(c2)によって示される。この場合には、被写体21に対応する画像23R及び被写体22に対応する画像24Rが撮像される。
図3(c1)に示すように、左画像の撮像範囲25L内には、左右の壁のうち右側の壁23rは含まれておらず左側の壁23lの一部のみが撮影されている。逆に、図3(c2)に示すように、右画像の撮像範囲25R内には、左右の壁のうち左側の壁23lは含まれておらず右側の壁23rの一部のみが撮影されている。
図3(c1),(c2)に示す左右画像を遠距離の被写体22の画像部分が一致するように重ねる。図3(d)はこの場合の撮像画像を示している。被写体21の画像23R,23Lの視差に応じて、額縁22に対する人物21の立体感が得られる。なお、近距離の被写体の方が、遠距離の背景に比べて視差の影響を受けやすく、背景は距離が遠くて広い範囲が映るので、視差の影響は小さい。
図3(d)に示すように、左右画像の撮影範囲25L,25Rには、一方の画像にしか存在しない範囲(単独撮影部分)が含まれている。従って、厳密には生成される3D画像は、図3(e)に示すように、撮影範囲25L,25Rの共通の範囲(共通撮影部分)26のみである。
上述した説明から明らかなように、この共通撮影部分は、被写体までの距離や撮影画角、撮影時の輻輳角、視差などに応じてサイズが変化する。従って、このような3D画像を表示部7の表示画面全域に表示するものとすると、正しいアスペクト比が得られない。また、アスペクト比を正しく表示しようとすると、画面の上下や左右が欠けた画像が表示されてしまう。例えば、図3(e)の画像を画面上に表示すると、図3(f)の画像が表示されることが考えられる。図3(f)では、画面の左右に画像が表示されない画像欠落部27が生じている状態を示している。
特に、自分で撮影機器1を持って自分を撮影する、いわゆる自分撮りの場合のように、撮影機器1と被写体間の距離が小さい場合には、被写体左右の背景画像の部分が欠けやすくなり、適切な立体感が得られにくい。
そこで、本実施の形態においては、信号処理及び制御部11は、被写体までの距離が比較的短い場合等においては、被写体の左右に背景画像を付加することで、適切な立体感が得られやすい撮像画像を得るようになっている。
図4は被写体の左右に追加する背景画像を説明するための説明図である。図4(a)は図3(a)に対応した被写体を撮影する状態を示している。図4(b),(c)は横軸に撮影範囲内の水平位置をとり縦軸に(1/距離(L))をとって、撮影範囲内の水平線上の各点における距離分布を示すものである。なお、図4(b),(c)においては、無限遠を0として表わしている。
図4(b)は図4(a)の撮影機器1から被写体21を含む水平線(二点鎖線)上の各点までの距離を示すものである。図4(b)に示すように、撮像範囲内の被写体のうち被写体21までの距離が最も近く、壁23oの背景部分までの距離は比較的大きい。そして、被写体21の左右の背景部分の距離は、いずれの位置においても殆ど差がない。即ち、このような背景部分については立体感を出す必要がない。
そこで、本実施の形態においては、このような距離差が十分に小さい背景部分を画像欠落部に流用することで、画像サイズを被写体までの距離に拘わらず一定にするようになっている。なお、流用する部分は、立体的に見えないが、背景であることは分かり、主被写体の飛出し感を表現するためには問題ない。しかし、図4(c)のように背景に距離変化がある場合には、こうした措置は適当ではない。
信号処理及び制御部11の距離判定部11dは、撮像範囲の各部における撮影機器1からの距離を判定する。距離判定部11dの判定結果は主被写体判定部11b及び背景判定部11cに与えられる。主被写体判定部11bは、距離判定部11dの判定結果に基づいて、撮像範囲中の主被写体を判定する。例えば、主被写体判定部11bは、撮影機器1からの距離が最も小さい物体を主被写体と判定する。
また、背景判定部11cは、距離判定部11dの判定結果に基づいて、撮像範囲中の背景部分を判定する。例えば、背景判定部11cは、撮像範囲中の周囲の被写体であって、撮影機器1からの距離が比較的大きい被写体を背景部分と判定する。更に、3D効果判定部を構成する背景判定部11cは、判定した背景部分において撮影機器1からの距離の変化が小さいか否かに基づいて、背景部分を画像欠落部に流用するか否かを判定する。
図5及び図6は背景部分を画像欠落部に流用するか否かの判定方法の一例を示す説明図である。
背景判定部11cは、主被写体と撮像範囲端部との間の背景部分において、その両端部の距離が略一致している場合には、背景部分において撮影機器1からの距離の変化が小さく、画像欠落部分に流用できるものと判定する。図5の丸印は、判定に用いる位置を示している。
即ち、背景判定部11cは、主被写体の左側の背景部分について、図5の丸印部分同士の距離の差を求める。背景判定部11cは、求めた差が所定の閾値よりも小さい場合には、背景部分において撮影機器1からの距離の変化が小さく、画像欠落部分に流用できるものと判定する。背景判定部11cは、主被写体の右側の背景部分についても、同様にして流用可能か否かの判定を行うことができる。
図5(a)は背景部分において撮影機器1からの距離の変化が小さく、画像欠落部分に流用できると判定される例を示している。また、図5(b)は主被写体の左側の背景部分は、画像欠落部分に流用できると判定される例を示しているが、主被写体の右側の背景部分は、背景部分において撮影機器1からの距離の変化が比較的大きく、画像欠落部分に流用できないと判定される例を示している。
図6は距離の判定方法の一例を示すものである。図6は撮像部2が2つの撮像素子2aを有する場合の手法の一例を示しており、3つの被写体30〜32の撮像素子2a上の結像位置間の距離によって、被写体までの距離が同一か否かを判定するものである。被写体30,31は撮影機器1からの距離が同一であり、左右の撮像素子2aに結像される被写体30,31の像間の距離は、左右の撮像素子2aにおいて等しい距離V1である。また、撮影機器1からの距離が異なる被写体31,32については、左右の撮像素子2aに結像される被写体31,32の像間の距離は、左右の撮像素子2aにおいて異なり、夫々V2,V3である。
背景判定部11cは、各被写体の像間の距離を左右の撮像素子2a間で比較することにより、撮影機器1から2つの位置における被写体までの距離が略一致しているか否かを判定することができる。
3D効果判定部を構成する共通撮影範囲判定部11fは、左右画像の共通撮影範囲を判定する。共通撮影範囲判定部11fは、共通撮影範囲の判定結果に基づいて、画像欠落部分のサイズを求めて、補助画像生成部11gに与える。なお、共通撮影範囲判定部11fは、画像欠落部分のサイズが所定の閾値以内である場合には、補助画像の生成は不要であるものと判定して、画像欠落部分のサイズが0であることを示す情報を出力するようにしてもよい。
例えば、共通撮影範囲判定部11fは、主被写体比率が画面サイズの1/3よりも小さくなると、補助画像の生成は不要であると判定してもよい。例えば、共通撮影範囲判定部11fは、主被写体を顔検出などで判定し、それが占める割合が1/3以下なら、残りの2/3に背景が写って、十分に遠近感が楽しめる可能性が高いものと考えて、背景合成を行わない。例えば、図2の距離l1の被写体は顔が大きく写って背景情報がなくなる可能性が高いが、距離l2の被写体では十分に背景が映り込み、遠近感の情報が得られる。なお、判定閾値のサイズを画面サイズの1/3としたのは、もちろん、視差や輻輳角などに依存するもので、視差が大きい場合は左右画像に差異がなくなって、合成の効果も小さくなることから、例えば画面サイズの1/2にしてもよい。
補助画像生成部11gは、背景判定部11cによって画像欠落部に流用可能であると判定された背景部分に基づく補助画像を生成する。補助画像生成部11gは、共通撮影範囲判定部11fから画像欠落部分に流用する補助画像のサイズを求め、主被写体の左右の背景部分から必要なサイズを切り出して、補助画像を生成する。なお、補助画像生成部11gは、主被写体の左右の背景部分のいずれか一方の背景部分を用いて補助画像を生成すればよい。
合成部11hは、共通撮影範囲の主被写体の画像部分と補助画像とを合成する。これにより、合成部11hからの3D画像は、被写体までの距離に拘わらず、同一サイズとなる。また、主被写体までの距離が近い場合でも、中央の主被写体の左右に背景が追加されるので、立体感のある画像を得ることができる。
なお、共通撮影範囲判定部11fは、画像欠落部分のサイズが所定の閾値以内であるか否かによって、画像欠落部分に相当する背景画像を合成するか否か決定している。画像欠落部分のサイズは、左右画像の視差、即ち、立体感に関係する。即ち、共通撮影範囲判定部11fは、十分な立体感を得られるべき画像であるか否か、即ち、3D効果を判定して画像欠落部分に相当する背景画像を合成するか否かを決定している。従って、画像欠落部分に相当する背景画像を合成するか否かを、共通撮影範囲判定部11fに代えて3D効果判定を行う他の回路によって決定してもよい。
次に、このように構成された実施の形態の動作について図7乃至図11を参照して説明する。図7は撮像部2として2つの撮像素子2aを有する場合の動作フローを示すフローチャートであり、図8は背景部分を画像欠落部分に流用可能であるか否かを判定するためのフローチャートである。また、図11は撮像部2として1つの撮像素子2aのみを有する場合の動作フローを示すフローチャートである。
撮影機器1に電源が投入されると、信号処理及び制御部11は、図7のステップS11において、撮影モードであるか否かを判定する。撮影モードでない場合には、信号処理及び制御部11は、ステップS12において再生モードであるか否かを判定する。
信号処理及び制御部11は、ステップS12において再生モードが指示されたものと判定すると、ステップS12から処理をステップS13に移行して、記録部8によって記録されたファイルの一覧の情報を読み出し、ファイル一覧表示を表示部7に表示させる。
ファイル一覧の表示時に、ユーザがファイル選択を行うと(ステップS14)、信号処理及び制御部11は、選択されたファイルを記録再生制御部11aを介して読み出し、復号化処理を行って、画像信号及び音声信号を再生する(ステップS15)。信号処理及び制御部11は、再生した画像信号及び音声信号を表示部7に与えて表示させる。
なお、ファイル一覧表示時に、終了操作が行われた場合には、信号処理及び制御部11は、処理をステップS14からステップS16に移行して再生モードを終了する。
信号処理及び制御部11は、ステップS11において撮影モードが指示されているものと判定した場合には、ステップS21において3Dモードが指示されているか否かを判定する。3Dモードでない場合には、信号処理及び制御部11は、ステップS22において、表示部7の表示画面上にスルー画を表示する。即ち、信号処理及び制御部11は、撮像部2からの撮像画像を取込み、所定の信号処理を施した後、表示制御部11eによって表示部7に出力する。こうして、表示部7の表示画面上においてスルー画が表示される。
信号処理及び制御部11は、ステップS23において、撮影操作が行われたか否かを判定する。ここで、撮影者がレリーズボタンを押すと、処理はステップS23からステップS24に移行して撮影が行われる。信号処理及び制御部11は、ステップS25において、撮像部2からの撮像画像に対して所定の信号処理を施し符号化して画像ファイル化した後、記録部8に与えて記録する。
信号処理及び制御部11は、ステップS21において撮影者が3Dモードを指示したものと判定した場合には、ステップS31において左右画像を取得する。次のステップS32〜S39は、共通撮影範囲の画像に、背景画像を補助画像として合成する処理を示している。先ず、ステップS32において、背景画像の追加の要否が判定される。
共通撮影範囲判定部11fは、左右画像の共通撮影範囲を判定する。共通撮影範囲判定部11fは、共通撮影範囲の判定結果に基づいて、画像欠落部分のサイズを求める。例えば、共通撮影範囲判定部11fは、画像欠落部分のサイズが所定の閾値以内である場合には、補助画像の生成は不要であるものと判定して、画像欠落部分のサイズが0であることを示す情報を出力する。この場合には、ステップS32〜S39の処理がスキップされる。例えば、共通撮影範囲判定部11fは、主被写体比率が画面の1/3よりも小さい場合には、補助画像の生成は不要であると判定する。
共通撮影範囲判定部11fによって、背景画像の追加が必要と判断されると、距離判定部11dは、被写体までの距離を測距して、距離の計測結果を主被写体判定部11b及び背景判定部11cに出力する。主被写体判定部11bは、距離の計測結果に基づいて主被写体を判定し(ステップS33)、背景判定部11cは、距離の計測結果に基づいて背景部分を判定する(ステップS34)。
次に、背景判定部11cは、ステップS35,S36において、背景部分が画像欠落部分に流用可能であるか否かを判定する。図7の例では先ず左画像の左背景の判定が行われる。図5の説明では、主被写体の左右背景部分の距離変化が比較的小さいか否かによって、背景部分を画像欠落部分に流用可能であるか否かを判定する例について説明した。
更に、本実施の形態においては、図5の判定方法に加えて、図8のフローに従って背景部分を画像欠落部分に流用可能であるか否かを判定する例について説明する。図9及び図10は図8のフローを説明するための説明図である。なお、図5の判定方法を採用することなく、図8のフローのみによって背景部分を画像欠落部分に流用可能であるか否かを判定するようにしてもよい。
背景判定部11cは、図8のステップS51において、左右画像の位置合わせを行う。この場合には、背景部分の画像を一致させる。図9は一致させる画像部分の判定方法を示している。図9は横軸に撮影範囲内の所定の水平線上の位置をとり縦軸に1/L(距離)をとって、水平線上の被写体までの距離の分布を示している。図9は実線が右画像を示し、破線が左画像を示している。実線に示す右画像は、左画像に比べて撮影範囲の右側まで撮像部分が伸び、破線に示す左画像は、右画像に比べて撮影範囲の左側まで撮像部分が伸びている。左右方向の中央が被写体存在部分であり、その左右は背景部分である。
背景判定部11cは、背景部分において右画像と左画像の距離が同様に変化する部分は、同一絵柄の背景部分である可能性が高い。そこで、背景判定部11cは、背景部分の距離が右画像と左画像で同様に変化する部分が一致するように、右画像と左画像との位置合わせを行う。
次に、背景判定部11cは、左右画像のうち一方の画像の欠落している画像部分を、他方の画像を流用して補正する。図10(a)は被写体41〜43の結像位置を示し、図10(b)は図10(a)の各各被写体41〜43の距離分布を示している。図10において実線は右画像を示し、破線は左画像を示している。
図10(b)に示すように、撮像範囲の左端部側には、右画像の画像欠落部が存在し、撮像範囲の右端部側には、左画像の画像欠落部が存在する。左右画像のうちの一方の画像の画像欠落部を他方の画像の画像端部の背景画像によって補正するためには、他方の画像の画像端部に一方の画像の画像欠落部に相当する画像が存在することが必要である。本実施の形態においては、背景部分の両端の距離の変化が比較的小さいと共に、一方の画像の画像欠落部の画素値と他方の画像の画像端部の画素値とが略等しいことによって、他方の画像端部を流用可能であると判定する。
即ち、背景判定部11cは、左画像について主被写体の左側の背景部分の距離変化が比較的小さいか否かを判定した後、次に、右画像の左端部と同じ位置における左画像の画素値を求める(ステップS52)。右画像の左端部の画素値と左画像の対応する位置の画素値とが略同一である場合には、右画像の左端部を延長した画像に相当する画像が左画像の左端部に存在するものと推定することができる。背景判定部11cは、ステップS53において、対応する画素位置の画素同士を比較し、画素値の差分が所定の閾値以内であるか否かを判定する(ステップS54)。
背景判定部11cは、左画像について主被写体の左側の背景部分の距離変化が比較的小さく、右画像の左端部の画素とその画素の同じ位置における左画像の画素値との差が所定の閾値以内である場合には、左画像の左背景部分を右画像の左の画像欠落部分に流用可能であると判定して、処理をステップS37に移行する。
共通撮影範囲判定部11fは、画像欠落部分に対応した補助画像のサイズを補助画像生成部11gに出力しており、補助画像生成部11gは、左画像の左側の背景部分から共通撮影範囲判定部11fの出力に基づくサイズを切り出して補助画像を生成する。この補助画像が合成部11hに与えられ、合成部11hは、右画像の左側に補助画像を合成する(ステップS37)。
背景判定部11cは、ステップS35において、左画像の左側の背景部分の距離変化が比較的大きいものと判定した場合、又はステップS54においてNOの判定になった場合には、次のステップS36において、右画像の右側の背景部分を左画像の右側の画像として流用可能か否かを判定する。即ち背景判定部11cは、先ず、右画像の右側の背景部分における距離変化が比較的小さいか否かを判定する。距離変化が小さい場合には、背景判定部11cは、図8のステップS51〜S54の処理を繰り返す。
即ち、背景判定部11cは、ステップS51において、左右画像の位置合わせを行った後、左画像の右端部と同じ位置における右画像の画素値を求める(ステップS52)。次に、背景判定部11cは、ステップS53において、対応する画素位置の画素同士を比較し、画素値の差分が所定の閾値以内であるか否かを判定する(ステップS54)。
背景判定部11cは、右画像について主被写体の右側の背景部分の距離変化が比較的小さく、左画像の右端部の画素とその画素の同じ位置における右画像の画素値との差が所定の閾値以内である場合には、右画像の右背景部分を左画像の右の画像欠落部分に流用可能であると判定して、処理をステップS38に移行する。
補助画像生成部11gは、右画像の右側の背景部分から共通撮影範囲判定部11fの出力に基づくサイズを切り出して補助画像を生成する。この補助画像が合成部11hに与えられ、合成部11hは、左画像の右側に補助画像を合成する(ステップS38)。
ステップS35,36において、背景判定部11cにおいて左右画像の左右の背景部分の距離変化が比較的大きいと判定された場合、又はステップS54においてNOの判定となった場合には、補助画像の合成は行われない。この場合には、ステップS39において、画像が欠落していることを示す警告表示が表示される。
また、撮像部2として1つの撮像素子2aのみを採用した2D撮影用が用いられた場合には、図11のフローが実施される。図11において図7と同一の手順には同一符号を付して説明を省略する。図11においては、3Dモードが指示されると、信号処理及び制御部11は、ステップS45において撮影操作が行われたか否かを判定する。撮影者によってレリーズボタンが押されると、信号処理及び制御部11は、連続撮影を行う(ステップS46)。撮影者は、撮影機器1を例えば水平に動かしながらレリーズボタンを操作する。これにより、信号処理及び制御部11の連続撮影によって、右画像及び左画像を取得することができる。
ステップS31〜S39における補助画像の生成処理は、図7と同様である。図11においては、補助画像が生成されている場合には、ステップS47において、信号処理及び制御部11は、補助画像を共通撮影範囲の画像に合成し3D表示を行う。ユーザは、3D表示を確認し、所望の3D撮影が行われた判断した場合に、記録操作を行う。これにより、ステップS48からステップS25に処理が移行して、合成部11hからの合成画像が記録再生制御部11aによって記録部8記録される。
このように本実施の形態においては、被写体の背景部分を切り出して補助画像を生成し、共通撮影範囲の画像に補助画像を合成することで3D画像を得ており、被写体までの距離が比較的近い場合など、画面内に背景が写る部分が少ない場合でも、被写体の左右に背景の画像を追加することができ、被主写体が近距離であることを強調し適切な遠近感を得ることができる。また、補助画像とする背景部分の距離変化が比較的小さいか否かによって、背景部分を画像欠落部分に流用するか否かを決定しており、流用によって3D効果や自然さが劣化することを防止することができる。
なお、上記実施の形態においては、左右画像の一方の画像の一方端の画像欠落部に、他方の画像の一方端の背景画像を合成する例について説明したが、左右画像の一方の画像の両方の画像欠落部に、他方の画像の両方の背景画像を合成するようにしてもよい。