JPWO2012002046A1 - 立体パノラマ画像合成装置及び複眼撮像装置並びに立体パノラマ画像合成方法 - Google Patents
立体パノラマ画像合成装置及び複眼撮像装置並びに立体パノラマ画像合成方法 Download PDFInfo
- Publication number
- JPWO2012002046A1 JPWO2012002046A1 JP2012522504A JP2012522504A JPWO2012002046A1 JP WO2012002046 A1 JPWO2012002046 A1 JP WO2012002046A1 JP 2012522504 A JP2012522504 A JP 2012522504A JP 2012522504 A JP2012522504 A JP 2012522504A JP WO2012002046 A1 JPWO2012002046 A1 JP WO2012002046A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- stereoscopic
- unit
- panorama
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/156—Mixing image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Stereoscopic And Panoramic Photography (AREA)
Abstract
本発明の一態様に係る立体パノラマ画像合成方法は、複数の立体画像から得られた複数の左画像及び右画像をそれぞれ同一投影面に射影変換し、左画像間及び右画像間の互いに重複する領域における対応点をそれぞれ検出し、前記複数の立体画像から主要被写体を検出し、前記主要被写体が検出された立体画像を最初の基準となる立体画像として設定し、前記最初の基準となる立体画像から得られた前記射影変換された左画像及び右画像をそれぞれ基準にし、前記基準にした左画像とこれに隣接する左画像との間で検出された対応点同士が一致するように前記隣接する左画像を幾何変形させ、前記基準にした右画像とこれに隣接する右画像との間で検出された対応点同士が一致するように前記隣接する右画像を幾何変形させ、前記最初の基準となる立体画像の左右の画像及び前記幾何変形した左右の画像に基づいて左右のパノラマ画像をそれぞれ合成する工程を含む。
Description
本発明は立体パノラマ画像合成装置及び複眼撮像装置並びに立体パノラマ画像合成方法に係り、特に複眼撮像装置をパンニングして撮影された複数の立体画像に基づいて立体パノラマ画像を合成する技術に関する。
従来、ビデオカメラを三脚等に固定して回転させながら連続撮影し、この連続撮影した画像からスリット状に切り出したスリット画像を結合し、パノラマ画像を合成するパノラマ画像合成方法が知られている(特許文献1)。
この特許文献1に記載の発明は、連続する2つの画像間のオプティカルフローの大きさに基づいてスリット画像の幅を決定して切り出し、この切り出したスリット画像を合成することにより、ビデオカメラの各速度が一定でない場合でも忠実にパノラマ画像を再現できることを特徴としている。
また、特許文献2には、3D空間のパノラマを合成することができる範囲画像化システムが記載されている。
特許文献1の要約書には、連続する撮影画像からスリット状に切り出したスリット画像を結合し、左目視用及び右目視用のパノラマ画像を生成する記載があるが、特許文献1の明細書には、左目視用及び右目視用のパノラマ画像の生成に関する記載は一切ない。
特許文献2に記載の発明は、変調した電磁放射線のビームを場面に照射し、その反射ビーム(最低限3つの画像からなる画像束)をレーザーレーダとしてのカメラが捕捉するものであり、変調した電磁放射線のビームを照射しない通常のカメラとは異なる。
本発明は複眼撮像装置をパンニングさせて撮影された複数の立体画像から立体パノラマ画像を合成することができる立体パノラマ画像合成装置及び複眼撮像装置並びに立体パノラマ画像合成方法を提供することを目的とする。
前記目的を達成するために、本発明の第1の態様は、複眼撮像装置により撮影された左画像及び右画像からなる立体画像であって、前記複眼撮像装置をパンニングさせて撮影方向ごとに撮影された複数の立体画像を取得する画像取得部と、前記取得した複数のそれぞれの立体画像から左画像及び右画像を分離してそれぞれ記憶する記憶部と、前記記憶された複数の左画像及び複数の右画像をそれぞれ同一投影面に射影変換する射影変換部と、前記射影変換された複数の左画像間の互いに重複する領域の対応点を検出するとともに、前記射影変換された複数の右画像間の互いに重複する領域の対応点を検出する対応点検出部と、前記画像取得部により取得された複数の立体画像から主要被写体を検出する主要被写体検出部と、前記複数の立体画像のうちの最初の基準となる立体画像を設定する基準画像設定部であって、前記最初の基準となる立体画像として前記主要被写体検出部により主要被写体が検出された立体画像を前記最初の基準となる立体画像として設定する基準画像設定部と、前記設定された最初の基準となる立体画像の前記射影変換された左画像及び右画像をそれぞれ基準にし、前記基準にした左画像とこれに隣接する左画像との間で前記対応点検出部により検出された対応点同士が一致するように前記隣接する左画像を幾何変形させ、前記基準にした右画像とこれに隣接する右画像との間で前記対応点検出部により検出された対応点同士が一致するように前記隣接する右画像を幾何変形させる画像変形部であって、前記幾何変形させた前記左画像及び右画像に隣接する前記射影変換された左画像及び右画像が存在する場合には、前記幾何変形させた前記左画像及び右画像からなる立体画像を次の基準となる立体画像に設定し、前記射影変換された左画像及び右画像を上記と同様に幾何変形する画像変形部と、前記最初の基準となる立体画像の左画像及び前記幾何変形した左画像に基づいて左用のパノラマ画像を合成するとともに、前記最初の基準となる立体画像の右画像及び前記幾何変形した右画像に基づいて右用のパノラマ画像を合成するパノラマ合成部とを備える立体パノラマ画像合成装置を提供する。
上記第1の態様に係る立体パノラマ画像合成装置は、複眼撮像装置をパンニングさせて撮影された複数の立体画像を取得し、取得した複数のそれぞれの立体画像から左画像及び右画像を分離してそれぞれ記憶する。そして、上記第1の態様に係る立体パノラマ画像合成装置は、前記記憶した複数の左画像及び複数の右画像に基づいてそれぞれ左用のパノラマ画像及び右用のパノラマ画像を生成する。上記第1の態様に係る立体パノラマ画像合成装置は、上記パノラマ画像の合成を良好に行うために、前記記憶した複数の左画像及び複数の右画像を、それぞれ同一投影面に射影変換し、更に射影変換された複数の左画像間、及び複数の右画像間の互いに重複する領域の対応点を検出し、隣接する画像間の対応点が一致するように幾何変形するようにしている。
このとき、前記複数の立体画像のうち主要被写体が検出された立体画像を最初の基準となる立体画像を設定し、この設定された最初の基準となる立体画像の左画像及び右画像をそれぞれ基準にして、基準の画像に隣接する画像を幾何変形させる。即ち、基準となる立体画像の左画像及び右画像については幾何変形を行わず、これに隣接する画像を基準の画像の対応点と一致するように幾何変形する。また、幾何変形した画像に対して隣接する画像が存在する場合には、その幾何変形した画像を次の基準となる画像とし、この基準となる画像の対応点に隣接する画像の対応点が一致するように隣接する画像を幾何変形する。このように基準となる立体画像を基準にして幾何変形を行うため、パノラマ画像を良好に合成することができるとともに、左右のパノラマ画像において、等距離にある被写体の立体感が撮影方向により変化しないようにすることができる。
本発明の第2の態様は、上記第1の態様に係る立体パノラマ画像合成装置において、前記基準画像設定部は、前記主要被写体検出部により主要被写体が検出されなかった場合には前記複数の立体画像のうち撮影順が中央に最も近い立体画像を前記最初の基準となる立体画像として設定するように構成したものである。
上記第2の態様によれば、パノラマ画像の両端位置に対応する画像の幾何変形の累積誤差を小さくすることができる。
本発明の第3の態様は、上記第1又は第2の態様に係る立体パノラマ画像合成装置において、前記左用のパノラマ画像及び右用のパノラマ画像の代表視差量を取得する代表視差量取得部と、前記パノラマ合成部により合成された左用のパノラマ画像及び右用のパノラマ画像のうちの、互いに重複する有効画素を有する領域の画像をそれぞれトリミングするトリミング部とを更に備え、前記トリミング部は、前記代表視差量取得部により取得された代表視差量が、予め設定された視差量となるように前記合成された左用のパノラマ画像及び右用のパノラマ画像のトリミング領域を決定してトリミングするように構成したものである。
これにより、視差量が調整された立体パノラマ画像を得ることができる。
本発明の第4の態様に係る立体パノラマ画像合成装置は、上記第1又は第2の態様において、前記パノラマ合成部により合成された左用のパノラマ画像及び右用のパノラマ画像のうちの、互いに重複する有効画素を有する領域の画像をそれぞれトリミングするトリミング部を更に備える。
本発明の第5の態様は、上記第1から第4のいずれかの態様に係る立体パノラマ画像合成装置において、前記パノラマ合成部は、前記左用のパノラマ画像及び右用のパノラマ画像の合成時に、隣接する画像間の互いに重複する領域の画像を加重平均して合成するように構成したものである。
これにより、パノラマ画像のつなぎ目を滑らかに合成することができる。
本発明の第6の態様に係る立体パノラマ画像合成装置は、上記第3の態様において、前記パノラマ合成部により生成された左用のパノラマ画像と右用のパノラマ画像とを関連づけて記録媒体に記録する記録部を更に備える。
本発明の第7の態様は、上記第6の態様に係る立体パノラマ画像合成装置において、前記左用のパノラマ画像及び右用のパノラマ画像の代表視差量を取得する代表視差量取得部を更に備え、前記記録部は、前記代表視差量取得部により取得された代表視差量を、前記左用のパノラマ画像及び右用のパノラマ画像に関連付けて前記記録媒体に記録するように構成したものである。
本発明の第8の態様に係る立体パノラマ画像合成装置は、上記第7の態様において、前記記録媒体に関連付けて記録された左用のパノラマ画像及び右用のパノラマ画像を出力する出力部であって、前記左用のパノラマ画像及び右用のパノラマ画像に関連付けて記録された代表視差量に基づいて該代表視差量が、予め設定された視差量となるように前記左用のパノラマ画像と右用のパノラマ画像とを相対的に画素ずらしして出力する出力部を更に備える。
本発明の第9の態様は、上記第3、第7又は第8の態様に係る立体パノラマ画像合成装置において、前記代表視差量取得部は、前記基準画像設定部により設定された基準となる立体画像に基づいて前記代表視差量を取得するように構成したものである。
本発明の第10の態様は、上記第3、第7又は第8の態様に係る立体パノラマ画像合成装置において、前記代表視差量取得部は、前記左用のパノラマ画像及び右用のパノラマ画像の画素ごとの対応点を検出する対応点検出部と、前記検出された各対応点の間の視差量を算出する視差量算出部と、前記算出された画素ごとの視差量のヒストグラムを作成するヒストグラム作成部と、前記作成されたヒストグラムに基づいて代表視差量を決定する代表視差量決定部とを備えるように構成したものである。
前記代表視差量の決定方法としては、前記ヒストグラム中の度数がピークとなる視差量であって、最も近側にあるピークとなる視差量を代表視差量とする方法がある。この視差量となる被写体距離に主要被写体が存在することが考えられるからである。また、視差量の度数分布の代表値(代表視差量)として、平均値や中央値を使用するようにしてもよい。
本発明の第11の態様は、前記画像取得部として使用される複数の撮像部と、上記第1から第10のいずれかの態様に係る立体パノラマ画像合成装置とを備える複眼撮像装置を提供する。
本発明の第12の態様に係る複眼撮像装置は、上記第11の態様において、立体パノラマ撮影モードを設定するモード設定部と、前記立体パノラマ撮影モードが選択されると、撮影方向ごとに撮影される立体画像のピント位置、露出条件及びホワイトバランスゲインを、1枚目の撮影時に設定された値に固定する制御部とを更に備える。
これにより、パノラマ画像合成される各画像のピント位置、露出条件及びホワイトバランスゲインを一定にすることができる。
本発明の第13の態様は、複眼撮像装置により撮影された左画像及び右画像からなる立体画像であって、前記複眼撮像装置をパンニングさせて撮影方向ごとに撮影された複数の立体画像を取得する工程と、前記取得した複数のそれぞれの立体画像から左画像及び右画像を分離してそれぞれ記憶する工程と、前記記憶された複数の左画像及び複数の右画像をそれぞれ同一投影面に射影変換する工程と、前記射影変換された複数の左画像間の互いに重複する領域の対応点を検出するとともに、前記射影変換された複数の右画像間の互いに重複する領域の対応点を検出する対応点検出工程と、前記画像取得部により取得された複数の立体画像から主要被写体を検出する工程と、前記複数の立体画像のうちの最初の基準となる立体画像を設定する工程であって、前記最初の基準となる立体画像として前記主要被写体が検出された立体画像を前記最初の基準となる立体画像として設定する工程と、前記設定された最初の基準となる立体画像の前記射影変換された左画像及び右画像をそれぞれ基準にし、前記基準にした左画像とこれに隣接する左画像との間で前記対応点検出工程により検出された対応点同士が一致するように前記隣接する左画像を幾何変形させ、前記基準にした右画像とこれに隣接する右画像との間で前記対応点検出工程により検出された対応点同士が一致するように前記隣接する右画像を幾何変形させる工程であって、前記幾何変形させた前記左画像及び右画像に隣接する前記射影変換された左画像及び右画像が存在する場合には、前記幾何変形させた前記左画像及び右画像からなる立体画像を次の基準となる立体画像に設定し、前記射影変換された左画像及び右画像を上記と同様に幾何変形する工程と、前記最初の基準となる立体画像の左画像及び前記幾何変形した左画像に基づいて左用のパノラマ画像を合成するとともに、前記最初の基準となる立体画像の右画像及び前記幾何変形した右画像に基づいて右用のパノラマ画像を合成する工程とを含む立体パノラマ画像合成方法を提供する。
本発明によれば、複眼撮像装置をパンニングさせて撮影された複数の画像から立体パノラマ画像を合成することができ、特に左右のパノラマ画像において、等距離にある被写体の立体感が撮影方向により変化しないように良好にパノラマ画像合成することができる。
以下、添付図面にしたがって本発明に係る立体パノラマ画像合成装置及び複眼撮像装置並びに立体パノラマ画像合成方法の実施の形態について説明する。
[複眼撮像装置の外観]
図1は本発明に係る複眼撮像装置の外観図であり、図1Aは複眼撮像装置1を正面斜め上方から見た斜視図であり、図1Bは複眼撮像装置1を背面から見た斜視図である。
図1は本発明に係る複眼撮像装置の外観図であり、図1Aは複眼撮像装置1を正面斜め上方から見た斜視図であり、図1Bは複眼撮像装置1を背面から見た斜視図である。
図1Aに示すように複眼撮像装置1には、左右の撮像部L,Rが設けられている。以下、これらの撮像部を第1の撮像部Lと第2の撮像部Rと記載して区別することにする。
第1の撮像部Lと第2の撮像部Rとは、立体視用の画像信号を取得することが可能なように並べて配置されている。これらの撮像部L,Rによって左用と右用の画像信号がそれぞれ生成される。図1A及び図1Bの複眼撮像装置1の上面にある電源スイッチ10Aが操作され、撮影モードダイヤル10Bが、例えば、立体モードというモードにセットされてシャッタボタン10Cが操作されると、立体視用の画像データが双方の撮像部L,Rで生成される。
この実施形態の複眼撮像装置1が備えるシャッタボタン10Cは半押しと全押しとの2つの操作態様を有している。複眼撮像装置1では、シャッタボタン10Cが半押しされたときに露出調整やピント調整が実施され、全押しされたときに撮影が実施される。また、被写界輝度が暗いときには被写体に向けてフラッシュを発光するフラッシュ発光窓WDが撮像部Lの上方に設けられている。
また、図1Bに示すように、複眼撮像装置1の背面には3次元表示が可能な液晶モニタDISPが設けられており、この液晶モニタDISPには双方の撮像部L,Rが捉えている同一の被写体が立体画像となって表示される。尚、液晶モニタDISPとしては、レンチキュラレンズやパララックスバリアを使用するものや、偏光メガネ、液晶シャッタメガネなどの専用メガネをかけることで右画像と左画像とを個別に見ることができるものなどが適用できる。更に、ズームスイッチ10D、メニュー/OKボタン10E、十字キー10Fなどの操作子も配設されている。以降においては、電源スイッチ10A、モードダイヤル10B、シャッタボタン10C、ズームスイッチ10D、メニュー/OKボタン10E、十字キー10Fなどを総称して操作部10と記載することがある。
[複眼撮像装置の内部構成]
図2は図1の複眼撮像装置1の内部構成を示すブロック図である。図2を参照して複眼撮像装置1の内部の構成を説明する。
図2は図1の複眼撮像装置1の内部構成を示すブロック図である。図2を参照して複眼撮像装置1の内部の構成を説明する。
この複眼撮像装置1の動作は、メインCPU(central processing unit)100によって統括的に制御される。
メインCPU100にはバスBusを介してROM(read−only memory)101が接続されており、そのROM101の中にはこの複眼撮像装置1が動作するのに必要なプログラムが格納されている。このプログラムの手順にしたがってメインCPU100は、操作部10からの指令にしたがってこの複眼撮像装置1の動作を統括的に制御する。
操作部10のモードダイヤル10Bは、オート撮影モード、マニュアル撮影モード、人物、風景、夜景等のシーンポジション、動画を撮影する動画モード、及び本発明に係る立体(3D)パノラマ撮影モードを選択する選択操作のための操作部材である。また、操作部10の図示しない再生ボタンは、撮影記録した静止画又は動画を液晶モニタDISPに表示させる再生モードに切り替えるためのボタンである。メニュー/OKボタン10Eは、液晶モニタDISPの画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作キーである。十字キー10Fは、上下左右の4方向の指示を入力する操作部であり、メニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示したりするボタン(カーソル移動操作のための操作部材)として機能する。また、十字キー10Fの上/下キーは撮影時のズームスイッチあるいは再生モード時の再生ズームスイッチとして機能し、左/右キーは再生モード時のコマ送り(順方向/逆方向送り)ボタンとして機能する。
まず、図1に示した操作部10内の電源スイッチ10Aが操作されると、メインCPU100は、電源制御部1001を制御してバッテリBtからの電力を、電源制御部1001を介して複眼撮像装置1の各部に供給させ、この複眼撮像装置1を動作状態に移行させる。こうしてメインCPU100は撮影処理を開始する。尚、AF検出部120、AE/AWB検出部130、画像入力コントローラ114A、デジタル信号処理部116A、3D画像生成部117は、DSP(Digital Signal Processor)等のプロセッサにより構成することができ、メインCPU100は、そのDSPと連携して処理を実行するとする。
ここで、先に図1で説明した第1の撮像部Lと第2の撮像部Rの内部の構成を、図2を参照して説明する。尚、第1の撮像部Lの各構成部材には‘第1の’という文言を付し、第2の撮像部Rの各構成部材には‘第2’のという文言を付して説明する。
第1の撮像部Lには、第1のフォーカスレンズFLAを含む第1の撮影光学系110Aと、その第1のフォーカスレンズFLAを光軸方向に移動させる第1のフォーカスレンズ駆動部(以降、第1のFレンズ駆動部という)104Aと、被写体が第1の撮影光学系で結像されてなる被写体光を受光して、その被写体を表わす画像信号を生成する第1の撮像素子111Aとが設けられている。この第1の撮影光学系110Aには、他に第1の絞りIAと、この第1の絞りIAの開口径を変更する第1の絞り駆動部105Aとが設けられている。
また、第1の撮影光学系100Aはズームレンズになっており、そのズームレンズを所定の焦点距離にする制御を行うZレンズ駆動部103Aが設けられている。尚、図2には、撮影光学系全体がズームレンズであることが1枚のレンズZLで模式的に示されている。
一方、第2の撮像部Rにも上記第1の撮像部Lと同じように、第2のフォーカスレンズFLBを含む撮影光学系と、第2のフォーカスレンズFLBを光軸に方向に移動させる第2のフォーカスレンズ駆動部(以降、第2のFレンズ駆動部という)104Bと、被写体が第2の撮影光学系で結像されてなる被写体光を受光して、その被写体を表わす画像信号を生成する第2の撮像素子111Bとが設けられている。
これらの第1の撮像部Lと第2の撮像部Rとで立体視用の画像信号、つまり第1の撮像部Lでは左用の画像信号が生成され、第2の撮像部Rでは右用の画像信号がそれぞれ生成される。
第1の撮像部Lと第2の撮像部Rとは左用の画像信号を生成するか、右用の画像信号を生成するかの違いだけで構成が同じであり、第1のA/D変換部113Aと第2のA/D変換部113Bで双方の撮像部の画像信号がデジタル信号に変換されてバスBusに導かれた後の信号処理も同じである。したがって、以下、第1の撮像部Lについて画像信号の流れに沿ってその構成を説明していく。
まず、第1の撮像部Lが捉えている被写体をそのままスルー画として液晶モニタDISP上に表示する際の動作から説明する。
操作部10内の電源スイッチ10Aが操作されたことを受けてメインCPU100は、電源制御部1001を制御し、各部にバッテリBtからの電力を供給させてこの複眼撮像装置1を動作状態に移行させる。
メインCPU100は、まず、Fレンズ駆動部104Aと絞り駆動部105Aとを制御して露出及びピントの調整を開始する。更に、タイミングジェネレータ(TG)106Aに指示して撮像素子111Aに電子シャッタによる露光時間を設定させ、例えば、1/60秒ごとに撮像素子111Aからアナログ信号処理部112Aに画像信号を出力させる。
アナログ信号処理部112Aでは、TG106Aからのタイミング信号の供給を受け、撮像素子111Aからの1/60秒ごとの画像信号の供給を受けてノイズの低減処理等が行われる。ノイズの低減処理が行われたアナログの画像信号は、次段のA/D変換部113Aへと供給される。このA/D変換部113Aは、TG106Aからのタイミング信号に同期して、1/60秒ごとにアナログの画像信号からデジタルの画像信号への変換処理を行う。こうしてA/D変換部113Aで変換され出力されてくるデジタルの画像信号は、画像入力コントローラ114Aによって1/60秒ごとにバスBusに導かれる。このバスBusに導かれた画像信号は、SDRAM(synchronous dynamic random access memory)115に記憶される。撮像素子111Aからは1/60秒ごとに画像信号が出力されるので、このSDRAM115の内容は1/60秒ごとに書き換えられることになる。
このSDRAM115に記憶された画像信号は、AF検出部120、AE/AWB検出部130、及びデジタル信号処理部116Aを構成するDSPによって1/60秒ごとにそれぞれ読み出される。
AF検出部120では、メインCPU100がFレンズ駆動部104Aを制御してフォーカスレンズFLAを移動させている最中の1/60秒ごとに、フォーカスエリア内の画像信号の高周波成分を抽出し、その高周波成分を積算して画像のコントラストを示すAF評価値を算出する。メインCPU100は、AF検出部120により算出されたAF評価値を取得し、AF評価値が最大になるレンズ位置(合焦位置)にFレンズ駆動部104Aを介して第1のフォーカスレンズFLAを移動させる。このため、第1の撮像部Lがどの方向に向けられてもすぐにピントが調整されて、液晶モニタDISP上には、ほぼいつでもピントのあった被写体が表示される。
また、AE/AWB検出部130では、被写体輝度の検出とデジタル信号処理部116A内のホワイトバランスアンプに設定するゲインの算出が1/60秒ごとに行われる。メインCPU100は、このAE/AWB検出部130の輝度の検出結果に応じて絞り駆動部105Aを制御して絞りIAの開口径を変更させる。またデジタル信号処理部116Aは、AE/AWB検出部130からの検出結果を受けてホワイトバランスアンプのゲインを設定する。
このデジタル信号処理部116Aでは、表示に適した画像信号になるように処理が行われ、そのデジタル信号処理部116Aの信号処理により表示に適したものに変換された画像信号が、3D画像生成部117へと供給されてその3D画像生成部117で表示用の右用の画像信号が生成され、生成された右用の画像信号がVRAM(video random access memory)118に記憶される。
ここまでの動作と同じ動作が、同じタイミングで第2の撮像部Rによっても行われる。したがって、VRAM118には、右用と左用との2種類の画像信号が記憶されることになる。
メインCPU100は、表示制御部119にVRAM118内の右用の画像信号と左用の画像信号とを転送して液晶モニタDISP上に画像を表示させる。図1の液晶モニタDISPに右用の画像信号と左用の画像信号とが表示されると、人の眼には液晶モニタDISP上の画像が立体的に見えるようになる。第1、第2の撮像素子111A,111Bからは1/60秒ごとに画像信号を出力させ続けているので、VRAM118内の画像信号は1/60秒ごとに書き換えられ、液晶モニタDISP上の立体画像も1/60秒ごとに切り替えられて表示され、立体画像が動画となって表示される。
ここで、液晶モニタDISP上の被写体が参照され操作部10の中のシャッタボタン10Cが半押し操作されると、メインCPU100は、AE/AWB検出部130でシャッタボタン10Cが全押しされる直前に検出されたAE値を受け取り、第1、第2の絞り駆動部105A,105Bを介して第1、第2の絞りIA、IBをAE値に応じた絞り径にさせるとともに、第1のFレンズ駆動部104A、第2のFレンズ駆動部104Bを介して第1のフォーカスレンズFLA、第2のフォーカスレンズFLBを所定のサーチ範囲で移動させながら、AF検出部120によりAF評価値の算出を行わせる。
メインCPU100は、AF検出部120により算出されたAF評価値に基づいてAF評価値が最大になる第1のフォーカスレンズFLAのレンズ位置、及び第2のフォーカスレンズFLBのレンズ位置を検出し、この第1のレンズ位置、第2のレンズ位置に第1のフォーカスレンズFLA、第2のフォーカスレンズFLBを移動させる。
そして、シャッタボタン10Cが全押しされると、メインCPU100は、第1、第2のTGl06A,106Bを介して第1の撮像素子111A,第2の撮像素子111Bに所定のシャッタ速度だけ露光させ、静止画の撮影を行わせる。メインCPU100は、電子シャッタがオフされたタイミングで第1、第2の撮像素子111A,111Bから画像信号を第1、第2のアナログ信号処理部112A,112Bへと出力させ、第1、第2のアナログ信号処理部112A,112Bにノイズの低減処理を行わせる。その後、第1、第2のA/D変換部113A,113Bでアナログの画像信号をデジタルの画像信号に変換させる。
ここで、メインCPU100の指示にしたがって、第1、第2の画像入力コントローラ114Aが、第1、第2のA/D変換部113A,113Bで変換されたデジタルの画像信号をバスBusを経由して一旦SDRAM115に記憶させる。その後、デジタル信号処理部116A,116BがSDRAM115の画像信号を読み出し、ホワイトバランス補正、ガンマ補正、単板CCD(charge−coupled device)のカラーフィルタ配列に伴うR(red),G(green),B(blue)などの色信号の空間的なズレを補間して各色信号の位置を合わせる同時化処理(色補間処理)、輪郭補正、輝度・色差信号(YC信号)生成等を含む画像処理を行い、3D画像生成部117に送出する。
続いて、メインCPU100は、3D画像生成部117内の右用の画像信号と左用の画像信号を、バスBusを使って圧縮・伸張処理部150に供給する。メインCPU100は、この圧縮・伸張処理部150に画像データの圧縮を行わせた後、その圧縮された画像データをメディア制御部にバスBusを使って転送するとともに、その圧縮や撮影に係るヘッダ情報をメディア制御部160に供給してメディア制御部160に所定形式の画像ファイル(例えば、3Dの静止画は、MP(マルチピクチャ)フォーマットの画像ファイル)を生成させメモリカード161にその画像ファイルを記録させる。
操作部10のモードダイヤル10Bにより3Dパノラマ撮影モードが選択されると、メインCPU100は、3Dパノラマ画像合成に必要な複数の立体画像を撮影するための処理を行う。また、3D画像生成部117は、3Dパノラマ撮影モード時に撮影される複数の3D画像(複数の左画像、複数の右画像)から3Dパノラマ画像を生成する画像処理部として機能する。
尚、3Dパノラマ撮影モード時の複眼撮像装置1の動作の詳細については後述する。また、図2には、フラッシュ制御部180とそのフラッシュ制御部180からの指示を受けて図1の発光窓WDからフラッシュを発光するフラッシュ181や現在の時刻を検知するための時計部Wが図示されている。
<3Dパノラマ合成用の3D画像の取得>
3Dパノラマ合成用の3D画像を撮影する場合には、操作部10のモードダイヤル10Bにより3Dパノラマ撮影モードを選択する。
3Dパノラマ合成用の3D画像を撮影する場合には、操作部10のモードダイヤル10Bにより3Dパノラマ撮影モードを選択する。
その後、図3に示すように複眼撮像装置1により1枚目の3D画像を撮影する(図3A)。3Dパノラマ撮影モードが設定されている場合には、メインCCD100は、以後の所定枚数の3D画像の撮影が終了するまで、1枚目の3D画像に使用したピント位置、露出条件及びホワイトバランスゲインを固定するように制御する。
撮影者は、1枚目の3D画像の撮影が終了すると、複眼撮像装置1をパンニングさせて撮影方向を変え、2枚目の3D画像の撮影を行う(図3B)。
このとき、撮影者は、図4に示すように1枚目の3D画像と2枚目の3D画像との一部が重なるように複眼撮像装置1の撮影方向を調整して撮影を行う。メインCCD100は、3Dパノラマ撮影モード時には、先に撮影された3D画像の一部を、液晶モニタDISPに表示させ、次の撮影時の撮影方向のアシストを行うようにすることが好ましい。即ち、撮影者は、液晶モニタDISPに表示されている先に撮影された3D画像の一部と、スルー画とを見ながら撮影方向を決定することができる。
上記のようにして予め設定された枚数分、又はデフォルトで設定された枚数分の3D画像の撮影が終了すると、メインCCD100は、3Dパノラマ合成用の3D画像の撮影が終了したと判断し、以降の3Dパノラマ画像合成の処理に移行する。
[第1の実施形態]
次に、3Dパノラマ画像合成の第1の実施形態について説明する。
次に、3Dパノラマ画像合成の第1の実施形態について説明する。
図5は3Dパノラマ画像合成の第1の実施形態を示すフローチャートであり、図6Aから図6Iは各処理工程での合成処理の概要を示す図である。
図5において、上記のようにして3Dパノラマ撮影モードでの撮影により複数の立体画像(3D画像)が取得されると(ステップS10)、これらの複数の3D画像は左画像と右画像に分離してSDRAM115に一次保存される(ステップS12)。尚、図6には、3D画像の撮影総枚数が3枚の場合に関して示されており、3枚の左画像L1,L2,L3と3枚の右画像R1,R2,R3とがSDRAM115に一次保存される(図6A)。
3D画像生成部117は、SDRAM115に一次保存され3枚の左画像L1,L2,L3及び3枚の右画像R1,R2,R3について、それぞれ同一投影面(例えば、円筒面)に射影変換し、射影変換した3枚の左画像L1,L2,L3及び3枚の右画像R1,R2,R3を再びSDRAM115に保存させる(ステップS14、図6B)。この射影変換により、3枚の左画像L1,L2,L3及び3枚の右画像R1,R2,R3のパノラマ合成が可能になる。
次に、射影変換された3枚の左画像L1,L2,L3の隣接する画像間の重複する領域における対応点を検出し、同様に3枚の右画像R1,R2,R3の隣接する画像間の重複する領域における対応点を検出する(ステップS16、図6C)。尚、対応点の検出方法としては、例えば、Harrisの手法等を用いて特徴点を抽出し、KLT(Kanade Lucas Tomasi)法等を用いて特徴点追尾を行う方法が挙げられる。
対応点が検出できない場合、または検出された対応点の数が、後述する幾何変形のパラメータを特定するための個数以下の場合には、合成不可として合成処理を中止する。
続いて、3枚の3D画像から主要被写体が写っている3D画像を検出し、この主要被写体が写っている3D画像を、基準となる3D画像(左画像、右画像)として設定する(ステップS18、図6D)。即ち、主要被写体(例えば、顔)を検出し、顔の数が最も多い3D画像、又は顔のサイズが最も大きい3D画像を、基準となる3D画像として設定する。
尚、主要被写体が検出できない場合には、複数の3D画像のうちの中央に一番近い画像を基準となる3D画像として設定する。例えば、3D画像の撮影総枚数がn枚の場合、n/2(n:偶数)枚目、又は(n+1)/2(n:奇数)枚目の3D画像を基準となる3D画像として設定する。図6Aから図6Iに示す例では、3D画像の撮影総枚数が3枚であるため、主要被写体が各3D画像から検出できない場合には、撮影順が2枚目の3D画像(左画像L2、右画像R2)が基準となる3D画像として設定される(図6D)。
次に、ステップS18で設定された基準となる左画像、右画像(図6Aから図6Iの例では、左画像L2、右画像R2)を基準にして、それに隣接する左画像L1,L3、右画像R1,R3を、ステップS16で検出した対応点に基づいてアフィン変換する(ステップS20)。
即ち、基準となる左画像L2と左画像L1との重複する領域から検出された対応点に基づいて左画像L1の対応点が、左画像L2の対応点に一致するように左画像L1をアフィン変換し、また、基準となる左画像L2と左画像L3との重複する領域から検出された対応点に基づいて左画像L3の対応点が、左画像L2の対応点に一致するように左画像L3をアフィン変換する(図6E)。
同様に、基準となる右画像R2と右画像R1との重複する領域から検出された対応点に基づいて右画像R1の対応点が、右画像R2の対応点に一致するように右画像R1をアフィン変換し、また、基準となる右画像R2と右画像R3との重複する領域から検出された対応点に基づいて右画像R3の対応点が、右画像R2の対応点に一致するように右画像R3をアフィン変換する(図6F)。上記アフィン変換により画像の平行移動、回転、拡大縮小が行われる。
尚、図6Aから図6Iに示した例では、撮影総枚数が3枚であるが、例えば、撮影総枚数が4枚で、4枚目の左画像L4をアフィン変換する場合には、アフィン変換された左画像L3を基準にして、この左画像L3と左画像L4との重複する領域から検出された対応点に基づいて左画像L4の対応点が、アフィン変換された左画像L3の対応点に一致するように左画像L4をアフィン変換する。
また、右画像R1,R3をアフィン変換する際には、既にアフィン変換された左画像L1、L3との視差量を考慮してアフィン変換することが好ましい。即ち、3Dパノラマ合成用のオリジナルの3D画像の左画像L1、L3と右画像のR1,R3との間で視差量が0となる特徴点を求める。そして、アフィン変換された左画像L1、L3の特徴点(前記視差量が0となる特徴点)と、右画像R1,R3の対応する特徴点(前記視差量が0となる特徴点)とが一致するように、左画像L1、L3をアフィン変換する。
上記のようにして基準となる左画像L2とアフィン変換した左画像L1,L2とから左用のパノラマ画像を合成するが、この合成時に際して隣接する画像間の互いに重複する領域の画像を加重平均して合成する(ステップS22)。即ち、図6Eに示すように、左画像L1と左画像L2とを合成する場合、左画像L1の画素値への重みづけ係数をαL1,左画像L1の画素値への重みづけ係数をαL2に設定し、両画像の重複する領域の画像を、前記重みづけ係数αL1、αL2を使用して加重平均する。また、基準となる右画像R2とアフィン変換した右画像R1,R2とから右用のパノラマ画像を合成する場合も同様に、隣接する画像間の互いに重複する領域の画像を加重平均して合成する。
次に、上記のようにして合成された左用のパノラマ画像及び右用のパノラマ画像の有効画素のある領域のアンド条件を満たすトリミング領域を決定し、決定したトリミング領域の画像を切り出す(トリミングする)(ステップS24、図6G)。尚、前記決定したトリミング領域の大きさが一定以下の場合には、撮影失敗として合成処理を中心する。
上記のようにしてトリミングされた左用のパノラマ画像と右用のパノラマ画像とは、3Dパノラマ画像として関連付けられて記録媒体(メモリカード161)に記録される(ステップS26)。
例えば、図6Hに示すように左用のパノラマ画像と右用のパノラマ画像とを画像ファイルにサイドバイサイド形式(左用のパノラマ画像と右用のパノラマ画像とを並べて格納する形式)として格納し、また、画像ファイルのヘッダ領域に、ステップS18で設定された基準の3D画像の代表視差量(例えば、主要被写体の視差量)を書き込む。このようにして作成した画像ファイルをメモリカード161に記録する。
上記のようにして作成された3Dパノラマ画像は、図6Iに示すように外部の3Dディスプレイ200に表示させることができる。
また、この複眼撮像装置1は、外部の3Dディスプレイに3D画像や上記3Dパノラマ画像を表示させる出力デバイス(通信インターフェース等)を備えている。3Dパノラマ画像を表示させる際に、画像ファイルのヘッダ領域に代表視差量としてnピクセルが記録されている場合には、R用のパノラマ画像の先頭アドレスを左用のパノラマ画像に対してnピクセル分ずらすことにより、代表視差量(主要被写体の視差量)が0になるように視差調整された3Dパノラマ画像を表示させることができる。また、スクロール再生させる場合には、その一部を切り出して拡大表示させる。切り出し位置を移動させることにより3Dパノラマ画像をスクロールさせることができる。
[第2の実施形態]
次に、3Dパノラマ画像合成の第2の実施形態について説明する。
次に、3Dパノラマ画像合成の第2の実施形態について説明する。
図7は3Dパノラマ画像合成の第2の実施形態を示すフローチャートであり、図8Aから図8Jは各処理工程での合成処理の概要を示す図である。尚、図5に示した第1の実施形態と共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。また、図8Aから図8Jでは、図6Aから図6Iに比べて図8Gが追加され、その他は図6Aから図6Iと同様である。
図7に示す第2の実施形態では、ステップS30、S32の処理が追加されている点で、第1の実施形態と相違する。
ステップS30では、パノラマ合成された左用のパノラマ画像と右用のパノラマ画像との画像全体で画素ごとに対応点を検出し、前記検出された各対応点の間の視差量を算出する(図8G)。
続いて、前記算出した画素ごとの視差量のヒストグラムを作成し、作成したヒストグラムに基づいて代表視差量を決定する(ステップS32)。図9に画素ごとの視差量のヒストグラムの一例を示す。
図9に示すヒストグラムでは、度数のピークが2箇所存在する。最も遠側にある視差量のピークは、背景の視差量と考えられ、最も近側にあるピークは、主要被写体の視差量と考えられる。そこで、前記ヒストグラムに基づいて代表視差量を決定する方法として、最も近側にあるピークとなる視差量を代表視差量とすることができる。尚、ヒストグラムに基づいて代表視差量を決定する方法は、上記の方法に限らず、例えば、平均値や中央値を使用するようにしてもよい。
その後の処理は、第1の実施形態と同様に行われる。尚、ステップS26において、記録媒体(メモリカード161)に記録する画像ファイルのヘッダ領域には、ステップS32で決定した代表視差量を書き込む。
[その他]
本発明に係る複眼撮像装置は、3Dパノラマ合成用の複数の3D画像を撮影して取得するとともに、その取得した複数の3D画像から3Dパノラマ画像を合成する3Dパノラマ画像合成機能を内蔵している。本発明に係る3Dパノラマ画像合成装置は、撮影機能を有しないパーソナルコンピュータ等の外部機器により構成されるようにしてもよい。この場合、一般の複眼撮像装置により撮影された3Dパノラマ合成用の複数の3D画像が3Dパノラマ画像合成装置に入力され、3Dパノラマ画像の合成が行われる。
本発明に係る複眼撮像装置は、3Dパノラマ合成用の複数の3D画像を撮影して取得するとともに、その取得した複数の3D画像から3Dパノラマ画像を合成する3Dパノラマ画像合成機能を内蔵している。本発明に係る3Dパノラマ画像合成装置は、撮影機能を有しないパーソナルコンピュータ等の外部機器により構成されるようにしてもよい。この場合、一般の複眼撮像装置により撮影された3Dパノラマ合成用の複数の3D画像が3Dパノラマ画像合成装置に入力され、3Dパノラマ画像の合成が行われる。
また、この実施形態では、画像ファイルのヘッダ領域に3Dパノラマ画像の代表視差量を記録するようにしたが、本発明はこれに限定されるものではない。パノラマ合成した左用のパノラマ画像及び右用のパノラマ画像からトリミング領域を決定してトリミングする際に、前記代表視差量が所望の視差量(例えば、視差量が0)になるように前記トリミング領域を決定してトリミングするようにしてもよい。
尚、本発明は、パーソナルコンピュータ等に上記3Dパノラマ画像の合成処理を行わせるコンピュータ読取可能なプログラム及び該プログラムが格納された記録媒体として提供することも可能である。
更に、本発明は上述した実施の形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
1…複眼撮像装置、10…操作部、100…メインCPU、101…ROM、102…フラッシュROM、110A…第1の撮影光学系、110B…第2の撮影光学系、111A…第1の撮像素子、111B…第2の撮像素子、115…SDRAM、117…3D画像生成部、119…表示制御部、160…メディア制御部、161…メモリカード、L…第1の撮像部、R…第2の撮像部、DISP…液晶モニタ
Claims (13)
- 複眼撮像装置により撮影された左画像及び右画像からなる立体画像であって、前記複眼撮像装置をパンニングさせて撮影方向ごとに撮影された複数の立体画像を取得する画像取得部と、
前記取得した複数のそれぞれの立体画像から左画像及び右画像を分離してそれぞれ記憶する記憶部と、
前記記憶された複数の左画像及び複数の右画像をそれぞれ同一投影面に射影変換する射影変換部と、
前記射影変換された複数の左画像間の互いに重複する領域の対応点を検出するとともに、前記射影変換された複数の右画像間の互いに重複する領域の対応点を検出する対応点検出部と、
前記画像取得部により取得された複数の立体画像から主要被写体を検出する主要被写体検出部と、
前記複数の立体画像のうちの最初の基準となる立体画像を設定する基準画像設定部であって、前記最初の基準となる立体画像として前記主要被写体検出部により主要被写体が検出された立体画像を前記最初の基準となる立体画像として設定する基準画像設定部と、
前記設定された最初の基準となる立体画像の前記射影変換された左画像及び右画像をそれぞれ基準にし、前記基準にした左画像とこれに隣接する左画像との間で前記対応点検出部により検出された対応点同士が一致するように前記隣接する左画像を幾何変形させ、前記基準にした右画像とこれに隣接する右画像との間で前記対応点検出部により検出された対応点同士が一致するように前記隣接する右画像を幾何変形させる画像変形部であって、前記幾何変形させた前記左画像及び右画像に隣接する前記射影変換された左画像及び右画像が存在する場合には、前記幾何変形させた前記左画像及び右画像からなる立体画像を次の基準となる立体画像に設定し、前記射影変換された左画像及び右画像を上記と同様に幾何変形する画像変形部と、
前記最初の基準となる立体画像の左画像及び前記幾何変形した左画像に基づいて左用のパノラマ画像を合成するとともに、前記最初の基準となる立体画像の右画像及び前記幾何変形した右画像に基づいて右用のパノラマ画像を合成するパノラマ合成部と、
を備える立体パノラマ画像合成装置。 - 前記基準画像設定部は、前記主要被写体検出部により主要被写体が検出されなかった場合には前記複数の立体画像のうち撮影順が中央に最も近い立体画像を前記最初の基準となる立体画像として設定する、請求項1に記載の立体パノラマ画像合成装置。
- 前記左用のパノラマ画像及び右用のパノラマ画像の代表視差量を取得する代表視差量取得部と、
前記パノラマ合成部により合成された左用のパノラマ画像及び右用のパノラマ画像のうちの、互いに重複する有効画素を有する領域の画像をそれぞれトリミングするトリミング部とを更に備え、
前記トリミング部は、前記代表視差量取得部により取得された代表視差量が、予め設定された視差量となるように前記合成された左用のパノラマ画像及び右用のパノラマ画像のトリミング領域を決定してトリミングする、請求項1又は2に記載の立体パノラマ画像合成装置。 - 前記パノラマ合成部により合成された左用のパノラマ画像及び右用のパノラマ画像のうちの、互いに重複する有効画素を有する領域の画像をそれぞれトリミングするトリミング部を更に備える請求項1又は2に記載の立体パノラマ画像合成装置。
- 前記パノラマ合成部は、前記左用のパノラマ画像及び右用のパノラマ画像の合成時に、隣接する画像間の互いに重複する領域の画像を加重平均して合成する、請求項1から4のいずれかに記載の立体パノラマ画像合成装置。
- 前記パノラマ合成部により生成された左用のパノラマ画像と右用のパノラマ画像とを関連づけて記録媒体に記録する記録部を更に備える請求項3に記載の立体パノラマ画像合成装置。
- 前記左用のパノラマ画像及び右用のパノラマ画像の代表視差量を取得する代表視差量取得部を更に備え、
前記記録部は、前記代表視差量取得部により取得された代表視差量を、前記左用のパノラマ画像及び右用のパノラマ画像に関連付けて前記記録媒体に記録する、請求項6に記載の立体パノラマ画像合成装置。 - 前記記録媒体に関連付けて記録された左用のパノラマ画像及び右用のパノラマ画像を出力する出力部であって、前記左用のパノラマ画像及び右用のパノラマ画像に関連付けて記録された代表視差量に基づいて該代表視差量が、予め設定された視差量となるように前記左用のパノラマ画像と右用のパノラマ画像とを相対的に画素ずらしして出力する出力部を更に備える請求項7に記載の立体パノラマ画像合成装置。
- 前記代表視差量取得部は、前記基準画像設定部により設定された基準となる立体画像に基づいて前記代表視差量を取得する、請求項3、7又は8に記載の立体パノラマ画像合成装置。
- 前記代表視差量取得部は、
前記左用のパノラマ画像及び右用のパノラマ画像の画素ごとの対応点を検出する対応点検出部と、
前記検出された各対応点の間の視差量を算出する視差量算出部と、
前記算出された画素ごとの視差量のヒストグラムを作成するヒストグラム作成部と、
前記作成されたヒストグラムに基づいて代表視差量を決定する代表視差量決定部と、
を備える請求項3、7又は8に記載の立体パノラマ画像合成装置。 - 前記画像取得部として使用される複数の撮像部と、
請求項1から10のいずれかに記載の立体パノラマ画像合成装置と、
を備える複眼撮像装置。 - 立体パノラマ撮影モードを設定するモード設定部と、
前記立体パノラマ撮影モードが選択されると、撮影方向ごとに撮影される立体画像のピント位置、露出条件及びホワイトバランスゲインを、1枚目の撮影時に設定された値に固定する制御部と、
を更に備える請求項11に記載の複眼撮像装置。 - 複眼撮像装置により撮影された左画像及び右画像からなる立体画像であって、前記複眼撮像装置をパンニングさせて撮影方向ごとに撮影された複数の立体画像を取得する工程と、
前記取得した複数のそれぞれの立体画像から左画像及び右画像を分離してそれぞれ記憶する工程と、
前記記憶された複数の左画像及び複数の右画像をそれぞれ同一投影面に射影変換する工程と、
前記射影変換された複数の左画像間の互いに重複する領域の対応点を検出するとともに、前記射影変換された複数の右画像間の互いに重複する領域の対応点を検出する対応点検出工程と、
前記画像取得部により取得された複数の立体画像から主要被写体を検出する工程と、
前記複数の立体画像のうちの最初の基準となる立体画像を設定する工程であって、前記最初の基準となる立体画像として前記主要被写体が検出された立体画像を前記最初の基準となる立体画像として設定する工程と、
前記設定された最初の基準となる立体画像の前記射影変換された左画像及び右画像をそれぞれ基準にし、前記基準にした左画像とこれに隣接する左画像との間で前記対応点検出工程により検出された対応点同士が一致するように前記隣接する左画像を幾何変形させ、前記基準にした右画像とこれに隣接する右画像との間で前記対応点検出工程により検出された対応点同士が一致するように前記隣接する右画像を幾何変形させる工程であって、前記幾何変形させた前記左画像及び右画像に隣接する前記射影変換された左画像及び右画像が存在する場合には、前記幾何変形させた前記左画像及び右画像からなる立体画像を次の基準となる立体画像に設定し、前記射影変換された左画像及び右画像を上記と同様に幾何変形する工程と、
前記最初の基準となる立体画像の左画像及び前記幾何変形した左画像に基づいて左用のパノラマ画像を合成するとともに、前記最初の基準となる立体画像の右画像及び前記幾何変形した右画像に基づいて右用のパノラマ画像を合成する工程と、
を含む立体パノラマ画像合成方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010149211 | 2010-06-30 | ||
JP2010149211 | 2010-06-30 | ||
PCT/JP2011/060947 WO2012002046A1 (ja) | 2010-06-30 | 2011-05-12 | 立体パノラマ画像合成装置及び複眼撮像装置並びに立体パノラマ画像合成方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2012002046A1 true JPWO2012002046A1 (ja) | 2013-08-22 |
Family
ID=45401781
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012522504A Withdrawn JPWO2012002046A1 (ja) | 2010-06-30 | 2011-05-12 | 立体パノラマ画像合成装置及び複眼撮像装置並びに立体パノラマ画像合成方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20130113875A1 (ja) |
JP (1) | JPWO2012002046A1 (ja) |
CN (1) | CN102972035A (ja) |
WO (1) | WO2012002046A1 (ja) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012002017A1 (ja) * | 2010-06-30 | 2012-01-05 | 富士フイルム株式会社 | 撮影装置、プログラム、及び撮影方法 |
CN102572486B (zh) * | 2012-02-06 | 2014-05-21 | 清华大学 | 立体视频的采集***及方法 |
KR101804205B1 (ko) * | 2012-03-15 | 2017-12-04 | 삼성전자주식회사 | 영상 처리 장치 및 방법 |
JP2015156051A (ja) * | 2012-06-06 | 2015-08-27 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラム |
TW201351959A (zh) * | 2012-06-13 | 2013-12-16 | Wistron Corp | 立體全景影像合成方法及其相關之立體攝影機 |
JP5804007B2 (ja) * | 2013-09-03 | 2015-11-04 | カシオ計算機株式会社 | 動画生成システム、動画生成方法及びプログラム |
TWI611692B (zh) * | 2013-09-18 | 2018-01-11 | 佳能企業股份有限公司 | 電子裝置及影像顯示方法 |
EP3069510A4 (en) * | 2013-11-18 | 2017-06-28 | Nokia Technologies Oy | Method and apparatus for enhanced digital imaging |
KR101946437B1 (ko) | 2013-12-13 | 2019-02-11 | 후아웨이 디바이스 컴퍼니 리미티드 | 파노라마 이미지 획득을 위한 방법 및 단말기 |
KR101811157B1 (ko) | 2013-12-19 | 2018-01-25 | 인텔 코포레이션 | 사발형 영상 시스템 |
JP5846549B1 (ja) * | 2015-02-06 | 2016-01-20 | 株式会社リコー | 画像処理システム、画像処理方法、プログラム、撮像システム、画像生成装置、画像生成方法およびプログラム |
JP2016171463A (ja) | 2015-03-12 | 2016-09-23 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
KR101675567B1 (ko) | 2016-03-29 | 2016-11-22 | 주식회사 투아이즈테크 | 파노라마 촬영장치, 파노라마 촬영 시스템, 이를 이용한 파노라마 영상 생성 방법, 컴퓨터 판독가능 기록매체 및 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램 |
CN108322654B (zh) * | 2016-07-29 | 2020-05-15 | Oppo广东移动通信有限公司 | 镜头变焦方法和装置及移动终端 |
CN106101743B (zh) * | 2016-08-23 | 2019-05-07 | Oppo广东移动通信有限公司 | 全景视频识别方法及装置 |
KR101868740B1 (ko) * | 2017-01-04 | 2018-06-18 | 명지대학교 산학협력단 | 파노라마 이미지 생성 방법 및 장치 |
JP6653310B2 (ja) * | 2017-12-07 | 2020-02-26 | 華為終端有限公司 | パノラマ画像を取得する方法及び端末 |
CN111193920B (zh) * | 2019-12-31 | 2020-12-18 | 重庆特斯联智慧科技股份有限公司 | 一种基于深度学习网络的视频画面立体拼接方法和*** |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11164325A (ja) | 1997-11-26 | 1999-06-18 | Oki Electric Ind Co Ltd | パノラマ画像生成方法及びそのプログラムを記録した記録媒体 |
JPH11196311A (ja) * | 1998-01-05 | 1999-07-21 | Fuji Photo Film Co Ltd | 分割撮影機能付きカメラ |
US7194112B2 (en) | 2001-03-12 | 2007-03-20 | Eastman Kodak Company | Three dimensional spatial panorama formation with a range imaging system |
JP4017579B2 (ja) * | 2003-09-19 | 2007-12-05 | 株式会社ソニー・コンピュータエンタテインメント | 撮影補助器、画像処理方法、画像処理装置、コンピュータプログラム、プログラムを格納した記録媒体 |
JP2005217721A (ja) * | 2004-01-29 | 2005-08-11 | Seiko Epson Corp | 静止画像生成装置および生成方法 |
JP2006129391A (ja) * | 2004-11-01 | 2006-05-18 | Sony Corp | 撮像装置 |
JP4815271B2 (ja) * | 2006-05-26 | 2011-11-16 | オリンパスイメージング株式会社 | 画像表示装置、カメラ及び画像表示制御プログラム |
US8189100B2 (en) * | 2006-07-25 | 2012-05-29 | Qualcomm Incorporated | Mobile device with dual digital camera sensors and methods of using the same |
CN101067717A (zh) * | 2007-05-28 | 2007-11-07 | 黄少军 | 全景立体照片摄制与观看的装置 |
-
2011
- 2011-05-12 CN CN2011800329738A patent/CN102972035A/zh active Pending
- 2011-05-12 WO PCT/JP2011/060947 patent/WO2012002046A1/ja active Application Filing
- 2011-05-12 JP JP2012522504A patent/JPWO2012002046A1/ja not_active Withdrawn
-
2012
- 2012-12-26 US US13/727,490 patent/US20130113875A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
CN102972035A (zh) | 2013-03-13 |
US20130113875A1 (en) | 2013-05-09 |
WO2012002046A1 (ja) | 2012-01-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2012002046A1 (ja) | 立体パノラマ画像合成装置及び複眼撮像装置並びに立体パノラマ画像合成方法 | |
JP5214826B2 (ja) | 立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体 | |
JP5390707B2 (ja) | 立体パノラマ画像合成装置、撮像装置並びに立体パノラマ画像合成方法、記録媒体及びコンピュータプログラム | |
US8885026B2 (en) | Imaging device and imaging method | |
EP2590421B1 (en) | Single-lens stereoscopic image capture device | |
JP5269252B2 (ja) | 単眼立体撮像装置 | |
JP5127787B2 (ja) | 複眼撮影装置及びその制御方法 | |
JP5371845B2 (ja) | 撮影装置及びその表示制御方法並びに3次元情報取得装置 | |
WO2012011341A1 (ja) | 撮像装置、その制御方法およびプログラム | |
JP4763827B2 (ja) | 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム | |
US8823778B2 (en) | Imaging device and imaging method | |
JP2011259168A (ja) | 立体パノラマ画像撮影装置 | |
JP5160460B2 (ja) | 立体撮像装置および立体撮像方法 | |
JP5580486B2 (ja) | 画像出力装置、方法およびプログラム | |
JP2012124650A (ja) | 撮像装置および撮像方法 | |
JP2010200024A (ja) | 立体画像表示装置および立体画像表示方法 | |
JP2012028871A (ja) | 立体画像表示装置、立体画像撮影装置、立体画像表示方法及び立体画像表示プログラム | |
JP5307189B2 (ja) | 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム | |
JP2011259405A (ja) | 撮像装置および撮像方法 | |
JP2012215980A (ja) | 画像処理装置、画像処理方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20140805 |