JP4200717B2 - Image processing apparatus and method, recording medium, and program - Google Patents

Image processing apparatus and method, recording medium, and program Download PDF

Info

Publication number
JP4200717B2
JP4200717B2 JP2002261539A JP2002261539A JP4200717B2 JP 4200717 B2 JP4200717 B2 JP 4200717B2 JP 2002261539 A JP2002261539 A JP 2002261539A JP 2002261539 A JP2002261539 A JP 2002261539A JP 4200717 B2 JP4200717 B2 JP 4200717B2
Authority
JP
Japan
Prior art keywords
image
reduced
mirror
eye
stereoscopic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002261539A
Other languages
Japanese (ja)
Other versions
JP2004102512A (en
Inventor
晶司 佐藤
英彦 關沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002261539A priority Critical patent/JP4200717B2/en
Publication of JP2004102512A publication Critical patent/JP2004102512A/en
Application granted granted Critical
Publication of JP4200717B2 publication Critical patent/JP4200717B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

【０００１】
【発明の属する技術分野】
本発明は、画像処理装置および方法、記録媒体、並びにプログラムに関し、例えば、左眼用の画像と右眼用の画像を元にして立体視画像を生成する場合に用いて好適な画像処理装置および方法、記録媒体、並びにプログラムに関する。
【０００２】
【従来の技術】
従来、人の左右の眼がそれぞれ取得する網膜像の空間的ずれ（両眼視差）を利用して、２次元の画像を立体的に視認させる方法（以下、立体視の方法と記述する）が数多く知られている。
【０００３】
立体視の方法としては、特殊なメガネを利用するアナグリフ方式、カラーアナグリフ方式、偏光フィルタ方式、時分割立体テレビジョン方式等と、特殊なメガネを利用しないレンチキュラ方式等が知られている（いずれについても、例えば、非特許文献１参照）。
【０００４】
アナグリフ方式は、例えば、左眼用の画像（以下、Ｌ画像と記述する）を赤色モノトーン画像に変換し、右眼用の画像（以下、Ｒ画像と記述する）を青色モノトーン画像に変換して、赤色モノトーン画像と青色モノトーン画像を重ね合わせる。そして、その画像を、左側に赤色フィルタ、右側に青色フィルタが配置されたメガネ（以下、赤青メガネと記述する）を用いて見る方法である。アナグリフ方式は、比較的容易で安価に実施できることが、画像全体がモノトーンとなってしまう。
【０００５】
カラーアナグリフ方式は、アナグリフ方式の短所を補うものであり、Ｌ画像とＲ画像を重ね合わせたとき、それぞれの画像において対応する箇所がずれる部分（すなわち、視差が大きい部分）については、アナグリフ方式と同様に、例えば、Ｌ画像を赤色モノトーン画像に変換し、Ｒ画像を青色モノトーン画像に変換して重ね合わせる。それぞれの画像の対応する箇所がずれない部分（すなわち、視差が小さい部分）については、本来の色の状態で重ね合わせる。そして、その画像を、赤青メガネを用いて見る方法である。
【０００６】
カラーアナグリフ方式では、画像全体のうち、視差が少ない部分については、本来の色を再現することができる。なお、カラーアナグリフ方式には、視差が少ない部分に用いる色の違いにより、複数のバリエーションが存在する。以下、視差が小さい部分に本来の色を用いる方式を、第１のカラーアナグリフ方式と記述する。また、視差が小さい部分に本来の色を用いない方式を、第２のカラーアナグリフ方式と記述する。
【０００７】
偏光フィルタ方式は、例えば、垂直方向の直線偏光によって投影されたＬ画像と、水平方向の直線偏光によって投影されたＲ画像を重ね合わせる。そして、その画像を、左側に垂直方向の直線偏光フィルタ、右側に水平方向の直線偏光フィルタが配置された偏光フィルタメガネを用いて見る方法である。偏光フィルタ方式は、色の再現性がよく、解像度が高いことが長所であるが、偏光フィルタを利用することにより画像が暗くなってしまう短所がある。
【０００８】
時分割立体テレビジョン方式は、テレビジョン受像機に、Ｌ画像とＲ画像を、フィールド周期毎に交互に表示するようにし、その映像を、テレビジョン受像機のフィールド周期に同期して左眼側と右眼側を交互に開閉する液晶シャッタメガネを用いて見る方法である。時分割立体テレビジョン方式は、液晶シャッタメガネの開閉動作を高い精度で制御することが重要となる。
【０００９】
レンチキュラ方式は、画面を縦方向のストライプ状の領域に区分し、各ストライプ上の領域に交互に、Ｌ画像とＲ画像を表示し、その映像を、レンチキュラスクリーンと称されるレンズで覆う方法である。
【００１０】
ところで、上述したさまざまな立体視の方法を実現するためには、Ｌ画像とＲ画像を取得する必要がある。Ｌ画像とＲ画像を取得するためには、同一の被写体を、カメラの位置を人の両眼の間隔だけ移動して２回撮影する方法が最も容易である。
【００１１】
また、１回の撮影でＬ画像とＲ画像を取得する方法として、例えば、図１に示すように、ミラーなどから構成される光学アダプタ１１を、カメラ１の撮影レンズ３の外側に取り付ける方法が知られている（例えば、特許文献１参照）。
【００１２】
図２は、光学アダプタ１１の構造を模式的に表している。単一の採光窓から入射される右眼用の光学像は、ミラー２１によってミラー２２に向けて反射され、ミラー２２によって撮影レンズ３に向けて反射された後、撮影レンズ３によって集光される。単一の採光窓から入射される左眼用の光学像は、ミラー２１，２２によって反射されることなく、撮影レンズ３によって集光される。
【００１３】
光学アダプタ１１を介して入射された光学像は、図３に示すように、左眼用の領域および右眼用の領域からなる画像（以下、視差画像と記述する）として撮影される。この左眼用の領域がＬ画像として利用され、右眼用の領域がＲ画像として利用される。
【００１４】
なお、いずれの立体視の方法においても、Ｌ画像とＲ画像の位置合わせの調整が必要であり、この調整に画面上のアイコンなどからなるGUI(Graphical User Interface)を用いているものがある（例えば、特許文献２）。
【００１５】
【非特許文献１】
泉武博監修、NHK放送技術研究所編「３次元映像の基礎」オーム出版、平成７年６月５日発行
【特許文献１】
特開平１１−４６３７３号公報
【特許文献２】
特開２００２−９２６５６号公報
【００１６】
【発明が解決しようとする課題】
ところで、Ｌ画像とＲ画像の位置合わせの調整を、本来の画像サイズで実行した場合、演算処理が重くなって画面の表示が遅れることがあるので、ユーザが適切な位置合わせを行うことが容易ではないという課題があった。
【００１７】
本発明はこのような状況に鑑みてなされたものであり、Ｌ画像とＲ画像の位置合わせの調整を、ユーザが容易に実行できるようにすることを目的とする。
【００１８】
【課題を解決するための手段】
本発明の画像処理装置は、左眼用の画像と右眼用の画像の全体的な輝度の差がなくなるように、左眼用の画像または右眼用の画像の一方がミラーによって反射されていないスルー画像、他方がミラーによって反射されたミラー画像である場合、ミラー画像の輝度を補正する補正手段と、左眼用の画像または右眼用の画像の他方がミラー画像として輝度補正された後、それぞれが縮小された縮小Ｌ画像および縮小Ｒ画像を取得する取得手段と、ユーザの操作に対応して、縮小Ｌ画像および縮小Ｒ画像の一方に対する他方の相対的な位置を示す調整値を設定する設定手段と、調整値に基づき、縮小Ｌ画像と縮小Ｒ画像を合成して表示させる合成手段とを含む。
【００１９】
前記合成手段は、縮小Ｌ画像と縮小Ｒ画像の対応する画素同士を加算して表示させるようにすることができる。
【００２０】
本発明の画像処理装置は、調整値に基づき、左眼用の画像および右眼用の画像を合成して立体視画像を表示させるための画像データを生成する生成手段をさらに含むことができる。
【００２１】
前記生成手段は、立体視画像の奇数ラインについては左眼用の画像および右眼用の画像のうちの一方の画像データを優先的に用い、立体視画像の偶数ラインについては左眼用の画像および右眼用の画像のうちの他方の画像データを優先的に用いて、第１の立体視画像を表示するための画像データを生成するようにすることができる。
【００２２】
本発明の画像処理装置は、左眼用の画像、右眼用の画像、縮小Ｌ画像、縮小Ｒ画像、および調整値を対応付けて記憶する記憶手段をさらに含むことができる。
【００２３】
本発明の画像処理方法は、補正手段による、左眼用の画像と右眼用の画像の全体的な輝度の差がなくなるように、左眼用の画像または右眼用の画像の一方がミラーによって反射されていないスルー画像、他方がミラーによって反射されたミラー画像である場合、ミラー画像の輝度を補正する補正ステップと、取得手段による、左眼用の画像または右眼用の画像の他方がミラー画像として輝度補正された後、それぞれが縮小された縮小Ｌ画像および縮小Ｒ画像を取得する取得ステップと、設定手段による、ユーザの操作に対応して、縮小Ｌ画像および縮小Ｒ画像の一方に対する他方の相対的な位置を示す調整値を設定する設定ステップと、合成手段による、調整値に基づき、縮小Ｌ画像と縮小Ｒ画像を合成して表示させる合成ステップとを含む。
【００２４】
本発明のプログラムは、コンピュータに、左眼用の画像と右眼用の画像の全体的な輝度の差がなくなるように、左眼用の画像または右眼用の画像の一方がミラーによって反射されていないスルー画像、他方がミラーによって反射されたミラー画像である場合、ミラー画像の輝度を補正する補正手段と、左眼用の画像または右眼用の画像の他方がミラー画像として輝度補正された後、それぞれが縮小された縮小Ｌ画像および縮小Ｒ画像を取得する取得手段と、ユーザの操作に対応して、縮小Ｌ画像および縮小Ｒ画像の一方に対する他方の相対的な位置を示す調整値を設定する設定手段と、調整値に基づき、縮小Ｌ画像と縮小Ｒ画像を合成して表示させる合成手段として機能させる。
【００２５】
本発明の記録媒体は、コンピュータに、左眼用の画像と右眼用の画像の全体的な輝度の差がなくなるように、左眼用の画像または右眼用の画像の一方がミラーによって反射されていないスルー画像、他方がミラーによって反射されたミラー画像である場合、ミラー画像の輝度を補正する補正手段と、左眼用の画像または右眼用の画像の他方がミラー画像として輝度補正された後、それぞれが縮小された縮小Ｌ画像および縮小Ｒ画像を取得する取得手段と、ユーザの操作に対応して、縮小Ｌ画像および縮小Ｒ画像の一方に対する他方の相対的な位置を示す調整値を設定する設定手段と、調整値に基づき、縮小Ｌ画像と縮小Ｒ画像を合成して表示させる合成手段として機能させるプログラムが記録されている。
【００２６】
本発明においては、左眼用の画像と右眼用の画像の全体的な輝度の差がなくなるように、左眼用の画像または右眼用の画像の一方がミラーによって反射されていないスルー画像、他方がミラーによって反射されたミラー画像である場合、ミラー画像の輝度が補正され、左眼用の画像または右眼用の画像の他方がミラー画像として輝度補正された後、それぞれが縮小された縮小Ｌ画像および縮小Ｒ画像が取得され、ユーザの操作に対応して、縮小Ｌ画像および縮小Ｒ画像の一方に対する他方の相対的な位置を示す調整値が設定され、調整値に基づき、縮小Ｌ画像と縮小Ｒ画像が合成されて表示される。
【００２７】
【発明の実施の形態】
図４は、本発明を適用した立体視システムの構成例を示している。この立体視システムは、主に、立体視画像を生成するパーソナルコンピュータ（ＰＣ）３１、表示された立体視画像を見るときにユーザが使用するフィルタメガネ４１、およびパーソナルコンピュータ３１の表示部５７の表示面外側に配置するライン偏光４３から構成される。
【００２８】
パーソナルコンピュータ３１は、図１に示されたように、光学アダプタ１１が装着された状態のカメラ（ディジタルスチルカメラ）１によって撮影された視差画像、光学アダプタ１１が装着されていない状態で撮影された画像などを取り込み、視差画像または連続的に撮影された２枚の画像からなる画像対を元にして立体視画像を生成して表示する。なお、ディジタルスチルカメラ１からパーソナルコンピュータ３１に取り込まれる視差画像等の画像データには、撮影された日時、撮影された順序を示すシリアルなファイル番号、連写モードで撮影されたか否かを示す連写モードフラグなどの属性情報が付与されている。
【００２９】
フィルタメガネ４１は、パーソナルコンピュータ３１に接続された支持棒４２により、パーソナルコンピュータ３１のキーボード付近の上方空間に位置するように支持されている。フィルタメガネ４１の左側の枠には、垂直方向の直線偏光フィルタが配置されている。また、右側の枠には、水平方向の直線偏光フィルタが配置されている。
【００３０】
パーソナルコンピュータ３１の表示部５７の表示面外側に配置するライン偏光板４３は、水平方向の偶数ラインに垂直方向の直線偏光フィルタが、水平方向の奇数ラインに水平方向の直線偏光フィルタが配置されている。
【００３１】
フィルタメガネ４１、支持棒４２、およびライン偏光板４３は、例えば、図１の光学アダプタ１１、並びに画像処理プログラム６５（図１０を参照して後述する）などとセットにされて販売される。
【００３２】
次に、パーソナルコンピュータ３１によって立体視画像が生成される過程の概要について、図５乃至図８を参照して説明する。
【００３３】
図５は、光学アダプタ１１が装着されたディジタルスチルカメラ１によって撮影された視差画像を示している。同図において、視差画像の右眼用の領域は、ミラーによって反射されているものであり、左右眼用の領域は、ミラーによって反射されていないものであるとする。そこで、以下においては、視差画像の右眼用の領域をミラー画像、左眼用の領域をスルー画像と記述する。
【００３４】
上述したように、ミラー画像は、スルー画像に比較して、画質（輝度、彩度、解像度等）が劣化している。特に、ミラー画像の周辺部（上辺部、下辺部、および左辺部）は、中心部に比較して輝度が低下している。また、ミラー画像は、本来、矩形である画像が台形に歪んだものとなる。そこで、始めにミラー画像の画質が補正され（詳細については、図１４を参照して後述する）、画像の形状の歪みが補正される。次に、図６に示すように、ミラー画像およびスルー画像がそれぞれトリミングされて、Ｒ画像およびＬ画像が生成される。
【００３５】
次に、図７に示すように、次式（１）に従って、Ｌ画像とＲ画像が合成されて、図８に示すような立体視画像が生成される。
偶数ライン
１×（Ｌ画像の画素）＋０×（Ｒ画像の画素）＝（立体視画像の画素）
奇数ライン
０×（Ｌ画像の画素）＋１×（Ｒ画像の画素）＝（立体視画像の画素）・・・（１）
【００３６】
以上で、立体視画像が生成される過程の概要についての説明を終了する。生成された立体視画像は、表示部５７に表示される。図９に示すように、ユーザは、表示部５７に表示された立体視画像を、フィルタメガネ４１およびライン偏光板４３を介して見ることになる。したがって、ユーザの左眼は、立体視画像の偶数ライン、すなわち、１ライン置きのＬ画像を見ることになり、ユーザの右眼は、立体視画像の奇数ライン、すなわち、１ライン置きのＲ画像を見ることになる。よって、ユーザは、立体視画像を立体的に視認することが可能となる。
【００３７】
次に、図１０は、画像処理プログラム６５を実行することにより、立体視画像を生成する処理等を実行するパーソナルコンピュータ３１の構成例を示している。
【００３８】
パーソナルコンピュータ３１は、CPU(Central Processing Unit)５１を内蔵している。CPU５１には、バス５４を介して、入出力インタフェース５５が接続されている。バス５４には、ROM(Read Only Memory)５２およびRAM(Random Access Memory)５３が接続されている。
【００３９】
入出力インタフェース５５には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる操作入力部５６、GUI(Graphical User Interface)や生成される立体視画像等を表示するLCD(Liquid Crystal Display)等よりなる表示部５７、各種のプログラムやデータを格納するハードディスクドライブなどよりなる記憶部５８、およびインタネット等のネットワークを介してデータを通信する通信部５９が接続されている。また、入出力インタフェース５５には、磁気ディスク６１、光ディスク６２、光磁気ディスク６３、および半導体メモリ６４などの記録媒体に対してデータを読み書きするドライブ６０が接続されている。
【００４０】
CPU５１は、ROM５２に記憶されているプログラム、または磁気ディスク６１乃至半導体メモリ６４から読み出されて記憶部６５に記憶され、記憶部６５からRAM５３にロードされたプログラムに従って各種の処理を実行する。RAM５３にはまた、CPU５１が各種の処理を実行する上において必要なデータなども適宜記憶される。
【００４１】
このパーソナルコンピュータに立体視画像を生成する処理等を実行させる画像処理プログラム６５は、磁気ディスク６１（フレキシブルディスクを含む）、光ディスク６２（CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む）、光磁気ディスク６３（ＭＤ(Mini Disc)を含む）、もしくは半導体メモリ６４に格納された状態でパーソナルコンピュータ３１に供給され、ドライブ６０によって読み出されて記憶部５８に内蔵されるハードディスクドライブにインストールされている。記憶部５８にインストールされている画像処理プログラム６５は、操作入力部５６に入力されるユーザからのコマンドに対応するCPU５１の指令によって、記憶部５８からRAM５３にロードされて実行される。
【００４２】
図１１は、CPU５１が画像処理プログラムを実行することによって実現される機能ブロックの構成例示している。
【００４３】
GUIブロック７１は、GUIに対するユーザの操作に対応して、画像管理部７２乃至表示制御部７６を制御する。画像管理ブロック７２は、GUIブロック７１からの制御に従い、ディジタルカメラ１から取り込まれて記憶部５８等に記憶されている視差画像などの画像データを、画像処理プログラム６５が取り扱うデータとして管理する。また、画像管理ブロック７２は、視差画像に付加されている属性情報に、サムネイル画像（縮小画像）の画像データ、トリミングされる領域の位置を示す情報、画質が補正されるときの設定値を示す情報、上下方向の位置が調整されるときの調整値を示す情報等を追加する。
【００４４】
画像取得ブロック７３は、GUIブロック７１からの制御に従い、画像管理ブロック７２によって管理されている視差画像などの画像データを取得し、ベース画像選択ブロック７４に出力する。ベース画像選択ブロック７４は、ユーザの操作に対応するGUIブロック７１からの制御に従い、画像処理ブロック７３から入力される画像のうち、ユーザによって選択された視差画像または画像対を立体視画像生成ブロック７５に出力する。また、ベース画像選択ブロック７４は、ユーザの操作に対応するGUIブロック７１からの制御に従い、画像処理ブロック７３から入力される画像のうち、立体視画像の元とすることができる画像対を選択して、立体視画像生成ブロック７５に出力する。
【００４５】
立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、ベース画像選択ブロック７４から入力される視差画像または画像対を元に、立体視画像を生成して表示制御ブロック７６に出力する。表示制御ブロック７６は、GUIブロック７１からの制御に従い、GUIおよび生成される立体視画像の表示を制御する。
【００４６】
次に、視差画像を元にして立体視画像を生成する立体視画像生成処理について説明するが、その前に、画像処理プログラム６５に対応するウィンドウと当該ウィンドウ上のGUIについて、図１２および図１３を参照して説明する。
【００４７】
図１２は、画像処理プログラム６５が起動されたときに表示されるウィンドウ１０１の表示例を示している。ウィンドウ１０１には、処理の対象とする画像のサムネイルなどが表示されるメインエリア１０２、および「立体視」ボタン１０４乃至「エンド」ボタン１０７が設けられている。
【００４８】
「画像取得」ボタン１０３は、立体視画像の元とする視差画像および画像対を選択するためのサムネイルをメインエリア１０２に表示させるときに押下される。「立体視画像」ボタン１０４は、選択された立体視画像（または画像対）を元にして立体視画像の生成を開始させるときに押下される。「ＬＲ置換」ボタン１０５は、立体視画像の元となるＬ画像とＲ画像を置換させるときに押下される。「印刷」ボタン１０６は、生成された立体視画像などをプリントアウトするときに押下される。「エンド」ボタン１０７は、画像処理プログラムを終了させるときに押下される。
【００４９】
図１３は、「画像取得」ボタン１０３が押下されたときのウィンドウ１０１の表示例を示している。メインエリア１０２には、ディジタルカメラ１から取り込まれた視差画像、通常の画像（連続的に撮影された画像対含む）などのサムネイル画像が表示される。メインエリア１０２の上側には、「視差画像選択」ボタン１１１、「画像対選択」ボタン１１２、および「画像対自動選択」ボタン１１３が設けられる。
【００５０】
「視差画像選択」ボタン１１１は、メインエリア１０２に表示されているサムネイル画像のうち、視差画像に対応するものを選択するときに押下される。すなわち、ユーザは、「視差画像選択」ボタン１１１を押下した後、視差画像に対応するサムネイルを１つだけ選択することができる。
【００５１】
「画像対選択」ボタン１１２は、メインエリア１０２に表示されているサムネイル画像のうち、立体視画像の元とする画像対に対応するものを選択するときに押下される。すなわち、ユーザは、「画像対選択」ボタン１１２を押下した後、画像対に対応するサムネイルを２つ選択することができる。
【００５２】
「画像対自動選択」ボタン１１３は、メインエリア１０２に表示されているサムネイル画像のうち、立体視画像の元とする画像対を自動的に選択させるときに押下される。
【００５３】
次に、視差画像を元にして立体視画像を生成する立体視画像生成処理について、図１４のフローチャートを参照して説明する。この立体視画像生成処理は、図１３に示されたメインエリア１０２のサムネイルのうち、視差画像に対応するものがユーザによって選択された後、「立体視画像」ボタン１０４が押下されたときに開始される。
【００５４】
ステップＳ１において、ベース画像選択ブロック７４は、画像処理ブロック７３から入力される画像データのうち、GUIブロック７１からの制御に従い、ユーザが選択する視差画像の画像データを立体視画像生成ブロック７５に出力する。
【００５５】
ステップＳ２において、立体視画像生成ブロック７５は、ミラー画像の周辺部の輝度を、実験結果に基づくルックアップテーブル（または関数）を用いて補正する。この補正に関する情報は、画像管理ブロック７２に出力され、画像管理ブロック７２により、視差画像の属性情報に追加される。
【００５６】
ここで、実験とは、画像処理プログラム６５の開発者側によって実施されたものである。具体的には、光学アダプタ１１を装着した状態のディジタルカメラ１で画角の全体を占める白壁等を撮影し、得られた視差画像のうちのミラー画像について、中心部と周辺部の画素の輝度を比較する。そして、その比較結果に基づき、周辺部の画素の輝度が、中心部の画素の輝度と一致するように、例えば、周辺部の座標を入力とし、当該座標に対する補正値を出力するようなルックアップテーブル（関数でもよい）を生成する。または、周辺部の輝度を入力とし、当該輝度に対する補正値を出力するようなルックアップテーブルを生成する。そして、生成したルックアップテーブルを画像処理プログラム６５に組み込むようにすればよい。画像処理プログラム６５には、ディジタルカメラ１の機種に対応して複数のルックアップテーブルを組み込むようにしてもよい。
【００５７】
なお、ステップＳ２において、スルー画像の輝度も修正するようにしてもよい。
【００５８】
また、ステップＳ２において、立体視画像生成ブロック７５は、台形に歪んでいるミラー画像の形状を補正する。なお、このミラー画像の形状の補正については、本出願人が特開２００２−３４０５４号として既に提案済であるので、その説明は省略する。
【００５９】
ステップＳ３において、立体視画像生成ブロック７５は、補正済のミラー画像とスルー画像との全体的な輝度を比較して、その比較結果に基づいて、ミラー画像の輝度を補正する。具体的には、ミラー画像とスルー画像のそれぞれにおいて、所定の複数（例えば、４点）のサンプリング点の輝度を加算し、ミラー画像における輝度の加算値と、スルー画像の輝度の加算値を比較して、その差がなくなるように、ミラー画像を補正する。この補正に関する情報も、画像管理ブロック７２に出力され、画像管理ブロック７２により、視差画像の属性情報に追加される。
【００６０】
例えば、ミラー画像における４サンプリング点の輝度の加算値が３５０であり、スルー画像の４サンプリング点の輝度の加算値が５００である場合、その差１５０をサンプリング点の数で除算した値（１５０／４）を、ミラー画像の全ての画素の輝度に加算する。
【００６１】
また、ステップＳ３において、立体視画像生成ブロック７５は、ミラー画像とスルー画像の全体的な彩度が一致するように、ミラー画像の色差を補正する。この補正に関する情報も、画像管理ブロック７２に出力され、画像管理ブロック７２により、視差画像の属性情報に追加される。
【００６２】
ステップＳ４において、立体視画像生成ブロック７５は、ミラー画像に対し、所定のエッジ強調処理を施して、画像の全体的なぼけを補正する。ステップＳ５において、立体視画像生成ブロック７５は、ユーザの操作に対応するGUIブロック７１からの制御に従い、ミラー画像とスルー画像をそれぞれトリミングして、それぞれを、Ｌ画像とＲ画像に設定する。このトリミング位置に関する情報は、画像管理ブロック７２に出力され、画像管理ブロック７２により、視差画像の属性情報に追加される。
【００６３】
ステップＳ６において、立体視画像生成ブロック７５は、ユーザの操作に対応するGUIブロック７１からの制御に従い、Ｌ画像とＲ画像の上下方向の位置を調整する。なお、Ｌ画像とＲ画像の上下方向の位置を調整する過程の情報は、表示制御ブロック７６に出力されて、その調整の様子がメインエリア１０２に表示される（詳細は図１６のフローチャートを参照して後述する）。
【００６４】
ステップＳ７において、立体視画像生成ブロック７５は、ステップＳ６の処理で上下方向の位置が調整されたＬ画像およびＲ画像を、式（１）に従って合成し、立体視画像を生成する。生成された立体視画像は、メインエリア１０２に表示される。また、生成された立体視画像の画像データは、画像管理ブロック７２により、元となった視差画像に対応付けて記憶される。
【００６５】
なお、ユーザからの所定の操作により、生成された立体視画像を表示部５７の全体を占めるように表示させることも可能である。以上で、立体視画像生成処理の説明を終了する。
【００６６】
ところで、画像処理プログラム６５によれば、２枚の画像からなる画像対を元にしても、立体視画像を生成することができる。この画像対は、図１３に示された「画像対選択」ボタン１１２を押下して、メインエリア１０２に表示されているサムネイル画像のうちの２つを選択することにより、ユーザが任意に選択することができる。
【００６７】
画像対が選択された後、「立体視画像」ボタン１０４が押下された場合、画像対の一方がＬ画像とされ、他方がＲ画像とされて、上述したステップＳ６以降の処理が開始されて、立体視画像が生成される。生成された立体視画像の画像データは、画像管理ブロック７２により、元となった画像対に対応付けて記憶される。
【００６８】
なお、立体視画像の元とする画像対を自動的に選択させることもできる。画像対を自動的に選択する処理について、図１５のフローチャートを参照して説明する。この画像対自動選択処理は、図１３に示された「画像対自動選択」１１３が押下されたときに開始される。また、この画像対自動選択処理は、画像処理ブロック７３からベース画像選択ブロック７４に入力される画像が１つずつ処理対象とされて実行される。
【００６９】
ステップＳ１１において、ベース画像選択ブロック７４は、処理対象の画像が連写モードで撮影されたものであるか否かを、属性情報に含まれる連写フラグを参照して判定する。処理対象の画像が連写モードで撮影されたものではないと判定された場合、処理はステップＳ１２に進む。
【００７０】
ステップＳ１２において、ベース画像選択ブロック７４は、処理対象の画像と、１枚後に撮影された画像との撮影日時の差が所定の閾値（例えば、数秒）以内であるか否かを判定する。撮影日時の差が所定の閾値以内であると判定された場合、処理はステップＳ１３に進む。
【００７１】
ステップＳ１３において、ベース画像選択ブロック７４は、処理対象の画像と、１枚後に撮影された画像との類似度を算出し、類似度が所定の閾値以内であるか否かを判定する。ここで、２枚の画像の類似度としては、例えば、それぞれから所定の１ライン分の画素を抽出し、対応する画素同士の差分の総和を算出するようにする。
【００７２】
処理対象の画像と１枚後に撮影された画像との類似度が所定の閾値以内であると判定された場合、処理対象の画像と１枚後に撮影された画像とは、同一の被写体を連続して撮影したものであると判断できるので、処理対象の画像と１枚後に撮影された画像とを画像対に設定する。
【００７３】
画像対に設定された２枚の画像のサムネイルは、画像対に設定されたことをユーザに通知するために、メインエリア１０２において、例えば、単一の太枠で囲まれる。また、画像対の情報は、画像管理ブロック７２に出力され、画像対のそれぞれの画像データの付加情報に、画像対の相手を示す情報（シリアル番号等）が追加される。あるいは、画像対をなす２つの画像データとそれぞれの属性情報を新たなフォルダを生成して記憶するようにしてもよい。
【００７４】
なお、ステップＳ１１において、処理対象の画像が連写モードで撮影されたものであると判定された場合、ステップＳ１２はスキップされ、処理はステップＳ１３に進む。
【００７５】
ステップＳ１２において、処理対象の画像と、１枚後に撮影された画像との撮影日時の差が所定の閾値以内ではないと判定された場合、この２枚の画像は、立体視画像の元とする画像対に適していないので、画像対自動選択処理は終了される。
【００７６】
ステップＳ１３において、処理対象の画像と、１枚後に撮影された画像との類似度が所定の閾値以内ではないと判定された場合にも、この２枚の画像は、立体視画像の元とする画像対に適していないので、画像対自動選択処理は終了される。以上で、画像対自動選択処理の説明を終了する。
【００７７】
この画像対自動選択処理が、画像処理ブロック７３からベース画像選択ブロック７４に入力される全ての画像を処理対象として実行された後に、複数の画像対が設定されている場合、ユーザは設定された複数の画像対のうち、１つの画像対を選択することができる。画像対がユーザによって選択された後、「立体視画像」ボタン１０４が押下された場合、上述したステップＳ６以降の処理が開始されて、立体視画像が生成される。生成された立体視画像の画像データは、画像管理ブロック７２により、元となった画像対に対応付けて記憶される。
【００７８】
ただし、画像対を元にして立体視画像を生成した場合、画像対の一方をＬ画像とし、他方をＲ画像とする設定が適切ではなかった場合（逆であった場合）、立体的に視認することはできない。このとき、ユーザが「ＬＲ置換」ボタン１０５を押下すれば、Ｌ画像とＲ画像が置換されて、立体的に視認できる立体視画像が再生成される。
【００７９】
また、「ＬＲ置換」ボタン１０５を押下して立体視画像を再生成させることは、表示された立体視画像に対して、ライン偏光板４３が１ライン分だけ上下方向にずれて設置されている場合にも有効に作用する。
【００８０】
次に、図１４のステップＳ６の処理、すなわち、Ｌ画像とＲ画像の上下方向の位置を調整する処理の詳細について、図１６のフローチャートおよび図１７を参照して説明する。
【００８１】
ステップＳ２１において、立体視画像生成ブロック７５は、ステップＳ６の処理で設定したＬ画像およびＲ画像のサムネイル画像を、画像管理ブロック７２から取得する。ステップＳ２２において、立体視画像生成ブロック７５は、Ｌ画像のサムネイル画像とＲ画像のサムネイル画像の同じ座標の画素を５０％ずつ加算して合成画像を生成する。
【００８２】
このとき、ウィンドウ１０１の表示は、例えば、図１７に示すようなものとなる。すなわち、メインエリア１０２には、Ｌ画像が表示されたＬ画像表示エリア１２１、Ｒ画像が表示されたＲ画像表示エリア１２２、および合成画像が表示された合成画像表示エリア１２３が設けられる。
【００８３】
メインエリア１０２の上方には、Ｌ画像に対するＲ画像の相対的な位置を上方に移動させて合成画像を再生成させるときに操作させる「Ｒ画像上方移動」ボタン１２４、Ｌ画像に対するＲ画像の相対的な位置を下方に移動させ合成画像を再生成させるときに操作される「Ｒ画像下方移動」ボタン１２５、およびＬ画像に対するＲ画像の相対的な位置の調整が終了したとき操作される「位置調整終了」ボタン１２６が設けられる。
【００８４】
図１４に戻る。ステップＳ２３において、GUIブロック７１は、「Ｒ画像上方移動」ボタン１２４または「Ｒ画像下方移動」ボタン１２５が押下されたか否かを判定する。「Ｒ画像上方移動」ボタン１２４または「Ｒ画像下方移動」ボタン１２５が押下されたと判定された場合、処理はステップＳ２４に進む。ステップＳ２４において、立体視画像生成ブロック７５は、ユーザの操作に従うGUIブロック７１からの制御に基づき、Ｌ画像に対するＲ画像の相対的な位置を上方または下方に移動させて、合成画像を再生成する。
【００８５】
このとき、合成画像表示エリア１２３の表示は、再生成された合成画像に更新される。なお、ステップＳ２３において、「Ｒ画像上方移動」ボタン１２４および「Ｒ画像下方移動」ボタン１２５が押下されていない判定された場合、ステップＳ２４はスキップされ、処理はステップＳ２５に進む。
【００８６】
ステップＳ２５において、GUIブロック７１は、「位置調整終了」ボタン１２６が押下されたか否かを判定する。「位置調整終了」ボタン１２６が押下されていないと判定された場合、ステップＳ２３に戻り、それ以降の処理が繰り返される。
【００８７】
従って、ユーザは、合成画像表示エリア１２３に表示される合成画像を見ながら、「Ｒ画像上方移動」ボタン１２４または「Ｒ画像下方移動」ボタン１２５を押下することにより、Ｌ画像とＲ画像の上下方向の位置を調整することができる。なお、再生成されて表示される合成画像は、データ量の少ない縮小された画像であるので、この再生成の処理は速やかに実行される。
【００８８】
ステップＳ２５において、「位置調整終了」ボタン１２６が押下されたと判定された場合、処理はステップＳ２６に進む。ステップＳ２６において、立体視画像生成ブロック７５は、Ｌ画像とＲ画像の上下方向の位置の調整値を画像管理ブロック７２に出力する。画像管理ブロック７２は、この上下方向の位置の調整値を、視差画像の属性情報に追加する。なお、画像対がＬ画像とＲ画像とされている場合、この上下方向の位置の調整値は、画像対の両方の属性情報に追加される。この後、処理は、上述した図１４のステップＳ７に戻ることとなる。
【００８９】
以上で、Ｌ画像とＲ画像の上下方向の位置を調整する処理の説明を終了する。
【００９０】
なお、上述した説明においては、「Ｒ画像上方移動」ボタン１２４または「Ｒ画像下方移動」ボタン１２５を押下することにより、Ｌ画像に対するＲ画像の相対的な位置を上方または下方に移動させるようにしたが、例えば、合成画像表示エリア１２３に表示されている合成画像を、マウス（操作入力部５６）を用いて、上方または下方にドラッグアンドドロップすることにより、Ｌ画像に対するＲ画像の相対的な位置を上方または下方に移動させるようにしてもよい。
【００９１】
次に、図１８は、立体視画像が生成されたときのウィンドウ１０１の表示例を示している。メインエリア１０２には、生成された立体視画像が表示される。メインエリア１０２の上側には、メインエリア１０２の表示を、立体視画像から、立体視画像の元となったＬ画像およびＲ画像を用いて従来の立体視の方法によって立体的に視認することができる画像に変換させるときに押下される「アナグリフ」ボタン１３１乃至「液晶シャッタメガネ」１３５が設けられている。また、メインエリア１０２の左側には、生成された立体視画像に任意の文字、記号などを書き込むときに押下される「テキスト入力」ボタン１３６が追加して設けられている。
【００９２】
「アナグリフ」ボタン１３１は、立体視画像の元となったＬ画像およびＲ画像を用いてアナグリフ方式の画像（以下、アナグリフ画像と記述する）を生成させるときに押下される。「カラーアナグリフ１」ボタン１３２は、立体視画像の元となったＬ画像およびＲ画像を用いて第１のカラーアナグリフ方式の画像（以下、第１のカラーアナグリフ画像と記述する）を生成させるときに押下される。「カラーアナグリフ２」ボタン１３３は、立体視画像の元となったＬ画像およびＲ画像を用いて第２のカラーアナグリフ方式の画像（以下、第２のカラーアナグリフ画像と記述する）を生成させるときに押下される。これらの場合、ユーザは、赤青メガネを用いて画像を見る必要がある。
【００９３】
「レンチキュラ」ボタン１３４は、立体視画像の元となったＬ画像およびＲ画像を用いてレンチキュラ方式の画像（以下、第１のレンチキュラ画像と記述する）を生成させるときに押下される。この場合、ユーザは、レンチキュラスクリーンを介して画像を見る必要がある。
【００９４】
「液晶シャッタメガネ」ボタン１３５は、立体視画像の元となったＬ画像およびＲ画像を時分割立体テレビジョン方式で表示させるときに押下される。この場合、ユーザは、表示部５７のフィールド周期に同期して左眼側と右眼側を交互に開閉する液晶シャッタメガネを用いて画像を見る必要がある。
【００９５】
次に、メインエリア１０２に表示されている立体視画像を、ユーザの操作に対応して変換する処理について、図１９のフローチャートを参照して説明する。
【００９６】
この立体視画像変換処理は、立体視画像が生成され、図１８に示されたようなウィンドウ１０１が表示されたときに開始される。
【００９７】
ステップＳ３１において、GUIブロック７１は、「ＬＲ置換」ボタン１０５が押下されたか否かを判定する。「ＬＲ置換」ボタン１０５が押下されたと判定された場合、処理はステップＳ３２に進む。ステップＳ３２において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を置換して、立体視画像を再生成する。表示制御ブロック７６は、再生成された立体視画像を、メインエリア１０２に表示させる。この後、処理はステップＳ４３に進む。
【００９８】
ステップＳ３１において、「ＬＲ置換」ボタン１０５が押下されていないと判定された場合、処理はステップＳ３３に進む。ステップＳ３３において、GUIブロック７１は、「アナグリフ」ボタン１３１が押下されたか否かを判定する。「アナグリフ」ボタン１３１が押下されたと判定された場合、処理はステップＳ３４に進む。ステップＳ３４において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を用い、アナグリフ画像を生成する。表示制御ブロック７６は、生成されたアナグリフ画像をメインエリア１０２に表示させる。この後、処理はステップＳ４５に進む。
【００９９】
ステップＳ３３において、「アナグリフ」ボタン１３１が押下されていないと判定された場合、処理はステップＳ３５に進む。ステップＳ３５において、GUIブロック７１は、「カラーアナグリフ１」ボタン１３２が押下されたか否かを判定する。「カラーアナグリフ１」ボタン１３２が押下されたと判定された場合、処理はステップＳ３６に進む。ステップＳ３６において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を用い、第１のカラーアナグリフ画像を生成する。表示制御ブロック７６は、生成された第１のカラーアナグリフ画像をメインエリア１０２に表示させる。この後、処理はステップＳ４５に進む。
【０１００】
ステップＳ３５において、「カラーアナグリフ１」ボタン１３２が押下されていないと判定された場合、処理はステップＳ３７に進む。ステップＳ３７において、GUIブロック７１は、「カラーアナグリフ２」ボタン１３３が押下されたか否かを判定する。「カラーアナグリフ２」ボタン１３３が押下されたと判定された場合、処理はステップＳ３８に進む。ステップＳ３８において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を用い、第２のカラーアナグリフ画像を生成する。表示制御ブロック７６は、生成された第２のカラーアナグリフ画像をメインエリア１０２に表示させる。この後、処理はステップＳ４５に進む。
【０１０１】
ステップＳ３７において、「カラーアナグリフ２」ボタン１３３が押下されていないと判定された場合、処理はステップＳ３９に進む。ステップＳ３９において、GUIブロック７１は、「レンチキュラ」ボタン１３４が押下されたか否かを判定する。「レンチキュラ」ボタン１３４が押下されたと判定された場合、処理はステップＳ４０に進む。ステップＳ４０において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を用い、レンチキュラ画像を生成する。表示制御ブロック７６は、生成されたレンチキュラ画像をメインエリア１０２に表示させる。この後、処理はステップＳ４５に進む。
【０１０２】
ステップＳ３９において、「レンチキュラ」ボタン１３４が押下されていないと判定された場合、処理はステップＳ４１に進む。ステップＳ４１において、GUIブロック７１は、「液晶シャッタメガネ」ボタン１３５が押下されたか否かを判定する。「液晶シャッタメガネ」ボタン１３５が押下されたと判定された場合、処理はステップＳ４２に進む。ステップＳ４２において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、現在生成されている立体視画像の元となったＬ画像とＲ画像を表示制御ブロック７６に供給する。表示制御ブロック７６は、GUIブロック７１からの制御に従い、Ｌ画像とＲ画像を、表示部５７のフィールド周期に同期して交互にメインエリア１０２に表示させる。この後、処理はステップＳ４３に進む。
【０１０３】
ステップＳ４３において、GUIブロック７１は、何らかのボタンが押下されるまで待機する。何らかのボタンが押下されたと判定された場合、処理はステップＳ４４に進む。ステップＳ４４において、GUIブロック７１は、「エンド」ボタン１０７が押下されたか否かを判定する。「エンド」ボタン１０７が押下されたと判定された場合、立体視画像変換処理は終了され、さらに、実行されている画像処理プログラム６５も終了される。
【０１０４】
ステップＳ４４において、「エンド」ボタン１０７が押下されてないと判定された場合、ステップＳ３１に戻り、それ以降の処理が繰り返される。
【０１０５】
ステップＳ３４，Ｓ３６，Ｓ３８、またはＳ４０の処理の後に実行されるステップＳ４５において、GUIブロック７１は、何らかのボタンが押下されるまで待機する。何らかのボタンが押下されたと判定された場合、処理はステップＳ４６に進む。ステップＳ４６において、GUIブロック７１は、「印刷」ボタン１０６が押下されたか否かを判定する。「印刷」ボタン１０６が押下されたと判定された場合、処理はステップＳ４７に進む。ステップＳ４７において、表示制御ブロック７６は、GUIブロック７１からの制御に従い、メインエリア１０２に表示されているアナグリフ画像、第１のカラーアナグリフ画像、第２のアナグリフ画像、またはレンチキュラ画像の画像データをプリンタ（不図示）に出力して印刷させる。
【０１０６】
印刷されたアナグリフ画像、第１のカラーアナグリフ画像、または第２のアナグリフ画像は、赤青メガネを用いることにより、立体的に視認することができる。印刷されたレンチキュラ画像は、レンチキュラパネルを介することにより、立体的に視認することができる。以上で、立体視画像変換処理の説明を終了する。
【０１０７】
次に、図２０は、「テキスト入力」ボタン１３６が押下されたときのウィンドウ１０１の表示例を示している。メインエリア１０２の上側には、メインエリア１０２に表示されている立体視画像に重畳して、任意の文字、記号等を表示させるためのテキスト入力エリア１４１が設けられている。テキスト入力エリア１４１に入力される文字等は、立体的に視認されるように立体視画像に重畳される。ユーザは、マウス（操作入力部５６）を用いてドラッグアンドドロップすることにより、テキスト入力エリア１４１を任意の位置に移動することができる。
【０１０８】
メインエリア１０２の上側には、テキスト入力エリア１４１に入力された文字等の立体視したときの遠近感を近づけるときに押下される「近く」ボタン１４２、およびテキスト入力エリア１４１に入力される文字等の立体視したときの遠近感を遠ざけるときに押下される「遠く」ボタン１４３が設けられている。
【０１０９】
ここで、テキスト入力処理について、図２１のフローチャートを参照して説明する。このテキスト入力処理は、「テキスト入力」ボタン１３６が押下されたときに開始される。
【０１１０】
ステップＳ５１において、表示制御ブロック７６は、メインエリア１０２に表示されている立体視画像に重畳して、テキスト入力エリア１４１を表示する。ユーザがテキスト入力エリア１４１に任意の文字等を入力すると、立体視画像生成ブロック７５は、入力された文字等が所定の遠近感で立体的に視認されるように、立体視画像に文字等を重畳する。
【０１１１】
ステップＳ５２において、GUIブロック７１は、「近く」ボタン１４２が押下されたか否かを判定する。「近く」ボタン１４２が押下されたと判定された場合、処理はステップＳ５３に進む。ステップＳ５３において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、入力された文字等の遠近感がより近くで立体的に視認されるように、立体視画像に文字等を重畳する。なお、ステップＳ５２において、「近く」ボタン１４２が押下されていないと判定された場合、ステップＳ５３の処理はスキップされる。
【０１１２】
ステップＳ５４において、GUIブロック７１は、「遠く」ボタン１４３が押下されたか否かを判定する。「遠く」ボタン１４３が押下されたと判定された場合、処理はステップＳ５５に進む。ステップＳ５５において、立体視画像生成ブロック７５は、GUIブロック７１からの制御に従い、入力された文字等の遠近感がより遠くで立体的に視認されるように、立体視画像等に文字等を重畳する。なお、ステップＳ５４において、「遠く」ボタン１４３が押下されていないと判定された場合、ステップＳ５５の処理はスキップされる。
【０１１３】
ステップＳ５６において、GUIブロック７１は、「テキスト入力」ボタン１３６４２が再び押下されたか否かを判定する。「テキスト入力」ボタン１３６が再び押下されていないと判定された場合、ステップＳ５２に戻り、それ以降の処理が繰り返される。
【０１１４】
ステップＳ５６において、「テキスト入力」ボタン１３６４２が再び押下されたと判定された場合、処理はステップＳ５７に進む。ステップＳ５７において、立体視画像生成ブロック７５は、入力された文字等のテキスト情報、文字等の立体視画像上の座標情報、文字等の立体視における遠近の情報を画像管理ブロック７２に出力する。画像管理ブロック７２は、立体視画像の画像データに対応付けて記録する。以上で、テキスト入力処理の説明を終了する。
【０１１５】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に従って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【０１１６】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【０１１７】
【発明の効果】
以上のように、本発明によれば、Ｌ画像とＲ画像の位置合わせの調整を、ユーザが容易に実行することが可能となる。
【図面の簡単な説明】
【図１】光学アダプタをカメラに取り付けた状態を示す図である。
【図２】図１の光学アダプタの構成例を示す図である。
【図３】光学アダプタ取り付けた状態のカメラによって撮影される視差画像を示す図である。
【図４】本発明を適用した立体視システムの構成例を示す図である。
【図５】ミラー画像とスルー画像から構成される視差画像を示す図である。
【図６】ミラー画像とスルー画像からトリミングされるＬ画像とＲ画像を示す図である。
【図７】Ｌ画像とＲ画像を合成して立体視画像生成する処理を説明するための図である。
【図８】立体視画像を示す図である。
【図９】立体視画像を立体的に視認する概要を説明するための図である。
【図１０】図４のパーソナルコンピュータの構成例を示すブロック図である。
【図１１】図１０のCPUが画像処理プログラムを実行すること実現する機能ブロックの構成例を示す図である。
【図１２】画像処理プログラムに対応するウィンドウの表示例を示す図である。
【図１３】図１２の「画像取得」ボタンが押下されたときのウィンドウの表示例を示す図である。
【図１４】立体視画像生成処理を説明するフローチャートである。
【図１５】画像対自動選択処理を説明するフローチャートである。
【図１６】Ｌ画像とＲ画像の上下方向の位置調整処理を説明するフローチャートである。
【図１７】Ｌ画像とＲ画像の上下方向の位置調整処理におけるウィンドウの表示例を示す図である。
【図１８】立体視画像が生成されたときのウィンドウの表示例を示す図である。
【図１９】立体視画像変換処理を説明するフローチャートである。
【図２０】図１８の「テキスト入力」ボタンが押下されたときのウィンドウの表示例を示す図である。
【図２１】テキスト入力処理を説明するフローチャートである。
【符号の説明】
１ ディジタルスチルカメラ， １１ 光学アダプタ， ３１ パーソナルコンピュータ， ４１ フィルタメガネ， ４３ ライン偏光板， ５１ CPU，６１ 磁気ディスク， ６２ 光ディスク， ６３ 光磁気ディスク， ６４半導体メモリ， ６５ 画像処理プログラム， ７１ GUIブロック， ７２画像管理ブロック， ７３ 画像取得ブロック， ７４ ベース画像選択ブロック， ７５ 立体視画像生成ブロック， ７６ 表示制御ブロック[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image processing apparatus and method, a recording medium, and a program. For example, an image processing apparatus suitable for use in generating a stereoscopic image based on an image for the left eye and an image for the right eye, and The present invention relates to a method, a recording medium, and a program.
[0002]
[Prior art]
Conventionally, there has been a method of viewing a two-dimensional image stereoscopically (hereinafter referred to as a stereoscopic viewing method) using a spatial shift (binocular parallax) between retinal images acquired by the left and right eyes of a person. Many are known.
[0003]
As a method of stereoscopic viewing, an anaglyph method using special glasses, a color anaglyph method, a polarizing filter method, a time-division stereoscopic television method, and a lenticular method that does not use special glasses are known. For example, see Non-Patent Document 1).
[0004]
In the anaglyph method, for example, a left-eye image (hereinafter referred to as an L image) is converted into a red monotone image, and a right-eye image (hereinafter referred to as an R image) is converted into a blue monotone image. The red monotone image and the blue monotone image are superimposed. Then, the image is viewed using glasses (hereinafter referred to as red-blue glasses) in which a red filter is arranged on the left side and a blue filter is arranged on the right side. The anaglyph method can be implemented relatively easily and inexpensively, but the entire image becomes monotone.
[0005]
The color anaglyph method compensates for the shortcomings of the anaglyph method. When the L image and the R image are overlapped, the portion where the corresponding portion is shifted in each image (that is, the portion where the parallax is large) is the same as the anaglyph method. Similarly, for example, the L image is converted into a red monotone image, and the R image is converted into a blue monotone image and superimposed. The portions where the corresponding portions of each image do not shift (that is, portions where the parallax is small) are superimposed in the original color state. Then, the image is viewed using red / blue glasses.
[0006]
In the color anaglyph method, the original color can be reproduced for a portion having a small parallax in the entire image. Note that there are a plurality of variations in the color anaglyph method due to the difference in color used for a portion with little parallax. Hereinafter, a method of using an original color in a portion where the parallax is small is described as a first color anaglyph method. In addition, a method that does not use the original color in a portion where the parallax is small is described as a second color anaglyph method.
[0007]
In the polarization filter method, for example, an L image projected by vertical linearly polarized light and an R image projected by horizontal linearly polarized light are superimposed. The image is viewed using polarizing filter glasses in which a vertical linear polarizing filter is arranged on the left side and a horizontal linear polarizing filter is arranged on the right side. The polarizing filter method is advantageous in that the color reproducibility is good and the resolution is high, but there is a disadvantage that the image becomes dark by using the polarizing filter.
[0008]
In the time-division stereoscopic television system, an L image and an R image are alternately displayed on a television receiver for each field period, and the video is displayed on the left eye side in synchronization with the field period of the television receiver. This is a method of viewing using liquid crystal shutter glasses that alternately open and close the right eye side. In the time division stereoscopic television system, it is important to control the opening / closing operation of the liquid crystal shutter glasses with high accuracy.
[0009]
The lenticular method is a method in which a screen is divided into vertical stripe regions, L images and R images are alternately displayed on the regions on each stripe, and the images are covered with a lens called a lenticular screen. is there.
[0010]
By the way, in order to realize the various stereoscopic viewing methods described above, it is necessary to acquire an L image and an R image. In order to acquire the L image and the R image, the easiest method is to capture the same subject twice by moving the camera position by the distance between both eyes of the person.
[0011]
Further, as a method for acquiring the L image and the R image by one shooting, for example, as shown in FIG. It is known (see, for example, Patent Document 1).
[0012]
FIG. 2 schematically shows the structure of the optical adapter 11. The optical image for the right eye that enters from a single daylighting window is reflected by the mirror 21 toward the mirror 22, reflected by the mirror 22 toward the photographing lens 3, and then collected by the photographing lens 3. . The optical image for the left eye that enters from the single daylighting window is collected by the photographing lens 3 without being reflected by the mirrors 21 and 22.
[0013]
As shown in FIG. 3, the optical image incident through the optical adapter 11 is taken as an image (hereinafter referred to as a parallax image) composed of a left-eye region and a right-eye region. This left eye region is used as an L image, and the right eye region is used as an R image.
[0014]
In any of the stereoscopic viewing methods, it is necessary to adjust the alignment of the L image and the R image, and there is a method using a GUI (Graphical User Interface) including icons on the screen for this adjustment ( For example, Patent Document 2).
[0015]
[Non-Patent Document 1]
Directed by Takehiro Izumi, edited by NHK Science and Technology Research Laboratories, “Basics of 3D Video”, published by Ohm Publishing, June 5, 1995 [Patent Document 1]
Japanese Patent Laid-Open No. 11-46373 [Patent Document 2]
Japanese Patent Laid-Open No. 2002-92656 [0016]
[Problems to be solved by the invention]
By the way, when the adjustment of the alignment of the L image and the R image is executed with the original image size, the calculation processing becomes heavy and the display of the screen may be delayed, so that the user can easily perform appropriate alignment. There was a problem that was not.
[0017]
The present invention has been made in view of such a situation, and an object of the present invention is to enable a user to easily adjust the alignment of an L image and an R image.
[0018]
[Means for Solving the Problems]
In the image processing apparatus of the present invention, one of the left-eye image and the right-eye image is reflected by the mirror so that the overall luminance difference between the left-eye image and the right-eye image is eliminated. If there is no through image, and the other is a mirror image reflected by a mirror, the correction means for correcting the brightness of the mirror image and after the other of the left eye image or the right eye image is corrected as a mirror image , Acquisition means for acquiring a reduced L image and a reduced R image, respectively, and an adjustment value indicating the relative position of the other of the reduced L image and the reduced R image with respect to one of the reduced L image and the reduced R image setting means and, based on the adjustment value, combining means and the including displaying by combining the reduced R image and the reduced L image.
[0019]
The synthesizing unit may add and display corresponding pixels of the reduced L image and the reduced R image.
[0020]
The image processing apparatus of the present invention can further include a generating unit that generates image data for displaying a stereoscopic image by combining the left-eye image and the right-eye image based on the adjustment value.
[0021]
The generating means preferentially uses one of the left-eye image and the right-eye image for the odd-numbered lines of the stereoscopic image, and the left-eye image for the even-numbered lines of the stereoscopic image. The image data for displaying the first stereoscopic image can be generated by preferentially using the other image data of the right-eye images.
[0022]
The image processing apparatus of the present invention can further include a storage unit that stores an image for the left eye, an image for the right eye, a reduced L image, a reduced R image, and an adjustment value in association with each other.
[0023]
In the image processing method of the present invention , one of the left-eye image and the right-eye image is mirrored so that the overall luminance difference between the left-eye image and the right-eye image by the correcting unit is eliminated. When the other image is a through image not reflected by the mirror and the other is a mirror image reflected by the mirror, the correction step for correcting the brightness of the mirror image and the other of the left eye image or the right eye image by the acquisition unit are An acquisition step for acquiring a reduced L image and a reduced R image , each of which has been reduced in luminance as a mirror image, and one of the reduced L image and the reduced R image corresponding to a user operation by the setting unit. a setting step of setting an adjustment value that indicates the other relative positions, by synthetic means, based on the adjustment value, synthetic steps and the including displaying by combining the reduced R image and the reduced L image
[0024]
Program of the present invention is reflected in the computer, so that the difference in overall luminance of the image of the image and the right eye for the left eye is eliminated, one image for image or the right eye for the left eye by the mirror A non-through image, and the other is a mirror image reflected by a mirror, the brightness of the mirror image is corrected, and the other of the left-eye image or the right-eye image is corrected as a mirror image. After that, an acquisition unit that acquires a reduced L image and a reduced R image that are reduced, and an adjustment value that indicates the relative position of the other of the reduced L image and the reduced R image to the other in response to a user operation. And a combining unit that combines the reduced L image and the reduced R image and displays them based on the adjustment value.
[0025]
In the recording medium of the present invention, one of the left-eye image and the right-eye image is reflected by the mirror so that the overall luminance difference between the left-eye image and the right-eye image is eliminated by the computer. A non-through image, and the other is a mirror image reflected by a mirror, the brightness of the mirror image is corrected, and the other of the left-eye image or the right-eye image is corrected as a mirror image. After that, an acquisition unit that acquires a reduced L image and a reduced R image that are reduced, and an adjustment value that indicates the relative position of the other of the reduced L image and the reduced R image to the other in response to a user operation. And a program that functions as a combining unit that combines and displays the reduced L image and the reduced R image based on the adjustment value.
[0026]
In this onset bright overall as the difference in brightness is eliminated image for image and the right eye for the left eye, through which one of the image for the image or the right eye for the left eye is not reflected by the mirror If the image is the mirror image reflected by the mirror, the brightness of the mirror image is corrected, and after the other of the left-eye image or the right-eye image is corrected as the mirror image, each is reduced. The reduced L image and the reduced R image are acquired, and an adjustment value indicating the relative position of the other of the reduced L image and the reduced R image to the other is set in response to a user operation. The L image and the reduced R image are combined and displayed.
[0027]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 4 shows a configuration example of a stereoscopic system to which the present invention is applied. The stereoscopic system mainly includes a personal computer (PC) 31 that generates a stereoscopic image, filter glasses 41 that a user uses when viewing the displayed stereoscopic image, and display on the display unit 57 of the personal computer 31. It comprises line polarized light 43 arranged outside the surface.
[0028]
As shown in FIG. 1, the personal computer 31 is a parallax image taken by the camera (digital still camera) 1 with the optical adapter 11 attached, and is taken without the optical adapter 11 attached. An image or the like is captured, and a stereoscopic image is generated and displayed based on a parallax image or an image pair composed of two images taken continuously. Note that image data such as a parallax image captured from the digital still camera 1 to the personal computer 31 includes the date and time when the image was taken, a serial file number indicating the order of shooting, and a sequence indicating whether the image was shot in the continuous shooting mode. Attribute information such as a copy mode flag is added.
[0029]
The filter glasses 41 are supported by a support bar 42 connected to the personal computer 31 so as to be positioned in an upper space near the keyboard of the personal computer 31. In the left frame of the filter glasses 41, a vertical linear polarization filter is arranged. A horizontal linear polarization filter is disposed in the right frame.
[0030]
The line polarizing plate 43 arranged outside the display surface of the display unit 57 of the personal computer 31 has a vertical linear polarizing filter arranged on horizontal even lines and a horizontal linear polarizing filter arranged on odd horizontal lines. Yes.
[0031]
The filter glasses 41, the support rod 42, and the line polarizing plate 43 are sold as a set with, for example, the optical adapter 11 of FIG. 1 and an image processing program 65 (described later with reference to FIG. 10).
[0032]
Next, an outline of a process of generating a stereoscopic image by the personal computer 31 will be described with reference to FIGS.
[0033]
FIG. 5 shows a parallax image taken by the digital still camera 1 to which the optical adapter 11 is attached. In the figure, it is assumed that the region for the right eye of the parallax image is reflected by the mirror, and the region for the left and right eyes is not reflected by the mirror. Therefore, in the following description, the region for the right eye of the parallax image is described as a mirror image, and the region for the left eye is described as a through image.
[0034]
As described above, the mirror image has degraded image quality (luminance, saturation, resolution, etc.) compared to the through image. In particular, the brightness of the peripheral part (upper side part, lower side part, and left side part) of the mirror image is lower than that of the central part. In addition, the mirror image is a rectangular image distorted into a trapezoid. Therefore, first, the image quality of the mirror image is corrected (details will be described later with reference to FIG. 14), and the distortion of the shape of the image is corrected. Next, as shown in FIG. 6, the mirror image and the through image are respectively trimmed to generate an R image and an L image.
[0035]
Next, as shown in FIG. 7, the L image and the R image are synthesized according to the following expression (1) to generate a stereoscopic image as shown in FIG.
Even line 1 × (L image pixel) + 0 × (R image pixel) = (stereoscopic image pixel)
Odd line 0 × (L image pixel) + 1 × (R image pixel) = (stereoscopic image pixel) (1)
[0036]
This is the end of the description of the outline of the process of generating a stereoscopic image. The generated stereoscopic image is displayed on the display unit 57. As shown in FIG. 9, the user views the stereoscopic image displayed on the display unit 57 through the filter glasses 41 and the line polarizing plate 43. Therefore, the user's left eye sees an even line of the stereoscopic image, that is, an L image every other line, and the user's right eye sees an odd line of the stereoscopic image, that is, an R image every other line. Will see. Therefore, the user can view the stereoscopic image stereoscopically.
[0037]
Next, FIG. 10 shows a configuration example of the personal computer 31 that executes processing for generating a stereoscopic image by executing the image processing program 65.
[0038]
The personal computer 31 includes a CPU (Central Processing Unit) 51. An input / output interface 55 is connected to the CPU 51 via the bus 54. A ROM (Read Only Memory) 52 and a RAM (Random Access Memory) 53 are connected to the bus 54.
[0039]
The input / output interface 55 includes an operation input unit 56 including an input device such as a keyboard and a mouse for a user to input an operation command, an LCD (Liquid Crystal Display) for displaying a GUI (Graphical User Interface), a generated stereoscopic image, and the like. ) And the like, a storage unit 58 including a hard disk drive for storing various programs and data, and a communication unit 59 for communicating data via a network such as the Internet. The input / output interface 55 is connected to a drive 60 for reading / writing data from / to a recording medium such as the magnetic disk 61, the optical disk 62, the magneto-optical disk 63, and the semiconductor memory 64.
[0040]
The CPU 51 executes various processes in accordance with a program stored in the ROM 52 or a program read from the magnetic disk 61 to the semiconductor memory 64 and stored in the storage unit 65 and loaded from the storage unit 65 to the RAM 53. The RAM 53 also appropriately stores data necessary for the CPU 51 to execute various processes.
[0041]
An image processing program 65 for causing the personal computer to execute a process for generating a stereoscopic image and the like includes a magnetic disk 61 (including a flexible disk), an optical disk 62 (CD-ROM (Compact Disc-Read Only Memory), DVD (Digital Versatile). Disc), a magneto-optical disc 63 (including MD (Mini Disc)), or stored in the semiconductor memory 64, supplied to the personal computer 31, read by the drive 60, and built in the storage unit 58. Installed on the hard drive. The image processing program 65 installed in the storage unit 58 is loaded from the storage unit 58 to the RAM 53 and executed in response to a command from the CPU 51 corresponding to a command from the user input to the operation input unit 56.
[0042]
FIG. 11 illustrates a configuration example of functional blocks realized by the CPU 51 executing the image processing program.
[0043]
The GUI block 71 controls the image management unit 72 to the display control unit 76 in response to a user operation on the GUI. The image management block 72 manages image data such as a parallax image captured from the digital camera 1 and stored in the storage unit 58 or the like as data handled by the image processing program 65 in accordance with control from the GUI block 71. In addition, the image management block 72 indicates image data of thumbnail images (reduced images), information indicating the positions of regions to be trimmed, and setting values when image quality is corrected, in the attribute information added to the parallax images. Information, information indicating an adjustment value when the vertical position is adjusted, and the like are added.
[0044]
The image acquisition block 73 acquires image data such as a parallax image managed by the image management block 72 according to control from the GUI block 71 and outputs the acquired image data to the base image selection block 74. Based on the control from the GUI block 71 corresponding to the user's operation, the base image selection block 74 selects a parallax image or image pair selected by the user from the images input from the image processing block 73 as a stereoscopic image generation block 75. Output to. In addition, the base image selection block 74 selects an image pair that can be the source of the stereoscopic image from the images input from the image processing block 73 in accordance with control from the GUI block 71 corresponding to the user's operation. And output to the stereoscopic image generation block 75.
[0045]
The stereoscopic image generation block 75 generates a stereoscopic image based on the parallax image or image pair input from the base image selection block 74 according to the control from the GUI block 71 and outputs the stereoscopic image to the display control block 76. The display control block 76 controls the display of the GUI and the generated stereoscopic image according to the control from the GUI block 71.
[0046]
Next, a stereoscopic image generation process for generating a stereoscopic image based on a parallax image will be described. Before that, a window corresponding to the image processing program 65 and a GUI on the window will be described with reference to FIGS. Will be described with reference to FIG.
[0047]
FIG. 12 shows a display example of the window 101 displayed when the image processing program 65 is started. The window 101 is provided with a main area 102 in which thumbnails of images to be processed are displayed, and a “stereoscopic” button 104 to an “end” button 107.
[0048]
The “image acquisition” button 103 is pressed when displaying a parallax image based on a stereoscopic image and a thumbnail for selecting an image pair in the main area 102. The “stereoscopic image” button 104 is pressed to start generating a stereoscopic image based on the selected stereoscopic image (or image pair). The “LR replacement” button 105 is pressed to replace the L image and the R image that are the basis of the stereoscopic image. The “print” button 106 is pressed when printing out the generated stereoscopic image or the like. An “end” button 107 is pressed to end the image processing program.
[0049]
FIG. 13 shows a display example of the window 101 when the “acquire image” button 103 is pressed. In the main area 102, thumbnail images such as parallax images taken from the digital camera 1 and normal images (including pairs of images taken continuously) are displayed. Above the main area 102, a “parallax image selection” button 111, an “image pair selection” button 112, and an “image pair automatic selection” button 113 are provided.
[0050]
A “parallax image selection” button 111 is pressed when selecting a thumbnail image displayed in the main area 102 corresponding to a parallax image. That is, the user can select only one thumbnail corresponding to the parallax image after pressing the “parallax image selection” button 111.
[0051]
The “select image pair” button 112 is pressed when selecting a thumbnail image displayed in the main area 102 corresponding to an image pair that is a source of a stereoscopic image. That is, the user can select two thumbnails corresponding to the image pair after pressing the “select image pair” button 112.
[0052]
An “image pair automatic selection” button 113 is pressed to automatically select an image pair that is a source of a stereoscopic image among thumbnail images displayed in the main area 102.
[0053]
Next, stereoscopic image generation processing for generating a stereoscopic image based on a parallax image will be described with reference to the flowchart of FIG. This stereoscopic image generation processing is started when the “stereoscopic image” button 104 is pressed after the thumbnail corresponding to the parallax image among the thumbnails of the main area 102 shown in FIG. 13 is selected by the user. Is done.
[0054]
In step S <b> 1, the base image selection block 74 outputs the image data of the parallax image selected by the user to the stereoscopic image generation block 75 in accordance with the control from the GUI block 71 among the image data input from the image processing block 73. To do.
[0055]
In step S2, the stereoscopic image generation block 75 corrects the luminance of the peripheral portion of the mirror image using a lookup table (or function) based on the experimental result. Information regarding this correction is output to the image management block 72 and added to the attribute information of the parallax image by the image management block 72.
[0056]
Here, the experiment is performed by the developer of the image processing program 65. Specifically, a white wall or the like occupying the entire angle of view is photographed with the digital camera 1 with the optical adapter 11 attached, and the brightness of the pixels at the center and the periphery of the mirror image of the obtained parallax images. Compare Then, based on the comparison result, for example, the peripheral coordinates are input so that the luminance of the peripheral pixels matches the luminance of the central pixels, and for example, a lookup that outputs a correction value for the coordinates is performed. Generate a table (may be a function). Alternatively, a look-up table is generated in which the luminance of the peripheral portion is input and a correction value for the luminance is output. Then, the generated lookup table may be incorporated into the image processing program 65. The image processing program 65 may include a plurality of lookup tables corresponding to the model of the digital camera 1.
[0057]
In step S2, the brightness of the through image may be corrected.
[0058]
In step S2, the stereoscopic image generation block 75 corrects the shape of the mirror image that is distorted into a trapezoid. The correction of the shape of the mirror image has already been proposed by the present applicant as Japanese Patent Application Laid-Open No. 2002-34054, and the description thereof will be omitted.
[0059]
In step S3, the stereoscopic image generation block 75 compares the overall brightness of the corrected mirror image and the through image, and corrects the brightness of the mirror image based on the comparison result. Specifically, in each of the mirror image and the through image, the luminances of a plurality of predetermined sampling points (for example, four points) are added, and the luminance added value in the mirror image is compared with the luminance added value of the through image. Then, the mirror image is corrected so that the difference disappears. Information regarding this correction is also output to the image management block 72, and is added to the attribute information of the parallax image by the image management block 72.
[0060]
For example, when the added value of the luminance at the four sampling points in the mirror image is 350 and the added value of the luminance at the four sampling points in the through image is 500, a value obtained by dividing the difference 150 by the number of sampling points (150 / 4) is added to the luminance of all the pixels of the mirror image.
[0061]
In step S3, the stereoscopic image generation block 75 corrects the color difference of the mirror image so that the overall saturation of the mirror image and the through image matches. Information regarding this correction is also output to the image management block 72, and is added to the attribute information of the parallax image by the image management block 72.
[0062]
In step S4, the stereoscopic image generation block 75 performs a predetermined edge enhancement process on the mirror image to correct the overall blur of the image. In step S <b> 5, the stereoscopic image generation block 75 trims the mirror image and the through image according to the control from the GUI block 71 corresponding to the user operation, and sets them as an L image and an R image, respectively. Information regarding this trimming position is output to the image management block 72 and added to the attribute information of the parallax image by the image management block 72.
[0063]
In step S6, the stereoscopic image generation block 75 adjusts the vertical positions of the L image and the R image according to the control from the GUI block 71 corresponding to the user's operation. Information on the process of adjusting the vertical position of the L image and the R image is output to the display control block 76, and the state of the adjustment is displayed in the main area 102 (see the flowchart of FIG. 16 for details). And will be described later).
[0064]
In step S <b> 7, the stereoscopic image generation block 75 combines the L image and the R image whose vertical positions are adjusted in the process of step S <b> 6 according to the equation (1) to generate a stereoscopic image. The generated stereoscopic image is displayed in the main area 102. The generated image data of the stereoscopic image is stored in association with the original parallax image by the image management block 72.
[0065]
The generated stereoscopic image can be displayed so as to occupy the entire display unit 57 by a predetermined operation from the user. This is the end of the description of the stereoscopic image generation process.
[0066]
By the way, according to the image processing program 65, a stereoscopic image can be generated based on an image pair composed of two images. This image pair is arbitrarily selected by the user by pressing the “select image pair” button 112 shown in FIG. 13 and selecting two of the thumbnail images displayed in the main area 102. be able to.
[0067]
When the “stereoscopic image” button 104 is pressed after the image pair is selected, one of the image pairs is an L image and the other is an R image, and the processing from step S6 onward is started. A stereoscopic image is generated. The image data of the generated stereoscopic image is stored by the image management block 72 in association with the original image pair.
[0068]
It is also possible to automatically select an image pair as a source of a stereoscopic image. Processing for automatically selecting an image pair will be described with reference to the flowchart of FIG. This image pair automatic selection processing is started when the “image pair automatic selection” 113 shown in FIG. 13 is pressed. In addition, this image pair automatic selection processing is executed with images input from the image processing block 73 to the base image selection block 74 being processed one by one.
[0069]
In step S11, the base image selection block 74 determines whether or not the processing target image has been taken in the continuous shooting mode with reference to the continuous shooting flag included in the attribute information. If it is determined that the image to be processed is not taken in the continuous shooting mode, the process proceeds to step S12.
[0070]
In step S <b> 12, the base image selection block 74 determines whether or not the difference in shooting date and time between the image to be processed and the image shot after one is within a predetermined threshold (for example, several seconds). If it is determined that the difference in shooting date and time is within a predetermined threshold, the process proceeds to step S13.
[0071]
In step S <b> 13, the base image selection block 74 calculates the similarity between the image to be processed and the image taken after the first image, and determines whether the similarity is within a predetermined threshold. Here, as the similarity between two images, for example, pixels for a predetermined line are extracted from each, and the sum of the differences between corresponding pixels is calculated.
[0072]
When it is determined that the degree of similarity between the image to be processed and the image taken after the first image is within a predetermined threshold, the image to be processed and the image taken after the first image are the same subject. Therefore, the image to be processed and the image photographed one after are set as an image pair.
[0073]
The thumbnails of the two images set as the image pair are surrounded by, for example, a single thick frame in the main area 102 in order to notify the user that the image pair is set. The image pair information is output to the image management block 72, and information (serial number or the like) indicating the partner of the image pair is added to the additional information of each image data of the image pair. Alternatively, two image data forming an image pair and the respective attribute information may be generated and stored.
[0074]
If it is determined in step S11 that the image to be processed has been taken in the continuous shooting mode, step S12 is skipped and the process proceeds to step S13.
[0075]
If it is determined in step S12 that the difference in shooting date and time between the image to be processed and the image taken one after is not within a predetermined threshold, these two images are used as the source of the stereoscopic image. Since it is not suitable for an image pair, the image pair automatic selection process is terminated.
[0076]
Even in the case where it is determined in step S13 that the similarity between the image to be processed and the image taken one after is not within a predetermined threshold, these two images are used as the source of the stereoscopic image. Since it is not suitable for an image pair, the image pair automatic selection process is terminated. This is the end of the description of the image pair automatic selection process.
[0077]
After this image pair automatic selection processing is executed for all the images input from the image processing block 73 to the base image selection block 74 as a processing target, the user is set when a plurality of image pairs are set. One image pair can be selected from the plurality of image pairs. When the “stereoscopic image” button 104 is pressed after the image pair is selected by the user, the processing from step S6 described above is started, and a stereoscopic image is generated. The image data of the generated stereoscopic image is stored by the image management block 72 in association with the original image pair.
[0078]
However, when a stereoscopic image is generated based on the image pair, if the setting of one of the image pair as an L image and the other as an R image is not appropriate (in the opposite case), it is viewed stereoscopically. I can't do it. At this time, if the user presses the “LR replacement” button 105, the L image and the R image are replaced, and a stereoscopic image that can be viewed stereoscopically is regenerated.
[0079]
In addition, when the “LR replacement” button 105 is pressed to regenerate a stereoscopic image, the line polarizing plate 43 is shifted up and down by one line with respect to the displayed stereoscopic image. It works effectively in some cases.
[0080]
Next, details of the process in step S6 of FIG. 14, that is, the process of adjusting the vertical position of the L image and the R image will be described with reference to the flowchart of FIG. 16 and FIG.
[0081]
In step S <b> 21, the stereoscopic image generation block 75 acquires from the image management block 72 the thumbnail images of the L image and the R image set in the process of step S <b> 6. In step S <b> 22, the stereoscopic image generation block 75 adds 50% of pixels having the same coordinates of the thumbnail image of the L image and the thumbnail image of the R image to generate a composite image.
[0082]
At this time, the display of the window 101 is, for example, as shown in FIG. That is, the main area 102 is provided with an L image display area 121 where an L image is displayed, an R image display area 122 where an R image is displayed, and a composite image display area 123 where a composite image is displayed.
[0083]
Above the main area 102, an “R image upward movement” button 124 that is operated when the relative position of the R image relative to the L image is moved upward to regenerate the composite image, and the relative position of the R image relative to the L image. “R image downward movement” button 125 operated when moving the general position downward to regenerate the composite image, and “position” operated when adjustment of the relative position of the R image with respect to the L image is completed. An “end adjustment” button 126 is provided.
[0084]
Returning to FIG. In step S <b> 23, the GUI block 71 determines whether the “R image upward movement” button 124 or the “R image downward movement” button 125 is pressed. If it is determined that the “R image upward movement” button 124 or the “R image downward movement” button 125 is pressed, the process proceeds to step S24. In step S <b> 24, the stereoscopic image generation block 75 regenerates a composite image by moving the relative position of the R image with respect to the L image upward or downward based on the control from the GUI block 71 according to the user's operation. .
[0085]
At this time, the display of the composite image display area 123 is updated to the regenerated composite image. If it is determined in step S23 that the “R image upward movement” button 124 and the “R image downward movement” button 125 are not pressed, step S24 is skipped, and the process proceeds to step S25.
[0086]
In step S <b> 25, the GUI block 71 determines whether or not the “position adjustment end” button 126 has been pressed. If it is determined that the “position adjustment end” button 126 has not been pressed, the process returns to step S23 and the subsequent processing is repeated.
[0087]
Accordingly, the user presses the “R image upward movement” button 124 or the “R image downward movement” button 125 while viewing the composite image displayed in the composite image display area 123, thereby moving the L image and the R image up and down. The position of the direction can be adjusted. Note that the composite image that is regenerated and displayed is a reduced image with a small amount of data, and thus the regeneration process is promptly executed.
[0088]
If it is determined in step S25 that the “position adjustment end” button 126 has been pressed, the process proceeds to step S26. In step S <b> 26, the stereoscopic image generation block 75 outputs the adjustment value of the vertical position of the L image and the R image to the image management block 72. The image management block 72 adds the adjustment value of the vertical position to the attribute information of the parallax image. When the image pair is an L image and an R image, this vertical position adjustment value is added to the attribute information of both image pairs. Thereafter, the processing returns to step S7 in FIG.
[0089]
Above, description of the process which adjusts the position of the up-down direction of L image and R image is complete | finished.
[0090]
In the above description, the relative position of the R image with respect to the L image is moved upward or downward by pressing the “R image upward movement” button 124 or the “R image downward movement” button 125. However, for example, by dragging and dropping the composite image displayed in the composite image display area 123 upward or downward using the mouse (operation input unit 56), the R image relative to the L image can be compared. The position may be moved upward or downward.
[0091]
Next, FIG. 18 shows a display example of the window 101 when a stereoscopic image is generated. In the main area 102, the generated stereoscopic image is displayed. On the upper side of the main area 102, the display of the main area 102 can be viewed stereoscopically from a stereoscopic image by using a conventional stereoscopic method using an L image and an R image that are the basis of the stereoscopic image. There are provided “anaglyph” buttons 131 to “liquid crystal shutter glasses” 135 which are pressed when the images are converted into possible images. Further, on the left side of the main area 102, a “text input” button 136 that is pressed when an arbitrary character, symbol, or the like is written in the generated stereoscopic image is additionally provided.
[0092]
The “anaglyph” button 131 is pressed when an anaglyph image (hereinafter referred to as an anaglyph image) is generated using the L image and the R image that are the basis of the stereoscopic image. The “color anaglyph 1” button 132 is used to generate a first color anaglyph image (hereinafter referred to as a first color anaglyph image) using the L image and the R image that are the basis of the stereoscopic image. Is pressed. The “color anaglyph 2” button 133 is used to generate a second color anaglyph image (hereinafter referred to as a second color anaglyph image) using the L image and the R image that are the basis of the stereoscopic image. Is pressed. In these cases, the user needs to view the image using red / blue glasses.
[0093]
The “lenticular” button 134 is pressed to generate a lenticular image (hereinafter referred to as a first lenticular image) using the L image and the R image that are the basis of the stereoscopic image. In this case, the user needs to view the image via the lenticular screen.
[0094]
The “liquid crystal shutter glasses” button 135 is pressed to display the L image and the R image that are the basis of the stereoscopic image in a time-division stereoscopic television system. In this case, the user needs to view the image using liquid crystal shutter glasses that alternately open and close the left eye side and the right eye side in synchronization with the field period of the display unit 57.
[0095]
Next, processing for converting a stereoscopic image displayed in the main area 102 in accordance with a user operation will be described with reference to a flowchart of FIG.
[0096]
This stereoscopic image conversion process is started when a stereoscopic image is generated and the window 101 as shown in FIG. 18 is displayed.
[0097]
In step S31, the GUI block 71 determines whether or not the “LR replacement” button 105 has been pressed. If it is determined that the “LR replacement” button 105 has been pressed, the process proceeds to step S32. In step S <b> 32, the stereoscopic image generation block 75 replaces the L image and the R image that are the basis of the currently generated stereoscopic image and regenerates the stereoscopic image according to the control from the GUI block 71. . The display control block 76 displays the regenerated stereoscopic image in the main area 102. Thereafter, the process proceeds to step S43.
[0098]
If it is determined in step S31 that the “LR replacement” button 105 has not been pressed, the process proceeds to step S33. In step S33, the GUI block 71 determines whether or not the “anaglyph” button 131 has been pressed. If it is determined that the “anaglyph” button 131 is pressed, the process proceeds to step S34. In step S <b> 34, the stereoscopic image generation block 75 generates an anaglyph image using the L image and the R image that are the basis of the currently generated stereoscopic image in accordance with the control from the GUI block 71. The display control block 76 displays the generated anaglyph image in the main area 102. Thereafter, the process proceeds to step S45.
[0099]
If it is determined in step S33 that the “anaglyph” button 131 has not been pressed, the process proceeds to step S35. In step S <b> 35, the GUI block 71 determines whether or not the “color anaglyph 1” button 132 has been pressed. If it is determined that the “color anaglyph 1” button 132 has been pressed, the process proceeds to step S36. In step S <b> 36, the stereoscopic image generation block 75 generates a first color anaglyph image using the L image and the R image that are the basis of the currently generated stereoscopic image in accordance with the control from the GUI block 71. . The display control block 76 displays the generated first color anaglyph image in the main area 102. Thereafter, the process proceeds to step S45.
[0100]
If it is determined in step S35 that the “color anaglyph 1” button 132 has not been pressed, the process proceeds to step S37. In step S37, the GUI block 71 determines whether or not the “color anaglyph 2” button 133 has been pressed. If it is determined that the “color anaglyph 2” button 133 has been pressed, the process proceeds to step S38. In step S <b> 38, the stereoscopic image generation block 75 generates a second color anaglyph image using the L image and the R image that are the basis of the currently generated stereoscopic image in accordance with the control from the GUI block 71. . The display control block 76 displays the generated second color anaglyph image in the main area 102. Thereafter, the process proceeds to step S45.
[0101]
If it is determined in step S37 that the “color anaglyph 2” button 133 has not been pressed, the process proceeds to step S39. In step S39, the GUI block 71 determines whether or not the “lenticular” button 134 has been pressed. If it is determined that the “lenticular” button 134 has been pressed, the process proceeds to step S40. In step S <b> 40, the stereoscopic image generation block 75 generates a lenticular image using the L image and the R image that are the basis of the currently generated stereoscopic image in accordance with the control from the GUI block 71. The display control block 76 displays the generated lenticular image in the main area 102. Thereafter, the process proceeds to step S45.
[0102]
If it is determined in step S39 that the “lenticular” button 134 has not been pressed, the process proceeds to step S41. In step S41, the GUI block 71 determines whether or not the “liquid crystal shutter glasses” button 135 has been pressed. If it is determined that the “liquid crystal shutter glasses” button 135 is pressed, the process proceeds to step S42. In step S <b> 42, the stereoscopic image generation block 75 supplies the L image and the R image that are the basis of the currently generated stereoscopic image to the display control block 76 in accordance with the control from the GUI block 71. The display control block 76 displays the L image and the R image alternately in the main area 102 in synchronization with the field period of the display unit 57 according to the control from the GUI block 71. Thereafter, the process proceeds to step S43.
[0103]
In step S43, the GUI block 71 waits until any button is pressed. If it is determined that any button has been pressed, the process proceeds to step S44. In step S <b> 44, the GUI block 71 determines whether or not the “END” button 107 has been pressed. If it is determined that the “END” button 107 has been pressed, the stereoscopic image conversion process is terminated, and the image processing program 65 being executed is also terminated.
[0104]
If it is determined in step S44 that the “END” button 107 has not been pressed, the process returns to step S31 and the subsequent processing is repeated.
[0105]
In step S45 executed after the processing of step S34, S36, S38, or S40, the GUI block 71 waits until any button is pressed. If it is determined that any button has been pressed, the process proceeds to step S46. In step S46, the GUI block 71 determines whether or not the “print” button 106 has been pressed. If it is determined that the “print” button 106 has been pressed, the process proceeds to step S47. In step S47, the display control block 76 prints the image data of the anaglyph image, the first color anaglyph image, the second anaglyph image, or the lenticular image displayed in the main area 102 according to the control from the GUI block 71. Output to (not shown) and print.
[0106]
The printed anaglyph image, first color anaglyph image, or second anaglyph image can be viewed three-dimensionally by using red and blue glasses. The printed lenticular image can be viewed three-dimensionally through the lenticular panel. This is the end of the description of the stereoscopic image conversion process.
[0107]
Next, FIG. 20 shows a display example of the window 101 when the “text input” button 136 is pressed. On the upper side of the main area 102, a text input area 141 for displaying arbitrary characters, symbols, etc. is provided so as to be superimposed on the stereoscopic image displayed in the main area 102. Characters and the like input to the text input area 141 are superimposed on the stereoscopic image so that they can be viewed stereoscopically. The user can move the text input area 141 to an arbitrary position by dragging and dropping using the mouse (operation input unit 56).
[0108]
On the upper side of the main area 102, a “near” button 142 that is pressed to bring the perspective of the character or the like input to the text input area 141 when viewed stereoscopically, and the character or the like input to the text input area 141, etc. There is provided a “far” button 143 that is pressed to reduce the perspective of the stereoscopic view.
[0109]
Here, the text input process will be described with reference to the flowchart of FIG. This text input process is started when the “text input” button 136 is pressed.
[0110]
In step S <b> 51, the display control block 76 displays the text input area 141 so as to be superimposed on the stereoscopic image displayed in the main area 102. When the user inputs an arbitrary character or the like in the text input area 141, the stereoscopic image generation block 75 displays the character or the like in the stereoscopic image so that the input character or the like is stereoscopically viewed with a predetermined perspective. Superimpose.
[0111]
In step S52, the GUI block 71 determines whether or not the “near” button 142 has been pressed. If it is determined that the “near” button 142 is pressed, the process proceeds to step S53. In step S <b> 53, the stereoscopic image generation block 75 superimposes characters and the like on the stereoscopic image so that the perspective of the input characters and the like can be viewed stereoscopically closer according to the control from the GUI block 71. . If it is determined in step S52 that the “near” button 142 has not been pressed, the process in step S53 is skipped.
[0112]
In step S54, the GUI block 71 determines whether or not the “far” button 143 has been pressed. If it is determined that the “far” button 143 has been pressed, the process proceeds to step S55. In step S55, the stereoscopic image generation block 75 superimposes characters and the like on the stereoscopic image and the like so that the perspective of the input characters and the like can be viewed stereoscopically at a further distance in accordance with the control from the GUI block 71. To do. If it is determined in step S54 that the “far” button 143 has not been pressed, the process in step S55 is skipped.
[0113]
In step S56, the GUI block 71 determines whether or not the “text input” button 13642 has been pressed again. If it is determined that the “text input” button 136 has not been pressed again, the process returns to step S52, and the subsequent processing is repeated.
[0114]
If it is determined in step S56 that the “text input” button 13642 has been pressed again, the process proceeds to step S57. In step S <b> 57, the stereoscopic image generation block 75 outputs the input text information such as characters, coordinate information on the stereoscopic image such as characters, and perspective information such as characters in the stereoscopic view to the image management block 72. The image management block 72 records in association with the image data of the stereoscopic image. This is the end of the description of the text input process.
[0115]
In the present specification, the step of describing the program recorded in the recording medium is not limited to the processing performed in time series according to the described order, but is not necessarily performed in time series, either in parallel or individually. The process to be executed is also included.
[0116]
Further, in this specification, the system represents the entire apparatus constituted by a plurality of apparatuses.
[0117]
【The invention's effect】
As described above, according to the present invention, the user can easily adjust the alignment of the L image and the R image.
[Brief description of the drawings]
FIG. 1 is a diagram illustrating a state where an optical adapter is attached to a camera.
FIG. 2 is a diagram illustrating a configuration example of the optical adapter in FIG.
FIG. 3 is a diagram illustrating a parallax image captured by a camera with an optical adapter attached.
FIG. 4 is a diagram illustrating a configuration example of a stereoscopic vision system to which the present invention is applied.
FIG. 5 is a diagram illustrating a parallax image composed of a mirror image and a through image.
FIG. 6 is a diagram illustrating an L image and an R image trimmed from a mirror image and a through image.
FIG. 7 is a diagram for explaining a process of generating a stereoscopic image by combining an L image and an R image.
FIG. 8 is a diagram illustrating a stereoscopic image.
FIG. 9 is a diagram for explaining an overview of stereoscopically viewing a stereoscopic image.
10 is a block diagram illustrating a configuration example of the personal computer in FIG. 4;
11 is a diagram illustrating a configuration example of functional blocks that are realized by the CPU in FIG. 10 executing an image processing program.
FIG. 12 is a diagram illustrating a display example of a window corresponding to an image processing program.
13 is a diagram showing a display example of a window when the “image acquisition” button in FIG. 12 is pressed.
FIG. 14 is a flowchart illustrating a stereoscopic image generation process.
FIG. 15 is a flowchart illustrating an image pair automatic selection process.
FIG. 16 is a flowchart illustrating position adjustment processing in the vertical direction of an L image and an R image.
FIG. 17 is a diagram illustrating a display example of a window in the vertical position adjustment process for an L image and an R image.
FIG. 18 is a diagram illustrating a display example of a window when a stereoscopic image is generated.
FIG. 19 is a flowchart illustrating a stereoscopic image conversion process.
FIG. 20 is a diagram showing a display example of a window when the “text input” button in FIG. 18 is pressed.
FIG. 21 is a flowchart illustrating text input processing.
[Explanation of symbols]
DESCRIPTION OF SYMBOLS 1 Digital still camera, 11 Optical adapter, 31 Personal computer, 41 Filter glasses, 43 Line polarizing plate, 51 CPU, 61 Magnetic disk, 62 Optical disk, 63 Magneto-optical disk, 64 Semiconductor memory, 65 Image processing program, 71 GUI block, 72 image management block, 73 image acquisition block, 74 base image selection block, 75 stereoscopic image generation block, 76 display control block

Claims (8)

左眼用の画像および右眼用の画像に基づいて立体視画像を表示させるための画像データを生成する画像処理装置において、
前記左眼用の画像と前記右眼用の画像の全体的な輝度の差がなくなるように、前記左眼用の画像または前記右眼用の画像の一方がミラーによって反射されていないスルー画像、他方がミラーによって反射されたミラー画像である場合、前記ミラー画像の輝度を補正する補正手段と、
前記左眼用の画像または前記右眼用の画像の他方がミラー画像として輝度補正された後、それぞれが縮小された縮小Ｌ画像および縮小Ｒ画像を取得する取得手段と、
ユーザの操作に対応して、前記縮小Ｌ画像および前記縮小Ｒ画像の一方に対する他方の相対的な位置を示す調整値を設定する設定手段と、
前記調整値に基づき、前記縮小Ｌ画像と前記縮小Ｒ画像を合成して表示させる合成手段と
を含む画像処理装置。In an image processing device that generates image data for displaying a stereoscopic image based on an image for the left eye and an image for the right eye,
A through image in which one of the image for the left eye or the image for the right eye is not reflected by a mirror so that there is no difference in overall brightness between the image for the left eye and the image for the right eye, When the other is a mirror image reflected by a mirror, correction means for correcting the brightness of the mirror image;
An acquisition means for acquiring a reduced L image and a reduced R image each reduced after luminance correction of the other of the left eye image or the right eye image as a mirror image ;
Setting means for setting an adjustment value indicating a relative position of one of the reduced L image and the reduced R image to the other in response to a user operation;
Based on said adjustment value, said reduced L image and the reduced R image including the image processing apparatus and a combining means for combining and displaying the. 前記合成手段は、前記縮小Ｌ画像と前記縮小Ｒ画像の対応する画素同士を加算して表示させる
請求項１に記載の画像処理装置。The synthesizing unit adds and displays the corresponding pixels of the reduced L image and the reduced R image.
The image processing apparatus according to 請 Motomeko 1. 前記調整値に基づき、前記左眼用の画像および前記右眼用の画像を合成して前記立体視画像を表示させるための画像データを生成する生成手段を
さらに含む請求項１に記載の画像処理装置。Based on said adjustment value image and the right image for the eye synthesized and the described further including claim 1 generating means for generating image data for displaying the stereoscopic image image for the left eye Processing equipment. 前記生成手段は、前記立体視画像の奇数ラインについては前記左眼用の画像および前記右眼用の画像のうちの一方の画像データを優先的に用い、前記立体視画像の偶数ラインについては前記左眼用の画像および前記右眼用の画像のうちの他方の画像データを優先的に用いて、前記第１の立体視画像を表示するための画像データを生成する
請求項１に記載の画像処理装置。The generating means preferentially uses one image data of the left-eye image and the right-eye image for odd lines of the stereoscopic image, and for the even lines of the stereoscopic image, Image data for displaying the first stereoscopic image is generated by preferentially using the other image data of the left-eye image and the right-eye image.
The image processing apparatus according to 請 Motomeko 1. 前記左眼用の画像、前記右眼用の画像、前記縮小Ｌ画像、前記縮小Ｒ画像、および前記調整値を対応付けて記憶する記憶手段を
さらに含む請求項１に記載の画像処理装置。Image for the left eye, the image for the right eye, the reduced L image, the reduced R image, and the image processing apparatus according to still including claim 1 storage means for storing in association with the adjustment value. 左眼用の画像および右眼用の画像に基づいて立体視画像を表示させるための画像データを生成する画像処理装置の画像処理方法において、
前記画像処理装置が、
前記左眼用の画像と前記右眼用の画像の全体的な輝度の差がなくなるように、前記左眼用の画像または前記右眼用の画像の一方がミラーによって反射されていないスルー画像、他方がミラーによって反射されたミラー画像である場合、前記ミラー画像の輝度を補正する補正手段と、
前記左眼用の画像または前記右眼用の画像の他方がミラー画像として輝度補正された後、それぞれが縮小された縮小Ｌ画像および縮小Ｒ画像を取得する取得手段と、
ユーザの操作に対応して、前記縮小Ｌ画像および前記縮小Ｒ画像の一方に対する他方の相対的な位置を示す調整値を設定する設定手段と、
前記調整値に基づき、前記縮小Ｌ画像と前記縮小Ｒ画像を合成して表示させる合成手段とを備え、
前記補正手段による、前記左眼用の画像と前記右眼用の画像の全体的な輝度の差がなくなるように、前記左眼用の画像または前記右眼用の画像の一方がミラーによって反射されていないスルー画像、他方がミラーによって反射されたミラー画像である場合、前記ミラ ー画像の輝度を補正する補正ステップと、
前記取得手段による、前記左眼用の画像または前記右眼用の画像の他方がミラー画像として輝度補正された後、それぞれが縮小された縮小Ｌ画像および縮小Ｒ画像を取得する取得ステップと、
前記設定手段による、ユーザの操作に対応して、前記縮小Ｌ画像および前記縮小Ｒ画像の一方に対する他方の相対的な位置を示す調整値を設定する設定ステップと、
前記合成手段による、前記調整値に基づき、前記縮小Ｌ画像と前記縮小Ｒ画像を合成して表示させる合成ステップと
を含む画像処理方法。In an image processing method of an image processing apparatus that generates image data for displaying a stereoscopic image based on an image for the left eye and an image for the right eye,
The image processing apparatus is
A through image in which one of the image for the left eye or the image for the right eye is not reflected by a mirror so that there is no difference in overall brightness between the image for the left eye and the image for the right eye, When the other is a mirror image reflected by a mirror, correction means for correcting the brightness of the mirror image;
An acquisition means for acquiring a reduced L image and a reduced R image each reduced after luminance correction of the other of the left eye image or the right eye image as a mirror image;
Setting means for setting an adjustment value indicating a relative position of one of the reduced L image and the reduced R image to the other in response to a user operation;
Combining means for combining and displaying the reduced L image and the reduced R image based on the adjustment value;
One of the left-eye image and the right-eye image is reflected by a mirror so that there is no difference in overall luminance between the left-eye image and the right-eye image by the correction unit. not through image, the other is the mirror image reflected by the mirror, and a correction step of correcting the luminance of the mirror image,
An acquisition step of acquiring a reduced L image and a reduced R image each reduced after the other of the left eye image or the right eye image is subjected to luminance correction as a mirror image by the acquisition means;
A setting step of setting an adjustment value indicating a relative position of the other of the reduced L image and the reduced R image in response to a user operation by the setting unit ;
Wherein by combining means based on said adjustment value, said reduced L image and combining steps and the including image processing method for combining and displaying the reduced R image. 左眼用の画像および右眼用の画像に基づいて立体視画像を表示させるための画像データを生成するコンピュータに、  A computer that generates image data for displaying a stereoscopic image based on the image for the left eye and the image for the right eye,
前記左眼用の画像と前記右眼用の画像の全体的な輝度の差がなくなるように、前記左眼用の画像または前記右眼用の画像の一方がミラーによって反射されていないスルー画像、他方がミラーによって反射されたミラー画像である場合、前記ミラー画像の輝度を補正する補正手段と、  A through image in which one of the image for the left eye or the image for the right eye is not reflected by a mirror so that there is no difference in overall brightness between the image for the left eye and the image for the right eye, When the other is a mirror image reflected by a mirror, correction means for correcting the brightness of the mirror image;
前記左眼用の画像または前記右眼用の画像の他方がミラー画像として輝度補正された後、それぞれが縮小された縮小Ｌ画像および縮小Ｒ画像を取得する取得手段と、  An acquisition means for acquiring a reduced L image and a reduced R image each reduced after luminance correction of the other of the left eye image or the right eye image as a mirror image;
ユーザの操作に対応して、前記縮小Ｌ画像および前記縮小Ｒ画像の一方に対する他方の相対的な位置を示す調整値を設定する設定手段と、  Setting means for setting an adjustment value indicating a relative position of one of the reduced L image and the reduced R image to the other in response to a user operation;
前記調整値に基づき、前記縮小Ｌ画像と前記縮小Ｒ画像を合成して表示させる合成手段と  Combining means for combining and displaying the reduced L image and the reduced R image based on the adjustment value;
して機能させるプログラム。  Program to make it work. 左眼用の画像および右眼用の画像に基づいて立体視画像を表示させるための画像データを生成するコンピュータに、  A computer that generates image data for displaying a stereoscopic image based on the image for the left eye and the image for the right eye,
前記左眼用の画像と前記右眼用の画像の全体的な輝度の差がなくなるように、前記左眼用の画像または前記右眼用の画像の一方がミラーによって反射されていないスルー画像、他方がミラーによって反射されたミラー画像である場合、前記ミラー画像の輝度を補正する補正手段と、  A through image in which one of the image for the left eye or the image for the right eye is not reflected by a mirror so that there is no difference in overall brightness between the image for the left eye and the image for the right eye, When the other is a mirror image reflected by a mirror, correction means for correcting the brightness of the mirror image;
前記左眼用の画像または前記右眼用の画像の他方がミラー画像として輝度補正された後、それぞれが縮小された縮小Ｌ画像および縮小Ｒ画像を取得する取得手段と、  An acquisition means for acquiring a reduced L image and a reduced R image each reduced after luminance correction of the other of the left eye image or the right eye image as a mirror image;
ユーザの操作に対応して、前記縮小Ｌ画像および前記縮小Ｒ画像の一方に対する他方の相対的な位置を示す調整値を設定する設定手段と、  Setting means for setting an adjustment value indicating a relative position of one of the reduced L image and the reduced R image to the other in response to a user operation;
前記調整値に基づき、前記縮小Ｌ画像と前記縮小Ｒ画像を合成して表示させる合成手段と  Combining means for combining and displaying the reduced L image and the reduced R image based on the adjustment value;
して機能させるプログラムが記録されたコンピュータ読み取り可能な記録媒体。  A computer-readable recording medium on which a program to be operated is recorded.
JP2002261539A 2002-09-06 2002-09-06 Image processing apparatus and method, recording medium, and program Expired - Fee Related JP4200717B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002261539A JP4200717B2 (en) 2002-09-06 2002-09-06 Image processing apparatus and method, recording medium, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002261539A JP4200717B2 (en) 2002-09-06 2002-09-06 Image processing apparatus and method, recording medium, and program

Publications (2)

Publication Number Publication Date
JP2004102512A JP2004102512A (en) 2004-04-02
JP4200717B2 true JP4200717B2 (en) 2008-12-24

Family

ID=32261885

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002261539A Expired - Fee Related JP4200717B2 (en) 2002-09-06 2002-09-06 Image processing apparatus and method, recording medium, and program

Country Status (1)

Country Link
JP (1) JP4200717B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4692770B2 (en) * 2006-12-27 2011-06-01 富士フイルム株式会社 Compound eye digital camera
JP5009847B2 (en) * 2008-03-28 2012-08-22 富士フイルム株式会社 Stereo image generating apparatus and method, and program
JP2013520924A (en) * 2010-02-24 2013-06-06 トムソン ライセンシング Subtitles for stereoscopic video
JP5325255B2 (en) * 2011-03-31 2013-10-23 富士フイルム株式会社 Stereoscopic image display device, stereoscopic image display method, and stereoscopic image display program

Also Published As

Publication number Publication date
JP2004102512A (en) 2004-04-02

Similar Documents

Publication Publication Date Title
JP4072674B2 (en) Image processing apparatus and method, recording medium, and program
JP5355208B2 (en) Three-dimensional display device and digital zoom correction method
US8791989B2 (en) Image processing apparatus, image processing method, recording method, and recording medium
JP5214826B2 (en) Stereoscopic panorama image creation device, stereo panorama image creation method, stereo panorama image creation program, stereo panorama image playback device, stereo panorama image playback method, stereo panorama image playback program, and recording medium
JP3978392B2 (en) 3D image signal generation circuit and 3D image display device
US20120154547A1 (en) Imaging device, control method thereof, and program
JP5266126B2 (en) Image display apparatus and method, and program
US20130113875A1 (en) Stereoscopic panorama image synthesizing device, multi-eye imaging device and stereoscopic panorama image synthesizing method
JP2004129186A (en) Device and program for processing stereoscopic image data, and recording medium
US10356383B2 (en) Adjustment of perceived roundness in stereoscopic image of a head
CN102959974B (en) Stereoscopic image reproducing device, its disparity adjustment method and camera
US20130162764A1 (en) Image processing apparatus, image processing method, and non-transitory computer-readable medium
JPH1127703A (en) Display device and its control method
CN102972036B (en) Replay device, compound eye imaging device, playback method and program
CN102656892B (en) Stereoscopic image display control device and operation control method of same
KR20150003576A (en) Apparatus and method for generating or reproducing three-dimensional image
JP4129786B2 (en) Image processing apparatus and method, recording medium, and program
US9369699B2 (en) Stereoscopic image display device, stereoscopic imaging device, and methods
CN103339948B (en) 3D video playing device, 3D imaging device, and 3D video playing method
JP4200718B2 (en) Image processing apparatus and method, recording medium, and program
JP4165158B2 (en) Image processing apparatus and method, recording medium, and program
JP4200717B2 (en) Image processing apparatus and method, recording medium, and program
JP4129787B2 (en) Image processing apparatus and method, recording medium, and program
JP5580486B2 (en) Image output apparatus, method and program
JP4668602B2 (en) Stereoscopic image generation apparatus and method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050810

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080417

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080515

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080618

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080916

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080929

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111017

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121017

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131017

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees