JP2004363760A - Image processing method, imaging apparatus, image processing apparatus, and image recording apparatus - Google Patents
Image processing method, imaging apparatus, image processing apparatus, and image recording apparatus Download PDFInfo
- Publication number
- JP2004363760A JP2004363760A JP2003157719A JP2003157719A JP2004363760A JP 2004363760 A JP2004363760 A JP 2004363760A JP 2003157719 A JP2003157719 A JP 2003157719A JP 2003157719 A JP2003157719 A JP 2003157719A JP 2004363760 A JP2004363760 A JP 2004363760A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- reference image
- difference
- unit
- captured
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
Description
【０００１】
【発明の属する技術分野】
本発明は、立体視表示に用いる撮像画像データを記録するデジタルカメラ等の撮像装置、立体視表示に用いる撮像画像データの画像処理方法、前記画像処理方法を用いた画像処理装置及び画像記録装置に関する。
【０００２】
【従来の技術】
平面に配置された画像により３次元（立体）画像表示を行う立体視表示が知られている。立体視表示には様々な方式があるが、共通して視差を生じさせる為の２枚の画像を必要とする。
【０００３】
立体視表示のための２枚の画像は、同一の被写体を異なる視点から撮影したものであり、自然な遠近感をつけるために、視点間距離、すなわちレンズ間の距離は、人間の両目間の距離と等しい約６、７ｃｍに設定される。
【０００４】
ステレオペアと称される立体視表示では、上述した視差を生じさせる２枚の画像が、最低でも人間の両目間の距離と同じ約６〜７ｃｍの距離に保たれるよう、夫々の画像の大きさを調整し、平面上に並べて配置される。
【０００５】
平面に配置された立体視表示の画像の観察方法には、右に置かれた画像の一つを右目で観る並行法と、右に置かれた画像の一つを左目で観る交差法とがある。並行法は観察時、目に余計な力が不要で楽に観られる反面、大きな画像を観ることは出来ない。一方、交差法は、寄り目にして観るので目が疲れ易い反面、大きな画像を観ることが出来る。
【０００６】
近年、急激なデジタルカメラの普及に伴い、デジタルカメラで上述した立体視表示に用いる画像を撮影し、立体視表示を楽しむ機会も増えている。例えば、撮影光学系を１つしか持たない一般的なデジタルカメラにおいて、同一被写体に関し連続して２度の撮影を行い、２度目の撮影前に、撮影者の立ち位置を横にずらして立体視表示用の撮像画像データを撮影させる補助機能を備えたデジタルカメラが提案されている。
【０００７】
立体視表示用の画像を記録する際には、例えば、特許文献１〜３のように２つの画像の差分を利用する技術が提案されている。
【０００８】
また、立体視表示用の撮像画像データを、立体地図を作成する為の高度計測データや、医療現場における診断データ（例えばＸ線写真）を取得することに利用したり、昆虫標本の選別に用いたりするなど、立体視表示画像を用いた画像処理方法や新規な活用事例が数多く提案されつつある。
【０００９】
一方、デジタルカメラで撮影された撮像画像データは、ＣＤ−Ｒ（Ｃｏｍｐａｃｔ Ｄｉｓｃ Ｒｅｃｏｒｄａｂｌｅ）、フロッピー（登録商標）ディスク、メモリカードなどの記憶デバイスやインターネット経由で配信され、ＣＲＴ（Ｃａｔｈｏｄｅ Ｒａｙ Ｔｕｂｅ）、液晶、プラズマ等のディスプレイモニタや携帯電話の小型液晶モニタの表示デバイスに表示されたり、デジタルプリンタ、インクジェットプリンタ、サーマルプリンタ等の出力デバイスを用いてハードコピー画像としてプリントされたりするなど、その表示・プリント方法は多種多様化してきている。
【００１０】
また、撮像画像データを鑑賞用途で表示・出力する際には、鑑賞に使用するディスプレイモニタ上、或いはハードコピー上において所望の画質が得られるように階調調整、輝度調整、カラーバランス調整、鮮鋭性強調に代表される種々の画像処理を施す事が一般に行われている。
【００１１】
こうした多様の表示・プリント方法に対応して、撮像画像データの汎用性を高める努力がなされてきた。その一環として、デジタルＲＧＢ信号が表現する色空間を撮像装置特性に依存しない色空間に標準化する試みがあり、現在では多くの撮像画像データが標準化された色空間として「ｓＲＧＢ」を採用している（「Ｍｕｌｔｉｍｅｄｉａ Ｓｙｓｔｅｍｓ ａｎｄ Ｅｑｕｉｐｍｅｎｔ−Ｃｏｌｏｕｒ Ｍｅａｓｕｒｍｅｎｔ ａｎｄ Ｍａｎａｇｅｍｅｎｔ−Ｐａｒｔ２−１：Ｃｏｌｏｕｒ Ｍａｎａｇｅｍｅｎｔ−Ｄｅｆａｕｌｔ ＲＧＢ Ｃｏｌｏｕｒ Ｓｐａｃｅ−ｓＲＧＢ」ＩＥＣ”６１９６６−２−１を参照）。このｓＲＧＢの色空間は標準的なＣＲＴディスプレイモニタの色再現領域に対応して設定されている。
【００１２】
一般的なデジタルカメラは、ＣＣＤ（電荷結合素子（ｃｈａｒｇｅ ｃｏｕｐｌｅｄ ｄｅｖｉｃｅ））と電荷転送機構と、市松模様のカラーフィルタとを組み合わせ感色性を付与した、光電変換機能を有する撮像素子（ＣＣＤ型撮像素子、以下単に「ＣＣＤ」とも称す）を備えている。
【００１３】
デジタルカメラにより出力される撮像画像データは、ＣＣＤを介して変換された電気的な元信号に、撮像素子の光電変換機能の補正（例えば、階調補正、分光感度のクロストーク補正、暗電流ノイズ抑制、鮮鋭化、ホワイトバランス調整、彩度調整等の画像処理）が施され、画像編集ソフトでの読み取り・表示が可能なように規格化された所定形式のデータフォーマットへのファイル変換・圧縮処理等を経たものである。
【００１４】
このようなデータフォーマットとしては、例えばＥｘｉｆファイルの非圧縮ファイルとして採用されている「Ｂａｓｅｌｉｎｅ Ｔｉｆｆ Ｒｅｖ．６．０ＲＧＢ Ｆｕｌｌ Ｃｏｌｏｒ Ｉｍａｇｅ」、及びＪＰＥＧフォーマットに準拠した圧縮データファイル形式が知られている。
【００１５】
前記Ｅｘｉｆファイルは、前記ｓＲＧＢに準拠したものであり、前記撮像素子の光電変換機能の補正は、ｓＲＧＢに準拠するディスプレイモニタ上で最も好適な画質となるよう設定されている。
【００１６】
例えば、どのようなデジタルカメラであっても、ｓＲＧＢ信号に準拠したディスプレイモニタの標準色空間（以下、「モニタプロファイル」とも称す）で表示する事を示すタグ情報、や画素数、画素配列、及び１画素当たりのビット数などの機種依存情報を示す付加情報を撮像画像データのファイルヘッダにメタデータとして書き込む機能、及びそのようなデータフォーマット形式を採用してさえいれば、前記撮像画像データをディスプレイモニタに表示する画像編集ソフト（例えば、Ａｄｏｂｅ社製Ｐｈｏｔｏｓｈｏｐ）はタグ情報を解析し、モニタプロファイルのｓＲＧＢへの変更を促したり、自動的に変更処置を施すことが出来るため、異なるディスプレイ間の差異を低減したり、デジタルカメラで撮影された撮像画像データの最適な状態での鑑賞を可能にしている。
【００１７】
また前記付加情報としては、前記機種依存情報以外にも、例えばカメラ名称やコード番号など、カメラ種別（機種）に直接関係する情報、或いは露出時間、シャッタースピード、絞り値（Ｆナンバー）、ＩＳＯ感度、輝度値、被写体距離範囲、光源、ストロボ発光の有無、被写体領域、ホワイトバランス、ズーム倍率、被写体構成、撮影シーンタイプ、ストロボ光源の反射光の量、撮影彩度などの撮影条件設定や、被写体の種類に関する情報などを示すタグ（コード）が用いられており、画像編集ソフトや出力デバイスは、これらの付加情報を読み取り、ハードコピー画像の画質をより好適なものとする機能を備えている。
【００１８】
【特許文献１】
特開平１０−２８２７４号公報
【特許文献２】
特開平６−３０４４５号公報
【特許文献３】
特開平７−３０９２４号公報
【００１９】
【発明が解決しようとする課題】
ところで、上述の如く、立体視表示がより身近なものとなり、活用の機会も増える一方、立体視表示用に撮影された撮像画像データの汎用性や利便性への対応が、立ち遅れているのが現状である。
【００２０】
例えば、複数の撮像画像データの中から立体視表示用の撮像画像データを自動検索したり、一連の写真プリント作成処理の流れの中で、通常の写真プリントと、立体視表示の写真プリントとを同時に処理したりすることができない。
【００２１】
また、立体視表示の画像のハードコピー作成に対応していない出力デバイスにおいて、一方の画像のみを用いて通常のハードコピーを作成するなどの処理を効率的に実行することができない。
【００２２】
また、立体視表示用に撮影された撮像画像データのもつ情報量を有効に活用することによって、より高画質な１枚の写真プリントを作成する手段が要求されている。
【００２３】
本発明の課題は、立体視表示用の撮像画像データを汎用性・利便性の高い方法で記録し、かつ立体視表示用の撮像画像データのもつ情報量を有効に活用できるようにし、画質の向上を図ることである。
【００２４】
【課題を解決するための手段】
上記課題を解決するため、請求項１に記載の発明は、
同一被写体を異なる視点、かつ、異なる撮影条件で撮影して得られた複数の撮像画像データから、１つの撮像画像データを出力する画像処理方法であって、
前記複数の撮像画像データの中から基準画像データを少なくとも１つ選定する工程と、
前記選定された基準画像データと他の撮像画像データとの差分内容を含む差分画像データを抽出する工程と、
前記抽出された差分画像データを前記基準画像データに添付する工程と、
前記差分画像データが添付されていることを示す添付識別情報及び前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を前記基準画像データに添付する工程と、
を含むことを特徴としている。
【００２５】
請求項２に記載の発明は、請求項１に記載の発明において、
前記添付識別情報及び前記撮影条件設定情報を、前記基準画像データのヘッダ領域にタグ情報として記録することにより、前記基準画像データに添付する工程を含むことを特徴としている。
【００２６】
請求項３に記載の発明は、
入力撮像データを出力媒体上で鑑賞するのに最適な画像データに処理して出力する画像処理方法において、
同一被写体を異なる視点、かつ、異なる撮影条件で撮影して得られた複数の撮像画像データのうちの基準画像データと他の撮像画像データとの差分内容を含む差分画像データ、この差分画像データが添付された基準画像データ、前記基準画像データに前記差分画像データが添付されていることを示す添付識別情報、及び、前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を入力する工程と、
前記添付識別情報に基づいて、前記基準画像データと前記差分画像データを分離する工程と、
前記撮影条件設定情報に基づいて、前記分離された基準画像データ及び差分画像データを用いて視差画像データを生成する工程と、
前記基準画像データ及び前記視差画像データに基づいて、立体視表示用の画像データを生成する工程と、
を含むことを特徴としている。
【００２７】
請求項４に記載の発明は、請求項３に記載の発明において、
前記添付識別情報及び前記撮影条件設定情報が、前記入力された撮像画像データのヘッダ領域に記録されたタグ情報であることを特徴としている。
【００２８】
請求項５に記載の発明は、請求項１〜４の何れか一項に記載の発明において、
前記撮影条件が、撮像素子の感度設定であることを特徴としている。
【００２９】
請求項６に記載の発明は、
同一被写体を異なる視点、かつ、異なる撮影条件で撮影して複数の撮像画像データを得る撮像装置において、
前記複数の撮像画像データの中から基準画像データを少なくとも１つ選定する基準画像データ選定手段と、
前記選定された基準画像データと他の撮像画像データとの差分内容を含む差分画像データを抽出する差分画像データ生成手段と、
前記抽出された差分画像データを前記基準画像データに添付し、更に、前記差分画像データが添付されていることを示す添付識別情報及び前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を前記基準画像データに添付する添付処理手段と、
を備えたことを特徴としている。
【００３０】
請求項７に記載の発明は、請求項６に記載の発明において、
前記添付処理手段は、前記添付識別情報及び撮影条件設定情報を、前記基準画像データのヘッダ領域にタグ情報として記録することにより、前記基準画像データに添付することを特徴としている。
【００３１】
請求項８に記載の発明は、請求項６又は７に記載の発明において、
前記撮影条件が、撮像素子の感度設定であることを特徴としている。
【００３２】
請求項９に記載の発明は、
同一被写体を異なる視点、かつ、異なる撮影条件で撮影して得られた複数の撮像画像データから、１つの撮像画像データを出力する画像処理装置において、
前記複数の撮像画像データは、それぞれ撮影条件が異なり、
前記複数の撮像画像データの中から基準画像データを少なくとも１つ選定する基準画像データ選定手段と、
前記基準画像データと他の撮像画像データとの差分内容を含む差分画像データを抽出する差分画像データ抽出手段と、
前記抽出された差分画像データを前記基準画像データに添付する差分画像データ添付手段と、
前記差分画像データが添付されていることを示す添付識別情報及び前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を前記基準画像データに添付する情報添付手段と、
を備えたことを特徴としている。
【００３３】
請求項１０に記載の発明は、請求項９に記載の発明において、
前記情報添付手段は、前記添付識別情報及び前記撮影条件設定情報を、前記基準画像データのヘッダ領域にタグ情報として記録することにより、前記基準画像データに添付することを特徴としている。
【００３４】
請求項１１に記載の発明は、
入力撮像データを出力媒体上で鑑賞するのに最適な画像データに処理して出力する画像処理装置において、
同一被写体を異なる視点、かつ、異なる撮影条件で撮影して得られた複数の撮像画像データのうちの基準画像データと他の撮像画像データとの差分内容を含む差分画像データ、この差分画像データが添付された基準画像データと、前記基準画像データに前記差分画像データが添付されていることを示す添付識別情報、及び、前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を入力する入力手段と、
前記添付識別情報及び前記撮影条件設定情報を判別する判別手段と、
前記判別された添付識別情報に基づいて、前記基準画像データと前記差分画像データを分離するデータ分離手段と、
前記判別された撮影条件設定情報に基づいて、前記分離された基準画像データ及び差分画像データを用いて視差画像データを生成する視差画像データ生成手段と、
前記基準画像データ及び前記視差画像データに基づいて、立体視表示用の画像データを生成する立体視表示用画像データ生成手段と、
を備えたことを特徴としている。
【００３５】
請求項１２に記載の発明は、請求項１１に記載の発明において、
前記添付識別情報及び撮影条件設定情報が、前記入力された撮像画像データのヘッダ領域に記録されたタグ情報であることを特徴としている。
【００３６】
請求項１３に記載の発明は、請求項９〜１２の何れか一項に記載の発明において、
前記撮影条件が、撮像素子の感度設定であることを特徴としている。
【００３７】
請求項１４に記載の発明は、
入力撮像データを出力媒体上で鑑賞するのに最適な画像データに処理して出力媒体上に鑑賞画像を形成する画像記録装置において、
同一被写体を異なる視点、かつ、異なる撮影条件で撮影して得られた複数の撮像画像データのうちの基準画像データと他の撮像画像データとの差分内容を含む差分画像データ、この差分画像データが添付された基準画像データ、前記基準画像データに前記差分画像データが添付されていることを示す添付識別情報、及び、前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を入力する入力手段と、
前記添付識別情報及び前記撮影条件設定情報を判別する判別手段と、
前記判別された添付識別情報に基づいて、前記基準画像データと前記差分画像データを分離するデータ分離手段と、
前記判別された撮影条件設定情報に基づいて、前記分離された基準画像データ及び差分画像データを用いて視差画像データを生成する視差画像データ生成手段と、
前記基準画像データ及び前記視差画像データに基づいて、立体視表示用の画像データを生成する立体視表示用画像データ生成手段と、
前記生成された立体視表示用の画像データに基づいて、出力媒体上に立体視表示用の鑑賞画像を形成する画像形成手段と、
を備えたことを特徴としている。
【００３８】
請求項１５に記載の発明は、請求項１４に記載の発明において、
前記添付識別情報及び前記撮影条件設定情報が、前記入力された撮像画像データのヘッダ領域に記録されたタグ情報であることを特徴としている。
【００３９】
請求項１６に記載の発明は、請求項１４又は１５に記載の発明において、
前記撮影条件が、撮像素子の感度設定であることを特徴としている。
【００４０】
請求項１、６、９に記載の画像処理方法、撮像装置、画像処理装置によれば、同一被写体を異なる視点、かつ、異なる視点で撮影して得られた複数の撮像画像データの中から基準画像データを少なくとも１つ選定し、選定された基準画像データと他の撮像画像データとの差分画像データを抽出し、抽出された差分画像データを基準画像データに添付し、差分画像データが添付されていることを示す添付識別情報及び複数の撮像画像データの撮影条件を示す撮影条件設定情報を基準画像データに添付する。
【００４１】
従って、同一被写体を異なる視点で撮影して得られた複数の撮像画像データ、即ち、立体視表示用に撮影された複数の撮像画像データを単一の撮像画像データとして扱うことが可能となり、複数の撮像画像データの中から立体視表示用に撮影された撮像画像データを検索する際の検索効率の向上、立体視表示に対応していないプリンタでの基準画像データでの１枚の写真プリントとしての出力等が可能となる。その結果、立体視表示用に撮影された撮像画像データと、同一被写体を一つの視点から撮影した通常の撮像画像データとの互換性を向上し、立体視表示用の撮像画像データの汎用性、利便性を向上することができる。
【００４２】
また、基準画像データには撮影条件設定情報が添付されており、基準画像データに添付される差分画像データには、基準画像データと他の撮像画像データとの撮影条件設定の違いによる差分情報が含まれるので、他の画像処理装置や画像記録装置において、これらの情報、データを利用して、立体視表示用画像を生成する際に画質向上を図ることができる。
【００４３】
請求項３、１１、１４に記載の画像処理方法、画像処理装置、画像記録装置によれば、同一被写体を異なる視点かつ異なる撮影条件で撮影して得られた複数の撮像画像データのうちの基準画像データと他の撮像画像データとの差分内容を含む差分画像データ、この差分画像データが添付された基準画像データ、基準画像データに差分画像データが添付されていることを示す添付識別情報、及び、複数の撮像画像データの撮影条件を示す撮影条件設定情報が入力されると、添付識別情報に基づいて、基準画像データと差分画像データを分離し、撮影条件設定情報に基づいて、分離された基準画像データ及び差分画像データを用いて視差画像データを生成し、基準画像データ及び視差画像データに基づいて、立体視表示用の画像データを生成する。更に、本発明の画像記録装置は、生成された立体視表示用の画像データを出力媒体上に形成する。
【００４４】
従って、入力された撮像画像データが、差分画像データが添付された、立体視表示用に撮影された基準画像データ、即ち、請求項１、６、９に記載の発明の画像処理方法、撮像装置、画像処理装置により生成された形式のデータであることを自動的に判別し、基準画像データと差分画像データから立体視表示用画像データを生成することができ、効率的な立体視表示用画像データの生成が可能となる。更に、撮影条件設定情報に基づいて、基準画像データと差分画像データを用いて視差画像データを生成するので、双方の撮像画像データのもつ情報を有効に活用して、立体視表示用画像データの画質の向上を図ることができる。
【００４５】
本発明の添付識別情報は、撮像画像データのヘッダ領域にタグ情報として記録されることが好ましい。また、異なる撮影条件としては、例えば、撮像素子の感度設定の違いが挙げられる。複数の撮像画像データが異なる感度設定で撮影されている場合、画像の領域の輝度に応じて最適な感度設定の撮像画像データの情報を用いることで、画質の向上を図ることができる。
【００４６】
次に、本発明の記載において使用される用語について詳細に説明する。
【００４７】
本発明の記載において、「同一被写体を異なる視点から撮影して得られた複数の撮像画像データ」とは、撮像装置によって撮影された、ステレオペアによる立体視表示に必要な、少なくとも２枚からなる撮像画像データである。本明細書の記載において、「立体視表示用の複数の撮像画像データ」を同義として用いる。
【００４８】
立体視表示用の複数の撮像画像データの取得には、下記３つの方法が挙げられる。
１．１台の撮像装置の位置を変えて、少なくとも２回の撮影によって行う方法
２．２台の撮像装置の間隔を開けて配置して、夫々１回の撮影により行う方法
３．所定の間隔で配置された２つの撮像光学系を有する１台の撮像装置を用いる方法
【００４９】
請求項１に記載の画像処理方法で用いる複数の撮像画像データの取得、並びに請求項６の撮像装置には、上記３．の２つの撮像光学系を有する１台の撮像装置を用いることが望ましい。
【００５０】
また、本発明で用いる「撮像画像データ」は、シーン参照画像データであることが望ましい。以下、シーン参照データについて詳細を述べる。
【００５１】
「シーン参照画像データ」とは、少なくとも撮像素子自体の分光感度に基づく各色チャンネルの信号強度を「ｓｃＲＧＢ」（ｒｅｌａｔｉｖｅ ｓｃｅｎｅ ＲＧＢ ｃｏｌｏｒ ｓｐａｃｅ）、「ＲＩＭＭ ＲＧＢ」（Ｒｅｆｅｒｅｎｃｅ Ｉｎｐｕｔ Ｍｅｄｉｕｍ Ｍｅｔｒｉｃ ＲＧＢ）や「ＥＲＩＭＭ ＲＧＢ」（Ｅｘｔｅｎｄｅｄ Ｒｅｆｅｒｅｎｃｅ Ｉｎｐｕｔ Ｍｅｄｉｕｍ Ｍｅｔｒｉｃ ＲＧＢ）などの標準色空間にマッピング済みであり、階調変換・鮮鋭性強調・彩度強調のような画像鑑賞時の効果を向上する為にデータ内容を改変する画像処理が省略された状態の画像データを意味する。またシーン参照画像データは、撮像装置の光電変換特性（ＩＳＯ１４５２が定義するｏｐｔｏ−ｅｌｅｃｔｒｏｎｉｃ ｃｏｎｖｅｒｓｉｏｎ ｆｕｎｃｔｉｏｎ， 例えばコロナ社「ファインイメージングとディジタル写真」（社）日本写真学会出版委員会編４４９頁参照）の補正を行ったものである事が好ましい。
【００５２】
シーン参照画像データの情報量（例えば階調数）はＡ／Ｄ変換器の性能に準じ、鑑賞画像参照データで必要とされる情報量（例えば階調数）と同等以上であることが好ましい。例えば鑑賞画像参照データの階調数が１チャンネルあたり８ｂｉｔである場合、シーン参照画像データの階調数は１２ｂｉｔ以上が好ましく、１４ｂｉｔ以上がより好ましく、また１６ｂｉｔ以上がさらに好ましい。
【００５３】
また、「異なる視点」の間の距離（以下、「視点間距離」と称す）、すなわちレンズ間の距離は、特殊な場合を除き、自然な遠近感をつけるために人間の両目間の距離と同じ約６、７ｃｍに設定されていることが望ましい。特殊な例としては、撮影位置から遠くに配置された被写体の立体感を強調したいといった場合がある。このような場合、視点間距離を倍に設定することで、被写体までの距離を半分にしたのと同じ効果が得られる。逆に、小さいものを接写のように撮影する場合では、視点間距離を縮めることにより、立体感が強調される。
【００５４】
立体視表示用の撮像画像データを取得する際の主要被写体までの距離は、視点間距離が６ｃｍである場合、図３に示すように、１〜４ｍ程度とすることが望ましい。これを被写体までの角度（輻湊角）にすると、約１〜４度の範囲となる。
【００５５】
例えば小さな被写体を、距離が１０ｃｍのところに置いた場合、被写体までの角度を４度以下にするには視点間距離を６ｍｍ以下に調整しなければならない。これとは正反対に、１００ｍ先でも十分に視認される大きな被写体である場合、被写体までの角度を４度に設定するには視点間距離を約６ｍに調整しなければならない。
【００５６】
よって、前記２つの撮像光学系が約６ｃｍ間隔で配置された１台の撮像装置を用いて、十分な立体感を得るには、撮像装置から１〜４ｍの距離において、撮影可能な大きさの被写体であることが望ましい。
【００５７】
「複数の撮像画像データから、１つの撮像画像データを出力する」とは、ステレオペアによる立体視表示の為に必要な少なくとも２つの撮像画像データを、立体視表示時以外では、ただ１つの撮像画像データとして扱うことが出来るよう、所定のファイル形式に加工することである。
【００５８】
「異なる撮影条件で撮影し」とは、複数の撮像画像データを、視点間距離以外の撮影条件を変えて撮影することである。例えば、上記３．の２つの撮像光学系を有する１台の撮像装置を用いた場合、２つの撮像光学系の夫々で、視点間距離以外の撮影条件を変えて撮影する。撮影条件としては、撮像素子の感度設定を例に挙げることが出来る。
【００５９】
「基準画像データを少なくとも１つ選定する」とは、ステレオペアによる立体視表示の為に必要な少なくとも２つの撮像画像データの中から、立体視表示以外の表示、或いはハードコピー出力を行うための撮像画像データを少なくとも１つ決定することである。
【００６０】
基準画像データの選定には、画像解析等を用いる。撮影条件が感度設定違いである場合、撮像画像データのヒストグラム解析により、感度設定の適正度が評価され、最も適正度が高いと評価された撮像画像データを基準画像データとして選択する。勿論、これらの操作は、自動的に処理されても良いし、ユーザーによるマニュアル操作で処理されても良い。自動的に処理されるようにするには、撮影条件設定を識別する手段を備える必要がある。このような識別手段としては、例えばファイルのヘッダ情報を活用する方法がある。
【００６１】
なお、この基準画像データは、立体視表示の写真プリント注文を受け付けない店舗、或いは顧客が立体視表示のプリント注文を顧客が依頼しない場合など、ステレオペアによる立体視表示ではなく、１枚のみの写真プリントを作成する際に好適に用いることができる。
【００６２】
「差分画像データ」とは、立体視表示用の複数の撮像画像データのうち選定された基準画像データと他の撮像画像データとの差分内容として視差情報及び撮影条件の違いによる差分情報が保持されたデジタル画像データである。
【００６３】
「基準画像データと他の撮像画像データとの差分内容を含む差分画像データを抽出し」とは、基準画像データと他の撮像画像データとの視差情報を含む差分情報を抽出することであり、下記演算式を処理例に挙げることが出来る。
なお、本明細書の記載において、基準画像データに対する他の撮像画像データを視差画像データと称する。
（式１）Ｂ＝Ａ１−Ａ２
Ａ１：基準画像データ、Ａ２：視差画像データ（他の撮像画像データ）、Ｂ：差分画像データ
【００６４】
「（差分画像データを）基準画像データに添付する」とは、基準画像データの一部に記録することであり、ファイル領域を区切って記録するファイルフォーマットの例を図５（ｃ）に示す。
【００６５】
「差分画像データが添付されていることを示す添付識別情報及び（前記）複数の撮像画像データの撮影条件を示す撮影条件設定情報を（前記）基準画像データに添付する」とは、撮像画像データの内容を示す指標や、再処理時に必要な付加情報を、被写体に関する情報が記録された領域とは異なる領域に記録することである。請求項２、７、１０に記載のように、添付識別情報及び撮影条件設定情報は、基準画像データのヘッダ領域にタグ情報として記録することが望ましい（図５（ａ）参照）。
【００６６】
本発明の記載において、「出力媒体上で鑑賞するのに最適な画像データ」、即ち「立体視表示用画像データ」は、鑑賞画像参照データであることが望ましい。以下、鑑賞画像参照データについて詳細を述べる。
【００６７】
「鑑賞画像参照データ」とは、ＣＲＴ、液晶ディスプレイ、プラズマディスプレイ等の表示デバイスや、銀塩印画紙、インクジェットペーパー、サーマルプリンタ用紙等の出力媒体上において、最適な画像が得られるよう「最適化処理」の施されたデジタル画像データである。なお鑑賞画像参照データは、シーン参照画像データを入力データとする画像処理装置、或いは画像記録装置内において、シーン参照画像データから、表示デバイス、出力媒体毎に「最適化処理」を施し生成される。
【００６８】
上記「最適化処理」の具体例としては、ｓＲＧＢ規格に準拠したＣＲＴディスプレイモニタに表示することを前提とした場合の、ｓＲＧＢ規格の色域内への変換処理がある。よって銀塩印画紙への出力を前提とした場合、銀塩印画紙の色域内で最適な色再現が得られるように処理される。また前記色域の圧縮の以外にも、１６ｂｉｔから８ｂｉｔへの階調圧縮、出力画素数の低減、及び出力デバイスの出力特性（ＬＵＴ）への対応処理等も含まれる。さらにノイズ抑制、鮮鋭化、カラーバランス調整、彩度調整、或いは覆い焼き処理等の画像処理が行われることは言うまでもない。
【００６９】
鑑賞画像参照データを生成した後、シーン参照画像データと鑑賞画像参照との差分データ（シーン参照画像データ再現用データ）を求め、視差情報の差分画像データと共に、鑑賞画像参照データに添付しても良い。この場合のファイルフォーマットの例を図５（ｂ）に示す。
【００７０】
「前記添付識別情報に基づいて、前記基準画像データと前記差分画像データを分離する」とは、基準画像データのタグ情報を解析し、差分画像データを有していた場合、ファイルフォーマットの所定の領域から、差分画像データを読み出し、基準画像データと差分画像データをいつでも画像処理可能な状態にすることである。
【００７１】
「前記分離された基準画像データ及び差分画像データに基づいて、視差画像データを生成する」とは、基準画像データと対を成す視差画像データを生成することである。
視差画像データは、例えば、下記演算式により求めることができる。
（式２）Ａ２＝Ａ１＋Ｂ
Ａ１：基準画像データ、Ａ２：視差画像データ、Ｂ：差分画像データ
更に、上記演算式で求められた視差画像データに、撮影条件設定情報に基づいて画質調整処理を施して、視差画像データを生成する。
【００７２】
「前記基準画像データ及び前記視差画像データに基づいて、立体視表示用の画像データを生成する」とは、基準画像と視差画像が、最低でも人間の両目間の距離と同じ約６〜７ｃｍの距離に保たれるよう、夫々の画像の大きさを調整し、並行法、又は交差法の観察条件に応じて正しく平面上に並べて配置されるように、ステレオペアの立体視表示用のデジタル画像データ（以下、「立体視表示用画像データ」を同義として用いる）を準備することである（図９）。
【００７３】
本発明の撮像装置には、デジタルカメラを用いる以外に、カラーネガフィルム、カラーリバーサルフィルム、白黒ネガフィルム、白黒リバーサルフィルムを用いるアナログカメラと、写真感光材料の駒画像情報を読み取りデジタル画像データを得るフィルムスキャナ、或いは銀塩印画紙上に再現された画像情報を読み取りデジタル画像データを得るフラットベットスキャナから構成されていても良い。
【００７４】
また、「撮像画像データ」の入力には、コンパクトフラッシュ（登録商標）、メモリスティック、スマートメディア、マルチメディアカード、フロッピー（登録商標）ディスク、光磁気記憶媒体（ＭＯ）、或いはＣＤ−Ｒなど、公知のあらゆる可搬式の「記憶メディア」用いることが出来る。
【００７５】
他の実施態様として、ネットワークなどの通信手段を介してデジタル画像データを遠隔地より取得しても良いし、或いは撮像装置と画像処理装置、画像記録装置とを有線で接続し、デジタル画像データを直接送信する方式であっても良い。
【００７６】
更に、本発明の撮像装置、画像処理装置、ならびに画像記録装置において、Ｅｘｉｆファイルの付加情報を、撮像画像データのヘッダ記録情報として用いても良い。
前記付加情報としては、例えば、機種依存情報、カメラ名称やコード番号などカメラ種別（機種）に直接関係する情報、或いは露出時間、シャッタースピード、絞り値（Ｆナンバー）、ＩＳＯ感度、輝度値、被写体距離範囲、光源、ストロボ発光の有無、被写体領域、ホワイトバランス、ズーム倍率、被写体構成、撮影シーンタイプ、ストロボ光源の反射光の量、撮影彩度などの撮影条件設定や、被写体の種類に関する情報などを示すタグ（コード）が用いられている。
【００７７】
【発明の実施の形態】
以下、本発明に係る撮像装置の好ましい実施形態ついて、図面に基づいて説明する。
【００７８】
＜撮像装置３０の構成＞
まず、構成を説明する。
図１は、本発明に係る撮像装置３０の機能的構成を示すブロック図である。撮像装置３０は、同一の被写体に対し、異なる視点から同時又は逐次撮影を行い、立体視表示用の複数の撮像画像データを記録可能なデジタルカメラである。図１に示すように、撮像装置３０は、第一撮像部２１、第二撮像部２２、一時記憶メモリ６、画像処理部７、添付処理部８、記憶デバイス９、制御部１１、基準画像データ選定部１２、差分画像データ生成部１３、操作部１４、表示部１５、ストロボ駆動回路１６、ストロボ１７、撮影条件設定情報生成部２３等を備えて構成されている。
【００７９】
第一撮像部２１、第二撮像部２２は、同一被写体を異なる視点から撮影するために、所定の間隔で配置されており、それぞれレンズ１、絞り２、ＣＣＤ（固体撮像素子）３、アナログ処理回路４、Ａ／Ｄ変換器５、ＣＣＤ駆動回路１０、焦点距離調整回路１８、自動焦点駆動回路１９、モータ２０等を備えて構成され、制御部１１の制御により、撮影を行う。
【００８０】
レンズ１は、フォーカスの調節を行い、被写体の光画像を結像する。絞り２は、レンズ１を透過した光束の光量を調節する。ＣＣＤ３は、レンズ１により受光面上に結像された被写体光を、ＣＣＤ３内の各センサ毎に光の入射量に応じた量の電気的な信号（撮像信号）へ光電変換する。そして、ＣＣＤ３は、ＣＣＤ駆動回路１０から出力されるタイミングパルスに制御されることにより、この撮像信号をアナログ処理回路４へ順次出力する。
【００８１】
アナログ処理回路４は、ＣＣＤ３から入力された撮像信号に対して、Ｒ、Ｇ、Ｂ信号の増幅やノイズの低減処理等を行う。Ａ／Ｄ変換器５は、アナログ処理回路４から入力された撮像信号をデジタルの撮像画像データに変換して一時記憶メモリ６へ出力する。
【００８２】
ＣＣＤ駆動回路１０は、制御部１１から出力される制御信号をもとにタイミングパルスを出力し、ＣＣＤ３の駆動制御を行う。
【００８３】
焦点距離調整回路１８は、制御部１１からの制御信号により、レンズ１を移動させて焦点距離を調整するためのモータ２０の制御を行う。
【００８４】
自動焦点駆動回路１９は、制御部１１からの制御信号により、レンズ１を移動させてフォーカス（ピント）を調整するためのモータ２０の制御を行う。
【００８５】
ここで、第一撮像部２１と第二撮像部２２のレンズ１間の距離（視点間距離）は、特殊な場合を除き、自然な遠近感をつけるために人間の両目間の距離と同じ約６、７ｃｍに設定されていることが望ましい。
【００８６】
特殊な例としては、撮像装置３０から遠くに配置された被写体の立体感を強調したいといった場合がある。このような場合、視点間距離を倍に設定することで、被写体までの距離を半分にしたのと同じ効果が得られる。逆に、小さいものを接写のように撮影する場合では、視点間距離を縮めることにより、立体感が強調される。
【００８７】
立体視表示用の複数の撮像画像データを取得する際の主要被写体までの距離は、視点間距離が６ｃｍである場合、図３に示すように、１〜４ｍ程度とすることが望ましい。これを被写体までの角度（輻湊角）にすると、約１〜４度の範囲となる。
【００８８】
例えば小さな被写体を、距離が１０ｃｍのところに置いた場合、被写体までの角度を４度以下にするには視点間距離を６ｍｍ以下に調整しなければならない。
これとは正反対に、１００ｍ先でも十分に視認される大きな被写体である場合、被写体までの角度を４度に設定するには視点間距離を約６ｍに調整しなければならない。
【００８９】
よって、第一撮像部２１と第二撮像部２２のレンズ１間が約６ｃｍ間隔で配置されている場合、十分な立体感を得るには、撮像装置３０から１〜４ｍの距離において、撮影可能な大きさの被写体であることが望ましい。
【００９０】
なお、撮像装置３０は、第一撮像部２１と第二撮像部２２の双方を備える構成としてもよいし、一方の撮像部、例えば第二撮像部２２をアダプタ付きのアタッチメントとして撮像装置３０に着脱自在に構成し、立体視表示用の複数の撮像画像データを撮影する際に、第二撮像部２２を、アダプタを介して取り付けるようにしてもよい。また、一方の撮像部を撮像装置３０の長手方向にスライド可能に構成することで、視点間距離を調整したり、視点間距離の異なる複数の画像を撮影したりすることができる。
【００９１】
第一撮像部２１、第二撮像部２２により得られた撮像画像データはバッファメモリ等の一時記憶メモリ６へ出力され、それぞれ一時的に格納される。
【００９２】
画像処理部７は、一時記憶メモリ６へ記憶された各撮像画像データに撮像装置特性補正処理を施して、シーン参照画像データを生成する。撮像装置特性補正処理には、撮像素子の撮像素子固有の分光感度に基づく各色チャンネルの信号強度を、例えばｓｃＲＧＢ、ＲＩＭＭ ＲＧＢやＥＲＩＭＭ ＲＧＢなどの標準色空間にマッピングする処理が含まれる。その他、階調変換処理、平滑化処理、鮮鋭化処理、ノイズ除去及びモアレ除去等の周波数処理演算等を施す。
【００９３】
また、画像処理部７は、生成されたシーン参照画像データに対して、表示部１５での鑑賞に最適な画像を得るための最適化処理を施して鑑賞画像参照データを生成する。最適化処理には、例えば、ｓＲＧＢ、ＲＯＭＭ ＲＧＢ（Ｒｅｆｅｒｅｎｃｅ Ｏｕｔｐｕｔ Ｍｅｄｉｕｍ Ｍｅｔｒｉｃ ＲＧＢ）等、表示部１５に適した色域への圧縮、１６ｂｉｔから８ｂｉｔへの階調圧縮、出力画素数の低減、表示部１５の出力特性（ＬＵＴ）への対応処理等が含まれる。更に、ノイズ抑制、鮮鋭化、カラーバランス調整、彩度調整、覆い焼き処理等の画像処理が含まれる。画像処理部７は、その他、画像サイズの変更、トリミング、アスペクト変換等を行う。シーン参照画像データの出力を指定する操作信号が操作部１４より入力されると、制御部１１の制御により、この画像処理部７における、鑑賞画像参照データの生成が省略される。
【００９４】
添付処理部８は、差分画像データ生成部１３で生成された差分画像データを基準画像データ選定部１２で選定された基準画像データの一部に記録して添付済みのデータファイルを生成するとともに、データファイルのヘッダ領域に対し、差分画像データが添付されていることを示す添付識別情報、撮影条件設定情報生成部２３で生成された、各撮像画像データの撮影条件を示す撮影条件設定情報をタグ情報として書き込み処理する。
【００９５】
記憶デバイス９は、不揮発性の半導体メモリ等により構成されており、撮像画像データを記録するメモリカード等の、撮像装置３０に着脱可能に構成された記憶メディアと、撮像装置３０の制御プログラムが記憶された読み出し可能な記憶デバイスとにより構成されている。
【００９６】
制御部１１は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）等により構成され、記憶デバイス９に記憶されている撮像装置３０の制御プログラムを読み出して、読み出したプログラムに従って撮像装置３０全体の制御を行う。具体的には、制御部１１は、操作部１４からの操作信号に応じて、撮影条件設定に基づいて、第一撮像部２１、第二撮像部２２、ストロボ駆動回路１６等の制御を行い、撮影を行う。
【００９７】
また、制御部１１は、操作部１４によりシーン参照画像データによる立体視表示用の撮像画像データの出力が指定されると、後述する立体視表示用画像撮影・記録処理を実行する。
【００９８】
基準画像データ選定部１２は、撮影により得られた立体視表示用の複数の撮像画像データから、基準画像データを選定し、結果を差分画像データ生成部１３、添付処理部８へ出力する。基準画像データの選定は、画像解析結果に基づいて、１枚の撮像画像データとして最も好適な画像が選定される。例えば、撮影条件設定が感度設定違い（後述するステレオ感度変更モード）である場合、各撮像画像データをヒストグラム解析し、この結果に基づき各撮像画像データの感度設定の適正度を評価し、最も適正度が高いと評価された撮像画像データを基準画像データとして選定する。例えば、各撮像画像データの輝度値が０〜２５５で表される場合、ヒストグラムで輝度値が０側に収束している場合は白とびがない、ヒストグラムがダブルピークであれば逆光やストロボが強く当っている可能性がある等を判断し、これらの判断により感度設定の適正度を評価する。勿論、これらの選定は、自動的に処理されても良いし、ユーザによるマニュアル操作で処理されても良い。
【００９９】
差分画像データ生成部１３は、基準画像データ選定部１２により基準画像データとして選定された撮像画像データと、立体視表示の際に基準画像データと対をなす他の撮像画像データ（視差画像データと称する）との差分画像データを下記の演算式により抽出し、添付処理部８に出力する。
Ａ１：基準画像データ
Ａ２：視差画像データ
Ｂ：差分画像データ
Ｂ＝Ａ１−Ａ２
【０１００】
操作部１４には、図示しないレリーズボタン、電源のＯＮ／ＯＦＦボタン、ズームボタン、撮影条件（モード）設定ボタン等の各種機能ボタン、カーソルキー等が設けられ、各ボタンやキーに対応する操作信号を入力信号として制御部１１に出力する。また、操作部１４は、表示部１５の表示画面上を覆うタッチパネルを有し、手指やタッチペン等で押下された表示画面上の力点のＸＹ座標を電圧値で検出し、検出された位置信号を操作信号として制御部１１に出力する。
【０１０１】
操作部１４の撮影条件（モード）設定ボタンは、第一撮像部２１及び第二撮像部２２を用いて複数の撮像画像データを撮影する際の撮影条件設定を行うためのボタンである。撮影条件設定の入力方法としては、各撮像画像データに対する撮影条件の設定をユーザがマニュアルで入力するようにしてもよいが、本実施の形態においては、予め各撮像部の撮影条件設定をモードに対応付けておき、撮影条件（モード）設定ボタンによりモード設定が入力されると、入力されたモードに基づいて各撮像部における撮影条件が自動的に設定される。モードとしては、例えば、複数の撮影を行う際に、各撮影において、視点のみを変更して撮影するステレオ写真モード、視点及び撮像素子の感度を変更して撮影するステレオ感度変更モード、シャッタースピードを変更して撮影するスポーツモード、絞りを変更する風景モード等がある。例えば、操作部１４によりステレオ感度変更モードに設定された場合には、制御部１１により第一撮像部２１のＣＣＤ３が低感度（高感度）、第二撮像部２２のＣＣＤ３が高感度（低感度）になるように制御され、２つの撮像部により異なる視点から異なる感度で被写体が撮影される。
【０１０２】
表示部１５は、制御部１１からの制御信号により、撮像画像データを表示するとともに、撮像装置３０の使用者が撮影に関する設定や条件を確認するための情報や設定や条件を入力するための表示画面を表示する。
【０１０３】
ストロボ駆動回路１６は、制御部１１からの制御信号により、被写体輝度が低い時にストロボ１７を駆動制御して発光させる。
ストロボ１７は、電池電圧を所定の高電圧に昇圧させ、電荷としてコンデンサに蓄える。そして、ストロボ駆動回路１６により駆動されることにより、コンデンサに蓄えられた電荷によりＸ管を発光して、被写体に対して補助光を照射する。
【０１０４】
撮影条件設定情報生成部２３は、各撮像画像データが撮影された際の撮影条件を示す撮影条件設定情報を生成し、添付処理部８へ出力する。
【０１０５】
＜撮像装置３０の動作＞
次に、動作について説明する。
図４は、操作部１４により、シーン参照画像データによる立体視表示用の複数の撮像画像データの出力が設定され、レリーズスイッチが押下された際に、制御部１１の制御により実行される立体視表示用画像撮影・記録処理を示すフローチャートである。以下、図４を参照して立体視表示用画像撮影・記録処理について説明する。
【０１０６】
操作部１４のレリーズボタンが押下されると、操作部１４の撮影条件設定ボタンからのモード設定に基づいて、制御部１１により第一撮像部２１と第二撮像部２２それぞれの絞り２、ＣＣＤ３、シャッター速度等が制御され、同一被写体が異なる視点から撮影される（ステップＳ１）。この撮影により得られた立体視表示用の複数の撮像画像データは、それぞれ画像処理部７において撮像装置特性補正処理が施され、ＲＩＭＭ ＲＧＢやＥＲＩＭＭ ＲＧＢの標準色空間にマッピングされ、立体視表示用のシーン参照画像データが生成され、差分画像データ生成部１３に出力される（ステップＳ２）。
【０１０７】
一方、撮影条件設定情報生成部２３により、撮影時の撮影条件に基づいて、撮影条件設定情報が生成され、添付処理部８へ出力される（ステップＳ３）。
【０１０８】
次いで、基準画像データ選定部１２において、撮影により得られた立体視表示用の複数の撮像画像データ（シーン参照画像データ）から１枚の撮像画像として鑑賞するのに最も好適な撮像画像データが基準画像データとして選定される（ステップＳ４）。基準画像データの選定は、画像解析結果に基づいて行われる。例えば、モードがステレオ感度変更モードに設定されており、撮影条件設定が感度設定違いである場合、各撮像画像データがヒストグラム解析され、この結果に基づき各撮像画像データの感度設定の適正度が評価され、最も適正度が高いと評価された撮像画像データが基準画像データとして選定される。
【０１０９】
次いで、差分画像データ生成部１３において、選定された基準画像データと、他の撮像画像データである視差画像データとの差分を抽出することにより差分画像データが生成される（ステップＳ５）。差分画像データには、基準画像データと視差画像データの視差情報及び撮影条件設定の違いによる差分情報が含まれている。基準画像データ及び生成された差分画像データは添付処理部８に出力され、差分画像データが基準画像データの一部に記録されることにより、差分画像データが基準画像データに添付され（ステップＳ６）、ＪＰＥＧ方式で圧縮され、ＤＣＦ（Ｄｅｓｉｇｎ ｒｕｌｅ ｆｏｒ Ｃａｍｅｒａ Ｆｉｌｅ ｓｙｓｔｅｍ）規格に準拠したファイルフォーマットの添付済みデータファイルが生成される（ステップＳ７）。さらに、差分画像データの添付された基準画像データのファイルのヘッダ領域に対し、添付識別情報及び撮影条件設定情報がタグ情報として記録され（ステップＳ８）、記憶デバイス９の記憶メディアに記録される（ステップＳ９）。ここで、添付識別情報は、差分画像データの添付を示すフラグや、差分画像データの領域を示す情報等、再処理時に必要な付加情報である。
【０１１０】
図５（ａ）は、ステップＳ９で記憶デバイス９の記憶メディアに記録されるデータファイルのデータ構造を示す図である。図５（ａ）に示すように、記憶メディアに記録されるデータファイルは、基準画像データ領域、差分画像データ領域、ヘッダ領域を有している。この記憶メディアを撮像装置３０から取り出して、画像処理装置や画像記録装置等の外部装置に装着することにより、基準画像データ、差分画像データ、ヘッダ領域のタグ情報をこれらの外部装置に出力し、外部装置で利用することができる。
【０１１１】
以上説明したように、撮像装置３０によれば、立体視表示用の複数の撮像画像データをそれぞれの撮影条件設定を変えて撮影し、その中から１枚の撮像画像として最も好適な撮像画像データを基準画像データとして選定し、この基準画像データと、これに対する視差画像データとの差分を抽出して差分画像データとして基準画像データに添付する。従って、立体視表示用の複数の撮像画像データのうち、最も好適な撮像画像データを単一の撮像画像データとして扱うことが可能となるとともに、立体視表示用ではない通常の撮像画像データと同様のファイルフォーマットでの保存、ファイルの名称設定等が可能となる。また、ファイルのヘッダ領域に添付識別情報を記録しているので、複数のファイルの中から立体視表示用の撮像画像データのファイルを検索する際の検索効率を改善することができる。
【０１１２】
このように、撮像装置３０によれば、立体視表示用の撮像画像データと通常の撮像画像データとの互換性、立体視表示用の撮像画像データの汎用性、利便性を向上することができる。基準画像データ及び差分画像データをＤＣＦ規格に準拠したファイルフォーマットで記録することにより、より立体視表示用の撮像画像データの汎用性、利便性を向上することができる。
【０１１３】
また、基準画像データとこれに対する視差画像データをそのまま保存するのではなく、差分画像データを基準画像データに添付するようにしたことで、使用するファイル容量が少なくてすみ、撮影枚数を大幅に増加させることができる。更に、基準画像データ及び視差画像データは、シーン参照画像データとして記録されるので、撮像装置３０が取得した広い色域・輝度域の情報の損失を防止することができる。
【０１１４】
更に、基準画像データとして、異なる撮影条件の撮像画像データの中から好適な撮像画像データが選定されるので、立体視表示用の撮像画像データを１枚の写真プリントとして出力したり表示したりする場合に、画質の向上を図ることができる。また、撮像装置３０から出力されるデータファイルのヘッダ領域に撮影条件設定情報が記録され、基準画像データに添付される差分画像データに、視差情報とともに基準画像データと視差画像データとの撮影条件設定の違いによる差分情報が含まれるので、これらの情報、データを利用して、他の画像処理装置や画像記録装置において、基準画像データと視差画像データの情報の補間等を行うことにより、更なる画質向上を図ることができる。基準画像データを１枚の撮像画像として利用する際にも、差分画像データを利用して情報の補間等を行うことにより、更なる画質向上を図ることができる。
【０１１５】
なお、上記実施の形態においては、ファイルのヘッダ領域に添付識別情報をタグ情報として記録することとしたが、何視点分の差分画像データが記憶されているかの情報や、各差分画像データの基準画像データとの視点間距離等をヘッダ領域に記録することが望ましい。
【０１１６】
また、上記実施の形態においては、撮像画像データをシーン参照画像データとして記憶メディアに記録する例を示したが、撮像画像データに画像処理部７で最適化処理を施して鑑賞画像参照データを生成し、この鑑賞画像参照データについて基準画像データを選定し、差分画像データを生成して添付するようにしてもよい。
【０１１７】
＜画像処理装置１００の構成＞
次に、本発明の画像処理装置の実施形態について説明する。
まず、構成を説明する。
図６は本発明に係る画像処理装置１００の機能的構成を示すブロック図である。図６に示すように、画像処理装置１００は、入力部１０１、基準画像データ選定部１０２、差分画像データ抽出部１０３、差分画像データ生成部１０４、差分画像データ添付部１０５、一時記憶メモリ１０６、ヘッダ情報記録部１０７、一時記憶メモリ１０８、撮影条件設定取得部１１１により構成されており、さらに、記憶デバイス１１０が接続可能な状態となっている。以上の各構成要素はＣＰＵ等により構成される制御部１０９の統括的な制御下において動作する。
【０１１８】
入力部１０１は、記憶メディア装着部（図示せず）を備えている。この装着部に、デジタルカメラ等の撮像装置により記録された立体視表示用の複数の撮像画像データが記録された記憶メディアが装着されると、入力部１０１は、データを読み出して基準画像データ選定部１０２へ入力する。なお、本実施の形態においては、入力部１０１は、装着された記憶メディアからデータを読み出して入力することとして説明するが、データ通信ケーブルや、無線又は有線の通信手段を備え、これらの通信手段を介してデータを入力するようにしてもよい。
【０１１９】
基準画像データ選定部１０２は、入力部１０１から入力された立体視表示用の複数の撮像画像データの中から基準画像データを選定する。基準画像データの選定は、各撮像画像データの画像解析を行い、その結果に基づいて、１枚の撮像画像データとして最も好適な画像を選定する。例えば、各撮像画像データの撮影条件が感度設定違いである場合、各撮像画像データをヒストグラム解析し、この結果に基づき各撮像画像データの感度設定の適正度を評価し、最も適正度が高いと評価された撮像画像データを基準画像データとして選定する。ヒストグラム解析による適正度の評価は、例えば、各撮像画像データの輝度値が０〜２５５で表される場合、ヒストグラムで輝度値が０側に収束している場合は白とびがないと判断し、ヒストグラムがダブルピークであれば逆光やストロボが強く当っている可能性があることを判断し、これらの判断により感度設定の適正度を評価する。この選定は自動的に処理されても良いし、ユーザによるマニュアル操作で処理されても良い。自動的に処理するようにするには、撮影条件設定を識別する手段を備える必要がある。このような識別手段としては、入力部１０１から入力された各撮像画像データのヘッダ領域等に記録されている撮影条件設定情報を利用する方法がある。
【０１２０】
差分画像データ抽出部１０３は、基準画像データ選定部１０２により選定された基準画像データと、立体視表示の際に基準画像データと対をなす他の撮像画像データである視差画像データとの差分画像データを下記の演算式により抽出し、差分画像データ生成部１０４に出力する。
Ａ１：基準画像データ
Ａ２：視差画像データ
Ｂ：差分画像データ
Ｂ＝Ａ１−Ａ２
【０１２１】
差分画像データ生成部１０４は、差分画像データ抽出部１０３から抽出された差分画像データを添付用の差分画像データに加工する。
【０１２２】
差分画像データ添付部１０５は、加工された差分画像データを、基準画像データの一部として基準画像データに添付し、差分画像データの添付された基準画像データをＪＰＥＧ方式で圧縮し、ＤＣＦ（Ｄｅｓｉｇｎ ｒｕｌｅ ｆｏｒ Ｃａｍｅｒａ Ｆｉｌｅ ｓｙｓｔｅｍ）規格に準拠したファイルフォーマットの添付済みデータファイルを生成し、一時記憶メモリ１０６へ出力する。
【０１２３】
一時記憶メモリ１０６は、差分画像データ添付部１０５から出力された添付済みデータファイルを一時的に記憶する。
【０１２４】
ヘッダ情報記録部１０７は、情報添付手段として、差分画像データの添付された基準画像データのヘッダ領域に対し、差分画像データが添付されていることを示す添付識別情報及び撮影条件設定取得部１１１により入力された、各撮像画像データの撮影条件を示す撮影条件設定情報をタグ情報として記録する。ここで、添付識別情報は、差分画像データの添付を示すフラグや、差分画像データの領域を示す情報等、再処理時に必要な付加情報である。ヘッダ領域への情報記録の終了した基準画像データのファイルは、一時記憶メモリ１０８に一時的に記憶された後、単一の撮像画像データとして記憶デバイス１１０へ出力される。
【０１２５】
撮影条件設定取得部１１１は、入力部１０１から入力された各撮像画像データの撮影条件を示す、撮影条件設定情報を取得する。例えば、撮影条件設定情報が入力部１０１から入力されるデータファイルのヘッダ領域にタグ情報として記載されている場合、撮影条件設定入力部１１１は、入力部１０１から入力されたデータファイルのヘッダ領域から撮影条件設定情報を読み出して取得し、ヘッダ情報記録部１０７へ出力する。
【０１２６】
以上の、基準画像データ生成部１０２、差分画像データ抽出部１０３、差分画像データ生成部１０４、差分画像データ添付部１０５、ヘッダ情報記録部１０７、撮影条件設定取得部１１１という区分は、必ずしも物理的に独立したデバイスとして実現される必要はなく、例えば、単一のＣＰＵにおけるソフトウエア処理の種類の区分として実現されてもよい。
【０１２７】
＜画像処理装置１００の動作＞
図７は、画像処理装置１００の各部が連携することにより実行される基準画像データ出力処理を示すフロー図である。以下、図７を参照して画像処理装置１００の動作について説明する。
【０１２８】
立体視表示用の複数の撮像画像データが記録された記憶メディアが装着されると、入力部１０１により、記憶メディアに記録された複数の撮像画像データが入力される（ステップ１１）。入力される撮像画像データは、シーン参照画像データであっても、鑑賞画像参照データであっても対応可能である。基準画像データ選定部１０２により、入力された複数の撮像画像データの中から基準画像データが選定される（ステップＳ１２）。基準画像データの選定は、各撮像画像データの画像解析を行い、その結果に基づいて、１枚の撮像画像データとして最も好適な画像が選定される。次いで、差分画像データ抽出部１０３により、選定された基準画像データと、入力された他の撮像画像データである視差画像データの差分を求めることにより、差分画像データが抽出され、差分画像データ生成部１０４において画像処理可能な差分画像データに加工されて差分画像データが生成される（ステップＳ１３）。
【０１２９】
基準画像データ及び差分画像データは差分画像データ添付部１０５に出力され、差分画像データが基準画像データの一部に記録されて、差分画像データが基準画像データに添付され（ステップＳ１４）、ＪＰＥＧ方式で圧縮され、ＤＣＦ規格に準拠したファイルフォーマットの添付済みデータファイルが生成される（ステップＳ１５）。さらに撮影条件設定取得部１１１により撮影条件設定情報が取得され、ヘッダ情報記録部１０７へ出力され（ステップＳ１６）、差分画像データの添付された基準画像データのファイルのヘッダ領域に対し、撮影条件設定情報及び添付識別情報がタグ情報として記録され（ステップＳ１７）、記憶デバイス１１０に基準画像データが単一の撮像画像データとして出力される（ステップＳ１８）。
【０１３０】
上述した基準画像データ出力処理により、図５（ａ）に示したものと同様のデータ構造のファイルを記憶デバイス１１０に出力することができる。
【０１３１】
以上説明したように、画像処理装置１００によれば、立体視表示用の複数の撮影条件の異なる撮像画像データから撮像画像として最も好適な撮像画像データを基準画像データとして選定し、この基準画像データと、立体視表示の際に基準画像データと対をなす他の撮像画像データである視差画像データとの差分画像データを基準画像データに添付してファイルを作成するとともに、差分画像データが添付されていることを示す添付識別情報及び各撮像画像データの撮影条件を示す撮影条件設定情報をファイルのヘッダ領域にタグ情報として記録する。
【０１３２】
従って、立体視表示用の複数の撮像画像データのうち、最も好適な撮像画像データを単一の撮像画像データとして扱うことが可能となるとともに、立体視表示用ではない通常の撮像画像データと同様のファイルフォーマットでの保存、ファイルの名称設定等が可能となる。また、ファイルのタグ情報として添付識別情報を記録しているので、複数のファイルの中から立体視表示用の撮像画像データのファイルを検索する際の検索効率を改善することができる。また、立体視表示用の撮像画像データのファイルと通常の撮像画像データのファイルをヘッダ領域の参照により自動的に判別することが可能となるので、両者が混在した状態でも効率的にプリント作成を行うことが可能となる。また、立体視表示に未対応の画像記録装置（プリンタ）を用いて、立体視表示用の撮像画像データから通常の２次元の写真プリント作成が可能となる。
【０１３３】
このように、画像処理装置１００によれば、立体視表示用の撮像画像データと通常の撮像画像データとの互換性を向上し、立体視表示用の撮像画像データの汎用性、利便性を向上することができる。
【０１３４】
更に、画像処理装置１００によって、撮像装置内で基準画像データの選定、差分画像データの生成、基準画像データへの差分画像データへの添付等を行う必要がなくなり、処理負荷の軽減によりバッテリー消費量が大幅に減少され、撮影可能枚数を増加させる。また、立体視表示用の撮像画像データの保存に必要な記憶デバイスの容量を少なくすることができる。
【０１３５】
更に、基準画像データとして、異なる撮影条件の撮像画像データの中から好適な撮像画像データが選定されるので、１枚の写真プリントとして出力したり表示したりする場合に、画質の向上を図ることができる。また、画像処理装置１００から出力されるデータファイルのヘッダ領域に撮影条件設定情報が記録され、差分画像データとして基準画像データ及び基準画像データと異なる撮影条件設定で撮影された視差画像データとの差分情報が含まれているので、これらの情報、データを利用して、他の画像処理装置や画像記録装置において、基準画像データと視差画像データの補間等を行うことにより、更なる画質向上を図ることができる。基準画像データを１枚の撮像画像として利用する際にも、差分画像データを利用して補間等を行うことにより、更なる画質向上を図ることができる。
【０１３６】
＜画像処理装置２００の構成＞
次に、本発明の画像処理装置の一実施形態について説明する。
まず、構成を説明する。
図８は本発明に係る画像処理装置２００の機能的構成を示すブロック図である。図８に示すように、画像処理装置２００は、入力部２０１、ヘッダ情報解析部２０２、入力された撮像画像データから視差画像データを生成するための第一処理部２１１、基準画像データと視差画像データから立体視表示用画像データを生成する第二処理部２１２により構成されている。第一処理部２１１と、第二処理部２１２にはヘッダ情報解析部２０２が夫々接続されており、さらに第二処理部２１２には、記憶デバイス２１３が接続可能な状態となっている。以上の各構成要素はＣＰＵ等により構成される制御部２１４の統括的な制御下において動作する。
【０１３７】
入力部２０１は、記憶メディア装着部（図示せず）を備えている。この装着部に、上述した撮像装置３０や画像処理装置１００により記録された撮像画像データ（差分画像データが添付され、ヘッダ領域へ添付識別情報及び撮影条件設定情報がタグ情報として記録されている基準画像データ）のデータファイルが記録された記憶メディアが装着されると、入力部２０１は、記憶メディアに記憶されたファイルを読み出してヘッダ情報解析部２０２へ入力する。なお、本実施の形態においては、入力部２０１は、装着された記憶メディアからデータを読み出して入力することとして説明するが、データ通信ケーブルや、無線又は有線の通信手段を備え、これらの通信手段を介してデータを入力するようにしてもよい。
【０１３８】
ヘッダ情報解析部２０２は、判別手段として、入力部２０１から入力された基準画像データのファイルフォーマットのヘッダ情報（ヘッダ領域のタグ情報）を解析することにより、基準画像データに差分画像データが添付されていることを示す添付識別情報、撮影条件を示す撮影条件設定情報を判別し、結果を差分画像データ読み出し部２０３、視差画像データ生成部２０５、基準画像データ生成部２０７、撮影条件設定読み出し部２１７へ出力する。
【０１３９】
第一処理部２１１は、図８に示すように、差分画像データ読み出し部２０３、差分画像データ生成部２０４、視差画像データ生成部２０５、一時記憶メモリ２０６、撮影条件設定読み出し部２１７を有して構成されている。
【０１４０】
差分画像データ読み出し部２０３は、分離手段として、ヘッダ情報解析部２０２の解析による添付識別情報の判別結果に基づいて、入力されたファイルの所定の領域から差分画像データを読み出して、基準画像データと差分画像データを分離する。差分画像データ生成部２０４は、読み出された差分画像データを画像処理可能な状態に加工する。
【０１４１】
視差画像データ生成部２０５は、差分画像データと基準画像データから、立体視表示において基準画像データと対をなす視差画像データを生成する。視差画像データは、下記の演算式により生成される。
Ａ１：基準画像データ
Ａ２：視差画像データ
Ｂ：差分画像データ
Ａ２＝Ａ１＋Ｂ
また、視差画像データ生成部２０５は、上記演算により求められた視差画像データに対して、撮影条件設定読み出し部２１７から入力された撮影条件設定情報に基づいて画質調整処理を施す。例えば、基準画像データと視差画像データの撮影条件の違いが感度設定であり、基準画像データが高感度設定で、差分画像データが低感度設定である場合、輝度の低い領域について基準画像データの情報で補間する等を行い、視差画像データに感度調整処理を施す。
【０１４２】
一時記憶メモリ２０６は、視差画像データ生成部２０５で生成された視差画像データを一時的に記憶する。
【０１４３】
撮影条件設定読み出し部２１７は、ヘッダ情報解析部２０２において、ヘッダ領域へ撮影条件設定情報が記録されていると解析された場合に、入力されたファイルのヘッダ領域から撮影条件設定情報を読み出して、視差画像データ生成部２０５に出力する。
【０１４４】
第二処理部２１２は、図８に示すように、基準画像データ生成部２０７、立体視表示用画像データ生成部２０８、出力条件設定入力部２０９、一時記憶メモリ２１０を有して構成されている。
【０１４５】
基準画像データ生成部２０７は、入力されたデータファイルから基準画像データを読み出して、画像処理可能な状態に加工する。
【０１４６】
立体視表示用画像データ生成部２０８は、出力条件設定入力部２０９から入力された出力条件設定に従って、基準画像データと一時記憶メモリ２０６に記憶されている視差画像データから立体視表示用の画像を生成する。具体的には、図９に示すように、基準画像と視差画像の２つの画像の視点間距離が、最低でも人間の両目間の距離と同じ約６〜７ｃｍの距離に保たれるよう、夫々の画像の大きさを調整し、並行法、又は交差法の観察条件に応じて正しく平面上に並べて配置されるように、立体視表示用画像データを生成する。
【０１４７】
出力条件設定入力部２０９は、キーボードやＬＣＤ上に構成されたタッチパネル等のユーザインターフェースにより構成され、本画像処理装置２００にて生成される立体視表示用画像データの出力設定（例えば、出力先のデバイスの種類、出力サイズ等）に関する情報が入力されると、この情報を立体視表示用画像データ生成部２０８へ出力する。
【０１４８】
一時記憶メモリ２１０は、立体視表示用画像データ生成部２０８で生成された立体視表示用画像データを一時的に記憶する。この一時記憶メモリ２１０に一時的に記憶された立体視表示用画像データは、記憶デバイス２１３に出力される。
【０１４９】
以上の、ヘッダ情報解析部２０２、差分画像データ読み出し部２０３、差分画像データ生成部２０４、視差画像データ生成部２０５、基準画像データ生成部２０７、立体視表示用画像データ生成部２０８、撮影条件設定読み出し部２１７という区分は、必ずしも物理的に独立したデバイスとして実現される必要はなく、例えば、単一のＣＰＵにおけるソフトウエア処理の種類の区分として実現されてもよい。
【０１５０】
＜画像処理装置２００の動作＞
図１０は、画像処理装置２００の各部が連携することにより実行される立体視表示用画像データ生成処理Ａを示すフロー図である。以下、図１０を参照して画像処理装置２００の動作について説明する。
【０１５１】
図５（ａ）に示す基準画像データのファイルが記録された記憶メディアが記憶メディア装着部に装着されると、入力部２０１により、記憶メディアに記録された基準画像データが入力される（ステップＳ２１）。次いで、ヘッダ情報解析部２０２により基準画像データのファイルのヘッダ領域のタグ情報が解析され、添付識別情報及び撮影条件設定情報が判別される（ステップＳ２２）。ヘッダ情報解析部２０２の判別の結果に基づき、撮影条件設定読み出し部２１７によりこの情報が読み出され、視差画像データ生成部２０５へ出力される（ステップＳ２３）。また、ヘッダ情報解析部２０２の判別の結果に基づき、差分画像データ読み出し部２０３により、ファイルの所定領域から差分画像データが読み出されて基準画像データと差分画像データが分離され（ステップＳ２４）、差分画像データ生成部２０４により加工が施されて画像処理可能な差分画像データが生成され（ステップＳ２５）、視差画像データ生成部２０５へ出力される。
【０１５２】
次いで、視差画像データ生成部２０５において、基準画像データと差分画像データから視差画像データが生成され（ステップＳ２６）、撮影条件設定情報に基づいて、視差画像データに対して画質調整処理が施される（ステップＳ２７）。そして、立体視表示用画像データ生成部２０８において、出力条件設定入力部２０９より入力された出力条件に基づいて、基準画像データと生成された視差画像データの２つの画像の大きさと配置が立体視表示に最適なように調整され、一時記憶メモリ２１０を介して、一つの立体視表示用画像データとして記憶デバイス２１３に出力される（ステップＳ２８）。
【０１５３】
以上説明したように、画像処理装置２００によれば、ヘッダ情報解析部２０２の解析による添付識別情報の判別に基づいて、差分画像データ読み出し部２０３により基準画像データのファイルの所定領域から差分画像データを読み出して基準画像データと差分画像データを分離し、基準画像データと差分画像データから、立体視表示において基準画像データと対を成す視差画像データを生成し、基準画像データと生成された視差画像データの２つの画像の大きさと配置が立体視表示に最適なように調整して立体視表示用画像データを生成して記録デバイス２１３に出力する。ヘッダ情報解析部２０２によりデータファイルのヘッダ領域に撮影条件設定情報が判別された場合には、これを読み出して、視差画像データ生成の際に、撮影条件設定情報に基づいて画質調整処理を施す。
【０１５４】
従って、入力されたデータが、差分画像データが添付された、立体視表示に用いる基準画像データであることを自動的に判別し、基準画像データと差分画像データから立体視表示用画像データを生成することができる。即ち、上述した撮像装置３０や画像処理装置１００で生成されたデータ構造の基準画像データのファイルが入力されたことを自動的に判別して立体視表示用画像データを生成することができる。これにより、プリンタ等の画像記録装置で出力媒体上に立体視表示用画像を形成して出力する際の画像記録装置側での処理負荷を軽減することができる。
【０１５５】
更に、視差画像データに対して、撮影条件に基づいて画質調整処理を施すので、立体視表示画像の画質向上を図ることができる。
【０１５６】
なお、視差画像データの情報を用いて基準画像データに対して更に画質調整処理を施すようにしてもよい。例えば、基準画像データが高感度設定で、視差画像データが低感度設定である場合、輝度の高い領域では高感度設定の基準画像データではダイナミックレンジが不足し、信号が飽和しやすいため、視差画像データの情報で補間することで画質の向上を図ることができる。
【０１５７】
＜画像処理装置２００Ａの構成＞
次に、入力された基準画像データ（差分画像データが添付され、添付識別情報及び撮影条件設定情報がヘッダ領域にタグ情報として記録されているデータ）がシーン参照画像データである場合に好適な処理を行うことが可能な画像処理装置２００Ａについて説明する。図１１に、画像処理装置２００Ａの機能的構成を示す。
【０１５８】
図１１に示すように、画像処理装置２００Ａは、上述した画像処理装置２００の構成に、鑑賞画像参照データ生成部２１５及びシーン参照画像データ再現用データ生成部２１６を追加した構成である。
【０１５９】
鑑賞画像参照データ生成部２１５は、基準画像データ生成部２０７から入力されたシーン参照画像データの基準画像データと、第一処理部２１１で生成されたシーン参照画像データの視差画像データの双方に対して、出力条件設定入力部２０９から入力された情報に基づいて、出力媒体上（ＣＲＴ、液晶ディスプレイ、プラズマディスプレイ、銀塩印画紙、インクジェットペーパー、サーマルプリンタ用紙等）で最適な鑑賞画像が得られるよう最適化処理を施し、上記それぞれのデータを鑑賞画像参照データに変換する。
【０１６０】
シーン参照画像データ再現用データ生成部２１６は、シーン参照画像データの基準画像データと、鑑賞画像参照データに変換された基準画像データとの差分を計算し、シーン参照画像データ再現用の差分データ（以下、シーン参照画像データ再現用データと称する）を抽出する。そして、差分画像データと、抽出されたシーン参照画像データ再現用データとを鑑賞画像参照データの基準画像データに添付して添付済みデータファイルを作成するとともに、生成されたファイルのヘッダ領域に、添付識別情報、基準画像データが鑑賞画像参照データであることを示す情報、シーン参照画像データ再現用のデータが添付されていることを示す情報をタグ情報として記録する。
【０１６１】
その他の画像処理装置２００Ａの構成は画像処理装置２００と同様であるので、説明を省略する。
【０１６２】
＜画像処理装置２００Ａの動作＞
図１２は、画像処理装置２００Ａの各部が連携することにより実行される立体視表示用画像データ生成処理Ｂを示すフロー図である。以下、図１２を参照して画像処理装置２００Ａの動作について説明する。
【０１６３】
図５（ａ）に示すシーン参照画像データの基準画像データのファイルが記録された記憶メディアが装着されると、入力部２０１により、記憶メディアに記録された基準画像データが入力される（ステップ３１）。次いで、ヘッダ情報解析部２０２により基準画像データのファイルのヘッダ領域のタグ情報が解析され、添付識別情報及び撮影条件設定情報が判別される（ステップＳ３２）。ヘッダ情報解析部２０２の判別の結果に基づき、撮影条件設定読み出し部２１７によりこの情報が読み出され、視差画像データ生成部２０５へ出力される（ステップＳ３３）。また、ヘッダ情報解析部２０２の判別の結果に基づき、差分画像データ読み出し部２０３により、ファイルの所定領域から差分画像データが読み出されて基準画像データと差分画像データが分離され（ステップＳ３４）、差分画像データ生成部２０４により加工が施されて画像処理可能な差分画像データが生成され（ステップＳ３５）、視差画像データ生成部２０５へ出力される。
【０１６４】
次いで、視差画像データ生成部２０５において、シーン参照画像データの基準画像データと差分画像データから、シーン参照画像データの視差画像データが生成され（ステップＳ３６）、撮影条件設定情報に基づいて、視差画像データに対して画質調整処理が施される（ステップＳ３７）。そして、鑑賞画像参照データ生成部２１５において、シーン参照画像データの基準画像データ及び視差画像データのそれぞれに、出力条件設定入力部２０９より入力された出力条件に基づいて、出力媒体上で最適な鑑賞画像が得られるよう最適化処理が施され、鑑賞画像参照データに変換される（ステップＳ３８）。
【０１６５】
鑑賞画像参照データに変換された基準画像データ及び差分画像データは、立体視表示用画像データ生成部２０８において、出力条件設定入力部２０９より入力された出力条件に基づいて、基準画像データと生成された視差画像データの２つの画像の大きさと配置がステレオペアの立体視表示に最適なように調整され、一時記憶メモリ２１０を介して、一つの立体視表示用画像データとして記憶デバイス２１３に出力される（ステップＳ３９）。
【０１６６】
一方、シーン参照画像データ再現用データ生成部２１６において、シーン参照画像データの基準画像データと鑑賞画像参照データに変換された基準画像データとの差分画像データが抽出され（ステップＳ４０）、シーン参照画像データ再現用データが生成される（ステップＳ４１）。そして、差分情報、即ち抽出されたシーン参照画像データ再現用データとステップＳ３５で生成された差分画像データが鑑賞画像参照データの基準画像データに添付され（ステップＳ４２）、更に、生成されたファイルのヘッダ領域に、添付識別情報、基準画像データが鑑賞画像参照データであることを示す情報、シーン参照画像データ再現用のデータが添付されていることを示す情報がタグ情報として記録されて添付済みデータファイルが作成され（ステップＳ４３）、鑑賞画像参照データの基準画像データとして一時記憶メモリを介して記憶デバイス２１３に出力される（ステップＳ４４）。
【０１６７】
図５（ｂ）は、画像処理装置２００Ａで作成されるデータファイルのデータ構造を示す図である。図５（ｂ）に示すように、画像処理装置２００Ａにより、基準画像データ領域、シーン参照画像データ再現用データ領域、差分画像データ領域、ヘッダ領域を有するデータファイルを生成することができる。
【０１６８】
以上説明したように、画像処理装置２００Ａによれば、シーン参照画像データの基準画像データから、出力媒体上で最適な鑑賞画像となるように最適化された立体視表示用画像データを生成することができる。また、鑑賞画像参照データに変換された基準画像データに、シーン参照画像データ再現用データ及び視差画像データ生成用の差分画像データを添付したファイルを生成し、生成されたファイルのヘッダ領域に、添付識別情報、基準画像データが鑑賞画像参照データであることを示す情報、シーン参照画像データ再現用のデータが添付されていることを示す情報をタグ情報として記録することができるので、鑑賞画像参照データの基準画像データから、他の画像処理装置や画像記録装置で出力条件に応じて最適化した立体視表示用画像データを生成することができる。更に、視差画像データに対して、撮影条件設定情報に基づいて画質調整処理を施すので、立体視表示画像の画質向上を図ることができる。
【０１６９】
なお、視差画像データの情報を用いて基準画像データに対して更に画質調整処理を施すようにしてもよい。例えば、基準画像データが高感度設定で、視差画像データが低感度設定である場合、輝度の高い領域では高感度の基準画像データではダイナミックレンジが不足し、信号が飽和しやすいため、視差画像データの情報で補間することで画質の向上を図ることができる。
【０１７０】
＜画像記録装置３０１の構成＞
次に、本発明に係る画像記録装置の好ましい実施の形態について説明する。
図１３は本発明に係る画像記録装置３０１の外観構成を示す斜視図である。この実施の形態における画像記録装置３０１は、表示デバイスであるＣＲＴディスプレイモニタと、銀塩印画紙を出力媒体として用いる出力デバイスとを備えた例である。
【０１７１】
画像記録装置３０１において、本体３０２の左側面にマガジン装填部３０３が設けられ、本体３０２内には出力媒体である銀塩印画紙に露光する露光処理部３０４と、露光された銀塩印画紙を現像処理して乾燥し、プリントを作成するプリント作成部３０５が備えられている。作成されたプリントは本体３０２の右側面に設けられたトレー３０６に排出される。さらに、本体３０２の内部には、露光処理部３０４の上方位置に制御部３０７が備えられている。
【０１７２】
また、本体３０２の上部には、ＣＲＴ３０８が配置されている。このＣＲＴ３０８は、プリントを作成しようとする画像情報の画像を画面に表示する表示手段としての機能を有している。ＣＲＴ３０８の左側に透過原稿読み込み装置であるところのフィルムスキャナ部３０９が配置され、右側に反射原稿入力装置３１０が配置されている。
【０１７３】
フィルムスキャナ部３０９や反射原稿入力装置３１０から読み込まれる原稿として写真感光材料がある。この写真感光材料としては、カラーネガフィルム、カラーリバーサルフィルム、白黒ネガフィルム、白黒リバーサルフィルム等が挙げられ、アナログカメラにより撮像した駒画像情報が記録される。フィルムスキャナ部３０９のフィルムスキャナは、この記録された駒画像情報をデジタル画像データに変換し、駒画像データとすることができる。又、写真感光材料が銀塩印画紙であるカラーペーパーの場合、反射原稿入力装置３１０のフラットベッドスキャナで駒画像データに変換することができる。
【０１７４】
本体３０２の制御部３０７の配置位置には、画像読込部３１４が設けられている。画像読込部３１４はＰＣカード用アダプタ３１４ａ、ＦＤ（フロッピー（登録商標）ディスク）用アダプタ３１４ｂを備え、ＰＣカード３１３ａやＦＤ（フロッピー（登録商標）ディスク）３１３ｂが差し込み可能になっている。ＰＣカード３１３ａは、デジタルカメラで撮像して複数の駒画像データ（撮像画像データ）が記憶されたメモリを有する。ＦＤ３１３ｂは、例えばデジタルカメラで撮像された複数の駒画像データが記憶されている。
【０１７５】
ＣＲＴ３０８の前方には、操作部３１１が配置され、この操作部３１１は情報入力手段３１２を備える。情報入力手段３１２は、例えばタッチパネル等で構成される。
【０１７６】
前記以外の駒画像データを有する記憶媒体としては、マルチメディアカード、メモリスティック、ＭＤデータ、ＣＤ−ＲＯＭ等が挙げられる。なお、操作部３１１、ＣＲＴ３０８、フィルムスキャナ部３０９、反射原稿入力装置３１０、画像読込部３１４は、本体３０２に一体的に設けられて装置の構造となっているが、いずれか１つ以上を別体として設けてもよい。
【０１７７】
更に、本体３０２の制御部３０７の配置位置には、画像書込部３１５が設けられている。画像書込部３１５にはＦＤ用アダプタ３１５ａ、ＭＯ用アダプタ３１５ｂ、光ディスク用アダプタ３１５ｃが備えられ、ＦＤ３１６ａ、ＭＯ３１６ｂ、光ディスク３１６ｃが差し込み可能になっており、画像情報を記憶メディアに書き込むことができるようになっている。
【０１７８】
更に、制御部３０７は通信手段３４０、３４１を備え、施設内の別のコンピュータやインターネット等を介した遠方のコンピュータから直接、撮像画像を表す画像データとプリント命令を受信し、所謂ネットワーク画像記録装置として機能することが可能になっている。
【０１７９】
＜画像記録装置３０１の内部構成＞
次に、画像記録装置３０１の内部構成について説明する。
図１４は画像記録装置３０１の内部構成を示すブロック図である。
【０１８０】
画像記録装置３０１の制御部３０７は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、記憶部等により構成される。ＣＰＵは、記憶部に記憶されている各種制御プログラムを読み出し、該制御プログラムに従って、画像記録装置３０１を構成する各部の動作を集中制御する。
【０１８１】
また、制御部３０７は、画像処理部３７０を有し、操作部３１１の情報入力手段３１２からの入力信号に基づいて、フィルムスキャナ部３０９や反射原稿入力装置３１０により原稿画像の読み込みを行わせて取得した画像データ、画像読込部３１４から読み込まれた画像データ、及び通信手段（入力）３４０（図１５に図示）を介して外部機器より入力された画像データに画像処理を施す。また、画像処理部３７０において、画像処理された画像データに対して出力形態に応じた変換処理を施して、プリントＰ１、Ｐ２、Ｐ３として、或いはＣＲＴ３０８、画像書込部３１５、通信手段（出力）３４１等により出力する。
【０１８２】
操作部３１１には、情報入力手段３１２が設けられている。情報入力手段３１２は、例えばタッチパネル等により構成されており、情報入力手段３１２の押下信号を入力信号として制御部３０７に出力する。また、操作部３１１は、キーボードやマウスを備えて構成するようにしてもよい。
【０１８３】
フィルムスキャナ部３０９は、アナログカメラにより撮像されたネガフィルムを現像して得られる現像済のネガフィルムＮからの駒画像データを読み込み、反射原稿入力装置３１０からは駒画像を銀塩印画紙であるカラーペーパーに焼き付けて現像処理したプリントＰからの駒画像データを読み込む。
【０１８４】
画像読込部３１４は、デジタルカメラにより撮像して記録されたＰＣカード３１３ａやＦＤ３１３ｂの駒画像データを読み出して転送する機能を有する。即ち、画像読込部３１４は、画像転送手段３３０としてＰＣカード用アダプタ、ＦＤ用アダプタ等を備え、ＰＣカード用アダプタ３１４ａに装着されたＰＣカード３１３ａや、ＦＤ用アダプタ３１４ｂに装着されたＦＤ３１３ｂに記録された駒画像データを読み取り、制御部３０７へ転送する。ＰＣカード用アダプタ３１４ａとしては、例えばＰＣカードリーダやＰＣカードスロット等が用いられる。
【０１８５】
データ蓄積手段３７１は、画像情報とそれに対応する注文情報（どの駒の画像から何枚プリントを作成するかの情報、プリントサイズの情報等）とを記憶し順次蓄積する。
【０１８６】
テンプレート記憶手段３７２は、サンプル識別情報Ｄ１、Ｄ２、Ｄ３に対応してサンプル画像データ（背景画像やイラスト画像等を示すデータ）を記憶すると共に、該サンプル画像データとの合成領域を設定するテンプレートのデータを少なくとも１つ記憶する。ここで、オペレータの操作（このオペレータの操作は、クライアントの指示に基づく）によりテンプレート記憶手段３７２に予め記憶された複数のテンプレートから所定のテンプレートが選択されると、制御部３０７は、駒画像データと当該選択されたテンプレートとを合成し、次いで、オペレータの操作（このオペレータの操作は、クライアントの指示に基づく）によりサンプル識別情報Ｄ１、Ｄ２、Ｄ３が指定されると、当該指定されたサンプル識別情報Ｄ１、Ｄ２、Ｄ３に基づいてサンプル画像データを選択し、当該選択されたサンプル画像データと、クライアントにより注文された画像データ及び／又は文字データとを合成して、結果としてクライアントが所望するサンプル画像データに基づくプリントを作成する。このテンプレートによる合成は、周知のクロマキー法によって行なわれる。
【０１８７】
なお、サンプル識別情報は、サンプル識別情報Ｄ１、Ｄ２、Ｄ３の３種類に限らず、３種類より多くても、また、少なくてもよい。
また、プリントのサンプルを指定するサンプル識別情報Ｄ１、Ｄ２、Ｄ３は、操作部３１１から入力される様に構成されているが、サンプル識別情報Ｄ１、Ｄ２、Ｄ３が、プリントのサンプル、又は注文シートに記録されているから、ＯＣＲ等の読み取り手段により読み取ることができる。あるいはオペレータがキーボードから入力することもできる。
【０１８８】
このようにプリントのサンプルを指定するサンプル識別情報Ｄ１に対応してサンプル画像データを記録しておき、プリントのサンプルを指定するサンプル識別情報Ｄ１を入力し、この入力されるサンプル識別情報Ｄ１に基づきサンプル画像データを選択し、この選択されたサンプル画像データと、注文に基づく画像データ及び／又は文字データとを合成し、指定によるサンプルに基づくプリントを作成するため、種々の実物大のサンプルをユーザが実際に手にしてプリントの注文ができ、幅広いユーザの多様な要求に応じることができる。
【０１８９】
また、第１のサンプルを指定する第１のサンプル識別情報Ｄ２と第１のサンプルの画像データを記憶し、又第２のサンプルを指定する第２のサンプル識別情報Ｄ３と第２のサンプルの画像データを記憶し、指定される第１及び第２のサンプル識別情報Ｄ２、Ｄ３とに基づいて選択されたサンプル画像データと、注文に基づく画像データ及び／又は文字データとを合成し、指定によるサンプルに基づくプリントを作成するため、さらに多種多様の画像を合成することができ、より一層幅広いユーザの多様な要求に応じたプリントを作成することができる。
【０１９０】
露光処理部３０４は、画像処理部３７０で画像データを画像処理して生成された出力用の画像データに応じて感光材料に画像の露光を行い、この感光材料をプリント作成部３０５に送る。プリント作成部３０５は、露光された感光材料を現像処理して乾燥し、プリントＰ１、Ｐ２、Ｐ３を作成する。プリントＰ１はサービスサイズ、ハイビジョンサイズ、パノラマサイズ等であり、プリントＰ２はＡ４サイズ、プリントＰ３は名刺サイズのプリントである。
なお、プリントサイズは、プリントＰ１、Ｐ２、Ｐ３に限らず、他のサイズのプリントであってもよい。
【０１９１】
ＣＲＴ３０８は、制御部３０７から入力される画像情報を表示する。
【０１９２】
画像書込部３１５は、画像搬送部３３１としてＦＤ用アダプタ３１５ａ、ＭＯ用アダプタ３１５ｂ、光ディスク用アダプタ３１５ｃが備えられ、ＦＤ３１６ａ、ＭＯ３１６ｂ、光ディスク３１６ｃが差し込み可能になっており、画像データを記憶メディアに書き込むことができるようになっている。
【０１９３】
更に、画像処理部３７０は、通信手段（入力）３４０（図１５に図示）を用いて、施設内の別のコンピュータやインターネット等を介した遠方のコンピュータから直接、撮像画像を表す画像データとプリント等の作業命令を受信し、遠隔操作で画像処理を実施したりプリントを作成したりすることも可能になっている。
【０１９４】
また、画像処理部３７０は、通信手段３４１（出力）（図１５に図示）を用いて、本発明の画像処理を施した後の撮影画像を表す画像データと付帯するオーダー情報を、施設内の別のコンピュータやインターネット等を介した遠方のコンピュータに対して送付することも可能になっている。
【０１９５】
このように画像記録装置３０１は、各種デジタルメディアの画像、及び画像原稿を分割測光して得られた画像情報を取り込む入力手段と、この入力手段から取り入れた入力画像の画像情報を「出力画像の大きさ」と「出力画像における主要被写体の大きさ」という情報を取得又は推定して出力媒体上で画像を観察する際に好ましい印象を与える画像となるように処理を行う画像処理手段と、処理済の画像を表示、又はプリント出力、あるいは記憶メディアに書き込む画像形成手段、及び通信回線を介して施設内の別のコンピュータやインターネット等を介した遠方のコンピュータに対して画像データと付帯するオーダー情報を送信する通信手段（出力）３４１とを有する。
【０１９６】
＜画像処理部３７０の構成＞
図１５は、本発明に係る画像処理部３７０の機能的構成を示すブロック図である。フィルムスキャナ部３０９から入力された画像データは、フィルムスキャンデータ処理部７０２において、フィルムスキャナ部固有の校正操作・ネガ原稿の場合のネガポジ反転、ゴミキズ除去、グレーバランス調整、コントラスト調整、粒状ノイズ除去、鮮鋭化強調などが施され、画像調整処理部７０１に送られる。又、フィルムサイズ、ネガポジ種別、フィルムに光学的或いは磁気的に記録された主要被写体に関わる情報、撮影条件に関する情報（例えばＡＰＳの記載情報内容）などが、併せて画像調整処理部７０１に出力される。
【０１９７】
反射原稿入力装置３１０から入力された画像データは、反射原稿スキャンデータ処理部７０３において、反射原稿入力装置固有の校正操作、ネガ原稿の場合のネガポジ反転、ゴミキズ除去、グレーバランス調整、コントラスト調整、ノイズ除去、鮮鋭化強調などが施され、画像調整処理部７０１に出力される。
【０１９８】
画像転送手段３３０及び通信手段（入力）３４０から入力された画像データは、画像データ書式解読処理部７０４において、そのデータのデータ書式に従い必要に応じて圧縮符号の復元・色データの表現方法の変換等が行われ、画像処理部３７０内の演算に適したデータ形式に変換されて画像調整処理部７０１に出力される。また、画像データ書式解読処理部７０４において、入力された画像データが、差分画像データが添付された基準画像データであると判別されると、入力された画像データが基準画像データ処理部４０１に出力される。ここで、入力される基準画像データは、シーン参照画像データであっても鑑賞画像参照データであってもよい。入力された画像データがシーン参照画像データである場合は、本画像記録装置３０１により撮像画像情報の情報損失を伴うことなく最適化された鑑賞画像の立体視表示画像が得られるので好ましい。
【０１９９】
出力画像の大きさについての指定は操作部３１１から入力されるが、この他に通信手段（入力）３４０に送信された出力画像の大きさについての指定や、画像転送手段３３０により取得された画像データのヘッダ領域のタグ情報に埋め込まれた出力画像の大きさについての指定があった場合には、画像データ書式解読処理部７０４が該情報を検出し、画像調整処理部７０１へ転送する。
【０２００】
基準画像データ処理部４０１は、ヘッダ情報解析部４０２、差分画像データ読み出し部４０３、差分画像データ生成部４０４、視差画像データ生成部４０５、基準画像データ生成部４０６、立体視表示用画像データ生成部４０７、撮影条件設定読み出し部４０９を有しており、出力条件設定入力部４０８が接続されている。
【０２０１】
ヘッダ情報解析部４０２は、判別手段として、画像データ書式解読処理部７０４から入力された基準画像データのファイルのヘッダ情報（ヘッダ領域のタグ情報）を解析して添付識別情報及び撮影条件設定情報を判別し、結果を差分画像データ読み出し部４０３、視差画像データ生成部４０５、基準画像データ生成部４０６、撮影条件設定読み出し部４０９へ出力する。
【０２０２】
差分画像データ読み出し部４０３は、分離手段として、ヘッダ情報解析部４０２による添付識別情報の判別結果に基づいて、入力されたファイルの所定の領域から差分画像データを読み出して基準画像データと差分画像データを分離する。差分画像データ生成部４０４は、読み出された差分画像データを画像処理可能な状態に加工する。
【０２０３】
視差画像データ生成部４０５は、差分画像データと基準画像データから、立体視表示において基準画像データと対をなす視差画像データを生成する。視差画像データは、下記の演算式により生成される。
Ａ１：基準画像データ
Ａ２：視差画像データ
Ｂ：差分画像データ
Ａ２＝Ａ１＋Ｂ
また、視差画像データ生成部４０５は、上記演算により求められた視差画像データに対して、撮影条件設定読み出し部４０３から入力された撮影条件設定情報に基づいて画質調整処理を施す。例えば、基準画像データと視差画像データの撮影条件の違いが感度設定であり、基準画像データが高感度設定で、差分画像データが低感度設定である場合、輝度の低い領域について基準画像データの情報で補間する等を行い、視差画像データに感度調整処理を施す。
【０２０４】
基準画像データ生成部４０６は、入力されたファイルフォーマットから基準画像データを読み出して、画像処理可能な状態に加工する。
【０２０５】
立体視表示用画像データ生成部４０７は、出力条件設定入力部４０８から入力された出力条件設定に従って、基準画像データと視差画像データから立体視表示用の画像を生成する。具体的には、図９に示すように、基準画像と視差画像の２つの画像の視点間距離が、最低でも人間の両目間の距離と同じ約６〜７ｃｍの距離に保たれるよう、夫々の画像の大きさを調整し、並行法、又は交差法の観察条件に応じて正しく平面上に並べて配置されるように、ステレオペアの立体視表示用画像データを生成する。
【０２０６】
なお、立体視表示用画像データ生成部４０７は、入力された基準画像データがシーン参照画像データである場合には、基準画像データと視差画像データの双方に対して、出力条件設定入力部４０８から入力された情報に基づいて、出力媒体上（ＣＲＴ、液晶ディスプレイ、プラズマディスプレイ、銀塩印画紙、インクジェットペーパー、サーマルプリンタ用紙等）で最適な鑑賞画像が得られるよう最適化処理を施し、上記それぞれのデータを鑑賞画像参照データに変換した後、基準画像と視差画像の２つの画像の視点間距離が、最低でも人間の両目間の距離と同じ約６〜７ｃｍの距離に保たれるよう、それぞれの画像の大きさを調整し、並行法、又は交差法の観察条件に応じて正しく平面上に並べて配置されるように、ステレオペアの立体視表示用画像データを生成する。
【０２０７】
出力条件設定入力部４０８は、キーボードやＬＣＤ上に構成されたタッチパネル等のユーザインターフェースにより構成され、本画像処理装置３０１にて生成されたデジタル画像データの出力設定（例えば、出力先のデバイスの種類、出力サイズ等）に関する情報が入力されると、この情報を立体視表示用画像データ生成部４０７へ出力する。なお、出力条件設定入力部４０９は、操作部３１１と一体であってもよい。
【０２０８】
撮影条件設定読み出し部４０９は、ヘッダ情報解析部４０２における撮影条件設定情報の判別結果に基づき、入力されたファイルのヘッダ領域から撮影条件設定情報を読み出して、視差画像データ生成部４０５に出力する。
【０２０９】
基準画像データ処理部４０１で生成された立体視表示用画像データは、画像調整処理部７０１へ出力される。
【０２１０】
画像調整処理部７０１では、テンプレート処理が必要な場合にはテンプレート記憶手段３７２から所定の画像データ（テンプレート）を呼び出す。テンプレート処理部７０５に画像データを転送し、テンプレートと合成しテンプレート処理後の画像データを再び受け取る。又、画像調整処理部７０１では、操作部３１１又は制御部３０７の指令に基づき、フィルムスキャナ部３０９、反射原稿入力装置３１０、画像転送手段３３０、通信手段（入力）３４０、テンプレート処理部７０５、基準画像データ処理部４０１から受け取った画像データに対して、出力媒体上で画像を観察する際に好ましい印象を与える画像となるように画像処理を行って出力用のデジタル画像データを生成し、ＣＲＴ固有処理部７０６、プリンタ固有処理部（１）７０７、画像データ書式作成処理部７０９、データ蓄積手段３７１へ送出する。
【０２１１】
ＣＲＴ固有処理部７０６では、画像調整処理部７０１から受け取った画像データに対して、必要に応じて画素数変更やカラーマッチング等の処理を行い、制御情報等表示が必要な情報と合成した表示用の画像データを画像形成手段としてのＣＲＴ３０８に送出する。プリンタ固有処理部（１）７０７では、必要に応じてプリンタ固有の校正処理、カラーマッチング、画素数変更等を行い、画像形成手段としての露光処理部３５１に画像データを送出する。本発明の画像記録装置３０１に、さらに、画像形成手段としての大判インクジェットプリンタなど、外部プリンタ装置３５１を接続する場合には、接続するプリンタ装置ごとにプリンタ固有処理部（２）７０８を設け、適正なプリンタ固有の校正処理、カラーマッチング、画素数変更等を行うようにする。
【０２１２】
画像データ書式作成処理部７０９においては、画像調整処理部７０１から受け取った画像データに対して、必要に応じてＪＰＥＧ、ＴＩＦＦ、Ｅｘｉｆ等に代表される各種の汎用画像フォーマットへの変換を行い、画像搬送部３３１や通信手段（出力）３４１へ画像データを転送する。
【０２１３】
なお、基準画像データ処理部４０１において作成される立体視表示用画像データは、上記ＣＲＴ固有処理部７０６、プリンタ固有処理部（１）７０７、プリンタ固有処理部（２）７０８、画像データ書式作成処理部７０９における処理を前提としたものであり、画像データ書式作成処理部７０９においては、立体視表示用画像データの書式に基づき、ＣＲＴ用、露光出力部用、外部プリンタ用、通信手段（出力）用等、最適化した画像データであることを示すステータスファイルを添付した上で、個々に画像搬送部に送信され、保存することが可能である。
【０２１４】
以上の、フィルムスキャンデータ処理部７０２、反射原稿スキャンデータ処理部７０３、画像データ書式解読処理部７０４、画像調整処理７０１、ＣＲＴ固有処理部７０６、プリンタ固有処理部（１）７０７、プリンタ固有処理部（２）７０８、画像データ書式作成処理部７０９、という区分は、画像処理部３７０の機能の理解を助けるために設けた区分であり、必ずしも物理的に独立したデバイスとして実現される必要はなく、たとえば単一のＣＰＵにおけるソフトウエア処理の種類の区分として実現されてもよい。
【０２１５】
また、ヘッダ情報解析部４０２、差分画像データ読み出し部４０３、差分画像データ生成部４０４、視差画像データ生成部４０５、基準画像データ生成部４０６、立体視表示用画像データ生成部４０７、撮影条件設定読み出し部４０９という区分は、画像処理部３７０における本発明の機能の理解を助けるために設けた区分であり、必ずしも物理的に独立したデバイスとして実現される必要はなく、たとえば単一のＣＰＵにおけるソフトウエア処理の種類の区分として実現されてもよい。
【０２１６】
＜画像処理部３７０の動作＞
図１６は、画像処理部３７０の各部が連携することにより実行される立体視表示用画像形成処理を示すフローチャートである。以下、図１６を参照して画像処理部３７０各部の動作について説明する。
【０２１７】
画像転送手段３３０又は通信手段（入力）３４０から画像処理部３７０にデータが入力され、画像データ書式解読処理部７０４により当該入力データが立体視表示用の基準画像データのファイルであると判別されると（ステップＳ５１）、ヘッダ情報解析部４０２により基準画像データのファイルのヘッダ領域のタグ情報が解析され、添付識別情報及び撮影条件設定情報が判別される（ステップＳ５２）。ヘッダ情報解析部４０２の判別の結果に基づき、撮影条件設定読み出し部４０９により撮影条件設定情報が読み出され、視差画像データ生成部４０５へ出力される（ステップＳ５３）。また、ヘッダ情報解析部４０２の判別の結果に基づき、差分画像データ読み出し部４０３により、ファイルの所定領域から差分画像データが読み出されて基準画像データと差分画像データが分離され（ステップＳ５４）、差分画像データ生成部４０４により差分画像データに加工が施されて画像処理可能な差分画像データが生成され（ステップＳ５５）、視差画像データ生成部４０５へ出力される。
【０２１８】
次いで、視差画像データ生成部４０５において、基準画像データと差分画像データから、視差画像データが生成され（ステップＳ５６）、撮影条件設定情報に基づいて、視差画像データに対して画質調整処理が施される（ステップＳ５７）。そして、立体視表示用画像データ生成部４０７において、基準画像データ及び視差画像データのそれぞれに、出力条件設定入力部４０８より入力された出力条件に基づいて、出力媒体上で最適な鑑賞画像が得られるよう最適化処理が施され、鑑賞画像参照データに変換される（ステップＳ５８）。なお、入力された基準画像データが鑑賞画像参照データである場合は、当該ステップを省略してもよい。
【０２１９】
次いで、立体視表示用画像データ生成部４０７において、出力条件設定入力部４０８より入力された出力条件に基づいて、基準画像データと視差画像データの２つの画像の大きさと配置がステレオペアの立体視表示に最適なように調整され、立体視表示用画像データが生成される（ステップＳ５９）。そして、立体視表示用画像データは出力先に応じてＣＲＴ固有処理部７０６、プリンタ固有処理部７０７、プリンタ固有処理部７０８、画像データ書式作成処理部７０９の何れかの処理部に出力され、出力された処理部において、出力先に応じた固有の処理が施され（ステップＳ６０）、出力条件設定入力部４０８により指定された出力先において、ＣＲＴ、液晶ディスプレイ、プラズマディスプレイ等の表示デバイス、及び銀塩印画紙、インクジェットペーパー、サーマルプリンタ用紙等のハードコピー画像生成用の用紙等の出力媒体上に、立体視表示用の鑑賞画像が形成される（ステップＳ６１）。
【０２２０】
以上説明した様に、本発明の画像記録装置３０１によれば、入力された画像データを解読し、入力された画像データが立体視表示用の基準画像データである場合には、基準画像データと、基準画像データに添付されている差分画像データから立体視表示用画像データを生成し、ＣＲＴ、液晶ディスプレイ、プラズマディスプレイ等の表示デバイス、及び銀塩印画紙、インクジェットペーパー、サーマルプリンタ用紙等のハードコピー画像生成用の用紙等の出力媒体上に鑑賞画像を形成する。従って、立体視表示用に撮影された撮像画像データと、立体視表示用ではない通常の撮像画像データの両者が混在した状態での効率的なプリント作成が可能となる。更に、視差画像データに対して、撮影条件設定情報に基づいて画質調整処理を施すので、立体視表示画像の画質向上を図ることができる。
【０２２１】
視差画像データの情報を用いて基準画像データに対して更に画質調整処理を施すようにしてもよい。例えば、基準画像データが高感度設定で、視差画像データが低感度設定である場合、輝度の高い領域では高感度の基準画像データではダイナミックレンジが不足し、信号が飽和しやすいため、視差画像データの情報で補間することで画質の向上を図ることができる。
【０２２２】
なお、上記実施の形態における記述内容は、本発明の撮像装置、画像処理装置、画像記録装置の好適な一例であり、これに限定されるものではない。また、各装置の細部構成及び細部動作に関しても、本発明の趣旨を逸脱することのない範囲で適宜変更可能である。
【０２２３】
【発明の効果】
請求項１、６、９に記載の画像処理方法、撮像装置、画像処理装置によれば、同一被写体を異なる視点、かつ、異なる視点で撮影して得られた複数の撮像画像データの中から基準画像データを少なくとも１つ選定し、選定された基準画像データと他の撮像画像データとの差分画像データを抽出し、抽出された差分画像データを基準画像データに添付し、差分画像データが添付されていることを示す添付識別情報及び複数の撮像画像データの撮影条件を示す撮影条件設定情報を基準画像データに添付する。
【０２２４】
従って、同一被写体を異なる視点で撮影して得られた複数の撮像画像データ、即ち、立体視表示用に撮影された複数の撮像画像データを単一の撮像画像データとして扱うことが可能となり、複数の撮像画像データの中から立体視表示用に撮影された撮像画像データを検索する際の検索効率の向上、立体視表示に対応していないプリンタでの基準画像データでの１枚の写真プリントとしての出力等が可能となる。その結果、立体視表示用に撮影された撮像画像データと、同一被写体を一つの視点から撮影した通常の撮像画像データとの互換性を向上し、立体視表示用の撮像画像データの汎用性、利便性を向上することができる。
【０２２５】
また、基準画像データには撮影条件設定情報が添付されており、基準画像データに添付される差分画像データには、基準画像データと他の撮像画像データとの撮影条件設定の違いによる差分情報が含まれるので、他の画像処理装置や画像記録装置において、これらの情報、データを利用して、立体視表示用画像を生成する際に画質向上を図ることができる。
【０２２６】
請求項３、１１、１４に記載の画像処理方法、画像処理装置、画像記録装置によれば、同一被写体を異なる視点かつ異なる撮影条件で撮影して得られた複数の撮像画像データのうちの基準画像データと他の撮像画像データとの差分内容を含む差分画像データ、この差分画像データが添付された基準画像データ、基準画像データに差分画像データが添付されていることを示す添付識別情報、及び、複数の撮像画像データの撮影条件を示す撮影条件設定情報が入力されると、添付識別情報に基づいて、基準画像データと差分画像データを分離し、撮影条件設定情報に基づいて、分離された基準画像データ及び差分画像データを用いて視差画像データを生成し、基準画像データ及び視差画像データに基づいて、立体視表示用の画像データを生成する。更に、本発明の画像記録装置は、生成された立体視表示用の画像データを出力媒体上に形成する。
【０２２７】
従って、入力された撮像画像データが、差分画像データが添付された、立体視表示用に撮影された基準画像データ、即ち、上述した請求項１、６、９に記載の発明の画像処理方法、撮像装置、画像処理装置により生成された形式のデータであることを自動的に判別し、基準画像データと差分画像データから立体視表示用画像データを生成することができ、効率的な立体視表示用画像データの生成が可能となる。更に、撮影条件設定情報に基づいて、基準画像データと差分画像データを用いて視差画像データを生成するので、双方の撮像画像データのもつ情報を有効に活用して、立体視表示用画像データの画質の向上を図ることができる。
【０２２８】
本発明の添付識別情報は、撮像画像データのヘッダ領域にタグ情報として記録されることが好ましい。また、異なる撮影条件としては、例えば、撮像素子の感度設定の違いが挙げられる。複数の撮像画像データが異なる感度設定で撮影されている場合、画像の領域の輝度に応じて最適な感度設定の撮像画像データの情報を用いることで、画質の向上を図ることができる。
【図面の簡単な説明】
【図１】本発明に係る撮像装置３０の機能的構成を示すブロック図である。
【図２】図１の第一撮像部２１、第二撮像部２２の内部構成を示すブロック図である。
【図３】視点間距離が６ｃｍである場合、立体視表示用の撮像画像データを取得する際に望ましい主要被写体までの距離、角度の関係を示す図である。
【図４】図１の制御部１１の制御により実行される立体視表示用画像撮影・記録処理を示すフローチャートである。
【図５】（ａ）は、撮像装置３０、画像処理装置１００により生成されるファイルのデータ構造を示す図、（ｂ）は画像処理装置２００Ａにより生成されるファイルのデータ構造を示す図、（ｃ）は基準画像データに差分画像データを添付する際の一例を示す図である。
【図６】本発明に係る画像処理装置１００の機能的構成を示すブロック図である。
【図７】図６の画像処理装置１００の各部が連携することにより実行される基準画像データ出力処理を示すフローチャートである。
【図８】本発明に係る画像処理装置２００の機能的構成を示すブロック図である。
【図９】立体視表示用画像データにおける、基準画像と差分画像の配置例を示す図である。
【図１０】図８の画像処理装置２００の各部が連携することにより実行される立体視表示用画像データ生成処理Ａを示すフローチャートである。
【図１１】本発明に係る画像処理装置２００Ａの機能的構成を示すブロック図である。
【図１２】図１１の画像処理装置２００Ａの各部が連携することにより実行される立体視表示用画像データ生成処理Ｂを示すフローチャートである。
【図１３】本発明に係る画像記録装置３０１の外観斜視図である。
【図１４】図１３の画像記録装置３０１の内部構成を示す図である。
【図１５】図１４の画像処理部３７０の機能的構成を示すブロック図である。
【図１６】図１４の画像記録装置３０１の各部が連携することにより実行される立体視表示用画像データ形成処理を示すフローチャートである。
【符号の説明】
１ レンズ
２ 絞り
３ ＣＣＤ
４ アナログ処理回路
５ Ａ／Ｄ変換器
６ 一時記憶メモリ
７ 画像処理部
８ 添付処理部
９ 記憶デバイス
１０ ＣＣＤ駆動回路
１１ 制御部
１２ 基準画像データ選定部
１３ 差分画像データ生成部
１４ 操作部
１５ 表示部
１６ ストロボ駆動回路
１７ ストロボ
１８ 焦点距離調整回路
１９ 自動焦点駆動回路
２０ モータ
２１ 第一撮像部
２２ 第二撮像部
２３ 撮影条件設定情報生成部
３０ 撮像装置
１００、２００、２００Ａ 画像処理装置
１０１、２０１ 入力部
１０２ 基準画像データ選定部
１０３ 差分画像データ抽出部
１０４、２０４ 差分画像データ生成部
１０５ 差分画像データ添付部
１０６、１０８、２０６、２１０ 一時記憶メモリ
１０７ ヘッダ情報記録部
１０９、２１４ 制御部
１１０、２１３ 記憶デバイス
１１１ 撮影条件設定取得部
２０２ ヘッダ情報解析部
２０３ 差分画像データ読み出し部
２０５ 視差画像データ生成部
２０７ 基準画像データ生成部
２０８ 立体視表示用画像データ生成部
２０９ 出力条件設定入力部
２１１ 第一処理部
２１２ 第二処理部
２１５ 鑑賞画像参照データ生成部
２１６ シーン参照画像データ再現用データ生成部
２１７ 撮影条件設定読み出し部
３０１ 画像記録装置
３０２ 本体
３０３ マガジン装填部
３０４ 露光処理部
３０５ プリント作成部
３０６ トレー
３０７ 制御部
３０８ ＣＲＴ
３０９ フィルムスキャナ部
３１０ 反射原稿入力装置
３１１ 操作部
３１２ 情報入力手段
３１３ａ ＰＣカード
３１３ｂ ＦＤ
３１４ 画像読込部
３１４ａ ＰＣカード用アダプタ
３１４ｂ ＦＤ用アダプタ
３１５ 画像書込部
３１５ａ ＦＤ用アダプタ
３１５ｂ ＭＯ用アダプタ
３１５ｃ 光ディスク用アダプタ
３１６ａ ＦＤ
３１６ｂ ＭＯ
３１６ｃ 光ディスク
３３０ 画像転送手段
３３１ 画像搬送部
３４０ 通信手段（入力）
３４１ 通信手段（出力）
３５１ 外部プリンタ
３７０ 画像処理部
３７１ データ蓄積手段
３７２ テンプレート記憶手段
７０１ 画像調整処理部
７０２ フィルムスキャンデータ処理部
７０３ 反射原稿スキャンデータ処理部
７０４ 画像データ書式解読処理部
７０５ テンプレート処理部
７０６ ＣＲＴ固有処理部
７０７ プリンタ固有処理部１
７０８ プリンタ固有処理部２
７０９ 画像データ書式作成処理部
４０１ 基準画像データ処理部
４０２ ヘッダ情報解析部
４０３ 差分画像データ読み出し部
４０４ 差分画像データ生成部
４０５ 視差画像データ生成部
４０６ 基準画像データ生成部
４０７ 立体視表示用画像データ生成部
４０８ 出力条件設定入力部
４０９ 撮影条件設定読み出し部[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an imaging device such as a digital camera for recording captured image data used for stereoscopic display, an image processing method for captured image data used for stereoscopic display, an image processing device using the image processing method, and an image recording device. .
[0002]
[Prior art]
2. Description of the Related Art There is known a stereoscopic display in which a three-dimensional (stereoscopic) image is displayed using images arranged on a plane. There are various types of stereoscopic display, but two images for generating parallax in common are required.
[0003]
The two images for the stereoscopic display are obtained by photographing the same subject from different viewpoints. In order to give a natural perspective, the distance between the viewpoints, that is, the distance between the lenses, is set between the human eyes. It is set to about 6,7 cm, which is equal to the distance.
[0004]
In the stereoscopic display called a stereo pair, the size of each image is set so that the two images causing the above-described parallax are kept at a distance of at least about 6 to 7 cm, which is the same as the distance between human eyes. Adjust the height and place them side by side on a plane.
[0005]
There are two methods of observing the stereoscopic display image arranged on a plane: a parallel method in which one of the images placed on the right is viewed with the right eye, and a crossing method in which one of the images placed on the right is viewed with the left eye. is there. The parallel method does not require extra power for the eyes during observation, and is easy to watch, but cannot observe large images. On the other hand, in the crossing method, the eyes are easily tired because the eyes are looked sideways, but a large image can be seen.
[0006]
2. Description of the Related Art In recent years, with the rapid spread of digital cameras, opportunities for capturing images used for the above-described stereoscopic display with a digital camera and enjoying stereoscopic display have been increasing. For example, in a general digital camera having only one photographing optical system, the same subject is photographed twice in succession, and before the second photographing, the photographer's standing position is shifted laterally to perform stereoscopic vision. 2. Description of the Related Art A digital camera having an auxiliary function of shooting captured image data for display has been proposed.
[0007]
When recording an image for stereoscopic display, for example, a technique using a difference between two images has been proposed as in
[0008]
In addition, the captured image data for stereoscopic display is used for obtaining altitude measurement data for creating a stereoscopic map, diagnostic data (for example, an X-ray photograph) at a medical site, and for selecting insect specimens. Many image processing methods using stereoscopically displayed images and new use cases have been proposed.
[0009]
On the other hand, image data captured by a digital camera is distributed via a storage device such as a compact disc recorder (CD-R), a floppy (registered trademark) disk, a memory card, or the Internet, and is distributed over a CRT (Cathode Ray Tube) and a liquid crystal. Display / printing, such as display on a display monitor such as a plasma monitor or a small LCD monitor of a mobile phone, or printing as a hard copy image using an output device such as a digital printer, an ink jet printer, or a thermal printer. Methods are becoming increasingly diverse.
[0010]
Also, when displaying and outputting captured image data for viewing purposes, gradation adjustment, brightness adjustment, color balance adjustment, sharpness adjustment, etc. are performed so that desired image quality can be obtained on a display monitor used for viewing or on a hard copy. Generally, various image processes represented by gender emphasis are performed.
[0011]
Efforts have been made to increase the versatility of captured image data in response to these various display and print methods. As part of this, there is an attempt to standardize the color space represented by digital RGB signals into a color space that does not depend on the characteristics of the imaging device. Currently, “sRGB” is adopted as a standardized color space for many captured image data. (See "Multimedia Systems and Equipment-Color Measurement and Management-Part 2-1: Color Management-Default RGB Color Space Space-sRGB". It is set corresponding to the color reproduction area.
[0012]
2. Description of the Related Art A general digital camera is an image pickup device having a photoelectric conversion function (CCD type image pickup device) having a color sensitivity by combining a CCD (charge coupled device), a charge transfer mechanism, and a checkered color filter. (Hereinafter simply referred to as “CCD”).
[0013]
The captured image data output by the digital camera is converted into an electrical original signal converted via a CCD, by correcting the photoelectric conversion function of the image sensor (for example, gradation correction, spectral sensitivity crosstalk correction, and dark current noise). Image processing such as suppression, sharpening, white balance adjustment, saturation adjustment, etc.), and file conversion / compression processing to a standardized data format that can be read and displayed by image editing software And so on.
[0014]
As such a data format, for example, “Baseline Tiff Rev. 6.0 RGB Full Color Image”, which is adopted as an uncompressed file of an Exif file, and a compressed data file format based on the JPEG format are known.
[0015]
The Exif file is based on the sRGB, and the correction of the photoelectric conversion function of the image sensor is set so as to have the most suitable image quality on a display monitor based on the sRGB.
[0016]
For example, regardless of the type of digital camera, tag information indicating display in a standard color space of a display monitor (hereinafter, also referred to as “monitor profile”) conforming to the sRGB signal, the number of pixels, the pixel arrangement, and A function of writing additional information indicating model-dependent information such as the number of bits per pixel as metadata in a file header of captured image data, and displaying the captured image data on a display as long as such a data format format is adopted. Image editing software (for example, Photoshop manufactured by Adobe) displayed on the monitor analyzes the tag information and prompts the user to change the monitor profile to sRGB, or can automatically perform the change processing, so that the difference between the different displays is different. To reduce the number of images captured by a digital camera. Is it possible to watch in Thailand.
[0017]
As the additional information, in addition to the model-dependent information, information directly related to a camera type (model), such as a camera name and a code number, or an exposure time, a shutter speed, an aperture value (F number), and an ISO sensitivity , Brightness value, subject distance range, light source, presence / absence of strobe light, subject area, white balance, zoom magnification, subject configuration, shooting scene type, amount of reflected light from strobe light source, shooting saturation, etc. A tag (code) indicating information about the type of the image is used, and the image editing software and the output device have a function of reading the additional information and making the image quality of the hard copy image more suitable.
[0018]
[Patent Document 1]
JP-A-10-28274
[Patent Document 2]
JP-A-6-30445
[Patent Document 3]
JP-A-7-30924
[0019]
[Problems to be solved by the invention]
By the way, as described above, the stereoscopic display becomes more familiar and the use opportunity increases, but the correspondence to the versatility and convenience of the captured image data taken for the stereoscopic display is behind. It is the current situation.
[0020]
For example, a plurality of captured image data are automatically searched for captured image data for stereoscopic display, and a normal photo print and a photo print for stereoscopic display are displayed in a series of photo print creation processing flows. Cannot be processed at the same time.
[0021]
Further, in an output device that does not support hard copy creation of a stereoscopic display image, it is not possible to efficiently execute processing such as creating a normal hard copy using only one image.
[0022]
There is also a need for a means for creating a higher quality single photographic print by effectively utilizing the amount of information of captured image data captured for stereoscopic display.
[0023]
An object of the present invention is to record captured image data for stereoscopic display in a highly versatile and convenient manner, and to effectively utilize the information amount of the captured image data for stereoscopic display, thereby improving image quality. It is to improve.
[0024]
[Means for Solving the Problems]
In order to solve the above problems, the invention described in
An image processing method for outputting one captured image data from a plurality of captured image data obtained by capturing the same subject at different viewpoints and under different capturing conditions,
Selecting at least one reference image data from the plurality of captured image data;
Extracting difference image data including the difference content between the selected reference image data and other captured image data,
Attaching the extracted difference image data to the reference image data,
Attachment to the reference image data attachment identification information indicating that the difference image data is attached and shooting condition setting information indicating shooting conditions of the plurality of shot image data,
It is characterized by including.
[0025]
The invention according to
A step of recording the attachment identification information and the photographing condition setting information in the header area of the reference image data as tag information, thereby attaching the tag information to the reference image data.
[0026]
The invention according to claim 3 is:
In an image processing method for processing and outputting input image data into image data optimal for appreciation on an output medium,
Different image data including the difference between reference image data and other captured image data of a plurality of captured image data obtained by capturing the same subject at different viewpoints and under different capturing conditions, Attaching reference image data, attached identification information indicating that the difference image data is attached to the reference image data, and inputting shooting condition setting information indicating shooting conditions of the plurality of shot image data; and ,
Based on the attached identification information, separating the reference image data and the difference image data,
Based on the shooting condition setting information, generating parallax image data using the separated reference image data and difference image data,
Based on the reference image data and the parallax image data, a step of generating image data for stereoscopic display,
It is characterized by including.
[0027]
The invention according to claim 4 is the invention according to claim 3,
The attached identification information and the imaging condition setting information are tag information recorded in a header area of the input captured image data.
[0028]
The invention according to
The imaging condition is a sensitivity setting of an image sensor.
[0029]
The invention according to
In an imaging apparatus that obtains a plurality of captured image data by capturing the same subject at different viewpoints and under different capturing conditions,
Reference image data selecting means for selecting at least one reference image data from the plurality of captured image data;
Difference image data generating means for extracting difference image data including the difference content between the selected reference image data and other captured image data,
The extracted difference image data is attached to the reference image data, and further, attachment identification information indicating that the difference image data is attached and shooting condition setting information indicating shooting conditions of the plurality of pieces of captured image data. Attachment processing means attached to the reference image data,
It is characterized by having.
[0030]
The invention according to
The attachment processing unit attaches the attached identification information and the photographing condition setting information to the reference image data by recording the information as tag information in a header area of the reference image data.
[0031]
The invention according to
The imaging condition is a sensitivity setting of an image sensor.
[0032]
The invention according to
An image processing apparatus that outputs one captured image data from a plurality of captured image data obtained by capturing the same subject under different viewpoints and under different capturing conditions,
Each of the plurality of captured image data has different shooting conditions,
Reference image data selecting means for selecting at least one reference image data from the plurality of captured image data;
Difference image data extraction means for extracting difference image data including the difference content between the reference image data and other captured image data,
Difference image data attaching means for attaching the extracted difference image data to the reference image data,
Information attaching means for attaching, to the reference image data, attachment identification information indicating that the difference image data is attached and shooting condition setting information indicating a shooting condition of the plurality of shot image data,
It is characterized by having.
[0033]
The invention according to
The information attaching means attaches the attached identification information and the photographing condition setting information to the reference image data by recording the information as tag information in a header area of the reference image data.
[0034]
The invention according to
In an image processing device that processes input image data into image data optimal for viewing on an output medium and outputs the image data,
Different image data including the difference between reference image data and other captured image data of a plurality of captured image data obtained by capturing the same subject at different viewpoints and under different capturing conditions, Input for inputting the attached reference image data, attached identification information indicating that the difference image data is attached to the reference image data, and shooting condition setting information indicating shooting conditions of the plurality of shot image data. Means,
Determining means for determining the attached identification information and the imaging condition setting information;
Based on the determined attached identification information, a data separation unit that separates the reference image data and the difference image data,
A parallax image data generating unit configured to generate parallax image data using the separated reference image data and the differential image data based on the determined imaging condition setting information;
Based on the reference image data and the parallax image data, a stereoscopic display image data generating unit that generates image data for stereoscopic display,
It is characterized by having.
[0035]
The invention according to claim 12 is the invention according to
The attached identification information and the imaging condition setting information are tag information recorded in a header area of the input captured image data.
[0036]
The invention according to
The imaging condition is a sensitivity setting of an image sensor.
[0037]
The invention according to
In an image recording apparatus that processes input image data into optimal image data for viewing on an output medium to form a viewing image on an output medium,
Different image data including the difference between reference image data and other captured image data of a plurality of captured image data obtained by capturing the same subject at different viewpoints and under different capturing conditions, Input means for inputting the attached reference image data, attachment identification information indicating that the difference image data is attached to the reference image data, and shooting condition setting information indicating shooting conditions of the plurality of shot image data. When,
Determining means for determining the attached identification information and the imaging condition setting information;
Based on the determined attached identification information, a data separation unit that separates the reference image data and the difference image data,
A parallax image data generating unit configured to generate parallax image data using the separated reference image data and the differential image data based on the determined imaging condition setting information;
Based on the reference image data and the parallax image data, a stereoscopic display image data generating unit that generates image data for stereoscopic display,
Image forming means for forming a viewing image for stereoscopic display on an output medium, based on the generated image data for stereoscopic display,
It is characterized by having.
[0038]
The invention according to
The attached identification information and the imaging condition setting information are tag information recorded in a header area of the input captured image data.
[0039]
The invention according to
The imaging condition is a sensitivity setting of an image sensor.
[0040]
According to the image processing method, the imaging device, and the image processing device according to
[0041]
Therefore, a plurality of captured image data obtained by capturing the same subject from different viewpoints, that is, a plurality of captured image data captured for stereoscopic display can be treated as a single captured image data. Of retrieval efficiency when retrieving captured image data taken for stereoscopic display from captured image data of a single image, as one photo print with reference image data by a printer that does not support stereoscopic display Can be output. As a result, the compatibility between captured image data captured for stereoscopic display and normal captured image data of the same subject captured from one viewpoint is improved, and the versatility of captured image data for stereoscopic display is improved. Convenience can be improved.
[0042]
In addition, shooting condition setting information is attached to the reference image data, and difference information due to a difference in shooting condition settings between the reference image data and the other shot image data is included in the difference image data attached to the reference image data. Since such information and data are used in other image processing apparatuses and image recording apparatuses, image quality can be improved when a stereoscopic display image is generated.
[0043]
According to the image processing method, the image processing apparatus, and the image recording apparatus according to
[0044]
Therefore, the input captured image data is reference image data captured for stereoscopic display to which the difference image data is attached, that is, the image processing method and the image capturing apparatus according to the inventions of
[0045]
It is preferable that the attached identification information of the present invention is recorded as tag information in a header area of the captured image data. Further, as the different photographing conditions, for example, there is a difference in sensitivity setting of the image sensor. When a plurality of pieces of captured image data are captured with different sensitivity settings, the image quality can be improved by using information of the captured image data having the optimal sensitivity setting according to the luminance of the image area.
[0046]
Next, terms used in the description of the present invention will be described in detail.
[0047]
In the description of the present invention, “a plurality of captured image data obtained by capturing the same subject from different viewpoints” includes at least two images required for stereoscopic display by a stereo pair captured by an imaging device. This is captured image data. In the description of this specification, “a plurality of captured image data for stereoscopic display” is used synonymously.
[0048]
Acquisition of a plurality of captured image data for stereoscopic display includes the following three methods.
1. A method in which the position of one imaging device is changed and photographing is performed at least twice
2. A method of arranging two imaging devices at an interval and performing each imaging operation once
3. Method of using one imaging device having two imaging optical systems arranged at a predetermined interval
[0049]
The acquisition of a plurality of pieces of captured image data used in the image processing method according to the first aspect and the imaging apparatus according to the sixth aspect include the above-described item 3. It is desirable to use one imaging device having the two imaging optical systems.
[0050]
It is desirable that the “captured image data” used in the present invention is scene reference image data. Hereinafter, the scene reference data will be described in detail.
[0051]
The “scene reference image data” means that at least the signal intensity of each color channel based on the spectral sensitivity of the image sensor itself is “scRGB” (relative scene RGB color space), “RIMM RGB” (Reference Input Medium Metric RGB), or “ERIMM RGB”. (Extended Reference Input Medium Metric RGB) or other standard color space, and an image whose data content is modified in order to improve the effects at the time of image appreciation such as gradation conversion, sharpness enhancement, and saturation enhancement. This means image data in a state where processing is omitted. Further, the scene reference image data is used to correct the photoelectric conversion characteristics of the imaging apparatus (opto-electronic conversion function defined by ISO 1452, for example, see “Fine Imaging and Digital Photography” by Corona Co., Ltd., page 449 of the Japan Society of Photographic Society Press). It is preferable that this is performed.
[0052]
The information amount (for example, the number of gradations) of the scene reference image data is preferably equal to or more than the information amount (for example, the number of gradations) required for the viewing image reference data in accordance with the performance of the A / D converter. For example, when the gradation number of the viewing image reference data is 8 bits per channel, the gradation number of the scene reference image data is preferably 12 bits or more, more preferably 14 bits or more, and further preferably 16 bits or more.
[0053]
Also, the distance between “different viewpoints” (hereinafter referred to as “inter-viewpoint distance”), that is, the distance between lenses, is different from the distance between human eyes in order to give a natural perspective, except in special cases. It is desirable that the distance is set to about 6,7 cm. As a special example, there is a case where it is desired to emphasize the stereoscopic effect of a subject arranged far from the shooting position. In such a case, by doubling the distance between viewpoints, the same effect as halving the distance to the subject can be obtained. Conversely, when a small object is photographed like a close-up, the stereoscopic effect is emphasized by reducing the distance between viewpoints.
[0054]
The distance to the main subject when acquiring captured image data for stereoscopic display is desirably about 1 to 4 m as shown in FIG. 3 when the distance between viewpoints is 6 cm. If this is set to the angle to the subject (convergence angle), it will be in the range of about 1 to 4 degrees.
[0055]
For example, if a small subject is placed at a distance of 10 cm, the viewpoint distance must be adjusted to 6 mm or less in order to make the angle to the subject 4 degrees or less. Contrary to this, in the case of a large subject that is sufficiently visible even at a distance of 100 m, to set the angle to the subject to 4 degrees, the distance between viewpoints must be adjusted to about 6 m.
[0056]
Therefore, in order to obtain a sufficient three-dimensional effect using one imaging device in which the two imaging optical systems are arranged at an interval of about 6 cm, a size that can be photographed at a distance of 1 to 4 m from the imaging device. It is desirable to be the subject.
[0057]
“Outputting one piece of captured image data from a plurality of pieces of captured image data” means that at least two pieces of captured image data necessary for stereoscopic display by a stereo pair are output by only one image except during stereoscopic display. Processing in a predetermined file format so that it can be handled as image data.
[0058]
“Shooting under different shooting conditions” means shooting a plurality of shot image data under shooting conditions other than the inter-viewpoint distance. For example, 3. When one imaging device having the two imaging optical systems is used, each of the two imaging optical systems performs imaging by changing imaging conditions other than the inter-viewpoint distance. As the photographing condition, the sensitivity setting of the image sensor can be exemplified.
[0059]
“Selecting at least one piece of reference image data” means to perform display other than stereoscopic display or hard copy output from at least two pieces of captured image data necessary for stereoscopic display by a stereo pair. That is, at least one piece of captured image data is determined.
[0060]
Image analysis or the like is used to select the reference image data. If the imaging condition is different in sensitivity setting, the appropriateness of the sensitivity setting is evaluated by histogram analysis of the captured image data, and the captured image data evaluated to have the highest appropriateness is selected as reference image data. Of course, these operations may be automatically processed, or may be processed manually by a user. In order to be processed automatically, it is necessary to provide a means for identifying the photographing condition setting. As such identification means, for example, there is a method of utilizing header information of a file.
[0061]
Note that this reference image data is not a stereo pair display such as a store that does not accept a photo print order for stereo display, or a case where the customer does not request a print order for stereo display, but only one image. It can be suitably used when creating a photographic print.
[0062]
The “difference image data” holds parallax information and difference information due to a difference in imaging conditions as a content of a difference between reference image data selected from a plurality of captured image data for stereoscopic display and other captured image data. Digital image data.
[0063]
`` Extracting difference image data including difference content between reference image data and other captured image data '' is to extract difference information including disparity information between reference image data and other captured image data, The following arithmetic expressions can be given as processing examples.
In the description of this specification, other captured image data corresponding to the reference image data is referred to as parallax image data.
(Equation 1) B = A1-A2
A1: reference image data, A2: parallax image data (other captured image data), B: difference image data
[0064]
“Attaching (difference image data) to the reference image data” means recording in a part of the reference image data, and FIG. 5C shows an example of a file format in which a file area is recorded while being divided.
[0065]
“Attach attached identification information indicating that difference image data is attached and shooting condition setting information indicating shooting conditions of the (above) plurality of pieces of captured image data to (the above) reference image data” Is recorded in an area different from the area in which the information on the subject is recorded. As described in
[0066]
In the description of the present invention, it is preferable that “image data optimal for viewing on an output medium”, that is, “stereoscopic display image data” is viewing image reference data. Hereinafter, the viewing image reference data will be described in detail.
[0067]
"Appreciation image reference data" refers to "optimization" so that an optimal image can be obtained on a display device such as a CRT, a liquid crystal display, a plasma display, or an output medium such as silver halide photographic paper, inkjet paper, or thermal printer paper. Digital image data that has been "processed". Note that the viewing image reference data is generated by performing “optimization processing” for each display device and output medium from the scene reference image data in an image processing device or an image recording device using the scene reference image data as input data. .
[0068]
As a specific example of the above-mentioned “optimization process”, there is a process of conversion into the sRGB standard color gamut on the assumption that the image is displayed on a CRT display monitor compliant with the sRGB standard. Therefore, assuming output to silver halide photographic paper, processing is performed so as to obtain optimum color reproduction within the color gamut of silver halide photographic paper. In addition to the above-described color gamut compression, it also includes gradation compression from 16 bits to 8 bits, reduction of the number of output pixels, processing corresponding to the output characteristics (LUT) of the output device, and the like. Further, it goes without saying that image processing such as noise suppression, sharpening, color balance adjustment, saturation adjustment, or dodging processing is performed.
[0069]
After generating the viewing image reference data, difference data (scene reference image data reproduction data) between the scene reference image data and the viewing image reference is obtained, and is attached to the viewing image reference data together with the difference image data of the parallax information. good. FIG. 5B shows an example of the file format in this case.
[0070]
"Separating the reference image data and the difference image data based on the attached identification information" means that the tag information of the reference image data is analyzed, and if the image data has the difference image data, a predetermined format of the file format is used. That is, the difference image data is read from the area, and the reference image data and the difference image data are made ready for image processing at any time.
[0071]
“Generating parallax image data based on the separated reference image data and difference image data” means generating parallax image data paired with the reference image data.
The parallax image data can be obtained, for example, by the following arithmetic expression.
(Equation 2) A2 = A1 + B
A1: Reference image data, A2: Parallax image data, B: Difference image data
Further, image quality adjustment processing is performed on the parallax image data obtained by the above arithmetic expression based on the shooting condition setting information to generate parallax image data.
[0072]
"Generating image data for stereoscopic display based on the reference image data and the parallax image data" means that the reference image and the parallax image are at least about 6 to 7 cm, which is the same as the distance between human eyes. Digital images for stereoscopic display of stereo pairs so that the size of each image is adjusted so as to be kept at a distance, and arranged correctly on a plane according to the observation conditions of the parallel method or the cross method This is to prepare data (hereinafter, “stereoscopic display image data” is used synonymously) (FIG. 9).
[0073]
In addition to using a digital camera, the image pickup apparatus of the present invention includes an analog camera using a color negative film, a color reversal film, a black-and-white negative film, a black-and-white reversal film, and a film scanner for reading digital frame data by reading frame image information of a photographic photosensitive material. Alternatively, it may be constituted by a flatbed scanner that reads image information reproduced on silver halide photographic paper and obtains digital image data.
[0074]
The input of the “captured image data” includes a CompactFlash (registered trademark), a memory stick, a smart media, a multimedia card, a floppy (registered trademark) disk, a magneto-optical storage medium (MO), a CD-R, and the like. Any known portable "storage media" can be used.
[0075]
As another embodiment, digital image data may be obtained from a remote place via communication means such as a network, or an imaging device and an image processing device, an image recording device may be connected by wire, and the digital image data may be obtained. A direct transmission method may be used.
[0076]
Further, in the imaging device, the image processing device, and the image recording device of the present invention, the additional information of the Exif file may be used as header recording information of the captured image data.
Examples of the additional information include model-dependent information, information directly related to a camera type (model) such as a camera name and a code number, or an exposure time, a shutter speed, an aperture value (F number), an ISO sensitivity, a brightness value, and a subject. Setting of shooting conditions such as distance range, light source, presence / absence of flash emission, subject area, white balance, zoom magnification, subject configuration, shooting scene type, amount of reflected light from the flash light source, shooting saturation, etc., and information on the type of subject Is used.
[0077]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, preferred embodiments of an imaging device according to the present invention will be described with reference to the drawings.
[0078]
<Configuration of
First, the configuration will be described.
FIG. 1 is a block diagram showing a functional configuration of an
[0079]
The
[0080]
The
[0081]
The analog processing circuit 4 performs, for example, amplification of R, G, and B signals, noise reduction processing, and the like on the imaging signal input from the CCD 3. The A /
[0082]
The
[0083]
The focal
[0084]
The automatic
[0085]
Here, the distance between the
[0086]
As a special example, there is a case where it is desired to emphasize the stereoscopic effect of a subject arranged far from the
[0087]
When obtaining a plurality of captured image data for stereoscopic display, the distance to the main subject is desirably about 1 to 4 m as shown in FIG. 3 when the distance between viewpoints is 6 cm. If this is set to the angle to the subject (convergence angle), it will be in the range of about 1 to 4 degrees.
[0088]
For example, if a small subject is placed at a distance of 10 cm, the viewpoint distance must be adjusted to 6 mm or less in order to make the angle to the subject 4 degrees or less.
Contrary to this, in the case of a large subject that is sufficiently visible even at a distance of 100 m, to set the angle to the subject to 4 degrees, the distance between viewpoints must be adjusted to about 6 m.
[0089]
Therefore, when the distance between the
[0090]
The
[0091]
The captured image data obtained by the
[0092]
The
[0093]
Further, the
[0094]
The
[0095]
The
[0096]
The
[0097]
Further, when the output of the captured image data for the stereoscopic display by the scene reference image data is designated by the
[0098]
The reference image data selection unit 12 selects reference image data from a plurality of pieces of captured image data for stereoscopic display obtained by shooting, and outputs the result to the difference image
[0099]
The difference image
A1: Reference image data
A2: Parallax image data
B: Difference image data
B = A1-A2
[0100]
The
[0101]
The shooting condition (mode) setting button of the
[0102]
The
[0103]
The
The
[0104]
The photographing condition setting information generating unit 23 generates photographing condition setting information indicating the photographing conditions when each photographed image data is photographed, and outputs the photographing condition setting information to the
[0105]
<Operation of
Next, the operation will be described.
FIG. 4 illustrates a case where the output of a plurality of pieces of captured image data for stereoscopic display using scene reference image data is set by the
[0106]
When the release button of the
[0107]
On the other hand, the photographing condition setting information generating unit 23 generates photographing condition setting information based on the photographing conditions at the time of photographing, and outputs the information to the attachment processing unit 8 (step S3).
[0108]
Next, in the reference image data selection unit 12, the most suitable captured image data for viewing as one captured image from a plurality of captured image data (scene reference image data) for stereoscopic display obtained by capturing is set as a reference. It is selected as image data (step S4). The selection of the reference image data is performed based on the image analysis result. For example, if the mode is set to the stereo sensitivity change mode and the shooting condition setting is different in sensitivity setting, each captured image data is subjected to histogram analysis, and the appropriateness of the sensitivity setting of each captured image data is evaluated based on the result. The captured image data evaluated as having the highest appropriateness is selected as reference image data.
[0109]
Next, the difference image
[0110]
FIG. 5A is a diagram showing a data structure of a data file recorded on the storage medium of the
[0111]
As described above, according to the
[0112]
As described above, according to the
[0113]
Also, instead of saving the reference image data and the corresponding parallax image data as they are, the difference image data is attached to the reference image data, so that the file size used is reduced and the number of shots is greatly increased. Can be done. Further, since the reference image data and the parallax image data are recorded as scene reference image data, it is possible to prevent loss of information on the wide color gamut and luminance range acquired by the
[0114]
Further, since suitable captured image data is selected from among captured image data under different capturing conditions as reference image data, the captured image data for stereoscopic display is output or displayed as a single photo print. In this case, the image quality can be improved. In addition, shooting condition setting information is recorded in a header area of a data file output from the
[0115]
In the above embodiment, the attachment identification information is recorded as tag information in the header area of the file. However, information on how many viewpoints of difference image data are stored, a reference for each difference image data, It is desirable to record the distance between the viewpoints and the image data in the header area.
[0116]
Further, in the above-described embodiment, an example has been described in which captured image data is recorded as scene reference image data on a storage medium. However, the
[0117]
<Configuration of
Next, an embodiment of the image processing apparatus of the present invention will be described.
First, the configuration will be described.
FIG. 6 is a block diagram showing a functional configuration of the
[0118]
The
[0119]
The reference image
[0120]
The difference image
A1: Reference image data
A2: Parallax image data
B: Difference image data
B = A1-A2
[0121]
The difference image
[0122]
The difference image
[0123]
The
[0124]
The header
[0125]
The photographing condition setting
[0126]
The divisions of the reference image
[0127]
<Operation of
FIG. 7 is a flowchart showing a reference image data output process executed by the units of the
[0128]
When a storage medium on which a plurality of captured image data for stereoscopic display is recorded is mounted, a plurality of captured image data recorded on the storage medium is input by the input unit 101 (step 11). The captured image data to be input can correspond to scene reference image data or viewing image reference data. The reference image
[0129]
The reference image data and the difference image data are output to the difference image
[0130]
By the above-described reference image data output processing, a file having the same data structure as that shown in FIG. 5A can be output to the
[0131]
As described above, according to the
[0132]
Therefore, among the plurality of captured image data for stereoscopic display, the most suitable captured image data can be handled as a single captured image data, and the same as ordinary captured image data not for stereoscopic display. File format, file name setting, and the like. Further, since the attached identification information is recorded as the tag information of the file, it is possible to improve search efficiency when searching for a file of captured image data for stereoscopic display from a plurality of files. In addition, since it is possible to automatically determine the file of the captured image data for stereoscopic display and the file of the normal captured image data by referring to the header area, it is possible to efficiently create a print even when both are mixed. It is possible to do. Also, using an image recording device (printer) that does not support stereoscopic display, it is possible to create a normal two-dimensional photo print from captured image data for stereoscopic display.
[0133]
As described above, according to the
[0134]
Further, the
[0135]
Furthermore, since suitable captured image data is selected from the captured image data under different capturing conditions as the reference image data, the image quality is improved when outputting or displaying as a single photo print. Can be. In addition, shooting condition setting information is recorded in a header area of a data file output from the
[0136]
<Configuration of
Next, an embodiment of the image processing apparatus of the present invention will be described.
First, the configuration will be described.
FIG. 8 is a block diagram showing a functional configuration of the
[0137]
The
[0138]
The header
[0139]
As illustrated in FIG. 8, the
[0140]
The difference image
[0141]
The parallax image
A1: Reference image data
A2: Parallax image data
B: Difference image data
A2 = A1 + B
Further, the parallax image
[0142]
The
[0143]
When the header
[0144]
As shown in FIG. 8, the
[0145]
The reference image
[0146]
The stereoscopic display image
[0147]
The output condition setting
[0148]
The
[0149]
The above-described header
[0150]
<Operation of
FIG. 10 is a flowchart illustrating a stereoscopic display image data generation process A executed by the units of the
[0151]
When the storage medium on which the file of the reference image data shown in FIG. 5A is recorded is mounted on the storage medium mounting unit, the
[0152]
Next, the parallax image
[0153]
As described above, according to the
[0154]
Therefore, it is automatically determined that the input data is the reference image data to be used for the stereoscopic display to which the difference image data is attached, and the image data for the stereoscopic display is generated from the reference image data and the difference image data. can do. That is, it is possible to automatically determine that a file of reference image data having a data structure generated by the above-described
[0155]
Further, since the image quality adjustment processing is performed on the parallax image data based on the shooting conditions, the image quality of the stereoscopically displayed image can be improved.
[0156]
Note that the image quality adjustment processing may be further performed on the reference image data using the information of the parallax image data. For example, if the reference image data has a high sensitivity setting and the parallax image data has a low sensitivity setting, the dynamic range is insufficient with the high sensitivity setting reference image data in a high-luminance region, and the signal is likely to be saturated. The image quality can be improved by interpolating with data information.
[0157]
<Configuration of
Next, a process suitable when the input reference image data (data to which difference image data is attached and attached identification information and shooting condition setting information are recorded as tag information in a header area) is scene reference image data. An
[0158]
As shown in FIG. 11, the
[0159]
The viewing image reference
[0160]
The scene reference image data reproduction
[0161]
The other configuration of the
[0162]
<Operation of
FIG. 12 is a flowchart illustrating a stereoscopic display image data generation process B executed by the units of the
[0163]
When a storage medium on which a file of the reference image data of the scene reference image data shown in FIG. 5A is recorded is mounted, the reference image data recorded on the storage medium is input by the input unit 201 (step 31). ). Next, the tag information in the header area of the file of the reference image data is analyzed by the header
[0164]
Next, in the parallax image
[0165]
The reference image data and difference image data converted into the viewing image reference data are generated as reference image data in the stereoscopic display image
[0166]
On the other hand, the scene reference image data reproduction
[0167]
FIG. 5B is a diagram illustrating a data structure of a data file created by the
[0168]
As described above, according to the
[0169]
Note that the image quality adjustment processing may be further performed on the reference image data using the information of the parallax image data. For example, if the reference image data is set to high sensitivity and the parallax image data is set to low sensitivity, the dynamic range is insufficient for the high-sensitivity reference image data in a high-luminance area, and the signal is likely to be saturated. The information can be interpolated to improve the image quality.
[0170]
<Configuration of
Next, a preferred embodiment of the image recording apparatus according to the present invention will be described.
FIG. 13 is a perspective view showing an external configuration of the
[0171]
In the
[0172]
Further, a
[0173]
Documents read from the
[0174]
An
[0175]
An
[0176]
Examples of storage media having frame image data other than those described above include a multimedia card, a memory stick, MD data, a CD-ROM, and the like. The
[0177]
Further, an
[0178]
Further, the
[0179]
<Internal Configuration of
Next, the internal configuration of the
FIG. 14 is a block diagram showing the internal configuration of the
[0180]
The
[0181]
Further, the
[0182]
The
[0183]
The
[0184]
The
[0185]
The
[0186]
The
[0187]
Note that the sample identification information is not limited to three types of sample identification information D1, D2, and D3, and may be more or less than three types.
The sample identification information D1, D2, and D3 for designating a print sample is configured to be input from the
[0188]
As described above, the sample image data is recorded corresponding to the sample identification information D1 for specifying the print sample, the sample identification information D1 for specifying the print sample is input, and based on the input sample identification information D1. Various full-size samples are selected by the user to select the sample image data, combine the selected sample image data with the image data and / or character data based on the order, and create a print based on the designated sample. Can actually order a print by hand, and can respond to various requests from a wide range of users.
[0189]
Also, the first sample identification information D2 designating the first sample and the image data of the first sample are stored, and the second sample identification information D3 designating the second sample and the image of the second sample are stored. The data is stored, the sample image data selected based on the specified first and second sample identification information D2, D3, and the image data and / or character data based on the order are combined, and the sample according to the specification is synthesized. Therefore, a variety of images can be synthesized, and a print can be created that meets a wider range of users' various requirements.
[0190]
The
The print size is not limited to the prints P1, P2, and P3, and may be a print of another size.
[0191]
The
[0192]
The
[0193]
Further, the
[0194]
Further, the
[0195]
As described above, the
[0196]
<Configuration of
FIG. 15 is a block diagram illustrating a functional configuration of the
[0197]
The image data input from the reflection
[0198]
The image data input from the
[0199]
The designation of the size of the output image is input from the
[0200]
The reference image data processing unit 401 includes a header
[0201]
The header
[0202]
The difference image
[0203]
The parallax image
A1: Reference image data
A2: Parallax image data
B: Difference image data
A2 = A1 + B
Further, the parallax image
[0204]
The reference image
[0205]
The stereoscopic display image
[0206]
Note that, when the input reference image data is scene reference image data, the stereoscopic display image
[0207]
The output condition setting input unit 408 is configured by a user interface such as a keyboard and a touch panel configured on an LCD, and sets output of digital image data generated by the image processing apparatus 301 (for example, the type of a device of an output destination). , Output size, etc.), the information is output to the stereoscopic display image
[0208]
The photographing condition setting
[0209]
The stereoscopic display image data generated by the reference image data processing unit 401 is output to the image
[0210]
The image
[0211]
The CRT-
[0212]
The image data format
[0213]
The image data for stereoscopic display created by the reference image data processing unit 401 is processed by the CRT
[0214]
The above-described film scan
[0215]
Also, a header
[0216]
<Operation of
FIG. 16 is a flowchart illustrating a stereoscopic display image forming process performed by the units of the
[0219]
Data is input from the
[0218]
Next, the parallax image
[0219]
Next, in the stereoscopic display image
[0220]
As described above, according to the
[0221]
The image quality adjustment processing may be further performed on the reference image data using the information of the parallax image data. For example, if the reference image data is set to high sensitivity and the parallax image data is set to low sensitivity, the dynamic range is insufficient for the high-sensitivity reference image data in a high-luminance area, and the signal is likely to be saturated. The information can be interpolated to improve the image quality.
[0222]
Note that the description in the above embodiment is a suitable example of the imaging device, the image processing device, and the image recording device of the present invention, and the present invention is not limited thereto. Further, the detailed configuration and detailed operation of each device can be appropriately changed without departing from the spirit of the present invention.
[0223]
【The invention's effect】
According to the image processing method, the imaging device, and the image processing device according to
[0224]
Therefore, a plurality of captured image data obtained by capturing the same subject from different viewpoints, that is, a plurality of captured image data captured for stereoscopic display can be treated as a single captured image data. Of retrieval efficiency when retrieving captured image data taken for stereoscopic display from captured image data of a single image, as one photo print with reference image data by a printer that does not support stereoscopic display Can be output. As a result, the compatibility between captured image data captured for stereoscopic display and normal captured image data of the same subject captured from one viewpoint is improved, and the versatility of captured image data for stereoscopic display is improved. Convenience can be improved.
[0225]
In addition, shooting condition setting information is attached to the reference image data, and difference information due to a difference in shooting condition settings between the reference image data and the other shot image data is included in the difference image data attached to the reference image data. Since such information and data are used in other image processing apparatuses and image recording apparatuses, image quality can be improved when a stereoscopic display image is generated.
[0226]
According to the image processing method, the image processing apparatus, and the image recording apparatus according to
[0227]
Therefore, the input captured image data is reference image data captured for stereoscopic display to which the difference image data is attached, that is, the image processing method according to any one of
[0228]
It is preferable that the attached identification information of the present invention is recorded as tag information in a header area of the captured image data. Further, as the different photographing conditions, for example, there is a difference in sensitivity setting of the image sensor. When a plurality of pieces of captured image data are captured with different sensitivity settings, the image quality can be improved by using information of the captured image data having the optimal sensitivity setting according to the luminance of the image area.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a functional configuration of an
FIG. 2 is a block diagram showing an internal configuration of a
FIG. 3 is a diagram illustrating a relationship between a distance and an angle to a main subject, which is desirable when acquiring captured image data for stereoscopic display when the distance between viewpoints is 6 cm.
FIG. 4 is a flowchart showing a stereoscopic display image photographing / recording process executed under the control of a
5A is a diagram illustrating a data structure of a file generated by the
FIG. 6 is a block diagram showing a functional configuration of the
FIG. 7 is a flowchart showing a reference image data output process executed by cooperation of the units of the
FIG. 8 is a block diagram showing a functional configuration of an
FIG. 9 is a diagram illustrating an example of arrangement of a reference image and a difference image in stereoscopic display image data.
FIG. 10 is a flowchart illustrating a stereoscopic display image data generation process A executed by cooperation of the units of the
FIG. 11 is a block diagram showing a functional configuration of an
12 is a flowchart illustrating a stereoscopic display image data generation process B executed by cooperation of the units of the
FIG. 13 is an external perspective view of an
FIG. 14 is a diagram showing an internal configuration of the
FIG. 15 is a block diagram illustrating a functional configuration of an
FIG. 16 is a flowchart illustrating a stereoscopic display image data forming process executed by the units of the
[Explanation of symbols]
1 lens
2 Aperture
3 CCD
4 Analog processing circuit
5 A / D converter
6. Temporary storage memory
7 Image processing unit
8 Attachment processing section
9 Storage device
10 CCD drive circuit
11 Control part
12 Reference image data selection section
13 Difference image data generation unit
14 Operation unit
15 Display
16 Strobe drive circuit
17 Strobe
18 Focal length adjustment circuit
19 Auto focus drive circuit
20 motor
21 First imaging unit
22 Second imaging unit
23 Shooting condition setting information generation unit
30 Imaging device
100, 200, 200A image processing device
101, 201 input unit
102 Reference image data selection unit
103 Difference image data extraction unit
104, 204 difference image data generation unit
105 Difference image data attachment
106, 108, 206, 210 Temporary storage memory
107 Header information recording unit
109, 214 control unit
110, 213 storage device
111 Shooting condition setting acquisition unit
202 Header information analysis unit
203 Difference image data reading unit
205 Parallax image data generation unit
207 Reference image data generation unit
208 Image data generator for stereoscopic display
209 Output condition setting input section
211 First processing unit
212 second processing unit
215 Appreciation image reference data generation unit
216 Scene Reference Image Data Reproduction Data Generation Unit
217 Photographing condition setting readout section
301 Image recording device
302 body
303 Magazine loading section
304 Exposure processing section
305 Print creation unit
306 tray
307 control unit
308 CRT
309 Film scanner unit
310 Reflective document input device
311 Operation unit
312 Information input means
313a PC card
313b FD
314 Image reading unit
314a PC Card Adapter
314b FD Adapter
315 Image writing unit
315a Adapter for FD
315b MO Adapter
315c Optical Disk Adapter
316a FD
316b MO
316c optical disk
330 Image transfer means
331 Image transport unit
340 Communication means (input)
341 Communication means (output)
351 External printer
370 Image processing unit
371 Data storage means
372 template storage means
701 Image adjustment processing unit
702 Film scan data processing unit
703 Reflected original scan data processing unit
704 Image data format decryption processing unit
705 Template processing unit
706 CRT specific processing unit
707 Printer-
708 Printer-
709 Image data format creation processing unit
401 Reference image data processing unit
402 Header information analysis unit
403 Difference image data reading unit
404 Difference image data generation unit
405 Parallax image data generation unit
406 Reference image data generation unit
407 Image data generator for stereoscopic display
408 Output condition setting input section
409 Photographing condition setting readout unit
Claims (16)
前記複数の撮像画像データの中から基準画像データを少なくとも１つ選定する工程と、
前記選定された基準画像データと他の撮像画像データとの差分内容を含む差分画像データを抽出する工程と、
前記抽出された差分画像データを前記基準画像データに添付する工程と、
前記差分画像データが添付されていることを示す添付識別情報及び前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を前記基準画像データに添付する工程と、
を含むことを特徴とする画像処理方法。An image processing method for outputting one captured image data from a plurality of captured image data obtained by capturing the same subject at different viewpoints and under different capturing conditions,
Selecting at least one reference image data from the plurality of captured image data;
Extracting difference image data including the difference content between the selected reference image data and other captured image data,
Attaching the extracted difference image data to the reference image data,
Attachment to the reference image data attachment identification information indicating that the difference image data is attached and shooting condition setting information indicating shooting conditions of the plurality of shot image data,
An image processing method comprising:
同一被写体を異なる視点、かつ、異なる撮影条件で撮影して得られた複数の撮像画像データのうちの基準画像データと他の撮像画像データとの差分内容を含む差分画像データ、この差分画像データが添付された基準画像データ、前記基準画像データに前記差分画像データが添付されていることを示す添付識別情報、及び、前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を入力する工程と、
前記添付識別情報に基づいて、前記基準画像データと前記差分画像データを分離する工程と、
前記撮影条件設定情報に基づいて、前記分離された基準画像データ及び差分画像データを用いて視差画像データを生成する工程と、
前記基準画像データ及び前記視差画像データに基づいて、立体視表示用の画像データを生成する工程と、
を含むことを特徴とする画像処理方法。In an image processing method for processing and outputting input image data into image data optimal for appreciation on an output medium,
Different image data including the difference between reference image data and other captured image data of a plurality of captured image data obtained by capturing the same subject at different viewpoints and under different capturing conditions, Attaching reference image data, attached identification information indicating that the difference image data is attached to the reference image data, and inputting shooting condition setting information indicating shooting conditions of the plurality of shot image data; and ,
Based on the attached identification information, separating the reference image data and the difference image data,
Based on the shooting condition setting information, generating parallax image data using the separated reference image data and difference image data,
Based on the reference image data and the parallax image data, a step of generating image data for stereoscopic display,
An image processing method comprising:
前記複数の撮像画像データの中から基準画像データを少なくとも１つ選定する基準画像データ選定手段と、
前記選定された基準画像データと他の撮像画像データとの差分内容を含む差分画像データを抽出する差分画像データ生成手段と、
前記抽出された差分画像データを前記基準画像データに添付し、更に、前記差分画像データが添付されていることを示す添付識別情報及び前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を前記基準画像データに添付する添付処理手段と、
を備えたことを特徴とする撮像装置。In an imaging apparatus that obtains a plurality of captured image data by capturing the same subject at different viewpoints and under different capturing conditions,
Reference image data selecting means for selecting at least one reference image data from the plurality of captured image data;
Difference image data generating means for extracting difference image data including the difference content between the selected reference image data and other captured image data,
The extracted difference image data is attached to the reference image data, and further, attachment identification information indicating that the difference image data is attached and shooting condition setting information indicating shooting conditions of the plurality of pieces of captured image data. Attachment processing means attached to the reference image data,
An imaging device comprising:
前記複数の撮像画像データは、それぞれ撮影条件が異なり、
前記複数の撮像画像データの中から基準画像データを少なくとも１つ選定する基準画像データ選定手段と、
前記基準画像データと他の撮像画像データとの差分内容を含む差分画像データを抽出する差分画像データ抽出手段と、
前記抽出された差分画像データを前記基準画像データに添付する差分画像データ添付手段と、
前記差分画像データが添付されていることを示す添付識別情報及び前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を前記基準画像データに添付する情報添付手段と、
を備えたことを特徴とする画像処理装置。An image processing apparatus that outputs one captured image data from a plurality of captured image data obtained by capturing the same subject under different viewpoints and under different capturing conditions,
Each of the plurality of captured image data has different shooting conditions,
Reference image data selecting means for selecting at least one reference image data from the plurality of captured image data;
Difference image data extraction means for extracting difference image data including the difference content between the reference image data and other captured image data,
Difference image data attaching means for attaching the extracted difference image data to the reference image data,
Information attaching means for attaching, to the reference image data, attachment identification information indicating that the difference image data is attached and shooting condition setting information indicating a shooting condition of the plurality of shot image data,
An image processing apparatus comprising:
同一被写体を異なる視点、かつ、異なる撮影条件で撮影して得られた複数の撮像画像データのうちの基準画像データと他の撮像画像データとの差分内容を含む差分画像データ、この差分画像データが添付された基準画像データと、前記基準画像データに前記差分画像データが添付されていることを示す添付識別情報、及び、前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を入力する入力手段と、
前記添付識別情報及び前記撮影条件設定情報を判別する判別手段と、
前記判別された添付識別情報に基づいて、前記基準画像データと前記差分画像データを分離するデータ分離手段と、
前記判別された撮影条件設定情報に基づいて、前記分離された基準画像データ及び差分画像データを用いて視差画像データを生成する視差画像データ生成手段と、
前記基準画像データ及び前記視差画像データに基づいて、立体視表示用の画像データを生成する立体視表示用画像データ生成手段と、
を備えたことを特徴とする画像処理装置。In an image processing device that processes input image data into image data optimal for viewing on an output medium and outputs the image data,
Different image data including the difference between reference image data and other captured image data of a plurality of captured image data obtained by capturing the same subject at different viewpoints and under different capturing conditions, Input for inputting the attached reference image data, attached identification information indicating that the difference image data is attached to the reference image data, and shooting condition setting information indicating shooting conditions of the plurality of shot image data. Means,
Determining means for determining the attached identification information and the imaging condition setting information;
Based on the determined attached identification information, a data separation unit that separates the reference image data and the difference image data,
A parallax image data generating unit configured to generate parallax image data using the separated reference image data and the differential image data based on the determined imaging condition setting information;
Based on the reference image data and the parallax image data, a stereoscopic display image data generating unit that generates image data for stereoscopic display,
An image processing apparatus comprising:
同一被写体を異なる視点、かつ、異なる撮影条件で撮影して得られた複数の撮像画像データのうちの基準画像データと他の撮像画像データとの差分内容を含む差分画像データ、この差分画像データが添付された基準画像データ、前記基準画像データに前記差分画像データが添付されていることを示す添付識別情報、及び、前記複数の撮像画像データの撮影条件を示す撮影条件設定情報を入力する入力手段と、
前記添付識別情報及び前記撮影条件設定情報を判別する判別手段と、
前記判別された添付識別情報に基づいて、前記基準画像データと前記差分画像データを分離するデータ分離手段と、
前記判別された撮影条件設定情報に基づいて、前記分離された基準画像データ及び差分画像データを用いて視差画像データを生成する視差画像データ生成手段と、
前記基準画像データ及び前記視差画像データに基づいて、立体視表示用の画像データを生成する立体視表示用画像データ生成手段と、
前記生成された立体視表示用の画像データに基づいて、出力媒体上に立体視表示用の鑑賞画像を形成する画像形成手段と、
を備えたことを特徴とする画像記録装置。In an image recording apparatus that processes input image data into optimal image data for viewing on an output medium to form a viewing image on an output medium,
Different image data including the difference between reference image data and other captured image data of a plurality of captured image data obtained by capturing the same subject at different viewpoints and under different capturing conditions, Input means for inputting the attached reference image data, attachment identification information indicating that the difference image data is attached to the reference image data, and shooting condition setting information indicating shooting conditions of the plurality of shot image data. When,
Determining means for determining the attached identification information and the imaging condition setting information;
Based on the determined attached identification information, a data separation unit that separates the reference image data and the difference image data,
A parallax image data generating unit configured to generate parallax image data using the separated reference image data and the differential image data based on the determined imaging condition setting information;
Based on the reference image data and the parallax image data, a stereoscopic display image data generating unit that generates image data for stereoscopic display,
Image forming means for forming a viewing image for stereoscopic display on an output medium, based on the generated image data for stereoscopic display,
An image recording apparatus comprising:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003157719A JP2004363760A (en) | 2003-06-03 | 2003-06-03 | Image processing method, imaging apparatus, image processing apparatus, and image recording apparatus |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003157719A JP2004363760A (en) | 2003-06-03 | 2003-06-03 | Image processing method, imaging apparatus, image processing apparatus, and image recording apparatus |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2004363760A true JP2004363760A (en) | 2004-12-24 |
Family
ID=34051343
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2003157719A Pending JP2004363760A (en) | 2003-06-03 | 2003-06-03 | Image processing method, imaging apparatus, image processing apparatus, and image recording apparatus |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2004363760A (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2012176526A1 (en) * | 2011-06-21 | 2012-12-27 | シャープ株式会社 | Stereoscopic image processing device, stereoscopic image processing method, and program |
-
2003
- 2003-06-03 JP JP2003157719A patent/JP2004363760A/en active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2012176526A1 (en) * | 2011-06-21 | 2012-12-27 | シャープ株式会社 | Stereoscopic image processing device, stereoscopic image processing method, and program |
| JPWO2012176526A1 (en) * | 2011-06-21 | 2015-02-23 | シャープ株式会社 | Stereoscopic image processing apparatus, stereoscopic image processing method, and program |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2004363758A (en) | Image processing method, imaging apparatus, image processing apparatus, and image recording apparatus | |
| JP2005026800A (en) | Image processing method, imaging apparatus, image processing apparatus, and image recording apparatus | |
| JP4131192B2 (en) | Imaging apparatus, image processing apparatus, and image recording apparatus | |
| JP4406195B2 (en) | Output image adjustment of image data | |
| JP2004173010A (en) | Image pickup device, image processor, image recorder, image processing method, program and recording medium | |
| JP2008022240A (en) | Photographing device, image processor, image file generating method, image processing method, and image processing program | |
| JP2004096506A (en) | Image forming method, image processor and image recording device | |
| JP2004096500A (en) | Image pickup apparatus, image processing apparatus, and image recording apparatus | |
| US20090290041A1 (en) | Image processing device and method, and computer readable recording medium containing program | |
| JP2004096505A (en) | Image processing method, image processing apparatus, image recording apparatus, program, and recording medium | |
| JP2006203566A (en) | Imaging apparatus, image processing apparatus and image processing method | |
| JP2005203865A (en) | Image processing system | |
| JP2003250109A (en) | Image reproducing method, and image reproducing apparatus | |
| JP2004363760A (en) | Image processing method, imaging apparatus, image processing apparatus, and image recording apparatus | |
| JP2004328534A (en) | Image forming method, image processing apparatus and image recording apparatus | |
| JP2005229280A (en) | Image processing apparatus and method, and program | |
| JP2004096508A (en) | Image processing method, image processing apparatus, image recording apparatus, program, and recording medium | |
| JP2006203573A (en) | Imaging apparatus, image processor, and image recording apparatus | |
| JP2006203571A (en) | Imaging apparatus, image processing apparatus, and image recording apparatus | |
| JP2004328530A (en) | Imaging apparatus, image processing apparatus, and image recording apparatus | |
| JP4600503B2 (en) | Output image adjustment of image data | |
| JP4292873B2 (en) | Image processing method, image processing apparatus, and image recording apparatus | |
| JP2006272729A (en) | Image printing device, memory card, image printing method, image printing program and recording medium | |
| JP2004242066A (en) | Image recorder, image recording method and image processing program | |
| JP2004242124A (en) | System, device, method and program for processing image |