JP2006135823A - 画像処理装置、撮像装置および画像処理プログラム - Google Patents
画像処理装置、撮像装置および画像処理プログラム Download PDFInfo
- Publication number
- JP2006135823A JP2006135823A JP2004324590A JP2004324590A JP2006135823A JP 2006135823 A JP2006135823 A JP 2006135823A JP 2004324590 A JP2004324590 A JP 2004324590A JP 2004324590 A JP2004324590 A JP 2004324590A JP 2006135823 A JP2006135823 A JP 2006135823A
- Authority
- JP
- Japan
- Prior art keywords
- image
- parallax
- pixel
- images
- pixel information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Cameras In General (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
【課題】 複数の画像に基づいて単一画像を生成する場合の画質劣化を低減する画像処理装置を提供する。
【解決手段】 画像処理装置は、複数の入力画像の画素情報に基づいて単一画像を生成する。該画像処理装置は、該単一画像における少なくとも一部の画素を、該複数の入力画像のうち少なくとも2つの入力画像の画素情報を合成して得る合成手段115を有する。該合成手段は、該入力画像間の視差に関する情報に基づいて画素情報の合成比率を変更する。また、画像処理装置は、該入力画像間の視差に関する情報に基づいて、該単一画像の生成方法を変更する。
【選択図】 図1
【解決手段】 画像処理装置は、複数の入力画像の画素情報に基づいて単一画像を生成する。該画像処理装置は、該単一画像における少なくとも一部の画素を、該複数の入力画像のうち少なくとも2つの入力画像の画素情報を合成して得る合成手段115を有する。該合成手段は、該入力画像間の視差に関する情報に基づいて画素情報の合成比率を変更する。また、画像処理装置は、該入力画像間の視差に関する情報に基づいて、該単一画像の生成方法を変更する。
【選択図】 図1
Description
本発明は、複眼光学系等を用いて取得された複数の画像に基づいて単一画像を生成する装置およびこれを備えた撮像装置に関する。
従来、2組の撮像系を用いて共通(同一)の被写体を撮影して得られる2つの画像を合成することにより高精細な単一の画像を得る複眼撮像装置が提案されている。(例えば、特許文献1、2参照)。この複眼撮像装置では、左側撮像系と右側撮像系とを用意し、左側撮像系と右側撮像系とでサンプリング点を空間位相で1/2ピッチずらして被写体を撮影するとともに、左側撮像系で得られた画像と右側撮像系で得られた画像とを合成することにより、1つの撮像系で被写体を撮影した場合に比べて高解像度な1つの出力画像を得ることができる。
この原理を、カラー画像に応用することも可能であり、この場合、各撮影光学系に対してベイヤー配列やストライプ配列等のカラーフィルタを有するイメージセンサを備える方法と、撮影光学系ごとに色感度特性の異なるイメージセンサを用いる方法とがある。
ここで、各撮影光学系の光軸がずれて視差を有する場合、複数の画像の合成による高精細な画像を得る効果が低減される。そして、この視差の影響は、被写体までの距離により変わる。
このことについて図8を用いて説明する。図8において、601、602は複眼光学系を構成する個々の撮影光学系であり、それぞれの撮影光学系はイメージセンサ603、604上に同一被写体の像を結像させる。
各イメージセンサはモザイク状もしくはストライプ状のカラーフィルタを持ち、それぞれ単独でカラー画像を撮像する。イメージセンサ603、604からの画素信号がカメラ信号処理回路605、606により処理されて2つの画像が生成され、これら画像を画像合成処理回路607によって合成することにより、高解像度の単一画像(以下、合成画像という)が生成される。
この構成において、2つの撮影光学系601、602は、その光軸が互いにずれており、特定の被写***置に対して角度θ傾斜した状態に配置される。ここで、角度θを輻輳角という。
特許第3478796号公報(段落0016〜0019、図1〜4等)
特開平5−265081号公報(段落0002〜0005、図11等)
輻輳角θを、両撮影光学系601、602の光軸が図8の被写***置bにて交差するように設定した場合、被写***置a、cでは最適な輻輳角が異なるために、各撮影光学系により撮影された画像上での被写***置に視差によるずれが生じてしまう。
この様子を図9を用いて説明する。図9には、複数の画像を合成して得られた合成画像を表している。図中の円は被写体である。
被写体の位置が図8におけるbの場合、輻輳角が適切に設定されているために、画像ずれのない高精細な合成画像が出力される。被写***置が図8におけるaもしくはcの場合、輻輳角が適切でないため、イメージセンサ603、604のそれぞれから出力される画像は互いに左右にずれた画像となり、これらを合成した後の合成画像でも画像ずれが現れてしまう。
なお、図8では、水平方向のみの一次元方向に配置された複数の撮影光学系を用いた場合について説明しているが、複数の撮影光学系が水平方向及び垂直方向の二次元方向に配置された場合には、画像ずれも水平方向及び垂直方向の二次元方向に現れる。
ここで、輻輳角と被写体撮像位置のずれとの関係について図10を用いて説明する。撮影光学系601、602を無限遠合焦状態に設定した場合、これらの光軸は平行となり、それぞれの光軸はイメージセンサ603、604の中心を通る。イメージセンサ603、604間に空間的オフセットを持たせるときは、光軸に対するセンサ位置をずらす。この状態で、撮影光学系601は、被写体距離dの位置に対して輻輳角θを持ち、該撮影光学系601に対応するイメージセンサ603により撮像される画像は、無限遠合焦状態に設定した場合無限遠合焦状態に設定した場合の光軸位置に対してずれ量eだけオフセットした画像となる。
このときの被写体距離dとずれ量eとの関係を求める。撮影光学系601、602と被写体距離の位置とで構成される3角形と、撮影光学系601とイメージセンサ603の中心とイメージセンサ603のずれ位置とで構成される3角形とは相似であるので、センサ間距離をs、焦点距離をfとすると、
s/d=e/f
となる。したがって、
e=(s・f)/d ・・・(1)
となる。
s/d=e/f
となる。したがって、
e=(s・f)/d ・・・(1)
となる。
これを図に示すと図11に実線で示すようなグラフとなる。横軸は被写体距離d、縦軸はずれ量eである。このグラフからも分かるように、近距離領域において被写体距離が増加するとずれ量eが急激に増加する。
なお、図11には、被写体距離「1」の位置にて光軸が交差するように両撮影光学系の輻輳角を合わせて光学特性を設定した場合の特性を点線で示している。この場合、被写体距離が「1」より遠くなるとずれ量は負の値となり、「1」より近い場合に比べて反対側にずれることが分かる。
このように近距離では、視差によるずれ量が急激に大きくなる。これは複数の画像を合成した場合に画像ずれとして合成画像を劣化させるものである。例えば、被写体距離が2〜5mでずれ量が0となる輻輳角を設定したとすると、設定被写体距離よりも近距離での撮影時、特にマクロ撮影時には画像ずれ量が大きくなってしまう。
本発明は、複数の画像に基づいて単一画像を生成する場合の画質の劣化を低減することができるようにした画像処理装置、撮像装置および画像処理プログラムを提供することを目的の1つとしている。
1つの観点としての本発明は、複数の入力画像の画素情報に基づいて単一画像を生成する画像処理装置(画像処理プログラム)であって、該単一画像における少なくとも一部の画素を、該複数の入力画像のうち少なくとも2つの入力画像の画素情報を合成して得る合成手段(合成ステップ)を有する。そして、該合成手段(合成ステップ)は、該入力画像間の視差に関する情報に基づいて画素情報の合成比率を変更する。
また、他の観点としての本発明の画像処理装置(画像処理プログラム)は、複数の入力画像の画素情報に基づいて単一画像を生成する画像生成手段(画像生成ステップ)を有し、該画像生成手段(画像生成ステップ)は、該入力画像間の視差に関する情報に基づいて、該単一画像の生成方法を変更する。
本発明によれば、視差に応じた合成比率で入力画像の画素情報を合成することで単一画像を生成したり、視差に応じて該単一画像の生成方法を変更したりすることにより、視差の影響による画質劣化の少ない高画質の単一画像を得ることができる。
図1には、本発明の実施例1である画像処理装置(画像処理部)を備えた撮像装置の構成を示している。図1において、101、102、103、104はそれぞれ視差を持つ撮影光学系であり、これら4つの撮影光学系101〜104により複眼光学系が構成される。4つの撮影光学系101〜104の光軸は、後述する設定被写体距離の位置にて互いに交差(輻輳)している。
なお、本実施例では、4つの撮影光学系により複眼光学系が構成される場合について説明するが、本発明における複眼光学系を構成する撮影光学系の数はこれに限られるものではない。
105、106、107、108はそれぞれ、各撮影光学系により形成された被写体像を光電変換する撮像素子(イメージセンサ)である。
109、110、111、112はそれぞれ、各撮像素子からの画素信号に対して信号処理を行い、YUV信号もしくはRGB信号(以下、撮像信号と称する)を出力するカメラ信号処理回路である。そして、この撮像信号により画像(入力画像)が形成される。
113は4つの撮像素子105〜108と4つのカメラ信号処理回路109〜112とを同期して駆動する撮像素子駆動・同期信号発生回路である。
120は画像処理部である。この画像処理部120において、114は4つの撮像素子105〜108による入力画像間の視差を検出する視差検出回路である。但し、本実施例では、撮像素子間の距離は固定値であるので、視差量検知は任意の2つの映像信号(図では、カメラ信号処理回路109,110からの映像信号)のみで各入力画像間の視差を検出する。なお、各撮像素子間の距離が異なる場合は、4つのカメラ信号処理回路109〜112からの映像信号に基づいて各入力画像間の視差を検出することができる。
115は合成処理回路であり、4つの入力画像の画素値(画素情報)に基づいて高解像度な単一の合成画像を生成する合成処理回路である。
130は上記撮像素子駆動・同期信号発生回路113および画像処理部120等、本撮像装置の制御全体を司るコントローラとしてのCPUである。
ここで撮影光学系と撮像素子の配列について図2を用いて説明する。図2において、201は絞りであり、4つの撮影光学系101〜104に入射する光量を制限すると共に該撮影光学系101〜104の光学特性を向上させる。
101〜104は図1に示した4つの撮影光学系、105〜108は同4つの撮像素子である。4つの撮影光学系101〜104同士および4つの撮像素子105〜108同士はそれぞれ同一平面上に配列されており、それぞれ撮影光学系とそれに対応する撮像素子からなる4つの撮像系は、同一被写体を撮像する。これら、絞り201、4つの撮影光学系101〜104からなる複眼光学系および4つの撮像素子105〜108により撮像系が構成される。
図3には、撮像素子105〜108の配列を、受光面側から見て示している。これら4つの撮像素子105は、同一半導体基板(図示せず)上に互いに独立に駆動可能に構成されている。但し、1つの撮像素子を4つの撮像エリアに区切り、各撮像エリアから出力された画素信号から各視差画像を生成するようにしてもよいし、共通の基板を有さず互いに独立した部品としての撮像素子を4つ用いてもよい。
図3においては、撮像素子105の水平方向に隣接して撮像素子106が配置され、これら撮像素子105、106の垂直方向にそれぞれ隣接して撮像素子107、108が配置されている。
そして、これらの撮像素子105〜108の光学中心が、互いに水平方向に0.5画素分、垂直方向に0.5画素分ずつずれるように各撮像素子に対応する撮影光学系が配置されている。これにより、同一光学平面上に各撮像素子による撮像領域を展開すると、4つの撮像素子105〜108の画素が水平および垂直方向にいわゆる入れ子状態となり、結果的に1つの撮像素子の画素数に対して水平方向に2倍、垂直方向に2倍の全体で4倍の解像度を持つ単一画像が生成されることになる。
この入れ子状態の画素配列を図4に示す。図4において、P105は撮像素子105の画素であり、P106は撮像素子106の画素である。また、P107は撮像素子107の画素であり、P108は撮像素子108の画素である。(0,0)、(1,0)等の座標は各撮像素子における画素の位置を示している。また、実際には、各撮像素子の光学中心は、上述した0.5画素分だけではなく、任意の設定被写体距離における視差補正分も合わせて互いにオフセットして配置される。
撮像素子駆動・同期信号発生回路113は、4つの撮像素子105〜108と4つのカメラ信号処理回路109〜112を同期して駆動し、ある水平期間では撮像素子105、106を駆動するとともにカメラ信号処理回路109、110から撮像信号を合成処理回路115に出力させ、次の水平期間では撮像素子107、108を駆動するとともにカメラ信号処理回路111、112から撮像信号を合成処理回路115に出力させる。
視差量検出回路114は、入力画像間で公知のパターンマッチング処理を行い、該入力画像間の視差量を検出する。視差による入力画像間で被写体撮像位置のずれ、つまりは画像ずれが0になる被写体距離である設定被写体距離に被写体がある場合には、各撮像素子によって撮像される被写体は、各撮像素子の撮像面における同じ位置にて撮像される。
しかし、被写体が設定被写体距離よりも近いかもしくは遠いときには、各撮像素子の撮像面における被写体撮像位置がずれる。このずれ量は視差に対応した大きさとなり、上記パターンマッチングによって該画像ずれ量、すなわち画像上に現れた視差量を検出することができる。なお、この画像ずれ量ないし視差量が請求項にいう「視差に関する情報」に相当するが、これらに限らず、視差によって変化する情報や視差量に結びつく情報であればいずれでもよい。
例えば、撮像装置から被写体までの距離を測定する測距ユニットを設けることにより、各撮影光学系間の間隔(基線長)は分かっているので一義的に視差量を算出することもできる。さらに、撮影者が被写体までの距離に関する撮影モードに基づいて視差量を推定的に取得してもよい。撮影モードには、設定被写体距離よりも近距離の被写体を撮影するための近距離(マクロ)撮影モードや、設定被写体距離近傍の被写体を撮影するための標準撮影モードや、設定被写体距離よりも遠距離の被写体を撮影するための遠距離撮影モードなどが考えられる。
合成処理回路115には、前述したように、4つのカメラ信号処理回路109〜112から、ある水平期間では撮像素子105と撮像素子106からの画素信号に基づいて生成された撮像信号が入力され、次の水平期間では撮像素子107と撮像素子108からの画素信号に基づいて生成された撮像信号が入力される。なお、以下において、各撮像素子からの画素信号に基づいて生成された撮像信号を、該撮像素子に対応した撮像信号という。また、撮像信号は、各画像の1画素ごとの画素値(画素情報)を表す。
合成処理回路115は、視差検出回路114が検出した視差が0の場合、すなわち被写体が設定被写体距離にある場合には、カメラ信号処理回路から入力される撮像信号を、ある水平期間では撮像素子105に対応する撮像信号と撮像素子106に対応する撮像信号とを1画素ごとにそのままの値(画素値)で交互に出力し、次の水平期間では撮像素子107に対応する撮像信号と撮像素子108に対応する撮像信号とを1画素ごとにそのままの値で交互に出力する。これにより、4つの撮像素子105〜108からの撮像信号(つまりは画素)が入れ子状態になった、図4に示した画素配列を有する高解像度の合成画像が生成されることになる。
一方、被写体距離が設定被写体距離とは異なる場合、すなわち視差による画像ずれが発生する場合には、合成処理回路115は、4つの撮像素子105〜108のうち特定の撮像素子に対応する撮像信号を基準撮像信号として、該基準撮像信号および他の撮像素子に対応する撮像信号を合成して生成した合成撮像信号と該基準撮像信号とを1画素ごとに出力する。本実施例では、撮像素子105に対応する撮像信号を基準撮像信号とする。
図4に示す合成画像において、画素間隔が水平方向と垂直方向とで等しく、この距離を1とすると、画素P105(0,0)を基準として画素P106(0,0)は水平方向に1離れ、垂直方向には離れていない(すなわち、0離れている)。また、画素P107(0,0)は水平方向に0、垂直方向に1離れている。また、画素P108は水平方向に1、垂直方向に1離れており、画素中心距離で見れば約1.4離れている。すなわち、画素P105を基準とすると、画素P106と画素P107は水平方向・垂直方向の違いはあるが同じ距離だけ離れており、画素P108が最も遠くに位置する。
被写体距離が設定被写体距離と異なる場合には、視差の影響により合成画像の画像ずれが発生する。そして前述の通り、撮像素子105に対応する撮像信号、つまりは撮像素子105により撮影された画像を基準とすると、撮像素子106により撮影される画像は水平方向に影響し、撮像素子107により撮影される画像は垂直方向に影響し、撮像素子108により撮影される画像は水平方向および垂直方向に影響する。
そこで、本実施例では、被写体距離が視差による影響が0である設定被写体距離の場合、つまりは視差検出回路114により視差が検出されない場合には、合成処理回路115で各撮像素子により撮影された画像をそのまま入れ子状態にすることで合成画像を生成する。言い換えれば、合成画像の各画素を、各入力画像の画素値を持った画素とする。
一方、視差検出回路114により視差が検出された場合には、撮像素子105により撮影された画像(第1の画像、以下、基準画像という)の各画素値を、合成画像において該基準画像の画素に対応する画素の画素値として用いるとともに、検出された視差量に応じた比率で基準画像の画素値と撮像素子106、撮像素子107又は撮像素子108により撮影された画像の画素値とを合成して得られた画素値を、該基準画像に対応する画素の間を補間する画素の画素値として用いる。以下、このように複数の入力画像の画素値を合成して合成画像の1つの画素を生成することを画素値合成処理という。
この画素値合成処理では、合成画像において撮像素子105により撮影された基準画像に対応する画素に水平方向にて隣接する画素(以下、水平隣接画素という)の画素値は、該基準画像の画素値と図3において撮像素子105に隣接する撮像素子106による撮影画像(第2の画像)の画素値とを合成して得る。また、合成画像において基準画像に対応する画素に垂直方向にて隣接する画素(以下、垂直隣接画素という)の画素値は、該基準画像の画素値と撮像素子105に垂直方向にて隣接する撮像素子107による撮影画像(第2の画像)の画素値とを合成して得る。さらに、合成画像において基準画像に対応する画素に水平方向および垂直方向に距離1ずつ離れた画素(以下、斜め隣接画素という)の画素値は、該基準画像の画素値と撮像素子105に対して水平・垂直方向にて離れた撮像素子108による撮影画像(第2の画像)の画素値とを合成して得る。
さらに詳しく説明すると、水平隣接画素の画素値の合成には、該水平隣接画素に対して水平方向両側にて隣接する、基準画像の2つの画素の画素値を用い、また垂直隣接画素の画素値の合成には、該垂直隣接画素に対して垂直方向両側にて隣接する、基準画像の2つの画素の画素値を用いる。さらに、斜め隣接画素の画素値の合成には、該斜め隣接画素に対して水平方向および垂直方向に1ずつ離れた、基準画像の4つの画素の画素値を用いる。
そして、本実施例の画素値合成処理では、視差量に応じて合成比率を連続的に変化させる。この関係を数式で表すと以下の通りである。
ここで、Jは撮像素子106による撮影画像の画素値に対する合成係数(補間係数ともいう)であり、Kは撮像素子107による撮影画像の画素値に対する合成係数である。Lは撮像素子108により撮影画像の画素値に対する合成係数である。これらの合成係数は、視差検出回路114により検出された視差量に応じて1から0まで連続的に変化する。具体的には、視差量が大きいほど合成係数を小さく設定する。
視差検出回路114により検出された視差量が0のとき、すなわち被写体距離が設定被写体距離と等しい場合は、合成係数J、K、Lをいずれも1とし、上記数式による計算結果を基準画像に対する水平隣接画素、垂直隣接画素および斜め隣接画素の画素値として出力する。
また、検出された視差量が0ではないとき、すなわち被写体距離が設定被写体距離と異なる場合は、視差量が大きいほど合成係数J、K、Lを0に近づける。これにより、基準画像に対する被写体撮像位置ずれの大きな撮像素子106、107、108による撮影画像の画素値の合成量を少なくして、合成画像における被写体撮像位置ずれの大きな画像の影響を小さくする。
図5には、横軸を被写体距離とし、縦軸を被写体撮像位置ずれ量、すなわち視差量としたグラフを示している。また、その下に、横軸を同じ被写体距離とし、縦軸を合成係数J、K、Lとしたグラフを示している。
ここでは設定被写体距離を1としており、設定被写体距離で視差量は0となる。このときは、合成処理回路115では全ての撮像素子による撮影画像の画素値をそのまま用いて高解像度合成画像を出力する。すなわち、図に示すように合成係数J、K、Lを1とする。
被写体距離が1よりも短い近接撮影時などには、視差量が急激に増加するので、増加する視差量に応じて合成係数J、K、Lを1から0側に変化させる。上述したように、合成画像における撮像素子105により撮影された基準画像に対応する画素からは撮像素子108の画素に対応する画素が一番遠いため、視差の影響が一番大きい撮像素子108による撮影画像の画素値に対する合成係数Lの視差量の増加に対する減少率を、撮像素子106、107による撮影画像の画素値に対する合成係数J、Kの減少率より大きくしている。
このように、合成処理回路115は、被写体距離が短くなるにつれて急激に増大する視差量に応じて、視差の影響によって画像ずれを発生させる撮像素子106、107、108による撮影画像の画素値の基準画像の画素値に対する合成比率(割合)減少させることにより、視差の影響を少なくする。
また、被写体距離が1よりも長い遠距離撮影時には、視差量は近接撮影と比較すると、被写体距離の増加に対して緩やかに増加する。そして、これに応じて合成係数J、K、Lも減少させる。このときも、近接撮影時と同様に、合成画像の画像ずれに影響の大きい撮像素子108による撮影画像の画素値に対する合成係数Lの減少率を、撮像素子106、107による撮影画像の画素値に対する合成係数であるJ、Kの減少率よりも大きくする。
図6には、本実施例における処理を、コンピュータプログラムである画像処理プログラムにより行う場合のフローチャートを示している。この画像処理プログラムは、図1に示したコントローラとしてのCPU130により実行される。
該処理をスタートすると、まずステップ(図ではSと略す)101において、CPU130からの命令により、撮像素子105〜108およびカメラ信号処理回路109〜112による撮像が行われ、カメラ信号処理回路109〜112はそれぞれ入力画像を生成する。
次に、ステップ102では、視差検出回路114が視差量の検出を行う。検出方法としては、前述したように、入力画像間でのパターンマッチング、被写体までの測距、撮影モード検出によるもの等が用いられる。
そして、ステップ103では、CPU130からの命令により、合成処理回路115は、検出した視差量と式(2)〜(5)とを用いて複数の入力画像から1つの合成画像を生成し、出力する。
以上説明したように、本実施例によれば、視差を持つ複数の光学系を用いて撮影した入力画像の画素値を用いて単一の合成画像を出力する撮像装置において、視差がない場合には複数の入力画像の画素値をそのまま用いることにより高解像度な合成画像を得ることができる。一方、視差がある場合には、その視差の量に応じて基準となる入力画像の画素値と他の入力画像の画素値との合成比率を、視差量の増加に対して減少させるよう連続的に変えることにより、視差による画像ずれの少ない、高画質で自然な合成画像を得ることができる。このように、視差量の有無に応じて合成画像の生成方法を変更することで、視差の影響による画質劣化を最小限に抑えることができる。
なお、本実施例では、(2) 〜(5)の計算式により表される、2点を通る直線上にある画素を参照して補間計算を行う1次補間法を用いて水平、垂直および斜め隣接画素の画素値を算出する場合について説明したが、その他、隣の画素の画素値をそのまま用いる最近傍法(ニヤレストネイバー)や、周辺の画素を参照して3次多項式で表した曲線式で補間するバイキュービック(3次補間)法等を用いてもよい。
また、上記実施例では、視差がない場合とある場合とで合成画像の生成方法を変更する場合について説明したが、視差量が所定値(例えば、実質的に合成画像における視差の影響が無視できる程度の視差量)より小さい場合と大きい場合とで合成画像の生成方法を変更するようにしてもよい。すなわち、視差が所定値より小さい場合には複数の入力画像の画素値をそのまま用い、視差が所定値より大きい場合には、その視差の量に応じて基準となる入力画像の画素値と他の入力画像の画素値との合成比率を、視差量の増加に対して減少させる。
また、本実施例において説明した単一の合成画像は、静止画像であってもよいし、動画の1フレーム画像であってもよい。すなわち、本実施例の撮像装置は、静止画カメラとしてもビデオカメラとしても使用することができる。
さらに、上記実施例1では、画像処理装置に相当する画像処理部が撮像装置に一体的に組み込まれている場合について説明したが、本発明の画像処理装置はパーソナルコンピュータ等、撮像装置とは別の装置であってもよい。この場合、複眼光学系と撮像素子を有する撮像装置によって撮影された複数の画像を、ケーブルを介して、または半導体メモリ、光ディスク、磁気ディスク等の記録媒体やインターネット、LAN等のネットワークを介して画像処理装置に取り込み、該画像処理装置において上述した方法により合成画像を生成する。
図7には、上記実施例1にて説明した撮像装置およびこれを搭載した電子機器の例を示している。
図7(A)には、撮像装置としてのカード型カメラを示している。701はカメラ本体、702は図2に示した複眼光学系を有する撮像系である。また、703は撮影動作を開始させるための撮影ボタン、704はファインダー窓、705はフラッシュ発光部である。
図7(B)には、撮像装置を搭載した電子機器であるパーソナルコンピュータを示している。710はコンピュータ本体、711は本体710に対して開閉可能なディスプレイ部である。ディスプレイ部711の上部には、撮像装置712が上下に回転可能に取り付けられている。713は図2に示した撮像系である。
なお、図7(B)に示したコンピュータ以外に、携帯電話、PDA(Personal Digital Assistance)その他の各種電子機器に実施例1の撮像装置を搭載することができる。
101〜104 撮影光学系(複眼光学系)
105〜108 撮像素子
201 絞り
701 カード型カメラ
710 パーソナルコンピュータ
105〜108 撮像素子
201 絞り
701 カード型カメラ
710 パーソナルコンピュータ
Claims (10)
- 複数の入力画像の画素情報に基づいて単一画像を生成する画像処理装置であって、
前記単一画像における少なくとも一部の画素を、前記複数の入力画像のうち少なくとも2つの入力画像の画素情報を合成して得る合成手段を有し、
該合成手段は、前記入力画像間の視差に関する情報に基づいて前記画素情報の合成比率を変更することを特徴とする画像処理装置。 - 前記単一画像は、第1の入力画像の画素情報に対応する画素と、該第1の入力画像および第2の入力画像の画素情報を合成して得られた画素とを含み、
前記合成手段は、前記第1および第2の入力画像の画素情報間の合成比率を変更することを特徴とする請求項1に記載の画像処理装置。 - 前記合成手段は、前記視差が大きいほど前記第1の入力画像の画素情報に対する前記第2の入力画像の画素情報の合成比率を小さくすることを特徴とする請求項2に記載の画像処理装置。
- 複数の入力画像の画素情報に基づいて単一画像を生成する画像生成手段を有し、
該画像生成手段は、前記入力画像間の視差に関する情報に基づいて、前記単一画像の生成方法を変更することを特徴とする画像処理装置。 - 前記画像生成手段は、前記視差がない又は所定値より小さい場合は、前記単一画像の各画素を前記各入力画像の画素情報に対応した画素とし、前記視差がある又は前記所定値より大きい場合は、前記単一画像における少なくとも一部の画素を、前記複数の入力画像のうち少なくとも2つの入力画像の画素情報を合成して得ることを特徴とする請求項4に記載の画像処理装置。
- 前記視差に関する情報を取得する視差取得手段を有することを特徴とする請求項1から5のいずれか1つに記載の画像処理装置。
- 複眼光学系と、
該複眼光学系により形成された複数の被写体像を光電変換する撮像素子と、
該撮像素子からの出力に基づいて生成された複数の入力画像の画素情報に基づいて単一画像を生成する請求項1から6のいずれか1つに記載の画像生成装置とを有することを特徴とする撮像装置。 - 請求項7に記載の撮像装置を有することを特徴とする電子機器。
- 複数の画像の画素情報に基づいて単一画像を生成する、コンピュータ上で動作する画像処理プログラムであって、
前記複数の画像を入力するステップと、
前記単一画像における少なくとも一部の画素を、前記複数の入力画像のうち少なくとも2つの画像の画素情報を合成して得る合成ステップと、
前記入力画像間の視差に関する情報を取得するステップとを有し、
前記合成ステップにおいて、前記視差に関する情報に基づいて前記画素情報の合成比率を変更することを特徴とする画像処理プログラム。 - 複数の画像を入力するステップと、
該複数の入力画像の画素情報に基づいて単一画像を生成する画像生成ステップと、
前記入力画像間の視差に関する情報を取得するステップとを有し、
前記画像生成ステップにおいて、前記視差に関する情報に基づいて、前記単一画像の生成方法を変更することを特徴とする、コンピュータ上で動作する画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004324590A JP2006135823A (ja) | 2004-11-09 | 2004-11-09 | 画像処理装置、撮像装置および画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004324590A JP2006135823A (ja) | 2004-11-09 | 2004-11-09 | 画像処理装置、撮像装置および画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006135823A true JP2006135823A (ja) | 2006-05-25 |
Family
ID=36728919
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004324590A Pending JP2006135823A (ja) | 2004-11-09 | 2004-11-09 | 画像処理装置、撮像装置および画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006135823A (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007142050A1 (ja) * | 2006-06-07 | 2007-12-13 | Olympus Corporation | 画像処理装置と画像処理方法、および画像信号処理プログラム |
JP2008225671A (ja) * | 2007-03-09 | 2008-09-25 | Ricoh Co Ltd | 画像入力装置及び個人認証装置 |
EP2054850A1 (en) * | 2006-10-12 | 2009-05-06 | Ricoh Company, Ltd. | Image input apparatus, image input method, personal authentication apparatus, and electronic apparatus |
WO2009110626A1 (en) * | 2008-03-04 | 2009-09-11 | Ricoh Company, Ltd. | Personal authentication device and electronic device |
JP2011172174A (ja) * | 2010-02-22 | 2011-09-01 | Ricoh Co Ltd | 撮像装置、距離画像取得装置、及びこれらの製造方法 |
US8204282B2 (en) | 2007-09-14 | 2012-06-19 | Ricoh Company, Ltd. | Image input device and personal authentication device |
CN101414354B (zh) * | 2007-09-14 | 2013-01-23 | 株式会社理光 | 图像输入设备和个人认证设备 |
US8941749B2 (en) | 2011-05-09 | 2015-01-27 | Canon Kabushiki Kaisha | Image processing apparatus and method for image synthesis |
JP2017034722A (ja) * | 2016-11-04 | 2017-02-09 | 株式会社ニコン | 画像処理装置および撮像装置 |
US9992393B2 (en) | 2010-06-03 | 2018-06-05 | Nikon Corporation | Image-capturing device |
-
2004
- 2004-11-09 JP JP2004324590A patent/JP2006135823A/ja active Pending
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007329621A (ja) * | 2006-06-07 | 2007-12-20 | Olympus Corp | 画像処理装置と画像処理方法、および画像信号処理プログラム。 |
WO2007142050A1 (ja) * | 2006-06-07 | 2007-12-13 | Olympus Corporation | 画像処理装置と画像処理方法、および画像信号処理プログラム |
EP2054850A1 (en) * | 2006-10-12 | 2009-05-06 | Ricoh Company, Ltd. | Image input apparatus, image input method, personal authentication apparatus, and electronic apparatus |
EP2054850A4 (en) * | 2006-10-12 | 2011-06-15 | Ricoh Co Ltd | PICTURE INPUT DEVICE, PICTURE INPUT METHOD, PERSONAL AUTHENTICATION DEVICE AND ELECTRONIC DEVICE |
US8085312B2 (en) * | 2006-10-12 | 2011-12-27 | Ricoh Company, Ltd. | Image input apparatus, image input method, personal authentication apparatus, and electronic apparatus |
JP2008225671A (ja) * | 2007-03-09 | 2008-09-25 | Ricoh Co Ltd | 画像入力装置及び個人認証装置 |
US8204282B2 (en) | 2007-09-14 | 2012-06-19 | Ricoh Company, Ltd. | Image input device and personal authentication device |
CN101414354B (zh) * | 2007-09-14 | 2013-01-23 | 株式会社理光 | 图像输入设备和个人认证设备 |
WO2009110626A1 (en) * | 2008-03-04 | 2009-09-11 | Ricoh Company, Ltd. | Personal authentication device and electronic device |
US8611614B2 (en) | 2008-03-04 | 2013-12-17 | Ricoh Company, Limited | Personal authentication device and electronic device |
JP2011172174A (ja) * | 2010-02-22 | 2011-09-01 | Ricoh Co Ltd | 撮像装置、距離画像取得装置、及びこれらの製造方法 |
US9992393B2 (en) | 2010-06-03 | 2018-06-05 | Nikon Corporation | Image-capturing device |
US10511755B2 (en) | 2010-06-03 | 2019-12-17 | Nikon Corporation | Image-capturing device |
US10955661B2 (en) | 2010-06-03 | 2021-03-23 | Nikon Corporation | Image-capturing device |
US8941749B2 (en) | 2011-05-09 | 2015-01-27 | Canon Kabushiki Kaisha | Image processing apparatus and method for image synthesis |
JP2017034722A (ja) * | 2016-11-04 | 2017-02-09 | 株式会社ニコン | 画像処理装置および撮像装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8885067B2 (en) | Multocular image pickup apparatus and multocular image pickup method | |
JP4699995B2 (ja) | 複眼撮像装置及び撮像方法 | |
JP4976310B2 (ja) | 撮像装置 | |
JP5640143B2 (ja) | 撮像装置及び撮像方法 | |
JP5385462B2 (ja) | 単眼立体撮像装置、単眼立体撮像装置用シェーディング補正方法及び単眼立体撮像装置用プログラム | |
JP4529840B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
JP5036482B2 (ja) | 画像処理装置及び画像処理方法、画像処理プログラム | |
JP5493054B2 (ja) | 立体動画像及び平面動画像を撮像する撮像素子及びこの撮像素子を搭載する撮像装置 | |
JP2008015754A (ja) | 撮像装置、画像処理装置および画像処理方法 | |
JP2009159226A (ja) | 撮像素子、焦点検出装置、焦点調節装置および撮像装置 | |
WO2004114677A1 (ja) | 画像処理方法および装置、並びにプログラム | |
TW201143384A (en) | Camera module, image processing apparatus, and image recording method | |
WO2012073727A1 (ja) | 撮像装置及びその合焦位置検出方法 | |
JP6037224B2 (ja) | 画像処理装置、撮像装置、およびプログラム | |
JP2006135823A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP4735978B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP4703504B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
WO2012169301A1 (ja) | 立体動画像及び平面動画像を撮像する撮像素子及びこの撮像素子を搭載する撮像装置 | |
JP2009047734A (ja) | 撮像装置及び画像処理プログラム | |
JP6790038B2 (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム | |
JP4496883B2 (ja) | 画像処理方法および画像処理装置、並びにプログラムおよび記録媒体 | |
JP2009047735A (ja) | 撮像装置及び画像処理プログラム | |
JP2011182325A (ja) | 撮像装置 | |
JP6507527B2 (ja) | 撮像素子および撮像装置 | |
JP2015094834A (ja) | 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体 |