JP2006254198A - 画像合成装置,カメラの手ぶれ補正装置およびカメラ - Google Patents
画像合成装置,カメラの手ぶれ補正装置およびカメラ Download PDFInfo
- Publication number
- JP2006254198A JP2006254198A JP2005069436A JP2005069436A JP2006254198A JP 2006254198 A JP2006254198 A JP 2006254198A JP 2005069436 A JP2005069436 A JP 2005069436A JP 2005069436 A JP2005069436 A JP 2005069436A JP 2006254198 A JP2006254198 A JP 2006254198A
- Authority
- JP
- Japan
- Prior art keywords
- image
- area
- angle
- determination area
- determination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
【課題】 本発明は、画像合成装置,カメラの手ぶれ補正装置およびカメラに関し、第1の画像に対して第2の画像が回転している場合にも第1の画像と第2の画像とを迅速に重ね合わせることを目的とする。
【解決手段】 ずれ量算出手段と回転量算出手段とを備え、回転量算出手段は、円状の判定エリアまたは対応エリアの中心を含む線分または中心を含む2つの線分で挟まれた領域からなる角度判定エリアの画素情報を抽出する第1の抽出手段と、対応エリアまたは判定エリアの画素情報を対応エリアまたは判定エリアの中心位置を回転軸として角度判定エリアの角度を変えながら各角度判定エリアの位置において順次抽出する第2の抽出手段と、角度判定エリアの画素情報と各角度判定エリアの画素情報とを比較し各角度判定エリアの一つを角度対応エリアと判断する判断手段とを有することを特徴とする。
【選択図】 図12
【解決手段】 ずれ量算出手段と回転量算出手段とを備え、回転量算出手段は、円状の判定エリアまたは対応エリアの中心を含む線分または中心を含む2つの線分で挟まれた領域からなる角度判定エリアの画素情報を抽出する第1の抽出手段と、対応エリアまたは判定エリアの画素情報を対応エリアまたは判定エリアの中心位置を回転軸として角度判定エリアの角度を変えながら各角度判定エリアの位置において順次抽出する第2の抽出手段と、角度判定エリアの画素情報と各角度判定エリアの画素情報とを比較し各角度判定エリアの一つを角度対応エリアと判断する判断手段とを有することを特徴とする。
【選択図】 図12
Description
本発明は、画像合成装置,カメラの手ぶれ補正装置およびカメラに関する。
カメラによる撮影において、手持ちの状態でシャッタを切ると、カメラ本体が動いている間の映像が記録され、記録された画像はいわゆるピンボケのような先鋭感の乏しい画像になることがある。このような状態を手ぶれと呼ぶ。
このような手ぶれを回避または補正する方法として、大きく分けると、ぶれを打ち消す動きを組み込んで補正するものと、ぶれた画像を処理して補正する方法とが知られている。
このような手ぶれを回避または補正する方法として、大きく分けると、ぶれを打ち消す動きを組み込んで補正するものと、ぶれた画像を処理して補正する方法とが知られている。
ぶれを打ち消す機構を備える場合、被写体像がフィルム面や受光素子面上の同一位置に結像するように、レンズや受光面を相対的に移動させる方法が知られている。このような方法では、カメラ本体に加速度センサやレンズまたは受光面を移動させるためのアクチュエータを配置し、検出されたぶれを打ち消すようにカメラ本体側の構成要素を移動させている。
一方、ぶれた画像を処理して補正する場合、適正露光時間を複数に分割し、ぶれが生じない程度の短い露出時間の画像を複数撮影し、それらの画像を合成してぶれのない画像を生成する方法が知られている。
この方法では、ぶれの情報を検出するセンサを備えていないため、複数の画像を位置ずれを補正した上で合成する必要がある。そのため、画像内のある特定エリアを判定の領域とし、ぶれ量や動きベクトル量としてその大きさを求め補正値としている。
この方法では、ぶれの情報を検出するセンサを備えていないため、複数の画像を位置ずれを補正した上で合成する必要がある。そのため、画像内のある特定エリアを判定の領域とし、ぶれ量や動きベクトル量としてその大きさを求め補正値としている。
図15は、このような従来技術におけるぶれ量や動きベクトルの判定エリアを示している。ここでは画像G上に5箇所の判定エリアEが設けられている。なお、このような判定エリアの例として、例えば、特開平05−304631号公報,特開平06−217187号公報に開示されるものが知られている。
今ここで、被写体を撮影した時、図16に示すように、シャッタが開き始めた時には実線で示すような範囲の画像G1が撮像素子に投影される場合と、同シャッタが開いている間ではあるが異なる時刻では手ぶれにより破線で示すような範囲の画像G2が投影されるような場合を想定する。なお、画像G1から画像G2の間あるいはシャッタが閉じるまでにはさらに別の範囲が投影されるような連続的な移動があるが簡単のため省略している。
今ここで、被写体を撮影した時、図16に示すように、シャッタが開き始めた時には実線で示すような範囲の画像G1が撮像素子に投影される場合と、同シャッタが開いている間ではあるが異なる時刻では手ぶれにより破線で示すような範囲の画像G2が投影されるような場合を想定する。なお、画像G1から画像G2の間あるいはシャッタが閉じるまでにはさらに別の範囲が投影されるような連続的な移動があるが簡単のため省略している。
図16は、左右方向、上下方向および回転方向のぶれが生じた状態を示しており、実線で示す画像G1内の左上、右上、左下、右下の部分は、画像G2では矢印で示した方向にずれて投影されている。
このように、2つの画像G1,G2があり2つの画像G1,G2間で被写体の位置がずれているか否かあるいはずれがどの程度の量かを見る場合、ある特定のパターン(絵柄)を両方の画像から見つけ出し、その位置がどのくらいずれているかを検出したり、一方の所定のエリアの画像が、他方のどの位置にあるかを検出する等の方法によっている。
このように、2つの画像G1,G2があり2つの画像G1,G2間で被写体の位置がずれているか否かあるいはずれがどの程度の量かを見る場合、ある特定のパターン(絵柄)を両方の画像から見つけ出し、その位置がどのくらいずれているかを検出したり、一方の所定のエリアの画像が、他方のどの位置にあるかを検出する等の方法によっている。
そして、2つの画像G1,G2の同一性を判定するのに以下のような2つの方法がある。
第1の方法は、それぞれに等しい大きさのエリアを設定し、同エリア内の相対的に同じ位置の画像データ同士を全エリアについて比較する方法である。例えば、同一位置と想定した画素データの差の絶対値の和を取ると位置が一致している場合は和が最小になる。画像データ値が完全に同じで位置のみが異なる場合、その位置を正確に補正できた場合には差の絶対値の和は0になる。判定のエリアを少しずつ移動させ、同様な処理を行い差の絶対値の和が最小値を示した判定位置の値と移動前の画像の判定の位置との差が画像がずれた値となる。
第1の方法は、それぞれに等しい大きさのエリアを設定し、同エリア内の相対的に同じ位置の画像データ同士を全エリアについて比較する方法である。例えば、同一位置と想定した画素データの差の絶対値の和を取ると位置が一致している場合は和が最小になる。画像データ値が完全に同じで位置のみが異なる場合、その位置を正確に補正できた場合には差の絶対値の和は0になる。判定のエリアを少しずつ移動させ、同様な処理を行い差の絶対値の和が最小値を示した判定位置の値と移動前の画像の判定の位置との差が画像がずれた値となる。
第2の方法は、それぞれの判定エリアの全体の特性を調べその差が最小となる位置を探す方法である。この方法では、図17の(a)に示すように、移動前の画像の実線のエリアと、移動後の画像の点線のエリアの特性、例えば、エリア内の画像データの総和、最大値、最小値、平均値、最大一最小値差、最大一最小値比あるいはこれ等の組み合わせを求め、その一致度を元に移動量を求める。
特開平05−304631号公報
特開平06−217187号公報
しかしながら、上述した第2の方法では、ぶれによる画像の移動に回転要素が加わると回転要素の補正に処理時間が多くかかり、結果として手ぶれを補正をするのに時間がかかるという問題があった。
すなわち、図17の(a)は、図15の左上の判定エリアEに例えば「A」の文字が投影されている場合にその部分を拡大した状態を示している。図17の(a)において、図の右下の移動後の「A」の位置に相当する判定エリアは、移動前の「A」の文字との相対関係を維持した場合に点線のようになっている。当初は、ずれに回転要素があるかないか、あるいはどの程度か不明であるので、回転要素がないものとして判定エリアを想定すると点線のような判定エリアが想定される。しかしながら、図を見ると明らかなように、移動後の画像の「A」と判定エリアの矩形とは位置関係がずれているため移動前の画像と同一の画像と判定されない可能性が高い。
すなわち、図17の(a)は、図15の左上の判定エリアEに例えば「A」の文字が投影されている場合にその部分を拡大した状態を示している。図17の(a)において、図の右下の移動後の「A」の位置に相当する判定エリアは、移動前の「A」の文字との相対関係を維持した場合に点線のようになっている。当初は、ずれに回転要素があるかないか、あるいはどの程度か不明であるので、回転要素がないものとして判定エリアを想定すると点線のような判定エリアが想定される。しかしながら、図を見ると明らかなように、移動後の画像の「A」と判定エリアの矩形とは位置関係がずれているため移動前の画像と同一の画像と判定されない可能性が高い。
そこで、正確に判定するためには、図17の(b)のように、判定エリアに回転方向のずれを加えて、移動前の画像の矩形内の位置と移動後の画像の傾いた矩形内の相対的に同じ位置の画素データ同士、あるいは、それぞれの判定エリアの特性を比較する必要がある。
この場合には、回転量が事前には不明なため、回転量を少しずつずらして上記同様の処理を繰り返し、上記同様の判定を経てずれ量を算出しなければならない。例えば、最大補正回転角度を30度、検出分解能を1度とすると、1度から30度までの30回の回転処理を施す必要がある。なお、この説明では判定エリアを回転させたが、移動後の画像を回転させて判定エリアは回転させずに処理する場合も同様である。
この場合には、回転量が事前には不明なため、回転量を少しずつずらして上記同様の処理を繰り返し、上記同様の判定を経てずれ量を算出しなければならない。例えば、最大補正回転角度を30度、検出分解能を1度とすると、1度から30度までの30回の回転処理を施す必要がある。なお、この説明では判定エリアを回転させたが、移動後の画像を回転させて判定エリアは回転させずに処理する場合も同様である。
本発明は、かかる従来の問題を解決するためになされたもので、第1の画像に対して第2の画像が回転している場合にも第1の画像と第2の画像とを迅速に重ね合わせることができる画像合成装置を提供することを目的とする。また、この画像合成装置を用いたカメラの手ぶれ補正装置およびカメラを提供することを目的とする。
請求項1の画像合成装置は、同一画像領域を有する第1の画像の画素情報と第2の画像の画素情報とを比較し、前記同一画像領域のずれ量および相対回転量を求め、前記ずれ量および前記相対回転量に基づいて前記第1の画像と前記第2の画像の前記同一画像領域を重ね合わせる画像合成装置において、前記第1の画像の判定エリアの位置と前記第2の画像の前記判定エリアに対応する対応エリアの位置とから前記同一画像領域のずれ量を求めるずれ量算出手段と、前記第1の画像の前記判定エリア内の画素情報と前記第2の画像の前記対応エリア内の画素情報とから前記同一画像領域の相対回転量を求める回転量算出手段とを備え、前記判定エリアを円状にし、その中心位置を前記判定エリアの位置とするとともに、前記回転量算出手段は、前記判定エリアまたは前記対応エリアの中心を含む線分または前記中心を含む2つの線分で挟まれた領域からなる角度判定エリアの画素情報を抽出する第1の抽出手段と、前記対応エリアまたは前記判定エリアの画素情報を前記対応エリアまたは前記判定エリアの中心位置を回転軸として前記角度判定エリアの角度を変えながら各角度判定エリアの位置において順次抽出する第2の抽出手段と、前記角度判定エリアの画素情報と前記各角度判定エリアの画素情報とを比較し前記各角度判定エリアの一つを角度対応エリアと判断する判断手段と、前記角度判定エリアの角度と前記角度対応エリアの角度とから前記同一画像領域の相対回転量を求める演算手段とを有することを特徴とする。
請求項2の画像合成装置は、請求項1記載の画像合成装置において、前記角度判定エリアは前記判定エリアの半径であることを特徴とする。
請求項3の画像合成装置は、請求項1または請求項2記載の画像合成装置において、前記角度判定エリアは、前記判定エリアの中心を含む線分からなり、前記判断手段は、前記角度判定エリアと前記各角度判定エリアの中心から同一距離の各画素値の差の絶対値の総和を求め、絶対値の総和が最小となる前記各角度判定エリアの一つを前記角度対応エリアと判断することを特徴とする。
請求項3の画像合成装置は、請求項1または請求項2記載の画像合成装置において、前記角度判定エリアは、前記判定エリアの中心を含む線分からなり、前記判断手段は、前記角度判定エリアと前記各角度判定エリアの中心から同一距離の各画素値の差の絶対値の総和を求め、絶対値の総和が最小となる前記各角度判定エリアの一つを前記角度対応エリアと判断することを特徴とする。
請求項4の画像合成装置は、請求項3記載の画像合成装置において、前記画素の前記中心に対するアドレスを求めるためのテーブルを有していることを特徴とする。
請求項5の画像合成装置は、請求項1ないし請求項4のいずれか1項記載の画像合成装置において、前記角度判定エリアを、そのエリアのヒストグラムの分散に基づいて決定することを特徴とする。
請求項5の画像合成装置は、請求項1ないし請求項4のいずれか1項記載の画像合成装置において、前記角度判定エリアを、そのエリアのヒストグラムの分散に基づいて決定することを特徴とする。
請求項6の画像合成装置は、請求項1記載の画像合成装置において、前記判断手段は、前記角度判定エリアの画素情報と前記各角度判定エリアの画素情報とを対応するアドレスの画素毎に比較することを特徴とする。
請求項7のカメラの手ぶれ補正装置は、適正露光時間を分割し少なくとも第1の画像と第2の画像とを撮像素子により撮像し、撮影後に前記第1の画像と前記第2の画像とを画像合成するカメラの手ぶれ補正装置において、請求項1ないし請求項6のいずれか1項記載の画像合成装置を有することを特徴とする。
請求項7のカメラの手ぶれ補正装置は、適正露光時間を分割し少なくとも第1の画像と第2の画像とを撮像素子により撮像し、撮影後に前記第1の画像と前記第2の画像とを画像合成するカメラの手ぶれ補正装置において、請求項1ないし請求項6のいずれか1項記載の画像合成装置を有することを特徴とする。
請求項8のカメラは、請求項7記載のカメラの手ぶれ補正装置を有することを特徴とする。
本発明の画像合成装置では、判定エリアを円状にするとともに、角度判定エリアを判定エリアまたは対応エリアの中心を含む線分または中心を含む2つの線分で挟まれた領域にしたので、処理の高速化を図ることが可能になり第1の画像に対して第2の画像が回転している場合にも第1の画像と第2の画像とを迅速に重ね合わせることができる。また、本発明のカメラの手ぶれ補正装置およびカメラでは、手ぶれ補正を迅速に行うことができる。
以下、本発明の一実施形態を図面を用いて詳細に説明する。この実施形態では、本発明の画像合成装置の一実施形態が手ぶれ補正装置を備えたデジタルカメラに適用される。
図1は、本発明のカメラの一実施形態であるデジタルカメラを示す説明図である。
このデジタルカメラは、撮影レンズ部11と、この撮影レンズ部11が取り付けられる本体部13とを有している。
図1は、本発明のカメラの一実施形態であるデジタルカメラを示す説明図である。
このデジタルカメラは、撮影レンズ部11と、この撮影レンズ部11が取り付けられる本体部13とを有している。
撮影レンズ部11は、被写体からの光束を結像させる撮影レンズ15と、絞り17とを有している。
本体部13の撮影レンズ15側には、図に点線で示す閉状態と実線で示す開状態とに回動可能なミラー19が配置されている。
本体部13の撮影レンズ15と反対側には、撮影レンズ15を透過した光束を受光可能な撮像素子であるCCD21が配置されている。このCCD21により、被写体が撮像される。CCD21の前面には、シャッター23が配置されている。
本体部13の撮影レンズ15側には、図に点線で示す閉状態と実線で示す開状態とに回動可能なミラー19が配置されている。
本体部13の撮影レンズ15と反対側には、撮影レンズ15を透過した光束を受光可能な撮像素子であるCCD21が配置されている。このCCD21により、被写体が撮像される。CCD21の前面には、シャッター23が配置されている。
本体部13内の上部には、ミラー19が点線で示す閉状態にある時に、ミラー19を介し撮影レンズ15の結像位置に配置されるピントグラス25が配置されている。また、ピントグラス25を透過した光束の光路を変更するペンタプリズム27と、このペンタプリズム27からの光束を観察するためのファインダー29が配置されている。
上述したデジタルカメラでは、ファインダー29で被写体を観察する時には、撮影レンズ15を透過した光束は、点線で示す閉状態のミラー19で反射され、ピントグラス25、ペンタプリズム27を透過して、ファインダー29に導かれる。
上述したデジタルカメラでは、ファインダー29で被写体を観察する時には、撮影レンズ15を透過した光束は、点線で示す閉状態のミラー19で反射され、ピントグラス25、ペンタプリズム27を透過して、ファインダー29に導かれる。
また、撮影時に不図示のレリーズ釦が押されると、ミラー19が実線で示す開状態に回転され、絞り17が絞り込まれ、シャッター23が開かれる。そして、撮影レンズ15を透過した被写体からの光がCCD21に結像され撮像が行われる。
図2は、上述したデジタルカメラが有する手ぶれ補正装置の一実施形態を示すブロック図である。この手ぶれ補正装置は、適正露光時間を分割し少なくとも第1の画像G1と第2の画像G2とを撮像部31のCCD21に撮像し、撮影後に第1の画像G1と第2の画像G2とを画像合成する。この実施形態では、説明の簡略化のために適正露光時間を2分割した例について説明する。
図2は、上述したデジタルカメラが有する手ぶれ補正装置の一実施形態を示すブロック図である。この手ぶれ補正装置は、適正露光時間を分割し少なくとも第1の画像G1と第2の画像G2とを撮像部31のCCD21に撮像し、撮影後に第1の画像G1と第2の画像G2とを画像合成する。この実施形態では、説明の簡略化のために適正露光時間を2分割した例について説明する。
この手ぶれ補正装置は、適正露光時間の最初に撮像部31のCCD21に撮像された第1の画像G1を記憶する第1の画像メモリ33と、次に撮像部31のCCD21に撮像された第2の画像G2を記憶する第2の画像メモリ35とを有している。また、第1の画像メモリ33および第2の画像メモリ35のアドレスを生成する第1のアドレス発生器37および第2のアドレス発生器39を有している。
また、後述する判定エリアおよび角度判定エリアのアドレス計算を参照により簡略化するためのテーブル用RAM41,42を有している。そして、手ぶれ補正装置の全体を制御するCPU43およびCPU43のプログラム実行用のメモリ45を有している。
図3および図4は、上述した手ぶれ補正装置の動作を示すフローチャートである。
先ず、ステップS1では、適正露光時間の最初に撮像部31のCCD21に撮像された第1の画像G1を第1の画像メモリ33に取り込み、次に撮像部31のCCD21に撮像された第2の画像G2を第2の画像メモリ35に取り込む。
図3および図4は、上述した手ぶれ補正装置の動作を示すフローチャートである。
先ず、ステップS1では、適正露光時間の最初に撮像部31のCCD21に撮像された第1の画像G1を第1の画像メモリ33に取り込み、次に撮像部31のCCD21に撮像された第2の画像G2を第2の画像メモリ35に取り込む。
図5の実線は第1の画像メモリ33に取り込まれた第1の画像G1(便宜上画枠のみを示す)を示しており、点線は第2の画像メモリ35に取り込まれた第2の画像G2(便宜上画枠のみを示す)を示している。第2の画像G2は、手ぶれのために、第1の画像G1に対して上下左右方向および回転方向にずれて撮像されている。
次に、ステップS2では、第1の画像G1から、第1の画像G1と第2の画像G2との同一画像位置を判定するための判定エリアの画素情報が切り出される。この実施形態では、図5に示したように、判定エリアとして第1の画像G1の中心に判定エリアEが設けられている。そして、判定エリアEの画素情報が切り出される。
次に、ステップS2では、第1の画像G1から、第1の画像G1と第2の画像G2との同一画像位置を判定するための判定エリアの画素情報が切り出される。この実施形態では、図5に示したように、判定エリアとして第1の画像G1の中心に判定エリアEが設けられている。そして、判定エリアEの画素情報が切り出される。
この実施形態では、判定エリアEは円形状とされている。そして、図6に示すように、例えば画像の左上角の位置を2次元座標の(0,0)とすると、判定エリアEの中心の座標が(x,y)とされ、半径rの円内が判定エリアEとされている。
このように判定エリアEを円形状とするのは以下のような理由による。
すなわち、図7は、図8のように被写体像が上下左右方向および回転方向にずれた場合の「A」の文字が写っている部分を示している。図7(a)では、左上の移動前の画像と、右下の移動後の画像について、判定を施す判定エリアEが円形であるため、判定エリアEを点線のように傾けた図7(b)と比較しても明らかなように、判定エリアE内の被写体像と判定エリアEとの位置関係が保たれている。従って、判定エリアE内全体の特性を評価する場合、画像の回転方向についての考慮が不要になる。
このように判定エリアEを円形状とするのは以下のような理由による。
すなわち、図7は、図8のように被写体像が上下左右方向および回転方向にずれた場合の「A」の文字が写っている部分を示している。図7(a)では、左上の移動前の画像と、右下の移動後の画像について、判定を施す判定エリアEが円形であるため、判定エリアEを点線のように傾けた図7(b)と比較しても明らかなように、判定エリアE内の被写体像と判定エリアEとの位置関係が保たれている。従って、判定エリアE内全体の特性を評価する場合、画像の回転方向についての考慮が不要になる。
次に、ステップS3では、第1の画像G1の判定エリアE内における画素情報のヒストグラムを求める。図9は判定エリアEで求められた画素情報のヒストグラムを示している。横軸には、判定エリアE内における各画素の明るさの階調がとられ、縦軸には、各階調に対応する度数がとられている。
ここで、判定エリアE内の各画素のアドレスは、図6に示したように、円形の判定エリアEの中心を(x,y)とし、中心からx方向(左右方向)の距離をΔx、y方向(上下方向)の距離をΔyとし、円の半径をrとすると、
(Δx)2+(Δy)2<r2
の関係を満たしている。従って、この式を満たす範囲のΔx、Δyのすべての組み合わせについて評価してヒストグラムを作成すればよい。なお、上記式における不等号は、≦であってもよい。また、全てのアドレスの画素に限定する必要もなく、例えば2の倍数のアドレスのみや、4の倍数のアドレスのみについて評価してもよい。
ここで、判定エリアE内の各画素のアドレスは、図6に示したように、円形の判定エリアEの中心を(x,y)とし、中心からx方向(左右方向)の距離をΔx、y方向(上下方向)の距離をΔyとし、円の半径をrとすると、
(Δx)2+(Δy)2<r2
の関係を満たしている。従って、この式を満たす範囲のΔx、Δyのすべての組み合わせについて評価してヒストグラムを作成すればよい。なお、上記式における不等号は、≦であってもよい。また、全てのアドレスの画素に限定する必要もなく、例えば2の倍数のアドレスのみや、4の倍数のアドレスのみについて評価してもよい。
この実施形態では、上記アドレスを求める際、あるΔxに対するΔyの値の最大値については、図11のように事前に計算で求めた結果が専用のテーブルとしてテーブル用RAM41に記憶されている。すなわち、図6に示したように、あるΔX=nの値に対しては、Δy=1から、テーブル値の範囲のΔy=(r2−n2)1/2までの値を使用すればよい。このようにテーブルを参照することにより計算量を減らすことが可能である。
次に、ステップS4では、第2の画像G2の判定エリアEの中心位置を初期化する。
次に、ステップS5では、第2の画像G2から判定エリアEの画素情報を切り出す。
次に、ステップS6では、第2の画像G2の判定エリアE内における画素情報のヒストグラムをステップS3と同様にして求める。図10の実線は第2の画像G2の判定エリアEで求められたヒストグラムを示している。
次に、ステップS5では、第2の画像G2から判定エリアEの画素情報を切り出す。
次に、ステップS6では、第2の画像G2の判定エリアE内における画素情報のヒストグラムをステップS3と同様にして求める。図10の実線は第2の画像G2の判定エリアEで求められたヒストグラムを示している。
次に、ステップS7では、第1の画像G1の判定エリアEのヒストグラムと第2の画像G2の判定エリアEのヒストグラムの統計的な特徴を比較し比較値を生成する。この実施形態では、判定エリアE内の画素情報値のヒストグラムの各度数の差の絶対値の総和を求めることにより判定エリアEの比較値を求める。すなわち、図10に示したように、図9に示したヒストグラムの各度数(破線で示す)と図10に示したヒストグラムの各度数(実線で示す)とが比較され各度数の差の絶対値の総和が比較値Hとして求められる。従って、比較値Hの値が小さい程、判定エリアEの画素情報が類似していることになる。
次に、ステップS8では、新たに求められたヒストグラムの比較値Hと前に保持されているヒストグラムの比較値Hを比較する。
そして、新たに求められたヒストグラムの比較値Hが前に保持されているヒストグラムの比較値Hより小さい時には、ステップS9において、前回のヒストグラムの比較値Hを新たに求められたヒストグラムの比較値Hに書き換えて保持し、また、その時の判定エリアEの中心位置を保持する。
そして、新たに求められたヒストグラムの比較値Hが前に保持されているヒストグラムの比較値Hより小さい時には、ステップS9において、前回のヒストグラムの比較値Hを新たに求められたヒストグラムの比較値Hに書き換えて保持し、また、その時の判定エリアEの中心位置を保持する。
次に、ステップS10では、第2の画像G2の判定エリアEの中心位置が手ぶれを想定して予め定められた範囲内にあるか否かを判断する。
予め定められた範囲内にある時には、ステップS11において、第2の画像G2の判定エリアEの中心位置を1画素分更新する。このようにして判定エリアEの中心位置を1画素ずつずらし、ヒストグラムの比較値Hを予め定められた範囲内において全て求める。
予め定められた範囲内にある時には、ステップS11において、第2の画像G2の判定エリアEの中心位置を1画素分更新する。このようにして判定エリアEの中心位置を1画素ずつずらし、ヒストグラムの比較値Hを予め定められた範囲内において全て求める。
そして、図4に示すステップS12において、求め終わった時にステップS9において保持されている中心位置を有する判定エリアEを、第2の画像G2における第1の画像G1の判定エリアEに重なる判定エリア(以下対応エリアTという)とする。
次に、ステップS13において、第1の画像G1の判定エリアEの中心位置と第2の画像G2の対応エリアTの中心位置とのx方向(水平方向)およびy方向(上下方向)のずれ量を求める。
次に、ステップS13において、第1の画像G1の判定エリアEの中心位置と第2の画像G2の対応エリアTの中心位置とのx方向(水平方向)およびy方向(上下方向)のずれ量を求める。
そして、次に、ステップS14からステップS21において、第1の画像G1の判定エリアEと第2の画像G2の対応エリアTの相対回転量を求める。
ステップS14では、図12に示すように、第1の画像G1の判定エリアEから、第1の画像G1の判定エリアEと第2の画像G2の対応エリアTとの相対回転量を判定するための角度判定エリアKの画素情報が切り出される。この実施形態では、角度判定エリアKとして中心O1から図12の右方向に水平に延びる半径が選択される。
ステップS14では、図12に示すように、第1の画像G1の判定エリアEから、第1の画像G1の判定エリアEと第2の画像G2の対応エリアTとの相対回転量を判定するための角度判定エリアKの画素情報が切り出される。この実施形態では、角度判定エリアKとして中心O1から図12の右方向に水平に延びる半径が選択される。
次に、ステップS15では、第2の画像G2の角度判定エリアKの角度を初期化する。すなわち、この実施形態では、図12に示したように、対応エリアTの画素情報が対応エリアTの中心O2を回転軸として角度判定エリアKの角度を変えながら+θMから−θMの範囲内で切り出される。そして、角度が+θMの値に初期化され、例えば1度毎に角度判定エリアKの角度を変えながら最終的に−θMの値になるまで切り出しが行われる。
次に、ステップS16では、第2の画像G2の対応エリアTから角度判定エリアKの画素情報を切り出す。この実施形態では上述したように先ず角度+θMにおける角度判定エリアKの画素情報を切り出す。
次に、ステップS17では、第1の画像G1の角度判定エリアKの画素情報と第2の画像G2の角度判定エリアKの画素情報を比較し比較値hを生成する。この実施形態では、第1の画像G1の角度判定エリアKの画素と第2の画像G2の角度判定エリアKの画素とが、中心から同一距離に位置する画素毎に比較され画素値の差の絶対値が求められる。そして、その総和を求めることにより角度判定エリアKの比較値hを求める。従って、比較値hの値が小さい程、角度判定エリアKの画素情報が類似していることになる。なお、角度判定エリアK内の全ての画素を比較する必要はなく、中心から同一距離に位置する画素を所定間隔毎に比較してもよい。
次に、ステップS17では、第1の画像G1の角度判定エリアKの画素情報と第2の画像G2の角度判定エリアKの画素情報を比較し比較値hを生成する。この実施形態では、第1の画像G1の角度判定エリアKの画素と第2の画像G2の角度判定エリアKの画素とが、中心から同一距離に位置する画素毎に比較され画素値の差の絶対値が求められる。そして、その総和を求めることにより角度判定エリアKの比較値hを求める。従って、比較値hの値が小さい程、角度判定エリアKの画素情報が類似していることになる。なお、角度判定エリアK内の全ての画素を比較する必要はなく、中心から同一距離に位置する画素を所定間隔毎に比較してもよい。
ここで、図13に示すように、対応エリアT内の角度判定エリアKの各画素g(模式的に1つのみを示す)のアドレスは、円形の対応エリアTの中心を(x0,y0)とし、中心からの距離をrn、x軸に対する角度をθnとすると、
x=x0+rn・cosθn
y=y0+rn・sinθn
の関係を満たしている。
x=x0+rn・cosθn
y=y0+rn・sinθn
の関係を満たしている。
この実施形態では、上記アドレスを求める際、角度θnに対するcosθnおよびsinθnの値が、図14に示すように専用のテーブルとしてテーブル用RAM42に記憶されている。すなわち、ある角度θn対しては、cosθnおよびsinθnの値を使用すればよい。このようにテーブルを参照することにより計算量を減らすことが可能である。
次に、ステップS18では、新たに求められた角度判定エリアKの比較値hと前に保持されている角度判定エリアKの比較値hを比較する。
次に、ステップS18では、新たに求められた角度判定エリアKの比較値hと前に保持されている角度判定エリアKの比較値hを比較する。
そして、新たに求められた角度判定エリアKの比較値hが前に保持されている角度判定エリアKの比較値hより小さい時には、ステップS19において、前回の角度判定エリアKの比較値hを新たに求められた角度判定エリアKの比較値hに書き換えて保持し、また、その時の角度判定エリアKの角度を保持する。
次に、ステップS20では、第2の画像G2の角度判定エリアKの角度が手ぶれを想定して予め定められた+θMから−θMの範囲内にあるか否かを判断する。
次に、ステップS20では、第2の画像G2の角度判定エリアKの角度が手ぶれを想定して予め定められた+θMから−θMの範囲内にあるか否かを判断する。
予め定められた範囲内にある時には、ステップS21において、第2の画像G2の角度判定エリアKの角度を所定角度更新する。このようにして角度判定エリアKの角度を所定角度ずつずらし、角度判定エリアKの比較値hを予め定められた範囲内において全て求める。
次に、ステップS22では、ステップS19で保持されている角度判定エリアK(角度対応エリア)の角度を取り込む。
次に、ステップS22では、ステップS19で保持されている角度判定エリアK(角度対応エリア)の角度を取り込む。
次に、ステップS23では、ステップS22で取り込まれた角度だけ第2の画像G2を対応エリアTの中心を軸として回転する。これにより第1の画像G1と第2の画像G2との回転補正が行われる。
次に、ステップS24では、第2の画像G2を上下左右に移動して、第1の画像G1における判定エリアEの中心と第2の画像G2における対応エリアTの中心とを重ね、第1の画像G1と第2の画像G2の同一画像領域を重ね合わせる。これにより一連の手ぶれ補正処理が終了する。なお、第2の画像G2の移動を先に行い、後に回転補正しても良い。
次に、ステップS24では、第2の画像G2を上下左右に移動して、第1の画像G1における判定エリアEの中心と第2の画像G2における対応エリアTの中心とを重ね、第1の画像G1と第2の画像G2の同一画像領域を重ね合わせる。これにより一連の手ぶれ補正処理が終了する。なお、第2の画像G2の移動を先に行い、後に回転補正しても良い。
上述したカメラの手ぶれ補正装置では、判定エリアEを円状にするとともに、角度判定エリアKを判定エリアEの半径にしたので、処理の高速化を図ることが可能になり第1の画像G1に対して第2の画像G2が回転している場合にも第1の画像G1と第2の画像G2とを迅速に重ね合わせることができる。
(実施形態の補足事項)
以上、本発明を上述した実施形態によって説明してきたが、本発明の技術的範囲は上述した実施形態に限定されるものではなく、例えば、以下のような形態でも良い。
(実施形態の補足事項)
以上、本発明を上述した実施形態によって説明してきたが、本発明の技術的範囲は上述した実施形態に限定されるものではなく、例えば、以下のような形態でも良い。
(1)上述した実施形態では、第1の画像G1の判定エリアEの角度判定エリアKの画素情報と第2の画像G2の対応エリアTの各角度判定エリアKの画素情報とを比較した例について説明したが、第2の画像の対応エリアの角度判定エリアの画素情報と第1の画像の判定エリアの各角度判定エリアの画素情報とを比較するようにしても良い。
(2)上述した実施形態では、判定エリアEの半径を角度判定エリアKとした例について説明したが、例えば、判定エリアまたは対応エリアの中心を含む線分または中心を含む2つの線分で挟まれた領域を角度判定エリアとしても良い。
(2)上述した実施形態では、判定エリアEの半径を角度判定エリアKとした例について説明したが、例えば、判定エリアまたは対応エリアの中心を含む線分または中心を含む2つの線分で挟まれた領域を角度判定エリアとしても良い。
(3)上述した実施形態では、判定エリアEの水平方向の半径を角度判定エリアKとした例について説明したが、例えば、角度判定エリアを、そのエリアのヒストグラムの分散に基づいて決定するようにしても良い。これにより判定エリアEと対応エリアTとの相対回転量をより正確に求めることが可能になる。
(4)上述した実施形態では、本発明の画像合成装置をデジタルカメラの手ぶれ補正装置に適用した例について説明したが、本発明の画像合成装置は、例えば、パノラマ写真の合成、スキャナー画像の合成等に広く適用することができる。
(4)上述した実施形態では、本発明の画像合成装置をデジタルカメラの手ぶれ補正装置に適用した例について説明したが、本発明の画像合成装置は、例えば、パノラマ写真の合成、スキャナー画像の合成等に広く適用することができる。
(5)上述した実施形態では、第1の画像メモリ33と第2の画像メモリ35をそれぞれ独立したメモリとした例について説明したが、物理的には同一のメモリにしても良い。
(6)上述した実施形態では、テーブル用RAM41,42を独立したメモリとした例について説明したが、物理的には同一のメモリにしても良い。
(6)上述した実施形態では、テーブル用RAM41,42を独立したメモリとした例について説明したが、物理的には同一のメモリにしても良い。
21 CCD
31 撮像部
33 第1の画像メモリ
35 第2の画像メモリ
41,42 テーブル用RAM
43 CPU
G1 第1の画像
G2 第2の画像
E 判定エリア
T 対応エリア
K 角度判定エリア
31 撮像部
33 第1の画像メモリ
35 第2の画像メモリ
41,42 テーブル用RAM
43 CPU
G1 第1の画像
G2 第2の画像
E 判定エリア
T 対応エリア
K 角度判定エリア
Claims (8)
- 同一画像領域を有する第1の画像の画素情報と第2の画像の画素情報とを比較し、前記同一画像領域のずれ量および相対回転量を求め、前記ずれ量および前記相対回転量に基づいて前記第1の画像と前記第2の画像の前記同一画像領域を重ね合わせる画像合成装置において、
前記第1の画像の判定エリアの位置と前記第2の画像の前記判定エリアに対応する対応エリアの位置とから前記同一画像領域のずれ量を求めるずれ量算出手段と、
前記第1の画像の前記判定エリア内の画素情報と前記第2の画像の前記対応エリア内の画素情報とから前記同一画像領域の相対回転量を求める回転量算出手段とを備え、
前記判定エリアを円状にし、その中心位置を前記判定エリアの位置とするとともに、
前記回転量算出手段は、
前記判定エリアまたは前記対応エリアの中心を含む線分または前記中心を含む2つの線分で挟まれた領域からなる角度判定エリアの画素情報を抽出する第1の抽出手段と、
前記対応エリアまたは前記判定エリアの画素情報を前記対応エリアまたは前記判定エリアの中心位置を回転軸として前記角度判定エリアの角度を変えながら各角度判定エリアの位置において順次抽出する第2の抽出手段と、
前記角度判定エリアの画素情報と前記各角度判定エリアの画素情報とを比較し前記各角度判定エリアの一つを角度対応エリアと判断する判断手段と、
前記角度判定エリアの角度と前記角度対応エリアの角度とから前記同一画像領域の相対回転量を求める演算手段と、
を有することを特徴とする画像合成装置。 - 請求項1記載の画像合成装置において、
前記角度判定エリアは前記判定エリアの半径であることを特徴とする画像合成装置。 - 請求項1または請求項2記載の画像合成装置において、
前記角度判定エリアは、前記判定エリアの中心を含む線分からなり、
前記判断手段は、前記角度判定エリアと前記各角度判定エリアの中心から同一距離の各画素値の差の絶対値の総和を求め、絶対値の総和が最小となる前記各角度判定エリアの一つを前記角度対応エリアと判断することを特徴とする画像合成装置。 - 請求項3記載の画像合成装置において、
前記画素の前記中心に対するアドレスを求めるためのテーブルを有していることを特徴とする画像合成装置。 - 請求項1ないし請求項4のいずれか1項記載の画像合成装置において、
前記角度判定エリアを、そのエリアのヒストグラムの分散に基づいて決定することを特徴とする画像合成装置。 - 請求項1記載の画像合成装置において、
前記判断手段は、前記角度判定エリアの画素情報と前記各角度判定エリアの画素情報とを対応するアドレスの画素毎に比較することを特徴とする画像合成装置。 - 適正露光時間を分割し少なくとも第1の画像と第2の画像とを撮像素子により撮像し、撮影後に前記第1の画像と前記第2の画像とを画像合成するカメラの手ぶれ補正装置において、
請求項1ないし請求項6のいずれか1項記載の画像合成装置を有することを特徴とするカメラの手ぶれ補正装置。 - 請求項7記載のカメラの手ぶれ補正装置を有することを特徴とするカメラ。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005069436A JP2006254198A (ja) | 2005-03-11 | 2005-03-11 | 画像合成装置,カメラの手ぶれ補正装置およびカメラ |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005069436A JP2006254198A (ja) | 2005-03-11 | 2005-03-11 | 画像合成装置,カメラの手ぶれ補正装置およびカメラ |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006254198A true JP2006254198A (ja) | 2006-09-21 |
Family
ID=37094190
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005069436A Withdrawn JP2006254198A (ja) | 2005-03-11 | 2005-03-11 | 画像合成装置,カメラの手ぶれ補正装置およびカメラ |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006254198A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100870235B1 (ko) | 2007-08-27 | 2008-11-24 | 성균관대학교산학협력단 | 피사체의 특징 추출이 가능한 영상 처리 장치 |
JP2009065492A (ja) * | 2007-09-07 | 2009-03-26 | Meidensha Corp | 侵入者検知装置 |
JP2011060285A (ja) * | 2009-09-04 | 2011-03-24 | Sony Europe Ltd | 算出方法及び算出装置 |
-
2005
- 2005-03-11 JP JP2005069436A patent/JP2006254198A/ja not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100870235B1 (ko) | 2007-08-27 | 2008-11-24 | 성균관대학교산학협력단 | 피사체의 특징 추출이 가능한 영상 처리 장치 |
JP2009065492A (ja) * | 2007-09-07 | 2009-03-26 | Meidensha Corp | 侵入者検知装置 |
JP2011060285A (ja) * | 2009-09-04 | 2011-03-24 | Sony Europe Ltd | 算出方法及び算出装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101156991B1 (ko) | 촬상 장치, 화상 처리 방법 및 기록 매체 | |
JP4770924B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP5865941B2 (ja) | 撮影装置、携帯型情報処理端末、撮影装置のモニタ表示方法およびプログラム | |
JP4962460B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP4487191B2 (ja) | 画像処理装置および画像処理プログラム | |
JP4618370B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP5163409B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP2010136302A (ja) | 撮像装置、撮像方法、およびプログラム | |
US10142541B2 (en) | Image processing apparatus, imaging apparatus, and control method of image processing apparatus | |
CN110276714B (zh) | 快速扫描式全景图图像合成方法及装置 | |
JP2006254198A (ja) | 画像合成装置,カメラの手ぶれ補正装置およびカメラ | |
JP2006203504A (ja) | 撮像装置 | |
JP6455354B2 (ja) | 動画撮影装置、動画撮影方法及びプログラム | |
JP2006086888A (ja) | 画像合成装置,カメラの手ぶれ補正装置およびカメラ | |
JP2020036249A (ja) | あおり補正を行う画像処理装置 | |
JP5477897B2 (ja) | 画像動き補正装置およびその方法、並びに撮像装置 | |
JP2010187207A (ja) | 画像合成装置、画像合成プログラム、および画像合成方法 | |
JP6833772B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP2006295329A (ja) | 画像処理装置、撮像装置、画像処理方法 | |
JP2021129169A (ja) | 回転位置補正装置および回転位置補正方法 | |
JP4803319B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
JP2023125905A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2023055075A (ja) | 撮像装置およびその制御方法 | |
JP2008311906A (ja) | 画像データ照合装置、画像合成装置及びプログラム | |
JP2011151744A (ja) | 画像動き補正装置およびその方法、並びに撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20080513 |