以下、本発明を実施するための最良の形態について図面を参照しながら詳細に説明する。
本発明は、例えば図1に示すような撮像装置1に適用される。この撮像装置1は、被写体を撮像する撮像部10を備え、この撮像部10は、被写体からの像光を結像させるためのレンズ10aと、レンズ10aを介して入射される像光を遮光する図示しないシャッタ羽根等により絞り量を調整する絞り駆動部10bと、入力される被写体像に基づき電気的な撮像信号C1を生成するCMOS(Complementary Metal-Oxide Semiconductor) イメージセンサ11とを有している。
また、この撮像装置1は、CMOSイメージセンサ11により生成された撮像信号C1のばらつきを補償するためのCDS(Correlated Double Sampling)回路12と、CDS回路12から供給される撮像信号C2をアナログ/デジタル変換処理するA/D変換部13と、このA/D変換部13から供給されるデジタル化した撮像信号C2としての画像データを一時的に格納し、これに所定の処理を施すディジタルシグナルプロセッサ(DSP)15と、接続されたDSP15からの画像データを符号化するコーデック処理部16と、このコーデック処理部16から供給される画像データを格納するメモリ17とを備えている。
この撮像装置1は、DSP15から供給される画像データをデジタル/アナログ変換処理して出力するD/A変換部18と、このD/A変換部18からの画像データをビデオ信号に変換するビデオエンコーダ部19と、ビデオエンコーダ部19に接続されてなり、上述のビデオ信号に基づく画像をユーザに表示するためのモニタ部20とを備え、またこの撮像装置1は、接続された内部バス14を介して撮像装置1全体を制御するためのCPU(Central Processing Unit)21と、内部バス14に接続されてなりユーザが各種操作を実行するための操作部22と、CPU21から内部バス14を介して送られる制御信号に基づき、CMOSイメージセンサ11からDSP15に至るまでの信号処理系を制御するタイミングジェネレータ23と、内部バス14にそれぞれ接続されてなるモータ24並びに露出計26とを備えている。
撮像部10は、CPU21から供給された動作信号に基づき、自動絞り制御動作や自動焦点制御動作等を実行する。また、この撮像部10は、かかる動作信号に基づいて、撮影方向を水平、垂直方向へ調整し、また操作部22を介して入力される絞り値に応じて、図示しないシャッタ羽根を開閉させることにより絞り量を調整する。
CMOSイメージセンサ11は、レンズ部10a並びに絞り駆動部10bを介して入射される被写体像を電気信号に変換した撮像信号C1を生成し、これをCDS回路12へ出力する。なお、このCMOSイメージセンサ11は、撮像面上に結像された被写体像のうち一部の領域を選択し、当該領域の画素値のみを効率よく読み出すことができる。
CDS回路12は、CMOSイメージセンサ11から供給される撮像信号C1の雑音を相関二重サンプリング回路を用いて除去し、或いはゲインを増幅させるための処理を施し、これを撮像信号C2としてA/D変換部13へ出力する。A/D変換部13は、このCDS回路12から供給される撮像信号C2をアナログ/デジタル変換処理し、これをDSP15へと出力する。ちなみに、このCDS回路12及びA/D変換部13における各動作タイミングは、一定のフレームレートで画像取り込みを継続すべく、タイミングジェネレータ23により制御される。
DSP15は、ともに図示しない信号処理用プロセッサと、画像用RAMとを有するブロックである。A/D変換部13からの撮像信号C2で表される画像は、タイミングジェネレータ23による制御の下、一定のフレームレートで構成されるストリームデータとして供給され、この画像用RAMに一時的に格納される。図示しない信号処理用プロセッサは、この画像用RAMに格納される画像に対して、予めプログラムされた画像処理を施すための設定がなされている。この図示しない画像用RAMにおいて画像処理された画像は、コーデック処理部16とD/A変換部18の何れか、或いは双方へ送信される。
コーデック処理部16は、DSP15から送信された画像につき、所定の方式でデータ量を圧縮する。ここでは、JPEG(Joint Photographic Experts Group)等の規格に基づいて圧縮符号化してもよい。
メモリ17は、例えば半導体メモリ,磁気記録媒体,光磁気記録媒体等で構成され、コーデック処理部16において圧縮処理された画像データを所定のアドレスに記録するための媒体である。このメモリ17を着脱自在な記録媒体として構成することにより、撮像した画像を他のPC等に移し換えてこれを鑑賞し、又は各種検索や処理を実行することができる。
モニタ部20は、D/A変換部18においてアナログ信号に変換され、さらにビデオエンコーダ部19においてビデオ信号に変換された画像を表示する。このモニタ部20は、ユーザ自身が撮像処理を実行しつつリアルタイムに撮影内容の確認ができるように、撮像装置1の筐体側面等に設けられる液晶表示素子等で構成してもよい。
CPU21は、内部バス14を介して、実行すべき制御プログラムを格納するROMやデータの蓄積や展開等に使用する作業領域としてのDRAM等が接続され、撮像装置1全体を制御する中央演算ユニットとしての役割を担う。CPU21は、操作部22から供給される操作信号D1や露出計26から送信される明るさに関する情報に基づいて、動作信号を生成し、これを内部バス14を介して撮像部10へ送信する。
操作部22は、撮影画角や撮影方向をユーザが自由に調整するため、或いは撮像部10における絞り値や露出時間を自由に調整するためのキー等で構成される。この操作部22は、ユーザにより入力された情報に応じた操作信号D1を生成し、これを内部バス14を介してCPU21へ送信する。さらに、この操作部22は、シャッタボタン221を有し、ユーザによるシャッタボタン221の押圧入力操作に基づいて、撮像を開始又は停止する旨の操作信号D1を生成し、これを内部バス14を介してCPU21へ送信する。
モータ24は、例えばステッピングモータ等のように、撮像部10を旋回させるための駆動源として構成される。このモータ24は、CPU21からの動作信号に応じて回転する。これにより、撮像部10の撮影方向を水平方向、或いは垂直方向に変更することができる。
露出計26は、撮像部10により撮像される対象の明るさを識別するためのセンサであり、この識別した明るさに関する情報をCPU21へ送信する。
上述の如き構成からなる撮像装置1により撮像された被写体像は、CMOSイメージセンサ11において電気信号に変換されて撮像信号C1となり、CDS回路12により雑音を除去されて撮像信号C2となり、更にはA/D変換部13においてアナログ/デジタル変換処理される。また、この撮像信号C2で示される画像は、DSP15における図示しない画像用RAMに格納され、所定の画像処理が施された後、D/A変換部18によりデジタル/アナログ変換処理されてモニタ部20において表示され、或いはコーデック処理部16により符号化されてメモリ17に記録されることになる。
本発明は、さらに以下に説明する撮像装置3に適用することができる。この撮像装置3において上述した撮像装置1と同一の構成、要素については、図1の説明を引用することにより、ここでの説明を省略する。
この撮像装置3は、例えば図2に示すように、レンズ部10aを含む撮像部10を介して被写体を撮像し、連結された回転軸を回転中心として図2中の矢印A方向へ回転可能な第1の筐体31と、第1の筐体の下側に配設され、ユーザの片手で把持可能な第2の筐体32とを備えている。ちなみに、この第2の筐体32には、シャッタボタン221と、撮像した画像をユーザ自身が視認するための表示部43とが配設されている。
図3(a)、(b)は、この撮像装置3の内部構成を示している。この第1の筐体31は、レンズ部10aと、CMOSイメージセンサ11と、少なくともCDS回路12並びにA/D変換部13を有する第1の電子回路41とを備えている。
また、第2の筐体32は、回転軸38を介して第1の筐体31に連結されてなり、この回転軸38を回転させるためのモータ51と、この回転軸38の回転角を制御するためのフォトインターラプタ52並びに遮蔽板53と、この回転軸38の回転動作に対して物理的な制限を加えるためのストッパー54と、第2の筐体32の上面に設けられた連結穴に挿設されてなり、上記回転軸38を支持することにより円滑な回転動作を実現するためのベアリング55と、撮像装置3の各構成要素を制御するための第2の電子回路42と、各構成要素を動作させるためのバッテリー44とを備えている。
第2の電子回路42は、図3(b)に示すように、DSP15と、メモリ17と、CPU21と、操作部22と、シャッタボタン221と、表示部43と、モータやフォトインターラプタ、または外部機器との間で画像データを送受信するためのインターフェース47とを備え、また第1の電子回路41との間で電気的な信号を送受信するための配線56が接続されている。
ちなみに、この第2の筐体32は、上述した各構成要素に加えて、一般撮影モードと、パノラマ撮影モードとを切り換えるためのボタンや、一般的なデジタルカメラが有する各種ボタンが配設されている。
モータ51は、供給された駆動パルスに応じた角速度で回転軸38を回転させるステッピングモータ等で構成される。このモータ51により回転させられる回転軸38の一端側には第1の筐体31が連結され、その中間にはストッパー54が固着される。またこの回転軸38の他端側には遮蔽板53が固着されている。即ち、このモータ51に基づく回転軸38の回転動作に応じて第1の筐体31が回転するとともに、遮蔽板53並びにストッパー54も同様に回転することになる。ちなみに、このモータ51による回転軸38の回転角度における相対的な変位は、モータ51に与えるパルス数で検出することができる。
表示部43は、D/A変換部18,ビデオエンコーダ部19,モニタ部20に準ずる構成を全て含み、第2の筐体32側面に設けた液晶表示素子を介して生成した画像を表示する。この表示部43は、回転軸38により回転させられる第1の筐体31と離間して設けられているため、回転軸38の回転に支配されることなく、視認性を向上させることができる。
フォトインターラプタ52は、発光体52aと受光体52bとが上下に亘って設けられてなる。この受光体52bは、発光体52aからの光信号を受光し続けることになるが、回転軸38の回転に応じて遮蔽板53がフォトインターラプタ52付近まで回転されてきた場合には、かかる光信号が遮蔽板53により遮蔽されることになる。即ち、この受光体52bが受光する光信号の遮蔽状況から、回転軸38の回転状況を識別することが可能となる。
なお、回転軸38が可動範囲を超えて回転した場合には、この遮蔽板53が光信号を遮蔽し、当該遮蔽に応じてモータ51が停止するように構成としてもよい。この図4は、フォトインターラプタ52並びに遮蔽板53を図3中のB方向から捉えたものである。この図4に示すように、可動範囲内においては、遮蔽板53が受光体52bにより受光される光信号を遮ることがないため、モータ51が停止することなく、回転軸38を自在に回転させることができる。これに対して、可動範囲を超えた場合には、遮蔽板53が受光体52により受光される光信号を遮ることになり、モータ51が停止することになる。なお、この可動範囲を超えた場合には、さらにストッパー54を介して第1の筐体31の回転動作を物理的に抑え込むようにしてもよい。
このように、第2の筐体32に対する第1の筐体31の回転範囲を制限する仕組みを導入することにより、第1の筐体31から第2の筐体32へのデータの伝送を、フォトカプラを用いた特殊なジョイント部品を使用することなく、通常の可動部分で用いられるようなフレキシブルな配線素材を用いて実現することができる。
上述の構成からなる撮像装置3を用いるユーザは、第2の筐体32を把持しつつ、撮影を行う。かかる場合において第2の筐体32外部に設けられたシャッタボタン221を押圧することにより、上述した撮影開始のタイミング、撮影終了のタイミングを指定することができる。第2の筐体32を片手で把持するユーザの指先に当たる箇所に、このシャッタボタン221を設けることにより、指先の小さな動きで撮影の開始及び終了を支持することができる。
従って、このような第2の筐体32を片手で把持し、シャッタボタン221を押圧することにより、図5(a)に示す状態から、第1の筐体31が徐々に回転し、図5(b)に示すように撮像部10の撮影方向が変化する。また、このシャッタボタン221を更に押圧し続けることにより、図5(c)に示すように、第1の筐体31が更に回転する結果、撮像部10の撮影方向がさらに変化することになる。即ち、この第1の筐体31は、連結された回転軸38を回転中心として撮像部10の撮影方向が順次変化するように回転可能となるように構成されてなる。
ちなみに、この図5(c)に示す状態においてこのシャッタボタン221を押し続けた場合に、上述したフォトインターラプタ52により、モータ51の回転を抑制させた上で、この第1の筐体31を更に反対方向へ向かって回転させるようにしてもよい。
ちなみに、この第2の筐体32には、バッテリー44やモータ51等の質量の大きい部品や、多くの回路より構成される第2の電子回路42が搭載されるのに対し、第1の筐体31には、撮影に必要なレンズ部10aや、CMOSイメージセンサ11、第1の電子回路41等のように比較的質量の小さい部品が搭載されている。即ち、この第1の筐体31は、第2の筐体32と比較して質量が軽くなるような構成とされている。これにより、第1の筐体31を回転させる回転軸38やベアリング55等の部品、更にはモータ51等への機械的負荷を軽減させ、製品全体のコストを低く抑え込むことが可能となり、高品質なパノラマ撮影機能を備えた一般的なコンスーマ用のデジタルカメラを低コストで実現することも可能となる。
図6は、撮像装置3による撮影工程を示すフローチャートである。
撮像装置3は、ハードウェアの診断や初期化を行った後、ステップS61へ移行する。
ステップS61では、通常のカメラと同様に、自動露出機能等の補助を利用しつつ、絞り量や露出等をユーザ自身が調整する。その結果、各種撮影パラメータが決定される。
次にステップS62へ移行し、シャッタボタン221の押圧を調べ、撮影開始タイミングを識別する。シャッタボタン221が押圧されていればそのままステップS63へ移行し、押圧されていなければステップS61へ戻る。
ステップS63へ移行した場合には、撮像部10により撮像を行う。撮像により取得されたデータは、CDS回路12、A/D変換部13を経て、DSP15へ転送される。
ステップS64では、DSP15が画像処理を実行することによりパノラマ状の全体画像を合成する。図7は、連続撮影した画像をつなぎ合わせて1枚のパノラマ状の全体画像を合成する様子を示している。ここで、連続して撮影された各単位画像は、互いに重複領域が生じるように撮影されているものとする。この重複領域については、従来より知られている合成方法に基づいてつなぎ合わせることにより、図7に示すような全体画像を合成することができる。ちなみに、この合成方法として、例えば、アルファブレンディング等の合成技法を用いるようにしてもよい。
次にステップS65へ移行し、第1の筐体31を第2の筐体32に対して回転させることにより、撮像部10による撮影方向を僅かに変化させる。この第1の筐体31の回転量は、少なくとも連続して撮影された各単位画像間において互いに重複領域が生じるように調整される。この回転量は、撮像装置3の設計時において幾何学的な計算により予め求めておくこともできる。また、撮影時における撮像装置3全体の揺れ量を検出するための機能を実装しておくことにより、第1の筐体31の回転量を動的に微調整するようにしてもよい。
なお、このステップS65において、モータ51の回転量をできるだけ小さく設定しておき、かつ単位時間当たりの撮影枚数を増加させて連続撮影を実行することにより、視差による歪みや動被写体を撮影することによる画像の不連続さを解消することができ、高画質な全体画像を合成することが可能となる。このような撮影を行うためには、モータ51の断続的かつ高精度の制御が必要となるが、上述の如く、この第1の筐体31は、第2の筐体32と比較して質量が軽くなるような構成とされているため、これらを低コストで実現することが可能となる。
ステップS66では、再びシャッタボタン221の押圧を調べ、撮影終了のタイミングを識別する。このステップS66においてシャッタボタン221の押圧が確認できた場合には、撮影を継続させるべくステップS63へ戻る。これに対し、このステップS66においてシャッタボタン221の押圧が確認できなかった場合には、撮影の終了動作へ移行すべくステップS67へ移行する。
ステップS67では、撮影終了時の処理として、合成したパノラマ状の全体画像をメモリ17へ格納する。
このように、第1の筐体31と離間した第2の筐体32にシャッタボタン221を搭載することにより、指先の小さな操作だけで撮影の開始、終了を指示することができる。また、第2の筐体32に表示部43を備えることにより、得られた画像の視認性を向上させることができる。
また、実際に回転する第1の筐体31内部にレンズ部10aやCMOSイメージセンサ11等のように撮影に最低限必要な部品を少なくとも実装することにより、回転部分の質量が軽くなるため、この第1の筐体31における回転部分を支える部品やこれを回転駆動させるモータ51のコストを下げることができる。またモータ51等の駆動源となる部品をユーザにより把持される第2の筐体32内に実装することにより、モータ51の回転に伴う振動による影響を極力抑えることもできる。
またフォトインターラプタ52を用いて、第1の筐体31の回転範囲を制限することにより、回転部分とホールド部分間のデータ転送を通常の安価なフレキシブルな配線素材を用いて実現することができる。
なお、この撮像装置3において、上述した撮像装置1の動作を全て行わせるようにしてもよい。これにより、上述した撮像装置3自体の効果に加えて、切り出したスリット状の画像領域間を重複させることによる画質の向上、システム全体のコスト低減等の撮像装置1の効果を相乗的に奏するような撮影システムを構築することも可能となる。
また、本発明を適用した撮像装置3は、上述した実施の形態に限定されるものではなく、DSP15、CPU21、表示部43、モータ51、操作部22(シャッタボタン221)、バッテリー44のうち、何れか1つ以上が第2の筐体32内に設けられていればよい。
ところで、このように連続撮影した画像をつなぎ合わせて1枚のパノラマ状の全体画像を合成する場合において、例えば、暗い風景の前を明るい物体が移動している場面を撮影する場合、物体の輪郭が不自然となっていた。この不自然な輪郭を1つのカメラで、撮影方向を変えて2枚連写し、これら2枚の画像からパノラマ画像を作成する場合を用いて説明する。ここで、2枚の画像を撮影したときの撮影方向の角度差に応じた画像上での位置関係を(p,0)とする。つまり、2枚の画像の位置は、横方向にpだけずれたものである。
図8は、第1番目の画像を示す図である。この画像は、暗い風景の前を白い長方形物体が移動している場面を撮影したものである。
また、図9は、第2番目の画像を示す図である。この第2番目の画像は、図8で示した第1番目の画像に対して(p,0)だけずれた位置で撮影されたものである。第1番目の画像と第2番目の画像とは撮影時刻に差があるので、白い長方形物体は、第1番目の画像を撮影した時点から移動している。
ここで、図10に示すように、第2番目の画像を第1番目の画像に対して(p,0)だけずらして重ね合わせたパノラマ画像を生成する。ここで、パノラマ画像とは、第1番目の画像(あるいは第2番目の画像)よりも広い部分を撮影した画像である。
図11は、第1番目の画像と第2番目の画像とを適切な位置関係となるように重ね合わせたパノラマ画像を示す図である。このパノラマ画像には、2つの画像時刻に差があるために白い長方形の物体の左右の周辺部分に不自然な輪郭が現れている。
次に、上述した不自然な輪郭が、どのようにして生じるかについて図12を用いて説明する。図12は、図11に示すパノラマ画像の直線a上の白黒の度合いを説明するための図である。この図12では、白黒の度合いを0(黒)〜255(白)を用いて示している。
図12に示すように、図12(a)に示す「第1番目の画像」と図12(b)に示す「第2番目の画像」との位置はpだけずれている。また、白い長方形物体は、「第1番目の画像」を撮影した際には、図12(a)に示すようにBからDまでの位置に存在し、「第2番目の画像」を撮影した際には、その白い長方形物体が移動して、図12(b)に示すようにCからEまでの位置に存在している。ここで、「第1番目の画像」と「第2番目の画像」の重なり部分は、AからFまでである。
ところで、一般的に画像を重ねて合成画像を作る場合、その重なりの境界部分を滑らかに接続するために、位置に依存した重み関数を使った重み付き平均が用いられる。すなわち、重ねる画像の周辺部分の寄与率が0になるように重み関数を設定することで境界部分を滑らかにすることができる。この技術は、例えば、P. J. Burt and E. H. Adelson, 鄭 multiresolution spline with application to image mosaics, ACM Trans. on Graphics, Vol. 2, no. 4, pp. 217-236, 1983 の Fig. 2において説明されている。
この技術に基づいて、「第1番目の画像の重み(寄与率)」を、図12(c)に示すように、A地点で1、F地点で0になるように設定する。また、第2番目の画像の重み(寄与率)は、1から第1番目の画像の重み(寄与率)を引いた値である。
続いて、図12(d)に示す「合成画像」の白黒の度合いについて詳細に説明する。まず、AからBまでの区間について説明する。この区間では、「第1番目の画像」と「第2番目の画像」とは、ともに黒(値は0)であるから、各画像の寄与率が何であっても、結果画像である「合成画像」は、黒(値は0)である。
また、BからCまでの区間では、「第1番目の画像」は白(値は255)であり、「第2番目の画像」は黒(値は0)である。そして、BからCに向かって、図12(c)に示す「第1番目の画像の寄与率」は小さくなっているので、結果として、図12(d)に示す「合成画像」の白黒の度合いは、BからCに向かって小さな値となる。
また、CからDまでの区間では、「第1番目の画像」と「第2番目の画像」とは、ともに白(値は255)であるから、各画像の寄与率が何であっても、結果画像である「合成画像」は、白(値は255)である。
また、DからEまでの区間では、「第1番目の画像」は黒(値は0)であり、「第2番目の画像」は白(値は255)である。そして、BからCに向かって、「第1番目の画像の寄与率」は小さくなっているので、結果として、図12(d)に示す「合成画像」の白黒の度合いは、DからEに向かって大きな値となる。
また、EからFまでの区間では、「第1番目の画像」と「第2番目の画像」とは、ともに黒(値は0)であるから、各画像の寄与率が何であっても、結果画像である「合成画像」は、黒(値は0)である。
また、Aより左では、「第1番目の画像」がそのまま「合成画像」として使われ、Fより右側では、「第2番目の画像」がそのまま「合成画像」として使われる。
図12(d)の「合成画像」に示すBからCまでの区間と、DからEまでの区間を見て分かるように、暗い風景の前を白い長方形物体が移動している場合、「合成画像」は、白い長方形物体の輪郭部分で、黒(背景)(Aより左)から白(B)へ、徐々に黒くなり(BからC)、さらに白(移動物体)(C)になり、奇妙なものとなってしまう。つまり、実際の画像では、図11に示すように、白い長方形の物体の左右の周辺部分に不自然な輪郭が現れてしまう。
そこで、本実施の形態では、動いている物体の周辺部分を検出し、その部分のみをぼかすことにより、不自然な輪郭を軽減する。具体的には、動いている物体の周辺部分に高周波成分の帯域を制限するローパスフィルタ(Low-Pass Filter)(以下、LPFという。)を適用する。
図13は、撮像装置3におけるLPFを用いた画像処理を、ハードウェア的に実現するための画像処理装置100の構成を示すブロック図である。なお、以下、DSP15における画像処理を、ハードウェア的に実現することとして説明するが、これに限定されるものではない。
この画像処理装置100は、複数の画像を入力する画像入力端子101と、複数の画像の位置情報を入力する画像位置入力端子102と、位置情報に基づいて各画像のLPF適用範囲を決定するLPF適用範囲決定回路103と、LPF処理を施すLPF回路104と、LPF適用範囲に基づいて画像入力端子101から入力された画像又はLPF処理を施された画像を選択する選択回路105と、選択された画像を重ね合わせる重ね合わせ回路106と、重ね合わせた合成画像を出力する画像出力端子107とを備えている。
画像入力端子101には、複数の画像が入力され、例えば、図11に示す合成画像の例では第1番目の画像や第2番目の画像が入力される。
画像位置入力端子102には、画像入力端子101に入力される複数の画像の位置情報が入力される。例えば、図10に示す例では、第1番目画像と第2番目画像との位置関係を示す位置情報(p,0)が入力される。
LPF適用範囲決定回路103は、画像入力端子101から入力された各画像を、画像位置入力端子102から入力された位置情報に基づいて配置し、重なり合う部分の画素同士の値が、一致するか否かを判定し、LPF適用範囲を決定する。また、重ね合わせを行おうとしている画像(2枚、あるいは、それ以上の枚数)の対応している位置における画素の値を比較し、その値が一致するか否かを判定することにより、撮影された物体が静止している物体か、動いている物体かを判別することができる。
LPF回路104は、画像入力端子101から入力された各画像に対し、ローパスフィルタ処理を施す。
選択回路105は、LPF適用範囲決定回路103にて決定された各画像の画素毎に、LPF回路104にて処理された画像の画素又は画像入力端子101から入力された画像の画素を選択する。LPF適用範囲決定回路103にて画素同士の値が一致すると判定した場合は、画像入力端子101から入力された画像の画素を選択し、画素同士の値が異なると判定した場合は、LPF回路104にて処理された画像の画素を選択する。つまり、各画像の各画素の中で、移動物体部分の画素に対してのみ、LPF(ローパスフィルタ)をかけるという処理が行われる。
重ね合わせ回路106は、選択回路105にて選択された画素を用いて合成画像を生成する。
画像出力端子107は、重ね合わせ回路106で合成された合成画像を出力する。
続いて、図14に示すフローチャートを用いて、画像処理装置100の動作を説明する。まず、ステップS1において、画像入力端子101に複数の画像を入力するとともに、それら画像の位置関係を画像位置入力端子102に入力する。
ステップS2では、移動物体判定処理を行う。すなわち、LPF適用範囲決定回路103において各画像を位置情報の示す位置関係になるように配置した際、重なり合う部分の画素同士の値が、違うかどうかの判定を行い、LPF適用範囲を決定する。
また、重なり合う部分の画素同士の値が、違うかどうかの判定を行う場合、ノイズなどにより誤判定をしてしまう可能性があるため、ノイズの多い画像には、孤立点除去を行って、誤判定を減少させることができる。すなわち、ある着目している画素位置において「画素同士の値が違う」と判定されても、その周辺のすべての画素位置において「画素同士の値が同じ」と判定された場合には、着目している画素はノイズのために誤判定したと考えられるので、強制的に「画素同士の値が同じ」と判定する。逆に、ある着目している画素位置において「画素同士の値が同じ」と判定されても、その周辺のすべての画素位置において「画素同士の値が違う」と判定された場合には、着目している画素はノイズのために誤判定したと考えられるので、強制的に「画素同士の値が違う」と判定する。これは、移動物体の輪郭部分は、ある程度の大きさをもって画像上に映っているので、1点だけが孤立して「画素同士の値が違う(あるいは同じ)」と判定されることは、ノイズのために誤判定したと考えられるからである。
ステップS3では、適応的LPF処理を行う。すなわち、ステップS2の上記移動物体判定処理において、各画像の各画素の中で、「画素同士の値が違う」と判定された場合には、LPF回路104にて、その画素に対してLPF処理を行う。LPF処理では、例えば、式(1)に示す計算を行う。
式(1)において、d(s,t)は、位置(s,t)における入力画像の画素値である。また、(x,y)は、上記移動物体判定処理での判定において「画素同士の値が違う」と判定された位置である。この位置(x,y)では、式(1)に示すように、その周辺の前後左右の画素との重み付き平均が行われ、高周波成分が除去される。
ステップS4では、重ね合わせ処理を行う。すなわち、重ね合わせ回路106は、上記適応的LPF処理後の画像同士を、位置情報の示す位置関係になるように配置して重ね合わせを行い、結果画像を作成する。
ステップS5では、上記重ね合わせ処理により作成された結果画像を出力する。
このような画像処理により、移動物体の輪郭における不自然さを緩和することができる。
次に、上述の画像処理によって合成された合成画像について、図15を用いて説明する。この図15では、画像の白黒の度合いを0(黒)〜255(白)を用いて示している。図15において、「第1番目の画像」と「第2番目の画像」との位置は、図12と同様にpだけずれている。また、「第1番目の画像」と「第2番目の画像」との重なり部分は、図12と同様にAからFである。また、図12と同様に、白い長方形物体は、「第1番目の画像」を撮影した際には、図15に示すBからDの位置に存在し、「第2番目の画像」を撮影した際には、その白い長方形物体が移動して、CからEの位置に存在している。
LPF適用範囲決定回路103は、図15(a)に示す「第1番目の画像」と、図15(b)に示す「第2番目の画像」との対応している位置における画素の値を比較する。つまり、「第1番目の画像」に対してpだけずらした位置に、「第2番目の画像」を置いたときの、各位置における2つの画像の画素値を比較する。ここで、図15から明らかなように、AからBまでの区間、CからDまでの区間、及びEからFまでの区間では、「画素値は同じ」と判定される。また、BからCまでの区間、及びDからEまでの区間では、「画素値は違う」と判定される。つまり、AからBまでの区間、CからDまでの区間、及びEからFまでの区間では、静止している物体の投影像であり、BからCまでの区間、および、DからEまでの区間では、動いている物体の投影像である。
ところで、図15(a)に示す「第1番目の画像」の全ての領域に対して、LPF処理を施した場合、図16(b)に示すようにBの位置近傍及びDの位置近傍の画像がボケてしまう。ここで、図16に示すA〜Fは、図15に示すA〜Fと同じ位置である。また、図16(a)は、図15(a)に示す「第1番目の画像」である。
同様に15(b)に示す「第2番目の画像」の全ての領域に対して、LPF処理を施した場合は、Cの位置近傍及びEの位置近傍の画像がボケてしまう。
したがって、全ての領域に対してLPF処理を施した画像を重ね合わせて合成画像を生成すると、全体的にボケた不自然な合成画像となってしまう。
そこで、本実施形態の画像処理では、図15(a)に示す「第1番目の画像」に対して、「画素値は違う」と判定した領域にのみLPF処理を施す。すなわち、選択回路105は、第1番目の画像のBからCまでの区間及びDからEまでの区間の画素を、LPF回路104にてLPF処理された画素とする。この処理結果を、図15(c)に示すように、「第1番目のLPF画像」とする。
また、「第2番目の画像」に対しても、「画素値は違う」と判定した領域にのみLPF処理を施す。すなわち、選択回路105は、第2番目の画像のBからCまでの区間及びDからEまでの区間の画素を、LPF回路104にてLPF処理された画素とする。この処理結果を、図15(d)に示すように、「第2番目のLPF画像」とする。
このように「画素値は違う」と判定した領域にのみLPF処理を施すことにより、「第1番目の画像」の白い長方形物体の輪郭部分であるBからCまでの位置及びDからEまでの位置、及び「第2番目の画像」の白い長方形物体の輪郭部分であるBからCまでの位置及びDからEまでの位置は、ボケた画像となる。
次に、「第1番目のLPF画像」と、「第2番目のLPF画像」の重ね合わせを行う。今回の場合も図12と同様に、「第1番目のLPF画像の重み(寄与率)」を、図15(e)に示すように、A地点で1、F地点で0になるように設定する。第2番目のLPF画像の重み(寄与率)は、1から第1番目のLPF画像の重み(寄与率)を引いた値である。
このように寄与率が位置により変化していくと、動物体の輪郭部分の不自然さが緩和される。これを、図15に示すAからBまでの区間、BからCまでの区間、CからDまでの区間、DからEまでの区間、EからFまでの区間に区切って説明していく。
図15(f)に示す「LPF画像からの合成画像」は、重ね合わせ回路106によって図15(c)に示す「第1番目のLPF画像」と、図15(d)に示す「第2番目のLPF画像」とを重ね合わせて作成された画像である。
まず、AからBまでの区間について説明する。この区間では、図15(c)に示す「第1番目のLPF画像」と、図15(d)に示す「第2番目のLPF画像」とは、ともに黒(値とは0)であるから、各画像の寄与率が何であっても、図15(f)に示す「LPF画像からの合成画像」は、黒(値は0)である。
BからCまでの区間では、図15(c)に示す「第1番目のLPF画像」は黒(値は0)から白(値は255)に変化しており、図15(d)に示す「第2番目のLPF画像」も黒(値として0)から白(値として255)に変化している。そして、BからCに向かって、図15(e)に示す「第1番目のLPF画像の寄与率」は小さくなっているので、図15(f)に示す「LPF画像からの合成画像」は、図12(d)に示す「合成画像」に比べて、BからCに向かって滑らかな変化となる。
CからDまでの区間では、図15(c)に示す「第1番目のLPF画像」と、図15(d)に示す「第2番目のLPF画像」は、ともに白(値は255)であるから、各画像の寄与率が何であっても、図15(f)に示す「LPF画像からの合成画像」は、白(値として255)である。
DからEまでの区間では、図15(c)に示す「第1番目のLPF画像」は白(値は255)から黒(値は0)に変化しており、図15(d)に示す「第2番目のLPF画像」も白(値は255)から黒(値は0)に変化している。そして、DからEに向かって、図15(e)に示す「第1番目のLPF画像の寄与率」は小さくなっているので、図15(f)に示す「LPF画像からの合成画像」は、図12(d)に示す「合成画像」に比べて、DからEに向かって滑らかな変化となる。
EからFまでの区間では、図15(c)に示す「第1番目のLPF画像」と、図15(d)に示す「第2番目のLPF画像」とは、ともに黒(値は0)であるから、各画像の寄与率が何であっても、図15(f)に示す「LPF画像からの合成画像」は、黒(値は0)である。
また、Aより左側では、第1番目の画像がそのまま「LPF画像からの合成画像」として使われ、Fより右側では、第2番目の画像がそのまま「LPF画像からの合成画像」として使われる。
このようにして、図15(f)に示す白黒の度合いを有する合成画像が生成される。この図15(f)に示す「LPF画像からの合成画像」と図12(d)に示す「合成画像」とを比べれば明らかなように、本発明を適用した画像処理を施すことにより、暗い風景の前を白い長方形物体が移動している場合の合成画像の移動物体の輪郭の不自然さを緩和することができる。
また、上述の画像処理では、入力された各画像の「画素値は違う」と判定した領域にLPF処理を施すこととしたが、入力された各画像を合成した後に、「画素値は違う」と判定した領域に対し、LPF処理をほどこしてもよい。
次に、この合成画像に対しLPF処理を行う画像処理について、図17を用いて説明する。この図17の(a)〜(d)は、図12の(a)〜(d)にそれぞれ対応するものであるから、ここでは説明を省略する。
この画像処理では、図17(e)に示す「合成画像」、すなわち、図12(d)に示す「合成画像」に対して、「画素値は違う」と判定した領域にLPF処理を施す。つまり、BからCまでの区間及びDからEまでの区間のみにLPF処理を施す。この処理結果が、図17(e)に示す「合成画像に対してLPFを適用した画像」である。
この図17(e)に示す「合成画像に対してLPFを適用した画像」と図12(d)に示す「合成画像」とを比べれば明らかなように、図17を用いて説明した画像処理を施すことにより、暗い風景の前を白い長方形物体が移動している場合の合成画像の移動物体の輪郭の不自然さを緩和することができる。
以上説明したように、重ね合わせを行おうとしている2以上の画像の対応している位置の画素の値を比較することにより、そこに投影されている物体が静止していた物体か、又は動いている物体かを判別することができる。
また、動いていると判定された箇所にのみに物体をぼかす効果があるLPF処理を施すことにより、合成画像の不自然さを解消することができる。また、静止していると判定された箇所には、LPF処理が施されないので、鮮明な画像となる。
また、LPF処理を施す対象画像は、入力される画像でも、重ね合わせた結果の合成画像でもよい。
1,3 撮像装置、10 撮像部、11 CMOSイメージセンサ、12 CDS回路、13 A/D変換部、14 内部バス、15 DSP、16 コーデック処理部、17 メモリ、18 D/A変換部、19 ビデオエンコーダ部、20 モニタ部、21 CPU、22 操作部、23 タイミングジェネレータ、24 モータ、26 露出計、100 画像処理装置、101 画像入力端子、102 画像位置入力端子、103 LPF適用範囲決定回路、104 LPF回路、105 選択回路、106 重ね合わせ回路、107 画像出力端子