JP2004139219A - 画像処理方法および画像処理装置 - Google Patents
画像処理方法および画像処理装置 Download PDFInfo
- Publication number
- JP2004139219A JP2004139219A JP2002301470A JP2002301470A JP2004139219A JP 2004139219 A JP2004139219 A JP 2004139219A JP 2002301470 A JP2002301470 A JP 2002301470A JP 2002301470 A JP2002301470 A JP 2002301470A JP 2004139219 A JP2004139219 A JP 2004139219A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unevenness correction
- illuminance unevenness
- image processing
- luminance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 20
- 238000012937 correction Methods 0.000 claims abstract description 78
- 238000000034 method Methods 0.000 claims abstract description 62
- 230000006870 function Effects 0.000 claims abstract description 27
- 238000012545 processing Methods 0.000 claims description 33
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000013139 quantization Methods 0.000 claims description 3
- 238000007619 statistical method Methods 0.000 claims 2
- 235000019557 luminance Nutrition 0.000 description 81
- 238000009826 distribution Methods 0.000 description 48
- 238000010586 diagram Methods 0.000 description 25
- 230000003287 optical effect Effects 0.000 description 18
- 238000005286 illumination Methods 0.000 description 12
- 239000002131 composite material Substances 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 5
- 238000007796 conventional method Methods 0.000 description 4
- 230000014509 gene expression Effects 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- 238000012887 quadratic function Methods 0.000 description 2
- 238000013481 data capture Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Circuits (AREA)
- Editing Of Facsimile Originals (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
【課題】連続的に撮影されたデジタル画像を繋ぎ合わせて一つの画像に合成処理する合成処理方法において、従来の照度むら補正方法では画面の全領域の輝度を補正することができなかったり、画像が破壊されるというような問題があった。
【解決手段】撮影したデジタル画像の一部が重複するように連続的に撮影場所または撮影方向を移動させながら撮影した複数のデジタル画像を連続的につなぎ合わせて一つのパノラマ画像に合成処理する画像処理方法であって、照度むら補正係数を画像面座標の既知関数の線形結合として表現し、そこでの線形結合定数を統計的手段によって計算するような画像処理方法である。
【選択図】 図9
【解決手段】撮影したデジタル画像の一部が重複するように連続的に撮影場所または撮影方向を移動させながら撮影した複数のデジタル画像を連続的につなぎ合わせて一つのパノラマ画像に合成処理する画像処理方法であって、照度むら補正係数を画像面座標の既知関数の線形結合として表現し、そこでの線形結合定数を統計的手段によって計算するような画像処理方法である。
【選択図】 図9
Description
【0001】
【発明の属する技術分野】
本発明は、ビデオカメラによって取り込んだ連続画像や複数の静止画像をつなぎ合わせて一つのパノラマ画像として画像を合成処理する画像処理方法、及びこの画像処理方法を用いた画像処理装置に関する。
【0002】
【従来の技術】
デジタルビデオの普及とパーソナルコンピュータの高性能化に伴って、かつては不可能であったデジタル画像データの大量保存や大量処理が可能になってきた。これに伴い、デジタル画像データを処理する新しい方法が行われるようになってきた。その一つとして、移動しながら撮影したビデオ画像や、同じ領域を場所や角度を変えて撮影した複数枚の静止画をつなぎ合わせて一つの合成画像(パノラマ画像)を生成する技術がある。これをモザイキングと呼ぶこともある。
【0003】
この技術はトンネルや壁のひび割れなどの検査を行う場合に有効に使われている。画像処理装置においてこのモザイキング処理を行うときには、まず各画像が相互に重なる重複領域を求め、次にこの重複領域を「のりしろ」として画像を貼り付けるという処理を行っている。
【0004】
このような画像合成を行う場合、画像毎の照明状態の変化などによって、合成画像の画素の輝度が画像のつなぎ目に相当する部分で急激に変化し、そのために合成画像内に濃淡および色調の境目ができることがある。
【0005】
図11は従来のモザイキング処理における撮影状態を説明する図である。図11における領域101が一つの画像として撮影され、同様に領域102が一つ画像として撮影され、さらに領域103が一つ画像として撮影されたとする。境界線111から境界線112が領域101の画像の範囲となり、境界線113から境界線114が領域102の画像の範囲となり、境界線115から境界線116が領域103の画像の範囲となる。図12は照度むらがあるときの図11における各画像の輝度分布状態を説明するための図である。
【0006】
図12では、領域101を撮影した画像の輝度分布121に示したが、このような分布になる理由は、人工照明されている場合には、中央が明るくて端が暗くなるためである。同じ理由によって領域102、領域103を撮影した画像における輝度分布122、123においても同じような輝度分布が発生する。このとき重なり領域104を「のりしろ」として二つの領域101と102の画像を貼り付ける。ここで、領域101の画像の中で図12の111から113の部分を切り取り、この切り取った画像を領域102の画像の左に貼り付ける。次に領域102の画像から図12の113から115の領域を切り取って、領域103の画像の左に貼り付ける。
【0007】
図13はこのような従来の方法により図12の画像をモザイキングしたときの結果を示す図である。ここで説明したような画面の貼り付けを行うと、図13の境界線113と境界線115で輝度の不連続的な「飛び」131と132がここで発生し、パノラマ画像に不自然な線として見える。
【0008】
この問題を解決するための一つの方法として、異なる画像間において重なっている領域を何らかの方法で検出し、そこでの輝度の違いを用いて照度むら効果を補正しようとする方法がある。即ち、重なっている領域は本来同じ場所であるから輝度は同じはずであるが、照度むら効果により画像に輝度が異なっている。そこでその領域での輝度を比較して同じになるように補正すればよいというのが基本的な考え方である。
【0009】
このような考え方に基づく方法として、ヒストグラム法・線形濃度変換法・平均濃度差補正法などがある。ヒストグラム法と線形濃度変換法では画像全体の輝度補正はできるが、場所に応じた細かい輝度補正ができないという欠点がある。
【0010】
人間の目は不連続的な変化には非常に敏感であるため、これらの方法では目立たない程度にまで輝度の不連続さをなくしてしまうことが難しい。一方、平均濃度差補正法では場所に応じた細かい補正が可能となるものの、重なっていない領域を含めた画像全体の補正はできないという欠点がある(例えば、非特許文献1参照)。
【0011】
また別の種類の考え方として、画像の輝度データに平滑化フィルターを掛けて照度の画像内分布をカットするという方法もある(例えば、非特許文献2参照)。しかしこの方法では照度むらを検出しているのではないため、照度むら以外に元々の画像が持っていた情報までカットしている可能性がある。実際このような処理をモザイキング画像に対して行うことにより画像がぼけてしまったり、全体に白っぽくなったり黒っぽくなったりといった画像の劣化現象が発生していた。画像合成時の照度むら補正に関する従来技術としては、照明装置が固定されている場合に、照明からの位置により輝度が変化することを補正するための技術がある(例えば、特許文献1参照)。しかしこの技術は本発明が想定しているような照明装置が撮影装置ともに移動している状態には使えない。
【0012】
また画像合成時の照度むら補正に関する別の従来技術としてスキャナなどで画像を取り込むときに、照明装置の揺らぎなどによって輝度が変化することを補正しようとするものがある(例えば、特許文献3参照。)。しかしそこでの補正手段は、基本的に画像全体の輝度平均の違いを補正しようとするものであり、本発明が考えているような場所ごとの細かい補正を考えたものではない。
【0013】
また以上のような処理を行う場合に、画像列の間の画像移動量(オプティカルフローと通常呼ぶ)を画像パターンから計算するための方法として、マッチング法とグラディエント法が使われてきた(例えば、非特許文献3参照)。しかしマッチング法では画像データの量子化単位(ピクセル)までの計算精度しか出ないという問題があり、グラディエント法では大きな移動量は安定に計算できないという問題も付帯的問題としてあった。
【0014】
【特許文献1】
特許第3233601号公報
【0015】
【特許文献2】
特開平11−164133号公報
【0016】
【非特許文献1】
高木幹雄、下田陽久監修「画像解析ハンドブック」東京大学出版会 1991年1月、p.463〜465 および p.478〜479
【0017】
【非特許文献2】
Planetron,Incホームページ、Image−Pro Plusスタートアップマニュアル、[online]、2002年5月15日、[平成14年9月5日検索]、インターネット <URL:http://www.planetron.co.jp/dl_docs.htm>第五章<URL:http://www.planetron.co.jp/pdf/V4−St05.pdf>第5−6頁
【0018】
【非特許文献3】
三池秀敏 他 著、「パソコンによる動画像処理」森北出版株式会社 1993年7月、p.135〜178 および p.241〜244
【0019】
【発明が解決しようとする課題】
本発明は、上記のようなモザイキング時に発生する輝度の不連続な変化を人間の目には目立たない程度にまで精密に補正できて、しかも元の画像を劣化させることのない画像処理方法及びこの画像処理方法を用いた画像処理装置を提供することを目的としている。
【0020】
【課題を解決するための手段】
本発明に係る画像処理方法は、例えば、画面の中央は明るく、画面の端は暗いというように、人工照明による照度分布は画像内の位置によってほぼ決まっていることに注目してなされたものであり、平均的な輝度変化を求めるのではなく、この画面内照度分布を画像面内座標値の関数として求めることを基本とするものである。
【0021】
そのために画像面内座標値のべき乗関数の線形結合関数(多項式関数)を補正関数として構成し、その線形結合係数を最小二乗法により計算することによって、平均的な方法では除去できなかった場所ごとの細かい補正が比較的簡単な計算により可能となり、接合面における輝度の不連続性をかなり低減できる。また補正係数が座標値の関数として得られるので補正係数を画面全体にわたって計算することもできるので、重なった領域だけしか補正できないという欠点もない。さらに画像の照度分布を計算した上で照度むらの補正をしているので、照度むら以外の要因をカットしてしまうこともないため、画像の劣化も防ぐことができる。
【0022】
また本発明に関わる画像処理方法は、撮影された画像を直接使うのではなく、その微分画像を使うものである。このように微分画像を使うと画像パターンのエッジが強調される。つまり、画像の中で特徴的なパターンに注目してオプティカルフローを算出することによってオプティカルフローの推定を安定に行うことができる。
【0023】
また本発明に関わる画像処理方法では、従来から行われてきた二つのオプティカルフローの算出方法(マッチング法とグラディエント法)を組み合わせて、粗い算出と細かい算出の二段階で行うことにより、オプティカルフローの算出精度と安定性を高めている。
【0024】
また本発明に関わる画像処理方法は、一つの貼り付け画像が持つ左右の境界線(図11での113と115)での照度むら補正関数をそれぞれ計算し、画像の位置に応じてそれら二つの照度むら補正係数を連続的に変化・補間して補正するものであり、これにより更にスムーズな画像を得ることができる。
【0025】
【発明の実施の形態】
以下では本発明の典型的な実施形態について説明する。
【0026】
図1は、本発明に係る画像処理装置を含む合成画像作成装置11の電気的構成を示すブロック図である。合成画像作成装置11は、カメラで撮影した画像データの取り込み装置12、画像処理装置16、表示装置17を含む。画像処理装置16は、メモリ13、外部記憶装置14、中央演算処理回路15を含む。画像データ取り込み装置12でカメラから取り込んだ画像データは一度外部記憶装置14に保存される。これらの画像データを入力画像データ列と以下呼ぶ。この入力画像データ列は、中央演算処理回路15により順次取り出されながら処理を受け、再び外部記憶装置14に保存される。ここで中央演算処理回路15が処理を行うときにメモリ13に一時的にデータを保存する処理をする。
【0027】
図2は、本発明に係る画像処理装置16の画像処理動作を説明するための機能的ブロック図である。機能的ブロック図では単一のブロックが中央演算処理回路15の動作プログラムのサブルーチンを表す。中央演算処理回路15が動作プログラムを実行した場合、まず中央演算処理回路15は画像移動量算出手段21として動作し、入力画像データ列各画像の相互の対応関係を調べて画像移動量を算出する。次いで中央演算処理回路9は照度むら補正手段として動作し、画像移動量算出手段21が算出した画像移動量に基づいて照度むらの補正係数を算出する。次いで中央演算処理回路9は合成手段23として動作し、画像移動量を参照して照度むら補正後の画像を合成する。この画像が出力画像として外部記憶装置14に保存される。
【0028】
図3は、本発明のモザイキング処理における撮影状態を説明する図である。図3における領域31が一つの画像として撮影され、同様に領域32が一つ画像として撮影され、さらに領域33が一つ画像として撮影される。境界線41から境界線42が領域31の画像の範囲となり、境界線43から境界線44が領域32の画像の範囲となり、境界線45から境界線46が領域33の画像の範囲となる。図4は、図3における各画像の輝度分布状態を説明するための図である。図4では、輝度分布51は領域31を撮影した画像の輝度分布であり、輝度分布52は領域32を撮影した画像の輝度分布であり、輝度分布53は領域33を撮影した画像の輝度分布である。
【0029】
輝度分布グラフ51に対応する輝度分布を画像面上の座標値の関数として表してC1(x、y)、とする。同様に輝度分布52の輝度分布をC2(x、y)、輝度分布53の輝度分布をC3(x、y)とする。ここでx、yは画像面での座標値である。以下ではモノクロ画像の場合を説明する。カラーの場合にはR(赤),G(緑),B(青)の色成分ごとに別々に照度むら補正係数を計算する方法や、R、G、B系をX、Y、Z系に変換した上で、輝度成分に対応するYについて照度むら補正係数を求めてその照度むら補正係数をR、G,Bのすべてに適用すれば同様に適用可能である。
【0030】
図5は、本発明の実施例における照度むら補正処理全体をまとめた図である。まず、ステップ61では元画像の微分画像を計算する。次にステップ62でオプティカルフローを粗く計算するためにマッチング法でのオプティカルフロー計算をする。次にステップ63でオプティカルフローをさらに精密に計算するために、マッチング法の結果を出発点としてグラディエント法を用いることによりオプティカルフローを計算する。
【0031】
次にステップ64ではステップ62とステップ63の結果を組み合わせて最終的なオプティカルフローを計算する。次にステップ65では照度むら補正係数を画像面の上の座標値x、yの多項式(二次式)の形に展開して、多項式の係数を未知数として設定する。次にステップ66ではステップ65で未知数として設定した多項式係数の値を計算する。このとき重なり領域(図4の34)では照度むら補正後の輝度が二つの輝度分布51と輝度分布52で一致するように決める。
【0032】
以上のようにして二つの画像間での照度むら補正係数を計算する。この処理は図4における輝度分布51と輝度分布52の間で行われるとともに、輝度分布52と輝度分布53の間でも行われる。輝度分布52と輝度分布53の間での照度むら補正係数の計算が終了するとステップ67に進み、ここでは、輝度分布51と輝度分布52の間での照度むら補正係数と、輝度分布52と輝度分布53の間での照度むら補正係数を、境界線43からの距離に応じて重み付けを変えながら補間することによって、各ピクセルでの照度むら補正係数を計算する。
【0033】
次にステップ68ではステップ67で計算した各ピクセルでの照度むら補正係数で補正しながら領域32の画像を貼り付けていく。以下では図5の各ステップを詳細に説明していく。
【0034】
ステップ61:C1(x、y)とC2(x、y)の微分画像を計算して画像の輝度変化程度を計算する。微分画像を計算するためには画像データに微分フィルターを作用させる。微分フィルターとしては、Sobel、Prewitt、Roberts、Kirsh、Robinsonなどの微分フィルターを使うことができる。本実施例では以下の微分フィルターを画像データに適用する。
【0035】
【数1】
【0036】
上のフィルターの場合には前後左右に隣り合ったピクセルの輝度データとの間で差を取ることに対応する。画像面座標(x、y)における微分画像輝度値をdC1(x、y)とすると、上のフィルターは次の式で表すことができる。
【0037】
【数2】
【0038】
となる。ただし画面の端の部分(x±1 あるいは y±1 がない場所)では若干変更する。同じ計算をC2についても行い、dC2(x、y)を計算する。
【0039】
ステップ62:次にマッチング法によるオプティカルフローの推定値を計算するために、画像全体を一定の大きさの区画(以下ブロックと呼ぶ)に分けて、その中からマッチング対象となるブロックを選び出す。例えば、16ピクセルx16ピクセルの区画を考えてこれをブロックとする。図6は、領域31での微分画像dC1(x、y)をブロックに分割し、マッチング対象ブロック70を選び出した状態を示す図である。マッチング対象ブロックを選び出す方法は次のようにする。
【0040】
これらの各ブロックについて微分画像値の大きさを評価する。これはなるべく輝度変化の著しい特徴的なパターンを持つ領域をマッチングの対象とすることによりマッチング精度を高めるためである。このために各ブロックについて、ブロック内の各ピクセルにおける微分画像輝度値dC1(x、y)の2乗和を計算する。この計算結果をdC1*2と表すと次のような式で表すことができる(^はべき乗を表す)。
【0041】
【数3】
【0042】
上式ではブロック内のピクセルについての和をΣ(ブロック内)と表している。ここで、大きな輝度変化を相対的に強調して小さな輝度変化を相対的に無視するために、微分画像値の4乗和を計算する方法を使うこともできる。
【0043】
このようにして各ブロックについてdC1*2を計算し、それらの中で最も大きいdC1*2値を持つブロックを選び、このブロックをパターンマッチングの対象パターンとする。図6では斜線を引いたブロック70がマッチング対象パターンとして選ばれている。
【0044】
次に、マッチング対象パターン70と領域32の画像dC2(x、y)を重ねて相関係数を計算する。図7は、領域32の微分画像dC2(x、y)にマッチング対象パターン70を重ねて相関係数を計算するときの状態を示す図である。このときブロックの位置を元の位置から73=(dxw、dyw)だけ移動させた位置でdC2(x、y)と重ねて相関を求める。このとき相関値は以下の式で計算する。
【0045】
【数4】
【0046】
ここで移動量(dxw、dyw)のdxw、dywを全画面に渡って1ずつ変化させながら相関値を求める。そして相関値が最小となる移動量(dxw、dyw)を求める。これがマッチング法でのオプティカルフロー推定値となる。このようにして求めたオプティカルフロー推定値を以下ではdx、dyとする。
【0047】
ステップ63:次にステップ62で得たオプティカルフロー推定値の精度をさらに高めるために、サブピクセル単位の微小なずれに対してどのように画像が変化するかを予測する方法を用いてオプティカルフローを計算するグラディエント法を適用する。
【0048】
この方法では輝度の空間的な変化率から予測される輝度変化が、実際の輝度変化に対応するように空間変化量を計算し、それをオプティカルフローの推定値とする。即ち、或る点での輝度Iの空間微分が(∂I/∂x、∂I/∂y)であるとき、Δx、Δyだけそこから離れた点における輝度変化量ΔIは次式で与えられると推定する。
【0049】
【数5】
【0050】
このようにして得た輝度の変化量ΔIが画像間での輝度変化と一致するようにΔx、Δyを決めるというのがこの方法である。
本実施例の場合にはステップ62で得たdC1(x+dx、y+dy)とdC2(x、y)との間での輝度変化を比較する。すると以下の式からΔxとΔyが推定される。
【0051】
【数6】
【0052】
ここで画像全体が一定量だけずれているとするならば、すべてのピクセルに対してΔxとΔy は同じ量になる。したがって二つの未知数ΔxとΔy に対してピクセルの数だけの方程式が存在することになる。これらの過剰な方程式を取り込むために最小二乗法により未知数ΔxとΔy を決める。即ち、以下の費用関数を定義して、
【0053】
【数7】
【0054】
これが最小になるようにΔxとΔyを決める。この方法によれば多数のデータを統計的に処理していることになるため、本来の単位であるピクセル以下の精度で運動量を決定することができる。ステップ62とステップ63を総合することによって画像C1(x、y)と画像C2(x、y)の間のオプティカルフローが(dx+Δx、dy+Δy)と計算される。このとき以下の式が成り立つ。
【0055】
【数8】
【0056】
(dx+Δx、dy+Δy)を(−Dx、−Dy)とすると、上の式は以下のようになる。
【0057】
【数9】
【0058】
これをC1(x、y)を中心に書き直して以下のように書くこともできる。
【0059】
【数10】
【0060】
即ち、C1(x、y)において(x、y)であった点は、C2(x、y)では(x+Dx,y+Dy)に移動している。以下ではこの書き方を使う。
ステップ64:次に照度むら補正のステップに進む。このために照度むら補正関数の形を仮定し、いくつかのパラメータを用いた関数形によって表現する。照度
むらの効果は
【課題を解決するための手段】でも述べたように画像上の座標で決まっていると考えられる。そこで画像面内の照度分布L(x,y)がスムーズな関数であると仮定する。このとき照度分布を均一にするための補正関数H(x,y)もスムーズな関数になる。ここでH(x,y)とL(x,y)の関係は次の式で与えられる。
【0061】
【数11】
【0062】
ここで照度分布の関数を物理的に決める。図8は、本実施例における照明の位置と撮影対象の位置との関係を示す図である。80は照明の位置を示し、81が撮影対象点の位置である。81の座標を(x、y)とする。照明と撮影平面との距離82をh、照明の真正面に当たる場所83と撮影対象点との距離84をdとする。このとき撮影対象点81と照明80との距離rは次式で与えられる。
【0063】
【数12】
【0064】
一般に照度は光源からの距離の二乗に反比例するとされている。したがって、撮影対象点81での照度L(x,y)は、L0を或る定数として次式で与えられる。
【0065】
【数13】
【0066】
これから補正関数H(x,y)は次式のようになる。
【0067】
【数14】
【0068】
これを一般化して、補正関数はx、yの二次関数を第一近似として採用することができる。一般にx、y座標に関するより高次の多項式関数を補正関数に用いることにより、補正の精度を順次上げて行けば、必要な精度に合わせて補正をすることができて、実用上有効である。以下の説明では二次関数を仮定する。このとき、補正関数を以下のように6個のパラメータ(a、b、c、d、e、f)を用いて表現することができる。
【0069】
【数15】
【0070】
ステップ65:次に画像C1(x、y)とC2(x、y)で対応する点(物理的に同じ点)は同じ輝度になるように照度むら補正係数を決める。C1(x、y)とC2(x、y)において対応する点はオプティカルフローを用いて知ることができる。即ち、C1(x、y)において(x、y)であった点は、C2(x、y)では(x+Dx,y+Dy)に移動している。そこで、照度むら補正係数をH1(x,y)と書いたとき、C1(x、y)に照度むら補正を施すと
【0071】
【数16】
【0072】
になる。一方C2(x+Dx,y+Dy)に照度むら補正を施すと、
【0073】
【数17】
【0074】
になる。これら二つの点は本来同じ点であり同じ輝度であるので次式が成り立つ。
【0075】
【数18】
【0076】
ここでH1(x、y)6個のパラメータ(a、b、c、d、e、f)で表されているから未知数が6個である。これに対して上の方程式はピクセルの数だけある。そこでステップ63と同じように,最小二乗法によって次の費用関数を最小化するように6個のパラメータ(a、b、c、d、e、f)を求める。
【0077】
【数19】
【0078】
ここで画像C1(x、y)と画像C2(x、y)が重なっている領域(図3の34)内のピクセルに関する和をΣ(重なり領域)と表現した。
しかしこれだけでは(a、b、c、d、e、f)が求められない。なぜならば、もし式(a)を満足するH(x、y)が求まったとすると、それを定数倍したk*H1(x、y)もやはり式(a)を満足するから、結局式(a)だけでは一意に(a、b、c、d、e、f)を決めることができないからである。このためにもう一つ条件式を追加する。それは上で述べた不定係数kを決めるためのもので、照度むら補正後の輝度の画面平均が照度むら補正前と変わらないという条件である。これを数式で表現すると次式のようになる。
【0079】
【数20】
【0080】
以上をまとめると、式(B)の制限条件の下で式(A)を満足するように(a、b、c、d、e、f)を定めればよい。制限条件付の最大値・最小値問題は、ラグランジュ(Lagrange)の未定係数法により解くことができることが解析学で知られている。
ステップ66:次にステップ65で決まった照度むら補正関数H1(x、y)を用いてC1(x、y)とC2(x、y)の輝度補正を行う。輝度補正後のC1(x、y)、C2(x、y)をcC2(x、y)、cC2(x、y)と書くと次式のようになる。
【0081】
【数21】
【0082】
図9は、照度むら補正を行った状態を示す図である。領域31での画像と領域32での画像の間の照度むら補正係数90を領域31での画像の輝度分布51に適用すると、照度むらが補正されて輝度分布94が得られる。領域31での画像と領域32での画像の間の照度むら補正係数91を領域32での画像の輝度分布52に適用すると、照度むらが補正されて輝度分布95が得られる。両者は境界43において一致していて、不連続的な輝度の変化がない。
【0083】
以上のプロセスにより図3で領域31での画像と領域32での画像の間のモザイキングと照度むら補正ができる。そして同じことを図3の領域32と領域33との間でも行うことにより、領域32での画像と領域33での画像の間の照度むら補正係数H2(x、y)を計算することができる。この状態を図9に示した。領域32での画像と領域33での画像の間の照度むら補正係数92を領域32での画像の輝度分布52に適用すると、照度むらが補正されて輝度分布96が得られる。領域31での画像と領域32での画像の間の照度むら補正係数93を領域33での画像の輝度分布53に適用すると、照度むらが補正されて輝度分布97が得られる。両者は境界45において一致していて、不連続的な輝度の変化がない。
【0084】
ところが、一般には領域31と領域32の画像間で計算した照度むら補正係数と領域32と領域33の画像間で計算した照度むら補正係数は異なる。このために、領域31と領域32の画像間で計算した照度むら補正係数を領域32での画像に使うと、境界線45での不連続的な輝度変化99が発生する。一方、領域32と領域33の画像間で計算した照度むら補正係数を領域32での画像に使うと、境界線43での不連続的な輝度変化98が発生する。
【0085】
この問題を解決するために、照度むら補正係数の値を領域32での画像の中で連続的に変化させる方法を使う。図10は、領域32の画像面内での照度むら補正係数を補間した状態を示す図である。領域32での画像において、境界43では領域31と領域32の画像間で計算した照度むら補正係数を使い、境界45では領域32と領域33の画像間で計算した照度むら補正係数を使う。その間は100のように連続的に照度むら補正係数が変わるようにする。
【0086】
この方法を、数式を用いて表現すると次のようになる。領域31と領域32の画像間で計算した照度むら補正係数をH1(x、y)とし、領域32と領域33の画像間で計算した照度むら補正係数をH2(x、y)とする。境界43の、領域32での画像上のx座標をx1,境界45の領域32での画像上のx座標をx2とするとき、座標値がxの場所での補正係数として以下の係数を使う。
【0087】
【数22】
【0088】
この方法により境界43においても境界45においても不連続的な輝度変化をなくすことができる。この手順の場合には、領域32と領域33の画像間で計算した照度むら補正係数が求まった段階で、領域32での画像を照度むら補正しながらパノラマ画像に貼り付けることになる。
【0089】
【発明の効果】
本発明によれば、画像面内の照度分布により発生するモザイキング画像内の不連続的な輝度変化を除去し、自然なパノラマ画像を得ることができる。しかも照度むら効果のみを抽出して本来の画像輝度を復元しているため、周波数フィルタリングのように本来の画像を壊してしまうことがない。また、画像面内の照度分布を考えているので場所毎の細かい補正が可能となり、不連続的な輝度変化の除去能力が高い。したがって極めて有効な方法である。
【図面の簡単な説明】
【図1】本発明の画像処理装置を含む合成画像作成装置の構成を示すブロック図である。
【図2】本発明に係る画像処理装置の画像処理動作を説明するための機能的ブロック図である。
【図3】本発明のモザイキング処理における撮影状態を説明する図である。
【図4】図3における各画像の輝度分布状態を説明するための図である。
【図5】本発明に係る画像処理方法を説明するためのフローチャートである。
【図6】領域31での微分画像dC1(x、y)をブロックに分割し、マッチング対象パターン70を選び出した状態を示す図である。
【図7】領域32の微分画像dC2(x、y)にマッチング対象パターン70を重ねて相関係数を計算するときの状態を示す図である。
【図8】本実施例における照明の位置と撮影対象の位置との関係を示す図である。
【図9】照度むら補正を行った状態を示す図である。
【図10】領域32の画像面内での照度むら補正係数を補間した状態を示す図である。
【図11】従来のモザイキング処理における撮影状態を説明する図である。
【図12】照度むらがあるときの図11における各画像の輝度分布状態を説明するための図である。
【図13】従来の方法により図12の画像をモザイキングしたときの結果を示す図である。
【符号の説明】
11 合成画像作成装置
12 画像データ取り込み装置
13 メモリ
14 外部記憶装置
15 中央演算処理回路
16 画像処理装置
17 表示装置
51,52,53 画像列における各画像の輝度分布
90,91,92,93 画像列における各画像の照度むら補正係数の計算値
94,95,96,97 照度むら補正係数で画像列における画像の照度むらを補正した結果の画像の輝度分布
【発明の属する技術分野】
本発明は、ビデオカメラによって取り込んだ連続画像や複数の静止画像をつなぎ合わせて一つのパノラマ画像として画像を合成処理する画像処理方法、及びこの画像処理方法を用いた画像処理装置に関する。
【0002】
【従来の技術】
デジタルビデオの普及とパーソナルコンピュータの高性能化に伴って、かつては不可能であったデジタル画像データの大量保存や大量処理が可能になってきた。これに伴い、デジタル画像データを処理する新しい方法が行われるようになってきた。その一つとして、移動しながら撮影したビデオ画像や、同じ領域を場所や角度を変えて撮影した複数枚の静止画をつなぎ合わせて一つの合成画像(パノラマ画像)を生成する技術がある。これをモザイキングと呼ぶこともある。
【0003】
この技術はトンネルや壁のひび割れなどの検査を行う場合に有効に使われている。画像処理装置においてこのモザイキング処理を行うときには、まず各画像が相互に重なる重複領域を求め、次にこの重複領域を「のりしろ」として画像を貼り付けるという処理を行っている。
【0004】
このような画像合成を行う場合、画像毎の照明状態の変化などによって、合成画像の画素の輝度が画像のつなぎ目に相当する部分で急激に変化し、そのために合成画像内に濃淡および色調の境目ができることがある。
【0005】
図11は従来のモザイキング処理における撮影状態を説明する図である。図11における領域101が一つの画像として撮影され、同様に領域102が一つ画像として撮影され、さらに領域103が一つ画像として撮影されたとする。境界線111から境界線112が領域101の画像の範囲となり、境界線113から境界線114が領域102の画像の範囲となり、境界線115から境界線116が領域103の画像の範囲となる。図12は照度むらがあるときの図11における各画像の輝度分布状態を説明するための図である。
【0006】
図12では、領域101を撮影した画像の輝度分布121に示したが、このような分布になる理由は、人工照明されている場合には、中央が明るくて端が暗くなるためである。同じ理由によって領域102、領域103を撮影した画像における輝度分布122、123においても同じような輝度分布が発生する。このとき重なり領域104を「のりしろ」として二つの領域101と102の画像を貼り付ける。ここで、領域101の画像の中で図12の111から113の部分を切り取り、この切り取った画像を領域102の画像の左に貼り付ける。次に領域102の画像から図12の113から115の領域を切り取って、領域103の画像の左に貼り付ける。
【0007】
図13はこのような従来の方法により図12の画像をモザイキングしたときの結果を示す図である。ここで説明したような画面の貼り付けを行うと、図13の境界線113と境界線115で輝度の不連続的な「飛び」131と132がここで発生し、パノラマ画像に不自然な線として見える。
【0008】
この問題を解決するための一つの方法として、異なる画像間において重なっている領域を何らかの方法で検出し、そこでの輝度の違いを用いて照度むら効果を補正しようとする方法がある。即ち、重なっている領域は本来同じ場所であるから輝度は同じはずであるが、照度むら効果により画像に輝度が異なっている。そこでその領域での輝度を比較して同じになるように補正すればよいというのが基本的な考え方である。
【0009】
このような考え方に基づく方法として、ヒストグラム法・線形濃度変換法・平均濃度差補正法などがある。ヒストグラム法と線形濃度変換法では画像全体の輝度補正はできるが、場所に応じた細かい輝度補正ができないという欠点がある。
【0010】
人間の目は不連続的な変化には非常に敏感であるため、これらの方法では目立たない程度にまで輝度の不連続さをなくしてしまうことが難しい。一方、平均濃度差補正法では場所に応じた細かい補正が可能となるものの、重なっていない領域を含めた画像全体の補正はできないという欠点がある(例えば、非特許文献1参照)。
【0011】
また別の種類の考え方として、画像の輝度データに平滑化フィルターを掛けて照度の画像内分布をカットするという方法もある(例えば、非特許文献2参照)。しかしこの方法では照度むらを検出しているのではないため、照度むら以外に元々の画像が持っていた情報までカットしている可能性がある。実際このような処理をモザイキング画像に対して行うことにより画像がぼけてしまったり、全体に白っぽくなったり黒っぽくなったりといった画像の劣化現象が発生していた。画像合成時の照度むら補正に関する従来技術としては、照明装置が固定されている場合に、照明からの位置により輝度が変化することを補正するための技術がある(例えば、特許文献1参照)。しかしこの技術は本発明が想定しているような照明装置が撮影装置ともに移動している状態には使えない。
【0012】
また画像合成時の照度むら補正に関する別の従来技術としてスキャナなどで画像を取り込むときに、照明装置の揺らぎなどによって輝度が変化することを補正しようとするものがある(例えば、特許文献3参照。)。しかしそこでの補正手段は、基本的に画像全体の輝度平均の違いを補正しようとするものであり、本発明が考えているような場所ごとの細かい補正を考えたものではない。
【0013】
また以上のような処理を行う場合に、画像列の間の画像移動量(オプティカルフローと通常呼ぶ)を画像パターンから計算するための方法として、マッチング法とグラディエント法が使われてきた(例えば、非特許文献3参照)。しかしマッチング法では画像データの量子化単位(ピクセル)までの計算精度しか出ないという問題があり、グラディエント法では大きな移動量は安定に計算できないという問題も付帯的問題としてあった。
【0014】
【特許文献1】
特許第3233601号公報
【0015】
【特許文献2】
特開平11−164133号公報
【0016】
【非特許文献1】
高木幹雄、下田陽久監修「画像解析ハンドブック」東京大学出版会 1991年1月、p.463〜465 および p.478〜479
【0017】
【非特許文献2】
Planetron,Incホームページ、Image−Pro Plusスタートアップマニュアル、[online]、2002年5月15日、[平成14年9月5日検索]、インターネット <URL:http://www.planetron.co.jp/dl_docs.htm>第五章<URL:http://www.planetron.co.jp/pdf/V4−St05.pdf>第5−6頁
【0018】
【非特許文献3】
三池秀敏 他 著、「パソコンによる動画像処理」森北出版株式会社 1993年7月、p.135〜178 および p.241〜244
【0019】
【発明が解決しようとする課題】
本発明は、上記のようなモザイキング時に発生する輝度の不連続な変化を人間の目には目立たない程度にまで精密に補正できて、しかも元の画像を劣化させることのない画像処理方法及びこの画像処理方法を用いた画像処理装置を提供することを目的としている。
【0020】
【課題を解決するための手段】
本発明に係る画像処理方法は、例えば、画面の中央は明るく、画面の端は暗いというように、人工照明による照度分布は画像内の位置によってほぼ決まっていることに注目してなされたものであり、平均的な輝度変化を求めるのではなく、この画面内照度分布を画像面内座標値の関数として求めることを基本とするものである。
【0021】
そのために画像面内座標値のべき乗関数の線形結合関数(多項式関数)を補正関数として構成し、その線形結合係数を最小二乗法により計算することによって、平均的な方法では除去できなかった場所ごとの細かい補正が比較的簡単な計算により可能となり、接合面における輝度の不連続性をかなり低減できる。また補正係数が座標値の関数として得られるので補正係数を画面全体にわたって計算することもできるので、重なった領域だけしか補正できないという欠点もない。さらに画像の照度分布を計算した上で照度むらの補正をしているので、照度むら以外の要因をカットしてしまうこともないため、画像の劣化も防ぐことができる。
【0022】
また本発明に関わる画像処理方法は、撮影された画像を直接使うのではなく、その微分画像を使うものである。このように微分画像を使うと画像パターンのエッジが強調される。つまり、画像の中で特徴的なパターンに注目してオプティカルフローを算出することによってオプティカルフローの推定を安定に行うことができる。
【0023】
また本発明に関わる画像処理方法では、従来から行われてきた二つのオプティカルフローの算出方法(マッチング法とグラディエント法)を組み合わせて、粗い算出と細かい算出の二段階で行うことにより、オプティカルフローの算出精度と安定性を高めている。
【0024】
また本発明に関わる画像処理方法は、一つの貼り付け画像が持つ左右の境界線(図11での113と115)での照度むら補正関数をそれぞれ計算し、画像の位置に応じてそれら二つの照度むら補正係数を連続的に変化・補間して補正するものであり、これにより更にスムーズな画像を得ることができる。
【0025】
【発明の実施の形態】
以下では本発明の典型的な実施形態について説明する。
【0026】
図1は、本発明に係る画像処理装置を含む合成画像作成装置11の電気的構成を示すブロック図である。合成画像作成装置11は、カメラで撮影した画像データの取り込み装置12、画像処理装置16、表示装置17を含む。画像処理装置16は、メモリ13、外部記憶装置14、中央演算処理回路15を含む。画像データ取り込み装置12でカメラから取り込んだ画像データは一度外部記憶装置14に保存される。これらの画像データを入力画像データ列と以下呼ぶ。この入力画像データ列は、中央演算処理回路15により順次取り出されながら処理を受け、再び外部記憶装置14に保存される。ここで中央演算処理回路15が処理を行うときにメモリ13に一時的にデータを保存する処理をする。
【0027】
図2は、本発明に係る画像処理装置16の画像処理動作を説明するための機能的ブロック図である。機能的ブロック図では単一のブロックが中央演算処理回路15の動作プログラムのサブルーチンを表す。中央演算処理回路15が動作プログラムを実行した場合、まず中央演算処理回路15は画像移動量算出手段21として動作し、入力画像データ列各画像の相互の対応関係を調べて画像移動量を算出する。次いで中央演算処理回路9は照度むら補正手段として動作し、画像移動量算出手段21が算出した画像移動量に基づいて照度むらの補正係数を算出する。次いで中央演算処理回路9は合成手段23として動作し、画像移動量を参照して照度むら補正後の画像を合成する。この画像が出力画像として外部記憶装置14に保存される。
【0028】
図3は、本発明のモザイキング処理における撮影状態を説明する図である。図3における領域31が一つの画像として撮影され、同様に領域32が一つ画像として撮影され、さらに領域33が一つ画像として撮影される。境界線41から境界線42が領域31の画像の範囲となり、境界線43から境界線44が領域32の画像の範囲となり、境界線45から境界線46が領域33の画像の範囲となる。図4は、図3における各画像の輝度分布状態を説明するための図である。図4では、輝度分布51は領域31を撮影した画像の輝度分布であり、輝度分布52は領域32を撮影した画像の輝度分布であり、輝度分布53は領域33を撮影した画像の輝度分布である。
【0029】
輝度分布グラフ51に対応する輝度分布を画像面上の座標値の関数として表してC1(x、y)、とする。同様に輝度分布52の輝度分布をC2(x、y)、輝度分布53の輝度分布をC3(x、y)とする。ここでx、yは画像面での座標値である。以下ではモノクロ画像の場合を説明する。カラーの場合にはR(赤),G(緑),B(青)の色成分ごとに別々に照度むら補正係数を計算する方法や、R、G、B系をX、Y、Z系に変換した上で、輝度成分に対応するYについて照度むら補正係数を求めてその照度むら補正係数をR、G,Bのすべてに適用すれば同様に適用可能である。
【0030】
図5は、本発明の実施例における照度むら補正処理全体をまとめた図である。まず、ステップ61では元画像の微分画像を計算する。次にステップ62でオプティカルフローを粗く計算するためにマッチング法でのオプティカルフロー計算をする。次にステップ63でオプティカルフローをさらに精密に計算するために、マッチング法の結果を出発点としてグラディエント法を用いることによりオプティカルフローを計算する。
【0031】
次にステップ64ではステップ62とステップ63の結果を組み合わせて最終的なオプティカルフローを計算する。次にステップ65では照度むら補正係数を画像面の上の座標値x、yの多項式(二次式)の形に展開して、多項式の係数を未知数として設定する。次にステップ66ではステップ65で未知数として設定した多項式係数の値を計算する。このとき重なり領域(図4の34)では照度むら補正後の輝度が二つの輝度分布51と輝度分布52で一致するように決める。
【0032】
以上のようにして二つの画像間での照度むら補正係数を計算する。この処理は図4における輝度分布51と輝度分布52の間で行われるとともに、輝度分布52と輝度分布53の間でも行われる。輝度分布52と輝度分布53の間での照度むら補正係数の計算が終了するとステップ67に進み、ここでは、輝度分布51と輝度分布52の間での照度むら補正係数と、輝度分布52と輝度分布53の間での照度むら補正係数を、境界線43からの距離に応じて重み付けを変えながら補間することによって、各ピクセルでの照度むら補正係数を計算する。
【0033】
次にステップ68ではステップ67で計算した各ピクセルでの照度むら補正係数で補正しながら領域32の画像を貼り付けていく。以下では図5の各ステップを詳細に説明していく。
【0034】
ステップ61:C1(x、y)とC2(x、y)の微分画像を計算して画像の輝度変化程度を計算する。微分画像を計算するためには画像データに微分フィルターを作用させる。微分フィルターとしては、Sobel、Prewitt、Roberts、Kirsh、Robinsonなどの微分フィルターを使うことができる。本実施例では以下の微分フィルターを画像データに適用する。
【0035】
【数1】
【0036】
上のフィルターの場合には前後左右に隣り合ったピクセルの輝度データとの間で差を取ることに対応する。画像面座標(x、y)における微分画像輝度値をdC1(x、y)とすると、上のフィルターは次の式で表すことができる。
【0037】
【数2】
【0038】
となる。ただし画面の端の部分(x±1 あるいは y±1 がない場所)では若干変更する。同じ計算をC2についても行い、dC2(x、y)を計算する。
【0039】
ステップ62:次にマッチング法によるオプティカルフローの推定値を計算するために、画像全体を一定の大きさの区画(以下ブロックと呼ぶ)に分けて、その中からマッチング対象となるブロックを選び出す。例えば、16ピクセルx16ピクセルの区画を考えてこれをブロックとする。図6は、領域31での微分画像dC1(x、y)をブロックに分割し、マッチング対象ブロック70を選び出した状態を示す図である。マッチング対象ブロックを選び出す方法は次のようにする。
【0040】
これらの各ブロックについて微分画像値の大きさを評価する。これはなるべく輝度変化の著しい特徴的なパターンを持つ領域をマッチングの対象とすることによりマッチング精度を高めるためである。このために各ブロックについて、ブロック内の各ピクセルにおける微分画像輝度値dC1(x、y)の2乗和を計算する。この計算結果をdC1*2と表すと次のような式で表すことができる(^はべき乗を表す)。
【0041】
【数3】
【0042】
上式ではブロック内のピクセルについての和をΣ(ブロック内)と表している。ここで、大きな輝度変化を相対的に強調して小さな輝度変化を相対的に無視するために、微分画像値の4乗和を計算する方法を使うこともできる。
【0043】
このようにして各ブロックについてdC1*2を計算し、それらの中で最も大きいdC1*2値を持つブロックを選び、このブロックをパターンマッチングの対象パターンとする。図6では斜線を引いたブロック70がマッチング対象パターンとして選ばれている。
【0044】
次に、マッチング対象パターン70と領域32の画像dC2(x、y)を重ねて相関係数を計算する。図7は、領域32の微分画像dC2(x、y)にマッチング対象パターン70を重ねて相関係数を計算するときの状態を示す図である。このときブロックの位置を元の位置から73=(dxw、dyw)だけ移動させた位置でdC2(x、y)と重ねて相関を求める。このとき相関値は以下の式で計算する。
【0045】
【数4】
【0046】
ここで移動量(dxw、dyw)のdxw、dywを全画面に渡って1ずつ変化させながら相関値を求める。そして相関値が最小となる移動量(dxw、dyw)を求める。これがマッチング法でのオプティカルフロー推定値となる。このようにして求めたオプティカルフロー推定値を以下ではdx、dyとする。
【0047】
ステップ63:次にステップ62で得たオプティカルフロー推定値の精度をさらに高めるために、サブピクセル単位の微小なずれに対してどのように画像が変化するかを予測する方法を用いてオプティカルフローを計算するグラディエント法を適用する。
【0048】
この方法では輝度の空間的な変化率から予測される輝度変化が、実際の輝度変化に対応するように空間変化量を計算し、それをオプティカルフローの推定値とする。即ち、或る点での輝度Iの空間微分が(∂I/∂x、∂I/∂y)であるとき、Δx、Δyだけそこから離れた点における輝度変化量ΔIは次式で与えられると推定する。
【0049】
【数5】
【0050】
このようにして得た輝度の変化量ΔIが画像間での輝度変化と一致するようにΔx、Δyを決めるというのがこの方法である。
本実施例の場合にはステップ62で得たdC1(x+dx、y+dy)とdC2(x、y)との間での輝度変化を比較する。すると以下の式からΔxとΔyが推定される。
【0051】
【数6】
【0052】
ここで画像全体が一定量だけずれているとするならば、すべてのピクセルに対してΔxとΔy は同じ量になる。したがって二つの未知数ΔxとΔy に対してピクセルの数だけの方程式が存在することになる。これらの過剰な方程式を取り込むために最小二乗法により未知数ΔxとΔy を決める。即ち、以下の費用関数を定義して、
【0053】
【数7】
【0054】
これが最小になるようにΔxとΔyを決める。この方法によれば多数のデータを統計的に処理していることになるため、本来の単位であるピクセル以下の精度で運動量を決定することができる。ステップ62とステップ63を総合することによって画像C1(x、y)と画像C2(x、y)の間のオプティカルフローが(dx+Δx、dy+Δy)と計算される。このとき以下の式が成り立つ。
【0055】
【数8】
【0056】
(dx+Δx、dy+Δy)を(−Dx、−Dy)とすると、上の式は以下のようになる。
【0057】
【数9】
【0058】
これをC1(x、y)を中心に書き直して以下のように書くこともできる。
【0059】
【数10】
【0060】
即ち、C1(x、y)において(x、y)であった点は、C2(x、y)では(x+Dx,y+Dy)に移動している。以下ではこの書き方を使う。
ステップ64:次に照度むら補正のステップに進む。このために照度むら補正関数の形を仮定し、いくつかのパラメータを用いた関数形によって表現する。照度
むらの効果は
【課題を解決するための手段】でも述べたように画像上の座標で決まっていると考えられる。そこで画像面内の照度分布L(x,y)がスムーズな関数であると仮定する。このとき照度分布を均一にするための補正関数H(x,y)もスムーズな関数になる。ここでH(x,y)とL(x,y)の関係は次の式で与えられる。
【0061】
【数11】
【0062】
ここで照度分布の関数を物理的に決める。図8は、本実施例における照明の位置と撮影対象の位置との関係を示す図である。80は照明の位置を示し、81が撮影対象点の位置である。81の座標を(x、y)とする。照明と撮影平面との距離82をh、照明の真正面に当たる場所83と撮影対象点との距離84をdとする。このとき撮影対象点81と照明80との距離rは次式で与えられる。
【0063】
【数12】
【0064】
一般に照度は光源からの距離の二乗に反比例するとされている。したがって、撮影対象点81での照度L(x,y)は、L0を或る定数として次式で与えられる。
【0065】
【数13】
【0066】
これから補正関数H(x,y)は次式のようになる。
【0067】
【数14】
【0068】
これを一般化して、補正関数はx、yの二次関数を第一近似として採用することができる。一般にx、y座標に関するより高次の多項式関数を補正関数に用いることにより、補正の精度を順次上げて行けば、必要な精度に合わせて補正をすることができて、実用上有効である。以下の説明では二次関数を仮定する。このとき、補正関数を以下のように6個のパラメータ(a、b、c、d、e、f)を用いて表現することができる。
【0069】
【数15】
【0070】
ステップ65:次に画像C1(x、y)とC2(x、y)で対応する点(物理的に同じ点)は同じ輝度になるように照度むら補正係数を決める。C1(x、y)とC2(x、y)において対応する点はオプティカルフローを用いて知ることができる。即ち、C1(x、y)において(x、y)であった点は、C2(x、y)では(x+Dx,y+Dy)に移動している。そこで、照度むら補正係数をH1(x,y)と書いたとき、C1(x、y)に照度むら補正を施すと
【0071】
【数16】
【0072】
になる。一方C2(x+Dx,y+Dy)に照度むら補正を施すと、
【0073】
【数17】
【0074】
になる。これら二つの点は本来同じ点であり同じ輝度であるので次式が成り立つ。
【0075】
【数18】
【0076】
ここでH1(x、y)6個のパラメータ(a、b、c、d、e、f)で表されているから未知数が6個である。これに対して上の方程式はピクセルの数だけある。そこでステップ63と同じように,最小二乗法によって次の費用関数を最小化するように6個のパラメータ(a、b、c、d、e、f)を求める。
【0077】
【数19】
【0078】
ここで画像C1(x、y)と画像C2(x、y)が重なっている領域(図3の34)内のピクセルに関する和をΣ(重なり領域)と表現した。
しかしこれだけでは(a、b、c、d、e、f)が求められない。なぜならば、もし式(a)を満足するH(x、y)が求まったとすると、それを定数倍したk*H1(x、y)もやはり式(a)を満足するから、結局式(a)だけでは一意に(a、b、c、d、e、f)を決めることができないからである。このためにもう一つ条件式を追加する。それは上で述べた不定係数kを決めるためのもので、照度むら補正後の輝度の画面平均が照度むら補正前と変わらないという条件である。これを数式で表現すると次式のようになる。
【0079】
【数20】
【0080】
以上をまとめると、式(B)の制限条件の下で式(A)を満足するように(a、b、c、d、e、f)を定めればよい。制限条件付の最大値・最小値問題は、ラグランジュ(Lagrange)の未定係数法により解くことができることが解析学で知られている。
ステップ66:次にステップ65で決まった照度むら補正関数H1(x、y)を用いてC1(x、y)とC2(x、y)の輝度補正を行う。輝度補正後のC1(x、y)、C2(x、y)をcC2(x、y)、cC2(x、y)と書くと次式のようになる。
【0081】
【数21】
【0082】
図9は、照度むら補正を行った状態を示す図である。領域31での画像と領域32での画像の間の照度むら補正係数90を領域31での画像の輝度分布51に適用すると、照度むらが補正されて輝度分布94が得られる。領域31での画像と領域32での画像の間の照度むら補正係数91を領域32での画像の輝度分布52に適用すると、照度むらが補正されて輝度分布95が得られる。両者は境界43において一致していて、不連続的な輝度の変化がない。
【0083】
以上のプロセスにより図3で領域31での画像と領域32での画像の間のモザイキングと照度むら補正ができる。そして同じことを図3の領域32と領域33との間でも行うことにより、領域32での画像と領域33での画像の間の照度むら補正係数H2(x、y)を計算することができる。この状態を図9に示した。領域32での画像と領域33での画像の間の照度むら補正係数92を領域32での画像の輝度分布52に適用すると、照度むらが補正されて輝度分布96が得られる。領域31での画像と領域32での画像の間の照度むら補正係数93を領域33での画像の輝度分布53に適用すると、照度むらが補正されて輝度分布97が得られる。両者は境界45において一致していて、不連続的な輝度の変化がない。
【0084】
ところが、一般には領域31と領域32の画像間で計算した照度むら補正係数と領域32と領域33の画像間で計算した照度むら補正係数は異なる。このために、領域31と領域32の画像間で計算した照度むら補正係数を領域32での画像に使うと、境界線45での不連続的な輝度変化99が発生する。一方、領域32と領域33の画像間で計算した照度むら補正係数を領域32での画像に使うと、境界線43での不連続的な輝度変化98が発生する。
【0085】
この問題を解決するために、照度むら補正係数の値を領域32での画像の中で連続的に変化させる方法を使う。図10は、領域32の画像面内での照度むら補正係数を補間した状態を示す図である。領域32での画像において、境界43では領域31と領域32の画像間で計算した照度むら補正係数を使い、境界45では領域32と領域33の画像間で計算した照度むら補正係数を使う。その間は100のように連続的に照度むら補正係数が変わるようにする。
【0086】
この方法を、数式を用いて表現すると次のようになる。領域31と領域32の画像間で計算した照度むら補正係数をH1(x、y)とし、領域32と領域33の画像間で計算した照度むら補正係数をH2(x、y)とする。境界43の、領域32での画像上のx座標をx1,境界45の領域32での画像上のx座標をx2とするとき、座標値がxの場所での補正係数として以下の係数を使う。
【0087】
【数22】
【0088】
この方法により境界43においても境界45においても不連続的な輝度変化をなくすことができる。この手順の場合には、領域32と領域33の画像間で計算した照度むら補正係数が求まった段階で、領域32での画像を照度むら補正しながらパノラマ画像に貼り付けることになる。
【0089】
【発明の効果】
本発明によれば、画像面内の照度分布により発生するモザイキング画像内の不連続的な輝度変化を除去し、自然なパノラマ画像を得ることができる。しかも照度むら効果のみを抽出して本来の画像輝度を復元しているため、周波数フィルタリングのように本来の画像を壊してしまうことがない。また、画像面内の照度分布を考えているので場所毎の細かい補正が可能となり、不連続的な輝度変化の除去能力が高い。したがって極めて有効な方法である。
【図面の簡単な説明】
【図1】本発明の画像処理装置を含む合成画像作成装置の構成を示すブロック図である。
【図2】本発明に係る画像処理装置の画像処理動作を説明するための機能的ブロック図である。
【図3】本発明のモザイキング処理における撮影状態を説明する図である。
【図4】図3における各画像の輝度分布状態を説明するための図である。
【図5】本発明に係る画像処理方法を説明するためのフローチャートである。
【図6】領域31での微分画像dC1(x、y)をブロックに分割し、マッチング対象パターン70を選び出した状態を示す図である。
【図7】領域32の微分画像dC2(x、y)にマッチング対象パターン70を重ねて相関係数を計算するときの状態を示す図である。
【図8】本実施例における照明の位置と撮影対象の位置との関係を示す図である。
【図9】照度むら補正を行った状態を示す図である。
【図10】領域32の画像面内での照度むら補正係数を補間した状態を示す図である。
【図11】従来のモザイキング処理における撮影状態を説明する図である。
【図12】照度むらがあるときの図11における各画像の輝度分布状態を説明するための図である。
【図13】従来の方法により図12の画像をモザイキングしたときの結果を示す図である。
【符号の説明】
11 合成画像作成装置
12 画像データ取り込み装置
13 メモリ
14 外部記憶装置
15 中央演算処理回路
16 画像処理装置
17 表示装置
51,52,53 画像列における各画像の輝度分布
90,91,92,93 画像列における各画像の照度むら補正係数の計算値
94,95,96,97 照度むら補正係数で画像列における画像の照度むらを補正した結果の画像の輝度分布
Claims (7)
- 撮影したデジタル画像の一部が重複するように連続的に撮影場所または撮影方向を移動させながら撮影した複数のデジタル画像を連続的につなぎ合わせて一つのパノラマ画像に合成処理する画像処理方法であって、
前記移動させながら撮影した複数のデジタル画像のうち、それぞれの一部が重複する第1のデジタル画像と第2のデジタル画像との画像上の移動量を算出する画像移動量算出ステップと、前記画像移動量算出ステップにおいて求めた前記移動量に基づいて同一地点に対応すると予測される画像点を前記第1の画像と前記第2の画像についてそれぞれ求め、それらの画像点の輝度を用いて前記第1の画像と前記第2の画像との照度の差異を補正するための照度むら補正係数を算出する照度むら補正ステップとからなり、
前記照度むら補正ステップにおける前記照度むら補正係数を求めるときに、照度むら補正係数を画像面上の座標値を変数とする既知関数の線形結合で表現し、前記線形結合での線形結合定数を統計的手法で求めることを特徴とする画像処理方法。 - 前記照度むら補正ステップにおいて、前記既知関数として多項式関数を用いることを特徴とする請求項1記載の画像処理方法。
- 前記照度むら補正ステップにおいて、前記線形結合定数を求める前記統計的手法として最小二乗法を用いることを特徴とする請求項1記載の画像処理方法。
- 前記移動量算出ステップにおいて、微分画像を用いて前記移動量を推定することを特徴とする請求項1記載の画像処理方法。
- 前記移動量算出ステップが、画面の量子化単位であるピクセル単位で移動量を推定するマッチング法による第1の算出ステップと、統計的手法により量子化単位よりさらに高い精度のサブピクセル単位で移動量を推定するグラディエント法による第2の算出ステップとからなることを特徴とする請求項1記載の画像処理方法。
- 前記照度むら補正ステップにおいて、一つの画像に対して二つ以上の画像を比較することによって計算される複数の照度むら補正係数に基づいて、画面内での照度むら補正係数を連続的に変化させることを特徴とする請求項1記載の画像処理方法。
- 撮影したデジタル画像の一部が重複するように連続的に撮影場所または撮影方向を移動させながら撮影した複数のデジタル画像を連続的につなぎ合わせて一つのパノラマ画像に合成処理する画像処理装置であって、
請求項1〜6のいずれかに記載の画像処理方法により前記複数のデジタル画像を連続的につなぎ合わせる画像処理を行う中央演算処理回路と、前記中央演算処理回路において画像処理されたデジタル画像を記憶する記憶回路とを具備することを特徴とする画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002301470A JP2004139219A (ja) | 2002-10-16 | 2002-10-16 | 画像処理方法および画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002301470A JP2004139219A (ja) | 2002-10-16 | 2002-10-16 | 画像処理方法および画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004139219A true JP2004139219A (ja) | 2004-05-13 |
Family
ID=32449799
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002301470A Pending JP2004139219A (ja) | 2002-10-16 | 2002-10-16 | 画像処理方法および画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004139219A (ja) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006011255A1 (ja) * | 2004-07-28 | 2006-02-02 | Matsushita Electric Industrial Co., Ltd. | パノラマ画像合成方法および物体検出方法、パノラマ画像合成装置、撮像装置、物体検出装置、並びにパノラマ画像合成プログラム |
JP2007048122A (ja) * | 2005-08-11 | 2007-02-22 | Casio Comput Co Ltd | 画像処理装置及びプログラム |
JP2007323587A (ja) * | 2006-06-05 | 2007-12-13 | Matsushita Electric Ind Co Ltd | 車載カメラの画像合成装置および画像合成方法 |
JP2008017197A (ja) * | 2006-07-06 | 2008-01-24 | Matsushita Electric Ind Co Ltd | 画像合成装置および画像合成方法 |
CN102166122A (zh) * | 2011-04-29 | 2011-08-31 | 华南理工大学 | 一种蛇形轨迹超声宽景成像方法 |
JP2013029995A (ja) * | 2011-07-28 | 2013-02-07 | Clarion Co Ltd | 撮像システム |
US8810693B2 (en) | 2011-04-11 | 2014-08-19 | Canon Kabushiki Kaisha | Image processing apparatus and method thereof |
WO2016035387A1 (ja) * | 2014-09-03 | 2016-03-10 | 三菱電機株式会社 | 画像処理装置、画像処理方法、画像読取装置、及びプログラム |
JP6052389B2 (ja) * | 2013-02-28 | 2016-12-27 | 三菱電機株式会社 | 画像処理装置及び画像処理方法 |
WO2020066456A1 (ja) | 2018-09-25 | 2020-04-02 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
WO2020209040A1 (ja) | 2019-04-10 | 2020-10-15 | ソニー株式会社 | 画像処理装置、及び画像処理方法 |
US10957047B2 (en) | 2017-02-15 | 2021-03-23 | Panasonic Intellectual Property Management Co., Ltd. | Image processing device and image processing method |
KR20230079868A (ko) * | 2021-11-29 | 2023-06-07 | 국방과학연구소 | 다시점 영상 스티칭을 위한 색 보정 방법, 영상 합성 방법, 영상 처리 장치, 저장 매체 및 컴퓨터 프로그램 |
-
2002
- 2002-10-16 JP JP2002301470A patent/JP2004139219A/ja active Pending
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006011255A1 (ja) * | 2004-07-28 | 2006-02-02 | Matsushita Electric Industrial Co., Ltd. | パノラマ画像合成方法および物体検出方法、パノラマ画像合成装置、撮像装置、物体検出装置、並びにパノラマ画像合成プログラム |
US7535499B2 (en) | 2004-07-28 | 2009-05-19 | Panasonic Corporation | Panorama image synthesis method, object detection method, panorama image synthesis system, image shooting apparatus, and panorama image synthesis program |
JP2007048122A (ja) * | 2005-08-11 | 2007-02-22 | Casio Comput Co Ltd | 画像処理装置及びプログラム |
JP2007323587A (ja) * | 2006-06-05 | 2007-12-13 | Matsushita Electric Ind Co Ltd | 車載カメラの画像合成装置および画像合成方法 |
JP4739122B2 (ja) * | 2006-06-05 | 2011-08-03 | パナソニック株式会社 | 車載カメラの画像合成装置および画像合成方法 |
JP2008017197A (ja) * | 2006-07-06 | 2008-01-24 | Matsushita Electric Ind Co Ltd | 画像合成装置および画像合成方法 |
US8810693B2 (en) | 2011-04-11 | 2014-08-19 | Canon Kabushiki Kaisha | Image processing apparatus and method thereof |
CN102166122A (zh) * | 2011-04-29 | 2011-08-31 | 华南理工大学 | 一种蛇形轨迹超声宽景成像方法 |
JP2013029995A (ja) * | 2011-07-28 | 2013-02-07 | Clarion Co Ltd | 撮像システム |
JP6052389B2 (ja) * | 2013-02-28 | 2016-12-27 | 三菱電機株式会社 | 画像処理装置及び画像処理方法 |
WO2016035387A1 (ja) * | 2014-09-03 | 2016-03-10 | 三菱電機株式会社 | 画像処理装置、画像処理方法、画像読取装置、及びプログラム |
US10957047B2 (en) | 2017-02-15 | 2021-03-23 | Panasonic Intellectual Property Management Co., Ltd. | Image processing device and image processing method |
WO2020066456A1 (ja) | 2018-09-25 | 2020-04-02 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
KR20210064193A (ko) | 2018-09-25 | 2021-06-02 | 소니그룹주식회사 | 화상 처리 장치 및 화상 처리 방법, 그리고 프로그램 |
WO2020209040A1 (ja) | 2019-04-10 | 2020-10-15 | ソニー株式会社 | 画像処理装置、及び画像処理方法 |
KR20230079868A (ko) * | 2021-11-29 | 2023-06-07 | 국방과학연구소 | 다시점 영상 스티칭을 위한 색 보정 방법, 영상 합성 방법, 영상 처리 장치, 저장 매체 및 컴퓨터 프로그램 |
KR102571528B1 (ko) * | 2021-11-29 | 2023-08-28 | 국방과학연구소 | 다시점 영상 스티칭을 위한 색 보정 방법, 영상 합성 방법, 영상 처리 장치, 저장 매체 및 컴퓨터 프로그램 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11055827B2 (en) | Image processing apparatus and method | |
KR101026577B1 (ko) | 하이 다이나믹 레인지 비디오 생성 시스템, 컴퓨터 구현 방법, 및 컴퓨터 판독가능 기록 매체 | |
Matsushita et al. | Full-frame video stabilization | |
US9094648B2 (en) | Tone mapping for low-light video frame enhancement | |
CN101543056B (zh) | 使用多曝光模式的图像稳定化的方法和装置 | |
US7190395B2 (en) | Apparatus, method, program and recording medium for image restoration | |
WO2018176925A1 (zh) | Hdr图像的生成方法及装置 | |
EP2545411B1 (en) | Panorama imaging | |
JP4345940B2 (ja) | 手ぶれ画像補正方法、記録媒体及び撮像装置 | |
US20150334283A1 (en) | Tone Mapping For Low-Light Video Frame Enhancement | |
US20110141225A1 (en) | Panorama Imaging Based on Low-Res Images | |
US20110141224A1 (en) | Panorama Imaging Using Lo-Res Images | |
JP4454657B2 (ja) | ぶれ補正装置及び方法、並びに撮像装置 | |
WO2010025309A1 (en) | Robust fast panorama stitching in mobile phones or cameras | |
JP2004139219A (ja) | 画像処理方法および画像処理装置 | |
JP6656035B2 (ja) | 画像処理装置、撮像装置および画像処理装置の制御方法 | |
JP2010239636A (ja) | 画像生成装置、画像生成方法、およびプログラム | |
JP5225313B2 (ja) | 画像生成装置、画像生成方法、及びプログラム | |
Punnappurath et al. | Day-to-night image synthesis for training nighttime neural isps | |
JP5177284B2 (ja) | 被写体動き検出装置および方法 | |
JP6528540B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN109218602B (zh) | 影像撷取装置、影像处理方法及电子装置 | |
JP2001197356A (ja) | 画像復元装置および画像復元方法 | |
CN113538318B (zh) | 图像处理方法、装置、终端设备以及可读存储介质 | |
JP2007306083A (ja) | 撮像装置および信号処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20040304 |