JP5082856B2 - 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置 - Google Patents

画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置 Download PDF

Info

Publication number
JP5082856B2
JP5082856B2 JP2007547880A JP2007547880A JP5082856B2 JP 5082856 B2 JP5082856 B2 JP 5082856B2 JP 2007547880 A JP2007547880 A JP 2007547880A JP 2007547880 A JP2007547880 A JP 2007547880A JP 5082856 B2 JP5082856 B2 JP 5082856B2
Authority
JP
Japan
Prior art keywords
image
motion vector
image processing
motion vectors
projection data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007547880A
Other languages
English (en)
Other versions
JPWO2007063675A1 (ja
Inventor
茂 土井田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2007547880A priority Critical patent/JP5082856B2/ja
Publication of JPWO2007063675A1 publication Critical patent/JPWO2007063675A1/ja
Application granted granted Critical
Publication of JP5082856B2 publication Critical patent/JP5082856B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Description

本発明は、ディジタルカメラ、画像処理ソフトウエアなどに適用される画像処理方法、画像処理プログラムに関する。また、本発明は、ディジタルカメラなどに適用される画像処理装置、ディジタルカメラなどの撮像装置に関する。
ディジタル処理による手振れ補正は、連続して撮影された複数枚の画像間の動きベクトルを検出し、その動きベクトルに応じてそれらの画像を位置合わせして合成するものである。動きベクトルの検出方法は、特許文献1などに開示されており、例えば、複数の画像の各ブロックから動きベクトル(部分動きベクトル)を検出し、各ブロックの部分動きベクトルに基づき画像全体の動きベクトルを1つ求めている。
特開平7−38800号公報
しかし、部分動きベクトルの中には信頼性の低いものも混ざっているので、この方法で動きベクトルの検出精度を向上させるには、ブロック数を増やす必要があり、その分だけ演算量が増える。また、画像間の動き方によっては、動きベクトルがその動きを的確に表現できていない場合もある。
そこで本発明は、ブロック数を増やさなくとも複数の画像間の動きを高精度に検出することのできる画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置を提供することを目的とする。
本発明の画像処理方法は、比較画像と対象画像との間の動きベクトル分布を推定する画像処理方法であって、前記比較画像と前記対象画像との間の動きベクトルを、前記対象画像のブロック毎に探索する探索手順と、前記探索手順によってブロック毎に探索された動きベクトルの中から少なくとも3つの代表動きベクトルを選出する選出手順と、前記選出手順で選出された少なくとも3つの代表動きベクトルの各ベクトル成分に基づき、前記画像上の動きベクトル分布の各ベクトル成分を、平面又は曲面で近似する近似手順と、前記近似手段が近似した各ベクトル成分からなる動きベクトル分布に基づき、前記比較画像と前記対象画像との間の位置合わせをブロック毎に行う合成手順とを含み、前記選出手順では、所定の条件を満たす3つの動きベクトルを前記3つの代表ベクトルとして選出し、前記近似手順では、前記画像上の前記動きベクトル分布の各ベクトル成分を、前記3つの代表ベクトルの各ベクトル成分が規定する各平面で個別に近似し、前記所定の条件は、{前記3つの動きベクトルの各々の探索元ブロックの座標同士を結んでできる三角形の面積}*{前記3つの動きベクトルの各々の探索元ブロックのエッジ量の総和}が最大、という条件であることを特徴とする。
また、本発明の第1の画像処理プログラムは、本発明の第1の画像処理方法の何れかをコンピュータに実行させることを特徴とする。
また、本発明の第1の画像処理装置は、本発明の第1の画像処理方法の何れかを実行する手段を備えたことを特徴とする。
また、本発明の第1の撮像装置は、被写体を連続的に撮像して複数の画像を取得することの可能な撮像手段と、本発明の第1の画像処理装置の何れかとを備えたことを特徴とする。
(第2の発明)
本発明の第2の画像処理方法は、比較画像と対象画像との間の動きベクトルを探索する画像処理方法であって、前記比較画像上の参照領域の位置と前記対象画像上の参照領域の位置とをずらしながら、それら2つの参照領域の相関を繰り返し算出する算出手順を含み、前記算出手順では、予め、前記比較画像上の特徴量を前記上下方向へ累積加算してできる第1累積加算画像と、前記対象画像上の特徴量を前記上下方向へ累積加算してできる第2累積加算画像と、前記比較画像上の特徴量を前記左右方向へ累積加算してできる第3累積加算画像と、前記対象画像上の特徴量を前記左右方向へ累積加算してできる第4累積加算画像とを作成しておき、前記2つの参照領域の相関の算出では、前記第1累積加算画像上で前記比較画像の参照領域の上下端に位置する2つのラインの差分を第1投影データとして取得し、前記第2累積加算画像上で前記対象画像の参照領域の上下端に位置する2つのラインの差分を第2投影データとして取得し、前記第3累積加算画像上で前記比較画像の参照領域の左右端に位置する2つのラインの差分を第3投影データとして取得し、前記第4累積加算画像上で前記対象画像の参照領域の左右端に位置する2つのラインの差分を第4投影データとして取得し、前記第1投影データ及び前記第2投影データの差分の大きさと、前記第3投影データ及び前記第4投影データの差分の大きさとの和を、前記2つの参照領域の相関とすることを特徴とする。
また、本発明の第2の画像処理プログラムは、本発明の第2の画像処理方法の何れかをコンピュータに実行させることを特徴とする。
また、本発明の第2の画像処理装置は、本発明の第2の画像処理方法の何れかを実行する手段を備えたことを特徴とする。
また、本発明の第2の撮像装置は、被写体を連続的に撮像して複数の画像を取得することの可能な撮像手段と、本発明の第2の画像処理装置とを備えたことを特徴とする。
本発明によれば、複数の画像間の動きを高精度に検出することのできる画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置が実現する。
第1実施形態の電子スチルカメラの構成を示すブロック図である。 手振れ補正処理の流れを示すフローチャートである。 ステップS3の原理を説明する図である。 投影データを用いる場合のステップS3を説明する図である。 累積加算画像を用いる場合のステップS3を説明する図である。 ステップS4を説明する図である。 代表動きベクトルVa,Vb,Vcを示す図である。 Δxの近似平面Sxを示す図である。 Δyの近似平面Syを示す図である。 置換後の部分動きベクトルViの例を示す図である。 第2実施形態の検出処理の流れを示すフローチャートである。 第2実施形態(及び第1実施形態)の相関値dの算出方法の概念を説明する図である。
[第1実施形態]
以下、本発明の第1実施形態を説明する。本実施形態は、手振れ補正機能付きの電子スチルカメラの実施形態である。
図1は、電子スチルカメラの構成を示すブロック図である。図1に示すとおり、電子スチルカメラ10には、撮像素子12、信号処理回路13、メモリ14、圧縮・伸張回路15、記録部16、画像処理回路17などが配置される。
電子スチルカメラ10に装着された撮影レンズ11は、撮像素子12上に被写体の像を形成する。撮像素子12は、その被写体の像を撮像して画像を取得する。その画像は、信号処理回路13において処理された後、メモリ14へ一時的に格納される。画像処理回路17は、その画像に対し画像処理を施し、画像処理後の画像は、圧縮・伸張回路15において圧縮処理が施された後、記録部16において記録される。
特に、電子スチルカメラ10が手振れ補正モードに設定されているとき、撮像素子12は、適正露光時間、又は予め設定された露光時間に対してn段アンダーかつ微小時間間隔で2×n枚の画像を取得する。画像処理回路17は、それら複数枚の画像を入力し、手振れ補正処理を実行して補正画像を取得する。その補正画像が、圧縮・伸張回路15を介して記録部16に記録される。
次に、画像処理回路17による手振れ補正処理の全体の流れを説明する。
図2は、手振れ補正処理の流れを示すフローチャートである。図2に示すとおり、画像処理回路17は、複数枚の画像を入力すると(ステップS1)、それらを低解像度変換して複数枚の粗い画像を取得し(ステップS2)、それら粗い画像の各ブロックから部分動きベクトルを探索する(ステップS3)。
その後、画像処理回路17は、部分動きベクトルの中から代表動きベクトルを選出し(ステップS4)、それら代表動きベクトルに基づき画像上の動きベクトル分布を近似する(ステップS5)。以上のステップS2〜S5の処理は、粗い画像に基づく検出なので「粗検出」に相当する。
そして、画像処理回路17は、粗検出で取得した動きベクトル分布を利用して、低解像度変換前の複数枚の詳細な画像の各ブロックから、改めて部分動きベクトルを探索する(ステップS6)。このステップS6の処理は、詳細な画像に基づく検出なので「詳細検出」に相当する。
さらに、画像処理回路17は、ステップS6で得た部分動きベクトルに基づき複数枚の詳細な画像を位置合わせして合成し(ステップS7)、合成後の画像を補正画像として出力する(ステップS8)。
次に、ステップS3〜S7を詳細に説明する。ここでは、簡単のため、画像の枚数を2とする。
(ステップS3)
図3は、ステップS3の原理を説明する図である。
図3に示すとおり、本ステップでは、粗い画像f1,f2に対しそれぞれエッジフィルタ処理が施され、エッジ画像g1,g2が取得される。そして、エッジ画像g1,g2の各々が複数のブロックRに分割される。ブロックRの個数は、例えば、画像の水平方向に6、画像の垂直方向に4の合計24である。以下、画像の水平方向(図の左右方向)を「x方向」とし、画像の垂直方向(図の上下方向)を「y方向」とする。ブロックRからの部分動きベクトルの探索は、次のとおり行われる。
先ず、図3中に拡大して示すとおり、エッジ画像g1,g2のブロックR内の参照領域E1,E2がそれぞれ参照され、それら参照領域E1,E2の間の相関値dとして、参照領域E1,E2の差分の絶対値が算出される。相関値dの算出は、参照領域E1,E2の間の位置ずらし量(x方向:α,y方向:β)を変化させながら繰り返し行われる。
この位置ずらし量(α,β)の変化範囲(探索範囲)は十分に広く設定される。例えば、参照領域E1,E2のサイズが75画素×75画素であるとき、探索範囲は、α:±15画素、β:±15画素に設定される。
そして、この探索範囲内で相関値dが最小となるような位置ずらし量(α,β)の値(Δx,Δy)が見出される。この値(Δx,Δy)が、ブロックRの部分動きベクトルVと見なされる。
但し、以上の探索では、二次元のデータである参照領域E1,E2をそのまま演算に用いると演算量が多くなるので、参照領域E1,E2の代わりに、参照領域E1,E2をy方向に加算してできる一次元の投影データと、参照領域E1,E2をx方向に加算してできる一次元の投影データとを用いることが望ましい。
図4は、投影データを用いる場合のステップS3を説明する図である。
図4に示すとおり、この場合、粗い画像f1,f2に対しx方向のエッジフィルタ処理が施され、エッジ画像g1v,g2vが取得されると共に、粗い画像f1,f2に対しy方向のエッジフィルタ処理が施され、エッジ画像g1h,g2hが取得される。なお、エッジ画像g1v,g2vにはy方向のエッジ成分が現れ、エッジ画像g1h,g2hには、x方向のエッジ成分が現れる。
図4中に拡大して示すとおり、このうち、エッジ画像g1vの参照領域E1がy方向に加算され、投影データL1hが作成される。
また、エッジ画像g2vの参照領域E2がy方向に加算され、投影データL2hが作成される。
また、エッジ画像g1hの参照領域E1がx方向に加算され、投影データL1vが作成される。
また、エッジ画像g2hの参照領域E2がx方向に加算され、投影データL2vが作成される。
この場合、参照領域E1,E2の間の相関値dは、投影データL1h,L2hの差分の絶対値と、投影データL1v,L2vの差分の絶対値との和で表される。
ここで、これらの投影データL1h,L2h,L1v,L2vは、参照領域E1,E2の位置ずらし量(α,β)が変化する毎に作成される必要がある。しかし、その度に参照領域E1,E2を加算していると演算量が多くなるので、予め、エッジ画像g1v,g2v,g1h,g2hの累積加算画像を作成しておくとよい。
図5は、累積加算画像を用いる場合のステップS3を説明する図である。
図5に示すとおり、この場合も、図4の場合と同様に、粗い画像f1,f2からエッジ画像g1h,g2h,g1v,g2vが取得される。
このうち、エッジ画像g1vがy方向に累積加算され、累積加算画像h1が作成される。
また、エッジ画像g2vがy方向に累積加算され、累積加算画像h2が作成される。
また、エッジ画像g1hがx方向に累積加算され、累積加算画像v1が作成される。
また、エッジ画像g2hがx方向に累積加算され、累積加算画像v2が作成される。
これら累積加算画像h1,h2,v1,v2の算出式を具体的に示すと、以下の通りである。
Figure 0005082856
そして、図5中に拡大して示すとおり、上述した投影データL1hは、累積加算画像h1の参照領域E1の上下2ラインの差分をとることによって作成される。
また、上述した投影データL2hは、累積加算画像h2の参照領域E2の上下2ラインの差分をとることによって作成される。
また、上述した投影データL1vは、累積加算画像v1の参照領域E1の左右2ラインの差分をとることによって作成される。
また、上述した投影データL2vは、累積加算画像v2の参照領域E2の左右2ラインの差分をとることによって作成される。
したがって、この場合、参照領域E1,E2の間の相関値dは、以下の式により、少ない演算量で算出される。但し、Bは、ブロックサイズである。
Figure 0005082856
(ステップS4)
図6は、ステップS4を説明する図である。図6において、符号R1,R2,…,R24で示すのは、画像内の各ブロックであり、符号V1,V2,…,V24で示すのは、ブロックR1,R2,…,R24から個別に探索された部分動きベクトルのイメージである。以下、このように、ブロックRの個数を24とし、各ブロックに関する各量にブロック番号を示す添え字を付して説明する。
本ステップでは、先ず、部分動きベクトルV1,V2,…,V24を評価する。各部分動きベクトルViの評価値としては、例えば、次の2種類の評価値ΔEi,eiが用いられる。
第1評価値ΔEi
部分動きベクトルViの値(Δxi,Δyi)と略同等の位置ずらし量を全てのブロックR1,R2,…,R24に対し試験的に当てはめたときの各ブロックR1,R2,…,R24の相関値d1,d2,…,d24の総和である。この第1評価値ΔEiが小さいほど、部分動きベクトルViの信頼度を高いと見なせる。
但し、ブロックRkの相関値dkを求める際には、次のような探索を行うことが望ましい。すなわち、ブロックRkの位置ずらし量(α,β)を部分動きベクトルViと等しい値(Δxi,Δyi)の近傍の狭い範囲で変化させながら相関値dを算出し、そのときの最小の相関値dの値をブロックRkの相関値dkと見なす。その変化範囲(探索範囲)は、例えば、α:Δxi±2画素,β:Δyi±2画素である。
なお、第1評価値ΔEiの算出式を具体的に示すと、以下のとおりである(但し、ブロック数を24とした。)。
Figure 0005082856
第2評価値ei
部分動きベクトルViの探索元であるブロックRiのエッジ量である。例えば、x方向のエッジフィルタ処理及びy方向のエッジフィルタ処理によりブロックRiの2つのエッジ成分を取得し、それらエッジ成分の絶対値の平均値である。この第2評価値eiが大きいほど、部分動きベクトルViの信頼度を高いと見なせる。
さて、本ステップでは、部分動きベクトルV1,V2,…,V24の各々に関し第1評価値ΔEiが生成され、第1評価値ΔEiの小さい順に部分動きベクトルV1,V2,…,V24がソートされる。但し、第1評価値ΔEiが互いに同じとなった部分動きベクトルに関しては、さらに第2評価値eiが生成され、第2評価値eiの大きい順にソートされる。
以上のソートの結果、第1位となった部分動きベクトルを、第1の代表動きベクトルVaとして選出する(図7参照)。
さらに、第2位以降の部分動きベクトルの中から、以下の条件を満たす第2の代表動きベクトルVb、第3の代表動きベクトルVcが選出される(図7参照)。
・代表動きベクトルベクトルVa,Vb,Vcの探索元であるブロックRa,Rb,Rcの中心座標が同一直線上に存在していない。
・{ブロックRa,Rb,Rcの中心座標を結んでできる三角形の面積}*{代表動きベクトルVa,Vb,Vcの第2評価値ea,eb,ecの総和}が最大である。
・代表ベクトルVa,Vb,Vcの第1評価値ΔEa,ΔEb,ΔEcの総和は、上位3つの部分動きベクトルの第1評価値の総和と同じである。
(ステップS5)
図8、図9は、ステップS5を説明する図である。
本ステップでは、図8に示すとおり、代表動きベクトルVa,Vb,Vcのx成分Δxa,Δxb,Δxcに基づき、部分動きベクトルVのx成分Δxの画像上の分布が近似される。
図8では、画像上の二次元座標(x,y)と、Δx方向の一次元座標とからなる三次元座標を示した。このとき、Δxの分布は、図中に点線で示すような平面Sxで近似される。
この平面Sxは、ブロックRaの中心座標を(xa,ya,0)とおき、ブロックRbの中心座標を(xb,yb,0)とおき、ブロックRcの中心座標を(xc,yc,0)とおいたときに、3つの座標(xa,ya,Δxa),(xb,yb,Δxb),(xc,yc,Δxc)を通る平面である。つまり、平面Sxは、上記3つの座標から決まる3つの定数A1,A2,A3により、以下の1次式で特定される。
Sx:Δx=A1x+A2y+A3
同様に、本ステップでは、図9に示すとおり、代表動きベクトルVa,Vb,Vcのy成分Δya,Δyb,Δycに基づき、部分動きベクトルVのy成分Δyの画像上の分布が近似される。
図9では、画像上の二次元座標(x,y)と、Δy方向の一次元座標とからなる三次元座標を示した。このとき、Δyの分布は、図中に点線で示すような平面Syで近似される。
この平面Syは、3つの座標(xa,ya,Δya),(xb,yb,Δyb),(xc,yc,Δyc)を通る平面である。この平面Syは、上記3つの座標から決まる3つの定数B1,B2,B3により、以下の1次式で特定される。
Sy:Δy=B1x+B2y+B3
以上の2つの平面Sx,Syにより、画像上の動きベクトル分布が表されることになる。
ここで、2つの平面Sx,Syで表された動きベクトル分布に従い、前述した部分動きベクトルV1,V2,…,V24の値を置換すると、例えば、図10に示すようになる。置換後の部分動きベクトルV1,V2,…,V24のx方向の分布、y方向の分布は、何れも直線的になる。
(ステップS6)
本ステップでは、置換後の部分動きベクトルV1,V2,…,V24を利用して、低解像度変換前の2枚の詳細な画像のブロックR1,R2,…,R24から、改めて部分動きベクトルV1,V2,…,V24が探索される。
探索に当たり、2枚の詳細な画像には、2枚の粗い画像に対し施されたのと同じ処理(エッジフィルタ処理,累積加算画像への変換)が施される。
また、粗い画像による粗検出により大凡の探索は済んでいるので、各ブロックRiの探索範囲(位置ずらし量(α,β)の変化範囲)は、置換後の部分動きベクトルViの値(Δxi,Δyi)の近傍に制限される。例えば、参照領域E1,E2のサイズが200画素×200画素であるとき、探索範囲は、α:Δxi±6画素、β:Δyi±6画素に設定される。このように探索範囲を狭い範囲に制限すれば、探索に要する演算量を抑えることができる。
但し、置換後の部分動きベクトルViは、粗い画像から得られたものなので、小さいサイズで計上されている。よって、値(Δxi,Δyi)は、探索前に補正される必要がある。その補正では、粗い画像に対する詳細な画像のサイズ比と等しい係数を値(Δxi,Δyi)に対し乗算すればよい。
以上の条件下で、ブロックR1,R2,…,R24の各々から改めて部分動きベクトルV1,V2,…,V24が探索される。本ステップで探索された部分動きベクトルV1,V2,…,V24が、最終的な部分動きベクトルである。
(ステップS7)
本ステップでは、最終的な部分動きベクトルV1,V2,…V24に応じて、2枚の詳細な画像のブロックR1,R2,…R24が位置合わせされ、合成される。これによって、1枚の補正画像が完成する。なお、この合成の際、画像の必要な箇所が画素補間される。
このように、画像の位置合わせをブロック毎に行えば、最終的な部分動きベクトルV1,V2,…V24が有効利用されることになり、2枚の画像間の動きに回転成分が生じていた場合や、拡大/縮小成分が生じていた場合などにも対処できる(ステップS7終了)。
以上、本実施形態の手振れ補正処理では、信頼度の高い代表動きベクトルに基づき動きベクトル分布を近似する(ステップS3〜S5)ので、ブロック数を増やさなくとも、画像間の動きを的確に表現することができる。しかも、その近似面を平面としたので、動きベクトル分布を近似するための演算量や、動きベクトル分布を表現するための情報量は、最小限に抑えられる。
また、本実施形態の手振れ補正処理では、部分動きベクトルの探索に、投影データを用いるので、エッジ画像をそのまま用いるよりも、探索に関わる演算量が抑えられる。しかも、累積加算画像を予め作成しておくので、投影データの作成に関わる演算量も抑えられる。
また、本実施形態の手振れ補正処理では、粗い画像に基づき大凡の動きベクトル分布を予め求めておき(ステップS2〜S5)、それを利用して少ない演算量で詳細な画像の動きを検出するので(ステップS6)、その動きを高精度に検出できるだけでなく、検出に要する演算量を抑えることもできる。
(その他)
なお、ステップS3,S6では、フィルタ処理の種類としてエッジフィルタ処理を採用したのでブロックから抽出される特徴量がエッジ情報であったが、他の種類のフィルタ処理を採用し、ブロックから抽出される特徴量を、ブロック内のパターンを示す他の特徴量に代えてもよい。
また、ステップS4では、代表動きベクトルVa,Vb,Vcの選出に上述した第1評価値,第2評価値の組み合わせを用いたが、部分動きベクトルの信頼度を示すのであれば、他の組み合わせに代えてもよい。
また、ステップS4,S5では、動きベクトル分布を平面で近似するのに、3つの代表動きベクトルVa,Vb,Vcを用いたが、4以上の代表動きベクトルを用いてもよい。
また、ステップS4,S5では、動きベクトル分布の近似面を平面としたが、曲面としてもよい。曲面にすれば、画像間の動きを更に詳細に表現することができる。但し、近似面の次数が多くなるほど、ステップS4で選出すべき代表動きベクトルの数も多くなる。
また、本実施形態の手振れ補正処理では、粗い画像の動きベクトル分布を近似してから(ステップS3〜S5)、詳細な画像の動きベクトルを改めて探索した(ステップS6)が、同様の近似処理(ステップS3〜S5)を詳細な画像に対して直接施してもよい。但し、本実施形態のように2段階に分けた方が、効率的である。
また、本実施形態では、手振れ補正処理を電子スチルカメラの回路(画像処理回路17)に実行させたが、手振れ補正処理の一部又は全部を、ビデオカメラなどの他の撮像装置、各種の画像入力装置、コンピュータなどに実行させてもよい。なお、コンピュータに処理を実行させる場合、その処理を実行させるためのプログラムをコンピュータにインストールすればよい。
[第2実施形態]
以下、本発明の第2実施形態を説明する。本実施形態は、動きベクトルの検出処理の実施形態である。
ここでも簡単のため画像の枚数を2とし、2枚の画像中のブロックの動きベクトルを検出対象とする。また、そのブロックの座標及びサイズは任意とする。よって、ブロックのサイズを大きく設定すれば、2枚の画像の全体の動きベクトルを検出することができる。また、ブロックを複数化し、各ブロックの動きベクトル(=部分動きベクトル)をそれぞれ検出すれば、第1実施形態のステップS3への適用も可能である。
図11は、本実施形態の検出処理の流れを示すフローチャートである。各ステップを詳細に説明する。
(ステップS11,S21)
本ステップでは、微小時間間隔で取得された2枚の画像f1(x,y),f2(x,y)が入力される。
(ステップS12,S22)
本ステップでは、2枚の画像f1(x,y),f2(x,y)の各々に対しエッジフィルタ処理が施される。第1の画像f1(x,y)に関する垂直・水平方向(x・y方向)のフィルタ出力g1v(x,y),g1h(x,y)、第2の画像f2(x,y)に関する垂直・水平方向(x・y方向)のフィルタ出力g2v(x,y),g2h(x,y)は、それぞれ以下の式で表される。
g1v(x,y)=-f1(x,y-2)-f1(x,y-1)+f1(x,y+1)+f1(x,y+2)
g2v(x,y)=-f2(x,y-2)-f2(x,y-1)+f2(x,y+1)+f2(x,y+2)
g1h(x,y)=-f1(x-2,y)-f1(x-1,y)+f1(x+1,y)+f1(x+2,y)
g2h(x,y)=-f2(x-2,y)-f2(x-1,y)+f2(x+1,y)+f2(x+2,y)
このうちフィルタ出力g1v(x,y)は、第1実施形態(図5)で説明したエッジ画像g1v(x,y)に相当し、フィルタ出力g2v(x,y)は、第1実施形態で説明したエッジ画像g2v(x,y)に相当し、フィルタ出力g1h(x,y)は、第1実施形態で説明したエッジ画像g1h(x,y)に相当し、フィルタ出力g2h(x,y)は、第1実施形態で説明したエッジ画像g2h(x,y)に相当する。
但し、上式によるエッジフィルタ処理は、図12中に示すようなエッジフィルタFa,Fbを想定しており、図5中に示したエッジフィルタとはサイズが異なる。
さらに、本ステップでは、このようなエッジフィルタ処理に他の処理を組み合わせる。例えば、ノイズ低減処理である。ノイズ低減処理では、上述したフィルタ出力g1v(x,y),g1h(x,y),g2v(x,y),g2h(x,y)の各画素値を所定の閾値と比較し、閾値以下となったものについては、その画素値をゼロへと置換する。これによって、フィルタ出力g1v(x,y),g1h(x,y),g2v(x,y),g2h(x,y)のノイズが低減される。
(ステップS13,S23)
本ステップでは、ノイズ低減後のフィルタ出力g1v(x,y),g2v(x,y),g1h(x,y),g2h(x,y)の各々により画像を作成する。以下、作成された画像を、特徴量画像g1v(x,y),g2v(x,y),g1h(x,y),g2h(x,y)と称す。但し、メモリの使用量を削減するため、本ステップを省略し、次のステップにおいてフィルタ出力g1v(x,y),g2v(x,y),g1h(x,y),g2h(x,y)をそのまま使用することも可能である。
(ステップS14,S24)
本ステップでは、特徴量画像g1v(x,y),g2v(x,y),g1h(x,y),g2h(x,y)の各々に基づき累積加算画像h1(x,y),h2(x,y),v1(x,y),v2(x,y)を作成する。累積加算画像h1(x,y),h2(x,y),v1(x,y),v2(x,y)の算出式は、第1実施形態で説明した算出式と同じであり、以下のとおりである。
Figure 0005082856
(ステップS35)
本ステップでは、動きベクトルの探索元となるブロックの中心座標(cx,cy)及びサイズ(Bx,By)を決定する。Bxはx方向のサイズ、Byはy方向のサイズである。なお、動きベクトルの探索元を画像全体とする場合は、ブロックの中心座標を画像の中心座標とし、ブロックのサイズを画像全体のサイズに一致させればよい。
(ステップS36)
本ステップでは、第1の画像f1におけるブロック内の参照領域E1と、第2の画像f2(x,y)におけるブロック内の参照領域E2とを設定する。但し、参照領域E1,E2のサイズは共通であり、ブロックにおける参照領域E1の座標は固定なので、ここで設定されるのは、参照領域E1を基準とした参照領域E2の位置ずらし量(α,β)のみでよい。
(ステップS37)
本ステップでは、参照領域E1,E2の間の相関値d(α,β)を算出する。相関値d(α,β)の算出方法は、第1実施形態のそれと基本的に同じである。すなわち、本ステップでは、図12に概念的に示すとおり、参照領域E1のx・y方向の投影データL1h,L1vを作成し、参照領域E2についても同様の投影データL2h,L2vを作成し、それら4種類の投影データL1h,L1v,L2h,L2vを加減算することで相関値d(α,β)を算出する。
そして、本ステップでも、投影データL1h,L1v,L2h,L2vの算出には累積加算画像h1(x,y),h2(x,y),v1(x,y),v2(x,y)が利用される。但し、本実施形態では、ブロックの中心座標(cx,cy)及びサイズ(Bx,By)が任意なので、相関値d(α,β)の算出には、第1実施形態で説明した算出式を一般化した以下の式が使用される。
Figure 0005082856
(ステップS38,S39)
以上の相関値d(α,β)の算出は、位置ずらし量(α,β)を変更しながら繰り返し行われる。
(ステップS40)
本ステップでは、相関値d(α,β)が最小となるような位置ずらし量(α,β)の値(Δx,Δy)が見出され、その値(Δx,Δy)が動きベクトルVとして出力される。これによって、動きベクトルの検出処理が終了する。
以上、本実施形態でも、動きベクトルVの探索(ステップS36〜S39)に投影データL1h,L1v,L2h,L2vを用いるので、特徴量画像g1v(x,y),g2v(x,y),g1h(x,y),g2h(x,y)をそのまま用いるよりも、探索に関わる演算量が抑えられる。しかも、ステップS14,S24において累積加算画像h1(x,y),h2(x,y),v1(x,y),v2(x,y)が予め作成されるので、投影データL1h,L1v,L2h,L2vの作成、ひいては相関値d(α,β)の算出(ステップS37)に関わる演算量も抑えられる。
したがって、本実施形態では動きベクトルVの探索(ステップS36〜S39)が高速に行われる。
また、本実施形態のステップS12,S22では、エッジフィルタ処理を含む2以上の処理を画像f1(x,y),f2(x,y)へ施すので、良好な特徴量画像g1v(x,y),g2v(x,y),g1h(x,y),g2h(x,y)を取得することができる。したがって、本実施形態では動きベクトルVを高精度に検出することができる。
(その他)
なお、上述したステップS12,S22では、エッジ情報を抽出するためにエッジフィルタ処理を採用したが、特徴量を抽出することができるのであれば他の種類のフィルタ処理を採用してもよい。
また、本実施形態の検出方法は、入力された複数の画像を処理するものであったが、入力された複数の画像を低解像度変換したものを同様に処理してもよい。
また、本実施形態の検出方法は、2枚の画像の動きベクトルに基づきそれらの画像を位置合わせして合成する手振れ補正方法に適用可能である。
また、本実施形態の検出方法又は、それが適用された手ぶれ補正方法は、撮像装置、画像入力装置、コンピュータなどによって実行される。コンピュータに実行させる場合、その処理を実行させるためのプログラムをコンピュータにインストールすればよい。

Claims (19)

  1. 比較画像と対象画像との間の動きベクトル分布を推定する画像処理方法であって、
    前記比較画像と前記対象画像との間の動きベクトルを、前記対象画像のブロック毎に探索する探索手順と、
    前記探索手順によってブロック毎に探索された動きベクトルの中から少なくとも3つの代表動きベクトルを選出する選出手順と、
    前記選出手順で選出された少なくとも3つの代表動きベクトルの各ベクトル成分に基づき、前記画像上の動きベクトル分布の各ベクトル成分を、平面又は曲面で近似する近似手順と、
    前記近似手段が近似した各ベクトル成分からなる動きベクトル分布に基づき、前記比較画像と前記対象画像との間の位置合わせをブロック毎に行う合成手順とを含み、
    前記選出手順では、所定の条件を満たす3つの動きベクトルを前記3つの代表ベクトルとして選出し、
    前記近似手順では、前記画像上の前記動きベクトル分布の各ベクトル成分を、前記3つの代表ベクトルの各ベクトル成分が規定する各平面で個別に近似し、
    前記所定の条件は、{前記3つの動きベクトルの各々の探索元ブロックの座標同士を結んでできる三角形の面積}*{前記3つの動きベクトルの各々の探索元ブロックのエッジ量の総和}が最大、という条件である
    ことを特徴とする画像処理方法。
  2. 請求項に記載の画像処理方法において、
    前記探索手順では、
    前記ブロック内の参照領域の特徴量を2方向へ加算してできる2種類の投影データが用いられる
    ことを特徴とする画像処理方法。
  3. 請求項に記載の画像処理方法において、
    前記探索手順では、
    前記ブロックの特徴量を前記2方向へ累積加算してできる2種類の累積加算画像が予め作成され、前記2種類の投影データは、前記2種類の累積加算画像の一部から作成される
    ことを特徴とする画像処理方法。
  4. 請求項1〜請求項の何れか一項に記載の画像処理方法において、
    前記動きベクトル分布の推定は、
    前記比較画像及び前記対象画像を低解像度変換してできる2つの粗い画像について行われる
    ことを特徴とする画像処理方法。
  5. 請求項に記載の画像処理方法において、
    前記2つの粗い画像について推定された前記動きベクトル分布を利用して、前記低解像度変換されていない詳細な前記比較画像及び前記対象画像についての動きベクトル分布を推定する再検出手順を更に含む
    ことを特徴とする画像処理方法。
  6. 比較画像と対象画像との間の動きベクトル分布を推定する画像処理方法をコンピュータに実行させるための画像処理プログラムであって、
    前記比較画像と前記対象画像との間の動きベクトルを、前記対象画像のブロック毎に探索する探索手順と、
    前記探索手順によってブロック毎に探索された動きベクトルの中から少なくとも3つの代表動きベクトルを選出する選出手順と、
    前記選出手順で選出された少なくとも3つの代表動きベクトルの各ベクトル成分に基づき、前記画像上の動きベクトル分布の各ベクトル成分を、平面又は曲面で近似する近似手順と、
    前記近似手段が近似した各ベクトル成分からなる動きベクトル分布に基づき、前記比較画像と前記対象画像との間の位置合わせをブロック毎に行う合成手順とを含み、
    前記選出手順では、所定の条件を満たす3つの動きベクトルを前記3つの代表ベクトルとして選出し、
    前記近似手順では、前記画像上の前記動きベクトル分布の各ベクトル成分を、前記3つの代表ベクトルの各ベクトル成分が規定する各平面で個別に近似し、
    前記所定の条件は、{前記3つの動きベクトルの各々の探索元ブロックの座標同士を結んでできる三角形の面積}*{前記3つの動きベクトルの各々の探索元ブロックのエッジ量の総和}が最大、という条件である
    ことを特徴とする画像処理プログラム。
  7. 比較画像と対象画像との間の動きベクトル分布を推定する画像処理装置であって、
    前記比較画像と前記対象画像との間の動きベクトルを、前記対象画像のブロック毎に探索する探索手段と、
    前記探索手段によってブロック毎に探索された動きベクトルの中から少なくとも3つの代表動きベクトルを選出する選出手段と、
    前記選出手段で選出された少なくとも3つの代表動きベクトルの各ベクトル成分に基づき、前記画像上の動きベクトル分布の各ベクトル成分を、平面又は曲面で近似する近似手段と、
    前記近似手段が近似した各ベクトル成分からなる動きベクトル分布に基づき、前記比較画像と前記対象画像との間の位置合わせをブロック毎に行う合成手段とを備え、
    前記選出手段は、所定の条件を満たす3つの動きベクトルを前記3つの代表ベクトルとして選出し、
    前記近似手段は、前記画像上の前記動きベクトル分布の各ベクトル成分を、前記3つの代表ベクトルの各ベクトル成分が規定する各平面で個別に近似し、
    前記所定の条件は、{前記3つの動きベクトルの各々の探索元ブロックの座標同士を結んでできる三角形の面積}*{前記3つの動きベクトルの各々の探索元ブロックのエッジ量の総和}が最大、という条件である
    ことを特徴とする画像処理装置。
  8. 被写体を連続的に撮像して複数の画像を取得することの可能な撮像手段と、
    請求項に記載の画像処理装置と
    を備えたことを特徴とする撮像装置。
  9. 比較画像と対象画像との間の動きベクトルを探索する画像処理方法であって、
    前記比較画像上の参照領域の位置と前記対象画像上の参照領域の位置とをずらしながら、それら2つの参照領域の相関を繰り返し算出する算出手順を含み、
    前記算出手順では、予め、
    前記比較画像上の特徴量を前記上下方向へ累積加算してできる第1累積加算画像と、
    前記対象画像上の特徴量を前記上下方向へ累積加算してできる第2累積加算画像と、
    前記比較画像上の特徴量を前記左右方向へ累積加算してできる第3累積加算画像と、
    前記対象画像上の特徴量を前記左右方向へ累積加算してできる第4累積加算画像とを成しておき、
    前記2つの参照領域の相関の算出では、
    前記第1累積加算画像上で前記比較画像の参照領域の上下端に位置する2つのラインの差分を第1投影データとして取得し、
    前記第2累積加算画像上で前記対象画像の参照領域の上下端に位置する2つのラインの差分を第2投影データとして取得し、
    前記第3累積加算画像上で前記比較画像の参照領域の左右端に位置する2つのラインの差分を第3投影データとして取得し、
    前記第4累積加算画像上で前記対象画像の参照領域の左右端に位置する2つのラインの差分を第4投影データとして取得し、
    前記第1投影データ及び前記第2投影データの差分の大きさと、前記第3投影データ及び前記第4投影データの差分の大きさとの和を、前記2つの参照領域の相関とする
    ことを特徴とする画像処理方法。
  10. 請求項に記載の画像処理方法において、
    前記参照領域の特徴量は、
    前記参照領域に対し2以上の処理を施して抽出されたものである
    ことを特徴とする画像処理方法。
  11. 請求項10に記載の画像処理方法において、
    前記2以上の処理のうち1つは、
    エッジフィルタ処理である
    ことを特徴とする画像処理方法。
  12. 請求項〜請求項11の何れか一項に記載の画像処理方法において、
    前記動きベクトルは、
    前記比較画像及び前記対象画像を分割してできるブロックの動きベクトルである
    ことを特徴とする画像処理方法。
  13. 請求項〜請求項11の何れか一項に記載の画像処理方法において、
    前記動きベクトルは、
    前記比較画像及び前記対象画像の全体の動きベクトルである
    ことを特徴とする画像処理方法。
  14. 比較画像と対象画像との間の動きベクトルを探索する画像処理方法をコンピュータに実行させる画像処理プログラムであって、
    前記比較画像上の参照領域の位置と前記対象画像上の参照領域の位置とをずらしながら、それら2つの参照領域の相関を繰り返し算出する算出手順を含み、
    前記算出手順では、予め、
    前記比較画像上の特徴量を前記上下方向へ累積加算してできる第1累積加算画像と、
    前記対象画像上の特徴量を前記上下方向へ累積加算してできる第2累積加算画像と、
    前記比較画像上の特徴量を前記左右方向へ累積加算してできる第3累積加算画像と、
    前記対象画像上の特徴量を前記左右方向へ累積加算してできる第4累積加算画像とを作成しておき、
    前記2つの参照領域の相関の算出では、
    前記第1累積加算画像上で前記比較画像の参照領域の上下端に位置する2つのラインの差分を第1投影データとして取得し、
    前記第2累積加算画像上で前記対象画像の参照領域の上下端に位置する2つのラインの差分を第2投影データとして取得し、
    前記第3累積加算画像上で前記比較画像の参照領域の左右端に位置する2つのラインの差分を第3投影データとして取得し、
    前記第4累積加算画像上で前記対象画像の参照領域の左右端に位置する2つのラインの差分を第4投影データとして取得し、
    前記第1投影データ及び前記第2投影データの差分の大きさと、前記第3投影データ及び前記第4投影データの差分の大きさとの和を、前記2つの参照領域の相関とする
    ことを特徴とする画像処理プログラム。
  15. 比較画像と対象画像との間の動きベクトルを探索する画像処理装置であって、
    前記比較画像上の参照領域の位置と前記対象画像上の参照領域の位置とをずらしながら、それら2つの参照領域の相関を繰り返し算出する算出手段を含み、
    前記算出手段は、予め、
    前記比較画像上の特徴量を前記上下方向へ累積加算してできる第1累積加算画像と、
    前記対象画像上の特徴量を前記上下方向へ累積加算してできる第2累積加算画像と、
    前記比較画像上の特徴量を前記左右方向へ累積加算してできる第3累積加算画像と、
    前記対象画像上の特徴量を前記左右方向へ累積加算してできる第4累積加算画像とを作成しておき、
    前記2つの参照領域の相関の算出では、
    前記第1累積加算画像上で前記比較画像の参照領域の上下端に位置する2つのラインの差分を第1投影データとして取得し、
    前記第2累積加算画像上で前記対象画像の参照領域の上下端に位置する2つのラインの差分を第2投影データとして取得し、
    前記第3累積加算画像上で前記比較画像の参照領域の左右端に位置する2つのラインの差分を第3投影データとして取得し、
    前記第4累積加算画像上で前記対象画像の参照領域の左右端に位置する2つのラインの差分を第4投影データとして取得し、
    前記第1投影データ及び前記第2投影データの差分の大きさと、前記第3投影データ及び前記第4投影データの差分の大きさとの和を、前記2つの参照領域の相関とする
    ことを特徴とする画像処理装置。
  16. 被写体を連続的に撮像して複数の画像を取得することの可能な撮像手段と、
    請求項15に記載の画像処理装置と
    を備えたことを特徴とする撮像装置。
  17. 比較画像と対象画像との間の動きベクトル分布を推定する画像処理方法であって、
    前記比較画像と前記対象画像との間の動きベクトルを、前記対象画像のブロック毎に探索する探索手順と、
    前記探索手順によってブロック毎に探索された動きベクトルの中から少なくとも3つの代表動きベクトルを選出する選出手順と、
    前記選出手順で選出された少なくとも3つの代表動きベクトルの各ベクトル成分に基づき、前記画像上の動きベクトル分布の各ベクトル成分を、平面又は曲面で近似する近似手順とを含み、
    前記選出手順では、所定の条件を満たす3つの動きベクトルを前記3つの代表ベクトルとして選出し、
    前記近似手順では、前記画像上の前記動きベクトル分布の各ベクトル成分を、前記3つの代表ベクトルの各ベクトル成分が規定する各平面で個別に近似し、
    前記所定の条件は、{前記3つの動きベクトルの各々の探索元ブロックの座標同士を結んでできる三角形の面積}*{前記3つの動きベクトルの各々の探索元ブロックのエッジ量の総和}が最大、という条件である
    ことを特徴とする画像処理方法。
  18. 比較画像と対象画像との間の動きベクトル分布を推定する画像処理方法をコンピュータに実行させるための画像処理プログラムであって、
    前記比較画像と前記対象画像との間の動きベクトルを、前記対象画像のブロック毎に探索する探索手順と、
    前記探索手順によってブロック毎に探索された動きベクトルの中から少なくとも3つの代表動きベクトルを選出する選出手順と、
    前記選出手順で選出された少なくとも3つの代表動きベクトルの各ベクトル成分に基づき、前記画像上の動きベクトル分布の各ベクトル成分を、平面又は曲面で近似する近似手順とを含み、
    前記選出手順では、所定の条件を満たす3つの動きベクトルを前記3つの代表ベクトルとして選出し、
    前記近似手順では、前記画像上の前記動きベクトル分布の各ベクトル成分を、前記3つの代表ベクトルの各ベクトル成分が規定する各平面で個別に近似し、
    前記所定の条件は、{前記3つの動きベクトルの各々の探索元ブロックの座標同士を結んでできる三角形の面積}*{前記3つの動きベクトルの各々の探索元ブロックのエッジ量の総和}が最大、という条件である
    ことを特徴とする画像処理プログラム。
  19. 比較画像と対象画像との間の動きベクトル分布を推定する画像処理装置であって、
    前記比較画像と前記対象画像との間の動きベクトルを、前記対象画像のブロック毎に探索する探索手段と、
    前記探索手段によってブロック毎に探索された動きベクトルの中から少なくとも3つの代表動きベクトルを選出する選出手段と、
    前記選出手段で選出された少なくとも3つの代表動きベクトルの各ベクトル成分に基づき、前記画像上の動きベクトル分布の各ベクトル成分を、平面又は曲面で近似する近似手段とを備え、
    前記選出手段は、所定の条件を満たす3つの動きベクトルを前記3つの代表ベクトルとして選出し、
    前記近似手段は、前記画像上の前記動きベクトル分布の各ベクトル成分を、前記3つの代表ベクトルの各ベクトル成分が規定する各平面で個別に近似し、
    前記所定の条件は、{前記3つの動きベクトルの各々の探索元ブロックの座標同士を結んでできる三角形の面積}*{前記3つの動きベクトルの各々の探索元ブロックのエッジ量の総和}が最大、という条件である
    ことを特徴とする画像処理装置。
JP2007547880A 2005-11-30 2006-11-01 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置 Active JP5082856B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007547880A JP5082856B2 (ja) 2005-11-30 2006-11-01 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2005345715 2005-11-30
JP2005345715 2005-11-30
JP2007547880A JP5082856B2 (ja) 2005-11-30 2006-11-01 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置
PCT/JP2006/321904 WO2007063675A1 (ja) 2005-11-30 2006-11-01 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置

Publications (2)

Publication Number Publication Date
JPWO2007063675A1 JPWO2007063675A1 (ja) 2009-05-07
JP5082856B2 true JP5082856B2 (ja) 2012-11-28

Family

ID=38092012

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007547880A Active JP5082856B2 (ja) 2005-11-30 2006-11-01 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置

Country Status (5)

Country Link
US (1) US8526680B2 (ja)
EP (2) EP2204772A1 (ja)
JP (1) JP5082856B2 (ja)
DE (1) DE602006014723D1 (ja)
WO (1) WO2007063675A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2059027A4 (en) * 2006-09-14 2012-08-08 Nikon Corp IMAGE PROCESSING DEVICE, ELECTRONIC CAMERA, AND IMAGE PROCESSING PROGRAM
WO2008090730A1 (ja) * 2007-01-23 2008-07-31 Nikon Corporation 画像処理装置、電子カメラ、画像処理方法および画像処理プログラム
US8600189B2 (en) * 2007-11-12 2013-12-03 Qualcomm Incorporated Block-based image stabilization
US8130278B2 (en) * 2008-08-01 2012-03-06 Omnivision Technologies, Inc. Method for forming an improved image using images with different resolutions
TWI471521B (zh) * 2010-07-23 2015-02-01 Pixart Imaging Inc 位移估測方法及使用該方法之位移偵測裝置
JP5863273B2 (ja) * 2011-05-02 2016-02-16 キヤノン株式会社 画像処理装置、制御方法及びプログラム
US9020262B2 (en) 2012-07-31 2015-04-28 Hewlett-Packard Development Company, L.P. Symbol compression using conditional entropy estimation

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04180370A (ja) * 1990-11-14 1992-06-26 Matsushita Electric Ind Co Ltd 画像の動きベクトル検出装置及び揺れ補正装置
JPH05260264A (ja) * 1992-03-12 1993-10-08 Sharp Corp 画像処理装置
JP2002032735A (ja) * 2000-05-12 2002-01-31 Fuji Photo Film Co Ltd 画像の位置合わせ方法および装置
WO2004084141A1 (en) * 2003-03-18 2004-09-30 Koninklijke Philips Electronics N.V. Method and apparatus for optimally matching data sets
JP2004343483A (ja) * 2003-05-16 2004-12-02 Acutelogic Corp 手振れ補正装置および方法、手振れ検出装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5237405A (en) * 1990-05-21 1993-08-17 Matsushita Electric Industrial Co., Ltd. Image motion vector detecting device and swing correcting device
JP2940762B2 (ja) * 1993-06-28 1999-08-25 三洋電機株式会社 手振れ補正装置を有するビデオカメラ
JP2897761B2 (ja) * 1997-07-18 1999-05-31 日本電気株式会社 ブロック・マッチング演算装置及びプログラムを記録した機械読み取り可能な記録媒体
US20020015513A1 (en) * 1998-07-15 2002-02-07 Sony Corporation Motion vector detecting method, record medium on which motion vector calculating program has been recorded, motion detecting apparatus, motion detecting method, picture encoding apparatus, picture encoding method, motion vector calculating method, record medium on which motion vector calculating program has been recorded
US6284711B1 (en) * 1999-12-15 2001-09-04 Basf Corporation Use of a semicarbazone plant growth regulator for early termination of crop plants
JP3611507B2 (ja) * 2000-05-30 2005-01-19 松下電器産業株式会社 動きベクトル検出装置
US7227896B2 (en) * 2001-10-04 2007-06-05 Sharp Laboratories Of America, Inc. Method and apparatus for global motion estimation
FR2833797B1 (fr) * 2001-12-19 2004-02-13 Thomson Licensing Sa Procede d'estimation du mouvement dominant dans une sequence d'images
US7142718B2 (en) * 2002-10-28 2006-11-28 Lee Shih-Jong J Fast pattern searching
JP4730125B2 (ja) * 2006-02-22 2011-07-20 株式会社日立製作所 血流画像表示装置
US8130845B2 (en) * 2006-11-02 2012-03-06 Seiko Epson Corporation Method and apparatus for estimating and compensating for jitter in digital video
EP2141930A4 (en) * 2007-04-26 2011-03-23 Panasonic Corp MOTION DETECTION APPARATUS, MOTION DETECTION METHOD, AND MOTION DETECTION PROGRAM
JP5284048B2 (ja) * 2008-11-12 2013-09-11 キヤノン株式会社 画像処理装置、撮像装置及び画像処理方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04180370A (ja) * 1990-11-14 1992-06-26 Matsushita Electric Ind Co Ltd 画像の動きベクトル検出装置及び揺れ補正装置
JPH05260264A (ja) * 1992-03-12 1993-10-08 Sharp Corp 画像処理装置
JP2002032735A (ja) * 2000-05-12 2002-01-31 Fuji Photo Film Co Ltd 画像の位置合わせ方法および装置
WO2004084141A1 (en) * 2003-03-18 2004-09-30 Koninklijke Philips Electronics N.V. Method and apparatus for optimally matching data sets
JP2004343483A (ja) * 2003-05-16 2004-12-02 Acutelogic Corp 手振れ補正装置および方法、手振れ検出装置

Also Published As

Publication number Publication date
US8526680B2 (en) 2013-09-03
WO2007063675A1 (ja) 2007-06-07
EP2204772A1 (en) 2010-07-07
US20090052788A1 (en) 2009-02-26
JPWO2007063675A1 (ja) 2009-05-07
EP1956556A1 (en) 2008-08-13
EP1956556A4 (en) 2009-08-19
DE602006014723D1 (de) 2010-07-15
EP1956556B1 (en) 2010-06-02

Similar Documents

Publication Publication Date Title
JP5082856B2 (ja) 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置
JP3770271B2 (ja) 画像処理装置
JP4887374B2 (ja) ステレオビジョンにおいて散乱視差場を求める方法
KR100929085B1 (ko) 화상 처리 장치, 화상 처리 방법 및 컴퓨터 프로그램 기록매체
JP4815807B2 (ja) Rawデータから倍率色収差を検出する画像処理装置、画像処理プログラム、および電子カメラ
US20100007754A1 (en) Image processing device, electronic camera and image processing program
US10818018B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
US20110033132A1 (en) Image correction apparatus and image correction method
WO2013024703A1 (ja) 画像処理装置、画像処理方法、撮像装置、電子機器、及び、プログラム
JP6025467B2 (ja) 画像処理装置及び画像処理方法
JP6656035B2 (ja) 画像処理装置、撮像装置および画像処理装置の制御方法
JPWO2007074605A1 (ja) 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置
JP2010187348A (ja) 画像処理装置、画像処理方法、画像処理プログラム
JP2015036841A (ja) 画像処理装置、距離計測装置、撮像装置、画像処理方法
JP6494402B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
JP2004356747A (ja) 画像のマッチング方法および装置
JP6153318B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2016164709A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP3333012B2 (ja) 画像合成装置
JP2006215655A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
JP6604783B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
JP5683153B2 (ja) 画像処理装置および画像処理方法
JP5055571B2 (ja) 画像処理装置、電子カメラ、および画像処理プログラム
JP2008310418A (ja) 画像処理装置、画像処理プログラム及びそれらを搭載した電子カメラ
KR100674743B1 (ko) 화상 처리 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090924

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120709

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120807

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120820

R150 Certificate of patent or registration of utility model

Ref document number: 5082856

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150914

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150914

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250