JP4304911B2 - 動きベクトル検出装置及び方法 - Google Patents
動きベクトル検出装置及び方法 Download PDFInfo
- Publication number
- JP4304911B2 JP4304911B2 JP2002108319A JP2002108319A JP4304911B2 JP 4304911 B2 JP4304911 B2 JP 4304911B2 JP 2002108319 A JP2002108319 A JP 2002108319A JP 2002108319 A JP2002108319 A JP 2002108319A JP 4304911 B2 JP4304911 B2 JP 4304911B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- motion vector
- adjacent
- sum
- polarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
【発明の属する技術分野】
本発明は、動きベクトル修正装置及び方法に関し、特にブロックマッチング法において本来の動きに適合させた動きベクトルを検出可能な動きベクトル検出装置及び方法に関する。
0
【0002】
【従来の技術】
テレビ放送の走査方式としては、従来から水平走査線を1本おきに飛越して走査するインタレース走査方式が最も広く採用されている。このインタレース走査方式では、テレビジョン受像機側において、入力画像信号に動き補償型のフィールド周波数変換や走査変換を施すことにより、画面全体がちらついて見える面フリッカ妨害を抑え、動きのスムーズな変換画像を得ることができる。
【0003】
上述の動き補償型の変換を行うためには、入力された画像信号において、現フィールドである参照フィールドと、現フィールドから1フレーム前の基準フィールドとの間で差分を算出し、この算出した差分に基づいて動きベクトルの検出を行う。そして、基準フィールドと参照フィールドの中間に位置する動き補正フィールドにおいて、求めた動きベクトルに基づき画素をシフトさせる。ちなみに、この動きベクトルの検出は、一般に実用化されている方式として、ブロックマッチング法が一般的に用いられている。
【0004】
このブロックマッチング法では、図14に示すように、基準フィールド80を複数の基準ブロック101に分割し、基準フィールド80における基準ブロック101と最も高い相関度を示すブロックを、参照フィールド90における探索範囲104内を移動する探索ブロック103から検出する。そして当該検出された探索ブロック103と基準ブロック101間の位置のずれ(移動の方向と大きさ)を動きベクトルとする。
【0005】
上述の相関度の判定は、先ず探索ブロック103の各画素値について、基準ブロック101の対応する画素値との差分をとり、その差によって示される評価値、例えば差分絶対値和を求める。次に、上述の判定操作を全ての探索ブロック103について行い、それぞれ求めた評価値和、すなわち各差分絶対値和から最小のものを求める。この最小の差分絶対値和を与える探索ブロック103を、基準ブロック101と最も高い相関度を示すブロックとし、かかるブロックの原点の画素113と、基準ブロック101の原点の画素との間で特定することができるベクトルを動きベクトルとする。
【0006】
次に、この求めた動きベクトルのベクトル量、ベクトル方向に基づき、画素をシフトさせる量やシフト方向を決定する。そして基準フィールド80、参照フィールド90の中間に位置する動き補正フィールド100において、基準ブロックの原点の画素位置から決定したシフト量等に応じて画素をシフトさせる(或いは、画素113の画素位置からシフト量の分だけ、シフト方向へ画素をシフトさせる)。ここで、シフト量を、動きベクトルのベクトル量の1/2とすれば、動き補正フィールド100においてシフトさせる画素の画素位置は、基準フィールド80における画素位置と、参照フィールド90における画素位置の中央になる。すなわち、基準フィールド80から参照フィールド90へ続く画素の動きがスムーズになるような、動き補正フィールドを挿入することができるため、画面品質の劣化を防止したインタレース画像を作り出すことが可能となる。
【0007】
【発明が解決しようとする課題】
しかしながら、上述した従来のブロックマッチング法は、画面全体に表示される本来の画像の動きに関係なく、単に基準ブロックと誤差の総和が最小となる探索ブロックを最優先して動きベクトルを求めるため、実際の画像の動きと無関係な動きベクトルが求まり、変換画像の画質が劣化する場合がある。
【0008】
0 また例えば、図15(a)に示すように、殆ど左右対称なラインαと、ラインβの二つの縦ラインを有する”u”の文字を右から左へ水平方向にシフトさせる場合に、原点に存在するラインαを構成する一の画素につき差分絶対値和を求めると、図15(b)に示すように、極小点が2箇所生じる。これは原点に存在するラインαを構成する画素201が、参照フィールド上においてAの位置202と相関度が高く、またラインβを構成する画素が参照フィールド上においてBの位置203と相関度が高いため、A,B2箇所で差分絶対値和が小さくなるためである。
【0009】
このため、”u”の左右対称な文字を右から左へ水平方向にシフトさせる場合に、従来のブロックマッチング同様に動きベクトルを求めると、最小となる差分絶対値和を示す画素としてAの位置にシフトしたラインαを構成する画素以外に、Bの位置にシフトしたラインβの画素が求まる場合もあり、動きベクトルの方向が局所的に逆転する。
【0010】
従って、殆ど左右対称な”u”や”H”等の文字について、動きベクトルの水平成分を揃えることにより、画質の劣化を抑える必要があり、特に情報を水平方向へ随時シフトさせるケースが増えた近年のテレビジョン放送において、かかる画質改善の要請は高まっている。
【0011】
更に、ブロックマッチング法の下、求める動きベクトルを実際の画像の動きに適合するようにしても、全体的に動きベクトルがばらつく場合もあり、領域単位での処理破綻の原因となる。このため、実際の画像の動きと無関係な動きベクトルのベクトル方向を修正することにより、動きベクトルのばらつきを解消する必要があった。
【0012】
そこで本発明は、上述したような実情に鑑みて提案されたものであり、実際の画像の動きに適合した動きベクトルを求めることができる動きベクトル検出装置及び方法を提供することを目的とする。
【0013】
【課題を解決するための手段】
本発明は、上述の課題を解決するため、入力される参照フィールドから1フレーム前の基準フィールドの基準画素につき、ブロックマッチング法により動きベクトルを検出する動きベクトル検出装置において、基準フィールドから切り出した基準画素を原点とする基準ブロックと、参照フィールドから切り出した探索範囲内を移動する探索ブロックとの間で、画素値の差分絶対値和を順次演算する演算手段と、上記演算した差分絶対値和の中から上記探索範囲において最小となる差分絶対値和と画素位置と、ライン極小値と称する上記探索範囲の垂直成分に対応する水平ライン毎に最小となる差分絶対値和と画素位置とを識別し、探索範囲において最小となる上記差分絶対値和と、基準画素の垂直負方向に隣接する画素の動きベクトルの垂直成分に対応するライン極小値との差分絶対値を求め、比較する比較手段と、上記比較手段により求めた上記差分絶対値が閾値より小さい場合に、上記基準画素における動きベクトルの垂直成分を、上記隣接する画素の動きベクトルの垂直成分に合致するように特定し、上記基準画素における動きベクトルの水平成分を、特定した上記垂直成分に対応するライン極小値をもつ画素位置の水平成分に特定し、上記比較手段により求めた上記差分絶対値が閾値以上の場合は、上記探索範囲において最小となる差分絶対値和の画素位置を動きベクトルと特定する第1の動きベクトル特定手段と、上記演算した差分絶対値和から上記探索範囲内において、上記基準画素を原点とした水平方向の正領域及び負領域毎に差分絶対値和の最小値と画素の座標を識別し、上記探索範囲内において最小となる差分絶対値和を示す画素の座標を識別する識別手段と、上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と異なるかどうかを判定し、かつ、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が小さいかどうかを判定する判定手段と、上記判定手段により上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と異なり、かつ、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が閾値以下と判定したとき、上記隣接する画素の動きベクトルの水平成分が正の極性を持つ場合は上記正領域の差分絶対値和の最小値となる画素の座標を上記基準画素の動きベクトルと特定し、上記隣接する画素の動きベクトルの水平成分が負の極性を持つ場合は上記負領域の差分絶対値和の最小値となる画素の座標を上記基準画素の動きベクトルと特定し、上記判定手段により上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と同じ、又は、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が閾値よりも大きいと判定したときは、上記探索範囲内において最小となる差分絶対値和を示す画素の位置を上記基準画素の動きベクトルと特定する第2の動きベクトル特定手段と、上記第1の動きベクトル特定手段により特定された基準画素の動きベクトルと、上記第2の動きベクトル特定手段により特定された基準画素の動きベクトルのうち、いずれか一の動きベクトルを選択するベクトル選択手段とを備えることを特徴とする。
【0014】
また、本発明は、上述の課題を解決するため、入力される参照フィールドから1フレーム前の基準フィールドの基準画素につき、ブロックマッチング法により動きベクトルを検出する動きベクトル検出方法において、基準フィールドから切り出した基準画素を原点とする基準ブロックと、参照フィールドから切り出した探索範囲内を移動する探索ブロックとの間で、画素値の差分絶対値和を順次演算し、上記演算した差分絶対値和の中から上記探索範囲において最小となる差分絶対値和と画素位置と、ライン極小値と称する上記探索範囲の垂直成分に対応する水平ライン毎に最小となる差分絶対値和と画素位置とを識別し、探索範囲において最小となる上記差分絶対値和と、基準画素の垂直負方向に隣接する画素の動きベクトルの垂直成分に対応するライン極小値との差分絶対値を求め、比較し、上記比較した結果、上記差分絶対値が閾値より小さい場合に、上記基準画素における動きベクトルの垂直成分を、上記隣接する画素の動きベクトルの垂直成分に合致するように特定し、上記基準画素における動きベクトルの水平成分を、特定した当該垂直成分に対応するライン極小値をもつ画素位置の水平成分に特定し、上記比較した結果、上記差分絶対値が閾値以上の場合は、上記探索範囲において最小となる差分絶対値和の画素位置を動きベクトルと特定した第1の動きベクトルと、上記演算した差分絶対値和から上記探索範囲内において、上記基準画素を原点とした水平方向の正領域及び負領域毎に差分絶対値和の最小値と画素の座標を識別し、上記探索範囲内において最小となる差分絶対値和を示す画素の座標を識別し、上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と異なるかどうかを判定し、かつ、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が小さいかどうかを判定し、上記判定により上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と異なり、かつ、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が閾値以下と判定したとき、上記隣接する画素の動きベクトルの水平成分が正の極性を持つ場合は上記正領域の差分絶対値和の最小値となる画素の座標を上記基準画素の第2の動きベクトルと特定し、上記隣接する画素の動きベクトルの水平成分が負の極性を持つ場合は上記負領域の差分絶対値和の最小値となる画素の座標を上記基準画素の第2動きベクトルと特定し、上記判定により上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と同じ、又は、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が閾値よりも大きいと判定したときは、上記探索範囲内において最小となる差分絶対値和を示す画素の位置を上記基準画素の第2の動きベクトルと特定し、上記特定された第1の動きベクトルと、上記特定された第2の動きベクトルの動きベクトルのうち、いずれか一の動きベクトルを選択することを特徴とする。
【0015】
この動きベクトル検出装置及び方法は、基準ブロックと探索ブロックとの間で演算した差分絶対値和の分布傾向を識別し、基準画素の垂直負方向に隣接する画素について予め識別された差分絶対値和の分布傾向と比較した上で、第1の動きベクトルを隣接する画素の動きベクトルに応じて特定し、また基準ブロックと探索ブロックとの間で演算した差分絶対値和の分布の傾向及び探索範囲内において差分絶対値和が最小となる画素についての基準画素の左側に隣接する画素の動きベクトルに基づく相対的な位置に応じて第2の動きベクトルを特定し、特定された第1の動きベクトル及び第2の動きベクトルの動きベクトルのうちいずれか一の動きベクトルを選択する。
【0016】
【発明の実施の形態】
以下、本発明の実施の形態について説明する。
【0017】
本発明は、例えば入力画像信号に対して補間処理を施すことにより、奇数番目の走査線から構成されるフィールド画像と偶数番目の走査線から構成されるフィールド画像により1枚のインタレース画像を形成するテレビジョン受像機に内蔵される。
【0018】
図1は、本発明を適用した動きベクトル検出装置1の構成図を示している。この動きベクトル検出装置1は、画像格納用メモリ11と、誤差演算部12と、比較処理部13と、第1の動きベクトル検出部14と、識別処理部15と、第2の動きベクトル検出部16と、ベクトル選択部17と、ベクトル格納用メモリ18と、動きベクトル修正部19と、動きベクトル検出装置1全体の制御等を行なう制御部20とを備えている。
【0019】
画像格納用メモリ11は、順次供給される入力画像信号を所定のアドレスに格納する。
【0020】
誤差演算部12は、画像格納用メモリ11に格納されている入力画像信号において制御部20から受け取った座標を原点とする画素ブロックを切り出して、ブロック毎の差分絶対値和を順次演算する。またこの誤差演算部12は、演算した差分絶対値和を比較処理部13及び識別処理部15へ送信する。
【0021】
比較処理部13は、誤差演算部12から送信されたブロック毎の差分絶対値和の分布傾向等を識別する。
【0022】
第1の動きベクトル検出部14は、比較処理部13における識別結果に応じて、一の動きベクトルを特定する。この第1の動きベクトル検出部14により特定された動きベクトルを、以下第1の動きベクトルと称する。
【0023】
識別処理部15は、誤差演算部12から送信されたブロック毎の差分絶対値和の分布傾向等を識別する。
【0024】
第2の動きベクトル検出部16は、識別処理部15における識別結果に応じて、一の動きベクトルを特定する。この第2の動きベクトル検出部16により特定された動きベクトルを、以下第2の動きベクトルと称する。
【0025】
ベクトル選択部17は、第1の動きベクトル検出部14から送信される第1の動きベクトルと、第2の動きベクトル16から送信される第2の動きベクトルのうちいずれか一の動きベクトルを選択する。ベクトル選択部17は、この選択した動きベクトルをベクトル格納用メモリ18へ送信する。
【0026】
ベクトル格納用メモリ18は、ベクトル選択部17により送信された動きベクトルを各画素毎に格納する。ちなみに、このベクトル格納用メモリ18に格納された動きベクトルは、第1の動きベクトルや第2の動きベクトルに読み出される場合もある。
【0027】
動きベクトル修正部19は、画素毎に求められた動きベクトルの中から、動きベクトルのばらつき具合を精査し、実際の画像の動きと無関係な動きベクトルが求められている画素(以下、この画素を修正画素と称する)の動きベクトルを修正する。なお本発明に係る動きベクトル検出装置1は、この動きベクトル修正部19を割愛した構成を採用しても良い。
【0028】
次に本発明を適用した動きベクトル検出装置1の動作について説明する。先ず誤差演算部12の動作について説明をする。図2は、画像格納用メモリ11に書き込まれる画像信号としての現フィールドである参照フィールドと、現フィールドから1フレーム前の基準フィールド30の位置関係を示している。基準フィールド30における基準ブロック51と、参照フィールド40における探索ブロック53はそれぞれ、M×Nの画素のサイズで表される。探索ブロック53の探索範囲54は任意に設定される。
【0029】
誤差演算部12は、基準フィールド30を複数の基準ブロック51に分割し、基準フィールド30における基準ブロック51と、参照フィールド40における探索範囲54内を移動する探索ブロック53との間で相関度を判定する。相関度の判定は、先ず探索ブロック53の各画素値について、基準ブロック51の対応する画素値との差分をとり、その差によって示される評価値、例えば差分絶対値和を求める。次に、上述の判定を探索範囲54内の全ての探索ブロック53について行い、差分絶対値和を順次演算する。
【0030】
次に比較処理部13及び第1の動きベクトル検出部14の動作について説明する。この比較処理部13及び第1の動きベクトル検出部14は、上述のブロックマッチングにより求めた差分絶対値和に基づき、以下のコンセプトから第1の動きベクトルを特定する。
【0031】
図3は、探索範囲54内に割り当てられた全探索ブロック53について求めた差分絶対値和の分布傾向の一例を示している。この図3より、差分絶対値和の大きい領域は、基準ブロック51と探索ブロック53との画素値が著しく異なる領域である。一方、凹部を形成している差分絶対値の小さい領域は、基準ブロック51と探索ブロック53との画素値の相関度が高い領域である。すなわち画素値の相関度が高い領域に対して動きベクトルを特定することで、高画質化、高解像度化を実現することができる。
【0032】
探索範囲54は、垂直成分(ys)に対応した水平ラインが割り当てられている。各水平ラインは、それぞれ差分絶対値の極小値を有し、これらの極小値が上述した差分絶対値の低い領域を形成している。以下、これらの水平ライン毎の極小値をライン極小値と称する。
【0033】
また、通常のブロックマッチング同様に探索範囲54全体の中から特定した差分絶対値和の極小値を領域極小値と称する。すなわち各ライン極小値の中で最小となる差分絶対値和は、この領域極小値に相当する。図3において示されるように、黒丸で示した領域極小値は、他のライン極小値と比較しても大差無い。このため、この領域極小値を示す画素の代わりに、ライン極小値を示す画素について、基準ブロック51の原点の画素との間で動きベクトルを特定しても、画質や解像度にほとんど影響が及ばないことになる。
【0034】
従って、第1の動きベクトル検出部14は、かかる性質に着目し、ライン極小値を有する画素の中から本来の画像の動きに最も適合する画素を選択し、基準ブロック51の原点の画素との間で第1の動きベクトルを特定する。
【0035】
次に、第1の動きベクトルを検出する手順について、図4を用いて詳細に説明する。
【0036】
先ずステップS11において、誤差演算部12において求められた差分絶対値和を順次抽出する。探索範囲54内部を移動する全ての探索ブロック53につき差分絶対値和を抽出した後、ステップS12に移行する。
【0037】
ステップS12では、算出した差分絶対値和の中から先ず領域極小値を選び出し、当該領域極小値を示す画素の座標を特定する。
【0038】
次にステップS13へ移行し、算出した差分絶対値和の中から、水平ライン毎にライン極小値を選び出し、当該ライン極小値を示す画素の座標を特定する。
【0039】
次にステップS14へ移行し、基準ブロック51の原点の画素から垂直負方向に隣接する画素(以下、この画素を隣接画素と称する)に基づいて本来の画像の動きを識別するため、動きベクトルに関する情報を取得する。すなわち、この隣接画素の動きベクトル、及び当該動きベクトルに基づくライン極小値を、隣接画素情報として取得することにより、本来の画像の動きを識別することができる。ちなみに、この隣接画素の動きベクトルに基づくライン極小値は、隣接画素と、隣接画素から動きベクトル分ずらした(参照フィールド40における)水平ラインにおけるライン極小値である。以下このライン極小値を、候補ライン極小値Kと称する。
【0040】
次にステップS15に移行し、先ず候補ライン極小値Kと領域極小値との差分絶対値を求める。基準ブロック51の原点の画素の動きベクトルを、隣接画素の動きベクトルに合わせることにより、本来の画像の動きに適合させるためには、基準ブロック51の原点の画素と隣接画素の動きのパターンが類似している必要がある。このためには、両者のライン極小値の配列傾向(差分絶対値和の分布傾向)が類似していることが条件となる。このライン極小値の配列傾向が類似しているか否か判別するために、候補ライン極小値Kと領域極小値の差分絶対値を求めて比較を行う。
【0041】
このステップS15において、求めた候補ライン極小値Kと領域極小値との差分絶対値が所定の閾値より大きい場合には、隣接画素と、基準ブロック51の原点の画素におけるライン極小値の配列傾向が異なることを示唆しており、かかる場合にはステップS16へ移行する。また求めた候補ライン極小値Kと領域極小値との差分絶対値がが所定の閾値より小さい場合には、隣接画素と、基準ブロック51の原点の画素におけるライン極小値の配列傾向が類似していることを示唆しており、かかる場合にはステップS17に移行する。なお、この所定の閾値は、動きベクトルのばらつき具合を考慮して任意に設定される。
【0042】
ステップS16に移行した場合には、隣接画素の動きベクトルに合わせても本来の画像の動きに適合させることができないため、通常のブロックマッチング法と同様に、基準ブロック51と最も高い相関度を示す探索ブロック53により動きベクトルを求める。すなわち、領域極小値を有する画素と、基準ブロック51の原点の画素との間で求める動きベクトルを特定する。
【0043】
ステップS17に移行した場合に、求める第1の動きベクトルを隣接画素の動きベクトルに合わせる。すなわち、求める第1の動きベクトルの水平成分、垂直成分をそれぞれ(Vx、Vy)とし、また隣接画素の動きベクトルの水平成分、垂直成分をそれぞれ(Vxu、Vyu)としたときに、Vyについては、Vy=Vyuとなるように設定する。すなわち、原点の座標から垂直方向にVyだけ移動させた水平ライン上においてライン極小値を有する画素へ動くように動きベクトルを合わせる。図5に示す例において、Vyu=+1である場合には、原点の座標からVyだけ移動させた水平ラインは、ys=+1の水平ラインである。この水平ラインにおけるライン極小値を有する画素の水平成分は、xs=−2である。従って、動きベクトルは、水平成分Vxが−2であり垂直成分Vyが+1として特定されることとなる。
【0044】
すなわち、第1の動きベクトル検出部14は、求める第1の動きベクトルの垂直成分を隣接画素の動きベクトルに合致させ、求める第1の動きベクトルの水平成分を、特定した垂直成分に対応する水平ライン上においてライン極小値を有する画素に応じて求める。この第1の動きベクトルを求めることにより、動きベクトルそのもののばらつきを解消することにより本来の画像の動きに適合させることができるため、動きベクトルのばらつきを抑えることができ、ひいては変換画像の劣化を防止することができる。
【0045】
次に識別処理部15及び第2の動きベクトル検出部16の動作について説明する。この識別処理部15及び第2の動きベクトル検出部16は、上述のブロックマッチング法により求めた差分絶対値和に基づき、以下のコンセプトから第2の動きベクトルを特定する。
【0046】
本来の画像の動きを識別するために、左隣の画素の動きベクトルを本来の画像の動きを識別するためのパラメータとして読み出す。そして図6に示すように、動きベクトルを求める画素35(基準ブロック51の原点の画素)の左隣に位置する画素34において求められている動きベクトルが正確なものであると仮定する。実際には、画素35の動きベクトルの方向を、該左隣に位置する画素34の動きベクトルに合わせる。このようにして求められた画素35の動きベクトルも正確なものとなるため、さらに画素36の動きベクトルを求める際に、画素35を参酌することができ、動きベクトルの正確性を担保することが可能となる。
【0047】
次に第2の動きベクトルを特定する手順について図7に基づいて詳細に説明する。まずステップS21において、誤差演算部12において求められた差分絶対値和を抽出する。このステップS21において、探索範囲54内部を移動する全ての探索ブロック53につき差分絶対値和を抽出した後、ステップS22に移行する。
【0048】
ステップS22では、探索範囲54において領域極小値を示す画素を選別し、当該画素の座標を特定する。この領域極小値を示す画素の座標を(xs_min、ys_min)とする。
【0049】
次にステップS23へ移行し、図6に示すように、探索範囲54を、基準ブロックの原点の画素35を中心とした正領域56と、負領域57に分割する。そして分割した正領域56と負領域57毎に、差分絶対値和の極小値を選別し、当該画素の座標を特定する。以下、差分絶対値和の正領域における極小値を正領域極小値と称し、また差分絶対値和の負領域の極小値を負領域極小値と称する。すなわち、求めた領域極小値は、正領域極小値或いは負領域極小値のいずれかと一致することとなる。
【0050】
次にステップS24へ移行し、基準ブロック51の原点の画素35の左隣の画素34において求められた動きベクトルの情報を取得する。すなわち、この左隣の画素34の動きベクトル、及び当該動きベクトルに基づく差分絶対値和を、隣接画素情報として取得することにより、本来の画像の動きを識別することができる。
【0051】
次にステップS25へ移行し、領域極小値を示す画素の位置を、画素34において求められた動きベクトルに基づき、相対的に判定する。具体的には、領域極小値を示す画素のx座標(xs_min)と、画素34において求められた動きベクトルの水平成分(以下、Vx_lと称する)との積を求め、正か負かを識別することにより、両者の位置関係を把握する。
【0052】
図8の例は、左隣の画素34の動きベクトルにおける水平成分Vx_lが、負の極性を有する場合について示している。ここで領域極小値を示す画素のxs_minの極性が負の場合には、正確性が担保された左隣の画素34の動きベクトルと水平成分が揃う。このため、かかる領域極小値を示す画素と原点の画素34との間で動きベクトルを特定しても動きベクトルがばらつくことはなくなる。従って、求めた積が0以上の場合は、ステップS26へ移行し、通常のブロックマッチング法と同様に動きベクトルを求める。なお、水平成分Vx_lが、正の極性を有する場合についても同様に積を求めることにより、両者の位置関係を把握することができる。
【0053】
一方、領域極小値を示す画素の水平成分xs_minの極性が正の場合には、図9に示すように、左隣の画素34の動きベクトルと水平成分が逆方向になるため、ステップS28へ移行し、以下に説明するように動きベクトルを特定することで両者の水平成分を揃える。これにより、正領域極小値或いは負領域極小値を有する画素の中から、左隣の画素34における動きベクトルの水平成分に適合する画素を選択し、原点の画素35との間で動きベクトルを特定することができる。
【0054】
すなわち、このステップS28以下に示す動きベクトルの特定において、原点の画素35との間で動きベクトルを求める画素を、正領域極小値或いは負領域極小値を示す画素のいずれから選び出す。そして選び出した負領域極小値或いは正領域極小値を示す画素と、原点の画素35との間で動きベクトルを特定する。なお、正領域極小値を示す画素或いは負領域極小値を示す画素から一の画素を選び出すため、両者間の差分絶対値和の格差が小さいことが望ましい。このため、ステップS27において、正領域極小値と負領域極小値を比較し、格差が小さい場合のみステップS28へ移行し、上述の動きベクトルの特定を行なっても良い。なお、この正領域極小値と負領域極小値の比較は、例えば、正領域極小値と負領域極小値の差分絶対値を求め、当該差分絶対値が閾値を下回る場合のみにステップS28へ移行しても良い。
【0055】
ステップS28以下における動きベクトルの特定は、具体的に次の手順により行う。先ずVx_lが0以上か否か判定する。Vx_lが0以上の場合には、正領域極小値を示す画素の座標を、上述の領域最小値を示す画素の座標(xs_min、ys_min)として定義し直す。一方、Vx_lが0より小さい場合には、負領域極小値を示す画素の座標を、上述の領域最小値を示す画素の座標(xs_min、ys_min)として定義し直す。
【0056】
ステップS29では、定義し直した座標(xs_min、ys_min)と原点の座標との間で動きベクトルを特定する。
【0057】
ちなみに、求めた差分絶対値が閾値を越える場合において上述したステップS28,29の処理を進めると却って画質の低下等の不都合を生じるため、ステップS26へ移行して、通常のブロックマッチング法と同様に動きベクトルを求める。
【0058】
すなわち、この第2の動きベクトル検出部16は、正領域極小値或いは負領域極小値を有する画素の中から、左隣の画素34の水平成分の極性に適合する画素を選択し、当該選択した画素と原点の画素との間で第2の動きベクトルを求める。この第2の動きベクトルを求めることにより、差分絶対値和の極小点が複数生じるような、左右対称な"u"や"H"の文字等についても動きベクトルの水平成分を揃えることができ、画質の劣化を抑えることが可能となり、ひいては情報を水平方向へ随時シフトさせる場合が増えた近年の放送のニーズに応えることができる。
【0059】
ちなみに、ベクトル選択部17は、上述のように求められた第1の動きベクトル及び第2の動きベクトルのうち、所定の優先順位に従って一のベクトルを選択する。この所定の優先順位を、例えば本来の画像の動きに適合するような動きベクトルを優先して選択するようにすれば、更に動きベクトルのばらつきを解消することができ、更なる高画質化を期待することができる。
【0060】
次に、動きベクトル修正部19の処理手順について図10を用いて説明する。すなわち、この図10に示す処理手順では、各画素毎に選択された動きベクトルが格納されているベクトル格納用メモリ18から、実際の画像の動きと無関係な動きベクトルが求められている画素(以下、この画素を修正画素と称する)を抽出し、当該修正画素に隣接する修正隣接画素の動きベクトルに適合させるものである。
【0061】
まず、動きベクトル修正部19は、ステップS31において各変数を初期化し、次にステップS32において、図11に示す隣接画素A〜Hの中から最初の修正隣接画素(例えば修正隣接画素A)における動きベクトルを抽出する。
【0062】
次に、動きベクトル修正部19は、ステップS33において、修正隣接画素における動きベクトルの水平成分の極性Vx_iを識別し、当該極性がプラスであればステップS34へ移行し、当該極性がマイナスであればステップS35へ移行する。
【0063】
ステップS34において、動きベクトル修正部19は、図示しないカウンタCnt_pに1を加算し、また抽出した動きベクトルの水平成分を、修正隣接画素の水平成分の和Vx_ave_pへ、また当該動きベクトルの垂直成分を垂直成分の和Vy_ave_pへ加算し、ステップS36へ移行する。
【0064】
ステップS35において、動きベクトル修正部19は、図示しないカウンタCnt_mに1を加算し、また抽出した動きベクトルの水平成分を、修正隣接画素の水平成分の和Vx_ave_mへ、当該動きベクトルの垂直成分を垂直成分の和Vy_ave_mへ加算し、ステップS36へ移行する。
【0065】
ステップS36において、動きベクトル修正部19は、ステップS33で識別した修正隣接画素が、抽出すべき隣接画素A〜Hのうち最後の修正隣接画素か否か識別する。最後の修正隣接画素であればステップS38へ移行する。最後の修正隣接画素でなければステップS37へ移行する。
【0066】
ステップS37において、動きベクトル修正部19は、次の修正隣接画素の動きベクトル(例えば修正隣接画素B)を抽出し、再度ステップS33へ移行する。このルーチンを組むことにより、図11に示す修正隣接画素A〜H全てについて動きベクトルの識別をすることが可能となる。また修正隣接画素A〜H全てについて動きベクトルを識別して、ステップS38に移行する際には、カウンタCnt_pにおいて、動きベクトルの水平成分の極性がプラスである修正隣接画素の個数が、またカウンタCnt_mにおいて、動きベクトルの水平成分の極性がマイナスである修正隣接画素の個数が示されることとなる。さらに、動きベクトルの水平成分の極性がプラスである修正隣接画素における水平成分の和Vx_ave_p、垂直成分の和Vy_ave_pが求められており、また動きベクトルの水平成分の極性がマイナスである修正隣接画素における水平成分の和Vx_ave_m、垂直成分の和Vy_ave_mが求められることになる。
【0067】
ちなみに、ステップS37において、修正隣接画素A〜Hの抽出する順は時計回り、或いは反時計回りであっても良いし、ランダムであっても良い。また抽出する修正隣接画素は、修正隣接画素A〜H全て抽出しなくても良く、例えば、上段の修正隣接画素A〜C、修正隣接画素B,D,E、又は、修正隣接画素A,B,C,D,Eであっても良い。
【0068】
ステップS38に移行すると、動きベクトル修正部19は、カウンタCnt_pとカウンタCnt_mの数値を比較する。その結果、カウンタCnt_pがより大きい場合には、修正隣接画素のうち、動きベクトル水平成分の極性がプラスである修正隣接画素の方が多いことが示され、ステップS39へ移行する。また、カウンタCnt_mがより大きい場合には、修正隣接画素のうち、動きベクトルの水平成分の極性がマイナスである修正隣接画素の方が多いことが示され、ステップS40へ移行する。
【0069】
ステップS39では、動きベクトルの水平成分の極性がプラスである修正隣接画素に基づき、基準画素における修正動きベクトルを求める。この修正動きベクトルの各成分(Vx_n、Vy_n)は、水平成分の極性がプラスである修正隣接画素の各成分の平均値とする。具体的には以下の式に基づき算出する。
【0070】
Vx_n=Vx_ave_p/Cnt_p
Vy_n=Vy_ave_p/Cnt_p
また、ステップS40では、動きベクトルの水平成分の極性がマイナスである修正隣接画素に基づき、基準画素における修正動きベクトルを求める。この修正動きベクトルの各成分(Vx_n、Vy_n)は、水平成分の極性がマイナスである修正隣接画素の各成分の平均値とする。具体的には以下の式に基づき算出する。
【0071】
Vx_n=Vx_ave_m/Cnt_m
Vy_n=Vy_ave_m/Cnt_m
すなわち、動きベクトル修正部19は、上述した図10に示す処理手順を踏むことにより、修正画素の動きベクトルを、修正隣接画素の動きベクトルのベクトル方向をカウントし、多数の修正隣接画素が示すベクトル方向に合うように修正することができる。換言すれば、修正画素の周囲に位置する修正隣接画素の動きベクトルの方向を多数決し、多い方の動きベクトルの方向を実際の画像の動きであるものと推定して、修正画素の動きベクトルのベクトル方向を修正することができる。また、ベクトル選択部17により、求める動きベクトルを実際の画像の動きに適合するようにしても、全体的に動きベクトルがばらつく場合に、ベクトルの方向を修正することができる。これにより、求められる動きベクトルのばらつきを更に解消することが可能となり、ひいては変換画像の劣化を防止することができる。
【0072】
ちなみに本発明は、画素単位の処理に限定されるものではなく、ブロック単位の処理にも適用可能である。この場合、基準画素位置を所定の画素数からなる基準ブロックに代替し、また隣接画素位置を所定の画素数からなり、基準ブロックに隣接する隣接ブロックに代替しても良い。
【0073】
なお、本発明を適用した動きベクトル検出装置1は、上述した実施の形態に限定されるものではない。例えば図12に示すように、誤差演算部12の代替として、制約項演算部22を設けても良い。
【0074】
制約項演算部22は、画像格納用メモリ11に格納されている入力画像信号から制御部20から受け取った座標を原点とする画素ブロックを切り出し、例えばブロックマッチング法等に基づき、ブロック毎の差分絶対値和を順次演算する。また、この制約項演算部22は、探索ブロック53を構成する画素の位置、及び基準画素に隣接する画素の動きベクトルに基づいて制約項を算出し、当該制約項を差分絶対値和に加算する。
【0075】
ちなみに、この制約項は以下のコンセプトに基づいて求められる。本来の画像の動きを識別するために、左隣の画素の動きベクトルを本来の画像の動きを識別するためのパラメータとして、ベクトル格納用メモリ18から読み出す。そして、図6に示す動きベクトルを求める画素35(基準ブロック51の原点の画素)の左隣に位置する画素34において求められている動きベクトルが正確なものであると仮定する。実際には、画素35の動きベクトルの方向を、該左隣に位置する画素34の動きベクトルに合うように制約項を求める。このようにして求められた画素35の動きベクトルも正確なものとなるため、さらに画素36の動きベクトルを求める際に、画素35を参酌して制約項を設定することができ、動きベクトルの正確性を担保することが可能となる。
【0076】
この制約項演算部22における制約項の演算方法について図13を用いて説明をする。
【0077】
先ずステップS41において、基準フィールド30における基準ブロック51と、参照フィールド40における探索範囲54内部を移動する探索ブロック53との間で、差分絶対値和D(xs、ys)を順次演算する。ちなみにxs、ysは、探索ブロック53の中心座標を示している。
【0078】
ステップS42では、探索ブロック53の中心座標(xs、ys)に応じて、制約項G(xs、ys)を求める。このステップS42において、先ず、動きベクトル格納用メモリ14に格納されている隣接画素情報を読み出し、左隣の画素34の動きベクトルの水平成分Vx_lを抽出する。そして、探索範囲54における画素(xs、ys)を、左隣の画素34において求められた動きベクトルの水平成分Vx_lとの関係において求める。具体的には、探索範囲54における画素の水平成分xsと、画素34において求められた動きベクトルの水平成分(以下、Vx_lとする)との積(=xs×Vx_l)を求め、正か負かを識別することにより、両者の位置関係を把握する。積が正であれば探索範囲54における画素の水平成分xsの極性と、隣接する画素34における動きベクトルの水平成分Vx_lの極性は等しく、積が負であれば両者の極性は異なる。
【0079】
ここでxs×Vx_l<0の場合には、G(xs、ys)=αとする(αは正数とする)。一方、xs×Vx_l≧0の場合は、G(xs、ys)=0とする。この制約項G(xs、ys)を演算した後、ステップS43へ移行する。
【0080】
ステップS43では、以下の(12)式に基づいて、修正差分絶対値和S(xs、ys)を求める。
【0081】
S(xs、ys)=D(xs、ys)+G(xs、ys) (12)
この修正差分絶対値は、差分絶対値和D(xs、ys)に、上述のステップS42において求められた制約項G(xs、ys)が加算されている。制約項G(xs、ys)は、探索範囲54における画素の水平成分が、左隣の画素34において求められた動きベクトルの水平成分Vx_lと極性が異なる場合に正数αとして表される。このため、xsとVx_lの極性が異なる場合には正数αが加算されるため、かかる極性が同一の場合と比較して、修正差分絶対値和S(xs、ys)は大きくなる。
【0082】
このようにして求められた修正差分絶対値和S(xs、ys)は、xsとVx_lの極性が異なる場合において大きく、xsとVx_lの極性が同一になる場合において小さい。このため、探索範囲54において最小となる修正差分絶対値和minS(xs、ys)を求めることにより、修正差分絶対値和が相対的に小さくなる画素、すなわちVx_lと極性が同一となる画素において動きベクトルが与えられる可能性が高くなる。
【0083】
従って、誤差演算部12の代替として、制約項演算部22を設けることにより、求めることができる動きベクトルの水平成分は、左隣の画素34の動きベクトルにおける水平成分Vx_lと同一の極性を示す可能性が高くなる。このため、左隣の画素34の動きベクトルの水平成分に適合した動きベクトルを求めることが可能となる。すなわち、制約項演算部22を備える動きベクトル検出装置1は、実際の画像の動きに更に適合した動きベクトルを求めることができ、動きベクトルのばらつきを更に改善することができ、変換画像の劣化をより改善できる。
【0084】
また本発明は、例えばPAL(Phase Alternation by Line)方式において、フィールド周波数を50Hzから2倍の100Hzの画像信号に変換する、フィールド周波数倍速方式を採用するテレビジョン受像機に対しても適用可能である。このフィールド周波数倍速方式を採用するテレビジョンに本発明を内蔵することにより、更なる面フリッカ妨害の抑制を期しつつ、動きベクトルのばらつきを解消することができるため、相乗的に画質を向上させることができる。
【0085】
本発明は上述したインタレース走査方式における入力画像信号の補間処理に適用される場合に限らず、例えば、MPEG(Moving Picture Expert Group)方式の動き補償予測によるフレーム間符号化にも適用可能である。
【0086】
【発明の効果】
以上詳細に説明したように、本発明に係る動きベクトル検出装置及び方法は、基準ブロックと探索ブロックとの間で演算した差分絶対値和の分布傾向を識別し、基準画素の垂直負方向に隣接する画素について予め識別された差分絶対値和の分布傾向と比較した上で、第1の動きベクトルを隣接する画素の動きベクトルに応じて特定し、また基準ブロックと探索ブロックとの間で演算した差分絶対値和の分布の傾向及び探索範囲内において差分絶対値和が最小となる画素についての基準画素の左側に隣接する画素の動きベクトルに基づく相対的な位置に応じて第2の動きベクトルを特定し、特定された第1の動きベクトル及び第2の動きベクトルの動きベクトルのうちいずれか一の動きベクトルを選択する。
【0087】
これにより、本発明に係る動きベクトル検出装置及び方法は、実際の画像の動きに適合した動きベクトルを求めることができ、動きベクトルのばらつきを解消することができ、ひいては変換画像の劣化を防止することができる。
【図面の簡単な説明】
【図1】本発明を適用した動きベクトル検出装置の内部構成例を示した図である。
【図2】参照フィールドと基準フィールドの位置関係を示した図である。
【図3】探索範囲内に割り当てられた全探索ブロックについて求めた差分絶対値和の分布傾向の一例を示した図である。
【図4】第1の動きベクトルを検出する手順について示したフローチャートである。
【図5】本発明を適用した動きベクトル検出方法において、求める動きベクトルを、隣接画素の動きベクトルに応じて特定する場合について説明するための図である。
【図6】動きベクトルを求める画素の順番について説明するための図である。
【図7】第2の動きベクトルを検出する手順について示したフローチャートである。
【図8】第2の動きベクトルを検出する画素について、左隣の画素の動きベクトルにおける水平成分Vx_lが、負の極性を有する場合について示した図である。
【図9】第2の動きベクトルを求める際に行なう置き換え操作について示した図である。
【図10】動きベクトル修正部における処理手順について示したフローチャートである。
【図11】修正隣接画素について説明するための図である。
【図12】誤差演算部の代替として、制約項演算部を設けた動きベクトル検出装置の構成について示した図である。
【図13】制約項演算部により制約項を演算する手順を示したフローチャートである。
【図14】従来のブロックマッチング法について説明するための図である。
【図15】”u”の文字を右から左へ水平方向にシフトさせる場合において求めた差分絶対値和の分布を示した図である。
【符号の説明】
1 動きベクトル検出装置、11 画像格納用メモリ、12 誤差演算部、13 比較処理部、14 第1の動きベクトル検出部、15 識別処理部、16 第2の動きベクトル検出部、17 ベクトル選択部、18 ベクトル格納用メモリ、19 動きベクトル修正部、20 制御部
Claims (10)
- 入力される参照フィールドから1フレーム前の基準フィールドの基準画素につき、ブロックマッチング法により動きベクトルを検出する動きベクトル検出装置において、
基準フィールドから切り出した基準画素を原点とする基準ブロックと、参照フィールドから切り出した探索範囲内を移動する探索ブロックとの間で、画素値の差分絶対値和を順次演算する演算手段と、
上記演算した差分絶対値和の中から上記探索範囲において最小となる差分絶対値和と画素位置と、ライン極小値と称する上記探索範囲の垂直成分に対応する水平ライン毎に最小となる差分絶対値和と画素位置とを識別し、探索範囲において最小となる上記差分絶対値和と、基準画素の垂直負方向に隣接する画素の動きベクトルの垂直成分に対応するライン極小値との差分絶対値を求め、比較する比較手段と、
上記比較手段により求めた上記差分絶対値が閾値より小さい場合に、上記基準画素における動きベクトルの垂直成分を、上記隣接する画素の動きベクトルの垂直成分に合致するように特定し、上記基準画素における動きベクトルの水平成分を、特定した上記垂直成分に対応するライン極小値をもつ画素位置の水平成分に特定し、上記比較手段により求めた上記差分絶対値が閾値以上の場合は、上記探索範囲において最小となる差分絶対値和の画素位置を動きベクトルと特定する第1の動きベクトル特定手段と、
上記演算した差分絶対値和から上記探索範囲内において、上記基準画素を原点とした水平方向の正領域及び負領域毎に差分絶対値和の最小値と画素の座標を識別し、上記探索範囲内において最小となる差分絶対値和を示す画素の座標を識別する識別手段と、
上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と異なるかどうかを判定し、かつ、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が小さいかどうかを判定する判定手段と、
上記判定手段により上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と異なり、かつ、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が閾値以下と判定したとき、上記隣接する画素の動きベクトルの水平成分が正の極性を持つ場合は上記正領域の差分絶対値和の最小値となる画素の座標を上記基準画素の動きベクトルと特定し、上記隣接する画素の動きベクトルの水平成分が負の極性を持つ場合は上記負領域の差分絶対値和の最小値となる画素の座標を上記基準画素の動きベクトルと特定し、上記判定手段により上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と同じ、又は、上記正領域の差分絶対値和の最小値と負領域の差分絶対値和の最小値との差分が閾値よりも大きいと判定したときは、上記探索範囲内において最小となる差分絶対値和を示す画素の位置を上記基準画素の動きベクトルと特定する第2の動きベクトル特定手段と、
上記第1の動きベクトル特定手段により特定された基準画素の動きベクトルと、上記第2の動きベクトル特定手段により特定された基準画素の動きベクトルのうち、いずれか一の動きベクトルを選択するベクトル選択手段と
を備えることを特徴とする動きベクトル検出装置。 - 上記ベクトル選択手段により選択された動きベクトルを各画素毎に順次格納するベクトル格納手段と、
上記選択された動きベクトルを修正する修正画素について隣接する隣接画素の動きベクトルを上記ベクトル格納手段から読み出し、読み出した隣接画素の動きベクトルにおいて水平成分の極性を識別する識別手段と、
上記識別された水平成分の極性が正である隣接画素位置の個数と、上記識別された水平成分の極性が負である隣接画素位置の個数とを比較する比較手段と、
上記識別手段による識別結果に基づいて、極性が正である隣接画素位置における動きベクトルの水平成分及び垂直成分の平均値を求め、また、極性が負である隣接画素位置における動きベクトルの水平成分及び垂直成分の平均値を求める演算手段と、
上記比較手段による水平成分の極性が正である隣接画素位置の個数が水平成分の極性が負である隣接画素位置の個数以上となる場合は、上記演算手段により求められた極性が正である隣接画素位置における動きベクトルの水平成分及び垂直成分の平均値を、上記修正画素位置の動きベクトルにおける水平成分及び垂直成分とし、また、上記比較手段による水平成分の極性が正である隣接画素位置の個数が水平成分の極性が負である隣接画素位置の個数よりも少ない場合は、極性が負である隣接画素位置における動きベクトルの水平成分及び垂直成分の平均値を、上記修正画素位置の動きベクトルにおける水平成分及び垂直成分とするベクトル修正手段を備えることを特徴とする請求項1記載の動きベクトル検出装置。 - 上記隣接画素は、上記修正画素の左、右、上、下、左上、右上、左下、右下に隣接する画素、又は上記修正画素の左上、上、右上に隣接する画素、又は上記修正画素の左、上、右に隣接する画素、又は上記修正画素の左、左上、上、右上、右に隣接する画素である
ことを特徴とする請求項2記載の動きベクトル検出装置。 - 上記演算手段は、上記隣接画素における動きベクトルの水平成分毎、及び垂直成分毎に総和を算出し、算出した各総和を上記識別された水平成分の極性が正である隣接画素の個数、或いは上記識別された水平成分の極性が負である隣接画素の個数で割ることにより、上記隣接画素における動きベクトルの水平成分及び垂直成分の平均値を求めることを特徴とする請求項2記載の動きベクトル検出装置。
- 上記基準画素を原点とした直交座標系での、上記探索ブロックの中心に位置する画素における水平成分の極性と、上記基準画素に隣接する画素の動きベクトルにおける水平成分の極性が異なる場合に、正数となる修正値を算出し、上記探索ブロックの中心に位置する画素における水平成分の極性と、上記基準画素に隣接する画素の動きベクトルにおける水平成分の極性が同じ場合に、0となる修正値を算出し、当該修正値を上記差分絶対値和に加算する修正手段を備える
ことを特徴とする請求項1記載の動きベクトル検出装置。 - 入力される参照フィールドから1フレーム前の基準フィールドの基準画素につき、ブロックマッチング法により動きベクトルを検出する動きベクトル検出方法において、
基準フィールドから切り出した基準画素を原点とする基準ブロックと、参照フィールドから切り出した探索範囲内を移動する探索ブロックとの間で、画素値の差分絶対値和を順次演算し、
上記演算した差分絶対値和の中から上記探索範囲において最小となる差分絶対値和と画素位置と、ライン極小値と称する上記探索範囲の垂直成分に対応する水平ライン毎に最小となる差分絶対値和と画素位置とを識別し、
探索範囲において最小となる上記差分絶対値和と、基準画素の垂直負方向に隣接する画素の動きベクトルの垂直成分に対応するライン極小値との差分絶対値を求め、比較し、
上記比較した結果、上記差分絶対値が閾値より小さい場合に、上記基準画素における動きベクトルの垂直成分を、上記隣接する画素の動きベクトルの垂直成分に合致するように特定し、
上記基準画素における動きベクトルの水平成分を、特定した当該垂直成分に対応するライン極小値をもつ画素位置の水平成分に特定し、
上記比較した結果、上記差分絶対値が閾値以上の場合は、上記探索範囲において最小となる差分絶対値和の画素位置を動きベクトルと特定した第1の動きベクトルと、上記演算した差分絶対値和から上記探索範囲内において、上記基準画素を原点とした水平方向の正領域及び負領域毎に差分絶対値和の最小値と画素の座標を識別し、上記探索範囲内において最小となる差分絶対値和を示す画素の座標を識別し、上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と異なるかどうかを判定し、かつ、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が小さいかどうかを判定し、
上記判定により上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と異なり、かつ、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が閾値以下と判定したとき、上記隣接する画素の動きベクトルの水平成分が正の極性を持つ場合は上記正領域の差分絶対値和の最小値となる画素の座標を上記基準画素の第2の動きベクトルと特定し、
上記隣接する画素の動きベクトルの水平成分が負の極性を持つ場合は上記負領域の差分絶対値和の最小値となる画素の座標を上記基準画素の第2動きベクトルと特定し、
上記判定により上記探索範囲内において最小となる差分絶対値和を示す画素の座標の水平成分の極性が、上記基準画素の隣接する画素の動きベクトルの水平成分の極性と同じ、又は、上記正領域の差分絶対値和の最小値と上記負領域の差分絶対値和の最小値との差分が閾値よりも大きいと判定したときは、上記探索範囲内において最小となる差分絶対値和を示す画素の位置を上記基準画素の第2の動きベクトルと特定し、
上記特定された第1の動きベクトルと、上記特定された第2の動きベクトルの動きベクトルのうち、いずれか一の動きベクトルを選択する
ことを特徴とする動きベクトル検出方法。 - 上記選択された動きベクトルを各画素毎に順次格納し、
動きベクトルを修正する修正画素について隣接する隣接画素の動きベクトルを読み出し、
読み出した隣接画素の動きベクトルにおいて水平成分の極性を識別し、
上記識別された水平成分の極性が正である隣接画素位置の個数と、上記識別された水平成分の極性が負である隣接画素位置の個数とを比較し、
上記識別結果に基づいて、極性が正である隣接画素位置における動きベクトルの水平成分及び垂直成分の平均値を求め、また、極性が負である隣接画素位置における動きベクトルの水平成分及び垂直成分の平均値を求め、
上記比較した結果、水平成分の極性が正である隣接画素位置の個数が水平成分の極性が負である隣接画素位置の個数以上となる場合は、上記演算により求められた極性が正である隣接画素位置における動きベクトルの水平成分及び垂直成分の平均値を、上記修正画素位置の動きベクトルにおける水平成分及び垂直成分とし、また、上記比較した結果水平成分の極性が正である隣接画素位置の個数が水平成分の極性が負である隣接画素位置の個数よりも少ない場合は、極性が負である隣接画素位置における動きベクトルの水平成分及び垂直成分の平均値を、上記修正画素位置の動きベクトルにおける水平成分及び垂直成分とする
ことを特徴とする請求項6記載の動きベクトル検出方法。 - 上記隣接画素は、上記修正画素の左、右、上、下、左上、右上、左下、右下に隣接する画素、又は上記修正画素の左上、上、右上に隣接する画素、又は上記修正画素の左、上、右に隣接する画素、又は上記修正画素の左、左上、上、右上、右に隣接する画素である
ことを特徴とする請求項7記載の動きベクトル検出方法。 - 上記隣接画素における動きベクトルの水平成分毎、及び垂直成分毎に総和を算出し、算出した各総和を上記識別された水平成分の極性が正である隣接画素の個数、或いは上記識別された水平成分の極性が負である隣接画素の個数で割ることにより、上記隣接画素における動きベクトルの水平成分及び垂直成分の平均値を求める
ことを特徴とする請求項7記載の動きベクトル検出方法。 - 上記基準画素を原点とした直交座標系での、上記探索ブロックの中心に位置する画素における水平成分の極性と、上記基準画素に隣接する画素の動きベクトルにおける水平成分の極性が異なる場合に、正数となる修正値を算出し、上記探索ブロックの中心に位置する画素における水平成分の極性と、上記基準画素に隣接する画素の動きベクトルにおける水平成分の極性が同じ場合に、0となる修正値を算出し、当該修正値を上記差分絶対値和に加算する
ことを特徴とする請求項6記載の動きベクトル検出方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002108319A JP4304911B2 (ja) | 2002-04-10 | 2002-04-10 | 動きベクトル検出装置及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002108319A JP4304911B2 (ja) | 2002-04-10 | 2002-04-10 | 動きベクトル検出装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003304507A JP2003304507A (ja) | 2003-10-24 |
JP4304911B2 true JP4304911B2 (ja) | 2009-07-29 |
Family
ID=29392130
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002108319A Expired - Fee Related JP4304911B2 (ja) | 2002-04-10 | 2002-04-10 | 動きベクトル検出装置及び方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4304911B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006186504A (ja) * | 2004-12-27 | 2006-07-13 | Sony Corp | 画像処理装置および方法、記録媒体、並びにプログラム |
JP4412323B2 (ja) | 2006-12-28 | 2010-02-10 | 株式会社日立製作所 | 映像処理装置及び映像表示装置 |
US8395709B2 (en) | 2009-03-04 | 2013-03-12 | ATI Technology ULC | 3D video processing |
-
2002
- 2002-04-10 JP JP2002108319A patent/JP4304911B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003304507A (ja) | 2003-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8446524B2 (en) | Apparatus and method for frame rate conversion | |
US8644387B2 (en) | Motion estimation method | |
JP3226020B2 (ja) | 動きベクトル検出装置 | |
US8340186B2 (en) | Method for interpolating a previous and subsequent image of an input image sequence | |
US20050232357A1 (en) | Motion vector estimation at image borders | |
US7227897B2 (en) | Motion vector detector and motion vector detecting method | |
WO2007119198A1 (en) | Motion estimation at image borders | |
KR20060135177A (ko) | 움직임 에러 검출장치와 이를 포함하는 움직임 에러보정장치와 이에 의한 움직임 에러 검출방법 및 움직임에러 보정방법 | |
JP5669599B2 (ja) | 画像処理装置及びその制御方法 | |
KR20070074781A (ko) | 프레임율 변환장치 | |
US7773151B2 (en) | Deinterlacing of a sequence of moving images | |
US8385430B2 (en) | Video signal processing apparatus and video signal processing method | |
JP4304911B2 (ja) | 動きベクトル検出装置及び方法 | |
JP5448983B2 (ja) | 解像度変換装置及び方法、走査線補間装置及び方法、並びに映像表示装置及び方法 | |
JP5114290B2 (ja) | 信号処理装置 | |
JPH09182077A (ja) | 画像符号化方法および画像符号化装置 | |
JP2005318588A (ja) | ビデオシーケンスの補助データ処理 | |
JP4250598B2 (ja) | 動き補償型ip変換処理装置及び動き補償型ip変換処理方法 | |
JP4092935B2 (ja) | 動きベクトル修正装置及び方法 | |
JP4269573B2 (ja) | 動きベクトル検出装置及び方法 | |
JP4269571B2 (ja) | 動きベクトル検出装置及び方法 | |
JP4250806B2 (ja) | フィールド周波数変換装置および変換方法 | |
US20090122187A1 (en) | Image processing device | |
JP4304912B2 (ja) | 動きベクトル検出装置及び方法 | |
US9602763B1 (en) | Frame interpolation using pixel adaptive blending |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050310 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071122 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071204 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080204 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081118 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090109 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090407 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090420 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120515 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130515 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |