JP2012104969A - 動きベクトル生成装置、動きベクトル生成方法及びコンピュータプログラム - Google Patents

動きベクトル生成装置、動きベクトル生成方法及びコンピュータプログラム Download PDF

Info

Publication number
JP2012104969A
JP2012104969A JP2010250258A JP2010250258A JP2012104969A JP 2012104969 A JP2012104969 A JP 2012104969A JP 2010250258 A JP2010250258 A JP 2010250258A JP 2010250258 A JP2010250258 A JP 2010250258A JP 2012104969 A JP2012104969 A JP 2012104969A
Authority
JP
Japan
Prior art keywords
motion vector
difference
pixel
candidate
encoding target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010250258A
Other languages
English (en)
Other versions
JP5639444B2 (ja
Inventor
Daisuke Sakamoto
大輔 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010250258A priority Critical patent/JP5639444B2/ja
Priority to US13/286,688 priority patent/US8699575B2/en
Publication of JP2012104969A publication Critical patent/JP2012104969A/ja
Application granted granted Critical
Publication of JP5639444B2 publication Critical patent/JP5639444B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/567Motion estimation based on rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】ノイズが載った映像であっても解像感を損なわず正しい動きベクトルを検出することを可能とし、もって映像の劣化が少ない動き補償符号化技術を提供する。
【解決手段】ブロック内の画素値の差分に基づいてブロックの特性を判定し当該特性に対応する係数を選択することで、ブロックの特性に対応した最適な動きベクトルを選択する。また、ノイズが載っていてもフィルタを用いることがないので、解像度を損なうことなく、適切な動きベクトルを選択することができる。
【選択図】図1

Description

本発明は、動きベクトル生成装置、動きベクトル生成方法及びコンピュータプログラムに関する。
近年、音声信号、映像信号など所謂マルチメディアに関連する情報のデジタル化が急進しており、これに対応して映像信号の圧縮符号化及び復号化技術が注目されている。圧縮符号化及び復号化技術により、映像信号の格納に必要な記憶容量や伝送に必要な帯域を減少させることができるため、マルチメディア産業には極めて重要な技術である。
これらの圧縮符号化復号化技術は、多くの映像信号が有する自己相関性の高さ(すなわち、冗長性)を利用して情報量/データ量を圧縮している。映像信号が有する冗長性には、時間冗長性及び二次元の空間冗長性があり、時間冗長性は、ブロック単位の動き検出及び動き補償を用いて低減することが出来、一方、空間冗長性は、離散コサイン変換(DCT)を用いて低減させることが出来る。
圧縮符号化復号化技術として知られるMPEG方式などではこれらの手法により映像信号の冗長性を低減させ、経時的に変わるビデオフレーム/フィールドのデータ圧縮効果を向上させる。時間冗長性を低減させるためのブロック単位の動き推定とは、連続して入力する参照フレーム/フィールド(過去のフレーム/フィールド)と現在フレーム/フィールドとの間で最も近似するブロックを探し出す作業である。対応するブロックの移動方向、移動量を表すベクトルを動きベクトルという。従って、動き検出とは動きベクトルの検出と同義である。このような動きベクトルの検出は、ビデオ信号をm画素×nライン(m、nは整数)による動きベクトルの検出単位(すなわちマクロブロックである)にブロック化し、ブロック毎に動きベクトルを検出するようになされている。また、ストリームには動き情報も符号化する必要があるため、動きベクトルを探索するときは、画像の類似度(歪量)だけではなく、動きベクトルなどの符号量も考慮する必要がある。一般的には以下の評価関数(1)を用いて動きベクトルの探索をしている。
C = D + λR ・・・(1)
ここで、Cは動きベクトルを決定するための評価関数であり、Dは差分、Rは発生符号量、λは係数を示している。差分Dは符号化対象画像と予測画像との差分量が用いられ、差分二乗和や差分絶対値和などが使われる。またRは動きベクトルの符号量、λは量子化ステップが一般的には用いられる。
動きベクトルの符号量Rは、上記圧縮方式では周囲の動きベクトルから求められる推定動きベクトルとの差分量を基に算出される。動きベクトルの探索時は必ずしも周囲の動きベクトルが正確に求められず、動きベクトルの符号量Rが正しく評価できない場合がある。特許文献1は、それに対処するための方法を記載している。
しかし、上記技術では符号量の評価に対しての改善は見られるものの、特に暗部などカメラゲインが増幅しノイズが大量に発生する映像ではノイズが評価関数Cに強く影響を与え、正しい動きベクトルが検出できない場合がある。例えば、ビルや自動車など物体の特徴がはっきりしている映像(以下、特徴のある映像)はノイズが載っている場合であっても、わずかな座標のずれに対して差分Dが敏感に反応するため動きベクトルの誤検出は少なくなる。一方、夜空などもともと平坦な映像(以下、特徴の無い映像)にノイズが載っている場合には、ノイズの影響を差分Dが強く受けるため、静止している映像であっても動きベクトルが(0,0)にならず動きベクトルの誤検出が発生していた。その結果、細かいフリッカが発生し、画像の劣化を招いていた。そこで、特許文献2に開示されるように符号化対象画像に対してノイズ除去を行い、ノイズを少なくすることで正しい動きベクトルを検出する手法が提案されている。
特開2008−154072号公報 特開平06−296276号公報
しかし、ノイズ除去を行う際には低域通過型、帯域通過型などのフィルタを適用するため、入力映像が本来持っている情報量が失われ映像の解像感が損なわれてしまう問題がある。
本発明の目的は前述した問題点を解決し、ノイズが載った映像であっても解像感を損なわず正しい動きベクトルを検出することを可能とし、もって映像の劣化が少ない動き補償符号化技術を提供することである。
前記課題を解決するための本願発明は、符号化対象画像における符号化対象ブロックと参照画像における参照ブロックとの比較に基づく動き補償符号化を行うための動きベクトルを生成する動きベクトル生成装置であって、
複数の動きベクトルの候補から、順次いずれかの候補を選択する候補選択手段と、
前記符号化対象ブロックの画素値と、前記候補選択手段が選択した前記動きベクトルの候補に対応する前記参照ブロックの画素値との差分を、順次選択された候補についてそれぞれ算出する画素差分算出手段と、
前記符号化対象ブロックの画素値を平均した平均画素値と、前記符号化対象ブロックの各画素値との差分を平均差分として算出する平均差分算出手段と、
前記画素差分算出手段が算出した前記差分のうち最小の差分と、前記平均差分との比率に基づき、重み係数を決定する係数決定手段と、
前記候補選択手段が選択した前記動きベクトルの候補毎に前記画素差分算出手段が算出した差分に対し、該候補のベクトル符号量を前記重み係数を用いて重み付け加算して評価値を算出し、前記評価値が最小となる動きベクトルの候補を決定する決定手段と
を備え、
前記係数決定手段は、前記比率が1に近づくほど、重みが大きくなるように前記重み係数を決定することを特徴とする。
前記課題を解決するための本願発明はまた、符号化対象画像における符号化対象ブロックと参照画像における参照ブロックとの比較に基づく、動き補償符号化を行うための動きベクトルを生成する動きベクトル生成装置であって、
複数の動きベクトルの候補から、順次いずれかの候補を選択する候補選択手段と、
前記符号化対象ブロックの画素値と、前記候補選択手段が選択した前記動きベクトルの候補に対応する前記参照ブロックの画素値との差分を、順次選択された候補についてそれぞれ算出する画素差分算出手段と、
複数のコスト算出手段であって、それぞれのコスト算出手段が、前記候補選択手段が選択した前記動きベクトルの候補毎に前記画素差分算出手段が算出した差分に対し、互いに重みが異なる重み係数を用いて該候補のベクトル符号量を重み付け加算して評価値を算出し、前記評価値が最小となる動きベクトルの候補を選択する、複数のコスト算出手段と、
前記符号化対象ブロックの画素値を平均した平均画素値と、前記符号化対象ブロックの各画素値との差分を平均差分として算出する平均差分算出手段と、
前記画素差分算出手段が算出した前記差分のうち最小の差分と、前記平均差分との比率に基づき、前記複数のコスト算出手段で選択された複数の動きベクトルの候補の中からいずれか1つを選択し、動きベクトルを決定する決定手段と
を備え、
前記決定手段は、前記比率が1に近づくほど、重みが大きい前記重み係数に基づく前記動きベクトルの候補を選択することを特徴とする。
本発明によれば、ノイズが載った映像であっても解像感を損なわず正しい動きベクトルを検出することができ、ひいては映像の劣化が少ない動き補償符号化技術を提供することが可能になる。
本発明の第1の実施形態に係る動き補償符号化装置の構成例を示すブロック図。 本発明の第1の実施形態に係る動き予測部の構成例を示すブロック図。 本発明の第1の実施形態に係る動き予測部の動作を説明するための図。 本発明の第1の実施形態に係る動き予測部の動作を説明するための図。 本発明の第2の実施形態に係る動き補償符号化装置の構成例を示すブロック図。 本発明の第2の実施形態に係る動き予測部の動作を説明するための図。
以下、図面を参照して本発明をその好適な実施形態に基づき詳細に説明する。
[実施形態1]
以下に図1、図2を参照しながら、本発明にかかる動き補償符号化装置の好適な一実施形態について詳細に説明する。
図1は本発明に係る動き補償符号化装置のブロック図である。当該画像符号化装置は、フレームメモリ101、フィルタ後参照フレームメモリ102、動き予測部103、動き補償部104、イントラ予測部105、直交変換部106、量子化部107、エントロピー符号化部108を有する。さらには、逆量子化部109、逆直交変換部110、イントラ/インター判定部111、減算器112、加算器113、フィルタ前参照フレームメモリ114、ループフィルタ115を有する。図1の画像符号化装置において、各ブロックは専用ロジック回路やメモリを用いてハードウェア的に構成されてもよい。或いは、メモリに記憶されている処理プログラムをCPU等のコンピュータが実行することにより、ソフトウェア的に構成されてもよい。係る構成において、まず入力画像を符号化する方法について述べる。
フレームメモリ101には表示順に入力画像(原画像)が保存され、符号化順に符号化対象ブロック(m画素×nライン(m、nは整数))を動き予測部103、イントラ予測部105、減算器112に順次送信する。フィルタ後参照フレームメモリ102はフィルタ処理された符号化済み画像が参照画像として保存され、符号化順に符号化対象ブロックの参照画像を動き予測部103、動き補償部104に順次送信する。フィルタ前参照フレームメモリ114はフィルタ処理される前の符号化済み画像が参照画像として保存され、符号化順に符号化対象ブロックの参照画像をイントラ予測部105に順次送信する。
動き予測部103は、フレームメモリ101から符号化対象ブロックを受信し、また、フィルタ後参照フレームメモリ102からフィルタ後参照画像データを受信する。そして、受信データから、符号化対象ブロックのフィルタ後参照画像データでの動き量を表す動きベクトルを検出し、フィルタ後参照フレーム画像データ番号と共に動き補償部104に送信する。
動き補償部104は、動き予測部103からの動きベクトルを用いて、フィルタ後参照フレームメモリ102中のフィルタ後参照フレーム画像データ番号で示される参照フレーム画像を参照して、各ブロックの予測画像データを生成する。生成された予測画像データは、イントラ/インター判定部111に送信される。
一方、イントラ予測部105はフィルタ前参照フレームメモリ114から送信される符号化対象ブロック周辺の復号化済みデータを用いて複数のイントラ予測モードごとにイントラ予測画像を生成する。そしてフレームメモリ101から送信される符号化対象ブロックと生成した予測画像とを用いてブロックマッチングを行い最も相関の高い適切なイントラ予測モードを選択し、予測画像とともにイントラ/インター判定部111に送信する。
イントラ/インター判定部111は動き補償部104およびイントラ予測部105から送信されてくる予測画像データのうち符号化対象ブロックとの相関の高い予測画像データを選択して減算器112に送信する。相関の高い予測画像データを選択する方法としては例えば、符号化対象画像との差分値が小さい予測画像を選択するなどが考えられるが特に方式は問わない。減算器112はフレームメモリ101から送信されてくる符号化対象ブロックとイントラ/インター判定部111から送信されてくる予測画像ブロックを減算し、画像残差データを出力する。
直交変換部106では減算器112から出力された画像残差データを直交変換処理して、変換係数を量子化部107に送信する。量子化部107は直交変換部106からの変換係数を所定の量子化パラメータを用いて量子化し、エントロピー符号化部108および逆量子化部109に送信する。エントロピー符号化部108は量子化部107で量子化された変換係数を入力し、CAVLC、CABACなどのエントロピー符号化を施して、符号化データとして出力する。
続いて、量子化部107で量子化された変換係数を用いて参照画像データを生成する方法について述べる。逆量子化部109は量子化部107から送信されてくる量子化された変換係数を逆量子化する。逆直交変換部110は逆量子化部109で逆量子化された変換係数を逆直交変換し、復号残差データを生成し加算器113に送信する。加算器113は復号残差データと後述する予測画像データとを加算し参照画像データを生成し、フィルタ前参照フレームメモリ114に保存する。また、ループフィルタ115に送信される。ループフィルタ115は参照画像データをフィルタリングしてノイズを除去しフィルタ後の参照画像データをフィルタ後参照フレームメモリ102に保存する。
次に、本発明の動きベクトル生成装置として機能する動き予測部103の詳細な動作について述べる。図2は、本実施形態における動き予測部103の詳細な構成例を示す機能ブロック図である。なお、図2の機能ブロック図は、動き予測部103における処理の流れを示すフロー図として参照することも可能である。その場合、図2の各機能ブロックは、動き予測部103において実行される処理のステップをそれぞれ表すものとして解釈される。
図2において、符号化画像取得部201は、符号化対象ブロックの画像データをフレームメモリ101から取得する。また、動きベクトル候補選択部207は、複数の動きベクトル候補の中からいずれか1つの候補を順次選択し、参照画像取得部202へ出力する。
参照画像取得部202は、動きベクトル候補選択部207により設定された動きベクトルに対応する参照ブロックの画像データをフィルタ後参照フレームメモリ102から取得する。そして、取得した符号化対象ブロックの画像データ及び参照ブロックの画像データは、画素差分算出部203へ入力される。
画素差分算出部203は、符号化対象ブロックの画像と参照ブロックの画像との画素値の差分絶対値|Curij-Refij|の総和Σ|Curij-Refij|(以下、画素差分)を算出する。ここで、i,jは、ブロックの各画素のブロック内での位置を表すパラメータであって、ブロックサイズをm×nとすると、1≦i≦m、1≦j≦nとなる。
なお、本実施形態では画素差分算出部203は差分絶対値和を算出しているが、例えば、画素値の差分値をアダマール変換した係数値の絶対値和を算出するなど、画素値の差分に基づいて算出される値であれば特にその内容は問わない。また、ここで求められる画素差分が評価関数(1)の差分Dに該当する。複数の動きベクトル候補に対する画素差分量は順次算出されて、重み係数決定部205へ送信されるとともに、画素差分保存部206に保存されていく。
画素平均差分算出部204は符号化対象ブロックの画素値を平均した平均画素値 を算出し、符号化対象ブロックの画素値 との差分絶対値|Curij-Curave|の総和Σ|Curij-Curave|(以下、画素平均差分)を算出する。なお、本実施形態では画素平均差分算出部204は差分絶対値和を算出しているが、例えば、画素値の差分値をアダマール変換した係数値の絶対値和を算出するなど、画素値の差分に基づいて算出される値であれば特にその内容は問わない。
算出した画素平均差分は重み係数決定部205へ送信される。重み係数決定部205は順次入力される画素差分が、これまでに入力された画素差分の最小値より小さいかどうかを判定し、小さい場合には最小値を更新するように動作する。全ての動きベクトル候補に対する画素差分の算出が終わると、重み係数決定部205は画素差分の最小値(以下、最小画素差分)と画素平均差分に基づいた以下の条件を用いて重み係数を決定する。
最小画素差分/画素平均差分≦Th0、あるいはTh1≦最小画素差分/画素平均差分の場合(但し、Th0<Th1)は符号化対象画像をビルや自動車など物体の特徴がはっきりした特徴のある映像とし、重み係数に予め設定された所定の係数λ1を設定する。ここで設定する係数は評価関数(1)のλに該当し、例えば量子化ステップが設定される。一方、Th0 < 最小画素差分/画素平均差分 < Th1の場合は符号化対象画像を特徴の無い映像とし、重み係数に予め設定された所定の係数λ2を設定する。なお、λ1<λ2であり、夜空などもともと平坦な特徴の無い映像では画素差分よりベクトル符号量を重視して無駄な動きベクトルを発生させないことで画質の劣化を防止することができる。
ここで、これらの条件でビルや自動車など物体の特徴がはっきりした特徴のある映像と夜空などもともと平坦な特徴の無い映像を判別できる理由を図3、図4を用いて説明する。
図3(A)及び(B)は符号化対象画像が特徴の無い映像の一例として、夜空にノイズが載った映像の画素平均差分および画素差分をイメージ化したものである。まず図3(A)は、符号化対象ブロックの画素から符号化対象ブロックの平均画素値を引いてもとめた画素平均差分をイメージ化したものである。夜空はもともと平坦な映像であるので符号化対象ブロックの平均画素値で生成される映像は元の夜空の映像とほとんど変わらない。そのため符号化対象ブロックから符号化対象ブロックの画素の平均画素値を引いてもとめた画素平均差分はほとんどノイズ分の差分のみとなる。
また図3(B)は、符号化対象ブロックの画素から参照ブロックの画素を引いてもとめた画素差分をイメージ化したものである。こちらの場合も、映像が静止していた場合、符号化対象ブロックと参照ブロックの違いはほとんどノイズ分のみとなる。ここで、画素平均差分のイメージと画素差分のイメージを比較すると、いずれの場合も差分はノイズ分のみとなるため、画素平均差分と画素差分の乖離が小さいことがわかる。
一方、図3(C)及び(D)は、符号化対象画像が特徴の在る映像の一例として、夜間に撮った木の枝にノイズが載った映像の画素平均差分および画素差分をイメージ化したものである。まず図3(C)は、符号化対象ブロックの画素から符号化対象ブロックの平均画素値を引いてもとめた画素平均差分をイメージ化したものである。木の枝はもともと高周波成分を含むため符号化対象ブロックの平均画素値で生成される映像と元の映像に大きな違いがある。そのため符号化対象ブロックから符号化対象ブロックの平均画素値を引いてもとめた画素平均差分は大きな値をとる。
また、図3(D)は、符号化対象ブロックの画素から参照ブロックの画素を引いてもとめた画素差分をイメージ化したものである。こちらの場合は、映像が静止していた場合、符号化対象ブロックから参照画素を引いてもとめた画素差分はほとんどノイズ分の差分のみとなる。動いている映像であっても符号化対象ブロックの平均画素値で生成される映像と比較すると、その差分は小さなものとなる。ここで、画素平均差分のイメージと画素差分のイメージを比較すると、こちらの場合は画素平均差分と画素差分の乖離が大きいことがわかる。
以上のように、特徴の無い映像の場合、画素平均差分と画素差分の乖離が小さく、特徴のある映像の場合、画素平均差分と画素差分の乖離が大きくなる。即ち、画素平均差分と画素差分との比率が1に近づくほど、特徴のない映像ということが言えるので、差分の比率が1に近づくほど、重みが大きくなるように重み係数を選択する。そこで図4のように所定の閾値Th0、Th1を設けて、最小画素差分/画素平均差分の比率が、Th0より大きく、かつ、Th1未満の所定の範囲内にあれば、特徴の無い映像であること、それ以外の場合は特徴のある映像と切り分けることができる。このとき、当該所定の範囲は、Th0<1<Th1の範囲として定義される。
図2の説明に戻り、重み係数決定部205が重み係数を決定すると、動きベクトル候補選択部207は再度同じ候補ベクトルの設定を順次行い、ベクトル符号量算出部208へ入力し、候補ベクトルに対するベクトル符号量を算出する。画素差分保存部206からは、設定された候補ベクトルに対応する画素差分量が読み出されてコスト算出・比較部209へ送信される。
コスト算出・比較部209は、候補毎にベクトル符号量に重み係数を乗算し、画素差分を加算して、各候補ベクトルに対応する評価値としてコストを算出する。また、コスト算出・比較部209は順次算出されるコスト値が、これまでに算出されたコスト値の最小値より小さいかどうかを判定し、小さい場合には最小値を更新するとともに、対応する動きベクトル情報もあわせて記憶する。そして、すべての動きベクトル候補に対するコスト値の算出および比較が終わった時点で記憶されている動きベクトルを、符号化対象ブロックに対する動きベクトルとして決定する。
なお、本実施形態では重み係数決定部205は最小画素差分と画素平均差分に基づいて、1つの範囲を定めて重み係数を決定しているが、閾値の数を増やし、複数の範囲を設定することによって段階的に求めても良い。
以上の実施形態によれば、ブロック内の画素値の差分に基づいてブロックの特性を判定し当該特性に対応する係数を選択することで、ブロックの特性に対応した最適な動きベクトルを選択することが可能となる。また、ノイズが載っていてもフィルタを用いることがないので、解像度を損なうことなく、適切な動きベクトルを選択することができる。
[実施形態2]
次に図5のブロック図を参照しながら、本発明にかかる画像符号化装置のもう一つの実施形態について詳細に説明する。図5は本実施形態に係る動きベクトル生成装置としての動き予測部503の詳細な構成例を示すブロック図である。画像符号化装置の構成は第1の実施形態と同様であり、図1中の動き予測部103を、図3に示す動き予測部503に置き換えることによって、第2の実施形態に係る画像符号化装置は構成される。なお、図5の機能ブロック図も図2と同様に、動き予測部103における処理の流れを示すフロー図として参照することも可能である。その場合、図5の各機能ブロックは、動き予測部103において実行される処理ステップをそれぞれ表すものとして解釈される。
図5において、符号化画像取得部201は、符号化対象ブロックの画像データをフレームメモリ101から取得する。また、動きベクトル候補選択部207は、複数の動きベクトル候補の中から、動きベクトルを順次、参照画像取得部202へ設定する。同時に動きベクトル候補を動きベクトル符号量算出部208にも送信し、候補ベクトルに対する動きベクトル符号量を算出する。
参照画像取得部202は、動きベクトル候補選択部207により設定された動きベクトルに対応する参照ブロックの画像データをフィルタ後参照フレームメモリ102から取得する。そして、取得した符号化対象ブロックの画像データ及び参照ブロックの画像データは、画素差分算出部203へ入力される。
画素差分算出部203は、符号化対象ブロックの画像と参照ブロック画像との画素値の差分絶対値|Curij-Refij|の総和Σ|Curij-Refij|(以下、画素差分)を算出する。ここで、i,jは、ブロックの各画素のブロック内での位置を表すパラメータであって、ブロックサイズをm×nとすると、1≦i≦m、1≦j≦nとなる。
なお、本実施形態では画素差分算出部203は差分絶対値和を算出しているが、例えば、画素値の差分値をアダマール変換した係数値の絶対値和を算出するなど、画素値の差分に基づいて算出される値であれば特にその内容は問わない。また、ここで求められる画素差分が評価関数(1)の差分Dに該当する。
複数の動きベクトル候補に対する画素差分量は順次算出されて、最小画素差分保存部510とN個のコスト算出・比較部209-1から209-Nへ送信される。最小画素差分保存部510は順次入力される画素差分が、これまでに入力された画素差分の最小値より小さいかどうかを判定し、小さい場合には最小値を更新するように動作する。
全ての動きベクトル候補に対する画素差分の算出が終わると、最小画素差分保存部510は最小画素差分を動きベクトル決定部511に送信する。画素差分算出部203で算出された画素差分と動きベクトル符号量算出部208で算出された動きベクトル符号量はN個のコスト算出・比較部209-1から209-Nに入力される。N個のコスト算出・比較部には各々異なる重み係数λ1からλNが入力される。各々のコスト算出・比較部は動きベクトル符号量に各々に設定された重み係数を乗算し、画素差分を加算して、候補ベクトルに対する評価値としてコストを算出する。
なお、コストが評価関数(1)における動きベクトルを決定するための評価関数C、画素差分が差分D、動きベクトル符号量が発生符号量R、λが係数λに対応する。コスト算出・比較部は算出したコストがこれまでに算出されたコストの最小値より小さいかどうかを判定し、小さい場合には最小値を更新するとともに、対応する候補動きベクトルと画素差分をあわせて保存する。そして、すべての動きベクトル候補に対するコストの算出が終わった時点で記憶されている動きベクトルを、符号化対象ブロックに対する動きベクトルとして決定する。その結果、N個のコスト算出・比較部に対応してN個の動きベクトルが算出される。
画素平均差分算出部204は符号化対象ブロックの画素値を平均した平均画素値 を算出し、符号化対象ブロックの画素値 との差分絶対値|Curij-Curave|の総和Σ|Curij-Curave|(以下、画素平均差分)を算出する。なお、本実施形態では画素平均差分算出部204は差分絶対値和を算出しているが、例えば、画素値の差分値をアダマール変換した係数値の絶対値和を算出するなど、画素値の差分に基づいて算出される値であれば特にその内容は問わない。
算出した画素平均差分は動きベクトル決定部511へ送信される。動きベクトル決定部511は最小画素差分と画素平均差分に基づいて、N個の動きベクトルから1つの動きベクトルを選択し、符号化対象ブロックに対する動きベクトルとして決定する。
本実施形態でも実施形態1と同様に、差分の比率が1に近づくほど、重みが大きくなるように重み係数を選択する。そこで、図6のようにTh0 < 最小画素差分/画素平均差分 < Th1の時は重み係数λ1を用いたコスト算出・比較部209-1の動きベクトルを選択する。ここでTh0<1<Th1であるので、本実施形態でも差分の比率が1を含む所定の範囲に含まれる場合に、最大の重み係数が選択される。Th2 <最小画素差分/画素平均差分 ≦ Th0、又は、Th1 ≦ 最小画素差分/画素平均差分 < Th3の時(Th2<Th0、Th3>Th1)は重み係数λ2(λ1<λ2)を用いたコスト算出・比較部209-2の動きベクトルを選択する。このようにして、各々のコスト算出・比較部に対応する閾値をもってN個のベクトルから選択する。その際、重み係数は、比率が1から離れる(大きくなる場合と、小さくなる場合とを含む)ほど、小さくなるように設定され、選択された動きベクトルは、符号化対象ブロックに対する動きベクトルに決定される。
本実施形態では、互いに重みが異なる重み係数のそれぞれが、差分の比率の大きさを判定するための互いに異なる範囲と関連づけられ、算出された比率が属する範囲と関連づけられた重み係数に基づく候補が動きベクトルとして選択される。これにより、実施形態1と同様にブロックが有する特性に対応する係数が選択され、ブロックの特性に対応した最適な動きベクトルを選択することが可能となる。また、ノイズが載っていてもフィルタを用いることがないので、解像度を損なうことなく適切な動きベクトルを選択することができる。
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (8)

  1. 符号化対象画像における符号化対象ブロックと参照画像における参照ブロックとの比較に基づく動き補償符号化を行うための動きベクトルを生成する動きベクトル生成装置であって、
    複数の動きベクトルの候補から、順次いずれかの候補を選択する候補選択手段と、
    前記符号化対象ブロックの画素値と、前記候補選択手段が選択した前記動きベクトルの候補に対応する前記参照ブロックの画素値との差分を、順次選択された候補についてそれぞれ算出する画素差分算出手段と、
    前記符号化対象ブロックの画素値を平均した平均画素値と、前記符号化対象ブロックの各画素値との差分を平均差分として算出する平均差分算出手段と、
    前記画素差分算出手段が算出した前記差分のうち最小の差分と、前記平均差分との比率に基づき、重み係数を決定する係数決定手段と、
    前記候補選択手段が選択した前記動きベクトルの候補毎に前記画素差分算出手段が算出した差分に対し、該候補のベクトル符号量を前記重み係数を用いて重み付け加算して評価値を算出し、前記評価値が最小となる動きベクトルの候補を決定する決定手段と
    を備え、
    前記係数決定手段は、前記比率が1に近づくほど、重みが大きくなるように前記重み係数を決定することを特徴とする動きベクトル生成装置。
  2. 前記係数決定手段は、少なくとも2つの重みの異なる重み係数のうち、
    前記比率が、1を含む所定の範囲に含まれる場合に、重みが最大となる1つの係数を選択し、
    前記比率が前記所定の範囲に含まれない場合に、前記1つの係数よりも重みが小さな他の1つの係数を選択する
    ことにより、重み係数を決定する
    ことを特徴とする請求項1に記載の動きベクトル生成装置。
  3. 符号化対象画像における符号化対象ブロックと参照画像における参照ブロックとの比較に基づく、動き補償符号化を行うための動きベクトルを生成する動きベクトル生成装置であって、
    複数の動きベクトルの候補から、順次いずれかの候補を選択する候補選択手段と、
    前記符号化対象ブロックの画素値と、前記候補選択手段が選択した前記動きベクトルの候補に対応する前記参照ブロックの画素値との差分を、順次選択された候補についてそれぞれ算出する画素差分算出手段と、
    複数のコスト算出手段であって、それぞれのコスト算出手段が、前記候補選択手段が選択した前記動きベクトルの候補毎に前記画素差分算出手段が算出した差分に対し、互いに重みが異なる重み係数を用いて該候補のベクトル符号量を重み付け加算して評価値を算出し、前記評価値が最小となる動きベクトルの候補を選択する、複数のコスト算出手段と、
    前記符号化対象ブロックの画素値を平均した平均画素値と、前記符号化対象ブロックの各画素値との差分を平均差分として算出する平均差分算出手段と、
    前記画素差分算出手段が算出した前記差分のうち最小の差分と、前記平均差分との比率に基づき、前記複数のコスト算出手段で選択された複数の動きベクトルの候補の中からいずれか1つを選択し、動きベクトルを決定する決定手段と
    を備え、
    前記決定手段は、前記比率が1に近づくほど、重みが大きい前記重み係数に基づく前記動きベクトルの候補を選択することを特徴とする動きベクトル生成装置。
  4. 前記互いに重みが異なる重み係数のそれぞれは、前記比率の大きさを判定するための互いに異なる範囲と関連づけられ、
    前記決定手段は、前記互いに異なる範囲のうち前記比率が属する範囲と関連づけられた重み係数に基づく前記動きベクトルの候補を選択する
    ことを特徴とする請求項3に記載の動きベクトル生成装置。
  5. 前記決定手段は、前記比率が、1を含む所定の範囲に含まれる場合に、前記互いに重みが異なる重み係数のうち、重みが最大の係数に基づく前記動きベクトルの候補を選択する、ことを特徴とする請求項3または4に記載の動きベクトル生成装置。
  6. 符号化対象画像における符号化対象ブロックと参照画像における参照ブロックとの比較に基づく動き補償符号化を行うための動きベクトルを生成する動きベクトル生成装置における、動きベクトル生成方法であって、
    候補選択手段が、複数の動きベクトルの候補から、順次いずれかの候補を選択する候補選択工程と、
    画素差分算出手段が、前記符号化対象ブロックの画素値と、前記候補選択工程で選択された前記動きベクトルの候補に対応する前記参照ブロックの画素値との差分を、順次選択された候補についてそれぞれ算出する画素差分算出工程と、
    平均差分算出手段が、前記符号化対象ブロックの画素値を平均した平均画素値と、前記符号化対象ブロックの各画素値との差分を平均差分として算出する平均差分算出工程と、
    係数決定手段が、前記画素差分算出工程で算出された前記差分のうち最小の差分と、前記平均差分との比率に基づき、重み係数を決定する係数決定工程と、
    決定手段が、前記候補選択工程で選択された前記動きベクトルの候補毎に前記画素差分算出工程で算出された差分に対し、該候補のベクトル符号量を前記重み係数を用いて重み付け加算して評価値を算出し、前記評価値が最小となる動きベクトルの候補を決定する決定工程と
    を備え、
    前記係数決定工程では、前記比率が1に近づくほど、重みが大きくなるように前記重み係数が決定されることを特徴とする動きベクトル生成方法。
  7. 符号化対象画像における符号化対象ブロックと参照画像における参照ブロックとの比較に基づく、動き補償符号化を行うための動きベクトルを生成する動きベクトル生成装置における、動きベクトル生成方法であって、
    候補選択手段が、複数の動きベクトルの候補から、順次いずれかの候補を選択する候補選択工程と、
    画素差分算出手段が、前記符号化対象ブロックの画素値と、前記候補選択工程において選択された前記動きベクトルの候補に対応する前記参照ブロックの画素値との差分を、順次選択された候補についてそれぞれ算出する画素差分算出工程と、
    複数のコスト算出手段のそれぞれが、前記候補選択工程において選択された前記動きベクトルの候補毎に前記画素差分算出工程において算出された差分に対し、互いに重みが異なる重み係数を用いて該候補のベクトル符号量を重み付け加算して評価値を算出し、前記評価値が最小となる動きベクトルの候補を選択する、コスト算出工程と、
    平均差分算出手段が、前記符号化対象ブロックの画素値を平均した平均画素値と、前記符号化対象ブロックの各画素値との差分を平均差分として算出する平均差分算出工程と、
    決定手段が、前記画素差分算出工程において算出された前記差分のうち最小の差分と、前記平均差分との比率に基づき、前記複数のコスト算出工程において選択された複数の動きベクトルの候補の中からいずれか1つを選択し、動きベクトルを決定する決定工程と
    を備え、
    前記決定工程では、前記比率が1に近づくほど、重みが大きい前記重み係数に基づく前記動きベクトルの候補が選択されることを特徴とする動きベクトル生成方法。
  8. コンピュータを請求項1乃至5のいずれか1項に記載の動きベクトル生成装置の各手段として機能させるプログラム。
JP2010250258A 2010-11-08 2010-11-08 動きベクトル生成装置、動きベクトル生成方法及びコンピュータプログラム Expired - Fee Related JP5639444B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010250258A JP5639444B2 (ja) 2010-11-08 2010-11-08 動きベクトル生成装置、動きベクトル生成方法及びコンピュータプログラム
US13/286,688 US8699575B2 (en) 2010-11-08 2011-11-01 Motion vector generation apparatus, motion vector generation method, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010250258A JP5639444B2 (ja) 2010-11-08 2010-11-08 動きベクトル生成装置、動きベクトル生成方法及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2012104969A true JP2012104969A (ja) 2012-05-31
JP5639444B2 JP5639444B2 (ja) 2014-12-10

Family

ID=46019611

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010250258A Expired - Fee Related JP5639444B2 (ja) 2010-11-08 2010-11-08 動きベクトル生成装置、動きベクトル生成方法及びコンピュータプログラム

Country Status (2)

Country Link
US (1) US8699575B2 (ja)
JP (1) JP5639444B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EA016695B1 (ru) * 2011-09-01 2012-06-29 Закрытое Акционерное Общество "Импульс" Способ уменьшения шумов в видеоизображении
CN105120132B (zh) * 2015-08-26 2019-03-26 美国掌赢信息科技有限公司 一种视频噪点过滤方法和电子设备
WO2018016002A1 (ja) * 2016-07-19 2018-01-25 オリンパス株式会社 画像処理装置、内視鏡システム、プログラム及び画像処理方法
US11330269B2 (en) * 2017-09-27 2022-05-10 Nec Corporation Moving image coding device, moving image coding method and moving image coding program

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06296276A (ja) 1993-02-10 1994-10-21 Toshiba Corp 動き補償予測符号化装置の前処理装置
DE69417127T2 (de) * 1993-09-09 1999-10-14 Sony Corp Vorrichtung und Verfahren zur Detektion eines Bewegungsvektors
JP4280353B2 (ja) * 1999-03-19 2009-06-17 キヤノン株式会社 符号化装置、画像処理装置、符号化方法、及び記録媒体
WO2005084036A1 (ja) * 2004-03-01 2005-09-09 Sony Corporation 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム
JP4898415B2 (ja) 2006-12-19 2012-03-14 キヤノン株式会社 動画像符号化装置及び動画像符号化方法
US8705622B2 (en) * 2008-04-10 2014-04-22 Qualcomm Incorporated Interpolation filter support for sub-pixel resolution in video coding

Also Published As

Publication number Publication date
US8699575B2 (en) 2014-04-15
JP5639444B2 (ja) 2014-12-10
US20120114041A1 (en) 2012-05-10

Similar Documents

Publication Publication Date Title
RU2714100C1 (ru) Устройство кодирования изображений, устройство декодирования изображений, способ кодирования изображений и способ декодирования изображений
KR100803611B1 (ko) 영상의 부호화, 복호화 방법 및 장치
CN100364338C (zh) 估计图像噪声的方法和设备和消除噪声的方法
EP1871115B1 (en) Motion estimation method and apparatus for fast motion estimation
US10142650B2 (en) Motion vector prediction and refinement using candidate and correction motion vectors
US8649431B2 (en) Method and apparatus for encoding and decoding image by using filtered prediction block
EP1675403B1 (en) Moving-picture compression encoding method, apparatus and program
US8761254B2 (en) Image prediction encoding device, image prediction decoding device, image prediction encoding method, image prediction decoding method, image prediction encoding program, and image prediction decoding program
JP4504230B2 (ja) 動画像処理装置、動画像処理方法、及び動画像処理プログラム
US8929449B2 (en) Motion vector detection apparatus, motion vector detection method, and computer-readable storage medium
EP1639829A2 (en) Optical flow estimation method
US9113170B2 (en) Motion vector decision apparatus, motion vector decision method and computer readable storage medium
US9445089B2 (en) Video encoding device, video encoding method and video encoding program
US20140233645A1 (en) Moving image encoding apparatus, method of controlling the same, and program
JP4494803B2 (ja) 動き補償に基づいた改善されたノイズ予測方法及びその装置とそれを使用した動画符号化方法及びその装置
JP5639444B2 (ja) 動きベクトル生成装置、動きベクトル生成方法及びコンピュータプログラム
US6408101B1 (en) Apparatus and method for employing M-ary pyramids to enhance feature-based classification and motion estimation
US20110280308A1 (en) Moving image encoding apparatus and method of controlling the same
US20140056348A1 (en) Methods and device for reconstructing and coding an image block
JP5832263B2 (ja) 画像符号化装置及び画像符号化方法
KR100987581B1 (ko) 고속 움직임 추정을 위한 부분 블록정합 방법
JP2012124851A (ja) 動き補償符号化装置、動き補償符号化方法、及びプログラム
KR20120129629A (ko) 루프 내 전처리 필터링을 이용한 움직임 추정 및 보상 방법
KR100635009B1 (ko) 화면 전체의 움직임을 고려한 움직임예측방법 및 그 장치
JPH11355781A (ja) 動画像符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140903

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141024

R151 Written notification of patent or utility model registration

Ref document number: 5639444

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees