JP4755095B2 - 映像符号化の符号化側/復号化側に使用される双方向予測方法 - Google Patents

映像符号化の符号化側/復号化側に使用される双方向予測方法 Download PDF

Info

Publication number
JP4755095B2
JP4755095B2 JP2006525606A JP2006525606A JP4755095B2 JP 4755095 B2 JP4755095 B2 JP 4755095B2 JP 2006525606 A JP2006525606 A JP 2006525606A JP 2006525606 A JP2006525606 A JP 2006525606A JP 4755095 B2 JP4755095 B2 JP 4755095B2
Authority
JP
Japan
Prior art keywords
motion vector
block
current
backward
field
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2006525606A
Other languages
English (en)
Other versions
JP2007505529A (ja
Inventor
向▲陽▼ 季
文 高
▲徳▼▲彬▼ ▲趙▼
岩 呂
思▲偉▼ ▲馬▼
洪▲鋼▼ ▲齊▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institute of Computing Technology of CAS
Original Assignee
Institute of Computing Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of Computing Technology of CAS filed Critical Institute of Computing Technology of CAS
Publication of JP2007505529A publication Critical patent/JP2007505529A/ja
Application granted granted Critical
Publication of JP4755095B2 publication Critical patent/JP4755095B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/56Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/58Motion compensation with long-term prediction, i.e. the reference frame for a current frame not being the temporally closest one
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、映像符号化の双方向予測方法に関するものであり、特に映像を圧縮する双方向予測方法であり、映像符号化・復号化の技術分野に属する。
デジタルテレビ、次世代移動通信、ブロードバンドネットワーク通信及び消費家電など発展中のハイテク産業は、その共通技術として映像と音声をはじめとするマルチメディア情報処理技術、特にデータ圧縮技術に注力している。高効率の映像符号化・復号化技術は、高品質、低コストのマルチメディアデータの蓄積と伝送がキーポイントである。従来、通常の符号化方式として、予測符号化、直交変換符号化、ベクトル量化符号化などがある。これらの方式は、全て信号処理理論に基づいたものであり、通常第一世代の符号化技術と言われている。現在比較的普及している映像符号化の国際標準は、全てこの符号化理論に基づいたものであり、ブロックマッチング(Block‐matching)動き補償、離散コサイン変換と量子化を混合した符号化方式が採用されている。例えば、国際標準化組織/国際電工技術委員会第一連合技術組織(ISO/IEC JTC1)が提唱したMPEG(Motion Picture Experts Group、動画専門グループ)‐1, MPEG‐2とMPEG‐4などの国際標準、および国際電信連盟(ITU‐T)が提唱したH.26xシリーズがある。これらの映像符号化標準は、産業界で幅広く応用されている。
これらの符号化標準は、全て混合符号化(Hybrid Video Coding)方式を採用し、通常予測、変換、量子化、情報エントロピー符号化などの四つの主要モジュールを含む。予測モジュールの主な機能は、既に符号化且つ復元化された画像を利用して、現在符号化しようとする画像に対して予測(フレーム間予測)し、或いは画像中既に符号化且つ復元化された画像ブロックを利用して、現在符号化しようとする画像ブロックを予測(フレーム内予測)することである。変換モジュールの主な機能は、入力された映像ブロックをほかの一つの空間に変換させ、入力された信号のエネルギーができるだけ低頻変換係数に集中するようにし、よって画像ブロック内の素子間の相関性を低下させ、圧縮しやすくすることである。量子化モジュールの主な機能は、変換した係数を符号化に役立つ有限要素集に映すことである。情報エントロピー符号化モジュールの主な機能は、統計規則に基づいて、量子化した後の変換係数を変長コードに表示することである。映像符号化システムは、類似のモジュールを含み、主に入力された符号列(code stream)を復号化、逆量子化、逆コサイン変換などの過程を通じて復号化映像を再成形する。上記のモジュール以外、映像符号化システムには、通常ある補助符号化ツール含み、これらのツールもシステム全体の符号化性能(圧縮比)に役立っている。
映像符号化の主な符号化効率は、動き補償に基づく予測によるものである。動き補償に基づく予測の主な機能は、映像序列の時間的な冗長性を無くすことである。映像の符号化過程とは、映像序列の各画像フレームに対して符号化する過程であり、本機能を果たすのが予測モジュールである。常用の映像符号化システムの映像フレームごとに対する符号化は、画像ブロックを基本単位にして行われる。各映像フレームを符号化する時、またフレーム間(Iフレーム)符号化、予測(Pフレーム)符号化と双方向予測(Bフレーム)符号化などに分類される。通常、符号化する時、Iフレーム、PフレームとBフレームなどは、インタールードで行われ、例えば、IBBPBBPなどの順序で行われる。
Bフレームの導入は、運動物体間或いは物体と背景との間で生じる異なる運動方向または運動速度により起こる「遮断問題」を有効に解決することができる。Bフレームの符号化は、符号化圧縮率を200:1以上のコード率にすることができる。Bフレームでの画像ブロックに対する符号化は、直接(Direct)、前方向予測(Forward Prediction)、後方向予測(Backward Prediction)と双方向予測(Bi‐directional Prediction)の四種類の方式がある。Bフレーム技術は、同時に前方向と後方向の運動予測を行う必要があるため、比較的複雑な計算が必要になると同時に、前後の運動ベクトルを区別するために特別な識別情報を導入する必要がある。
従来の映像符号化システムにおいて、Bフレームは、通常双方向予測の動き方式があり、この方式は、画像間の回転、輝度の変化、ノイズなどによる不適切なフレーム間予測を除去する。しかし、それと同時により多くの動きベクトルを符号化する必要があるため、動きベクトルの符号化のビット数が常に全符号の30%以上を占めるという問題があった。
比較的良い双方向予測性能を保つ前提で、動きベクトルの符号化量を低下させれば、符号化の圧縮率を有効に向上できる。特に低い符号化率の映像伝送への応用に際し、動きベクトル符号化に必要なビット数を低下させることは、より重要な意味がある。
本発明は、符号化に必要な動きベクトル数を有効に低下させるだけでなく、基本的に符号化側のマッチングブロックの検索の複雑度を増加させずに、映像符号化に使用される双方向予測方法を提供することを課題とする。
映像符号化に使用される符号化側の双方向予測方法は、現在Bフレームの画像ブロック毎に対して、前方向予測モードを用いて、前方向参照画像から現在画像ブロックの前方向動きベクトルを取得するステップ10と、ステップ10で得られた現在画像ブロックの前方向動きベクトル候補を利用して、後方向動きベクトル候補を計算・取得し、双方向予測に必要な前方向動きベクトル候補と後方向動きベクトル候補を取得するステップ20と、ステップ20で得られた現在画像ブロックの前方向動きベクトル候補と後方向動きベクトル候補を利用して、双方向予測方法により双方向予測参照ブロック候補を取得するステップ30と、与えられた検索範囲内及び/またはマッチング値が予め設定されたマッチング閾値以下である限りは、新しい参照ブロックを設定し続け、前の三つのステップを繰り返して、最適な参照ブロックを選択するステップ40と、当該画像ブロックの最適参照ブロックにより確定された前方向動きベクトル、後方向動きベクトル及びブロック残差を、符号列に編入するステップ50とからなる。
上記の映像符号化の復号化側に使用される双方向予測方法は、符号列から復号化して、前方向動きベクトルを取得するステップ21と、ステップ21で得られた前方向動きベクトルを利用して、後方向動きベクトルを計算・取得し、双方向予測に必要な前方向動きベクトルと後方向動きベクトルを取得するステップ31と、ステップ31で得られた現在画像ブロックの前方向動きベクトルと後方向動きベクトルを利用して、双方向予測方法により、最終的な双方向予測参照ブロックを求めるステップ41と、ステップ41で得られた予測参照ブロックを符号列から復号化して取得したブロック残差と合併して現在ブロック画像を形成するステップ51とからなる。
本発明の映像符号化に使用される双方向予測方法は、一つの動きベクトルのみに対し符号化し、もう一つの動きベクトルは計算により取得することによって、双方向予測の目的を実現する。このため単一の動きベクトルによる双方向予測方法とも言われている。本発明の方法は、基本的に符号化側マッチングブロックの検索の複雑度を増加させずに、動きベクトルに対する符号化量を極めて節約できる。且つ、映像での物体の動きをよりリアルに現し、より正確に動きベクトルを予測し、前方向予測符号化及び後方向予測符号化と結合して新しい予測符号化方式を実現する。
以下、図面及び実施例を用いて、本発明の技術的特徴について更に詳しく説明する。
本発明の実施例では、一つの前方向参照ピクチャーと一つの後方向参照ピクチャーだけで現在Bフレームの画像ブロックに対して前後参照フレーム上動きベクトルを予測する。
本発明の実施例の映像符号化に使用される双方向予測方法、上記双方向予測符号化方法は、図4に示すように、現在のBフレームの映像毎に、前方向予測モードを用いて、前方向参照画像から現在画像ブロックの前方向動きベクトル候補を取得するステップ10を含む。上記の前方向予測モードは、具体的に、前方向参照ピクチャーに設定した参照ブロックが含まれている場合にはステップ102を実行し、最初の回でない場合はステップ103を実行するステップ101と、前方向参照ピクチャーに設定された参照ブロックの前方向参照ピクチャー中の位置とBフレームの現在画像ブロックの現在ピクチャー中の位置との位置偏差から得られたベクトルが即ち前方向動きベクトル候補であり、ステップ10を終了するステップ102と、前方向参照ピクチャー中、Bフレームの現在画像ブロックと同じ位置の画像ブロックを、前方向参照ピクチャーに設定された参照ブロックとして選定し、ステップ102を実行するステップ103とからなる。
前後二つのフレームの画像時間間隔が非常に短いため、相違は多くない。最初に選択した参照ピクチャー位置と同じ点を参照点とする。その時の前方向動きベクトル候補は0であり、両者の間には位置の変化がない。もし下記のステップ40を通じて参照点を変えた場合、前方向動きベクトルは0ではない。
ステップ20では、ステップ10を利用して得られた現在画像ブロックの前方向動きベクトル候補から後方向動きベクトル候補を計算・取得し、双方向予測に必要な前方向動きベクトル候補と後方向動きベクトル候補を取得する。ベクトル候補の取得に関する方法について以下に説明する。
(フレーム符号化モード)
このモードでは、数式1を通じて現在ブロックの前方向動きベクトル候補と後方向動きベクトル候補を計算する。
Figure 0004755095
ここで、TDBは現在Bフレームと前方向参照フレームの時間軸上の距離であり、TDDは後方向参照フレームと前方向参照フレームの時間軸上の距離であり、CMVFとCMVBはそれぞれ該当のBフレーム現在ブロックの前方向動きベクトル候補と後方向動きベクトル候補である(図1を参照)。
(フィールド符号化方式)
奇数フィールドモードでは、数式2を通じて、現在ブロックの前方向動きベクトル候補と後方向動きベクトル候補を計算する。
Figure 0004755095
ここで、TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、TDDは後方向参照ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、CMVFとCMVBは、それぞれ推算された該当のBフレーム現在ブロックの前方向動きベクトル候補と後方向動きベクトル候補である。数式2中のiの値は、現在フィールドの奇数偶数モードによって決定され、奇数モードの場合は0、偶数モードの場合はを取る(図2を参照)。
偶数フィールドモードでは、後方向参照フィールドに対応するブロックの動きベクトルが時間軸上現在フィールドより前の任意のフィールドを指す場合、現在ブロックの後方向動きベクトルの推算は奇数フィールドの場合と同じである。
後方向参照フィールドに対応するブロックの動きベクトルが該当の(現在フィールドの偶数フィールドと同じフレームに属する)奇数フィールドを指す場合、このような状況では、現在ブロックの前方向動きベクトル候補と後方向動きベクトル候補の推算は下記の通りである。
Figure 0004755095
TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の時間距離であり、TDDは後方向参照ピクチャーと前方向参照ピクチャーの時間軸上の時間距離であり、CMVFとCMVBはそれぞれ推算された該当のBフレーム現在ブロックの前方向動きベクトル候補と後方向動きベクトル候補である(図3を参照)。
ステップ30では、ステップ20で取得した現在画像ブロックの前方向動きベクトル候補と後方向動きベクトル候補を利用して、双方向予測方法により、最終的双方向予測参照ブロックを取得する。即ち、前方向動きベクトル候補と後方向動きベクトル候補が指す二つの予測参照ブロックに対応する画素の平均を取り、最終的な双方向予測参照ブロックを求める。
ステップ40では、与えられた検索範囲内及び/またはマッチング値が予め設定されたマッチング閾値以下である間に、常に新しい参照ブロックを設定し、前述の三つのステップを繰り返し実行し、最後に最適なマッチングブロックを選定する。
ステップ40では、検索範囲が参照ピクチャー中Bフレーム現在ブロックと同じ位置の参照ブロックを中心とする一定の範囲であり、検索区域の大きさは画像質に対する要求によって異なり、検索する区域が広いほど、得られた参照ブロックがより正確であり、検索区域は最大で参照ピクチャー全体となる。検索範囲全体で、参照ブロックから得られた双方向予測参照ブロックとBフレーム現在ブロックに対応する画素との差の絶対値の和(SADで表す)が一番小さい双方向予測参照ブロックが最適マッチングブロックである。
マッチング値は、双方向予測参照ブロックとBフレーム現在ブロックに対応する画素との差の絶対値の和SADである。マッチング閾値は予め設定されたマッチング値であり、マッチング値がマッチング閾値以下である場合、その時の参照ブロックが最適参照ブロックとなる。一定の順、一般的には現在参照ブロックを基点として近い点から遠い点へと順に、参照ブロックのマッチング値を計算する。マッチング閾値を設定する方法を使用すれば、全ての参照点を検索することなく、要求に合う参照ブロックを検索したときに、最適参照ブロック検索過程を終了させるので、非常に効率が良い。
上記の二種類の方法では、SADを計算して双方向予測参照ブロックとBフレーム現在ブロックの差を表す方法を採用したが、他の方法を採用することもできる。例えば、対応する画素の分散を計算する方法があるが、この方法はSAD方法より直接的、効率的でない。
当然、検索範囲とマッチング閾値の設定を結合する方法も採用することができ、図4に示すように、設定した区域内で近い点から遠い点へと順にマッチング値を計算する。この方法では必要に応じて、検索範囲を確定し、全体の検索範囲を検索する必要がないため、最も効率的である。
ステップ50では、該当映像ブロックの最適参照ブロックから確定した前方向動きベクトル及びブロック残差を符号列に編入する。ブロック残差は、最適参照ブロックが確定した双方向予測参照ブロックとBフレーム現在ブロックの対応する画素の差異であり、最適参照ブロックとBフレーム現在ブロックの対応する画素の差の序列を直接符号化することができ、或いは該当差の序列を圧縮し、伝送しやすくすることもできる。
本発明の実施例の映像符号化の双方向予測方法に使用される、双方向予測復号化方法は、図5に示すように、下記のステップからなる。
上記の双方向予測復号化方法は、符号列から復号化し、前方向動きベクトルを取得するステップ21と、ステップ21で得られた前方向動きベクトルを利用して、後方向動きベクトルを計算・取得し、双方向予測に必要な前方向動きベクトルと後方向動きベクトルを取得するステップ31と、ステップ31で得られた現在映像ブロックの前方向動きベクトルと後方向動きベクトルを利用して、双方向予測方法により、最終的に双方向予測参照ブロックを取得するステップ41と、ステップ41で得られた予測参照ブロックと符号列中の復号化に対応したブロック残差を合わせ、現在ブロック画像を形成するステップ51とからなる。
上記ステップ31で、後方向動きベクトルを計算するステップは下記の通りである。
ステップ310では、現在の画像モードを判断し、フレーム符号化モードである場合には、ステップ311を実行する。フィールド符号化モードである場合には、奇数フィールドか偶数フィールドかを判断し、奇数フィールドの場合には、ステップ312を実行し、偶数フィールドの場合には、ステップ313を実行する。
ステップ311では、数式4を通じて、後方向動きベクトルを計算する。
Figure 0004755095
TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、TDDは前方向参照ピクチャーと後方向参照ピクチャーの時間軸上の距離であり、MVFとMVBはそれぞれ該当のBフレームの現在ブロックの前方向動きベクトルと後方向動きベクトルである。ステップ31を終了する。
ステップ312では、数式5を通じて、後方向動きベクトルを計算する。
Figure 0004755095
TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、TDDは前方向参照ピクチャーと後方向参照ピクチャーの時間軸上の距離であり、MVFとMVBはそれぞれ推算された該当のBフレームの現在ブロックの前方向動きベクトルと後方向動きベクトルである;下付けiの値は奇数偶数モードにより決定され、奇数モードの場合には0、偶数モードの場合は1の値をとる。ステップ31を終了する。
ステップ313では、後方向参照フィールドに対応するブロックの動きベクトルが時間軸上現在フィールドより前の任意のフィールドを指す場合、ステップ312を実行する。後方向参照フィールドの対応するブロックの動きベクトルが偶数フィールドと同一フレーム上の該当する奇数フィールドを指す場合、数式6を通じて、後方向動きベクトルを計算する。
Figure 0004755095
TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、TDDは前方向参照ピクチャーと後方向参照ピクチャーの時間軸上の距離であり、MVFとMVBはそれぞれ推算された該当のBフレームの現在ブロックの前方向動きベクトルと後方向動きベクトルである。ステップ31を終了する。
ステップ41において、双方向予測方法の具体的なプロセスは、前方向動きベクトルと後方向動きベクトルが指す二つの予測参照ブロックに対応する画素の平均を取り、最終的な双方向予測参照ブロックを取得することである。
復号化のプロセスは比較的簡単で、符号列から前方向動きベクトルを取得した後、直接計算して後方向動きベクトルを取得し、双方向予測参照ブロックとブロック残差を合わせ、符号化前の映像を取得する。これは完全に符号化のプロセスとは逆のプロセスであると考えられる。
上記の実施例は、本発明の技術的特徴を説明するためのものあり、それにより本発明を制限するものではない。最適な実施例を参照して本発明について詳細に説明したが、本分野の技術者らは、本発明の技術的特徴について修正或いは同等の変更を行えると考えるべきであり、本発明の技術的特徴の思想及び範囲を超えない限り、本発明の特許請求の範囲に含まれるべきである。
フレーム符号化中の後方向動きベクトルを推算する過程を示す図である。 フィールド符号化中の、奇数フィールドまたは偶数フィールド中で、後方向参照フィールドに対応するモジュールの動きベクトルが時間領域上現在フィールドより早い任意のフィールドを指す時、後方向動きベクトルを推算する過程を示す図である。 フィールド符号化中の、偶数フィールド中で、後方向参照フィールドの対応ブロックの動きベクトルが偶数フィールドと同じフレームに属する奇数フィールドを指す時、フィールド符号化中の後方向動きベクトルを推算する過程を示す図である。 符号化側が動き予測を実現して前方向動きベクトルを得て、後方向動きベクトルを計算し最終的に最適マッチングブロックを取得する双方向予測フローチャートである。 復号化側が符号列から取得した前方向動きベクトルにより後方向動きベクトルを推算し、且つ最終的に双方向予測補償により、任意の画像ブロックを新しく形成する過程を示す図である。

Claims (8)

  1. 現在Bフレームの画像ブロック毎に対して、前方向予測モードを用いて、前方向参照画像から該現在画像ブロックの前方向動きベクトル候補を取得するステップ10と、
    該ステップ10で得られた前記現在画像ブロックの前方向動きベクトル候補を利用して、後方向動きベクトル候補を計算・取得し、双方向予測に必要な前方向動きベクトル候補と後方向動きベクトル候補を取得するステップ20と、
    該ステップ20で得られた前記現在画像ブロックの前記前方向動きベクトル候補と前記後方向動きベクトル候補を利用して、双方向予測方法により双方向予測参照ブロック候補を取得するステップ30と、
    与えられた検索範囲内及び/またはマッチング値が予め設定されたマッチング閾値以下である間は、新しい参照ブロックを設定し、前記ステップ10から30を繰り返して、最適参照ブロックを選択するステップ40と、
    前記画像ブロックの前記最適参照ブロックにより確定された前記前方向動きベクトル及びブロック残差を、符号列に編入するステップ50とからなり、
    前記マッチング値は、双方向予測参照ブロックとBフレーム現在ブロックに対応する画素との差の絶対値の和であり、
    前記ステップ20中、前記後方向動きベクトル候補を計算する過程は、ステップ110、ステップ111、ステップ112、ステップ113からなり、
    該ステップ110では、現在の画像モードを判断し、フレーム符号化モードである場合は前記ステップ111を実行し、フィールド符号化モードである場合は現在フィールドが奇数フィールドか偶数フィールドかを判断し、奇数フィールドであれば前記ステップ112を実行し、偶数フィールドであれば前記ステップ113を実行し、
    前記ステップ111では、数式1を通じて、前記後方向動きベクトルを計算・取得し、前記ステップ20を終了し、
    前記ステップ112では、数式2を通じて、前記後方向動きベクトルを計算・取得し、前記ステップ20を終了し、
    前記ステップ113では、前記後方向参照フィールドに対応するブロックの動きベクトルが時間軸上現在フィールドより前の任意のフィールドを指す場合、前記ステップ112を実行し、前記後方向参照フィールドに対応するブロックの動きベクトルが現在フィールドの偶数フィールドと同じフレームに該当する奇数フィールドを指す場合、数式3を通じて、前記後方向動きベクトルを計算・取得し、前記ステップ20を終了することを特徴とする映像符号化に使用される符号化側双方向予測方法。
    Figure 0004755095
    TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、TDDは前方向参照ピクチャーと後方向参照ピクチャーの時間軸上の距離であり、CMVFとCMVBは、それぞれ該当のBフレーム現在ブロックの前方向動きベクトル候補と後方向動きベクトル候補である。
    Figure 0004755095
    TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、TDDは前方向参照ピクチャーと後方向参照ピクチャーの時間軸上の距離であり、CMVFとCMVBは、それぞれ推算された該当のBフレーム現在ブロックの前方向動きベクトル候補と後方向動きベクトル候補である。
    Figure 0004755095
    TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、TDDは前方向参照ピクチャーと後方向参照ピクチャーの時間軸上の距離であり、CMVFとCMVBは、それぞれ推算された該当のBフレーム現在ブロックの前方向動きベクトル候補と後方向動きベクトル候補である。
  2. 前記ステップ10中、前方向予測運動モードを用いて、前記前方向動きベクトル候補を取得する過程は、
    最初の回である場合、前方向参照ピクチャー中Bフレーム現在画像ブロックと同じ位置の画像ブロックを、前記前方向参照ピクチャー中に設定された参照ブロックとして選定し、ステップ102を実行し、最初の回でない場合は直接、該ステップ102を実行するステップ101と、
    前記前方向参照ピクチャー中に設定された参照ブロックの、前記前方向参照ピクチャー中の位置とBフレーム現在画像ブロックの現在ピクチャー中の位置との差を演算し、得られたベクトルは前記前方向動きベクトルであり、前記ステップ10を終了するステップ102とを含むことを特徴とする請求項1に記載の映像符号化に使用される符号化側双方向予測方法。
  3. 前記ステップ30の前記双方向予測方法の具体的な過程では、前記前方向動きベクトル候補と前記後方向動きベクトル候補が指す二つの予測参照ブロックが対応する画素に対して平均を取り、最終的な双方向予測参照ブロックを求めることを特徴とする請求項1に記載の映像符号化に使用される符号化側双方向予測方法。
  4. 前記ステップ40では、検索範囲が参照ピクチャー中Bフレーム現在ブロックと同じ位置の参照ブロックを中心とする一定の区域であり、最大で参照ピクチャー全体まで広がり、全体の検索範囲中、前記参照ブロックから得られた前記双方向予測参照ブロックと前記Bフレーム現在ブロックに対応する画素との差の絶対値の和が一番小さい参照ブロックが最適マッチングブロックであることを特徴とする請求項1に記載の映像符号化に使用される符号化側双方向予測方法。
  5. 前記ステップ40中、マッチング値は前記双方向予測参照ブロックと前記Bフレーム現在ブロックに対応する画素との差の絶対値の和であり、マッチング閾値は予め設定されたマッチング値であり、該マッチング値が該マッチング閾値以下である場合、この時の参照ブロックは最適な参照ブロックであることを特徴とする請求項1に記載の映像符号化に使用される符号化側双方向予測方法。
  6. 前記ブロック残差は、前記最適参照ブロックと前記Bフレーム現在ブロックとの該当する画素の差異であることを特徴とする請求項1に記載の映像符号化に使用される符号化側双方向予測方法。
  7. 符号列から復号化して、前方向動きベクトルを取得するステップ21と、
    該ステップ21で得られた前記前方向動きベクトルを利用して、前記後方向動きベクトルを計算・取得し、前記双方向予測に必要な前記前方向動きベクトルと前記後方向動きベクトルを取得するステップ31と、
    該ステップ31で得られた現在画像ブロックの前記前方向動きベクトルと前記後方向動きベクトルを利用して、双方向予測方法により、最終的な双方向予測参照ブロックを求めるステップ41と、
    該ステップ41で得られた該予測参照ブロックを符号列から復号化して取得したブロック残差と合併して現在ブロック画像ブロックを形成するステップ51とからなり、
    前記ステップ31中、前記後方向動きベクトルを計算するステップは、ステップ310、ステップ311、ステップ312、ステップ313からなり、
    前記ステップ310では、現在画像モードを判断し、フレーム符号化モードである場合はステップ311を実行し、フィールド符号化モードである場合は現在フィールドが奇数フィールドか偶数フィールドかを判断した後、奇数フィールドである場合はステップ312を実行し、偶数フィールドである場合はステップ313を実行し、
    前記ステップ311では、数式4を通じて、前記後方向動きベクトルを計算・取得し、前記ステップ31を終了し、
    前記ステップ312では、数式5を通じて、前記後方向動きベクトルを計算・取得し、前記ステップ31を終了し、
    前記ステップ313では、前記後方向参照フィールドに対応するブロックの動きベクトルが、時間軸上現在フィールドより前の任意のフィールドを指す場合、前記ステップ312を実行し、前記後方向参照フィールドに対応するブロックの動きベクトルが、現在フィールドの偶数フィールドと同一フレームに属する該当の奇数フィールドを指す場合、数式6を通じて、前記後方向動きベクトルを計算・取得し、前記ステップ31を終了することを特徴とする映像符号化に使用される復号化側双方向予測方法。
    Figure 0004755095
    TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、TDDは前方向参照ピクチャーと後方向参照ピクチャーの時間軸上の距離であり、MVFとMVBは、それぞれ該当のBフレーム現在ブロックの前方向動きベクトルと後方向動きベクトルである。
    Figure 0004755095
    TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、TDDは前方向参照ピクチャーと後方向参照ピクチャーの時間軸上の距離であり、MVFとMVBは、それぞれ推算された該当のBフレーム現在ブロックの前方向動きベクトルと後方向動きベクトルである。
    Figure 0004755095
    TDBは現在ピクチャーと前方向参照ピクチャーの時間軸上の距離であり、TDDは前方向参照ピクチャーと後方向参照ピクチャーの時間軸上の距離であり、MVFとMVBは、それぞれ推算された該当のBフレーム現在ブロックの前方向動きベクトルと後方向動きベクトルである。
  8. 前記ステップ41の双方向予測方法の具体的な過程では、前記前方向動きベクトルと前記後方向動きベクトルが指す二つの予測参照ブロックに対応する画素に対して平均を取り、最終的な双方向予測参照ブロックを求めることを特徴とする請求項7に記載の映像符号化に使用される復号化側双方向予測方法。
JP2006525606A 2003-09-12 2004-07-02 映像符号化の符号化側/復号化側に使用される双方向予測方法 Expired - Lifetime JP4755095B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CNB031570771A CN1225127C (zh) 2003-09-12 2003-09-12 一种用于视频编码的编码端/解码端双向预测方法
CN03157077.1 2003-09-12
PCT/CN2004/000735 WO2005027520A1 (en) 2003-09-12 2004-07-02 Bi-directional predicting method for video coding/decoding

Publications (2)

Publication Number Publication Date
JP2007505529A JP2007505529A (ja) 2007-03-08
JP4755095B2 true JP4755095B2 (ja) 2011-08-24

Family

ID=34287139

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006525606A Expired - Lifetime JP4755095B2 (ja) 2003-09-12 2004-07-02 映像符号化の符号化側/復号化側に使用される双方向予測方法

Country Status (7)

Country Link
US (1) US8005144B2 (ja)
EP (1) EP1672926B1 (ja)
JP (1) JP4755095B2 (ja)
KR (1) KR100897880B1 (ja)
CN (1) CN1225127C (ja)
BR (1) BRPI0413945B1 (ja)
WO (1) WO2005027520A1 (ja)

Families Citing this family (68)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8155191B2 (en) * 2004-11-04 2012-04-10 Thomson Licensing Method and apparatus for fast mode decision of B-frames in a video encoder
CN100384216C (zh) * 2004-12-31 2008-04-23 北京中星微电子有限公司 优化搜索算法的视频数据压缩方法及装置
CN100394398C (zh) * 2005-01-07 2008-06-11 深圳清华大学研究院 一种avs视频解码验证方法和装置
CN100405851C (zh) * 2005-11-18 2008-07-23 宁波中科集成电路设计中心有限公司 多模标准解码器中运动矢量预测复用设计方法
JP5165593B2 (ja) * 2006-02-02 2013-03-21 トムソン ライセンシング 組合せ参照双方向予測を用いて動き推定を行う方法および装置
US20070252895A1 (en) * 2006-04-26 2007-11-01 International Business Machines Corporation Apparatus for monitor, storage and back editing, retrieving of digitally stored surveillance images
WO2007136088A1 (ja) * 2006-05-24 2007-11-29 Panasonic Corporation 画像符号化装置、画像符号化方法、及び画像符号化用集積回路
CN101641958B (zh) * 2007-09-12 2011-10-19 索尼株式会社 图像处理设备和图像处理方法
CN101222646B (zh) * 2008-01-30 2010-06-02 上海广电(集团)有限公司中央研究院 一种适用于avs编码的帧内预测装置及预测方法
EP2557795A4 (en) * 2010-04-06 2015-07-08 Samsung Electronics Co Ltd METHOD AND APPARATUS FOR ENCODING A VIDEO AND METHOD AND APPARATUS FOR DECODING A VIDEO
WO2012008040A1 (ja) * 2010-07-15 2012-01-19 株式会社 東芝 画像符号化方法及び画像復号化方法
CN102006480B (zh) * 2010-11-29 2013-01-30 清华大学 基于视间预测的双目立体视频的编码及解码方法
KR101506446B1 (ko) * 2010-12-15 2015-04-08 에스케이 텔레콤주식회사 움직임정보 병합을 이용한 부호움직임정보생성/움직임정보복원 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
US9083981B2 (en) 2011-01-12 2015-07-14 Panasonic Intellectual Property Corporation Of America Moving picture coding method and moving picture decoding method using a determination whether or not a reference block has two reference motion vectors that refer forward in display order with respect to a current picture
GB2487200A (en) 2011-01-12 2012-07-18 Canon Kk Video encoding and decoding with improved error resilience
WO2012097376A1 (en) 2011-01-14 2012-07-19 General Instrument Corporation Spatial block merge mode
CN102710934B (zh) * 2011-01-22 2015-05-06 华为技术有限公司 一种运动预测或补偿方法
CN107277542B (zh) * 2011-02-10 2019-12-10 太阳专利托管公司 动态图像解码方法、动态图像解码装置
US10404998B2 (en) 2011-02-22 2019-09-03 Sun Patent Trust Moving picture coding method, moving picture coding apparatus, moving picture decoding method, and moving picture decoding apparatus
JP5358746B2 (ja) 2011-03-03 2013-12-04 パナソニック株式会社 動画像符号化方法、動画像符号化装置及びプログラム
WO2012140821A1 (ja) 2011-04-12 2012-10-18 パナソニック株式会社 動画像符号化方法、動画像符号化装置、動画像復号化方法、動画像復号化装置、および動画像符号化復号化装置
EP3337172B1 (en) 2011-05-24 2020-09-09 Velos Media International Limited Image encoding method, image encoding apparatus
US9485518B2 (en) 2011-05-27 2016-11-01 Sun Patent Trust Decoding method and apparatus with candidate motion vectors
EP4213483A1 (en) 2011-05-27 2023-07-19 Sun Patent Trust Image coding method, image coding apparatus, image decoding method, image decoding apparatus, and image coding and decoding apparatus
US8989271B2 (en) 2011-05-31 2015-03-24 Panasonic Intellectual Property Corporation Of America Decoding method and apparatus with candidate motion vectors
SG194746A1 (en) * 2011-05-31 2013-12-30 Kaba Gmbh Image encoding method, image encoding device, image decoding method, image decoding device, and image encoding/decoding device
GB2491589B (en) 2011-06-06 2015-12-16 Canon Kk Method and device for encoding a sequence of images and method and device for decoding a sequence of image
PL2728878T3 (pl) 2011-06-30 2020-06-15 Sun Patent Trust Sposób dekodowania obrazów, sposób kodowania obrazów, urządzenie do dekodowania obrazów, urządzenie do kodowania obrazów oraz urządzenie do kodowania/dekodowania obrazów
CN103797795B (zh) 2011-07-01 2017-07-28 谷歌技术控股有限责任公司 用于运动矢量预测的方法和设备
MX341415B (es) 2011-08-03 2016-08-19 Panasonic Ip Corp America Metodo de codificacion de video, aparato de codificacion de video, metodo de decodificacion de video, aparato de decodificacion de video y aparato de codificacion/decodificacion de video.
KR20140057683A (ko) * 2011-08-29 2014-05-13 주식회사 아이벡스피티홀딩스 머지 모드에서 영상 부호화 방법
CN108881903B (zh) 2011-10-19 2022-01-04 太阳专利托管公司 图像编码方法及装置、图像解码方法及装置、编解码装置
US9185428B2 (en) 2011-11-04 2015-11-10 Google Technology Holdings LLC Motion vector scaling for non-uniform motion vector grid
JP5485969B2 (ja) * 2011-11-07 2014-05-07 株式会社Nttドコモ 動画像予測符号化装置、動画像予測符号化方法、動画像予測符号化プログラム、動画像予測復号装置、動画像予測復号方法及び動画像予測復号プログラム
US9531990B1 (en) * 2012-01-21 2016-12-27 Google Inc. Compound prediction using multiple sources or prediction modes
US8908767B1 (en) 2012-02-09 2014-12-09 Google Inc. Temporal motion vector prediction
US8947449B1 (en) 2012-02-21 2015-02-03 Google Inc. Color space conversion between semi-planar YUV and planar YUV formats
US8737824B1 (en) 2012-03-09 2014-05-27 Google Inc. Adaptively encoding a media stream with compound prediction
WO2013136678A1 (ja) * 2012-03-16 2013-09-19 パナソニック株式会社 画像復号装置および画像復号方法
US9172970B1 (en) 2012-05-29 2015-10-27 Google Inc. Inter frame candidate selection for a video encoder
US11317101B2 (en) 2012-06-12 2022-04-26 Google Inc. Inter frame candidate selection for a video encoder
KR101932916B1 (ko) 2012-06-28 2018-12-27 삼성전자 주식회사 모션 추정 시스템 및 그 방법, 디스플레이 컨트롤러, 및 전자 장치
US9185414B1 (en) 2012-06-29 2015-11-10 Google Inc. Video encoding using variance
US9485515B2 (en) 2013-08-23 2016-11-01 Google Inc. Video coding using reference motion vectors
US9503746B2 (en) 2012-10-08 2016-11-22 Google Inc. Determine reference motion vectors
US9628790B1 (en) 2013-01-03 2017-04-18 Google Inc. Adaptive composite intra prediction for image and video compression
US9374578B1 (en) 2013-05-23 2016-06-21 Google Inc. Video coding using combined inter and intra predictors
US9313493B1 (en) 2013-06-27 2016-04-12 Google Inc. Advanced motion estimation
CN104427345B (zh) * 2013-09-11 2019-01-08 华为技术有限公司 运动矢量的获取方法、获取装置、视频编解码器及其方法
US9609343B1 (en) 2013-12-20 2017-03-28 Google Inc. Video coding using compound prediction
US9438910B1 (en) 2014-03-11 2016-09-06 Google Inc. Affine motion prediction in video coding
WO2016008161A1 (en) 2014-07-18 2016-01-21 Mediatek Singapore Pte. Ltd. Temporal derived bi-directional motion vector predictor
CN104363461B (zh) * 2014-11-04 2017-12-22 中国科学技术大学 视频帧的错误隐藏方法及应用其的视频解码方法
CN106034236B (zh) 2015-03-19 2019-07-19 阿里巴巴集团控股有限公司 一种hevc编码最佳参考帧的选择方法、装置及编码器
CN104717513B (zh) * 2015-03-31 2018-02-09 北京奇艺世纪科技有限公司 一种双向帧间预测方法及装置
CN107787582A (zh) * 2015-06-10 2018-03-09 三星电子株式会社 使用用于自适应加权预测的语法信令对图像进行编码或解码的方法和设备
CN109996080B (zh) * 2017-12-31 2023-01-06 华为技术有限公司 图像的预测方法、装置及编解码器
CN110324637B (zh) 2018-03-29 2023-11-17 华为技术有限公司 一种双向帧间预测方法及装置
KR20230143620A (ko) * 2018-07-06 2023-10-12 미쓰비시덴키 가부시키가이샤 동화상 복호 방법, 동화상 복호 장치, 동화상 부호화 방법 및 동화상 부호화 장치
CN109145744B (zh) * 2018-07-19 2020-08-18 西安理工大学 一种基于自适应预测模式的lstm网络行人重识别方法
US11051034B2 (en) * 2018-10-08 2021-06-29 Qualcomm Incorporated History-based motion vector predictor
CN109525843B (zh) * 2018-10-23 2022-06-10 深圳市网心科技有限公司 skip块判断方法、电子装置及计算机可读存储介质
CN118175309A (zh) 2018-12-27 2024-06-11 Sk电信有限公司 双向预测设备、视频编码设备及比特流传输设备
KR20200081201A (ko) * 2018-12-27 2020-07-07 에스케이텔레콤 주식회사 양방향 예측 방법 및 영상 복호화 장치
CN112969072B (zh) * 2019-03-11 2022-08-26 杭州海康威视数字技术股份有限公司 一种编解码方法、装置及其设备
CN113709486B (zh) * 2019-09-06 2022-12-23 杭州海康威视数字技术股份有限公司 一种编解码方法、装置及其设备
CN111754429B (zh) * 2020-06-16 2024-06-11 Oppo广东移动通信有限公司 运动矢量后处理方法和装置、电子设备及存储介质
CN115633216B (zh) * 2022-09-05 2024-05-28 北京智源人工智能研究院 时域运动一致性视频生成模型的训练方法和视频生成方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06217293A (ja) * 1991-09-23 1994-08-05 Matsushita Electric Ind Co Ltd 差分パルス符号変調システムにおけるモーションベクトルを得るための装置
JPH07162864A (ja) * 1993-12-08 1995-06-23 Ricoh Co Ltd 動きベクトル検出方法
JP2001045492A (ja) * 1999-08-03 2001-02-16 Canon Inc 動画像処理方法
JP2002335529A (ja) * 2001-05-08 2002-11-22 Nec Corp 動画像符号化方法および装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5293229A (en) * 1992-03-27 1994-03-08 Matsushita Electric Corporation Of America Apparatus and method for processing groups of fields in a video data compression system
GB9401989D0 (en) * 1994-02-02 1994-03-30 British Broadcasting Corp Video motion estimation
KR0171145B1 (ko) * 1995-03-20 1999-03-20 배순훈 이미지 부호화 시스템용 움직임 보상 장치
KR100209793B1 (ko) * 1995-10-28 1999-07-15 전주범 특징점 기반 움직임 추정을 이용하여 비디오 신호를 부호화 및 복호화하는 장치
JP3263807B2 (ja) * 1996-09-09 2002-03-11 ソニー株式会社 画像符号化装置および画像符号化方法
US5991447A (en) * 1997-03-07 1999-11-23 General Instrument Corporation Prediction and coding of bi-directionally predicted video object planes for interlaced digital video
JP2002516529A (ja) * 1998-05-20 2002-06-04 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ピクチャシーケンスとして構成された情報ストリームの符号化
WO2000067486A1 (en) * 1999-04-30 2000-11-09 Koninklijke Philips Electronics N.V. Video encoding method with selection of b-frame encoding mode
CN1484922A (zh) * 2001-11-06 2004-03-24 松下电器产业株式会社 运动图像编码方法及运动图像解码方法
GB2381980A (en) 2001-11-07 2003-05-14 Motorola Inc Error concealment in scalable video transmissions

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06217293A (ja) * 1991-09-23 1994-08-05 Matsushita Electric Ind Co Ltd 差分パルス符号変調システムにおけるモーションベクトルを得るための装置
JPH07162864A (ja) * 1993-12-08 1995-06-23 Ricoh Co Ltd 動きベクトル検出方法
JP2001045492A (ja) * 1999-08-03 2001-02-16 Canon Inc 動画像処理方法
JP2002335529A (ja) * 2001-05-08 2002-11-22 Nec Corp 動画像符号化方法および装置

Also Published As

Publication number Publication date
EP1672926B1 (en) 2013-05-22
JP2007505529A (ja) 2007-03-08
WO2005027520A1 (en) 2005-03-24
BRPI0413945A (pt) 2006-10-31
KR100897880B1 (ko) 2009-05-18
KR20070026317A (ko) 2007-03-08
US8005144B2 (en) 2011-08-23
BRPI0413945B1 (pt) 2019-05-14
EP1672926A4 (en) 2011-08-03
US20070110156A1 (en) 2007-05-17
CN1525762A (zh) 2004-09-01
EP1672926A1 (en) 2006-06-21
BRPI0413945A8 (pt) 2018-04-17
CN1225127C (zh) 2005-10-26

Similar Documents

Publication Publication Date Title
JP4755095B2 (ja) 映像符号化の符号化側/復号化側に使用される双方向予測方法
EP1958448B1 (en) Multi-dimensional neighboring block prediction for video encoding
US6462791B1 (en) Constrained motion estimation and compensation for packet loss resiliency in standard based codec
US8582904B2 (en) Method of second order prediction and video encoder and decoder using the same
US9667961B2 (en) Video encoding and decoding apparatus, method, and system
US7088772B2 (en) Method and apparatus for updating motion vector memories
WO2005022923A2 (en) Method and apparatus for minimizing number of reference pictures used for inter-coding
US5825930A (en) Motion estimating method
US20120008686A1 (en) Motion compensation using vector quantized interpolation filters
EP1757108A1 (en) Method and system for representing correlated set of images
US20070133689A1 (en) Low-cost motion estimation apparatus and method thereof
JP2011061302A (ja) 動画像符号化装置
JP2006517369A (ja) ビデオデータストリームを符号化するための装置
JP4642033B2 (ja) 参照フレームの数を固定する符号化方式で画像の参照ブロックを取得する方法
Ratnottar et al. Comparative study of motion estimation & motion compensation for video compression
Zheng et al. A new multihypothesis prediction scheme for compressed video sensing reconstruction
KR100617598B1 (ko) 1/4픽셀 움직임 벡터를 이용한 동영상 압축방법
KR100757832B1 (ko) 1/4픽셀 움직임 벡터를 이용한 동영상 압축방법
KR100757831B1 (ko) 1/4픽셀 움직임 벡터를 이용한 동영상 압축방법
KR100757830B1 (ko) 1/4픽셀 움직임 벡터를 이용한 동영상 압축방법
KR20070063479A (ko) 1/4픽셀 움직임 벡터를 이용한 동영상 압축방법
KR0178202B1 (ko) 움직임 추정에서의 윈도우 설정방법
US20070127565A1 (en) Video encoding method and device
KR100657714B1 (ko) 3차원 스캐닝을 이용한 영상데이터 부호화 방법
TANKARIYA et al. ADVANCED BLOCK MATCHING MOTION ESTIMATION ALGORITHM FOR VIDEO COMPRESSION

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091026

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100122

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110509

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110526

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140603

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4755095

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250