JP2006513635A - 符号化された画像における誤り隠蔽のための補間フィルタの定義 - Google Patents

符号化された画像における誤り隠蔽のための補間フィルタの定義 Download PDF

Info

Publication number
JP2006513635A
JP2006513635A JP2004566420A JP2004566420A JP2006513635A JP 2006513635 A JP2006513635 A JP 2006513635A JP 2004566420 A JP2004566420 A JP 2004566420A JP 2004566420 A JP2004566420 A JP 2004566420A JP 2006513635 A JP2006513635 A JP 2006513635A
Authority
JP
Japan
Prior art keywords
interpolation filter
mode
derived
intra
prediction mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004566420A
Other languages
English (en)
Other versions
JP2006513635A5 (ja
JP4474288B2 (ja
Inventor
ゴミラ,クリスティーナ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2006513635A publication Critical patent/JP2006513635A/ja
Publication of JP2006513635A5 publication Critical patent/JP2006513635A5/ja
Application granted granted Critical
Publication of JP4474288B2 publication Critical patent/JP4474288B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)

Abstract

符号化された画像(100)における誤りの隠蔽ではまず、画像の符号化に従ったイントラ予測モードを選択することが行われる。選択されたイントラ予測モードは、通常は符号化の際に予測値を得る方向を指定するのに使われるのであるが、誤り隠蔽のための推定値を得るための方向を指定するときにも役に立つ。補間フィルタは、前記イントラ予測モードによって指定される方向に沿って推定ピクセル値を得る方法を定義するものである。イントラ予測モードと同様に、補間フィルタは画像の符号化に従って導出される。画像の隠蔽は前記補間フィルタによって規定される仕方で得られる推定値を使って実現される。

Description

本出願は、2003年1月10日に出願された米国特許仮出願60/439,185について、米国法典第35編第119条(e)項に基づく優先権を主張するものである。前記仮出願の思想は本出願に組み込まれている。
この発明は、符号化されたビデオストリーム中の誤りの隠蔽のための方向性補間フィルタを定義する技術に関するものである。
多くの例において、ビデオストリームは保存や伝送を容易にするために圧縮(符号化)が行われる。現在、多様な符号化方式があるが、そのうちには提案されているISO/ITU H.264符号化技術のようなブロックをベースとする符号化の諸方式も含まれる。そのような符号化されたビデオストリームが、チャンネル誤りやネットワーク輻輳のために伝送中にデータ損失をこうむったり、変質してしまったりすることも少なくない。復号すると、データの損失や変質は欠失や変質したピクセル値として現れ、画像に乱れを引き起こす。そのような乱れを減らすため、デコーダは、同じ画像中の他のマクロブロックから、あるいは他の画像からそのような値を推定することによってそのような欠失または変質ピクセル値を「隠蔽」する。実際にはデコーダは欠けたり変質したりしたピクセル値を隠すわけではないので、隠蔽という用語はあまり適切な名称ではない。
空間的な隠蔽は、空間領域において近隣の区域間で類似性があることを利用して同じ画像中の別の部分からのピクセル値を使うことで、欠失・変質したピクセル値を導出しようとするものである。典型的には、計算量が同程度なら、空間的隠蔽技術は、伝送された他の画像からの情報を利用する時間的誤り隠蔽技術よりも性能は劣る。誤り隠蔽アルゴリズムが空間的補間に頼るのは、時間的隠蔽の選択肢が利用できない場合にのみ、すなわち、損失がイントラ符号化画像、イントラリフレッシュ画像に影響していたり、時間的な情報が利用できなかったりする場合のみとするべきである。隠蔽された画像を基準とする将来のインター符号化フレームの画質は、空間的隠蔽の品質に依存する。空間的隠蔽によって得られるイントラ符号化画像が比較的低画質であれば、それから導かれるインター符号化画像も同様に低品質となるであろう。
空間的誤り隠蔽を実現するためにはさまざまな技術が存在している。それらの技術には次のようなものが含まれる:(a)ブロックコピー(BC:block copy)、(b)ピクセル領域補間(PDI:pixel domain interpolation)、(c)多方向補間(MDI:multi−directional interpolation)、(d)極大平滑復元(MSR:maximally smooth recovery)、(e)凸集合上への射影(POCS:projection on convex sets)。さらに、今では、H.264技術に従った4×4ピクセルのブロックについて計算されたイントラ予測モードを誤り隠蔽に使用するという提案もある。この提案によれば、近隣のブロックから符号値を推定する方向を提供するのと同じイントラ予測モードによって、誤り隠蔽のために欠失・変質ピクセルの値を推定する方向も得ることができる。
符号化予測と同じイントラ予測モードを誤り隠蔽のための方向を提供するためにも使うことの望ましさを確立した今、前記イントラ予測モードによって定義される方向に進むときに隠蔽のための推定ピクセル値を導出する適切な機構を定義することが必要とされている。
手短に言うと、本発明の原理により、マクロブロックの配列からなる符号化された画像中の誤りの隠蔽は、まず、画像中で欠失・変質したピクセル値があるマクロブロックを同定することから始まる。同定された各マクロブロックに対し、近隣のマクロブロックから少なくとも一つのイントラ予測モードが導出される。当該画像がISO/ITU H.264符号化技術に従って符号化されている場合には、イントラ符号化された符号化マクロブロックは、符号化のためには、16×16ピクセルのブロック全体として、あるいは4×4ピクセルのブロックを対象として予測が行われる。16×16のブロック全体については、イントラ予測モードは一つ存在する。それに対して、マクロブロック内の4×4ピクセルのサブ・マクロブロックおのおのについて一つのイントラ予測モードが存在する。導出されたイントラ予測モードに関連して、該同定されたイントラ予測モードによって指定される方向に進むことによって近隣ブロックからピクセル値を推定する仕方を定義する補間フィルタが選択される。該選択された補間フィルタに従って得られるピクセル推定値を使って、欠失・変質したピクセル値のあるマクロブロックが隠蔽される。符号化された画像中のマクロブロックがH.264符号化技術に従って符号化されており、隠蔽の順序が復号順序と同じであれば、隠蔽のために確立される前記補間フィルタは、H.264符号化技術においてイントラ4×4予測モードのために規定されているフィルタで構成される。異なる隠蔽順序も存在しうるので、近隣の左および上のピクセルが利用できないときには、利用できるサンプル値に対応するため、H.264符号化技術で定義されている補間フィルタの反転バージョンが役に立つ。
提案されているISO/ITU H.264符号化技術に具体化されるようなブロックをベースとする圧縮技術は、画像をスライスに分割することによって動作する。各スライスは一組のマクロブロックまたはマクロブロック対からなり、各マクロブロックがその符号化技術に従って符号化される。マクロブロックは典型的には16×16ピクセルの正方形領域からなる。符号化の目的のために、マクロブロックはさらにサブ・マクロブロックに分割されるが、このサブ・マクロブロックは必ずしも正方形ではない。マクロブロックを符号化する際に、各サブ・マクロブロックは異なる符号化モードを使うことができる。便宜上、4×4ピクセルのサブ・マクロブロックのことをブロックと呼ぶことにする。図1は符号化された画像100のマクロブロック110への分割、各マクロブロック110のブロック120への分割、そして各ブロックのピクセル130への分割を示している。マクロブロック内のブロックの数が一定であるのに対し、一枚の画像中のマクロブロックの数は画像の大きさによって変わることに注意しておく。
分割された画像100内のマクロブロック110それぞれを個別に符号化するコストを軽減するため、すでに伝送されているマクロブロックからの情報を利用して、個々のマクロブロックの符号化の予測を得ることができる。この場合、伝送する必要があるのは予測誤差と予測モードだけである。画像100の符号化に用いられるビデオ符号化技術は、エンコーダ(図示せず)およびデコーダ(図示せず)の両者が同じ推定を得ることを保証するために、予測ピクセル値を導出する手順を規定するはずである。ISO/ITU H.264符号化技術によれば、個々のマクロブロックのイントラ予測は、16×16ピクセルの単一区画として(イントラ16×16型)、あるいは4×4ピクセルの16ブロックに分割された形として(イントラ4×4型)行うことができる。
イントラ16×16型の符号化については、ISO/ITU H.264符号化技術は4つのイントラ予測モードを規定している:モード0は縦予測、モード1は横予測、モード2はDC予測、モード3は平面予測である。イントラ4×4型の符号化については、ISO/ITU H.264符号化技術は9つのイントラ予測モードを規定している:モード0は縦予測、モード1は横予測、モード2はDC予測、モード3は斜め左下予測、モード4は斜め右下予測、モード5は縦右予測、モード6は横下予測、モード7は縦左予測、モード8は横上予測である。図2は、イントラ4×4符号化型の予測モードのそれぞれを表の形で示すとともに、イントラ予測モード0〜8のそれぞれの方向をベクトルで表示した図である。(DCモードに対応するモード2は、近隣から一様に値を拾ってブロックの内容を均質な領域として予測するため、方向をもたないことに注意。)他のモード0〜1および3〜8はマクロブロックの内容を別々の8つの量子化された方向の一つに沿って予測する。
提案されているH.264符号化技術によって、各イントラ予測モードは、該イントラ予測モードによって定義される方向に進むときにどうやって符号化の予測値を得るかを規定する、該イントラ予測モードと結びついた補間フィルタを有する。本発明の原理によれば、H.264によって定義される補間フィルタは、誤り隠蔽のためのピクセル値の推定のための機構をも提供してくれる。下記においてずっと詳細に記述するように、H.264補間フィルタは、誤り隠蔽が復号の順番に進行するときには、誤り隠蔽のためにそのままの形で用いることができる。あるいはまた、誤り隠蔽が異なる順番で進行するときには、H.264補間フィルタの反転バージョンを考慮しなければならない。
図3Aから3Fのそれぞれは、図2で示されているイントラ4×4予測モードに対応する補間フィルタのために用いられる基準ピクセルの組(A、B、C、DおよびI、J、K、L)の位置を示している。(いくつかの例では、二つの異なるイントラ予測モードと結びついた二つの異なる補間フィルタが同じ基準ピクセルの組を用いていることに注意。)図3Aから3Fのそれぞれにおいては、欠失・変質したピクセルがあり、近隣の行や列にあるピクセル値から推定される値を使った隠蔽を必要としているサブ・マクロブロック200が現れている。各イントラ予測モードについて、サブ・マクロブロック200内の各欠失・変質ピクセルについての推定値を近隣のピクセル値からいかにして得るかを厳密に規定する一つの補間フィルタが存在する。
そのような各補間フィルタの性質をよりよく理解するために、図3Aを参照されたい。これはモード0の誤り隠蔽を、H.264符号化技術によって該モードについて規定されている補間フィルタを使って行う場合を示したものである。通常は、H.264符号化技術によって規定される補間フィルタは、符号予測値を得るための機構を定義する。本発明の原理によれば、H.264符号化技術によって規定される補間フィルタは、誤り隠蔽値を得るための機構をも提供してくれる。図3Aに見られるように、4×4ピクセルのサブ・マクロブロック200はピクセルa〜pを含んでおり、このそれぞれが隠蔽を必要としている。サブ・マクロブロック200の上端のピクセルa〜dの行の上にある、隣接ピクセル行210中のピクセルA〜Dの値が、モード0と結びついたH.264符号化技術補間フィルタを使ってピクセルa〜pのそれぞれのための隠蔽値を推定するもとになる値を提供する。モード0(縦)については、H.264符号化技術によってモード0のために規定される補間フィルタに従って、行210のピクセルAの値がサブ・マクロブロック200の第1の(いちばん左の)列にあるピクセルa、e、i、mのそれぞれについての隠蔽推定値を提供する。同様にして、行210のピクセルBが第2列にあるピクセルb、f、j、nのそれぞれについての隠蔽推定値を提供する。同じようにして、行210のピクセルC、Dがサブ・マクロブロック200のそれぞれ第3、第4列にあるピクセルについての推定値を提供する。
場合によっては、行210中のピクセルA〜Dのうち一つまたは複数に値の欠失があり、サブ・マクロブロック200のピクセルa〜pのための推定値としては良好でないことがある。本発明の原理の別の側面によれば、そのようなピクセル隠蔽値を得るやり方を規定するためには、モード0のための「反転」された補間フィルタが役に立つ。図3Aに見られるような隠蔽値を提供するために上に隣接する行210を使うモード0のH.264符号化技術補間フィルタとは対照的に、本発明の原理の反転補間フィルタは、図4Aに見られるように誤り隠蔽のために下に隣接する行220′のピクセルA′、B′、C′、D′を利用する。こうして、ピクセルa、e、i、mのそれぞれを推定するのに行210にあるピクセルAの値を使う代わりに、前記反転補間フィルタは行220′にあるピクセルA′を利用するのである。同様にして、行220′にあるピクセルB′、C′、D′は、モード0のための反転補間フィルタを使っての、サブ・マクロブロック200のそれぞれ第2、第3、第4列のピクセルのための隠蔽値の推定を提供する。
表1は、モード0について、誤り隠蔽値を提供するためのH.264符号化技術補間フィルタおよび反転補間フィルタをまとめたものである。
Figure 2006513635
図3Bは、モード1の誤り隠蔽を、H.264符号化技術によって規定されるモード1補間フィルタを使って行う場合を示したものである。サブ・マクロブロック200の左にある隣接列210′の各行のピクセルI〜Lのそれぞれが、前記サブ・マクロブロックの対応する行にある各ピクセルのための誤り隠蔽推定値を提供する。こうして、たとえば、列210′の第1の(上の)行にあるピクセルIがサブ・マクロブロック200の第1の(いちばん上の)行にあるピクセルa、b、c、dのそれぞれについての隠蔽推定値を提供する。同様にして、列210′のピクセルJがサブ・マクロブロック200の第2行にあるピクセルe、f、g、hについての隠蔽推定値を提供する。同じようにして、ピクセルK、Lがそれぞれサブ・マクロブロック200の第3、第4行にあるピクセルについての隠蔽推定値を提供する。
図4Bは、反転補間フィルタを使ったモード1の誤り隠蔽を示している。モード1の前記反転補間フィルタは、左にある列210′のピクセルI、J、K、Lを使うのではなく、右側の隣接列210′にあるピクセルI′、J′、K′、L′を使って、サブ・マクロブロック200のそれぞれ第1(上端)、第2、第3、第4行にあるピクセルの隠蔽推定値を提供する。
表2は、モード1について、隠蔽値を推定するためのH.264符号化技術補間フィルタおよび反転補間フィルタをまとめたものである。
Figure 2006513635
図3Cは、DCイントラ予測モードについての誤り隠蔽を示したものである。H.264符号化技術で定義されているように、符号化予測のためのDCモード補間フィルタは、関係するサンプル値がすべて得られる場合には常にピクセルの平均値(A+B+C+D+I+J+K+L+4)/8を計算する。ここで、ピクセルA、B、C、Dは当該サブ・マクロブロック200の上にある隣接行210内にあり、ピクセルI、J、K、Lは当該サブ・マクロブロックの左にある隣接列210′内にある。換言すれば、当該サブ・マクロブロック200の内部にあるピクセルa〜pはすべて、符号化の上では、当該サブ・マクロブロックの左に隣接する列、上に隣接する行のピクセル値の平均に対応する同一の値を用いて予測される。図4C、図5C、図6Cは図3Cに示された基準ピクセルの組の反転バージョンを示している。これらの反転バージョンは、欠失ブロックの左もしくは上のブロックまたはその両方も変質していた場合に誤り隠蔽のために使うことができる。
表3は、モード2について、隠蔽値を推定するためのH.264符号化技術補間フィルタおよび反転補間フィルタをまとめたものである。
Figure 2006513635
しかしながら、他のイントラ予測モードとは異なり、H.264符号化技術によって規定されているこのDCイントラ予測モード補間フィルタは、誤り隠蔽の目的のためには良好な予測を提供してくれない。DCモードについて規定されるH.264符号化技術補間フィルタは、隠蔽される画像中に一様な区域を生成する非常に大まかな予測を提供するだけなのである。その理由から、誤り隠蔽の目的のためでの利用は、低品質の結果を許容する応用についてのみ推奨される。その他の応用においては、古典的に重み付き補間として知られる別の種類の補間フィルタを誤り隠蔽値のよりよい予測を提供するのに役立てることができる。この技術をDCモードに適用する場合、サブ・マクロブロック200内の各ピクセルの推定値は独立して、横方向に隣接する列および縦方向に隣接する行において正しく受信されたかすでに隠蔽されたかした最近接ピクセル値の重み付き和として得られる。
古典的には、位置(i,j)におけるピクセル値の重み付き補間は次の関係式で定められる。
Pixel(i,j)=W0×Pixel(i0−1,j)+W1×Pixel(i0,j0−1)
ここで、W0およびW1は基準として使われるピクセル値の影響を重み付けするものである。典型的にはW0とW1のそれぞれは欠失ピクセルと基準点との間の距離を表す。例示されている実施形態では、W0=(i−i0)、W1=(j−j0)である。H.264符号化技術によって定義されている他の補間フィルタを記述するのに用いられたのと同じ記号を使って、表3A〜3Dに、どの行・列の近隣ピクセルを基準として使うかに応じて定義されているDCイントラ予測モードのための重み付き補間フィルタを示す。
Figure 2006513635
図3Dは、モード3(斜め左下)およびモード7(縦左)の両方について、H.264符号化技術補間フィルタを使った誤り隠蔽のために使われる基準ピクセルの組の位置を示したものである。モード3とモード7のそれぞれについて別個に、H.264符号化技術によって規定される対応する補間フィルタは、サブ・マクロブロック200の上にある隣接行210内にあるピクセルA、B、C、D、E、F、G、Hの重み付き平均を利用する。同様に、図4Dはモード3(斜め左下)およびモード7(縦左)の両方について反転補間フィルタを使った誤り隠蔽のために使われる基準ピクセルの組の位置を示したものである。モード3とモード7のそれぞれについて別個に、対応する反転補間フィルタは、サブ・マクロブロック200の下にある延長隣接行210′内にあるピクセルH′、G′、F′、E′、D′、C′、B′、A′の重み付き平均を利用する。
表4は、モード3について、誤り隠蔽値を提供するためのH.264符号化技術補間フィルタおよび反転補間フィルタをまとめたものである。
Figure 2006513635
例を示しておくと、H.264符号化技術によって符号化値の予測のために規定され、本発明の原理に従って誤り隠蔽値の推定のために用いられる補間フィルタを使えば、サブ・マクロブロック200内のピクセルaは、サブ・マクロブロック200の上にある隣接行210内にあるピクセルA、B、Cの値から関係式(A+2B+C+2)/4を使って推定できる。同様に、モード3に対する反転補間フィルタを使えば、サブ・マクロブロック200内のピクセルaについての誤り隠蔽推定値がピクセルG′、H′の値から関係式(G′+3H′+2)/4を用いて与えられる。残りのピクセルb〜pについても、同じようにして、表4に掲げた関係式に従って誤り隠蔽のための推定をすることができる。
表5は、モード7について、誤り隠蔽値を提供するためのH.264符号化技術補間フィルタおよび反転補間フィルタをまとめたものである。
Figure 2006513635
図3Eは、モード4(斜め右下)、モード5(縦右)、モード6(横下)について、H.264符号化技術によって規定される補間フィルタを使った誤り隠蔽のために使われる基準ピクセルの組の位置を示したものである。これらの補間フィルタは左の隣接列と上の隣接行の両方にある基準ピクセルを必要とするように定義されているので、誤り隠蔽のための反転は、DCモードの場合と同じように四つの異なる場合を定義することを必要とする。場合の数を減らすため、ここでは左の列からの基準ピクセルを使うことを避ける別の定義を提案することにする。図4Eは、モード4、5、6について、先の補間フィルタの反転バージョンを使った誤り隠蔽のために使われる基準ピクセルの組の位置を示したものである。図4Eのフィルタは、H.264ビデオ圧縮規格によって定義される図3Eのフィルタの代替手段である。誤り隠蔽が復号の順番から外れた順番で進行できるようにするために、図5Eで示されるもう一つの反転補間フィルタが必要となる。反転手続きとしては別のものも考えられるが、この実施形態で提案されているものでは、基準ピクセルがすべてたった一つの隣接行またはたった一つの隣接列に現れる。そのような反転は主として二つの利点がある。第一に、メモリアクセスが容易になる。第二に、フィルタを指定しなければならない場合の数が減る。[注:このことは、この発明において定義される反転補間フィルタすべてにあてはまる。]表6は、モード4について、誤り隠蔽値を提供するためのH.264符号化技術補間フィルタおよび反転補間フィルタをまとめたものである。
Figure 2006513635
表7は、モード5について、誤り隠蔽値を提供するためのH.264符号化技術補間フィルタおよび反転補間フィルタをまとめたものである。
Figure 2006513635
表8は、モード6について、誤り隠蔽値を提供するためのH.264符号化技術補間フィルタおよび反転補間フィルタをまとめたものである。
Figure 2006513635
図3Fは、モード8(横上)について、H.264符号化技術によって規定される補間フィルタを使った誤り隠蔽を示したものである。図4Fと5Fは反転補間フィルタを使ったモード8のための誤り隠蔽の二つの場合を示したものである。モード4、5、6の場合と同様に、図4Fにおける反転フィルタの定義は、前述した利点を有するようなH.264補間フィルタへの代替手段として提案されている。表9は、モード8について、誤り隠蔽値を提供するためのH.264符号化技術補間フィルタおよび反転補間フィルタをまとめたものである。
Figure 2006513635
以上は、符号化されたビデオストリームにおける誤りを隠蔽するための機構を確立する方向性補間フィルタを定義する技術を記述している。
符号化された画像がマクロブロックに分割され、各マクロブロックがブロックに、各ブロックがピクセルに分割されている様子を示す図である。 提案されているH.264符号化技術で記述されているイントラ4×4予測モードを解説する図である。 図2で示されているイントラ4×4予測モードの一つに対応する補間フィルタのために定義される基準ピクセルの組(A、B、C、D)の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する補間フィルタのために定義される基準ピクセルの組(I、J、K、L)の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する補間フィルタのために定義される基準ピクセルの組(A、B、C、DおよびI、J、K、L)の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する補間フィルタのために定義される基準ピクセルの組の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する補間フィルタのために定義される基準ピクセルの組の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する補間フィルタのために定義される基準ピクセルの組の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する反転補間フィルタの第一の組のために定義される基準ピクセルの組(A′、B′、C′、D′)の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する反転補間フィルタの第一の組のために定義される基準ピクセルの組(I′、J′、K′、L′)の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する反転補間フィルタの第一の組のために定義される基準ピクセルの組の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する反転補間フィルタの第一の組のために定義される基準ピクセルの組の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する反転補間フィルタの第一の組のために定義される基準ピクセルの組の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する反転補間フィルタの第一の組のために定義される基準ピクセルの組の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する反転補間フィルタの第二の組のために定義される基準ピクセルの組の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する反転補間フィルタの第二の組のために定義される基準ピクセルの組の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する反転補間フィルタの第二の組のために定義される基準ピクセルの組の位置を示す図である。 図2で示されているイントラ4×4予測モードの一つに対応する反転補間フィルタの第三の組のために定義される基準ピクセルの組(A′、B′、C′、D′およびI′、J′、K′、L′)の位置を示す図である。

Claims (23)

  1. マクロブロックの配列から形成される符号化された画像中の誤りを隠蔽する方法であって、
    前記配列中で欠失・変質したピクセル値があるマクロブロックを同定し、
    同定された各マクロブロックについて隠蔽の方向を定義するために符号化画像に従った少なくとも一つのイントラ予測モードを導出し、
    同定された各マクロブロックについて前記同定されたイントラ予測モードについて、前記隠蔽方向に沿って隠蔽値を推定するための補間フィルタを確立し、
    前記推定された隠蔽値に従って前記同定されたマクロブロックの隠蔽を行うステップを有することを特徴とする方法。
  2. 前記画像がH.264符号化技術に従って符号化されており、前記少なくとも一つのイントラ予測モードを導出するステップがさらにH.264符号化技術によって規定されるイントラ4×4予測モードを導出するステップを有することを特徴とする、請求項1記載の方法。
  3. 前記補間フィルタを確立するステップがさらに、前記導出されたイントラ4×4予測モードに対して、H.264符号化技術によって規定される補間フィルタを選択することを含むことを特徴とする、請求項2記載の方法。
  4. 前記補間フィルタを確立するステップがさらに、前記導出されたイントラ4×4予測モードに対して、H.264符号化技術によって規定される補間フィルタを反転させた補間フィルタを導出するステップを有することを特徴とする、請求項2記載の方法。
  5. 前記導出されたイントラ4×4予測モードがモード0(縦)を有し、前記導出された補間フィルタがH.264符号化技術によってモード0のために規定されている補間フィルタを有することを特徴とする、請求項2記載の方法。
  6. 前記導出されたイントラ4×4予測モードがモード1(横)を有し、前記導出された補間フィルタがH.264符号化技術によってモード1のために規定されている補間フィルタを有することを特徴とする、請求項4記載の方法。
  7. 前記導出されたイントラ4×4予測モードがモード2(DC)を有し、前記の補間フィルタを確立するステップがさらに、独立して、横方向に隣接する列および縦方向に隣接する行におけるピクセル値の重み付き和を得るステップを有することを特徴とする、請求項2記載の方法。
  8. 前記導出されたイントラ4×4予測モードがモード3(斜め左下)を有し、前記導出された補間フィルタがH.264符号化技術によってモード3のために規定されている補間フィルタを有することを特徴とする、請求項4記載の方法。
  9. 前記導出されたイントラ4×4予測モードがモード7(縦左)を有し、前記導出された補間フィルタがH.264符号化技術によってモード7のために規定されている補間フィルタを有することを特徴とする、請求項4記載の方法。
  10. 前記導出されたイントラ4×4予測モードがモード4(斜め右下)を有し、前記導出された補間フィルタがH.264符号化技術によってモード4のために規定されている補間フィルタを有することを特徴とする、請求項4記載の方法。
  11. 前記導出されたイントラ4×4予測モードがモード5(縦右)を有し、前記導出された補間フィルタがH.264符号化技術によってモード5のために規定されている補間フィルタを有することを特徴とする、請求項4記載の方法。
  12. 前記導出されたイントラ4×4予測モードがモード6(横下)を有し、前記導出された補間フィルタがH.264符号化技術によってモード6のために規定されている補間フィルタを有することを特徴とする、請求項4記載の方法。
  13. 前記導出されたイントラ4×4予測モードがモード8(横上)を有し、前記導出された補間フィルタがH.264符号化技術によってモード8のために規定されている補間フィルタを有することを特徴とする、請求項4記載の方法。
  14. マクロブロックの配列からなる符号化された画像中の誤りを隠蔽する方法であって、前記画像がH.264符号化技術に従って符号化されており、
    前記配列中で欠失・変質したピクセル値があるマクロブロックを同定し、
    同定された各マクロブロックについて隠蔽の方向を定義するためにH.264符号化技術に従った少なくとも一つのイントラ4×4予測モードを導出し、
    前記同定されたイントラ予測モードについて、同定された各マクロブロックについて前記隠蔽方向に沿っての隠蔽値を推定するための補間フィルタを確立し、
    前記推定された隠蔽値に従って前記同定されたマクロブロックの隠蔽を行うステップを有することを特徴とする方法。
  15. 前記補間フィルタを確立するステップがさらに、前記導出されたイントラ4×4予測モードに対して、H.264符号化技術によって規定される補間フィルタを選択することを含むことを特徴とする、請求項14記載の方法。
  16. 前記補間フィルタを確立するステップがさらに、前記導出されたイントラ4×4予測モードに対して、H.264符号化技術によって規定される補間フィルタを反転させた補間フィルタを導出するステップを有することを特徴とする、請求項14記載の方法。
  17. 前記導出されたイントラ4×4予測モードがモード1(横)を有し、前記導出された補間フィルタがH.264符号化技術によってモード1のために規定されている補間フィルタを有することを特徴とする、請求項14記載の方法。
  18. 前記導出されたイントラ4×4予測モードがモード3(斜め左下)を有し、前記導出された補間フィルタがH.264符号化技術によってモード3のために規定されている補間フィルタを有することを特徴とする、請求項14記載の方法。
  19. 前記導出されたイントラ4×4予測モードがモード7(縦左)を有し、前記導出された補間フィルタがH.264符号化技術によってモード7のために規定されている補間フィルタを有することを特徴とする、請求項14記載の方法。
  20. 前記導出されたイントラ4×4予測モードがモード4(斜め右下)を有し、前記導出された補間フィルタがH.264符号化技術によってモード4のために規定されている補間フィルタを有することを特徴とする、請求項14記載の方法。
  21. 前記導出されたイントラ4×4予測モードがモード5(縦右)を有し、前記導出された補間フィルタがH.264符号化技術によってモード5のために規定されている補間フィルタを有することを特徴とする、請求項14記載の方法。
  22. 前記導出されたイントラ4×4予測モードがモード6(横下)を有し、前記導出された補間フィルタがH.264符号化技術によってモード6のために規定されている補間フィルタを有することを特徴とする、請求項14記載の方法。
  23. 前記導出されたイントラ4×4予測モードがモード8(横上)を有し、前記導出された補間フィルタがH.264符号化技術によってモード8のために規定されている補間フィルタを有することを特徴とする、請求項14記載の方法。
JP2004566420A 2003-01-10 2003-07-10 符号化された画像における誤り隠蔽のための補間フィルタの定義 Expired - Fee Related JP4474288B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US43918503P 2003-01-10 2003-01-10
PCT/US2003/021515 WO2004064406A1 (en) 2003-01-10 2003-07-10 Defining interpolation filters for error concealment in a coded image

Publications (3)

Publication Number Publication Date
JP2006513635A true JP2006513635A (ja) 2006-04-20
JP2006513635A5 JP2006513635A5 (ja) 2006-07-20
JP4474288B2 JP4474288B2 (ja) 2010-06-02

Family

ID=32713446

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004566420A Expired - Fee Related JP4474288B2 (ja) 2003-01-10 2003-07-10 符号化された画像における誤り隠蔽のための補間フィルタの定義

Country Status (9)

Country Link
US (1) US20060072676A1 (ja)
EP (1) EP1645135A4 (ja)
JP (1) JP4474288B2 (ja)
KR (1) KR20050090451A (ja)
CN (1) CN100584024C (ja)
AU (1) AU2003248913A1 (ja)
BR (1) BR0317966A (ja)
MX (1) MXPA05007449A (ja)
WO (1) WO2004064406A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008507211A (ja) * 2004-07-15 2008-03-06 クゥアルコム・インコーポレイテッド イントラ予測方向に基づくh.264空間的誤り隠蔽
JP2012089987A (ja) * 2010-10-18 2012-05-10 Mitsubishi Electric Corp 動画像符号化装置
JP2016077006A (ja) * 2011-04-25 2016-05-12 エルジー エレクトロニクス インコーポレイティド イントラ予測方法とそれを利用した符号化器及び復号化器
US9661376B2 (en) 2005-07-13 2017-05-23 Polycom, Inc. Video error concealment method

Families Citing this family (56)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1569462A1 (fr) * 2004-02-13 2005-08-31 France Telecom Procédé de recherche de la direction de prédiction en codage vidéo intra-image
US20060045190A1 (en) * 2004-09-02 2006-03-02 Sharp Laboratories Of America, Inc. Low-complexity error concealment for real-time video decoder
JP4559811B2 (ja) * 2004-09-30 2010-10-13 株式会社東芝 情報処理装置及び情報処理方法
DE102004059993B4 (de) 2004-10-15 2006-08-31 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erzeugen einer codierten Videosequenz unter Verwendung einer Zwischen-Schicht-Bewegungsdaten-Prädiktion sowie Computerprogramm und computerlesbares Medium
CN101133650B (zh) * 2005-04-01 2010-05-19 松下电器产业株式会社 图像解码装置以及图像解码方法
US9055298B2 (en) * 2005-07-15 2015-06-09 Qualcomm Incorporated Video encoding method enabling highly efficient partial decoding of H.264 and other transform coded information
KR100667808B1 (ko) * 2005-08-20 2007-01-11 삼성전자주식회사 영상의 인트라 예측 부호화, 복호화 방법 및 장치
KR100718135B1 (ko) * 2005-08-24 2007-05-14 삼성전자주식회사 멀티 포맷 코덱을 위한 영상 예측 장치 및 방법과 이를이용한 영상 부호화/복호화 장치 및 방법
KR100727972B1 (ko) * 2005-09-06 2007-06-14 삼성전자주식회사 영상의 인트라 예측 부호화, 복호화 방법 및 장치
KR100706720B1 (ko) * 2005-09-15 2007-04-12 한양대학교 산학협력단 방향성 보간을 이용한 공간적 에러은닉 방법
WO2007038727A2 (en) * 2005-09-27 2007-04-05 Qualcomm Incorporated Video encoding method enabling highly efficient partial decoding of h.264 and other transform coded information
JP4577778B2 (ja) * 2005-09-28 2010-11-10 株式会社Kddi研究所 動画像の符号化および復号化方法
EP1965589A1 (en) * 2005-11-30 2008-09-03 Kabushiki Kaisha Toshiba Image encoding/image decoding method and image encoding/image decoding apparatus
KR100772390B1 (ko) * 2006-01-23 2007-11-01 삼성전자주식회사 방향 보간 방법 및 그 장치와, 그 보간 방법이 적용된부호화 및 복호화 방법과 그 장치 및 복호화 장치
US8189688B2 (en) * 2006-02-06 2012-05-29 Panasonic Corporation Image decoding device and image decoding method
US8238442B2 (en) 2006-08-25 2012-08-07 Sony Computer Entertainment Inc. Methods and apparatus for concealing corrupted blocks of video data
KR101380843B1 (ko) * 2006-12-28 2014-04-07 삼성전자주식회사 인트라 예측을 통해 부호화된 블럭들을 포함하는압축영상에 대한 축소영상 생성방법 및 이를 적용한영상기기
JP2009094828A (ja) 2007-10-10 2009-04-30 Hitachi Ltd 画像符号化装置及び画像符号化方法、画像復号化装置及び画像復号化方法
EP2210421A4 (en) 2007-10-16 2013-12-04 Lg Electronics Inc METHOD AND APPARATUS FOR PROCESSING A VIDEO SIGNAL
KR101361005B1 (ko) * 2008-06-24 2014-02-13 에스케이 텔레콤주식회사 인트라 예측 방법 및 장치와 그를 이용한 영상부호화/복호화 방법 및 장치
KR101356448B1 (ko) 2008-10-01 2014-02-06 한국전자통신연구원 예측 모드를 이용한 복호화 장치
US8867854B2 (en) 2008-10-01 2014-10-21 Electronics And Telecommunications Research Institute Image encoder and decoder using undirectional prediction
US8774541B2 (en) * 2008-11-05 2014-07-08 Sony Corporation Intra prediction with adaptive interpolation filtering for image compression
JP5238523B2 (ja) * 2009-01-13 2013-07-17 株式会社日立国際電気 動画像符号化装置、動画像復号化装置、および、動画像復号化方法
US8743970B2 (en) * 2009-04-13 2014-06-03 Freescale Semiconductor, Inc. Video decoding with error detection and concealment
JP5169978B2 (ja) * 2009-04-24 2013-03-27 ソニー株式会社 画像処理装置および方法
WO2011083439A1 (en) * 2010-01-08 2011-07-14 Nokia Corporation An apparatus, a method and a computer program for video coding
KR101682147B1 (ko) * 2010-04-05 2016-12-05 삼성전자주식회사 변환 및 역변환에 기초한 보간 방법 및 장치
KR20110113561A (ko) 2010-04-09 2011-10-17 한국전자통신연구원 적응적인 필터를 이용한 인트라 예측 부호화/복호화 방법 및 그 장치
US9083974B2 (en) 2010-05-17 2015-07-14 Lg Electronics Inc. Intra prediction modes
PT3457689T (pt) 2010-05-25 2020-10-15 Lg Electronics Inc Novo modo de previsão planar
CN106131557A (zh) * 2010-06-07 2016-11-16 数码士有限公司 解码高分辨率图像的方法和装置
KR20110138098A (ko) * 2010-06-18 2011-12-26 삼성전자주식회사 영상 인트라 예측 방법 및 장치 및 그를 적용한 영상 디코딩 방법 및 장치
US9008175B2 (en) 2010-10-01 2015-04-14 Qualcomm Incorporated Intra smoothing filter for video coding
KR101772046B1 (ko) * 2010-11-04 2017-08-29 에스케이텔레콤 주식회사 예측모드에 따라 필터링된 화소값으로 인트라예측을 수행하는 영상 부호화/복호화 방법 및 장치
US10142630B2 (en) * 2010-12-10 2018-11-27 Texas Instruments Incorporated Mode adaptive intra prediction smoothing in video coding
KR102086145B1 (ko) * 2010-12-13 2020-03-09 한국전자통신연구원 인트라 예측 방법 및 그 장치
WO2012081895A1 (ko) 2010-12-13 2012-06-21 한국전자통신연구원 인트라 예측 방법 및 그 장치
US20130294511A1 (en) * 2011-01-14 2013-11-07 Telefonaktiebolaget L M Ericsson (Publ) Methods and Devices for Intra Coding of Video
WO2012134046A2 (ko) 2011-04-01 2012-10-04 주식회사 아이벡스피티홀딩스 동영상의 부호화 방법
US9282338B2 (en) 2011-06-20 2016-03-08 Qualcomm Incorporated Unified merge mode and adaptive motion vector prediction mode candidates selection
KR20120140181A (ko) * 2011-06-20 2012-12-28 한국전자통신연구원 화면내 예측 블록 경계 필터링을 이용한 부호화/복호화 방법 및 그 장치
KR101956284B1 (ko) * 2011-06-30 2019-03-08 엘지전자 주식회사 보간 방법 및 이를 이용한 예측 방법
KR102055451B1 (ko) * 2011-07-01 2019-12-13 엠앤케이홀딩스 주식회사 영상 복호화 장치 및 방법
EP2705668A1 (en) 2011-07-12 2014-03-12 Huawei Technologies Co., Ltd Pixel-based intra prediction for coding in hevc
WO2013067435A1 (en) * 2011-11-04 2013-05-10 Huawei Technologies Co., Ltd. Differential pulse code modulation intra prediction for high efficiency video coding
US10904551B2 (en) 2013-04-05 2021-01-26 Texas Instruments Incorporated Video coding using intra block copy
JP2015185897A (ja) 2014-03-20 2015-10-22 パナソニックIpマネジメント株式会社 画像符号化方法及び画像符号化装置
CN106464863B (zh) * 2014-04-01 2019-07-12 联发科技股份有限公司 视频编码中自适应内插滤波的方法
KR101582501B1 (ko) * 2014-06-13 2016-01-07 에스케이텔레콤 주식회사 인트라 예측 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
KR101533434B1 (ko) * 2014-06-13 2015-07-03 에스케이텔레콤 주식회사 인트라 예측 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
KR101534048B1 (ko) * 2014-06-13 2015-07-07 에스케이텔레콤 주식회사 인트라 예측 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
WO2017043786A1 (ko) 2015-09-10 2017-03-16 엘지전자 주식회사 비디오 코딩 시스템에서 인트라 예측 방법 및 장치
JP6669622B2 (ja) * 2016-09-21 2020-03-18 Kddi株式会社 動画像復号装置、動画像復号方法、動画像符号化装置、動画像符号化方法及びコンピュータ可読記録媒体
CN113766246A (zh) * 2020-06-05 2021-12-07 Oppo广东移动通信有限公司 图像编码方法、图像解码方法及相关装置
CN113965764B (zh) * 2020-07-21 2023-04-07 Oppo广东移动通信有限公司 图像编码方法、图像解码方法及相关装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2263373B (en) * 1992-01-09 1995-05-24 Sony Broadcast & Communication Data error concealment
US5532837A (en) * 1992-12-18 1996-07-02 Matsushita Electric Industrial Co., Ltd. Digital video signal processing apparatus
US5621467A (en) * 1995-02-16 1997-04-15 Thomson Multimedia S.A. Temporal-spatial error concealment apparatus and method for video signal processors

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008507211A (ja) * 2004-07-15 2008-03-06 クゥアルコム・インコーポレイテッド イントラ予測方向に基づくh.264空間的誤り隠蔽
US9661376B2 (en) 2005-07-13 2017-05-23 Polycom, Inc. Video error concealment method
JP2012089987A (ja) * 2010-10-18 2012-05-10 Mitsubishi Electric Corp 動画像符号化装置
JP2016077006A (ja) * 2011-04-25 2016-05-12 エルジー エレクトロニクス インコーポレイティド イントラ予測方法とそれを利用した符号化器及び復号化器
US10368090B2 (en) 2011-04-25 2019-07-30 Lg Electronics Inc. Intra-prediction method, and encoder and decoder using same
US10645415B2 (en) 2011-04-25 2020-05-05 Lg Electronics Inc. Intra-prediction method, and encoder and decoder using same
US11006146B2 (en) 2011-04-25 2021-05-11 Lg Electronics Inc. Intra-prediction method, and encoder and decoder using same
US11910010B2 (en) 2011-04-25 2024-02-20 Lg Electronics Inc. Intra-prediction method, and encoder and decoder using same

Also Published As

Publication number Publication date
US20060072676A1 (en) 2006-04-06
KR20050090451A (ko) 2005-09-13
BR0317966A (pt) 2005-11-29
WO2004064406A1 (en) 2004-07-29
EP1645135A4 (en) 2010-03-03
CN100584024C (zh) 2010-01-20
JP4474288B2 (ja) 2010-06-02
EP1645135A1 (en) 2006-04-12
AU2003248913A1 (en) 2004-08-10
CN1720747A (zh) 2006-01-11
MXPA05007449A (es) 2005-09-12

Similar Documents

Publication Publication Date Title
JP4474288B2 (ja) 符号化された画像における誤り隠蔽のための補間フィルタの定義
US20210076067A1 (en) Method and apparatus for decoding video signal
CN1323553C (zh) 隐藏由宏块流构成的编码图像中的空间差错的方法
US8428136B2 (en) Dynamic image encoding method and device and program using the same
KR101912059B1 (ko) 화상 부호화 장치 및 화상 복호 장치
US8189673B2 (en) Method of and apparatus for predicting DC coefficient of video data unit
JP2004504782A (ja) より良い予測のための代替ブロック順序
KR102286420B1 (ko) 비디오 신호의 디코딩 방법 및 장치
Chen et al. Robust temporal error concealment for H. 264 video decoder
KR20080070242A (ko) 에러 은닉 장치 및 방법

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060529

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090728

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20091015

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20091022

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100216

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100308

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130312

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4474288

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130312

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140312

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

LAPS Cancellation because of no payment of annual fees
R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350