JP3778913B2 - 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラム - Google Patents

画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラム Download PDF

Info

Publication number
JP3778913B2
JP3778913B2 JP2003545045A JP2003545045A JP3778913B2 JP 3778913 B2 JP3778913 B2 JP 3778913B2 JP 2003545045 A JP2003545045 A JP 2003545045A JP 2003545045 A JP2003545045 A JP 2003545045A JP 3778913 B2 JP3778913 B2 JP 3778913B2
Authority
JP
Japan
Prior art keywords
image
frame
data
probability table
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003545045A
Other languages
English (en)
Other versions
JPWO2003043345A1 (ja
Inventor
充 小林
稔 栄藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Docomo Inc
Original Assignee
NTT Docomo Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Docomo Inc filed Critical NTT Docomo Inc
Publication of JPWO2003043345A1 publication Critical patent/JPWO2003043345A1/ja
Application granted granted Critical
Publication of JP3778913B2 publication Critical patent/JP3778913B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/179Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scene or a shot
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/196Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/196Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters
    • H04N19/197Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters including determination of the initial value of an encoding parameter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、モバイル映像伝送システムなどの画像伝送システムに好適に適用することが可能な画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラムに関するものである。
従来、動画像の符号化方式として、ITU−T H.26xやMPEGシリーズなどの標準動画像符号化方式が知られている。これらの画像符号化方式においては、フレーム画像を分割したブロックのそれぞれの画像に対して、動き補償(MC:Motion Compensation)や離散コサイン変換(DCT:Discrete Cosine Transform)などの所定のデータ変換操作を行うことによって、符号化対象となる画像データが作成される。
また、データ変換操作によって作成された画像データは、さらに可変長符号化されて、画像伝送に用いられる圧縮データである符号化データとなる。このような可変長符号化方法の1つとして、算術符号化(AC:Arithmetic Coding)が用いられている。
一般に、複数種類のシンボルを組み合わせた情報源系列(シンボル系列)に対して算術符号化を行う場合、まず、[0.0,1.0)の数直線(確率数直線)上において、それぞれのシンボルに対して、シンボルの出現確率に応じて一定の区間を割り当てる。このとき、シンボルと数直線上の区間との対応関係を表したものは、確率テーブルと呼ばれる。算術符号化によって情報源系列を可変長符号化する際には、この確率テーブルを参照することによって、情報源系列を数直線上で表現した符号語が生成される。
ここで、図1〜図3を参照して、算術符号化について説明する。具体的には、文字列「ARITHMETIC」を符号化対象の情報源系列とし、その算術符号化を例として説明する。
上記した情報源系列内には、A、C、E、H、I、M、R、Tの8種類の文字(シンボル)が現れる。これらの文字に対し、図1の表に示すように、[0.0,1.0)の数直線(確率数直線)上で、文字列における各文字の出現確率に比例した区間長となるようにそれぞれ区間を割り当てる。この文字と数直線上の区間との対応関係を表す図1に示した表が、算術符号化に用いられる確率テーブルとなる。
図2は、図1に示した確率テーブルを用いた文字列「ARITHMETIC」の符号化について示す図である。算術符号化においては、確率テーブルに基づいた区間縮小操作を、情報源系列に含まれる各シンボルに対して順次行うことによって、情報源系列を符号化した符号語を生成する。
図2に示した例では、まず、符号化対象である文字列「ARITHMETIC」の第1の文字「A」に対して、図1に示した確率テーブルを参照して、数直線上の区間[0,1)を各文字に対応する8個の区間に区分する。そして、それらの区間のうちで、文字「A」に対応する区間[0.0,0.1)へと区間を縮小する。次に、第2の文字「R」に対して、確率テーブルを参照して、区間[0.0,0.1)を8個の区間に区分する。そして、それらの区間のうちで、文字「R」に対応する区間[0.07,0.08)へと区間を縮小する。
以下、この区間縮小による符号化操作を各文字に対して順次行っていく。そして、最終的に得られた数直線上の区間[0.0757451536,0.0757451552)において、その区間内にある数値「0.0757451536」が、文字列「ARITHMETIC」を算術符号化した符号語として生成される。
図3は、図1に示した確率テーブルを用いた符号語「0.0757451536」の文字列「ARITHMETIC」への復号について示す図である。
図3に示した例では、まず、復号対象である符号語「0.0757451536」に対して、図1に示した確率テーブルを参照して、符号語が含まれている区間長0.1の区間[0.0,0.1)を特定する。そして、特定された区間に対応する文字「A」を第1の文字として出力するとともに、(符号語−下限)/(区間長)によって、新たな符号語「0.757451536」を生成する。次に、符号語「0.757451536」に対して、確率テーブルを参照して、符号語が含まれている区間長0.1の区間[0.7,0.8)を特定する。そして、特定された区間に対応する文字「R」を第2の文字として出力するとともに、新たな符号語「0.57451536」を生成する。
以下、この復号操作を符号語に対して順次行っていく。そして、算術符号化された符号語「0.0757451536」から、文字列「ARITHMETIC」が復元される。
このように、算術符号化を用いた情報源系列の可変長符号化では、情報源系列に含まれるシンボルと数直線上の区間とを対応付けることにより、任意の情報源系列を[0.0,1.0)の数直線上の符号語によって表現することができる。また、シンボルと区間とを対応付ける確率テーブルを各シンボルの出現確率に応じて設定することにより、情報源系列の可変長符号化を効率良く行って、符号化によるデータ圧縮の効率を向上することができる。
VCEG-M10 H.26L Test Model Long Term Number 8 (TML-8) draft0
図4は、上述した算術符号化による可変長符号化を用いた画像符号化方法の一例を示すフローチャートである。図4に示した画像符号化方法では、ITU−T H.26L映像符号化方式(VCEG-M10 H.26L Test Model Long Term Number 8 (TML-8) draft0 を参照)で用いられているコンテキストモデリングを用いたCABAC(Context-based Adaptive Binary Arithmetic Coding)と呼ばれる方法によって、画像データの算術符号化を行っている。
画像データの符号化においては、まず、符号化対象の画像を所定サイズのブロックに分割し、ブロック毎にイントラフレーム符号化(Intra-Frame Coding、フレーム内符号化)やインターフレーム符号化(Inter-Frame Coding、フレーム間符号化)、DCT等の直交変換などの必要なデータ変換操作を行って、ブロック内にある画像を表す画像データを生成する。そして、その画像データに対して、算術符号化などを用いて可変長符号化を行って、データ圧縮された符号化データが生成される。
図4に示した画像符号化方法においては、特に、あらかじめ固定に設定された条件によって符号化を行うのではなく、ブロック毎の画像データを符号化する際に、コンテキストモデリングを行っている(ステップS901、Context Modeling)。コンテキストモデリングを用いた算術符号化では、画像データの符号化に用いる確率テーブルについて、符号化対象のブロックでの画像データに対して適用する確率テーブルが、隣接ブロックでの画像符号化の処理結果などの符号化条件を参照して切り換えて設定される。
コンテキストモデリングによる確率テーブルの設定を終了したら、符号化対象の画像データ(例えば複数のDCT係数)を2値化して、伝送すべきデータ系列を生成する(S902、Binarization)。そして、2値化されたデータ系列に対して算術符号化を行って(S903、Adaptive Binary Arithmetic Coding)、符号化データを得る。
具体的には、2値化されたデータ系列の各ビットに対し、コンテキストモデリングによって設定された確率テーブルを割り当てて確率評価を行う(S904、Probability Estimation)。そして、割り当てられた確率テーブルを用いてデータ系列を算術符号化し、符号化データである数直線上の符号語を生成する(S905、Arithmetic Coding)。また、算術符号化の処理結果に基づいて、符号化したビットの発生頻度などの情報を確率テーブルへとフィードバックすることによって確率評価を更新し、符号化の傾向を確率テーブルに反映させる(S906、Probability Estimation Update)。
コンテキストモデリングを用いた算術符号化による上記の画像符号化方法によれば、符号化条件や処理結果に応じて使用する確率テーブルを切り換えることによって、符号化データでの冗長度を低減することが可能である。
ここで、フレーム画像を符号化して得られる符号化データでは、フレーム画像に対応するフレームレイヤに対して、フレームレイヤを1または複数のスライスレイヤに分割して符号化データを作成する場合がある。スライスレイヤは、データの多重化や転送の効率化のため、あるいは、伝送エラーが生じた場合の影響を最小限に止めるために用いられる。
一方、各スライスレイヤにおいては、算術符号化に適用される確率テーブルが初期化される。この確率テーブルの初期化には、エラー発生時でも復号を再開できるようにするという効果がある。しかしながら、図4に示したように符号化の傾向が確率テーブルに反映されるような方法で算術符号化を行っている場合には、スライスレイヤでの確率テーブルの初期化によって、確率テーブルに反映されていた情報が失われてしまうという問題がある。
すなわち、初期化に用いられる確率テーブルとしては、通常は符号化対象の画像によらず一定の確率テーブルが用いられる。このため、その画像に合わない確率テーブルに初期化されれば、初期化毎に符号化の効率が低下してしまう。また、発生頻度が少ないような符号化ビットにおいては、符号化の傾向が確率テーブルに反映される前に初期化されてしまうため、効率が低下してしまう。
また、初期化は、上記したように伝送エラーからの回復のために行われるものであるが、伝送路では必ずしも伝送エラーが生じるものではない。そのように伝送エラーが生じなかった場合、あるいは伝送エラーが少ない場合には、確率テーブルの初期化は不効率である。このように、スライスレイヤにおいて確率テーブルが不必要に初期化された場合には、それによって符号化データでのデータ圧縮の効率が低下する。
本発明は、以上の問題点を解決するためになされたものであり、スライスレイヤとフレームレイヤとによる階層構造を有する符号化データに対し、符号化データの全体で確率テーブルが好適に設定されて、符号化データでのデータ圧縮の効率を向上することが可能な画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラムを提供することを目的とする。
このような目的を達成するために、本発明による画像符号化方法は、フレーム画像を所定サイズのブロックに分割し、ブロック毎に画像データを符号化する符号化方法であって、(1)フレーム画像内にあるブロックのそれぞれの画像に対して所定のデータ変換操作を行って、符号化対象となる画像データを作成する変換ステップと、(2)所定の確率テーブルを用いた算術符号化によって画像データを可変長符号化して、複数のブロックからなるスライスレイヤと、1または複数のスライスレイヤからなりフレーム画像に対応するフレームレイヤとによる階層構造を有する符号化データを生成する符号化ステップとを備え、(3)符号化ステップにおいて、スライスレイヤに対して確率テーブルの初期化の有無を設定し、そのスライスレイヤを含む符号化データでのフレームレイヤのヘッダに、設定された初期化の有無を示すフラグを付加するとともに、初期化有りと設定された場合に確率テーブルを初期化することを特徴とする。
あるいは、本発明による画像符号化方法は、フレーム画像を所定サイズのブロックに分割し、ブロック毎に画像データを符号化する符号化方法であって、(1)フレーム画像内にあるブロックのそれぞれの画像に対して所定のデータ変換操作を行って、符号化対象となる画像データを作成する変換ステップと、(2)所定の確率テーブルを用いた算術符号化によって画像データを可変長符号化して、複数のブロックからなるスライスレイヤと、1または複数のスライスレイヤからなりフレーム画像に対応するフレームレイヤと、複数のフレームレイヤからなるシーケンスレイヤとによる階層構造を有する符号化データを生成する符号化ステップとを備え、(3)符号化ステップにおいて、スライスレイヤに対して確率テーブルの初期化の有無を設定し、そのスライスレイヤを含む符号化データでのシーケンスレイヤのヘッダに、設定された初期化の有無を示すフラグを付加するとともに、初期化有りと設定された場合に確率テーブルを初期化することを特徴とする。
同様に、本発明による画像符号化装置は、フレーム画像を所定サイズのブロックに分割し、ブロック毎に画像データを符号化する符号化装置であって、(1)フレーム画像内にあるブロックのそれぞれの画像に対して所定のデータ変換操作を行って、符号化対象となる画像データを作成する変換手段と、(2)所定の確率テーブルを用いた算術符号化によって画像データを可変長符号化して、複数のブロックからなるスライスレイヤと、1または複数のスライスレイヤからなりフレーム画像に対応するフレームレイヤとによる階層構造を有する符号化データを生成する符号化手段とを備え、(3)符号化手段は、スライスレイヤに対して確率テーブルの初期化の有無を設定し、そのスライスレイヤを含む符号化データでのフレームレイヤのヘッダに、設定された初期化の有無を示すフラグを付加するとともに、初期化有りと設定された場合に確率テーブルを初期化することを特徴とする。
あるいは、本発明による画像符号化装置は、フレーム画像を所定サイズのブロックに分割し、ブロック毎に画像データを符号化する符号化装置であって、(1)フレーム画像内にあるブロックのそれぞれの画像に対して所定のデータ変換操作を行って、符号化対象となる画像データを作成する変換手段と、(2)所定の確率テーブルを用いた算術符号化によって画像データを可変長符号化して、複数のブロックからなるスライスレイヤと、1または複数のスライスレイヤからなりフレーム画像に対応するフレームレイヤと、複数のフレームレイヤからなるシーケンスレイヤとによる階層構造を有する符号化データを生成する符号化手段とを備え、(3)符号化手段は、スライスレイヤに対して確率テーブルの初期化の有無を設定し、そのスライスレイヤを含む符号化データでのシーケンスレイヤのヘッダに、設定された初期化の有無を示すフラグを付加するとともに、初期化有りと設定された場合に確率テーブルを初期化することを特徴とする。
また、本発明による画像符号化プログラムは、上記した画像符号化方法をコンピュータに実行させることを特徴とする
上記した画像符号化方法、装置、及びプログラムにおいては、フレーム画像に対して動き補償や直交変換などのデータ変換操作を行って符号化対象の画像データとした後、その画像データを所定の確率テーブルを用いて算術符号化することによって、データ圧縮された符号化データを生成する。そして、符号化データを生成する可変長符号化において、スライスレイヤについて、各スライスレイヤにおいて確率テーブルを初期化するかどうかを設定するとともに、所定のレイヤのヘッダに初期化の有無を示すフラグを付加している。
これにより、スライスレイヤにおいて確率テーブルが不必要に初期化されることを防止することができる。したがって、スライスレイヤとフレームレイヤとによる階層構造を有する符号化データに対し、符号化データの全体で確率テーブルが好適に設定されて、符号化データでのデータ圧縮の効率を向上することが可能となる。
また、本発明による画像復号方法は、フレーム画像を所定サイズのブロックに分割し、ブロック毎に画像データを符号化した符号化データを復号する復号方法であって、(1)複数のブロックからなるスライスレイヤと、1または複数のスライスレイヤからなりフレーム画像に対応するフレームレイヤとによる階層構造を有する符号化データを所定の確率テーブルを用いた逆算術符号化によって可変長復号して、画像データを生成する復号ステップと、(2)フレーム画像内にあるブロックのそれぞれについての画像データに対して所定のデータ復元操作を行って、フレーム画像を復元する復元ステップとを備え、(3)復号ステップにおいて、スライスレイヤを含む符号化データでのフレームレイヤのヘッダから、そのスライスレイヤに対する確率テーブルの初期化の有無を示すフラグを読み取り、確率テーブルの初期化の有無を設定するとともに、初期化有りと設定された場合に確率テーブルを初期化することを特徴とする。
あるいは、本発明による画像復号方法は、フレーム画像を所定サイズのブロックに分割し、ブロック毎に画像データを符号化した符号化データを復号する復号方法であって、(1)複数のブロックからなるスライスレイヤと、1または複数のスライスレイヤからなりフレーム画像に対応するフレームレイヤと、複数のフレームレイヤからなるシーケンスレイヤとによる階層構造を有する符号化データを所定の確率テーブルを用いた逆算術符号化によって可変長復号して、画像データを生成する復号ステップと、(2)フレーム画像内にあるブロックのそれぞれについての画像データに対して所定のデータ復元操作を行って、フレーム画像を復元する復元ステップとを備え、(3)復号ステップにおいて、スライスレイヤを含む符号化データでのシーケンスレイヤのヘッダから、そのスライスレイヤに対する確率テーブルの初期化の有無を示すフラグを読み取り、確率テーブルの初期化の有無を設定するとともに、初期化有りと設定された場合に確率テーブルを初期化することを特徴とする。
同様に、本発明による画像復号装置は、フレーム画像を所定サイズのブロックに分割し、ブロック毎に画像データを符号化した符号化データを復号する復号装置であって、(1)複数のブロックからなるスライスレイヤと、1または複数のスライスレイヤからなりフレーム画像に対応するフレームレイヤとによる階層構造を有する符号化データを所定の確率テーブルを用いた逆算術符号化によって可変長復号して、画像データを生成する復号手段と、(2)フレーム画像内にあるブロックのそれぞれについての画像データに対して所定のデータ復元操作を行って、フレーム画像を復元する復元手段とを備え、(3)復号手段は、スライスレイヤを含む符号化データでのフレームレイヤのヘッダから、そのスライスレイヤに対する確率テーブルの初期化の有無を示すフラグを読み取り、確率テーブルの初期化の有無を設定するとともに、初期化有りと設定された場合に確率テーブルを初期化することを特徴とする。
あるいは、本発明による画像復号装置は、フレーム画像を所定サイズのブロックに分割し、ブロック毎に画像データを符号化した符号化データを復号する復号装置であって、(1)複数のブロックからなるスライスレイヤと、1または複数のスライスレイヤからなりフレーム画像に対応するフレームレイヤと、複数のフレームレイヤからなるシーケンスレイヤとによる階層構造を有する符号化データを所定の確率テーブルを用いた逆算術符号化によって可変長復号して、画像データを生成する復号手段と、(2)フレーム画像内にあるブロックのそれぞれについての画像データに対して所定のデータ復元操作を行って、フレーム画像を復元する復元手段とを備え、(3)復号手段は、スライスレイヤを含む符号化データでのシーケンスレイヤのヘッダから、そのスライスレイヤに対する確率テーブルの初期化の有無を示すフラグを読み取り、確率テーブルの初期化の有無を設定するとともに、初期化有りと設定された場合に確率テーブルを初期化することを特徴とする。
また、本発明による画像復号プログラムは、上記した画像復号方法をコンピュータに実行させることを特徴とする
上記した画像復号方法、装置、及びプログラムにおいては、符号化データに対して所定の確率テーブルを用いて逆算術符号化を行って画像データとした後、その画像データに対してデータ復元操作を行って、フレーム画像を復元する。そして、符号化データを復号する可変長復号において、スライスレイヤについて、所定のレイヤのヘッダから読み取った初期化の有無を示すフラグによって、各スライスレイヤにおいて確率テーブルを初期化するかどうかを設定している。
これにより、上述した算術符号化の場合と同様に、スライスレイヤにおいて確率テーブルが不必要に初期化されることを防止することができる。したがって、スライスレイヤとフレームレイヤとによる階層構造を有する符号化データに対し、符号化データの全体で確率テーブルが好適に設定されてデータ圧縮の効率が向上された符号化データから、フレーム画像を好適に復元することが可能となる。
また、画像伝送システムとしては、フレーム画像を所定サイズのブロックに分割し、ブロック毎に画像データを符号化した符号化データによってフレーム画像を伝送する画像伝送システムであって、(1)フレーム画像から符号化データを生成して出力する上記した画像符号化装置と、(2)画像符号化装置からの符号化データを入力してフレーム画像を復元する上記した画像復号装置とを備えることが好ましい
このような画像伝送システムによれば、符号化データの全体で確率テーブルが好適に設定されてデータ圧縮の効率が向上された符号化データを用いて、効率的に画像を伝送することができる。
本発明による画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラムは、スライスレイヤとフレームレイヤとによる階層構造を有する符号化データに対し、符号化データの全体で確率テーブルが好適に設定されて、符号化データでのデータ圧縮の効率を向上することが可能な方法及び装置等として利用可能である。
以下、図面とともに本発明による画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラムの好適な実施形態について詳細に説明する。なお、図面の説明においては同一要素には同一符号を付し、重複する説明を省略する。また、図面の寸法比率は、説明のものと必ずしも一致していない。
まず、画像符号化方法及び画像符号化装置について説明する。
図5は、本発明による画像符号化方法の一実施形態を概略的に示すフローチャートである。本符号化方法は、静画像または動画像でのフレーム画像である入力フレーム画像D1に対して所定のデータ変換操作及び符号化操作を行って、モバイル映像伝送システムなどの画像伝送システムにおいて伝送可能なデータ圧縮された符号化データD7を生成する画像符号化方法である。
図5に示した画像符号化方法においては、まず、入力フレーム画像D1を所定サイズ(所定の画素数)のブロックに分割し、フレーム画像D1内にあるブロックのそれぞれの画像に対して所定のデータ変換操作を行って、符号化対象となる画像データD6を作成する(ステップS100、変換ステップ)。本実施形態においては、この変換ステップは2つのステップS101、S102からなる。
具体的には、フレーム画像D1に対して所定のデータ処理操作を行って画像データを変換し、空間座標によって表された画像データ(空間画像データ)D5とする(ステップS101)。ここで行われるデータ処理操作としては、例えば、動画像でのフレーム画像に対してインターフレーム符号化(フレーム間符号化)を行う場合の動き補償(MC:Motion Compensation)フレーム間予測がある。また、フレーム画像に対してイントラフレーム符号化(フレーム内符号化)を行う場合には、例えば、入力フレーム画像D1の画像データがそのまま空間画像データD5となる。
次に、空間画像データD5に対して直交変換操作を行って、空間周波数によって表された画像データ(周波数画像データ)である複数の直交変換係数D6を生成する(S102、直交変換ステップ)。この直交変換は、フレーム画像を分割したブロック毎に行われ、入力フレーム画像D1に含まれる各ブロックに対して、それぞれ直交変換係数D6が得られる。また、この直交変換係数に対して、必要に応じて量子化操作がさらに行われ、符号化対象の画像データとなる直交変換係数(量子化係数)が生成される。
続いて、複数の直交変換係数D6に対して算術符号化を用いて可変長符号化を行い、圧縮データである符号化データD7を生成する(S103、符号化ステップ)。すなわち、直交変換係数D6に対して適用する確率テーブルを所定の確率テーブルに設定する(S104)。そして、設定された確率テーブルを用いて直交変換係数D6を算術符号化して(S105)、符号化データD7とする。
ここで、本実施形態の画像符号化方法においては、符号化対象の画像データである直交変換係数D6を算術符号化して得られる符号化データD7について、スライスレイヤとフレームレイヤとによる階層構造を有するように符号化データを生成する。スライスレイヤは、複数のブロックからなるレイヤである。また、フレームレイヤは、1または複数のスライスレイヤからなり、フレーム画像に対応するレイヤである。
スライスレイヤは、データの多重化や転送の効率化のため、あるいは、伝送エラーが生じた場合の影響を最小限に止めるために用いられる。また、スライスレイヤにおいては、通常、算術符号化に適用される確率テーブルが初期化される。これに対して、本画像符号化方法では、各スライスレイヤに対して確率テーブルの初期化の有無を設定し、そのスライスレイヤを含む符号化データD7での所定のレイヤのヘッダに、設定された初期化の有無を示すフラグを付加するとともに、初期化有りと設定された場合に確率テーブルを初期化する。
本実施形態による画像符号化方法の効果について説明する。
図5に示した画像符号化方法においては、フレーム画像D1に対して動き補償や直交変換などのデータ変換操作を行って符号化対象の画像データD6とした後、その画像データD6を所定の確率テーブルを用いて算術符号化することによって、データ圧縮された符号化データD7を生成する。そして、符号化データD7を生成する可変長符号化において、各スライスレイヤで確率テーブルを初期化するかどうかを設定するとともに、所定のレイヤのヘッダに初期化の有無を示すフラグを付加している。
これにより、スライスレイヤにおいて確率テーブルが不必要に初期化されることを防止することができる。したがって、スライスレイヤとフレームレイヤとによる階層構造を有する符号化データD7に対し、符号化データD7の全体で確率テーブルが好適に設定されて、符号化データD7でのデータ圧縮の効率を向上することが可能となる。なお、具体的なフラグの付加方法等については、詳しく後述する。
図6は、本発明による画像符号化装置の一実施形態の構成を示すブロック図である。以下、図6に示した画像符号化装置を参照しつつ、図5に示した画像符号化方法についてさらに説明する。なお、以下においては、符号化対象として画像符号化装置に入力される入力フレーム画像D1について、主に時系列のフレーム画像からなる動画像を想定している。ただし、本発明による画像符号化方法及び画像符号化装置は、1フレームからなる静画像に対しても同様に適用することが可能である。
符号化対象として入力された入力フレーム画像D1は、まず、16画素×16ラインのサイズで正方形の画像ブロックへと分割される。この画像ブロックは、動き補償などのデータ処理の単位となる画像ブロックであり、マクロブロックと呼ばれる。なお、後述するDCT(直交変換)では、例えばH.26L符号化方式では、4画素×4ラインのサイズのDCTブロックが用いられる。この場合、1個のマクロブロックは、DCTにおいて、16個の輝度(Luma)ブロックと、8個の色差(Chroma)ブロックとを有する。画像符号化はこれらのブロック毎に行われる。
フレーム画像D1は、動き検出部11、動き補償部12、減算器13、直交変換部14、及び量子化部15を含んで構成された変換手段に入力される。変換手段は、フレーム画像D1内にあるブロックのそれぞれの画像に対して所定のデータ変換操作を行って、符号化対象となる画像データD6を作成する。
まず、フレーム画像D1は動き検出部11に入力され、マクロブロック毎に画像の動きが検出される。動き検出部11は、動きを検出しようとするマクロブロックでの画像データと、入力フレーム画像または他のフレーム画像にある他のマクロブロックでの画像データとを比較して、画像の動きを示す動きベクトルD2を検出する。
具体的には、動き検出部11では、符号化済のフレーム画像としてフレームメモリ20に格納されている局所復号画像D8内の所定の画像領域を参照して、現在の符号化対象となっている入力フレーム画像D1のマクロブロックと類似するパターンを見つけ出す。そして、その類似パターンとマクロブロックとの間の空間的な移動量によって、動きベクトルD2を決定する。また、このとき、動き補償について用意された複数の符号化モードから、マクロブロックでの動き補償に用いられる符号化モードが選択される。
図7A〜図7Jは、動き補償について用意される符号化モードの一例を示す模式図である。この図7A〜図7Jに例示した符号化モードでは、動き補償を行わないスキップ(Skip)モード0と、それぞれ異なる動き補償用ブロックへのブロック区分を用いてインターフレーム符号化を行うインターモード1〜7と、それぞれ異なるブロック区分を用いてイントラフレーム符号化を行うイントラモード8、9との10個の符号化モードが用意されている。なお、上記した動きベクトルD2は、各マクロブロックに対して、区分された動き補償用ブロック毎に付与される。
動きベクトルD2が求められたら、動き補償部12において、動き検出部11からの動きベクトルD2と、フレームメモリ20からの局所復号画像D8とを用いて、動き予測画像を生成する。フレーム画像D1に含まれる全てのマクロブロックについて動きベクトルD2を決定して動き予測画像を生成することにより、入力フレーム画像D1に対する予測フレーム画像D4が得られる。続いて、減算器13において、入力フレーム画像D1と予測フレーム画像D4との間の差分(予測残差)フレーム画像D5が生成される。また、予測フレーム画像D4が作成されていない場合には、入力フレーム画像D1がそのままフレーム画像D5とされる。
差分フレーム画像D5の画像データは、直交変換部(直交変換手段)14へと入力される。直交変換部14では、空間座標による差分フレーム画像D5に対して、マクロブロックに含まれる直交変換ブロック(例えば16個の輝度ブロックと8個の色差ブロック)毎に直交変換が行われて、周波数画像データである直交変換係数が生成される。また、この直交変換係数は、量子化部15において所定の量子化パラメータによって量子化されて、算術符号化での符号化対象の画像データとなる最終的な直交変換係数(量子化係数)D6が得られる。
図8A及び図8Bは、画像データの直交変換について示す図である。フレーム画像D5内にある直交変換用に分割された各ブロックの画像データは空間画像データであり、図8Aに4×4の画像成分によって例示するように、水平座標と垂直座標とで規定される4×4の空間画像成分a11〜a44によって表される。直交変換部14は、この空間画像データを所定の変換方法で直交変換することによって、図8Bに示す画像データへと変換する。この画像データは周波数画像データであり、水平周波数と垂直周波数とで規定される4×4の周波数画像成分である直交変換係数f11〜f44によって表される。
具体的な直交変換としては、例えば、離散コサイン変換(DCT:Discrete Cosine Transform)を適用することができる。DCTは、フーリエ変換のコサインの項を用いる直交変換であり、画像符号化において多く用いられている。空間画像データに対してDCTを行うことにより、周波数画像データであるDCT係数f11〜f44が生成される。なお、DCTにおいては、例えばH.26L符号化方式では、直交変換用のブロックとして、図8A及び図8Bに示したように4×4のDCTブロックが用いられる。
直交変換部14及び量子化部15によって生成された直交変換係数D6は、可変長符号化部(符号化手段)16において、所定の確率テーブルを用いた算術符号化によって可変長符号化される。これにより、入力フレーム画像D1の圧縮データである符号化データD7が生成される。
具体的には、例えば、図8Bに示した直交変換係数D6の2次元データはジグザグ・スキャンによって1次元データへと変換され、さらにLevel及びRunのデータへと変換された後、2値化される。そして、得られた2値化パターンを算術符号化することによって、符号化データD7が作成される。
また、可変長符号化部16には、直交変換係数D6に加えて、動き検出部11によって検出された動きベクトルD2と、動き検出部11において選択された符号化モードを示す符号化モード情報D3とが入力されている。これらの動きベクトルD2及び符号化モード情報D3は、可変長符号化部16において、直交変換係数D6と同様に、所定の確率テーブルを用いた算術符号化によって可変長符号化されて、符号化データD7に多重化される。
ここで、可変長符号化部16において算術符号化に用いられる確率テーブルの設定及び初期化、スライスレイヤに対する初期化の有無の設定、及び符号化データへのフラグの付加については、図5に示した画像符号化方法に関して上述した通りである。また、動きベクトルD2及び符号化モード情報D3の算術符号化においては、通常は、直交変換係数D6の算術符号化とは異なる確率テーブルが用いられる。また、直交変換係数D6の算術符号化においても、輝度ブロックの算術符号化と色差ブロックの算術符号化とで、異なる確率テーブルを用いても良い。
また、直交変換部14及び量子化部15によって生成された直交変換係数D6は、本画像符号化装置内において、逆量子化部17及び逆直交変換部18によって復号される。そして、復号された画像データと予測フレーム画像D4とが加算器19において加算されて、局所復号画像D8が生成される。この局所復号画像D8はフレームメモリ20に格納されて、他のフレーム画像の動き補償に利用される。
次に、画像復号方法及び画像復号装置について説明する。
図9は、本発明による画像復号方法の一実施形態を概略的に示すフローチャートである。本復号方法は、図5に示した画像符号化方法によって生成された符号化データD7に対して所定の復号操作及びデータ復元操作を行って、入力フレーム画像D1に対応する画像として出力フレーム画像D10を復元する画像復号方法である。
図9に示した画像復号方法においては、まず、符号化データD7に対して逆算術符号化を用いて可変長復号を行い、空間周波数によって表された画像データである複数の直交変換係数(量子化係数)D6を生成する(S201、復号ステップ)。すなわち、符号化データD7に対して適用する確率テーブルを所定の確率テーブルに設定する(S202)。そして、設定された確率テーブルを用いて符号化データD7を逆算術符号化して(S203)、周波数画像データである直交変換係数D6とする。
ここで、本実施形態の画像復号方法においては、スライスレイヤとフレームレイヤとによる階層構造を有する符号化データD7での各スライスレイヤに対し、スライスレイヤを含む符号化データD7での所定のレイヤのヘッダから、そのスライスレイヤに対する確率テーブルの初期化の有無を示すフラグを読み取り、それによってスライスレイヤでの確率テーブルの初期化の有無を設定するとともに、初期化有りと設定された場合に確率テーブルを初期化する。
次に、フレーム画像内にあるブロックのそれぞれについての画像データである直交変換係数D6に対して所定のデータ復元操作を行って、フレーム画像を復元する(S200、復元ステップ)。本実施形態においては、この復元ステップは、2つのステップS204、S205からなる。
具体的には、直交変換係数D6に対して逆量子化操作及び逆直交変換操作を順次行って、空間座標によって表された画像データ(空間画像データ)D9を生成する(S204、逆直交変換ステップ)。そして、空間画像データD9に対して所定のデータ処理操作を行って画像データを変換し、出力フレーム画像D10を復元する(S205)。
本実施形態による画像復号方法の効果について説明する。
図9に示した画像復号方法においては、符号化データD7に対して所定の確率テーブルを用いて逆算術符号化を行って画像データD6とした後、その画像データD6に対してデータ復元操作を行って、フレーム画像D10を復元する。そして、符号化データD7を復号する可変長復号において、所定のレイヤのヘッダから読み取った初期化の有無を示すフラグによって、各スライスレイヤで確率テーブルを初期化するかどうかを設定している。
これにより、上述した算術符号化の場合と同様に、スライスレイヤにおいて確率テーブルが不必要に初期化されることを防止することができる。したがって、スライスレイヤとフレームレイヤとによる階層構造を有する符号化データD7に対し、符号化データD7の全体で確率テーブルが好適に設定されてデータ圧縮の効率が向上された符号化データD7から、フレーム画像を好適に復元することが可能となる。
図10は、本発明による画像復号装置の一実施形態の構成を示すブロック図である。
復号対象として入力された符号化データD7は可変長復号部(復号手段)21に入力されて所定の確率テーブルを用いた逆算術符号化によって可変長復号され、画像データである直交変換係数D6が生成される。可変長復号部21は、データ圧縮された符号化データD7について、フレームレイヤの先頭を検出し、以後、マクロブロック毎に符号化データD7に含まれている各データを復号して、周波数画像データである直交変換係数D6、及び動きベクトルD2等を生成する。また、フレームレイヤに含まれている各スライスレイヤについて、所定のレイヤのヘッダから確率テーブルの初期化の有無を示すフラグを読み取り、初期化が指示されていれば、確率テーブルの初期化を行う。
可変長復号部21において復号された直交変換係数D6は、逆量子化部22、逆直交変換部23、動き補償部24、及び加算器26を含んで構成された復元手段に入力される。復元手段は、フレーム画像内にあるブロックのそれぞれについての画像データである直交変換係数D6に対して所定のデータ復元操作を行って、フレーム画像D10を復元する。
まず、直交変換係数D6は、逆量子化部22及び逆直交変換部(逆直交変換手段)23によって逆量子化、逆直交変換される。これにより、空間画像データである復元差分フレーム画像D9が生成される。この復元差分フレーム画像D9は、符号化前の差分フレーム画像D5に対応したフレーム画像である。
一方、動きベクトルD2は、動き補償部24へと入力される。動き補償部24では、可変長復号部21からの動きベクトルD2と、フレームメモリ25に格納されている他のフレーム画像とを用いて、予測フレーム画像D4が生成される。そして、加算器26において、復元差分フレーム画像D9と予測フレーム画像D4とが加算されて、復元されたフレーム画像が出力フレーム画像D10として出力される。
ここで、上記した画像符号化装置において実行される画像符号化方法に対応する処理は、画像符号化をコンピュータに実行させるための画像符号化プログラムによって実現可能である。また、画像復号装置において実行させる画像復号方法に対応する処理は、画像復号をコンピュータに実行させるための画像復号プログラムによって実現可能である。
例えば、画像符号化装置は、画像符号化の処理動作に必要な各ソフトウェアプログラムなどが記憶させるROMと、プログラム実行中に一時的にデータが記憶されるRAMとが接続されたCPUによって構成することができる。このような構成において、CPUによって所定の画像符号化プログラムを実行することにより、画像符号化装置を実現することができる。
同様に、画像復号装置は、画像復号の処理動作に必要な各ソフトウェアプログラムなどが記憶されるROMと、プログラム実行中に一時的にデータが記憶されるRAMとが接続されたCPUによって構成することができる。このような構成において、CPUによって所定の画像復号プログラムを実行することにより、画像復号装置を実現することができる。
また、画像符号化または画像復号のための各処理をCPUに実行させるための上記したプログラムは、コンピュータ読取可能な記録媒体に記録して頒布することが可能である。このような記録媒体には、例えば、ハードディスク及びフレキシブルディスクなどの磁気媒体、CD−ROM及びDVD−ROMなどの光学媒体、フロプティカルディスクなどの磁気光学媒体、あるいは、プログラム命令を実行または格納するように特別に配置された、例えばRAM、ROM、及び半導体不揮発性メモリなどのハードウェアデバイスなどが含まれる。
また、画像符号化または画像復号をコンピュータに実行させるための上記したプログラムは、搬送波に包含されるコンピュータデータ信号とすることが可能である。これにより、画像符号化プログラムまたは画像復号プログラムを、有線または無線の搬送路等を介して搬送することができる。
以下、図5、図6に示した画像符号化方法及び画像符号化装置におけるスライスレイヤに対する確率テーブルの初期化の有無の設定、及び符号化データへのフラグの付加について、ITU−T H.26L符号化方式を例として、具体的に説明する。なお、以下に説明する設定方法等については、図9、図10に示した画像復号方法及び画像復号装置に対しても同様に適用することが可能である。また、具体的な符号化方式については、上記したH.26L符号化方式には限定されない。
図11A及び図11Bは、符号化データのデータ構造の一例を示す図である。また、図12は、符号化データのデータ系列の一例を示す図である。
図11Aは、符号化データの階層構造の一例を示す図である。本データ構造においては、符号化データは、下位のデータから順に、ブロックレイヤ(以下、Bで表す)、マクロブロックレイヤ(M)、スライスレイヤ(S)、フレームレイヤ(F)、及びシーケンスレイヤ(Q)の6つのレイヤを有している。
ブロックレイヤBは、空間画像データから周波数画像データへと直交変換を行うときの変換単位となるブロックに対応するレイヤである。例えば直交変換としてDCTが用いられている場合には、このブロックレイヤはDCTブロックに対応する。
また、マクロブロックレイヤMは、画像データに対して動き補償フレーム間予測を行うときの予測単位となるマクロブロックに対応するレイヤである。このマクロブロックレイヤMは、図12に示すように、複数のブロックレイヤB(例えば16個の輝度DCTブロックと8個の色差DCTブロックとの24個のDCTブロックレイヤ)からなる。また、マクロブロックレイヤMのヘッダ(図12中に示すMヘッダ)には、そのマクロブロックの属性情報などが含まれている。
スライスレイヤSは、1個のフレーム画像を1または複数に分割した各画像領域に対応し、これらの分割されたスライスレイヤSを合わせたものが、フレーム画像に対応するフレームレイヤ(ピクチャレイヤ)Fとなる。フレームレイヤFは、フレーム画像に対応するレイヤであり、画像符号化での基本的な符号化単位となる。
また、時系列で複数のフレーム画像からなる動画像の符号化データでは、それらのフレームレイヤF全体を含むレイヤが、シーケンスレイヤQとされる。また、フレームレイヤFとシーケンスレイヤQとの中間のレイヤとして、複数のフレームレイヤFからなるGOPレイヤを設けても良い。
図11Bは、フレーム画像の複数のスライスへの分割例を示す図である。符号化データの作成においては、フレーム画像は1または複数のスライス(例えば図11Bにおいては8個のスライス)に分割される。これらのスライスSは、図12に示すように、1または複数のマクロブロックMからなり、画像の左上から始まってラスタ・スキャン順序に右下に続くマクロブロックの集合として構成される。なお、図11Bにおいては、8個のスライスのそれぞれが異なる長さとなっているが、同じ長さであっても良い。
フレームレイヤFが分割されたスライスレイヤSは、画像データの符号化及び復号において、同期回復の単位となるレイヤである。この同期回復のため、スライスレイヤSのヘッダであるスライスヘッダ(Sヘッダ)には、同期コードが付加される。
上述した画像符号化方法及び装置においては、各スライスレイヤSに対して、スライスヘッダの同期コードによる同期回復時に算術符号化に用いられる確率テーブルを初期化するかどうかを設定する。そして、そのスライスレイヤSを含む所定のレイヤのヘッダに、設定された初期化の有無を示すフラグを付加する。これにより、スライスレイヤにおいて確率テーブルが不必要に初期化されることが防止される。
各スライスレイヤSに対して確率テーブルの初期化の有無を指示するためのフラグを付加するヘッダとしては、例えば、初期化の有無の設定対象となっているスライスレイヤ自体のスライスヘッダ(Sヘッダ)にフラグを付加するデータ構成が可能である。この場合、静画像または動画像に含まれるスライス毎に、スライスレイヤでの確率テーブルの初期化の有無を設定することができる。
また、初期化の有無の設定対象となっているスライスレイヤを含むフレームレイヤのフレームヘッダ(Fヘッダ)にフラグを付加するデータ構成が可能である。この場合、静画像または動画像に含まれるフレーム毎に、そのフレームレイヤに含まれているスライスレイヤのそれぞれに対して、スライスレイヤでの確率テーブルの初期化の有無を設定することができる。
あるいは、複数のフレーム画像からなる動画像では、全体のレイヤであるシーケンスレイヤのシーケンスヘッダ(Qヘッダ)にフラグを付加するデータ構成としても良い。これにより、複数のフレーム画像からなる動画像(映像)の全体について、スライスレイヤでの確率テーブルの初期化の有無を設定することができる。
また、符号化データのデータ系列が、図12に示したような形式のデータではなく、パケットによるデータとして送られる場合には、スライスレイヤには同期コードは付加されない。このような場合には、パケットの先頭のヘッダ部分に初期化の有無を示すフラグを付加する構成を用いることができる。
なお、フラグによって指示される確率テーブルの初期化の有無に関しては、画像データの算術符号化において輝度ブロックと色差ブロックとで異なる確率テーブルを適用するなど、複数の確率テーブルが用いられている場合には、複数の確率テーブルそれぞれに対して別個に初期化の有無を指示することが可能である。あるいは、複数の確率テーブルの全体に対して初期化の有無を指示しても良い。また、動きベクトルや符号化モード情報に対して適用する確率テーブルについても、同様に確率テーブルの初期化の有無を指示しても良い。
また、各スライスレイヤに対する確率テーブルの初期化の有無の設定方法については、シンタックスまたは確率テーブルのそれぞれに対して、初期化の有無をあらかじめ設定しておいても良い。あるいは、必要に応じて初期化の有無を切り換えて設定することも可能である。
図13は、本発明による画像伝送システム(例えばモバイル映像伝送システム)の一実施形態の構成を示す模式図である。本画像伝送システムは、図5に示した画像符号化方法が実現される画像符号化装置(例えば図6に示す画像符号化装置)1と、図9に示した画像復号方法が実現される画像復号装置(例えば図10に示す画像復号装置)2とを備えて構成される。
本システムにおいて、入力フレーム画像D1は、画像符号化装置1において符号化されて符号化データD7が生成され、有線または無線の所定の伝送路へと出力される。そして、画像符号化装置1から伝送路を伝送された符号化データD7は、画像復号装置2に入力され、出力フレーム画像D10として復元される。
このような画像伝送システムによれば、符号化データの全体で確率テーブルが好適に設定されてデータ圧縮の効率が向上された符号化データを用いて、効率的に画像を伝送することができる。
本発明による画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラムは、スライスレイヤとフレームレイヤとによる階層構造を有する符号化データに対し、符号化データの全体で確率テーブルが好適に設定されて、符号化データでのデータ圧縮の効率を向上することが可能な方法及び装置等として利用可能である。
すなわち、画像データを算術符号化して符号化データを生成する可変長符号化において、スライスレイヤについて、各スライスレイヤにおいて確率テーブルを初期化するかどうかを設定するとともに、所定のレイヤのヘッダに初期化の有無を示すフラグを付加する構成によれば、スライスレイヤにおいて確率テーブルが不必要に初期化されることを防止することができる。したがって、スライスレイヤとフレームレイヤとによる階層構造を有する符号化データに対し、符号化データの全体で確率テーブルが好適に設定されて、符号化データでのデータ圧縮の効率を向上することが可能となる。
算術符号化に用いられる確率テーブルの一例を示す表である。 図1に示した確率テーブルを用いた文字列の符号化について示す図である。 図1に示した確率テーブルを用いた文字列の復号について示す図である。 算術符号化を用いた画像符号化方法の一例を示すフローチャートである。 画像符号化方法の一実施形態を概略的に示すフローチャートである。 画像符号化装置の一実施形態の構成を示すブロック図である。 動き補償に用いられる符号化モードの一例を示す模式図である。 動き補償に用いられる符号化モードの一例を示す模式図である。 動き補償に用いられる符号化モードの一例を示す模式図である。 動き補償に用いられる符号化モードの一例を示す模式図である。 動き補償に用いられる符号化モードの一例を示す模式図である。 動き補償に用いられる符号化モードの一例を示す模式図である。 動き補償に用いられる符号化モードの一例を示す模式図である。 動き補償に用いられる符号化モードの一例を示す模式図である。 動き補償に用いられる符号化モードの一例を示す模式図である。 動き補償に用いられる符号化モードの一例を示す模式図である。 画像データの直交変換について示す図である。 画像データの直交変換について示す図である。 画像復号方法の一実施形態を概略的に示すフローチャートである。 画像復号装置の一実施形態の構成を示すブロック図である。 符号化データのデータ構造の一例を示す図である。 符号化データのデータ構造の一例を示す図である。 符号化データのデータ系列の一例を示す図である。 画像伝送システムの一実施形態の構成を示す模式図である。
符号の説明
11…動き検出部、12…動き補償部、13…減算器、14…直交変換部、15…量子化部、16…可変長符号化部、17…逆量子化部、18…逆直交変換部、19…加算器、20…フレームメモリ、
21…可変長復号部、22…逆量子化部、23…逆直交変換部、24…動き補償部、25…フレームメモリ、26…加算器、
D1…入力フレーム画像、D2…動きベクトル、D3…符号化モード情報、D4…予測フレーム画像、D5…差分フレーム画像、D6…直交変換係数、D7…符号化データ、D8…局所復号画像、D9…復元差分フレーム画像、D10…出力フレーム画像。

Claims (14)

  1. フレーム画像を所定サイズのブロックに分割し、前記ブロック毎に画像データを符号化する符号化方法であって、
    前記フレーム画像内にある前記ブロックのそれぞれの画像に対して所定のデータ変換操作を行って、符号化対象となる画像データを作成する変換ステップと、
    所定の確率テーブルを用いた算術符号化によって前記画像データを可変長符号化して、複数の前記ブロックからなるスライスレイヤと、1または複数の前記スライスレイヤからなり前記フレーム画像に対応するフレームレイヤとによる階層構造を有する符号化データを生成する符号化ステップとを備え、
    前記符号化ステップにおいて、前記スライスレイヤに対して前記確率テーブルの初期化の有無を設定し、そのスライスレイヤを含む前記符号化データでの前記フレームレイヤのヘッダに、設定された前記初期化の有無を示すフラグを付加するとともに、初期化有りと設定された場合に前記確率テーブルを初期化することを特徴とする画像符号化方法。
  2. 前記符号化データは、前記スライスレイヤと、前記フレームレイヤと、複数の前記フレームレイヤからなるシーケンスレイヤとによる前記階層構造を有することを特徴とする請求項1記載の画像符号化方法。
  3. フレーム画像を所定サイズのブロックに分割し、前記ブロック毎に画像データを符号化する符号化方法であって、
    前記フレーム画像内にある前記ブロックのそれぞれの画像に対して所定のデータ変換操作を行って、符号化対象となる画像データを作成する変換ステップと、
    所定の確率テーブルを用いた算術符号化によって前記画像データを可変長符号化して、複数の前記ブロックからなるスライスレイヤと、1または複数の前記スライスレイヤからなり前記フレーム画像に対応するフレームレイヤと、複数の前記フレームレイヤからなるシーケンスレイヤとによる階層構造を有する符号化データを生成する符号化ステップとを備え、
    前記符号化ステップにおいて、前記スライスレイヤに対して前記確率テーブルの初期化の有無を設定し、そのスライスレイヤを含む前記符号化データでの前記シーケンスレイヤのヘッダに、設定された前記初期化の有無を示すフラグを付加するとともに、初期化有りと設定された場合に前記確率テーブルを初期化することを特徴とする画像符号化方法。
  4. フレーム画像を所定サイズのブロックに分割し、前記ブロック毎に画像データを符号化した符号化データを復号する復号方法であって、
    複数の前記ブロックからなるスライスレイヤと、1または複数の前記スライスレイヤからなり前記フレーム画像に対応するフレームレイヤとによる階層構造を有する前記符号化データを所定の確率テーブルを用いた逆算術符号化によって可変長復号して、画像データを生成する復号ステップと、
    前記フレーム画像内にある前記ブロックのそれぞれについての前記画像データに対して所定のデータ復元操作を行って、前記フレーム画像を復元する復元ステップとを備え、
    前記復号ステップにおいて、前記スライスレイヤを含む前記符号化データでの前記フレームレイヤのヘッダから、そのスライスレイヤに対する前記確率テーブルの初期化の有無を示すフラグを読み取り、前記確率テーブルの前記初期化の有無を設定するとともに、初期化有りと設定された場合に前記確率テーブルを初期化することを特徴とする画像復号方法。
  5. 前記符号化データは、前記スライスレイヤと、前記フレームレイヤと、複数の前記フレームレイヤからなるシーケンスレイヤとによる前記階層構造を有することを特徴とする請求項4記載の画像復号方法。
  6. フレーム画像を所定サイズのブロックに分割し、前記ブロック毎に画像データを符号化した符号化データを復号する復号方法であって、
    複数の前記ブロックからなるスライスレイヤと、1または複数の前記スライスレイヤからなり前記フレーム画像に対応するフレームレイヤと、複数の前記フレームレイヤからなるシーケンスレイヤとによる階層構造を有する前記符号化データを所定の確率テーブルを用いた逆算術符号化によって可変長復号して、画像データを生成する復号ステップと、
    前記フレーム画像内にある前記ブロックのそれぞれについての前記画像データに対して所定のデータ復元操作を行って、前記フレーム画像を復元する復元ステップとを備え、
    前記復号ステップにおいて、前記スライスレイヤを含む前記符号化データでの前記シーケンスレイヤのヘッダから、そのスライスレイヤに対する前記確率テーブルの初期化の有無を示すフラグを読み取り、前記確率テーブルの前記初期化の有無を設定するとともに、初期化有りと設定された場合に前記確率テーブルを初期化することを特徴とする画像復号方法。
  7. フレーム画像を所定サイズのブロックに分割し、前記ブロック毎に画像データを符号化する符号化装置であって、
    前記フレーム画像内にある前記ブロックのそれぞれの画像に対して所定のデータ変換操作を行って、符号化対象となる画像データを作成する変換手段と、
    所定の確率テーブルを用いた算術符号化によって前記画像データを可変長符号化して、複数の前記ブロックからなるスライスレイヤと、1または複数の前記スライスレイヤからなり前記フレーム画像に対応するフレームレイヤとによる階層構造を有する符号化データを生成する符号化手段とを備え、
    前記符号化手段は、前記スライスレイヤに対して前記確率テーブルの初期化の有無を設定し、そのスライスレイヤを含む前記符号化データでの前記フレームレイヤのヘッダに、設定された前記初期化の有無を示すフラグを付加するとともに、初期化有りと設定された場合に前記確率テーブルを初期化することを特徴とする画像符号化装置。
  8. 前記符号化データは、前記スライスレイヤと、前記フレームレイヤと、複数の前記フレームレイヤからなるシーケンスレイヤとによる前記階層構造を有することを特徴とする請求項7記載の画像符号化装置。
  9. フレーム画像を所定サイズのブロックに分割し、前記ブロック毎に画像データを符号化する符号化装置であって、
    前記フレーム画像内にある前記ブロックのそれぞれの画像に対して所定のデータ変換操作を行って、符号化対象となる画像データを作成する変換手段と、
    所定の確率テーブルを用いた算術符号化によって前記画像データを可変長符号化して、複数の前記ブロックからなるスライスレイヤと、1または複数の前記スライスレイヤからなり前記フレーム画像に対応するフレームレイヤと、複数の前記フレームレイヤからなるシーケンスレイヤとによる階層構造を有する符号化データを生成する符号化手段とを備え、
    前記符号化手段は、前記スライスレイヤに対して前記確率テーブルの初期化の有無を設定し、そのスライスレイヤを含む前記符号化データでの前記シーケンスレイヤのヘッダに、設定された前記初期化の有無を示すフラグを付加するとともに、初期化有りと設定された場合に前記確率テーブルを初期化することを特徴とする画像符号化装置。
  10. フレーム画像を所定サイズのブロックに分割し、前記ブロック毎に画像データを符号化した符号化データを復号する復号装置であって、
    複数の前記ブロックからなるスライスレイヤと、1または複数の前記スライスレイヤからなり前記フレーム画像に対応するフレームレイヤとによる階層構造を有する前記符号化データを所定の確率テーブルを用いた逆算術符号化によって可変長復号して、画像データを生成する復号手段と、
    前記フレーム画像内にある前記ブロックのそれぞれについての前記画像データに対して所定のデータ復元操作を行って、前記フレーム画像を復元する復元手段とを備え、
    前記復号手段は、前記スライスレイヤを含む前記符号化データでの前記フレームレイヤのヘッダから、そのスライスレイヤに対する前記確率テーブルの初期化の有無を示すフラグを読み取り、前記確率テーブルの前記初期化の有無を設定するとともに、初期化有りと設定された場合に前記確率テーブルを初期化することを特徴とする画像復号装置。
  11. 前記符号化データは、前記スライスレイヤと、前記フレームレイヤと、複数の前記フレームレイヤからなるシーケンスレイヤとによる前記階層構造を有することを特徴とする請求項10記載の画像復号装置。
  12. フレーム画像を所定サイズのブロックに分割し、前記ブロック毎に画像データを符号化した符号化データを復号する復号装置であって、
    複数の前記ブロックからなるスライスレイヤと、1または複数の前記スライスレイヤからなり前記フレーム画像に対応するフレームレイヤと、複数の前記フレームレイヤからなるシーケンスレイヤとによる階層構造を有する前記符号化データを所定の確率テーブルを用いた逆算術符号化によって可変長復号して、画像データを生成する復号手段と、
    前記フレーム画像内にある前記ブロックのそれぞれについての前記画像データに対して所定のデータ復元操作を行って、前記フレーム画像を復元する復元手段とを備え、
    前記復号手段は、前記スライスレイヤを含む前記符号化データでの前記シーケンスレイヤのヘッダから、そのスライスレイヤに対する前記確率テーブルの初期化の有無を示すフラグを読み取り、前記確率テーブルの前記初期化の有無を設定するとともに、初期化有りと設定された場合に前記確率テーブルを初期化することを特徴とする画像復号装置。
  13. 請求項1〜3のいずれか一項記載の画像符号化方法をコンピュータに実行させるための画像符号化プログラム。
  14. 請求項4〜6のいずれか一項記載の画像復号方法をコンピュータに実行させるための画像復号プログラム。
JP2003545045A 2001-11-16 2002-11-18 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラム Expired - Fee Related JP3778913B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2001352353 2001-11-16
JP2001352353 2001-11-16
PCT/JP2002/012011 WO2003043345A1 (en) 2001-11-16 2002-11-18 Image encoding method, image decoding method, image encoder, image decode, program, computer data signal, and image transmission system

Publications (2)

Publication Number Publication Date
JPWO2003043345A1 JPWO2003043345A1 (ja) 2005-03-10
JP3778913B2 true JP3778913B2 (ja) 2006-05-24

Family

ID=19164544

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003545045A Expired - Fee Related JP3778913B2 (ja) 2001-11-16 2002-11-18 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラム

Country Status (5)

Country Link
US (1) US7228001B2 (ja)
EP (1) EP1445957A4 (ja)
JP (1) JP3778913B2 (ja)
CN (1) CN100407791C (ja)
WO (1) WO2003043345A1 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3807342B2 (ja) * 2002-04-25 2006-08-09 三菱電機株式会社 デジタル信号符号化装置、デジタル信号復号装置、デジタル信号算術符号化方法、およびデジタル信号算術復号方法
KR100703773B1 (ko) * 2005-04-13 2007-04-06 삼성전자주식회사 향상된 코딩 효율을 갖는 엔트로피 코딩 및 디코딩 방법과이를 위한 장치, 이를 포함하는 비디오 코딩 및 디코딩방법과 이를 위한 장치
KR100747489B1 (ko) * 2005-04-13 2007-08-08 한국전자통신연구원 3차원 메쉬 정보의 부호화/복호화 방법 및 장치
MX2007015689A (es) * 2005-06-21 2008-02-21 Neurosearch As Nuevos derivados de 2-(fenilamino)bencimidazol y su uso como moduladores de los canales de potasio activados por calcio de pequena conductancia.
WO2007065351A1 (en) * 2005-12-05 2007-06-14 Huawei Technologies Co., Ltd. Binarizing method and device thereof
US8249140B2 (en) * 2005-12-30 2012-08-21 Intel Corporation Direct macroblock mode techniques for high performance hardware motion compensation
CN101287119B (zh) * 2008-04-28 2010-06-02 北京大学深圳研究生院 基于频谱的图像分层编解码方法及***
WO2010146782A1 (ja) * 2009-06-19 2010-12-23 三菱電機株式会社 算術符号化装置、算術復号装置、算術符号化方法及び算術復号方法
CN102754437B (zh) * 2009-10-29 2015-03-18 松下电器(美国)知识产权公司 图像编码方法、图像编码装置及集成电路
CN106162171B (zh) 2010-04-13 2020-09-11 Ge视频压缩有限责任公司 解码器及方法、编码方法
CN105120287B (zh) 2010-04-13 2019-05-17 Ge 视频压缩有限责任公司 解码器、编码器以及用于解码和编码的方法
BR112012026391B1 (pt) 2010-04-13 2020-12-15 Ge Video Compression, Llc Herança em amostra de arranjo em subdivisão multitree
HUE045579T2 (hu) 2010-04-13 2020-01-28 Ge Video Compression Llc Síkközi predikció
JP5706771B2 (ja) * 2010-07-30 2015-04-22 キヤノン株式会社 動画像の予測符号化装置及びその制御方法、コンピュータプログラム
JP5982806B2 (ja) * 2011-12-13 2016-08-31 富士通株式会社 電子透かし埋め込み装置、電子透かし埋め込み方法及び電子透かし検出装置
KR102096566B1 (ko) 2012-04-13 2020-04-02 지이 비디오 컴프레션, 엘엘씨 저지연 화상 코딩
CA3095638C (en) 2012-06-29 2023-11-14 Ge Video Compression, Llc Video data stream concept
GB2524726B (en) * 2014-03-25 2018-05-23 Canon Kk Image data encapsulation with tile support

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0469835B1 (en) * 1990-07-31 1998-09-30 Canon Kabushiki Kaisha Image processing apparatus and method
US6915014B1 (en) * 1990-07-31 2005-07-05 Canon Kabushiki Kaisha Image processing apparatus and method
US5592226A (en) * 1994-01-26 1997-01-07 Btg Usa Inc. Method and apparatus for video data compression using temporally adaptive motion interpolation
US5576765A (en) * 1994-03-17 1996-11-19 International Business Machines, Corporation Video decoder
GB9424436D0 (en) * 1994-12-02 1995-01-18 Philips Electronics Video editing buffer management
DE69838639T2 (de) * 1997-02-14 2008-08-28 Nippon Telegraph And Telephone Corp. Prädiktives kodierungs- und dekodierungsverfahren für dynamische bilder
US5946043A (en) * 1997-12-31 1999-08-31 Microsoft Corporation Video coding using adaptive coding of block parameters for coded/uncoded blocks
JPH11341497A (ja) * 1998-05-29 1999-12-10 Matsushita Electric Ind Co Ltd 画像符号化復号化装置及び、画像符号化復号化方法
JP3745160B2 (ja) 1999-04-12 2006-02-15 三菱電機株式会社 符号化装置、復号化装置、符号化方法並びに復号化方法
US6941019B1 (en) * 2000-05-10 2005-09-06 International Business Machines Corporation Reentry into compressed data

Also Published As

Publication number Publication date
US20040131269A1 (en) 2004-07-08
WO2003043345A1 (en) 2003-05-22
CN1529988A (zh) 2004-09-15
JPWO2003043345A1 (ja) 2005-03-10
EP1445957A4 (en) 2009-05-06
US7228001B2 (en) 2007-06-05
EP1445957A1 (en) 2004-08-11
CN100407791C (zh) 2008-07-30

Similar Documents

Publication Publication Date Title
JP3764458B2 (ja) 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラム
JP3764457B2 (ja) 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラム
JP3778913B2 (ja) 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラム
JP4625411B2 (ja) 画像データの符号化方法およびそのためのプログラムを記録したコンピュータ読み取り可能媒体
KR101717510B1 (ko) 화상 예측 부호화 장치, 방법 및 프로그램, 화상 예측 복호 장치, 방법 및 프로그램, 및 부호화·복호 시스템 및 방법
JP4440640B2 (ja) 画像ブロックの復号方法
JP5258664B2 (ja) 画像符号化装置、方法およびプログラム、並びに、画像復号装置、方法およびプログラム
KR100257614B1 (ko) 화상 신호의 보전 방법, 화상 신호 부호화 장치, 및 화상 신호복호화 장치
KR100732358B1 (ko) 동화상 부호화 방법, 동화상 복호화 방법, 동화상 부호화 프로그램, 동화상 복호화 프로그램, 동화상 부호화 장치 및 동화상 복호화 장치
KR20180096194A (ko) 변환 계수 부호화 및 복호화 장치와 이를 구비하는 부호화 장치 및 복호화 장치
JP2024019496A (ja) 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法
JP7403245B2 (ja) 画像復号装置、画像復号方法
JP2004129206A (ja) 信号符号化方法、信号復号方法、信号符号化装置、信号復号装置、信号符号化プログラム、及び、信号復号プログラム
JP7507912B2 (ja) 画像をエンコーディング及びデコーディングする方法、エンコーディング及びデコーディング装置、並びに、対応するコンピュータプログラム
JP7507913B2 (ja) 画像をエンコーディング及びデコーディングする方法、エンコーディング及びデコーディング装置、並びに、対応するコンピュータプログラム
JPH11196415A (ja) 適応的にボーダーリングする形状情報符号化/復号化装置および方法
JP5469931B2 (ja) 動画像復号化方法、動画像符号化方法
JP2004312689A (ja) Mpegビデオ復号化方法及びmpegビデオ復号化器
JPH1141600A (ja) 画像階層符号化・復号方法および装置並びに記録媒体
JPH08149311A (ja) 符号化装置およびその方法
JP2001069509A (ja) 画像処理装置及びその方法
JP2010268118A (ja) 映像符号化方法、映像符号化装置、映像復号化方法および映像復号化装置
KR19990009879A (ko) 신축형 모양정보 부호화 시 손실 부호화 방법

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060228

R150 Certificate of patent or registration of utility model

Ref document number: 3778913

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090310

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100310

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100310

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110310

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110310

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120310

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120310

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140310

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees