JP3115089B2 - 符号化装置及び符号化方法 - Google Patents

符号化装置及び符号化方法

Info

Publication number
JP3115089B2
JP3115089B2 JP7068792A JP7068792A JP3115089B2 JP 3115089 B2 JP3115089 B2 JP 3115089B2 JP 7068792 A JP7068792 A JP 7068792A JP 7068792 A JP7068792 A JP 7068792A JP 3115089 B2 JP3115089 B2 JP 3115089B2
Authority
JP
Japan
Prior art keywords
block
quantization
threshold
image signal
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP7068792A
Other languages
English (en)
Other versions
JPH05276499A (ja
Inventor
篤道 村上
悦久 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP7068792A priority Critical patent/JP3115089B2/ja
Publication of JPH05276499A publication Critical patent/JPH05276499A/ja
Application granted granted Critical
Publication of JP3115089B2 publication Critical patent/JP3115089B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】この発明は、たとえば、入力信号
を離散ウェーブレット変換もしくはサブバンド分割し、
量子化、多重化を行う符号化装置に関するものである。
【0002】
【従来の技術】ディジタル化された動画像信号を所定の
空間領域に対し、すなわち、水平方向及び垂直方向のそ
れぞれに対し、人間の持つ視覚特性にあわせて直交変換
を行う方式として、「IEEE TRANSACTIO
NS ON PATTERNANALYSIS AND
MACHINE INTELLIGENCE,VO
L.11,NO.7,JULY 1989、 A TH
EORY FOR MULTIRESOLUTION
SIGNAL DECOMPOSITION:THE
WAVELET REPRESENTATION」に記
載のような離散ウェーブレット変換(以降DWTと記
す)が提案されている。その変換処理を行う方法を図9
を用いて説明する。図において、100はディジタル化
された入力画像信号系列、1は画像信号系列100を1
0個の周波数帯域に分割する変換部、2は量子化部、3
は多重化部、4はバッファメモリ、5は入力信号を4つ
の周波数帯域に分割する帯域分割フィルタである。
【0003】次に動作について説明する。入力画像信号
100は帯域分割フィルタ5により4つの帯域の信号1
01(LL3)、102(LH3)、103(HL
3)、104(HH3)に分割される。そのうち最も低
域の信号101(LL3)は帯域分割フィルタ5により
さらに4つの帯域の信号105(LL2)、106(L
H2)、107(HL2)、108(HH2)に分割さ
れる。そのうち最も低域の信号105(LL2)は帯域
分割フィルタ5によりさらに4つの帯域の信号109
(LL1)、110(LH1)、111(HL1)、1
12(HH1)に分割される。
【0004】図10は、帯域分割フィルタ5の詳細なブ
ロック図の一例である。図において、11〜13は信号
を低域と高域の2つの帯域に分割する2帯域分割フィル
タ、21は一次元の低域通過フィルタ、22は一次元の
高域通過フィルタ、23は低域通過フィルタ11及び高
域通過フィルタ12により帯域制限された信号を2:1
に間引くサブサンプラである。入力信号200は2帯域
分割フィルタ11により水平方向に2つの帯域に分割さ
れる。この2帯域に分割された信号はさらに2帯域分割
フィルタ12、13により垂直方向に各々2つの帯域に
分割される。従って帯域分割フィルタ5からは、水平方
向・垂直方向共に低域のLL信号201、水平方向に低
域で垂直方向に高域のLH信号202、水平方向に高域
で垂直方向に低域のHL信号203、水平方向・垂直方
向ともに高域のHH信号204の4つの信号が出力され
る。
【0005】一連の帯域分割処理の結果、入力画像信号
100はLL1,LH1,HL1,HH1,LH2,H
L2,HH2,LH3、HL3,HH3の10の帯域の
信号に分割される。図11はこれを二次元周波数領域に
表したものである。図において、縦軸は垂直方向の周波
数を、横軸は水平方向の周波数を表す。図における領域
の面積の比は各々の帯域信号のデータ数の比に一致す
る。すなわち、LL1,LH1,HL1,HH1のデー
タ数を1とおくとき、LH2,HL2,HH2のデータ
数は4、LH3,HL3,HH3のデータ数は16とな
る。以上、DWTを施し変換係数を得る手段を述べた
が、サブバンド分割も帯域分割フィルタの特性は異なる
が、ほぼ同様な構成で実現することができる。
【0006】次に図12、図13、図14を用いて帯域
分割処理の具体例について説明する。図12、図13、
図14とも同心円上に配列された黒と白の円を周期的に
配置した二次元空間の図面を用いて、図9、図10で説
明したような帯域分割処理を施した場合の実際の例を示
した図であり、図12においては、最初の帯域分割フィ
ルタを通して二次元空間の画像が4つの周波数帯域に分
割された場合を示している。図12において左上はLL
3を示しており、最も周波数の低い部分を示している。
次に左下はLH3を示しており、右上はHL3を示して
いる。また、右下はHH3を示しており、4分割された
周波数帯域において最も周波数の高い領域を示してい
る。この図12を見てわかるように、周波数帯域が低い
信号、すなわち、LL3の部分は他の3つの周波数帯域
に比べて最も入力された画像の状態を正確に現わしてい
ることがわかる。
【0007】図12の左下のLH3の領域においては、
上記LL3の領域を補充するためのデータが示されてい
る領域であり、左上のLL3に対して左下のLH3のデ
ータを加えることにより、よりオリジナルな画像を復元
することが可能となる。同様に左上のLL3と左下のL
H3の画像に合わせて右上のHL3の画像を加えること
によりさらにオリジナルな画像を復元することが可能と
なる。同様に右下のHH3を前記3つのデータに合わせ
ることによりさらによりオリジナルに近い画像を復元す
ることが可能となる。このように、低周波の成分は画像
に与える影響が大きく、高周波成分になるにつれ、画像
に与える影響が少なくなる。
【0008】なお、図12において、テレビ信号が持つ
性質と、この図12を出力したビデオプリンタの性能の
ためにモアレと呼ばれる目玉状のものが現われたり、色
ムラが出たりする場合があるが、このモアレというのは
オリジナルな画像には無かったにもかかわらず、テレビ
信号やプリンタの性能のために出力されてしまうもので
あり、この発明とは関係しないために、以後このモアレ
については説明を省略する。
【0009】次に、図13に基づいて2番目の帯域分割
フィルタ5の動作について説明する。図13における左
上の4つの領域に分割された部分は、図12におけるL
L3の部分を第2の帯域分割フィルタ5によりさらに4
分割した場合の例を示したものである。先程述べたよう
に、この場合においても4分割された内の左上にあたり
低周波成分のデータLL2は画像に与える影響が大き
く、そして、高周波成分になるにつれて画像に与える影
響が少なくなっている。
【0010】次に図14は図13における左上のLL2
をさらに第3の帯域分割フィルタ5により4分割した場
合の例を示している。この場合には、同様に左上の部分
LL1が低周波成分であり、画像に与える影響が大き
く、次第に高周波成分になるにつれ、画像に与える影響
は少なくなってくる。ただし、この場合には前述したよ
うに、モアレが頻繁に見られるため、図14において
は、低周波成分が画像に与える影響が大きく、高周波成
分になるにつれて画像に与える影響が少なくなるという
事実が視覚的にとらえにくくなっている。
【0011】
【発明が解決しようとする課題】上記文献においては、
実際に符号化装置・復号装置を実現するために必要な量
子化・多重化の方法について触れられていない。画質の
劣化は変換係数の量子化手法によるところが大きく、伝
送路等における誤りに対する耐性は多重化手法によると
ころが大きい。
【0012】この発明は、上記のような問題点を解消す
るためになされたもので、画質の劣化が少ない量子化装
置を持った符号化装置及びその方法を得ることを目的と
する。また、この装置は、誤りに対する耐性の強い多重
化装置を持った符号化装置を得ることを目的とする。
【0013】
【課題を解決するための手段】この発明の符号化装置
は、以下の要素を有することを特徴とする。 (a)画像信号を複数の周波数帯域に分割して変換係数
を出力する変換手段、 (b)前記画像信号の空間領域上の各小領域に対応する
前記変換係数を前記複数の周波数帯域それぞれから抽出
してブロック化し、ブロック毎に量子化する量子化手
段。
【0014】さらに、量子化手段によって量子化された
データを記憶するバッファメモリと、上記バッファメモ
リの残量に基づいて閾値を変化させ、量子化手段が変換
係数をブロック化した際、そのブロック化された変換係
数に対し前記閾値に基づいて閾値処理を行なう閾値処理
手段とを有することを特徴とする。
【0015】さらに、量子化手段によりブロック化され
た変換係数をそのブロック毎に閾値処理をした際その閾
値を符号化ずみのブロックの閾値として記憶しておき、
符号化しようとしているブロックの変換係数について閾
値処理を行う場合には、記憶しておいた上記符号化しよ
うとしているブロックに隣接した符号化ずみのブロック
の閾値に基づいて新たな閾値を決定し、この新たな閾値
に基づいて上記符号化しようとしているブロックの変換
係数に対し閾値処理を行なう閾値処理手段、を有するこ
とを特徴とする。
【0016】さらに、量子化手段によって量子化された
データを記憶するバッファメモリを有し、量子化手段
は、上記バッファメモリの残量に基づいて量子化の基準
を決定し、この量子化の基準に基づいてブロック化した
変換係数に対して量子化を行うことを特徴とする。
【0017】量子化手段は、ブロック化した変換係数を
そのブロック毎に量子化した際その量子化の基準を符号
化ずみのブロックの量子化の基準として記憶しておき、
符号化しようとしているブロックの変換係数について量
子化を行う場合には、記憶しておいた上記符号化しよう
としているブロックに隣接した符号化ずみのブロックの
量子化の基準に基づいて新たな量子化の基準を決定し、
この新たな量子化の基準に基づいて上記符号化しようと
しているブロックの変換係数に対して量子化を行うこと
を特徴とする。
【0018】さらに、量子化手段によってブロック毎に
量子化された変換係数をそのブロック化前の状態である
周波数領域の状態に戻すデブロック化手段と、上記デブ
ロック化手段により周波数領域に戻された変換係数を各
々の周波数領域ごとに多重化する多重化処理手段と備え
たことを特徴とする。
【0019】さらに、入力された画像信号に対し、符号
化データから復号化された前フレームもしくは数フレー
ム前の復号画像信号を用いて動き補償予測信号を得る動
き補償予測手段と、入力された画像信号と上記動き補償
予測信号との差分信号を得て変換手段への画像信号とす
るフレーム間差分手段とを備えたことを特徴とする。
【0020】
【0021】
【作用】第1の発明における符号化装置は、変換手段が
画像信号などの所定の空間領域における入力信号を入力
し、これを低周波領域から高周波領域の複数の周波数帯
域に対応する変換係数に変換する。そして、この変換手
段により変換された変換係数を量子化するに当り、ブロ
ック化手段は、複数の周波数領域にまたがって変換され
た、たとえば、画像信号の左上の部分に対応する複数の
変換係数を抽出してひとつのブロックを構成する。ブロ
ック化手段は、この処理を画像信号の他の部分に対して
順次繰り返して行なう。このように、第1の発明は入力
された空間領域の一部分に対応する複数の変換係数をひ
とつのブロックとして抽出してくることに特徴があり、
量子化手段は、このブロック化手段により抽出された変
換係数に対して所定の量子化を行なうことにより、所定
の空間領域における最適な量子化を行うことが可能にな
る。すなわち、変換手段は入力信号を周波数領域に分割
し、ブロック化手段はこの周波数領域に分割された変換
係数を同一の部分空間のデータとして再び、一つの所に
抽出してくる。したがって、量子化手段は周波数領域と
空間領域の双方をパラメータとして、量子化することが
可能になり、この周波数領域と空間領域の双方を考慮す
ることにより、画像の劣化の少ない復号画像を得ること
が可能になる。
【0022】第2の発明における符号化装置は、閾値処
理手段がバッファメモリの残量に基づいて閾値を変化さ
せる所に特徴がある。たとえば、バッファメモリの残量
が少ない場合には符号化するデータ量を少なくしなけれ
ばならないために、この閾値処理手段はバッファメモリ
の残量が少ない場合には閾値を高めに設定する。反対に
バッファメモリの残量が大きい場合は、より正確な復号
画像を得るために符号化データの量が多くてもかまわな
い場合であるため、閾値を低く設定する。
【0023】第3の発明における符号化装置は、閾値処
理手段が閾値を決定するために隣接する空間領域の閾値
処理で使用した閾値を参考にして、現在処理しようとし
ている空間領域の閾値を決定する所に特徴がある。すな
わち、隣接する空間において、画像が極端に変化するこ
とを避けるためには隣接する空間で用いた閾値と同様の
閾値を用いるようにすることが大切であり、過去におい
て使用した隣接する空間領域の閾値を記憶し、これを参
照するようにしたものである。特に、画像に与える影響
が大きい低周波成分に対する閾値はその変化を最小にと
どめ、画像に与える影響が小さい高周波成分に関して
は、その閾値を大胆に変更することにより、生成される
データ量の削減を図ることが可能になる。
【0024】第4の発明における符号化装置は、量子化
手段がバッファメモリの残量に基づいて量子化の基準を
変化させるものであり、バッファメモリの現在の残量が
少ない場合には量子化の基準をアップさせることによ
り、量子化されたデータ量が少なくなる。また、バッフ
ァメモリの残量が大きい場合には量子化の基準を下げる
ことにより量子化されるデータの量を増やし、より画像
の劣化の少ない復号画像を得ることが可能になる。
【0025】第5の発明における符号化装置は、量子化
手段が先に使用した隣接する空間領域で使用した量子化
の基準を参照して現在処理しようとしているデータの量
子化の基準を決定するものである。この場合も第3の発
明で述べたように、隣接する空間領域での画像の極端な
変化を防ぐために隣接する空間領域での量子化の基準を
極端に変化させないようにするものである。また、同じ
く第3の発明で述べたように画像に与える影響が大きい
低周波成分に対する量子化の基準をなるべく変化させな
いようにし、画像に与える影響が小さい高周波成分に対
しては大胆にその量子化基準を変更することにより、量
子化されるデータ量を削減することが可能となる。
【0026】第6の発明における符号化装置は、第1の
発明においてブロック化された変換係数を再びデブロッ
クすることが特徴であり、第1の発明においてブロック
化され、量子化された変換係数はそのまま多重化されて
出力することが可能であるが、この第6の発明に示すよ
うに再び周波数領域別にまとめ直すことにより、出力す
べきデータは周波数領域別にまとめられる。したがっ
て、画像に与える影響が大きい低周波成分と画像に与え
る影響が小さい高周波成分それぞれに応じた出力形式、
あるいは、それぞれに応じた伝送形式をとることが可能
となり、各々の周波数領域毎に最適な多重化を行なうこ
とが可能となる。
【0027】第7の発明における符号化装置は、第1の
発明における符号化装置が差分信号に基づいて動作でき
るように動き補償予測手段とフレーム間差分手段を備え
たものであり、変換手段に入力される入力信号がこの動
き補償予測手段とフレーム間差分手段により生成された
入力画像信号との差分信号が入力される点に特徴があ
る。
【0028】第8の発明に係る符号化方法は、変換工程
により所定の空間領域の信号を入力して複数の周波数領
域の信号を出力する。この変換工程により変換された信
号は抽出工程により同一の部分空間に対応する信号だけ
が抽出される。そして、量子化工程においては、この抽
出工程により抽出された同一の部分空間に対応する異な
る周波数領域の信号に対してそれぞれの周波数領域に対
応した量子化を行なうことが可能となる。
【0029】
【実施例】実施例1.以下、第1の発明の一実施例を図
を用いて説明する。図1は図9に示した画像符号化装置
の量子化部2の詳細を示すブロック図である。図におい
て、31はブロック化部、32は閾値特性選択部、33
は閾値処理部、34は量子化特性選択部、35は係数量
子化部、36は閾値記憶部、37は量子化特性記憶部で
ある。閾値処理部33、閾値特性選択部32、閾値記憶
部36によりこの発明の閾値処理手段の一例を構成して
いる。また、係数量子化部35、量子化特性選択部3
4、量子化特性記憶部37によりこの発明の量子化手段
の一例を構成している。
【0030】次に動作について説明する。図9のように
入力画像信号100は10個の帯域に分割される(変換
工程)。分割されたDWT係数300(図9における1
02、103、104、106、107、108、10
9、110、111、112にあたる)は、ブロック化
部1において二次元空間上で対応する係数ごとにブロッ
キング処理される(抽出工程)。
【0031】これを図2を用いて説明する。例えば、一
つのブロックに対してLL1に属する左上の最初のデー
タを1つ与えるとき、このLL1の左上の最初のデータ
に対応する空間領域に対応してLH1,HL1,HH1
もそれぞれ1つのデータが、LH2,HL2,HH2は
4つのデータが、LH3,HL3,HH3は16個のデ
ータが同じブロックに属することになり、合計64個の
データが割り当てられる。
【0032】図2において左上のLL1は、たとえば、
16ビットのデータから構成されており、この16ビッ
のデータは、たとえば、図11においてLL1のデー
タが全部で80個のデータから構成されている場合の最
初の16ビットのデータをブロック化部1が抽出してき
て、16ビットのデータLL1としてブロック内に配置
した場合を示している。次に、ブロック化部1は、この
図11のLH1、HL1、HH1の80個で構成される
データの中から先程選択した最初のLL1のデータに対
応するデータを選択してきて、図2におけるLH1、H
L1、HH1の場所にそれぞれ16ビットのデータとし
て配置することになる。このようにして、まず64ビッ
のデータがブロック化部1により抽出される。
【0033】次に、ブロック化部1は、これらの4個の
データに対応した空間を図11におけるLH2、HL
2、HH2より抽出し、これを図2のLH2、HL2、
HH2に配置することになる。この場合には、16ビッ
のデータに対して、16ビットのデータ4個が対応し
ているため、LH2、HL2、HH2はそれぞれ64ビ
ットデータが配置されることになる。同様にブロック化
部1はLH3、HL3、HH3からも最初のLL1の
6ビットデータに対応する空間領域のデータを抽出し、
図2のLH3、HL3、HH3に256ビットのデータ
として配置することになる。このようにして、最初のブ
ロッキング処理が完成することになる。
【0034】このデータは各々のブロック単位に、あら
かじめ設定された順序に従ってブロック化部3から係数
301として出力される。一般に、LL1のような低周
波成分は画像に与える影響が大きく、HH3のような高
周波成分になるにつれ画像に与える影響が少ない。そこ
で、出力される順序として、画質に与える影響の大きい
係数から小さい方へと走査していく方法が考えられる。
出力する順序の一例を図3に示す。
【0035】図3は図2に示した1つのブロックをどの
ような順番で閾値処理部33に出力するかを示した図で
あり、図3において、数字は出力する順番を示してい
る。たとえば、図2におけるLL1は、図3において1
の値を持っているために、ブロック化部1から最初に出
力されるデータは図2におけるLL1であることにな
る。同様にして、図2におけるLH1のデータは、図3
において、2の値を持っているため、2番目に出力さ
れ、図2におけるLH1は3番目に出力され、HH1は
4番目に出力されることになる。また、図2において、
LH2にある64ビットのデータは図3にあるような順
番で5、6、7、8の順で出力されることになる。以
下、同様にして、図2の896ビットのデータは図3に
従う1から64の順番に従って、出力されることにな
る。
【0036】以上は、第1のブロックについてブロッキ
ング処理およびその出力処理を図3を用いて説明したも
のであるが、ブロック化部はこの第1のブロック処理
第2のブロックについても同様の処理をすることにな
る。たとえば、前例では、LL1の左上の最初のデータ
16ビットを第1のブロックとして処理した訳であるか
ら、次にはLL1の第2のデータを処理することにな
り、これが第2のブロックとなる。以下同様に図11に
おけるLL1のデータが80個存在する場合には、第1
から第80のブロックまで処理し、第80のブロックを
処理し終わった時点で1画面の画像の処理が終了するこ
とになる。
【0037】閾値処理部33は係数301に対し、閾値
特性選択部32で設定された閾値304を用いて閾値処
理を行う。閾値304より小さい係数301に対しては
0が出力され、閾値304より大きい係数301に対し
ては入力値と同じ値が出力される。
【0038】係数量子化部35は、閾値処理を施された
係数302の量子化を行い量子化インデックス303を
出力する(量子化工程)。量子化は、量子化特性選択部
34において決定されたステップサイズと重み付け関数
305を用いて量子化する。例えば、入力された係数を
図4に示すような重み付け関数でわり算した後、ステッ
プサイズでわり算し、その商を量子化インデックス30
3として出力する。出力された量子化インデックス30
3は、多重化部3において多重化され、バッファメモリ
4に一時的に蓄えられる。
【0039】以上のように、この実施例では、ディジタ
ル化された画像信号を離散ウェーブレット変換もしくは
サブバンド分割を用いて符号化する画像符号化装置にお
いて、入力信号を離散ウェーブレット変換もしくはサブ
バンド分割する変換手段と、変換係数の量子化を行う量
子化手段と、量子化された変換係数の符号化データに対
し多重化を行う多重化手段と、多重化された符号化デー
タ系列を一時的に蓄えるバッファメモリとを備え、上記
量子化手段に、二次元空間上同じ空間領域に属する複数
の変換係数を一つのブロックにまとめるブロック化手段
を備えた場合を説明した。
【0040】実施例2.以下、第2、第3の発明の一実
施例を、同じく図1を用いて説明する。閾値特性選択部
32は、閾値記憶部36に記憶されている閾値310
と、バッファメモリのバッファ残量を示す信号308を
参照して閾値を決定する。図5は閾値記憶部36が値を
記憶する場合に用いる隣接する空間領域を説明するため
の図であり、たとえば、現在閾値処理をしようとしてい
るブロックがブロックXである場合において、閾値記憶
部36はその隣接する空間領域としてすでに処理を施し
たブロックA、B、C、Wの閾値を閾値記憶部に記憶し
ており、これらの閾値を参照してブロックXの閾値を決
定することになる。そして、ブロックXが終了し、次の
ブロックYを処理する場合には、その隣接する空間領域
としては、B、C、D、Xがその空間領域に当たるた
め、これらのブロックB、C、D、Xに用いた閾値を参
照してブロックYの閾値を決定することになる。したが
って、閾値記憶部36には、1行分と1ブロックの閾値
を記憶しておく領域があれば良いことになる。たとえ
ば、1行分が10ブロックからなる場合には、過去に処
理をした11ブロック分の閾値を記憶しておけば、隣接
する空間領域の閾値を後で参照することが可能になる。
また、もし、隣接する空間の定義を上と左のみとしてし
まった場合には、たとえば、ブロックXを処理する場合
の隣接する空間はBとWのみになるため、この場合の閾
値記憶部のサイズは、1行分のブロックを処理した閾値
を覚えておけば良いことになる。たとえば、1行が10
ブロックからなる場合においては、10ブロックの空間
領域を処理した10個の閾値を覚えておけば良いことに
なる。
【0041】次に、この閾値特性選択部32が、閾値記
憶部に記憶されている閾値を参照して現在処理をしよう
とするブロックの閾値を決定する理由について説明す
る。図5に示したように、現在処理しようとしているブ
ロックXを閾値処理する場合に隣接するブロックBやW
と極端に異なる復号を行う訳にはいかないために、隣接
するブロックBやWで用いた閾値と似た値を使用するこ
とが望ましい。このために、隣接する空間領域で使用し
た閾値を記憶しておき、現在処理するブロックXが隣接
する空間領域で使用した閾値と大きく違わないようにす
るため閾値を記憶している。
【0042】次にバッファメモリ4のバッファ残量を示
す信号308を参照して閾値を決定する理由について説
明する。バッファメモリ4は多重化部3により多重化さ
れたデータを一時蓄えるために使用するものであり、こ
のバッファメモリを介して、図示していない信号回線に
符号化されたデータが伝送されていくものである。した
がって、多重化部により処理された符号化データがバッ
ファメモリに逐次蓄えられていくと同時にバッファメモ
リからは先に蓄積されたデータが回線を通じて出力され
ていくことになる。従って、バッファメモリの残量が少
ない場合には多重化部により蓄積されるデータによって
バッファメモリのオーバーフローが生じる結果となる。
このオーバーフローをなくすためには、生成される符号
化データの量を少なくすることを考える必要がある。し
たがって、その1つの方法として、ブロック化部により
ブロック化されたデータを閾値処理する場合に、バッフ
ァメモリの残量が少ない場合には、閾値の値を大きくし
て、データ量を抑制する訳である。逆に、バッファメモ
リの残量が多い場合には、バッファメモリのオーバーフ
ローが生じる危険が少なく符号化データの量を削減する
必要がないために、この閾値の値を小さくして、符号化
データ量を抑圧することなく、その符号化データを復号
した時によりオリジナルな画像に近い画質が得れるよう
な閾値設定をすることが可能になる。
【0043】また、この閾値特性選択部32において決
定される閾値は各ブロック内に一定ではなく、低周波あ
るいは高周波によって閾値を変更する。すなわち、ブロ
ック化部31から得られる係数列の順序番号により、処
理対象となる係数が低周波成分に属するものか高周波成
分に属するものであるかを判定し、それに応じて閾値を
決定する。また、隣接するブロックとの間で大きな隔た
りのないように調整する。すなわち低周波成分の係数は
画質に与える影響が大きいので、画質が損なわれないよ
うにするために、閾値は常に小さく、かつ隣接するブロ
ックとの閾値の差分も小さくとるようにする。一方、高
周波成分の係数は画質に与える影響はあまり大きくない
ので、バッファ残量が少ないときには、情報の発生量を
少なくするために閾値を大きくし、出力される係数の多
くが0になるようにする。
【0044】以上のように、この実施例では、上記ブロ
ック化された変換係数の絶対値が、選択された閾値より
小さいときには零に置き換える閾値処理手段と、上記閾
値を選択するに際し、隣接するブロックで採用された閾
値の値とバッファメモリのバッファ残量をもとに、低周
波数成分に対しては隣接するブロックで選択された閾値
との変化を常に小さくし、高周波数成分に対しては隣接
するブロックで選択された閾値との変化が大きくなるこ
とを可能とする閾値特性選択手段とを備えることを特徴
とする画像符号化装置を説明した。
【0045】このように、この実施例に係る画像符号化
装置は、量子化部において閾値処理を行う際に、変換係
数の周波数領域と空間領域の双方をパラメータにして閾
値を決定するように構成することを特徴とする。
【0046】実施例3.以下、第4、第5の発明の一実
施例を同じく図1を用いて説明する。量子化特性選択部
34は、量子化特性記憶部37に記憶されている重み付
け関数312、バッファメモリのバッファ残量を示す信
号308を参照して、ステップサイズと重み付け関数3
05を決定する。ステップサイズの変動が隣接するブロ
ック間で大きいと、ブロック歪の発生原因となる。そこ
で、ステップサイズの変動は小さく抑える。また、低周
波成分は画質に与える影響が大きいので、重み付け関数
の選択は低周波成分に属する係数の量子化は常に一定の
精度を保ち、高周波成分に属する係数の量子化の精度を
変化させて情報量の制御を行う。両者の組み合わせによ
り、バッファメモリのバッファ残量の変動が小さいうち
は重み付け関数の選択により情報量の制御を行い、バッ
ファ残量の変動が大きくなったときにステップサイズの
変更を行うようにする。
【0047】なお、図4は、重み付け関数の一例を示し
ているが、量子化特性記憶部37は図4に示したような
重み付け関数の表を一つだけ記憶する場合ばかりでな
く、複数記憶しておく場合でもかまわない。また、図4
に示すように、表形式で記憶するばかりでなく、重み付
けを計算する関数式で重み付けを記憶しておいてもかま
わない。また、これらのこの関数式が複数ある場合でも
かまわない。重み付け関数が複数ある場合には前述した
ように低周波成分に用いる重み付け関数あるいは高周波
成分に用いる重み付け関数などのように使い分けをする
ことが可能になる。
【0048】また、上記実施例では、ステップサイズと
重み付け関数の両方を用いることにより量子化する場合
を示しているが、ステップサイズを大きくするというこ
とと重み付けによる重み付けを大きくするということは
同じ意味であり、ステップサイズと重み付け関数の両方
を用いて量子化する場合に限らず、ステップサイズのみ
あるいは重み付け関数のみを用いて量子化するような場
合であってもかまわない。
【0049】以上のように、この実施例では、量子化手
段において、選択された重み付け関数とステップサイズ
を用いて、変換係数に各々の周波数領域に対応した重み
付け処理を行い、選択されたステップサイズに対応する
量子化器を用いて量子化を行う係数量子化手段と、上記
重み付け関数とステップサイズの選択に際し、隣接する
ブロックで採用された重み付け関数とステップサイズ、
及びバッファメモリのバッファ残量をもとに、低周波数
成分に対しては隣接するブロックの重み付け量との変化
を小さくし、高周波数成分に対しては隣接するブロック
の重み付け量との変化が大きくなることを可能とし、隣
接するブロックで選択されたステップサイズとの変化は
小さくする量子化特性選択手段とを備えたことを特徴と
する画像符号化装置を説明した。
【0050】このように、この実施例に係る画像符号化
装置は、量子化部において量子化を行う際に、変換係数
の周波数領域と空間領域の双方をパラメータとしてステ
ップサイズと重み付け関数を決定するように構成するこ
とを特徴とする。
【0051】実施例4.以下、第6の発明の一実施例を
説明する。この実施例に係る画像符号化装置は、多重化
部において多重化を行う際に、変換係数の周波数領域を
パラメータとして多重化を行うように構成することを特
徴とする。図6は図1、あるいは、図9に示した画像符
号化装置の多重化部3の詳細を示す図である。図におい
て、41はデブロック化部、42は多重化処理部であ
る。
【0052】次に動作について説明する。量子化部2か
ら出力された量子化インデックス113(303)は、
デブロック化部41において、同じ周波数領域に属する
係数ごとに係数の順序を並べかえる。すなわち量子化部
2におけるブロック化部31と逆の操作を行う。たとえ
ば、図2に示したような一つのブロックを受け取る度に
デブロック化部41は、図11に示したような10個の
周波数帯域にそれぞれのブロック毎に分割する。たとえ
ば、80個のブロックを入力することにより、元通り図
11のような80個のデータからなるLL1、あるい
は、320個のデータからなるLH2を再び構成するこ
とになる。ただし、量子化された値を用いて図11のよ
うなデータが再び形成されることになる。
【0053】多重化処理部42はそれぞれの係数の周波
数領域ごとに多重化処理を行う。LL1のような低周波
数領域に属する係数は画像に及ぼす影響が大きいので、
伝送路上での誤りを受けないよう、品質の高い伝送路を
用いたり、強い誤り訂正符号化をかけておく等の処理を
加える。一方、HH3のような高周波数領域に属する係
数は、画像に及ぼす影響が比較的小さいので、特別強い
処理は施さない。このように、デブロック化部により、
ブロック化部31と逆の操作を行うことにより、画像に
及ぼす影響が大きい低周波領域の符号化データを特に保
護して伝送することが可能になり、また、画像に及ぼす
影響の小さい高周波領域に符号化データをそれ相応の保
護を与えて伝送することができるために、効率の良い伝
送が可能となる。
【0054】実施例5.以下、第7の発明の一実施例を
図7を用いて説明する。この実施例に係る画像符号化装
置は、入力画像信号と動き補償予測信号との差分信号に
対しDWTを施し、前述した量子化部と多重化部を持つ
ことを特徴とする。図において、51は逆量子化部、5
2は逆変換部、53はフレームメモリ、54は差分器、
55は加算器、56は動き補償予測部である。量子化部
以降の多重化部、バッファメモリ等は省略してある。
【0055】次に動作について説明する。差分器54に
おいて、入力画像信号1は後述する動き補償予測信号5
01との差分がとられ、差分信号502が出力される。
差分信号502は変換部1においてDWTを施され、さ
らに量子化部2において量子化される。量子化部2より
出力された量子化インデックス113は逆量子化部51
において逆量子化され、逆変換部52において変換部1
とは逆の手続きにより逆変換され復号信号504をえ
る。この復号信号504と動き補償予測信号501とを
加算し、復号画像信号505を得て、フレームメモリ5
3に記憶する。動き補償予測部56はフレームメモリ5
3から復号画像信号506を読みだし、入力画像信号1
00と動き補償予測を行い、動き補償予測信号501を
得る。上記量子化部2において、実施例1記載の閾値処
理や、実施例2記載の量子化処理を行う。
【0056】実施例6.上記実施例では1フレーム前の
復号画像信号505を用いて動き補償予測を行っている
が、数フレーム前の復号画像信号を用いたり、あるいは
符号化対象画像より数フレーム後の復号画像信号を用い
たり、あるいはこれらの複数フレームの信号を用いたり
してもよい。また、符号化対象の画像信号がインターレ
ース画像であれば、フレーム単位の処理のみではなく、
画像信号を構成するフィールド単位の処理を行っても良
い。
【0057】実施例7.以下この発明の他の実施例につ
いて図8を用いて説明する。この実施例に係る画像符号
化装置は、離散コサイン変換部においてDWT係数の低
周波数成分に対し離散コサイン変換を行い、上記実施例
による量子化部と多重化部を持つように構成することを
特徴とする。図において、61は変換部、62はDCT
部である。
【0058】次に動作について説明する。入力画像信号
100は、帯域分割フィルタ5により帯域分割されるの
は従来例に述べたものと同じである。帯域分割された変
換係数105はDCT部62において2×2のブロック
単位にDCTされる。得られる4つのDCT係数601
は実施例1に述べた量子化部2の中のブロッキング部に
おいて、図2におけるLL1,LH1,HL1,HH1
に相当する位置にブロッキングされ、以下実施例1記載
の閾値処理、実施例2記載の量子化処理、実施例3記載
の多重化処理を行う。
【0059】以上のように、この実施例では、ディジタ
ル化された画像信号を離散ウェーブレット変換もしくは
サブバンド分割を用いて符号化する画像符号化装置にお
いて、入力信号を離散ウェーブレット変換もしくはサブ
バンド分割する変換手段と、変換係数の低周波数成分に
対し、離散コサイン変換を施す離散コサイン変換手段を
備えた場合を説明した。
【0060】このように、変換の最終段において、帯域
分割フィルタ処理の代わりにDCTを行うことにより、
符号化効率がさらに高められる。また、従来のDCTを
行う画像符号化装置との互換性が保たれる。
【0061】実施例8. 上記実施例7においては2回の帯域分割フィルタ処理と
2×2のブロックサイズのDCTを1回行ったが、帯域
分割処理を1回にし、変換係数101(LL3)に対し
て4×4のブロックサイズのDCTを行うことも可能で
ある。
【0062】実施例9.上記実施例においては、ブロッ
クの大きさを8×8として説明するために、変換部1に
おいては3回の帯域分割フィルタ処理によって10個の
帯域に信号を分割したが、これとは異なるブロックサイ
ズを用いることももちろん可能である。変換部62に対
しても同じことがいえる。
【0063】
【発明の効果】この発明は、以上説明したように構成さ
れているので、以下に記載されるような効果を奏する。
【0064】第1の発明によれば、変換部において周波
数領域に変換された変換係数をブロック化部において、
同一空間部分における変換係数を抽出するようにしたの
でその後の量子化処理において、周波数領域と空間領域
の双方をパラメータにして量子化を決定することが可能
になる。
【0065】第2の発明によれば、バッファメモリのサ
イズにより閾値を決定しているので、バッファメモリの
オーバーフローのない符号化を実現することができる。
【0066】第3の発明によれば、変換係数の周波数領
域と、隣接するブロック間での関係という空間領域の双
方をパラメータとして閾値を決定しているので、画質の
劣化なく高能率な符号化を実現できる。
【0067】第4の発明によれば、バッファメモリの残
量により、量子化の基準を変更するようにしているの
で、バッファメモリのオーバーフローすることがない符
号化を実現することができる。
【0068】第5の発明によれば、変換係数の周波数領
域と、隣あったブロック間での関係という空間領域の双
方をパラメータとしてステップサイズや重み付け関数等
の量子化の基準を決定しているので、画質の劣化なく高
能率な符号化を実現できる。
【0069】第6の発明によれば、変換係数の周波数領
域単位に多重化が行えるので、伝送路の誤りに対して耐
性を高めることができる。
【0070】第7の発明によれば、フレーム間符号化後
の信号を用いて変換処理を行い、上記量子化、多重化を
施すことにより符号化効率がさらに高められる。
【0071】第8の発明によれば、変換工程により周波
数領域に分割したデータを再び抽出工程により同一の空
間領域部分に対して抽出してくるため、周波数領域と空
間領域の双方をパラメータとして量子化することが可能
となる。
【図面の簡単な説明】
【図1】この発明の実施例1、2、3を示す量子化部の
ブロック図である。
【図2】この発明の変換係数のブロッキング処理を示す
図である。
【図3】この発明の変換係数の出力の際の操作順序を示
す図である。
【図4】この発明の重み付け関数の一例を示す図であ
る。
【図5】この発明の閾値記憶部を説明する図である。
【図6】この発明の実施例4を示す多重化部のブロック
図である
【図7】この発明の実施例5を示すブロック図である。
【図8】この発明の実施例7を示すブロック図である。
【図9】従来の離散ウェーブレット変換を行う画像符号
化装置を示すブロック図である。
【図10】従来の帯域分割フィルタ部の詳細を示すブロ
ック図である。
【図11】帯域分割を施した画像信号の周波数分布を示
す図である。
【図12】離散ウェーブレット変換の一実施例を示す図
である。
【図13】離散ウェーブレット変換の一実施例を示す図
である。
【図14】離散ウェーブレット変換の一実施例を示す図
である。
【符号の説明】
1 変換部 2 量子化部 3 多重化部 4 バッファメモリ 5 帯域分割フィルタ 31 ブロック化部 32 閾値特性選択部 33 閾値処理部 34 量子化特性選択部 35 係数量子化部
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平4−56490(JP,A) 特開 平3−209988(JP,A) 如澤裕尚、外1名,”非等分割サブバ ンド/ウエーブレット変換符号化におけ る動き補償フレーム間予測の周波数領域 実現”,テレビジョン学会技術報告,平 成3年11月22日,第15巻,第70号,p. 17−22 (58)調査した分野(Int.Cl.7,DB名) H04N 7/30 G06T 9/00 H03M 7/30 H04N 1/41

Claims (7)

    (57)【特許請求の範囲】
  1. 【請求項1】 a)画像信号を複数の周波数帯域に分
    割して変換係数を出力する変換手段と、 (b)前記画像信号の空間領域上の各小領域に対応する
    前記変換係数を前記複数の周波数帯域それぞれから抽出
    してブロック化し、ブロック毎に量子化する量子化手段
    と、 (c)量子化手段によりブロック化された変換係数をそ
    のブロック毎に閾値と比較し、変換係数の値が閾値より
    小さい場合には、0を出力し、変換係数の値が閾値より
    大きい場合には変換係数をそのまま出力する閾値処理を
    行うとともに、閾値処理をした際その閾値を符号化ずみ
    のブロックの閾値として記憶しておき、符号化しようと
    しているブロックの変換係数について閾値処理を行う場
    合には、記憶しておいた上記符号化しようとしているブ
    ロックに隣接した符号化ずみのブロックの閾値に基づい
    て新たな閾値を決定し、この新たな閾値に基づいて上記
    符号化しようとしているブロックの変換係数に対し閾値
    処理を行う閾値処理手段とを有することを特徴とする符
    号化装置。
  2. 【請求項2】 さらに、 量子化手段によって量子化されたデータを記憶するバッ
    ファメモリを有し、 量子化手段は、上記バッファメモリの残量に基づいて量
    子化の基準を決定し、この量子化の基準に基づいてブロ
    ック化した変換係数に対して量子化を行うことを特徴と
    する請求項1記載の符号化装置。
  3. 【請求項3】 (a)画像信号を複数の周波数帯域に分
    割して変換係数を出力する変換手段と、 (b)前記画像信号の空間領域上の各小領域に対応する
    前記変換係数を前記複数の周波数帯域それぞれから抽出
    してブロック化し、ブロック毎に量子化する量子化手段
    とを備え、 量子化手段は、ブロック化した変換係数をそのブロック
    毎に量子化した際その量子化の基準を符号化ずみのブロ
    ックの量子化の基準として記憶しておき、符号化しよう
    としているブロックの変換係数について量子化を行う場
    合には、記憶しておいた上記符号化しようとしているブ
    ロックに隣接した符号化ずみのブロック の量子化の基準
    に基づいて新たな量子化の基準を決定し、この新たな量
    子化の基準に基づいて上記符号化しようとしているブロ
    ックの変換係数に対して量子化を行うことを特徴とする
    符号化装置。
  4. 【請求項4】 (a)画像信号を複数の周波数帯域に分
    割して変換係数を出力する変換手段と、 (b)前記画像信号の空間領域上の各小領域に対応する
    前記変換係数を前記複数の周波数帯域それぞれから抽出
    してブロック化し、ブロック毎に量子化する量子化手段
    と、 (c)量子化手段によってブロック毎に量子化された変
    換係数をそのブロック化前の状態である周波数領域の状
    態に戻すデブロック化手段と、 (d)上記デブロック化手段により周波数領域に戻され
    た変換係数を各々の周波数領域ごとに多重化する多重化
    処理手段と、 を備えたことを特徴とする符号化装置。
  5. 【請求項5】 さらに、 入力された画像信号に対し、符号化データから復号化さ
    れた前フレームもしくは数フレーム前の復号画像信号を
    用いて動き補償予測信号を得る動き補償予測手段と、 入力された画像信号と上記動き補償予測信号との差分信
    号を得て変換手段への画像信号とするフレーム間差分手
    段と、 を備えたことを特徴とする請求項1〜請求項4のいずれ
    かに記載の符号化装置。
  6. 【請求項6】 画像信号の空間領域上の各小領域に対応
    してブロック化された上記画像信号の変換係数を上記ブ
    ロック毎に量子化する符号化方法であって、 前記ブロック化された変換係数をそのブロック毎に閾値
    と比較し、変換係数の値が閾値より小さい場合には、0
    を出力し、変換係数の値が閾値より大きい場合には変換
    係数をそのまま出力する閾値処理を行うとともに、閾値
    処理をした際その閾値を符号化ずみのブロックの閾値と
    して記憶しておき、符号化しようとしているブロックの
    変換係数について閾値処理を行う場合には、記憶してお
    いた上記符号化しようとしているブロックに隣接した符
    号化ずみのブロックの閾値に基づいて新たな閾値を決定
    し、この新たな閾値に基づいて上記符号化しようとして
    るブロックの変換係数に対し閾値処理を行う、 ことを特徴とする符号化方法。
  7. 【請求項7】 画像信号の空間領域上の各小領域に対応
    してブロック化された上記画像信号の変換係数を上記ブ
    ロック毎に量子化する符号化方法であって、 前記ブロック化した変換係数をそのブロック毎に量子化
    した際その量子化の基準を符号化ずみのブロックの量子
    化の基準として記憶しておき、符号化しようとしている
    ブロックの変換係数について量子化処理を行う場合に
    は、記憶しておいた上記符号化しようとしているブロッ
    クに隣接した符号化ずみのブロックの量子化の基準に基
    づいて新たな量子化の基準を決定し、この新たな量子化
    の基準に基づいて上記符号化しようとしているブロック
    の変換係数に対して量子化処理を行うことを特徴とする符号化方法。
JP7068792A 1992-03-27 1992-03-27 符号化装置及び符号化方法 Expired - Lifetime JP3115089B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP7068792A JP3115089B2 (ja) 1992-03-27 1992-03-27 符号化装置及び符号化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP7068792A JP3115089B2 (ja) 1992-03-27 1992-03-27 符号化装置及び符号化方法

Publications (2)

Publication Number Publication Date
JPH05276499A JPH05276499A (ja) 1993-10-22
JP3115089B2 true JP3115089B2 (ja) 2000-12-04

Family

ID=13438807

Family Applications (1)

Application Number Title Priority Date Filing Date
JP7068792A Expired - Lifetime JP3115089B2 (ja) 1992-03-27 1992-03-27 符号化装置及び符号化方法

Country Status (1)

Country Link
JP (1) JP3115089B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08186815A (ja) * 1994-12-28 1996-07-16 Pioneer Electron Corp サブバンド符号化方法
JP3534465B2 (ja) * 1994-12-28 2004-06-07 パイオニア株式会社 サブバンド符号化方法
JP2002252759A (ja) * 2001-02-26 2002-09-06 Sanyo Electric Co Ltd 画像量子化方法と装置、およびそれらを利用可能な画像符号化装置
JP5561611B2 (ja) * 2010-10-18 2014-07-30 日本電信電話株式会社 画像符号化方法,画像符号化装置および画像符号化プログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2627926A1 (fr) * 1988-02-29 1989-09-01 Labo Electronique Physique Procede et dispositif de codage de signaux video numeriques, et dispositif de decodage correspondant
JPH03209988A (ja) * 1990-01-11 1991-09-12 Matsushita Electric Ind Co Ltd 符号化装置
JPH0761156B2 (ja) * 1990-06-25 1995-06-28 三菱電機株式会社 動画像符号化装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
如澤裕尚、外1名,"非等分割サブバンド/ウエーブレット変換符号化における動き補償フレーム間予測の周波数領域実現",テレビジョン学会技術報告,平成3年11月22日,第15巻,第70号,p.17−22

Also Published As

Publication number Publication date
JPH05276499A (ja) 1993-10-22

Similar Documents

Publication Publication Date Title
JP4114534B2 (ja) 画像符号化装置及び方法
US6393060B1 (en) Video coding and decoding method and its apparatus
US6519284B1 (en) Encoding method for the compression of a video sequence
US7792375B2 (en) Rate control system
JP3534465B2 (ja) サブバンド符号化方法
JP2002523000A (ja) 画像圧縮における埋込みクワッドツリーウェーブレット
US6993199B2 (en) Method and system for improving coding efficiency in image codecs
KR20000059799A (ko) 웨이브릿 부호화를 이용한 움직임 보상 부호화 장치 및 방법
US20070133680A1 (en) Method of and apparatus for coding moving picture, and method of and apparatus for decoding moving picture
JP4449400B2 (ja) 画像符号化装置及び方法、並びにプログラム及び記録媒体
JP4135617B2 (ja) 画像符号化装置及び方法
JP3115089B2 (ja) 符号化装置及び符号化方法
KR101246115B1 (ko) 3차원 웨이블릿 기반 영상 부호화/복호화 방법 및 장치
JP4003628B2 (ja) 画像符号化装置及び方法、並びにプログラム
KR100323701B1 (ko) 영상부호화장치
JP3853708B2 (ja) デジタル画像符号化装置および符号化方法ならびにプログラム
JP2004064115A (ja) 符号量制御装置およびプログラム
JP2000201353A (ja) 画像符号化方法およびその装置およびそのプログラムを記憶した記憶媒体
JP2004064104A (ja) 圧縮符号化装置、圧縮符号化方法およびプログラム
JP2901105B2 (ja) 動き補償フレーム間サブバンド符号化方式
JP3989786B2 (ja) 圧縮符号化装置、圧縮符号化方法およびプログラム
Kato et al. Vector quantization of wavelet coefficients for super-high-definition image
CN113891097A (zh) 基于小波变换的码流预测方法及***
Ochoa-Domínguez et al. A Discrete Wavelet Transform-Singular Value Decomposition System for Image Coding
Wasilewski Adaptive segmentation of wavelet transform coefficients for video compression

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20000905

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20040520

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080929

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080929

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090929

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090929

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100929

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110929

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110929

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120929

Year of fee payment: 12

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120929

Year of fee payment: 12