JP3687458B2 - 圧縮復号化方法及び圧縮復号化装置 - Google Patents
圧縮復号化方法及び圧縮復号化装置 Download PDFInfo
- Publication number
- JP3687458B2 JP3687458B2 JP2000008756A JP2000008756A JP3687458B2 JP 3687458 B2 JP3687458 B2 JP 3687458B2 JP 2000008756 A JP2000008756 A JP 2000008756A JP 2000008756 A JP2000008756 A JP 2000008756A JP 3687458 B2 JP3687458 B2 JP 3687458B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- signal
- color difference
- pixels
- difference signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Color Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
【発明の属する技術分野】
本発明は圧縮復号化方法及び圧縮復号化装置に係り、特にコンポーネントビデオ信号のフォーマットを変更して高画質に圧縮符号化し、またこれを圧縮復号化し得る圧縮復号化方法及び圧縮復号化装置に関する。
【0002】
【従来の技術】
2種類の色差信号の各標本化周波数を、それぞれ輝度信号のそれの1/2とした4:2:2コンポーネント符号化方式のディジタル動画像信号(以下、4:2:2画像信号という)を、2種類の色差信号の各標本化周波数は、それぞれ輝度信号のそれの1/2であるが、線順次で色差信号を伝送する4:2:0コンポーネント符号化方式のディジタル動画像信号(以下、4:2:0画像信号という)へ仕様変換し、4:2:0画像信号と動画像の圧縮符号化に必要な付加情報をデータ圧縮部へ転送する場合に、バスライン制御を複雑化させない画像圧縮符号化装置が、従来より知られている(特開平8−46519号公報)。
【0003】
この従来の画像圧縮符号化装置では、公知のD1フォーマットでの記録再生を行うD1−VTRにより再生された4:2:2画像信号を仕様変換回路で4:2:0画像信号へ変換した後、フレームメモリに書き込む一方、付加情報検出部に供給して動画像の圧縮符号化に必要となる付加情報(動きベクトル情報や動き補償予測に必要となるモード判定情報)を検出する。マルチプレクサは、上記のフレームメモリからの4:2:0画像信号を奇数フィールドと偶数フィールドで交互に出力するが、奇数フィールドでは輝度信号画素と色差信号画素とが1画素毎に交互に配列され、偶数フィールドでは輝度信号と付加情報検出部からの付加情報とが1画素毎に交互に配列されたデータ列として取り出してデータ圧縮部へ転送する。データ圧縮部ではデマルチプレクサで4:2:0画像信号と付加情報を分離し、付加情報を用いて4:2:0画像信号を圧縮符号化する。
【0004】
この従来の画像圧縮符号化装置では4:2:2画像信号フォーマットを4:2:0に変換した場合の、一画面の色差信号画素データが半分に減少した部分を効果的に利用して、MPEGなどの4:2:0画像を圧縮符号化する際に必要なパラメータ情報を多重化している。
【0005】
次に、ここで使用されている圧縮方式MPEGについて説明する。MPEGは1988年、ISO/IEC JTC1/SC2(国際標準化機構/国際電気標準化会合同技術委員会1/専門部会2、現在のSC29)に設立された動画像符号化標準を検討する組織の名称(Moving Picture Experts Group)の略称である。MPEG1(MPEGフェーズ1)は1.5Mbps程度の蓄積メディアを対象とした標準で、静止画符号化を目的としたJPEGと、サービス統合ディジタル網(ISDN)のテレビ会議やテレビ電話の低転送レート用の動画像圧縮を目的としたH.261(CCITT SGXV、現在のITU−T SG15で標準化)の基本的な技術を受け継ぎ、蓄積メディア用に新しい技術を導入したものである。これらは1993年8月、ISO/IEC 11172として成立している。MPEG2(MPEGフェ−ズ2)は、通信や放送などの多様なアプリケーションに対応できるように、汎用標準を目的として、1994年11月ISO/IEC 13818、H.262として成立している。
【0006】
MPEGの入力画像のフォーマットは、MPEG1とMPEG2のMP@MLという一般的に使用されているプロファイルでは基本的に4:2:0である。 ITU−R勧告601で規定されている4:2:2コンポーネントフォーマットは、画面上に模式的に表した場合、図14(A)に白四角で示す輝度信号の画素に対し、黒丸で示す色差信号の画素が水平方向において1/2倍になっているのに対し、上記のMPEG2の4:2:0コンポーネントフォーマットは、図14(B)に示すように、白四角で示す輝度信号の画素に対し、黒丸で示す色差信号の画素が垂直方向及び水平方向のそれぞれにおいて1/2倍になっている。なお、図14において、画素位置は位相を示している。
【0007】
また、MPEG1の4:2:0コンポーネントフォーマットは、4:2:2コンポーネントフォーマットに対して、図14(C)に示すように、白四角で示す輝度信号の画素に対し、黒丸で示す色差信号の画素が垂直方向及び水平方向のそれぞれにおいて1/2倍になっている点はMPEG2の4:2:0コンポーネントフォーマットと同様であるが、MPEG2の4:2:0コンポーネントフォーマットとは色差信号の画素位置(位相)が異なる。
【0008】
いずれにしても4:2:0コンポーネント信号は、4:2:2コンポーネント信号に対して垂直解像度が半分になり、ディジタルデータの色の画素数も半分になっていることに変わりはない。周知のように、人間の目は輝度に比べて、色の解像度の認識力が小さいという実験結果に基づいて、MPEG符号化の入力時点で色差信号の画素数を間引いているのである。
【0009】
MPEGの符号化部分は幾つかの技術を組み合わせて作成されている。図15はMPEGによる画像圧縮符号化装置の一例のブロック図を示す。同図において、入力画像は動き補償予測器1で復号化され、この動き補償予測画像と入力画像の差分を減算回路2でとることで時間冗長部分を削減する。予測の方向は、過去、未来、両方からの3モード存在する。また、これらは16画素×16画素のMB(マクロブロック)ごとに切り替えて使用できる。予測方向は入力画像に与えられたピクチャタイプによって決定される。ピクチャタイプはPピクチャとBピクチャとIピクチャがある。過去からの予測と、予測をしないでそのMBを独立で符号化する2モード存在するのがPピクチャである。また、未来からの予測、過去からの予測、両方からの予測、独立で符号化する4モード存在するのがBピクチャである。そして全てのMBが独立で符号化するのがIピクチャである。
【0010】
動き補償(MC:Motion Compensation)は、動き領域をMBごとにパターンマッチングを行ってハーフペル精度で動きベクトルを検出し、動き分だけシフトしてから予測する。動きベクトルは水平方向と垂直方向が存在し、何処からの予測かを示すMCモードと共に、MBの付加情報として伝送される。Iピクチャから次のIピクチャの前のピクチャまでをGOP(Group Of Picture)といい、蓄積メディアなどで使用される場合には、一般に約15ピクチャ程度が使用される。
【0011】
減算回路2より取り出された差分画像信号は、DCT器3において直交変換が行われる。離散コサイン変換(DCT:Discrete Cosine Transform)とは余弦関数を積分核とした積分変換を有限空間への離散変換する直交変換である。MPEGではMBを4分割した8×8のDCTブロックに対して、2次元DCTを行う。一般にビデオ信号は低域成分が多く高域成分が少ないため、DCTを行うと係数が低域に集中する。
【0012】
DCTされた画像データ(DCT係数)は、量子化器4で量子化が行われる。この量子化は量子化マトリックスという8×8の2次元周波数を視覚特性で重み付けした値と、その全体をスカラー倍する量子化スケールという値で乗算した値を量子化値として、DCT係数をその量子化値で除算する。デコーダで逆量子化するときは量子化値で乗算することにより、元のDCT係数に近似している値を得ることになる。
【0013】
量子化されたデータはVLC器5で可変長符号化される。量子化された値のうち直流(DC)成分は予測符号化の一つであるDPCM(Differencial Pulse Code Modulation)を使用する。また交流(AC)成分は低域から高域にジクザグスキャンを行い、ゼロのラン長および有効係数値を1つの事象とし、出現確率の高いものから符号長の短い符号を割り当てていくハフマン符号化が行われる。可変長符号化されたデータは一時バッファ6に蓄えられ、所定の転送レートで符号化データとして出力される。
【0014】
また、その出力されるデータのマクロブロック毎の発生符号量は、符号量制御器7に供給され、目標符号量に対する発生符号量との誤差符号量を量子化器4にフイードバックして量子化スケールを調整することで符号量制御される。量子化された画像データは逆量子化器8にて逆量子化、逆DCT器9にて逆DCTされた後、加算回路10を通して画像メモリ11に一時蓄えられたのち、動き補償予測器1において、差分画像を計算するためのリファレンスの復号化画像として使用される。動き補償予測器1の出力信号は減算回路2と加算回路10に入力される。
【0015】
バッファ6より出力される符号化ビットストリームは、ビデオの場合1ピクチャごとに可変長の符号量をもっている。これはMPEGがDCT、量子化、ハフマン符号化という情報変換を用いている理由と同時に、画質向上のためにピクチャごとに配分する符号量は適応的に変更する必要性がある。動き補償予測を行っているので、あるときは入力画像そのままを符号化し、あるときは予測画像の差分である差分画像を符号化するなど符号化画像自体のエントロピーも大きく変化するためである。この場合多くはその画像のエントロピー比率に配分しつつ、バッファの制限を守りながら符号量制御される。このバッファの制限は、復号装置側のバッファがオーバーフローもアンダーフローも発生しないように符号化することであり、MPEGでVBV(Video Buffering Verifier)として規定されている。
【0016】
図16はMPEGにより圧縮符号化された符号化データの復号化装置の一例のブロック図を示す。同図において、MPEGにより圧縮符号化された符号化データは、VLD器15で可変長復号されてから逆量子化器16で量子化幅と乗算されることにより、元のDCT係数に近似した値とされた後、逆DCT器17に供給されて逆DCTされることにより局部復号化される。
【0017】
また、逆量子化器16より取り出された動きベクトルと予測モードは、動き補償予測器18に画像メモリ20よりの復号化データと共に供給され、これより動き補償予測化した画像データを出力させる。加算器19は逆DCT器17からのデータと動き補償予測器18よりの動き補償予測化した画像データとを加算することにより、符号化装置に入力された画像データと等価な画像データを復号し、復号化データとして画像メモリ20に供給する一方、外部へ出力する。
【0018】
【発明が解決しようとする課題】
図15に示した従来のMPEG方式に準拠した画像圧縮符号化装置では、前述したように、4:2:0フォーマットで圧縮符号化される。一方、家庭用ディジタルVTRの代表的なものにDVC(Digital Video Cassette)がある。DVCはMPEGとは違った圧縮方式であり、現行方式用のSD規格とHDTV用のHD規格とがあり、SD方式では、入力画像フォーマットがNTSCにおいては4:1:1コンポーネントフォーマットとなっている。4:1:1コンポーネントフォーマットは、4:2:2コンポーネントフォーマットに対して、図14(D)に示すように、白四角で示す輝度信号の画素に対し、黒丸で示す色差信号の画素が水平方向において1/2倍(入力画像の1/4倍)になっていて、垂直方向は同じである。
【0019】
ここで、4:2:2画像信号がDVCに記録され、さらにDVCから出力されてMPEG符号化を用いているアプリケーションにコピーする場合を考える。DVCにより符号化された画像データを復号すると、DVCフォーマットが4:1:1である理由から、色差信号の画素間隔は輝度信号の画素間隔に対して、水平方向に1/4になっている。この信号を4:2:0フォーマットのMPEG符号化で再度符号化する場合、4:1:1画像信号の垂直方向をさらに1/2にしてしまい、画素数は4:2:0画像信号と同じ色差信号画素数が存在しているにもかかわらず、4:1:0画像信号と同じ色差信号帯域、すなわち、色差信号の画素数は輝度信号の画素数に対して、水平方向に1/4に、垂直方向は1/2となった信号フォーマットと等価となってしまう。
【0020】
これは4:2:2画像信号の画素数概念図を図17(A)に、4:2:0画像信号の画素数概念図を同図(B)に、4:1:1画像信号の画素数概念図を同図(C)に示すと、4:1:1画像信号をMPEG符号化装置で再度符号化した画像信号は、4:2:2画像信号に比べて、4:1:1画像信号と4:2:0画像信号の色差信号(Cb,Cr)の水平、垂直双方の悪い条件を持ちあわせた、図17(D)に示すような4:1:0画像信号の画素数しか持っていない画像と、同じ帯域になっていることを意味する。このように、従来は色差信号フォーマットの違ったフォーマットの符号化を行うことで、色差信号の劣化を顕著にしてしまうことが問題である。
【0021】
なお、特開平8−46519号公報に記載されている従来の画像圧縮符号化装置は、4:2:2画像信号フォーマットを4:2:0画像信号フォーマットに変換した場合の、一画面の色差信号画素データが半分に減少した部分を効果的に利用して、MPEGなどの4:2:0画像信号を圧縮符号化する際に必要なパラメータ情報を多重化することで、システムとして必要な付加情報をデータ圧縮部へ転送する場合に、バスライン制御を複雑化させないなどの効果はあるものの、この従来装置では、画像の色差信号の劣化を軽減するための手段に関しては何ら開示されていない。
【0022】
本発明は以上の点に鑑みなされたもので、コンポーネントフォーマットを変更して圧縮符号化した場合の画像符号化データの色差信号の劣化を軽減し得る圧縮符号化方法、圧縮復号化方法、圧縮符号化装置及び圧縮復号化装置を提供することを目的とする。
【0023】
【課題を解決するための手段】
上記の目的を達成するため、本発明の圧縮復号化方法は、4:1:1のコンポーネントフォーマットの入力画像信号を一画面に表示したとき、各ライン毎に4画素周期で水平方向に配置される入力画像信号中の色差信号の画素のうち、隣接する4ラインを一組としたとき、各組において2番目又は3番目のライン上の色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、4番目のライン上の色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトすることにより、4:2:0のコンポーネントフォーマットの画像信号中の色差信号が一画面上で表示される画素位置と等価な画素位置へシフトされた画素置き換えを行う第1のステップと、画素置き換えされた画像信号を4:2:0のコンポーネントフォーマットで圧縮符号化する符号化装置により圧縮符号化を行う第2のステップと、圧縮符号化された画像信号を4:2:0のコンポーネントフォーマットで復号化する復号化装置により復号化して復号信号を得る第3のステップと、復号信号を一画面に表示したとき、復号信号中の水平方向に2画素周期で配置される色差信号の画素に対して、第1のステップによる画素シフトとは逆の画素シフトを行うことにより、4:1:1コンポーネントフォーマットの入力画像信号中の色差信号が一画面上で表示される画素位置と同じ画素位置で表示させる画素置き換えを行う第4のステップとを含むことを特徴とする。
【0024】
また、本発明の圧縮復号化方法は、上記の目的を達成するため、4:1:1のコンポーネントフォーマットの入力画像信号を一画面に表示したとき、水平方向8画素及び垂直方向4画素の隣接する計32画素を一組としたとき、各ライン毎に4画素周期で水平方向に配置され、かつ、各組毎に8つある入力画像信号中の色差信号の画素のうち、垂直方向に隣接する4つの色差信号の画素については、2番目又は3番目のライン上にある色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、4番目のライン上にある色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、垂直方向に隣接する残りの4つの画素については、1番目のライン上にある色差信号の画素と3番目又は2番目のライン上にある色差信号の画素は右へ2画素それぞれシフトし、かつ、シフト後の色差信号の画素位置に2番目又は3番目のライン上と4番目のライン上にある色差信号の画素をそれぞれ垂直方向にシフトすることを各組毎に行うことにより、4:2:0のコンポーネントフォーマットの画像信号中の色差信号が一画面上で表示される画素位置と等価な画素位置へシフトされた画素置き換えを行う第1のステップと、画素置き換えされた画像信号を4:2:0のコンポーネントフォーマットで圧縮符号化する符号化装置により圧縮符号化を行う第2のステップと、圧縮符号化された画像信号を4:2:0のコンポーネントフォーマットで復号化する復号化装置により復号化して復号信号を得る第3のステップと、復号信号を一画面に表示したとき、復号信号中の水平方向に2画素周期で配置される色差信号の画素に対して、第1のステップによる画素シフトとは逆の画素シフトを行うことにより、4:1:1コンポーネントフォーマットの入力画像信号中の色差信号が一画面上で表示される画素位置と同じ画素位置で表示させる画素置き換えを行う第4のステップとを含むことを特徴とする。
【0031】
更に、上記の目的を達成するため、本発明の圧縮復号化装置は、4:1:1のコンポーネントフォーマットの入力画像信号を一画面に表示したとき、各ライン毎に4画素周期で水平方向に配置される入力画像信号中の色差信号の画素のうち、隣接する4ラインを一組としたとき、各組において2番目又は3番目のライン上の色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、4番目のライン上の色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトすることにより、4:2:0のコンポーネントフォーマットの画像信号中の色差信号が一画面上で表示される画素位置と等価な画素位置へシフトされた画素置き換えを行う第1の画素置き換え器と、第1の画素置き換え器で画素置き換えが行われた画像信号を、4:2:0のコンポーネントフォーマットで圧縮符号化する符号化装置と、符号化装置で圧縮符号化された圧縮符号化画像信号を受け、4:2:0のコンポーネントフォーマットで復号化して復号信号を出力する復号化器と、復号信号を一画面に表示したとき、復号信号中の水平方向に2画素周期で配置される色差信号の画素に対して、第1のステップによる画素シフトとは逆の画素シフトを行うことにより、4:1:1コンポーネントフォーマットの入力画像信号中の色差信号が一画面上で表示される画素位置と同じ画素位置で表示させる画素置き換えをして、符号化装置に入力された画像信号と同じ画像信号を出力する第2の画素置き換え器とを有することを特徴とする。
【0032】
更に、上記の目的を達成するため、本発明の圧縮復号化装置は、4:1:1のコンポーネントフォーマットの入力画像信号を一画面に表示したとき、水平方向8画素及び垂直方向4画素の隣接する計32画素を一組としたとき、各ライン毎に4画素周期で水平方向に配置され、かつ、各組毎に8つある入力画像信号中の色差信号の画素のうち、垂直方向に隣接する4つの色差信号の画素については、2番目又は3番目のライン上にある色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、4番目のライン上にある色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、垂直方向に隣接する残りの4つの画素については、1番目のライン上にある色差信号の画素と3番目又は2番目のライン上にある色差信号の画素は右へ2画素それぞれシフトし、かつ、シフト後の色差信号の画素位置に2番目又は3番目のライン上と4番目のライン上にある色差信号の画素をそれぞれ垂直方向にシフトすることを各組毎に行うことにより、4:2:0のコンポーネントフォーマットの画像信号中の色差信号が一画面上で表示される画素位置と等価な画素位置へシフトされた画素置き換えを行う第1の画素置き換え器と、第1の画素置き換え器で画素置き換えが行われた画像信号を、4:2:0のコンポーネントフォーマットで圧縮符号化する符号化装置と、符号化装置で圧縮符号化された圧縮符号化画像信号を受け、4:2:0のコンポーネントフォーマットで復号化して復号信号を出力する復号化器と、復号信号を一画面に表示したとき、復号信号中の水平方向に2画素周期で配置される色差信号の画素に対して、第1のステップによる画素シフトとは逆の画素シフトを行うことにより、4:1:1コンポーネントフォーマットの入力画像信号中の色差信号が一画面上で表示される画素位置と同じ画素位置で表示させる画素置き換えをして、符号化装置に入力された画像信号と同じ画像信号を出力する第2の画素置き換え器とを有することを特徴とする。
【0035】
【発明の実施の形態】
次に、本発明の実施の形態について、図面と共に説明する。まず、図17を用いて本発明の概念を説明する。図17の画素数概念図では、面積が一画面当たりの画素数を示しており、4:2:2(コンポーネントフォーマット)画像信号では、図17(A)に示すように、一画面の色差信号Cb及びCrの各画素数が輝度信号Yの画素数と比較して、水平方向に対して1/2になっていて垂直方向は同じである。また、4:2:0画像信号では、図17(B)に示すように、一画面の色差信号Cb、Crの各画素数が輝度信号Yの画素数と比較して水平方向に対して1/2、垂直方向にも1/2となっている。
【0036】
また、4:1:1画像信号では、図17(C)に示すように、一画面の色差信号Cb、Crの各画素数が輝度信号Yの画素数と比較して、水平方向に対して1/4となっていて垂直方向は同じである。更に、4:1:0画像信号では、図17(D)に示すように、一画面の色差信号Cb、Crの各画素数が輝度信号Yの画素数と比較して水平方向に対して1/4、垂直方向にも1/4となっている。
【0037】
従って、図17(B)及び(C)から分かるように、4:2:0画像信号と4:1:1画像信号の色差信号(Cb、Cr)の画素数(面積)はそれぞれ等しい。本実施の形態はこのことに着目して、画素の置き換えを行い、4:1:1コンポーネントフォーマットの色差信号を、あたかも4:2:0コンポーネントフォーマットの色差信号であったかのようにして変換するようにしたものである。
【0038】
すなわち、前述したように、もとの圧縮符号化画像データが4:1:1コンポーネントフォーマットの画像信号であって、それを4:2:0コンポーネントフォーマットの画像信号にする場合、単純に変換すると、4:1:1画像信号の色差信号の垂直方向の画素数をさらに1/2にしてしまい、画素数は4:2:0画像信号と同じ色差信号画素数が存在しているにもかかわらず、4:1:0画像信号と同じ、2つの色差信号の各画素数は輝度信号の画素数に対して、水平方向に1/4に、垂直方向は1/2となった信号フォーマットと等価となってしまう。
【0039】
そこで、この実施の形態では、これを避けるために、画素の置き換えを行い、4:1:1画像信号中の色差信号をあたかも4:2:0画像信号中の色差信号であったかのようにして変換する。これは実際の画像の位相を無視したやり方であるが、出力する場合に必ずこの逆変換を行えば位相は戻る。また、圧縮を伴うので、符号化劣化が波及する可能性もあるが、劣化を最小限に抑えるべく、符号化レートを高くしてやることで、十分回避できる。
【0040】
例えば、DVCが約25Mbpsで4:1:1コンポーネントフォーマットであるので、この出力圧縮符号化画像データを4:2:0コンポーネントフォーマットのMPEG2圧縮を用いたDVDで約8Mbpsなどで記録する場合、本実施の形態を使用しなければどんなに符号化レートを高くして符号化しても、フォーマット上4:1:0コンポーネントフォーマットの帯域となり、垂直方向の解像度が約半分になってしまう。また、動画の場合にはフィールド処理を行って、フィールドで垂直方向の画素数を半分にするために、動画帯域での垂直解像度特性は1/4になってしまう。しかし、本発明を用いることにより、一般的な画像であれば、MPEG2圧縮で符号化レート8Mbpsでは符号化劣化は殆ど発生しない。従って、本発明の画素の置き換えを逆の手順で戻すことにより、4:1:1画像信号の垂直方向解像度を保ったまま、復号化することが可能となる。
【0041】
次に、4:1:1コンポーネントフォーマットの色差信号を4:2:0コンポーネントフォーマットの色差信号に変換する方法(以下、これを「色差信号411/420画素置き換え方法」という)について、具体的に説明する。色差信号411/420画素置き換え方法は、大きく分けて、フレームピクチャ内で置き換える方法とフィールドピクチャ内で置き換える方法の2種類がある。
【0042】
図1(A)及び(B)は本発明になる画像圧縮符号化方法の第1及び第2の実施の形態の説明図で、いずれもフィールドピクチャ内での色差信号411/420画素置き換え方法を示す。図1(A)及び(B)は、いずれも4:1:1画像信号の画面上での画素位置を示しており、白四角が輝度信号の画素、黒丸が色差信号の画素を示し、灰色の丸印が輝度信号のみが存在する画素位置に置き換えられた後の色差信号の画素を示す。実際の4:1:1画像信号は、画面上には例えば360画素(水平方向に0から359)×480ライン(垂直方向に0から479)存在しているところを、図1では8画素×8ラインの部分を表わしている(後述の図2も同様)。
【0043】
図1(A)の色差信号画素置き換え方法は、0からカウントした画素番号が4で割り切れるときであってライン番号が4で割って2余る、第1フィールドの画素位置の色差信号の画素は、右へ2画素分、上へ2画素分シフトするように置き換え、また、画素番号が4で割り切れるときであって、ライン番号が4で割って3余る、第2フィールドの画素位置の色差信号の画素は、右へ2画素分、上へ2画素分シフトする方法である(ただし、画素番号0は4で割り切れるものとする)。
【0044】
従って、例えば第1フィールドの画素番号0で垂直方向3番目(ライン番号2)の色差信号は、図1(A)に矢印21で示すように、画素番号が4で割り切れ、かつ、ライン番号が4で割って2余る画素位置にあるので、右へ2画素分、上へ2画素分シフトされて画素番号2、ライン番号0の画素位置にシフトされる。同様に、例えば第2フィールドの画素番号0で垂直方向4番目(ライン番号3)の色差信号は、図1(A)に矢印22で示すように、画素番号が4で割り切れ、かつ、ライン番号が4で割って3余る画素位置にあるので、右へ2画素分、上へ2画素分シフトされて画素番号2、ライン番号1の画素位置にシフトされる。
【0045】
この画素置き換え方法によって、4:1:1画像信号の、4で割り切れる画素番号で、4で割ったときに2又は3余るライン番号に存在する色差信号の各画素は、すべて4で割り切れるか4で割ったときに1余るライン番号の、色差信号が存在しない画素位置にシフトされることとなり、結果として4:2:0画像信号の色差信号の画素位置と等価な画素配列に置き換えられる。
【0046】
また、図1(B)の色差信号画素置き換え方法は、0からカウントした画素番号が8で割り切れるときであってライン番号が4で割って2余る、第1フィールドの画素位置にある色差信号の画素は、右へ2画素分、上へ2画素分シフトするように置き換え、また、画素番号が8で割ったときに4余り、ライン番号が4で割り切れる、第1フィールドの画素位置にある色差信号の画素は、右ヘ2画素分シフトし、次に、2つ下の画素をカレントの位置へ(上へ)2画素分シフトする。また、画素番号が8で割りきれるときであって、ライン番号が4で割って3余る、第2フィールドの画素位置にある色差信号の画素は、右へ2画素分、上へ2画素分シフトする。また、画素番号が8で割ったときに4余り、ライン番号が4で割って1余る、第2フィールドの画素位置にある色差信号の画素は、右ヘ2画素分シフトし、次に、2つ下の画素をカレントの位置へ(上へ)2画素分シフトする方法である(ただし、0は4で割り切れるものとする)。
【0047】
従って、例えば画素番号4で垂直方向1番目(ライン番号0)の色差信号は、画素番号が8で割り切れ、かつ、ライン番号が4で割り切れる、第1フィールドの画素位置にあるので、図1(B)に矢印23で示すように、右ヘ2画素分シフトされて本来、色差信号画素が存在しない画素番号6でライン番号0の位置に置き換えられ、続いて、画素番号4、ライン番号0の画素の2つ下の画素番号4、ライン番号2の第1フィールドの色差信号の画素を、図1(B)に矢印24で示すようにシフトして、色差信号画素が存在しなくなったカレントの位置の画素番号4、ライン番号0の画素位置にシフトする。また、画素番号が8で割り切れ、かつ、ライン番号が4で割って2又は3余る位置にある色差信号画素は、図1(A)と同様にしてシフトされる。この画素置き換え方法によって、図1(B)に示すように、4:1:1画像信号が4:2:0画像信号の色差信号の画素位置と等価な画素配列に置き換えられる。
【0048】
図2(A)及び(B)は本発明になる画像圧縮符号化方法の第3及び第4の実施の形態の説明図で、いずれもフレームピクチャ内での色差信号411/420画素置き換え方法を示す。図2(A)及び(B)は、いずれも4:1:1画像信号の画面上での画素位置を示しており、白四角が輝度信号の画素、黒丸が色差信号の画素を示し、灰色の丸印が色差信号の画素が存在しない画素位置に置き換えられた色差信号の画素を示す。
【0049】
図2(A)の色差信号画素置き換え方法は、0からカウントした画素番号が4で割り切れるときであってライン番号が2で割って1又は3余る画素位置にある色差信号の画素は、右へ2画素分、上へ1画素分シフトするように置き換える方法である(ただし、画素番号0は4で割り切れるものとする)。従って、例えば画素番号0で垂直方向2番目(ライン番号1)の色差信号は、図2(A)に矢印26で示すように、画素番号が4で割り切れ、かつ、ライン番号が2で割って1余る画素位置にあるので、右へ2画素分、上へ1画素分シフトされて画素番号2、ライン番号0の画素位置にシフトされる。同様に、例えば画素番号0で垂直方向4番目(ライン番号3)の色差信号は、図2(A)に矢印27で示すように、画素番号が4で割り切れ、かつ、ライン番号が2で割って1余る画素位置にあるので、右へ2画素分、上へ1画素分シフトされて画素番号2、ライン番号2の画素位置にシフトされる。
【0050】
この画素置き換え方法によって、4で割り切れる画素番号で、4で割ったときに1又は3余るライン番号に存在する色差信号の各画素は、すべて4で割ったときに2余る画素番号で、2で割り切れるライン番号の、色差信号が存在しない画素位置にシフトされることとなり、結果として4:2:0画像信号の色差信号の画素位置と等価な画素配列となる。
【0051】
また、図2(B)の色差信号画素置き換え方法は、0からカウントした画素番号が8で割り切れる画素位置にあり、ライン番号が4で割ったときに1又は3余る画素位置にある色差信号の画素は、右へ2画素分、上へ1画素分シフトするように置き換え、また、画素番号が8で割ったときに4余り、ライン番号が2で割り切れる画素位置にある色差信号の画素は、右ヘ2画素分シフトし、次に、1つ下の画素をカレントの位置へ(上へ)1画素分シフトする方法である(ただし、0は8で割り切れるものとする)。
【0052】
従って、例えば画素番号4で垂直方向1番目(ライン番号0)の色差信号は、画素番号が8で割って4余り、かつ、ライン番号が2で割り切れる画素位置にあるので、図2(B)に矢印28で示すように、右ヘ2画素分シフトされて本来、色差信号画素が存在しない画素番号6でライン番号0の位置に置き換えられ、続いて、画素番号4、ライン番号0の画素の1つ下の画素番号4、ライン番号1の色差信号の画素を、図2(B)に矢印29で示すようにシフトして、色差信号画素が存在しなくなったカレントの位置の画素番号4、ライン番号0の画素位置にシフトする。また、画素番号が8で割り切れ、かつ、ライン番号が2で割って1余る位置にある色差信号画素は、図2(A)と同様にしてシフトされる。この画素置き換え方法によって、図2(B)に示すように、4:1:1画像信号の色差信号が、4:2:0画像信号の色差信号の画素位置と等価な画素配列となる。
【0053】
次に、4:2:0コンポーネントフォーマットの色差信号を4:1:1コンポーネントフォーマットの色差信号に変換する方法(以下、これを「色差信号420/411画素置き換え方法」という)について、具体的に説明する。色差信号420/411画素置き換え方法は、上記の色差信号411/420画素置き換え方法の逆の操作を行うものであり、この方法も大きく分けて、フレームピクチャ内で置き換える方法とフィールドピクチャ内で置き換える方法の2種類がある。
【0054】
図3(A)及び(B)は本発明になる画像圧縮復号化方法の第1及び第2の実施の形態の説明図で、いずれもフィールドピクチャ内での色差信号420/411画素置き換え方法を示す。図3(A)及び(B)は、いずれも4:2:0画像信号の画面上での画素位置を示しており、白四角が輝度信号の画素、黒丸が色差信号の画素を示し、灰色の丸印が置き換え後の色差信号の画素を示す。実際の4:2:0画像信号は、画面上には例えば360画素(水平方向に0から359)×480ライン(垂直方向に0から479)存在しているところを、図3では4画素×8ラインの部分を表わしている(後述の図4も同様)。
【0055】
図3(A)の色差信号画素置き換え方法は、0からカウントした画素番号が4で割って2余るときであって、ライン番号が4で割り切れる第1フィールドの色差信号の画素は、左へ2画素分、下へ2画素分シフトするように置き換え、また、画素番号が4で割って2余るときであって、ライン番号が4で割って1余るときは、左へ2画素分、下へ2画素分シフトする方法である(ただし、画素番号0は4で割り切れるものとする)。
【0056】
従って、例えば画素番号2で垂直方向1番目(ライン番号0)の色差信号は、画素番号が4で割って2余り、かつ、ライン番号が4で割り切れる画素位置にあるので、図3(A)に矢印31で示すように、左へ2画素分、下へ2画素分シフトされて画素番号0、ライン番号2の画素位置にシフトされる。同様に、例えば画素番号2で垂直方向2番目(ライン番号1)の色差信号は、図3(A)に矢印32で示すように、画素番号が4で割って2余り、かつ、ライン番号が4で割って1余る画素位置にあるので、左へ2画素分、下へ2画素分シフトされて画素番号0、ライン番号3の画素位置にシフトされる。この画素置き換え方法によって、図1(A)の方法によって置き換えられた4:2:0画像信号の色差信号が、4:1:1画像信号の色差信号の画素位置と等価な画素配列に置き換えられる。
【0057】
また、図3(B)の色差信号画素置き換え方法は、0からカウントした画素番号が8で割って2余るときであってライン番号が4で割り切れるときには、左へ2画素分、下へ2画素分シフトするように置き換え、また、画素番号が8で割って4余るときであって、ライン番号が4で割り切れるときは、下ヘ2画素分シフトし、次に、2つ右の画素をカレントの位置へ(左へ)1画素分シフトする。また、画素番号が8で割って2余るときであって、ライン番号が4で割って1余るときには、左へ2画素分、下へ2画素分シフトする。また、画素番号が8で割って4余るときであって、ライン番号が4で割って1余るときは、下ヘ2画素分シフトし、次に、2つ右の画素をカレントの位置へ(左へ)2画素分シフトする方法である(ただし、0は4で割り切れるものとする)。
【0058】
従って、例えば画素番号4で垂直方向1番目(ライン番号0)の色差信号は、画素番号が8で割って4余り、かつ、ライン番号が4で割り切れる画素位置にあるので、図3(B)に矢印33で示すように、下ヘ2画素分シフトされて本来、色差信号画素が存在しない画素番号4でライン番号2の位置に置き換えられ、続いて、画素番号4、ライン番号0の画素の2つ右の画素番号6、ライン番号0の色差信号の画素を、図3(B)に矢印34で示すようにシフトして、色差信号画素が存在しなくなったカレントの位置の画素番号4、ライン番号0の画素位置にシフトする。また、画素番号が8で割って2余り、かつ、ライン番号が4で割り切れるか、1余る位置にある色差信号画素は、図3(A)と同様にしてシフトされる。この画素置き換え方法によって、図1(B)の方法によって画素が置き換えられた4:2:0画像信号の色差信号が、図3(B)に示すように、4:1:1画像信号の色差信号の画素位置と等価な画素配列に置き換えられる。
【0059】
図4(A)及び(B)は本発明になる画像圧縮復号化方法の第3及び第4の実施の形態の説明図で、いずれもフレームピクチャ内での色差信号420/411画素置き換え方法を示す。図4(A)及び(B)は、いずれも4:2:0画像信号の画面上での画素位置を示しており、白四角が輝度信号の画素、黒丸が色差信号の画素を示し、灰色の丸印が置き換え後の色差信号の画素を示す。
【0060】
図4(A)の色差信号画素置き換え方法は、0からカウントした画素番号が4で割って2余るときであって、ライン番号が2で割り切れるときには、左へ2画素分、下へ1画素分シフトするように置き換える方法である(ただし、画素番号0は2で割り切れるものとする)。
【0061】
従って、例えば画素番号2で垂直方向1番目(ライン番号0)の色差信号は、画素番号が4で割って2余り、かつ、ライン番号が2で割り切れる画素位置にあるので、図4(A)に矢印36で示すように、左へ2画素分、下へ1画素分シフトされて画素番号0、ライン番号1の画素位置にシフトされる。同様に、例えば画素番号2で垂直方向3番目(ライン番号2)の色差信号は、画素番号が4で割って2余り、かつ、ライン番号が2で割り切れる画素位置にあるので、図4(A)に矢印37で示すように、左へ2画素分、下へ1画素分シフトされて画素番号0、ライン番号3の画素位置にシフトされる。この画素置き換え方法によって、図2(A)の方法により画素が置き換えられた4:2:0画像信号の色差信号が、4:1:1画像信号の色差信号の画素位置と等価な画素配列に置き換えられる。
【0062】
また、図4(B)の色差信号画素置き換え方法は、0からカウントした画素番号が8で割って2余るときであって、ライン番号が2で割り切れるときには、左へ2画素分、下へ1画素分シフトするように置き換え、また、画素番号が8で割って4余るときであって、ライン番号が2で割り切れるときは、下ヘ1画素分シフトし、次に、2つ右の画素をカレントの位置へ(左へ)2画素分シフトする方法である(ただし、0は2で割り切れるものとする)。
【0063】
従って、例えば画素番号4で垂直方向1番目(ライン番号0)の色差信号は、画素番号が8で割って4余り、かつ、ライン番号が2で割り切れる画素位置にあるので、図4(B)に矢印38で示すように、下ヘ1画素分シフトされて本来、色差信号画素が存在しない画素番号4でライン番号1の位置に置き換えられ、続いて、画素番号4、ライン番号0の画素の2つ右の画素番号6、ライン番号0の色差信号の画素を、図4(B)に矢印39で示すようにシフトして、色差信号画素が存在しなくなったカレントの位置の画素番号4、ライン番号0の画素位置にシフトする。また、画素番号が8で割って2余り、かつ、ライン番号が2で割り切れる位置にある色差信号画素は、図4(A)と同様にしてシフトされる。この画素置き換え方法によって、図2(B)の方法によって画素が置き換えられた4:2:0画像信号の色差信号が、図4(B)に示すように、4:1:1画像信号の色差信号の画素位置と等価な画素配列となる。
【0064】
なお、上記の説明では、便宜上、画像圧縮符号化では色差信号411/420画素置き換えをし、画像圧縮復号化では色差信号420/411画素置き換えをするものとして説明したが、その逆(つまり、画像圧縮復号化で色差信号411/420画素置き換え、画像圧縮符号化で色差信号420/411画素置き換え)としてもよいことは勿論である。
【0065】
次に、本発明になる圧縮符号化装置及び圧縮復号化装置の各実施の形態について、図面と共に説明する。図5は本発明になる圧縮符号化装置の第1の実施の形態のブロック図を示す。同図において、4:1:1画像信号は、色差信号411/420フォーマット変換器41と、色差信号411/420画素置き換え器42にそれぞれ入力される。
【0066】
色差信号411/420フォーマット変換器41は、入力された4:1:1画像信号の水平方向をオーバーサンプリングして水平画素数を2倍にする。また垂直方向には帯域を1/2にするフィルタリングを施してから、サンプリング数を半分にする。色差信号411/420画素置き換え器42は、前記図1(A)及び(B)、図2(A)及び(B)と共に説明した色差信号411/420画素置き換え方法のうち、いずれか任意に設定した、あるいは予め定められた一つの方法により色差信号411/420画素置き換えをする。
【0067】
この色差信号411/420画素置き換え器42は、例えば入力された4:1:1画像信号から色差信号を分離してメモリにアドレス制御器の制御の下に順次に書き込み、前記図1、図2と共に説明した色差信号411/420画素置き換え方法を実現するようなアドレス順で、メモリから記憶色差信号データを読み出して再度メモリに書き込み、その後そのメモリから読み出した色差信号データを入力4:1:1画像信号から分離した輝度信号データに合成して出力する構成である。
【0068】
色差信号411/420フォーマット変換器41と、色差信号411/420画素置き換え器42の各出力画像信号は、スイッチ回路(S/W)44にそれぞれ供給され、ここでユーザーインターフェース43からのスイッチング信号により、ユーザーにより指定された方の方式の画像信号が選択される。この場合、後述する本発明の復号化装置を使用して復号する場合には、色差信号411/420画素置き換え器42からの等価的に4:2:0コンポーネントフォーマットとされた、4:2:0画像信号が選択されるように、S/W44が切り替えられる。これに対し、本発明による画素置き換え手段を有しない既存の復号化装置で圧縮符号化したディジタル信号を復号させる場合は、色差信号411/420フォーマット変換器41から取り出された、帯域的に4:1:0コンポーネントフォーマットとされた画像信号が選択されるように、S/W44が切り替えられる。
【0069】
S/W44により選択された画像信号はMPEG符号化器45に入力され、4:2:0コンポーネントフォーマットのMPEG方式に準拠した圧縮符号化がなされる。このMPEG符号化器45は、図15に示した公知の構成である。このMPEG符号化器45の入力画像信号は、本来は4:1:1コンポーネントフォーマットであるが、色差信号411/420画素置き換え器42で画素置き換えがなされている場合は、色差信号に関してはあたかも4:2:0コンポーネントフォーマットの色差信号であったかのように変換されているので、従来のように符号化によって4:1:0画像信号のようになることはなく、4:2:0画像信号として取り出される。MPEG符号化器45により符号化されて取り出されたビットストリームは、バッファメモリ及びフォーマッタ46に供給される。
【0070】
一方、同期制御部47は所定の期間のタイマを持ち、同期信号発生器48に所定の期間ごとにトリガー信号を出力する。この所定の期間は例えばNTSC方式画像信号の1フレーム期間である1/29.97秒などに選定される。同期信号発生部48は、同期制御部47からのトリガー信号の入力を検出すると、最初のMPEGのシンタックスで映像音声とは関係ないデータを埋め込むことのできるエリアとして設定されている、user_dataなどの所定のエリア内で本実施の形態の識別コードの存在を示す、予め一意に識別可能な固定パターンの同期信号を発生する。
【0071】
例えば、MPEG1のビデオストリームピクチャレイヤは、図12に示すように定められていて、スライスレイヤの手前で、ユーザデータスタートコード(user_data_start_code)を送った後に、ユーザデータ(user_data)を8ビット単位で伝送することができるような仕組みが定義されている。また、MPEG2などのトランスポートストリームのシステムレイヤにも、図13に示すように、トランスポート・プライベート・データ・フラグ(transport_pivate_data_flag)に1を立てると、プライベートデータ(private_data)が存在することを明示でき、データ長もトランスポートパケットをはみ出さないという制限のもとで、トランスポート・プライベート・データ・レングス(transport_private_data_length)に設定したデータ長のプライベートデータ(private_data)を送信することができるように定められている。
【0072】
これ以外にも、MPEGシステムでユーザ固有のデータを伝送する方法は、ストリームid(stream_id)にプライベートストリーム(private_stream)を設定して専用のパケットを宣言することで送信するなど、仕組みは幾つか定義されており、本実施の形態で同期信号や識別コードを符号化データに多重して伝送する目的においては、それらのどの仕組みを用いても構わない。
【0073】
ここでは、MPEG1ビデオのuser_dataを用いるものとすると、user_data_start_codeはスライスレイヤの手前で0x000001B2と定義されている。そのコードを送った後にユーザデータエリア内で後述する識別コードの存在を示す、予め一意に識別可能な同期信号を送信する。この同期信号は、MPEG規格とは別に定めた値(例えば、0x0f0f0f0f2428fdaa)に設定されており、この同期信号の後に後述する識別コードが多重されている位置を復号化装置側に特定させる目的を持つ。具体的には、上記の同期信号の発生タイミングは、バッファメモリ及びフォーマッタ46に、MPEG符号化器45から入力されるMPEGのストリームを観測しながら、所定のuser_dataエリアを特定し、その後にuser_data_start_codeを発生し、user_dataエリアであることを宣言してからとなる。
【0074】
図5に示す同期信号発生部48は、また同期信号を発生したことを示す信号を識別コード発生部49に出力する。識別コード発生部49は、同期信号の後のタイミングで、バッファメモリ及びフォーマッタ46の入力画像信号が色差信号411/420フォーマット変換器41で処理されたものなのか、色差信号411/420画素置き換え器42で処理されたものなのかを示す値の識別コードを発生して、バッファメモリ及びフォーマッタ46に供給する。
【0075】
識別コードの値は、ユーザインタフェース43から同期信号発生部48を介して入力される信号に基づいて定められ、例えば識別コードとして1バイトを用意して、0x01であれば色差信号411/420画素置き換え器42で処理されたことを示し、0x00であれば色差信号411/420フォーマット変換器41で処理されたことを示す。バッファメモリ及びフォーマッタ46は、記録媒体51のフォーマットに準じたデータ配置を行った圧縮符号化画像データや同期信号及び識別コードからなるディジタル信号をデータ記録部50に出力し、これにより、磁気テープ、光ディスクその他の記録媒体51に記録させる。
【0076】
なお、色差信号411/420画素置き換え器42が、図1及び図2と共に示した4種類の色差信号411/420画素置き換え方法のうち、2種類以上の色差信号411/420画素置き換え方法を選択できる構成である場合は、どの種類の色差信号411/420画素置き換え方法を用いたかを示す情報も識別コードに含める。
【0077】
次に、本発明を実現するための好適な復号化装置例について説明する。図6は本発明になる圧縮復号化装置の第1の実施の形態のブロック図を示す。同図において、図5の画像圧縮符号化装置により記録された記録媒体51から読み出されたディジタル信号は、バッファメモリ52に一時蓄積された後、同期信号検出部53、識別コード検出部54及びMPEG復号化器55にそれぞれ供給される。同期信号検出部53は、MPEGのストリームを観測しながら、所定のuser_dataエリアを特定し、その後にuser_data_start_codeを検出して、user_dataエリアであることを確認した後で、固定パターンの同期信号を検出する。
【0078】
識別コード検出部54は、同期信号を検出した時点で同期信号検出部53から出力されるトリガー信号を受け、同期信号に同期して所定エリアに多重されている識別コードを再生ディジタル信号中から検出し、色差信号生成方法判定部56に送信する。色差信号生成方法判定部56は、再生ディジタル信号が図5の色差信号411/420フォーマット変換器41で処理されたものなのか、色差信号411/420画素置き換え器42で処理されたものなのかを入力識別コードから判定し、その判定結果に応じてスイッチ回路(S/W)57をスイッチング制御すると共に、その判定結果を色差信号出力フォーマット変換器59に供給する。
【0079】
すなわち、色差信号生成方法判定部56は、色差信号411/420画素置き換え器42で処理されたと判定した場合には、図16に示した公知の構成のMPEG復号化器55により復号化された画像データを、色差信号420/411画素置き換え器58へ供給し、また、色差信号411/420フォーマット変換器41で処理されたと判定した場合には、MPEG復号化器55により復号化された画像データを直接、色差信号出力フォーマット変換器59に供給するように、スイッチ回路(S/W)57をスイッチング制御する。
【0080】
色差信号420/411画素置き換え器58は、前記図3(A)及び(B)、図4(A)及び(B)と共に説明した色差信号420/411画素置き換え方法のうち、記録媒体51に記録された画像信号で採用された色差信号411/420画素置き換え方法に対応した、所定の一つの方法により色差信号420/411画素置き換えをして、圧縮符号化装置に入力された元の画像信号と同じ4:1:1画像信号に戻されて出力する。
【0081】
すなわち、図5の圧縮符号化装置の色差信号411/420画素置き換え器42により、4:1:1画像信号の色差信号については、4:2:0画像信号の色差信号配列と等価的にされ、4:1:1画像信号中の色差信号をあたかも4:2:0画像信号中の色差信号であったかのようにして、MPEG符号化器45で符号化した信号の復号信号がMPEG復号化器55から出力される場合は、その復号信号の色差信号に関しては本来の画像の位相とは異なっているので、色差信号411/420画素置き換え器42で行った色差信号411/420画素置き換え方法と逆の色差信号420/411画素置き換えをして、色差信号の位相を元に戻す必要がある。
【0082】
そのため、色差信号411/420画素置き換え器42で図1(A)の色差信号411/420画素置き換え方法を行った場合は、色差信号420/411画素置き換え器58は、図3(A)の色差信号420/411画素置き換え方法を行う必要があり、同様に、色差信号411/420画素置き換え方法が図1(B)、図2(A)、図2(B)の場合は、それぞれ対応する図3(B)、図4(A)、図4(B)に示した色差信号411/420画素置き換え方法を行う必要がある。
【0083】
色差信号出力フォーマット変換器59は、色差信号生成方法判定部56からの判定結果に基づいて、色差信号420/411画素置き換え器58により圧縮符号化装置に入力された画像信号と同じ4:1:1画像信号に戻された画像信号が入力されたと検出したときは、その4:1:1画像信号を水平方向に2倍のオーバーサンプルをして4:2:2画像信号に変換して出力する。一方、色差信号出力フォーマット変換器59は、色差信号生成方法判定部56からの判定結果に基づいて、MPEG復号化器55から出力された画像信号がそのまま入力されたと検出したときは、その画像信号を垂直方向に2倍にオーバーサンプルして出力する。
【0084】
従って、色差信号出力フォーマット変換器59にMPEG復号化器55からスイッチ回路57を通して直接に入力される画像信号が、4:2:0画像信号であれば4:2:2画像信号として色差信号出力フォーマット変換器59から出力され、他方、4:1:1画像信号をMPEG符号化した信号をMPEG復号化器55で復号した4:1:0画像信号であれば、4:1:0画像信号のまま出力されることとなる。
【0085】
次に、本発明装置の第2の実施の形態について説明する。図7は本発明になる圧縮符号化装置の第2の実施の形態のブロック図を示す。同図中、図5と同一構成部分には同一符号を付し、その説明を省略する。上記の第1の実施の形態では、画面全体においてフレームピクチャ内での色差信号画素の置き換え、又はフィールドピクチャ内での色差信号画素の置き換えを固定的に行うこととして説明したが、この実施の形態では、フレーム/フィールド相関判定部61を用いて自動で切り替えるようにしたものである。
【0086】
すなわち、4:1:1画像信号は図7のフレーム/フィールド相関判定部61に供給され、ここで所定のエリアごとにフレーム/フィールド相関の判定が行われ、フィールドの相関が大きいとの判定結果が得られた場合は、図1(A)、(B)のようにフィールドピクチャ内で色差信号の画素を置き換え、フレーム相関が大きいとの判定結果が得られた場合は、図2(A)、(B)のようにフレームピクチャ内で色差信号の画素を置き換えるように、色差信号411/420画素書き換え器42を判定結果に応じて制御して、4:2:0画像信号に変換させる。
【0087】
また、フレーム/フィールド相関判定部61からの判定結果が識別コード発生部62に供給され、フィールドピクチャ内で色差信号の画素を置き換えたか、フレームピクチャ内で色差信号の画素を置き換えたかを識別コードの中のもう1ビットを用いて指定する。
【0088】
フレーム/フィールド相関判定部61による相関判定は、例えば図18の特定エリア81の画像データ内において、82で示すように1ラインの画像データと1ライン下の画像データとの第1の差分和(上下の2つの画素間の差の値を1ライン分の画素について加算した値)を計算し、同様に83で示すように2ライン下の画素との第2の差分和を計算し、どちらか差分和の小さかったほうが相関が大きいと判定する方法が考えられる。図18では第1の差分和がフレーム相関の大きさを示しており、第2の差分和がフィールド相関の大きさを示している。
【0089】
図8は本発明になる圧縮符号化装置の第3の実施の形態のブロック図を示す。同図中、図5、図7と同一構成部分には同一符号を付し、その説明を省略する。この実施の形態は、図7の第2の実施の形態におけるフレーム/フィールド相関判定部61の判定結果を識別コード発生部62(49)ではなく、MPEG符号化器64に供給し、MPEGで用いられているマクロブロック(16画素×16ライン)に、フレーム/フィールド相関判定結果を用いるようにしたものである。MPEG符号化器64は、このフレーム/フィールド判断結果を受け、図15に示したDCT器3が入力結果に基づいてフレーム/フィールドのどちらかで行い、また、動き補償予測器1がフレーム/フィールドのどちらかの動き補償予測を行う。
【0090】
これにより、この実施の形態では、マクロブロック単位でフレームもしくはフィールド相関の大小を判断している判断結果に、あわせて色差信号画素の置き換え方法をフレームもしくはフィールド内のピクチャで行うことで、置き換え後のピクチャの垂直方向の相関が高くなり、MPEG圧縮の符号化効率が高まる。従って、同じ符号化レ−トで符号化した場合、相対的に高画質で符号化することが可能となる。
【0091】
判定結果は図19に示したMPEG2のビデオシンタックスのマクロブロックレイヤであるDCTをフレーム/フィールドのどちらで行ったかを示すモード(MPEG2のビデオ符号化シンタックスにおけるdct_type1ビット 0のときがフレーム、1のときがフィールド)、あるいはフレーム/フィールドの動き補償モード(MPEG2のビデオ符号化シンタックスにおけるFrame_motion_type2ビットが01のときがフィールド、10のときがフレーム)をリンクして使うことで、あえて送信しなくても済む。
【0092】
図9は本発明になる圧縮復号化装置の第2の実施の形態のブロック図を示す。同図中、図6と同一構成部分には同一符号を付し、その説明を省略する。この第2の実施の形態は、図8に示した圧縮符号化装置に対応した実施の形態で、バッファメモリ52からの再生ディジタル信号がMPEG復号化器68に供給されて、復号化されると共に、その際のDCTモード信号が色差信号420/411画素置き換え器69に供給される。
【0093】
色差信号420/411画素置き換え器69は、DCTモードがフィールドモードの場合、フィールドの相関が大きく、入力画像信号はフィールドピクチャ内で色差信号411/420画素書き換えが行われていると考えられるので、図3(A)又は同図(B)に示したようにフィールドピクチャ内で色差信号420/411画素置き換えを行い、DCTモードがフレームモードの場合は、フレームの相関が大きく、フレームピクチャ内で色差信号411/420画素書き換えが行われていると考えられるので、図4(A)又は同図(B)に示したようにフレームピクチャ内で色差信号420/411画素置き換えを行う。
【0094】
図10は本発明になる圧縮符号化装置の第4の実施の形態のブロック図を示す。同図中、図5と同一構成部分には同一符号を付し、その説明を省略する。この実施の形態は、4:2:0画像信号中の色差信号を4:1:1画像信号に置き換えて符号化する構成としたものである。すなわち、図10において、4:2:0画像信号は、色差信号420/411フォーマット変換器71及び色差信号420/411画素置き換え器72にそれぞれ供給される。
【0095】
色差信号420/411フォーマット変換器71は、入力された4:2:0画像信号の水平画素数を半分にし、垂直方向には2倍にオーバーサンプルする。色差信号420/411画素置き換え器72は、前記図3(A)及び(B)、図4(A)及び(B)と共に説明した色差信号420/411画素置き換え方法のうち、いずれか任意に設定した、又は予め定められた一つの方法により色差信号420/411画素置き換えをする。
【0096】
色差信号420/411フォーマット変換器71と、色差信号420/411画素置き換え器72の各出力画像信号は、スイッチ回路(S/W)44にそれぞれ供給され、ここでユーザーインターフェース43からのスイッチング信号により、ユーザーにより指定された方の方式の画像信号が選択される。スイッチ回路44により選択された4:1:1画像信号は、DVC符号化器73に供給され、ここでDVC規格に準拠した4:1:1コンポーネントフォーマットでの符号化が行われた後、バッファメモリ及びフォーマッタ74に供給される。この実施の形態では、MPEGデータをDVCフォーマットとして符号化したときに、4:2:0コンポーネントフォーマットと同じ水平方向の帯域特性を保持して再生することができる。
【0097】
図11は本発明になる圧縮復号化装置の第3の実施の形態のブロック図を示す。同図中、図6と同一構成部分には同一符号を付し、その説明を省略する。この第3の実施の形態は、図10に示した圧縮符号化装置に対応した実施の形態で、バッファメモリ52から取り出された4:1:1画像信号をDVC復号化器76で復号化した後スイッチ回路57に供給される。
【0098】
色差信号411/420画素置き換え器77は、スイッチ回路57から入力された4:1:1画像信号を、前記図1(A)、(B)及び図2(A)及び(B)と共に説明した色差信号411/420画素置き換え方法のうち、符号化装置側に対応した一つの方法により色差信号411/420画素置き換えを行う。
【0099】
【発明の効果】
以上説明したように、本発明によれば、第2のコンポーネントフォーマットの入力画像信号が、DVCなど4:1:1コンポーネントフォーマットであり、これをMPEGのような4:2:0コンポーネントフォーマットに再符号化し直す場合、等価的に4:1:0の信号の画素数しか持っていない画像と同じ帯域になってしまうことなく、MPEG出力画像信号の帯域を4:1:1コンポーネントフォーマットと同じ垂直方向の帯域特性をほとんど保持して再生することができる。
【0100】
また、本発明によれば、MPEGなど4:2:0コンポーネントフォーマットを変更して4:1:1コンポーネントフォーマットのDVC符号化を用いているアプリケーションに符号化し直す場合、等価的に4:1:0画像信号の画素数しか持っていない画像と同じ帯域になってしまうことなく、DVC出力画像信号の帯域を4:2:0コンポーネントフォーマットと同じ水平方向の帯域特性を保持して再生することができる。
【0101】
更に、本発明によれば、フレーム相関とフィールド相関のうち、相関の大きな方のピクチャ内での色差信号の画素置き換えを行うようにしているため、圧縮符号化効率を高めることができる。
【図面の簡単な説明】
【図1】本発明の画像圧縮符号化方法の第1及び第2の実施の形態における色差信号画素置き換え方法の説明図である。
【図2】 本発明の画像圧縮符号化方法の第3及び第4の実施の形態における色差信号画素置き換え方法の説明図である。
【図3】 本発明の画像圧縮復号化方法の第1及び第2の実施の形態における色差信号画素置き換え方法の説明図である。
【図4】 本発明の画像圧縮復号化方法の第3及び第4の実施の形態における色差信号画素置き換え方法の説明図である。
【図5】 本発明の圧縮符号化装置の第1の実施の形態のブロック図である。
【図6】 本発明の圧縮復号化装置の第1の実施の形態のブロック図である。
【図7】 本発明の圧縮符号化装置の第2の実施の形態のブロック図である。
【図8】 本発明の圧縮符号化装置の第3の実施の形態のブロック図である。
【図9】 本発明の圧縮復号化装置の第2の実施の形態のブロック図である。
【図10】 本発明の圧縮符号化装置の第4の実施の形態のブロック図である。
【図11】 本発明の圧縮復号化装置の第3の実施の形態のブロック図である。
【図12】MPEG1ビデオストリームピクチャレイヤの一部を示す表である。
【図13】MPEG2トランスポートストリームのシステムレイヤの一部を示す表である。
【図14】4:2:2画像信号、MPEG2の画像信号、MPEG1の画像信号及び4:1:1画像信号の輝度信号と色差信号の各画素位置を説明する図である。
【図15】 MPEG符号化器の一例のブロック図である。
【図16】 MPEG復号化器の一例のブロック図である。
【図17】 4:2:2画像信号、4:2:0画像信号、4:1:1画像信号及び4:1:0画像信号の各画素数概念図である。
【図18】 フレーム相関とフィード相関の判定の説明図である。
【図19】 MPEG2のビデオシンタックスのマクロブロックレイヤを示す図である。
【符号の説明】
41 色差信号411/420フォーマット変換器
42 色差信号411/420画素置き換え器
43 ユーザーインタフェース
44、57 スイッチ回路(S/W)
45、64 MPEG符号化器
46、74 バッファメモリ及びフォーマッタ
47 同期制御部
48 同期信号発生部
49、62 識別コード発生部
50 データ記録部
51 記録媒体
52 バッファメモリ
53 同期信号検出部
54 識別コード検出部
55、68 MPEG復号化器
56 色差信号生成方法判別部
58 色差信号420/411画素置き換え器
59、78 色差信号出力フォーマット変換器
61 フレーム/フィールド相関判定部
71 色差信号420/411フォーマット変換器
72 色差信号420/411画素置き換え器
73 DVC符号化器
77 色差信号411/420画素置き換え器
Claims (5)
- 4:1:1のコンポーネントフォーマットの入力画像信号を一画面に表示したとき、各ライン毎に4画素周期で水平方向に配置される前記入力画像信号中の色差信号の画素のうち、隣接する4ラインを一組としたとき、各組において2番目又は3番目のライン上の前記色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、4番目のライン上の前記色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトすることにより、4:2:0のコンポーネントフォーマットの画像信号中の色差信号が一画面上で表示される画素位置と等価な画素位置へシフトされた画素置き換えを行う第1のステップと、
前記画素置き換えされた画像信号を4:2:0のコンポーネントフォーマットで圧縮符号化する符号化装置により圧縮符号化を行う第2のステップと、
前記圧縮符号化された画像信号を前記4:2:0のコンポーネントフォーマットで復号化する復号化装置により復号化して復号信号を得る第3のステップと、
前記復号信号を一画面に表示したとき、該復号信号中の水平方向に2画素周期で配置される色差信号の画素に対して、前記第1のステップによる画素シフトとは逆の画素シフトを行うことにより、前記4:1:1コンポーネントフォーマットの入力画像信号中の色差信号が一画面上で表示される画素位置と同じ画素位置で表示させる画素置き換えを行う第4のステップと
を含むことを特徴とする圧縮復号化方法。 - 4:1:1のコンポーネントフォーマットの入力画像信号を一画面に表示したとき、水平方向8画素及び垂直方向4画素の隣接する計32画素を一組としたとき、各ライン毎に4画素周期で水平方向に配置され、かつ、各組毎に8つある前記入力画像信号中の色差信号の画素のうち、垂直方向に隣接する4つの色差信号の画素については、2番目又は3番目のライン上にある前記色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、4番目のライン上にある色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、垂直方向に隣接する残りの4つの画素については、1番目のライン上にある色差信号の画素と3番目又は2番目のライン上にある色差信号の画素は右へ2画素それぞれシフトし、かつ、シフト後の色差信号の画素位置に2番目又は3番目のライン上と4番目のライン上にある色差信号の画素をそれぞれ垂直方向にシフトすることを各組毎に行うことにより、4:2:0のコンポーネントフォーマットの画像信号中の色差信号が一画面上で表示される画素位置と等価な画素位置へシフトされた画素置き換えを行う第1のステップと、
前記画素置き換えされた画像信号を4:2:0のコンポーネントフォーマットで圧縮符号化する符号化装置により圧縮符号化を行う第2のステップと、
前記圧縮符号化された画像信号を前記4:2:0のコンポーネントフォーマットで復号化する復号化装置により復号化して復号信号を得る第3のステップと、
前記復号信号を一画面に表示したとき、該復号信号中の水平方向に2画素周期で配置される色差信号の画素に対して、前記第1のステップによる画素シフトとは逆の画素シフトを行うことにより、前記4:1:1コンポーネントフォーマットの入力画像信号中の色差信号が一画面上で表示される画素位置と同じ画素位置で表示させる画素置き換えを行う第4のステップと
を含むことを特徴とする圧縮復号化方法。 - 4:1:1のコンポーネントフォーマットの入力画像信号を一画面に表示したとき、各ライン毎に4画素周期で水平方向に配置される前記入力画像信号中の色差信号の画素のうち、隣接する4ラインを一組としたとき、各組において2番目又は3番目のライン上の前記色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、4番目のライン上の前記色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素 上の位置にシフトすることにより、4:2:0のコンポーネントフォーマットの画像信号中の色差信号が一画面上で表示される画素位置と等価な画素位置へシフトされた画素置き換えを行う第1の画素置き換え器と、
前記第1の画素置き換え器で画素置き換えが行われた画像信号を、前記4:2:0のコンポーネントフォーマットで圧縮符号化する符号化装置と、
前記符号化装置で圧縮符号化された圧縮符号化画像信号を受け、前記4:2:0のコンポーネントフォーマットで復号化して復号信号を出力する復号化器と、
前記復号信号を一画面に表示したとき、該復号信号中の水平方向に2画素周期で配置される色差信号の画素に対して、前記第1のステップによる画素シフトとは逆の画素シフトを行うことにより、前記4:1:1コンポーネントフォーマットの入力画像信号中の色差信号が一画面上で表示される画素位置と同じ画素位置で表示させる画素置き換えをして、前記符号化装置に入力された画像信号と同じ画像信号を出力する第2の画素置き換え器と
を有することを特徴とする圧縮復号化装置。 - 4:1:1のコンポーネントフォーマットの入力画像信号を一画面に表示したとき、水平方向8画素及び垂直方向4画素の隣接する計32画素を一組としたとき、各ライン毎に4画素周期で水平方向に配置され、かつ、各組毎に8つある前記入力画像信号中の色差信号の画素のうち、垂直方向に隣接する4つの色差信号の画素については、2番目又は3番目のライン上にある前記色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、4番目のライン上にある色差信号の画素は、右へ2画素、かつ、垂直方向に1又は2画素上の位置にシフトし、垂直方向に隣接する残りの4つの画素については、1番目のライン上にある色差信号の画素と3番目又は2番目のライン上にある色差信号の画素は右へ2画素それぞれシフトし、かつ、シフト後の色差信号の画素位置に2番目又は3番目のライン上と4番目のライン上にある色差信号の画素をそれぞれ垂直方向にシフトすることを各組毎に行うことにより、4:2:0のコンポーネントフォーマットの画像信号中の色差信号が一画面上で表示される画素位置と等価な画素位置へシフトされた画素置き換えを行う第1の画素置き換え器と、
前記第1の画素置き換え器で画素置き換えが行われた画像信号を、前記4:2:0のコンポーネントフォーマットで圧縮符号化する符号化装置と、
前記符号化装置で圧縮符号化された圧縮符号化画像信号を受け、前記4:2:0のコンポーネントフォーマットで復号化して復号信号を出力する復号化器と、
前記復号信号を一画面に表示したとき、該復号信号中の水平方向に2画素周期で配置される色差信号の画素に対して、前記第1のステップによる画素シフトとは逆の画素シフトを行うことにより、前記4:1:1コンポーネントフォーマットの入力画像信号中の色差信号が一画面上で表示される画素位置と同じ画素位置で表示させる画素置き換えをして、前記符号化装置に入力された画像信号と同じ画像信号を出力する第2の画素置き換え器と
を有することを特徴とする圧縮復号化装置。 - 前記第1の画素置き換え器は、前記4:1:1のコンポーネントフォーマットの入力画像信号から色差信号を分離して第1のメモリに順次に書き込む第1の色差信号記憶手段と、前記入力画像信号を画面に表示したときの各画素のうち、前記入力画像信号中の色差信号の画素の位置が、4:2:0のコンポーネントフォーマットの画像信号中の色差信号が画面上で表示される画素位置と等価な画素位置へシフトされる読み出しアドレス順で前記第1の色差信号記憶手段から色差信号を読み出す第1の読み出し手段と、前記4:1:1のコンポーネントフォーマットの入力画像信号から輝度信号を分離して、その輝度信号と前記第1の読み出し手段により読み出された色差信号とを合成する第1の合成手段とからなり、
前記第2の画素置き換え器は、前記復号信号から色差信号を分離して第2のメモリに順次に書き込む第2の色差信号記憶手段と、前記前記復号信号を画面に表示したときの各画素のうち、該復号信号中の色差信号の画素の位置が、前記4:1:1コンポーネントフォ ーマットの入力画像信号中の色差信号が画面上で表示される画素位置と同じ画素位置へシフトされる読み出しアドレス順で前記第2の色差信号記憶手段から色差信号を読み出す第2の読み出し手段と、前記復号信号から輝度信号を分離して、その輝度信号と前記第2の読み出し手段により読み出された色差信号とを合成する第2の合成手段とからなることを特徴とする請求項3又は4記載の圧縮復号化装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000008756A JP3687458B2 (ja) | 1999-03-17 | 2000-01-18 | 圧縮復号化方法及び圧縮復号化装置 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP7188999 | 1999-03-17 | ||
JP11-71889 | 1999-03-17 | ||
JP2000008756A JP3687458B2 (ja) | 1999-03-17 | 2000-01-18 | 圧縮復号化方法及び圧縮復号化装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000333203A JP2000333203A (ja) | 2000-11-30 |
JP3687458B2 true JP3687458B2 (ja) | 2005-08-24 |
Family
ID=26413007
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000008756A Expired - Fee Related JP3687458B2 (ja) | 1999-03-17 | 2000-01-18 | 圧縮復号化方法及び圧縮復号化装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3687458B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3797209B2 (ja) | 2001-11-30 | 2006-07-12 | ソニー株式会社 | 画像情報符号化方法及び装置、画像情報復号方法及び装置、並びにプログラム |
CN113422961A (zh) * | 2021-07-21 | 2021-09-21 | 杭州当虹科技股份有限公司 | 视频编码方法、视频解码方法、编码器以及解码器 |
-
2000
- 2000-01-18 JP JP2000008756A patent/JP3687458B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000333203A (ja) | 2000-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100231186B1 (ko) | 화상 데이타의 복호화 처리중에 발생되는 양자화 노이즈 감소방법 및 화상 데이타 복호화 장치 | |
JPH04358486A (ja) | 高能率符号化信号処理装置 | |
TW201301901A (zh) | 圖像處理裝置及圖像處理方法 | |
KR19990072968A (ko) | 화상신호처리시스템,디코더,화상신호처리방법,및디코딩방법 | |
TW201215156A (en) | Image decoding device, image encoding device, and method and program thereof | |
JPH08154249A (ja) | 画像再生装置及び画像再生方式 | |
JPH0937243A (ja) | 動画像符号化装置及び復号装置 | |
JPH08336142A (ja) | 画像信号圧縮符号化装置および伸長再生装置 | |
US6614989B1 (en) | Recording and editing HDTV signals | |
JP3687458B2 (ja) | 圧縮復号化方法及び圧縮復号化装置 | |
JP3703088B2 (ja) | 拡張画像符号化装置及び拡張画像復号化装置 | |
TW201440500A (zh) | 影像處理裝置及方法 | |
JP4306035B2 (ja) | 符号化方法、符号化装置およびカメラ装置 | |
JP4200541B2 (ja) | データ変換装置及び方法、信号記録再生装置、並びに再生装置及び方法 | |
JP2004200760A (ja) | 画像処理方法および装置 | |
JP3501521B2 (ja) | ディジタル映像信号再生装置および再生方法 | |
JP2000004440A (ja) | 動画像復号化方法および動画像復号化装置 | |
JP2005518728A (ja) | 画像処理方法及び装置 | |
JPH11289515A (ja) | 画像信号処理装置及び方法、画像信号記録装置及び方法並びに記録媒体 | |
JP3384910B2 (ja) | 撮像装置および画像再生装置 | |
JP3501505B2 (ja) | 画像形成装置及び画像処理装置 | |
JP3785711B2 (ja) | 画像再生装置及び画像再生方法 | |
JPH07107464A (ja) | 画像符号化装置および復号化装置 | |
JP4193252B2 (ja) | 信号処理装置及び方法、信号復号装置、並びに信号符号化装置 | |
JP3147636B2 (ja) | ビデオデータ配列方法並びにその符号化装置及び復号化装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20041105 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041228 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050225 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050517 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050530 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090617 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090617 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100617 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110617 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120617 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |