JP4030591B2 - メモリ管理システムのためのイメージ要素プロセッサ - Google Patents

メモリ管理システムのためのイメージ要素プロセッサ Download PDF

Info

Publication number
JP4030591B2
JP4030591B2 JP52695598A JP52695598A JP4030591B2 JP 4030591 B2 JP4030591 B2 JP 4030591B2 JP 52695598 A JP52695598 A JP 52695598A JP 52695598 A JP52695598 A JP 52695598A JP 4030591 B2 JP4030591 B2 JP 4030591B2
Authority
JP
Japan
Prior art keywords
pixel
data
block
pixel value
decompression unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP52695598A
Other languages
English (en)
Other versions
JP2001506094A (ja
Inventor
ユ,ハオピン.
クラナウェター,グレッグ,アラン.
ラム,ワイ−マン.
Original Assignee
トムソン コンシューマ エレクトロニクス インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by トムソン コンシューマ エレクトロニクス インコーポレイテッド filed Critical トムソン コンシューマ エレクトロニクス インコーポレイテッド
Publication of JP2001506094A publication Critical patent/JP2001506094A/ja
Application granted granted Critical
Publication of JP4030591B2 publication Critical patent/JP4030591B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • H04N19/426Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements using memory downsizing methods
    • H04N19/428Recompression, e.g. by spatial or temporal decimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、デジタルビデオプロセッサに関する。具体的に言うと、本発明は、ブロックベースのイメージプロセッサ内でイメージを表すピクチャ要素(画素)を符号化し、復号するためのシステムに関する。
メモリ管理とメモリ削減は、イメージプロセッサの設計とオペレーションの重要な態様である。例えば、テレビジョンシステムなどの消費者向け製品は、MPEG−2信号処理を含むイメージプロセッサを使用する可能性がある。MPEG(Motion Picture Experts Group)信号圧縮規格(ISO/IEC 13181−2、1994年5月10日)は、特に、さまざまな形態のイメージ処理の中でも高精細度テレビジョン(HDTV)処理を使用する衛星放送、ケーブル放送および地上波放送のシステムと共に使用するために魅力的な、広範囲で受け入れられているイメージ処理規格である。高精細度表示を使用する製品は、表示する前に、復号されたMPEGフレームを一時的にストアするために、96Mビット以上のメモリを必要とする。MPEGプロセッサは、表示用の正確なイメージを再構成するための動き推定および動き補償のためにこれらのフレームを必要とする。
復号されたMPEG情報からイメージを再構成するシステムでは、差分パルス符号変調(DPCM)が使用されるのが典型的である。MPEGデコーダで典型的に使用されるDPCM処理では、プロセッサは次の画素値予想を行なう予測を生成する。合計ネットワーク(summation network)は実際の画素値から予測を減算し差分を得る。この差分は、予測誤差(prediction error)と称し、一般に、元の画素値または予測値より小さいので、元の画素値ではなく差分を量子化しストアすれば、メモリが節約される。Ang et al.,"Video Compressiong Makes Big Gains"、IEEE Spectrum, Oct. 1991には、MPEGエンコーダおよびデコーダが記載されている。
復号中に、逆量子化器は、前に復号された画素から、実質的に同一の予測を再生成する。現画素の復号と再構成には、差分値と予測だけが必要である。予測は、部分的または完全に前の画素に基づくことが繁々であり、前の画素自体は、それに先行する画素から復号され再構成される。このようなプレディクタ(predictor)と、そのオペレーションの詳細については、Jain, A., Fundamentals of Digital Image Processing, Prentice-Hall, Inc., p.484(1989)と、Gonzalez et al., Digital Image Processing, Addison-Wesley Publishing Company, Inc., pp.358-368(1992)とを参照されたい。
イメージブロック圧縮中に、ブロック内の第1画素を正確に表現すると、画素のブロック全体に予測誤差が伝播しなくなる。滑らかな区域(例えば、色や物体などがかすかに変化する表示区域)では、第1画素のノイズ汚染により、視聴者が許容できないアーチファクトが生じる可能性がある。したがって、処理された最初の画素は、メモリにストアされる時に、正確なイメージ再構成を保証できるだけのビット数によって表現されなければならない。
ハードウェアおよびソフトウェア要件を削減することにより、再構成されたデータにエラーがなく、メモリが節約されることになるが、本発明者は、このようなハードウェア要件およびソフトウェア要件をデータ削減システムに提供し得ることを確認している。
本発明の原理によれば、「第1画素」プロセッサにより、画素ブロックの予め定めた画素が画素ブロックパラメータの関数として再圧織される。
本発明の開示される実施の形態では、テレビジョン受信機にMPEGデコーダが含まれている。データ削減ネットワークはメモリにストアする前にデータを量子化するものであるが、このデータ削減ネットワークに、MPEG復号された信号が供給される。このデータ削減ネットワークはいわゆる第1画素プロセッサを使用しているが、この第1画素プロセッサにより、画素ブロックの基準画素が画素ブロック最小値の関数として圧縮(量子化)される。圧縮解除された後は、再構成された基準画素の値が第1画素プロセッサによる符号化前の値と実質的に等しい。したがって、イメージデータブロック内の量子化された他の画素を再構成しても、再構成された画素ブロック全体に重大な誤差が伝播される懸念はないので、この基準画素をプレディクタネットワークで使用することができる。
【図面の簡単な説明】
図1は本発明による装置を含む画素ブロックプロセッサのブロック図である。
図2は図1のシステムのエンコーダ部分のメモリストア前を詳細に示す図である。
図3は基準画素符号化処理の流れ図である。
図4は図1のシステムのデコーダ部分のメモリストア後を示す図である。
図5は基準画素復号処理の流れ図である。
図6は本発明を採用したMPEG互換のテレビジョンシステムのブロック図である。
図1では、MPEGデコーダがMPEG復号された画素データのブロックを圧縮ユニット12に供給している。圧縮ユニット12には、プレディクタ18と、量子化器20と、コンバイナ22が含まれている。プレディクタ18は、例えば、Jain, A., Fundamentals of Digital Image Processing, Prentice-Hall, Inc.,p.484(1989)に記載されているタイプのものでもよい。
量子化器20は画素ブロック値を量子化し、データを減らされた画素ブロックをメモリ14に供給する。表示プロセッサ(図示せず)が、イメージ表示のためにメモリ14内の減らされたデータブロックにアクセスする時には、圧縮解除ユニット16が、元の画素ブロックを再構成する。圧縮解除ユニット16には、メモリ14から減らされたデータを取り出し、減らされたデータブロックを再構成するために、プレディクタ24と逆量子化器26が含まれている。量子化器20と逆量子化器26は、これから説明する本発明の原理に従って配置されている。プレディクタ24はプレディクタ18と同一のタイプである。
MPEGデコーダからの画素ブロックは、圧縮ユニット12により入力端子10を介して受け取られる。このMPEGデコーダは図6に関連して後程説明する。この画素ブロックは空間領域内にあり、例えばイメージ画素の8×8ブロックが含まれている。入力端子10から、画素ブロックデータがコンバイナ22の非反転入力端子に供給され量子化器20に供給される。プレディクタ18の出力端子から、画素予測データがコンバイナ22の反転入力端子に供給され量子化器20に供給されている。コンバイナ22では、その反転入力端子と非反転入力端子からの信号が合成され、得られた差分が量子化器20に供給される。量子化器20は量子化された画素値をプレディクタ18に出力する。量子化器20は、メモリ14にストアするため、量子化された画素差分値も出力する。
図2は量子化器20を詳細に示す。図2において、図1と図2に共通する要素は同一符号を付してある。具体的に言うと、量子化器20には、第1画素エンコーダ30と、マルチプレクサ32と、量子化器プロセッサ28が含まれている。入力端子10から、ブロック画素データが第1画素エンコーダ30に供給される。第1画素エンコーダ30は画素ブロックの予め定めた基準画素に対してオペレートする。用語「第1画素」は特定の好ましい画素位置を具体的に指すものではない。「第1画素」は、画素ブロックの中の、画素ブロックを再構成するためにプレディクタで最初に使用されることになる画素を指す。したがって、この画素は、プレディクタを採用して圧縮ネットワークによりその後に再構成される全画素に対して、基準画素になる。
第1画素エンコーダ30は2つの主要な機能を有する。最も重要な機能は、基準画素を量子化する機能である。第2の機能は、基準画素の量子化された値を表現するのに必要なビット数を減らして、メモリ14のストア要件を減らすことである。これらの機能については後で説明する。基準画素の量子化が可逆(lossless)または可逆に近い場合には、その基準画素は、メモリ14から取り出し、わずかに誤差を有するか、誤差なしで再構成して、量子化されたブロックの残りの画素のための予測値として使用することができる。正確な予測値を、最初に、予測処理において使用することによって、予測バイアス誤差が、再構成される画素ブロック全体に伝播しなくなる。
量子化された基準画素をストアするのに必要なビット数を減らせば、メモリ14のサイズとコストが減る。この例では、量子化された基準画素の表現に必要なビット数が、第1画素エンコーダ30により1ビットから5ビットだけ減らされる。この減らされたビット数は、32,600個を超える8×8画素ブロックを含むことができる高精細度テレビジョンイメージフレームのコンテキストで考えると、多くないように思えるが、この減らされたビットのおかげで、メモリが大幅に節約された。このようにメモリが大幅に節約されたことは、製造業者によって製造されたテレビジョン受信機の台数を考えてみても、さらに大きな意味がある。
基準画素値を正確に表現することと、基準画素を含む全画素をできる限り少ないビット数で表現することとは、潜在的に衝突がある。メモリが50%削減されれば、メモリが節約されたことは明らかに分かることである。これは、8ビット画素語が4ビットに圧縮されることを意味する。基準画素を4ビットで表現すると、予測処理中にかなりの誤差が生じる可能性がある。基準画素を正確に表現することは、予測処理の先頭では重要なことであるから、残りの画素を表現するのに、必要ならば、使用される平均ビット数より多いビットを使用することは、意味がある。したがって、基準画素に関連する精度に比べれば、メモリを削減することは二次的なことである。
あるブロック内の残りの画素に対しては、メモリを削減することが1画素の精度よりも重要である。第1画素エンコーダ30は、処理される各画素を、3ビットないし7ビットまでを含む語として表現することができる。所与の放送信号のイメージフレームをストアするのに実際に使用されるフレームメモリの量を決定しようとすることは、ランダムさが伴うので、実行不可能なことである。そこで、第1画素エンコーダ30が全画素を処理するのであれば、メモリは、第1画素エンコーダ30によって処理される各画素の最大語長(7ビット)を格納する必要がある。
第1画素エンコーダ30は量子化器プロセッサ28から最小ブロック画素値を受け取る。量子化器プロセッサ28はコンバイナ22とプレディクタ18から画素差分データを受け取って、量子化されたデータをプレディクタ18に送る。量子化器プロセッサ28と第1画素エンコーダ30の両方が、量子化されたデータをマルチプレクサ32に送る。マルチプレクサ32は順序付けされ(sequenced)量子化されたデータをメモリ14(図1)に送る。このことは後程説明する。
図3は第1画素エンコーダ30によって実行される第1画素符号化処理の流れ図である。ステップ31で、第1画素エンコーダ30は入力端子10からの元の第1画素値(X0)を処理し、量子化器プロセッサ28からの量子化された最小画素ブロック値(Qmin)を処理して、量子化された第1画素値(QX0)を生成する。ステップ31は次式に従ってオペレートする。
QX0=(X0−Qmin)/2 (1)
MPEGデコーダから入力端子10(図1)を介して受け取った画素値は、整数である。そこで、量子化器20と第1画素エンコーダ30は、整数を表すデータであってQX0を含むデータを受け取り出力する。整数を使用すると、要素間でデータを高速転送することができ、プロセッサ内の処理を高速化することができ、ハードウェアおよびソフトウェアの複雑さを低減させることができるという利点がある。X0は、MPEG復号された信号から第1画素エンコーダ30によって受け取られた時は、整数であるので、データはX0−Qminが奇数の場合にのみ失われる。奇数を2で割って得られる剰余は、必ず0.5である。当該システムが整数部のみをストアすれば、剰余は失われるので、その剰余を使用してイメージの再構成ができなくなる。
第1画素エンコーダ30が2による除算を行う理由は、2という除数が、除算して得られた整数部を表現するのに必要なピクセル数を直ちに1つ減らすからである。大きい除数を使用すればする程、節約されるビット数が増えるが、誤差も大きくなる。2で除算したときに観察されたことであるが、表示イメージは上述した圧縮技法によって実質的に影響を受けなかった。
ステップ33では、第1画素を符号化することにより、元の8ビット画素が1ビットないし5ビットだけ減らされる。符号化された第1画素を表現するのに何ビット使用するかは、量子化された範囲QRの値に依存して決定される。量子化器プロセッサ28(図2)は次式を使用してQRを計算する。
QR=Qmax−Qmin+1 (2)
ここで、Qmaxは量子化された画素ブロック内の最大値を表す。量子化範囲QRが選択されるのは、符号化された第1画素の値を表現するために割り当てられたビット数を設定するための標識としてである。というのは、符号化された第1画素の値を表現するのに必要なビット数が量子化範囲の値を表現するのに必要なビット数より少ないからである。このことをこれから説明する。
量子化器プロセッサ28により、元の画素ブロック最小値未満の量子化された最小値と、元の画素ブロック最大値を超える量子化された最大値が生成される。そこで、次の関係が成立する。
min≦X0≦Qmax (3)
ここで、X0は現在処理されている画素ブロック内の任意の画素の値を表す。式(3)は、式(2)を用いると次式のようになる。
min≦X0≦Qmin+QR−1 (4)
式(4)の3つの辺からそれぞれQminを引くと、次式が得られる。
0≦X0−Qmin≦QR−1 (5)
符号化された第1画素QX0はX0−Qminの1/2に等しい(式(1)参照)から、QX0をメモリ14に(2進数で)ストアするのに必要なビット数は、量子化された範囲QRの必要とするビット数より1ビット少ない。そこで、量子化器プロセッサ28は、符号化された第1画素値を表現しストアするのに必要な語サイズを決定する時は、QRを表現するのに必要なビット数より1ビット少ない数を割り当てる。
図3の説明に戻る。第1画素エンコーダ30は、まず、ステップ31で、QX0を8ビット語として生成する。ステップ33で、第1画素エンコーダ30はQX0を現在の範囲に適当なビット数によってマスクし、所望のビットをマルチプレクサ32に転送する。ステップ33でQX0をマスクして得られたビットは、マルチプレクサ32に送られ、マルチプレクサ32には、QX0がメモリ14に転送されるまで保持される。このオペレーションの制御とタイミングは図6を参照して説明する。
図4は第1画素デコーダ38と、デマルチプレクサ34と、逆量子化プロセッサ36の逆量子化器26での配置を示す。デマルチプレクサ34はメモリ14からのデータを第1画素デコーダ38と逆量子化プロセッサ36に送る。第1画素デコーダ38は符号化された第1画素値をデマルチプレクサ34から受け取り、最小ブロック画素値を逆量子化プロセッサ36から受け取る。第1画素デコーダ38は第1画素を復号して量子化された値にする。この量子化された値は、MPEG復号された信号から入力端子10(図1)に供給される。この再構成された第1画素はデータバスを介して利用回路に送られるが、逆量子化プロセッサ36からの画素ブロックが有する他の再構成された画素も、データバスを介して利用回路に送られる。
逆量子化プロセッサ36はプレディクタ24(図1)から予測データを受け取り、デマルチプレクサ34から他の量子化された画素値を受け取る。逆量子化プロセッサ36は入力端子10(図1)に供給された元のビット毎画素サイズと一致するように残りの画素ブロック値を再構成し、再構成された値を出力する。ローカルマイクロコントローラによるタイミング制御によって、第1画素デコーダ38からの復号された基準画素と逆量子化プロセッサ36からの再構成された画素データが、表示プロセッサが必要とする適当な時刻に、バス上に現れる。これを図6に示す。
DPCM予測ネットワーク内では、プレディクタ24のようなプレディクタによって使用される最初のデータ点の精度は、このDPCM予測ネットワークによって、データブロックのために、その後に生成される全てのデータの精度にとって、非常に重要である。
このデータブロック内の各データ点は前のデータ点に基づいて予測ネットワークによって生成される。逆量子化されたデータは前のデータ点と現在のデータ点の差分を表す。この差分が、再構成中、再構成された前のデータ点に加算され、現在のデータ点が得られる。そこで、最初のデータ点に存在する誤差は、同一ブロック内の後続データ点にとって、予測誤差として伝播することになる。
図5は第1画素の復号処理の流れ図である。ステップ35で、第1画素デコーダ38は、次式に従って復号オペレーションを行なう。
RX0=2QX0+Qmin (6)
ここで、RX0は復号される第1画素値を表す。QX0およびQminは、式(1)と同一のものである。
式(6)の表すオペレーションは、式(1)の表すオペレーションの逆になる。式(1)のオペレーションは2の割算であり、式(6)のオペレーションは2の乗算である。第1画素デコーダ38は、復号中に、符号化された第1画素に2をかけるので、再構成された第1画素値の最大誤差は、数値的には元の第1画素の値より1つ小さい。このことはX0−Qminが奇数の場合だけに生じる。というのは、第1画素エンコーダ30による符号化処理では、第1画素エンコーダ30により画素値の整数部だけが保持されるからである。X0−Qminが偶数の場合には、復号された第1画素値は元の第1画素値と等しい。
ステップ35で、復号された第1画素値RX0が第1画素デコーダ38により計算され、その後、表示プロセッサが必要とする画素語サイズにするため、ステップ37で、RX0の先頭に0をパディングする。一般に、この画素語サイズは8ビットである。ステップ37で、第1画素デコーダ38は、RX0が8ビット語になるまで、RX0の最上位ビットの左側に、0を追加する。値に誤差が生じないようにするため、このオペレーションで追加されるビットは、全て、0である。再構成された第1画素値RX0は表示プロセッサに出力される。
圧縮ユニット12と圧縮解除ユニット16のオペレーションは、互いに逆であるので、システムのアーキテクチャと構成が簡略化される。また、ステップ31の第1画素エンコーダ30と、ステップ35の第1画素デコーダ38も、互いに逆のオペレーションを採用している。このオペレーションは、簡単なビットシフトを、周知のビットシフト技法を使用してインプリメントすることができるものである。
図1を再び説明する。メモリ14は、符号化された第1画素値を、画素の再構成と表示のために必要でなくなるまで、ストアしておく。符号化された第1画素がメモリ14に駐在する間、この符号化された第1画素は、後段の表示プロセッサにより圧縮解除ユニット16を介してアクセスし復号することができる。圧縮ユニット12と圧縮解除ユニット16は共通のIC(integrated circuit)になっている。メモリ14は、有利なことに、このICの外部にあるため、メモリ14のサイズは、特定のシステムの信号処理要件に応じて、選択することができる。そうすると、製造コストが節約される。例えば、低コストの民生用テレビジョン受信機で、MPEGデコーダ用のフレームメモリがより少ない低解像度表示を使用することにより、製造コストが節約される。
図6はテレビジョン受信器の実用的なデジタル信号処理システムの一部であって、既に説明した本発明による装置を含むものを示す。図6のデジタルテレビジョンシステムは敢えて詳細に図示せず簡略化してある。図示しなかったのは、例えば、種々の要素に関連するFIFO入出力バッファと、リード/ライト制御と、クロックジェネレータネットワークと、EDO(extended data out)タイプまたはSDRAM(synchronous dynamic RAM)タイプが可能な外部メモリへのインターフェース用の制御信号である。
図1と図6に共通する要素には、同一の符号が付してある。信号プロセッサ72の要素は、動き補償ユニット70を除いて、SGS-Thomson Microelectronics社製の市販品であるSTi 3500A MPEG-2/CCIR 600 Video Decoder IC内の要素に相当するものである。動き補償ユニット70としては、SGS-Thomson Microelectronics社製のSTi 3220 Motion Estimator ProcessorICを使用することができる。
ようするに、図6のシステムには、マイクロプロセッサ40が含まれ、内部制御バス46に結合されたバスインタフェースユニット42およびコントローラ44が含まれている。この例では、マイクロプロセッサ40は、MPEGデコーダである信号プロセッサ72を含むICの外部に配置してある。192ビット幅の内部メモリバス48は、圧縮ユニット12と、類似した圧縮解除ユニット16および50と、外部フレームメモリであるメモリ14との間のデータの通路である。圧縮ユニット12と、圧縮解除ユニット16および50は、イネーブル制御信号と共に、コントローラ44を介してマイクロプロセッサ40から圧縮係数制御信号と圧縮解除係数制御信号を受け取る。マイクロプロセッサ40は、MPEG復号処理および表示処理のために、メモリ14は、フレームストアセクションと、バッファセクションと、オンスクリーン表示ビットマップセクションとに区分してある。図6には、ローカル制御ユニット52も含まれている。ローカル制御ユニット52はRequest入力を受け取り、Acknowledge出力およびメモリのAddress出力と、Read Enable出力およびWrite Enable出力とを供給している。ローカルメモリ制御ユニット52はメモリ14を制御するためのアドレス信号および制御信号をリアルタイムで生成する。ローカルメモリ制御ユニット52は、図示しないローカルクロックジェネレータからの入力クロック信号Clock Inに応答して、出力クロック信号Clock InおよびClock Outも供給する。マイクロプロセッサ40は、MPEG復号と、表示処理と、オンスクリーン表示マップのために、メモリ14を、ビットバッファと、ビデオフレームストアセクションと、フレームストアバッファとに区分している。
イメージ再現表示装置56により表示するため、圧縮解除されたイメージのフォーマットを所定の共通フォーマットに変換する必要があれば、表示プロセッサ54には、水平再サンプリングフィルタおよび垂直再サンプリングフィルタが含まれる。例えば、このシステムは、フォーマット、例えば、525ラインインタレースか、1125ラインインタレースか、720ラインプログレッシブスキャンに対応するイメージシーケンスを受け取り、復号することができる。テレビジョン受信機は、おそらく、全ての受信機フォーマットに対する共通の表示フォーマットを使用することになる。
外部インタフェースネットワーク58は、MPEGデコーダによって処理される入力圧縮ビデオデータを運ぶ上に、MPEGデコーダとマイクロプロセッサ40の間で制御情報と設定情報を運ぶ。MPEGデコーダシステムはコプロセッサ、すなわち、マイクロプロセッサ40用のプロセッサに類似している。例えば、マイクロプロセッサ40は復号されるフレームごとに復号コマンドをMPEGデコーダに発行する。MPEGデコーダは関連するヘッダ情報を突き止める。突き止められたヘッダ情報をマイクロプロセッサ40により読み取られる。マイクロプロセッサ40は、この読み取った情報を用いて、MPEGデコーダを構成するためのデータ、例えば、フレームの種類、量子化マトリックスなどに関するデータを発行する。その後、MPEGデコーダは適当な復号コマンドを発行する。上述したSGS-Thomson STi 3500A and 3220ICデバイスの技術仕様資料には、このようなMPEGデコーダのオペレーションに関する追加情報が用意されている。
マルチプレクサ32(図2)およびデマルチプレクサ34(図4)のオペレーションを制御し、必要に応じて、圧縮ユニット12と、圧縮解除ユニット16,50の圧縮係数/圧縮解除係数を確立するために、受信機の製造業者によってプログラムされたマイクロプロセッサ40により、モード制御データがローカルメモリ制御ユニット52に渡される。この開示されたシステムでは、種々のデジタルデータ処理方式、例えば、地上波放送システムと、ケーブル伝送システムと、衛星伝送システムとに関連させることができるようなデジタルデータ処理方式のコンテキストで、MPEG仕様の全てのProfile(プロファイル)および全てのLevel(レベル)と共に、使用することができる。
図6はテレビジョン受信機に見られるデジタルビデオ信号プロセッサであって、高精細度ビデオ入力信号を処理するための信号プロセッサ72の一部も示す。信号プロセッサ72には、慣用のMPEGデコーダが含まれている。このMPEGデコーダはバッファ60と、可変長デコーダ(VLD)62と、逆量子化器64と、離散コサイン変換ユニット(DCT)66と、加算器68と、動き補償ユニット70と、メモリ14とによって構成されている。Ang et al.“Video Compresson Makes Big Gains,”IEEE Spectrum, October 1991には、MPEGエンコーダおよびデコーダのオペレーションの例が記載されている。
信号プロセッサ72は前段の入力プロセッサ(図示しない)、例えば、入力信号復調の後にデータパケットを分離するトランスポートデコーダから、MPEG符号化され制御されたデータストリームを受け取る。この例では、受け取られる入力データストリームは、米国の高精細度地上波テレビジョン放送システム用のGrand Alliance仕様で指定された高精細度イメージ素材(1920×1088画素)を表している。この入力データストリームは8×8画素を表すデータブロックの形式になっている。このデータブロックは、圧縮され符号化されたイントラフレーム情報とインタフレーム情報を表す。イントラフレーム情報には、Iフレームアンカフレームが含まれている。一般に、インタフレーム情報には、隣接するピクチャフレーム間のイメージ差分を表す予測動き符号化されたレシデュアル(redidual)情報が含まれている。インタフレーム動き符号化では、処理中の現ブロックと前に再構成されたフレーム内のブロックとの間のオフセットを表す動きベクトルが生成される。現ブロックと前のブロックの間の最適一致を表す動きベクトルが、符号化され、送出される。また、動き補償された8×8ブロックのそれぞれと前に再構成されたブロックの間の差(レシデュアル)は、送出の前に離散コサイン変換(DCT)され、量子化され、可変長符号化(VLC)される。上記のAng et alを含む種々の刊行物には、動き補償符号化処理がより詳細に記載されている。
バッファ60は、VLD62による可変長復号の前に、入力圧縮画素データブロックを受け入れる。バッファ60は、メインレベル、メインプロファイルMPEGデータストリームの場合に、1.75Mビットの記憶容量を示す。逆量子化器64とDCT66は、VLD62からの復号された圧縮データを圧縮解除する。DCT66からの出力データは、加算器68の入力の1つに結合される。
円滑なデータの流れを保証するため、バッファ60からの信号によって、逆量子化器64の量子化ステップサイズが制御される。VLD62は復号された動きベクトルを動き補償ユニット70に供給する。このことは後程説明する。VLD62は周知のインターフレーム/イントラフレームモード選択制御信号も生成する(図を簡単にするために図示せず)。VLD62と、逆量子化器64と、DCT66によって実行されるオペレーションは、送信器の側に配置されるエンコーダの対応するオペレーションとは逆のオペレーションである。
DCT66からのレシデュアルイメージデータを、動き補償ユニット70の出力から供給される予測イメージデータと合計することによって、加算器68は、フレームメモリ14の内容に基づいて、再構成された画素を提供する。信号プロセッサ72が画素ブロックのフレーム全体を処理し終えると、フレームメモリ14には、再構成して得られたイメージがストアされる。インタフレームモードでは、VLD62から得られた動きベクトルにより、動き補償ユニット70からの予測されたブロックの位置が提供される。
加算器68と、メモリ14と、動き補償ユニット70とを使用するイメージ再構成処理では、有利なことに、メモリ14にデータがストアされる前に圧縮ユニット12が使用されることから、メモリ要件はかなり緩やかなものになる。メモリ14のサイズは、例えば、50%圧縮係数を使用する時には、50%まで削減することができる。圧縮解除ユニット50は圧縮ユニット12と逆の機能を実行するものであって、既に説明した圧縮解除ユニット16に類似するものである。圧縮ユニット12と、圧縮解除ユニット16および50との構成は、図1と、図2と、図4と、図5に図示してあって、それらの構成は既に説明した本発明の原理に従って行われる。

Claims (18)

  1. 圧縮されたイメージを表す画素ブロック群からなるデータストリームを処理するシステムにおいて、
    前記画素ブロックを圧縮解除して、圧縮解除されたデータを生成する第1圧縮解除ユニット(62〜66)と、
    その後に再構成される画素ブロックの諸画素に対しその基準となる基準画素を含む前記圧縮解除されたデータを、予め定めた画素ブロックパラメータの関数としての再圧縮データへと再圧縮する圧縮ユニット(12)と、
    前記再圧縮データをストアするためのメモリ(14)とを備え、
    前記圧縮ユニット(12)は、次式
    QX 0 =(X 0 −Q min )/2
    (ただし、QX 0 は量子化された基準画素値、X 0 は基準画素値、Q min は量子化された最小画素値である)に従って前記基準画素を量子化する
    ことを特徴とするシステム。
  2. 請求項1において、
    本システムは、再圧縮中に、最初に使用される前記基準画素に応じて前記画素ブロックのその他の画素の予測処理を行う第1画素予測ネットワーク(18)をさらに含む
    ことを特徴とするシステム。
  3. 請求項1において、前記画素ブロックパラメータは、最小画素値か、最大画素値か、基準画素値か、画素値の範囲か、平均ブロック画素値および中央ブロック画素値を含むパラメータのうちの少なくとも1つから選択されることを特徴とするシステム。
  4. 請求項2において、前記画素ブロックパラメータは最小画素値であることを特徴とするシステム。
  5. 請求項1において、
    前記メモリからの再圧縮されたデータであって前記画素ブロックパラメータの関数としてのデータを圧縮解除する第2圧縮解除ユニット(16)と、
    前記第2圧縮解除ユニット(16)によって圧縮解除されたデータを処理するための表示プロセッサ(54)を含む出力ネットワーク(54、56)と
    をさらに備えたことを特徴とするシステム。
  6. 請求項において、前記圧縮ユニット(12)および前記第2圧縮解除ユニット(16)は、相互に逆のオペレーション特性を示すことを特徴とするシステム。
  7. 請求項5において、
    前記再圧縮されたデータを圧縮解除する第3圧縮解除ユニット(50)と、
    前記第3圧縮解除ユニットからの圧縮解除されたデータに応答して動き補償されたデータを供給する動き補償システム(70)と
    をさらに備えたことを特徴とするシステム。
  8. イメージフレームを構成するMPEG圧縮された画素ブロックを含むイメージ情報のデータストリームを処理するシステムであって、前記画素ブロックの各々が画素ブロックパラメータを有する、そのような請求項1のシステムにおいて
    前記第1圧縮解除ユニット(62〜66)は、前記MPEG圧縮された画素ブロック群を含むイメージ情報のデータストリームを圧縮解除して圧縮解除された画素ブロックデータにするものであり
    前記メモリは、フレームメモリであ
    ことを特徴とするシステム。
  9. 請求項8において、
    本システムは、再圧縮中に、最初に使用される前記基準画素に応じて前記画素ブロックのその他の画素の予測処理を行う第1画素予測ネットワーク(18)をさらに含む
    ことを特徴とするシステム
  10. 請求項9において、前記圧縮ユニット(12)は、
    前記基準画素を処理する第1データ削減ネットワーク(30)と、
    前記画素ブロックの他の画素を処理する第2データ削減ネットワーク(28)と
    をさらに備えたことを特徴とするシステム。
  11. 請求項10において、前記第1データ削減ネットワーク(30)および前記第2データ削減ネットワーク(28)は、量子化器であることを特徴とするシステム。
  12. 請求項9において、
    前記フレームメモリ(14)からの再圧縮されたデータであって前記画素ブロックパラメータの関数としてデータを圧縮解除する第2圧縮解除ユニット(16)と、
    前記第2圧縮解除ユニット(16)によって圧縮解除されたデータを処理するための表示プロセッサ(54)を含む出力ネットワーク(54、56)と
    をさらに備えたことを特徴とするシステム。
  13. 請求項12において、
    本システムは、圧縮解除中に、最初に使用される前記基準画素に応じて前記画素ブロックのその他の素の予測処理を行う第2画素予測ネットワーク(24)をさらに含む
    ことを特徴とするシステム。
  14. 請求項13において、前記第2圧縮解除ユニット(16)は、
    前記基準画素を処理する第1データ再構成ネットワーク(38)と、
    前記画素ブロックの他の画素を処理する第2データ再構成ネットワーク(36)と
    をさらに備えたことを特徴とするシステム。
  15. 請求項12において、前記圧縮ユニット(12)および前記第2圧縮解除ユニット(16)は、相互に逆のオペレーション特性を示すことを特徴とするシステム。
  16. 請求項9において、前記画素ブロックパラメータが最小画素値であることを特徴とするシステム。
  17. 請求項において、前記画素ブロックパラメータは、最小画素値か、最大画素値か、基準画素値か、画素値の範囲か、平均ブロック画素値および中央ブロック画素値を含むパラメータのうちの少なくとも1つから選択されることを特徴とするシステム。
  18. 請求項12において、
    前記再圧縮されたデータを圧縮解除する第3圧縮解除ユニット(50)と、
    前記第3圧縮解除ユニットからの圧縮解除されたデータに応答して、動き補償されたデータを供給する動き補償システム(70)と
    をさらに備えたことを特徴とするシステム。
JP52695598A 1996-12-12 1997-12-08 メモリ管理システムのためのイメージ要素プロセッサ Expired - Lifetime JP4030591B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US08/764,454 1996-12-12
US08/764,454 US5844608A (en) 1996-12-12 1996-12-12 Picture element processor for a memory management system
PCT/US1997/022739 WO1998026606A1 (en) 1996-12-12 1997-12-08 Image element processor for a memory management system using recompression

Publications (2)

Publication Number Publication Date
JP2001506094A JP2001506094A (ja) 2001-05-08
JP4030591B2 true JP4030591B2 (ja) 2008-01-09

Family

ID=25070774

Family Applications (1)

Application Number Title Priority Date Filing Date
JP52695598A Expired - Lifetime JP4030591B2 (ja) 1996-12-12 1997-12-08 メモリ管理システムのためのイメージ要素プロセッサ

Country Status (9)

Country Link
US (1) US5844608A (ja)
EP (1) EP0945026B1 (ja)
JP (1) JP4030591B2 (ja)
KR (1) KR100566826B1 (ja)
CN (1) CN1137584C (ja)
AU (1) AU5696498A (ja)
DE (1) DE69719069T2 (ja)
MY (1) MY114931A (ja)
WO (1) WO1998026606A1 (ja)

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69614500T2 (de) * 1996-02-27 2001-11-22 St Microelectronics Srl Speicherverminderung für das Grundprofil und die Hauptebene eines MPEG-2-Dekoders
EP0817498B1 (en) * 1996-06-28 2001-08-22 STMicroelectronics S.r.l. MPEG-2 decoding with a reduced RAM requisite by ADPCM recompression before storing MPEG-2 decompressed data optionally after a subsampling algorithm
US6028635A (en) 1996-12-03 2000-02-22 Stmicroelectronics, Inc. Reducing the memory required for decompression by storing compressed information using DCT based techniques
US6256347B1 (en) * 1996-12-17 2001-07-03 Thomson Licensing S.A. Pixel block compression apparatus in an image processing system
KR100273110B1 (ko) * 1997-02-26 2000-12-01 윤종용 엠펙 시스템 디코더 및 이 디코더의 데이터 처리 방법
TW341018B (en) * 1997-09-23 1998-09-21 Winbond Electronics Corp The compress and de-compress apparatus for video signal and its method
US6914893B2 (en) 1998-06-22 2005-07-05 Statsignal Ipc, Llc System and method for monitoring and controlling remote devices
US6731295B1 (en) 1998-11-09 2004-05-04 Broadcom Corporation Graphics display system with window descriptors
US6661422B1 (en) 1998-11-09 2003-12-09 Broadcom Corporation Video and graphics system with MPEG specific data transfer commands
US6853385B1 (en) 1999-11-09 2005-02-08 Broadcom Corporation Video, audio and graphics decode, composite and display system
US6798420B1 (en) 1998-11-09 2004-09-28 Broadcom Corporation Video and graphics system with a single-port RAM
US6573905B1 (en) 1999-11-09 2003-06-03 Broadcom Corporation Video and graphics system with parallel processing of graphics windows
US6636222B1 (en) 1999-11-09 2003-10-21 Broadcom Corporation Video and graphics system with an MPEG video decoder for concurrent multi-row decoding
US6768774B1 (en) 1998-11-09 2004-07-27 Broadcom Corporation Video and graphics system with video scaling
US7446774B1 (en) 1998-11-09 2008-11-04 Broadcom Corporation Video and graphics system with an integrated system bridge controller
US7982740B2 (en) 1998-11-09 2011-07-19 Broadcom Corporation Low resolution graphics mode support using window descriptors
JP3775461B2 (ja) * 1998-12-03 2006-05-17 セイコーエプソン株式会社 印字装置、その印字方法及び記録媒体
US6154155A (en) * 1999-03-08 2000-11-28 General Electric Company General frame-based compression method
FR2800550B1 (fr) * 1999-11-03 2002-05-31 St Microelectronics Sa Circuit de decodage mpeg et d'affichage d'images et d'images incrustees
US9668011B2 (en) 2001-02-05 2017-05-30 Avago Technologies General Ip (Singapore) Pte. Ltd. Single chip set-top box system
US6538656B1 (en) 1999-11-09 2003-03-25 Broadcom Corporation Video and graphics system with a data transport processor
US8913667B2 (en) 1999-11-09 2014-12-16 Broadcom Corporation Video decoding system having a programmable variable-length decoder
JP2002118853A (ja) * 2000-08-04 2002-04-19 Matsushita Electric Ind Co Ltd 画像復号装置及び画像復号方法
US6983017B2 (en) * 2001-08-20 2006-01-03 Broadcom Corporation Method and apparatus for implementing reduced memory mode for high-definition television
JP4065503B2 (ja) * 2001-08-21 2008-03-26 キヤノン株式会社 画像処理装置、画像入出力装置、変倍処理方法、及びメモリ制御方法
US7667710B2 (en) * 2003-04-25 2010-02-23 Broadcom Corporation Graphics display system with line buffer control scheme
US8063916B2 (en) 2003-10-22 2011-11-22 Broadcom Corporation Graphics layer reduction for video composition
GB2485613B (en) * 2010-11-22 2014-08-13 Displaylink Uk Ltd Display control device
KR101763113B1 (ko) * 2010-12-06 2017-08-01 에스케이 텔레콤주식회사 노이즈성분을 위한 공간영역에서의 영상 부호화/복호화 방법 및 장치
JPWO2012140904A1 (ja) 2011-04-15 2014-07-28 パナソニック株式会社 画像圧縮装置、画像圧縮方法、集積回路、プログラムおよび映像表示装置
US9892707B2 (en) 2013-03-14 2018-02-13 Displaylink (Uk) Limited Decompressing stored display data every frame refresh
JP2015053590A (ja) * 2013-09-06 2015-03-19 三星ディスプレイ株式會社Samsung Display Co.,Ltd. 画像符号化装置および画像符号化方法
CN107295349A (zh) * 2016-03-31 2017-10-24 晨星半导体股份有限公司 视频串流解码方法及视频串流解码***

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4541008A (en) * 1982-12-27 1985-09-10 Jones Futura Foundation, Ltd. Television signal bandwidth reduction using variable rate transmission
US4858026A (en) * 1986-04-14 1989-08-15 U.S. Philips Corporation Image display
US5086487A (en) * 1988-11-24 1992-02-04 Canon Kabushiki Kaisha Method and apparatus for image encoding in which reference pixels for predictive encoding can be selected based on image size
JPH02177766A (ja) * 1988-12-28 1990-07-10 Canon Inc 2値画像の階層的符号化方式
US5121216A (en) * 1989-07-19 1992-06-09 Bell Communications Research Adaptive transform coding of still images
US5396567A (en) * 1990-11-16 1995-03-07 Siemens Aktiengesellschaft Process for adaptive quantization for the purpose of data reduction in the transmission of digital images
JPH04185172A (ja) * 1990-11-20 1992-07-02 Matsushita Electric Ind Co Ltd ディジタル画像信号の高能率符号化装置
US5614952A (en) * 1994-10-11 1997-03-25 Hitachi America, Ltd. Digital video decoder for decoding digital high definition and/or digital standard definition television signals
EP0687111B1 (de) * 1994-06-06 2003-08-06 sci worx GmbH Verfahren zur Codierung/Decodierung eines Datenstroms
US5708473A (en) * 1994-08-30 1998-01-13 Hughes Aircraft Company Two stage video film compression method and system
EP0743794A3 (en) * 1995-05-16 1998-06-03 Canon Kabushiki Kaisha Image encoding apparatus and method
EP0778709B1 (en) * 1995-12-04 2001-05-23 STMicroelectronics S.r.l. MPEG-2 decoding with a reduced RAM requisite by ADPCM recompression before storing MPEG decompressed data
US5847762A (en) * 1995-12-27 1998-12-08 Thomson Consumer Electronics, Inc. MPEG system which decompresses and then recompresses MPEG video data before storing said recompressed MPEG video data into memory

Also Published As

Publication number Publication date
MY114931A (en) 2003-02-28
US5844608A (en) 1998-12-01
WO1998026606A1 (en) 1998-06-18
CN1137584C (zh) 2004-02-04
EP0945026B1 (en) 2003-02-12
DE69719069T2 (de) 2003-07-31
CN1246243A (zh) 2000-03-01
KR20000057295A (ko) 2000-09-15
JP2001506094A (ja) 2001-05-08
KR100566826B1 (ko) 2006-04-03
EP0945026A1 (en) 1999-09-29
DE69719069D1 (de) 2003-03-20
AU5696498A (en) 1998-07-03

Similar Documents

Publication Publication Date Title
JP4030591B2 (ja) メモリ管理システムのためのイメージ要素プロセッサ
JP4216341B2 (ja) イメージ処理システムにおけるピクセルブロック圧縮装置
KR100484333B1 (ko) 영상신호프로세서를위한메모리관리
US6130911A (en) Method and apparatus for compressing reference frames in an interframe video codec
US5963222A (en) Multi-format reduced memory MPEG decoder with hybrid memory address generation
EP0690392A1 (en) Method and device for transcoding a sequence of coded digital signals
JPH0851626A (ja) 動画像信号の変換係数量子化方法及び装置、並びに動画像信号圧縮装置
JP4260894B2 (ja) 画像処理システム内のメモリ効率のよい圧縮装置
JP4201839B2 (ja) メモリを有効利用する画像処理システムのオーバーヘッド・データプロセッサ
US20040223546A1 (en) Methods and systems for reducing requantization-originated generational error in predictive video streams using motion compensation
US6278734B1 (en) Process for decoding and coding a compressed video data stream with reduced memory requirements
US6097843A (en) Compression encoding apparatus, encoding method, decoding apparatus, and decoding method
JP3619612B2 (ja) ビデオデータ流の全ての画素に対するビデオデータ流の符号化と復号化のための方法及び装置
US6205250B1 (en) System and method for minimizing clock cycles lost to overhead data in a video decoder
US5614953A (en) Image signal decoding apparatus having an encoding error compensation
MXPA99005454A (en) Image element processor for a memory management system using recompression
JP2001145108A (ja) 画像情報変換装置及び方法
MXPA99005602A (en) Pixel block compression apparatus in an image processing system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041206

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20041206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060801

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20061101

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20061218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071009

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071017

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101026

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111026

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121026

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121026

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131026

Year of fee payment: 6

EXPY Cancellation because of completion of term