JP3998634B2 - Moving picture encoding apparatus and moving picture decoding apparatus - Google Patents

Moving picture encoding apparatus and moving picture decoding apparatus Download PDF

Info

Publication number
JP3998634B2
JP3998634B2 JP2003430643A JP2003430643A JP3998634B2 JP 3998634 B2 JP3998634 B2 JP 3998634B2 JP 2003430643 A JP2003430643 A JP 2003430643A JP 2003430643 A JP2003430643 A JP 2003430643A JP 3998634 B2 JP3998634 B2 JP 3998634B2
Authority
JP
Japan
Prior art keywords
tool
motion compensation
unit
decoding
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003430643A
Other languages
Japanese (ja)
Other versions
JP2004104835A (en
Inventor
健志 牧山
聖二 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2003430643A priority Critical patent/JP3998634B2/en
Publication of JP2004104835A publication Critical patent/JP2004104835A/en
Application granted granted Critical
Publication of JP3998634B2 publication Critical patent/JP3998634B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、画像信号等の情報を符号化して送信する動画像符号化装置、及び、符号化情報を復号する動画像復号装置に関するものである。   The present invention relates to a moving image encoding apparatus that encodes and transmits information such as an image signal, and a moving image decoding apparatus that decodes encoded information.

近年、ISDN(Integrated Services Digital Network:サービス総合ディジタル網)の普及により、新しい通信サービスとして画像通信サービスが実現されている。テレビ電話やテレビ会議システム等がその例である。また、PHSやFPLMTSに代表される無線伝送網の発展に伴い、更なるサービスの高度化、多様化、可搬化への要求が急速に高まっている。   In recent years, with the spread of ISDN (Integrated Services Digital Network), an image communication service has been realized as a new communication service. Examples are videophones and videoconferencing systems. In addition, with the development of wireless transmission networks represented by PHS and FPLMTS, demands for further advancement, diversification, and portability of services are rapidly increasing.

一般にテレビ電話やテレビ会議システムのように、画像情報を伝送する場合においては、画像の情報量が膨大なのに対して、伝送に用いる回線の回線速度やコストの点から、伝送する画像の情報量を圧縮符号化し、情報量を少なくして伝送することが必要となってくる。   In general, when transmitting image information, such as a videophone or a video conference system, the amount of image information is enormous. On the other hand, the amount of image information to be transmitted depends on the line speed and cost of the line used for transmission. It is necessary to compress and encode and transmit with a reduced amount of information.

画像情報を圧縮する符号化方式としては、静止画像符号化方式としてJPEG(Joint Photographic Coding Experts Group)、動画像符号化方式としてH.261、蓄積用動画像符号化方式としてMPEG(Moving Picture Coding ExpertGroup)1、MPEG2がすでに国際標準化されている。さらに、64kbps以下の超低ビットレートでの符号化方式としてMPEG4の標準化活動が進められている。   As coding methods for compressing image information, JPEG (Joint Photographic Coding Experts Group) is used as a still image coding method, and H.264 is used as a moving image coding method. 261, MPEG (Moving Picture Coding Expert Group) 1 and MPEG 2 have already been internationally standardized as moving picture coding systems for storage. Furthermore, MPEG4 standardization activities are underway as an encoding method at an extremely low bit rate of 64 kbps or less.

MPEG4では、多種多様なアプリケーションに柔軟に対応でき、かつ各アプリケーションに対して最適な方式で符号化できるために、既存のJPEG、H.261、MPEG1、MPEG2符号化方式のように、アルゴリズムに従って符号化を行う方式ではなく、符号化器の各ツール(変換器、量子化器、逆変換器、逆量子化器等)を多数用意して、それらの適当な組み合わせによって符号化を行う方式であることが必要である。   MPEG4 can flexibly handle a wide variety of applications, and can be encoded by an optimum method for each application. There are many encoder tools (transformers, quantizers, inverse transformers, inverse quantizers, etc.) instead of coding according to an algorithm like the H.261, MPEG1, and MPEG2 coding systems. Therefore, it is necessary that the encoding is performed by an appropriate combination thereof.

図11(a)はH.261で符号化した符号化出力情報のデータ列であり、同図(b)はアルゴリズムがフレキシブルな符号化方式で符号化した符号化出力情報のデータ列である。図11(b)の場合、符号化器の各ツールの組み合わせが自由選択可能であるため、どのツールを使用して符号化を行ったかというツールに関する情報を符号化出力情報と合わせて送信する必要がある。   FIG. This is a data string of encoded output information encoded by H.261, and FIG. 5B is a data string of encoded output information encoded by an encoding method with a flexible algorithm. In the case of FIG. 11B, since the combination of each tool of the encoder can be freely selected, it is necessary to transmit information relating to the tool indicating which tool was used for encoding together with the encoded output information. There is.

図11において、動き補償ツールA、逆変換ツールB、動き補償ツールC、逆変換ツールD、量子化ツールEがツール情報で、それに続く動きベクトル情報101、変換係数102、動きベクトル情報103、変換係数104、量子化ステップ105が処理されたデータである。   In FIG. 11, motion compensation tool A, inverse transform tool B, motion compensation tool C, inverse transform tool D, and quantization tool E are tool information, followed by motion vector information 101, transform coefficient 102, motion vector information 103, transform The coefficient 104 and the quantization step 105 are processed data.

図12は、H.261に従う従来の符号化/復号装置の一例を示すブロック図である。この符号化/復号装置は、装置全体を制御する制御部106と、H261に従って符号化する符号化器107と、H.261で符号化された情報を復号する復号化器108と、ツール情報を記憶するメモリからなるツール蓄積部109とを備える構成である。   FIG. FIG. 2 is a block diagram illustrating an example of a conventional encoding / decoding device according to H.261. This encoding / decoding device includes a control unit 106 that controls the entire device, an encoder 107 that performs encoding according to H261, The decoder 108 includes a decoder 108 that decodes information encoded by the H.261, and a tool storage unit 109 that includes a memory that stores tool information.

これらの符号化アルゴリズムを実現するための構成を考えると、専用のハードウェアやソフトウェアを実装することにより実現する方法と、汎用演算器で適当なソフトウェアを実行することにより実現する方法とが考えられる。   Considering the configuration for realizing these encoding algorithms, there are a method realized by mounting dedicated hardware and software, and a method realized by executing appropriate software on a general-purpose arithmetic unit. .

図13は、符号化器107のブロック図である。この符号化器107は、符号化制御を行う符号化制御部111、DCT変換を行う変換部112、変換部で変換された係数の量子化を行う量子化部113、量子化された係数の逆量子化を行う逆量子化部114、逆DCT変換を行う逆変換部115、動き補償フレーム間予測の際に用いる動き補償用可変遅延機能をもつメモリ116、マクロブロックごとにon/offできるループ内フィルタ117から構成される。   FIG. 13 is a block diagram of the encoder 107. The encoder 107 includes an encoding control unit 111 that performs encoding control, a conversion unit 112 that performs DCT conversion, a quantization unit 113 that performs quantization of the coefficient converted by the conversion unit, and an inverse of the quantized coefficient. Inverse quantization unit 114 that performs quantization, inverse transform unit 115 that performs inverse DCT transform, memory 116 having a variable delay function for motion compensation used in motion compensation inter-frame prediction, in a loop that can be turned on / off for each macroblock The filter 117 is configured.

このアルゴリズムを専用のハードウェアおよびソフトウェアで実現する場合、各ツールである符号化制御部111、変換部112、量子化部113、逆量子化部114、逆変換部115、動き補償用遅延機能を持つメモリ116、ループフィルタ117はそれぞれ専用のハードウェアおよびソフトウェアを有することになる。   When this algorithm is realized by dedicated hardware and software, the encoding control unit 111, the conversion unit 112, the quantization unit 113, the inverse quantization unit 114, the inverse conversion unit 115, and the motion compensation delay function, which are tools, are provided. Each of the memory 116 and the loop filter 117 possessed has dedicated hardware and software.

図14は、復号化器108のブロック図である。この復号化器108は、図13の符号化部118に含まれている一部分であり、逆量子化部114、逆変換部115、(動き補償用可変遅延機能をもつ)メモリ116、ループ内フィルタ117で構成される。   FIG. 14 is a block diagram of the decoder 108. The decoder 108 is a part included in the encoding unit 118 of FIG. 13, and includes an inverse quantization unit 114, an inverse conversion unit 115, a memory 116 (having a variable delay function for motion compensation), and an in-loop filter. 117.

符号化されたデータは、逆量子化部114で逆量子化され、逆変換部115で逆DCT変換されて復号される。メモリ116およびループ内フィルタ117は動き補償予測符号化データを復号する場合に使用する。   The encoded data is inversely quantized by the inverse quantization unit 114, and inverse DCT transformed by the inverse transform unit 115 and decoded. The memory 116 and the in-loop filter 117 are used when decoding motion compensation prediction encoded data.

JPEG、H.261、MPEG1、MPEG2等の一定のアルゴリズムで符号化を行う方式で数種類のアルゴリズムを処理させようとすると、それぞれのアルゴリズムを実現するハードウェアおよびソフトウェアが必要となる。   JPEG, H.I. If several types of algorithms are to be processed by a method of encoding with a certain algorithm such as H.261, MPEG1, MPEG2, etc., hardware and software for realizing each algorithm are required.

一つの端末で、例えばH.261で動画像を、JPEGで静止画像を符号化する場合、図15のような構成になる。すなわち、この符号化器は、H.261符号化器120と、JPEG符号化器121とで構成される。   In one terminal, for example H.264. When a moving image is encoded by H.261 and a still image is encoded by JPEG, the configuration is as shown in FIG. That is, this encoder is H.264. 261 encoder 120 and JPEG encoder 121.

同様に、専用のハードウェアおよびソフトウェアで、図11(b)のフレキシブルな符号化アルゴリズムを実現させると、H.261での変換部、量子化部、逆量子化部、逆変換部の各ツールが数種類あることになる。   Similarly, when the flexible encoding algorithm shown in FIG. There are several types of tools for the transform unit, quantization unit, inverse quantization unit, and inverse transform unit in H.261.

従って、図13に示す変換部112、量子化部113、逆量子化部114、逆変換部115からなる符号化部118が、図16に示す各ツールによる構成となる。復号化器の構成は、図14に示す逆量子化部114と逆変換部115からなる復号部119が、図16の復号部122のツール構成になる。   Accordingly, the encoding unit 118 including the conversion unit 112, the quantization unit 113, the inverse quantization unit 114, and the inverse conversion unit 115 illustrated in FIG. 13 is configured by each tool illustrated in FIG. The decoding unit 119 including the inverse quantization unit 114 and the inverse transformation unit 115 illustrated in FIG. 14 is the tool configuration of the decoding unit 122 illustrated in FIG. 16.

動作としては、図11(b)に示す動き補償ツールA、逆変換ツールB、動き補償ツールC、逆変換ツールD、量子化ツールE等のツール情報は制御部120へ、その後に続くデータである動きベクトル情報101、変換係数102、動きベクトル情報103、変換係数104はそれぞれの各ツールへ送信される。   As the operation, tool information such as motion compensation tool A, inverse transform tool B, motion compensation tool C, inverse transform tool D, and quantization tool E shown in FIG. Certain motion vector information 101, conversion coefficient 102, motion vector information 103, and conversion coefficient 104 are transmitted to each tool.

制御部123では、それぞれのツール情報からどのツールを使用するかの選択制御を行い、各データは制御部123で選択されたツールで処理され、復号されることになる。   The control unit 123 performs selection control of which tool is used from each tool information, and each data is processed and decoded by the tool selected by the control unit 123.

しかし、この方法では、各ツールごとに専用のハードウェアー及びソフトウェアーを用意しなければならず、復号化器の規模が大きくなってしまう。また、復号化器が用意していないツールで処理されたデータを受信した場合、復号できなくなってしまう。これを解決するためには、受信したパーツをコンパイルして処理プログラムを生成し、汎用演算処理部で復号する場合が考えられる。   However, in this method, dedicated hardware and software must be prepared for each tool, which increases the scale of the decoder. In addition, when data processed by a tool not prepared by the decoder is received, it cannot be decoded. In order to solve this, it is conceivable that the received part is compiled to generate a processing program and decrypted by the general-purpose arithmetic processing unit.

図11(b)に示す情報を、汎用演算処理部とコンパイラで復号する場合、図17に示す復号化器を用いる。図11(b)に示す動き補償ツールA、逆変換ツールB、動き補償ツールC、変換ツールD、量子化ツールE等のツール情報はコンパイラ125へ送信され、その後に続く各データである動きベクトル情報101、変換係数102、動きベクトル情報103、変換係数104、量子化ステップ105は汎用演算処理部124へ送信される。   When the information shown in FIG. 11B is decoded by the general-purpose arithmetic processing unit and the compiler, the decoder shown in FIG. 17 is used. Tool information such as motion compensation tool A, inverse transform tool B, motion compensation tool C, transform tool D, and quantization tool E shown in FIG. 11B is transmitted to the compiler 125, and motion vectors that are subsequent data Information 101, transform coefficient 102, motion vector information 103, transform coefficient 104, and quantization step 105 are transmitted to general-purpose arithmetic processing unit 124.

コンパイラ125では、汎用演算処理部124のための処理プログラムを生成し、次に送信されてくるデータに対し汎用演算処理部124にて処理を行い、復号することになる。さらに、一度生成された処理プログラムは保存され、次の復号のときに再利用される。
特開平4−8064号公報
In the compiler 125, a processing program for the general-purpose arithmetic processing unit 124 is generated, and the data transmitted next is processed by the general-purpose arithmetic processing unit 124 and decoded. Furthermore, the processing program once generated is stored and reused at the next decoding.
Japanese Patent Laid-Open No. 4-8064

あるアルゴリズムを処理する復号側の処理能力が、符号化側の要求するアルゴリズムを構成する各ツールの処理能力の総和よりも低い場合、符号化側から送られてきたツールを復号側で蓄積しても、復号側の処理能力が低いために、受信したデータの復号を正確に行うことができず、ツール蓄積部のメモリも無駄に消費してしまうという問題があった。   If the processing capability of the decoding side that processes an algorithm is lower than the sum of the processing capabilities of the tools that make up the algorithm requested by the encoding side, the tools sent from the encoding side are accumulated on the decoding side. However, since the processing capacity on the decoding side is low, the received data cannot be accurately decoded, and the memory of the tool storage unit is wasted.

また、従来の符号化装置及び復号装置では、符号化側で使用したツールと復号側で保存しているツールとの比較を行う際に、ツール自体の比較を行わなければならず、その処理に非常に多くの時間がかかるという問題があった。   In addition, in the conventional encoding device and decoding device, when comparing the tool used on the encoding side with the tool stored on the decoding side, the tool itself must be compared. There was a problem that it took a very long time.

新しいアルゴリズムを用いて符号化情報を復号する場合、そのアルゴリズムを構成するツールがすでに格納されているツールと同じ場合でも、再度ツールを受信しなければならず、その送受信にかかる時間もかなり大きいという問題があった。   When decoding encoded information using a new algorithm, even if the tools that make up the algorithm are the same as the tools that are already stored, the tool must be received again, and the transmission and reception time is considerably long. There was a problem.

本発明の目的は、符号化データを復号するためのツールで復号させることが可能な動画像符号化装置を提供することである。   An object of the present invention is to provide a moving image encoding apparatus that can be decoded by a tool for decoding encoded data.

この発明の他の目的は、複数ある復号化ツールの中から符号化したデータを復号するためのツールで復号することが可能な動画像復号化装置を提供することである。   Another object of the present invention is to provide a moving picture decoding apparatus capable of decoding with a tool for decoding encoded data from among a plurality of decoding tools.

この発明のある局面によれば、動き補償部、変換部、逆変換部、量子化部、逆量子化部を含む符号化器と制御部を備えた動画像符号化装置であって、動き補償部は第1の動き補償ツールまたは第2の動き補償ツールを使用して動作し、動き補償部が使用する第1および第2の動き補償ツールのいずれかを示すキー情報は、制御部の制御により、動画像の符号化データとは別に、符号化データより前に符号化データを復号する復号装置へ送信され符号化器はキー情報に基づいて動画像を符号化することを特徴とする。 According to an aspect of the present invention, motion-out compensation unit, the conversion unit, the inverse transform unit, a moving picture encoding apparatus including a control unit encoder comprising a quantization unit, the inverse quantization unit, motion The compensation unit operates using the first motion compensation tool or the second motion compensation tool , and key information indicating one of the first and second motion compensation tools used by the motion compensation unit is stored in the control unit. The control is transmitted to a decoding device that decodes the encoded data before the encoded data separately from the encoded data of the moving image, and the encoder encodes the moving image based on the key information. To do.

この発明に従えば、動き補償部が使用する第1および第2の動き補償ツールのいずれかを示すキー情報は、符号化データより前に符号化データを復号する復号装置へ送信される。そのため、復号装置において、符号化データを受信する前に、どういうツールを使用するか前もって認識できる。したがって、復号装置は、符号化データを受信する前に、符号化データの復号の際に使用する動き補償ツールを準備可能な状態にすることができる。その結果、復号処理を効率よく行なうことができる。 According to the present invention, the key information indicating one of the first and second motion compensation tools used by the motion compensation unit is transmitted to the decoding device that decodes the encoded data before the encoded data. Therefore, in the decoding apparatus, it is possible to recognize in advance which tool is used before receiving the encoded data. Therefore, before receiving the encoded data, the decoding apparatus can make the motion compensation tool used for decoding the encoded data ready. As a result, the decoding process can be performed efficiently .

好ましくは、第1の動き補償ツールと第2の動き補償ツールは、動き補償の画素精度が異なることを特徴とする。 Preferably, the first motion compensation tool and the second motion compensation tool have different pixel accuracy for motion compensation .

この発明に従えば、符号化器は動き補償の画素精度に適した動き補償で動画像を符号化
し、符号化に用いた動き補償の画素精度を示すキー情報を送信することができる。符号化データを復号する復号器は、動き補償の画素精度に適合した動き補償で符号化データを復号することができる。
According to the present invention, the encoder can encode a moving picture with motion compensation suitable for the pixel accuracy of motion compensation, and can transmit key information indicating the pixel accuracy of motion compensation used for encoding. A decoder that decodes the encoded data can decode the encoded data with motion compensation adapted to the pixel accuracy of motion compensation.

この発明の他の局面によれば、動き補償部、逆変換部、逆量子化部を含む復号器と制御部を備えた動画像復号装置であって、動き補償部は第1の動き補償ツールまたは第2の動き補償ツールを使用して動作し、符号化装置により動画像の符号化データが生成される際に使用される第1および第2の動き補償ツールのいずれかを示すキー情報であって、符号化装置により送信されたキー情報は、制御部の制御により、符号化データとは別に、符号化データより前に受信され復号器はキー情報に基づいて符号化データを復号することを特徴とする。 According to another aspect of the present invention, there is provided a video decoding device including a decoder including a motion compensation unit, an inverse transform unit, and an inverse quantization unit, and a control unit , wherein the motion compensation unit is a first motion compensation tool. Alternatively, key information indicating one of the first and second motion compensation tools that operate using the second motion compensation tool and is used when the encoded data of the moving image is generated by the encoding device. The key information transmitted by the encoding device is received before the encoded data separately from the encoded data under the control of the control unit, and the decoder decodes the encoded data based on the key information. It is characterized by that.

この発明に従えば、符号化装置により動画像の符号化データが生成される際に使用される第1および第2の動き補償ツールのいずれかを示すキー情報は、符号化データとは別に、符号化データより前に受信される。そのため、符号化データを受信する前に、どういうツールを使用するか前もって認識できる。したがって、符号化データを受信する前に、符号化データの復号の際に使用する動き補償ツールを準備可能な状態にすることができる。その結果、復号処理を効率よく行なうことができる。 According to the present invention, the key information indicating one of the first and second motion compensation tools used when the encoded data of the moving image is generated by the encoding device is separated from the encoded data. Received before encoded data. Therefore, it is possible to recognize in advance what kind of tool is used before receiving encoded data. Therefore, before receiving the encoded data, the motion compensation tool used for decoding the encoded data can be made ready. As a result, the decoding process can be performed efficiently .

好ましくは、第1の動き補償ツールと第2の動き補償ツールは、動き補償の画素精度が異なることを特徴とする。 Preferably, the first motion compensation tool and the second motion compensation tool have different pixel accuracy for motion compensation .

この発明に従えば、復号器は、動き補償の画素精度に適合した動き補償で復号することができる。   According to the present invention, the decoder can perform decoding with motion compensation adapted to the pixel accuracy of motion compensation.

以下、本発明の実施の形態について、図面を参照して説明する。   Embodiments of the present invention will be described below with reference to the drawings.

(第1実施形態)
図1は本発明の第1実施形態に係る符号化/復号装置を示すためのブロック図である。この符号化/復号装置は、制御部11、符号化器12、応答制御部13、復号器14、ツール蓄積制御部15、ツール蓄積部16、符号化処理能力値蓄積部17、復号処理能力値蓄積部18、能力値比較部19を備える。
(First embodiment)
FIG. 1 is a block diagram illustrating an encoding / decoding device according to a first embodiment of the present invention. The encoding / decoding device includes a control unit 11, an encoder 12, a response control unit 13, a decoder 14, a tool storage control unit 15, a tool storage unit 16, an encoding processing capability value storage unit 17, and a decoding processing capability value. The storage unit 18 and the ability value comparison unit 19 are provided.

制御部11は、装置全体を制御する部分であり、予めアルゴリズムを構成する各ツール単位での復号器14の処理能力値の総和を、復号処理能力値として復号処理能力値蓄積部18に蓄積しておく。ツール単位での復号器14の処理能力値は数値化されている。符号化器12は、各ツール単位にそのツールの処理に必要な処理能力値を数値化して付加し、相手装置に送信する。   The control unit 11 is a part that controls the entire apparatus, and accumulates the sum of the processing capability values of the decoder 14 for each tool constituting the algorithm in the decoding processing capability value storage unit 18 as a decoding processing capability value in advance. Keep it. The processing capability value of the decoder 14 in units of tools is digitized. The encoder 12 adds the processing capability value necessary for the processing of the tool to each tool unit, and transmits it to the counterpart device.

ここで、ツールの能力の数値化は、基準となる処理及びその処理を行うのに必要とされる処理能力を設定し、それと他の処理との処理負荷及び処理能力とを比較することにより行う。   Here, quantification of the capability of the tool is performed by setting a standard process and a processing capacity required to perform the process, and comparing the processing load and the processing capacity of the process with other processes. .

符号化器12は、送信する度に数値化するのではなく、ツールの作成者あるいは選択者があらかじめ処理負荷等から設定する。数値化された能力は、制御部11から応答制御部に送られ、符号化データやツール情報に多重化されて送信される。   The encoder 12 is not digitized every time it is transmitted, but is set in advance by a tool creator or a selector based on a processing load or the like. The digitized capability is sent from the control unit 11 to the response control unit, and is multiplexed with encoded data and tool information and transmitted.

復号器14で受信した符号化処理能力値は、アルゴリズムを構成する各ツール単位で符号化処理能力値蓄積部17に蓄積される。復号処理能力値蓄積部18の出力とアルゴリズムを構成するツールの処理能力値との総和は、ともに能力値比較部19に入力される。   The encoding processing capability value received by the decoder 14 is stored in the encoding processing capability value storage unit 17 for each tool constituting the algorithm. The sum of the output of the decoding processing capability value storage unit 18 and the processing capability value of the tool constituting the algorithm is input to the capability value comparison unit 19.

能力値比較部19では、それぞれの値を比較して、受信したツールを使用したアルゴリズムの処理が自装置で可能かどうかの判別を行う。判別は簡易な大小比較回路で行うことができる。もし処理能力値の比較から、処理が可能と判別されれば、許可信号をツール蓄積制御部15に送り、ツール蓄積部16に受信したツールを蓄積し、以後受信したデータの復号に使用する。   The capability value comparison unit 19 compares each value and determines whether or not the processing of the algorithm using the received tool is possible in the own device. The determination can be made with a simple size comparison circuit. If it is determined from the comparison of the processing capability values that the processing is possible, a permission signal is sent to the tool storage control unit 15, the received tool is stored in the tool storage unit 16, and used thereafter for decoding the received data.

もし処理能力値の比較から、ツールを蓄積したとしても復号処理能力が低く、処理が不可能と判別されれば、受信したツールは不要なので蓄積不可信号をツール蓄積制御部15に送り、ツール蓄積部16には蓄積しない。同時に、応答制御部31に受信したツールをダウンロードして処理が可能かどうかの確認を送信する指示を送る。   If it is determined from the comparison of the processing capability values that the decoding processing capability is low and the processing is impossible even if the tools are accumulated, the received tool is unnecessary, so the accumulation impossible signal is sent to the tool accumulation control unit 15 to accumulate the tools. It does not accumulate in the part 16. At the same time, the response control unit 31 downloads the received tool and sends an instruction to send confirmation of whether or not processing is possible.

通常、アルゴリズムを構成するツールの種別が規定されているような符号化方式のもとでは、通信の初期の段階においてお互いの復号化能力を交換し、相手の復号能力を得た上で、データの符号化および送信を開始することができる。   Normally, under an encoding method in which the types of tools that make up the algorithm are specified, the mutual decoding capabilities are exchanged at the initial stage of communication to obtain the decoding capability of the other party, and then the data Encoding and transmission can begin.

しかし、符号化側から符号化情報とともに、その情報を復号する手段であるアルゴリズムを構成するツールを同時に送信する方式の場合、選択するツールの種別により復号処理の負荷が著しく変化するため、このような能力交換では、厳密に相手装置の復号能力を予め得ることは、簡単ではないと考えられる。よって、このように新たなツールを受信する毎に、能力値の比較を行い、処理可能かどうかの判別結果を相手装置に送信する。   However, in the case of a method in which the encoding side and a tool that constitutes an algorithm that is a means for decoding the information are simultaneously transmitted from the encoding side, the load of the decoding process varies significantly depending on the type of tool to be selected. In such a capability exchange, it is considered that it is not easy to strictly obtain the decoding capability of the counterpart device in advance. Therefore, each time a new tool is received in this way, the ability values are compared, and a determination result as to whether or not processing is possible is transmitted to the partner apparatus.

図2は本実施形態の動作例を表す説明図である。符号化装置20と復号装置21との動作について説明する。この符号化装置20と復号装置21とは、図1に示した符号化/復号装置であり、それぞれ符号化装置と復号装置として機能するものである。   FIG. 2 is an explanatory diagram illustrating an operation example of the present embodiment. Operations of the encoding device 20 and the decoding device 21 will be described. The encoding device 20 and the decoding device 21 are the encoding / decoding devices shown in FIG. 1, and function as an encoding device and a decoding device, respectively.

最初に、符号化装置20からツールaおよび、ツールaの処理に必要な符号化能力値Caを相手に送信したとする。復号装置21では送られてきたツールの処理能力値Caを符号化処理能力値蓄積部17に蓄積する。アルゴリズムを構成するツールの能力値は各ツール毎に蓄積するため、Ca以外の能力値の総和をCzとすると、Ca+CzがCaの能力値を持ったツールを使用するアルゴリズムを処理するのに必要な能力値となる。   First, it is assumed that the encoding device 20 transmits the tool a and the encoding capability value Ca necessary for the processing of the tool a to the other party. The decoding device 21 accumulates the processing capability value Ca of the transmitted tool in the encoding processing capability value accumulation unit 17. Since the ability values of the tools constituting the algorithm are accumulated for each tool, if Cz is the sum of ability values other than Ca, Ca + Cz is necessary to process an algorithm that uses a tool having the ability value of Ca. Ability value.

この値と、予め復号装置21において設定された復号能力値Crとを比較することにより、Ca+Cz≦Crならば、新たに受信したツールaが復号化側で使用可能と判別することができる。使用可能ならば受信したツールをダウンロードし、相手装置にダウンロード完了応答を送信する。これにより、符号化装置20では送信したツールを使用したデータの送信が可能であることが判別できる。   By comparing this value with the decoding capability value Cr set in advance in the decoding device 21, if Ca + Cz ≦ Cr, it can be determined that the newly received tool a can be used on the decoding side. If it is usable, the received tool is downloaded, and a download completion response is transmitted to the partner apparatus. As a result, the encoding device 20 can determine that data transmission using the transmitted tool is possible.

次に、符号化装置20からツールbおよび、ツールbの処理に必要な符号化能力値Cbを相手に送信したとする。復号装置21では送られてきたツールの処理能力値Cbを符号化処理能力値蓄積部17に蓄積する。上記した動作例と同様に、Cb+CzがCbの能力値を持ったツールを使用するアルゴリズムを処理するのに必要な能力値となる。   Next, it is assumed that the encoding device 20 transmits the tool b and the encoding capability value Cb necessary for the processing of the tool b to the other party. The decoding device 21 accumulates the processing capability value Cb of the transmitted tool in the encoding processing capability value accumulation unit 17. Similar to the above-described operation example, Cb + Cz is a capability value necessary for processing an algorithm that uses a tool having a capability value of Cb.

この値と、予め設定された復号能力値Crとを比較することにより、Cb+Cz>Crならば、新たに受信したツールが復号側で使用不可と判別することができる。その場合に受信したツールのダウンロードは実行せず、相手装置にダウンロードエラー応答を送信する。これにより、符号化装置20では送信したツールを使用したデータの送信が不可であることが判別できる。   By comparing this value with a preset decoding capability value Cr, if Cb + Cz> Cr, it can be determined that the newly received tool cannot be used on the decoding side. In this case, the received tool is not downloaded and a download error response is transmitted to the partner apparatus. As a result, the encoding device 20 can determine that data transmission using the transmitted tool is impossible.

よって、符号化装置20では新たな別のツールを送信し直すか、以前に送信したツールaを使用したデータを送信することにより、データの復号が可能となる。   Therefore, the encoding device 20 can decode data by retransmitting another new tool or transmitting data using the previously transmitted tool a.

こうして、ツール対応情報をツールによる処理能力とし、復号化処理範囲内に収まるツールを選択することで、効率のよい復号処理が可能となる。この場合、処理能力値を数値化して送信することにより、能力比較が素早く効率的に行うことができる。さらに、処理能力により受信ツールが使用可能か否かを判別してから、使用の場合にのみツールをダウンロードするので、送受信にかかる処理時間を短縮することができる。   Thus, by making the tool correspondence information the processing capability of the tool and selecting a tool that falls within the decoding processing range, efficient decoding processing can be performed. In this case, the capability comparison can be performed quickly and efficiently by digitizing the processing capability value and transmitting it. Furthermore, since it is determined whether or not the receiving tool can be used based on the processing capability, and the tool is downloaded only when it is used, the processing time required for transmission and reception can be shortened.

(第2実施形態)
図3は本発明の第2実施形態におけるツールの管理の例を示している。図3に示すように、各ツールに固有のキーを付ける。例えば、キーをAa01とし、それに対応するツールを整数画素精度動き補償とするように、すべてのツールに対応したキーが設定されており、これによって各ツールが判別できるようになっている。
(Second Embodiment)
FIG. 3 shows an example of tool management in the second embodiment of the present invention. As shown in FIG. 3, a unique key is attached to each tool. For example, keys corresponding to all tools are set so that the key is Aa01 and the corresponding tool is integer pixel precision motion compensation, so that each tool can be identified.

図4はこのキーの設定の例を示している。例えば、キーは、図4に示すように、大分類(動き補償予測、DCT変換等)をアルファベット大文字、小分類(整数画素精度、半画素精度等)をアルファベット小文字、バージョンを数字2文字で表される。   FIG. 4 shows an example of this key setting. For example, as shown in FIG. 4, the key represents a large classification (motion compensation prediction, DCT conversion, etc.) in uppercase letters, a small classification (integer pixel precision, half-pixel precision, etc.) in lowercase letters, and a version in two numbers. Is done.

図5は本実施形態に係る符号化装置のブロック図である。この符号化装置は、装置全体を制御する制御部31、各ツールを格納しておくツール格納部33、各キーに対応するツールの処理プログラムが前記ツール格納部33のどこに格納されているかを記憶しておくキーテーブル32、前記ツール格納部からツールの処理プログラムを読み出して実行する処理演算部34、前記処理演算部34で使用するワークメモリ35、外部との通信を行うネットワークインタフェース36を備えている。   FIG. 5 is a block diagram of the encoding apparatus according to this embodiment. The encoding device stores a control unit 31 that controls the entire device, a tool storage unit 33 that stores each tool, and a tool processing unit 33 that stores a tool processing program corresponding to each key. A key table 32, a processing operation unit 34 that reads and executes a tool processing program from the tool storage unit, a work memory 35 used in the processing operation unit 34, and a network interface 36 that communicates with the outside. Yes.

図6は本実施形態に係る復号装置のブロック図である。この復号装置は、装置全体を制御する制御部41、受信したキーを一時的に保存するキーバッファ47、ツールを格納しておくツール格納部43、各キーに対応するツールの処理プログラムが前記ツール格納部43のどこに格納されているかを記憶しておくキーテーブル42、前記ツール格納部43からツールの処理プログラムを読み出して実行する処理演算部44、前記処理演算部44で使用するワークメモリ45、外部との通信を行うネットワークインタフェース46を備えている。   FIG. 6 is a block diagram of the decoding apparatus according to this embodiment. This decryption apparatus includes a control unit 41 that controls the entire apparatus, a key buffer 47 that temporarily stores received keys, a tool storage unit 43 that stores tools, and a processing program for tools corresponding to each key. A key table 42 for storing where the data is stored in the storage unit 43; a processing calculation unit 44 that reads and executes a tool processing program from the tool storage unit 43; a work memory 45 used by the processing calculation unit 44; A network interface 46 for performing communication with the outside is provided.

図7は図5の符号化装置のツール格納部33および図6の復号装置のツール格納部43における、各ツールの格納状態の例を表している。また、図8は図5のキーテーブル32および図6のキーテーブル42における各キーとそのキーに対応するツールのツール格納部33,43における格納場所との対応付けの例を示したものである。   FIG. 7 shows an example of the storage state of each tool in the tool storage unit 33 of the encoding device of FIG. 5 and the tool storage unit 43 of the decoding device of FIG. FIG. 8 shows an example of correspondence between each key in the key table 32 in FIG. 5 and the key table 42 in FIG. 6 and the storage location in the tool storage units 33 and 43 of the tool corresponding to the key. .

図5の符号化装置と図6の復号装置とは、図9のように、それぞれネットワークインタフェース36、46によってISDNや無線網などの様々なネットワークに接続される。   The encoding device in FIG. 5 and the decoding device in FIG. 6 are connected to various networks such as ISDN and wireless network by network interfaces 36 and 46, respectively, as shown in FIG.

図10は前記図5の符号化装置と前記図6の復号装置とが、図7のように接続されたときの通信手順の例を示すフローチャートである。まず、符号化装置において使用するアルゴリズムとそれを構成するツールを決定する(ステップS1)。そして、その各ツールのキーを復号装置に送信する(ステップS2)。   FIG. 10 is a flowchart showing an example of a communication procedure when the encoding device of FIG. 5 and the decoding device of FIG. 6 are connected as shown in FIG. First, an algorithm used in the encoding device and a tool constituting the algorithm are determined (step S1). Then, the key of each tool is transmitted to the decryption device (step S2).

復号装置はそのキーを受信し、そのキーをキーバッファ47に取り込む(ステップT1)。そして、キーバッファ47に取り込まれたキーをキーテーブル42に照らし合わせ(ステップT2)、登録していない場合は、ツール転送要求とともにそれらのキーを符号化装置に送信する(ステップT3)。   The decryption device receives the key and takes the key into the key buffer 47 (step T1). Then, the keys fetched into the key buffer 47 are checked against the key table 42 (step T2), and if not registered, these keys are transmitted to the encoding device together with the tool transfer request (step T3).

符号化装置はそのキーに対応するツールの処理プログラムを復号装置に送信する(ステップS4)。復号装置はそのツールの処理プログラムをツール格納部43に格納し、その格納アドレスとキーをキーテーブル42に登録する(ステップT5)。そして、キーテーブル42を参照しながらツール格納部43からツールを演算部44に転送する(ステップT6)。   The encoding device transmits a tool processing program corresponding to the key to the decoding device (step S4). The decryption apparatus stores the processing program for the tool in the tool storage unit 43, and registers the storage address and key in the key table 42 (step T5). Then, the tool is transferred from the tool storage unit 43 to the calculation unit 44 while referring to the key table 42 (step T6).

その後、復号装置は符号化装置に符号化データ転送要求を送信し(ステップT7)、それを受信した符号化装置は符号化データを復号装置に送信する(ステップS5,S6)。   Thereafter, the decoding apparatus transmits an encoded data transfer request to the encoding apparatus (step T7), and the encoding apparatus that has received the request transmits the encoded data to the decoding apparatus (steps S5 and S6).

復号装置は符号化データを受信して(ステップT8)、復号する(ステップT9)。符号化装置はすべての符号化データの送信終了したとき、符号化データ送信終了信号を復号装置に送信し(ステップS7,S8)、復号装置がその信号を受信した時点で(ステップT10)、通信が終了する。   The decoding device receives the encoded data (step T8) and decodes it (step T9). When the transmission of all the encoded data is completed, the encoding device transmits an encoded data transmission end signal to the decoding device (steps S7 and S8). When the decoding device receives the signal (step T10), the communication is performed. Ends.

こうして、ツールに固有のキーを用いて、キーを比較することにより、簡単に対応するツールを比較選択することができ、処理時間を短縮することができる。さらに、キーを用いて復号装置に同じツールがあるかを判別し、ない場合にのみ、ツールを転送することにより、送受信かかる処理時間を短縮することができる。   In this way, by comparing the keys using the keys unique to the tools, the corresponding tools can be easily compared and selected, and the processing time can be shortened. Furthermore, it is possible to reduce the processing time required for transmission and reception by determining whether or not the same tool is present in the decryption apparatus using the key and transferring the tool only when there is not.

本実施の形態における復号装置は、受信したツールを示す情報に基づいて、最適なツールを比較選択することにより、受信した符号化データを復号するために必要なツールだけから復号アルゴリズムを構成することができるので、復号処理が効率よく、短時間で処理が可能となる。   The decoding apparatus according to the present embodiment configures a decoding algorithm only from tools necessary for decoding received encoded data by comparing and selecting an optimal tool based on information indicating the received tool. Therefore, decoding processing is efficient and processing can be performed in a short time.

また、ツールを示す情報を比較することにより、ツール自体の比較をする必要がなく、素早いツールの選択処理が可能となる。特に、ツールを示す情報をツール固有のキーとすることで、ツール格納手段のツールを比較選択する処理が短時間で効率的に行うことが可能である。   Further, by comparing information indicating the tools, it is not necessary to compare the tools themselves, and quick tool selection processing is possible. In particular, by using the information indicating the tool as a key unique to the tool, the process of comparing and selecting the tool in the tool storage means can be efficiently performed in a short time.

本発明の第1実施形態に係る符号化/復号装置を示すブロック図である。It is a block diagram which shows the encoding / decoding apparatus which concerns on 1st Embodiment of this invention. 本発明の第1実施形態に係る符号化/復号装置の動作を示す説明図である。It is explanatory drawing which shows operation | movement of the encoding / decoding apparatus which concerns on 1st Embodiment of this invention. 本発明の第2実施形態におけるキーに対応するツールの一例を示す説明図である。It is explanatory drawing which shows an example of the tool corresponding to the key in 2nd Embodiment of this invention. 本発明の第2実施形態におけるキーの一例を示す説明図である。It is explanatory drawing which shows an example of the key in 2nd Embodiment of this invention. 本発明の第2実施形態に係る符号化装置を示すブロック図である。It is a block diagram which shows the encoding apparatus which concerns on 2nd Embodiment of this invention. 本発明の第2実施形態に係る復号装置を示すブロック図である。It is a block diagram which shows the decoding apparatus which concerns on 2nd Embodiment of this invention. 本発明の第2実施形態における各ツールの格納状態の一例を示す説明図である。It is explanatory drawing which shows an example of the storage state of each tool in 2nd Embodiment of this invention. 本発明の第2実施形態におけるキーテーブルの格納状態を示す説明図である。It is explanatory drawing which shows the storage state of the key table in 2nd Embodiment of this invention. 本発明の第2実施形態におけるネットワーク接続の説明図である。It is explanatory drawing of the network connection in 2nd Embodiment of this invention. 本発明の第2実施形態における符号化装置と復号装置との通信手順を示すフローチャートである。It is a flowchart which shows the communication procedure of the encoding apparatus and decoding apparatus in 2nd Embodiment of this invention. 従来の符号化/復号装置における符号化出力情報のデータ列を示す説明図である。It is explanatory drawing which shows the data sequence of the encoding output information in the conventional encoding / decoding apparatus. 従来の符号化/復号装置を示すブロック図である。It is a block diagram which shows the conventional encoding / decoding apparatus. 図12の符号化/復号装置における符号化器を示すブロック図である。It is a block diagram which shows the encoder in the encoding / decoding apparatus of FIG. 図12の符号化/復号装置における復号化器を示すブロック図である。It is a block diagram which shows the decoder in the encoding / decoding apparatus of FIG. H.261とJPEGで符号化する符号化器を示すブロック図である。H. 2 is a block diagram illustrating an encoder that performs encoding with H.261 and JPEG. FIG. 復号化器の各ツールを示すブロック図である。It is a block diagram which shows each tool of a decoder. コンパイラによる処理を行う復号化器を示すブロック図である。It is a block diagram which shows the decoder which performs the process by a compiler.

符号の説明Explanation of symbols

11 制御部、12 符号化器、13 応答制御部、14 復号器、15 ツール蓄積制御部、16 ツール蓄積部、17 符号化処理能力値蓄積部、18 復号処理能力値蓄積部、19 能力値比較部。   DESCRIPTION OF SYMBOLS 11 Control part, 12 Encoder, 13 Response control part, 14 Decoder, 15 Tool accumulation | storage control part, 16 Tool accumulation | storage part, 17 Encoding processing capability value accumulation | storage part, 18 Decoding processing capability value accumulation | storage part, 19 Competence value comparison Department.

Claims (4)

動き補償部、変換部、逆変換部、量子化部、逆量子化部を含む符号化器と制御部を備えた動画像符号化装置であって、
前記動き補償部は第1の動き補償ツールまたは第2の動き補償ツールを使用して動作し、
前記動き補償部が使用する前記第1および第2の動き補償ツールのいずれかを示すキー情報は、前記制御部の制御により、動画像の符号化データとは別に、前記符号化データより前に前記符号化データを復号する復号装置へ送信され
前記符号化器は前記キー情報に基づいて動画像を符号化することを特徴とする、動画像符号化装置。
A video encoding device including an encoder and a control unit including a motion compensation unit, a conversion unit, an inverse conversion unit, a quantization unit, and an inverse quantization unit,
The motion compensation unit operates using a first motion compensation tool or a second motion compensation tool ;
The key information indicating one of the first and second motion compensation tools used by the motion compensation unit is controlled by the control unit, before the encoded data, separately from the encoded data of the moving image. Transmitted to a decoding device for decoding the encoded data ,
The moving image encoding apparatus, wherein the encoder encodes a moving image based on the key information .
前記第1の動き補償ツールと前記第2の動き補償ツールは、動き補償の画素精度が異なることを特徴とする、請求項1に記載の動画像符号化装置。 The moving image coding apparatus according to claim 1, wherein the first motion compensation tool and the second motion compensation tool have different pixel accuracy for motion compensation . 動き補償部、逆変換部、逆量子化部を含む復号器と制御部を備えた動画像復号装置であって、
前記動き補償部は第1の動き補償ツールまたは第2の動き補償ツールを使用して動作し、
符号化装置により動画像の符号化データが生成される際に使用される前記第1および第2の動き補償ツールのいずれかを示すキー情報であって、前記符号化装置により送信されたキー情報は、前記制御部の制御により、前記符号化データとは別に、前記符号化データより前に受信され
前記復号器は前記キー情報に基づいて前記符号化データを復号することを特徴とする、動画像復号装置。
A video decoding device including a motion compensation unit, an inverse transform unit, a decoder including an inverse quantization unit and a control unit ,
The motion compensation unit operates using a first motion compensation tool or a second motion compensation tool ;
Key information indicating one of the first and second motion compensation tools used when the encoded data of the moving image is generated by the encoding device, the key information transmitted by the encoding device , under the control of the control unit, and the encoded data separately, it is received before the encoded data,
The moving picture decoding apparatus, wherein the decoder decodes the encoded data based on the key information .
前記第1の動き補償ツールと前記第2の動き補償ツールは、動き補償の画素精度が異なることを特徴とする、請求項3に記載の動画像復号装置。 The moving image decoding apparatus according to claim 3, wherein the first motion compensation tool and the second motion compensation tool have different pixel accuracy for motion compensation .
JP2003430643A 2003-12-25 2003-12-25 Moving picture encoding apparatus and moving picture decoding apparatus Expired - Fee Related JP3998634B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003430643A JP3998634B2 (en) 2003-12-25 2003-12-25 Moving picture encoding apparatus and moving picture decoding apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003430643A JP3998634B2 (en) 2003-12-25 2003-12-25 Moving picture encoding apparatus and moving picture decoding apparatus

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2000392339A Division JP3702178B2 (en) 2000-12-25 2000-12-25 Moving picture encoding apparatus and moving picture decoding apparatus

Publications (2)

Publication Number Publication Date
JP2004104835A JP2004104835A (en) 2004-04-02
JP3998634B2 true JP3998634B2 (en) 2007-10-31

Family

ID=32291281

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003430643A Expired - Fee Related JP3998634B2 (en) 2003-12-25 2003-12-25 Moving picture encoding apparatus and moving picture decoding apparatus

Country Status (1)

Country Link
JP (1) JP3998634B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101232780B1 (en) 2006-01-12 2013-09-03 (주)휴맥스 Device and Method for unified codecs

Also Published As

Publication number Publication date
JP2004104835A (en) 2004-04-02

Similar Documents

Publication Publication Date Title
US6310981B1 (en) Decoding apparatus using tool information for constructing a decoding algorithm
JP4555257B2 (en) Image encoding device
US5881244A (en) Picture reproducing apparatus
KR100950743B1 (en) Image information coding device and method and image information decoding device and method
US20080049837A1 (en) Image Processing Apparatus, Program for Same, and Method of Same
JP2006287315A (en) Image encoding method, device and image decoding method
US7224844B2 (en) Entropy coding apparatus
JP3306270B2 (en) Data decoding device
JP3998634B2 (en) Moving picture encoding apparatus and moving picture decoding apparatus
JP3702178B2 (en) Moving picture encoding apparatus and moving picture decoding apparatus
JP3265192B2 (en) Decoding device and decoding system
JP4349109B2 (en) Image data processing apparatus, method thereof, and encoding apparatus
JP3263582B2 (en) Encoding / decoding device
JP3170185B2 (en) Image decoding method
JP2003520512A (en) Transmission encoding method and transmission encoding device
JP2002158587A (en) Data encoder
JPH07222173A (en) Picture processor
CN101919251A (en) Motion encoding and decoding
JPH0974556A (en) Image reproducing device
US20050141608A1 (en) Pipeline-type operation method for a video processing apparatus and bit rate control method using the same
JPH09153815A (en) Encoding/decoding device
KR100323752B1 (en) Method and Telephone for still picture transport
Iwasaki et al. Video transcoding technology for wireless communication systems
JPH09121166A (en) Method for encoding/decoding and its device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20031225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061212

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070731

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070807

R150 Certificate of patent (=grant) or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100817

Year of fee payment: 3

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110817

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110817

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120817

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees