JPH06152432A - 高能率符号化及び/又は復号化装置 - Google Patents

高能率符号化及び/又は復号化装置

Info

Publication number
JPH06152432A
JPH06152432A JP30384792A JP30384792A JPH06152432A JP H06152432 A JPH06152432 A JP H06152432A JP 30384792 A JP30384792 A JP 30384792A JP 30384792 A JP30384792 A JP 30384792A JP H06152432 A JPH06152432 A JP H06152432A
Authority
JP
Japan
Prior art keywords
information
interpolation
coefficient
thinning
transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP30384792A
Other languages
English (en)
Other versions
JP3104439B2 (ja
Inventor
Tetsujiro Kondo
哲二郎 近藤
Hideo Nakaya
秀雄 中屋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP30384792A priority Critical patent/JP3104439B2/ja
Priority to US08/149,383 priority patent/US5517245A/en
Priority to DE69330234T priority patent/DE69330234T2/de
Priority to EP19930309060 priority patent/EP0597724B1/en
Priority to EP19980106078 priority patent/EP0862329B1/en
Priority to DE69321557T priority patent/DE69321557T2/de
Publication of JPH06152432A publication Critical patent/JPH06152432A/ja
Application granted granted Critical
Publication of JP3104439B2 publication Critical patent/JP3104439B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Television Systems (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【構成】 入力端子10を介して供給される入力情報を
間引きサブサンプリング部11とモデル対応係数演算部
12内の正規方程式生成部12aに供給する。間引きサ
ブサンプリング部11から伝送情報が出力端子13及び
正規方程式生成部12aに供給される。正規方程式生成
部12aは線形一次結合モデルに基づいて最小二乗法に
よる正規方程式を作成して各係数を係数演算部12bに
出力する。係数演算部12bは、この正規方程式を解い
て上記未定係数に対する最確値を算出して出力端子14
を介して出力する。 【効果】 品質劣化のほとんどない画像の復元を行うた
めの情報を送出することができ、高い圧縮率の伝送を行
い、伝送量や記録系の記録容量の削減に寄与することが
できる。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、エンコード側で伝送す
る情報量を削減させて伝送し、デコード側で伝送された
情報から削減された情報を補間して情報を再現すること
ができる高能率符号化/復号化装置に関する。
【0002】
【従来の技術】最近、大量の情報を扱う、例えば画像情
報等のデータを送信側で符号化して高速に伝送し、受信
側で受信したデータを復号して送信時の品質に近い画像
情報を生成する高能率符号化/復号化装置が実現されつ
つある。高能率符号化/復号化を行う方法は、この伝送
にあたり伝送すべき情報量を削減するため、一般的に、
例えば画像表示している2次元画像を2次元空間内、あ
るいは時間をも含めた時空間でのサンプリングを行い、
間引いた情報をエンコードして送信している。時空間で
のサブサンプルの例としては、この方法を用いた情報を
伝送方式の一つに高精細度テレビジョン方式として日本
放送協会が提案している、いわゆる多重サブナイキスト
サンプリングエンコーディング方式がある。
【0003】また、この方法による伝送は、エンコード
する時点で情報の間引き操作が既に行われ送信されるの
で、デコード側では受信した情報を基に、この間引かれ
た情報を補間して情報の再構成を図っている。実際に、
上述した画像伝送を行う場合のデコードは、伝送された
画素情報を基に固定タップ、固定係数のフィルタによっ
て伝送されない画素情報を補間している。
【0004】
【発明が解決しようとする課題】ところが、デコード側
で前述したような固定したハードウェア構成で行う復号
化処理は、ある画像処理に対して最適な構成であって
も、例えば動きのある画像や静止画像等の多種多用な種
類の画像が供給されてくる場合、この供給される画像情
報に応じて補間処理が効果的に発揮される場合と効果的
な画像を再構成できない場合がある。実際に、デコード
側の画像は、この補間処理によって例えば「ぼけ」、動
きの不自然さを示す「ジャーキネス」、あるいは画像内
の対象に動きがある場合等の時空間の変動等による不具
合いが発生する。
【0005】一般に、受信側が前述したような固定のフ
ィルタ構成に補間処理の効果を発揮できない種類の画像
が供給された場合、受信側の画像は、上述した現象を画
像に引き起こして画質を相当劣化させてしまうことにな
る。
【0006】そこで、本発明は、このような実情に鑑み
てなされたものであり、供給する情報の種類に関わら
ず、この情報に対応して高い圧縮率の符号化を行って伝
送し、伝送された受信情報から補間処理を伴う復号化処
理を施して再生された情報に品質の劣化がなく復元する
ことができる高能率符号化及び/又は復号化装置の提供
を目的とする。
【0007】
【課題を解決するための手段】本発明に係る高能率符号
化装置は、入力情報に対して時空間でのサブサンプリン
グを行い、間引きされた情報に対して情報の圧縮を行っ
て情報を送出する高能率符号化装置において、上記入力
情報に対して間引き操作を行って出力する間引き手段
と、該間引き手段での処理後の間引きされなかった伝送
情報を用いて間引きされた補間対象情報を求める補間式
の係数を未知数として補間処理を行って得られた補間処
理結果情報と上記入力情報から得られる補間対象情報と
の誤差を最小にするための連立方程式を作成し、この連
立方程式を解いて上記未定係数に対する最確値を算出す
る未定係数算出手段とを有し、上記間引き手段からの出
力情報と上記モデル対応係数算出手段からの係数をそれ
ぞれ出力することにより、上述の課題を解決する。
【0008】高能率復号化装置は、時空間でサブサンプ
リングにより間引きされた補間対象情報を伝送された受
信情報に基づき補間処理を施して元の情報の復元を行う
高能率復号化装置において、上記補間対象情報を求める
ための係数が未定の補間式にそれぞれ上記受信情報にお
ける間引きされなかった伝送情報と上記補間式の未定係
数に対応して伝送された係数とを代入して上記補間対象
情報を生成し、元の伝送情報を復元する補間処理手段
と、該補間処理手段で生成された補間対象情報と上記伝
送情報とを用いて伝送前の情報に対応した時系列情報に
変換する時系列変換手段とを有してなることにより、上
述の課題を解決する。
【0009】ここで、上述した高能率符号化及び/又は
復号化装置は、上記構成により、中央画素と中央画素の
両端の画素を補間する直接補間を用いて行っている。
【0010】また、高能率符号化及び復号化装置は、入
力情報に対して時空間でのサブサンプリングを行い、間
引きされた情報に対して情報の圧縮を行って情報を送出
し、この情報圧縮された情報を受信してこの受信情報に
基づいて補間処理を施して上記入力情報の復元を行う高
能率符号化及び復号化装置において、上記入力情報に対
して間引き操作を行って出力する間引き手段と、該間引
き手段で間引きされなかった伝送情報を用いて間引きさ
れた補間対象情報を求める補間式の係数を未知数として
補間処理を行って得られた補間処理結果情報と上記入力
情報から得られる補間対象情報との誤差を最小にするた
めの連立方程式を作成し、この連立方程式を解いて上記
未定係数に対する最確値を算出する未定係数算出手段
と、上記間引き手段と上記未定係数算出手段からそれぞ
れ供給される上記伝送情報と上記未定係数に対して決定
された係数を補正式に代入して間引きされた補間対象情
報を生成する補間対象情報生成手段と、該補間対象情報
生成手段で生成された補間対象情報と上記受信情報とを
用いて上記入力情報に対応した時系列情報に変換する時
系列変換手段とを有してなることにより、上述の課題を
解決する。
【0011】さらに、入力情報に対して時空間でのサブ
サンプリングを行い、間引きされた情報に対して情報の
圧縮を行って情報を送出し、この情報圧縮された情報を
受信して受信情報に補間処理を施して上記入力情報の復
元を行う高能率符号化及び復号化装置において、この高
能率符号化及び復号化装置は、上記入力情報に対して間
引き操作を行って出力する間引き手段と、該間引き手段
での処理後の間引きされなかった伝送情報を用いて間引
きされた補間対象情報を求める補間式の係数を未知数と
して補間処理を行って得られた補間処理結果情報と上記
入力情報から得られる補間対象情報との誤差を最小にす
るための連立方程式を作成し、この連立方程式を解いて
上記未定係数に対する最確値を算出する未定係数算出手
段と、上記間引き手段からの上記伝送情報と上記補間対
象情報に対して計算で得られた情報と比較参照するため
の補間対象参照情報とを用いて上記未定係数算出手段で
補間対象にならなかった補間対象情報を生成するための
係数を補間未知数として補間処理を行って得られた補間
処理結果情報と上記補間対象参照情報との誤差を最小に
するための連立方程式を作成し、この連立方程式を解い
て補間できなかった補間対象情報に対する補間未定係数
に対する最確値を算出する補間未定係数算出手段とを有
し、上記間引き手段の間引き量に応じて上記未定係数算
出手段以降に上記補間未定係数算出手段をカスケード的
に接続して上記伝送情報及び上記未定係数に対応する複
数の係数を出力する高能率符号化装置と、該高能率符号
化装置からの上記伝送情報と上記複数種類の係数を入力
し、上記伝送情報と上記複数種類の係数の一つとを用い
て間引かれた上記補間対象情報を生成する補間処理手段
と、該補間処理手段で生成された補間対象情報と上記受
信情報とを用いて上記入力情報に対応した時系列情報に
変換する時系列変換手段とを有し、上記供給される複数
種類の係数の数に応じて上記補間処理手段及び時系列変
換手段とを一組としてカスケード的に接続し、各組で使
用する係数は対応する間引きの補間対象情報を算出する
際だけに用いてそれぞれ補間対象情報を生成して元の上
記入力情報を復元する高能率復号化装置とからなること
により、上述の課題を解決する。
【0012】ここで、この高能率符号化及び/又は復号
化装置は、上記各装置の構成を多段でカスケード接続に
より、時空間間引きの上記補間対象情報を線形一次結合
モデルにより階層構造補間して補間処理を行っている。
高能率符号化及び/又は復号化装置は、例えば、2段の
階層構造補間による画像情報の送受信を行う場合、間引
き処理されなかった伝送画素情報と入力画素情報を基に
未定係数算出手段と補間未定係数算出手段とをカスケー
ド接続している。上記未定係数算出手段は、補間対象画
素情報に対する補間処理結果画素情報と上記入力情報か
らの補間対象情報との残差を最小にする第1の係数を算
出し、上記補間未定係数算出手段で補間できなかった補
間対象画素情報に対する第2の係数を算出するため、補
間処理して得られた補間対象画素情報から求めた補間処
理結果画素情報と上記入力画素情報との残差を最小にす
る第2の係数の最確値を算出して伝送画素情報と第1及
び第2の係数を出力している。
【0013】また、上記間引き手段を例えば2段の間引
き処理で構成した場合、第1段目で間引きされた画素情
報に対応した補間対象画素情報から補間処理結果画素情
報と上記入力画素情報との残差を最小にする係数、すな
わち上記第2の係数を出力し、第2段目で間引きされた
画素情報に対応した補間対象画素情報から補間処理結果
画素情報と上記入力画素情報との残差を最小にする係
数、すなわち上記第1の係数を出力してもよい。
【0014】高能率復号化装置は、この伝送される伝送
画素情報と第1及び第2の係数を受信情報としてエンコ
ード側と同様に2段のカスケード接続で線形一次結合モ
デル対応した補間処理手段及び時系列変換手段を一組と
して求めた第1及び第2の係数カスケードに接続して伝
送画素情報と補間処理して得られる補間対象画素情報と
から元の画像と略々同じ画像を出力している。
【0015】また、上記未定係数は、上記間引き手段か
らの間引かれなかった伝送情報と未定係数の線形一次結
合で表された補間処理結果情報と、該補間処理結果情報
と入力情報から得られる補間対象情報との残差の加算結
果において、上記残差が最小にする値として最小二乗法
を用いて求めている。
【0016】
【作用】本発明の高能率符号化装置は、入力情報に対し
て時空間でのサブサンプリングを行い、間引きされた情
報に対して情報の圧縮を行って情報を送出する高能率符
号化装置において、間引き手段で入力情報に対して間引
き操作を行い、未定係数算出手段で上記間引き手段での
処理後の間引きされなかった伝送情報を用いて間引きさ
れた補間対象情報を求める補間式の係数を未知数として
補間処理を行って得られた補間処理結果情報と上記入力
情報から得られる補間対象情報との誤差を最小にするた
めの連立方程式を作成し、この連立方程式を解いて上記
未定係数に対する最確値を算出して上記間引き手段から
の出力情報と上記モデル対応係数算出手段からの係数を
それぞれ出力している。
【0017】時空間でサブサンプリングにより間引きさ
れた補間対象情報を伝送された受信情報に基づき補間処
理を施して元の情報の復元を行う高能率復号化装置にお
いて、この高能率復号化装置は、補間処理手段で上記補
間対象情報を求めるための係数が未定の補間式にそれぞ
れ上記受信情報における間引きされなかった伝送情報と
上記補間式の未定係数に対応して伝送された係数とを代
入して上記補間対象情報を生成し、元の伝送情報を復元
し、時系列変換手段において上記補間処理手段で生成さ
れた補間対象情報と上記伝送情報とを用いて伝送前の情
報に対応した時系列情報に変換して情報の再現を行って
いる。
【0018】また、階層構造補間を行う際に入力情報に
対して時空間でのサブサンプリングを行い、間引きされ
た情報に対して情報の圧縮を行って情報を送出し、この
情報圧縮された情報を受信して受信情報に補間処理を施
して上記入力情報の復元を行う高能率符号化及び復号化
装置において、この高能率符号化及び復号化装置は、高
能率符号化装置を間引き手段と未定係数算出手段と補間
未定係数算出手段とで構成し、上記間引き手段の間引き
量に応じて上記未定係数算出手段以降に上記補間未定係
数算出手段をカスケード的に接続して間引かれなかった
上記伝送情報及び上記未定係数に対応する複数の係数を
出力上記複数種類の係数を出力し、高能率符号化装置が
上記高能率符号化装置の出力する上記伝送情報と上記複
数種類の係数の一つとを補間処理手段に入力して間引か
れた上記補間対象情報を生成し、時系列変換手段で上記
補間処理手段で生成された補間対象情報と上記受信情報
とを用いて上記入力情報に対応した時系列情報に変換し
て元の情報を復元させている。ここで、高能率復号化装
置は、上記供給される複数種類の係数の数に応じて上記
補間処理手段及び時系列変換手段とを一組としてカスケ
ード的に接続し、各組で使用する係数は対応する間引き
の補間対象情報を算出する際だけに用いてそれぞれ補間
対象情報を生成して元の上記入力情報を復元している。
【0019】このようにこの時空間間引きに対する補間
方法は、上記補間対象情報と上記受信情報とを供給して
時系列に対応した情報に例えば直接補間や階層構造補間
等を用いて処理している。上述した装置を用いてシステ
ムを構成し、例えば画像等の情報を送受信する。
【0020】
【実施例】以下、本発明に係る高能率符号化及び/又は
復号化装置の実施例について、図面を参照しながら説明
する。
【0021】先ず、本発明の高能率符号化装置について
図1に示す概略的なブロック図を参照しながら説明す
る。ここで、高能率符号化装置は大量のデータを高速に
処理することが要求される画像処理装置に適用した一例
に挙げて説明する。
【0022】高能率符号化装置は、上記入力情報である
入力画像情報に対して間引き操作を行って出力する間引
き手段である間引きサブサンプリング部11と、該間引
きサブサンプリング部11での処理後の間引きされなか
った伝送情報を用いて間引きされた補間対象情報を求め
る補間式の係数を未知数として補間処理を行って得られ
た補間処理結果情報と上記入力情報から得られる補間対
象情報との誤差を最小にするための連立方程式を作成
し、この連立方程式を解いて上記未定係数に対する最確
値を算出する未定係数算出手段であるモデル対応係数演
算部12とで構成している。
【0023】この実施例で使用するモデルは、線形一次
結合モデルを用いている。またモデルは、画像を記述す
る中で時間方向のサブサンプリングを行って1/2フレ
ームコマ落しの場合である。
【0024】ここで、上記モデル対応係数演算部12
は、予め定義したモデルに従った領域の情報のサブサン
プル抽出を行って連立方程式である正規方程式を作成す
る正規方程式生成部12aと、該正規方程式生成部12
aから供給される画素情報によって正規方程式に含まれ
る未定係数を後述する係数演算から求める係数演算部1
2bとで構成している。
【0025】さらに、この高能率符号化装置の接続関係
を図1を参照して説明する。入力端子10を介して入力
画像に対する画像情報が間引きサブサンプリング部11
に供給される。この画像情報はモデル対応係数演算部1
2の正規方程式生成部12aにも供給されている。上記
間引きサブサンプリング部11は、エンコードした出力
信号を伝送画素として出力端子13を介して出力すると
共に、上記正規方程式生成部12aにも供給している。
【0026】モデル対応係数演算部12は、正規方程式
生成部12aで供給された伝送画素と入力画像に対して
時系列変換を行い、線形一次結合モデルに対応したモデ
ル化を行って正規方程式を生成している。上記正規方程
式生成部12aは、生成した正規方程式の各係数を係数
演算部12bに出力する。係数演算部12bは供給され
た係数に含まれる未定係数を最小二乗法により課せられ
た条件に応じて行列演算を行って未定係数を算出して出
力端子14を介して出力している。
【0027】次に、この高能率符号化装置における動作
原理について図2を参照しながら説明する。図2に示す
例は、前述したように時間方向のサブサンプルを行って
1フレームをコマ落しして1/2フレームにする場合、
第n−1フレーム〜第n+1フレームまでの3フレーム
の内第n−1フレームと第n+1フレームの画素を用い
て第nフレームの中央に位置する画素yを求めるもので
ある。
【0028】予め定義した時空間モデルにおいて、上記
第n−1フレーム〜第n+1フレームの各フレームは、
フレーム内のブロック15、16、17を一つのブロッ
クとしている。これらの中でブロック15とブロック1
7は、9つの入力画素x1 〜x9 とx10〜x18に区分設
定している。モデルは、入力画素xi (i=1,・・・,
18)にそれぞれ係数wi を乗算した線形一次結合xi
i で表現するものである。第nフレームの中央位置の
値y5 は、このように18タップの入力画素の線形一次
結合w1 1 +w2 2 +・・・+w1818によって表さ
れる。この線形一次結合モデルにおける係数wi につい
ては、実際の補間対象画素と補間処理結果画素との残差
が最小になるものを求めればよい。
【0029】この未定係数wi を求めるため、先ず、入
力画像を空間方向に1画素ずつずらした際に線形一次結
合モデルに要する値、すなわち入力画素xi (i=1,
・・・,n)、対応する実際の画素yj (j=1,・・・,
m)をそれぞれ代入する。これによって、例えば1フレ
ームに対して1個の係数組を求めるとすれば、入力画素
xと未定係数wの積に対応する実際の画素yの線形一次
結合の式が1フレームの画素数分だけの連立方程式がで
きる。これらの連立方程式により、対応する行列Xと
Y及び係数行列Wができる。
【0030】この行列X、W及びYはそれぞれ
【0031】
【数1】
【0032】
【数2】
【0033】
【数3】
【0034】と表される。この行列X、Y及びW
を用いて表した線形一次結合モデルの式 XW = Y (4) がm個の連立方程式からなる観測方程式である。この連
立方程式の数は、予め設定した2フレーム内のタップ数
よりも遥かに多い数である。
【0035】基本的に観測方程式を解いて未定係数wを
求めればよい。この未定係数wを求める方法として最小
二乗法を用いる。すなわち、この未定係数wの解法は、
最小二乗法を用いるにあたり上記観測方程式の右辺に残
差行列E
【0036】
【数4】
【0037】を加える方法である。観測方程式は、この
残差行列Eを加算により残差方程式になる。 XW = Y+E (6) 最小二乗法において、上記残差方程式における残差行列
Eの要素の二乗、すなわち二乗誤差が最小になる係数
行列Wを求めて決定する。
【0038】次に、上記残差方程式(6)から係数行列
Wの各要素wi の最確値を見いだすための条件は、ブ
ロック内の画素に対応するm個の残差をそれぞれ二乗し
てその総和を最小にする条件を満足させればよい。この
条件を数式で表すと、数式は、
【0039】
【数5】
【0040】となる。残差方程式は、n個の条件を満足
する係数行列Wの要素である未定係数w1 ,w2 ,・・
・,wn を見いだせばよい。従って、残差方程式(6)
より、
【0041】
【数6】
【0042】となる。式(7)の条件をn個(i=1,
・・・,n)についてそれぞれ満足させるとき、
【0043】
【数7】
【0044】が得られる。ここで、式(6)と式(9)
から、
【0045】
【数8】
【0046】の正規方程式が得られる。式(10)は、
丁度、未知数の数がn個だけある連立方程式である。こ
れにより、最確値たる各未定係数wi を求めることがで
きる。正確に換言すれば、式(10)における入力画素
ji(i=1,2,・・・,n;j=1,2,・・・,m)の
積xjijiのj=1からmまでの総和が一つのマトリク
ス要素からなる行列が正則であれば、解くことができ
る。上記入力画素xjiの添字iは、式(10)から明か
なように行列要素の列に応じて固定し、添字jに関して
変化させている。このようにして正規方程式を求める手
順操作を行うのが正則方程式生成部12aである。ここ
で、正則方程式生成部12aは係数をすべて係数演算部
12bに出力する。
【0047】供給された係数を用いて係数演算部12b
は、例えばガウス−ジョルダンの消去法(別名、掃き出
し法)を用いて未定係数wi を求め、連立方程式を解い
ている。係数演算部12bは、求めた係数wi を出力端
子14を介して出力している。
【0048】このようにして本実施例における1/2の
コマ落しの例が示すように1フレームに付き1組の係数
が求められたとき、伝送される情報は、1フレーム間隔
の画素と間引きフレーム1個に付き1組の係数になって
いる。ここで、上記係数の情報量は、1フレームあたり
の画素の情報量に比べて無視できるくらいのオーダーで
ある。従って、この1/2のコマ落しの場合の圧縮率
は、約1/2になる。
【0049】次に、本発明の高能率復号化装置について
図3に示す概略的なブロック図を参照しながら説明す
る。ここで、この高能率復号化装置は、時空間でサブサ
ンプリングによる間引きされた受信情報に補間処理を施
して、上記受信情報から元の情報の復元を行う際に、前
述したように線形一次結合モデルを例えば画像処理装置
に適用して1/2のコマ落しされた圧縮情報を復号する
ことを例に挙げて説明する。
【0050】この高能率復号化装置は、上記補間対象情
報を求めるための係数が未定の補間式にそれぞれ上記受
信情報における間引きされなかった伝送情報と上記補間
式の未定係数に対応して伝送された係数である係数行列
Wの各要素wi とを代入して上記補間対象情報を生成
し、元の伝送情報を復元する補間処理手段であるモデル
対応補間演算部20、該モデル対応補間演算部20で生
成された補間対象情報と上記伝送情報とを用いて伝送前
の情報に対応した時系列情報に変換する時系列変換手段
であると時系列変換部21とで構成している。
【0051】また、上記圧縮された画像情報は、伝送画
素である。この伝送画素が入力端子18を介してモデル
対応補間演算部20と時系列変換部21にそれぞれ供給
されている。送信側において予め算出して伝送された係
数行列Wの各要素wi が、入力端子19を介してモデ
ル対応補間演算部20に供給されている。
【0052】モデル対応補間演算部20は、供給された
これらの情報を線形一次結合のモデル、すなわち伝送画
素の送信側で使用したモデルと全く同じモデルを用いて
補間演算処理を行う。この補間演算処理は、伝送画素と
係数wi の組から前記式(4)の線形一次結合によって
補間画素を計算する。モデル対応補間演算部20は、復
元された補間画素を時系列変換部21に供給する。
【0053】時系列変換部21は、間引き処理により失
われた伝送画素を伝送前の時空間サンプリング位置に供
給された伝送画素と補間画素とを用いて対応する画素位
置に配置させる。この変換処理によって時系列変換部2
1は画像情報の復元を行う。
【0054】このように構成することにより、従来、伝
送画素に対して一律にかけたフィルタ処理を行った場合
の画像劣化がほとんど生じず、より伝送前の原画に近い
補間画素を得ることができ、高能率に圧縮された符号を
復元することができる。
【0055】この高能率符号化装置と高能率復号化装置
とを用いれば、間引き処理後の伝送画素と線形一次結合
モデルの条件に合致する未定係数wi との伝送により、
前述から明らかなように画像劣化がほとんど生じること
なく、高能率に圧縮された符号を復元することができ
る。このように間引き画素を求める方法は、図3に示し
た直接補間により求めることができる。
【0056】また、前述した実施例は3フレームで18
タップの線形一次結合モデルを用いたが、さらに時間方
向や空間方向に(サブサンプリング用の)タップを増や
して処理することもできる。
【0057】高能率符号化及び/又は復号化装置は、例
えば、時間方向にタップを増やして1/2コマ落しを行
って伝送する場合、すなわち図4に示す7フレームT0
〜T6内の偶数番目のフレームの全画素を伝送する。同
時に、これらの偶数番目の各フレームに対して1フレー
ムの空間内で画素を5×5程度のブロック毎に分けた大
きさを持つ画素を用いて、伝送されないフレームT3の
“+”位置の画素データが算出される。高能率符号化装
置は、この算出にあたり伝送画素と未定係数との積で表
された線形一次結合モデルを用いて高能率復号化装置に
伝送する係数を計算する。
【0058】この7フレームT0〜T6の中で伝送され
る係数の演算に関与するフレームは、上述したように一
つ間隔に○印が付された偶数番目のフレームT0、T
2、T4、T6の4フレームを用いる。これら4フレー
ムにおいて使用する画素は、模式的に5×5程度のブロ
ックの大きさの画素を用いて線形一次モデルを適用して
計算が行われる。実際に伝送する係数は、図5に示すフ
レームT0、T2、T4、T6のタップw1 〜w100
利用して算出され、伝送された画像情報とこの係数を基
に線形一次結合モデルに対応して復号を行っている。
【0059】また、同じ7フレームT0〜T6を使って
1/2コマ落しを行って伝送する場合、同様に、図6に
示す7フレームT0〜T6の偶数番目の全画素を伝送す
る。同時に、これらの偶数番目の各フレームに対して1
フレームの空間内でフレームT3の“+”位置の画素の
データが線形一次結合モデルに対応させて未定係数を算
出している。この線形一次結合モデルにおいて係数算出
に用いる画素は、図6に示した模式図の(○)の位置に
配置された画素だけを空間内間引きして使用して未定係
数の算出を行っている。この使用する空間内間引きされ
た画素配置パターンは、フレームT0、T6とフレーム
T2、T4の2つのパターンがある。実際、係数演算に
使用する画素は、図7に示したフレームT0、T2、T
4、T6の4フレーム市松模様状のパターンに配置され
たの画素w1 〜w50を用いる。
【0060】なお、これまでの例は、求める未定係数を
1フレームに1組としたが、画像の局所的名特徴に応じ
て空間内で細分化し、1フレームに複数組の係数として
もよい。
【0061】さて、この考え方を時空間のサブサンプル
に持ち込む。例えば、上述と同様に1/2の時空間間引
きを考えた場合、図8に示す3つのフレームT0、T
1、T2は、通常の伝送する全画素に対して伝送画素を
1/2間引いて伝送している。同時に、このときの未定
係数を算出するために使用する画素は、伝送画素の配置
と同じ市松模様状に間引きされた間引きパターンを考え
る。この画素配置パターンは、このように1フレーム内
を市松模様状にサブサンプルし、1フレーム毎にオフセ
ットしてサブサンプルするパターンを用いる。実際に未
定係数の係数演算に使用する画素は、例えば図8に示し
たフレームT0で画素w1 〜w13までの13個、フレー
ムT1でw14〜w45までの12個、フレームT2で画素
26〜w38までの13個とが使われる。このように1フ
レーム毎に上述した間引きパターンにより画素を13個
と12個のサブサンプリングが交互に繰り返してモデル
に対応する未定係数の係数演算が行われている。
【0062】当然、時間方向にタップを増やす場合、図
9に示す5フレームT0、T1、T2、T3及びT4を
用いて1フレーム毎にオフセットして市松模様状のサブ
サンプリングを行っている。この場合の未定係数の係数
演算に使用する画素は、偶数フレームT0、T2、T4
で12画素を、一方、奇数フレームT1、T3で13画
素が使われている。この場合、モデルに対する係数演算
は計62画素を用いて行い、これらの係数演算に用いた
と同じ画素を伝送して1/2時空間間引きを行ってい
る。
【0063】また、空間方向にタップを増やす場合、図
10に示す3フレームT0、T1、T2を用いて1フレ
ーム毎にオフセットして市松模様状のサブサンプリング
を行っている。この間引きパターンは、パンニング等の
水平の動き画像に対応するように水平方向に係数演算を
行う画素をとるモデルを仮定している。係数演算に使用
する画素は、偶数フレームT0、T2、で23画素を、
一方、奇数フレームT1で22画素が使われている。こ
の場合、未定係数の係数演算は計68画素を用いて行
い、これらの係数演算に用いたと同じ画素を伝送して1
/2時空間間引きを行っている。
【0064】これらのモデルは、前述した第1の実施例
と同様に線形一次結合で表現されるモデルを用いてい
る。
【0065】さらに、時空間で画素を間引くことを考え
る。前述した1/2間引きから時空間で間引いて1/4
に間引きした伝送画素と供給する係数を用いて伝送を行
い、画像の再生を行うこともできる。この1/4に間引
きに対する間引きパターンは、後述するように1ライン
方向の通常伝送される4画素中の3画素を間引いて伝送
するパターンである。この間引きパターンは、フィール
ド毎にオフセットされていて4フィールドで完結する間
引きパターンを用いる(図12及び図13を参照)。
【0066】次に、このような時空間サンプリングの考
え方を取り込んだ高能率符号化装置の他の実施例につい
て図12に示す概略的なブロック図を参照しながら説明
する。ここで、この実施例も画像処理装置の場合を例に
して説明、前述した高能率符号化装置と共通する部分に
同じ参照番号を付して説明を省略する。この高能率符号
化装置は、1/4時空間間引きを行う場合の構成を示し
ている。
【0067】この高能率符号化装置は、入力情報に対し
て時空間でのサブサンプリングを行い、間引きされた情
報に対して情報の圧縮を行って情報を送出する高能率符
号化装置は、上記入力情報である入力画像情報に対して
間引き操作を行って出力する間引き手段である間引きサ
ブサンプリング部10と、該間引きサブサンプリング部
10での処理後の間引きされなかった伝送情報を用いて
間引きされた補間対象情報を求める補間式の係数を未知
数として補間処理を行って得られた補間処理結果情報と
上記入力情報から得られる補間対象情報との誤差を最小
にするための連立方程式を作成し、この連立方程式を解
いて上記未定係数に対する最確値を算出する未定係数算
出手段である上記第1モデル対応係数算出部23と、上
記間引きサンプリング部11からの上記伝送情報と上記
補間対象情報に対して計算で得られた情報と比較参照す
るための補間対象参照情報である入力画像情報とを用い
て上記第1モデル対応係数算出部23で補間対象になら
なかった補間対象情報に対して、上記補間式の係数を補
間未知数として補間処理を行って得られた補間処理結果
情報と上記補間対象参照情報との誤差を最小にするため
の連立方程式を作成し、この連立方程式を解いて補間で
きなかった補間対象情報に対する補間未定係数に対する
最確値を算出する補間未定係数算出手段である補間演算
部24と第2モデル対応係数算出部25とで構成してい
る。
【0068】この高能率符号化装置は、上記間引きサン
プリング部11の間引き量に応じて上記第1のモデル対
応係数算出部23以降に上記演算部24と第2モデル対
応係数算出部25を一組としてカスケード的に接続して
上記伝送情報及び上記未定係数に対応する複数の係数を
出力している。
【0069】なお、高能率符号化装置は、この実施例に
限定されたものでなく、上記間引きサブサンプリング部
11を多段の間引き処理部を設けて各段から出力される
間引かれなかった伝送情報を用いて階層構造補間を行う
場合、上記演算部24を省略して各伝送情報を時空間間
引き量に応じたモデル対応係数算出部にそれぞれ供給し
て対応する係数を出力させてもよい。
【0070】上記第1モデル対応係数算出部23は、時
系列変換して予め定義したモデルに従った情報のサブサ
ンプルを抽出し、最小二乗法の条件を満足する正規方程
式を作成する第1モデル対応時系列変換部23aと該モ
デル対応時系列変換部23aからの画像情報に基づいて
未定係数に対する係数演算を行う第1係数演算部23b
とで構成している。上記第1係数演算部23bは、演算
結果の係数1を出力端子14を介して出力する。また、
上記第1係数演算部23bは、演算結果の係数1を補間
演算部24にも提供している。上記第2モデル対応係数
算出部25は、図示しないが上述した第1モデル対応係
数算出部23と同じく、第2モデル対応時系列変換部2
5aと第2係数演算部25bとで構成している。
【0071】この高能率符号化装置の接続関係を図12
を参照して説明する。入力端子10を介して入力画像に
対する画像情報が間引きサブサンプリング部11に供給
される。この画像情報は第1モデル対応係数算出部23
の第1モデル対応時系列変換部23aにも供給されてい
る。上記間引きサブサンプリング部11は、エンコード
した出力信号を伝送画素として出力端子13を介して出
力すると共に、上記第1モデル対応時系列変換部23a
にも供給している。
【0072】第1モデル対応係数算出部23は、第1モ
デル対応時系列変換部23aで供給された伝送画素と入
力画像に対して時系列変換を行い、線形一次結合モデル
に対応したモデル化を行って正規方程式を生成してい
る。上記第1モデル対応時系列変換部23aは、生成し
た正規方程式の各係数を第1係数演算部23bに出力す
る。第1係数演算部23bは供給された係数に含まれる
未定係数を最小二乗法により課せられた条件に応じて行
列演算を行って未定係数を算出して出力端子14を介し
て出力する。この未定係数に対して行われる演算によっ
て算出された係数が図8に示す係数1である。
【0073】第1係数演算部23bは、この係数1を上
記ローカルデコーダ24にも供給している。また、ロー
カルデコーダ24は、間引きサブサンプリング部11か
らの間引き処理後の情報と上記係数1を用いて後述する
1/2間引きモデルで必要になる画素を補間処理によっ
て求めている。このローカルデコーダ24は、ここで求
めた補間画素を第2モデル対応係数算出部25に供給す
る。この実施例において補間画素が補間対象参照情報に
相当している。
【0074】第2モデル対応係数算出部25は、入力端
子10を介して供給された画像情報を入力している。第
2モデル対応係数算出部25は、第1モデル対応時系列
変換部25a(図示せず)でこれらの画像情報と補間画
素に時系列処理を施し、この処理後の情報から線形一次
結合モデルに対応した処理を行って正規方程式を作成
し、この正規方程式を構成する係数1を第2係数演算部
25b(図示せず)に出力する。第2係数演算部25b
は、線形一次結合モデルに対応する未定係数である係数
2を算出して出力端子26を介して出力している。
【0075】この高能率符号化装置の動作原理について
図13及び図14を参照しながら説明する。図13の水
平ラインはインターレース走査している走査線を示して
いる。ここで、この実施例における4フィールドで完結
する間引きパターンは、奇数フィールド(実線)と偶数
フィールド(破線)毎にそれぞれ1から4フィールド中
の奇数と偶数フィールドを同じ走査線上に示している。
これらの各フィールドにおける伝送画素は、それぞれ、
第1フィールド(#1)を(●)、第2フィールド(#
2)を(■)、第3フィールド(#3)を(○)、そし
て第4フィールド(#4)を(□)で表している。図1
3から明かなように各フィールドのサンプリングして伝
送される伝送画素の配列は、一つのフィールドの伝送画
素が市松模様状に配列され、フィールド毎にオフセット
されていることが判る。
【0076】また、図13に示したサンプリングパター
ンを3次元的に表示したサンプリングパターンが図14
である。図14に示すサンプリングパターンは、各ライ
ン方向において通常4画素伝送する内で3画素が間引か
れていることを示している。ここで、線形一次結合モデ
ルは、5フィールドを用いるようにモデルを構築して係
数演算を1フィールド単位で行い、補間対象画素に対す
る未定係数を求めるモデルを使用している。このモデル
は、上述した1/4時空間間引きされた伝送画素を各フ
ィールド毎に供給し、5フィールドの実線枠内の伝送画
素を用いて図14に示したフィールド#3の中央画素
(◎)を補間対象画素として求めるための未定係数を算
出するモデルを示している。
【0077】なお、このモデルにおいて未定係数算出に
寄与する画素は、フィールド#1、#5に示すように実
線枠より広い領域の点線枠で囲まれた画素を用いるよう
にしてもよい。しかしながら、算出する係数の数は増え
てしまう。このモデルに従って図12に示した間引きサ
ブサンプリング部11で間引き処理後の間引きされなか
った画素がサンプリングされて第1モデル対応係数算出
部23の第1モデル対応時系列変換部23aに供給され
る。
【0078】また、入力端子10を介して供給された伝
送画素もこの第1モデル対応時系列変換部23aに供給
されている。第1モデル対応時系列変換部23aは、こ
れらのデータに基づいてモデルに対応した正規方程式を
求め、正規方程式の各係数を第1係数演算部23bに出
力している。第1係数演算部23bは、この係数に基づ
いて行列演算を行い、最も残差を少なくする最確値とし
て係数1を出力する。この係数1は1/4間引きにおけ
る中央画素の推定に用いられる。
【0079】この係数1と間引きサブサンプリング部1
1からの出力がローカルデコーダ24に供給される。ロ
ーカルデコーダ24は、モデルにおける補間されるべき
画素の算出を行い、算出した補間画素を第2モデル対応
係数算出部25の第2モデル対応時系列変換部25aに
供給する。ここで1/2間引きの線形一次結合モデルに
対応する正規方程式がこの第2モデル対応時系列変換部
25aで算出される。算出した係数が第2係数演算部に
される。第2係数演算部25bで最小二乗法により求め
られた係数を用いて未定係数である係数2を算出する。
このようにして1/2間引きにおける中央画素の両端側
の画素の推定に用いる係数2が出力端子26を介して出
力される。この場合の高能率符号化装置は、間引きされ
た伝送画素、係数1及び係数2を出力して圧縮率の高い
伝送を行っている。
【0080】時空間でサブサンプリングにより間引きさ
れた補間対象情報を伝送された例えば間引きされた伝送
画素、係数1及び係数2を上記受信情報として入力し、
これら伝送画素、係数1及び係数2に基づき補間処理を
施して元の情報の復元を行うことにより補間処理を施し
て上記受信情報から元の情報の復元を行う高能率復号化
装置におけるブロック構成を図15に示す。ここで、係
数1及び係数2と2組の係数を用いることにより、後述
するようにカスケード的な多段接続は2段になってい
る。
【0081】高能率復号化装置は、上記補間対象情報を
求めるための補間式にそれぞれ上記受信情報における間
引きされなかった伝送情報と上記補間式の未定係数用に
対応して決定された複数種類の係数の一つとを用いて上
記補間対象情報を生成する補間処理手段である第1モデ
ル対応補間処理部30aと、該第1モデル対応補間処理
部30aで生成された補間対象情報と上記受信情報とを
用いて伝送前の情報に対応した時系列情報に変換する時
系列変換手段である第1時系列変換部30bとで構成し
ている。
【0082】上記第2モデル対応補間部31も図示しな
いが第2モデル対応補間部31aと第2時系列変換部3
1bとで構成している。
【0083】実際、図15に示す高能率復号化装置は、
高能率復号化装置で上記受信情報中の伝送画素と伝送さ
れるモデルにおける未定係数に対応した1/4に時空間
間引きされた際の係数である係数2とを用いて上記受信
情報を復元するためモデルに対応した補間処理を行う第
1のモデル対応補間手段である第1モデル対応補間処理
部30と、該第1モデル対応補間処理部30で生成され
た補間情報と伝送されるモデルにおける未定係数に対応
した1/2に時空間間引きされた際の係数である係数1
とを用いて上記受信情報を復元するためモデルに対応し
た補間処理を行う第2のモデル対応補間手段である第2
モデル対応補間処理部31とを多段にカスケード接続し
て階層構造補間を行っている。
【0084】図15に示すこの高能率復号化装置は、間
引きされた伝送画素を入力端子27から第1モデル対応
補間処理部30内の第1時系列変換部30b及び第1モ
デル対応補間部30aに入力している。また、係数2が
入力端子28を介して第1モデル対応補間部30aに入
力されている。第1モデル対応補間部30aは、線形一
次結合モデルに対応した補間演算を行い、求めた補間画
素を第1時系列変換部30bに出力している。
【0085】第1時系列変換部30bは伝送画素とこの
補間画素に基づいて時系列変換を行ってモデル対応補間
部31に出力している。第2モデル対応補間部31は、
入力端子29を介して供給される係数1と第1時系列変
換部30bからの出力とに基づいて1/2間引きの線形
一次結合モデル対応の演算を第2モデル対応補間部31
aで行い、時系列変換を第2時系列変換部31bで行っ
て画質劣化のほとんどない元の画像に近い出力画像を出
力している。
【0086】このように補間計算を行う補間処理部は、
1/4時空間間引きの伝送画素から階層構造補間を行う
ためにエンコード側で1/4時空間間引きと1/2時空
間間引きにおける補間対象情報の画素を算出する係数演
算を2段カスケードの構成にして求めている。デコード
側の構成は、エンコード側の時空間間引きに対応して2
段カスケード構成に接続して各階層の補間対象情報の画
素を求めて画像の復元を行っている。時空間間引きを階
層構造補間の構成で行っても復元画像は、補間処理によ
って画質劣化のほとんどない画像が得られる。
【0087】この時空間間引きサブサンプリングを行っ
て圧縮した伝送から補間処理して画質劣化のほとんどな
い復元画像を求める方法は、図1及び図3に示した高能
率符号化及び復号化装置の構成から中央画素補間、中央
画素の左側画素の補間及び中央画素の右側画素の補間を
行うため3組の係数を要して行われる直接補間と図12
及び図15に示した高能率符号化及び復号化装置の構成
から中央画素補間、1/2間引きの線形一次結合モデル
に対応した中央画素補間に2組の係数組を用いて行う階
層構造補間の2つの方法がある。これらの方法は、前述
した実施例から明かなようにいずれの場合も補間処理に
より伝送されない画素を補間して画質劣化のほとんどな
い復元画像が得られる。
【0088】なお、上述した高能率符号化及び復号化装
置の実施例における階層構造補間の時空間間引きを1/
4に設定して2段のカスケード接続によって構成した
が、この時空間間引きに限定されるものでなく、一般に
1/2n 時空間間引き(n=1,2,3,・・・)のと
き、階層構造補間に要するカスケード接続をn段にすれ
ばよいことは明かである。カスケード接続の段数が増え
ればさらに伝送情報の圧縮率を高めることができるよう
になる。
【0089】このようにエンコード側で補間すべき画素
と伝送画素から線形一次結合モデルを作成し、このモデ
ルに対応する係数を最小二乗法により生成される正規方
程式の未定係数をパラメータとして用い、最確値を算出
して、伝送対象の画像に適したモデルに対応する伝送画
素と係数を伝送することにより、高い圧縮率の伝送を実
現することができる。
【0090】また、デコード側でこれら伝送画素と係数
から上記線形一次結合モデルに応じて補間画素を直接補
間と階層構造補間等で推定することにより、従来の伝送
画素に対して一律にかけていたフィルタ処理に比べてよ
り原画に近い補間画素、すなわち画質劣化がほとんどな
い補間画像を得ることができる。このようにして原画を
高い圧縮率で伝送し、画質劣化がほとんどない補間画像
を得ることができる。
【0091】
【発明の効果】以上の説明からも明らかなように、本発
明の高能率符号化装置によれば、入力情報に対して時空
間でのサブサンプリングを行い、間引きされた情報に対
して情報の圧縮を行って情報を送出する高能率符号化装
置において、上記入力情報に対して間引き操作を行って
出力する間引き手段と、該間引き手段での処理後の間引
きされなかった伝送情報を用いて間引きされた補間対象
情報を求める補間式の係数を未知数として補間処理を行
って得られた補間処理結果情報と上記入力情報から得ら
れる補間対象情報との誤差を最小にするための連立方程
式を作成し、この連立方程式を解いて上記未定係数に対
する最確値を算出する未定係数算出手段とを有し、上記
間引き手段からの出力情報と上記モデル対応係数算出手
段からの係数をそれぞれ出力することにより、品質劣化
のほとんどない画像の復元を行うための情報を送出する
ことができ、しかも高い圧縮率の伝送を行い、伝送量や
記録系の記録容量の削減に寄与することができる。
【0092】また、高能率復号化装置によれば、時空間
でサブサンプリングにより間引きされた補間対象情報を
伝送された受信情報に基づき補間処理を施して元の情報
の復元を行う高能率復号化装置において、上記補間対象
情報を求めるための係数が未定の補間式にそれぞれ上記
受信情報における間引きされなかった伝送情報と上記補
間式の未定係数に対応して伝送された係数とを代入して
上記補間対象情報を生成し、元の伝送情報を復元する補
間処理手段と、該補間処理手段で生成された補間対象情
報と上記伝送情報とを用いて伝送前の情報に対応した時
系列情報に変換する時系列変換手段とを有してなること
により、時空間間引きしても直接補間によって伝送され
ない画素を求めて画質劣化のほとんどない画像を得るこ
とができる。
【0093】また、上記高能率符号化装置と上記高能率
復号化装置とからなる高能率符号化及び復号化装置とい
うシステム構成によっても、入力情報を圧縮率の高い伝
送情報と係数を送出し、復号化装置の側で品質劣化のほ
とんどない画像を再現させることができる。
【0094】さらに、本発明の高能率符号化及び復号化
装置は、入力情報に対して時空間でのサブサンプリング
を行い、間引きされた情報に対して情報の圧縮を行って
情報を送出し、この情報圧縮された情報を受信して受信
情報に補間処理を施して上記入力情報の復元を行う高能
率符号化及び復号化装置において、上記入力情報に対し
て間引き操作を行って出力する間引き手段と、該間引き
手段での処理後の間引きされなかった伝送情報を用いて
間引きされた補間対象情報を求める補間式の係数を未知
数として補間処理を行って得られた補間処理結果情報と
上記入力情報から得られる補間対象情報との誤差を最小
にするための連立方程式を作成し、この連立方程式を解
いて上記未定係数に対する最確値を算出する未定係数算
出手段と、上記間引き手段からの上記伝送情報と上記補
間対象情報に対して計算で得られた情報と比較参照する
ための補間対象参照情報とを用いて上記未定係数算出手
段で補間対象にならなかった補間対象情報に対して、上
記補間式の係数を補間未知数として補間処理を行って得
られた補間処理結果情報と上記補間対象参照情報との誤
差を最小にするための連立方程式を作成し、この連立方
程式を解いて補間できなかった補間対象情報に対する補
間未定係数に対する最確値を算出する補間未定係数算出
手段とを有し、上記間引き手段の間引き量に応じて上記
未定係数算出手段以降に上記補間未定係数算出手段をカ
スケード的に接続して上記伝送情報及び上記未定係数に
対応する複数の係数を出力する高能率符号化装置と、該
高能率符号化装置からの上記伝送情報と上記複数種類の
係数を入力し、上記伝送情報と上記複数種類の係数の一
つとを用いて間引かれた上記補間対象情報を生成する補
間処理手段と、該補間処理手段で生成された補間対象情
報と上記受信情報とを用いて上記入力情報に対応した時
系列情報に変換する時系列変換手段とを有し、上記供給
される複数種類の係数の数に応じて上記補間処理手段及
び時系列変換手段とを一組としてカスケード的に接続
し、各組で使用する係数は対応する間引きの補間対象情
報を算出する際だけに用いてそれぞれ補間対象情報を生
成して元の上記入力情報を復元する高能率復号化装置と
からなることにより、時空間間引きで間引かれなかった
伝送情報と複数種類の係数から伝送されない補間対象情
報を補間処理して、高い圧縮率で伝送した画素にもかか
わらず、この復元された画像は従来の一律にフィルタ処
理して再現された画像に比べてより原画に近い補間画素
を求めて画像の復元を行うことができる。
【0095】また、上記未定係数は、上記間引き手段か
らの間引かれなかった伝送情報と未定係数の線形一次結
合で表された補間処理結果情報と、該補間処理結果情報
と入力情報から得られる補間対象情報との残差の加算結
果において、上記残差が最小にする値として最小二乗法
を用いて求めることにより、線形一次結合モデルに対応
する未定係数を算出し、伝送情報の圧縮に寄与すること
ができる。
【図面の簡単な説明】
【図1】本発明の高能率符号化装置の実施例における概
略的なブロック図である。
【図2】図1に示した高能率符号化装置のブロック図を
基にこの装置の動作原理を説明する模式図である。
【図3】本発明の高能率復号化装置の実施例における概
略的なブロック図である。
【図4】時間方向にタップを増やして1/2コマ落しを
行って伝送する場合、7フレームの中で4フレームの画
素を用いて係数演算に使用する画素のパターンを示した
模式図である。
【図5】図4に示したパターンに従って実際に伝送に使
用する画素情報のパターンを示した図である。
【図6】図4と同様に1/2コマ落しを行って伝送する
場合のサブサンプリングパターンの一例を示した図であ
る。
【図7】図6に示したパターンに従って実際に伝送に使
用する画素情報のパターンを示した図である。
【図8】3フレームを用いて1/2の時空間間引きを示
す係数算出に要する画素のパターンと実際の画素パター
ンを模式的に説明した図である。
【図9】時間方向にタップを増やした場合の1フレーム
毎にオフセットして市松模様状のサブサンプリングして
係数算出に要する画素のパターンと実際の画素パターン
を模式的に説明した図である。
【図10】空間方向にタップを増やした場合の1フレー
ム毎にオフセットしながら、水平方向に多く市松模様状
のサブサンプリングして係数算出に要する画素のパター
ンを模式的に説明した図である。
【図11】図10に示した画素のサンプリングパターン
を実際の画素パターンの各画素に数字を割り当てて表し
た模式図である。
【図12】本発明の高能率符号化装置の他の実施例にお
ける概略的なブロック図である。
【図13】図11に示した高能率符号化装置の動作原理
について説明する模式図である。
【図14】図13に示したサンプリングパターンを3次
元的に表示したサンプリングパターンの模式図である。
【図15】本発明の高能率復号化装置の他の実施例にお
ける概略的なブロック図である。
【符号の説明】
10、18、19・・入力端子 11・・・・・・・・間引きサブサンプリング部 12・・・・・・・・モデル対応係数演算部 12a・・・・・・・正規方程式生成部 12b・・・・・・・係数演算部 20・・・・・・・・モデル対応補間演算部 21・・・・・・・・時系列変換部 13、14、22・・出力端子

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 入力情報に対して時空間でのサブサンプ
    リングを行い、間引きされた情報に対して情報の圧縮を
    行って情報を送出する高能率符号化装置において、 上記入力情報に対して間引き操作を行って出力する間引
    き手段と、 該間引き手段での処理後の間引きされなかった伝送情報
    を用いて間引きされた補間対象情報を求める補間式の係
    数を未知数として補間処理を行って得られた補間処理結
    果情報と上記入力情報から得られる補間対象情報との誤
    差を最小にするための連立方程式を作成し、この連立方
    程式を解いて上記未定係数に対する最確値を算出する未
    定係数算出手段とを有し、 上記間引き手段からの出力情報と上記モデル対応係数算
    出手段からの係数をそれぞれ出力することを特徴とする
    高能率符号化装置。
  2. 【請求項2】 時空間でサブサンプリングにより間引き
    された補間対象情報を伝送された受信情報に基づき補間
    処理を施して元の情報の復元を行う高能率復号化装置に
    おいて、 上記補間対象情報を求めるための係数が未定の補間式に
    それぞれ上記受信情報における間引きされなかった伝送
    情報と上記補間式の未定係数に対応して伝送された係数
    とを代入して上記補間対象情報を生成し、元の伝送情報
    を復元する補間処理手段と、 該補間処理手段で生成された補間対象情報と上記伝送情
    報とを用いて伝送前の情報に対応した時系列情報に変換
    する時系列変換手段とを有してなることを特徴とする高
    能率復号化装置。
  3. 【請求項3】 入力情報に対して時空間でのサブサンプ
    リングを行い、間引きされた情報に対して情報の圧縮を
    行って情報を送出し、この情報圧縮された情報を受信し
    てこの受信情報に基づいて補間処理を施して上記入力情
    報の復元を行う高能率符号化及び復号化装置において、 入力情報に対して間引き操作を行って出力する間引き手
    段と、 該間引き手段で間引きされなかった伝送情報を用いて間
    引きされた補間対象情報を求める補間式の係数を未知数
    として補間処理を行って得られた補間処理結果情報と上
    記入力情報から得られる補間対象情報との誤差を最小に
    するための連立方程式を作成し、この連立方程式を解い
    て上記未定係数に対する最確値を算出する未定係数算出
    手段と、 上記間引き手段と上記未定係数算出手段からそれぞれ供
    給される上記伝送情報と上記未定係数に対して決定され
    た係数を補正式に代入して間引きされた補間対象情報を
    生成する補間対象情報生成手段と、 該補間対象情報生成手段で生成された補間対象情報と上
    記受信情報とを用いて上記入力情報に対応した時系列情
    報に変換する時系列変換手段とを有してなることを特徴
    とする高能率符号化及び復号化装置。
  4. 【請求項4】 入力情報に対して時空間でのサブサンプ
    リングを行い、間引きされた情報に対して情報の圧縮を
    行って情報を送出する高能率符号化装置において、 上記入力情報に対して間引き操作を行って出力する間引
    き手段と、 該間引き手段での処理後の間引きされなかった伝送情報
    を用いて間引きされた補間対象情報を求める補間式の係
    数を未知数として補間処理を行って得られた補間処理結
    果情報と上記入力情報から得られる補間対象情報との誤
    差を最小にするための連立方程式を作成し、この連立方
    程式を解いて上記未定係数に対する最確値を算出する未
    定係数算出手段と、 上記間引き手段からの上記伝送情報と上記補間対象情報
    に対して計算で得られた情報と比較参照するための補間
    対象参照情報とを用いて上記未定係数算出手段で補間対
    象にならなかった補間対象情報を生成するための係数を
    補間未知数として補間処理を行って得られた補間処理結
    果情報と上記補間対象参照情報との誤差を最小にするた
    めの連立方程式を作成し、この連立方程式を解いて補間
    できなかった補間対象情報に対する補間未定係数に対す
    る最確値を算出する補間未定係数算出手段とを有し、 上記間引き手段の間引き量に応じて上記未定係数算出手
    段以降に上記補間未定係数算出手段をカスケード的に接
    続して上記伝送情報及び上記未定係数に対応する複数の
    係数を出力することを特徴とする高能率符号化装置。
  5. 【請求項5】 時空間でサブサンプリングにより間引き
    された補間対象情報を伝送された受信情報に基づき補間
    処理を施して元の情報の復元を行う高能率復号化装置に
    おいて、 上記補間対象情報を求めるための補間式にそれぞれ上記
    受信情報における間引きされなかった伝送情報と上記補
    間式の未定係数用に対応して決定された複数種類の係数
    の一つとを用いて上記補間対象情報を生成する補間処理
    手段と、 該補間処理手段で生成された補間対象情報と上記受信情
    報とを用いて伝送前の情報に対応した時系列情報に変換
    する時系列変換手段とを有し、 上記供給される複数種類の係数の数に応じて上記補間処
    理手段及び時系列変換手段とを一組としてカスケード的
    に接続し、各組で使用する係数を対応する間引きの補間
    対象情報を算出する際だけに用いてそれぞれ補間対象情
    報を生成して伝送前の情報を復元することを特徴とする
    高能率復号化装置。
  6. 【請求項6】 入力情報に対して時空間でのサブサンプ
    リングを行い、間引きされた情報に対して情報の圧縮を
    行って情報を送出し、この情報圧縮された情報を受信し
    て受信情報に補間処理を施して上記入力情報の復元を行
    う高能率符号化及び復号化装置において、 上記入力情報に対して間引き操作を行って出力する間引
    き手段と、 該間引き手段での処理後の間引きされなかった伝送情報
    を用いて間引きされた補間対象情報を求める補間式の係
    数を未知数として補間処理を行って得られた補間処理結
    果情報と上記入力情報から得られる補間対象情報との誤
    差を最小にするための連立方程式を作成し、この連立方
    程式を解いて上記未定係数に対する最確値を算出する未
    定係数算出手段と、 上記間引き手段からの上記伝送情報と上記補間対象情報
    に対して計算で得られた情報と比較参照するための補間
    対象参照情報とを用いて上記未定係数算出手段で補間対
    象にならなかった補間対象情報を生成するための係数を
    補間未知数として補間処理を行って得られた補間処理結
    果情報と上記補間対象参照情報との誤差を最小にするた
    めの連立方程式を作成し、この連立方程式を解いて補間
    できなかった補間対象情報に対する補間未定係数に対す
    る最確値を算出する補間未定係数算出手段とを有し、 上記間引き手段の間引き量に応じて上記未定係数算出手
    段以降に上記補間未定係数算出手段をカスケード的に接
    続して上記伝送情報及び上記未定係数に対応する複数の
    係数を出力する高能率符号化装置と、 該高能率符号化装置からの上記伝送情報と上記複数種類
    の係数を入力し、上記伝送情報と上記複数種類の係数の
    一つとを用いて間引かれた上記補間対象情報を生成する
    補間処理手段と、 該補間処理手段で生成された補間対象情報と上記受信情
    報とを用いて上記入力情報に対応した時系列情報に変換
    する時系列変換手段とを有し、 上記供給される複数種類の係数の数に応じて上記補間処
    理手段及び時系列変換手段とを一組としてカスケード的
    に接続し、各組で使用する係数は対応する間引きの補間
    対象情報を算出する際だけに用いてそれぞれ補間対象情
    報を生成して元の上記入力情報を復元する高能率復号化
    装置とからなることを特徴とする高能率符号化復号化装
    置。
  7. 【請求項7】 上記未定係数は、上記間引き手段からの
    間引かれなかった伝送情報と未定係数の線形一次結合で
    表された補間処理結果情報と、該補間処理結果情報と入
    力情報から得られる補間対象情報との残差の加算結果に
    おいて、上記残差が最小にする値として最小二乗法を用
    いて求めることを特徴とする請求項1〜6記載の高能率
    符号化及び/又は復号化装置。
JP30384792A 1992-11-13 1992-11-13 高能率符号化及び/又は復号化装置 Expired - Lifetime JP3104439B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP30384792A JP3104439B2 (ja) 1992-11-13 1992-11-13 高能率符号化及び/又は復号化装置
US08/149,383 US5517245A (en) 1992-11-13 1993-11-09 High efficiency encoding and/or decoding apparatus
DE69330234T DE69330234T2 (de) 1992-11-13 1993-11-12 Hocheffiziente Vorrichtung zur Kodierung und/oder Dekodierung
EP19930309060 EP0597724B1 (en) 1992-11-13 1993-11-12 High efficiency encoding and/or decoding apparatus
EP19980106078 EP0862329B1 (en) 1992-11-13 1993-11-12 High efficiency encoding and/or decoding apparatus
DE69321557T DE69321557T2 (de) 1992-11-13 1993-11-12 Vorrichtung zur Kodierung und/oder Dekodierung mit hoher Wirksamheit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP30384792A JP3104439B2 (ja) 1992-11-13 1992-11-13 高能率符号化及び/又は復号化装置

Publications (2)

Publication Number Publication Date
JPH06152432A true JPH06152432A (ja) 1994-05-31
JP3104439B2 JP3104439B2 (ja) 2000-10-30

Family

ID=17926024

Family Applications (1)

Application Number Title Priority Date Filing Date
JP30384792A Expired - Lifetime JP3104439B2 (ja) 1992-11-13 1992-11-13 高能率符号化及び/又は復号化装置

Country Status (4)

Country Link
US (1) US5517245A (ja)
EP (2) EP0862329B1 (ja)
JP (1) JP3104439B2 (ja)
DE (2) DE69330234T2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001086820A1 (en) * 2000-05-09 2001-11-15 Sony Corporation Data processing device and data processing method, and recorded medium
WO2002060069A1 (en) * 2001-01-25 2002-08-01 Sony Corporation Data processing apparatus
US7082220B2 (en) 2001-01-25 2006-07-25 Sony Corporation Data processing apparatus
JP2009253742A (ja) * 2008-04-08 2009-10-29 Fujifilm Corp 画像処理システム、画像処理方法、およびプログラム
JP2011259448A (ja) * 2004-08-18 2011-12-22 Qualcomm Incorporated 符号器補助式適応ビデオフレーム内挿法
JP2012175466A (ja) * 2011-02-22 2012-09-10 Nippon Hoso Kyokai <Nhk> 画像縮小装置、画像拡大装置、画像縮小プログラム、及び画像拡大プログラム

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5614952A (en) * 1994-10-11 1997-03-25 Hitachi America, Ltd. Digital video decoder for decoding digital high definition and/or digital standard definition television signals
JP3781203B2 (ja) * 1994-11-28 2006-05-31 ソニー株式会社 画像信号補間装置及び画像信号補間方法
AU718453B2 (en) 1996-07-17 2000-04-13 Sony Corporation Image coding and decoding using mapping coefficients corresponding to class information of pixel blocks
US6292591B1 (en) * 1996-07-17 2001-09-18 Sony Coporation Image coding and decoding using mapping coefficients corresponding to class information of pixel blocks
US6381369B1 (en) 1996-07-17 2002-04-30 Sony Corporation Image coding apparatus, image coding method, image decoding method, image decoding apparatus, image data transmitting method and recording medium
TW359919B (en) 1996-07-17 1999-06-01 Sony Corp Image coding apparatus, image coding method, image decoding method, image decoding apparatus, image data transmitting method and recording medium
AU714554B2 (en) 1996-07-17 2000-01-06 Sony Corporation Image coding and decoding using mapping coefficients corresponding to class information of pixel blocks
EP0892558B1 (en) * 1996-12-26 2003-03-12 Sony Corporation Picture signal coding device, picture signal coding method, picture signal decoding device, picture signal decoding method, and recording medium
IL128423A (en) * 1997-06-16 2003-07-31 Sony Corp Image processing device and method, and transmission medium, tramsmission method and image format
US6061400A (en) * 1997-11-20 2000-05-09 Hitachi America Ltd. Methods and apparatus for detecting scene conditions likely to cause prediction errors in reduced resolution video decoders and for using the detected information
US6370192B1 (en) 1997-11-20 2002-04-09 Hitachi America, Ltd. Methods and apparatus for decoding different portions of a video image at different resolutions
JP3915855B2 (ja) 1997-12-19 2007-05-16 ソニー株式会社 画像符号化装置および画像符号化方法、並びに学習装置および学習方法
JP4277446B2 (ja) * 2000-12-26 2009-06-10 ソニー株式会社 情報信号処理装置、情報信号処理方法、画像信号処理装置およびそれを使用した画像表示装置、それに使用される係数種データ生成装置および生成方法、並びに記録媒体
US7006695B2 (en) * 2000-12-27 2006-02-28 Ricoh Company, Ltd. Image compression/decompression system employing pixel thinning-out and interpolation scheme
US7257664B2 (en) * 2001-12-21 2007-08-14 Lambert Everest Ltd. Adaptive error resilience for signal transmission over a network
JP4055203B2 (ja) * 2002-09-12 2008-03-05 ソニー株式会社 データ処理装置およびデータ処理方法、記録媒体、並びにプログラム
US7492821B2 (en) * 2005-02-08 2009-02-17 International Business Machines Corporation System and method for selective image capture, transmission and reconstruction
JP2006340300A (ja) * 2005-06-06 2006-12-14 Fujifilm Holdings Corp 信号処理方法及び信号処理装置、並びに信号処理プログラム及び情報記録媒体
US8494053B2 (en) * 2007-01-03 2013-07-23 International Business Machines Corporation Method and apparatus of temporal filtering for side information interpolation and extrapolation in Wyner-Ziv video compression systems
US8487982B2 (en) * 2007-06-07 2013-07-16 Reald Inc. Stereoplexing for film and video applications
EP2232875A2 (en) * 2008-01-11 2010-09-29 Thomson Licensing Video and depth coding
JP5346076B2 (ja) * 2008-04-25 2013-11-20 トムソン ライセンシング 奥行きを用いた視点間スキップモード
WO2009131703A2 (en) * 2008-04-25 2009-10-29 Thomson Licensing Coding of depth signal
EP2329653B1 (en) * 2008-08-20 2014-10-29 Thomson Licensing Refined depth map
CN102272778B (zh) 2009-01-07 2015-05-20 汤姆森特许公司 联合深度估计
JP5693716B2 (ja) * 2010-07-08 2015-04-01 ドルビー ラボラトリーズ ライセンシング コーポレイション 参照処理信号を使った多層画像およびビデオ送達のためのシステムおよび方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0644815B2 (ja) * 1984-04-27 1994-06-08 日本電気株式会社 動物体の動き内挿装置
JPH0746862B2 (ja) * 1985-11-30 1995-05-17 ソニー株式会社 駒落とし圧縮符号化及び復号化方法
JPS63215185A (ja) * 1987-03-03 1988-09-07 Matsushita Electric Ind Co Ltd サブナイキスト符号化装置および復号化装置
JPH01181395A (ja) * 1988-01-14 1989-07-19 Canon Inc ビデオ信号符号化装置
US4891699A (en) * 1989-02-23 1990-01-02 Matsushita Electric Industrial Co., Ltd. Receiving system for band-compression image signal
US5032910A (en) * 1989-10-02 1991-07-16 Eastman Kodak Company Mechanism for producing interpolated color values for a sampled color image signal using a linear equation technique

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7283678B2 (en) 2000-05-09 2007-10-16 Sony Corporation Data processing apparatus and method and recording medium
US7336829B2 (en) 2000-05-09 2008-02-26 Sony Corporation Data processing apparatus and method and recording medium
US7289671B2 (en) 2000-05-09 2007-10-30 Sony Corporation Data processing apparatus and method and recording medium
US7035471B2 (en) 2000-05-09 2006-04-25 Sony Corporation Data processing device and data processing method and recorded medium
WO2001086820A1 (en) * 2000-05-09 2001-11-15 Sony Corporation Data processing device and data processing method, and recorded medium
US7206452B2 (en) 2000-05-09 2007-04-17 Sony Corporation Data processing apparatus and method and recording medium
US7082220B2 (en) 2001-01-25 2006-07-25 Sony Corporation Data processing apparatus
JP2002223167A (ja) * 2001-01-25 2002-08-09 Sony Corp データ処理装置およびデータ処理方法、並びにプログラムおよび記録媒体
WO2002060069A1 (en) * 2001-01-25 2002-08-01 Sony Corporation Data processing apparatus
KR100847179B1 (ko) * 2001-01-25 2008-07-17 소니 가부시끼 가이샤 데이터 처리 장치, 방법 및 기록 매체
JP4507046B2 (ja) * 2001-01-25 2010-07-21 ソニー株式会社 データ処理装置およびデータ処理方法、並びにプログラムおよび記録媒体
JP2011259448A (ja) * 2004-08-18 2011-12-22 Qualcomm Incorporated 符号器補助式適応ビデオフレーム内挿法
JP2014042289A (ja) * 2004-08-18 2014-03-06 Qualcomm Incorporated 符号器補助式適応ビデオフレーム内挿法
US8861601B2 (en) 2004-08-18 2014-10-14 Qualcomm Incorporated Encoder-assisted adaptive video frame interpolation
US9503739B2 (en) 2004-08-18 2016-11-22 Qualcomm Incorporated Encoder-assisted adaptive video frame interpolation
JP2009253742A (ja) * 2008-04-08 2009-10-29 Fujifilm Corp 画像処理システム、画像処理方法、およびプログラム
JP2012175466A (ja) * 2011-02-22 2012-09-10 Nippon Hoso Kyokai <Nhk> 画像縮小装置、画像拡大装置、画像縮小プログラム、及び画像拡大プログラム

Also Published As

Publication number Publication date
EP0862329A1 (en) 1998-09-02
DE69321557D1 (de) 1998-11-19
DE69330234D1 (de) 2001-06-21
DE69330234T2 (de) 2001-11-22
US5517245A (en) 1996-05-14
DE69321557T2 (de) 1999-04-01
EP0862329B1 (en) 2001-05-16
EP0597724A2 (en) 1994-05-18
EP0597724A3 (en) 1994-09-28
JP3104439B2 (ja) 2000-10-30
EP0597724B1 (en) 1998-10-14

Similar Documents

Publication Publication Date Title
JP3104439B2 (ja) 高能率符号化及び/又は復号化装置
JP2795420B2 (ja) デジタル化映像信号の圧縮方法とその装置及びシステム
JP4126709B2 (ja) 画像処理装置および画像処理方法
KR20000028961A (ko) 다운 변환 시스템용 업샘플링 필터
US8090031B2 (en) Method for motion compensation
JP3271095B2 (ja) ディジタル画像信号の高能率符号化装置および復号装置
JP3759537B2 (ja) 画像信号伝送装置及び画像信号伝送方法
JP3759538B2 (ja) 画像信号処理方法及び画像信号伝送装置
EP0390471B1 (en) Predictive coding device
EP0944264B1 (en) Apparatus and method of encoding/decoding moving picture and storage medium storing encoded moving picture
JP3271096B2 (ja) ディジタル画像信号処理装置
JP3480461B2 (ja) ディジタル画像信号処理装置および処理方法
JP3906770B2 (ja) ディジタル画像信号処理装置および方法
JP3867697B2 (ja) 画像信号生成装置および生成方法
JPH07162849A (ja) ディジタル画像信号の処理装置
JPH0385080A (ja) 動画像の直交変換符号化方式およびその復号化の方式
JP3627258B2 (ja) ディジタル画像信号の高能率符号化および復号装置
JP2814482B2 (ja) 高能率符号の復号装置及び復号方法
JP3347603B2 (ja) 符号化装置及び復号化装置
JP3906832B2 (ja) 画像信号処理装置および処理方法
JP2798244B2 (ja) 高能率符号の復号装置
JP3746305B2 (ja) 画像信号生成装置および方法、並びにディジタル画像信号処理装置および方法
JP2000004436A (ja) 画像処理装置および画像処理方法、並びに伝送媒体および伝送方法
JPH0530496A (ja) 符号化方法及び符号化装置
JPS63313978A (ja) 高能率符号の復号装置

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20000801

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080901

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090901

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100901

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110901

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120901

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120901

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130901

Year of fee payment: 13

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130901

Year of fee payment: 13