JP4678454B2 - データ処理装置およびデータ処理方法、並びに記録媒体 - Google Patents

データ処理装置およびデータ処理方法、並びに記録媒体 Download PDF

Info

Publication number
JP4678454B2
JP4678454B2 JP2000164024A JP2000164024A JP4678454B2 JP 4678454 B2 JP4678454 B2 JP 4678454B2 JP 2000164024 A JP2000164024 A JP 2000164024A JP 2000164024 A JP2000164024 A JP 2000164024A JP 4678454 B2 JP4678454 B2 JP 4678454B2
Authority
JP
Japan
Prior art keywords
data
class
tap
teacher
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000164024A
Other languages
English (en)
Other versions
JP2001346209A (ja
Inventor
哲二郎 近藤
威 國弘
丈晴 西片
真史 内田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000164024A priority Critical patent/JP4678454B2/ja
Publication of JP2001346209A publication Critical patent/JP2001346209A/ja
Application granted granted Critical
Publication of JP4678454B2 publication Critical patent/JP4678454B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Description

【０００１】
【発明の属する技術分野】
本発明は、データ処理装置およびデータ処理方法、並びに記録媒体に関し、特に、例えば、不可逆圧縮された画像等を復号する場合等に用いて好適なデータ処理装置およびデータ処理方法、並びに記録媒体に関する。
【０００２】
【従来の技術】
例えば、ディジタル画像データは、そのデータ量が多いため、そのまま記録や伝送を行うには、大容量の記録媒体や伝送媒体が必要となる。そこで、一般には、画像データを圧縮符号化することにより、そのデータ量を削減してから、記録や伝送が行われる。
【０００３】
画像を圧縮符号化する方式としては、例えば、静止画の圧縮符号化方式であるＪＰＥＧ(Joint Photographic Experts Group)方式や、動画の圧縮符号化方式であるＭＰＥＧ(Moving Picture Experts Group)方式等がある。
【０００４】
例えば、ＪＰＥＧ方式による画像データの符号化／復号は、図１に示すように行われる。
【０００５】
即ち、図１（Ａ）は、従来のＪＰＥＧ符号化装置の一例の構成を示している。
【０００６】
符号化対象の画像データは、ブロック化回路１に入力され、ブロック化回路１は、そこに入力される画像データを、８×８画素の６４画素でなるブロックに分割する。ブロック化回路１で得られる各ブロックは、ＤＣＴ(Discrete Cosine Transform)回路２に供給される。ＤＣＴ回路２は、ブロック化回路１からのブロックに対して、ＤＣＴ（離散コサイン変換）処理を施し、１個のＤＣ(Direct Current)成分（直流成分）と、水平方向および垂直方向についての６３個の周波数成分（ＡＣ(Alternating Current)成分）（交流成分）の、合計６４個のＤＣＴ係数に変換する。各ブロックごとの６４個のＤＣＴ係数は、ＤＣＴ回路２から量子化回路３に供給される。
【０００７】
量子化回路３は、所定の量子化テーブルにしたがって、ＤＣＴ回路２からのＤＣＴ係数を量子化し、その量子化結果（以下、適宜、量子化ＤＣＴ係数という）を、量子化に用いた量子化テーブルとともに、エントロピー符号化回路４に供給する。
【０００８】
ここで、図１（Ｂ）は、量子化回路３において用いられる量子化テーブルの例を示している。量子化テーブルには、一般に、人間の視覚特性を考慮して、重要性の高い低周波数のＤＣＴ係数は細かく量子化し、重要性の低い高周波数のＤＣＴ係数は粗く量子化するような量子化ステップが設定されており、これにより、画像の画質の劣化を抑えて、効率の良い圧縮が行われるようになっている。
【０００９】
エントロピー符号化回路４は、量子化回路３からの量子化ＤＣＴ係数に対して、例えば、ハフマン符号化等のエントロピー符号化処理を施して、量子化回路３からの量子化テーブルを付加し、その結果得られる符号化データを、ＪＰＥＧ符号化結果として出力する。
【００１０】
次に、図１（Ｃ）は、図１（Ａ）のＪＰＥＧ符号化装置が出力する符号化データを復号する、従来のＪＰＥＧ復号装置の一例の構成を示している。
【００１１】
符号化データは、エントロピー復号回路１１に入力され、エントロピー復号回路１１は、符号化データを、エントロピー符号化された量子化ＤＣＴ係数と、量子化テーブルとに分離する。さらに、エントロピー復号回路１１は、エントロピー符号化された量子化ＤＣＴ係数をエントロピー復号し、その結果得られる量子化ＤＣＴ係数を、量子化テーブルとともに、逆量子化回路１２に供給する。逆量子化回路１２は、エントロピー復号回路１１からの量子化ＤＣＴ係数を、同じくエントロピー復号回路１１からの量子化テーブルにしたがって逆量子化し、その結果得られるＤＣＴ係数を、逆ＤＣＴ回路１３に供給する。逆ＤＣＴ回路１３は、逆量子化回路１２からのＤＣＴ係数に、逆ＤＣＴ処理を施し、その結果られる８×８画素の（復号）ブロックを、ブロック分解回路１４に供給する。ブロック分解回路１４は、逆ＤＣＴ回路１３からのブロックのブロック化を解くことで、復号画像を得て出力する。
【００１２】
【発明が解決しようとする課題】
図１（Ａ）のＪＰＥＧ符号化装置では、その量子化回路３において、ブロックの量子化に用いる量子化テーブルの量子化ステップを大きくすることにより、符号化データのデータ量を削減することができる。即ち、高圧縮を実現することができる。
【００１３】
しかしながら、量子化ステップを大きくすると、いわゆる量子化誤差も大きくなることから、図１（Ｃ）のＪＰＥＧ復号装置で得られる復号画像の画質が劣化する。即ち、復号画像には、ぼけや、ブロック歪み、モスキートノイズ等が顕著に現れる。
【００１４】
従って、符号化データのデータ量の削減しながら、復号画像の画質を劣化させないようにするには、あるいは、符号化データのデータ量を維持して、復号画像の画質を向上させるには、ＪＰＥＧ復号した後に、何らかの画質向上のための処理を行う必要がある。
【００１５】
しかしながら、ＪＰＥＧ復号した後に、画質向上のための処理を行うことは、処理が煩雑になり、最終的に復号画像が得られるまでの時間も長くなる。
【００１６】
本発明は、このような状況に鑑みてなされたものであり、ＪＰＥＧ符号化された画像等から、効率的に、画質の良い復号画像を得ること等ができるようにするものである。
【００１７】
【課題を解決するための手段】
本発明の第１のデータ処理装置は、学習を行うことにより求められたタップ係数を取得する取得手段と、注目しているデータである注目データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる変換データを、少なくとも、注目データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出手段と、クラスタップとなっている変換データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目データのクラスを求めるクラス分類を行うクラス分類手段と、注目データのクラスのタップ係数と、変換データとの線形１次予測演算を行うことにより、注目データの予測値を求める演算手段とを備え、タップ係数は、学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを、学習時の生徒となる生徒データとして生成し、学習時の教師となる教師データとして用いられるデータのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる生徒データを、少なくとも、注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力し、クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目教師データのクラスを求めるクラス分類を行い、クラスごとのタップ係数と、生徒データとの線形１次予測演算を行うことにより得られる教師データの予測値の予測誤差が、統計的に最小になるように学習を行う学習処理によりクラスごとに求められたものであることを特徴とする。
【００１９】
第１のデータ処理装置には、タップ係数を記憶している記憶手段をさらに設けることができ、この場合、取得手段には、記憶手段から、タップ係数を取得させることができる。
【００２２】
第１のデータ処理装置において、クラスタップ抽出手段には、注目データに対応するブロックの周辺のブロックから、クラスタップとする変換データを抽出させることができる。
【００２３】
第１のデータ処理装置において、クラスタップ抽出手段には、注目データに対応するブロックからも、クラスタップとする変換データを抽出させることができる。
【００２５】
第１のデータ処理装置において、データは、動画または静止画の画像データとすることができる。
【００２６】
本発明の第１のデータ処理方法は、学習を行うことにより求められたタップ係数を取得する取得ステップと、注目しているデータである注目データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる変換データを、少なくとも、注目データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出ステップと、クラスタップとなっている変換データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目データのクラスを求めるクラス分類を行うクラス分類ステップと、注目データのクラスのタップ係数と、変換データとの線形１次予測演算を行うことにより、注目データの予測値を求める演算ステップとを備え、タップ係数は、学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを、学習時の生徒となる生徒データとして生成し、学習時の教師となる教師データとして用いられるデータのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる生徒データを、少なくとも、注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力し、クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目教師データのクラスを求めるクラス分類を行い、クラスごとのタップ係数と、生徒データとの線形１次予測演算を行うことにより得られる教師データの予測値の予測誤差が、統計的に最小になるように学習を行う学習処理によりクラスごとに求められたものであることを特徴とする。
【００２７】
本発明の第１の記録媒体は、学習を行うことにより求められたタップ係数を取得する取得ステップと、注目しているデータである注目データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる変換データを、少なくとも、注目データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出ステップと、クラスタップとなっている変換データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目データのクラスを求めるクラス分類を行うクラス分類ステップと、注目データのクラスのタップ係数と、変換データとの線形１次予測演算を行うことにより、注目データの予測値を求める演算ステップとを実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体であり、タップ係数は、学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを、学習時の生徒となる生徒データとして生成し、学習時の教師となる教師データとして用いられるデータのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる生徒データを、少なくとも、注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力し、クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目教師データのクラスを求めるクラス分類を行い、クラスごとのタップ係数と、生徒データとの線形１次予測演算を行うことにより得られる教師データの予測値の予測誤差が、統計的に最小になるように学習を行う学習処理によりクラスごとに求められたものであることを特徴とする。
【００２８】
本発明の第２のデータ処理装置は、学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを、学習時の生徒となる生徒データとして生成する生成手段と、学習時の教師となる教師データとして用いられるデータのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる生徒データを、少なくとも、注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出手段と、クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目教師データのクラスを求めるクラス分類を行うクラス分類手段と、クラスごとのタップ係数と、生徒データとの線形１次予測演算を行うことにより得られる教師データの予測値の予測誤差が、統計的に最小になるように学習を行い、タップ係数を、クラスごとに求める学習手段とを備えることを特徴とする。
【００３２】
第２のデータ処理装置において、クラスタップ抽出手段には、注目教師データに対応するブロックの周辺のブロックから、クラスタップとする生徒データを抽出させることができる。
【００３３】
第２のデータ処理装置において、クラスタップ抽出手段には、注目教師データに対応するブロックからも、クラスタップとする生徒データを抽出させることができる。
【００３４】
第２のデータ処理装置において、データは、動画または静止画の画像データとすることができる。
【００３５】
本発明の第２のデータ処理方法は、学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを、学習時の生徒となる生徒データとして生成する生成ステップと、学習時の教師となる教師データとして用いられるデータのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる生徒データを、少なくとも、注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出ステップと、クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目教師データのクラスを求めるクラス分類を行うクラス分類ステップと、クラスごとのタップ係数と、生徒データとの線形１次予測演算を行うことにより得られる教師データの予測値の予測誤差が、統計的に最小になるように学習を行い、タップ係数を、クラスごとに求める学習ステップとを備えることを特徴とする。
【００３６】
本発明の第２の記録媒体は、学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを、学習時の生徒となる生徒データとして生成する生成ステップと、学習時の教師となる教師データとして用いられるデータのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる生徒データを、少なくとも、注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出ステップと、クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目教師データのクラスを求めるクラス分類を行うクラス分類ステップと、クラスごとのタップ係数と、生徒データとの線形１次予測演算を行うことにより得られる教師データの予測値の予測誤差が、統計的に最小になるように学習を行い、タップ係数を、クラスごとに求める学習ステップとを実行させるためのプログラムが記録されていることを特徴とする。
【００３７】
本発明の第１のデータ処理装置およびデータ処理方法、並びに記録媒体においては、注目データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる変換データが、少なくとも、注目データに対応するブロック以外のブロックから抽出され、クラスタップとして出力される。そして、そのクラスタップとなっている変換データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目データのクラスを求めるクラス分類が行われ、注目データのクラスのタップ係数と、変換データとの線形１次予測演算を行うことにより、注目データの予測値が求められる。そして、タップ係数は、学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを、学習時の生徒となる生徒データとして生成し、学習時の教師となる教師データとして用いられるデータのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる生徒データを、少なくとも、注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力し、クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目教師データのクラスを求めるクラス分類を行い、クラスごとのタップ係数と、生徒データとの線形１次予測演算を行うことにより得られる教師データの予測値の予測誤差が、統計的に最小になるように学習を行う学習処理によりクラスごとに求められたものである。
【００３８】
本発明の第２のデータ処理装置およびデータ処理方法、並びに記録媒体においては、注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる生徒データが、少なくとも、注目教師データに対応するブロック以外のブロックから抽出され、クラスタップとして出力される。さらに、そのクラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、注目教師データのクラスを求めるクラス分類が行われる。そして、クラスごとのタップ係数と、生徒データとの線形１次予測演算を行うことにより得られる教師データの予測値の予測誤差が、統計的に最小になるように学習が行われ、タップ係数が、クラスごとに求められる。
【００３９】
【発明の実施の形態】
図２は、本発明を適用した画像伝送システムの一実施の形態の構成例を示している。
【００４０】
伝送すべき画像データは、エンコーダ２１に供給されるようになっており、エンコーダ２１は、そこに供給される画像データを、例えば、ＪＰＥＧ符号化し、符号化データとする。即ち、エンコーダ２１は、例えば、前述の図１（Ａ）に示したＪＰＥＧ符号化装置と同様に構成されており、画像データをＪＰＥＧ符号化する。エンコーダ２１がＪＰＥＧ符号化を行うことにより得られる符号化データは、例えば、半導体メモリ、光磁気ディスク、磁気ディスク、光ディスク、磁気テープ、相変化ディスクなどでなる記録媒体２３に記録され、あるいは、また、例えば、地上波、衛星回線、ＣＡＴＶ（Cable Television）網、インターネット、公衆回線などでなる伝送媒体２４を介して伝送される。
【００４１】
デコーダ２２は、記録媒体２３または伝送媒体２４を介して提供される符号化データを受信して、元の画像データに復号する。この復号化された画像データは、例えば、図示せぬモニタに供給されて表示等される。
【００４２】
次に、図３は、図２のデコーダ２２の構成例を示している。
【００４３】
符号化データは、エントロピー復号回路３１に供給されるようになっており、エントロピー復号回路３１は、符号化データを、エントロピー復号して、その結果得られるブロックごとの量子化ＤＣＴ係数Ｑを、係数変換回路３２に供給する。なお、符号化データには、図１（Ｃ）のエントロピー復号回路１１で説明した場合と同様に、エントロピー符号化された量子化ＤＣＴ係数の他、量子化テーブルも含まれるが、量子化テーブルは、後述するように、必要に応じて、量子化ＤＣＴ係数の復号に用いることが可能である。
【００４４】
係数変換回路３２は、エントロピー復号回路３１からの量子化ＤＣＴ係数Ｑと、後述する学習を行うことにより求められるタップ係数を用いて、所定の予測演算を行うことにより、ブロックごとの量子化ＤＣＴ係数を、８×８画素の元のブロックに復号する。
【００４５】
ブロック分解回路３３は、係数変換回路３２において得られる、復号されたブロック（復号ブロック）のブロック化を解くことで、復号画像を得て出力する。
【００４６】
次に、図４のフローチャートを参照して、図３のデコーダ２２の処理について説明する。
【００４７】
符号化データは、エントロピー復号回路３１に順次供給され、ステップＳ１において、エントロピー復号回路３１は、符号化データをエントロピー復号し、ブロックごとの量子化ＤＣＴ係数Ｑを、係数変換回路３２に供給する。係数変換回路３２は、ステップＳ２において、エントロピー復号回路３１からのブロックごとの量子化ＤＣＴ係数Ｑを、タップ係数を用いた予測演算を行うことにより、ブロックごとの画素値に復号し、ブロック分解回路３３に供給する。ブロック分解回路３３は、ステップＳ３において、係数変換回路３２からの画素値のブロック（復号ブロック）のブロック化を解くブロック分解を行い、その結果得られる復号画像を出力して、処理を終了する。
【００４８】
次に、図３の係数変換回路３２では、例えば、クラス分類適応処理を利用して、量子化ＤＣＴ係数を、画素値に復号することができる。
【００４９】
クラス分類適応処理は、クラス分類処理と適応処理とからなり、クラス分類処理によって、データを、その性質に基づいてクラス分けし、各クラスごとに適応処理を施すものであり、適応処理は、以下のような手法のものである。
【００５０】
即ち、適応処理では、例えば、量子化ＤＣＴ係数と、所定のタップ係数との線形結合により、元の画素の予測値を求めることで、量子化ＤＣＴ係数が、元の画素値に復号される。
【００５１】
具体的には、例えば、いま、ある画像を教師データとするとともに、その画像を、ブロック単位でＤＣＴ処理し、さらに量子化して得られる量子化ＤＣＴ係数を生徒データとして、教師データである画素の画素値ｙの予測値Ｅ［ｙ］を、幾つかの量子化ＤＣＴ係数ｘ1，ｘ2，・・・の集合と、所定のタップ係数ｗ1，ｗ2，・・・の線形結合により規定される線形１次結合モデルにより求めることを考える。この場合、予測値Ｅ［ｙ］は、次式で表すことができる。
【００５２】
Ｅ［ｙ］＝ｗ1ｘ1＋ｗ2ｘ2＋・・・・・・（１）
【００５３】
式（１）を一般化するために、タップ係数ｗjの集合でなる行列Ｗ、生徒データｘijの集合でなる行列Ｘ、および予測値Ｅ［ｙj］の集合でなる行列Ｙ’を、
【数１】
Figure 0004678454
で定義すると、次のような観測方程式が成立する。
【００５４】
ＸＷ＝Ｙ’・・・（２）
ここで、行列Ｘの成分ｘijは、ｉ件目の生徒データの集合（ｉ件目の教師データｙiの予測に用いる生徒データの集合）の中のｊ番目の生徒データを意味し、行列Ｗの成分ｗjは、生徒データの集合の中のｊ番目の生徒データとの積が演算されるタップ係数を表す。また、ｙiは、ｉ件目の教師データを表し、従って、Ｅ［ｙi］は、ｉ件目の教師データの予測値を表す。なお、式（１）の左辺におけるｙは、行列Ｙの成分ｙiのサフィックスｉを省略したものであり、また、式（１）の右辺におけるｘ1，ｘ2，・・・も、行列Ｘの成分ｘijのサフィックスｉを省略したものである。
【００５５】
そして、この観測方程式に最小自乗法を適用して、元の画素値ｙに近い予測値Ｅ［ｙ］を求めることを考える。この場合、教師データとなる真の画素値ｙの集合でなる行列Ｙ、および画素値ｙに対する予測値Ｅ［ｙ］の残差ｅの集合でなる行列Ｅを、
【数２】
Figure 0004678454
で定義すると、式（２）から、次のような残差方程式が成立する。
【００５６】
ＸＷ＝Ｙ＋Ｅ・・・（３）
【００５７】
この場合、元の画素値ｙに近い予測値Ｅ［ｙ］を求めるためのタップ係数ｗjは、自乗誤差
【数３】
Figure 0004678454
を最小にすることで求めることができる。
【００５８】
従って、上述の自乗誤差をタップ係数ｗjで微分したものが０になる場合、即ち、次式を満たすタップ係数ｗjが、元の画素値ｙに近い予測値Ｅ［ｙ］を求めるため最適値ということになる。
【００５９】
【数４】
Figure 0004678454
・・・（４）
【００６０】
そこで、まず、式（３）を、タップ係数ｗjで微分することにより、次式が成立する。
【００６１】
【数５】
Figure 0004678454
・・・（５）
【００６２】
式（４）および（５）より、式（６）が得られる。
【００６３】
【数６】
Figure 0004678454
・・・（６）
【００６４】
さらに、式（３）の残差方程式における生徒データｘij、タップ係数ｗj、教師データｙi、および残差ｅiの関係を考慮すると、式（６）から、次のような正規方程式を得ることができる。
【００６５】
【数７】
Figure 0004678454
・・・（７）
【００６６】
なお、式（７）に示した正規方程式は、行列（共分散行列）Ａおよびベクトルｖを、
【数８】
Figure 0004678454
で定義するとともに、ベクトルＷを、数１で示したように定義すると、式
ＡＷ＝ｖ・・・（８）
で表すことができる。
【００６７】
式（７）における各正規方程式は、生徒データｘijおよび教師データｙiのセットを、ある程度の数だけ用意することで、求めるべきタップ係数ｗjの数Ｊと同じ数だけたてることができ、従って、式（８）を、ベクトルＷについて解くことで（但し、式（８）を解くには、式（８）における行列Ａが正則である必要がある）、最適なタップ係数（ここでは、自乗誤差を最小にするタップ係数）ｗjを求めることができる。なお、式（８）を解くにあたっては、例えば、掃き出し法（Gauss-Jordanの消去法）などを用いることが可能である。
【００６８】
以上のようにして、最適なタップ係数ｗjを求めておき、さらに、そのタップ係数ｗjを用い、式（１）により、元の画素値ｙに近い予測値Ｅ［ｙ］を求めるのが適応処理である。
【００６９】
なお、例えば、教師データとして、ＪＰＥＧ符号化する画像と同一画質の画像を用いるとともに、生徒データとして、その教師データをＤＣＴおよび量子化して得られる量子化ＤＣＴ係数を用いた場合、タップ係数としては、ＪＰＥＧ符号化された画像データを、元の画像データに復号するのに、予測誤差が、統計的に最小となるものが得られることになる。
【００７０】
従って、ＪＰＥＧ符号化を行う際の圧縮率を高くしても、即ち、量子化に用いる量子化ステップを粗くしても、適応処理によれば、予測誤差が、統計的に最小となる復号処理が施されることになり、実質的に、ＪＰＥＧ符号化された画像の復号処理と、その画質を向上させるための処理とが、同時に施されることになる。その結果、圧縮率を高くしても、復号画像の画質を維持することができる。
【００７１】
また、例えば、教師データとして、ＪＰＥＧ符号化する画像よりも高画質の画像を用いるとともに、生徒データとして、その教師データの画質を、ＪＰＥＧ符号化する画像と同一画質に劣化させ、さらに、ＤＣＴおよび量子化して得られる量子化ＤＣＴ係数を用いた場合、タップ係数としては、ＪＰＥＧ符号化された画像データを、高画質の画像データに復号するのに、予測誤差が、統計的に最小となるものが得られることになる。
【００７２】
従って、この場合、適応処理によれば、ＪＰＥＧ符号化された画像の復号処理と、その画質をより向上させるための処理とが、同時に施されることになる。なお、上述したことから、教師データまたは生徒データとなる画像の画質を変えることで、復号画像の画質を任意のレベルとするタップ係数を得ることができる。
【００７３】
また、上述の場合には、教師データとして画像データを用い、生徒データとして量子化ＤＣＴ係数を用いるようにしたが、その他、例えば、教師データとしてＤＣＴ係数を用い、生徒データとして、そのＤＣＴ係数を量子化した量子化ＤＣＴ係数を用いるようにすることも可能である。この場合、適応処理によれば、量子化ＤＣＴ係数から、量子化誤差を低減（抑制）したＤＣＴ係数を予測するためのタップ係数が得られることになる。
【００７４】
図５は、以上のようなクラス分類適応処理により、量子化ＤＣＴ係数を画素値に復号する、図３の係数変換回路３２の第１の構成例を示している。
【００７５】
エントロピー復号回路３１（図３）が出力するブロックごとの量子化ＤＣＴ係数は、予測タップ抽出回路４１およびクラスタップ抽出回路４２に供給されるようになっている。
【００７６】
予測タップ抽出回路４１は、そこに供給される量子化ＤＣＴ係数のブロック（以下、適宜、ＤＣＴブロックという）に対応する画素値のブロック（この画素値のブロックは、現段階では存在しないが、仮想的に想定される）（以下、適宜、画素ブロックという）を、順次、注目画素ブロックとし、さらに、その注目画素ブロックを構成する各画素を、例えば、いわゆるラスタスキャン順に、順次、注目画素とする。さらに、予測タップ抽出回路４１は、注目画素の画素値を予測するのに用いる量子化ＤＣＴ係数を抽出し、予測タップとする。
【００７７】
即ち、予測タップ抽出回路４１は、例えば、図６（Ａ）に示すように、注目画素が属する画素ブロックに対応するＤＣＴブロックのすべての量子化ＤＣＴ係数、即ち、８×８の６４個の量子化ＤＣＴ係数を、予測タップとして抽出する。従って、本実施の形態では、ある画素ブロックのすべての画素について、同一の予測タップが構成される。但し、予測タップは、注目画素ごとに、異なる量子化ＤＣＴ係数で構成することが可能である。
【００７８】
なお、予測タップを構成する量子化ＤＣＴ係数は、上述したパターンのものに限定されるものではない。
【００７９】
予測タップ抽出回路４１において得られる、画素ブロックを構成する各画素についての予測タップ、即ち、６４画素それぞれについての６４セットの予測タップは、積和演算回路４５に供給される。但し、本実施の形態では、上述したように、画素ブロックのすべての画素について、同一の予測タップが構成されるので、実際には、１つの画素ブロックに対して、１セットの予測タップを、積和演算回路４５に供給すれば良い。
【００８０】
クラスタップ抽出回路４２は、注目画素を、幾つかのクラスのうちのいずれかに分類するためのクラス分類に用いる量子化ＤＣＴ係数を抽出して、クラスタップとする。
【００８１】
なお、ＪＰＥＧ符号化では、画像が、画素ブロックごとに符号化（ＤＣＴ処理および量子化）されることから、ある画素ブロックに属する画素は、例えば、すべて同一のクラスにクラス分類することとする。従って、クラスタップ抽出回路４２は、ある画素ブロックの各画素については、同一のクラスタップを構成する。
【００８２】
即ち、本実施の形態では、クラスタップ抽出回路４２は、例えば、図６（Ｂ）に示すように、注目画素が属する画素ブロックに対応するＤＣＴブロックと、その上下左右に隣接する４個のＤＣＴブロックの、合計で５個のＤＣＴブロックの３２０（＝８×８×５）個の量子化ＤＣＴ係数を、クラスタップとして抽出する。
【００８３】
ここで、画素ブロックに属する各画素を、すべて同一のクラスにクラス分類するということは、その画素ブロックをクラス分類することと等価である。従って、クラスタップ抽出回路４２には、注目画素ブロックを構成する６４画素それぞれをクラス分類するための６４セットのクラスタップではなく、注目画素ブロックをクラス分類するための１セットのクラスタップを構成させれば良く、このため、クラスタップ抽出回路４２は、画素ブロックごとに、その画素ブロックをクラス分類するために、その画素ブロックに対応するＤＣＴブロックと、その上下左右に隣接する４個のＤＣＴブロックの量子化ＤＣＴ係数を抽出して、クラスタップとするようになっている。
【００８４】
なお、クラスタップを構成する量子化ＤＣＴ係数は、上述したパターンのものに限定されるものではない。
【００８５】
即ち、ＪＰＥＧ符号化では、８×８画素の画素ブロック単位で、ＤＣＴおよび量子化が行われることにより、８×８の量子化ＤＣＴ係数からなるＤＣＴブロックが構成されるから、ある画素ブロックの画素を、クラス分類適応処理によって復号する場合には、その画素ブロックに対応するＤＣＴブロックの量子化ＤＣＴ係数だけを、クラスタップとして用いることが考えられる。
【００８６】
しかしながら、画像においては、ある画素ブロックに注目した場合に、その画素ブロックの画素と、その周辺の画素ブロックの画素との間には、少なからず相関があるのが一般的である。従って、上述のように、ある画素ブロックに対応するＤＣＴブロックだけでなく、それ以外のＤＣＴブロックからも、量子化ＤＣＴ係数を抽出して、クラスタップとして用いることによって、注目画素を、より適切にクラス分けすることが可能となり、その結果、画素ブロックに対応するＤＣＴブロックの量子化ＤＣＴ係数だけを、クラスタップとして用いる場合に比較して、復号画像の画質を向上させることが可能となる。
【００８７】
ここで、上述の場合には、ある画素ブロックに対応するＤＣＴブロックと、その上下左右に隣接する４個のＤＣＴブロックの量子化ＤＣＴ係数を、クラスタップとするようにしたが、クラスタップとする量子化ＤＣＴ係数は、その他、ある画素ブロックに対応するＤＣＴブロックの斜め方向に隣接するＤＣＴブロックや、隣接しないが周辺にあるＤＣＴブロック等から抽出するようにしても良い。即ち、どのような範囲のＤＣＴブロックから、クラスタップとする量子化ＤＣＴ係数を抽出するかは、特に限定されるものではない。
【００８８】
クラスタップ抽出回路４２において得られる、注目画素ブロックのクラスタップは、クラス分類回路４３に供給されるようになっており、クラス分類回路４３は、クラスタップ抽出回路４２からのクラスタップに基づき、注目画素ブロックをクラス分類し、その結果得られるクラスに対応するクラスコードを出力する。
【００８９】
ここで、クラス分類を行う方法としては、例えば、ADRC(Adaptive Dynamic Range Coding)等を採用することができる。
【００９０】
ADRCを用いる方法では、クラスタップを構成する量子化ＤＣＴ係数が、ADRC処理され、その結果得られるADRCコードにしたがって、注目画素ブロックのクラスが決定される。
【００９１】
なお、KビットADRCにおいては、例えば、クラスタップを構成する量子化ＤＣＴ係数の最大値MAXと最小値MINが検出され、DR=MAX-MINを、集合の局所的なダイナミックレンジとし、このダイナミックレンジDRに基づいて、クラスタップを構成する量子化ＤＣＴ係数がKビットに再量子化される。即ち、クラスタップを構成する量子化ＤＣＴ係数の中から、最小値MINが減算され、その減算値がDR/2Kで除算（量子化）される。そして、以上のようにして得られる、クラスタップを構成するKビットの各量子化ＤＣＴ係数を、所定の順番で並べたビット列が、ADRCコードとして出力される。従って、クラスタップが、例えば、１ビットADRC処理された場合には、そのクラスタップを構成する各量子化ＤＣＴ係数は、最小値MINが減算された後に、最大値MAXと最小値MINとの平均値で除算され、これにより、各量子化ＤＣＴ係数が１ビットとされる（２値化される）。そして、その１ビットの量子化ＤＣＴ係数を所定の順番で並べたビット列が、ADRCコードとして出力される。
【００９２】
なお、クラス分類回路４３には、例えば、クラスタップを構成する量子化ＤＣＴ係数のレベル分布のパターンを、そのままクラスコードとして出力させることも可能であるが、この場合、クラスタップが、Ｎ個の量子化ＤＣＴ係数で構成され、各量子化ＤＣＴ係数に、Ｋビットが割り当てられているとすると、クラス分類回路４３が出力するクラスコードの場合の数は、（２N）K通りとなり、量子化ＤＣＴ係数のビット数Ｋに指数的に比例した膨大な数となる。
【００９３】
従って、クラス分類回路４３においては、クラスタップの情報量を、上述のADRC処理や、あるいはベクトル量子化等によって圧縮してから、クラス分類を行うのが好ましい。
【００９４】
ところで、本実施の形態では、クラスタップは、上述したように、３２０個の量子化ＤＣＴ係数で構成される。従って、例えば、仮に、クラスタップを１ビットADRC処理することにより、クラス分類を行うこととしても、クラスコードの場合の数は、２320通りという膨大な値となる。
【００９５】
そこで、本実施の形態では、クラス分類回路４３において、クラスタップを構成する量子化ＤＣＴ係数から、重要性の高い特徴量を抽出し、その特徴量に基づいてクラス分類を行うことで、クラス数を低減するようになっている。
【００９６】
即ち、図７は、図５のクラス分類回路４３の構成例を示している。
【００９７】
クラスタップは、電力演算回路５１に供給されるようになっており、電力演算回路５１は、クラスタップを構成する量子化ＤＣＴ係数を、幾つかの空間周波数帯域のものに分け、各周波数帯域の電力を演算する。
【００９８】
即ち、本実施の形態では、クラスタップは、図６（Ｂ）に示したように、５個のＤＣＴブロックの量子化ＤＣＴ係数から構成されるが、電力演算回路５１は、クラスタップを構成する各ＤＣＴブロックの８×８個の量子化ＤＣＴ係数を、例えば、図８に示すような４つの空間周波数帯域Ｓ0，Ｓ1，Ｓ2，Ｓ3に分割する。
【００９９】
ここで、１つのＤＣＴブロックの８×８個の量子化ＤＣＴ係数それぞれを、アルファベットｘに、図６（Ａ）に示したような、ラスタスキャン順に、０からのシーケンシャルな整数を付して表すこととすると、空間周波数帯域Ｓ0は、４個の量子化ＤＣＴ係数ｘ0，ｘ1，ｘ8，ｘ9から構成され、空間周波数帯域Ｓ1は、１２個の量子化ＤＣＴ係数ｘ2，ｘ3，ｘ4，ｘ5，ｘ6，ｘ7，ｘ10，ｘ11，ｘ12，ｘ13，ｘ14，ｘ15から構成される。また、空間周波数帯域Ｓ2は、１２個の量子化ＤＣＴ係数ｘ16，ｘ17，ｘ24，ｘ25，ｘ32，ｘ33，ｘ40，ｘ41，ｘ48，ｘ49，ｘ56，ｘ57から構成され、空間周波数帯域Ｓ3は、３６個の量子化ＤＣＴ係数ｘ18，ｘ19，ｘ20，ｘ21，ｘ22，ｘ23，ｘ26，ｘ27，ｘ28，ｘ29，ｘ30，ｘ31，ｘ34，ｘ35，ｘ36，ｘ37，ｘ38，ｘ39，ｘ42，ｘ43，ｘ44，ｘ45，ｘ46，ｘ47，ｘ50，ｘ51，ｘ52，ｘ53，ｘ54，ｘ55，ｘ58，ｘ59，ｘ60，ｘ61，ｘ62，ｘ63から構成される。
【０１００】
さらに、電力演算回路５１は、クラスタップを構成する５つのＤＣＴブロックそれぞれについて、その空間周波数帯域Ｓ0，Ｓ1，Ｓ2，Ｓ3のそれぞれに関し、量子化ＤＣＴ係数のＡＣ成分の電力Ｐ0，Ｐ1，Ｐ2，Ｐ3を演算し、クラスコード生成回路５２に出力する。
【０１０１】
即ち、電力演算回路５１は、空間周波数帯域Ｓ0については、上述の４個の量子化ＤＣＴ係数ｘ0，ｘ1，ｘ8，ｘ9のうちのＡＣ成分ｘ1，ｘ8，ｘ9の２乗和ｘ1 2＋ｘ8 2＋ｘ9 2を求め、これを、電力Ｐ0として、クラスコード生成回路５２に出力する。また、電力演算回路５１は、空間周波数帯域Ｓ１についての、上述の１２個の量子化ＤＣＴ係数のＡＣ成分、即ち、１２個すべての量子化ＤＣＴ係数の２乗和を求め、これを、電力Ｐ1として、クラスコード生成回路５２に出力する。さらに、電力演算回路５１は、空間周波数帯域Ｓ2とＳ3についても、空間周波数帯域Ｓ1における場合と同様にして、それぞれの電力Ｐ2とＰ3を求め、クラスコード生成回路５２に出力する。
【０１０２】
クラスコード生成回路５２は、電力演算回路５１からの、クラスタップを構成する５個のＤＣＴブロックそれぞれについての電力Ｐ0，Ｐ1，Ｐ2，Ｐ3を、閾値テーブル記憶部５３に記憶された、対応する閾値ＴＨ0，ＴＨ1，ＴＨ2，ＴＨ3とそれぞれ比較し、それぞれの大小関係に基づいて、クラスコードを出力する。即ち、クラスコード生成回路５２は、電力Ｐ0と閾値ＴＨ0とを比較し、その大小関係を表す１ビットのコードを得る。同様に、クラスコード生成回路５２は、電力Ｐ1と閾値ＴＨ1、電力Ｐ2と閾値ＴＨ2、電力Ｐ3と閾値ＴＨ3を、それぞれ比較することにより、それぞれについて、１ビットのコードを得る。
【０１０３】
クラスコード生成回路５２は、クラスタップを構成する５個のＤＣＴブロックそれぞれについて、上述のようにして、４つの１ビットのコード、即ち、合計で、２０ビットのコードを得る。そして、クラスコード生成回路５２は、この２０ビットのコードを、注目画素ブロックのクラスを表すクラスコードとして出力する。この場合、注目画素ブロックは、２20個のクラスのうちのいずれかにクラス分類されることになる。
【０１０４】
閾値テーブル記憶部５３は、空間周波数帯域Ｓ0乃至Ｓ3の電力Ｐ0乃至Ｐ3とそれぞれ比較する閾値ＴＨ0乃至ＴＨ3を記憶している。
【０１０５】
なお、上述の場合には、クラス分類処理に、量子化ＤＣＴ係数のＤＣ成分ｘ0が用いられないが、このＤＣ成分ｘ0をも用いてクラス分類処理を行うことも可能である。
【０１０６】
図５に戻り、以上のようなクラス分類回路４３が出力するクラスコードは、係数テーブル記憶部４４に、アドレスとして与えられる。
【０１０７】
係数テーブル記憶部４４は、後述するような学習処理が行われることにより得られるタップ係数が登録された係数テーブルを記憶しており、クラス分類回路４３が出力するクラスコードに対応するアドレスに記憶されているタップ係数を積和演算回路４５に出力する。
【０１０８】
ここで、本実施の形態では、画素ブロックがクラス分類されるから、注目画素ブロックについて、１つのクラスコードが得られる。一方、画素ブロックは、本実施の形態では、８×８画素の６４画素で構成されるから、注目画素ブロックについて、それを構成する６４画素それぞれを復号するための６４セットのタップ係数が必要である。従って、係数テーブル記憶部４４には、１つのクラスコードに対応するアドレスに対して、６４セットのタップ係数が記憶されている。
【０１０９】
積和演算回路４５は、予測タップ抽出回路４１が出力する予測タップと、係数テーブル記憶部４４が出力するタップ係数とを取得し、その予測タップとタップ係数とを用いて、式（１）に示した線形予測演算（積和演算）を行い、その結果得られる注目画素ブロックの８×８画素の画素値を、対応するＤＣＴブロックの復号結果として、ブロック分解回路３３（図３）に出力する。
【０１１０】
ここで、予測タップ抽出回路４１においては、上述したように、注目画素ブロックの各画素が、順次、注目画素とされるが、積和演算回路４５は、注目画素ブロックの、注目画素となっている画素の位置に対応した動作モード（以下、適宜、画素位置モードという）となって、処理を行う。
【０１１１】
即ち、例えば、注目画素ブロックの画素のうち、ラスタスキャン順で、ｉ番目の画素を、ｐiと表し、画素ｐiが、注目画素となっている場合、積和演算回路４５は、画素位置モード＃ｉの処理を行う。
【０１１２】
具体的には、上述したように、係数テーブル記憶部４４は、注目画素ブロックを構成する６４画素それぞれを復号するための６４セットのタップ係数を出力するが、そのうちの画素ｐiを復号するためのタップ係数のセットをＷiと表すと、積和演算回路４５は、動作モードが、画素位置モード＃ｉのときには、予測タップと、６４セットのタップ係数のうちのセットＷiとを用いて、式（１）の積和演算を行い、その積和演算結果を、画素ｐiの復号結果とする。
【０１１３】
次に、図９のフローチャートを参照して、図５の係数変換回路３２の処理について説明する。
【０１１４】
エントロピー復号回路３１が出力するブロックごとの量子化ＤＣＴ係数は、予測タップ抽出回路４１およびクラスタップ抽出回路４２において順次受信され、予測タップ抽出回路４１は、そこに供給される量子化ＤＣＴ係数のブロック（ＤＣＴブロック）に対応する画素ブロックを、順次、注目画素ブロックとする。
【０１１５】
そして、クラスタップ抽出回路４２は、ステップＳ１１において、そこで受信した量子化ＤＣＴ係数の中から、注目画素ブロックをクラス分類するのに用いるもの、即ち、本実施の形態では、注目画素ブロックに対応するＤＣＴブロックと、その上下左右に隣接する４個のＤＣＴブロックとの、合計で５個のＤＣＴブロックの量子化ＤＣＴ係数を抽出して、クラスタップを構成し、クラス分類回路４３に供給する。
【０１１６】
クラス分類回路４３は、ステップＳ１２において、クラスタップ抽出回路４２からのクラスタップを用いて、注目画素ブロックをクラス分類し、その結果得られるクラスコードを、係数テーブル記憶部４４に出力する。
【０１１７】
即ち、ステップＳ１２では、図１０のフローチャートに示すように、まず最初に、ステップＳ２１において、クラス分類回路４３（図７）の電力演算回路５１が、クラスタップを構成する５個のＤＣＴブロックそれぞれについて、図８に示した４つの空間周波数帯域Ｓ0乃至Ｓ3それぞれの電力Ｐ0乃至Ｐ3を演算する。この電力Ｐ0乃至Ｐ3は、電力演算回路５１からクラスコード生成回路５２に出力される。
【０１１８】
クラスコード生成回路５２は、ステップＳ２２において、閾値テーブル記憶部５３から閾値ＴＨ0乃至ＴＨ3を読み出し、電力演算回路５１からの、クラスタップを構成する５個のＤＣＴブロックの電力Ｐ0乃至Ｐ3それぞれと、閾値ＴＨ０乃至ＴＨ３それぞれとを比較し、それぞれの大小関係に基づいたクラスコードを生成して、リターンする。
【０１１９】
図９に戻り、ステップＳ１２において以上のようにして得られるクラスコードは、クラス分類回路４３から係数テーブル記憶部４４に対して、アドレスとして与えられる。
【０１２０】
係数テーブル記憶部４４は、クラス分類回路４３からのアドレスとしてのクラスコードを受信すると、ステップＳ１３において、そのアドレスに記憶されている６４セットのタップ係数を読み出し、積和演算回路４５に出力する。
【０１２１】
そして、ステップＳ１４に進み、予測タップ抽出回路４１は、注目画素ブロックの画素のうち、ラスタスキャン順で、まだ、注目画素とされていない画素を、注目画素として、その注目画素の画素値を予測するのに用いる量子化ＤＣＴ係数を抽出し、予測タップとして構成する。この予測タップは、予測タップ抽出回路４１から積和演算回路４５に供給される。
【０１２２】
ここで、本実施の形態では、各画素ブロックごとに、その画素ブロックのすべての画素について、同一の予測タップが構成されるので、実際には、ステップＳ１４の処理は、注目画素ブロックについて、最初に注目画素とされる画素に対してだけ行えば、残りの６３画素に対しては、行う必要がない。
【０１２３】
積和演算回路４５は、ステップＳ１５において、ステップＳ１３で係数テーブル記憶部４４が出力する６４セットのタップ係数のうち、注目画素に対する画素位置モードに対応するタップ係数のセットを取得し、そのタップ係数のセットと、ステップＳ１４で予測タップ抽出回路４１から供給される予測タップとを用いて、式（１）に示した積和演算を行い、注目画素の画素値の復号値を得る。
【０１２４】
そして、ステップＳ１６に進み、予測タップ抽出回路４１は、注目画素ブロックのすべての画素を、注目画素として処理を行ったかどうかを判定する。ステップＳ１６において、注目画素ブロックのすべての画素を、注目画素として、まだ処理を行っていないと判定された場合、ステップＳ１４に戻り、予測タップ抽出回路４１は、注目画素ブロックの画素のうち、ラスタスキャン順で、まだ、注目画素とされていない画素を、新たに注目画素として、以下、同様の処理を繰り返す。
【０１２５】
また、ステップＳ１６において、注目画素ブロックのすべての画素を、注目画素として処理を行ったと判定された場合、即ち、注目画素ブロックのすべての画素の復号値が得られた場合、積和演算回路４５は、その復号値で構成される画素ブロック（復号ブロック）を、ブロック分解回路３３（図３）に出力し、処理を終了する。
【０１２６】
なお、図９のフローチャートにしたがった処理は、予測タップ抽出回路４１が、新たな注目画素ブロックを設定するごとに繰り返し行われる。
【０１２７】
次に、上述の場合には、クラス分類回路４３において、クラスタップを構成する５つのＤＣＴブロックそれぞれについて、同一の空間周波数帯域Ｓ0乃至Ｓ3の電力Ｐ0乃至Ｐ3を計算し、その電力に基づいて、クラス分類を行うようにしたが、その他、クラス分類は、例えば、クラスタップを構成する５つのＤＣＴブロックの幾つかについて、異なる空間周波数帯域の電力を計算し、その電力に基づいて行うようにすることも可能である。
【０１２８】
即ち、例えば、図１１に斜線を付して示すように、クラスタップを構成する５つのＤＣＴブロックのうち、注目画素ブロックに対応するＤＣＴブロック（以下、適宜、注目ＤＣＴブロックという）については、垂直方向の高周波数帯域の電力Ｐvおよび水平方向の高周波数帯域の電力Ｐhを、注目ＤＣＴブロックの上に隣接するＤＣＴブロックについては、垂直方向の高周波数帯域の電力Ｐuを、注目ＤＣＴブロックの下に隣接するＤＣＴブロックについては、垂直方向の高周波数帯域の電力Ｐdを、注目ＤＣＴブロックの左隣のＤＣＴブロックについては、水平方向の高周波数帯域の電力Ｐlを、注目ＤＣＴブロックの右隣のＤＣＴブロックについては、水平方向の高周波数帯域の電力Ｐrを、それぞれ計算し、それらの電力Ｐv，Ｐh，Ｐu，Ｐd，Ｐl，Ｐrに基づき、図７および図１０で説明した場合と同様にして、クラス分類を行うようにすることが可能である。
【０１２９】
この場合、図７に示したクラス分類回路４３では、図９のステップＳ１２において、図１２に示すような処理が行われる。
【０１３０】
即ち、まず最初に、ステップＳ３１において、クラス分類回路４３（図７）の電力演算回路５１が、クラスタップを構成する５個のＤＣＴブロックについて、図１１で説明したような各周波数帯域の電力Ｐv，Ｐh，Ｐu，Ｐd，Ｐl，Ｐrを演算し、クラスコード生成回路５２に出力する。
【０１３１】
クラスコード生成回路５２は、ステップＳ３２において、閾値テーブル記憶部５３から閾値を読み出す。なお、ここでは、閾値テーブル記憶部５３に、電力Ｐv，Ｐh，Ｐu，Ｐd，Ｐl，Ｐrそれぞれと比較するための閾値ＴＨv，ＴＨh，ＴＨu，ＴＨd，ＴＨl，ＴＨrが記憶されているものとする。
【０１３２】
クラスコード生成回路５２は、閾値テーブル記憶部５３から閾値ＴＨv，ＴＨh，ＴＨu，ＴＨd，ＴＨl，ＴＨrを読み出すと、それぞれを、電力演算回路５１からの電力Ｐv，Ｐh，Ｐu，Ｐd，Ｐl，Ｐrそれぞれと比較し、それぞれの大小関係に基づいた、６個の１ビットを得る。そして、クラスコード生成回路５２は、その６個の１ビットのコードからなる６ビットのコードを、クラスコードとして出力し、リターンする。従って、この場合、注目画素（注目画素ブロック）は、６４（＝２6）個のクラスのうちのいずれかにクラス分類されることになる。
【０１３３】
次に、以上においては、クラスタップとしての量子化ＤＣＴ係数のＡＣ成分をクラス分類に用いるようにしたが、クラス分類は、その他、量子化ＤＣＴ係数のＤＣ成分を用いて行うことも可能である。
【０１３４】
即ち、クラス分類は、例えば、図１３に示すように、注目ＤＣＴブロックのＤＣ成分Ｃ0、その上下左右に隣接するＤＣＴブロックそれぞれのＤＣ成分Ｃu，Ｃd，Ｃl，Ｃrを用いて行うことが可能である。
【０１３５】
この場合、図５のクラス分類回路４３は、例えば、図１４に示すように構成される。
【０１３６】
クラスタップは、差分演算回路１５１に供給されるようになっており、差分演算回路１５１は、クラスタップを構成する５個のＤＣＴブロックのうち、注目ＤＣＴブロックの上下左右に隣接するＤＣＴブロックのＤＣ成分Ｃu，Ｃd，Ｃl，Ｃrそれぞれと、注目ＤＣＴブロックのＤＣ成分Ｃ0との差分の絶対値Ｄu，Ｄd，Ｄl，Ｄrを演算し、クラスコード生成回路１５２に供給する。即ち、差分演算回路１５１は、式Ｄu＝｜Ｃu−Ｃ0｜，Ｄd＝｜Ｃd−Ｃ0｜，Ｄl＝｜Ｃl−Ｃ0｜，Ｄr＝｜Ｃr−Ｃ0｜を演算し、その演算結果を、クラスコード生成回路１５２に供給する。
【０１３７】
クラスコード生成回路１５２は、差分演算回路１５１からの演算結果（差分絶対値）Ｄu，Ｄd，Ｄl，Ｄrを、閾値テーブル記憶部１５３に記憶された、対応する閾値ＴＨu，ＴＨd，ＴＨl，ＴＨrとそれぞれ比較し、それぞれの大小関係に基づいて、クラスコードを出力する。即ち、クラスコード生成回路１５２は、差分絶対値Ｄuと閾値ＴＨuとを比較し、その大小関係を表す１ビットのコードを得る。同様に、クラスコード生成回路１５２は、差分絶対値Ｄdと閾値ＴＨd、差分絶対値Ｄlと閾値ＴＨl、差分絶対値Ｄrと閾値ＴＨrを、それぞれ比較することにより、それぞれについて、１ビットのコードを得る。
【０１３８】
そして、クラスコード生成回路１５２は、以上のようにして得られる４つの１ビットのコードを、例えば、所定の順番で並べることにより得られる４ビットのコード（従って、０乃至１５のうちのいずれかの値）を、注目画素ブロックのクラスを表すクラスコードとして出力する。従って、この場合、注目画素ブロックは、２4（＝１６）個のクラスのうちのいずれかにクラス分類されることになる。
【０１３９】
閾値テーブル記憶部１５３は、差分絶対値Ｄu，Ｄd，Ｄl，Ｄrとそれぞれ比較する閾値ＴＨu，ＴＨd，，ＴＨl，ＴＨrを記憶している。
【０１４０】
クラス分類回路４３が図１４に示したように構成される場合、図９のステップＳ１２では、図１５に示すような処理が行われる。
【０１４１】
即ち、この場合、まず最初に、ステップＳ４１において、差分演算回路１５１は、クラスタップを構成する５個のＤＣＴブロックそれぞれのＤＣ成分Ｃ0，Ｃu，Ｃd，Ｃl，Ｃrを用いて、上述の差分絶対値Ｄu，Ｄd，Ｄl，Ｄrを演算し、クラスコード生成回路１５２に供給する。
【０１４２】
クラスコード生成回路１５２は、ステップＳ４２において、閾値テーブル記憶部１５３に記憶された閾値ＴＨu，ＴＨd，ＴＨl，ＴＨrそれぞれと、差分演算回路１５１からの差分絶対値Ｄu，Ｄd，Ｄl，Ｄrそれぞれと比較し、その大小関係を表す４つの１ビットのコードを得る。そして、クラスコード生成回路１５２は、その４つの１ビットのコードでなる４ビットのコードを、クラスコードとして出力し、リターンする。
【０１４３】
なお、クラス分類は、量子化ＤＣＴ係数のＡＣ成分だけ、またはＤＣ成分だけを用いて行う他、ＡＣ成分およびＤＣ成分の両方を用いて行うことも可能である。即ち、クラス分類の方法は、上述した手法に限定されるものではない。
【０１４４】
次に、図１６は、図５の係数テーブル記憶部４４に記憶させるタップ係数の学習処理を行う学習装置の一実施の形態の構成例を示している。
【０１４５】
ブロック化回路６１には、１枚以上の学習用の画像データが供給されるようになっており、ブロック化回路６１は、その学習用の画像を、ＪＰＥＧ符号化における場合と同様に、８×８画素の画素ブロックにブロック化する。
【０１４６】
ＤＣＴ回路６２は、ブロック化回路６１がブロック化した画素ブロックを、順次、注目画素ブロックとして読み出し、その注目画素ブロックを、ＤＣＴ処理することで、ＤＣＴ係数のブロックとする。このＤＣＴ係数のブロックは、量子化回路６３に供給される。
【０１４７】
量子化回路６３は、ＤＣＴ回路６２からのＤＣＴ係数のブロックを、ＪＰＥＧ符号化に用いられるのと同一の量子化テーブルにしたがって量子化し、その結果得られる量子化ＤＣＴ係数のブロック（ＤＣＴブロック）を、予測タップ抽出回路６４およびクラスタップ抽出回路６５に順次供給する。
【０１４８】
予測タップ抽出回路６４は、注目画素ブロックの画素のうち、ラスタスキャン順で、まだ、注目画素とされていない画素を、注目画素として、その注目画素について、図５の予測タップ抽出回路４１が構成するのと同一の予測タップを、量子化回路６３の出力から、必要な量子化ＤＣＴ係数を抽出することで構成する。この予測タップは、学習時の生徒となる生徒データとして、予測タップ抽出回路６４から正規方程式加算回路６７に供給される。
【０１４９】
クラスタップ抽出回路６５は、注目画素ブロックについて、図５のクラスタップ抽出回路４２が構成するのと同一のクラスタップを、量子化回路６３の出力から、必要な量子化ＤＣＴ係数を抽出することで構成する。このクラスタップは、クラスタップ抽出回路６５からクラス分類回路６６に供給される。
【０１５０】
クラス分類回路６６は、クラスタップ抽出回路６５からのクラスタップを用いて、図５のクラス分類回路４３と同一の処理を行うことで、注目画素ブロックをクラス分類し、その結果得られるクラスコードを、正規方程式加算回路６７に供給する。
【０１５１】
正規方程式加算回路６７は、ブロック化回路６１から、注目画素（の画素値）を教師データとして読み出し、予測タップ構成回路６４からの生徒データとしての予測タップ（を構成する量子化ＤＣＴ係数）、および注目画素を対象とした足し込みを行う。
【０１５２】
即ち、正規方程式加算回路６７は、クラス分類回路６６から供給されるクラスコードに対応するクラスごとに、予測タップ（生徒データ）を用い、式（８）の行列Ａにおける各コンポーネントとなっている、生徒データどうしの乗算（ｘinｘim）と、サメーション（Σ）に相当する演算を行う。
【０１５３】
さらに、正規方程式加算回路６７は、やはり、クラス分類回路６６から供給されるクラスコードに対応するクラスごとに、予測タップ（生徒データ）および注目画素（教師データ）を用い、式（８）のベクトルｖにおける各コンポーネントとなっている、生徒データと教師データの乗算（ｘinｙi）と、サメーション（Σ）に相当する演算を行う。
【０１５４】
なお、正規方程式加算回路６７における、上述のような足し込みは、各クラスについて、注目画素に対する画素位置モードごとに行われる。
【０１５５】
正規方程式加算回路６７は、以上の足し込みを、ブロック化回路６１に供給された学習用の画像を構成する画素すべてを注目画素として行い、これにより、各クラスについて、画素位置モードごとに、式（８）に示した正規方程式がたてられる。
【０１５６】
タップ係数決定回路６８は、正規方程式加算回路６７においてクラスごとに（かつ、画素位置モードごとに）生成された正規方程式を解くことにより、クラスごとに、６４セットのタップ係数を求め、係数テーブル記憶部６９の、各クラスに対応するアドレスに供給する。
【０１５７】
なお、学習用の画像として用意する画像の枚数や、その画像の内容等によっては、正規方程式加算回路６７において、タップ係数を求めるのに必要な数の正規方程式が得られないクラスが生じる場合があり得るが、タップ係数決定回路６８は、そのようなクラスについては、例えば、デフォルトのタップ係数を出力する。
【０１５８】
係数テーブル記憶部６９は、タップ係数決定回路６８から供給されるクラスごとの６４セットのタップ係数を記憶する。
【０１５９】
次に、図１７のフローチャートを参照して、図１６の学習装置の処理（学習処理）について説明する。
【０１６０】
ブロック化回路６１には、学習用の画像データが供給され、ブロック化回路６１は、ステップＳ５１において、学習用の画像データを、ＪＰＥＧ符号化における場合と同様に、８×８画素の画素ブロックにブロック化して、ステップＳ５２に進む。ステップＳ５２では、ＤＣＴ回路６２が、ブロック化回路６１がブロック化した画素ブロックを、順次読み出し、その画素ブロックを、ＤＣＴ処理することで、ＤＣＴ係数のブロックとし、ステップＳ５３に進む。ステップＳ５３では、量子化回路６３が、ＤＣＴ回路６２において得られたＤＣＴ係数のブロックを順次読み出し、ＪＰＥＧ符号化に用いられるのと同一の量子化テーブルにしたがって量子化して、量子化ＤＣＴ係数で構成されるブロック（ＤＣＴブロック）とする。
【０１６１】
そして、ステップＳ５４に進み、クラスタップ抽出回路６５は、ブロック化回路６１でブロック化された画素ブロックのうち、まだ注目画素ブロックとされていないものを、注目画素ブロックとする。さらに、クラスタップ抽出回路６５は、注目画素ブロックをクラス分類するのに用いる量子化ＤＣＴ係数を、量子化回路６３で得られたＤＣＴブロックから抽出して、クラスタップを構成し、クラス分類回路６６に供給する。クラス分類回路６６は、ステップＳ５５において、図１０のフローチャートで説明した場合と同様に、クラスタップ抽出回路６５からのクラスタップを用いて、注目画素ブロックをクラス分類し、その結果得られるクラスコードを、正規方程式加算回路６７に供給して、ステップＳ５６に進む。
【０１６２】
ステップＳ５６では、予測タップ抽出回路６４が、注目画素ブロックの画素のうち、ラスタスキャン順で、まだ、注目画素とされていない画素を、注目画素として、その注目画素について、図５の予測タップ抽出回路４１が構成するのと同一の予測タップを、量子化回路６３の出力から必要な量子化ＤＣＴ係数を抽出することで構成する。そして、予測タップ抽出回路６４は、注目画素についての予測タップを、生徒データとして、正規方程式加算回路６７に供給し、ステップＳ５７に進む。
【０１６３】
ステップＳ５７では、正規方程式加算回路６７は、ブロック化回路６１から、注目画素を教師データとして読み出し、生徒データとしての予測タップ（を構成する量子化ＤＣＴ係数）、および教師データとしての注目画素を対象として、式（８）の行列Ａとベクトルｖの、上述したような足し込みを行う。なお、この足し込みは、クラス分類回路６６からのクラスコードに対応するクラスごとに、かつ注目画素に対する画素位置モードごとに行われる。
【０１６４】
そして、ステップＳ５８に進み、予測タップ抽出回路６４は、注目画素ブロックのすべての画素を、注目画素として、足し込みを行ったかどうかを判定する。ステップＳ５８において、注目画素ブロックのすべての画素を、注目画素として、まだ足し込みを行っていないと判定された場合、ステップＳ５６に戻り、予測タップ抽出回路６４は、注目画素ブロックの画素のうち、ラスタスキャン順で、まだ、注目画素とされていない画素を、新たに注目画素として、以下、同様の処理を繰り返す。
【０１６５】
また、ステップＳ５８において、注目画素ブロックのすべての画素を、注目画素として、足し込みを行ったと判定された場合、ステップＳ５９に進み、ブロック化回路６１は、学習用の画像から得られたすべての画素ブロックを、注目画素ブロックとして処理を行ったかどうかを判定する。ステップＳ５９において、学習用の画像から得られたすべての画素ブロックを、注目画素ブロックとして、まだ処理を行っていないと判定された場合、ステップＳ５４に戻り、ブロック化回路６１でブロック化された画素ブロックのうち、まだ注目画素ブロックとされていないものが、新たに注目画素ブロックとされ、以下、同様の処理が繰り返される。
【０１６６】
一方、ステップＳ５９において、学習用の画像から得られたすべての画素ブロックを、注目画素ブロックとして処理を行ったと判定された場合、即ち、正規方程式加算回路６７において、各クラスについて、画素位置モードごとの正規方程式が得られた場合、ステップＳ６０に進み、タップ係数決定回路６８は、各クラスの画素位置モードごとに生成された正規方程式を解くことにより、各クラスごとに、そのクラスの６４の画素位置モードそれぞれに対応する６４セットのタップ係数を求め、係数テーブル記憶部６９の、各クラスに対応するアドレスに供給して記憶させ、処理を終了する。
【０１６７】
以上のようにして、係数テーブル記憶部６９に記憶された各クラスごとのタップ係数が、図５の係数テーブル記憶部４４に記憶されている。
【０１６８】
従って、係数テーブル記憶部４４に記憶されたタップ係数は、線形予測演算を行うことにより得られる元の画素値の予測値の予測誤差（ここでは、自乗誤差）が、統計的に最小になるように学習を行うことにより求められたものであり、その結果、図５の係数変換回路３２によれば、ＪＰＥＧ符号化された画像を、元の画像に限りなく近い画像に復号することができる。
【０１６９】
また、上述したように、ＪＰＥＧ符号化された画像の復号処理と、その画質を向上させるための処理とが、同時に施されることとなるので、ＪＰＥＧ符号化された画像から、効率的に、画質の良い復号画像を得ることができる。
【０１７０】
次に、図１８は、図３の係数変換回路３２の第２の構成例を示している。なお、図中、図５における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図１８の係数変換回路３２は、逆量子化回路７１が新たに設けられている他は、基本的に、図５における場合と同様に構成されている。
【０１７１】
図１８の実施の形態において、逆量子化回路７１には、エントロピー復号回路３１（図３）において符号化データをエントロピー復号することにより得られるブロックごとの量子化ＤＣＴ係数が供給される。
【０１７２】
なお、エントロピー復号回路３１においては、上述したように、符号化データから、量子化ＤＣＴ係数の他、量子化テーブルも得られるが、図１８の実施の形態では、この量子化テーブルも、エントロピー復号回路３１から逆量子化回路７１に供給されるようになっている。
【０１７３】
逆量子化回路７１は、エントロピー復号回路３１からの量子化ＤＣＴ係数を、同じくエントロピー復号回路３１からの量子化テーブルにしたがって逆量子化し、その結果られるＤＣＴ係数を、予測タップ抽出回路４１およびクラスタップ抽出回路４２に供給する。
【０１７４】
従って、予測タップ抽出回路４１とクラスタップ抽出回路４２では、量子化ＤＣＴ係数ではなく、ＤＣＴ係数を対象として、予測タップとクラスタップがそれぞれ構成され、以降も、ＤＣＴ係数を対象として、図５における場合と同様の処理が行われる。
【０１７５】
このように、図１８の実施の形態では、量子化ＤＣＴ係数ではなく、ＤＣＴ係数（量子化ＤＣＴ係数を逆量子化したもの）を対象として処理が行われるため、係数テーブル記憶部４４に記憶させるタップ係数は、図５における場合と異なるものとする必要がある。
【０１７６】
そこで、図１９は、図１８の係数テーブル記憶部４４に記憶させるタップ係数の学習処理を行う学習装置の一実施の形態の構成例を示している。なお、図中、図１６における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図１９の学習装置は、量子化回路６３の後段に、逆量子化回路８１が新たに設けられている他は、図１６における場合と基本的に同様に構成されている。
【０１７７】
図１９の実施の形態において、逆量子化回路８１は、逆量子化回路６３が出力する量子化ＤＣＴ係数を、図１８の逆量子化回路７１と同様に逆量子化し、その結果得られるＤＣＴ係数を、予測タップ抽出回路６４およびクラスタップ抽出回路６５に供給する。
【０１７８】
従って、予測タップ抽出回路６４とクラスタップ抽出回路６５では、量子化ＤＣＴ係数ではなく、ＤＣＴ係数を対象として、予測タップとクラスタップがそれぞれ構成され、以降も、ＤＣＴ係数を対象として、図１６における場合と同様の処理が行われる。
【０１７９】
その結果、ＤＣＴ係数が量子化され、さらに逆量子化されることにより生じる量子化誤差の影響を低減するタップ係数が得られることになる。
【０１８０】
次に、図２０は、図３の係数変換回路３２の第３の構成例を示している。なお、図中、図５における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図２０の係数変換回路３２は、積和演算回路４５の後段に、逆ＤＣＴ回路１０１が新たに設けられている他は、基本的に、図５における場合と同様に構成されている。
【０１８１】
逆ＤＣＴ回路１０１は、積和演算回路４５の出力を逆ＤＣＴ処理することにより、画像に復号して出力する。従って、図２０の実施の形態では、積和演算回路４５は、予測タップ抽出回路４１が出力する予測タップを構成する量子化ＤＣＴ係数と、係数テーブル記憶部４４に記憶されたタップ係数とを用いた積和演算を行うことにより、ＤＣＴ係数を出力する。
【０１８２】
このように、図２０の実施の形態では、量子化ＤＣＴ係数が、タップ係数との積和演算により、画素値に復号されるのではなく、ＤＣＴ係数に変換され、さらに、そのＤＣＴ係数が、逆ＤＣＴ回路１０１で逆ＤＣＴされることにより、画素値に復号される。従って、係数テーブル記憶部４４に記憶させるタップ係数は、図５における場合と異なるものとする必要がある。
【０１８３】
そこで、図２１は、図２０の係数テーブル記憶部４４に記憶させるタップ係数の学習処理を行う学習装置の一実施の形態の構成例を示している。なお、図中、図１６における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図２１の学習装置は、正規方程式加算回路６７に対し、教師データとして、学習用の画像の画素値ではなく、ＤＣＴ回路６２が出力する、学習用の画像をＤＣＴ処理したＤＣＴ係数が与えられるようになっている他は、図１６における場合と同様に構成されている。
【０１８４】
従って、図２１の実施の形態では、正規方程式加算回路６７が、ＤＣＴ回路６２が出力するＤＣＴ係数を教師データとするとともに、予測タップ構成回路６４が出力する予測タップを構成する量子化ＤＣＴ係数を生徒データとして、上述の足し込みを行う。そして、タップ係数決定回路６８は、そのような足し込みにより得られる正規方程式を解くことにより、タップ係数を求める。その結果、図２１の学習装置では、量子化ＤＣＴ係数を、量子化回路６３における量子化による量子化誤差を低減（抑制）したＤＣＴ係数に変換するタップ係数が求められることになる。
【０１８５】
図２０の係数変換回路３２では、積和演算回路４５が、上述のようなタップ係数を用いて積和演算を行うため、その出力は、予測タップ抽出回路４１が出力する量子化ＤＣＴ係数を、その量子化誤差を低減したＤＣＴ係数に変換したものとなっている。従って、そのようなＤＣＴ係数が、逆ＤＣＴ回路１０１で逆ＤＣＴされることにより、量子化誤差の影響による画質の劣化を低減した復号画像が得られることになる。
【０１８６】
次に、図２２は、図３の係数変換回路３２の第４の構成例を示している。なお、図中、図５、図１８、または図２０における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図２２の係数変換回路３２は、図１８における場合と同様に、逆量子化回路７１が新たに設けられ、かつ、図２０における場合と同様に、逆ＤＣＴ回路１０１が新たに設けられている他は、図５における場合と同様に構成されている。
【０１８７】
従って、図２２の実施の形態では、予測タップ抽出回路４１とクラスタップ抽出回路４２では、量子化ＤＣＴ係数ではなく、ＤＣＴ係数を対象として、予測タップとクラスタップがそれぞれ構成される。さらに、図２２の実施の形態では、積和演算回路４５は、予測タップ抽出回路４１が出力する予測タップを構成するＤＣＴ係数と、係数テーブル記憶部４４に記憶されたタップ係数とを用いた積和演算を行うことにより、量子化誤差を低減したＤＣＴ係数を得て、逆ＤＣＴ回路１０１に出力する。
【０１８８】
次に、図２３は、図２２の係数テーブル記憶部４４に記憶させるタップ係数の学習処理を行う学習装置の一実施の形態の構成例を示している。なお、図中、図１６、図１９、または図２１における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図２３の学習装置は、図１９における場合と同様に、逆量子化回路８１が新たに設けられ、さらに、図２１における場合と同様に、正規方程式加算回路６７に対し、教師データとして、学習用の画像の画素値ではなく、ＤＣＴ回路６２が出力する、学習用の画像をＤＣＴ処理したＤＣＴ係数が与えられるようになっている他は、図１６における場合と同様に構成されている。
【０１８９】
従って、図２３の実施の形態では、正規方程式加算回路６７が、ＤＣＴ回路６２が出力するＤＣＴ係数（量子化誤差のないＤＣＴ係数）を教師データとするとともに、予測タップ構成回路６４が出力する予測タップを構成するＤＣＴ係数（量子化されて逆量子化されたＤＣＴ係数）を生徒データとして、上述の足し込みを行う。そして、タップ係数決定回路６８は、そのような足し込みにより得られる正規方程式を解くことにより、タップ係数を求める。その結果、図２３の学習装置では、量子化され、さらに逆量子化されたＤＣＴ係数を、その量子化および逆量子化による量子化誤差を低減したＤＣＴ係数に変換するタップ係数が求められることになる。
【０１９０】
次に、上述した一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
【０１９１】
そこで、図２４は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
【０１９２】
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク２０５やＲＯＭ２０３に予め記録しておくことができる。
【０１９３】
あるいはまた、プログラムは、フロッピーディスク、CD-ROM(Compact Disc Read Only Memory)，MO(Magneto optical)ディスク，DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体２１１に、一時的あるいは永続的に格納（記録）しておくことができる。このようなリムーバブル記録媒体２１１は、いわゆるパッケージソフトウエアとして提供することができる。
【０１９４】
なお、プログラムは、上述したようなリムーバブル記録媒体２１１からコンピュータにインストールする他、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを、通信部２０８で受信し、内蔵するハードディスク２０５にインストールすることができる。
【０１９５】
コンピュータは、CPU(Central Processing Unit)２０２を内蔵している。CPU２０２には、バス２０１を介して、入出力インタフェース２１０が接続されており、CPU２０２は、入出力インタフェース２１０を介して、ユーザによって、キーボードや、マウス、マイク等で構成される入力部２０７が操作等されることにより指令が入力されると、それにしたがって、ROM(Read Only Memory)２０３に格納されているプログラムを実行する。あるいは、また、CPU２０２は、ハードディスク２０５に格納されているプログラム、衛星若しくはネットワークから転送され、通信部２０８で受信されてハードディスク２０５にインストールされたプログラム、またはドライブ２０９に装着されたリムーバブル記録媒体２１１から読み出されてハードディスク２０５にインストールされたプログラムを、RAM(Random Access Memory)２０４にロードして実行する。これにより、CPU２０２は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU２０２は、その処理結果を、必要に応じて、例えば、入出力インタフェース２１０を介して、LCD(Liquid CryStal Display)やスピーカ等で構成される出力部２０６から出力、あるいは、通信部２０８から送信、さらには、ハードディスク２０５に記録等させる。
【０１９６】
ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理（例えば、並列処理あるいはオブジェクトによる処理）も含むものである。
【０１９７】
また、プログラムは、１のコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
【０１９８】
なお、本実施の形態では、画像データを対象としたが、本発明は、その他、例えば、音声データにも適用可能である。
【０１９９】
さらに、本実施の形態では、静止画を圧縮符号化するＪＰＥＧ符号化された画像を対象としたが、本発明は、動画を圧縮符号化する、例えば、ＭＰＥＧ符号化された画像を対象とすることも可能である。
【０２００】
また、本実施の形態では、少なくとも、ＤＣＴ処理を行うＪＰＥＧ符号化された符号化データの復号を行うようにしたが、本発明は、その他の直交変換または周波数変換によって、ブロック単位（ある所定の単位）で変換されたデータの復号や変換に適用可能である。即ち、本発明は、例えば、サブバンド符号化されたデータや、フーリエ変換されたデータ等を復号したり、それらの量子化誤差等を低減したデータに変換する場合にも適用可能である。
【０２０１】
さらに、本実施の形態では、デコーダ２２において、タップ係数を、あらかじめ記憶しておくようにしたが、タップ係数は、符号化データに含めて、デコーダ２２に提供するようにすることが可能である。
【０２０２】
また、本実施の形態では、タップ係数を用いた線形１次予測演算によって、復号や変換を行うようにしたが、復号および変換は、その他、２次以上の高次の予測演算によって行うことも可能である。
【０２０３】
さらに、本実施の形態では、クラスタップを、注目画素に対応するＤＣＴブロックの量子化ＤＣＴ係数だけでなく、他のＤＣＴブロックの量子化ＤＣＴ係数をも用いて構成するようにしたが、予測タップも、同様に構成することが可能である。
【０２０４】
【発明の効果】
本発明の第１のデータ処理装置およびデータ処理方法、並びに記録媒体によれば、効率的に、変換データから、元のデータの予測値を求めることが可能となる。
【０２０５】
本発明の第２のデータ処理装置およびデータ処理方法、並びに記録媒体によれば、効率的に、直交変換または周波数変換されたデータから元のデータの予測値を求めることが可能となる。
【図面の簡単な説明】
【図１】従来のＪＰＥＧ符号化／復号を説明するための図である。
【図２】本発明を適用した画像伝送システムの一実施の形態の構成例を示す図である。
【図３】図２のデコーダ２２の構成例を示すブロック図である。
【図４】図３のデコーダ２２の処理を説明するフローチャートである。
【図５】図３の係数変換回路３２の第１の構成例を示すブロック図である。
【図６】クラスタップの例を説明する図である。
【図７】図５のクラス分類回路４３の構成例を示すブロック図である。
【図８】電力演算回路５１の処理を説明するための図である。
【図９】図５の係数変換回路３２の処理を説明するフローチャートである。
【図１０】図９のステップＳ１２の処理のより詳細を説明するフローチャートである。
【図１１】クラス分類の方法を説明するための図である。
【図１２】図５のクラス分類回路４３の処理を説明するフローチャートである。
【図１３】クラス分類の他の方法を説明するための図である。
【図１４】図５のクラス分類回路４３の他の構成例を示すブロック図である。
【図１５】図１４のクラス分類回路４３の処理を説明するフローチャートである。
【図１６】タップ係数を学習する学習装置の第１実施の形態の構成例を示すブロック図である。
【図１７】図１６の学習装置の処理を説明するフローチャートである。
【図１８】図３の係数変換回路３２の第２の構成例を示すブロック図である。
【図１９】学習装置の第２実施の形態の構成例を示すブロック図である。
【図２０】図３の係数変換回路３２の第３の構成例を示すブロック図である。
【図２１】学習装置の第３実施の形態の構成例を示すブロック図である。
【図２２】図３の係数変換回路３２の第４の構成例を示すブロック図である。
【図２３】学習装置の第４実施の形態の構成例を示すブロック図である。
【図２４】本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
【符号の説明】
２１ エンコーダ， ２２ デコーダ， ２３ 記録媒体， ２４ 伝送媒体， ３１ エントロピー復号回路， ３２ 係数変換回路， ３３ ブロック分解回路， ４１ 予測タップ抽出回路， ４２ クラスタップ抽出回路， ４３クラス分類回路， ４４ 係数テーブル記憶部， ４５積和演算回路， ５１電力演算回路， ５２ クラスコード生成回路， ５３ 閾値テーブル記憶部， ６１ ブロック化回路， ６２ ＤＣＴ回路， ６３ 量子化回路， ６４予測タップ抽出回路， ６５ クラスタップ抽出回路， ６６ クラス分類回路， ６７ 正規方程式加算回路， ６８ タップ係数決定回路， ６９ 係数テーブル記憶部， ７１，８１ 逆量子化回路， ９１ 逆量子化回路， １０１ 逆ＤＣＴ回路， １５１ 差分演算回路， １５２ クラスコード生成回路， １５３ 閾値テーブル記憶部， ２０１ バス， ２０２ CPU， ２０３ ROM， ２０４ RAM， ２０５ ハードディスク， ２０６ 出力部， ２０７ 入力部， ２０８ 通信部， ２０９ ドライブ， ２１０ 入出力インタフェース， ２１１ リムーバブル記録媒体

Claims (13)

  1. データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを処理し、元のデータの予測値を求めるデータ処理装置であって、
    学習を行うことにより求められたタップ係数を取得する取得手段と、
    注目している前記データである注目データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる前記変換データを、少なくとも、前記注目データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出手段と、
    前記クラスタップとなっている変換データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、前記注目データのクラスを求めるクラス分類を行うクラス分類手段と、
    前記注目データのクラスの前記タップ係数と、前記変換データとの線形１次予測演算を行うことにより、前記注目データの予測値を求める演算手段と
    を備え、
    前記タップ係数は、
    学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られる前記ブロック単位の変換データを、学習時の生徒となる生徒データとして生成し、
    前記教師データとして用いられる前記データのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる前記生徒データを、少なくとも、前記注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力し、
    前記クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、前記注目教師データのクラスを求めるクラス分類を行い、
    前記クラスごとの前記タップ係数と、前記生徒データとの線形１次予測演算を行うことにより得られる前記教師データの予測値の予測誤差が、統計的に最小になるように学習を行う
    学習処理によりクラスごとに求められたものである
    ことを特徴とするデータ処理装置。
  2. 前記タップ係数を記憶している記憶手段をさらに備え、
    前記取得手段は、前記記憶手段から、前記タップ係数を取得する
    ことを特徴とする請求項１に記載のデータ処理装置。
  3. 前記クラスタップ抽出手段は、注目データに対応するブロックの周辺のブロックから、前記クラスタップとする前記変換データを抽出する
    ことを特徴とする請求項１に記載のデータ処理装置。
  4. 前記クラスタップ抽出手段は、注目データに対応するブロックからも、前記クラスタップとする前記変換データを抽出する
    ことを特徴とする請求項１に記載のデータ処理装置。
  5. 前記データは、動画または静止画の画像データである
    ことを特徴とする請求項１に記載のデータ処理装置。
  6. データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを処理し、元のデータの予測値を求めるデータ処理方法であって、
    学習を行うことにより求められたタップ係数を取得する取得ステップと、
    注目している前記データである注目データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる前記変換データを、少なくとも、前記注目データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出ステップと、
    前記クラスタップとなっている変換データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、前記注目データのクラスを求めるクラス分類を行うクラス分類ステップと、
    前記注目データのクラスの前記タップ係数と、前記変換データとの線形１次予測演算を行うことにより、前記注目データの予測値を求める演算ステップと
    を備え、
    前記タップ係数は、
    学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られる前記ブロック単位の変換データを、学習時の生徒となる生徒データとして生成し、
    前記教師データとして用いられる前記データのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる前記生徒データを、少なくとも、前記注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力し、
    前記クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、前記注目教師データのクラスを求めるクラス分類を行い、
    前記クラスごとの前記タップ係数と、前記生徒データとの線形１次予測演算を行うことにより得られる前記教師データの予測値の予測誤差が、統計的に最小になるように学習を行う
    学習処理によりクラスごとに求められたものである
    ことを特徴とするデータ処理方法。
  7. データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを処理し、元のデータの予測値を求めるデータ処理を、コンピュータに行わせるプログラムが記録されている記録媒体であって、
    学習を行うことにより求められたタップ係数を取得する取得ステップと、
    注目している前記データである注目データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる前記変換データを、少なくとも、前記注目データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出ステップと、
    前記クラスタップとなっている変換データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、前記注目データのクラスを求めるクラス分類を行うクラス分類ステップと、
    前記注目データのクラスの前記タップ係数と、前記変換データとの線形１次予測演算を行うことにより、前記注目データの予測値を求める演算ステップと
    を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体であり、
    前記タップ係数は、
    学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られる前記ブロック単位の変換データを、学習時の生徒となる生徒データとして生成し、
    前記学習時の教師となる教師データとして用いられる前記データのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる前記生徒データを、少なくとも、前記注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力し、
    前記クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、前記注目教師データのクラスを求めるクラス分類を行い、
    前記クラスごとの前記タップ係数と、前記生徒データとの線形１次予測演算を行うことにより得られる前記教師データの予測値の予測誤差が、統計的に最小になるように学習を行う
    学習処理によりクラスごとに求められたものである
    ことを特徴とする記録媒体。
  8. データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを処理し、元のデータの予測値を求めるのに用いるタップ係数を学習するデータ処理装置であって、
    学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られる前記ブロック単位の変換データを、学習時の生徒となる生徒データとして生成する生成手段と、
    前記教師データとして用いられる前記データのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる前記生徒データを、少なくとも、前記注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出手段と、
    前記クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、前記注目教師データのクラスを求めるクラス分類を行うクラス分類手段と、
    前記クラスごとの前記タップ係数と、前記生徒データとの線形１次予測演算を行うことにより得られる前記教師データの予測値の予測誤差が、統計的に最小になるように学習を行い、前記タップ係数を、クラスごとに求める学習手段と
    を備えることを特徴とするデータ処理装置。
  9. 前記クラスタップ抽出手段は、注目教師データに対応するブロックの周辺のブロックから、前記クラスタップとする前記生徒データを抽出する
    ことを特徴とする請求項８に記載のデータ処理装置。
  10. 前記クラスタップ抽出手段は、注目教師データに対応するブロックからも、前記クラスタップとする前記生徒データを抽出する
    ことを特徴とする請求項８に記載のデータ処理装置。
  11. 前記データは、動画または静止画の画像データである
    ことを特徴とする請求項８に記載のデータ処理装置。
  12. データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを処理し、元のデータの予測値を求めるのに用いるタップ係数を学習するデータ処理方法であって、
    学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られる前記ブロック単位の変換データを、学習時の生徒となる生徒データとして生成する生成ステップと、
    前記教師データとして用いられる前記データのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる前記生徒データを、少なくとも、前記注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出ステップと、
    前記クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、前記注目教師データのクラスを求めるクラス分類を行うクラス分類ステップと、
    前記クラスごとの前記タップ係数と、前記生徒データとの線形１次予測演算を行うことにより得られる前記教師データの予測値の予測誤差が、統計的に最小になるように学習を行い、前記タップ係数を、クラスごとに求める学習ステップと
    を備えることを特徴とするデータ処理方法。
  13. データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られるブロック単位の変換データを処理し、元のデータの予測値を求めるのに用いるタップ係数を学習するデータ処理を、コンピュータに行わせるプログラムが記録されている記録媒体であって、
    学習時の教師となる教師データに対し、少なくとも、離散コサイン変換処理を所定のブロック単位で施すことにより得られる前記ブロック単位の変換データを、学習時の生徒となる生徒データとして生成する生成ステップと、
    前記教師データとして用いられる前記データのうちの、注目している教師データである注目教師データを、幾つかのクラスのうちのいずれかにクラス分類するのに用いる前記生徒データを、少なくとも、前記注目教師データに対応するブロック以外のブロックから抽出し、クラスタップとして出力するクラスタップ抽出ステップと、
    前記クラスタップとなっている生徒データである、離散コサイン変換されたデータの直流成分または交流成分の電力に基づいて、前記注目教師データのクラスを求めるクラス分類を行うクラス分類ステップと、
    前記クラスごとの前記タップ係数と、前記生徒データとの線形１次予測演算を行うことにより得られる前記教師データの予測値の予測誤差が、統計的に最小になるように学習を行い、前記タップ係数を、クラスごとに求める学習ステップと
    を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2000164024A 2000-06-01 2000-06-01 データ処理装置およびデータ処理方法、並びに記録媒体 Expired - Fee Related JP4678454B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000164024A JP4678454B2 (ja) 2000-06-01 2000-06-01 データ処理装置およびデータ処理方法、並びに記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000164024A JP4678454B2 (ja) 2000-06-01 2000-06-01 データ処理装置およびデータ処理方法、並びに記録媒体

Publications (2)

Publication Number Publication Date
JP2001346209A JP2001346209A (ja) 2001-12-14
JP4678454B2 true JP4678454B2 (ja) 2011-04-27

Family

ID=18667695

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000164024A Expired - Fee Related JP4678454B2 (ja) 2000-06-01 2000-06-01 データ処理装置およびデータ処理方法、並びに記録媒体

Country Status (1)

Country Link
JP (1) JP4678454B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4748113B2 (ja) * 2007-06-04 2011-08-17 ソニー株式会社 学習装置および学習方法、並びにプログラムおよび記録媒体
JP4951113B1 (ja) 2010-12-20 2012-06-13 株式会社東芝 画像復号化装置、画像復号化方法およびプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0779434A (ja) * 1993-09-06 1995-03-20 Sony Corp ディジタル画像信号の受信／再生装置
JPH09331526A (ja) * 1996-04-11 1997-12-22 Sony Corp 画像信号処理装置および方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0779434A (ja) * 1993-09-06 1995-03-20 Sony Corp ディジタル画像信号の受信／再生装置
JPH09331526A (ja) * 1996-04-11 1997-12-22 Sony Corp 画像信号処理装置および方法

Also Published As

Publication number Publication date
JP2001346209A (ja) 2001-12-14

Similar Documents

Publication Publication Date Title
US7336829B2 (en) Data processing apparatus and method and recording medium
JP5957559B2 (ja) 大きいサイズの変換単位を用いた映像符号化、復号化方法及び装置
US8331454B2 (en) Integer transform function for video compression systems
US9693057B2 (en) Integer transform video compression system, method and computer program product
JP2004528791A (ja) インターフレーム符号化方法および装置
JP4517448B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP4678454B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP4752088B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP4538698B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP4538699B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP4419287B2 (ja) 画像処理装置および画像処理方法、並びに記録媒体
JP4147789B2 (ja) 画像処理装置および画像処理方法、並びにプログラムおよび記録媒体
WO2019198519A1 (ja) データ処理装置及びデータ処理方法
JP4081745B2 (ja) 復号装置および復号方法、学習装置および学習方法、並びにプログラムおよび記録媒体
JP2001345707A (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP4505729B2 (ja) 画像処理装置、画像処理方法、プログラム、および記録媒体
JP4154647B2 (ja) データ処理装置およびデータ処理方法、並びにプログラムおよび記録媒体
JP4491701B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP4649770B2 (ja) 画像データ処理装置および方法、記録媒体、並びにプログラム
Furht Image presentation and compression
JP2007208662A (ja) 画像復号器、画像復号方法、画像復号プログラムおよびそれを記録したコンピュータ読み取り可能な記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090915

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100527

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110106

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110119

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140210

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees