JP5138933B2 - 画像符号化方法、画像復号化方法、画像符号化装置、画像復号化装置、集積回路、およびプログラム - Google Patents

画像符号化方法、画像復号化方法、画像符号化装置、画像復号化装置、集積回路、およびプログラム Download PDF

Info

Publication number
JP5138933B2
JP5138933B2 JP2006528634A JP2006528634A JP5138933B2 JP 5138933 B2 JP5138933 B2 JP 5138933B2 JP 2006528634 A JP2006528634 A JP 2006528634A JP 2006528634 A JP2006528634 A JP 2006528634A JP 5138933 B2 JP5138933 B2 JP 5138933B2
Authority
JP
Japan
Prior art keywords
image
parameter
decoded image
decoded
input image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006528634A
Other languages
English (en)
Other versions
JPWO2006001384A1 (ja
Inventor
敏志 近藤
寿郎 笹井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2006528634A priority Critical patent/JP5138933B2/ja
Publication of JPWO2006001384A1 publication Critical patent/JPWO2006001384A1/ja
Application granted granted Critical
Publication of JP5138933B2 publication Critical patent/JP5138933B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/48Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、動画像信号を圧縮符号化する際の画像符号化方法および画像復号化方法に関する。
従来の画像符号化装置(例えば、特許文献1参照。)は、第1および第2の符号化部を備え、階層的動画像符号化方式(スケーラブル符号化方式)により画像を符号化する。第1の符号化部は、入力画像(高解像度画像)を縮小して低解像度画像に変換し、低解像度画像に対して符号化を実施する。第2の符号化部は、第1の符号化部により得られた低解像度画像に対する局所復号画像を拡大処理した画像と入力画像(高解像度画像)との差分画像に対して符号化を実施する。
つまり、このような従来の方法では、入力画像の高解像度成分を、低解像度画像の局所復号画像を拡大した画像と入力画像との差分画像として符号化する。言い換えれば、この差分画像が高解像度成分となる。
特開平6−78292号公報
しかしながら、この高解像度成分はあくまでも画像データ(差分画像)として符号化されており、符号化により生成される符号量が大きくなるという問題がある。
本発明は、かかる問題に鑑みてなされたものであって、符号量を大幅に削減しながらも、復号画像の高画質化を図ることができる画像符号化方法および画像復号化方法を提供することを目的とする。
上記目的を達成するために、入力画像を符号化する画像符号化方法であって、入力画像を符号化して、符号化された入力画像を含む符号列を生成する符号化ステップと、符号化された入力画像を復号化することにより復号画像を生成する復号画像生成ステップと、前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて、前記復号画像を前記入力画像に近づけるためのパラメータを生成するパラメータ生成ステップとを含み、前記パラメータ生成ステップでは、前記復号画像および前記入力画像のうち何れか一方の画像に対して、パラメータにより特性が決まる予め定められた関数形によるフィルタ処理を行い、前記フィルタ処理が行われた一方の画像と他方の画像との誤差に基づいて前記パラメータを生成する。
また、上記目的を達成するために、本発明に係る画像符号化方法は、入力画像を符号化する画像符号化方法であって、入力画像を符号化して、符号化された入力画像を含む符号列を生成する符号化ステップと、符号化された入力画像を復号化することにより復号画像を生成する復号画像生成ステップと、前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて、前記復号画像を前記入力画像に近づけるためのパラメータを生成するパラメータ生成ステップとを含むことを特徴とする。例えば、前記パラメータ生成ステップでは、前記復号画像および前記入力画像を周波数変換し、前記周波数変換により得られるそれぞれの周波数変換係数の差分を特定することにより前記パラメータを生成する。
これにより、入力画像および復号画像の少なくとも一方の周波数成分に基づいてパラメータが生成されるため、そのパラメータの情報量を、従来のような画像データ(差分画像)よりも少なくすることができる。即ち、符号列とパラメータを含む符号量を大幅に削減しながらも、画像復号化装置では、そのパラメータを用いて復号画像の高画質化を図ることができる。
また、前記パラメータ生成ステップでは、前記復号画像および前記入力画像のそれぞれの画像領域ごとに前記周波数変換係数の差分を特定することにより、前記画像領域ごとの前記パラメータを生成することを特徴としてもよい。
これにより、画像領域ごとにその画像領域に応じたパラメータが生成されるため、復号画像を入力画像により近づけて高画質化をさらに図ることができる。
また、前記画像符号化方法は、さらに、前記パラメータ生成ステップで前記パラメータを生成するために用いられる処理を識別するための識別情報を生成する識別情報生成ステップを含むことを特徴としてもよい。
これにより、画像復号化装置がその識別情報を取得すれば、画像復号化装置は、その識別情報の示す処理に基づいて、復号画像を入力画像に適切に近づけて高画質化を図ることができる。
また、前記画像符号化方法は、さらに、前記入力画像に対して所定の前処理を行う前処理ステップを含み、前記符号化ステップでは、前記前処理が行われた入力画像を符号化して符号列を生成し、前記パラメータ生成ステップでは、前記復号画像と、前記前処理が行われた入力画像または前記前処理が行われていない入力画像とのうち少なくとも一方の周波数成分に基づいて前記パラメータを生成することを特徴としてもよい。例えば、前記前処理ステップでは、前記入力画像に対して、画像サイズの縮小処理、低域通過フィルタ処理、またはフレームレート削減処理を行う。
これにより、入力画像に対して前処理が行われるため符号量をさらに削減することができる。
また、前記画像生成方法は、さらに、前記前処理ステップで行われる前記前処理の内容を示す前処理パラメータを生成する前処理パラメータ生成ステップを含むことを特徴としてもよい。
これにより、画像復号化装置がその前処理パラメータを取得すれば、その画像復号化装置は、その前処理パラメータの示す前処理の内容に基づいて、適切に復号画像を生成して高画質化を図ることができる。
ここで本発明に係る画像復号化方法は、符号化された入力画像を復号化する画像復号化方法であって、符号列を取得する符号列取得ステップと、前記符号列に含まれる符号化された入力画像を復号化することにより、復号画像を生成する復号化ステップと、前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて生成されたパラメータを取得するパラメータ取得ステップと、前記復号画像に対して前記パラメータを適用することにより、前記復号画像よりも前記入力画像に近い高画質復号画像を生成する高画質化ステップとを含むことを特徴とする。
これにより、画像符号化装置からパラメータが出力されたときには、そのパラメータを用いて復号画像を適切に高画質化して高画質復号画像を生成することができる。
なお、本発明は、このような画像符号化方法および画像復号化方法として実現することができるだけでなく、その方法を用いた処理を行う画像符号化装置および画像復号化装置や、集積回路、その方法を実現するためのプログラム、そのプログラムを格納する記憶媒体としても実現することができる。
本発明の画像符号化方法および画像復号化方法は、符号量を大幅に削減しながらも、復号画像の高画質化を図ることができるという作用効果を奏し、その実用的価値が高い。
以下、本発明の実施の形態について、図面を用いて説明する。
(実施の形態1)
図1は、本発明の実施の形態1における画像符号化方法を用いた画像符号化装置100のブロック図である。図1に示すように、画像符号化装置100は画像符号化部101およびパラメータ抽出部102aを備えている。
入力画像ORは、画像符号化部101に入力される。画像符号化部101は、規格により規定された画像符号化方法によりその入力画像ORを符号化する。規格により規定された画像符号化方法としては、ISO/IEC規格であるJPEG(Joint Photographic Experts Group)方式やMPEG(Moving Picture Experts Group)方式、ITU−T規格であるH.26x方式、等を用いることができる。画像符号化部101からは、入力画像ORを符号化して得られる符号列BSと、符号化された入力画像ORを復号化して得られる局所復号画像LDが出力される。符号列BSは、画像符号化装置100の外部に出力され、伝送、蓄積、等の処理が施される。
局所復号画像LDは、パラメータ抽出部102aに入力される。また、パラメータ抽出部102aには、入力画像ORも入力される。パラメータ抽出部102aは、入力画像ORと局所復号画像LDとを用いて、局所復号画像LDを入力画像ORに近づけるための高画質化パラメータPRを抽出する。高画質化パラメータPRは、画像符号化装置100の外部に出力され、符号列BSと共に、伝送、蓄積、等の処理が施される。
パラメータ抽出部102aは、高画質化パラメータPRを、符号列BS中のヘッダ領域やユーザデータ領域に含めても良いし、符号列BSとは別の符号列として出力しても良い。
以下、パラメータ抽出部102aにおいて高画質化パラメータPRを求める際の処理例について説明する。
図2は、パラメータ抽出部102aの構成例を示すブロック図である。
パラメータ抽出部102aは、離散コサイン変換部201、202、および抽出部203を備えている。離散コサイン変換部201は入力画像ORに対して離散コサイン変換を施して離散コサイン変換係数OTを出力する。離散コサイン変換部202は局所復号画像LDに対して離散コサイン変換を施して離散コサイン変換係数DTを出力する。離散コサイン変換を施す場合には、例えば入力画像ORと局所復号画像LDを水平8画素、垂直8画素のブロックに分割し、ブロック毎に処理を行えば良い。または、領域毎に異なる大きさのブロックに分割しても良い。この場合には例えば、平坦な部分ではブロックサイズを大きくし、エッジ等を含む複雑な絵柄の部分ではブロックサイズを小さくする、等の方法がある。
離散コサイン変換部201、202で、入力画像ORと局所復号画像LDのそれぞれに対して得られた離散コサイン変換係数OT、DTは、抽出部203に入力される。抽出部203は、入力画像ORと局所復号画像LDとの離散コサイン変換係数OT,DTの周波数分布に基づいて、局所復号画像LDの離散コサイン変換係数DTの周波数分布から入力画像ORの離散コサイン変換係数OTの周波数分布を得るためのパラメータを求める。
図3は、抽出部203の構成例を示すブロック図である。図3に示すように、抽出部203は、係数補正部301、補正パターン保持部302、距離計算部303、および最適値検出部304を備えている。
係数補正部301には、局所復号画像LDの離散コサイン変換係数DTが入力される。係数補正部301は、補正パターン保持部302に保持されている複数の補正パターンのそれぞれを順に用いて、局所復号画像LDの離散コサイン変換係数DTに対して補正を施す。
図4は、係数補正部301での処理方法を説明するための模式図である。図4の(a)は、局所復号画像LDの離散コサイン変換係数DTの周波数分布を示している。ここでは簡単化のために、離散コサイン変換係数DTを1次元データとして表現しているが、実際には2次元データである。図4の(b)は、補正パターンを示している。補正パターンは、周波数毎に異なるゲインを有している。
係数補正部301は、図4の(a)に示す局所復号画像LDの離散コサイン変換係数DTの周波数分布に対して、図4の(b)に示す補正パターンを乗じることによって、図4の(c)に示す離散コサイン変換係数CDTの周波数分布を得る。そして、係数補正部301は、その離散コサイン変換係数CDTを距離計算部303に対して出力する。
距離計算部303には、上述の離散コサイン変換係数CDTと入力画像ORの離散コサイン変換係数OTとが入力される。距離計算部303は、離散コサイン変換係数CDTと、入力画像ORの離散コサイン変換係数OTとの距離DSを計算する。この距離DSとしては、例えば各周波数に対応する係数毎の差分値の2乗和や、重み付き2乗和、等を用いることができる。そして距離計算部303は、この距離DSを最適値検出部304に対して出力する。
上記の係数補正部301と距離計算部303との処理は、補正パターン保持部302に保持されている補正パターンの数だけ繰り返される。そして、最適値検出部304は、距離DSが最小となる補正パターンを見つける。このときの補正パターンの番号PNが最適な補正パターンの番号となる。最適値検出部304は、この最適な補正パターンの番号PNを高画質化パラメータPRとして出力する。
図5は、本実施の形態における画像符号化装置100の動作を示すフロー図である。
まず、画像符号化装置100は、入力画像ORを取得し(ステップS100)、その入力画像ORを符号化して符号列BSを生成する(ステップS102)。さらに、画像符号化装置100は、符号化された入力画像ORを復号化することで局所復号画像LDを生成する(ステップS104)。
次に、画像符号化装置100は、入力画像ORおよび局所復号画像LDに対して離散コサイン変換を施して離散コサイン変換係数OT、DTを生成する(ステップS106)。そして、画像符号化装置100は、局所復号画像LDの離散コサイン変換係数DTを、入力画像ORの離散コサイン変換係数OTに近づけるための補正パターンを特定する(ステップS108)。
補正パターンを特定すると、画像符号化装置100は、ステップS102で生成された符号列BSと、ステップS108で特定された補正パターンを示す高画質化パラメータPRとを出力する(ステップS110)。
以上のように、本実施の形態の画像符号化方法では、入力画像を規格により規定された画像符号化方法(JPEG方式やMPEG方式等)で符号化し、さらに高画質化成分を生成するための高画質化パラメータを入力画像と局所復号画像との周波数成分を用いて求める。この高画質化パラメータは、局所復号画像をより入力画像に近づけるためのパラメータであり、離散コサイン変換を用いて求められる。
したがって、本実施の形態の画像符号化方法を用いることにより、規格により規定された画像符号化方法(JPEG方式やMPEG方式等)等と互換性を有する符号列を生成し、それとは別に、さらに高画質化パラメータを生成することができる。この高画質化パラメータは、画像データではなく、入力画像および局所復号画像の周波数成分に基づいて生成されたパラメータであるので、データ量を極めて少なくすることができ、少ない情報量の増加で復号画像の高画質化を図ることができる。例えば、本実施の形態の画像符号化方法により生成した符号列を受信した画像復号化装置が、規格により規定された画像符号化方法(JPEG方式やMPEG方式等)の復号化のみに対応している場合には、符号列BSのみを復号化することにより、低画質ではあるが画像の再生を行うことができる。また、画像復号化装置が、高画質化パラメータPRの処理も行うことができる場合には、高画質な画像の再生を行うことができる。すなわち、本実施の形態の画像符号化方法を用いることにより、規格により規定された画像符号化方法と比較して、わずかな符号量の増加で大幅に画質を向上させることができる。また、いわゆるスケーラブル符号化の特徴も有しながらも、従来のスケーラブル機能を有する画像符号化方法と比較して、大幅に符号量を削減することができる。
なお、上記の実施の形態では、パラメータ抽出部102aにおいて、入力画像ORと局所復号画像LDとの離散コサイン変換係数を求めたが、例えば画像符号化部101が離散コサイン変換係数を用いて符号化を行う場合には(例えば、MPEG方式)、改めてパラメータ抽出部102aで離散コサイン変換係数を求める代わりに、画像符号化部101で求められた離散コサイン変換係数を用いても良い。これにより、計算量の削減を図ることができる。
(変形例1)
ここで、高画質化パラメータPRの生成方法における第1の変形例について説明する。
本変形例に係る画像符号化装置のパラメータ抽出部は、離散コサイン変換の代わりに離散ウェーブレット変換を行うことで高画質化パラメータPRを生成する。
図6は、本変形例に係るパラメータ抽出部の構成例を示すブロック図である。
このパラメータ抽出部102bは、離散ウェーブレット変換部501、502、および抽出部503を備えている。離散ウェーブレット変換部501は、入力画像ORに対して離散ウェーブレット変換を施して離散ウェーブレット変換係数OWを出力する。離散ウェーブレット変換部502は、局所復号画像LDに対して離散ウェーブレット変換を施して離散ウェーブレット変換係数LWを出力する。離散ウェーブレット変換を施す場合には、例えば入力画像ORと局所復号画像LDの全画面に対して処理を行えば良い。または、画面を領域に分割して、領域毎に処理を行えばよい。この場合、例えば画面内を画像の複雑さ(平坦さ)に応じて各領域に分割する方法がある。
離散ウェーブレット変換部501、502で、入力画像ORと局所復号画像LDのそれぞれに対して得られた離散ウェーブレット変換係数OW、LWは、抽出部503に入力される。
抽出部503は、入力画像ORと局所復号画像LDとのそれぞれの離散ウェーブレット変換係数OW、LWの周波数分布に基づいて、局所復号画像LDの離散ウェーブレット変換係数LWの周波数分布から入力画像ORの離散ウェーブレット変換係数OWの周波数分布を得るための高画質化パラメータPRを求める。
図7を用いて、高画質化パラメータPRの求め方の例を説明する。
図7は、離散ウェーブレット変換係数を用いて入力画像ORおよび局所復号画像LDを多重解像度表現した場合の模式図である。ここでは、水平および垂直方向に1回ずつ離散ウェーブレット変換を施した場合を示している。図7に示す記号「LL」、「HL」、「LH」、及び「HH」において、「L」は低周波数成分を示し、「H」は高周波数成分を示す。また2つの記号の並びについて、1つ目は水平方向周波数を示し、2つ目は垂直方向周波数を示している。よって例えば、記号「LH」は水平方向が低周波数成分で、垂直方向が高周波数成分である画像成分であることを示している。図7の(a)は、入力画像ORの離散ウェーブレット変換係数OWを用いた多重解像度表現を示し、図7の(b)は、局所復号画像LDの離散ウェーブレット変換係数LWを用いた多重解像度表現を示す。
抽出部503は、局所復号画像LDのLL成分に対する入力画像ORのLL成分のゲインG0'と、局所復号画像LDのHL成分に対する入力画像ORのHL成分のゲインG1'と、局所復号画像LDのLH成分に対する入力画像ORのLH成分のゲインG2'と、局所復号画像LDのHH成分に対する入力画像ORのHH成分のゲインG3'とを求めて、これらのゲインを高画質化パラメータPRとして出力する。
このように本変形例では、上述の実施の形態と同様、この高画質パラメータPRは、画像データではなく、入力画像および局所復号画像の周波数成分に基づいて生成されたパラメータであるので、データ量を極めて少なくすることができる。
ここで、本変形例では、ゲインG0'、ゲインG1'、ゲインG2'、およびゲインG3'を高画質パラメータPRとしたが、それら以外のゲインを高画質パラメータPRとしてもよい。
例えば、抽出部503は、入力画像ORのLL成分に対する入力画像ORのHL成分のゲインG1と、入力画像ORのLL成分に対する入力画像ORのLH成分のゲインG2と、入力画像ORのLL成分に対する入力画像ORのHH成分のゲインG3とを求める。これは例えば、各成分のエネルギー値を計算し、その比を取ることによって計算することができる。そして、抽出部503は、これらのゲインを高画質化パラメータPRとして出力する。
また、抽出部503は、上記のゲインG1、G2、G3、G0'、G1'、G2'、G3'を高画質化パラメータPRとして出力してもよい。
なお、本変形例では、離散ウェーブレット変換部501、502を用いて、入力画像ORと局所復号画像LDのそれぞれに対する離散ウェーブレット変換係数を求めたが、例えば画像符号化部101が離散ウェーブレット変換係数を用いて符号化を行う場合には(例えば、JPEG2000方式)、改めてパラメータ抽出部102bで離散ウェーブレット変換係数を求める代わりに、画像符号化部101で求めた離散ウェーブレット変換係数を用いても良い。これにより、計算量の削減を図ることができる。
また、本変形例において、入力画像ORおよび局所復号画像LDを領域ごとに分割してウェーブレット変換を施した場合には、領域毎に異なる高画質化パラメータPRを送っても良い。または、ウェーブレット変換は全画面で施し、領域に分割して、領域毎に異なる高画質化パラメータPRを生成しても良い。このようにすることにより、高画質化パラメータPRの数は多くなるが、より細かい処理が可能な高画質化パラメータPRを生成することができる。
(変形例2)
ここで、高画質化パラメータPRの生成方法における第2の変形例について説明する。
本変形例に係る画像符号化装置のパラメータ抽出部は、離散コサイン変換の代わりにエッジ成分を抽出することで高画質化パラメータPRを生成する。
図8は、本変形例に係るパラメータ抽出部の構成例を示すブロック図である。
このパラメータ抽出部102cは、ラプラシアン生成部701、702、および抽出部703を備えている。ラプラシアン生成部701は、入力画像ORからラプラシアン画像OLPを生成し、ラプラシアン生成部702は、局所復号画像LDからラプラシアン画像LLPを生成する。ラプラシアン画像の生成を行う場合には、例えば入力画像ORと局所復号画像LDの全画面に対して処理を行えば良い。または、画面を領域に分割して、領域毎に処理を行えば良い。この場合、例えば画面内を画像の複雑さ(平坦さ)に応じて各領域に分割する方法がある。
図9を用いて、ラプラシアン生成部701、702による処理方法を説明する。
図9は、ラプラシアン生成部701、702のブロック図である。
ラプラシアン生成部701、702はそれぞれ、低域通過フィルタ801、802と減算部803、804とを備えている。
ラプラシアン生成部701では、まず、低域通過フィルタ801が入力画像ORに対して、ガウス型の低域通過フィルタを施し、低周波数成分画像LF1を生成する。そして、減算部803が、入力画像ORからその低周波数成分画像LF1を減じて、第1レベルのラプラシアン画像LP1を生成する。次に、低域通過フィルタ802が低周波数成分画像LF1に対して、ガウス型の低域通過フィルタを施し、低周波数成分画像LF2を生成する。そして、減算部804が、低周波数成分画像LF1からその低周波数成分画像LF2を減じて、第2レベルのラプラシアン画像LP2を生成する。
このように生成された入力画像ORの第1レベルおよび第2レベルのラプラシアン画像LP1,LP2は、上述のラプラシアン画像OLPとして出力される。
ラプラシアン生成部702においても上述と同様、まず、低域通過フィルタ801が局所復号画像LDに対して、ガウス型の低域通過フィルタを施し、低周波数成分画像LF1を生成する。そして、減算部803が、局所復号画像LDからその低周波数成分画像LF1を減じて、第1レベルのラプラシアン画像LP1を生成する。次に、低域通過フィルタ802が低周波数成分画像LF1に対して、ガウス型の低域通過フィルタを施し、低周波数成分画像LF2を生成する。そして、減算部804が、低周波数成分画像LF1からその低周波数成分画像LF2を減じて、第2レベルのラプラシアン画像LP2を生成する。
このように生成された局所復号画像LDの第1レベルおよび第2レベルのラプラシアン画像LP1,LP2は、上述のラプラシアン画像LLPとして出力される。
このようなラプラシアン生成部701、702の処理方法からわかるように、ラプラシアン画像は、入力画像から入力画像の低周波数成分を減ずることにより生成される。すなわち、ラプラシアン画像は一種の高域通過フィルタにより生成される画像であり、画像のエッジ成分を抽出することができる。そして、ラプラシアン画像のレベルが上がるごとに、より低域のエッジ成分を抽出することができる。
図10は、ラプラシアン画像の例を示す図である。図10の(a)は入力画像ORを示し、図10の(b)および(c)はそれぞれ、入力画像ORに対する第1レベルおよび第2レベルのラプラシアン画像LP1、LP2を示している。また、図10の(d)は局所復号画像LDを示し、図10の(e)および(f)はそれぞれ、局所復号画像LDに対する第1レベルおよび第2レベルのラプラシアン画像LP1、LP2を示している。
抽出部703は、入力画像ORと局所復号画像LDとの同レベルのラプラシアン画像を比較して、パラメータを抽出する。例えば、局所復号画像LDの第1レベルのラプラシアン画像LP1から入力画像ORの第1レベルのラプラシアン画像LP1を得るためのゲインG1と、局所復号画像LDの第2レベルのラプラシアン画像LP2から入力画像ORの第2レベルのラプラシアン画像LP2を得るためのゲインG2とがパラメータとなる。抽出部703は、これらのゲインを高画質化パラメータPRとして出力する。
このように本変形例では、上述の実施の形態と同様、この高画質パラメータPRは、画像データではなく、入力画像および局所復号画像の周波数成分に基づいて生成されたパラメータであるので、データ量を極めて少なくすることができる。
なお、本変形例では、第1レベルおよび第2レベルのラプラシアン画像LP1、LP2を求めたが、さらに多くのレベルのラプラシアン画像を求めても良く、さらにどのレベルのラプラシアン画像まで求めたかを示す情報も高画質化パラメータPRに含めても良い。
また、本変形例において、入力画像ORおよび局所復号画像LDを領域ごとに分割してラプラシアン画像を生成した場合には、領域毎に異なる高画質化パラメータPRを送っても良い。または、全画面に対してラプラシアン画像を生成し、領域に分割して、領域毎に異なる高画質化パラメータを生成しても良い。このようにすることにより、高画質化パラメータPRの数は多くなるが、より細かい処理が可能な高画質化パラメータPRを生成することができる。
(変形例3)
ここで、高画質化パラメータPRの生成方法における第3の変形例について説明する。
本変形例に係る画像符号化装置のパラメータ抽出部は、離散コサイン変換の代わりに点像強度分布関数(Point Spread Function)によるフィルタ処理を用いることで高画質化パラメータPRを生成する。
図11は、本変形例に係るパラメータ抽出部の構成例を示すブロック図である。
このパラメータ抽出部102dは、入力画像ORに対して点像強度分布関数によるフィルタ処理を施して(畳み込み処理を施して)得られる画像が局所復号画像LDであると仮定し、点像強度分布関数のパラメータを求める。ここで、点像強度分布関数は一般にガウス関数として近似されるので、ここでのパラメータはガウス関数のパラメータ(標準偏差σ)とする。
具体的に、このパラメータ抽出部102dは、畳み込み処理部1401、関数パラメータ保持部1402、誤差エネルギー計算部1403、およびパラメータ決定部1404を備えている。
関数パラメータ保持部1402は、予め定めた複数の点像強度分布関数のパラメータ(例えばガウス関数のパラメータ)を保持している。畳み込み処理部1401は、関数パラメータ保持部1402が保持しているパラメータの中から何れかのパラメータを選択する。そして畳み込み処理部1401は、選択したパラメータを用いて入力画像ORに対して畳み込み処理を行い、その結果得られる画像CRを出力する。誤差エネルギー計算部1403は、画像CRと局所復号画像LDとの誤差エネルギーERを求める。この誤差エネルギーERはパラメータ決定部1404に入力される。このような誤差エネルギーERの算出は、関数パラメータ保持部1402に保持されている点像強度分布関数のパラメータのそれぞれに対して行われる。
パラメータ決定部1404は、誤差エネルギーERが最小となる点像強度分布関数のパラメータを選択し、そのパラメータの番号PNを高画質化パラメータPRとして出力する。
このように本変形例では、上述の実施の形態と同様、この高画質パラメータPRは、画像データではなく、入力画像に対して周波数に基づくフィルタ処理を行って生成されたパラメータであるので、データ量を極めて少なくすることができる。
なお、本変形例では、入力画像ORに対して畳み込み処理を行い、その結果と局所復号画像LDとの誤差エネルギーが最小となる点像強度分布関数のパラメータを求めたが、局所復号画像LDに対して逆畳み込み処理を行い、その結果と入力画像ORとの誤差エネルギーが最小となる点像強度分布関数のパラメータを求めても良い。
また、本変形例では、全画面に対する点像強度分布関数のパラメータを求めたが、画面を領域ごとに分割して、領域毎に点像強度分布関数のパラメータを求めても良い。この場合には、高画質化パラメータPRとして、領域に関する情報を含めれば良い。このようにすることにより、高画質化パラメータPRの数は多くなるが、より細かい処理が可能な高画質化パラメータPRを生成することができる。
(変形例4)
ここで、高画質化パラメータPRの生成方法における第4の変形例について説明する。
本変形例に係る画像符号化装置は、図1に示すパラメータ抽出部102aの代わりに最適パラメータ抽出部を備えて構成されている。
図12は、本変形例に係る最適パラメータ抽出部の構成を示すブロック図である。
この最適パラメータ抽出部102は、パラメータ抽出部102a、102b、102c、102dと選択部112とを備えている。
パラメータ抽出部102a、102b、102c、102dはそれぞれ、上述のように入力画像ORおよび局所復号画像LDを取得して、各々の処理手順に基づいて高画質化パラメータPRを出力する。
選択部112は、各パラメータ抽出部102a、102b、102c、102dから出力される高画質化パラメータPRを取得する。そして、選択部112は、それらの高画質化パラメータPRのうち、局所復号画像LDを入力画像ORに最も近づけることができる高画質化パラメータPRを選択する。
即ち、選択部112は、各パラメータ抽出部から出力された高画質化パラメータPRごとに、その高画質化パラメータPRを用いて局所復号画像LDから高画質復号画像を生成する。そして、選択部112は、高画質化パラメータPRごとに生成された高画質復号画像から、入力画像ORに最も近い高画質復号画像を見つけ、その高画質復号画像を生成するのに用いられた高画質化パラメータPRを選択する。
選択部112は、そのように選択した高画質化パラメータPRと、その高画質化パラメータPRの生成方法を示す識別子Pidとを出力する。
これにより、本変形例では、最適な高画質化パラメータPRを生成することができる。また、高画質化パラメータPRの生成方法を示す識別子Pidも高画質化パラメータPRとともに出力されるため、画像復号化装置では、その高画質化パラメータPRを用いて符号列BSから入力画像ORにより近い高画質な復号画像を生成することができる。
なお、本変形例では、入力画像ORに対して各パラメータ抽出部102a、102b、102c、102dが全て高画質化パラメータPRを生成したが、その入力画像ORや所定の条件に応じて何れか1つのパラメータ抽出部のみが高画質化パラメータPRを生成してもよい。
また、本実施の形態および変形例1〜4では、離散コサイン変換係数や、離散ウェーブレット変換係数、ラプラシアン画像、点像強度分布関数を用いて高画質化パラメータPRを生成したが、他の周波数変換方法、例えばフーリエ変換や、アダマール変換、等や、画像処理方法、例えば、ソーベルオペレータによるエッジ画像生成法や、ガボール関数を用いたエッジ画像生成法、等を用いて高画質化パラメータPRを生成しても良い。
(実施の形態2)
図13は、本発明の実施の形態2における画像符号化方法を用いた画像符号化装置1000のブロック図である。図13に示すように、画像符号化装置1000は、画像符号化部1001、付加パラメータ抽出部1002a、および前処理部1003を備えている。
入力画像ORは、前処理部1003に入力される。前処理部1003は、入力画像ORに対して、画像サイズの縮小処理や、低域通過型フィルタによるフィルタ処理、時間方向のフレーム間引きによるフレームレート削減処理、等を行う。これらの処理を全て行っても良いし、いずれか一つだけの処理を行っても良い。前処理部1003は、上述の処理によって生成された前処理画像PIを、画像符号化部1001と付加パラメータ抽出部1002aに対して出力する。そして、前処理部1003は、入力画像ORに対して施した処理、およびその処理のパラメータ(例えば、縮小の比率や、低域通過フィルタの周波数特性、フレーム間引きの間引き方、等)を前処理パラメータPPとして、付加パラメータ抽出部1002aに出力する。
画像符号化部1001は、入力された前処理画像PIに対して、規格により規定された画像符号化方法を実施する。規格により規定された画像符号化方法としては、実施の形態1と同様に、JPEG方式やMPEG方式、H.26x方式等を用いることができる。画像符号化部1001は、前処理画像PIを符号化して得られる符号列BSと局所復号画像LDとを出力する。符号列BSは、画像符号化装置1000の外部に出力され、伝送、蓄積、等の処理が施される。局所復号画像LDは、付加パラメータ抽出部1002aに対して出力される。
付加パラメータ抽出部1002aは、入力された入力画像OR、前処理画像PI、局所復号画像LD、および前処理パラメータPPのいずれかを用いて、局所復号画像LDを入力画像ORに近づけるための高画質化パラメータPR'を抽出する。高画質化パラメータPR'は、画像符号化装置1000の外部に出力され、符号列BSと共に、伝送、蓄積、等の処理が施される。
付加パラメータ抽出部1002aは、実施の形態1のパラメータ抽出部102aと同様に、高画質化パラメータPR'を、符号列BS中のヘッダ領域やユーザデータ領域に含めても良いし、符号列BSとは別の符号列として出力しても良い。
以下、付加パラメータ抽出部1002aにおいて高画質化パラメータPR'を求める際の処理例について説明する。
図14は、付加パラメータ抽出部1002aの構成例を示すブロック図である。付加パラメータ抽出部1002aは、実施の形態1で説明したパラメータ抽出部102aを備えている。
実施の形態1で説明したパラメータ抽出部102aは、入力画像ORと局所復号画像LDとを取得するが、本実施の形態におけるパラメータ抽出部102aは、入力画像ORの代わりに前処理画像PIを取得する。そして、本実施の形態におけるパラメータ抽出部102aは、それらの取得した情報に対して処理を行い、パラメータPrを出力する。このようなパラメータ抽出部102aによる処理内容は、実施の形態1の処理内容と同様である。
付加パラメータ抽出部1002aは、パラメータ抽出部102aから出力されたパラメータPrと前処理パラメータPPとを高画質化パラメータPR'として出力する。
このように、本実施の形態の画像符号化方法では、入力画像に対して、画像サイズの縮小処理や、低域通過型フィルタによるフィルタ処理、時間方向のフレーム間引きによるフレームレート削減処理、等の処理を行った後、規格により規定された画像符号化方法(JPEG方式やMPEG方式等)で符号化を行う。さらに、高画質化成分を生成するための高画質化パラメータPR'を、入力画像ORと局所復号画像LDと前処理パラメータPPとを用いて求める。
したがって、本実施の形態の画像符号化方法を用いることにより、規格により規定された画像符号化方法(JPEG方式やMPEG方式等)等と互換性を有する符号列を生成し、それとは別に、さらに高画質化パラメータを生成することができる。この高画質化パラメータは、画像データではなく、前処理画像および局所復号画像の周波数成分に基づいて生成されたパラメータであるので、データ量を極めて少なくすることができ、少ない情報量の増加で復号画像の高画質化を図ることができる。また、前処理部1003において、入力画像ORのデータ量を削減するので、符号列BSの符号量自体も削減することができる。例えば、本実施の形態の画像符号化方法により生成した符号列BSを受信した画像復号化装置が、規格により規定された画像符号化方法(JPEG方式やMPEG方式等)の復号化のみに対応している場合には、その符号列BSのみを復号化することにより、低画質ではあるが画像の再生を行うことができる。また、画像復号化装置が、高画質化パラメータPR'の処理も行うことができる場合には、高画質な画像の再生を行うことができる。すなわち、本実施の形態の画像符号化方法を用いることにより、規格により規定された画像符号化方法と比較して、わずかな符号量の増加で大幅に画質を向上させることができる。また、いわゆるスケーラブル符号化の特徴も有しながら、従来のスケーラブル機能を有する符号化方法と比較して、大幅に符号量を削減することができる。
(変形例)
ここで、高画質化パラメータPR'の生成方法における変形例について説明する。
本変形例に係る画像符号化装置の付加パラメータ抽出部は、逆前処理を行って高画質化パラメータPR'を生成する。
図15は、本変形例に係る付加パラメータ抽出部1002bの構成例を示すブロック図である。
この付加パラメータ抽出部1002bは、逆前処理部1201と、実施の形態1で説明したパラメータ抽出部102aとを備えている。
逆前処理部1201には、局所復号画像LDと前処理パラメータPPが入力される。逆前処理部1201は、前処理パラメータPPを用いて、局所復号画像LDに対して前処理部1003で施した処理と逆の処理を施す。例えば、前処理部1003で画像サイズの縮小処理が施されている場合には、逆前処理部1201は拡大処理を行う。また、前処理部1003で低域通過型フィルタによるフィルタ処理が行われている場合には、逆前処理部1201は低域通過型フィルタの逆フィルタによる処理を行う。また、前処理部1003で時間方向のフレーム間引きによるフレームレート削減処理が施されている場合には、逆前処理部1201はフレームレートの向上処理を行う。逆前処理部1201は、そのような処理を施された局所復号画像LD'をパラメータ抽出部102aに対して出力する。
実施の形態1で説明したパラメータ抽出部102aは、入力画像ORと局所復号画像LDとを取得するが、本変形例に係るパラメータ抽出部102aは、局所復号画像LDの代わりに、逆前処理部1201により処理を施された局所復号画像LD'を取得する。そして、本変形例に係るパラメータ抽出部102aは、それらの取得した情報に対して処理を行い、パラメータPrを出力する。このような本変形例に係るパラメータ抽出部102aによる処理内容は、実施の形態1の処理内容と同様である。
付加パラメータ抽出部1002bは、パラメータ抽出部102aから出力されたパラメータPrと前処理パラメータPPとを高画質化パラメータPR'として出力する。
このように本変形例においても、上記実施の形態と同様、また、前処理部1003において、入力画像ORのデータ量を削減するので、符号列BSの符号量自体を削減することができる。
なお、本実施の形態および変形例では、付加パラメータ抽出部1002a、1002bは実施の形態1のパラメータ抽出部102aを備えたが、実施の形態1の変形例1におけるパラメータ抽出部102b、実施の形態1の変形例2におけるパラメータ抽出部102c、実施の形態1の変形例3におけるパラメータ抽出部102d、および実施の形態1の変形例4における最適パラメータ抽出部102のうち何れかを、パラメータ抽出部102aの代わりに備えてもよい。
(実施の形態3)
図16は、本発明の実施の形態3における画像復号化方法を用いた画像複号化装置1500のブロック図である。図16に示すように、画像復号化装置1500は画像復号化部1501および高画質化処理部1502aを備えている。画像復号化装置1500には、実施の形態1で説明した本発明の画像符号方法を用いた画像符号化装置により生成された符号列BSと高画質化パラメータPRとが入力される。
符号列BSは、画像復号化部1501に入力される。画像復号化部1501は、符号列BSに対して、規格で規定された画像復号化を実施する。画像復号化部1501は、例えば、符号列BSがJPEG方式で符号化されたものである場合には、JPEG方式で復号化し、符号列BSがMPEG方式で符号化されたものである場合には、MPEG方式で復号化し、符号列BSがH.26x方式で符号化されたものである場合には、H.26x方式で復号化する。そして画像復号化部1501は、高画質化処理部1502aに対して復号画像DCを出力する。
なお、高画質化パラメータPRが符号列BSのヘッダ領域やユーザデータ領域に含められている場合には、画像復号化部1501は、取得した符号列BSからその高画質化パラメータPRを分離する。そして、画像復号化部1501は、その分離された高画質化パラメータPRを復号画像DCとともに高画質化処理部1502aに出力する。
高画質化処理部1502aには、復号画像DCと高画質化パラメータPRとが入力される。高画質化処理部1502aは、高画質化パラメータPRを用いて復号画像DCに対して処理を施し、高画質復号画像HQを出力する。
図17は、高画質化処理部1502aの構成例を示すブロック図である。高画質化処理部1502aは、離散コサイン変換部1601、係数補正部1602、補正パターン保持部1603、および逆離散コサイン変換部1604を備えている。
離散コサイン変換部1601は、復号画像DCを取得して、その復号画像DCに対して離散コサイン変換を施す。離散コサイン変換を施す場合には、例えば復号画像DCを水平8画素、垂直8画素のブロックに分割し、ブロック毎に処理を行えば良い。離散コサイン変換部1601は、復号画像DCに対して得られた離散コサイン変換係数CTを、係数補正部1602に対して出力する。
高画質化パラメータPRは、補正パターン保持部1603に入力される。補正パターン保持部1603は、実施の形態1で説明した補正パターン保持部302で保持されている補正パターンと同じパターンを保持している。そして、補正パターン保持部1603は、自らが保持している補正パターンの中から、高画質化パラメータPRにより指定される補正パターンPTを係数補正部1602に対して出力する。
係数補正部1602は、復号画像DCの離散コサイン変換係数CTと補正パターンPTとを取得し、離散コサイン変換係数CTに対して、その補正パターンPTを用いて補正を行う。係数補正部1602は、実施の形態1で図4を用いて説明した方法と同様の方法で補正を行う。そして係数補正部1602は、補正された離散コサイン変換係数CTである離散コサイン変換係数CCTを逆離散コサイン変換部1604に対して出力する。
逆離散コサイン変換部1604は、離散コサイン変換係数CCTに対して逆離散コサイン変換を施すことにより、高画質復号画像HQを生成して出力する。
図18は、本実施の形態における画像復号化装置1500の動作を示すフロー図である。
まず、画像復号化装置1500は、画像符号化装置から符号列BSと高画質化パラメータPRとを取得する(ステップS200)。そして、画像復号化装置1500は、ステップS200で取得した符号列BSに対して復号化処理を施して復号画像DCを生成する(ステップS202)。
次に、画像復号化装置1500は、復号画像DCに対して離散コサイン変換を施して離散コサイン変換係数CTを生成する(ステップS204)。そして、画像復号化装置1500は、生成された離散コサイン変換係数CTに対して高画質化パラメータPRの示す補正パターンPTを適用して、その離散コサイン変換係数CTの補正を行う(ステップS206)。
その後、画像復号化装置1500は、補正された離散コサイン変換係数CT、つまり離散コサイン変換係数CCTに対して逆離散コサイン変換を施して高画質復号画像HQを生成する(ステップS208)。
以上のように、本実施の形態の画像復号化方法では、規格により規定された画像符号化方法(JPEG方式やMPEG方式等)を用いて符号化して生成された符号列BSと、さらに高画質化成分を生成するための高画質化パラメータPRとを取得する。そして、符号列BSを規格により規定された画像復号化方法により復号化して復号画像DCを生成し、復号画像DCに対して高画質化パラメータPRを用いて画像処理を行うことにより、高画質復号画像HQを生成する。高画質化パラメータPRを用いた処理では、離散コサイン変換などを用いることにより、復号画像DCには含まれていない高周波数成分を復号画像DCに付加することができる。
したがって、本実施の形態の画像復号化方法では、規格により規定された画像復号化方法(JPEG方式やMPEG方式等)を用いて符号列BSを復号化して復号画像DCを生成し、さらに高画質化パラメータPRを用いて復号画像DCの高画質化を図ることができる。この高画質化パラメータPRは、画像データではなく、画像符号化装置によって入力画像(原画像)および局所復号画像の周波数成分に基づいて生成されたパラメータであるので、データ量を極めて少なくすることができ、少ない情報量の増加で高画質化を図ることができる。すなわち、本実施の形態の画像復号化方法を用いることにより、規格により規定された画像復号化方法と比較して、わずかな符号量の増加で大幅に画質を向上させることができ、また、いわゆるスケーラブル復号化の特徴も有しながら、従来のスケーラブル機能を有する画像復号化方法と比較して、大幅に符号量を削減することができる。
なお、本実施の形態では、離散コサイン変換部1601で、復号画像DCの離散コサイン変換係数CTを求めたが、例えば符号列BSが離散コサイン変換係数を用いて符号化されているものであれば(例えば、MPEG方式)、画像復号化部1501で符号列BSから得られた離散コサイン変換係数を用いても良い。これにより、計算量の削減を図ることができる。
また、本変形例では、高画質パラメータPRが領域毎に生成されている場合には、係数補正部1602は、領域毎に係数補正処理を行う。
(変形例1)
ここで、復号画像DCから高画質復号画像HQを生成する方法における第1の変形例について説明する。
本変形例に係る画像復号化装置の高画質化処理部は、実施の形態1の変形例1で説明したパラメータ抽出部102bにより生成された高画質化パラメータPRを取得する。そして高画質化処理部は、復号画像DCに対して、離散コサイン変換および逆離散コサイン変換の代わりに離散ウェーブレット変換および逆離散ウェーブレット変換を行うことで高画質復号画像HQを生成する。
図19は、本変形例に係る高画質化処理部の構成例を示すブロック図である。
この高画質化処理部1502bは、離散ウェーブレット変換部1701、係数補正部1702、および逆離散ウェーブレット変換部1703を備えている。
離散ウェーブレット変換部1701は、復号画像DCに対して離散ウェーブレット変換を施す。離散ウェーブレット変換を施す場合には、例えば復号画像DCの全画面に対して処理を行っても良いし、または、画面を領域に分割して領域毎に処理を行ってもよい。この場合、例えば画面内を画像の複雑さ(平坦さ)に応じて分割して得る方法がある。ただし、領域に分割する際には、符号化で分割した方法と同じ方法を用いる。
離散ウェーブレット変換部1701は、復号画像DCに対して得られた離散ウェーブレット変換係数WCを係数補正部1702に対して出力する。
係数補正部1702には、離散ウェーブレット変換係数WCと高画質化パラメータPRとが入力される。図20Aおよび図20Bを用いて、係数補正部1702での処理方法について説明する。
図20Aは、離散ウェーブレット変換係数を用いて復号画像DCおよび高画質復号画像HQを多重解像度表現した場合の模式図である。図20Aにおける表記方法(「H」および「L」などの表記方法)は、図7における表記方法と同じである。図20Aの(a)は、復号画像DCの離散ウェーブレット変換係数WCを用いた多重解像度表現を示す。
係数補正部1702は、図20Aの(a)に示すように、復号画像DCにおけるLL成分、HL成分、LH成分、およびHH成分のそれぞれの離散ウェーブレット変換係数WCに対して、高画質化パラメータPRとして実施の形態1で説明したゲインG0'、G1'、G2'、G3'を用いてゲイン補正を行う。その結果、図20Aの(b)に示すように、高画質復号画像HQに対応する、LL''成分、HL''成分、LH''成分、およびHH''成分を有する離散ウェーブレット変換係数CWCが生成される。
ここで、係数補正部1702は、上記ゲインG0'、G1'、G2'、G3'を示す高画質化パラメータPRを用いてゲイン補正を行ったが、実施の形態1で説明したゲインG1、G2、G3を示す高画質化パラメータPRを用いてゲイン補正を行ってもよい。
図20Bは、離散ウェーブレット変換係数を用いて復号画像DCおよび高画質復号画像HQを多重解像度表現した場合の他の模式図である。図20Bにおける表記方法(「H」および「L」などの表記方法)は、図7における表記方法と同じである。図20Bの(a)は、復号画像DCの離散ウェーブレット変換係数WCを用いた多重解像度表現を示す。
係数補正部1702は、図20Bの(a)および(b)に示すように、復号画像DCに対応する離散ウェーブレット変換係数WCのLL成分をLL'成分としてそのままコピーする。そして、係数補正部1702は、復号画像DCに対応する離散ウェーブレット変換係数WCのHL成分、LH成分、およびHH成分のそれぞれに対して、高画質化パラメータPRとして実施の形態1で説明したゲインG1、G2、G3を用いてゲイン補正を行う。その結果、図20Bの(b)に示すように、高画質復号画像HQに対応する、LL'成分、HL'成分、LH'成分、およびHH'成分を有する離散ウェーブレット変換係数CWCが生成される。
また、係数補正部1702は、上記のゲインG1、G2、G3、G0'、G1'、G2'、G3'のすべてを用いてゲイン補正を行っても良い。
逆離散ウェーブレット変換部1703は、補正によって生成された離散ウェーブレット変換係数CWCに対して逆離散ウェーブレット変換を行うことにより、高画質復号画像HQを生成して出力する。
このように、本変形例でも、上記実施の形態と同様、規格により規定された画像復号化方法(JPEG方式やMPEG方式等)を用いて符号列BSを復号化して復号画像DCを生成し、さらに高画質化パラメータPRを用いて復号画像DCの高画質化を図ることができる。この高画質化パラメータPRは、画像データではなく、画像符号化装置によって入力画像(原画像)および局所復号画像の周波数成分に基づいて生成されたパラメータであるので、データ量を極めて少なくすることができ、少ない情報量の増加で高画質化を図ることができる。
なお、本変形例では、離散ウェーブレット変換部1701が復号画像DCに対する離散ウェーブレット係数WCを求めたが、例えば符号列BSが離散ウェーブレット変換係数を用いて符号化されているものであれば(例えば、JPEG2000方式)、画像復号化部1501で符号列BSから得られた離散ウェーブレット変換係数を用いても良い。これにより、計算量の削減を図ることができる。
また、本変形例では、高画質パラメータPRが領域毎に生成されている場合には、係数補正部1702は、領域毎に係数補正処理を行う。
(変形例2)
ここで、復号画像DCから高画質復号画像HQを生成する方法における第2の変形例について説明する。
本変形例に係る画像復号化装置の高画質化処理部は、実施の形態1の変形例2で説明したパラメータ抽出部102cにより生成された高画質化パラメータPRを取得する。そして高画質化処理部は、離散コサイン変換および逆コサイン変換の代わりにエッジ成分の抽出を行うことで高画質復号画像HQを生成する。
図21は、本変形例に係る高画質化処理部の構成例を示すブロック図である。
この高画質化処理部1502cは、ラプラシアン生成部1901、およびラプラシアン補正部1902、および合成部1903を備えている。
ラプラシアン生成部1901は、復号画像DCに対して処理を行い、ラプラシアン画像LPを生成する。ラプラシアン画像LPの生成を行う場合には、例えば復号画像DCの全画面に対して処理を行っても良いし、領域に分割して領域毎に行っても良い。ラプラシアン生成部1901の構成は、実施の形態1の変形例2におけるラプラシアン生成部701、702と同様の構成であって、ラプラシアン生成部1901は、実施の形態1の変形例2で図9を用いて説明した内容と同様の処理を行う。ここでは例えば、ラプラシアン生成部1901は、ラプラシアン画像LPとして、第1レベルおよび第2レベルのラプラシアン画像LP1、LP2を求める。なお、ラプラシアン画像を生成するレベルは、符号化方法と同じにすれば良い。
図22は、ラプラシアン生成部1901により得られたラプラシアン画像LPの例を示す図である。図22の(a)は復号画像DCを示し、図22の(b)および(c)はそれぞれ、復号画像DCに対する第1レベルおよび第2レベルのラプラシアン画像LP1、LP2を示している。ラプラシアン生成部1901は生成されたラプラシアン画像LPをラプラシアン補正部1902に対して出力する。
ラプラシアン補正部1902は、ラプラシアン画像LPおよび高画質化パラメータPRを取得してラプラシアン画像LPの補正を行う。ラプラシアン補正部1902は、高画質化パラメータPRとして実施の形態1の変形例2で説明したゲインG1およびゲインG2を用いる。そして、ラプラシアン補正部1902は、図22に示すように、第1レベルのラプラシアン画像LP1(図22の(b))にゲインG1を施してラプラシアン画像CLP1を生成するとともに(図22の(d))、第2レベルのラプラシアン画像LP2(図22の(c))にゲインG2を施してラプラシアン画像CLP2を生成することで(図22の(e))、ラプラシアン画像LP1,LP2の補正を行う。ラプラシアン補正部1902は、補正によって生成されたラプラシアン画像CLP1、CLP2を、ラプラシアン画像CLPとして合成部1903に対して出力する。
合成部1903は、復号画像DCおよびラプラシアン画像CLPを取得し、これらの画像を加算することにより、高画質化画像HQ(図22の(f))を生成して出力する。
このように、本変形例でも、上記実施の形態と同様、規格により規定された画像復号化方法(JPEG方式やMPEG方式等)を用いて符号列BSを復号化して復号画像DCを生成し、さらに高画質化パラメータPRを用いて復号画像DCの高画質化を図ることができる。この高画質化パラメータPRは、画像データではなく、画像符号化装置によって入力画像(原画像)および局所復号画像の周波数成分に基づいて生成されたパラメータであるので、データ量を極めて少なくすることができ、少ない情報量の増加で高画質化を図ることができる。
なお、本変形例では、高画質パラメータPRが領域毎に生成されている場合には、ラプラシアン補正部1902は、領域毎に補正処理を行う。
(変形例3)
ここで、復号画像DCから高画質復号画像HQを生成する方法における第3の変形例について説明する。
本変形例に係る画像復号化装置の高画質化処理部は、実施の形態1の変形例3で説明したパラメータ抽出部102dにより生成された高画質化パラメータPRを取得する。そして高画質化処理部は、離散コサイン変換および逆離散コサイン変換の代わりに点像強度分布関数によるフィルタ処理を行うことで高画質復号画像HQを生成する。
図23は、本変形例に係る高画質化処理部の構成例を示すブロック図である。
この高画質化処理部1502dは、逆畳み込み部2101および関数パラメータ保持部2102を備えている。
関数パラメータ保持部2102は、予め定めた複数の点像強度分布関数のパラメータ(例えばガウス関数のパラメータ:標準偏差σ)を保持している。ここでは、実施の形態1の変形例3における関数パラメータ保持部1402と同じパラメータが保持されているものとする。関数パラメータ保持部2102は、高画質化パラメータPRを取得する。この高画質化パラメータPRには、点像強度分布関数のパラメータの番号が記述されている。関数パラメータ保持部2102は、保持している複数の点像強度分布関数のパラメータから、その番号に対応するパラメータを選択して、その選択したパラメータを逆畳み込み部2101に対して出力する。
逆畳み込み部2101は、復号画像DCと点像強度分布関数のパラメータとを取得し、そのパラメータから得られる関数の逆関数を復号画像DCに畳み込む(フィルタ処理する)ことで高画質復号画像HQを生成し、その高画質復号画像HQを出力する。
このように、本変形例でも、上記実施の形態と同様、規格により規定された画像復号化方法(JPEG方式やMPEG方式等)を用いて符号列BSを復号化して復号画像DCを生成し、さらに高画質化パラメータPRを用いて復号画像DCの高画質化を図ることができる。この高画質化パラメータPRは、画像データではなく、画像符号化装置によって入力画像(原画像)および局所復号画像の周波数成分に基づいて生成されたパラメータであるので、データ量を極めて少なくすることができ、少ない情報量の増加で高画質化を図ることができる。
なお、本変形例では、関数パラメータ保持部2102は、実施の形態1の変形例3における関数パラメータ保持部1402と同じパラメータを保持していたが、関数パラメータ保持部1402に対応する逆関数のパラメータを初めから保持しておいても良い。これにより、逆畳み込み部2101は、逆関数を畳み込むのではなく、通常の畳み込み処理を行うことになり、処理の簡易化を図ることができる。
また、本変形例では、全画面に対する点像強度分布関数のパラメータを求めたが、高画質化パラメータPRにおいて、画面の領域毎に点像強度分布関数のパラメータが指定されている場合には、領域毎に異なるパラメータを用いて逆関数の畳み込みを行う。
(変形例4)
ここで、復号画像DCから高画質復号画像HQを生成する方法における第4の変形例について説明する。
本変形例に係る画像復号化装置は、図16に示す高画質化処理部1502aの代わりに最適高画質化処理部を備えて構成されている。この最適高画質化処理部は、実施の形態1の変形例4で説明した最適パラメータ抽出部102により生成された高画質化パラメータPRおよび識別子Pidを取得する。
図24は、本変形例に係る最適高画質化処理部の構成例を示すブロック図である。
この最適高画質化処理部1502は、高画質化処理部1502a、1502b、1502c、1502dと選択部1512とを備えている。
選択部1512は、画像符号化装置から高画質化パラメータPRと、その高画質化パラメータPRの生成方法を示す識別子Pidとを取得する。そして、選択部1512は、その識別子Pidが離散コサイン変換に基づく生成方法を示す場合には、高画質化パラメータPRを高画質化処理部1502aに出力し、その識別子Pidが離散ウェーブレット変換に基づく生成方法を示す場合には、高画質化パラメータPRを高画質化処理部1502bに出力する。また、選択部1512は、その識別子Pidがラプラシアン画像に基づく生成方法を示す場合には、高画質化パラメータPRを高画質化処理部1502cに出力し、その識別子Pidが点像強度分布関数に基づく生成方法を示す場合には、高画質化パラメータPRを高画質化処理部1502dに出力する。
高画質化処理部1502a、1502b、1502c、1502dはそれぞれ、選択部1512から高画質化パラメータPRを取得すると、上述のように高画質化パラメータPRおよび復号画像DCから、各々の処理手順に基づいて高画質復号画像HQを生成して出力する。
これにより、本変形例では、どのような生成方法により生成された高画質化パラメータPRであっても、その高画質化パラメータPRを用いて高画質復号画像HQを生成することができる。
なお、本実施の形態およびその変形例1〜4では、離散コサイン変換係数や、離散ウェーブレット変換係数、ラプラシアン画像、点像強度分布関数を用いて生成されたパラメータを高画質化パラメータPRとしたが、これは他の周波数変換方法、例えばフーリエ変換や、アダマール変換、等や、画像処理方法、例えば、ソーベルオペレータによるエッジ画像生成法や、ガボール関数を用いたエッジ画像生成法、等を用いて生成されたパラメータを高画質化パラメータPRとしても良い。
(実施の形態4)
本実施の形態では、実施の形態2およびその変形例で説明した本発明の画像符号方法を用いた画像符号化装置により生成された符号列BSと高画質化パラメータPR'を用いて、高画質復号画像HQを生成する際の画像復号化方法を説明する。
図25は、本実施の形態の画像復号化方法を用いた画像復号化装置2200のブロック図である。図25に示すように、画像復号化装置2200は、画像復号化部2201、高画質化処理部2202、および後処理部2203を備えている。画像復号化装置2200には、実施の形態2で説明した本発明の画像符号方法を用いた画像符号化装置により生成された符号列BSと高画質化パラメータPR'とが入力される。ここで、高画質化パラメータPR'は、実施の形態2の図14を用いて説明した方法で求められたものである。
符号列BSは、画像復号化部2201に入力される。画像復号化部2201は、符号列BSに対して、規格により規定された画像復号化を実施する。画像復号化部2201は、例えば、符号列BSがJPEG方式で符号化されたものである場合には、JPEG方式で復号化し、符号列BSがMPEG方式で符号化されたものである場合には、MPEG方式で復号化し、符号列BSがH.26x方式で符号化されたものである場合には、H.26x方式で復号化する。画像復号化部2201は、高画質化処理部2202に対して、画像復号化処理の結果である復号画像DCを出力する。
なお、符号列BSのヘッダ領域やユーザデータ領域に高画質化パラメータPR'が含まれている場合には、画像復号化部2201は、取得した符号列BSからその高画質化パラメータPR'を分離する。そして、画像復号化部2201は、その分離された高画質化パラメータPR'を高画質化処理部2202および後処理部2203に出力する。
高画質化処理部2202には、復号画像DCと高画質化パラメータPR'とが入力される。高画質化処理部2202は、高画質化パラメータPR'を用いて、実施の形態3の高画質化処理部1502aと同様の処理を復号画像DCに対して施す。この処理によって高画質化処理部2202は、高画質復号画像HDCを生成し、その高画質復号画像HDCを出力する。
後処理部2203は、高画質復号画像HDCに対して、高画質化パラメータPR'に含まれる前処理パラメータPPを用いて、後処理を行う。後処理部2203は、実施の形態2の変形例における逆前処理部1201と同様の処理を行う。すなわち、後処理部2203は、前処理パラメータPPを用いて、高画質復号画像HDCに対して本発明の画像符号化装置の前処理部1003で施した処理と逆の処理を施す。後処理部2203は、前処理部1003で施された処理内容を、前処理パラメータPPから知ることができる。例えば、後処理部2203は、前処理部1003で画像サイズの縮小処理が施されている場合には、拡大処理を行う。また、後処理部2203は、前処理部1003で低域通過型フィルタによるフィルタ処理が行われている場合には、低域通過型フィルタの逆フィルタによる処理を行う。また、後処理部2203は、前処理部1003で時間方向のフレーム間引きによるフレームレート削減処理が施されている場合には、フレームレートの向上処理を行う。後処理部2203は、このように処理された高画質復号画像HDCを、高画質復号画像HQとして出力する。
以上のように、本実施の形態の画像復号化方法では、入力画像に対して、画像サイズの縮小処理、低域通過型フィルタによるフィルタ処理、時間方向のフレーム間引きによるフレームレート削減処理、等の前処理を行った後、規格により規定された画像符号化方法(JPEG方式やMPEG方式等)を用いて符号化して生成された符号列BSと、さらに高画質化成分を生成するための高画質化パラメータPR'とを取得する。そして、符号列BSを規格により規定された画像復号化方法により復号化して復号画像DCを生成し、その復号画像DCに対して高画質化パラメータPR'を用いて、前処理に対応する後処理と高画質化処理とを行うことにより、高画質復号画像HQを生成する。
したがって、本実施の形態の画像復号化方法では、規格により規定された画像復号化方法(JPEG方式やMPEG方式等)を用いて符号列BSを復号化して復号画像DCを生成し、さらに高画質化パラメータPR'を用いて復号画像DCの高画質化を図る。この高画質化パラメータPR'は、画像データではなく、画像符号化装置によって入力画像(原画像)および局所復号画像の周波数成分に基づいて生成されたパラメータであるので、データ量を極めて少なくすることができ、少ない情報量の増加で高画質化を図ることができる。また、画像符号化装置側における符号化時の前処理において、入力画像のデータ量が削減されているので、符号列BSの符号量自体も削減されている。すなわち、本実施の形態の画像復号化方法を用いることにより、規格により規定された画像復号化方法と比較して、わずかな符号量の増加で大幅に画質を向上させることができ、また、いわゆるスケーラブル復号化の特徴も有しながらも、従来のスケーラブル機能を有する画像復号化方法と比較して、大幅に符号量を削減することができる。
なお、本実施の形態では、高画質化処理部2202は、実施の形態3の高画質化処理部1502aと同様の処理を復号画像DCに対して施したが、実施の形態3の変形例1〜3における高画質化処理部1502b、1502c、1502dと同様の処理を施してもよく、実施の形態3の変形例4における最適高画質化処理部1502と同様の処理を施してもよい。このように本実施の形態における高画質化パラメータPR'を用いた処理では、離散コサイン変換や、離散ウェーブレット変換、ラプラシアン画像、点像強度分布関数、等を用いることにより、復号画像には含まれていない高周波数成分等を復号画像に付加することができる。
(変形例)
ここで、本実施の形態における画像復号化装置の変形例について説明する。
図26は、本変形例に係る画像復号化装置2300のブロック図である。図26に示すように、画像復号化装置2300は、画像復号化部2301、後処理部2302、および高画質化処理部2303を備えている。画像復号化装置2300には、実施の形態2の変形例で説明した本発明の画像符号方法を用いた画像符号化装置により生成された符号列BSと高画質化パラメータPR'とが入力される。ここで、高画質化パラメータPR'は、実施の形態2の変形例における図15を用いて説明した方法で求められたものである。
符号列BSは、画像復号化部2301に入力される。画像復号化部2301は、画像復号化部2201と同様の処理を行う。そして、画像復号化部2301は、後処理部2302に対して、その処理によって生成された復号画像DCを出力する。なお、符号列BSのヘッダ領域やユーザデータ領域に高画質化パラメータPR'が含まれている場合には、画像復号化部2301は、取得した符号列BSからその高画質化パラメータPR'を分離する。そして、画像復号化部2301は、その分離された高画質化パラメータPR'を後処理部2302および高画質化処理部2303に出力する。
後処理部2302は、復号画像DCに対して、高画質化パラメータPR'のうち前処理パラメータPPを用いて、後処理を行う。後処理部2302は、実施の形態2の変形例における逆前処理部1201と同様の処理を行う。すなわち、後処理部2302は、前処理パラメータPPを用いて、復号画像LDに対して本発明の画像符号化装置の前処理部1003で施した処理と逆の処理を施す。後処理部2302は、前処理部1003で施された処理内容を、前処理パラメータPPから知ることができる。後処理部2302は、例えば、前処理部1003で画像サイズの縮小処理が施されている場合には、拡大処理を行う。また、後処理部2302は、前処理部1003で低域通過型フィルタによるフィルタ処理が行われている場合には、低域通過型フィルタの逆フィルタによる処理を行う。また、後処理部2302は、前処理部1003で時間方向のフレーム間引きによるフレームレート削減処理が施されている場合には、フレームレートの向上処理を行う。後処理部2302は、このように処理された結果である後処理後復号画像DC'を、高画質化処理部2303に対して出力する。
高画質化処理部2303には、後処理後復号画像DC'と高画質化パラメータPR'とが入力される。高画質化処理部2303は、高画質化パラメータPR'を用いて、実施の形態3で説明した高画質化処理部1502aと同様の処理を、後処理後復号画像DC'に対して施し、その処理結果を高画質復号画像HQとして出力する。
なお、本変形例では、高画質化処理部2303は、実施の形態3の高画質化処理部1502aと同様の処理を後処理後復号画像DC'に対して施したが、実施の形態3の変形例1〜3における高画質化処理部1502b、1502c、1502dと同様の処理を施してもよく、実施の形態3の変形例4における最適高画質化処理部1502と同様の処理を施してもよい。
(実施の形態5)
上記各実施の形態および変形例で示した画像符号化方法および画像復号化方法を実現するためのプログラムを、フレキシブルディスク等の記録媒体に記録するようにすることにより、上記各実施の形態および変形例で示した処理を、独立したコンピュータシステムにおいて簡単に実施することが可能となる。
図27A、図27Bおよび図27Cは、上記各実施の形態および変形例の画像符号化方法および画像復号化方法を、フレキシブルディスク等の記録媒体に記録されたプログラムを用いて、コンピュータシステムにより実施する場合の説明図である。
図27Bは、フレキシブルディスクの正面からみた外観、断面構造、及びフレキシブルディスクを示し、図27A は、記録媒体本体であるフレキシブルディスクの物理フォーマットの例を示している。フレキシブルディスクFDはケースF内に内蔵され、該ディスクの表面には、同心円状に外周からは内周に向かって複数のトラックTrが形成され、各トラックは角度方向に16のセクタSeに分割されている。従って、上記プログラムを格納したフレキシブルディスクでは、上記フレキシブルディスクFD上に割り当てられた領域に、上記プログラムが記録されている。
また、図27Cは、フレキシブルディスクFDに上記プログラムの記録再生を行うための構成を示す。画像符号化方法および画像復号化方法を実現する上記プログラムをフレキシブルディスクFDに記録する場合は、コンピュータシステムCsから上記プログラムをフレキシブルディスクドライブFDDを介して書き込む。また、フレキシブルディスク内のプログラムにより画像符号化方法および画像復号化方法を実現する上記画像符号化方法および画像復号化方法をコンピュータシステム中に構築する場合は、フレキシブルディスクドライブFDDによりプログラムをフレキシブルディスクから読み出し、コンピュータシステムCsに転送する。
なお、上記説明では、記録媒体としてフレキシブルディスクを用いて説明を行ったが、光ディスクを用いても同様に行うことができる。また、記録媒体はこれに限らず、ICカード、ROMカセット等、プログラムを記録できるものであれば同様に実施することができる。
(実施の形態6)
さらにここで、上記各実施の形態および変形例で示した画像符号化方法および画像復号化方法の応用例とそれを用いたシステムを説明する。
図28は、コンテンツ配信サービスを実現するコンテンツ供給システムex100の全体構成を示すブロック図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex107〜ex110が設置されている。
このコンテンツ供給システムex100は、例えば、インターネットex101にインターネットサービスプロバイダex102および電話網ex104、および基地局ex107〜ex110を介して、コンピュータex111、PDA(personal digital assistant)ex112、カメラex113、携帯電話ex114、カメラ付きの携帯電話ex115などの各機器が接続される。
しかし、コンテンツ供給システムex100は図28のような組合せに限定されず、いずれかを組み合わせて接続するようにしてもよい。また、固定無線局である基地局ex107〜ex110を介さずに、各機器が電話網ex104に直接接続されてもよい。
カメラex113はデジタルビデオカメラ等の動画撮影が可能な機器である。また、携帯電話は、PDC(Personal Digital Communications)方式、CDMA(Code Division Multiple Access)方式、W−CDMA(Wideband-Code Division Multiple Access)方式、若しくはGSM(Global System for Mobile Communications)方式の携帯電話機、またはPHS(Personal Handyphone System)等であり、いずれでも構わない。
また、ストリーミングサーバex103は、カメラex113から基地局ex109、電話網ex104を通じて接続されており、カメラex113を用いてユーザが送信する符号化処理されたデータに基づいたライブ配信等が可能になる。撮影したデータの符号化処理はカメラex113で行っても、データの送信処理をするサーバ等で行ってもよい。また、カメラ116で撮影した動画データはコンピュータex111を介してストリーミングサーバex103に送信されてもよい。カメラex116はデジタルカメラ等の静止画、動画が撮影可能な機器である。この場合、動画データの符号化はカメラex116で行ってもコンピュータex111で行ってもどちらでもよい。また、符号化処理はコンピュータex111やカメラex116が有するLSIex117において処理することになる。なお、画像符号化・復号化用のソフトウェアをコンピュータex111等で読み取り可能な記録媒体である何らかの蓄積メディア(CD−ROM、フレキシブルディスク、ハードディスクなど)に組み込んでもよい。さらに、カメラ付きの携帯電話ex115で動画データを送信してもよい。このときの動画データは携帯電話ex115が有するLSIで符号化処理されたデータである。
このコンテンツ供給システムex100では、ユーザがカメラex113、カメラex116等で撮影しているコンテンツ(例えば、音楽ライブを撮影した映像等)を上記各実施の形態および変形例と同様に符号化処理してストリーミングサーバex103に送信する一方で、ストリーミングサーバex103は要求のあったクライアントに対して上記コンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータex111、PDAex112、カメラex113、携帯電話ex114等がある。このようにすることでコンテンツ供給システムex100は、符号化されたデータをクライアントにおいて受信して再生することができ、さらにクライアントにおいてリアルタイムで受信して復号化し、再生することにより、個人放送をも実現可能になるシステムである。
このシステムを構成する各機器の符号化、復号化には上記各実施の形態および変形例で示した画像符号化方法あるいは画像復号化方法を用いるようにすればよい。
その一例として携帯電話について説明する。
図29は、上記各実施の形態および変形例で説明した画像符号化方法および画像復号化方法を用いた携帯電話ex115を示す図である。携帯電話ex115は、基地局ex110との間で電波を送受信するためのアンテナex201、CCDカメラ等の映像、静止画を撮ることが可能なカメラ部ex203、カメラ部ex203で撮影した映像、アンテナex201で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ex202、操作キーex204群から構成される本体部、音声出力をするためのスピーカ等の音声出力部ex208、音声入力をするためのマイク等の音声入力部ex205、撮影した動画もしくは静止画のデータ、受信したメールのデータ、動画のデータもしくは静止画のデータ等、符号化されたデータまたは復号化されたデータを保存するための記録メディアex207、携帯電話ex115に記録メディアex207を装着可能とするためのスロット部ex206を有している。記録メディアex207はSDカード等のプラスチックケース内に電気的に書換えや消去が可能な不揮発性メモリであるEEPROM(Electrically Erasable and PRogrammable Read Only Memory)の一種であるフラッシュメモリ素子を格納したものである。
さらに、携帯電話ex115について図30を用いて説明する。携帯電話ex115は表示部ex202及び操作キーex204を備えた本体部の各部を統括的に制御するようになされた主制御部ex311に対して、電源回路部ex310、操作入力制御部ex304、画像符号化部ex312、カメラインターフェース部ex303、LCD(Liquid Crystal Display)制御部ex302、画像復号化部ex309、多重分離部ex308、記録再生部ex307、変復調回路部ex306及び音声処理部ex305が同期バスex313を介して互いに接続されている。
電源回路部ex310は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することによりカメラ付ディジタル携帯電話ex115を動作可能な状態に起動する。
携帯電話ex115は、CPU、ROM及びRAM等でなる主制御部ex311の制御に基づいて、音声通話モード時に音声入力部ex205で集音した音声信号を音声処理部ex305によってディジタル音声データに変換し、これを変復調回路部ex306でスペクトラム拡散処理し、送受信回路部ex301でディジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex201を介して送信する。また携帯電話機ex115は、音声通話モード時にアンテナex201で受信した受信信号を増幅して周波数変換処理及びアナログディジタル変換処理を施し、変復調回路部ex306でスペクトラム逆拡散処理し、音声処理部ex305によってアナログ音声信号に変換した後、これを音声出力部ex208を介して出力する。
さらに、データ通信モード時に電子メールを送信する場合、本体部の操作キーex204の操作によって入力された電子メールのテキストデータは操作入力制御部ex304を介して主制御部ex311に送出される。主制御部ex311は、テキストデータを変復調回路部ex306でスペクトラム拡散処理し、送受信回路部ex301でディジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex201を介して基地局ex110へ送信する。
データ通信モード時に画像データを送信する場合、カメラ部ex203で撮像された画像データをカメラインターフェース部ex303を介して画像符号化部ex312に供給する。また、画像データを送信しない場合には、カメラ部ex203で撮像した画像データをカメラインターフェース部ex303及びLCD制御部ex302を介して表示部ex202に直接表示することも可能である。
画像符号化部ex312は、本願発明で説明した画像符号化装置を備えた構成であり、カメラ部ex203から供給された画像データを上記各実施の形態および変形例で示した画像符号化装置に用いた符号化方法によって圧縮符号化することにより符号化画像データに変換し、これを多重分離部ex308に送出する。また、このとき同時に携帯電話機ex115は、カメラ部ex203で撮像中に音声入力部ex205で集音した音声を音声処理部ex305を介してディジタルの音声データとして多重分離部ex308に送出する。
多重分離部ex308は、画像符号化部ex312から供給された符号化画像データと音声処理部ex305から供給された音声データとを所定の方式で多重化し、その結果得られる多重化データを変復調回路部ex306でスペクトラム拡散処理し、送受信回路部ex301でディジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex201を介して送信する。
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、アンテナex201を介して基地局ex110から受信した受信信号を変復調回路部ex306でスペクトラム逆拡散処理し、その結果得られる多重化データを多重分離部ex308に送出する。
また、アンテナex201を介して受信された多重化データを復号化するには、多重分離部ex308は、多重化データを分離することにより画像データの符号化ビットストリームと音声データの符号化ビットストリームとに分け、同期バスex313を介して当該符号化画像データを画像復号化部ex309に供給すると共に当該音声データを音声処理部ex305に供給する。
次に、画像復号化部ex309は、本願発明で説明した画像復号化装置を備えた構成であり、画像データの符号化ビットストリームを上記各実施の形態および変形例で示した符号化方法に対応した復号化方法で復号することにより再生動画像データを生成し、これをLCD制御部ex302を介して表示部ex202に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる動画データが表示される。このとき同時に音声処理部ex305は、音声データをアナログ音声信号に変換した後、これを音声出力部ex208に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まる音声データが再生される。
なお、上記システムの例に限られず、最近は衛星、地上波によるディジタル放送が話題となっており、図31に示すようにディジタル放送用システムにも上記各実施の形態および変形例の少なくとも画像符号化装置または画像復号化装置のいずれかを組み込むことができる。具体的には、放送局ex409では映像情報の符号化ビットストリームが電波を介して通信または放送衛星ex410に伝送される。これを受けた放送衛星ex410は、放送用の電波を発信し、この電波を衛星放送受信設備をもつ家庭のアンテナex406で受信し、テレビ(受信機)ex401またはセットトップボックス(STB)ex407などの装置により符号化ビットストリームを復号化してこれを再生する。また、記録媒体であるCDやDVD等の蓄積メディアex402に記録した符号化ビットストリームを読み取り、復号化する再生装置ex403にも上記各実施の形態および変形例で示した画像復号化装置を実装することが可能である。この場合、再生された映像信号はモニタex404に表示される。また、ケーブルテレビ用のケーブルex405または衛星/地上波放送のアンテナex406に接続されたセットトップボックスex407内に画像復号化装置を実装し、これをテレビのモニタex408で再生する構成も考えられる。このときセットトップボックスではなく、テレビ内に画像復号化装置を組み込んでも良い。また、アンテナex411を有する車ex412で衛星ex410からまたは基地局ex107等から信号を受信し、車ex412が有するカーナビゲーションex413等の表示装置に動画を再生することも可能である。
更に、画像信号を上記各実施の形態および変形例で示した画像符号化装置で符号化し、記録媒体に記録することもできる。具体例としては、DVDディスクex421に画像信号を記録するDVDレコーダや、ハードディスクに記録するディスクレコーダなどのレコーダex420がある。更にSDカードex422に記録することもできる。レコーダex420が上記各実施の形態および変形例で示した画像復号化装置を備えていれば、DVDディスクex421やSDカードex422に記録した画像信号を再生し、モニタex408で表示することができる。
なお、カーナビゲーションex413の構成は例えば図30に示す構成のうち、カメラ部ex203とカメラインターフェース部ex303、画像符号化部ex312を除いた構成が考えられ、同様なことがコンピュータex111やテレビ(受信機)ex401等でも考えられる。
また、上記携帯電話ex114等の端末は、符号化器・復号化器を両方持つ送受信型の端末の他に、符号化器のみの送信端末、復号化器のみの受信端末の3通りの実装形式が考えられる。
このように、上記各実施の形態および変形例で示した画像符号化方法および画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。
なお、本発明はかかる上記各実施の形態および変形例に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
また、ブロック図(図1、図13、図16、図25、図26など)の各機能ブロックは典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されても良いし、一部又は全てを含むように1チップ化されても良い。(例えばメモリ以外の機能ブロックが1チップ化されていても良い。)
ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用しても良い。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
また、各機能ブロックのうち、符号化または復号化の対象となるデータを格納する手段だけ1チップ化せずに別構成としても良い。
本発明にかかる画像符号化方法および画像復号化方法は、符号量を大幅に削減しながらも、復号画像の高画質化を図ることができるという効果を有し、例えば、画像を符号化および復号化する装置や、その装置を含むデジタルビデオカメラや、携帯電話、PDAなどに適用することができる。
図1は、本発明の実施の形態1における画像符号化方法を用いた画像符号化装置のブロック図(実施の形態1)である。 図2は、同上の画像符号化装置におけるパラメータ抽出部の構成例を示すブロック図である。(実施の形態1) 図3は、同上の画像符号化装置における抽出部の構成例を示すブロック図である。(実施の形態1) 図4は、同上の画像符号化装置における係数補正部での処理方法を説明するための模式図である。(実施の形態1) 図5は、同上の画像符号化装置の動作を示すフロー図である。(実施の形態1) 図6は、同上の変形例1に係るパラメータ抽出部の構成例を示すブロック図である。(実施の形態1の変形例1) 図7は、同上の変形例1に係る画像符号化装置が離散ウェーブレット変換係数を用いて入力画像および局所復号画像を多重解像度表現した場合の模式図である。(実施の形態1の変形例1) 図8は、同上の変形例2に係るパラメータ抽出部の構成例を示すブロック図である。(実施の形態1の変形例2) 図9は、同上の変形例2に係るラプラシアン生成部の構成例を示すブロック図である。(実施の形態1の変形例2) 図10は、同上の変形例2に係るラプラシアン画像の例を示す図である。(実施の形態1の変形例2) 図11は、同上の変形例3に係るパラメータ抽出部の構成例を示すブロック図である。(実施の形態1の変形例3) 図12は、同上の変形例4に係る最適パラメータ抽出部の構成を示すブロック図である。(実施の形態1の変形例4) 図13は、本発明の実施の形態2における画像符号化方法を用いた画像符号化装置のブロック図である。(実施の形態2) 図14は、同上の画像符号化装置の付加パラメータ抽出部の構成例を示すブロック図である。(実施の形態2) 図15は、同上の変形例に係る画像符号化装置の付加パラメータ抽出部の構成例を示すブロック図である。(実施の形態2の変形例) 図16は、本発明の実施の形態3における画像復号化方法を用いた画像復号化装置のブロック図である。(実施の形態3) 図17は、同上の画像復号化装置における高画質化処理部の構成例を示すブロック図である。(実施の形態3) 図18は、同上の画像復号化装置の動作を示すフロー図である。(実施の形態3) 図19は、同上の変形例1に係る高画質化処理部の構成例を示すブロック図である。(実施の形態3の変形例1) 図20Aは、同上の変形例1に係る画像復号化装置が離散ウェーブレット変換係数を用いて復号画像および高画質復号画像を多重解像度表現した場合の模式図である。(実施の形態3の変形例1) 図20Bは、同上の変形例1に係る画像復号化装置が離散ウェーブレット変換係数を用いて復号画像および高画質復号画像を多重解像度表現した場合の他の模式図である。(実施の形態3の変形例1) 図21は、同上の変形例2に係る高画質化処理部の構成例を示すブロック図である。(実施の形態3の変形例2) 図22は、同上の変形例2に係るラプラシアン生成部により得られたラプラシアン画像の例を示す図である。(実施の形態3の変形例2) 図23は、同上の変形例3に係る高画質化処理部の構成例を示すブロック図である。(実施の形態3の変形例3) 図24は、同上の変形例4に係る最適高画質化処理部の構成例を示すブロック図である。(実施の形態3の変形例4) 図25は、本発明の実施の形態4における画像復号化方法を用いた画像復号化装置のブロック図である。(実施の形態4) 図26は、同上の変形例に係る画像復号化装置のブロック図ある。(実施の形態4の変形例) 図27Aは、本発明の画像符号化方法および画像復号化方法をコンピュータシステムにより実現するためのプログラムを格納するための記録媒体についての説明図である。(実施の形態5) 図27Bは、本発明の画像符号化方法および画像復号化方法をコンピュータシステムにより実現するためのプログラムを格納するための記録媒体についての他の説明図である。(実施の形態5) 図27Cは、本発明の画像符号化方法および画像復号化方法をコンピュータシステムにより実現するためのプログラムを格納するための記録媒体についてのさらに他の説明図である。(実施の形態5) 図28は、コンテンツ供給システムの全体構成を示すブロック図である。(実施の形態6) 図29は、本発明の画像符号化方法および画像復号化方法を用いた携帯電話の例を示す図である。(実施の形態6) 図30は、同上の携帯電話のブロック図である。(実施の形態6) 図31は、ディジタル放送用システムの例を示す図である。(実施の形態6)
符号の説明
100 画像符号化装置
101 画像符号化部
102 最適パラメータ抽出部
102a〜102d パラメータ抽出部
201,202 離散コサイン変換部
203 抽出部
301 係数補正部
302 補正パターン保持部
303 距離計算部
304 最適値検出部
1500 画像復号化装置
1501 画像復号化部
1502 最適高画質化処理部
1502a〜1502d 高画質化処理部
1601 離散コサイン変換部
1602 係数補正部
1603 補正パターン保持部
1604 逆離散コサイン変換部

Claims (21)

  1. 入力画像を符号化する画像符号化方法であって、
    入力画像を符号化して、符号化された入力画像を含む符号列を生成する符号化ステップと、
    符号化された入力画像を復号化することにより復号画像を生成する復号画像生成ステップと、
    前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて、前記復号画像を前記入力画像に近づけるためのパラメータを生成するパラメータ生成ステップとを含み、
    前記パラメータ生成ステップでは、
    前記復号画像および前記入力画像のうち何れか一方の画像に対して、パラメータにより特性が決まる予め定められた関数形によるフィルタ処理を行い、前記フィルタ処理が行われた一方の画像と他方の画像との誤差に基づいて前記パラメータを生成する
    ことを特徴とする画像符号化方法。
  2. 前記パラメータ生成ステップでは、
    前記関数形によるフィルタ処理として点像強度分布関数によるフィルタ処理を行う
    ことを特徴とする請求項1記載の画像符号化方法。
  3. 前記パラメータ生成ステップでは、
    前記復号画像および前記入力画像のうち前記フィルタ処理が行われた一方の画像と他方の画像とをそれぞれの画像領域ごとに比較することにより、前記画像領域ごとの前記パラメータを生成する
    ことを特徴とする請求項1記載の画像符号化方法。
  4. 前記画像符号化方法は、さらに、
    前記パラメータ生成ステップで前記パラメータを生成するために用いられる処理を識別するための識別情報を生成する識別情報生成ステップを含む
    ことを特徴とする請求項1記載の画像符号化方法。
  5. 前記画像符号化方法は、さらに、
    前記符号化ステップで生成される符号列に対して、前記パラメータ生成ステップで生成されるパラメータを多重化する多重化ステップを含む
    ことを特徴とする請求項1記載の画像符号化方法。
  6. 前記画像符号化方法は、さらに、
    前記入力画像に対して所定の前処理を行う前処理ステップを含み、
    前記符号化ステップでは、
    前記前処理が行われた入力画像を符号化して符号列を生成し、
    前記パラメータ生成ステップでは、
    前記復号画像と、前記前処理が行われた入力画像または前記前処理が行われていない入力画像とのうち少なくとも一方の周波数成分に基づいて前記パラメータを生成する
    ことを特徴とする請求項1記載の画像符号化方法。
  7. 前記前処理ステップでは、
    前記入力画像に対して、画像サイズの縮小処理、低域通過フィルタ処理、またはフレームレート削減処理を行う
    ことを特徴とする請求項6記載の画像符号化方法。
  8. 前記画像符号化方法は、さらに、
    前記前処理ステップで行われる前記前処理の内容を示す前処理パラメータを生成する前処理パラメータ生成ステップを含む
    ことを特徴とする請求項6記載の画像符号化方法。
  9. 符号化された入力画像を復号化する画像復号化方法であって、
    符号列を取得する符号列取得ステップと、
    前記符号列に含まれる符号化された入力画像を復号化することにより、復号画像を生成する復号化ステップと、
    前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて生成された、予め定められた関数形によるフィルタ処理の特性を決めるパラメータを取得するパラメータ取得ステップと、
    前記復号画像に対して前記パラメータを適用することにより、前記復号画像よりも前記入力画像に近い高画質復号画像を生成する高画質化ステップとを含み、
    前記高画質化ステップでは、
    前記パラメータにより特性が決まる前記関数形によるフィルタ処理を前記復号画像に対して行うことにより前記高画質復号画像を生成する
    ことを特徴とする画像復号化方法。
  10. 前記高画質化ステップでは、
    前記関数形によるフィルタ処理として点像強度分布関数によるフィルタ処理を行うことにより前記高画質復号画像を生成する
    ことを特徴とする請求項9記載の画像復号化方法。
  11. 前記画像復号化方法は、さらに、
    前記パラメータを生成するために用いられた処理を識別するための識別情報を取得する識別情報取得ステップを含み、
    前記高画質化ステップでは、
    前記識別情報の示す処理に応じて前記パラメータを前記復号画像に対して適用することにより前記高画質復号画像を生成する
    ことを特徴とする請求項9記載の画像復号化方法。
  12. 前記パラメータ取得ステップでは、
    前記符号列と前記パラメータとが多重化された多重化情報から、前記パラメータを分離することにより前記パラメータを取得する
    ことを特徴とする請求項9記載の画像復号化方法。
  13. 前記画像復号化方法は、さらに、
    前記復号画像または前記高画質復号画像に対して所定の後処理を行う後処理ステップを含み、
    前記高画質化ステップでは、
    前記後処理ステップで前記復号画像に対して前記後処理が行われたときには、前記後処理が行われた復号画像に対して前記パラメータを適用することにより前記高画質復号画像を生成する
    ことを特徴とする請求項9記載の画像復号化方法。
  14. 前記後処理ステップでは、前記復号画像または前記高画質復号画像に対して、画像サイズの拡大処理、高域通過フィルタ処理、またはフレームレート向上処理を行う
    ことを特徴とする請求項13記載の画像復号化方法。
  15. 前記画像復号化方法は、さらに、
    前記後処理の内容を示す後処理パラメータを取得する後処理パラメータ取得ステップを含み、
    前記後処理ステップでは、前記後処理パラメータの示す内容の後処理を行う
    ことを特徴とする請求項13記載の画像復号化方法。
  16. 入力画像を符号化する画像符号化装置であって、
    入力画像を符号化して、符号化された入力画像を含む符号列を生成する符号化手段と、
    符号化された入力画像を復号化することにより復号画像を生成する復号画像生成手段と、
    前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて、前記復号画像を前記入力画像に近づけるためのパラメータを生成するパラメータ生成手段とを備え、
    前記パラメータ生成手段は、
    前記復号画像および前記入力画像のうち何れか一方の画像に対して、パラメータにより特性が決まる予め定められた関数形によるフィルタ処理を行い、前記フィルタ処理が行われた一方の画像と他方の画像との誤差に基づいて前記パラメータを生成する
    ことを特徴とする画像符号化装置。
  17. 符号化された入力画像を復号化する画像復号化装置であって、
    符号列を取得する符号列取得手段と、
    前記符号列に含まれる符号化された入力画像を復号化することにより、復号画像を生成する復号化手段と、
    前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて生成された、予め定められた関数形によるフィルタ処理の特性を決めるパラメータを取得するパラメータ取得手段と、
    前記復号画像に対して前記パラメータを適用することにより、前記復号画像よりも前記入力画像に近い高画質復号画像を生成する高画質化手段とを備え、
    前記高画質化手段は、
    前記パラメータにより特性が決まる前記関数形によるフィルタ処理を前記復号画像に対して行うことにより前記高画質復号画像を生成する
    ことを特徴とする画像復号化装置。
  18. 入力画像を符号化する集積回路であって、
    入力画像を符号化して、符号化された入力画像を含む符号列を生成する符号化手段と、
    符号化された入力画像を復号化することにより復号画像を生成する復号画像生成手段と、
    前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて、前記復号画像を前記入力画像に近づけるためのパラメータを生成するパラメータ生成手段とを備え、
    前記パラメータ生成手段は、
    前記復号画像および前記入力画像のうち何れか一方の画像に対して、パラメータにより特性が決まる予め定められた関数形によるフィルタ処理を行い、前記フィルタ処理が行われた一方の画像と他方の画像との誤差に基づいて前記パラメータを生成する
    ことを特徴とする集積回路。
  19. 符号化された入力画像を復号化する集積回路であって、
    符号列を取得する符号列取得手段と、
    前記符号列に含まれる符号化された入力画像を復号化することにより、復号画像を生成する復号化手段と、
    前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて生成された、予め定められた関数形によるフィルタ処理の特性を決めるパラメータを取得するパラメータ取得手段と、
    前記復号画像に対して前記パラメータを適用することにより、前記復号画像よりも前記入力画像に近い高画質復号画像を生成する高画質化手段とを備え、
    前記高画質化手段は、
    前記パラメータにより特性が決まる前記関数形によるフィルタ処理を前記復号画像に対して行うことにより前記高画質復号画像を生成する
    ことを特徴とする集積回路。
  20. 入力画像を符号化するためのプログラムであって、
    入力画像を符号化して、符号化された入力画像を含む符号列を生成する符号化ステップと、
    符号化された入力画像を復号化することにより復号画像を生成する復号画像生成ステップと、
    前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて、前記復号画像を前記入力画像に近づけるためのパラメータを生成するパラメータ生成ステップとをコンピュータに実行させ、
    前記パラメータ生成ステップでは、
    前記復号画像および前記入力画像のうち何れか一方の画像に対して、パラメータにより特性が決まる予め定められた関数形によるフィルタ処理を行い、前記フィルタ処理が行われた一方の画像と他方の画像との誤差に基づいて前記パラメータを生成する
    ことを特徴とするプログラム。
  21. 符号化された入力画像を復号化するためのプログラムであって、
    符号列を取得する符号列取得ステップと、
    前記符号列に含まれる符号化された入力画像を復号化することにより、復号画像を生成する復号化ステップと、
    前記入力画像および前記復号画像の少なくとも一方の周波数成分に基づいて生成された、予め定められた関数形によるフィルタ処理の特性を決めるパラメータを取得するパラメータ取得ステップと、
    前記復号画像に対して前記パラメータを適用することにより、前記復号画像よりも前記入力画像に近い高画質復号画像を生成する高画質化ステップとをコンピュータに実行させ、
    前記高画質化ステップでは、
    前記パラメータにより特性が決まる前記関数形によるフィルタ処理を前記復号画像に対して行うことにより前記高画質復号画像を生成する
    ことを特徴とするプログラム。
JP2006528634A 2004-06-25 2005-06-24 画像符号化方法、画像復号化方法、画像符号化装置、画像復号化装置、集積回路、およびプログラム Expired - Fee Related JP5138933B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006528634A JP5138933B2 (ja) 2004-06-25 2005-06-24 画像符号化方法、画像復号化方法、画像符号化装置、画像復号化装置、集積回路、およびプログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2004188568 2004-06-25
JP2004188568 2004-06-25
JP2006528634A JP5138933B2 (ja) 2004-06-25 2005-06-24 画像符号化方法、画像復号化方法、画像符号化装置、画像復号化装置、集積回路、およびプログラム
PCT/JP2005/011642 WO2006001384A1 (ja) 2004-06-25 2005-06-24 画像符号化方法および画像復号化方法

Publications (2)

Publication Number Publication Date
JPWO2006001384A1 JPWO2006001384A1 (ja) 2008-04-17
JP5138933B2 true JP5138933B2 (ja) 2013-02-06

Family

ID=35781827

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006528634A Expired - Fee Related JP5138933B2 (ja) 2004-06-25 2005-06-24 画像符号化方法、画像復号化方法、画像符号化装置、画像復号化装置、集積回路、およびプログラム

Country Status (5)

Country Link
US (1) US20070160147A1 (ja)
EP (2) EP1763251A4 (ja)
JP (1) JP5138933B2 (ja)
CN (1) CN100563342C (ja)
WO (1) WO2006001384A1 (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1816870A4 (en) 2004-11-19 2009-07-29 Panasonic Corp VIDEO CODING METHOD AND VIDEO CODING METHOD
GB2429593A (en) * 2005-08-26 2007-02-28 Electrosonic Ltd Data compressing using a wavelet compression scheme
US7684626B1 (en) * 2005-12-01 2010-03-23 Maxim Integrated Products Method and apparatus for image decoder post-processing using image pre-processing and image encoding information
JP4844455B2 (ja) * 2006-06-15 2011-12-28 日本ビクター株式会社 映像信号階層復号化装置、映像信号階層復号化方法、及び映像信号階層復号化プログラム
JP4844456B2 (ja) * 2006-06-15 2011-12-28 日本ビクター株式会社 映像信号階層符号化装置、映像信号階層符号化方法、及び映像信号階層符号化プログラム
KR101385957B1 (ko) * 2007-10-04 2014-04-17 삼성전자주식회사 복호화기에서의 양자화 계수 조정 방법 및 장치
JP4435843B1 (ja) * 2008-09-10 2010-03-24 ミツミ電機株式会社 映像表示装置
WO2010064674A1 (ja) * 2008-12-03 2010-06-10 ソニー株式会社 画像処理装置および画像処理方法、並びにプログラム
US20110299604A1 (en) * 2010-06-04 2011-12-08 Apple Inc. Method and apparatus for adaptive video sharpening
ES2962519T3 (es) 2011-06-23 2024-03-19 Sun Patent Trust Procedimiento de decodificación de imágenes, procedimiento de codificación de imágenes
USRE47366E1 (en) 2011-06-23 2019-04-23 Sun Patent Trust Image decoding method and apparatus based on a signal type of the control parameter of the current block
CA2830046C (en) 2011-06-24 2018-09-04 Panasonic Corporation Image decoding method, image coding method, image decoding apparatus, image coding apparatus, and image coding and decoding apparatus
CN103535036B (zh) 2011-06-24 2017-04-05 太阳专利托管公司 解码方法和解码装置
KR102060621B1 (ko) 2011-06-27 2019-12-30 선 페이턴트 트러스트 화상 복호 방법, 화상 부호화 방법, 화상 복호 장치, 화상 부호화 장치 및 화상 부호화 복호 장치
CN103563377B (zh) 2011-06-28 2017-05-10 太阳专利托管公司 解码方法及解码装置
MX2013010892A (es) 2011-06-29 2013-12-06 Panasonic Corp Metodo de decodificacion de imagenes, metodo de codificacion de imagenes, aparato de decodificacion de imagenes, aparato de codificacion de imagenes y aparato de codificacion y decodificacion de imagenes.
KR102060619B1 (ko) 2011-06-30 2019-12-30 선 페이턴트 트러스트 화상 복호 방법, 화상 부호화 방법, 화상 복호 장치, 화상 부호화 장치 및 화상 부호화 복호 장치
BR112013030562B1 (pt) 2011-06-30 2022-05-03 Sun Patent Trust Método e aparelho de decodificação, método e aparelho de codificação e aparelho de codificação e decodificação
CN107087185B (zh) 2011-07-11 2020-01-10 太阳专利托管公司 编码方法及编码装置、解码方法及解码装置
JP2014017739A (ja) * 2012-07-10 2014-01-30 Nippon Hoso Kyokai <Nhk> 画像符号化装置、画像復号装置およびプログラム
JP5965760B2 (ja) * 2012-07-13 2016-08-10 日本放送協会 画像符号化装置、画像復号装置およびそれらのプログラム
US9992252B2 (en) 2015-09-29 2018-06-05 Rgb Systems, Inc. Method and apparatus for adaptively compressing streaming video
KR101974138B1 (ko) * 2018-03-12 2019-04-30 삼성전자주식회사 픽셀 그룹별 픽셀값 보상을 위한 비디오 부호화 방법과 그 장치, 및 픽셀 그룹별 픽셀값 보상을 위한 비디오 복호화 방법과 그 장치
US11503306B2 (en) 2020-04-09 2022-11-15 Jianghong Yu Image and video data processing method and system
CN113766239B (zh) * 2020-06-05 2024-07-02 于江鸿 数据处理的方法和***
CN113518227B (zh) 2020-04-09 2023-02-10 于江鸿 数据处理的方法和***
US11528488B2 (en) 2020-04-09 2022-12-13 Jianghong Yu Image and video data processing method and system

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08251418A (ja) * 1995-03-10 1996-09-27 Kawasaki Steel Corp ブロック歪低減装置および低減方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01311782A (ja) * 1988-06-10 1989-12-15 Toshiba Corp 変換符号化方式
JP3135692B2 (ja) 1992-08-28 2001-02-19 株式会社日立製作所 階層的動画像信号符号化装置及び方法
JPH1070717A (ja) * 1996-06-19 1998-03-10 Matsushita Electric Ind Co Ltd 画像符号化装置及び画像復号化装置
US6731811B1 (en) * 1997-12-19 2004-05-04 Voicecraft, Inc. Scalable predictive coding method and apparatus
JP3702185B2 (ja) * 2001-01-26 2005-10-05 日本電信電話株式会社 画像符号化装置と画像復号装置および画像符号化方法と画像復号方法および画像符号化プログラムを記録した記録媒体と画像復号プログラムを記録した記録媒体および画像符号化プログラムと画像復号プログラム
US7483581B2 (en) * 2001-07-02 2009-01-27 Qualcomm Incorporated Apparatus and method for encoding digital image data in a lossless manner
EP1303143A3 (fr) * 2001-10-16 2004-01-14 Koninklijke Philips Electronics N.V. Procédé de détection d'artefacts de bloc
US7421127B2 (en) * 2001-10-26 2008-09-02 Koninklijke Philips Electronics N.V. Spatial scalable compression scheme using spatial sharpness enhancement techniques
WO2004086293A1 (en) * 2003-03-19 2004-10-07 Nik Multimedia, Inc. Selective enhancement of digital images
JP5007228B2 (ja) * 2004-06-14 2012-08-22 プレコード,インコーポレイテッド 画像クリーンアップおよび前置符号化

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08251418A (ja) * 1995-03-10 1996-09-27 Kawasaki Steel Corp ブロック歪低減装置および低減方法

Also Published As

Publication number Publication date
EP2309754A3 (en) 2012-02-01
JPWO2006001384A1 (ja) 2008-04-17
CN1922887A (zh) 2007-02-28
EP2309754A2 (en) 2011-04-13
EP1763251A4 (en) 2009-03-25
US20070160147A1 (en) 2007-07-12
EP1763251A1 (en) 2007-03-14
WO2006001384A1 (ja) 2006-01-05
CN100563342C (zh) 2009-11-25

Similar Documents

Publication Publication Date Title
JP5138933B2 (ja) 画像符号化方法、画像復号化方法、画像符号化装置、画像復号化装置、集積回路、およびプログラム
JP4808634B2 (ja) 動画像符号化方法、動画像復号方法、動画像符号化装置、動画像復号装置、プログラム、および集積回路
JP4688973B2 (ja) 符号化歪除去方法
RU2461977C2 (ru) Сжатие и снятие сжатия изображения
JP2006074777A (ja) 動画像符号化方法および動画像復号方法
JP2005080301A (ja) 動画像符号化方法および動画像復号化方法
JPWO2006118288A1 (ja) 動画像符号化方法、動画像復号化方法およびその装置
US20090097542A1 (en) Signal coding and decoding with pre- and post-processing
JP4313710B2 (ja) 画像符号化方法および画像復号化方法
JPWO2006003873A1 (ja) 画像符号化方法および画像復号化方法
JP2007143178A (ja) 符号化歪除去方法
JP2006236317A (ja) 画像処理方法
JP4009650B2 (ja) 符号化歪除去方法、動画像符号化方法、動画像復号化方法、およびそれらを実現する装置、プログラム
JP2005130417A (ja) 変換符号化方法および変換復号化方法
JP3769534B6 (ja) 復号化方法
JP3769534B2 (ja) 復号化方法
JP4562785B6 (ja) 符号化歪除去方法
JP4105218B2 (ja) 受信装置及び送信装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080502

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110304

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121023

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121115

R150 Certificate of patent or registration of utility model

Ref document number: 5138933

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151122

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees