JP4026238B2 - 画像復号装置及び画像復号方法 - Google Patents

画像復号装置及び画像復号方法 Download PDF

Info

Publication number
JP4026238B2
JP4026238B2 JP20838498A JP20838498A JP4026238B2 JP 4026238 B2 JP4026238 B2 JP 4026238B2 JP 20838498 A JP20838498 A JP 20838498A JP 20838498 A JP20838498 A JP 20838498A JP 4026238 B2 JP4026238 B2 JP 4026238B2
Authority
JP
Japan
Prior art keywords
pixel
field
discrete cosine
mode
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP20838498A
Other languages
English (en)
Other versions
JP2000041252A (ja
JP2000041252A5 (ja
Inventor
数史 佐藤
健司 小森
哲夫 金子
聡 三橋
正三 五関
隆雄 寺尾
尚史 柳原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP20838498A priority Critical patent/JP4026238B2/ja
Priority to US09/358,451 priority patent/US6539056B1/en
Publication of JP2000041252A publication Critical patent/JP2000041252A/ja
Publication of JP2000041252A5 publication Critical patent/JP2000041252A5/ja
Application granted granted Critical
Publication of JP4026238B2 publication Critical patent/JP4026238B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/16Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter for a given display mode, e.g. for interlaced or progressive display mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/48Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/523Motion estimation or motion compensation with sub-pixel accuracy
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、所定の画素ブロック(マクロブロック)単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック(直交変換ブロック)単位で直交変換することによる圧縮符号化をした第1の解像度の圧縮画像データを、復号する画像復号装置及び画像復号方法に関し、特に、第1の解像度の圧縮画像データを復号して、この第1の解像度よりも低い第2の解像度の動画像データに縮小する画像復号装置及び画像復号方法に関するものである。
【0002】
【従来の技術】
MPEG2(Moving Picture Experts Group phase2)等の画像圧縮方式を用いたデジタルテレビジョン放送の規格化が進められている。デジタルテレビジョン放送の規格には、標準解像度画像(例えば垂直方向の有効ライン数が576本)に対応した規格、高解像度画像(例えば垂直方向の有効ライン数が1152本)に対応した規格等がある。そのため、近年、高解像度画像の圧縮画像データを復号するとともにこの圧縮画像データを1/2の解像度に縮小することにより、標準解像度画像の画像データを生成して、この画像データを標準解像度に対応したテレビジョンモニタに表示するダウンデコーダが求められている。
【0003】
高解像度画像に対して動き予測による予測符号化及び離散コサイン変換による圧縮符号化をしたMPEG2等のビットストリームを、復号するとともに標準解像度画像にダウンサンプリングするダウンデコーダが、文献「低域ドリフトのないスケーラブル・デコーダ」(岩橋・神林・貴家:信学技報 CS94-186,DSP94-108,1995-01)に提案されている(以下、この文献を文献1と呼ぶ。)。この文献1には、以下の第1から第3のダウンデコーダが示されている。
【0004】
第1のダウンデコーダは、図34に示すように、高解像度画像のビットストリームに対して8(水平方向のDC成分から数えた係数の数)×8(垂直方向のDC成分から数えた係数の数)の逆離散コサイン変換をする逆離散コサイン変換装置1001と、離散コサイン変換がされた高解像度画像と動き補償がされた参照画像とを加算する加算装置1002と、参照画像を一時記憶するフレームメモリ1003と、フレームメモリ1003が記憶した参照画像に1/2画素精度で動き補償をする動き補償装置1004と、フレームメモリ1003が記憶した参照画像を標準解像度の画像に変換するダウンサンプリング装置1005とを備えている。
【0005】
この第1のダウンデコーダでは、逆離散コサイン変換を行い高解像度画像として復号した出力画像を、ダウンサンプリング装置1005で縮小して標準解像度の画像データを出力する。
【0006】
第2のダウンデコーダは、図35に示すように、高解像度画像のビットストリームのDCT(Discrete Cosine Transform)ブロックの高周波成分の係数を0に置き換えて8×8の逆離散コサイン変換をする逆離散コサイン変換装置1011と、離散コサイン変換がされた高解像度画像と動き補償がされた参照画像とを加算する加算装置1012と、参照画像を一時記憶するフレームメモリ1013と、フレームメモリ1013が記憶した参照画像に1/2画素精度で動き補償をする動き補償装置1014と、フレームメモリ1013が記憶した参照画像を標準解像度の画像に変換するダウンサンプリング装置1015とを備えている。
【0007】
この第2のダウンデコーダでは、DCTブロックの全ての係数のうち高周波成分の係数を0に置き換えて逆離散コサイン変換を行い高解像度画像として復号した出力画像を、ダウンサンプリング装置1005で縮小して標準解像度の画像データを出力する。
【0008】
第3のダウンデコーダは、図36に示すように、高解像度画像のビットストリームのDCTブロックの低周波成分の係数のみを用いて例えば4×4の逆離散コサイン変換をして標準解像度画像に復号する縮小逆離散コサイン変換装置1021と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置1022と、参照画像を一時記憶するフレームメモリ1023と、フレームメモリ1023が記憶した参照画像に1/4画素精度で動き補償をする動き補償装置1024とを備えている。
【0009】
この第3のダウンデコーダでは、DCTブロックの全ての係数のうち低周波成分の係数のみを用いて逆離散コサイン変換を行い、高解像度画像から標準解像度画像として復号する。
【0010】
ここで、上記第1のダウンデコーダでは、DCTブロック内の全ての係数に対して逆離散コサイン変換を行い高解像度画像を復号しているため、高い演算処理能力の逆離散コサイン変換装置1001と高容量のフレームメモリ1003とが必要となる。また、上記第2のダウンデコーダでは、DCTブロック内の係数のうち高周波成分を0として離散コサイン変換を行い高解像度画像を復号しているため、逆離散コサイン変換装置1011の演算処理能力は低くて良いが、やはり高容量のフレームメモリ1013が必要となる。これら第1及び第2のダウンデコーダに対し、第3のダウンデコーダでは、DCTブロック内の全ての係数うち低周波成分の係数のみを用いて逆離散コサイン変換をしているため逆離散コサイン変換装置1021の演算処理能力が低くてよく、さらに、標準解像度画像の参照画像を復号しているのでフレームメモリ1023の容量も少なくすることができる。
【0011】
ところで、テレビジョン放送等の動画像の表示方式には、順次走査方式と飛び越し走査方式とがある。順次走査方式は、フレーム内の全ての画素を同じタイミングでサンプリングした画像を、順次表示する表示方式である。飛び越し走査方式は、フレーム内の画素を水平方向の1ライン毎に異なるタイミングでサンプリングした画像を、交互に表示する表示方式である。
【0012】
この飛び越し走査方式では、フレーム内の画素を1ライン毎に異なるタイミングでサンプリングした画像のうちの一方を、トップフィールド(第1フィールドともいう。)といい、他方をボトムフィールド(第2のフィールドともいう。)という。フレームの水平方向の先頭ラインが含まれる画像がトップフィールドとなり、フレームの水平方向の2番目のラインが含まれる画像がボトムフィールドとなる。従って、飛び越し走査方式では、1つのフレームが2つのフィールドから構成されることとなる。
【0013】
MEPG2では、飛び越し走査方式に対応した動画像信号を効率良く圧縮するため、画面の圧縮単位であるピクチャにフレームを割り当てて符号化するだけでなく、ピクチャにフィールドを割り当てて符号化することもできる。
【0014】
MPEG2では、ピクチャにフィールドが割り当てられた場合には、そのビットストリームの構造をフィールド構造と呼び、ピクチャにフレームが割り当てられた場合には、そのビットストリームの構造をフレーム構造と呼ぶ。また、フィールド構造では、フィールド内の画素からDCTブロックが形成され、フィールド単位で離散コサイン変換がされる。このフィールド単位で離散コサイン変換を行う処理モードのことをフィールドDCTモードと呼ぶ。また、フレーム構造では、フレーム内の画素からDCTブロックが形成され、フレーム単位で離散コサイン変換がされる。このフレーム単位で離散コサイン変換を行う処理モードのことをフレームDCTモードと呼ぶ。さらに、フィールド構造では、フィールド内の画素からマクロブロックが形成され、フィールド単位で動き予測がされる。このフィールド単位で動き予測を行う処理モードのことをフィールド動き予測モードと呼ぶ。また、フレーム構造では、フレーム内の画素からマクロブロックが形成され、フレーム単位で動き予測がされる。フレーム単位で動き予測を行う処理モードのことをフレーム動き予測モードと呼ぶ。
【0015】
【発明が解決しようとする課題】
ところで、上記文献1に示された第3のダウンデコーダを利用して、飛び越し走査方式に対応した圧縮画像データを復号する画像復号装置が、例えば文献「A Compensation Method of Drift Errors in Scalability」(N.OBIKANE,K.TAHARA and J.YONEMITSU,HDTV Work Shop'93)に提案されている(以下、この文献を文献2と呼ぶ)。
【0016】
この文献2に示された従来の画像復号装置は、図37に示すように、高解像度画像をMPEG2で圧縮したビットストリームが供給され、このビットストリームを解析するビットストリーム解析装置1031と、データの発生頻度に応じた符号長を割り当てる可変長符号化がされたビットストリームを復号する可変長符号復号装置1032と、DCTブロックの各係数に量子化ステップを掛ける逆量子化装置1033と、DCTブロックの全ての係数のうち低周波成分の係数のみを用いて例えば4×4の逆離散コサイン変換をして標準解像度画像を復号する縮小逆離散コサイン変換装置1034と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置1035と、参照画像を一時記憶するフレームメモリ1036と、フレームメモリ1036が記憶した参照画像に1/4画素精度で動き補償をする動き補償装置1037とを備えている。
【0017】
この文献2に示された従来の画像復号装置の縮小逆離散コサイン変換装置1034は、DCTブロック内の全ての係数のうち低周波成分の係数のみを用いて逆離散コサイン変換をするが、フレームDCTモードとフィールドDCTモードとで、逆離散コサイン変換を行う係数の位置が異なっている。
【0018】
具体的には、縮小逆離散コサイン変換装置1034は、フィールドDCTモードの場合には、図38に示すように、DCTブロック内の8×8個のうち、低域の4×4個の係数のみに逆離散コサイン変換を行う。それに対し、縮小逆離散コサイン変換装置1034は、フレームDCTモードの場合には、図39に示すように、DCTブロック内の8×8個の係数のうち、4×2個+4×2個の係数のみに逆離散コサイン変換を行う。
【0019】
また、この文献2に示された従来の画像復号装置の動き補償装置1037は、高解像度画像に対して行われた動き予測の情報(動きベクトル)に基づき、フィールド動き予測モード及びフレーム動き予測モードのそれぞれに対応した1/4画素精度の動き補償を行う。すなわち、通常MPEG2では1/2画素精度で動き補償が行われることが定められているが、高解像度画像から標準解像度画像を復号する場合には、ピクチャ内の画素数が1/2に間引かれるため、動き補償装置1037では動き補償の画素精度を1/4画素精度として動き補償を行っている。
【0020】
従って、動き補償装置1037では、高解像度画像に対応した動き補償を行うため、標準解像度の画像としてフレームメモリ1036に格納された参照画像の画素に対して線形補間して、1/4画素精度の画素を生成している。
【0021】
具体的に、フィールド動き予測モード及びフレーム動き予測モードの場合の垂直方向の画素の線形補間処理を、図40及び図41を用いて説明する。なお、図面中には、縦方向に垂直方向の画素の位相を示し、表示画像の各画素が位置する位相を整数で示している。
【0022】
まず、フィールド動き予測モードで動き予測がされた画像の補間処理について、図40を用いて説明する。高解像度画像(上位レイヤー)に対しては、図40(a)に示すように、各フィールドそれぞれ独立に、1/2画素精度で動き補償がされる。これに対し、標準解像度画像(下位レイヤー)に対しては、図40(b)に示すように、整数精度の画素に基づきフィールド内で線形補間をして、垂直方向に1/4画素、1/2画素、3/4画素分の位相がずれた画素を生成し、動き補償がされる。すなわち、標準解像度画像(下位レイヤー)では、トップフィールドの整数精度の各画素に基づきトップフィールドの1/4画素精度の各画素が線形補間により生成され、ボトムフィールドの整数精度の各画素に基づきボトムフィールドの1/4画素精度の各画素が線形補間により生成される。例えば、垂直方向の位相が0の位置にあるトップフィールドの画素の値をa、垂直方向の位相が1の位置にあるトップフィールドの画素の値をbとする。この場合、垂直方向の位相が1/4の位置にあるトップフィールドの画素は(3a+b)/4となり、垂直方向の位相が1/2の位置にあるトップフィールドの画素は(a+b)/2となり、垂直方向の位相が3/4の位置にあるトップフィールドの画素は(a+3b)/4となる。
【0023】
続いて、フレーム動き予測モードで動き予測がされた画像の補間処理について、図41を用いて説明する。高解像度画像(上位レイヤー)に対しては、図41(a)に示すように、各フィールド間で補間処理がされ、すなわち、ボトムフィールドとトップフィールドとの間で補間処理がされ、1/2画素精度で動き補償がされる。標準解像度画像(下位レイヤー)に対しては、図41(b)に示すように、トップフィールド及びボトムフィールドの2つのフィールドの整数精度の各画素に基づき、垂直方向に1/4画素、1/2画素、3/4画素分の位相がずれた画素が線形補間により生成され、動き補償がされる。例えば、垂直方向の位相が−1の位置にあるボトムフィールドの画素の値をa、垂直方向の位相が0の位置にあるトップフィールドの画素の値をb、垂直方向の位相が1の位置にあるボトムフィールドの画素の値をc、垂直方向の位相が2の位置にあるトップフィールドの画素の値をd、垂直方向の位相が3の位置にあるボトムフィールドの画素の値をeとする。この場合、垂直方向の位相が0〜2の間にある1/4画素精度の各画素は、以下のように求められる。
【0024】
垂直方向の位相が1/4の位置にある画素は(a+4b+3c)/8となる。垂直方向の位相が1/2の位置にある画素は(a+3c)/4となる。垂直方向の位相が3/4の位置にある画素は(a+2b+3c+2d)/8となる。垂直方向の位相が5/4の位置にある画素は(2b+3c+2d+e)/8となる。垂直方向の位相が3/2の位置にある画素は(3c+e)/4となる。垂直方向の位相が7/4の位置にある画素は(3c+4d+e)/8となる。
【0025】
以上のように上記文献2に示された従来の画像復号装置は、飛び越し走査方式に対応した高解像度画像の圧縮画像データを、標準解像度画像データに復号することができる。
【0026】
しかしながら、上記文献2に示された従来の画像復号装置では、フィールドDCTモードで得られる標準解像度画像の各画素と、フレームDCTモードで得られる標準解像度の各画素との位相がずれる。具体的には、フィールドDCTモードでは、図42に示すように、下位レイヤーのトップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、下位レイヤーのボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。それに対して、フレームDCTモードでは、図43に示すように、下位レイヤーのトップフィールドの各画素の垂直方向の位相が0、2・・・となり、下位レイヤーのボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。そのため、位相が異なる画像がフレームメモリ1036に混在し、出力する画像の画質が劣化する。
【0027】
また、上記文献2に示された従来の画像復号装置では、フィールド動き予測モードとフレーム動き予測モードとで位相ずれの補正がされていない。そのため、出力する画像の画質が劣化する。
【0028】
本発明は、このような実情を鑑みてなされたものであり、復号に必要な演算量及び記憶容量を少なくすることができ、フィールド動き予測モードとフレーム動き予測モードとによる動き補償の際の画素の位相ずれをなくし、動き補償に起因する画質の劣化を防止することが可能な、高解像度画像の圧縮画像データから標準解像度の画像データを復号する画像復号装置及び画像復号方法を提供することを目的とする。
【0029】
【課題を解決するための手段】
本発明は、所定の画素ブロック(マクロブロック)単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック(直交変換ブロック)単位で直交変換をすることによる圧縮符号化をした第1の解像度の圧縮画像データから、上記第1の解像度より低い第2の解像度の動画像データを復号する画像復号装置において、直交変換がされた上記圧縮画像データの直交変換ブロックの各係数のうち低周波成分の係数に対して逆直交変換をする逆直交変換手段と、上記逆直交変換手段により逆直交変換がされた圧縮画像データと動き補償がされた参照画像データとを加算して、第2の解像度の動画像データを出力する加算手段と、上記加算手段から出力される動画像データを参照画像データとして記憶する記憶手段と、飛び越し走査に対応した動き予測方式(フィールド動き予測モード)により動き予測がされた参照画像データのマクロブロックに対して動き補償をする第1の動き補償手段と、順次走査に対応した動き予測方式(フレーム動き予測モード)により動き予測がされた参照画像データのマクロブロックに対して動き補償をする第2の動き補償手段と、上記加算手段から出力された動画像データに対してポストフィルタリングを施し、動画像を構成する画面の画枠を変換するとともにトップフィールドとボトムフィールドとの間の位相ずれを補正する画枠変換位相補正手段とを備え、上記第1の動き補償手段及び上記第2の動き補償手段は、上記記憶手段が記憶している参照画像データのマクロブロックの各画素に対して補間をし、上記記憶手段が記憶している参照画像データに対して1/4画素精度の画素から構成されるマクロブロックを生成し、この生成したマクロブロックに対して動き補償をすることを特徴とする。
【0033】
本発明は、所定の画素ブロック(マクロブロック)単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック(直交変換ブロック)単位で直交変換をすることによる圧縮符号化をした第1の解像度の圧縮画像データから、上記第1の解像度より低い第2の解像度の動画像データを復号する画像復号方法において、直交変換がされた上記圧縮画像データの直交変換ブロックの各係数のうち低周波成分の係数に対して逆直交変換をし、上記逆直交変換がされた圧縮画像データと動き補償がされた参照画像データとを加算することにより第2の解像度の動画像データを生成し、生成された上記第2の解像度の動画像データを参照画像データとして記憶し、生成された第2の解像度の動画像データに対してポストフィルタリングを施し、動画像を構成する画面の画枠を変換するとともにトップフィールドとボトムフィールドとの間の位相ずれを補正し、飛び越し走査に対応した動き予測方式(フィールド動き予測モード)により動き予測がされた参照画像データのマクロブロックに対して動き補償をし、順次走査に対応した動き予測方式(フレーム動き予測モード)により動き予測がされた参照画像データのマクロブロックに対して動き補償をし、上記フィールド動き予測モード又はフレーム動き予測モードでの動き補償において、記憶している参照画像データのマクロブロックの各画素に対して補間をし、上記参照画像データに対して1/4画素精度の画素から構成されるマクロブロックを生成し、この生成したマクロブロックに対して動き補償をすることを特徴とする。
【0037】
【発明の実施の形態】
以下、本発明の実施の形態として、本発明を適用した画像復号装置について、図面を参照しながら説明する。
【0038】
(第1の実施の形態)
まず、本発明の第1の実施の形態の画像復号装置について説明する。
【0039】
図1に示すように、本発明の第1の実施の形態の画像復号装置10は、垂直方向の有効ライン数が例えば1152本の高解像度画像をMPEG2で画像圧縮したビットストリームが入力され、この入力されたビットストリームを復号するとともに1/2の解像度に縮小して、垂直方向の有効ライン数が例えば576本の標準解像度画像を出力する装置である。
【0040】
なお、以下、本発明の実施の形態の説明をするにあたり、高解像度画像のことを上位レイヤーとも呼び、標準解像度画像のことを下位レイヤーとも呼ぶものとする。また、通常、8×8の離散コサイン係数を有するDCTブロックを逆離散コサイン変換した場合8×8の画素から構成される復号データを得ることができるが、例えば、8×8の離散コサイン係数を復号して4×4の画素から構成される復号データを得るような、逆離散コサイン変換をするとともに解像度を縮小する処理を、縮小逆離散コサイン変換という。
【0041】
この画像復号装置10は、圧縮された高解像度画像のビットストリームが供給され、このビットストリームを解析するビットストリーム解析装置11と、データの発生頻度に応じた符号長を割り当てる可変長符号化がされた上記ビットストリームを復号する可変長符号復号装置12と、DCTブロックの各係数に量子化ステップを掛ける逆量子化装置13と、フィールドDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフィールドモード用縮小逆離散コサイン変換装置14と、フレームDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフレームモード用縮小逆離散コサイン変換装置15と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置16と、参照画像を一時記憶するフレームメモリ17と、フレームメモリ17が記憶した参照画像にフィールド動き予測モードに対応した動き補償をするフィールドモード用動き補償装置18と、フレームメモリ17が記憶した参照画像にフレーム動き予測モードに対応した動き補償をするフレームモード用動き補償装置19と、フレームメモリ17が記憶した画像に対してポストフィルタリングをすることにより、画枠変換をするとともに画素の位相ずれを補正してテレビジョンモニタ等に表示するための標準解像度の画像データを出力する画枠変換・位相ずれ補正装置20とを備えている。
【0042】
フィールドモード用縮小逆離散コサイン変換装置14は、入力されたビットストリームのマクロブロックが、フィールドDCTモードで離散コサイン変換されている場合に用いられる。フィールドモード用縮小逆離散コサイン変換装置14は、フィールドDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、図38で示したような、低域の4×4の係数のみに逆離散コサイン変換を行う。すなわち、水平方向及び垂直方向の低域の4点の離散コサイン係数に基づき縮小逆離散コサイン変換を行う。このフィールドモード用縮小逆離散コサイン変換装置14では、以上のような縮小逆離散コサイン変換を行うことにより、1つのDCTブロックが4×4の画素から構成される標準解像度画像を復号することができる。この復号された画像データの各画素の位相は、図2に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。すなわち、復号された下位レイヤーのトップフィールドでは、先頭画素(位相が1/2の画素)の位相が上位レイヤーのトップフィールドの先頭から1番目と2番目の画素(位相が0と2の画素)の中間位相となり、先頭から2番目の画素(位相が5/2の画素)の位相が上位レイヤーのトップフィールドの先頭から3番目と4番目の画素(位相が4と6の画素)の中間位相となる。また、復号された下位レイヤーのボトムフィールドでは、先頭画素(位相が1の画素)の位相が上位レイヤーのボトムフィールドの先頭から1番目と2番目の画素(位相が1と3の画素)の中間位相となり、先頭から2番目の画素(位相が3の画素)の位相が上位レイヤーのボトムフィールドの先頭から3番目と4番目の画素(位相が5と7の画素)の中間位相となる。
【0043】
フレームモード用縮小逆離散コサイン変換装置15は、入力されたビットストリームのマクロブロックが、フレームDCTモードで離散コサイン変換されている場合に用いられる。フレームモード用縮小逆離散コサイン変換装置15は、フレームDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、縮小逆離散コサイン変換を行う。そして、フレームモード用縮小逆離散コサイン変換装置15では、1つのDCTブロックが4×4の画素から構成される解像度画像を復号するとともに、フィールドモード用縮小逆離散コサイン変換装置14で生成した標準解像度画像の画素の位相と同位相の画像を生成する。すなわち、フレームモード用縮小逆離散コサイン変換装置15で復号された画像データの各画素の位相は、図2に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。
【0044】
なお、このフレームモード用縮小逆離散コサイン変換装置15の処理については、その詳細を後述する。
【0045】
加算装置16は、フィールドモード用縮小逆離散コサイン変換装置14又はフレームモード用縮小逆離散コサイン変換装置15により縮小逆離散コサイン変換されたマクロブロックがイントラ画像の場合には、そのイントラ画像をそのままフレームメモリ17に格納する。また、加算装置16は、フィールドモード用縮小逆離散コサイン変換装置14又はフレームモード用縮小逆離散コサイン変換装置15により縮小逆離散コサイン変換されたマクロブロックがインター画像である場合には、そのインター画像に、フィールドモード用動き補償装置18或いはフレームモード用動き補償装置19により動き補償がされた参照画像を合成して、フレームメモリ17に格納する。
【0046】
フィールドモード用動き補償装置18は、マクロブロックの動き予測モードがフィールド動き予測モードの場合に用いられる。フィールドモード用動き補償装置18は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、トップフィールドとボトムフィールドとの間の位相ずれ成分を考慮した形で1/4画素精度で補間処理を行い、フィールド動き予測モードに対応した動き補償をする。このフィールドモード用動き補償装置18により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0047】
フレームモード用動き補償装置19は、マクロブロックの動き予測モードがフレーム動き予測モードの場合に用いられる。フレームモード用動き補償装置19は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、トップフィールドとボトムフィールドとの間の位相ずれ成分を考慮した形で1/4画素精度で補間処理を行い、フレーム動き予測モードに対応した動き補償をする。このフレームモード用動き補償装置19により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0048】
画枠変換・位相ずれ補正装置20は、フレームメモリ17が記憶した標準解像度の参照画像或いは加算装置16が合成した画像が供給され、この画像をポストフィルタリングにより、トップフィールドとボトムフィールドとの間の位相ずれ成分を補正するとともに画枠を標準解像度のテレビジョンの規格に合致するように変換する。すなわち、画枠変換・位相ずれ補正装置20は、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となる標準解像度画像を、例えば、トップフィールドの各画素の垂直方向の位相が0、2、4・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3、5・・・となるように補正する。また、画枠変換・位相ずれ補正装置20は、高解像度のテレビジョン規格の画枠を、1/4に縮小して標準解像度のテレビジョン規格の画枠に変換する。
【0049】
本発明の第1の実施の形態の画像復号装置10では、以上のような構成を有することにより、高解像度画像をMPEG2で画像圧縮したビットストリームを、復号するとともに解像度を1/2に縮小して、標準解像度画像を出力することができる。
【0050】
つぎに、上記フレームモード用縮小逆離散コサイン変換装置15の処理内容について、さらに詳細に説明する。
【0051】
なお、このフレームモード用縮小逆離散コサイン変換装置15では、以下に説明する1ブロック処理及び2ブロック処理のいずれか或いは両者の処理を行うことができる。フレームモード用縮小逆離散コサイン変換装置15は、必要に応じて、1ブロック処理又は2ブロック処理を切り換えて用いても良いし、或いは、いずれか一方の処理のみを行っても良い。
【0052】
まず、1ブロック処理について説明する。図3に、1ブロック処理の内容を説明するための図を示す。
【0053】
フレームモード用縮小逆離散コサイン変換装置15には、図3に示すように、高解像度画像を圧縮符号化したビットストリームが、1つのDCTブロック単位で入力される。
【0054】
まず、ステップS1において、この1つのDCTブロックの離散コサイン係数y(DCTブロックの全ての離散コサイン係数のうち垂直方向の係数をy1〜y8として図中に示す。)に対して、8×8の逆離散コサイン変換(IDCT8×8)を行う。逆離散コサイン変換をすることにより、8×8の復号された画素データx(DCTブロックの全ての画素データのうち垂直方向の画素データをx1〜x8として図中に示す。)を得ることができる。
【0055】
続いて、ステップS2において、この8×8の画素データxを、垂直方向に1ライン毎交互に取り出して、飛び越し走査に対応した4×4のトップフィールドの画素ブロックと、飛び越し走査に対応した4×4のボトムフィールドの画素ブロックの2つの画素ブロックに分離する。すなわち、垂直方向に1ライン目の画素データx1と、3ライン目の画素データx3と、5ライン目の画素データx5と、7ライン目の画素データx7とを取り出して、トップフィールドに対応した画素ブロックを生成する。また、垂直方向に2ライン目の画素データx2と、4ライン目の画素データx4と、6ライン目の画素データx6と、8ライン目の画素データx8とを取り出して、ボトムフィールドに対応した画素ブロックを生成する。なお、DCTブロックの各画素を飛び越し走査に対応した2つの画素ブロックに分離する処理を、以下フィールド分離という。
【0056】
続いて、ステップS3において、フィールド分離した2つの画素ブロックそれぞれに対して4×4の離散コサイン変換(DCT4×4)をする。
【0057】
続いて、ステップS4において、4×4の離散コサイン変換をして得られたトップフィールドに対応する画素ブロックの離散コサイン係数z(トップフィールドに対応する画素ブロックの全ての係数のうち垂直方向の離散コサイン係数をz1,z3,z5,z7として図中に示す。)の高域成分を間引き、2×2の離散コサイン係数から構成される画素ブロックとする。また、4×4の離散コサイン変換をして得られたボトムフィールドに対応する画素ブロックの離散コサイン係数z(ボトムフィールドに対応する画素ブロックの全ての係数のうち垂直方向の離散コサイン係数をz2,z4,z6,z8として図中に示す。)の高域成分を間引き、2×2の離散コサイン係数から構成される画素ブロックとする。
【0058】
続いて、ステップS5において、高域成分の離散コサイン係数を間引いた画素ブロックに対して、2×2の逆離散コサイン変換(IDCT2×2)を行う。2×2の逆離散コサイン変換をすることにより、2×2の復号された画素データx′(トップフィールドの画素ブロックの全ての画素データのうち垂直方向の画素データをx′1,x′3として図中に示し、また、ボトムフィールドに対応する画素ブロックの全ての画素データのうち垂直方向の画素データをx′2,x′4として図中に示す。)を得ることができる。
【0059】
続いて、ステップS6において、トップフィールドに対応する画素ブロックの画素データと、ボトムフィールドに対応する画素ブロックの画素データとを、垂直方向に1ラインずつ交互に合成して、4×4の画素データから構成される縮小逆離散コサイン変換をしたDCTブロックを生成する。なお、トップフィールドとボトムフィールドに対応した2つの画素ブロックの各画素を垂直方向に交互に合成する処理を、以下フレーム合成という。
【0060】
以上のステップS1〜ステップS6で示した1ブロック処理を行うことにより、フレームモード用縮小逆離散コサイン変換装15では、図2で示したような、フィールドモード用縮小逆離散コサイン変換装置14で生成した標準解像度画像の画素の位相と同位相の画素から構成される4×4のDCTブロックを生成することができる。
【0061】
また、フレームモード用縮小逆離散コサイン変換装置15では、以上のステップS1からステップS6までの1ブロック処理を1つの行列を用いて演算する。具体的には、フレームモード用縮小逆離散コサイン変換装置15では、以上の処理を加法定理を用いて展開計算することにより得られる以下の式1に示す行列[FS′]と、1つのDCTブロックの離散コサイン係数y(y1〜y8)とを行列演算することにより、縮小逆離散コサイン変換したDCTブロックの画素データx′(x′1〜x′4)を得ることができる。
【0062】
【数1】
Figure 0004026238
【0063】
但し、この式(1)において、A〜Jは以下の通りである。
【0064】
【数2】
Figure 0004026238
【0065】
つぎに、2ブロック処理について説明する。図4に、2ブロック処理の内容を説明するための図を示す。
【0066】
フレームモード用縮小逆離散コサイン変換装置15には、図4に示すように、高解像度画像を圧縮符号化したビットストリームが、2つのDCTブロック単位で入力される。例えば、マクロブロックが4つの輝度成分のDCTブロックと2つの色差成分のDCTブロックとから構成されるいわゆる420フォーマットからなる場合には、垂直方向に隣接した2つの輝度成分(Y)のDCTブロックが入力される。マクロブロックが図5に示すように構成されている場合には、輝度成分(Y)のDCTブロック0とDCTブロック2とが対となって入力され、また、DCTブロック1とDCTブロック3とが対となって入力される。
【0067】
まず、ステップS11において、2つのDCTブロックの離散コサイン係数y(時間的に前のDCTブロックの全ての離散コサイン係数のうち垂直方向の係数をy1〜y8として図中に示し、時間的に後のDCTブロックの全ての離散コサイン係数のうち垂直方向の係数をy9〜y16として図中に示す。)に対して、それぞれ独立に8×8の逆離散コサイン変換(IDCT8×8)を行う。逆離散コサイン変換をすることにより、8×8の復号された画素データx(時間的に前のDCTブロックの全ての画素データのうち垂直方向の画素データをx1〜x8として図中に示し、時間的に後のDCTブロックの全ての画素データのうち垂直方向の画素データをx9〜x16として図中に示す。)を得ることができる。
【0068】
続いて、ステップS12において、2つのDCTブロックの8×8の画素データxを、垂直方向に1ライン毎交互に取り出して、飛び越し走査に対応したトップフィールドの8×8の画素ブロックと、飛び越し走査に対応したボトムフィールドの8×8の画素ブロックの2つの画素ブロックにフィールド分離する。すなわち、時間的に前のDCTブロックから、垂直方向に1ライン目の画素データx1と、3ライン目の画素データx3と、5ライン目の画素データx5と、7ライン目の画素データx7とを取り出し、時間的に後のDCTブロックから、垂直方向に1ライン目の画素データx9と、3ライン目の画素データx11と、5ライン目の画素データx13と、7ライン目の画素データx15とを取り出して、トップフィールドに対応した8×8の画素ブロックを生成する。また、時間的に前のDCTブロックから、垂直方向に2ライン目の画素データx2と、4ライン目の画素データx4と、6ライン目の画素データx6と、8ライン目の画素データx8とを取り出し、時間的に後のDCTブロックから、垂直方向に2ライン目の画素データx10と、4ライン目の画素データx12と、6ライン目の画素データx14と、8ライン目の画素データx16とを取り出して、ボトムフィールドに対応した画素ブロックを生成する。
【0069】
続いて、ステップS13において、フィールド分離した2つの8×8の画素ブロックそれぞれに対して8×8の離散コサイン変換(DCT8×8)をする。
【0070】
続いて、ステップS14において、8×8の離散コサイン変換をして得られたトップフィールドに対応する画素ブロックの離散コサイン係数z(トップフィールドに対応する画素ブロックの全ての係数のうち垂直方向の離散コサイン係数をz1,z3,z5,z7,z9,z11,z13,z15として図中に示す。)の高域成分を間引いて、4×4の離散コサイン係数から構成される画素ブロックとする。また、8×8の離散コサイン変換をして得られたボトムフィールドに対応する画素ブロックの離散コサイン係数z(ボトムフィールドに対応する画素ブロックの全ての係数のうち垂直方向の離散コサイン係数をz2,z4,z6,z8,z10,z12,z14,z16として図中に示す。)の高域成分を間引き、4×4の離散コサイン係数から構成される画素ブロックとする。
【0071】
続いて、ステップS15において、高域成分の離散コサイン係数を間引いた4×4の画素ブロックそれぞれに対して、4×4の逆離散コサイン変換(IDCT4×4)を行う。4×4の逆離散コサイン変換をすることにより、4×4の復号された画素データx′(トップフィールドに対応する画素ブロックの全ての画素データのうち垂直方向の画素データをx′1,x′3,x′5,x′7として図中に示し、また、ボトムフィールドに対応する画素ブロックの全ての画素データのうち垂直方向の画素データをx′2,x′4,x′6,x′8として図中に示す。)を得ることができる。
【0072】
続いて、ステップS16において、トップフィールドに対応する画素ブロックの画素データと、ボトムフィールドに対応する画素ブロックの画素データとを、垂直方向に1ラインずつ交互にフレーム合成して、8×8の画素データから構成される縮小逆離散コサイン変換をしたDCTブロックを生成する。
【0073】
以上のステップS11〜ステップS16で示した2ブロック処理を行うことにより、フレームモード用縮小逆離散コサイン変換装15では、図2で示したような、フィールドモード用縮小逆離散コサイン変換装置14で生成した標準解像度画像の画素の位相と同位相の画素から構成されるDCTブロックを生成することができる。
【0074】
また、フレームモード用縮小逆離散コサイン変換装置15では、以上のステップS11〜ステップS16までの2ブロック処理を1つの行列を用いて演算する。具体的には、フレームモード用縮小逆離散コサイン変換装置15では、以上の処理を加法定理を用いて展開計算することにより得られる以下の式(2)に示す行列[FS′′]と、2つのDCTブロックの離散コサイン係数y(y1〜y16)とを行列演算して、縮小逆離散コサイン変換したDCTブロックの画素データx′(x′1〜x′8)を得ることができる。
【0075】
【数3】
Figure 0004026238
【0076】
但し、この式(2)において、A〜Dは、以下の通りである。
【0077】
【数4】
Figure 0004026238
【0078】
【数5】
Figure 0004026238
【0079】
【数6】
Figure 0004026238
【0080】
【数7】
Figure 0004026238
【0081】
また、この式(2)において、a〜gは、以下の通りである。
【0082】
【数8】
Figure 0004026238
【0083】
なお、上記フレームモード用縮小逆離散コサイン変換装置15では、図5で示したいわゆる420フォーマットのマクロブロックが入力された場合には、輝度成分に対しては上記ステップS11〜ステップS16に示した2ブロック処理を行って縮小逆離散コサイン変換を行い、色差成分に対しては、上記ステップS1〜ステップS6に示した1ブロック処理を行って縮小逆離散コサイン変換を行っても良い。
【0084】
以上のように本発明の第1の実施の形態の画像復号装置10では、フィールドDCTモードでは、トップフィールドとボトムフィールドとのそれぞれに4×4の縮小逆離散コサイン変換を行い標準解像度画像を復号し、フレームDCTモードでは、フレーム分離をして縮小逆離散コサイン変換を行い標準解像度画像を復号する。この画像復号装置10では、このようにフィールドDCTモードとフレームDCTモードとで異なる処理を行うため、飛び越し走査画像が有するインタレース性を損なうことなく、かつ、フィールドDCTモードとフレームDCTモードとで復号した画像の位相を同一とすることができ、出力する画像の画質を劣化させない。
【0085】
なお、上記画像復号装置10では、フィールドモード用縮小逆離散コサイン変換装置14の4×4の縮小逆離散コサイン変換処理、及び、フレームモード用縮小逆離散コサイン変換装置15の上記ステップS1〜ステップS6による1ブロック処理による縮小逆離散コサイン変換処理を、高速アルゴリズムを用いて処理してもよい。
【0086】
例えば、Wangのアルゴリズム(参考文献:Zhong DE Wang.,"Fast Algorithms for the Discrete W Transform and for the Discrete Fourier Transform",IEEE Tr.ASSP-32,NO.4,pp.803-816, Aug.1984)を用いることにより、処理を高速化することができる。
【0087】
フィールドモード用縮小逆離散コサイン変換装置14が演算をする行列を、Wangのアルゴリズムを用いて分解すると、以下の式(3)に示すように分解される。
【0088】
【数9】
Figure 0004026238
【0089】
また、図6にフィールドモード用縮小逆離散コサイン変換装置14の処理にWangのアルゴリズムを適用した場合の処理フローを示す。この処理フローに示すように、第1から第5の乗算器14a〜14e及び第1から第9の加算器14f〜14nを用いて、高速化を実現することができる。
【0090】
フレームモード用縮小逆離散コサイン変換装置15が演算をする行列[FS′]を、Wangのアルゴリズムを用いて分解すると、以下の式(4)に示すように分解される。
【0091】
【数10】
Figure 0004026238
【0092】
但し、この式(4)において、A〜Jは、以下の通りである。
【0093】
【数11】
Figure 0004026238
【0094】
また、図7にフレームモード用縮小逆離散コサイン変換装置15の処理にWangのアルゴリズムを適用した場合の処理フローを示す。この処理フローに示すように、第1から第10の乗算器15a〜15j及び第1から第13の加算器15k〜15wを用いて、高速化を実現することができる。
【0095】
(第2の実施の形態)
つぎに、本発明の第2の実施の形態の画像復号装置について説明する。なお、この第2の実施の形態の画像復号装置の説明にあたり、上記第1の画像復号装置10と同一の構成要素については図面中に同一の符号を付け、その詳細な説明を省略する。また、第3の実施の形態以後もそれ以前の実施の形態と同一の構成要素については図面中に同一の符号を付け、その詳細な説明を省略する。
【0096】
図8に示すように、本発明の第2の実施の形態の画像復号装置30は、垂直方向の有効ライン数が例えば1152本の高解像度画像をMPEG2で画像圧縮したビットストリームが入力され、この入力されたビットストリームを復号するとともに1/2の解像度に縮小して、垂直方向の有効ライン数が例えば576本の標準解像度画像を出力する装置である。
【0097】
この画像復号装置30は、圧縮された高解像度画像のビットストリームが供給され、このビットストリームを解析するビットストリーム解析装置11と、データの発生頻度に応じた符号長を割り当てる可変長符号化がされた上記ビットストリームを復号する可変長符号復号装置12と、DCTブロックの各係数に量子化ステップを掛ける逆量子化装置13と、フィールドDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフィールドモード用位相補正縮小逆離散コサイン変換装置31と、フレームDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフレームモード用位相補正縮小逆離散コサイン変換装置32と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置16と、参照画像を一時記憶するフレームメモリ17と、フレームメモリ17が記憶した参照画像にフィールド動き予測モードに対応した動き補償をするフィールドモード用動き補償装置18と、フレームメモリ17が記憶した参照画像にフレーム動き予測モードに対応した動き補償をするフレームモード用動き補償装置19と、フレームメモリ17に記憶した画像に対して、画枠変換をしてモニタ等に表示するための標準解像度の画像データを出力する画枠変換装置33とを備えている。
【0098】
フィールドモード用位相補正縮小逆離散コサイン変換装置31は、入力されたビットストリームのマクロブロックが、フィールドDCTモードで離散コサイン変換されている場合に用いられる。フィールドモード用位相補正縮小逆離散コサイン変換装置31は、フィールドDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックの全ての係数のうち4×8の係数のみに対して、トップフィールドとボトムフィールドの垂直方向の画素の位相ずれを補正した逆離散コサイン変換を行う。すなわち、水平方向に対して低域の4点の離散コサイン係数に基づき逆離散コサイン変換を行い、垂直方向に対して8点の離散コサイン係数に基づき位相ずれを補正した逆離散コサイン変換を行う。具体的には、トップフィールドの垂直方向の各画素に対しては、1/4画素分の位相補正を行い、ボトムフィールドの垂直方向の各画素に対しては、3/4画素分の位相補正を行う。そして、以上のような縮小逆離散コサイン変換を行うことにより、図9に示すような、トップフィールドの各画素の垂直方向の位相が1/4、9/4・・・となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4・・・となる標準解像度画像(下位レイヤー)を生成する。
【0099】
フレームモード用位相補正縮小逆離散コサイン変換装置32は、入力されたビットストリームのマクロブロックが、フレームDCTモードで離散コサイン変換されている場合に用いられる。フレームモード用位相補正縮小逆離散コサイン変換装置32は、フレームDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、詳細を後述する1ブロック処理或いは2ブロック処理により、トップフィールドとボトムフィールドの垂直方向の画素の位相ずれを補正した縮小逆離散コサイン変換を行う。そして、フィールドモード用位相補正縮小逆離散コサイン変換装置31で生成した標準解像度画像の画素の位相と同位相の画像を生成する。すなわち、1ブロック処理或いは2ブロック処理で縮小逆離散コサイン変換を行うことにより、図9に示すような、トップフィールドの各画素の垂直方向の位相が1/4、9/4・・・となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4・・・となる標準解像度画像(下位レイヤー)を生成する。
【0100】
フィールドモード用動き補償装置18は、マクロブロックの動き予測モードがフィールド動き予測モードの場合に用いられる。フィールドモード用動き補償装置18は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、1/4画素精度で補間処理を行い、フィールド動き予測モードに対応した動き補償をする。このフィールドモード用動き補償装置18により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0101】
フレームモード用動き補償装置19は、マクロブロックの動き予測モードがフレーム動き予測モードの場合に用いられる。フレームモード用動き補償装置19は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、1/4画素精度で補間処理を行い、フレーム動き予測モードに対応した動き補償をする。このフレームモード用動き補償装置19により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0102】
画枠変換装置33は、フレームメモリ17が記憶した標準解像度の参照画像が供給され、この参照画像をポストフィルタリングにより、画枠を標準解像度のテレビジョンの規格に合致するように変換する。すなわち、画枠変換装置33は、高解像度のテレビジョン規格の画枠を、1/4に縮小した標準解像度のテレビジョン規格の画枠に変換する。なお、この画枠変換装置33は、フレームメモリ17に格納されている画像がトップフィールドとボトムフィールドとの間に位相ずれが生じていないので、上述した第1の実施の形態の画枠変換・位相ずれ補正装置20と異なり、画素の位相ずれの補正は行わなくて良い。
【0103】
本発明の第2の実施の形態の画像復号装置30では、以上のような構成を有することにより、高解像度画像をMPEG2で画像圧縮したビットストリームを、復号するとともに1/2の解像度に縮小して、標準解像度画像を出力することができる。
【0104】
つぎに、上記フィールドモード用位相補正縮小逆離散コサイン変換装置31の処理内容について、さらに詳細に説明する。
【0105】
フィールドモード用位相補正縮小逆離散コサイン変換装置31には、図10に示すように、高解像度画像を圧縮符号化したビットストリームが、1つのDCTブロック単位で入力される。
【0106】
まず、ステップS21において、この1つのDCTブロックの離散コサイン係数y(DCTブロックの全ての離散コサイン係数のうち垂直方向の係数をy1〜y8として図中に示す。)に対して、8×8の逆離散コサイン変換(IDCT8×8)を行う。逆離散コサイン変換をすることにより、8×8の復号された画素データx(DCTブロックの全ての画素データのうち垂直方向の画素データをx1〜x8として図中に示す。)を得ることができる。
【0107】
続いて、ステップS22において、この8×8の画素データを、4×8の位相補正フィルタ行列によりDCTブロック内で閉じた変換を行い、位相補正した画素データx′(全ての画素データのうち垂直方向の画素データをx′1,x′2,x′3,x′4として図中に示す。)を得る。
【0108】
以上のステップS21〜ステップS22の処理を行うことにより、フィールドモード用位相補正縮小逆離散コサイン変換装置31では、トップフィールドとボトムフィールドとの間で、画素の位相ずれがない画像を生成することができる。
【0109】
また、フィールドモード用位相補正縮小逆離散コサイン変換装置31では、図11に示すように、以上の処理を1つの行列(4×8位相補正IDCT行列)を用いて演算してもよい。
【0110】
つぎに、上記フィールドモード用位相補正縮小逆離散コサイン変換装置31により演算が行われる4×8位相補正IDCT行列の設計手順を図12に示し、この4×8位相補正IDCT行列について説明する。この4×8位相補正IDCT行列は、プロトタイプフィルタをポリフェーズ分解して作成される。
【0111】
ここで、画像復号装置30では、図13(a)に示すような周波数特性の高解像度画像を、図13(b)に示すような信号帯域がローパスフィルタにより半分とされた周波数特性の1/2の解像度の標準解像度画像に、ダウンデコードする。そのため、プロトタイプフィルタに求められる周波数特性は、標準解像度画像の1/4位相の画素値を得ることができるように、図13(c)に示すような4倍のオーバーサンプリングを行った周波数特性となる。
【0112】
まず、ステップS31において、ナイキスト周波数以下を等間隔に{(N−1)/2}分割し、その周波数サンプルからゲインリストを作成する。例えば、図14に示すように、ナイキスト周波数以下の周波数を等間隔に(57−1)/2=28分割して、29個のゲインリストを作成する。
【0113】
続いて、ステップS32において、周波数サンプリング法により、57個のインパルス応答を作成する。すなわち、29個のゲインリストを逆離散フーリエ変換して、57個のFIRフィルタのインパルス応答を作成する。この57個のインパルス応答を図15に示す。
【0114】
続いて、ステップS33において、このインパルス応答に窓関数をかけて、57タップのフィルタ係数c1〜c57を作成する。
【0115】
このステップS33で作成されたフィルタがプロトタイプフィルタとなる。
【0116】
続いて、ステップS34において、57個のフィルタ係数c1〜c57を有するプロトタイプフィルタをポリフェーズ分解して、1/4位相補正特性を有する14個のフィルタ係数c′1〜c′14のみを取り出し、ポリフェーズフィルタを作成する。
【0117】
ここで、ポリフェーズフィルタとは、図16に示すように、入力信号をN倍にオーバーサンプリングし、オーバーサンプリングして得られた信号からN画素間隔で画素を抜き出すポリフェーズ分解を行い、入力信号と1/N位相のずれをもった信号を出力するフィルタである。例えば、入力信号に対して1/4位相ずれた信号を得るためには、図17に示すように、入力信号を4倍にオーバサンプリングして、この信号から1/4位相ずれた信号を取り出せばよい。
【0118】
具体的に、57個の係数を有するプロトタイプフィルタc1〜c57から作成された14個のフィルタ係数c′1〜c′14は、例えば、以下の式(5)で示すような係数となる。
【0119】
【数12】
Figure 0004026238
【0120】
このようにポリフェーズフィルタを作成した後、トップフィールド用の4×8位相補正IDCT行列と、ボトムフィールド用の4×8位相補正IDCT行列とで、設計処理が分割する。
【0121】
まず、トップフィールド用の4×8位相補正IDCT行列を作成する場合には、ステップS35において、フィルタ係数が1/4位相補正特性となるように、ポリフェーズ分解された14個のフィルタ係数c′1〜c′14から、群遅延が1/4、9/4、17/4、25/4位相となる8個の係数を取り出し、4×8位相補正フィルタ行列を作成する。このように作成された4×8位相補正フィルタを、図18に示す。
【0122】
例えば、上記式(5)の14個のフィルタ係数c′1〜c′14から、以下の式(6)で示すような係数が取り出される。
【0123】
【数13】
Figure 0004026238
【0124】
式(6)の係数から4×8位相補正フィルタ行列を求めると、以下の式(7)で示すような行列となる。
【0125】
【数14】
Figure 0004026238
【0126】
この式(7)で示した4×8位相補正フィルタ行列を正規化すると、以下の式(8)に示すような行列となる。
【0127】
【数15】
Figure 0004026238
【0128】
そして、ステップS36において、8×8のIDCT行列と、この4×8位相補正フィルタ行列とを掛け合わせ、トップフィールド用の4×8位相補正IDCT行列を作成する。
【0129】
8×8のIDCT行列と上記式(8)で示す4×8の位相補正フィルタとを掛け合わせた4×8位相補正IDCT行列は、以下の式(9)に示すような行列となる。
【0130】
【数16】
Figure 0004026238
【0131】
一方、ボトムフィールド用の4×8位相補正IDCT行列を作成する場合には、ステップS37において、フィルタ係数が3/4位相補正特性となるように、ポリフェイズ分解された14個のフィルタ係数c′1〜c′14を、左右反転させる。
【0132】
続いて、ステップS38において、左右反転させた14個のフィルタ係数c′1〜c′14から、群遅延が3/4、11/4、19/4、27/4位相となる8個の係数を取り出し、4×8位相補正フィルタ行列を作成する。
【0133】
そして、ステップS39において、8×8のIDCT行列と、この4×8位相補正フィルタ行列とを掛け合わせ、ボトムフィールド用の4×8位相補正IDCT行列を作成する。
【0134】
このようにステップS31〜ステップS39の各処理を行うことによって、フィールドモード用位相補正縮小逆離散コサイン変換装置31が演算を行う4×8位相補正IDCT行列を作成することができる。
【0135】
以上のように、フィールドモード用位相補正縮小逆離散コサイン変換装置31では、この4×8位相補正IDCT行列と、入力されたフィールドDCTモードで離散コサイン変換がされたDCTブロックの係数とを行列演算することにより、トップフィールドとボトムフィールドとの間の位相ずれがない、標準解像度の画像を復号することができる。すなわち、このフィールドモード用位相補正縮小逆離散コサイン変換装置31では、図9に示すような、トップフィールドの各画素の垂直方向の位相が1/4、9/4・・・となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4・・・となる標準解像度画像(下位レイヤー)を生成することができる。
【0136】
つぎに、上記フレームモード用位相補正縮小逆離散コサイン変換装置32の処理内容について、さらに詳細に説明する。
【0137】
なお、フレームモード用位相補正縮小逆離散コサイン変換装置32では、以下に説明する1ブロック処理及び2ブロック処理のいずれか或いは両者の処理を行うことができる。必要に応じて、1ブロック処理又は2ブロック処理を切り換えて用いても良いし、或いは、いずれか一方の処理のみを行っても良い。
【0138】
まず、1ブロック処理について説明する。図19に、1ブロック処理の内容を説明するための図を示す。
【0139】
フレームモード用位相補正縮小逆離散コサイン変換装置32には、図19に示すように、高解像度画像を圧縮符号化したビットストリームが、1つのDCTブロック単位で入力される。
【0140】
まず、ステップS41において、この1つのDCTブロックの離散コサイン係数yに対して、8×8の逆離散コサイン変換を行う。続いて、ステップS42において、この8×8の画素データをフィールド分離する。続いて、ステップS43において、フィールド分離した2つの画素ブロックそれぞれに対して4×4の離散コサイン変換をする。続いて、ステップS44において、各画素ブロックの離散コサイン係数zの高域成分を間引き、2×2の離散コサイン係数から構成される画素ブロックとする。以上のステップS41からステップS44までの処理は、図3に示す1ブロック処理におけるステップS1からステップS4までの処理と同一である。
【0141】
続いて、ステップS45において、トップフィールドに対応する画素ブロックに対しては、1/4画素分の位相補正をする2×4位相補正IDCT行列を用いて、垂直方向の画素の位相ずれを補正した逆離散コサイン変換を行う。また、ボトムフィールドに対応する画素ブロックに対しては、3/4画素分の位相補正をする2×4位相補正IDCT行列を用いて、垂直方向の画素の位相ずれを補正した逆離散コサイン変換を行う。以上のような縮小逆離散コサイン変換を行うことにより、2×2の画素データx′(トップフィールドに対応する画素ブロックの全ての画素データのうち垂直方向の画素データをx′1,x′3として図中に示し、また、ボトムフィールドに対応する画素ブロックの全ての画素データのうち垂直方向の画素データをx′2,x′4として図中に示す。)を得ることができる。この画素データx′は、トップフィールドの各画素の垂直方向の位相が1/4、9/4となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4となる標準解像度画像(下位レイヤー)を生成する。なお、この2×4位相補正IDCT行列の設計方法については詳細を後述する。
【0142】
続いて、ステップS46において、トップフィールドに対応する画素ブロックの画素データとボトムフィールドの画像ブロックの画素データとをフレーム合成する。このステップS46の処理は、図3に示す1ブロック処理におけるステップS6の処理と同一である。
【0143】
以上のステップS41〜ステップS46の処理を行うことにより、フレームモード用位相補正縮小逆離散コサイン変換装置32では、画素間の位相ずれがない画像を生成することができる。また、上記フィールドモード用位相補正縮小逆離散コサイン変換装置31で復号した画像と位相ずれが生じない画像を生成することができる。
【0144】
また、フレームモード用位相補正縮小逆離散コサイン変換装置32では、以上のステップS41からステップS46までの処理を1つの行列を用いて演算してもよい。
【0145】
つぎに、フレームモード用位相補正縮小逆離散コサイン変換装置32のステップS45で演算が行われる2×4位相補正IDCT行列の設計手順を図20に示し、この2×8位相補正IDCT行列について説明する。
【0146】
まず、ステップS51において、ナイキスト周波数以下を等間隔に{(N−1)/2}分割し、その周波数サンプルからゲインリストを作成する。例えば、図21に示すように、ナイキスト周波数以下の周波数を等間隔に(25−1)/2=12分割して、13個のゲインリストを作成する。
【0147】
続いて、ステップS52において、周波数サンプリング法により、25個のインパルス応答を作成する。すなわち、13個のゲインリストを逆離散フーリエ変換して、25個のFIRフィルタのインパルス応答を作成する。この25個のインパルス応答を図22に示す。
【0148】
続いて、ステップS53において、このインパルス応答に窓関数をかけて、25タップのフィルタ係数c1〜c25を作成する。
【0149】
このステップS53で作成されたフィルタがプロトタイプフィルタとなる。
【0150】
続いて、ステップS54において、25個のフィルタ係数c1〜c25を有するプロトタイプフィルタをポリフェーズ分解して、1/4位相補正特性を有する6個のフィルタ係数c′1〜c′6のみを取り出し、ポリフェーズフィルタを作成する。
【0151】
具体的に、57個の係数を有するプロトタイプフィルタc1〜c25から作成された14個のフィルタ係数c′1〜c′6は、例えば、以下の式(10)で示すような係数となる。
【0152】
【数17】
Figure 0004026238
【0153】
このようにポリフェーズフィルタを作成した後、トップフィールド用の2×4位相補正IDCT行列と、ボトムフィールド用の2×4位相補正IDCT行列とで、設計処理が分割する。
【0154】
まず、トップフィールド用の2×4位相補正IDCT行列を作成する場合には、ステップS55において、ポリフェーズ分解された6個のフィルタ係数c′1〜c′6から、群遅延が1/4、9/4位相となるように、それぞれ2個の係数を取り出し、2×4位相補正フィルタ行列を作成する。このように作成された2×4位相補正フィルタを、図23に示す。
【0155】
例えば、上記式(10)の6個のフィルタ係数c′1〜c′6から、以下の式(11)で示すような係数が取り出される。
【0156】
【数18】
Figure 0004026238
【0157】
式(11)の係数から2×4位相補正フィルタ行列を求めると、以下の式(12)で示すような行列となる。
【0158】
【数19】
Figure 0004026238
【0159】
この式(12)で示した2×4位相補正フィルタ行列を正規化すると、以下の式(13)に示すような行列となる。
【0160】
【数20】
Figure 0004026238
【0161】
そして、ステップS56において、4×4のIDCT行列と、この2×4位相補正フィルタ行列とを掛け合わせ、トップフィールド用の2×4位相補正IDCT行列を作成する。
【0162】
2×4のIDCT行列と上記式(13)で示す2×4の位相補正フィルタとを掛け合わせた2×4位相補正IDCT行列は、以下の式(14)に示すような行列となる。
【0163】
【数21】
Figure 0004026238
【0164】
一方、ボトムフィールド用の2×4位相補正IDCT行列を作成する場合には、ステップS57において、フィルタ係数が3/4位相補正特性となるように、ポリフェイズ分解された6個のフィルタ係数c′1〜c′6を、左右反転させる。
【0165】
続いて、ステップS58において、左右反転させた6個のフィルタ係数c′1〜c′6から、群遅延が3/4、11/4位相となるように、それぞれ2個の係数を取り出し、2×4位相補正フィルタ行列を作成する。
【0166】
そして、ステップS59において、4×4のIDCT行列と、この2×4位相補正フィルタ行列とを掛け合わせ、ボトムフィールド用の2×4位相補正IDCT行列を作成する。
【0167】
以上のようにステップS51〜ステップS59の各処理を行うことによって、フレームモード用位相補正縮小逆離散コサイン変換装置32が上記ステップS45で演算を行う2×4位相補正IDCT行列を作成することができる。
【0168】
つぎに、2ブロック処理について説明する。図24に、2ブロック処理の内容を説明するための図を示す。
【0169】
フレームモード用位相補正縮小逆離散コサイン変換装置32には、図24に示すように、高解像度画像を圧縮符号化したビットストリームが、2つのDCTブロック単位で入力される。例えば、マクロブロックが4つの輝度成分のDCTブロックと2つの色差成分のDCTブロックとから構成される場合には、垂直方向に隣接した2つのDCTブロックが入力される。例えば、マクロブロックが上述した図5に示すように構成されている場合には、輝度成分(Y)のDCTブロック0とDCTブロック2とが対となって入力され、また、DCTブロック1とDCTブロック3とが対となって入力される。
【0170】
まず、ステップS61において、2つのDCTブロックの離散コサイン係数yに対して、それぞれ独立に8×8の逆離散コサイン変換を行う。逆離散コサイン変換をすることにより、8×8の復号された画素データxを得ることができる。続いて、ステップS62において、2つの8×8の画素データをフィールド分離する。続いて、ステップS63において、フィールド分離した2つの8×8の画素ブロックそれぞれに対して8×8の離散コサイン変換をする。続いて、ステップS64において、8×8の離散コサイン変換をして得られたトップフィールドに対応する画素ブロックの離散コサイン係数zの高域成分を間引いて、4×4の離散コサイン係数から構成される画素ブロックとする。また、8×8の離散コサイン変換をして得られたボトムフィールドに対応する画素ブロックの離散コサイン係数zの高域成分を間引き、4×4の離散コサイン係数から構成される画素ブロックとする。
【0171】
以上のステップS61からステップS64までの処理は、図4に示す2ブロック処理におけるステップS11からステップS14までの処理と同一である。
【0172】
続いて、ステップS65において、トップフィールドの画素ブロックに対しては、1/4画素分の位相補正をする4×8位相補正IDCT行列を用いて、垂直方向の画素の位相ずれを補正した逆離散コサイン変換を行う。また、ボトムフィールドの画素ブロックに対しては、3/4画素分の位相補正をする4×8位相補正IDCT行列を用いて、垂直方向の画素の位相ずれを補正した逆離散コサイン変換を行う。以上のような縮小逆離散コサイン変換を行うことにより、4×4の画素データx′(トップフィールドに対応する画素ブロックの全ての画素データのうち垂直方向の画素データをx′1,x′3,x′5,x′7として図中に示し、また、ボトムフィールドに対応する画素ブロックの全ての画素データのうち垂直方向の画素データをx′2,x′4,x′6,x′8として図中に示す。)を得ることができる。この画素データx′は、トップフィールドの各画素の垂直方向の位相が1/4、9/4・・・となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4・・・となる標準解像度画像(下位レイヤー)を生成する。なお、この4×8位相補正IDCT行列の設計方法は、上述したフィールドモード用位相補正縮小逆離散コサイン変換装置31で演算される行列と同一である。
【0173】
続いて、ステップS66において、トップフィールドに対応する画素ブロックの画素データと、ボトムフィールドに対応する画素ブロックの画素データとを、垂直方向に1ラインずつ交互にフレーム合成して、8×8の画素データから構成される縮小逆離散コサイン変換をしたDCTブロックを生成する。
【0174】
以上のステップS61〜ステップS66の2ブロック処理を行うことにより、フレームモード用位相補正縮小逆離散コサイン変換装置32では、画素間の位相ずれがない画像を生成することができる。また、上記フィールドモード用位相補正縮小逆離散コサイン変換装置31で復号した画像と位相ずれが生じない画像を生成することができる。
【0175】
また、フレームモード用位相補正縮小逆離散コサイン変換装置32では、以上のステップS61からステップS66までの処理を1つの行列を用いて演算してもよい。
【0176】
以上のように本発明の第2の実施の形態の画像復号装置30では、フィールドDCTモードでは、トップフィールドとボトムフィールドとのそれぞれに4×4の縮小逆離散コサイン変換を行うとともに位相補正をして標準解像度画像を復号し、フレームDCTモードでは、フレーム分離をして縮小逆離散コサイン変換を行うとともに位相補正をして標準解像度画像を復号する。この画像復号装置30では、このようにフィールドDCTモードとフレームDCTモードとでそれぞれで処理を行うため飛び越し走査画像が有するインタレース性を損なうことなく、かつ、縮小逆離散コサイン変換を行うときに生じるトップフィールドとボトムフィールドとの間の位相ずれをなくし、出力する画像の画質を劣化させない。即ち、この画像復号装置30では、フレームメモリ17に格納された復号画像を出力する際に、位相補正をする必要が無く、処理が簡易化するとともに画質の劣化を生じさせない。
【0177】
(第3の実施の形態)
つぎに、本発明の第3の実施の形態の画像復号装置について説明する。
【0178】
図25に示すように、本発明の第3の実施の形態の画像復号装置40は、垂直方向の有効ライン数が例えば1152本の高解像度画像をMPEG2で画像圧縮したビットストリームが入力され、この入力されたビットストリームを復号するとともに1/2の解像度に縮小して、垂直方向の有効ライン数が例えば576本の標準解像度画像を出力する装置である。
【0179】
この画像復号装置40は、圧縮された高解像度画像のビットストリームが供給され、このビットストリームを解析するビットストリーム解析装置11と、データの発生頻度に応じた符号長を割り当てる可変長符号化がされた上記ビットストリームを復号する可変長符号復号装置12と、DCTブロックの各係数に量子化ステップを掛ける逆量子化装置13と、フィールドDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフィールドモード用縮小逆離散コサイン変換装置14と、フレームDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフレームモード用縮小逆離散コサイン変換装置15と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置16と、参照画像を一時記憶するフレームメモリ17と、フレームメモリ17が記憶した参照画像にフィールド動き予測モードに対応した動き補償をするフィールドモード用動き補償装置41と、フレームメモリ17が記憶した参照画像にフレーム動き予測モードに対応した動き補償をするフレームモード用動き補償装置42と、フレームメモリ17に記憶した画像に対してポストフィルタリングをすることにより、画枠変換をするとともに画素の位相ずれを補正してテレビジョンモニタ等に表示するための標準解像度の画像データを出力する画枠変換・位相ずれ補正装置20とを備えている。
【0180】
フィールドモード用縮小逆離散コサイン変換装置14は、入力されたビットストリームのマクロブロックが、フィールドDCTモードで離散コサイン変換されている場合に用いられる。フィールドモード用縮小逆離散コサイン変換装置14は、フィールドDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、図38で示したような、低域の4×4の係数のみに逆離散コサイン変換を行う。すなわち、水平方向及び垂直方向の低域の4点の離散コサイン係数に基づき縮小逆離散コサイン変換を行う。このフィールドモード用縮小逆離散コサイン変換装置14では、以上のような縮小逆離散コサイン変換を行うことにより、1つのDCTブロックが4×4の画素から構成される標準解像度画像を復号することができる。この復号された画像データの各画素の位相は、図2に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。
【0181】
フレームモード用縮小逆離散コサイン変換装置15は、入力されたビットストリームのマクロブロックが、フレームDCTモードで離散コサイン変換されている場合に用いられる。フレームモード用縮小逆離散コサイン変換装置15は、フレームDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、縮小逆離散コサイン変換を行う。そして、フレームモード用縮小逆離散コサイン変換装置15では、1つのDCTブロックが4×4の画素から構成される解像度画像を復号するとともに、フィールドモード用縮小逆離散コサイン変換装置14で生成した標準解像度画像の画素の位相と同位相の画像を生成する。すなわち、フレームモード用縮小逆離散コサイン変換装置15で復号された画像データの各画素の位相は、図2に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。
【0182】
フィールドモード用動き補償装置41は、マクロブロックの動き予測モードがフィールド動き予測モードの場合に用いられる。フィールドモード用動き補償装置41は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、トップフィールドとボトムフィールドとの間の位相ずれ成分を考慮した形で1/4画素精度で補間処理を行い、フィールド動き予測モードに対応した動き補償をする。このフィールドモード用動き補償装置41により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0183】
フレームモード用動き補償装置42は、マクロブロックの動き予測モードがフレーム動き予測モードの場合に用いられる。フレームモード用動き補償装置42は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、トップフィールドとボトムフィールドとの間の位相ずれ成分を考慮した形で1/4画素精度で補間処理を行い、フレーム動き予測モードに対応した動き補償をする。このフレームモード用動き補償装置42により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0184】
本発明の第3の実施の形態の画像復号装置40では、以上のような構成を有することにより、高解像度画像をMPEG2で画像圧縮したビットストリームを、復号するとともに解像度を1/2に縮小して、標準解像度画像を出力することができる。
【0185】
つぎに、フィールドモード用動き補償装置41及びフレームモード用動き補償装置42について、さらに詳細に説明する。
【0186】
まず、フィールドモード用動き補償装置41が行う補間処理について説明する。このフィールドモード用動き補償装置41では、以下に説明するように、高解像度画像の1/2画素精度の動き補償に対応するように、フレームメモリ17に記憶されている標準解像度画像の画素を補間して、1/4画素精度の画素を生成する。
【0187】
水平方向の画素に対しては、まず、2倍補間フィルタを用いて、フレームメモリ17に記憶された整数精度の画素から1/2画素精度の画素を生成する。フィールドモード用動き補償装置41は、例えば、ハーフバンドフィルタを用いて、1/2画素精度の画素を生成する。続いて、線形補間フィルタを用いて、2倍補間フィルタを用いて生成した1/2画素精度の画素から1/4画素精度の画素を生成する。フィールドモード用動き補償装置41では、ハーフバンドフィルタのような2倍補間フィルタを用いることで、タップ数に応じた積和演算を行うことなく、フレームメモリ17に記憶した標準解像度画像の画素と同位相の画素を高解像度画像に対応した参照画像として出力することができる。そのため、このフィールドモード用動き補償装置41では、高速な処理を行うことができる。また、このフィールドモード用動き補償装置41では、以上の処理を1つの行列を用いて演算してもよく、また、4倍補間フィルタを用いて整数精度の画素から1/4精度の画素を生成しても良い。
【0188】
垂直方向の画素に対しては、まず、図26(a)に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となるような、トップフィールドとボトムフィールドとのフィールド間で位相ずれを含む標準解像度画像の整数精度の画素を、フレームメモリ17から取り出す。
【0189】
続いて、垂直方向の画素に対しては、図26(b)に示すように、ハーフバンドフィルタのような2倍補間フィルタを用いて、フィールド内で、フレームメモリ17から取り出した整数精度の画素から1/2画素精度の画素を生成する。すなわち、トップフィールドの整数精度の画素に基づきトップフィールドの1/2画素精度の画素を生成し、ボトムフィールドの整数精度の画素に基づきボトムフィールドの1/2画素精度の画素を生成する。例えば、この図26(b)に示すように、垂直方向の位相が7/2の位置にあるトップフィールドの画素は、・・・1/2,5/2,9/2,13/2・・・の位置にあるトップフィールドの画素から2倍補間をされて生成される。また、垂直方向の位相が4の位置にあるボトムフィールドの画素は、・・・1,3,5,7・・・の位置にあるボトムフィールドの画素から2倍補間をされて生成される。
【0190】
続いて、垂直方向の画素に対しては、図26(c)に示すように、線形補間フィルタを用いて、フィールド内で、2倍補間フィルタを用いて生成した1/2画素精度の画素から1/4画素精度の画素を生成する。すなわち、トップフィールドの1/2画素精度の画素に基づきトップフィールドの1/4画素精度の画素を生成し、ボトムフィールドの1/2画素精度の画素に基づきボトムフィールドの1/4画素精度の画素を生成する。例えば、この図26(c)に示すように、垂直方向の位相が9/4の位置にあるトップフィールドの画素は、2,5/2の位置にあるトップフィールドの画素から線形補間をされて生成される。また、垂直方向の位相が10/4の位置にあるボトムフィールドの画素は、9/4,11/4の位置にあるボトムフィールドの画素から線形補間をされて生成される。
【0191】
このように垂直方向の補間を行うことによりフィールドモード用動き補償装置41では、ハーフバンドフィルタのような2倍補間フィルタを用いることで、タップ数に応じた積和演算を行うことなく、フレームメモリ17に記憶した標準解像度画像の画素と同位相の画素を高解像度画像に対応した参照画像として出力することができる。そのため、このフィールドモード用動き補償装置41では、高速な処理を行うことができる。また、このフィールドモード用動き補償装置41では、以上の処理を1つの行列を用いて演算してもよく、また、4倍補間フィルタを用いて整数精度の画素から1/4精度の画素を生成しても良い。
【0192】
つぎに、フレームモード用動き補償装置42が行う補間処理について説明する。このフレームモード用動き補償装置42では、以下に説明するように、高解像度画像の1/2画素精度の動き補償に対応するように、フレームメモリ17に記憶されている標準解像度画像の画素を補間して、1/4画素精度の画素を生成する。
【0193】
水平方向の画素に対しては、まず、2倍補間フィルタを用いて、フレームメモリ17に記憶された整数精度の画素から1/2画素精度の画素を生成する。フレームモード用動き補償装置42は、例えば、ハーフバンドフィルタを用いて、1/2画素精度の画素を生成する。続いて、線形補間フィルタを用いて、2倍補間フィルタを用いて生成した1/2画素精度の画素から1/4画素精度の画素を生成する。フレームモード用動き補償装置42では、ハーフバンドフィルタのような2倍補間フィルタを用いることで、タップ数に応じた積和演算を行うことなく、フレームメモリ17に記憶した標準解像度画像の画素と同位相の画素を高解像度画像に対応した参照画像として出力することができる。そのため、このフレームモード用動き補償装置42では、高速な処理を行うことができる。また、このフレームモード用動き補償装置42では、以上の処理を1つの行列を用いて演算してもよく、また、4倍補間フィルタを用いて整数精度の画素から1/4精度の画素を生成しても良い。
【0194】
垂直方向の画素に対しては、まず、図27(a)に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となるような、トップフィールドとボトムフィールドとのフィールド間で位相ずれを含む標準解像度画像の整数精度の画素を、フレームメモリ17から取り出す。
【0195】
続いて、垂直方向の画素に対しては、図27(b)に示すように、ハーフバンドフィルタのような2倍補間フィルタを用いて、フィールド内で、フレームメモリ17から取り出した整数精度の画素から1/2画素精度の画素を生成する。すなわち、トップフィールドの整数精度の画素に基づきトップフィールドの1/2画素精度の画素を生成し、ボトムフィールドの整数精度の画素に基づきボトムフィールドの1/2画素精度の画素を生成する。例えば、この図27(b)に示すように、垂直方向の位相が7/2の位置にあるトップフィールドの画素は、・・・1/2,5/2,9/2,13/2・・・の位置にあるトップフィールドの画素から2倍補間をされて生成される。また、垂直方向の位相が4の位置にあるボトムフィールドの画素は、・・・1,3,5,7・・・の位置にあるボトムフィールドの画素から2倍補間をされて生成される。
【0196】
続いて、垂直方向の画素に対しては、図27(c)に示すように、線形補間フィルタを用いて、トップフィールドとボトムフィールドの2つのフィールド間で、2倍補間フィルタを用いて生成した1/2画素精度の画素から1/4画素精度の画素を生成する。例えば、この図27(c)に示すように、垂直方向の位相が1/4の位置にある画素は、0の位置にあるトップフィールドの画素と、1/2の位置にあるボトムフィールドの画素から線形補間をされて生成される。また、垂直方向の位相が3/4の位置にある画素は、1/2の位置にあるボトムフィールドの画素と1の位置にあるトップフィールドの画素から線形補間をされて生成される。
【0197】
このように垂直方向の補間を行うことによりフレームモード用動き補償装置42では、ハーフバンドフィルタのような2倍補間フィルタを用いることで、タップ数に応じた積和演算を行うことなく、フレームメモリ17に記憶した標準解像度画像の画素と同位相の画素を高解像度画像に対応した参照画像として出力することができる。そのため、このフィールドモード用動き補償装置41では、高速な処理を行うことができる。また、トップフィールドとボトムフィールドとの間で位相ずれが生じず、いわゆるフィールド反転やフィールドミックスを防ぐことができ、画質の劣化を防止することができる。また、このフレームモード用動き補償装置42では、以上の処理を1つの行列を用いて演算してもよく、また、4倍補間フィルタを用いて整数精度の画素から1/4精度の画素を生成しても良い。
【0198】
以上のように本発明の第3の実施の形態の画像復号装置40では、フィールドDCTモードでは、トップフィールドとボトムフィールドとのそれぞれに4×4の縮小逆離散コサイン変換を行い標準解像度画像を復号し、フレームDCTモードでは、フレーム分離をして縮小逆離散コサイン変換を行い標準解像度画像を復号する。この画像復号装置40では、このようにフィールドDCTモードとフレームDCTモードとでそれぞれで処理を行うため飛び越し走査画像が有するインタレース性を損なうことなく、かつ、フィールドDCTモードとフレームDCTモードとで復号した画像の位相を同一とすることができ、出力する画像の画質を劣化させない。さらに、この画像復号装置40では、動き補償に起因する画質の劣化を防止する。また、この画像復号装置40では、動き補償の際に、2倍補間フィルタを用いてフレームメモリ17に記憶した画像の補間をすることで、タップ数に応じた積和演算を行うことなく、高速に処理ができる。
【0199】
なお、この画像復号装置40では、入力されたビットストリーム中の動きベクトルの値に応じて、必要な画素のみを生成しても良い。また、水平方向と垂直方向の動きベクトルの値に応じたフィルタ係数を予め用意しておき、垂直方向と水平方向の補間を1度に行っても良い。
【0200】
ところで、この第3の実施の形態の画像復号装置40のフレームモード用動き補償装置42は、以下に説明するように垂直方向の画素に対して、トップフィールドとボトムフィールドとを区別せずに補間処理を行っても良い。
【0201】
まず、図28(a)に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となるような、トップフィールドとボトムフィールドとのフィールド間で位相ずれを含む標準解像度画像の整数精度の画素を、フレームメモリ17から取り出す。なお、この図28には、トップフィールドとボトムフィールドとを区別せずに画素値を記載している。
【0202】
続いて、垂直方向の画素に対して、不等間隔のサンプリング点から補間値を生成するフィルタを用いて、トップフィールドとボトムフィールドとの間で補間を行い、図28(c)に示すような1/4画素精度の画素を生成する。この不等間隔のサンプリング点から補間値を生成するフィルタは、例えば、N次元曲線近似方式等を用いて設計することが可能である。N次元曲線近似等を用いて設計されたフィルタを用いることにより、フレームメモリ17から取り出された画素をそのまま出力する場合には、演算を行う必要がなく、処理を高速化することができる。
【0203】
また、垂直方向の画素に対しては、図28(b)に示すようにトップフィールドとボトムフィールドとの間で画素の補間を行って1/2画素精度の画素を生成し、図28(c)に示すように、線形補間フィルタを用いてトップフィールドとボトムフィールドの2つのフィールド間で1/4画素精度の画素を生成してもよい。この場合、2段階のフィルタ処理に相当する係数を予め用意しておき、その係数をフレームメモリ17から取り出した画素値に直接演算することにより、動き補償の処理を高速化することができる。
【0204】
フレームモード用動き補償装置42は、図27で示したフィールド内で2倍補間を行う補間処理と、図28で示したフィールドを区別せずに行う補間処理とを、所定の条件で切り換えて、画像の内容等に応じた最適な補間処理を行っても良い。
【0205】
(第4の実施の形態)
つぎに、本発明の第4の実施の形態の画像復号装置について説明する。
【0206】
図29に示すように、本発明の第4の実施の形態の画像復号装置50は、垂直方向の有効ライン数が例えば1152本の高解像度画像をMPEG2で画像圧縮したビットストリームが入力され、この入力されたビットストリームを復号するとともに1/2の解像度に縮小して、垂直方向の有効ライン数が例えば576本の標準解像度画像を出力する装置である。
【0207】
この画像復号装置50は、圧縮された高解像度画像のビットストリームが供給され、このビットストリームを解析するビットストリーム解析装置11と、データの発生頻度に応じた符号長を割り当てる可変長符号化がされた上記ビットストリームを復号する可変長符号復号装置12と、DCTブロックの各係数に量子化ステップを掛ける逆量子化装置13と、フィールドDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフィールドモード用位相補正縮小逆離散コサイン変換装置31と、フレームDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフレームモード用位相補正縮小逆離散コサイン変換装置32と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置16と、参照画像を一時記憶するフレームメモリ17と、フレームメモリ17が記憶した参照画像にフィールド動き予測モードに対応した動き補償をするフィールドモード用動き補償装置51と、フレームメモリ17が記憶した参照画像にフレーム動き予測モードに対応した動き補償をするフレームモード用動き補償装置52と、フレームメモリ17に記憶した画像に対して、画枠変換をしてモニタ等に表示するための標準解像度の画像データを出力する画枠変換装置33とを備えている。
【0208】
フィールドモード用位相補正縮小逆離散コサイン変換装置31は、入力されたビットストリームのマクロブロックが、フィールドDCTモードで離散コサイン変換されている場合に用いられる。フィールドモード用位相補正縮小逆離散コサイン変換装置31は、フィールドDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックの全ての係数のうち4×8の係数のみに対して、トップフィールドとボトムフィールドとの間の垂直方向の画素の位相ずれを補正した逆離散コサイン変換を行う。すなわち、水平方向に対して低域の4点の離散コサイン係数に基づき逆離散コサイン変換を行い、垂直方向に対して8点の離散コサイン係数に基づき位相ずれを補正した逆離散コサイン変換を行う。具体的には、トップフィールドの垂直方向の各画素に対しては、1/4画素分の位相補正を行い、ボトムフィールドの垂直方向の各画素に対しては、3/4画素分の位相補正を行う。そして、以上のような縮小逆離散コサイン変換を行うことにより、図9に示すような、トップフィールドの各画素の垂直方向の位相が1/4、9/4・・・となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4・・・となる標準解像度画像(下位レイヤー)を生成する。
【0209】
フレームモード用位相補正縮小逆離散コサイン変換装置32は、入力されたビットストリームのマクロブロックが、フレームDCTモードで離散コサイン変換されている場合に用いられる。フレームモード用位相補正縮小逆離散コサイン変換装置32は、フレームDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、1ブロック処理或いは2ブロック処理により、トップフィールドとボトムフィールドとの間の垂直方向の画素の位相ずれを補正した縮小逆離散コサイン変換を行う。そして、フィールドモード用位相補正縮小逆離散コサイン変換装置31で生成した標準解像度画像の画素の位相と同位相の画像を生成する。すなわち、1ブロック処理或いは2ブロック処理で縮小逆離散コサイン変換を行うことにより、図9に示すような、トップフィールドの各画素の垂直方向の位相が1/4、9/4・・・となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4・・・となる標準解像度画像(下位レイヤー)を生成する。
【0210】
フィールドモード用動き補償装置51は、マクロブロックの動き予測モードがフィールド動き予測モードの場合に用いられる。フィールドモード用動き補償装置51は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、1/4画素精度で補間処理を行い、フィールド動き予測モードに対応した動き補償をする。このフィールドモード用動き補償装置51により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0211】
フレームモード用動き補償装置52は、マクロブロックの動き予測モードがフレーム動き予測モードの場合に用いられる。フレームモード用動き補償装置52は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、1/4画素精度で補間処理を行い、フレーム動き予測モードに対応した動き補償をする。このフレームモード用動き補償装置52により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0212】
本発明の第4の実施の形態の画像復号装置50では、以上のような構成を有することにより、高解像度画像をMPEG2で画像圧縮したビットストリームを、復号するとともに1/2の解像度に縮小して、標準解像度画像を出力することができる。
【0213】
つぎに、フィールドモード用動き補償装置51及びフレームモード用動き補償装置52について、さらに詳細に説明する。
【0214】
まず、フレームモード用動き補償装置52が行う補間処理について説明する。このフレームモード用動き補償装置52では、以下に説明するように、高解像度画像の1/2画素精度の動き補償に対応するように、フレームメモリ17に記憶されている標準解像度画像の画素を補間して、1/4画素精度の画素を生成する。
【0215】
水平方向の画素に対しては、まず、2倍補間フィルタを用いて、フレームメモリ17に記憶された整数精度の画素から1/2画素精度の画素を生成する。フィールドモード用動き補償装置51は、例えば、ハーフバンドフィルタを用いて、1/2画素精度の画素を生成する。続いて、線形補間フィルタを用いて、2倍補間フィルタを用いて生成した1/2画素精度の画素から1/4画素精度の画素を生成する。フィールドモード用動き補償装置51では、ハーフバンドフィルタのような2倍補間フィルタを用いることで、タップ数に応じた積和演算を行うことなく、フレームメモリ17に記憶した標準解像度画像の画素と同位相の画素を高解像度画像に対応した参照画像として出力することができる。そのため、このフィールドモード用動き補償装置51では、高速な処理を行うことができる。また、このフィールドモード用動き補償装置51では、以上の処理を1つの行列を用いて演算してもよく、また、4倍補間フィルタを用いて整数精度の画素から1/4精度の画素を生成しても良い。
【0216】
垂直方向の画素に対しては、まず、図30(a)に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2、9/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が3/2、7/2、11/2・・・となるような、トップフィールドとボトムフィールドとのフィールド間で位相ずれが補正された標準解像度画像の整数精度の画素を、フレームメモリ17から取り出す。
【0217】
続いて、垂直方向の画素に対しては、図30(b)に示すように、ハーフバンドフィルタのような2倍補間フィルタを用いて、フィールド内で、フレームメモリ17から取り出した整数精度の画素から1/2画素精度の画素を生成する。すなわち、トップフィールドの整数精度の画素に基づきトップフィールドの1/2画素精度の画素が生成され、ボトムフィールドの整数精度の画素に基づきボトムフィールドの1/2画素精度の画素が生成される。例えば、この図30(b)に示すように、垂直方向の位相が7/2の位置にあるトップフィールドの画素は、・・・1/2,5/2,9/2,13/2・・・の位置にあるトップフィールドの画素から2倍補間をされて生成される。また、垂直方向の位相が9/2の位置にあるボトムフィールドの画素は、・・・3/2,7/2,11/2,15/2・・・の位置にあるボトムフィールドの画素から2倍補間をされて生成される。
【0218】
続いて、垂直方向の画素に対しては、図30(c)に示すように、線形補間フィルタを用いて、フィールド内で、2倍補間フィルタを用いて生成した1/2画素精度の画素から1/4画素精度の画素を生成する。すなわち、トップフィールドの1/2画素精度の画素に基づきトップフィールドの1/4画素精度の画素を生成し、ボトムフィールドの1/2画素精度の画素に基づきボトムフィールドの1/4画素精度の画素を生成する。例えば、この図30(c)に示すように、垂直方向の位相が9/4の位置にあるトップフィールドの画素は、2,5/2の位置にあるトップフィールドの画素から線形補間をされて生成される。また、垂直方向の位相が11/4の位置にあるボトムフィールドの画素は、10/4,3の位置にあるボトムフィールドの画素から線形補間をされて生成される。
【0219】
このように垂直方向の補間を行うことによりフィールドモード用動き補償装置51では、ハーフバンドフィルタのような2倍補間フィルタを用いることで、タップ数に応じた積和演算を行うことなく、フレームメモリ17に記憶した標準解像度画像の画素と同位相の画素を高解像度画像に対応した参照画像として出力することができる。そのため、このフィールドモード用動き補償装置51では、高速な処理を行うことができる。また、このフィールドモード用動き補償装置51では、以上の処理を1つの行列を用いて演算してもよく、また、4倍補間フィルタを用いて整数精度の画素から1/4精度の画素を生成しても良い。
【0220】
つぎに、フレームモード用動き補償装置52が行う補間処理について説明する。このフレームモード用動き補償装置52では、以下に説明するように、高解像度画像の1/2画素精度の動き補償に対応するように、フレームメモリ17に記憶されている標準解像度画像の画素を補間して、1/4画素精度の画素を生成する。
【0221】
水平方向の画素に対しては、まず、2倍補間フィルタを用いて、フレームメモリ17に記憶された整数精度の画素から1/2画素精度の画素を生成する。フレームモード用動き補償装置52は、例えば、ハーフバンドフィルタを用いて、1/2画素精度の画素を生成する。続いて、線形補間フィルタを用いて、2倍補間フィルタを用いて生成した1/2画素精度の画素から1/4画素精度の画素を生成する。フレームモード用動き補償装置52では、ハーフバンドフィルタのような2倍補間フィルタを用いることで、タップ数に応じた積和演算を行うことなく、フレームメモリ17に記憶した標準解像度画像の画素と同位相の画素を高解像度画像に対応した参照画像として出力することができる。そのため、このフレームモード用動き補償装置52では、高速な処理を行うことができる。また、このフレームモード用動き補償装置52では、以上の処理を1つの行列を用いて演算してもよく、また、4倍補間フィルタを用いて整数精度の画素から1/4精度の画素を生成しても良い。
【0222】
垂直方向の画素に対しては、まず、図31(a)に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2、9/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が3/2、7/2、11/2・・・となるような、トップフィールドとボトムフィールドとのフィールド間で位相ずれが無い標準解像度画像の整数精度の画素を、フレームメモリ17から取り出す。
【0223】
続いて、垂直方向の画素に対しては、図31(b)に示すように、一方のフィールドに対しては、ハーフバンドフィルタのような2倍補間フィルタを用いて、フレームメモリ17から取り出した整数精度の画素から1/2画素精度の画素を生成する。また、他方のフィールドに対しては、フィルタを用いて、フレームメモリ17から取り出した整数精度の画素から、1/4及び3/4位相ずれた画素を生成する。例えば、トップフィールドの整数精度の画素に基づきトップフィールドの1/2画素精度の画素を生成し、ボトムフィールドの整数精度の画素に基づきボトムフィールドの1/4、3/4画素分の位相がずれた画素を生成する。具体的には、この図31(b)に示すように、垂直方向の位相が7/2の位置にあるトップフィールドの画素は、・・・1/2,5/2,9/2,13/2・・・の位置にあるトップフィールドの画素から2倍補間をされて生成される。また、垂直方向の位相が4及び5の位置にあるボトムフィールドの画素は、・・・3/2,7/2,11/2,15/2・・・の位置にあるボトムフィールドの画素から1/4又は3/4位相がずれた補間がされて生成される。
【0224】
続いて、垂直方向の画素に対しては、図31(c)に示すように、線形補間フィルタを用いて、トップフィールドとボトムフィールドの2つのフィールド間で、生成した1/2画素精度の画素から1/4画素精度の画素を生成する。例えば、この図31(c)に示すように、垂直方向の位相が1/4の位置にある画素は、0の位置にあるトップフィールドの画素と、1/2の位置にあるボトムフィールドの画素から線形補間をされて生成される。また、垂直方向の位相が3/4の位置にある画素は、1/2の位置にあるボトムフィールドの画素と1の位置にあるトップフィールドの画素から線形補間をされて生成される。
【0225】
このように垂直方向の補間を行うことによりフレームモード用動き補償装置52では、ハーフバンドフィルタのような2倍補間フィルタを用いることで、タップ数に応じた積和演算を行うことなく、フレームメモリ17に記憶した標準解像度画像の画素と同位相の画素を高解像度画像に対応した参照画像として出力することができる。そのため、このフィールドモード用動き補償装置51では、高速な処理を行うことができる。また、トップフィールドとボトムフィールドとの間で位相ずれが生じず、いわゆるフィールド反転やフィールドミックスを防ぐことができ、画質の劣化を防止することができる。また、このフレームモード用動き補償装置52では、以上の処理を1つの行列を用いて演算してもよく、また、4倍補間フィルタを用いて整数精度の画素から1/4精度の画素を生成しても良い。
【0226】
以上のように本発明の第3の実施の形態の画像復号装置50では、フィールドDCTモードでは、トップフィールドとボトムフィールドとのそれぞれに4×4の縮小逆離散コサイン変換を行うとともに位相ずれを補正した標準解像度画像を復号し、フレームDCTモードでは、フレーム分離をして縮小逆離散コサイン変換を行い位相ずれを補正した標準解像度画像を復号する。この画像復号装置50では、このようにフィールドDCTモードとフレームDCTモードとでそれぞれで処理を行うため飛び越し走査画像が有するインタレース性を損なうことなく、かつ、フィールドDCTモードとフレームDCTモードとで復号した画像の位相を同一とすることができ、出力する画像の画質を劣化させない。さらに、この画像復号装置50では、動き補償に起因する画質の劣化を防止する。また、この画像復号装置50では、動き補償の際に、2倍補間フィルタを用いてフレームメモリ17に記憶した画像の補間をすることで、タップ数に応じた積和演算を行うことなく、高速に処理ができる。
【0227】
なお、この画像復号装置50では、入力されたビットストリーム中の動きベクトルの値に応じて、必要な画素のみを生成しても良い。また、水平方向と垂直方向の動きベクトルの値に応じたフィルタ係数を予め用意しておき、垂直方向と水平方向の補間を1度に行っても良い。
【0228】
ところで、この第4の実施の形態の画像復号装置50のフレームモード用動き補償装置52は、以下に説明するように垂直方向の画素に対して、トップフィールドとボトムフィールドとを区別せずに補間処理を行っても良い。
【0229】
まず、図32(a)に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が3/2、7/2・・・となるような、トップフィールドとボトムフィールドとのフィールド間で位相ずれが無い標準解像度画像の整数精度の画素を、フレームメモリ17から取り出す。なお、この図32には、トップフィールドとボトムフィールドとを区別せずに画素値を記載している。
【0230】
続いて、垂直方向の画素に対して、ハーフバンドフィルタ等の2倍補間フィルタ等を用いて、トップフィールドとボトムフィールドとの間で補間を行い、図32(b)に示すような1/2画素精度の画素を生成する。このハーフバンドフィルタ等を用いることにより、フレームメモリ17から取り出された画素をそのまま出力する場合には、演算を行う必要がなく、処理を高速化することができる。
【0231】
続いて、2倍補間をした画素を、フィールド間で線形補間フィルタを用いて補間を行い、図32(c)に示すような1/4画素精度の画素を生成する。
【0232】
フレームモード用動き補償装置52は、このような2段階のフィルタ処理に相当する係数を予め用意しておき、その係数をフレームメモリ17から取り出した画素値に直接演算することにより、動き補償の処理を高速化することができる。
【0233】
また、フレームモード用動き補償装置52は、1/4補間フィルタを用いて、図32(a)に示す整数精度の画素から、図32(c)に示す1/4画素精度の画素を直接生成してもよい。
【0234】
また、 フレームモード用動き補償装置52は、図31で示したフィールド内で2倍補間を行う補間処理と、図32で示したフィールドを区別せずに行う補間処理とを、所定の条件で切り換えて、画像の内容等に応じた最適な補間処理を行っても良い。
【0235】
(第5の実施の形態)
つぎに、本発明の第5の実施の形態の画像復号装置について説明する。
【0236】
図33に示すように、本発明の第5の実施の形態の画像復号装置60は、垂直方向の有効ライン数が例えば1152本の高解像度画像をMPEG2で画像圧縮したビットストリームが入力され、この入力されたビットストリームを復号するとともに1/2の解像度に縮小して、垂直方向の有効ライン数が例えば576本の標準解像度画像を出力する装置である。
【0237】
この画像復号装置60は、圧縮された高解像度画像のビットストリームが供給され、このビットストリームを解析するビットストリーム解析装置11と、データの発生頻度に応じた符号長を割り当てる可変長符号化がされた上記ビットストリームを復号する可変長符号復号装置12と、DCTブロックの各係数に量子化ステップを掛ける逆量子化装置13と、フィールドDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフィールドモード用縮小逆離散コサイン変換装置14と、フレームDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフレームモード用縮小逆離散コサイン変換装置15と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置16と、参照画像を一時記憶するフレームメモリ17と、フレームメモリ17が記憶した参照画像にフィールド動き予測モードに対応した動き補償をするフィールドモード用動き補償装置61と、フレームメモリ17が記憶した参照画像にフレーム動き予測モードに対応した動き補償をするフレームモード用動き補償装置62と、フィールドモード用動き補償装置61のフィルタリングのタップ数を決定するフィールドモード用フィルタ決定装置63と、フレームモード用動き補償装置62のフィルタリングのタップ数を決定するフレームモード用フィルタ決定装置64と、フレームメモリ17に記憶した画像に対してポストフィルタリングをすることにより、画枠変換をするとともに画素の位相ずれを補正してテレビジョンモニタ等に表示するための標準解像度の画像データを出力する画枠変換・位相ずれ補正装置20とを備えている。
【0238】
フィールドモード用縮小逆離散コサイン変換装置14は、入力されたビットストリームのマクロブロックが、フィールドDCTモードで離散コサイン変換されている場合に用いられる。フィールドモード用縮小逆離散コサイン変換装置14は、フィールドDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、図38で示したような、低域の4×4の係数のみに逆離散コサイン変換を行う。すなわち、水平方向及び垂直方向の低域の4点の離散コサイン係数に基づき縮小逆離散コサイン変換を行う。このフィールドモード用縮小逆離散コサイン変換装置14では、以上のような縮小逆離散コサイン変換を行うことにより、1つのDCTブロックが4×4の画素から構成される標準解像度画像を復号することができる。この復号された画像データの各画素の位相は、図2に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。
【0239】
フレームモード用縮小逆離散コサイン変換装置15は、入力されたビットストリームのマクロブロックが、フレームDCTモードで離散コサイン変換されている場合に用いられる。フレームモード用縮小逆離散コサイン変換装置15は、フレームDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、縮小逆離散コサイン変換を行う。そして、フレームモード用縮小逆離散コサイン変換装置15では、1つのDCTブロックが4×4の画素から構成される解像度画像を復号するとともに、フィールドモード用縮小逆離散コサイン変換装置14で生成した標準解像度画像の画素の位相と同位相の画像を生成する。すなわち、フレームモード用縮小逆離散コサイン変換装置15で復号された画像データの各画素の位相は、図2に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。
【0240】
フィールドモード用動き補償装置61は、マクロブロックの動き予測モードがフィールド動き予測モードの場合に用いられる。フィールドモード用動き補償装置61は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、位相ずれ成分を考慮した形で1/4画素精度で補間処理を行い、フィールド動き予測モードに対応した動き補償をする。このフィールドモード用動き補償装置61により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。このフィールドモード用動き補償装置61は、所定のタップ数のフィルタリングをして補間処理を行うが、このフィルタリングのタップ数は、フィールドモード用フィルタ決定装置63により決定される。
【0241】
フレームモード用動き補償装置62は、マクロブロックの動き予測モードがフレーム動き予測モードの場合に用いられる。フレームモード用動き補償装置62は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、位相ずれ成分を考慮した形で1/4画素精度で補間処理を行い、フレーム動き予測モードに対応した動き補償をする。このフレームモード用動き補償装置62により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。このフレームモード用動き補償装置62は、所定のタップ数のフィルタリングをして補間処理を行うが、このフィルタリングのタップ数は、フレームモード用フィルタ決定装置64により決定される。
【0242】
フィールドモード用フィルタ決定装置63は、入力された高解像度画像のビットストリームの中のマクロブロックに関する情報に基づき、上記フィールドモード用動き補償装置61がフィルタリングをする際のタップ数を決定する。
【0243】
ここで、高解像度画像を標準解像度の画像に縮小する場合、出力する標準解像度画像の画質と、フィルタリングを行う際のタップ数とは、トレードオフの関係が成り立つ。すなわち、フィルタリングのタップ数を増やすことにより出力する標準解像度画像の画質は向上するが、フィルタリングのタップ数を増やすことにより演算量が増加する。つまり、演算能力の低いフィールドモード用動き補償装置61を用いている場合には、フィルタリングのタップ数を増やして画質を向上させると、リアルタイムに動作しなくなる可能性が生じる。反対に、フィルタリングのタップ数を減らしてリアルタイム性を確保している場合には、画質が劣化する。
【0244】
このフィールドモード用フィルタ決定装置63では、マクロブロックに関する情報に基づき、フィールドモード用動き補償装置61のタップ数を切り換え、出力する標準解像度画像の画質を向上させるとともにリアルタイム性も確保している。
【0245】
フレームモード用フィルタ決定装置64は、入力された高解像度画像のビットストリームの中のマクロブロックに関する情報に基づき、上記フレームモード用動き補償装置62がフィルタリングをする際のタップ数を決定する。
【0246】
このフレームモード用フィルタ決定装置64では、マクロブロックに関する情報に基づき、フィールドモード用フィルタ決定装置63のタップ数を切り換え、出力する標準解像度画像の画質を向上させるとともにリアルタイム性も確保している。
【0247】
本発明の第5の実施の形態の画像復号装置60では、以上のような構成を有することにより、高解像度画像をMPEG2で画像圧縮したビットストリームを、復号するとともに解像度を1/2に縮小して、標準解像度画像を出力することができる。
【0248】
つぎに、フィールドモード用フィルタ決定装置63及びフレームモード用フィルタ決定装置64により行われるフィルタのタップ数の決定処理について説明する。フィールドモード用フィルタ決定装置63及びフレームモード用フィルタ決定装置64は、例えば、例えば、ビットストリーム解析装置11により解析された入力されたビットストリーム中の情報を基に、フィルタのタップ数を決定する。
【0249】
フィルタのタップ数の決定のための情報は、例えば、次の6通りの情報及びこれらの組み合わせとなる。
【0250】
第1に、処理されるデータが輝度信号であるか、色差信号であるかによりフィルタのタップ数を決定する。この理由は、以下の通りである。
【0251】
画質の主観的な評価は、輝度信号により大きく影響する。また、デジタルテレビジョン放送で用いられる420フォーマットにおいては、輝度信号は色差信号の4倍の情報を持つ。さらに、MPEG2では、符号化時に、輝度信号を用いて検出された動きベクトルが色差信号にも用いられる。このため、輝度信号のための動き補償には多くのタップ数を用いたフィルタリングを施し、色差信号のための動き補償には線形補間、若しくはそれに近い、少ないタップ数によるフィルタリングを施すことで、見た目の画質を落とすことなく演算量を減らすことが可能である。
【0252】
第2に、処理されるデータが、Pピクチャに属するものであるか、Bピクチャに属するものであるかによりフィルタのタップ数を決定する。この理由は、以下の通りである。
【0253】
上記画像復号装置60のようなMPEG等のビットストリームのDCT係数の低域のみを復号する装置においては、動き補償に起因する誤差の蓄積による画質の劣化が生じる。Pピクチャにおける誤差は、次のPピクチャ及びBピクチャに影響を及ぼす。しかしながら、Bピクチャにおける誤差は、伝搬しない。このため、Pピクチャに属する画素の動き補償には多くのタップ数を用いたフィルタリングを施し、Bピクチャに属する画素の動き補償には線形補間、若しくはそれに近い、少ないタップ数によるフィルタリングを施すことで、画質を落とすことなく演算量を減らすことが可能である。
【0254】
第3に、処理されるデータの動き補償モードが、前方向予測モード/後方向予測モードであるか、双方向予測モードであるかによりフィルタのタップ数を決定する。この理由は、以下の通りである。
【0255】
第2の場合と同様の理由により、前方向予測モード若しくは後方向予測モードの場合の動き補償には多くのタップ数を用いたフィルタリングを施し、双方向予測モードの場合の動き補償には線形補間、若しくは、それに近い、少ないタップ数によるフィルタリングを施すことで、画質を落とすことなく演算量を減らすことが可能である。
【0256】
第4に、処理されるデータを含むマクロブロックの動きベクトルの値がどのような値であるかによりフィルタのタップ数を決定する。この理由は、以下の通りである。
【0257】
例えば、動き補償装置が、動きベクトルの値により1/2画素精度の位相に相当する画素値を出力する場合に比べて、1/4画素精度の位相に相当する画素値を出力する場合の方が、少ないタップ数で補間を行っても画質劣化が目立ちにくい。そのため、動きベクトルの値に応じてフィルタのタップ数を切り換えることで、画質を落とすことなく演算量を減らすことが可能である。
【0258】
第5に、水平方向の補間処理であるか、垂直方向の補間処理であるかによりフィルタのタップ数を決定する。この理由は、以下の通りである。
【0259】
特に飛び越し走査画像の場合、フィルタのタップ数の減少による画質の劣化は、水平方向よりも垂直方向により顕著である。そのため、垂直方向に対する動き補償には多くのタップ数を用いたフィルタリングを施し、水平方向に対する動き補償には線形補間、若しくはそれに近い、少ないタップ数によるフィルタリングを施すことで、画質を落とすことなく演算量を減らすことが可能である。
【0260】
第6に、処理されるデータが、フィールド動き補償モードであるか、フレーム動き補償モードであるかによりフィルタのタップ数を決定する。この理由は、以下の通りである。
【0261】
一般的な画像符号化装置においては。フィールド間の差分の大きいマクロブロックに対してはフィールド動き補償モードで処理が施され、小さいマクロブロックに対してはフレーム動き補償モードで処理が施される。そのため、フィールド動き補償モードに多くのタップ数を割り当て、フレーム動き補償モードに少ないタップ数を割り当てることで画質を落とすことなく演算量を減らすことが可能である。
【0262】
以上のように本発明の第5の実施の形態の画像復号装置60では、フィールドDCTモードでは、トップフィールドとボトムフィールドとのそれぞれに4×4の縮小逆離散コサイン変換を行い標準解像度画像を復号し、フレームDCTモードでは、フレーム分離をして縮小逆離散コサイン変換を行い標準解像度画像を復号する。この画像復号装置60では、このようにフィールドDCTモードとフレームDCTモードとでそれぞれで処理を行うため飛び越し走査画像が有するインタレース性を損なうことなく、かつ、フィールドDCTモードとフレームDCTモードとで復号した画像の位相を同一とすることができ、出力する画像の画質を劣化させない。さらに、この画像復号装置60では、マクロブロックに関する情報に基づき、フィールドモード用フィルタ決定装置63のタップ数を切り換えることにより、動き補償に起因する画質の劣化を防止するとともに、動き補償の演算量を削減することができる。
【0263】
なお、この本発明の第5の実施の形態の画像復号装置60のフィールドモード用フィルタ決定装置63及びフレームモード用フィルタ決定装置64を、上述した第3、第4の実施の形態の画像復号装置40,50に適用しても良い。
【0264】
以上本発明の第1〜第5の実施の形態の画像復号装置について説明したが、本発明で処理されるデータは、MPEG2方式の画像データに限られない。すなわち、所定の画素ブロック単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック単位で直交変換することによる圧縮符号化をした第1の解像度の圧縮画像データであればどのようなデータであってもよい。例えば、ウェーブレット方式等を用いた圧縮画像データであってもよい。
【0265】
【発明の効果】
本発明では、記憶している参照画像データのマクロブロックの各画素に対して補間をして、1/4画素精度の画素から構成されるマクロブロックを生成する。そして、この画像復号方法では、第1の解像度より低い第2の解像度の動画像データを出力する。
【0266】
このことにより、本発明では、復号に必要な演算量及び記憶容量を少なくすることができ、フィールド動き予測モードとフレーム動き予測モードとによる動き補償の際の画素の位相ずれをなくし、動き補償に起因する画質の劣化を防止することができる。
【0267】
本発明では、フィルタのタップ数を切り換えて、記憶している参照画像データのマクロブロックの各画素に対して補間をして、1/4画素精度の画素から構成されるマクロブロックを生成する。
【0268】
このことにより、本発明では、画質を劣化させずに動き補償の際の演算量を少なくすることができ、処理の高速化を図ることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態の画像復号装置のブロック図である。
【図2】上記第1の実施の形態の画像復号装置のフレームメモリに格納される参照画像の垂直方向の画素の位相を説明するための図である。
【図3】上記第1の実施の形態の画像復号装置のフレームモード用縮小逆離散コサイン変換装置の1ブロック処理の内容を説明するための図である。
【図4】上記第1の実施の形態の画像復号装置のフレームモード用縮小逆離散コサイン変換装置の2ブロック処理の内容を説明するための図である。
【図5】420フォーマットのマクロブロック内の輝度成分及び色差成分のDCTブロックについて説明をする図である。
【図6】Wangのアルゴリズムを上記第1の実施の形態の画像復号装置のフィールドモード用縮小逆離散コサイン変換装置の処理に適用した場合の演算フローを示す図である。
【図7】Wangのアルゴリズムを上記第1の実施の形態の画像復号装置のフレームモード用縮小逆離散コサイン変換装置の1ブロック処理に適用した場合の演算フローを示す図である。
【図8】本発明の第2の実施の形態の画像復号装置のブロック図である。
【図9】上記第2の実施の形態の画像復号装置のフレームメモリに格納される参照画像の垂直方向の画素の位相を説明するための図である。
【図10】上記第2の実施の形態の画像復号装置のフィールドモード用位相補正縮小逆離散コサイン変換装置の処理内容を説明するための図である。
【図11】1つの行列により処理を行う場合の上記フィールドモード用位相補正縮小逆離散コサイン変換装置の処理内容を説明するための図である。
【図12】上記フィールドモード用位相補正縮小逆離散コサイン変換装置により演算が行われる4×8位相補正IDCT行列の設計手順を説明するためのフローチャートである。
【図13】上記4×8位相補正IDCT行列の設計に必要となるプロトタイプフィルタの周波数特性を説明するための図である。
【図14】ナイキスト周波数以下を等間隔に{(N−1)/2}分割し、その周波数サンプルから作成されたゲインのリストを説明するための図である。
【図15】上記ゲインリストを逆離散フーリエ変換して作成されたインパルス応答を説明するための図である。
【図16】ポリフェイズフィルタを説明するための図である。
【図17】入力信号に対して1/4位相ずれた信号を出力するポリフェイズフィルタを説明するための図である。
【図18】上記フィールドモード用位相補正縮小逆離散コサイン変換装置により演算が行われる4×8位相補正IDCT行列を説明するための図である。
【図19】上記第2の実施の形態の画像復号装置のフレームモード用位相補正縮小逆離散コサイン変換装置の1ブロック処理の内容を説明するための図である。
【図20】フレームモード用位相補正縮小逆離散コサイン変換装置により演算が行われる2×4位相補正IDCT行列の設計手順を説明するためのフローチャートである。
【図21】ナイキスト周波数以下を等間隔に{(N−1)/2}分割し、その周波数サンプルから作成されたゲインのリストを説明するための図である。
【図22】上記ゲインリストを逆離散フーリエ変換して作成されたインパルス応答を説明するための図である。
【図23】上記フレームモード用位相補正縮小逆離散コサイン変換装置により演算が行われる2×4位相補正IDCT行列を説明するための図である。
【図24】上記第2の実施の形態の画像復号装置のフレームモード用位相補正縮小逆離散コサイン変換装置の2ブロック処理の内容を説明するための図である。
【図25】本発明の第3の実施の形態の画像復号装置のブロック図である。
【図26】上記第3の実施の形態の画像復号装置のフィールドモード用動き補償装置における補間処理を説明するための図である。
【図27】上記第3の実施の形態の画像復号装置のフレームモード用動き補償装置における補間処理を説明するための図である。
【図28】上記第3の実施の形態の画像復号装置のフレームモード用動き補償装置における他の補間処理を説明するための図である。
【図29】本発明の第4の実施の形態の画像復号装置のブロック図である。
【図30】上記第4の実施の形態の画像復号装置のフィールドモード用動き補償装置における補間処理を説明するための図である。
【図31】上記第4の実施の形態の画像復号装置のフレームモード用動き補償装置における補間処理を説明するための図である。
【図32】上記第4の実施の形態の画像復号装置のフレームモード用動き補償装置における他の補間処理を説明するための図である。
【図33】本発明の第5の実施の形態の画像復号装置のブロック図である。
【図34】従来の第1のダウンデコーダを示すブロック図である。
【図35】従来の第2のダウンデコーダを示すブロック図である。
【図36】従来の第3のダウンデコーダを示すブロック図である。
【図37】従来の画像復号装置のブロック図である。
【図38】上記従来の画像復号装置のフィールドDCTモードにおける縮小逆離散コサイン変換処理を説明するための図である。
【図39】上記従来の画像復号装置のフィールドDCTモードにおける縮小逆離散コサイン変換処理を説明するための図である。
【図40】上記従来の画像復号装置のフィールド動き予測モードにおける線形補間処理を説明するための図である。
【図41】上記従来の画像復号装置のフレーム動き予測モードにおける線形補間処理を説明するための図である。
【図42】上記従来の画像復号装置のフィールドDCTモードの結果得られる画素の位相を説明するための図である。
【図43】上記従来の画像復号装置のフレームDCTモードの結果得られる画素の位相を説明するための図である。
【符号の説明】
10,30,40,50,60 画像復号装置、14 フィールドモード用縮小逆離散コサイン変換装置、15 フレームモード用縮小逆離散コサイン変換装置、16 加算装置、17 フレームメモリ、18,41,61 フィールドモード用動き補償装置、19,42,62 フレームモード用動き補償装置、20画枠変換・位相ずれ補正装置、31 フィールドモード用位相補正縮小逆離散コサイン変換装置、32 フレームモード用位相補正縮小逆離散コサイン変換装置、33 画枠変換装置

Claims (2)

  1. 所定の画素ブロック(マクロブロック)単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック(直交変換ブロック)単位で直交変換をすることによる圧縮符号化をした第1の解像度の圧縮画像データから、上記第1の解像度より低い第2の解像度の動画像データを復号する画像復号装置において、
    直交変換がされた上記圧縮画像データの直交変換ブロックの各係数のうち低周波成分の係数に対して逆直交変換をする逆直交変換手段と、
    上記逆直交変換手段により逆直交変換がされた圧縮画像データと動き補償がされた参照画像データとを加算して、第2の解像度の動画像データを出力する加算手段と、
    上記加算手段から出力される動画像データを参照画像データとして記憶する記憶手段と、
    飛び越し走査に対応した動き予測方式(フィールド動き予測モード)により動き予測がされた参照画像データのマクロブロックに対して動き補償をする第1の動き補償手段と、
    順次走査に対応した動き予測方式(フレーム動き予測モード)により動き予測がされた参照画像データのマクロブロックに対して動き補償をする第2の動き補償手段と、
    上記加算手段から出力された動画像データに対してポストフィルタリングを施し、動画像を構成する画面の画枠を変換するとともにトップフィールドとボトムフィールドとの間の位相ずれを補正する画枠変換位相補正手段とを備え、
    上記第1の動き補償手段及び上記第2の動き補償手段は、上記記憶手段が記憶している参照画像データのマクロブロックの各画素に対して補間をし、上記記憶手段が記憶している参照画像データに対して1/4画素精度の画素から構成されるマクロブロックを生成し、この生成したマクロブロックに対して動き補償をすることを特徴とする画像復号装置。
  2. 所定の画素ブロック(マクロブロック)単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック(直交変換ブロック)単位で直交変換をすることによる圧縮符号化をした第1の解像度の圧縮画像データから、上記第1の解像度より低い第2の解像度の動画像データを復号する画像復号方法において、
    直交変換がされた上記圧縮画像データの直交変換ブロックの各係数のうち低周波成分の係数に対して逆直交変換をし、
    上記逆直交変換がされた圧縮画像データと動き補償がされた参照画像データとを加算することにより第2の解像度の動画像データを生成し、
    生成された上記第2の解像度の動画像データを参照画像データとして記憶し、
    生成された第2の解像度の動画像データに対してポストフィルタリングを施し、動画像を構成する画面の画枠を変換するとともにトップフィールドとボトムフィールドとの間の位相ずれを補正し、
    飛び越し走査に対応した動き予測方式(フィールド動き予測モード)により動き予測がされた参照画像データのマクロブロックに対して動き補償をし、
    順次走査に対応した動き予測方式(フレーム動き予測モード)により動き予測がされた参照画像データのマクロブロックに対して動き補償をし、
    上記フィールド動き予測モード又はフレーム動き予測モードでの動き補償において、記憶している参照画像データのマクロブロックの各画素に対して補間をし、上記参照画像データに対して1/4画素精度の画素から構成されるマクロブロックを生成し、この生成したマクロブロックに対して動き補償をすることを特徴とする画像復号方法。
JP20838498A 1998-07-23 1998-07-23 画像復号装置及び画像復号方法 Expired - Fee Related JP4026238B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP20838498A JP4026238B2 (ja) 1998-07-23 1998-07-23 画像復号装置及び画像復号方法
US09/358,451 US6539056B1 (en) 1998-07-23 1999-07-21 Picture decoding method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP20838498A JP4026238B2 (ja) 1998-07-23 1998-07-23 画像復号装置及び画像復号方法

Publications (3)

Publication Number Publication Date
JP2000041252A JP2000041252A (ja) 2000-02-08
JP2000041252A5 JP2000041252A5 (ja) 2005-09-08
JP4026238B2 true JP4026238B2 (ja) 2007-12-26

Family

ID=16555383

Family Applications (1)

Application Number Title Priority Date Filing Date
JP20838498A Expired - Fee Related JP4026238B2 (ja) 1998-07-23 1998-07-23 画像復号装置及び画像復号方法

Country Status (2)

Country Link
US (1) US6539056B1 (ja)
JP (1) JP4026238B2 (ja)

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020044692A1 (en) * 2000-10-25 2002-04-18 Goertzen Kenbe D. Apparatus and method for optimized compression of interlaced motion images
JP2001204026A (ja) * 2000-01-21 2001-07-27 Sony Corp 画像情報変換装置及び方法
US7266150B2 (en) 2001-07-11 2007-09-04 Dolby Laboratories, Inc. Interpolation of video compression frames
CN1298171C (zh) * 2001-09-18 2007-01-31 松下电器产业株式会社 图像的编码方法和图像的译码方法
CN101448162B (zh) * 2001-12-17 2013-01-02 微软公司 处理视频图像的方法
US7003035B2 (en) * 2002-01-25 2006-02-21 Microsoft Corporation Video coding methods and apparatuses
US7116831B2 (en) * 2002-04-10 2006-10-03 Microsoft Corporation Chrominance motion vector rounding
US7620109B2 (en) * 2002-04-10 2009-11-17 Microsoft Corporation Sub-pixel interpolation in motion estimation and compensation
US7110459B2 (en) * 2002-04-10 2006-09-19 Microsoft Corporation Approximate bicubic filter
US7305034B2 (en) * 2002-04-10 2007-12-04 Microsoft Corporation Rounding control for multi-stage interpolation
US20030206184A1 (en) * 2002-05-06 2003-11-06 Reshetov Alexander V. Displaying content in different resolutions
US20040001546A1 (en) * 2002-06-03 2004-01-01 Alexandros Tourapis Spatiotemporal prediction for bidirectionally predictive (B) pictures and motion vector prediction for multi-picture reference motion compensation
US7280700B2 (en) * 2002-07-05 2007-10-09 Microsoft Corporation Optimization techniques for data compression
EP1383339A1 (en) 2002-07-15 2004-01-21 Matsushita Electric Industrial Co., Ltd. Memory management method for video sequence motion estimation and compensation
US7154952B2 (en) 2002-07-19 2006-12-26 Microsoft Corporation Timestamp-independent motion vector prediction for predictive (P) and bidirectionally predictive (B) pictures
KR100624429B1 (ko) * 2003-07-16 2006-09-19 삼성전자주식회사 칼라 영상을 위한 비디오 부호화/복호화 장치 및 그 방법
US7499495B2 (en) * 2003-07-18 2009-03-03 Microsoft Corporation Extended range motion vectors
US7738554B2 (en) * 2003-07-18 2010-06-15 Microsoft Corporation DC coefficient signaling at small quantization step sizes
US20050013498A1 (en) * 2003-07-18 2005-01-20 Microsoft Corporation Coding of motion vector information
US10554985B2 (en) 2003-07-18 2020-02-04 Microsoft Technology Licensing, Llc DC coefficient signaling at small quantization step sizes
US7609763B2 (en) * 2003-07-18 2009-10-27 Microsoft Corporation Advanced bi-directional predictive coding of video frames
US7426308B2 (en) * 2003-07-18 2008-09-16 Microsoft Corporation Intraframe and interframe interlace coding and decoding
US7567617B2 (en) * 2003-09-07 2009-07-28 Microsoft Corporation Predicting motion vectors for fields of forward-predicted interlaced video frames
US8064520B2 (en) * 2003-09-07 2011-11-22 Microsoft Corporation Advanced bi-directional predictive coding of interlaced video
US7724827B2 (en) * 2003-09-07 2010-05-25 Microsoft Corporation Multi-layer run level encoding and decoding
US7599438B2 (en) * 2003-09-07 2009-10-06 Microsoft Corporation Motion vector block pattern coding and decoding
KR100531895B1 (ko) 2004-02-26 2005-11-29 엘지전자 주식회사 이동통신 시스템에서의 영상 블럭 오류 은닉 장치 및 방법
KR100809686B1 (ko) 2006-02-23 2008-03-06 삼성전자주식회사 이산 여현 변환을 이용한 영상 리사이징 방법 및 장치
US8254455B2 (en) * 2007-06-30 2012-08-28 Microsoft Corporation Computing collocated macroblock information for direct mode macroblocks
JP5359302B2 (ja) * 2008-03-18 2013-12-04 ソニー株式会社 情報処理装置および方法、並びにプログラム
JP4656190B2 (ja) * 2008-06-10 2011-03-23 ソニー株式会社 情報処理装置および方法
JP4780172B2 (ja) * 2008-10-10 2011-09-28 ソニー株式会社 情報処理装置および方法
US8189666B2 (en) 2009-02-02 2012-05-29 Microsoft Corporation Local picture identifier and computation of co-located information
JP5158000B2 (ja) * 2009-04-07 2013-03-06 ソニー株式会社 情報処理装置および方法
US9749642B2 (en) 2014-01-08 2017-08-29 Microsoft Technology Licensing, Llc Selection of motion vector precision
US9942560B2 (en) 2014-01-08 2018-04-10 Microsoft Technology Licensing, Llc Encoding screen capture data
US9774881B2 (en) 2014-01-08 2017-09-26 Microsoft Technology Licensing, Llc Representing motion vectors in an encoded bitstream
CN106254719B (zh) * 2016-07-25 2018-11-30 清华大学深圳研究生院 一种基于线性变换和图像插值的光场图像压缩方法
TWI669942B (zh) 2016-10-14 2019-08-21 聯發科技股份有限公司 用以移除漣漪效應之平滑化濾波方法和裝置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4322343C2 (de) * 1992-07-06 1996-10-02 Mitsubishi Electric Corp Mittel zum Erfassen eines Bewegungsvektors und Verfahren zum Bestimmen eines Bewegungsvektors
KR960010487B1 (ko) * 1993-08-18 1996-08-01 엘지전자 주식회사 움직임 벡터를 이용한 순차주사식 영상포맷변환장치
KR0126657B1 (ko) * 1993-10-28 1997-12-29 구자홍 디지탈 영상 복원을 위한 움직임 보상장치
TW283289B (ja) * 1994-04-11 1996-08-11 Gen Instrument Corp

Also Published As

Publication number Publication date
US6539056B1 (en) 2003-03-25
JP2000041252A (ja) 2000-02-08

Similar Documents

Publication Publication Date Title
JP4026238B2 (ja) 画像復号装置及び画像復号方法
JP3975629B2 (ja) 画像復号装置及び画像復号方法
JP2000059793A (ja) 画像復号装置及び画像復号方法
KR100192270B1 (ko) 에이치디티브이 비데오 디코더 회로
US7630566B2 (en) Method and apparatus for improved estimation and compensation in digital video compression and decompression
WO1999023834A1 (en) Method for converting digital signal and apparatus for converting digital signal
JPH0865681A (ja) 動きベクトル検出装置およびそれを使用した動き補償予測符号化システム
JP2006518568A (ja) ビデオ符号化
JP2001285863A (ja) 画像情報変換装置及び方法
JP3649370B2 (ja) 動き補償符号化装置及び動き補償符号化方法
JP3937599B2 (ja) 画像復号装置及び画像復号方法
JP4051772B2 (ja) 画像復号装置及び画像復号方法
JP2000041248A (ja) 画像復号装置及び画像復号方法
JP3611461B2 (ja) 映像信号符号化装置
JP2000175194A (ja) 画像復号装置及び画像復号方法
JP4016166B2 (ja) 画像復号装置及び画像復号方法
JP4051799B2 (ja) 画像復号装置及び画像復号方法
JP2001086508A (ja) 動画像復号方法及び動画像復号装置
JP3937632B2 (ja) 画像復号装置及び画像復号方法
JP2000041253A (ja) 画像復号装置及び画像復号方法
JP4556286B2 (ja) 動きベクトル変換装置及び方法
JP2000059777A (ja) 画像復号装置及び画像復号方法
JP2000041254A (ja) 画像復号装置及び画像復号方法
KR0129214B1 (ko) 고화질 티브이의 디코더
JP2001285875A (ja) 画像情報変換装置及び方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050315

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070507

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070730

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20070821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070918

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071001

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101019

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101019

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111019

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121019

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees