JP2012120054A - 画像符号化装置、画像符号化方法およびプログラム - Google Patents

画像符号化装置、画像符号化方法およびプログラム Download PDF

Info

Publication number
JP2012120054A
JP2012120054A JP2010269731A JP2010269731A JP2012120054A JP 2012120054 A JP2012120054 A JP 2012120054A JP 2010269731 A JP2010269731 A JP 2010269731A JP 2010269731 A JP2010269731 A JP 2010269731A JP 2012120054 A JP2012120054 A JP 2012120054A
Authority
JP
Japan
Prior art keywords
image
encoding
quantization
images
deblocking filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010269731A
Other languages
English (en)
Other versions
JP5748463B2 (ja
Inventor
Yukifumi Kobayashi
幸史 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010269731A priority Critical patent/JP5748463B2/ja
Priority to US13/300,515 priority patent/US9532076B2/en
Publication of JP2012120054A publication Critical patent/JP2012120054A/ja
Application granted granted Critical
Publication of JP5748463B2 publication Critical patent/JP5748463B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/156Mixing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • H04N19/126Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • H04N19/865Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness with detection of the former encoding block subdivision in decompressed video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/55Motion estimation with spatial constraints, e.g. at image or region borders

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】 サイドバイサイド方式等によって異なる複数の画像を合成して作られたフレーム画像が符号化対象画像である場合に、デブロッキングフィルタ処理を領域毎に異ならせる。
【解決手段】 符号化対象のフレーム画像において、複数の画像の境界に接している画像ブロックを特定する情報を入力し、入力された情報に基づいて特定される複数の画像の境界に接している画像ブロックに対しては、そのローカルデコード画像においてデブロッキングフィルタ処理がかからなくなるように、符号化処理に対して所定の符号化制御パラメータを設定する。
【選択図】 図3

Description

本発明は、画像符号化装置、画像符号化方法およびプログラムに関し、特に、画像ブロックの境界にフィルタ処理を施す技術に関するものである。
近年、三次元画像(立体画像又は3D画像とも称される)の表示が可能な民生用テレビが普及しつつある。三次元画像の原理は、左右の目の視差を利用して作成した左目用の画像と右目用の画像を、それぞれ対応する目に個別に入射させることによって、立体視を実現するものである。
三次元画像の記録フォーマットにはさまざまなものが挙げられるが、その一つにサイドバイサイド方式というものがある。サイドバイサイド方式は、左目用の画像と右目用の画像をそれぞれ水平方向に1/2ずつサブサンプリングし、サンプリングした左目用画像を画面左側に、右目用画像を画面右側に配置させるようにした三次元画像の記録フォーマットである。サイドバイサイド方式はBS放送でも採用されている方式であり、現在主流となっている三次元画像用記録フォーマットの一つであるといえる。また、サイドバイサイド方式の三次元画像データの記録に関する技術は、特許文献1によっても特許提案されている。
通常、テレビ放送波などによって動画像を伝送する場合や、ビデオカメラ等により光ディスクやハードディスクなどに動画像を記録する場合には、動画像の情報量の削減のために動画像の圧縮符号化が行われる。動画像圧縮符号化方式の代表的なものの一つにH.264(MPEG4−AVC)符号化方式が挙げられる。H.264符号化方式は、ビデオカメラのハイビジョン記録方式であるAVCHDや、地上デジタル放送のワンセグ放送の規格に採用されており、広く一般に普及しつつある動画像圧縮符号化方式である。今後、ビデオカメラ等によって三次元画像を撮影して、光ディスクやハードディスクに記録する場合にも、動画像圧縮符号化が実施されると考えられる。例えば、サイドバイサイド方式の三次元画像をH.264符号化方式を用いて圧縮符号化し、記録媒体に記録する装置の構成が考えられる。
特開2010−068315号公報
しかしながら、サイドバイサイド方式を用いた三次元画像をH.264符号化方式を用いて圧縮符号化する場合、次のような問題が考えられる。
サイドバイサイド方式では、左目用の画像と右目用の画像を並べた画像を一枚の画像として扱うため、符号化対象の画像の中央部分に左目用の画像の右端部分と右目用の画像の左端部分の境界が存在することになる。H.264符号化方式では、デブロッキングフィルタと呼ばれるループ内フィルタが規格で定められており、画像中のブロック境界にはフィルタ処理が施される。従来の二次元画像であれば、ブロックノイズを除去するために有効な処理であるが、サイドバイサイド方式の画像である場合、左目用画像の右端部分と右目用画像の左端部分の境界の左右は別々の画像であるため、フィルタ処理を施すと劣化が生じてしまう。
このように規格で定められたフィルタ処理であっても、異なる複数の画像を合成して作られた画像が符号化対象画像である場合には、特定の領域に対してフィルタ処理を施さない方が好ましい場合がある。
したがって、本発明の目的は、異なる複数の画像を合成して作られたフレーム画像が符号化対象画像である場合に、デブロッキングフィルタ処理を領域毎に異ならせることにある。
上記目的を達成するために、本発明の画像符号化装置は、複数の画像が合成されたフレーム画像を符号化する画像符号化装置であって、符号化対象のフレーム画像において、前記複数の画像の境界に接している画像ブロックを特定する情報を入力する入力手段と、前記符号化対象のフレーム画像のデータに対して動き予測、直交変換及び量子化を行って得られた画像データを符号化する符号化手段と、前記画像データに対して前記量子化の逆量子化及び前記直交変換の逆変換を行って、ローカルデコード画像を生成するローカルデコード手段と、前記ローカルデコード画像に対してデブロッキングフィルタ処理を施すデブロッキングフィルタ手段と、前記入力手段により入力された前記情報に基づいて特定される前記複数の画像の境界に接している画像ブロックに対しては、前記デブロッキングフィルタ処理がかからなくなるように、前記符号化手段に対して所定の符号化制御パラメータを設定する制御手段とを備えることを特徴とする。
本発明によれば、異なる複数の画像を合成して作られたフレーム画像が符号化対象画像である場合に、デブロッキングフィルタ処理を領域毎に異ならせることができる。例えば、サイドバイサイド方式の三次元画像を圧縮符号化する際に、左目用の画像と右目用の画像の境界部分にはデブロッキングフィルタをかけず、それ以外の部分には通常通りにデブロッキングフィルタ処理を施すことができる。
本発明の第1の実施形態に係る画像符号化装置の構成を示すブロック図である。 サイドバイサイド方式の三次元画像の例である。 量子化制御部の動作フローを説明するためのフローチャートである。 ブロック境界の画素値を説明するための図である。 αとβの算出テーブルの例である。 本発明の第2の実施形態に係る画像符号化装置の構成を示すブロック図である。 異なる画像の境界を挟んで隣接する2つのマクロブロックの例である。 Bs値の条件の例である。
以下、図面を参照しながら、本発明の実施の形態を詳細に説明する。
<第1の実施形態>
図1は、本発明の第1の実施形態に係る画像符号化装置の構成を示すブロック図である。また、図2にサイドバイサイド方式の三次元画像の例を示す。なお、図2において、図の左側の画像が左目用画像であり、右側の画像が右目用画像である。左右の画像はそれぞれ元画像を水平方向に1/2ずつサブサンプリングした状態である。図2の画像のように、フレーム画像内(画面内)の中央部分には、左右の画像の境界が存在することになる。
図1の画像符号化装置は、図2の如き画像を入力画像(符号化対象画像)として符号化を行う。以下、図1の画像符号化装置は、H.264符号化方式に従って動画像の圧縮符号化を行う符号化装置を例に説明する。
図1において、入力画像が一時記憶媒体であるフレームバッファ101に格納される。ここで入力画像とは符号化対象画像データを意味しており、動画像を構成する各フレーム画像や、フレーム画像を構成する画像ブロックに対応する。動き予測部102は、フレームバッファ101に格納されている符号化対象画像と、参照フレームバッファ111に格納されている参照画像との間でブロックマッチングをとり、動きベクトル検出を行う。参照画像とは、H.264符号化で行われるイントラ予測(フレーム内予測)又はインター予測(フレーム間の動き補償予測)といった予測の際に参照される画像であり、符号化済のフレーム画像又は符号化済の画像ブロックのデータから生成される。検出された動きベクトルは、インター予測で予測用画像の作成において利用される。なお、イントラ予測の際は、動き予測部102は、フレームバッファ101に格納されている符号化対象画像に対して、参照画像を参照してブロック画像間の予測処理を行う。
インター予測時、動き予測部102は、符号化対象画像と、検出された動きベクトル位置の参照画像との間で画素の差分をとり、その差分を示す差分画像データを直交変換部103に出力する。一方、イントラ予測時、動き予測部102は、所定のイントラ予測モードに従ってイントラ予測された差分画像データを直交変換部103に出力する。直交変換部103は、送られてきた差分画像データに対して整数精度での離散コサイン変換等の直交変換を行い、変換係数を生成し、量子化部104に出力する。
量子化部104は、送られてきた変換係数に対して、量子化制御部105が出力する量子化パラメータに従い、量子化を行う。量子化された変換係数はエントロピー符号化部106に送られる。また、量子化された変換係数は、参照画像として用いられるローカルデコード画像作成のために逆量子化部107にも送られる。
エントロピー符号化部106では、量子化後の変換係数に対してジグザグスキャン、オルタネートスキャン等を行い、さらに、CAVLC等の可変長符号化、又はCABAC等の算出符号化を行う。そして、エントロピー符号化部106は、符号化後の画像データに対して、動きベクトルや量子化パラメータ、マクロブロック分割情報などの符号化方式情報を可変長符号化したものを付加し、符号化ストリームを生成する。また、符号化の際に画像ブロック(符号化の単位であるマクロブロック)ごとの発生符号量を算出し、その情報を量子化制御部105に送る。
量子化制御部105では、符号化制御パラメータである量子化パラメータを決定する。さらに、量子化制御部105には、画像の境界情報、すなわち各マクロブロックが異なる複数の画像で構成された画像(例えばサイドバイサイド方式の三次元画像等)における画像の境界部に接しているか否かを示す情報が、入力画像を供給する装置から入力される。この情報は、異なる複数の画像の境界部に接している画像ブロックを特定するための情報である。
本実施形態の画像符号化装置は、二次元画像と三次元画像等の合成画像とを選択的に入力して、それぞれ符号化することができる。量子化制御部105は、通常の二次元画像を符号化する場合は、エントロピー符号化部106から発生符号量の情報を受け取り、目標ビットレートに従った符号量になるように量子化パラメータを決定し、量子化部104へ出力する。一方、サイドバイサイド方式の三次元画像やピクチャインピクチャを用いた合成画像など、異なる複数の画像で構成されている画像を符号化する場合は、異なる画像の境界に接したマクロブロックかどうかで量子化パラメータの決定方法を変える仕組みを有している。
前述の画像の境界部に接しているか否かを示す情報に従って、符号化を行うマクロブロックが異なる画像の境界に接していない場合は、二次元画像の時と同じように目標ビットレートに従った符号量になるように、量子化パラメータを決定する。一方、符号化を行うマクロブロックが異なる画像の境界に接している場合は、量子化パラメータをある決められた所定の値(所定の値をQp_nofltとする)に設定する。この量子化パラメータ値は、異なる画像の境界部分にデブロッキングフィルタ処理がかからなくなる値に設定される。この値は、H.264符号化方式の規格より導きだすことができる。詳細については、デブロッキングフィルタ部110の説明のところで後述する。
量子化制御部105の動作フローを説明するためのフローチャートを図3に示す。図3において、3次元画像等の合成画像である場合には、符号化対象のマクロブロックが異なる画像の境界部分に接しているかどうかの判定を行う(S301)。異なる画像の境界部分に接していない場合は、通常どおりに発生符号量から目標とする符号量になるように量子化パラメータを決定する(S302)。
ステップS301において、符号化対象マクロブロックが異なる画像の境界部分に接しているものである場合は、量子化パラメータをデブロッキングフィルタがかからないようになる値であるQp_nofltに決定する(S303)。このようにして量子化パラメータを決定し、量子化部104へ出力する。
図1の説明に戻り、逆量子化部107では、入力された量子化後の変換係数に対して逆量子化を行い、変換係数を復元し、逆直交変換部108に出力する。逆直交変換部108では、入力された変換係数に対して、直交変換部103で行われたものの逆変換を行い、差分画像データを復元する。差分画像データは動き補償部109に出力される。
動き補償部109では、動きベクトル位置の参照画像のデータを参照フレームバッファ111から読み出してきて、入力された差分画像データと加算することにより、ローカルデコード画像データを作成する。作成されたローカルデコード画像データはデブロッキングフィルタ部110に出力される。
デブロッキングフィルタ部110では、入力されたローカルデコード画像データに対してデブロッキングフィルタ処理を施す。デブロッキングフィルタ後の画像データが、参照画像を表すものとして、参照フレームバッファ111に格納される。このようにして、本実施形態の画像符号化装置により、符号化ストリーム及びローカルデコード画像データが生成される。
ここで、デブロッキングフィルタ部110について詳細に説明する。図4は、ブロック境界の画素値を説明するための図である。図4では、フレーム画像中のある境界部の画素値を、p0、p1、p2、p3、q0、q1、q2、q3と表している。p0とq0の間に、pの画素を含むマクロブロックとqの画素を含むマクロブロックとのブロック境界が存在する。デブロッキングフィルタ部110では、H.264符号化方式の規格に従ってローカルデコード画像データのデブロッキングフィルタ処理を行う。H.264符号化方式の規格から、以下の式(1)の条件が成立した場合には、ブロック境界にデブロッキングフィルタ処理を行わない。
|p0−q0|>α もしくは |p1−q0|>β もしくは |q1−q0|>β… (1)
ここで、α、βは、それぞれIndexA、IndexBという値に対するテーブルで定義される。IndexA、IndexBは量子化パラメータ、およびフィルタ強度に対するオフセット値から算出される。IndexA、IndexBに対するα、βの定義を図5に示す。図5は、αとβの算出テーブルの例である。
フィルタ処理を行う2つのブロックの量子化パラメータ、すなわちp0、p1、p2、p3の量子化パラメータをQpA、q0、q1、q2、q3の量子化パラメータをQpBとし、その2つの量子化パラメータの平均値をQpavとする。また、符号化ストリーム中においてslice_alpha_c0_offset_div2、slice_beta_offset_div2で指定されるオフセット値をそれぞれFilterOffsetA、FilterOffsetBとする。その場合、IndexA、IndexBはそれぞれ、式(2)、式(3)で表される。
IndexA=Qpav+FilterOffsetA… (2)
IndexB=Qpav+FilterOffsetB… (3)
ここで、図5のテーブルからIndexAが15以下であればα=0、IndexBが15以下であればβ=0となる。α=0、もしくはβ=0とすれば、式(1)の条件を満たすので、当該ブロック境界にはデブロッキングフィルタがかからない。
よって、量子化制御部105で決定するQp_nofltの値を式(2)、式(3)、および図5のテーブルから、α=0、もしくはβ=0となるような値に設定する。以下の式(4)、式(5)のどちらかが成立するように、Qp_nofltの値を設定する。
Qp_noflt=15−FilterOffsetA… (4)
Qp_noflt=15−FilterOffsetB… (5)
例えば、FilterOffsetA=0だとすると、式(4)より、Qp_noflt=15となる。量子化制御部105で、異なる画像の境界部分に接したブロックは15に設定される。これにより、フィルタ処理を行う2つのブロックの量子化パラメータQpA、QpBがともにQpA=15、QpB=15に設定されるので、2つの量子化パラメータの平均値もQpav=15となる。
FilterOffsetA=0なので、式(2)より、IndexA=15となる。図5のテーブルよりα=0となるので、式(1)の |p0−q0|>α の条件が成立する。したがって、このブロック境界にはデブロッキングフィルタがかからない。
以上のように、量子化制御部105で、処理を行うブロックが異なる画像の境界部分に接しているかどうかを示す情報を取得する。そして、当該情報に基づいて、処理対象のブロックが異なる画像の境界部分に接している場合には、符号化制御パラメータである量子化パラメータをある一定以下の所定の値に設定することで、デブロッキングフィルタをかけなくすることができる。所定の値とは上述した式を用いて算出することができる。よって、本実施形態の画像符号化装置によれば、異なる画像の境界部分にはデブロッキングフィルタをかけず、それ以外の画像部分にはデブロッキングフィルタ処理を施すことにより、境界部分に劣化のない良好な画像を得ることができる。
<第2の実施形態>
図6は、本発明の第2の実施形態に係る画像符号化装置の構成を示すブロック図である。図6の画像符号化装置は、図2の如き画像を入力画像(符号化対象画像)として符号化を行う。以下、図6の画像符号化装置は、H.264符号化方式に従って動画像の圧縮符号化を行う符号化装置を例に説明する。
図6において、入力画像(符号化対象画像)が一時記憶媒体であるフレームバッファ101に格納される。動き予測部601は、フレームバッファ101に格納されている符号化対象画像と、参照フレームバッファ111に格納されている参照画像との間でブロックマッチングをとり、動きベクトル検出を行う。
インター予測時、動き予測部601は、符号化対象画像と、検出された動きベクトル位置の参照画像との間で画素の差分をとり、その差分を示す差分画像データを直交変換部103に出力する。一方、イントラ予測時、動き予測部601は、所定のイントラ予測モードに従ってイントラ予測された差分画像データを直交変換部103に出力する。
ここで、第2の実施形態に係る画像符号化装置は、二次元画像と三次元画像等の合成画像とを選択的に入力して、それぞれ符号化することができる。そして、三次元画像の符号化時、符号化対象のマクロブロックが異なる画像の境界部分に接したマクロブロックかどうかで、動き予測処理の内容を変える。
具体的に、動き予測部601には、画像の境界情報、すなわち各マクロブロックが異なる複数の画像で構成された画像(例えばサイドバイサイド方式の三次元画像等)における画像の境界部に接しているか否かを示す情報が、入力画像を供給する装置から入力される。この情報は、異なる複数の画像の境界部に接している画像ブロックを特定するための情報である。この情報に従って、符号化対象のマクロブロックが異なる画像の境界に接していない場合は、通常動作として二次元画像の符号化時と同じようにブロックマッチングを行い、動きベクトル検出を行う。一方、符号化対象のマクロブロックが異なる画像の境界に接している場合は、通常動作のときとは異なる符号化制御パラメータを発生させて、境界を跨いで隣接する2つのマクロブロックが同じ参照画像を参照し、かつ同じ動きベクトルを指し示すように制御する。
図7に異なる画像の境界を挟んで隣接する2つのマクロブロックの例を示す。図7において、異なる画像の境界に接しているマクロブロック701とマクロブロック702があり、動き予測部601はこの2つのマクロブロックについては、同じ参照画像を参照し、同じ動きベクトルを算出するように強制的に制御する。
同じ動きベクトルを算出するための符号化制御パラメータの一例としては、どちらか一方で求めた演算結果を共有する設定でもよいし、あらかじめ決められた動きベクトル値(例えば原点位置であるベクトル(0、0)等)をそれぞれに設定してもよい。また、マクロブロック701とマクロブロック702をセットにしてブロックマッチングを行い、2つのマクロブロックが同じ動きベクトルになるように動きベクトル検出を行ってもよい。
直交変換部103は、送られてきた差分画像データに対して整数精度での離散コサイン変換等の直交変換を行い、変換係数を生成し、量子化部602に出力する。
量子化部602では、送られてきた変換係数に対して、量子化処理を行う。量子化部602でも、符号化対象のマクロブロックが異なる画像の境界部分に接したマクロブロックかどうかで処理が変わる。具体的に、量子化部602には、画像の境界情報、すなわち各マクロブロックが異なる複数の画像で構成された画像(例えばサイドバイサイド方式の三次元画像等)における画像の境界部に接しているか否かを示す情報が、入力画像を供給する装置から入力される。この情報は、異なる複数の画像の境界部に接している画像ブロックを特定するための情報である。この情報に従って、符号化対象のマクロブロックが異なる画像の境界に接していない場合は、量子化部602は、量子化制御部603が出力する量子化パラメータに従い、量子化を行う。一方、符号化対象のマクロブロックが異なる画像の境界に接している場合は、量子化制御部603が出力する量子化パラメータ値にかかわらず、量子化部602が専用の符号化制御パラメータを発生させて量子化を行う。この専用の符号化制御パラメータとは、量子化後の変換係数が全て0になるような量子化パラメータを設定するものである。
どちらの場合でも、量子化された変換係数はエントロピー符号化部106に送られる。また、量子化された変換係数は、参照画像として用いられるローカルデコード画像作成のために逆量子化部107にも送られる。
エントロピー符号化部106では、量子化後の変換係数に対してジグザグスキャン、オルタネートスキャン等を行い、さらに、CAVLC等の可変長符号化、又はCABAC等の算出符号化を行う。そして、エントロピー符号化部106は、符号化後の画像データに対して、動きベクトルや量子化パラメータ、マクロブロック分割情報などの符号化方式情報を可変長符号化したものを付加し、符号化ストリームを生成する。また、符号化の際にマクロブロックごとの発生符号量を算出し、その情報を量子化制御部603に送る。
量子化制御部603では、エントロピー符号化部106から発生符号量の情報を受け取り、目標ビットレートに従った符号量になるように量子化パラメータを決定し、量子化部602へ出力する。
逆量子化部107では、入力された量子化後の変換係数に対して逆量子化を行い、変換係数を復元し、逆直交変換部108に出力する。逆直交変換部108では、入力された変換係数に対して、直交変換部103で行われたものの逆変換を行い、差分画像データを復元する。差分画像データは動き補償部109に出力される。
動き補償部109では、動きベクトル位置の参照画像のデータを参照フレームバッファ111から読み出してきて、入力された差分画像データと加算することにより、ローカルデコード画像データを作成する。作成されたローカルデコード画像データはデブロッキングフィルタ部110に出力される。
デブロッキングフィルタ部110では、入力されたローカルデコード画像データに対してデブロッキングフィルタ処理を施す。デブロッキングフィルタ後の画像データが、参照画像を表すものとして、参照フレームバッファ111に格納される。このようにして、本実施形態の画像符号化装置により、符号化ストリーム及びローカルデコード画像データが生成される。
デブロッキングフィルタ部110では、H.264符号化方式の規格に沿ってデブロッキングフィルタ処理を行う。H.264符号化方式の規格によると、図8のように、Bs=0となる場合には、ブロック境界にデブロッキングフィルタ処理を行わない。図8のBs(Boundary Strength)値とは、画像のブロック境界の強度を表し、Bs=0〜4の値をとる。Bs値を決定する条件が図8に表されている。ここで、p、qはブロック境界を跨った2つのマクロブロックを表している。図7でいえば、マクロブロック701がp、マクロブロック702がqに該当する。
動き予測部601の制御により、異なる画像の境界に接した2つのブロックは、それぞれ参照画像及び動きベクトルが同じになっている。また、量子化部602の制御により、異なる画像の境界に接した2つのブロックは、量子化後の変換係数が全て0になっている。これらの条件から、図8よりBs=0となる。したがって本実施形態においては、異なる画像の境界には、デブロッキングフィルタがかからないようにすることができる。
以上のように、異なる画像の境界にまたがった2つのブロックに対して、参照画像、動きベクトルを同一にし、かつ量子化後の変換係数を全て0にすることで、異なる画像の境界部分にデブロッキングフィルタをかけなくすることができる。よって、本実施形態の画像符号化装置によれば、異なる画像の境界部分にはデブロッキングフィルタをかけず、それ以外の画像部分にはデブロッキングフィルタ処理を施すことにより、境界部分に劣化のない良好な画像を得ることができる。
なお、上述した第1及び第2の実施形態では、入力画像がサイドバイサイド方式の三次元画像等である場合に、画像の境界部に接しているか否かを示す情報を外部の装置から取得するものを例に説明したが、画像符号化装置内で検出するように構成しても良い。例えば、入力画像における所定の座標に位置するブロックを予め画像の境界部に接しているブロックと定めても良い。或いは、マクロブロック間の相関を検出して、ブロック境界を検出するようにしても良い。また、本発明は、サイドバイサイド方式の三次元画像以外に、ピクチャインピクチャ等で合成された二次元画像にも同様に適用可能である。
また、上述した本発明の第1の実施形態における図3に示した各処理は、各処理の機能を実現する為のコンピュータプログラムを本件発明の符号化装置が動作するシステムのメモリから読み出してシステムのCPUが実行することによっても実現できる。この場合、メモリに記憶されたプログラムは本件発明を構成する。
上記プログラムは、前述した機能の一部を実現する為のものであっても良い。さらに、前述した機能をコンピュータシステムに既に記録されているプログラムとの組合せで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
また、図3に示した各処理の全部または一部の機能を専用のハードウェアにより実現してもよい。また、図3に示した各処理の機能を実現する為のプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各処理を行っても良い。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
ここで、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置を含む。さらに、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記のプログラムを記録したコンピュータ読み取り可能な記録媒体等のプログラムプロダクトも本発明の実施形態として適用することができる。上記のプログラム、記録媒体、伝送媒体およびプログラムプロダクトは、本発明の範疇に含まれる。
以上、本発明を好ましい実施例により説明したが、本発明は上述した実施例に限ることなくクレームに示した範囲で種々の変更が可能である。
101 フレームバッファ
102 動き予測部
103 直交変換部
104 量子化部
105 量子化制御部
106 エントロピー符号化部
107 逆量子化部
108 逆直交変換部
109 動き補償部
110 デブロッキングフィルタ部
111 参照フレームバッファ

Claims (6)

  1. 複数の画像が合成されたフレーム画像を符号化する画像符号化装置であって、
    符号化対象のフレーム画像において、前記複数の画像の境界に接している画像ブロックを特定する情報を入力する入力手段と、
    前記符号化対象のフレーム画像のデータに対して動き予測、直交変換及び量子化を行って得られた画像データを符号化する符号化手段と、
    前記画像データに対して前記量子化の逆量子化及び前記直交変換の逆変換を行って、ローカルデコード画像を生成するローカルデコード手段と、
    前記ローカルデコード画像に対してデブロッキングフィルタ処理を施すデブロッキングフィルタ手段と、
    前記入力手段により入力された前記情報に基づいて特定される前記複数の画像の境界に接している画像ブロックに対しては、前記デブロッキングフィルタ処理がかからなくなるように、前記符号化手段に対して所定の符号化制御パラメータを設定する制御手段とを備えることを特徴とする画像符号化装置。
  2. 前記制御手段は、前記複数の画像の境界に接している画像ブロックに対しては、前記量子化に関して、所定の値を示す量子化パラメータを設定することを特徴とする請求項1に記載の画像符号化装置。
  3. 前記制御手段は、前記複数の画像の境界に接している画像ブロックに対しては、前記動き予測に関して、前記境界を跨いで隣接する2つの画像ブロックが同じ参照画像を参照し、かつ同じ動きベクトルを示すようにする動き予測の制御パラメータを設定し、さらに、前記量子化に関して、量子化後の係数が全て0になるような量子化パラメータを設定することを特徴とする請求項1に記載の画像符号化装置。
  4. 前記入力手段は、フレーム画像内で左目用画像と右目用画像とが合成されたサイドバイサイド方式の三次元画像を入力することを特徴とする請求項1乃至3のいずれか1項に記載の画像符号化装置。
  5. 複数の画像が合成されたフレーム画像を符号化する画像符号化方法であって、
    符号化対象のフレーム画像において、前記複数の画像の境界に接している画像ブロックを特定する情報を入力する入力工程と、
    前記符号化対象のフレーム画像のデータに対して動き予測、直交変換及び量子化を行って得られた画像データを符号化する符号化工程と、
    前記画像データに対して前記量子化の逆量子化及び前記直交変換の逆変換を行って、ローカルデコード画像を生成するローカルデコード工程と、
    前記ローカルデコード画像に対してデブロッキングフィルタ処理を施すデブロッキングフィルタ処理工程と、
    入力された前記情報に基づいて特定される前記複数の画像の境界に接している画像ブロックに対しては、前記デブロッキングフィルタ処理がかからなくなるように、前記符号化工程に対して所定の符号化制御パラメータを設定する設定工程とを有することを特徴とする画像符号化方法。
  6. 複数の画像が合成されたフレーム画像を符号化する処理をコンピュータに実行させるためのプログラムであって、
    符号化対象のフレーム画像において、前記複数の画像の境界に接している画像ブロックを特定する情報を入力する入力ステップと、
    前記符号化対象のフレーム画像のデータに対して動き予測、直交変換及び量子化を行って得られた画像データを符号化する符号化ステップと、
    前記画像データに対して前記量子化の逆量子化及び前記直交変換の逆変換を行って、ローカルデコード画像を生成するローカルデコードステップと、
    前記ローカルデコード画像に対してデブロッキングフィルタ処理を施すデブロッキングフィルタ処理ステップと、
    入力された前記情報に基づいて特定される前記複数の画像の境界に接している画像ブロックに対しては、前記デブロッキングフィルタ処理がかからなくなるように、前記符号化ステップに対して所定の符号化制御パラメータを設定する設定ステップとをコンピュータに実行させることを特徴とするプログラム。
JP2010269731A 2010-12-02 2010-12-02 符号化装置およびプログラム Expired - Fee Related JP5748463B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010269731A JP5748463B2 (ja) 2010-12-02 2010-12-02 符号化装置およびプログラム
US13/300,515 US9532076B2 (en) 2010-12-02 2011-11-18 Apparatus and method for encoding combined image including different images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010269731A JP5748463B2 (ja) 2010-12-02 2010-12-02 符号化装置およびプログラム

Publications (2)

Publication Number Publication Date
JP2012120054A true JP2012120054A (ja) 2012-06-21
JP5748463B2 JP5748463B2 (ja) 2015-07-15

Family

ID=46162215

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010269731A Expired - Fee Related JP5748463B2 (ja) 2010-12-02 2010-12-02 符号化装置およびプログラム

Country Status (2)

Country Link
US (1) US9532076B2 (ja)
JP (1) JP5748463B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018116924A1 (ja) * 2016-12-22 2018-06-28 キヤノン株式会社 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム
KR20190008193A (ko) * 2016-05-13 2019-01-23 소니 주식회사 생성 장치 및 생성 방법, 그리고, 재생 장치 및 재생 방법
WO2020079900A1 (ja) * 2018-10-18 2020-04-23 ソニー株式会社 符号化装置、符号化方法、復号装置

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2486692B (en) * 2010-12-22 2014-04-16 Canon Kk Method for encoding a video sequence and associated encoding device
JP5878295B2 (ja) * 2011-01-13 2016-03-08 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
JP2012178818A (ja) * 2011-01-31 2012-09-13 Panasonic Corp 映像符号化装置および映像符号化方法
JP2015002429A (ja) * 2013-06-14 2015-01-05 株式会社東芝 符号化装置及び監視システム
WO2017107207A1 (zh) * 2015-12-25 2017-06-29 王晓光 视频软件的编码方法及***

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005311512A (ja) * 2004-04-19 2005-11-04 Toshiba Corp エラーコンシールメント方法及び復号器
US20060177123A1 (en) * 2005-02-04 2006-08-10 Samsung Electronics Co., Ltd. Method and apparatus for encoding and decoding stereo image
JP2008259122A (ja) * 2007-04-09 2008-10-23 Matsushita Electric Ind Co Ltd 画像処理装置および画像処理方法
US20090028249A1 (en) * 2006-01-09 2009-01-29 Thomson Licensing Method and Apparatus for Providing Reduced Resolution Update Mode for Multi-View Video Coding
JP2009021908A (ja) * 2007-07-13 2009-01-29 Fujitsu Ltd 動画像符号化装置及びプログラム
WO2010035486A1 (ja) * 2008-09-29 2010-04-01 パナソニック株式会社 映像信号処理装置
WO2010123862A1 (en) * 2009-04-20 2010-10-28 Dolby Laboratories Licensing Corporation Adaptive interpolation filters for multi-layered video delivery

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7096487B1 (en) * 1999-10-27 2006-08-22 Sedna Patent Services, Llc Apparatus and method for combining realtime and non-realtime encoded content
US7254824B1 (en) * 1999-04-15 2007-08-07 Sedna Patent Services, Llc Encoding optimization techniques for encoding program grid section of server-centric interactive programming guide
DE10300048B4 (de) * 2002-01-05 2005-05-12 Samsung Electronics Co., Ltd., Suwon Verfahren und Vorrichtung zur Bildcodierung und -decodierung
US7848409B2 (en) * 2005-05-02 2010-12-07 Qualcomm Incorporated Macroblock level bit allocation
BRPI0706407B1 (pt) * 2006-01-09 2019-09-03 Interdigital Madison Patent Holdings método e aparelho para fornecer modo de atualização de resolução reduzida para codificação de vídeo de múltiplas visualizações e mídia de armazenamento tendo dados codificados de sinal de vídeo
US8542730B2 (en) * 2008-02-22 2013-09-24 Qualcomm, Incorporated Fast macroblock delta QP decision
US20090316793A1 (en) * 2008-06-20 2009-12-24 Yang Zhijie Michael Method and system for adaptive deblocking for avs1-p2
JP4974984B2 (ja) 2008-09-11 2012-07-11 三菱電機株式会社 映像記録装置及び方法
EP2327059B1 (en) * 2008-10-02 2014-08-27 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Intermediate view synthesis and multi-view data signal extraction
KR101353115B1 (ko) * 2009-08-03 2014-01-21 제너럴 인스트루먼트 코포레이션 비디오 컨텐트를 인코딩하는 방법

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005311512A (ja) * 2004-04-19 2005-11-04 Toshiba Corp エラーコンシールメント方法及び復号器
US20060177123A1 (en) * 2005-02-04 2006-08-10 Samsung Electronics Co., Ltd. Method and apparatus for encoding and decoding stereo image
US20090028249A1 (en) * 2006-01-09 2009-01-29 Thomson Licensing Method and Apparatus for Providing Reduced Resolution Update Mode for Multi-View Video Coding
JP2009522937A (ja) * 2006-01-09 2009-06-11 トムソン ライセンシング 削減された分解能更新モードをマルチビュー・ビデオ符号化に提供する方法及び装置
JP2008259122A (ja) * 2007-04-09 2008-10-23 Matsushita Electric Ind Co Ltd 画像処理装置および画像処理方法
JP2009021908A (ja) * 2007-07-13 2009-01-29 Fujitsu Ltd 動画像符号化装置及びプログラム
WO2010035486A1 (ja) * 2008-09-29 2010-04-01 パナソニック株式会社 映像信号処理装置
WO2010123862A1 (en) * 2009-04-20 2010-10-28 Dolby Laboratories Licensing Corporation Adaptive interpolation filters for multi-layered video delivery

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190008193A (ko) * 2016-05-13 2019-01-23 소니 주식회사 생성 장치 및 생성 방법, 그리고, 재생 장치 및 재생 방법
JPWO2017195650A1 (ja) * 2016-05-13 2019-03-14 ソニー株式会社 生成装置および生成方法、並びに、再生装置および再生方法
KR102343651B1 (ko) * 2016-05-13 2021-12-28 소니그룹주식회사 생성 장치 및 생성 방법, 그리고, 재생 장치 및 재생 방법
WO2018116924A1 (ja) * 2016-12-22 2018-06-28 キヤノン株式会社 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム
WO2020079900A1 (ja) * 2018-10-18 2020-04-23 ソニー株式会社 符号化装置、符号化方法、復号装置
JPWO2020079900A1 (ja) * 2018-10-18 2021-09-24 ソニーグループ株式会社 符号化装置、符号化方法、復号装置

Also Published As

Publication number Publication date
JP5748463B2 (ja) 2015-07-15
US20120140827A1 (en) 2012-06-07
US9532076B2 (en) 2016-12-27

Similar Documents

Publication Publication Date Title
KR102668077B1 (ko) 영상 부호화 및 복호화 장치 및 그 방법
JP5748463B2 (ja) 符号化装置およびプログラム
US9552633B2 (en) Depth aware enhancement for stereo video
KR102512053B1 (ko) 스킵 모드를 이용한 영상 복호화 방법 및 이러한 방법을 사용하는 장치
JP5174958B2 (ja) ビデオのコーダとデコーダとの同時最適化のための方法およびシステム
US11641465B2 (en) Method and apparatus of cross-component adaptive loop filtering with virtual boundary for video coding
KR20230127361A (ko) 움직임 벡터 정밀도의 선택
US10798417B2 (en) Deblock filtering for 360-degree video coding
CN105637766B (zh) 二元分割模式的推导方法及装置
JP7459347B2 (ja) クロマ量子化パラメータオフセット関連情報をコーディングする画像デコード方法及びその装置
JP2012034352A (ja) ステレオ動画像符号化装置及びステレオ動画像符号化方法
CN113243106B (zh) 一种用于视频图像的预测块的帧内预测的设备和方法
US8687910B2 (en) Image filtering method using pseudo-random number filter and apparatus thereof
US20120002864A1 (en) Image processing unit, image processing method, and computer program
CN112262574A (zh) 一种用于帧内预测的设备和方法
JP2013138502A (ja) 符号化装置及びその制御方法、コンピュータプログラム
JP2012178818A (ja) 映像符号化装置および映像符号化方法
JP6396782B2 (ja) デブロッキング処理方法、デブロッキング処理装置、コンピュータプログラム及び記録媒体
KR20230015392A (ko) Gci를 시그널링하는 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 컴퓨터 판독 가능한 기록 매체
JP2015171117A (ja) 画像符号化装置
JP2014007713A (ja) デブロッキング処理方法、デブロッキング処理装置、プログラム、及び記録媒体
JP2013110532A (ja) 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法およびプログラム
JP2013110466A (ja) 動画像符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140924

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150414

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150512

R151 Written notification of patent or utility model registration

Ref document number: 5748463

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees