JP2013012860A - Image processing device and method - Google Patents
Image processing device and method Download PDFInfo
- Publication number
- JP2013012860A JP2013012860A JP2011143574A JP2011143574A JP2013012860A JP 2013012860 A JP2013012860 A JP 2013012860A JP 2011143574 A JP2011143574 A JP 2011143574A JP 2011143574 A JP2011143574 A JP 2011143574A JP 2013012860 A JP2013012860 A JP 2013012860A
- Authority
- JP
- Japan
- Prior art keywords
- motion vector
- unit
- image
- motion
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
本開示は、画像処理装置および方法に関し、特に、動きベクトルを格納するのに必要な記憶容量の増大を抑制することができるようにした画像処理装置および方法に関する。 The present disclosure relates to an image processing apparatus and method, and more particularly, to an image processing apparatus and method capable of suppressing an increase in storage capacity necessary for storing motion vectors.
近年、画像情報をデジタルとして取り扱い、その際、効率の高い情報の伝送、蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮するMPEG(Moving Picture Experts Group)などの方式に準拠した装置が、放送局などの情報配信、及び一般家庭における情報受信の双方において普及しつつある。 In recent years, image information is handled as digital data, and MPEG (compressed by orthogonal transform such as discrete cosine transform and motion compensation is used for the purpose of efficient transmission and storage of information. A device conforming to a system such as Moving Picture Experts Group) is becoming popular in both information distribution at broadcasting stations and information reception in general households.
特に、MPEG2(ISO(International Organization for Standardization)/IEC(International Electrotechnical Commission) 13818-2)は、汎用画像符号化方式として定義されており、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準で、プロフェッショナル用途及びコンシューマ用途の広範なアプリケーションに現在広く用いられている。MPEG2圧縮方式を用いることにより、例えば720×480画素を持つ標準解像度の飛び越し走査画像であれば4〜8Mbps、1920×1088画素を持つ高解像度の飛び越し走査画像であれば18〜22Mbpsの符号量(ビットレート)を割り当てることで、高い圧縮率と良好な画質の実現が可能である。 In particular, MPEG2 (ISO (International Organization for Standardization) / IEC (International Electrotechnical Commission) 13818-2) is defined as a general-purpose image coding system, which includes both interlaced scanning images and progressive scanning images, as well as standard resolution images and This standard covers high-definition images and is currently widely used in a wide range of professional and consumer applications. By using the MPEG2 compression method, for example, a standard resolution interlaced scanning image having 720 × 480 pixels is 4 to 8 Mbps, and a high resolution interlaced scanning image having 1920 × 1088 pixels is 18 to 22 Mbps. (Bit rate) can be assigned to achieve a high compression rate and good image quality.
MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量(ビットレート)、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。画像符号化方式に関しては、1998年12月にISO/IEC 14496-2としてその規格が国際標準に承認された。 MPEG2 was mainly intended for high-quality encoding suitable for broadcasting, but did not support encoding methods with a lower code amount (bit rate) than MPEG1, that is, a higher compression rate. With the widespread use of mobile terminals, the need for such an encoding system is expected to increase in the future, and the MPEG4 encoding system has been standardized accordingly. Regarding the image coding system, the standard was approved as an international standard as ISO / IEC 14496-2 in December 1998.
更に、近年、当初テレビ会議用の画像符号化を目的として、H.26L (ITU-T(International Telecommunication Union Telecommunication Standardization Sector) Q6/16 VCEG(Video Coding Expert Group))という標準の規格化が進んでいる。H.26LはMPEG2やMPEG4といった従来の符号化方式に比べ、その符号化、復号化により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。また、現在、MPEG4の活動の一環として、このH.26Lをベースに、H.26Lではサポートされない機能をも取り入れ、より高い符号化効率を実現する標準化がJoint Model of Enhanced-Compression Video Codingとして行われている。 Furthermore, in recent years, the standardization of the standard called H.26L (ITU-T (International Telecommunication Union Telecommunication Standardization Sector) Q6 / 16 VCEG (Video Coding Expert Group)) has progressed for the purpose of image coding for the initial video conference. Yes. H.26L is known to achieve higher encoding efficiency than the conventional encoding schemes such as MPEG2 and MPEG4, although a large amount of calculation is required for encoding and decoding. Currently, as part of MPEG4 activities, standardization to achieve higher coding efficiency based on this H.26L and incorporating functions not supported by H.26L is performed as Joint Model of Enhanced-Compression Video Coding. It has been broken.
標準化のスケジュールとしては、2003年3月にはH.264及びMPEG-4 Part10 (Advanced Video Coding、以下AVCと記す)という名の元に国際標準となった。 The standardization schedule became an international standard in March 2003 under the names of H.264 and MPEG-4 Part 10 (Advanced Video Coding, hereinafter referred to as AVC).
しかしながら、マクロブロックサイズを16画素×16画素とするのは、次世代符号化方式の対象となるような、UHD(Ultra High Definition;4000画素×2000画素)といった大きな画枠に対しては、最適ではない恐れがあった。 However, the macroblock size of 16 pixels x 16 pixels is optimal for large image frames such as UHD (Ultra High Definition; 4000 pixels x 2000 pixels), which are subject to the next-generation encoding method. There was no fear.
そこで、現在、AVCより更なる符号化効率の向上を目的として、ITU-Tと、ISO/IECの共同の標準化団体であるJCTVC(Joint Collaboration Team - Video Coding)により、HEVC(High Efficiency Video Coding)と呼ばれる符号化方式の標準化が進められている(例えば、非特許文献1参照)。 Therefore, for the purpose of further improving the encoding efficiency compared to AVC, HEVC (High Efficiency Video Coding) is being developed by JCTVC (Joint Collaboration Team-Video Coding), a joint standardization organization of ITU-T and ISO / IEC. Is being standardized (for example, see Non-Patent Document 1).
このHEVC符号化方式においては、AVCにおけるマクロブロックと同様の処理単位としてコーディングユニット(CU(Coding Unit))が定義されている。このCUは、AVCのマクロブロックのようにサイズが16×16画素に固定されず、それぞれのシーケンスにおいて、画像圧縮情報中において指定される。 In this HEVC encoding system, a coding unit (CU (Coding Unit)) is defined as a processing unit similar to a macroblock in AVC. The CU is not fixed to a size of 16 × 16 pixels like the AVC macroblock, and is specified in the image compression information in each sequence.
ところで、AVCにおけるメディアン予測を用いた動きベクトルの符号化を改善するため、AVCにおいて定義されている、メディアン予測により求められる”Spatial Predictor”に加え、”Temporal Predictor”及び”Spatio-Temporal Predictor”のどれかを、予測動きベクトル情報として、適応的に用いること(以下、MVコンペティション(MVCompetition)とも称する)が提案されている(例えば、非特許文献2参照)。 By the way, in order to improve motion vector coding using median prediction in AVC, in addition to “Spatial Predictor” required by median prediction defined in AVC, “Temporal Predictor” and “Spatio-Temporal Predictor” It has been proposed to use any of them adaptively as predicted motion vector information (hereinafter also referred to as MV Competition) (see, for example, Non-Patent Document 2).
画像情報符号化装置においては、それぞれのブロックに関して、それぞれの予測動きベクトル情報を用いた場合のコスト関数が算出され、最適な予測動きベクトル情報の選択が行われる。画像圧縮情報においては、それぞれのブロックに対し、どの予測動きベクトル情報が用いられたかに関する情報を示すフラグ情報が伝送される。 In the image information encoding apparatus, a cost function when each predicted motion vector information is used is calculated for each block, and optimal predicted motion vector information is selected. In the image compression information, flag information indicating information regarding which predicted motion vector information is used is transmitted to each block.
上述したMVコンペティションにおいては、時間的な相関性を利用するTemporal PredictorやSpatio-Temporal Predictorのために、参照フレーム(参照ピクチャ)の動きベクトル情報を保持しなければならない。 In the above-described MV competition, motion vector information of a reference frame (reference picture) must be retained for a temporal predictor or a spatio-temporal predictor that uses temporal correlation.
すなわち、動き予測により得られた動きベクトル情報を、自身より後に処理されるフレームの、自身を参照する領域の処理が行われるまで、メモリ(記憶領域)に確保しなければならない。 That is, the motion vector information obtained by motion prediction must be secured in a memory (storage area) until processing of an area that refers to itself of a frame processed after itself is performed.
しかしながら、近年、符号化対象の画像データのフレーム(ピクチャ)のサイズは増大する傾向にあり、それに伴い、保持する動きベクトルの数も増大している。したがって、動きベクトルを格納するために必要なメモリ(記憶領域)の容量が増大し、コストが増大する恐れがあった。 However, in recent years, the size of a frame (picture) of image data to be encoded tends to increase, and the number of motion vectors to be held increases accordingly. Therefore, the capacity of the memory (storage area) necessary for storing the motion vector increases, which may increase the cost.
本開示は、このような状況に鑑みてなされたものであり、動きベクトルを格納するのに必要な記憶容量の増大を抑制することを目的とする。 The present disclosure has been made in view of such a situation, and an object thereof is to suppress an increase in a storage capacity necessary for storing a motion vector.
本開示の一側面は、画像の動き予測において、処理対象である前記画像の当該領域の動きベクトルの予測の際に参照される、当該領域の周辺領域の動きベクトルの情報量を低減させる低減部と、前記低減部により情報量が低減された前記動きベクトルを記憶する記憶部とを備える画像処理装置である。 One aspect of the present disclosure is a reduction unit configured to reduce an information amount of a motion vector in a peripheral region of the region that is referred to when predicting a motion vector of the region of the image that is a processing target in motion prediction of the image. And a storage unit for storing the motion vector whose information amount is reduced by the reduction unit.
前記低減部は、前記動きベクトルを量子化することにより、前記動きベクトルの情報量を低減させ、前記記憶部は、量子化された前記動きベクトルを記憶することができる。 The reduction unit may reduce the information amount of the motion vector by quantizing the motion vector, and the storage unit may store the quantized motion vector.
前記低減部は、前記動きベクトルの大きさに応じて、量子化ステップサイズを決定し、決定した前記量子化ステップサイズで前記動きベクトルを量子化することができる。 The reduction unit may determine a quantization step size according to the magnitude of the motion vector, and may quantize the motion vector with the determined quantization step size.
前記低減部は、前記動きベクトルがより大きいほど、前記量子化ステップサイズをより大きな値に決定することができる。 The reduction unit may determine the quantization step size to a larger value as the motion vector is larger.
前記低減部は、閾値を設定し、前記動きベクトルの大きさを前記閾値を用いて判定し、その判定結果に応じて、前記量子化ステップサイズを決定し、決定した前記量子化ステップサイズで前記動きベクトルを量子化することができる。 The reduction unit sets a threshold value, determines the magnitude of the motion vector using the threshold value, determines the quantization step size according to the determination result, and determines the quantization step size with the determined quantization step size. The motion vector can be quantized.
前記低減部は、プロファイル・レベルに応じて前記閾値を設定することができる。 The reduction unit may set the threshold according to a profile level.
前記プロファイル・レベルは、前記画像のサイズ、若しくは、前記動きベクトルの少数精度であるようにすることができる。 The profile level may be the size of the image or the decimal precision of the motion vector.
前記低減部は、前記動きベクトルの各成分の大きさを前記閾値を用いて判定し、より大きな成分の判定結果に応じて前記量子化ステップサイズを決定し、決定した前記量子化ステップサイズで前記動きベクトルを量子化することができる。 The reduction unit determines the size of each component of the motion vector using the threshold, determines the quantization step size according to a determination result of a larger component, and uses the determined quantization step size to determine the quantization step size. The motion vector can be quantized.
前記閾値を符号化する符号化部をさらに備えることができる。 The image processing apparatus may further include an encoding unit that encodes the threshold value.
前記低減部は、上限値以上の値を全て前記上限値に変更するクリップ処理により、前記動きベクトルの情報量を低減させることができる。 The said reduction part can reduce the information content of the said motion vector by the clip process which changes all the values more than an upper limit into the said upper limit.
前記低減部は、前記動きベクトルの情報量を、前記動きベクトルの成分毎に低減させることができる。 The reduction unit can reduce the information amount of the motion vector for each component of the motion vector.
前記低減部は、前記動きベクトルの成分毎に閾値を設定し、前記動きベクトルの各成分の大きさを、その成分の閾値を用いて判定し、その判定結果に応じて、前記量子化ステップサイズを成分毎に決定し、決定した前記量子化ステップサイズで前記動きベクトルの各成分を量子化することができる。 The reduction unit sets a threshold value for each component of the motion vector, determines the size of each component of the motion vector using the threshold value of the component, and determines the quantization step size according to the determination result Can be determined for each component, and each component of the motion vector can be quantized with the determined quantization step size.
前記記憶部に記憶されている、量子化された動きベクトルを読み出し、逆量子化する逆量子化部をさらに備えることができる。 The image processing apparatus may further include an inverse quantization unit that reads and inverse quantizes the quantized motion vector stored in the storage unit.
前記低減部は、閾値を設定し、前記動きベクトルの大きさを前記閾値を用いて判定し、その判定結果に応じて前記量子化ステップサイズを決定し、決定した量子化ステップサイズで前記動きベクトルを量子化し、前記逆量子化部は、前記閾値を用いて、前記記憶部から読み出した、量子化された動きベクトルの大きさを判定し、その判定結果に応じて量子化ステップサイズを決定し、決定した量子化ステップサイズで、量子化された前記動きベクトルを逆量子化することができる。 The reduction unit sets a threshold, determines the magnitude of the motion vector using the threshold, determines the quantization step size according to the determination result, and uses the determined quantization step size for the motion vector. The inverse quantization unit determines the size of the quantized motion vector read from the storage unit using the threshold, and determines the quantization step size according to the determination result. The quantized motion vector can be inversely quantized with the determined quantization step size.
前記逆量子化部により逆量子化された前記動きベクトルを時間周辺動きベクトルとして利用し、当該領域の予測動きベクトルを生成する予測動きベクトル生成部をさらに備えることができる。 The apparatus may further include a predicted motion vector generation unit that generates a predicted motion vector of the region by using the motion vector inversely quantized by the inverse quantization unit as a temporal peripheral motion vector.
前記逆量子化部により逆量子化された前記動きベクトルを時間周辺動きベクトルとして利用し、当該領域の予測動きベクトルを再構築する予測動きベクトル再構築部をさらに備えることができる。 The image processing apparatus may further include a predicted motion vector reconstructing unit that reconstructs the predicted motion vector of the region by using the motion vector dequantized by the dequantization unit as a temporal peripheral motion vector.
閾値を取得する閾値取得部をさらに備え、前記低減部は、前記動きベクトルの大きさを、前記閾値取得部により取得された前記閾値を用いて判定し、その判定結果に応じて、前記量子化ステップサイズを決定し、決定した前記量子化ステップサイズで前記動きベクトルを量子化することができる。 A threshold acquisition unit that acquires a threshold is further provided, wherein the reduction unit determines the magnitude of the motion vector using the threshold acquired by the threshold acquisition unit, and the quantization according to the determination result A step size can be determined, and the motion vector can be quantized with the determined quantization step size.
前記閾値取得部により取得された前記閾値を用いて、前記記憶部から読み出した、量子化された前記動きベクトルの大きさを判定し、その判定結果に応じて量子化ステップサイズを決定し、決定した量子化ステップサイズで、量子化された前記動きベクトルを逆量子化する逆量子化部と、前記逆量子化部により逆量子化された前記動きベクトルを時間周辺動きベクトルとして利用し、当該領域の予測動きベクトルを再構築する予測動きベクトル再構築部とをさらに備えることができる。 Using the threshold acquired by the threshold acquisition unit, determine the magnitude of the quantized motion vector read from the storage unit, determine the quantization step size according to the determination result, and determine An inverse quantization unit that inversely quantizes the quantized motion vector with the quantization step size, and the motion vector inversely quantized by the inverse quantization unit is used as a temporal peripheral motion vector, And a predicted motion vector reconstruction unit that reconstructs the predicted motion vector.
符号化データを復号する復号部をさらに備え、前記閾値取得部は、前記復号部により復号された前記符号化データから抽出された前記閾値を取得することができる。 The apparatus may further include a decoding unit that decodes the encoded data, and the threshold value acquisition unit may acquire the threshold value extracted from the encoded data decoded by the decoding unit.
前記閾値取得部は、シーケンスパラメータセットに格納されている前記閾値を取得することができる。 The threshold acquisition unit can acquire the threshold stored in the sequence parameter set.
本開示の一側面は、また、画像処理装置の画像処理方法であって、低減部が、画像の動き予測において、処理対象である前記画像の当該領域の動きベクトルの予測の際に参照される、当該領域の周辺領域の動きベクトルの情報量を低減させ、記憶部が、情報量が低減された前記動きベクトルを記憶する画像処理方法である。 One aspect of the present disclosure is also an image processing method of the image processing apparatus, and the reduction unit is referred to when predicting a motion vector of the region of the image that is a processing target in image motion prediction. This is an image processing method in which the information amount of the motion vector in the peripheral region of the region is reduced, and the storage unit stores the motion vector in which the information amount is reduced.
本開示の一側面においては、画像の動き予測において、処理対象である前記画像の当該領域の動きベクトルの予測の際に参照される、当該領域の周辺領域の動きベクトルの情報量が低減され、その情報量が低減された前記動きベクトルが記憶される。 In one aspect of the present disclosure, in the motion estimation of an image, the information amount of a motion vector in a peripheral region of the region that is referred to when predicting a motion vector of the region of the image that is a processing target is reduced. The motion vector whose information amount is reduced is stored.
本開示によれば、画像を処理することができる。特に、動きベクトルを格納するのに必要な記憶容量の増大を抑制することができる。 According to the present disclosure, an image can be processed. In particular, an increase in storage capacity necessary for storing motion vectors can be suppressed.
以下、本開示を実施するための形態(以下実施の形態とする)について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(画像符号化装置)
2.第2の実施の形態(画像復号装置)
3.第3の実施の形態(動きベクトル量子化の他の例)
4.第4の実施の形態(動きベクトル量子化の、さらに他の例)
5.第5の実施の形態(コンピュータ)
6.第6の実施の形態(テレビジョン受像機)
7.第7の実施の形態(携帯電話機)
8.第8の実施の形態(記録再生装置)
9.第9の実施の形態(撮像装置)
Hereinafter, modes for carrying out the present disclosure (hereinafter referred to as embodiments) will be described. The description will be given in the following order.
1. First Embodiment (Image Encoding Device)
2. Second embodiment (image decoding apparatus)
3. Third embodiment (another example of motion vector quantization)
4). Fourth embodiment (another example of motion vector quantization)
5. Fifth embodiment (computer)
6). Sixth embodiment (television receiver)
7. Seventh embodiment (cellular phone)
8). Eighth embodiment (recording / reproducing apparatus)
9. Ninth embodiment (imaging device)
<1.第1の実施の形態>
[画像符号化装置]
図1は、画像符号化装置の主な構成例を示すブロック図である。
<1. First Embodiment>
[Image encoding device]
FIG. 1 is a block diagram illustrating a main configuration example of an image encoding device.
図1に示される画像符号化装置100は、例えばH.264及びMPEG(Moving Picture Experts Group)4 Part10(AVC(Advanced Video Coding))符号化方式のように、予測処理を用いて画像データを符号化する。 An image encoding device 100 shown in FIG. Like the H.264 and MPEG (Moving Picture Experts Group) 4 Part 10 (AVC (Advanced Video Coding)) encoding schemes, the image data is encoded using prediction processing.
図1に示されるように画像符号化装置100は、A/D変換部101、画面並べ替えバッファ102、演算部103、直交変換部104、量子化部105、可逆符号化部106、および蓄積バッファ107を有する。また、画像符号化装置100は、逆量子化部108、逆直交変換部109、演算部110、ループフィルタ111、フレームメモリ112、選択部113、イントラ予測部114、動き予測・補償部115、予測画像選択部116、およびレート制御部117を有する。
As shown in FIG. 1, the image encoding device 100 includes an A /
画像符号化装置100は、さらに、動きベクトル符号化部121、動きベクトル量子化部122、動きベクトルバッファ123、および、動きベクトル逆量子化部124を有する。
The image encoding device 100 further includes a motion
A/D変換部101は、入力された画像データをA/D変換し、変換後の画像データ(デジタルデータ)を、画面並べ替えバッファ102に供給し、記憶させる。画面並べ替えバッファ102は、記憶した表示の順番のフレームの画像を、GOP(Group Of Picture)に応じて、符号化のためのフレームの順番に並べ替え、フレームの順番を並び替えた画像を、演算部103に供給する。また、画面並べ替えバッファ102は、フレームの順番を並び替えた画像を、イントラ予測部114および動き予測・補償部115にも供給する。
The A /
演算部103は、画面並べ替えバッファ102から読み出された画像から、予測画像選択部116を介してイントラ予測部114若しくは動き予測・補償部115から供給される予測画像を減算し、その差分情報を直交変換部104に出力する。
The
例えば、イントラ符号化が行われる画像の場合、演算部103は、画面並べ替えバッファ102から読み出された画像から、イントラ予測部114から供給される予測画像を減算する。また、例えば、インター符号化が行われる画像の場合、演算部103は、画面並べ替えバッファ102から読み出された画像から、動き予測・補償部115から供給される予測画像を減算する。
For example, in the case of an image on which intra coding is performed, the
直交変換部104は、演算部103から供給される差分情報に対して、離散コサイン変換やカルーネン・レーベ変換等の直交変換を施す。なお、この直交変換の方法は任意である。直交変換部104は、その変換係数を量子化部105に供給する。
The
量子化部105は、直交変換部104から供給される変換係数を量子化する。量子化部105は、レート制御部117から供給される符号量の目標値に関する情報に基づいて量子化パラメータを設定し、その量子化を行う。なお、この量子化の方法は任意である。量子化部105は、量子化された変換係数を可逆符号化部106に供給する。
The quantization unit 105 quantizes the transform coefficient supplied from the
可逆符号化部106は、量子化部105において量子化された変換係数を、任意の符号化方式で符号化する。係数データは、レート制御部117の制御の下で量子化されているので、この符号量は、レート制御部117が設定した目標値となる(若しくは目標値に近似する)。
The
また、可逆符号化部106は、イントラ予測のモードを示す情報等を含むイントラ予測情報をイントラ予測部114から取得し、インター予測のモードを示す情報や動きベクトル情報などを含むインター予測情報を動き予測・補償部115から取得する。さらに、可逆符号化部106は、ループフィルタ111において使用されたフィルタ係数等を取得する。また、可逆符号化部106は、動きベクトル量子化部122から供給される閾値を取得する。
Further, the
可逆符号化部106は、これらの各種情報を任意の符号化方式で符号化し、符号化データのヘッダ情報の一部とする(多重化する)。例えば、可逆符号化部106は、動きベクトル量子化部122から供給される閾値をシーケンスパラメータセット(SPS)に格納する。もちろん、この閾値が格納される位置は任意であり、シーケンスパラメータセット以外であってもよく、例えば、ピクチャパラメータセット(PPS)やスライスヘッダ等に格納されるようにしてもよい。可逆符号化部106は、符号化して得られた符号化データを蓄積バッファ107に供給して蓄積させる。
The
可逆符号化部106の符号化方式としては、例えば、可変長符号化または算術符号化等が挙げられる。可変長符号化としては、例えば、H.264/AVC方式で定められているCAVLC(Context-Adaptive Variable Length Coding)などが挙げられる。算術符号化としては、例えば、CABAC(Context-Adaptive Binary Arithmetic Coding)などが挙げられる。
Examples of the encoding scheme of the
蓄積バッファ107は、可逆符号化部106から供給された符号化データを、一時的に保持する。蓄積バッファ107は、所定のタイミングにおいて、保持している符号化データを、ビットストリームとして、例えば、後段の図示せぬ記録装置(記録媒体)や伝送路などに出力する。つまり、符号化された各種情報が復号側に供給される。
The
また、量子化部105において量子化された変換係数は、逆量子化部108にも供給される。逆量子化部108は、その量子化された変換係数を、量子化部105による量子化に対応する方法で逆量子化する。この逆量子化の方法は、量子化部105による量子化処理に対応する方法であればどのような方法であってもよい。逆量子化部108は、得られた変換係数を、逆直交変換部109に供給する。
The transform coefficient quantized by the quantization unit 105 is also supplied to the
逆直交変換部109は、逆量子化部108から供給された変換係数を、直交変換部104による直交変換処理に対応する方法で逆直交変換する。この逆直交変換の方法は、直交変換部104による直交変換処理に対応する方法であればどのようなものであってもよい。逆直交変換された出力(局所的に復元された差分情報)は、演算部110に供給される。
The inverse
演算部110は、逆直交変換部109から供給された逆直交変換結果、すなわち、局所的に復元された差分情報に、予測画像選択部116を介してイントラ予測部114若しくは動き予測・補償部115から供給される予測画像を加算し、局所的に再構成された画像(以下、再構成画像と称する)を得る。その再構成画像は、ループフィルタ111またはフレームメモリ112に供給される。
The
ループフィルタ111は、デブロックフィルタや適応ループフィルタ等を含み、演算部110から供給される復号画像に対して適宜フィルタ処理を行う。例えば、ループフィルタ111は、復号画像に対してデブロックフィルタ処理を行うことにより復号画像のブロック歪を除去する。また、例えば、ループフィルタ111は、そのデブロックフィルタ処理結果(ブロック歪みの除去が行われた復号画像)に対して、ウィナーフィルタ(Wiener Filter)を用いてループフィルタ処理を行うことにより画質改善を行う。
The loop filter 111 includes a deblock filter, an adaptive loop filter, and the like, and appropriately performs a filtering process on the decoded image supplied from the
なお、ループフィルタ111が、復号画像に対して任意のフィルタ処理を行うようにしてもよい。また、ループフィルタ111は、必要に応じて、フィルタ処理に用いたフィルタ係数等の情報を可逆符号化部106に供給し、それを符号化させるようにすることもできる。
Note that the loop filter 111 may perform arbitrary filter processing on the decoded image. Further, the loop filter 111 can supply information such as filter coefficients used for the filter processing to the
ループフィルタ111は、フィルタ処理結果(以下、復号画像と称する)をフレームメモリ112に供給する。
The loop filter 111 supplies a filter processing result (hereinafter referred to as a decoded image) to the
フレームメモリ112は、演算部110から供給される再構成画像と、ループフィルタ111から供給される復号画像とをそれぞれ記憶する。フレームメモリ112は、所定のタイミングにおいて、若しくは、イントラ予測部114等の外部からの要求に基づいて、記憶している再構成画像を、選択部113を介して、イントラ予測部114に供給する。また、フレームメモリ112は、所定のタイミングにおいて、若しくは、動き予測・補償部115等の外部からの要求に基づいて、記憶している復号画像を、選択部113を介して、動き予測・補償部115に供給する。
The
選択部113は、フレームメモリ112から出力される画像の供給先を示す。例えば、イントラ予測の場合、選択部113は、フレームメモリ112からフィルタ処理されていない画像(再構成画像)を読み出し、周辺画素として、イントラ予測部114に供給する。
The
また、例えば、インター予測の場合、選択部113は、フレームメモリ112からフィルタ処理された画像(復号画像)を読み出し、参照画像として、それを動き予測・補償部115に供給する。
For example, in the case of inter prediction, the
イントラ予測部114は、フレームメモリ112から、処理対象領域の周辺に位置する周辺領域の画像(周辺画像)を取得すると、その周辺画像の画素値を用いて、基本的にプレディクションユニット(PU)を処理単位として予測画像を生成するイントラ予測(画面内予測)を行う。イントラ予測部114は、予め用意された複数のモード(イントラ予測モード)でこのイントラ予測を行う。
When the
イントラ予測部114は、候補となる全てのイントラ予測モードで予測画像を生成し、画面並べ替えバッファ102から供給される入力画像を用いて各予測画像のコスト関数値を評価し、最適なモードを選択する。イントラ予測部114は、最適なイントラ予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部116に供給する。
The
また、イントラ予測部114は、最適なイントラ予測モード等、イントラ予測に関する情報を含むイントラ予測情報を、適宜可逆符号化部106に供給し、符号化させる。
The
動き予測・補償部115は、画面並べ替えバッファ102から供給される入力画像と、フレームメモリ112から供給される参照画像とを用いて、基本的にPUを処理単位として、動き予測(インター予測)を行い、検出された動きベクトルに応じて動き補償処理を行い、予測画像(インター予測画像情報)を生成する。動き予測・補償部115は、予め用意された複数のモード(インター予測モード)でこのようなインター予測を行う。
The motion prediction /
動き予測・補償部115は、候補となる全てのインター予測モードで予測画像を生成し、各予測画像のコスト関数値を評価し、最適なモードを選択する。動き予測・補償部115は、最適なインター予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部116に供給する。
The motion prediction /
また、動き予測・補償部115は、最適なインター予測モード等、インター予測に関する情報を含むインター予測情報を可逆符号化部106に供給し、符号化させる。
In addition, the motion prediction /
予測画像選択部116は、演算部103や演算部110に供給する予測画像の供給元を選択する。例えば、イントラ符号化の場合、予測画像選択部116は、予測画像の供給元としてイントラ予測部114を選択し、そのイントラ予測部114から供給される予測画像を演算部103や演算部110に供給する。また、例えば、インター符号化の場合、予測画像選択部116は、予測画像の供給元として動き予測・補償部115を選択し、その動き予測・補償部115から供給される予測画像を演算部103や演算部110に供給する。
The predicted
レート制御部117は、蓄積バッファ107に蓄積された符号化データの符号量に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部105の量子化動作のレートを制御する。
The
動きベクトル符号化部121は、予測処理対象である当該領域の周辺の動きベクトルを用いて当該領域の動きベクトルを予測するとともに、その予測された動きベクトル(予測動き情報)と、動き予測により得られた当該領域の動きベクトル(動き情報)との差分(差分動き情報)を算出する。
The motion
この差分動き情報は、当該領域の動き情報の情報量を低減させたものであり、動き情報の代わりに復号側に伝送される。 This difference motion information is obtained by reducing the amount of motion information in the region, and is transmitted to the decoding side instead of the motion information.
動きベクトル量子化部122は、動きベクトルバッファ123に格納する動きベクトル(動き情報)を量子化する。動きベクトルバッファ123は、動きベクトル量子化部122により量子化された動きベクトル(動き情報)を格納する。動きベクトル逆量子化部124は、動きベクトル符号化部121が動きベクトルバッファ123から読み出した、量子化された動きベクトル(量子化された動き情報)を逆量子化する。
The motion
[1/4画素精度動き予測]
図2は、AVC符号化方式において規定されている、1/4画素精度の動き予測・補償処理の様子の例を説明する図である。図2において、各四角は、画素を示している。その内、Aはフレームメモリ112に格納されている整数精度画素の位置を示し、b,c,dは、1/2画素精度の位置を示し、e1,e2,e3は1/4画素精度の位置を示している。
[1/4 pixel precision motion prediction]
FIG. 2 is a diagram for explaining an example of a state of motion prediction / compensation processing with 1/4 pixel accuracy defined in the AVC encoding method. In FIG. 2, each square represents a pixel. Among them, A indicates the position of integer precision pixels stored in the
以下においては、関数Clip1()を以下の式(1)のように定義する。 In the following, the function Clip1 () is defined as in the following equation (1).
例えば、入力画像が8ビット精度である場合、式(1)のmax_pixの値は255となる。 For example, when the input image has 8-bit precision, the value of max_pix in Expression (1) is 255.
b及びdの位置における画素値は、6tapのFIRフィルタを用いて、以下の式(2)および式(3)のように生成される。 The pixel values at the positions b and d are generated as in the following expressions (2) and (3) using a 6 tap FIR filter.
cの位置における画素値は、水平方向及び垂直方向に6tapのFIRフィルタを適用し、以下の式(4)乃至式(6)のように生成される。 The pixel value at the position c is generated as shown in the following equations (4) to (6) by applying a 6 tap FIR filter in the horizontal direction and the vertical direction.
もしくは、
Or
なお、Clip処理は、水平方向及び垂直方向の積和処理の両方を行った後、最後に1度のみ行われる。 Note that the Clip process is performed only once at the end after performing both the horizontal and vertical product-sum processes.
e1乃至e3は、以下の式(7)乃至式(9)のように、線形内挿により生成される。 e1 to e3 are generated by linear interpolation as in the following formulas (7) to (9).
[マクロブロック]
また、MPEG2においては、動き予測・補償処理の単位は、フレーム動き補償モードの場合には16×16画素、フィールド動き補償モードの場合には第一フィールド、第二フィールドのそれぞれに対し、16×8画素を単位として動き予測・補償処理が行なわれる。
[Macro block]
In MPEG2, the unit of motion prediction / compensation processing is 16 × 16 pixels in the frame motion compensation mode, and 16 × 16 for each of the first field and the second field in the field motion compensation mode. Motion prediction / compensation processing is performed in units of 8 pixels.
これに対し、AVCにおいては、図3に示されるように、16×16画素により構成される1つのマクロブロックを、16×16、16×8、8×16若しくは8×8のいずれかのパーティションに分割し、サブマクロブロック毎に、互いに独立した動きベクトル情報を持つことが可能である。更に、8×8パーティションに関しては、図3に示されるとおり、8×8、8×4、4×8、4×4のいずれかのサブマクロブロックに分割し、それぞれ独立した動きベクトル情報を持つことが可能である。 On the other hand, in AVC, as shown in FIG. 3, one macroblock composed of 16 × 16 pixels is divided into any partition of 16 × 16, 16 × 8, 8 × 16, or 8 × 8. It is possible to have independent motion vector information for each sub macroblock. Further, as shown in FIG. 3, the 8 × 8 partition is divided into 8 × 8, 8 × 4, 4 × 8, and 4 × 4 sub-macroblocks and has independent motion vector information. It is possible.
しかしながら、AVC画像符号化方式において、MPEG2の場合と同様に、かかるような動き予測・補償処理が行なわれるようにすると、膨大な動きベクトル情報が生成されてしまう恐れがあった。そして、その生成された動きベクトル情報をこのまま符号化することは、符号化効率の低下を招く恐れがあった。 However, in the AVC image encoding method, if such motion prediction / compensation processing is performed as in the case of MPEG2, a large amount of motion vector information may be generated. Then, encoding the generated motion vector information as it is may cause a decrease in encoding efficiency.
[動きベクトルのメディアン予測]
かかる問題を解決する手法として、AVC画像符号化においては、以下のような手法により、動きベクトルの符号化情報の低減が実現されている。
[Median prediction of motion vectors]
As a technique for solving this problem, in AVC image encoding, reduction of motion vector encoding information is realized by the following technique.
図4に示される各直線は、動き補償ブロックの境界を示している。また、図4において、Eはこれから符号化されようとしている当該動き補償ブロックを示し、A乃至Dは、それぞれ、既に符号化済の、Eに隣接する動き補償ブロックを示す。 Each straight line shown in FIG. 4 indicates the boundary of the motion compensation block. In FIG. 4, E indicates the motion compensation block that is about to be encoded, and A through D indicate motion compensation blocks that are already encoded and that are adjacent to E.
今、X=A,B,C,D,Eとして、Xに対する動きベクトル情報を、mvxとする。 Now, assuming that X = A, B, C, D, E, the motion vector information for X is mv x .
まず、動き補償ブロックA,B、およびCに関する動きベクトル情報を用い、動き補償ブロックEに対する予測動きベクトル情報pmvEを、メディアンオペレーションにより、以下の式(10)のように生成する。 First, motion vector information on motion compensation blocks A, B, and C is used, and predicted motion vector information pmv E for motion compensation block E is generated by the median operation as shown in the following equation (10).
動き補償ブロックCに関する情報が、画枠の端である等の理由により利用不可能(unavailable)である場合、動き補償ブロックDに関する情報で代用される。 If the information about the motion compensation block C is unavailable because it is at the edge of the image frame or the like, the information about the motion compensation block D is substituted.
画像圧縮情報に、動き補償ブロックEに対する動きベクトル情報として符号化されるデータmvdEは、pmvEを用いて、以下の式(11)のように生成される。 Data mvd E encoded as motion vector information for the motion compensation block E in the image compression information is generated as shown in the following equation (11) using pmv E.
なお、実際の処理は、動きベクトル情報の水平方向および垂直方向のそれぞれの成分に対して、独立に処理が行なわれる。 Note that the actual processing is performed independently for each of the horizontal and vertical components of the motion vector information.
[マルチ参照フレーム]
また、AVCにおいては、Multi-Reference Frame(マルチ(複数)参照フレーム)という、MPEG2やH.263等、従来の画像符号化方式では規定されていなかった方式が規定されている。
[Multi-reference frame]
In AVC, a method called Multi-Reference Frame (multi-reference frame), such as MPEG2 and H.263, which has not been specified in the conventional image encoding method is specified.
図5を用いて、AVCにおいて規定されている、マルチ参照フレーム(Multi-Reference Frame)を説明する。 A multi-reference frame defined in AVC will be described with reference to FIG.
すなわち、MPEG-2やH.263においては、Pピクチャの場合、フレームメモリに格納された参照フレーム1枚のみを参照することにより動き予測・補償処理が行われていたが、AVCにおいては、図5に示されるように、複数の参照フレームがメモリに格納され、マクロブロック毎に、異なるメモリを参照することが可能である。 That is, in MPEG-2 and H.263, in the case of a P picture, motion prediction / compensation processing is performed by referring to only one reference frame stored in the frame memory. As shown in FIG. 5, a plurality of reference frames are stored in the memory, and it is possible to refer to different memories for each macroblock.
[ダイレクトモード]
ところで、Bピクチャにおける動きベクトル情報における情報量は膨大であるが、AVCにおいては、Direct Mode(ダイレクトモード)と称されるモードが用意されている。
[Direct mode]
By the way, although the amount of information in the motion vector information in the B picture is enormous, in AVC, a mode called Direct Mode is provided.
このダイレクトモード(Direct Mode)において、動きベクトル情報は、画像圧縮情報中には格納されない。画像復号装置においては、周辺ブロックの動きベクトル情報、若しくは、参照フレームにおける処理対象ブロックと同じ位置のブロックであるCo-Locatedブロックの動きベクトル情報から、当該ブロックの動きベクトル情報が算出される。 In this direct mode, motion vector information is not stored in the image compression information. In the image decoding apparatus, the motion vector information of the block is calculated from the motion vector information of the peripheral block or the motion vector information of the Co-Located block that is a block at the same position as the processing target block in the reference frame.
ダイレクトモード(Direct Mode)には、Spatial Direct Mode(空間ダイレクトモード)と、Temporal Direct Mode(時間ダイレクトモード)の2種類が存在し、スライス毎に切り替えることが可能である。 There are two types of direct mode (Spatial Direct Mode) and Temporal Direct Mode (temporal direct mode), which can be switched for each slice.
空間ダイレクトモード(Spatial Direct Mode)においては、以下の式(12)に示されるように、処理対象動き補償ブロックEの動きベクトル情報mvEが算出される。 In the spatial direct mode, motion vector information mv E of the processing target motion compensation block E is calculated as shown in the following equation (12).
mvE = pmvE ・・・(12) mv E = pmv E (12)
すなわち、Median(メディアン)予測により生成された動きベクトル情報が、当該ブロックに適用される。 That is, motion vector information generated by Median prediction is applied to the block.
以下においては、図6を用いて、時間ダイレクトモード(Temporal Direct Mode)を説明する。 Hereinafter, a temporal direct mode will be described with reference to FIG.
図6において、L0参照ピクチャにおける、当該ブロックと同じ空間上のアドレスにあるブロックを、Co-Locatedブロックとし、Co-Locatedブロックにおける動きベクトル情報を、mvcolとする。また、当該ピクチャとL0参照ピクチャの時間軸上の距離をTDBとし、L0参照ピクチャとL1参照ピクチャの時間軸上の距離をTDDとする。 In FIG. 6, in the L0 reference picture, the block at the same space address as the current block is a Co-Located block, and the motion vector information in the Co-Located block is mv col . Also, the distance on the time axis of the picture and the L0 reference picture and TD B, to a temporal distance L0 reference picture and L1 reference picture and TD D.
この時、当該ピクチャにおける、L0の動きベクトル情報mvL0及びL1の動きベクトル情報mvL1は、以下の式(13)および式(14)のように算出される。 At this time, the motion vector information mv L0 of L0 and the motion vector information mv L1 of L1 in the picture are calculated as in the following equations (13) and (14).
なお、AVC画像圧縮情報においては、時間軸上の距離を表す情報TDが存在しないため、POC(Picture Order Count)を用いて、上述した式(12)および式(13)の演算が行われるものとする。 In the AVC image compression information, since the information TD indicating the distance on the time axis does not exist, the above-described calculations of Expression (12) and Expression (13) are performed using POC (Picture Order Count). And
また、AVC画像圧縮情報においては、ダイレクトモード(Direct Mode)は、16×16画素マクロブロック単位、若しくは、8×8画素ブロック単位で定義することが可能である。 In the AVC image compression information, the direct mode (Direct Mode) can be defined in units of 16 × 16 pixel macroblocks or in units of 8 × 8 pixel blocks.
[予測モードの選択]
ところで、AVC符号化方式において、より高い符号化効率を達成するには、適切な予測モードの選択が重要である。
[Select prediction mode]
By the way, in the AVC encoding method, in order to achieve higher encoding efficiency, selection of an appropriate prediction mode is important.
かかる選択方式の例として、JM(Joint Model)と呼ばれるH.264/MPEG-4 AVCの参照ソフトウエア(http://iphome.hhi.de/suehring/tml/index.htm において公開されている)に実装されている方法を挙げることが出来る。 As an example of such a selection method, H.264 / MPEG-4 AVC reference software called JM (Joint Model) (published at http://iphome.hhi.de/suehring/tml/index.htm) The method implemented in can be mentioned.
JMにおいては、以下に述べる、High Complexity Modeと、Low Complexity Modeの2通りのモード判定方法を選択することができる。どちらも、それぞれの予測モードに関するコスト関数値を算出し、これを最小にする予測モードを当該サブマクロブロック、または、当該マクロブロックに対する最適モードとして選択する。 In JM, the following two mode determination methods, High Complexity Mode and Low Complexity Mode, can be selected. In both cases, the cost function value for each prediction mode is calculated, and the prediction mode that minimizes the cost function value is selected as the sub macroblock or the optimum mode for the macroblock.
High Complexity Modeにおけるコスト関数は、以下の式(15)のように示される。 The cost function in High Complexity Mode is shown as the following formula (15).
Cost(Mode∈Ω) = D + λ*R ・・・(15) Cost (Mode∈Ω) = D + λ * R (15)
ここで、Ωは、当該ブロック乃至マクロブロックを符号化するための候補モードの全体集合、Dは、当該予測モードで符号化した場合の、復号画像と入力画像の差分エネルギーである。λは、量子化パラメータの関数として与えられるLagrange未定乗数である。Rは、直交変換係数を含んだ、当該モードで符号化した場合の総符号量である。 Here, Ω is the entire set of candidate modes for encoding the block or macroblock, and D is the difference energy between the decoded image and the input image when encoded in the prediction mode. λ is a Lagrange undetermined multiplier given as a function of the quantization parameter. R is the total code amount when encoding is performed in this mode, including orthogonal transform coefficients.
つまり、High Complexity Modeでの符号化を行うには、上記パラメータD及びRを算出するため、全ての候補モードにより、一度、仮エンコード処理を行う必要があり、より高い演算量を要する。 In other words, in order to perform encoding in the High Complexity Mode, the parameters D and R are calculated. Therefore, it is necessary to perform a temporary encoding process once in all candidate modes, which requires a higher calculation amount.
Low Complexity Modeにおけるコスト関数は、以下の式(16)のように示される。 The cost function in Low Complexity Mode is shown as the following Expression (16).
Cost(Mode∈Ω) = D + QP2Quant(QP) * HeaderBit ・・・(16) Cost (Mode∈Ω) = D + QP2Quant (QP) * HeaderBit (16)
ここで、Dは、High Complexity Modeの場合と異なり、予測画像と入力画像の差分エネルギーとなる。QP2Quant(QP)は、量子化パラメータQPの関数として与えられ、HeaderBitは、直交変換係数を含まない、動きベクトルや、モードといった、Headerに属する情報に関する符号量である。 Here, unlike the case of High Complexity Mode, D is the difference energy between the predicted image and the input image. QP2Quant (QP) is given as a function of the quantization parameter QP, and HeaderBit is a code amount related to information belonging to Header, such as a motion vector and mode, which does not include an orthogonal transform coefficient.
すなわち、Low Complexity Modeにおいては、それぞれの候補モードに関して、予測処理を行う必要があるが、復号画像までは必要ないため、符号化処理まで行う必要はない。このため、High Complexity Modeより低い演算量での実現が可能である。 That is, in Low Complexity Mode, it is necessary to perform prediction processing for each candidate mode, but it is not necessary to perform decoding processing because it is not necessary to perform decoding processing. For this reason, realization with a calculation amount lower than High Complexity Mode is possible.
[動きベクトルのコンペティション]
ところで、図4を参照して説明したような、メディアン予測を用いた動きベクトルの符号化を改善するため、非特許文献1では、以下に述べるような方法が提案されている。
[Motion vector competition]
By the way, in order to improve the encoding of motion vectors using median prediction as described with reference to FIG. 4,
すなわち、AVCにおいて定義されている、メディアン予測により求められる”Spatial Predictor(空間予測)”に加え、以下に述べる”Temporal Predictor(時間予測)”及び”Spatio-Temporal Predictor(時間と空間の予測)”のどれかを、予測動きベクトル情報として、適応的に用いることが可能にするものである。 In other words, in addition to “Spatial Predictor (spatial prediction)” required by median prediction defined in AVC, the following “Temporal Predictor (temporal prediction)” and “Spatio-Temporal Predictor (temporal and spatial prediction)” Can be used adaptively as predicted motion vector information.
すなわち、図7において、”mvcol”を、当該ブロックに対するCo-Locatedブロック(参照画像において、xy座標が、当該ブロックと同じであるブロック)に対する動きベクトル情報、mvtk(k=0乃至8)をその周辺ブロックの動きベクトル情報であるとして、それぞれの予測動きベクトル情報(Predictor)は、以下の式(17)乃至(19)により定義される。 That is, in FIG. 7, “mvcol” is the motion vector information for the Co-Located block (the block in which the xy coordinates are the same as the block in the reference image) for the block, mv tk (k = 0 to 8). As the motion vector information of the peripheral blocks, each predicted motion vector information (Predictor) is defined by the following equations (17) to (19).
Temporal Predictor:
画像符号化装置100においては、それぞれのブロックに関して、それぞれの予測動きベクトル情報を用いた場合のコスト関数が算出され、最適な予測動きベクトル情報の選択が行われる。画像圧縮情報においては、それぞれのブロックに対し、どの予測動きベクトル情報が用いられたかに関する情報を示すflagが伝送される。 In the image encoding device 100, for each block, a cost function is calculated when using each predicted motion vector information, and optimal predicted motion vector information is selected. In the image compression information, a flag indicating information regarding which predicted motion vector information is used is transmitted for each block.
[コーディングユニット]
ところで、マクロブロックサイズを16画素×16画素とするのは、次世代符号化方式の対象となるような、UHD(Ultra High Definition;4000画素×2000画素)といった大きな画枠に対しては、最適ではない。
[Coding unit]
By the way, the macro block size of 16 pixels × 16 pixels is optimal for a large image frame such as UHD (Ultra High Definition; 4000 pixels × 2000 pixels), which is a target of the next generation encoding method. is not.
そこで、AVCにおいては、図3に示されるように、マクロブロックとサブマクロブロックによる階層構造が規定されているが、例えば、HEVC(High Efficiency Video Coding)においては、図8に示されるように、コーディングユニット(CU(Coding Unit))が規定されている。 Therefore, in AVC, as shown in FIG. 3, a hierarchical structure is defined by macroblocks and sub-macroblocks. For example, in HEVC (High Efficiency Video Coding), as shown in FIG. A coding unit (CU (Coding Unit)) is defined.
CUは、Coding Tree Block(CTB)とも呼ばれ、AVCにおけるマクロブロックと同様の役割を果たす、ピクチャ単位の画像の部分領域である。後者は、16×16画素の大きさに固定されているのに対し、前者の大きさは固定されておらず、それぞれのシーケンスにおいて、画像圧縮情報中において指定されることになる。 A CU is also called a Coding Tree Block (CTB), and is a partial area of a picture unit image that plays the same role as a macroblock in AVC. The latter is fixed to a size of 16 × 16 pixels, whereas the size of the former is not fixed, and is specified in the image compression information in each sequence.
例えば、出力となる符号化データに含まれるシーケンスパラメータセット(SPS(Sequence Parameter Set))において、CUの最大サイズ(LCU(Largest Coding Unit))と最小サイズ((SCU(Smallest Coding Unit))が規定される。 For example, in the sequence parameter set (SPS (Sequence Parameter Set)) included in the output encoded data, the maximum size (LCU (Largest Coding Unit)) and minimum size ((SCU (Smallest Coding Unit)) of the CU are specified. Is done.
それぞれのLCU内においては、SCUのサイズを下回らない範囲で、split-flag=1とすることにより、より小さなサイズのCUに分割することができる。図8の例では、LCUの大きさが128であり、最大階層深度が5となる。2N×2Nの大きさのCUは、split_flagの値が「1」である時、1つ下の階層となる、N×Nの大きさのCUに分割される。 Within each LCU, split-flag = 1 can be divided into smaller CUs within a range that does not fall below the SCU size. In the example of FIG. 8, the LCU size is 128 and the maximum hierarchical depth is 5. When the value of split_flag is “1”, the 2N × 2N size CU is divided into N × N size CUs that are one level below.
更に、CUは、イントラ若しくはインター予測の処理単位となる領域(ピクチャ単位の画像の部分領域)であるプレディクションユニット(Prediction Unit(PU))に分割され、また、直交変換の処理単位となる領域(ピクチャ単位の画像の部分領域)である、トランスフォームユニット(Transform Unit(TU))に分割される。現在、HEVCにおいては、4×4及び8×8に加え、16×16及び32×32直交変換を用いることが可能である。 Furthermore, CU is divided into prediction units (Prediction Units (PU)) that are regions (partial regions of images in units of pictures) that are processing units for intra or inter prediction, and are regions that are processing units for orthogonal transformation It is divided into transform units (Transform Units (TU)), which are (partial regions of images in picture units). Currently, in HEVC, it is possible to use 16 × 16 and 32 × 32 orthogonal transforms in addition to 4 × 4 and 8 × 8.
以上のHEVCのように、CUを定義し、そのCUを単位として各種処理を行うような符号化方式の場合、AVCにおけるマクロブロックはLCUに相当すると考えることができる。ただし、CUは図8に示されるように階層構造を有するので、その最上位階層のLCUのサイズは、例えば128×128画素のように、AVCのマクロブロックより大きく設定されることが一般的である。 In the case of an encoding method in which a CU is defined and various processes are performed in units of the CU as in the above HEVC, it can be considered that a macroblock in AVC corresponds to an LCU. However, since the CU has a hierarchical structure as shown in FIG. 8, the size of the LCU in the highest hierarchy is generally set larger than the AVC macroblock, for example, 128 × 128 pixels. is there.
なお、以下において、「領域」には、上述した各種領域(例えば、マクロブロック、サブマクロブロック、LCU、CU、SCU、PU、およびTU等)を全て含む(それらのいずれであってもよい)。もちろん、上述した以外の単位が含まれてもよいし、説明の内容に応じて不可能な単位は、適宜、除外するものとする。 In the following, “area” includes all the above-described various areas (for example, macroblock, sub-macroblock, LCU, CU, SCU, PU, TU, etc.) (any of them). . Of course, units other than those described above may be included, and units that are impossible according to the content of the description are appropriately excluded.
[動きパーティションのマージ]
ところで、Martin Winken, Sebastian Bosse, Benjamin Bross, Philipp Helle, Tobias Hinz, Heiner Kirchhoffer, Haricharan Lakshman, Detlev Marpe, Simon Oudin, Matthias Preiss, Heiko Schwarz, Mischa Siekmann, Karsten Suehring, and Thomas Wiegand,"Description of video coding technology proposed by Fraunhofer HHI",JCTVC-A116,April,2010(以下、非特許文献3と称する)には、動き情報の符号化方式の1つとして、図9に示されるような、Motion Partition Mergingと呼ばれる手法(マージモード)が提案されている。この手法においては、MergeFlagと、MergeLeftFlagという、2つのflagが、マージモードに関する情報であるマージ情報として伝送される。MergeFlag=1は、当該領域Xの動き情報が、当該領域の上に隣接する周辺領域T、若しくは、当該領域の左に隣接する周辺領域Lの動き情報と同一であることを示す。この時、マージ情報には、MergeLeftFlagが含められ、伝送される。MergeFlag=0は、当該領域Xの動き情報が、周辺領域Tおよび周辺領域Lのいずれの動き情報とも異なることを示す。この場合、当該領域Xの動き情報が伝送される。
[Merge motion partition]
By the way, Martin Winken, Sebastian Bosse, Benjamin Bross, Philipp Helle, Tobias Hinz, Heiner Kirchhoffer, Haricharan Lakshman, Detlev Marpe, Simon Oudin, Matthias Preiss, Heiko Schwarz, Mischa Siekmann, Karsten Suehring, and Thomas Wiegand, "Description of coding Technology proposed by Fraunhofer HHI ", JCTVC-A116, April, 2010 (hereinafter referred to as Non-Patent Document 3), Motion Partition Merging as shown in FIG. A so-called method (merge mode) has been proposed. In this method, two flags, MergeFlag and MergeLeftFlag, are transmitted as merge information that is information related to the merge mode. MergeFlag = 1 indicates that the motion information of the region X is the same as the motion information of the peripheral region T adjacent on the region or the peripheral region L adjacent to the left of the region. At this time, MergeLeftFlag is included in the merge information and transmitted. MergeFlag = 0 indicates that the motion information of the region X is different from the motion information of the peripheral region T and the peripheral region L. In this case, the motion information of the area X is transmitted.
当該領域Xの動き情報が、周辺領域Lの動き情報と同一である場合、MergeFlag=1、かつ、MergeLeftFlag=1となる。当該領域Xの動き情報が、周辺領域Tの動き情報と同一である場合、MergeFlag=1、かつ、MergeLeftFlag=0となる。 When the motion information of the region X is the same as the motion information of the peripheral region L, MergeFlag = 1 and MergeLeftFlag = 1. When the motion information of the region X is the same as the motion information of the peripheral region T, MergeFlag = 1 and MergeLeftFlag = 0.
このように、当該領域の動き情報が周辺の領域の動き情報と同一である場合、マージ情報のみが伝送され、復号の際には、その周辺の領域の動き情報を用いて当該領域の動き情報が再構築される。 In this way, when the motion information of the region is the same as the motion information of the surrounding region, only merge information is transmitted, and when decoding, the motion information of the region is used using the motion information of the surrounding region. Is rebuilt.
このように、上述したMVコンペティションやこのマージモードにおいては、時間的な相関性を利用して、参照フレーム(参照ピクチャ)の動きベクトル情報が利用される。 Thus, in the MV competition and the merge mode described above, the motion vector information of the reference frame (reference picture) is used using temporal correlation.
換言するに、動き予測により得られた、処理対象の当該領域の動き情報は、処理対象の当該フレームより後に処理されるフレームの、当該領域を参照する領域の処理において利用される可能性がある。例えば、MVコンペティションの場合、当該領域を参照する領域の時間予測動き情報(Temporal PredictorやSpatio-Temporal Predictor)として利用される可能性がある。また、例えば、マージモードの場合、当該領域を参照する領域の動き情報と比較される可能性がある。したがって、動き予測により得られた当該領域の動き情報は、参照されなくなるまでメモリ(記憶領域)に確保しておく必要がある。 In other words, the motion information of the region to be processed obtained by motion prediction may be used in processing of a region that refers to the region of a frame processed after the frame to be processed. . For example, in the case of an MV competition, there is a possibility of being used as temporal prediction motion information (Temporal Predictor or Spatio-Temporal Predictor) of an area that refers to the area. Further, for example, in the merge mode, there is a possibility that it is compared with motion information of a region that refers to the region. Therefore, the motion information of the area obtained by motion prediction needs to be secured in the memory (storage area) until it is not referenced.
なお、動き予測により得られた当該領域の動き情報は、MVコンペティションにおける空間予測動き情報(spatial predictor)や、マージモードにおける空間周辺領域の動き情報として、同フレームの当該領域より後に処理される領域において利用される可能性もある。しかしながら、同じフレーム内の参照範囲は、基本的に当該領域に隣接若しくは近傍の領域のみであるので、このような利用の為には、動き情報は、おおよそ、処理対象である当該領域の1ライン上の領域まで保持すれば十分である。したがって、動き情報を格納するのに必要な記憶領域は、例えばレジスタ等の小容量のもので十分である。 Note that the motion information of the region obtained by motion prediction is a region that is processed after the region of the same frame as spatial prediction motion information (spatial predictor) in MV competition or motion information of a spatial peripheral region in merge mode. May also be used in However, since the reference range in the same frame is basically only an area adjacent to or near the area, for such use, the motion information is approximately one line of the area to be processed. It is sufficient to hold up to the upper area. Therefore, a storage area necessary for storing motion information is sufficient with a small capacity such as a register.
しかしながら、時間予測動き情報や時間周辺領域の動き情報としての利用の為には、最も多い場合、4×4ブロック単位で、List0及びList1に関する、水平及び垂直成分の動きベクトル情報を、1/4画素精度で、1フレーム分以上格納しなければならないため、膨大な容量のバッファが必要であった。 However, for use as temporal prediction motion information and temporal peripheral region motion information, in most cases, the horizontal and vertical component motion vector information related to List0 and List1 is 1/4 in units of 4 × 4 blocks. Since one frame or more must be stored with pixel accuracy, a huge capacity buffer is required.
動物体領域と、静止領域の境界において、空間方向の予測(spatial predictor)が適用されると、動物体領域の動きに、静止領域が引きずられる恐れがあり、そのことにより予測精度が低減し、符号化効率が低減する恐れがあった。そこで、時間方向の予測(temporal predictor)を適用することにより、特に、静止領域における符号化効率を改善することができる。したがって、時間方向の予測は、空間方向の予測とともに必要なものであるが、そのためには上述したように大容量の記憶領域が必要になり、コストが増大してしまう恐れがあった。 When spatial predictor is applied at the boundary between the moving object area and the stationary area, the moving area movement may cause the stationary area to be dragged, which reduces the prediction accuracy. There is a risk that the coding efficiency may be reduced. Therefore, by applying temporal prediction (temporal predictor), it is possible to improve coding efficiency particularly in a still region. Therefore, the prediction in the time direction is necessary together with the prediction in the spatial direction. However, as described above, a large-capacity storage area is required, which may increase the cost.
特に、近年、符号化対象の画像データのフレーム(ピクチャ)のサイズは増大する傾向にあり、それに伴い、保持する動きベクトルの数も増大している。したがって、動きベクトルを格納するために必要なメモリ(記憶領域)の容量がさらに増大し、コストがさらに増大する恐れがあった。 In particular, in recent years, the size of a frame (picture) of image data to be encoded tends to increase, and the number of motion vectors to be held increases accordingly. Therefore, the capacity of the memory (storage area) necessary for storing the motion vector is further increased, and the cost may be further increased.
そこで、画像符号化装置100(図1)は、時間方向の予測のために動きベクトルを格納するのに必要な記憶容量の増大を抑制するために、動きベクトルを量子化してからバッファに記憶するようにする。 Therefore, the image coding apparatus 100 (FIG. 1) quantizes the motion vector and stores it in the buffer in order to suppress an increase in storage capacity necessary for storing the motion vector for temporal prediction. Like that.
[動き予測・補償部等の構成]
図10は、動き予測・補償部115等の主な構成例を示すブロック図である。図10に示されるように、動き予測・補償部115は、動き探索部131、コスト関数値生成部132、モード判定部133、および動き補償部134を有する。
[Configuration of motion prediction / compensation unit]
FIG. 10 is a block diagram illustrating a main configuration example of the motion prediction /
また、動きベクトル符号化部121は、予測動きベクトル生成部141と差分動きベクトル生成部142を有する。
In addition, the motion
動き探索部131には、画面並べ替えバッファ102からの入力画像画素値と、フレームメモリ112からの参照画像画素値が入力される。動き探索部131は、全てのインター予測モードについて動き探索処理を行い、動きベクトルと参照インデックスを含む動き情報を生成する。動き探索部131は、その動き情報を動きベクトル符号化部121の予測動きベクトル生成部141に供給する。
The
また、動き探索部131は、探索した動きベクトルを用いて、参照画像に補償処理を行い、予測画像を生成する。さらに、動き探索部131は、その予測画像と入力画像の差分画像を算出し、その画素値である差分画像画素値をコスト関数値生成部132に供給する。
Also, the
コスト関数値生成部132は、動き探索部131から供給された各インター予測モードの差分画像画素値を取得する。コスト関数値生成部132は、その差分画像画素値を用いて、各インター予測モードのコスト関数値を算出する。また、コスト関数値生成部132は、各インター予測モードの差分動き情報と、各インター予測モードの予測動きベクトル情報とを動きベクトル符号化部121の差分動きベクトル生成部142から取得する。
The cost function
予測動きベクトル情報は、処理対象である当該領域の動きベクトルの予測値である予測動きベクトルと、その予測動きベクトルを生成する為に動きベクトルを参照される周辺領域を示す情報とを含む。差分動き情報は、処理対象である当該領域の動きベクトルと、予測動きベクトルとの差分である差分動きベクトルを含む。 The predicted motion vector information includes a predicted motion vector that is a predicted value of a motion vector of the region to be processed, and information indicating a peripheral region to which the motion vector is referenced in order to generate the predicted motion vector. The difference motion information includes a difference motion vector that is a difference between the motion vector of the region to be processed and the predicted motion vector.
コスト関数値生成部132は、各インター予測モードのコスト関数値、差分動き情報、および予測動きベクトル情報をモード判定部133に供給する。
The cost function
モード判定部133は、コスト関数値生成部132から供給される各インター予測モードのコスト関数値、差分動き情報、および予測動きベクトル情報を取得する。モード判定部133は、その中で最も小さいコスト関数値のインター予測モードを、最適なモードとして選択する。モード判定部133は、その最適なモードに選択されたインター予測モードを示す情報である最適モード情報を、その最適なインター予測モードの差分動き情報および予測動きベクトル情報とともに、動き補償部134に供給する。
The
動き補償部134は、モード判定部133から供給された差分動き情報および予測動きベクトル情報を用いて、最適なインター予測モードの動きベクトルを生成する。動き補償部134は、その動きベクトルを用いてフレームメモリ112からの参照画像に補償処理を行うことで、最適なインター予測モードの予測画像を生成する。動き補償部134は、生成した予測画像の画素値(予測画像画素値)を予測画像選択部116に供給する。
The motion compensation unit 134 generates an optimal inter prediction mode motion vector using the difference motion information and the predicted motion vector information supplied from the
予測画像選択部116によりインター予測が選択された場合、それを示す信号が予測画像選択部116から供給される。これに対応して、動き補償部134は、最適モード情報を、その最適なインター予測モードの差分動き情報および予測動き情報とともに、可逆符号化部106に供給し、符号化させ、復号側に伝送させる。予測動き情報は、予測動きベクトルを生成する為に動きベクトルを参照される周辺領域を示す情報を含む。
When inter prediction is selected by the predicted
また、動き補償部134は、予測画像の生成に用いた最適なインター予測モードの動き情報を、動きベクトル量子化部122に供給する。なお、予測画像選択部116によりインター予測が選択されなかった場合(すなわち、イントラ予測画像が選択された場合)、動きベクトル情報として、0ベクトルが、動きベクトル量子化部122に供給される。
In addition, the motion compensation unit 134 supplies the motion information in the optimal inter prediction mode used for generating the predicted image to the motion
動きベクトル量子化部122は、動き補償部134から供給される動き情報を取得する。動きベクトル量子化部122は、取得した動き情報(動きベクトル)に対して量子化を行い、その情報量を低減させる。量子化の詳細については後述するが、動きベクトル量子化部122は、符号化効率の低減を抑制するために、閾値を設定し、その閾値に応じて非線形量子化を行う。動きベクトル量子化部122は、量子化後の動き情報を動きベクトルバッファ123に供給する。
The motion
また、動きベクトル量子化部122は、設定した閾値を動きベクトル逆量子化部124に供給する。さらに、動きベクトル量子化部122は、設定した閾値を可逆符号化部106に供給し、符号化させ、例えばビットストリームのシーケンスパラメータセットに格納される等して、復号側に伝送させる。
In addition, the motion
動きベクトルバッファ123は、動きベクトル量子化部122から供給される、量子化された動き情報を取得し、記憶する。つまり、動きベクトルバッファ123には、過去に処理された領域の最適予測モードの動き情報が格納されている。この動き情報は、その動き情報に対応する領域のフレームより時間的に後に処理されるフレームの、その領域を時間周辺領域として参照する他の領域に対する処理において、時間周辺動き情報として利用される。
The
時間周辺領域とは、処理対象である当該領域に対して時間的に周辺に位置する領域であり、当該領域のフレーム(当該フレーム)より時間的に前に処理され、当該領域の予測処理において参照される参照フレームの領域である。例えば、時間周辺領域は、参照フレームの、当該フレームにおける当該領域に相当する位置に存在するコロケーテッド(Co-Located)領域である。時間周辺動き情報は、その時間周辺領域の動き情報である。 The temporal peripheral region is a region that is temporally located in the vicinity of the region to be processed. The temporal peripheral region is processed before the frame of the region (the frame) and is referred to in the prediction process of the region. This is an area of the reference frame to be processed. For example, the time peripheral area is a collocated area of the reference frame that exists at a position corresponding to the area in the frame. The time peripheral motion information is motion information of the time peripheral region.
動きベクトルバッファ123は、要求に応じて、記憶している動き情報を、時間周辺動き情報として動きベクトル逆量子化部124に供給する。なお、動きベクトルバッファ123は、供給される各動き情報を順次記憶し、時間周辺動き情報として利用されなくなるまで保持する。つまり、動きベクトルバッファ123の記憶容量は有限であるので、動きベクトルバッファ123は、処理対象の領域の時間周辺領域とならなくなった領域の動き情報(古い動き情報)を削除して空き領域を確保し、供給される新たな領域の動き情報を記憶する。
The
動きベクトル逆量子化部124は、予測動きベクトル生成部141により要求された動き情報を、動きベクトルバッファ123から取得する。また、動きベクトル逆量子化部124は、動きベクトル量子化部122から供給される閾値を取得する。動きベクトル逆量子化部124は、その閾値を用いて、動きベクトルバッファ123から読み出した動き情報(動きベクトル)を、動きベクトル量子化部122による量子化に対応する方法で、逆量子化(非線形逆量子化)する。動きベクトル逆量子化部124は、逆量子化された動き情報を、時間周辺動き情報として予測動きベクトル生成部141に供給する。
The motion vector
予測動きベクトル生成部141は、動き探索部131から供給される当該領域の動き情報を取得する。予測動きベクトル生成部141は、その動き情報を用いて各インター予測モードの空間予測動きベクトルを生成する。
The predicted motion
空間予測動きベクトルとは、空間周辺領域の動きベクトルを用いて生成される予測動きベクトルである。空間周辺領域とは、処理対象である当該領域に対して空間的に周辺に位置する領域であり、当該フレームに存在する、当該領域より時間的に前に処理される領域である。例えば、空間周辺領域は、当該フレームの、当該領域の近傍の(例えば、左上、上、右上、または左等に隣接する)領域である。空間周辺動き情報は、その空間周辺領域の動き情報である。 A spatial prediction motion vector is a prediction motion vector generated using a motion vector of a spatial peripheral region. The spatial peripheral region is a region that is spatially located around the region to be processed, and is a region that exists in the frame and that is processed temporally before the region. For example, the space peripheral area is an area of the frame in the vicinity of the area (for example, adjacent to the upper left, upper, upper right, left, or the like). The spatial peripheral motion information is motion information of the spatial peripheral region.
予測動きベクトル生成部141は、予測動きベクトル生成後、動き探索部131から供給された動き情報を保持し、その当該領域より時間的に後に処理される他の領域の処理において、その保持している動き情報を空間周辺動き情報として利用し、空間予測動きベクトルを生成する。
The predicted motion
また、予測動きベクトル生成部141は、当該領域の動き情報を用いて各インター予測モードの時間予測動きベクトルを生成する。時間予測動きベクトルとは、時間周辺領域の動きベクトルを用いて生成される予測動きベクトルである。予測動きベクトル生成部141は、動き探索部131から供給される動き情報に対応する時間周辺動き情報を、動きベクトル逆量子化部124を介して、動きベクトルバッファ123から取得する。予測動きベクトル生成部141は、その時間周辺動き情報を用いて、時間予測動きベクトルを生成する。
Also, the predicted motion
予測動きベクトル生成部141は、各インター予測モードについて、生成した空間予測動きベクトルと時間予測動きベクトルとを比較し、当該領域の動きベクトルに近い方を選択する。予測動きベクトル生成部141は、各インター予測モードについて、選択した予測動きベクトルを含む予測動きベクトル情報を生成し、当該領域の動き情報とともに差分動きベクトル生成部142に供給する。
The predicted motion
差分動きベクトル生成部142は、予測動きベクトル生成部141から供給される当該領域の動き情報と予測動きベクトル情報を取得する。差分動きベクトル生成部142は、当該領域の動きベクトルと予測動きベクトルの差分である差分動きベクトルを生成し、その差分動きベクトルを含む差分動き情報を生成する。差分動きベクトル生成部142は、生成した差分動き情報と、その差分動き情報の生成に用いた予測動きベクトル情報とをコスト関数値生成部132に供給する。
The difference motion
[周辺動き情報のバッファ]
上述したように、予測動きベクトル生成部141は、当該領域の動き情報を記憶する。この動き情報は、空間周辺動き情報として利用されるものである。当該領域が動きベクトルを参照する空間周辺領域は、当該フレーム内に存在し、かつ、当該領域の近傍に位置するので、空間周辺領域となる範囲は比較的狭い。したがって、予測動きベクトル生成部141が動き情報を記憶するために必要な記憶容量は少なくてよい。
[Peripheral motion information buffer]
As described above, the predicted motion
これに対して、時間周辺領域は、当該フレームと異なる参照フレームに存在するので、時間周辺動き情報として、少なくとも1フレーム分以上の膨大な動き情報を確保する必要がある。そのために大容量の記憶領域を確保する必要があるので、時間周辺動き情報は、大容量の記憶領域を有する動きベクトルバッファ123に格納される。
On the other hand, since the temporal peripheral region exists in a reference frame different from the frame, it is necessary to secure a large amount of motion information for at least one frame as the temporal peripheral motion information. Therefore, since it is necessary to secure a large-capacity storage area, temporal peripheral motion information is stored in the
ただし、当該領域の動き情報をそのまま記憶すると、例えば、4×4ブロック単位で、List0及びList1に関する、水平及び垂直成分の動きベクトル情報を、1/4画素精度で格納しなければならないため、動きベクトルバッファ123として、膨大な容量の記憶領域が必要になり、コストが増大してしまう恐れがあった。また、近年においては、より高解像度の画像が符号化対象とされるようになっており、さらに大容量の記憶領域が必要になる恐れがあった。
However, if the motion information of the area is stored as it is, for example, the motion vector information of the horizontal and vertical components related to List0 and List1 must be stored with 1/4 pixel accuracy in units of 4 × 4 blocks. As the
そこで、上述したように、画像符号化装置100は、動き情報を動きベクトルバッファ123に格納する際に、その情報量を量子化により低減させてから格納し、格納された動き情報を読み出す際に逆量子化するようにする。
Therefore, as described above, when storing the motion information in the
より具体的には、動きベクトル量子化部122が、動きベクトルバッファ123に格納される動き情報を量子化し、動きベクトル逆量子化部124が、動きベクトルバッファ123から読み出される動き情報を逆量子化する。
More specifically, the motion
このようにすることにより、画像符号化装置100は、動きベクトルバッファ123の記憶容量の増大を抑制することができ、コストの増大を抑制することができる。
By doing in this way, the image coding apparatus 100 can suppress an increase in the storage capacity of the
なお、以下においては、説明の便宜上、動きベクトルは、1/4画素精度であるとする。 In the following, for convenience of explanation, it is assumed that the motion vector has a 1/4 pixel accuracy.
[非線形量子化・逆量子化]
なお、時間予測動きベクトル(temporal predictor)は、特に、静止領域における符号化効率を改善する。すなわち、動物体領域と、静止領域の境界において、空間予測動きベクトル(spatial predictor)が適用されると、動物体領域の動きに、静止領域が引きずられることになる。空間予測動きベクトル(spatial predictor)の代わりに時間予測動きベクトル(temporal predictor)を用いることにより、このような不具合が改善される。
[Nonlinear quantization / inverse quantization]
In addition, the temporal prediction motion vector (temporal predictor) improves the encoding efficiency especially in a still region. That is, when a spatial predictor is applied at the boundary between the moving body region and the stationary region, the stationary region is dragged by the movement of the moving body region. By using a temporal prediction motion vector (temporal predictor) instead of a spatial prediction motion vector (spatial predictor), such a problem is improved.
静止領域における動きベクトルは、その値が0に近いため、その値がより小さい動きベクトルが、より高く符号化効率に寄与すると考えられる。また、その値がより小さい動きベクトル程、その情報量がより少ないため、画素精度の増減による情報量への影響はより小さくなる。 Since the motion vector in the still region has a value close to 0, a motion vector having a smaller value is considered to contribute to higher coding efficiency. In addition, since the smaller the value of the motion vector, the smaller the information amount, the influence on the information amount due to the increase / decrease in pixel accuracy becomes smaller.
また、大きな動きベクトル程、量子化前の情報量が大きいので、量子化による情報量の低減が容易である。さらに、動きベクトルバッファ123における情報管理は、一般的に固定長方式(Fixed length)であるが、その場合、その記憶容量は、動きベクトルの最大値の情報量(すなわち、動きベクトルのダイナミックレンジ)に依存する。
In addition, since the amount of information before quantization increases as the motion vector increases, the amount of information can be easily reduced by quantization. Furthermore, information management in the
そこで、動きベクトル量子化部122および動きベクトル逆量子化部124は、動きベクトルの大きさに応じて量子化ステップの大きさを変え、より小さな動きベクトルが、より高画素精度で動きベクトルバッファ123に格納されるようにする。
Therefore, the motion
例えば、動きベクトル量子化部122は、動きベクトルの大きさに対して閾値を設け、その閾値によって動きベクトルの大きさをレベル分けし、そのレベルに応じて量子化ステップの大きさを変える非線形量子化を行う。動きベクトル逆量子化部124は、その閾値を用いて、その非線形量子化に対応する非線形逆量子化を行う。
For example, the motion
図11にその非線形量子化の例を示す。図11の例において、動きベクトル量子化部122は、時間予測動きベクトルとなる動きベクトルの大きさTmvに対して、2つの閾値θ1/4とθ1/2を設定する。すなわち、動きベクトルの大きさの範囲(Tmv≦MVmax)をこれらの閾値によって3つの領域(Area1乃至Area3)に分割する。
FIG. 11 shows an example of the nonlinear quantization. In the example of FIG. 11, the motion
図11に示されるように、Area1は、Tmv<θ1/4の範囲であり、Area2は、θ1/4≦Tmv<θ1/2の範囲であり、Area3は、θ1/2≦Tmv<MVmaxの範囲である。
As shown in FIG. 11,
動きベクトル量子化部122は、動きベクトルバッファ123に格納する動きベクトルの大きさを閾値θ1/4とθ1/2を用いて判定し、その大きさがArea1の場合、1/4画素精度とし、その大きさがArea2の場合、1/2画素精度とし、その大きさがArea3の場合、整数画素精度とするように量子化ステップを決定し、量子化を行う。
The motion
このように非線形量子化することにより、Area1に属する動きベクトルの量子化後の最大値は、量子化前と変わらずθ1/4となり、Area2に属する動きベクトルの量子化後の最大値は、((1/2)×θ1/4+(1/2)×θ1/2)となり、Area3に属する動きベクトルの量子化後の最大値は、((1/2)×MVmax+(1/2)×θ1/4)となる。
By nonlinear quantization in this way, the maximum value after quantization of the motion vector belonging to Area 1 is θ 1/4 as before the quantization, and the maximum value after quantization of the motion vector belonging to
したがって、図11に示される両矢印のように、MVmax−((1/2)×MVmax+(1/2)×θ1/4)の分だけ、動きベクトルのダイナミックレンジを低減することができる。つまり、その分、動きベクトルバッファ123の記憶容量を低減させることができる。
Accordingly, the dynamic range of the motion vector is reduced by MV max − ((1/2) × MV max + (1/2) × θ 1/4 ) as indicated by the double-headed arrow shown in FIG. Can do. That is, the storage capacity of the
また、上述したようにArea1に属する動きベクトルについては、1/4画素精度を維持することができるので、時間予測動きベクトルが採用され易い静止領域の動きベクトルの画素精度の低減を抑制することができ、符号化効率の低減を抑制することができる。
Further, as described above, the motion vector belonging to
つまり、動きベクトル量子化部122は、符号化効率の低減を抑制しながら、動きベクトルバッファ123の記憶容量を低減させることができる。
That is, the motion
動きベクトル逆量子化部124は、動きベクトル量子化部122から閾値を取得することにより、動きベクトル量子化部122によるこのような非線形量子化に対応する非線形逆量子化を行うことができる。すなわち、動きベクトル逆量子化部124は、符号化効率の低減を抑制しながら、動きベクトルバッファ123の記憶容量を低減させることを実現することができる。
The motion vector
[符号化処理の流れ]
次に、以上のような画像符号化装置100により実行される各処理の流れについて説明する。最初に、図12のフローチャートを参照して、符号化処理の流れの例を説明する。
[Flow of encoding process]
Next, the flow of each process executed by the image encoding device 100 as described above will be described. First, an example of the flow of encoding processing will be described with reference to the flowchart of FIG.
ステップS101において、A/D変換部101は入力された画像をA/D変換する。ステップS102において、画面並べ替えバッファ102は、A/D変換された画像を記憶し、各ピクチャの表示する順番から符号化する順番への並べ替えを行う。
In step S101, the A /
ステップS103において、イントラ予測部114は、イントラ予測処理を行う。ステップS104において、動き予測・補償部115は、インター動き予測処理を行う。ステップS105において、予測画像選択部116は、イントラ予測により生成された予測画像、および、インター予測により生成された予測画像の内、いずれか一方を選択する。
In step S103, the
ステップS106において、演算部103は、ステップS102の処理により並び替えられた画像と、ステップS105の処理により選択された予測画像との差分を演算する(差分画像を生成する)。生成された差分画像は元の画像に較べてデータ量が低減される。したがって、画像をそのまま符号化する場合に較べて、データ量を圧縮することができる。
In step S106, the
ステップS107において、直交変換部104は、ステップS106の処理により生成された差分画像を直交変換する。具体的には、離散コサイン変換、カルーネン・レーベ変換等の直交変換が行われ、直交変換係数が出力される。ステップS108において、量子化部105は、ステップS107の処理により得られた直交変換係数を量子化する。
In step S107, the
ステップS108の処理により量子化された差分画像は、次のようにして局部的に復号される。すなわち、ステップS109において、逆量子化部108は、ステップS108の処理により生成された量子化された直交変換係数(量子化係数とも称する)を量子化部105の特性に対応する特性で逆量子化する。ステップS110において、逆直交変換部109は、ステップS109の処理により得られた直交変換係数を、直交変換部104の特性に対応する特性で逆直交変換する。これにより差分画像が復元される。
The difference image quantized by the process of step S108 is locally decoded as follows. That is, in step S109, the
ステップS111において、演算部110は、ステップS105において選択された予測画像を、ステップS110において生成された差分画像に加算し、局部的に復号された復号画像(再構成画像)を生成する。ステップS112において、ループフィルタ111は、ステップS111の処理により得られた再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜行い、復号画像を生成する。
In step S111, the
ステップS113において、フレームメモリ112は、ステップS112の処理により生成された復号画像、若しくは、ステップS111の処理により生成された再構成画像を記憶する。
In step S113, the
ステップS114において、可逆符号化部106は、ステップS108の処理により量子化された直交変換係数を符号化する。すなわち、差分画像に対して、可変長符号化や算術符号化等の可逆符号化が行われる。なお、可逆符号化部106は、予測に関する情報や、量子化に関する情報や、フィルタ処理に関する情報等を符号化し、ビットストリームに付加する。
In step S114, the
ステップS115において、蓄積バッファ107は、ステップS114の処理により得られたビットストリームを蓄積する。蓄積バッファ107に蓄積された符号化データは、適宜読み出され、伝送路や記録媒体を介して復号側に伝送される。
In step S115, the
ステップS116においてレート制御部117は、ステップS115の処理により蓄積バッファ107に蓄積された符号化データの符号量(発生符号量)に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部105の量子化動作のレートを制御する。
In step S116, the
ステップS116の処理が終了すると、符号化処理が終了される。 When the process of step S116 ends, the encoding process ends.
[インター動き予測処理の流れ]
次に、図13のフローチャートを参照して、図12のステップS104において実行されるインター動き予測処理の流れの例を説明する。
[Flow of inter motion prediction processing]
Next, an example of the flow of inter motion prediction processing executed in step S104 of FIG. 12 will be described with reference to the flowchart of FIG.
ステップS131において、動き探索部131は、各インター予測モードについて、動き探索を行い、処理対象である当該領域の動き情報を生成し、その動き情報を用いて補償処理を行って予測画像を生成し、さらに、その予測画像を用いて差分画像を生成する。
In step S131, the
ステップS132において、予測動きベクトル生成部141は、ステップS131において生成された動き情報と、空間周辺動き情報を用いて、各インター予測モードについて空間予測動きベクトルを生成する。
In step S132, the motion vector
また、予測動きベクトル生成部141は、各インター予測モードについて、時間予測動きベクトルの生成のために、処理対象である当該領域の動き情報に対応する時間周辺動き情報を要求する。ステップS133において、動きベクトル逆量子化部124は、要求された時間周辺動き情報を動きベクトルバッファ123から読み出し、その時間周辺動きベクトルを逆量子化する。
In addition, for each inter prediction mode, the motion vector
ステップS134において、予測動きベクトル生成部141は、各インター予測モードについて、ステップS133の処理により得られた時間周辺動き情報を用いて、時間予測動きベクトルを生成する。
In step S134, the prediction motion
ステップS135において、予測動きベクトル生成部141は、各インター予測モードについて、ステップS132において生成された空間予測動きベクトル、および、ステップS134の処理により生成された時間予測動きベクトルの内、いずれか一方を選択し、予測動き情報を生成する。
In step S135, for each inter prediction mode, the motion vector
ステップS136において、差分動きベクトル生成部142は、各インター予測モードについて、ステップS135において生成された予測動き情報を用いて、差分動き情報を生成する。
In step S136, the difference motion
ステップS137において、コスト関数値生成部132は、各インター予測モードについて、ステップS131において生成された差分画像の画素値を用いて、コスト関数値を算出する。
In step S137, the cost function
ステップS138において、モード判定部133は、ステップS137において算出された各インター予測モードのコスト関数値に基づいて、最適インター予測モードを決定する。
In step S138, the
ステップS139において、動き補償部134は、ステップS138の処理により決定された最適インター予測モードで動き補償を行い、予測画像を生成する。 In step S139, the motion compensation unit 134 performs motion compensation in the optimal inter prediction mode determined by the process in step S138, and generates a predicted image.
ステップS140において、動き補償部134は、ステップS139の処理により生成された予測画像を予測画像選択部116を介して演算部103および演算部110に供給し、差分画像情報や復号画像を生成させる。
In step S140, the motion compensation unit 134 supplies the predicted image generated by the process of step S139 to the
ステップS141において、動き補償部134は、予測動き情報、差分動き情報、および最適モード情報を可逆符号化部106に供給し、最適インター予測モードに関する情報を符号化させる。なお、予測画像選択部116によりイントラ予測が選択される場合、この処理は省略される。
In step S141, the motion compensation unit 134 supplies the prediction motion information, the difference motion information, and the optimal mode information to the
ステップS142において、動きベクトル量子化部122は、ステップS139の動き補償に用いられた当該領域の動きベクトルを量子化する。
In step S142, the motion
ステップS143において、動きベクトルバッファ123は、ステップS142において量子化された動きベクトルを含む動き情報を記憶する。この動き情報は、当該領域より後に処理される他の領域において時間周辺動き情報として利用される。
In step S143, the
ステップS143の処理が終了すると、動きベクトルバッファ123は、処理を図12に戻す。
When the process of step S143 ends, the
[動きベクトル量子化処理の流れ]
次に、図14のフローチャートを参照して、図13のステップS142において実行される動きベクトル量子化処理の流れの例を説明する。
[Flow of motion vector quantization processing]
Next, an example of the flow of the motion vector quantization process executed in step S142 in FIG. 13 will be described with reference to the flowchart in FIG.
ステップS161において、動きベクトル量子化部122は、閾値(例えば、θ1/4やθ1/2)を設定する。なお、この処理は、既に閾値が設定済みであり、かつ、更新の必要が無い場合、省略することもできる。
In step S161, the motion
ステップS162において、動きベクトル量子化部122は、量子化する動きベクトルの大きさをステップS161において設定した閾値を用いて判定し、その大きさに応じて量子化ステップサイズを決定する。
In step S162, the motion
ステップS163において、動きベクトル量子化部122は、ステップS162において決定された量子化ステップサイズで動きベクトルを量子化する。
In step S163, the motion
ステップS164において、動きベクトル量子化部122は、ステップS161において設定された閾値を可逆符号化部106に供給し、符号化させる。なお、ステップS161の処理を省略する場合、この処理も省略される。
In step S164, the motion
ステップS164の処理が終了すると、動きベクトル量子化部122は、処理を図13に戻す。
When the process of step S164 ends, the motion
[時間周辺動きベクトル逆量子化処理の流れ]
次に、図15のフローチャートを参照して、図13のステップS133において実行される時間周辺動きベクトル逆量子化処理の流れの例を説明する。
[Time-related motion vector inverse quantization process flow]
Next, an example of the flow of the temporal peripheral motion vector inverse quantization process executed in step S133 of FIG. 13 will be described with reference to the flowchart of FIG.
ステップS181において、動きベクトル逆量子化部124は、図14のステップS161の処理により動きベクトル量子化部122において設定された量子化処理の閾値を取得し、逆量子化処理に用いる閾値として設定する。なお、この処理は、既に閾値が設定済みであり、かつ、更新の必要が無い場合、省略することもできる。
In step S181, the motion vector
ステップS182において、動きベクトル逆量子化部124は、逆量子化する時間周辺動きベクトルの大きさをステップS181において設定した閾値を用いて判定し、その大きさに応じて量子化ステップサイズを決定する。なお、図11の例を用いて説明すると、この場合、閾値(θ1/4,θ1/2)は、図11の縦軸の値(θ1/4,((1/2)×θ1/4+(1/2)×θ1/2))に換算され、時間周辺動きベクトルの大きさと比較される。
In step S182, the motion
ステップS183において、動きベクトル逆量子化部124は、ステップS182の処理により決定された量子化ステップサイズで時間周辺動きベクトルを逆量子化する。
In step S183, the motion vector
ステップS183の処理が終了すると、動きベクトル逆量子化部124は、処理を図13に戻す。
When the process of step S183 ends, the motion vector
以上のように各処理を実行することにより、画像符号化装置100は、動きベクトルの記憶に必要な記憶容量を低減させることができる。特に、画像符号化装置100は、時間周辺動き情報として利用される動きベクトルの記憶に必要な記憶容量を低減させることができる。また、上述したようにより大きな動きベクトルの情報量をより大きく低減させるので、画像符号化装置100は、符号化効率の低減を抑制しながら、時間周辺動き情報の記憶に必要な記憶容量を低減させることができる。 By executing each process as described above, the image encoding device 100 can reduce the storage capacity necessary for storing motion vectors. In particular, the image encoding device 100 can reduce the storage capacity necessary for storing a motion vector used as temporal peripheral motion information. In addition, since the amount of information of a larger motion vector is further reduced as described above, the image encoding device 100 reduces the storage capacity necessary for storing temporal peripheral motion information while suppressing reduction in encoding efficiency. be able to.
<2.第2の実施の形態>
[画像復号装置]
次に、以上のように符号化された符号化データの復号について説明する。図16は、図1の画像符号化装置100に対応する画像復号装置の主な構成例を示すブロック図である。
<2. Second Embodiment>
[Image decoding device]
Next, decoding of the encoded data encoded as described above will be described. FIG. 16 is a block diagram illustrating a main configuration example of an image decoding apparatus corresponding to the image encoding apparatus 100 of FIG.
図16に示される画像復号装置200は、画像符号化装置100が生成した符号化データを、その符号化方法に対応する復号方法で復号する。 The image decoding apparatus 200 illustrated in FIG. 16 decodes the encoded data generated by the image encoding apparatus 100 using a decoding method corresponding to the encoding method.
図16に示されるように画像復号装置200は、蓄積バッファ201、可逆復号部202、逆量子化部203、逆直交変換部204、演算部205、ループフィルタ206、画面並べ替えバッファ207、およびD/A変換部208を有する。また、画像復号装置200は、フレームメモリ209、選択部210、イントラ予測部211、動き予測・補償部212、および選択部213を有する。
As shown in FIG. 16, the image decoding apparatus 200 includes a
さらに、画像復号装置200は、動きベクトル復号部221、動きベクトル量子化部222、動きベクトルバッファ223、および動きベクトル逆量子化部224を有する。
Furthermore, the image decoding apparatus 200 includes a motion
蓄積バッファ201は、伝送されてきた符号化データを蓄積し、所定のタイミングにおいてその符号化データを可逆復号部202に供給する。可逆復号部202は、蓄積バッファ201より供給された、図1の可逆符号化部106により符号化された情報を、可逆符号化部106の符号化方式に対応する方式で復号する。可逆復号部202は、復号して得られた差分画像の量子化された係数データを、逆量子化部203に供給する。
The
また、可逆復号部202は、符号化データを復号して得られた最適な予測モードに関する情報を参照し、最適な予測モードにイントラ予測モードが選択されたかインター予測モードが選択されたかを判定する。可逆復号部202は、その判定結果に基づいて、その最適な予測モードに関する情報を、イントラ予測部211若しくは動き予測・補償部212に供給する。つまり、例えば、画像符号化装置100において最適な予測モードとしてイントラ予測モードが選択された場合、その最適な予測モードに関する情報であるイントラ予測情報がイントラ予測部211に供給される。また、例えば、画像符号化装置100において最適な予測モードとしてインター予測モードが選択された場合、その最適な予測モードに関する情報であるインター予測情報が動き予測・補償部212に供給される。
In addition, the
さらに、可逆復号部202は、符号化データを復号することにより、画像符号化装置100から伝送された、動きベクトル量子化用の閾値(例えばθ1/4,θ1/2)を、シーケンスパラメータセット(SPS)等から抽出する。可逆復号部202は、得られた閾値を動きベクトル量子化部222および動きベクトル逆量子化部224に供給する。
Further, the
逆量子化部203は、可逆復号部202により復号されて得られた量子化された係数データを、図1の量子化部105の量子化方式に対応する方式で逆量子化し、得られた係数データを逆直交変換部204に供給する。逆直交変換部204は、図1の直交変換部104の直交変換方式に対応する方式で逆量子化部203から供給される係数データを逆直交変換する。逆直交変換部204は、この逆直交変換処理により、画像符号化装置100において直交変換される前の差分画像に対応する差分画像を得る。
The
逆直交変換されて得られた差分画像は、演算部205に供給される。また、演算部205には、選択部213を介して、イントラ予測部211若しくは動き予測・補償部212から予測画像が供給される。
The difference image obtained by the inverse orthogonal transform is supplied to the
演算部205は、差分画像と予測画像とを加算し、画像符号化装置100の演算部103により予測画像が減算される前の画像に対応する再構成画像を得る。演算部205は、その再構成画像をループフィルタ206に供給する。
The
ループフィルタ206は、供給された再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜施して復号画像を生成する。例えば、ループフィルタ206は、再構成画像に対してデブロックフィルタ処理を行うことにより、ブロック歪を除去する。また、例えば、ループフィルタ206は、そのデブロックフィルタ処理結果(ブロック歪みの除去が行われた再構成画像)に対して、ウィナーフィルタ(Wiener Filter)を用いてループフィルタ処理を行うことにより画質改善を行う。
The
なお、ループフィルタ206が行うフィルタ処理の種類は任意であり、上述した以外のフィルタ処理を行ってもよい。また、ループフィルタ206が、図1の画像符号化装置100から供給されたフィルタ係数を用いてフィルタ処理を行うようにしてもよい。
Note that the type of filter processing performed by the
ループフィルタ206は、フィルタ処理結果である復号画像を画面並べ替えバッファ207およびフレームメモリ209に供給する。なお、このループフィルタ206によるフィルタ処理は省略することもできる。つまり、演算部205の出力が、フィルタ処理されずに、フレームメモリ209に格納されるようにすることもできる。例えば、イントラ予測部211は、この画像に含まれる画素の画素値を周辺画素の画素値として利用する。
The
画面並べ替えバッファ207は、供給された復号画像の並べ替えを行う。すなわち、図1の画面並べ替えバッファ102により符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられる。D/A変換部208は、画面並べ替えバッファ207から供給された復号画像をD/A変換し、図示せぬディスプレイに出力し、表示させる。
The
フレームメモリ209は、供給される再構成画像や復号画像を記憶する。また、フレームメモリ209は、所定のタイミングにおいて、若しくは、イントラ予測部211や動き予測・補償部212等の外部の要求に基づいて、記憶している再構成画像や復号画像をイントラ予測部211や動き予測・補償部212に供給する。
The
イントラ予測部211は、図1のイントラ予測部114と基本的に同様の処理を行う。ただし、イントラ予測部211は、符号化の際にイントラ予測により予測画像が生成された領域に対してのみ、イントラ予測を行う。
The
動き予測・補償部212は、可逆復号部202から供給されるインター予測情報に基づいてインター動き予測処理を行い、予測画像を生成する。なお、動き予測・補償部212は、可逆復号部202から供給されるインター予測情報に基づいて、符号化の際にインター予測が行われた領域に対してのみ、インター動き予測処理を行う。
The motion prediction /
動き予測・補償部212は、予測処理単位の領域毎に、生成した予測画像を、選択部213を介して演算部205に供給する。
The motion prediction /
選択部213は、イントラ予測部211から供給される予測画像、若しくは、動き予測・補償部212から供給される予測画像を演算部205に供給する。
The
動きベクトル復号部221は、動き予測・補償部212から、画像符号化装置100から供給された予測動き情報を取得し、動き予測・補償部212において利用される予測動きベクトルを再構築する。動きベクトル復号部221は、必要に応じて、動きベクトルバッファ223に記憶されている動き情報を、動きベクトル逆量子化部224を介して、時間周辺動き情報として取得する。また、動きベクトル復号部221は、動き予測・補償部212において再構築された動き情報を取得し、空間周辺動き情報として使用するためにそれを記憶する。
The motion
動きベクトル量子化部222は、動き予測・補償部212から供給される、動きベクトルバッファ223に格納する動き情報を取得し、動きベクトル量子化部122(図1)と同様の方法で、その動きベクトルを量子化する。つまり、可逆復号部202から供給された閾値(画像符号化装置100から供給された閾値)を取得し、その閾値を用いて、動きベクトルの量子化を行う。動きベクトル量子化部222は、量子化した動き情報を動きベクトルバッファ223に供給する。
The motion
動きベクトルバッファ223は、動きベクトル量子化部222から供給される、量子化された動き情報を記憶する。動きベクトルバッファ223は、要求に従って、記憶している動き情報を時間周辺動き情報として動きベクトル逆量子化部224に供給する。すなわち、動きベクトルバッファ223は、動きベクトルバッファ123(図1)と同様の処理部であり、動きベクトルバッファ123と同様に、動き情報を記憶するための有限の記憶領域を有する。
The
動きベクトル逆量子化部224は、動きベクトル復号部221に要求された時間周辺動き情報を動きベクトルバッファ223から読み出し、動きベクトル逆量子化部124(図1)と同様の方法で、その動きベクトルを逆量子化する。つまり、可逆復号部202から供給された閾値(画像符号化装置100から供給された閾値)を取得し、その閾値を用いて、動きベクトルの逆量子化を行う。動きベクトル逆量子化部224は、逆量子化した時間周辺動き情報を動きベクトル復号部221に供給する。
The motion vector
[動き予測・補償部等の構成]
図17は、動き予測・補償部212等の主な構成例を示すブロック図である。図17に示されるように、動き予測・補償部212は、差分動き情報バッファ231、予測動き情報バッファ232、閾値バッファ233、動き情報再構築部234、および動き補償部235を有する。
[Configuration of motion prediction / compensation unit]
FIG. 17 is a block diagram illustrating a main configuration example of the motion prediction /
また、動きベクトル復号部221は、予測動きベクトル再構築部241を有する。
In addition, the motion
差分動き情報バッファ231は、可逆復号部202から供給される、ビットストリームから抽出された差分動き情報を取得し、記憶する。差分動き情報バッファ231は、所定のタイミングにおいて、若しくは、外部からの要求に基づいて、その記憶している差分動き情報を動き情報再構築部234に供給する。
The differential
予測動き情報バッファ232は、可逆復号部202から供給される、ビットストリームから抽出された予測動き情報を取得し、記憶する。予測動き情報は、予測動きベクトルを生成する為に動きベクトルを参照される周辺領域(時間周辺領域または空間周辺領域)を示す情報を含む。予測動き情報バッファ232は、所定のタイミングにおいて、若しくは、外部からの要求に基づいて、その記憶している予測動き情報を予測動きベクトル再構築部241に供給する。
The prediction motion information buffer 232 acquires and stores prediction motion information extracted from the bitstream supplied from the
閾値バッファ233は、可逆復号部202から供給される、ビットストリームのシーケンスパラメータセット等から抽出された閾値(例えばθ1/4,θ1/2)を取得し、記憶する。閾値バッファ233は、所定のタイミングにおいて、若しくは、外部からの要求に基づいて、その記憶している閾値を動きベクトル量子化部222および動きベクトル逆量子化部224に供給する。
The
動き情報再構築部234は、差分動き情報バッファ231から、処理対象である当該領域の差分動き情報を取得すると、予測動きベクトル再構築部241から、当該領域の予測動きベクトル情報を取得し、それらを用いて当該領域の動き情報を再構築する。より具体的には、動き情報再構築部234は、差分動き情報の差分動きベクトルに、予測動きベクトル情報の予測動きベクトルを加算することにより、当該領域の動きベクトルを再構築する。動き情報再構築部234は、その動きベクトルを含む動き情報を、動き補償部235、動きベクトル量子化部222、および予測動きベクトル再構築部241に供給する。
When the motion
動き補償部235は、動き情報再構築部234から供給される当該領域の動き情報を取得する。また、動き補償部235は、フレームメモリ209から供給される参照画像画素値を取得する。動き補償部235は、それらを用いて動き補償を行い、予測画像を生成する。動き補償部235は、その予測画像画素値を選択部213を介して演算部205に供給する。
The
動きベクトル復号部221の予測動きベクトル再構築部241は、予測動き情報バッファ232から、処理対象である当該領域の予測動き情報を取得すると、その予測動き情報を用いて当該領域の予測動きベクトルを再構築する。
When the predicted motion
例えば、予測動き情報において指定される周辺領域が空間周辺領域の場合、予測動きベクトル再構築部241は、自身が保持している空間周辺動き情報(すなわち、予測動き情報において指定される空間周辺領域の動き情報)の動きベクトルを空間予測動きベクトルとする。
For example, when the peripheral region specified in the predicted motion information is a spatial peripheral region, the predicted motion
また、例えば、予測動き情報において指定される周辺領域が時間周辺領域の場合、予測動きベクトル再構築部241は、動きベクトルバッファ223に記憶されている時間周辺動き情報(すなわち、予測動き情報において指定される時間周辺領域の動き情報)を、動きベクトル逆量子化部224を介して取得し、その動きベクトルを時間予測動きベクトルとする。
For example, when the peripheral region specified in the predicted motion information is a temporal peripheral region, the predicted motion
予測動きベクトル再構築部241は、このように再構築した予測動きベクトル(空間予測動きベクトル若しくは時間予測動きベクトル)を含む予測動きベクトル情報を、動き情報再構築部234に供給する。
The predicted motion
また、予測動きベクトル再構築部241は、動き情報再構築部234から供給される、動き情報再構築部234において再構築された当該領域の動き情報を取得し、保持する。この動き情報は、当該領域より時間的に後に処理される他の領域の処理において、空間周辺動き情報として利用される。
Also, the predicted motion
画像復号装置200も、画像符号化装置100の場合と同様に、動き情報を動きベクトルバッファ223に格納する際に、その情報量を量子化により低減させてから格納し、格納された動き情報を読み出す際に逆量子化するようにする。
Similarly to the case of the image encoding device 100, the image decoding device 200 stores the motion information in the
つまり、動きベクトル量子化部222が、動きベクトル量子化部122の場合と同様に量子化処理を行って、動きベクトルバッファ223に格納される動き情報を量子化し、動きベクトル逆量子化部224が、動きベクトル逆量子化部124の場合と同様に逆量子化処理を行って、動きベクトルバッファ223から読み出される動き情報を逆量子化する。
That is, the motion
このようにすることにより、画像復号装置200は、動きベクトルバッファ223の記憶容量の増大を抑制することができ、コストの増大を抑制することができる。
By doing in this way, the image decoding apparatus 200 can suppress an increase in the storage capacity of the
また、動きベクトル量子化部222は、画像符号化装置100から供給される閾値を用いて、動きベクトル量子化部122の場合と同様に非線形量子化を行うことにより、Area1に属する動きベクトルについては、1/4画素精度を維持することができるので、時間予測動きベクトルが採用され易い静止領域の動きベクトルの画素精度の低減を抑制することができ、符号化効率の低減を抑制することができる。
In addition, the motion
つまり、動きベクトル量子化部222は、符号化効率の低減を抑制しながら、動きベクトルバッファ223の記憶容量を低減させることができる。
That is, the motion
また、動きベクトル逆量子化部224は、画像符号化装置100から供給される閾値を用いて、動きベクトル逆量子化部124の場合と同様に非線形逆量子化を行うことができる。すなわち、動きベクトル逆量子化部224は、符号化効率の低減を抑制しながら、動きベクトルバッファ223の記憶容量を低減させることを実現することができる。
In addition, the motion vector
[復号処理の流れ]
次に、以上のような画像復号装置200により実行される各処理の流れについて説明する。最初に、図18のフローチャートを参照して、復号処理の流れの例を説明する。
[Decoding process flow]
Next, the flow of each process executed by the image decoding apparatus 200 as described above will be described. First, an example of the flow of decoding processing will be described with reference to the flowchart of FIG.
復号処理が開始されると、ステップS201において、蓄積バッファ201は、伝送されてきたビットストリームを蓄積する。ステップS202において、可逆復号部202は、蓄積バッファ201から供給されるビットストリーム(符号化された差分画像情報)を復号する。このとき、イントラ予測情報やインター予測情報等、ビットストリームに含められた差分画像情報以外の各種情報も復号される。
When the decoding process is started, the
ステップS203において、逆量子化部203は、ステップS202の処理により得られた、量子化された直交変換係数を逆量子化する。ステップS204において逆直交変換部204は、ステップS203において逆量子化された直交変換係数を逆直交変換する。
In step S203, the
ステップS205において、イントラ予測部211若しくは動き予測・補償部212は、供給された情報を用いて予測処理を行う。ステップS206において、演算部205は、ステップS204において逆直交変換されて得られた差分画像情報に、ステップS205において生成された予測画像を加算する。これにより再構成画像が生成される。
In step S205, the
ステップS207において、ループフィルタ206は、ステップS206において得られた再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜行う。
In step S207, the
ステップS208において、画面並べ替えバッファ207は、ステップS207においてフィルタ処理されて生成された復号画像の並べ替えを行う。すなわち画像符号化装置100の画面並べ替えバッファ102により符号化のために並べ替えられたフレームの順序が、元の表示の順序に並べ替えられる。
In step S208, the
ステップS209において、D/A変換部208は、フレームの順序が並べ替えられた復号画像をD/A変換する。この復号画像が図示せぬディスプレイに出力され、表示される。
In step S209, the D /
ステップS210において、フレームメモリ209は、ステップS207においてフィルタ処理されて得られた復号画像を記憶する。この復号画像は、インター予測処理において参照画像として利用される。
In step S210, the
ステップS210の処理が終了すると、復号処理が終了される。 When the process of step S210 ends, the decoding process ends.
[予測処理の流れ]
次に、図19のフローチャートを参照して、図18のステップS205において実行される予測処理の流れの例を説明する。
[Prediction process flow]
Next, an example of the flow of prediction processing executed in step S205 in FIG. 18 will be described with reference to the flowchart in FIG.
予測処理が開始されると、可逆復号部202は、ステップS231において、処理対象の領域が符号化の際にイントラ予測が行われたか否かを判定する。イントラ予測が行われたと判定された場合、可逆復号部202は、処理をステップS232に進める。
When the prediction process is started, the
この場合、イントラ予測部211は、ステップS232において、可逆復号部202からイントラ予測モード情報を取得し、ステップS233において、イントラ予測によって予測画像を生成する。予測画像が生成されると、イントラ予測部211は、予測処理を終了し、処理を図18に戻す。
In this case, the
また、ステップS231において、当該領域がインター予測の行われた領域であると判定した場合、可逆復号部202は、処理をステップS234に進める。ステップS234において、動き予測・補償部212は、インター動き予測処理を行う。インター動き予測処理が終了すると、動き予測・補償部212は、予測処理を終了し、処理を図18に戻す。
If it is determined in step S231 that the region is an inter-predicted region, the
[インター動き予測処理の流れ]
次に、図20のフローチャートを参照して、図19のステップS234において実行されるインター動き予測処理の流れの例を説明する。
[Flow of inter motion prediction processing]
Next, an example of the flow of inter motion prediction processing executed in step S234 in FIG. 19 will be described with reference to the flowchart in FIG.
インター動き予測処理が開始されると、ステップS251において、予測動き情報バッファ232は、可逆復号部202から予測動き情報を取得する。ステップS252において、予測動きベクトル再構築部241は、その予測動き情報から、当該領域の動きベクトルの予測が、時間周辺領域を参照する時間予測であるか、空間周辺領域を参照する空間予測であるかを判定する。時間予測であると判定された場合、予測動きベクトル再構築部241は、時間周辺動き情報を要求し、処理をステップS253に進める。
When the inter motion prediction process is started, the predicted motion information buffer 232 acquires the predicted motion information from the
ステップS253において、動きベクトル逆量子化部224は、要求された時間周辺動き情報を動きベクトルバッファ223から読み出し、その動きベクトル(時間周辺動きベクトル)を逆量子化する。この逆量子化は、図15のフローチャートを参照して説明した、動きベクトル逆量子化部124による時間周辺動きベクトル逆量子化処理と同様であるので、その説明は省略する。
In step S253, the motion vector
ステップS254において、予測動きベクトル再構築部241は、ステップS253の処理により得られた時間周辺動き情報を用いて予測動きベクトルを再構築し、処理をステップS256に進める。
In step S254, the motion vector
また、ステップS252において、当該領域の動きベクトルの予測が、空間予測であると判定された場合、予測動きベクトル再構築部241は、処理をステップS255に進める。
If it is determined in step S252 that the motion vector prediction of the area is spatial prediction, the motion vector
ステップS255において、予測動きベクトル再構築部241は、保持している空間周辺動き情報を用いて予測動きベクトルを再構築し、処理をステップS256に進める。
In step S255, the motion vector
ステップS256において、差分動き情報バッファ231は、可逆復号部202において得られた差分動き情報を取得する。ステップS257において、動き情報再構築部234は、ステップS254若しくはステップS255の処理により再構築された予測動きベクトル情報と、ステップS256の処理により取得された差分動き情報とを用いて、当該領域の動き情報を再構築する。
In step S256, the differential
ステップS258において、動き補償部235は、フレームメモリ209から読み出した参照画像画素値を用いて、ステップS257の処理により再構築された動き情報の動き補償を行い、予測画像を生成する。
In step S258, the
ステップS259において、動き補償部235は、ステップS258の処理により得られた予測画像画素値を、選択部213を介して演算部205に供給し、再構成画像を生成させる。
In step S259, the
ステップS260において、動きベクトル量子化部222は、ステップS257の処理により再構築された当該領域の動き情報の動きベクトルを量子化する。この量子化は、図14のフローチャートを参照して説明した、動きベクトル量子化部122による動きベクトル量子化処理と同様であるので、その説明は省略する。
In step S260, the motion
ステップS261において、動きベクトルバッファ223は、ステップS260の処理により量子化された動き情報を記憶する。
In step S261, the
ステップS261の処理が終了すると、動きベクトルバッファ223は、インター動き予測処理を終了し、処理を図19に戻す。
When the process of step S261 ends, the
以上のように、各処理を行うことにより、画像復号装置200は、動きベクトルの記憶に必要な記憶容量を低減させることができる。特に、画像復号装置200は、時間周辺動き情報として利用される動きベクトルの記憶に必要な記憶容量を低減させることができる。また、上述したように、より大きな動きベクトルの情報量をより大きく低減させるので、画像復号装置200は、符号化効率の低減を抑制しながら、時間周辺動き情報の記憶に必要な記憶容量を低減させることができる。 As described above, by performing each process, the image decoding apparatus 200 can reduce the storage capacity necessary for storing motion vectors. In particular, the image decoding apparatus 200 can reduce the storage capacity necessary for storing a motion vector used as temporal peripheral motion information. Further, as described above, since the amount of information of a larger motion vector is further reduced, the image decoding apparatus 200 reduces the storage capacity necessary for storing temporal peripheral motion information while suppressing a reduction in encoding efficiency. Can be made.
以上においては、量子化により、動きベクトルバッファ123および動きベクトルバッファ223に記憶する動き情報の情報量を低減させるように説明したが、これに限らず、動き情報の情報量を低減させる処理であればどのような処理を施すようにしてもよい。例えば、動きベクトルの上限値を設定し、その上限値以上の値は、全てその上限値に変更するクリップ処理(つまり、動きベクトルの長さを上限値以下に低減させる処理)が行われるようにしてもよい。
In the above description, the amount of motion information stored in the
また、以上においては、閾値を用いた非線形量子化によって、より大きな動きベクトルの情報量をより大きく低減させるように説明したが、動きベクトルの大きさに応じて量子化ステップサイズを変化させるようにすればどのような方法であってもよい。例えば、動きベクトルの大きさと量子化ステップサイズを対応させるテーブル情報や関数等を予め用意し、その情報に従って、量子化ステップサイズが、動きベクトルのサイズに応じて決定されるようにしてもよい。 In the above description, the amount of information of a larger motion vector has been described to be greatly reduced by nonlinear quantization using a threshold. However, the quantization step size is changed according to the size of the motion vector. Any method can be used. For example, table information or a function that associates the magnitude of the motion vector with the quantization step size may be prepared in advance, and the quantization step size may be determined according to the size of the motion vector according to the information.
また、以上においては、閾値θの数を2つとして説明したが、閾値の数は任意である。例えば、1つであってもよいし、3つ以上であってもよい。また、閾値の値は任意である。さらに、閾値の値の決定方法も任意である。例えば、処理対象の画像データの動きベクトルの全て若しくは一部の標準偏差等を用いて閾値の値が決定されるようにしてもよい。 In the above description, the number of threshold values θ is two, but the number of threshold values is arbitrary. For example, there may be one, or three or more. The threshold value is arbitrary. Furthermore, the method for determining the threshold value is also arbitrary. For example, the threshold value may be determined using all or part of the standard deviation of the motion vector of the image data to be processed.
さらに、閾値の設定頻度は、任意である。例えば、シーケンス、ピクチャ、スライス、LCU、CU、またはPU等、任意のデータ単位毎に閾値が設定されるようにしてもよい。また、例えばユーザ指示等、所定のイベント発生時に閾値が設定されるようにしてもよい。さらに、閾値は、予め定められた固定値であってもよい。 Further, the threshold setting frequency is arbitrary. For example, a threshold value may be set for each arbitrary data unit such as a sequence, a picture, a slice, an LCU, a CU, or a PU. Further, for example, a threshold value may be set when a predetermined event occurs such as a user instruction. Furthermore, the threshold value may be a predetermined fixed value.
以上においては、閾値が画像符号化装置100から画像復号装置200に伝送されるように説明したが、これに限らず、例えば、画像(画枠)サイズや動きベクトルの精度等のプロファイル・レベルのパラメータに応じて、画像符号化装置100と画像復号装置200のそれぞれにおいて閾値が設定されるようにしてもよい。 In the above description, the threshold has been described as being transmitted from the image encoding device 100 to the image decoding device 200. However, the present invention is not limited to this. A threshold may be set in each of the image encoding device 100 and the image decoding device 200 according to the parameters.
例えば、リアルタイム動作のための、メモリ容量の削減に対する要求は、より画枠、フレームレートの高い、つまり、単位時間時間当たりに処理すべき画素の量が多いほど、高い。また、単位画素当たりの持つ周波数情報は、画枠が小さいほど高く、動きベクトル情報の解像度を落とすことによる符号化効率の劣化は、より画枠の小さい時の方が大きい。そこで、例えば、画枠が小さい時ほど、相対的に、より大きなθの値を設定するようにしてもよい。 For example, the demand for reducing the memory capacity for real-time operation is higher as the image frame and frame rate are higher, that is, as the amount of pixels to be processed per unit time is larger. In addition, the frequency information per unit pixel is higher as the image frame is smaller, and the deterioration of the encoding efficiency due to lowering the resolution of the motion vector information is greater when the image frame is smaller. Therefore, for example, a relatively larger θ value may be set as the image frame is smaller.
なお、以上においては、バッファに記憶する動きベクトルの情報量の低減方法が、画像符号化装置100と画像復号装置200とで、互いに同一であるように説明したが、これに限らず、画像符号化装置100と画像復号装置200とが互いに異なる方法で、それぞれのバッファに記憶する動きベクトルの情報量を低減させるようにしてもよい。例えば、一方がクリップ処理を行い、他方が量子化を行うようにしてもよい。また、例えば、一方が閾値を用いた非線形量子化を行い、他方が、テーブル情報や関数を用いて量子化ステップサイズを決定する量子化を行うようにしてもよい。さらに、例えば、閾値の数、値、設定方法、および設定頻度等が、互いに異なるようにしてもよい。 In the above description, the method for reducing the information amount of the motion vector stored in the buffer has been described as being the same between the image coding apparatus 100 and the image decoding apparatus 200. The amount of motion vector information stored in the respective buffers may be reduced by the encoding device 100 and the image decoding device 200 using different methods. For example, one may perform clip processing and the other may perform quantization. Further, for example, one may perform nonlinear quantization using a threshold value, and the other may perform quantization that determines a quantization step size using table information or a function. Further, for example, the number of threshold values, the value, the setting method, the setting frequency, and the like may be different from each other.
また、動きベクトルバッファ123や動きベクトルバッファ223の情報管理は、可変長方式(Variable length)であってもよい。その場合も、それらのバッファに記憶される動き情報の情報量の総量を、量子化処理により低減させることは可能である。したがって画像符号化装置100および画像復号装置200は、上述した固定長の場合と同様の効果を得ることができる。また、画像符号化装置100と画像復号装置200とで、この情報管理方法が互いに異なるようにしてもよい。
The information management of the
また、以上においては、動きベクトルの精度を1/4画素精度としたが、動きベクトルの精度は任意である。 In the above description, the accuracy of the motion vector is set to 1/4 pixel accuracy, but the accuracy of the motion vector is arbitrary.
<3.第3の実施の形態>
[動きベクトル量子化処理の流れ]
なお、動きベクトルをその成分毎に量子化するようにしてもよい。つまり、例えば、動きベクトル量子化部122が、動きベクトルの水平成分と垂直成分をそれぞれ互いに独立して量子化するようにしてもよい。
<3. Third Embodiment>
[Flow of motion vector quantization processing]
Note that the motion vector may be quantized for each component. That is, for example, the motion
図21のフローチャートを参照して、その場合の動きベクトル量子化処理の流れの例を説明する。 An example of the flow of motion vector quantization processing in that case will be described with reference to the flowchart of FIG.
ステップS301において、動きベクトル量子化部122は、閾値(例えば、θ1/4やθ1/2)を設定する。なお、この処理は、既に閾値が設定済みであり、かつ、更新の必要が無い場合、省略することもできる。
In step S301, the motion
ステップS302において、動きベクトル量子化部122は、量子化する動きベクトルの水平成分の大きさをステップS301において設定した閾値を用いて判定し、その大きさに応じて量子化ステップサイズを決定する。
In step S302, the motion
ステップS303において、動きベクトル量子化部122は、ステップS302において決定された量子化ステップサイズで動きベクトルの水平成分を量子化する。
In step S303, the motion
ステップS304において、動きベクトル量子化部122は、量子化する動きベクトルの垂直成分の大きさをステップS301において設定した閾値を用いて判定し、その大きさに応じて量子化ステップサイズを決定する。
In step S304, the motion
ステップS305において、動きベクトル量子化部122は、ステップS304において決定された量子化ステップサイズで動きベクトルの垂直成分を量子化する。
In step S305, the motion
ステップS306において、動きベクトル量子化部122は、ステップS301において設定された閾値を可逆符号化部106に供給し、符号化させる。なお、ステップS301の処理を省略する場合、この処理も省略される。
In step S306, the motion
ステップS306の処理が終了すると、動きベクトル量子化部122は、処理を図13に戻す。
When the process of step S306 ends, the motion
[時間周辺動きベクトル逆量子化処理の流れ]
次に、図22のフローチャートを参照して、この場合の時間周辺動きベクトル逆量子化処理の流れの例を説明する。
[Time-related motion vector inverse quantization process flow]
Next, an example of the flow of temporal peripheral motion vector dequantization processing in this case will be described with reference to the flowchart of FIG.
ステップS321において、動きベクトル逆量子化部124は、図21のステップS301の処理により動きベクトル量子化部122において設定された量子化処理の閾値を取得し、逆量子化処理に用いる閾値として設定する。なお、この処理は、既に閾値が設定済みであり、かつ、更新の必要が無い場合、省略することもできる。
In step S321, the motion vector
ステップS322において、動きベクトル逆量子化部124は、逆量子化する時間周辺動きベクトルの水平成分の大きさをステップS321において設定した閾値を用いて判定し、その大きさに応じて量子化ステップサイズを決定する。なお、図11の例を用いて説明すると、この場合、閾値(θ1/4,θ1/2)は、図11の縦軸の値(θ1/4,((1/2)×θ1/4+(1/2)×θ1/2))に換算され、時間周辺動きベクトルの水平成分の大きさと比較される。
In step S322, the motion
ステップS323において、動きベクトル逆量子化部124は、ステップS322の処理により決定された量子化ステップサイズで時間周辺動きベクトルの水平成分を逆量子化する。
In step S323, the motion vector
ステップS324において、動きベクトル逆量子化部124は、逆量子化する時間周辺動きベクトルの垂直成分の大きさをステップS321において設定した閾値を用いて判定し、その大きさに応じて量子化ステップサイズを決定する。
In step S324, the motion
ステップS325において、動きベクトル逆量子化部124は、ステップS324の処理により決定された量子化ステップサイズで時間周辺動きベクトルの垂直成分を逆量子化する。
In step S325, the motion vector
ステップS325の処理が終了すると、動きベクトル逆量子化部124は、処理を図13に戻す。
When the process of step S325 ends, the motion vector
以上のように、動きベクトルの水平成分と垂直成分とを互いに独立に量子化・逆量子化することにより、画像符号化装置100は、より容易に量子化・逆量子化を行うことができる。 As described above, by quantizing and dequantizing the horizontal and vertical components of the motion vector independently of each other, the image coding apparatus 100 can perform quantization and dequantization more easily.
これに対して、第1の実施の形態や第2の実施の形態において説明したように量子化・逆量子化を行う場合、画像符号化装置100は、動きベクトルバッファ123に記憶する動きベクトルの長さを求める必要があり、その分、演算量が増大する恐れがある。ただし、第1の実施の形態や第2の実施の形態の場合の方が、第3の実施の形態のように成分毎に量子化・逆量子化を行う場合よりも、情報量を低減させることができる。
On the other hand, when quantization / inverse quantization is performed as described in the first embodiment or the second embodiment, the image encoding device 100 stores motion vectors stored in the
なお、以上においては、画像符号化装置100において行われる量子化・逆量子化について説明したが、画像復号装置200において行われる量子化・逆量子化も、上述したのと同様に成分毎に互いに独立して行うことができる。 In the above description, the quantization / inverse quantization performed in the image coding apparatus 100 has been described. However, the quantization / inverse quantization performed in the image decoding apparatus 200 is performed for each component as described above. Can be done independently.
また、水平成分用の閾値と垂直成分用の閾値を設け、それぞれの値を、互いに独立して設定するようにしてもよい。 Alternatively, a horizontal component threshold value and a vertical component threshold value may be provided, and the respective values may be set independently of each other.
<4.第4の実施の形態>
[動きベクトル量子化処理の流れ]
また、動きベクトルの各成分の内、大きい方の成分に従って、量子化ステップサイズが決定されるようにしてもよい。
<4. Fourth Embodiment>
[Flow of motion vector quantization processing]
Further, the quantization step size may be determined according to the larger component of the motion vector components.
図23のフローチャートを参照して、その場合の動きベクトル量子化処理の流れの例を説明する。 An example of the flow of motion vector quantization processing in that case will be described with reference to the flowchart of FIG.
ステップS401において、動きベクトル量子化部122は、閾値(例えば、θ1/4やθ1/2)を設定する。なお、この処理は、既に閾値が設定済みであり、かつ、更新の必要が無い場合、省略することもできる。
In step S401, the motion
ステップS402において、動きベクトル量子化部122は、量子化する動きベクトルの各成分の内、大きい方の成分の大きさをステップS401において設定した閾値を用いて判定し、その大きさに応じて量子化ステップサイズを決定する。
In step S402, the motion
ステップS403において、動きベクトル量子化部122は、ステップS402において決定された量子化ステップサイズで動きベクトルを量子化する。
In step S403, the motion
ステップS404において、動きベクトル量子化部122は、ステップS401において設定された閾値を可逆符号化部106に供給し、符号化させる。なお、ステップS401の処理を省略する場合、この処理も省略される。
In step S404, the motion
ステップS404の処理が終了すると、動きベクトル量子化部122は、処理を図13に戻す。
When the process of step S404 ends, the motion
[時間周辺動きベクトル逆量子化処理の流れ]
次に、図24のフローチャートを参照して、この場合の時間周辺動きベクトル逆量子化処理の流れの例を説明する。
[Time-related motion vector inverse quantization process flow]
Next, an example of the flow of temporal peripheral motion vector dequantization processing in this case will be described with reference to the flowchart of FIG.
ステップS421において、動きベクトル逆量子化部124は、図23のステップS401の処理により動きベクトル量子化部122において設定された量子化処理の閾値を取得し、逆量子化処理に用いる閾値として設定する。なお、この処理は、既に閾値が設定済みであり、かつ、更新の必要が無い場合、省略することもできる。
In step S421, the motion
ステップS422において、動きベクトル逆量子化部124は、逆量子化する時間周辺動きベクトルの各成分の内、大きい方の成分の大きさをステップS421において設定した閾値を用いて判定し、その大きさに応じて量子化ステップサイズを決定する。
In step S422, the motion
ステップS423において、動きベクトル逆量子化部124は、ステップS422の処理により決定された量子化ステップサイズで時間周辺動きベクトルを逆量子化する。
In step S423, the motion vector
ステップS423の処理が終了すると、動きベクトル逆量子化部124は、処理を図13に戻す。
When the process of step S423 ends, the motion vector
以上のように、動きベクトルの各成分の内、大きい方に合わせて量子化・逆量子化することにより、画像符号化装置100は、より確実に、動きベクトルバッファ123に格納する動きベクトルの情報量を低減させることができる。
As described above, by performing quantization / inverse quantization according to the larger one of the motion vector components, the image coding apparatus 100 can more reliably store information on the motion vector stored in the
なお、以上においては、画像符号化装置100において行われる量子化・逆量子化について説明したが、画像復号装置200において行われる量子化・逆量子化も、上述したのと同様に成分毎に互いに独立して行うことができる。 In the above description, the quantization / inverse quantization performed in the image coding apparatus 100 has been described. However, the quantization / inverse quantization performed in the image decoding apparatus 200 is performed for each component as described above. Can be done independently.
また、以上においては、時間周辺動き情報として使用される動き情報の情報量を低減するように説明したが、これに限らず、空間周辺動き情報として使用される動き情報の情報量を低減させるようにしてもよい。 In the above description, the amount of motion information used as temporal peripheral motion information has been described as being reduced. However, the present invention is not limited to this, and the amount of motion information used as spatial peripheral motion information is reduced. It may be.
なお、本技術は、例えば、MPEG、H.26x等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報(ビットストリーム)を、衛星放送、ケーブルテレビジョン、インターネット、または携帯電話機などのネットワークメディアを介して受信する際に用いられる画像符号化装置および画像復号装置に適用することができる。また、本技術は、光、磁気ディスク、およびフラッシュメモリのような記憶メディア上で処理する際に用いられる画像符号化装置および画像復号装置に適用することができる。さらに、本技術は、それらの画像符号化装置および画像復号装置などに含まれる動き予測補償装置にも適用することができる。 Note that the present technology is, for example, MPEG, H.264, and the like. When receiving image information (bitstream) compressed by orthogonal transformation such as discrete cosine transformation and motion compensation, such as 26x, via network media such as satellite broadcasting, cable television, the Internet, or mobile phones. The present invention can be applied to an image encoding device and an image decoding device used in the above. In addition, the present technology can be applied to an image encoding device and an image decoding device that are used when processing on a storage medium such as an optical, magnetic disk, and flash memory. Furthermore, the present technology can also be applied to motion prediction / compensation devices included in such image encoding devices and image decoding devices.
<5.第5の実施の形態>
[コンピュータ]
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な汎用のパーソナルコンピュータなどが含まれる。
<5. Fifth embodiment>
[Computer]
The series of processes described above can be executed by hardware or can be executed by software. When a series of processing is executed by software, a program constituting the software is installed in the computer. Here, the computer includes a computer incorporated in dedicated hardware, a general-purpose personal computer capable of executing various functions by installing various programs, and the like.
図25において、パーソナルコンピュータ500のCPU(Central Processing Unit)501は、ROM(Read Only Memory)502に記憶されているプログラム、または記憶部513からRAM(Random Access Memory)503にロードされたプログラムに従って各種の処理を実行する。RAM503にはまた、CPU501が各種の処理を実行する上において必要なデータなども適宜記憶される。
In FIG. 25, a CPU (Central Processing Unit) 501 of the personal computer 500 performs various processes according to a program stored in a ROM (Read Only Memory) 502 or a program loaded from a
CPU501、ROM502、およびRAM503は、バス504を介して相互に接続されている。このバス504にはまた、入出力インタフェース510も接続されている。
The
入出力インタフェース510には、キーボード、マウスなどよりなる入力部511、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などよりなるディスプレイ、並びにスピーカなどよりなる出力部512、ハードディスクなどより構成される記憶部513、モデムなどより構成される通信部514が接続されている。通信部514は、インターネットを含むネットワークを介しての通信処理を行う。
The input /
入出力インタフェース510にはまた、必要に応じてドライブ515が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア521が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部513にインストールされる。
A
上述した一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、ネットワークや記録媒体からインストールされる。 When the above-described series of processing is executed by software, a program constituting the software is installed from a network or a recording medium.
この記録媒体は、例えば、図25に示されるように、装置本体とは別に、ユーザにプログラムを配信するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc - Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、若しくは半導体メモリなどよりなるリムーバブルメディア521により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに配信される、プログラムが記録されているROM502や、記憶部513に含まれるハードディスクなどで構成される。
For example, as shown in FIG. 25, this recording medium is distributed to distribute a program to a user separately from the apparatus main body, and includes a magnetic disk (including a flexible disk) on which a program is recorded, an optical disk ( It only consists of removable media 521 consisting of CD-ROM (compact disc-read only memory), DVD (including digital versatile disc), magneto-optical disc (including MD (mini disc)), or semiconductor memory. Rather, it is composed of a
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。 The program executed by the computer may be a program that is processed in time series in the order described in this specification, or in parallel or at a necessary timing such as when a call is made. It may be a program for processing.
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。 Further, in the present specification, the step of describing the program recorded on the recording medium is not limited to the processing performed in chronological order according to the described order, but may be performed in parallel or It also includes processes that are executed individually.
また、本明細書において、システムとは、複数のデバイス(装置)により構成される装置全体を表すものである。 Further, in this specification, the system represents the entire apparatus composed of a plurality of devices (apparatuses).
また、以上において、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。つまり、本技術は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。 In addition, in the above description, the configuration described as one device (or processing unit) may be divided and configured as a plurality of devices (or processing units). Conversely, the configurations described above as a plurality of devices (or processing units) may be combined into a single device (or processing unit). Of course, a configuration other than that described above may be added to the configuration of each device (or each processing unit). Furthermore, if the configuration and operation of the entire system are substantially the same, a part of the configuration of a certain device (or processing unit) may be included in the configuration of another device (or other processing unit). . That is, the present technology is not limited to the above-described embodiment, and various modifications can be made without departing from the gist of the present technology.
上述した実施形態に係る画像符号化装置及び画像復号装置は、衛星放送、ケーブルTVなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。以下、4つの応用例について説明する。 An image encoding device and an image decoding device according to the above-described embodiments include a transmitter or a receiver in optical broadcasting, satellite broadcasting, cable broadcasting such as cable TV, distribution on the Internet, and distribution to terminals by cellular communication, etc. The present invention can be applied to various electronic devices such as a recording device that records an image on a medium such as a magnetic disk and a flash memory, or a playback device that reproduces an image from these storage media. Hereinafter, four application examples will be described.
<6.第6の実施の形態>
[第1の応用例:テレビジョン受像機]
図26は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置900は、アンテナ901、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、表示部906、音声信号処理部907、スピーカ908、外部インタフェース909、制御部910、ユーザインタフェース911、及びバス912を備える。
<6. Sixth Embodiment>
[First application example: television receiver]
FIG. 26 illustrates an example of a schematic configuration of a television device to which the above-described embodiment is applied. The
チューナ902は、アンテナ901を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ902は、復調により得られた符号化ビットストリームをデマルチプレクサ903へ出力する。即ち、チューナ902は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送部としての役割を有する。
The
デマルチプレクサ903は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ904へ出力する。また、デマルチプレクサ903は、符号化ビットストリームからEPG(Electronic Program Guide)などの補助的なデータを抽出し、抽出したデータを制御部910に供給する。なお、デマルチプレクサ903は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。
The
デコーダ904は、デマルチプレクサ903から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ904は、復号処理により生成される映像データを映像信号処理部905へ出力する。また、デコーダ904は、復号処理により生成される音声データを音声信号処理部907へ出力する。
The
映像信号処理部905は、デコーダ904から入力される映像データを再生し、表示部906に映像を表示させる。また、映像信号処理部905は、ネットワークを介して供給されるアプリケーション画面を表示部906に表示させてもよい。また、映像信号処理部905は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部905は、例えばメニュー、ボタン又はカーソルなどのGUI(Graphical User Interface)の画像を生成し、生成した画像を出力画像に重畳してもよい。
The video
表示部906は、映像信号処理部905から供給される駆動信号により駆動され、表示デバイス(例えば、液晶ディスプレイ、プラズマディスプレイ又はOELD(Organic ElectroLuminescence Display)(有機ELディスプレイ)など)の映像面上に映像又は画像を表示する。
The display unit 906 is driven by a drive signal supplied from the video
音声信号処理部907は、デコーダ904から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ908から音声を出力させる。また、音声信号処理部907は、音声データについてノイズ除去などの追加的な処理を行ってもよい。
The audio
外部インタフェース909は、テレビジョン装置900と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース909を介して受信される映像ストリーム又は音声ストリームが、デコーダ904により復号されてもよい。即ち、外部インタフェース909もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送部としての役割を有する。
The
制御部910は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置900の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース911から入力される操作信号に応じて、テレビジョン装置900の動作を制御する。
The
ユーザインタフェース911は、制御部910と接続される。ユーザインタフェース911は、例えば、ユーザがテレビジョン装置900を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース911は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部910へ出力する。
The
バス912は、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、音声信号処理部907、外部インタフェース909及び制御部910を相互に接続する。
The
このように構成されたテレビジョン装置900において、デコーダ904は、上述した実施形態に係る画像復号装置の機能を有する。それにより、テレビジョン装置900での画像の復号に際して、動きベクトルを格納するのに必要な記憶容量の増大を抑制することができる。
In the
<7.第7の実施の形態>
[第2の応用例:携帯電話機]
図27は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機920は、アンテナ921、通信部922、音声コーデック923、スピーカ924、マイクロホン925、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、制御部931、操作部932、及びバス933を備える。
<7. Seventh Embodiment>
[Second application example: mobile phone]
FIG. 27 shows an example of a schematic configuration of a mobile phone to which the above-described embodiment is applied. A
アンテナ921は、通信部922に接続される。スピーカ924及びマイクロホン925は、音声コーデック923に接続される。操作部932は、制御部931に接続される。バス933は、通信部922、音声コーデック923、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、及び制御部931を相互に接続する。
The
携帯電話機920は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。
The
音声通話モードにおいて、マイクロホン925により生成されるアナログ音声信号は、音声コーデック923に供給される。音声コーデック923は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック923は、圧縮後の音声データを通信部922へ出力する。通信部922は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号を、アンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック923へ出力する。音声コーデック923は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。
In the voice call mode, an analog voice signal generated by the
また、データ通信モードにおいて、例えば、制御部931は、操作部932を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部931は、文字を表示部930に表示させる。また、制御部931は、操作部932を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部922へ出力する。通信部922は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号を、アンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部931へ出力する。制御部931は、表示部930に電子メールの内容を表示させると共に、電子メールデータを記録再生部929の記憶媒体に記憶させる。
Further, in the data communication mode, for example, the
記録再生部929は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、RAM又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USB(Unallocated Space Bitmap)メモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。
The recording / reproducing
また、撮影モードにおいて、例えば、カメラ部926は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部927へ出力する。画像処理部927は、カメラ部926から入力される画像データを符号化し、符号化ストリームを記憶再生部929の記憶媒体に記憶させる。
In the shooting mode, for example, the
また、テレビ電話モードにおいて、例えば、多重分離部928は、画像処理部927により符号化された映像ストリームと、音声コーデック923から入力される音声ストリームとを多重化し、多重化したストリームを通信部922へ出力する。通信部922は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号を、アンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部922は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部928へ出力する。多重分離部928は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部927、音声ストリームを音声コーデック923へ出力する。画像処理部927は、映像ストリームを復号し、映像データを生成する。映像データは、表示部930に供給され、表示部930により一連の画像が表示される。音声コーデック923は、音声ストリームを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。
Further, in the videophone mode, for example, the
このように構成された携帯電話機920において、画像処理部927は、上述した実施形態に係る画像符号化装置及び画像復号装置の機能を有する。それにより、携帯電話機920での画像の符号化及び復号に際して、動きベクトルを格納するのに必要な記憶容量の増大を抑制することができる。
In the
<8.第8の実施の形態>
[第3の応用例:記録再生装置]
図28は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置940は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置940は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置940は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置940は、音声データ及び映像データを復号する。
<8. Eighth Embodiment>
[Third application example: recording / reproducing apparatus]
FIG. 28 shows an example of a schematic configuration of a recording / reproducing apparatus to which the above-described embodiment is applied. For example, the recording / reproducing
記録再生装置940は、チューナ941、外部インタフェース942、エンコーダ943、HDD(Hard Disk Drive)944、ディスクドライブ945、セレクタ946、デコーダ947、OSD(On-Screen Display)948、制御部949、及びユーザインタフェース950を備える。
The recording / reproducing
チューナ941は、アンテナ(図示せず)を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ941は、復調により得られた符号化ビットストリームをセレクタ946へ出力する。即ち、チューナ941は、記録再生装置940における伝送部としての役割を有する。
The
外部インタフェース942は、記録再生装置940と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース942は、例えば、IEEE1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース942を介して受信される映像データ及び音声データは、エンコーダ943へ入力される。即ち、外部インタフェース942は、記録再生装置940における伝送部としての役割を有する。
The
エンコーダ943は、外部インタフェース942から入力される映像データ及び音声データが符号化されていない場合に、映像データ及び音声データを符号化する。そして、エンコーダ943は、符号化ビットストリームをセレクタ946へ出力する。
The
HDD944は、映像及び音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラム及びその他のデータを内部のハードディスクに記録する。また、HDD944は、映像及び音声の再生時に、これらデータをハードディスクから読み出す。
The
ディスクドライブ945は、装着されている記録媒体へのデータの記録及び読み出しを行う。ディスクドライブ945に装着される記録媒体は、例えばDVDディスク(DVD-Video、DVD-RAM、DVD-R、DVD-RW、DVD+R、DVD+RW等)又はBlu-ray(登録商標)ディスクなどであってよい。
The
セレクタ946は、映像及び音声の記録時には、チューナ941又はエンコーダ943から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをHDD944又はディスクドライブ945へ出力する。また、セレクタ946は、映像及び音声の再生時には、HDD944又はディスクドライブ945から入力される符号化ビットストリームをデコーダ947へ出力する。
The
デコーダ947は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ947は、生成した映像データをOSD948へ出力する。また、デコーダ904は、生成した音声データを外部のスピーカへ出力する。
The
OSD948は、デコーダ947から入力される映像データを再生し、映像を表示する。また、OSD948は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。
The
制御部949は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置940の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース950から入力される操作信号に応じて、記録再生装置940の動作を制御する。
The
ユーザインタフェース950は、制御部949と接続される。ユーザインタフェース950は、例えば、ユーザが記録再生装置940を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース950は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部949へ出力する。
The
このように構成された記録再生装置940において、エンコーダ943は、上述した実施形態に係る画像符号化装置の機能を有する。また、デコーダ947は、上述した実施形態に係る画像復号装置の機能を有する。それにより、記録再生装置940での画像の符号化及び復号に際して、動きベクトルを格納するのに必要な記憶容量の増大を抑制することができる。
In the recording / reproducing
<9.第9の実施の形態>
[第4の応用例:撮像装置]
図29は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置960は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。
<9. Ninth Embodiment>
[Fourth Application Example: Imaging Device]
FIG. 29 illustrates an example of a schematic configuration of an imaging apparatus to which the above-described embodiment is applied. The
撮像装置960は、光学ブロック961、撮像部962、信号処理部963、画像処理部964、表示部965、外部インタフェース966、メモリ967、メディアドライブ968、OSD969、制御部970、ユーザインタフェース971、及びバス972を備える。
The
光学ブロック961は、撮像部962に接続される。撮像部962は、信号処理部963に接続される。表示部965は、画像処理部964に接続される。ユーザインタフェース971は、制御部970に接続される。バス972は、画像処理部964、外部インタフェース966、メモリ967、メディアドライブ968、OSD969、及び制御部970を相互に接続する。
The
光学ブロック961は、フォーカスレンズ及び絞り機構などを有する。光学ブロック961は、被写体の光学像を撮像部962の撮像面に結像させる。撮像部962は、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部962は、画像信号を信号処理部963へ出力する。
The
信号処理部963は、撮像部962から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部963は、カメラ信号処理後の画像データを画像処理部964へ出力する。
The
画像処理部964は、信号処理部963から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部964は、生成した符号化データを外部インタフェース966又はメディアドライブ968へ出力する。また、画像処理部964は、外部インタフェース966又はメディアドライブ968から入力される符号化データを復号し、画像データを生成する。そして、画像処理部964は、生成した画像データを表示部965へ出力する。また、画像処理部964は、信号処理部963から入力される画像データを表示部965へ出力して画像を表示させてもよい。また、画像処理部964は、OSD969から取得される表示用データを、表示部965へ出力する画像に重畳してもよい。
The
OSD969は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部964へ出力する。
The
外部インタフェース966は、例えばUSB入出力端子として構成される。外部インタフェース966は、例えば、画像の印刷時に、撮像装置960とプリンタとを接続する。また、外部インタフェース966には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置960にインストールされ得る。さらに、外部インタフェース966は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース966は、撮像装置960における伝送部としての役割を有する。
The
メディアドライブ968に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ968に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSD(Solid State Drive)のような非可搬性の記憶部が構成されてもよい。 The recording medium mounted on the media drive 968 may be any readable / writable removable medium such as a magnetic disk, a magneto-optical disk, an optical disk, or a semiconductor memory. Further, a recording medium may be fixedly attached to the media drive 968, and a non-portable storage unit such as a built-in hard disk drive or an SSD (Solid State Drive) may be configured.
制御部970は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置960の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース971から入力される操作信号に応じて、撮像装置960の動作を制御する。
The
ユーザインタフェース971は、制御部970と接続される。ユーザインタフェース971は、例えば、ユーザが撮像装置960を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース971は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部970へ出力する。
The
このように構成された撮像装置960において、画像処理部964は、上述した実施形態に係る画像符号化装置及び画像復号装置の機能を有する。それにより、撮像装置960での画像の符号化及び復号に際して、動きベクトルを格納するのに必要な記憶容量の増大を抑制することができる。
In the
なお、本明細書では、閾値などの様々な情報が、符号化ストリームのヘッダに多重化されて、符号化側から復号側へ伝送される例について説明した。しかしながら、これら情報を伝送する手法はかかる例に限定されない。例えば、これら情報は、符号化ビットストリームに多重化されることなく、符号化ビットストリームと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、「関連付ける」という用語は、ビットストリームに含まれる画像(スライス若しくはブロックなど、画像の一部であってもよい)と当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、画像(又はビットストリーム)とは別の伝送路上で伝送されてもよい。また、情報は、画像(又はビットストリーム)とは別の記録媒体(又は同一の記録媒体の別の記録エリア)に記録されてもよい。さらに、情報と画像(又はビットストリーム)とは、例えば、複数フレーム、1フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。 In the present specification, an example has been described in which various pieces of information such as threshold values are multiplexed on the header of the encoded stream and transmitted from the encoding side to the decoding side. However, the method for transmitting such information is not limited to such an example. For example, these pieces of information may be transmitted or recorded as separate data associated with the encoded bitstream without being multiplexed into the encoded bitstream. Here, the term “associate” means that an image (which may be a part of an image such as a slice or a block) included in the bitstream and information corresponding to the image can be linked at the time of decoding. Means. That is, information may be transmitted on a transmission path different from that of the image (or bit stream). Information may be recorded on a recording medium (or another recording area of the same recording medium) different from the image (or bit stream). Furthermore, the information and the image (or bit stream) may be associated with each other in an arbitrary unit such as a plurality of frames, one frame, or a part of the frame.
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示はかかる例に限定されない。本開示の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。 The preferred embodiments of the present disclosure have been described in detail above with reference to the accompanying drawings, but the present disclosure is not limited to such examples. It is obvious that a person having ordinary knowledge in the technical field to which the present disclosure belongs can come up with various changes or modifications within the scope of the technical idea described in the claims. Of course, it is understood that these also belong to the technical scope of the present disclosure.
なお、本技術は以下のような構成も取ることができる。
(1) 画像の動き予測において、処理対象である前記画像の当該領域の動きベクトルの予測の際に参照される、当該領域の周辺領域の動きベクトルの情報量を低減させる低減部と、
前記低減部により情報量が低減された前記動きベクトルを記憶する記憶部と
を備える画像処理装置。
(2) 前記低減部は、前記動きベクトルを量子化することにより、前記動きベクトルの情報量を低減させ、
前記記憶部は、量子化された前記動きベクトルを記憶する
前記(1)に記載の画像処理装置。
(3) 前記低減部は、前記動きベクトルの大きさに応じて、量子化ステップサイズを決定し、決定した前記量子化ステップサイズで前記動きベクトルを量子化する
前記(2)に記載の画像処理装置。
(4) 前記低減部は、前記動きベクトルがより大きいほど、前記量子化ステップサイズをより大きな値に決定する
前記(3)に記載の画像処理装置。
(5) 前記低減部は、閾値を設定し、前記動きベクトルの大きさを前記閾値を用いて判定し、その判定結果に応じて、前記量子化ステップサイズを決定し、決定した前記量子化ステップサイズで前記動きベクトルを量子化する
前記(3)または(4)に記載の画像処理装置。
(6) 前記低減部は、プロファイル・レベルに応じて前記閾値を設定する
前記(5)に記載の画像処理装置。
(7) 前記プロファイル・レベルは、前記画像のサイズ、若しくは、前記動きベクトルの少数精度である
前記(6)に記載の画像処理装置。
(8) 前記低減部は、前記動きベクトルの各成分の大きさを前記閾値を用いて判定し、より大きな成分の判定結果に応じて前記量子化ステップサイズを決定し、決定した前記量子化ステップサイズで前記動きベクトルを量子化する
前記(5)乃至(7)のいずれかに記載の画像処理装置。
(9) 前記閾値を符号化する符号化部をさらに備える
前記(5)乃至(8)のいずれかに記載の画像処理装置。
(10) 前記低減部は、上限値以上の値を全て前記上限値に変更するクリップ処理により、前記動きベクトルの情報量を低減させる
前記(1)に記載の画像処理装置。
(11) 前記低減部は、前記動きベクトルの情報量を、前記動きベクトルの成分毎に低減させる
前記(1)乃至(10)のいずれかに記載の画像処理装置。
(12) 前記低減部は、前記動きベクトルの成分毎に閾値を設定し、前記動きベクトルの各成分の大きさを、その成分の閾値を用いて判定し、その判定結果に応じて、前記量子化ステップサイズを成分毎に決定し、決定した前記量子化ステップサイズで前記動きベクトルの各成分を量子化する
前記(11)に記載の画像処理装置。
(13) 前記記憶部に記憶されている、量子化された動きベクトルを読み出し、逆量子化する逆量子化部をさらに備える
前記(2)乃至(12)のいずれかに記載の画像処理装置。
(14) 前記低減部は、閾値を設定し、前記動きベクトルの大きさを前記閾値を用いて判定し、その判定結果に応じて前記量子化ステップサイズを決定し、決定した量子化ステップサイズで前記動きベクトルを量子化し、
前記逆量子化部は、前記閾値を用いて、前記記憶部から読み出した、量子化された動きベクトルの大きさを判定し、その判定結果に応じて量子化ステップサイズを決定し、決定した量子化ステップサイズで、量子化された前記動きベクトルを逆量子化する
前記(13)に記載の画像処理装置。
(15) 前記逆量子化部により逆量子化された前記動きベクトルを時間周辺動きベクトルとして利用し、当該領域の予測動きベクトルを生成する予測動きベクトル生成部をさらに備える
前記(13)または(14)に記載の画像処理装置。
(16) 前記逆量子化部により逆量子化された前記動きベクトルを時間周辺動きベクトルとして利用し、当該領域の予測動きベクトルを再構築する予測動きベクトル再構築部をさらに備える
前記(13)または(14)に記載の画像処理装置。
(17) 閾値を取得する閾値取得部をさらに備え、
前記低減部は、前記動きベクトルの大きさを、前記閾値取得部により取得された前記閾値を用いて判定し、その判定結果に応じて、前記量子化ステップサイズを決定し、決定した前記量子化ステップサイズで前記動きベクトルを量子化する
前記(3)乃至(16)のいずれかに記載の画像処理装置。
(18) 前記閾値取得部により取得された前記閾値を用いて、前記記憶部から読み出した、量子化された前記動きベクトルの大きさを判定し、その判定結果に応じて量子化ステップサイズを決定し、決定した量子化ステップサイズで、量子化された前記動きベクトルを逆量子化する逆量子化部と、
前記逆量子化部により逆量子化された前記動きベクトルを時間周辺動きベクトルとして利用し、当該領域の予測動きベクトルを再構築する予測動きベクトル再構築部と
をさらに備える
前記(17)に記載の画像処理装置。
(19) 符号化データを復号する復号部をさらに備え、
前記閾値取得部は、前記復号部により復号された前記符号化データから抽出された前記閾値を取得する
前記(17)または(18)に記載の画像処理装置。
(20) 前記閾値取得部は、シーケンスパラメータセットに格納されている前記閾値を取得する
前記(17)乃至(19)に記載の画像処理装置。
(21) 画像処理装置の画像処理方法であって、
低減部が、画像の動き予測において、処理対象である前記画像の当該領域の動きベクトルの予測の際に参照される、当該領域の周辺領域の動きベクトルの情報量を低減させ、
記憶部が、情報量が低減された前記動きベクトルを記憶する
画像処理方法。
In addition, this technique can also take the following structures.
(1) In the image motion prediction, a reduction unit that reduces the information amount of the motion vector in the peripheral region of the region that is referred to when predicting the motion vector of the region of the image that is the processing target;
An image processing apparatus comprising: a storage unit that stores the motion vector whose information amount is reduced by the reduction unit.
(2) The reduction unit reduces the information amount of the motion vector by quantizing the motion vector,
The image processing apparatus according to (1), wherein the storage unit stores the quantized motion vector.
(3) The image processing according to (2), wherein the reduction unit determines a quantization step size according to a size of the motion vector, and quantizes the motion vector with the determined quantization step size. apparatus.
(4) The image processing device according to (3), wherein the reduction unit determines the quantization step size to be a larger value as the motion vector is larger.
(5) The reduction unit sets a threshold value, determines the magnitude of the motion vector using the threshold value, determines the quantization step size according to the determination result, and determines the determined quantization step The image processing apparatus according to (3) or (4), wherein the motion vector is quantized by size.
(6) The image processing device according to (5), wherein the reduction unit sets the threshold according to a profile level.
(7) The image processing device according to (6), wherein the profile level is a size of the image or a decimal precision of the motion vector.
(8) The reduction unit determines the size of each component of the motion vector using the threshold value, determines the quantization step size according to a determination result of a larger component, and determines the determined quantization step The image processing device according to any one of (5) to (7), wherein the motion vector is quantized by size.
(9) The image processing apparatus according to any one of (5) to (8), further including an encoding unit that encodes the threshold value.
(10) The image processing device according to (1), wherein the reduction unit reduces the information amount of the motion vector by clip processing that changes all values equal to or higher than an upper limit value to the upper limit value.
(11) The image processing device according to any one of (1) to (10), wherein the reduction unit reduces an information amount of the motion vector for each component of the motion vector.
(12) The reduction unit sets a threshold value for each component of the motion vector, determines the magnitude of each component of the motion vector using the threshold value of the component, and determines the quantum according to the determination result. The image processing device according to (11), wherein a quantization step size is determined for each component, and each component of the motion vector is quantized with the determined quantization step size.
(13) The image processing device according to any one of (2) to (12), further including an inverse quantization unit that reads and inverse-quantizes a quantized motion vector stored in the storage unit.
(14) The reduction unit sets a threshold value, determines the magnitude of the motion vector using the threshold value, determines the quantization step size according to the determination result, and uses the determined quantization step size. Quantize the motion vector;
The inverse quantization unit determines the size of the quantized motion vector read from the storage unit using the threshold, determines the quantization step size according to the determination result, and determines the determined quantum The image processing apparatus according to (13), wherein the quantized motion vector is inversely quantized with a quantization step size.
(15) The apparatus further includes a prediction motion vector generation unit that generates a prediction motion vector of the region using the motion vector inversely quantized by the inverse quantization unit as a temporal peripheral motion vector. ).
(16) The apparatus further includes a motion vector predictor reconstructing unit that reconstructs a motion vector predictor in the region by using the motion vector dequantized by the inverse quantizer as a temporal peripheral motion vector. The image processing apparatus according to (14).
(17) A threshold acquisition unit that acquires a threshold is further provided,
The reduction unit determines the magnitude of the motion vector using the threshold acquired by the threshold acquisition unit, determines the quantization step size according to the determination result, and determines the determined quantization The image processing device according to any one of (3) to (16), wherein the motion vector is quantized with a step size.
(18) The size of the quantized motion vector read from the storage unit is determined using the threshold acquired by the threshold acquisition unit, and the quantization step size is determined according to the determination result An inverse quantization unit that inversely quantizes the quantized motion vector with the determined quantization step size;
The motion vector dequantized by the inverse quantization unit is further used as a temporal motion vector, and further includes a predicted motion vector reconstruction unit that reconstructs a predicted motion vector of the region. Image processing device.
(19) It further comprises a decoding unit for decoding the encoded data,
The image processing apparatus according to (17) or (18), wherein the threshold acquisition unit acquires the threshold extracted from the encoded data decoded by the decoding unit.
(20) The image processing apparatus according to (17) to (19), wherein the threshold acquisition unit acquires the threshold stored in a sequence parameter set.
(21) An image processing method for an image processing apparatus,
The reduction unit reduces the information amount of the motion vector in the peripheral region of the region, which is referred to when predicting the motion vector of the region of the image to be processed in the motion prediction of the image,
An image processing method in which a storage unit stores the motion vector with a reduced amount of information.
100 画像符号化装置, 115 動き予測・補償部, 121 動きベクトル符号化部, 122 動きベクトル量子化部, 123 動きベクトルバッファ, 124 動きベクトル逆量子化部, 141 予測動きベクトル生成部, 200 画像復号装置, 212 動き予測・補償部, 221 動きベクトル復号部, 222 動きベクトル量子化部, 223 動きベクトルバッファ, 224 動きベクトル逆量子化部, 231 差分動き情報バッファ, 232 予測動き情報バッファ, 233 閾値バッファ, 234 動き情報再構築部, 235 動き補償部, 241 予測動きベクトル再構築部 DESCRIPTION OF SYMBOLS 100 Image coding apparatus, 115 Motion prediction / compensation part, 121 Motion vector encoding part, 122 Motion vector quantization part, 123 Motion vector buffer, 124 Motion vector dequantization part, 141 Prediction motion vector generation part, 200 Image decoding Device, 212 motion prediction / compensation unit, 221 motion vector decoding unit, 222 motion vector quantization unit, 223 motion vector buffer, 224 motion vector inverse quantization unit, 231 differential motion information buffer, 232 prediction motion information buffer, 233 threshold buffer , 234 Motion information reconstruction unit, 235 Motion compensation unit, 241 Predictive motion vector reconstruction unit
Claims (21)
前記低減部により情報量が低減された前記動きベクトルを記憶する記憶部と
を備える画像処理装置。 In motion estimation of an image, a reduction unit that reduces the amount of motion vector information in a peripheral region of the region that is referred to when predicting a motion vector of the region of the image to be processed;
An image processing apparatus comprising: a storage unit that stores the motion vector whose information amount is reduced by the reduction unit.
前記記憶部は、量子化された前記動きベクトルを記憶する
請求項1に記載の画像処理装置。 The reduction unit reduces the information amount of the motion vector by quantizing the motion vector,
The image processing apparatus according to claim 1, wherein the storage unit stores the quantized motion vector.
請求項2に記載の画像処理装置。 The image processing apparatus according to claim 2, wherein the reduction unit determines a quantization step size according to a magnitude of the motion vector, and quantizes the motion vector with the determined quantization step size.
請求項3に記載の画像処理装置。 The image processing apparatus according to claim 3, wherein the reduction unit determines the quantization step size to be a larger value as the motion vector is larger.
請求項3に記載の画像処理装置。 The reduction unit sets a threshold value, determines the magnitude of the motion vector using the threshold value, determines the quantization step size according to the determination result, and determines the quantization step size with the determined quantization step size. The image processing apparatus according to claim 3, wherein the motion vector is quantized.
請求項5に記載の画像処理装置。 The image processing apparatus according to claim 5, wherein the reduction unit sets the threshold according to a profile level.
請求項6に記載の画像処理装置。 The image processing apparatus according to claim 6, wherein the profile level is a size of the image or a decimal precision of the motion vector.
請求項5に記載の画像処理装置。 The reduction unit determines the size of each component of the motion vector using the threshold, determines the quantization step size according to a determination result of a larger component, and uses the determined quantization step size to determine the quantization step size. The image processing apparatus according to claim 5, wherein the motion vector is quantized.
請求項5に記載の画像処理装置。 The image processing apparatus according to claim 5, further comprising an encoding unit that encodes the threshold value.
請求項1に記載の画像処理装置。 The image processing apparatus according to claim 1, wherein the reduction unit reduces the information amount of the motion vector by clip processing that changes all values equal to or higher than an upper limit value to the upper limit value.
請求項1に記載の画像処理装置。 The image processing apparatus according to claim 1, wherein the reduction unit reduces the information amount of the motion vector for each component of the motion vector.
請求項11に記載の画像処理装置。 The reduction unit sets a threshold value for each component of the motion vector, determines the size of each component of the motion vector using the threshold value of the component, and determines the quantization step size according to the determination result The image processing apparatus according to claim 11, wherein each component of the motion vector is quantized with the determined quantization step size.
請求項2に記載の画像処理装置。 The image processing apparatus according to claim 2, further comprising an inverse quantization unit that reads and inverse quantizes a quantized motion vector stored in the storage unit.
前記逆量子化部は、前記閾値を用いて、前記記憶部から読み出した、量子化された動きベクトルの大きさを判定し、その判定結果に応じて量子化ステップサイズを決定し、決定した量子化ステップサイズで、量子化された前記動きベクトルを逆量子化する
請求項13に記載の画像処理装置。 The reduction unit sets a threshold, determines the magnitude of the motion vector using the threshold, determines the quantization step size according to the determination result, and uses the determined quantization step size for the motion vector. Quantize
The inverse quantization unit determines the size of the quantized motion vector read from the storage unit using the threshold, determines the quantization step size according to the determination result, and determines the determined quantum The image processing apparatus according to claim 13, wherein the quantized motion vector is inversely quantized with a quantization step size.
請求項13に記載の画像処理装置。 The image processing apparatus according to claim 13, further comprising: a predicted motion vector generation unit that generates a predicted motion vector of the region by using the motion vector inversely quantized by the inverse quantization unit as a temporal peripheral motion vector.
請求項13に記載の画像処理装置。 The image processing according to claim 13, further comprising: a predicted motion vector reconstructing unit that reconstructs a predicted motion vector of the region using the motion vector dequantized by the dequantization unit as a temporal peripheral motion vector. apparatus.
前記低減部は、前記動きベクトルの大きさを、前記閾値取得部により取得された前記閾値を用いて判定し、その判定結果に応じて、前記量子化ステップサイズを決定し、決定した前記量子化ステップサイズで前記動きベクトルを量子化する
請求項3に記載の画像処理装置。 A threshold acquisition unit for acquiring the threshold;
The reduction unit determines the magnitude of the motion vector using the threshold acquired by the threshold acquisition unit, determines the quantization step size according to the determination result, and determines the determined quantization The image processing apparatus according to claim 3, wherein the motion vector is quantized with a step size.
前記逆量子化部により逆量子化された前記動きベクトルを時間周辺動きベクトルとして利用し、当該領域の予測動きベクトルを再構築する予測動きベクトル再構築部と
をさらに備える
請求項17に記載の画像処理装置。 Using the threshold acquired by the threshold acquisition unit, determine the magnitude of the quantized motion vector read from the storage unit, determine the quantization step size according to the determination result, and determine An inverse quantization unit that inversely quantizes the quantized motion vector with the quantized step size,
The image according to claim 17, further comprising: a predicted motion vector reconstructing unit that reconstructs a predicted motion vector of the region using the motion vector dequantized by the dequantization unit as a temporal peripheral motion vector. Processing equipment.
前記閾値取得部は、前記復号部により復号された前記符号化データから抽出された前記閾値を取得する
請求項17に記載の画像処理装置。 A decoding unit for decoding the encoded data;
The image processing device according to claim 17, wherein the threshold acquisition unit acquires the threshold extracted from the encoded data decoded by the decoding unit.
請求項17に記載の画像処理装置。 The image processing apparatus according to claim 17, wherein the threshold acquisition unit acquires the threshold stored in a sequence parameter set.
低減部が、画像の動き予測において、処理対象である前記画像の当該領域の動きベクトルの予測の際に参照される、当該領域の周辺領域の動きベクトルの情報量を低減させ、
記憶部が、情報量が低減された前記動きベクトルを記憶する
画像処理方法。 An image processing method of an image processing apparatus,
The reduction unit reduces the information amount of the motion vector in the peripheral region of the region, which is referred to when predicting the motion vector of the region of the image to be processed in the motion prediction of the image,
An image processing method in which a storage unit stores the motion vector with a reduced amount of information.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011143574A JP2013012860A (en) | 2011-06-28 | 2011-06-28 | Image processing device and method |
PCT/JP2012/065814 WO2013002105A1 (en) | 2011-06-28 | 2012-06-21 | Image processing device and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011143574A JP2013012860A (en) | 2011-06-28 | 2011-06-28 | Image processing device and method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013012860A true JP2013012860A (en) | 2013-01-17 |
Family
ID=47424002
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011143574A Withdrawn JP2013012860A (en) | 2011-06-28 | 2011-06-28 | Image processing device and method |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2013012860A (en) |
WO (1) | WO2013002105A1 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113498609B (en) * | 2018-12-31 | 2023-06-20 | 北京达佳互联信息技术有限公司 | Picture resolution dependent configuration for video codec |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04189093A (en) * | 1990-11-22 | 1992-07-07 | Victor Co Of Japan Ltd | Motion compensation device |
JP4809296B2 (en) * | 2007-06-15 | 2011-11-09 | シャープ株式会社 | Video encoding apparatus and video decoding apparatus |
-
2011
- 2011-06-28 JP JP2011143574A patent/JP2013012860A/en not_active Withdrawn
-
2012
- 2012-06-21 WO PCT/JP2012/065814 patent/WO2013002105A1/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2013002105A1 (en) | 2013-01-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5979405B2 (en) | Image processing apparatus and method | |
JP6057140B2 (en) | Image processing apparatus and method, program, and recording medium | |
US10110920B2 (en) | Image processing apparatus and method | |
JP6274103B2 (en) | Image processing apparatus and method | |
WO2013058363A1 (en) | Image processing device and method | |
JP5936081B2 (en) | Image processing apparatus and method | |
WO2013002109A1 (en) | Image processing device and method | |
WO2012157538A1 (en) | Image processing device and method | |
WO2013002108A1 (en) | Image processing device and method | |
WO2012173022A1 (en) | Image processing device and method | |
WO2013065568A1 (en) | Image processing device and method | |
JPWO2014103774A1 (en) | Image processing apparatus and method | |
WO2013084775A1 (en) | Image processing device and method | |
JP2012019447A (en) | Image processor and processing method | |
JP5768491B2 (en) | Image processing apparatus and method, program, and recording medium | |
WO2013054751A1 (en) | Image processing device and method | |
WO2013002105A1 (en) | Image processing device and method | |
JP2016201831A (en) | Image processing apparatus and method | |
JP2012147331A (en) | Image processing apparatus and method | |
JP2012124580A (en) | Image processing apparatus and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20140902 |