WO2020009427A1 - 영상 코딩 시스템의 인터 예측에서 템플릿 기반의 후보 리스트 재정렬 방법 및 장치 - Google Patents

영상 코딩 시스템의 인터 예측에서 템플릿 기반의 후보 리스트 재정렬 방법 및 장치 Download PDF

Info

Publication number
WO2020009427A1
WO2020009427A1 PCT/KR2019/008047 KR2019008047W WO2020009427A1 WO 2020009427 A1 WO2020009427 A1 WO 2020009427A1 KR 2019008047 W KR2019008047 W KR 2019008047W WO 2020009427 A1 WO2020009427 A1 WO 2020009427A1
Authority
WO
WIPO (PCT)
Prior art keywords
current block
template
block
candidate list
region
Prior art date
Application number
PCT/KR2019/008047
Other languages
English (en)
French (fr)
Inventor
박내리
김승환
남정학
이재호
임재현
장형문
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of WO2020009427A1 publication Critical patent/WO2020009427A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Definitions

  • the present invention relates to image coding technology, and more particularly, to a method and apparatus for rearranging candidate lists based on templates in inter prediction of an image coding system.
  • the demand for high resolution and high quality images such as high definition (HD) images and ultra high definition (UHD) images is increasing in various fields.
  • the higher the resolution and the higher quality of the image data the more information or bit rate is transmitted than the existing image data. Therefore, the image data can be transmitted by using a medium such as a conventional wired / wireless broadband line or by using a conventional storage medium. In the case of storage, the transmission cost and the storage cost are increased.
  • a high efficiency image compression technique is required to effectively transmit, store, and reproduce high resolution, high quality image information.
  • An object of the present invention is to provide a method and apparatus for improving image coding efficiency.
  • Another object of the present invention is to provide a method and apparatus for mitigating pipeline delay by using a limited template area.
  • Another technical problem of the present invention is to provide a method and apparatus for rearranging a candidate list based on a template.
  • Another technical problem of the present invention is to provide a method and apparatus for grouping candidates in consideration of memory bandwidth.
  • an image decoding method performed by a decoding apparatus.
  • the method includes deriving a merge index of a current block, constructing a merge candidate list of the current block, deriving a template region adjacent to the current block, and rearranging the merge candidate list based on the template region. And generating a predicted block for the current block based on the merge index and the merge candidate list, wherein the candidates in the merge candidate list are divided into two groups, the merge of the two groups
  • the candidates in the group including the candidates according to the index may be rearranged based on the template region.
  • a decoding apparatus for performing image decoding.
  • the decoding apparatus derives an entropy decoding unit for obtaining prediction information about a current block and a merge index of the current block, constructs a merge candidate list of the current block, derives a template region adjacent to the current block, and generates the template. Reordering the merge candidate list based on a region, and generating a predicted block for the current block based on the merge index and the merge candidate list, wherein the candidates in the merge candidate list are divided into two groups. The candidates in the group including the candidates according to the merge index among the two groups are rearranged based on the template region.
  • a video encoding method performed by an encoding apparatus includes constructing a merge candidate list of a current block, deriving a template region adjacent to the current block, rearranging the merge candidate list based on the template region, and deriving a merge index of the current block. Generating a predicted block for the current block based on the merge index and the merge candidate list; generating, encoding, and outputting prediction information about the current block including the merge index;
  • the candidates in the merge candidate list are divided into two groups, and candidates in the group including the candidates according to the merge index among the two groups are rearranged based on the template region.
  • a video encoding apparatus constructs a merge candidate list of the current block, derives a template region adjacent to the current block, rearranges the merge candidate list based on the template region, derives a merge index of the current block, A prediction unit generating a predicted block for the current block based on a merge index and the merge candidate list, and an entropy encoding unit generating, encoding, and outputting prediction information about the current block including the merge index;
  • the candidates in the merge candidate list are divided into two groups, and candidates in the group including the candidates according to the merge index among the two groups are rearranged based on the template region.
  • the pipeline delay can be alleviated by using a limited template region, and the coding efficiency can be improved.
  • the accuracy of prediction can be increased and coding efficiency can be improved by performing the rearrangement and / or refinement of the candidate list without additional syntax elements based on the template matching method.
  • FIG. 1 is a diagram schematically illustrating a configuration of a video encoding apparatus to which the present invention may be applied.
  • FIG. 2 is a diagram schematically illustrating a configuration of a video decoding apparatus to which the present invention may be applied.
  • 3 schematically illustrates an example of pipeline delay occurrence.
  • FIG. 4 illustrates an example in which a block is divided into quadtrees.
  • FIG. 5 shows an example in which a block is divided into a binary tree and a ternary tree and the direction is horizontal.
  • FIG. 6 shows an example in which a block is divided into a binary tree and a ternary tree and the direction is vertical.
  • FIG. 7 schematically illustrates an example of a decoding process for determining a template region to apply to a current block.
  • FIG. 8 schematically illustrates an example of a simplified decoding process of determining a template region to be applied to a current block.
  • 9A and 9B show an example of expansion of a template area when a block is divided into ternary trees and the direction is vertical.
  • FIG. 10 schematically shows an example of a decoding process for extending a template region to apply to a current block.
  • 11A and 11B illustrate examples of template regions to be applied to a current block according to split information of a previous block.
  • FIG. 12 schematically illustrates an example of a decoding process of determining a template to apply to a current block according to partition information of a previous block.
  • FIG. 13 shows an example of a decoding process of grouping MVP candidate lists and determining a template region.
  • FIG. 14 illustrates an example of a decoding process in which a refinement process is added to FIG. 13.
  • 15 shows an example for explaining cost calculation between a template of a current block and a template of a reference block.
  • FIG. 16 schematically illustrates an image encoding method by an encoding apparatus according to the present invention.
  • FIG. 17 schematically illustrates an image decoding method by a decoding apparatus according to the present invention.
  • each configuration in the drawings described in the present invention are shown independently for the convenience of description of the different characteristic functions, it does not mean that each configuration is implemented by separate hardware or separate software.
  • two or more of each configuration may be combined to form one configuration, or one configuration may be divided into a plurality of configurations.
  • Embodiments in which each configuration is integrated and / or separated are also included in the scope of the present invention without departing from the spirit of the present invention.
  • the video / picture coding system can include a source device and a receiving device.
  • the source device may deliver the encoded video / image information or data to the receiving device via a digital storage medium or network in the form of a file or streaming.
  • the source device may include a video source, an encoding apparatus, and a transmitter.
  • the receiving device may include a receiving unit, a decoding apparatus, and a renderer.
  • the encoding device may be called a video / image encoding device, and the decoding device may be called a video / image decoding device.
  • the transmitter may be included in the encoding device.
  • the receiver may be included in the decoding device.
  • the renderer may include a display unit, and the display unit may be configured as a separate device or an external component.
  • the video source may acquire the video / image through a process of capturing, synthesizing, or generating the video / image.
  • the video source may comprise a video / image capture device and / or a video / image generation device.
  • the video / image capture device may include, for example, one or more cameras, video / image archives including previously captured video / images, and the like.
  • Video / image generation devices may include, for example, computers, tablets and smartphones, and may (electronically) generate video / images.
  • a virtual video / image may be generated through a computer or the like. In this case, the video / image capturing process may be replaced by a process of generating related data.
  • the encoding device may encode the input video / image.
  • the encoding apparatus may perform a series of procedures such as prediction, transform, and quantization for compression and coding efficiency.
  • the encoded data (encoded video / image information) may be output in the form of a bitstream.
  • the transmitter may transmit the encoded video / video information or data output in the form of a bitstream to the receiver of the receiving device through a digital storage medium or a network in the form of a file or streaming.
  • the digital storage medium may include various storage media such as USB, SD, CD, DVD, Blu-ray, HDD, SSD, and the like.
  • the transmission unit may include an element for generating a media file through a predetermined file format, and may include an element for transmission through a broadcast / communication network.
  • the receiver may receive / extract the bitstream and transmit the received bitstream to the decoding apparatus.
  • the decoding apparatus may decode the video / image by performing a series of procedures such as inverse quantization, inverse transformation, and prediction corresponding to the operation of the encoding apparatus.
  • the renderer may render the decoded video / image.
  • the rendered video / image may be displayed through the display unit.
  • the present invention relates to video / picture coding.
  • the methods / embodiments disclosed in the present invention may include a versatile video coding (VVC) standard, an essential video coding (EVC) standard, an AOMedia Video 1 (AV1) standard, a second generation of audio video coding standard (AVS2) or a next generation video / It can be applied to the method disclosed in the image coding standard (ex. H.267 or H.268, etc.).
  • video may refer to a series of images over time.
  • a picture generally refers to a unit representing one image in a specific time zone, and a slice / tile is a unit constituting part of a picture in coding.
  • the slice / tile may comprise one or more coding tree units (CTUs).
  • CTUs coding tree units
  • One picture may consist of one or more slices / tiles.
  • One picture may consist of one or more tile groups.
  • One tile group may include one or more tiles.
  • the brick may represent a rectangular region of CTU rows within a tile in the picture.
  • tile groups and slices may be used interchangeably.
  • tile group / tile group header may be called slice / slice header.
  • a pixel or a pel may refer to a minimum unit constituting one picture (or image). Also, 'sample' may be used as a term corresponding to a pixel.
  • a sample may generally represent a pixel or a value of a pixel, and may represent only a pixel / pixel value of a luma component or only a pixel / pixel value of a chroma component.
  • a unit may represent a basic unit of image processing.
  • the unit may include at least one of a specific region of the picture and information related to the region.
  • One unit may include one luma block and two chroma (ex. Cb, cr) blocks.
  • the unit may be used interchangeably with terms such as block or area in some cases.
  • an M ⁇ N block may comprise a sample (or sample array) or a set (or array) of transform coefficients of M columns and N rows.
  • FIG. 1 is a diagram schematically illustrating a configuration of a video encoding apparatus to which the present invention may be applied.
  • the encoding apparatus 100 may include an image splitter 110, a subtractor 115, a transformer 120, a quantizer 130, an inverse quantizer 140, an inverse transformer 150,
  • the adder 155, the filter 160, the memory 170, the inter predictor 180, the intra predictor 185, and the entropy encoder 190 may be configured.
  • the inter predictor 180 and the intra predictor 185 may be collectively called a predictor. That is, the predictor may include an inter predictor 180 and an intra predictor 185.
  • the transform unit 120, the quantization unit 130, the inverse quantization unit 140, and the inverse transform unit 150 may be included in the residual processing unit.
  • the residual processing unit may further include a subtracting unit 115.
  • the image divider 110, the subtractor 115, the transformer 120, the quantizer 130, the inverse quantizer 140, the inverse transformer 150, the adder 155, and the filter 160 are described above.
  • the inter predictor 180, the intra predictor 185, and the entropy encoder 190 may be configured by one hardware component (eg, an encoder chipset or a processor) according to an embodiment.
  • the memory 170 may include a decoded picture buffer (DPB) or may be configured by a digital storage medium.
  • the hardware component may further include the memory 170 as an internal / external component.
  • the image divider 110 may divide the input image (or picture or frame) input to the encoding apparatus 100 into one or more processing units.
  • the processing unit may be called a coding unit (CU).
  • the coding unit may be recursively divided according to a quad-tree binary-tree ternary-tree (QTBTTT) structure from a coding tree unit (CTU) or a largest coding unit (LCU).
  • QTBTTT quad-tree binary-tree ternary-tree
  • CTU coding tree unit
  • LCU largest coding unit
  • one coding unit may be divided into a plurality of coding units of a deeper depth based on a quad tree structure, a binary tree structure, and / or a ternary tree structure.
  • the quad tree structure may be applied first and the binary tree structure and / or ternary tree structure may be applied later.
  • the binary tree structure may be applied first.
  • the coding procedure according to the present invention may be performed based on the final coding unit that is no longer split.
  • the maximum coding unit may be used as the final coding unit immediately based on coding efficiency according to the image characteristic, or if necessary, the coding unit is recursively divided into coding units of lower depths and optimized.
  • a coding unit of size may be used as the final coding unit.
  • the coding procedure may include a procedure of prediction, transform, and reconstruction, which will be described later.
  • the processing unit may further include a prediction unit (PU) or a transform unit (TU).
  • the prediction unit and the transform unit may be partitioned or partitioned from the aforementioned final coding unit, respectively.
  • the prediction unit may be a unit of sample prediction
  • the transformation unit may be a unit for deriving a transform coefficient and / or a unit for deriving a residual signal from the transform coefficient.
  • an M ⁇ N block may represent a set of samples or transform coefficients composed of M columns and N rows.
  • a sample may generally represent a pixel or a value of a pixel, and may only represent pixel / pixel values of the luma component, or only pixel / pixel values of the chroma component.
  • a sample may be used as a term corresponding to one picture (or image) for a pixel or a pel.
  • the encoding apparatus 100 subtracts the prediction signal (predicted block, prediction sample array) output from the inter prediction unit 180 or the intra prediction unit 185 from the input image signal (original block, original sample array).
  • a signal may be generated (residual signal, residual block, residual sample array), and the generated residual signal is transmitted to the converter 120.
  • a unit that subtracts a prediction signal (prediction block, prediction sample array) from an input image signal (original block, original sample array) in the encoder 100 may be called a subtraction unit 115.
  • the prediction unit may perform a prediction on a block to be processed (hereinafter, referred to as a current block) and generate a predicted block including prediction samples for the current block.
  • the prediction unit may determine whether intra prediction or inter prediction is applied on a current block or CU basis. As described later in the description of each prediction mode, the prediction unit may generate various information related to prediction, such as prediction mode information, and transmit the generated information to the entropy encoding unit 190. The information about the prediction may be encoded in the entropy encoding unit 190 and output in the form of a bitstream.
  • the intra predictor 185 may predict the current block by referring to the samples in the current picture.
  • the referenced samples may be located in the neighborhood of the current block or may be located apart according to the prediction mode.
  • prediction modes may include a plurality of non-directional modes and a plurality of directional modes.
  • Non-directional mode may include, for example, DC mode and planner mode (Planar mode).
  • the directional mode may include, for example, 33 directional prediction modes or 65 directional prediction modes according to the degree of detail of the prediction direction. However, as an example, more or less directional prediction modes may be used depending on the setting.
  • the intra predictor 185 may determine the prediction mode applied to the current block by using the prediction mode applied to the neighboring block.
  • the inter predictor 180 may derive the predicted block with respect to the current block based on the reference block (reference sample array) specified by the motion vector on the reference picture.
  • the motion information may be predicted in units of blocks, subblocks, or samples based on the correlation of the motion information between the neighboring block and the current block.
  • the motion information may include a motion vector and a reference picture index.
  • the motion information may further include inter prediction direction (L0 prediction, L1 prediction, Bi prediction, etc.) information.
  • the neighboring block may include a spatial neighboring block existing in the current picture and a temporal neighboring block present in the reference picture.
  • the reference picture including the reference block and the reference picture including the temporal neighboring block may be the same or different.
  • the temporal neighboring block may be referred to as a collocated reference block, a collocated CU (colCU), and the like, and a reference picture including the temporal neighboring block is called a collocated picture (colPic). It may be.
  • the inter prediction unit 180 constructs a motion information candidate list based on neighboring blocks and provides information indicating which candidates are used to derive a motion vector and / or a reference picture index of the current block. Can be generated. Inter prediction may be performed based on various prediction modes.
  • the inter prediction unit 180 may use motion information of a neighboring block as motion information of a current block.
  • the residual signal may not be transmitted.
  • the motion vector of the neighboring block is used as a motion vector predictor and the motion vector difference is signaled by signaling a motion vector difference. Can be directed.
  • the prediction unit may generate a prediction signal based on various prediction methods described below. For example, the prediction unit may not only apply intra prediction or inter prediction to predict one block but also simultaneously apply intra prediction and inter prediction. This may be called combined inter and intra prediction (CIIP).
  • the prediction unit may perform intra block copy (IBC) to predict a block.
  • the intra block copy may be used for content video / video coding of a game or the like, for example, screen content coding (SCC).
  • SCC screen content coding
  • the IBC basically performs prediction in the current picture but may be performed similarly to inter prediction in that a reference block is derived in the current picture. That is, the IBC can use at least one of the inter prediction techniques described in this document.
  • the prediction signal generated by the prediction unit may be used to generate a reconstruction signal or to generate a residual signal.
  • the transformer 120 may apply transform techniques to the residual signal to generate transform coefficients.
  • the transformation technique may be a discrete cosine transform (DCT), a discrete sine transform (DST), a karhunen-lo *? * Ve transform (KLT), a graph-based transform (GBT), or a conditionally non-linear transform (CNT). It may include at least one of.
  • GBT means a conversion obtained from this graph when the relationship information between pixels is represented by a graph.
  • CNT refers to a transform that is generated based on and generates a prediction signal using all previously reconstructed pixels.
  • the conversion process may be applied to pixel blocks having the same size as the square, or may be applied to blocks of variable size rather than square.
  • the quantization unit 130 quantizes the transform coefficients and transmits them to the entropy encoding unit 190.
  • the entropy encoding unit 190 encodes the quantized signal (information about the quantized transform coefficients) and outputs the bitstream. have.
  • the information about the quantized transform coefficients may be referred to as residual information.
  • the quantization unit 130 may rearrange block quantized transform coefficients into a one-dimensional vector form based on a coefficient scan order, and quantize the quantized transform coefficients based on the quantized transform coefficients in the one-dimensional vector form. Information about transform coefficients may be generated.
  • the entropy encoding unit 190 may perform various encoding methods such as, for example, exponential Golomb, context-adaptive variable length coding (CAVLC), context-adaptive binary arithmetic coding (CABAC), and the like.
  • the entropy encoding unit 190 may encode information necessary for video / image reconstruction other than quantized transform coefficients (for example, values of syntax elements) together or separately.
  • Encoded information eg, encoded video / image information
  • NALs network abstraction layer
  • the video / image information may further include information about various parameter sets such as an adaptation parameter set (APS), a picture parameter set (PPS), a sequence parameter set (SPS), or a video parameter set (VPS).
  • the video / image information may further include general constraint information.
  • Signaling / transmitted information and / or syntax elements described later in this document may be encoded and included in the bitstream through the above-described encoding procedure.
  • the bitstream may be transmitted over a network or may be stored in a digital storage medium.
  • the network may include a broadcasting network and / or a communication network
  • the digital storage medium may include various storage media such as USB, SD, CD, DVD, Blu-ray, HDD, SSD, and the like.
  • the signal output from the entropy encoding unit 190 may include a transmitting unit (not shown) for transmitting and / or a storing unit (not shown) for storing as an internal / external element of the encoding apparatus 100, or the transmitting unit It may be included in the entropy encoding unit 190.
  • the quantized transform coefficients output from the quantization unit 130 may be used to generate a prediction signal.
  • the inverse quantization and inverse transform may be applied to the quantized transform coefficients through the inverse quantization unit 140 and the inverse transform unit 150 to restore the residual signal (residual block or residual samples).
  • the adder 155 adds the reconstructed residual signal to the predicted signal output from the inter predictor 180 or the intra predictor 185 so that a reconstructed signal (reconstructed picture, reconstructed block, reconstructed sample array) is added. Can be generated. If there is no residual for the block to be processed, such as when the skip mode is applied, the predicted block may be used as the reconstructed block.
  • the adder 155 may be called a restoration unit or a restoration block generation unit.
  • the generated reconstruction signal may be used for intra prediction of a next processing target block in a current picture, and may be used for inter prediction of a next picture through filtering as described below.
  • LMCS luma mapping with chroma scaling
  • the filtering unit 160 may improve subjective / objective image quality by applying filtering to the reconstruction signal.
  • the filtering unit 160 may generate a modified reconstructed picture by applying various filtering methods to the reconstructed picture, and the modified reconstructed picture is stored in the memory 170, specifically, the DPB of the memory 170.
  • the various filtering methods may include, for example, deblocking filtering, a sample adaptive offset, an adaptive loop filter, a bilateral filter, and the like.
  • the filtering unit 160 may generate various information about the filtering and transmit the generated information to the entropy encoding unit 190.
  • the filtering information may be encoded in the entropy encoding unit 190 and output in the form of a bitstream.
  • the modified reconstructed picture transmitted to the memory 170 may be used as the reference picture in the inter predictor 180.
  • the encoding apparatus may avoid prediction mismatch between the encoding apparatus 100 and the decoding apparatus, and may improve encoding efficiency.
  • the memory 170 DPB may store the modified reconstructed picture for use as a reference picture in the inter predictor 180.
  • the memory 170 may store the motion information of the block from which the motion information in the current picture is derived (or encoded) and / or the motion information of the blocks in the picture that have already been reconstructed.
  • the stored motion information may be transmitted to the inter predictor 180 to use the motion information of the spatial neighboring block or the motion information of the temporal neighboring block.
  • the memory 170 may store reconstructed samples of reconstructed blocks in the current picture, and transfer the reconstructed samples to the intra predictor 185.
  • FIG. 2 is a diagram schematically illustrating a configuration of a video decoding apparatus to which the present invention may be applied.
  • the decoding apparatus 200 includes an entropy decoding unit 210, an inverse quantizer 220, an inverse transform unit 230, an adder 235, a filter 240, a memory 250, and an inter
  • the prediction unit 260 and the intra prediction unit 265 may be configured.
  • the inter predictor 260 and the intra predictor 265 may be collectively called a predictor. That is, the predictor may include an inter predictor 180 and an intra predictor 185.
  • the inverse quantization unit 220 and the inverse transform unit 230 may be collectively called a residual processing unit. That is, the residual processing unit may include an inverse quantization unit 220 and an inverse transformation unit 230.
  • the entropy decoder 210, the inverse quantizer 220, the inverse transformer 230, the adder 235, the filter 240, the inter predictor 260, and the intra predictor 265 are described in the embodiment. It may be configured by one hardware component (for example, decoder chipset or processor).
  • the memory 250 may include a decoded picture buffer (DPB) or may be configured by a digital storage medium.
  • the hardware component may further include the memory 250 as an internal / external component.
  • the decoding apparatus 200 may reconstruct an image corresponding to a process in which video / image information is processed in the encoding apparatus of FIG. 1.
  • the decoding apparatus 200 may derive units / blocks based on block division related information obtained from the bitstream.
  • the decoding apparatus 200 may perform decoding using a processing unit applied in the encoding apparatus.
  • the processing unit of decoding may be a coding unit, for example, and the coding unit may be divided along the quad tree structure, binary tree structure and / or ternary tree structure from the coding tree unit or the largest coding unit.
  • One or more transform units may be derived from the coding unit.
  • the reconstructed video signal decoded and output through the decoding apparatus 200 may be reproduced through the reproducing apparatus.
  • the decoding apparatus 200 may receive a signal output from the encoding apparatus of FIG. 1 in the form of a bitstream, and the received signal may be decoded through the entropy decoding unit 210.
  • the entropy decoding unit 210 may parse the bitstream to derive information (eg, video / image information) necessary for image reconstruction (or picture reconstruction).
  • the video / image information may further include information about various parameter sets such as an adaptation parameter set (APS), a picture parameter set (PPS), a sequence parameter set (SPS), or a video parameter set (VPS).
  • the video / image information may further include general constraint information.
  • the decoding apparatus may further decode the picture based on the information about the parameter set and / or the general restriction information.
  • Signaling / received information and / or syntax elements described later in this document may be decoded through the decoding procedure and obtained from the bitstream.
  • the entropy decoding unit 210 decodes information in a bitstream based on a coding method such as exponential Golomb coding, CAVLC, or CABAC, quantized values of syntax elements required for image reconstruction, and transform coefficients for residuals. Can be output. More specifically, the CABAC entropy decoding method receives a bin corresponding to each syntax element in a bitstream, and decodes syntax element information and decoding information of neighboring and decoding target blocks or information of symbols / bins decoded in a previous step.
  • the context model may be determined using the context model, the probability of occurrence of a bin may be predicted according to the determined context model, and arithmetic decoding of the bin may be performed to generate a symbol corresponding to the value of each syntax element. have.
  • the CABAC entropy decoding method may update the context model by using the information of the decoded symbol / bin for the context model of the next symbol / bean after determining the context model.
  • the information related to the prediction among the information decoded by the entropy decoding unit 210 is provided to a predictor (the inter predictor 260 and the intra predictor 265), and the entropy decoding performed by the entropy decoder 210 is performed.
  • Dual values that is, quantized transform coefficients and related parameter information, may be input to the inverse quantizer 220.
  • information on filtering among information decoded by the entropy decoding unit 210 may be provided to the filtering unit 240.
  • a receiver (not shown) that receives a signal output from the encoding apparatus may be further configured as an internal / external element of the decoding apparatus 200, or the receiver may be a component of the entropy decoding unit 210.
  • the decoding apparatus may be referred to as a video / image / picture decoding apparatus, and the decoding apparatus may be divided into an information decoder (video / image / picture information decoder) and a sample decoder (video / image / picture sample decoder). It may be.
  • the information decoder may include the entropy decoding unit 210, and the sample decoder may include the inverse quantization unit 220, an inverse transformer 230, an adder 235, a filter 240, and a memory 250. ),
  • the inverse quantization unit 220 may dequantize the quantized transform coefficients and output the transform coefficients.
  • the inverse quantization unit 220 may rearrange the quantized transform coefficients in the form of a two-dimensional block. In this case, the reordering may be performed based on the coefficient scan order performed by the encoding apparatus.
  • the inverse quantization unit 220 may perform inverse quantization on quantized transform coefficients using a quantization parameter (for example, quantization step size information), and may obtain transform coefficients.
  • a quantization parameter for example, quantization step size information
  • the inverse transformer 230 inversely transforms the transform coefficients to obtain a residual signal (residual block, residual sample array).
  • the prediction unit may perform prediction on the current block and generate a predicted block including prediction samples for the current block.
  • the prediction unit may determine whether intra prediction or inter prediction is applied to the current block based on the information about the prediction output from the entropy decoding unit 210, and may determine a specific intra / inter prediction mode.
  • the prediction unit may generate a prediction signal based on various prediction methods described below. For example, the prediction unit may not only apply intra prediction or inter prediction to predict one block but also simultaneously apply intra prediction and inter prediction. This may be called combined inter and intra prediction (CIIP).
  • the prediction unit may perform intra block copy (IBC) to predict a block.
  • the intra block copy may be used for content video / video coding of a game or the like, for example, screen content coding (SCC).
  • SCC screen content coding
  • the IBC basically performs prediction in the current picture but may be performed similarly to inter prediction in that a reference block is derived in the current picture. That is, the IBC can use at least one of the inter prediction techniques described in this document.
  • the intra predictor 265 may predict the current block by referring to samples in the current picture.
  • the referenced samples may be located in the neighborhood of the current block or may be located apart according to the prediction mode.
  • prediction modes may include a plurality of non-directional modes and a plurality of directional modes.
  • the intra predictor 265 may determine the prediction mode applied to the current block by using the prediction mode applied to the neighboring block.
  • the inter prediction unit 260 may derive the predicted block for the current block based on the reference block (reference sample array) specified by the motion vector on the reference picture.
  • the motion information may be predicted in units of blocks, subblocks, or samples based on the correlation of the motion information between the neighboring block and the current block.
  • the motion information may include a motion vector and a reference picture index.
  • the motion information may further include inter prediction direction (L0 prediction, L1 prediction, Bi prediction, etc.) information.
  • the neighboring block may include a spatial neighboring block existing in the current picture and a temporal neighboring block present in the reference picture.
  • the inter prediction unit 260 may construct a motion information candidate list based on neighboring blocks and derive a motion vector and / or a reference picture index of the current block based on the received candidate selection information. Inter prediction may be performed based on various prediction modes, and the information about the prediction may include information indicating a mode of inter prediction for the current block.
  • the adder 235 reconstructs the obtained residual signal by adding the obtained residual signal to a predictive signal (predicted block, predictive sample array) output from the predictor (including the inter predictor 260 and / or the intra predictor 265).
  • a signal (restored picture, reconstructed block, reconstructed sample array) can be generated. If there is no residual for the block to be processed, such as when the skip mode is applied, the predicted block may be used as the reconstructed block.
  • the adder 235 may be called a restoration unit or a restoration block generation unit.
  • the generated reconstruction signal may be used for intra prediction of the next block to be processed in the current picture, may be output through filtering as described below, or may be used for inter prediction of the next picture.
  • LMCS luma mapping with chroma scaling
  • the filtering unit 240 may improve subjective / objective image quality by applying filtering to the reconstruction signal.
  • the filtering unit 240 may generate a modified reconstructed picture by applying various filtering methods to the reconstructed picture, and the modified reconstructed picture may be stored in the memory 250, specifically, the DPB of the memory 250. Can be sent to.
  • the various filtering methods may include, for example, deblocking filtering, a sample adaptive offset, an adaptive loop filter, a bilateral filter, and the like.
  • the (modified) reconstructed picture stored in the DPB of the memory 250 may be used as the reference picture in the inter predictor 260.
  • the memory 250 may store the motion information of the block from which the motion information in the current picture is derived (or decoded) and / or the motion information of the blocks in the picture that have already been reconstructed.
  • the stored motion information may be transmitted to the inter predictor 260 to use the motion information of the spatial neighboring block or the motion information of the temporal neighboring block.
  • the memory 250 may store reconstructed samples of reconstructed blocks in the current picture, and transfer the reconstructed samples to the intra predictor 265.
  • the embodiments described by the filtering unit 160, the inter prediction unit 180, and the intra prediction unit 185 of the encoding apparatus 100 are respectively the filtering unit 240 and the inter prediction of the decoding apparatus 200. The same may also apply to the unit 260 and the intra predictor 265.
  • the prediction unit of the encoding apparatus / decoding apparatus may derive the prediction sample by performing inter prediction on a block basis.
  • Inter prediction may represent prediction derived in a manner dependent on data elements (e.g. sample values, motion information, etc.) of the picture (s) other than the current picture.
  • data elements e.g. sample values, motion information, etc.
  • a predicted block (prediction sample array) for the current block is derived based on a reference block (reference sample array) specified by a motion vector on the reference picture indicated by the reference picture index.
  • the motion information of the current block may be predicted in units of blocks, subblocks, or samples based on the correlation of the motion information between the neighboring block and the current block.
  • the motion information may include a motion vector and a reference picture index.
  • the motion information may further include inter prediction type (L0 prediction, L1 prediction, Bi prediction, etc.) information.
  • the neighboring block may include a spatial neighboring block existing in the current picture and a temporal neighboring block present in the reference picture.
  • the reference picture including the reference block and the reference picture including the temporal neighboring block may be the same or different.
  • the temporal neighboring block may be referred to as a collocated reference block, a collocated CU (colCU), and the like, and a reference picture including the temporal neighboring block is called a collocated picture (colPic). It may be.
  • a motion information candidate list may be constructed based on neighboring blocks of the current block, and a flag indicating which candidate is selected (used) to derive a motion vector and / or a reference picture index of the current block. Or index information may be signaled.
  • Inter prediction may be performed based on various prediction modes. For example, in the case of the skip mode and the merge mode, the motion information of the current block may be the same as the motion information of the selected neighboring block. In the skip mode, unlike the merge mode, the residual signal may not be transmitted.
  • a motion vector prediction (MVP) mode a motion vector of a selected neighboring block is used as a motion vector predictor, and a motion vector difference may be signaled. In this case, the motion vector of the current block may be derived using the sum of the motion vector predictor and the motion vector difference.
  • MVP motion vector prediction
  • the motion information may include L0 motion information and / or L1 motion information according to an inter prediction type (L0 prediction, L1 prediction, Bi prediction, etc.).
  • the motion vector in the L0 direction may be referred to as an L0 motion vector or MVL0
  • the motion vector in the L1 direction may be referred to as an L1 motion vector or MVL1.
  • the prediction based on the L0 motion vector may be called L0 prediction
  • the prediction based on the L1 motion vector may be called L1 prediction
  • the prediction based on both the L0 motion vector and the L1 motion vector may be called pair (Bi) prediction. Can be.
  • the L0 motion vector may indicate a motion vector associated with the reference picture list L0 (L0), and the L1 motion vector may indicate a motion vector associated with the reference picture list L1 (L1).
  • the reference picture list L0 may include pictures that are earlier in the output order than the current picture as reference pictures, and the reference picture list L1 may include pictures that are later in the output order than the current picture.
  • the previous pictures may be called forward (reference) pictures, and the subsequent pictures may be called reverse (reference) pictures.
  • the reference picture list L0 may further include pictures that are later in the output order than the current picture as reference pictures. In this case, the previous pictures may be indexed first in the reference picture list L0 and the subsequent pictures may be indexed next.
  • the reference picture list L1 may further include previous pictures as reference pictures in output order than the current picture.
  • the subsequent pictures may be indexed first in the reference picture list 1 and the previous pictures may be indexed next.
  • the output order may correspond to a picture order count (POC) order.
  • POC picture order count
  • Inter prediction may be performed using motion information of the current block.
  • the encoding apparatus may derive optimal motion information for the current block through a motion estimation procedure. For example, the encoding apparatus may search for a similar reference block having a high correlation using the original block in the original picture for the current block in fractional pixel units within a predetermined search range in the reference picture, thereby deriving motion information. Can be. Similarity of blocks can be derived based on the difference of phase based sample values. For example, the similarity of the blocks may be calculated based on the SAD between the current block (or template of the current block) and the reference block (or template of the reference block). In this case, motion information may be derived based on a reference block having the smallest SAD in the search area. The derived motion information may be signaled to the decoding apparatus according to various methods based on the inter prediction mode.
  • An embodiment of the present invention relates to inter prediction, and may propose a method for hardware-friendly improvement of a process of refining a motion vector.
  • an embodiment of the present invention may propose various methods for adaptively determining a template region in order to remove a pipeline delay that may occur when using a template matching method.
  • a method for grouping candidates may be proposed in consideration of memory bandwidth.
  • the process of predicting motion information in inter prediction may be essentially applied to reduce motion information and residual signals.
  • a merge mode in which motion information is derived from neighboring blocks to save information on a motion vector and a reference block is an example of the process, and the accuracy of motion prediction can be improved by refining motion information derived from limited information.
  • DMVD decoder-side motion derivation
  • one embodiment may propose a method that can utilize the DMVD process or method by improving it.
  • 3 schematically illustrates an example of pipeline delay occurrence.
  • the template matching method which is one of DMVD methods, may be applied based on a cost between a neighboring area of the current block and a neighboring block of the block indicated by the MVP candidate motion vector, by using this to update a candidate in the candidate list. Or reorder candidates in the candidate list.
  • the adjacent region may refer to a template or a template region
  • a candidate may refer to a motion information candidate
  • the candidate list may refer to a motion information candidate list.
  • the adjacent region of the current block is used as the left peripheral region and the upper peripheral region of the current block
  • the adjacent block of the block indicated by the MVP candidate motion vector is also used by the left peripheral region and the upper peripheral region of the block indicated by the MVP candidate motion vector. It became. However, when using such an area, a pipeline delay may occur.
  • a general motion compensation (MC) process may include an MV request process and a process of reconstruction with the MC. Since the reference picture needs to be stored, the entire picture information can be stored in external memory or double date rate (DDR) due to the amount of data. If stored in external memory or DDR, 400 to 500 cycles are used to fetch data. Degree may be required. In order to reduce the latency, a request for fetching a reference block from DDR may be executed before motion compensation to be hidden during motion compensation of the previous block.
  • DDR double date rate
  • a general pipeline architecture may represent a general pipeline structure, and with TM (using reconstructed neighboring block) may represent a pipeline structure when using a template matching method.
  • the MV request may refer to a request for patching a reference block
  • MC and Recon may refer to a process of restoring with the MC.
  • the reconstructed pixel value of the previous block may be required before the motion compensation of the current block, that is, before the MV request. Therefore, since the MV Request of the current block must be performed after the Recon of the previous block, pipeline delay may occur.
  • a template region of a block may be adaptively determined to apply template matching without such a pipeline delay. That is, one embodiment provides one region (top or left) instead of two template regions (top and left) and a point where not all previous blocks may be selected as template regions to mitigate pipeline delay occurrence. In consideration of selecting only), a template region can be selected. That is, template regions belonging to the previous block may not be considered for calculating the cost.
  • an embodiment may determine an area of the neighboring area of the current block that is not included in the previous block (the previous block) as a template area, and the block may be a quadtree (QT) or a binary tree (BT). ) And ternary tree (TT) will be described later with reference to FIGS. 4 to 6.
  • QT quadtree
  • BT binary tree
  • TT ternary tree
  • FIG. 4 illustrates an example in which a block is divided into quadtrees.
  • the quadtree may use the upper region without delay and may use the left region without delay only when the index (pu index) in the partition is 2. That is, only when the index in the partition is 2, the upper region as well as the left region may be used as a template region without delay.
  • the index within the partition zone may be referred to as a partition index.
  • the block divided into quadtrees may be coded in the order of the upper left, upper right, lower left and lower right.
  • the motion compensation and restoration process may be performed using the template region.
  • the split index may be 0 in the upper left region, 1 in the upper right region, 2 in the lower left region, and 3 in the lower right region.
  • the block to be divided may be referred to as an upper block, and the divided upper left area, upper right area, lower left area and lower right area are referred to as the upper left block, upper right block, lower left block and lower right block, respectively. May be referred to.
  • the current block when the current block is an upper left region in a block having a partition index of 0, it may be as shown first in the top of FIG. 4. That is, since the delay may occur as the left peripheral area of the current block is included in the previous block (the previous block), the upper peripheral area of the current block may be used as the template area.
  • the current block when the current block is a right upper region in a block having a partition index of 1, the current block may be as shown second above from FIG. 4. That is, since the delay may occur as the left peripheral area of the current block is included in the previous block (the previous block), the upper peripheral area of the current block may be used as the template area.
  • the current block when the current block is a lower left region in a block having a partition index of 2, the current block may be the third as shown above in FIG. 4. That is, since neither the left peripheral region nor the upper peripheral region of the current block is included in the previous block (previous block), both the left peripheral region and the upper peripheral region may be used as the template region.
  • the current block when the current block is the lower right region in the block having the partition index of 3, the current block may be as shown fourth from the top of FIG. 4. That is, since the delay may occur as the left peripheral area of the current block is included in the previous block (the previous block), the upper peripheral area of the current block may be used as the template area.
  • FIG. 5 shows an example in which a block is divided into a binary tree and a ternary tree and the direction is horizontal.
  • the upper region when the binary tree and the ternary tree are horizontally divided, the upper region may be available without delay when the partition index (pu index) is 0, and the left region may be available without delay when the binary index and the ternary tree are greater than zero. have. That is, when the partition index is 0, only the upper region may be used as the template region without delay, and when the partition index is 0, only the upper region is used.
  • the blocks divided into binary trees may be coded in the upper and lower order
  • the blocks divided into the ternary tree may be coded in the upper, middle and lower order.
  • the motion compensation and restoration process may be performed using the template region.
  • the partition index may be 0 in the upper region of the block and 1 in the lower region.
  • the partition index may be 0 in the block.
  • the side region may be 1 and the lower region may be 2.
  • the block to be divided may be referred to as an upper block, and the divided upper and lower regions are the upper block and the lower block, respectively, and the upper region, the middle region, and the lower region are the upper block, the middle block, and the lower region, respectively. May be referred to as a block.
  • the current block when it is an upper region in a block having a partition index of 0 according to the binary tree, it may be as shown first in the upper left of FIG. 5. That is, since the delay may occur as the left peripheral area of the current block is included in the previous block (the previous block), the upper peripheral area of the current block may be used as the template area.
  • the second block may be the second from the upper left of FIG. 5. That is, since the delay may occur as the upper peripheral area of the current block is included in the previous block (the previous block), the left peripheral area of the current block may be used as the template area.
  • the current block when it is an upper region in a block having a partition index of 0 according to the ternary tree, it may be as shown first in the upper right of FIG. 5. That is, since the delay may occur as the left peripheral area of the current block is included in the previous block (the previous block), the upper peripheral area of the current block may be used as the template area.
  • the current block when the current block is a central region in a block having a partition index of 1 according to the ternary tree, the current block may be as shown second from the upper right of FIG. 5. That is, since the delay may occur as the upper peripheral area of the current block is included in the previous block (the previous block), the left peripheral area of the current block may be used as the template area.
  • the current block when the current block is a lower region in a block having a partition index of 2 according to the ternary tree, the current block may be the third as shown in the upper right of FIG. 5. That is, since the delay may occur as the upper peripheral area of the current block is included in the previous block (the previous block), the left peripheral area of the current block may be used as the template area.
  • FIG. 6 shows an example in which a block is divided into a binary tree and a ternary tree and the direction is vertical.
  • the upper region may be always available without delay regardless of the pu index. That is, only the upper region can be used as a template region without delay.
  • the blocks divided into binary trees may be coded in the left and right order
  • the blocks divided into the ternary tree may be coded in the left, center and right order.
  • the motion compensation and restoration process may be performed using the template region. Therefore, when the block is divided into binary trees, the partition index may be 0 in the left region and the right region in the block, and when the block is divided into the ternary tree, the partition index may be 0 in the block and the center of the left region in the block.
  • the side region may be 1 and the right region may be 2.
  • the block to be divided may be referred to as an upper block, and the divided left and right regions are the left block and the right block, respectively, and the left region, the central region, and the right region are the left block, the center block, and the right region, respectively. May be referred to as a block.
  • the current block when the current block is a left region within a block having a partition index of 0 according to the binary tree, the current block may be the first shown in the upper left of FIG. 6. That is, since the delay may occur as the left peripheral area of the current block is included in the previous block (the previous block), the upper peripheral area of the current block may be used as the template area.
  • the second block may be the second from the upper left of FIG. 6. That is, since the delay may occur as the left peripheral area of the current block is included in the previous block (the previous block), the upper peripheral area of the current block may be used as the template area.
  • the current block when the current block is a left region in a block having a partition index of 0 according to the ternary tree, the current block may be the first shown in the upper right of FIG. 6. That is, since the delay may occur as the left peripheral area of the current block is included in the previous block (the previous block), the upper peripheral area of the current block may be used as the template area.
  • the current block when the current block is a central region in a block having a partition index of 1 according to the ternary tree, the current block may be as shown second from the upper right of FIG. 6. That is, since the delay may occur as the left peripheral area of the current block is included in the previous block (the previous block), the upper peripheral area of the current block may be used as the template area.
  • the current block when the current block is a right region in a block having a partition index of 2 according to the ternary tree, the current block may be the third as shown in the upper right of FIG. 6. That is, since the delay may occur as the left peripheral area of the current block is included in the previous block (the previous block), the upper peripheral area of the current block may be used as the template area.
  • a usable template region may be determined according to each partitioning structure or information, and may be applied by checking availability on a block basis.
  • a partitioning structure QT / BT / TT
  • a split direction horizontal / vertical
  • a split index pu index (0, 1, 2, 3) in the case of BT / TT.
  • FIG. 7 schematically illustrates an example of a decoding process for determining a template region to apply to a current block.
  • an embodiment may obtain MERGE_INDEX and configure an MVP candidate list. Thereafter, the left template availability can be checked (bLeftAvail), and the above template availability can be checked (bAboveAvail). That is, it is possible to check whether the left peripheral area of the current block is included in the previous block (the previous block) and check whether it is available as a template, and check whether the upper peripheral area of the current block is included in the previous block (the previous block) and use it as a template. You can check if it is possible.
  • one embodiment may determine whether at least one of the left template and the top template is available (bLeftAvail
  • the candidate list may be rearranged based on the available template or template region, and the candidate may be derived from the candidate list to perform refinement. That is, rearrangement and refinement may be performed using a template matching method based on some regions of the left peripheral region and the upper peripheral region adjacent to the current block.
  • the refined candidate can be added to the MVP candidate list, and the duplicate check process, additional candidate addition process, and finally the MVP candidate list can be added.
  • the update process can be performed. However, if the update is not based on the result of refinement, a duplicate check process, an additional candidate addition process, and a process of finally updating the MVP candidate list may be performed.
  • the additional candidate adding process may mean adding 0 vectors and / or various other candidates when the number of candidates in the candidate list is less than the maximum number, and finally updating the MVP candidate list. May refer to a process of finally updating the candidate list after adding additional candidates, but the process of adding additional candidates and finally updating the MVP candidate list may be omitted. Alternatively, the maximum number of candidates in the candidate list may be omitted.
  • the availability check process of the left template and the availability check process of the upper template may be described in more detail as follows.
  • FIG. 8 schematically illustrates an example of a simplified decoding process of determining a template region to be applied to a current block.
  • the availability of the template may be determined based on a partitioning structure and a partition index (pu index). That is, the availability of the templates on the left and top of the current block can be determined, and thus the left and / or top template region can be used.
  • an embodiment may minimize information and conditions that can be determined to reduce the complexity of the decoder. That is, an embodiment may use the partitioning structure (QT / BT / TT) of the current block, the split direction (horizontal / vertical) and the split index (pu index (0, 1, 2, 3)) in the case of BT / TT. However, if the partitioning structure is a quadtree, the condition for determining the partition index is 2 can be eliminated, and thus the information and conditions that can be determined can be minimized.
  • the availability checking process can be described as follows.
  • the partition index when divided into quadtrees, the partition index may not be considered and the upper template may always be used.
  • the upper template may always be used without considering the split index.
  • an upper template when the partition is divided into a binary tree or a ternary tree and the division direction is horizontal, an upper template may be used when the partition is 0, and a left template may be used when the partition is larger than 0.
  • 9A and 9B show an example of expansion of a template area when a block is divided into ternary trees and the direction is vertical.
  • the left peripheral region and the upper peripheral region of the current block may be used as the template region, and the left peripheral region or the upper peripheral region may be used as the template region.
  • each area when the left peripheral area or the upper peripheral area is used as the template area of the current block, each area may be extended. That is, when the left peripheral area of the current block is used as the template area, the left peripheral area may be extended. When the upper peripheral area of the current block is used as the template area, the upper peripheral area may be extended.
  • an upper peripheral region adjacent to the current block may be used as a template region.
  • the width of the template region may be narrow due to the division according to the vertical ternary tree. That is, the accuracy may be reduced due to the narrow template area.
  • an embodiment may extend the upper peripheral area used as the template area.
  • the template area of the current block may be an upper peripheral area adjacent to the current block, but may extend the height of the upper peripheral area.
  • the height of the upper peripheral area was 2 sample distances but could be extended to 4 sample distances.
  • the template area of the current block may be extended from an upper peripheral area adjacent to the current block to an upper peripheral area adjacent to the current block or a block before splitting. That is, the width of the upper peripheral area can be extended.
  • the pipeline delay may not occur.
  • FIG. 10 schematically shows an example of a decoding process for extending a template region to apply to a current block.
  • the availability check process of the left template and the availability check process of the upper template in the decoding process may be as follows.
  • an embodiment may determine whether the left template is not available and the upper template is available (! BLeftAvail && bAboveAvail) based on the above-described determination.
  • One embodiment may extend the upper template region as described above when it is satisfied or TRUE, and may not extend the upper template region when it is not satisfied or FALSE.
  • 11A and 11B illustrate examples of template regions to be applied to a current block according to split information of a previous block.
  • the template area of the current block may be determined differently according to the split information of the previous block (the previous block).
  • the previous block In the above-described bar, the case in which the previous block is vertically divided is described, but the previous block may be horizontally divided according to the binary tree or the ternary tree, or may be divided into quadtrees.
  • both the current block and the previous block may be divided into quadtrees.
  • the current block is an upper left region in a block having a partition index of 0 according to the quadtree
  • both the left peripheral region and the upper peripheral region of the current block are not included in the previous block (previous block)
  • it may be used as a template region. have.
  • the current block may be divided into a binary tree in the vertical direction, and the previous block may be divided into a quadtree.
  • the current block is a left region in a block having a partition index of 0 according to the vertical binary tree
  • the upper peripheral region of the current block is not included in the previous block (previous block), and thus may be used as a template region.
  • the left peripheral area may not be used as the template area.
  • some regions not included in the previous block among the left peripheral regions may be used as template regions.
  • a usable template region may be determined according to partitioning information of a current block and a previous block, and the availability of a template area may be checked and applied in units of blocks.
  • the availability of the block, the partitioning structure of the previous block (QT / BT / TT), and the size of the previous block may be used to check availability, and the template area may be determined or derived.
  • FIG. 12 schematically illustrates an example of a decoding process of determining a template to apply to a current block according to partition information of a previous block.
  • one embodiment may check the availability of the left and upper blocks using the partitioning information, the partitioning direction, and the partition index of the current block, and for the case where the current block is divided into quadtrees and the partition index is 0.
  • the left template area can be changed to be used.
  • the extension of the upper peripheral area may also be applied. If the reliability is low by using only one side due to a large difference in MV located at, it may be checked whether the left template region is applied based on the condition in FIG. 12.
  • the template matching method may be applied to the rearrangement process of the MVP candidate list.
  • a motion compensation (MC) process of a template region is required for each candidate, and therefore, due to a patch from an external memory or a double data rate (DDR) within a limited memory bandwidth, Delays can occur.
  • an embodiment may group the MVP candidate list and rearrange the candidates included in only a specific group.
  • the MVP candidate list For example, if there are six candidates in the MVP candidate list, they can be divided into two groups (Examples 1-[0, 1], [2, 3], [4, 5]) and divided into three groups. It may be divided (Example 2-[0, 1, 2], [3, 4, 5]). That is, the number of candidates for each group may vary according to the number of candidates. In addition, the number of candidates in each group may be different (Examples 3-[0, 1], [2, 3, 4, 5]), and only a specific group is targeted to reduce complexity (Examples 4-[0.1]. 2]) may be rearranged.
  • the merge index (MERGE_INDEX) may be an index for indicating the MVP selected in the candidate list, and the decoding complexity may be improved by rearranging only the candidate group indicated by the index.
  • the MVP candidate or the MVP candidate list may be referred to as a merge candidate or a merge candidate list according to the merge mode.
  • Example 1 may be divided into three groups, so that the reordering range may be small. However, since template matching is performed on only two candidates in the group indicated by the index, efficiency in terms of complexity may be high. Also, Example 2 may be in a trade of relationship in reordering range and target candidates compared to Example 1.
  • Example 3 can be applied to candidates with a high possibility of reordering, such as the [2, 3, 4, 5] group by including a different number of candidates for each group, and can take advantage in complexity and performance.
  • Example 4 may reorder the specific group only, greatly reducing the complexity.
  • candidates in the candidate list may be grouped, and since duplicate candidates may exist in each group, a new duplicate candidate may be added by performing a duplicate check.
  • the duplicate check may be referred to as a pruning process.
  • the merge candidate list may be rearranged based on the template matching cost.
  • the initial candidate list may be configured through a conventional candidate selection process, and the candidate list may be rearranged based on the template matching cost.
  • performing template matching for all candidates may cause memory bandwidth issues, and thus, restricted ordering of merge candidate lists may be performed to reduce memory bandwidth issues.
  • the reordering process may be performed only for the corresponding group indicated by the merge index MERGE_INDEX. Alternatively, in one embodiment, the reordering process may be performed on the group including the candidate indicated by the merge index.
  • the pruning check may be performed by comparing the current candidate and the previous candidate.
  • the some candidates may be removed from the list and additional candidates may be supplemented. That is, after the reordering process, pruning checks may be performed on candidates in the rearranged candidate list, candidates having duplicate motion information may be removed, and the number of candidates in the candidate list is smaller than the maximum number according to the removal. In case of loss, additional candidates may be recruited.
  • a candidate having a lower priority among two candidates having duplicate motion information may be removed.
  • the additional candidates may include MVL0 and MVL1, and MVL0 and MVL1 may be represented by Equation 1 below.
  • MvL0 and MvL1 may represent the motion vector of the first candidate in the reordered list for L0 and L1.
  • the offset values for L0 and L1 are ⁇ (0, 1), (0, -1) ⁇ , ⁇ (1, 0), (-1, 0) ⁇ , ⁇ (0, -1) , (0, 1) ⁇ and ⁇ (-1, 0), (1, 0) ⁇ positions, and scale may represent the precision of a motion vector.
  • n may be one of integers from 0 to 3, but since the value of N may be changed, the range of n may also be changed.
  • FIG. 13 shows an example of a decoding process of grouping MVP candidate lists and determining a template region.
  • a method of determining a template area and a method of grouping candidates in a candidate list may be applied together as described above. That is, a template matching method may be used based on the determined template region, and thus, the candidate list may be rearranged.
  • an embodiment may obtain index information.
  • the index information may mean information indicating a specific candidate in the candidate list, and may also be referred to as a merge index or MERGE_INDEX.
  • One embodiment may construct a candidate list of a group to which the index belongs. That is, the group including the candidate indicated by the index information in the candidate list and the candidates within the group can be derived. Then, one embodiment may check the availability of the template area of the current block.
  • the template region may include a left peripheral region and an upper peripheral region adjacent to the current block.
  • the candidate list may be rearranged based on the template region. That is, the candidate list may be rearranged based on the template area of the current block and the template area of the block indicated by the candidate.
  • the relative position between the current block and the template region may be the same as the relative position between the template region of the block indicated by the candidate and the block indicated by the candidate.
  • duplicate checks may be performed on candidates in a candidate list, and additional candidates may be added when the number of candidates in the candidate list is smaller than the maximum number because duplicate candidates are excluded due to the duplicate check. Based on this, the candidate list can be updated. However, when there is no duplicate candidate as a result of the duplicate check, the candidate list may be updated based on the rearranged candidate.
  • one embodiment may not perform a reordering process or the like and immediately terminate the related procedure or process.
  • FIG. 14 illustrates an example of a decoding process in which a refinement process is added to FIG. 13.
  • a template matching method may be used based on the determined template region, and through this, not only the rearrangement of the candidate list but also refinement may be performed on the target candidate.
  • an embodiment may obtain index information.
  • the index information may mean information indicating a specific candidate in the candidate list, and may also be referred to as a merge index or MERGE_INDEX.
  • One embodiment may construct a candidate list of a group to which the index belongs. That is, the group including the candidate indicated by the index information in the candidate list and the candidates within the group can be derived. Then, one embodiment may check the availability of the template area of the current block.
  • the template region may include a left peripheral region and an upper peripheral region adjacent to the current block.
  • the candidate list may be rearranged based on the template region. That is, the candidate list may be rearranged based on the template area of the current block and the template area of the block indicated by the candidate.
  • an embodiment may refine the target candidate in the candidate list based on the available template region.
  • the relative position between the current block and the template region may be the same as the relative position between the template region of the block indicated by the candidate and the block indicated by the candidate.
  • duplicate checks may be performed on candidates in a candidate list, and additional candidates may be added when the number of candidates in the candidate list is smaller than the maximum number because duplicate candidates are excluded due to the duplicate check. Based on this, the candidate list can be updated. However, if there are no candidates duplicated as a result of the duplicate check, the candidate list may be updated based on the candidate refined immediately.
  • 15 shows an example for explaining cost calculation between a template of a current block and a template of a reference block.
  • a template matching scheme can be used to reorder the merge candidate list and to calculate the cost for refining the candidates.
  • the sum of absolute difference (SAD) may be used as a measure to calculate the cost between the template of the current block in the current picture and the corresponding block in the reference picture.
  • the template of the current block may be a peripheral area of the current block
  • the corresponding block in the reference picture may be derived from a candidate motion vector predictor (MVP), and may refer to the template of the candidate described above. have.
  • MVP candidate motion vector predictor
  • the cost may refer to the template matching cost described above.
  • Equation 2 in the case of a uni-directional candidate, it may be calculated as in Equation 2, and in the case of a bi-directional candidate, it may be calculated as in Equation 3.
  • costA may represent a cost between an upper peripheral area of a current block and an upper peripheral block of a reference block
  • costL may represent a cost between a left peripheral area of a current block and a left peripheral block of a reference block
  • the cost can be calculated as the sum of costA and costL.
  • costA (LX) and costL (LX) may represent the template matching cost of the upper and left margins for list X.
  • the template matching cost for the upper peripheral block and the left peripheral block may be represented, and the upper peripheral block and the left peripheral block may be a template or a template region.
  • X may be 0 or 1.
  • the cost cost_bi for the bidirectional candidate may be calculated based on the cost cost_uni for the one-way candidate.
  • cost_bi may be calculated based on the average of each cost_uni for the lists.
  • a 2-tap bilinear interpolation filter can be used, with the template region limited to 2 pixels to reduce memory requirements or line buffers. Can be. Alternatively, the template region may be limited to an region within two sample distances.
  • the limited reordering of the merge candidate list described above may be performed using the limited template region described above. That is, merge candidates may perform reordering for only one corresponding group, and template matching may be performed in a limited template area.
  • FIG. 16 schematically illustrates an image encoding method by an encoding apparatus according to the present invention.
  • the method disclosed in FIG. 16 may be performed by the encoding apparatus disclosed in FIG. 1. Specifically, for example, S1600 to S1640 of FIG. 16 may be performed by the prediction unit of the encoding apparatus, and S1650 may be performed by the entropy encoding unit of the encoding apparatus.
  • a process of deriving a residual sample for the current block based on the original sample and the prediction sample for the current block may be performed by a subtractor of the encoding apparatus,
  • the generating of the information about the residual on the basis of the current block may be performed by a converter of the encoding apparatus.
  • the encoding of the information on the residual and the prediction of the current block may be performed. It may be performed by the entropy encoding unit of the encoding device.
  • the encoding apparatus configures a merge candidate list of the current block (S1600).
  • the encoding apparatus may derive neighboring blocks for the motion information candidate list of the current block among neighboring blocks of the current block.
  • the encoding apparatus may select neighboring blocks for the motion information candidate list of the current block among the neighboring blocks of the current block.
  • the encoding apparatus may construct the motion information candidate list based on the derived or selected neighboring blocks.
  • the encoding apparatus may derive motion information of the selected neighboring blocks as motion information candidates of the current block, and construct the motion information candidate list including the motion information candidates.
  • the encoding apparatus may derive the motion information derived by combining the motion information of the selected neighboring blocks as the motion information candidate of the current block, and construct the motion information candidate list including the motion information candidate.
  • the motion information candidate list may indicate a merge candidate list as the current block is a merge mode, but an MVP candidate list may be used when the current block is an AMVP mode.
  • the encoding apparatus derives a template region adjacent to the current block (S1610).
  • the template region may include a region not included in a previous block restored immediately before the current block among a left peripheral region and an upper peripheral region adjacent to the current block. That is, the template region may be a left peripheral region adjacent to the current block, an upper peripheral region, and may be a left peripheral region and an upper peripheral region.
  • the template area may be an area not included in the previous block (or the previous block) that is restored immediately before the pipeline delay does not occur. That is, the template region may be a region or a portion of the left peripheral region and the upper peripheral region not included in the previous block.
  • the template region is partitioned when the partitioning structure information of the current block, the partitioning index information of the current block, and the partitioning structure of the current block are binary-tree or ternary-tree. It may be derived based on split direction information.
  • the split index information may be represented by pu index or pu idx and may have any one of 0, 1, 2, and 3.
  • the template region may determine whether the left peripheral region is available (bLeftAvail), and then determine whether the upper peripheral region is available (bAboveAvail).
  • the left peripheral region may be referred to as a left template or left template region
  • the upper peripheral region may be referred to as an upper template or an upper template region.
  • the partitioning structure is a quadtree and the partition index information of the current block is 2, or the partitioning structure of the current block is a binary tree in a horizontal direction or a ternary tree in a horizontal direction, the partition index information of the current block.
  • the split index is greater than 0 (BT / TT & & Hor Split && idx> 0), and if at least one of the two is satisfied or TRUE, it may be determined that the left template is available. However, if both are not satisfied or both are FALSE, the assumption that the left template is not available may not be changed.
  • the partitioning structure of the current block is not a horizontal binary-tree or a horizontal ternary-tree, or the partition index information of the current block is not greater than zero.
  • the assumption that the left template is not available may not be changed.
  • the width of the upper peripheral region may extend to the width of the upper block of the current block.
  • the template area of the current block may be extended from an upper peripheral area adjacent to the current block to an upper peripheral area adjacent to the current block or a block before splitting. That is, when the upper peripheral area of the current block is used as the template area, the width of the upper peripheral area can be extended.
  • one embodiment may extend the height of the upper peripheral area.
  • the template region may include partitioning structure information of the previous block, size information of the previous block, size information of the current block, partitioning structure information of the current block, partition index information of the current block, and the current block.
  • the partitioning structure is a binary-tree or ternary-tree, it may be derived based on split direction information.
  • the split index information may be represented by pu index or pu idx and may have any one of 0, 1, 2, and 3.
  • the size information of the current block may include the height information of the current block, the height information of the current block may be represented by CurBlk_H.
  • the size information of the previous block may include height information of the previous block, and the height information of the previous block may be represented as LeftBlk_H.
  • the previous block may be referred to as the left block because it may be located around the left side of the current block.
  • the partitioning structure of the current block is a quadtree
  • the partition index information of the current block is 0, and the height of the current block is greater than or equal to the height of the previous block
  • the encoding apparatus rearranges the merge candidate list based on the template region in operation S1620.
  • the candidate list may be rearranged based on the template area of the current block and the template area of the block indicated by the candidate.
  • the candidate may be a candidate included in the merge candidate list.
  • the relative position between the current block and the template region may be the same as the relative position between the template region of the block indicated by the candidate and the block indicated by the candidate.
  • the encoding apparatus may group candidates in the merge candidate list and rearrange candidates in a group including candidates according to the merge index based on the template region.
  • grouping may be for solving the bandwidth problem.
  • the encoding apparatus may group candidate lists to rearrange only candidates included in a specific group.
  • the merge index (MERGE_INDEX) may be an index for indicating the MVP selected in the candidate list, and complexity may be improved by rearranging only the candidate groups indicated by the index. .
  • candidates in a merge candidate list may be divided into two groups, and candidates in a group including candidates according to the merge index among the two groups may be rearranged based on the template region.
  • the number of groups may be three, but is not limited thereto.
  • a first group of the two groups includes a first candidate, a second candidate and a third candidate in the merge candidate list, and the second group includes a fourth candidate and a fourth candidate within the merge candidate list.
  • the merge candidate list may be rearranged based on a template matching cost between the template region and a neighboring region adjacent to the candidate.
  • the template matching cost may be derived based on a sum of absolute difference (SAD) value, and a pixel value of an area corresponding to the template among the template area and the peripheral area adjacent to the candidate may be used to calculate the SAD value.
  • the template region may include a left peripheral region or an upper peripheral region adjacent to the current block as described above, and the template region may not be included in the previous block restored immediately before the current block.
  • a region corresponding to the template among the peripheral regions adjacent to the candidate may include a left peripheral region or an upper peripheral region adjacent to the candidate.
  • the template region may include an area within a specific pixel distance or a specific sample distance from the current block, and the specific pixel distance or the specific sample distance may be 2 pixel distance or 2 sample distance, but is not limited thereto. That is, the template area may include an area within two sample distances from the current block. Alternatively, the template region may include a left peripheral region within 2 pixels distance and / or an upper peripheral region within 2 pixels distance from the current block. For example, motion estimation may be performed on the template region using a 2-tap bilinear interpolation filter.
  • the encoding apparatus may refine the target candidate in the candidate list based on the available template region. That is, the encoding apparatus may derive a specific candidate in the merge candidate list, refine the specific candidate based on the template region, and add the refined specific candidate to the merge candidate list. You can add That is, refinement may also be performed using the derived template region-based template matching method.
  • the relative position between the current block and the template region may be the same as the relative position between the template region of the block indicated by the candidate and the block indicated by the candidate.
  • the encoding apparatus derives the merge index of the current block (S1630).
  • the merge index may indicate index information and may indicate MERGE_INDEX.
  • the merge index may include information indicating a specific candidate to be used for prediction in the motion information candidate list.
  • the encoding apparatus may select or derive a specific motion information candidate from among motion information candidates of the motion information candidate list based on a merge index, and may derive the selected motion information candidate as motion information for the current block. That is, the encoding apparatus may derive a merge index indicating a candidate to be derived to generate a predicted block of the current block in the merge candidate list.
  • the encoding apparatus generates a predicted block for the current block based on the merge index and the merge candidate list (S1640). That is, motion information may be derived based on the merge index and the merge candidate list. Alternatively, motion information may be derived based on a candidate indicated by the merge index in the merge candidate list. In addition, prediction of the current block may be performed based on the motion information. A prediction block of the current block may be derived based on the motion information, and a reconstruction block may be derived based on the prediction block. In detail, the encoding apparatus may derive a reference block within a reference picture based on the motion information. The motion information may include a motion vector and a reference picture index.
  • the encoding apparatus may derive the reference picture indicated by the reference picture index among the reference pictures of the reference picture list as the reference picture of the current block, and convert the block indicated by the motion vector in the reference picture into the reference block of the current block. Can be derived.
  • the encoding apparatus may generate a prediction sample based on the reference block.
  • the encoding apparatus may generate a residual sample based on the original sample and the generated prediction sample.
  • the encoding apparatus may generate information about the residual based on the residual sample.
  • the information about the residual may include transform coefficients related to the residual sample.
  • the encoding apparatus may derive the reconstructed sample based on the prediction sample and the residual sample. That is, the encoding apparatus may derive the reconstructed sample by adding the prediction sample and the residual sample.
  • the encoding apparatus may generate a residual block based on the original block and the predicted block, and may generate information about the residual based on this.
  • the encoding apparatus may encode the information about the residual and output the bitstream.
  • the bitstream may be transmitted to a decoding apparatus via a network or a storage medium.
  • the encoding apparatus generates, encodes, and outputs prediction information about the current block including the merge index (S1650).
  • the encoding apparatus may encode and output the video information including the information on the prediction of the current block in the form of a bitstream.
  • the encoding apparatus may determine the prediction mode of the current block, and generate information indicating the prediction mode.
  • information on the merge candidate list structure of the current block and information on the merge index may be generated.
  • template related information, reordering related information, and / or refinement related information about the current block may be generated.
  • information about the residual may be generated.
  • the above-described information about prediction of the current block may include all of the above-described information or may include only a part of the information.
  • the bitstream may be transmitted to a decoding apparatus via a network or a storage medium.
  • FIG. 17 schematically illustrates an image decoding method by a decoding apparatus according to the present invention.
  • the method disclosed in FIG. 17 may be performed by the decoding apparatus disclosed in FIG. 2. Specifically, for example, S1700 to S740 of FIG. 17 may be performed by the prediction unit of the decoding apparatus.
  • a process of acquiring image information including information on prediction of a current block and information on residual through a bitstream may be performed by an entropy decoding unit of the decoding apparatus.
  • the process of deriving the residual sample for the current block based on the dual information may be performed by an inverse transform unit of the decoding apparatus, and the process of generating a reconstructed picture based on the prediction sample and the residual sample may be performed. It may be performed by an adder of the decoding apparatus.
  • the decoding apparatus derives the merge index of the current block (S1700).
  • the merge index may indicate index information and may indicate MERGE_INDEX.
  • the merge index may include information indicating a specific candidate to be used for prediction in the motion information candidate list.
  • the decoding apparatus may select or derive a specific motion information candidate from the motion information candidates of the motion information candidate list to be described later based on the merge index, and may derive the selected motion information candidate as motion information for the current block.
  • the decoding apparatus configures a merge candidate list of the current block (S1710).
  • the decoding apparatus may derive neighboring blocks for the motion information candidate list of the current block among neighboring blocks of the current block.
  • the decoding apparatus may select neighboring blocks for the motion information candidate list of the current block among the neighboring blocks of the current block.
  • the decoding apparatus may construct the motion information candidate list based on the derived or selected neighboring blocks.
  • the decoding apparatus may derive the motion information of the selected neighboring blocks as motion information candidates of the current block, and construct the motion information candidate list including the motion information candidates.
  • the decoding apparatus may derive the motion information derived by combining the motion information of the selected neighboring blocks as the motion information candidate of the current block, and configure the motion information candidate list including the motion information candidate.
  • the motion information candidate list may indicate a merge candidate list as the current block is a merge mode, but an MVP candidate list may be used when the current block is an AMVP mode.
  • the decoding apparatus derives a template region adjacent to the current block (S1720).
  • the template region may include a region not included in a previous block restored immediately before the current block among a left peripheral region and an upper peripheral region adjacent to the current block. That is, the template region may be a left peripheral region adjacent to the current block, an upper peripheral region, and may be a left peripheral region and an upper peripheral region.
  • the template area may be an area not included in the previous block (or the previous block) that is restored immediately before the pipeline delay does not occur. That is, the template region may be a region or a portion of the left peripheral region and the upper peripheral region not included in the previous block.
  • the template region is partitioned when the partitioning structure information of the current block, the partitioning index information of the current block, and the partitioning structure of the current block are binary-tree or ternary-tree. It may be derived based on split direction information.
  • the split index information may be represented by pu index or pu idx and may have any one of 0, 1, 2, and 3.
  • the template region may determine whether the left peripheral region is available (bLeftAvail), and then determine whether the upper peripheral region is available (bAboveAvail).
  • the left peripheral region may be referred to as a left template or left template region
  • the upper peripheral region may be referred to as an upper template or an upper template region.
  • the partitioning structure is a quadtree and the partition index information of the current block is 2, or the partitioning structure of the current block is a binary tree in a horizontal direction or a ternary tree in a horizontal direction, the partition index information of the current block.
  • the split index is greater than 0 (BT / TT & & Hor Split && idx> 0), and if at least one of the two is satisfied or TRUE, it may be determined that the left template is available. However, if both are not satisfied or both are FALSE, the assumption that the left template is not available may not be changed.
  • the partitioning structure of the current block is not a horizontal binary-tree or a horizontal ternary-tree, or the partition index information of the current block is not greater than zero.
  • the assumption that the left template is not available may not be changed.
  • the width of the upper peripheral region may extend to the width of the upper block of the current block.
  • the template area of the current block may be extended from an upper peripheral area adjacent to the current block to an upper peripheral area adjacent to the current block or a block before splitting. That is, when the upper peripheral area of the current block is used as the template area, the width of the upper peripheral area can be extended.
  • one embodiment may extend the height of the upper peripheral area.
  • the template region may include partitioning structure information of the previous block, size information of the previous block, size information of the current block, partitioning structure information of the current block, partition index information of the current block, and the current block.
  • the partitioning structure is a binary-tree or ternary-tree, it may be derived based on split direction information.
  • the split index information may be represented by pu index or pu idx and may have any one of 0, 1, 2, and 3.
  • the size information of the current block may include the height information of the current block, the height information of the current block may be represented by CurBlk_H.
  • the size information of the previous block may include height information of the previous block, and the height information of the previous block may be represented as LeftBlk_H.
  • the previous block may be referred to as the left block because it may be located around the left side of the current block.
  • the partitioning structure of the current block is a quadtree
  • the partition index information of the current block is 0, and the height of the current block is greater than or equal to the height of the previous block
  • the decoding apparatus rearranges the merge candidate list based on the template region in operation S1730.
  • the candidate list may be rearranged based on the template area of the current block and the template area of the block indicated by the candidate.
  • the candidate may be a candidate included in the merge candidate list.
  • the relative position between the current block and the template region may be the same as the relative position between the template region of the block indicated by the candidate and the block indicated by the candidate.
  • the decoding apparatus may group candidates in the merge candidate list and rearrange candidates in a group including candidates according to the merge index based on the template region.
  • grouping may be for solving the bandwidth problem.
  • the decoding apparatus may group the candidate list and rearrange only the candidates included in the specific group.
  • the merge index (MERGE_INDEX) may be an index for indicating the MVP selected in the candidate list, and the decoding complexity may be improved by rearranging only the candidate group indicated by the index. have.
  • candidates in a merge candidate list may be divided into two groups, and candidates in a group including candidates according to the merge index among the two groups may be rearranged based on the template region.
  • the number of groups may be three, but is not limited thereto.
  • a first group of the two groups includes a first candidate, a second candidate and a third candidate in the merge candidate list, and the second group includes a fourth candidate and a fourth candidate within the merge candidate list.
  • the merge candidate list may be rearranged based on a template matching cost between the template region and a neighboring region adjacent to the candidate.
  • the template matching cost may be derived based on a sum of absolute difference (SAD) value, and a pixel value of an area corresponding to the template among the template area and the peripheral area adjacent to the candidate may be used to calculate the SAD value.
  • the template region may include a left peripheral region or an upper peripheral region adjacent to the current block as described above, and the template region may not be included in the previous block restored immediately before the current block.
  • a region corresponding to the template among the peripheral regions adjacent to the candidate may include a left peripheral region or an upper peripheral region adjacent to the candidate.
  • the template region may include an area within a specific pixel distance or a specific sample distance from the current block, and the specific pixel distance or the specific sample distance may be 2 pixel distance or 2 sample distance, but is not limited thereto. That is, the template area may include an area within two sample distances from the current block. Alternatively, the template region may include a left peripheral region within 2 pixels distance and / or an upper peripheral region within 2 pixels distance from the current block. For example, the template region may be subjected to motion compensation using a 2-tap bilinear interpolation filter.
  • the decoding apparatus may perform refinement on the target candidate in the candidate list based on the available template region. That is, the decoding apparatus may derive a specific candidate in the merge candidate list, refine the specific candidate based on the template region, and add the refined specific candidate to the merge candidate list. You can add That is, refinement may also be performed using the derived template region-based template matching method.
  • the relative position between the current block and the template region may be the same as the relative position between the template region of the block indicated by the candidate and the block indicated by the candidate.
  • the decoding apparatus generates a predicted block for the current block based on the merge index and the merge candidate list (S1740). That is, motion information may be derived based on the merge index and the merge candidate list. Alternatively, motion information may be derived based on a candidate indicated by the merge index in the merge candidate list. In addition, prediction of the current block may be performed based on the motion information. A prediction block of the current block may be derived based on the motion information, and a reconstruction block may be derived based on the prediction block. In detail, the decoding apparatus may derive a reference block within a reference picture based on the motion information. The motion information may include a motion vector and a reference picture index.
  • the decoding apparatus may derive the reference picture indicated by the reference picture index among the reference pictures of the reference picture list as the reference picture of the current block, and convert the block indicated by the motion vector in the reference picture into the reference block of the current block. Can be derived.
  • the decoding apparatus may generate a prediction sample based on the reference block, and may directly use the prediction sample as a reconstruction sample according to a prediction mode, or generate a reconstruction sample by adding a residual sample to the prediction sample. . If there is a residual sample for the current block, the decoding apparatus may obtain information about the residual for the current block from the bitstream.
  • the information about the residual may include transform coefficients regarding the residual sample.
  • the decoding apparatus may derive the residual sample (or residual sample array) for the current block based on the residual information.
  • the decoding apparatus may generate a reconstructed sample based on the prediction sample and the residual sample, and may derive a reconstructed block or a reconstructed picture based on the reconstructed sample. Thereafter, as described above, the decoding apparatus may apply an in-loop filtering procedure, such as a deblocking filtering and / or SAO procedure, to the reconstructed picture in order to improve subjective / objective picture quality as necessary.
  • an in-loop filtering procedure such as a deblocking filtering and / or SAO procedure
  • the above-described method according to the present invention may be implemented in software, and the encoding device and / or the decoding device according to the present invention may perform image processing of, for example, a TV, a computer, a smartphone, a set-top box, a display device, and the like. It can be included in the device.
  • the above-described method may be implemented as a module (process, function, etc.) for performing the above-described function.
  • the module may be stored in memory and executed by a processor.
  • the memory may be internal or external to the processor and may be coupled to the processor by various well known means.
  • the processor may include application-specific integrated circuits (ASICs), other chipsets, logic circuits, and / or data processing devices.
  • the memory may include read-only memory (ROM), random access memory (RAM), flash memory, memory card, storage medium and / or other storage device.
  • the embodiments described in the present invention may be implemented and performed on a processor, a microprocessor, a controller, or a chip.
  • the functional units shown in each drawing may be implemented and performed on a computer, processor, microprocessor, controller, or chip.
  • the decoding apparatus and encoding apparatus to which the present invention is applied include a multimedia broadcasting transmitting and receiving device, a mobile communication terminal, a home cinema video device, a digital cinema video device, a surveillance camera, a video chat device, a real time communication device such as video communication, and mobile streaming.
  • the OTT video device may include a game console, a Blu-ray player, an internet access TV, a home theater system, a smartphone, a tablet PC, a digital video recorder (DVR), and the like.
  • the processing method to which the present invention is applied can be produced in the form of a program executed by a computer, and can be stored in a computer-readable recording medium.
  • Multimedia data having a data structure according to the present invention can also be stored in a computer-readable recording medium.
  • the computer readable recording medium includes all kinds of storage devices and distributed storage devices in which computer readable data is stored.
  • the computer-readable recording medium may be, for example, a Blu-ray disc (BD), a universal serial bus (USB), a ROM, a PROM, an EPROM, an EEPROM, a RAM, a CD-ROM, a magnetic tape, a floppy disk, and an optical disc. It may include a data storage device.
  • the computer-readable recording medium also includes media embodied in the form of a carrier wave (eg, transmission over the Internet).
  • the bitstream generated by the encoding method may be stored in a computer-readable recording medium or transmitted through a wired or wireless communication network.
  • embodiments of the present invention may be implemented as a computer program product by a program code, the program code may be performed on a computer by an embodiment of the present invention.
  • the program code may be stored on a carrier readable by a computer.
  • the content streaming system to which the present invention is applied may largely include an encoding server, a streaming server, a web server, a media storage, a user device, and a multimedia input device.
  • the encoding server compresses content input from multimedia input devices such as a smartphone, a camera, a camcorder, etc. into digital data to generate a bitstream and transmit the bitstream to the streaming server.
  • multimedia input devices such as smart phones, cameras, camcorders, etc. directly generate a bitstream
  • the encoding server may be omitted.
  • the bitstream may be generated by an encoding method or a bitstream generation method to which the present invention is applied, and the streaming server may temporarily store the bitstream in the process of transmitting or receiving the bitstream.
  • the streaming server transmits the multimedia data to the user device based on the user's request through the web server, and the web server serves as a medium for informing the user of what service.
  • the web server delivers it to a streaming server, and the streaming server transmits multimedia data to the user.
  • the content streaming system may include a separate control server.
  • the control server plays a role of controlling a command / response between devices in the content streaming system.
  • the streaming server may receive content from a media store and / or an encoding server. For example, when the content is received from the encoding server, the content may be received in real time. In this case, in order to provide a smooth streaming service, the streaming server may store the bitstream for a predetermined time.
  • Examples of the user device include a mobile phone, a smart phone, a laptop computer, a digital broadcasting terminal, a personal digital assistant (PDA), a portable multimedia player (PMP), navigation, a slate PC, Tablet PCs, ultrabooks, wearable devices, such as smartwatches, glass glasses, head mounted displays, digital TVs, desktops Computer, digital signage, and the like.
  • PDA personal digital assistant
  • PMP portable multimedia player
  • navigation a slate PC
  • Tablet PCs tablet PCs
  • ultrabooks wearable devices, such as smartwatches, glass glasses, head mounted displays, digital TVs, desktops Computer, digital signage, and the like.
  • Each server in the content streaming system may be operated as a distributed server, in which case data received from each server may be distributed.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명에 따른 디코딩 장치에 의하여 수행되는 영상 디코딩 방법은 현재 블록의 머지 인덱스를 도출하는 단계, 상기 현재 블록의 머지 후보 리스트를 구성하는 단계, 상기 현재 블록에 인접한 템플릿 영역을 도출하는 단계, 상기 템플릿 영역을 기반으로 상기 머지 후보 리스트를 재정렬하는 단계 및 상기 머지 인덱스 및 상기 머지 후보 리스트를 기반으로 상기 현재 블록에 대한 예측된 블록을 생성하는 단계를 포함하고, 상기 머지 후보 리스트 내의 후보들은 2개의 그룹으로 나누어지고, 상기 2개의 그룹 중 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들이 상기 템플릿 영역을 기반으로 재정렬되는 것을 특징으로 한다.

Description

영상 코딩 시스템의 인터 예측에서 템플릿 기반의 후보 리스트 재정렬 방법 및 장치
본 발명은 영상 코딩 기술에 관한 것으로서 보다 상세하게는 영상 코딩 시스템의 인터 예측에서 템플릿 기반의 후보 리스트 재정렬 방법 및 장치에 관한 것이다.
최근 HD(High Definition) 영상 및 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 전송되는 정보량 또는 비트량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 영상 데이터를 저장하는 경우, 전송 비용과 저장 비용이 증가된다.
이에 따라, 고해상도, 고품질 영상의 정보를 효과적으로 전송하거나 저장하고, 재생하기 위해 고효율의 영상 압축 기술이 요구된다.
본 발명의 기술적 과제는 영상 코딩 효율을 높이는 방법 및 장치를 제공함에 있다.
본 발명의 다른 기술적 과제는 제한된 템플릿 영역을 이용하여 파이프라인 딜레이를 완화하는 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 템플릿을 기반으로 후보 리스트를 재정렬하는 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 메모리 대역폭을 고려하여 후보들을 그룹핑하는 방법 및 장치를 제공함에 있다.
본 발명의 일 실시예에 따르면, 디코딩 장치에 의하여 수행되는 영상 디코딩 방법이 제공된다. 상기 방법은 현재 블록의 머지 인덱스를 도출하는 단계, 상기 현재 블록의 머지 후보 리스트를 구성하는 단계, 상기 현재 블록에 인접한 템플릿 영역을 도출하는 단계, 상기 템플릿 영역을 기반으로 상기 머지 후보 리스트를 재정렬하는 단계 및 상기 머지 인덱스 및 상기 머지 후보 리스트를 기반으로 상기 현재 블록에 대한 예측된 블록을 생성하는 단계를 포함하고, 상기 머지 후보 리스트 내의 후보들은 2개의 그룹으로 나누어지고, 상기 2개의 그룹 중 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들이 상기 템플릿 영역을 기반으로 재정렬되는 것을 특징으로 한다.
본 발명의 다른 일 실시예에 따르면, 영상 디코딩을 수행하는 디코딩 장치가 제공된다. 상기 디코딩 장치는 현재 블록에 대한 예측 정보를 획득하는 엔트로피 디코딩부 및 현재 블록의 머지 인덱스를 도출하고, 상기 현재 블록의 머지 후보 리스트를 구성하고, 상기 현재 블록에 인접한 템플릿 영역을 도출하고, 상기 템플릿 영역을 기반으로 상기 머지 후보 리스트를 재정렬하고, 상기 머지 인덱스 및 상기 머지 후보 리스트를 기반으로 상기 현재 블록에 대한 예측된 블록을 생성하는 예측부를 포함하고, 상기 머지 후보 리스트 내의 후보들은 2개의 그룹으로 나누어지고, 상기 2개의 그룹 중 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들이 상기 템플릿 영역을 기반으로 재정렬되는 것을 특징으로 한다.
본 발명의 또 다른 일 실시예에 따르면, 인코딩 장치에 의하여 수행되는 비디오 인코딩 방법을 제공한다. 상기 방법은 현재 블록의 머지 후보 리스트를 구성하는 단계, 상기 현재 블록에 인접한 템플릿 영역을 도출하는 단계, 상기 템플릿 영역을 기반으로 상기 머지 후보 리스트를 재정렬하는 단계, 상기 현재 블록의 머지 인덱스를 도출하는 단계, 상기 머지 인덱스 및 상기 머지 후보 리스트를 기반으로 상기 현재 블록에 대한 예측된 블록을 생성하는 단계 및 상기 머지 인덱스를 포함하는 상기 현재 블록에 대한 예측 정보를 생성하고 인코딩하여 출력하는 단계를 포함하고, 상기 머지 후보 리스트 내의 후보들은 2개의 그룹으로 나누어지고, 상기 2개의 그룹 중 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들이 상기 템플릿 영역을 기반으로 재정렬되는 것을 특징으로 한다.
본 발명의 또 다른 일 실시예에 따르면, 비디오 인코딩 장치를 제공한다. 상기 인코딩 장치는 현재 블록의 머지 후보 리스트를 구성하고, 상기 현재 블록에 인접한 템플릿 영역을 도출하고, 상기 템플릿 영역을 기반으로 상기 머지 후보 리스트를 재정렬하고, 상기 현재 블록의 머지 인덱스를 도출하고, 상기 머지 인덱스 및 상기 머지 후보 리스트를 기반으로 상기 현재 블록에 대한 예측된 블록을 생성하는 예측부 및 상기 머지 인덱스를 포함하는 상기 현재 블록에 대한 예측 정보를 생성하고 인코딩하여 출력하는 엔트로피 인코딩부를 포함하고, 상기 머지 후보 리스트 내의 후보들은 2개의 그룹으로 나누어지고, 상기 2개의 그룹 중 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들이 상기 템플릿 영역을 기반으로 재정렬되는 것을 특징으로 한다.
본 발명에 따르면 제한적인 템플릿 영역을 이용하여 파이프라인 딜레이를 완화시킬 수 있고, 코딩 효율을 향상시킬 수 있다.
본 발명에 따르면 템플릿 매칭 방법을 기반으로 추가적인 신택스 요소 없이 후보 리스트의 재정렬 및/또는 리파인먼트를 수행하여 예측의 정확도를 높일 수 있고, 코딩 효율을 향상시킬 수 있다.
본 발명에 따르면 후보 리스트 내의 후보의 개수가 최대 개수보다 적은 경우 부가적인 후보를 도출하여 보충함으로써 예측의 정확도를 높일 수 있고, 코딩 효율을 향상시킬 수 있다.
도 1은 본 발명이 적용될 수 있는 비디오 인코딩 장치의 구성을 개략적으로 설명하는 도면이다.
도 2는 본 발명이 적용될 수 있는 비디오 디코딩 장치의 구성을 개략적으로 설명하는 도면이다.
도 3은 파이프라인 딜레이 발생의 예를 개략적으로 나타낸다.
도 4는 블록이 쿼드트리로 분할된 경우의 예를 나타낸다.
도 5는 블록이 바이너리 트리 및 터너리 트리로 분할되고 방향이 수평인 경우의 예를 나타낸다.
도 6은 블록이 바이너리 트리 및 터너리 트리로 분할되고 방향이 수직인 경우의 예를 나타낸다.
도 7은 현재 블록에 적용할 템플릿 영역을 결정하는 디코딩 프로세스의 예를 개략적으로 나타낸다.
도 8은 현재 블록에 적용할 템플릿 영역을 결정하는 디코딩 프로세스를 간략화한 예를 개략적으로 나타낸다.
도 9a 및 도 9b는 블록이 터너리 트리로 분할되고 방향이 수직인 경우 템플릿 영역의 확장 예를 나타낸다.
도 10은 현재 블록에 적용할 템플릿 영역을 확장하는 디코딩 프로세스의 예를 개략적으로 나타낸다.
도 11a 및 도 11b는 이전 블록의 분할 정보에 따라 현재 블록에 적용할 템플릿 영역의 예를 나타낸다.
도 12는 이전 블록의 분할 정보에 따라 현재 블록에 적용할 템플릿을 결정하는 디코딩 프로세스의 예를 개략적으로 나타낸다.
도 13은 MVP 후보 리스트를 그룹핑하고 템플릿 영역을 결정하는 디코딩 프로세스의 예를 나타낸다.
도 14는 도 13에 리파인먼트 과정이 추가된 디코딩 프로세스의 예를 나타낸다.
도 15는 현재 블록의 템플릿 및 참조 블록의 템플릿 간의 코스트 계산을 설명하기 위한 예를 나타낸다.
도 16은 본 발명에 따른 인코딩 장치에 의한 영상 인코딩 방법을 개략적으로 나타낸다.
도 17은 본 발명에 따른 디코딩 장치에 의한 영상 디코딩 방법을 개략적으로 나타낸다.
도 18은 컨텐츠 스트리밍 시스템 구조를 개략적으로 나타낸다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정 실시예에 한정하려고 하는 것이 아니다. 본 명세서에서 상용하는 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명의 기술적 사상을 한정하려는 의도로 사용되는 것은 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서 "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성 요소, 부품 도는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
한편, 본 발명에서 설명되는 도면상의 각 구성들은 서로 다른 특징적인 기능들에 관한 설명의 편의를 위해 독립적으로 도시된 것으로서, 각 구성들이 서로 별개의 하드웨어나 별개의 소프트웨어로 구현된다는 것을 의미하지는 않는다. 예컨대, 각 구성 중 두 개 이상의 구성이 합쳐져 하나의 구성을 이룰 수도 있고, 하나의 구성이 복수의 구성으로 나뉘어질 수도 있다. 각 구성이 통합 및/또는 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 이하, 도면상의 동일한 구성 요소에 대해서는 동일한 참조 부호를 사용하고 동일한 구성 요소에 대해서 중복된 설명은 생략한다.
비디오/영상 코딩 시스템은 소스 디바이스 및 수신 디바이스를 포함할 수 있다. 소스 디바이스는 인코딩된 비디오(video)/영상(image) 정보 또는 데이터를 파일 또는 스트리밍 형태로 디지털 저장매체 또는 네트워크를 통하여 수신 디바이스로 전달할 수 있다.
상기 소스 디바이스는 비디오 소스, 인코딩 장치, 전송부를 포함할 수 있다. 상기 수신 디바이스는 수신부, 디코딩 장치 및 렌더러를 포함할 수 있다. 상기 인코딩 장치는 비디오/영상 인코딩 장치라고 불릴 수 있고, 상기 디코딩 장치는 비디오/영상 디코딩 장치라고 불릴 수 있다. 송신기는 인코딩 장치에 포함될 수 있다. 수신기는 디코딩 장치에 포함될 수 있다. 렌더러는 디스플레이부를 포함할 수도 있고, 디스플레이부는 별개의 디바이스 또는 외부 컴포넌트로 구성될 수도 있다.
비디오 소스는 비디오/영상의 캡쳐, 합성 또는 생성 과정 등을 통하여 비디오/영상을 획득할 수 있다. 비디오 소스는 비디오/영상 캡쳐 디바이스 및/또는 비디오/영상 생성 디바이스를 포함할 수 있다. 비디오/영상 캡쳐 디바이스는 예를 들어, 하나 이상의 카메라, 이전에 캡쳐된 비디오/영상을 포함하는 비디오/영상 아카이브 등을 포함할 수 있다. 비디오/영상 생성 디바이스는 예를 들어 컴퓨터, 타블렛 및 스마트폰 등을 포함할 수 있으며 (전자적으로) 비디오/영상을 생성할 수 있다. 예를 들어, 컴퓨터 등을 통하여 가상의 비디오/영상이 생성될 수 있으며, 이 경우 관련 데이터가 생성되는 과정으로 비디오/영상 캡쳐 과정이 갈음될 수 있다.
인코딩 장치는 입력 비디오/영상을 인코딩할 수 있다. 인코딩 장치는 압축 및 코딩 효율을 위하여 예측, 변환, 양자화 등 일련의 절차를 수행할 수 있다. 인코딩된 데이터(인코딩된 비디오/영상 정보)는 비트스트림(bitstream) 형태로 출력될 수 있다.
전송부는 비트스트림 형태로 출력된 인코딩된 비디오/영상 정보 또는 데이터를 파일 또는 스트리밍 형태로 디지털 저장매체 또는 네트워크를 통하여 수신 디바이스의 수신부로 전달할 수 있다. 디지털 저장 매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장 매체를 포함할 수 있다. 전송부는 미리 정해진 파일 포멧을 통하여 미디어 파일을 생성하기 위한 엘리먼트를 포함할 수 있고, 방송/통신 네트워크를 통한 전송을 위한 엘리먼트를 포함할 수 있다. 수신부는 상기 비트스트림을 수신/추출하여 디코딩 장치로 전달할 수 있다.
디코딩 장치는 인코딩 장치의 동작에 대응하는 역양자화, 역변환, 예측 등 일련의 절차를 수행하여 비디오/영상을 디코딩할 수 있다.
렌더러는 디코딩된 비디오/영상을 렌더링할 수 있다. 렌더링된 비디오/영상은 디스플레이부를 통하여 디스플레이될 수 있다.
본 발명은 비디오/영상 코딩에 관한 것이다. 예를 들어 본 발명에서 개시된 방법/실시예는 VVC (versatile video coding) 표준, EVC (essential video coding) 표준, AV1 (AOMedia Video 1) 표준, AVS2 (2nd generation of audio video coding standard) 또는 차세대 비디오/영상 코딩 표준(ex. H.267 or H.268 등)에 개시되는 방법에 적용될 수 있다.
본 발명에서는 비디오/영상 코딩에 관한 다양한 실시예들을 제시하며, 다른 언급이 없는 한 상기 실시예들은 서로 조합되어 수행될 수도 있다.
본 발명에서 비디오(video)는 시간의 흐름에 따른 일련의 영상(image)들의 집합을 의미할 수 있다. 픽처(picture)는 일반적으로 특정 시간대의 하나의 영상을 나타내는 단위를 의미하며, 슬라이스(slice)/타일(tile)는 코딩에 있어서 픽처의 일부를 구성하는 단위이다. 슬라이스/타일은 하나 이상의 CTU(coding tree unit)을 포함할 수 있다. 하나의 픽처는 하나 이상의 슬라이스/타일로 구성될 수 있다. 하나의 픽처는 하나 이상의 타일 그룹으로 구성될 수 있다. 하나의 타일 그룹은 하나 이상의 타일들을 포함할 수 있다. 브릭은 픽처 내 타일 이내의 CTU 행들의 사각 영역을 나타낼 수 있다
본 발명에서 타일 그룹과 슬라이스는 혼용될 수 있다. 예를 들어 본 문서에서 tile group/tile group header는 slice/slice header로 불리 수 있다.
픽셀(pixel) 또는 펠(pel)은 하나의 픽처(또는 영상)을 구성하는 최소의 단위를 의미할 수 있다. 또한, 픽셀에 대응하는 용어로서 '샘플(sample)'이 사용될 수 있다. 샘플은 일반적으로 픽셀 또는 픽셀의 값을 나타낼 수 있으며, 루마(luma) 성분의 픽셀/픽셀값만을 나타낼 수도 있고, 크로마(chroma) 성분의 픽셀/픽셀 값만을 나타낼 수도 있다.
유닛(unit)은 영상 처리의 기본 단위를 나타낼 수 있다. 유닛은 픽처의 특정 영역 및 해당 영역에 관련된 정보 중 적어도 하나를 포함할 수 있다. 하나의 유닛은 하나의 루마 블록 및 두개의 크로마(ex. cb, cr) 블록을 포함할 수 있다. 유닛은 경우에 따라서 블록(block) 또는 영역(area) 등의 용어와 혼용하여 사용될 수 있다. 일반적인 경우, MxN 블록은 M개의 열과 N개의 행으로 이루어진 샘플들(또는 샘플 어레이) 또는 변환 계수(transform coefficient)들의 집합(또는 어레이)을 포함할 수 있다.
본 발명에서 "/"와 ","는 "및/또는"으로 해석된다. 예를 들어, "A/B"는 "A 및/또는 B"로 해석되고, "A, B"는 "A 및/또는 B"로 해석된다. 추가적으로, "A/B/C"는 "A, B 및/또는 C 중 적어도 하나"를 의미한다. 또한, "A, B, C"도 "A, B 및/또는 C 중 적어도 하나"를 의미한다.
추가적으로, 본 문서에서 "또는"는 "및/또는"으로 해석된다. 예를 들어, "A 또는 B"은, 1) "A" 만을 의미하고, 2) "B" 만을 의미하거나, 3) "A 및 B"를 의미할 수 있다. 달리 표현하면, 본 문서의 "또는"은 "추가적으로 또는 대체적으로(additionally or alternatively)"를 의미할 수 있다.
도 1은 본 발명이 적용될 수 있는 비디오 인코딩 장치의 구성을 개략적으로 설명하는 도면이다.
도 1을 참조하면, 인코딩 장치(100)는 영상 분할부(110), 감산부(115), 변환부(120), 양자화부(130), 역양자화부(140), 역변환부(150), 가산부(155), 필터링부(160), 메모리(170), 인터 예측부(180), 인트라 예측부(185) 및 엔트로피 인코딩부(190)를 포함하여 구성될 수 있다. 인터 예측부(180) 및 인트라 예측부(185)를 합쳐서 예측부라고 불릴 수 있다. 즉, 예측부는 인터 예측부(180) 및 인트라 예측부(185)를 포함할 수 있다. 변환부(120), 양자화부(130), 역양자화부(140), 역변환부(150)는 레지듀얼(residual) 처리부에 포함될 수 있다. 레지듀얼 처리부는 감산부(115)를 더 포함할 수도 있다. 상술한 영상 분할부(110), 감산부(115), 변환부(120), 양자화부(130), 역양자화부(140), 역변환부(150), 가산부(155), 필터링부(160), 인터 예측부(180), 인트라 예측부(185) 및 엔트로피 인코딩부(190)는 실시예에 따라 하나의 하드웨어 컴포넌트(예를 들어 인코더 칩셋 또는 프로세서)에 의하여 구성될 수 있다. 또한 메모리(170)는 DPB(decoded picture buffer)를 포함할 수 있고, 디지털 저장 매체에 의하여 구성될 수도 있다. 상기 하드웨어 컴포넌트는 메모리(170)을 내/외부 컴포넌트로 더 포함할 수도 있다.
영상 분할부(110)는 인코딩 장치(100)에 입력된 입력 영상(또는, 픽쳐, 프레임)를 하나 이상의 처리 유닛(processing unit)으로 분할할 수 있다. 일 예로, 상기 처리 유닛은 코딩 유닛(coding unit, CU)이라고 불릴 수 있다. 이 경우 코딩 유닛은 코딩 트리 유닛(coding tree unit, CTU) 또는 최대 코딩 유닛(largest coding unit, LCU)으로부터 QTBTTT (Quad-tree binary-tree ternary-tree) 구조에 따라 재귀적으로(recursively) 분할될 수 있다. 예를 들어, 하나의 코딩 유닛은 쿼드 트리 구조, 바이너리 트리 구조, 및/또는 터너리 트리 구조를 기반으로 하위(deeper) 뎁스의 복수의 코딩 유닛들로 분할될 수 있다. 이 경우 예를 들어 쿼드 트리 구조가 먼저 적용되고 바이너리 트리 구조 및/또는 터너리 트리 구조가 나중에 적용될 수 있다. 또는 바이너리 트리 구조가 먼저 적용될 수도 있다. 더 이상 분할되지 않는 최종 코딩 유닛을 기반으로 본 발명에 따른 코딩 절차가 수행될 수 있다. 이 경우 영상 특성에 따른 코딩 효율 등을 기반으로, 최대 코딩 유닛이 바로 최종 코딩 유닛으로 사용될 수 있고, 또는 필요에 따라 코딩 유닛은 재귀적으로(recursively) 보다 하위 뎁스의 코딩 유닛들로 분할되어 최적의 사이즈의 코딩 유닛이 최종 코딩 유닛으로 사용될 수 있다. 여기서 코딩 절차라 함은 후술하는 예측, 변환, 및 복원 등의 절차를 포함할 수 있다. 다른 예로, 상기 처리 유닛은 예측 유닛(PU: Prediction Unit) 또는 변환 유닛(TU: Transform Unit)을 더 포함할 수 있다. 이 경우 상기 예측 유닛 및 상기 변환 유닛은 각각 상술한 최종 코딩 유닛으로부터 분할 또는 파티셔닝될 수 있다. 상기 예측 유닛은 샘플 예측의 단위일 수 있고, 상기 변환 유닛은 변환 계수를 유도하는 단위 및/또는 변환 계수로부터 레지듀얼 신호(residual signal)를 유도하는 단위일 수 있다.
유닛은 경우에 따라서 블록(block) 또는 영역(area) 등의 용어와 혼용하여 사용될 수 있다. 일반적인 경우, MxN 블록은 M개의 열과 N개의 행으로 이루어진 샘플들 또는 변환 계수(transform coefficient)들의 집합을 나타낼 수 있다. 샘플은 일반적으로 픽셀 또는 픽셀의 값을 나타낼 수 있으며, 휘도(luma) 성분의 픽셀/픽셀값만을 나타낼 수도 있고, 채도(chroma) 성분의 픽셀/픽셀 값만을 나타낼 수도 있다. 샘플은 하나의 픽처(또는 영상)을 픽셀(pixel) 또는 펠(pel)에 대응하는 용어로서 사용될 수 있다.
인코딩 장치(100)는 입력 영상 신호(원본 블록, 원본 샘플 어레이)에서 인터 예측부(180) 또는 인트라 예측부(185)로부터 출력된 예측 신호(예측된 블록, 예측 샘플 어레이)를 감산하여 레지듀얼 신호(residual signal, 잔여 블록, 잔여 샘플 어레이)를 생성할 수 있고, 생성된 레지듀얼 신호는 변환부(120)로 전송된다. 이 경우 도시된 바와 같이 인코더(100) 내에서 입력 영상 신호(원본 블록, 원본 샘플 어레이)에서 예측 신호(예측 블록, 예측 샘플 어레이)를 감산하는 유닛은 감산부(115)라고 불릴 수 있다. 예측부는 처리 대상 블록(이하, 현재 블록이라 함)에 대한 예측을 수행하고, 상기 현재 블록에 대한 예측 샘플들을 포함하는 예측된 블록(predicted block)을 생성할 수 있다. 예측부는 현재 블록 또는 CU 단위로 인트라 예측이 적용되는지 또는 인터 예측이 적용되는지 결정할 수 있다. 예측부는 각 예측모드에 대한 설명에서 후술하는 바와 같이 예측 모드 정보 등 예측에 관한 다양한 정보를 생성하여 엔트로피 인코딩부(190)로 전달할 수 있다. 예측에 관한 정보는 엔트로피 인코딩부(190)에서 인코딩되어 비트스트림 형태로 출력될 수 있다.
인트라 예측부(185)는 현재 픽처 내의 샘플들을 참조하여 현재 블록을 예측할 수 있다. 상기 참조되는 샘플들은 예측 모드에 따라 상기 현재 블록의 주변(neighbor)에 위치할 수 있고, 또는 떨어져서 위치할 수도 있다. 인트라 예측에서 예측 모드들은 복수의 비방향성 모드와 복수의 방향성 모드를 포함할 수 있다. 비방향성 모드는 예를 들어 DC 모드 및 플래너 모드(Planar 모드)를 포함할 수 있다. 방향성 모드는 예측 방향의 세밀한 정도에 따라 예를 들어 33개의 방향성 예측 모드 또는 65개의 방향성 예측 모드를 포함할 수 있다. 다만, 이는 예시로서 설정에 따라 그 이상 또는 그 이하의 개수의 방향성 예측 모드들이 사용될 수 있다. 인트라 예측부(185)는 주변 블록에 적용된 예측 모드를 이용하여, 현재 블록에 적용되는 예측 모드를 결정할 수도 있다.
인터 예측부(180)는 참조 픽처 상에서 움직임 벡터에 의해 특정되는 참조 블록(참조 샘플 어레이)을 기반으로, 현재 블록에 대한 예측된 블록을 유도할 수 있다. 이때, 인터 예측 모드에서 전송되는 움직임 정보의 양을 줄이기 위해 주변 블록과 현재 블록 간의 움직임 정보의 상관성에 기초하여 움직임 정보를 블록, 서브블록 또는 샘플 단위로 예측할 수 있다. 상기 움직임 정보는 움직임 벡터 및 참조 픽처 인덱스를 포함할 수 있다. 상기 움직임 정보는 인터 예측 방향(L0 예측, L1 예측, Bi 예측 등) 정보를 더 포함할 수 있다. 인터 예측의 경우에, 주변 블록은 현재 픽처 내에 존재하는 공간적 주변 블록(spatial neighboring block)과 참조 픽처에 존재하는 시간적 주변 블록(temporal neighboring block)을 포함할 수 있다. 상기 참조 블록을 포함하는 참조 픽처와 상기 시간적 주변 블록을 포함하는 참조 픽처는 동일할 수도 있고, 다를 수도 있다. 상기 시간적 주변 블록은 동일 위치 참조 블록(collocated reference block), 동일 위치 CU(colCU) 등의 이름으로 불릴 수 있으며, 상기 시간적 주변 블록을 포함하는 참조 픽처는 동일 위치 픽처(collocated picture, colPic)라고 불릴 수도 있다. 예를 들어, 인터 예측부(180)는 주변 블록들을 기반으로 움직임 정보 후보 리스트를 구성하고, 상기 현재 블록의 움직임 벡터 및/또는 참조 픽처 인덱스를 도출하기 위하여 어떤 후보가 사용되는지를 지시하는 정보를 생성할 수 있다. 다양한 예측 모드를 기반으로 인터 예측이 수행될 수 있으며, 예를 들어 스킵 모드와 머지 모드의 경우에, 인터 예측부(180)는 주변 블록의 움직임 정보를 현재 블록의 움직임 정보로 이용할 수 있다. 스킵 모드의 경우, 머지 모드와 달리 레지듀얼 신호가 전송되지 않을 수 있다. 움직임 정보 예측(motion vector prediction, MVP) 모드의 경우, 주변 블록의 움직임 벡터를 움직임 벡터 예측자(motion vector predictor)로 이용하고, 움직임 벡터 차분(motion vector difference)을 시그널링함으로써 현재 블록의 움직임 벡터를 지시할 수 있다.
예측부는 후술하는 다양한 예측 방법을 기반으로 예측 신호를 생성할 수 있다. 예를 들어, 예측부는 하나의 블록에 대한 예측을 위하여 인트라 예측 또는 인터 예측을 적용할 수 있을 뿐 아니라, 인트라 예측과 인터 예측을 동시에 적용할 수 있다. 이는 combined inter and intra prediction (CIIP)라고 불릴 수 있다. 또한, 예측부는 블록에 대한 예측을 위하여 인트라 블록 카피(intra block copy, IBC)를 수행할 수도 있다. 상기 인트라 블록 카피는 예를 들어 SCC(screen content coding) 등과 같이 게임 등의 컨텐츠 영상/동영상 코딩을 위하여 사용될 수 있다. IBC는 기본적으로 현재 픽처 내에서 예측을 수행하나 현재 픽처 내에서 참조 블록을 도출하는 점에서 인터 예측과 유사하게 수행될 수 있다. 즉, IBC는 본 문서에서 설명되는 인터 예측 기법들 중 적어도 하나를 이용할 수 있다.
상기 예측부 (인터 예측부(180) 및/또는 상기 인트라 예측부(185) 포함)를 통해 생성된 예측 신호는 복원 신호를 생성하기 위해 이용되거나 레지듀얼 신호를 생성하기 위해 이용될 수 있다. 변환부(120)는 레지듀얼 신호에 변환 기법을 적용하여 변환 계수들(transform coefficients)를 생성할 수 있다. 예를 들어, 변환 기법은 DCT(Discrete Cosine Transform), DST(Discrete Sine Transform), KLT(Karhunen-Lo*?*ve Transform), GBT(Graph-Based Transform), 또는 CNT(Conditionally Non-linear Transform) 중 적어도 하나를 포함할 수 있다. 여기서, GBT는 픽셀 간의 관계 정보를 그래프로 표현한다고 할 때 이 그래프로부터 얻어진 변환을 의미한다. CNT는 이전에 복원된 모든 픽셀(all previously reconstructed pixel)를 이용하여 예측 신호를 생성하고 그에 기초하여 획득되는 변환을 의미한다. 또한, 변환 과정은 정사각형의 동일한 크기를 갖는 픽셀 블록에 적용될 수도 있고, 정사각형이 아닌 가변 크기의 블록에도 적용될 수 있다.
양자화부(130)는 변환 계수들을 양자화하여 엔트로피 인코딩부(190)로 전송되고, 엔트로피 인코딩부(190)는 양자화된 신호(양자화된 변환 계수들에 관한 정보)를 인코딩하여 비트스트림으로 출력할 수 있다. 상기 양자화된 변환 계수들에 관한 정보는 레지듀얼 정보라고 불릴 수 있다. 양자화부(130)는 계수 스캔 순서(scan order)를 기반으로 블록 형태의 양자화된 변환 계수들을 1차원 벡터 형태로 재정렬할 수 있고, 상기 1차원 벡터 형태의 양자화된 변환 계수들을 기반으로 상기 양자화된 변환 계수들에 관한 정보를 생성할 수도 있다. 엔트로피 인코딩부(190)는 예를 들어 지수 골롬(exponential Golomb), CAVLC(context-adaptive variable length coding), CABAC(context-adaptive binary arithmetic coding) 등과 같은 다양한 인코딩 방법을 수행할 수 있다. 엔트로피 인코딩부(190)는 양자화된 변환 계수들 외 비디오/이미지 복원에 필요한 정보들(예컨대 신택스 요소들(syntax elements)의 값 등)을 함께 또는 별도로 인코딩할 수도 있다. 인코딩된 정보(ex. 인코딩된 비디오/영상 정보)는 비트스트림 형태로 NAL(network abstraction layer) 유닛 단위로 전송 또는 저장될 수 있다. 상기 비디오/영상 정보는 어댑테이션 파라미터 세트(APS), 픽처 파라미터 세트(PPS), 시퀀스 파라미터 세트(SPS) 또는 비디오 파라미터 세트(VPS) 등 다양한 파라미터 세트에 관한 정보를 더 포함할 수 있다. 또한 상기 비디오/영상 정보는 일반 제한 정보(general constraint information)을 더 포함할 수 있다. 본 문서에서 후술되는 시그널링/전송되는 정보 및/또는 신택스 요소들은 상술한 인코딩 절차를 통하여 인코딩되어 상기 비트스트림에 포함될 수 있다. 상기 비트스트림은 네트워크를 통하여 전송될 수 있고, 또는 디지털 저장매체에 저장될 수 있다. 여기서 네트워크는 방송망 및/또는 통신망 등을 포함할 수 있고, 디지털 저장매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장매체를 포함할 수 있다. 엔트로피 인코딩부(190)로부터 출력된 신호는 전송하는 전송부(미도시) 및/또는 저장하는 저장부(미도시)가 인코딩 장치(100)의 내/외부 엘리먼트로서 구성될 수 있고, 또는 전송부는 엔트로피 인코딩부(190)에 포함될 수도 있다.
양자화부(130)로부터 출력된 양자화된 변환 계수들은 예측 신호를 생성하기 위해 이용될 수 있다. 예를 들어, 양자화된 변환 계수들에 역양자화부(140) 및 역변환부(150)를 통해 역양자화 및 역변환을 적용함으로써 레지듀얼 신호(레지듀얼 블록 or 레지듀얼 샘플들)를 복원할 수 있다. 가산부(155)는 복원된 레지듀얼 신호를 인터 예측부(180) 또는 인트라 예측부(185)로부터 출력된 예측 신호에 더함으로써 복원(reconstructed) 신호(복원 픽처, 복원 블록, 복원 샘플 어레이)가 생성될 수 있다. 스킵 모드가 적용된 경우와 같이 처리 대상 블록에 대한 레지듀얼이 없는 경우, 예측된 블록이 복원 블록으로 사용될 수 있다. 가산부(155)는 복원부 또는 복원 블록 생성부라고 불릴 수 있다. 생성된 복원 신호는 현재 픽처 내 다음 처리 대상 블록의 인트라 예측을 위하여 사용될 수 있고, 후술하는 바와 같이 필터링을 거쳐서 다음 픽처의 인터 예측을 위하여 사용될 수도 있다.
한편 픽처 인코딩 및/또는 복원 과정에서 LMCS (luma mapping with chroma scaling)가 적용될 수도 있다.
필터링부(160)는 복원 신호에 필터링을 적용하여 주관적/객관적 화질을 향상시킬 수 있다. 예를 들어 필터링부(160)은 복원 픽처에 다양한 필터링 방법을 적용하여 수정된(modified) 복원 픽처를 생성할 수 있고, 상기 수정된 복원 픽처를 메모리(170), 구체적으로 메모리(170)의 DPB에 저장할 수 있다. 상기 다양한 필터링 방법은 예를 들어, 디블록킹 필터링, 샘플 적응적 오프셋(sample adaptive offset), 적응적 루프 필터(adaptive loop filter), 양방향 필터(bilateral filter) 등을 포함할 수 있다. 필터링부(160)은 각 필터링 방법에 대한 설명에서 후술하는 바와 같이 필터링에 관한 다양한 정보를 생성하여 엔트로피 인코딩부(190)로 전달할 수 있다. 필터링 관한 정보는 엔트로피 인코딩부(190)에서 인코딩되어 비트스트림 형태로 출력될 수 있다.
메모리(170)에 전송된 수정된 복원 픽처는 인터 예측부(180)에서 참조 픽처로 사용될 수 있다. 인코딩 장치는 이를 통하여 인터 예측이 적용되는 경우, 인코딩 장치(100)와 디코딩 장치에서의 예측 미스매치를 피할 수 있고, 부호화 효율도 향상시킬 수 있다.
메모리(170) DPB는 수정된 복원 픽처를 인터 예측부(180)에서의 참조 픽처로 사용하기 위해 저장할 수 있다. 메모리(170)는 현재 픽처 내 움직임 정보가 도출된(또는 인코딩된) 블록의 움직임 정보 및/또는 이미 복원된 픽처 내 블록들의 움직임 정보를 저장할 수 있다. 상기 저장된 움직임 정보는 공간적 주변 블록의 움직임 정보 또는 시간적 주변 블록의 움직임 정보로 활용하기 위하여 인터 예측부(180)에 전달할 수 있다. 메모리(170)는 현재 픽처 내 복원된 블록들의 복원 샘플들을 저장할 수 있고, 인트라 예측부(185)에 전달할 수 있다.
도 2는 본 발명이 적용될 수 있는 비디오 디코딩 장치의 구성을 개략적으로 설명하는 도면이다.
도 2를 참조하면, 디코딩 장치(200)는 엔트로피 디코딩부(210), 역양자화부(220), 역변환부(230), 가산부(235), 필터링부(240), 메모리(250), 인터 예측부(260) 및 인트라 예측부(265)를 포함하여 구성될 수 있다. 인터 예측부(260) 및 인트라 예측부(265)를 합쳐서 예측부라고 불릴 수 있다. 즉, 예측부는 인터 예측부(180) 및 인트라 예측부(185)를 포함할 수 있다. 역양자화부(220), 역변환부(230)를 합쳐서 레지듀얼 처리부라고 불릴 수 있다. 즉, 레지듀얼 처리부는 역양자화부(220), 역변환부(230)을 포함할 수 있다. 상술한 엔트로피 디코딩부(210), 역양자화부(220), 역변환부(230), 가산부(235), 필터링부(240), 인터 예측부(260) 및 인트라 예측부(265)는 실시예에 따라 하나의 하드웨어 컴포넌트(예를 들어 디코더 칩셋 또는 프로세서)에 의하여 구성될 수 있다. 또한 메모리(250)는 DPB(decoded picture buffer)를 포함할 수 있고, 디지털 저장 매체에 의하여 구성될 수도 있다. 상기 하드웨어 컴포넌트는 메모리(250)을 내/외부 컴포넌트로 더 포함할 수도 있다.
비디오/영상 정보를 포함하는 비트스트림이 입력되면, 디코딩 장치(200)는 도 1의 인코딩 장치에서 비디오/영상 정보가 처리된 프로세스에 대응하여 영상을 복원할 수 있다. 예를 들어, 디코딩 장치(200)는 상기 비트스트림으로부터 획득한 블록 분할 관련 정보를 기반으로 유닛들/블록들을 도출할 수 있다. 디코딩 장치(200)는 인코딩 장치에서 적용된 처리 유닛을 이용하여 디코딩을 수행할 수 있다. 따라서 디코딩의 처리 유닛은 예를 들어 코딩 유닛일 수 있고, 코딩 유닛은 코딩 트리 유닛 또는 최대 코딩 유닛으로부터 쿼드 트리 구조, 바이너리 트리 구조 및/또는 터너리 트리 구조를 따라서 분할될 수 있다. 코딩 유닛으로부터 하나 이상의 변환 유닛이 도출될 수 있다. 그리고, 디코딩 장치(200)를 통해 디코딩 및 출력된 복원 영상 신호는 재생 장치를 통해 재생될 수 있다.
디코딩 장치(200)는 도 1의 인코딩 장치로부터 출력된 신호를 비트스트림 형태로 수신할 수 있고, 수신된 신호는 엔트로피 디코딩부(210)를 통해 디코딩될 수 있다. 예를 들어, 엔트로피 디코딩부(210)는 상기 비트스트림을 파싱하여 영상 복원(또는 픽처 복원)에 필요한 정보(ex. 비디오/영상 정보)를 도출할 수 있다. 상기 비디오/영상 정보는 어댑테이션 파라미터 세트(APS), 픽처 파라미터 세트(PPS), 시퀀스 파라미터 세트(SPS) 또는 비디오 파라미터 세트(VPS) 등 다양한 파라미터 세트에 관한 정보를 더 포함할 수 있다. 또한 상기 비디오/영상 정보는 일반 제한 정보(general constraint information)을 더 포함할 수 있다. 디코딩 장치는 상기 파라미터 세트에 관한 정보 및/또는 상기 일반 제한 정보를 더 기반으로 픽처를 디코딩할 수 있다. 본 문서에서 후술되는 시그널링/수신되는 정보 및/또는 신택스 요소들은 상기 디코딩 절차를 통하여 디코딩되어 상기 비트스트림으로부터 획득될 수 있다. 예컨대, 엔트로피 디코딩부(210)는 지수 골롬 부호화, CAVLC 또는 CABAC 등의 코딩 방법을 기초로 비트스트림 내 정보를 디코딩하고, 영상 복원에 필요한 신택스 엘리먼트의 값, 레지듀얼에 관한 변환 계수의 양자화된 값 들을 출력할 수 있다. 보다 상세하게, CABAC 엔트로피 디코딩 방법은, 비트스트림에서 각 구문 요소에 해당하는 빈을 수신하고, 디코딩 대상 구문 요소 정보와 주변 및 디코딩 대상 블록의 디코딩 정보 혹은 이전 단계에서 디코딩된 심볼/빈의 정보를 이용하여 문맥(context) 모델을 결정하고, 결정된 문맥 모델에 따라 빈(bin)의 발생 확률을 예측하여 빈의 산술 디코딩(arithmetic decoding)를 수행하여 각 구문 요소의 값에 해당하는 심볼을 생성할 수 있다. 이때, CABAC 엔트로피 디코딩 방법은 문맥 모델 결정 후 다음 심볼/빈의 문맥 모델을 위해 디코딩된 심볼/빈의 정보를 이용하여 문맥 모델을 업데이트할 수 있다. 엔트로피 디코딩부(210)에서 디코딩된 정보 중 예측에 관한 정보는 예측부(인터 예측부(260) 및 인트라 예측부(265))로 제공되고, 엔트로피 디코딩부(210)에서 엔트로피 디코딩이 수행된 레지듀얼 값, 즉 양자화된 변환 계수들 및 관련 파라미터 정보는 역양자화부(220)로 입력될 수 있다. 또한, 엔트로피 디코딩부(210)에서 디코딩된 정보 중 필터링에 관한 정보는 필터링부(240)으로 제공될 수 있다. 한편, 인코딩 장치로부터 출력된 신호를 수신하는 수신부(미도시)가 디코딩 장치(200)의 내/외부 엘리먼트로서 더 구성될 수 있고, 또는 수신부는 엔트로피 디코딩부(210)의 구성요소일 수도 있다. 한편, 본 문서에 따른 디코딩 장치는 비디오/영상/픽처 디코딩 장치라고 불릴 수 있고, 상기 디코딩 장치는 정보 디코더(비디오/영상/픽처 정보 디코더) 및 샘플 디코더(비디오/영상/픽처 샘플 디코더)로 구분할 수도 있다. 상기 정보 디코더는 상기 엔트로피 디코딩부(210)를 포함할 수 있고, 상기 샘플 디코더는 상기 역양자화부(220), 역변환부(230), 가산부(235), 필터링부(240), 메모리(250), 인터 예측부(260) 및 인트라 예측부(265) 중 적어도 하나를 포함할 수 있다.
역양자화부(220)에서는 양자화된 변환 계수들을 역양자화하여 변환 계수들을 출력할 수 있다. 역양자화부(220)는 양자화된 변환 계수들을 2차원의 블록 형태로 재정렬할 수 있다. 이 경우 상기 재정렬은 인코딩 장치에서 수행된 계수 스캔 순서를 기반하여 재정렬을 수행할 수 있다. 역양자화부(220)는 양자화 파라미터(예를 들어 양자화 스텝 사이즈 정보)를 이용하여 양자화된 변환 계수들에 대한 역양자화를 수행하고, 변환 계수들(transform coefficient)를 획득할 수 있다.
역변환부(230)에서는 변환 계수들를 역변환하여 레지듀얼 신호(레지듀얼 블록, 레지듀얼 샘플 어레이)를 획득하게 된다.
예측부는 현재 블록에 대한 예측을 수행하고, 상기 현재 블록에 대한 예측 샘플들을 포함하는 예측된 블록(predicted block)을 생성할 수 있다. 예측부는 엔트로피 디코딩부(210)로부터 출력된 상기 예측에 관한 정보를 기반으로 상기 현재 블록에 인트라 예측이 적용되는지 또는 인터 예측이 적용되는지 결정할 수 있고, 구체적인 인트라/인터 예측 모드를 결정할 수 있다.
예측부는 후술하는 다양한 예측 방법을 기반으로 예측 신호를 생성할 수 있다. 예를 들어, 예측부는 하나의 블록에 대한 예측을 위하여 인트라 예측 또는 인터 예측을 적용할 수 있을 뿐 아니라, 인트라 예측과 인터 예측을 동시에 적용할 수 있다. 이는 combined inter and intra prediction (CIIP)라고 불릴 수 있다. 또한, 예측부는 블록에 대한 예측을 위하여 인트라 블록 카피(intra block copy, IBC)를 수행할 수도 있다. 상기 인트라 블록 카피는 예를 들어 SCC(screen content coding) 등과 같이 게임 등의 컨텐츠 영상/동영상 코딩을 위하여 사용될 수 있다. IBC는 기본적으로 현재 픽처 내에서 예측을 수행하나 현재 픽처 내에서 참조 블록을 도출하는 점에서 인터 예측과 유사하게 수행될 수 있다. 즉, IBC는 본 문서에서 설명되는 인터 예측 기법들 중 적어도 하나를 이용할 수 있다.
인트라 예측부(265)는 현재 픽처 내의 샘플들을 참조하여 현재 블록을 예측할 수 있다. 상기 참조되는 샘플들은 예측 모드에 따라 상기 현재 블록의 주변(neighbor)에 위치할 수 있고, 또는 떨어져서 위치할 수도 있다. 인트라 예측에서 예측 모드들은 복수의 비방향성 모드와 복수의 방향성 모드를 포함할 수 있다. 인트라 예측부(265)는 주변 블록에 적용된 예측 모드를 이용하여, 현재 블록에 적용되는 예측 모드를 결정할 수도 있다.
인터 예측부(260)는 참조 픽처 상에서 움직임 벡터에 의해 특정되는 참조 블록(참조 샘플 어레이)을 기반으로, 현재 블록에 대한 예측된 블록을 유도할 수 있다. 이때, 인터 예측 모드에서 전송되는 움직임 정보의 양을 줄이기 위해 주변 블록과 현재 블록 간의 움직임 정보의 상관성에 기초하여 움직임 정보를 블록, 서브블록 또는 샘플 단위로 예측할 수 있다. 상기 움직임 정보는 움직임 벡터 및 참조 픽처 인덱스를 포함할 수 있다. 상기 움직임 정보는 인터 예측 방향(L0 예측, L1 예측, Bi 예측 등) 정보를 더 포함할 수 있다. 인터 예측의 경우에, 주변 블록은 현재 픽처 내에 존재하는 공간적 주변 블록(spatial neighboring block)과 참조 픽처에 존재하는 시간적 주변 블록(temporal neighboring block)을 포함할 수 있다. 예를 들어, 인터 예측부(260)는 주변 블록들을 기반으로 움직임 정보 후보 리스트를 구성하고, 수신한 후보 선택 정보를 기반으로 상기 현재 블록의 움직임 벡터 및/또는 참조 픽처 인덱스를 도출할 수 있다. 다양한 예측 모드를 기반으로 인터 예측이 수행될 수 있으며, 상기 예측에 관한 정보는 상기 현재 블록에 대한 인터 예측의 모드를 지시하는 정보를 포함할 수 있다.
가산부(235)는 획득된 레지듀얼 신호를 예측부(인터 예측부(260) 및/또는 인트라 예측부(265) 포함)로부터 출력된 예측 신호(예측된 블록, 예측 샘플 어레이)에 더함으로써 복원 신호(복원 픽처, 복원 블록, 복원 샘플 어레이)를 생성할 수 있다. 스킵 모드가 적용된 경우와 같이 처리 대상 블록에 대한 레지듀얼이 없는 경우, 예측된 블록이 복원 블록으로 사용될 수 있다.
가산부(235)는 복원부 또는 복원 블록 생성부라고 불릴 수 있다. 생성된 복원 신호는 현재 픽처 내 다음 처리 대상 블록의 인트라 예측을 위하여 사용될 수 있고, 후술하는 바와 같이 필터링을 거쳐서 출력될 수도 있고 또는 다음 픽처의 인터 예측을 위하여 사용될 수도 있다.
한편, 픽처 디코딩 과정에서 LMCS (luma mapping with chroma scaling)가 적용될 수도 있다.
필터링부(240)는 복원 신호에 필터링을 적용하여 주관적/객관적 화질을 향상시킬 수 있다. 예를 들어 필터링부(240)는 복원 픽처에 다양한 필터링 방법을 적용하여 수정된(modified) 복원 픽처를 생성할 수 있고, 상기 수정된 복원 픽처를 메모리(250), 구체적으로 메모리(250)의 DPB에 전송할 수 있다. 상기 다양한 필터링 방법은 예를 들어, 디블록킹 필터링, 샘플 적응적 오프셋(sample adaptive offset), 적응적 루프 필터(adaptive loop filter), 양방향 필터(bilateral filter) 등을 포함할 수 있다.
메모리(250)의 DPB에 저장된 (수정된) 복원 픽처는 인터 예측부(260)에서 참조 픽쳐로 사용될 수 있다. 메모리(250)는 현재 픽처 내 움직임 정보가 도출된(또는 디코딩된) 블록의 움직임 정보 및/또는 이미 복원된 픽처 내 블록들의 움직임 정보를 저장할 수 있다. 상기 저장된 움직임 정보는 공간적 주변 블록의 움직임 정보 또는 시간적 주변 블록의 움직임 정보로 활용하기 위하여 인터 예측부(260)에 전달할 수 있다. 메모리(250)는 현재 픽처 내 복원된 블록들의 복원 샘플들을 저장할 수 있고, 인트라 예측부(265)에 전달할 수 있다.
본 명세서에서, 인코딩 장치(100)의 필터링부(160), 인터 예측부(180) 및 인트라 예측부(185)에서 설명된 실시예들은 각각 디코딩 장치(200)의 필터링부(240), 인터 예측부(260) 및 인트라 예측부(265)에도 동일 또는 대응되도록 적용될 수 있다.
인코딩 장치/디코딩 장치의 예측부는 블록 단위로 인터 예측을 수행하여 예측 샘플을 도출할 수 있다. 인터 예측은 현재 픽처 이외의 픽처(들)의 데이터 요소들(e.g. 샘플값들, 또는 움직임 정보 등)에 의존적인 방법으로 도출되는 예측을 나타낼 수 있다. 현재 블록에 인터 예측이 적용되는 경우, 참조 픽처 인덱스가 가리키는 참조 픽처 상에서 움직임 벡터에 의해 특정되는 참조 블록(참조 샘플 어레이)을 기반으로, 현재 블록에 대한 예측된 블록(예측 샘플 어레이)을 유도할 수 있다. 이때, 인터 예측 모드에서 전송되는 움직임 정보의 양을 줄이기 위해 주변 블록과 현재 블록 간의 움직임 정보의 상관성에 기초하여 현재 블록의 움직임 정보를 블록, 서브블록 또는 샘플 단위로 예측할 수 있다. 상기 움직임 정보는 움직임 벡터 및 참조 픽처 인덱스를 포함할 수 있다. 상기 움직임 정보는 인터 예측 타입(L0 예측, L1 예측, Bi 예측 등) 정보를 더 포함할 수 있다. 인터 예측이 적용되는 경우, 주변 블록은 현재 픽처 내에 존재하는 공간적 주변 블록(spatial neighboring block)과 참조 픽처에 존재하는 시간적 주변 블록(temporal neighboring block)을 포함할 수 있다. 상기 참조 블록을 포함하는 참조 픽처와 상기 시간적 주변 블록을 포함하는 참조 픽처는 동일할 수도 있고, 다를 수도 있다. 상기 시간적 주변 블록은 동일 위치 참조 블록(collocated reference block), 동일 위치 CU(colCU) 등의 이름으로 불릴 수 있으며, 상기 시간적 주변 블록을 포함하는 참조 픽처는 동일 위치 픽처(collocated picture, colPic)라고 불릴 수도 있다. 예를 들어, 현재 블록의 주변 블록들을 기반으로 움직임 정보 후보 리스트가 구성될 수 있고, 상기 현재 블록의 움직임 벡터 및/또는 참조 픽처 인덱스를 도출하기 위하여 어떤 후보가 선택(사용)되는지를 지시하는 플래그 또는 인덱스 정보가 시그널링될 수 있다. 다양한 예측 모드를 기반으로 인터 예측이 수행될 수 있으며, 예를 들어 스킵 모드와 머지 모드의 경우에, 현재 블록의 움직임 정보는 선택된 주변 블록의 움직임 정보와 같을 수 있다. 스킵 모드의 경우, 머지 모드와 달리 레지듀얼 신호가 전송되지 않을 수 있다. 움직임 정보 예측(motion vector prediction, MVP) 모드의 경우, 선택된 주변 블록의 움직임 벡터를 움직임 벡터 예측자(motion vector predictor)로 이용하고, 움직임 벡터 차분(motion vector difference)은 시그널링될 수 있다. 이 경우 상기 움직임 벡터 예측자 및 움직임 벡터 차분의 합을 이용하여 상기 현재 블록의 움직임 벡터를 도출할 수 있다.
상기 움직임 정보는 인터 예측 타입(L0 예측, L1 예측, Bi 예측 등)에 따라 L0 움직임 정보 및/또는 L1 움직임 정보를 포함할 수 있다. L0 방향의 움직임 벡터는 L0 움직임 벡터 또는 MVL0라고 불릴 수 있고, L1 방향의 움직임 벡터는 L1 움직임 벡터 또는 MVL1이라고 불릴 수 있다. L0 움직임 벡터에 기반한 예측은 L0 예측이라고 불릴 수 있고, L1 움직임 벡터에 기반한 예측을 L1 예측이라고 불릴 수 있고, 상기 L0 움직임 벡터 및 상기 L1 움직임 벡터 둘 다에 기반한 예측을 쌍(Bi) 예측이라고 불릴 수 있다. 여기서 L0 움직임 벡터는 참조 픽처 리스트 L0 (L0)에 연관된 움직임 벡터를 나타낼 수 있고, L1 움직임 벡터는 참조 픽처 리스트 L1 (L1)에 연관된 움직임 벡터를 나타낼 수 있다. 참조 픽처 리스트 L0는 상기 현재 픽처보다 출력 순서상 이전 픽처들을 참조 픽처들로 포함할 수 있고, 참조 픽처 리스트 L1은 상기 현재 픽처보다 출력 순서상 이후 픽처들을 포함할 수 있다. 상기 이전 픽처들은 순방향 (참조) 픽처라고 불릴 수 있고, 상기 이후 픽처들은 역방향 (참조) 픽처라고 불릴 수 있다. 상기 참조 픽처 리스트 L0은 상기 현재 픽처보다 출력 순서상 이후 픽처들을 참조 픽처들로 더 포함할 수 있다. 이 경우 상기 참조 픽처 리스트 L0 내에서 상기 이전 픽처들이 먼저 인덱싱되고 상기 이후 픽처들은 그 다음에 인덱싱될 수 있다. 상기 참조 픽처 리스트 L1은 상기 현재 픽처보다 출력 순서상 이전 픽처들을 참조 픽처들로 더 포함할 수 있다. 이 경우 상기 참조 픽처 리스트1 내에서 상기 이후 픽처들이 먼저 인덱싱되고 상기 이전 픽처들은 그 다음에 인덱싱 될 수 있다. 여기서 출력 순서는 POC(picture order count) 순서(order)에 대응될 수 있다.
현재 블록의 움직임 정보를 이용하여 인터 예측을 수행할 수 있다. 인코딩 장치는 움직임 추정(motion estimation) 절차를 통하여 현재 블록에 대한 최적의 움직임 정보를 도출할 수 있다. 예를 들어, 인코딩 장치는 현재 블록에 대한 원본 픽처 내 원본 블록을 이용하여 상관성이 높은 유사한 참조 블록을 참조 픽처 내의 정해진 탐색 범위 내에서 분수 픽셀 단위로 탐색할 수 있고, 이를 통하여 움직임 정보를 도출할 수 있다. 블록의 유사성은 위상(phase) 기반 샘플 값들의 차를 기반으로 도출할 수 있다. 예를 들어, 블록의 유사성은 현재 블록(또는 현재 블록의 템플릿)과 참조 블록(또는 참조 블록의 템플릿) 간 SAD를 기반으로 계산될 수 있다. 이 경우 탐색 영역 내 SAD가 가장 작은 참조 블록을 기반으로 움직임 정보를 도출할 수 있다. 도출된 움직임 정보는 인터 예측 모드 기반으로 여러 방법에 따라 디코딩 장치로 시그널링될 수 있다.
본 발명의 일 실시예는 인터 예측에 관한 것으로, 움직임 벡터를 리파인먼트(refinement)하는 과정을 하드웨어에 친화적으로 개선하는 방법을 제안할 수 있다. 다시 말해, 본 발명의 일 실시예는 템플릿 매칭(template matching) 방법을 이용하는 경우 발생할 수 있는 파이프라인 딜레이(pipeline delay)를 제거하기 위하여 적응적으로 템플릿 영역을 결정하는 다양한 방법을 제안할 수 있고, 메모리 대역폭(memory bandwidth)을 고려하여 후보들을 그룹핑(grouping)하는 방법을 제안할 수 있다.
다시 말해, 화면간 예측에 있어 움직임 정보를 예측하는 과정은 움직임 정보 및 잔차 신호를 줄이기 위해 필수적으로 적용될 수 있다. 주변 블록으로부터 움직임 정보를 유도하여 움직임 벡터 및 참조 블록에 대한 정보를 절약한 머지 모드가 그 과정의 예이며, 제한적인 정보로부터 유도된 움직임 정보를 리파인먼트하여 움직임 예측의 정확도를 높일 수 있다. 그러나 DMVD(decoder-side motion derivation) 과정은 하드웨어적으로 친화도가 낮으므로, 일 실시예는 이를 개선함으로써 DMVD 과정 또는 방법을 활용할 수 있는 방법을 제안할 수 있다.
도 3은 파이프라인 딜레이 발생의 예를 개략적으로 나타낸다.
DMVD 방법 중 하나인 템플릿 매칭(template matching) 방법은 현재 블록의 인접 영역과 MVP 후보 움직임 벡터가 가리키는 블록의 인접 블록 간의 코스트(cost)를 기반으로 적용될 수 있으며, 이를 이용하여 후보 리스트 내의 후보를 갱신하거나 후보 리스트에 있는 후보들을 재정렬할 수 있다. 여기서, 인접 영역은 템플릿 또는 템플릿 영역을 지칭할 수 있으며, 후보는 움직임 정보 후보를, 후보 리스트는 움직임 정보 후보 리스트를 지칭할 수 있다. 여기서, 현재 블록의 인접 영역은 현재 블록의 좌측 주변 영역 및 상측 주변 영역이 사용되었으며, MVP 후보 움직임 벡터가 가리키는 블록의 인접 블록도 MVP 후보 움직임 벡터가 가리키는 블록의 좌측 주변 영역 및 상측 주변 영역이 사용되었다. 다만, 이러한 영역을 이용하는 경우에는 파이프라인 딜레이(pipeline delay)가 발생할 수 있다.
예를 들어, 일반적인 움직임 보상(MC: Motion Compenstion) 과정은 MV 요청(requeset) 과정 및 MC와 복원(reconstruction)하는 과정을 포함할 수 있다. 참조 픽처는 전체 픽처 정보가 저장되어야 하므로 데이터량으로 인해 외부 메모리 또는 DDR(Double Date Rate)에 저장될 수 있으며, 외부 메모리 또는 DDR에 저장되는 경우 데이터를 패치(fetch)하는 데에 400 ~ 500 cycle 정도가 요구될 수 있다. 이에 따른 지연(latency)를 줄이기 위해서는 DDR에서 참조 블록을 패치(fetch)해오는 요청을 움직임 보상 전에 실행하여 이전 블록의 움직임 보상 과정에서 하이딩(hiding)되도록 할 수 있다.
도 3을 참조하면, General pipeline architecture는 일반적인 파이프라인 구조를 나타낼 수있으며, with TM(using reconstructed neighboring block)은 템플릿 매칭 방법을 이용하는 경우의 파이프라인 구조를 나타낼 수 있다. 여기서, MV request는 참조 블록을 패치해오는 요청을 지칭할 수 있으며, MC, Recon은 MC와 복원하는 과정을 지칭할 수 있다.
다만, 템플릿 매칭 방법을 이용하여 움직임 정보를 리파인먼트(refinement)하거나 재정렬하는 경우, 현재 블록을 움직임 보상하기 전에 즉, MV Request 전에 이전 블록의 복원된 화소 값이 요구될 수 있다. 따라서, 이전 블록의 Recon 이후 현재 블록의 MV Request를 하여야 하므로, 파이프라인 딜레이가 발생할 수 있다.
일 실시예에서는 이러한 파이프라인 딜레이 없이 템플릿 매칭을 적용하기 위하여 블록의 템플릿 영역을 적응적으로 결정할 수 있다. 즉, 일 실시예는 파이프라인 딜레이 발생을 완화(mitigate)하기 위하여 모든 이전 블록들이 템플릿 영역으로 선택되지 않을 수 있는 점 및 2개의 템플릿 영역들(상측 및 좌측) 대신, 하나의 영역(상측 또는 좌측)만을 선택하는 점을 고려하여 선택적으로 템플릿 영역을 선택할 수 있다. 즉, 이전 블록에 속하는 템플릿 영역은 코스트를 계산하기 위하여 고려되지 않을 수 있다.
예를 들어, 일 실시예는 현재 블록의 인접 영역 중 이전 블록(직전 블록)에 포함되지 않는 영역을 템플릿 영역으로 결정할 수 있으며, 블록이 쿼드트리(QT: quadtree), 바이너리 트리(BT: binary tree) 및 터너리 트리(TT: ternary tree)로 분할되는 경우를 예로 들어 도 4 내지 도 6과 함께 후술하겠다.
도 4는 블록이 쿼드트리로 분할된 경우의 예를 나타낸다.
도 4를 참조하면, 쿼드트리는 상측 영역을 딜레이 없이 사용 가능하며 예외적으로 분할 구역 내의 인덱스(pu index)가 2인 경우에만 좌측 영역을 딜레이 없이 사용 가능할 수 있다. 즉, 분할 구역 내의 인덱스가 2인 경우에만 상측 영역뿐만 아니라 좌측 영역도 템플릿 영역으로 딜레이 없이 사용 가능할 수 있다. 여기서, 분할 구역 내의 인덱스는 분할 인덱스라 지칭할 수도 있다.
다시 말해, 쿼드트리로 분할된 블록은 좌상측, 우상측, 좌하측 및 우하측의 순서로 코딩이 진행될 수 있다. 또는 템플릿 영역을 이용하여 움직임 보상 및 복원 과정이 진행될 수 있다. 따라서, 분할 인덱스는 블록 내의 좌상측 영역이 0, 우상측 영역이 1, 좌하측 영역이 2 및 우하측 영역이 3일 수 있다. 여기서, 분할 대상인 블록은 상위 블록이라 지칭할 수 있고, 분할되 나타난 좌상측 영역, 우상측 영역, 좌하측 영역 및 우하측 영역은 각각 좌상측 블록, 우상측 블록, 좌하측 블록 및 우하측 블록이라 지칭할 수도 있다.
예를 들어, 현재 블록이 분할 인덱스가 0인 블록 내의 좌상측 영역인 경우에는 도 4의 위에서 첫 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 분할 인덱스가 1인 블록 내의 우상측 영역인 경우에는 도 4의 위에서 두 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 분할 인덱스가 2인 블록 내의 좌하측 영역인 경우에는 도 4의 위에서 세 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역 및 상측 주변 영역이 모두 이전 블록(직전 블록)에 포함되지 않으므로, 좌측 주변 영역 및 상측 주변 영역 모두가 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 분할 인덱스가 3인 블록 내의 우하측 영역인 경우에는 도 4의 위에서 네 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용될 수 있다.
도 5는 블록이 바이너리 트리 및 터너리 트리로 분할되고 방향이 수평인 경우의 예를 나타낸다.
도 5를 참조하면, 바이너리 트리 및 터너리 트리는 수평으로 분할된 경우, 분할 인덱스(pu index)가 0인 경우 상측 영역을 딜레이 없이 사용 가능할 수 있고, 0보다 큰 경우 좌측 영역을 딜레이 없이 사용 가능할 수 있다. 즉, 분할 인덱스가 0인 경우 상측 영역만을, 0보다 큰 경우 좌측 영역만을 템플릿 영역으로 딜레이 없이 사용할 수 있다.
다시 말해, 바이너리 트리로 분할된 블록은 상측 및 하측 순서로, 터너리 트리로 분할된 블록은 상측, 중앙측 및 하측 순서로 코딩이 진행될 수 있다. 또는 템플릿 영역을 이용하여 움직임 보상 및 복원 과정이 진행될 수 있다. 따라서, 블록이 바이너리 트리로 분할된 경우, 분할 인덱스는 블록 내의 상측 영역이 0 및 하측 영역이 1일 수 있고, 블록이 터너리 트리로 분할된 경우, 분할 인덱스는 블록 내의 상측 영역이 0, 중앙측 영역이 1 및 하측 영역이 2일 수 있다. 여기서, 분할 대상인 블록은 상위 블록이라 지칭할 수 있고, 분할되 나타난 상측 영역 및 하측 영역은 각각 상측 블록 및 하측 블록으로, 상측 영역, 중앙측 영역 및 하측 영역은 각각 상측 블록, 중앙측 블록 및 하측 블록으로 지칭할 수 있다.
예를 들어, 현재 블록이 바이너리 트리에 따른 분할 인덱스가 0인 블록 내의 상측 영역인 경우에는 도 5의 좌측 위에서 첫 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 바이너리 트리에 따른 분할 인덱스가 1인 블록 내의 하측 영역인 경우에는 도 5의 좌측 위에서 두 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 상측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 좌측 주변 영역이 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 터너리 트리에 따른 분할 인덱스가 0인 블록 내의 상측 영역인 경우에는 도 5의 우측 위에서 첫 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 터너리 트리에 따른 분할 인덱스가 1인 블록 내의 중앙측 영역인 경우에는 도 5의 우측 위에서 두 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 상측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 좌측 주변 영역이 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 터너리 트리에 따른 분할 인덱스가 2인 블록 내의 하측 영역인 경우에는 도 5의 우측 위에서 세 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 상측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 좌측 주변 영역이 템플릿 영역으로 이용될 수 있다.
도 6은 블록이 바이너리 트리 및 터너리 트리로 분할되고 방향이 수직인 경우의 예를 나타낸다.
도 6을 참조하면, 바이너리 트리 및 터너리 트리는 수직으로 분할된 경우, 분할 인덱스(pu index)와 관계없이 항상 상측 영역을 딜레이 없이 사용 가능할 수 있다. 즉, 상측 영역만을 템플릿 영역으로 딜레이 없이 사용할 수 있다.
다시 말해, 바이너리 트리로 분할된 블록은 좌측 및 우측 순서로, 터너리 트리로 분할된 블록은 좌측, 중앙측 및 우측 순서로 코딩이 진행될 수 있다. 또는 템플릿 영역을 이용하여 움직임 보상 및 복원 과정이 진행될 수 있다. 따라서, 블록이 바이너리 트리로 분할된 경우, 분할 인덱스는 블록 내의 좌측 영역이 0 및 우측 영역이 1일 수 있고, 블록이 터너리 트리로 분할된 경우, 분할 인덱스는 블록 내의 좌측 영역이 0, 중앙측 영역이 1 및 우측 영역이 2일 수 있다. 여기서, 분할 대상인 블록은 상위 블록이라 지칭할 수 있고, 분할되 나타난 좌측 영역 및 우측 영역은 각각 좌측 블록 및 우측 블록으로, 좌측 영역, 중앙측 영역 및 우측 영역은 각각 좌측 블록, 중앙측 블록 및 우측 블록으로 지칭할 수 있다.
예를 들어, 현재 블록이 바이너리 트리에 따른 분할 인덱스가 0인 블록 내의 좌측 영역인 경우에는 도 6의 좌측 위에서 첫 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 바이너리 트리에 따른 분할 인덱스가 1인 블록 내의 우측 영역인 경우에는 도 6의 좌측 위에서 두 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 터너리 트리에 따른 분할 인덱스가 0인 블록 내의 좌측 영역인 경우에는 도 6의 우측 위에서 첫 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 터너리 트리에 따른 분할 인덱스가 1인 블록 내의 중앙측 영역인 경우에는 도 6의 우측 위에서 두 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용될 수 있다.
예를 들어, 현재 블록이 터너리 트리에 따른 분할 인덱스가 2인 블록 내의 우측 영역인 경우에는 도 6의 우측 위에서 세 번째로 도시된 바와 같을 수 있다. 즉, 현재 블록의 좌측 주변 영역은 이전 블록(직전 블록)에 포함됨에 따라 딜레이가 발생할 수 있으므로, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용될 수 있다.
일 실시예에서는 각 파티셔닝 구조 또는 정보에 따라 이용 가능한 템플릿 영역이 결정될 수 있으며, 블록 단위로 가용 여부를 체크하여 적용할 수 있다. 다시 말해, 일 실시예는 현재 블록의 파티셔닝 구조(QT/BT/TT), BT/TT의 경우 분할 방향(수평/수직) 및 분할 인덱스(pu index(0, 1, 2, 3))를 이용하여 가용 여부를 체크할 수 있고, 템플릿 영역을 결정 또는 도출할 수 있다.
도 7은 현재 블록에 적용할 템플릿 영역을 결정하는 디코딩 프로세스의 예를 개략적으로 나타낸다.
도 7을 참조하면, 일 실시예는 MERGE_INDEX를 획득할 수 있고, MVP 후보 리스트를 구성할 수 있다. 이후, 좌측 템플릿의 가용성(left template availability)를 체크할 수 있고(bLeftAvail), 상측 템플릿의 가용성(above template availability)를 체크할 수 잇다(bAboveAvail). 즉, 현재 블록의 좌측 주변 영역이 이전 블록(직전 블록)에 포함되는지 확인하여 템플릿으로 이용 가능한지 체크할 수 있고, 현재 블록의 상측 주변 영역이 이전 블록(직전 블록)에 포함되는지 확인하여 템플릿으로 이용 가능한지 체크할 수 있다.
이후, 일 실시예는 좌측 템플릿 및 상측 템플릿 중 적어도 하나가 이용 가능한지 판단할 수 있으며(bLeftAvail||bAboveAvail), 모두 가능하지 않은 경우 곧바로 관련 절차 또는 과정을 종료할 수 있다. 다만, 좌측 템플릿 및 상측 템플릿 중 적어도 하나가 이용 가능한 경우, 이용 가능한 템플릿 또는 템플릿 영역을 기반으로 후보 리스트를 재정렬할 수 있고, 후보 리스트 중 대상 후보를 도출하여 리파인먼트를 수행할 수 있다. 즉, 현재 블록에 인접한 좌측 주변 영역 및 상측 주변 영역 중 일부 영역 기반의 템플릿 매칭 방법을 이용하여 재정렬 및 리파인먼트를 수행할 수 있다.
또한, 리파인먼트의 결과를 기반으로 업데이트할지 판단할 수 있으며, 업데이트하는 경우, 리파인먼트된 후보를 MVP 후보 리스트에 추가할 수 있고, 중복 체크 과정, 부가적인 후보 추가 과정 및 최종적으로 MVP 후보 리스트를 업데이트하는 과정을 수행할 수 있다. 다만, 리파인먼트의 결과를 기반으로 업데이트를 하지 않는 경우에는 곧바로 중복 체크 과정, 부가적인 후보 추가 과정 및 최종적으로 MVP 후보 리스트를 업데이트하는 과정을 수행할 수 있다. 여기서, 부가적인 후보 추가 과정은 후보 리스트 내의 후보의 개수가 최대 개수보다 적은 경우, 0 벡터, 및/또는 다른 다양한 후보를 더 추가하는 과정일 의미할 수 있으며, 최종적으로 MVP 후보 리스트를 업데이트하는 과정은 부가적인 후보를 추가한 이후 최종적으로 후보 리스트를 업데이트하는 과정을 의미할 수 있으나, 부가적인 후보 추가 과정 및 최종적으로 MVP 후보 리스트를 업데이트하는 과정은 생략될 수도 있다. 또는 후보 리스트 내의 후보의 개수가 최대 개수인 경우 생략될 수도 있다.
여기서, 좌측 템플릿의 가용성 체크 과정과 상측 템플릿의 가용성 체크 과정을 보다 상세히 설명하면 다음과 같을 수 있다. 일 실시예는 우선, 좌측 템플릿이 이용할 수 없다고 가정할 수 있다(bLeftAvail = FALSE). 이후, 파티셔닝 구조가 쿼드트리이며 분할 인덱스가 2인지(QT && pu idx==2) 판단할 수 있으며, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 둘 중 적어도 하나가 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 둘 모두 만족하지 않는 경우 또는 둘 모두 FALSE인 경우, 좌측 템플릿이 이용할 수 없다는 가정은 변경되지 않을 수 있다.
또한, 일 실시예는 상측 템플릿이 이용할 수 있다고 가정할 수 있다(bAboveAvail = TRUE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 상측 템플릿이 이용할 수 없다고 결정할 수 있다(bAboveAvail = FALSE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 상기 상측 템플릿이 이용할 수 있다는 가정은 변경되지 않을 수 있다.
도 8은 현재 블록에 적용할 템플릿 영역을 결정하는 디코딩 프로세스를 간략화한 예를 개략적으로 나타낸다.
상술한 실시예에서는 파티셔닝 구조 및 분할 인덱스(pu index) 등을 기반으로 템플릿의 사용 가능을 판단할 수 있다. 즉, 현재 블록의 좌측 및 상측의 템플릿의 가용성을 판단하고, 이에 따라 좌측 및/또는 상측 템플릿 영역을 이용할 수 있다.
다만, 일 실시예는 디코더의 복잡도를 줄이기 위해 판단할 수 있는 정보 및 조건을 최소화할 수 있다. 즉, 일 실시예는 현재 블록의 파티셔닝 구조(QT/BT/TT), BT/TT의 경우 분할 방향(수평/수직) 및 분할 인덱스(pu index(0, 1, 2, 3))를 이용할 수 있으나, 파티셔닝 구조가 쿼드트리인 경우 분할 인덱스가 2인 경우를 판단하는 조건을 제거할 수 있고, 이에 따라 판단할 수 있는 정보 및 조건을 최소화할 수 있으며, 좌측 템플릿의 가용성 체크 과정과 상측 템플릿의 가용성 체크 과정을 설명하면 다음과 같을 수 있다.
도 8을 참조하면, 일 실시예는 우선, 좌측 템플릿이 이용할 수 없다고 가정할 수 있다(bLeftAvail = FALSE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 좌측 템플릿이 이용할 수 없다는 가정은 변경되지 않을 수 있다.
또한, 일 실시예는 상측 템플릿이 이용할 수 있다고 가정할 수 있다(bAboveAvail = TRUE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 상측 템플릿이 이용할 수 없다고 결정할 수 있다(bAboveAvail = FALSE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 상기 상측 템플릿이 이용할 수 있다는 가정은 변경되지 않을 수 있다.
다시 말해, 쿼드트리로 분할된 경우 분할 인덱스는 고려하지 않을 수 있고, 항상 상측 템플릿을 사용할 수 있다. 또한, 바이너리 트리 또는 터너리 트리로 분할되고 분할 방향이 수직인 경우, 분할 인덱스를 고려하지 않고 항상 상측 템플릿을 사용할 수 있다. 또한, 바이너리 트리 또는 터너리 트리로 분할되고 분할 방향이 수평인 경우, 분할 인덱스를 고려하여 0인 경우 상측 템플릿을, 0보다 큰 경우 좌측 템플릿을 사용할 수 있다.
도 9a 및 도 9b는 블록이 터너리 트리로 분할되고 방향이 수직인 경우 템플릿 영역의 확장 예를 나타낸다.
상술한 바에 따르면, 현재 블록의 좌측 주변 영역 및 상측 주변 영역을 템플릿 영역으로 사용할 수 있고, 좌측 주변 영역 또는 상측 주변 영역을 템플릿 영역으로 사용할 수도 있다.
일 실시예는 현재 블록의 템플릿 영역으로 좌측 주변 영역 또는 상측 주변 영역이 이용되는 경우, 각 영역을 확장할 수도 있다. 즉, 현재 블록의 좌측 주변 영역이 템플릿 영역으로 이용되는 경우, 좌측 주변 영역을 확장할 수 있고, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용되는 경우, 상측 주변 영역을 확장할 수 있다.
현재 블록이 수직 방향의 터너리 트리에 따른 분할 인덱스가 0인 좌측 영역인 경우, 현재 블록에 인접한 상측 주변 영역을 템플릿 영역으로 이용할 수 있다. 다만, 수직 방향의 터너리 트리에 따른 분할로 인하여 템플릿 영역의 너비가 좁을 수 있다. 즉, 좁은 템플릿 영역으로 인하여 정확도가 감소될 수 있다. 따라서, 일 실시예는 템플릿 영역으로 이용되는 상측 주변 영역을 확장할 수 있다.
도 9a를 참조하면, 현재 블록의 템플릿 영역은 현재 블록에 인접한 상측 주변 영역일 수 있으나, 상측 주변 영역의 높이를 확장할 수 있다. 예를 들어, 상측 주변 영역의 높이가 2 샘플 거리이었으나, 4 샘플 거리로 확장될 수 있다.
도 9b를 참조하면, 현재 블록의 템플릿 영역은 현재 블록에 인접한 상측 주변 영역에서 현재 블록의 상위 블록 또는 분할되기 전의 블록에 인접한 상측 주변 영역으로 확장될 수 있다. 즉, 상측 주변 영역의 너비를 확장할 수 있다.
여기서, 확장된 영역들은 모두 이전 블록(직전 블록)에 포함되지 않으므로, 파이프라인 딜레이가 발생되지 않을 수 있다.
도 10은 현재 블록에 적용할 템플릿 영역을 확장하는 디코딩 프로세스의 예를 개략적으로 나타낸다.
상술한 바와 같이 템플릿 영역을 확장하는 경우, 디코딩 프로세스에서 좌측 템플릿의 가용성 체크 과정과 상측 템플릿의 가용성 체크 과정은 다음과 같을 수 있다.
도 10을 참조하면, 일 실시예는 우선, 좌측 템플릿이 이용할 수 없다고 가정할 수 있다(bLeftAvail = FALSE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 좌측 템플릿이 이용할 수 없다는 가정은 변경되지 않을 수 있다.
또한, 일 실시예는 상측 템플릿이 이용할 수 있다고 가정할 수 있다(bAboveAvail = TRUE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 상측 템플릿이 이용할 수 없다고 결정할 수 있다(bAboveAvail = FALSE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 상기 상측 템플릿이 이용할 수 있다는 가정은 변경되지 않을 수 있다.
또한, 일 실시예는 상술한 판단을 기반으로 좌측 템플릿이 이용 가능하지 않고 상측 템플릿이 이용 가능한지(!bLeftAvail && bAboveAvail)를 판단할 수 있다. 일 실시예는 이를 만족하는 경우 또는 TRUE인 경우, 상술한 바와 같이 상측 템플릿 영역을 확장할 수 있고, 만족하지 않는 경우 또는 FALSE인 경우 상측 템플릿 영역을 확장하지 않을 수 있다.
도 11a 및 도 11b는 이전 블록의 분할 정보에 따라 현재 블록에 적용할 템플릿 영역의 예를 나타낸다.
일 실시예에서 현재 블록의 템플릿 영역은 이전 블록(직전 블록)의 분할(split) 정보에 따라 다르게 결정될 수도 있다. 상술한 바에서는 이전 블록이 수직으로 분할된 경우를 고려하여 설명하였으나, 이전 블록은 바이너리 트리 또는 터너리 트리에 따라 수평으로 분할될 수도 있으며, 쿼드트리로 분할될 수도 있다.
예를 들어, 도 11a를 참조하면, 현재 블록 및 이전 블록이 모두 쿼드트리로 분할될 수 있다. 여기서, 현재 블록이 쿼드트리에 따른 분할 인덱스가 0인 블록 내의 좌상측 영역인 경우, 현재 블록의 좌측 주변 영역 및 상측 주변 영역 모두 이전 블록(직전 블록)에 포함되지 않으므로, 템플릿 영역으로 이용될 수 있다.
예를 들어, 도 11b를 참조하면, 현재 블록은 수직 방향의 바이너리 트리로 분할되고, 이전 블록은 쿼드트리로 분할될 수 있다. 여기서, 현재 블록이 수직 바이너리 트리에 따른 분할 인덱스가 0인 블록 내의 좌측 영역인 경우, 현재 블록의 상측 주변 영역은 이전 블록(직전 블록)에 포함되지 않으므로, 템플릿 영역으로 이용될 수 있다. 다만, 현재 블록의 좌측 주변 영역은 일부만이 이전 블록에 포함되므로, 좌측 주변 영역이 모두 템플릿 영역으로 이용될 수는 없다. 다만, 좌측 주변 영역 중 이전 블록에 포함되지 않는 일부 영역은 템플릿 영역으로 이용될 수 있다.
일 실시예에서는 현재 블록 및 이전 블록의 파티셔닝 정보에 따라 이용 가능한 템플릿 영역이 결정될 수 있으며, 블록 단위로 가용 여부를 체크하여 적용할 수 있다. 다시 말해, 일 실시예는 현재 블록의 파티셔닝 구조(QT/BT/TT), BT/TT의 경우 분할 방향(수평/수직), 분할 인덱스(pu index(0, 1, 2, 3)), 현재 블록의 크기, 이전 블록의 파티셔닝 구조(QT/BT/TT) 및 이전 블록의 크기를 이용하여 가용 여부를 체크할 수 있고, 템플릿 영역을 결정 또는 도출할 수 있다.
도 12는 이전 블록의 분할 정보에 따라 현재 블록에 적용할 템플릿을 결정하는 디코딩 프로세스의 예를 개략적으로 나타낸다.
예를 들어, 일 실시예는 현재 블록의 파티셔닝 정보, 분할 방향 및 분할 인덱스를 이용하여 좌측 및 상측 블록의 가용성을 체크할 수 있으며, 현재 블록이 쿼드트리로 분할되고 분할 인덱스가 0인 경우를 위하여 현재 블록의 높이 및 좌측 블록의 높이를 비교하여 좌측 블록의 높이가 현재 블록의 높이보다 같거나 작은 경우 좌측 템플릿 영역을 사용할 수 있도록 변경할 수 있다.
예를 들어, 도 12를 참조하면, 일 실시예는 우선, 좌측 템플릿이 이용할 수 없다고 가정할 수 있다(bLeftAvail = FALSE). 이후, 현재 블록의 파티셔닝 구조가 쿼드트리이고 분할 인덱스가 2인지(QT && pu idx==2) 판단할 수 있고, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리이고 수평 방향이며 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있다. 일 실시예는 둘 중 적어도 하나가 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 둘 모두 만족하지 않는 경우 또는 FALSE인 경우, 현재 블록의 파티셔닝 구조가 쿼드트리이고 분할 인덱스가 0인지(QT && pu idx==0) 판단할 수 있고, 현재 블록의 높이(CurBlk_H)가 이전 블록(또는 직전 블록 또는 좌측 블록)의 높이(LeftBlk_H)보다 크거나 같은지 판단할 수 있다. 일 실시예는 둘 모두가 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 둘 중 하나라도 만족하지 않는 경우 또는 FALSE인 경우, 좌측 템플릿이 이용할 수 없다는 가정은 변경되지 않을 수 있다.
또한, 일 실시예는 상측 템플릿이 이용할 수 있다고 가정할 수 있다(bAboveAvail = TRUE). 이후, 현재 블록의 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 상측 템플릿이 이용할 수 없다고 결정할 수 있다(bAboveAvail = FALSE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 상기 상측 템플릿이 이용할 수 있다는 가정은 변경되지 않을 수 있다.
또한, 현재 블록의 상측 주변 영역만이 템플릿 영역으로 사용 가능한 경우 상측 주변 영역의 확장도 적용할 수 있으며, 좌측 템플릿 영역 및 상측 템플릿 영역의 가용성을 체크하되, 상측에 위치한 움직임 벡터(MV)와 좌측에 위치한 MV의 차이가 큼에 따라 한쪽만을 사용하여 신뢰도가 낮은 경우 도 12에서의 조건을 기반으로 좌측 템플릿 영역의 적용 여부를 체크할 수 있다.
일 실시예에 따른 템플릿 매칭 방법은 MVP 후보 리스트의 재정렬 과정에도 적용될 수 있다. 이 경우, 각 후보에 대해 템플릿 영역의 움직임 보상(MC: motion compensation) 과정이 필요하므로, 제한적인 메모리 대역폭(memory bandwidth) 내에서는 외부 메모리 또는 DDR(Double Data Rate)로부터의 패치(fetch)로 인한 딜레이가 발생할 수 있다. 따라서, 일 실시예는 메모리 대역폭 문제를 해결하기 위해 MVP 후보 리스트를 그룹핑(grouping)하여 특정 그룹에 포함된 후보들만을 대상으로 재정렬할 수 있다.
예를 들어, MVP 후보 리스트에 6개의 후보가 존재하는 경우, 2개의 그룹으로 나눌 수 있으며(예 1 - [0, 1], [2, 3], [4, 5]), 3개의 그룹으로 나눌 수도 있다(예 2 - [0, 1, 2], [3, 4, 5]). 즉, 후보의 개수에 따라 그룹별 후보의 개수는 달라질 수 있다. 또한, 그룹별 후보의 개수가 서로 다를 수도 있으며(예 3 - [0, 1], [2, 3, 4, 5]), 복잡도를 줄이기 위하여 특정 그룹만을 대상으로(예 4 - [0. 1. 2]) 재정렬할 수도 있다.
일 실시예에서 현재 블록의 예측 모드가 머지 모드인 경우, 머지 인텍스(MERGE_INDEX)는 후보 리스트 내에서 선택된 MVP를 나타내기 위한 인덱스일 수 있으며, 인덱스가 가리키는 후보 그룹만을 재정렬함으로써 디코딩 복잡도를 개선할 수 있다. 상술한 설명에서 MVP 후보 또는 MVP 후보 리스트는 머지 모드에 따라 머지 후보 또는 머지 후보 리스트라 지칭할 수 있다.
예 1은 3개 그룹으로 나누어져 재정렬 범위가 작을 수 있으나, 인덱스가 가리키는 그룹 내에 2개의 후보만을 대상으로 템플릿 매칭이 수행되므로 복잡도 측면에서의 효율이 높을 수 있다. 또한, 예 2는 예 1과 비교하여 재정렬 범위 및 대상 후보에 있어서 트레이드 오브 관계에 있을 수 있다. 예 3은 그룹 별 다른 후보수를 포함하도록 하여 [2,3,4,5] 그룹과 같이 재정렬 가능성이 큰 후보를 대상으로 적용할 수 있고, 복잡도 및 성능에서의 장점을 취할 수 있다. 예 4는 특정 그룹만을 대상으로 리오더링(re-ordering)하여, 복잡도를 크게 낮출 수 있다.
일 실시예에서는 후보 리스트 내의 후보들을 그룹핑할 수 있고, 각 그룹 내에 중복된 후보가 존재할 수 있으므로, 중복 체크를 수행하여 새로운 후보를 더 추가할 수도 있다. 여기서, 중복 체크는 프루닝(pruning) 과정이라 지칭할 수 있다.
다시 말해, 일 실시예에서 머지 후보 리스트는 템플릿 매칭 코스트를 기반으로 재정렬될 수 있다. 여기서, 초기 후보 리스트는 종래의 후보 선택 과정을 통해 구성될 수 있으며, 후보 리스트는 템플릿 매칭 코스트를 기반으로 재정렬될 수 있다. 다만, 모든 후보들에 대한 템플릿 매칭을 수행하는 것은 메모리 대역폭 이슈를 야기할 수 있으므로, 메모리 대역폭 이슈를 감소시키기 위하여 머지 후보 리스트의 제한된 정렬(restricted ordering)을 수행할 수 있다. 예를 들어, 머지 후보들은 2개의 그룹으로 나누어질 수 있다. 즉, 머지 후보 리스트에 0, 1, 2, 3 및 4의 인덱스를 가지는 후보들이 존재하는 경우, 0, 1 및 2는 그룹 A(Group A ={0, 1, 2})로, 3 및 4는 그룹 B(Group B = {3, 4})로 나누어질 수 있다.
일 실시예에서 재정렬 과정은 머지 인덱스(MERGE_INDEX)에 의해 지시되는 해당 그룹에 대하여만 수행될 수 있다. 또는 일 실시예에서 재정렬 과정은 머지 인덱스에 의해 지시되는 후보가 포함된 그룹에 대하여 수행될 수 있다.
일 실시예에서, 재정렬 과정 이후에, 현재 후보 및 이전 후보를 비교함으로써 프루닝 체크가 수행될 수 있다. 여기서, 리스트 내에 일부 후보들이 존재하는 경우, 상기 일부 후보들은 리스트 내에서 제거될 수 있고, 부가적인 후보가 보충될 수 있다. 즉, 재정렬 과정 이후, 재정렬된 후보 리스트 내의 후보들에 대하여 프루닝 체크를 수행할 수 있으며, 중복된 움직임 정보를 가지는 후보는 제거할 수 있고, 제거에 따라 후보 리스트 내의 후보의 개수가 최대 개수보다 적어지는 경우, 부가적인 후보를 보충할 수 있다. 여기서, 중복된 움직임 정보를 가지는 2개의 후보 중 후순위의 후보가 제거될 수 있다.
예를 들어, 부가적인 후보들은 MVL0 및 MVL1을 포함할 수 있고, MVL0 및 MVL1은 수학식 1과 같이 나타낼 수 있다.
Figure PCTKR2019008047-appb-M000001
수학식 1에서, MvL0 및 MvL1은 L0 및 L1에 대한 재정렬된 리스트 내의 첫 번째 후보의 움직임 벡터를 나타낼 수 있다. 또한, L0 및 L1에 대한 오프셋(offset) 값은 {(0, 1), (0, -1)}, {(1, 0), (-1, 0)}, {(0, -1), (0, 1)} 및 {(-1, 0), (1, 0)} 포지션들로써 정의될 수 있고, scale은 움직임 벡터의 정밀도(precision)를 나타낼 수 있다. 여기서, n은 0 이상 3 이하의 정수 중 하나일 수 있으나, N의 값이 변경될 수 있으므로, n의 범위도 변경될 수 있다.
도 13은 MVP 후보 리스트를 그룹핑하고 템플릿 영역을 결정하는 디코딩 프로세스의 예를 나타낸다.
일 실시예에서는 상술한 바와 같이 제한적인 또는 적응적으로 템플릿 영역을 결정하는 방법과 후보 리스트 내의 후보들을 그룹핑하는 방법이 함께 적용될 수도 있다. 즉, 결정한 템플릿 영역을 기반으로 템플릿 매칭 방법을 이용할 수 있으며, 이를 통해 후보 리스트의 재정렬을 수행할 수 있다.
도 13을 참조하면, 일 실시예는 인덱스 정보를 획득할 수 있다. 여기서, 인덱스 정보는 후보 리스트 중 특정 후보를 지시하는 정보를 의미할 수 있으며, 머지 인덱스 또는 MERGE_INDEX라 지칭할 수도 있다. 일 실시예는 인덱스가 속한 그룹의 후보 리스트를 구성할 수 있다. 즉, 후보 리스트 중 인덱스 정보가 가리키는 후보가 포함된 그룹 및 그룹 내의 후보들을 도출할 수 있다. 이후, 일 실시예는 현재 블록의 템플릿 영역의 가용성(availability)을 체크할 수 있다. 여기서, 템플릿 영역은 현재 블록에 인접한 좌측 주변 영역 및 상측 주변 영역을 포함할 수 있다.
일 실시예는 이용 가능한 템플릿 영역이 존재하는 경우, 이를 기반으로 후보 리스트를 재정렬할 수 있다. 즉, 현재 블록의 템플릿 영역과 후보가 가리키는 블록의 템플릿 영역을 기반으로 후보 리스트를 재정렬할 수 있다. 여기서, 현재 블록 및 템플릿 영역 간의 상대적인 위치는 후보가 가리키는 블록 및 후보가 가리키는 블록의 템플릿 영역 간의 상대적인 위치와 동일할 수 있다.
일 실시예는 후보 리스트 내의 후보들에 대하여 중복 체크를 수행할 수 있으며, 중복 체크로 인하여 후보 리스트 내의 중복되는 후보가 제외되어 후보 리스트 내에 후보의 개수가 최대 개수보다 작은 경우 추가적인 후보를 추가할 수 있고, 이를 기반으로 후보 리스트를 업데이트할 수 있다. 다만, 중복 체크 결과 중복된 후보가 없는 경우, 곧바로 재정렬된 후보를 기반으로 후보 리스트를 업데이트할 수 있다.
또한, 일 실시예는 이용 가능한 템플릿 영역이 존재하지 않는 경우, 재정렬 과정 등을 수행하지 않으며 곧바로 관련된 절차 또는 과정을 종료할 수 있다.
도 14는 도 13에 리파인먼트 과정이 추가된 디코딩 프로세스의 예를 나타낸다.
일 실시예에서는 결정한 템플릿 영역을 기반으로 템플릿 매칭 방법을 이용할 수 있으며, 이를 통해 후보 리스트의 재정렬뿐만 아니라 대상 후보에 리파인먼트(refinement)를 수행할 수도 있다.
도 14를 참조하면, 일 실시예는 인덱스 정보를 획득할 수 있다. 여기서, 인덱스 정보는 후보 리스트 중 특정 후보를 지시하는 정보를 의미할 수 있으며, 머지 인덱스 또는 MERGE_INDEX라 지칭할 수도 있다. 일 실시예는 인덱스가 속한 그룹의 후보 리스트를 구성할 수 있다. 즉, 후보 리스트 중 인덱스 정보가 가리키는 후보가 포함된 그룹 및 그룹 내의 후보들을 도출할 수 있다. 이후, 일 실시예는 현재 블록의 템플릿 영역의 가용성(availability)을 체크할 수 있다. 여기서, 템플릿 영역은 현재 블록에 인접한 좌측 주변 영역 및 상측 주변 영역을 포함할 수 있다.
일 실시예는 이용 가능한 템플릿 영역이 존재하는 경우, 이를 기반으로 후보 리스트를 재정렬할 수 있다. 즉, 현재 블록의 템플릿 영역과 후보가 가리키는 블록의 템플릿 영역을 기반으로 후보 리스트를 재정렬할 수 있다. 또한, 일 실시예는 이용 가능한 템플릿 영역을 기반으로 후보 리스트 내의 대상 후보에 대하여 리파인먼트를 수행할 수 있다. 여기서, 현재 블록 및 템플릿 영역 간의 상대적인 위치는 후보가 가리키는 블록 및 후보가 가리키는 블록의 템플릿 영역 간의 상대적인 위치와 동일할 수 있다.
일 실시예는 후보 리스트 내의 후보들에 대하여 중복 체크를 수행할 수 있으며, 중복 체크로 인하여 후보 리스트 내의 중복되는 후보가 제외되어 후보 리스트 내에 후보의 개수가 최대 개수보다 작은 경우 추가적인 후보를 추가할 수 있고, 이를 기반으로 후보 리스트를 업데이트할 수 있다. 다만, 중복 체크 결과 중복된 후보가 없는 경우, 곧바로 리파인먼트된 후보를 기반으로 후보 리스트를 업데이트할 수 있다.
도 15는 현재 블록의 템플릿 및 참조 블록의 템플릿 간의 코스트 계산을 설명하기 위한 예를 나타낸다.
템플릿 매칭 스킴(template matching scheme)은 머지 후보 리스트를 재정렬 및 후보를 리파인먼트하기 위한 코스트(cost)를 계산하는데 이용될 수 있다. SAD(sum of absolute difference)는 현재 픽처 내의 현재 블록의 템플릿과 참조 픽처 내의 대응하는 블록 간의 코스트를 계산하기 위한 측정치로서 이용될 수 있다. 여기서, 현재 블록의 템플릿은 현재 블록의 주변 영역일 수 있고, 참조 픽처 내의 대응하는 블록은 후보 움직임 벡터 예측자(MVP, motion vector predictor)로부터 도출될 수 있으며, 상술한 후보의 템플릿을 지칭할 수 있다. 또한, 코스트는 상술한 템플릿 매칭 코스트를 지칭할 수 있다.
예를 들어, 일방향성(uni-directional) 후보의 경우, 수학식 2와 같이 계산될 수 있고, 양방향성(bi-directional) 후보의 경우, 수학식 3과 같이 계산될 수 있다.
Figure PCTKR2019008047-appb-M000002
Figure PCTKR2019008047-appb-M000003
도 15를 참조하면, costA는 현재 블록의 상측 주변 영역과 참조 블록의 상측 주변 블록 간의 코스트를 나타낼 수 있고, costL은 현재 블록의 좌측 주변 영역과 참조 블록의 좌측 주변 블록 간의 코스트를 나타낼 수 있고, cost는 costA 및 costL의 합으로 계산될 수 있다. 수학식 2 및 수학식 3을 참조하면, costA(LX) 및 costL(LX)는 리스트 X에 대한 상측 주변들 및 좌측 주변들의 템플릿 매칭 코스트를 나타낼 수 있다. 또는, 상측 주변 블록 및 좌측 주변 블록에 대한 템플릿 매칭 코스트를 나타낼 수 있고, 상측 주변 블록 및 좌측 주변 블록은 템플릿 또는 템플릿 영역일 수 있다. 여기서, X는 0 또는 1일 수 있다. 또한, 양방향성 후보에 대한 코스트 cost_bi는 일방향성 후보에 대한 코스트 cost_uni를 기반으로 계산될 수 있다. 또는, cost_bi는 리스트들에 대한 각 cost_uni들의 평균을 기반으로 계산될 수 있다.
템플릿 영역의 움직임 보상을 위하여, 2-탭(tap) 바이리니어 보간 필터(bilinear interpolation filter)가 이용될 수 있고, 템플릿 영역은 메모리 요구치 또는 라인 버퍼(line buffer)를 감소시키기 위해 2 픽셀들로 제한될 수 있다. 또는, 템플릿 영역은 2 샘플 거리 내의 영역으로 제한될 수 있다.
일 실시예에서는 상술한 제한된 템플릿 영역을 이용하여 상술한 머지 후보 리스트의 제한된 재정렬이 수행될 수도 있다. 즉, 머지 후보들은 오직 하나의 해당 그룹에 대하여 재정렬을 수행할 수 있으며, 템플릿 매칭은 제한된 템플릿 영역으로 수행될 수 있다.
도 16은 본 발명에 따른 인코딩 장치에 의한 영상 인코딩 방법을 개략적으로 나타낸다.
도 16에서 개시된 방법은 도 1에서 개시된 인코딩 장치에 의하여 수행될 수 있다. 구체적으로 예를 들어, 도 16의 S1600 내지 S1640은 상기 인코딩 장치의 예측부에 의하여 수행될 수 있고, S1650은 상기 인코딩 장치의 엔트로피 인코딩부에 의하여 수행될 수 있다. 또한, 비록 도시되지는 않았으나 현재 블록에 대한 원본 샘플과 예측 샘플을 기반으로 상기 현재 블록에 대한 레지듀얼 샘플을 도출하는 과정은 상기 인코딩 장치의 감산부에 의하여 수행될 수 있고, 상기 레지듀얼 샘플을 기반으로 상기 현재 블록에 대한 레지듀얼에 관한 정보를 생성하는 과정은 상기 인코딩 장치의 변환부에 의하여 수행될 수 있고, 상기 레지듀얼에 관한 정보 및 현재 블록의 예측에 대한 정보를 인코딩하는 과정은 상기 인코딩 장치의 엔트로피 인코딩부에 의하여 수행될 수 있다.
인코딩 장치는 현재 블록의 머지 후보 리스트를 구성한다(S1600). 인코딩 장치는 현재 블록의 주변 블록들 중 상기 현재 블록의 움직임 정보 후보 리스트를 위한 주변 블록들을 도출할 수 있다. 인코딩 장치는 상기 현재 블록의 상기 주변 블록들 중 상기 현재 블록의 움직임 정보 후보 리스트를 위한 주변 블록들을 선택할 수 있다. 인코딩 장치는 상기 도출 또는 선택된 주변 블록들을 기반으로 상기 움직임 정보 후보 리스트를 구성할 수 있다. 인코딩 장치는 상기 선택된 주변 블록들의 움직임 정보들을 상기 현재 블록의 움직임 정보 후보들로 도출할 수 있고, 상기 움직임 정보 후보들을 포함하는 상기 움직임 정보 후보 리스트를 구성할 수 있다. 또한, 인코딩 장치는 상기 선택된 주변 블록들의 움직임 정보를 조합하여 도출된 움직임 정보를 상기 현재 블록의 움직임 정보 후보로 도출할 수 있고, 상기 움직임 정보 후보를 포함한 상기 움직임 정보 후보 리스트를 구성할 수 있다. 한편, 상기 움직임 정보 후보 리스트는 상기 현재 블록이 머지 모드임에 따라 머지 후보 리스트를 나타낼 수 있으나, 상기 현재 블록이 AMVP 모드인 경우 MVP 후보 리스트가 이용될 수도 있다.
인코딩 장치는 현재 블록에 인접한 템플릿 영역을 도출한다(S1610). 상기 템플릿 영역은 상기 현재 블록에 인접한 좌측 주변 영역 및 상측 주변 영역 중 상기 현재 블록의 직전에 복원되는 이전 블록에 포함되지 않는 영역을 포함할 수 있다. 즉, 템플릿 영역은 현재 블록에 인접한 좌측 주변 영역일 수 있고, 상측 주변 영역일 수 있으며, 좌측 주변 영역 및 상측 주변 영역일 수 있다. 다만, 템플릿 영역은 파이프라인 딜레이가 발생하지 않도록 직전에 복원되는 이전 블록(또는 직전 블록)에 포함되지 않는 영역일 수 있다. 즉, 템플릿 영역은 좌측 주변 영역 및 상측 주변 영역 중 이전 블록에 포함되지 않는 영역 또는 일부 영역일 수 있다.
예를 들어, 상기 템플릿 영역은 상기 현재 블록의 파티셔닝 구조 정보, 상기 현재 블록의 분할 인덱스 정보 및 상기 현재 블록의 파티셔닝 구조가 바이너리 트리(binary-tree) 또는 터너리 트리(ternary-tree)인 경우 분할(split) 방향 정보를 기반으로 도출될 수 있다. 여기서, 분할 인덱스 정보는 pu index 또는 pu idx로 나타낼 수 있으며, 0, 1, 2 및 3 중 어느 하나의 값을 가질 수 있다.
예를 들어, 상기 템플릿 영역은 좌측 주변 영역을 이용할 수 있는지(bLeftAvail) 판단할 수 있고, 이후 상측 주변 영역을 이용할 수 있는지(bAboveAvail) 판단할 수 있다. 여기서, 좌측 주변 영역은 좌측 템플릿 또는 좌측 템플릿 영역이라 지칭할 수 있고, 상측 주변 영역은 상측 템플릿 또는 상측 템플릿 영역이라 지칭할 수 있다.
예를 들어, 우선, 좌측 템플릿이 이용할 수 없다고 가정할 수 있다(bLeftAvail = FALSE). 이후, 파티셔닝 구조가 쿼드트리(quadtree)이며 상기 현재 블록의 분할 인덱스 정보가 2인 경우 또는 상기 현재 블록의 파티셔닝 구조가 수평 방향의 바이너리 트리 또는 수평 방향의 터너리 트리이며 상기 현재 블록의 분할 인덱스 정보가 0보다 큰 경우, 상기 템플릿 영역은 상기 좌측 주변 영역을 포함할 수 있다. 즉, 일 실시예는 현재 블록에 대하여 파티셔닝 구조가 쿼드트리이며 분할 인덱스가 2인지(QT && pu idx==2) 판단할 수 있으며, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 둘 중 적어도 하나가 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다. 다만, 둘 모두 만족하지 않는 경우 또는 둘 모두 FALSE인 경우, 좌측 템플릿이 이용할 수 없다는 가정은 변경되지 않을 수 있다.
예를 들어, 상기 현재 블록의 파티셔닝 구조가 수평 방향의 바이너리 트리 또는 수평 방향의 터너리 트리가 아닌 경우 또는 상기 현재 블록의 분할 인덱스 정보가 0보다 크지 않은 경우, 상기 템플릿 영역은 상기 상측 주변 영역을 포함할 수 있다. 즉, 일 실시예는 상측 템플릿이 이용할 수 있다고 가정할 수 있다(bAboveAvail = TRUE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 상측 템플릿이 이용할 수 없다고 결정할 수 있다(bAboveAvail = FALSE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 상기 상측 템플릿이 이용할 수 있다는 가정은 변경되지 않을 수 있다. 보다 상세한 설명은 도 7과 함께 상술하였다.
예를 들어, 상기 현재 블록의 파티셔닝 구조가 수평 방향의 바이너리 트리(binary-tree) 또는 수평 방향의 터너리 트리(ternary-tree)가 아닌 경우 또는 상기 현재 블록의 분할 인덱스 정보가 0보다 크지 않은 경우, 상기 템플릿 영역은 상기 좌측 주변 영역을 포함하지 않을 수 있다. 즉, 일 실시예는 우선, 좌측 템플릿이 이용할 수 없다고 가정할 수 있다(bLeftAvail = FALSE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 좌측 템플릿이 이용할 수 없다는 가정은 변경되지 않을 수 있다. 또한, 일 실시예는 상측 템플릿이 이용할 수 있다고 가정할 수 있다(bAboveAvail = TRUE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 상측 템플릿이 이용할 수 없다고 결정할 수 있다(bAboveAvail = FALSE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 상기 상측 템플릿이 이용할 수 있다는 가정은 변경되지 않을 수 있다. 일 실시예는 상술한 바와 같이 파티셔닝 구조가 쿼드트리인 경우 분할 인덱스가 2인 경우를 판단하는 조건을 제거하여 복잡도를 줄일 수 있다. 보다 상세한 설명은 도 8과 함께 상술하였다.
예를 들어, 상기 템플릿 영역이 상기 상측 주변 영역을 포함하는 경우, 상기 상측 주변 영역의 너비가 상기 현재 블록의 상위 블록의 너비까지 확장될 수 있다. 다시 말해, 현재 블록의 템플릿 영역은 현재 블록에 인접한 상측 주변 영역에서 현재 블록의 상위 블록 또는 분할되기 전의 블록에 인접한 상측 주변 영역으로 확장될 수 있다. 즉, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용되는 경우, 상측 주변 영역의 너비를 확장할 수 있다. 또한, 일 실시예는 상측 주변 영역의 높이도 확장할 수 있다. 보다 상세한 설명은 도 9a 및 도 9b와 함께 상술하였다.
예를 들어, 상기 템플릿 영역은 상기 이전 블록의 파티셔닝 구조 정보, 상기 이전 블록의 크기 정보, 상기 현재 블록의 크기 정보, 상기 현재 블록의 파티셔닝 구조 정보, 상기 현재 블록의 분할 인덱스 정보 및 상기 현재 블록의 파티셔닝 구조가 바이너리 트리(binary-tree) 또는 터너리 트리(ternary-tree)인 경우 분할(split) 방향 정보를 기반으로 도출될 수 있다. 여기서, 분할 인덱스 정보는 pu index 또는 pu idx로 나타낼 수 있으며, 0, 1, 2 및 3 중 어느 하나의 값을 가질 수 있다. 또한, 현재 블록의 크기 정보는 상기 현재 블록의 높이 정보를 포함할 수 있고, 현재 블록의 높이 정보는 CurBlk_H로 나타낼 수 있다. 이전 블록의 크기 정보는 상기 이전 블록의 높이 정보를 포함할 수 있고, 이전 블록의 높이 정보는 LeftBlk_H로 나타낼 수 있다. 여기서, 이전 블록은 현재 블록의 좌측 주변에 위치할 수 있으므로, 좌측 블록이라 지칭할 수도 있다.
예를 들어, 상기 현재 블록의 파티셔닝 구조가 쿼드트리(quadtree)이며 상기 현재 블록의 분할 인덱스 정보가 0이고 상기 현재 블록의 높이가 상기 이전 블록의 높이보다 크거나 같은 경우, 상기 템플릿 영역은 상기 좌측 주변 영역을 포함할 수 있다. 즉, 일 실시예는 우선, 좌측 템플릿이 이용할 수 없다고 가정할 수 있다(bLeftAvail = FALSE). 이후, 현재 블록의 파티셔닝 구조가 쿼드트리이고 분할 인덱스가 2인지(QT && pu idx==2) 판단할 수 있고, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리이고 수평 방향이며 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있다. 일 실시예는 둘 중 적어도 하나가 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 둘 모두 만족하지 않는 경우 또는 FALSE인 경우, 현재 블록의 파티셔닝 구조가 쿼드트리이고 분할 인덱스가 0인지(QT && pu idx==0) 판단할 수 있고, 현재 블록의 높이(CurBlk_H)가 이전 블록(또는 직전 블록 또는 좌측 블록)의 높이(LeftBlk_H)보다 크거나 같은지 판단할 수 있다. 일 실시예는 둘 모두가 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 둘 중 하나라도 만족하지 않는 경우 또는 FALSE인 경우, 좌측 템플릿이 이용할 수 없다는 가정은 변경되지 않을 수 있다. 또한, 일 실시예는 상측 템플릿이 이용할 수 있다고 가정할 수 있다(bAboveAvail = TRUE). 이후, 현재 블록의 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 상측 템플릿이 이용할 수 없다고 결정할 수 있다(bAboveAvail = FALSE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 상기 상측 템플릿이 이용할 수 있다는 가정은 변경되지 않을 수 있다. 보다 상세한 설명은 도 12와 함께 상술하였다.
인코딩 장치는 템플릿 영역을 지반으로 머지 후보 리스트를 재정렬한다(S1620). 다시 말해, 현재 블록의 템플릿 영역과 후보가 가리키는 블록의 템플릿 영역을 기반으로 후보 리스트를 재정렬할 수 있다. 여기서, 후보는 머지 후보 리스트에 포함된 후보일 수 있다. 여기서, 현재 블록 및 템플릿 영역 간의 상대적인 위치는 후보가 가리키는 블록 및 후보가 가리키는 블록의 템플릿 영역 간의 상대적인 위치와 동일할 수 있다.
예를 들어, 인코딩 장치는 상기 머지 후보 리스트 내의 후보들을 그룹핑할 수 있고, 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들을 상기 템플릿 영역을 기반으로 재정렬할 수 있다. 여기서, 그룹핑은 모리 대역폭 문제를 해결하기 위한 것일 수 있다. 인코딩 장치는 후보 리스트를 그룹핑하여 특정 그룹에 포함된 후보들만을 대상으로 재정렬할 수 있다. 일 실시예에서 현재 블록의 예측 모드가 머지 모드인 경우, 머지 인텍스(MERGE_INDEX)는 후보 리스트 내에서 선택된 MVP를 나타내기 위한 인덱스일 수 있으며, 인덱스가 가리키는 후보 그룹만을 재정렬함으로써 복잡도를 개선할 수 있다.
예를 들어, 머지 후보 리스트 내의 후보들은 2개의 그룹으로 나누어질 수 있고, 상기 2개의 그룹 중 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들이 상기 템플릿 영역을 기반으로 재정렬될 수 있다. 여기서, 그룹의 개수는 3개일 수도 있으므로, 이에 한정되는 것은 아니다.
또한, 예를 들어, 상기 2개의 그룹 중 제1 그룹은 상기 머지 후보 리스트 내에서 첫 번째 후보, 두 번째 후보 및 세 번째 후보를 포함하고, 제2 그룹은 상기 머지 후보 리스트 내에서 네 번째 후보 및 다섯 번째 후보를 포함할 수 있다. 즉, 즉, 머지 후보 리스트에 0, 1, 2, 3 및 4의 인덱스를 가지는 후보들이 존재하는 경우, 0, 1 및 2는 제1 그룹(Group 1 ={0, 1, 2})로, 3 및 4는 제2 그룹(Group 2 = {3, 4})로 나누어질 수 있다. 예를 들어, 머지 인덱스가 1인 경우, 제1 그룹 내의 후보들이 템플릿 영역을 기반으로 재정렬될 수 있고, 머지 인덱스가 3인 경우, 제2 그룹 내의 후보들이 템플릿 영역을 기반으로 재정렬될 수 있다.
예를 들어, 상기 머지 후보 리스트는 상기 템플릿 영역 및 상기 후보에 인접한 주변 영역 간의 템플릿 매칭 코스트(template matching cost)를 기반으로 재정렬될 수 있다. 템플릿 매칭 코스트는 SAD(Sum of Absolute Differecne) 값을 기반으로 도출될 수 있고, SAD 값을 계산하기 위하여 템플릿 영역 및 후보에 인접한 주변 영역 중 템플릿에 대응되는 영역의 화소값이 이용될 수 있다. 여기서, 템플릿 영역은 상술한 바와 같이 현재 블록에 인접한 좌측 주변 영역 또는 상측 주변 영역을 포함할 수 있으며, 상기 템플릿 영역은 상기 현재 블록의 직전에 복원되는 이전 블록에 포함되지 않을 수 있다. 또한, 후보에 인접한 주변 영역 중 템플릿에 대응되는 영역은 후보에 인접한 좌측 주변 영역 또는 상측 주변 영역을 포함할 수 있다. 템플릿 영역은 현재 블록으로부터 특정 픽셀 거리 또는 특정 샘플 거리 내의 영역을 포함할 수 있으며, 특정 픽셀 거리 또는 특정 샘플 거리는 2 픽셀 거리 또는 2 샘플 거리일 수 있으나, 이에 한정되지 않는다. 즉, 템플릿 영역은 현재 블록으로부터 2 샘플 거리 내의 영역을 포함할 수 있다. 또는 템플릿 영역은 현재 블록으로부터 2 픽셀 거리 내의 좌측 주변 영역 및/또는 2 픽셀 거리 내의 상측 주변 영역을 포함할 수 있다. 예를 들어, 템플릿 영역은 2-탭(tap) 바이리니어 보간 필터(bilinear interpolation filter)를 이용하여 움직임 추정이 수행될 수 있다.
또한, 도시하지 않았으나, 인코딩 장치는 이용 가능한 템플릿 영역을 기반으로 후보 리스트 내의 대상 후보에 대하여 리파인먼트를 수행할 수 있다. 즉, 인코딩 장치는 상기 머지 후보 리스트 내의 특정 후보를 도출할 수 있고, 상기 템플릿 영역을 기반으로 상기 특정 후보에 대하여 리파인먼트(refinement)할 수 있고, 상기 리파인먼트된 특정 후보를 상기 머지 후보 리스트에 추가할 수 있다. 즉, 도출한 템플릿 영역 기반의 템플릿 매칭 방법을 이용하여 리파인먼트도 수행할 수 있다. 여기서, 현재 블록 및 템플릿 영역 간의 상대적인 위치는 후보가 가리키는 블록 및 후보가 가리키는 블록의 템플릿 영역 간의 상대적인 위치와 동일할 수 있다.
인코딩 장치는 현재 블록의 머지 인덱스를 도출한다(S1630). 머지 인덱스는 인덱스 정보를 나타낼 수 있으며, MERGE_INDEX를 나타낼 수 있다. 머지 인덱스는 움직임 정보 후보 리스트 중 예측에 이용할 특정 후보를 지시하는 정보를 포함할 수 있다. 인코딩 장치는 머지 인덱스를 기반으로 움직임 정보 후보 리스트의 움직임 정보 후보들 중 특정 움직임 정보 후보를 선택 또는 도출할 수 있고, 상기 선택된 움직임 정보 후보를 상기 현재 블록에 대한 움직임 정보로 도출할 수 있다. 즉, 인코딩 장치는 머지 후보 리스트 내에서 현재 블록의 예측된 블록을 생성하기 위해 도출할 후보를 지시하는 머지 인덱스를 도출할 수 있다.
인코딩 장치는 머지 인덱스 및 머지 후보 리스트를 기반으로 현재 블록에 대한 예측된 블록을 생성한다(S1640). 즉, 머지 인덱스 및 머지 후보 리스트를 기반으로 움직임 정보가 도출될 수 있다. 또는 머지 후보 리스트 내에 머지 인덱스가 지시하는 후보를 기반으로 움직임 정보가 도출될 수 있다. 또한, 상기 움직임 정보를 기반으로 상기 현재 블록의 예측을 수행할 수 있다. 상기 움직임 정보를 기반으로 상기 현재 블록의 예측 블록이 도출될 수 있고, 상기 예측 블록을 기반으로 복원 블록이 도출될 수 있다. 구체적으로, 인코딩 장치는 상기 움직임 정보를 기반으로 참조 픽처 내 참조 블록을 도출할 수 있다. 상기 움직임 정보는 움직임 벡터 및 참조 픽처 인덱스를 포함할 수 있다. 인코딩 장치는 참조 픽처 리스트의 참조 픽처들 중 상기 참조 픽처 인덱스가 가리키는 참조 픽처를 상기 현재 블록의 참조 픽처로 도출할 수 있고, 상기 참조 픽처 내 상기 움직임 벡터가 가리키는 블록을 상기 현재 블록의 참조 블록으로 도출할 수 있다. 인코딩 장치는 상기 참조 블록을 기반으로 예측 샘플을 생성할 수 있다.
또한, 인코딩 장치는 원본 샘플과 상기 생성된 예측 샘플을 기반으로 레지듀얼(residual) 샘플을 생성할 수 있다. 인코딩 장치는 상기 레지듀얼 샘플을 기반으로 상기 레지듀얼에 관한 정보를 생성할 수 있다. 상기 레지듀얼에 관한 정보는 상기 레지듀얼 샘플에 관한 변환 계수들을 포함할 수 있다. 인코딩 장치는 상기 예측 샘플과 상기 레지듀얼 샘플을 기반으로 상기 복원 샘플을 도출할 수 있다. 즉, 인코딩 장치는 상기 예측 샘플과 상기 레지듀얼 샘플을 더하여 상기 복원 샘플을 도출할 수 있다. 여기서, 인코딩 장치는 원본 블록과 예측된 블록을 기반으로 레지듀얼 블록을 생성할 수도 있으며, 이를 기반으로 레지듀얼에 관한 정보를 생성할 수도 있다. 또한, 인코딩 장치는 상기 레지듀얼에 관한 정보를 인코딩하여 비트스트림 형태로 출력할 수 있다. 상기 비트스트림은 네트워크 또는 저장매체를 통하여 디코딩 장치로 전송될 수 있다.
인코딩 장치는 머지 인덱스를 포함하는 현재 블록에 대한 예측 정보를 생성하고 인코딩하여 출력한다(S1650). 인코딩 장치는 상기 현재 블록의 예측에 대한 정보를 포함하는 영상 정보를 인코딩하여 비트스트림 형태로 출력할 수 있다. 예를 들어, 인코딩 장치는 상기 현재 블록의 예측 모드를 결정할 수 있고, 상기 예측 모드를 나타내는 정보를 생성할 수 있다. 또한, 상기 현재 블록의 머지 후보 리스트 구성에 관한 정보 및 머지 인덱스에 관한 정보를 생성할 수 있다. 또한, 상기 현재 블록에 관한 템플릿 관련 정보, 재정렬 관련 정보 및/또는 리파인먼트 관련 정보를 생성할 수 있다. 또한, 상기 레지듀얼에 관한 정보를 생성할 수 있다. 상술한 현재 블록의 예측에 대한 정보는 상술한 정보들을 모두 포함할 수도 있으며, 일부만을 포함할 수도 있다. 상기 비트스트림은 네트워크 또는 저장매체를 통하여 디코딩 장치로 전송될 수 있다.
도 17은 본 발명에 따른 디코딩 장치에 의한 영상 디코딩 방법을 개략적으로 나타낸다.
도 17에서 개시된 방법은 도 2에서 개시된 디코딩 장치에 의하여 수행될 수 있다. 구체적으로 예를 들어, 도 17의 S1700 내지 S740은 상기 디코딩 장치의 예측부에 의하여 수행될 수 있다. 또한, 비록 도시되지는 않았으나 비트스트림을 통하여 현재 블록의 예측에 대한 정보 및 레지듀얼에 관한 정보를 포함하는 영상 정보를 획득하는 과정은 상기 디코딩 장치의 엔트로피 디코딩부에 의하여 수행될 수 있고, 상기 레지듀얼 정보를 기반으로 상기 현재 블록에 대한 상기 레지듀얼 샘플을 도출하는 과정은 상기 디코딩 장치의 역변환부에 의하여 수행될 수 있고, 예측 샘플과 상기 레지듀얼 샘플을 기반으로 복원 픽처를 생성하는 과정은 상기 디코딩 장치의 가산부에 의하여 수행될 수 있다.
디코딩 장치는 현재 블록의 머지 인덱스를 도출한다(S1700). 머지 인덱스는 인덱스 정보를 나타낼 수 있으며, MERGE_INDEX를 나타낼 수 있다. 머지 인덱스는 움직임 정보 후보 리스트 중 예측에 이용할 특정 후보를 지시하는 정보를 포함할 수 있다. 디코딩 장치는 머지 인덱스를 기반으로 후술하는 움직임 정보 후보 리스트의 움직임 정보 후보들 중 특정 움직임 정보 후보를 선택 또는 도출할 수 있고, 상기 선택된 움직임 정보 후보를 상기 현재 블록에 대한 움직임 정보로 도출할 수 있다.
디코딩 장치는 현재 블록의 머지 후보 리스트를 구성한다(S1710). 디코딩 장치는 현재 블록의 주변 블록들 중 상기 현재 블록의 움직임 정보 후보 리스트를 위한 주변 블록들을 도출할 수 있다. 디코딩 장치는 상기 현재 블록의 상기 주변 블록들 중 상기 현재 블록의 움직임 정보 후보 리스트를 위한 주변 블록들을 선택할 수 있다. 디코딩 장치는 상기 도출 또는 선택된 주변 블록들을 기반으로 상기 움직임 정보 후보 리스트를 구성할 수 있다. 디코딩 장치는 상기 선택된 주변 블록들의 움직임 정보들을 상기 현재 블록의 움직임 정보 후보들로 도출할 수 있고, 상기 움직임 정보 후보들을 포함하는 상기 움직임 정보 후보 리스트를 구성할 수 있다. 또한, 디코딩 장치는 상기 선택된 주변 블록들의 움직임 정보를 조합하여 도출된 움직임 정보를 상기 현재 블록의 움직임 정보 후보로 도출할 수 있고, 상기 움직임 정보 후보를 포함한 상기 움직임 정보 후보 리스트를 구성할 수 있다. 한편, 상기 움직임 정보 후보 리스트는 상기 현재 블록이 머지 모드임에 따라 머지 후보 리스트를 나타낼 수 있으나, 상기 현재 블록이 AMVP 모드인 경우 MVP 후보 리스트가 이용될 수도 있다.
디코딩 장치는 현재 블록에 인접한 템플릿 영역을 도출한다(S1720). 상기 템플릿 영역은 상기 현재 블록에 인접한 좌측 주변 영역 및 상측 주변 영역 중 상기 현재 블록의 직전에 복원되는 이전 블록에 포함되지 않는 영역을 포함할 수 있다. 즉, 템플릿 영역은 현재 블록에 인접한 좌측 주변 영역일 수 있고, 상측 주변 영역일 수 있으며, 좌측 주변 영역 및 상측 주변 영역일 수 있다. 다만, 템플릿 영역은 파이프라인 딜레이가 발생하지 않도록 직전에 복원되는 이전 블록(또는 직전 블록)에 포함되지 않는 영역일 수 있다. 즉, 템플릿 영역은 좌측 주변 영역 및 상측 주변 영역 중 이전 블록에 포함되지 않는 영역 또는 일부 영역일 수 있다.
예를 들어, 상기 템플릿 영역은 상기 현재 블록의 파티셔닝 구조 정보, 상기 현재 블록의 분할 인덱스 정보 및 상기 현재 블록의 파티셔닝 구조가 바이너리 트리(binary-tree) 또는 터너리 트리(ternary-tree)인 경우 분할(split) 방향 정보를 기반으로 도출될 수 있다. 여기서, 분할 인덱스 정보는 pu index 또는 pu idx로 나타낼 수 있으며, 0, 1, 2 및 3 중 어느 하나의 값을 가질 수 있다.
예를 들어, 상기 템플릿 영역은 좌측 주변 영역을 이용할 수 있는지(bLeftAvail) 판단할 수 있고, 이후 상측 주변 영역을 이용할 수 있는지(bAboveAvail) 판단할 수 있다. 여기서, 좌측 주변 영역은 좌측 템플릿 또는 좌측 템플릿 영역이라 지칭할 수 있고, 상측 주변 영역은 상측 템플릿 또는 상측 템플릿 영역이라 지칭할 수 있다.
예를 들어, 우선, 좌측 템플릿이 이용할 수 없다고 가정할 수 있다(bLeftAvail = FALSE). 이후, 파티셔닝 구조가 쿼드트리(quadtree)이며 상기 현재 블록의 분할 인덱스 정보가 2인 경우 또는 상기 현재 블록의 파티셔닝 구조가 수평 방향의 바이너리 트리 또는 수평 방향의 터너리 트리이며 상기 현재 블록의 분할 인덱스 정보가 0보다 큰 경우, 상기 템플릿 영역은 상기 좌측 주변 영역을 포함할 수 있다. 즉, 일 실시예는 현재 블록에 대하여 파티셔닝 구조가 쿼드트리이며 분할 인덱스가 2인지(QT && pu idx==2) 판단할 수 있으며, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 둘 중 적어도 하나가 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다. 다만, 둘 모두 만족하지 않는 경우 또는 둘 모두 FALSE인 경우, 좌측 템플릿이 이용할 수 없다는 가정은 변경되지 않을 수 있다.
예를 들어, 상기 현재 블록의 파티셔닝 구조가 수평 방향의 바이너리 트리 또는 수평 방향의 터너리 트리가 아닌 경우 또는 상기 현재 블록의 분할 인덱스 정보가 0보다 크지 않은 경우, 상기 템플릿 영역은 상기 상측 주변 영역을 포함할 수 있다. 즉, 일 실시예는 상측 템플릿이 이용할 수 있다고 가정할 수 있다(bAboveAvail = TRUE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 상측 템플릿이 이용할 수 없다고 결정할 수 있다(bAboveAvail = FALSE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 상기 상측 템플릿이 이용할 수 있다는 가정은 변경되지 않을 수 있다. 보다 상세한 설명은 도 7과 함께 상술하였다.
예를 들어, 상기 현재 블록의 파티셔닝 구조가 수평 방향의 바이너리 트리(binary-tree) 또는 수평 방향의 터너리 트리(ternary-tree)가 아닌 경우 또는 상기 현재 블록의 분할 인덱스 정보가 0보다 크지 않은 경우, 상기 템플릿 영역은 상기 좌측 주변 영역을 포함하지 않을 수 있다. 즉, 일 실시예는 우선, 좌측 템플릿이 이용할 수 없다고 가정할 수 있다(bLeftAvail = FALSE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 좌측 템플릿이 이용할 수 없다는 가정은 변경되지 않을 수 있다. 또한, 일 실시예는 상측 템플릿이 이용할 수 있다고 가정할 수 있다(bAboveAvail = TRUE). 이후, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 상측 템플릿이 이용할 수 없다고 결정할 수 있다(bAboveAvail = FALSE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 상기 상측 템플릿이 이용할 수 있다는 가정은 변경되지 않을 수 있다. 일 실시예는 상술한 바와 같이 파티셔닝 구조가 쿼드트리인 경우 분할 인덱스가 2인 경우를 판단하는 조건을 제거하여 디코더의 복잡도를 줄일 수 있다. 보다 상세한 설명은 도 8과 함께 상술하였다.
예를 들어, 상기 템플릿 영역이 상기 상측 주변 영역을 포함하는 경우, 상기 상측 주변 영역의 너비가 상기 현재 블록의 상위 블록의 너비까지 확장될 수 있다. 다시 말해, 현재 블록의 템플릿 영역은 현재 블록에 인접한 상측 주변 영역에서 현재 블록의 상위 블록 또는 분할되기 전의 블록에 인접한 상측 주변 영역으로 확장될 수 있다. 즉, 현재 블록의 상측 주변 영역이 템플릿 영역으로 이용되는 경우, 상측 주변 영역의 너비를 확장할 수 있다. 또한, 일 실시예는 상측 주변 영역의 높이도 확장할 수 있다. 보다 상세한 설명은 도 9a 및 도 9b와 함께 상술하였다.
예를 들어, 상기 템플릿 영역은 상기 이전 블록의 파티셔닝 구조 정보, 상기 이전 블록의 크기 정보, 상기 현재 블록의 크기 정보, 상기 현재 블록의 파티셔닝 구조 정보, 상기 현재 블록의 분할 인덱스 정보 및 상기 현재 블록의 파티셔닝 구조가 바이너리 트리(binary-tree) 또는 터너리 트리(ternary-tree)인 경우 분할(split) 방향 정보를 기반으로 도출될 수 있다. 여기서, 분할 인덱스 정보는 pu index 또는 pu idx로 나타낼 수 있으며, 0, 1, 2 및 3 중 어느 하나의 값을 가질 수 있다. 또한, 현재 블록의 크기 정보는 상기 현재 블록의 높이 정보를 포함할 수 있고, 현재 블록의 높이 정보는 CurBlk_H로 나타낼 수 있다. 이전 블록의 크기 정보는 상기 이전 블록의 높이 정보를 포함할 수 있고, 이전 블록의 높이 정보는 LeftBlk_H로 나타낼 수 있다. 여기서, 이전 블록은 현재 블록의 좌측 주변에 위치할 수 있으므로, 좌측 블록이라 지칭할 수도 있다.
예를 들어, 상기 현재 블록의 파티셔닝 구조가 쿼드트리(quadtree)이며 상기 현재 블록의 분할 인덱스 정보가 0이고 상기 현재 블록의 높이가 상기 이전 블록의 높이보다 크거나 같은 경우, 상기 템플릿 영역은 상기 좌측 주변 영역을 포함할 수 있다. 즉, 일 실시예는 우선, 좌측 템플릿이 이용할 수 없다고 가정할 수 있다(bLeftAvail = FALSE). 이후, 현재 블록의 파티셔닝 구조가 쿼드트리이고 분할 인덱스가 2인지(QT && pu idx==2) 판단할 수 있고, 파티셔닝 구조가 바이너리 트리 또는 터너리 트리이고 수평 방향이며 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있다. 일 실시예는 둘 중 적어도 하나가 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 둘 모두 만족하지 않는 경우 또는 FALSE인 경우, 현재 블록의 파티셔닝 구조가 쿼드트리이고 분할 인덱스가 0인지(QT && pu idx==0) 판단할 수 있고, 현재 블록의 높이(CurBlk_H)가 이전 블록(또는 직전 블록 또는 좌측 블록)의 높이(LeftBlk_H)보다 크거나 같은지 판단할 수 있다. 일 실시예는 둘 모두가 만족하는 경우 또는 TRUE인 경우, 상기 좌측 템플릿이 이용 가능하다고 결정할 수 있다(bLeftAvail = TRUE). 다만, 둘 중 하나라도 만족하지 않는 경우 또는 FALSE인 경우, 좌측 템플릿이 이용할 수 없다는 가정은 변경되지 않을 수 있다. 또한, 일 실시예는 상측 템플릿이 이용할 수 있다고 가정할 수 있다(bAboveAvail = TRUE). 이후, 현재 블록의 파티셔닝 구조가 바이너리 트리 또는 터너리 트리며 분할 방향이 수평이고 분할 인덱스가 0보다 큰지(BT/TT && Hor Split && idx>0) 판단할 수 있고, 이를 만족하는 경우 또는 TRUE인 경우, 상기 상측 템플릿이 이용할 수 없다고 결정할 수 있다(bAboveAvail = FALSE). 다만, 만족하지 않는 경우 또는 FALSE인 경우, 상기 상측 템플릿이 이용할 수 있다는 가정은 변경되지 않을 수 있다. 보다 상세한 설명은 도 12와 함께 상술하였다.
디코딩 장치는 템플릿 영역을 기반으로 머지 후보 리스트를 재정렬한다(S1730). 다시 말해, 현재 블록의 템플릿 영역과 후보가 가리키는 블록의 템플릿 영역을 기반으로 후보 리스트를 재정렬할 수 있다. 여기서, 후보는 머지 후보 리스트에 포함된 후보일 수 있다. 여기서, 현재 블록 및 템플릿 영역 간의 상대적인 위치는 후보가 가리키는 블록 및 후보가 가리키는 블록의 템플릿 영역 간의 상대적인 위치와 동일할 수 있다.
예를 들어, 디코딩 장치는 상기 머지 후보 리스트 내의 후보들을 그룹핑할 수 있고, 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들을 상기 템플릿 영역을 기반으로 재정렬할 수 있다. 여기서, 그룹핑은 모리 대역폭 문제를 해결하기 위한 것일 수 있다. 디코딩 장치는 후보 리스트를 그룹핑하여 특정 그룹에 포함된 후보들만을 대상으로 재정렬할 수 있다. 일 실시예에서 현재 블록의 예측 모드가 머지 모드인 경우, 머지 인텍스(MERGE_INDEX)는 후보 리스트 내에서 선택된 MVP를 나타내기 위한 인덱스일 수 있으며, 인덱스가 가리키는 후보 그룹만을 재정렬함으로써 디코딩 복잡도를 개선할 수 있다.
예를 들어, 머지 후보 리스트 내의 후보들은 2개의 그룹으로 나누어질 수 있고, 상기 2개의 그룹 중 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들이 상기 템플릿 영역을 기반으로 재정렬될 수 있다. 여기서, 그룹의 개수는 3개일 수도 있으므로, 이에 한정되는 것은 아니다.
또한, 예를 들어, 상기 2개의 그룹 중 제1 그룹은 상기 머지 후보 리스트 내에서 첫 번째 후보, 두 번째 후보 및 세 번째 후보를 포함하고, 제2 그룹은 상기 머지 후보 리스트 내에서 네 번째 후보 및 다섯 번째 후보를 포함할 수 있다. 즉, 즉, 머지 후보 리스트에 0, 1, 2, 3 및 4의 인덱스를 가지는 후보들이 존재하는 경우, 0, 1 및 2는 제1 그룹(Group 1 ={0, 1, 2})로, 3 및 4는 제2 그룹(Group 2 = {3, 4})로 나누어질 수 있다. 예를 들어, 머지 인덱스가 1인 경우, 제1 그룹 내의 후보들이 템플릿 영역을 기반으로 재정렬될 수 있고, 머지 인덱스가 3인 경우, 제2 그룹 내의 후보들이 템플릿 영역을 기반으로 재정렬될 수 있다.
예를 들어, 상기 머지 후보 리스트는 상기 템플릿 영역 및 상기 후보에 인접한 주변 영역 간의 템플릿 매칭 코스트(template matching cost)를 기반으로 재정렬될 수 있다. 템플릿 매칭 코스트는 SAD(Sum of Absolute Differecne) 값을 기반으로 도출될 수 있고, SAD 값을 계산하기 위하여 템플릿 영역 및 후보에 인접한 주변 영역 중 템플릿에 대응되는 영역의 화소값이 이용될 수 있다. 여기서, 템플릿 영역은 상술한 바와 같이 현재 블록에 인접한 좌측 주변 영역 또는 상측 주변 영역을 포함할 수 있으며, 상기 템플릿 영역은 상기 현재 블록의 직전에 복원되는 이전 블록에 포함되지 않을 수 있다. 또한, 후보에 인접한 주변 영역 중 템플릿에 대응되는 영역은 후보에 인접한 좌측 주변 영역 또는 상측 주변 영역을 포함할 수 있다. 템플릿 영역은 현재 블록으로부터 특정 픽셀 거리 또는 특정 샘플 거리 내의 영역을 포함할 수 있으며, 특정 픽셀 거리 또는 특정 샘플 거리는 2 픽셀 거리 또는 2 샘플 거리일 수 있으나, 이에 한정되지 않는다. 즉, 템플릿 영역은 현재 블록으로부터 2 샘플 거리 내의 영역을 포함할 수 있다. 또는 템플릿 영역은 현재 블록으로부터 2 픽셀 거리 내의 좌측 주변 영역 및/또는 2 픽셀 거리 내의 상측 주변 영역을 포함할 수 있다. 예를 들어, 템플릿 영역은 2-탭(tap) 바이리니어 보간 필터(bilinear interpolation filter)를 이용하여 움직임 보상이 수행될 수 있다.
또한, 도시하지 않았으나, 디코딩 장치는 이용 가능한 템플릿 영역을 기반으로 후보 리스트 내의 대상 후보에 대하여 리파인먼트를 수행할 수 있다. 즉, 디코딩 장치는 상기 머지 후보 리스트 내의 특정 후보를 도출할 수 있고, 상기 템플릿 영역을 기반으로 상기 특정 후보에 대하여 리파인먼트(refinement)할 수 있고, 상기 리파인먼트된 특정 후보를 상기 머지 후보 리스트에 추가할 수 있다. 즉, 도출한 템플릿 영역 기반의 템플릿 매칭 방법을 이용하여 리파인먼트도 수행할 수 있다. 여기서, 현재 블록 및 템플릿 영역 간의 상대적인 위치는 후보가 가리키는 블록 및 후보가 가리키는 블록의 템플릿 영역 간의 상대적인 위치와 동일할 수 있다.
디코딩 장치는 머지 인덱스 및 머지 후보 리스트를 기반으로 현재 블록에 대한 예측된 블록을 생성한다(S1740). 즉, 머지 인덱스 및 머지 후보 리스트를 기반으로 움직임 정보가 도출될 수 있다. 또는 머지 후보 리스트 내에 머지 인덱스가 지시하는 후보를 기반으로 움직임 정보가 도출될 수 있다. 또한, 상기 움직임 정보를 기반으로 상기 현재 블록의 예측을 수행할 수 있다. 상기 움직임 정보를 기반으로 상기 현재 블록의 예측 블록이 도출될 수 있고, 상기 예측 블록을 기반으로 복원 블록이 도출될 수 있다. 구체적으로, 디코딩 장치는 상기 움직임 정보를 기반으로 참조 픽처 내 참조 블록을 도출할 수 있다. 상기 움직임 정보는 움직임 벡터 및 참조 픽처 인덱스를 포함할 수 있다. 디코딩 장치는 참조 픽처 리스트의 참조 픽처들 중 상기 참조 픽처 인덱스가 가리키는 참조 픽처를 상기 현재 블록의 참조 픽처로 도출할 수 있고, 상기 참조 픽처 내 상기 움직임 벡터가 가리키는 블록을 상기 현재 블록의 참조 블록으로 도출할 수 있다. 디코딩 장치는 상기 참조 블록을 기반으로 예측 샘플을 생성할 수 있고, 예측 모드에 따라 상기 예측 샘플을 바로 복원 샘플로 이용할 수도 있고, 또는 상기 예측 샘플에 레지듀얼 샘플을 더하여 복원 샘플을 생성할 수도 있다. 디코딩 장치는 상기 현재 블록에 대한 레지듀얼 샘플이 존재하는 경우, 상기 비트스트림으로부터 상기 현재 블록에 대한 레지듀얼에 관한 정보를 획득할 수 있다. 상기 레지듀얼에 관한 정보는 상기 레지듀얼 샘플에 관한 변환 계수를 포함할 수 있다. 디코딩 장치는 상기 레지듀얼 정보를 기반으로 상기 현재 블록에 대한 상기 레지듀얼 샘플(또는 레지듀얼 샘플 어레이)을 도출할 수 있다. 디코딩 장치는 상기 예측 샘플과 상기 레지듀얼 샘플을 기반으로 복원 샘플을 생성할 수 있고, 상기 복원 샘플을 기반으로 복원 블록 또는 복원 픽처를 도출할 수 있다. 이후 디코딩 장치는 필요에 따라 주관적/객관적 화질을 향상시키기 위하여 디블록킹 필터링 및/또는 SAO 절차와 같은 인루프 필터링 절차를 상기 복원 픽처에 적용할 수 있음은 상술한 바와 같다.
상술한 실시예에서, 방법들은 일련의 단계 또는 블록으로써 순서도를 기초로 설명되고 있지만, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당업자라면 순서도에 나타내어진 단계들이 배타적이지 않고, 다른 단계가 포함되거나 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.
상술한 본 발명에 따른 방법은 소프트웨어 형태로 구현될 수 있으며, 본 발명에 따른 인코딩 장치 및/또는 디코딩 장치는 예를 들어 TV, 컴퓨터, 스마트폰, 셋톱박스, 디스플레이 장치 등의 영상 처리를 수행하는 장치에 포함될 수 있다.
본 발명에서 실시예들이 소프트웨어로 구현될 때, 상술한 방법은 상술한 기능을 수행하는 모듈(과정, 기능 등)로 구현될 수 있다. 모듈은 메모리에 저장되고, 프로세서에 의해 실행될 수 있다. 메모리는 프로세서 내부 또는 외부에 있을 수 있고, 잘 알려진 다양한 수단으로 프로세서와 연결될 수 있다. 프로세서는 ASIC(application-specific integrated circuit), 다른 칩셋, 논리 회로 및/또는 데이터 처리 장치를 포함할 수 있다. 메모리는 ROM(read-only memory), RAM(random access memory), 플래쉬 메모리, 메모리 카드, 저장 매체 및/또는 다른 저장 장치를 포함할 수 있다.
도 18은 컨텐츠 스트리밍 시스템 구조를 개략적으로 나타낸다.
즉, 본 발명에서 설명한 실시예들은 프로세서, 마이크로 프로세서, 컨트롤러 또는 칩 상에서 구현되어 수행될 수 있다. 예를 들어, 각 도면에서 도시한 기능 유닛들은 컴퓨터, 프로세서, 마이크로 프로세서, 컨트롤러 또는 칩 상에서 구현되어 수행될 수 있다.
또한, 본 발명이 적용되는 디코딩 장치 및 인코딩 장치는 멀티미디어 방송 송수신 장치, 모바일 통신 단말, 홈 시네마 비디오 장치, 디지털 시네마 비디오 장치, 감시용 카메라, 비디오 대화 장치, 비디오 통신과 같은 실시간 통신 장치, 모바일 스트리밍 장치, 저장 매체, 캠코더, 주문형 비디오(VoD) 서비스 제공 장치, OTT 비디오(Over the top video) 장치, 인터넷 스트리밍 서비스 제공 장치, 3차원(3D) 비디오 장치, 화상 전화 비디오 장치, 및 의료용 비디오 장치 등에 포함될 수 있으며, 비디오 신호 또는 데이터 신호를 처리하기 위해 사용될 수 있다. 예를 들어, OTT 비디오(Over the top video) 장치로는 게임 콘솔, 블루레이 플레이어, 인터넷 접속 TV, 홈시어터 시스템, 스마트폰, 태블릿 PC, DVR(Digital Video Recorder) 등을 포함할 수 있다.
또한, 본 발명이 적용되는 처리 방법은 컴퓨터로 실행되는 프로그램의 형태로 생산될 수 있으며, 컴퓨터가 판독할 수 있는 기록 매체에 저장될 수 있다. 본 발명에 따른 데이터 구조를 가지는 멀티미디어 데이터도 또한 컴퓨터가 판독할 수 있는 기록 매체에 저장될 수 있다. 상기 컴퓨터가 판독할 수 있는 기록 매체는 컴퓨터로 읽을 수 있는 데이터가 저장되는 모든 종류의 저장 장치 및 분산 저장 장치를 포함한다. 상기 컴퓨터가 판독할 수 있는 기록 매체는, 예를 들어, 블루레이 디스크(BD), 범용 직렬 버스(USB), ROM, PROM, EPROM, EEPROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크 및 광학적 데이터 저장 장치를 포함할 수 있다. 또한, 상기 컴퓨터가 판독할 수 있는 기록 매체는 반송파(예를 들어, 인터넷을 통한 전송)의 형태로 구현된 미디어를 포함한다. 또한, 인코딩 방법으로 생성된 비트스트림이 컴퓨터가 판독할 수 있는 기록 매체에 저장되거나 유무선 통신 네트워크를 통해 전송될 수 있다. 또한, 본 발명의 실시예는 프로그램 코드에 의한 컴퓨터 프로그램 제품으로 구현될 수 있고, 상기 프로그램 코드는 본 발명의 실시예에 의해 컴퓨터에서 수행될 수 있다. 상기 프로그램 코드는 컴퓨터에 의해 판독 가능한 캐리어 상에 저장될 수 있다.
또한, 본 발명이 적용되는 컨텐츠 스트리밍 시스템은 크게 인코딩 서버, 스트리밍 서버, 웹 서버, 미디어 저장소, 사용자 장치 및 멀티미디어 입력 장치를 포함할 수 있다.
상기 인코딩 서버는 스마트폰, 카메라, 캠코더 등과 같은 멀티미디어 입력 장치들로부터 입력된 컨텐츠를 디지털 데이터로 압축하여 비트스트림을 생성하고 이를 상기 스트리밍 서버로 전송하는 역할을 한다. 다른 예로, 스마트폰, 카메라, 캠코더 등과 같은 멀티미디어 입력 장치들이 비트스트림을 직접 생성하는 경우, 상기 인코딩 서버는 생략될 수 있다. 상기 비트스트림은 본 발명이 적용되는 인코딩 방법 또는 비트스트림 생성 방법에 의해 생성될 수 있고, 상기 스트리밍 서버는 상기 비트스트림을 전송 또는 수신하는 과정에서 일시적으로 상기 비트스트림을 저장할 수 있다.
상기 스트리밍 서버는 웹 서버를 통한 사용자 요청에 기초하여 멀티미디어 데이터를 사용자 장치에 전송하고, 상기 웹 서버는 사용자에게 어떠한 서비스가 있는지를 알려주는 매개체 역할을 한다. 사용자가 상기 웹 서버에 원하는 서비스를 요청하면, 상기 웹 서버는 이를 스트리밍 서버에 전달하고, 상기 스트리밍 서버는 사용자에게 멀티미디어 데이터를 전송한다. 이때, 상기 컨텐츠 스트리밍 시스템은 별도의 제어 서버를 포함할 수 있고, 이 경우 상기 제어 서버는 상기 컨텐츠 스트리밍 시스템 내 각 장치 간 명령/응답을 제어하는 역할을 한다.
상기 스트리밍 서버는 미디어 저장소 및/또는 인코딩 서버로부터 컨텐츠를 수신할 수 있다. 예를 들어, 상기 인코딩 서버로부터 컨텐츠를 수신하게 되는 경우, 상기 컨텐츠를 실시간으로 수신할 수 있다. 이 경우, 원활한 스트리밍 서비스를 제공하기 위하여 상기 스트리밍 서버는 상기 비트스트림을 일정 시간동안 저장할 수 있다.
상기 사용자 장치의 예로는, 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smartwatch), 글래스형 단말기 (smart glass), HMD(head mounted display)), 디지털 TV, 데스크탑 컴퓨터, 디지털 사이니지 등이 있을 수 있다. 상기 컨텐츠 스트리밍 시스템 내 각 서버들은 분산 서버로 운영될 수 있으며, 이 경우 각 서버에서 수신하는 데이터는 분산 처리될 수 있다.

Claims (15)

  1. 디코딩 장치에 의하여 수행되는 영상 디코딩 방법에 있어서,
    현재 블록의 머지 인덱스를 도출하는 단계;
    상기 현재 블록의 머지 후보 리스트를 구성하는 단계;
    상기 현재 블록에 인접한 템플릿 영역을 도출하는 단계;
    상기 템플릿 영역을 기반으로 상기 머지 후보 리스트를 재정렬하는 단계; 및
    상기 머지 인덱스 및 상기 머지 후보 리스트를 기반으로 상기 현재 블록에 대한 예측된 블록을 생성하는 단계를 포함하고,
    상기 머지 후보 리스트 내의 후보들은 2개의 그룹으로 나누어지고,
    상기 2개의 그룹 중 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들이 상기 템플릿 영역을 기반으로 재정렬되는 것을 특징으로 하는, 영상 디코딩 방법.
  2. 제1항에 있어서,
    상기 머지 후보 리스트 내의 후보들은 5개이고,
    상기 2개의 그룹 중 제1 그룹은 상기 머지 후보 리스트 내에서 첫 번째 후보, 두 번째 후보 및 세 번째 후보를 포함하고, 제2 그룹은 상기 머지 후보 리스트 내에서 네 번째 후보 및 다섯 번째 후보를 포함하는 것을 특징으로 하는, 영상 디코딩 방법.
  3. 제1항에 있어서,
    상기 머지 후보 리스트는 상기 템플릿 영역 및 상기 후보에 인접한 주변 영역 간의 템플릿 매칭 코스트(template matching cost)를 기반으로 재정렬되는 것을 특징으로 하는, 영상 디코딩 방법.
  4. 제1항에 있어서,
    상기 템플릿 영역은 상기 현재 블록에 인접한 좌측 주변 영역 또는 상측 주변 영역을 포함하고,
    상기 템플릿 영역은 상기 현재 블록의 직전에 복원되는 이전 블록에 포함되지 않는 것을 특징으로 하는, 영상 디코딩 방법.
  5. 제4항에 있어서,
    상기 템플릿 영역은 상기 현재 블록으로부터 2 샘플 거리 내의 영역을 포함하는 것을 특징으로 하는, 영상 디코딩 방법.
  6. 인코딩 장치에 의하여 수행되는 영상 인코딩 방법에 있어서,
    현재 블록의 머지 후보 리스트를 구성하는 단계;
    상기 현재 블록에 인접한 템플릿 영역을 도출하는 단계;
    상기 템플릿 영역을 기반으로 상기 머지 후보 리스트를 재정렬하는 단계;
    상기 현재 블록의 머지 인덱스를 도출하는 단계;
    상기 머지 인덱스 및 상기 머지 후보 리스트를 기반으로 상기 현재 블록에 대한 예측된 블록을 생성하는 단계; 및
    상기 머지 인덱스를 포함하는 상기 현재 블록에 대한 예측 정보를 생성하고 인코딩하여 출력하는 단계를 포함하고,
    상기 머지 후보 리스트 내의 후보들은 2개의 그룹으로 나누어지고,
    상기 2개의 그룹 중 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들이 상기 템플릿 영역을 기반으로 재정렬되는 것을 특징으로 하는, 영상 인코딩 방법.
  7. 제6항에 있어서,
    상기 머지 후보 리스트 내의 후보들은 5개이고,
    상기 2개의 그룹 중 제1 그룹은 상기 머지 후보 리스트 내에서 첫 번째 후보, 두 번째 후보 및 세 번째 후보를 포함하고, 제2 그룹은 상기 머지 후보 리스트 내에서 네 번째 후보 및 다섯 번째 후보를 포함하는 것을 특징으로 하는, 영상 인코딩 방법.
  8. 제6항에 있어서,
    상기 머지 후보 리스트는 상기 템플릿 영역 및 상기 후보에 인접한 주변 영역 간의 템플릿 매칭 코스트(template matching cost)를 기반으로 재정렬되는 것을 특징으로 하는, 영상 인코딩 방법.
  9. 제6항에 있어서,
    상기 템플릿 영역은 상기 현재 블록에 인접한 좌측 주변 영역 또는 상측 주변 영역을 포함하고,
    상기 템플릿 영역은 상기 현재 블록의 직전에 복원되는 이전 블록에 포함되지 않는 것을 특징으로 하는, 영상 인코딩 방법.
  10. 제9항에 있어서,
    상기 템플릿 영역은 상기 현재 블록으로부터 2 샘플 거리 내의 영역을 포함하는 것을 특징으로 하는, 영상 인코딩 방법.
  11. 영상 디코딩 방법을 수행하는 디코딩 장치에 있어서,
    현재 블록에 대한 예측 정보를 획득하는 엔트로피 디코딩부; 및
    상기 현재 블록의 머지 인덱스를 도출하고, 상기 현재 블록의 머지 후보 리스트를 구성하고, 상기 현재 블록에 인접한 템플릿 영역을 도출하고, 상기 템플릿 영역을 기반으로 상기 머지 후보 리스트를 재정렬하고, 상기 머지 인덱스 및 상기 머지 후보 리스트를 기반으로 상기 현재 블록에 대한 예측된 블록을 생성하는 예측부를 포함하고,
    상기 머지 후보 리스트 내의 후보들은 2개의 그룹으로 나누어지고,
    상기 2개의 그룹 중 상기 머지 인덱스에 따른 후보가 포함된 그룹 내의 후보들이 상기 템플릿 영역을 기반으로 재정렬되는 것을 특징으로 하는, 디코딩 장치.
  12. 제11항에 있어서,
    상기 머지 후보 리스트 내의 후보들은 5개이고,
    상기 2개의 그룹 중 제1 그룹은 상기 머지 후보 리스트 내에서 첫 번째 후보, 두 번째 후보 및 세 번째 후보를 포함하고, 제2 그룹은 상기 머지 후보 리스트 내에서 네 번째 후보 및 다섯 번째 후보를 포함하는 것을 특징으로 하는, 디코딩 장치.
  13. 제11항에 있어서,
    상기 머지 후보 리스트는 상기 템플릿 영역 및 상기 후보에 인접한 주변 영역 간의 템플릿 매칭 코스트(template matching cost)를 기반으로 재정렬되는 것을 특징으로 하는, 디코딩 장치.
  14. 제11항에 있어서,
    상기 템플릿 영역은 상기 현재 블록에 인접한 좌측 주변 영역 또는 상측 주변 영역을 포함하고,
    상기 템플릿 영역은 상기 현재 블록의 직전에 복원되는 이전 블록에 포함되지 않는 것을 특징으로 하는, 디코딩 장치.
  15. 제14항에 있어서,
    상기 템플릿 영역은 상기 현재 블록으로부터 2 샘플 거리 내의 영역을 포함하는 것을 특징으로 하는, 디코딩 장치.
PCT/KR2019/008047 2018-07-02 2019-07-02 영상 코딩 시스템의 인터 예측에서 템플릿 기반의 후보 리스트 재정렬 방법 및 장치 WO2020009427A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201862692889P 2018-07-02 2018-07-02
US62/692,889 2018-07-02

Publications (1)

Publication Number Publication Date
WO2020009427A1 true WO2020009427A1 (ko) 2020-01-09

Family

ID=69059392

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2019/008047 WO2020009427A1 (ko) 2018-07-02 2019-07-02 영상 코딩 시스템의 인터 예측에서 템플릿 기반의 후보 리스트 재정렬 방법 및 장치

Country Status (1)

Country Link
WO (1) WO2020009427A1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022214087A1 (en) * 2021-04-09 2022-10-13 Beijing Bytedance Network Technology Co., Ltd. Method, device, and medium for video processing
WO2023051541A1 (en) * 2021-09-28 2023-04-06 FG Innovation Company Limited Device and method for coding video data
WO2023056895A1 (en) * 2021-10-06 2023-04-13 Beijing Bytedance Network Technology Co., Ltd. Method, apparatus, and medium for video processing
CN116671107A (zh) * 2021-10-05 2023-08-29 腾讯美国有限责任公司 基于分组的合并候选的自适应重新排序

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016160609A1 (en) * 2015-03-27 2016-10-06 Qualcomm Incorporated Motion information derivation mode determination in video coding
WO2017157281A1 (en) * 2016-03-16 2017-09-21 Mediatek Inc. Method and apparatus of pattern-based motion vector derivation for video coding
KR20180035193A (ko) * 2011-10-26 2018-04-05 인텔렉추얼디스커버리 주식회사 움직임 후보 리스트 생성 방법 및 그를 이용한 부호화 장치
KR20180061060A (ko) * 2016-11-28 2018-06-07 한국전자통신연구원 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180035193A (ko) * 2011-10-26 2018-04-05 인텔렉추얼디스커버리 주식회사 움직임 후보 리스트 생성 방법 및 그를 이용한 부호화 장치
WO2016160609A1 (en) * 2015-03-27 2016-10-06 Qualcomm Incorporated Motion information derivation mode determination in video coding
WO2017157281A1 (en) * 2016-03-16 2017-09-21 Mediatek Inc. Method and apparatus of pattern-based motion vector derivation for video coding
KR20180061060A (ko) * 2016-11-28 2018-06-07 한국전자통신연구원 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JICHENG AN: "Enhanced Merge Mode based on JEM7.0", JVET-J0059-VL, JOINT VIDEO EXPERTS TEAM (JVET) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11, 10TH MEETING, 15 April 2018 (2018-04-15), San Diego, US, pages 1 - 1 4, XP030151245 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022214087A1 (en) * 2021-04-09 2022-10-13 Beijing Bytedance Network Technology Co., Ltd. Method, device, and medium for video processing
WO2023051541A1 (en) * 2021-09-28 2023-04-06 FG Innovation Company Limited Device and method for coding video data
CN116671107A (zh) * 2021-10-05 2023-08-29 腾讯美国有限责任公司 基于分组的合并候选的自适应重新排序
WO2023056895A1 (en) * 2021-10-06 2023-04-13 Beijing Bytedance Network Technology Co., Ltd. Method, apparatus, and medium for video processing

Similar Documents

Publication Publication Date Title
WO2020036417A1 (ko) 히스토리 기반 움직임 벡터에 기반한 인터 예측 방법 및 그 장치
WO2020071829A1 (ko) 히스토리 기반 영상 코딩 방법 및 그 장치
WO2020071830A1 (ko) 히스토리 기반 움직임 정보를 이용한 영상 코딩 방법 및 그 장치
WO2019190181A1 (ko) 인트라 예측 기반 영상/비디오 코딩 방법 및 그 장치
WO2020017840A1 (ko) Dmvr에 기반하여 인터 예측을 수행하는 방법 및 장치
WO2020017861A1 (ko) 서브블록 단위의 시간적 움직임 정보 예측을 위한 인터 예측 방법 및 그 장치
WO2020171632A1 (ko) Mpm 리스트 기반 인트라 예측 방법 및 장치
WO2020009427A1 (ko) 영상 코딩 시스템의 인터 예측에서 템플릿 기반의 후보 리스트 재정렬 방법 및 장치
WO2020017892A1 (ko) 서브블록 단위의 시간적 움직임 벡터 예측을 위한 방법 및 그 장치
WO2020009390A1 (ko) 영상 코딩 시스템에서 인터 예측에 따른 영상 처리 방법 및 장치
WO2020251319A1 (ko) Sbtmvp를 이용한 인터 예측 기반 영상 또는 비디오 코딩
WO2020145604A1 (ko) Mpm 리스트를 사용하는 인트라 예측 기반 영상 코딩 방법 및 장치
WO2020005002A1 (ko) 영상 코딩 시스템에서 인터 예측에 따른 템플릿 영역 도출 방법 및 장치
WO2020141879A1 (ko) 영상 코딩 시스템에서 서브 블록 기반 시간적 머지 후보를 사용하는 어파인 움직임 예측에 기반한 영상 디코딩 방법 및 장치
WO2020141886A1 (ko) Sbtmvp 기반 인터 예측 방법 및 장치
WO2020256506A1 (ko) 다중 참조 라인 인트라 예측을 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
WO2020145620A1 (ko) Mpm 리스트를 사용하는 인트라 예측 기반 영상 코딩 방법 및 장치
WO2020141932A1 (ko) Cpr 기반 mmvd를 이용하는 인터 예측 방법 및 장치
WO2020141831A2 (ko) 인트라 블록 카피 예측을 이용한 영상 코딩 방법 및 장치
WO2021125700A1 (ko) 예측 가중 테이블 기반 영상/비디오 코딩 방법 및 장치
WO2020251340A1 (ko) 움직임 벡터 예측 기반 영상/비디오 코딩 방법 및 장치
WO2020251270A1 (ko) 서브블록 단위의 시간적 움직임 정보 기반 영상 또는 비디오 코딩
WO2020197243A1 (ko) Smvd(symmetric motion vector difference)를 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
WO2020251338A1 (ko) 비디오 또는 영상 코딩 시스템에서의 인터 예측
WO2020145656A1 (ko) Tmvp 후보의 가용 여부를 시그널링하는 방법 및 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19830243

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19830243

Country of ref document: EP

Kind code of ref document: A1