WO2018044142A1 - 영상 부호화/복호화 방법 및 이를 위한 장치 - Google Patents

영상 부호화/복호화 방법 및 이를 위한 장치 Download PDF

Info

Publication number
WO2018044142A1
WO2018044142A1 PCT/KR2017/009705 KR2017009705W WO2018044142A1 WO 2018044142 A1 WO2018044142 A1 WO 2018044142A1 KR 2017009705 W KR2017009705 W KR 2017009705W WO 2018044142 A1 WO2018044142 A1 WO 2018044142A1
Authority
WO
WIPO (PCT)
Prior art keywords
current block
block
filtering
pixel
boundary
Prior art date
Application number
PCT/KR2017/009705
Other languages
English (en)
French (fr)
Inventor
장형문
임재현
Original Assignee
엘지전자(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자(주) filed Critical 엘지전자(주)
Priority to KR1020197007150A priority Critical patent/KR102447450B1/ko
Priority to US16/330,329 priority patent/US10979714B2/en
Priority to CN202111667873.4A priority patent/CN114286091B/zh
Priority to KR1020227031991A priority patent/KR20220129685A/ko
Priority to EP17847067.0A priority patent/EP3509299B1/en
Priority to CN202111673992.0A priority patent/CN114339225B/zh
Priority to CN201780068150.8A priority patent/CN109937571B/zh
Publication of WO2018044142A1 publication Critical patent/WO2018044142A1/ko
Priority to US17/187,517 priority patent/US11457219B2/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding

Definitions

  • the present invention relates to a still image or video processing method, and more particularly, to a method for filtering intra prediction predicted samples and an apparatus supporting the same.
  • Compression coding refers to a series of signal processing techniques for transmitting digitized information through a communication line or for storing in a form suitable for a storage medium.
  • Media such as an image, an image, an audio, and the like may be a target of compression encoding.
  • a technique of performing compression encoding on an image is called video image compression.
  • Next-generation video content will be characterized by high spatial resolution, high frame rate and high dimensionality of scene representation. Processing such content would result in a tremendous increase in terms of memory storage, memory access rate, and processing power.
  • An object of the present invention is to propose a method for adaptively filtering boundary pixels of a prediction block according to a prediction direction in a Quad-Tree Binary-Tree (QTBT) block division structure when performing intra prediction.
  • QTBT Quad-Tree Binary-Tree
  • a method of decoding an image by a decoding apparatus includes: deriving an intra prediction mode of a current block, and referring samples as samples neighboring to the top of the current block and samples neighboring to the left. Constructing, generating a prediction sample of the current block using the reference sample, and filtering a sample adjacent to an upper boundary and / or a left boundary of the current block among the prediction samples; In the case of the non-spuare block, whether to filter the samples adjacent to the upper boundary of the current block is determined by considering only the width of the current block, and to filter the samples adjacent to the left boundary of the current block. Whether or not may be determined by considering only the height of the current block.
  • an intra prediction mode derivation unit for deriving an intra prediction mode of a current block, samples neighboring to an upper end of the current block and samples neighboring to a left side
  • a reference sample constructer constituting reference samples
  • a predictive sample generator for generating a predictive sample of the current block by using the reference sample, and a sample adjacent to an upper boundary and / or a left boundary of the current block among the predictive samples If the current block is a non-spuare block, whether to filter the samples adjacent to the upper boundary of the current block is determined considering only the width of the current block, Whether to filter the samples adjacent to the left boundary of the current block may be determined in consideration of only the height of the current block.
  • filtering of samples adjacent to an upper boundary of the current block is performed when the width of the current block is less than or equal to a predefined size, and The filtering of samples adjacent to the left boundary may be performed when the height of the current block is equal to or less than a predefined size.
  • filtering of a sample adjacent to an upper boundary of the current block may result in a height of the current block.
  • filtering of a sample adjacent to the left boundary of the current block is performed by the width of the current block. ) May be performed at or below a predefined size.
  • the intra prediction mode of the current block is the second mode in the intra prediction mode in which a total of 67 intra prediction modes are defined
  • filtering of a sample adjacent to an upper boundary of the current block is performed by the width of the current block.
  • samples belonging to four lines adjacent to an upper boundary of the current block may be filtered.
  • the height of the current block does not exceed 4, only samples belonging to two lines adjacent to an upper boundary of the current block may be filtered.
  • the intra prediction mode of the current block is mode 66 in the intra prediction mode in which a total of 67 intra prediction modes are defined
  • filtering of a sample adjacent to a left boundary of the current block may result in a height of the current block.
  • samples belonging to four lines adjacent to the left boundary of the current block may be filtered.
  • the width of the current block does not exceed 4, only samples belonging to two lines adjacent to the left boundary of the current block may be filtered.
  • the compression performance may be improved by adaptively filtering boundary pixels of a prediction block according to a prediction direction in a process of predicting a still image or a video by intra prediction.
  • the existing block boundary filtering method may be more efficiently applied to a quad-tree binary-tree block partitioning structure.
  • a post-filter (QTBT) in the Quad-Tree Binary-Tree structure Or an in-loop filter) can be effectively performed.
  • FIG. 1 is a schematic block diagram of an encoder in which encoding of a video signal is performed as an embodiment to which the present invention is applied.
  • FIG. 2 is a schematic block diagram of a decoder in which decoding of a video signal is performed as an embodiment to which the present invention is applied.
  • FIG. 3 is a diagram for describing a division structure of a coding unit according to an embodiment to which the present invention is applied.
  • FIG. 4 is a diagram for describing a quad-tree binary-tree among division structures of a coding unit according to an embodiment to which the present invention is applied.
  • FIG. 5 illustrates a prediction direction according to an intra prediction mode as an embodiment to which the present invention may be applied.
  • FIG. 6 illustrates a prediction block generated through intra prediction as an embodiment to which the present invention may be applied.
  • FIG. 7 and 8 illustrate embodiments to which the present invention may be applied, and illustrate an filtering of boundary pixels of a prediction block when the intra prediction mode is the DC mode.
  • FIG. 9 is a diagram for describing filtering of boundary pixels of a prediction block when an intra prediction mode is a horizontal mode as an embodiment to which the present invention may be applied.
  • FIG. 10 is a diagram for describing filtering of boundary pixels of a prediction block when an intra prediction mode is a vertical mode as an embodiment to which the present invention may be applied.
  • 11 to 13 illustrate embodiments to which the present invention may be applied, and illustrate an filtering of boundary pixels of a prediction block when the intra prediction mode is the second mode.
  • FIG. 14 to 16 illustrate an embodiment to which the present invention may be applied, when the intra prediction mode is the 34th mode among the 35 intra prediction modes or the 66th prediction mode among the 67 intra prediction modes, filtering the boundary pixels of the prediction block.
  • the intra prediction mode is the 34th mode among the 35 intra prediction modes or the 66th prediction mode among the 67 intra prediction modes, filtering the boundary pixels of the prediction block.
  • FIG. 17 is a diagram for describing filtering of boundary pixels of a prediction block when an intra prediction mode is a 3, 4, 5, or 6 mode among 35 intra prediction modes according to an embodiment to which the present invention may be applied.
  • FIG. 18 is a diagram for describing filtering of boundary pixels of a prediction block when an intra prediction mode is 30, 31, 32, or 33 mode among 35 intra prediction modes as an embodiment to which the present invention may be applied.
  • 19 and 20 are embodiments to which the present invention may be applied, and when an intra prediction mode is a 3, 4, 5, 6, 7, 8, 9, or 10 mode among 67 intra prediction modes, a boundary of a prediction block It is a figure for demonstrating the filtering of a pixel.
  • 21 and 22 illustrate embodiments to which the present invention may be applied, when an intra prediction mode is a 59, 60, 61, 62, 63, 64, 65, or 66 mode among 67 intra prediction modes, a boundary of a prediction block It is a figure for demonstrating the filtering of a pixel.
  • FIG. 23 illustrates a process of filtering boundary pixels in a prediction block in a QTBT structure according to an embodiment to which the present invention may be applied.
  • FIG. 24 illustrates a predictor filtering process in a QTBT structure as an embodiment to which the present invention may be applied.
  • 25 is a diagram illustrating a boundary pixel filtering method when the intra prediction mode is the DC mode according to an embodiment of the present invention.
  • FIG. 26 is a diagram illustrating a boundary pixel filtering process when an intra prediction mode is a horizontal / vertical mode as an embodiment to which the present invention may be applied.
  • FIG. 27 is a diagram illustrating a prediction block boundary pixel filtering method according to an embodiment of the present invention.
  • 28 and 29 are diagrams illustrating a prediction block boundary pixel filtering method according to an embodiment of the present invention.
  • FIG. 30 is a diagram illustrating a boundary pixel filtering method according to an embodiment of the present invention.
  • FIG. 31 is a diagram illustrating a boundary pixel filtering method according to an embodiment of the present invention.
  • FIG. 32 is a diagram illustrating an intra prediction method according to an embodiment of the present invention.
  • 33 is a diagram more specifically illustrating an intra predictor according to an embodiment of the present invention.
  • the term 'block' or 'unit' refers to a unit in which a process of encoding / decoding such as prediction, transformation, and / or quantization is performed, and may be configured as a multidimensional array of samples (or pixels, pixels).
  • 'Block' or 'unit' may mean a multi-dimensional array of samples for luma components, or may mean a multi-dimensional array of samples for chroma components.
  • the multi-dimensional arrangement of the sample for the luma component and the multi-dimensional arrangement of the sample for the chroma component may also be included.
  • 'block' or 'unit' refers to a coding block (CB) that represents an array of samples to be encoded / decoded, and a coding tree block composed of a plurality of coding blocks (CTB).
  • CB coding block
  • CB coding block
  • CB coding tree block composed of a plurality of coding blocks
  • PB Prediction Block
  • PU Prediction Unit
  • TB Transform Block
  • a 'block' or 'unit' is a syntax structure used in encoding / decoding an array of samples for a luma component and / or a chroma component. can be interpreted to include a sturcture.
  • the syntax structure refers to zero or more syntax elements existing in the bitstream in a specific order, and the syntax element refers to an element of data represented in the bitstream.
  • a 'block' or 'unit' includes a coding unit (CU) including a coding block (CB) and a syntax structure used for encoding the coding block (CB), and a plurality of coding units.
  • TUs transform units
  • the 'block' or 'unit' is not necessarily limited to an array of square or rectangular samples (or pixels or pixels), and polygonal samples having three or more vertices (or pixels or pixels). It can also mean an array of. In this case, it may also be referred to as a polygon block or a polygon unit.
  • FIG. 1 is a schematic block diagram of an encoder in which encoding of a video signal is performed as an embodiment to which the present invention is applied.
  • the encoder 100 may include an image splitter 110, a transformer 120, a quantizer 130, an inverse quantizer 140, an inverse transformer 150, a filter 160, and a decoder. It may include a decoded picture buffer (DPB) 170, an inter predictor 180, an intra predictor 185, and an entropy encoder 190.
  • DPB decoded picture buffer
  • the image divider 110 may divide the input image (or a picture or a frame) input to the encoder 100 into one or more processing units.
  • the processing unit may be a Coding Tree Unit (CTU), a Coding Unit (CU), a Prediction Unit (PU), or a Transform Unit (TU).
  • CTU Coding Tree Unit
  • CU Coding Unit
  • PU Prediction Unit
  • TU Transform Unit
  • the encoder 100 may generate a residual signal by subtracting the prediction signal output from the inter prediction unit 180 or the intra prediction unit 185 from the input image signal, and the generated residual signal is converted into a conversion unit ( 120).
  • the transformer 120 may generate a transform coefficient by applying a transform technique to the residual signal.
  • the transformation technique may include at least one of a discrete cosine transform (DCT), a discrete sine transform (DST), a karhunen-loeve transform (KLT), a graph-based transform (GBT), or a conditionally non-linear transform (CNT).
  • DCT discrete cosine transform
  • DST discrete sine transform
  • KLT karhunen-loeve transform
  • GBT graph-based transform
  • CNT conditionally non-linear transform
  • GBT means a conversion obtained from this graph when the relationship information between pixels is represented by a graph.
  • CNT refers to a transform that is generated based on and generates a prediction signal using all previously reconstructed pixels.
  • the conversion process may be applied to pixel blocks having the same size as the square, or may be applied to blocks of variable size rather than square.
  • the quantization unit 130 may quantize the transform coefficients and transmit them to the entropy encoding unit 190, and the entropy encoding unit 190 may entropy code the quantized signal and output the bitstream.
  • the quantized signal output from the quantization unit 130 may be used to generate a prediction signal.
  • the quantized signal may reconstruct the residual signal by applying inverse quantization and inverse transformation through inverse quantization unit 140 and inverse transformation unit 150 in a loop.
  • the reconstructed signal may be generated by adding the reconstructed residual signal to the prediction signal output from the inter predictor 180 or the intra predictor 185.
  • the filtering unit 160 applies filtering to the reconstruction signal and outputs it to the reproduction apparatus or transmits the decoded picture buffer to the decoding picture buffer 170.
  • the filtered signal transmitted to the decoded picture buffer 170 may be used as the reference picture in the inter predictor 180. As such, by using the filtered picture as a reference picture in the inter prediction mode, not only image quality but also encoding efficiency may be improved.
  • the decoded picture buffer 170 may store the filtered picture for use as a reference picture in the inter prediction unit 180.
  • the inter prediction unit 180 performs temporal prediction and / or spatial prediction to remove temporal redundancy and / or spatial redundancy with reference to the reconstructed picture.
  • the motion information may be predicted based on the correlation of the motion information between the neighboring block and the current block.
  • the intra predictor 185 may predict the current block by referring to samples around the block to which current encoding is to be performed.
  • the intra prediction unit 185 may perform the following process to perform intra prediction. First, reference samples necessary for generating a prediction signal may be prepared. The prediction signal may be generated using the prepared reference sample. Then, the prediction mode is encoded. In this case, the reference sample may be prepared through reference sample padding and / or reference sample filtering. Since the reference sample has been predicted and reconstructed, there may be a quantization error. Accordingly, the reference sample filtering process may be performed for each prediction mode used for intra prediction to reduce such an error.
  • the prediction signal generated by the inter predictor 180 or the intra predictor 185 may be used to generate a reconstruction signal or to generate a residual signal.
  • FIG. 2 is a schematic block diagram of a decoder in which decoding of a video signal is performed as an embodiment to which the present invention is applied.
  • the decoder 200 may include an entropy decoding unit 210, an inverse quantization unit 220, an inverse transform unit 230, a filtering unit 240, and a decoded picture buffer unit (DPB) 250. ), An inter predictor 260, and an intra predictor 265.
  • the reconstructed video signal output through the decoder 200 may be reproduced through the reproducing apparatus.
  • the decoder 200 may receive a signal output from the encoder 100 of FIG. 1, and the received signal may be entropy decoded through the entropy decoding unit 210.
  • the inverse quantization unit 220 obtains a transform coefficient from the entropy decoded signal using the quantization step size information.
  • the inverse transformer 230 inversely transforms a transform coefficient to obtain a residual signal.
  • the reconstruction signal is generated by adding the obtained residual signal to the prediction signal output from the inter prediction unit 260 or the intra prediction unit 265.
  • the filtering unit 240 applies filtering to the reconstruction signal and outputs it to the reproduction apparatus or transmits the decoded picture buffer unit 250 to the reproduction device.
  • the filtered signal transmitted to the decoded picture buffer unit 250 may be used as the reference picture in the inter predictor 260.
  • the embodiments described by the filtering unit 160, the inter prediction unit 180, and the intra prediction unit 185 of the encoder 100 are respectively the filtering unit 240, the inter prediction unit 260, and the decoder. The same may be applied to the intra predictor 265.
  • FIG. 3 is a diagram for describing a division structure of a coding unit according to an embodiment to which the present invention is applied.
  • the encoder may split one image (or picture) in units of a rectangular Coding Tree Unit (CTU).
  • CTU Coding Tree Unit
  • one CTU is sequentially encoded according to a raster scan order.
  • One CTU may be decomposed into a quadtree (QT) structure.
  • QT quadtree
  • one CTU may be divided into four units having a square shape and each side is reduced by half in length.
  • the decomposition of this QT structure can be done recursively.
  • a root node of a QT may be associated with a CTU.
  • the QT may be split until it reaches a leaf node, where the leaf node may be referred to as a coding unit (CU).
  • CU coding unit
  • the CTU corresponds to a root node and has the smallest depth (ie, level 0) value.
  • the CTU may not be divided according to the characteristics of the input image. In this case, the CTU corresponds to a CU.
  • the CTU may be decomposed in QT form, and as a result, lower nodes having a depth of level 1 may be generated. And, a node that is no longer partitioned (ie, a leaf node) in a lower node having a depth of level 1 corresponds to a CU.
  • CU (a), CU (b) and CU (j) corresponding to nodes a, b and j are divided once in the CTU and have a depth of level 1.
  • information indicating whether the corresponding CU is split may be delivered to the decoder.
  • the information may be defined as a split flag and may be represented by a syntax element "split_cu_flag".
  • the division flag may be included in all CUs except the SCU. For example, if the split flag value is '1', the corresponding CU is divided into four CUs again. If the split flag value is '0', the CU is not divided any more and the coding process for the CU is not divided. Can be performed.
  • the division process of the CU has been described as an example, but the QT structure described above may also be applied to the division process of a transform unit (TU) which is a basic unit for performing transformation.
  • TU transform unit
  • the TU may be hierarchically divided into a QT structure from a CU to be coded.
  • a CU may correspond to a root node of a tree for a transform unit (TU).
  • the TU divided from the CU may be divided into smaller lower TUs.
  • the size of the TU may be determined by any one of 32x32, 16x16, 8x8, and 4x4.
  • the present invention is not limited thereto, and in the case of a high resolution image, the size of the TU may be larger or more diverse.
  • information indicating whether the corresponding TU is divided may be delivered to the decoder.
  • the information may be defined as a split transform flag and may be represented by a syntax element "split_transform_flag".
  • a CU is a basic unit of coding in which intra prediction or inter prediction is performed.
  • a CU may be divided into prediction units (PUs).
  • the PU is a basic unit for generating a prediction block, and may generate different prediction blocks in PU units within one CU.
  • the PU may be divided differently according to whether an intra prediction mode or an inter prediction mode is used as a coding mode of a CU to which the PU belongs.
  • FIG. 4 is a diagram for describing a quad-tree binary-tree among division structures of a coding unit according to an embodiment to which the present invention is applied.
  • the encoder may split one image (or picture) in units of a rectangular Coding Tree Unit (CTU).
  • CTU Coding Tree Unit
  • one CTU is sequentially encoded according to a raster scan order.
  • One CTU may be decomposed into a quadtree (QT) structure and a binarytree (BT).
  • QT quadtree
  • BT binarytree
  • one CTU may be divided into four units having a square shape and each side is reduced by half in length, or divided into two units having a rectangular shape and having a width or height length reduced by half.
  • the decomposition of this QT BT structure can be performed recursively.
  • a root node of a QT may be associated with a CTU.
  • the QT may be split until it reaches a QT leaf node, and the leaf node of the QT may be split into BT and split until it reaches the BT leaf node.
  • the CTU corresponds to a root node and has a smallest depth (ie, level 0) value.
  • the CTU may not be divided according to the characteristics of the input image. In this case, the CTU corresponds to a CU.
  • CTU can be decomposed into QT form and QT leaf node can be divided into BT form.
  • lower nodes having a depth of level n may be generated.
  • a node (ie, leaf node) that is no longer divided in a lower node having a depth of level n corresponds to a CU.
  • information indicating whether the corresponding CU is split may be delivered to the decoder.
  • the information may be defined as a split flag and may be represented by a syntax element "split_cu_flag”.
  • information indicating whether to be split into BT in the QT leaf node may be transmitted to the decoder.
  • the information may be defined as a BT split flag and may be represented by a syntax element “bt_split_flag”.
  • the BT splitting shape may be transmitted to the decoder to be split into a rectangle having a half size width or a rectangle having a half size height.
  • the information may be defined in a BT split mode and may be represented by a syntax element “bt_split_mode”.
  • FIG. 5 illustrates a prediction direction according to an intra prediction mode as an embodiment to which the present invention may be applied.
  • Table 1 illustrates names for the 35 intra prediction modes illustrated in FIG. 5A.
  • the 35 directional modes are extended to 67 directional modes for intra coding and more accurate prediction of high resolution images. Arrows indicated by dotted lines in FIG. 5 (b) indicate newly added 32 directional modes.
  • Intra planner (INTRA_PLANAR) mode and intra DC (INTRA_DC) mode are the same as the existing intra planner mode and intra DC mode.
  • the newly added 32 directional modes apply to all block sizes and also to intra coding of luminance and chrominance components.
  • Table 2 illustrates the names for the 67 intra prediction modes illustrated in FIG. 5 (b).
  • the prediction direction may have a prediction direction with respect to the position of a reference sample used for prediction according to a prediction mode.
  • an intra prediction mode having a prediction direction is referred to as an intra_angular prediction mode or an intra directional mode.
  • an intra prediction mode having no prediction direction there are an intra planner (INTRA_PLANAR) prediction mode and an intra DC (INTRA_DC) prediction mode.
  • intra prediction prediction is performed on the current processing block based on the derived prediction mode. Since the reference sample used for the prediction and the specific prediction method vary according to the prediction mode, when the current block is encoded in the intra prediction mode, the decoder may derive the prediction mode of the current block to perform the prediction.
  • the decoder may check whether neighboring samples of the current processing block can be used for prediction and construct reference samples to use for prediction.
  • neighboring samples of the current processing block are samples adjacent to the left boundary of the current processing block of size nSxnS and a total of 2xnS samples neighboring the bottom-left, top of the current processing block.
  • the decoder can construct reference samples for use in prediction by substituting samples that are not available with the available samples.
  • the decoder may perform filtering of the reference sample based on the intra prediction mode.
  • the decoder may generate a prediction block for the current processing block based on the intra prediction mode and the reference samples. That is, the decoder may generate a prediction block for the current processing block based on the intra prediction mode derived from the intra prediction mode derivation step, the reference samples obtained through the reference sample configuration step and the reference sample filtering step.
  • the encoder / decoder filters the boundary pixels of the prediction block according to the prediction direction during intra prediction (ie, intra prediction).
  • the coordinates of pixels are represented by (x, y), where x is the coordinate of the x-axis in the horizontal direction (the value increases from left to right), and y is the y-axis in the vertical direction. Assume that we represent coordinates (the value increases from the top to the bottom). In addition, it is assumed that the coordinate of the upper left pixel in the prediction block is (0,0).
  • an intra prediction method having 35 intra prediction modes and / or an edge pixel filtering method in an intra prediction method having 67 intra prediction modes will be described.
  • the intra prediction mode may be equally applied to an intra prediction method defined differently.
  • FIG. 6 illustrates a prediction block generated through intra prediction as an embodiment to which the present invention may be applied.
  • a white dotted block represents a reference pixel (ie, a reference sample) and a gray solid block represents a predictive block (ie, a predictor).
  • the prediction block illustrated in FIG. 6 will be described with respect to boundary pixel filtering according to intra prediction modes of HEVC and QTBT.
  • the intra prediction mode is the DC mode
  • the filtering method of the boundary pixels of the prediction block will be described.
  • FIG. 7 and 8 illustrate embodiments to which the present invention may be applied, and illustrate an filtering of boundary pixels of a prediction block when the intra prediction mode is the DC mode.
  • the dark gray solid block represents a prediction block that has been filtered (ie, a filtered predictor), and as shown in FIG. 7, the left block boundary and the upper block boundary in the DC mode. Filter the pixels.
  • filtering of the pixel 801a at the upper block boundary is performed using the prediction pixel and the reference pixel.
  • the reference pixel and the prediction pixel used for filtering are determined as shown in FIG. 8B according to the position of each pixel of the pixel 801a of the upper block boundary.
  • the value of the filtered pixel (i.e. predictor) (x, y) at the upper block boundary is equal to ⁇ (3 x predictive pixel (i.e. It is calculated as 1) + 2) >> 2 ⁇ .
  • x >> y means Arithmetic right shift for calculating a two's complement integer representation of x by y binary digits. This function is defined only for non-negative integer values of y.
  • MSB most significant bit
  • 8 (c) and 8 (d) illustrate a method of filtering pixels at the left block boundary in the DC mode.
  • filtering of the pixel 801c at the left block boundary is performed using the prediction pixel and the reference pixel.
  • the reference pixel and the prediction pixel used for filtering are determined as shown in FIG. 8 (d) according to the position of each pixel of the pixel 801c of the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is equal to ⁇ (3 x predicted pixel (x, y) + reference pixel (x-1, y) + 2) >> 2 ⁇ It is calculated as
  • the filtering method of the boundary pixels of the prediction block will be described.
  • FIG. 9 is a diagram for describing filtering of boundary pixels of a prediction block when an intra prediction mode is a horizontal mode as an embodiment to which the present invention may be applied.
  • a prediction block is generated in prediction modes 18, 19, and 17 in an intra prediction method having an intra prediction method having 35 intra prediction modes, such as HEVC, or in an intra prediction method having 67 intra prediction modes.
  • Block boundary filtering see FIG. 5 above).
  • the mode 10 of the HEVC or the modes 17, 18 and 19 of the 67 prediction modes are the prediction modes in the horizontal direction (see FIG. 5 above). Filtering is performed on the pixel 901a.
  • reference pixels and prediction pixels used for filtering are determined as shown in FIGS. 9B and 9C according to the position of each pixel of the pixel 901a of the upper block boundary.
  • the value of the filtered pixel (x, y) at the upper block boundary is equal to ⁇ the value of the predicted pixel (x, y) + ((the value of the first reference pixel (-1, -1) minus the second reference pixel (x)). , value of y-1)) >> 1) ⁇ .
  • the filtering method of the boundary pixels of the prediction block will be described.
  • FIG. 10 is a diagram for describing filtering of boundary pixels of a prediction block when an intra prediction mode is a vertical mode as an embodiment to which the present invention may be applied.
  • a prediction block is generated in prediction mode No. 26, prediction mode No. 49, 50, or 51 in case of intra prediction method having 35 intra prediction modes such as HEVC, or intra prediction method having 67 intra prediction modes. Block boundary filtering is illustrated.
  • the mode 26 of the HEVC, or the 49, 50, 51 modes of the 67 prediction modes are the prediction modes in the vertical direction (see FIG. 5 above). Filtering is performed on the pixel 1001a.
  • reference pixels and prediction pixels used for filtering are determined as shown in FIGS. 10B and 10C according to positions of the pixels of the pixel 1001a of the left block boundary.
  • the value of the filtered pixel (x, y) of the left block boundary is ⁇ value of the prediction pixel (x, y) + ((value of the first reference pixel (-1, -1) minus the second reference pixel (x)). -1, y) value) >> 1) ⁇ .
  • the filtering of pixels at the prediction block boundary may be performed only on blocks having a size smaller than or equal to a certain size (for example, 16x16 or less). Can be.
  • the intra prediction mode is the second mode (for example, among 35 or 67 intra prediction modes as shown in FIG. 5)
  • the filtering method of the boundary pixels of the prediction block will be described.
  • 11 to 13 illustrate embodiments to which the present invention may be applied, and illustrate an filtering of boundary pixels of a prediction block when the intra prediction mode is the second mode.
  • the reference pixel and the prediction pixel used for filtering are determined according to the position of each pixel of the pixel 1201a of the first prediction pixel line from the top.
  • the value of the filtered pixel (x, y) of the first prediction pixel line is ((8 x value of the prediction pixel (x, y) + 8 x value of the reference pixel (x + 1, y-1) + 8) >> 4 ⁇
  • the reference pixel and the prediction pixel used for filtering are determined according to the position of each pixel of the pixel 1201c of the second prediction pixel line from the top.
  • the value of the filtered pixel (x, y) of the second prediction pixel line is ((12 x value of the prediction pixel (x, y) + 4 x value of the reference pixel (x + 2, y-2) + 8) >> 4 ⁇
  • the reference pixel and the prediction pixel used for filtering are determined according to the position of each pixel of the pixel 1301a of the third prediction pixel line from the top.
  • the value of the filtered pixel (x, y) of the third prediction pixel line is ((14 x value of the prediction pixel (x, y) + 2 x value of the reference pixel (x + 3, y-3) + 8) >> 4 ⁇
  • the reference pixel and the prediction pixel used for filtering are determined according to the position of each pixel of the pixel 1301c of the fourth prediction pixel line from the top.
  • the value of the filtered pixel (x, y) of the fourth prediction pixel line is ⁇ (14 x value of the prediction pixel (x, y) + value of the reference pixel (x + 4, y-4) + 8) >> 4 ⁇ .
  • the intra prediction mode is mode 34 (for example, among 35 intra prediction modes as shown in FIG. 5 above) or mode 66 (for example, among 67 intra prediction modes as shown in FIG. 5 above)
  • mode 34 for example, among 35 intra prediction modes as shown in FIG. 5 above
  • mode 66 for example, among 67 intra prediction modes as shown in FIG. 5 above
  • FIG. 14 to 16 illustrate an embodiment to which the present invention may be applied, when the intra prediction mode is the 34th mode among the 35 intra prediction modes or the 66th prediction mode among the 67 intra prediction modes, filtering the boundary pixels of the prediction block.
  • the intra prediction mode is the 34th mode among the 35 intra prediction modes or the 66th prediction mode among the 67 intra prediction modes, filtering the boundary pixels of the prediction block.
  • the intra prediction mode is the 34th mode (35 intra prediction mode) or the 66th mode (67 intra prediction mode)
  • the prediction is performed from the reference pixel at the upper right, Filtering is performed on the prediction pixel lines.
  • the reference pixel and the prediction pixel used for filtering are determined according to the position of each pixel of the pixel 1501a of the first prediction pixel line from the leftmost side.
  • the value of the filtered pixel (x, y) of the first prediction pixel line is ((8 x value of the prediction pixel (x, y) + 8 x value of the reference pixel (x-1, y + 1) + 8) >> 4 ⁇
  • the reference pixel and the prediction pixel used for filtering are determined according to the position of each pixel of the pixel 1501c of the second prediction pixel line from the leftmost side.
  • the value of the filtered pixel (x, y) of the second prediction pixel line is ((12 x value of the prediction pixel (x, y) + 4 x value of the reference pixel (x-2, y + 2) + 8) >> 4 ⁇
  • the reference pixel and the prediction pixel used for filtering are determined according to the position of each pixel of the pixel 1601a of the third prediction pixel line from the leftmost side.
  • the value of the filtered pixel (x, y) of the third prediction pixel line is ((14 x value of the prediction pixel (x, y) + 2 x value of the reference pixel (x-3, y + 3) + 8) >> 4 ⁇
  • the reference pixel and the prediction pixel used for filtering are determined according to the position of each pixel of the pixel 1601c of the fourth prediction pixel line from the leftmost side.
  • the value of the filtered pixel (x, y) of the fourth prediction pixel line is ⁇ (15 x value of the prediction pixel (x, y) + value of the reference pixel (x-4, y + 4) + 8) >> 4 ⁇ .
  • the boundary of the prediction block Let's look at how to filter pixels.
  • FIG. 17 is a diagram for describing filtering of boundary pixels of a prediction block when an intra prediction mode is a 3, 4, 5, or 6 mode among 35 intra prediction modes according to an embodiment to which the present invention may be applied.
  • the intra prediction modes 3, 4, 5, and 6 are modes for performing prediction from the left reference sample, filtering is performed on the upper boundary pixels of the prediction block, and the angles of each mode (that is, the angle of the prediction direction) are adjusted. Accordingly, there is a difference between the position of the reference pixel used for filtering and the weight of the reference pixel and the prediction pixel.
  • FIG. 17A illustrates filtering of boundary pixels of a prediction block in case of intra prediction mode 3.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1701a of the upper block boundary.
  • the value of the filtered pixel (x, y) of the upper block boundary is ⁇ (8 x value of the prediction pixel (x, y) + 6 x value of the first reference pixel (x + 1, y-1) + 2 x value of the second reference pixel (x + 2, y-1) + 8) >> 4 ⁇ .
  • FIG. 17B illustrates filtering of boundary pixels of a prediction block in case of intra prediction mode # 4.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1701b of the upper block boundary.
  • the value of the filtered pixel (x, y) of the upper block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 2 x the value of the first reference pixel (x + 1, y-1) + 2 x value of the second reference pixel (x + 2, y-1) + 8) >> 4 ⁇ .
  • FIG. 17C illustrates the filtering of the boundary pixels of the prediction block in the case of intra prediction mode # 5.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1701c of the upper block boundary.
  • the value of the filtered pixel (x, y) at the upper block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 1 x value of the first reference pixel (x + 1, y-1) + 3 x value of the second reference pixel (x + 2, y-1) + 8) >> 4 ⁇ .
  • FIG. 17D illustrates filtering of the boundary pixels of the prediction block in the intra prediction mode # 6.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1701d of the upper block boundary.
  • the value of the filtered pixel (x, y) at the upper block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 3 x the value of the first reference pixel (x + 2, y-1) + 1 x value of the second reference pixel (x + 3, y-1) + 8) >> 4 ⁇ .
  • FIG. 18 is a diagram for describing filtering of boundary pixels of a prediction block when an intra prediction mode is 30, 31, 32, or 33 mode among 35 intra prediction modes as an embodiment to which the present invention may be applied.
  • the intra prediction modes 30, 31, 32, and 33 are modes for performing prediction from the upper reference sample, filtering is performed on the left boundary pixel of the prediction block, and the angle of each mode (that is, the angle of the prediction direction) is determined. Accordingly, there is a difference between the position of the reference pixel used for filtering and the weight of the reference pixel and the prediction pixel.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1801a of the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (8 x value of the prediction pixel (x, y) + 6 x value of the first reference pixel (x-1, y + 1) + 2 x value of the second reference pixel (x-1, y + 2) + 8) >> 4 ⁇ .
  • FIG. 18B illustrates filtering of the boundary pixels of the prediction block in the intra prediction mode 31.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1801b of the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 2 x the value of the first reference pixel (x-1, y + 1) + 2 x value of the second reference pixel (x-1, y + 2) + 8) >> 4 ⁇ .
  • FIG. 18C illustrates filtering of the boundary pixels of the prediction block in the intra prediction mode 32.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1801c of the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 1 x value of the first reference pixel (x-1, y + 1) + 3 x value of the second reference pixel (x-1, y + 2) + 8) >> 4 ⁇ .
  • FIG. 18D illustrates filtering of the boundary pixels of the prediction block in the intra prediction mode 33.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1801d of the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 3 x the value of the first reference pixel (x-1, y + 2) + 1 x value of the second reference pixel (x-1, y + 3) + 8) >> 4 ⁇ .
  • the boundary pixel of the prediction block Let's look at how to filter.
  • 19 and 20 are embodiments to which the present invention may be applied, and when an intra prediction mode is a 3, 4, 5, 6, 7, 8, 9, or 10 mode among 67 intra prediction modes, a boundary of a prediction block It is a figure for demonstrating the filtering of a pixel.
  • the intra prediction modes 3, 4, 5, 6, 7, 8, 9, and 10 are modes for performing prediction from the left reference sample, filtering is performed on the upper boundary pixels of the prediction block, and the angle of each mode ( That is, there is a difference between the position of the reference pixel used for filtering and the weight of the reference pixel and the prediction pixel according to the angle of the prediction direction.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1901a of the upper block boundary.
  • the value of the filtered pixel (x, y) of the upper block boundary is ⁇ (8 x value of the prediction pixel (x, y) + 7 x the value of the first reference pixel (x + 1, y-1) + 1 x value of the second reference pixel (x + 2, y-1) + 8) >> 4 ⁇ .
  • FIG. 19B illustrates filtering for boundary pixels of a prediction block in case of intra prediction mode # 4.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1901b of the upper block boundary.
  • the value of the filtered pixel (x, y) of the upper block boundary is ⁇ (8 x value of the prediction pixel (x, y) + 6 x value of the first reference pixel (x + 1, y-1) + 2 x value of the second reference pixel (x + 2, y-1) + 8) >> 4 ⁇ .
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1901c of the upper block boundary.
  • the value of the filtered pixel (x, y) of the upper block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 3 x the value of the first reference pixel (x + 1, y-1) + 1 x value of the second reference pixel (x + 2, y-1) + 8) >> 4 ⁇ .
  • FIG. 19D illustrates filtering of the boundary pixels of the prediction block in the intra prediction mode 6.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 1901d of the upper block boundary.
  • the value of the filtered pixel (x, y) of the upper block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 2 x the value of the first reference pixel (x + 1, y-1) + 2 x value of the second reference pixel (x + 2, y-1) + 8) >> 4 ⁇ .
  • 20 (a) illustrates filtering of boundary pixels of a prediction block in case of intra prediction mode 7.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2001a of the upper block boundary.
  • the value of the filtered pixel (x, y) at the upper block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 3 x the value of the first reference pixel (x + 1, y-1) + 2 x value of the second reference pixel (x + 2, y-1) + 8) >> 4 ⁇ .
  • FIG. 20B illustrates filtering of boundary pixels of the prediction block in case of intra prediction mode # 8.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2001b of the upper block boundary.
  • the value of the filtered pixel (x, y) at the upper block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 1 x value of the first reference pixel (x + 1, y-1) + 3 x value of the second reference pixel (x + 2, y-1) + 8) >> 4 ⁇ .
  • FIG. 20C illustrates filtering of the boundary pixels of the prediction block in the case of intra prediction mode 9.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2001c of the upper block boundary.
  • the value of the filtered pixel (x, y) at the upper block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 3 x the value of the first reference pixel (x + 2, y-1) + 1 x value of the second reference pixel (x + 3, y-1) + 8) >> 4 ⁇ .
  • FIG. 20 (d) illustrates filtering of boundary pixels of a prediction block in case of intra prediction mode 10.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2001d of the upper block boundary.
  • the value of the filtered pixel (x, y) at the upper block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 3 x the value of the first reference pixel (x + 2, y-1) + 1 x value of the second reference pixel (x + 3, y-1) + 8) >> 4 ⁇ .
  • the boundary pixel of the prediction block Let's look at how to filter.
  • 21 and 22 illustrate embodiments to which the present invention may be applied, when an intra prediction mode is a 59, 60, 61, 62, 63, 64, 65, or 66 mode among 67 intra prediction modes, a boundary of a prediction block It is a figure for demonstrating the filtering of a pixel.
  • Intra prediction modes 59, 60, 61, 62, 63, 64, 65, and 66 are modes for performing prediction from an upper reference sample, so that filtering is performed on the left boundary pixel of the prediction block, and the angle of each mode ( That is, there is a difference between the position of the reference pixel used for filtering and the weight of the reference pixel and the prediction pixel according to the angle of the prediction direction.
  • 21 (a) illustrates filtering of boundary pixels of a prediction block in the intra prediction mode 59.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2101a of the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 3 x the value of the first reference pixel (x-1, y + 2) + 1 x value of the second reference pixel (x-1, y + 3) + 8) >> 4 ⁇ .
  • FIG. 21B illustrates filtering for the boundary pixels of the prediction block in the intra prediction mode 60.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2101b of the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 3 x the value of the first reference pixel (x-1, y + 2) + 1 x value of the second reference pixel (x-1, y + 3) + 8) >> 4 ⁇ .
  • 21 (c) illustrates filtering of boundary pixels of the prediction block in the intra prediction mode 61.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2101c of the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 1 x value of the first reference pixel (x-1, y + 1) + 3 x value of the second reference pixel (x-1, y + 2) + 8) >> 4 ⁇ .
  • 21 (d) illustrates filtering of boundary pixels of the prediction block in the intra prediction mode 62.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2101d at the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 3 x the value of the first reference pixel (x-1, y + 1) + 2 x value of the second reference pixel (x-1, y + 2) + 8) >> 4 ⁇ .
  • FIG. 22A illustrates filtering of boundary pixels of a prediction block in case of intra prediction mode 63.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2201a on the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 2 x the value of the first reference pixel (x-1, y + 1) + 2 x value of the second reference pixel (x-1, y + 2) + 8) >> 4 ⁇ .
  • FIG. 22B illustrates filtering for the boundary pixels of the prediction block in the intra prediction mode 64.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2201b of the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (12 x value of the prediction pixel (x, y) + 3 x the value of the first reference pixel (x-1, y + 1) + 1 x value of the second reference pixel (x-1, y + 2) + 8) >> 4 ⁇ .
  • FIG. 22C illustrates the filtering of the boundary pixels of the prediction block in the intra prediction mode 65.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2201c on the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (8 x value of the prediction pixel (x, y) + 6 x value of the first reference pixel (x-1, y + 1) + 2 x value of the second reference pixel (x-1, y + 2) + 8) >> 4 ⁇ .
  • FIG. 22D illustrates filtering of the boundary pixels of the prediction block in the intra prediction mode 66.
  • the position of the reference pixel used for filtering is determined according to the position of each pixel of the pixel 2201d on the left block boundary.
  • the value of the filtered pixel (x, y) at the left block boundary is ⁇ (8 x value of the prediction pixel (x, y) + 7 x the value of the first reference pixel (x-1, y + 1) + 1 x value of the second reference pixel (x-1, y + 2) + 8) >> 4 ⁇ .
  • the block boundary pixels in the prediction block generated through intra prediction are performed according to each intra prediction mode. However, until now, it has been determined whether the filtering is applied according to the size of the prediction block. This process is the same in the QTBT block division structure.
  • FIG. 23 illustrates a process of filtering boundary pixels in a prediction block in a QTBT structure according to an embodiment to which the present invention may be applied.
  • the decoder starts filtering the predictor (i.e., prediction samples / pixels), the predictor is received as an input value (i.e., the prediction block is generated), and the decoder predicts that the intra prediction mode (intraPredMode) is from the left block. Whether it is the 18, 19, 17 mode (i.e., horizontal mode) that generates the block, or the 49, 50, 51 mode (i.e., vertical mode) that generates the predictive block from the upper block.
  • Check (S2301) that is, intraPredMode (18,19,20)
  • step S2301 if the intra prediction mode (intraPredMode) is in the 18, 19, 17 mode (ie, the horizontal mode) or 49, 50, 51 mode (ie, the vertical mode), the decoder is RDPCM ( It is checked whether residual differential pulse code modulation) and TQ Bypass are not applied (S2302) (that is,! (RDPCMenabled && TQ Bypass)).
  • RDPCM is a HEVC range extension technique, which transmits a residual signal by differential pulse code modulation (DPCM) in a format such as 4: 4: 4, and TQ Bypass does not convert / quantize the residual signal. How to send.
  • DPCM differential pulse code modulation
  • the decoder checks whether the prediction block is a luma block and the prediction block size is smaller than 16 ⁇ 16 (S2303) (ie, Luma && block ⁇ 16x16). Otherwise, the decoder ends predictor filtering.
  • the decoder performs predictor filtering process 1 (S2304). Otherwise, the decoder ends predictor filtering.
  • the process of the predictor filtering process 1 is performed in the 18th, 19th, and 17th modes (ie, the horizontal mode) as in the method illustrated in FIG. 9, and the 49th, 50th, and 51th modes (ie, in the horizontal mode). (Vertical mode) is performed as in the method illustrated in FIG. 10.
  • step S2301 if the intra prediction mode (intraPredMode) is not 18, 19, 17 mode (that is, horizontal mode) and 49, 50, 51 mode (ie, vertical mode), decoder Checks whether the PDPC is not applied, the width is greater than 16, or the RSAF is not applied (S2305) (that is, (! PDPC
  • width> 16
  • PDPC Position Dependent Intra Prediction Combination
  • ARSS Adaptive Reference Sample Smoothing
  • step S2305 when the PDPC is not applied or the width is 16 or more or RSAF is not applied, the decoder determines that the prediction block is a luminance block, the prediction block has a width greater than 2, and It is checked whether the height is greater than 2 (S2306). Otherwise, the decoder ends predictor filtering.
  • step S2306 when the prediction block is a luma block, the width of the prediction block is greater than 2, and the height of the prediction block is greater than 2, the decoder performs the predictor filtering process 2 (S2307). ). Otherwise, the decoder ends predictor filtering.
  • predictor filtering process 2 will be described with reference to FIG. 24.
  • steps S2302 and S2305 may be omitted as steps to be selectively implemented.
  • FIG. 24 illustrates a predictor filtering process in a QTBT structure as an embodiment to which the present invention may be applied.
  • the decoder checks whether the intra prediction mode (intraPredMode) is DC (S2402). Otherwise, the decoder terminates predictor filtering process two.
  • the decoder performs boundary pixel filtering (S2403). Boundary pixel filtering is performed as in the method illustrated in FIGS. 7 and 8 above.
  • the decoder checks whether the intra prediction mode (intraPredMode) is 2,66 times (S2404).
  • intra prediction mode is mode 66 in step S2404
  • the decoder filters the border pixels corresponding to two lines around the border (S2405).
  • Boundary pixel filtering for mode 66 follows the method illustrated in FIGS. 14 to 16, but the boundary pixels corresponding to two lines around the boundary are filtered.
  • the decoder checks whether the width (BlockWidth) of the prediction block is greater than two (S2406).
  • step S2406 If the width (BlockWidth) of the prediction block is greater than 2 in step S2406, the decoder filters the boundary pixels corresponding to more than 2 lines around the boundary (S2407). Otherwise, the decoder terminates predictor filtering process two.
  • the decoder filters the boundary pixels corresponding to two lines around the boundary (S2408).
  • the boundary pixel filtering for the second mode follows the method illustrated in FIGS. 11 to 13, but the boundary pixels corresponding to two lines around the boundary are filtered.
  • the decoder checks whether the height BlockHeight of the prediction block is greater than two (S2409).
  • the decoder filters the boundary pixels corresponding to more than 2 lines around the boundary (S2410). Otherwise, the decoder terminates predictor filtering process two.
  • the decoder filters boundary pixels corresponding to one line around the boundary (S2411).
  • An embodiment of the present invention proposes a boundary pixel filtering method when an intra prediction (intra prediction) mode of a non-square block is a DC mode.
  • filtering is performed on pixels on the left and upper block boundaries.
  • filtering is performed only on luma blocks of 16x16 block size or less.
  • 25 is a diagram illustrating a boundary pixel filtering method when the intra prediction mode is the DC mode according to an embodiment of the present invention.
  • the decoder checks whether the current prediction block is a non-square block (S2501).
  • the decoder performs filtering on the upper boundary pixel of the prediction block (S2503).
  • the upper boundary pixel filtering follows the method illustrated in FIGS. 7 and 8, but only the upper boundary pixel is filtered.
  • step S2504 If the height of the prediction block is less than or equal to the maximum filtering size MAXIMUM_FILTERING_SIZE in step S2504, the decoder performs filtering on the left boundary pixel of the prediction block. Otherwise, DC mode boundary pixel filtering ends.
  • left boundary pixel filtering follows the method illustrated in FIGS. 7 and 8 above, but only the left boundary pixel is filtered.
  • step S2501 if the current prediction block is not a non-square block (ie, a square block), the decoder performs existing boundary pixel filtering for the DC mode (S2506).
  • An embodiment of the present invention proposes a boundary pixel filtering method when an intra prediction mode of a non-square block is a horizontal or vertical mode.
  • the horizontal mode of HEVC (or modes 17, 18, and 19 in the prediction method using 67 intra prediction modes), and as described with reference to FIG. 10, the vertical mode of HEVC (or 67 intra prediction modes).
  • block boundary pixel filtering is performed in the prediction method using a (n, 49, 50, 51 mode).
  • filtering is not performed under all conditions, and filtering is performed only for blocks having a size of a prediction block of 16 ⁇ 16 or less under the conditions as shown in FIG. 26 below.
  • FIG. 26 is a diagram illustrating a boundary pixel filtering process when an intra prediction mode is a horizontal / vertical mode as an embodiment to which the present invention may be applied.
  • the decoder determines the current prediction. It is checked whether RDPCM and TQ Bypass are not applied to the block (S2601) (that is,! (RDPCMenabled && TQ Bypass)).
  • the decoder performs predictor filtering process 1 (S2603). Otherwise, boundary pixel filtering of the horizontal / vertical mode (or the modes 17, 18, 19 or 49, 50, 51 in the prediction method using 67 intra prediction modes) is terminated.
  • predictor filtering process 1 follows the method illustrated in FIG. 9 or FIG. 10.
  • step S2601 may be omitted as an optional step.
  • the condition of FIG. 26 is required to be adaptively applied to blocks that may have various sizes due to division of the QTBT structure.
  • boundary pixel filtering is not performed in blocks such as 4x32 and 32x4.
  • predictions are performed in modes 17, 18, and 19 (for the prediction method in which 67 prediction modes are defined) or HEVC's horizontal mode, which perform prediction from the left block as shown in FIG. 27 below.
  • Filtering of upper block boundary pixels may be performed on the 16xN, 8xN, and 4xN blocks.
  • left block boundary pixels for modes 49, 50, and 51 (for the prediction method with 67 prediction modes defined) that perform prediction from the upper block, or for Nx4, Nx8, and Nx16 blocks predicted in the Vertical mode of HEVC. Filtering may be performed.
  • FIG. 27 is a diagram illustrating a prediction block boundary pixel filtering method according to an embodiment of the present invention.
  • the decoder determines the current prediction.
  • RDPCM and TQ Bypass are not applied to the block, and it is checked whether the current prediction block is a luma block (S2701) (that is,! (RDPCMenabled && TQ Bypass) && Luma).
  • the decoder determines that the directionality of the intra prediction mode (predIntraMode) of the current prediction block is the directionality of the horizontal intra prediction mode.
  • ⁇ denotes a difference between intra directional modes and ⁇ denotes a maximum block size of boundary filtering.
  • step S2702 the directionality of the intra prediction mode (predIntraMode) of the current prediction block is within a predefined range ( ⁇ to + ⁇ ) based on the directionality (IntraDir (Hor)) of the horizontal intra prediction mode, and the width of the block If (BlockWidth) is less than or equal to the maximum block size ⁇ of predefined boundary pixel filtering, the decoder performs upper boundary pixel filtering of the prediction block (S2703).
  • the method described above with reference to FIG. 9 may be used for upper boundary pixel filtering of the prediction block.
  • the directionality of the intra prediction mode is defined based on the directionality (IntraDir (Hor)) of the horizontal intra prediction mode ( ⁇ to + ⁇ ).
  • the block width (BlockWidth) exceeds the maximum block size ( ⁇ ) of the predefined boundary pixel filtering, the decoder indicates that the directionality of the intra prediction mode (predIntraMode) of the current prediction block is the directionality of the vertical intra prediction mode.
  • step S2704 the directionality of the intra prediction mode (predIntraMode) of the current prediction block is within a predefined range ( ⁇ to + ⁇ ) based on the directionality (IntraDir (Ver)) of the vertical intra prediction mode, and the height of the block If (BlockHeight) is less than or equal to the maximum block size ⁇ of predefined boundary pixel filtering, the decoder performs left boundary pixel filtering of the prediction block (S2705).
  • the method described above with reference to FIG. 10 may be used for filtering the left boundary pixel of the prediction block.
  • step S2701 may be omitted as an optional step.
  • the intra prediction mode of the non-square block is 2 or 34
  • the intra prediction mode of the non-Square block is 2 Or 66
  • the filtering decision structure of modes for filtering boundary pixels belonging to four lines around the block boundary is partially modified and applied in the current QTBT structure.
  • this embodiment proposes a method for efficiently applying filtering of boundary pixels.
  • the QTBT structure may have a minimum block size of 4xN and Nx4 at luminance Luma, and 2xN and Nx2 for chroma. For this reason, as shown in FIG. 25, the filtering structure applied in QTBT is performed to filter the entire prediction block in a luminance block of 4xN and Nx4 size, and chroma is also used to predict all prediction pixels of the 2xN and Nx2 blocks. This happens to be filtered.
  • an embodiment of the present invention proposes a method of limiting a filtering range of boundary pixels according to a prediction direction and a block size. This will be described with reference to the drawings below.
  • 28 and 29 are diagrams illustrating a prediction block boundary pixel filtering method according to an embodiment of the present invention.
  • FIG. 28 illustrates the case where the second mode is applied when the total number of intra prediction modes is 35/67 in the intra prediction mode
  • FIG. 29 is the 34th case when the total number of intra prediction modes is 35 as the intra prediction mode
  • Mode, 67 illustrates the case where mode 66 is applied.
  • the filtering of all pixels of the block is conventionally performed, but the method proposed in the present embodiment is 4xN.
  • the method proposed in the present embodiment is 4xN.
  • the pixels 2901b belonging to the 2 pixel lines of the prediction block boundary may be filtered.
  • a method of filtering pixels belonging to two pixel lines around a block boundary may be classified into two methods.
  • the filtering method may be performed only using 2 pixel lines around the boundary, or as shown in FIG. 31, a new weak filter may be applied to the corresponding prediction block.
  • FIG. 30 is a diagram illustrating a boundary pixel filtering method according to an embodiment of the present invention.
  • the decoder checks whether the intra prediction mode (intraPredMode) is DC or more than 1 time and less than 11 times or more than 58 times and 66 times or less (ie, S3001).
  • intraPredMode (DC) 1 ⁇ intraPredMode ⁇ 11 58 ⁇ intraPredMode ⁇ 66).
  • the decoder checks whether the intra prediction mode (intraPredMode) is DC (S3002). Otherwise, the decoder terminates predictor filtering process two.
  • the decoder performs boundary pixel filtering (S3003). Predictive block boundary pixel filtering is performed as in the method illustrated in FIGS. 7 and 8 above.
  • the decoder checks whether the intra prediction mode (intraPredMode) is 2 or 66 mode (S3004).
  • the decoder is the intra prediction mode (intraPredMode) mode 2 and the block height (Height) is greater than 4 or the intra prediction mode (intraPredMode) mode 66 And block width (Width) exceeds 4 (S3005) (ie, (intraPredMode (2) && blockHeight> 4)
  • the decoder determines the prediction block.
  • the boundary pixels belonging to four lines around the boundary are filtered (S3006). Otherwise, the decoder filters the boundary pixels belonging to two lines around the prediction block boundary (S3007).
  • the method described above with reference to FIGS. 11 to 16 may be used to filter the boundary pixels of the prediction block.
  • S3007 only pixels belonging to two lines around the prediction block boundary may be filtered.
  • step S3004 if the intra prediction mode (intraPredMode) is not the second mode or the 66 mode, the decoder filters the boundary pixels corresponding to one line around the prediction block boundary (S3008).
  • the method described above with reference to FIGS. 17 to 22 may be used to filter the boundary pixels of the prediction block.
  • intra prediction mode (intraPredMode) of the current block is 2 or 3 to 10 after the step S3004, filtering of the boundary pixel is applied only when the width of the current block is less than or equal to the maximum block size of the boundary filtering.
  • step S3005 or S3008 may be subsequently performed.
  • intra prediction mode (intraPredMode) of the current block is 66 or 59 to 65 after the step S3004, filtering of the boundary pixel is applied only when the height of the current block is equal to or less than the maximum block size of the boundary filtering.
  • step S3005 or S3008 may be performed subsequently.
  • FIG. 31 is a diagram illustrating a boundary pixel filtering method according to an embodiment of the present invention.
  • intraPredMode DC or more than 1 time and less than 11 times or more than 58 times and 66 times or less
  • the decoder checks whether the intra prediction mode (intraPredMode) is DC (S3102). Otherwise, the decoder terminates predictor filtering process two.
  • the decoder performs boundary pixel filtering (S3103). Predictive block boundary pixel filtering is performed as in the method illustrated in FIGS. 7 and 8 above.
  • the decoder checks whether the intra prediction mode (intraPredMode) mode 2 or 66 (S3104).
  • the decoder indicates that the intra prediction mode (intraPredMode) is 2 mode and the block height is greater than 4 or the intra prediction mode (intraPredMode) is mode 66 And block width (Width) exceeds 4 (S3105) (ie, (intraPredMode (2) && blockHeight> 4)
  • step S3105 if the intra prediction mode (intraPredMode) is mode 2 and the block height is more than 4, or if the intra prediction mode (intraPredMode) is mode 66 and the block width is more than 4, the decoder determines the prediction block.
  • the boundary pixels belonging to four lines around the boundary are filtered (S3106). Otherwise, the decoder filters the boundary pixels belonging to two lines around the prediction block boundary by the weak filter (S3107).
  • the method described above with reference to FIGS. 11 through 16 may be used to filter the boundary pixels of the prediction block.
  • S3107 only a pixel corresponding to two lines around the prediction block boundary may be filtered by the weak filter.
  • the decoder filters a boundary pixel corresponding to one line around the prediction block boundary (S3108).
  • the method described above with reference to FIGS. 17 to 22 may be used to filter the boundary pixels of the prediction block.
  • intra prediction mode (intraPredMode) of the current block is 2 or 3 to 10 after the step S3104, filtering of the boundary pixel is applied only when the width of the current block is less than or equal to the maximum block size of the boundary filtering.
  • step S3105 or S3108 may be subsequently performed.
  • intra prediction mode (intraPredMode) of the current block is 66 or 59 to 65 after step S3104, filtering of the boundary pixel is applied only when the height of the current block is equal to or less than the maximum block size of the boundary filtering. Can be. That is, if the height of the current block is less than or equal to the maximum block size of boundary filtering, step S3105 or S3108 may be performed subsequently.
  • FIG. 32 is a diagram illustrating an intra prediction method according to an embodiment of the present invention.
  • the decoder derives the intra prediction mode of the current block (S3201).
  • the intra prediction mode may have a prediction direction with respect to the position of a reference sample used for prediction according to the prediction mode, or may not have the direction.
  • the intra prediction mode may be defined as a total of 35 modes, or may be defined as a total of 67 modes.
  • the decoder checks whether neighboring samples of the current block can be used for prediction and configures reference samples to be used for prediction (S3202).
  • the neighboring samples of the current block are samples neighboring the left boundary of the current processing block of size nS ⁇ nS ′ and a total of 2 ⁇ nS ′ samples neighboring the bottom-left.
  • a sample neighboring the top boundary of the current block and a total of 2 ⁇ nS samples neighboring the top-right and one sample neighboring the top-left of the current block Can mean.
  • the decoder can construct reference samples for use in prediction by substituting samples that are not available with the available samples.
  • the decoder may perform filtering of the reference sample based on the intra prediction mode. Whether filtering of the reference sample is performed may be determined based on the size of the current block. In addition, the filtering method of the reference sample may be determined by the filtering flag transmitted from the encoder.
  • the decoder generates a prediction sample of the current block by using the reference sample (S3203).
  • the decoder generates prediction samples of the current block by using reference samples neighboring the current block according to the intra prediction mode of the current block.
  • the decoder filters the samples adjacent to the upper boundary and / or the left boundary of the current block among the prediction samples (S3204).
  • the decoder may filter predictive samples (ie, predictive block boundary pixels) adjacent to the boundary of the current block by using the method described with reference to FIGS. 5 to 31.
  • whether to filter the samples adjacent to the upper boundary of the current block is determined by considering only the width of the current block, and to the left boundary of the current block. Whether to filter adjacent samples may be determined by considering only the height of the current block.
  • filtering of samples adjacent to the upper boundary of the current block is performed when the width of the current block is less than or equal to a predefined size, and is applied to the left boundary of the current block. Filtering of adjacent samples may be performed when the height of the current block is less than or equal to a predefined size.
  • filtering of a sample adjacent to an upper boundary of the current block may predefine the height of the current block. It can be performed when the size is smaller than the prescribed size.
  • filtering of a sample adjacent to the left boundary of the current block may cause the width of the current block to be preset. It can be done when it is below the defined size.
  • the intra prediction mode of the current block when the intra prediction mode of the current block is the second mode, filtering of the samples adjacent to the upper boundary of the current block is performed in advance. It can be done when it is below the defined size. In this case, when the height of the current block exceeds 4, samples belonging to four lines adjacent to the upper boundary of the current block may be filtered. On the other hand, if the height of the current block does not exceed 4, only samples belonging to two lines adjacent to the upper boundary of the current block may be filtered.
  • the filtering of the samples adjacent to the left boundary of the current block may be predefined by the height of the current block. It can be performed when the size is smaller than the prescribed size. In this case, when the width of the current block exceeds 4, samples belonging to four lines adjacent to the left boundary of the current block may be filtered. On the other hand, if the width of the current block does not exceed 4, only samples belonging to two lines adjacent to the left boundary of the current block may be filtered.
  • 33 is a diagram more specifically illustrating an intra predictor according to an embodiment of the present invention.
  • the intra predictor implements the functions, processes, and / or methods proposed in FIGS. 5 to 31.
  • the intra predictor may be implemented as an encoding apparatus in combination with all or some of the components of the encoder illustrated in FIG. 1, or may be combined with all or some of the components of the decoder illustrated in FIG. 2. It may be implemented as a decoding device.
  • the intra prediction unit may include an intra prediction mode derivation unit 3301, a reference sample configuration unit 3302, a prediction sample generation unit 3303, and a prediction sample filtering unit 3304.
  • the intra prediction mode derivation unit 3301 derives the intra prediction mode of the current block.
  • the intra prediction mode may have a prediction direction with respect to the position of a reference sample used for prediction according to the prediction mode, or may not have the direction.
  • the intra prediction mode may be defined as a total of 35 modes, or may be defined as a total of 67 modes.
  • the reference sample constructer 3302 confirms whether neighboring samples of the current block can be used for prediction, and constructs reference samples to be used for prediction.
  • the neighboring samples of the current block are samples neighboring the left boundary of the current processing block of size nS ⁇ nS ′ and a total of 2 ⁇ nS ′ samples neighboring the bottom-left.
  • a sample neighboring the top boundary of the current block and a total of 2 ⁇ nS samples neighboring the top-right and one sample neighboring the top-left of the current block Can mean.
  • the reference sample constructer 3302 may construct reference samples to be used for prediction by substituting samples that are not available with the available samples.
  • the reference sample constructor 3302 may perform filtering of the reference sample based on the intra prediction mode. Whether filtering of the reference sample is performed may be determined based on the size of the current block. In addition, the filtering method of the reference sample may be determined by the filtering flag transmitted from the encoder.
  • the prediction sample generator 3303 generates a prediction sample of the current block by using the reference sample.
  • the prediction sample generator 3303 generates a prediction sample of the current block by using a reference sample neighboring the current block according to the intra prediction mode of the current block.
  • the prediction sample filtering unit 3304 filters a sample adjacent to the upper boundary and / or the left boundary of the current block among the prediction samples.
  • the prediction sample filtering unit 3304 may filter the prediction sample (ie, the prediction block boundary pixel) adjacent to the boundary of the current block by using the method described with reference to FIGS. 5 to 31.
  • the prediction sample filtering unit 3304 determines whether to filter a sample adjacent to an upper boundary of the current block by considering only the width of the current block. In addition, whether to filter the samples adjacent to the left boundary of the current block may be determined considering only the height of the current block.
  • the predictive sample filtering unit 3304 performs filtering of samples adjacent to the upper boundary of the current block only when the width of the current block is less than or equal to a predefined size.
  • filtering of the sample adjacent to the left boundary of the current block may be performed only when the height of the current block is equal to or less than a predefined size.
  • the predictive sample filtering unit 3304 may filter the samples adjacent to the upper boundary of the current block. It can be performed only when the height of the height is equal to or less than the predefined size.
  • the predictive sample filtering unit 3304 may perform filtering of the sample adjacent to the left boundary of the current block. This can be done only when the width of the block is less than or equal to the predefined size.
  • the prediction sample filtering unit 3304 may perform filtering of the samples adjacent to the upper boundary of the current block. This can be done only when the width of the block is less than or equal to the predefined size. In this case, when the height of the current block exceeds 4, the predictive sample filtering unit 3304 may filter only the samples belonging to four lines adjacent to the upper boundary of the current block. On the other hand, if the height of the current block does not exceed 4, the prediction sample filter 3304 may filter only the samples belonging to two lines adjacent to the upper boundary of the current block.
  • the predictive sample filtering unit 3304 may filter the samples adjacent to the left boundary of the current block. It can be performed only when the height of the height is equal to or less than the predefined size. In this case, when the width of the current block exceeds 4, the prediction sample filtering unit 3304 may filter only the samples belonging to four lines adjacent to the left boundary of the current block. On the other hand, if the width of the current block does not exceed 4, the prediction sample filtering unit 3304 may filter only the samples belonging to two lines adjacent to the left boundary of the current block.
  • each component or feature is to be considered optional unless stated otherwise.
  • Each component or feature may be embodied in a form that is not combined with other components or features. It is also possible to combine some of the components and / or features to form an embodiment of the invention.
  • the order of the operations described in the embodiments of the present invention may be changed. Some components or features of one embodiment may be included in another embodiment or may be replaced with corresponding components or features of another embodiment. It is obvious that the claims may be combined to form an embodiment by combining claims that do not have an explicit citation relationship in the claims or as new claims by post-application correction.
  • Embodiments according to the present invention may be implemented by various means, for example, hardware, firmware, software, or a combination thereof.
  • an embodiment of the present invention may include one or more application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), FPGAs ( field programmable gate arrays), processors, controllers, microcontrollers, microprocessors, and the like.
  • ASICs application specific integrated circuits
  • DSPs digital signal processors
  • DSPDs digital signal processing devices
  • PLDs programmable logic devices
  • FPGAs field programmable gate arrays
  • processors controllers, microcontrollers, microprocessors, and the like.
  • an embodiment of the present invention may be implemented in the form of a module, procedure, function, etc. that performs the functions or operations described above.
  • the software code may be stored in memory and driven by the processor.
  • the memory may be located inside or outside the processor, and may exchange data with the processor by various known means.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

본 발명에서는 영상 부호화/복호화 방법 및 이를 위한 장치가 개시된다. 구체적으로, 복호화 장치가 영상을 복호화하는 방법에 있어서, 현재 블록의 인트라 예측 모드를 도출하는 단계, 상기 현재 블록의 상단에 이웃한 샘플들과 좌측에 이웃한 샘플들로 참조 샘플들을 구성하는 단계, 상기 참조 샘플을 이용하여 상기 현재 블록의 예측 샘플을 생성하는 단계 및 상기 예측 샘플 중 상기 현재 블록의 상측 경계 및/또는 좌측 경계에 인접한 샘플을 필터링하는 단계를 포함하고, 상기 현재 블록이 비정방형(non-spuare) 블록인 경우, 상기 현재 블록의 상측 경계에 인접한 샘플의 필터링 여부는 상기 현재 블록의 너비(width)만을 고려하여 결정되고, 상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링 여부는 상기 현재 블록의 높이(height)만을 고려하여 결정될 수 있다.

Description

영상 부호화/복호화 방법 및 이를 위한 장치
본 발명은 정지 영상 또는 동영상 처리 방법에 관한 것으로서, 보다 상세하게 인트라 예측(intra prediction)된 예측 샘플을 필터링하는 방법 및 이를 지원하는 장치에 관한 것이다.
압축 부호화란 디지털화한 정보를 통신 회선을 통해 전송하거나, 저장 매체에 적합한 형태로 저장하기 위한 일련의 신호 처리 기술을 의미한다. 영상, 이미지, 음성 등의 미디어가 압축 부호화의 대상이 될 수 있으며, 특히 영상을 대상으로 압축 부호화를 수행하는 기술을 비디오 영상 압축이라고 일컫는다.
차세대 비디오 컨텐츠는 고해상도(high spatial resolution), 고프레임율(high frame rate) 및 영상 표현의 고차원화(high dimensionality of scene representation)라는 특징을 갖게 될 것이다. 그러한 컨텐츠를 처리하기 위해서는 메모리 저장(memory storage), 메모리 액세스율(memory access rate) 및 처리 전력(processing power) 측면에서 엄청난 증가를 가져올 것이다.
따라서, 차세대 비디오 컨텐츠를 보다 효율적으로 처리하기 위한 코딩 툴을 디자인할 필요가 있다.
본 발명의 목적은 화면 내 예측(인트라 예측)을 수행할 때 QTBT(Quad-Tree Binary-Tree) 블록 분할 구조에서 예측 블록의 경계 픽셀을 예측 방향에 따라 적응적으로 필터링하는 방법을 제안한다.
본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 일 양상은, 복호화 장치가 영상을 복호화하는 방법에 있어서, 현재 블록의 인트라 예측 모드를 도출하는 단계, 상기 현재 블록의 상단에 이웃한 샘플들과 좌측에 이웃한 샘플들로 참조 샘플들을 구성하는 단계, 상기 참조 샘플을 이용하여 상기 현재 블록의 예측 샘플을 생성하는 단계 및 상기 예측 샘플 중 상기 현재 블록의 상측 경계 및/또는 좌측 경계에 인접한 샘플을 필터링하는 단계를 포함하고, 상기 현재 블록이 비정방형(non-spuare) 블록인 경우, 상기 현재 블록의 상측 경계에 인접한 샘플의 필터링 여부는 상기 현재 블록의 너비(width)만을 고려하여 결정되고, 상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링 여부는 상기 현재 블록의 높이(height)만을 고려하여 결정될 수 있다.
본 발명의 다른 일 양상은, 영상을 복호화하는 복호화 장치에 있어서, 현재 블록의 인트라 예측 모드를 도출하는 인트라 예측 모드 도출부, 상기 현재 블록의 상단에 이웃한 샘플들과 좌측에 이웃한 샘플들로 참조 샘플들을 구성하는 참조 샘플 구성부, 상기 참조 샘플을 이용하여 상기 현재 블록의 예측 샘플을 생성하는 예측 샘플 생성부 및 상기 예측 샘플 중 상기 현재 블록의 상측 경계 및/또는 좌측 경계에 인접한 샘플을 필터링하는 예측 샘플 필터링부를 포함하고, 상기 현재 블록이 비정방형(non-spuare) 블록인 경우, 상기 현재 블록의 상측 경계에 인접한 샘플의 필터링 여부는 상기 현재 블록의 너비(width)만을 고려하여 결정되고, 상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링 여부를 상기 현재 블록의 높이(height)만을 고려하여 결정될 수 있다.
바람직하게, 상기 현재 블록의 인트라 예측 모드가 DC 모드인 경우, 상기 현재 블록의 상측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때 수행되고, 상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때 수행될 수 있다.
바람직하게, 상기 현재 블록의 인트라 예측 모드의 방향성이 수평(horizontal) 인트라 예측 모드를 기준으로 미리 정의된 범위 내에 속하는 경우, 상기 현재 블록의 상측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때 수행될 수 있다.
바람직하게, 상기 현재 블록의 인트라 예측 모드의 방향성이 수직(vertical) 인트라 예측 모드를 기준으로 미리 정의된 범위 내에 속하는 경우, 상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때 수행될 수 있다.
바람직하게, 총 67개의 인트라 예측 모드가 정의된 인트라 예측 모드 방법에서 상기 현재 블록의 인트라 예측 모드가 2번 모드인 경우, 상기 현재 블록의 상측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때 수행될 수 있다.
바람직하게, 상기 현재 블록의 높이(height)가 4를 초과하면, 상기 현재 블록의 상측 경계에 인접한 4개의 라인에 속하는 샘플이 필터링될 수 있다.
바람직하게, 상기 현재 블록의 높이(height)가 4를 초과하지 않으면, 상기 현재 블록의 상측 경계에 인접한 2개의 라인에 속하는 샘플만이 필터링될 수 있다.
바람직하게, 총 67개의 인트라 예측 모드가 정의된 인트라 예측 모드 방법에서 상기 현재 블록의 인트라 예측 모드가 66번 모드인 경우, 상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때 수행될 수 있다.
바람직하게, 상기 현재 블록의 너비(width)가 4를 초과하면, 상기 현재 블록의 좌측 경계에 인접한 4개의 라인에 속하는 샘플이 필터링될 수 있다.
바람직하게, 상기 현재 블록의 너비(width)가 4를 초과하지 않으면, 상기 현재 블록의 좌측 경계에 인접한 2개의 라인에 속하는 샘플만이 필터링될 수 있다.
본 발명의 실시예에 따르면, 본 발명은 정지 영상 또는 동영상을 화면 내 예측으로 예측하는 과정에서 예측 블록의 경계 픽셀을 예측 방향에 따라 적응적으로 필터링함으로써 압축 성능을 향상시킬 수 있다.
또한, 본 발명의 실시예에 따르면, 기존 블록경계 필터링 방법을 QTBT(Quad-Tree Binary-Tree) 블록 분할 구조에서 더욱 효율적으로 적용할 수 있다.
또한, 본 발명의 실시예에 따르면, 화면 내 예측(인트라 예측)을 수행할 때 예측 블록의 경계 픽셀을 예측 방향에 따라 적응적으로 필터링함으로써 QTBT(Quad-Tree Binary-Tree) 구조에서 후필터(또는 인루프 필터)를 효과적으로 수행할 수 있다.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명에 관한 이해를 돕기 위해 상세한 설명의 일부로 포함되는, 첨부 도면은 본 발명에 대한 실시예를 제공하고, 상세한 설명과 함께 본 발명의 기술적 특징을 설명한다.
도 1은 본 발명이 적용되는 실시예로서, 비디오 신호의 인코딩이 수행되는 인코더의 개략적인 블록도를 나타낸다.
도 2는 본 발명이 적용되는 실시예로서, 비디오 신호의 디코딩이 수행되는 디코더의 개략적인 블록도를 나타낸다.
도 3은 본 발명이 적용되는 실시예로서, 코딩 유닛의 분할 구조를 설명하기 위한 도면이다.
도 4는 본 발명이 적용되는 실시예로서, 코딩 유닛의 분할 구조 중 쿼드-트리 바이너리-트리를 설명하기 위한 도면이다.
도 5는 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드에 따른 예측 방향을 예시한다.
도 6은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측을 통하여 생성한 예측 블록을 예시한다.
도 7 및 도 8은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 DC 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 9는 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 수평(horizontal) 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 10은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 수직(vertical) 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 11 내지 도 13은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 2번 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 14 내지 도 16은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 35개 인트라 예측 모드 중에서 34번 모드 또는 67개 인트라 예측 모드 중에서 66번 예측 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 17은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 35개 인트라 예측 모드 중에서 3, 4, 5, 6번 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 18은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 35개 인트라 예측 모드 중에서 30, 31, 32, 33번 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 19 및 도 20은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 67개 인트라 예측 모드 중에서 3, 4, 5, 6, 7, 8, 9, 10번 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 21 및 도 22는 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 67개 인트라 예측 모드 중에서 59, 60, 61, 62, 63, 64, 65, 66번 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 23은 본 발명이 적용될 수 있는 실시예로서, QTBT 구조에서 예측 블록 내 경계 픽셀의 필터링의 과정을 예시한다.
도 24은 본 발명이 적용될 수 있는 실시예로서, QTBT 구조에서 예측자 필터링 프로세스를 예시한다.
도 25는 본 발명의 일 실시예에 따른 인트라 예측 모드가 DC 모드인 경우 경계 픽셀 필터링 방법을 예시하는 도면이다.
도 26은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 수평/수직 모드인 경우 경계 픽셀 필터링 프로세스를 예시하는 도면이다.
도 27은 본 발명의 일 실시예에 따른 예측 블록 경계 픽셀 필터링 방법을 예시하는 도면이다.
도 28 및 도 29는 본 발명의 일 실시예에 따른 예측 블록 경계 픽셀 필터링 방법을 예시하는 도면이다.
도 30은 본 발명의 일 실시예에 따른 경계 픽셀 필터링 방법을 예시하는 도면이다.
도 31은 본 발명의 일 실시예에 따른 경계 픽셀 필터링 방법을 예시하는 도면이다.
도 32는 본 발명의 일 실시예에 따른 인트라 예측 방법을 예시하는 도면이다.
도 33은 본 발명의 일 실시예에 따른 인트라 예측부를 보다 구체적으로 예시하는 도면이다.
이하, 본 발명에 따른 바람직한 실시 형태를 첨부된 도면을 참조하여 상세하게 설명한다. 첨부된 도면과 함께 이하에 개시될 상세한 설명은 본 발명의 예시적인 실시형태를 설명하고자 하는 것이며, 본 발명이 실시될 수 있는 유일한 실시형태를 나타내고자 하는 것이 아니다. 이하의 상세한 설명은 본 발명의 완전한 이해를 제공하기 위해서 구체적 세부사항을 포함한다. 그러나, 당업자는 본 발명이 이러한 구체적 세부사항 없이도 실시될 수 있음을 안다.
몇몇 경우, 본 발명의 개념이 모호해지는 것을 피하기 위하여 공지의 구조 및 장치는 생략되거나, 각 구조 및 장치의 핵심기능을 중심으로 한 블록도 형식으로 도시될 수 있다.
아울러, 본 발명에서 사용되는 용어는 가능한 한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 특정한 경우는 출원인이 임의로 선정한 용어를 사용하여 설명한다. 그러한 경우에는 해당 부분의 상세 설명에서 그 의미를 명확히 기재하므로, 본 발명의 설명에서 사용된 용어의 명칭만으로 단순 해석되어서는 안 될 것이며 그 해당 용어의 의미까지 파악하여 해석되어야 함을 밝혀두고자 한다.
이하의 설명에서 사용되는 특정 용어들은 본 발명의 이해를 돕기 위해서 제공된 것이며, 이러한 특정 용어의 사용은 본 발명의 기술적 사상을 벗어나지 않는 범위에서 다른 형태로 변경될 수 있다. 예를 들어, 신호, 데이터, 샘플, 픽쳐, 프레임, 블록 등의 경우 각 코딩 과정에서 적절하게 대체되어 해석될 수 있을 것이다.
이하 본 명세서에서 '블록' 또는 '유닛'은 예측, 변환 및/또는 양자화 등과 같은 인코딩/디코딩의 과정이 수행되는 단위를 의미하며, 샘플(또는 화소, 픽셀)의 다차원 배열로 구성될 수 있다.
'블록' 또는 '유닛'은 휘도(luma) 성분에 대한 샘플의 다차원 배열을 의미할 수도 있으며, 색차(chroma) 성분에 대한 샘플의 다차원 배열을 의미할 수도 있다. 또한, 휘도(luma) 성분에 대한 샘플의 다차원 배열과 색차(chroma) 성분에 대한 샘플의 다차원 배열을 모두 포함하여 통칭할 수도 있다.
예를 들어, '블록' 또는 '유닛'은 인코딩/디코딩의 수행 대상이 되는 샘플의 배열을 의미하는 코딩 블록(CB: Conding Block), 복수의 코딩 블록으로 구성되는 코딩 트리 블록(CTB: Coding Tree Block), 동일한 예측이 적용되는 샘플의 배열을 의미하는 예측 블록(PB: Prediction Block)(또는 예측 유닛(PU: Prediction Unit)), 동일한 변환이 적용되는 샘플의 배열을 의미하는 변환 블록(TB: Transform Block)(또는 변환 유닛(TU: Transform Unit))을 모두 포함하는 의미로 해석될 수 있다.
또한, 본 명세서 별도의 언급이 없는 한, '블록' 또는 '유닛'은 휘도(luma) 성분 및/또는 색차(chroma) 성분에 대한 샘플의 배열을 인코딩/디코딩하는 과정에서 이용되는 신택스 구조(syntax sturcture)를 포함하는 의미로 해석될 수 있다. 여기서, 신택스 구조는 특정한 순서로 비트스트림 내 존재하는 0 또는 그 이상의 신택스 요소(syntax element)를 의미하며, 신택스 요소는 비트스트림 내에서 표현되는 데이터의 요소를 의미한다.
예를 들어, '블록' 또는 '유닛'은 코딩 블록(CB)과 해당 코딩 블록(CB)의 인코딩을 위해 이용되는 신택스 구조를 포함하는 코딩 유닛(CU: Coding Unit), 복수의 코딩 유닛으로 구성되는 코딩 트리 유닛(CU: Coding Tree Unit), 예측 블록(PB)과 해당 예측 블록(PB)의 예측을 위해 이용되는 신택스 구조를 포함하는 예측 유닛(PU: Prediction Unit), 변환 블록(TB)와 해당 변환 블록(TB)의 변환을 위해 이용되는 신택스 구조를 포함하는 변환 유닛(TU: Transform Unit)을 모두 포함하는 의미로 해석될 수 있다.
또한, 본 명세서에서 '블록' 또는 '유닛'은 반드시 정사각형 또는 직사각형 형태의 샘플(또는 화소, 픽셀)의 배열로 한정되는 것은 아니며, 3개 이상의 꼭지점을 가지는 다각형 형태의 샘플(또는 화소, 픽셀)의 배열을 의미할 수도 있다. 이 경우, 폴리곤(Polygon) 블록 또는 폴리곤 유닛으로 지칭될 수도 있다.
도 1은 본 발명이 적용되는 실시예로서, 비디오 신호의 인코딩이 수행되는 인코더의 개략적인 블록도를 나타낸다.
도 1을 참조하면, 인코더(100)는 영상 분할부(110), 변환부(120), 양자화부(130), 역양자화부(140), 역변환부(150), 필터링부(160), 복호 픽쳐 버퍼(DPB: Decoded Picture Buffer)(170), 인터 예측부(180), 인트라 예측부(185) 및 엔트로피 인코딩부(190)를 포함하여 구성될 수 있다.
영상 분할부(110)는 인코더(100)에 입력된 입력 영상(또는, 픽쳐, 프레임)를 하나 이상의 처리 유닛으로 분할할 수 있다. 예를 들어, 상기 처리 유닛은 코딩 트리 유닛(CTU: Coding Tree Unit), 코딩 유닛(CU: Coding Unit), 예측 유닛(PU: Prediction Unit) 또는 변환 유닛(TU: Transform Unit)일 수 있다.
인코더(100)는 입력 영상 신호에서 인터 예측부(180) 또는 인트라 예측부(185)로부터 출력된 예측 신호를 감산하여 잔여 신호(residual signal)를 생성할 수 있고, 생성된 잔여 신호는 변환부(120)로 전송된다.
변환부(120)는 잔여 신호에 변환 기법을 적용하여 변환 계수(transform coefficient)를 생성할 수 있다. 예를 들어, 변환 기법은 DCT(Discrete Cosine Transform), DST(Discrete Sine Transform), KLT(Karhunen-Loeve Transform), GBT(Graph-Based Transform), 또는 CNT(Conditionally Non-linear Transform) 중 적어도 하나를 포함할 수 있다. 여기서, GBT는 픽셀 간의 관계 정보를 그래프로 표현한다고 할 때 이 그래프로부터 얻어진 변환을 의미한다. CNT는 이전에 복원된 모든 픽셀(all previously reconstructed pixel)를 이용하여 예측 신호를 생성하고 그에 기초하여 획득되는 변환을 의미한다. 또한, 변환 과정은 정사각형의 동일한 크기를 갖는 픽셀 블록에 적용될 수도 있고, 정사각형이 아닌 가변 크기의 블록에도 적용될 수 있다.
양자화부(130)는 변환 계수를 양자화하여 엔트로피 인코딩부(190)로 전송하고, 엔트로피 인코딩부(190)는 양자화된 신호를 엔트로피 코딩하여 비트스트림으로 출력할 수 있다.
양자화부(130)로부터 출력된 양자화된 신호는 예측 신호를 생성하기 위해 이용될 수 있다. 예를 들어, 양자화된 신호는 루프 내의 역양자화부(140) 및 역변환부(150)를 통해 역양자화 및 역변환을 적용함으로써 잔여 신호를 복원할 수 있다. 복원된 잔여 신호를 인터 예측부(180) 또는 인트라 예측부(185)로부터 출력된 예측 신호에 더함으로써 복원 신호가 생성될 수 있다.
필터링부(160)는 복원 신호에 필터링을 적용하여 이를 재생 장치로 출력하거나 복호 픽쳐 버퍼(170)에 전송한다. 복호 픽쳐 버퍼(170)에 전송된 필터링된 신호는 인터 예측부(180)에서 참조 픽쳐로 사용될 수 있다. 이처럼, 필터링된 픽쳐를 화면간 예측 모드에서 참조 픽쳐로 이용함으로써 화질 뿐만 아니라 부호화 효율도 향상시킬 수 있다.
복호 픽쳐 버퍼(170)는 필터링된 픽쳐를 인터 예측부(180)에서의 참조 픽쳐로 사용하기 위해 저장할 수 있다.
인터 예측부(180)는 복원 픽쳐를 참조하여 시간적 중복성 및/또는 공간적 중복성을 제거하기 위해 시간적 예측 및/또는 공간적 예측을 수행한다. 이때, 인터 예측 모드에서 전송되는 움직임 정보의 양을 줄이기 위해 주변 블록과 현재 블록 간의 움직임 정보의 상관성에 기초하여 움직임 정보를 예측할 수 있다.
인트라 예측부(185)는 현재 부호화를 진행하려고 하는 블록의 주변에 있는 샘플들을 참조하여 현재 블록을 예측할 수 있다. 상기 인트라 예측부(185)는 인트라 예측을 수행하기 위해 다음과 같은 과정을 수행할 수 있다. 먼저, 예측 신호를 생성하기 위해 필요한 참조 샘플을 준비할 수 있다. 그리고, 준비된 참조 샘플을 이용하여 예측 신호를 생성할 수 있다. 이후, 예측 모드를 부호화하게 된다. 이때, 참조 샘플은 참조 샘플 패딩 및/또는 참조 샘플 필터링을 통해 준비될 수 있다. 참조 샘플은 예측 및 복원 과정을 거쳤기 때문에 양자화 에러가 존재할 수 있다. 따라서, 이러한 에러를 줄이기 위해 인트라 예측에 이용되는 각 예측 모드에 대해 참조 샘플 필터링 과정이 수행될 수 있다.
상기 인터 예측부(180) 또는 상기 인트라 예측부(185)를 통해 생성된 예측 신호는 복원 신호를 생성하기 위해 이용되거나 잔여 신호를 생성하기 위해 이용될 수 있다.
도 2는 본 발명이 적용되는 실시예로서, 비디오 신호의 디코딩이 수행되는 디코더의 개략적인 블록도를 나타낸다.
도 2를 참조하면, 디코더(200)는 엔트로피 디코딩부(210), 역양자화부(220), 역변환부(230), 필터링부(240), 복호 픽쳐 버퍼(DPB: Decoded Picture Buffer Unit)(250), 인터 예측부(260) 및 인트라 예측부(265)를 포함하여 구성될 수 있다.
그리고, 디코더(200)를 통해 출력된 복원 영상 신호는 재생 장치를 통해 재생될 수 있다.
디코더(200)는 도 1의 인코더(100)로부터 출력된 신호을 수신할 수 있고, 수신된 신호는 엔트로피 디코딩부(210)를 통해 엔트로피 디코딩될 수 있다.
역양자화부(220)에서는 양자화 스텝 사이즈 정보를 이용하여 엔트로피 디코딩된 신호로부터 변환 계수(transform coefficient)를 획득한다.
역변환부(230)에서는 변환 계수를 역변환하여 잔여 신호를 획득하게 된다.
획득된 잔여 신호를 인터 예측부(260) 또는 인트라 예측부(265)로부터 출력된 예측 신호에 더함으로써 복원 신호가 생성된다.
필터링부(240)는 복원 신호에 필터링을 적용하여 이를 재생 장치로 출력하거나 복호 픽쳐 버퍼부(250)에 전송한다. 복호 픽쳐 버퍼부(250)에 전송된 필터링된 신호는 인터 예측부(260)에서 참조 픽쳐로 사용될 수 있다.
본 명세서에서, 인코더(100)의 필터링부(160), 인터 예측부(180) 및 인트라 예측부(185)에서 설명된 실시예들은 각각 디코더의 필터링부(240), 인터 예측부(260) 및 인트라 예측부(265)에도 동일하게 적용될 수 있다.
영상 분할(image patitioning)
도 3은 본 발명이 적용되는 실시예로서, 코딩 유닛의 분할 구조를 설명하기 위한 도면이다.
인코더는 하나의 영상(또는 픽쳐)을 사각형 형태의 코딩 트리 유닛(CTU: Coding Tree Unit) 단위로 분할할 수 있다. 그리고, 래스터 스캔 순서(raster scan order)에 따라 하나의 CTU 씩 순차적으로 인코딩한다.
하나의 CTU은 쿼드트리(quadtree, 이하 'QT'라 함) 구조로 분해될 수 있다. 예를 들어, 하나의 CTU은 정사각형 형태를 가지면서 각 변의 길이가 절반씩 감소하는 4개의 유닛으로 분할될 수 있다. 이러한 QT 구조의 분해는 재귀적으로 수행될 수 있다.
도 3을 참조하면, QT의 루트 노드(root node)는 CTU와 관련될 수 있다. QT는 리프 노드(leaf node)에 도달할 때까지 분할될 수 있고, 이때 상기 리프 노드는 코딩 유닛(CU: Coding Unit)으로 지칭될 수 있다.
도 3을 참조하면, CTU는 루트 노드(root node)에 해당되고, 가장 작은 깊이(depth)(즉, 레벨 0) 값을 가진다. 입력 영상의 특성에 따라 CTU가 분할되지 않을 수도 있으며, 이 경우 CTU은 CU에 해당된다.
CTU은 QT 형태로 분해될 수 있으며, 그 결과 레벨 1의 깊이를 가지는 하위 노드들이 생성될 수 있다. 그리고, 레벨 1의 깊이를 가지는 하위 노드에서 더 이상 분할되지 않은 노드(즉, 리프 노드)는 CU에 해당한다. 예를 들어, 도 3(b)에서 노드 a, b 및 j에 대응하는 CU(a), CU(b), CU(j)는 CTU에서 한 번 분할되었으며, 레벨 1의 깊이를 가진다.
하나의 CU에 대하여, 해당 CU이 분할 되는지 여부를 나타내는 정보가 디코더에 전달될 수 있다. 예를 들어, 상기 정보는 분할 플래그로 정의될 수 있으며, 신택스 엘리먼트 "split_cu_flag"로 표현될 수 있다. 상기 분할 플래그는 SCU을 제외한 모든 CU에 포함될 수 있다. 예를 들어, 상기 분할 플래그의 값이 '1'이면 해당 CU은 다시 4개의 CU으로 나누어지고, 상기 분할 플래그의 값이 '0'이면 해당 CU은 더 이상 나누어지지 않고 해당 CU에 대한 코딩 과정이 수행될 수 있다.
앞서 도 3의 실시예에서는 CU의 분할 과정에 대해 예로 들어 설명하였으나, 변환을 수행하는 기본 단위인 변환 유닛(TU: Transform Unit)의 분할 과정에 대해서도 상술한 QT 구조를 적용할 수 있다.
TU는 코딩하려는 CU로부터 QT 구조로 계층적으로 분할될 수 있다. 예를 들어, CU은 변환 유닛(TU)에 대한 트리의 루트 노트(root node)에 해당될 수 있다.
TU는 QT 구조로 분할되므로 CU로부터 분할된 TU는 다시 더 작은 하위 TU로 분할될 수 있다. 예를 들어, TU의 크기는 32x32, 16x16, 8x8, 4x4 중 어느 하나로 정해질 수 있으나, 본 발명은 이에 한정되지 않으며, 고해상도 영상일 경우, TU의 크기는 더 커지거나 다양해질 수 있다.
하나의 TU에 대하여, 해당 TU이 분할 되는지 여부를 나타내는 정보가 디코더에 전달될 수 있다. 예를 들어, 상기 정보는 분할 변환 플래그로 정의될 수 있으며, 신택스 엘리먼트 "split_transform_flag"로 표현될 수 있다.
상기에서 설명한 바와 같이, CU는 인트라 예측 또는 인터 예측이 수행되는 코딩의 기본 단위이다. 입력 영상을 보다 효과적으로 코딩하기 위하여 CU를 예측 유닛(PU: Prediction Unit) 단위로 분할할 수 있다.
PU는 예측 블록을 생성하는 기본 단위로서, 하나의 CU 내에서도 PU 단위로 서로 다르게 예측 블록을 생성할 수 있다. PU는 PU가 속하는 CU의 코딩 모드로 인트라 예측 모드가 사용되는지 인터 예측 모드가 사용되는지에 따라 상이하게 분할될 수 있다.
도 4는 본 발명이 적용되는 실시예로서, 코딩 유닛의 분할 구조 중 쿼드-트리 바이너리-트리를 설명하기 위한 도면이다.
인코더는 하나의 영상(또는 픽쳐)을 사각형 형태의 코딩 트리 유닛(CTU: Coding Tree Unit) 단위로 분할할 수 있다. 그리고, 래스터 스캔 순서(raster scan order)에 따라 하나의 CTU 씩 순차적으로 인코딩한다.
하나의 CTU은 쿼드트리(quadtree, 이하 'QT'라 함) 구조와 바이너리트리(binarytree, 이하 BT라 함)로 분해될 수 있다. 예를 들어, 하나의 CTU은 정사각형 형태를 가지면서 각 변의 길이가 절반씩 감소하는 4개의 유닛으로 분할하거나 직사각형 형태를 가지면서 너비 또는 높이 길이가 절반씩 감소하는 2개의 유닛으로 분할할 수 있다. 이러한 QT BT구조의 분해는 재귀적으로 수행될 수 있다.
도 4를 참조하면, QT의 루트 노드(root node)는 CTU와 관련될 수 있다. QT는 QT 리프 노드(QT leaf node)에 도달할 때까지 분할될 수 있고, QT의 리프노드는 BT로 분할할 수 있으며 BT 리프노드에 도달할 때까지 분할 될 수 있다.
도 4를 참조하면, CTU는 루트 노드(root node)에 해당되고, 가장 작은 깊이(depth)(즉, 레벨 0) 값을 가진다. 입력 영상의 특성에 따라 CTU가 분할되지 않을 수도 있으며, 이 경우 CTU은 CU에 해당된다.
CTU은 QT 형태로 분해될 수 있으며 QT 리프노드는 BT형태로 분할 될 수 있다. 그 결과 레벨 n의 깊이를 가지는 하위 노드들이 생성될 수 있다. 그리고, 레벨 n의 깊이를 가지는 하위 노드에서 더 이상 분할되지 않은 노드(즉, 리프 노드)는 CU에 해당한다.
하나의 CU에 대하여, 해당 CU이 분할 되는지 여부를 나타내는 정보가 디코더에 전달될 수 있다. 예를 들어, 상기 정보는 분할 플래그로 정의될 수 있으며, 신택스 엘리먼트 "split_cu_flag"로 표현될 수 있다. 또한 QT리프노드에서 BT로 분할 되는지 여부를 나타내는 정보가 디코더에 전달될 수 있다. 예를 들어, 상기 정보는 BT 분할 플래그로 정의될 수 있으며, 신택스 엘리먼트 “bt_split_flag”로 표현될 수 있다. 추가적으로 split_bt_flagh에 의하여 BT로 분할이 되는 경우, 절반크기의 너비를 가지는 직사각형 또는 절반크기의 높이를 가지는 직사각형 형태로 분할되도록 BT 분할 모양이 디코더에 전달될 수 있다. 예를 들어, 상기 정보는 BT분할 모드로 정의될 수 있으며, 신택스 엘리먼트 “bt_split_mode”로 표현될 수 있다.
인트라 예측(Intra Prediction)
도 5는 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드에 따른 예측 방향을 예시한다.
도 5(a)는 35개의 인트라 예측 모드를 예시한다.
표 1은 도 5(a)에서 예시하는 35개의 인트라 예측 모드에 대한 명칭을 예시한다.
Figure PCTKR2017009705-appb-T000001
도 5(b)는 67개의 인트라 예측 모드를 예시한다.
고해상도 영상의 인트라 부호화 및 더 정확한 예측을 위해 35가지 방향성 모드를 67가지 방향성 모드로 확장한다. 도 5(b)에서 점선으로 나타낸 화살표는 새로 추가된 32가지 방향성 모드를 나타낸다. 인트라 플래너(INTRA_PLANAR) 모드와 인트라 DC(INTRA_DC) 모드는 기존의 인트라 플래너 모드와 인트라 DC 모드와 동일하다. 새롭게 추가된 32가지 방향성 모드는 모든 블록 크기에서 적용되고 또한, 휘도 성분과 색차 성분의 인트라 부호화에서 모두 적용된다.
표 2는 도 5(b)에서 예시하는 67개의 인트라 예측 모드에 대한 명칭을 예시한다.
Figure PCTKR2017009705-appb-T000002
인트라 예측에서는 예측 모드에 따라 예측에 사용되는 참조 샘플의 위치에 대한 예측 방향을 가질 수 있다. 본 명세서에서는 예측 방향을 가지는 인트라 예측 모드를 인트라 방향성 예측 모드(Intra_Angular prediction mode) 또는 인트라 방향성 모드라고 한다. 반면, 예측 방향을 가지지 않는 인트라 예측 모드로서, 인트라 플래너(INTRA_PLANAR) 예측 모드, 인트라 DC(INTRA_DC) 예측 모드가 있다.
인트라 예측에서는 유도되는 예측 모드에 기반하여 현재 처리 블록에 대한 예측을 수행한다. 예측 모드에 따라 예측에 사용되는 참조 샘플과 구체적인 예측 방법이 달라지므로, 현재 블록이 인트라 예측 모드로 인코딩된 경우, 디코더는 예측을 수행하기 위해 현재 블록의 예측 모드를 유도할 수 있다.
디코더는 현재 처리 블록의 주변 샘플들(neighboring samples)이 예측에 사용될 수 있는지 확인하고, 예측에 사용할 참조 샘플들을 구성할 수 있다.
인트라 예측에서 현재 처리 블록의 주변 샘플들은 nSxnS 크기의 현재 처리 블록의 좌측(left) 경계에 인접한 샘플 및 좌하측(bottom-left)에 이웃하는 총 2xnS 개의 샘플들, 현재 처리 블록의 상측(top) 경계에 인접한 샘플 및 우상측(top-right)에 이웃하는 총 2xnS 개의 샘플들 및 현재 처리 블록의 좌상측(top-left)에 이웃하는 1개의 샘플을 의미한다.
그러나, 현재 처리 블록의 주변 샘플들 중 일부는 아직 디코딩되지 않았거나, 이용 가능하지 않을 수 있다. 이 경우, 디코더는 이용 가능한 샘플들로 이용 가능하지 않은 샘플들을 대체(substitution)하여 예측에 사용할 참조 샘플들을 구성할 수 있다.
디코더는 인트라 예측 모드에 기반하여 참조 샘플의 필터링을 수행할 수 있다.
디코더는 인트라 예측 모드와 참조 샘플들에 기반하여 현재 처리 블록에 대한 예측 블록을 생성할 수 있다. 즉, 디코더는 인트라 예측 모드 유도 단계에서 유도된 인트라 예측 모드와 참조 샘플 구성 단계와 참조 샘플 필터링 단계를 통해 획득한 참조 샘플들에 기반하여 현재 처리 블록에 대한 예측 블록을 생성할 수 있다.
참조 샘플 필터링
인코더/디코더는 화면 내 예측(즉, 인트라 예측) 과정에서 예측 방향에 따라 예측블록의 경계 픽셀을 필터링한다.
이하, HEVC 화면내 예측 과정에서 예측 블록의 블록 경계 픽셀에 필터링을 하는 방법과 현재 QTBT 구조에서 예측 블록의 블록 경계 픽셀에 필터링하는 방법에 대하여 설명한다.
이하, 본 명세서에서는 설명의 편의를 위해 픽셀의 좌표는 (x,y)로 표시하고, 여기서 x는 수평 방향의 x축의 좌표(좌측에서 우측으로 갈수록 값이 커짐), y는 수직 방향의 y축의 좌표(상측에서 하측으로 갈수록 값이 커짐)를 나타낸다고 가정한다. 또한, 예측 블록 내 좌상단 픽셀의 좌표를 (0,0)라고 가정한다.
또한, 이하 본 명세서에서는 설명의 편의를 위해 35개의 인트라 예측 모드를 가지는 인트라 예측 방법 및/또는 67개의 인트라 예측 모드를 가지는 인트라 예측 방법에서의 경계 픽셀 필터링 방법을 설명하나, 본 발명이 이에 한정되는 것은 아니며 인트라 예측 모드가 이와 상이하게 정의된 인트라 예측 방법에도 동일하게 적용될 수 있다.
도 6은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측을 통하여 생성한 예측 블록을 예시한다.
도 6에서 백색 점선 블록은 참조 픽셀(즉, 참조 샘플)(reference)을, 회색 실선 블록은 예측 블록(즉, 예측자(predictor))을 나타낸다.
이하, 설명의 편의를 위해 도 6에 예시된 예측 블록을 예를 들어 HEVC와 QTBT의 인트라 예측 모드에 따른 경계 픽셀 필터링에 대해서 설명한다.
먼저, 인트라 예측 모드가 DC 모드인 경우, 예측 블록의 경계 픽셀의 필터링 방법을 살펴본다.
도 7 및 도 8은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 DC 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 7 및 도 8에서 짙은 회색 실선 블록은 필터링이 수행된 예측 블록(즉, 필터링된 예측자(filetered predictor))을 나타내며, 도 7에서 볼 수 있듯이 DC 모드일 경우 좌측 블록 경계와 상측 블록 경계의 픽셀을 필터링한다.
도 8(a) 및 9(b)는 DC 모드의 경우 상측 블록 경계의 픽셀을 필터링하는 방법을 예시한다.
도 8(a)에서 예시된 바와 같이, 상측 블록 경계의 픽셀(801a)의 필터링은 예측 픽셀과 참조 픽셀을 이용하여 수행된다.
그리고, 상측 블록 경계의 픽셀(801a)의 각 픽셀의 위치에 따라 도 8(b)와 같이 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀(즉, 예측자) (x,y)의 값은 {(3 x 예측 픽셀(즉, 예측자) (x,y)의 값 + 참조 픽셀 (x,y-1)의 값 + 2) >> 2}와 같이 산출된다.
이하, 본 명세서에서 x >> y는 x의 2의 보수(two's complement) 정수 표현을 y 2진 숫자(binary digit)만큼 산출 우측 시프트(Arithmetic right shift)를 의미한다. 이 함수는 y의 음이 아닌 정수 값(non-negative integer value)에 대해서만 정의된다. 우측 시프트의 결과로서 최상위 비트(MSB: Most Significant Byte)로 시프트된 비트는 시프트 연산 이전에 x의 최상위 비트(MSB: Most Significant Byte)와 동일한 값을 가진다.
도 8(c) 및 8(d)는 DC 모드의 경우 좌측 블록 경계의 픽셀을 필터링하는 방법을 예시한다.
도 8(c)에서 예시된 바와 같이, 좌측 블록 경계의 픽셀(801c)의 필터링은 예측 픽셀과 참조 픽셀을 이용하여 수행된다.
그리고, 좌측 블록 경계의 픽셀(801c)의 각 픽셀의 위치에 따라 도 8(d)와 같이 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(3 x 예측 픽셀 (x,y)의 값 + 참조 픽셀 (x-1,y)의 값 + 2) >> 2}와 같이 산출된다.
다음으로, 인트라 예측 모드가 수평(horizontal) 모드인 경우, 예측 블록의 경계 픽셀의 필터링 방법을 살펴본다.
도 9는 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 수평(horizontal) 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 9에서는 HEVC와 같이 35개의 인트라 예측 모드를 가지는 인트라 예측 방법의 경우 10번 예측모드 또는 67개의 인트라 예측 모드를 가지는 인트라 예측 방법의 경우 18번, 19번, 17번 예측 모드로 예측 블록을 생성할 때, 블록 경계 필터링을 예시한다(앞서 도 5 참조).
도 9(a)에서 볼 수 있듯이, HEVC의 10번 모드, 또는 67개 예측 모드의 17,18,19번 모드는 수평(Horizontal) 방향의 예측 모드이기 때문에(앞서 도 5 참조) 상측 블록 경계의 픽셀(901a)에 대해서 필터링이 수행된다.
그리고, 상측 블록 경계의 픽셀(901a)의 각 픽셀의 위치에 따라 도 9(b) 및 9(c)와 같이 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {예측 픽셀 (x,y)의 값 + ((제1 참조 픽셀 (-1,-1)의 값 - 제2 참조 픽셀 (x,y-1)의 값) >> 1)}와 같이 산출된다.
다음으로, 인트라 예측 모드가 수직(vertical) 모드인 경우, 예측 블록의 경계 픽셀의 필터링 방법을 살펴본다.
도 10은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 수직(vertical) 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 10에서는 HEVC와 같이 35개의 인트라 예측 모드를 가지는 인트라 예측 방법의 경우 26번 예측모드 또는 67개의 인트라 예측 모드를 가지는 인트라 예측 방법의 경우 49번, 50번, 51번 예측 모드로 예측 블록을 생성할 때, 블록 경계 필터링을 예시한다.
도 10(a)에서 볼 수 있듯이, HEVC의 26번 모드, 또는 67개 예측 모드의 49,50,51번 모드는 수직(vertical) 방향의 예측 모드이기 때문에(앞서 도 5 참조) 좌측 블록 경계의 픽셀(1001a)에 대해서 필터링이 수행된다.
그리고, 좌측 블록 경계의 픽셀(1001a)의 각 픽셀의 위치에 따라 도 10(b) 및 10(c)와 같이 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {예측 픽셀 (x,y)의 값 + ((제1 참조 픽셀 (-1,-1)의 값 - 제2 참조 픽셀 (x-1,y)의 값) >> 1)}와 같이 산출된다.
앞서 도 9 및 도 10에서 설명한 수평(Horizontal) 또는 수직(Vertical) 예측 모드의 경우 예측 블록 경계의 픽셀의 필터링은 예측 블록의 크기가 특정 크기 이하(예를 들어, 16x16 이하)의 블록에만 수행될 수 있다.
다음으로, 인트라 예측 모드가 2번 모드(예를 들어, 앞서 도 5와 같이 35개 또는 67개의 인트라 예측 모드 중에서)인 경우, 예측 블록의 경계 픽셀의 필터링 방법을 살펴본다.
도 11 내지 도 13은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 2번 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 11과 같이, 인트라 예측 모드가 2번 모드인 경우, 좌측 하단의 참조 픽셀로부터 예측을 수행하기 때문에 상측의 4개의 예측 픽셀 라인들에 대해서 필터링이 수행된다.
도 12(a) 및 12(b)와 같이, 최상단으로부터 첫번째 예측 픽셀 라인의 픽셀(1201a)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 첫번째 예측 픽셀 라인의 필터링된 픽셀 (x,y)의 값은 {(8 x 예측 픽셀 (x,y)의 값 + 8 x 참조 픽셀 (x+1,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 12(c) 및 12(d)와 같이, 최상단으로부터 두번째 예측 픽셀 라인의 픽셀(1201c)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 두번째 예측 픽셀 라인의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 4 x 참조 픽셀 (x+2,y-2)의 값 + 8) >> 4}와 같이 산출된다.
도 13(a) 및 13(b)와 같이, 최상단으로부터 세번째 예측 픽셀 라인의 픽셀(1301a)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 세번째 예측 픽셀 라인의 필터링된 픽셀 (x,y)의 값은 {(14 x 예측 픽셀 (x,y)의 값 + 2 x 참조 픽셀 (x+3,y-3)의 값 + 8) >> 4}와 같이 산출된다.
도 13(c) 및 13(d)와 같이, 최상단으로부터 네번째 예측 픽셀 라인의 픽셀(1301c)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 네번째 예측 픽셀 라인의 필터링된 픽셀 (x,y)의 값은 {(14 x 예측 픽셀 (x,y)의 값 + 참조 픽셀 (x+4,y-4)의 값 + 8) >> 4}와 같이 산출된다.
다음으로, 인트라 예측 모드가 34번 모드(예를 들어, 앞서 도 5와 같이 35개 인트라 예측 모드 중에서) 또는 66번 모드(예를 들어, 앞서 도 5와 같이 67개의 인트라 예측 모드 중에서)인 경우, 예측 블록의 경계 픽셀의 필터링 방법을 살펴본다.
도 14 내지 도 16은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 35개 인트라 예측 모드 중에서 34번 모드 또는 67개 인트라 예측 모드 중에서 66번 예측 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
도 14와 같이, 인트라 예측 모드가 34번 모드(35개 인트라 예측 모드 경우) 또는 66번 모드(67개 인트라 예측 모드 경우)인 경우, 우측 상단의 참조 픽셀로부터 예측을 수행하기 때문에 좌측의 4개의 예측 픽셀 라인들에 대해서 필터링이 수행된다.
도 15(a) 및 15(b)와 같이, 최좌측으로부터 첫번째 예측 픽셀 라인의 픽셀(1501a)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 첫번째 예측 픽셀 라인의 필터링된 픽셀 (x,y)의 값은 {(8 x 예측 픽셀 (x,y)의 값 + 8 x 참조 픽셀 (x-1,y+1)의 값 + 8) >> 4}와 같이 산출된다.
도 15(c) 및 15(d)와 같이, 최좌측으로부터 두번째 예측 픽셀 라인의 픽셀(1501c)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 두번째 예측 픽셀 라인의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 4 x 참조 픽셀 (x-2,y+2)의 값 + 8) >> 4}와 같이 산출된다.
도 16(a) 및 16(b)와 같이, 최좌측으로부터 세번째 예측 픽셀 라인의 픽셀(1601a)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 세번째 예측 픽셀 라인의 필터링된 픽셀 (x,y)의 값은 {(14 x 예측 픽셀 (x,y)의 값 + 2 x 참조 픽셀 (x-3,y+3)의 값 + 8) >> 4}와 같이 산출된다.
도 16(c) 및 16(d)와 같이, 최좌측으로부터 네번째 예측 픽셀 라인의 픽셀(1601c)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀과 예측 픽셀이 결정된다.
즉, 네번째 예측 픽셀 라인의 필터링된 픽셀 (x,y)의 값은 {(15 x 예측 픽셀 (x,y)의 값 + 참조 픽셀 (x-4,y+4)의 값 + 8) >> 4}와 같이 산출된다.
다음으로, 인트라 예측 모드가 3, 4, 5, 6번 모드 또는 30, 31, 32, 33번 모드(예를 들어, 앞서 도 5와 같이 35개 인트라 예측 모드 중에서)인 경우, 예측 블록의 경계 픽셀의 필터링 방법을 살펴본다.
도 17은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 35개 인트라 예측 모드 중에서 3, 4, 5, 6번 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
인트라 예측 모드 3, 4, 5, 6번 모드는 좌측 참조 샘플로부터 예측을 수행하는 모드이기 때문에, 예측 블록의 상측 경계 픽셀에 필터링이 수행되며, 각 모드의 각도(즉, 예측 방향의 각도)에 따라 필터링에 이용되는 참조 픽셀의 위치와 참조 픽셀과 예측 픽셀의 가중치의 차이가 있다.
도 17(a)는 인트라 예측 모드 3번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 17(a)와 같이, 상측 블록 경계의 픽셀(1701a)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(8 x 예측 픽셀 (x,y)의 값 + 6 x 제1 참조 픽셀 (x+1,y-1)의 값 + 2 x 제2 참조 픽셀 (x+2,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 17(b)는 인트라 예측 모드 4번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 17(b)와 같이, 상측 블록 경계의 픽셀(1701b)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 2 x 제1 참조 픽셀 (x+1,y-1)의 값 + 2 x 제2 참조 픽셀 (x+2,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 17(c)는 인트라 예측 모드 5번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 17(c)와 같이, 상측 블록 경계의 픽셀(1701c)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 1 x 제1 참조 픽셀 (x+1,y-1)의 값 + 3 x 제2 참조 픽셀 (x+2,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 17(d)는 인트라 예측 모드 6번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 17(d)와 같이, 상측 블록 경계의 픽셀(1701d)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 3 x 제1 참조 픽셀 (x+2,y-1)의 값 + 1 x 제2 참조 픽셀 (x+3,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 18은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 35개 인트라 예측 모드 중에서 30, 31, 32, 33번 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
인트라 예측 모드 30, 31, 32, 33번 모드는 상측 참조 샘플로부터 예측을 수행하는 모드이기 때문에, 예측 블록의 좌측 경계 픽셀에 필터링이 수행되며, 각 모드의 각도(즉, 예측 방향의 각도)에 따라 필터링에 이용되는 참조 픽셀의 위치와 참조 픽셀과 예측 픽셀의 가중치의 차이가 있다.
도 18(a)는 인트라 예측 모드 30번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 18(a)와 같이, 좌측 블록 경계의 픽셀(1801a)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(8 x 예측 픽셀 (x,y)의 값 + 6 x 제1 참조 픽셀 (x-1,y+1)의 값 + 2 x 제2 참조 픽셀 (x-1,y+2)의 값 + 8) >> 4}와 같이 산출된다.
도 18(b)는 인트라 예측 모드 31번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 18(b)와 같이, 좌측 블록 경계의 픽셀(1801b)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 2 x 제1 참조 픽셀 (x-1,y+1)의 값 + 2 x 제2 참조 픽셀 (x-1,y+2)의 값 + 8) >> 4}와 같이 산출된다.
도 18(c)는 인트라 예측 모드 32번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 18(c)와 같이, 좌측 블록 경계의 픽셀(1801c)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 1 x 제1 참조 픽셀 (x-1,y+1)의 값 + 3 x 제2 참조 픽셀 (x-1,y+2)의 값 + 8) >> 4}와 같이 산출된다.
도 18(d)는 인트라 예측 모드 33번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 18(d)와 같이, 좌측 블록 경계의 픽셀(1801d)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 3 x 제1 참조 픽셀 (x-1,y+2)의 값 + 1 x 제2 참조 픽셀 (x-1,y+3)의 값 + 8) >> 4}와 같이 산출된다.
다음으로, 인트라 예측 모드가 3, 4, 5, 6, 7, 8, 9, 10번 모드(예를 들어, 앞서 도 5와 같이 67개 인트라 예측 모드 중에서)인 경우, 예측 블록의 경계 픽셀의 필터링 방법을 살펴본다.
도 19 및 도 20은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 67개 인트라 예측 모드 중에서 3, 4, 5, 6, 7, 8, 9, 10번 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
인트라 예측 모드 3, 4, 5, 6, 7, 8, 9, 10번 모드는 좌측 참조 샘플로부터 예측을 수행하는 모드이기 때문에, 예측 블록의 상측 경계 픽셀에 필터링이 수행되며, 각 모드의 각도(즉, 예측 방향의 각도)에 따라 필터링에 이용되는 참조 픽셀의 위치와 참조 픽셀과 예측 픽셀의 가중치의 차이가 있다.
도 19(a)는 인트라 예측 모드 3번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 19(a)와 같이, 상측 블록 경계의 픽셀(1901a)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(8 x 예측 픽셀 (x,y)의 값 + 7 x 제1 참조 픽셀 (x+1,y-1)의 값 + 1 x 제2 참조 픽셀 (x+2,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 19(b)는 인트라 예측 모드 4번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 19(b)와 같이, 상측 블록 경계의 픽셀(1901b)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(8 x 예측 픽셀 (x,y)의 값 + 6 x 제1 참조 픽셀 (x+1,y-1)의 값 + 2 x 제2 참조 픽셀 (x+2,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 19(c)는 인트라 예측 모드 5번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 19(c)와 같이, 상측 블록 경계의 픽셀(1901c)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 3 x 제1 참조 픽셀 (x+1,y-1)의 값 + 1 x 제2 참조 픽셀 (x+2,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 19(d)는 인트라 예측 모드 6번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 19(d)와 같이, 상측 블록 경계의 픽셀(1901d)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 2 x 제1 참조 픽셀 (x+1,y-1)의 값 + 2 x 제2 참조 픽셀 (x+2,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 20(a)는 인트라 예측 모드 7번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 20(a)와 같이, 상측 블록 경계의 픽셀(2001a)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 3 x 제1 참조 픽셀 (x+1,y-1)의 값 + 2 x 제2 참조 픽셀 (x+2,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 20(b)는 인트라 예측 모드 8번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 20(b)와 같이, 상측 블록 경계의 픽셀(2001b)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 1 x 제1 참조 픽셀 (x+1,y-1)의 값 + 3 x 제2 참조 픽셀 (x+2,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 20(c)는 인트라 예측 모드 9번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 20(c)와 같이, 상측 블록 경계의 픽셀(2001c)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 3 x 제1 참조 픽셀 (x+2,y-1)의 값 + 1 x 제2 참조 픽셀 (x+3,y-1)의 값 + 8) >> 4}와 같이 산출된다.
도 20(d)는 인트라 예측 모드 10번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 20(d)와 같이, 상측 블록 경계의 픽셀(2001d)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 상측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 3 x 제1 참조 픽셀 (x+2,y-1)의 값 + 1 x 제2 참조 픽셀 (x+3,y-1)의 값 + 8) >> 4}와 같이 산출된다.
다음으로, 인트라 예측 모드가 59, 60, 61, 62, 63, 64, 65, 66번 모드(예를 들어, 앞서 도 5와 같이 67개 인트라 예측 모드 중에서)인 경우, 예측 블록의 경계 픽셀의 필터링 방법을 살펴본다.
도 21 및 도 22는 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 67개 인트라 예측 모드 중에서 59, 60, 61, 62, 63, 64, 65, 66번 모드인 경우, 예측 블록의 경계 픽셀의 필터링을 설명하기 위한 도면이다.
인트라 예측 모드 59, 60, 61, 62, 63, 64, 65, 66번 모드는 상측 참조 샘플로부터 예측을 수행하는 모드이기 때문에, 예측 블록의 좌측 경계 픽셀에 필터링이 수행되며, 각 모드의 각도(즉, 예측 방향의 각도)에 따라 필터링에 이용되는 참조 픽셀의 위치와 참조 픽셀과 예측 픽셀의 가중치의 차이가 있다.
도 21(a)는 인트라 예측 모드 59번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 21(a)와 같이, 좌측 블록 경계의 픽셀(2101a)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 3 x 제1 참조 픽셀 (x-1,y+2)의 값 + 1 x 제2 참조 픽셀 (x-1,y+3)의 값 + 8) >> 4}와 같이 산출된다.
도 21(b)는 인트라 예측 모드 60번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 21(b)와 같이, 좌측 블록 경계의 픽셀(2101b)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 3 x 제1 참조 픽셀 (x-1,y+2)의 값 + 1 x 제2 참조 픽셀 (x-1,y+3)의 값 + 8) >> 4}와 같이 산출된다.
도 21(c)는 인트라 예측 모드 61번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 21(c)와 같이, 좌측 블록 경계의 픽셀(2101c)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 1 x 제1 참조 픽셀 (x-1,y+1)의 값 + 3 x 제2 참조 픽셀 (x-1,y+2)의 값 + 8) >> 4}와 같이 산출된다.
도 21(d)는 인트라 예측 모드 62번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 21(d)와 같이, 좌측 블록 경계의 픽셀(2101d)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 3 x 제1 참조 픽셀 (x-1,y+1)의 값 + 2 x 제2 참조 픽셀 (x-1,y+2)의 값 + 8) >> 4}와 같이 산출된다.
도 22(a)는 인트라 예측 모드 63번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 22(a)와 같이, 좌측 블록 경계의 픽셀(2201a)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 2 x 제1 참조 픽셀 (x-1,y+1)의 값 + 2 x 제2 참조 픽셀 (x-1,y+2)의 값 + 8) >> 4}와 같이 산출된다.
도 22(b)는 인트라 예측 모드 64번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 22(b)와 같이, 좌측 블록 경계의 픽셀(2201b)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(12 x 예측 픽셀 (x,y)의 값 + 3 x 제1 참조 픽셀 (x-1,y+1)의 값 + 1 x 제2 참조 픽셀 (x-1,y+2)의 값 + 8) >> 4}와 같이 산출된다.
도 22(c)는 인트라 예측 모드 65번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 22(c)와 같이, 좌측 블록 경계의 픽셀(2201c)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(8 x 예측 픽셀 (x,y)의 값 + 6 x 제1 참조 픽셀 (x-1,y+1)의 값 + 2 x 제2 참조 픽셀 (x-1,y+2)의 값 + 8) >> 4}와 같이 산출된다.
도 22(d)는 인트라 예측 모드 66번의 경우, 예측 블록의 경계 픽셀에 대한 필터링을 예시한다.
도 22(d)와 같이, 좌측 블록 경계의 픽셀(2201d)의 각 픽셀의 위치에 따라 필터링에 이용되는 참조 픽셀의 위치가 결정된다.
즉, 좌측 블록 경계의 필터링된 픽셀 (x,y)의 값은 {(8 x 예측 픽셀 (x,y)의 값 + 7 x 제1 참조 픽셀 (x-1,y+1)의 값 + 1 x 제2 참조 픽셀 (x-1,y+2)의 값 + 8) >> 4}와 같이 산출된다.
앞서 도 6 내지 도 22에서 설명한 바와 같이 각 인트라 예측 모드에 따라 인트라 예측을 통해 생성된 예측 블록 내 블록 경계 픽셀의 필터링이 수행된다. 다만, 현재까지는 이 필터링 프로세스는 예측 블록의 크기에 따라 필터링이 적용이 되는지 여부가 결정되었다. 이러한 프로세는 QTBT 블록 분할 구조에서도 마찬가지이다.
도 23은 본 발명이 적용될 수 있는 실시예로서, QTBT 구조에서 예측 블록 내 경계 픽셀의 필터링의 과정을 예시한다.
도 23을 참조하면, 디코더가 예측자(즉, 예측 샘플/픽셀) 필터링을 시작하면 예측자를 입력 값으로 수신하고(즉, 예측 블록 생성), 디코더는 인트라 예측 모드(intraPredMode)가 좌측 블록으로부터 예측 블록을 생성하는 18,19,17번 모드(즉, 수평(horizontal) 모드)인 경우 또는 상측 블록으로부터 예측 블록을 생성하는 49,50,51번 모드(즉, 수직(vertical) 모드)인지 여부를 체크한다(S2301)(즉, intraPredMode(18,19,20) || intraPredMode(50,51,49)).
S2301 단계에서, 인트라 예측 모드(intraPredMode)가 18,19,17번 모드(즉, 수평(horizontal) 모드) 또는 49,50,51번 모드(즉, 수직(vertical) 모드)이면, 디코더는 RDPCM(residual differential pulse code modulation) 및 TQ Bypass가 적용되지 않는지 여부를 체크한다(S2302)(즉, !(RDPCMenabled && TQ Bypass)).
여기서, RDPCM은 HEVC 범위확장(RangeExtention) 기술로써, 4:4:4와 같은 같은 포맷에서 잔차신호를 DPCM(differential pulse code modulation)해서 전송하는 기술이며, TQ Bypass는 변환/양자화 하지 않고 잔차신호를 전송하는 방법이다.
S2302 단계에서 RDPCM 및 TQ Bypass가 적용되지 않으면, 디코더는 예측 블록이 휘도(Luma) 블록이고, 예측 블록 크기가 16x16보다 작은지 여부를 체크한다(S2303)(즉, Luma && block<16x16). 그렇지 않으면, 디코더는 예측자 필터링을 종료한다.
S2303 단계에서 예측 블록이 휘도(Luma) 블록이고, 예측 블록 크기가 16x16보다 작은 경우, 디코더는 예측자 필터링 프로세스 1을 수행한다(S2304). 그렇지 않으면, 디코더는 예측자 필터링을 종료한다.
여기서, 예측자 필터링 프로세스 1의 과정은 18,19,17번 모드(즉, 수평(horizontal) 모드)인 경우는 앞서 도 9에 예시된 방법과 같이 수행되고, 49,50,51번 모드(즉, 수직(vertical) 모드)인 경우는 앞서 도 10에 예시된 방법과 같이 수행된다.
한편, S2301 단계에서, 인트라 예측 모드(intraPredMode)가 18,19,17번 모드(즉, 수평(horizontal) 모드) 및 49,50,51번 모드(즉, 수직(vertical) 모드)가 아니면, 디코더는 PDPC가 적용되지 않거나 너비(width)가 16 이상이거나 RSAF가 적용되지 않은지 체크한다(S2305)(즉, (!PDPC || width>=16 || !SPS.useRSAF).
여기서, PDPC(Position Dependent Intra Prediction Combination)는 자체 예측 블록을 생성하기 때문에 경계 필터가 필요치 않고, ARSS(Adaptive reference sample smoothing)는 참조 샘플을 필터링 하여 예측 블록을 생성하기에 과도한 필터링이 되는 것을 방지하기 위한 기술이다.
S2305 단계에서, PDPC가 적용되지 않거나 너비(width)가 16 이상이거나 RSAF가 적용되지 않은 경우, 디코더는 예측 블록이 휘도(Luma) 블록이고, 예측 블록의 너비(width)가 2보다 크고 예측 블록의 높이(height)가 2보다 큰지 여부를 체크한다(S2306). 그렇지 않으면, 디코더는 예측자 필터링을 종료한다.
S2306 단계에서, 예측 블록이 휘도(Luma) 블록이고, 예측 블록의 너비(width)가 2보다 크고 예측 블록의 높이(height)가 2보다 큰 경우, 디코더는 예측자 필터링 프로세스 2를 수행한다(S2307). 그렇지 않으면, 디코더는 예측자 필터링을 종료한다.
여기서, 예측자 필터링 프로세스 2는 도 24를 참조하여 설명한다.
한편, S2302 단계 및 S2305 단계는 선택적으로 구현되는 단계로서 생략될 수 있다.
도 24은 본 발명이 적용될 수 있는 실시예로서, QTBT 구조에서 예측자 필터링 프로세스를 예시한다.
도 24를 참조하면, 예측자 필터링 프로세스 2가 시작되면, 디코더는 인트라 예측 모드(intraPredMode)가 DC 또는 1번 초과 11번 미만 또는 58번 초과 66번 이하인지 여부를 체크한다(S2401)(즉, intraPredMode(DC) || 1<intraPredMode<11 || 58<intraPredMode <=66).
S2401 단계에서 인트라 예측 모드(intraPredMode)가 DC 또는 1번 초과 11번 미만 또는 58번 초과 66번 이하인 경우, 디코더는 인트라 예측 모드(intraPredMode)가 DC인지 여부를 체크한다(S2402). 그렇지 않으면, 디코더는 예측자 필터링 프로세스 2를 종료한다.
S2402 단계에서 인트라 예측 모드(intraPredMode)가 DC인 경우, 디코더는 경계 픽셀 필터링을 수행한다(S2403). 경계 픽셀 필터링은 앞서 도 7 및 도 8에 예시된 방법과 같이 수행된다.
반면, S2402 단계에서 인트라 예측 모드(intraPredMode)가 DC가 아닌 경우, 디코더는 인트라 예측 모드(intraPredMode)가 2,66번인지 여부를 체크한다(S2404).
S2404 단계에서 인트라 예측 모드(intraPredMode)가 66번 모드이면, 디코더는 경계 주변 2 라인에 해당하는 경계 픽셀을 필터링한다(S2405).
66 번 모드에 대한 경계 픽셀 필터링은 앞서 도 14 내지 도 16에서 예시된 방법을 따르되, 경계 주변 2 라인에 해당하는 경계 픽셀이 필터링된다.
디코더는 예측 블록의 너비(BlockWidth)가 2보다 큰지 여부를 체크한다(S2406).
S2406 단계에서 예측 블록의 너비(BlockWidth)가 2보다 큰 경우, 디코더는 경계 주변 2 초과 라인에 해당하는 경계 픽셀을 필터링한다(S2407). 그렇지 않으면, 디코더는 예측자 필터링 프로세스 2를 종료한다.
S2404 단계에서 인트라 예측 모드(intraPredMode)가 2번 모드이면, 디코더는 경계 주변 2 라인에 해당하는 경계 픽셀을 필터링한다(S2408).
2 번 모드에 대한 경계 픽셀 필터링은 앞서 도 11 내지 도 13에서 예시된 방법을 따르되, 경계 주변 2 라인에 해당하는 경계 픽셀이 필터링된다.
디코더는 예측 블록의 높이(BlockHeight)가 2보다 큰지 여부를 체크한다(S2409).
S2409 단계에서 예측 블록의 높이(BlockHeight)가 2보다 큰 경우, 디코더는 경계 주변 2 초과 라인에 해당하는 경계 픽셀을 필터링한다(S2410). 그렇지 않으면, 디코더는 예측자 필터링 프로세스 2를 종료한다.
S2404 단계에서 인트라 예측 모드(intraPredMode)가 66, 2번 모드가 아니면, 디코더는 경계 주변 1 라인에 해당하는 경계 픽셀을 필터링한다(S2411).
예측 블록 경계 픽셀 필터링 방법
1) 실시예 1
본 발명의 일실시예는 비정방형(Non-Square) 블록의 인트라 예측(화면 내 예측) 모드가 DC 모드인 경우 경계 픽셀 필터링 방법을 제안한다.
앞서 도 7 및 도 8에서 설명한 것과 같이 DC 모드의 경우 좌측, 상측 블록 경계의 픽셀에 대해서 필터링이 수행된다. 단, HEVC에서는 16x16 블록 크기 이하의 휘도(luma) 블록에 대해서만 필터링이 수행되었다.
이러한 제약 조건은 Non-Square 블록에 대해서 적응적으로 적용되어야 한다. 그러나 앞서 현재 정의된 방법에 따르면, 단지 16x16블록 이하의 블록에서만 경계 픽셀의 필터링이 적용되기 때문에, 32x4, 4x32, 4x32 등 가로(width) 또는 세로(height) 길이에 적응적으로 적용될 수 없다. 이러한 문제점을 해결하기 위하여 예측 모드가 DC 모드일 경우, 적응적인 조건에 의하여 필터링 수행 여부를 결정하는 방법을 제안한다.
도 25는 본 발명의 일 실시예에 따른 인트라 예측 모드가 DC 모드인 경우 경계 픽셀 필터링 방법을 예시하는 도면이다.
도 25를 참조하면, DC 모드 경계 픽셀 필터링이 시작되면, 디코더는 현재 예측 블록이 비정방형(non-square) 블록인지 여부를 체크한다(S2501).
S2501 단계에서 현재 예측 블록이 비정방형(non-square) 블록이면, 예측 블록의 너비(width)가 최대 필터링 크기(MAXIMUM_FILTERING_SIZE) 이하인지 여부를 체크한다(S2502)(즉, Width <= MAXIMUM_FILTERING_SIZE).
S2502 단계에서 예측 블록의 너비(width)가 최대 필터링 크기(MAXIMUM_FILTERING_SIZE) 이하이면, 디코더는 예측 블록의 상측 경계 픽셀의 필터링을 수행한다(S2503).
여기서, 상측 경계 픽셀 필터링은 앞서 도 7 및 도 8에서 예시된 방법을 따르되, 상측 경계 픽셀만이 필터링된다.
S2503 단계에서 상측 경계 픽셀 필터링이 수행된 후, 또는 앞서 S2502 단계에서 예측 블록의 너비(width)가 최대 필터링 크기(MAXIMUM_FILTERING_SIZE)를 초과하면, 디코더는 예측 블록의 높이(height)가 최대 필터링 크기(MAXIMUM_FILTERING_SIZE) 이하인지 여부를 체크한다(S2504)(즉, Height <= MAXIMUM_FILTERING_SIZE).
S2504 단계에서 예측 블록의 높이(height)가 최대 필터링 크기(MAXIMUM_FILTERING_SIZE) 이하이면, 디코더는 예측 블록의 좌측 경계 픽셀의 필터링을 수행한다(S2505). 그렇지 않으면, DC 모드 경계 픽셀 필터링을 종료한다.
여기서, 좌측 경계 픽셀 필터링은 앞서 도 7 및 도 8에서 예시된 방법을 따르되, 좌측 경계 픽셀만이 필터링된다.
한편, S2501 단계에서, 현재 예측 블록이 비정방형(non-square) 블록이 아니면(즉, 정방형 블록이면), 디코더는 DC 모드에 대한 기존의 경계 픽셀 필터링을 수행한다(S2506).
여기서, DC 모드에 대한 기존의 경계 픽셀 필터링은 앞서 도 7 및 도 8에서 예시된 방법을 따른다.
2) 실시예 2
본 발명의 일 실시예는 비정방형(Non-Square) 블록의 인트라 예측 모드가 수평(Horizontal) 또는 수직(Vertical) 모드인 경우 경계 픽셀 필터링 방법을 제안한다.
앞서 도 9에서 설명하였듯이 HEVC의 Horizontal 모드(또는 67개 인트라 예측 모드를 사용하는 예측 방법에서 17, 18, 19번 모드), 그리고 앞서 도 10에서 설명하였듯이 HEVC의 Vertical 모드(또는 67개 인트라 예측 모드를 사용하는 예측 방법에서 49, 50, 51번 모드)는 블록 경계 픽셀 필터링이 수행된다.
다만, 모든 조건에서 필터링이 수행되지 않고, 아래 도 26과 같은 조건에 의해 예측 블록의 크기가 16x16 이하의 블록에 대해서만 필터링이 수행된다.
도 26은 본 발명이 적용될 수 있는 실시예로서, 인트라 예측 모드가 수평/수직 모드인 경우 경계 픽셀 필터링 프로세스를 예시하는 도면이다.
도 26을 참조하면, 수평/수직 모드(또는 67개 인트라 예측 모드를 사용하는 예측 방법에서 17, 18, 19번 또는 49, 50, 51번 모드)의 경계 픽셀 필터링이 시작되면, 디코더는 현재 예측 블록에 RDPCM 및 TQ Bypass가 적용되지 않는지 여부를 체크한다(S2601)(즉, !(RDPCMenabled && TQ Bypass)).
S2601 단계에서, 현재 예측 블록에 RDPCM 및 TQ Bypass가 적용되지 않으면, 디코더는 현재 예측 블록이 휘도(luma) 블록이고 예측 블록의 크기가 16x16 이하인지 여부를 체크한다(S2602)(즉, Luma && block<=16x16).
S2602 단계에서 현재 예측 블록이 휘도(luma) 블록이고 예측 블록의 크기가 16x16 이하이면, 디코더는 예측자 필터링 프로세스 1을 수행한다(S2603). 그렇지 않으면, 수평/수직 모드(또는 67개 인트라 예측 모드를 사용하는 예측 방법에서 17, 18, 19번 또는 49, 50, 51번 모드)의 경계 픽셀 필터링이 종료된다.
여기서, 예측자 필터링 프로세스 1은 앞서 도 9 또는 도 10에서 예시된 방법을 따른다.
한편, S2601 단계는 선택적으로 구현되는 단계로서 생략될 수 있다.
도 26의 조건은 QTBT 구조의 분할로 인하여 다양한 크기를 가질 수 있는 블록에 대해서 적응적으로 적용하는 것이 요구된다. 예를 들어 현재 도 26의 조건에 따르면, 4x32, 32x4 등의 블록에서는 경계 픽셀 필터링이 수행되지 않는다.
이러한 문제를 해결하기 위하여, 본 실시예에서는 아래 도 27과 같이 좌측 블록으로부터 예측을 수행하는 17, 18, 19번 모드(67개의 예측 모드가 정의된 예측 방법의 경우) 또는 HEVC의 Horizontal 모드로 예측된 16xN, 8xN, 4xN 블록에 대해서는 상측 블록 경계 픽셀의 필터링이 수행될 수 있다. 동일하게, 상측 블록으로부터 예측을 수행하는 49, 50, 51번 모드(67개의 예측 모드가 정의된 예측 방법의 경우) 또는 HEVC의 Vertical 모드로 예측된 Nx4, Nx8, Nx16 블록에 대해서는 좌측 블록 경계 픽셀의 필터링이 수행될 수 있다.
도 27은 본 발명의 일 실시예에 따른 예측 블록 경계 픽셀 필터링 방법을 예시하는 도면이다.
도 27을 참조하면, 수평/수직 모드(또는 67개 인트라 예측 모드를 사용하는 예측 방법에서 17, 18, 19번 또는 49, 50, 51번 모드)의 경계 픽셀 필터링이 시작되면, 디코더는 현재 예측 블록에 RDPCM 및 TQ Bypass가 적용되지 않고, 현재 예측 블록이 휘도(luma) 블록인지 여부를 체크한다(S2701)(즉, !(RDPCMenabled && TQ Bypass) && Luma).
S2701 단계에서 현재 예측 블록에 RDPCM 및 TQ Bypass가 적용되지 않고, 현재 예측 블록이 휘도(luma) 블록인 경우, 디코더는 현재 예측 블록의 인트라 예측 모드(predIntraMode)의 방향성이 수평 인트라 예측 모드의 방향성(IntraDir(Hor))을 기준으로 미리 정의된 범위(-α ~ + α) 내 속하고, 블록의 너비(BlockWidth)가 미리 정의된 경계 픽셀 필터링의 최대 블록 크기(β) 이하인지 여부를 체크한다(S2702)(즉, (IntraDir(Hor)-α<=predIntraMode<=IntraDir(Hor)+α)&&(BlockWidth<=β). 그렇지 않으면, 경계 픽셀 필터링이 종료된다.
여기서, α는 인트라 방향 모드의 차이를 의미하고, β는 경계 필터링의 최대 블록 크기를 의미한다.
S2702 단계에서, 현재 예측 블록의 인트라 예측 모드(predIntraMode)의 방향성이 수평 인트라 예측 모드의 방향성(IntraDir(Hor))을 기준으로 미리 정의된 범위(-α ~ + α) 내 속하고, 블록의 너비(BlockWidth)가 미리 정의된 경계 픽셀 필터링의 최대 블록 크기(β) 이하이면, 디코더는 예측 블록의 상측 경계 픽셀 필터링을 수행한다(S2703).
여기서, 예측 블록의 상측 경계 픽셀 필터링은 앞서 도 9에서 설명한 방법이 이용될 수 있다.
예측 블록의 상측 경계 픽셀 필터링이 수행된 후, 또는 S2702 단계에서 인트라 예측 모드(predIntraMode)의 방향성이 수평 인트라 예측 모드의 방향성(IntraDir(Hor))을 기준으로 미리 정의된 범위(-α ~ + α)에 속하지 않거나 또는 블록의 너비(BlockWidth)가 미리 정의된 경계 픽셀 필터링의 최대 블록 크기(β)를 초과하면, 디코더는 현재 예측 블록의 인트라 예측 모드(predIntraMode)의 방향성이 수직 인트라 예측 모드의 방향성(IntraDir(Ver))을 기준으로 미리 정의된 범위(-α ~ + α) 내 속하고, 블록의 높이(BlockHeight)가 미리 정의된 경계 픽셀 필터링의 최대 블록 크기(β) 이하인지 여부를 체크한다(S2704)(즉, (IntraDir(Ver)-α<=predIntraMode<=IntraDir(Ver)+α)&&(BlockHeight<=β).
S2704 단계에서, 현재 예측 블록의 인트라 예측 모드(predIntraMode)의 방향성이 수직 인트라 예측 모드의 방향성(IntraDir(Ver))을 기준으로 미리 정의된 범위(-α ~ + α) 내 속하고, 블록의 높이(BlockHeight)가 미리 정의된 경계 픽셀 필터링의 최대 블록 크기(β) 이하이면, 디코더는 예측 블록의 좌측 경계 픽셀 필터링을 수행한다(S2705).
여기서, 예측 블록의 좌측 경계 픽셀 필터링은 앞서 도 10에서 설명한 방법이 이용될 수 있다.
한편, S2701 단계는 선택적으로 구현되는 단계로서 생략될 수 있다.
3) 실시예 3
본 발명의 일실시예는 인트라 예측 모드의 총 개수가 35개인 경우 Non-Square 블록의 인트라 예측 모드가 2 또는 34, 인트라 예측 모드의 총 개수가 67개인 경우 Non-Square 블록의 인트라 예측 모드가 2 또는 66인 경우, 예측 블록의 경계 픽셀에 대한 필터링 방법을 제안한다.
앞서 도 11 내지 도 16에서 설명한 바와 같이, 블록 경계 주변의 4개의 라인에 속하는 경계 픽셀을 필터링하는 모드들의 필터링 결정 구조는 일부 수정되어 현재 QTBT 구조에서 적용되고 있다. 그러나 이러한 결정구조는 현재 QTBT 구조에 최적화 되어 있지 않아, 본 실시예에서는 효율적으로 경계 픽셀의 필터링을 적용할 수 있는 방법을 제안한다.
QTBT 구조는 바이너리 트리로 인하여 최소 블록 사이즈가 휘도(Luma)에서 4xN, Nx4가 되고, 색채(chroma)의 경우 2xN,Nx2가 해당될 수 있다. 이러한 이유로 앞서 설명한 도 25와 같이 QTBT 에서 적용되고있는 필터링 구조는 4xN, Nx4 크기의 휘도(Luma) 블록에서 예측 블록 전체에 대한 필터링이 수행되며, 색채(Chroma) 역시 2xN, Nx2 블록의 모든 예측 픽셀이 필터링 되는 문제가 발생한다.
이러한 문제를 해결하기 위하여 본 발명의 일 실시예에서는 예측 방향과 블록 크기에 따른 경계 픽셀의 필터링 범위를 제한하는 방법을 제안한다. 이에 대하여 아래 도면을 참조하여 설명한다.
도 28 및 도 29는 본 발명의 일 실시예에 따른 예측 블록 경계 픽셀 필터링 방법을 예시하는 도면이다.
도 28은 인트라 예측 모드가 인트라 예측 모드의 총 개수가 35개/67개인 경우 2번 모드가 적용되는 경우를 예시하고, 도 29는 인트라 예측 모드가 인트라 예측 모드의 총 개수가 35개인 경우 34번 모드, 67개인 경우 66번 모드가 적용되는 경우를 예시한다.
도 28에서 예시된 바와 같이, 인트라 예측 모드가 2인 경우, 블록의 크기가 8xN일 경우, 기존에는 블록의 모든 픽셀에 대한 필터링을 수행되었지만, 본 실시예에서 제안하는 방법은 Nx4 블록을 위하여 예측 블록 경계의 2 픽셀 라인(2801b)만 필터링이 수행될 수 있다.
또한, 도 29에서 예시된 바와 같이, 인트라 예측 모드가 34/66인 경우, 블록의 크기가 Nx8일 경우, 기존에는 블록의 모든 픽셀에 대한 필터링을 수행되었지만, 본 실시예에서 제안하는 방법은 4xN 블록을 위하여 예측 블록 경계의 2 픽셀 라인에 속하는 픽셀만(2901b) 필터링이 수행될 수 있다.
여기서, 블록 경계 주변의 2개의 픽셀 라인에 속하는 픽셀을 필터링 하는 방법은 두 가지로 구분할 수 있다.
도 30과 같이 기존 필터링 방법을 이용하되 경계 주변의 2 픽셀 라인만 필터링이 수행될 수 있으며, 또는 도 31과 같이 해당 예측 블록을 위하여 새로운 약한(Weak) 필터가 적용될 수 있다.
도 30은 본 발명의 일 실시예에 따른 경계 픽셀 필터링 방법을 예시하는 도면이다.
도 30을 참조하면, 예측자 필터링 프로세스 2가 시작되면, 디코더는 인트라 예측 모드(intraPredMode)가 DC 또는 1번 초과 11번 미만 또는 58번 초과 66번 이하인지 여부를 체크한다(S3001)(즉, intraPredMode(DC) || 1<intraPredMode<11 || 58<intraPredMode <=66).
S3001 단계에서 인트라 예측 모드(intraPredMode)가 DC 또는 1번 초과 11번 미만 또는 58번 초과 66번 이하인 경우, 디코더는 인트라 예측 모드(intraPredMode)가 DC인지 여부를 체크한다(S3002). 그렇지 않으면, 디코더는 예측자 필터링 프로세스 2를 종료한다.
S3002 단계에서 인트라 예측 모드(intraPredMode)가 DC인 경우, 디코더는 경계 픽셀 필터링을 수행한다(S3003). 예측 블록 경계 픽셀 필터링은 앞서 도 7 및 도 8에 예시된 방법과 같이 수행된다.
반면, S3002 단계에서 인트라 예측 모드(intraPredMode)가 DC가 아닌 경우, 디코더는 인트라 예측 모드(intraPredMode)가 2 또는 66번 모드인지 여부를 체크한다(S3004).
S3004 단계에서 인트라 예측 모드(intraPredMode)가 2 또는 66번 모드이면, 디코더는 인트라 예측 모드(intraPredMode)가 2번 모드이고 블록 높이(Height)가 4 초과하거나 또는 인트라 예측 모드(intraPredMode)가 66번 모드이고 블록 너비(Width)가 4 초과하는지 여부를 체크한다(S3005)(즉, (intraPredMode(2) && blockHeight>4) || (intraPredMode(66) && blockWidth>4)).
S3005 단계에서 인트라 예측 모드(intraPredMode)가 2번 모드이고 블록 높이(Height)가 4 초과하거나 또는 인트라 예측 모드(intraPredMode)가 66번 모드이고 블록 너비(Width)가 4 초과하는 경우, 디코더는 예측 블록 경계 주변 4 라인에 속하는 경계 픽셀을 필터링한다(S3006). 그렇지 않으면, 디코더는 예측 블록 경계 주변 2 라인에 속하는 경계 픽셀을 필터링한다(S3007).
여기서, 예측 블록의 경계 픽셀을 필터링은 앞서 도 11 내지 도 16에서 설명한 방법이 이용될 수 있다. 다만, S3007에서는 예측 블록 경계 주변 2 라인에 속하는 픽셀만이 필터링될 수 있다.
S3004 단계에서, 인트라 예측 모드(intraPredMode)가 2 번 모드도 아니고 66번 모드도 아니면, 디코더는 예측 블록 경계 주변 1 라인에 해당하는 경계 픽셀을 필터링한다(S3008).
여기서, 예측 블록의 경계 픽셀을 필터링은 앞서 도 17 내지 도 22에서 설명한 방법이 이용될 수 있다.
한편, S3004 단계 이후에 현재 블록의 인트라 예측 모드(intraPredMode)가 2 번 또는 3 내지 10번 모드이면, 현재 블록의 너비(width)가 경계 필터링의 최대 블록 크기 이하인 경우에만, 경계 픽셀의 필터링이 적용될 수 있다. 즉, 현재 블록의 너비(width)가 경계 필터링의 최대 블록 크기 이하인 경우에, S3005 단계 또는 S3008 단계가 이어서 수행될 수 있다.
또한, S3004 단계 이후에 현재 블록의 인트라 예측 모드(intraPredMode)가 66 번 또는 59 내지 65번 모드이면, 현재 블록의 높이(height)가 경계 필터링의 최대 블록 크기 이하인 경우에만, 경계 픽셀의 필터링이 적용될 수 있다. 즉, 현재 블록의 높이(height)가 경계 필터링의 최대 블록 크기 이하인 경우에, S3005 단계 또는 S3008 단계가 이어서 수행될 수 있다.
도 31은 본 발명의 일 실시예에 따른 경계 픽셀 필터링 방법을 예시하는 도면이다.
도 31을 참조하면, 예측자 필터링 프로세스 2가 시작되면, 디코더는 인트라 예측 모드(intraPredMode)가 DC 또는 1번 초과 11번 미만 또는 58번 초과 66번 이하인지 여부를 체크한다(S3101)(즉, intraPredMode(DC) || 1<intraPredMode<11 || 58<intraPredMode <=66).
S3101 단계에서 인트라 예측 모드(intraPredMode)가 DC 또는 1번 초과 11번 미만 또는 58번 초과 66번 이하인 경우, 디코더는 인트라 예측 모드(intraPredMode)가 DC인지 여부를 체크한다(S3102). 그렇지 않으면, 디코더는 예측자 필터링 프로세스 2를 종료한다.
S3102 단계에서 인트라 예측 모드(intraPredMode)가 DC인 경우, 디코더는 경계 픽셀 필터링을 수행한다(S3103). 예측 블록 경계 픽셀 필터링은 앞서 도 7 및 도 8에 예시된 방법과 같이 수행된다.
반면, S3102 단계에서 인트라 예측 모드(intraPredMode)가 DC가 아닌 경우, 디코더는 인트라 예측 모드(intraPredMode)가 2 또는 66번 모드인지 여부를 체크한다(S3104).
S3104 단계에서 인트라 예측 모드(intraPredMode)가 2 또는 66번 모드이면, 디코더는 인트라 예측 모드(intraPredMode)가 2번 모드이고 블록 높이(Height)가 4 초과하거나 또는 인트라 예측 모드(intraPredMode)가 66번 모드이고 블록 너비(Width)가 4 초과하는지 여부를 체크한다(S3105) (즉, (intraPredMode(2) && blockHeight>4) || (intraPredMode(66) && blockWidth>4)).
S3105 단계에서 인트라 예측 모드(intraPredMode)가 2번 모드이고 블록 높이(Height)가 4 초과하거나 또는 인트라 예측 모드(intraPredMode)가 66번 모드이고 블록 너비(Width)가 4 초과하는 경우, 디코더는 예측 블록 경계 주변 4 라인에 속하는 경계 픽셀을 필터링한다(S3106). 그렇지 않으면, 디코더는 약한 필터에 의해 예측 블록 경계 주변 2 라인에 속하는 경계 픽셀을 필터링한다(S3107).
여기서, S3106 단계에서는 예측 블록의 경계 픽셀을 필터링은 앞서 도 11 내지 도 16에서 설명한 방법이 이용될 수 있다. S3107에서는 약한 필터에 의해 예측 블록 경계 주변 2 라인에 해당하는 픽셀만이 필터링될 수 있다.
S3104 단계에서, 인트라 예측 모드(intraPredMode)가 2 번 모드도 아니고 66번 모드도 아니면, 디코더는 예측 블록 경계 주변 1 라인에 해당하는 경계 픽셀을 필터링한다(S3108).
여기서, 예측 블록의 경계 픽셀을 필터링은 앞서 도 17 내지 도 22에서 설명한 방법이 이용될 수 있다.
한편, S3104 단계 이후에 현재 블록의 인트라 예측 모드(intraPredMode)가 2 번 또는 3 내지 10번 모드이면, 현재 블록의 너비(width)가 경계 필터링의 최대 블록 크기 이하인 경우에만, 경계 픽셀의 필터링이 적용될 수 있다. 즉, 현재 블록의 너비(width)가 경계 필터링의 최대 블록 크기 이하인 경우에, S3105 단계 또는 S3108 단계가 이어서 수행될 수 있다.
또한, S3104 단계 이후에 현재 블록의 인트라 예측 모드(intraPredMode)가 66 번 또는 59 내지 65번 모드이면, 현재 블록의 높이(height)가 경계 필터링의 최대 블록 크기 이하인 경우에만, 경계 픽셀의 필터링이 적용될 수 있다. 즉, 현재 블록의 높이(height)가 경계 필터링의 최대 블록 크기 이하인 경우에, S3105 단계 또는 S3108 단계가 이어서 수행될 수 있다.
도 32는 본 발명의 일 실시예에 따른 인트라 예측 방법을 예시하는 도면이다.
도 32를 참조하면, 디코더는 현재 블록의 인트라 예측 모드를 도출한다(S3201).
앞서 도 5에서 설명한 바와 같이, 인트라 예측 모드는 예측 모드에 따라 예측에 사용되는 참조 샘플의 위치에 대한 예측 방향성을 가질 수도 있으며, 방향성이 없을 수도 있다. 또한, 인트라 예측 모드는 총 35개의 모드로 정의될 수도 있으며, 또는 총 67개의 모드로 정의될 수도 있다.
디코더는 현재 블록의 주변 샘플들(neighboring samples)이 예측에 사용될 수 있는지 확인하고, 예측에 사용할 참조 샘플들을 구성한다(S3202).
예를 들어, 인트라 예측에서 현재 블록의 주변 샘플들은 nS×nS' 크기의 현재 처리 블록의 좌측(left) 경계에 이웃한 샘플 및 좌하측(bottom-left)에 이웃하는 총 2×nS' 개의 샘플들, 현재 블록의 상측(top) 경계에 이웃한 샘플 및 우상측(top-right)에 이웃하는 총 2×nS 개의 샘플들 및 현재 블록의 좌상측(top-left)에 이웃하는 1개의 샘플을 의미할 수 있다.
이때, 현재 블록의 주변 샘플들 중 일부는 아직 디코딩되지 않았거나, 이용 가능하지 않을 수 있다. 이 경우, 디코더는 이용 가능한 샘플들로 이용 가능하지 않은 샘플들을 대체(substitution)하여 예측에 사용할 참조 샘플들을 구성할 수 있다.
또한, 디코더는 인트라 예측 모드에 기반하여 참조 샘플의 필터링을 수행할 수 있다. 참조 샘플의 필터링 수행 여부는 현재 블록의 크기에 기반하여 결정될 수 있다. 또한, 참조 샘플의 필터링 방법은 인코더로부터 전달되는 필터링 플래그에 의해 결정될 수 있다.
디코더는 참조 샘플을 이용하여 현재 블록의 예측 샘플을 생성한다(S3203).
디코더는 현재 블록의 인트라 예측 모드에 따라 현재 블록에 이웃하는 참조 샘플을 이용하여 현재 블록의 예측 샘플을 생성한다.
디코더는 예측 샘플 중 현재 블록의 상측 경계 및/또는 좌측 경계에 인접한 샘플을 필터링한다(S3204).
디코더는 앞서 도 5 내지 도 31에서 설명한 방법을 이용하여 현재 블록의 경계에 인접한 예측 샘플(즉, 예측 블록 경계 픽셀)을 필터링할 수 있다.
앞서 설명한 바와 같이, 현재 블록이 비정방형(non-spuare) 블록인 경우, 현재 블록의 상측 경계에 인접한 샘플의 필터링 여부는 현재 블록의 너비(width)만을 고려하여 결정되고, 현재 블록의 좌측 경계에 인접한 샘플의 필터링 여부는 현재 블록의 높이(height)만을 고려하여 결정될 수 있다.
예를 들어, 현재 블록의 인트라 예측 모드가 DC 모드인 경우, 현재 블록의 상측 경계에 인접한 샘플의 필터링은 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때 수행되고, 현재 블록의 좌측 경계에 인접한 샘플의 필터링은 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때 수행될 수 있다.
또한, 현재 블록의 인트라 예측 모드의 방향성이 수평(horizontal) 인트라 예측 모드를 기준으로 미리 정의된 범위 내에 속하는 경우, 현재 블록의 상측 경계에 인접한 샘플의 필터링은 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때 수행될 수 있다.
또한, 현재 블록의 인트라 예측 모드의 방향성이 수직(vertical) 인트라 예측 모드를 기준으로 미리 정의된 범위 내에 속하는 경우, 현재 블록의 좌측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때 수행될 수 있다.
또한, 총 67개의 인트라 예측 모드가 정의된 인트라 예측 모드 방법에서 현재 블록의 인트라 예측 모드가 2번 모드인 경우, 현재 블록의 상측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때 수행될 수 있다. 이때, 현재 블록의 높이(height)가 4를 초과하면, 현재 블록의 상측 경계에 인접한 4개의 라인에 속하는 샘플들이 필터링될 수 있다. 반면, 현재 블록의 높이(height)가 4를 초과하지 않으면, 현재 블록의 상측 경계에 인접한 2개의 라인에 속하는 샘플만이 필터링될 수 있다.
또한, 총 67개의 인트라 예측 모드가 정의된 인트라 예측 모드 방법에서 현재 블록의 인트라 예측 모드가 66번 모드인 경우, 현재 블록의 좌측 경계에 인접한 샘플의 필터링은 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때 수행될 수 있다. 이때, 현재 블록의 너비(width)가 4를 초과하면, 현재 블록의 좌측 경계에 인접한 4개의 라인에 속하는 샘플이 필터링될 수 있다. 반면, 현재 블록의 너비(width)가 4를 초과하지 않으면, 현재 블록의 좌측 경계에 인접한 2개의 라인에 속하는 샘플만이 필터링될 수 있다.
도 33은 본 발명의 일 실시예에 따른 인트라 예측부를 보다 구체적으로 예시하는 도면이다.
도 33을 참조하면, 인트라 예측부는 앞서 도 5 내지 도 31에서 제안된 기능, 과정 및/또는 방법을 구현한다. 또한, 인트라 예측부는 앞서 도 1에서 예시된 인코더의 구성 요소들 중 전체 또는 일부와 결합되어 인코딩 장치로 구현될 수 있으며, 또는 앞서 도 2에서 예시된 디코더의 구성 요소들 중 전체 또는 일부와 결합되어 디코딩 장치로 구현될 수 있다.
구체적으로, 인트라 예측부는 인트라 예측 모드 도출부(3301), 참조 샘플 구성부(3302), 예측 샘플 생성부(3303) 및 예측 샘플 필터링부(3304)를 포함하여 구성될 수 있다.
인트라 예측 모드 도출부(3301)는 현재 블록의 인트라 예측 모드를 도출한다.
앞서 도 5에서 설명한 바와 같이, 인트라 예측 모드는 예측 모드에 따라 예측에 사용되는 참조 샘플의 위치에 대한 예측 방향성을 가질 수도 있으며, 방향성이 없을 수도 있다. 또한, 인트라 예측 모드는 총 35개의 모드로 정의될 수도 있으며, 또는 총 67개의 모드로 정의될 수도 있다.
참조 샘플 구성부(3302)는 현재 블록의 주변 샘플들(neighboring samples)이 예측에 사용될 수 있는지 확인하고, 예측에 사용할 참조 샘플들을 구성한다.
예를 들어, 인트라 예측에서 현재 블록의 주변 샘플들은 nS×nS' 크기의 현재 처리 블록의 좌측(left) 경계에 이웃한 샘플 및 좌하측(bottom-left)에 이웃하는 총 2×nS' 개의 샘플들, 현재 블록의 상측(top) 경계에 이웃한 샘플 및 우상측(top-right)에 이웃하는 총 2×nS 개의 샘플들 및 현재 블록의 좌상측(top-left)에 이웃하는 1개의 샘플을 의미할 수 있다.
이때, 현재 블록의 주변 샘플들 중 일부는 아직 디코딩되지 않았거나, 이용 가능하지 않을 수 있다. 이 경우, 참조 샘플 구성부(3302)는 이용 가능한 샘플들로 이용 가능하지 않은 샘플들을 대체(substitution)하여 예측에 사용할 참조 샘플들을 구성할 수 있다.
또한, 참조 샘플 구성부(3302)는 인트라 예측 모드에 기반하여 참조 샘플의 필터링을 수행할 수 있다. 참조 샘플의 필터링 수행 여부는 현재 블록의 크기에 기반하여 결정될 수 있다. 또한, 참조 샘플의 필터링 방법은 인코더로부터 전달되는 필터링 플래그에 의해 결정될 수 있다.
예측 샘플 생성부(3303)는 참조 샘플을 이용하여 현재 블록의 예측 샘플을 생성한다.
예측 샘플 생성부(3303)는 현재 블록의 인트라 예측 모드에 따라 현재 블록에 이웃하는 참조 샘플을 이용하여 현재 블록의 예측 샘플을 생성한다.
예측 샘플 필터링부(3304)는 예측 샘플 중 현재 블록의 상측 경계 및/또는 좌측 경계에 인접한 샘플을 필터링한다.
예측 샘플 필터링부(3304)는 앞서 도 5 내지 도 31에서 설명한 방법을 이용하여 현재 블록의 경계에 인접한 예측 샘플(즉, 예측 블록 경계 픽셀)을 필터링할 수 있다.
앞서 설명한 바와 같이, 현재 블록이 비정방형(non-spuare) 블록인 경우, 예측 샘플 필터링부(3304)는 현재 블록의 상측 경계에 인접한 샘플의 필터링 여부를 현재 블록의 너비(width)만을 고려하여 결정하고, 현재 블록의 좌측 경계에 인접한 샘플의 필터링 여부를 현재 블록의 높이(height)만을 고려하여 결정할 수 있다.
예를 들어, 현재 블록의 인트라 예측 모드가 DC 모드인 경우, 예측 샘플 필터링부(3304)는 현재 블록의 상측 경계에 인접한 샘플의 필터링을 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때만 수행하고, 현재 블록의 좌측 경계에 인접한 샘플의 필터링은 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때만 수행할 수 있다.
또한, 현재 블록의 인트라 예측 모드의 방향성이 수평(horizontal) 인트라 예측 모드를 기준으로 미리 정의된 범위 내에 속하는 경우, 예측 샘플 필터링부(3304)는 현재 블록의 상측 경계에 인접한 샘플의 필터링을 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때만 수행할 수 있다.
또한, 현재 블록의 인트라 예측 모드의 방향성이 수직(vertical) 인트라 예측 모드를 기준으로 미리 정의된 범위 내에 속하는 경우, 예측 샘플 필터링부(3304)는 현재 블록의 좌측 경계에 인접한 샘플의 필터링을 상기 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때만 수행할 수 있다.
또한, 총 67개의 인트라 예측 모드가 정의된 인트라 예측 모드 방법에서 현재 블록의 인트라 예측 모드가 2번 모드인 경우, 예측 샘플 필터링부(3304)는 현재 블록의 상측 경계에 인접한 샘플의 필터링을 상기 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때만 수행할 수 있다. 이때, 현재 블록의 높이(height)가 4를 초과하면, 예측 샘플 필터링부(3304)는 현재 블록의 상측 경계에 인접한 4개의 라인에 속하는 샘플들만 필터링할 수 있다. 반면, 현재 블록의 높이(height)가 4를 초과하지 않으면, 예측 샘플 필터링부(3304)는 현재 블록의 상측 경계에 인접한 2개의 라인에 속하는 샘플만 필터링할 수 있다.
또한, 총 67개의 인트라 예측 모드가 정의된 인트라 예측 모드 방법에서 현재 블록의 인트라 예측 모드가 66번 모드인 경우, 예측 샘플 필터링부(3304)는 현재 블록의 좌측 경계에 인접한 샘플의 필터링을 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때만 수행할 수 있다. 이때, 현재 블록의 너비(width)가 4를 초과하면, 예측 샘플 필터링부(3304)는 현재 블록의 좌측 경계에 인접한 4개의 라인에 속하는 샘플만 필터링할 수 있다. 반면, 현재 블록의 너비(width)가 4를 초과하지 않으면, 예측 샘플 필터링부(3304)는 현재 블록의 좌측 경계에 인접한 2개의 라인에 속하는 샘플만 필터링할 수 있다.
이상에서 설명된 실시예들은 본 발명의 구성요소들과 특징들이 소정 형태로 결합된 것들이다. 각 구성요소 또는 특징은 별도의 명시적 언급이 없는 한 선택적인 것으로 고려되어야 한다. 각 구성요소 또는 특징은 다른 구성요소나 특징과 결합되지 않은 형태로 실시될 수 있다. 또한, 일부 구성요소들 및/또는 특징들을 결합하여 본 발명의 실시예를 구성하는 것도 가능하다. 본 발명의 실시예들에서 설명되는 동작들의 순서는 변경될 수 있다. 어느 실시예의 일부 구성이나 특징은 다른 실시예에 포함될 수 있고, 또는 다른 실시예의 대응하는 구성 또는 특징과 교체될 수 있다. 특허청구범위에서 명시적인 인용 관계가 있지 않은 청구항들을 결합하여 실시예를 구성하거나 출원 후의 보정에 의해 새로운 청구항으로 포함시킬 수 있음은 자명하다.
본 발명에 따른 실시예는 다양한 수단, 예를 들어, 하드웨어, 펌웨어(firmware), 소프트웨어 또는 그것들의 결합 등에 의해 구현될 수 있다. 하드웨어에 의한 구현의 경우, 본 발명의 일 실시예는 하나 또는 그 이상의 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서, 콘트롤러, 마이크로 콘트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.
펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 일 실시예는 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차, 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드는 메모리에 저장되어 프로세서에 의해 구동될 수 있다. 상기 메모리는 상기 프로세서 내부 또는 외부에 위치하여, 이미 공지된 다양한 수단에 의해 상기 프로세서와 데이터를 주고 받을 수 있다.
본 발명은 본 발명의 필수적 특징을 벗어나지 않는 범위에서 다른 특정한 형태로 구체화될 수 있음은 당업자에게 자명하다. 따라서, 상술한 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니 되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.
이상, 전술한 본 발명의 바람직한 실시예는, 예시의 목적을 위해 개시된 것으로, 당업자라면 이하 첨부된 특허청구범위에 개시된 본 발명의 기술적 사상과 그 기술적 범위 내에서, 다양한 다른 실시예들을 개량, 변경, 대체 또는 부가 등이 가능할 것이다.

Claims (11)

  1. 복호화 장치가 영상을 복호화하는 방법에 있어서,
    현재 블록의 인트라 예측 모드를 도출하는 단계;
    상기 현재 블록의 상단에 이웃한 샘플들과 좌측에 이웃한 샘플들로 참조 샘플들을 구성하는 단계;
    상기 참조 샘플을 이용하여 상기 현재 블록의 예측 샘플을 생성하는 단계; 및
    상기 예측 샘플 중 상기 현재 블록의 상측 경계 및/또는 좌측 경계에 인접한 샘플을 필터링하는 단계를 포함하고,
    상기 현재 블록이 비정방형(non-spuare) 블록인 경우, 상기 현재 블록의 상측 경계에 인접한 샘플의 필터링 여부는 상기 현재 블록의 너비(width)만을 고려하여 결정되고, 상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링 여부는 상기 현재 블록의 높이(height)만을 고려하여 결정되는 영상 복호화 방법.
  2. 제1항에 있어서,
    상기 현재 블록의 인트라 예측 모드가 DC 모드인 경우,
    상기 현재 블록의 상측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때 수행되고,
    상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때 수행되는 영상 복호화 방법.
  3. 제1항에 있어서,
    상기 현재 블록의 인트라 예측 모드의 방향성이 수평(horizontal) 인트라 예측 모드를 기준으로 미리 정의된 범위 내에 속하는 경우,
    상기 현재 블록의 상측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때 수행되는 영상 복호화 방법.
  4. 제1항에 있어서,
    상기 현재 블록의 인트라 예측 모드의 방향성이 수직(vertical) 인트라 예측 모드를 기준으로 미리 정의된 범위 내에 속하는 경우,
    상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때 수행되는 영상 복호화 방법.
  5. 제1항에 있어서,
    총 67개의 인트라 예측 모드가 정의된 인트라 예측 모드 방법에서 상기 현재 블록의 인트라 예측 모드가 2번 모드인 경우,
    상기 현재 블록의 상측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 너비(width)가 미리 정의된 크기 이하일 때 수행되는 영상 복호화 방법.
  6. 제5항에 있어서,
    상기 현재 블록의 높이(height)가 4를 초과하면,
    상기 현재 블록의 상측 경계에 인접한 4개의 라인에 속하는 샘플이 필터링되는 영상 복호화 방법.
  7. 제5항에 있어서,
    상기 현재 블록의 높이(height)가 4를 초과하지 않으면,
    상기 현재 블록의 상측 경계에 인접한 2개의 라인에 속하는 샘플만이 필터링되는 영상 복호화 방법.
  8. 제1항에 있어서,
    총 67개의 인트라 예측 모드가 정의된 인트라 예측 모드 방법에서 상기 현재 블록의 인트라 예측 모드가 66번 모드인 경우,
    상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링은 상기 현재 블록의 높이(height)가 미리 정의된 크기 이하일 때 수행되는 영상 복호화 방법.
  9. 제8항에 있어서,
    상기 현재 블록의 너비(width)가 4를 초과하면,
    상기 현재 블록의 좌측 경계에 인접한 4개의 라인에 속하는 샘플이 필터링되는 영상 복호화 방법.
  10. 제8항에 있어서,
    상기 현재 블록의 너비(width)가 4를 초과하지 않으면,
    상기 현재 블록의 좌측 경계에 인접한 2개의 라인에 속하는 샘플만이 필터링되는 영상 복호화 방법.
  11. 영상을 복호화하는 복호화 장치에 있어서,
    현재 블록의 인트라 예측 모드를 도출하는 인트라 예측 모드 도출부;
    상기 현재 블록의 상단에 이웃한 샘플들과 좌측에 이웃한 샘플들로 참조 샘플들을 구성하는 참조 샘플 구성부;
    상기 참조 샘플을 이용하여 상기 현재 블록의 예측 샘플을 생성하는 예측 샘플 생성부; 및
    상기 예측 샘플 중 상기 현재 블록의 상측 경계 및/또는 좌측 경계에 인접한 샘플을 필터링하는 예측 샘플 필터링부를 포함하고,
    상기 현재 블록이 비정방형(non-spuare) 블록인 경우, 상기 현재 블록의 상측 경계에 인접한 샘플의 필터링 여부는 상기 현재 블록의 너비(width)만을 고려하여 결정되고, 상기 현재 블록의 좌측 경계에 인접한 샘플의 필터링 여부를 상기 현재 블록의 높이(height)만을 고려하여 결정되는 장치.
PCT/KR2017/009705 2016-09-05 2017-09-05 영상 부호화/복호화 방법 및 이를 위한 장치 WO2018044142A1 (ko)

Priority Applications (8)

Application Number Priority Date Filing Date Title
KR1020197007150A KR102447450B1 (ko) 2016-09-05 2017-09-05 영상 부호화/복호화 방법 및 이를 위한 장치
US16/330,329 US10979714B2 (en) 2016-09-05 2017-09-05 Image coding/decoding method and apparatus therefor
CN202111667873.4A CN114286091B (zh) 2016-09-05 2017-09-05 图像编码和解码方法、比特流存储介质及数据传输方法
KR1020227031991A KR20220129685A (ko) 2016-09-05 2017-09-05 영상 부호화/복호화 방법 및 이를 위한 장치
EP17847067.0A EP3509299B1 (en) 2016-09-05 2017-09-05 Image encoding/decoding method and device therefor
CN202111673992.0A CN114339225B (zh) 2016-09-05 2017-09-05 图像编码和解码装置及比特流存储介质和发送装置
CN201780068150.8A CN109937571B (zh) 2016-09-05 2017-09-05 图像编码/解码方法及其装置
US17/187,517 US11457219B2 (en) 2016-09-05 2021-02-26 Image coding/decoding method and apparatus therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201662383589P 2016-09-05 2016-09-05
US62/383,589 2016-09-05

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US16/330,329 A-371-Of-International US10979714B2 (en) 2016-09-05 2017-09-05 Image coding/decoding method and apparatus therefor
US17/187,517 Continuation US11457219B2 (en) 2016-09-05 2021-02-26 Image coding/decoding method and apparatus therefor

Publications (1)

Publication Number Publication Date
WO2018044142A1 true WO2018044142A1 (ko) 2018-03-08

Family

ID=61301123

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/009705 WO2018044142A1 (ko) 2016-09-05 2017-09-05 영상 부호화/복호화 방법 및 이를 위한 장치

Country Status (5)

Country Link
US (2) US10979714B2 (ko)
EP (1) EP3509299B1 (ko)
KR (2) KR20220129685A (ko)
CN (3) CN114286091B (ko)
WO (1) WO2018044142A1 (ko)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020043193A1 (en) * 2018-08-31 2020-03-05 Mediatek Inc. Method and apparatus of subblock deblocking in video coding
WO2020181979A1 (en) * 2019-03-12 2020-09-17 Zhejiang Dahua Technology Co., Ltd. Systems and methods for intra prediction
CN112204984A (zh) * 2018-06-27 2021-01-08 株式会社Kt 用于处理视频信号的方法和设备
CN112272950A (zh) * 2018-06-18 2021-01-26 交互数字Vc控股公司 帧内预测中的平面和dc模式的边界滤波
US11611757B2 (en) 2018-04-02 2023-03-21 Qualcomm Incorproated Position dependent intra prediction combination extended with angular modes

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018066958A1 (ko) * 2016-10-04 2018-04-12 주식회사 케이티 비디오 신호 처리 방법 및 장치
WO2019007493A1 (en) * 2017-07-04 2019-01-10 Huawei Technologies Co., Ltd. ENHANCEMENT OF FORCED LIMIT PARTITION
WO2019050292A1 (ko) * 2017-09-08 2019-03-14 주식회사 케이티 비디오 신호 처리 방법 및 장치
CN117201779A (zh) 2017-09-21 2023-12-08 株式会社Kt 视频信号处理方法及装置
WO2019137730A1 (en) * 2018-01-11 2019-07-18 Telefonaktiebolaget Lm Ericsson (Publ) Multiple boundary filtering
US10911765B2 (en) * 2018-08-01 2021-02-02 Tencent America LLC Method and apparatus for video coding
WO2020184637A1 (en) * 2019-03-12 2020-09-17 Sharp Kabushiki Kaisha Systems and methods for performing intra prediction coding in video coding
US20220337814A1 (en) * 2019-09-19 2022-10-20 Lg Electronics Inc. Image encoding/decoding method and device using reference sample filtering, and method for transmitting bitstream
CN111787334B (zh) * 2020-05-29 2021-09-14 浙江大华技术股份有限公司 一种用于帧内预测的滤波方法，滤波器及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130098254A (ko) * 2010-07-31 2013-09-04 엠앤케이홀딩스 주식회사 예측 블록 생성 장치
KR101369224B1 (ko) * 2007-03-28 2014-03-05 삼성전자주식회사 움직임 보상 필터링을 이용한 영상 부호화, 복호화 방법 및장치
KR101451923B1 (ko) * 2011-06-20 2014-10-23 한국전자통신연구원 영상 부호화/복호화 방법 및 그 장치
KR20150038688A (ko) * 2011-04-25 2015-04-08 엘지전자 주식회사 인트라 예측 방법과 이를 이용한 부호화기 및 복호화기
KR101643121B1 (ko) * 2011-01-12 2016-07-26 미쓰비시덴키 가부시키가이샤 화상 부호화 장치, 화상 복호 장치, 화상 부호화 방법, 화상 복호 방법 및 기억 매체

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008166916A (ja) * 2006-12-27 2008-07-17 Victor Co Of Japan Ltd イントラ予測符号化装置およびイントラ予測符号化方法
KR101510108B1 (ko) * 2009-08-17 2015-04-10 삼성전자주식회사 영상의 부호화 방법 및 장치, 그 복호화 방법 및 장치
KR20110113561A (ko) * 2010-04-09 2011-10-17 한국전자통신연구원 적응적인 필터를 이용한 인트라 예측 부호화/복호화 방법 및 그 장치
KR101373814B1 (ko) * 2010-07-31 2014-03-18 엠앤케이홀딩스 주식회사 예측 블록 생성 장치
KR20120012385A (ko) * 2010-07-31 2012-02-09 오수미 인트라 예측 부호화 장치
PT3125561T (pt) * 2010-08-17 2018-05-08 M&K Holdings Inc Método para restaurar um modo de previsão intra
CN105516722B (zh) * 2010-09-30 2018-12-07 三菱电机株式会社 运动图像编码装置及方法、运动图像解码装置及方法
EP2651137A4 (en) * 2010-12-08 2016-03-02 Lg Electronics Inc INTRA-PREDICTION METHOD, ENCODING APPARATUS, AND DECODING APPARATUS USING THE SAME
WO2012134046A2 (ko) * 2011-04-01 2012-10-04 주식회사 아이벡스피티홀딩스 동영상의 부호화 방법
WO2012150849A2 (ko) * 2011-05-04 2012-11-08 한국전자통신연구원 에러에 강인한 인-루프 필터를 이용하는 영상 부호화/복호화 방법과 그에 관한 시그널링 방법
US9602839B2 (en) * 2011-06-15 2017-03-21 Futurewei Technologies, Inc. Mode dependent intra smoothing filter table mapping methods for non-square prediction units
US9686543B2 (en) * 2011-06-15 2017-06-20 Electronics And Telecommunications Research Institute Method for coding and decoding scalable video and apparatus using same
KR101834541B1 (ko) * 2011-07-22 2018-03-07 에스케이텔레콤 주식회사 연성 디블록킹 필터링을 이용한 부호화/복호화 방법 및 장치
CN105306932B (zh) * 2011-10-24 2018-11-13 英孚布瑞智有限私人贸易公司 用于图像解码的方法和装置
KR20130049526A (ko) * 2011-11-04 2013-05-14 오수미 복원 블록 생성 방법
KR20130049525A (ko) * 2011-11-04 2013-05-14 오수미 잔차 블록 복원을 위한 역변환 방법
US9282344B2 (en) * 2011-11-04 2016-03-08 Qualcomm Incorporated Secondary boundary filtering for video coding
JP5711098B2 (ja) * 2011-11-07 2015-04-30 日本電信電話株式会社 画像符号化方法，画像復号方法，画像符号化装置，画像復号装置およびそれらのプログラム
CN110855984B (zh) * 2012-01-18 2023-05-02 韩国电子通信研究院 视频解码装置、视频编码装置和传输比特流的方法
US9332239B2 (en) * 2012-05-31 2016-05-03 Apple Inc. Systems and methods for RGB image processing
CA2878440A1 (en) * 2012-07-06 2014-01-09 Telefonaktiebolaget L M Ericsson (Publ) Restricted intra deblocking filtering for video coding
CN104838650B (zh) * 2012-09-28 2018-03-30 日本电信电话株式会社 帧内预测编码方法、帧内预测解码方法、帧内预测编码装置、帧内预测解码装置以及记录程序的记录介质
WO2015000168A1 (en) * 2013-07-05 2015-01-08 Mediatek Singapore Pte. Ltd. A simplified dc prediction method in intra prediction
WO2015057947A1 (en) * 2013-10-17 2015-04-23 Huawei Technologies Co., Ltd. Improved reference pixel selection and filtering for intra coding of depth map
AU2014216056A1 (en) * 2014-08-25 2016-03-10 Canon Kabushiki Kaisha Method, apparatus and system for predicting a block of video samples
KR101607611B1 (ko) * 2014-10-29 2016-03-30 삼성전자주식회사 영상의 부호화 방법 및 장치, 영상 복호화 방법 및 장치
SG11201703015PA (en) 2014-10-31 2017-05-30 Mediatek Inc Method of improved directional intra prediction for video coding
US10412402B2 (en) * 2014-12-11 2019-09-10 Mediatek Inc. Method and apparatus of intra prediction in video coding
KR101599646B1 (ko) * 2014-12-29 2016-03-14 이화여자대학교 산학협력단 Hevc 영상의 인트라 예측을 위한 적응적 필터링 방법, 인트라 예측을 위한 적응적 필터를 사용하는 영상 부호 방법 및 복호 방법
US9591325B2 (en) * 2015-01-27 2017-03-07 Microsoft Technology Licensing, Llc Special case handling for merged chroma blocks in intra block copy prediction mode
WO2016154963A1 (en) * 2015-04-01 2016-10-06 Mediatek Inc. Methods for chroma coding in video codec
CN108702502A (zh) * 2016-02-16 2018-10-23 三星电子株式会社 用于减小帧内预测误差的帧内预测方法和用于其的装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101369224B1 (ko) * 2007-03-28 2014-03-05 삼성전자주식회사 움직임 보상 필터링을 이용한 영상 부호화, 복호화 방법 및장치
KR20130098254A (ko) * 2010-07-31 2013-09-04 엠앤케이홀딩스 주식회사 예측 블록 생성 장치
KR101643121B1 (ko) * 2011-01-12 2016-07-26 미쓰비시덴키 가부시키가이샤 화상 부호화 장치, 화상 복호 장치, 화상 부호화 방법, 화상 복호 방법 및 기억 매체
KR20150038688A (ko) * 2011-04-25 2015-04-08 엘지전자 주식회사 인트라 예측 방법과 이를 이용한 부호화기 및 복호화기
KR101451923B1 (ko) * 2011-06-20 2014-10-23 한국전자통신연구원 영상 부호화/복호화 방법 및 그 장치

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3509299A4 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11611757B2 (en) 2018-04-02 2023-03-21 Qualcomm Incorproated Position dependent intra prediction combination extended with angular modes
CN112272950A (zh) * 2018-06-18 2021-01-26 交互数字Vc控股公司 帧内预测中的平面和dc模式的边界滤波
CN112204984A (zh) * 2018-06-27 2021-01-08 株式会社Kt 用于处理视频信号的方法和设备
WO2020043193A1 (en) * 2018-08-31 2020-03-05 Mediatek Inc. Method and apparatus of subblock deblocking in video coding
US11330277B2 (en) 2018-08-31 2022-05-10 Hfi Innovation Inc. Method and apparatus of subblock deblocking in video coding
US11765365B2 (en) 2018-08-31 2023-09-19 Hfi Innovation Inc. Method and apparatus of subblock deblocking in video coding
US11924444B2 (en) 2018-08-31 2024-03-05 Hfi Innovation Inc. Method and apparatus of subblock deblocking in video coding
WO2020181979A1 (en) * 2019-03-12 2020-09-17 Zhejiang Dahua Technology Co., Ltd. Systems and methods for intra prediction

Also Published As

Publication number Publication date
KR20220129685A (ko) 2022-09-23
US20210203940A1 (en) 2021-07-01
EP3509299A1 (en) 2019-07-10
US11457219B2 (en) 2022-09-27
KR102447450B1 (ko) 2022-09-26
CN109937571B (zh) 2022-01-18
CN114339225A (zh) 2022-04-12
EP3509299B1 (en) 2024-05-01
CN114286091A (zh) 2022-04-05
US20190208209A1 (en) 2019-07-04
EP3509299A4 (en) 2020-05-13
CN114286091B (zh) 2024-06-04
CN109937571A (zh) 2019-06-25
CN114339225B (zh) 2024-06-04
US10979714B2 (en) 2021-04-13
KR20190040000A (ko) 2019-04-16

Similar Documents

Publication Publication Date Title
WO2018044142A1 (ko) 영상 부호화/복호화 방법 및 이를 위한 장치
WO2018038492A1 (ko) 영상 부호화/복호화 방법 및 이를 위한 장치
WO2020262995A1 (ko) 2차 변환을 이용하는 비디오 신호 처리 방법 및 장치
WO2020145805A1 (ko) 다중 변환 커널을 사용하는 비디오 신호 처리 방법 및 장치
WO2018030599A1 (ko) 인트라 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
WO2017018664A1 (ko) 인트라 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
WO2018026166A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2019172705A1 (ko) 샘플 필터링을 이용한 영상 부호화/복호화 방법 및 장치
WO2017176030A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017171370A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018124843A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2020111785A1 (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
WO2017026681A1 (ko) 비디오 코딩 시스템에서 인터 예측 방법 및 장치
WO2018047995A1 (ko) 인트라 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
WO2017086747A1 (ko) 기하 변환 픽처를 이용한 영상의 부호화/복호화 방법 및 장치
WO2011126273A2 (en) Method and apparatus for encoding video by compensating for pixel value according to pixel groups, and method and apparatus for decoding video by the same
WO2011087295A2 (en) Method and apparatus for encoding and decoding video by using pattern information in hierarchical data unit
WO2020071616A1 (ko) Cclm에 기반한 인트라 예측 방법 및 그 장치
WO2020218861A1 (ko) 다중 변환 커널을 사용하는 비디오 신호 처리 방법 및 장치
WO2020162732A1 (ko) 비디오 신호를 처리하기 위한 방법 및 장치
WO2020111843A1 (ko) 화면 내 예측 필터링을 이용한 비디오 신호 처리 방법 및 장치
WO2020171681A1 (ko) 인트라 예측 기반 비디오 신호 처리 방법 및 장치
WO2019221465A1 (ko) 영상 복호화 방법/장치, 영상 부호화 방법/장치 및 비트스트림을 저장한 기록 매체
WO2020162690A1 (ko) 축소된 변환을 사용하여 비디오 신호를 처리하기 위한 방법 및 장치
WO2018174457A1 (ko) 영상 처리 방법 및 이를 위한 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17847067

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 20197007150

Country of ref document: KR

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: 2017847067

Country of ref document: EP

Effective date: 20190405