CN103096060B - 帧内图像预测编解码的自适应环路滤波方法及装置 - Google Patents

Abstract

本发明公开了一种帧内图像预测编解码的自适应环路滤波方法及装置，在进行帧内图像预测编解码的自适应环路滤波时，将进行帧内图像预测编码或解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元或解码单元的深度，估计当前4×4块的拉普拉斯特性；根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；可以在保持编解码性能的前提下减小编解码的运算复杂度，减轻编解码端的计算负荷，实现利用编解码信息，只需少量计算而直接得到块的分类信息，同时可以保证不过多影响自适应环路滤波器的效果。

Description

帧内图像预测编解码的自适应环路滤波方法及装置

技术领域

本发明涉及图像视频编解码和帧内图像预测技术领域，尤其涉及帧内图像预测编解码的自适应环路滤波方法及装置。

背景技术

在第五次JCT-VC(ajoint group ofexperts from MPEG and VCEG，MPEG和VCEG联合专家组)会议上，基于区域划分(RA)和块划分(BA)的帧内图像预测编解码的自适应环路滤波方法[1～3]被采纳。在基于区域划分的方法中，将图像按照位置直接分成16个区域，对应每个区域训练一套滤波器。而在基于块划分的方法中，整帧图像被划分成非重叠的4×4块，将整帧图像的所有块分成15类，训练出15种不同的滤波器系数。最后视频编码器通过计算率失真来得到应用于区域划分还是块划分对整帧图像滤波。由于基于区域划分无需计算图像信息，因此不会给解码端带来过高的计算复杂度，但从压缩性能上，由于基于块划分更多的考虑到了图像自身的特性，所以其性能较好。

在基于块划分的方法中，对每个4×4块中的像素{X(i，j)|i＝0，1，2，3；j＝0，1，2，3}，编解码端都要计算块的方向性信息以及拉普拉斯特性，具体如下：

H(i，j)＝abs(X(i，j)＜＜1-X(i，j-1)-X(i，j+1))

V(i，j)＝abs(X(i，j)＜＜1-X(i-1，j)-X(i+1，j))

L(i，j)＝∑_{n＝-1，0，1}∑_{＝m-1，0，1}H(i+m，j+n)+V(i+m，j+n)

其中，H(i，j)为水平梯度；V(i，j)为垂直梯度；水平梯度和垂直梯度反映块的方向性信息；L(i，j)为反映拉普拉斯特性的值。

对于每个4×4块，对每个像素的对应特性求和，可得

H_B＝∑_{i＝0，1，2，3}∑_{j＝0，1，2，3}H(i，j)

V_B＝∑_{i＝0，1，2，3}∑_{j＝0，1，2，3}V(i，j)

L_B＝∑_{i＝0，1，2，3}∑_{j＝0，1，2，3}L(i，j)

根据以上特性，可以将4×4块分成15类，对于每类块设计对应的滤波器进行环路滤波。

然而，由于上述计算在编解码端都要执行，会增加编解码端尤其是解码端的计算负荷。

基于上述块的划分算法，在JCTVC-F301[4]中，研究人员提出了一种快速计算块分类的方法。图1为基于4×4块自适应滤波器类别划分的快速算法示意图。如图1所示，在该算法中，对于每个4×4的块的16个像素中，只计算每2×2子块左上角的像素对应的方向性信息和拉普拉斯特性以减少编解码的计算复杂度。

但是，对于基于块的划分，该快速算法仍需计算至少图像总像素的1/4的梯度值和拉普拉斯特性信息，因此在解码端仍会带来一些的计算复杂度。

发明内容

本发明实施例提供一种帧内图像预测编码的自适应环路滤波方法，用以减少编码的计算复杂度，该方法包括：

将整帧图像划分成非重叠的4×4块；

将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性；

根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

根据所述滤波器系数，对整帧图像进行自适应环路滤波。

本发明实施例还提供一种帧内图像预测解码的自适应环路滤波方法，用以减少解码的计算复杂度，该方法包括：

将整帧图像划分成非重叠的4×4块；

将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性；

根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

根据所述滤波器系数，对整帧图像进行自适应环路滤波。

本发明实施例还提供一种视频编码器，用以减少编码的计算复杂度，该视频编码器包括：

图像划分模块，用于将整帧图像划分成非重叠的4×4块；

滤波器第一划分模块，用于将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

拉普拉斯特性估计模块，用于根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性；

滤波器第二划分模块，用于根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

滤波模块，用于根据所述滤波器系数，对整帧图像进行自适应环路滤波。

本发明实施例还提供一种视频解码器，用以减少解码的计算复杂度，该视频解码器包括：

图像划分模块，用于将整帧图像划分成非重叠的4×4块；

滤波器第一划分模块，用于将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

拉普拉斯特性估计模块，用于根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性；

滤波器第二划分模块，用于根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

滤波模块，用于根据所述滤波器系数，对整帧图像进行自适应环路滤波。

本发明实施例中进行帧内图像预测编解码的自适应环路滤波时，将进行帧内图像预测编码或解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元或解码单元的深度，估计当前4×4块的拉普拉斯特性；根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；相对于现有技术中基于块划分的帧内图像预测编解码的自适应环路滤波方法而言，可以在保持编解码性能的前提下减小编解码的运算复杂度，减轻编解码端的计算负荷，实现利用编解码信息，只需少量计算而直接得到块的分类信息，同时可以保证不过多影响自适应环路滤波器的效果。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1为现有技术中基于4×4块自适应滤波器类别划分的快速算法示意图；

图2为本发明实施例中帧内图像预测编码的自适应环路滤波方法的处理流程图；

图3为本发明实施例中当前HEVC编码方案中预测模式的示意图；

图4为本发明实施例中帧内图像预测解码的自适应环路滤波方法的处理流程图；

图5为本发明实施例中视频编码器的结构示意图；

图6为本发明实施例中视频解码器的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚明白，下面结合附图对本发明实施例做进一步详细说明。在此，本发明的示意性实施例及其说明用于解释本发明，但并不作为对本发明的限定。

发明人考虑到，在帧内图像预测编解码中，由于预测模式的方向性信息可以很好的反映图像的方向，而编码单元或解码单元的深度、预测单元的划分信息可以很好的反映图像的复杂程度，进而反映拉普拉斯特性信息，因此，本发明实施例提供一种帧内图像预测编解码的自适应环路滤波方法及视频编解码器，其应用预测模式的方向性信息、编码单元或解码单元的深度、预测单元的划分信息，对整帧图像以非重叠的4×4块为基本单位分类，从而在保持编解码性能的前提下减小编解码的运算复杂度。

图2为本发明实施例中帧内图像预测编码的自适应环路滤波方法的处理流程图。如图2所示，其处理流程可以包括：

步骤201、将整帧图像划分成非重叠的4×4块；

步骤202、将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

步骤203、根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性；

步骤204、根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

步骤205、根据所述滤波器系数，对整帧图像进行自适应环路滤波。

由图2所示流程可以得知，本发明实施例中进行帧内图像预测编码的自适应环路滤波时，将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性；根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；相对于现有技术中基于块划分的帧内图像预测编码的自适应环路滤波方法而言，可以在保持编码性能的前提下减小编码的运算复杂度，减轻编码端的计算负荷，实现利用编码信息，只需少量计算而直接得到块的分类信息，同时可以保证不过多影响自适应环路滤波器的效果。

具体实施时，将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器。图3为当前HEVC编码方案中预测模式的示意图。将这些预测模式按预测方向划分成五大类。例如，具体类划分与逻辑帧内预测模式的对应关系可以如表一所示。

表一帧内预测模式划分

	逻辑帧内预测模式
		滤波器组#0	DC，Planar
滤波器组#1	10～17
		滤波器组#2	1～9
滤波器组#3	18～24
		滤波器组#4	25～33

即具体的：划分{DC，Planar}预测模式对应于滤波器组N＝0；

划分{10～17}预测模式对应于滤波器组N＝1；

划分{1～9}预测模式对应于滤波器组N＝2；

划分{18～24}预测模式对应于滤波器组N＝3；

划分{25～33}预测模式对应于滤波器组N＝4；

其中，N为滤波器组号。

具体实施时，可以按如下公式，根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性，包括：

其中，d为反映当前4×4块的拉普拉斯特性的值；depth为当前4×4块对应的编码单元的深度；N为当前4×4块对应的预测单元所属的滤波器组号；size(PU)为当前4×4块对应的预测单元的大小。

进一步的，具体实施时，根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数，可以包括：

若编码单元的最大深度为4，按如下公式将d进一步分为3类：

Class(d)＝d/2

其中，Class(d)为d的类别；

按如下公式对分组后的各组滤波器进行分类：

其中，Filt_Num为滤波器的类别编号。

这样做而不直接算N×3+Class(d)的原因是在训练得到滤波器系数以后，要对其进行融合，因此具有相近特性的滤波器应该距离更近一些。

具体实施时，根据滤波器系数，对整帧图像进行自适应环路滤波，可以包括：进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为0。

在HM4.0中，对于区域划分和块划分的选择，由于区域划分在解码端的复杂度比块划分低，因此视频编码器更加倾向于选择区域划分来进行自适应环路滤波。因此在计算区域划分的率失真中，要减去一个常数，该常数即用于选择块划分的常数，现有技术中可按如下公式计算出该常数：

adExtraCost Re duction＝

(m_im_height×m_im_width)×m_dLanbdaLuma×2.0/4096.0

其中，adExtraCost Re duction为该常数，m_im_height为整帧图像的高度，m_im_width为整帧图像的宽度，m_dLanbdaLuma为拉格朗日常数。

本发明实施例的帧内图像预测编码的自适应环路滤波方法由于可以减小解码端块划分的计算复杂度，因此可以将该常数置为0，即

adExtraCost Re duction＝0

从而平衡视频解码器复杂度和性能之间的关系。

本发明实施例中还提供了一种帧内图像预测解码的自适应环路滤波方法，如下面的实施例所述。由于帧内图像预测解码的自适应环路滤波方法解决问题的原理与帧内图像预测编码的自适应环路滤波方法相似，因此帧内图像预测解码的自适应环路滤波方法的实施可以参见帧内图像预测编码的自适应环路滤波方法的实施，重复之处不再赘述。

如图4所示，本发明实施例中，帧内图像预测解码的自适应环路滤波方法的处理流程可以包括：

步骤401、将整帧图像划分成非重叠的4×4块；

步骤402、将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

步骤403、根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性；

步骤404、根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

步骤405、根据所述滤波器系数，对整帧图像进行自适应环路滤波。

由图4所示流程可以得知，本发明实施例中进行帧内图像预测解码的自适应环路滤波时，将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性；根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；相对于现有技术中基于块划分的帧内图像预测解码的自适应环路滤波方法而言，可以在保持解码性能的前提下减小解码的运算复杂度，减轻解码端的计算负荷，实现利用解码信息，只需少量计算而直接得到块的分类信息，同时可以保证不过多影响自适应环路滤波器的效果。

具体实施时，将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器，可以包括：

划分{DC，Planar}预测模式对应于滤波器组N＝0；

划分{10～17}预测模式对应于滤波器组N＝1；

划分{1～9}预测模式对应于滤波器组N＝2；

划分{18～24}预测模式对应于滤波器组N＝3；

划分{25～33}预测模式对应于滤波器组N＝4；

其中，N为滤波器组号。

具体实施时，可以按如下公式，根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性，包括：

其中，d为反映当前4×4块的拉普拉斯特性的值；depth为当前4×4块对应的解码单元的深度；N为当前4×4块对应的预测单元所属的滤波器组号；size(PU)为当前4×4块对应的预测单元的大小。

具体实施时，根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数，可以包括：

若解码单元的最大深度为4，按如下公式将d进一步分为3类：

Class(d)＝d/2

其中，Class(d)为d的类别；

按如下公式对分组后的各组滤波器进行分类：

其中，Filt_Num为滤波器的类别编号。

具体实施时，根据所述滤波器系数，对整帧图像进行自适应环路滤波，可以包括：

进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为0。

本发明实施例中还提供了一种视频编码器和视频解码器，如下面的实施例所述。由于视频编码器和视频解码器解决问题的原理与帧内图像预测编码和解码的自适应环路滤波方法相似，因此视频编码器和视频解码器的实施可以参见帧内图像预测编码和解码的自适应环路滤波方法的实施，重复之处不再赘述。

如图5所示，本发明实施例中的视频编码器可以包括：

图像划分模块501，用于将整帧图像划分成非重叠的4×4块；

滤波器第一划分模块502，用于将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

拉普拉斯特性估计模块503，用于根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性；

滤波器第二划分模块504，用于根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

滤波模块505，用于根据所述滤波器系数，对整帧图像进行自适应环路滤波。

一个实施例中，滤波器第一划分模块502，具体可以用于：

划分{DC，Planar}预测模式对应于滤波器组N＝0；

划分{10～17}预测模式对应于滤波器组N＝1；

划分{1～9}预测模式对应于滤波器组N＝2；

划分{18～24}预测模式对应于滤波器组N＝3；

划分{25～33}预测模式对应于滤波器组N＝4；

其中，N为滤波器组号。

一个实施例中，拉普拉斯特性估计模块503，具体可以用于：

按如下公式，根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性，包括：

其中，d为反映当前4×4块的拉普拉斯特性的值；depth为当前4×4块对应的编码单元的深度；N为当前4×4块对应的预测单元所属的滤波器组号；size(PU)为当前4×4块对应的预测单元的大小。

一个实施例中，滤波器第二划分模块504，具体可以用于：

若编码单元的最大深度为4，按如下公式将d进一步分为3类：

Class(d)＝d/2

其中，Class(d)为d的类别；

按如下公式对分组后的各组滤波器进行分类：

其中，Filt_Num为滤波器的类别编号。

一个实施例中，滤波模块505，具体可以用于：

进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为0。

如图6所示，本发明实施例中的视频解码器可以包括：

图像划分模块601，用于将整帧图像划分成非重叠的4×4块；

滤波器第一划分模块602，用于将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

拉普拉斯特性估计模块603，用于根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性；

滤波器第二划分模块604，用于根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

滤波模块605，用于根据所述滤波器系数，对整帧图像进行自适应环路滤波。

一个实施例中，滤波器第一划分模块602，具体可以用于：

划分{DC，Planar}预测模式对应于滤波器组N＝0；

划分{10～17}预测模式对应于滤波器组N＝1；

划分{1～9}预测模式对应于滤波器组N＝2；

划分{18～24}预测模式对应于滤波器组N＝3；

划分{25～33}预测模式对应于滤波器组N＝4；

其中，N为滤波器组号。

一个实施例中，拉普拉斯特性估计模块603，具体可以用于：

按如下公式，根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性，包括：

其中，d为反映当前4×4块的拉普拉斯特性的值；depth为当前4×4块对应的解码单元的深度；N为当前4×4块对应的预测单元所属的滤波器组号；size(PU)为当前4×4块对应的预测单元的大小。

一个实施例中，滤波器第二划分模块604，具体可以用于：

若解码单元的最大深度为4，按如下公式将d进一步分为3类：

Class(d)＝d/2

其中，Class(d)为d的类别；

按如下公式对分组后的各组滤波器进行分类：

其中，Filt_Num为滤波器的类别编号。

一个实施例中，滤波模块605，具体可以用于：

进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为0。

综上所述，本发明实施例中进行帧内图像预测编解码的自适应环路滤波时，将进行帧内图像预测编码或解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元或解码单元的深度，估计当前4×4块的拉普拉斯特性；根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；相对于现有技术中基于块划分的帧内图像预测编解码的自适应环路滤波方法而言，可以在保持编解码性能的前提下减小编解码的运算复杂度，减轻编解码端的计算负荷，实现利用编解码信息，只需少量计算而直接得到块的分类信息，同时可以保证不过多影响自适应环路滤波器的效果。

本领域内的技术人员应明白，本发明的实施例可提供为方法、***、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施例而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (20)

1.一种帧内图像预测编码的自适应环路滤波方法，其特征在于，该方法包括：

将整帧图像划分成非重叠的4×4块；

将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性；

根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

根据所述滤波器系数，对整帧图像进行自适应环路滤波。

2.如权利要求1所述的方法，其特征在于，将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器，包括：

划分{DC，Planar}预测模式对应于滤波器组N＝0；

划分{10～17}预测模式对应于滤波器组N＝1；

划分{1～9}预测模式对应于滤波器组N＝2；

划分{18～24}预测模式对应于滤波器组N＝3；

划分{25～33}预测模式对应于滤波器组N＝4；

其中，N为滤波器组号。

3.如权利要求1所述的方法，其特征在于，按如下公式，根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性，包括：

$d=\left\{\begin{array}{cc}\mathrm{depth}+1& \mathrm{size}\left(\mathrm{PU}\right)=N\×N\\ \mathrm{depth}& \mathrm{size}\left(\mathrm{PU}\right)=2N\×2N\end{array}\right.$

其中，d为反映当前4×4块的拉普拉斯特性的值；depth为当前4×4块对应的编码单元的深度；N为当前4×4块对应的预测单元所属的滤波器组号；size(PU)为当前4×4块对应的预测单元的大小。

4.如权利要求3所述的方法，其特征在于，根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数，包括：

若编码单元的最大深度为4，按如下公式将d进一步分为3类：

Class(d)＝d/2

其中，Class(d)为d的类别；

按如下公式对分组后的各组滤波器进行分类：

$\mathrm{Filt}\_\mathrm{Num}=\left\{\begin{array}{cc}N\×3+\mathrm{Class}\left(d\right)& N\%2=0\\ N\×3+3-\mathrm{Class}\left(d\right)& \mathrm{Else}\end{array}\right.$

其中，Filt_Num为滤波器的类别编号。

5.如权利要求1所述的方法，其特征在于，根据所述滤波器系数，对整帧图像进行自适应环路滤波，包括：

进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为0。

6.一种帧内图像预测解码的自适应环路滤波方法，其特征在于，该方法包括：

将整帧图像划分成非重叠的4×4块；

将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性；

根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

根据所述滤波器系数，对整帧图像进行自适应环路滤波。

7.如权利要求6所述的方法，其特征在于，将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器，包括：

划分{DC，Planar}预测模式对应于滤波器组N＝0；

划分{10～17}预测模式对应于滤波器组N＝1；

划分{1～9}预测模式对应于滤波器组N＝2；

划分{18～24}预测模式对应于滤波器组N＝3；

划分{25～33}预测模式对应于滤波器组N＝4；

其中，N为滤波器组号。

8.如权利要求6所述的方法，其特征在于，按如下公式，根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性，包括：

$d=\left\{\begin{array}{cc}\mathrm{depth}+1& \mathrm{size}\left(\mathrm{PU}\right)=N\×N\\ \mathrm{depth}& \mathrm{size}\left(\mathrm{PU}\right)=2N\×2N\end{array}\right.$

其中，d为反映当前4×4块的拉普拉斯特性的值；depth为当前4×4块对应的解码单元的深度；N为当前4×4块对应的预测单元所属的滤波器组号；size(PU)为当前4×4块对应的预测单元的大小。

9.如权利要求8所述的方法，其特征在于，根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数，包括：

若解码单元的最大深度为4，按如下公式将d进一步分为3类：

Class(d)＝d/2

其中，Class(d)为d的类别；

按如下公式对分组后的各组滤波器进行分类：

$\mathrm{Filt}\_\mathrm{Num}=\left\{\begin{array}{cc}N\×3+\mathrm{Class}\left(d\right)& N\%2=0\\ N\×3+3-\mathrm{Class}\left(d\right)& \mathrm{Else}\end{array}\right.$

其中，Filt_Num为滤波器的类别编号。

10.如权利要求6所述的方法，其特征在于，根据所述滤波器系数，对整帧图像进行自适应环路滤波，包括：

进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为0。

11.一种视频编码器，其特征在于，包括：

图像划分模块，用于将整帧图像划分成非重叠的4×4块；

滤波器第一划分模块，用于将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

拉普拉斯特性估计模块，用于根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性；

滤波器第二划分模块，用于根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

滤波模块，用于根据所述滤波器系数，对整帧图像进行自适应环路滤波。

12.如权利要求11所述的视频编码器，其特征在于，所述滤波器第一划分模块，具体用于：

划分{DC，Planar}预测模式对应于滤波器组N＝0；

划分{10～17}预测模式对应于滤波器组N＝1；

划分{1～9}预测模式对应于滤波器组N＝2；

划分{18～24}预测模式对应于滤波器组N＝3；

划分{25～33}预测模式对应于滤波器组N＝4；

其中，N为滤波器组号。

13.如权利要求11所述的视频编码器，其特征在于，所述拉普拉斯特性估计模块，具体用于：

按如下公式，根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元的深度，估计当前4×4块的拉普拉斯特性，包括：

$d=\left\{\begin{array}{cc}\mathrm{depth}+1& \mathrm{size}\left(\mathrm{PU}\right)=N\×N\\ \mathrm{depth}& \mathrm{size}\left(\mathrm{PU}\right)=2N\×2N\end{array}\right.$

其中，d为反映当前4×4块的拉普拉斯特性的值；depth为当前4×4块对应的编码单元的深度；N为当前4×4块对应的预测单元所属的滤波器组号；size(PU)为当前4×4块对应的预测单元的大小。

14.如权利要求13所述的视频编码器，其特征在于，所述滤波器第二划分模块，具体用于：

若编码单元的最大深度为4，按如下公式将d进一步分为3类：

Class(d)＝d/2

其中，Class(d)为d的类别；

按如下公式对分组后的各组滤波器进行分类：

$\mathrm{Filt}\_\mathrm{Num}=\left\{\begin{array}{cc}N\×3+\mathrm{Class}\left(d\right)& N\%2=0\\ N\×3+3-\mathrm{Class}\left(d\right)& \mathrm{Else}\end{array}\right.$

其中，Filt_Num为滤波器的类别编号。

15.如权利要求11所述的视频编码器，其特征在于，所述滤波模块，具体用于：

进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为0。

16.一种视频解码器，其特征在于，包括：

图像划分模块，用于将整帧图像划分成非重叠的4×4块；

滤波器第一划分模块，用于将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；

拉普拉斯特性估计模块，用于根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性；

滤波器第二划分模块，用于根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；

滤波模块，用于根据所述滤波器系数，对整帧图像进行自适应环路滤波。

17.如权利要求16所述的视频解码器，其特征在于，所述滤波器第一划分模块，具体用于：

划分{DC，Planar}预测模式对应于滤波器组N＝0；

划分{10～17}预测模式对应于滤波器组N＝1；

划分{1～9}预测模式对应于滤波器组N＝2；

划分{18～24}预测模式对应于滤波器组N＝3；

划分{25～33}预测模式对应于滤波器组N＝4；

其中，N为滤波器组号。

18.如权利要求16所述的视频解码器，其特征在于，所述拉普拉斯特性估计模块，具体用于：

按如下公式，根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的解码单元的深度，估计当前4×4块的拉普拉斯特性，包括：

$d=\left\{\begin{array}{cc}\mathrm{depth}+1& \mathrm{size}\left(\mathrm{PU}\right)=N\×N\\ \mathrm{depth}& \mathrm{size}\left(\mathrm{PU}\right)=2N\×2N\end{array}\right.$

其中，d为反映当前4×4块的拉普拉斯特性的值；depth为当前4×4块对应的解码单元的深度；N为当前4×4块对应的预测单元所属的滤波器组号；size(PU)为当前4×4块对应的预测单元的大小。

19.如权利要求18所述的视频解码器，其特征在于，所述滤波器第二划分模块，具体用于：

若解码单元的最大深度为4，按如下公式将d进一步分为3类：

Class(d)＝d/2

其中，Class(d)为d的类别；

按如下公式对分组后的各组滤波器进行分类：

$\mathrm{Filt}\_\mathrm{Num}=\left\{\begin{array}{cc}N\×3+\mathrm{Class}\left(d\right)& N\%2=0\\ N\×3+3-\mathrm{Class}\left(d\right)& \mathrm{Else}\end{array}\right.$

其中，Filt_Num为滤波器的类别编号。

20.如权利要求16所述的视频解码器，其特征在于，所述滤波模块，具体用于：

进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为0。