CN103220529B

CN103220529B - 一种视频编解码环路滤波的实现方法

Info

Publication number: CN103220529B
Application number: CN201310128415.2A
Authority: CN
Inventors: 马思伟; 贺坚强; 高文
Original assignee: Peking University
Current assignee: Peking University
Priority date: 2013-04-15
Filing date: 2013-04-15
Publication date: 2016-02-24
Anticipated expiration: 2033-04-15
Also published as: CN103220529A

Abstract

本发明涉及多媒体视频编解码技术领域，尤其涉及一种视频编解码端的环路滤波的方法，所述方法包括利用编解码端块划分信息得到图像块划分结构，环路滤波则在块边界进行；若边界包含编码块、预测块和变换块边界，则利用模式、运动信息、量化参数以及残差等进行边界级滤波决策，最后执行像素级滤波，滤波方向可以垂直于边界也可以根据局部像素特性或块模式和边界成其他角度，本发明的技术效果在于：本方案能有效提高视频编码的主客观质量，在AVS2.0实施例参考软件RD2.0-ADI上，本方案和装置能够提高0.9%的编码效率，同时能减少编解码端滤波边界数和复杂度。

Description

一种视频编解码环路滤波的实现方法

技术领域

本发明涉及多媒体视频编解码技术领域，尤其涉及一种视频编解码端的环路滤波的方法。

背景技术

在当前基于块的混合编码框架中，视频编码以每个块的率失真优化(RDO)决策选择该块的最优模式从而得到当前编码帧编码性能最优的近似。但是视频编码中因为考虑了空域和时域的相关性，这样当前块的最优不能保证整个序列编码性能的最优，一些编码工具如环路滤波可以改善这种局部的最优给全局带来的主客观质量的影响。通过改善当前帧在编码时因为分块带来的块效应，减少了主观上的振铃效应和块效应，同时滤波后的帧将作为后续编码帧参考帧，从而提高后续帧的主客观编码质量。故环路滤波技术在视频编码中有着十分重要的地位。

在现有已发布的视频编码标准中，如H.264其环路滤波是在4X4块边界、在AVS中，则是在8X8边界进行的，这是因为在这些标准中，变换块的尺寸是固定的，且不大于编码单元块(宏块)以及预测块的尺寸，所以变换块的边界肯定包含编码单元块以及预测块边界。然而在高效视频编码标准和下一代AVS标准AVS2.0中，编码单元(CodingUnit，CU)是视频编码的基本单元。编码单元的采用四叉递归划分模式，编码单元最大可达64X64(如图1所示)，而不再是16X16。对每个编码单元中，通过预测、变换量化、熵编码、后处理等编码工具来进行块编码。其中编码单元在做预测的时候，编码单元可以被划分成不同大小的预测单元(PredictionUnit，PU)，预测单元是预测的基本单元。编码单元中帧内预测和帧间预测单元的划分分别如图2和图3所示，预测块的尺寸从64X64、64X32、32X64、32X32一直到8X8，甚至还包括非对称预测块(AMP)。同时变换块的尺寸不再固定为4X4或者8X8，而且和CU的尺寸相关，这样变换块的尺寸包含从32X32、16X16到8X8。这样原来的固定在所有的4X4或者8X8边界进行滤波的方式将不再符合环路滤波去块效应的目的。

发明内容

本发明实施例提供一种环路滤波技术、装置及***，以减少块效应，提高主客观编码视频质量和编码效率，同时降低编码解码端复杂度。

为达到上述目的，本发明提供了一种视频编解码环路滤波的实现方法方案，具体实现步骤包括：

所述环路滤波方法包括如下步骤：

步骤1)利用编解码端块划分信息得到图像块(包括编码块、预测块和变换块)划分结构，环路滤波则在块(如编码块、预测块和变换块)边界进行，若编码块的编码残差为0(即CBP＝0)，则仅在编码块和预测块边界进行滤波；滤波流程为预定义滤波分割块，把图像划分为滤波分割单元块(如16X16块大小、也可以是最大编码单元块或图像帧等)，可以预定义或在码流中说明滤波分割块的尺寸，为了统一滤波器设计，滤波顺序为依次对每个滤波分割块进行，先垂直边界后水平边界，即先对滤波分割块内的所有垂直边界进行滤波再对水平边界进行滤波；同时预定义最小滤波单元(如8X8块大小)，尺度小于最小滤波单元的块边界跳过滤波；

步骤2)若边界包含编码块、预测块和变换块边界，则利用模式、运动信息、量化参数以及残差等进行边界级滤波决策，

2.1、若决策需要滤波该边界，则进行接下来的像素级滤波过程；

2.2、否则跳过该边界滤波；对需要进行滤波的块边界处进行像素级滤波决策以决定每个像素行是否需要滤波以及采用的滤波强度(BS)；

步骤3)最后执行像素级滤波，滤波方向可以垂直于边界也可以根据局部像素特性或块模式和边界成其他角度，其中参与图像滤波的块结构，包括但不限于编码块、预测块和变换块；滤波分割块为方便滤波等操作，而对图像进行统一尺寸的划分方式，如对图像可以按照16X16尺寸滤波分割块划分。

所述步骤1)还包括：环路滤波发生的边界在块(如编码块、预测块和变换块)边界，当编码块的编码残差为零(即CBP＝0)时，则只在编码块和预测块边界进行滤波，同时定义滤波的最小尺寸如8X8块大小。例如对于AVS2实施例，编码块的尺寸包含了从64X64到8X8大小，根据RDO选择，采用四叉树迭代递归划分，是编码处理的基本单元；预测块为在编码块的基础上的进一步根据预测特性的进一步划分；变换块也是在编码块的基础上根据残差的分布特性的进一步划分。

所述步骤1)还包括：对于整帧图像划分为滤波分割单元块(如16X16大小或最大编码单元块)，可以预定义或者在码流中说明滤波分割块的尺寸，按照扫描依次对每个滤波分割块进行滤波，先对垂直边界，在水平边界，检测边界是否包含编码块、预测块和变换块边界，若包含，则滤波该边界，否则跳过滤波该边界。

所述步骤2)还包括：根据滤波边界两边块的模式、运动信息、量化参数以及残差等来决定当前块边界是否需要滤波，若边界级决策需要滤波该边界，则进行接下来的像素级滤波过程，否则跳过该边界滤波，若块边界两边块P和Q有帧内预测模式，则需要执行滤波；若P、Q块均为P帧的帧间预测块，其残差均为0，参考帧相同且运动矢量各分量小于一个像素，则决策该块边界不需要滤波，否则均需要滤波。

所述步骤2)还包括：滤波决策需要滤波的块边界每行像素，利用边界两边像素的跳变和块平均QP值得到的索引所对应的阈值表对应值比较，来选择滤波强度；像素级滤波强度取值范围0-4，BS＝0表示不需要滤波，BS＝4，表示较为平坦区域，需要进行较强的平滑滤波。

所述步骤3)还包括：像素的位置选择对应的FIR滤波器，滤波方向可以垂直于边界也可以根据局部像素特性或块模式和边界成其他角度；不同滤波强度和不同像素位置所对应的FIR滤波器使用；同时可以利用局部图像的纹理特性和边界两边块的模式信息决定滤波的方式是垂直于边界或者和边界成一定角度

本发明的技术效果在于：本方案能有效提高视频编码的主客观质量，在AVS2.0实施例参考软件RD2.0-ADI上，本方案和装置能够提高0.9％的编码效率，同时能减少编解码端滤波边界数和复杂度。

附图说明

当结合附图考虑时，通过参照下面的详细描述，能够更完整更好地理解本发明以及容易得知其中许多伴随的优点，但此处所说明的附图用来提供对本发明的进一步理解，构成本发明的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定，如图其中：

图1为AVS2现有技术编码单元划分示意图；

图2为AVS2现有技术变换块单元划分示意图；

图3为AVS2现有技术预测块单元划分示意图；

图4为虚线为AVS1采用的，对所有包括8X8变换块边界进行滤波，则本方案仅仅在实线(编码块、预测块和变换块)边界进行滤波；

图5为滤波边界处参与滤波的像素；

图6为滤波分割块(取16X16尺寸为例)内滤波顺序，先垂直边界，后水平边界；

图7为本发明支持的一种滤波实例流程图；

图8为本发明块边界像素滤波流程图。

下面结合附图和实施例对本发明进一步说明。

具体实施方式

显然，本领域技术人员基于本发明的宗旨所做的许多修改和变化属于本发明的保护范围。

编码端:

如图1至图3所示，本发明实施例AVS2，在编码端，当一帧图像在完成预测、变换量化、和熵编码和模式信息的编码后，再经过反量化反变换后可以得到编码重构帧。利用编解码端的模式信息和块分割信息块得到当前重构图像帧的划分方式，设置当前帧最小滤波单元，将图像划分为滤波分割块。帧级滤波流程为对每一个滤波分割块，按照图7所示的流程，先对滤波分割块内的所有垂直边界，依次检测其是否为编码块、预测块或变换块边界，若是则利用模式、运动信息、量化参数以及残差等进行边界级滤波决策。若边界级滤波决策需要滤波该垂直边界，则对该垂直边界按照图8所示执行像素级滤波强度决策以及像素级滤波，具体的滤波强度BS决策过程和不同BS下的滤波过程如前所述。执行完一个滤波分割块内的所有垂直边界滤波后，再类似的方式执行水平边界滤波。滤波完一个滤波分割块后，判断是否滤波完一帧，若没有，则按照设定的扫描顺序准备下一个滤波分割块滤波，重复循环直至遍历完当前帧全部滤波分割块。

解码端:

对于解码端，也是依次对每个滤波分割块，经过预测补偿加上反量化反变换后残差得到解码重构块执行类似编码端进行的滤波决策以及滤波过程从而得到解码端重构图像滤波后的图像，用于显示、存储或提供给其他帧参考。

本发明实施例上述方法、装置及***技术方案具有如下有益效果：本专利提出了一套环路滤波技术。在编解码进行环路滤波时，通过利用编解码端块划分信息得到图像块(包括编码块、预测块和变换块)划分结构，环路滤波则在块(如编码块、预测块和变换块)边界进行，若编码块的编码残差为零(即CBP＝0)，则仅在编码块和预测块边界进行滤波；滤波流程为预定义滤波分割块，把图像划分为滤波分割单元块(如16X16块大小、也可以是最大编码单元块或图像帧等)，可以预定义或在码流中说明滤波分割块的尺寸，为了统一滤波器设计，滤波顺序为依次对每个滤波分割块进行，先垂直边界后水平边界，即先对滤波分割块内的所有垂直边界进行滤波再对水平边界进行滤波；同时预定义最小滤波单元，尺度小于最小滤波单元的块边界跳过滤波；若边界包含编码块、预测块和变换块边界，则利用模式、运动信息、量化参数以及残差等进行边界级滤波决策，若决策需要滤波该边界，则进行接下来的像素级滤波过程，否则跳过该边界滤波；对需要进行滤波的块边界处阈值(如附表1所示)和像素局部纹理特征进行像素级滤波决策以决定每个像素行是否需要滤波以及采用的滤波强度(BS)；最后利用滤波器(附表2或附表3所示)设计执行像素级滤波，滤波方向可以垂直于边界也可以根据局部像素特性或块模式和边界成其他角度，从而能更好的自适应去除块效应和提高编码效率。本方案在AVS2.0实施例RD2.0上，本方案和装置能够提高0.9％的编码效率，同时能减少编解码端滤波边界数和复杂度。

实验结果：

本发明实施例在RD2.0(AVS2标准的参考软件)上完成技术实现。在实验中，采用AVS2的通用测试条件，RA配置。实验平台是Intel(R)Xeon(R)CPUX56602.80GHZ2.79GHZ23.9G内存。表2表示采用本发明中的环路滤波方法，相比anchor(AVS2RD2.0-ADI)中的环路滤波方法的性能比较。4kX2k、1080p、WVGA、WQVGA、720p分别表示分辨率为3840X2160、1920X1080、832X480、416X240、1280X720的测试序列。编码性能的度量采用BD-rate，即在相同编码质量的情况下的码率节省。从实验结果来看，采用本发明实施例上述方案，在相同编码质量时，获得平均0.9％的码率节省。

表2.性能比较(提出的滤波器设计vsRD2-ADI)

在编解码进行环路滤波时，通过利用编解码端块划分信息得到图像块(包括编码块、预测块和变换块)划分结构，环路滤波则在块(如编码块、预测块和变换块)边界进行，若编码块的编码残差为0(即CBP＝0)，则仅在编码块和预测块边界进行滤波；滤波流程为预定义滤波分割块，把图像划分为滤波分割单元块(如16X16块大小、最大编码单元块大小或图像帧)，可以预定义或在码流中说明滤波分割块的尺寸，为了统一滤波器设计，滤波顺序为依次对每个滤波分割块进行，先垂直边界后水平边界，即先对滤波分割块内的所有垂直边界进行滤波再对水平边界进行滤波；若边界包含编码块、预测块和变换块边界，则利用模式、运动信息、量化参数以及残差等进行边界级滤波决策，若决策需要滤波该边界，则进行接下来的像素级滤波过程，否则跳过该边界滤波；对需要进行滤波的块边界处利用阈值和像素局部纹理特征进行像素级滤波决策以决定每个像素行是否需要滤波以及采用的滤波强度(BS)；最后利用设计的滤波器执行像素级滤波，滤波方向可以垂直于边界也可以根据局部像素特性或块模式和边界成其他角度。

在编解码进行块边界环路滤波时，所述方法包括编解码在得到重构图像后进行环路滤波时，如图7给出了本发明专利支持的一种滤波流程其步骤如下：

初始化：利用编解码端的模式信息和块分割信息块得到当前重构图像帧的块划分方式，设置当前帧最小滤波单元，将图像划分为滤波分割块，设置起始滤波分割块序号N＝0。

按照扫描顺序依次对图像内每个滤波分割块N进行边界滤波；

2.1.先对滤波分割块的所有垂直边界，依次检测其是否为编码块、预测块或变换块边界，若CBP＝0，则检测是否为编码块、预测块边界；若是则利用模式、运动信息、量化参数以及残差等进行边界级滤波决策。

2.2.对所有垂直边界，若边界级滤波决策需要滤波该垂直边界，则对该垂直边界执行像素级滤波强度决策以及像素级滤波。

2.3.再对滤波分割块的所有水平边界，依次检测其是否为编码块、预测块或变换块边界，若CBP＝0，则检测是否为编码块、预测块边界；若是则利用模式、运动信息、量化参数以及残差等进行边界级滤波决策。

2.4.对所有水平边界，若边界级滤波决策需要滤波该水平边界，则对该水平边界执行像素级滤波强度决策以及像素级滤波。

2.5.判断是否整帧滤波完毕，若没有则滤波分割块序号N增加，跳到2.1继续执行下一个滤波分割块的滤波。

3.整帧滤波完毕；

滤波分割块大小为16X16(这里仅是举例说明，具体大小可以预设值或在码流中说明)，最小滤波单元为8X8块(如图6所示)，需要利用边界处像素跳变和阈值表中的alphabeta以及像素局部跳变特征进行像素级滤波强度(BS)决策以及选择不同滤波强度下不同像素位置处的FIR滤波器(如附表2或附表3所示)。对于具体一个块边界的滤波过程如图8所示。

滤波强度决策过程具体如下：

如果abs(p0–q0)<Alpha&&abs(p0–q0)>1，则进行下面的步骤；否则，Bs＝0。

设定左右平坦度变量FL和FR，并且两者的初值都设为0。

如果abs(p0–p1)<Beta，则FL+＝2；

如果abs(p0–p2)<Beta，则FL++；

如果abs(q0–q1)<Beta，则FR+＝2；

如果abs(q0–q2)<Beta，则FR++；

左右平坦度之和FS＝FL+FR。

根据FS的值，做如下判断：

当FS＝6时，若p0＝p1,并且q0＝q1，则边界强度Bs＝4。否则Bs＝3；

当FS＝5时，若p0＝p1,并且q0＝q1，则边界强度Bs＝3。否则Bs＝2；

当FS＝4时，若FL＝2，则Bs＝2。否则，Bs＝1。

当FS＝3时，并且abs(p1–q1)<Beta，则Bs＝1。否则,Bs＝0。

当FS为其它值时，Bs＝0。

根据编码情况修正边界强度；

若按照帧模式进行编码，并对色度分量进行滤波，Bs减1：

若按照场模式进行编码，并满足下列条件之一，Bs减1：

对亮度分量在垂直方向上进行滤波；

对色度分量进行滤波；

当BS>0时，执行像素行的像素级滤波，滤波器采用附表2所示：

Bs等于4时的边界滤波过程；

边界滤波强度Bs的值为4时，对p0、p1、p2、p3和q0、q1、q2、q3滤波的计算过程如下(P0、P1、P2和Q0、Q1、Q2是滤波后的值)：

P0＝((p0<<3)+p0+(p2<<2)+p2+(p1<<2)+(q0<<3)-q0+(q1<<2)+(q2<<1)+q2+16)>>5；

P1＝((p0<<2)+(p0<<1)+(p1<<1)+p1+(p2<<2)+q0+(q0<<1)+8)>>4；

P2＝(p0+(p1<<1)+p2+(p2<<1)+p3+q0+4)>>3；

Q0＝((q0<<3)+q0+(q2<<2)+q2+(q1<<2)+(p0<<3)-p0+(p1<<2)+(p2<<1)+p2+16)>>5；

Q1＝((q0<<2)+(q0<<1)+(q1<<1)+q1+(q2<<2)+p0+(p0<<1)+8)>>4；

Q2＝(q0+(q1<<1)+q2+(q2<<1)+q3+p0+4)>>3；

Bs等于3时的边界滤波过程；

边界滤波强度Bs的值为3时，对p0、p1和q0、q1滤波的计算过程如下(P0、P1和Q0、Q1是滤波后的值)：

P0＝(p2+(p1<<2)+(p0<<2)+(p0<<1)+(q0<<2)+q1+8)>>4；

Q0＝(p1+(p0<<2)+(q0<<2)+(q0<<1)+(q1<<2)+q2+8)>>4；

P1＝((p2<<1)+p2+(p1<<3)+(p0<<2)+q0+8)>>4；

Q1＝((q2<<1)+q2+(q1<<3)+(q0<<2)+p0+8)>>4；

Bs等于2时的边界滤波过程；

边界滤波强度Bs的值为2时，对p0和q0滤波的计算过程如下(P0和Q0是滤波后的值)：

P0＝((p1<<1)+p1+(p0<<3)+(p0<<1)+(q0<<1)+q0+8)>>4；

Q0＝((p0<<1)+p0+(q0<<3)+(q0<<1)+(q1<<1)+q1+8)>>4；

Bs等于1时的边界滤波过程；

边界滤波强度Bs的值为1时，对p0和q0滤波的计算过程如下(P0和Q0是滤波后的值)：

P0＝((p0<<1)+p0+q0+2)>>2；

Q0＝((q0<<1)+q0+p0+2)>>2。

本发明由于采用了上述技术方案，和已有的AVS标准中方法相比，具有如下创新和有益效果：

第一、通过重用编解码端块划分信息得到图像块(包括编码块、预测块和变换块)划分结构，环路滤波则在编码块、预测块和变换块边界进行，若编码块的CBP＝0，则仅在编码块和预测块边界进行滤波。这样可以提高了编码效率，而且减少了滤波的边界数目，从而降低了编码解码端复杂度，图4虚线显示AVS1原有的滤波方案在所有8X8变换块边界进行滤波，实线表示实际的编码块、预测块和变换块的划分方式，本方案只需要在实线处滤波，从而滤波的边界数大大减少，例如对32X32的块，在所有8X8块边界滤波，则滤波边界数为32条8像素边界，而只在块边界滤波则只需要在8条8像素边界滤波，节省了4倍。需要滤波边界数和块尺寸大小关系如表1所示。所以在高分辨率视频中，当大块选择概率较多时，采用本方法能显著减少需要滤波边界数，从而减少编解码端复杂度。

表1.需要滤波边界数目节省和块尺寸大小关系

块尺寸	滤波边界边数节省
		64X64	8倍
32X32	4倍
		16X16	2倍
8X8	1倍

第二、本方案预设值滤波分割块(如16X16块大小、最大编码单元块大小或图像帧，可以在码流中说明)，在滤波之前，首先图像按照滤波分割块进行划分，然后按照扫描顺序依次对每个滤波分割块先垂直边界后水平边界的顺序滤波，这样能方便和统一滤波器设计，提高自适应性以及降低硬件电路的设计复杂度。

第三、本发明方案的新的滤波阈值系数表如附表1和滤波器使用附表2所示，同时滤波方向可以根据模式信息和块边界局部图像特征来抉择，而不再固定为垂直块边界，可以更好提高编码效率和主观质量。

本领域技术人员还可以了解到本发明实施例列出的各种说明性逻辑块(illustrativelogicalblock)，单元，和步骤可以通过电子硬件、电脑软件，或两者的结合进行实现。为清楚展示硬件和软件的可替换性(interchangeability)，上述的各种说明性部件(illustrativecomponents)，单元和步骤已经通用地描述了它们的功能。这样的功能是通过硬件还是软件来实现取决于特定的应用和整个***的设计要求。本领域技术人员可以对于每种特定的应用，可以使用各种方法实现所述的功能，但这种实现不应被理解为超出本发明实施例保护的范围。

本发明实施例中所描述的各种说明性的逻辑块，或单元都可以通过通用处理器，数字信号处理器，专用集成电路(ASIC)，现场可编程门阵列(FPGA)或其它可编程逻辑装置，离散门或晶体管逻辑，离散硬件部件，或上述任何组合的设计来实现或操作所描述的功能。通用处理器可以为微处理器，可选地，该通用处理器也可以为任何传统的处理器、控制器、微控制器或状态机。处理器也可以通过计算装置的组合来实现，例如数字信号处理器和微处理器，多个微处理器，一个或多个微处理器联合一个数字信号处理器核，或任何其它类似的配置来实现。

本发明实施例中所描述的方法或算法的步骤可以直接嵌入硬件、处理器执行的软件模块、或者这两者的结合。软件模块可以存储于RAM存储器、闪存、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动磁盘、CD-ROM或本领域中其它任意形式的存储媒介中。示例性地，存储媒介可以与处理器连接，以使得处理器可以从存储媒介中读取信息，并可以向存储媒介存写信息。可选地，存储媒介还可以集成到处理器中。处理器和存储媒介可以设置于ASIC中，ASIC可以设置于用户终端中。可选地，处理器和存储媒介也可以设置于用户终端中的不同的部件中。

在一个或多个示例性的设计中，本发明实施例所描述的上述功能可以在硬件、软件、固件或这三者的任意组合来实现。如果在软件中实现，这些功能可以存储与电脑可读的媒介上，或以一个或多个指令或代码形式传输于电脑可读的媒介上。电脑可读媒介包括电脑存储媒介和便于使得让电脑程序从一个地方转移到其它地方的通信媒介。存储媒介可以是任何通用或特殊电脑可以接入访问的可用媒体。例如，这样的电脑可读媒体可以包括但不限于RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁性存储装置，或其它任何可以用于承载或存储以指令或数据结构和其它可被通用或特殊电脑、或通用或特殊处理器读取形式的程序代码的媒介。此外，任何连接都可以被适当地定义为电脑可读媒介，例如，如果软件是从一个网站站点、服务器或其它远程资源通过一个同轴电缆、光纤电脑、双绞线、数字用户线(DSL)或以例如红外、无线和微波等无线方式传输的也被包含在所定义的电脑可读媒介中。所述的碟片(disk)和磁盘(disc)包括压缩磁盘、镭射盘、光盘、DVD、软盘和蓝光光盘，磁盘通常以磁性复制数据，而碟片通常以激光进行光学复制数据。上述的组合也可以包含在电脑可读媒介中。

附表1本发明块边界阈值α和β与Index的关系

索引	α	β	索引	α	β	索引	α	β	索引	α	β
												0	0	0	16	5	3	32	26	7	48	50	17
1	0	0	17	5	3	33	28	7	49	52	18
												2	0	0	18	6	3	34	30	8	50	53	19
3	0	0	19	7	3	35	33	8	51	54	20
												4	1	1	20	8	4	36	33	8	52	55	21
5	1	1	21	9	4	37	35	9	53	56	22
												6	1	1	22	10	4	38	35	9	54	57	23
7	1	1	23	11	4	39	36	10	55	58	23
												8	1	1	24	12	5	40	37	10	56	59	24
9	2	1	25	13	5	41	37	11	57	60	24
												10	2	1	26	15	5	42	39	11	58	61	25
11	2	2	27	16	5	43	39	12	59	62	25
												12	3	2	28	18	6	44	42	13	60	63	26
13	3	2	29	20	6	45	44	14	61	64	27
												14	4	2	30	22	6	46	46	15	62	64	27
15	4	2	31	24	7	47	48	16	63	64	27

附表2.本发明使用的滤波器参数设计

		L3	L2	L1	L0	R0	R1	R2	R3
										BS＝4	L0		5	4	9	7	4	3
	L1		4	3	6	3
											L2	1	3	2	1	1
BS＝3	L0		1	4	6	4	1
											L1		3	8	4	1
BS＝2	L0			3	10	3
										BS＝1	L0				3	1

附表3.AVS原有滤波器参数设计

		L3	L2	L1	L0	R0	R1	R2	R3
										BS＝4	L0	9		9	8	6
	L1		6		7	3
											L2	3		4	1
BS＝3	L0		1	4	6	4	1
											L1	3	8	4	1
BS＝2	L0			3	10	3
										BS＝1	L0			3	1

本文中应用了具体实施例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。

Claims

1.一种视频编解码端的环路滤波的方法，其特征在于包括如下步骤：

步骤1)、利用编解码端块划分信息得到图像块划分结构，环路滤波则在所述图像块边界进行，若编码块的编码残差为0(即CBP＝0)，则仅在编码块和预测块边界进行滤波；滤波流程为预定义滤波分割块，把图像划分为滤波分割单元块，可以预定义或在码流中说明滤波分割块的尺寸，为了统一滤波器设计，滤波顺序为依次对每个滤波分割块进行，先垂直边界后水平边界，即先对滤波分割块内的所有垂直边界进行滤波再对水平边界进行滤波；

步骤2)、若边界包含编码块、预测块和变换块边界，则利用模式、运动信息、量化参数以及残差进行边界级滤波决策，

步骤3)、最后执行像素级滤波，滤波方向可以垂直于边界也可以根据局部像素特性或块模式和边界成其他角度，其中参与图像滤波的块结构，包括但不限于编码块、预测块和变换块；滤波分割块为方便滤波操作，而对图像进行统一尺寸的划分方式，对图像可以按照16X16尺寸滤波分割块划分。

2.根据权利要求1所述的一种视频编解码端的环路滤波的方法，其特征在于，所述步骤1)还包括：图像块包括编码块、预测块和变换块。

3.根据权利要求1所述的一种视频编解码端的环路滤波的方法，其特征在于，所述步骤1)还包括：环路滤波发生的边界在所述图像块边界，当编码块的编码残差为零时，即CBP＝0，则只在编码块和预测块边界进行滤波，同时定义滤波的最小尺寸8X8块大小；编码块的尺寸包含了从64X64到8X8大小，根据RDO选择，采用四叉树迭代递归划分，是编码处理的基本单元；预测块为在编码块的基础上的进一步根据预测特性的进一步划分；变换块也是在编码块的基础上根据残差的分布特性的进一步划分。

4.根据权利要求1所述的一种视频编解码端的环路滤波的方法，其特征在于，所述步骤1)还包括：对于整帧图像划分为滤波分割单元块，可以预定义或者在码流中说明滤波分割块的尺寸，按照扫描依次对每个滤波分割块进行滤波，先对垂直边界，再水平边界，检测边界是否包含编码块、预测块和变换块边界，若包含，则滤波该边界，否则跳过滤波该边界。

5.根据权利要求1所述的一种视频编解码端的环路滤波的方法，其特征在于，所述步骤2)还包括：根据滤波边界两边块的模式、运动信息、量化参数以及残差来决定当前块边界是否需要滤波，若边界级决策需要滤波该边界，则进行接下来的像素级滤波过程，否则跳过该边界滤波，若块边界两边块P和Q有帧内预测模式，则需要执行滤波；若P、Q块均为P帧的帧间预测块，其残差均为0，参考帧相同且运动矢量各分量小于一个像素，则决策该块边界不需要滤波，否则均需要滤波。

6.根据权利要求1所述的一种视频编解码端的环路滤波的方法，其特征在于，所述步骤2)还包括：滤波决策需要滤波的块边界每行像素，利用边界两边像素的跳变和两个块平均QP值得到的索引所对应的阈值表对应值比较，来选择滤波强度；像素级滤波强度取值范围0-4，BS＝0表示不需要滤波，BS＝4，表示较为平坦区域，需要进行较强的平滑滤波。

7.根据权利要求1所述的一种视频编解码端的环路滤波的方法，其特征在于，所述步骤3)还包括：滤波方向可以垂直于边界也可以根据局部像素特性或块模式和边界成其他角度；选择不同滤波强度下不同像素位置处的FIR滤波器进行滤波；同时可以利用局部图像的纹理特性和边界两边块的模式信息决定滤波的方式是垂直于边界或者和边界成一定角度。