CN100574447C

CN100574447C - 基于avs视频编码的快速帧间预测模式选择方法

Info

Publication number: CN100574447C
Application number: CN 200710045232
Authority: CN
Inventors: 滕国伟; 石旭利; 王蕾睿; 刘锦阳; 张兆扬
Original assignee: Central Academy of SVA Group Co Ltd
Current assignee: INESA Electron Co., Ltd.
Priority date: 2007-08-24
Filing date: 2007-08-24
Publication date: 2009-12-23
Anticipated expiration: 2027-08-24
Also published as: CN101141647A

Abstract

本发明提供了一种基于AVS视频编码的快速帧间预测模式选择方法，所述方法通过选取候选模式对当前宏块进行预测，并结合全零块预先判决准则和纹理复杂度预选块尺寸准则，从而得到宏块的最佳预测模式。所述方法可在保持比特率和图像质量基本不变的同时，显著减少编码器的计算复杂性，可适用于实时编码。

Description

基于AVS视频编码的快速帧间预测模式选择方法

技术领域

本发明涉及一种视频帧间预测模式选择方法，尤其涉及基于AVS视频编码的快速帧间预测模式选择方法。

背景技术

AVS1-P2是我国2006年2月批准的第一个先进音视频编解码标准中的视频部分。在视频编码中，怎样在尽可能保持比特率和图像质量的前提下，减少计算量和提高编码效率是至关重要的。而在整个编码过程中，模式选择所花费的时间很大，因而怎样加快对候选模式的选择成为了研究的热点之一。对于帧间预测，AVS1-P2支持P帧和B帧两种帧间预测模式。P帧至多采用2个前向参考帧；B帧采用前后各一个参考帧。为了获得最佳的率失真性能，AVS视频编解码参考程序标识号为rm52h，该程序中涉及的方法是先对所有候选模式进行遍历，然后从中选择最适合的模式，但由于这会大幅增加编码器的计算复杂度，不利于实时应用。

在低比特率视频压缩编码中，全零块预先判决准则是一种减少编码器计算复杂性提高编码效率的技术。如果能够恰当的选取判决门限，全零块预先判决准则不会造成图像质量下降。根据纹理复杂度预选块尺寸准则可以预先判断出最有可能的候选模式集，而不再需要遍历所有的候选模式，以加快最佳模式的选择，从而显著提高编码速度。

发明内容

本发明的目的是提供一种基于AVS视频编码的快速帧间预测模式选择方法，该方法可有效提高帧间模式的选择速度。在保持比特率和图像质量基本不变的同时，可显著减少编码器的计算复杂性。

为了达到上述目的，本发明提供了一种基于AVS视频编码的快速帧间预测模式选择方法，将全零块预先判决准则和纹理复杂度预选块尺寸准则相结合，具体实现步骤如下：

步骤1、将16×16预测模式作为候选模式对当前宏决进行预测，如果宏块残差满足全零块判决条件，就判16×16预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；

步骤2、如果在16×16预测模式下，宏块残差不满足全零块判决条件，则将8×8预测模式作为候选模式对当前宏块进行预测，如果宏块残差满足全零块判决条件，就判8×8预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；

步骤3、如果在16×16和8×8两种预测模式下，宏块残差都不满足全零块判决条件，则比较16×16和8×8这两种预测模式的率失真值，如果16×16的率失真值小于8×8的率失真值，则选择16×16预测模式为最佳预测模式，并退出帧间预测模式循环；

步骤4、如果16×16的率失真值大于8×8的率失真值，则根据预测模式尺寸预选原则，计算宏块水平和垂直的纹理复杂度；

步骤5、由步骤4所得到的宏块水平和垂直的纹理复杂度确定下一候选模式是采用16×8，还是8×16；

步骤6、采用步骤5所确定的候选模式对当前宏块进行预测，如果宏块残差满足全零块判决条件，就判当前预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；

步骤7、如果步骤6所得到的宏块残差不满足全零块判决条件，则计算该预测模式的率失真值；

步骤8、将16×16的预测模式、8×8的预测模式以及步骤5所确定的预测模式的三项率失真值进行比较，选择率失真值最小的预测模式作为最佳预测模式，完成帧间模式选择。

以上所述的全零块判决条件是根据AVS1-P2整数变换和量化的公式推出，具体步骤如下：

步骤a、将整数变换表达式

F (u, v) = Σ_{i = 0}^{7} Σ_{j = 0}^{7} c_{u, i} x_{i, j} c_{j, v}

进行不等式缩放，得到

F_{\max} (u, v) \leq Σ_{i = 0}^{7} Σ_{j = 0}^{7} | c_{u, i} x_{i, j} c_{j, v} | \leq Σ_{i = 0}^{7} Σ_{j = 0}^{7} | c_{u, i} c_{j, v} | | x_{i, j} |,

其中F(u，v)表示变换系数矩阵，i、j表示行、列的索引；x表示宏块残差；c为整数变换矩阵；u、v满足0≤u，v≤7；

步骤b、由变换矩阵可得

F_{\max} (u, v) \leq 100 Σ_{i = 0}^{7} Σ_{j = 0}^{7} | x_{i, j} |;

步骤c、结合AVS1-P2的量化公式可得

Σ_{i = 0}^{7} Σ_{j = 0}^{7} | x_{i, j} | < \frac{2^{L} \times 2^{19}}{100 \times M_{\max} \times QC},

其中，L＝15+QP/8，QP表示量化参数，M_max为缩放矩阵M中的最大值。

步骤d、根据AVS1-P2的64级量化，每当量化参数QP的值增加8时，量化步长Q_step大致增加一倍，即量化系数表QC中的值可以表示为2^15-QP/8。由此可得全零块判决条件

Σ_{i = 0}^{7} Σ_{j = 0}^{4} | x_{i, j} | < \frac{2^{QP / 4} \times 2^{19}}{100 \times M_{\max}} .

进一步地，步骤4中所述宏块水平和垂直的纹理复杂度采用平均绝对差值MAD(垂直平均绝对差MAD_V，水平平均绝对差MAD_H)来分析，MAD(MAD_V，MAD_H)的计算公式如下：

{MAD}_{V} = \frac{1}{16 \times 16} Σ_{x = 0}^{15} Σ_{y = 0}^{15} | p (x, y) - m_{x} |;

{MAD}_{H} = \frac{1}{16 \times 16} Σ_{y = 0}^{15} Σ_{x = 0}^{15} | p (x, y) - m_{y} |;

其中p(x，y)为宏块中的各个像素值；m_x、m_y分别表示第x列、第y行所有像素的均值。

进一步地，步骤5中所述下一候选模式通过比较MAD_V和MAD_H的大小确定。如果宏块垂直方向上的平均绝对差值MAD_V大于水平方向上的平均绝对差值MAD_H，则选择16×8帧间预测模式作为下一候选模式，否则，选择8×16帧间预测模式作为下一候选模式。

采用本发明的基于AVS视频编码的快速帧间预测模式选择方法，在保持比特率和图像质量基本不变的同时，可显著减少编码器的计算复杂性，可适用于实时编码。

附图说明

图1是本发明基于AVS视频编码的快速帧间预测模式选择方法实施例的流程图。

具体实施方式

以下对本发明的快速帧间预测模式选择方法作进一步的详细描述。

本发明提出的快速帧间预测模式选择方法只考虑不含B帧的基本类，即只有P帧的4种帧间预测模式：16×16，16×8，8×16，8×8。并采用了共享中间格式(CIF：Common Intermediate Format)和四分之一共享中间格式(QCIF：QuarterCommon Intermediate Format)两种格式的视频测试序列。其包含以下步骤：

步骤S1、将16×16预测模式作为候选模式对当前宏块进行预测，如果宏块运动估计的残差满足全零块判决条件，就判16×16预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；

步骤S2、如果在16×16预测模式下，宏块残差不满足全零块判决条件，则将8×8预测模式作为候选模式对当前宏块进行预测，如果宏块残差满足全零块判决条件，就判8×8预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；

步骤S3、如果在16×16和8×8两种预测模式下，宏块残差都不满足全零块判决条件，则比较16×16和8×8这两种预测模式的率失真值，如果16×16的率失真值小于8×8的率失真值，则选择16×16预测模式为最佳预测模式，并退出帧间预测模式循环；

步骤S4、如果16×16的率失真值大于8×8的率失真值，则根据预测模式尺寸预选原则，计算宏块水平和垂直的纹理复杂度；

步骤S5、由步骤S4所得到的宏块水平和垂直的纹理复杂度确定下一候选模式是采用16×8，还是8×16；

步骤S6、若步骤S5判断水平方向纹理复杂度大于垂直方向，则采用8×16预测模式对当前宏块进行预测(步骤S6a)，否则采用16×8预测模式对当前宏块进行预测(步骤S6b)；

步骤S7、如果步骤S6所得到的宏块残差满足全零块判决条件，就判当前预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；

步骤S8、如果宏块残差不满足全零块判决条件，则计算该预测模式的率失真值，将该率失真值与16×16、8×8预测模式的率失真值进行比较，选择率失真值最小的预测模式作为最佳预测模式，完成帧间模式选择。

以上所述的全零块判决条件是根据AVS1-P2整数变换和量化的公式推出，所述的全零块判决条件经过以下步骤推出：

a、将整数变换表达式

F (u, v) = Σ_{i = 0}^{7} Σ_{j = 0}^{7} c_{u, i} x_{i, j} c_{j, v}

进行不等式缩放，得到

F_{\max} (u, v) \leq Σ_{i = 0}^{7} Σ_{j = 0}^{7} | c_{u, i} x_{i, j} c_{j, v} | \leq Σ_{i = 0}^{7} Σ_{j = 0}^{7} | c_{u, i} c_{j, v} | | x_{i, j} |,

其中i、j表示行、列的索引；x表示宏块残差；c为整数变换矩阵；u、v满足0≤u，v≤7；

b、由变换矩阵可得

F_{\max} (u, v) \leq 100 Σ_{i = 0}^{7} Σ_{j = 0}^{7} | x_{i, j} |;

c、结合AVS1-P2的量化公式可得

Σ_{i = 0}^{7} Σ_{j = 0}^{7} | x_{i, j} | < \frac{2^{L} \times 2^{19}}{100 \times M_{\max} \times QC},

其中，M_max为缩放矩阵M中的最大值；

d、根据AVS1-P2的64级量化，每当量化参数QP的值增加8时，量化步长Q_step大致增加一倍，即量化系数表QC中的值可以表示为2^15-QP/8。由此可得全零块判决条件

Σ_{i = 0}^{7} Σ_{j = 0}^{7} | x_{i, j} | < \frac{2^{QP / 4} \times 2^{19}}{100 \times M_{\max}} .

以上步骤S4中所述宏块水平和垂直的纹理复杂度采用平均绝对差值MAD(垂直平均绝对差MAD_V，水平平均绝对差MAD_H)来分析，MAD(MAD_V，MAD_H)的计算公式如下：

{MAD}_{V} = \frac{1}{16 \times 16} Σ_{x = 0}^{15} Σ_{y = 0}^{15} | p (x, y) - m_{x} |;

{MAD}_{H} = \frac{1}{16 \times 16} Σ_{y = 0}^{15} Σ_{x = 0}^{15} | p (x, y) - m_{y} |;

以上步骤S5中所述下一候选模式通过比较MAD_V和MAD_H的大小确定。对于大小为16×16的宏块而言，如果待编码宏块的水平方向属于同一个物体，因为这样的宏块在水平方向上纹理比较平滑，而在垂直方向上纹理复杂，那么在帧间模式循环中选择16×8帧间预测模式的几率较大；如果待编码宏块的垂直方向属于同一个物体，由于这样的宏块在垂直方向上纹理比较平滑，而在水平方向上纹理复杂，那么在帧间模式循环中选择8×16帧间预测模式的几率较大。利用上述的准则，如果宏块垂直方向上的平均绝对差值MAD_V大于水平方向上的平均绝对差值MAD_H，则选择16×8帧间预测模式作为下一候选模式，否则，选择8×16帧间预测模式作为下一候选模式。

表1列出了本发明所提出的方法与AVS1-P2的参考软件rm52h所提供的方法，在不同QP下的峰值信噪比(PSNR)、码率和总编码时间的差值。在表1中用ΔB表示两种方法下比特率的差值，ΔP表示两种方法下亮度峰值信噪比的差值，ΔT表示两种方法下编码30帧所用总编码时间的差值，负号表示减少。

从表1可见，由于采用不同序列，编码的结果略有不同，但是总体来说，本发明所提出的方法编码效率接近参考软件，却节省了可观的编码时间。由表中的数据可以看出，图像亮度的PSNR总体来说变化不大，平均下降0.11dB左右，最大为0.24dB。绝大多数情况下，码率增加不超过2％，平均增加1.18％左右。而编码时间则大大地节省，其中节省时间最大为31.88％，节省时间最小为21.93％。虽然由于提前退出原则使得有些序列码率有所上升，但上升的幅度很小。而且随着量化参数的增大，本发明提出的方法所能节省的编码时间也随之增加。

表1本发明与AVS参考软件rm52h实现效果的比较

Claims

1、一种基于AVS视频编码的快速帧间预测模式选择方法，其特征在于，所述方法包含以下步骤：

步骤1、将16×16预测模式作为候选模式对当前宏块进行预测，如果宏块残差满足全零块判决条件，就判16×16预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；

2、如权利要求1所述的基于AVS视频编码的快速帧间预测模式选择方法，其特征在于，所述的全零块判决条件是根据AVS1-P2整数变换和量化的公式推出，具体步骤如下：

步骤a、将整数变换表达式

F (u, v) = Σ_{i = 0}^{7} Σ_{j = 0}^{7} c_{u, i} x_{i, j} c_{j, v}

进行不等式缩放，得到

F_{\max} (u, v) \leq Σ_{i = 0}^{7} Σ_{j = 0}^{7} | c_{u, i} x_{i, j} c_{j, v} | \leq Σ_{i = 0}^{7} Σ_{j = 0}^{7} | c_{u, i} c_{j, v} | | x_{i, j} |,

步骤b、由变换矩阵可得

F_{\max} (u, v) \leq 100 Σ_{i = 0}^{7} Σ_{j = 0}^{7} | x_{i, j} |;

步骤c、结合AVS1-P2的量化公式可得

Σ_{i = 0}^{7} Σ_{j = 0}^{7} | x_{i, j} | < \frac{2^{L} \times 2^{19}}{100 \times M_{\max} \times QC},

其中，L＝15+QP/8，QP表示量化参数，M_max为缩放矩阵M中的最大值；

步骤d、根据AVS1-P2的64级量化，每当量化参数QP的值增加8时，量化步长Q_step大致增加一倍，即量化系数表QC中的值可以表示为2^15-QP/8，由此可得全零块判决条件

Σ_{i = 0}^{7} Σ_{j = 0}^{7} | x_{i, j} | < \frac{2^{QP / 4} \times 2^{19}}{100 {\times M}_{\max}} .

3、如权利要求1所述的基于AVS视频编码的快速帧间预测模式选择方法，其特征在于，步骤4中所述宏块水平和垂直的纹理复杂度采用垂直平均绝对差MAD_V和水平平均绝对差MAD_H来分析，其计算公式分别如下：

{MAD}_{V} = \frac{1}{16 \times 16} Σ_{x = 0}^{15} Σ_{y = 0}^{15} | p (x, y) - m_{x} |;

{MAD}_{H} = \frac{1}{16 \times 16} Σ_{y = 0}^{15} Σ_{x = 0}^{15} | p (x, y) - m_{y} |;

4、如权利要求1所述的基于AVS视频编码的快速帧间预测模式选择方法，其特征在于，步骤5中所述下一候选模式通过比较MAD_V和MAD_H的大小确定，如果宏块垂直方向上的平均绝对差值MAD_V大于水平方向上的平均绝对差值MAD_H，则选择16×8帧间预测模式作为下一候选模式，否则，选择8×16帧间预测模式作为下一候选模式。