CN102364950A - 基于h.264/avc标准的帧内预测模式快速选择方法及装置 - Google Patents

Abstract

本发明公开了一种基于H.264/AVC标准的帧内预测模式快速选择方法，包括：预测模式类型确定步骤，计算当前亮度宏块的SDM值，并将其与预设的平坦度系数双阈值T1、T2进行比较，若SDM值大于T2，则根据预设的4×4预测模式算法对当前预测块进行RDO运算，得到第一最佳预测模式；若SDM值小于T1，根据预设的16×16预测模式算法对当前预测块进行RDO运算，得到第二最佳预测模式；若以上两者皆不是，计算所述第一最佳预测模式和第二最佳预测模式，并选择具有最小RDO值的模式作为第三最佳预测模式。本发明还公开了相应的基于H.264/AVC标准的帧内预测模式快速选择装置。本发明可保证在编码输出信噪比和码率不变的情况下有效减少运算量和运算时间，加快帧内预测过程，提高编码速度。

Description

基于H.264/AVC标准的帧内预测模式快速选择方法及装置

技术领域

本发明涉及多媒体视频编码技术，尤其涉及一种基于H.264/AVC标准的帧内预测模式快速选择方法及装置。

背景技术

H.264是ITU-T的视频编码专家组(VCEG)和ISO/IEC的活动图像专家组(MPEG)的联合视频组(JVT/Joint Video Team)开发的视频编码标准。它等同于ISO的MPEG-4的第十部分，于2003年5月正式批准。与传统的视频编码方式相比，H.264标准具有压缩效率高，网络性能好等一些显著优点。在峰值信噪比(Peak Signal-to-Noise Ratio，PSNR)和视频质量方面，H.264远优于其他现有标准。当然，H.264的算法复杂度也高。

H.264标准采用16×16亮度宏块和8×8色度宏块作为编码的基本单元，根据不同的编码算法，每个16×16宏块还可以进一步划分为4×4亮度子块，进一步提高编码效率。

帧内预测是指利用空间相关性，用当前宏块的左边和上边宏块的相邻像素对当前宏块进行预测。对当前宏块与预测宏块的差进行变换、量化和熵编码，从而对视频进行压缩。

在H.264标准中，帧内预测模式提供了9种4×4亮度预测模式和4种16×16亮度预测模式，分别如下表一和表二所示：

表一 4×4亮度子块预测模式表

模式	描述
		模式0(垂直)	由宏块上方像素垂直向下预测像素值
模式1(水平)	由宏块左侧像素水平推出预测像素值
		模式2(DC)	由宏块上方和左侧像素平均值推出所有像素值
模式3(下左对角线)	由45°方向像素内插得出相应像素值
		模式4(下右对角线)	由135°方向像素内插得出相应像素值
模式5(垂直向右)	由116.6°方向像素内插得出相应像素值
		模式6(水平向下)	由153.4°方向像素内插得出相应像素值
模式7(垂直向左)	由63.4°方向像素内插得出相应像素值
		模式8(水平向上)	由26.6°方向像素内插得出相应像素值

表二 16×16亮度宏块预测模式表

模式	描述
		模式0(垂直)	由上边像素推出相应像素值
模式1(水平)	由左边像素推出相应像素值
		模式2(DC)	由上边和左边像素平均值推出相应像素值
模式3(平面)	利用线形″Plane″函数及左、上像素推出相应像素值

H.264采用拉格朗日率失真优化(Rate Distortion Optimization，RDO)策略进行最优化编码模式选择，遍历所有可能的编码模式，最后选择最小率失真代价模式作为最佳帧内预测模式。对每个亮度块要进行M16+16×M4＝148次RDO计算(M16、M4分别代表16×16、4×4亮度块的预测模式)。其中，RDO算法包括整数余弦变换、量化、反量化、反变换过程。RDO的计算公式为：RDO＝SSD+λmode×Rate，其中，SSD为原始块与重建块像素值的平方差之和，λmode为QP的指数函数，Rate表示采用该预测模式需要的比特数。因此，H.264帧内预测运算法复杂度很高。

发明内容

本发明所要解决的技术问题是：提供一种基于H.264/AVC标准的帧内预测模式快速选择方法，该方法可保证在编码输出信噪比和码率不变的情况下有效减少运算量和运算时间，加快帧内预测过程，提高编码速度。

本发明进一步所要解决的技术问题是：提供一种H.264帧内预测模式的快速选择装置，该装置可保证在编码输出信噪比和码率不变的情况下有效减少运算量和运算时间，加快帧内预测过程，提高编码速度。

为解决所述技术问题，本发明采用如下技术方案：

一种基于H.264/AVC标准的帧内预测模式快速选择方法，包括以下步骤：

预测模式类型确定步骤，计算当前亮度宏块的SDM值，并将其与预设的平坦度系数双阈值T1、T2进行比较，若所述SDM值大于T2，则仅执行下述4×4预测模式选择步骤，若所述SDM值小于T1，则仅执行下述16×16预测模式选择步骤，若以上两者皆不是，则执行下述最佳预测模式选择步骤；

4×4预测模式选择步骤，根据预设的4×4预测模式算法对当前预测块进行RDO运算，得到第一最佳预测模式；

16×16预测模式选择步骤，根据预设的16×16预测模式算法对当前预测块进行RDO运算，得到第二最佳预测模式；

最佳预测模式选择步骤，执行所述4×4预测模式选择步骤和16×16预测模式选择步骤，并选择具有最小RDO值的模式作为第三最佳预测模式。

优选地，所述4×4预测模式选择步骤具体包括以下步骤：

高阶方向测度值计算步骤，计算当前亮度宏块的4×4亮度子块的8个高阶方向的测度值d(i)，找出所述d(i)中的最大值dmax、最小值dmin，并计算出其方差ds、以及所述dmax与dmin的差值dmax-dmin，其中i＝0，1，3，4，5，6，7，8；

候选模式选择步骤，将所述差值dmax-dmin、方差ds分别与预设的方向性系数阈值TU、TS进行比较：

若dmax-dmin＞TU且ds＞TS，则将所述最小值dmin对应的模式和h.264标准中的most-probable-mode选为候选模式，

若dmax-dmin＞TU且ds＜TS，则将所述最小值dmin对应的模式和4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式，

若以上两者皆不是，则将最小值dmin对应的模式、DC模式、4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式；

RDO运算步骤，对所述候选模式选择步骤中选择的候选模式进行RDO运算，得到第一最佳预测模式。

优选地，通过以下公式计算所述d(i)值：

$d\left(0\right)=\underset{i=0,j=i}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i+1,j}+2P_{i+2,j}-P_{i+3,j}|;$

$d\left(1\right)=\underset{j=0,i=j}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i,j+1}-2P_{i,j+2}+P_{i,j+3}|;$

d(3)＝|P_0，1-P_1，0|+|P_0，2-2P_1，1-P_2，0|+|2P_0，3-4P_1，2+4P_2，1-2P_3，0|+|P_1，3-2P_2，2+P_3，1|+|P_2，3-P_3，2|；

d(4)＝|P_0，2-P_1，3|+|P_0，1-2P_1，2+P_2，3|+|2P_0，0-4P_1，1+4P_2，2-2P_3，3|+|P_1，0-2P_2，1+P_3，2|+|P_2，0-P_3，1|；

d(5)＝|2P_0，0-2P_1，0-2P_2，1+2P_3，1|+|2P_0，1-2P_1，1-2P_2，2+2P_3，2|+|2P_0，2-2P_1，2-2P_2，3+2P_3，3|；

d(6)＝|2P_0，0-2P_0，1-2P_1，2+2P_1，3|+|2P_1，0-2P_1，1-2P_2，2+2P_2，3|+|2P_2，0-2P_2，1-2P_3，2+2P_3，3|；

d(7)＝|2P_0，1-2P_1，1-2P_2，0+2P_3，0|+|2P_0，2-2P_1，2-2P_2，1+2P_3，1|+|2P_0，3-2P_1，3-2P_2，2+2P_3，2|；

d(8)＝|2P_1，0-2P_1，1-2P_0，2+2P_0，3|+|2P_2，0-2P_2，1-2P_1，2+2P_1，3|+|2P_3，0-2P_3，1-2P_2，2+2P_2，3|。

优选地，其特征在于，通过以下方法确定所述T1、T2值：

取T＝1000+λ_QP×3，T1＝T-100，T2＝T+100。

优选地，通过以下公式计算所述SDM值：

$\mathrm{SDM}=\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}|P_{i,j}-\mathrm{Mean}|;$

$\mathrm{Mean}=\frac{1}{16\×16}\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}{P}_{i,j},$

其中，P_i，j表示宏块中坐标为(i，j)位置上的像素值，Mean表示该宏块的均值。

相应地，本发明还公开了一种基于H.264/AVC标准的帧内预测模式快速选择装置，该装置包括有：

预测模式类型确定单元，用于计算当前亮度宏块的SDM值，并将其与预设的平坦度系数双阈值T1、T2进行比较，若所述SDM值大于T2，则仅启动下述4×4预测模式选择单元，若所述SDM值小于T1，则仅启动下述16×16预测模式选择单元，若以上两者皆不是，则启动下述4×4预测模式选择单元、16×16预测模式选择单元、以及最佳预测模式选择单元；

4×4预测模式选择单元，与所述预测模式选择单元相连，用于根据预设的4×4预测模式算法对当前预测块进行RDO运算，得到第一最佳预测模式；

16×16预测模式选择单元，与所述预测模式选择单元相连，用于根据预设的16×16预测模式算法对当前预测块进行RDO运算，得到第二最佳预测模式；

最佳预测模式选择单元，与上述各单元相连，用于启动所述4×4预测模式选择单元和16×16预测模式选择单元分别计算当前预测块的第一最佳预测模式和第二最佳预测模式，并选择具有最小RDO值的模式作为第三最佳预测模式。

优选地，所述4×4预测模式选择单元具体包括有：

高阶方向测度值计算单元，用于计算当前亮度宏块的4×4亮度子块的8个高阶方向的测度值d(i)，找出所述d(i)中的最大值dmax、最小值dmin，并计算出其方差ds、以及所述dmax与dmin的差值dmax-dmin，其中i＝0，1，3，4，5，6，7，8；

候选模式选择单元，与所述高阶方向测度值计算单元相连，用于将所述差值dmax-dmin、方差ds分别与预设的方向性系数阈值TU、TS进行比较：

若dmax-dmin＞TU且ds＞TS，则将所述最小值dmin对应的模式和h.264标准中的most-probable-mode选为候选模式，

若dmax-dmin＞TU且ds＜TS，则将所述最小值dmin对应的模式和4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式，

若以上两者皆不是，则将最小值dmin对应的模式、DC模式、4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式；

RDO运算单元，与所述候选模式选择单元相连，用于对所述候选模式选择单元选择的候选模式进行RDO运算，得到第一最佳预测模式。

优选地，所述高阶方向测度值计算单元通过以下公式计算所述d(i)值：

$d\left(0\right)=\underset{i=0,j=i}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i+1,j}+2P_{i+2,j}-P_{i+3,j}|;$

$d\left(1\right)=\underset{j=0,i=j}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i,j+1}-2P_{i,j+2}+P_{i,j+3}|;$

d(3)＝|P_0，1-P_1，0|+|P_0，2-2P_1，1-P_2，0|+|2P_0，3-4P_1，2+4P_2，1-2P_3，0|+|P_1，3-2P_2，2+P_3，1|+|P_2，3-P_3，2|；

d(4)＝|P_0，2-P_1，3|+|P_0，1-2P_1，2+P_2，3|+|2P_0，0-4P_1，1+4P_2，2-2P_3，3|+|P_1，0-2P_2，1+P_3，2|+|P_2，0-P_3，1|；

d(5)＝|2P_0，0-2P_1，0-2P_2，1+2P_3，1|+|2P_0，1-2P_1，1-2P_2，2+2P_3，2|+|2P_0，2-2P_1，2-2P_2，3+2P_3，3|；

d(6)＝|2P_0，0-2P_0，1-2P_1，2+2P_1，3|+|2P_1，0-2P_1，1-2P_2，2+2P_2，3|+|2P_2，0-2P_2，1-2P_3，2+2P_3，3|；

d(7)＝|2P_0，1-2P_1，1-2P_2，0+2P_3，0|+|2P_0，2-2P_1，2-2P_2，1+2P_3，1|+|2P_0，3-2P_1，3-2P_2，2+2P_3，2|；

d(8)＝|2P_1，0-2P_1，1-2P_0，2+2P_0，3|+|2P_2，0-2P_2，1-2P_1，2+2P_1，3|+|2P_3，0-2P_3，1-2P_2，2+2P_2，3|。

优选地，所述T1、T2值通过以下方法确定：

取T＝1000+λ_QP×3，T1＝T-100，T2＝T+100。

优选地，所述SDM值通过以下公式计算：

$\mathrm{SDM}=\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}|P_{i,j}-\mathrm{Mean}|;$

$\mathrm{Mean}=\frac{1}{16\×16}\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}{P}_{i,j},$

其中，P_i，j表示宏块中坐标为(i，j)位置上的像素值，Mean表示该宏块的均值。

本发明的有益效果是：

本发明的实施例通过根据待预测的亮度宏块的平坦程度确定该亮度宏块所采用的预测模式尺寸，并进一步对4×4预测模式采用8个高阶方向测度值计算最优的预测模式，从而保证了在编码输出信噪比和码率不变的情况下有效减少运算量和运算时间，加快了帧内预测过程，提高了编码速度。

下面结合附图对本发明作进一步的详细描述。

附图说明

图1是本发明的基于H.264/AVC标准的帧内预测模式快速选择方法一个实施例的流程图。

图2是H.264标准规定的4×4亮度子块预测模式方向示意图(2(DC)除外)。

具体实施方式

下面参考图1和图2详细描述本发明提供的基于H.264/AVC标准的帧内预测模式快速选择方法；如图所示，本实施例实现一次基于H.264/AVC标准的帧内预测模式快速选择流程主要包括以下步骤：

在预测模式类型确定步骤中，计算当前亮度宏块的SDM值，并将其与预设的平坦度系数双阈值T1、T2进行比较，若所述SDM值大于T2，则仅执行下述4×4预测模式选择步骤，若所述SDM值小于T1，则仅执行下述16×16预测模式选择步骤，若以上两者皆不是，则执行下述最佳预测模式选择步骤；

在4×4预测模式选择步骤中，根据预设的4×4预测模式算法对当前预测块进行RDO运算，得到第一最佳预测模式；

在16×16预测模式选择步骤中，根据预设的16×16预测模式算法对当前预测块进行RDO运算，得到第二最佳预测模式；

在最佳预测模式选择步骤中，执行所述4×4预测模式选择步骤和16×16预测模式选择步骤，并选择具有最小RDO值的模式作为第三最佳预测模式。

具体实现时，所述4×4预测模式选择步骤可具体包括以下步骤：

在高阶方向测度值计算步骤中，计算当前亮度宏块的4×4亮度子块的8个高阶方向的测度值d(i)，找出所述d(i)中的最大值dmax、最小值dmin，并计算出其方差ds、以及所述dmax与dmin的差值dmax-dmin，其中i＝0，1，3，4，5，6，7，8。高阶方向测度值d(i)可以反映出4×4亮度子块图像纹理的方向性特征，其值越小反映预测模式i所指向的方向性越强。

在候选模式选择步骤中，将所述差值dmax-dmin、方差ds分别与预设的方向性系数阈值TU、TS进行比较：

若dmax-dmin＞TU且ds＞TS，说明当前块具有很强的纹理方向性，则将所述最小值dmin对应的模式和h.264标准中的most-probable-mode选为候选模式，

若dmax-dmin＞TU且ds＜TS，说明当前块可能具有较强的纹理方向性，则将所述最小值dmin对应的模式和4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式，

若以上两者皆不是，说明当前块不具有强纹理方向性，则将最小值dmin对应的模式、DC模式、4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式；

在RDO运算步骤中，对所述候选模式选择步骤中选择的候选模式进行RDO运算，得到4×4预测模式的最佳预测模式(即第一最佳预测模式)。

具体实现时，在所述高阶方向测度值计算步骤中，可通过以下公式计算所述d(i)值：

$d\left(0\right)=\underset{i=0,j=i}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i+1,j}+2P_{i+2,j}-P_{i+3,j}|;$

$d\left(1\right)=\underset{j=0,i=j}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i,j+1}-2P_{i,j+2}+P_{i,j+3}|;$

d(3)＝|P_0，1-P_1，0|+|P_0，2-2P_1，1-P_2，0|+|2P_0，3-4P_1，2+4P_2，1-2P_3，0|+|P_1，3-2P_2，2+P_3，1|+|P_2，3-P_3，2|；

d(4)＝|P_0，2-P_1，3|+|P_0，1-2P_1，2+P_2，3|+|2P_0，0-4P_1，1+4P_2，2-2P_3，3|+|P_1，0-2P_2，1+P_3，2|+|P_2，0-P_3，1|；

d(5)＝|2P_0，0-2P_1，0-2P_2，1+2P_3，1|+|2P_0，1-2P_1，1-2P_2，2+2P_3，2|+|2P_0，2-2P_1，2-2P_2，3+2P_3，3|；

d(6)＝|2P_0，0-2P_0，1-2P_1，2+2P_1，3|+|2P_1，0-2P_1，1-2P_2，2+2P_2，3|+|2P_2，0-2P_2，1-2P_3，2+2P_3，3|；

d(7)＝|2P_0，1-2P_1，1-2P_2，0+2P_3，0|+|2P_0，2-2P_1，2-2P_2，1+2P_3，1|+|2P_0，3-2P_1，3-2P_2，2+2P_3，2|；

d(8)＝|2P_1，0-2P_1，1-2P_0，2+2P_0，3|+|2P_2，0-2P_2，1-2P_1，2+2P_1，3|+|2P_3，0-2P_3，1-2P_2，2+2P_2，3|。

其中，d(i)表示4×4亮度子块的第i种预测模式的高阶方向测度值，P_i，j表示4×4亮度子块的第i行第j列的灰度值，计算d(i)时用到的像素是根据图2所示的第i种预测模式同一箭头指向的像素值来取得的。

具体实现时，在所述候选模式选择步骤中，可通过以下公式计算当前亮度宏块的灰度值与均值的差值大小，即SDM值：

$\mathrm{SDM}=\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}|P_{i,j}-\mathrm{Mean}|;$

$\mathrm{Mean}=\frac{1}{16\×16}\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}{P}_{i,j},$

其中，P_i，j表示宏块中坐标为(i，j)位置上的像素值，Mean表示该宏块的均值。

具体实现时，所述预测模式选择步骤中预设的平坦度系数双阈值T1、T2可基于大量实验统计确定，具体方法为：统计出大量亮度宏块分别采用16×16预测模式和4×4预测模式时SDM值的大小，据此设定适当的T1、T2值。其中一种优选的方案是：由大量实验表明选择4×4亮度子块还是16×16亮度宏块与量化参数有较大关系，因此T1、T2值的设定与所述量化参数有较大关系，因此可取T＝1000+λ_QP×3，则T1＝T-100，T2＝T+100。

具体实现时，所述候选模式选择步骤中预设的方向性系数阈值TU、TS不是固定值，可由大量的不同的纹理图案的统计信息取得。方法为：取各种纹理方向性很强的、纹理方向性较强的、纹理方向性不强的图像，分别统计出其4×4亮度子块的8个高阶方向测度值，分别统计出这些值的最大值、最小值、方差，据此设定适当的TU、TS值。

本实施例中，由于16×16亮度宏块尺寸比较大，为保证编码输出高信噪比考虑，所述16×16预测模式选择步骤直接采用H.264标准中定义的4种预测模式进行RDO运算，得到16×16预测模式最佳预测模式(即第二最佳预测模式)。

具体实现时，在所述最佳预测模式选择步骤中，可将当前的亮度宏块(即预测块)按16个4×4亮度子块进行预测模式选择得到的RDO值相加的总和，和按一个16×16亮度宏块进行预测模式选择得到的RDO值相比较，选择具有最小的RDO值的模式作为该亮度宏块的最佳预测模式(即第三最佳预测模式)。

下面详细描述本发明提供的基于H.264/AVC标准的帧内预测模式快速选择装置的一个实施例，本实施例主要包括有：

预测模式类型确定单元，用于计算当前亮度宏块的SDM值，并将其与预设的平坦度系数双阈值T1、T2进行比较，若所述SDM值大于T2，则仅启动下述4×4预测模式选择单元，若所述SDM值小于T1，则仅启动下述16×16预测模式选择单元，若以上两者皆不是，则启动下述4×4预测模式选择单元、16×16预测模式选择单元、以及最佳预测模式选择单元；

4×4预测模式选择单元，与所述预测模式选择单元相连，用于根据预设的4×4预测模式算法对当前预测块进行RDO运算，得到第一最佳预测模式；

16×16预测模式选择单元，与所述预测模式选择单元相连，用于根据预设的16×16预测模式算法对当前预测块进行RDO运算，得到第二最佳预测模式；

最佳预测模式选择单元，与上述各单元相连，用于启动所述4×4预测模式选择单元和16×16预测模式选择单元分别计算当前预测块的第一最佳预测模式和第二最佳预测模式，并选择具有最小RDO值的模式作为第三最佳预测模式。

具体实现时，所述4×4预测模式选择单元可具体包括有：

高阶方向测度值计算单元，用于计算当前亮度宏块的4×4亮度子块的8个高阶方向的测度值d(i)，找出所述d(i)中的最大值dmax、最小值dmin，并计算出其方差ds、以及所述dmax与dmin的差值dmax-dmin，其中i＝0，1，3，4，5，6，7，8；

候选模式选择单元，与所述高阶方向测度值计算单元相连，用于将所述差值dmax-dmin、方差ds分别与预设的方向性系数阈值TU、TS进行比较：

若dmax-dmin＞TU且ds＞TS，则将所述最小值dmin对应的模式和h.264标准中的most-probable-mode选为候选模式，

若dmax-dmin＞TU且ds＜TS，则将所述最小值dmin对应的模式和4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式，

若以上两者皆不是，则将最小值dmin对应的模式、DC模式、4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式；

RDO运算单元，与所述候选模式选择单元相连，用于对所述候选模式选择单元选择的候选模式进行RDO运算，得到第一最佳预测模式。

其中，所述高阶方向测度值计算单元可通过以下公式计算所述d(i)值：

$d\left(0\right)=\underset{i=0,j=i}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i+1,j}+2P_{i+2,j}-P_{i+3,j}|;$

$d\left(1\right)=\underset{j=0,i=j}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i,j+1}-2P_{i,j+2}+P_{i,j+3}|;$

d(3)＝|P_0，1-P_1，0|+|P_0，2-2P_1，1-P_2，0|+|2P_0，3-4P_1，2+4P_2，1-2P_3，0|+|P_1，3-2P_2，2+P_3，1|+|P_2，3-P_3，2|；

d(4)＝|P_0，2-P_1，3|+|P_0，1-2P_1，2+P_2，3|+|2P_0，0-4P_1，1+4P_2，2-2P_3，3|+|P_1，0-2P_2，1+P_3，2|+|P_2，0-P_3，1|；

d(5)＝|2P_0，0-2P_1，0-2P_2，1+2P_3，1|+|2P_0，1-2P_1，1-2P_2，2+2P_3，2|+|2P_0，2-2P_1，2-2P_2，3+2P_3，3|；

d(6)＝|2P_0，0-2P_0，1-2P_1，2+2P_1，3|+|2P_1，0-2P_1，1-2P_2，2+2P_2，3|+|2P_2，0-2P_2，1-2P_3，2+2P_3，3|；

d(7)＝|2P_0，1-2P_1，1-2P_2，0+2P_3，0|+|2P_0，2-2P_1，2-2P_2，1+2P_3，1|+|2P_0，3-2P_1，3-2P_2，2+2P_3，2|；

d(8)＝|2P_1，0-2P_1，1-2P_0，2+2P_0，3|+|2P_2，0-2P_2，1-2P_1，2+2P_1，3|+|2P_3，0-2P_3，1-2P_2，2+2P_2，3|。

具体实现时，在所述候选模式选择单元可通过以下公式计算当前亮度宏块的灰度值与均值的差值大小，即SDM值：

$\mathrm{SDM}=\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}|P_{i,j}-\mathrm{Mean}|;$

$\mathrm{Mean}=\frac{1}{16\×16}\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}{P}_{i,j},$

其中，P_i，j表示宏块中坐标为(i，j)位置上的像素值，Mean表示该宏块的均值。

具体实现时，所述预测模式选择单元中预设的平坦度系数双阈值T1、T2可基于大量实验统计确定，具体方法为：统计出大量亮度宏块分别采用16×16预测模式和4×4预测模式时SDM值的大小，据此设定适当的T1、T2值。其中一种优选的方案是：由大量实验表明选择4×4亮度子块还是16×16亮度宏块与量化参数有较大关系，因此T1、T2值的设定与所述量化参数有较大关系，因此可取T＝1000+λ_QP×3，则T1＝T-100，T2＝T+100。

具体实现时，所述候选模式选择单元中预设的方向性系数阈值TU、TS不是固定值，可由大量的不同的纹理图案的统计信息取得。方法为：取各种纹理方向性很强的、纹理方向性较强的、纹理方向性不强的图像，分别统计出其4×4亮度子块的8个高阶方向测度值，分别统计出这些值的最大值、最小值、方差，据此设定适当的TU、TS值。

本实施例是与前述实施例完全对应的，其他重复之处，不再一一赘述。

与现有技术相比，本发明的的优点在于：

在保证信噪比和码率不变的情况下有效地减少了运算量和运算时间，解决了现有技术中编码复杂度过高、运算量过大、耗时过多而造成的应用限制的问题，使得H.264标准的视频编码能更具有实时应用性。本发明可应用于H.264/AVC标准。

以上所述是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明的保护范围。

Claims (10)

1.一种基于H.264/AVC标准的帧内预测模式快速选择方法，其特征在于，该方法包括以下步骤：

预测模式类型确定步骤，计算当前亮度宏块的SDM值，并将其与预设的平坦度系数双阈值T1、T2进行比较，若所述SDM值大于T2，则仅执行下述4×4预测模式选择步骤，若所述SDM值小于T1，则仅执行下述16×16预测模式选择步骤，若以上两者皆不是，则执行下述最佳预测模式选择步骤；

4×4预测模式选择步骤，根据预设的4×4预测模式算法对当前预测块进行RDO运算，得到第一最佳预测模式；

16×16预测模式选择步骤，根据预设的16×16预测模式算法对当前预测块进行RDO运算，得到第二最佳预测模式；

最佳预测模式选择步骤，执行所述4×4预测模式选择步骤和16×16预测模式选择步骤，并选择具有最小RDO值的模式作为第三最佳预测模式。

2.如权利要求1所述的基于H.264/AVC标准的帧内预测模式快速选择方法，其特征在于，所述4×4预测模式选择步骤具体包括以下步骤：

高阶方向测度值计算步骤，计算当前亮度宏块的4×4亮度子块的8个高阶方向的测度值d(i)，找出所述d(i)中的最大值dmax、最小值dmin，并计算出其方差ds、以及所述dmax与dmin的差值dmax-dmin，其中i＝0，1，3，4，5，6，7，8；

候选模式选择步骤，将所述差值dmax-dmin、方差ds分别与预设的方向性系数阈值TU、TS进行比较：

若dmax-dmin＞TU且ds＞TS，则将所述最小值dmin对应的模式和h.264标准中的most-probable-mode选为候选模式，

若dmax-dmin＞TU且ds＜TS，则将所述最小值dmin对应的模式和4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式，

若以上两者皆不是，则将最小值dmin对应的模式、DC模式、4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式；

RDO运算步骤，对所述候选模式选择步骤中选择的候选模式进行RDO运算，得到第一最佳预测模式。

3.如权利要求2所述的基于H.264/AVC标准的帧内预测模式快速选择方法，其特征在于，通过以下公式计算所述d(i)值：

$d\left(0\right)=\underset{i=0,j=i}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i+1,j}+2P_{i+2,j}-P_{i+3,j}|;$

$d\left(1\right)=\underset{j=0,i=j}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i,j+1}-2P_{i,j+2}+P_{i,j+3}|;$

d(3)＝|P_0，1-P_1，0|+|P_0，2-2P_1，1-P_2，0|+|2P_0，3-4P_1，2+4P_2，1-2P_3，0|+|P_1，3-2P_2，2+P_3，1|+|P_2，3-P_3，2|；

d(4)＝|P_0，2-P_1，3|+|P_0，1-2P_1，2+P_2，3|+|2P_0，0-4P_1，1+4P_2，2-2P_3，3|+|P_1，0-2P_2，1+P_3，2|+|P_2，0-P_3，1|；

d(5)＝|2P_0，0-2P_1，0-2P_2，1+2P_3，1|+|2P_0，1-2P_1，1-2P_2，2+2P_3，2|+|2P_0，2-2P_1，2-2P_2，3+2P_3，3|；

d(6)＝|2P_0，0-2P_0，1-2P_1，2+2P_1，3|+|2P_1，0-2P_1，1-2P_2，2+2P_2，3|+|2P_2，0-2P_2，1-2P_3，2+2P_3，3|；

d(7)＝|2P_0，1-2P_1，1-2P_2，0+2P_3，0|+|2P_0，2-2P_1，2-2P_2，1+2P_3，1|+|2P_0，3-2P_1，3-2P_2，2+2P_3，2|；

d(8)＝|2P_1，0-2P_1，1-2P_0，2+2P_0，3|+|2P_2，0-2P_2，1-2P_1，2+2P_1，3|+|2P_3，0-2P_3，1-2P_2，2+2P_2，3|。

4.如权利要求1-3中任一项所述的基于H.264/AVC标准的帧内预测模式快速选择方法，其特征在于，通过以下方法确定所述T1、T2值：

取T＝1000+λ_QP×3，T1＝T-100，T2＝T+100。

5.如权利要求4所述的基于H.264/AVC标准的帧内预测模式快速选择方法，其特征在于，通过以下公式计算所述SDM值：

$\mathrm{SDM}=\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}|P_{i,j}-\mathrm{Mean}|;$

$\mathrm{Mean}=\frac{1}{16\×16}\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}{P}_{i,j},$

其中，P_i，j表示宏块中坐标为(i，j)位置上的像素值，Mean表示该宏块的均值。

6.一种基于H.264/AVC标准的帧内预测模式快速选择装置，其特征在于，该装置包括有：

预测模式类型确定单元，用于计算当前亮度宏块的SDM值，并将其与预设的平坦度系数双阈值T1、T2进行比较，若所述SDM值大于T2，则仅启动下述4×4预测模式选择单元，若所述SDM值小于T1，则仅启动下述16×16预测模式选择单元，若以上两者皆不是，则启动下述4×4预测模式选择单元、16×16预测模式选择单元、以及最佳预测模式选择单元；

4×4预测模式选择单元，与所述预测模式选择单元相连，用于根据预设的4×4预测模式算法对当前预测块进行RDO运算，得到第一最佳预测模式；

16×16预测模式选择单元，与所述预测模式选择单元相连，用于根据预设的16×16预测模式算法对当前预测块进行RDO运算，得到第二最佳预测模式；

最佳预测模式选择单元，与上述各单元相连，用于启动所述4×4预测模式选择单元和16×16预测模式选择单元分别计算当前预测块的第一最佳预测模式和第二最佳预测模式，并选择具有最小RDO值的模式作为第三最佳预测模式。

7.如权利要求6所述的基于H.264/AVC标准的帧内预测模式快速选择装置，其特征在于，所述4×4预测模式选择单元具体包括有：

高阶方向测度值计算单元，用于计算当前亮度宏块的4×4亮度子块的8个高阶方向的测度值d(i)，找出所述d(i)中的最大值dmax、最小值dmin，并计算出其方差ds、以及所述dmax与dmin的差值dmax-dmin，其中i＝0，1，3，4，5，6，7，8；

候选模式选择单元，与所述高阶方向测度值计算单元相连，用于将所述差值dmax-dmin、方差ds分别与预设的方向性系数阈值TU、TS进行比较：

若dmax-dmin＞TU且ds＞TS，则将所述最小值dmin对应的模式和h.264标准中的most-probable-mode选为候选模式，

若dmax-dmin＞TU且ds＜TS，则将所述最小值dmin对应的模式和4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式，

若以上两者皆不是，则将最小值dmin对应的模式、DC模式、4×4亮度子块中左边块的预测模式leftmode、右边块的预测模式rightmode选为候选模式；

RDO运算单元，与所述候选模式选择单元相连，用于对所述候选模式选择单元选择的候选模式进行RDO运算，得到第一最佳预测模式。

8.如权利要求7所述的基于H.264/AVC标准的帧内预测模式快速选择装置，其特征在于，所述高阶方向测度值计算单元通过以下公式计算所述d(i)值：

$d\left(0\right)=\underset{i=0,j=i}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i+1,j}+2P_{i+2,j}-P_{i+3,j}|;$

$d\left(1\right)=\underset{j=0,i=j}{\overset{4}{\mathrm{\Σ}}}|P_{i,j}-2P_{i,j+1}-2P_{i,j+2}+P_{i,j+3}|;$

d(3)＝|P_0，1-P_1，0|+|P_0，2-2P_1，1-P_2，0|+|2P_0，3-4P_1，2+4P_2，1-2P_3，0|+|P_1，3-2P_2，2+P_3，1|+|P_2，3-P_3，2|；

d(4)＝|P_0，2-P_1，3|+|P_0，1-2P_1，2+P_2，3|+|2P_0，0-4P_1，1+4P_2，2-2P_3，3|+|P_1，0-2P_2，1+P_3，2|+|P_2，0-P_3，1|；

d(5)＝|2P_0，0-2P_1，0-2P_2，1+2P_3，1|+|2P_0，1-2P_1，1-2P_2，2+2P_3，2|+|2P_0，2-2P_1，2-2P_2，3+2P_3，3|；

d(6)＝|2P_0，0-2P_0，1-2P_1，2+2P_1，3|+|2P_1，0-2P_1，1-2P_2，2+2P_2，3|+|2P_2，0-2P_2，1-2P_3，2+2P_3，3|；

d(7)＝|2P_0，1-2P_1，1-2P_2，0+2P_3，0|+|2P_0，2-2P_1，2-2P_2，1+2P_3，1|+|2P_0，3-2P_1，3-2P_2，2+2P_3，2|；

d(8)＝|2P_1，0-2P_1，1-2P_0，2+2P_0，3|+|2P_2，0-2P_2，1-2P_1，2+2P_1，3|+|2P_3，0-2P_3，1-2P_2，2+2P_2，3|。

9.如权利要求6-8中任一项所述的基于H.264/AVC标准的帧内预测模式快速选择单元，其特征在于，所述T1、T2值通过以下方法确定：

取T＝1000+λ_QP×3，T1＝T-100，T2＝T+100。

10.如权利要求9所述的基于H.264/AVC标准的帧内预测模式快速选择装置，其特征在于，所述SDM值通过以下公式计算：

$\mathrm{SDM}=\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}|P_{i,j}-\mathrm{Mean}|;$

$\mathrm{Mean}=\frac{1}{16\×16}\underset{i=0}{\overset{15}{\mathrm{\Σ}}}\underset{j=0}{\overset{15}{\mathrm{\Σ}}}{P}_{i,j},$

其中，P_i，j表示宏块中坐标为(i，j)位置上的像素值，Mean表示该宏块的均值。

Images