CN103997646A - 一种高清视频编码中快速帧内预测模式选择方法 - Google Patents

Abstract

本发明提出了一种高清视频编码中快速帧内预测模式选择方法。首先利用绝对误差和SAD对残差进行处理，选出误差小的几种候选预测模式。然后采用简化的率失真代价函数，即哈达码变换绝对值和SATD(Sum of Absolute Hadamard Transformed Difference)的代价函数进一步减少候选预测模式数，并且采用阈值的方式得到候选预测模式，相同大小的预测单元的候选预测模式个数也可能不相同。接着利用最优模式的概率统计以及相邻预测单元之间预测信息的相关性，检测最可能预测模式MPM(Most Probable Mode)是否包含在候选预测模式中，MPM指当前预测单元周围已编码的左边预测单元和上边预测单元的最佳预测模式。如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则直接将进一步筛选的候选预测模式作为最终的RDO候选预测模式。最后根据拉格朗日率失真优化准则获得当前编码块的最佳帧内预测模式。

Description

一种高清视频编码中快速帧内预测模式选择方法

技术领域：

本发明属于信号处理中的视频压缩编码领域，特别针对新一代视频编码领域提出一种快速帧内预测模式选择方法，在保证图像质量的前提下，加快了高清视频帧内预测编码的速度。 

背景技术：

High Efficiency Video Coding(HEVC)是由ISO/IEC MPEG和ITU-T VCEG联合制定的新一代视频编码标准，它继承了现有的视频编码标准H.264/AVC的部分技术，同时对相关的技术进行了改进，目的是在原来视频解码质量的基础上，压缩效率提高一倍。即可以适当的提高编码复杂度，来保证视频图像质量不变的前提下，视频的码流减少50％(参见M.Viitanen,J.Vanne,T.D.Hamalainen,et al..Complexity analysis of next-generation HEVC decoder[A].IEEE International Symposium on Circuits and Systems[C],Seoul,Korea,2012,882-885.)。 

HEVC仍然采用基于块的编码框架，同时采用了新的图像表示方法，即更大的划分块来对图像进行编码，从而获得更好的编码性能(参见G.J.Sullivan,J.R.Ohm.Recent developments in standardization of high efficiency video coding(HEVC)[A].International Society for Optics and Photonics[C],San Diego,CA,United states,2010,7798:77980V-1-77980V-7.)。采用最大编码单元(LCU)、编码单元(CU)、预测单元(PU)、变换单元(TU)作为基本处理单元。编码单元(CU)为编码时划分的基本单元，预测单元(PU)是进行预测时用到的基本单元，变换单元(TU)是进行变换量化的基本单元。灵活的块结构划分方式划分深度最高可达到4，即CU₀大小为64×64(深度设为0)、CU₁大小为32×32(深度为1)、CU₂大小为16×16(深度为2)、CU₃大小为8×8(深度为3)，4种不同大小的编码块参与最优块的选择计算。这种块划分结构可以使每一个块进行编码预测和变换等操作时达到最优化。同时HEVC增加了帧内预测模式的数量，使得每个PU有33种预测角度，再加上DC预测和平面预测，共有35种帧内预测模式，提高了视频编码效率。 

然而，这些改进在提高编码效率的同时也不可避免地增加了编码的复杂度，HEVC采用每种大小的PU按照所有预测方式进行率失真优化(RDO)过程，这样，一个最大编码单元 的最终率失真代价计算次数为7327次，使得编码器运算非常复杂。因此，在标准不断完善的同时，很多人开始着手算法的优化。由于帧内预测运算量巨大，降低帧内预测编码复杂度成为提高编码效率的研究重点之一。H.264/AVC中优化帧内模式选择算法复杂度已经取得了较多研究成果，其主要方法分三类：通过一定的规则来减少预测模式的个数；不减少预测模式的数量，而是采用对算法本身进行优化；优化软硬件算法的结构。苏睿等采用变换域信息得到图像纹理方向，通过纹理方向减少预测模式数量，实现快速帧内预测编码(参见苏睿,刘贵忠,张彤宇,等.利用变换域信息快速实现H.264帧内预测编码的新算法[J].电子与信息学报,2007,29(1):161-165.)。C.Kim等采用变换后残差和与梯度和减少候选预测模式数量，有效降低帧内预测的编码时间(C Kim,H Shih,C J Kuo.Multistage mode decision for intraprediction in H.264codec[C].Visual Communications and Image Processing,2004,5308:355-363.)。而国内外对于HEVC帧内预测优化算法研究成果还比较少。L.Zhao等采用不减少预测模式的数量，根据不同编码单元的编码复杂度分析得到编码单元的快速划分算法，来降低预测编码的复杂度(参见L.Zhao,Li Zhang,Siwei Ma,et al.Fast mode decision algorithm for intra prediction in HEVC[A].IEEE Visual Communications and Image Processing(VCIP)[C],Tainan,Taiwan,2011,1-4.)。G.Van Wallendael等应用了哈达玛变换后的率失真代价进行比较，粗略选择得到一定数目的残差代价小的预测模式，再对这些模式进行率失真优化，得到了较好的效果，但预测时间占用较长，需要进一步进行优化(参见G.Van Wallendael,S.Van Leuven,J.De Cock,et al.Improved intra mode signaling for HEVC[A],IEEE International Conference on Multimedia and Expo[C],Barcelona,Spain,2011,1-6.)。 

为了解决目前高清视频编码中帧内预测编码复杂度高的问题，本发明充分利用最优模式的概率统计以及相邻预测单元之间预测信息的相关性，采用绝对误差和SAD(Sum of Absolute Difference)及简化率失真代价模型减少帧内预测模式的数量，最后用拉格朗日率失真优化在较少的候选模式中选择最佳帧内预测模式，以达到高清视频编码中快速帧内预测模式选择的目的。实验证明，该方法实现了在保证高清视频编码效率的前提下，帧内预测复杂度大大降低，帧内预测时间明显减少。 

发明内容：

本发明提出了一种高清视频编码中快速帧内预测模式选择方法。首先利用绝对误差和 SAD对残差进行处理，选出误差小的几种候选预测模式。然后采用简化的率失真代价函数，即哈达码变换绝对值和SATD(Sum of Absolute Hadamard Transformed Difference)的代价函数进一步减少候选预测模式数，并且采用阈值的方式得到候选预测模式，相同大小的预测单元的候选预测模式个数也可能不相同。接着利用最优模式的概率统计以及相邻预测单元之间预测信息的相关性，检测最可能预测模式MPM(Most Probable Mode)是否包含在候选预测模式中，MPM指当前预测单元周围已编码的左边预测单元和上边预测单元的最佳预测模式。如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则直接将进一步筛选的候选预测模式作为最终的RDO候选预测模式。最后根据拉格朗日率失真优化准则获得当前编码块的最佳帧内预测模式。 

一种高清视频编码中快速帧内预测模式选择方法，其特征在于实现步骤如下： 

步骤一：分别计算当前64×64大小的编码单元的35种帧内预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式； 

步骤二：采用简化的率失真代价，即哈达码变换绝对值和SATD的代价函数计算经过步骤一筛选后得到的候选预测模式，选出简化率失真代价较小的几种预测模式，并且根据预测模式成为最终的最优帧内预测模式的统计概率，采用阈值的方式保留不同的候选预测模式数量； 

步骤三：检测最可能预测模式MPM是否包含在候选预测模式中，如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则，将步骤二中得到的候选预测模式作为最终的RDO候选预测模式，MPM指当前预测单元周围已编码的左边预测单元和上边预测单元的最佳预测模式； 

步骤四：计算RDO候选预测模式中所有预测模式的率失真代价RDO，将率失真代价最小的预测模式选为最优预测模式；如果RDO候选预测模式中有只一个候选模式，则直接将该候选模式作为预测单元的最优预测模式；得到最佳预测模式的率失真代价RdCost1； 

步骤五：对编码单元划分后得到的四个亚编码单元，重复步骤一到步骤四对亚编码单元选择最优的预测模式进行编码，得到划分后的四个亚编码单元的率失真代价之和RdCost2； 

步骤六：比较编码单元和亚编码单元的率失真代价，即比较CostRd1和CostRd2的值，当RdCost1>RdCost2，转到步骤七；否则，采用当前编码单元进行预测编码，转到步骤八； 

步骤七：对亚编码单元进一步分成四个更小的编码单元，重复步骤五和步骤六，若编码 单元大小为4×4时，转到步骤八； 

步骤八：当前编码单元帧内预测编码结束。 

所述一种高清视频编码中快速帧内预测模式选择方法，处理的视频序列为YUV格式，对亮度分量的帧内预测采用上述八个步骤进行处理。 

所述步骤二中简化的率失真代价，即哈达码变换绝对值和SATD的代价函数为： 

J_SATD＝SATD+λ_mode·B_mode   (1) 

其中SATD是对预测残差进行Hadamard变换后，得到残差的绝对值总和，即： 

$\mathrm{SATD}=\left(\underset{x,y}{\mathrm{\Σ}}\right|\mathrm{DiffHAD}(x,y)\left|\right)/2---\left(2\right)$

λ_mode是拉格朗日因子，使用如下公式计算： 

λ_mode＝0.57×2^{((QP-12)/3.0)}   (3) 

B_mode是记录的帧内模式在码流传输中所需要的比特数。 

所述步骤二中经过SATD率失真代价准则筛选得到的候选预测模式，最终成为预测单元的最优模式的概率不一定是平等分布的，在上述准则中排在前面的预测模式成为最优预测模式的概率远远大于排在后面的预测模式的概率。同时，不同的预测单元，预测模式个数并不相同，因此筛选后排在前两个的预测模式是最优预测模式的概率也会不同。本发明中采用阈值的方式得到候选预测模式，相同大小的PU的候选预测模式个数也可能不相同。当预测模式的简化率失真代价满足以下条件时，则此预测模式被认为是RDO候选预测模式。 

$J_{\mathrm{SATD}}^j<T\&times;\min \left(J_{\mathrm{SATD}}^i\right)---\left(4\right)$

式(4)中，是当前预测模式的简化率失真代价，是当前预测单元所有预测模式的简化率失真代价的最小值，T是阈值，本发明中取T＝1.2，此时最终预测单元的预测结果最好。 

所述步骤四中计算RDO候选预测模式中所有预测模式的率失真代价，代价函数为： 

J(o,r,MODE|QP,λ_n)＝SSD(o,r,MODE|QP)+λ_nR(o,r,MODE|QP)   (5) 

式中，QP是量化单元的量化参数，λ_n是拉格朗日乘数，与QP有关，SSD(·)是原始亮度编码单元o与重建编码单元r之间的差值平方和，R(·)是利用模式MODE进行编码的比特数。 

$\mathrm{SSD}=\underset{x,y}{\mathrm{\&Sigma;}}{|{\mathrm{Orig}}_L(x,y)-{\mathrm{Rec}}_L(x,y)|}^2---\left(6\right)$

式中，Orig_L(x,y)是原始亮度编码单元的像素值，Rec_L(x,y)是重建亮度编码单元的像素值。 

本发明所提出的一种高清视频编码中快速帧内预测模式选择方法的优点在于： 

(1)本方法首先根据预测残差的绝对值和(SAD,Sum of Absolute Difference)对预测模式进行第一次粗选择，以减少候选预测模式的个数。 

(2)本方法采用简化的率失真代价函数，即哈达码变换绝对值和SATD代价函数作为一个变换域特征对第一次粗选择后的预测模式进行第二次筛选。与SAD相比，SATD的大小与失真的大小有更紧密的联系，即与RDO性能更具相关性；同时，哈达码变换的算法可以采用加法和移位运算实现，降低计算复杂度。根据最优模式的概率统计，对不同的预测单元，采用阈值法得到候选预测模式，相同大小的PU的候选预测模式个数也可能不相同。 

(3)本方法利用了相邻预测单元预测模式的相关性，及最可能预测模式MPM(指当前预测单元周围已编码的左边预测单元和上边预测单元的最佳预测模式)成为最终的最优预测模式的概率较大，对MPM是否包含在粗选后的候选预测模式中进行检测，并对包含情况直接将MPM作为RDO候选预测模式，进行率失真代价计算，从MPM中选取最优预测模式。 

附图说明：

图1为本发明一种高清视频编码中快速帧内预测模式选择方法流程图； 

图2为本发明一种高清视频编码中快速帧内预测模式选择方法步骤一中33种角度预测模式的预测方向； 

图3为本发明一种高清视频编码中快速帧内预测模式选择方法步骤四中率失真代价计算流程图； 

图4为对Cactus视频序列前30帧分别使用本发明方法及HM4.0压缩编码的峰值信噪比PSNR对比图； 

图5为对Cactus视频序列前30帧分别使用本发明方法及HM4.0压缩编码的码率BR对比图； 

图6为对BQTerrace视频序列前30帧分别使用本发明方法及HM4.0压缩编码的率失真曲线对比图； 

图7为使用HM4.0和本发明方法对标准高清视频序列BQTerrace、Cactus、ChinaSpeed、Flowervase和FourPeople前30帧在不同码率下(即QP取不同值)的平均编码时间对比图； 

图8(a)为高清视频序列BQTerrace第4帧原始图像； 

图8(b)为使用HM4.0对高清视频序列BQTerrace第4帧编码再解码后的结果图像； 

图8(c)为使用本发明方法对高清视频序列BQTerrace第4帧编码再解码后的结果图像。 

具体实施方式：

下面将结合附图对本发明方法作进一步的详细说明。 

本发明提出了一种高清视频编码中快速帧内预测模式选择方法。首先利用绝对误差和SAD对残差进行处理，选出误差小的几种候选预测模式。然后采用简化的率失真代价函数，即哈达码变换绝对值和SATD(Sum of Absolute Hadamard Transformed Difference)的代价函数进一步减少候选预测模式数，并且采用阈值的方式得到候选预测模式，相同大小的预测单元的候选预测模式个数也可能不相同。接着利用最优模式的概率统计以及相邻预测单元之间预测信息的相关性，检测最可能预测模式MPM(Most Probable Mode)是否包含在候选预测模式中，MPM指当前预测单元周围已编码的左边预测单元和上边预测单元的最佳预测模式。如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则直接将进一步筛选的候选预测模式作为最终的RDO候选预测模式。最后根据拉格朗日率失真优化准则获得当前编码块的最佳帧内预测模式。 

如附图1所示，一种高清视频编码中快速帧内预测模式选择方法，包括以下步骤： 

步骤一：分别计算当前64×64大小的编码单元的35种帧内预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式。35种帧内预测模式包括33种角度预测模式，DC预测模式和平面预测模式。33种角度预测模式的预测方向见附图2。 

原始图像编码单元与预测编码单元之间对应像素的差值计算： 

Diff(x,y)＝Orig(x,y)-Pred(x,y)   (7) 

$\mathrm{SAD}=\underset{x,y}{\mathrm{\&Sigma;}}\left|\mathrm{Diff}(x,y)\right|---\left(8\right)$

式中，Orig(x,y)和Pred(x,y)分别为编码单元原始像素值和预测像素值。Diff(x,y)为原始与预测像素值的残差。 

步骤二：采用简化的率失真代价，即哈达码变换绝对值和SATD的代价函数计算经过步 骤一筛选后得到的候选预测模式，选出简化率失真代价较小的几种预测模式，并且根据预测模式成为最终的最优帧内预测模式的统计概率，采用阈值的方式保留不同的候选预测模式数量。 

简化的率失真代价，即哈达码变换绝对值和SATD的代价函数为： 

J_SATD＝SATD+λ_mode·B_mode   (9) 

其中SATD是对预测残差进行Hadamard变换后，得到残差的绝对值总和，即： 

$\mathrm{SATD}=\left(\underset{x,y}{\mathrm{\&Sigma;}}\right|\mathrm{DiffHAD}(x,y)\left|\right)/2---\left(10\right)$

λ_mode是拉格朗日因子，使用如下公式计算： 

λ_mode＝0.57×2^{((QP-12)/3.0)}   (11) 

B_mode是记录的帧内模式在码流传输中所需要的比特数。 

其中经过SATD率失真代价准则筛选得到的候选预测模式，最终成为预测单元的最优模式的概率不一定是平等分布的，在上述准则中排在前面的预测模式成为最优预测模式的概率远远大于排在后面的预测模式的概率。同时，不同的预测单元，预测模式个数并不相同，因此筛选后排在前两个的预测模式是最优预测模式的概率也会不同。本发明中采用阈值的方式得到候选预测模式，相同大小的PU的候选预测模式个数也可能不相同。当预测模式的简化率失真代价满足以下条件时，则此预测模式被认为是RDO候选预测模式。 

$J_{\mathrm{SATD}}^j<T\&times;\min \left(J_{\mathrm{SATD}}^i\right)---\left(12\right)$

式(12)中，是当前预测模式的简化率失真代价，是当前预测单元所有预测模式的简化率失真代价的最小值，T是阈值，本发明中取T＝1.2，此时最终预测单元的预测结果最好。 

步骤三：检测最可能预测模式MPM是否包含在候选预测模式中，如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则，将步骤二中得到的候选预测模式直接作为最终的RDO候选预测模式。 

MPM是指当前预测单元周围已编码的左边预测单元和上边预测单元的最佳预测模式，在模式选择中非常重要。表1是对最有可能预测模式MPM在所有最优预测模式中所占的比例进行的统计分析。如表1所示，不同分辨率视频序列，MPM在所有最优预测模式中均占有很 高的比例。因此，MPM具有较高的概率成为最优预测模式。 

表1MPM在所有最优预测模式中所占的比例 

步骤四：计算RDO候选预测模式中所有预测模式的率失真代价，将率失真代价最小的预测模式选为最优预测模式；如果RDO候选预测模式中只有一个候选模式，则直接将该候选模式作为预测单元的最优预测模式；得到最佳预测模式的率失真代价RdCost1。 

率失真代价的计算流程图见附图3。计算公式为： 

J(o,r,MODE|QP,λ_n)＝SSD(o,r,MODE|QP)+λ_nR(o,r,MODE|QP)   (13) 

式中，QP是量化单元的量化参数，λ_n是拉格朗日乘数，与QP有关，SSD(·)是原始亮度编码单元o与重建编码单元r之间的差值平方和，R(·)是利用模式MODE进行编码的比特数。 

$\mathrm{SSD}=\underset{x,y}{\mathrm{\&Sigma;}}{|{\mathrm{Orig}}_L(x,y)-{\mathrm{Rec}}_L(x,y)|}^2---\left(14\right)$

式中，Orig_L(x,y)是原始亮度编码单元的像素值，Rec_L(x,y)是重建亮度编码单元的像素值。 

步骤五：对编码单元划分后得到的四个亚编码单元，重复步骤一到步骤四对亚编码单元选择最优的预测模式进行编码，得到划分后的四个亚编码单元的率失真代价之和RdCost2； 

步骤六：比较编码单元和亚编码单元的率失真代价，即比较CostRd1和CostRd2的值，当RdCost1>RdCost2，转到步骤七；否则，采用当前编码单元进行预测编码，转到步骤八； 

步骤七：对亚编码单元进一步分成四个更小的编码单元，重复步骤五和步骤六，若编码单元大小为4×4时，转到步骤八； 

步骤八：当前编码单元帧内预测编码结束。 

本方法处理的视频序列为YUV格式，本发明在新一代视频编码标准HEVC参考软件HM4.0代码基础上进行方法的验证，使用的计算机为coreTM2i3-2120CPU，3.30GHz，4GB的内存物理地址扩展，实验环境为Visual Studio2008。对不同分辨率的视频序列BQTerrace、Cactus、ChinaSpeed、Flowervase和FourPeople的前30帧进行仿真实验。实验参数配置如表2所示。 

表2实验参数配置 

软件	HM4.0
		量化参数QP	27,30,32,34,36
编码帧数	30
		帧率	60Hz
GOP结构	IIII…
		熵编码	CABAC

由于本发明方法主要针对新一代视频编码***的复杂度过高的问题，因此采用帧内预测编码所需要的时钟周期数表示帧内预测编码的复杂度，对本发明方法与HM4.0代码中标准实现算法的计算复杂度具体的定量分析如表3所示。实验中对不同分辨率的视频进行统计实验，并且对每种视频采用QP＝32，可以看出，本发明方法大大加快了帧内预测编码速度，帧内预测复杂度比优化前算法复杂度最高降低了71.49％，平均降低了49.82％。 

表4给出了本发明方法与HM4.0标准测试模型中的帧内预测编码算法在峰值信噪比PSNR、编码码率BR与编码时间Time方面的性能比较。从表中可以看出本发明方法视频编码***编码效率相对于HM4.0有轻微的降低，但大大降低了其帧内编码复杂度，平均降低了30.82％。表中ΔPSNR、ΔTime、ΔBR定义如下： 

ΔPSNR＝PSNR_OURS–PSNR_HM4.0   (15) 

ΔBR＝(BR_OURS–BR_HM4.0)/BR_HM4.0   (16) 

ΔTime＝(Time_OURS–Time_HM4.0)/Time_HM4.0   (17) 

表3帧内预测优化前后复杂度比较 

表4本发明方法与HM4.0方法的编码性能比较 

视频序列及分辨率	ΔPSNR/dB	ΔBR/％	ΔTime/％
				BQTerrace(1920×1080)	-0.15	2.34	-30.75
Cactus(1920×1080)	-0.1	2.52	-28.58
				ChinaSpeed(1024×768)	-0.31	-30.39	3.49
FourPeople(1280×720)	-0.18	-33.63	3.90
				Flowervase(832×480)	-0.22	-30.74	2.41
平均值	-0.19	-30.82	2.94

为了更直观描述编码性能的变化，附图4—附图6分别给出了采用HM4.0和本发明方法对高清视频序列前30帧解码后视频的峰值信噪比PSNR与编码码率BR的比较曲线图，以及 率失真RD曲线图。从附图中可以看出，本发明方法对高清视频编码性能与测试模型HM4.0编码性能相比没有明显的变化。 

附图8(a)、8(b)、8(c)分别给出了视频序列BQTerrace第4帧的原始图像、HM4.0中方法解码后的结果图像以及本发明方法解码后的结果图像。可以看出，本发明方法中采用优先去除预测最不准的预测模式，来减少候选预测模式的方法，既保证了预测的准确性，也降低了预测的复杂度，与HM4.0方法相比较，解码图像的主观质量几乎无差别，并且与原始图像主观质量相差不大。 

由以上可知，本发明一种高清视频编码中快速帧内预测模式选择方法，在编码效率影响不大的情况下，与HM4.0相比，帧内预测时间平均降低30.82％，很大程度上降低了帧内预测编码复杂度，实现了高清视频编码帧内预测模式的快速选择。 

Claims (4)

1.一种高清视频编码中快速帧内预测模式选择方法，其特征在于如下步骤：

步骤一：分别计算当前64×64大小的编码单元的35种预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式。

步骤二：采用简化的率失真代价，即哈达码变换绝对值和SATD的代价函数计算经过步骤一筛选后得到的候选预测模式，选出简化率失真代价较小的几种预测模式，并且根据预测模式成为最终的最优帧内预测模式的统计概率，采用阈值的方式保留不同候选预测模式数量。

步骤三：检测最可能预测模式MPM是否包含在候选预测模式中，如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则，将步骤二中得到的候选预测模式作为最终的RDO候选预测模式；

步骤四：计算RDO候选预测模式中所有预测模式的率失真代价RDO，将RDO值最小的预测模式选为最优预测模式；如果RDO候选预测模式中只有一个候选模式，则直接将该候选模式作为预测单元的最优预测模式；得到最佳预测模式的率失真代价RdCost1；

步骤五：对编码单元划分后得到的四个亚编码单元，重复步骤一到步骤四对亚编码单元选择最优的预测模式进行编码，得到划分后的四个亚编码单元的率失真代价RDO之和RdCost2；

步骤六：比较编码单元和亚编码单元的率失真代价RDO，即比较CostRd1和CostRd2的值，当RdCost1>RdCost2，转到步骤七；否则，采用当前编码单元进行预测编码，转到步骤八；

步骤七：对亚编码单元进一步分成四个更小的编码单元，重复步骤五和步骤六，若编码单元大小为4×4时，转到步骤八；

步骤八：当前编码单元预测编码结束。

2.根据权利要求1所述一种高清视频编码中快速帧内预测模式选择方法，其特征在于：处理的视频序列为YUV格式，对亮度分量的帧内预测采用上述八个步骤进行处理。

3.根据权利要求1所述一种高清视频编码中快速帧内预测模式选择方法，其特征在于：所述步骤二中简化的率失真代价，即哈达码变换绝对值和SATD的代价函数为：

J_SATD＝SATD+λ_mode·B_mode           (1)

其中SATD是对预测残差进行Hadamard变换后，得到残差的绝对值总和，即：

$\mathrm{SATD}=\left(\underset{x,y}{\mathrm{\&Sigma;}}\right|\mathrm{DiffHAD}(x,y)\left|\right)/2---\left(2\right)$

λ_mode是拉格朗日因子，使用如下公式计算：

λ_mode＝0.57×2^((QP-12)3.0)           (3)

B_mode是记录的帧内模式在码流传输中所需要的比特数。

4.根据权利要求1所述一种高清视频编码中快速帧内预测模式选择方法，其特征在于：所述步骤二中经过SATD率失真代价准则筛选得到的候选预测模式，最终成为预测单元的最优模式的概率不一定是平等分布的，在上述准则中排在前面的预测模式成为最优预测模式的概率远远大于排在后面的预测模式的概率。同时，不同的预测单元，预测模式个数并不相同，因此筛选后排在前两个的预测模式是最优预测模式的概率也会不同。本发明中采用阈值的方式得到候选预测模式，相同大小的PU的候选预测模式个数也可能不相同。当预测模式的简化率失真代价满足以下条件时，则此预测模式被认为是RDO候选预测模式。

$J_{\mathrm{SATD}}^j<T\&times;\min \left(J_{\mathrm{SATD}}^i\right)---\left(4\right)$

式(4)中，是当前预测模式的简化率失真代价，是当前预测单元所有预测模式的简化率失真代价的最小值，T是阈值，本发明中取T＝1.2，此时最终预测单元的预测结果最好。