CN103248895B - 一种用于hevc帧内编码的快速模式估计方法 - Google Patents

Abstract

本发明提出了一种用于HEVC帧内编码的快速模式估计方法。在HEVC(High？Efficient？Video？Coding)视频编码的规范中，帧内编码的可用模式更复杂，在编码中要从更多的预测角度中选出最佳的模式。这使编码器的运算复杂性大大增强。本发明提出一种方法，首先计算出各行或列的整数点预测误差及其所对应的模式角度，然后通过插值的方法估算各种模式对应角度下的各行或列的预测误差，最后将各行或列的对应模式的预测误差合并作为整个预测模式的预测误差。用这种方法，可以较快速地完成对不同角度下进行帧内预测的预测误差的估算，从而帮助最终决策出较优的预测模式。

Description

一种用于HEVC帧内编码的快速模式估计方法

技术领域

本发明属于图像处理领域，特别涉及用于减少在进行HEVC(HighEfficientVideoCoding)高效视频编码的帧内编码时进行预测角度模式估计的计算复杂性。

背景技术

2010年4月，两大国际视频编码标准组织VCEG和MPEG成立视频压缩联合小组JCT-VC(JointcollaborativeTeamonVideoCoding)，一同开发HEVC标准，其也称为H.265。HEVC标准主要目标是与上一代标准H.264/AVC实现大幅度的编码效率的提高，尤其是针对高分辨率视频序列。其目标是在相同视频质量(PSNR)下码率降为H.264标准的50％。

就目前阶段，HEVC依然沿用H.264就开始采用的混合编码框架。帧间和帧内预测编码：消除时间域和空间域的相关性。变换编码：对残差进行变换编码以消除空间相关性。熵编码：消除统计上的冗余度。HEVC将在混合编码框架内，着力研究新的编码工具或技术，提高视频压缩效率。

目前，JCT-VC组织的讨论中已经提出的许多编码的新特性，有可能会加入HEVC标准中，各次讨论的具体文献可以从http://wftp3.itu.int获得。

编码块的大小将最大可达64x64，这主要是为了高清视频压缩编码的应用。DCT变换编码将突破8x8，最大能够达到32x32。对于帧内预测，预测的方向更加细化，多达35种帧内预测(intrapredication)模式，图2示出了35种帧内预测模式的情况，这将使帧内预测更佳精确，更高效地减少冗余。帧间预测在插值时采用了更多抽头的滤波器，以及1/4像素精度，来提高帧间预测的精度。在熵编码方面，使用了适应性更强的CABAC。

在帧内预测方面，由于使用了多达35种帧内预测模式，因此，在进行帧内编码时，如果直接针对35种帧内预测模式使用率失真优化(Rate-Distortionoptimization，RDO)来判断最佳预测模式，则编码器将不能承受将所有预测方向进行RDO的运算量。为了降低编码器进行RDO运算时的运算量，HM4.0(HEVCtestmodel4.0)采用了Hadamard变换的方法，通过一种粗略模式决策(RoughModeDecision，RMD)选出若干个较佳的候选模式。随后，在针对由这若干个较佳候选模式进行RDO运算来获得最佳模式。

在JCT-VC已经采纳的JCTVC-C207提案中将残差信号哈达玛变换系数绝对和(minimumabsolutesumofHadamardTransformedcoefficientsofresidualsignal，HSAD)与模式比特数计算过程加入粗略模式决策(RMD)算法。提案JCTVC-D283中，将联合方向帧内预测算法简化，并加入了提取最高概率模式(mostprobablemode，MPM)算法，即在RMD之后应用MPM算法，从而保证在进行RDO运算的候选模式集合中始终包含MPM。提案JCTVC-C218简化CU分成PU的冗余过程，这些简化算法降低了帧内预测的复杂度，但是这些方案都是最基本的解决方案而没有考虑块的性质。

在帧内预测方面，虽然已经提出了若干种候选模式选择算法，来降低最终进行RDO的模式数量，但是候选模式的数量仍然有下降的空间。

HEVC(HighEfficientVideoCoding)提供了更高的压缩规格来完成对视频的压缩，特别是针对大尺寸图像的压缩，提供了更有效的工具。对于帧内编码，HEVC不仅提出了新的预测模式(平面预测)，还将原有的H.264的8个预测方向增加为33个预测方向。如图1所示，除了Planar(平面预测)方式和DC方式以外，有33个预测方向可供选择。如图2以模式29为例，说明了角度预测的方法。即通过待编码块上方和左侧的已经编码的像素点的值来预测块内的像素点的值。更多的预测方向增加了预测的准确度，但同时也增加了编码的复杂度。按照规范的要求对更多的方向角度进行预测，选择最佳的预测模式是HEVC帧内编码单元必须解决的问题。

由HEVC规范可知，帧内预测需要解决的问题主要是两个方面：第一是对最大的编码单元(如64x64)进行有效的划分，确定以多大的块作为编码单元，第二是在编码单元的大小确定后，选择多大的块及何种模式作为当前编码单元的预测模式。在HEVC提供的编码器的参考代码中，对上述两个问题的解决是以相反的顺序来解决的。首先对所有可能的编码单元尺寸都进行由粗到精的预测估算及模式决策，从而计算出每种编码尺寸下各种块的最优代价。再将小块的编码代价相加与大的编码单元的编码代价比较。何种编码尺寸的总的编码代价最小则选用何种尺寸作为编码单元的尺寸。

在H.264编码中，针对如何预测帧内编码的角度，就提出了许多算法。比如通过频域或者梯度的方法来对预测角度进行估计，还有通过逐步搜索的方式寻找局部最优点。这些方法也被推广应用于HEVC的帧内编码预测中。但是针对HEVC中的新的特点，一些更有针对性的研究也在进行中。

发明内容

为了解决上述HEVC帧内模式预测的技术问题，本发明提出了一种新的用于高效视频编码（HEVC）帧内编码模式预测的方法，包含如下步骤：

第一步，利用上边或左边的编码结果作为预测结果像素值，直接与待编码图像块运算获得每行或列的整数像素的预测误差值；

第二步，事先计算好每行或列的整数像素预测误差值对应的角度；

第三步，由每行或列的整数像素预测误差值及其对应的角度值来插值计算出HEVC规范定义的模式的预测误差值；

第四步，将横向多行或纵向多列的角度模式相同的预测误差值合并作为对应模式的预测误差值；

第五步，用此方法估算出的不同模式下的预测误差作为同这种帧内预测模式的预测误差来评估不同模式的编码代价，从而找出最优的预测模式或者找出几种较优的预测模式，为进一步的模式决策提供小的评估范围。

根据本发明的一个方面，在第一步中直接利用上边或左边的编码结果直接作为预测结果，而不是采用采用滤波后的编码结果作为预测结果。

根据本发明的一个方面，在第四步中，将整个预测模式的预测误差计算化整为零，通过估算每行或列对应的预测误差进行合并作为对应的模式的预测误差。

根据本发明的一个方面，第一步中，利用上边或左边的编码结果作为预测结果像素值，直接与待编码图像块运算获得每行或列的整数像素的预测误差值是通过如下的公式实现的(以4x4块为例)：

$\mathrm{SAD}\left(\mathrm{mode}\right)=\underset{x=0..3}{\mathrm{\Σ}}\underset{y=-..3}{\mathrm{\Σ}}|S(x,y)-P(\mathrm{mide},x,y)|$

其中，S(x,y)为编码图像灰度值，mode为0(Planar模式)或1(DC模式)或2至34，P(mode,x,y)为根据不同模式计算出的预测结果,x=0..3,y=0..3。

根据本发明的一个方面，第四步中，将横向多行或纵向多列的角度模式相同的预测误差值合并作为对应模式的预测误差值是通过如下公式实现的(以横向预测为例)：

$\mathrm{SAD}\left(\mathrm{mode}\right)=\underset{x=0..3}{\mathrm{\Σ}}\mathrm{SAD}\_\mathrm{Interploted}(\mathrm{mod}e,x),\mathrm{mode}=19..34$

其中，SAD_Interploted(mode,x)=(Int_SAD(mode_0,x)*(mode_1-mode)+Int_SAD(mode_1,x)*(mode-mode_0))/(mode_1-mode0),mode=19..34

其中mode_0为对应x值中小于等于当前计算mode的Mode值，mode_1为对应x值中大于当前计算mode的Mode值。

根据本发明的一个方面，以边(横边或纵边)为单位，计算预测角度所对应的参考边范围。并只在此范围内只选用整数点作为计算预测值进行预测误差值计算。

根据本发明的一个方面，对每个边的预测误差值计算出对应的角度值，即对应的模式值。并由这些(角度,预测误差值)通过插值方法估算HEVC所提出的33个(角度,预测误差值)。

根据本发明的一个方面，将每边的在相同角度(模式)下的预测误差值合成，获得总的小块的预测误差值，即每个角度预测模式的预测误差值。并用这些预测误差值进行编码代价估算，完成或者辅助完成帧内模式的决策。

本发明还提出了一种用于高效视频编码（HEVC）帧内编码模式预测的装置，包括：帧内预测选择模块，用于对帧内编码模式进行预测选择，预测选择结果发送给帧内预测模块；帧内预测模块，用于对帧内编码模式进行预测，并将预测的结果输出用于帧内预测选择模块来选择最佳的预测模式。

根据本发明的一个方面，所述帧内预测选择模块还用于实现：利用上边或左边的编码结果作为预测结果像素值，直接与待编码图像块运算获得每行或列的整数像素的预测误差值；事先计算好每行或列的整数像素预测误差值对应的角度；由每行或列的整数像素预测误差值及其对应的角度值来插值计算出HEVC规范定义的模式的预测误差值；将横向多行或纵向多列的角度模式相同的预测误差值合并作为对应模式的预测误差值。

根据本发明的一个方面，所述帧内预测模块还用于实现：估算出的不同模式下的预测误差作为这种帧内预测模式的预测误差来评估不同模式的编码代价，从而找出最优的预测模式或者找出几种较优级的预测模式。

附图说明

下面结合附图及具体实施例对本发明再作进一步详细的说明：

附图1为HEVC标准中帧内预测模式的35种定义示意图。

附图2以模式29为例说明帧内模式预测的方法。

附图3说明HEVC参考编码器中针对某一尺寸的编码单元的帧内预测模式决策方法流程图。

附图4为本发明所提出的针对某一尺寸的编码单元的帧内预测模式决策方法流程图。

附图5为根据本发明实施例的HEVC的编码器框图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

本发明所提出的估计帧内预测角度的方法是针对HEVC的新特点而完成的。该算法首先通过只对每行或列的整数点位置的帧内预测误差值来估计帧内预测算法所得的预测误差值，然后通过内插的方法得到每行或列的规范所定义的各种模式的预测误差，最后将其合成为整个块的对应的预测模式的预测误差。这一算法在不失预测准确性的前提下，减少了运算复杂性。

在不同的预测角度对应的预测模式下，即预测角度变化时，接近边缘(左边和上边)的像素所选的预测参考像素变化不大，而远离边缘(左边和上边)的像素所选的预测参考像素则有较大的变化。本发明所述算法中，对接近预测参考边的预测误差计算时只用了较少的参考点，而远离预测参考边的预测误差计算时则采用较多的参考点，从而达到运算效果与运算量的有效平衡。另外，HEVC算法中，预测是通过已获得的上边或左边的像素根据预测角度的不同选择不同的点内插计算所得，本发明中则直接利用预测参考边做为预测结果，减少了内插的运算。

图5示出了高效视频编码(HEVC)所实现的视频编码器的大致结构图。HEVC的编码器架构与H.264所使用的编码器架构大致相同，主要是针对各个模块中所使用的算法进行了进一步的研究、改进，尤其是针对高分辨率视频序列，其改进的目标是在相同视频质量(PSNR)下码率降为H.264标准的50％。

由于HEVC的编码器架构与H.264所使用的编码器架构大致相同，因此为了不混淆本发明，仅关注于用于HEVC的帧内预测模式选择和帧内预测。

帧内预测是H.264/AVC视频编码标准中首先采用的一种的新的帧内编码方式，目的是去除当前块与临近块之间的空间冗余。在帧内预测中，预测块P是由当前片(slice)中先前编码和重建之后的块形成的。当前块减去这个预测块P，产生残差块，残差块经过块变换、量化后产生一种量化后的变换系数X，再经过熵编码，与解码器侧所需的其他信息(例如，预测模式量化参数、运动矢量等等)一起组成压缩比特流供传输和解码使用。在H.264/AVC视频编码标准中，针对4*4的块，有包括直流(DC)在内的9种预测模式，针对8*8和16*16的块，有包含DC和平面(planar)在内的4种模式。在进行帧内预测模式选择时，从所支持的预测模式中选取与当前块具有最佳匹配(例如，具有最小率失真(RD))的模式。

在HEVC中，针对帧内预测采用了大小分别为4*4，8*8，16*16，32*32和64*64的预测块(predicationunit)，并且可能的预测模式为图2所示。如图2所示，多达35种的预测模式包括33种角度帧内预测模式方向，以及DC(直流)模式和Planar(平面)模式。

为了减少帧内预测复杂的RD运算的次数，HEVC的帧内预测模式应用粗略模式决策(RoughModeDecision，RMD)和提取MPM(mostprobablemode，MPM)的方法得到了精简的最佳候选模式集合，从而减少RD运算次数。RMD目的是粗略地猜测最佳帧内预测模式，其选择过程考虑到HSAD运算值和模式比特数，但是RMD没有发掘提取模式之间的相关性。因此，分析提取模式之间的规律可以进一步降低联合帧内预测的复杂度。

RMD算法

为了降低编码器进行RDO运算时的运算量，HM4.0首先采用了Hadamard变换的方法，通过RMD选出若干个较佳的候选模式。随后，在针对由这若干个较佳候选模式进行RDO运算来获得最佳模式。

具体而言，在RMD中，使用以下公式来针对4*4和8*8尺寸的预测块获得8个候选模式，针对16*16和32*32尺寸的预测块获得3个候选模式：

$J=\mathrm{HSAD}\left(\mathrm{Re}{s}_{\mathrm{mode}}\right)+\mathrm{\λ}\·B_{\mathrm{mode}},$

其中，J为代价，_mode为HEVC规定的最多具有35种的所有帧内预测模式，HSAD(Res_mode)表示残差信号哈达玛变换系数绝对和，B_mode表示模式比特数的消耗值，λ表示拉格朗日常量。

因此，RMD算法就是使用上述公式在全部所支持的预测模式(17或35个)中，选取具有最小代价的3个(针对16*16和32*32尺寸)或8个(针对4*4和8*8尺寸)候选模式。

更具体而言，在RMD算法中，针对全部所支持的预测模式中的每一种模式，计算相关联的代价J，并依据相关联的代价J的降序对各个预测模式进行排序，并选取前3个(针对16*16和32*32尺寸)或8个(针对4*4和8*8尺寸)预测模式作为候选模式，加入候选模式集合中。

由于上述公式的复杂度在实现上比RDO的复杂度小得多，因此在使用RDO算法决定最佳预测模式之前，使用RMD算法在全部所支持的预测模式中进行一次预选择能够显著地减少帧内预测时间。

RDO算法

RDO是在视频编码中帧内预测和帧间预测中普遍使用的算法，其通常基于最小均方误差和(SSE：SumofSquareError)来确定最佳匹配块。

MPM算法

MPM算法是在HM3.0中就已经提出的算法，并在JCTVC-D283中进行了进一步改进。

在涉及MPM算法的各种提案中对MPM的确定有着各种方式。本文使用了JCTVC-D283中的MPM算法。具体而言，当使用RMD算法获得了精简后的最佳模式候选集合之后，将当前预测块的左侧预测块的最佳模式和上方预测块的最佳模式直接作为两个最高概率模式(MPM)，并判断MPM是否包含在该候选集合中，如果未包含在该集合中，则加入这两个MPM。换言之，无论RDO之前的模式选择算法如何，都加入当前预测块的左侧预测块的最佳模式和上方预测块的最佳模式。

在HM4.0中，联合帧内预测提取帧内预测模式共有两步。第一步，所有的模式经过HSAD运算选出最佳模式候选集合(RMD)。在该最佳模式候选集合中，模式个数由PU尺寸大小不同儿不同。4*4和8*8尺寸块集合中包含8个候选模式，而16*16和32*32尺寸块集合中包含3个。然后，从邻近块中提取的MPM也加入集合中。第二步，将最佳模式集合中每一个模式经过RD优化计算(RDO)，将其RD消耗值最小的作为最佳模式进行帧内预测。

根据本发明的一个实施例，对于每种可能的编码单元尺寸，其模式决策过程如图3所示。在HEVC帧内模式预测开始后，首先计算34种模式的粗略RD值，完成对帧内模式的粗略估计；接着根据粗估结果选出前N个模式加入备选模式集合；根据周边块的模式找出最大可能的预测模式集合；将上述两个集合合并做为率失真优化（Rate-Distortionoptimization，RDO）估计模式集合；采用全RDO模式决策选出最优模式；结束HEVC帧内模式预测。其中的模式粗估计算中，参考代码针对33个方向分别计算了其预测结果，并与待编码的原始图像块进行运算得到对应的预测误差及编码代价。

HEVC中帧内预测模式包括两类：角度模式（模式2至34）与非角度模式（planar模式0与DC模式1）。在角度模式中，从模式2到34对应的预测角度是线性变化的，因此可以根据预测的角度推出所对应的预测模式。但是角度是连续的，而模式是离散的。而且因为此处只计算了整数像素点，对应的模式便成了”分数”值。并不是规范中的模式。

根据本发明的一个实施例，还提出了一种用于HEVC帧内编码角度模式预测的方法，该方法包含以下步骤：第一步，利用上边或左边的编码结果作为预测结果像素值直接与待编码图像块运算获得每行或列的整数像素的预测误差值；第二步，事先计算好每行或列的整数像素预测误差值对应的角度及其对应的每一行或列的帧内预测模式；第三步，由每行或列的整数像素预测误差值及其对应的模式值来插值计算出HEVC规范定义的模式的预测误差值；第四步，将横向多行或纵向多列的角度模式相同的预测误差值合并作为对应模式的预测误差值；第五步，用此方法估算出的不同模式下的预测误差作为同这种帧内预测模式的预测误差来评估不同模式的编码代价，从而找出最优的预测模式或者找出几种较优级的预测模式为进一步的模式决策提供小的评估范围。

在这个实施例中，第一步中，还可以直接利用上边或左边的编码结果直接作为预测结果而不是采用其根据角度不同的内插结果作为预测结果。

在第二步中，还可以利用接近左边或上边的列或行所对应的整数像素预测只有较少的可能，而且与相邻的边有较大的相关性，减少了运算量而没有或者较少地降低预测误差计算的准确性。

在第二步至第四步中，还可以将整个预测模式的预测误差计算化整为零，通过估算每行或列对应的预测误差进行合并作为对应的模式的预测误差。

本实施例的用于HEVC帧内编码角度模式决策操作方法，不仅可以用于对帧内预测模式的粗略计算，还可以配合有效的码率估算方法，直接用于最终的帧内预测模式的决策。

本实施例所述方法的具体实现可参见附图4，其具体实现过程包含如下步骤：在帧内预测模式决策方法开始后，首先计算模式0（平面预测planar）和模式1（DC）的预测误差值；根据预先计算所得的横边整数预测值对每横边进行整数预测误差计算；通过内插来计算每横边的对应模式2-模式18的预测误差值；将每个横边对应模式2-模式18的预测误差值合并获得模式预测误差值；根据预先计算所得的竖边整数预测值对每竖边进行整数预测误差计算；通过内插来计算每竖边的对应模式19-模式34的预测误差值；将每个竖边对应模式19-模式34的预测误差值合并获得模式粗估预测误差值；根据35种模式的预测误差值及对应不同模式的bit数估算值，按RD方法计算总的代价并选出最优的候选模式；结束帧内预测模式决策方法。

为方便阐述，本实施方式以4x4块的帧内预测为例。在对预测误差的计算中以SAD(绝对误差和)为例进行计算。

1.计算Planar模式(0)与DC模式(1)的预测误差值，以SAD为例：

计算出预测结果P(mode,x,y),x=0..3,y=0..3;下面算式中，p[x,y]为当前块周围的块的编码结果，如果周围块尚未编码完成，则用距其最近的编码后的点的灰度值。此处同HEVC标准中对应计算，仅是对4x4作了相应的简化。详细公式请参考HEVC规范相应章节。

对Planar模式：

P(0,x,y)=((3-x)*p[-1,y]+(x+1)*p[4,-1]+(3-y)*p[x,-1]+(y+1)*p[-1,4]+4)>>(Log2(4)+1),x=0..3,y=0..3

对DC模式，因为编码中的图像变换一般是从空间域到空间频域，所以将像素的平均灰度称作直流系数，即DC值，而其它系数称作交流系数，即AC值。

首先计算DC值，即DCVal，

$\mathrm{DCVal}=\left(\underset{x^{\text{'}}=0..3}{\mathrm{\Σ}}p\right[x^{\text{'}},-1]+\underset{y^{\text{'}}=0..3}{\mathrm{\Σ}}p[-1,y^{\text{'}}]+4)>>(\mathrm{Log}2\left(4\right)+1)$

然后计算各个预测值(对亮度):

P(1,0,0)=(p[-1.0]+2*DCVal+p[0,-1]+2)>>2

P(1,x,0)=(p[x,-1]+3*DCVal+3)>>2,x=1..3

P(1,0,y)=(p[-1,y]+3*DCVal+2)>>2,y=1..3

P(1,x,y)=DCVal,x=1..3,y=1..3

然后计算其对应的SAD。可按如下公式计算：

$\mathrm{SAD}\left(\mathrm{mode}\right)=\underset{x=0..3}{\mathrm{\Σ}}\underset{y=-..3}{\mathrm{\Σ}}|S(x,y)-P(\mathrm{mode},x,y)|$

其中S(x,y)为编码图像灰度值，mode为0(Planar模式)或1(DC模式)。

2.纵向预测角度的SAD估算(模式2至18)

2.1对每个横边做纵向预测时进行整数SAD预测；

$\mathrm{Int}\_\mathrm{SAD}(\mathrm{mode},y)=\underset{x=0..3}{\mathrm{\Σ}}|S(x,y)-\mathrm{Top}(x+\mathrm{ModeOffset}\left(\mathrm{mode}\right))|$

其中，y=0..3,S(x,y)为编码图像灰度值，ModeOffset(mode)为对应不同模式的偏移量，Top(x)为预测块上方一行的图像预测值。对不同y值的不同模式(Mode)及对应ModeOffset[]定义如下(以4x4块为例)。

Y	Mode	ModeOffset(mode)
			0	2,10,18	-1,0,1
1	2,6,10,14,18	-2,-1,0,1,2
			2	2,4.67,7.33,10,12.67,15.33,18	-3,-2,-1,0,1,2,3
3	2,4,6,8,10,12,14,16,18	-4,-3,-2,-1,0,1,2,3,4

2.2用Int_SAD(mode,y)内插估算每个横边对应模式2至18的SAD值。此处以线性内插为例计算各模式的SAD值。

SAD_Interploted(mode,y)=(Int_SAD(mode_0,y)*(mode_1-mode)+Int_SAD(mode_1)*(mode-mode_0))/(mode_1-mode_0)Mode=2..18

其中mode_0为上表中对应y值中小于等于当前计算mode的Mode值，mode_1为上表中对应y值中大于当前计算mode的Mode值。

2.3计算模式总的SAD值；

$\mathrm{SAD}\left(\mathrm{mode}\right)=\underset{y=0..3}{\mathrm{\Σ}}\mathrm{SAD}\_\mathrm{Interploted}(\mathrm{mode},y),\mathrm{mode}=2..18$

其中SAD_Interploted(mode,y)为步骤2.2内插所得。

3.横向预测SAD估算(模式19至34)

3.1对每个纵边进行整数SAD预测；

$(\mathrm{mode},x)=\underset{y=0..3}{\mathrm{\Σ}}(x,y)-\mathrm{Left}(y+\mathrm{ModeOffset}\left(\mathrm{mode}\right))$

其中，x=0..3,S(x,y)为编码图像灰度值，ModeOffset(mode)为对应不同模式的偏移量，Left(x)为预测块左侧一列的图像预测值。对不同x值的不同模式(Mode)及对应modeOffset[]定义如下(以4x4块为例)。

x	Mode	ModeOffset(mode)
			0	18,26,34	-1,0,1
1	18,22,26,30,34	-2,-1,0,1,2
			2	18,20.67,23.33,26,28.67,31.33,34	-3,-2,-1,0,1,2,3
3	18,20,22,24,26,28,30,32,34	-4,-3,-2,-1,0,1,2,3,4

3.2用Int_SAD(mode,x)内插估算每个纵边对应模式19至34的SAD值。此处以线性内插为例计算各模式的SAD值。

SAD_Interploted(mode,x)=(Int_SAD(mode_0,x)*(mode_1-mode)+Int_SAD(mode_1,x)*(mode-mode_0))/(mode_1-mode0),mode=19..34

其中mode_0为上表中对应x值中小于等于当前计算mode的Mode值，mode_1为上表中对应x值中大于当前计算mode的Mode值。

3.3计算模式总的SAD值；

$\mathrm{SAD}\left(\mathrm{mode}\right)=\underset{x=0...3}{\mathrm{\Σ}}\mathrm{SAD}\_\mathrm{Interploted}(\mathrm{mode},x),\mathrm{mode}=19..34$

4.每个模式的RD代价计算，

Cost(mode)=SAD(mode)+estimate_bit_count(mode);Mode=0..34

从中选出三个Cost()最小的的模式作为候选帧内预测模式集合。其中，estimate_bit_count(mode)为本块图像采用此模式编码后所得压缩码流的比特数，此处可用按当前编码器的上下文模型中对此预测模式(即mode)进行可变长度码表（VLC）编码的比特数来作粗略估算。

附图5示出了根据本发明实施例的HEVC编码器框图。所述HEVC编码器用于实现前述方法及本发明的技术方案，包括：运动估计模块，用于根据参考帧和当前帧进行运动估计，估计出当前帧和参考帧之间的误差；运动补偿模块，用于根据运动估计的结果，对参考帧进行运动补偿，运动补偿的结果用于帧间编码；帧内预测选择模块，用于对帧内编码模式进行预测选择，预测选择结果发送给帧内预测模块；帧内预测模块，用于对帧内编码模式进行预测，并将预测的结果输出用于帧内编码；其余模块为常用的模块，分别如附图5中所示。

所述帧内预测选择模块和帧内预测模块分别用于实现前述帧内编码模式预测的方法步骤。其中，帧内预测选择模块可用于实现：利用上边或左边的编码结果作为预测结果像素值，直接与待编码图像块运算获得每行或列的整数像素的预测误差值；事先计算好每行或列的整数像素预测误差值对应的角度；由每行或列的整数像素预测误差值及其对应的角度值来插值计算出HEVC规范定义的模式的预测误差值；将横向多行或纵向多列的角度模式相同的预测误差值合并作为对应模式的预测误差值。

帧内预测模块可用于实现：估算出的不同模式下的预测误差作为同这种帧内预测模式的预测误差来评估不同模式的编码代价，从而找出最优的预测模式或者找出几种较优级的预测模式。

上述HEVC编码器中的各模块还可用于分别实现前述方法中的相应步骤。

以上描述仅是此发明的一种实现方案。此发明包括按此思想完成的其它方案。

本领域的技术人员应该理解，本发明的方法和装置可以采用硬件、软件、或硬件和软件相结合的方式，通过微处理器、数字信号处理器、现场可编程逻辑单元、或门阵列等各种方式实现。

综上所述，虽然本发明已以优选实施例披露如上，然而其并非用以限定本发明。本发明所属技术领域的普通技术人员，在不脱离本发明的精神和范围内，可作各种变动与修饰。因此，本发明的保护范围当视后附的权利要求所界定的范围为准。

Claims (5)

1.一种用于高效视频编码HEVC帧内编码模式预测的方法，其特征在于，包含如下步骤：

第一步，利用上边或左边的编码结果作为预测结果像素值，直接与待编码图像块运算获得每行或列的整数像素的预测误差值；

第二步，事先计算好每行或列的整数像素预测误差值对应的角度；

第三步，由每行或列的整数像素预测误差值及其对应的角度值来插值计算出HEVC规范定义的模式的预测误差值；

第四步，将横向多行或纵向多列的角度模式相同的预测误差值合并作为对应模式的预测误差值；

第五步，用此方法估算出的不同模式下的预测误差作为这种帧内预测模式的预测误差来评估不同模式的编码代价，从而找出最优的预测模式或者找出几种较优的预测模式。

2.根据权利要求1中所述的用于HEVC帧内编码模式预测的方法，其特征在于：

在第一步中直接利用上边或左边的编码结果直接作为预测结果，而不是采用滤波后的编码结果作为预测结果。

3.根据权利要求1中所述的用于HEVC帧内编码模式预测的方法，其特征在于：

在第四步中，将整个预测模式的预测误差计算化整为零，通过将每行或列对应的预测误差进行合并作为对应的模式的预测误差。

4.一种用于高效视频编码HEVC帧内编码模式预测的装置，包括：

帧内预测选择模块，用于对帧内编码模式进行预测选择，预测选择结果发送给帧内预测模块，还用于实现：利用上边或左边的编码结果作为预测结果像素值，直接与待编码图像块运算获得每行或列的整数像素的预测误差值；事先计算好每行或列的整数像素预测误差值对应的角度；由每行或列的整数像素预测误差值及其对应的角度值来插值计算出HEVC规范定义的模式的预测误差值；将横向多行或纵向多列的角度模式相同的预测误差值合并作为对应模式的预测误差值；

帧内预测模块，用于对帧内编码模式进行预测，并将预测的结果输出用于帧内预测选择模块来选择最佳的预测模式。

5.如权利要求4中的用于高效视频编码HEVC帧内编码模式预测的装置，其特征在于，所述帧内预测模块还用于实现：

估算出的不同模式下的预测误差作为这种帧内预测模式的预测误差来评估不同模式的编码代价，从而找出最优的预测模式或者找出几种较优级的预测模式。