CN105141953A

CN105141953A - 一种适用于hevc的快速帧间模式选择方法

Info

Publication number: CN105141953A
Application number: CN201510464054.8A
Authority: CN
Inventors: 蔡灿辉; 项文杰; 曾焕强; 陈婧
Original assignee: Huaqiao University
Current assignee: Huaqiao University
Priority date: 2015-07-31
Filing date: 2015-07-31
Publication date: 2015-12-09
Anticipated expiration: 2035-07-31
Also published as: CN105141953B

Abstract

本发明一种适用于HEVC的快速帧间模式选择方法，在帧间编码时，对每个编码树单元，也就是最大编码单元，按模式对应的编码单元尺寸从大到小顺序逐级计算对应的模式的率失真代价，当后一模式的率失真代价大于前一模式的率失真代价时，则结束该编码单元的模式选择，取前一模式为该编码单元的最佳模式；本发明所提出的方法简单易行，能大大降低HEVC帧间编码的计算复杂度。

Description

一种适用于HEVC的快速帧间模式选择方法

技术领域

本发明涉及视频编解码领域，具体涉及当前最新国际视频编码标准HEVC(HighEfficiencyVideoCoding)编码单元的快速帧间模式选择方法，可用于提高HEVC编码器的帧间预测编码速度。

背景技术

随着高清、超高清、3D视频和移动无线通信等新要求的提出，H.264已经不能满足视频应用发展的要求。为此，视频编码专家组(VideoCodingExpertsGroup，VCEG)和运动图像编码专家组(MovingPictureExpertsGroup，MPEG)组成联合视频编码小组(JointCollaborativeTeamonVideoCoding，JCT-VC)，致力于新的国际视频编码标准的制定，并于2013年1月公布了新的国际视频编码标准HEVC。

HEVC采用了与H.264类似的块混合编码框架，并在此基础上进行了大量的创新。例如，把宏块的概念推广到编码单元(CodingUnit,CU)、预测单元(PredictionUnit,PU)和变换单元(TransformUnit,TU)，其中编码单元的块尺寸变化范围从8×8至64×64，并提出基于四叉树的块尺寸递归分割结构和先进的运动矢量预测等技术，大大提高了编码效率。然而，HEVC编码效率的提高是以高计算复杂度为代价的。其中，帧间预测不仅占用大量的内存空间，还耗费大量编码时间。在HEVC中，每帧图像首先被分为一组编码树单元(CodingTreeUnit,CTU)，如图1所示。图1中，各编码树单元通过四叉树编码结构被递归分割成四个相等的块大小的编码单元，变化范围从64×64到8×8，对应划分深度为0到3，每个编码单元可以进一步划分为块大小可变的预测单元。对于帧间预测，如图2所示，HEVC提供各种对称和非对称的划分(模式)，包括2N×2N，2N×N，N×2N，N×N，2N×nU，2N×nD，nL×2N和nR×2N，用于和视频对象的边界精确匹配。

HEVC帧间模式选择需要遍历SKIP模式和所有的帧间划分模式，分别计算各个模式的率失真代价RDO，最后选择率失真代价RDO最小的模式作为其最终模式，其计算复杂度相当大。实验结果表明，HEVC的帧间预测占用了约70％以上的编码时间，因此研究一种高效的快速模式选择方法对于降低HEVC的编码复杂度，提高HEVC的实际应用价值就显得尤为重要。

发明内容

本发明的目的在于提供一种适用于HEVC的快速帧间模式选择方法，不但能大大降低HEVC的编码复杂度，而且基本不影响HEVC的编码效率。

本发明一种适用于HEVC的快速帧间模式选择方法，在帧间编码时，对每个编码树单元，也就是最大编码单元，按模式对应的编码单元尺寸从大到小顺序逐级计算对应的模式的率失真代价，当后一模式的率失真代价大于前一模式的率失真代价时，则结束该编码单元的模式选择，取前一模式为该编码单元的最佳模式。

本发明所提出的方法简单易行，能大大降低HEVC帧间编码的计算复杂度。本发明的主要优点是：

1、揭示了“HEVC的率失真代价函数与最佳模式的尺寸之间的关系服从单极点模型分布(只有一个局部最小值)”的原理，并将其用于HEVC的快速模式选择。

2、利用自然视频序列中选择低序号(大尺寸)块作为最佳模式概率较大的特点，按块序号从小到大(块尺寸从大到小)的顺序进行率失真代价计算，一旦出现小块模式率失真代价大于大块模式，则及时判定最佳模式，终止模式的选择过程，这样的设计能较快地定位到最佳模式，避免了不必要的率失真代价计算，大大降低了HEVC计算复杂度。

3、所提出的方法简单有效，计算顺序和HEVC的测试软件HM相同，易于实现。

附图说明

图1为HEVC中编码单元的递归划分过程；

图2为HEVC中预测单元的划分示意图。

以下结合附图和实施例对本发明做进一步详述。

具体实施方式

本发明提出了一种适用于HEVC的快速帧间模式选择方法，把2N×2N中的帧间预测模式细分为SKIP和2N×2N模式，对HEVC的帧间预测模式按下述方法进行排序：

令序号为0的模式为模式0，序号为1的模式为模式1，依此类推，序号为12的模式为模式12,记序号为m对应的模式的率失真代价为RDO(m),编码时，对每个编码树单元,也就是最大编码单元，从它的SKIP2N×2N模式开始，按序号m从小到大顺序逐级计算对应的模式率失真代价RDO(m)，当后一模式的率失真代价大于前一模式的率失真代价时，则结束该编码单元的模式选择过程，取前一模式为最佳模式。不失一般性，设最大编码单元的大小为64×64，则本发明的快速帧间模式选择方法具体步骤如下：

步骤1、读入当前的最大编码单元，判断其是否为帧间预测编码块，若为帧间预测编码，转步骤2，否则进行帧内预测编码，并转步骤7；

步骤2、计算当前编码单元选择SKIP_64×64模式时的率失真代价RDO(0)，转步骤3；

步骤3、计算当前编码单元选择64×64模式的率失真代价RDO(1)，若RDO(0)<RDO(1)，则判定SKIP_64×64模式为当前编码单元的最佳模式，转步骤7；否则，转步骤4；

步骤4、分别计算当前编码单元选择64×32、32×64模式时的率失真代价，选择其中率失真代价较小的记为RDO(2)，若RDO(1)<RDO(2)，则判定64×64模式为当前编码单元的最佳模式，转步骤7；否则，转步骤5；

步骤5、把当前编码单元划分为4个大小为32×32的子编码单元，分别计算每个32×32的子编码单元选择SKIP_32×32模式时的率失真代价RDO_i(3)(i＝0，1，2，3)，并计算SKIP_32×32模式下当前编码单元的率失真代价：RDO(3)＝RDO₀(3)+RDO₁(3)+RDO₂(3)+RDO₃(3)，若RDO(2)<RDO(3)，则判定64×32和32×64模式中率失真代价较小的模式为当前编码单元的最佳模式，转步骤7；否则，转步骤6；

步骤6、如果当前4个划分尺寸为32×32的子编码单元均已处理完毕，转步骤7；否则，转步骤6.1确定下一个尺寸为32×32的子编码单元的最佳模式；

步骤6.1、计算当前子编码单元(即第i号子编码单元)选择32×32模式时的率失真代价RDO_i(4)，若RDO_i(3)<RDO_i(4)，则判定SKIP_32×32模式为当前子编码单元的最佳模式，转步骤6；否则，转步骤6.2；

步骤6.2、分别计算当前子编码单元选择32×16、16×32模式的率失真代价，选择其中率失真代价较小的记为RDO_i(5)，若RDO_i(4)<RDO_i(5)，则判定32×32模式为当前子编码单元的最佳模式，转步骤6；否则，转步骤6.3；

步骤6.3、把当前尺寸为32×32的第i号编码单元划分为4个尺寸为16×16的子编码单元，分别计算每个16×16尺寸的子编码单元选择SKIP_16×16模式时的率失真代价RDO_ij(6)(j＝0,1,2,3)，并计算当前32×32的编码单元选择SKIP_16×16模式的率失真代价：RDO_i(6)＝RDO_i0(6)+RDO_i1(6)+RDO_i2(6)+RDO_i3(6)，若RDO_i(5)<RDO_i(6)，则判定32×16和16×32模式中率失真代价较小的模式为当前子编码单元的最佳模式，转步骤6；否则，转步骤6.4；

步骤6.4、如果当前4个划分尺寸为16×16的子编码单元均已处理完毕，转步骤6；否则，转步骤6.4.1确定下一个尺寸为16×16的子编码单元的最佳模式；

步骤6.4.1、计算当前子编码单元(即第(i，j)号子编码单元)选择16×16模式时的率失真代价RDO_ij(7)，若RDO_ij(6)<RDO_ij(7)，则判定SKIP_16×16模式为当前子编码单元的最佳模式，转步骤6.4；否则，转步骤6.4.2；

步骤6.4.2、分别计算当前子编码单元选择16×8、8×16模式时的率失真代价，选择其中率失真代价较小的记为RDO_ij(8)，若RDO_ij(7)<RDO_ij(8)，则判定16×16模式为当前子编码单元的最佳模式，转步骤6.4；否则，转步骤6.4.3；

步骤6.4.3、把当前大小为16×16的第(i，j)号子编码单元划分为4个尺寸为8×8的子编码单元，分别计算每个尺寸为8×8的子编码单元选择SKIP_8×8模式时的率失真代价RDO_ijk(9)(k＝0,1,2,3)，并计算当前16×16的编码单元选择SKIP_8×8模式的率失真代价：RDO_ij(9)＝RDO_ij0(9)+RDO_ij1(9)+RDO_ij2(9)+RDO_ij3(9)；若RDO_ij(8)<RDO_ij(9)，则判定16×8和8×16模式中率失真代价较小的模式为当前子编码单元的最佳模式，转步骤6.4；否则，转步骤6.4.4；

步骤6.4.4、如果当前4个划分尺寸为8×8的子编码单元均已处理完毕，转步骤6.4；否则，转步骤6.4.4.1确定下一个尺寸为8×8的子编码单元的最佳模式；

步骤6.4.4.1、计算当前子编码单元(第ijk号子编码单元)选择8×8模式时的率失真代价RDO_ijk(10)；若RDO_ijk(9)<RDO_ijk(10)，则判定SKIP_8×8模式为当前子编码单元的最佳模式，转步骤6.4.4；否则，转步骤6.4.4.2；

步骤6.4.4.2、分别计算当前子编码单元选择8×4、4×8模式时的率失真代价，并选择其中率失真代价较小的记为RDO_ijk(11)，若RDO_ijk(10)<RDO_ijk(11)，则判定8×8模式为当前子编码单元的最佳模式，转步骤6.4.4；否则，转步骤6.4.4.3；

步骤6.4.4.3、把当前编码单元向下划分为4个尺寸为4×4的子编码单元，选择4×4模式时总的率失真代价RDO_ijk(12)，若RDO_ijk(11)<RDO_ijk(12)，则判定8×4、4×8模式中率失真代价较小的模式为当前子编码单元的最佳模式，否则，判定4×4模式为当前子编码单元的最佳模式，转步骤6.4.4；

步骤7、当前最大编码单元模式选择过程结束，转步骤1编码下一个最大编码单元。

以上所述，仅是本发明较佳实施例而已，并非对本发明的技术范围作任何限制，故凡是依据本发明的技术实质对以上实施例所作的任何细微修改、分层深度合并、等同变化与修饰，均仍属于本发明技术方案的范围内。

Claims

1.一种适用于HEVC的快速帧间模式选择方法，其特征在于：在帧间编码时，对每个编码树单元，也就是最大编码单元，按模式对应的编码单元尺寸从大到小顺序逐级计算对应的模式的率失真代价，当后一模式的率失真代价大于前一模式的率失真代价时，则结束该编码单元的模式选择，取前一模式为该编码单元的最佳模式。