CN105721865A - 一种hevc帧间编码单元划分的快速决策算法 - Google Patents

Abstract

本发明提供了一种HEVC帧间编码单元划分的快速决策算法。利用当前CU的最优模式是否是SKIP编码模式以及相邻CU的编码信息来判断是否终止当前CU的划分。根据CU不同深度的划分比例统计信息，对不同深度的CU分别采取针对的策略。对于深度为0的CU，利用相邻CU的RD?cost来设置阈值，如果当前CU的编码模式是SKIP模式，并且RD?cost小于等于阈值，那么CU不再继续划分。对于深度为1的CU，利用相邻CU的深度值来设置阈值，如果当前CU的编码模式是SKIP模式，并且阈值小于等于1，那么CU不再继续划分。对于深度为2的CU，如果最优模式是SKIP模式，那么CU不再继续划分。

Description

一种HEVC帧间编码单元划分的快速决策算法

技术领域

本发明涉及高性能视频编码(High Efficiency Video Coding，HEVC)领域。

背景技术

为了满足对高清视频的需求和产生更好的压缩效果，HEVC采用了四叉树的图像分割方式。这种分割方式可以获得比H.264/AVC更好的压缩效率，但同时由于需要对每一种尺寸的编码单元(Coding Unit，CU)、预测单元(Prediction Unit，PU)和变换单元(Transform Unit，TU)都要通过率失真优化(Rate-DistortionOptimization，RDO)计算得出最优的尺寸，使得编码器的计算复杂度大幅提升。如果能够预测CU的大小和CU的PU模式，那么可以对四叉树中某些节点进行剪枝和提前终止PU模式的搜索，这样就可以有效的降低编码器的计算复杂度。

HEVC的测试软件(HEVC Test Model，HM)所采用的CU的大小为64×64、32×32、16×16和8×8，分别对应CU的深度为0、1、2、3。其中深度为0的CU记为LCU(Largest Coding Unit)，深度为3的CU记为SCU(Smallest CodingUnit)。HM的编码器采用递归的方式对LCU进行划分，对于每一层的CU都要进行RDO来决定PU和TU的划分，其中TU的划分也采用了四叉树的划分方式。为了减少递归划分所带来的不必要的计算复杂度，现有的一些方案针对CU的划分进行了一系列的优化：

例如文献1(参见R.H.Gweon and Y.L.Lee,Early termination of CU encodingto reduce HEVC complexity.document JCTVC-F045,2011)，描述了在HM 3.1平台下，如果当前CU的最优模式是SKIP的情况，那么该CU不会继续向下划分的概率为95％。这一概率足以保证预测的准确性，即使有应当继续划分的CU因为选择SKIP模式而没有继续划分，也会因为SKIP模式使用了更少的码字进行编码而得到补偿，所以该算法不会引起BD-rate很大的损失。但是该算法将所有的深度的CU统一考虑，所以仍有优化的空间。

文献2(参见Xiong,J.et al,Fast HEVC Inter CU Decision Based on Latent SADEstimation.IEEE Transactions on Multimedia,2015:2147-2159)提出了基于潜在绝对差值和(Latent Sum of Absolute Differences，LSAD)的CU划分的快速决策算法。作者使用了新的运动估计方法来获得两层CU的SAD，并且定义了运动补偿率失真值(Motion Estimation Rate-distortion，MERD)。指数模型用于描述LSAD和MERD之间的关系，并从指数模型中推导出阈值。如果两层的SAD都小于阈值，那么就不继续向下分割。该方法虽然可以节省50％以上的编码时间，但是BD-rate(Bjontegaard delta bit rate)的损失较大。

文献3(参见SangsooAhn,Bumshik Lee,and Munchurl Kim,A Novel Fast CUEncoding Scheme Based on Spatiotemporal Encoding Parameters for HEVC InterCoding,IEEE Transactions on Circuits and System for Video Technology(CSVT),2015:422-435)提出了提前检测SKIP模式和CU划分的快速决策算法。利用编码过程中产生的系数来对CU的划分进行指导。利用采样自适应偏移(SampleAdaptive Offset，SAO)产生的系数确定主边缘的方向。并且利用了TU的大小，运动矢量的大小和编码标识位来辅助决定CU的划分。该算法在Random AccessMain的配置下可以节省49.6％的编码时间，但BD-rate损失了1.4％。

发明内容

本发明的目的在于提供一种HEVC帧间编码单元划分的快速决策算法，通过在帧间编码中CU划分的快速决策和模式选择的提前终止，能保证CU终止划分预测的正确率，提高编码器的帧间编码效率，且不损失编码质量。

给出的技术方案：

本发明提出改进的帧间编码单元划分快速决策的算法，其特征在于，包括如下步骤：

1)在当前CU的所有PU模式搜索完毕之后，判断当前CU深度。如果深度为3划分终止，如果深度为0转步骤(2)，如果深度为1转步骤(3)，如果深度为2转步骤(4)。

2)如果深度为0并且最优模式是SKIP。按照公式(1)计算用于预测的RDcost_pre，如果当前CU的RD-cost小于RDcost_pre，那么划分终止。否则继续向下划分，并转到步骤(1)。

所述公式(1)，是通过相邻的CU用于计算出预测的RDcost_{p e}:

${\mathrm{RDcost}}_{pre}=({\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i\×{\mathrm{RDcost}}_i)/{\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i---\left(1\right)$

其中，

RDcost_i的取值分别是ALC,AC和LC的RD-cost。

k_i表示相邻的CU是否存在，如果存在并且所选择的模式是SKIP模式，那么k_i为1否则为0。

a_i是3个CU的权值，i的取值与图1中各CU(当前CU及其空域相邻的CU)的序号相对应。

3)如果深度为1并且最优模式是SKIP。按照公式(2)计算用于预测的Depth_pre，如果Depth_pre小于等于1，那么划分终止。否则继续向下划分，并转到步骤(1)。所述公式(2)，用于预测的深度：

${\mathrm{Depth}}_{pre}=({\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i\×{\mathrm{Depth}}_i)/{\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i---\left(2\right)$

其中，

a_i和k_i的取值与公式(1)取值相同。

Depth_i分别是ALC、AC和LC的深度。

4)如果深度为2，如果当前CU的最优模式是SKIP，则划分终止。否则继续向下划分，并转到步骤(1)。

由于采用上述方案，本发明的有益效果是：

1.本发明根据不同深度CU基于SKIP编码模式来终止划分的预测准确率的不同的特点，对深度为0和1的CU设计了不同的CU划分提前决策方法以保证CU终止划分预测的正确率。

2.本发明综合考虑CU相邻块的编码信息的特点，可以准确的利用CU相邻块的编码信息来限制CU的划分终止，从而可以在几乎不损失编码质量的情况下，有效提高编码器的帧间编码效率。

附图说明

图1当前CU及其空域相邻的CU示例图

图2从当前CU如何获取相邻CU示例图

图3帧间编码单元划分快速决策算法流程图

具体实施方式

以下通过若干实施例支持和展开本发明技术方案。

实施例

本发明首先考虑当CU的最优模式是SKIP模式是即终止CU的划分时不同深度CU的预测准确率。本发明选择了3个具有代表性的标准视频序列(其名称分别为BQMall、FourPeople和BasketballDrive)来分析CU的分割分布，BQMall拥有丰富的纹理，FourPeople视频内容运动比较平缓并且纹理平滑，BasketballDrive的视频内容是运动较为剧烈的，纹理复杂度介于BQMall和FourPeople之间。表1给出了在HM 16.4平台上测试所得当CU的最优模式是SKIP模式是即终止CU的划分时不同深度CU的预测准确率的结果，其中QP是指量化步长(Quantization Step，QP)，LD是指测试配置为Low Delay main，RA是指测试配置为Random Access Main。从表1可以看出深度为2的CU如果选择SKIP模式的话，有97.1％～99.9％的概率不会继续划分。对于深度为2的CU，预测准确率几乎不受QP的影响。深度为0的CU不会继续向下划分的概率为73.3％～97.7％，可以看出该深度的CU的划分比例受QP影响较大。特别当QP为22时，BasketballDrive序列的预测准确率仅为73.3％。深度为1的CU继续划分的概率为92.6％～99.5％，这一深度的预测准确率已经很高，但是仍不及深度为2的CU。所以可以推测该算法的在编码质量上的损失即BD-rate的损失主要是来自深度为0和1的CU的预测。所以可以通过限制深度0和1的CU终止划分的条件来提高预测准确率。

表1.当CU的最优模式是SKIP模式即终止CU的划分时不同深度CU的预测准确率

为达到上述目的，本发明的解决方案是：选取左上侧的CU(Above Left CU,ALC)、上侧的CU(Above CU,AC)和左侧的CU(Left CU,LC)来预测当前CU(Current CU)在最优模式是SKIP的情况下是否继续划分。图1是当前CU与其相邻CU的位置关系的示意图。选取CU时，由于在同一方向上可能同时存在多个CU，本发明规定了本算法所使用的相邻CU的位置。相邻CU获取的具体做法是首先获取当前CU中左上侧4×4小的块ALB_curr和右上侧的4×4小块的ARB_curr在LCU中的‘Z’扫描顺序的坐标，然后根据ALB_curr的坐标推导出图2所示的大小为4×4的Block_ALC和Block_LC小块的坐标，根据ARB_curr的坐标推导出Block_AC的坐标。Block_ALC所在的CU即是所使用的ALC，Block_LC所在的CU即是所使用LC，Block_AC的所在的CU即是所使用的AC。由于Block_ALC与Block_LC选取的CU很大一部分是重叠的，去除重复后，两者之和与AC的权值与相当，所以将AC的权值设置为0.5而ALC为0.2，LC为0.3。对于第0层的CU，选取用率失真代价(Rate-Distortion cost，RD-cost)预测。如果选择深度来预测的话，由于相邻CU深度为0的情况很少，所以很难预测到当前深度为0的CU是否应当继续划分。通过相邻的CU计算出预测的RDcost_pre:

${\mathrm{RDcost}}_{pre}=({\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i\×{\mathrm{RDcost}}_i)/{\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i---\left(1\right)$

其中，RDcost_i的取值分别是ALC,AC和LC的RD-cost。k_i表示相邻的CU是否存在，如果存在并且所选择的模式是SKIP模式，那么k_i为1否则为0。a_i是3个CU的权值，i的取值与图1中各CU的序号相对应。如果，所有的CU都不存在那么不进行任何预测。如果当前CU所选择的最优模式是SKIP模式，那么将当前CU的RD-cost与RDcost_pre进行比较。如果小于RDcost_pre的话，那么就不继续向下划分。否则即使当前CU的最优模式是SKIP模式，CU也需要继续向下划分。对于第1层的CU，采用深度预测的方法，通过实验比较在第1层采用深度预测的方法比RD-cost更有效。用于预测的深度计算如下：

${\mathrm{Depth}}_{pre}=({\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i\×{\mathrm{Depth}}_i)/{\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i---\left(2\right)$

其中，a_i和k_i的取值与公式(1)取值相同。Depth_i分别是ALC、AC和LC的深度。在当前CU的最优模式是SKIP模式的情况下，如果计算出的Depth_pre小于等于1.0，那么CU不再继续向下划分。否则继续划分，即使当前CU的最优模式是SKIP。表2列出了在LD和RA配置下，对深度为0和1的CU进行限制后的预测准确率。通过表2可以看出，通过相邻CU的深度和RD-cost来对最优模式是SKIP模式的CU的划分进行限制可以有效的提高预测准确率。特别是对于纹理比较丰富的视频如BQMall，预测准确率的提高非常明显。对于拥有较多平滑区域并且运动不剧烈的视频，未加限制前的预测准确率就已经很高，所以提升不是十分的明显。从表中数据可以看出，随着QP的增大，预测准确率的提升

逐步降低。通过限制可以将第0层的预测准确率提升至87.3％～99.1％，第1层的预测准确率提升至94.8％～99.6％。

表2.对深度为0和1的CU进行限制后的预测准确率

实施例

以下结合附图3所示实施例对本发明作进一步的说明。

如图3所示，本发明一种实施例包括以下步骤:

步骤1：基于HEVC通用的测试平台HM，开始一个LCU划分，进行当前CU的所有PU模式搜索，得到最优预测模式，转步骤2。

步骤2：判断当前CU深度。如果深度为3转步骤6，否则转步骤3。

步骤3：判断PU搜索得到的最优模式是否是SKIP模式，如果是转步骤4，否则转步骤2。

步骤4：判断当前CU的深度是否为0。如果是0，那么按照本发明公式(1)计算用于预测的RDcost_pre，如果当前CU的RD-cost小于RDcost_pre，则转步骤6，否则继续向下划分，转步骤2。如果当前CU的深度不是0，那么转步骤5。

步骤5：判断当前CU的深度是否为1。如果是1，那么按照本发明公式(2)计算用于预测的Depth_pre，如果Depth_pre小于等于1，那么转步骤6，否则继续向下划分，转步骤2。如果当前CU的深度不是1，那么转步骤6。

步骤6：LCU划分终止。

实施例

(效果实施例)

表3本发明算法(Ours)和HEVC原有的CU划分提前终止算法(ECU in HEVC)在LD配置下的实验结果对比(实验平台为HM 16.4)

实施例

(效果实施例)

表4.本发明算法(Ours)和HEVC原有的CU划分提前终止算法(ECU in HEVC)在RA配置下的实验结果对比(实验平台为HM 16.4)

Claims (1)

1.一种HEV帧间编码单元划分快速决策的算法，其特征在于，包括如下步骤：

1)在当前CU的所有PU模式搜索完毕之后，判断当前CU深度；如果深度为3划分终止，如果深度为0转步骤(2)，如果深度为1转步骤(3)，如果深度为2转步骤(4)；

2)如果深度为0并且最优模式是SKIP；按照公式(1)计算用于预测的RDcost_pre，如果当前CU的RD-cost小于RDcost_pre，那么划分终止；否则继续向下划分，并转到步骤(1)；

所述公式(1)，是通过相邻的CU用于计算出预测的RDcost_pre:

${\mathrm{RDcost}}_{pre}=({\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i\×{\mathrm{RDcost}}_i)/{\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i---\left(1\right)$

其中，

RDcost_i的取值分别是ALC,AC和LC的RD-cost；

k_i表示相邻的CU是否存在，如果存在并且所选择的模式是SKIP模式，那么k_i为1否则为0；

a_i是3个CU的权值，i的取值与图1中各CU(当前CU及其空域相邻的CU)的序号相对应；

3)如果深度为1并且最优模式是SKIP；按照公式(2)计算用于预测的Depth_pre，如果Depth_pre小于等于1，那么划分终止；否则继续向下划分，并转到步骤(1)；

所述公式(2)，用于预测的深度：

${\mathrm{Depth}}_{pre}=({\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i\×{\mathrm{Depth}}_i)/{\mathrm{\Σ}}_{i=1}^3{a}_i\×k_i---\left(2\right)$

其中，

a_i和k_i的取值与公式(1)取值相同，

Depth_i分别是ALC、AC和LC的深度；

4)如果深度为2，如果当前CU的最优模式是SKIP，则划分终止；否则继续向下划分，并转到步骤(1)。