CN101867818A - 宏块模式的选择方法和装置 - Google Patents

Abstract

本发明公开了一种宏块模式的选择方法和装置。所述方法通过对当前宏块的各编码模式的编码代价进行比较来确定最优的宏块编码模式，而在计算编码代价时可对部分帧间模式采用像素精度分层选择的方法；还可在比较宏块的特殊模式——跳过(SKIP)模式和其它编码模式时采用了一种新颖的比较算法。所述方法在保持比特率和编码质量基本不变的同时，显著减少了计算的复杂度并大大提高了计算的并行度，适用于实时的软硬件视频编码。

Description

宏块模式的选择方法和装置

技术领域

本发明涉及视频编码技术领域，特别地，涉及视频压缩编码的宏块模式选择的快速选择方法和装置。

背景技术

在各视频编码标准中，如H.264/AVC(Advanced Video Coding)，AVS(AudioVideo coding Standard先进音频视频编码标准)均规定了码流结构和解码过程，但并没有描述具体的编码方法。而模式选择是视频编码中的核心技术，因此是学术研究的热点。

由于大多数的编码标准都是采用宏块为基本单位的编码方式，所以模式选择是基于宏块的编码模式进行选择。从现有的技术来看模式选择均是比较各个模式间的编码代价函数，选择出编码代价函数最小的模式为当前宏块的最终模式。编码的代价函数在采用率失真优化(RDO：Rate-Distortion-Optimization)时为对应编码模式的率失真代价(RDCost：Rate-Distortion cost)由于率失真代价的计算很复杂，所以有人提出了其它的计算代价函数的方法，但计算量仍很大，特别是当运动估计精度较高时，一次性在高精度下做运动估计的复杂度非常高。而且在对于特殊模式，例如跳过(SKIP)模式，模式选择的快速算法中均没有利用代价函数进行比较计算，这样会大大降低了模式选择的准确性。

发明内容

本发明的目的在于针对现有技术的不足，提供了宏块模式的快速选择方法和装置。

本发明的目的是通过以下技术方案来实现的：

一种宏块模式的选择方法，先比较低精度运动估计下的第一类帧间模式的编码代价，选出编码代价最优的模式作为第一类帧间模式的选择结果，再对选出的模式进行高精度的运动估计以获得高精度运动估计下该模式的最优的编码代价。该编码代价再与最优的帧内模式和最优的第二类帧间模式的编码代价比较以选择编码代价较优的模式。这里的第一类帧间模式指的是需要进行运动搜索的帧间编码模式，第二类帧间模式指的是不需要进行运动搜索的帧间编码模式，较优的编码模式指的是编码代价较小或其它与编码代价大小相结合的评判标准选取出的编码模式。

一种用于所述宏块模式的选择方法的装置。它包括：低精度像素第一类帧间模式选择器，高精度像素运动估计器，帧内模式选择器，第二类帧间模式选择器和模式判决器。其中，低精度像素第一类帧间模式选择器的输出端接高精度像素运动估计器的输入端，输出第一类帧间模式中最优的编码模式及该编码模式下宏块的编码代价。高精度像素运动估计器的输出端接模式判决器，输出对应的模式及高精度运动估计后该编码模式下宏块的编码代价。帧内模式选择器的输出端接模式判决器，输出最优的帧内模式及该编码模式下宏块的编码代价。第二类帧间模式选择器的输出端接模式判决器，输出第二类帧间模式中，最优的编码模式及该编码模式下宏块的编码代价。模式判决器的一个输入端接高精度像素运动估计器，一个输入端接帧内模式选择器，还有一个输入端接第二类帧间模式选择器，输出三个输入的模式中最优的模式。

一种宏块模式的选择方法，对宏块的SKIP模式采用预测残差块绝对值大小的门限判决与编码代价函数比较相结合的方法进行选择，即当SKIP模式下预测残差块的绝对值小于一个与由宏块量化参数大小决定的门限，并且SKIP的编码代价优于除SKIP模式外的其它模式中最优模式的编码代价时当前宏块选择SKIP模式；否则，当前宏块选择除SKIP模式外的其它模式中最优的编码模式。这里较优的编码模式指的是编码代价较小或其它与编码代价大小相结合的评判标准选取出的编码模式。

一种用于上述宏块模式的选择方法的装置，它包括残差绝对值比较器，第一编码代价计算器，第二编码代价计算器，模式选择器。其中，残差绝对值比较器的输出端接模式选择器，输出残差绝对值是否大于门限的信号。第一编码代价计算器的输出端接模式选择器，输出除SKIP模式外其它模式中最优的模式及该模式下宏块的编码代价。第二编码代价计算器的输出端接模式选择器，输出SKIP模式的编码代价。模式选择器的三个输入端分别接残差绝对值比较器、第一编码代价计算器和第二编码代价计算器。输出最终选定的编码模式。

本发明的有益效果是，本发明在极大地减少了计算复杂度的条件下仍能准确地选取最优的宏块编码模式，同时对SKIP模式的精细判决，提高了SKIP模式的选择的准确性。

附图说明

图1是本发明实施例4的宏块模式的选择装置的结构框图；

图2是本发明实施例5的宏块模式的选择装置的结构框图；

图3是本发明实施例6的宏块模式的选择装置的结构框图。

具体实施方式

下面根据附图和实施例详细说明本发明，本发明的目的和效果将变得更加明显。

本发明的技术方案主要是依据编码代价函数在各模式间选择出编码代价最小的编码模式以获得视频编码***编码性能的提高。

下面是本发明的具体实施方法：

实施例1：

以AVS标准为例，在AVS标准中，宏块模式分为帧间编码模式和帧内编码模式两大类。帧间编码模式又可以按照子块的尺寸分为16×16，16×8，8×16，8×8模式，除此之外，帧间还存在特殊的编码模式，如P条带中的SKIP模式，B中的SKIP和DIRECT模式。帧内编码模式是按照8×8块的大小进行预测编码的，一共存在5种帧内编码模式：水平模式，竖直模式，右下模式，左下模式，DC模式。对于每个宏块，需要在这些编码模式中选择一个编码效率高的模式进行编码。下面是以AVS标准中的B条带中的宏块模式选择为例说明权利要求1所述的宏块模式的选择方法。

具体的实施步骤如下：

步骤1，采用下面的代价函数在帧间模式16×16，16×8，8×16，8×8模式中选出一个编码代价最小的一个模式。将选出宏块模式的编码代价记作minCost_inter_int。

Cost_inter_int＝SAD_int+λ×(mode_bits+motion_bits)

其中SAD_int为当前模式下整像素精度运动搜索后的残差块的绝对值和，mode_bits是该模式的模式信息在码流中传递需要的比特数，motion_bits是运动矢量在码流中传递需要的比特数，λ取0.67×QP，这里QP指的是当前宏块的量化参数。

步骤2，计算步骤1选出的模式在1/4像素精度运动搜索后的编码代价

minCost_inter_qua＝min_SAD_qua+λ×(mode_bits+motion_bits)

其中min_SAD_qua为步骤1中选出的模式在1/4像素运动搜索后的残差块的绝对值和，mode_bits是该模式在码流中传递需要的比特数，motion_bits是运动矢量在码流中传递需要的比特数，λ取0.67×QP，这里QP指的是当前宏块的量化参数。

步骤3，利用下面的代价函数在帧内的五种模式中选取一个编码代价最小的帧内模式。将选出的宏块模式的编码代价记作minCost_intra。

Cost_intra＝SAD_intra+λ×mode_bits+H

其中SAD_intra为当前模式下帧内预测后的预测残差块的绝对值和，mode_bits是该模式的模式信息在码流中传递需要的比特数。λ取0.67×QP。H为帧内cost的修正量，这里取为18。

步骤4，比较步骤1和步骤3中选出模式的编码代价，即minCost_inter_qua和minCost_intra的大小，如果minCost_inter_qua较大，则将步骤2中选出的模式设为候选模式，否则将步骤1中的模式设为候选模式。

步骤5，将步骤4中选出的候选模式的编码代价与帧间特殊模式中的最优编码模式的编码代价进行比较，这里的特殊模式指的是DIRECT模式和SKIP模式。选取编码代价最小的模式作为当前宏块最终的编码模式。特殊模式的编码代价按照下面的方法计算。

Cost_special＝SAD_special+λ×mode_bits

其中SAD_special为特殊模式预测后的残差块的绝对值和，mode_bits是该模式的模式信息在码流中传递需要的比特数，λ取0.67×QP，这里QP指的是当前宏块的量化参数。

实施例2：

下面是以AVS标准中的P条带中宏块模式的选择方法为例说明权利要求6所述的宏块模式的选择方法。

具体的实施步骤如下：

步骤1，采用下面的代价函数在除SKIP模式的其它候选模式中选出一个编码代价最小的一个模式。将选出宏块模式的编码代价记作minCost_normal。

Cost_normal＝η×num_nozero+λ×(mode_bits+motion_bits)+H

其中num_nozero为当前模式该宏块预测残差块中非零系数的个数，mode_bits是该模式的模式信息在码流中传递需要的比特数，motion_bits是运动矢量在码流中传递需要的比特数，η取10×QP，λ取0.69×QP，这里QP指的是当前宏块的量化参数。

步骤2，将步骤1中选出的候选模式与SKIP模式的编码代价进行比较，SKIP模式的编码代价按照下面方法进行计算。

Cost_skip＝α×SAD_Skip+β×skipmode_bits

SAD_Skip为SKIP模式补偿后宏块残差的绝对值和，skipmode_bits为码流中传递SKIP模式的模式信息需要的比特数，α取为0.85，β取为0.62×QP，这里QP指的是当前宏块的量化参数。

如果Cost_skip小于minCost_normal并且SAD_Skip＜Th(QP)，则宏块的最终编码模式为SKIP模式，否则将步骤1中选出的模式作为当前宏块最终的编码模式。

实施例3：

以H.264标准为例，在H.264标准中，宏块模式分为帧间编码模式和帧内编码模式两大类。帧间编码模式又可以按照子块的尺寸分为16×16，16×8，8×16，8×8，8×4，4×8，4×4模式，除此之外，帧间还存在特殊的编码模式，如P slice中的SKIP模式，B中的SKIP和DIRECT模式，DIRECT模式又分为空间DIRECT模式，时间DIRECT模式。帧内编码模式分为16×16和4×4两类。其中16×16存在4种模式：垂直模式，水平模式，DC模式，平面模式；4×4块存在9种帧内编码模式：水平模式，竖直模式，右下模式，左下模式，DC模式，下左对角线模式，下右对角线模式，右垂直模式，下水平模式，左垂直模式，上水平模式。对于每个宏块，需要在这些编码模式中选择一个编码效率高的模式进行编码。下面是以H.264标准中的B条带中的模式选择为例说明权利要求9所述的宏块模式的选择方法。

具体的实施步骤如下：

步骤1，采用下面的代价函数在帧间模式16×16，16×8，8×16，8×8，8×4，4×8，4×4模式中选出一个编码代价最小的一个模式。将选出宏块模式的编码代价记作minCost_inter_int。

Cost_inter_int4＝SATD_int+λ×(mode_bits+motion_bits)

其中SATD_int4为当前模式下4倍整像素精度运动搜索后的残差块的哈达吗变换后的绝对值和，mode_bits是该模式在码流中传递需要的比特数，motion_bits是运动矢量在码流中传递需要的比特数，λ取0.68×QP，这里QP指的是当前宏块的量化参数。

步骤2，计算步骤1选出的模式在整像素精度运动搜索后的编码代价

minCost_inter_int＝SATD_int+λ×(mode_bits+motion_bits)

其中SATD_int为步骤1中选出的模式在整像素精度运动搜索后的残差块的哈达吗变换后的绝对值和，mode_bits是该模式的模式信息在码流中传递需要的比特数，motion_bits是运动矢量在码流中传递需要的比特数，λ取0.68×QP，这里QP指的是当前宏块的量化参数。

步骤3，利用下面的代价函数在帧内的9种模式中选取一个编码代价最小的帧内模式。将选出的宏块模式的编码代价记作minCost_intra。

Cost_intra＝SATD_intra+λ×mode_bits+H

其中SATD_intra为当前模式下帧内预测后的残差块的哈达吗变换后的绝对值和，mode_bits是该模式的模式信息在码流中传递需要的比特数，λ取0.68×QP，这里QP指的是当前宏块的量化参数，H为帧内cost的修正量，取为20。

步骤4，比较步骤1和步骤3中选出模式的编码代价，即minCost_inter_int和minCost_intra的大小，如果minCost_inter_int较大，则将步骤3中选出的模式设为候选模式，否则将步骤1中的模式设为候选模式。

步骤5，将步骤4中选出的候选模式与最优的DIRECT模式的编码代价进行比较，选取编码代价较小的模式作为新的候选模式。设此时选出的模式的编码代价是minCost_normal。DIRECT模式包括时间DIRECT模式和空间DIRECT模式，它们的编码代价均按照下面的方法计算。

Cost_direct＝SATD_direct+λ×mode_bits

其中SATD_direct为DIRECT模式预测后的残差块的哈达吗变换后的绝对值和，mode_bits是DIRECT模式的模式信息在码流中需要传递的比特数，λ取0.68×QP，这里QP指的是当前宏块的量化参数。

步骤6，将步骤5中选出的候选模式与SKIP模式的编码代价进行比较，SKIP模式的编码代价按照下面方法进行计算。

Cost_skip＝α×SAD_Skip+β×skipmode_bits

SAD_Skip为SKIP模式补偿后宏块残差的绝对值和，skipmode_bits是SKIP模式在码流中需要传递的比特数，α取为0.8，β取为0.63×QP，这里QP指的是当前宏块的量化参数。

如果Cost_skip小于minCost_normal并且SAD_Skip＜Th(QP)，则宏块的最终编码模式为SKIP模式，否则将步骤5中选出的模式作为当前宏块最终的编码模式。

实施例4：

一种宏块模式的快速选择方法的装置，如图1所示。该装置按照实施例1所述的模式选择方法实现，具体包括：整像素精度第一类帧间模式选择器，1/4像素精度运动估计器，帧内模式选择器，模式判决器，第二类帧间模式选择器。

1)整像素精度第一类帧间模式选择器的输出端接1/4像素精度运动估计器，输出第一类帧间模式中最优的编码模式及该编码模式下宏块的编码代价。这里的第一类帧间模式指的是16×16，16×8，8×16，8×8宏块编码模式。

2)1/4像素精度运动估计器的输入端接整像素精度第一类帧间模式选择器，输出端接模式判决器，输出对应的模式及1/4像素精度运动估计后该编码模式下宏块的编码代价。

3)帧内模式选择器的输出端接模式判决器，输出五种帧内模式中最优的模式及该编码模式下宏块的编码代价。

4)第二类帧间模式选择器的输出端接模式判决器，输出第二类帧间模式中最优的编码模式及该编码模式下的宏块编码代价。这里的第二类帧间模式指的是SKIP模式和DIRECT模式。

5)模式判决器的一个输入端接1/4像素精度运动估计器，一个输入端接帧内模式选择器，还有一个输入端接第二类帧间模式选择器，输出三个输入的模式中最优的模式。

实施例5：

一种宏块模式的快速选择方法的装置，如图2所示。该装置按照实施例2所述的模式选择方法实现，具体包括残差绝对值比较器，第一编码代价计算器，第二编码代价计算器，模式选择器。

1)残差绝对值比较器的输出端接模式选择器，输出残差绝对值SAD_Skip是否大于门限Th(QP)的信号。

2)第一编码代价计算器的输出端接模式选择器，输出除SKIP模式外其它模式中最优的模式及该模式下宏块的编码代价。

3)第二编码代价计算器的输出端接模式选择器，输出SKIP模式的编码代价。

4)模式选择器的三个输入端分别接上面的三个模块，残差绝对值比较器，第一编码代价计算器，第二编码代价计算器。输出最终确定的编码模式。

实施例6：

一种宏块模式的快速选择方法的装置，如图3所示。该装置按照实施例3所述的模式选择方法实现，具体包括：4倍整像素精度第一类帧间模式选择器，整像素精度运动估计器，帧内模式选择器，第一模式判决器，第二类帧间模式选择器，第二模式判决器，SKIP模式计算器。

1)4倍整像素精度第一类帧间模式选择器的输出端接整像素精度运动估计器，输出第一类帧间编码模式中最优的编码模式及该编码模式下宏块的编码代价。这里的第一类帧间模式指的是16×16，16×8，8×16，8×8，8×4，4×8，4×4宏块编码模式。

2)整像素精度运动估计器的输入端接部分4倍整像素精度第一类帧间模式选择器，输出端接第一模式判决器，输出对应的模式及高精度运动估计后该编码模式下宏块的编码代价。

3)帧内模式选择器的输出端接第一模式判决器，输出16×16和4×4帧内模式中最优的模式及该编码模式下宏块的编码代价。

4)第二类帧间模式选择器的输出端接第一模式判决器，输出第二类帧间模式中最优的编码模式及该编码模式下的宏块编码代价。这里的第二类帧间模式指的是空间DIRECT模式和时间DIRECT模式。

5)第一模式判决器的一个输入端接整像素精度运动估计器，一个输入端接帧内模式选择器，还有一个输入端接第二类帧间模式选择器，输出端接第二模式判决器，输出三个输入的模式中最优的模式及该编码模式下宏块的编码代价。

6)SKIP模式计算器的输出端接第二模式判决器，输出SKIP模式及SKIP模式下的宏块编码代价。

7)第二模式判决器的一个输入端接第一模式判决器，另一个输入端接SKIP模式计算器，输出两个输入编码模式中较优的编码模式。

Claims (5)

1.一种宏块模式的选择方法，其特征在于，该方法为：对宏块的SKIP模式采用预测残差块绝对值大小的门限判决与编码代价函数比较相结合的方法进行选择，即当SKIP模式下预测残差块的绝对值小于一个与由宏块量化参数大小决定的门限，并且SKIP的编码代价优于除SKIP模式外的其它模式中最优模式的编码代价时当前宏块选择SKIP模式；否则，当前宏块选择除SKIP模式外的其它模式中最优的编码模式。这里较优的编码模式指的是编码代价较小或其它与编码代价大小相结合的评判标准选取出的编码模式。

2.根据权利要求1所述的宏块模式的选择方法，其特征在于，编码代价采用下面的计算方法获得：

除SKIP模式外的其它模式的编码代价采用下面的方法进行计算：

Cost＝C1+λ×C2+T1；

其中，C1是衡量当前宏块的像素值与当前模式下宏块的预测像素值之间的相似度的参数，C1是非负数，相似度越高C1越小，当当前宏块的像素值与当前模式下预测宏块的像素完全相同时C1等于零；λ是一个非负数；C2是描述当前宏块除量化系数外其它的编码比特数大小的参数；T1是非负常数。SKIP模式的编码代价采用下面的方法进行计算：

Cost＝α×C3+β×C4+T2；

其中，C3是衡量当前宏块的像素值与SKIP模式参考宏块的预测像素值之间的相似度的参数，C3是非负数，相似度越高C3越小，当当前宏块的像素值与SKIP模式下宏块的预测像素完全相同时C1等于零；α，β是非负数；C4是描述当前宏块除量化系数外其它的编码比特数大小的参数；T2是非负常数。

3.一种用于权利要求1所述宏块模式的选择方法的装置。其特征在于，它包括残差绝对值比较器，第一编码代价计算器，第二编码代价计算器，模式选择器。其中，

残差绝对值比较器的输出端接模式选择器，输出残差绝对值是否大于门限的信号。

第一编码代价计算器的输出端接模式选择器，输出除SKIP模式外其它模式中最优的模式及该模式下宏块的编码代价。

第二编码代价计算器的输出端接模式选择器，输出SKIP模式的编码代价。

模式选择器的三个输入端分别接残差绝对值比较器、第一编码代价计算器和第二编码代价计算器。输出最终选定的编码模式。

4.一种宏块模式的选择方法。其特征在于，包括权利要求1和权利要求6所述的宏块模式的选择方法，该宏块模式的选择方法包括以下步骤：

1)对第一类帧间模式采用像素精度分层选择的方法选出最优的第一类帧间模式，再与最优的帧内模式和最优的第二类帧间模式的编码代价比较选出编码代价较优的模式。

2)将步骤1)中的模式与SKIP模式比较，选取出最优的编码模式。选择时采用预测残差块绝对值大小的门限判决与编码代价函数比较相结合的方法。

这里的第一类帧间模式是指需要进行运动搜索的帧间编码模式，第二类帧间模式指的是不需要进行运动搜索的帧间编码模式，较优的编码模式是指的是编码代价较小或其它与编码代价大小相结合的评判标准选取出的编码模式。

5.一种用于权利要求9所述宏块模式的选择方法的装置。其特征在于，它包括：低精度像素第一类帧间模式选择器，高精度像素运动估计器，帧内模式选择器，第一模式判决器，第二类帧间模式选择器，SKIP模式计算器，第二模式判决器。其中，

低精度像素第一类帧间模式选择器的输出端接高精度像素运动估计器，输出第一类帧间模式中最优的编码模式及该编码模式下宏块的编码代价。

高精度像素运动估计器的输入端接低精度像素第一类帧间模式选择器，输出端接模式判决器，输出相应的模式及高精度运动估计后该编码模式下宏块的编码代价。

帧内模式选择器的输出端接第一模式判决器，输出最优的帧内模式及该编码模式下宏块的编码代价。

第二类帧间模式选择器的输出端接第一模式判决器，输出第二类帧间模式中最优的编码模式及该编码模式下的宏块编码代价。

第一模式判决器的一个输入端接高精度像素运动估计器，一个输入端接帧内模式选择器，还有一个输入端接第二类帧间模式选择器，输出端接第二模式判决器，输出三个输入的模式中最优的模式及该编码模式下宏块的编码代价。

SKIP模式计算器的输出端接第二模式判决器，输出SKIP模式及SKIP模式下的宏块的编码代价。

第二模式判决器的一个输入端接第一模式判决器，另一个输入端接SKIP模式计算器，输出两个输入编码模式中较优的编码模式。

Images