CN101426140A - 一种avs快速模式选择方法和装置 - Google Patents

Abstract

本发明公开了一种AVS快速模式选择方法和装置，涉及视频编码领域，能够在保证编码率失真性能的同时，显著提高编码速度，尤其对于存在剧烈运动和复杂纹理的图像序列，也能获得较佳的编码效果。本发明提供的技术方案包括：根据当前帧的相邻帧中当前宏块的对应宏块的编码模式，将所述当前宏块的候选模式划分为包括首选模式集合、次选模式集合和后选模式集合的集合；依次在所述首选模式集合、次选模式集合和候选模式集合中进行搜索，选择对当前宏块进行编码的最佳模式。本发明适用于进行视频编码的场合。

Description

一种AVS快速模式选择方法和装置

技术领域

本发明涉及视频编码领域，尤其涉及一种AVS快速模式选择方法和装置。

背景技术

随着数字视频技术的发展，近年来世界上出现了许多数字音视频压缩标准。AVS(Audio Video Coding Standard)是我国自主制定，拥有自主知识产权的音视频编码标准。

AVS视频标准采用了一系列技术来达到高效率的视频编码，包括帧内预测、帧间预测、变换和量化、熵编码等。帧间预测使用基于块的运动矢量消除图像间的冗余；帧内预测使用空间预测模式消除图像内的冗余；再通过对预测残差进行变换和量化消除图像内的视觉冗余；最后，运动矢量、预测模式、量化参数和变换系数用熵编码进行压缩，以消除编码码字冗余。AVS视频标准的性能高、算法复杂度低，在码率和PSNR相当的情况下，AVS的编码速度是H.264的4倍以上。

在AVS视频标准中，对P帧有5种帧间预测模式，包括跳过(SKIP)、Inter 16×16、Inter 16×8、Inter 8×16、Inter 8×8模式；帧内预测以8×8亮度块和色度块为单位，分别定义了5种8×8亮度块预测模式和4种8×8色度块预测模式。AVS采用率失真代价(RDO)优化的模式选择策略，提高了编码效率和图像质量，获得了最佳的率失真性能。但在进行模式选择时，由于需要对每一种可能的宏块模式进行率失真代价的计算，编码器计算复杂度过大，耗费了绝大部分的编码时间，不利于编码器的实际应用。

公开号为CN 101159873A的中国专利申请，公开了一种帧间模式选择方法，该方法在利用像素差值将当前帧中各宏块分属于不同的区域后，对处于同一类型区域中的宏块采用相同的模式选择方法。该方法利用像素值进行区域划分时，计算量比较复杂，计算量大；且主要考虑了空间的相关性，没有充分考虑图像序列之间的时间相关性，特别对存在剧烈运动的图像序列编码效果不佳，编码性能有待改善。

发明内容

为了解决现有技术中存在的问题，本发明的实施例提供AVS快速模式选择方法和装置，能够在保证编码率失真性能的同时，显著提高编码速度，尤其对于存在剧烈运动和复杂纹理的图像序列，本发明实施例也能获得较佳的编码效果。

为达到上述目的，本发明的实施例采用如下技术方案：

一种AVS快速模式选择方法，所述方法包括：

根据当前帧的相邻帧中当前宏块的对应宏块的编码模式，将所述当前宏块的侯选模式划分为包括首选模式集合、次选模式集合和后选模式集合的集合；

依次在所述首选模式集合、次选模式集合和候选模式集合中进行搜索，选择对当前宏块进行编码的最佳模式，具体包括：

步骤1：在首选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3，否则，进入步骤2；

步骤2：在次选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3，否则，进入步骤4；

步骤3：比较所述小于阈值T1的率失真代价是否小于阈值T2，若是，则所述率失真代价对应的模式，为对当前宏块进行编码的最佳模式，否则，进入步骤4；

步骤4：在后选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，

将在后选模式集合中计算出的最小的率失真代价与步骤2或步骤3中计算出的率失真代价进行比较，将其中的最小值对应的编码模式作为对当前宏块进行编码的最佳模式。

其中，所述当前帧的相邻帧为按照编码顺序已编码的与所述当前帧相邻的前一帧，所述当前宏块的对应宏块为所述相邻帧中与当前宏块位置相同的宏块。

进一步的，所述当前宏块的后选模式集合包括所有帧内模式；

依照统计规律，根据所述对应宏块的编码模式确定所述当前宏块首选模式集合和次选模式集合，其中，

对应宏块的编码模式为Skip编码模式，则所述当前宏块的首选模式集合包括Skip模式，次选模式集合包括Inter 16×16、Inter 16×8、Inter 8×16、Inter 8×8模式；

对应宏块的编码模式为Inter 16×16编码模式，则所述当前宏块的首选模式集合包括Skip、Inter 16×16模式，次选模式集合包括Inter 16×8、Inter 8×16、Inter8×8模式；

对应宏块的编码模式为Inter 16×8编码模式，则所述当前宏块的首选模式集合包括Skip、Inter 16×16、Inter 16×8模式，次选模式集合包括Inter 8×16、Inter 8×8模式；

对应宏块的编码模式为Inter 8×16编码模式，则所述当前宏块的首选模式集合包括Skip、Inter 16×16、Inter 8×16模式，次选模式集合包括Inter 16×8、Inter 8×8模式；

对应宏块的编码模式为Inter 8×8编码模式或帧内编码模式，则所述当前宏块的首选模式集合包括所有帧间模式，次选模式集合为空。

一种AVS快速模式选择装置，包括：

候选模式集合划分单元，用于根据当前帧的相邻帧中当前宏块的对应宏块的编码模式，将所述当前宏块的侯选模式划分包括首选模式集合、次选模式集合和后选模式集合的集合；

最佳编码模式选择单元，用于依次在所述首选模式集合、次选模式集合和候选模式集合中进行搜索，选择对当前宏块进行编码的最佳模式。

其中，所述最佳编码模式选择单元包括搜索模块，该搜索模块用于执行下述步骤：

步骤1：在首选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3，否则，进入步骤2；

步骤2：在次选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3，否则，进入步骤4；

步骤3：比较所述小于阈值T1的率失真代价是否小于阈值T2，若是，则所述率失真代价对应的模式，为对当前宏块进行编码的最佳模式，否则，进入步骤4；

步骤4：在后选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，

将在后选模式集合中计算出的最小的率失真代价与步骤2或步骤3中计算出的率失真代价进行比较，将其中的最小值对应的编码模式作为对当前宏块进行编码的最佳模式。

本发明实施例提供的技术方案，考虑到图像序列中相邻图像之间的时域相关性，当前帧各宏块的候选模式的集合自适应地发生变化，提高了对不同信号特性的图像序列进行模式选择的自适应性，解决现有技术中存在的问题，能够在保证编码率失真性能的同时，显著提高编码速度，尤其对于存在剧烈运动和复杂纹理的图像序列，本发明实施例也能获得较佳的编码效果。

附图说明

图1为本发明实施例一提供的AVS快速模式选择方法原理示意图；

图2为本发明实施例一提供的AVS快速模式选择方法流程图；

图3为本发明实施例二提供的AVS快速模式选择装置结构示意图。

具体实施方式

为了更清楚地说明本发明实施例的技术方案，下面将结合附图对本发明的实施例进行详细的介绍，下面的描述仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些实施例获得本发明的其他的实施方式。

本发明实施例提供的技术方案，主要基于视频序列本身的特性，对于不同信号特性的序列(包括存在剧烈运动和复杂纹理的序列)，都能够在保证编码率失真性能的前提下，显著提高编码速度。下面对本发明实施例一中的关键技术进行说明。

一种AVS快速模式选择方法，如图1所示，所述方法包括：

步骤111：根据当前帧的相邻帧中当前宏块的对应宏块的编码模式，将所述当前宏块的侯选模式划分包括首选模式集合、次选模式集合和后选模式集合的集合；

步骤112：依次在所述首选模式集合、次选模式集合和候选模式集合中进行搜索，选择对当前宏块进行编码的最佳模式。

首先，本发明实施例一基于统计规律，根据当前宏块的对应宏块的最佳编码模式，将当前宏块所有可能选择的候选模式动态地分为三个集合，包括首选模式集合、次选模式集合和后选模式集合，分别用集合S1、S2、S3表示，根据当前宏块的对应宏块的编码模式，优先在集合S1中进行搜索，其中，S1主要包括首选的帧间模式，S2主要包括次选的帧间模式，S3包括所有的帧内模式。

由于视频序列中两个相邻图像之间存在很强的相关性，特别是对于运动不太剧烈的序列，当前宏块最佳编码模式必然与其在前一相邻图像上对应位置宏块(后面统称为对应宏块)的最佳编码模式有很大的关系。在本发明实施例中主要以P帧为例进行说明，但相关描述可以适用与B帧的情况。

优选的，在本发明实施例一中所述当前帧的相邻帧为按照编码顺序已编码的与所述当前帧相邻的前一帧，所述当前宏块的对应宏块为所述相邻帧中与当前宏块位置相同的宏块。

但不限于此，所述相邻帧可以为当前帧的相邻的已编码的若干帧，例如，前两帧、前四帧等；所述对应宏块可以为，相邻帧中与当前宏块位置相同的宏块的相邻宏块。

下面结合统计结果，说明本发明这种集合划分方式的优点。表1为当前宏块和其对应宏块编码模式相同的概率统计表。

表1

可以看出，对应宏块为Skip模式的情况下，当前宏块模式为Skip模式的概率达到57.42％，对应宏块为16x16模式的情况下，当前宏块模式为Skip或者16x16的概率达到了62.14％，对应宏块模式为Inter16x8和Inter8x16的情况下也有类似的结果。因此，在本发明实施例一中，优选的，对应宏块在不同编码模式下，当前宏块的首选模式集合S1的选取如表2所示，根据对应宏块的编码模式不同分为5种情况。

表2集合S1中的优选模式

 

	Case0	Case1	Case2	Case3	Case4
						对应宏块的编码模式	Skip	16x16	16x8	8x16	8x8或intra
集合S1	Skip	Skip16x16	Skip16x1616x8	Skip16x168x16	所有帧间模式

当前宏块的次选模式集合S2包括的候选模式，为当前宏块对应的集合S1之外其余的帧间模式。即当对应宏块的编码模式分别为Skip、Inter 16×16、Inter16×8、Inter 8×16、Inter 8×8时，当前宏块的首选模式集合和次选模式集合中包括的候选模式分别为：

对应宏块编码模式为Skip编码模式，当前宏块的首选模式集合包括Skip模式，次选模式集合包括Inter 16×16、Inter 16×8、Inter 8×16、Inter 8×8模式；

对应宏块编码模式为Inter 16×16编码模式，当前宏块的首选模式集合包括Skip、Inter 16×16模式，次选模式集合包括Inter 16×8、Inter 8×16、Inter 8×8模式；

对应宏块编码模式为Inter 16×8编码模式，当前宏块的首选模式集合包括Skip、Inter 16×16、Inter 16×8模式，次选模式集合包括Inter 8×16、Inter 8×8模式；

对应宏块编码模式为Inter 8×16编码模式，当前宏块的首选模式集合包括Skip、Inter 16×16、Inter 8×16模式，次选模式集合包括Inter 16×8、Inter 8×8模式；

对应宏块编码模式为Inter 8×8编码模式或帧内编码模式，当前宏块的首选模式集合包括所有帧间模式，次选模式集合为空。

不论当前宏块对应的模式为何种模式，当前宏块的后选模式集合包括所有的帧内模式。

上述给出了对应宏块为当前帧的前一帧中，与当前宏块位置相同的宏块的情况，但不限于此，当作为模式选择参考的相邻帧包括多个帧，对应宏块为多个的情况下，可对位置相同的宏块的编码模式做出统计，做出编码模式直方图，将直方图最大的幅值作为该宏块的最佳编码模式，用所有对应宏块的最佳编码模式确定当前宏块的最佳编码模式。

确定了首选模式集合、次选模式集合和后选模式集合中的候选模式之后，分别依次在S1、S2、S3中搜索当前宏块的最佳编码模式，下面结合图2说明该具体搜索方法。

步骤112：依次在所述首选模式集合、次选模式集合和候选模式集合中进行搜索，选择对当前宏块进行编码的最佳模式，如图2所示，具体可以包括：

步骤1)：在首选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3)，否则，进入步骤2)；

以P帧为例进行说明，若当前帧为图像组(Group of Pictures，GOP)中的第一个P图像，不采用该帧前面的I图像或B图像对当前宏块的编码模式进行预测，对当前宏块作所有编码模式下的预测并计算率失真代价，将率失真代价最小的编码模式作为当前宏块的最佳编码模式。

若当前的P帧不为图像组中的第一个P图像，首先在当前宏块的首选模式集合S1中，按顺序对每一种模式进行运动估计，计算该种模式下当前宏块的率失真代价，若该模式下的率失真代价小于阈值T1，则结束步骤1)中的搜索过程，进入步骤3)，否则，进入步骤2)；

由于对于在时域上连续的两个相同位置的宏块来说，如果运动强度增加，则宏块的率失真代价J也增加，J在一定程度上反映了宏块的运动强度。如果宏块的率失真代价J小于其在前一相邻图像上对应宏块在最佳模式下的率失真代价，则说明宏块的运动强度比其对应宏块要低，那么宏块最佳模式为集合S1中模式的概率非常高。因此，在本发明实施例中，所述阈值T1取当前宏块的对应宏块在最佳模式下的率失真代价值。

其中，Inter8x8模式适合细节较多，运动较复杂的图像区域。相比于大的块模式，该模式可以获得更好的帧间预测精度，同时也需要更多的运动搜索过程，消耗更多的时间。如果能提前判断出宏块不需要进一步细致的块划分，从而在运动估计和模式选择的过程中直接跳过对该模式的遍历，则可以有效减少编码时间。

由于宏块在各模式下率失真代价增加或减少的趋势应该和模式划分的趋势保持一致。如果宏块在模式Inter 16x16下的率失真代价同时小于其在模式Inter16x8和Inter 8x16下的率失真代价，则说明宏块在水平方向和垂直方向上都没有进一步进行块划分的必要了。这种情况下，在本发明实施例一中便跳过对Inter8x8模式的运动估计和率失真代价的计算，直接进行下一个模式的处理。

步骤2)：在次选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3)，否则，进入步骤4)；

在当前宏块的次选模式集合S2中，按顺序对每一种模式进行运动估计，计算该种模式下当前宏块的率失真代价，若该模式下的率失真代价小于阈值T1，则结束步骤2)中的搜索过程，进入步骤3)，否则，进入步骤4)。

其中，对满足条件的Inter 8x8模式也采用了跳过的处理方式，具体方法可参见步骤1)。

步骤3)：比较所述小于阈值T1的率失真代价是否小于阈值T2，若是，则所述率失真代价对应的模式，为对当前宏块进行编码的最佳模式，否则，进入步骤4)；

对于帧间图像上的宏块来说，选择帧内模式的几率很低，一般发生在场景切换或运动剧烈的场合。而帧内模式的计算量却是非常大的，要对每种帧内预测模式组合计算率失真代价，选择出最佳帧内预测模式组合，再和最佳帧间模式比较。

为了避免不必要的帧内预测，本发明采取了有选择跳过帧内模式的机制，对那些在帧间模式选择过程中符合提前中止条件，提前结束帧间模式选择的宏块有选择地进行帧内模式的预测，即如果宏块在最佳帧间模式下的率失真代价小于阈值T2，则跳过对帧内模式的处理，结束模式选择，最佳帧间模式就是宏块最佳编码模式。

其中，所述阈值T2为一个不断更新的动态参数，优选的，在本发明实施例一中，所述阈值T2取当前宏块之前所有帧内编码宏块率失真代价的平均值，初始值为第一个I图像上所有宏块率失真代价的平均值。

当一个宏块的编码方式为帧内模式时，需要对阈值T2进行更新。阈值T2随着帧内宏块的产生不断更新，更新的过程可以如式(1)所示

$T2\′=\frac{T+T2\×n}{n+1}---\left(1\right)$

其中，J为当前采用帧内编码宏块的率失真代价，n为之前帧内宏块的个数，T2′为更新后的阈值T2。遇到I图像，T2和n复位为0。

步骤4)：在后选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，

将在后选模式集合中计算出的最小的率失真代价与步骤2)或步骤3)中计算出的率失真代价进行比较，将其中的最小值对应的编码模式作为对当前宏块进行编码的最佳模式。

下面结合实验结果进一步说明本发明实施例提供的技术方案的有益效果。

本发明实施例采用AVS1-P2的参考模型rm52j作为快速算法的测试平台，实验参数设置如下：(1)6个典型的不同运动特性和纹理特性的cif格式的测试序列(football，tempete，foreman，mobile，new，paris)，帧率30f/s，其中，football和tempete编码250帧，其它序列编码300帧；(2)编码结构为IPPP，每秒***两个I帧；(3)参考图像为2帧；(4)使用Hadamard变换；(5)使用率失真优化；(6)使用环路滤波；(7)快速运动估计，搜索范围为32个像素点；(8)量化参数取28，32，36和40。

表3列出了本发明实施例提出的快速模式选择算法和参考模型rm52j中的算法编码性能的对比结果。ΔPSNR、ΔBitRate、ΔTime分别表示本发明实施例提出的快速模式选择算法相对于rm52j中的算法峰值信噪比的变化、码率变化的百分比和总编码时间变化的百分比，其中，Y、U、V分别表示亮度分量和两个色度分量的峰值信噪比的变化。AVG表示同一序列在不同量化参数下的平均值，Average表示所有测试序列的平均值，正数表示增加，负数表示减少。

表3编码性能对比表

从实验数据可以看出，本发明实施例提供的快速模式选择方法在平均亮度信噪比降低0.04dB以内，平均色度信噪比几乎不变，平均输出比特率增加0.6％以内的情况下，编码速度平均提高了34.8％。

从表3中可以看出，对不同运动特性和纹理特性的序列，采用快速模式选择方法在编码性能上都有显著改善。对news和paris这种背景相对固定的序列，快速模式选择的精度最高，编码速度提高幅度最大，低码率下达到了41％以上；对mobile和tempete这些纹理丰富并且前景和背景都有复杂运动的序列，编码速度提高幅度稍小，但也在32％以上。对于分别有整体剧烈运动和头部剧烈运动并且存在场景切换的football和foreman，快速算法的亮度信噪比降低相对较明显。

由上所述，本发明实施例一提供的AVS快速模式选择算法，利用了时域相邻宏块的相关性，即根据当前宏块的对应宏块的最佳模式来预测当前宏块可能性较大的模式。另外，采用了有选择地进行Inter8x8模式和帧内模式预测的处理方式，本发明实施例一提供的技术方案，考虑到图像序列中相邻图像之间的时域相关性，当前帧各宏块的候选模式的集合自适应地发生变化，提高了对不同信号特性的图像序列进行模式选择的自适应性，解决现有技术中存在的问题，能够在保证编码率失真性能的同时，显著提高编码速度，尤其对于存在剧烈运动和复杂纹理的图像序列，本发明实施例也能获得较佳的编码效果。

本发明实施例二提供了一种AVS快速模式选择装置，如图3所示，该装置包括：

候选模式集合划分单元31，用于根据当前帧的相邻帧中当前宏块的对应宏块的编码模式，把所述当前宏块的侯选模式划分为包括首选模式集合、次选模式集合和后选模式集合的集合；

最佳编码模式选择单元32，用于依次在所述首选模式集合、次选模式集合和候选模式集合中进行搜索，选择对当前宏块进行编码的最佳模式。

其中，候选模式集合划分单元31基于统计规律，根据当前宏块的对应宏块的最佳编码模式，将当前宏块所有可能选择的候选模式动态地分为三个集合，包括首选模式集合、次选模式集合和后选模式集合，当对应宏块的编码模式分别为Skip、Inter 16×16、Inter 16×8、Inter 8×16、Inter 8×8时，当前宏块的首选模式集合和次选模式集合中包括的候选模式分别为：

对应宏块编码模式为Skip编码模式，当前宏块的首选模式集合包括Skip模式，次选模式集合包括Inter 16×16、Inter 16×8、Inter 8×16、Inter 8×8模式；

对应宏块编码模式为Inter 16×16编码模式，当前宏块的首选模式集合包括Skip、Inter 16×16模式，次选模式集合包括Inter 16×8、Inter 8×16、Inter 8×8模式；

对应宏块编码模式为Inter 16×8编码模式，当前宏块的首选模式集合包括Skip、Inter 16×16、Inter 16×8模式，次选模式集合包括Inter 8×16、Inter 8×8模式；

对应宏块编码模式为Inter 8×16编码模式，当前宏块的首选模式集合包括Skip、Inter 16×16、Inter 8×16模式，次选模式集合包括Inter 16×8、Inter 8×8模式；

对应宏块编码模式为Inter 8×8编码模式或帧内编码模式，当前宏块的首选模式集合包括所有帧间模式，次选模式集合为空。

不论当前宏块对应的模式为何种模式，当前宏块的后选模式集合包括所有的帧内模式。

其中，所述最佳编码模式选择单元32包括搜索模块，该搜索模块用于执行下述步骤：

步骤1：在首选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3，否则，进入步骤2；

步骤2：在次选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3，否则，进入步骤4；

步骤3：比较所述小于阈值T1的率失真代价是否小于阈值T2，若是，则所述率失真代价对应的模式，为对当前宏块进行编码的最佳模式，否则，进入步骤4；

步骤4：在后选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，

将在后选模式集合中计算出的最小的率失真代价与步骤2或步骤3中计算出的率失真代价进行比较，将其中的最小值对应的编码模式作为对当前宏块进行编码的最佳模式。

本发明装置实施例中各功能模块的具体工作方式可参见本发明的方法实施例。

本发明实施例二提供的技术方案，考虑到图像序列中相邻图像之间的时域相关性，当前帧各宏块的候选模式的集合自适应地发生变化，提高了对不同信号特性的图像序列进行模式选择的自适应性，解决现有技术中存在的问题，能够在保证编码率失真性能的同时，显著提高编码速度，尤其对于存在剧烈运动和复杂纹理的图像序列，本发明实施例也能获得较佳的编码效果。

本领域普通技术人员可以理解实现上述实施例中的全部或部分步骤，可以通过程序指令相关硬件完成。所述实施例对应的软件可以存储在一个计算机可存储读取的介质中。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims (10)

1、一种AVS快速模式选择方法，其特征在于，所述方法包括：

根据当前帧的相邻帧中当前宏块的对应宏块的编码模式，将所述当前宏块的侯选模式划分为包括首选模式集合、次选模式集合和后选模式集合的集合；

依次在所述首选模式集合、次选模式集合和候选模式集合中进行搜索，选择对当前宏块进行编码的最佳模式。

2、根据权利要求1所述的AVS快速模式选择方法，其特征在于，所述当前帧的相邻帧为按照编码顺序已编码的与所述当前帧相邻的前一帧，所述当前宏块的对应宏块为所述相邻帧中与当前宏块位置相同的宏块。

3、根据权利要求1所述的AVS快速模式选择方法，其特征在于，所述根据当前帧的相邻帧中当前宏块的对应宏块的编码模式，将所述当前宏块的侯选模式划分为包括首选模式集合、次选模式集合和后选模式集合的集合包括：

所述当前宏块的后选模式集合包括所有帧内模式；

依照统计规律，根据所述对应宏块的编码模式确定所述当前宏块首选模式集合和次选模式集合，其中，

对应宏块的编码模式为Skip编码模式，则所述当前宏块的首选模式集合包括Skip模式，次选模式集合包括Inter 16×16、Inter 16×8、Inter 8×16、Inter 8×8模式；

对应宏块的编码模式为Inter 16×16编码模式，则所述当前宏块的首选模式集合包括Skip、Inter 16×16模式，次选模式集合包括Inter 16×8、Inter 8×16、Inter8×8模式；

对应宏块的编码模式为Inter 16×8编码模式，则所述当前宏块的首选模式集合包括Skip、Inter 16×16、Inter 16×8模式，次选模式集合包括Inter 8×16、Inter 8×8模式；

对应宏块的编码模式为Inter 8×16编码模式，则所述当前宏块的首选模式集合包括Skip、Inter 16×16、Inter 8×16模式，次选模式集合包括Inter 16×8、Inter 8×8模式；

对应宏块的编码模式为Inter 8×8编码模式或帧内编码模式，则所述当前宏块的首选模式集合包括所有帧间模式，次选模式集合为空。

4、根据权利要求3所述的AVS快速模式选择方法，其特征在于，所述依次在所述首选模式集合、次选模式集合和候选模式集合中进行搜索，选择对当前宏块进行编码的最佳模式具体包括如下步骤：

步骤1：在首选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3，否则，进入步骤2；

步骤2：在次选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3，否则，进入步骤4；

步骤3：比较所述小于阈值T1的率失真代价是否小于阈值T2，若是，则所述率失真代价对应的模式，为对当前宏块进行编码的最佳模式，否则，进入步骤4；

步骤4：在后选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，将在后选模式集合中计算出的最小的率失真代价与步骤2或步骤3中计算出的率失真代价进行比较，将其中的最小值对应的编码模式作为对当前宏块进行编码的最佳模式。

5、根据权利要求4所述的AVS快速模式选择方法，其特征在于，在所述步骤1至步骤3中，在计算Inter 8×8编码模式下当前宏块的率失真代价之前所述方法还包括：

判断当前宏块在Inter 16×16模式下的率失真代价是否小于其在Inter 16×8模式和Inter 8×16模式下的率失真代价，若是，跳过Inter 8×8编码模式下的预测。

6、根据权利要求5所述的AVS快速模式选择方法，其特征在于，包括：

所述阈值T1为所述对应宏块在其编码模式下的率失真代价值。

7、根据权利要求5所述的AVS快速模式选择方法，其特征在于，包括：

所述阈值T2为当前宏块所在的图像序列组中，按照帧内模式已编码的所有宏块的率失真代价平均值，所述阈值T2为动态参数，所述阈值T2的动态更新方式为：

$T2\′=\frac{J+T2\×n}{n+1},$

式中，T2为更新前的阈值，T2′为更新后的阈值T2，J为当前采用帧内编码宏块的率失真代价，n为之前帧内宏块的个数。

8、根据权利要求5所述的AVS快速模式选择方法，其特征在于，当前帧为图像组中的第一个P帧，该方法还包括：

通过对所述第一个P帧中的宏块作所有编码模式下的预测，选择该帧中宏块的最佳编码模式。

9、一种AVS快速模式选择装置，其特征在于，包括：

候选模式集合划分单元，用于根据当前帧的相邻帧中当前宏块的对应宏块的编码模式，将所述当前宏块的侯选模式划分为包括首选模式集合、次选模式集合和后选模式集合的集合；

最佳编码模式选择单元，用于依次在所述首选模式集合、次选模式集合和候选模式集合中进行搜索，选择对当前宏块进行编码的最佳模式。

10、根据权利要求9所述的AVS快速模式选择装置，其特征在于，所述最佳编码模式选择单元包括搜索模块，该搜索模块用于执行下述步骤：

步骤1：在首选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3，否则，进入步骤2；

步骤2：在次选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，若所述率失真代价小于阈值T1，进入步骤3，否则，进入步骤4；

步骤3：比较所述小于阈值T1的率失真代价是否小于阈值T2，若是，则所述率失真代价对应的模式，为对当前宏块进行编码的最佳模式，否则，进入步骤4；

步骤4：在后选模式集合中，按顺序计算每种模式下当前宏块的率失真代价，将在后选模式集合中计算出的最小的率失真代价与步骤2或步骤3中计算出的率失真代价进行比较，将其中的最小值对应的编码模式作为对当前宏块进行编码的最佳模式。

Images