CN102752596A - 一种率失真优化方法 - Google Patents

Abstract

本发明涉及一种率失真优化方法，其中包括步骤：A、采用第一计算指标进行率失真计算，得到第一组失真/码率值；B、采用第二计算指标进行率失真计算，得到第二组失真/码率值；C、采用第一率失真优化方式，获取第一组失真/码率值中对应最小编码代价的失真/码率值；D、根据最小编码代价的失真/码率值，获得多个候补码率值及相应的编码代价；E、采用第二率失真优化方式，获取与候补码率值对应的第二组失真/码率值的补偿代价；F、根据编码代价以及所述补偿代价，确定综合代价的最小值，进而获取最佳编码模式。本发明的率失真优化方法通过综合两种率失真优化指标，使得率失真优化结果最佳。

Description

一种率失真优化方法

技术领域

本发明涉及图像/视频编解码领域，更具体地说，涉及一种率失真优化方法。

背景技术

以国际标准H264为参考，对基本编码单元进行编码时，可以选择不同的编码模式。编码模式的选择包括对帧内预测方式或帧间预测方式的选择，也可以包括对基本编码单元的分割方式（例INTRA-4x4、INTRA-8x8、INTRA-16x16、SKIP、DIRECT、INTER-16x16、INTER-16x8、INTER-8x16、INTER-8x8、对INTER-8x8可以进一步分为INTER-8x8、INTER-8x4、INTER-4x8、INTER-4x4）的选择，还可以包括对预测块位置（例Intra_4x4_Vertical、Intra_4x4_Horizontal、Intra_4x4_Diagonal_Down_Left、Intra_4x4_Diagonal_Down_Right、Intra_4x4_Vertical_Right、Intra_4x4_Horizontal_Down、Intra_4x4_Vertical_Left、Intra_4x4_Horizontal_Up、Intra_4x4_DC）的选择。编码模式的确定是通过率失真优化实现的，其中率失真优化是对以下代价函数J求最小值的过程，

J(s,c,mode|QP)=D(s,c,mode|QP)+λ_modeR(s,c,mode|QP)    （1）

其中D是失真值，R是码率值，s和c分别表示原图和通过编解码处理的再建图像相应的基本编码单元，mode表示基本编码单元的可选择编码模式，QP为量化参数，λ_mode是用来折衷失真值和码率值的拉格朗日参数。

率失真优化是在量化参数QP已定的条件下，确定能使上述代价函数J最小的mode。在H264标准中，λ_mode是由量化参数QP决定的，即有

λ_mode=0.85×2^(QP-12)/3    （2）

上述率失真优化是在指定λ_mode的情况下确定最优的编码模式mode。但是，上述λ_mode的确定方式只是用MSE（mean squared error，均方误差）测定失真时的一个统计近似结果。而MSE并不是总能正确地表达失真，反而会经常出现与人眼的失真感觉不一致的情况。比如针对一些MSE值相近的失真图像，人眼的失真感觉可能会有很大不同。所以用MSE测定失真的方法并不够完善，因此会导致上述率失真优化的结果也并非最佳。

故，有必要提供一种率失真优化方法，以解决现有技术所存在的问题。

发明内容

本发明要解决的技术问题在于，针对现有技术中的率失真优化方法不能正确的表达失真，造成率失真优化的结果不佳的缺陷，提供一种通过综合两种率失真优化指标，使得率失真优化结果最佳的率失真优化方法。

本发明解决其技术问题所采用的技术方案是：本发明涉及一种率失真优化方法，其包括步骤：

A、采用第一计算指标进行率失真计算，得到第一组失真/码率值；

B、采用第二计算指标进行率失真计算，得到第二组失真/码率值；

C、采用第一率失真优化方式，获取所述第一组失真/码率值中对应最小编码代价的失真/码率值；

D、根据所述最小编码代价的失真/码率值，获得多个候补码率值及相应的编码代价；

E、采用第二率失真优化方式，获取与所述候补码率值对应的第二组失真/码率值的补偿代价；

F、根据所述编码代价以及所述补偿代价，确定综合代价的最小值，进而获取最佳编码模式。

在本发明所述的率失真优化方法中，所述第一计算指标为对应于均方误差的差值平方和指标，具体为：

$\mathrm{SSD}=\underset{(x,y)\∈A}{\mathrm{\Σ}}{(s(x,y)-c(x,y))}^2,$

其中SSD为差值平方和指标，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，x、y表示所述基本编码单元内的像素位置，A表示所述基本编码单元的像素范围。

在本发明所述的率失真优化方法中，所述第二计算指标为结构相似指标，具体为：

SSIM(s,c)=L(s,c)·G(s.c)·H(s,c)，

$L(s,c)=\frac{2{\mathrm{\μ}}_s{\mathrm{\μ}}_c+C_1}{{\mathrm{\μ}}_s^2+{\mathrm{\μ}}_c^2+C_1},$

$G(s,c)=\frac{2{\mathrm{\σ}}_s{\mathrm{\σ}}_c+C_2}{{\mathrm{\σ}}_s^2+{\mathrm{\σ}}_c^2+C_2},$

$H(s,c)=\frac{{\mathrm{\σ}}_{\mathrm{sc}}+C_3}{{\mathrm{\σ}}_s{\mathrm{\σ}}_c+C_3},$

其中SSIM为结构相似指标，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，L表示亮度相似度，G表示对比相似度，H表示结构相似度；μ_s为s内像素的平均值，μ_c为c内像素的平均值，

为s内像素的方差值，为c内像素的方差值，σ_sc为s内像素和c内对应像素的协方差值，C₁、C₂、C₃为常数。

在本发明所述的率失真优化方法中，所述步骤C具体为：通过下式获取所述第一组失真/码率值中对应的编码代价J_i ¹，再根据所述编码代价J_i ¹确定对应最小编码代价的失真/码率值，

J_i ¹(s,c,mode|QP)=D_i ¹(s,c,mode|QP)+λ₁R_i(s,c,mode|QP)，

其中J_i ¹为所述编码代价，D_i ¹为所述第一组失真值，R_i为所述码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，mode表示所述基本编码单元的可选择编码模式，QP为量化参数，λ₁是用来折衷所述第一组失真值和所述码率值的拉格朗日参数，i为正整数；其中

λ₁=0.85×2^(QP-12)/3。

在本发明所述的率失真优化方法中，在所述步骤D中，将所述最小编码代价的码率值，以及与所述最小编码代价的码率值相邻的至少两个码率值作为所述候补码率值。

在本发明所述的率失真优化方法中，所述步骤E具体为：通过下式获取与所述候补码率值对应的第二组失真/码率值的补偿代价，

$J_i^2=D_i^2+k_i\·R_i,$

其中

为所述第二组失真值，R_i为所述码率值，

为所述补偿代价，k_i为所述第二组失真/码率值所构成的曲线在相应各点的斜率，i为正整数。

在本发明所述的率失真优化方法中，所述步骤F具体为：通过下式获取所述综合代价J_i，并根据所述综合代价J_i的最小值确定所述最佳编码模式，

$J_i=w_1\·J_i^1+w_2\·J_i^2,$

其中为所述编码代价，

为所述补偿代价，w₁、w₂为加权系数，i为正整数。

在本发明所述的率失真优化方法中，如对帧间预测的运动矢量进行估计时，所述步骤C具体为：通过下式获取所述第一组失真/码率值中对应的编码代价J_i ¹，再根据所述编码代价J_i ¹确定对应最小编码代价的失真/码率值，

J_i ¹(s,c,mv|QP)=D_i ¹(s,c,mv|QP)+λ_motionR_i(s,c,mv|QP)，

其中

为所述编码代价，D_i ¹为所述第一组失真值，R_i为所述码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，mv表示帧间预测时的运动矢量，QP为量化参数，λ_motion是求运动矢量时的拉格朗日参数，i为正整数；其中

λ_motion=0.85×2^(QP-12)/3或 ${\mathrm{\λ}}_{\mathrm{motion}}=\sqrt{0.85\×2^{(\mathrm{QP}-12)/3}}.$

在本发明所述的率失真优化方法中，所述率失真优化方法还包括步骤：根据所述综合代价的最小值，获取最佳拉格朗日参数，根据所述最佳拉格朗日参数，获取对帧间预测的运动矢量进行估计时的拉格朗日参数。

在本发明所述的率失真优化方法中，根据下式获取所述最佳拉格朗日参数，

λ^* _mode=(J-D)/R，

其中J为最小综合代价，D为所述最佳编码模式的失真值，R为所述最佳编码模式的码率值，λ^* _mode为所述最佳拉格朗日参数，

通过下式获取所述对帧间预测的运动矢量进行估计时的拉格朗日参数，

λ^* _motion=λ^* _mode或 ${{\mathrm{\λ}}^{*}}_{\mathrm{motion}}=\sqrt{{{\mathrm{\λ}}^{*}}_{\mathrm{mode}}},$

其中λ^* _motion为所述对帧间预测的运动矢量进行估计时的拉格朗日参数。

实施本发明的率失真优化方法，具有以下有益效果:通过综合两种率失真优化指标，使得率失真优化结果最佳。避免了现有技术的率失真优化方法不能正确的表达失真，造成率失真优化的结果不佳的技术问题。

附图说明

下面将结合附图及实施例对本发明作进一步说明，附图中：

图1为本发明的率失真优化方法的第一优选实施例的流程图；

图2为本发明的率失真优化方法的第一优选实施例的具体流程框图；

图3为本发明的率失真优化方法中获取候选码率值的示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

请参照图1，图1为本发明的率失真优化方法的第一优选实施例的流程图。该率失真优化方法开始于：

步骤101，采用第一计算指标进行率失真计算，得到第一组失真/码率值；

步骤102，采用第二计算指标进行率失真计算，得到第二组失真/码率值；

步骤103，采用第一率失真优化方式，获取第一组失真/码率值中对应最小编码代价的失真/码率值，

步骤104，根据最小编码代价的失真/码率值，获得多个候补码率值及相应的编码代价；

步骤105，采用第二率失真优化方式，获取与候补码率值对应的第二组失真/码率值的补偿代价；

步骤106，根据所述编码代价以及所述补偿代价，确定综合代价的最小值，进而获取最佳编码模式。

请参照图2，图2为本发明的率失真优化方法的第一优选实施例的具体流程框图。下面通过图2详细的说明本发明的第一率失真优化方法的具体实施过程。

首先，在步骤101之前，输入编码基本单元至编码装置，然后对该编码基本单元的所有编码模式逐一进行选择，针对每一编码模式，完成相应的编码和解码处理，得到编码基本单元对应的再建图像，编码和解码的处理方法可以依据各种视频编码标准进行。比如，编码处理可以依次执行以下各步骤：确定预测块、残差计算、DCT变换（离散余弦变换，Discrete Cosine Transform）、量化、熵编码。解码处理则是对上述各步骤的反向操作。本发明的率失真优化方法对该编码和解码处理的具体方法不做限制。

随后来到步骤101，在步骤101中，采用第一计算指标对原图的基本编码单元和通过编解码处理的再建图像相应的基本编码单元，进行率失真计算，得到第一组失真/码率值。在本实施例中，第一计算指标为对应MSE（均方误差，mean squared error）的SSD（差值平方和，sum of squared difference）指标。该率失真计算具体为：

$\mathrm{SSD}=\underset{(x,y)\∈A}{\mathrm{\Σ}}{(s(x,y)-c(x,y))}^2,$

其中SSD为差值平方和指标，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，x、y表示所述基本编码单元内的各个像素的位置，A表示基本编码单元的像素范围。

通过上式的计算，根据每个编码模式对应的s和c，得到相应的码率值R_i和用SSD指标表达的失真值D_i ¹，这样可以得到第一组失真/码率值，记为（D_i ¹，R_i），其中i为正整数，i的最大值对应该基本编码单元的编码模式的个数。

随后来到步骤102，在步骤102中，采用第二计算指标对原图的基本编码单元和通过编解码处理的再建图像相应的基本编码单元，进行率失真计算，得到第二组失真/码率值。在本实施例中，第二计算指标为SSIM（结构相似，structural similarity）指标。该率失真计算具体为：

SSIM(s,c)=L(s,c)·G(s.c)·H(s,c)，

$L(s,c)=\frac{2{\mathrm{\μ}}_s{\mathrm{\μ}}_c+C_1}{{\mathrm{\μ}}_s^2+{\mathrm{\μ}}_c^2+C_1},$

$G(s,c)=\frac{2{\mathrm{\σ}}_s{\mathrm{\σ}}_c+C_2}{{\mathrm{\σ}}_s^2+{\mathrm{\σ}}_c^2+C_2},$

$H(s,c)=\frac{{\mathrm{\σ}}_{\mathrm{sc}}+C_3}{{\mathrm{\σ}}_s{\mathrm{\σ}}_c+C_3},$

其中SSIM为结构相似指标，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，L表示亮度相似度，G表示对比相似度，H表示结构相似度；μ_s为s内像素的平均值，μ_c为c内像素的平均值，

为s内像素的方差值，

为c内像素的方差值，σ_sc为s内像素和c内对应像素的协方差值，C₁、C₂、C₃为常数，C₁、C₂、C₃的值可以通过实验得到。

通过上式的计算，根据每个编码模式对应的s和c，可以得到相应的码率值R_i和用SSIM指标表达的失真值

这样可以得到第二组失真/码率值，记为

其中i为正整数，i的最大值对应该基本编码单元的编码模式的个数。

因为采用SSD指标计算和SSIM指标计算只是失真值的不同计算方法，而对码率值R_i并无影响，所以第一组失真/码率值（D_i ¹,R_i）和第二组失真/码率值

中的码率值R_i相同。

随后来到步骤103，在步骤103中，采用第一率失真优化方式，获取第一组失真/码率值中对应最小编码代价的失真/码率值。具体为，通过下式获取第一组失真/码率值中对应的编码代价J_i ¹，再根据编码代价J_i ¹确定对应最小编码代价的失真/码率值，

J_i ¹(s,c,mode|QP)=D_i ¹(s,c,mode|QP)+λ₁R_i(s,c,mode|QP)，

其中J_i ¹为编码代价，D_i ¹为第一组失真值，R_i为码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，mode表示所述基本编码单元的可选择编码模式，QP为量化参数，λ₁是用来折衷所述第一组失真值和所述码率值的拉格朗日参数（即第一方式参数），i为正整数；其中

λ₁=0.85×2^(QP-12)/3。

随后来到步骤104，在步骤104中，根据最小编码代价的失真/码率值，获得多个候补码率值及相应的编码代价。具体如图3所示，图3为本发明的率失真优化方法中获取候选码率值的示意图。图3中横坐标为码率值R_i，纵坐标为失真值D_i，其中包括第一组失真/码率值（D_i ¹,R_i）的拟合曲线以及第二组失真/码率值

的拟合曲线。根据第一组失真/码率值（D_i ¹,R_i）得到的最小编码代价的码率值，以及与该最小编码代价的码率值相邻的至少两个码率值作为候补码率值。如图3中的

的编码代价最小，则将码率值R₃，以及与码率值R₃相邻的码率值R₂和码率值R₄作为候选码率值，候选码率值R₂对应的编码代价为J₂ ¹，候选码率值R₃对应的编码代价为J₃ ¹，候选码率值R₄对应的编码代价为J₄ ¹。当然这里也可以选定更多的候选码率值，如将与码率值R₃相邻的四点码率值R₁、码率值R₂、码率值R₄以及码率值R₅均作为候选码率值。另一方面，如果R₃的左边或右边没有对应于编码模式的相邻码率值时，则只选择R₃和相应单边的相邻码率值作为候选码率值。

随后来到步骤105，在步骤105中，采用第二率失真优化方式，获取与候补码率值对应的第二组失真/码率值的补偿代价。

以图3中的数据点为例，码率值从小到大排序依次为R₁、R₂、R₃、R₄以及R₅，这样第二组失真/码率值所构成的曲线在候选码率值R₂对应的点（D₂ ²,R₂）的斜率为：

$k_2=-\frac{D_3^2-D_1^2}{R_3-R_1};$

第二组失真/码率值所构成的曲线在候选码率值R₃所对应的点（D₃ ²,R₃）的斜率为：

$k_3=-\frac{D_4^2-D_2^2}{R_4-R_2};$

第二组失真/码率值所构成的曲线在候选码率值R₄所对应的点（D₄ ²,R₄）的斜率为：

$k_4=-\frac{D_5^2-D_3^2}{R_5-R_3};$

再通过下式获取与候补码率值对应的第二组失真/码率值的补偿代价，

$J_i^2=D_i^2+k_i\·R_i,$

其中为第二组失真值，R_i为码率值，

为补偿代价，k_i为所述第二组失真/码率值所构成的曲线在相应各点的斜率（上面已求得），i为正整数。这样可以分别算出候选码率值R₂的补偿代价

候选码率值R₃的补偿代价

以及候选码率值R₄的补偿代价在本步骤中，第二组失真/码率值所构成的曲线在相应各点的斜率也可用其他方式取得，如先求取R～D的拟合曲线，再利用该拟合曲线计算斜率。因此第二组失真/码率值所构成的曲线在相应各点的斜率的具体的获取方式并不限制本发明的保护范围。

随后来到步骤106，根据编码代价J_i ¹以及补偿代价

确定综合代价J_i的最小值，进而获取最佳编码模式。

通过下式获取综合代价J_i：

$J_i=w_1\·J_i^1+w_2\·J_i^2,$

其中为编码代价，

为补偿代价，w₁、w₂为加权系数，可以取固定值或由用户设定，i为正整数。最后根据综合代价J_i的最小值确定最佳编码模式输出。

作为本发明的率失真优化方法的第二优选实施例，本发明的率失真优化方法还可对帧间预测的运动矢量进行估计时的率失真进行优化。与第一优选实施例的区别在于，

通过下式获取第一组失真/码率值中对应的编码代价J_i ¹，再根据编码代价J_i ¹确定对应最小编码代价的失真/码率值，

J_i ¹(s,c,mv|PQ)=D_i ¹(s,c,mv|PQ)+λ_motionR_i(s,c,mv|PQ)，

其中

为编码代价，D_i ¹为第一组失真值，R_i为码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，mv表示帧间预测时的运动矢量，QP为量化参数，λ_motion是求运动矢量时的拉格朗日参数（即第一方式参数），i为正整数；其中

λ_motion=0.85×2^(QP-12)/3或 ${\mathrm{\λ}}_{\mathrm{motion}}=\sqrt{0.85\×2^{(\mathrm{QP}-12/3)}}.$

其他步骤与第一优选实施例相同或相似，具体请参见本发明的第一优选实施例。

作为本发明的率失真优化方法的第三优选实施例，本发明的率失真优化方法还可根据第一优选实施例中的综合代价的最小值，获取对帧间预测的运动矢量进行估计时的拉格朗日参数，以对帧间预测的运动矢量进行估计时的率失真进行更好的优化。

首先根据第一优选实施例中的综合代价的最小值，获取最佳拉格朗日参数，具体为：

λ^* _mode=(J-D)/R，

其中J为最小综合代价，D为最佳编码模式的失真值，R为最佳编码模式的码率值，λ^* _mode为最佳拉格朗日参数。

然后根据最佳拉格朗日参数，获取对帧间预测的运动矢量进行估计时的拉格朗日参数，具体为

λ^* _motion=λ^* _mode或 ${{\mathrm{\λ}}^{*}}_{\mathrm{motion}}=\sqrt{{{\mathrm{\λ}}^{*}}_{\mathrm{mode}}},$

其中λ^* _motion为对帧间预测的运动矢量进行估计时的拉格朗日参数。

综上所述，本发明的率失真优化方法通过综合两种率失真优化指标，使得率失真优化结果最佳。在本发明的实施例中使用了SSD指标和SSIM指标的结合，当然也可以用其他的指标进行综合优化，例如：SSD可以用SAD（绝对差之和，Sum of Absolute Differences）或者SATD（Hadamard变换后再绝对值求和，Sum of Absolute Transformed Differences）等代替，SSIM可以用MS-SSIM（多尺度SSIM，Multi-Scale SSIM）或VIF(视觉信息保真度，VisualInformation Fidelity)等代替；同时本发明的率失真优化方法可从编码基本单元的所有编码模式中找最佳编码模式，也可从指定的一部分编码模式中找最佳编码模式；另外率失真优化可以依帧编码的类型（即I帧、P帧或B帧）各自独立实现；本发明的率失真优化方法很好地避免了现有技术的率失真优化方法不能正确的表达失真，造成率失真优化的结果不佳的技术问题。

以上所述仅为本发明的实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种率失真优化方法，其特征在于，包括步骤：

A、采用第一计算指标进行率失真计算，得到第一组失真/码率值；

B、采用第二计算指标进行率失真计算，得到第二组失真/码率值；

C、采用第一率失真优化方式，获取所述第一组失真/码率值中对应最小编码代价的失真/码率值；

D、根据所述最小编码代价的失真/码率值，获得多个候补码率值及相应的编码代价；

E、采用第二率失真优化方式，获取与所述候补码率值对应的第二组失真/码率值的补偿代价；

F、根据所述编码代价以及所述补偿代价，确定综合代价的最小值，进而获取最佳编码模式。

2.根据权利要求1所述的率失真优化方法，其特征在于，所述第一计算指标为对应于均方误差的差值平方和指标，具体为：

$\mathrm{SSD}=\underset{(x,y)\∈A}{\mathrm{\Σ}}{(s(x,y)-c(x,y))}^2,$

其中SSD为差值平方和指标，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，x、y表示所述基本编码单元内的像素位置，A表示所述基本编码单元的像素范围。

3.根据权利要求1所述的率失真优化方法，其特征在于，所述第二计算指标为结构相似指标，具体为：

SSIM(s,c)=L(s,c)·G(s.c)·H(s,c)，

$L(s,c)=\frac{2{\mathrm{\μ}}_s{\mathrm{\μ}}_c+C_1}{{\mathrm{\μ}}_s^2+{\mathrm{\μ}}_c^2+C_1},$

$G(s,c)=\frac{2{\mathrm{\σ}}_s{\mathrm{\σ}}_c+C_2}{{\mathrm{\σ}}_s^2+{\mathrm{\σ}}_c^2+C_2},$

$H(s,c)=\frac{{\mathrm{\σ}}_{\mathrm{sc}}+C_3}{{\mathrm{\σ}}_s{\mathrm{\σ}}_c+C_3},$

其中SSIM为结构相似指标，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，L表示亮度相似度，G表示对比相似度，H表示结构相似度；μ_s为s内像素的平均值，μ_c为c内像素的平均值，

为s内像素的方差值，

为c内像素的方差值，σ_sc为s内像素和c内对应像素的协方差值，C₁、C₂、C₃为常数。

4.根据权利要求1所述的率失真优化方法，其特征在于，所述步骤C具体为：通过下式获取所述第一组失真/码率值中对应的编码代价J_i ¹，再根据所述编码代价J_i ¹确定对应最小编码代价的失真/码率值，

J_i ¹(s,c,mode|QP)=D_i ¹(s,c,mode|QP)+λ₁R_i(s,c,mode|QP)，

其中J_i ¹为所述编码代价，D_i ¹为所述第一组失真值，R_i为所述码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，mode表示所述基本编码单元的可选择编码模式，QP为量化参数，λ₁是用来折衷所述第一组失真值和所述码率值的拉格朗日参数，i为正整数；其中

λ₁=0.85×2^(QP-12)/3。

5.根据权利要求1所述的率失真优化方法，其特征在于，在所述步骤D中，将所述最小编码代价的码率值，以及与所述最小编码代价的码率值相邻的至少两个码率值作为所述候补码率值。

6.根据权利要求1所述的率失真优化方法，其特征在于，所述步骤E具体为：通过下式获取与所述候补码率值对应的第二组失真/码率值的补偿代价，

$J_i^2=D_i^2+k_i{\·R}_i,$

其中

为所述第二组失真值，R_i为所述码率值，

为所述补偿代价，k_i为所述第二组失真/码率值所构成的曲线在相应各点的斜率，i为正整数。

7.根据权利要求1所述的率失真优化方法，其特征在于，所述步骤F具体为：通过下式获取所述综合代价J_i，并根据所述综合代价J_i的最小值确定所述最佳编码模式，

$J_i=w_1\·J_i^1+w_2\·J_i^2,$

其中

为所述编码代价，为所述补偿代价，w₁、w₂为加权系数，i为正整数。

8.根据权利要求1所述的率失真优化方法，其特征在于，如对帧间预测的运动矢量进行估计时，所述步骤C具体为：通过下式获取所述第一组失真/码率值中对应的编码代价J_i ¹，再根据所述编码代价J_i ¹确定对应最小编码代价的失真/码率值，

J_i ¹(s,c,mv|QP)=D_i ¹(s,c,mv|QP)+λ_motionR_i(s,c,mv|QP)，

其中为所述编码代价，D_i ¹为所述第一组失真值，R_i为所述码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，mv表示帧间预测时的运动矢量，QP为量化参数，λ_motion是求运动矢量时的拉格朗日参数，i为正整数；其中

λ_motion=0.85×2^(QP-12)/3或 ${\mathrm{\λ}}_{\mathrm{motion}}=\sqrt{0.85\×2^{(\mathrm{QP}-12/3)}}.$

9.根据权利要求1所述的率失真优化方法，其特征在于，所述率失真优化方法还包括步骤：根据所述综合代价的最小值，获取最佳拉格朗日参数，根据所述最佳拉格朗日参数，获取对帧间预测的运动矢量进行估计时的拉格朗日参数。

10.根据权利要求9所述的率失真优化方法，其特征在于，根据下式获取所述最佳拉格朗日参数，

λ^* _mode=(J-D)/R，

其中J为最小综合代价，D为所述最佳编码模式的失真值，R为所述最佳编码模式的码率值，λ^* _mode为所述最佳拉格朗日参数，

通过下式获取所述对帧间预测的运动矢量进行估计时的拉格朗日参数，

λ^* _motion=λ^* _mode或 ${{\mathrm{\λ}}^{*}}_{\mathrm{motion}}=\sqrt{{{\mathrm{\λ}}^{*}}_{\mathrm{mode}}},$

其中λ^* _motion为所述对帧间预测的运动矢量进行估计时的拉格朗日参数。

Images