[发明专利]一种率失真优化方法及装置

权利要求书

1.一种率失真优化方法，其特征在于，包括：

按照编码可变块从大到小的顺序对当前待编码宏块的各候选编码模式进行优化计算，得到各候选编码模式的编码代价函数值；

根据计算得到的各候选编码模式的编码代价函数值，从当前待编码宏块的各候选编码模式中选取对应的编码代价函数值最小的候选编码模式作为当前待编码宏块的最优编码模式，并根据当前待编码宏块在所述最优编码模式下的率失真统计特征估计当前待编码宏块的率失真统计特征；

根据估计得到的所述当前待编码宏块的率失真统计特征以及调整后的拉格朗日乘子模型Adapt-L模型确定新的拉格朗日乘子，以根据该新的拉格朗日乘子进行率失真优化；

其中，根据当前待编码宏块在所述最优编码模式下的率失真统计特征估计当前待编码宏块的率失真统计特征，包括：

将当前待编码宏块在所述最优编码模式以及所述最优编码模式的最优运动矢量下的率失真统计特征作为当前待编码宏块的率失真统计特征；

其中，当前待编码宏块在每一候选编码模式以及该候选编码模式的最优运动矢量下的率失真统计特征是通过以下方式计算得到的：

基于该候选编码模式以及该候选编码模式的最优运动矢量，计算当前待编码宏块在该候选编码模式以及该候选编码模式的最优运动矢量下的预测残差的平均绝对值误差MAD，并基于计算得到的MAD以及设定的二次码率模型计算量化参数QP；

根据计算得到的QP对当前待编码宏块在该候选编码模式以及该候选编码模式的最优运动矢量下的预测残差进行编码处理，得到当前待编码宏块在该候选编码模式以及该候选编码模式的最优运动矢量下的图像编码失真、码率以及残余方差，并将得到的图像编码失真、码率以及残余方差作为当前待编码宏块在该该候选编码模式以及该候选编码模式的最优运动矢量下的率失真统计特征。

2.如权利要求1所述的方法，其特征在于，针对当前待编码宏块的任一候选编码模式，通过以下公式计算该候选编码模式的编码代价函数值Cost1：

Cost1＝MSD+λ*P；其中，MSD表示当前待编码宏块在该候选编码模式以及该候选编码模式的最优运动矢量下的预测残差的均方差，P表示当前待编码宏块的控制头信息和、当前待编码宏块在该候选编码模式以及该候选编码模式的最优运动矢量下的残差编码的长度和，λ为设定的初始拉格朗日乘子。

3.如权利要求1或2所述的方法，其特征在于，针对当前待编码宏块的任一候选编码模式，通过以下方式计算该候选编码模式的最优运动矢量：

针对当前待编码宏块在该候选编码模式下的每一种可能的运动矢量，计算其对应的运动估计代价函数值其中，SAD表示当前待编码宏块在该候选编码模式以及该运动矢量下的预测残差分量的绝对值和，H表示当前待编码宏块的控制头信息编码长度，λ为设定的初始拉格朗日乘子；

将对应的Cost2最小的运动矢量作为该候选编码模式的最优运动矢量。

4.如权利要求1所述的方法，其特征在于，在计算得到当前候选编码模式的编码代价函数值之后，计算下一候选编码模式的编码代价函数值之前，还包括：

确定当前待编码宏块在该当前候选编码模式下的率失真统计特征所对应的二次码率模型参数分组；并

根据当前待编码宏块在该当前候选编码模式下的率失真统计特征，通过线性回归方式，更新其所对应的分组的二次码率模型参数。

5.如权利要求1所述的方法，其特征在于，所述编码可变块至少可包括：Inter 16X16，Inter 16X8，Inter 8X16，Inter 8X8，Inter 8X4，Inter 4X8，以及Inter 4X4。