[发明专利]一种率失真优化方法及装置

说明书

本发明公开了一种率失真优化方法及装置，可按照编码可变块从大到小的顺序对当前待编码宏块的候选编码模式进行优化计算，并根据优化计算结果确定当前待编码宏块的率失真统计特征，以达到通过逐步求精的方式逼近当前待编码宏块的率失真统计特征的真实值并基于该真实值更新拉格朗日乘子的效果，从而在提高视频编码控制效率的基础上，提高了率失真优化的效果。

技术领域

本发明涉及视频压缩技术领域，尤其涉及一种率失真优化方法及装置。

背景技术

目前，常见的视频压缩系统(如H.261/3/4/5以及MPEG-2/4等)基本上都采用了有损压缩的Hybrid(混合式)编码架构。在该架构下，视频编码器可以针对各种具有复杂率失真统计特征的视频信号，使用不同的编码工具(及组合)消除各种冗余信息，从而压缩视频数据。

具体地，典型的视频压缩处理过程主要包括预测编码、预测残差DCT(DiscreteCosine Transform，离散余弦变换)系数量化及熵编码等环节。其中，在预测编码环节，视频编码器通过模式选择和运动补偿，消除视频信号的时-空域相关性；在码率控制环节，通过DCT系数量化控制预测残差的码率及失真。视频编码控制技术就是研究相关参数(包括编码模式MD、运动矢量MV和量化参数QP)的计算问题，以期用尽可能少的比特获得高质量的重建视频图像。

据信息论，视频压缩的码率和失真满足下凸非递减关系。一般地，码率越低则失真越大，反之亦然，码率极低和失真极小二者不可兼得。惟有在失真与码率之间实现恰当的折衷，才能实现编码控制的优化计算，获得较高的编码效率。考虑到信道带宽对多媒体通讯的客观限制，该问题实质上是一个有约束极值求解，其数学表达形式如下：

其中，和分别表示编码模式、运动矢量和量化参数的取值范围，D(MD,MV,QP)表示图像失真，R(MD,MV,QP)表示输出码率，而R_c表示信道带宽。

对凸函数有约束极值问题的求解，可以采用Lagrange乘子法，转换为等价的无约束极值问题进行求解，如下式所示：

可以根据上式的最小值选择编码工具(及组合)，在码率和失真之间实现折衷。该式能否实现高效的编码效率，关键在于λ(拉格朗日乘子)值的选取。

具体地，目前业界存在以下几种λ值的计算方式：

第一种：在R_c已知的条件下，根据码率-失真关系的单调性，利用二分法通过多次编码快速逼近λ的最佳值。但是，采用二分法计算λ存在计算复杂度高，编码延迟大，难以投入实际应用等问题。

第二种：根据率失真理论建立λ关于量化参数的数学模型(即QP-L模型)，并基于该模型计算λ；其中Q为QP对应的量化步长，c为某个常数。

虽然QP-L算法可以有效地提高视频压缩的编码效率，在H.26L及H.264/AVC等标准中得到应用，但是，由于视频信号的率失真统计特征关联诸元在QP-L模型中的缺位，其计算结果不可能对任意视频序列都为最优。此外，QP-L模型对量化参数存在依赖性，不利于实现高效的视频编码控制：一般地，量化参数主要用于控制预测残差的码率及失真，其值在预测编码后才能有效计算，而QP-L在预测编码计算时就需要预先知道量化参数，二者内在相互抵触，属于“鸡与蛋”逻辑悖论。

第三种：建立Adapt-L模型(调整后的拉格朗日乘子模型)以采用Adapt-L算法计算λ。

具体地，可通过以下方式建立Adapt-L模型：