[发明专利]一种快速RDOQ量化零系数比例估计方法

说明书

本发明公开了一种快速RDOQ量化零系数比例估计方法。为了体现不同位置系数差异性，本发明为不同位置系数定义一个不同加权系数，将加权系数构建为位置自适应死区偏移量δ的函数，基于此度量加权SATD，即WSATD。考虑到RDOQ算法复杂性，仅仅考虑q和WSATD还不足以构建精准的ρ模型。假设χ＝WSATD/q，发现不同χ样本它们的ρ有不同值，本发明将χ的均值θ作为构建ρ模型的另外一个特征参量。在HEVC编码器中，存在不同类型的变换块(TU)，为了区分这种差异性，本发明针对在不同类型TU块分别建模。最后利用统计分析曲线拟合方法构建三维ρ模型。通过该模型能够快速估计出RDOQ后的零系数比例ρ。

技术领域

本发明属于视频编码器领域，具体是一种快速RDOQ量化零系数比例估计方法。

背景技术

在视频编码器设计过程中，码率-失真(R-D)函数模型常用于算法率失真优化(RDO)，如码率控制。准确地计算R和D会使视频编码器的计算复杂度增加，特别是在支持计算密集型RDOQ和CABAC熵编码技术的最新HEVC标准编码器中。发展R和D快速估计方法，在过去的二十年中引起了广泛的研究兴趣，学术界和工业界提出了几种典型的R-D模型。

由于量化直接决定编码失真和码率消耗，所以一些学者将率失真模型描述为量化参数QP的函数，这一类方法就是QP域R-D建模；一些学者研究零系数比例ρ与码率、失真之间的关系，将率失真函数构建为ρ的函数，这一类方法就是ρ域R-D建模。由于ρ直接由量化算法确定，所以在ρ域建模可以更准确地描述CABAC的特征。研究也证实ρ和编码比特率R之间有非常直接的关系，特别是在低比特率下。如何根据量化算法特点准确估计ρ，是实现ρ域RD建模的关键。

目前视频编码领域常采用两种典型量化算法，基于四舍五入、系数独立的硬判决量化(HDQ),如死区deadzone硬判决量化，这类方法没有考虑系数之间的相关性。由于CABAC采用上下文自适应编码，块内相邻系数之间存在着相互关联，学术和工业界提出了基于动态规划的软判决量化(SDQ)算法，其中充分考虑了系数之间数据依赖关系，将维特比算法应用在块内系数联合优化量化，将块内系数联合优化量化问题转换为维特比最优路径选择问题。目前，广泛采用的率失真优化量化(RDOQ)就是一类典型的SDQ量化算法。与死区量化相比，RDOQ具有良好的编码率失真性能。在基于HDQ的视频编码器中，ρ可以通过简单的四舍五入估计得到。然而，基于RDOQ的视频编码器中，量化采用了基于维特比算法的网格搜索，需要准确估计ρ有较大难度。

另一方面，在最新HEVC视频编码器中，大量变换块被量化为全零，特别是在低比特率下。在最新的标准中，会将率失真优化应用于量化。在RDOQ算法中，量化器需要评估所有可能候选量化结果的失真和码率，并从率失真优化的意义上选择最佳量化结果，需要很高的计算复杂度。如果可以在使用RDOQ之前进行全零块(AZB)检测，那么可以减少HEVC编码计算负担。在过去的二十年里，一些学者提出了几种AZB检测算法。从支持量化算法角度来看，这些AZB决策算法通常更适合于基于HDQ的视频编码，例如死区量化，不太支持具有良好编码性能的RDOQ等软判决量化算法。