[发明专利]一种高效视频编码零系数提前检测方法

说明书

技术领域

本发明涉及一种视频编码方法，尤其是涉及一种高效视频编码零系数提前检测方法。

背景技术

随着人们对多媒体娱乐不断增长的需求，高清视频的流行以及超高清视频的出现导致了对编码效率的更高要求，而这种编码效率是当前视频编码标准H.264/AVC所不能满足的。为此，视频编码联合组(JCT-VC)设计了一种新的视频编码标准，被称为高效视频编码(High Efficiency Video Coding，HEVC)，它的目标是在相同的视频质量下提供比H.264/AVC高一倍的压缩效率。

HEVC和其他视频编码标准的基本区别在于：HEVC使用了四叉树结构。四叉树结构是一种把图片划分为不同大小块的机制，这种机制可以提高预测以及残差编码的性能。HEVC的基本处理单元是编码树单元(Coding Tree Unit，CTU)，它可以看成是H.264/AVC中宏块的扩展。一个CTU可以被设置为以下的块大小：64×64，32×32或者16×16，并且它可以使用基于四叉树递归的方法划分为更小的编码单元(Coding Unit，CU)。每个CU可以进一步划分成为预测单元(Prediction Unit，PU)，进行帧内或帧间预测。对于预测之后产生的残差信号，HEVC采用残差四叉树(Residual Quad Tree，RQT)来进行变换处理，即：将每一个CU划分为变换单元(Transform Unit，TU)。根据HEVC设计规则，亮度块的TU大小范围从4×4到32×32，色度块的范围从4×4到16×16。CU、PU和TU块大小的划分是由率-失真联合优化方法决定的。除了四叉树结构，HEVC还采用了其他多种高级编码技巧，例如：更加完备的帧内角度预测方法、样本自适应偏移编码算法等等，来进一步提高压缩效率。

尽管HEVC的压缩效率得到了大幅提升，其计算复杂度也变的异常庞大。2012年12月份发表在IEEE Transactions on Circuits and System for Video Technology的一篇文献对比了HEVC和H.264/AVC的编码计算复杂度，表明HEVC的编码计算量要远远高于H.264/AVC，因此非常有必要设计快速编码技术来降低HEVC的编码计算复杂度。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种可提高视频编码速度、降低编码计算复杂度且检测效率高的高效视频编码零系数块提前检测方法，用以在高效视频编码中提前判断零系数块，从而降低离散余弦变换(Discrete Cosine Transform，DCT)和量化过程的计算复杂度。

本发明的目的可以通过以下技术方案来实现：

一种高效视频编码零系数块提前检测方法，包括以下步骤：

1)设定量化参数Q_p、二维DCT变换矩阵C、残差矩阵R_e以及TU块的大小N；

2)根据Q_p、C、R_e和N计算零块检测阈值Th₀，Th₁，Th₂，……Th_N-1；

3)对于一个大小为N的TU块通过以下公式计算其对应的检测参数SAD：

其中，e(x，y)为TU块中的元素，0<＝x，y<＝N-1，x、y为整数；

4)对于一个大小N的TU块，首先判断SAD是否满足SAD<Th₀，若是，则判断该TU块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；

5)判断SAD能否满足SAD<Th_j，j＝1，2，…，N-1，若是，则对最终量化块Z(0，0)到Z(j-1，j-1)的j×j块进行DCT、量化、反量化和反DCT操作，返回步骤3)，若否，则执行步骤6)；

6)对全TU块进行DCT、量化、反量化和反DCT操作，返回步骤3)。

所述的步骤1)中量化参数Q_p的取值范围为[0，51]，且Q_p为整数。

所述的步骤2)中零块检测阈值Th_j的计算公式为：