[发明专利]一种基于零块分布的HEVC帧间预测模式快速判定方法

说明书

技术领域

本发明涉及一种用于HEVC(High Efficiency Video Coding)帧间模式判定的新方法，尤其是一种基于零块分布的HEVC帧间预测模式快速判定方法。

背景技术

HEVC是新一代的视频编码标准，它是为了满足人们对于视频的高清、超高清、3D和移动无线通信等新要求而提出，并在2013年1月正式成为国际标准。与已经得到广泛应用的上一代视频编码标准H.264相比，HEVC的帧间预测引入新的技术，有运动合并技术(Motion Merge)和先进运动矢量预测(Advance Motion Vector Prediction，AMVP)以及增加非对称预测模式等，虽然增加了帧间预测的精确度，也显著节省编码比特数以及编码图像质量，但是也大大增加了帧间预测的计算复杂度。HEVC相比H.264/AVC的帧间预测编码，在预测单元的划分上由于增加了非对称分割，使帧间预测单元PU(Prediction Unit)的可选模式达到了8种。通过遍历比较各预测模式率失真代价值RDCost(Rate Distortion Cost)筛选出最佳预测模式，并在最佳模式的基础上利用基于块的运动补偿技术预测当前PU，计算出残差值，最终对残差进行变换、量化和熵编码。其中，最佳CU(Coding Unit)及对应PU模式的筛选是帧间预测编码计算复杂度的主要来源。因此，减少帧间PU模式的遍历次数，对于降低帧间预测时间，提高编码效率至关重要。

针对这个改进角度，不少学者进行了研究，最常用的减少PU模式遍历降低复杂度的方法有：利用时空域相关性法、CU深度相关性法、绝对差值和法和样点自适应偏移参数法等，这些方法在一定程度上能够减少PU模式遍历次数，降低编码复杂度，但是对于HEVC帧间预测编码来说，还有进一步提升的空间。

发明内容

本发明的目的是提供一种基于零块分布的HEVC帧间预测模式快速判定方法。对比于之前的其他方法，本方法创新性的提出利用零块数目及其分布特征与PU模式之间相关性，更进一步的降低了帧间预测的编码的复杂度，并且利用更精确的模型来判定最佳PU模式，能够很好的应用到于实际工程去。

为达到上述目的，本发明的构思是：

零块判决是分析零块分布的至关重要环节，判决的准确度直接关系到本发明的最终算法性能。首先对编码单元CU在Merge和帧间2N×2N模式进行零块判决，判决后根据零块数目库及其分布位置的不同进行分类，然后根据不同的分类采取不同的帧间预测模式，避免逐一遍历所有预测模式以减少帧间预测时间，具体是：首先对编码单元进行Merge和帧间2N×2N模式预测，得到残差后进行N×N变换和量化，通过设计的零块判决公式对每一块进行零块判决；统计CU包含的N×N零块个数，再分析各零块数目下的分布特征，然后根据不同的分布特征分类遍历不同的帧间预测模式。

根据上述构思，本发明的技术方案是：

一种基于零块分布的HEVC帧间预测模式快速判定方法，操作步骤如下：

1)预测分割：编码单元分别进行Merge模式和帧间2N×2N模式预测，获取残差后一分为四；

2)零块判决及其数目统计：对残差块进行N×N变换和量化，应用设计的新零块公式进行零块判决并统计分割后当前CU在Merge模式和帧间2N×2N模式下的零块个数，分别记为M与N；

3)分析零块分布选取预测模式：若M＝4，且N＝4，则选取SKIP模式；若M！＝4，当N＝4则选取Inter_2N×2N；当N＝3，大部分选取Inter_2N×2N模式，若视频序列水平运动较多，Inter_2N×N更适合；若视频序列垂直运动较多，Inter_N×2N效果更好，而AMP_VER模式适当考虑；当N＝2，零块分布呈水平分布时，选取Inter_2N×N；垂直分布时，选取Inter_N×2N；对角分布时，需考虑每一种模式；当N＝1或0，需依次遍历各模式；

4)计算时间复杂度：根据步骤3)得到的结果，计算选取每类下各预测单元PU所选取预测模式的率失真代价值；

5)决定预测模式：根据步骤4)中得到的结果，比较各PU预测模式的率失真代价值大小，确定最小率失真代价值的预测模式为当前PU的预测模式。

上述步骤1)中，将CU经Merge模式和帧间2N×2N模式预测得到的残差块划分成4个N×N的残差块。

上述步骤2)中，指对残差块即TU(Transform Unit)块系数进行整数DCT变换，对一个N×N变换单元计算如下：

Y＝HXH^T