[发明专利]一种适用于VVC标准的帧内预测划分判决的快速算法

说明书

本发明属于高清视频压缩编解码技术领域，具体为一种适用于VVC标准的帧内预测划分判决的快速算法。发明中，LCU的大小可以是VVC默认的128×128，也可以是其他；VVC中CU的大小多种多样，其长和宽可以是4、8、16、32、64和128，且存在长宽不等的长方形CU。本发明引入基于方差和梯度的算法，可以大致获得当前CU的纹理复杂度，基于这一信息进行判断，得到最有可能的划分方式，从而大大加速帧内预测的块划分过程。

技术领域

本发明属于高清视频压缩编解码技术领域，具体涉及一种适用于VVC视频编码标准的、加速帧内预测划分判决过程的快速算法。

背景技术

新一代视频编码标准VVC(Versatile Video Coding)是由两个国际视频编码标准组织——ITU-T的VCEG(Video Coding Experts Group)和ISO/IEC的MPEG(Moving PictureExperts Group)——联合建立的JVET小组(Joint Video Exploration Team)建立和发布的。制定VVC标准的目标是，相比于其前身H.265/HEVC，编码性能提升一倍。

在VVC的帧内预测过程中，一幅图像首先划分为LCU块进行处理。LCU的默认大小为128×128。接下来，LCU需要根据该区域的局部纹理，划分成一个个小的CU。LCU划分为CU的过程，既可以像HEVC一样进行四叉树划分，也可以按照VVC标准新提出的方式进行二叉树或者三叉树划分(五种划分方式，参见图1)。四叉树节点可以进行全部五种划分，非四叉树节点及其子节点不可以进行四叉树划分。CU的长和宽可以有多种组合的长度，这不同于HEVC的帧内预测中CU的长和宽长度一定是相等的。因此，在VVC的帧内预测中，可能会出现长宽不等的长方形CU。另外，VVC中模糊了编码单元CU、预测单元PU和变换单元TU的概念，通常情况下这三者是等价的，只不过在进行不同的操作时会使用不同的名称。在帧内预测过程中，需要寻找最佳的划分方式，将块划分成与其纹理相符的大小，以获取最佳的性能，寻找最佳块大小划分方式的过程称为划分判决。

在VVC官方参考软件VTM中，帧内预测的划分判决通过迭代完成，具体来说就是比较某个块不划分时与各种划分情况下的总体RDO，迭代时先计算出小块的最佳划分，再计算几个小块组成的大块的最佳划分，以此类推，直到整个LCU完成划分判决。虽然相比于HEVC块的大小更加多变，可以更好地与纹理相适应，但是这种划分判决方式引入了极大的运算量，不适合硬件实现，因此需要使用快速算法加速划分判决的过程。

由于在HEVC中只存在一种划分方式，即四叉树划分，因此HEVC的快速模式判决基本局限于判断CU是否需要划分，对CU进行的操作可以有以下三种：只划分、只不划分、比较划分与不划分再做判断。而在VVC中，可行的划分方式由原来的一种增加到了五种，除了原有的四叉树划分之外，还有两种二叉树划分(横向和纵向)和两种三叉树划分(横向和纵向)。因此，VVC中的划分判决不仅仅是判断CU是否划分，还要判断CU该选择哪种方式划分。

发明内容

本发明的目的在于提出一种可以适用于VVC标准的帧内预测划分判决的快速算法。

本发明提出的适用于VVC标准的帧内预测划分判决的快速算法，具体步骤如下：

(1)首先，计算一个CU包含的全部像素点的方差，根据方差判断该块是否纹理平坦；如果纹理平坦，直接判断为不用继续划分，跳过后续的将其划分为子块的计算过程；

(2)如果在第一步中没有跳过子块的划分，那么继续进行梯度计算；如果当前块为四叉树节点(必要条件为当前块是正方形，即长宽相等)，那么分别计算该CU横向和纵向的总梯度；根据横向、纵向总梯度的差异大小及绝对数值，判断是否进行四叉树划分；如果在这一步中选择了四叉树划分，那么将跳过另外四种二叉树和三叉树划分(即横向二叉树划分和纵向二叉树划分，以及横向三叉树划分和纵向三叉树划分)；