[发明专利]一种适用于VVC标准的帧内预测划分判决的快速算法

权利要求书

1.一种适用于VVC标准的帧内预测划分判决的快速算法，其中，LCU的大小是VVC默认的128×128，或者其他；CU的大小是4×4、4×8、8×32、16×16、…等，不大于LCU的大小且其大小理论上存在于VVC帧内预测的划分中；其特征在于，具体步骤如下：

(1)首先，计算一个CU包含的全部像素点的方差，根据方差判断该块是否纹理平坦；如果纹理平坦，直接判断为不用继续划分，跳过后续的将其划分为子块的计算过程；

(2)如果在第一步中没有跳过子块的划分，那么继续进行梯度计算；如果当前块为四叉树节点，即当前块是正方形，那么分别计算该CU横向和纵向的总梯度；根据横向、纵向总梯度的差异大小及绝对数值，判断是否进行四叉树划分；如果在这一步中选择了四叉树划分，那么跳过另外四种划分即横向二叉树划分和纵向二叉树划分，以及横向三叉树划分和纵向三叉树划分；

(3)如果在第二步中没有选择四叉树划分，那么接下来在所有可能的划分方式的情况下，分别计算各子块的整体方差，然后再计算子块方差的方差，即：对于四叉树划分计算4个子块方差的方差；对于二叉树划分，计算2个子块方差的方差；对于三叉树划分，计算3个子块方差的方差；在所有可行的划分中，所得方差值最大的对应的划分方式将被选择为最终的也是唯一的划分。

2.根据权利要求1所述的适用于VVC标准的帧内预测划分判决的快速算法，其特征在于，步骤(1)中所述计算一个CU包含的全部像素点的方差，计算公式如(1)所示：

该式中，var表示所计算得到的方差，W和H为所计算CU的宽和高，X(i,j)为位置(i,j)处点的像素值，μ为所计算CU的全部像素点的平均值；

如果计算得到的方差小于阈值TH₁，则判定该块纹理单一，不进行进一步的划分。

3.根据权利要求1所述的适用于VVC标准的帧内预测划分判决的快速算法，其特征在于，步骤(2)中所述梯度计算，采用Sobel算子，每一个点的横向梯度D_x和纵向梯度D_y由公式(2)计算得到；横向总梯度D_X和纵向总梯度D_Y由公式(3)计算得到：

式(2)中，M(i,j)表示以位置(i,j)处的点为中心的3×3像素矩阵，后面乘上的矩阵分别为横向和纵向的Sobel算子，D_x(i,j)和D_y(i,j)分别表示位置(i,j)处横向和纵向的梯度值；式(3)中，W和H分别为所计算CU的宽和高，abs(.)表示取绝对值，D_X和D_Y分别表示所计算CU横向和纵向的梯度的绝对值总和。

4.根据权利要求3所述的适用于VVC标准的帧内预测划分判决的快速算法，其特征在于，步骤(2)中所述判断是否进行四叉树划分，具体判断规则为：

如果横向总梯度和纵向总梯度的比值小于TH₂且它们各自都大于TH₃，说明当前块并不平滑，但是横纵两个方向的纹理大体一致，那么直接选择四叉树划分，而跳过另外两种二叉树和两种三叉树划分。

5.根据权利要求4所述的适用于VVC标准的帧内预测划分判决的快速算法，其特征在于，5种划分情况下的方差的方差计算表达式如公式(4)所示；其中，对于QT情况，var_QT表示方差计算结果，w_k与h_k表示第k个子CU的宽和高，X(i,j)表示第k个子CU位置为(i,j)处点的像素值，μ_k表示第k个子CU所有点的平均值，μ_QT表示整个CU所有点的平均值；对于BH、BV、HT、TV情况，类推；得到var_QT、var_BH、var_BV、var_TH和var_TV后，比较它们的大小，取允许的划分方式中var最大的相应划分方式作为最终划分；

6.根据权利要求5所述的适用于VVC标准的帧内预测划分判决的快速算法，其特征在于，三个阈值TH₁、TH₂和TH₃通过使用图片集训练的方式获取，具体过程如下：

首先使用官方参考软件VTM编码图片集或视频序列，得到QP＝22,27,32和37四种情况下原始算法的编码时间和编码性能；

确定TH₁、TH₂和TH₃的表达式，以针对32×32大小CU的情况为例，在CU宽高确定的情况下，TH₁与QP正相关，表达式设定为TH1＝α×QP，TH₂和TH₃与QP无关，设定为TH₂＝β，TH₃＝γ；下面确定α、β和γ：

固定β和γ，变动α的值，使用官方参考软件VTM编码图片集或视频序列，得到QP＝22,27,32和37四种情况下使用本发明所提出算法的编码时间和编码性能，与原始算法比较，得到BDBR和time reduction；对于多个α值的测试，得到一系列BDBR和time reduction点，连接成折线图；选取BDBR折线斜率发生明显变化的点作为α值；

同理，在α值确定后，固定α和γ，用与上述方式同样的方法，得到不同β值情况下的BDBR和time reduction点连接成的折线图；选取BDBR折线斜率发生明显变化的点作为β值；

同理，在β值确定后，固定α和β，用与上述方式同样的方法，得到不同γ值情况下的BDBR和time reduction点连接成的折线图；选取BDBR折线斜率发生明显变化的点作为γ值。