[发明专利]基于Sobel算子的帧内快速判决方法、装置及存储介质

权利要求书

1.基于Sobel算子的帧内快速判决方法，其特征在于，包括以下步骤：

根据四个不同方向的Sobel算子，计算出当前CU的四个梯度值；

在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，根据阈值判断结果，对当前CU进行划分决策；

在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式；

其中，所述最大梯度比为最大梯度值和最小梯度值之间的比值，所述最小梯度比为最小梯度值和第二最小梯度值之间的比值。

2.根据权利要求1所述基于Sobel算子的帧内快速判决方法，其特征在于，所述根据阈值判断结果，对当前CU进行划分决策这一步骤，其具体包括：

当最大梯度值小于第一阈值时，退出当前CU的递归划分过程；

当最大梯度值大于等于第一阈值且最小梯度值小于等于第二阈值时，采用原始CU划分算法来对当前CU进行划分处理；

或，

当最大梯度值大于等于第一阈值且最小梯度值大于第二阈值时，跳过RDO处理过程，直接对当前CU进行划分处理。

3.根据权利要求1所述基于Sobel算子的帧内快速判决方法，其特征在于，所述根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式这一步骤，其具体包括：

当最大梯度比小于第三阈值时，将当前PU的预测模式候选集合更新为包含DC预测模式和Planar预测模式的集合后，利用更新后得到的预测模式候选集合，从而选取出当前PU对应的最优预测模式；

当最大梯度比大于等于第三阈值且最小梯度比大于第四阈值时，将与当前PU最相近的两种纹理分别对应的两个预测模式候选集合进行合并，利用合并得到的预测模式候选集合，从而选取出当前PU对应的最优预测模式；

或，

当最大梯度比大于等于第三阈值且最小梯度比小于等于第四阈值时，从35种预测模式中选取出当前PU对应的最优预测模式。

4.根据权利要求3所述基于Sobel算子的帧内快速判决方法，其特征在于，所述预测模式候选集合通过初始分类步骤进行初始化分类；所述初始分类步骤包括：

令水平梯度的预测模式候选集合、垂直梯度的预测模式候选集合、45°梯度的预测模式候选集合和135°梯度的预测模式候选集合均包含DC预测模式和Planar预测模式；

令满足第一角度条件的预测模式加入水平梯度的预测模式候选集合中，所述第一角度条件的公式为：

令满足第二角度条件的预测模式加入垂直梯度的预测模式候选集合中，所述第二角度条件的公式为：

令满足第三角度条件的预测模式加入45°梯度的预测模式候选集合中，所述第三角度条件的公式为：

令同时不满足第一角度条件、第二角度条件和第三角度条件的预测模式加入135°梯度的预测模式候选集合中。

5.根据权利要求1-4任一项所述基于Sobel算子的帧内快速判决方法，其特征在于，所述四个不同方向的Sobel算子包括水平方向的Sobel算子、垂直方向的Sobel算子、45°方向的Sobel算子和135°方向的Sobel算子。

6.根据权利要求1-4任一项所述基于Sobel算子的帧内快速判决方法，其特征在于，所述第一阈值和第二阈值，它们的取值为：

当QP＝22时，所述第一阈值为15，所述第二阈值为22.5；

当QP＝27时，所述第一阈值为13，所述第二阈值为19.5；

当QP＝32时，所述第一阈值为10.5，所述第二阈值为15.5；

或，

当QP＝37时，所述第一阈值为9，所述第二阈值为13.5。

7.根据权利要求1-4任一项所述基于Sobel算子的帧内快速判决方法，其特征在于，所述第三阈值为0.9，所述第四阈值为1.2。