[发明专利]基于Sobel算子的帧内快速判决方法、装置及存储介质

说明书

本发明公开了一种基于Sobel算子的帧内快速判决方法、装置及存储介质，该方法包括：根据四个不同方向的Sobel算子，计算出当前CU的四个梯度值；在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，从而对当前CU进行划分决策；在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，从而选取出当前PU对应的最优预测模式。本发明能够准确快速决策是否继续对当前CU进行递归划分，以达到减少递归划分时间的目的，并且能够在预测模式选取时，跳过其他模式，仅在对应的模式候选集合中选取，达到减少遍历模式选择时间的效果。本发明可广泛应用于视频编码领域中。

技术领域

本发明涉及视频编码技术，尤其涉及一种基于Sobel算子的帧内快速判决方法、装置及存储介质。

背景技术

技术词解释：

RDO：率失真优化。

H.265是由Joint Collaborative Team on Video Coding(JCT-VC)提出的继H.264之后的新一代视频编码标准。H.265保留了原来属于H.264的技术框架的基础上，同时结合了运动补偿预测、变换编码等技术。除此之外，H.265还采用了更为灵活的四叉树划分块的方案，并将预测模式增加至35种，以满足复杂的需求。而这些技术大大提高了H.265的编码效率。与上一代编码技术H.264/AVC相比，H.265能够以相似的编码质量节省高达50％的比特率。然而，在带来性能增加的同时，编码器的复杂度也随之提高，所以有效地减少编码时间是迫切需要解决的问题。

在H.265中，编码复杂度最大的就是预测编码部分，它分为帧内预测和帧间预测，而对于帧内预测部分，其又分为块划分和预测模式的决策。如图1所示，对于每个编码帧序列，首先被划分为多个最大编码单元(CTU)，每个CTU接下来会被递归划分为多种尺寸的CU(包括32×32、16×16、8×8)，而对于每种尺寸的CU(编码单元)都会计算RD-Cost(率失真代价)，并选择RD-Cost最小所对应的尺寸作为最佳CU尺寸。根据最佳CU尺寸，PU(预测单元)的尺寸将会对应确定。接下来，将会使用拉格朗日率失真优化对35种预测模式进行选择，最终选择出一种最佳预测模式，其中，图2展示了H.265的35种预测模式。可见，相比之前H.264/AVC的固定大小的编码单元和9种预测模式，H.265的技术改进可以给编码器带来编码性能的提升，但是同时因为有了更为复杂的技术尝试，编码时间也是成倍的增加。虽然近年来，已经提出了许多算法来减低H.265中帧内预测的复杂度，以缩短编码时间，例如：1、使用统计方法来对不同类型的视频的划分情况进行统计，找到划分规律并据此建立算法以减少划分时间，或者，使用最小均方误差估计器来对当前帧序列进行计算，并根据计算的结果与给定的阈值进行比较，以确定是否进行进一步划分，但是这些快速算法的效果并不显著；2、使用简单梯度滤波器来建立快速模式决策算法，但是往往带来较高的BD-Rate变化，影响编码效率。

发明内容

为了解决上述技术问题，本发明的目的是提供一种基于Sobel算子的帧内快速判决方法、装置及存储介质，可在保证编码的前提下，减少编码时间，提高编码处理效率。

本发明所采用的第一技术方案是：基于Sobel算子的帧内快速判决方法，包括以下步骤：

根据四个不同方向的Sobel算子，计算出当前CU的四个梯度值；

在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，根据阈值判断结果，对当前CU进行划分决策；

在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式；