[发明专利]一种帧内预测CTU快速划分方法、存储介质

说明书

本发明涉及帧内预测编码技术领域，具体涉及一种帧内预测CTU快速划分方法、存储介质，所述CTU快速划分方法包括S1.提取标准视频中若干个CTU，将CTU全像素与其对应深度一一对应，每一个CTU内的全像素使用线性拟合算法和KNN算法分别与每一个CTU划分深度进行训练，得到机器学习模型；S2.在每一帧视频编码CTU之前，使用机器学习模型预测每一帧CTU最大深度，当CTU划分为CU时，判断划分的深度是否大于等于预测CTU最大深度，若是，则终止划分CTU，该帧内预测CTU快速划分方法在编码深度大于等于机器学习预测深度时，提前终止CTU部分深度的代价计算，从而达到减少编码时间的效果。

技术领域

本发明涉及帧内预测编码技术领域，具体涉及一种帧内预测CTU快速划分方法、存储介质。

背景技术

帧内预测编码复杂度的优化主要针对划分和模式判决两个环节。整体来说相关研究大致可以分为以下四类：

(1)基于编码信息的方法：此类方法通常通过在编码过程中参考中间参数来加快CU划分的决策过程，如编码块标志(Coded Block Flag，CBF)和样本自适应补偿(SampleAdaptive Offset，SAO)参数等。此类方法使用中间参数提高划分效率，虽然总体性能有所提升，但由于使用的还是原算法，没有引入新算法，提升的幅度十分有限。

(2)基于图像纹理和边缘复杂度的方法：通过利用视频内容的纹理和边缘复杂度与块分割结果之间的相关性，可以大大地加快CU划分过程。通常来说，具有丰富纹理特征的区域有更大的概率被分成许多小块，以获得更好的预测效果，相反，平坦区域则更倾向于不再被划分。此类方法通常使用纹理复杂度提升编码效率，提升幅度较大，但纹理复杂度计算算法难度较大。

(3)基于临近块的方法：由于当前块和空域、时域相邻块之间存在着很强的相关性，许多研究人员也尝试利用相邻块的深度信息来预测当前CU的划分。此类算法较为简单，但效率提升幅度不高，且适用性较低。

基于率失真代价(RD Cost)的方法：基于RD Cost的快速编码方法通常将CU划分视为二分类问题，此类算法可能会导致损失率太大的问题。

基于率失真代价(RD Cost)的方法：基于RD Cost的快速编码方法通常将CU划分视为二分类问题，此类算法可能会导致损失率太大的问题。

发明内容

本发明的目的在于避免现有技术中的不足之处而提供一种帧内预测CTU快速划分方法，该帧内预测CTU快速划分方法能够在每一帧内的所有CTU进行训练并且预测最大深度，在编码深度大于等于机器学习预测深度时，提前终止CTU部分深度的代价计算，从而达到减少编码时间的效果。

为实现上述目的，本发明提供以下技术方案：

提供一种帧内预测CTU快速划分方法，包括以下步骤：

S1.提取标准视频中若干个CTU，记录每个CTU使用标准算法编码的深度，将CTU全像素与其对应深度一一对应，每一个CTU内的全像素使用线性拟合算法和KNN算法分别与每一个CTU划分深度进行训练，得到机器学习模型；

S2.开始编码CTU，先使用QTMT深度初始化，在每一帧视频编码CTU之前，使用机器学习模型预测每一帧CTU最大深度，当CTU划分为CU时，判断划分的深度是否大于等于预测CTU最大深度，若是，则终止划分CTU，否则执行帧内预测。

在一些实施方式中，步骤S1中，标准算法为VTM9.0标准算法。

在一些实施方式中，步骤S1中，所述若干个CTU为7000个CTU。

在一些实施方式中，步骤S2中，所述执行帧内预测后，进行以下步骤，包括：执行BH，执行BH时，判断当前深度是否小于等于depth多类型树深度+1，若是，则返回执行帧内预测，否则进入BV；