[发明专利]基于概率的帧内编码器优化方法

说明书

本发明涉及一种基于概率的帧内编码器优化方法，包括以下步骤：步骤S1:构建预测候选模式列表；步骤S2:根据预测候选模式列表第一候选模式成为最佳预测模式的概率，提前终止模式选择；步骤S3:基于RD costs的对数正态分布，设定CU划分与否的依据，完成提前终止CU划分。本发明在视频质量的前提下，大幅提高视频编码的效率。

技术领域

本发明涉及视频编码技术领域，具体设计一种基于概率的帧内编码器优化方法。

背景技术

HEVC视频压缩已经是我们生活中必不可少的家庭娱乐之一，如果没有它的存HEVC在，那么我们将活在一个全球范围内只有几十个电视频道的世界里，放在眼下那简直是无法想象的。数字技术首次出现在英国，那时候人们已经有了电视机，通过数字技术的不断进化演变，地面电视频道迅速地从5个发展到了30多个，极大的丰富了人们的日常生活娱乐。

现有的HEVC帧内预测算法复杂度高，在实际的使用中，视频图像的编码效率是非常重要的，特别是用于实时传输的时候，现有算法不能满足高效实时传输的要求。

发明内容

有鉴于此，本发明的目的在于提供一种基于概率的帧内编码器优化方法在视频质量的前提下，大幅提高视频编码的效率。

为实现上述目的，本发明采用如下技术方案：

一种基于概率的帧内编码器优化方法，包括以下步骤：

步骤S1:构建预测候选模式列表；

步骤S2:根据预测候选模式列表第一候选模式成为最佳预测模式的概率，提前终止模式选择；

步骤S3:基于RD costs的对数正态分布，设定CU划分与否的依据，完成提前终止CU划分。

进一步的，所述步骤S1基于35种模式成为最佳候选模式的概率，构建预测候选模式列表。

进一步的，所述步骤S1具体为：

步骤S11:根据相邻PU块HCost的分布来预测当前PU块的分布，三个分布的依赖关系为：

其中,是预测当前PU块的HCost的分布，H_L,H_A是左边PU块和上边PU块的HCost分布，ω_t是模型的权重，值介于0-1之间；

步骤S12:收集之前帧相同PU位置的信息，来动态调整ω_t的值，定义t是当前帧的索引，L是已经编码帧的数量，H_i是第i帧相同位置HCost的分布，定义模型的错误率为：

通过推导和近似值，对于当前PU的权重ω_t最终被定义为：

其中ω_t-1,分别代表t-1时刻，即上一帧同一位置PU的实际和预测的权重值；；通过大量实验证明，α＝0.1，是两个很常用的值；

ω_t-1定义为：

步骤S23:选取HCost较小的前8个模式带入实际的HCost计算，并且每一次更新完成减少预测模式的功能。

进一步的，所述步骤S2具体为：

步骤S21:HEVC帧内预测中，不同的PU尺寸{64×64,32×32,16×16,8×8,4×4}对应的候选模式数量为{8,8,3,3,3}，通过比较PU尺寸为，8×8,4×4候选模式RDcost的大小，来减少候选模式个数；