[发明专利]基于概率的帧内编码器优化方法

权利要求书

1.一种基于概率的帧内编码器优化方法，其特征在于：包括以下步骤：

步骤S1:构建预测候选模式列表；

步骤S2:根据预测候选模式列表第一候选模式成为最佳预测模式的概率，提前终止模式选择；

步骤S3:基于RD cost的对数正态分布，设定CU划分与否的依据，完成提前终止CU划分；所述步骤S1基于35种模式成为最佳候选模式的概率，构建预测候选模式列表；

所述步骤S1具体为：

步骤S11:根据相邻PU块HCost的分布来预测当前PU块的分布，三个分布的依赖关系为：

其中,是预测当前PU块的HCost的分布，H_L,H_A是左边PU块和上边PU块的HCost分布，ω_t是模型的权重，值介于0-1之间；

步骤S12:收集之前帧相同PU位置的信息，来动态调整ω_t的值，定义t是当前帧的索引，L是已经编码帧的数量，H_i是第i帧相同位置HCost的分布，定义模型的错误率为：

通过推导和近似值，对于当前PU的权重最终被定义为：

其中ω_t-1,分别代表t-1时刻，同一位置PU的实际和预测的HCost分布；

ω_t-1定义为：

步骤S13:选取HCost较小的前8个模式带入实际的HCost计算，并且每一次更新完成减少预测模式的功能。

2.根据权利要求1所述的一种基于概率的帧内编码器优化方法，其特征在于：所述步骤S2具体为：

步骤S21:HEVC帧内预测中，不同的PU尺寸{64×64,32×32,16×16,8×8,4×4}对应的候选模式数量为{8,8,3,3,3}，通过比较PU尺寸为，8×8,4×4候选模式RDcost的大小，来减少候选模式个数；

步骤S22:在编码PU尺寸为8×8,4×4时候，前三个候选模式进入RDO流程分别计算出RDcost0,RDcost1,RDcost2；

步骤S23:若RDcost0RDcost1RDcost2,提前终止模式选择，否则对第四个候选模式计算RDcost3；若RDcost1RDcost2RDcost3,则提前终止模式选择。

3.根据权利要求1所述的一种基于概率的帧内编码器优化方法，其特征在于：所述步骤S3具体为：

RD cost的对数正态分布表达式为：

式(5)中，f_i(x)是当RDcost等于x时的概率密度值；N_o,S_p分别表示不分割与分割；E(X)，Var(X)是集合X的均值和方差；

对于不分割的CU的RDcost集中在比较小的值，而对于分割CU的RDcost集中在相对较大的值，如果当前的CU的RDcost小于一个阈值，当前CU就被认为是最佳尺寸的CU，提前终止CU划分。