[发明专利]一种基于深度学习的HEVC帧内预测编码的方法

说明书

本发明涉及一种基于深度学习的HEVC帧内预测编码的方法，通过率失真优化(RDO)决策自适应地选择是否使用所述帧内帧间组合预测；帧内帧间组合预测使用帧内预测块和帧间预测块加权的方法得到最终预测块；帧内预测块和帧间预测块的加权系数根据预测方法的预测失真统计得到。由此能能够减小预测块总体失真，增加预测精度，从而提升预测块的编码效率。

技术领域

本发明通常涉及数字视频信号处理，尤其涉及一种基于深度学习的HEVC帧内预测编码的方法。

背景技术

在视频编码中，帧内预测和帧间预测是非常有效的工具，可以去除视频序列中的冗余信息。具体来说，帧间预测利用当前帧与其参考帧之间的相关性减小时域冗余，而帧内预测利用空间相邻像素点之间的相似性消除空域冗余。

在现在编码标准中，帧内预测和帧间预测相互独立。帧内预测被用于帧内预测帧(I帧)或是帧间预测帧中的帧内预测块，而帧间预测只能用在帧间预测帧中(前向预测帧P帧或是双向预测帧B帧)。

上述预测技术主要存在的缺陷是：现有帧内预测和帧间预测方法相互独立，并没有综合考虑帧内预测和帧间预测的优势和缺陷，只是通过编码端决策选择最优的预测模式，无法更好的发挥两种预测方法的优势，因此在一定程度上局限了预测的性能。

发明内容

为了克服上述现有技术的不足，本发明提供一种基于深度学习的HEVC帧内预测编码的方法，用以有效地减小预测块失真，提升预测块的预测精度。

本发明提供的技术方案是：

一种基于深度学习的HEVC帧内预测编码的方法，通过率失真优化(RDO)决策自适应地选择是否使用所述帧内帧间组合预测；帧内帧间组合预测使用帧内预测块和帧间预测块加权的方法得到最终预测块；帧内预测块和帧间预测块的加权系数根据预测方法的预测失真统计得到；由此能够增加预测精度，提升预测块的编码效率；

针对帧内模式预测，首先在编码端对每一个编码单元进行率失真优化，执行如下操作：

S1.对一个编码单元进行帧内预测；

S2.对该编码单元进行帧间预测；

S3.对帧内预测和帧间预测进行加权平均，得到帧内帧间组合预测块；

S4.通过率失真优化(RDO)决策确定是否使用基于深度学习的HEVC帧内预测编码的方法；每一个编码单元中均传输一个组合预测标记到码流中，用于标识是否使用了基于深度学习的HEVC帧内预测编码的方法；

S5.所述基于深度学习的HEVC帧内预测编码的方法表示为式1：

RdCost＝lambda*Distortion+Rate，，

其中Rate为所需码字，lambda为损失Distortion的权重系数。

最终选择RdCost最小的预测模式作为最佳预测模式；

优选的，所述组合预测标记为1-bit的标记。

优选的，对加权系数进行简化或使用以行或列为单位的加权系数，以节约存储加权系数的空间。

优选的，将浮点加权系数转换为整数，并在加权之后进行右移操作，以避免进行浮点计算；

具体地，将加权系数乘以2的m次幂，加权计算之后再将预测值右移m位；将式1转化为整数计算后表示为式4：

P′comb(x,y)＝(2m·Wintra(x,y)·Pintra(x,y)+(2m-2m·Wintra(x,y))·Pinter(x,y)+2m-1)>>m，

其中，m的取值与计算精度相关，所需的精度越高则m值越大，计算结果越准确。