[发明专利]一种HEVC快速CU深度划分编码方法

摘要

本发明公开了一种HEVC快速CU深度划分编码方法，本发明对CU深度划分过程进行了改进，本发明将除了帧间N×N模式外的另外7种帧间PU模式分成3类（Mode1，Mode2，Mode3），分别代表CU运动趋于平缓、CU运动趋于适中以及CU运动趋于复杂。进一步利用统计方法预先获取CU在不同深度下其最佳预测模式分别是Mode1，Mode2和Mode3的概率分布，据此对不同深度的CU设置不同的帧间PU模式类别。在CU划分的过程中，当前CU遍历完帧间模式和帧内模式预测后，如果CU在当前深度下符合CBF和MVD值都为0，并且CU的最佳预测模式是帧间PU模式且满足相应设置的帧间PU模式类别，则提前终止当前CU的四叉树划分，从而有效减少了帧间模式部分的CU深度划分运算时间，提高了编码效率。

主权项

一种HEVC快速CU深度划分编码方法，其特征在于，将除了帧间N×N模式外的7种帧间预测单元PU模式分成3类：Mode1、Mode2和Mode3；针对深度为0、深度为1和深度为2的编码单元CU预先分别设置不同的帧间PU模式类别；在CU 划分过程中，如果CU在当前深度下的编码块标志CBF和运动矢量差MVD都为0、其最佳预测模式是帧间PU模式且满足相应设置的帧间PU模式类别，则提前终止当前CU的四叉树划分；具体采用以下步骤：步骤1、若深度为0的最大编码单元LCU遍历完帧间模式和帧内模式预测后且LCU的CBF和MVD值均为0，判断其最佳预测模式是否属于Mode1，如果是，则终止当前CU划分；如果否，则继续进行预测编码计算当前LCU的率失真代价，将LCU划分为深度为1的4个子CU，转步骤2；步骤2、若深度为1的子CU遍历完帧间模式和帧内模式预测后且CU的CBF和MVD值均为0，判断当前子CU的最佳预测模式是否属于Mode1或Mode2，如果是，则终止当前CU划分；如果否，则继续进行预测编码计算当前CU的率失真代价，将当前子CU划分为深度为2的4个子CU后，转步骤3；步骤3、若深度为2的子CU遍历完帧间模式和帧内模式预测后且CU的CBF和MVD值均为0，判断当前子CU的最佳预测模式是否属于Mode1或Mode2或Mode3，如果是，则终止当前CU划分；如果否，则继续进行预测编码计算当前CU的率失真代价，将当前子CU划分为深度为3的4个子CU后，转步骤4；步骤4、分别对4个深度为3的子CU进行完整的帧间和帧内预测编码并计算出各自的率失真代价；所述Mode1的具体设定如下：Mode1是帧间PU模式为Inter_2N×2N正方形划分方式，代表CU运动趋于平缓；所述Mode2的具体设定如下：Mode2是帧间PU模式为Inter_N×2N或Inter_2N×N两种对称矩形划分方式，代表CU运动趋于适中；所述Mode3的具体设定如下：Mode3是帧间PU模式为Inter_2N×nU、Inter_2N×nD、Inter_nL×2N 或Inter_nL×2N四种不对称矩形划分方式，代表CU运动趋于复杂。