[发明专利]一种HEVC快速CU深度划分编码方法

权利要求书

1.一种HEVC快速CU深度划分编码方法，其特征在于，将除了帧间N×N模式外的7种帧间预测单元PU模式分成3类：Mode1、Mode2和Mode3；针对深度为0、深度为1和深度为2的编码单元CU预先分别设置不同的帧间PU模式类别；在CU 划分过程中，如果CU在当前深度下的编码块标志CBF和运动矢量差MVD都为0、其最佳预测模式是帧间PU模式且满足相应设置的帧间PU模式类别，则提前终止当前CU的四叉树划分；具体采用以下步骤：

步骤1、若深度为0的最大编码单元LCU遍历完帧间模式和帧内模式预测后且LCU的CBF和MVD值均为0，判断其最佳预测模式是否属于Mode1，如果是，则终止当前CU划分；如果否，则继续进行预测编码计算当前LCU的率失真代价，将LCU划分为深度为1的4个子CU，转步骤2；

步骤2、若深度为1的子CU遍历完帧间模式和帧内模式预测后且CU的CBF和MVD值均为0，判断当前子CU的最佳预测模式是否属于Mode1或Mode2，如果是，则终止当前CU划分；如果否，则继续进行预测编码计算当前CU的率失真代价，将当前子CU划分为深度为2的4个子CU后，转步骤3；

步骤3、若深度为2的子CU遍历完帧间模式和帧内模式预测后且CU的CBF和MVD值均为0，判断当前子CU的最佳预测模式是否属于Mode1或Mode2或Mode3，如果是，则终止当前CU划分；如果否，则继续进行预测编码计算当前CU的率失真代价，将当前子CU划分为深度为3的4个子CU后，转步骤4；

步骤4、分别对4个深度为3的子CU进行完整的帧间和帧内预测编码并计算出各自的率失真代价；

所述Mode1的具体设定如下：

Mode1是帧间PU模式为Inter_2N×2N正方形划分方式，代表CU运动趋于平缓；

所述Mode2的具体设定如下：

Mode2是帧间PU模式为Inter_N×2N或Inter_2N×N两种对称矩形划分方式，代表CU运动趋于适中；

所述Mode3的具体设定如下：

Mode3是帧间PU模式为Inter_2N×nU、Inter_2N×nD、Inter_nL×2N 或Inter_nL×2N四种不对称矩形划分方式，代表CU运动趋于复杂。

2.如权利要求1所述HEVC快速CU深度划分编码方法，其特征在于，所述深度为0、深度为1和深度为2的编码单元CU是按照以下方法预先分别设置不同的帧间PU模式类别，具体如下：

步骤1、选取纹理丰富运动复杂的视频序列BQSquare和纹理简单运动平缓的视频序列Vidyo1，分别进行HEVC标准编码；对这两类HEVC标准编码视频序列分别统计深度为0、深度为1和深度为2的CU其最佳预测模式是Mode1的概率分布情况，进而得到上述两类HEVC标准编码视频序列中CU在不同深度下其最佳预测模式是Mode1的概率分布图；

步骤2、对视频序列BQSquare和Vidyo1分别统计深度为0、深度为1、深度为2的CU其最佳预测模式是Mode2的概率分布情况，进而得到上述两类HEVC标准编码视频序列中CU在不同深度下其最佳预测模式是Mode2的概率分布图；

步骤3、对视频序列BQSquare和Vidyo1分别统计深度为0、深度为1、深度为2的CU其最佳预测模式是Mode3的概率分布情况，进而得到上述两类HEVC标准编码视频序列中CU在不同深度下其最佳预测模式是Mode3的概率分布图；

步骤4、根据视频序列BQSquare和Vidyo1中CU在深度为0下其最佳预测模式分别是Mode1、Mode2和Mode3的概率分布图，在深度为1下其最佳预测模式分别是Mode1、Mode2和Mode3的概率分布图以及在深度为2下其最佳预测模式分别是Mode1、Mode2和Mode3的概率分布图，对深度为0、深度为1和深度为2的CU分别设置不同的帧间PU模式类别：深度为0时，设置帧间PU模式类别为Mode1；深度为1时，设置帧间PU模式类别为Mode1或Mode2；深度为2时，设置帧间PU模式类别为Mode1或Mode2或Mode3。