[发明专利]一种基于数据挖掘的HEVC帧间快速模式选择方法

权利要求书

1.一种基于数据挖掘的HEVC帧间快速模式系统建立方法，其特征在于，包括以下步骤：

（1.1）输入视频序列，对帧间预测的各个模式进行概率统计，得到帧间预测模式概率统计图；

（1.2）分析得到的帧间预测模式概率统计图，对帧间预测的MSM模式与2Nx2N模式的数据信息进行收集，找出与CU划分模式相关的数据特征，并进行特征优化，利用数据挖掘技术将得到的特征数据建立CU划分决策树；

（1.3）将建立的决策树模型运用到HEVC帧间预测；

其中上述步骤（1.2）中决策树的建立具体包括下列步骤：

(3.1)分析步骤（1.1）得到的帧间预测模式的概率分布图，对每个层次的CU64x64、32x32、16x16、8x8分别建立帧间预测模式概率图，分析预测模式的分布情况，其中4个层次的CU，最佳帧间预测模式主要分布在MSM模式和2Nx2N模式，即CU划分为单个PU的模式，进入步骤(3.2)；

(3.2)收集帧间预测模式MSM模式与2Nx2N模式的数据特征；

（3.3）建立数据特征与CU划分模式的相关性，进入步骤(3.4)；

(3.4)针对上述特征进行优化，并选取需要的特征；进入步骤(3.5)；

(3.5)利用确定好的特征值分别建立不同CU尺寸64x64、32x32、16x16、8x8下的决策树；

其中上述步骤（3.3）中特征值的分析具体包括以下步骤：

(4.1)进入帧间预测选择模式中，进入MSM预测模式，获得MSM模式的率失真值，获得MSM模式的运动向量值，进入2Nx2N预测模式，获得2Nx2N模式的率失真值，获得2Nx2N模式的运动向量值，并遍历剩余的预测模式，获得最佳帧间选择模式，如果此最佳帧间预测模式为MSM或者2Nx2N,则表示此CU的帧间预测模式划分为单个PU，否则，表示此CU的帧间预测模式划分为多个PU，进入步骤(4.2)；

(4.2) 建立MSM模式率失真值与CU划分模式的关系，建立2Nx2N模式率失真值与CU划分模式的关系，建立当前CU划分模式与上层CU的划分模式的关系，进入步骤(4.3)；

(4.3)将获得的2Nx2N模式率失真值与MSM模式的率失真值进行相除得到比值，建立此比值与CU划分模式的关系，进入步骤(4.4)；

(4.4)建立获得的当前CU的MSM模式的运动向量值与当前CU的帧间划分模式的关系，建立获得的当前CU的2Nx2N模式的运动向量值与当前CU的帧间划分模式的关系，其中运动向量值由运动向量x方向的绝对值加上运动方向y方向的绝对值得到，进入步骤(4.5)；

(4.5)将MSM模式的率失真值与2Nx2N模式的率失真值比较，获得较低值，建立此较低值与CU划分模式的关系。

2.根据权利要求1所述的基于数据挖掘的HEVC帧间快速模式系统建立方法，其特征在于，其中决策树方法中步骤（3.4）的特征值的优化具体如下：

(4.6)将上述获得的特征信息进行优化，建立优化后的特征信息与CU划分模式的关系，对于MSM模式与2Nx2N模式的率失真值，采取归一化方式是将当前率失真值分别除以前一帧中的MSM模式和2Nx2N模式的率失真值的平均值得到归一化率失真值，将当前帧的运动向量值除以前一帧中的运动向量值平均值得到归一化运动向量值；对于2Nx2N模式与MSM模式的率失真比值，用归一化的2Nx2N模式率失真除以归一化的MSM模式率失真值得到归一化的2Nx2N模式与MSM模式的率失真比值，从各个关系中得到我们需要的特征值，此过程结束。

3.根据权利要求1所述的基于数据挖掘的HEVC帧间快速模式系统建立方法，其特征在于，上述步骤（1.3）中，将建立的决策树模型运用到HEVC帧间预测的具体步骤如下 ：

(2.1)当前CU的帧间预测模式开始；

(2.2)判断当前CU的尺寸是否为64x64，如果是，则意味着当前CU为最大CU，没有上层CU，进入步骤(2.3)，否则，当前CU的尺寸可能为32x32、16x16或8x8，对当前CU进行上层CU划分模式信息的收集，转入步骤(2.3)；

(2.3)进入帧间预测模式MSM(merge/skip)模式，收集当前CU需要用到的特征值信息，并进行优化，进入步骤(2.4)；

(2.4) 进入帧间预测模式2Nx2N模式，收集当前CU需要用到的特征值信息，并进行优化，进入步骤(2.5)；

(2.5)将上面的信息带入所建立的对应CU尺寸的决策树模型，获得当前CU是否划分为多个PU的结果，进入步骤(2.6)；

(2.6)如果决策树得到当前CU划分为多个PU的结果，则转入步骤(2.7)，否则转入步骤(2.8)；

(2.7)继续进行传统HEVC的常规步骤，对剩余的所有帧间预测模式进行遍历，选取所有帧间预测模式中率失真最小的模式作为当前CU的最佳预测模式，转入步骤(2.9)；

(2.8)直接选取MSM模式与2Nx2N模式中率失真较小的模式，作为当前CU的最佳帧间预测模式，省略原本HEVC中剩余的帧间预测模式的遍历，转入步骤(2.9)；

(2.9)帧间预测模式结束。