[发明专利]基于支持向量机的B帧快速帧间预测宏块模式选择方法

权利要求书

1.基于支持向量机的B帧快速帧间预测宏块模式选择方法，其特征在于包括以下步骤：

（1）基于支持向量机（support vector machine，SVM）模型训练SVM分类器，包括：

（1-1）特征选择和提取；

（1-2）核函数参数的选择；

（1-3）使用步骤（1-1）和（1-2）的结果训练SVM分类器，训练过程中，将最终选择的最优宏块模式结果与提取的各种特征得到输入特征矢量，形成训练样本集S，将S随机地分成10个子集，取其中9个子集作为训练集，剩余的一个作为测试集，对SVM分类器进行训练和测试，得到最终的SVM分类器；

（2）使用SVM分类器对B帧的帧间预测宏块模式进行快速选择：

（2-1）将当前待编码处理的图像定义为当前编码帧；

（2-2）判断当前帧是否为B帧；

（2-2-1）如果当前帧为B帧，则进行下面的快速算法；

（2-2-2）如果当前帧不是B帧，则按正常编码方式进行编码；

（2-3）将当前编码帧中当前待处理的宏块定义为当前宏块；

（2-4）遍历帧内预测宏块模式和SKIP模式，提取编码特征；

（2-5）将当前编码帧中的下一个宏块作为当前宏块，返回步骤（2-3）继续执行，直到当前编码帧中的所有宏块均编码完毕；

（2-6）将当前编码帧的下一帧作为当前编码帧，返回步骤（2-2）继续执行，直到所有编码帧编码结束。

2.根据权利要求1所述的选择方法，其特征在于：其中步骤（1-1）的特征选择和提取采用全搜索遍历原始编码方法对各测试序列进行编码,将以下编码信息对应的特征提取出来：

（1-1-1）率失真代价：提取每个宏块的跳跃（SKIP）模式、帧内预测宏块模式和帧间预测宏块模式中的Inter16×16模式对应的率失真代价值J；

（1-1-2）相邻宏块的编码模式：提取每个宏块在空间上相邻左宏块，相邻上宏块，相邻左上宏块和相邻右上宏块，以及时间上相邻帧对应位置宏块的最优编码模式；

（1-1-3）运动矢量：对每个宏块遍历Inter16×16模式，提取每个宏块在Inter16×16模式下求取的最优运动矢量；

（1-1-4）预测残差及宏块残差编码模式（CBP,Coded Block Pattern）：也就是提取当前编码宏块的Inter16×16模式下原始的视频信号和重构视频信号之间的平方差值和（SSD，Sum of Square Difference）、宏块残差编码模式CBP。

3.根据权利要求2所述的选择方法，其特征在于：所述步骤（1-3）中训练SVM分类器的过程为：

（1-3-1）训练SVM分类器1：将步骤（1-1）中提取的SKIP模式的率失真代价，所有帧内预测宏块模式最小率失真代价和SKIP模式的率失真代价之差，当前帧前向第一参考帧对应当前宏块位置的宏块、当前宏块相邻左宏块、当前宏块相邻上宏块和当前宏块相邻左上宏块的编码模式多个特征融合为一个特征向量，形成训练样本集S1，将S1随机地分成10个子集，取其中9个子集作为训练集，剩余的一个作为测试集，利用SVM模型进行训练和测试，得到SVM分类器1，将帧间预测宏块模式分为｛SKIP｝和{Inter16×16、Inter16×8、Inter8×16、Inter8×8}两类；

（1-3-2）训练SVM分类器2：将步骤（1-1）中提取的Inter16×16模式下的预测残差、CBP值以及运动矢量三个特征融合为一个特征向量，形成训练样本集S2，将S2随机地分成10个子集，取其中9个子集作为训练集，剩余的一个作为测试集，利用SVM模型进行训练和测试，得到一个SVM分类器2，将宏块模式集{Inter16×8、Inter8×16、Inter8×8}分为Inter16×8，Inter8×16｝和｛Inter8×8｝两类。

4.根据权利要求3所述的选择方法，其特征在于：所述步骤（2-4）遍历帧内预测宏块模式和SKIP模式，提取编码特征的过程为：将跳跃（SKIP）模式的率失真代价，所有帧内预测宏块模式最小率失真代价和SKIP模式的率失真代价之差，当前帧相邻参考帧对应当前宏块位置的宏块、当前宏块相邻左宏块、当前宏块相邻上宏块和当前宏块相邻左上宏块的最优编码模式，把所有这些特征融合为一个特征向量，作为SVM分类器1的输入特征矢量，将帧间预测宏块模式分为｛SKIP｝和{Inter16×16、Inter16×8、Inter8×16、Inter8×8}两类；

如果当前宏块的分类结果属于｛SKIP｝类且当前帧相邻参考帧对应当前宏块位置宏块的编码模式也为SKIP模式，则只遍历SKIP模式和所有帧内预测宏块模式，否则搜索SKIP模式、Inter16×16模式和所有帧内预测宏块模式，并根据率失真代价选择最优宏块模式；

如果当前宏块的分类结果不属于｛SKIP｝类，而属于{Inter16×16、Inter16×8、Inter8×16、Inter8×8}类其他帧间预测宏块模式，则先遍历Inter16×16模式,提取Inter16×16模式下的预测残差、宏块残差编码模式（CBP,Coded Block Pattern）值，以及运动矢量作为SVM分类器2输入特征矢量，利用SVM分类器2模型将除SKIP和Inter16×16模式之外的其他帧间预测宏块模式{Inter16×8、Inter8×16、Inter8×8}分为｛Inter16×8，Inter8×16｝和｛Inter8×8｝两类；

如果分类结果属于｛Inter16×8，Inter8×16｝，则继续搜索Inter16×8、Inter8×16模式，计算率失真代价，在帧内预测宏块模式、SKIP、Inter16×16、Inter16×8、Inter8×16模式中选取率失真代价最小的模式为最优模式；

如果分类结果属于｛Inter8×8｝，则继续搜索Inter8×8模式，计算率失真代价，在帧内预测宏块模式、SKIP、Inter16×16、Inter8×8模式中选取率失真代价最小的模式为最优模式。