[发明专利]一种用于H.264编码的整数运动估计快速搜索方法

说明书

技术领域

本发明涉及一种计算机领域中视频图像编码，特别涉及用于H.264协议的整数运动估计的快速搜索方法。

背景技术

ISO/IEC和ITU-T两大国际标准化组织联手制定了新一代视频压缩标准H.264。自2003年3月H.264视频压缩标准正式公布以来，被广泛应用于实时视频监控、低延时模式的视频会议、网络视频点播、数字视频存储等其他消费电子应用领域。

H.264之所以有这么出色的压缩性能，得益于新引入的多种技术，如帧内预测、多参考帧、帧间可变尺寸块运动估计、1/4像素精度的运动矢量、整数变换与量化、上下文自适应的熵编码和去块滤波等技术。在H.264标准中，运动估计模块是H.264编码器的核心部件，占据了60％-70％的编码运算时间，决定了整个编码的实时编码性能。运动估计模块会先进行整数运动估计，然后再进行分数运动估计。其中，整数运动估计占据了整个编码30％的运算量，成为H.264编码的关键路径之一。

在整数运动估计方法中，最简单、有效的方法是全搜索方法(FS,Full Search)，及穷尽搜索窗内所有的像素点进行匹配，但此法所需的运算量十分巨大，很难满足实时编码的要求，因此出现了很多快速搜索方法，如三步搜索法(TSS,Three Step Search)、新三步法(NTSS,New Three Step Search)、二维对数搜索法(TDL,2D-logarithmic search)、交叉搜索法(CS,Cross Search)、钻石搜索法(DS,Diamond Search)等。

发明内容

本发明要解决的问题是提供一种用于H.264编码的整数运动估计快速搜索方法，可通过设定内部编码参数，来控制编码图像质量和运算复杂度，在保证编码图像质量的同时，有效减少整数运动估计搜索的范围和时间。

为解决上述问题，本发明采用如下技术方案：

一种用于H.264编码的整数运动估计快速搜索方法，包括以下步骤：

步骤一，在参考帧中，根据外部设定的搜索范围，以搜索中心点展开搜索窗SW1，其范围为Searchrang_x*Searchrange_y；

步骤二，将搜索窗SW1内所有的像素点进行亚采样。本发明中，设定亚采样率为1/16，即在一行像素点中每四个像素点进行一次取点采样，并且在垂直方向上每四行像素点进行一次取点采样，经过这两步采样过程之后，完成整个亚采样过程。亚采样处理可以有效减少搜索的点数，减少计算量，是粗略搜索的重要操作；

步骤三，对经过步骤二得到的样本像素点，只针对16×16模式，根据SAD准则，得到N个SAD值最小的候选样本像素点，进行一下步的计算。其中，N是由外部设定的值，本发明中设定范围为1-3。N值越大，得到的候选样本像素点的个数越多，编码图像质量越高，同时运算量也将增加；反之运算量将减少，代价是编码图像质量也会有所下降；

步骤四，根据得到的候选样本像素点的SAD值和分布位置，重新设定整数运动估计的搜索范围，得到新的搜索窗SW2。

情况一，当N＝1时，以新的候选样本像素点为中心展开SW2。

情况二，当N＝2时，需要根据公式(1)判断收敛系数K1：

当K1逼近1时，说明min2(SAD)>>min1(SAD)，此时可以忽略min2(SAD)对应的候选样本像素点，直接以min1(SAD)对应的点为中心展开SW2。由于min2(SAD)>>min1(SAD)，忽略min2(SAD)对应的点，并不会陷入局部最优，在保证编码质量的同时，缩小了SW2的范围。反之，当K1逼近0时，说明这两点的SAD很接近，为避免陷入局部最优，此时需要根据两点的分布位置，进一步判断展开SW2。

情况三，当N＝3时，除了执行N＝2的步骤，先判断收敛系数K1外，还需要根据公式(2)：

判断第三点和第一点之间的收敛系数K2。同样当K2逼近1时，忽略第三点，根据前两点的位置分布，展开SW2；当K2逼近0时，根据三点的位置分布，进一步判断，展开SW2。

步骤五，对于SW2内所有的像素点，直接计算SAD值。由于H.264中，对于一个16×16的宏块，有16×16、16×8、8×16、8×8、8×4、4×8、4×4七种分割方式，需要对每种分割方式分别计算出对应的SAD值，所以共有1+2+2+4+8+8+16＝41个整数运动矢量IMV，此时完成此次搜索。