[发明专利]用于视频编码和解码的自适应变换选择的方法和设备

说明书

相关申请的交叉引用

本申请要求2009年7月23日递交的美国临时申请序号No.61/227,938的优先权(代理人档案号No.PU090100)，将其全部结合在此作为参考。

技术领域

本发明原理总体上涉及视频编码和解码，并且更具体地，涉及一种用于视频编码和解码的自适应变换选择的方法和设备。

背景技术

基于块的离散变换是许多图像和视频压缩标准的基本组成部分，包括例如联合图像专家组(JPEG)、国际电信联盟电信部门(ITU-T)、H.263建议(下文中称作“H.263建议”)、国际标准化组织/国际电工委员会(ISO/IEC)运动图像专家组-1(MPEG-1)标准、ISO/IEC MPEG-2标准、ISO/IEC MPEG-4部分10先进视频编码(AVC)标准/ITU-T H.264建议(下文中称作MPEG-4AVC标准“)等等，并且在大范围的应用中使用。变换将信号转换到变换域，并且作为一组变换基函数的线性组合来表示信号。接着是量化阶段。用于视频编码的好的变换应该：(1)对要量化信号去相关，使得可以有效地使用单独值的标量量化，由此与矢量量化相比不会损失太多编码效率；以及(2)将视频信号的能量压缩为尽可能少的系数，其允许编码器通过具有较大幅度的较少系数来表示图像。在前述两种标准下良好的变换是Karhunen-Loeve变换(KLT)。离散余弦变换(DCT)提供了一种对于普通图像信号的KLT的良好近似，并且在几乎所有现代视频编码标准中使用。

DCT方案通过将图像划分为像素的块(通常为4×4、8×8和16×16)、使用离散余弦变换将每一个块从空间域变换到频率域、并且对DCT系数进行量化，获得了图像/帧的局部空间相关性质的优势。大多数图像和视频压缩标准使用固定二维(2-D)可分离DCT块变换。如果允许几种块尺寸(典型地，从4×4到16×16块)，那么他们可以使用具有与所述块相对应尺寸的DCT。

在例如MPEG-4AVC标准的图像和视频编码标准中，所使用的变换依赖于块尺寸。例如，4×4整数DCT用于4×4块，8×8整数DCT用于8×8块，并且4个级联的4×4整数DCT用于帧内16×16块。DCT基函数是预定的，并且不会适配于视频内容或编码参数。

因为KLT是一种优化的线性变换，在第一现有技术方法中，使用KLT针对MPEG-4AVC标准的9种帧内预测模式的每一个来得出最佳变换。提取针对每一个模式的统计量，并且得出对应KLT。利用对应KLT针对每一个帧内预测模式的残余数据进行编码。9种帧内模式有效地分割了数据空间，使得DCT不再接近最佳变换，因此可以得出并且有效地应用不同的最佳变换。总之，第一现有技术方法使用7种变换，并且每一个变换对于与视频内容无关地选择的帧内预测模式是固定的。

在第二现有技术方法中，建议离线地训练一种或多种变换，然后编码器针对这些块中的每一个块选择变换来优化压缩性能。针对每一个块信号通知选择。然而，图像和视频内容的数据具有变化的统计特性和性质。编码器也使用不同的编码参数操作，例如不同的目标比特率。DCT不能始终捕获原始图像和残余图像中的变化。

回到图1，编码器处的典型变换选择方法通常用参考数字100表示。方法100包括开始块110，开始块将控制传给功能块120。功能块120初始化变换集合，并且将控制传给循环限制块130。循环限制块130使用变量j开始循环(下文中的“循环(1)”)，变量j具有从1至(正在处理的)当前视频序列中的画面数目(#)的范围，并且将控制传给循环限制块140。循环限制块140使用变量i开始循环(下文中的“循环(2)”)，所述变量i具有从1到正在处理的当前画面中的块的数目(#)的范围，并且将控制传给功能块150。功能块350选择针对块的最佳变换(例如，基于一个或多个准则)，并且将控制传给功能块160。功能块160对画面j中的块i进行编码，并且将控制传给循环限制块170。循环限制块170结束循环(2)，并且将控制传给循环限制块180。循环限制块180结束循环(1)，并且将控制传给结束块199。

在现有技术中，利用训练数据的大集合对变换集合进行离线训练。训练技术可以是基于普通的KLT、sparsity objective function等等。在编码期间，编码器针对每一个块从训练集合中选择最佳的变换以改善压缩性能。在比特流中信号通知选择，使得对应解码器可以解析比特流，并且使用与编码器使用的相同(但是逆)变换来对视频信号进行解码。