[发明专利]一种变换基自适应的变换编码方法

说明书

 

技术领域

本发明属于计算机领域，涉及一种变换基自适应的变换编码方法。涉及的技术领域包括各种标准图像和视频压缩编码技术。本发明是通过变换基自适应来提高图像和视频压缩编码领域中变换编码的效率，从而提高编码器的整体性能。

 

背景技术

在此处键入技术领域描述段落。

背景技术

变换编码在图像和视频压缩编码中得到了非常广泛的应用，其功能是将图像/视频数据通过变换到频域达到把分散冗余信息集中起来，大大有利于量化数据从而获得高效压缩编码的目的。在图像/视频编码中经常使用的变换是离散余弦变换（DCT），DCT使用的实数变换矩阵存在缺点。整数余弦变换（ICT）用整数数值的矩阵来近似DCT的实数矩阵，解决了两个问题：一是正反变换都是整数，不存在运算精度误差问题；二是整数矩阵乘法可以用加法和移位运算实现，极大地降低了计算复杂度。

视频压缩编码标准H.264、AVS等使用ICT作为编码器的变换方法，将时域的残差数据变换到频域，使得只剩很少的非零数据。ICT是从离散余弦变换（DCT）演化而来，用整数近似替代DCT中的实数，将其变为适于计算机处理的矩阵操作。对一个M×M的ICT矩阵可由M/2个整数组成的基来生成。分析ICT的原理，整数变换矩阵应满足以下几个特性：（a）能归一化成正交矩阵；（b）变换运算可全部用移位运算实现；（c）归一化后的正交矩阵同原始的DCT矩阵系数相近；（d）整数变换矩阵系数不是很大，变换运算能用16位精度表示。在这4个约束条件和正交性约束条件下我们可以通过一些搜索算法寻找到很多符合条件的变换基。例如：H.264中8×8和4×4的整数变换矩阵分别由=[12,10,6,3]和 =[2, 1]变换基生成，而AVS中8×8和4×4的整数变换矩阵分别由=[10,9,6,2]和=[3, 1]变换基生成。同理，我们可以用相同的方法搜索一组生成16×16 ICT的变换基，并在能量集中效率，去相关性能和计算的简单性等约束条件的指导下选择变换性能最优的变换基。由于所有的整数变换矩阵都是离散余弦变换中实数矩阵的一种近似。所以不可能在任意的条件下对所有内容的图像或视频应用都表现出最优的性能，往往会受视频序列的特性和量化步长等影响。

作为生成整数变换矩阵的变换基往往通过计算机搜索得到，迄今为止有大量搜索得到的变换基。由于变换基繁多和视频序列测试工作的繁琐，它们中的大多数并未被系统测试过或只经过在理想情况下的数学模拟，所以它们的真实性能未明。例如最初为了获得较高的变换效率，选用了取值较大的变换基，而很大时导到过高的变换复杂度，之后又选用了其它变换基。但由于视频序列特性和实际编码参数的不同，对固定变换基生成的变换矩阵不能取得最优的编码性能。

不同的变换基会产生不同的变换性能，在判断这些变换编码最优的变换基时，需要一个衡量变换基变换性能的准则，本发明采用H.264 和AVS中已有的Lagrangian率失真优化技术（RDO）来评估变换基的性能。其定义如下：

　　     　　（1）

式中和分别表示在一个编码参数集O上某一确定参数编码的宏块产生的失真和码率，称为Lagrangian权值因子，在参数和量化参数Q选定后，编码器通过最小化Lagrangian代价函数实现对每一个宏块的编码模式的选择。

能量集中能力概念评估变换在于去除元素之间相关性的性能，使得变换后的能量能集中在较少的几个系数上，就是将元素由空域变换到频域，且变换后只有较少的几个非零系数。本发明采用式（2）作为能量集中能力的评估指标。

　　　　                   　（2）

式中是变换后系数的协方差的乘积，由数学均值不等式的性质可知，能量分布越平均，元素能量的乘积越大，值越大；能量分布越集中，能量的乘积越小，值越小。因此计算变换基的值能反应其对各种视频图像的能量集中能力。另外，本发明还采用去相关能力评估指标来搜索性能优异的变换基，如式（3）。

　　　                      （3）

式中是归一化的。用对作变换，得，协方差矩阵为：　，。

变换基的计算复杂度的高低直接关系到编码器速度，在硬件条件不变的情况下，总希望降低变换复杂度以换得更快的编码速度，在ICT中只存在加法和移位运算，本发明采用变换基的加法次数和移位次数的总和M来评估变换基的计算复杂度性能。