[发明专利]提高数字信号变换性能的方法及数字信号变换方法和装置

说明书

技术领域

本发明涉及数字信号处理技术领域，尤其涉及一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置。

背景技术

视频和图像编码技术作为一种数字信号处理方式，是数字视频和图像这一重要多媒体信息得以被广泛应用的基础和关键。当前基于块的视频编码混合框架下，视频编码一般包括以下四大块：预测编码、变换以及量化、熵编码、环路滤波。其中变换的主要功能在于去除预测残差之间的相关性，集中残差能量，有利于后续的熵编码，从整体上提高视频编码的效率。

在JPEG、MPEG-1/2/4、H.261等视频图像编码标准中，主要采用了浮点的离散余弦变换（DCT），在实际实现中，不同的硬件产品关于浮点数的运算精度不一样，从而在这些标准下的编解码器之间可能会出现失配现象。鉴于此，在H.264/AVC、H.265以及国内视频编码标准AVS1和AVS2中都采用了整数化的变换。在H.264/AVC和AVS中，变换核中所有数值都是整数，各数值之间的比例与DCT矩阵无直接联系，且各变换基的模不尽相同，从而变换过程中引入了缩放运算以及相应的（预）缩放矩阵。在H.264/AVC和AVS中变换最大为8x8大小，引入缩放运算不会带来很多的运算复杂度和存储复杂度，在整体上能简化变换过程的运算；然而当变换大小变得很大时，比如32x32和64x64，此时如果引入缩放运算，其带来的运算、存储复杂度相当大，故在最新一代的国际/内标准H.265和AVS2中，整数化的DCT变换被采用，这类变换的变换核矩阵A是通过带无理数的DCT矩阵乘以一个倍数（Factor）得到，如式（1）所示。

A＝int{DCT×Factor}（1）

其中DCT为无理数的DCT矩阵，其表达式可用公式（2）所示，“int”是取整函数。当Factor相同时，如果取整函数不一样，所得到的变换核矩阵A也是不一样的。不同的Factor和取整函数，可以得到变换性能（去相关能力、变换基的正交程度和归一程度所影响的变换失真）不同的变换核矩阵。所以取整函数的设计对整个变换的影响非常大。

其中变换核矩阵的大小为N×N。

现有的H.265中的各个变换核矩阵的性能尚存在改善的空间，尤其是变换基的正交程度和归一程度尚待提高；而当前尚在制定的AVS2标准中，其变换核在去相关能力上也需要提高，变换核带来的变换失真也需要降低。

当变换核矩阵确定后，变换过程的设计也对性能有着莫大的影响。在当前的AVS2草案中，其变换过程中的数据位宽会超过32-bit，位宽的设计尚缺完美。

由此可见，不论是H.265还是目前尚在制定的AVS2标准中，其变换过程的设计均还有提高的空间（包括变换核矩阵以及变换过程），因此，在视频图像编码中，现有的数字信号变换核去相关性不够强，正交、归一程度不够好而导致变换失真过大，变换性能不理想。

发明内容

本发明提供了一种提高数字信号变换性能的方法，使用该方法构造变换核矩阵能够保证数字信号变换具有更高的去相关能力和更低的变换失真，从而提高了数字信号变换的性能。

本发明提供了一种提高数字信号变换性能的装置，该装置构造变换核矩阵能够保证数字信号变换具有更高的去相关能力和更低的变换失真，从而提高了数字信号变换的性能。

本发明还提出一种数字信号变换方法及装置，能够保证数字信号变换具有更高的性能。

本发明的技术方案是这样实现的：

一种提高数字信号变换性能的方法，构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足（a）和（b）两个条件：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)＜TH；

其中，式（a）中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如下式；Factor是一个大于1的因子，[]表示四舍五入取整；

式（b）中的TH是一个预设的阈值，J(A)由下式定义；

上式中的α,β,γ是三个参数，满足β＜α,γ＜α，dist(A)，normal(A)和orth(A)的定义下式所示；

其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。