[发明专利]复用精简反量化乘法因子和位移表的数据压缩方法和装置

说明书

本发明提供了一种通过复用精简的反量化乘法因子表和反量化位移表来实现反量化的数据压缩方法和装置，将这两个表的条目数都限制在一个预定的常数Tqp+1（Tqp小于qp的最大值MAXqp）内，当量化因子qp取值0至Tqp之间（含0和Tqp，其中Tqp）时，通过直接查表获得对应的反量化乘法因子的值和反量化位移的值，而当qp的取值大于Tqp时，按照一种预定的规则将qp的值映射为0至Tqp之间（含0和Tqp，其中Tqp）的值，然后查表获得反量化乘法因子的过渡值和反量化位移的过渡值，再按照一种预定的规则对所述过渡值进行映射获得最终的对应的反量化乘法因子的值和反量化位移的值。

技术领域

本发明涉及一种对数据进行压缩的编码及解码（也称译码）系统，特别是对数据进行反量化的编码及解码的方法和装置。

背景技术

随着人类社会进入大数据、人工智能、云计算、移动计算、云-移动计算、超高清（4K）和特超高清（8K）视频图像分辨率、4G/5G通讯、虚拟现实的时代，对各种数据，包括大数据、图像数据、视频数据、音频数据、语音数据、神经网络数据、以及各种新形态的数据，进行超高压缩比和极高质量的数据压缩成为必不可少的技术。数据压缩领域的一个新趋势是数据的动态范围不断增大。

数据集是由数据元素（例如：字节、比特、像素、像素分量、空间采样点、变换域系数）组成的集合。对排列成一定空间（一维、二维、或多维）形状的数据集（例如：一个一维数据队列、一个二维数据文件、一帧图像、一个视频序列、一个变换域、一个变换块、多个变换块、一个三维场景、一个持续变化的三维场景的序列），特别是二维或以上数据集进行数据压缩的编码（以及相应的解码）时，通常把此数据集划分成若干具有预定形状和大小（即元素数目）的块的子集，称为编码块（从解码的角度也就是解码块，统称为编解码块），以编解码块为单位，一块一块进行编码或者解码。在任一时刻，正在编码中的编码块称为当前编码块。在任一时刻，正在解码中的解码块称为当前解码块。当前编码块或当前解码块统称为当前编解码块或简称为当前块。正在编码或者解码中的数据元素（有时也简称为元素）称为当前编码数据元素或者当前解码数据元素，统称为当前数据元素，简称为当前元素。元素由N个分量（通常1≤N≤5）组成，因此数据集和编解码块也都由N个分量组成。

数据的有损压缩的一种主要手段是量化和反量化。简单地说，量化实际上就是将待压缩的数据作为一个整数被除数除以一个称为量化间隔的整数获得商即量化后数据，而反量化则是将所述商乘以所述量化间隔获得所述被除数的复原值。所述复原值与所述被除数的差就是压缩误差。

量化与反量化的例1：待压缩的数据是254，量化间隔是47，则量化后数据是5，复原值是235，压缩误差是19。

量化与反量化的例2：待压缩的数据是254，量化间隔是14，则量化后数据是18，复原值是252，压缩误差是2。

显而易见，量化后数据小于待压缩的数据，可用较少的比特来表示，从而达到数据压缩的效果。也可见，量化间隔越大，压缩比越大而压缩误差也越大，量化间隔越小，压缩比越小而压缩误差也越小。因此，量化间隔是调节和平衡压缩比和压缩误差的关键参数。

在各种视频编解码标准中，都使用具有一个预定取值范围0～MAXqp（MAXqp ≥50，如MAXqp = 52）的量化因子（通常记为qp或QP或Qp）来控制量化间隔的大小，进而调节和平衡压缩比和压缩误差。

量化和反量化是一一对应的，规定了两者之一也就规定了另一者。由于各种视频编解码标准仅对解码器做出规范性规定，各种视频编解码标准中仅对反量化方式做出规范。在现有各种视频编解码标准中，有下列两种反量化方式。

反量化方式1：使用一个1/M（M≤10）比特的反量化乘法因子表{dequant[m]: 0≤m≤M-1}和qp%M（其中%是取模运算符，表示qp除以M得到的余数）与qp/M（即qp除以M）这两种操作的方法。在反量化方式1中，从量化后数据Q获得反量化后的复原值C的操作如下：