[实用新型]用于数字视频编解码的3乘3整数DCT变换量化器

说明书

技术领域

本实用新型涉及数字视频压缩编解码的技术领域，具体涉及一种用于数字视频编解码的3乘3整数DCT变换量化器，同时给出了其相匹配的3乘3整数IDCT逆变换反量化器。

背景技术

H.264和H.265视频编解码标准都采用了4×4整数DCT变换，编解码端都需要归一化，量化与变换归一化相结合，通过乘法、移位实现。我国具有自主知识产权的AVS标准采用8×8整数DCT变换，编码端进行变换归一化，量化与变换归一化相结合，通过乘法和移位实现。整数DCT变换的产生解决了计算精度误差大和编码效率低的问题，其特点是用整数变换矩阵代替DCT的浮点数变换矩阵，这样变换过程完全是整数运算，不存在精度误差，保证了编码的可逆性，同时整数乘法可用加减法和移位运算代替，运算量大幅度减少。

4×4整数DCT变换可以表示为：

式(1)中，X代表原始图像块，Y代表得到的DCT系数。是4×4整型变换中的核心2D变换。E_4f是缩放因数矩阵，表示的每个元素都要乘以矩阵E_4f中相同位置的对应缩放因子，且

4×4整数IDCT逆变换表示为：

式(2)中，Y代表图像块的DCT变换系数，X′表示经过IDCT逆变换得到的图像块。

4×4整数DCT变换是正交变换。对于一个4×4整数DCT变换，其核心2D变换的运算量为：乘法(乘2运算)32次，加减法96次。对于一个1920×1080的彩色高清视频帧，采用4：2：0的子采样格式则需要194400个4×4整数DCT变换，其核心2D变换需要的乘法(乘2运算)次数为6220800，加减法次数为18662400。

为了进一步减少运算量，4×4整数DCT核心变换可以分两步完成：先对图像块的每一列做一维变换，再对变换结果的每一行做一维变换。行变换的运算量和列变换相同，可利用如下的蝶形运算实现4×4整数DCT核心变换：

首先，对式(1)中原始图像块X采用蝶形运算进行一维列变换：

进行运算，其中x_n,n＝0,1,2，3为X中任一列的元素，一维列变换结果为p_n,n＝0,1,2,3，一维列变换需要做四次，分别对X的4列进行一维列变换，即：

第一次蝶形运算输入为x₀＝x₀₀，x₁＝x₁₀，x₂＝x₂₀，x₃＝x₃₀，输出为p₀＝p₀₀，p₁＝p₁₀，p₂＝p₂₀，p₃＝p₃₀；

第二次蝶形运算输入为x₀＝x₀₁，x₁＝x₁₁，x₂＝x₂₁，x₃＝x₃₁，输出为p₀＝p₀₁，p₁＝p₁₁，p₂＝p₂₁，p₃＝p₃₁；

第三次蝶形运算输入为x₀＝x₀₂，x₁＝x₁₂，x₂＝x₂₂，x₃＝x₃₂，输出为p₀＝p₀₂，p₁＝p₁₂，p₂＝p₂₂，p₃＝p₃₂；