[发明专利]带宽压缩量化及反量化方法

权利要求书

1.一种带宽压缩量化方法，其特征在于，包括：

(a)获取预测残差；

(b)根据所述预测残差获取量化模式；步骤(b)包括：(b1)获取量化参数和量化补偿值；(b2)根据所述预测残差、所述量化参数、所述量化补偿值采用第一预估模式获取所述预测残差的第一RDO；(b3)根据所述预测残差、所述量化参数、所述量化补偿值采用第二预估模式获取所述预测残差的第二RDO；(b4)比较所述第一RDO和所述第二RDO，若所述第一RDO小于所述第二RDO，则所述量化模式为第一量化模式；否则所述量化模式为第二量化模式；其中，所述第一预估模式包括根据量化参数和量化补偿值对所述预测残差依次进行量化处理、反量化处理、补偿处理，所述第一量化模式为编码端对所述预测残差进行量化处理，解码端进行反量化和补偿处理；所述第二预估模式包括根据量化参数和量化补偿值对所述预测残差依次进行补偿处理、量化处理、反量化处理，所述第二量化模式为编码端对所述预测残差依次进行补偿处理、量化处理，解码端进行反量化处理；

根据所述预测残差获取波动系数和波动状态索引；

(c)根据所述量化模式和所述预测残差获取量化残差，包括：选择波动状态表中的一组波动状态进行补偿；

其中，波动状态表同时固定存储于编码端和解码端内部，波动状态表包括波动系数k和多组波动状态c₀～c_pixnum-1，pixnum是宏模块MB中像素数量；波动系数k满足公式：lossres_i为MB中第i位像素的残差损失；pixnum_none0为残差损失内非0的数量；波动状态索引为波动状态对应的标识号。

2.根据权利要求1所述的量化方法，其特征在于，步骤(c)之后，还包括：将所述量化残差、所述量化模式、所述波动系数、所述波动状态索引依次写入码流中。

3.根据权利要求1所述的量化方法，其特征在于，根据所述预测残差获取波动系数和波动状态索引包括：

(x21)获取所述预测残差的残差损失；

(x22)根据所述残差损失获取波动系数；

(x23)根据所述波动系数、所述残差损失、波动状态表获取波动状态索引。

4.根据权利要求3所述的量化方法，其特征在于，步骤(x23)包括：

(x231)根据所述残差损失、所述波动系数、所述波动状态表获取每个波动状态对应的sad值；

(x232)获取sad值最小时对应的所述波动状态索引。

5.一种带宽压缩反量化方法，其特征在于，包括：

获取码流中的量化模式、量化残差、波动系数、波动状态索引；其中，波动状态表同时固定存储于编码端和解码端内部，波动状态表包括波动系数k和多组波动状态c₀～c_pixnum-1，pixnum是宏模块MB中像素数量；波动系数k满足公式：lossres_i为MB中第i位像素的残差损失；pixnum_none0为残差损失内非0的数量；波动状态索引为波动状态对应的标识号；

根据所述量化模式和所述量化残差获得第一反量化预测残差；包括：根据量化模式对量化残差进行反量化处理得到第一反量化预测残差；所述量化模式分为第一量化模式和第二量化模式，所述第一量化模式为编码端对所述预测残差进行量化处理，解码端进行反量化和补偿处理；所述第二量化模式为编码端对所述预测残差依次进行补偿处理、量化处理，解码端进行反量化处理；

根据所述第一反量化预测残差、波动系数、波动状态索引获得第二反量化预测残差；包括：根据固定存储在解码端的波动状态表、查询波动状态索引对应的波动状态c₀～c_pixnum-1，对第一反量化预测残差进行补偿以获得第二反量化预测残差，其中，pixnum是MB中像素数量；

其中，码流中的量化模式是在第一量化模式和第二量化模式中选择RDO较小的量化模式。