[发明专利]基于AVS的并行量化和反量化方法

说明书

技术领域

本发明涉及数字视频编解码技术领域，具体涉及基于AVS(Audio Video coding Standard)标准中，使用SIMD(Single Instruction Multiple Data)指令优化量化和反量化的方法。

背景技术

随着AVS标准在广播电视、互联网、机顶盒、监控等大规模产业化，在PC和嵌入式设备上播放和录制AVS文件要求越来越多，且都希望实时，由于AVS采用高复杂度算法获得高编码效率，因此，需要对编解码器进行有效的程序优化，才可能达到实时，画面流畅，播放和录制达到25fps，甚至30fps。

对编解码AVS码流分析，QUANT/DEQUANT耗时占很大比重，特别的，如果量化后的数据都为0，将可以不需要进行许多运算，优化好它们就能有效的提高编解码效率。现在的PC和嵌入式处理器芯片有SIMD指令，如：intel的mmx、sse和AMD的3D Now！，ARM的NEON,使用好这些SIMD指令，能有效地提高编解码速度。

量化公式如下：

如果c_ij大于等于0，则：

d_ij＝(((c_ij*scale_m[i,j]+2¹⁸)>>19)*Qp(qp)+qp_const)>>15；

如果c_ij小于0，则：

d_ij＝-((((-c_ij*scale_m[i,j]+2¹⁸)>>19)*Qp(qp)+qp_const)>>15)；其中，c_ij为变换后的结果，d_ij为量化后的结果，scale_m[i,j]为标准规定的如下值：

{

32768,37958,36158,37958,32768,37958,36158,37958,

37958,43969,41884,43969,37958,43969,41884,43969,

36158,41884,39898,41884,36158,41884,39898,41884,

37958,43969,41884,43969,37958,43969,41884,43969,

32768,37958,36158,37958,32768,37958,36158,37958,

37958,43969,41884,43969,37958,43969,41884,43969,

36158,41884,39898,41884,36158,41884,39898,41884,

37958,43969,41884,43969,37958,43969,41884,43969

}；

Qp(qp)为标准规定的如下值，qp值大于等于0并且小于64：

{

32768,29775,27554,25268,23170,21247,19369,17770,

16302,15024,13777,12634,11626,10624,9742,8958,

8192,7512,6889,6305,5793,5303,4878,4467,

4091,3756,3444,3161,2894,2654,2435,2235,

2048,1878,1722,1579,1449,1329,1218,1117,

1024,939,861,790,724,664,609,558,

512,470,430,395,362,332,304,279,

256,235,215,197,181,166,152,140

}；

qp_const是量化过程需要增加的偏差值，标准定义为：如果是I图像，则qp_const为(1<<15)*10/31，如果是P,B图像，则qp_const为(1<<15)*10/62。