[发明专利]基于AVS的并行量化和反量化方法

权利要求书

1.基于AVS的并行量化方法，其特征在于，包括以下步骤：

步骤A：分析量化公式中的参数，分别提取量化公式中的每个参数，每个参数均为16位数据，参数数量包括5个，分别记为第一参数、第二参数、第三参数、第四参数和第五参数，第一参数位于第一矩阵内，第二参数位于第二矩阵内，第三参数、第四和第五参数为固定参数，量化公式为：d_ij＝(((c_ij*scale_m[i,j]+2¹⁸)>>19)*Qp(qp)+qp_const)>>15，其中，d_ij为量化结果，c_ij为变换结果，i和j的取值范围为0-7,Qp(qp)为量化矩阵，qp_const为偏差值，将量化公式进行等效转换，等效转换后的量化公式：d_ij＝((((c_ij*scale_m[i,j]+2²)>>3)*Qp(qp))<<1+qp_const<<1)>>16，其中，第一参数为c_ij，第二参数为scale_m[i,j]，第三参数为2²，第四参数为Qp(qp)，第五参数为qp_const；

步骤B：分别将第一矩阵的当前行的8个第一参数和第二矩阵的当前行的8个第二参数并行送入相应的寄存器中，将8个第三参数、8个第四参数和8个第五参数亦分别并行送入相应的寄存器中；

在步骤B与步骤C之间还包括：

步骤B1：判断第一矩阵中的当前行的8个第一参数是否都为0，若是，则跳过步骤C的运算，在步骤D中直接获得8个量化结果，且8个量化结果均为0；否则执行步骤C；

步骤C：利用保存有对应参数的寄存器对量化公式进行运算，利用保存有对应参数的寄存器对等效转换后的量化公式进行运算，首先取c_ij*scale_m[i,j]部分的高16位数据，再取2*((c_ij*scale_m[i,j]+2²)>>3)*Qp(qp)部分的高16位数据和低16位数据，将2*((c_ij*scale_m[i,j]+2²)>>3)*Qp(qp)部分的低16位数据与2*qp_const进行饱和相加，若饱和相加结果大于2¹⁶，则向2*((c_ij*scale_m[i,j]+2²)>>3)*Qp(qp)部分的高16位数据进一位，否则不需要进位；

步骤D：获得同一行的8个量化结果；

步骤E：重复执行8次步骤B至步骤D，依次获得8行量化结果，得到8*8量化结果矩阵。

2.根据权利要求1所述的基于AVS的并行量化方法，其特征在于，在步骤B中，将为负数的第一参数的符号位去掉，使该第一参数转为正数；在步骤D中，针对步骤B中为负数的第一参数，在对应的量化结果中还原去掉的符号位，将该量化结果转为负数。

3.根据权利要求1所述的基于AVS的并行量化方法，其特征在于，寄存器为SSE2中的xmm寄存器。