[发明专利]具有低延迟的用于残差编码的模式依赖变换

权利要求书

1.一种用于对视频数据进行编码的方法，所述方法包括：

确定应用于残差数据的初级变换C_N；

确定应用于残差数据的二次变换Tr_K；

将初级变换C_N应用于残差数据；

将二次变换Tr_K选择性地应用于残差数据，

其中，N表示应用了初级变换C_N的输入向量的长度尺寸，K表示应用了二次变换Tr_K的初级变换输出的前几个系数的长度。

2.如权利要求1所述的方法，其中，确定二次变换Tr_K的步骤包括：

确定用于长度N的输入数据的第一相关矩阵R_N；

确定用于作为初级变换C_N的应用结果而获得的数据的第二相关矩阵U_N；

确定矩阵V_K,N为第二相关矩阵U_N的顶部K行和K列；

将V_K,N的卡洛南-洛伊变换（KLT）确定为W_K,N；

将W_K,N的基于整数的近似确定为Y_K,N，并将Y_K,N用作Tr_K。

3.如权利要求2所述的方法，还包括：

将W_K,N乘以2^m；

将乘法结果取整为最接近的整数，

其中，m是大于0的整数并表示所需的精度。

4.如权利要求2所述的方法，还包括对第一相关矩阵R_N进行平滑。

5.如权利要求1所述的方法，其中，将二次变换Tr_K选择性地应用于残差数据的步骤包括：

确定预测模式；

根据确定的预测模式，在水平方向和垂直方向中的至少一个上应用二次变换Tr_K。

6.如权利要求8所述的方法，其中，在水平方向和垂直方向上将初级变换C_N应用于残差数据，在水平方向和垂直方向上将二次变换Tr_K应用于残差，并且在水平方向上应用初级变换C_N、在垂直方向上应用初级变换C_N、在水平方向上应用二次变换Tr_K以及在垂直方向上应用二次变换Tr_K的顺序根据块尺寸和变换尺寸的值而变化。

7.如权利要求1所述的方法，还包括：在将初级变换C_N应用于残差数据之前翻转所述残差数据。

8.一种用于对视频数据进行解码的方法，所述方法包括：

确定应用于残差数据的逆二次变换inv（Tr_K），其中，inv（）表示逆运算；

确定应用于残差数据或逆二次变换单元的输出的逆初级变换inv（C_N）；

将逆二次变换inv（Tr_K）选择性地应用于残差数据；

将逆初级变换inv（C_N）应用于残差数据，

其中，N表示应用了逆初级变换inv（C_N）的输入向量的长度尺寸，K表示应用了逆二次变换inv（Tr_K）的残差数据的前几个系数的长度。

9.如权利要求8所述的方法，其中，确定逆二次变换inv（Tr_K）的步骤包括：

确定在编码器中的用于长度N的输入数据的第一相关矩阵R_N；

确定用于作为在编码期间对输入数据应用初级变换C_N的结果而获得的数据的第二相关矩阵U_N；

确定矩阵V_K,N为矩阵U_N的顶部K行和K列；

将V_K,N的卡洛南-洛伊变换（KLT）确定为W_K,N；

将W_K,N的基于整数的近似确定为Y_K,N，并将Y_K,N用作Tr_K。