[发明专利]控制用于解码或编码视频序列的残差编码的方法和装置

说明书

一种控制残差编码的方法，所述残差编码用于解码或编码视频序列，包括根据视频序列的分辨率确定是否将主变换的小变换尺寸用于所述视频序列的编码块的残差编码；如果视频序列的分辨率低于预设阈值，确定使用所述主变换的小变换尺寸，并将第一变换集识别为所述主变换，所述第一变换集包括离散正弦变换(DST)‑4和离散余弦变换(DCT)‑4；如果视频序列的分辨率不低于预设阈值，确定不使用所述主变换的小变换尺寸，并将第二变换集识别为所述主变换，所述第二变换集包括DST‑7和DCT‑8；使用所述识别的主变换执行所述编码块的残差编码。

相关申请的交叉引用

本申请要求于2018年7月31日提交美国专利商标局的、申请号为62/712,818、发明名称为“复合正交变换”的美国临时申请，以及于2019年4月11日提交的、申请号为16/381,470、发明名称为用于改进的复合正交变换的方法和装置的美国申请的优先权，其全部内容通过引用并入本申请中。

技术领域

本申请涉及视频编码技术，尤其涉及一种控制用于解码或编码视频序列的残差编码的方法、装置、非易失性计算机可读存储介质和计算机设备。

背景技术

在高效视频编码(HEVC)中，核心变换为4点、8点、16点及32点离散余弦变换(DCT)-2。较小的DCT-2的变换核心矩阵为较大的DCT-2的一部分，如下所示。

4x4变换

8x8变换

16x16变换

32x32变换

DCT-2核心显示出对称/反对称特性，如下所列：

-特征#1：具有索引0、2、4……的偶数行与系数号N/2之前的对称点对称。

-特征#2：具有索引1、3、5、7……的奇数行与系数号N/2之前的对称点对称。

另外，N点DCT-2核心(表示为TN)为2N点DCT-2(表示为T2N)的一部分：

-特征#3：TN_x,y＝T2N_x,2y，其中x,y＝0,1,…,N-1。

基于上面的对称/反对称特性(特征#1和特征#2)以及N点DCT-2与2N点DCT-2(特征#3)之间的关系，支持所谓的“部分蝶形”实施方式，以减少操作计算(乘，加/减，移位)的数量，且可使用部分蝶形获得矩阵乘法的相同结果。

假如每个变换基是对称的或反对称的、且N点变换为2N点变换的一部分，则将其称为“递归变换”。递归变换的实施例包括DCT-2、阿达玛变换(Hadamard transform)、DCT-1、离散正弦变换(DST)-1和DST-2。对一个递归变换的变换基进行重排序产生另一递归变换。

除了已用于HEVC的DCT-2和4x4 DST-7，还提出将自适应多重变换(AMT)，或称为增强多重变换(EMT)或多重变换选择(MTS)，用于帧间及帧内编码块的残差变换。除HEVC中的当前变换外，AMT还使用多个从DCT/DST系选择的变换。新引入的变换矩阵为DST-7、DCT-8、DST-1和DCT-5。表1示出了选择的DST/DCT的基函数：

表1：用于N点输入的DCT-2/4/5/8和DST-1/4/7的变换基函数