[发明专利]基于二次变换的图像编码方法及其装置

权利要求书

1.一种由解码设备执行的图像解码方法，该图像解码方法包括：

从比特流中推导目标块的量化变换系数；

通过基于所述目标块的所述量化变换系数的解量化来推导变换系数；

基于所述变换系数的逆二次变换来推导修改的变换系数；

基于所述修改的变换系数的逆一次变换来推导所述目标块的残差样本；以及

基于所述目标块的所述残差样本来生成重构图片，

其中，逆二次变换是基于变换核矩阵来执行的，

其中，所述变换核矩阵是基于变换索引和变换集来获得的，

其中，所述变换索引表示第一索引信息、第二索引信息和第三索引信息中的至少一个，所述第一索引信息指示所述逆二次变换不被应用于所述目标块，所述第二索引信息将第一变换核矩阵指示为所述逆二次变换的所述变换核矩阵，并且所述第三索引信息将第二变换核矩阵指示为所述逆二次变换的所述变换核矩阵，

其中，所述变换集基于所述目标块的帧内预测模式来确定，

其中，基于所述帧内预测模式等于0或1，所述变换集被确定为第一变换集索引值，

其中，基于所述帧内预测模式大于等于2并且小于等于12，所述变换集被确定为第二变换集索引值，

其中，基于所述帧内预测模式大于等于13并且小于等于23，所述变换集被确定为第三变换集索引值，

其中，基于所述帧内预测模式大于等于24并且小于等于44，所述变换集被确定为第四变换集索引值，

其中，基于所述帧内预测模式大于等于45并且小于等于55，所述变换集被确定为所述第三变换集索引值，并且

其中，基于所述帧内预测模式大于等于56，所述变换集被确定为所述第二变换集索引值。

2.一种由图像编码设备执行的图像编码方法，该图像编码方法包括：

基于应用于目标块的帧内预测模式来推导预测样本；

基于所述预测样本来推导所述目标块的残差样本；

基于所述残差样本的一次变换来推导所述目标块的变换系数；

基于所述变换系数的二次变换来推导修改的变换系数；

通过执行基于所述修改的变换系数的量化来推导量化变换系数；

确定变换集和变换核索引；以及

生成表示第一索引信息、第二索引信息和第三索引信息中的至少一个的变换索引，所述第一索引信息指示逆二次变换不被应用于所述目标块，所述第二索引信息将第一变换核矩阵指示为所述逆二次变换的所述变换核矩阵，并且所述第三索引信息将第二变换核矩阵指示为所述逆二次变换的所述变换核矩阵，

其中，所述变换集基于所述目标块的所述帧内预测模式来确定，

其中，基于所述帧内预测模式等于0或1，所述变换集被确定为第一变换集索引值，

其中，基于所述帧内预测模式大于等于2并且小于等于12，所述变换集被确定为第二变换集索引值，

其中，基于所述帧内预测模式大于等于13并且小于等于23，所述变换集被确定为第三变换集索引值，

其中，基于所述帧内预测模式大于等于24并且小于等于44，所述变换集被确定为第四变换集索引值，

其中，基于所述帧内预测模式大于等于45并且小于等于55，所述变换集被确定为所述第三变换集索引值，并且

其中，基于所述帧内预测模式大于等于56，所述变换集被确定为所述第二变换集索引值。