[发明专利]一种适用于神经网络滤波器的残差映射算法

权利要求书

1.一种适用于神经网络滤波器的残差映射算法，特征在于，通过将残差进行自适应映射，使其映射到失真域上，以减少重建失真的大小，提升神经网络滤波器的性能；具体步骤如下：

(1)首先使用神经网络滤波器对重建图像进行滤波，得到滤波后的图像；把滤波后的图像和滤波前的图像做差，得到的值定义为残差；计算滤波后图像和原始输入图像之间的差别，定义为失真；设R_o为失真，即原始像素Y_o和去方块滤波的输出X之间的差异：

R_o＝Y_o-X， (1)

类似地，设R_S为残差，即神经网络滤波输出Y_S和去方块滤波的输出X之间的差异：

R_S＝Y_S-X， (2)

(2)使用函数对残差R_S和失真R_o进行拟合，其中残差作为输入，失真作为目标；假设以λ为参数的函数f_λ(·)，可以实现对R_S的映射；需要找到这样的λ使得变换后的R_S与R_o之间的距离最小；距离采用均方误差MSE,MSE表示重建的PSNR值:

这里，对于f_λ(·)为线性函数，则有：

考虑λ需要进行量化编码，在执行公式(4)搜索的时候，使用量化后的λ进行搜索：

(3)使用搜索中的不同系数对残差依次进行变换，用变换后的残差和失真计算新产生的MSE(D)，并计算拟合系数带来的码率R，计算率失真优化函数J搜索的损失函数为:

J＝D+kR(λ)

＝(λR_S-R_o)²+kR(λ)， (6)

其中，参数k为率失真优化函数J的超参数；

(4)在所有的候选函数中，保存具有最低率失真优化损失的拟合系数作为最终选择的系数；由于选用的f_λ(·)是线性函数，所以R(λ)是常数，则进行比较的时候，可以忽略这一项，只考虑D，即选择具有最小重建损失(λR_S-R_o)²的λ进行无损熵编码，编码模型选择旁路编码；从而J＝D,实现了对搜索过程简化；

(5)将映射后的残差添加到滤波器输入上，得到重建，并将拟合系数编入到码流中；由于拟合系数已经编入到码流中，而且在解码端预设了相同的拟合函数，在解码端，可以无损地将λ解码出来，从而保证编解码的匹配；于是，重建像素为其将会作为SAO的输入，进行后续的滤波：