[发明专利]一种基于先验滤波的轻量化回归网络构建方法

说明书

本发明公开了一种基于先验滤波的轻量化回归网络构建方法，针对原始图像集中的各原始图像进行指定退化操作，获取对应退化图像，将原始图像和对应退化图像切成图像块，获取训练样本对；在训练样本对中进行聚类，依据聚类结果将训练样本对划分为不同类别；针对每一类别样本对，计算获得该类样本的先验滤波器，并将先验滤波器进行三值量化；利用三值量化后的先验滤波器构建轻量化回归网络并进行训练，在完成轻量化回归网络的训练后，输入的退化图像能够端到端地重建出更高质量的图像。本发明使用少量固定的先验滤波器可以构建出针对性强但更为轻量化的网络，计算简单、训练速度快、所需存储空间小，并更加适应小样本问题。

技术领域

本发明涉及深度学习领域，具体涉及一种基于先验滤波器的轻量化网络构建方法。

背景技术

深度学习是机器学习领域的最具有潜力的方向，是一种包含多级非线性变换的层级机器学习方法，通过构建适用于不同任务的网络结构取得了远优于传统算法的效果，在计算机视觉和目标检测、自然语言处理、语音识别和语音分析等领域取得了突破性进展。随着研究的不断深入，深度网络模型在不断逼近计算机视觉任务的精度极限的同时，其深度和尺寸也在成倍增长，其所需的计算消耗以及硬件成本也随之递增，这限制了深度网络在移动端设备上的广泛应用；另外，参数量多的网络，需要大量样本来训练，所以在小样本问题上的效果不佳。因此，精简网络参数，同时不降低网络性能的轻量化网络模型的研究越来越受到各个领域的重视。

近年来提出的轻量化模型主要从两个方面考虑：一是，从模型权重数值角度压缩；二是，从网络架构角度压缩。XNornet是模型权重数值压缩的一种经典网络，通过将输入和权重都进行二值化操作，以此达到既减少模型存储空间，又加速模型的目的，但识别率却不如经典网络。同时，通过设计轻量化网络结构来减小模型规模也是研究的热点之一，例如：SqueezeNet、MobileNet、ShuffleNet、Xception，通过将3x3卷积滤波器替换为1x1卷积滤波器，以及采用名为depth-wise separable convolution的卷积方式及其改进方法代替传统卷积方式来达到减少网络参数的目的。最近，一种基于LBP思想的固定参数滤波器网络Local Binary Convolution Neural Networks(LBCnn)使用了基于LBP的滤波器，但是这种网络使用大量堆积这种滤波器来提高识别精度，参数仍然是海量的。

发明内容

本发明是为避免上述现有技术所存在的问题，提供一种基于先验滤波的轻量化回归网络构建方法，通过结合先验知识更好地设计少而精的滤波器，从而构建参数量小的轻量化网络。

本发明为解决技术问题采用如下技术方案：

本发明基于先验滤波的轻量化回归网络构建方法的特点是：首先针对原始图像集中的各原始图像进行指定退化操作，获取对应退化图像，将原始图像和对应退化图像切成图像块，获取训练样本对；在训练样本对中进行聚类，依据聚类结果将训练样本对划分为不同类别；针对每一类别样本对，计算获得该类样本的先验滤波器，并将先验滤波器进行三值量化；利用三值量化后的先验滤波器构建轻量化回归网络，所述轻量化回归网络包含多级滤波层、激活函数层，以及一个卷积输出层；通过训练所述轻量化回归网络，输入的退化图像能够端到端地重建出更高质量的图像。

本发明基于先验滤波的轻量化回归网络构建方法的特点是按如下步骤进行：

步骤101：获取训练样本集

针对原始图像集中的原始图像X进行指定退化操作，获得式(1)所表征的退化图像Y：

Y＝DX+n_d (1)，

式(1)中，D表示指定的图像退化操作，n_d为退化过程中产生的噪声；