[发明专利]一种图像去噪神经网络训练方法在审
申请号: | 202210143937.9 | 申请日: | 2022-02-17 |
公开(公告)号: | CN114186686A | 公开(公告)日: | 2022-03-15 |
发明(设计)人: | 齐政;王彬;徐凯;赵佳佳;王中杰 | 申请(专利权)人: | 江苏游隼微电子有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06F17/18 |
代理公司: | 南京瑞弘专利商标事务所(普通合伙) 32249 | 代理人: | 吴旭 |
地址: | 211135 江苏省南京市栖霞区麒麟科技*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 图像 神经网络 训练 方法 | ||
本发明公开了一种图像去噪神经网络训练方法,在利用图像去噪数据集对图像去噪神经网络进行模型训练,对每一层卷积网络输出特征图参数进行归一化处理时,对于特征图的每个批量,按通道数
技术领域
本发明涉及神经网络领域,具体涉及一种神经网络训练方法。
背景技术
数字图像在数字化和传输过程中,常常受到成像设备与外部环境噪声干扰等影响, 引入了不同类型的复杂噪声。图像的去噪任务要求在尽可能去除图像中噪声的同时,还应保持原有图像的边缘、纹理等细节结构信息。
现有技术中,使用卷积通过端到端的残差学习,从函数回归角度用卷积神经网络将噪声从噪声图像中分离出来,取得了显著优于其他方法的去噪结果。
由于去噪神经网络在训练过程中涉及到不同网络层的融合和叠加,不同层的参数进行融合之后参数会不可避免的发生改变,使得下一层的输入数据变化范围非常大,因此越往后面的层参数分布变化会越剧烈。虽然在神经网络内部每一层的输入数据分布不同,但是最终的样本标记是固定不变的,也就是说边缘概率不同而条件概率相同。因此,在深度学习领域中,在数据处理和分析之前,为了减小参数变化的影响,通常必不可少的一步是要将数据进行收敛,而收敛的途径主要为将每一层网络的参数进行归一化处理,把数据的变化范围映射到一个区间内。
目前,在深度学习去噪领域常用的是批处理归一化(Batch Normalization,BN)方法,批处理归一化方法适用于各种网络进行训练。然而,沿着批量尺寸进行归一化会带来问题,当批量尺寸(batch size)变小时,BN的误差会迅速增加,这是由于批量统计量估计不准确造成的。这限制了BN用于训练更大的模型,并将特征转移到包括检测、分割和视频在内的计算机视觉任务中,这些任务需要受内存消耗限制的小批量。
在去噪任务中,batch size的限制要求更高,包括检测、分割、识别等建立在它们之上的高级系统。例如,Faster和Mask R-CNN框架仅使用1或2张图像的批量大小,因为更高的分辨率在使用3D卷积的视频分类中,时空特征的存在引入了时间长度和批处理大小之间的权衡。BN的使用通常要求这些系统在模型设计和批量大小之间妥协。但是BN存在以下两个问题:
(1)每次是在一个批量(batch)上计算均值和方差,如果batch size太小,则计算的均值和方差不足以代表整个数据分布。
(2)如果batch size太大,则会超过硬件的内存容量,需要跑更多的训练次数,导致总训练时间变长;且会直接固定梯度下降的方向,导致神经网络很难更新。
发明内容
发明目的:针对上述现有技术,提出一种图像去噪神经网络训练方法,在减小运算量的同时,使得神经网络在图像去噪任务中不受到batch size的影响。
技术方案:一种图像去噪神经网络训练方法,包括:
步骤1:构建图像去噪数据集,将数据集中的图像修剪成统一尺寸,并进行数据增强处理;
步骤2:利用步骤1得到的图像去噪数据集对图像去噪神经网络进行模型训练,在训练的过程中,每一层卷积网络在经过卷积核卷积之后,对输出的特征图参数进行归一化处理;
其中,对参数进行归一化处理包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江苏游隼微电子有限公司,未经江苏游隼微电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210143937.9/2.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序