[发明专利]一种图像去噪神经网络训练方法在审

专利信息
申请号: 202210143937.9 申请日: 2022-02-17
公开(公告)号: CN114186686A 公开(公告)日: 2022-03-15
发明(设计)人: 齐政;王彬;徐凯;赵佳佳;王中杰 申请(专利权)人: 江苏游隼微电子有限公司
主分类号: G06N3/08 分类号: G06N3/08;G06F17/18
代理公司: 南京瑞弘专利商标事务所(普通合伙) 32249 代理人: 吴旭
地址: 211135 江苏省南京市栖霞区麒麟科技*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 图像 神经网络 训练 方法
【说明书】:

发明公开了一种图像去噪神经网络训练方法,在利用图像去噪数据集对图像去噪神经网络进行模型训练,对每一层卷积网络输出特征图参数进行归一化处理时,对于特征图的每个批量,按通道数C将像素分成X组,在每个组中间隔M个通道进行采样,然后对采样的不同通道的像素求均值和标准差,再使用求得的均值和方差对本组中各通道的像素数据做归一化,获得0~1分布。本发明计算在批量维度的方差和均值,以此来进行归一化,并进行间隔通道采样计算,由于批量维度N的数值固定,在归一化计算过程中,计算与批量大小无关,因此能够在减小运算量的同时,使得神经网络在图像去噪任务中不受到batch size的影响,具有出色的表现。

技术领域

本发明涉及神经网络领域,具体涉及一种神经网络训练方法。

背景技术

数字图像在数字化和传输过程中,常常受到成像设备与外部环境噪声干扰等影响, 引入了不同类型的复杂噪声。图像的去噪任务要求在尽可能去除图像中噪声的同时,还应保持原有图像的边缘、纹理等细节结构信息。

现有技术中,使用卷积通过端到端的残差学习,从函数回归角度用卷积神经网络将噪声从噪声图像中分离出来,取得了显著优于其他方法的去噪结果。

由于去噪神经网络在训练过程中涉及到不同网络层的融合和叠加,不同层的参数进行融合之后参数会不可避免的发生改变,使得下一层的输入数据变化范围非常大,因此越往后面的层参数分布变化会越剧烈。虽然在神经网络内部每一层的输入数据分布不同,但是最终的样本标记是固定不变的,也就是说边缘概率不同而条件概率相同。因此,在深度学习领域中,在数据处理和分析之前,为了减小参数变化的影响,通常必不可少的一步是要将数据进行收敛,而收敛的途径主要为将每一层网络的参数进行归一化处理,把数据的变化范围映射到一个区间内。

目前,在深度学习去噪领域常用的是批处理归一化(Batch Normalization,BN)方法,批处理归一化方法适用于各种网络进行训练。然而,沿着批量尺寸进行归一化会带来问题,当批量尺寸(batch size)变小时,BN的误差会迅速增加,这是由于批量统计量估计不准确造成的。这限制了BN用于训练更大的模型,并将特征转移到包括检测、分割和视频在内的计算机视觉任务中,这些任务需要受内存消耗限制的小批量。

在去噪任务中,batch size的限制要求更高,包括检测、分割、识别等建立在它们之上的高级系统。例如,Faster和Mask R-CNN框架仅使用1或2张图像的批量大小,因为更高的分辨率在使用3D卷积的视频分类中,时空特征的存在引入了时间长度和批处理大小之间的权衡。BN的使用通常要求这些系统在模型设计和批量大小之间妥协。但是BN存在以下两个问题:

(1)每次是在一个批量(batch)上计算均值和方差,如果batch size太小,则计算的均值和方差不足以代表整个数据分布。

(2)如果batch size太大,则会超过硬件的内存容量,需要跑更多的训练次数,导致总训练时间变长;且会直接固定梯度下降的方向,导致神经网络很难更新。

发明内容

发明目的:针对上述现有技术,提出一种图像去噪神经网络训练方法,在减小运算量的同时,使得神经网络在图像去噪任务中不受到batch size的影响。

技术方案:一种图像去噪神经网络训练方法,包括:

步骤1:构建图像去噪数据集,将数据集中的图像修剪成统一尺寸,并进行数据增强处理;

步骤2:利用步骤1得到的图像去噪数据集对图像去噪神经网络进行模型训练,在训练的过程中,每一层卷积网络在经过卷积核卷积之后,对输出的特征图参数进行归一化处理;

其中,对参数进行归一化处理包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江苏游隼微电子有限公司,未经江苏游隼微电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210143937.9/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top