[发明专利]一种基于原始生成对抗网络模型的分组卷积方法在审
申请号: | 201810101710.1 | 申请日: | 2018-02-01 |
公开(公告)号: | CN108470208A | 公开(公告)日: | 2018-08-31 |
发明(设计)人: | 周智恒;李立军 | 申请(专利权)人: | 华南理工大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063;G06N3/08;G06K9/62 |
代理公司: | 广州市华学知识产权代理有限公司 44245 | 代理人: | 李斌 |
地址: | 510640 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积 网络模型 分组 原始生成 对抗 神经网络 生成器 学习神经网络 随机噪声 损失函数 整个网络 初始化 判别器 特征图 融合 构建 更新 | ||
本发明公开了一种基于原始生成对抗网络模型的分组卷积方法,属于深度学习神经网络领域,包括以下步骤:S1、构造原始生成对抗网络模型;S2、构造神经网络充当生成器与判别器的功能;S3、初始化随机噪声,输入生成器中;S4、设定分组数量N,使神经网络的卷积在N个GPU上进行;S5、将N个特征图进行融合,更新损失函数,进行后续训练。本方法构建的基于分组卷积的深度卷积对抗网络模型,对卷积进行了分组,使其在多个GPU中同时进行,最后将卷积的结果进行融合,从而大大地减少了参数量,提高了整个网络训练的效率。
技术领域
本发明涉及深度学习神经网络技术领域,具体涉及一种基于原始生成对抗网络模型的分组卷积方法。
背景技术
生成式对抗网络(Generative Adversarial Network,简称GAN)是由Goodfellow在2014年提出的深度学习框架,它基于“博奕论”的思想,构造生成器(generator)和判别器(discriminator)两种模型,前者通过输入(0,1)的均匀噪声或高斯随机噪声生成图像,后者对输入的图像进行判别,确定是来自数据集的图像还是由生成器产生的图像。
在传统的对抗网络模型中,所有的卷积操作都只在单个GPU中进行,在这种情况下,整个网络训练的参数量十分巨大,每次训练之后都需要对庞大的参数量进行更新,训练的效率较为低下。
发明内容
本发明的目的是为了解决现有技术中的上述缺陷,提供一种基于原始生成对抗网络模型的分组卷积方法。
本发明的目的可以通过采取如下技术方案达到:
一种基于原始生成对抗网络模型的分组卷积方法,所述的分组卷积方法包括下列步骤:
S1、构造原始生成对抗网络模型,通过生成器生成图像并输入至判别器进行网络训练;
S2、构造包含N个卷积核的神经网络充当生成器与判别器的功能;
S3、初始化随机噪声,输入生成器中;
S4、设定分组数量N,使神经网络的卷积在N个GPU上进行;
S5、将N个特征图进行融合,更新损失函数,进行后续训练。
进一步地,所述的卷积核和所述的GPU的数量N是根据数据集图像特征的复杂程度进行设置。
进一步地,所述的步骤S4过程如下:
S41、设定分组数量N;
S42、将卷积分配到N个GPU上同时进行。
进一步地,所述的步骤S5过程如下:
S51、收集各个分组GPU卷积之后的特征图;
S52、将N个特征图进行融合,更新损失函数,进行后续训练。
进一步地,所述的损失函数的表达式为:
其中,D(x)表示判别器对图像的判别,pr表示数据集图像的分布,pg表示生成图像的分布,λ为超参数,为梯度。
本发明相对于现有技术具有如下的优点及效果:
本发明公开的基于原始生成对抗网络模型的分组卷积方法,对卷积进行了分组,使其在多个GPU中同时进行,最后将卷积的结果进行融合,从而大大地减少了参数量,提高了整个网络训练的效率,相比传统的对抗网络模型具有高效性。
附图说明
图1是本发明中原始生成对抗网络通过空洞卷积进行训练的整体流程图;
图2是将卷积层分组进行卷积的示意图。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南理工大学,未经华南理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810101710.1/2.html,转载请声明来源钻瓜专利网。