[发明专利]一种基于分段损失的生成对抗网络方法

说明书

一种基于分段损失的生成对抗网络方法，步骤如下：1、参数初始化：设批大小m＝100，超参数k＝1，用Xavier方法进行参数初始化，确定最大迭代次数和损失切换迭代次数参数T，令迭代次数epoch＝0；2、训练判别器参数：令i＝1，i为循环变量；3、训练生成器参数；epoch＝epoch+1，判断epoch是否大于最大迭代次数，如小于最大迭代次数，则重复步骤2和3，如满足，则训练结束。该方法能实现生成器在不同的训练阶段采用不同形式的损失函数，一定程度上弥补了单一损失形式下GAN理论的不足，使网络训练更加稳定；通过引入真实样本与生成样本之间特征级损失，使判别器提取的特征更加鲁棒。

技术领域

本发明属于深度学习神经网络技术领域，具体是一种基于分段损失的生成对抗网络方法。

背景技术

生成对抗网络(Generative Adversarial Network,简称GAN)是由Goodfellow在2014年提出的无监督深度学习框架，借鉴“博弈论”的思想，构造了两个玩家：生成器(generator)和判别器(discriminator)，前者通过输入参数为(0，1)的均匀噪声或高斯随机噪声来生成图像，后者对输入的图像进行判别，判断输入是来自数据集的图像还是由生成器生成的图像。判别器将判断的结果反馈给生成器，使其朝着真实数据的分布进行优化。

近几年，生成对抗网络在图像生成和半监督学习上应用广泛。但理论上依然存在不足，原始GAN模型难以把握生成器与判别器的同步更新，导致模型训练不稳定以及模式崩溃的现象，从而导致判别器提取的特征鲁棒性较差。

发明内容

针对上述现有技术存在的问题，本发明提供一种基于分段损失的生成对抗网络方法，该方法能避免常规生成对抗网络在单一形式损失下出现的训练不稳定以及模式崩溃现象，从而解决判别器提取的特征较差的问题；该方法能实现生成器在不同的训练时期采用不同形式的损失函数，通过使生成器引入真实样本与生成样本之间特征级损失，使网络训练更加稳定，判别器提取的特征更加鲁棒。

为了实现上述目的，算法主要分为以下几个步骤：

步骤1：参数初始化：批大小m＝100，即每一次参数更新时所需的样本数；设超参数k＝1，即训练判别器k次才训练生成器1次；对数损失和特征损失权重分别为α＝β＝0.5；用Xavier方法进行参数初始化；根据数据集确定最大迭代次数和损失切换迭代次数参数T；令迭代次数epoch＝0；

步骤2：训练判别器参数：令i＝1，变量i是一个循环变量；

(1)抽取m个来自噪声分布P_noise(z)的随机样本{z⁽¹⁾,z⁽²⁾……z^(m)}，抽取m个来自真实样本分布的无标签样本{x⁽¹⁾,x⁽²⁾……x^(m)}，抽取m个来自真实样本分布的带标签的样本{(x_l⁽¹⁾,y⁽¹⁾)，(x_l⁽²⁾,y⁽²⁾)……(x_l^(m),y^(m))}；

(2)计算判别器的无监督损失C_unsup：

(3)计算判别器的监督损失C_sup：

(4)通过Adam优化算法更新判别器的参数：

(5)判断循环变量是否等于参数k，若小于k则重复步骤2，直至满足条件为止；若等于k，则转至下一步；

步骤3：训练生成器参数：