[发明专利]神经网络的对抗训练方法、装置、计算机设备及存储介质

说明书

本申请公开了一种神经网络的对抗训练方法、装置、计算机设备及存储介质，涉及计算机技术领域。该方法包括：将第一原始样本输入策略网络，得到策略网络输出的第一原始样本对应的第一攻击策略，第一攻击策略是指对第一原始样本进行扰动处理的处理方式；基于第一攻击策略和目标神经网络的网络参数，对第一原始样本进行扰动处理，得到第一对抗样本；基于第一对抗样本以及第一样本标注，对抗训练目标神经网络和策略网络，第一样本标注是第一原始样本对应的样本标注。使得策略网络在不同对抗训练阶段生成不同的攻击策略，目标神经网络在不同对抗训练阶段提升对不同攻击策略的鲁棒性。

技术领域

本申请实施例涉及计算机技术领域，特别涉及一种神经网络的对抗训练方法、装置、计算机设备及存储介质。

背景技术

随着计算机技术的不断发展，深度学习在不同技术领域中均取得了广泛的应用，比如，图像分类、目标检测、机器翻译等领域中。

在深度学习的研究过程中，发现存在对抗样本，而机器学习方法对这些对抗样本非常敏感，这些对抗样本与干净样本非常相似，但是训练完成的识别模型或分类模型很容易错分这些对抗样本的类别，比如，原有识别模型以57.7％的置信度判定图像为熊猫，但对该图像添加微小的扰动(即对抗样本)，模型以99.3％的置信度认为扰动后的图片是长臂猿，相关技术中通常通过对模型进行对抗训练来防御对抗样本攻击。

显然，在对抗训练过程中，如何生成对抗样本以提高对抗样本的有效性是决定模型鲁棒性的关键。

发明内容

本申请实施例提供了一种神经网络的对抗训练方法、装置、计算机设备及存储介质。所述技术方案如下：

根据本申请的一个方面，提供了一种神经网络的对抗训练方法，所述方法包括：

将第一原始样本输入策略网络，得到所述策略网络输出的所述第一原始样本对应的第一攻击策略，所述第一攻击策略是指对所述第一原始样本进行扰动处理的处理方式；

基于所述第一攻击策略和目标神经网络的网络参数，对所述第一原始样本进行扰动处理，得到第一对抗样本；

基于所述第一对抗样本以及第一样本标注，对抗训练所述目标神经网络和所述策略网络，所述第一样本标注是所述第一原始样本对应的样本标注。

根据本申请的另一方面，提供了一种神经网络的对抗训练装置，所述装置包括：

第一策略生成模块，用于将第一原始样本输入策略网络，得到所述策略网络输出的所述第一原始样本对应的第一攻击策略，所述第一攻击策略是指对所述第一原始样本进行扰动处理的处理方式；

第一扰动处理模块，用于基于所述第一攻击策略和目标神经网络的网络参数，对所述第一原始样本进行扰动处理，得到第一对抗样本；

第一训练模块，用于基于所述第一对抗样本以及第一样本标注，对抗训练所述目标神经网络和所述策略网络，所述第一样本标注是所述第一原始样本对应的样本标注。

根据本申请的另一方面，提供了一种计算机设备，所述计算机设备包括处理器和存储器，所述存储器中存储有至少一段程序，所述至少一段程序由所述处理器加载并执行以实现如上方面所述的神经网络的对抗训练方法。

根据本申请的另一方面，提供了一种计算机可读存储介质，所述存储介质中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、所述至少一段程序、所述代码集或指令集由处理器加载并执行以实现如上方面所述的神经网络的对抗训练方法。

根据本申请的另一方面，提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述可选实现方式中提供的神经网络的对抗训练方法。