[发明专利]人脸对抗样本生成模型的构建方法、装置及设备

说明书

本申请涉及一种人脸对抗样本生成模型的构建方法、装置及设备。其中，基于生成对抗网络，通过获取人脸图像样本并输入生成器，可以得到生成器输出的人脸掩码；将人脸掩码和原始人脸图像之和作为人脸对抗样本输入判别器可以得到判别结果；然后将人脸对抗样本输入目标攻击模型得到输出结果，如此即完成一次训练；之后根据训练结果更新生成器和判别器的参数，并重复进行预设次数的训练最终即可得到参数最优的生成器和判别器，也即得到所需的人脸对抗样本生成模型。并进一步可以通过人脸对抗样本生成模型自动生成人脸对抗样本，其相对于传统的人脸对抗样本生成方法，生成速度显著提升，且生成的人脸对抗样本的质量更好。

技术领域

本申请涉及人工智能安全领域，尤其涉及一种人脸对抗样本生成模型的构建方法、装置及设备。

背景技术

从手机解锁，到机场登机，人脸识别系统的普及是显而易见的。卷积神经网络(CNN)和大规模人脸数据集使得人脸识别系统能够实现高达99％的正确率，0.1％错误接受率。然而，尽管人脸识别系统的性能很好，但人脸识别系统仍然容易受到对抗样本日益增长的威胁。在这种背景下，人脸对抗样本的相关研究越来越火热，人脸对抗样本是一种能够欺骗人脸识别模型做出错误判断的一类样本。

目前的人脸对抗样本攻击方法分为两大类：①物理攻击(例如打印人脸照片去解锁手机等)；②面向CNN模型攻击(例如：FGSM/CWattacks生成人脸对抗样本；GAN生成人脸对抗样本等)，也即通过模型生成人脸对抗样本去攻击基于CNN的人脸识别模型。而通过第②种方法，有助于发现人脸识别模型中潜在的安全问题。不过，现有的面向CNN模型攻击生成人脸对抗样本的方法效率和准确率较低。

发明内容

本申请提供一种人脸对抗样本生成模型的构建方法、装置及设备，以解决现有的面向CNN模型攻击生成人脸对抗样本的方法效率和准确率较低的问题。

本申请的上述目的是通过以下技术方案实现的：

第一方面，本申请实施例提供一种人脸对抗样本生成模型的构建方法，其包括：

基于生成对抗网络，获取人脸图像样本并输入生成器，得到所述生成器合成并输出的人脸掩码；其中，所述人脸图像样本包括目标人脸图像和原始人脸图像；且在生成所述人脸掩码的过程中使用L2范数约束扰动；

将所述人脸掩码和所述原始人脸图像之和作为人脸对抗样本输入判别器，得到判别结果，用于区分原始人脸图像和人脸对抗样本；

将所述人脸对抗样本输入预先训练的目标攻击模型，得到输出结果，以完成一次训练；

在每次训练后，基于对应的判别结果和输出结果更新所述生成器和所述判别器的参数，并重复进行预设次数的训练，以基于最终确定的生成器和判别器得到人脸对抗样本生成模型。

可选的，采用的生成对抗网络为WGAN-GP。

可选的，使用L2范数约束扰动时采用的扰动损失函数为：

式中，x为人脸图像样本，G(x)为生成器合成的人脸掩码，ε为允许扰动的最小值，取值范围为[0,∞)。

可选的，对于无目标攻击，去最小化原始人脸图像和人脸对抗样本之间的余弦相似度，其中使用的身份损失函数为：

L_identity＝Ex[F(x,x+G(x))]

式中，F(x)为x，y的人脸余弦相似度，用于监督人脸对抗样本模型的训练；

对于有目标攻击，去最大化目标人脸图像和人脸对抗样本之间的余弦相似度，其中使用的损失函数为：

L_identity＝Ex[1-F(y,x+G(x))]

式中，y为目标人脸图像。