[发明专利]一种对抗样本的识别方法及相关装置

权利要求书

1.一种图片的对抗样本的识别方法，其特征在于，包括：

获取输入样本，所述输入样本为图片；

根据所述输入样本，通过自编码器得到重构样本，所述自编码器以目标神经网络的卷积层为编码器，以反馈重构网络为解码器；

通过对抗样本检测器根据学习得到的对抗样本的重构误差和非对抗样本的重构误差对所述输入样本和所述重构样本进行分析得到所述输入样本的检测结果，所述对抗样本检测器是通过第一训练样本学习所述非对抗样本的重构误差和第二训练样本训练学习所述对抗样本的重构误差获得，所述第一训练样本包括非对抗样本及其重构样本，以及第一样本标签；所述第二训练样本包括对抗样本及其重构样本，以及第二样本标签；

根据检测结果确定所述输入样本的图片的样本类型。

2.根据权利要求1所述的方法，其特征在于，所述根据所述输入样本，通过自编码器得到重构样本之后，所述根据所述输入样本和所述重构样本，通过对抗样本检测器得到所述输入样本的检测结果之前，所述方法还包括：

通过所述自编码器对所述重构样本进行至少一次循环重构，所述循环重构为通过所述自编码器对所述重构样本进行处理。

3.根据权利要求1所述的方法，其特征在于，所述对抗样本检测器为二分类器。

4.根据权利要求1所述的方法，其特征在于，所述通过自编码器得到重构样本之前，所述方法还包括：

获取训练集，所述训练集为非对抗样本组成的集合；

通过所述训练集同时对所述目标神经网络以及所述自编码器训练，所述目标神经网络包含所述卷积层与目标分类器。

5.根据权利要求4所述的方法，其特征在于，通过所述训练集同时对所述目标神经网络以及所述自编码器训练中，训练过程的损失函数为：

其中，X_train为训练集，|X_train|为训练集的数据数量，x为训练集中的非对抗样本，ae(x)为根据训练集中的非对抗样本通过所述自编码器得到的训练用重构样本，为相对熵。

6.根据权利要求4所述的方法，其特征在于，所述通过所述训练集同时对所述目标神经网络以及所述自编码器训练之后，所述方法还包括：

根据所述训练集，通过对抗样本生成算法生成针对所述目标神经网络的训练用的对抗样本；

根据所述训练集通过训练后的所述自编码器得到非对抗重构样本；

根据所述训练用的对抗样本，通过训练后的所述自编码器得到对抗重构样本；

通过第一训练样本和第二训练样本对所述对抗样本检测器训练，所述第一训练样本由所述训练集中非对抗样本及所述非对抗重构样本组成，所述第二训练样本由所述训练用的对抗样本及所述对抗重构样本组成。

7.根据权利要求6所述的方法，其特征在于，所述通过第一训练样本和第二训练样本对所述对抗样本检测器训练之后，所述方法还包括：

获取测试集，所述测试集为测试样本组成的集合；

根据所述测试集，通过对抗样本生成算法生成针对所述目标神经网络的测试用的对抗样本；

根据所述测试集和所述测试用的对抗样本，通过训练完的所述自编码器和所述对抗样本检测器得到测试结果；

根据所述测试集和所述测试用的对抗样本确定所述测试结果的检测正确率、对抗样本检出率和假阳性率。