[发明专利]一种对抗样本检测方法和装置

权利要求书

1.一种对抗样本检测方法，其特征在于，包括：

获取待检测图像；

将所述待检测图像输入预设的图像重构网络中，得到所述图像重构网络输出的重构图像；

计算所述重构图像与所述待检测图像之间相似度；

若所述重构图像与所述待检测图像之间的相似度小于预设阈值，确定所述待检测图像为对抗样本。

2.根据权利要求1所述的方法，其特征在于，所述计算所述重构图像与所述待检测图像之间相似度的步骤，包括：

计算所述重构图像与所述待检测图像之间的欧式距离。

3.根据权利要求1所述的方法，其特征在于，所述图像重构网络采用如下方式训练得到：

将训练样本输入待训练的所述图像重构网络中，得到所述图像重构网络输出的重构图像；

将所述重构图像输入预设的分类器中，得到所述分类器输出的判断结果；

基于所述分类器输出的判断结果以及预设的训练目标，对所述图像重构网络进行调整，直至满足预设的训练条件，所述图像重构网络训练完成。

4.根据权利要求3所述的方法，其特征在于，所述预设的训练目标为最小化所述重构图像与正常图像之间的误差。

5.根据权利要求3所述的方法，其特征在于，所述训练样本包括随机噪声图像。

6.一种对抗样本检测装置，其特征在于，包括：

图像获取模块，用于获取待检测图像；

重构模块，用于将所述待检测图像输入预设的图像重构网络中，得到所述图像重构网络输出的重构图像；

相似计算模块，用于计算所述重构图像与所述待检测图像之间相似度；

样本确定模块，用于若所述重构图像与所述待检测图像之间的相似度小于预设阈值，确定所述待检测图像为对抗样本。

7.根据权利要求1所述的装置，其特征在于，所述相似计算模块包括：

相似计算子模块，用于计算所述重构图像与所述待检测图像之间的欧式距离。

8.根据权利要求1所述的装置，其特征在于，所述图像重构网络采用如下模块训练得到：

训练样本输入模块，用于将训练样本输入待训练的所述图像重构网络中，得到所述图像重构网络输出的重构图像；

分类模块，用于将所述重构图像输入预设的分类器中，得到所述分类器输出的判断结果；

调整模块，用于基于所述分类器输出的判断结果以及预设的训练目标，对所述图像重构网络进行调整，直至满足预设的训练条件，所述图像重构网络训练完成。

9.一种电子设备，其特征在于，包括：

一个或多个处理器；和

其上存储有指令的一个或多个机器可读介质，当由所述一个或多个处理器执行时，使得所述电子设备执行如权利要求1-5所述的一个或多个的方法。

10.一个或多个机器可读介质，其上存储有指令，当由一个或多个处理器执行时，使得所述处理器执行如权利要求1-5所述的一个或多个的方法。