[发明专利]对抗样本生成方法、抗攻击检测方法、装置及电子设备

说明书

本公开提供了一种对抗样本生成方法、抗攻击检测方法、装置及电子设备，涉及人工智能技术领域，尤其涉及人工智能中的深度学习、云计算、计算机视觉和自动驾驶技术领域，对抗样本生成方法，包括：获取初始化补丁，所述初始化补丁为用于对目标图像进行处理的补丁；识别所述初始化补丁包括的像素点的像素均值；根据所述像素均值对所述初始化补丁进行修正，得到对抗补丁；将所述对抗补丁与所述目标图像合成，得到对抗样本。

技术领域

本公开涉及人工智能技术领域，尤其涉及人工智能中的深度学习、云计算、计算机视觉和自动驾驶技术领域，具体涉及一种对抗样本生成方法、抗攻击检测方法、装置及电子设备。

背景技术

随着深度学习模型的不断发展，深度学习模型在许多领域被广泛的应用并取得了出色的性能，与此同时深度学习模型的安全性和健壮性问题也引起了人们的关注。当前可以采用对抗样本来检测深度学习模型的抗攻击性能，而对抗样本容易被遮挡。

发明内容

本公开提供了一种对抗样本生成方法、抗攻击检测方法、装置及电子设备。

根据本公开的第一方面，提供了一种对抗样本生成方法，包括：

获取初始化补丁，所述初始化补丁为用于对目标图像进行处理的补丁；

识别所述初始化补丁包括的像素点的像素均值；

根据所述像素均值对所述初始化补丁进行修正，得到对抗补丁；

将所述对抗补丁与所述目标图像合成，得到对抗样本。

根据本公开的第二方面，提供了一种抗攻击检测方法，包括：

将对抗样本输入至待检测模型中进行样本识别，并输出识别结果，所述识别结果用于表示所述对抗样本的图像分类，所述待检测模型为用于对图像进行分类的检测模型；

根据所述识别结果和预先获取的目标图像的预设分类信息，确定所述待检测模型对所述对抗样本的抗攻击结果；

其中，所述对抗样本为根据第一方面提供的方法生成的样本。

根据本公开的第三方面，提供了一种对抗样本生成装置，包括：

获取模块，用于获取初始化补丁，所述初始化补丁为用于对目标图像进行处理的补丁；

识别模块，用于识别所述初始化补丁包括的像素点的像素均值；

修正模块，用于根据所述像素均值对所述初始化补丁进行修正，得到对抗补丁；

合成模块，用于将所述对抗补丁与所述目标图像合成，得到对抗样本。

根据本公开的第四方面，提供了一种抗攻击检测装置，包括：

样本识别模块，用于将对抗样本输入至待检测模型中进行样本识别，并输出识别结果，所述识别结果用于表示所述对抗样本的图像分类，所述待检测模型为用于对图像进行分类的检测模型；

确定模块，用于根据所述识别结果和预先获取的目标图像的预设分类信息，确定所述待检测模型对所述对抗样本的抗攻击结果；

其中，所述对抗样本为根据第二方面提供的装置生成的样本。

根据本公开的第五方面，提供了一种电子设备，包括：

至少一个处理器；以及

与至少一个处理器通信连接的存储器；其中，

存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器能够执行第一方面中的任一项方法。