[发明专利]对抗样本生成方法、抗攻击检测方法、装置及电子设备

权利要求书

1.一种对抗样本生成方法，包括：

获取初始化补丁，所述初始化补丁为用于对目标图像进行处理的补丁；

识别所述初始化补丁包括的像素点的像素均值；

根据所述像素均值对所述初始化补丁进行修正，得到对抗补丁；

将所述对抗补丁与所述目标图像合成，得到对抗样本。

2.根据权利要求1所述的方法，其中，所述根据所述像素均值对所述初始化补丁进行修正，得到对抗补丁，包括：

识别所述初始化补丁包括的第一区域和第二区域，所述第二区域为所述初始化补丁中除所述第一区域外的区域；

将所述第一区域内的像素点的像素值替换为预设像素值，并将所述第二区域内的像素点的像素值替换为所述像素均值，得到所述对抗补丁，所述预设像素值与所述像素均值不同。

3.根据权利要求2所述的方法，其中，所述识别所述初始化补丁包括的第一区域和第二区域，包括：

随机确定所述初始化补丁包括的第一区域；

根据所述第一区域确定所述第二区域。

4.根据权利要求1所述的方法，其中，所述根据所述像素均值对所述初始化补丁进行修正，得到对抗补丁，包括：

预测对所述初始化补丁进行修正的概率；

在对所述初始化补丁进行修正的概率大于预设概率的情况下，根据所述像素均值对所述初始化补丁进行修正，得到对抗补丁。

5.根据权利要求1所述的方法，其中，所述获取初始化补丁，包括：

获取第一补丁；

对所述第一补丁进行初始化处理，得到第二补丁；

对所述第二补丁的第一目标区域的目标参数进行调节，得到所述初始化补丁；

其中，所述目标参数为显示参数，且所述显示参数包括如下参数中的至少一项：显示尺寸、比例参数、亮度、对比度、噪音、位置、角度。

6.根据权利要求5所述的方法，其中，所述对所述第二补丁的第一目标区域的目标参数进行调节，得到所述初始化补丁，包括：

对所述第二补丁的第一目标区域的目标参数进行调节，得到第三补丁；

对所述第三补丁的第二目标区域进行仿射变换，得到所述初始化补丁，所述仿射变换包括如下至少一项：缩放、旋转、平移。

7.一种抗攻击检测方法，包括：

将对抗样本输入至待检测模型中进行样本识别，并输出识别结果，所述识别结果用于表示所述对抗样本的图像分类，所述待检测模型为用于对图像进行分类的检测模型；

根据所述识别结果和预先获取的目标图像的预设分类信息，确定所述待检测模型对所述对抗样本的抗攻击结果；

其中，所述对抗样本为根据权利要求1至6中任一项方法生成的样本。

8.一种对抗样本生成装置，包括：

获取模块，用于获取初始化补丁，所述初始化补丁为用于对目标图像进行处理的补丁；

识别模块，用于识别所述初始化补丁包括的像素点的像素均值；

修正模块，用于根据所述像素均值对所述初始化补丁进行修正，得到对抗补丁；

合成模块，用于将所述对抗补丁与所述目标图像合成，得到对抗样本。

9.根据权利要求8所述的装置，其中，所述修正模块，包括：

识别子模块，用于识别所述初始化补丁包括的第一区域和第二区域，所述第二区域为所述初始化补丁中除所述第一区域外的区域；

替换子模块，用于将所述第一区域内的像素点的像素值替换为预设像素值，并将所述第二区域内的像素点的像素值替换为所述像素均值，得到所述对抗补丁，所述预设像素值与所述像素均值不同。

10.根据权利要求9所述的装置，其中，所述识别子模块，包括：

第一确定单元，用于随机确定所述初始化补丁包括的第一区域；

第二确定单元，用于根据所述第一区域确定所述第二区域。