[发明专利]一种数据处理方法、相关设备及存储介质

权利要求书

1.一种数据处理方法，其特征在于，所述方法应用于第一设备，所述方法包括：

获取目标扰动，所述目标扰动与第一模型的前N层结构相关，N为正整数；

根据所述目标扰动与训练数据获取第一对抗样本；

使用所述第一对抗样本训练第二模型，所述第一模型的前N层结构与所述第二模型的前N层结构的相似度大于第一预设阈值。

2.根据权利要求1所述的方法，其特征在于，所述获取目标扰动，包括：

获取候选扰动，所述候选扰动根据历史扰动获取得到；

获取所述第一模型的第一初始样本；

根据所述候选扰动与所述第一初始样本得到第二对抗样本；

若所述第二对抗样本对应的第一特征图的计算值小于或等于第二预设阈值，则更新所述候选扰动直至满足预设条件；所述第一特征图为所述第二对抗样本输入所述第一模型的前N层结构所得到的输出信息，所述预设条件包括以下至少一项：更新候选扰动的次数大于第三预设阈值、所述计算值大于所述第二预设阈值；

确定满足所述预设条件的候选扰动为所述目标扰动。

3.根据权利要求2所述的方法，其特征在于，所述计算值为所述第一特征图中每个元素的平方和的负值。

4.根据权利要求2或3所述的方法，其特征在于，所述获取所述第一模型的第一初始样本，包括：

接收第二设备发送的第二初始样本，所述第二初始样本为第三模型的部分训练数据，所述第三模型的前N层结构与所述第一模型的前N层结构的相似度大于第四预设阈值；

基于所述第二初始样本获取所述第一初始样本。

5.根据权利要求4所述的方法，其特征在于，所述基于所述第二初始样本获取所述第一初始样本，包括：

从均匀分布中抽样得到目标均值和目标方差；

根据所述目标均值和所述目标方差对所述第二初始样本进行高斯抽样得到所述第一初始样本。

6.根据权利要求1所述的方法，其特征在于，所述方法还包括：

向第二设备发送第一数据，所述第一数据包括所述目标扰动或所述第一对抗样本，所述第一数据用于检测第三模型的鲁棒性，所述第三模型的前N层结构与所述第一模型的前N层结构的相似度大于第四预设阈值。

7.一种数据处理方法，其特征在于，所述方法应用于第二设备，所述方法包括：

接收所述第一设备发送的第一数据，所述第一数据包括目标扰动或第一对抗样本，所述目标扰动与第一模型的前N层结构相关，N为正整数，所述第一对抗样本基于所述目标扰动与训练数据得到；

获取第二对抗样本，所述第二对抗样本根据所述目标扰动与输入数据结合得到，或者所述第二对抗样本为所述第一对抗样本；

根据所述第二对抗样本检测第三模型的鲁棒性，所述第三模型的前N层结构与所述第一模型的前N层结构的相似度大于第四预设阈值。

8.根据权利要求7所述的方法，其特征在于，所述第一数据包括所述目标扰动，所述输入数据为输入图像，所述第二对抗样本为对抗图像；

所述根据所述第二对抗样本检测第三模型的鲁棒性，包括：

将所述对抗图像输入所述第三模型得到输出结果，所述输出结果表示所述对抗图像攻击成功。

9.根据权利要求7或8所述的方法，其特征在于，所述方法还包括：

向所述第一设备发送第二初始样本，所述第二初始样本为所述第三模型的部分训练数据，所述第二初始样本用于所述第二设备确定在更新所述目标扰动过程中使用的第一初始样本。

10.一种第一设备，其特征在于，包括：

处理模块，用于获取目标扰动，所述目标扰动与第一模型的前N层结构相关，N为正整数；

所述处理模块，还用于根据所述目标扰动与训练数据获取第一对抗样本；

所述处理模块，还用于使用所述第一对抗样本训练第二模型，所述第一模型的前N层结构与所述第二模型的前N层结构的相似度大于第一预设阈值。