[发明专利]基于代理模型的对抗样本生成方法和装置

权利要求书

1.一种基于代理模型的对抗样本生成方法，包括：

提供代理模型、原始样本和一基于迭代的对抗样本生成算法；

基于代理模型、原始样本和对抗样本生成算法迭代生成对抗样本，直到达到预设终止条件；

在每个迭代轮次中：

获取上一迭代轮次生成对抗样本时，代理模型的各个参数自身的权重和梯度；

将各个参数的权重和梯度的乘积的绝对值作为对应参数的重要性分数，所述重要性分数用于表示相应迭代轮次中代理模型的对应参数对生成的对抗样本的影响程度；

根据预设规则以及所述代理模型的各个参数的重要性分数剪除所述代理模型的部分参数；

根据剪除部分参数后保留的各个参数更新所述代理模型；

将达到预设终止条件时生成的对抗样本作为最终的对抗样本；

其中，所述基于迭代的对抗样本生成算法包括动量迭代式对抗样本生成算法；

在第i轮迭代时，通过以下方式生成对抗样本：

其中，表示第i轮更新得到的动量，表示动量衰减速度，表示代理模型的损失函数计算得到的损失结果关于第i-1轮生成的对抗样本的梯度，表示L1范数，y表示所对应的原始样本X的类别，表示将修改中的对抗样本投影到距离原始样本X不超过ϵ的范围内，其中α是超参数；

其中，在第i轮迭代时，通过以下方式计算某个参数对上一迭代轮次生成的对抗样本的重要性分数：

其中，d表示微分操作，w表示所述参数的权重；

其中，各个样本的样本类型均为图像样本。

2.如权利要求1所述的基于代理模型的对抗样本生成方法，其中，所述预设规则包括剪除重要性分数低于预设阈值的参数和/或以预设的剪枝率进行参数剪除。

3.如权利要求2所述的基于代理模型的对抗样本生成方法，其中，根据预设规则以及所述代理模型的各个参数的重要性分数剪除所述代理模型的部分参数，包括：

基于各个参数的重要性分数，按照从高到低的顺序对各个参数进行排序；

根据所述剪枝率对排序在后的部分参数进行剪除。

4.如权利要求2所述的基于代理模型的对抗样本生成方法，其中，根据预设规则以及所述代理模型的各个参数的重要性分数剪除所述代理模型的部分参数，包括：

针对代理模型每一层的参数的重要性分数，按照从高到低的顺序对各个参数进行排序；

根据所述剪枝率，对所述代理模型的每一层中排序在后的部分参数进行剪除。

5.如权利要求1-4中任一项所述的基于代理模型的对抗样本生成方法，其中，通过将数值设为0的方式将所述代理模型的部分参数剪除。

6.一种基于代理模型的对抗样本生成装置，包括：

预处理模块，被配置为提供代理模型、原始样本和一基于迭代的对抗样本生成算法；

迭代模块，被配置为基于代理模型、原始样本和对抗样本生成算法迭代生成对抗样本，直到达到预设终止条件，包括：

获取单元，被配置为在每个迭代轮次中，获取上一迭代轮次生成对抗样本时，代理模型的各个参数自身的权重和梯度；

计算单元，被配置为在每个迭代轮次中，将各个参数的权重和梯度的乘积的绝对值作为对应参数的重要性分数，所述重要性分数用于表示相应迭代轮次中代理模型的对应参数对生成的对抗样本的影响程度；

剪枝单元，被配置为在每个迭代轮次中，根据预设规则以及所述代理模型的各个参数的重要性分数剪除所述代理模型的部分参数；

更新单元，被配置为在每个迭代轮次中，根据剪除部分参数后保留的各个参数更新所述代理模型；

确定单元，被配置为在每个迭代轮次中，将达到预设终止条件时生成的对抗样本作为最终的对抗样本；

其中，所述基于迭代的对抗样本生成算法包括动量迭代式对抗样本生成算法；

在第i轮迭代时，通过以下方式生成对抗样本：

其中，表示第i轮更新得到的动量，表示动量衰减速度，表示代理模型的损失函数计算得到的损失结果关于第i-1轮生成的对抗样本的梯度，表示L1范数，y表示所对应的原始样本X的类别，表示将修改中的对抗样本投影到距离原始样本X不超过ϵ的范围内，其中α是超参数；

其中，在第i轮迭代时，通过以下方式计算某个参数对上一迭代轮次生成的对抗样本的重要性分数：

其中，d表示微分操作，w表示所述参数的权重；

其中，各个样本的样本类型均为图像样本。