[发明专利]基于遗传算法的对抗训练方法、装置和计算机存储介质

权利要求书

1.一种基于遗传算法的对抗训练方法，其特征在于，所述基于遗传算法的对抗训练方法包括以下步骤：

利用训练样本的输出置信度确定模型对应的边界样本；

采用遗传算法对所述边界样本进行扩充搜索，生成对抗样本；

通过所述对抗样本所处的模型边界光滑度对所述对抗样本进行筛选，确定对抗样本集合；

根据所述对抗样本集合对所述模型进行再训练。

2.如权利要求1所述的基于遗传算法的对抗训练方法，其特征在于，所述利用训练样本的输出置信度确定模型对应的边界样本，包括：

使用训练数据训练模型；

计算训练样本通过所述模型后的输出结果的置信度；

当所述置信度小于预设置信度阈值时，将所述置信度对应的训练样本作为边界样本。

3.如权利要求2所述的基于遗传算法的对抗训练方法，其特征在于，所述采用遗传算法对所述边界样本进行扩充搜索，生成对抗样本，包括：

将所述边界样本作为种子样本，采用预设编码规则对样本空间进行编码；

随机选择所述种子样本附近的点初始化种群；

通过适应度函数计算公式计算种群中个体适应度；

根据所述个体适应度选择样本进行交叉、变异操作产生新解，将所述新解加入所述种群形成新种群；

计算所述新种群中个体适应度，根据所述个体适应度进行迭代优化，并设置最大迭代次数；

当所述个体适应度大于预设适应度函数阈值或达到所述最大迭代次数时，终止迭代，将所述新种群作为对抗样本。

4.如权利要求3所述的基于遗传算法的对抗训练方法，其特征在于，所述适应度函数计算公式为：

fitness(X_j)＝||X_j-X||²-τ^*||f(X_j)-f(X)||²

其中，设种子样本为X，模型映射为f(X)，采用遗传算法根据所述种子样本搜索出的第j个样本为X_j，X_j对应的适应度函数为fitness(X_j)，τ为所述模型输出的差异的权重。

5.如权利要求4所述的基于遗传算法的对抗训练方法，其特征在于，所述通过所述对抗样本所处的模型边界光滑度对所述对抗样本进行筛选，确定对抗样本集合，包括：

通过光滑度计算公式计算所述对抗样本所处的模型边界光滑度；

当所述光滑度大于预设光滑度阈值时，保留所述光滑度对应的对抗样本；

将保留的对抗样本合并成对抗样本集合。

6.如权利要求5所述的基于遗传算法的对抗训练方法，其特征在于，所述光滑度计算公式为：

S(X_ij)＝(f(X_ij)-f(X_i))/(X_ij-X_i)

其中，种子样本X_i及其对应的种群样本X_ij；模型映射为f(X_i)，f(X_ij)；S(X_ij)为对应的模型边界光滑度。

7.如权利要求6所述的基于遗传算法的对抗训练方法，其特征在于，所述根据所述对抗样本集合对所述模型进行再训练，包括：

当保留的对抗样本数量大于或者等于预设数量时，将所述对抗样本集合、原始训练样本、训练基模型合并；

采用预设算法对所述模型进行集成对抗训练形成最终防御模型；

采用预设策略产生所述最终防御模型的最终决策。

8.如权利要求7所述的基于遗传算法的对抗训练方法，其特征在于，还包括：

当保留的对抗样本数量小于预设数量时，采用普通的模型训练方法训练所述模型。