[发明专利]一种模型的鲁棒性检测方法、装置、设备及介质

权利要求书

1.一种模型的鲁棒性检测方法，其特征在于，包括：

获取目标图像集，所述目标图像集包括至少一个对抗样本图像；

分别向待攻击的目标模型输入至少一个所述对抗样本图像；

获取所述目标模型的输出结果，所述输出结果包括原始样本图像与输入所述目标图像集的各所述对抗样本图像之间的相似度；

基于所述输出结果和所述目标模型预设的相似度阈值，得到所述目标模型的鲁棒性检测数据；

根据所述鲁棒性检测数据确定所述目标模型的鲁棒性诊断结果；

其中，所述获取所述目标模型的输出结果，包括：

获取目标模型的计算逻辑；

从预设的历史诊断库中查找与所述目标模型的计算逻辑相匹配的历史模型；

根据所述历史模型的历史输出结果确定所述目标模型的输出结果。

2.根据权利要求1所述的方法，其特征在于，所述基于所述输出结果和所述目标模型预设的相似度阈值，得到所述目标模型的鲁棒性检测数据，包括：

如果所述输出结果包括的相似度大于所述相似度阈值，则记录第一检测数据，所述第一检测数据包括以下至少一项：错误识别结果、识别失败记录、攻击成功记录、第一攻击时长记录；

如果所述输出结果包括的相似度不大于所述相似度阈值，则记录第二检测数据，所述第二检测数据包括以下至少一项：识别成功记录、攻击失败记录、第二攻击时长记录；

将所述第一检测数据或所述第二检测数据作为本次攻击行为对应的鲁棒性检测数据。

3.根据权利要求2所述的方法，其特征在于，所述根据所述鲁棒性检测数据确定所述目标模型的鲁棒性诊断结果，包括：

根据至少一次攻击行为对应的所述第一检测数据计算所述目标模型的鲁棒性指数；所述鲁棒性指数包括：识别准确率、攻击成功率和/或攻击成功时间信息；

根据所述鲁棒性指数计算所述目标模型的攻破难度系数；

对所述第一检测数据、所述第二检测数据、所述鲁棒性指数和所述攻破难度系数中的多项进行数据处理和可视化显示，得到鲁棒性诊断结果。

4.根据权利要求1所述的方法，其特征在于，所述方法还包括：

获取第一历史诊断数据，所述第一历史诊断数据包括多个参考模型的鲁棒性诊断数据，各参考模型的鲁棒性诊断数据为采用所述模型的鲁棒性检测方法或者多种模型鲁棒性诊断工具诊断得到；其中，多个参考模型是与所述目标模型类型相同、来源不同的模型；

将所述目标模型的鲁棒性检测数据与所述第一历史诊断数据进行横向比较。

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：

获取第二历史诊断数据，所述第二历史诊断数据包括多种模型鲁棒性诊断工具对所述目标模型诊断的鲁棒性诊断数据；

将所述目标模型的鲁棒性检测数据与所述第二历史诊断数据进行横向比较。

6.根据权利要求1所述的方法，其特征在于，所述方法还包括：

在预设的靶场环境中，基于所述模型的鲁棒性检测方法对所述目标模型进行模拟诊断，得到所述目标模型的鲁棒性诊断模拟结果。

7.根据权利要求1所述的方法，其特征在于，所述方法还包括：

响应于用户针对自定义诊断的上传操作，获取用户上传的待攻击的目标模型和目标图像集，以及，从所述目标图像集中获取作为攻击对象的原始样本图像和攻击所述原始样本图像的对抗样本图像。