[发明专利]一种模型的鲁棒性检测方法、装置、设备及介质

说明书

本申请实施例涉及计算机技术领域，并提供一种模型的鲁棒性检测方法、装置、设备及介质，该方法包括：获取目标图像集，目标图像集包括至少一个对抗样本图像；分别向待攻击的目标模型输入至少一个对抗样本图像；获取目标模型的输出结果，输出结果包括原始样本图像与输入目标图像集的各对抗样本图像之间的相似度；基于输出结果和目标模型预设的相似度阈值，得到目标模型的鲁棒性检测数据；根据鲁棒性检测数据确定目标模型的鲁棒性诊断结果。该方案能够为目标模型输出客观准确的鲁棒性诊断结果，便于用户快速判断目标模型在面对对抗样本的攻击时的安全性与可靠性。

技术领域

本申请实施例涉及计算机技术领域，尤其涉及一种模型的鲁棒性检测方法、装置、设备及介质。

背景技术

随着人工智能的发展，深度神经网络(Deep Neural Networks)被广泛应用于计算机视觉(Computer Vision，CV)领域，用于增强深度学习(Deep Learning)模型。现有的DL模型在面对对抗样本的攻击时安全风险较高，可靠性较差。

在安防领域，一般采用人脸识别模型对人进行识别，该方式先收集大量人脸数据对模型进行训练，然后对实时拍摄到的人脸进行身份识别。在面对对抗样本的威胁时，主要的解决方法是提高收集的数据量，扩大训练集，由此来提高模型识别准确率。但是，这样的解决方法面对对抗攻击是没有针对性的，仍旧会受到对抗样本对模型判断的干扰，因而，目前缺少一种专门针对模型的鲁棒性进行检测的方法。

发明内容

为了解决上述技术问题，本申请实施例提供了一种模型的鲁棒性检测方法、装置、设备及介质。

第一方面，本申请实施例提供一种模型的鲁棒性检测方法，包括：

获取目标图像集，所述目标图像集包括至少一个对抗样本图像；分别向待攻击的目标模型输入至少一个所述对抗样本图像；获取所述目标模型的输出结果，所述输出结果包括原始样本图像与输入所述目标图像集的各所述对抗样本图像之间的相似度；基于所述输出结果和所述目标模型预设的相似度阈值，得到所述目标模型的鲁棒性检测数据；根据所述鲁棒性检测数据确定所述目标模型的鲁棒性诊断结果。

第二方面，本申请实施例提供一种实施上述模型的鲁棒性检测方法的模型的鲁棒性检测装置，包括：

输入输出模块，用于获取目标图像集，所述目标图像集包括至少一个对抗样本图像；

处理模块，用于分别向待攻击的目标模型输入至少一个所述对抗样本图像；获取所述目标模型的输出结果，所述输出结果包括原始样本图像与输入所述目标图像集的各所述对抗样本图像之间的相似度；基于所述输出结果和所述目标模型预设的相似度阈值，得到所述目标模型的鲁棒性检测数据；根据所述鲁棒性检测数据确定所述目标模型的鲁棒性诊断结果。

本申请实施例还提供了一种电子设备，所述电子设备包括：处理器；用于存储所述处理器可执行指令的存储器；所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述模型的鲁棒性检测方法。

本申请实施例还提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述模型的鲁棒性检测方法。

本申请实施例提供的技术方案与现有技术相比具有如下优点：

本申请实施例提供的模型的鲁棒性检测方法、装置、设备及介质，包括：首先获取目标图像集，所述目标图像集包括至少一个对抗样本图像；然后分别向待攻击的目标模型输入至少一个所述对抗样本图像；获取所述目标模型的输出结果，基于所述输出结果和所述目标模型预设的相似度阈值，得到所述目标模型的鲁棒性检测数据；根据所述鲁棒性检测数据确定所述目标模型的鲁棒性诊断结果。该方案较好地实现了对目标模型进行模拟、实战演练攻击，填补了计算机视觉领域在对抗攻击的检测与防御方面的空白，同时为目标模型输出客观准确的鲁棒性诊断结果，便于用户快速判断目标模型在面对对抗样本的攻击时的安全性与可靠性。

附图说明