[发明专利]评估目标检测模型的方法及装置

说明书

本公开提供了一种评估目标检测模型的方法、装置、电子设备、存储介质以及计算机程序产品，涉及人工智能技术领域，尤其涉及人工智能安全技术领域。具体实现方案为：分别利用多个对抗样本集中的每个对抗样本集攻击待评估的目标检测模型，得到针对每个对抗样本集中每个对抗样本的输出结果；根据与每个对抗样本集对应的阈值和对抗样本集中每个对抗样本的输出结果，确定每个对抗样本所对应的攻击是否成功，并统计对抗样本集的攻击成功率，其中，每个对抗样本集对应于不同的阈值；以及根据多个对抗样本集的攻击成功率，确定针对目标检测模型的鲁棒性评估参数。

技术领域

本公开涉及人工智能技术领域，尤其涉及人工智能安全技术领域。

背景技术

在对抗环境中，深度学习模型较容易受到对抗样本的攻击。其中，对抗样本是基于正常样本恶意构造出的样本。对于人类来说，对抗样本和正常样本之间的区别不明显，因此人类可以很轻易地将对抗样本正确地分类。但是将这些对抗样本输入深度学习模型后，深度学习模型却很难将这些对抗样本正确地分类。

基于此，深度学习模型抵御对抗样本的能力被称为深度学习模型的鲁棒性。评估深度学习模型的鲁棒性是一项非常重要的工作。

发明内容

本公开提供了一种评估目标检测模型的方法、装置、电子设备、存储介质以及计算机程序产品。

根据本公开的一方面，提供了一种评估目标检测模型的方法，包括：分别利用多个对抗样本集中的每个对抗样本集攻击待评估的目标检测模型，得到针对所述每个对抗样本集中每个对抗样本的输出结果；根据与所述每个对抗样本集对应的阈值和所述对抗样本集中每个对抗样本的输出结果，确定所述每个对抗样本所对应的攻击是否成功，并统计所述对抗样本集的攻击成功率，其中，所述每个对抗样本集对应于不同的阈值；以及根据所述多个对抗样本集的攻击成功率，确定针对所述目标检测模型的鲁棒性评估参数。

根据本公开的另一方面，提供了一种评估目标检测模型的装置，包括：攻击模块，用于分别利用多个对抗样本集中的每个对抗样本集攻击待评估的目标检测模型，得到针对所述每个对抗样本集中每个对抗样本的输出结果；统计模块，用于根据与所述每个对抗样本集对应的阈值和所述对抗样本集中每个对抗样本的输出结果，确定所述每个对抗样本所对应的攻击是否成功，并统计所述对抗样本集的攻击成功率，其中，所述每个对抗样本集对应于不同的阈值；以及确定模块，用于根据所述多个对抗样本集的攻击成功率，确定针对所述目标检测模型的鲁棒性评估参数。

本公开的另一个方面提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开实施例所示的方法。

根据本公开实施例的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本公开实施例所示的方法。

根据本公开实施例的另一方面，提供了一种计算机程序产品，计算机程序，所述计算机程序在被处理器执行时实现本公开实施例所示的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1示意性示出了根据本公开的实施例的评估目标检测模型的方法的流程图；

图2示意性示出了根据本公开的实施例的利用对抗样本集攻击待评估的目标检测模型的方法的流程图；

图3示意性示出了根据本公开另一实施例的评估目标检测模型的方法的流程图；

图4示意性示出了根据本公开的实施例的生成多个对抗样本集示意图；