[发明专利]基于对抗干扰防护的敏感图像检测方法、装置和电子设备

说明书

本发明实施例提供一种基于对抗干扰防护的敏感图像检测方法、装置和电子设备，该方法包括：将待检测图像输入去干扰模型，输出复原后图像；其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的；将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；其中，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。本发明实施例提供的方法、装置和电子设备，实现了提高抗干扰能力，适用于在敏感图像中加入不同干扰的不同场景和节约了计算资源。

技术领域

本发明涉及敏感图像检测技术领域，尤其涉及一种基于对抗干扰防护的敏感图像检测方法、装置和电子设备。

背景技术

图像分类被广泛应用于信息安全的诸多领域，其中一种典型的应用就是敏感图像检测。敏感图像指的是一些在互联网中传播、并带有一定恶意企图的图像，如武器、暴恐、和恶意欺诈等。敏感图像检测能够识别出进行检测的图像中的内容是否包括武器、暴恐、和恶意欺诈等类别敏感信息，然后过滤掉此类敏感图像，从而保护网络用户的安全与隐私并节约网络资源。然而，敏感信息散布者经常制造各种干扰来降低图像分类模型的性能，从而阻碍敏感图像检测。特别是，一种新型威胁为敏感图像检测带来了更大的挑战，即对抗干扰。通过向常规图像中增加微小但有目的性的对抗干扰，对抗性的图像被制作出来而强迫分类模型输出错误的预测。图1为现有技术提供的对抗干扰生成过程的原理示意图，如图1所示，通过在原始图像中加入干扰因素，导致生成的对抗样本图像在使用传统的敏感图像检测时不能识别其包含的武器类别敏感信息，不能将其分类到武器中，而是错误的分类到盒式磁带类别。这种难以察觉的干扰导致了敏感图像检测系统的失灵，并保持了敏感图像不被破坏以传播敏感信息。对抗干扰甚至能将图像分类的正确率降低到0％，这对敏感图像检测系统和其他对安全敏感的人工智能系统都构成了严重的威胁。

设计有效的防护方法来抵御对抗干扰威胁成为信息安全与人工智能领域的一个重点问题。为了防护对抗干扰，目前大多数研究关注于修改分类模型来提升其鲁棒性，如生成更多的干扰的图像以扩大模型训练的样本集重新训练模型。

但是，当前防护方法存在的不足主要在于：修改模型的防护方法仅服务于特定的模型与场景，而通用性差，且需要大量的计算资源，上述缺陷导致此类方法难以对敏感图像检测系统形成有效的防护。

因此，如何避免现有的基于对抗干扰防护的敏感图像检测方法抗干扰能力差，由于无法适用于各种场景导致的通用性差和由于需要大量的计算资源导致难以对敏感图像检测系统形成有效的防护，仍然是本领域技术人员亟待解决的问题。

发明内容

本发明实施例提供一种基于对抗干扰防护的敏感图像检测方法、装置和电子设备，用以解决现有的基于对抗干扰防护的敏感图像检测方法抗干扰能力差，由于无法适用于各种场景导致的通用性差和由于需要大量的计算资源导致难以对敏感图像检测系统形成有效的防护的问题。

第一方面，本发明实施例提供一种基于对抗干扰防护的敏感图像检测方法，包括：

将待检测图像输入去干扰模型，输出复原后图像；

其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的；

将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；

其中，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。

该方法中，所述预设干扰处理为加入高斯噪声。

该方法中，所述去干扰模型训练时神经网络使用CNN结构，所述神经网络包括N层；