[发明专利]图像对抗样本检测方法、系统、存储介质、终端及应用

说明书

本发明属于深度学习领域中的图像识别技术领域，公开了一种图像对抗样本检测方法、系统、存储介质、终端及应用，降噪神经网络对原始图像进行降噪处理，得到降噪图像；分类模型对原始图像进行分类处理，获取处理后的logits值；分类模型对降噪图像进行分类处理，获取处理后的logits值；利用原始图像和降噪图像的logits值，计算原始图像和降噪图像之间的差异得分；根据差异得分判断原始图像是对抗样本还是普通样本。本发明降噪神经网络只需要在加性高斯白噪声下训练，训练成本大大降低；降噪神经网络采用xUnit激活单元，使得降噪模型参数大大较少，有利于在计算资源有限的设备上进行部署。

技术领域

本发明属于深度学习领域中的图像识别技术领域，尤其涉及一种图像对抗样本检测方法、系统、存储介质、终端及应用。

背景技术

目前：图像识别是深度学习的重要分支。基于图像识别技术的相关应用在的日常生活中承担着各种复杂的任务，扮演着越来越重要的角色。在人脸识别、自动驾驶、金融等对系统安全性要求较高的领域，深度学习模型需要具有较强的稳定性和准确性。最近研究发现，深度学习模型容易受到一些精心制作的输入样本的攻击。在原始数据的基础上加上一些人眼难以察觉的轻微扰动就能使得分类模型产生误判，这样的输入样本称为对抗样本。

目前，主要通过对抗训练防御技术和优化模型防御技术来抵御对抗样本的攻击。对抗训练防御技术需要重新训练分类模型。首先通过对抗样本生成算法生成对抗样本，然后将这些对抗样本添加进原有的训练数据集中，最后用所构建的新数据集重新训练分类模型，以此提升模型的鲁棒性。由于需要生成对抗样本和重新训练分类模型，所以对抗训练防御技术是比较耗时的。优化模型防御技术需要修改分类模型的结构。大部分对抗样本攻击算法需要分类模型的梯度信息来生成对抗样本，修改模型防御技术旨在掩盖这些梯度信息、增大对抗攻击的难度，以此来提升模型抵御对抗样本的能力。由于需要对原始分类模型的结构进行修改，所以优化模型防御技术入侵性太大。

通过上述分析，现有技术存在的问题及缺陷为：

(1)现有对抗训练防御技术需要利用对抗样本生成算法生成大量的对抗样本，攻击效果比较好的对抗样本生成算法往往是比较耗时的，所以在构建数据集阶段会花费大量时间。

(2)现有优化模型防御技术需要对原有分类模型的结构进行修改，该方法入侵性太强。在实际中，通常会利用别人已经训练好的分类模型，所以该方法具有局限性。

(3)现有对抗训练防御技术和现有优化模型防御技术都需要重新对分类模型进行训练，如果模型本身很大，也会花费大量的时间。

解决以上问题及缺陷的难度为：如何减少构建对抗样本防御系统的时间成本；如何充分利用已有分类模型，避免对已有分类模型的修改；如何保证对抗样本防御系统能够检测对抗样本，同时对普通样本的精确度不会有较大影响。

解决以上问题及缺陷的意义为：由上述分析可知，解决以上问题及缺陷可以避免图像对抗样本检测系统对原始分类模型的修改，可以快速构建图像对抗样本防御体系。

发明内容

针对现有技术存在的问题，本发明提供了一种图像对抗样本检测方法、系统、存储介质、终端及应用。

本发明是这样实现的，一种图像对抗样本检测方法，所述图像对抗样本检测方法包括：

降噪神经网络对原始图像进行降噪处理，平滑对抗攻击扰动，得到降噪图像；

分类模型对原始图像进行分类处理，获取处理后的logits值；

分类模型对降噪图像进行分类处理，获取处理后的logits值；

利用原始图像和降噪图像的logits值，计算原始图像和降噪图像之间的差异得分；

根据差异得分判断原始图像是对抗样本还是普通样本。