[发明专利]一种基于反向传播攻击的图像检测对抗方法

说明书

本发明中提出的一种基于反向传播攻击的图像检测对抗方法，其主要内容包括：功能模块、攻击方法、训练方法，其过程为，建立攻击模型，将三维物理场景通过转换系统变换成二维图像，并嵌入目标分类系统和视觉问答系统；然后用法线向量、亮度向量和材料向量对物理空间进行表征，分别对这三个向量进行扰动量的限制；在确立攻击目标的基础上，使用反向传播计算应该嵌入扰动量的大小，从而完成对物理空间的攻击。本发明可以提供基于深度学习模型的特征提取机制，首次将图像攻击直接应用到物理空间场景中，同时创新性地提出了基于反向传播方法计算的扰动量嵌入方法。

技术领域

本发明涉及计算机视觉领域，尤其是涉及了一种基于反向传播攻击的图像检测对抗方法。

背景技术

深度学习的发展近十年来在人工智能领域取得了非常具有建设性的突破，也是现阶段互联网大数据环境下最流行的智能应用方式之一。深度学习在图像检索、图像内容分析、自然语言处理、视频行为分析、多媒体解析等诸多宽广的领域上取得了引人瞩目的成功应用。但相应地接踵而至的是，各种各样的计算机视觉问题都在尝试使用深度学习的方法来进行更为突破性的研究。一方面，在各种计算机视觉获得前向解决方案的同时，它需要增强鲁棒性和泛化能力；另一方面，在设计安全领域的问题上，深度学习需要解决被攻击的问题。于是，对于如何保持深度学习在计算机视觉领域中的稳健能力及分辨能力，是个挑战性的问题。生成式对抗网络(GANs)是深度学习领域最新提出的比较重要的一个模型，其主要目的是通过不断生成负样本去误导系统的分辨器，从而增强分辨器的分辨能力。这种模型的提出，可以有助于解决算法领域与实际应用中的问题。在算法领域中，这种模型可以有助于发现网络攻防领域中的暴力破解问题、视频监控系统中的假图像植入问题、图像内容分析系统中的纹理分割问题等，促进检测器、分类器等正向解决方案朝着更加稳健、有效的方向发展。而在实际应用方面，该模型则可以搭建智能监控算法自动识别监控视频系统，找到危险情况和危险人物；而如果我们只有一张照片而不知道它的其他信息，我们可以利用该模型从海量的互联网数据库中找到我们所需的对象信息；当我们处于一个陌生的环境，我们只需要拍一张环境的照片，图像识别算法就能从中捕获到场景的信息；此外，各种环境文字信息可以指导路线导航、可穿戴式设备可以识别手势并和我们做出交互。然而，在生成攻击图像的方法中，以往的过程都是发生在接收二维图像输入之后，在实际问题中，针对三维的物理场景的攻击会使得检测器的分类与识别更有难度，因为它蕴含有更多的信息，如空间距离与相对位置，也正因为这样，成功的攻击会使得对抗的方法更加有效。

本发明中提出了一种基于反向传播攻击的图像检测对抗方法，首先将三维物理场景通过转换系统变换成二维图像，并嵌入目标分类系统和视觉问答系统；然后用法线向量、亮度向量和材料向量对物理空间进行表征，分别对这三个向量进行扰动量的限制；在确立攻击目标的基础上，使用反向传播计算应该嵌入扰动量的大小，从而完成对物理空间的攻击。本发明可以提供基于深度学习模型的特征提取机制，首次将图像攻击直接应用到物理空间场景中，同时创新性地提出了基于反向传播方法计算的扰动量嵌入方法。

发明内容

针对解决生成攻击图像的问题，本发明的目的在于提供一种基于反向传播攻击的图像检测对抗方法，首先将三维物理场景通过转换系统变换成二维图像，并嵌入目标分类系统和视觉问答系统；然后用法线向量、亮度向量和材料向量对物理空间进行表征，分别对这三个向量进行扰动量的限制；在确立攻击目标的基础上，使用反向传播计算应该嵌入扰动量的大小，从而完成对物理空间的攻击。

为解决上述问题，本发明提供一种基于反向传播攻击的图像检测对抗方法，其主要内容包括：

(一)功能模块；

(二)攻击方法；

(三)训练方法。

其中，所述的功能模块，建立一个端对端的训练框架，从物理场景空间中接收输入X，经过转换系统后得到二维空间的图像Y，该图像经过攻击后得到新的输出检测结果具体地，包括三维目标转换系统、目标分类系统和视觉问答系统。