[发明专利]一种优化决策边界增强深度神经网络鲁棒性的图像分类方法

说明书

本发明涉及一种优化决策边界增强深度神经网络鲁棒性的图像分类方法，通过计算网络的决策域模型来计算对抗样本，通过对抗训练来优化神经网络对应的决策边界的分布，从而提高网络鲁棒性。具体为：使用训练好的深度神经网络的参数计算并获得其对应的决策域模型，并使用该模型与训练样本判断网络对应的决策边界有哪些对扰动较为敏感，并使用训练集中的数据计算得到对扰动敏感的决策边界周围样本的对抗样本，将对抗样本混入到训练样本中，对网络进行对抗训练，通过优化网络参数从而使得决策边界向敏感方向的反方向移动，降低其对扰动的敏感性，获得鲁棒性高的深度神经网络，从而在提高网络在分类任务中抗干扰的能力。

技术领域

本发明属于人工智能领域，具体涉及一种优化决策边界增强深度神经网络鲁棒性的图像分类方法。

背景技术

深度神经网络可以用来完成分类和回归任务。现如今，深度神经网络在各种分类任务中都有不错的表现。深度神经网络在进行分类任务时，主要依赖于深度神经网络对样本空间进行划分所得到的决策域，每个决策域对应各自的类别，当样本点落入某个决策域时则对应该样本被网络分类到对应决策域的类别。但对于一些特殊的图片样本，通过为其添加一些细小的扰动，则会使网络对该图片的类别进行错误的判断，这种样本即对抗样本。对抗样本的存在说明当前的神经网络的鲁棒性较弱，分类效果不够稳定，在应用过程中可能会因为一些外界的因素，如传感器信号的细微波动等，将数据误判为别的类别，从而执行错误的操作。

以自动驾驶为例，现在大多使用深度神经网络来处理车辆传感器获得的信号与当前操作之间的联系，从而完成闭环操作，根据信息实时调整车辆，但车辆在复杂的情况下行驶，温度，适度，甚至车辆的颠簸都可能使得车辆的传感器信号受到影响，相当于对输入的信息添加了扰动，这时使用该信息来判断路况时，如果使用的神经网络鲁棒性不够强，很有可能被误分类，从而影响车辆做出错误的判断，这可能会出现致命的问题。

所以为了解决这个问题，需要知道如何提高网络的鲁棒性来避免扰动的影响。当某个样本点位于决策域的决策边界附近时，如果添加适当的扰动使其跨过决策域的某个决策边界，进入另一个不同类别的决策域时，该样本就有可能成为对抗样本，而为了避免这种情况发生，需要对这些可能的对抗样本附近的决策域进行细微调整。此时如果能计算得到网络所生成的决策域，就能根据样本数据来进行调节决策域的决策域边界，从而增强网络的鲁棒性。调整方式即使用一部分对抗样本来对网络进行训练，从而在反向传播的过程中影响网络参数，从而使得决策域边界相对抗样本的方向移动，来获得鲁棒性强的网络，降低网络在应对现实生活中各种数据时出现错误的可能性。

发明内容

针对现有模型在进行图像分类时，存在图像添加肉眼难以察觉的细小干扰会使得类别发生改变，导致图像分类不准确的问题，本发明提出了一种优化决策边界增强深度神经网络鲁棒性的图像分类方法，创新点在于提出了一套新的方法用来计算网络决策边界以及其拓扑性质，来构建当前网络的决策域模型，根据分析决策边界在样本中的分布，选取合适的策略调节决策边界：通过使用离决策边界近的样本来计算产生对抗样本，通过对抗训练，调整对扰动敏感的决策边界其对应的网络参数，也就是说优化后的神经网络对添加了扰动的样本更加不敏感，从而提高网络的鲁棒性。

在神经网络中，分段线性的激活函数，如Relu、LeakRelu等激活函数的存在使得每一个神经网络节点的表达式与激活函数的表达式的组合得到的复合表达式都对应决策空间中的一个线性超平面，这些线性超平面将样本空间划分成了若干个输出函数不同的子空间，最后将这些子空间按照输出节点的输出函数最大的条件进一步划分得到的子空间，就是决策域，构成决策域的超平面称为决策边界。每个决策域其内部样本点使得网络输出响应最高的节点相同，即每个决策域内的样本类别一致。因此决策域模型可以被认为是分类任务网络的另一种等价表示形式，因此只要能计算出网络的决策域就能够直观根据决策边界的性质决定调整那些节点的参数。