[发明专利]攻击样本的获取方法、装置、设备及介质

说明书

本发明涉及数据处理技术，揭露了一种攻击样本的获取方法，包括：获取分类模型及分类模型的训练数据及训练数据对应的数据标签；利用攻击算法生成与训练数据对应的扰动数据；利用分类模型对扰动数据进行预测，得到预测标签；当预测标签与训练数据对应的数据标签不一致时，确定扰动数据为初始攻击样本；利用梯度下降算法对初始攻击样本进行预设次数的迭代计算，并且计算迭代产生的所有初始更新攻击样本与训练数据的距离值，获取最小距离值对应的初始更新攻击样本为标准攻击样本。此外，本发明还涉及区块链技术，训练数据可存储于区块链节点中。本发明可以提高获取到的攻击数据的质量。

技术领域

本发明涉及大数据处理技术领域，尤其涉及一种攻击样本的获取方法、装置、电子设备及计算机可读存储介质。

背景技术

随着深度神经网络的出现，智能识别技术得到了飞速的发展，然而，深度神经网络面临抵抗攻击的性能不高。例如，具有图像分类功能的深度神经网络在图像分类的过程中，图像中微小像素的改变都会导致图像分类结果的不同。

目前对于提高深度神经网络攻击性的方法多为在深度神经网络训练的过程中加入攻击数据，从而提高深度神经网络的鲁棒性和准确性。但若是攻击数据的质量不高，无法达到提高深度神经网络的鲁棒性和准确性的目的。因此，如何获取高质量的攻击数据成为了亟待解决的问题。

发明内容

本发明提供一种攻击样本的获取方法、装置、电子设备及计算机可读存储介质，其主要目的在于提供一种提高获取到的攻击数据的质量的方法。

为实现上述目的，本发明提供的一种攻击样本的获取方法，包括：

获取分类模型及获取所述分类模型的训练数据及所述训练数据对应的数据标签；

利用攻击算法生成与所述训练数据对应的扰动数据；

利用所述分类模型对所述扰动数据进行预测，得到预测标签；

当所述预测标签与所述训练数据对应的数据标签不一致时，确定所述扰动数据为初始攻击样本；

利用梯度下降算法对所述初始攻击样本进行预设次数的迭代计算，并且计算迭代产生的所有初始更新攻击样本与所述训练数据的距离值，获取最小距离值对应的初始更新攻击样本为标准攻击样本。

可选地，所述利用攻击算法生成与所述训练数据对应的扰动数据，包括：

利用攻击算法对所述训练数据加入扰动因子，得到所述扰动数据。

可选地，所述训练数据为训练图像，所述攻击算法为：

Trans＝(δ_R+x_R)+(δ_G+x_G)+(δ_B+x_B)

其中，Trans为扰动数据，x_R、x_G、x_B为所述训练图像中任一像素点的三分量，δ_R、δ_G、δ_B为扰动因子中任一像素点的三分量，所述扰动因子是与所述训练图像大小相同的图像。

可选地，所述利用梯度下降算法对所述初始攻击样本进行预设次数的迭代计算，包括：

设置迭代参数，其中，所述迭代参数包括但不限于迭代次数，学习率，范数更新因子，扰动图像的范数；

初始化迭代参数，将所述分类模型自带的权重参数固定，对所述分类模型中的损失函数求梯度；

利用所述梯度对所述初始攻击样本进行更新，得到多个初始更新攻击样本；

将所述多个初始攻击样本投影到预设半径的范数球的球面上；