[发明专利]网络对抗训练样本生成方法及图神经网络鲁棒性评估方法

说明书

本发明属于人工智能技术领域，特别涉及一种网络对抗训练样本生成方法及图神经网络鲁棒性评估方法，利用诱导数据对图神经网络进行对抗训练，将攻击损失建立在未扰动的训练集上，在鲁棒性评估中考虑模型参数的对抗训练过程，从过拟合角度出发，构造加扰的训练数据，使图神经网络能够对训练数据很好地拟合，却难以对测试数据正确分类，也即图神经网络过拟合训练集学习出一个“假模型”。本发明采用对抗性攻击准确率下降幅度作为图神经网络鲁棒性评估方案，使图神经网络鲁棒性评估更加全面、完整、细致，评估后的图神经网络更加有效、可靠，便于图卷积神经网络在自然语言处理、计算机视觉及网络分析预测等领域中实际应用。

技术领域

本发明属于人工智能技术领域，特别涉及一种网络对抗训练样本生成方法及图神经网络鲁棒性评估方法。

背景技术

随着人工智能技术的研究与发展，深度学习在自然语言处理、图像识别、信号处理、物体识别等领域中表现不俗。图数据由于其强大的表达能力，在现实生活中有着广泛的应用。图神经网络(Graph Neural Network，GNN)使用神经网络来学习图结构数据，可以巧妙地从图数据中提取特征，而这些被提取出来的特征可以完成许多图数据分析任务，如节点分类、链路预测、社区发现和图分类等。在对图神经网络研究中发现，其很容易被一些微小的扰动迷惑，这类扰动可以被定义为对抗性扰动，通过在模型测试阶段可利用这些扰动因素来发现图神经网络存在的缺陷，进而能够根据这些漏洞缺陷做出相应的防御措施来增强模型鲁棒性。现有利用矛盾数据攻击方法，通过构造一组存在矛盾的对抗性训练数据，从欠拟合角度出发施加扰动，使图神经网络难以对其拟合，最终学习出一个“坏模型”，其是通过在污染训练集上的损失函数达到最大来进行对抗训练，忽略了模型参数在训练前后的差异性，进而影响图神经网络鲁棒性评估效果。

发明内容

为此，本发明提供一种网络对抗训练样本生成方法及图神经网络鲁棒性评估方法，从过拟合角度出发，构造加扰的训练数据，使图神经网络能够对训练数据很好地拟合，却难以对测试数据正确分类，也即图神经网络过拟合训练集学习出一个“假模型”，进而能够实现对抗训练中的诱导数据攻击，将模型参数视为扰动因素来对图神经网络进行全面评估，具有较好的实用性。

按照本发明所提供的设计方案，提供一种网络对抗训练样本生成方法，包含如下内容：

依据图神经网络设置原始样本数据的扰动参数并初始化，该扰动参数至少包含：扰动方式、扰动总数及用于存放扰动用数据节点编号的扰动列表，其中，扰动方式为图结构扰动或样本标签扰动；

在原始样本数据中添加诱导数据，获取扰动后的邻接矩阵或标签矩阵，利用目标损失函数正向训练图神经网络，获取训练后的网络参数；并依据训练后的网络参数获取攻击损失，并计算攻击损失对邻接矩阵或标签矩阵的攻击梯度；将攻击梯度转化为梯度矩阵，并依据预设的扰动值选取梯度矩阵中最大的两个元素，将该最大的两个元素对应的数据节点编号加入扰动列表；循环执行根据扰动列表在原始样本数据中添加诱导数据并利用目标损失函数训练图神经网络的步骤，更新扰动列表，直至满足循环终止条件；

根据更新后的扰动列表在原始样本数据上注入诱导数据，得到最终生成的训练样本。

作为本发明网络对抗训练样本生成方法，进一步地，依据正向训练的目标损失函数及未扰动的原始样本数据邻接矩阵或标签矩阵来获取攻击损失。

作为本发明网络对抗训练样本生成方法，进一步地，将攻击梯度转换为梯度矩阵时，并对矩阵符号进行有效处理，保留对扰动有效的攻击梯度，其余位置置零。

作为本发明网络对抗训练样本生成方法，进一步地，对矩阵符号进行有效处理中，对于扰动后邻接矩阵或符号矩阵的元素值为1且梯度值为负数时或对应的元素值为0且梯度值为正数时，则视为是对扰动有效的攻击梯度。