[发明专利]一种面向后门攻击的防御方法

说明书

本发明涉及人工智能技术领域，具体公开一种面向后门攻击的防御方法，包括如下步骤：步骤1，获取图神经网络模型M_oracle及其训练数据集Data_oracle；步骤2，对训练数据集Data_oracle进行预处理；步骤3，构建生成器网络G，得到预测图Y_pred；步骤4，构建鉴别器网络D，并输出图数据二分类的结果；步骤5，防御模型的训练，完成后门攻击的防御网络模型搭建；步骤6，将删减连边处理后的任务数据D_real输入到生成器网络G中进行数据重建，得到任务结果。本发明的防御方法能直接破坏插入在图数据中的触发器结构，导致它无法取得该有的效果，但又不影响正常样本，模型对于输入正常样本仍然可以表现出应有的性能。

技术领域

本发明涉及人工智能技术领域，具体涉及一种面向后门攻击的防御方法。

背景技术

深度学习逐渐成为人工智能领域的研究热点和主流发展方向。近年来，深度学习经过快速的发展，被运用到许多任务上，取得了良好的效果，从图像分类到视频处理再到语音识别和自然语言处理。这些任务中的数据通常表示在欧几里得空间中，然而，越来越多的任务从非欧几里得生成数据，并将它们表示为具有复杂关系和相互依赖关系的图。现实生活中大多数的系统都可以用图数据来表示，例如社交网络，通信网络，生物网络和智能电网等。随着图数据的应用范围的增多，越来越多的深度神经网络被用于解决图演化任务，例如图分类、节点分类和链接预测等。

图神经网络解决图演化任务的过程中，同时也带来了许多的问题，而关于图神经网络模型的安全问题是在整个过程里尤为重要的部分。目前对于深度学习的模型的安全性工作，大多数都是关于连续数据(例如图像)DNN的，但对于离散结构数据(例如图)的图神经网络(GNN)的脆弱性知之甚少，鉴于其应用范围的增加，其安全性是一个高度令人担忧的问题。

其中，图神经网络(GNN)在后门攻击的防御方面研究近乎空白，但GNN确实遭遇着后门攻击的威胁，后门攻击是发生在训练阶段的攻击方法，攻击者通过设置好触发器的训练数据来对模型进行训练，该模型能在应用阶段以高度可预测的方式响应带有触发器嵌入的数据输入，导致模型产生预先设置好的结果，而对于输入模型的其他正常样本，模型则能正常运行。模型一旦在训练阶段被设置好了触发器，该模型就相当于给攻击者留出了后门，攻击者在模型的使用阶段，输入带有触发器嵌入的数据，将导致极其严重的后果，为此提出针对后门攻击的防御方法是十分重要的。

图神经网络后门攻击这一领域，近些年，出现了几种不同的攻击方法，在其攻击性能上都表现良好，但对于后门攻击的防御方法，目前还处于空白状态，这使得图神经网络模型在安全这一领域，时刻有遭受着后门攻击的危险，而造成严重的后果。为此本发明提出了面向图神经网络模型基于生成式对抗网络的后门攻击防御方法，来尽可能减少后门攻击在图神经网络模型领域所带来的损失，来提高模型的安全性。

发明内容

本发明为了克服现有技术图神经网络后门防御方法的空白，本发明提供一种基于生成式对抗网络的后门攻击防御方法，对输入到正在运行模型的数据进行预处理，破坏数据中存在的触发器结构，从而起到防御的作用。

为实现上述目的，本发明采用的技术方案是：

一种面向后门攻击的防御方法，包括如下步骤：

步骤1，获取图神经网络模型M_oracle及其训练数据集Data_oracle；

步骤2，对训练数据集Data_oracle进行预处理：取出部分数据组成干净样本数据集Data_clean，连边操作后获得新的训练数据集Data_deal，将新的训练数据集Data_deal划分为训练集Data_train，验证集Data_val和测试集Data_test；