[发明专利]一种防止GAN模型攻击并保护CDL训练信息的隐私防护方法

说明书

本发明公开了一种防止GAN模型攻击并保护CDL训练信息的隐私防护方法，包括如下步骤：步骤一，建立GAN模型；步骤二，添加检测模块并修改网络协议；步骤三，检测模块检测入侵；步骤四，使用基于卷积神经网络的架构；步骤一中，在协作深度学习高级网络架构的基础上生成GAN模型，并通过CAN模型来构建算法；步骤二中，向参数服务器添加了一个检测模块；然后根据修改后的协议和定义的数据埋点，在局部模型上添加一个埋点层，在埋点层之下设置输出层，本发明该主要关注与如何在协作深度学习中识别针对GAN模型攻击的准确且适应性强的信息保护方法；与其他方法相比，本发明所提出的机制可以更加准确并更加能够广泛适应的保护信息。

技术领域

本发明涉及协作深度学习网络系统技术领域，具体为一种防止GAN模型攻击并保护CDL训练信息的隐私防护方法。

背景技术

大数据的共享为政府部门、企业、科研机构提供了便利条件，然而随之而来的数据隐私安全问题日渐增多；差分隐私技术在支持隐私保护的数据挖掘与数据发布方面得到了广泛研究；深度学习最近在机器学习方面非常受欢迎，因为它能够解决端到端学习系统，其中功能和分类器同时被学习，在高度结构化和大型数据库的存在下显著提高分类准确性；它的成功归功于最近的算法突破，越来越强大的计算机以及对大量数据的访问；研究人员还考虑了深度学习对隐私的影响；通常以集中方式训练模型，所有数据由相同的训练算法处理；如果数据是用户私人数据的集合，包括习惯，个人图片，地理位置，兴趣等，则中央服务器将能够访问可能被错误处理的敏感信息；为了解决这个问题，科研人员提出了协作深度学习模型来保护训练过程中的数据隐私，如图1所示；该框架图展示了协同深度学习系统的主要组件和协议，其中各方在本地训练他们的深度学习结构并且仅共享参数的子集以试图保持他们各自的训练集私有。

深度学习由于在图像分类和生物学应用中有着较高的有效性和精确度，因此被广泛应用在医疗领域，但由于模型中的算法数据的变化，会导致个人信息暴露从而产生严重后果；针对协作式深度学习网络系统的各种攻击都会导致信息泄露，以及分散式深度学习的多次培训并更新参数，都存在大量信息泄露风险。

在使用深度学习模型从模糊图像中判断主体身份时会存在人为的分类错误，从而导致错误的输出；同时，由于深度学习需要在训练集中累积数据信息，这将导致更高的隐私泄露风险，尤其是在医疗领域。

GAN攻击协作试深度学习允许所有成员从设备中推断敏感信息，但是即使在已进行了差异隐私模糊处理的情况下，攻击者也可在不影响服务提供商的情况下进行攻击，获取重要敏感数据从而引起隐私泄露。

因此设计一种在生成对抗网络(GAN)模型下，防止GAN模型攻击并保护CDL训练信息的算法，来提高稳定性，来更加准确有效的防止信息泄露，是很有意义的。

发明内容

本发明的目的在于提供一种防止GAN模型攻击并保护CDL训练信息的隐私防护方法，以解决上述背景技术中提出的问题。

为了解决上述技术问题，本发明提供如下技术方案：一种防止GAN模型攻击并保护CDL训练信息的隐私防护方法，包括如下步骤：步骤一，建立GAN模型；步骤二，添加检测模块并修改网络协议；步骤三，检测模块检测入侵；步骤四，使用基于卷积神经网络的架构；

其中在上述的步骤一中，在协作深度学习高级网络架构的基础上建立生成对抗网络(GAN)模型，并通过CAN模型来构建算法；

其中在上述的步骤二中，向参数服务器(parameterserver,PS)添加了一个检测模块，并修改网络协议；然后根据修改后的协议和定义的数据埋点，在局部模型上添加一个埋点层，在埋点层之下设置输出层；

其中在上述的步骤三中，当攻击者向服务器上传参数时，反向传播过程会更新被埋点层的权重，检测模块则会立即发现入侵，若此行为被归为恶GAN模型攻击，则攻击者上传的参数将被释放，攻击者的学习进度也将会受限，并且等待下一次的加载；当最终确认为有效攻击时，解决方案会由攻击行为决定；