[发明专利]基于安全洗牌和差分隐私的联邦学习模型安全防护方法及系统

说明书

本发明公开了一种基于安全洗牌和差分隐私的联邦学习模型安全防护方法及系统，联邦模型拥有者利用差分隐私技术对联邦学习的模型参数进行加噪声，生成带噪声的模型参数，之后利用用户授权密钥和安全洗牌算法加密模型参数，并将加密的联邦学习模型参数发送给用户；用户在本地使用联邦学习模型时，首先利用用户授权密钥和安全洗牌算法解密模型参数密文，得到带噪声的联邦学习模型，用户将自己的数据作为该模型的输入就能得到期望的输出结果。本发明不仅保护了原始模型的隐私性，可以有效保护原始模型的安全、保证用户能够得到可用的模型使用结果。

技术领域

本发明属于人工智能领域，具体涉及一种基于安全洗牌和差分隐私的联邦学习模型安全防护方法及系统。

背景技术

联邦学习是一种正在被广泛研究和使用的人工智能技术，目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或多计算结点之间开展高效率的机器学习。因此，联邦学习能够解决数据不出本地的机器学习任务，从而保护协同参与者的训练样本数据隐私，解决了数据孤岛问题。然而，目前联邦学习虽然解决了各个参与方的训练样本等数据隐私问题，但现有的相关差分隐私保护技术的使用都关注模型训练过程中样本隐私和参数隐私，未能够解决联邦学习模型发布本地使用的模型安全隐私。众所周知，邦学习模型是多方协同合作的结果，原始的联邦学习模型是模型拥有者的数据资产，保证联邦学习模型发布使用的隐私性仍是亟待解决的问题。因此，如何安全发布原始的联邦学习模型，以及保证用户对模型的可用性是一个重要的技术难点。

发明内容

发明目的：针对现有技术的不足，本发明一种基于安全洗牌和差分隐私的联邦学习模型安全防护方法及系统，能保护联邦学习模型拥有者的隐私、保证用户获得的联邦模型的可用性。

技术方案：本发明所述的一种基于安全洗牌和差分隐私的联邦学习模型安全防护方法，包括以下步骤：

(1)基于差分隐私高斯机制对联邦学习的模型参数进行加噪声，生成带噪声的模型参数；

(2)利用用户授权密钥和安全洗牌算法对差分隐私加噪后的模型参数进行加密，并将加密的联邦学习模型参数发送给用户；

(3)利用用户授权密钥和安全洗牌算法解密模型参数密文，得到带噪声的联邦学习模型；

(4)将用户的数据作为带噪声的联邦学习模型的输入，得到期望的输出结果。

进一步地，所述步骤(1)实现过程如下：

联邦学习模型Π的参数构成一个m×n的矩阵A_Π，利用差分隐私中的高斯机制对矩阵A_Π中的每个元素进行噪声处理，得到带噪声的联邦学习模型Π′的参数矩阵A′_Π：

A′_Π(i,j)＝A_Π(i,j)+α (1)

其中，高斯机制提供松弛(ε,δ)-差分隐私，噪声比例σ≥cΔs/ε，常数ε∈(0,1)；敏感度高斯噪声分布α～N(0,σ²)满足(ε,δ)-差分隐私，α为矩阵中每一个数据所增加的噪声数值，敏感度代表了查询函数s针对相邻数据集的输出的最大不同。

进一步地，所述步骤(2)包括以下步骤：

(21)读入m×n的带噪声的联邦学习模型参数矩阵A_Π；

(22)初始化逻辑映射控制参数s，d，f，g，其中，s为混沌控制参数，d和f为逻辑映射控制参数，分别对x_n、y_n进行映射，g为耦合项；并初始迭代映射iter＝200，给定密钥key＝{x，y}，其中x和y是混沌映射的两个初始值；