[发明专利]一种复合隐私保护方法、系统、计算机设备及存储介质

说明书

本发明提供了一种复合隐私保护方法、系统、计算机设备及存储介质，所述方法包括：预先根据客户端权重，通过可信第三方生成客户端的加密公钥和服务器的解密私钥；由所述服务器向所述客户端发送第一模型和第一模型参数；由所述客户端根据本地数据对所述第一模型进行训练，将所述第一模型参数更新为第二模型参数；采用差分隐私算法，由所述客户端对所述第二模型参数添加噪声，得到第三模型参数；根据所述加密公钥，由所述客户端对所述第三模型参数进行函数加密，得到加密模型并发送给所述服务器；根据所述解密私钥，由所述服务器对所述加密模型进行解密，得到全局模型。本发明不仅加强了隐私保护，还提高了模型服务质量和学习效率。

技术领域

本发明涉及人工智能技术领域，特别是涉及一种面向联邦学习的复合隐私保护方法、系统、计算机设备及存储介质。

背景技术

随着人工智能的高速发展，采用机器深度学习模型进行训练分类预测等被广泛应用，然而，由于每个用户的数据有限降低了机器学习的精度，且出于对数据隐私和安全的保护，各个用户之间无法直接进行数据交换等问题的存在限制了机器学习的发展，随之，一种允许在不需要原始数据的情况下充分利用分散的训练设备进行模型训练的联邦学习就应运而生了。虽然，联邦学习为进一步打破数据孤岛和提供更精确的服务提供了便利，且已在数字图像处理、自然语言处理、文本语音处理等领域得以广泛应用，但其学习过程中存在的数据隐私问题仍备受学者关注，学者们分别基于数据级隐私和内容级隐私给出了不同的保护方案。

现有技术虽然提供了不同的隐私保护方案，如，通过同态加密和安全多方计算等方法保护数据级隐私，采用扰动机制(如差分隐私)和泛化机制(如k-匿名、l-多样性、t-近似)保护内容级隐私，将差分隐私和安全多方计算协议结合起来保护数据和参数的隐私，将差分隐私和秘密共享技术结合起来保护数据提供者的隐私，及将函数加密和差分隐私相结合保证参数隐私性，并添加一个可信的第三方实体来负责生成和管理密钥的多维度隐私保护等方法。但，它们中均未考虑联邦学习训练过程中客户端权重的保护，在为攻击者根据模型分析结果间接推断出训练数据的来源提供了可乘之机的同时，为了追求差分隐私保护效果又忽略了联邦学习模型的服务质量和学习效率。

发明内容

本发明的目的是提供一种面向联邦学习的复合隐私保护方法，在克服现有隐私保护方法忽略对客户端权重保护的问题，达到了保护客户端数据来源隐私和防止数据级隐私泄露威胁的效果的同时，克服现有技术忽略联邦学习的模型服务质量和学习效率的问题，达到了防止内容级隐私泄露威胁、保障模型服务质量和学习效率的效果。

为了实现上述目的，有必要针对上述技术问题，提供了一种复合隐私保护方法、系统、计算机设备及存储介质。

第一方面，本发明实施例提供了一种复合隐私保护方法，所述方法包括以下步骤：

预先根据客户端权重，通过可信第三方生成客户端的加密公钥和服务器的解密私钥；

由所述服务器向所述客户端发送第一模型和第一模型参数；所述第一模型参数包括噪声参数和采样率；

由所述客户端根据本地数据对所述第一模型进行训练，将所述第一模型参数更新为第二模型参数；

采用差分隐私算法，由所述客户端对所述第二模型参数添加噪声，得到第三模型参数；

根据所述加密公钥，由所述客户端对所述第三模型参数进行函数加密，得到加密模型并发送给所述服务器；

根据所述解密私钥，由所述服务器对所述加密模型进行解密，得到全局模型。。

进一步地，所述预先根据客户端权重，通过可信第三方生成客户端的加密公钥和服务器的解密私钥的步骤包括：

由所述客户端将预设的权重数据发送给所述可信第三方；

由所述可信第三方根据所述权重数据生成权重向量，并根据所述权重向量生成所述客户端的加密公钥和服务器的解密私钥。