[发明专利]一种基于全同态加密算法的多方深度学习隐私保护方法在审
申请号: | 202111025100.6 | 申请日: | 2021-09-02 |
公开(公告)号: | CN113761557A | 公开(公告)日: | 2021-12-07 |
发明(设计)人: | 郑超;窦凤虎;万俊平;殷丽华;孙哲 | 申请(专利权)人: | 积至(广州)信息技术有限公司 |
主分类号: | G06F21/60 | 分类号: | G06F21/60;G06K9/62;G06N3/04 |
代理公司: | 重庆百润洪知识产权代理有限公司 50219 | 代理人: | 李立 |
地址: | 510555 广东省广州市黄浦区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 同态 加密算法 多方 深度 学习 隐私 保护 方法 | ||
1.一种基于全同态加密算法的多方深度学习隐私保护方法,其特征在于,包括以下步骤:
S1、分别构建参数服务器、解密服务器和N个用户Pi={Pi|1≤i≤N}的多方深度学习场景,其中,参数服务器构造为待训练模型,并将模型分割为特征提取器E、中间层M、业务分类器C;
S2、参数服务器初始化待训练模型,并将模型参数分配给每个参与方Pi;
S3、解密服务器初始化全同态加密算法,生成私钥sk和公钥pk,并将公钥pk公开;
S4、每个用户Pi根据隐私目标要求使用本地数据训练模型,记录特征提取器E输出的数据特征中间层的权重参数和训练数据标签label;
S5、每个用户Pi使用全同态加密的公钥pk加密数据特征中间层的权重参数和训练数据标签label,得到和Enc(label),并上传至参数服务器;
S6、参数服务器聚合所有用户Pi发送的中间层参数并将所有数据特征密文输入中间层,将中间层输出发送至解密服务器;
S7、解密服务器使用全同态加密的私钥sk解密中间层输出outputM,并将其返回参数服务器;
S8、参数服务器将中间层输出outputM输入业务分类器C,得到输出outputC;
S9、参数服务器加密outputC,并使用Enc(label)计算业务分类器C的损失函数值,并发送至解密服务器;
S10、解密服务器使用全同态加密的私钥sk解密损失函数值,并将其返回参数服务器;
S11、参数服务器根据损失函数值计算梯度,更新业务分类器C,并将更新的模型发送给每个参与方Pi。
2.根据权利要求1所述的基于全同态加密算法的多方深度学习隐私保护方法,其特征在于,所述S1中参数服务器用于构造待训练模型并将其分割为特征提取器E、中间层M、业务分类器C;将模型分配给若干用户后,收集用户上传的参数密文和数据特征密文并进行运算;向解密服务器请求解密服务,得到损失函数值用于更新业务分类器C。
3.根据权利要求1所述的基于全同态加密算法的多方深度学习隐私保护方法,其特征在于,所述S1中解密服务器用于初始化全同态加密算法,并将加密公钥公开给参数服务器和用户,还能够为参数服务器提供解密服务。
4.根据权利要求1所述的基于全同态加密算法的多方深度学习隐私保护方法,其特征在于,所述S1中用户为使用本地数据训练深度学习模型,将加密的数据特征和模型参数发送给参数服务器,根据参数服务器返回的结果更新本地模型。
5.根据权利要求4所述的基于全同态加密算法的多方深度学习隐私保护方法,其特征在于,所述深度学习模型具体结构为:卷积层1-激活函数1-池化层1-线性层1-卷积层2-激活函2数-池化层2-线性层2,其中中间层M由线性层1构成。
6.根据权利要求1所述的基于全同态加密算法的多方深度学习隐私保护方法,其特征在于,所述S3中全同态加密算法使用的是CKKS算法或BFV算法,而在CKKS算法初始化过程中还会生成一个辅助密钥用于乘法运算,由参数服务器持有。
7.根据权利要求1所述的基于全同态加密算法的多方深度学习隐私保护方法,其特征在于,所述S10中损失函数的计算方法为:随后参数服务器将Enc(f(x))发送至解密服务器,解密后得到f(x)。
8.根据权利要求1所述的基于全同态加密算法的多方深度学习隐私保护方法,其特征在于,所述S11中参数服务器更新业务分类器C时,使用的梯度计算公式为:其中f是损失函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于积至(广州)信息技术有限公司,未经积至(广州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111025100.6/1.html,转载请声明来源钻瓜专利网。