[发明专利]纵向联邦学习模型的训练方法、装置、设备及存储介质在审
| 申请号: | 202110688660.3 | 申请日: | 2021-06-21 |
| 公开(公告)号: | CN113420886A | 公开(公告)日: | 2021-09-21 |
| 发明(设计)人: | 黄晨宇;王健宗;黄章成 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
| 主分类号: | G06N20/00 | 分类号: | G06N20/00;G06K9/62;G06F21/60 |
| 代理公司: | 深圳市力道知识产权代理事务所(普通合伙) 44507 | 代理人: | 张传义 |
| 地址: | 518057 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 纵向 联邦 学习 模型 训练 方法 装置 设备 存储 介质 | ||
1.一种纵向联邦学习模型的训练方法,其特征在于,所述方法应用于纵向联邦学习模型训练过程中的第一设备,包括:
生成加密公钥和解密私钥;其中,所述加密公钥用于发送给参与模型训练的各第二设备对所述模型的数据和参数进行加密,所述解密私钥用于对所述模型的加密损失值进行解密;
获取所述模型的承诺数据进行零知识证明,得到所述承诺数据的零知识证明结果,其中,所述承诺数据为所述各第二设备对源数据集进行数据承诺得到的;
获取所述模型的加密损失初始化参数进行零知识证明,得到所述加密损失初始化参数的零知识证明结果,其中,所述加密损失初始化参数是所述各第二设备基于所述源数据集通过加密损失初始化计算得到的;
获取所述模型的加密损失值进行零知识证明,得到所述加密损失值的零知识证明结果,其中,所述加密损失值是所述各第二设备基于所述加密损失初始化参数和加密损失计算权重计算得到的;
基于所述解密私钥对所述加密损失值进行解密,得到所述模型训练过程中的损失值,当所述损失值小于预设阈值时,得到训练好的纵向联邦学习模型。
2.根据权利要求1所述的训练方法,其特征在于,所述方法还包括:
当所述损失值大于或等于所述预设阈值时,根据所述损失值更新所述加密损失计算权重得到更新的加密损失计算权重,并将所述更新的加密损失计算权重发送所述各第二设备用于所述模型的迭代训练。
3.根据权利要求1所述的训练方法,其特征在于,所述方法包括:
基于计算任务生成零知识证明门电路,所述计算任务包括:数据承诺、加密损失初始化、加密损失计算;
根据所述零知识证明门电路生成证明秘钥和验证秘钥,其中,所述证明秘钥用于所述各第二设备生成证明,所述验证秘钥用于对所述证明进行验证;
基于所述验证秘钥对所述证明进行验证,得到所述计算任务结果的零知识证明结果。
4.根据权利要求1所述的训练方法,其特征在于,所述方法还包括:
根据所述承诺数据的零知识证明结果,确定是否存在虚假数据;
确定不存在虚假数据时,将所述源数据集用于所述模型的加密损失初始化计算;
确定存在虚假数据时,将提供所述虚假数据的第二设备确定为恶意节点,并将所述恶意节点移除,重新开始所述模型的训练。
5.根据权利要求1所述的训练方法,其特征在于,所述方法还包括:
根据所述加密损失初始化参数的零知识证明结果,确定所述加密损失初始化过程是否存在恶意节点;
确定所述加密损失初始化过程不存在恶意节点时,将所述加密损失初始化参数用于所述模型的加密损失计算;
确定所述加密损失初始化过程存在恶意节点时,通知所述各第二设备,并停止所述模型的训练。
6.根据权利要求1所述的训练方法,其特征在于,所述方法还包括:
根据所述加密损失值的零知识证明结果,确定所述加密损失计算过程是否存在恶意节点;
确定所述加密损失计算过程不存在恶意节点时,将所述加密损失值用于解密得到所述模型训练过程中的损失值;
确定所述加密损失计算过程存在恶意节点时,通知所述各第二设备,并停止所述模型的训练。
7.根据权利要求1至6任一项所述的训练方法,其特征在于,所述生成加密公钥和解密私钥包括:
基于同态加密算法生成所述加密公钥和所述解密私钥。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110688660.3/1.html,转载请声明来源钻瓜专利网。





