[发明专利]联邦学习中参与方贡献量计算方法、系统、设备及介质在审
| 申请号: | 202110920480.3 | 申请日: | 2021-08-11 |
| 公开(公告)号: | CN113626168A | 公开(公告)日: | 2021-11-09 |
| 发明(设计)人: | 章枝宪;李鑫超;周旭华;杨诗友;尹虹舒 | 申请(专利权)人: | 中国电信股份有限公司 |
| 主分类号: | G06F9/48 | 分类号: | G06F9/48;G06N20/20 |
| 代理公司: | 北京律智知识产权代理有限公司 11438 | 代理人: | 孙宝海;袁礼君 |
| 地址: | 100033 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 联邦 学习 参与 贡献 计算方法 系统 设备 介质 | ||
1.一种联邦学习中参与方贡献量计算方法,其特征在于,包括如下步骤:
创建由多个参与方进行横向联邦学习的任务,各个所述参与方配置为基于本地训练数据进行模型训练,得到本地模型参数;
获取多个参与方的本地模型参数,计算得到第一联邦学习模型,且各个所述参与方的本地训练数据分别划分到多个数据箱中;
分别计算删除各个所述参与方中各个所述数据箱时所述第一联邦学习模型的损失,作为所述参与方对应于被删除的数据箱的贡献量;
对于各个所述参与方,基于该参与方对应于所有数据箱的贡献量,计算该参与方的贡献量。
2.根据权利要求1所述的联邦学习中参与方贡献量计算方法,其特征在于,所述创建由多个参与方进行横向联邦学习的任务,包括如下步骤:
将一所述参与方作为任务发起方;
所述任务发起方创建由多个参与方进行横向联邦学习的任务,各个所述参与方配置为基于本地训练数据进行训练得到本地模型参数后,发送至所述任务发起方。
3.根据权利要求1所述的联邦学习中参与方贡献量计算方法,其特征在于,所述参与方配置为采用如下步骤将本地训练数据划分为多个数据箱:
所述参与方对排序后的本地训练数据基于相似性指标进行分箱,使得同一数据箱中的本地训练数据的相似性指标小于预设指标阈值。
4.根据权利要求3所述的联邦学习中参与方贡献量计算方法,其特征在于,所述参与方对排序后的本地训练数据基于相似性指标进行分箱之前,还包括如下步骤:
所述参与方按照特征对本地训练数据进行排序。
5.根据权利要求1所述的联邦学习中参与方贡献量计算方法,其特征在于,所述分别计算删除各个所述参与方中各个所述数据箱时所述第一联邦学习模型的损失,作为所述参与方对应于被删除的数据箱的贡献量,包括如下步骤:
任务发起方选择一个参与方作为调整参与方,选择删除所述调整参与方的一个数据箱,所述调整参与方配置为删除被选择的数据箱的本地训练数据后得到所述调整参与方的调整训练数据,并基于所述调整训练数据训练得到调整模型参数;
所述任务发起方基于所述调整参与方的调整模型参数与其他参与方的本地模型参数计算得到第二联邦学习模型;
所述任务发起方计算所述第二联邦学习模型相对于所述第一联邦学习模型的损失,作为所述参与方对应于各个所述数据箱的贡献量。
6.根据权利要求5所述的联邦学习中参与方贡献量计算方法,其特征在于,所述任务发起方选择一个参与方作为调整参与方,选择删除所述调整参与方的一个数据箱,包括如下步骤:
所述任务发起方从所有参与方中随机选择一个参与方作为调整参与方;
所述任务发起方随机选择所述调整参与方的一个数据箱作为待删除的数据箱。
7.根据权利要求5所述的联邦学习中参与方贡献量计算方法,其特征在于,所述调整参与方基于所述调整训练数据训练得到调整模型参数之后,还包括如下步骤:
将被删除的数据箱的本地训练数据重新加回到所述调整参与方的本地训练数据中。
8.根据权利要求5所述的联邦学习中参与方贡献量计算方法,其特征在于,所述任务发起方计算所述第二联邦学习模型相对于所述第一联邦学习模型的损失,包括如下步骤:
所述任务发起方采用测试集对所述第一联邦学习模型进行测试,得到第一测试结果;
所述任务发起方采用测试集对所述第二联邦学习模型进行测试,得到第二测试结果;
所述任务发起方比较所述第一测试结果和所述第二测试结果,计算所述第二联邦学习模型相对于所述第一联邦学习模型的损失。
9.根据权利要求5-8中任一项所述的联邦学习中参与方贡献量计算方法,其特征在于,所述任务参与方为一所述参与方。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国电信股份有限公司,未经中国电信股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110920480.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:钢板加工用多工位高精度钻孔机
- 下一篇:一种化学反应器





