[发明专利]联邦模型的训练方法、装置、设备、存储介质及程序在审
| 申请号: | 202110984584.0 | 申请日: | 2021-08-25 |
| 公开(公告)号: | CN113657685A | 公开(公告)日: | 2021-11-16 |
| 发明(设计)人: | 谭明超;马国强;范涛;杨强 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
| 主分类号: | G06Q10/04 | 分类号: | G06Q10/04;G06Q30/06;G06Q40/02;G06K9/62;G06N20/00 |
| 代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 李哲;黄健 |
| 地址: | 518027 广东省深圳市*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 联邦 模型 训练 方法 装置 设备 存储 介质 程序 | ||
1.一种联邦模型的训练方法,其特征在于,应用于包括第一设备和第二设备的联邦系统,待训练的联邦模型的模型参数包括待训练的第一权重集合和待训练的第二权重集合,所述第一设备用于训练所述第一权重集合,所述第二设备用于训练所述第二权重集合,所述方法包括:
所述第一设备根据第一对象的第一训练样本和所述第一权重集合,生成第一子结果,所述第一权重集合包括所述第一训练样本中各特征的权重值;
所述第一设备接收所述第二设备发送的第二子结果,所述第二子结果为所述第二设备根据所述第一对象的第二训练样本和所述第二权重集合得到的,所述第二权重集合包括所述第二训练样本中各特征的权重值;
所述第一设备根据所述第一子结果和所述第二子结果确定所述第一对象的预测结果,并根据所述预测结果和所述第一训练样本对应的标记结果更新所述第一权重集合,所述预测结果和所述标记结果还用于更新所述第二权重集合。
2.根据权利要求1所述的联邦模型的训练方法,其特征在于,所述第一设备根据所述预测结果和所述第一训练样本对应的标记结果更新所述第一权重集合,包括:
所述第一设备根据所述预测结果和所述标记结果,确定目标梯度,所述目标梯度包括第一子梯度和第二子梯度;
所述第一设备向所述第二设备发送所述第一子梯度,并接收所述第二设备发送的第一子权重集合,所述第一子权重集合为所述第二设备根据所述第一子梯度确定得到的;
所述第一设备根据所述第二子梯度确定第二子权重集合;
所述第一设备根据所述第一子权重集合和所述第二子权重集合更新所述第一权重集合。
3.根据权利要求2所述的联邦模型的训练方法,其特征在于,所述第一设备根据所述预测结果和所述标记结果,确定目标梯度,包括:
所述第一设备根据所述预测结果确定第一子预测结果和第二子预测结果;
所述第一设备根据所述第二子预测结果和所述标记结果,确定第二损失数据;
所述第一设备向所述第二设备发送所述第一子预测结果,并接收所述第二设备发送的第一损失数据,所述第一损失数据为所述第二设备根据所述第一子预测结果确定得到的;
所述第一设备根据所述第一损失数据和所述第二损失数据,确定所述目标梯度。
4.根据权利要求3所述的联邦模型的训练方法,其特征在于,所述第一设备根据所述第一损失数据和所述第二损失数据,确定所述目标梯度,包括:
所述第一设备将所述第一损失数据和所述第二损失数据之和确定为目标损失数据;
所述第一设备根据所述目标损失数据确定所述目标梯度。
5.根据权利要求1至4任一项所述的联邦模型的训练方法,其特征在于,所述第一设备根据所述第一子结果和所述第二子结果确定所述第一对象的预测结果,包括:
所述第一设备将所述第一子结果和所述第二子结果之和确定为中间结果;
所述第一设备根据预设参数对所述中间结果进行处理,得到所述预测结果。
6.根据权利要求1至4任一项所述的联邦模型的训练方法,其特征在于,所述第一设备根据第一对象的第一训练样本和所述第一权重集合,生成第一子结果,包括:
所述第一设备确定所述第一训练样本对应的第一样本向量,以及确定所述第一权重集合对应的第一权重向量;
所述第一设备将所述第一样本向量和所述第一权重向量的乘积确定为所述第一子结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110984584.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种发制品的多功能后加工设备
- 下一篇:一种菊花插穗常温保鲜剂及其应用
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理





