[发明专利]横向数据切分联邦学习建模方法、服务器及介质有效

专利信息
申请号: 201810918869.2 申请日: 2018-08-10
公开(公告)号: CN109189825B 公开(公告)日: 2022-03-15
发明(设计)人: 马国强;范涛;刘洋;陈天健;杨强 申请(专利权)人: 深圳前海微众银行股份有限公司
主分类号: G06F16/2458 分类号: G06F16/2458
代理公司: 深圳市世纪恒程知识产权代理事务所 44287 代理人: 胡海国;魏兰
地址: 518052 广东省深圳市前海深港合作区前*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 横向 数据 切分 联邦 学习 建模 方法 服务器 介质
【权利要求书】:

1.一种横向数据切分联邦学习建模方法,其特征在于,所述横向数据切分联邦学习建模方法包括以下步骤:

服务器节点将第一模型参数发送至各个工作节点,以供各个工作节点分别对其自身的待训练数据进行联邦模型训练得到梯度和损失代价,并反馈所述梯度和损失代价,其中,各个数据拥有方分别切分自身拥有的数据获得待训练数据,并分别发送所述待训练数据至对应的工作节点,所述工作节点包括本地工作节点和远程工作节点;

接收所述各个工作节点反馈的所述梯度和损失代价;

基于所述梯度和损失代价对所述第一模型参数进行更新,以获得第二模型参数,并判断第二模型参数是否收敛,若是,则将所述第二模型参数作为标准模型参数;

所述服务器节点将第一模型参数发送至各个工作节点,以供各个工作节点分别对其自身的待训练数据进行联邦模型训练得到梯度和损失代价,并反馈所述梯度和损失代价,其中,各个数据拥有方分别切分自身拥有的数据获得待训练数据,并分别发送所述待训练数据至对应的工作节点的步骤包括:

所述服务器节点将第三模型参数发送至所述本地工作节点,以供所述本地工作节点对其自身的待训练数据对应的第一多方样本特征进行联邦模型训练得到本地梯度和损失代价,并反馈所述本地梯度和损失代价,其中,所述本地工作节点与所述服务器节点属于同一个数据拥有方;

且所述服务器节点将第四模型参数发送至远程工作节点,以供所述远程工作节点对其自身的若干份数据对应的第二多方样本特征进行联邦模型训练得到加密梯度,并反馈所述加密梯度,其中,所述第四模型参数为对所述第三模型参数执行加密操作后得到的模型参数,所述远程工作节点对应的数据拥有方为各个数据拥有方中除服务器节点对应的数据拥有方以外的第一数据拥有方。

2.如权利要求1所述的横向数据切分联邦学习建模方法,其特征在于,所述接收所述各个工作节点反馈的所述梯度和损失代价的步骤包括:

接收所述本地工作节点反馈的本地梯度和损失代价,且接收所述远程工作节点反馈的加密梯度。

3.如权利要求2所述的横向数据切分联邦学习建模方法,其特征在于,所述基于所述梯度和损失代价对所述第一模型参数进行更新,以获得第二模型参数,并判断第二模型参数是否收敛,若是,则将所述第二模型参数作为标准模型参数的步骤包括:

将接收到的加密梯度进行解密得到远程梯度;

对所述本地梯度和远程梯度进行汇总求和得到梯度,且基于所述梯度对所述第一模型参数进行更新得到第二模型参数;

基于所述损失代价,判断所述第二模型参数是否收敛;

若是,则将所述第二模型参数作为标准模型参数。

4.如权利要求3所述的横向数据切分联邦学习建模方法,其特征在于,所述基于所述损失代价,判断所述第二模型参数是否收敛的步骤包括:

对所述损失代价进行求和后判断所述损失代价是否无变化,其中,在判定所述损失代价无变化后,确定所述第二模型参数收敛;

或;

判断所述第二模型参数与所述第一模型参数相比是否无变化,其中,在判定所述第二模型参数与所述第一模型参数相比无变化后,确定所述第二模型参数收敛;

或;

判断所述第二模型参数已达到最大迭代次数,其中,在判定所述第二模型参数已达到最大迭代次数后,确定所述第二模型参数收敛。

5.如权利要求3所述的横向数据切分联邦学习建模方法,其特征在于,所述基于所述损失代价,判断更新后的模型参数是否收敛的还步骤包括:

若否,则将所述第二模型参数作为第一模型参数,并执行服务器节点将第一模型参数发送至各个工作节点的步骤。

6.如权利要求1所述的横向数据切分联邦学习建模方法,其特征在于,所述则将所述第二模型参数作为标准模型参数的步骤之后,所述横向数据切分联邦学习建模方法的方法还包括:

在接收到所述本地工作节点和远程工作节点结束联邦模型训练的结束指令后,发送的第二模型参数至所述本地工作节点,以供所述本地工作节点基于所述第二模型参数计算第一预测结果,并反馈所述第一预测结果。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810918869.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top