[发明专利]基于Soft GBDT的跨特征联邦学习方法、预测方法有效
| 申请号: | 202110806104.1 | 申请日: | 2021-07-16 |
| 公开(公告)号: | CN113435537B | 公开(公告)日: | 2022-08-26 |
| 发明(设计)人: | 周一竞;孟丹;李宏宇;李晓林 | 申请(专利权)人: | 同盾控股有限公司;同盾科技有限公司 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N20/00 |
| 代理公司: | 北京律智知识产权代理有限公司 11438 | 代理人: | 王辉;阚梓瑄 |
| 地址: | 311121 浙江省杭州市余*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 soft gbdt 特征 联邦 学习方法 预测 方法 | ||
1.一种基于Soft GBDT的跨特征联邦学习方法,其特征在于,配置于多方机器学习中提供第一特征数据以及特征标签的第一数据持有者,用于对Soft GBDT进行训练,所述基于Soft GBDT的跨特征联邦学习方法包括:
利用所述Soft GBDT计算所述第一特征数据在所述Soft GBDT中的第一内节点的第一线性回归部分;
接收第二数据持有者发送的利用所述Soft GBDT对第二特征数据进行计算得到的第二线性回归部分;
计算所述第一线性回归部分以及第二线性回归部分在所述Soft GBDT中的叶子节点的输出值,并根据所述叶子节点的输出值以及所述特征标签,计算所述Soft GBDT中所包括的当前软决策树的局部损失函数;
根据所述局部损失函数计算所述Soft GBDT的全局损失函数,并根据所述全局损失函数计算所述第一内节点的第一梯度,根据所述第一梯度对所述Soft GBDT的第一内节点的参数进行更新。
2.根据权利要求1所述的基于Soft GBDT的跨特征联邦学习方法,其特征在于,计算所述第一线性回归部分以及第二线性回归部分在所述Soft GBDT中的叶子节点的输出值,包括:
对所述第一线性回归部分以及第二线性回归部分进行求和运算得到第一和运算结果;
利用所述Soft GBDT的叶子节点所在的归一化层对所述第一和运算结果进行归一化处理,得到所述第一和运算结果在所述当前软决策树所在叶子节点的输出值。
3.根据权利要求2所述的基于Soft GBDT的跨特征联邦学习方法,其特征在于,根据所述叶子节点的输出值以及所述特征标签,计算所述Soft GBDT中所包括的当前软决策树的局部损失函数,包括:
计算排在当前软决策树前面的所有软决策树在叶子节点的输出值的总和;
对排在当前软决策树前面的所有软决策树在叶子节点的输出值的总和进行归一化运算,得到所述第一和运算结果中所包括的样本特征在排在当前软决策树前面的所有软决策树中的第一预测结果;
根据所述第一预测结果、所述样本特征在当前软决策树中的叶子节点的输出值以及与所述样本特征对应的特征标签,构建所述当前软决策树的局部损失函数。
4.根据权利要求3所述的基于Soft GBDT的跨特征联邦学习方法,其特征在于,根据所述全局损失函数计算所述第一内节点的第一梯度,包括:
根据所述全局损失函数对所述第一内节点的参数进行一阶求导,并根据所述局部损失函数对所述叶子节点的参数进行二阶求导;其中,根据所述局部损失函数对所述叶子节点的参数进行二阶求导包括:根据所述局部损失函数对每棵软决策树的第一内节点的模型参数用链式法则进行求导;
根据所述全局损失函数的一阶导数、局部损失函数的二阶导数以及所述软决策树的输出值,计算所述软决策树的第一内节点的第一梯度。
5.根据权利要求4所述的基于Soft GBDT的跨特征联邦学习方法,其特征在于,所述基于Soft GBDT的跨特征联邦学习方法还包括:
根据所述全局损失函数对所述叶子节点的参数进行一阶求导,得到所述软决策树中所包括的叶子节点的叶子梯度;
根据所述叶子节点的叶子梯度,对所述软决策树中的叶子节点的参数进行更新。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于同盾控股有限公司;同盾科技有限公司,未经同盾控股有限公司;同盾科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110806104.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种玫瑰面膜及其制备方法和应用
- 下一篇:一种秸秆还田方法





