[发明专利]模型处理方法、装置、电子设备以及存储介质在审
| 申请号: | 202210233983.8 | 申请日: | 2022-03-09 |
| 公开(公告)号: | CN114595833A | 公开(公告)日: | 2022-06-07 |
| 发明(设计)人: | 叶柏威 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
| 主分类号: | G06N20/00 | 分类号: | G06N20/00 |
| 代理公司: | 北京博浩百睿知识产权代理有限责任公司 11134 | 代理人: | 宫传芝 |
| 地址: | 100085 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 模型 处理 方法 装置 电子设备 以及 存储 介质 | ||
本公开提供了一种模型处理方法、装置、电子设备以及存储介质,涉及机器学习技术领域,具体涉及联邦学习技术领域,以至少解决相关技术中模型的预测性能较低的技术问题。具体实现方案为:获取至少一个模型训练任务,其中,至少一个模型训练任务中每个模型训练任务至少包括训练数据和任务标识;基于每个模型训练任务的任务标识确定与该模型训练任务对应的待训练模型;基于每个模型训练任务的训练数据和该模型训练任务对应的模型训练方式对该模型训练任务对应的待训练模型进行训练,得到目标模型。
技术领域
本公开涉及机器学习技术领域,进一步涉及联邦学习技术领域,具体涉及模型的处理方法,尤其涉及一种模型处理方法、装置、电子设备以及存储介质。
背景技术
目前,市面上存在较多开源的纵向联邦学习框架,一部分纵向联邦学习框架可以是采用多方安全计算和同态加密技术来保护数据隐私,一部分纵向联邦学习框架可以通过创建多个计算实体来对多个租户进行支持,但是难以联合不同租户统一训练模型,导致模型的预测性能较低。
发明内容
本公开提供了一种模型处理方法、装置、电子设备以及存储介质,以至少解决相关技术中模型的预测性能较低的技术问题。
根据本公开的一方面,提供了一种模型处理方法,包括:获取至少一个模型训练任务,其中,至少一个模型训练任务中每个模型训练任务至少包括训练数据和任务标识;基于每个模型训练任务的任务标识确定与该模型训练任务对应的待训练模型;基于每个模型训练任务的训练数据和该模型训练任务对应的模型训练方式对该模型训练任务对应的待训练模型进行训练,得到目标模型。
可选地,待训练模型包括:至少一个子模型,在获取至少一个模型训练任务之后,该方法还包括:接收至少一个模型训练任务中每个模型训练任务对应的模型训练方式,其中,模型训练方式用于确定待训练模型的至少一个子模型中待训练的子模型和/或确定待训练的子模型中需要更新模型参数的子模型。
可选地,基于每个模型训练任务的任务标识确定与该模型训练任务对应的待训练模型,包括:基于每个模型训练任务的任务标识确定与该模型训练任务对应的场景子模型,其中,场景子模型用于表示能够实现该模型训练任务对应的场景的子模型;基于场景子模型和预设子模型构建待训练模型。
可选地,不同模型训练任务对应的场景子模型不同,不同模型训练任务对应的预设子模型相同。
可选地,基于每个模型训练任务的训练数据和该模型训练任务对应的模型训练方式对该模型训练任务对应的待训练模型进行训练,得到目标模型,包括:响应于该模型训练任务对应的模型训练方式为第一训练方式,利用该模型训练任务的训练数据对该模型训练任务对应的待训练模型中的场景子模型和预设子模型进行训练,基于训练结果更新场景子模型的模型参数。
可选地,基于每个模型训练任务的训练数据和该模型训练任务对应的模型训练方式对该模型训练任务对应的待训练模型进行训练,得到目标模型,包括:响应于该模型训练任务对应的模型训练方式为第二训练方式,利用该模型训练任务的训练数据对该模型训练任务对应的待训练模型中的场景子模型和预设子模型进行训练,基于训练结果更新场景子模型的模型参数和预设子模型的模型参数。
可选地,基于每个模型训练任务的训练数据和该模型训练任务对应的模型训练方式对该模型训练任务对应的待训练模型进行训练,得到目标模型,包括:响应于该模型训练任务对应的模型训练方式为第三训练方式,利用该模型训练任务的训练数据对该模型训练任务对应的待训练模型中的场景子模型进行训练,基于训练结果更新场景子模型的模型参数。
可选地,基于场景子模型和预设子模型构建待训练模型,包括:响应于场景子模型的输出端与预设子模型的输入端之间的插拔状态,基于场景子模型和预设子模型生成待训练模型,其中,插拔状态用于表示预设子模型的输入端是否连接于场景子模型的输出端。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210233983.8/2.html,转载请声明来源钻瓜专利网。





