[发明专利]一种模型训练方法、装置和电子设备在审
| 申请号: | 202010002915.1 | 申请日: | 2020-01-02 |
| 公开(公告)号: | CN112668016A | 公开(公告)日: | 2021-04-16 |
| 发明(设计)人: | 陈琨;王国赛;李艺 | 申请(专利权)人: | 华控清交信息科技(北京)有限公司 |
| 主分类号: | G06F21/60 | 分类号: | G06F21/60 |
| 代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 莎日娜 |
| 地址: | 100084 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 模型 训练 方法 装置 电子设备 | ||
本发明实施例提供了一种模型训练方法、装置和电子设备,其中,所述的方法包括:接收模型需求方上传的模型训练需求信息和数据提供方上传的训练数据,其中,所述训练数据为密文;依据所述模型训练需求信息,确定待训练模型;基于多方安全计算协议,依据所述训练数据和模型训练需求信息对所述待训练模型进行基于密文的训练,确定所述待训练模型的目标模型参数,所述目标模型参数为密文;将所述目标模型参数返回至所述模型需求方;进而不仅能够保证模型需求方的数据安全和数据提供方的数据安全;且还能够在保证数据提供方数据安全的同时,有效的提高了模型训练结果的准确性。
技术领域
本发明涉及数据处理领域,特别是涉及一种模型训练方法、装置和电子设备。
背景技术
随着科学技术的不断发展,解决各种不同问题的模型不断的被设计出来,使得模型被广泛的应用于各个领域;如数据挖掘领域、人工智能领域等等。其中,模型在被使用之前,需要采用训练数据来对其进行训练。
在实际应用中,模型训练所需的训练数据往往分布在多个数据提供方;为了提高模型的性能,需要采用各方的训练数据对模型进行训练;以在更大规模、更高质量的数据集上进行模型的训练。
现有技术中,一种模型训练的方法是由模型需求方对模型进行训练;即模型需求方从各个数据提供方收集明文数据,然后采用收集的明文数据对模型进行训练。但这种方式会将数据提供方的训练数据泄露给模型需求方,无法保证数据提供方提供的训练数据安全。另一种模型训练的方法是由数据提供方对模型进行训练,即各数据提供方采用各自的数据上进行训练,然后在每轮训练结束后将模型参数同步给模型需求方。但是这种方式会将模型需求方模型泄露给各数据提供方,无法保证模型需求方模型的安全。
发明内容
本发明实施例提供一种模型训练方法,以保证模型训练过程中的数据安全。
相应的,本发明实施例还提供了一种模型训练装置和电子设备,用以保证上述方法的实现及应用。
为了解决上述问题,本发明实施例公开了一种模型训练方法,具体包括:接收模型需求方上传的模型训练需求信息和数据提供方上传的训练数据,其中,所述训练数据为密文;依据所述模型训练需求信息,确定待训练模型;基于多方安全计算协议,依据所述训练数据和模型训练需求信息对所述待训练模型进行基于密文的训练,确定所述待训练模型的目标模型参数,所述目标模型参数为密文;将所述目标模型参数返回至所述模型需求方。
可选地,所述模型训练需求信息包括结束条件;所述依据所述训练数据和模型训练需求信息对所述待训练模型进行基于密文的训练,确定所述待训练模型的目标模型参数,包括:采用所述训练数据对所述待训练模型进行密文训练;基于密文判断训练后的待训练模型是否满足结束条件;确定训练后的待训练模型满足结束条件时,获取所述待训练模型的当前模型参数并将所述当前模型参数确定为目标模型参数;确定训练后的待训练模型不满足结束条件时,执行所述采用所述训练数据对所述待训练模型进行密文训练的步骤。
可选地,所述基于密文判断训练后的待训练模型是否满足结束条件,包括:基于密文判断训练后所述待训练模型的迭代次数是否达到迭代次数阈值;或,基于密文判断本次训练后待训练模型的模型参数与上一次训练后待训练模型的模型参数的差异信息是否小于差异阈值;或,基于密文判断训练后的待训练模型预测误差是否小于误差阈值。
可选地,所述采用所述训练数据对所述待训练模型进行密文训练,包括:将所述训练数据输入所述待训练模型进行基于密文的前向计算,输出预测结果;依据所述预测结果对所述待训练模型的模型参数进行基于密文的调整。
可选地,所述模型训练需求信息包括初始模型参数,所述初始模型参数为密文;在所述依据所述模型训练需求信息,确定待训练模型之后,所述的方法还包括:采用所述初始模型参数,对所述待训练模型进行初始化。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华控清交信息科技(北京)有限公司,未经华控清交信息科技(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010002915.1/2.html,转载请声明来源钻瓜专利网。





