[发明专利]联邦模型的训练方法、装置、设备、存储介质及程序

说明书

本发明提供一种联邦模型的训练方法、装置、设备、存储介质及程序，该方法包括：第一设备根据第一对象的第一训练样本和第一权重集合，生成第一子结果，所述第一权重集合包括所述第一训练样本中各特征的权重值；第二设备根据第一对象的第二训练样本和第二权重集合，生成第二子结果，所述第二权重集合包括所述第二训练样本中各特征的权重值；第一设备根据第一子结果和第二子结果确定第一对象的预测结果，并根据所述预测结果和所述第一训练样本对应的标记结果更新所述第一权重集合；第二设备根据所述预测结果中的第一子预测结果更新所述第二权重集合。上述过程降低了训练过程的复杂度，提高联邦模型的训练效率。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种联邦模型的训练方法、装置、设备、存储介质及程序。

背景技术

随着互联网技术的快速发展，在各领域的数据平台中，用户的数据量大幅提升，各领域有着一大部分重合的用户，例如：社交平台有某用户的浏览数据，电商平台有该用户的购物数据，银行平台有该用户的收支和征信数据等。

相关技术中，在保证各数据平台的数据隐私保护的情况下，可以通过对多个数据平台的用户数据进行联邦学习，构建得到联合机器学习预测模型，以帮助各数据平台向用户提供更好的服务。

然而，实际应用中，联邦模型的训练过程计算量较大，导致训练效率较低。

发明内容

本发明的主要目的在于提供一种联邦模型的训练方法、装置、设备、存储介质及程序，以提高联邦模型的训练效率。

第一方面，本发明提供一种联邦模型的训练方法，

应用于包括第一设备和第二设备的联邦系统，待训练的联邦模型的模型参数包括待训练的第一权重集合和待训练的第二权重集合，所述第一设备用于训练所述第一权重集合，所述第二设备用于训练所述第二权重集合，所述方法包括：

所述第一设备根据第一对象的第一训练样本和所述第一权重集合，生成第一子结果，所述第一权重集合包括所述第一训练样本中各特征的权重值；

所述第一设备接收所述第二设备发送的第二子结果，所述第二子结果为所述第二设备根据所述第一对象的第二训练样本和所述第二权重集合得到的，所述第二权重集合包括所述第二训练样本中各特征的权重值；

所述第一设备根据所述第一子结果和所述第二子结果确定所述第一对象的预测结果，并根据所述预测结果和所述第一训练样本对应的标记结果更新所述第一权重集合，所述预测结果和所述标记结果还用于更新所述第二权重集合。

一种可能的实现方式中，所述第一设备根据所述预测结果和所述第一训练样本对应的标记结果更新所述第一权重集合，包括：

所述第一设备根据所述预测结果和所述标记结果，确定目标梯度，所述目标梯度包括第一子梯度和第二子梯度；

所述第一设备向所述第二设备发送所述第一子梯度，并接收所述第二设备发送的第一子权重集合，所述第一子权重集合为所述第二设备根据所述第一子梯度确定得到的；

所述第一设备根据所述第二子梯度确定第二子权重集合；

所述第一设备根据所述第一子权重集合和所述第二子权重集合更新所述第一权重集合。

一种可能的实现方式中，所述第一设备根据所述预测结果和所述标记结果，确定目标梯度，包括：

所述第一设备根据所述预测结果确定第一子预测结果和第二子预测结果；

所述第一设备根据所述第二子预测结果和所述标记结果，确定第二损失数据；

所述第一设备向所述第二设备发送所述第一子预测结果，并接收所述第二设备发送的第一损失数据，所述第一损失数据为所述第二设备根据所述第一子预测结果确定得到的；