[发明专利]机器学习模型的联合训练方法、装置、设备及存储介质

说明书

本公开提供了一种机器学习模型的联合训练方法、装置、电子设备及计算机可读存储介质，属于计算机技术领域。该方法包括：数据节点获取用于训练的样本数据；数据节点通过目标模型的第一部分处理样本数据，得到中间数据，并将中间数据发送至标签节点；标签节点通过目标模型的第二部分处理中间数据，并基于样本数据对应的标签数据，得到误差数据；标签节点将误差数据发送至数据节点；数据节点根据误差数据调整第一部分的参数，和/或标签节点根据误差数据调整第二部分的参数；其中，目标模型由第一部分和第二部分组成。本公开可以实现联合训练过程中数据节点与标签节点之间的数据不透明，提高数据的隐私性与安全性。

技术领域

本公开涉及计算机技术领域，尤其涉及一种机器学习模型的联合训练方法、机器学习模型的联合训练装置、电子设备与计算机可读存储介质。

背景技术

机器学习作为人工智能领域的核心技术，其发展状况很大程度上决定了人工智能的发展程度。目前，随着机器学习与大数据的结合，机器学习模型日益复杂化，训练模型所需的数据量与运算量大大增加，在此情况下，出现了由多台服务器或终端进行联合训练的方法。然而，现有的联合训练方法普遍存在数据泄露的安全隐患，限制了其在机器学习技术上的应用。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开提供了一种机器学习模型的联合训练方法、机器学习模型的联合训练装置、电子设备与计算机可读存储介质，进而至少在一定程度上克服现有的联合训练方法存在安全隐患的问题。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的第一方面，提供一种机器学习模型的联合训练方法，应用于联合训练系统，所述联合训练系统包括数据节点和标签节点；所述方法包括：所述数据节点获取用于训练的样本数据；所述数据节点通过目标模型的第一部分处理所述样本数据，得到中间数据，并将所述中间数据发送至所述标签节点；所述标签节点通过所述目标模型的第二部分处理所述中间数据，并基于所述样本数据对应的标签数据，得到误差数据；所述标签节点将所述误差数据发送至所述数据节点；所述数据节点根据所述误差数据调整所述第一部分的参数，和/或所述标签节点根据所述误差数据调整所述第二部分的参数；其中，所述目标模型由所述第一部分和所述第二部分组成。

在本公开的一种示例性实施例中，所述得到误差数据之后，所述方法还包括：所述标签节点根据所述误差数据判断是否达到预设条件；如果达到所述预设条件，则所述标签节点向所述数据节点发送训练结束信息，以当前的所述第一部分和所述第二部分确定所述目标模型；如果未达到所述预设条件，则所述标签节点执行将所述误差数据发送至所述数据节点的步骤。

在本公开的一种示例性实施例中，所述方法还包括：所述标签节点向所述数据节点发送数据索引信息；所述数据节点获取用于训练的样本数据，包括：所述数据节点根据所述数据索引信息获取所述样本数据。

在本公开的一种示例性实施例中，所述数据节点通过目标模型的第一部分处理所述样本数据，得到中间数据，并将所述中间数据发送至所述标签节点，包括：所述数据节点通过目标模型的第一部分处理所述样本数据，得到中间数据，并将加密后的所述中间数据发送至所述标签节点。

在本公开的一种示例性实施例中，所述标签节点将所述误差数据发送至所述数据节点，包括：所述标签节点将添加噪声的误差数据发送至所述数据节点。

在本公开的一种示例性实施例中，所述中间数据采用同态加密。