[发明专利]一种基于多方安全计算的模型训练方法和系统

说明书

本说明书实施例公开了一种基于多方安全计算的模型训练方法和系统。其中，所述方法包括应用于第一计算方，所述方法包括：基于模型参数矩阵的第一分片，与其他计算方协同运算，获得第一乘积矩阵的第一分片；基于第一乘积矩阵的第一分片，与其他计算方协同运算，获得激活矩阵的第一分片；基于激活矩阵的第一分片和标签矩阵，与其他计算方协同运算，获得当前轮的梯度矩阵的第一分片；基于前一轮的动量梯度矩阵的第一分片与当前轮的梯度矩阵的第一分片，确定当前轮的动量梯度矩阵的第一分片；基于模型参数矩阵的第一分片与当前轮的动量梯度矩阵的第一分片，确定更新后的模型参数矩阵的第一分片。

技术领域

本说明书涉及信息技术领域，特别涉及一种基于多方安全计算的模型训练方法和系统。

背景技术

大数据时代，存在非常多的数据孤岛。数据通常分散存于不同的企业中，企业与企业之间由于竞争关系和隐私保护的考虑，并不是完全的互相信任。

在一些情况下，企业与企业之间需要进行合作安全建模，以便在充分保护企业数据隐私安全的前提下，使用各方的数据对模型进行协同训练。用于模型训练的数据是分散在合作建模的各参与方的，需要在模型训练的过程中保护各合作方的数据隐私安全。

因此，有必要提出一种基于多方安全计算的模型训练方法，以在保护各参与方的数据隐私安全的情况下进行模型训练。

发明内容

本说明书实施例的一个方面提供一种基于多方安全计算的模型训练方法。该方法应用于第一计算方，第一计算方持有标签矩阵以及模型参数矩阵的第一分片；该方法包括对模型参数进行一轮或多轮迭代更新，其中一轮迭代更新包括：基于模型参数矩阵的第一分片，与其他计算方协同运算，获得第一乘积矩阵的第一分片；其中，其他计算方持有特征矩阵以及模型参数矩阵的第二分片；第一乘积矩阵为模型参数矩阵与特征矩阵的乘积；基于第一乘积矩阵的第一分片，与其他计算方协同运算，获得激活矩阵的第一分片，其中，激活矩阵的元素为第一乘积矩阵中对位元素的激活函数值；基于激活矩阵的第一分片和标签矩阵，与其他计算方协同运算，获得当前轮的梯度矩阵的第一分片；其中，梯度矩阵为激活矩阵与标签矩阵之差与特征矩阵的乘积；基于前一轮的动量梯度矩阵的第一分片与当前轮的梯度矩阵的第一分片，确定当前轮的动量梯度矩阵的第一分片；基于模型参数矩阵的第一分片与当前轮的动量梯度矩阵的第一分片，确定更新后的模型参数矩阵的第一分片。

本说明书实施例的另一个方面提供一种基于多方安全计算的模型训练系统。该系统应用于第一计算方，第一计算方持有标签矩阵以及模型参数矩阵的第一分片；该系统用于对模型参数进行一轮或多轮迭代更新，其中系统包括：第一获得模块，可以用于基于模型参数矩阵的第一分片，与其他计算方协同运算，获得第一乘积矩阵的第一分片；其中，其他计算方持有特征矩阵以及模型参数矩阵的第二分片；第一乘积矩阵为模型参数矩阵与特征矩阵的乘积；第二获得模块，可以用于基于第一乘积矩阵的第一分片，与其他计算方协同运算，获得激活矩阵的第一分片，其中，激活矩阵的元素为第一乘积矩阵中对位元素的激活函数值；第三获得模块，可以用于基于激活矩阵的第一分片和标签矩阵，与其他计算方协同运算，获得当前轮的梯度矩阵的第一分片；其中，梯度矩阵为激活矩阵与标签矩阵之差与特征矩阵的乘积；第一确定模块，可以用于基于前一轮的动量梯度矩阵的第一分片与当前轮的梯度矩阵的第一分片，确定当前轮的动量梯度矩阵的第一分片；第二确定模块，可以用于基于模型参数矩阵的第一分片与当前轮的动量梯度矩阵的第一分片，确定更新后的模型参数矩阵的第一分片。