[发明专利]业务模型的联合训练方法及装置

权利要求书

1.一种业务模型的联合训练方法，用于多个业务方联合训练业务模型，所述业务模型用于对业务数据进行处理，得到相应的业务处理结果，所述多个业务方包括第一方、第二方和第三方，针对用于训练所述业务模型的多个训练样本，所述第一方持有包含部分或全部业务特征的特征数据，以及当前模型参数的第一份额，所述第二方至少持有各个业务标签，以及当前模型参数的第二份额，第三方为辅助训练业务模型的可信第三方；所述方法由第一方执行，包括：

按照与所述第二方协商一致的随机数生成方式和当前随机数种子，生成预定数量的随机数，从而获取与各个随机数分别对应的各个训练样本的特征数据；

与第二方秘密共享当前模型参数和当前获取的训练样本对应的特征数据的融合结果，得到融合结果的第一份额；

将所述融合结果的第一份额发送至第三方，以供第三方基于所述融合结果的第一份额，以及从第二方获取的所述融合结果的第二份额，确定基于激励函数处理所述融合结果的激励结果；

基于从第三方获取的激励结果的第一份额，与第二方秘密共享当前模型参数的梯度和海森矩阵，得到所述当前模型参数的梯度的第一份额、所述海森矩阵的第一份额；

利用从第三方接收的辅助矩阵的第一份额，与第二方秘密共享所述海森矩阵与所述辅助矩阵的乘积，得到所述乘积的第一份额，其中，所述辅助矩阵由第三方生成，并随机拆分得到辅助矩阵的第一份额和所述辅助矩阵的第二份额，所述辅助矩阵的第二份额由第三方发送至第二方；

根据所述乘积的第一份额，与第二方公开所述海森矩阵与所述辅助矩阵的乘积的合并结果，或所述合并结果的逆矩阵；

按照所述合并结果的逆矩阵，以及所述辅助矩阵的第一份额，确定所述海森矩阵的逆矩阵的第一份额；

基于所述模型参数的梯度的第一份额、所述海森矩阵的逆矩阵的第一份额，与第二方秘密共享更新的模型参数，以获得更新的模型参数的第一份额。

2.根据权利要求1所述的方法，其中，所述基于所述融合结果的第一份额，与第二方秘密共享当前模型参数的梯度和海森矩阵，得到所述当前模型参数的梯度的第一份额、所述海森矩阵的第一份额包括：

基于所述融合结果的第一份额，得到所述融合结果的激励结果的第一份额，其中，所述激励结果的第一份额通过与第二方秘密共享所述激励结果而得到；

根据所述激励结果的第一份额，与第二方秘密共享所述当前模型参数的梯度以及海森矩阵，得到所述当前模型参数的梯度的第一份额以及所述海森矩阵的第一份额。

3.根据权利要求2所述的方法，其中，所述基于所述融合结果的第一份额，得到所述融合结果的激励结果的第一份额包括：

向第三方发送所述融合结果的第一份额，以供第三方根据所述融合结果的第一份额，以及从第二方获取的所述融合结果的第二份额，确定基于激励函数处理所述融合结果得到的激励结果，并将所述激励结果拆分得到第一份额和第二份额；

从第三方接收所述激励结果的第一份额。

4.根据权利要求2所述的方法，其中，所述基于所述融合结果的第一份额，得到所述融合结果的激励结果的第一份额包括：

基于所述激励结果的第一份额，与第二方以多项式或混淆电路的方式秘密共享所述激励结果，得到所述激励结果的第一份额。

5.根据权利要求2-4中任一所述的方法，其中，所述当前模型参数的梯度为，所述特征数据对应的特征矩阵的转置矩阵，与所述激励结果和当前训练样本的标签数据的差的乘积；

所述根据所述激励结果的第一份额，与第二方秘密共享所述当前模型参数的梯度以及海森矩阵，得到所述当前模型参数的梯度的第一份额以及所述海森矩阵的第一份额包括：

利用所述激励结果的第一份额，确定所述激励结果与标签数据的差的第一份额；

根据所述激励结果与标签数据的差的第一份额，以及所述特征数据的第一份额，与第二方秘密共享所述当前模型参数的梯度，得到所述当前模型参数的梯度的第一份额。