[发明专利]纵向联邦学习中无可信第三方的回归模型训练方法及系统

权利要求书

1.一种纵向联邦学习中无可信第三方的回归模型训练方法，其特征在于，所述方法包括：

数据提供方计算第一特征与第一特征参数的第一内积，将所述第一内积发送至模型发起方；其中，所述第一特征是预先从样本用户的第一行为数据中提取的；

模型发起方计算第二特征与第二特征参数的第二内积，并计算所述第一内积与所述第二内积的内积和，基于所述内积和采用预设函数计算预测值，计算所述预测值与真实标签值的残差，对所述残差进行半同态加密，将半同态加密残差以及半同态加密的公钥发送至所述数据提供方；其中，所述第二特征是预先从所述样本用户的第二行为数据中提取的；

所述数据提供方根据半同态加密的公钥，在半同态加密下，基于所述半同态加密残差计算针对所述第一特征参数的第一梯度并增加随机掩码，得到加密掩码梯度，并将所述加密掩码梯度发送至所述模型发起方；

所述模型发起方根据半同态加密的私钥，对所述加密掩码梯度进行解密，得到掩码梯度，将所述掩码梯度发送至所述数据提供方；

所述数据提供方去除所述掩码梯度中的随机掩码，得到所述第一梯度，并基于所述第一梯度更新所述第一特征参数。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

所述模型发起方基于所述预测值与真实标签值的残差，计算针对所述第二特征参数的第二梯度，并基于该第二梯度更新所述第二特征参数。

3.根据权利要求1所述的方法，其特征在于，所述预设函数为sigmoid函数。

4.根据权利要求1所述的方法，其特征在于，所述方法还包括：

所述模型发起方将所述预测值和所述真实标签值代入预设损失函数，计算损失值；

根据所述损失值判断回归模型是否收敛，若收敛，则确定所述回归模型训练完成；

若未收敛，则告知所述数据提供方，以使所述数据提供方返回执行所述计算第一特征与第一特征参数的第一内积，把所述第一内积发送至模型发起方的步骤。

5.根据权利要求4所述的方法，其特征在于，所述预设损失函数为：

其中，J_θ表示预设损失函数，i表示样本用户的编号，n表示样本用户的数目，y_i表示编号为i的样本用户的真实标签值，x_i表示所述内积和，h_Θ(·)表示sigmoid函数。

6.根据权利要求1所述的方法，其特征在于，所述样本用户的数目为n，所述第一特征的特征维度为m，所述回归模型的迭代训练轮数为r；

所述样本用户的数目、所述第一特征的特征维度和所述迭代训练轮数满足如下条件：

7.根据权利要求1-6任一项所述的方法，其特征在于，所述回归模型为逻辑斯蒂回归算法。

8.一种纵向联邦学习中基于回归模型的预测方法，其特征在于，所述方法包括：

数据提供方计算第一特征与第一特征参数的第一内积，将所述第一内积发送至模型发起方；其中，第一特征是预先从待预测用户的第一行为数据中提取的；第一特征参数是预先训练完成的；

模型发起方计算第二特征与第二特征参数的第二内积，并计算所述第一内积与所述第二内积的内积和，基于所述内积和采用预设函数计算预测结果；其中，所述第二特征是预先从所述待预测用户的第二行为数据中提取的；所述第二特征参数是预先训练完成的。