[发明专利]基于联邦学习的模型训练方法及装置

权利要求书

1.一种基于联邦学习的模型训练方法，其特征在于，包括：

接收第二数据提供方发送的第二原始自变量计算值；所述第二原始自变量计算值为第二数据提供方根据第二原始自变量和第二模型参数计算得到；

根据第一数据提供方的第一模型参数初始值、第一原始自变量和所述第二原始自变量计算值，计算因变量估计值；

计算所述第一数据提供方的因变量与所述因变量估计值的差值；

根据所述差值，计算损失函数对第一模型参数的梯度值；

根据所述损失函数对第一模型参数的梯度值更新第一模型参数。

2.根据权利要求1所述的方法，其特征在于，接收所述第二数据提供方发送的第二原始数据计算值之前，还包括：

产生一对密钥，将所述密钥中的公钥发送给第二数据提供方；

计算所述第一数据提供方的因变量与所述因变量估计值的差值之后，还包括：

利用所述密钥中的私钥对所述差值进行加密，得到加密差值并发送到第二数据提供方；

接收第二数据提供方发送的损失函数对第二模型参数的梯度加密值，所述损失函数对第二模型参数的梯度加密值为所述第二数据提供方利用所述公钥，对随机数和所述加密差值计算得到；

利用所述密钥中的私钥对所述损失函数对第二模型参数的梯度加密值，得到损失函数对第二模型参数的梯度值与所述随机数之和；

将所述损失函数对第二模型参数的梯度值与所述随机数之和发送到所述第二数据提供方。

3.根据权利要求1所述的方法，其特征在于，根据第一数据提供方的第一模型参数初始值、第一原始自变量和所述第二原始自变量计算值，计算因变量估计值，包括：

根据第一数据提供方的第一模型参数初始值和第一原始自变量，获得第一原始自变量计算值；

将所述第一原始自变量计算值和所述第二原始自变量计算值相加，得到自变量；

对所述自变量取sigmoid函数值，得到所述因变量估计值。

4.根据权利要求3所述的方法，其特征在于，根据所述差值，计算损失函数对第一模型参数的梯度值，包括：

根据下述公式，计算所述损失函数对所述第一模型参数的梯度值：

其中，n为因变量个数，y_i为原始因变量，为第一原始自变量，h_Θ(x_i1)为所述因变量估计值，x_i1为所述自变量。

5.根据权利要求1-4中任意一项所述的方法，其特征在于，所述第一数据提供方设置有参数服务器和多个工作节点。

6.一种基于联邦学习的模型训练方法，其特征在于，包括：

根据第二模型参数和第二数据提供方的第二原始自变量，获得第二原始自变量计算值；

将所述第二原始自变量计算值发送给第一数据提供方；

接收第一数据提供方发送的因变量与因变量估计值的加密差值；所述加密差值为第一数据提供方利用私钥加密得到；所述差值为第一数据提供方根据第一数据提供方的因变量、第一数据提供方的第一自变量计算值以及所述第二原始自变量计算值计算得到；

利用接收第一数据提供方发送的公钥、所述加密差值、第二数据提供方的第二原始自变量和随机数，计算得到损失函数对第二模型参数的梯度加密值；

将所述损失函数对第二模型参数的梯度加密值发送到第一数据提供方；

接收所述第一数据提供方发送的所述损失函数对第二模型参数的梯度值与所述随机数之和；所述损失函数对第二模型参数的梯度值与所述随机数之和，为第一数据提供方利用所述私钥对所述损失函数对第二模型参数的梯度加密值解密得到；

根据所述损失函数对第二模型参数的梯度值，更新所述第二模型参数。