[发明专利]一种基于同态加密的线性回归纵向联邦学习方法

权利要求书

1.一种基于同态加密的线性回归纵向联邦学习方法，其特征在于，该方法包括下述步骤：

步骤1：构建基于同态加密的线性回归训练模型：

数据应用者即owner：同时持有数据矩阵和类标签的数据提供者；

数据持有者即consumer：将只有一个数据矩阵的数据提供者定义为数据持有者；数据持有者在联邦学习中扮演客户的角色；

步骤A1：初始化模型参数W_A∈R^1*a，W_B∈R^1*b，特征值X_A∈R^n*a，X_B∈R^n*b，owner利用Paillier算法生成公私钥对；所述W_A∈R^1*a为owner的模型参数，n表示有n个样本，a表示owner有a个特征值，X_A表示owner的特征值；W_B∈R^1*b，b表示consumer有b个特征值，R表示矩阵，Paillier为一种同态加密算法，初始化模型阈值Limites；

步骤A2：consumer和owner分别计算特征值与特征矩阵的乘积，consumer计算加密后的特征值与特征矩阵乘积：发给owner，owner将其解密，然后带入线性回归方程计算预测值并计算加密后的实际值与预测值的误差即：发给consumer，Encrypt()表示加密，y′表示线性回归方程的预测值，T表示矩阵转置；

步骤A3：利用偏导值更新参数，owner计算偏导值owner更新模型参数W_A＝W_A-nL_A∈R^1*a，owner将加密的偏导值发送给consumer，同理利用加法同态性consumer更新模型参数Encrypt(W_B)＝Encrypt(W_B)-nEncrypt(L_B)∈R^1*b，L_A表示owner偏导值，L_B表示consumer偏导值，η表示学习率；

步骤A4：一直重复步骤A2和步骤A3，直到满足其中：sum是指求和，是一个向量，表示实际类标签与预测类标签的差值，整体即：本轮向量内所有元素之和与上轮向量元素之和的差与阈值Limites的比较；

步骤A5：步骤4执行完毕之后owner直接获得更新后的模型参数W_A∈R^1*a，consumer在本地得到Encrypt(W_B)，利用加法同态性，consumer选择随机向量R_B∈R^1*b并计算；Encrypt(W_B+R_B)＝Encrypt(R_BW_B)发送给owner，owner解密之后consumer再减去随机矩阵即可获得自己更新后的参数Decrypt(W_B)＝Decrypt(Encrypt(W_B+R_B))-R_B；

consumer和owner得到了纵向联邦学习的模型参数W_B，W_A；其中，Decrypt()表示解密；

步骤2：去除第三方对模型进行预测或基于差分隐私的借助第三方对模型进行预测：

步骤B1：owner利用得到的模型参数W_A，计算

步骤B2：consumer计算发给owner；

步骤B3：owner计算并将结果返回给consumer；

consumer得到了预测值：类标签y；

基于差分隐私的借助第三方模型预测：

步骤C1：owner计算Encrypt(W_A)∈R^1*n并发送给Carol，Carol表示可信第三方，同时拥有consumer和owner的特征值X_B，X_A；

步骤C2：Carol计算和发送给consumer；

步骤C3：consumer计算发送给Carol，Lap(0，1)表示拉普拉斯噪音：

步骤C4：Carol计算Encrypt(y)+Random发送给owner，Random是随机向量；

步骤C5：Owner计算y+Random＝D(Encrypt(y+Random))发送给Carol；

Carol得到最终的预测结果：类标签y。