[发明专利]一种基于联邦学习的单方实时预测算法

权利要求书

1.一种基于联邦学习的单方实时预测算法，其特征在于，包括以下步骤：

(1)发起方A创建常规的联邦学习模型任务，并通过隐私通信通知所有参与方启动相应的算法任务；

(2)各个参与方B、C初始化参与方模型算法结构和参与数据，保证所有的参与模型训练的数据的关键字ID，在各个参与方上都有相应的维度特征；

(3)模型所有参与方通过隐私求交算法将参与方的所有样本数据进行对齐保证，保证多有要进入模型训练的数据维度完整，同时也要保证训练样本的分布平衡；

(4)初始化student计算模型本地计算模型student，本地学习模型student使用Bayesian优化算法进行超参优化；

(5)联邦学习模型进行整体的特征学习，并且在每个学习周期里面运行一次整体的训练批次的验证，获取预测结果Label的分布向量，student模型根据Label的分布向量，进行多轮拟合训练，配合Bayesian优化算法选取最适合的超参；

联邦学习知识蒸馏实现，

student模型损失函数：

L＝αL_soft+βL_hard

L＝CE(y，p)+αCE(q，p)；

其中q为teacher预测结果分布，p为student模型预测结果分布，CE为交叉熵，y为真实label分布值；

(6)经过多轮的训练和超参优化，使得loss损失小于指定范围，最终得到满意的student模型；

(7)模型部署：将student模型持久化保存，以API接口形式进行部署。