[发明专利]一种面向联邦学习的半中心化对抗训练方法

权利要求书

1.一种面向联邦学习的半中心化对抗训练方法，其特征在于，具体步骤如下：

首先、在联邦学习过程中，针对待优先训练的特征项，获取带有特征标签的数据集，划分为训练集和测试集；根据联邦学习的规则，服务器根据客户端数量，将训练集进行概率采样；

然后、针对带有中央服务器的横向联邦学习架构，使用训练集预训练对抗生成模型VAE；

中央服务器将训练好模型VAE中的编码器参数发往每个用户端，并同时发送采集样本的数量比例参数；同时、中央服务器应用同态加密算法Pallier，重新生成公钥和私钥，将联邦学习架构的模型参数和公钥发往每个客户端，而将私钥留在服务端本地；

客户端使用训练集更新联邦学习架构的模型参数发送给服务器；同时随机选择5％-10％本地数据，使用训练好的编码器将其编码为隐变量，通过重参数化随机采样得到特征向量，封装发送给中央服务器；

最后，服务器接收更新的联邦学习架构的模型参数，将其进行加权平均；同时使用解码器将客户端发送的特征向量转换为对抗样本，并使用其作为训练数据再次微调加权平均后的联邦学习架构的模型参数进行最终发布。

2.如权利要求1所述的一种面向联邦学习的半中心化对抗训练方法，其特征在于，所述每个客户端本地数据指针指向分配好的训练集，并在每个客户端附加训练集目录；

目录中包含的内容有：(1)此客户端的训练集样本数量；(2)此客户端训练集标签分布；(3)此客户端训练集优先特征项的标签分布。

3.如权利要求1所述的一种面向联邦学习的半中心化对抗训练方法，其特征在于，所述对抗生成模型VAE包括：编码器Encoder，解码器Decoder，隐变量的均值向量mu，隐变量的对数方差向量logvar，以及隐变量的采样方法Reparameterization；

预训练对抗生成模型VAE的步骤如下：

步骤301、初始化编码器与解码器以及全连接神经网络MLP；

步骤302、输入图片样本x到编码器，得到隐变量z；解码器将隐变量z解码为对抗样本，同时MLP以隐变量z的部分变量z_a为输入，得到优化特征的预测判别结果a；

步骤303、将输入样本x，隐变量z以及预测判别结果a带入损失函数，计算当前对抗样本的损失函数loss值；

损失函数loss计算公式为：

L(p,q)＝E_q(z|x)[logp(x|z)]-KLD(q(z|x)||p(z))+E[a|z_a]

其中，E表示结果的期望，q_(z|x)表示编码器的输出，即隐变量的分布；p(x|z)表示解码器的输出，即生成的对抗样本；p(z)表示标准正态分布下z的表示形式，KLD表示隐变量分布与标准正态分布之间的KL散度距离，E[a|z_a]表示根据变量z_a预测欲优化特征的结果期望；

步骤304、根据loss值使用随机梯度下降进行反向传播，更新编码器，解码器和MLP的参数。

4.如权利要求1所述的一种面向联邦学习的半中心化对抗训练方法，其特征在于，所述中央服务器将训练好模型VAE中的编码器参数发往每个用户端，并同时发送采集样本的数量比例参数，具体为：

首先，中央服务器生成同态加密公钥和私钥，将编码器参数使用公钥进行加密，同时加密一系列任务参数；包括：(1)客户端本地选取的训练数据比例；(2)服务器端优先训练的特征名称；(3)需要随机化的隐变量个数与位置；

然后，中央服务器将私钥通过安全信道发往每个客户端，将编码器参数和任务参数通过公共网络送到每个客户端，等待客户端回应接收标志；

客户端接收到编码器参数和任务参数后使用私钥进行解密，解密完成后进行合法性验证；若数据验证合法，则向服务器发送已接收标志；否则向服务器发送重传标志；

合法性验证包括：(1)数据格式是否正确；(2)数据内容是否在正常区间内；

服务器等待客户端消息，如果有重传标志则立即重传参数信息，直到所有参与方都发送了已接收标志。