[发明专利]横向联邦学习建模优化方法、设备、介质及程序产品

权利要求书

1.一种横向联邦学习建模优化方法，应用于参与方设备，其特征在于，所述横向联邦学习建模优化方法包括：

获取第一本地训练样本和护照嵌入样本数据，并依据具备护照嵌入模块的本地私有模型和本地共享模型，将所述第一本地训练样本和所述护照嵌入样本数据映射为具备护照嵌入的第一输出预测标签；

基于所述第一输出预测标签对应的模型损失，迭代更新所述本地私有模型和所述本地共享模型；

将迭代更新后的本地共享模型发送至横向联邦服务器，以供所述横向联邦服务器对各联邦参与方发送的本地共享模型进行聚合，得到全局共享模型；

接收所述横向联邦服务器发送的全局共享模型，并依据所述全局共享模型，优化所述本地私有模型，得到目标私有模型。

2.如权利要求1所述横向联邦学习建模优化方法，其特征在于，所述依据具备护照嵌入模块的本地私有模型和本地共享模型，将所述第一本地训练样本和所述护照嵌入样本数据映射为具备护照嵌入的第一输出预测标签的步骤包括：

依据所述具备护照嵌入模块的本地私有模型，将所述第一本地训练样本和所述护照嵌入样本数据映射为具备护照嵌入的第一中间输出结果；

依据所述本地共享模型，将所述具备护照嵌入的第一中间输出结果映射为所述第一输出预测标签。

3.如权利要求2所述横向联邦学习建模优化方法，其特征在于，所述护照嵌入样本数据至少包括一护照嵌入样本，

所述依据所述具备护照嵌入模块的本地私有模型，将所述第一本地训练样本和所述护照嵌入样本数据映射为具备护照嵌入的第一中间输出结果的步骤包括：

基于所述本地私有模型中处于所述护照嵌入模块之前的第一部分神经网络，将所述第一本地训练样本转换为本地模型中间输出；

基于所述护照嵌入模块，将所述本地模型中间输出和所述护照嵌入样本共同转换为护照嵌入模块输出；

基于所述本地私有模型中处于所述护照嵌入模块之后的第二部分神经网络，将所述护照嵌入模块输出转换为所述具备护照嵌入的第一中间输出结果。

4.如权利要求3所述联邦学习建模优化方法，其特征在于，所述护照嵌入模块包括护照嵌入层和模型神经网络层，

所述基于所述护照嵌入模块，将所述本地模型中间输出和所述护照嵌入样本共同转换为护照嵌入模块输出的步骤包括：

基于所述模型神经网络层，将所述本地模型中间输出线性变换为待嵌入网络层输出，以及将所述护照嵌入样本线性变换为待嵌入护照；

基于所述护照嵌入层中的护照函数，将所述待嵌入护照转换为护照嵌入参数；

基于所述待嵌入网络层输出和所述护照嵌入参数，生成所述护照嵌入模块输出。

5.如权利要求1所述横向联邦学习建模优化方法，其特征在于，所述依据所述全局共享模型，优化所述本地私有模型，得到目标私有模型的步骤包括：

将所述本地共享模型更新为所述全局共享模型；

在固定所述全局共享模型的条件下，迭代训练优化所述本地私有模型，得到训练优化后的本地私有模型；

若所述训练优化后的本地私有模型与所述全局共享模型均满足预设联邦训练结束条件，则将所述训练优化后的本地私有模型作为所述目标私有模型；

若所述训练优化后的本地私有模型与所述全局共享模型未均满足预设联邦训练结束条件，则返回执行步骤：获取第一本地训练样本和护照嵌入样本数据。

6.如权利要求5所述横向联邦学习建模优化方法，其特征在于，所述在固定所述全局共享模型的条件下，迭代训练优化所述本地私有模型，得到训练优化后的本地私有模型的步骤包括：

获取第二本地训练样本，并依据所述本地私有模型，将所述第二本地训练样本和所述护照嵌入样本数据映射为具备护照嵌入的第二中间输出结果；

依据所述全局共享模型，将所述第二中间输出结果映射为第二输出预测标签；

依据所述第二输出预测标签计算的模型损失，在固定所述全局共享模型的条件下迭代优化所述本地私有模型。