[发明专利]混合联邦学习方法、装置、电子设备及存储介质

说明书

本公开提供了一种混合联邦学习方法、装置、电子设备及存储介质，涉及机器学习技术领域。该方法包括：获取中心节点所在参与组中第一边缘节点的质量分，质量分基于第一边缘节点在历史参与混合联邦学习中得到的参与得分确定，参与得分基于第一边缘节点参与混合联邦学习得到的质量参数确定；根据第一边缘节点的质量分，从第一边缘节点中确定参与本轮混合联邦学习的第二边缘节点；根据第二边缘节点进行本轮混合联邦学习。此种方式，可以使得参与混合联邦学习的节点是质量分满足要求的边缘节点，避免了质量分不满足要求的边缘节点参与组内混合联邦学习而导致混合联邦学习效率较低的问题，提高了混合联邦学习的效率。

技术领域

本公开涉及机器学习技术领域，尤其涉及一种混合联邦学习方法、装置、电子设备及存储介质。

背景技术

在机器学习技术领域中，混合联邦学习通过多个参与组来训练模型，每一参与组包括一个中心节点和多个边缘节点。

相关技术中，全局中心节点向每一个参与组中的中心节点发送初始模型，之后，参与组的中心节点将初始模型向参与组中的全部边缘节点发送。参与组中的边缘节点根据初始模型进行本地训练，并将训练得到的模型参数发往参与组的中心节点。参与组的中心节点将参与组内边缘节点上报的模型参数进行聚合，并更新初始模型，得到更新后的模型，之后再将更新后的模型向参与组内的全部边缘节点发送，开始新一轮的组内混合联邦学习。

在参与组内的模型满足收敛条件后，各个参与组的中心节点将满足收敛条件的模型参数向全局中心节点上报，全局中心节点根据各个参与组上报的模型参数更新初始模型，并将更新后的模型向各个参与组的中心节点发送，开始新一轮的全局混合联邦学习，直至全局中心节点中的模型满足收敛条件。

然而，每一参与组中不同的边缘节点的网络延迟等性能存在差异，每一参与组中全部的边缘节点均参与混合联邦学习的方式，存在混合联邦学习效率较低的问题。

发明内容

本公开提供一种混合联邦学习方法、装置、电子设备及存储介质，至少在一定程度上克服了相关技术中混合联邦学习效率较低的问题。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一个方面，提供一种混合联邦学习方法，混合联邦学习涉及多个参与组，所述方法应用于参与组的中心节点，包括：获取所述中心节点所在参与组中第一边缘节点的质量分，所述质量分基于第一边缘节点在历史参与混合联邦学习中得到的参与得分确定，所述参与得分基于第一边缘节点参与混合联邦学习得到的质量参数确定；根据所述第一边缘节点的质量分，从所述第一边缘节点中确定参与本轮混合联邦学习的第二边缘节点；根据所述第二边缘节点进行本轮混合联邦学习。

在本公开的一个实施例中，所述质量参数包括模型性能指标、训练能耗、模型参数传输能耗、模型参数传输时延中的一个或多个；所述模型性能指标包括模型分类的准确率、精确率、召回率、F1分数、模型回归的均方根误差、平均绝对误差中的一个或多个。

在本公开的一个实施例中，所述第一边缘节点包括参与混合联邦学习的历史轮次小于预定轮次的第三边缘节点，以及参与混合联邦学习的历史轮次不小于预定轮次的第四边缘节点；所述获取所述中心节点所在参与组中第一边缘节点的质量分，包括：获取所述第三边缘节点历史参与混合联邦学习得到的全部参与得分，每一参与得分对应一轮混合联邦学习；获取所述第四边缘节点在本轮混合联邦学习前预定轮次参与混合联邦学习得到的多个参与得分；根据所述全部参与得分，确定所述第三边缘节点的质量分；根据所述多个参与得分，确定所述第四边缘节点的质量分。

在本公开的一个实施例中，所述根据所述多个参与得分，确定所述第四边缘节点的质量分，包括：确定所述多个参与得分中每一参与得分的权重，所述多个参与得分的权重之和为第一预定值；根据所述多个参与得分中每一参与得分的权重与所述多个参与得分，确定所述第四边缘节点的质量分。