[发明专利]一种基于联邦学习方式训练神经网络模型的方法及系统

权利要求书

1.一种基于联邦学习方式训练神经网络模型的方法，其特征在于，所述方法包括：

a、在训练神经网络模型时，云服务器选取广域网内已有的至少一个局域网；

b、云服务器将当前全局改进的神经网络模型发送给所述局域网，以使所述局域网在局域网内对该神经网络模型进行多个本地参与设备的联邦学习，并聚合为局域网改进的神经网络模型后，传输给云服务器；

c、云服务器将接收到的局域网改进的神经网络模型进行聚合，得到全局改进的神经网络模型；

所述云服务器选取广域网内已有的至少一个局域网包括：

云服务器维护关于广域网内已有的局域网所有元信息的数组，所述数组包括每个局域网中的设备信息、设备所属局域网信息及设备接入局域网的信息；

云服务器根据所维护的关于局域网所有元信息的数组，采用随机策略方式选取至少一个所述局域网，包括在所述局域网中的本地聚合设备、本地参与设备及所述局域网中的通信拓扑；

所述选取至少一个所述局域网中的通信拓扑还包括：

云服务器根据所维护的所述局域网中的设备之间的通信拓扑，构建聚合通信拓扑，所述聚合通信拓扑能够指导所述局域网中参与联邦学习的设备获得最优的点对点P2P通信带宽。

2.如权利要求1所述的方法，其特征在于，所述方法还包括：

云服务器确认得到的全局改进的神经网络模型是否收敛，如果否，则继续循环执行步骤b及步骤c，直到确认得到的全局改进的神经网络模型收敛，作为训练得到的最终神经网络模型；

所述云服务器选取广域网内已有的至少一个局域网包括：

云服务器针对每个循环轮训练神经网络模型时，所选取的广域网内已有的至少一个局域网不同或相同。

3.如权利要求1所述的方法，其特征在于，所述以使所述局域网在局域网内对该神经网络模型进行多个本地参与设备的联邦学习，并聚合为局域网改进的神经网络模型包括：

所述局域网中包括由云服务器选取的至少一个本地聚合设备及由云服务器选取的多个本地参与设备；

其中，所述本地聚合设备接收到当前全局改进的神经网络模型，发送给所述本地参与设备；

所述本地参与设备将从所述本地聚合设备接收的当前全局改进的神经网络模型，用本地存储的训练数据对该模型进行训练，得到本地改进后的该模型，将本地改进后的该模型传输给所述本地聚合设备；

所述本地聚合设备聚合从所述本地参与设备传输的本地改进后的该模型，得到局域网改进的神经网络模型。

4.如权利要求1或3所述的方法，其特征在于，所述以使所述局域网在局域网内对该神经网络模型进行多个本地参与设备的联邦学习，并聚合为局域网改进的神经网络模型还包括：

根据云服务器的设置，在局域网内部进行至少一本地循环轮的本地神经网络模型的训练。

5.一种基于联邦学习方式训练神经网络模型的系统，其特征在于，包括：

云服务器，用于在训练神经网络模型时，选取广域网内已有的至少一个局域网，将当前全局改进的神经网络模型发送给所述局域网；将接收到的局域网改进的神经网络模型进行聚合，得到全局改进的神经网络模型；

局域网，用于在局域网内对当前全局改进的神经网络模型进行多个本地参与设备的联邦学习，并聚合为局域网改进的神经网络模型后，传输给云服务器；

所述云服务器，还用于维护关于广域网内已有的局域网所有元信息的数组，所述数组包括每个局域网中的设备信息、设备所属局域网信息及设备接入局域网的信息；根据所维护的关于局域网所有元信息的数组，采用随机策略方式选取至少一个所述局域网，包括在所述局域网中的本地聚合设备、本地参与设备及所述局域网中的通信拓扑；

所述云服务器选取至少一个所述局域网中的通信拓扑还包括：根据所维护的所述局域网中的设备之间的通信拓扑，构建聚合通信拓扑，所述聚合通信拓扑能够指导所述局域网中参与联邦学习的设备获得最优的P2P通信带宽。