[发明专利]用于无线边缘动态的分布式学习的系统和方法

权利要求书

1.一种待在边缘计算网络中操作的第一边缘计算节点的装置，所述装置包括：互连接口，用于将所述装置连接到所述第一边缘计算节点的一个或多个组件；和处理器，用于：

对来自第二边缘计算节点的第一消息进行解码，所述第一消息包括关于用于联邦机器学习训练的目标数据分布的信息；

从所述第一消息确定所述目标数据分布；

基于所述第一边缘计算节点的局部数据分布与所述目标数据分布之间的散度，对客户端报告进行编码以用于向所述第二边缘计算节点的传输；

产生所述客户端报告向所述第二计算节点的传输；

对来自所述第二边缘计算节点的第二消息进行解码，所述第二消息包括关于与所述联邦机器学习训练的全局时期关联的全局模型的信息；以及

基于所述全局模型，更新所述第一边缘计算节点处的局部梯度。

2.如权利要求1所述的装置，所述处理器进一步用于：

对加权损失信息进行编码，以用于向所述第二边缘计算节点的传输；

产生所述加权损失信息向所述第二边缘计算节点的传输；

对局部权重更新w_k,t+e＝w_k,t+e-1-η*g_k,t+e*p_k/q_k进行编码，以用于向所述第二边缘计算节点的传输，其中，w_k,t+e与所述第一边缘计算节点在全局时期t和局部时期e的权重更新对应，η是学习速率，g_k,t+e与用于所述第一边缘计算节点在全局时期t和局部时期e的梯度估计对应，p_k与所述第一边缘计算节点的原始采样分布对应，并且q是用于所述第一边缘计算节点的概率分布；以及

产生所述局部权重更新向所述第二边缘计算节点的传输。

3.如权利要求1-2中任一项所述的装置，其中，所述第一边缘计算节点处的数据分布与非独立同分布数据(non-i.i.d)对应。

4.如权利要求1-2中任一项所述的装置，所述处理器用于执行联邦机器学习训练的轮次，包括：

处理来自所述第二边缘计算节点的能力请求；

响应于所述能力请求，生成关于所述边缘计算节点的计算能力和通信能力的能力报告；

产生所述能力报告向所述第二边缘计算节点的传输；

在产生所述能力报告的传输之后，对来自所述第二边缘计算节点的所述第二消息进行解码，以针对所述第二边缘计算节点初始化联邦机器学习训练轮次的训练参数；以及

对于所述联邦机器学习训练轮次，基于所述全局模型报告更新后的模型权重。

5.如权利要求4所述的装置，其中，所述计算能力包括计算速率，并且所述通信能力包括对所述第二边缘计算节点的上行链路通信时间。

6.如权利要求4所述的装置，其中，所述能力报告还包括关于所述客户端处的训练示例的数量的信息。

7.如权利要求1所述的装置，所述处理器用于：

对包括以下中的至少一个的能力报告进行编码，以用于向所述第二边缘计算节点的传输：基于所述第一边缘计算节点的训练损失以用于所述第二边缘计算节点训练进行的联邦机器学习训练的全局时期的信息、或基于所述第一边缘计算节点相对于所述第一边缘计算节点的预激活输出的梯度的信息；

产生所述能力报告的传输；以及

对来自所述第二边缘计算节点的更新后的全局模型进行解码，以用于所述联邦机器学习训练的下一全局时期。

8.如权利要求7所述的装置，所述处理器用于在产生所述能力报告的传输之前进一步对所述第二消息进行解码。

9.如权利要求7-8中任一项所述的装置，其中，所述能力报告还包括用于与所述第二边缘计算节点的通信的上行链路通信时间或下行链路通信时间中的至少一个和计算速率。