[发明专利]一种注意力机制的深度信念网络DBN检测方法

权利要求书

1.一种注意力机制的深度信念网络DBN检测方法，应用于数据中心，其特征在于，包括以下步骤：

初始化带注意力机制的DBN训练模型；

根据集中器资源选择参与训练的集中器，并向所述集中器下发所述DBN训练模型，具体包括：

根据集中器的安全风险、计算能力、通信质量和公平性，选择多个集中器进行模型的训练，其中：

根据所述集中器资源选择t轮参与训练的每个集中器k的权重如下：

其中，表示所述t轮参与训练的每个集中器k的通信质量，表示所述t轮参与训练的每个集中器k的计算能力，R_k表示所述集中器的安全风险；

所述集中器的公平性约束条件为：

其中，β_value表示所述集中器的期望率；

接收来自所述集中器训练得到的训练参数，所述训练参数由所述集中器使用带注意力机制的DBN训练模型对电力数据进行训练得到；

对所述训练参数进行联邦平均聚合，将所述联邦平均聚合的结果发送到下一轮选择的所述集中器，以使所述集中器对所述电力数据继续训练直至所述DBN训练模型收敛。

2.根据权利要求1所述的注意力机制的深度信念网络DBN检测方法，其特征在于，所述注意力机制的输入矩阵包括键矩阵、值矩阵和查询矩阵，所述注意力机制的输出矩阵包括上下文矩阵。

3.一种注意力机制的深度信念网络DBN检测方法，应用于集中器，其特征在于，包括以下步骤：

接收来自数据中心的带注意力机制的DBN训练模型，获取智能电表收集的电力数据；

使用所述DBN训练模型对所述电力数据进行训练得到训练参数；

将所述训练参数发送到数据中心，以使所述数据中心对所述训练参数进行联邦平均聚合；

接收来自所述数据中心的联邦平均聚合的结果，根据所述联邦平均聚合的结果，对所述电力数据继续训练直至所述DBN训练模型收敛，其中，模型训练包括：

根据集中器的安全风险、计算能力、通信质量和公平性，选择多个集中器进行模型的训练，其中：

根据所述集中器资源选择t轮参与训练的每个集中器k的权重如下：

其中，表示所述t轮参与训练的每个集中器k的通信质量，表示所述t轮参与训练的每个集中器k的计算能力，R_k表示所述集中器的安全风险；

所述集中器的公平性约束条件为：

其中，β_value表示所述集中器的期望率。

4.根据权利要求3所述的注意力机制的深度信念网络DBN检测方法，其特征在于，所述使用所述DBN训练模型对所述电力数据进行训练得到训练参数，包括步骤：

步骤S1、将所述电力数据输入到第一层受限玻尔兹曼机RBM进行预训练得到训练结果；

步骤S2、将所述训练结果输入到第二层受限玻尔兹曼机RBM进行训练；

步骤S3、重复所述步骤S1、所述步骤S2直至迭代带最大迭代次数；

步骤S4、使用softmax层进行反向传播，对整个DBN网络进行权值微调。

5.根据权利要求4所述的注意力机制的深度信念网络DBN检测方法，其特征在于，所述RBM包括可视层和隐藏层，还包括步骤：

对所述RBM进行逐层训练，使用激活函数计算所述可视层和所述隐藏层的激活概率。