[发明专利]基于强化学习和知识蒸馏的多类别不平衡故障分类方法

权利要求书

1.一种基于强化学习和知识蒸馏的多类别不平衡故障分类方法，其特征在于，包括以下步骤：

S1：离线建模

S1.1：收集K个类别的历史离线工业过程数据样本，其中包含故障数据和正常数据；

S1.2：计算每个类别特征中心点

S1.3：通过基于Ward-Linkage的层次聚类，将同质类的类别特征中心分配在一个簇类中,最终将所有类别特征中心u_k分配到C个簇类中；然后根据类别特征中心的聚类结果分配每个类别的所有样本到对应簇类中；

S1.4：使用高斯伯努利限制玻尔兹曼机，分别基于所有样本以及每个簇类中样本进行训练，其中，所有样本训练得到的高斯伯努利限制玻尔兹曼机参数为教师网络的预训练参数；基于每个簇类中样本训练得到的高斯伯努利限制玻尔兹曼机参数为对应的学生网络的预训练参数；所述预训练参数作为首次迭代的初始参数；

S1.5：基于所述的教师网络的上一次训练参数，采用所有样本，通过微调技术，训练多类别不平衡的教师网络，得到的logit作为所有学生网络的软目标；

S1.6：所有学生网络都通过综合交叉熵损失一起训练；根据包含所述软目标和硬目标的综合损失，采用每个簇类中样本，通过微调技术进行训练，将所有学生网络得到的logit拼接在一起，组成学生网络的综合logit；各个学生网络拼接的每个logit中值的位置对应于原先类别顺序；所述硬目标为样本的真实标签；

S1.7：使用强化学习结合知识蒸馏中的教师网络和各个学生网络的输出来学习样本权重,并结合学习后的样本权重、教师网络和各个学生网络的输出构建知识蒸馏的损失函数；

S1.8：重复S1.5～S1.7，进行强化学习模型和知识蒸馏模型迭代训练，直到模型收敛；

S2：在线应用测试

S2.1：获取在线样本；

S2.2：将在线样本分类到S1.3层次聚类得到的C个簇类的其中一个簇类中；

S2.3：基于S1.8训练得到的知识蒸馏模型中的教师网络和各个学生网络，计算在线样本经过所在的簇类对应的学生网络得到的logit，和通过强化学习模型得到样本权重w_t，并用加权的softmax函数计算属于各个类别的概率，选取概率最大的类别作为在线样本的类别。

2.根据权利要求1所述基于强化学习和知识蒸馏的多类别不平衡故障分类方法，其特征在于，所述S1.2中的特征中心点计算具体为：

其中，u_k为类别k的特征中心点，x_i表示第i个样本，g_k表示类别k的所有样本的集合，|g_k|表示类别k的样本数量。

3.根据权利要求1所述基于强化学习和知识蒸馏的多类别不平衡故障分类方法，其特征在于，所述S1.3具体为：

基于Ward-Linkage进行层次聚类，直到最后所有样本都聚成一个簇类，有以下步骤：

①在初始化过程中，将每个样本独立的归为一个簇类中；计算每两个簇类中心之间的相似度；

②找到两个最近的簇类，并将它们归为一个簇类，因此簇类总数减少1个；

③重新计算新生成簇类的中心与每个旧簇类中心之间的相似度；所述簇类的中心为一个簇类的所有样本的平均值；

④重复②和③，直到所有样本归为一个簇类，聚类算法结束；

⑤选择所需的最终聚类后的簇类数，即C的值。