[发明专利]基于知识蒸馏与隐含层共享的增量式设备故障诊断方法

说明书

本发明公开了一种基于知识蒸馏与隐含层共享的增量式设备故障诊断方法，涉及轴承设备故障诊断领域。本发明利用知识蒸馏与隐含层共享技术，保证浅层设备故障诊断模型具有较好的数据特征提取能力，提高浅层设备故障诊断模型的故障分类性能。针对工业数据持续增加和边缘设备故障诊断模型更新，本发明使用有效样本识别、重建数据集、预训练模型微调等方法实现模型的增量学习。本发明克服海量实时工业设备数据传输过程中对于网络带宽、网络延迟的要求，提高浅层设备故障诊断方法的精确性，支持增量式学习。通过对轴承运行状态数据的模拟实验，在计算资源有限情况下，本发明提高边云协同数据传输效率并实现故障预测分类精准度，支持增量数据学习与处理。

技术领域

本发明涉及轴承设备故障诊断技术领域，尤其涉及一种基于知识蒸馏与隐含层共享的增量式设备故障诊断方法。

背景技术

随着工业物联网与云计算、大数据的发展，工业领域的大型设备在生产过程中会不断生成海量运行状态数据，如何基于这些数据对设备的运行状态进行分析，使用大数据和机器学习技术来进行设备故障预测，降低由于非预期装备故障带来的生产终止或者人员事故，已经成为目前智造领域研究的热点。目前随着物联网与工业领域的深度结合，装备生产过程中的数据获取变得更加容易，基于设备运行过程数据的设备故障诊断方法成为主流。深度神经网络、支持机、贝叶斯与决策树算法对于一些特定问题有较为完整的解决方法，取得了很好的效果。尤其是深度神经网络算法，对于工业领域数据的复杂性、时变性、多维性都有很好的解决方法。但是，目前基于深度神经网络的设备故障诊断方法大多采用服务器端集中训练以及故障判别的方式，由于工业数据的规模较大，海量数据上传以及处理需要的时间较长。而工业设备对于计算的实时性、可靠性与安全性的要求更高，因此边缘计算技术的发展对于工业领域设备故障诊断方法的实践提供了发展方向。根据IDC统计，截止到2020年联网的设备与终端数量将会超过500亿，其中在网络边缘侧进行分析、处理与计算的数据将会超过50％。因此通过边缘计算技术，很多控制或者判别操作可以交给设备本地的边缘设备进行处理，无需与云端进行通信，从而实现现场实时反馈控制，提高现场数据处理的速度与效率，减轻网络负担与要求，还可为用户过滤生产机密数据，可将数据经过处理之后上传，避免安全问题。但是由于边缘设备的计算性能、存储空间限制，基于深度神经网络的设备故障诊断方法难以实时运行在边缘设备中，这些算法对于运行内存、计算量的要求较高。因此如何对现有的深度神经网络模型进行计算量的缩减，提高边缘设备运行设备故障诊断模型的成为目前的深度学习算法应用于边缘设备的阻碍。此外，由于工业设备的复杂性与时变性，数据持续产生，因此深度神经网络模型需要通过增量学习来进行原有知识的保存以及新数据中知识的学习，目前增量式极限学习机、增量学习神经网络模型以及增量支持向量机都取得了很好的结果，但是如何将增量学习与边缘模型进行结合，保证边缘设备的模型能够持续更新成为目前亟需解决的问题。以上这些因素已经阻碍了深度神经网络模型在边缘设备中的进一步应用，解决这些问题对于实现智能制造，完成智能制造应用的“最后一公里”有至关重要的作用。

发明内容

针对上述技术问题，本发明提出基于知识蒸馏和隐含层共享的增量式设备故障诊断方法，在基于卷积神经网络的设备故障诊断算法的基础上，使用卷积层数较多的教师模型对浅层学生模型进行知识蒸馏，将教师模型的学习能力和学生模型的计算量优势结合，保证了在边缘侧计算能力有限的情况下，仍能够实现较为精准的故障分类效果，接着将教师模型的浅层卷积层与学生模型的卷积层参数共享，进一步提高学生模型的特征提取能力。对于增量数据，对基于知识蒸馏和隐含层共享的设备故障诊断方法进行增量学习改进，首先将增量数据进行有效样本筛选，而后对训练数据集进行重建，最后使用更新后的数据集对教师网络进行微调训练，并重新训练学生模型，实现模型的增量学习与更新。解决了工业领域的数据安全性、实时性以及网络带宽要求。实验表明，基于知识蒸馏和隐含层共享的增量式设备故障诊断方法能够有效提高学生模型的分类准确性，在计算能力较差的情况下取得较好的分类效果，且支持增量式学习，实现了边缘端的设备故障诊断，并保证模型能够增量学习，保持更新。

为实现上述目的，本发明是根据以下技术方案实现的：