[发明专利]一种基于改进的LSTM的电力通信网设备故障预测方法

说明书

本发明涉及一种基于改进的LSTM的电力通信网设备故障预测方法。本发明首先提出了数据预处理和构建时序输入的方法。LSTM相比简单的循环神经网络，更易于学习长期的依赖，能够很好的解决序列相关的预测问题。因为设备告警之间存在很强的关联性，通过PCA能够确保变量之间的独立性。本发明还使用目标复制的策略对LSTM进行改进，在时序每一步中都可以带来局部的误差信息，相比简单的只在最后一步进行目标输出，该策略能够提升模型的精度，降低过拟合的风险。结合dropout，本发明提出LSTM的预测模型，深度学习能够取得更好的预测精度。同时，本发明首次使用了LSTM对电力通信网告警数据进行建模，识别其内部的时序模式。

技术领域

本发明属于电力通信网设备故障预测的研究范畴，涉及到大数据在电力通信网中的应用，深度学习，循环神经网络，LSTM，故障预测，电力通信网设备数据分析等研究领域。本发明基于海量的设备告警日志和机房的动环数据，提出了基于改进的LSTM的电力通信网设备故障预测模型。

背景技术

大数据在电力通信网中的应用:电力通信网的数据主要来源于设备告警，设备运维，业务数据等各个环节，其数据具有数据量大，数据类型繁多，数据价值高等特征。基于海量的数据，对设备故障的预测，对于提高电力通信网系统的可靠性，减轻设备管理和维护的负担具有重要意义。基于电力通信网的大数据应用将促进电网通信运行水平和管理效率的提高，“在进一步提升电网安全预控水平和供电可靠性的同时，带来巨大的社会效益。”

设备故障预测：传统的故障预测技术主要使用数学预测的方法，比如模糊理论和灰度模型，模糊理论是以模糊集合(fuzzy set)为基础，其优越性主要体现在处理复杂系统的时变、时滞以及非线性方面。灰度预测建立在灰色理论基础上，是一个指数函数，灰度模型对故障的长期预测精度很差。还可以通过专家系统，利用专家的经验和知识建立系统进行预测，利用人工智能中的知识推理，解决一些专业的问题，比如数据库，推理机，知识库，但是专家系统需要大量的实践和积累，开发周期很长。Gang NIU等人关于常见的故障预测的方法做出了很好的总结，并提出了如何提高预测精度的建议，比如加深对故障机制的研究，增强对历史数据的收集，提高信息处理的手段，提高故障特征提取的技术等等。在国内外的研究中，关于网络故障的预测主要集中在网络告警的关联性分析，基于SVM、灰色模型、指数平滑、ARMA、神经网络等方法的预测技术等方面。

循环神经网络：大量的机器学习的任务都是处理时序相关的输入，比如视频分析，音乐检索，时序相关的预测等等。循环神经网络通过神经网络内部的节点的循环能够获取序列的动态性。不同于普通的前馈神经网络，RNN能够在很长的上下文窗口中记住代表信息的状态。在过去的几年中，大量的论文在翻译、图像相关等领域使用RNN取得了很大的成果。在实际的应用中门控RNN，包括LSTM，GRU是最有效的模型，其允许网络在较长的时间内积累信息，而且可以解决梯度爆炸和梯度消失的问题。Klaus Greff详细的总结了LSTM的基础架构和其相应的变体，以及LSTM在演讲识别，手写识别等方面的重大成功。他发现大部分LSTM的变体并没有很大的提升网络的性能，强调了忘记门和激活函数在LSTM中的重要作用。

Ke Zhang等人基于IT系统的日志，使用LSTM预测复杂IT系统的故障，结论发现LSTM在预测效果明显好于机器学习的方法，展示出了LSTM在此领域的潜在优势。LSTM也被用在硬盘的故障预测，Chang Xu等使用时序的属性，采用RNN的模型对硬盘的健康状况进行预测，取得了很大的成功。RNN近年来在医疗领域取得了很大的成功，Edward Choi基于电子健康病历的记录，使用GRU的模型取进行心脏疾病的预测，相比传统的机器学习方法性能上有很大的提高。