[发明专利]基于自注意力机制的水电站水轮机顶盖长序列水位预测系统及方法

说明书

本发明公开了一种基于自注意力机制的水电站水轮机顶盖长序列水位预测系统及方法，基于自注意力机制，对嵌入表示进行处理得到注意力特征矩阵；然后使用池化操作对注意力特征矩阵进行处理，生成编码隐藏表示；进一步基于自注意力机制，对编码隐藏表示进行处理得到解码隐藏表示；最后基于神经网络ODE，对解码隐藏表示进行处理得到预测隐藏状态序列，进一步经全连接处理得到最终预测结果，即水电站水轮机顶盖长序列水位。本发明可以更好地捕捉多种观测值之间的关联和时间上较长的依赖，因而具有更高的水位预测准确率。

技术领域

本发明属于水利水电技术领域，涉及水利水电站监测，具体涉及基于基于深度学习的的水电站水轮机顶盖长序列水位预测技术。本发明主要利用深度学习(DeepLearning)的方法构建一个预测系统，该预测系统结合了自注意力(Self-Attention)、池化(Pooling)、神经ODE(NeuralOrdinaryDifferentialEquations，NODE)三项技术，以编码器和解码器为主体，结合了自注意力模块和池化模块，在预测阶段还加入了神经ODE。在预测水轮机顶盖水位的任务中，该预测方法能够学习到多维变量的长期依赖特征，增强了预测结果的准确性，实现了根据多维变量动态预测未来不同时间段水轮机顶盖水位的目标。

背景技术

水电站利用水库中储存水的势能发电，是十分重要的可再生能源。在水电站众多设备中，发电水轮机是关键设备之一，如图1所示。由于水轮机主轴密封装置漏水和水泵排水等因素，水轮机顶盖水位随时间不断变化。水轮机顶盖水位是影响水轮机运行安全的重要因素，顶盖水位过高会发生水淹水导轴承和漏油箱，引起机组用油变质，严重威胁设备的运行安全。对顶盖水位及时的监测和预警，可以分析监测顶盖水泵的运行效率，保证顶盖水位保持在安全可控的范围内，提升水电站运行的安全性。因此，水轮机顶盖水位的预测是一项重要课题。

预测水电站水轮机顶盖水位变化是一个典型的长序列时间序列预测问题。对时间序列预测的现有方法大致可以分为两类:经典模型和深度学习方法。经典的时间序列模型基于统计学习方法实现，具有可解释性强和完备的理论支撑等优点，是目前时间序列预测的主要实现方式；然而经典的时间序列模型需要大量的经验数据支持，计算量较大，运行效率低；且无法捕获长期依赖关系，难以有效应用于水轮机顶盖长序列水位预测。近年来，深度学习技术快速发展，这种技术主要利用循环神经网络及其各种变体，使用序列到序列的预测范式，在预测表现上取得了突破性的进展。然而这种方法仍然无法实现准确的长序列预测，其问题体现在并行能力差和长期依赖关系捕获能力弱两个方面。

综上所述，研究一种能够实现水电站水轮机顶盖长序列水位预测，是目前水电站水轮机监测工作中需要丞待解决的关键问题之一。

发明内容

针对目前难以有效预测水轮机顶盖长序列水位的技术现状，本发明目的旨在提供一种基于自注意力机制的水电站水轮机顶盖长序列水位预测系统，能够根据水电站水轮机顶盖历史水位以及相关特征(水轮机机组流量、顶盖振动等)，捕捉到长时间序列的长期依赖信息，准确预测未来较长时间段内的水轮机顶盖水位。

本发明的另一目的在于提供一种基于自注意力机制的水电站水轮机顶盖长序列水位预测方法。

本发明的发明思路为：构造一个基于自注意力机制的预测系统，使其能够捕捉到长时间序列的长期依赖信息。在系统实现过程中采用了池化操作，大幅降低了长序列预测过程中的计算复杂度。同时，利用深层神经网络的优势，使系统尽可能减少由于迭代预测带来的长时间预测的误差，在各个时间段的预测中，都能保持良好的准确度。且利用自注意力机制，使得系统不再是顺序结构，从而具有更好的并行性。此外，进一步结合神经ODE，使系统预测更具有动态性。

基于上述发明思路，本发明提供的基于自注意力机制的水电站水轮机顶盖长序列水位预测系统，其包括：

数据预处理模块，用于对给定时间序列内的水轮机顶盖水位及相关数据进行预处理；

嵌入表示生成模块，用于对预处理数据进行卷积和编码处理生成神经网络嵌入表示；