[发明专利]一种基于自注意力卷积网络的无线业务流量预测方法、设备及介质

说明书

本发明涉及一种基于自注意力卷积网络的无线业务流量预测方法、设备及介质，是指：将待预测的原始无线业务流量预处理后输入至训练好的流量预测模型，得到预测的流量数据；本发明利用自注意力卷积网络，对无线业务流量的历史数据与时间特征进行学习与融合，能够有效提取流量数据在大时间尺度下的动态特性。该算法不仅能够有效提升流量预测的准确率，而且能够进行并行化处理，提升了神经网络的训练效率，进而提升流量预测算法的整体性能。

技术领域

本发明属于通信网络和人工智能技术领域，涉及一种基于自注意力机制的无线业务流量预测方法、设备及介质，可用于通信系统中的网络管理与规划。

背景技术

高效准确的无线业务流量预测对于实现通信网络自动化、资源分配智能化具有重要意义。但是，终端用户的通信行为存在很高的动态性，尤其是在长时间尺度下，用户的通信行为复杂性与时变性都会加剧，增加了无线业务流量预测的难度。

无线业务流量预测问题可以建模为时间序列预测问题。传统的统计学习算法无法对流量数据在时域上的高动态特性进行建模；随着深度学习的技术的进步，现有的流量预测算法普遍采用基于深度神经网络的方法。

例如，中国专利文献CN109257760A中提出了基于LSTM的流量预测算法，根据某一特定区域内的历史通信行为，利用LSTM网络预测未来一段时间该区域的无线业务流量；中国专利文献CN111343650A中采用了CONVLSTM流量预测算法，利用卷积网络刻画流量数据空间分布特征，同时利用LSTM网络对流量数据在时序上的相关性进行刻画；此外还有基于编码-解码网络以及GRU网络的预测方法。然而，这些方法都是基于RNN的循环计算结构刻画流量在时序上的长期依赖性，当流量序列的时间跨度增长时，这些方法并不能从更大的时间尺度中捕获更为复杂的时序相关性，因而在具有高突发性、高时变性的通信场景下，传统的深度学习算法的准确率无法得到进一步提升。

此外，深度学习算法的实现基于不断提升的硬件并行计算能力(GPU,FPGA)，但是基于RNN的结构在神经网络训练时必须进行线性计算，这就使得这些预测算法无法充分利用现有硬件的并行计算能力，这就导致流量预测模型进行大规模部署和分布式训练时的成本增加。

发明内容

本发明提出了一种基于自注意力卷积网络的无线业务流量预测方法，用于解决基于RNN结构的深度学习方法无法捕获流量数据在长时间序列内的复杂相关性问题，以及预测算法难以并行化实现，训练效率不高的问题。

本发明还提供了一种计算机设备及存储介质；

本发明利用自注意力卷积网络，对无线业务流量的历史数据与时间特征进行学习与融合，能够有效提取流量数据在大时间尺度下的动态特性。该算法不仅能够有效提升流量预测的准确率，而且能够进行并行化处理，提升了神经网络的训练效率，进而提升流量预测算法的整体性能。

术语解释：

范数：设向量X＝{x₁,x₂,...,x_n}，则向量X的范数定义为

范数：设向量X＝{x₁,x₂,...,x_n}，则向量X的范数定义为

残差卷积层：设输入为张量X，输出为张量O,卷积核为W₁,W₂。残差卷积层对输入进行卷积运算后与输入相加，即：O＝σ(X+W₂*(σ(W₁*X)),式中*表示卷积运算，残差卷积层示意图如图5所示。

本发明的技术方案为：

一种基于自注意力卷积网络的无线业务流量预测方法，是指：将待预测的原始无线业务流量预处理后输入至训练好的流量预测模型，得到预测的流量数据，流量数据是指流量值；

待预测的原始无线业务流量预处理的过程包括：