[发明专利]一种基于深度学习的长期及短期交通流预测模型构建方法

说明书

本发明公开了一种基于深度学习的长期及短期交通流预测模型构建方法，即长期和短期时间序列网络，使用卷积神经网络和递归神经网络来提取变量之间的短期局部依赖模式，并发现时间序列趋势的长期模式。本发明通过结合卷积和递归神经网络的强度和自回归分量,该方法显著地改进了对多个基准数据集的时间序列预测的最新结果。通过深入的分析和实证研究，我们展示了LSTNet模型体系结构的效率，并成功地捕捉了数据中的短期和长期重复模式，并将线性模型和非线性模型结合起来进行鲁棒性预测。

技术领域

本发明属于交通模型领域，具体涉及一种基于深度学习的长期及短期交通流预测模型构建方法。

背景技术

多变量时间序列预测是许多领域中重要的机器学习问题，包括太阳能发电厂能量输出，电力消耗和交通拥堵情况的预测。在这些现实世界的应用中出现的时间数据通常涉及长期和短期模式的混合，对于这些模式，诸如自回归模型和高斯过程的传统方法可能失败。

深度神经网络在时间序列分析中也受到越来越多的关注。以前一直专注于时间序列分类，即将类标签自动分配给时间序列输入的任务。例如，已经研究了RNN架构，用于从卫生保健序列数据中提取信息模式，并根据诊断类别对数据进行分类。RNN架构也已应用于移动数据，用于对输入序列进行行动或活动分类。CNN模型也被用于动作、活动识别，用于从输入序列中提取移位不变的局部模式作为分类模型的特征。

深度神经网络也已经被研究用于时间序列预测，即，使用过去观察到的时间序列预测未来时间序列中的未知时间序列的任务-地平线越大，越难问题。这方面的努力范围从使用RNN模型的早期工作和结合使用ARIMA和多层感知器(MLP)的混合模型到最近的香草RNN和动态玻尔兹曼机器在时间序列预测中的应用。

最突出的单变量时间序列模型之一是自回归整合移动平均(ARIMA)模型。ARIMA模型的流行是由于其统计特性以及模型选择过程中众所周知的Box-Jenkins方法。ARIMA模型不仅适用于各种指数平滑技术，而且足够灵活，可以包含其他类型的时间序列模型，包括自回归(AR)，移动平均(MA)和自回归移动平均(ARMA)。然而，ARIMA模型，包括用于建模长期时间依赖性的变量，由于其高计算成本，很少用于高维多变量时间序列预测。

另一方面，矢量自回归(VAR)是多变量时间序列中最广泛使用的模型。VAR模型自然地将AR模型扩展到多变量设置，这忽略了输出变量之间的依赖关系。近年来在各种VAR模型中取得了重大进展，包括用于重尾时间序列的椭圆VAR模型和用于更好地解释高维变量之间的依赖关系的结构化VAR模型。更多。然而，VAR的模型容量在时间窗口大小上线性增长，并且在变量数量上呈二次方。这意味着，在处理长期时间模式时，继承的大型模型容易过度拟合。为了缓解这个问题，将原始高维信号减少为低维隐藏表示，然后应用VAR进行预测，并提供多种正则化选择。

时间序列预测问题也可以作为具有时变参数的标准回归问题处理。因此，将具有不同损失函数和正则化项的各种回归模型应用于时间序列预测任务并不奇怪。例如，线性支持向量回归(SVR)基于回归损失学习最大边缘超平面，其中超参数ε控制预测误差的阈值。岭回归是另一个例子，可以通过将ε设置为零来从SVR模型重新覆盖。最后，应用LASSO模型来鼓励模型参数的稀疏性，以便可以显示不同输入信号之间的有趣模式。由于机器学习社区中的高质量现成解算器，这些线性方法对于多变量时间序列预测实际上更有效。尽管如此，与VAR一样，这些线性模型可能无法捕获多变量信号的复杂非线性关系，从而导致其效率较低的性能。

高斯过程(GP)是用于在连续的函数域上建模分布的非参数方法。这与由VAR和SVR等参数化函数类定义的模型形成对比。GP可以应用于中建议的多变量时间序列预测任务，并且可以在贝叶斯推理中用作函数空间的先验。例如，提出了一种完全贝叶斯方法，其中GP先验为非线性状态空间模型，它能够捕获复杂的动态现象。然而，高斯过程的强大功能带来了高计算复杂性的代价。由于核矩阵的矩阵求逆，用于多变量时间序列预测的高斯过程的直接实现具有超过观察数量的立方复杂度。

发明内容