[发明专利]利用神经网络进行序列处理的方法及序列处理的装置

说明书

本说明书实施例提供一种利用神经网络进行序列处理的方法以及序列处理的装置，在序列处理的方法中，在生成层，获取按时间排序的业务指标值形成的指标序列所对应的原始向量序列，针对该原始向量序列迭代执行多层级的向量聚合，得到对应于不同时间尺度的多层级的处理向量序列，原始向量序列和各处理向量序列中的各个向量，形成多层级的树形关系图。在注意力层，根据树形关系图，确定输入的任一目标向量的关联向量，根据关联向量对目标向量进行基于注意力机制的加权综合处理，得到对应的更新向量；该更新向量用于确定指标序列的特征表示。

技术领域

本说明书一个或多个实施例涉及计算机信息处理领域，尤其涉及一种利用神经网络进行序列处理的方法及序列处理的装置。

背景技术

指标序列是指将业务指标的指标值按照时间顺序排列而成的数列。在许多应用场景中，需要对指标序列进行预测(通常是指预测未来某个或多个时刻的指标值)，便于在预测值出现较大波动，或者预测值与真实值差异较大的情况下，提前预警，发现异常。

常规技术中，通常利用机器学习来进行指标序列的预测，这需要先对指标序列进行特征表示。然而传统的特征表示方法，要么准确性较差，要么复杂度较高。因此，需要提供一种更有效的序列处理方法，以便能够平衡准确性和复杂度两方面的因素。

发明内容

本说明书一个或多个实施例描述了一种利用神经网络进行序列处理的方法及序列处理的装置，可以平衡准确性和时间复杂度两方面的因素。

第一方面，提供了一种利用神经网络进行序列处理的方法，包括：

在所述生成层，获取按时间排序的业务指标值形成的指标序列所对应的原始向量序列，针对该原始向量序列迭代执行多层级的向量聚合，得到对应于不同时间尺度的多层级的处理向量序列，所述原始向量序列和各处理向量序列中的各个向量，形成多层级的树形关系图；

在所述注意力层，根据所述树形关系图，确定输入的任一目标向量的关联向量，根据所述关联向量对所述目标向量进行基于注意力机制的加权综合处理，得到对应的更新向量；所述更新向量用于确定所述指标序列的特征表示。

第二方面，提供了一种序列处理的装置，包括：

生成单元，用于获取按时间排序的业务指标值形成的指标序列所对应的原始向量序列，针对该原始向量序列迭代执行多层级的向量聚合，得到对应于不同时间尺度的多层级的处理向量序列，所述原始向量序列和各处理向量序列中的各个向量，形成多层级的树形关系图；

获取单元，用于根据所述树形关系图，确定输入的任一目标向量的关联向量，根据所述关联向量对所述目标向量进行基于注意力机制的加权综合处理，得到对应的更新向量；所述更新向量用于确定所述指标序列的特征表示。

第三方面，提供了一种计算机存储介质，其上存储有计算机程序，当所述计算机程序在计算机中执行时，令计算机执行第一方面的方法。

第四方面，提供了一种计算设备，包括存储器和处理器，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现第一方面的方法。

本说明书一个或多个实施例提供的利用神经网络进行序列处理的方法及序列处理的装置，一方面，仅基于目标向量的关联向量而不是基于全部向量，来更新目标向量，可以大大减少注意力分数的计算次数，进而可以提升指标序列的处理效率。另一方面，由于树形关系图是基于对应于不同时间尺度的处理向量序列形成的，从而基于该树形关系图，确定任一目标向量的关联向量，可以实现指标序列的多尺度特征学习，进而可以提升指标序列的特征表示的准确性。总而言之，本方案可以平衡准确性和时间复杂度两方面的因素。

附图说明