[发明专利]一种公式识别模型的训练方法及装置

说明书

本申请公开了一种公式识别模型的训练方法，根据训练公式轨迹和训练公式轨迹对应的公式，训练得到公式识别模型。在训练公式识别模型时，对训练公式轨迹进行特征提取，得到特征序列；在第一解码时刻：对第一语义向量和特征序列进行解码，得到第一上下文向量，其中，第一语义向量根据第二解码时刻解码得到的第一隐层向量得到，第二解码时刻为第一解码时刻的前一解码时刻；基于第一上下文向量以及标签，对公式识别模块的参数进行调整。由此可见，在模型训练阶段，基于第一语义向量和特征序列进行解码，从而使得训练得到的公式识别模型，能够自适应融合语义信息，从而使得该公式识别模型的识别准确度更高。

技术领域

本申请涉及数据处理领域，特别是涉及一种公式识别模型的训练方法及装置。

背景技术

目前，机器学习模型可以对公式轨迹进行识别，以得到所述公式轨迹对应的公式。但是，目前用于识别公式轨迹的公式识别模型，并不能准确的识别出公式轨迹对应的公式。本申请中提及的公式轨迹，包括组成公式的一个个轨迹点。

因此，急需一种方案，能够准确是根据公式轨迹识别得到对应的公式。

发明内容

本申请所要解决的技术问题是公式识别模型并不能准确的识别出公式轨迹对应的公式，提供一种公式识别模型的训练方法及装置。

第一方面，本申请实施例提供了一种公式识别模型的训练方法，所述方法包括：

获取训练公式轨迹和所述训练公式轨迹对应的标签，所述训练公式轨迹对应的标签，用于指示所述训练公式轨迹对应的公式；

基于所述训练公式轨迹和所述标签，通过如下方式训练得到公式识别模型：

对所述训练公式轨迹进行特征提取，得到特征序列；

在第一解码时刻：

对第一语义向量和所述特征序列进行解码，得到第一上下文向量，其中，所述第一语义向量根据第二解码时刻解码得到的第一隐层向量得到，所述第二解码时刻为所述第一解码时刻的前一解码时刻；

基于所述第一上下文向量以及所述标签，对所述公式识别模型的参数进行调整。

可选的，所述公式识别模型，包括语义学习模块，所述第一语义向量，为所述语义学习模块根据所述第一隐层向量得到。

可选的，所述语义学习模块，包括预先训练的第一语言子模块、自学习的第二语言子模块和语义选择子模块；所述第一语义向量，通过如下方式得到：

在所述第一解码时刻：

所述第一语言子模块，根据所述第一隐层向量，输出对应的语义向量；

所述第二语言子模块，根据所述第一隐层向量和第二语义向量，输出对应的语义向量，所述第二语义向量为预先训练的第三语言子模块根据所述第一隐层向量得到的；

所述语义选择子模块，从所述第一语言子模块输出的语义向量和所述第二语言子模块输出的语义向量中，选择出其中一个语义向量作为所述第一语义向量。

可选的，所述基于所述第一上下文向量以及所述标签，对所述公式识别模型的参数进行调整，包括：

基于所述第一上下文向量、所述第二语义向量、所述第二语言子模块输出的语义向量以及所述标签，对所述公式识别模型以及所述第三语言子模块的参数进行调整。

可选的，所述对所述公式识别模型的参数进行调整，包括：

对所述公式识别模型中除所述第一语言子模块之外的网络的参数进行调整。

可选的，所述对第一语义向量和所述特征序列进行解码，通过解码器实现，所述解码器为基于注意力机制的门循环单元GRU。

可选的，所述方法还包括：