[发明专利]一种公式识别模型的训练方法及装置

权利要求书

1.一种公式识别模型的训练方法，其特征在于，所述方法包括：

获取训练公式轨迹和所述训练公式轨迹对应的标签，所述训练公式轨迹对应的标签，用于指示所述训练公式轨迹对应的公式；

基于所述训练公式轨迹和所述标签，通过如下方式训练得到公式识别模型：

对所述训练公式轨迹进行特征提取，得到特征序列；

在第一解码时刻：

对第一语义向量和所述特征序列进行解码，得到第一上下文向量，其中，所述第一语义向量根据第二解码时刻解码得到的第一隐层向量得到，所述第二解码时刻为所述第一解码时刻的前一解码时刻；

基于所述第一上下文向量以及所述标签，对所述公式识别模型的参数进行调整。

2.根据权利要求1所述的方法，其特征在于，所述公式识别模型，包括语义学习模块，所述第一语义向量，为所述语义学习模块根据所述第一隐层向量得到。

3.根据权利要求2所述的方法，其特征在于，所述语义学习模块，包括预先训练的第一语言子模块、自学习的第二语言子模块和语义选择子模块；所述第一语义向量，通过如下方式得到：

在所述第一解码时刻：

所述第一语言子模块，根据所述第一隐层向量，输出对应的语义向量；

所述第二语言子模块，根据所述第一隐层向量和第二语义向量，输出对应的语义向量，所述第二语义向量为预先训练的第三语言子模块根据所述第一隐层向量得到的；

所述语义选择子模块，从所述第一语言子模块输出的语义向量和所述第二语言子模块输出的语义向量中，选择出其中一个语义向量作为所述第一语义向量。

4.根据权利要求3所述的方法，其特征在于，所述基于所述第一上下文向量以及所述标签，对所述公式识别模型的参数进行调整，包括：

基于所述第一上下文向量、所述第二语义向量、所述第二语言子模块输出的语义向量以及所述标签，对所述公式识别模型以及所述第三语言子模块的参数进行调整。

5.根据权利要求4所述的方法，其特征在于，所述对所述公式识别模型的参数进行调整，包括：

对所述公式识别模型中除所述第一语言子模块之外的网络的参数进行调整。

6.根据权利要求1所述的方法，其特征在于，所述对第一语义向量和所述特征序列进行解码，通过解码器实现，所述解码器为基于注意力机制的门循环单元GRU。

7.根据权利要求1所述的方法，其特征在于，所述方法还包括：

获取待识别公式轨迹；

将所述待识别公式轨迹输入训练得到的公式识别模型，得到所述待识别公式轨迹对应的目标公式。

8.一种公式识别模型的训练装置，其特征在于，所述装置包括：

第一获取单元，用于获取训练公式轨迹和所述训练公式轨迹对应的标签，所述训练公式轨迹对应的标签，用于指示所述训练公式轨迹对应的公式；

训练单元，用于基于所述训练公式轨迹和所述标签，通过如下方式训练得到公式识别模型：

对所述训练公式轨迹进行特征提取，得到特征序列；

在第一解码时刻：

对第一语义向量和所述特征序列进行解码，得到第一上下文向量，其中，所述第一语义向量根据第二解码时刻解码得到的第一隐层向量得到，所述第二解码时刻为所述第一解码时刻的前一解码时刻；

基于所述第一上下文向量以及所述标签，对所述公式识别模型的参数进行调整。

9.根据权利要求8所述的装置，其特征在于，所述公式识别模型，包括语义学习模块，所述第一语义向量，为所述语义学习模块根据所述第一隐层向量得到。