[发明专利]一种基于多标注数据的依存句法分析模型训练方法及装置

权利要求书

1.一种基于多标注数据的依存句法分析模型训练方法，其特征在于，包括：

获取词序列以及所述词序列的多种标注结果，对于所述词序列中的每个修饰词，所述标注结果包括弧和依存关系标签，每种标注结果来自不同的用户；

将所述词序列输入依存句法分析模型，得到弧得分和标签得分；

根据目标损失函数，计算所述弧得分和所述标签得分相对于所述多种标注结果的损失值；

通过迭代训练，以最小化所述损失值为目的，调整所述依存句法分析模型的模型参数，以实现对所述依存句法分析模型的训练。

2.如权利要求1所述的方法，其特征在于，所述根据目标损失函数，计算所述弧得分和所述标签得分相对于所述多种标注结果的损失值，包括：

根据不同用户的标注能力，针对所述多种标注结果中的各种标注结果，设置权重值；

根据目标损失函数和各种标注结果的权重值，计算所述弧得分和所述标签得分相对于所述多种标注结果的损失值。

3.如权利要求2所述的方法，其特征在于，所述针对所述多种标注结果中的各种标注结果，设置权重值，包括：

针对所述多种标注结果中的各种标注结果，分别设置弧权重值和/或标签权重值。

4.如权利要求1所述的方法，其特征在于，所述根据目标损失函数，计算所述弧得分和所述标签得分相对于所述多种标注结果的损失值，包括：

根据弧损失函数，计算所述弧得分相对于所述多种标注结果中弧的损失值，得到第一损失值；

根据标签损失函数，计算所述标签得分相对于所述多种标注结果中依存关系标签的损失值，得到第二损失值；

根据所述第一损失值和所述第二损失值，确定所述弧得分和所述标签得分相对于多种标注结果的损失值。

5.如权利要求4所述的方法，其特征在于，所述根据标签损失函数，计算所述标签得分相对于所述多种标注结果中依存关系标签的损失值，得到第二损失值，包括：

根据标签损失函数，计算所述标签得分相对于目标标注结果中依存关系标签的损失值，得到第二损失值，其中所述目标标注结果为所述多种标注结果中弧等于目标弧的标注结果，所述目标弧为根据目标策略确定的弧，所述目标策略包括：弧得分预测、多数投票、加权投票、随机选取。

6.如权利要求1所述的方法，其特征在于，所述依存句法分析模型包括：输入层、编码层、第一MLP层、第一得分层、第二MLP层和第二得分层；

其中所述第一MLP层用于根据所述编码层的输出确定当前词作为核心词的表示向量和当前词作为修饰词的表示向量，所述第一得分层用于根据所述第一MLP层的输出确定弧得分；

所述第二MLP层用于根据所述编码层的输出确定当前词作为核心词时包含依存关系标签信息的表示向量、当前词作为修饰词时包含依存关系标签信息的表示向量，所述第二得分层用于根据所述第二MLP层的输出确定标签得分。

7.如权利要求6所述的方法，其特征在于，所述依存句法分析模型的编码层包括多层BiLSTM。

8.一种基于多标注数据的依存句法分析模型训练装置，其特征在于，包括：

训练样本获取模块：用于获取词序列以及所述词序列的多种标注结果，对于所述词序列中的每个修饰词，所述标注结果包括弧和依存关系标签，每种标注结果来自不同的用户；

输入输出模块：用于将所述词序列输入依存句法分析模型，得到弧得分和标签得分；

损失计算模块：用于根据目标损失函数，计算所述弧得分和所述标签得分相对于所述多种标注结果的损失值；

迭代模块：用于通过迭代训练，以最小化所述损失值为目的，调整所述依存句法分析模型的模型参数，以实现对所述依存句法分析模型的训练。

9.一种基于多标注数据的依存句法分析模型训练设备，其特征在于，包括：

存储器：用于存储计算机程序；

处理器：用于执行所述计算机程序，以实现如权利要求1-7任意一项所述的基于多标注数据的依存句法分析模型训练方法。

10.一种可读存储介质，其特征在于，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时用于实现如权利要求1-7任意一项所述的基于多标注数据的依存句法分析模型训练方法。