[发明专利]语句分析模型的训练方法及装置、语句分析方法及装置

权利要求书

1.一种语句分析模型的训练方法，其特征在于，包括：

获取多个样本语句对和每一个所述样本语句对的语句关系标签；

将所述样本语句对进行分词处理，生成词单元集合；

将所述词单元集合输入至语句分析模型中进行处理，获得首个词单元的注意力矩阵，并基于所述首个词单元的注意力矩阵，生成第一损失值，其中，所述基于所述首个词单元的注意力矩阵，生成第一损失值，包括：计算所述首个词单元的注意力矩阵的范数值，并将所述首个词单元的注意力矩阵的范数值作为第一损失值；

将所述首个词单元的注意力矩阵进行处理，确定样本语句对的语句关系，并将所述样本语句对的语句关系与所述语句关系标签进行对比，确定第二损失值；

基于所述第一损失值和所述第二损失值生成第三损失值，并基于所述第三损失值对所述语句分析模型进行迭代训练，直至达到训练停止条件。

2.根据权利要求1所述的语句分析模型的训练方法，其特征在于，所述语句分析模型包括n个注意力层，其中，n＞1，且n为整数；

所述将所述词单元集合输入至语句分析模型中进行处理，获得首个词单元的注意力矩阵，包括：

S11、将所述词单元集合输入至第一注意力层中进行处理，获得每一个词单元第一注意力层的输出矩阵；

S12、将所述每一个词单元第一注意力层的输出矩阵输入至第二注意力层中进行处理，获得每一个词单元第二注意力层的输出矩阵；

S13、将每一个词单元第i-1注意力层的输出矩阵输入至第i注意力层中进行处理，获得每一个词单元第i注意力层的输出矩阵，其中，1＜i≤n，且i为整数；

S14、将i自增1，判断i是否大于n，若是，则执行步骤S15，若否，则执行步骤S13；

S15、将所述词单元集合中首个词单元第i注意力层的输出矩阵作为所述首个词单元的注意力矩阵。

3.根据权利要求1所述的语句分析模型的训练方法，其特征在于，所述并将所述样本语句对的语句关系与所述语句关系标签进行对比，确定第二损失值，包括：

将所述样本语句对的语句关系与所述语句关系标签进行对比，确定损失函数的损失值，并将所述损失函数的损失值作为第二损失值。

4.根据权利要求1所述的语句分析模型的训练方法，其特征在于，所述基于所述第一损失值和所述第二损失值生成第三损失值，包括：

确定所述第一损失值的权重值和所述第二损失值的权重值；

基于所述第一损失值的权重值和所述第二损失值的权重值对所述第一损失值和所述第二损失值进行加权求和处理，生成第三损失值。

5.根据权利要求1所述的语句分析模型的训练方法，其特征在于，所述基于所述第三损失值对所述语句分析模型进行迭代训练，直至达到训练停止条件，包括：

S21、判断所述第三损失值是否处于稳定状态，若否，则执行步骤S22，若是，则执行步骤S23；

S22、基于所述第三损失值对所述语句分析模型进行更新；

S23、停止训练。

6.一种语句分析方法，其特征在于，包括：

获取待分析语句对；

将所述待分析语句对输入至语句分析模型中进行处理，生成所述待分析语句对的语句关系，其中，所述语句分析模型是通过权利要求1-5任意一项所述的训练方法训练得到的。