[发明专利]基于文本匹配模型的文本分类方法、装置及相关设备

权利要求书

1.一种基于文本匹配模型的文本分类方法，其特征在于，所述文本匹配模型包括编码层、特征增强层、注意力融合层和分类层，所述方法包括：

获取待匹配的第一文本语料和第二文本语料；

通过预先训练好的文本匹配模型中的所述编码层对所述第一文本语料进行处理，得到所述第一文本语料的编码特征；

通过所述文本匹配模型中的所述编码层对所述第二文本语料进行处理，得到所述第二文本语料的编码特征；

通过所述特征增强层对所述第一文本语料的编码特征进行处理，得到第一增强特征，通过所述特征增强层对所述第二文本语料的编码特征进行处理，得到第二增强特征；

通过所述注意力融合层计算所述第一增强特征和所述第二增强特征之间的相似性，并根据所述相似性对所述第一增强特征和所述第二增强特征进行突出，得到突出的第一增强特征和突出的第二增强特征；

通过所述注意力融合层对所述第一增强特征和所述突出的所述第一增强特征进行融合，得到第一融合特征，对所述第二增强特征和所述突出的所述第二增强特征进行融合，得到第二融合特征；

所述分类层根据所述第一融合特征和所述第二融合特征得到所述第一文本语料和所述第二文本语料之间的匹配概率；

所述通过所述特征增强层对所述第一文本语料的编码特征进行处理，得到第一增强特征的步骤包括：

通过以下公式计算所述第一增强特征：

其中，表示所述第一增强特征，a_i表示第一中间特征，表示第一词特征，表示第一上下文特征，表示第一词特征门系数，表示第一上下文特征门系数；

通过以下公式计算所述第一词特征门系数

其中，σ表示sigmoid函数，W_g、W_e和z_e表示训练得到的所述特征增强层的中的参数,a_i表示所述第一中间特征，表示所述第一词特征；

通过以下公式计算所述第一上下文特征门系数

其中，σ表示sigmoid函数，W_g、W_h和z_h表示训练得到的所述特征增强层中的参数,a_i表示所述第一中间特征，表示所述第一上下文特征。

2.根据权利要求1所述的基于文本匹配模型的文本分类方法，其特征在于，训练所述文本匹配模型的步骤包括：

根据用户的输入配置所述文本匹配模型的层数以及每层包括的参数；

获取包含有第一文本语料样本和第二文本语料样本的若干个样本组，每个所述样本组携带有对应的第一文本语料样本和第二文本语料样本是否匹配的标注；

通过所述样本组对所述文本匹配模型进行训练，当所述文本匹配模型的损失函数收敛时，得到所述文本匹配模型中每层的参数值。

3.根据权利要求1所述的基于文本匹配模型的文本分类方法，其特征在于，所述编码层包括Embedding层和token层，所述第一文本语料的编码特征包括第一词特征、第一上下文特征和第一中间特征，所述通过所述编码层对所述第一文本语料进行处理，得到所述第一文本语料的编码特征的步骤包括：

通过所述Embedding层对所述第一文本语料进行处理，得到所述第一词特征；

通过所述token层对所述第一词特征进行token处理，得到所述第一中间特征；

通过双向长短期记忆网络LSTM中的Encoder对所述第一中间特征进行编码，得到所述第一上下文特征。

4.根据权利要求3所述的基于文本匹配模型的文本分类方法，其特征在于，所述第二文本语料的编码特征包括第二词特征、第二上下文特征和第二中间特征，所述通过所述编码层对所述第二文本语料进行处理，得到所述第二文本语料的编码特征的步骤包括：

通过所述Embedding层对所述第二文本语料进行处理，得到所述第二词特征；

通过所述token层对所述第二词特征进行token处理，得到所述第二中间特征；

通过双向长短期记忆网络LSTM中的Encoder对所述第二中间特征进行编码，得到所述第二上下文特征。