[发明专利]释义分析模型训练方法、装置、终端设备及存储介质

说明书

本申请适用于人工智能技术领域，提供了一种释义分析模型训练方法、装置、终端设备及存储介质，方法包括：获取包含两段文本的训练样本；将训练样本输入至预训练模型的第一网络结构中，得到训练样本的目标嵌入向量；将目标嵌入向量输入至高通滤波层进行信息噪音过滤处理，得到滤波向量；将目标嵌入向量和滤波向量分别输入至第二网络结构中进行向量处理，得到目标损失函数值；基于目标损失函数值，对预训练模型进行反向传播训练，得到目标训练模型。采用上述方法，可在对待识别文本的向量处理过程中实现对关键信息的增强，有助于提高目标训练模型的预测准确率。

技术领域

本申请属于人工智能技术领域，尤其涉及一种释义分析模型训练方法、装置、终端设备及存储介质。

背景技术

文本释义分析任务是自然语言处理领域中评价模型性能优劣的常见指标之一。具体为，输入两段文本至模型中，经过模型处理预测两段文本所表达的意思是否为同一个意思，即两段文本之间的释义相似度。

目前，在进行文本释义分析模型的训练过程中，通常是直接基于人工标注的大量文本数据进行向量处理(如提取文本释义)，以进行模型训练。然而，上述对文本数据进行向量处理的过程中，均未对文本数据中普遍存在的干扰信息进行处理，最终模型的预测准确率较低。

发明内容

本申请实施例提供了一种释义分析模型训练方法、装置、终端设备及存储介质，可以解决现有技术中训练的文本释义分析模型预测准确率低的问题。

第一方面，本申请实施例提供了一种释义分析模型训练方法，包括：

获取训练样本，所述训练样本至少包括两段文本；

将所述训练样本输入至预训练模型的第一网络结构中，得到所述训练样本的目标嵌入向量；所述预训练模型还包括高通滤波层和第二网络结构；

将所述目标嵌入向量输入至所述高通滤波层进行信息噪音过滤处理，得到滤波向量；

将所述目标嵌入向量和所述滤波向量分别输入至所述第二网络结构中进行向量处理，得到所述训练样本的目标损失函数值；

基于所述目标损失函数值，对所述预训练模型进行反向传播训练，得到目标训练模型，所述目标训练模型用于对任意输入的两段待识别文本进行处理，输出所述两段待识别文本的释义相似度。

在一实施例中，所述将所述训练样本输入至预训练模型的第一网络结构中，得到所述训练样本的目标嵌入向量，包括：

识别所述训练样本中的起始符号以及分割符号；

将所述起始符号与所述分割符号之间的文本内容确定为第一文本，以及将处于所述分割符号之后的文本内容确定为第二文本；

将所述第一文本和所述第二文本输入至所述第一网络结构中，得到所述第一文本的第一嵌入向量，以及所述第二文本的第二嵌入向量；

计算所述第一嵌入向量和所述第二嵌入向量的均值，并将所述均值作为所述训练样本的目标嵌入向量。

在一实施例中，所述第一文本包括至少一个第一分词，所述第二文本包括至少一个第二分词，所述第一嵌入向量由所述第一分词对应的分词嵌入向量组成，所述第二嵌入向量由所述第二分词对应的分词嵌入向量组成；

所述将所述第一文本和所述第二文本输入至所述第一网络结构中，得到所述第一文本的第一嵌入向量，以及所述第二文本的第二嵌入向量，包括：

针对所述第一文本的任一第一分词，确定所述第一分词的第一词向量；以及，针对所述第二文本的任一第二分词，确定所述第二分词的第二词向量；

确定所述第一分词在所述第一文本中相对于所述起始符号的第一词位置向量；以及，确定所述第二分词在所述第二文本中相对于所述分割符号的第二词位置向量；