[发明专利]释义分析模型训练方法、装置、终端设备及存储介质

权利要求书

1.一种释义分析模型训练方法，其特征在于，包括：

获取训练样本，所述训练样本至少包括两段文本；

将所述训练样本输入至预训练模型的第一网络结构中，得到所述训练样本的目标嵌入向量；所述预训练模型还包括高通滤波层和第二网络结构；

将所述目标嵌入向量输入至所述高通滤波层进行信息噪音过滤处理，得到滤波向量；

将所述目标嵌入向量和所述滤波向量分别输入至所述第二网络结构中进行向量处理，得到所述训练样本的目标损失函数值；

基于所述目标损失函数值，对所述预训练模型进行反向传播训练，得到目标训练模型，所述目标训练模型用于对任意输入的两段待识别文本进行处理，输出所述两段待识别文本的释义相似度。

2.如权利要求1所述的释义分析模型训练方法，其特征在于，所述将所述训练样本输入至预训练模型的第一网络结构中，得到所述训练样本的目标嵌入向量，包括：

识别所述训练样本中的起始符号以及分割符号；

将所述起始符号与所述分割符号之间的文本内容确定为第一文本，以及将处于所述分割符号之后的文本内容确定为第二文本；

将所述第一文本和所述第二文本输入至所述第一网络结构中，得到所述第一文本的第一嵌入向量，以及所述第二文本的第二嵌入向量；

计算所述第一嵌入向量和所述第二嵌入向量的均值，并将所述均值作为所述训练样本的目标嵌入向量。

3.如权利要求2所述的释义分析模型训练方法，其特征在于，所述第一文本包括至少一个第一分词，所述第二文本包括至少一个第二分词，所述第一嵌入向量由所述第一分词对应的分词嵌入向量组成，所述第二嵌入向量由所述第二分词对应的分词嵌入向量组成；

所述将所述第一文本和所述第二文本输入至所述第一网络结构中，得到所述第一文本的第一嵌入向量，以及所述第二文本的第二嵌入向量，包括：

针对所述第一文本的任一第一分词，确定所述第一分词的第一词向量；以及，针对所述第二文本的任一第二分词，确定所述第二分词的第二词向量；

确定所述第一分词在所述第一文本中相对于所述起始符号的第一词位置向量；以及，确定所述第二分词在所述第二文本中相对于所述分割符号的第二词位置向量；

根据所述第一词位置向量、所述第一词向量以及所述第一文本的预设嵌入信息进行向量加和处理，得到所述第一分词的第一分词嵌入向量；以及，根据所述第二词位置向量、所述第二词向量以及所述第二文本的预设嵌入信息进行向量加和处理，得到所述第二分词的第二分词嵌入向量；

基于所述第一分词的第一分词嵌入向量生成所述第一嵌入向量；以及，基于所述第二分词的第二分词嵌入向量生成所述第二嵌入向量。

4.如权利要求1-3任一所述的释义分析模型训练方法，其特征在于，所述将所述目标嵌入向量和所述滤波向量分别输入至所述第二网络结构中进行向量处理，得到所述训练样本的目标损失函数值，包括：

将所述目标嵌入向量输入所述第二网络结构中进行向量处理，得到所述第二网络结构预测所述两段文本的释义相似度的第一预测结果；以及，将所述滤波向量输入所述第二网络结构中进行向量处理，得到所述第二网络结构预测所述两段文本的释义相似度的第二预测结果；

采用预设的交叉熵损失函数分别对所述第一预测结果和所述第二预测结果进行计算，得到原始损失函数和滤波损失函数；

根据所述原始损失函数和所述滤波损失函数计算所述目标损失函数值。

5.如权利要求4所述的释义分析模型训练方法，其特征在于，所述根据所述原始损失函数和所述滤波损失函数计算所述目标损失函数值，包括：

基于所述原始损失函数对应的预设第一权重值，计算修正后的原始损失函数；以及，基于所述滤波损失函数对应的预设第二权重值，计算修正后的滤波损失函数；

将所述修正后的原始损失函数与所述修正后的滤波损失函数之和作为所述目标损失函数值。