[发明专利]一种文本检索匹配方法和系统

说明书

本发明属于人工智能领域，涉及一种文本检索匹配方法和系统，该方法包括：步骤一，采集不同领域的中文自然语言推理文本语料，作为句子表征模型的训练语料；步骤二，结合对比学习方法训练句子表征模型，再利用句子语义匹配基准数据集来测试并筛选出最佳句子表征模型；步骤三，使用筛选出的最佳句子表征模式，对要匹配的长短文本中的句子进行相似度计算；步骤四，根据相似度计算的结果，采用Sigmod函数得到句子的匹配分数，来判断是否为相似句子，完成文本检索。本发明根据文本的长度与各类模型的特性，利用最适合的模型架构进行文本检索的任务，解决了文本匹配遇到的缺乏考虑句子之间主题的相似性、模型长度限制等问题，提高了匹配的效果。

技术领域

本发明属于人工智能领域，具体涉及一种文本检索匹配方法和系统。

背景技术

文本匹配是一项自然语言处理中的核心任务，很多自然语言处理的任务都可以抽象成文本匹配问题，不管是在对话系统、推荐系统、搜索引擎中，文本匹配都是必不可少的。

在检索模型中，传统的文本匹配的做法是直接根据关键词检索或 BM25等算法计算相关性排序，但这种方法的缺点是需要维护大量的同义词典库和匹配规则。后续逐渐出现了LSA、LDA等隐含语义分析技术，试图利用文档中隐藏的潜在语义来进行文本的匹配，并能够达到比直接的关键词匹配更好的效果。而随着深度学习的兴起，尤其是大规模预训练模型的提出，模型在文本匹配上的效果逐渐接近人类水平。目前比较常见的做法是将两个句子拼接起来然后输入到BERT模型中，然后用CLS token输出的句向量过一个线性分类器计算两个句子之间的相似度。虽然这样的方法简单且有效地学习到了句子之间的语义关系，可是存在两个问题：1) 缺乏句子之间主题的相似性，2) 模型有长度限制。

在短文本匹配中，目前的技术往往只考虑句子间的语义相似性而忽略了其主题之间的相关性，而且在处理长文本匹配的问题，过去的方法是将所有句子拼接在一起，不仅没有考虑到编码器长度的限制，还遗漏了句子之间的语义交互信息。

发明内容

为了解决现有技术中存在的上述技术问题，本发明提出了一种文本检索匹配方法和系统，基于对比学习、图卷积神经网络与分层编码技术，其具体技术方案如下：

一种文本检索匹配方法，包括以下步骤：

步骤一，采集现有不同领域的中文自然语言推理文本语料，作为句子表征模型的训练语料；

步骤二，结合对比学习方法训练句子表征模型，再利用句子语义匹配基准数据集来测试并筛选出最佳句子表征模型；

步骤三，使用筛选出的最佳句子表征模式，对要匹配的长短文本中的句子进行相似度计算；

步骤四，根据相似度计算的结果，采用Sigmod函数得到句子的匹配分数，来判断是否为相似句子，完成文本检索。

进一步的，所述步骤一具体为：通过网络采集现有的中文自然语言推理的文本语料数据集，并将数据集的相似语句作为正例取出，作为句子表征模型的训练语料。

进一步的，所述步骤二具体包括如下步骤：

步骤2.1，设定句子表征模型训练的批次尺寸、学习速率、训练轮次，以对比学习方法的损失函数作为句子表征模型训练的目标，损失函数的表达式为：

其中，表示计算两个句子之间的余弦相似度，则表示句子经过编码器编码后的句向量，表示句子经过编码器编码后的句向量；

步骤2.2，利用步骤2.1训练好的句子表征模型得到每个句子的句向量，然后通过一个MLP多层感知器对句向量进行分类，得到两个句子相似度的分数，根据相似度分数选取在语义匹配基准数据集中相似度分数最高的模型作为最佳句子表征模型。

进一步的， 所述步骤三具体包括如下步骤：