[发明专利]一种快速文本匹配方法及装置

说明书

本发明提供一种快速文本匹配方法及装置，包括：对问题编码向量和参考候选编码向量进行相似度计算，得到一参考相似度；根据每个其他候选编码向量，生成所述问题编码向量和每个其他候选编码向量的对比相似度；根据所述参考相似度以及每个所述对比相似度确定与所述问题文本匹配的候选文本。本发明采用这种用编码向量计算相似度的方法，不需要将问题文本和每个候选文本进行一一匹配计算，降低了文本匹配的计算代价，同时也提高了计算效率，尤其是多个问题文本进行匹配计算的时候，大大减少了计算时间。

技术领域

本发明涉及自然语言处理领域，更具体的，涉及一种快速文本的匹配方法及装置。

背景技术

神经语言程序学(NLP)中，文本匹配技术，通常以文本相似度计算、文本相关性计算的形式，在某应用系统中起核心支撑作用，比如搜索引擎、智能问答、知识检索、信息流推荐等。

传统文本匹配方案很多都是基于字面匹配做的，无法考虑到语义上的相似度。随着深度学习在NLP领域研究的日益深入，新的深度匹配模型方法不断涌现出来，其优势是可以很好的把握语义焦点，对上下文重要性合理建模，早期以DSSM、CDSMM和ARC-I等网络结构为代表。这些模型的核心问题是容易发生语义偏移，词的上下文重要性难以衡量。自从BERT、Roberta这类大规模预训练语言模型诞生以来，就以其优良的表现在文本匹配问题中取得极大学术研究关注。这类模型已经事先采用大量数据进行过训练，泛化能力极强，使用时只需要针对特定领域进行微调即可使用，而且transformer模型本身具有极强的上下文关联捕捉能力。目前各种论文实验表明此类方法在效果上优于之前的方法。但由于BERT、Roberta这类模型通常参数规模较大，计算代价本身极高，而且文本匹配问题，本身具有一定的冗余复杂性，比如问答系统中的FAQ任务，按BERT等模型的计算方法，需要将问题(query)和每个候选拼成一个sample作为输入，这样B条问题，N个候选就需要计算B×N次，目前在单块V100 GPU上base版BERT每秒中可以处理1000个sample，假设候选数N是100，那么每秒钟单块卡只能处理10条请求，计算效率极低。

发明内容

为了解决上述问题中的至少一个，本发明第一方面提供一种快速文本的匹配方法，包括：

对问题编码向量和参考候选编码向量进行相似度计算，得到一参考相似度，其中所述问题编码向量是对待匹配问题进行向量编码后得到，所述问题文本对应一候选文本集，所述参考候选编码向量是对所述候选文本集中的其中任意一个候选文本进行向量编码得到；

根据每个其他候选编码向量，生成所述问题编码向量和每个其他候选编码向量的对比相似度；

根据所述参考相似度以及每个所述对比相似度确定与所述问题文本匹配的候选文本。

在优选的实施方式中，所述匹配方法还包括：

获取待匹配问题文本；

根据所述问题文本确定所述候选文本集。

在优选的实施方式中，所述匹配方法还包括：对所述问题文本和/或多个候选文本进行编码得到所述问题编码向量和多个对应的候选编码向量；其中，所述多个对应的候选编码向量包括所述参考候选编码向量和其他候选编码向量。

在优选的实施方式中，所述根据每个其他候选编码向量，生成所述问题编码向量和每个其他候选编码向量的对比相似度，包括：

计算每个其他候选编码向量与所述参考候选编码向量之间的差向量；

根据所述差向量和所述参考相似度，计算得到所述问题编码向量和每个其他候选编码向量的对比相似度。

在优选的实施方式中，所述问题编码向量包括至少一个问题分词子向量，每个候选编码向量包括至少一个候选分词子向量；对问题编码向量和参考候选编码向量进行相似度计算，得到一参考相似度，包括：