[发明专利]一种基于多模型集成的政务问答方法

说明书

本发明适用于智能问答领域，提供了一种基于多模型集成的政务问答方法。本发明将实际政务问答的复杂场景分解为多个部分，集成多种特定用途的在不同数据集上微调的预训练语言模型，分别进行FAQ问答对匹配、阅读理解以及层级检索以获取答案和可解释性证据，之后使用无监督答案验证方法对得到的答案和可解释性证据进一步验证，从而充分利用不同模型进行答案信息互补，提高政务问答的质量。采取的阅读理解模型经过无监督检索后能够快速推理并且层级检索方法非常高效，从而保证政务问答的实时性要求。多模型集成的使用能够进一步提高问答准确率，同时提供答案对应的可解释性证据。此外，无监督方法的特性使得该发明能够轻易移植到其他实际问答场景中。

技术领域

本发明涉及自然语言处理中的智能问答技术领域，尤其涉及一种基于多模型集成的政务问答方法。

背景技术

近年来，随着阅读理解的蓬勃发展，智能问答领域注入新的活力。然而，由于数据集的标注费时费力，在实际问答场景中存在大量的无标注数据集，因此有监督方法难以在目标数据集上使用。对于政务问答，其不仅要求模型拥有较高的答案回答准确率，并且要求实时返回答案以满足用户需求。此外，现有问答模型大多为先检索证据后阅读理解的两阶段模型，无法保证模型推理得到的答案的可答性，难以完成实际场景的问答任务，经常产生无法回答用户查询的局面。

发明内容

本发明所要解决的技术问题是实现一种基于多模型集成的政务问答方法，能够利用多模型集成的优势，根据用户提供的查询以及构造的多类型政务数据集实时返回查询对应的答案。

为了实现上述目的，本发明采用的技术方案为：一种基于多模型集成的政务问答方法：包括：

S1、将政务语料文本数据Data进行多粒度划分，得到句子级上下文C^S以及篇章级上下文C^P，之后将这两种上下文和查询Q表示为word2vector词嵌入，分别记为C^S、C^P以及Q；

S2、根据所述C^S构造FAQ问答对数据库Data^F，采用BM25方法从Data^F中检索前top-k₁个BM25 分数最大的候选问答对QA^Pair，之后将所述Q与QA^Pair中的每个问题使用FAQ问答对匹配模型进行匹配，若匹配成功，则将匹配分数最大的问题对应的答案作为所述Q的固定答案A^F，转S4；否则，将前top-k₂个匹配分数最大的问答对保留,作为保留的问答对，并采用问题分类模型把所述Q分类为描述型或其他类型；

S3、若查询是描述型，则基于所述C^S，采用无监督检索方法检索与所述Q相关的上下文子片段，之后将上下文子片段以及所述Q送入阅读理解模型进行分析推理，得到Q对应的抽取答案A^E；

S4、将所述C^P平铺，使用BM25方法检索与所述Q相关的文档集DS；然后根据所述C^P，采用层级检索模型从DS中检索与所述Q相关的文本，得到用于回答Q的可解释性证据E；

S5、采用无监督答案验证模型分别验证所述A^F或A^E，以及所述E，并按照预设的输出规则输出答案或所述保留的问答对作为推荐答案。

作为优选，所述S1包括：

S11、多粒度划分方法包括文档划分、句子划分以及文档层次划分；记所述Data经过文档划分以及句子划分获得的句子级上下文为C^S，其包含|C^S|个文档第i个文档包含个句子记所述Data经过文档划分以及文档层级划分后的篇章级上下文为C^P，其包含|D^P|个文档第m个文档包含个篇章