[发明专利]一种文本信息预测模型的训练方法、装置及设备

说明书

公开了一种文本信息预测模型的训练方法、装置及设备。本说明书实施例所提供的方案，使用机器阅读理解技术，基于文本内容和答案本身的共同特征进行模型训练，得到目标模型。使用该模型时，只需输入问题文本和文本内容，即可从文本内容中预测得到该问题的答案。

技术领域

本说明书实施例涉及信息技术领域，尤其涉及一种文本信息预测模型的训练方法、装置及设备。

背景技术

在机器阅读理解中，用户可以输入一段非结构化文本(包括合同、使用说明以及帮助说明等等)及一个问题，机器自动在阅读理解的基础上，从文本中抽取信息来回答该问题。

传统的信息抽取中，一般基于预设规则和序列进行。以抽取合同中的信息为例，基于规则的方法会编写类似“甲方：A公司”这样的规则，在用户在输入“甲方是谁”和合同全文之后，从合同全文中匹配出现在“甲方：”后面的公司名(A公司)，作为甲方公司。在这种方式下，对规则的覆盖程度要求很高，并且后期难以对规则进行维护。由于合同的写法存在多样性，很难用规则完整的覆盖所有情况。以及，如果在甲方出现在段首，而公司名出现在段尾，同时存在其他公司的干扰，则很难正确抽取。

基于此，需要一种更便利的文本信息预测模型，以得到准确率更高的文本信息预测模型。

发明内容

针对现有信息抽取中规则难以维护以及准确率太低的问题，为实现更便利以及准确的信息抽取方案，第一方面，本说明书实施例提供一种文本信息预测模型的训练方法，包括：

获取训练样本集合，每条训练样本中包括文本内容、问题文本和真实答案标记序列，所述文本内容中包含对问题和答案相关内容的每个字符的标记；

针对任一被选取的训练样本，根据被选取的训练样本中的文本内容，生成文本全文表征向量，以及，根据被选取的训练样本中的问题文本，生成问题表征向量；

根据所述文本全文表征向量和问题表征向量生成合并向量，作为被选取的训练样本的特征值，所述真实答案标记序列作为被选取的训练样本的标签值，采用有监督学习算法对训练样本集合进行训练，得到目标预测模型；

所述目标预测模型以根据文本全文表征向量和问题表征向量生成的合并向量作为输入值，以预测答案标记序列作为输出值，预测答案标记序列中每个标记对应一个字符。

第二方面，本说明书实施例提供一种基于上述文本信息预测模型的信息预测方法，包括：

获取问题文本和包含问题的答案的文本内容；

根据所述问题文本生成问题表征向量，以及，根据所述文本内容生成文本全文表征向量；

根据文本全文表征向量和问题表征向量生成合并向量，作为所述文本信息预测模型的输入特征值，以使所述文本信息预测模型确定预测答案标记序列，并解码所述预测答案标记序列得到预测答案。

与第一方面对应的，本说明书实施例还提供一种文本信息预测模型的训练装置，包括：

获取模块，获取训练样本集合，每条训练样本中包括文本内容、问题文本和真实答案标记序列，所述文本内容中包含对问题和答案相关内容的每个字符的标记；

向量生成模块，针对任一被选取的训练样本，根据被选取的训练样本中的文本内容，生成文本全文表征向量，以及，根据被选取的训练样本中的问题文本，生成问题表征向量；

训练模块，根据所述文本全文表征向量和问题表征向量生成合并向量，作为被选取的训练样本的特征值，所述真实答案标记序列作为被选取的训练样本的标签值，采用有监督学习算法对训练样本集合进行训练，得到目标预测模型；

所述目标预测模型以根据文本全文表征向量和问题表征向量生成的合并向量作为输入值，以预测答案标记序列作为输出值，预测答案标记序列中每个标记对应一个字符。