[发明专利]一种文本信息的处理方法、装置及设备

说明书

本发明公开了一种文本信息的处理方法、装置及设备。方法包括：获取查询文本和阅读材料文本；对所述查询文本的词向量进行降维处理，得到查询文本向量；计算所述查询文本向量到所述阅读材料文本的注意力权重；根据所述注意力权重，生成融合了查询文本向量的词向量信息的阅读材料文本向量；将所述阅读材料文本向量，进行双向循环编码，得到第一层输出和第二层输出；根据所述第一层输出和第二层输出，预测所述阅读材料文本中与所述查询文本匹配的目标文本。本发明的方案可以提高机器阅读文章时，对阅读材料进行问题作答匹配时的效率。

技术领域

本发明涉及文本处理技术领域，特别是指一种文本信息的处理方法、装置及设备。

背景技术

机器阅读理解（Machine Reading Comprehension，MRC）就是给定一篇文章，以及基于文章的一个问题，让机器在阅读文章后对问题进行作答。

现有技术中，用户输入的查询文本和阅读材料文本在进行问题和答案匹配时，采用相同的词语处理方法，使得机器阅读文章进行问题作答匹配时，效率较低。

发明内容

本发明提供一种文本信息的处理方法、装置及设备，解决现有技术中机器阅读文章进行问题作答匹配时，效率较低的问题。

为解决上述技术问题，本发明的技术方案如下：

一种文本信息的处理方法，包括：

获取查询文本和阅读材料文本；

对所述查询文本的词向量进行降维处理，得到查询文本向量；

计算所述查询文本向量到所述阅读材料文本的注意力权重；

根据所述注意力权重，生成融合了查询文本的词向量信息的阅读材料文本向量；

将所述阅读材料文本向量，进行双向循环编码，得到第一层输出和第二层输出；

根据所述第一层输出和第二层输出，预测所述阅读材料文本中与所述查询文本匹配的目标文本。

可选的，对所述查询文本的词向量进行降维处理，得到处理结果，包括：

对所述查询文本进行分词处理，得到所述查询文本的字词粒度的分词序列；

获取所述分词序列中的元素在预设的分词词典中出现的词，得到子词序列；

对所述子词序列中的元素进行哈希运算，得到每一个元素的哈希值形成的预设维度的查询文本向量，所述预设维度小于所述查询文本的维度。

可选的，计算所述查询文本向量到所述阅读材料文本的注意力权重，包括：

将所述查询文本向量进行至少一层的非线性映射处理，得到查询文本向量映射结果；

对所述阅读材料文本进行分词处理，得到所述阅读材料文本的字词粒度的分词矩阵；

对所述分词矩阵进行词嵌入处理，得到词嵌入处理结果；

将所述词嵌入处理结果，输入双向的长短期记忆人工神经网络进行编码处理，得到所述阅读材料文本的上下文编码；

根据所述查询文本向量映射结果和所述上下文编码中的元素，计算所述查询文本向量到所述阅读材料文本的注意力权重。

可选的，通过以下公式计算注意力权重：

其中，表示所述查询文本向量映射结果，表示上下文编码中的第i个元素，T表示元素的个数，表示第i个元素对应的注意力权重，exp表示自然常数e为底的指数函数。

可选的，根据所述注意力权重，生成融合了查询文本的词向量信息的阅读材料文本向量，包括：

将所述注意力权重与查询文本向量映射结果的乘积与每一个元素拼接后，得到所述阅读材料文本向量，所述阅读材料文本向量为，其中，表示拼接。

可选的，将所述阅读材料文本向量，进行双向循环编码，得到第一层输出和第二层输出，包括：