[发明专利]一种文本信息的处理方法、装置及设备

权利要求书

1.一种文本信息的处理方法，其特征在于，包括：

获取查询文本和阅读材料文本；

对所述查询文本的词向量进行降维处理，得到查询文本向量；

计算所述查询文本向量到所述阅读材料文本的注意力权重；

根据所述注意力权重，生成融合了查询文本的词向量信息的阅读材料文本向量；

将所述阅读材料文本向量，进行双向循环编码，得到第一层输出和第二层输出；

根据所述第一层输出和第二层输出，预测所述阅读材料文本中与所述查询文本匹配的目标文本。

2.根据权利要求1所述的文本信息的处理方法，其特征在于，对所述查询文本的词向量进行降维处理，得到处理结果，包括：

对所述查询文本进行分词处理，得到所述查询文本的字词粒度的分词序列；

获取所述分词序列中的元素在预设的分词词典中出现的词，得到子词序列；

对所述子词序列中的元素进行哈希运算，得到每一个元素的哈希值形成的预设维度的查询文本向量，所述预设维度小于所述查询文本的维度。

3.根据权利要求1所述的文本信息的处理方法，其特征在于，计算所述查询文本向量到所述阅读材料文本的注意力权重，包括：

将所述查询文本向量进行至少一层的非线性映射处理，得到查询文本向量映射结果；

对所述阅读材料文本进行分词处理，得到所述阅读材料文本的字词粒度的分词矩阵；

对所述分词矩阵进行词嵌入处理，得到词嵌入处理结果；

将所述词嵌入处理结果，输入双向的长短期记忆人工神经网络进行编码处理，得到所述阅读材料文本的上下文编码；

根据所述查询文本向量映射结果和所述上下文编码中的元素，计算所述查询文本向量到所述阅读材料文本的注意力权重。

4.根据权利要求3所述的文本信息的处理方法，其特征在于，通过以下公式计算注意力权重：

其中， 表示所述查询文本向量映射结果，表示上下文编码中的第i个元素，T表示元素的个数，表示第i个元素对应的注意力权重，exp表示自然常数e为底的指数函数。

5.根据权利要求4所述的文本信息的处理方法，其特征在于，根据所述注意力权重，生成融合了查询文本的词向量信息的阅读材料文本向量，包括：

将所述注意力权重与查询文本向量映射结果的乘积与每一个元素拼接后，得到所述阅读材料文本向量，所述阅读材料文本向量为，其中，表示拼接。

6.根据权利要求1所述的文本信息的处理方法，其特征在于，将所述阅读材料文本向量，进行双向循环编码，得到第一层输出和第二层输出，包括：

将所述阅读材料文本向量输入双向长短期记忆人工神经网络进行编码处理，得到第一层输出和第二层输出；其中，所述第一层输出为双所述长短期记忆人工神经网络的L1层的最后一个位置的输出值，所述第二层输出为所述长短期记忆人工神经网络的L2层的每一个位置的输出值。

7.根据权利要求6所述的文本信息的处理方法，其特征在于，根据所述第一层输出和第二层输出，预测所述阅读材料文本中与所述查询文本向量匹配的目标文本，包括：

利用所述第一层输出，预测所述阅读材料文本中与所述查询文本匹配的目标文本；

利用所述第二层输出，预测所述阅读材料文本中与所述查询文本匹配的文本对应的文本区域；

根据所述目标文本和所述文本区域，输出最终的目标文本。

8.一种文本信息的处理装置，其特征在于，包括：

获取模块，用于获取查询文本和阅读材料文本；

处理模块，用于对所述查询文本的词向量进行降维处理，得到查询文本向量；计算所述查询文本向量到所述阅读材料文本的注意力权重；根据所述注意力权重，生成融合了查询文本的词向量信息的阅读材料文本向量；将所述阅读材料文本向量，进行双向循环编码，得到第一层输出和第二层输出；根据所述第一层输出和第二层输出，预测所述阅读材料文本中与所述查询文本匹配的目标文本。