[发明专利]一种基于局部注意力机制记忆网络的问答方法及系统

权利要求书

1.一种基于局部注意力机制记忆网络的问答方法，其特征在于，包括以下步骤：

S1、根据提问句子和上下文记忆模块信息生成位置信息；

S2、根据生成的位置信息，计算提问句子和上下文记忆模块信息之间的相关概率分布；

S3、根据计算出的相关概率分布得到预测答案。

2.根据权利要求1所述的问答方法，其特征在于，所述步骤S1包括：

根据以下公式生成位置信息p_u：

其中，S是上下文记忆模块的大小，p_u∈[0，S]；W_a、v_p是记忆网络模型训练过程中学习到的参数；q是提问句子中的单词信息，δ是sigmoid激活函数。

3.根据权利要求2所述的问答方法，其特征在于，所述步骤S2包括：

根据以下公式计算相关概率分布p_i：

其中D是预设的上下文记忆模块的窗口尺寸。

4.根据权利要求1-3中任一项所述的问答方法，其特征在于，所述问答方法还包括：

在多层结构的记忆网络模型的信息传递过程中，使用线性门控单元对每一层的传递信息进行降低梯度色散的处理。

5.根据权利要求4所述的问答方法，其特征在于，所述线性门控单元根据以下公式对每一层的传递信息进行处理：

其中，W、V、b、c是记忆网络模型训练过程中学习到的参数，是矩阵点积，o^k是第k层的输出，u^k是第k层的提问句子。

6.一种基于局部注意力机制记忆网络的问答系统，其特征在于，包括：

位置信息生成单元，用于根据提问句子和上下文记忆模块信息生成位置信息；

相关概率分布计算单元，用于根据生成的位置信息，计算提问句子和上下文记忆模块信息之间的相关概率分布；

预测单元，用于根据计算出的相关概率分布得到预测答案。

7.根据权利要求6所述的问答系统，其特征在于，所述问答系统还包括：

线性门控单元，用于在多层结构的记忆网络模型的信息传递过程中，对每一层的传递信息进行降低梯度色散的处理。