[发明专利]一种基于卷积神经网络的文档自动问答系统的构建方法

摘要

一种基于卷积神经网络的文档自动问答系统的构建方法，包括以下步骤：步骤1，构建主题文档库；步骤2，构造词向量模型；步骤3，主题匹配；步骤4，构造词向量矩阵；步骤5，基于卷积神经网络的语义模型进行语义匹配；所述卷积神经网络的语义模型分为三层；第一层为卷积神经网络层；第二层为注意力层；第三层为全连接层；步骤6，答案选择过程，选择出匹配答案。本发明的方法无需手工构建同义词词典，节省了大量的人力和时间成本，能够在模型的训练过程中有目的性的对词语上下文的语义进行采样，在网络中加入注意力机制，提升某些具有代表性的词语对整个句子语义的贡献度。

主权项

1.一种基于卷积神经网络的文档自动问答系统的构建方法，其特征在于，包括以下步骤：步骤1，构建主题文档库；根据不同的应用场景来建立主题文档库，所述主题文档库中包括k个主题文档，针对k类问题；每个主题文档对应一个问题类型，是一个问题类型的备选答案集合；步骤2，构造词向量模型；获取语料，利用word2vec工具对语料进行训练，得到词向量模型，一个单词对应所述词向量模型中的一个词向量，L为词向量的维度，所述词向量可以表示单词之间在多维空间中的距离，所述词向量模型能够准确的表现单词之间的语义相似度；步骤3，主题匹配；接收用户提出的第一问题，根据步骤1中构建的主题文档库，对所述第一问题进行分类，找出所述第一问题对应的第一主题文档，所述第一主题文档中有n1个备选答案；步骤4，构造词向量矩阵；将第一问题划分为m个单词，根据步骤2中的词向量模型，构造第一问题矩阵A；根据步骤3中的主题匹配得到的第一主题文档，将第一主题文档中的备选答案划分为m个单词，根据步骤2中的词向量模型，构造n1个第一答案矩阵Q，每个备选答案对应一个第一答案矩阵；构造n1个词向量矩阵M，其中M＝＜A，Q＞；步骤5，基于卷积神经网络的语义模型进行语义匹配；所述卷积神经网络的语义模型分为三层；第一层为卷积神经网络层，所述卷积神经网络层的输入为词向量矩阵M，所述卷积神经网络层的卷积核的宽度为所述词向量的维度，所述卷积核的数量为n2；将词向量矩阵M输入到卷积神经网络层，得到n2维的问题特征向量和n2维的答案特征向量；取n3种高度的卷积核，得到n3个问题特征向量和答案特征向量；将n3个问题特征向量组合成问题特征矩阵，将n3个答案特征向量组合成答案特征矩阵；第二层为注意力层，所述注意力层用于对所述问题特征向量和答案特征向量进行加权；所述注意力层的输入为问题特征矩阵和答案特征矩阵，输出为问题句向量和答案句向量；第三层为全连接层，所述全连接层用于计算问题句向量和答案句向量之间的语义匹配度，所述语义匹配度用语义匹配度分数值来表示；步骤6，答案选择过程；根据步骤5，根据n1个词向量矩阵M，计算出n1个语义匹配度分数值，根据所述语义匹配度分数值选择出匹配答案。