[发明专利]基于学科知识图谱和卷积神经网络的智能答疑方法

权利要求书

1.一种基于知识图谱和神经网络的智能答疑方法，其特征在于包括以下步骤：

S1.使用用户问句q中的每个汉字，检索领域本体中包含该汉字的概念，形成用户问句q指向领域本体的候选概念集合ConSet；

S2.通过候选概念集合ConSet及其与问句q基于字表面的相似度，自动识别用户问句q中的概念提及，形成用户问句q指向领域本体排名前N的候选概念集合TOP(N)，以及在问句q中相对应的概念提及集合M(N)；

S3.从概念提及集合M(N)中选择一个概念提及m，逐一检索m在TOP(N)中对应候选概念c的每一个形如t(c，r)的概念关系对，通过基于字表面的问句q与候选概念c的相似度sim(q，c)、基于标准卷积神经网络的概念提及m与候选概念c之间的相似度sim(c，m)、基于多级蕴涵卷积神经网络的问句q与语义关系r的相似度sim(q，r)，计算得出用户问句q与候选概念c的所有概念关系对的相似度；

S4.重复步骤S3，直至集合M(N)中的每个概念提及被处理完毕，并将通过步骤S3得到的与用户问句q相似度值最大的概念关系对t(c’，r’)作为答案知识源；

S5.在学科知识图谱的关系记录库中查询概念关系对t(c’，r’)，得到用户问句q的答案并呈现给用户；

其中，所述步骤S2包括如下子步骤：

2.1计算ConSet中的每一个候选概念c与用户问句q的最长连续公共子序列LCCS(c，q)：

LCCS(c，q)＝∪_i≤|c|{s(i)∈c∩q|s(i)是s(i-1)在c中的后继}

2.2通过最长连续公共子序列LCCS(c，q)，计算在ConSet中的每一个候选概念c与用户问句q的基于字表面的相似度sim(q，c)：

保留相似度排名前N的候选概念，形成用户问句q在领域本体排名前N的候选概念集合TOP(N)；

2.3对于集合TOP(N)中的每一个候选概念c与用户问句q的最长连续公共子序列LCCS(c，q)，按如下方法进行扩展，形成用户问句q的N个概念提及集合M(N)：如果LCCS(c，q)与对应的候选概念c的长度相同，则c就是用户问句q的一个概念提及；如果c比其LCCS(c，q)更长并且在左边有L₁个汉字，或c比LCCS(c，q)更长并且在右边有L₂个汉字，则在问句q中逐字扩展LCCS(c，q)左侧L₁个汉字或右侧L₂个汉字，直到在问句q中出现c的左边界字或右边界字为止，此时扩展后的LCCS(c，q)就是c在q中对应的概念提及；所述用户问句q的一个概念提及是指q中可能包含的一个提问概念；

所述步骤S3中，标准神经网络的处理过程包括：

3.1.1使用标准卷积神经网络S_CNN的输入层来统一处理文本片段，形成文本片段的输入特征矩阵，所述文本片段包括概念提及、领域本体中的候选概念，以及关系成份中的概念类型、主题与媒体类型；

3.1.2S_CNN通过卷积层从所述文本片段中提取n-grams特征，产生n-gram特征的语义向量；

3.1.2将所有的n-gram特征的语义向量通过逐行最大池化输出所述文本片段的语义向量，包括领域本体中的候选概念、概念提及、概念类型、主题与媒体类型的语义向量v_c、v_m、v_r1、v_r2与v_r3；

所述步骤3.1.1包括：S_CNN的输入层将长度为s个汉字的输入序列x转换为维度为d×s的实数特征矩阵，其中d表示每个汉字随机初始化的实数嵌入向量的维数，且所述实数特征矩阵等价于s个维度为d的向量序列：v₁，v₂，…，v_s；

所述步骤3.1.2包括：S_CNN通过一个卷积层从滑动的n-gram中进行语义向量学习，对于长度为s个汉字的输入序列x：v₁，v₂，…，v_s，令向量c_i∈R^nd表示如下n个汉字嵌入向量的联接嵌入：v_i-n+1，...，v_i，其中n为卷积滑动过滤器filter的宽度，R^nd表示维度为n*d的实数向量集合，i为n-gram在输入序列x中的结束位置，且有0＜i＜s+n，以及对于i＜1或i＞s的嵌入向量v_i使用零值填充；卷积层使用卷积权重W∈R^d×nd为n-gram的向量序列v_i-n+1，...，v_i产生一个n-gram特征的语义向量p_i∈R^d，计算公式如下：

p_i＝tanh(W·c_i+b)

其中，偏置b∈R^d，R^d表示维度为d的实数向量集合，R^d×nd表示维度为d行、n*d列的实数矩阵集合，tanh(·)为双曲正切函数；

所述步骤3.1.3包括：将所有n-gram特征的语义向量p_i，其中i＝1，...，s+n-1，通过最大池化生成输入序列x的语义向量v_x∈R^d，计算公式如下：

v_x＝{x_j∈R|j＝1，...，d}

x_j＝max{p_i(j)|i＝1，...，s+n-1}

其中，max{·}表示求最大值，p_i(j)表示p_i中的第j个元素，R表示实数集合，x_j表示所有p_i中第j个元素的最大值；

所述步骤S3中，多级蕴涵卷积神经网络MI_CNN的处理过程包括：

步骤3.2.1和步骤3.2.2分别采用与步骤3.1.1和3.1.2相同的方法处理关系成份中的概念类型、主题与媒体类型的语义特征，得到相对应的关系成份语义向量v_r1、v_r2与v_r3；

3.2.3根据语义向量v_r1、v_r2与v_r3，采用多级蕴涵卷积神经网络MI_CNN的三级池化过程，分别输出与关系成份概念类型、主题与媒体类型相对应的问句语义向量v_q1、v_a2与v_q3：

(1)设F_q∈R^d×(s+n-1)表示问句q经MI_CNN卷积层处理后生成的n-gram特征矩阵，o为问句q所要匹配的关系成份，v_o∈R^d表示经S_CNN处理得到的关系成份o的语义向量，MI_CNN的每一级池化过程首先计算F_q中每一列与v_o的余弦相似度u_i，并将其中的最大值作为问句q对关系成份o的蕴涵度，记作计算过程如下：

F_q＝{p_i∈R^d|i＝1，...，s+n-1}

p_i＝{t_ji∈R|j＝1，...，d}

u_i＝cos(v_o，p_i)

其中，t_ji为第i个n-gram特征的语义向量p_i的第j维度上的值；

(2)利用问句q对关系成份o的蕴涵度对F_q中每一列的特征值进行衰减，并将与v_o的相似度值为负的列的向量值置为0，得到衰减后的问句特征矩阵F′_q，计算过程如下：

F′_q＝{p′_i∈R^d|i＝1，...，s+n-1}

p′_i＝{t′_ji∈R|j＝1，...，d}

其中，p′_i表示衰减后的p_i向量，t′_ji表示p′_i向量的第j维度上的值；

(3)根据衰减后特征矩阵F′_q中每一行最大值的位置检索特征矩阵F_q，得到F_q每一行的池化结果，并最终得到每一级池化后问句q的语义向量v_q∈R^d，计算过程如下：

v_q＝{q_j∈R|j＝1，...，d}

q_j＝p_k′(j)

k＝arg max{p_k(j)|k＝1，...，s+n-1}

其中，arg max{p′_k(j)|k＝1，...，s+n-1}表示求使得p′_k(j)为最大值的k，q_j表示v_q向量的第j个元素，p′_k(j)表示p′_k的第j个元素。