[发明专利]一种基于知识增强图卷积网络的答案选择方法及系统在审
| 申请号: | 202211464352.3 | 申请日: | 2022-11-22 |
| 公开(公告)号: | CN116028604A | 公开(公告)日: | 2023-04-28 |
| 发明(设计)人: | 陈羽中;郑超凡;徐俊杰;李炜炜 | 申请(专利权)人: | 福州大学 |
| 主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/36;G06F16/35;G06F40/211;G06F40/289;G06F40/30;G06N3/0464;G06N3/048;G06N3/047;G06N3/084 |
| 代理公司: | 福州元创专利商标代理有限公司 35100 | 代理人: | 蔡学俊;薛金才 |
| 地址: | 350108 福建省福州市*** | 国省代码: | 福建;35 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 知识 增强 图卷 网络 答案 选择 方法 系统 | ||
1.一种基于知识增强图卷积网络的答案选择方法,其特征在于,包括以下步骤:
步骤A:在问答平台中收集用户的问题以及回答记录,并标注每一个问题-答案对的真实标签,以此构建训练集DS;
步骤B:使用训练数据集DS以及知识图谱ConceptNet,训练基于知识增强的图卷积神经网络的深度学习网络模型M,通过此模型来分析给定问题,相对应候选答案的正确性;
步骤C:将用户的问题输入到训练好的深度学习网络模型M中,输出匹配的答案。
2.根据权利要求1所述的一种基于知识增强图卷积网络的答案选择方法,其特征在于,所述步骤B具体包括以下步骤:
步骤B1:对训练数据集DS中的所有训练样本进行初始编码,从而得到问题、答案文本内容的初始特征Eq、Ea,问答对全局语义特征序列Ecls,问题-答案对的句法结构依赖邻接矩阵A,同时从知识图谱ConceptNet对问题、答案文本进行文本-知识匹配以及多跳知识节点扩展查询,将文本匹配的知识节点和扩展节点相连接,得到知识扩展序列,并将知识扩展序列中的每一个知识节点信息映射为连续的低维向量,最终形成问题和答案的知识扩展序列特征Cq、Ca;
步骤B2:将问题、答案文本内容的初始特征Eq、Ea进行连接,得到问题-答案的文本特征Eqa,通过对Eqa进行掩码计算,得到问题-答案边权重矩阵Ma,将Ma与句法结构依赖邻接矩阵A相乘,得到带有具有边关联权重的句法结构依赖邻接矩阵
步骤B3:将步骤B2得到的问题-答案的文本特征Eqa和具有边关联权重的句法结构依赖邻接矩阵输入到一个K层图卷积网络中,通过图节点之间句法结构依赖关系引导节点信息传播,学习到问题-答案文本原始的结构信息特征然后对问题-答案的文本特征Eqa和问题-答案文本原始的结构信息特征采用注意力的方式进行语义增强,保证节点语义信息的准确度,得到问题-答案的语义结构信息特征
步骤B4:将步骤B1得到的问题、答案文本内容的初始特征Eq、Ea和问题、答案的知识扩展序列特征Cq、Ca,输入到两个基于文本语义指导的注意力计算机制,获得问题q和答案a的语义引导知识特征然后将语义引导知识特征输入到两个多头自注意力机制中,得到自注意力知识表征将语义引导知识表征和自注意力知识特征输入到两个前馈神经网络层中,得到知识的上下文特征Hq、Ha;将知识的上下文特征Hq、Ha利用一个门控机制进行过滤融合,获得问题-答案的知识上下文特征Hqa;
步骤B5:将问题-答案的知识上下文特征Hqa和问题-答案的语义结构信息特征利用注意力计算的方式进行融合,获得知识增强的问题-答案的语义结构信息特征然后将步骤B1得到的局语义特征矩阵Ecls,输入到一个多尺寸的卷积神经网络之中,得到多粒度的全局语义特征
步骤B6:将知识增强的问题-答案的语义结构信息特征输入到一个BiGRU网络之中,并对BiGRU的隐藏状态输出的序列进行平均池化操作,得到问题-答案的聚合特征将问题-答案的聚合特征和多粒度的全局语义特征进行拼接,得到最终的问答特征Efinal;随后将Efinal输入到一个线性分类层并使用softmax函数进行归一化处理,生成问题-答案之间的相关性分数f(q,a)∈[0,1];然后根据目标损失函数loss,通过反向传播方法计算深度学习网络模型中各参数的梯度,并利用随机梯度下降方法更新各参数;
步骤B7:当深度学习网络模型每次迭代产生的损失值变化小于所给定阈值,或者达到最大迭代次数,终止深度学习网络模型的训练过程。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于福州大学,未经福州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211464352.3/1.html,转载请声明来源钻瓜专利网。





