[发明专利]一种融合CNN与双向LSTM的智能问答方法及系统有效
申请号: | 201910497128.6 | 申请日: | 2019-06-10 |
公开(公告)号: | CN110222163B | 公开(公告)日: | 2022-10-04 |
发明(设计)人: | 陈羽中;张衍坤;郭昆;张毓东 | 申请(专利权)人: | 福州大学 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06N3/04 |
代理公司: | 福州元创专利商标代理有限公司 35100 | 代理人: | 陈明鑫;蔡学俊 |
地址: | 350108 福建省福州市闽*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 融合 cnn 双向 lstm 智能 问答 方法 系统 | ||
1.一种融合CNN与双向LSTM的智能问答方法,其特征在于,包括以下步骤:
步骤A:采集智能问答系统中的问题以及对应的回答记录,构建问答对训练集QA;
步骤B:采集智能问答系统中每个用户的问题回答记录,构建用户的历史回答训练集UA;
步骤C:根据问答对训练集QA和用户的历史回复训练集UA,训练融合CNN与双向LSTM的深度学习网络模型M;
步骤D:智能问答系统接受用户的提问,将提问输入到训练好的深度学习网络模型M中,输出匹配的答案;
所述步骤C具体包括以下步骤:
步骤C1:将问答对训练集QA中的每个问答对输入到卷积神经网络中,得到每个问答对的联合表征向量;
步骤C2:将得到的每个问答对的联合表征向量输入到双向LSTM网络中,得到每个问答对的上下文表征向量;
步骤C3:基于用户的历史回答训练集UA,采用多注意力机制进行学习,对用户进行建模,得到用户的表征向量;
步骤C4:根据用户置信水平分数与用户专业水平分数,得到用户问答信誉度,作为非文本表征向量;
步骤C5:将分别从步骤C2、C3、C4学习得到的上下文表征向量、用户的表征向量、非文本表征向量连接,并输入到全连接层,实现特征融合,得到最终表征向量;
步骤C6:将最终表征向量输入到深度学习网络模型M的全连接层,根据目标损失函数loss,利用反向传播方法计算深度网络中各参数的梯度,并利用随机梯度下降方法更新参数;
步骤C7:当深度学习网络模型M产生的损失值迭代变化小于设定阈值或者达到最大迭代次数,则终止神经网络模型的训练;
所述步骤C4包括以下步骤:
步骤C41:计算用户的专业水平得分,用户的专业水平得分受用户在回答问题时的积极性和参与程度的影响,计算公式如下:
其中,f(uj)为用户参与程度,问题根据所提问的领域的不同有不同的问题类型,xj是用户uj提供的答案总数,μ,ub均是基于用户的答案分布模式确定的阈值,用于奖励大多数活跃用户;g(uj)为用户最佳答案级别,expe(uj)表示用户专业化程度;
步骤C42:计算用户的置信水平con(uj),计算公式如下:
con(uj)=yj/xj
其中yj是用户uj的最佳答案数,xj是答案总数
步骤C43:根据用户置信水平得分与用户专业水平得分,计算用户的信誉分数,计算公式如下:
sj=con(uj)·expe(uj)
其中,sj表示用户uj的信誉分数,为置信水平con(uj)和用户专业水平expe(uj)的乘积。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于福州大学,未经福州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910497128.6/1.html,转载请声明来源钻瓜专利网。