[发明专利]对话生成方法和装置有效
| 申请号: | 201811625078.7 | 申请日: | 2018-12-28 |
| 公开(公告)号: | CN109918484B | 公开(公告)日: | 2020-12-15 |
| 发明(设计)人: | 窦志成;朱余韬;文继荣 | 申请(专利权)人: | 中国人民大学 |
| 主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06N3/04;G06N3/08 |
| 代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 张子青;刘芳 |
| 地址: | 100872 北京市海淀*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 对话 生成 方法 装置 | ||
1.一种对话生成方法,其特征在于,包括:
对用户输入语句进行检索处理以获得检索结果集和评分集;其中,所述检索结果集包括第一检索结果,所述评分集包括第一评分,所述第一检索结果对应一个所述第一评分;
根据所述第一检索结果和所述第一评分确定第一检索结果权重;
根据所述第一检索结果和所述第一检索结果权重确定附加上下文向量;
对所述附加上下文向量和第一上下文向量进行拼接处理,以得到第二上下文向量,其中,通过对所述用户输入语句进行编码后获得所述第一上下文向量;
对所述第二上下文向量进行解码处理,以得到所述用户输入语句对应的回复语句;
其中,所述根据所述第一检索结果和所述第一评分获得第一检索结果权重,具体包括:
对所述第一检索结果利用循环神经网络进行编码,以得到编码后的第一检索结果;
对所述编码后的第一检索结果进行学习训练得到训练评分;
根据所述训练评分、第一评分以及参照系数获得第一检索结果权重,其中,所述参照系数用于表示所述训练评分对所述第一检索结果权重的影响度。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一检索结果和所述第一检索结果权重获得附加上下文向量,具体包括:
对所述第一检索结果以及所述第一检索结果权重进行加权处理获得所述附加上下文向量。
3.根据权利要求1所述的方法,其特征在于,所述对所述附加上下文向量和第一上下文向量进入拼接处理,得到第二上下文向量,具体包括:
将附加上下文向量中元素增加至所述第一上下文向量中,以得到所述第二上下文向量,以使所述第二上下文向量的长度为所述第一上下文向量的长度与所述附加上下文向量的长度之和。
4.根据权利要求1所述的方法,其特征在于,所述对所述编码后的第一检索结果进行学习训练得到训练评分,具体包括:
根据如下公式得到训练评分:
o′k,t=f(Wβ[st-1;rk,t])
其中,o′k,t表示解码时刻t训练评分,Wβ表示随机矩阵,st-1表示对解码时刻t-1的隐含层变量,rk,t表示在解码时刻t第k个检索结果的向量表示。
5.根据权利要求1所述的方法,其特征在于,根据所述训练评分、第一评分以及参照系数获得第一检索结果权重,具体包括:
根据如下公式获得第一检索结果权重:
βk,t=zk,t·sck,t+(1-zk,t)·o′k,t
其中,βk,t表示解码时刻t第k个检索结果权重,sck,t表示解码时刻t第k个检索结果的评分,zk,t表示解码时刻t第k个检索结果对应的参照系数,o′k,t表示解码时刻t第k个检索结果的训练评分。
6.根据权利要求2所述的方法,其特征在于,所述对所述第一检索结果以所述第一检索结果权重进行加权处理获得附加上下文向量,具体包括:
根据如下公式获得附加上下文向量:
其中,ns表示检索结果集中第一检索结果的数量,表示解码时刻t附加上下文向量,βk,t表示解码时刻t第k个检索结果权重,rk,t表示在解码时刻t第k个检索结果的向量表示。
7.根据权利要求1所述的方法,其特征在于,所述对所述第二上下文向量进行解码处理,得到所述用户输入语句对应的回复语句,具体包括:
对所述第二上下文向量利用循环神经网络进行解码处理,以得到所述用户输入语句对应的所述回复语句;
其中,所述第一上下文向量通过对所述用户输入语句利用循环神经网络进行编码后获得。
8.一种对话生成装置,其特征在于,包括:
检索模块,用于对用户输入语句进行检索处理获得检索结果集和评分集;其中,所述检索结果集包括第一检索结果,所述评分集包括第一评分,所述第一检索结果对应一个所述第一评分;
获得模块,用于根据所述第一检索结果和所述第一评分获得第一检索结果权重;
所述获得模块还用于对所述第一检索结果和所述第一检索结果权重获得附加上下文向量;
拼接模块,用于对所述附加上下文向量和第一上下文向量进入拼接处理,得到第二上下文向量,其中,所述第一上下文向量通过对所述用户输入语句进行编码后获得;
解码模块,用于对所述第二上下文向量进行解码处理,得到所述用户输入语句对应的回复语句;
所述检索模块具体用于:
对所述第一检索结果利用循环神经网络进行编码,得到编码后的第一检索结果;
对所述编码后的第一检索结果进行学习训练得到训练评分;
对所述训练评分、第一评分以及参照系数获得第一检索结果权重,其中,所述参照系数用于表示训练评分对所述第一检索结果权重的影响度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民大学,未经中国人民大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811625078.7/1.html,转载请声明来源钻瓜专利网。





