[发明专利]一种问答模型训练方法、问题语句处理方法、装置及存储介质有效
申请号: | 201910512122.1 | 申请日: | 2019-06-13 |
公开(公告)号: | CN110222164B | 公开(公告)日: | 2022-11-29 |
发明(设计)人: | 高俊;闭玮;刘晓江;史树明 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06N3/04 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 王花丽;张颖玲 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 问答 模型 训练 方法 问题 语句 处理 装置 存储 介质 | ||
1.一种问答模型训练方法,其特征在于,所述方法包括:
通过问答模型的隐变量生成网络,确定与问题语句所对应的词语级的隐变量;
通过所述问答模型的答复语句生成网络对所述词语级的隐变量进行解码处理,生成与所述词语级的隐变量相同数量的答复词语;
根据与所述词语级的隐变量相同数量的答复词语,生成与所述词语级的隐变量相对应的答复语句;
通过所生成的答复语句所对应的精确率和召回率的调和平均数,更新所述隐变量生成网络的参数;
通过损失值最小的所述答复语句的正确数据标注,更新所述答复语句生成网络的参数。
2.根据权利要求1所述的方法,其特征在于,
所述通过所生成的答复语句所对应的精确率和召回率的调和平均数,更新所述隐变量生成网络的参数,更新所述隐变量生成网络的参数,包括:
根据所生成的每一个所述答复语句的精确率和召回率的调和平均数,确定所有的答复语句对应的调和平均数的加和;
将所述调和平均数的加和确定为与所述隐变量生成网络相对应的奖励函数,并通过所述奖励函数更新所述隐变量生成网络的参数。
3.根据权利要求1所述的方法,其特征在于,
所述通过损失值最小的所述答复语句的正确数据标注,更新所述答复语句生成网络的参数,包括:
根据每一个所述答复语句的精确率和召回率的调和平均数,确定与所述词语级的隐变量相对应的答复语句的准确性;
根据与所述词语级的隐变量相对应的答复语句的准确性,确定损失值最小的所述答复语句的正确数据标注;
通过所述损失值最小的所述答复语句的正确数据标注,更新所述答复语句生成网络的参数。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述问题语句,初始化所述隐变量生成网络,以实现更新所述隐变量生成网络的参数;
根据所述问题语句,初始化所述答复语句生成网络以更新所述答复语句生成网络的参数。
5.根据权利要求4所述的方法,其特征在于,
所述根据所述问题语句,初始化所述隐变量生成网络,以实现更新所述隐变量生成网络的参数,包括:
通过所述隐变量生成网络的编码器对所述问题语句进行编码,形成所述问题语句的编码结果;
通过对所述问题语句的编码结果进行全连接处理和归一化指数处理,确定能够形成与所述问题语句所对应的词语级的隐变量时的所述隐变量生成网络的参数。
6.根据权利要求4所述的方法,其特征在于,
所述根据所述问题语句,初始化所述答复语句生成网络以更新所述答复语句生成网络的参数,包括:
通过所述答复语句生成网络的编码器对所述问题语句进行编码,形成所述问题语句的编码结果;
通过所述答复语句生成网络的解码器,对所述问题语句的编码结果进行解码;
当解码得到与所述问题语句相对应的答复词语的被选取概率时,确定所述答复语句生成网络的参数。
7.一种问答模型的问题语句处理方法,其特征在于,所述方法包括:
通过问答模型的隐变量生成网络,确定与目标问题语句所对应的至少一个词语级的隐变量;
通过所述问答模型的答复语句生成网络,根据所述至少一个词语级的隐变量,生成与所述词语级的隐变量相对应的答复词语以及所述答复词语的被选取概率;
根据所述答复词语的被选取概率,选取至少一个答复词语组成与所述目标问题语句相对应的答复语句;
输出所述答复语句;
其中,所述问答模型基于如权利要求1至6任一项所述的方法训练得到。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910512122.1/1.html,转载请声明来源钻瓜专利网。