[发明专利]一种候选回答语句生成和自然语言选择方法及系统有效
申请号: | 201911017584.2 | 申请日: | 2019-10-24 |
公开(公告)号: | CN110727768B | 公开(公告)日: | 2022-10-11 |
发明(设计)人: | 李亮;杨士杰;王树徽;黄庆明 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06N3/04;G06N3/08 |
代理公司: | 北京泛华伟业知识产权代理有限公司 11280 | 代理人: | 王勇 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 候选 回答 语句 生成 自然语言 选择 方法 系统 | ||
本发明涉及一种基于SARN的候选回答语句生成和自然语言选择方法及系统,所述SARN模型包括编码网络和解码网络,所述生成方法包括:利用所述编码网络获得输入语句特征;基于所述输入语句特征,利用所述解码网络获得对应的候选回答语句;其中,所述解码网络采用了随机隐变量因子针对所述候选回答语句的多样性进行建模。
技术领域
本发明涉及计算机和人工智能领域,特别涉及一种基于SARN的候选回答语句生成和自然语言选择方法及系统。
背景技术
随着人工智能技术领域的不断发展,利用自然语言实现智能化和个性化的人机交互一直都是最具有挑战性的研究课题之一。基于自然语言的人机交互技术有着广泛的应用场景,例如用机器替代人工,解放人力资源,智能客服,私人助手,情感陪护等等。
现有技术中已出现了多种智能交互产品,例如微软小冰,苹果Siri,阿里巴巴智能客服等。根据应用场景,一般可将自然语言人机交互系统分为面向特定任务的系统和开放式的系统。其中,面向特定任务的系统目的是帮助用户完成特定的任务,例如商品导购,客服等。这类系统普遍采用了人工设计的框架流程,能够根据对用户行为状态的判定,从数据库中检索出特定的自然语言语句以实现人机交互,这类系统普遍存在的问题是,其设计特定的框架的流程不仅耗时耗力且缺乏通用性,不能迁移到其它应用场景;相对的,开放式的人机交互系统的目标是实现开放域的人机交互,其交互的内容不限定于特定任务,例如情感陪护机器人。虽然开放式交互系统中包含复杂规则的模型建立完全由数据驱动完成,无需手工设计系统中复杂的框架流程,但现有的人机交互模型仍然无法满足日益提升的用户需求。
因此,需要一种能够应用广泛、用户体验性好的候选回答语句生成和自然语言选择方法及系统。
发明内容
本发明提供一种基于SARN模型的候选回答语句生成方法,所述SARN模型包括编码网络和解码网络,所述生成方法包括:
利用所述编码网络获得输入语句特征;
基于所述输入语句特征,利用所述解码网络获得对应的候选回答语句;
其中,所述解码网络采用了随机隐变量因子针对所述候选回答语句的多样性进行建模。
优选的,所述解码网络包括宏观语义层和微观词汇层;其中,所述宏观语义层对应的所述随机隐变量因子是用于表征和决策所述候选回答语句宏观特性的宏观语义隐变量因子;所述微观词汇层对应的所述随机隐变量因子是用于表征和决策所述输入语句词汇注意力的微观词汇隐变量因子。
优选的,基于所述输入语句特征,利用所述解码网络获得对应的候选回答语句进一步包括:
在宏观语义层,计算所述宏观语义隐变量因子的高斯分布参数,并执行随机采样,将获得的结果输入至所述微观语义层。
优选的,基于所述输入语句特征,利用所述解码网络获得对应的候选回答语句进一步包括:
在微观语义层,基于注意力机制,重复执行针对所述微观词汇隐变量因子的计算,直到获得一条完整的所述候选回答语句;其中,每执行一次针对所述微观词汇隐变量因子的计算,可获得所述候选回答语句中的一个词汇。
优选的,执行针对所述微观词汇隐变量因子的计算进一步包括:
计算所述微观词汇隐变量因子的高斯分布参数,并执行随机采样;
根据所述输入语句特征,基于注意力机制,计算对应于所述输入语句中的词汇的注意力隐含状态参数;
根据概率分布,利用所述微观词汇隐变量因子的随机采样结果和所述注意力隐含状态参数,计算所述候选回答语句中词汇对应的分布向量;
根据所述分布向量,从预定义词库中选择概率值最大的词汇作为当前轮次的输出词汇。
优选的,所述条件概率分布可利用下述公式实现:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911017584.2/2.html,转载请声明来源钻瓜专利网。