[发明专利]语句分析处理方法、装置、设备以及计算机可读存储介质有效

专利信息
申请号: 201811464437.5 申请日: 2018-11-30
公开(公告)号: CN109597993B 公开(公告)日: 2021-11-05
发明(设计)人: 汤耀华;莫凯翔;张超;徐倩;杨强 申请(专利权)人: 深圳前海微众银行股份有限公司
主分类号: G06F40/30 分类号: G06F40/30;G06F40/289;G06F16/35;G06N3/08
代理公司: 深圳市世纪恒程知识产权代理事务所 44287 代理人: 胡海国;魏兰
地址: 518052 广东省深圳市前海深港合作区前*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 语句 分析 处理 方法 装置 设备 以及 计算机 可读 存储 介质
【说明书】:

发明公开了一种语句分析处理方法及装置、设备和存储介质,该方法包括:获取源领域大样本数据集上的预训练模型,并将预训练模型迁移学习到目标领域;在目标领域内,获取预训练模型中预设问句的各语句特征,并对各语句特征进行语义分析,以确定预设问句对应的各不同意图;获取各意图在预训练模型中的意图相似性分,并在各意图相似性分中确定最高意图相似性分;获取预训练模型中的各词槽,确定各词槽在预训练模型中的词槽相似性分,并在各词槽相似性分中确定最高词槽相似性分;获取并输出最高意图相似性分对应的最终意图和最高词槽相似性分对应的最终词槽。达到了模型迁移到新领域也能快速学习并执行口语理解任务的技术效果。

技术领域

本发明涉及迁移学习技术领域,尤其涉及一种语句分析处理方法、装置、设备以及计算机可读存储介质。

背景技术

人工智能对话机器人中的口语理解模型能够起到帮助机器人理解用户意图的关键性作用。随着人工智能对话机器人被广泛的使用,比如亚马逊的Alexa,微软的小冰机器人以及苹果的siri。机器人的口语理解能力显得尤为重要,不仅需要能够理解用户的常见需求场景,还需要不断的扩展机器人的理解能力到新的用户需求场景。对于新的用户需求场景的支持一般需要收集和标注数据,而目前采用的技术方案一般是规则匹配或者是增加训练数据。这个过程既耗时又耗钱,而且需要专业的标注团队。因此,在某个有大量数据的场景下学习了口语理解模型之后,对于新的场景领域,因为只有少量的样本或者零样本而不能快速学习并执行口语理解任务成为目前亟待解决的技术问题。

发明内容

本发明的主要目的在于提供一种语句分析处理方法、装置、设备以及计算机可读存储介质,旨在解决模型迁移到新领域后,因为只有少量的样本或者零样本而不能快速学习并执行口语理解任务的技术问题。

为实现上述目的,本发明提供一种语句分析处理方法,所述语句分析处理方法包括以下步骤:

获取源领域大样本数据集上的预训练模型,并将所述预训练模型迁移学习到目标领域;

在所述目标领域内,获取所述预训练模型中预设问句的各语句特征,并对各所述语句特征进行语义分析,以确定所述预设问句对应的各不同意图;

获取各所述意图在预训练模型中的意图相似性分,并在各所述意图相似性分中确定最高意图相似性分;

获取所述预训练模型中的各词槽,确定各所述词槽在预训练模型中的词槽相似性分,并在各所述词槽相似性分中确定最高词槽相似性分,其中,根据所述预训练模型对预设问句进行分析,以获取所述预训练模型中的各词槽;

获取所述最高意图相似性分对应的最终意图和所述最高词槽相似性分对应的最终词槽,并输出所述最终意图和所述最终词槽。

可选地,所述获取各所述意图在预训练模型中的意图相似性分,并在各所述意图相似性分中确定最高意图相似性分的步骤,包括:

获取所述预训练模型中的第一状态向量;

获取各所述意图对应的意图名语义向量,并计算各所述意图名语义向量和第一状态向量之间的意图相似性分;

对各所述意图相似性分进行比较,以获取各所述意图相似性分中的最高意图相似性分。

可选地,所述获取各所述意图对应的意图名语义向量的步骤,包括:

获取所述意图中的各语句信息,并确定各所述语句信息对应的语句语义向量;

获取各所述语句向量的平均向量值,并将所述平均向量值作为所述意图名语义向量。

可选地,所述获取所述预训练模型中的各词槽,确定各所述词槽在预训练模型中的词槽相似性分的步骤,包括:

获取所述预训练模型中的各词槽;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201811464437.5/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top