[发明专利]一种语句意图预测方法及系统在审
申请号: | 201711378005.8 | 申请日: | 2017-12-19 |
公开(公告)号: | CN108268442A | 公开(公告)日: | 2018-07-10 |
发明(设计)人: | 沈磊;陈见耸;朱鹏程 | 申请(专利权)人: | 芋头科技(杭州)有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06N3/04;G06N3/08 |
代理公司: | 上海申新律师事务所 31272 | 代理人: | 俞涤炯 |
地址: | 310000 浙江省杭州市余杭区*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 中间向量 语句 送入 句子向量 意图预测 指令语句 分类单元 分类结果 分类模型 输出指令 用户指令 语义识别 预测 准确率 整合 抽取 标签 关联 分割 分类 转换 纠正 转化 优化 | ||
1.一种语句意图预测方法,适用于人机交互过程中;其特征在于,预先训练形成一意图预测模型,并将所述意图预测模型适用到人机交互过程中,以对用户指令进行语义的意图分类;
采用所述意图预测模型对所述用户指令进行意图分类的方法具体包括:
步骤S1,以字为单位对依据所述用户指令转换的文字形式的指令语句进行分割;
步骤S2,将分割得到的每个字分别送入对应的第一识别单元中,经过处理后分别输出每个字所对应的中间向量,随后分别执行步骤S3a和步骤S3b;
步骤S3a,将每个字所对应的所述中间向量分别送入对应的第一分类单元中,经过处理后分别输出每个字所对应的槽标签,以作为所述指令语句的槽预测结果,随后退出;
步骤S3b,根据关联于所述指令语句的所有所述中间向量转换形成关联于所述指令语句的句子向量,随后转向步骤S4;
步骤S4,将所述句子向量送入一第二识别单元中,以得到并输出所述指令语句的意图分类结果;
预先训练形成所述意图预测模型的过程中,同样执行所述步骤S1-S4,并依据预先设置的大量的训练语句训练形成;
所述意图预测模型中包括用于对所述用户指令进行预测并输出所述意图分类结果的意图分类模型,以及用于对所述用户指令进行预测并输出所述槽预测结果的槽抽取模型。
2.如权利要求1所述的语句意图预测方法,其特征在于,所述步骤S2中,所述第一识别单元根据输入的字,通过一深度神经网络处理并输出相应的所述中间向量。
3.如权利要求2所述的语句意图预测方法,其特征在于,所述深度神经网络为循环神经网络,或者门控循环单元神经网络,或者长短时记忆神经网络。
4.如权利要求1所述的语句意图预测方法,其特征在于,所述第一分类单元采用分类网络实现。
5.如权利要求1所述的语句意图预测方法,其特征在于,所述步骤S3b中,关联于所述指令语句的所有所述中间向量形成一向量矩阵;
则所述步骤S3b中,采用max-pooling层,或者mean-pooling层,或者attention层将所述向量矩阵转换成对应的所述句子向量。
6.如权利要求2所述的语句意图预测方法,其特征在于,所述步骤S3b中,关联于所述指令语句的所有所述中间向量形成一向量矩阵;
则所述步骤S3b中,获取输出的所述向量矩阵中的最后一行向量,以作为所述句子向量。
7.如权利要求1所述的语句意图预测方法,其特征在于,所述第二识别单元采用分类网络实现。
8.一种语句意图预测系统,适用于人机交互过程中;其特征在于,预先训练形成一意图预测模型,并将所述意图预测模型适用到人机交互过程中,以对用户指令进行语义的意图分类,还包括:
分割单元,用于以字为单位对依据所述用户指令转换的文字形式的指令语句进行分割;
第一识别单元,所述第一识别单元中包括多个第一识别模块,每个所述第一识别模块分别连接至所述分割单元,每个所述第一识别模块分别与分割得到的每个字一一对应,每个所述第一识别模块分别根据对应的字进行处理并输出对应字的中间向量;
转换单元,分别连接每个所述第一识别模块,用于根据所有所述第一识别单元输出的关联于所述指令语句的所有所述中间向量转换形成关联于所述指令语句的句子向量并输出;
第二识别单元,连接所述转换单元,用于根据所述句子向量得到并输出所述指令语句的意图分类结果;
多个第一分类单元,所述第一分类单元与所述第一识别模块一一对应连接,所述第一分类单元用于获取对应的所述第一识别单元输出的所述中间向量并进行处理,随后分别输出每个字的槽标签,以作为所述指令语句的槽预测结果;
采用所述语句意图预测系统,根据预先设置的大量训练语句训练得到所述意图预测模型;
所述意图预测模型中包括用于对所述用户指令进行预测并输出所述意图分类结果的意图分类模型,以及用于对所述用户指令进行预测并输出所述槽预测结果的槽抽取模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于芋头科技(杭州)有限公司,未经芋头科技(杭州)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711378005.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种未登录词识别方法
- 下一篇:确定话题点转移以及获取回复文本的方法、装置