[发明专利]意图识别方法、装置、计算机设备及存储介质在审
申请号: | 202110585565.0 | 申请日: | 2021-05-27 |
公开(公告)号: | CN113157900A | 公开(公告)日: | 2021-07-23 |
发明(设计)人: | 赵知纬 | 申请(专利权)人: | 中国平安人寿保险股份有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F16/35;G06F40/30 |
代理公司: | 深圳国新南方知识产权代理有限公司 44374 | 代理人: | 周雷 |
地址: | 518000 广东省深圳市福田区益田路5033号*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 意图 识别 方法 装置 计算机 设备 存储 介质 | ||
1.一种意图识别方法,其特征在于,包括:
获取意图识别模型;其中,所述意图识别模型包括第一transformer网络、第二transformer网络、分别连接所述第一transformer网络和所述第二transformer网络的融合特征层以及连接所述融合特征层的分类器;
根据预设滑动窗口,从对话场景中提取目标对话集;其中,所述目标对话集包括目标对话以及在所述目标对话前,且在所述预设滑动窗口内的历史对话;
采用所述第一transformer网络对所述目标对话进行特征提取,得到所述目标对话对应的目标语义特征;
获取所述目标对话集对应的目标语义特征集;其中,所述目标语义特征集包括历史对话对应的历史语义特征以及所述目标语义特征;
采用所述第二transformer网络对所述目标语义特征集进行特征提取,得到上下文语义特征;
采用所述融合特征层对所述目标语义特征以及所述上下文语义特征进行特征融合,得到待分类特征;
采用所述分类器对所述待分类特征进行意图分类,得到意图识别结果。
2.如权利要求1所述意图识别方法,其特征在于,所述第一transformer网络包括第一自注意力模块;所述采用所述第一transformer网络对所述目标对话进行特征提取,得到所述目标对话对应的目标语义特征,包括;
将所述目标对话与一预设标识符进行拼接,得到第一拼接字符串;
对所述第一拼接字符串中每一字符进行向量转化,得到第一初始向量;
采用所述第一自注意力模块对所述第一初始向量进行处理,得到所述第一自注意力模块输出的第一中间向量;
对所述第一中间向量进行线性加权以及归一化处理,得到第一目标向量;
将所述第一目标向量中所述预设标识符对应的行向量作为所述目标语义特征。
3.如权利要求1所述意图识别方法,其特征在于,所述第二transformer网络包括第二自注意力模块;所述采用所述第二transformer网络对所述目标语义特征集进行特征提取,得到上下文语义特征,包括;
将所述目标语义特征集与所述预设标识符对应的标识向量进行拼接,得到拼接向量;
采用所述第二自注意力模块对所述拼接向量进行处理,得到所述第二自注意力模块输出的注意力向量;
对所述注意力向量进行线性加权以及归一化处理,得到归一化向量;
将所述归一化向量中,与所述预设标识符对应的行向量作为所述目标语义特征集对应的上下文语义特征。
4.如权利要求2所述意图识别方法,其特征在于,所述获取所述目标对话集对应的目标语义特征集,包括:
基于预存储的每轮历史对话对应的历史语义特征以及所述目标对话对应的目标语义特征,得到所述目标语义特征集。
5.如权利要求3所述意图识别方法,其特征在于,所述获取所述目标对话集对应的目标语义特征集,包括:
遍历所述目标对话集,将目标对话集中的每轮对话与所述预设标识符进行拼接,得到每轮对话对应的第二拼接字符串;
将所述第二拼接字符串中每一字符进行向量转化,得到第二初始向量;
采用所述第二自注意力模块对所述第二初始向量进行处理,得到第二中间向量;
对所述第二中间向量进行线性加权以及归一化处理,得到第二目标向量;
将所述第二目标向量中所述预设标识符对应的行向量作为所述目标对话集中每轮对话对应的单轮语义特征;
将多个所述单轮语义特征作为目标语义特征集。
6.如权利要求2所述意图识别方法,其特征在于,所述采用所述第一自注意力模块对所述第一初始向量进行处理,得到所述第一自注意力模块输出的第一中间向量,包括:
对所述第一初始向量进行线性变换,得到多个变换矩阵;其中,所述多个变换矩阵包括查询矩阵、键矩阵以及值矩阵;
基于所述查询矩阵和键矩阵,计算自注意力权重矩阵;
对所述自注意力权重矩阵和所述值矩阵的转置矩阵进行矩阵相乘处理,得到所述第一自注意力模块输出的第一中间向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110585565.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种用于单洞双向隧道的智能反光环
- 下一篇:一种出水装置