[发明专利]一种基于深度学习网络的意图识别方法有效
申请号: | 201910724662.6 | 申请日: | 2019-08-07 |
公开(公告)号: | CN110232439B | 公开(公告)日: | 2019-12-24 |
发明(设计)人: | 司马华鹏;姚奥 | 申请(专利权)人: | 南京硅基智能科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06K9/62 |
代理公司: | 32319 江苏舜点律师事务所 | 代理人: | 孙丹 |
地址: | 210012 江苏省*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 意图识别 拼音序列 字序列 学习 网络训练 语言模型 数据集 准确率 网络 技术方案要点 参数矩阵 人工标注 网络编码 智能识别 编码层 初始化 加权 标签 迁移 转换 更新 | ||
本发明涉及智能识别领域,公开了一种基于深度学习网络的意图识别方法,解决了意图识别准确率不高的技术问题,其技术方案要点是将第一深度学习网络的特征迁移到第二深度学习网络中,主要在于将金融领域的数据集转为字序列WS和相应的拼音序列PS,同时对金融领域内的某一领域的数据集进行人工标注,并将其转换为字序列WD、拼音序列PD和标签。将字序列WS和拼音序列PS投入第一深度学习网络训练得到语言模型,将该语言模型的编码层参数矩阵初始化和更新,再将字序列WD和拼音序列PD投入到第二深度学习网络编码后,加权投入到第二深度学习网络训练意图识别模型,该意图识别模型进行意图识别的准确率较高。
技术领域
本公开涉及智能识别领域,尤其涉及一种基于深度学习网络的意图识别方法。
背景技术
在人机对话领域,意图识别是最为核心的技术之一,对于自然语义的理解是人机对话能够实现的前提之一。目前意图识别的基本方法包括基于词典以及模板的规则方法、基于查询点击日志和基于分类模型来对用户的意图进行判别等,业界一致认为意图识别的最大难点在于标注数据的获取,因而对于字序列和拼音序列这样数据量庞大的研究方法鲜少进行,通过字和拼音的特征向量来训练的识别模型几乎处于空白状态。
发明内容
本公开的目的是提供一种基于深度学习网络的意图识别方法,达到通过字和拼音的特征向量训练识别模型进而进行意图识别的目的。
本公开的上述技术目的是通过以下技术方案得以实现的:
一种基于深度网络学习的意图识别方法,包括:
获取金融领域的历史语音数据并将其转换为文本信息S1,同时从公开数据源获取文本信息S2,所述S1和所述S2组合得到数据集S;
获取所述金融领域内的一个领域的历史语音数据并将其转换为文本,得到数据集D;
对所述D进行人工标注,进行意图类别分类得到D',将所述D'转换成字序列WD、拼音序列PD和标签;
将所述数据集S转换成字序列WS和拼音序列PS,并投入到第一深度学习网络训练语言模型LM;
获取所述语言模型LM的字编码层参数矩阵W和拼音编码层参数矩阵U,将所述字编码层参数矩阵W与所述拼音编码层参数矩阵U投入到第二深度学习网络后初始化编码层得到参数矩阵W1、W2和U1、 U2;
所述第二深度学习网络包括编码层和卷积层;
使用所述D'训练所述第二深度学习网络,跟随所述D'的每次训练所述W1和所述U1更新为参数矩阵W1'和U1',所述W2和U2保持不变;
将所述字序列WD、拼音序列PD和标签输入到所述第二深度学习网络,通过所述编码层的参数矩阵W1'、U1'、W2和U2对所述字序列 WD和拼音序列PD进行编码,将编码后的所述字序列WD和拼音序列 PD加权输入到所述第二深度学习网络的卷积层,训练得到意图识别模型;
使用所述意图识别模型进行意图识别。
进一步地,通过所述编码层的参数矩阵W1'、U1'、W2对所述字序列WD和拼音序列PD进行编码,将编码后的所述字序列WD和拼音序列PD加权输入到所述第二深度学习网络的卷积层,训练得到意图识别模型。
进一步地,通过所述编码层的参数矩阵W1'、U1'和U2对所述字序列WD和拼音序列PD进行编码,将编码后的所述字序列WD和拼音序列PD加权输入到所述第二深度学习网络的卷积层,训练得到意图识别模型。
进一步地,通过所述编码层的参数矩阵W1'、W2和U2对所述字序列WD和拼音序列PD进行编码,将编码后的所述字序列WD和拼音序列PD加权输入到所述第二深度学习网络的卷积层,训练得到意图识别模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京硅基智能科技有限公司,未经南京硅基智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910724662.6/2.html,转载请声明来源钻瓜专利网。