[发明专利]问询信息分类方法、模型训练方法、装置和电子设备在审
申请号: | 202011553959.X | 申请日: | 2020-12-24 |
公开(公告)号: | CN112597289A | 公开(公告)日: | 2021-04-02 |
发明(设计)人: | 薛睿蓉 | 申请(专利权)人: | 北京明略软件系统有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/35;G06F40/35;G06N3/08;G06N3/04 |
代理公司: | 北京华夏泰和知识产权代理有限公司 11662 | 代理人: | 蔡良伟;沈园园 |
地址: | 100084 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 问询 信息 分类 方法 模型 训练 装置 电子设备 | ||
本申请提供了一种问询信息分类方法、模型训练方法、装置和电子设备,其中,该方法包括:获取问询信息;基于所述语义提取模型层提取所述问询信息的语义向量以及所述问询信息中每个字在主题语境下的主题潜在类型向量和意图语境下的意图潜在类型向量;将所述语义向量以及所述主题潜在类型向量和和所述意图潜在类型向量输入到所述分类器层得到主题分类结果和意图分类结果。通过本申请,解决了相关技术中存在获得有效的分类特征的问题,提高了问询信息的识别准确率。
技术领域
本申请涉及深度学习领域,尤其涉及一种问询信息分类方法、模型训练方法、装置和电子设备。
背景技术
在社区运营、客户咨询等服务中,问询信息作为用户之间互动沟通的重要方式,带来了大量有价值的信息,给用户带来了诸多便利。由于用户提问所受约束较小,随意组织的问询信息会导致其他人无法准确地理解所问询的问题,不仅浪费其他人的时间,而且很难帮助到问询者,甚至会引起不适。因此,识别有效的、高质量的问询信息就显得很有价值。
目前,存在一些通过深度学习模型来对问询信息进行分类,识别问询信息中的有效信息,这些方法中的模型架构较为简单,由于用户提出的问题普遍存在句式短、语义信息稀疏或缺失,仅仅通过问询信息本身的词汇信息难以获得有效的分类特征,导致无法准确地识别有效问询信息。
因此,相关技术中存在如何更为有效的对问询信息进行分类的问题。
发明内容
本申请提供了一种问询信息分类方法、模型训练方法、装置和电子设备,以至少解决相关技术中存在如何更为有效的对问询信息进行分类的问题。
根据本申请实施例的一个方面,提供了一种问询信息分类方法,所述问询信息基于预先训练的分类模型进行分类,所述分类模型包括预先训练的语义提取模型层和预先训练的分类器模型层,所述分类方法包括:获取问询信息;基于所述语义提取模型层提取所述问询信息的语义向量以及所述问询信息中每个字在主题语境下的主题潜在类型向量和意图语境下的意图潜在类型向量;将所述语义向量以及所述主题潜在类型向量和和所述意图潜在类型向量输入到所述分类器层得到主题分类结果和意图分类结果。
可选地,所述向量提取模型层包括注意力模型和卷积网络模型;所述基于所述语义提取模型层提取所述问询信息的语义向量以及所述问询信息中每个字在主题语境下的主题潜在类型向量和意图语境下的意图潜在类型向量包括:提取所述问询信息中的所有字的语境向量,所述语境向量包括主题语境下的字向量、意图语境下的字向量和问询信息语境下的字向量;分别将所有字在主题语境下的字向量和意图语境下的字向量输入注意力模型层提取主题潜在类型向量和语义潜在类型向量;将所有字在问询信息语境下的字向量输入卷积网络模型提取所述语义向量。
可选地,所述提取所述问询信息中的所有字的语境向量包括:提取所述问询信息中的主题关键字序列和意图关键字序列;基于问询信息字序列、所述主题关键字序列和意图关键字序列分别提取问询信息字向量序列、主题关键字向量序列和意图关键字向量序列;分别将所述问询信息字向量序列、所述主题关键字向量序列和所述意图关键字向量序列分别与所述问询信息字向量序列进行拼接,得到问询信息拼接向量、主题拼接向量和意图拼接向量;基于多头注意力机制计算每个字分别在主题语境、问询信息语境和意图语境下的语境向量。
可选地,所述提取所述问询信息中的主题关键字序列和意图关键字序列包括:获取预设标签数据,所述预设标签数据包括主题标签文本数据和意图标签文本数据;基于所述预设标签数据中每个字分别在主题类别和意图类别的关键值构建主题关键字集合和意图关键字集合;将问询信息分别与所述主题关键字集合和所述意图关键字集合进行匹配提取所述主题关键字序列和所述意图关键字序列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明略软件系统有限公司,未经北京明略软件系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011553959.X/2.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置