[发明专利]即时通讯过程中的对话消息处理方法、装置及设备有效
申请号: | 201910521706.5 | 申请日: | 2019-06-17 |
公开(公告)号: | CN110413744B | 公开(公告)日: | 2023-06-23 |
发明(设计)人: | 杨明晖 | 申请(专利权)人: | 创新先进技术有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/35;G06N3/0442;G06N3/045;H04L51/04;H04L51/216 |
代理公司: | 北京亿腾知识产权代理事务所(普通合伙) 11309 | 代理人: | 张明;周良玉 |
地址: | 开曼群岛大开曼岛*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 即时通讯 过程 中的 对话 消息 处理 方法 装置 设备 | ||
1.一种即时通讯过程中的对话消息处理方法,包括:
接收用户在第一会话中输入的第一对话消息;
获取所述第一会话中的多条历史对话消息;
将所述第一对话消息以及所述多条历史对话消息输入对话解析模型,以预测所述第一对话消息的消息类型以及所述第一对话消息与各条历史对话消息之间的关联度;
当所述消息类型为回复类型时,基于所述关联度,从所述多条历史对话消息中选取出所述第一对话消息的关联消息;
将所述第一对话消息与所述关联消息进行关联存储;
所述对话解析模型包括底层网络部分和上层网络部分,所述上层网络部分包括第一上层部分和第二上层部分;
所述消息类型通过所述底层网络部分和所述第一上层部分预测;所述关联度通过所述底层网络部分和所述第二上层部分预测。
2.根据权利要求1所述的方法,所述底层网络部分包括Embedding层和深度学习网络层;所述第一上层部分包括Softmax层,所述第二上层部分至少包括全连接层。
3.根据权利要求2所述的方法,所述深度学习网络包括以下任一种:双向长短期记忆网络BiLSTM以及LSTM-CRF。
4.根据权利要求1所述的方法,其中,所述对话解析模型通过以下步骤训练得到:
收集第一样本集;所述第一样本集中的样本包括样本对话消息以及第一标签值;所述第一标签值指示所述样本对话消息的消息类型;所述消息类型至少包括提问类型和回复类型;
收集第二样本集;所述第二样本集包括第一样本消息、第二样本消息以及第二标签值,所述第一样本消息为回复类型的消息;所述第二样本消息为提问类型的消息;所述第二标签值指示所述第二样本消息与所述第一样本消息的关联度;
使用所述第一样本集以及所述第二样本集,交替训练所述对话解析模型。
5.根据权利要求4所述的方法,
所述使用所述第一样本集以及所述第二样本集,交替训练所述对话解析模型,包括:
使用所述第一样本集,训练所述底层网络部分和所述第一上层部分;
使用所述第二样本集,训练所述底层网络部分和所述第二上层部分。
6.根据权利要求4所述的方法,
当所述第二样本消息基于所述第一样本消息引用过的消息确定时,所述关联度为指示所述第二标签值为正例标签的第一数值;
当所述第二样本消息基于所述第一样本消息未引用过的消息确定时,所述关联度为指示所述第二标签值为负例标签的第二数值。
7.根据权利要求1所述的方法,所述关联度包括以下任一种:余弦相似度、欧式距离以及曼哈顿距离。
8.一种即时通讯过程中的对话消息处理装置,包括:
接收单元,用于接收用户在第一会话中输入的第一对话消息;
获取单元,用于获取所述第一会话中的多条历史对话消息;
输入单元,用于将所述接收单元接收的所述第一对话消息以及所述获取单元获取的所述多条历史对话消息输入对话解析模型,以预测所述第一对话消息的消息类型以及所述第一对话消息与各条历史对话消息之间的关联度;
选取单元,用于当所述消息类型为回复类型时,基于所述关联度,从所述多条历史对话消息中选取出所述第一对话消息的关联消息;
存储单元,用于将所述接收单元接收的所述第一对话消息与所述选取单元选取的所述关联消息进行关联存储;
所述对话解析模型包括底层网络部分和上层网络部分,所述上层网络部分包括第一上层部分和第二上层部分;
所述消息类型通过所述底层网络部分和所述第一上层部分预测;所述关联度通过所述底层网络部分和所述第二上层部分预测。
9.根据权利要求8所述的装置,所述底层网络部分包括Embedding层和深度学习网络层;所述第一上层部分包括Softmax层,所述第二上层部分至少包括全连接层。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于创新先进技术有限公司,未经创新先进技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910521706.5/1.html,转载请声明来源钻瓜专利网。