[发明专利]对会话中的消息进行上下文补全在审
申请号: | 201910863956.7 | 申请日: | 2019-09-12 |
公开(公告)号: | CN112487155A | 公开(公告)日: | 2021-03-12 |
发明(设计)人: | 林萍萍;宋睿华;丁磊;刘越;曾敏 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;H04L12/58 |
代理公司: | 永新专利商标代理有限公司 72002 | 代理人: | 张立达 |
地址: | 美国华*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 会话 中的 消息 进行 上下文 | ||
1.一种用于对会话中的消息进行上下文补全的方法,包括:
获得消息;
检测所述消息中存在上下文省略;
确定所述消息是否保持在所述会话的当前域中;
响应于确定所述消息保持在所述当前域中,在所述当前域中选择用于恢复所述上下文省略的补充文本;以及
基于所述消息和所述补充文本来生成补全消息。
2.如权利要求1所述的方法,其中,所述检测所述消息中存在上下文省略包括:
从所述消息中提取话题和/或谓词;以及
基于所述提取的结果来确定所述消息中存在话题省略或者谓词省略。
3.如权利要求2所述的方法,还包括:
将所提取的话题和/或谓词分别添加到所述当前域的域话题流和/或域谓词流中。
4.如权利要求2所述的方法,还包括:
确定与所提取的话题和/或谓词相关联的会话级别信息;以及
将所述会话级别信息分别添加到所述当前域的域话题流和/或域谓词流中。
5.如权利要求2所述的方法,其中,
所述提取是至少基于预先建立的知识图谱来执行的。
6.如权利要求2所述的方法,其中,所述确定所述消息是否保持在所述会话的当前域中包括:
响应于确定所述消息中存在话题省略,通过域保持分类器来确定所述消息是否保持在所述当前域中。
7.如权利要求6所述的方法,其中,
所述域保持分类器是基于循环神经网络(RNN)模型的,并且
所述域保持分类器是通过知识蒸馏、从基于来自变换器的双向编码器表征(BERT)模型的分类器来获得的。
8.如权利要求2所述的方法,其中,所述确定所述消息是否保持在所述会话的当前域中包括:
响应于确定所述消息中存在谓词省略,基于所述消息中包括的话题来确定所述消息是否保持在所述当前域中。
9.如权利要求3所述的方法,其中,所述选择补充文本包括:
响应于确定所述消息中存在话题省略,从所述域话题流中选择所述补充文本;或者
响应于确定所述消息中存在谓词省略,从所述域谓词流中选择所述补充文本。
10.如权利要求3所述的方法,其中,所述选择补充文本包括:
通过基于卷积神经网络(CNN)的排序和基于回归的排序中的至少一个,从所述域话题流和/或域谓词流中的多个候选文本中选择所述补充文本。
11.如权利要求10所述的方法,其中,
所述基于CNN的排序是根据候选文本的以下信息中的至少之一来执行的:
所述候选文本与所述消息之间的文本相似度,
所述候选文本与所述消息之间的点互信息(PMI),
所述候选文本与所述消息的近义表示之间的PMI,以及
所述候选文本的近义表示与所述消息之间的PMI;并且
所述基于回归的排序是根据候选文本的以下特征中的至少之一来执行的:
已经在所述会话中出现所述候选文本的频率,
所述候选文本是否出现在上一个消息中,
所述候选文本是否出现在上一个响应中,
在所述会话中,在上次出现所述候选文本之后所经过的轮次,
所述候选文本与所述消息之间的PMI,以及
所述候选文本与所述消息之间的文本相似度。
12.如权利要求1所述的方法,其中,所述生成补全消息包括:
通过将所述补充文本放在所述消息的不同位置,生成至少一个候选补全消息;以及
利用语言模型,从所述至少一个候选补全消息中选择所述补全消息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910863956.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种用户ID数据关联方法及装置
- 下一篇:一种智能设备及其进行应用搜索的方法