[发明专利]文本生成方法、装置和电子设备在审
申请号: | 202010334292.8 | 申请日: | 2020-04-24 |
公开(公告)号: | CN111241263A | 公开(公告)日: | 2020-06-05 |
发明(设计)人: | 金春祥;刘佳;崔恒斌 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/35;G06F40/211 |
代理公司: | 北京汇思诚业知识产权代理有限公司 11444 | 代理人: | 冯伟 |
地址: | 310007 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 生成 方法 装置 电子设备 | ||
1.一种文本生成方法,包括:
获取当前对话中的对话上文和预先设定的用户意图,以及获取已生成的输出文本;
将所述对话上文、所述用户意图和所述输出文本进行拼接,获得输入文本;
对所述输入文本进行编码获得输入向量;
通过单向注意力模型对所述输入向量进行自注意力计算,获得所述输入向量对应的上下文向量;
根据所述上下文向量,获得输出文本候选集合中的每个输出文本作为下一个输出文本的概率;
根据所述概率从所述输出文本候选集合中选择下一个输出文本。
2.根据权利要求1所述的方法,其中,所述根据所述上下文向量,获得输出文本候选集合中的每个输出文本作为下一个输出文本的概率包括:
获取所述上下文向量中特定位置的上下文向量;
将所述特定位置的上下文向量转换为维度与输出文本候选集合的维度相同的向量;
对转换维度后获得的向量进行分类,获得所述输出文本候选集合中的每个输出文本作为下一个输出文本的概率。
3.根据权利要求1所述的方法,其中,所述将所述对话上文、所述用户意图和所述输出文本进行拼接,获得输入文本包括:
通过起始标识符、意图标识符和结束标识符,将所述对话上文、所述用户意图和所述输出文本进行拼接,获得输入文本。
4.根据权利要求1所述的方法,其中,所述获取预先设定的用户意图包括:
获取表示所述预先设定的用户意图的文本;或者,
根据所述预先设定的用户意图的标识,从预先建立的意图向量矩阵中,获取所述标识对应的意图向量。
5.根据权利要求1-4任意一项所述的方法,其中,所述根据所述概率从所述输出文本候选集合中选择下一个输出文本之后,还包括:
循环执行所述获取当前对话中的对话上文和预先设定的用户意图,以及获取已生成的输出文本的步骤及其后续步骤,直至下一个输出文本为结束符,或者已生成的输出文本的长度达到预定的长度,获得的所有输出文本组成对话下文;
在所述当前对话中输出所述对话下文。
6.一种文本生成装置,包括:
获取模块,用于获取当前对话中的对话上文和预先设定的用户意图,以及获取已生成的输出文本;
拼接模块,用于将所述获取模块获取的所述对话上文、所述用户意图和所述输出文本进行拼接,获得输入文本;
编码模块,用于对所述拼接模块获得的输入文本进行编码获得输入向量;
注意力计算模块,用于通过单向注意力模型对所述编码模块获得的输入向量进行自注意力计算,获得所述输入向量对应的上下文向量;
概率获得模块,用于根据所述注意力计算模块获得的上下文向量,获得输出文本候选集合中的每个输出文本作为下一个输出文本的概率;
预测模块,用于根据所述概率获得模块获得的概率从所述输出文本候选集合中选择下一个输出文本。
7.根据权利要求6所述的装置,其中,所述概率获得模块包括:
向量获取子模块,用于获取所述上下文向量中特定位置的上下文向量;
向量转换子模块,用于将所述向量获取子模块获取的特定位置的上下文向量转换为维度与输出文本候选集合的维度相同的向量;
向量分类子模块,用于对所述向量转换子模块转换维度后获得的向量进行分类,获得所述输出文本候选集合中的每个输出文本作为下一个输出文本的概率。
8.根据权利要求6所述的装置,其中,
所述拼接模块,具体用于通过起始标识符、意图标识符和结束标识符,将所述对话上文、所述用户意图和所述输出文本进行拼接,获得输入文本。
9.根据权利要求6所述的装置,其中,
所述获取模块,具体用于获取表示所述预先设定的用户意图的文本;或者,根据所述预先设定的用户意图的标识,从预先建立的意图向量矩阵中,获取所述标识对应的意图向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010334292.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于安全内存的存储优化方法及系统
- 下一篇:一种金属粉体的制备方法