[发明专利]用于生成文本的方法、装置、电子设备和计算机可读介质在审
申请号: | 201911212847.5 | 申请日: | 2019-12-02 |
公开(公告)号: | CN110909530A | 公开(公告)日: | 2020-03-24 |
发明(设计)人: | 苗宁;周浩;李磊 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/284 |
代理公司: | 北京卫智畅科专利代理事务所(普通合伙) 11557 | 代理人: | 陈佳 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 生成 文本 方法 装置 电子设备 计算机 可读 介质 | ||
1.一种用于生成文本的方法,包括:
生成输入单词的输入词向量;
基于所述输入词向量,生成所述输入单词的输入上下文向量,所述输入上下文向量与输入单词所在的输入文本相关联;
对于目标词汇表中的每一个目标单词,利用与该目标单词相关联的核函数,基于所述输入上下文向量和该目标单词的词向量,确定该目标单词作为与所述输入单词对应的输出单词的得分。
2.根据权利要求1所述的方法,其中,与该目标单词相关联的核函数具有用于控制该目标单词的上下文向量的变化幅度的参数。
3.根据权利要求1所述的方法,其中,所述目标词汇表中存在至少一个具有多个含义的多含义目标单词,所述多含义目标单词针对每个含义具有一个相应的核函数,其具有用于控制该含义的义向量的变化幅度的参数,使得不同含义具有不同的变化幅度。
4.根据权利要求1-3之一所述的方法,其中,所述方法还包括:
基于所确定的得分,从所述目标词汇表中选择与所述输入单词对应的输出单词,以生成与所述输入文本对应的输出文本。
5.根据权利要求4所述的方法,其中,所述输入文本为第一语言的文本,所述输出文本为第二语言的文本。
6.根据权利要求4所述的方法,其中,所述输出文本是所述输入文本的答案。
7.根据权利要求1所述的方法,所述核函数为指数型函数。
8.根据权利要求2所述的方法,其中,所述目标词汇表中的每个目标单词的词向量、用于控制该目标单词的输入上下文向量的变化幅度的参数是基于训练样本预先训练得到的,所述训练样本包括源语句和目标语句组成的语句对。
9.一种用于生成文本的装置,包括:
第一生成单元,被配置成生成输入单词的输入词向量;
第二生成单元,被配置成基于所述输入词向量,生成所述输入单词的输入上下文向量,所述输入上下文向量与输入单词所在的输入文本相关联;
确定单元,被配置成对于目标词汇表中的每一个目标单词,利用与该目标单词相关联的核函数,基于所述输入上下文向量和该目标单词的词向量,确定该目标单词作为与所述输入单词对应的输出单词的得分。
10.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
11.一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1-8中任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911212847.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种LED型射灯机构
- 下一篇:一种仪器仪表的防潮装备箱