[发明专利]一种基于时序主题模型的自然语言生成方法有效
| 申请号: | 201910557271.X | 申请日: | 2019-06-25 |
| 公开(公告)号: | CN110457714B | 公开(公告)日: | 2021-04-06 |
| 发明(设计)人: | 陈渤;鲁瑞颖;郭丹丹 | 申请(专利权)人: | 西安电子科技大学 |
| 主分类号: | G06F40/40 | 分类号: | G06F40/40;G06F40/30;G06N3/04;G06N3/08 |
| 代理公司: | 西安嘉思特知识产权代理事务所(普通合伙) 61230 | 代理人: | 张捷 |
| 地址: | 710071*** | 国省代码: | 陕西;61 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明公开了一种基于时序主题模型的自然语言生成方法,包括:获得文档中的每个句子的上下文词袋向量;利用时序主题模型生成所述文档中每个句子的主题分布向量;将每个句子的每个词和相应的主题分布向量输入到时序语言模型中,得到每个词相应的各层隐变量;将各层隐变量拼接在一起,通过归一化指数函数预测当前句子中的下一个单词;利用随机梯度下降法对时序语言模型以及时序主题模型中的编码器参数进行更新;对时序主题模型中的解码器参数进行采样更新。该方法将多层主题模型与多层语言模型相结合,提取文本主题中层次化的语义特征以及层次化的时序信息,低层特征语义范围较小,高层特征语义范围更为广泛。 | ||
| 搜索关键词: | 一种 基于 时序 主题 模型 自然语言 生成 方法 | ||
【主权项】:
1.一种基于时序主题模型的自然语言生成方法,其特征在于,包括:/nS1:获得文档中的每个句子的上下文词袋向量;/nS2:根据所述上下文词袋向量,利用时序主题模型生成所述文档中每个句子的主题分布向量;/nS3:将每个句子的每个词和相应的主题分布向量输入到时序语言模型中,得到每个词相应的各层隐变量;/nS4:将每个词的所述各层隐变量拼接在一起,通过归一化指数函数预测当前句子中的下一个单词;/nS5:利用随机梯度下降法对所述时序语言模型以及时序主题模型中的编码器参数进行更新;/nS6:利用自适应随机梯度马尔可夫链蒙特卡洛采样方法对所述时序主题模型中解码器的参数进行采样更新。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安电子科技大学,未经西安电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910557271.X/,转载请声明来源钻瓜专利网。





