[发明专利]基于笔画和自注意力机制的神经网络中文问题生成系统有效
申请号: | 201910572796.0 | 申请日: | 2019-06-28 |
公开(公告)号: | CN110334196B | 公开(公告)日: | 2023-06-27 |
发明(设计)人: | 黎伟;康琦 | 申请(专利权)人: | 同济大学 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F40/289;G06F40/30;G06F40/242;G06N3/088 |
代理公司: | 上海德昭知识产权代理有限公司 31204 | 代理人: | 郁旦蓉 |
地址: | 200092 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种基于笔画和自注意力机制的神经网络中文问题生成系统,用于根据被获取的中文段落生成相应的中文问题,其特征在于,包括:笔画词向量存储部,用于存储预先训练得到的笔画词向量,中文段落获取部,用于获取中文段落,提示词提取部,用于根据从中文段落中提取多个关键词作为至少一个提示词,词向量转换组合部,用于将中文段落转换为中文词向量、将提示词转换为掩码形式的提示词掩码、并将中文词向量以及提示词掩码与笔画词向量连接形成组合向量,问题词生成部,用于根据组合向量生成多个问题词,中文问题组合输出部,用于将问题词依序组合为中文问题并进行输出。 | ||
搜索关键词: | 基于 笔画 注意力 机制 神经网络 中文 问题 生成 系统 | ||
【主权项】:
1.一种基于笔画和自注意力机制的神经网络中文问题生成系统,用于根据被获取的中文段落生成相应的中文问题,其特征在于,包括:笔画词向量存储部,用于存储预先训练得到的笔画词向量,中文段落获取部,用于获取所述中文段落,提示词提取部,用于根据预设的提取方法从所述中文段落中提取一个或多个关键词作为一个提示词,词向量转换组合部,用于将所述中文段落转换为中文词向量、将所述提示词转换为掩码形式的提示词掩码、并将所述中文词向量以及所述提示词掩码与所述笔画词向量组合形成组合向量,问题词生成部,用于根据所述组合向量生成多个问题词,中文问题组合输出部,用于将所述问题词依序组合为一个所述中文问题并进行输出,其中,所述问题词生成部包括记忆向量生成单元、隐藏状态向量生成单元、复制词向量生成单元、生成词向量生成单元以及问题词生成单元,所述记忆向量生成单元将所述组合向量输入一个双层双向的长短期记忆网络从而生成一个融合了所述笔画词向量、所述中文段落以及所述提示词掩码的记忆向量,所述隐藏状态向量生成单元将所述记忆向量输入至一个基于注意力机制的长短期记忆网络从而生成隐藏状态向量,所述复制词向量生成单元将所述隐藏状态向量输入基于自注意力机制的复制预测器从而生成得到复制词向量,所述生成词向量生成单元将所述隐藏状态向量输入基于全连接层的生成预测器从而生成得到生成词向量,所述问题词生成单元根据所述复制词向量、所述生成词向量以及所述复制门依次计算与各个所述提示词相对应的所述问题词。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于同济大学,未经同济大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910572796.0/,转载请声明来源钻瓜专利网。