[发明专利]一种文本预测方法和装置在审
| 申请号: | 202010126248.8 | 申请日: | 2020-02-26 |
| 公开(公告)号: | CN111401072A | 公开(公告)日: | 2020-07-10 |
| 发明(设计)人: | 韩庆宏;李纪为 | 申请(专利权)人: | 北京香侬慧语科技有限责任公司 |
| 主分类号: | G06F40/30 | 分类号: | G06F40/30;G06N3/04 |
| 代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 柳欣 |
| 地址: | 100080 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 文本 预测 方法 装置 | ||
本发明提供了一种文本预测方法和装置,其中,该方法包括:获取需要预测字符的文本,并对需要预测字符的所述文本中的字符进行处理,得到需要预测字符的所述文本的文本特征向量;利用变分自编码器对需要预测字符的所述文本的所述文本特征向量进行正态分布变换,得到需要预测字符的所述文本的语义空间;其中,所述语义空间包括:所述文本中字符之间的语义关系和正态分布变换后所述文本的特征向量;对需要预测字符的所述文本的特征向量进行处理,得到所述文本的预测字符。通过本发明实施例提供的文本预测方法和装置,可以提高文本预测的准确率。
技术领域
本发明涉及计算机技术领域,具体而言,涉及一种文本预测方 法和装置。
背景技术
目前,语言预测模型大都基于线性模型得到,如长短时记忆力模 型或注意力转换模型,这些语言预测模型的基本执行过程是,首先对 所给文本建模,然后用文本中上一个字符得到的特征向量来预测下一 个字符。这样的方法非常简单,但预测文本的准确率不高。
发明内容
为解决上述问题,本发明实施例的目的在于提供一种字符预测方 法和装置。
第一方面,本发明实施例提供了一种文本预测方法,包括:
获取需要预测字符的文本,并对需要预测字符的所述文本中的字 符进行处理,得到需要预测字符的所述文本的文本特征向量;
利用变分自编码器对需要预测字符的所述文本的所述文本特征 向量进行正态分布变换,得到需要预测字符的所述文本的语义空间; 其中,所述语义空间包括:所述文本中字符之间的语义关系和正态分 布变换后所述文本的特征向量;
对需要预测字符的所述文本的特征向量进行处理,得到所述文本 的预测字符。
第二方面,本发明实施例还提供了一种文本预测装置,包括:
获取模块,用于获取需要预测字符的文本,并对需要预测字符的 所述文本中的字符进行处理,得到需要预测字符的所述文本的文本特 征向量;
处理模块,用于利用变分自编码器对需要预测字符的所述文本的 所述文本特征向量进行正态分布变换,得到需要预测字符的所述文本 的语义空间;其中,所述语义空间包括:所述文本中字符之间的语义 关系和正态分布变换后所述文本的特征向量;
预测模块,用于对需要预测字符的所述文本的特征向量进行处理, 得到所述文本的预测字符。
第三方面,本发明实施例还提供了一种计算机可读存储介质,所 述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理 器运行时执行上述第一方面所述的方法的步骤。
第四方面,本发明实施例还提供了一种文本预测装置,所述文本 预测装置包括有存储器,处理器以及一个或者一个以上的程序,其中 所述一个或者一个以上程序存储于所述存储器中,且经配置以由所述 处理器执行上述第一方面所述的方法的步骤。
本发明实施例上述第一方面至第四方面提供的方案中,通过利用 变分自编码器对需要预测字符的所述文本的所述文本特征向量进行正 态分布变换,得到需要预测字符的所述文本的语义空间,所述语义空 间包括:所述文本中字符之间的语义关系和正态分布变换后所述文本 的特征向量,与相关技术中语言预测模型先对文本建模,然后用文本 中上一个字符的特征向量来预测下一个字符的方式相比,可以根据需 要预测字符的所述文本的语义空间中记载的所述文本中字符之间的语 义关系,对需要预测字符的所述文本的特征向量进行处理,得到所述 文本的预测字符,提高了文本预测的准确率;而且,要预测字符的所 述文本的语义空间中记载的所述文本中字符之间的语义关系,可以避 免预测文本过程中出现的“梯度消失”现象,进一步提高了文本预测 的准确率。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较 佳实施例,并配合所附附图,作详细说明如下。
附图说明
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京香侬慧语科技有限责任公司,未经北京香侬慧语科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010126248.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种软体槽盖开关装置
- 下一篇:一种制备熔融石英的熔炼装置及其工作方法





