[发明专利]词汇预测方法、装置、设备和计算机可读存储介质

说明书

本发明公开了一种词汇预测方法、装置、设备和计算机可读存储介质，一种词汇预测方法包括：获取多个连续时间节点的预测样本文本，分别对多个连续时间节点的预测样本文本进行分词处理，得到多个预测样本词汇序列，对多个预测样本词汇序列进行编码，得到多个预测样本词汇向量序列，依次以前一个时间节点的预测样本词汇向量序列中的X个连续词汇向量作为预测输入，以后一个时间节点的预测样本词汇向量序列中的词汇作为目标词汇，对词汇预测模型进行训练，得到词汇预测模型，将待预测文本输入词汇预测模型，得到词汇预测结果。本发明公开的词汇预测方法、装置设备和计算机可读存储介质，用于提高词汇预测的效率。

技术领域

本发明实施例涉及计算机技术，尤其涉及一种词汇预测方法、装置、设备和计算机可读存储介质。

背景技术

领域内词汇预测研究是在自然语言处理的一个新兴课题，词汇预测准确性的提高对文本聚类、语义消歧、语义Web、信息检索等众多应用领域具有重要意义。

传统的词汇预测需要对词汇之间的相互映射关系进行研究，并对大量统计数据进行分析后才能得到预测结果。但这需要依靠人为统计和计算，不适用于当前大数据计算的场景。

发明内容

本发明提供一种词汇预测方法、装置、设备和计算机可读存储介质，以提高词汇预测的效率。

第一方面，本发明实施例提供一种词汇预测方法，包括：

获取多个连续时间节点的预测样本文本；

分别对多个连续时间节点的预测样本文本进行分词处理，得到多个预测样本词汇序列；

对多个预测样本词汇序列进行编码，得到多个预测样本词汇向量序列；

依次以前一个时间节点的预测样本词汇向量序列中的X个连续词汇向量作为预测输入，以后一个时间节点的预测样本词汇向量序列中的词汇作为目标词汇，对词汇预测模型进行训练，得到词汇预测模型，词汇预测模型表示输入X个连续词汇向量后不同目标词汇的出现概率；

将待预测文本输入词汇预测模型，得到词汇预测结果。

在第一方面一种可能的实现方式中，分别对多个连续时间节点的预测样本文本进行分词处理，得到多个预测样本词汇序列，包括：

分别对多个连续时间节点的预测样本文本进行分词处理，并去除分词处理后的停用词，得到多个预测样本词汇序列。

在第一方面一种可能的实现方式中，依次以前一个时间节点的预测样本词汇向量序列中的X个连续词汇向量作为预测输入，以后一个时间节点的预测样本词汇向量序列中的词汇作为目标词汇，对词汇预测模型进行训练，得到词汇预测模型，包括：

依次以前一个时间节点的预测样本词汇向量序列中的X个连续词汇向量作为预测输入，以后一个时间节点的预测样本词汇向量序列中的词汇作为目标词汇，在后一个时间节点的预测样本词汇向量序列中以X个连续词汇向量作为训练窗口，滑动训练窗口，对词汇训练模型进行训练，得到词汇预测模型。

在第一方面一种可能的实现方式中，依次以前一个时间节点的预测样本词汇向量序列中的X个连续词汇向量作为预测输入，以后一个时间节点的预测样本词汇向量序列中的词汇作为目标词汇，对词汇预测模型进行训练，得到词汇预测模型之后，方法还包括：

优化词汇预测模型，以使词汇预测模型的输出平均概率最高。

在第一方面一种可能的实现方式中，对多个预测样本词汇序列进行编码，得到多个预测样本词汇向量序列，包括：

利用one-hot编码方式对多个预测样本词汇序列进行编码，得到多个预测样本词汇编码数据；

将多个预测样本词汇编码数据分别与预设非稀疏矩阵相乘，得到得到多个预测样本词汇向量序列。