[发明专利]基于量子启发式神经网络的文本分类方法及邮件分类方法

说明书

本发明公开了一种基于量子启发式神经网络的文本分类方法，包括训练数据；构建初级文本分类模型；采用训练数据对初级文本分类模型进行训练得到文本分类最终模型；采用文本分类最终模型对实际文本进行分类。本发明还公开了一种包括所述基于量子启发式神经网络的文本分类方法的邮件分类方法。本发明采用量子力学中的密度矩阵表示句子级别的文本，使用投影测量确定文本极性；采用GRU提取文本语义特征，丰富词向量的语义信息，提升模型在文本分类任务中的效果；在GRU层，添加自注意力层，使模型能够关注到句子中的重要单词，降低影响分类结果的单词的权重，进一步提升模型的分类效果；因此本发明方法可靠性高、实用性好且精确度较高。

技术领域

本发明属于自然语言处理领域，具体涉及一种基于量子启发式神经网络的文本分类方法及邮件分类方法。

背景技术

随着经济技术的发展和人们生活水平的提高，自然语言处理技术已经广泛应用于人们的生产和生活当中，给人们的生产和生活带来了无尽的便利。

在自然语言处理(以下简称NLP)领域当中，采用深度学习的方法来完成包括文本分类在内的任务时，首先要考虑的是如何将文本中的单词转换为计算机可以识别的形式。经过深度学习技术的长久发展，distributed representation形式的词向量(用来表示单词的向量，简称词向量)被提出用来代替文本单词，并作为输入投到神经网络当中，使网络通过反向传播算法得以训练进而完成各种NLP下游任务，包括文本分类、问题答案匹配以及机器翻译等等。文本分类是NLP的一个基本任务，根据分类标签的数量又进一步分为文本二分类以及文本多分类。

但是，现有常用的文本分类方法，往往存在着文本分类精确度较差，分类效果较差的问题，从而严重影响了文本分类方法的使用和推广。

发明内容

本发明的目的之一在于提供一种可靠性高、实用性好且精确度较高的基于量子启发式神经网络的文本分类方法。

本发明的目的之二在于提供一种包括了所述基于量子启发式神经网络的文本分类方法的邮件分类方法。

本发明提供的这种基于量子启发式神经网络的文本分类方法，包括如下步骤：

S1.获取基础的训练文本，并对训练文本的分类结果进行标记，从而得到文本分类训练数据；

S2.基于量子启发式复数词向量和深度学习算法，构建初级文本分类模型；

S3.采用步骤S1得到的文本分类训练数据，对步骤S2构建的初级文本分类模型进行训练，从而得到文本分类最终模型；

S4.采用步骤S3得到的文本分类最终模型对实际文本进行分类。

步骤S2所述的基于量子启发式复数词向量和深度学习算法，构建初级文本分类模型，具体为采用如下步骤构建初级文本分类模型：

A.采用分词技术，将获取的训练文本进行分词；

B.将步骤A得到的每一个单词输入到幅度词向量层，得到幅度词向量；

C.将步骤A得到的每一个单词输入到相位词向量层，得到相位词向量；

D.将步骤B得到的幅度词向量输入到GRU层进行语义特征提取，从而得到新词向量；

E.将步骤D得到的新词向量通过自注意力机制层进行计算；

F.根据步骤C得到的相位词向量和步骤E得到的计算结果，构建密度矩阵；

G.对步骤F构建的密度矩阵进行投影测量，从而得到文本分类的概率；

H.根据步骤G得到的文本分类的概率，对文本进行分类。

步骤B所述的幅度词向量层，具体为采用Glove预训练词向量，并作为幅度词向量层。