[发明专利]一种基于部首联想机制的汉语文本分类方法及装置

说明书

本发明提供一种基于部首联想机制的汉语文本分类方法及装置，方法包括获取待分类汉语文本的字符级特征和形声字部首集合；根据形声字部首集合中的部首，得到对应的联想词集合；将字符级特征和所述联想词集合，输入到预先训练好的汉语文本分类模型，得到汉语文本分类模型输出的待分类汉语文本的分类标签。本发明通过待分类汉语文本中形声字部首，获取对应的联想词，并基于联想词集合和字符级特征确定待分类汉语文本的分类标签，相比于传统依靠文本的字面特征进行分类方式，更符合汉语自身特点以及表意文字和人类认知过程的基本原理，提高了汉语文本分类的准确性。

技术领域

本发明涉及机器学习技术领域，更具体地说，涉及一种基于部首联想机制的汉语文本分类方法及装置。

背景技术

文本分类是指为文本确定一个最合适的类别，对文本进行分类。目前，对于文本分类通常是现在预先分类好的文本集上训练得到分类模型，进而利用该分类模型对未知类别的文本进行自动分类。

但由于基于深度学习的自然语言处理(Natural Language Processing，NLP)最初起步于英语等西方语言，各种理论多建立于这些语言之上，所以传统的汉语文本分类方法往往是仿照西方语言的各种规律和处理形式并拘泥于文本的字面特征进行建模，这种方式不仅忽视了人类认知行为和联想行为在文本理解过程中的参与，也忽视了汉语本身所具有的特点和文字表意特性的本质。

发明内容

有鉴于此，本发明提出一种基于部首联想机制的汉语文本分类方法及装置，欲充分利用汉语的各种粒度语义特征对汉语文本进行表征，从而提高分类的准确性。

为了实现上述目的，现提出的方案如下：

第一方面，提供一种基于部首联想机制的汉语文本分类方法，包括：

获取待分类汉语文本的字符级特征和形声字部首集合；

根据所述形声字部首集合中的部首，得到对应的联想词集合；

将所述字符级特征和所述联想词集合，输入到预先训练好的汉语文本分类模型，得到所述汉语文本分类模型输出的所述待分类汉语文本的分类标签。

优选的，将所述字符级特征和所述联想词集合，输入到预先训练好的汉语文本分类模型，得到所述待分类汉语文本的分类标签，包括：

将所述字符级特征输入到BERT(Bidirectional Encoder Representations fromTransformers)模型，得到所述BERT模型输出的所述待分类汉语文本的文本表征向量和所述待分类汉语文本的字符表征向量；

将所述待分类汉语文本的字符表征向量输入到BiLSTM(Bidirectional LongShort Memory model，双向长短期记忆网络)模型，得到所述BiLSTM模型深度优化后的所述待分类汉语文本的字符表征向量；

将所述联想词集合输入到嵌入层，得到所述嵌入层输出的联想词表征向量；

计算得到联想词表征向量分别在所述待分类汉语文本的文本表征向量和所述深度优化后的所述待分类汉语文本的字符表征向量下的注意力权重向量；

对每个所述注意力权重向量进行归一化处理，得到两个归一化处理后的注意力权重向量；

利用所述两个归一化处理后的注意力权重，分别对所述联想词表征向量中的向量进行加权求和，得到两个联想词表征；

将所述两个联想词表征、所述待分类汉语文本的文本表征向量以及所述深度优化后的所述待分类汉语文本的字符表征向量进行拼接后，输入到全连接神经网络；

通过softmax函数和argmax函数对所述全连接神经网络的输出进行处理，得到所述待分类汉语文本的分类标签。