[发明专利]一种中文文本分类方法和装置及计算机可读存储介质

说明书

本发明实施例公开了一种中文文本分类方法和装置及计算机可读存储介质，包括：将中文文本中的句子拆分成单个字符；将所有字符按照在句子中的先后顺序依次输入到BERT预训练模型中，得到所述句子的特征；根据所述句子的特征对所述句子进行分类得到所述句子对应的类别。本发明实施例将中文文本中的句子中的单个字符依次输入到BERT预训练模型中得到句子的特征，而不需要对句子进行分词，避免了分词对分类结果造成的影响，而BERT预训练模型中的双向转换(Transformer)建立了字符之间的关联性，保留了词汇级别的含义，因此，对于BERT预训练模型提取的句子的特征，字符级别的输入提高了分类精度。

技术领域

本发明实施例涉及但不限于信息处理技术，尤指一种中文文本分类方法和装置及计算机可读存储介质。

背景技术

自动化的文本分类，能够极大的减少人工排查量。目前，中文文本的分类方法有以下两种：

第一种，首先对中文文本中的句子进行分词，从分词的结果中提取每一个词的词向量，将所有词的词向量拼接成一个矩阵，将得到的矩阵输入到分类器中进行分类得到句子对应的类别，通常采用循环神经网络(RNN，Recurrent Neural Network)能得到较好的分类结果。这种方法的分类效果在一定程度上受分词好坏的影响，比如公司名称、人名等不常见的词汇较多的时候，分词的效果就会降低，从而影响RNN的分类结果。

第二种，首先对中文文本中的句子进行分词，将所有的词依次输入到双向编码表征的转换(BERT，Bidirectional Encoder Representations from Transformers)预训练模型中得到包括所有词的词向量的矩阵，将得到的矩阵输入到分类器中进行分类得到句子对应的类别。这种方法中，BERT预训练模型使词转换成的词向量具有更好的表征能力，在分类任务上得到一定的提升；并且，使用BERT预训练模型提取词向量时，不需要训练提取词向量的模型，降低了文本分类的复杂度；但是，BERT预训练模型提取的词向量是针对整个句子的特征表示，而文本中某些关键的词具有很强的代表性，这就导致分类的效果缺乏局部代表性词汇的判断，从而导致分类效果不够理想。另外，分词的效果同样会影响到分类结果。

综上所述，目前的文本分类方法的分类精度较低。

发明内容

本发明实施例提供了一种中文文本分类方法和装置及计算机可读存储介质，能够提高分类精度。

本发明实施例提供了一种中文文本分类方法，包括：

将中文文本中的句子拆分成单个字符；

将所有字符按照在句子中的先后顺序依次输入到BERT预训练模型中，得到所述句子的特征；

根据所述句子的特征对所述句子进行分类得到所述句子对应的类别。

在一个示例性实例中，所述句子的特征包括每一个字符的特征；所述根据句子的特征对句子进行分类得到句子对应的类别包括：

从所述句子的特征中提取所述句子中的特定字符的特征；其中，所述句子中的特定字符包括以下任意一个或多个：所述句子的第一个字符、所述句子的最后一个字符；

将所述句子的特征和所述句子中的特定字符的特征进行合并得到合并的特征；

根据所述合并的特征对所述句子进行分类得到所述句子对应的类别。

在一个示例性实例中，所述句子的特征采用第一矩阵表示，所述第一矩阵的第一维表示字符，第二维表示字符的特征；

所述将句子的特征和句子中的特定字符的特征进行合并得到合并的特征包括：

将所述句子中的特定字符的特征扩充成第二矩阵；其中，所述第二矩阵的第一维表示字符，第二维表示字符的特征；所述第二矩阵的第一维的数量与所述第一矩阵的第一维的数量相同；