[发明专利]文本分类的方法和装置

权利要求书

1.一种文本分类的方法，所述方法包括：

对待分类文本进行切分，得到若干文本片段；

针对每个文本片段，将所述文本片段作为入参输入已训练的片段语义提取模型以对所述文本片段进行语义提取，得到所述文本片段对应的片段语义向量；

将所述若干文本片段对应的若干片段语义向量作为入参输入已训练的文本语义提取模型以对所述待分类文本进行语义提取，得到所述待分类文本对应的文本语义向量；

将所述文本语义向量作为入参输入已训练的分类模型，根据所述分类模型的输出结果，确定所述待分类文本所属的文本分类。

2.根据权利要求1所述的方法，所述片段语义提取模型包括嵌入层和若干串联的片段语义提取层；

其中，所述嵌入层，用于将所述文本片段转换为对应的若干嵌入向量；

每个所述片段语义提取层，用于基于上一层输出的向量进行语义提取，并输出经本层提取得到的中间片段语义向量；

所述片段语义提取模型，用于基于最后一层所述片段语义提取层输出的中间片段语义向量确定所述文本片段对应的片段语义向量。

3.根据权利要求1所述的方法，所述文本语义提取模型包括若干串联的文本语义提取层；

每个所述文本语义提取层，用于基于输入本层的向量进行语义提取，并输出经本层提取得到的中间文本语义向量；

所述文本语义提取模型，用于基于最后一层所述文本语义提取层输出的中间文本语义向量确定所述待分类文本对应的文本语义向量。

4.根据权利要求1所述的方法，

所述片段语义提取模型，为基于转换器的双向编码器表征模型BERT，或轻量级基于转换器的双向编码器表征模型ALBERT；

所述文本语义提取模型，为基于转换器的双向编码器表征模型BERT，或轻量级基于转换器的双向编码器表征模型ALBERT。

5.根据权利要求1所述的方法，所述对待分类文本进行切分，包括：

根据预设的窗口长度和文本片段数量，采用滑动窗口的方式对所述待分类文本进行切分；

若切分后得到的文本片段的数量未达到所述文本片段数量，则利用预设的文本片段对切分结果进行补充；

若切分后得到的文本片段的数量超出所述文本片段数量，则按照语义顺序丢弃超出所述文本片段数量的文本片段。

6.一种文本分类的装置，所述装置包括：

文本切分单元，对待分类文本进行切分，得到若干文本片段；

片段语义提取单元，针对每个文本片段，将所述文本片段作为入参输入已训练的片段语义提取模型以对所述文本片段进行语义提取，得到所述文本片段对应的片段语义向量；

文本语义提取单元，将所述若干文本片段对应的若干片段语义向量作为入参输入已训练的文本语义提取模型以对所述待分类文本进行语义提取，得到所述待分类文本对应的文本语义向量；

文本分类单元，将所述文本语义向量作为入参输入已训练的分类模型，根据所述分类模型的输出结果，确定所述待分类文本所属的文本分类。

7.根据权利要求6所述的装置，所述片段语义提取模型包括嵌入层和若干串联的片段语义提取层；

其中，所述嵌入层，用于将所述文本片段转换为对应的若干嵌入向量；

每个所述片段语义提取层，用于基于上一层输出的向量进行语义提取，并输出经本层提取得到的中间片段语义向量；

所述片段语义提取模型，用于基于最后一层所述片段语义提取层输出的中间片段语义向量确定所述文本片段对应的片段语义向量。

8.根据权利要求6所述的装置，所述文本语义提取模型包括若干串联的文本语义提取层；

每个所述文本语义提取层，用于基于输入本层的向量进行语义提取，并输出经本层提取得到的中间文本语义向量；

所述文本语义提取模型，用于基于最后一层所述文本语义提取层输出的中间文本语义向量确定所述待分类文本对应的文本语义向量。