[发明专利]一种融合命名实体识别的高技术文本分类方法及系统

权利要求书

1.一种融合命名实体识别的高技术文本分类方法，其特征在于，所述分类方法包括：

步骤1：确定文本向量；

步骤2：将所述文本向量输入至BiLSTM网络结构中，得到文本序列的隐向量；

步骤3：获取原始文本分类模型；

步骤4：基于所述文本序列的隐向量对所述原始文本分类模型进行训练；

步骤5：基于训练后的文本分类模型结合softmax函数计算当前文本在各个类别中所占比例；

步骤7：获取命名实体识别的训练数据；

步骤8：执行步骤1-步骤2，得到命名实体识别的训练数据的隐向量；

步骤9：获取原始命名实体识别模型；

步骤10：基于所述命名实体识别的训练数据的隐向量对所述原始命名实体识别模型进行训练，得到训练后的命名实体识别模型；

步骤11：基于训练好后的命名实体识别模型抽取步骤5中分类后的文本中的专业术语，得到术语列表L；

步骤12：遍历L中的每个元素，确定L中的每个元素在各类别词典中分别出现的频率和，记为f_r＝(f_r1,f_r2,…,f_rn)，并转换为占比

步骤13：基于所述步骤5中当前文本在各个类别中所占比例融合文本中出现的专业术语在词典中的占比通过权重进行分类。

2.根据权利要求1所述的融合命名实体识别的高技术文本分类方法，其特征在于，所述确定文本向量具体包括：

确定文本分类模型训练数据T＝(T₁,T₂,…,T_len(n))；

对于每个训练数据T_i，基于WordPiece的方法进行分字，如果len(T_i)＞maxLen-2，则在位置Len-2处截断；

对于分字后的结果，在首部添加符号“[CLS]”，在尾部添加符号“[SEP]”，并查询词汇表将每一个字转换为其对应的索引值记为input_ids；

如果len(input_ids)＜maxLen，则在结果后添加0进行补齐操作，使len(input_ids)等于maxLen；

对字索引值、句子分割编码以及位置信息编码分布送入Token Embeddings层、SegmentEmbeddings层以及Position Embeddings层，三个结果向量值相加生成词向量记为InputEmbeddings；

将Input Embeddings输入到Transformer模型中获得文本序列中字的最终的文本向量，记为S。