[发明专利]一种融合行为词的罪名预测多任务学习方法及其系统

权利要求书

1.一种融合行为词的罪名预测多任务学习方法，其特征在于，所述罪名预测多任务学习方法具体包括以下步骤：

步骤1：对裁判文书的案件描述，使用BERT预训练得到文本信息的抽象语义表示；

步骤2：基于步骤1的文本信息的抽象语义表示,利用BiLSTM获取文本中上下文语义依赖特征；

步骤3：基于步骤2的上下文语义依赖特征，识别行为词边界的方式定位其所在文本的位置；

步骤4：基于步骤3定位行为词边界，通过组合得到不同边界生成行为词的跨度；

步骤5：基于步骤4识别的行为词跨度，通过构建行为词之间的相关性信息预测所属罪名。

2.根据权利要求1所述一种融合行为词的罪名预测多任务学习方法，其特征在于，所述步骤1具体为，对裁判文书的案件描述，使用BERT模型获取融合上下文信息的动态字向量表示并且输出融合全文语义的连续稠密向量。

3.根据权利要求2所述一种融合行为词的罪名预测多任务学习方法，其特征在于，所述步骤2具体为，将融合全文语义的连续稠密向量，通过BILSTM层进行双向训练，进一步提取深层语义特征和长距离依赖生成文本内容的特征。

4.根据权利要求1所述一种融合行为词的罪名预测多任务学习方法，其特征在于，所述步骤4具体为，通过识别单个字为行为词的开始边界或结束边界的方式定位行为词在文本中的位置，然后对组合不同边界位置生成的跨度进行分类。

5.根据权利要求4所述一种融合行为词的罪名预测多任务学习方法，其特征在于，所述步骤5具体为，以行为词作为节点构建图结构，通过图卷积神经网络，在行为词之间融合语义信息，建立词语之间的结构，增强行为词之间的相关性，同时利用多目标框架建立不同任务之间的相关性；利用抽取行为词任务和预测罪名的多任务模型可以使得两者任务之间通过跨任务之间信息共享参数的方式提高模型的性能。

6.根据权利要求2所述一种融合行为词的罪名预测多任务学习方法，其特征在于，案情描述文本为T＝{c₁,c₂,...c_n}，其中c_i表示文本中的第i个字；

将T输入BERT模型经过多层Transformer后输出向量E＝{e₁,e₂,...,e_n}。

7.根据权利要求6所述一种融合行为词的罪名预测多任务学习方法，其特征在于，将E通过BILSTM层进行双向训练，进一步提取深层语义特征和长距离依赖生成文本内容的特征向量，

所述特征向量表示为H＝{h₁,h₂,...,h_n}，h_i代表字的特征向量，h_i∈R^d；d表示维度。