[发明专利]一种铁路文本命名实体识别方法及装置

权利要求书

1.一种铁路文本命名实体识别方法，其特征在于，包括：

对原始铁路文本数据进行预处理，得到预处理铁路文本数据信息；

将所述预处理铁路文本数据信息输入预设BERT模型，得到铁路文本向量信息；

将所述铁路文本向量信息输入预设BiLSTM-CRF模型，得到铁路文本命名实体识别结果信息；

其中，所述预设BERT模型是通过带实体标记的样本预处理铁路文本数据信息训练得到，所述预设BiLSTM-CRF模型是通过带实体标记和语序标记的样本铁路文本向量信息训练得到。

2.根据权利要求1所述铁路文本命名实体识别方法，其特征在于，在所述将所述预处理铁路文本数据信息输入预设BERT模型，得到铁路文本向量信息的步骤之前，所述方法还包括：

获取样本预处理铁路文本数据信息，通过BIO标记对样本预处理铁路文本数据信息进行命名实体标记，并在样本预处理铁路文本数据信息的句首和句尾分别插入CLS标记和SEP标记，得到带实体标记的样本预处理铁路文本向量信息；

对所述带实体标记的样本预处理铁路文本向量信息的语序信息进行编码处理，得到带实体标记和语序标记的样本铁路文本向量信息；

根据所述带实体标记和语序标记的样本铁路向量数据信息对BERT模型进行训练，当BERT模型损失函数稳定收敛时，得到预设BERT模型。

3.根据权利要求1所述铁路文本命名实体识别方法，其特征在于，在所述将所述铁路文本向量信息输入预设BiLSTM-CRF模型，得到铁路文本命名实体识别结果信息的步骤之前，所述方法还包括：

获取带实体标记和语序标记的样本铁路文本向量信息，根据所述带实体标记和语序标记的样本铁路文本向量信息对BiLSTM模型进行训练，输出带语序标签的样本铁路文本上下文信息，当满足第一预设训练条件，得到训练好的BiLSTM模型；

根据所述带语序标签的样本铁路文本上下文信息对CRF模型进行训练，当满足第二预设训练条件，得到训练好的CRF模型，根据所述训练好的BiLSTM模型的和训练好的CRF模型得到预设BiLSTM-CRF模型。

4.根据权利要求2所述铁路文本命名实体识别方法，其特征在于，所述根据所述带实体标记和语序标记的样本铁路向量数据信息对BERT模型进行训练，当BERT模型损失函数稳定收敛时，得到预设BERT模型的步骤，具体包括：

将所述样本铁路文本向量中的部分字符进行遮掩处理，得到未被遮掩字符信息；

通过未被遮掩字符的上下文含义，对被遮掩处理的部分字符进行预测；

获取无语序标签的样本随机向量信息，根据所述无语序标签的样本随机向量信息和无语序标签的样本随机向量信息进行后续语句预测训练；

当预测值损失函数稳定收敛，且后续语句预测函数稳定收敛时，得到预设BERT模型。

5.根据权利要求1所述铁路文本命名实体识别方法，其特征在于，所述对原始铁路文本数据进行预处理的步骤具体包括：

去除原始铁路文本数据中的设备信号信息、设备编号信息和日期信息，得到第一铁路文本数据信息；

将所述第一铁路文本数据信息拆分为单个汉字字符，并去除重复汉字字符，得到预处理铁路文本数据信息。

6.根据权利要求3所述铁路文本命名实体识别方法，其特征在于，所述BiLSTM模型包括前向LSTM模型和后向LSTM模型。

7.一种铁路文本命名实体识别装置，其特征在于，包括：

预处理模块，用于对原始铁路文本数据进行预处理，得到预处理铁路文本数据信息；

向量转换模块，用于将所述预处理铁路文本数据信息输入预设BERT模型，得到铁路文本向量信息；

识别模块，用于将所述铁路文本向量信息输入预设BiLSTM-CRF模型，得到铁路文本命名实体识别结果信息；

其中，所述预设BERT模型是通过带实体标记的样本预处理铁路文本数据信息训练得到，所述预设BiLSTM-CRF模型是通过带实体标记和语序标记的样本铁路文本向量信息训练得到。