[发明专利]一种半监督学习结合自定义词典的命名实体识别方法

权利要求书

1.一种半监督学习结合自定义词典的命名实体识别方法，其特征在于，包括如下步骤：

S1、用未标注数据预训练Bi-LSTM语言模型；其中，采用的Bi-LSTM，前向和后向并不进行参数共享，两层LSTM都采用不同的参数进行训练，也就是说两层LSTM是独立的；

S2、在Embedding层采用word2vec模型将每个字符向量化；具体采用Skip-gram方法进行字向量模型训练，具体步骤为：

(1)首先收集应用领域相关的均衡语料；

(2)针对步骤(1)收集的语料数据作预处理，包括过滤掉垃圾数据、停低频字和无意义符号，以及整理成训练数据的格式，得到训练数据；

(3)将训练数据送给Skip-gram模型，训练得到字向量模型；

S3、采用两层的双向LSTM作为序列标注模型，所述序列标注模型采用标注数据训练；

序列标注模型的训练过程中，将序列标注模型的第一层双向LSTM的输出向量与步骤S1中预训练得到的Bi-LSTM语言模型的输出作拼接，然后将拼接的向量经过一个全连接层后作为序列标注模型的第二层双向LSTM的输入；

S4、加入用户自定义词典：

经过序列标注模型的两层双向LSTM之后会得到发射矩阵X，经过CRF层，通过最大似然概率得到转移矩阵Y，然后根据用户自定义词典调整发射矩阵的概率，得到调整后的发射矩阵X；

S5、使用维特比解码求出序列中的最大概率路径：

将步骤S4中得到的根据用户自定义词典调整后的发射矩阵X和转移矩阵Y输入到CRF层的维特比解码，得到序列标注，即正确的命名实体识别结果。