[发明专利]一种基于LSTM的命名实体识别方法

权利要求书

1.一种基于LSTM的命名实体识别方法，其特征在于，包括以下步骤：

1)对命名实体识别的训练语料进行标注，形成标注语料；

2)将标注语料中的词和字符转化为向量；

3)利用词和字符的向量建立基于LSTM的命名实体识别模型，并训练该命名实体识别模型的参数；

4)利用训练好的命名实体识别模型，对待预测的数据进行命名实体识别预测。

2.如权利要求1所述的方法，其特征在于，步骤1)按照IOBES的方式对训练语料进行标注。

3.如权利要求1所述的方法，其特征在于，步骤2)首先将输入的词转化为向量，然后将词中的每一个字符进行了拆解，用LSTM模型将词所包含的所有字符转化为向量，并对词和字符转化的向量进行拼接。

4.如权利要求3所述的方法，其特征在于，步骤3)所述基于LSTM的命名实体识别模型包括LSTM层和CRF层，步骤2)拼接的字符和词的向量输入到第一层LSTM神经元单元中，第一层LSTM的第i个LSTM单元的输出同时作为第一层LSTM的第i+1个LSTM单元的输入，而后将LSTM每一个神经单元的输出作为CRF模型的输入，从而计算出对应每个输入字符x_i的y_i，并设定语料中实际标记的结果为构造一个基于熵的损失函数L：

L=1nΣiy‾ilog(yi)+(1-y‾i)log(1-yi),]]>

其中n表示训练样本数量；而后将损失函数L转化为一个优化问题，求解：

Min L=1nΣiy‾ilog(yi)+(1-y‾i)log(1-yi).]]>

5.如权利要求4所述的方法，其特征在于，步骤3)采用Adam梯度下降算法训练L中的参数。

6.如权利要求5所述的方法，其特征在于，步骤3)在训练参数的过程中，将训练语料按照中文句法规则进行分句处理，并对分句后字符长度小于神经元个数的语句用数据0填充。