[发明专利]一种基于Bi-LSTM-CNN的混合语料命名实体识别方法有效
申请号: | 201710946532.8 | 申请日: | 2017-10-12 |
公开(公告)号: | CN107797987B | 公开(公告)日: | 2021-02-09 |
发明(设计)人: | 唐华阳;岳永鹏;刘林峰 | 申请(专利权)人: | 北京知道未来信息技术有限公司 |
主分类号: | G06F40/279 | 分类号: | G06F40/279;G06F40/205;G06N3/04;G06N3/08 |
代理公司: | 北京君尚知识产权代理有限公司 11200 | 代理人: | 邱晓锋 |
地址: | 100102 北京市朝阳区阜*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 bi lstm cnn 混合 语料 命名 实体 识别 方法 | ||
1.一种基于Bi-LSTM-CNN的混合语料命名实体识别方法,其特征在于,包括以下步骤:
1)将原始混合语料数据OrgData转化为字符级的混合语料数据NewData;
2)统计NewData中的字符,得到字符集合CharSet,将每个字符进行编号,得到字符集合CharSet对应的字符编号集合CharID;统计NewData中字符的标签,得到标签集合LabelSet,将每个标签进行编号,得到标签集合LabelSet对应的标签编号集合LabelID;
3)将NewData按照句子长度对句子进行分组,得到包括n组句子的数据集合GroupData;
4)随机无放回的从GroupData的某组中抽取BatchSize句数据w,以及对应的标签y,并将抽取的数据w通过CharID转换为固定长度的数据BatchData,将对应的标签通过LabelID转换为固定长度的标签yID;
5)将数据BatchData及标签yID送入基于Bi-LSTM-CNN的深度学习模型,训练该深度学习模型的参数,当深度学习模型产生的损失值满足设定条件或者达到最大迭代次数N,则终止该深度学习模型的训练;否则采用步骤4)重新生成数据以训练该深度学习模型;
6)将待预测的数据PreData转换成与该深度学习模型匹配的数据PreMData,并将其送入训练好的该深度学习模型,得到命名实体识别结果OrgResult。
2.如权利要求1所述的方法,其特征在于,步骤1)包括:
1-1)将原始混合语料数据中的数据与标签分离,并对数据的每个词语进行字符级切分;
1-2)采用BMESO的标记方式对每个字符进行标记:设某个词语对应的标签为Label,则位于该词语最开始的字符标记为Label_B,位于该词语中间的字符标记为Label_M,位于该词语末尾的词语标记为Label_E,若该词语只有一个字符则标记为Label_S,若该词语没有带标签或者不属于实体标签则标记为o。
3.如权利要求1所述的方法,其特征在于,步骤3)中,设li表示第i句话的句子长度,lj表示第j句话的句子长度,则将|li-lj|<δ的句子归入一组,其中δ表示句子长度间隔。
4.如权利要求1所述的方法,其特征在于,步骤4)包括:
4-1)将抽取到的数据w转换成数字,也即通过CharSet与CharID的对应关系,将w中的每个字符转换成对应的数字;
4-2)将抽取的数据w对应的标签y转换成数字,也即通过LabelSet与LabelID的对应关系,将y中的每个字符转换成对应的数字;
4-3)假设规定长度为maxLen,当抽取到的数据句子长度l<maxLen时,将句子后面补maxLen-l个0,得到BatchData,并将w对应的标签y后面补maxLen-l个0,得到yID。
5.如权利要求1所述的方法,其特征在于,步骤5)所述基于Bi-LSTM-CNN的深度学习模型包括:
Embedding层,用于将输入的字符数据转换为向量;
Bi-LSTM层,包含若干正向和反向的LSTM单元,用于提取字符间的语义关系;
Concatenate层,用于将正向和反向的LSTM单元提取到的语义信息拼接在一起;
第一个DropOut层,用于防止模型过拟合;
Conv层,用于将整句话与当前单个字符通过LSTM提取得到的语义信息抽象出词特征;
第二个DropOut层,用于防止模型过拟合;
SoftMax层,用于对每个字符进行分类。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京知道未来信息技术有限公司,未经北京知道未来信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710946532.8/1.html,转载请声明来源钻瓜专利网。