[发明专利]一种基于Bi-LSTM-CNN的混合语料命名实体识别方法有效

专利信息
申请号: 201710946532.8 申请日: 2017-10-12
公开(公告)号: CN107797987B 公开(公告)日: 2021-02-09
发明(设计)人: 唐华阳;岳永鹏;刘林峰 申请(专利权)人: 北京知道未来信息技术有限公司
主分类号: G06F40/279 分类号: G06F40/279;G06F40/205;G06N3/04;G06N3/08
代理公司: 北京君尚知识产权代理有限公司 11200 代理人: 邱晓锋
地址: 100102 北京市朝阳区阜*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 bi lstm cnn 混合 语料 命名 实体 识别 方法
【权利要求书】:

1.一种基于Bi-LSTM-CNN的混合语料命名实体识别方法,其特征在于,包括以下步骤:

1)将原始混合语料数据OrgData转化为字符级的混合语料数据NewData;

2)统计NewData中的字符,得到字符集合CharSet,将每个字符进行编号,得到字符集合CharSet对应的字符编号集合CharID;统计NewData中字符的标签,得到标签集合LabelSet,将每个标签进行编号,得到标签集合LabelSet对应的标签编号集合LabelID;

3)将NewData按照句子长度对句子进行分组,得到包括n组句子的数据集合GroupData;

4)随机无放回的从GroupData的某组中抽取BatchSize句数据w,以及对应的标签y,并将抽取的数据w通过CharID转换为固定长度的数据BatchData,将对应的标签通过LabelID转换为固定长度的标签yID

5)将数据BatchData及标签yID送入基于Bi-LSTM-CNN的深度学习模型,训练该深度学习模型的参数,当深度学习模型产生的损失值满足设定条件或者达到最大迭代次数N,则终止该深度学习模型的训练;否则采用步骤4)重新生成数据以训练该深度学习模型;

6)将待预测的数据PreData转换成与该深度学习模型匹配的数据PreMData,并将其送入训练好的该深度学习模型,得到命名实体识别结果OrgResult。

2.如权利要求1所述的方法,其特征在于,步骤1)包括:

1-1)将原始混合语料数据中的数据与标签分离,并对数据的每个词语进行字符级切分;

1-2)采用BMESO的标记方式对每个字符进行标记:设某个词语对应的标签为Label,则位于该词语最开始的字符标记为Label_B,位于该词语中间的字符标记为Label_M,位于该词语末尾的词语标记为Label_E,若该词语只有一个字符则标记为Label_S,若该词语没有带标签或者不属于实体标签则标记为o。

3.如权利要求1所述的方法,其特征在于,步骤3)中,设li表示第i句话的句子长度,lj表示第j句话的句子长度,则将|li-lj|<δ的句子归入一组,其中δ表示句子长度间隔。

4.如权利要求1所述的方法,其特征在于,步骤4)包括:

4-1)将抽取到的数据w转换成数字,也即通过CharSet与CharID的对应关系,将w中的每个字符转换成对应的数字;

4-2)将抽取的数据w对应的标签y转换成数字,也即通过LabelSet与LabelID的对应关系,将y中的每个字符转换成对应的数字;

4-3)假设规定长度为maxLen,当抽取到的数据句子长度l<maxLen时,将句子后面补maxLen-l个0,得到BatchData,并将w对应的标签y后面补maxLen-l个0,得到yID

5.如权利要求1所述的方法,其特征在于,步骤5)所述基于Bi-LSTM-CNN的深度学习模型包括:

Embedding层,用于将输入的字符数据转换为向量;

Bi-LSTM层,包含若干正向和反向的LSTM单元,用于提取字符间的语义关系;

Concatenate层,用于将正向和反向的LSTM单元提取到的语义信息拼接在一起;

第一个DropOut层,用于防止模型过拟合;

Conv层,用于将整句话与当前单个字符通过LSTM提取得到的语义信息抽象出词特征;

第二个DropOut层,用于防止模型过拟合;

SoftMax层,用于对每个字符进行分类。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京知道未来信息技术有限公司,未经北京知道未来信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201710946532.8/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top