[发明专利]基于级联模型和数据增强的法律命名实体识别方法及系统在审

专利信息
申请号: 202110828255.7 申请日: 2021-07-22
公开(公告)号: CN113609857A 公开(公告)日: 2021-11-05
发明(设计)人: 李晓林;陈卓豪;黄磊;黄博文;危欢;熊文菲 申请(专利权)人: 武汉工程大学
主分类号: G06F40/295 分类号: G06F40/295;G06F40/30;G06K9/62;G06N3/04;G06N3/08
代理公司: 湖北武汉永嘉专利代理有限公司 42102 代理人: 许美红
地址: 430074 湖北*** 国省代码: 湖北;42
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 级联 模型 数据 增强 法律 命名 实体 识别 方法 系统
【说明书】:

发明公开了一种基于级联模型和数据增强的法律命名实体识别方法,包括以下步骤:对经过数据增强后的训练数据进行处理,构建带有上下文语义的字符级别的向量表示和带有上下文语义的词语级别的向量表示;S2、将两个向量表示进行融合;S3、使用BiLSTM双向长短记忆神经网络对融合字词特征的向量表示进行处理,提取文本的深层特征;S4、使用两个CRF条件随机场解码,得到实体序列和属性序列并拼接,得到最后的标签表示;S5、将最后的标签表示与验证集进行比较,调整模型参数信息,反复训练,得到最好的模型;S6、输入中文法律文书案列,模型自动进行判断并输出法律文书中的法律实体。

技术领域

本发明涉及中文语言处理及识别技术领域,尤其涉及基于级联模型和数据增强的法律命名实体识别方法及系统。

背景技术

使用人工智能技术建立智慧法院系统,能够帮助法务人员对相似案件作出裁决,提高办案的效率。要对法律文书进行语义理解,首先要解决的就是法律实体的识别问题。NER(Named Entity Recognition,命名实体识别)是指从文本中抽取特定的命名实体的过程,是一个序列标注的分裂任务,对每一个输入的字符,赋予可能性最大的标注序列。如输入“武汉市”,那么输出对应“武”的标签为“B-L”。前部分的“B”包含着实体的标识信息,后部分“L”是用户定义的特定属性的信息。传统的NER任务将实体和属性作为一个组合标记进行识别。

现有的中文命名实体识别方法主要分为机器学习方法和深度学习方法。机器学习方法需要预先设计规则模式,然后通过字符串搜索和匹配的手段实现实体的识别。但易受预先规则的限制,可移植性较差,对未登录词的识别效果不佳。深度学习方法相比机器学习方法具有更高的准确性,但仍存在实体嵌套、实体堆叠等问题。长度较长和相关联性较强的法律实体,会导致上述问题更加严重。例如“上海市静安区西苏州路85弄静安河滨花园小区”在法律文书中被视作为一个地址实体,而传统的方法在识别时往往会在“上海市”、“静安区”处进行划分,无法达到法律实体识别的要求。

发明内容

本发明主要目的在于,提供一种基于级联结构和数据增强的法律文书法律命名实体识别方法,通过大量的数据,训练一个级联结构的深度学习经验模型,对输入的中文法律文书中的命名实体自动进行识别,同时,通过对法律文书进行标签线性化数据增强操作,提高数据的数量以及质量,从而使上述深度模型具有更高的鲁棒性和适用性。

本发明所采用的技术方案是:提供一种基于级联模型和数据增强的法律命名实体识别方法,其特征在于,包括以下步骤:

S1、对经过数据增强后的训练数据进行处理,构建带有上下文语义的字符级别的向量表示,并构建带有上下文语义的词语级别的向量表示;

S2、将字符级别的向量表示和词语级别的向量表示进行融合,将每个字符向量后面放置与其对应的词语向量,完成向量拼接,生成融合字词特征的向量表示;

S3、使用BiLSTM双向长短记忆神经网络对融合字词特征的向量表示进行处理,提取文本的深层特征;

S4、使用两个CRF条件随机场,分别按照实体规则和属性规则对BiLSTM层的结果进行解码,得到实体序列和属性序列;并将实体序列和属性序列进行拼接,得到最后的标签表示;

S5、将最后的标签表示与验证集进行比较,调整模型参数信息,再次训练,直至验证集测试的指标水平趋于稳定,选取稳定前,指标性能最好的模型;

S6、输入中文法律文书案列,模型自动进行判断并输出法律文书中的法律实体。

接上述技术方案,训练数据为经过增强后的数据与经过过采样后的原始数据进行1:1混合得到。

接上述技术方案,具体使用标签线性化数据增强方法对法律判决文书数据集进行处理,将数据的实体标签放置于中文字符前,生成增强数据。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉工程大学,未经武汉工程大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110828255.7/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top