[发明专利]基于级联模型和数据增强的法律命名实体识别方法及系统在审
| 申请号: | 202110828255.7 | 申请日: | 2021-07-22 |
| 公开(公告)号: | CN113609857A | 公开(公告)日: | 2021-11-05 |
| 发明(设计)人: | 李晓林;陈卓豪;黄磊;黄博文;危欢;熊文菲 | 申请(专利权)人: | 武汉工程大学 |
| 主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/30;G06K9/62;G06N3/04;G06N3/08 |
| 代理公司: | 湖北武汉永嘉专利代理有限公司 42102 | 代理人: | 许美红 |
| 地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 级联 模型 数据 增强 法律 命名 实体 识别 方法 系统 | ||
本发明公开了一种基于级联模型和数据增强的法律命名实体识别方法,包括以下步骤:对经过数据增强后的训练数据进行处理,构建带有上下文语义的字符级别的向量表示和带有上下文语义的词语级别的向量表示;S2、将两个向量表示进行融合;S3、使用BiLSTM双向长短记忆神经网络对融合字词特征的向量表示进行处理,提取文本的深层特征;S4、使用两个CRF条件随机场解码,得到实体序列和属性序列并拼接,得到最后的标签表示;S5、将最后的标签表示与验证集进行比较,调整模型参数信息,反复训练,得到最好的模型;S6、输入中文法律文书案列,模型自动进行判断并输出法律文书中的法律实体。
技术领域
本发明涉及中文语言处理及识别技术领域,尤其涉及基于级联模型和数据增强的法律命名实体识别方法及系统。
背景技术
使用人工智能技术建立智慧法院系统,能够帮助法务人员对相似案件作出裁决,提高办案的效率。要对法律文书进行语义理解,首先要解决的就是法律实体的识别问题。NER(Named Entity Recognition,命名实体识别)是指从文本中抽取特定的命名实体的过程,是一个序列标注的分裂任务,对每一个输入的字符,赋予可能性最大的标注序列。如输入“武汉市”,那么输出对应“武”的标签为“B-L”。前部分的“B”包含着实体的标识信息,后部分“L”是用户定义的特定属性的信息。传统的NER任务将实体和属性作为一个组合标记进行识别。
现有的中文命名实体识别方法主要分为机器学习方法和深度学习方法。机器学习方法需要预先设计规则模式,然后通过字符串搜索和匹配的手段实现实体的识别。但易受预先规则的限制,可移植性较差,对未登录词的识别效果不佳。深度学习方法相比机器学习方法具有更高的准确性,但仍存在实体嵌套、实体堆叠等问题。长度较长和相关联性较强的法律实体,会导致上述问题更加严重。例如“上海市静安区西苏州路85弄静安河滨花园小区”在法律文书中被视作为一个地址实体,而传统的方法在识别时往往会在“上海市”、“静安区”处进行划分,无法达到法律实体识别的要求。
发明内容
本发明主要目的在于,提供一种基于级联结构和数据增强的法律文书法律命名实体识别方法,通过大量的数据,训练一个级联结构的深度学习经验模型,对输入的中文法律文书中的命名实体自动进行识别,同时,通过对法律文书进行标签线性化数据增强操作,提高数据的数量以及质量,从而使上述深度模型具有更高的鲁棒性和适用性。
本发明所采用的技术方案是:提供一种基于级联模型和数据增强的法律命名实体识别方法,其特征在于,包括以下步骤:
S1、对经过数据增强后的训练数据进行处理,构建带有上下文语义的字符级别的向量表示,并构建带有上下文语义的词语级别的向量表示;
S2、将字符级别的向量表示和词语级别的向量表示进行融合,将每个字符向量后面放置与其对应的词语向量,完成向量拼接,生成融合字词特征的向量表示;
S3、使用BiLSTM双向长短记忆神经网络对融合字词特征的向量表示进行处理,提取文本的深层特征;
S4、使用两个CRF条件随机场,分别按照实体规则和属性规则对BiLSTM层的结果进行解码,得到实体序列和属性序列;并将实体序列和属性序列进行拼接,得到最后的标签表示;
S5、将最后的标签表示与验证集进行比较,调整模型参数信息,再次训练,直至验证集测试的指标水平趋于稳定,选取稳定前,指标性能最好的模型;
S6、输入中文法律文书案列,模型自动进行判断并输出法律文书中的法律实体。
接上述技术方案,训练数据为经过增强后的数据与经过过采样后的原始数据进行1:1混合得到。
接上述技术方案,具体使用标签线性化数据增强方法对法律判决文书数据集进行处理,将数据的实体标签放置于中文字符前,生成增强数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉工程大学,未经武汉工程大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110828255.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种心内科用热敏纸储存装置
- 下一篇:一种端到端数据保护方法和系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





