[发明专利]表格信息提取模型的训练方法及装置在审

专利信息
申请号: 202111000445.6 申请日: 2021-08-27
公开(公告)号: CN113723278A 公开(公告)日: 2021-11-30
发明(设计)人: 李彦达;郝东 申请(专利权)人: 上海云从汇临人工智能科技有限公司
主分类号: G06K9/00 分类号: G06K9/00;G06K9/46;G06K9/62;G06F40/126;G06F40/18
代理公司: 北京瀚仁知识产权代理事务所(普通合伙) 11482 代理人: 宋宝库;郭婷
地址: 200120 上海市浦东*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 表格 信息 提取 模型 训练 方法 装置
【说明书】:

本申请公开了一种表格信息提取模型的训练方法,包括:对表格语料的单元格进行处理,得到单元格的特征向量;根据单元格的位置信息计算邻接矩阵,对单元格的特征向量和邻接矩阵进行特征抽取,得到单元格的高阶特征向量;利用高阶特征向量预测单元格的原始文本,并利用单元格的文本进行模型训练,得到表格语言模型;利用当前表格信息提取任务对应的训练样本对表格语言模型进行训练,得到表格信息提取模型。针对每个不同的表格提取任务,只需要在已训练好的表格语言模型的基础上,利用不同任务对应的少量的训练样本训练得到相应的表格信息提取模型,每次训练都无需再对表格语言模型进行训练,明显减少了训练时间和训练样本。

技术领域

本申请涉及人工智能技术领域,具体涉及一种表格信息提取模型的训练方法及装置。

背景技术

随着信息化技术的日益普及,从表格中提取信息的需求也日益突出。目前,主要是利用规则算法从表格中提取信息。然而,由于规则算法缺乏泛化性,针对每种类型的表格以及不同的提取需求都需要重新开发对应的规则算法,不仅使得开发任务重,算法重复利用价值低,还导致不同的提取任务适应性较差,表格信息的提取效率低。

发明内容

本申请提供一种表格信息提取模型的训练方法及装置,以解决现有技术中的一个或多个技术问题。

本实施例提供一种表格信息提取模型的训练方法,包括:

对表格语料的单元格进行处理,得到单元格的特征向量;

根据单元格的位置信息计算邻接矩阵,对所述单元格的特征向量和所述邻接矩阵进行特征抽取,得到单元格的高阶特征向量;

利用所述高阶特征向量预测单元格的原始文本,并利用所述单元格的文本进行模型训练,得到表格语言模型;

利用当前表格类型提取任务对应的训练样本对所述表格语言模型进行训练,得到表格信息提取模型。

在一种实施方式中,所述根据表格语料的单元格进行处理,得到单元格的特征向量,包括:

对所述表格语料的单元格进行掩码,得到单元格的掩码文本;

对所述掩码文本进行编码,得到单元格的文本特征向量序列;

对所述文本特征向量序列进行特征融合,得到单元格的文本特征向量;

根据单元格的行信息和列信息,得到单元格的行特征向量和列特征向量;

对所述文本特征向量、所述行特征向量和所述列特征向量,进行特征融合,得到单元格的特征向量。

在一种实施方式中,所述根据单元格的位置信息计算邻接矩阵,包括:

根据所述单元格的位置信息,获取与所述单元格同行的单元格,以及同列的单元格;

根据所述单元格与所述同行的单元格之间的信息交互,计算所述同行的单元格对应的权重;

根据所述单元格与所述同列的单元格之间的信息交互,计算所述同列的单元格对应的权重;

根据所述同行的单元格对应的权重和所述同列的单元格对应的权重,构建所述邻接矩阵。

在一种实施方式中,所述对所述单元格的特征向量和所述邻接矩阵进行特征抽取,得到单元格的高阶特征向量,包括:

按照所述邻接矩阵,所述单元格的特征向量分别与所述同行的单元格的特征向量,及所述同列单元格的特征向量进行融合,得到所述高阶特征向量。

在一种实施方式中,所述利用所述高阶特征向量预测单元格的原始文本,包括:

以所述高阶特征向量作为初始向量,对所述单元格的掩码文本进行解码,得到所述单元格的原始文本。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海云从汇临人工智能科技有限公司,未经上海云从汇临人工智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111000445.6/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top