[发明专利]表格信息提取模型的训练方法及装置在审
申请号: | 202111000445.6 | 申请日: | 2021-08-27 |
公开(公告)号: | CN113723278A | 公开(公告)日: | 2021-11-30 |
发明(设计)人: | 李彦达;郝东 | 申请(专利权)人: | 上海云从汇临人工智能科技有限公司 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/46;G06K9/62;G06F40/126;G06F40/18 |
代理公司: | 北京瀚仁知识产权代理事务所(普通合伙) 11482 | 代理人: | 宋宝库;郭婷 |
地址: | 200120 上海市浦东*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 表格 信息 提取 模型 训练 方法 装置 | ||
本申请公开了一种表格信息提取模型的训练方法,包括:对表格语料的单元格进行处理,得到单元格的特征向量;根据单元格的位置信息计算邻接矩阵,对单元格的特征向量和邻接矩阵进行特征抽取,得到单元格的高阶特征向量;利用高阶特征向量预测单元格的原始文本,并利用单元格的文本进行模型训练,得到表格语言模型;利用当前表格信息提取任务对应的训练样本对表格语言模型进行训练,得到表格信息提取模型。针对每个不同的表格提取任务,只需要在已训练好的表格语言模型的基础上,利用不同任务对应的少量的训练样本训练得到相应的表格信息提取模型,每次训练都无需再对表格语言模型进行训练,明显减少了训练时间和训练样本。
技术领域
本申请涉及人工智能技术领域,具体涉及一种表格信息提取模型的训练方法及装置。
背景技术
随着信息化技术的日益普及,从表格中提取信息的需求也日益突出。目前,主要是利用规则算法从表格中提取信息。然而,由于规则算法缺乏泛化性,针对每种类型的表格以及不同的提取需求都需要重新开发对应的规则算法,不仅使得开发任务重,算法重复利用价值低,还导致不同的提取任务适应性较差,表格信息的提取效率低。
发明内容
本申请提供一种表格信息提取模型的训练方法及装置,以解决现有技术中的一个或多个技术问题。
本实施例提供一种表格信息提取模型的训练方法,包括:
对表格语料的单元格进行处理,得到单元格的特征向量;
根据单元格的位置信息计算邻接矩阵,对所述单元格的特征向量和所述邻接矩阵进行特征抽取,得到单元格的高阶特征向量;
利用所述高阶特征向量预测单元格的原始文本,并利用所述单元格的文本进行模型训练,得到表格语言模型;
利用当前表格类型提取任务对应的训练样本对所述表格语言模型进行训练,得到表格信息提取模型。
在一种实施方式中,所述根据表格语料的单元格进行处理,得到单元格的特征向量,包括:
对所述表格语料的单元格进行掩码,得到单元格的掩码文本;
对所述掩码文本进行编码,得到单元格的文本特征向量序列;
对所述文本特征向量序列进行特征融合,得到单元格的文本特征向量;
根据单元格的行信息和列信息,得到单元格的行特征向量和列特征向量;
对所述文本特征向量、所述行特征向量和所述列特征向量,进行特征融合,得到单元格的特征向量。
在一种实施方式中,所述根据单元格的位置信息计算邻接矩阵,包括:
根据所述单元格的位置信息,获取与所述单元格同行的单元格,以及同列的单元格;
根据所述单元格与所述同行的单元格之间的信息交互,计算所述同行的单元格对应的权重;
根据所述单元格与所述同列的单元格之间的信息交互,计算所述同列的单元格对应的权重;
根据所述同行的单元格对应的权重和所述同列的单元格对应的权重,构建所述邻接矩阵。
在一种实施方式中,所述对所述单元格的特征向量和所述邻接矩阵进行特征抽取,得到单元格的高阶特征向量,包括:
按照所述邻接矩阵,所述单元格的特征向量分别与所述同行的单元格的特征向量,及所述同列单元格的特征向量进行融合,得到所述高阶特征向量。
在一种实施方式中,所述利用所述高阶特征向量预测单元格的原始文本,包括:
以所述高阶特征向量作为初始向量,对所述单元格的掩码文本进行解码,得到所述单元格的原始文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海云从汇临人工智能科技有限公司,未经上海云从汇临人工智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111000445.6/2.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置