[发明专利]文本处理方法、模型训练方法、装置、设备及存储介质在审
申请号: | 202211599089.9 | 申请日: | 2022-12-12 |
公开(公告)号: | CN116306527A | 公开(公告)日: | 2023-06-23 |
发明(设计)人: | 杨祎聪;李晓平;顾文斌;孙勇;刘志强 | 申请(专利权)人: | 杭州恒生聚源信息技术有限公司;上海恒生聚源数据服务有限公司 |
主分类号: | G06F40/174 | 分类号: | G06F40/174;G06F40/289;G06F40/30 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 张文娥 |
地址: | 310018 浙江省杭州市杭州经济技术*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 处理 方法 模型 训练 装置 设备 存储 介质 | ||
1.一种文本处理方法,其特征在于,包括:
读取待处理文件中的至少一个单元格的文本;
对所述至少一个单元格的文本添加分隔标记,得到目标处理文本;
将所述目标处理文本输入预先训练的文本处理模型中,识别所述目标处理文本中的各分隔标记所分割的文本是否需要合并,并根据识别结果对所述目标处理文本进行合并处理,得到至少一个目标文本;所述文本处理模型采用具有标注信息的训练样本文本训练得到,标注信息包括添加至训练样本文本中的分隔标记的标签信息、以及分隔标记的位置,所述标签信息基于所述训练样本文本中分割标记所处位置的文本的真实语义生成。
2.根据权利要求1所述的方法,其特征在于,所述对所述至少一个单元格的文本添加分隔标记,得到目标处理文本,包括:
在各相邻的单元格的文本之间添加分隔标记,得到目标处理文本。
3.根据权利要求1所述的方法,其特征在于,所述对所述至少一个单元格的文本添加分隔标记,得到目标处理文本,包括:
在各相邻的单元格的文本之间添加分隔标记,并在各单元格内的文本之间添加分隔标记,得到目标处理文本。
4.根据权利要求3所述的方法,其特征在于,所述在各单元格内的文本之间添加分隔标记,包括:
在各单元格内的文本的至少一个随机位置插入分隔标记,得到所述目标处理文本。
5.根据权利要求3所述的方法,其特征在于,所述在各单元格内的文本之间添加分隔标记,包括:
对单元格内的文本进行分词处理,得到分词处理结果;
根据所述分词处理结果确定所述单元格内的文本中的至少一个完整词语;
从所述至少一个完整词语中确定至少一个目标词语;
在各所述目标词语内添加分隔标记。
6.一种文本处理模型训练方法,其特征在于,所述方法包括:
采集多个第一初始样本文本,并对第一初始样本文本进行预处理,得到第一样本训练文本集,所述第一样本训练文本集中包括多个第一训练样本文本,各第一训练样本文本具有标注信息,所述标注信息包括:添加至第一训练样本文本中的分隔标记的标签信息、以及分隔标记的位置,所述标签信息基于所述第一训练样本文本中分割标记所处位置的文本的真实语义生成;
采用所述第一样本训练文本集,训练获取文本处理模型。
7.根据权利要求6所述的方法,其特征在于,所述采集多个第一初始样本文本,并对第一初始样本文本进行预处理,得到第一样本训练文本集,包括:
从具有预设格式的至少一个样本文件中提取多个第一初始样本文本,各第一初始样本文本包括所述样本文件中至少一个单元格的文本;
对各第一初始样本文本进行降噪,并删除各所述第一初始样本文本中的非文字字符,得到各第一初始样本文本对应的第一预处理后的样本文本;
对第一预处理后的样本文本中的至少一个单元格的文本添加分隔标记,得到第一训练样本文本;
根据各第一训练样本文本,得到所述第一样本训练文本集。
8.根据权利要求6所述的方法,其特征在于,采用所述第一样本训练文本集,训练获取所述文本处理模型,包括:
获取目标领域对应的第二样本训练文本集,所述第二样本训练文本集中各第二训练样本文本的标注信息由用户进行标注;
采用所述第一样本训练文本集、以及所述第二训练样本文本集,训练获取所述文本处理模型。
9.根据权利要求7所述的方法,其特征在于,所述从具有预设格式的至少一个样本文件中提取多个第一初始样本文本,包括:
从具有预设格式的至少一个样本文件中的有线表格中按列向依次提取一整列单元格文本,并将各文本依次串接作为一个第一初始样本文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州恒生聚源信息技术有限公司;上海恒生聚源数据服务有限公司,未经杭州恒生聚源信息技术有限公司;上海恒生聚源数据服务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211599089.9/1.html,转载请声明来源钻瓜专利网。