[发明专利]一种中文文本纠错方法、系统、终端设备及存储介质在审

专利信息
申请号: 202210088920.8 申请日: 2022-01-25
公开(公告)号: CN114510925A 公开(公告)日: 2022-05-17
发明(设计)人: 聂海姣;吴高丽;邱银贵 申请(专利权)人: 森纵艾数(北京)科技有限公司
主分类号: G06F40/232 分类号: G06F40/232;G06F40/205;G06F16/35;G06N3/04;G06N3/08
代理公司: 北京维正专利代理有限公司 11508 代理人: 谢明晖
地址: 101300 北京市顺*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 中文 文本 纠错 方法 系统 终端设备 存储 介质
【权利要求书】:

1.一种中文文本纠错方法,其特征在于,包括以下步骤:

接收初始文档,对所述初始文档进行预处理,得到待处理文本;

基于预设的第一模型对所述待处理文本进行错误筛选处理,得到第一文本;

基于预设的第二模型对所述第一文本进行初步纠错处理,纠正第一文本中的错误字符,得到第二文本;

基于预设的第三模型对所述第二文本进行精调纠错处理,调整所述第二文本的文本长度,得到最终文本。

2.根据权利要求1所述的一种中文文本纠错方法,其特征在于,所述对所述初始文档进行预处理,得到待处理文本包括以下步骤:

对所述初始文档进行分句,得到第一文档;

基于预设的字数阈值对所述第一文档中的句子进行处理,得到第二文档;

将所述第二文档中的英文字母进行调整,得到待处理文本。

3.根据权利要求1所述的一种中文文本纠错方法,其特征在于,所述基于预设的第一模型对所述待处理文本进行错误筛选处理,得到第一文本包括以下步骤:

根据预设的第一模型构建召回模型;

基于所述召回模型对待处理文本中的错误字符进行标记处理,得到第一文本。

4.根据权利要求3所述的一种中文文本纠错方法,其特征在于,所述基于预设的第二模型对所述第一文本进行初步纠错处理,纠正第一文本中的错误字符,得到第二文本包括以下步骤:

基于所述第一文本对预设的第二模型进行领域预训练,得到初步纠错模型;

对所述初步纠错模型进行训练,基于所述初步纠错模型对所述错误字符进行纠错处理,得到第二文本。

5.根据权利要求4所述的一种中文文本纠错方法,其特征在于,所述基于预设的第三模型对所述第二文本进行精调纠错处理,调整所述第二文本的文本长度,得到最终文本包括以下步骤:

预设第三模型,所述第三模型包括编码层和解码层;

在所述解码层后接入输出层,构建精调纠错模型;

基于所述精调纠错模型对所述第二文本进行精调纠错处理,调整所述第二文本的文本长度,得到最终文本。

6.一种中文文本纠错系统,其特征在于,包括预处理模块(1)、召回模块(2)、初步纠错模块(3)和精调纠错模块(4),所述召回模块(2)与所述预处理模块(1)连接,所述初步纠错模块(3)与所述召回模块(2)连接,所述精调纠错模块(4)与所述初步纠错模块(3)连接;

所述预处理模块(1),用于接收初始文档,并对所述初始文档进行预处理,得到待处理文本;

所述召回模块(2),用于基于预设的第一模型对所述待处理文本进行错误筛选处理,得到第一文本;

所述初步纠错模块(3),基于预设的第二模型对所述第一文本进行初步纠错处理,纠正第一文本中的错误字符,得到第二文本;

所述精调纠错模块(4),基于预设的第三模型对所述第二文本进行精调纠错处理,调整所述第二文本的文本长度,得到最终文本。

7.根据权利要求6所述的一种中文文本纠错系统,其特征在于,所述初步纠错模块(3)包括预训练单元(31)、提取单元和初步纠错单元(32),所述初步纠错单元(32)与所述提取单元连接;

所述预训练单元(31),用于基于所述第一文本对预设的第二模型进行领域预训练,得到预训练后的初步纠错模型;

所述初步纠错单元(32),基于所述初步纠错模型和预设的词表对所述错误字符进行纠错处理,得到第二文本。

8.根据权利要求7所述的一种中文文本纠错系统,其特征在于,所述精调纠错模块(4)包括构建单元(41)和精调纠错单元(42);

所述构建单元(41),用于构建第三模型,所述第三模型包括编码层和解码层,并在所述解码层后接入输出层,构建精调纠错模型;

所述精调纠错单元(42),用于基于所述精调纠错模型对所述第二文本进行精调纠错处理,得到最终文本。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于森纵艾数(北京)科技有限公司,未经森纵艾数(北京)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210088920.8/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top