[发明专利]一种中文文本纠错方法、系统、终端设备及存储介质在审
申请号: | 202210088920.8 | 申请日: | 2022-01-25 |
公开(公告)号: | CN114510925A | 公开(公告)日: | 2022-05-17 |
发明(设计)人: | 聂海姣;吴高丽;邱银贵 | 申请(专利权)人: | 森纵艾数(北京)科技有限公司 |
主分类号: | G06F40/232 | 分类号: | G06F40/232;G06F40/205;G06F16/35;G06N3/04;G06N3/08 |
代理公司: | 北京维正专利代理有限公司 11508 | 代理人: | 谢明晖 |
地址: | 101300 北京市顺*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 中文 文本 纠错 方法 系统 终端设备 存储 介质 | ||
1.一种中文文本纠错方法,其特征在于,包括以下步骤:
接收初始文档,对所述初始文档进行预处理,得到待处理文本;
基于预设的第一模型对所述待处理文本进行错误筛选处理,得到第一文本;
基于预设的第二模型对所述第一文本进行初步纠错处理,纠正第一文本中的错误字符,得到第二文本;
基于预设的第三模型对所述第二文本进行精调纠错处理,调整所述第二文本的文本长度,得到最终文本。
2.根据权利要求1所述的一种中文文本纠错方法,其特征在于,所述对所述初始文档进行预处理,得到待处理文本包括以下步骤:
对所述初始文档进行分句,得到第一文档;
基于预设的字数阈值对所述第一文档中的句子进行处理,得到第二文档;
将所述第二文档中的英文字母进行调整,得到待处理文本。
3.根据权利要求1所述的一种中文文本纠错方法,其特征在于,所述基于预设的第一模型对所述待处理文本进行错误筛选处理,得到第一文本包括以下步骤:
根据预设的第一模型构建召回模型;
基于所述召回模型对待处理文本中的错误字符进行标记处理,得到第一文本。
4.根据权利要求3所述的一种中文文本纠错方法,其特征在于,所述基于预设的第二模型对所述第一文本进行初步纠错处理,纠正第一文本中的错误字符,得到第二文本包括以下步骤:
基于所述第一文本对预设的第二模型进行领域预训练,得到初步纠错模型;
对所述初步纠错模型进行训练,基于所述初步纠错模型对所述错误字符进行纠错处理,得到第二文本。
5.根据权利要求4所述的一种中文文本纠错方法,其特征在于,所述基于预设的第三模型对所述第二文本进行精调纠错处理,调整所述第二文本的文本长度,得到最终文本包括以下步骤:
预设第三模型,所述第三模型包括编码层和解码层;
在所述解码层后接入输出层,构建精调纠错模型;
基于所述精调纠错模型对所述第二文本进行精调纠错处理,调整所述第二文本的文本长度,得到最终文本。
6.一种中文文本纠错系统,其特征在于,包括预处理模块(1)、召回模块(2)、初步纠错模块(3)和精调纠错模块(4),所述召回模块(2)与所述预处理模块(1)连接,所述初步纠错模块(3)与所述召回模块(2)连接,所述精调纠错模块(4)与所述初步纠错模块(3)连接;
所述预处理模块(1),用于接收初始文档,并对所述初始文档进行预处理,得到待处理文本;
所述召回模块(2),用于基于预设的第一模型对所述待处理文本进行错误筛选处理,得到第一文本;
所述初步纠错模块(3),基于预设的第二模型对所述第一文本进行初步纠错处理,纠正第一文本中的错误字符,得到第二文本;
所述精调纠错模块(4),基于预设的第三模型对所述第二文本进行精调纠错处理,调整所述第二文本的文本长度,得到最终文本。
7.根据权利要求6所述的一种中文文本纠错系统,其特征在于,所述初步纠错模块(3)包括预训练单元(31)、提取单元和初步纠错单元(32),所述初步纠错单元(32)与所述提取单元连接;
所述预训练单元(31),用于基于所述第一文本对预设的第二模型进行领域预训练,得到预训练后的初步纠错模型;
所述初步纠错单元(32),基于所述初步纠错模型和预设的词表对所述错误字符进行纠错处理,得到第二文本。
8.根据权利要求7所述的一种中文文本纠错系统,其特征在于,所述精调纠错模块(4)包括构建单元(41)和精调纠错单元(42);
所述构建单元(41),用于构建第三模型,所述第三模型包括编码层和解码层,并在所述解码层后接入输出层,构建精调纠错模型;
所述精调纠错单元(42),用于基于所述精调纠错模型对所述第二文本进行精调纠错处理,得到最终文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于森纵艾数(北京)科技有限公司,未经森纵艾数(北京)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210088920.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:疫苗接种棚屋
- 下一篇:一种基于分数阶卷积神经网络的水下图像增强方法