[发明专利]中文纠错模型的训练方法、中文纠错方法及装置

权利要求书

1.一种中文纠错模型的训练方法，其特征在于，包括：

基于第一训练数据集对初始模型进行预训练，得到第一预训练模型；

基于所述第一训练数据集和第二训练数据集对所述第一预训练模型进行精调，得到中文纠错模型；

所述第一训练数据集包括多个样本四元组，所述样本四元组是由中文语料、拼音序列、笔画序列以及图片序列四个元素组成的；所述第二训练数据集包括多个相似样本四元组，所述相似样本四元组是基于任一中文语料中的相似字对所述任一中文语料中与其对应的字进行替换得到的。

2.根据权利要求1所述的中文纠错模型的训练方法，其特征在于，所述基于所述第一训练数据集和第二训练数据集对所述第一预训练模型进行精调，得到中文纠错模型，包括：

基于所述第二训练数据集对所述第一预训练模型进行精调，得到第二预训练模型；

基于第三训练数据集对所述第二预训练模型进行精调，得到所述中文纠错模型，所述第三训练数据集是基于所述第一训练数据和所述第二训练数据确定的。

3.根据权利要求1或2所述的中文纠错模型的训练方法，其特征在于，所述第一训练数据集包括错误样本四元组，所述错误样本四元组为包括错误拼音序列、错误笔画序列和错误图片序列中至少一种的四元组；所述错误样本四元组是通过对任一中文语料对应的拼音序列、笔画序列和图片序列中的至少一种进行编辑得到的。

4.根据权利要求3所述的中文纠错模型的训练方法，其特征在于，所述对任一中文语料对应的拼音序列、笔画序列和图片序列中的至少一种进行编辑，包括：

对所述任一中文语料对应的拼音序列或笔画序列采用删除、替换和调序中的至少一项进行编辑；

和/或，

对所述任一中文语料对应的图片序列中的若干个图片的像素值随机进行更改和/或替换。

5.根据权利要求1或2任一项所述的中文纠错模型的训练方法，其特征在于，所述中文纠错模型包括三个编码器和一个解码器，所述三个编码器分别用于对拼音序列的拼音特征向量、笔画序列的笔画特征向量和图片序列的图片特征向量进行编码，所述解码器用于对拼音特征编码、笔画特征编码和图片特征编码进行解码，并生成中文纠正结果。

6.一种中文纠错方法，其特征在于，包括：

确定待纠错的文本；

将所述文本输入至中文纠错模型，得到所述中文纠错模型输出的所述文本的中文纠正结果；

其中，所述中文纠错模型是基于权利要求1-6任一项所述的训练方法训练得到的。

7.一种中文纠错模型的训练装置，其特征在于，包括：

预训练单元，用于基于第一训练数据集对初始模型进行预训练，得到第一预训练模型；

精调单元，用于基于所述第一训练数据集和第二训练数据集对所述第一预训练模型进行精调，得到中文纠错模型；

所述第一训练数据集包括多个样本四元组，所述样本四元组是由中文语料、拼音序列、笔画序列以及图片序列四个元素组成的；所述第二训练数据集包括多个相似样本四元组，所述相似样本四元组是基于任一中文语料中的相似字对所述任一中文语料中与其对应的字进行替换得到的。

8.一种中文纠错装置，其特征在于，包括：

文本确定单元，用于确定待纠错的文本；

中文纠错单元，用于将所述文本输入至中文纠错模型，得到所述中文纠错模型输出的所述文本的中文纠正结果；

其中，所述中文纠错模型是基于权利要求1至5任一项所述的训练方法训练得到的。

9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至5任一项所述的中文纠错模型的训练方法或如权利要求6所述的中文纠错方法的步骤。

10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1至5任一项所述的中文纠错模型的训练方法或如权利要求6所述的中文纠错方法的步骤。