[发明专利]文本纠错方法、系统、计算机设备及可读存储介质

权利要求书

1.一种文本纠错方法，其特征在于，包括：

数据获取步骤，用于获取待纠错文本数据；

负样本构建步骤，用于创建一混淆字表并根据所述混淆字表将所述待纠错文本进行语料替换，生成负样本；

文本纠错步骤，用于将所述待纠错文本数据及所述负样本数据作为训练数据，将所述训练数据的汉字特征和拼音特征分别经一Soft-Masked BERT预训练模型训练后拼接为训练结果，将所述训练结果经一Softmax层计算交叉熵损失并得到纠错结果。

2.根据权利要求1所述的文本纠错方法，其特征在于，还包括模型优化步骤，用于通过递归预测及词表过滤对所述Soft-Masked BERT预训练模型进行优化。

3.根据权利要求1所述的文本纠错方法，其特征在于，所述文本纠错步骤进一步包括：

词向量获取步骤，用于将所述汉字特征和拼音特征分别经Soft-Masked BERT预训练模型训练，得到汉字的词向量和拼音的词向量；

交叉熵损失获取步骤，用于将所述汉字的词向量和拼音的词向量进行拼接后，经一Softmax层计算所述训练数据中各个位置交叉熵损失之和并输出纠错结果。

4.根据权利要求2所述的文本纠错方法，其特征在于，所述模型优化步骤进一步包括：

递归预测步骤，用于将经所述文本纠错步骤得到的纠错后的句子再次输入所述Soft-Masked BERT预训练模型进行递归纠错；

词表过滤步骤，用于对所述Soft-Masked BERT预训练模型中的词表进行过滤，使所述Soft-Masked BERT预训练模型纠错时的搜索词语数量≤1000。

5.一种文本纠错系统，其特征在于，包括：

数据获取模块，用于获取待纠错文本数据；

负样本构建模块，用于创建一混淆字表并根据所述混淆字表将所述待纠错文本进行语料替换，生成负样本；

文本纠错模块，用于将所述待纠错文本数据及所述负样本数据作为训练数据，将所述训练数据的汉字特征和拼音特征分别经一Soft-Masked BERT预训练模型训练后拼接为训练结果，将所述训练结果经一Softmax层计算交叉熵损失并得到纠错结果。

6.根据权利要求5所述的文本纠错系统，其特征在于，还包括模型优化模块，用于通过递归预测及词表过滤对所述Soft-Masked BERT预训练模型进行优化。

7.根据权利要求5所述的文本纠错系统，其特征在于，所述文本纠错模块进一步包括：

词向量获取模块，用于将所述汉字特征和拼音特征分别经Soft-Masked BERT预训练模型训练，得到汉字的词向量和拼音的词向量；

交叉熵损失获取模块，用于将所述汉字的词向量和拼音的词向量进行拼接后，经一Softmax层计算所述训练数据中各个位置交叉熵损失之和并输出纠错结果。

8.根据权利要求6所述的文本纠错系统，其特征在于，所述模型优化模块进一步包括：

递归预测模块，用于将所述文本纠错模块得到的纠错后的句子再次输入所述Soft-Masked BERT预训练模型进行递归纠错；

词表过滤模块，用于对所述Soft-Masked BERT预训练模型中的词表进行过滤，使所述Soft-Masked BERT预训练模型纠错时的搜索词语数量≤1000。

9.一种计算机设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至4中任一项所述的文本纠错方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1至4中任一项所述的文本纠错方法。