[发明专利]基于BERT的数据纠错方法、装置、设备及存储介质

权利要求书

1.一种基于BERT的数据纠错方法，其特征在于，包括：

获取待纠错源数据，识别所述待纠错源数据中的异常数据，并确定所述异常数据对应的候选数据集合，所述候选数据集合中包括一个或多个候选数据；

调用基于BERT的掩码语言模型对所述异常数据进行掩码处理，得到所述异常数据对应的候选数据排序结果；

根据所述异常数据对应的候选数据排序结果中排在第一位的候选数据，确定所述异常数据对应的替换数据；

根据所述替换数据对所述异常数据进行替换，得到所述待纠错源数据的目标数据。

2.根据权利要求1所述的方法，其特征在于，所述调用基于BERT的掩码语言模型对所述异常数据进行掩码处理，得到所述异常数据对应的候选数据排序结果，包括：

将所述待纠错源数据输入到基于BERT的掩码语言模型，所述基于BERT的掩码语言模型是根据目标领域的训练数据集对初始掩码语言模型进行微调处理得到的；

利用所述基于BERT的掩码语言模型对所述待纠错源数据中异常数据对应的异常数据位置进行掩码处理，确定所述候选数据集合中每一个候选数据在所述异常数据位置的出现概率；

对所述候选数据集合中每一个候选数据在所述异常数据位置的出现概率进行降序排序，得到所述异常数据对应的候选数据排序结果。

3.根据权利要求2所述的方法，其特征在于，所述利用所述基于BERT的掩码语言模型对所述待纠错源数据中的异常数据位置进行掩码处理，确定所述候选数据集合中每一个候选数据在所述异常数据位置的出现概率，包括：

利用所述基于BERT的掩码语言模型对所述待纠错源数据中异常数据位置进行掩码处理，得到针对参考字典中所有参考数据对应的置信度集合，所述置信度集合包括所述参考字典中每一个参考数据对应的置信度；

从所述置信度集合中确定所述候选数据集合中每一个候选数据的置信度；

将所述每一个候选数据的置信度确定为所述每一个候选数据在所述异常数据位置的出现概率。

4.根据权利要求3所述的方法，其特征在于，所述从所述置信度集合中确定所述候选数据集合中每一个候选数据的置信度，包括：

针对所述候选数据集合中的任一候选数据，将所述参考字典中的各个参考数据与所述候选数据进行匹配；

确定匹配到的参考数据在所述参考字典中的指定位置；

确定所述指定位置在所述置信度集合中的目标位置，将所述置信度集合中处于所述目标位置的置信度确定为所述候选数据的置信度。

5.根据权利要求3或4所述的方法，其特征在于，所述根据所述异常数据对应的候选数据排序结果中排在第一位的候选数据，确定所述异常数据对应的替换数据，包括：

将所述异常数据对应的候选数据排序结果中排在第一位的候选数据确定为所述异常数据的候选替换数据；

检测所述候选替换数据是否满足预设选取规则；

当检测到所述候选替换数据满足所述预设选取规则时，则将所述候选替换数据确定为所述异常数据对应的替换数据。

6.根据权利要求5所述的方法，其特征在于，所述检测到所述候选替换数据满足所述预设选取规则之前，还包括：

根据所述置信度集合确定所述异常数据的置信度；

检测所述候选替换数据的出现概率和所述异常数据的置信度之间的差值是否大于或等于预设阈值；

当检测到所述候选替换数据的出现概率和所述异常数据的置信度之间的差值大于或等于所述预设阈值时，则确定检测到所述候选替换数据满足所述预设选取规则。