[发明专利]自然语言修正方法、系统、设备及存储介质

说明书

本发明提供了一种自然语言修正方法、系统、设备及存储介质，该方法包括将修正前文本字向量序列作为模型输入，修正后文本字向量序列作为模型输出，训练修正用的序列到序列模型；采用训练用的正确文本作为语言模型的训练集，统计所有r个字符联合连续出现的概率，r为预设统计细度；将待修正文本自向量序列输入所述修正用的序列到序列模型，输出多个候选语句；将多个候选语句输入所述语言模型，分别计算每个候选语句的出现概率，将出现概率最高的候选语句作为输出的修正语句。通过采用本发明的方案，取代传统自然语言处理方法解决中文的自然语言修正问题，降低维护成本，使准确率得到大幅提升。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种自然语言修正方法、系统、设备及存储介质。

背景技术

在自然语言处理领域，经常要处理文本信息，因为文本来源的不同，可能会存在错别字、错误语法等错误情况。自然语言修正技术广泛应用于纠正文本的错误，将错误句子、短语或词语纠正成为正确的、可处理的文本信息，其中纠正错误句子的应用最为常见。

目前最广泛的中文自然语言修正系统，使用了传统自然语言处理(NLP)技术，从两个方面去解决句子的修正问题：一、预先设定好包含所有错词的错词库，匹配出句子中的错误词语，将错误词语纠正为备选的正确词语，生成多个备选句子；二、通过语言模型，比如n-gram模型，计算整句话词语组合的概率，筛选出概率较高的备选句子，将原句替换成该句子。

但由于语言表达的多样性，导致了通过错词库匹配错词的准确率比较低，而且不能纠正一些语法和标点符号的错误。同时该方法需要投入大量人力收集和整理错词库，因此在企业实际应用中，基于传统自然语言处理的自然语言修正系统，无论是准确率还是成本都不能满足很好的在线应用需求。

发明内容

针对现有技术中的问题，本发明的目的在于提供一种自然语言修正方法、系统、设备及存储介质，取代传统自然语言处理方法解决中文的自然语言修正问题，降低维护成本，使准确率得到大幅提升。

本发明实施例提供一种自然语言修正方法，所述方法包括如下步骤：

将训练用的修正前文本和修正后文本进行预处理得到修正前文本字向量序列和修正后文本字向量序列；

将修正前文本字向量序列作为模型输入，修正后文本字向量序列作为模型输出，训练修正用的序列到序列模型；

采用训练用的正确文本作为语言模型的训练集，统计所有r个字符联合连续出现的概率，r为预设统计细度；

将待修正文本进行预处理得到待修正文本字向量序列；

将待修正文本自向量序列输入所述修正用的序列到序列模型，输出多个候选语句；

将多个候选语句输入所述语言模型，分别计算每个候选语句的出现概率，将出现概率最高的候选语句作为输出的修正语句。

可选地，所述训练修正模型，包括编码步骤和解码步骤，所述编码步骤包括如下步骤：

(1)将参与训练的修正前文本的每个句子中字符的个数固定为m，不足部分用预设字符补充完整，字向量的长度为n，根据句子中每个字符的字向量将每个句子转化为m×n的矩阵，得到编码步骤输入的句子的向量矩阵[x₁,x₂,…,x_t,…]；

(2)针对每一个句子的向量矩阵x_t，采用双向门控循环单元模型，设定当前时刻更新门单元和重置门单元的输出分别为z_t和r_t，当前时刻cell状态的值为满足如下公式：

z_t＝σ(W_z·[h_t-1,x_t])