[发明专利]网络模型的训练、文字识别方法、装置和电子设备

说明书

本发明提供了一种网络模型的训练、文字识别方法、装置和电子设备，涉及人工智能技术领域，包括获取多个待训练模型和多个待训练模型的目标训练样本；通过每个待训练模型对目标训练样本分别进行文字识别处理，得到多个文字识别结果，其中，每个文字识别结果表示目标训练样本中每个待识别字符为各个预设字符的预测概率；基于多个文字识别结果和目标训练样本的标签信息确定每个待训练模型的相对熵损失值；其中，相对熵损失值用于表征多个文字识别结果之间的差异程度；通过相对熵损失值调整相对应待训练模型的模型参数，本申请缓解了现有的文字识别模型在进行文字识别的过程中，识别精度差的技术问题。

技术领域

本发明涉及人工智能技术领域，尤其是涉及一种网络模型的训练、文字识别方法、装置和电子设备。

背景技术

在工作过程中，人们经常需要对图片中的文字进行处理，由于图片中的文字不能编辑，因此需要先对该图片进行文字识别。在现有技术中，可以通常采用光学字符识别(optical character recognition，OCR)模型识别图片中的文字。但是该模型识别出的文字的准确率较低，随着人工智能技术的发展，目前可以采用深度学习算法对文字进行识别。在深度学习领域，文字识别方法有很多中，例如，可以为以下几种：第一种为基于注意力机制的文字解码器attention-decoder；第二种为基于CTC-Loss(Connectionist TemporalClassification，联通性暂存识别器的文字识别模型)的模型；第三种为图像分割网络segmentation。

在上述模型的使用过程中发现，基于注意力机制的文字解码器attention-decoder在语言模型的序列建模能力较强，也即，注意力机制的文字解码器attention-decoder背单词的能力较强，而基于图像分割网络segmentation侧重于图像特征的处理。但是，针对一个模型来说，如果依赖于序列建模能力，那么将使得该模型无法识别训练集中没有出现过的文字。如果侧重图像特征，那么在图像质量欠佳的情况下，识别精度会大幅下降。

发明内容

有鉴于此，本发明的目的在于提供一种网络模型的训练、文字识别方法、装置和电子设备，以缓解了现有的文字识别模型在进行文字识别的过程中，识别精度差的技术问题。

第一方面，本发明实施例提供了一种网络模型的训练方法，包括：获取多个待训练模型和所述多个待训练模型的目标训练样本；通过每个待训练模型对所述目标训练样本分别进行文字识别处理，得到多个文字识别结果，其中，每个文字识别结果表示目标训练样本中每个待识别字符为各个预设字符的预测概率；基于所述多个文字识别结果和所述目标训练样本的标签信息确定每个待训练模型的相对熵损失值；其中，所述相对熵损失值用于表征多个文字识别结果之间的差异程度；通过所述相对熵损失值调整相对应待训练模型的模型参数。

进一步地，基于所述多个文字识别结果和所述目标训练样本的标签信息确定每个待训练模型的相对熵损失值包括：在所述多个文字识别结果中确定第一待训练模型的文字识别结果和第二待训练模型的文字识别结果，分别得到第一文字识别结果和第二文字识别结果，其中，所述第一待训练模型为当前时刻所述多个待训练模型中待计算相对熵损失值的模型，所述第二待训练模型为所述多个待训练模型中除所述第一待训练模型之外的其他模型；计算所述第一文字识别结果和所述第二文字识别结果之间的KL散度，得到目标KL散度值；基于所述目标KL散度值、所述第一文字识别结果和所述目标训练样本的标签信息确定所述第一待训练模型的相对熵损失值。

进一步地，所述第二待训练模型的数量为多个；每个第二待训练模型对应一个第二文字识别结果；计算所述第一文字识别结果和所述第二文字识别结果之间的KL散度包括：计算所述第一文字识别结果和每个第二文字识别结果之间的KL散度，得到多个目标KL散度值；基于所述目标KL散度值、所述第一文字识别结果和所述目标训练样本的标签信息确定所述第一待训练模型的相对熵损失值包括：基于所述多个目标KL散度值、所述第一文字识别结果和所述目标训练样本的标签信息确定所述第一待训练模型的相对熵损失值。