[发明专利]一种文本识别方法及系统

说明书

本发明涉及一种文本识别方法及系统。该方法包括获取训练数据集；构建以深度残差网络作为特征提取模块，以双向长短期记忆网络作为序列变换模块的教师模型；并利用训练数据集训练所述教师模型；构建以深度可分离卷积、具有线性瓶颈的逆残差结构以及Hardswish激活函数确定的特征提取模块，以全卷积结构确定的序列变换模块的学生模型；根据训练好的教师模型和所述学生模型构建蒸馏框架；并利用所述训练数据集以及所述训练好的教师模型，蒸馏训练所述学生模型；利用测试数据集对训练好的学生模型进行测试，进而利用测试完成的学生模型进行文本识别。本发明在参数量和计算量减小的同时，提高识别准确率。

技术领域

本发明涉及文本识别领域，特别是涉及一种文本识别方法及系统。

背景技术

作为人类最有影响的发明之一，文字在人类生活中发挥了重要作用。光学字符识别(Optical Character Recognition，OCR)是由计算机处理光学图像进而识别其中的文本信息并转化为数字格式进行输出的技术，具有悠久的研究历史和广泛的应用场景，如电子文件分拣，身份信息识别，工业自动化，数字金融系统和车辆车牌识别等。传统的OCR基于图像处理(二值化、连通域分析、投影分析等)和统计机器学习(Adaboost、SVM)，过去20年间在印刷体和扫描文档上取得了不错的效果。但随着时代的发展与移动设备的普及，对拍摄图像中的文字识别成为主流需求，即对场景中文字的识别需求越来越突出，使用人工提取特征的传统OCR方法面对千变万化的场景文本会出现无法识别的情况。随着硬件性能的不断提升，使用深度学习方法代替人工提取特征成为了目前OCR的主流方法。然而，随着深度学习OCR技术的进步，模型规模越来越大，如英文场景下CRNN参数量为8.3MB，改进后的STAR-Net大小是48.7MB，使用语义信息提升识别准确率的SRN参数量更是高达910MB，边缘端设备存储资源有限，模型参数量过大阻碍了深度学习OCR模型在边缘端的应用。因而亟需识别准确率并且规模小的文本识别深度学习模型。

发明内容

本发明的目的是提供一种文本识别方法及系统，在参数量和计算量减小的同时，提高识别准确率。

为实现上述目的，本发明提供了如下方案：

一种文本识别方法，包括：

获取训练数据集；所述训练数据集为标有文本标签的图片集合；

构建以深度残差网络作为特征提取模块，以双向长短期记忆网络作为序列变换模块的教师模型；并利用训练数据集训练所述教师模型；所述教师模型用于根据输入的图片，输出对应的标签；

构建以深度可分离卷积、具有线性瓶颈的逆残差结构以及Hardswish激活函数确定的特征提取模块，以全卷积结构确定的序列变换模块的学生模型；

根据训练好的教师模型和所述学生模型构建蒸馏框架；并利用所述训练数据集以及所述训练好的教师模型，蒸馏训练所述学生模型；

利用测试数据集对训练好的学生模型进行测试，进而利用测试完成的学生模型进行文本识别。

可选地，所述根据训练好的教师模型和所述学生模型构建蒸馏框架，具体包括：

将所述训练好的教师模型和所述学生模型的不同层进行连接，确定蒸馏路径；所述蒸馏路径包括：4条视觉特征蒸馏路径、1条序列特征蒸馏路径以及1条软标签蒸馏路径；

根据所述蒸馏路径确定变换函数和相似度函数。

可选地，所述并利用所述训练数据集以及所述训练好的教师模型，蒸馏训练所述学生模型，具体包括：

利用公式确定蒸馏训练时学生模型的损失函数；

其中，为不同的视觉特征蒸馏路径上的损失函数，i∈[1,4]，α、β以及γ均为训练前设置的超参数，为序列特征蒸馏路径上的损失函数，为软标签蒸馏路径上的损失函数，为训练好的教师模型的损失函数。