[发明专利]一种文本识别方法及系统

权利要求书

1.一种文本识别方法，其特征在于，包括：

获取训练数据集；所述训练数据集为标有文本标签的图片集合；

构建以深度残差网络作为特征提取模块，以双向长短期记忆网络作为序列变换模块的教师模型；并利用训练数据集训练所述教师模型；所述教师模型用于根据输入的图片，输出对应的标签；

构建以深度可分离卷积、具有线性瓶颈的逆残差结构以及Hardswish激活函数确定的特征提取模块，以全卷积结构确定的序列变换模块的学生模型；

根据训练好的教师模型和所述学生模型构建蒸馏框架；并利用所述训练数据集以及所述训练好的教师模型，蒸馏训练所述学生模型；

利用测试数据集对训练好的学生模型进行测试，进而利用测试完成的学生模型进行文本识别。

2.根据权利要求1所述的一种文本识别方法，其特征在于，所述根据训练好的教师模型和所述学生模型构建蒸馏框架，具体包括：

将所述训练好的教师模型和所述学生模型的不同层进行连接，确定蒸馏路径；所述蒸馏路径包括：4条视觉特征蒸馏路径、1条序列特征蒸馏路径以及1条软标签蒸馏路径；

根据所述蒸馏路径确定变换函数和相似度函数。

3.根据权利要求2所述的一种文本识别方法，其特征在于，所述并利用所述训练数据集以及所述训练好的教师模型，蒸馏训练所述学生模型，具体包括：

利用公式确定蒸馏训练时学生模型的损失函数；

其中，为不同的视觉特征蒸馏路径上的损失函数，i∈[1,4]，α、β以及γ均为训练前设置的超参数，为序列特征蒸馏路径上的损失函数，为软标签蒸馏路径上的损失函数，为训练好的教师模型的损失函数。

4.根据权利要求1所述的一种文本识别方法，其特征在于，所述利用测试数据集对训练好的学生模型进行测试，进而利用测试完成的学生模型进行文本识别，具体包括：

利用树莓派3B+搭建边缘端测试平台；

根据所述测试数据集，利用所述边缘端测试平台进行训练好的学生模型和训练好的教师模型的测试。

5.一种文本识别系统，其特征在于，包括：

训练数据集获取模块，用于获取训练数据集；所述训练数据集为标有文本标签的图片集合；

教师模型构建和训练模块，用于构建以深度残差网络作为特征提取模块，以双向长短期记忆网络作为序列变换模块的教师模型；并利用训练数据集训练所述教师模型；所述教师模型用于根据输入的图片，输出对应的标签；

学生模型构建模块，用于构建以深度可分离卷积、具有线性瓶颈的逆残差结构以及Hardswish激活函数确定的特征提取模块，以全卷积结构确定的序列变换模块的学生模型；

学生模型训练模块，用于根据训练好的教师模型和所述学生模型构建蒸馏框架；并利用所述训练数据集以及所述训练好的教师模型，蒸馏训练所述学生模型；

测试和识别模块，用于利用测试数据集对训练好的学生模型进行测试，进而利用测试完成的学生模型进行文本识别。

6.根据权利要求5所述的一种文本识别系统，其特征在于，所述学生模型训练模块具体包括：

蒸馏路径确定单元，用于将所述训练好的教师模型和所述学生模型的不同层进行连接，确定蒸馏路径；所述蒸馏路径包括：4条视觉特征蒸馏路径、1条序列特征蒸馏路径以及1条软标签蒸馏路径；

变换函数和相似度函数确定单元，用于根据所述蒸馏路径确定变换函数和相似度函数。

7.根据权利要求6所述的一种文本识别系统，其特征在于，所述学生模型训练模块具体包括：

损失函数确定单元，用于利用公式确定蒸馏训练时学生模型的损失函数；

其中，为不同的视觉特征蒸馏路径上的损失函数，i∈[1,4]，α、β以及γ均为训练前设置的超参数，为序列特征蒸馏路径上的损失函数，为软标签蒸馏路径上的损失函数，为训练好的教师模型的损失函数。

8.根据权利要求5所述的一种文本识别系统，其特征在于，所述测试和识别模块具体包括：

边缘端测试平台搭建单元，用于利用树莓派3B+搭建边缘端测试平台；

测试单元，用于根据所述测试数据集，利用所述边缘端测试平台进行训练好的学生模型和训练好的教师模型的测试。