[发明专利]一种基于半监督学习的文字识别方法有效
申请号: | 202110335240.7 | 申请日: | 2021-03-29 |
公开(公告)号: | CN112926684B | 公开(公告)日: | 2022-11-29 |
发明(设计)人: | 汪增福;吴仕莲 | 申请(专利权)人: | 中国科学院合肥物质科学研究院 |
主分类号: | G06V30/19 | 分类号: | G06V30/19;G06V10/80;G06V10/82;G06N3/04;G06N3/08 |
代理公司: | 安徽省合肥新安专利代理有限责任公司 34101 | 代理人: | 陆丽莉;何梅生 |
地址: | 230031 安徽*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 监督 学习 文字 识别 方法 | ||
本发明公开了一种基于半监督学习的文字识别方法,其步骤包括:1收集文本图片,建立文本识别数据集;2构建半监督文字识别网络;3运行半监督文字识别网络;4计算每一张输入图片对应的损失函数并训练半监督文字识别网络;5利用训练后的文字识别网络对任意输入的待识别图片进行识别。本发明无需标注大量数据即可得到较高的识别效果,从而提高识别效率和准确率。
技术领域
本发明涉及字符识别领域的相关问题,具体涉及一种基于半监督学习的文字识别方法。
背景技术
目前针对字符识别主要有两种方法:基于传统算法的文本识别方法与基于深度学习的文本识别方法。基于深度学习的文本识别方法无论是准确率还是鲁棒性都大大优于基于传统算法的文本识别方法。但目前基于深度学习的文本识别的准确率非常依赖于大批量的训练样本,但是人为标注数据费时费力,导致基于深度学习的文本识别方法难以直接应用,需要花费大量精力去标注数据之后才有可能得到较好的识别结果。
发明内容
本发明是为了解决上述现有技术存在的不足之处,提出一种基于半监督学习的文字识别方法,以期通过无标注的真实数据即可得到较高的识别效果,从而提高识别效率和准确率。
本发明为达到上述发明目的,采用如下技术方案:
本发明一种基于半监督学习的文字识别方法的特点在于,包括以下步骤:
步骤1:收集未标注的真实文本图片集合,记为Xu,收集另一标注后的文本图片集合,记为Xl,并将对应的标签集合记为
步骤2:构建半监督文字识别网络,包括四个模块,分别是编码模块Encoder,自注意力融合模块SA,解码模块Decoder,字频空间对齐模块FA;
所述编码模块Encoder,包含:3a+1个卷积层,n个最大池化层,1个高度方向的自适应池化层;
所述自注意力融合模块SA,包括:包含3个卷积层的特征变换模块、相关度计算模块、融合模块;
所述解码模块Decoder,包括:一层1×1的卷积层,一个softmax激活函数;
步骤3、运行半监督文字识别网络:
步骤3.1、运行编码模块:
将未标注的真实文本图片集合Xu和另一标注后的文本图片集合Xl中的每一张图片输入所述编码模块Encoder中,每经过a个卷积层后再经过一个池化层的下采样处理,从而在经过3a个卷积层以及下采样处理后,得到尺寸为的特征图F,其中,H和W是所输入的每一张图片的高与宽;所述特征图F通过高度方向的自适应池化层与一层卷积层处理后,得到形状为的二维特征序列S,其中,C为最后一层卷积层的卷积核数目;
步骤3.2、运行自注意力融合模块:
将所述二维特征序列S输入所述自注意力融合模块SA中,经过所述特征变换模块的3次卷积处理,得到3个变换之后的特征,记为Q、K、V;
所述相关度计算模块计算特征Q与特征K之间的相关度sim=Q·KT;
所述融合模块根据所述相关度sim进行特征融合,得到输出特征Fout=softmax(sim)·V;
步骤3.3、运行解码模块:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院合肥物质科学研究院,未经中国科学院合肥物质科学研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110335240.7/2.html,转载请声明来源钻瓜专利网。