[发明专利]一种基于人工神经网络的空间信息学习方法

说明书

本发明涉及一种基于人工神经网络的空间信息学习方法，属于深度学习技术领域。包括：利用传统神经网络对输入图片进行抽象表达，在传统神经网络的中高层提取特征图得到特征向量F；对F进行滤波映射操作得到LF以增强数据显著性；对LF通过卷积神经网络进行卷积操作以得到更加抽象的特征表达X；对X进行GAP降维处理得到特征点X*；对X*通过公式D＝X^*×X^*T进行相关性分析得到相关矩阵；对D通过公式CD＝D*V进行投影操作得到结构特征向量CD；对CD通过公式Y(F)＝F+λ*CD得到最终的特征并输出。对比现有技术，本发明不依赖于数据增强的方法就可以识别发生几何形变的物体，使神经网络对于不变性的识别更加鲁棒。

技术领域

本发明涉及一种一种基于人工神经网络的空间信息学习方法，是一种采用神经网络提取不变性特征的方法，特别涉及采用深层卷积神经网络提取空间信息的方法，属于深度学习技术领域。

背景技术

卷积神经网络(CNN)作为一个现阶段最优秀的特征提取器之一，其表现力不仅已经在计算机视觉领域大放光彩，而且卷积核的局部感知原理已经让NLP、围棋博弈(AlphaGo)等非视觉领域有了进步。为了提取到更具有表现力的特征，更多的研究者致力于研究如何设计一个高效的卷积神经网络架构。例如，Alexnet—它是卷积神经网络近期第一次飞跃式的结果提升，VGG、Inception—用较少的参数可以让网络达到更深，残差网络—通过残差单元中的恒等映射来降低信号在每一层之间的传播误差，从而降低训练集的错误率使得我们在理论上可以训练非常深的模型。有了这些具有表现力的特征提取架构，才能使得具体的视觉任务得到根本性的提高。

传统的神经网络激活缺乏全局几何不变性。(Gong Y,Wang L,Guo R,etal.Multi-scale Orderless Pooling of Deep Convolutional Activation Features[C]//European Conference on Computer Vision.Springer InternationalPublishing,2014:392-407.)传统CNN架构的描述力保留了大量全局空间信息，正是因为这些强全局空间信息极大的削弱了CNN不变性识别能力。因此，神经网络本质上缺乏对于几何不变性的理解。这种不变性能力的缺乏导致了神经网络在具体的视觉任务方面表现出了较差的泛化能力。如果可以在高层特征的全局空间信息进行分析，那么就可以消除卷积神经网络的这种缺陷。

几乎所有的神经网络都使用数据增强、dropout和weight decay的方式来提高模型的泛化能力。dropout方法依靠修改网络架构来提高模型的泛化能力，weight decay是依靠修改损失函数。而数据增强是通过对原始数据进行变换从而增加了训练样本数量的方法。对于图片识别任务，水平翻转、随机抓取、水平抓取等方法是经常会被用到来对原始数据进行变换的方法。通过比较以上三种提高模型泛化能力的方法，数据增强是唯一一种用来弥补CNN的不变性的方式。但是这种对训练集进行预处理的方式实现的识别正确率的提升并不代表卷积神经网络自身真正的理解了图片的不变性问题。

人类大脑的研究给予了我们启示，如附图1所示，在V1之上的其余不少枕叶皮层也涉及到了视觉处理。例如，inferior temporal(IT)cells皮质对目标的空间和全局信息激活有强烈的反馈(Young M P,Yamane S.Sparse population coding of faces in theinferotemporal cortex.[J].Science,1992,256(5061):1327.)。这些来自于人脑研究的现象表明了在人脑内部有类似于处理全局空间信息的皮质层。基于此，我们希望在卷积神经网络顶端加入空间信息处理层(SFL)，其目的是仿造人脑对于视觉空间信息的学习，弥补CNN在不变性问题中表现的不足。通过有效的空间信息学习，来使卷积神经网络自身具备对图片不变性的学习能力。而具有这种功能区的卷积神经网络应当是不依赖数据增强的方式就可以实现很好的泛化结果。

发明内容