[发明专利]用于图像分类的单纯形神经网络的构建方法及装置在审
申请号: | 202011554742.0 | 申请日: | 2020-12-22 |
公开(公告)号: | CN112508183A | 公开(公告)日: | 2021-03-16 |
发明(设计)人: | 宁欣;董肖莉;田伟娟;李卫军;张丽萍;孙琳钧;李爽 | 申请(专利权)人: | 中国科学院半导体研究所 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 王江选 |
地址: | 100083 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 图像 分类 单纯 形神 网络 构建 方法 装置 | ||
一种用于图像分类的单纯形神经网络的构建方法,包括以下步骤:对输入图像进行特征提取,通过若干并行卷积组提取得到所述输入图像的特征图,挖掘所述特征图中的特征点在高维空间的流形分布;通过自组织映射,对提取到的所述输入图像的特征图进行聚类,构建流形分布子空间;构建用于小样本图像分类的单纯形神经元,基于所述单纯形神经元对通过自组织映射聚类后的不同流形分布子空间进行覆盖学习,得到用于图像分类的单纯形神经网络模型。本发明所提出的单纯形神经元,以线段、三角形和四面体等为基础形状,通过形状的扭曲变换和叠加可构建多种复杂的几何形体,在复杂非线性函数的拟合方面,具备较大的潜力和优势。
技术领域
本发明涉及人工智能技术领域,尤其涉及一种用于小样本图像分类的单纯形神经网络模型的构建方法及装置。
背景技术
深度神经网络是由大量的神经元构成,其神经元的非线性和各种复杂连接保证了深度神经网络可以以无限精度逼近任意Rn紧子集上的连续函数,这是深度神经网络可以取得成功的原因之一。另外,在自然获取的数据中天然存在一定的流形结构分布,深度学习也是在学习数据内部的流形结构分布。
神经网络的发展离不开对生物神经网络的模仿。1943年,Meculloch和Pitts提出了M-P线性神经元,在神经网络的研究中开启了新的纪元。1988年,Broomhead和Lowe提出径向基函数RBF神经元,将低维输入数据投影到由RBF组成的高维隐空间中的,成功解决了M-P神经元线性不可分的问题,从而神经网络可以真正用于解决实际任务。这种神经元模型仍需假定在高维空间中数据是线性可分的,但实际中数据未必服从该假设,因而基于上述神经元的神经网络模型有一定的局限性,其特征的表达性和判别性受到一定制约,模型精度受到一定影响。
现存的经典神经网络,性能的提升需要依靠更大的参数空间、更深层的网络以及更丰富的训练数据支撑,对于小样本的数据,模型的规模要求更高,参数空间和网络自由度是很有限的,少量的数据是无法保证有限的参数最优化学习的,从而限制了模型的性能提升。
发明内容
有鉴于此,本发明的主要目的在于提供一种用于小样本图像分类的单纯形神经网络模型的构建方法及装置,以期部分地解决上述技术问题中的至少之一。
为了实现上述目的,作为本发明的一方面,提供了一种用于图像分类的单纯形神经网络的构建方法,包括以下步骤:
对输入图像进行特征提取,通过若干并行卷积组提取得到所述输入图像的特征图,挖掘所述特征图中的特征点在高维空间的流形分布;
通过自组织映射,对提取到的所述输入图像的特征图进行聚类,构建流形分布子空间;
构建用于图像分类的单纯形神经元,基于所述单纯形神经元对通过自组织映射聚类后的不同流形分布子空间进行覆盖学习,得到用于图像分类的单纯形神经网络模型。
其中,所述单纯形神经元以线段、三角形或四面体为基础形状,通过形状的扭曲变换和叠加构建多种复杂的几何形体。
其中,所述并行卷积组包括VGG、ResNet、Densenet和Xception结构。
其中,所述自组织映射是基于多种距离度量方式进行无监督聚类,所述度量方式包括欧氏距离和余弦距离。
其中,所述构建用于图像分类的单纯形神经元包括:
默认一个簇为一个独立的分布,计算各自空间中各样本间的距离,选择两两距离之和最大的n个样本对n维单纯形的n个顶点进行初始化,即得到单纯形神经元的n个核;
计算每个簇中样本点到单纯形距离的标准差,以便对超球半径进行初始化;
对单纯形和超球进行膨胀积即得到初始化的单纯形神经元。
其中,计算每个簇中样本点到单纯形距离的计算公式如下:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院半导体研究所,未经中国科学院半导体研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011554742.0/2.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序