[发明专利]一种基于神经节分化的增量式目标识别系统有效
申请号: | 201710055128.1 | 申请日: | 2017-01-24 |
公开(公告)号: | CN106919980B | 公开(公告)日: | 2020-02-07 |
发明(设计)人: | 王元庆;胡晶晶;王冉;詹伶俐 | 申请(专利权)人: | 南京大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06K9/62 |
代理公司: | 32249 南京瑞弘专利商标事务所(普通合伙) | 代理人: | 陈建和 |
地址: | 210093 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 神经节 分化 增量 目标 识别 系统 | ||
一种基于神经节分化的增量式目标识别系统,由低隐藏层、神经节层、高隐藏层和分类器构成,神经节层位于低隐藏层和高隐藏层之间;神经节层的神经节提取样本特征规律,通过神经节的激活和分化,在高隐藏层形成对应的独立的特征集,形成对样本的特征记忆;高隐藏层的特征集的数量可变;新增神经节对新样本形成新的记忆,自适应地更新高隐藏层的特征集,实现增量式的目标识别;所述的神经节是指用于表征一组分布规律相似的样本的神经网络结点,当输入样本特征参数大于激活阈值时,神经节被激活,该神经节在高隐藏层形成独立的特征集;被激活的神经节的活性小于阈值时,该神经节将凋亡;特征不同的样本激活不同的神经节,并新增神经节。
技术领域
本发明属于目标识别领域,特别是一种基于神经节分化的增量式目标识别系统。
背景技术
早期的深度神经网络是端到端的,网络结构在训练过程保持不变,训练过程即学习网络参数的过程。训练集是完备且网络深度足够时,理论上可以表达任意复杂的原始数据。而在许多实际应用中,并不能一次性获取完整的数据集,因此学习算法也需要是一个持续的过程。例如以图搜图、拍照购物等软件产品中,预先获取已有商品图像集,通过深度神经网络为输入图像找到最接近的前若干项作为推荐结果。但当输入新研发的、全新外观的产品图像时,尽管原有网络的训练算法、推荐算法很完善,既不能得到合适的推荐,也无法将其作为新样本完善数据集。
传统神经网络每接受一个新样本都需要更新全局参数:如果新样本是噪声,则已有网络不加区分地拟合噪声,从而破坏了已有网络;如果新样本属于新的类型(例如之前的样本都是动物,新样本是车辆),则需要自底向上改变所有网络参数,这种全局调整的内存消耗和时间消耗通常是巨大的。为了避免在海量数据下的重复学习,网络在新增样本时并不需要刷新所有的知识,而是仅更新由新增样本所引起的局部参数。
增量学习算法可以使系统具备上述动态学习的能力,而各种形式的增量学习算法已在各领域不同场景下的获得研究。最经典的聚类算法有以下两个固有缺陷:网络层数或网络结点数等参数需要预先定义;网络对噪声敏感。图像的非监督任务中关于增量算法的研究工作相对较少,一个重要原因是原始数据的信息量高度冗余从而难以在聚类中达到满意的准确率。
发明内容
本发明目的是,解决如下技术问题,现有识别方法存在网络结构固化、仅适用于静态数据集、海量数据环境下进行重复学习、抗噪能力差的情况。提出一种基于神经节分化的增量式目标识别系统。
本发明技术方案,一种基于神经节分化的增量式目标识别系统,由低隐藏层、神经节层、高隐藏层和分类器构成,神经节层位于低隐藏层和高隐藏层之间;神经层的神经节提取样本特征规律,通过神经节的激活和分化,在高隐藏层形成对应的独立的特征集,形成对样本的特征记忆;高隐藏层的特征集的数量可变,特征集的数量与神经层中分化的神经节数量相对应;新增神经节可以对新样本形成新的记忆,自适应地更新高隐藏层的特征集,实现增量式的目标识别;
所述的神经节是指用于表征一组分布规律相似的样本的神经网络结点,当输入样本特征参数大于激活阈值时,神经节被激活,该神经节在高隐藏层形成独立的特征集;被激活的神经节的活性小于阈值时,该神经节将凋亡,不在高隐藏层形成特征集;特征不同的样本激活不同的神经节,并新增神经节,自适应地更新高隐藏层的特征集;
神经节的激活是指样本的分布状态符合神经节的内在特征,参与神经节对应的特征集的训练;所述的分化是指自适应新增神经节的过程,若干样本融入神经节,增加了该神经节的活性;
神经节的凋亡是指在一定的范围内(一定时间、数量或者其他因素)没有新的样本激活该神经节,该样本的相对活性下降,在神经节层被去除。神经节被激活不一定分化,也可能会凋亡;
所述神经节层以压缩编码后的特征图数据代替原始数据为输入:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710055128.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:暖碟柜
- 下一篇:一种教育管理用的办公装置