[发明专利]一种提升人工神经网络抗噪性能的方法、系统及相关装置在审
| 申请号: | 201810820289.X | 申请日: | 2018-07-24 |
| 公开(公告)号: | CN109034377A | 公开(公告)日: | 2018-12-18 |
| 发明(设计)人: | 麦应潮;陈云华 | 申请(专利权)人: | 广东工业大学 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
| 代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 罗满 |
| 地址: | 510006 广东省*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 人工神经网络 抗噪性能 激活函数 抗噪声 生物神经元 响应特性 计算机可读存储介质 数据处理装置 相关装置 构建 申请 刻画 应用 | ||
本申请公开了一种提升人工神经网络抗噪性能的方法,通过使用预先构建得到的抗噪声激活函数来对输入人工神经网络的数据进行处理,有效提升了人工神经网络的抗噪性能;其中,该抗噪声激活函数之所以能够使得应用自身的人工神经网络具有更高的抗噪性能,是因为综合了ReLU激活函数和SoftPlus激活函数对生物神经元响应特性最贴近的部分,使得该抗噪声激活函数对生物神经元响应特性的刻画程度更高,由此具有更高的抗噪性能。本申请还同时公开了一种提升人工神经网络抗噪性能的系统、数据处理装置及计算机可读存储介质,具有上述有益效果。
技术领域
本申请涉及人工神经网络领域,特别涉及一种提升人工神经网络抗噪性能的方法、系统、数据处理装置及计算机可读存储介质。
背景技术
作为逐渐兴起的人工智能领域的重要一份子,人工神经网络已经在多领域取得了突破性进展。它从信息处理角度模仿人脑中生物神经元网络的工作机制,但受限于对生物神经元工作机制的了解,现有人工神经网络中采用的神经元模型只是生物神经元模型的高度简化。人工神经网络作为一种运算模型,由大量的节点(或称人工神经元)之间相互联接构成,而每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,通过在神经元节点后加入非线性的激活函数,人工神经网络可以很好解决非线性的分类问题。
人工神经网络通过激活函数对生物神经元的响应特性进行刻画,而简化后的模型却不可避免的丢失了大量的生物特性,因此采用简化后神经元模型的人工神经网络虽然在图像与物体识别等方面几乎媲美人脑,但在对噪声(干扰数据的统称)、不确定性信息处理等许多方面仍与人脑仍存在巨大差距。
噪声的存在会对输入人工神经网络中的有用数据造成干扰,因此必需要降低人工神经网络对输入数据的敏感度,在输入蕴含噪声时,并不会影响神经网络的最终输入。当前人工神经网络采用的激活函数(如ReLU、Softplus等激活函数)虽然也是受生物神经元响应特征启发得到的,但对响应特性的刻画程度还是不够,这一点使得人工神经网络在处理不确定信息时(噪声)的性能弱与人类大脑。
因此,如何克服现有采用的激活函数在抗噪性能上的缺陷,提供一种抗噪性能更好的激活函数是本领域技术人员亟待解决的问题。
发明内容
本申请的目的是提供一种提升人工神经网络抗噪性能的方法,通过使用预先构建得到的抗噪声激活函数来对输入人工神经网络的数据进行处理,有效提升了人工神经网络的抗噪性能;其中,该抗噪声激活函数之所以能够使得应用自身的人工神经网络具有更高的抗噪性能,是因为综合了ReLU激活函数和SoftPlus激活函数对生物神经元响应特性最贴近的部分,使得该抗噪声激活函数对生物神经元响应特性的刻画程度更高,由此具有更高的抗噪性能。
本申请的另一目的在于提供了一种提升人工神经网络抗噪性能的系统、数据处理装置及计算机可读存储介质。
为实现上述目的,本申请提供一种提升人工神经网络抗噪性能的方法,该方法包括:
获取向人工神经网络各层次输入的包含有噪声的输入数据;
利用预设的抗噪声激活函数对各输出数据进行处理,以使应用所述抗噪声激活函数的人工神经网络具有更高的抗噪性能;其中,所述抗噪声激活函数为根据ReLU激活函数和SoftPlus激活函数构建得到的,所述输出数据为各所述输入数据经过网络层处理后得到的数据。
可选的,所述抗噪声激活函数的构建过程包括:
在0至1间挑选随机数,并根据预设数量的随机数生成第一占比权重η1;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东工业大学,未经广东工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810820289.X/2.html,转载请声明来源钻瓜专利网。





