[发明专利]神经网络计算处理模型在审
申请号: | 201810742934.0 | 申请日: | 2018-07-09 |
公开(公告)号: | CN109117946A | 公开(公告)日: | 2019-01-01 |
发明(设计)人: | 陈亮 | 申请(专利权)人: | 中国科学院自动化研究所 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04 |
代理公司: | 北京瀚仁知识产权代理事务所(普通合伙) 11482 | 代理人: | 屠晓旭;陈晓鹏 |
地址: | 100190 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络计算 处理模型 激活函数 神经网络 标量计算 操作数据 向量计算 预设 计算技术领域 卷积神经网络 脉冲神经网络 人工神经网络 神经网络结构 累加计算 数据运算 网络结构 网络拓展 可执行 算法 | ||
本发明涉及类脑计算技术领域,具体提供了一种神经网络计算处理模型,旨在解决在不增加新网络结构的情况下,如何扩展人工神经网络可执行算法的技术问题。为此目的,本发明中的向量计算模块可以对操作数据进行多级乘累加计算,来模拟不同的神经网络结构。标量计算模块可以基于预设的数据运算方法,对操作数据进行相应计算。激活函数模块可以根据预设的激活函数计算策略、向量计算模块的计算结果和标量计算模块的计算结果,模拟相应激活函数计算,来实现相应神经网络的计算(如卷积神经网络、全连接神经网络或脉冲神经网络)。基于上述结构,本发明无需对神经网络计算处理模型进行网络拓展,即可实现不同类型神经网络的计算。
技术领域
本发明涉及类脑计算技术领域,具体涉及一种神经网络计算处理模型。
背景技术
人工神经网络(Artificial Neural Network,ANN)是一种由大量节点(神经元)互相联接构成的运算模型,是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。具体地,每个节点代表一种特定的激励函数,每两个节点间的连接都代表一个对于通过该连接信号的权重(相当于人工神经网络的记忆)。人工神经网络的输出取决于网络结构、权重值和激励函数。当前,全连接神经网络、卷积神经网络被广泛使用。脉冲神经网络作为脑启发型网络结构也备受关注。而往往一个神经网络仅能执行一种神经网络算法,因此需要设置多个神经网络来对某种数据分别执行不同的神经网络算法,而这势必会增加神经网络结构的复杂性,并降低神经网络运行的可靠性。
发明内容
为了解决现有技术中的上述问题,即为了解决在不增加新网络结构的情况下,如何扩展人工神经网络可执行算法的技术问题。为此目的,本发明提供了一种神经网络计算处理模型。
本发明中神经网络计算处理模型,其特征在于,包括向量计算模块、激活函数模块和存储模块;
所述向量计算模块,配置为对预先获取的第一操作数据进行乘累加计算,并将乘累加计算结果发送至所述存储模块;
所述激活函数模块,配置为基于预设的激活函数计算策略,对预先获取的第二操作数据进行非线性函数计算,并将非线性函数计算结果发送至所述存储模块;
其中,在所述神经网络计算处理模型的某轮计算过程中,用于乘累加计算的第一操作数据为初始操作数据或前一轮计算所得的非线性函数计算结果,用于非线性函数计算的第二操作数据为本轮计算所得的乘累加计算结果。
进一步地,本发明提供的一个优选技术方案为:
所述向量计算模块包括数据解扩/对齐子模块、MAC阵列子模块、池化子模块和数据选择子模块;
所述数据解扩/对齐子模块,配置为对预先获取的权重矩阵数据进行数据解扩和/或数据对齐处理,得到原始权重数据,并将所述原始权重数据发送至所述MAC阵列子模块;
所述MAC阵列子模块,配置为对所述第一操作数据进行乘累加计算,并将乘累加计算结果发送至所述池化子模块或数据选择子模块;
所述池化子模块,配置为对所述MAC阵列子模块所发送的计算结果进行数据池化处理,并将数据池化处理结果发送至所述数据选择子模块;
所述数据选择子模块,配置为根据所述激活函数模块所指定的数据类型,将所述乘累加计算结果或数据池化结果中的相应数据发送至所述激活函数模块。
进一步地,本发明提供的一个优选技术方案为:
所述数据选择子模块,进一步配置为:
在通过所述神经网络计算处理模型进行卷积计算的情况下,所述数据选择子模块根据激活函数模块所指定的数据类型,将所述数据池化结果中的相应数据发送至所述激活函数模块;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院自动化研究所,未经中国科学院自动化研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810742934.0/2.html,转载请声明来源钻瓜专利网。