[发明专利]神经网络计算处理模型在审
申请号: | 201810742934.0 | 申请日: | 2018-07-09 |
公开(公告)号: | CN109117946A | 公开(公告)日: | 2019-01-01 |
发明(设计)人: | 陈亮 | 申请(专利权)人: | 中国科学院自动化研究所 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04 |
代理公司: | 北京瀚仁知识产权代理事务所(普通合伙) 11482 | 代理人: | 屠晓旭;陈晓鹏 |
地址: | 100190 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络计算 处理模型 激活函数 神经网络 标量计算 操作数据 向量计算 预设 计算技术领域 卷积神经网络 脉冲神经网络 人工神经网络 神经网络结构 累加计算 数据运算 网络结构 网络拓展 可执行 算法 | ||
1.一种神经网络计算处理模型,其特征在于,包括向量计算模块、激活函数模块和存储模块;
所述向量计算模块,配置为对预先获取的第一操作数据进行乘累加计算,并将乘累加计算结果发送至所述存储模块;
所述激活函数模块,配置为基于预设的激活函数计算策略,对预先获取的第二操作数据进行非线性函数计算,并将非线性函数计算结果发送至所述存储模块;
其中,在所述神经网络计算处理模型的某轮计算过程中,用于乘累加计算的第一操作数据为初始操作数据或前一轮计算所得的非线性函数计算结果,用于非线性函数计算的第二操作数据为本轮计算所得的乘累加计算结果。
2.根据权利要求1所述的神经网络计算处理模型,其特征在于,所述向量计算模块包括数据解扩/对齐子模块、MAC阵列子模块、池化子模块和数据选择子模块;
所述数据解扩/对齐子模块,配置为对预先获取的权重矩阵数据进行数据解扩和/或数据对齐处理,得到原始权重数据,并将所述原始权重数据发送至所述MAC阵列子模块;
所述MAC阵列子模块,配置为对所述第一操作数据进行乘累加计算,并将乘累加计算结果发送至所述池化子模块或数据选择子模块;
所述池化子模块,配置为对所述MAC阵列子模块所发送的计算结果进行数据池化处理,并将数据池化处理结果发送至所述数据选择子模块;
所述数据选择子模块,配置为根据所述激活函数模块所指定的数据类型,将所述乘累加计算结果或数据池化结果中的相应数据发送至所述激活函数模块。
3.根据权利要求2所述的神经网络计算处理模型,其特征在于,所述数据选择子模块,进一步配置为:
在通过所述神经网络计算处理模型进行卷积计算的情况下,所述数据选择子模块根据激活函数模块所指定的数据类型,将所述数据池化结果中的相应数据发送至所述激活函数模块;
在通过所述神经网络计算处理模型进行全连接神经网络计算的情况下,所述数据选择子模块根据激活函数模块所指定的数据类型,将所述乘累加计算结果发送至所述激活函数模块。
4.根据权利要求1所述的神经网络计算处理模型,其特征在于,所述神经网络计算处理模型还包括标量计算模块;
所述标量计算模块,配置为基于预设的数据运算方法,对预先获取的第三操作数据进行相应计算,并将数据运算结果发送至所述存储模块;
在此情况下,在所述神经网络计算处理模型的某轮计算过程中,用于乘累加计算的第一操作数据为初始操作数据和/或前一轮计算所得的非线性函数计算结果和/或前一轮计算所得的数据运算结果,用于非线性函数计算的第二操作数据为本轮计算所得的乘累加计算结果和/或数据运算结果。
5.根据权利要求4所述的神经网络计算处理模型,其特征在于,
所述预设的数据运算方法包括向量内积运算方法、指数运算方法、自然对数运算方法和相似度运算方法。
6.根据权利要求4或5所述的神经网络计算处理模型,其特征在于,
所述标量计算模块,进一步配置为基于CORDIC算法,对预先获取的第三操作数据进行相应数据运算的计算。
7.根据权利要求1-5任一项所述的神经网络计算处理模型,其特征在于,所述激活函数计算策略包括Sigmoid激活函数、Tanh激活函数、ReLU激活函数、Leaky-ReLU激活函数和Maxout激活函数。
8.根据权利要求1-5任一项所述的神经网络计算处理模型,其特征在于,
所述激活函数模块,进一步配置为基于CORDIC算法,对预先获取的第二操作数据进行相应激活函数计算策略所指定的非线性函数计算。
9.根据权利要求1-5任一项所述的神经网络计算处理模型,其特征在于,
所述激活函数模块,进一步配置为基于预设的乘法/加法逻辑运算方法,对预先获取的第四操作数据进行计算,来模拟脉冲神经网络计算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院自动化研究所,未经中国科学院自动化研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810742934.0/1.html,转载请声明来源钻瓜专利网。