[发明专利]用于稀疏人工神经网络的计算装置和运算方法有效
申请号: | 201710794715.2 | 申请日: | 2016-01-20 |
公开(公告)号: | CN107563497B | 公开(公告)日: | 2021-03-19 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 中科寒武纪科技股份有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 任岩 |
地址: | 100190 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 稀疏 人工 神经网络 计算 装置 运算 方法 | ||
1.一种用于稀疏人工神经网络的计算装置,用于接收输入数据并根据输入数据产生输出数据,输入数据包括一个或多个输入神经元数据,输出数据包括一个或多个输出神经元数据,其特征在于,所述计算装置包括:
映射单元,用于接收连接关系数据和输入神经元数据,所述连接关系数据表示每个输入神经元数据和每个输出神经元数据是否有对应的连接关系的权值数据;然后根据连接关系数据对所述输入神经元数据做映射处理,得到映射后的输入神经元数据;以及
运算单元,用于接收指令、映射后的输入神经元数据和权值数据,然后根据指令对所述映射后的输入神经元数据和所述权值数据执行人工神经网络运算,得到输出神经元数据。
2.如权利要求1所述的用于稀疏人工神经网络的计算装置,其特征在于,计算装置还包括存储装置,用于存储输入数据、权值数据、连接关系数据和指令;所述有对应的连接关系的权值数据包括非零权值数据。
3.如权利要求2所述的用于稀疏人工神经网络的计算装置,其特征在于,映射单元根据连接关系数据对所述输入神经元数据做映射处理,得到映射后的输入神经元数据包括:对于每个输出神经元数据,映射单元去除掉与该输出神经元数据没有对应的非零权值数据的输入神经元数据。
4.如权利要求1-3中任一项所述的用于稀疏人工神经网络的计算装置,其特征在于,所述运算单元包括乘法器、加法树和非线性函数单元;所述运算单元接收指令对所述映射后的输入神经元数据和所述权值数据执行神经网络运算,得到输出神经元数据的步骤包括:所述乘法器将所述映射后的输入神经元数据和权值数据相乘,得到加权神经元数据;和/或,所述加法树再将所述加权神经元数据相加得到总加权神经元数据;和/或,所述非线性函数单元对所述总加权神经元数据执行激活函数运算,得到输出神经元数据。
5.如权利要求4所述的用于稀疏人工神经网络的计算装置,其特征在于,所述运算单元将加权神经元数据相加得到总加权神经元数据的步骤包括所述加法树将加权神经元数据执行加法树运算得到所述总加权神经元数据。
6.如权利要求5所述的用于稀疏人工神经网络的计算装置,其特征在于,所述运算单元将总加权神经元数据和偏置相加得到加偏置神经元数据,和/或,对所述加偏置神经元数据执行激活函数运算,得到输出神经元数据。
7.如权利要求6所述的用于稀疏人工神经网络的计算装置,其特征在于,所述激活函数包括sigmoid函数、tanh函数或ReLU函数。
8.如权利要求7所述的用于稀疏人工神经网络的计算装置,其特征在于,存储装置还用于暂存输出数据。
9.如权利要求8所述的用于稀疏人工神经网络的计算装置,其特征在于,映射单元将部分或全部的映射后的输入神经元数据存储在存储装置中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科寒武纪科技股份有限公司,未经中科寒武纪科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710794715.2/1.html,转载请声明来源钻瓜专利网。