[发明专利]一种用于执行人工神经网络pooling运算的装置和方法在审
申请号: | 202010614965.5 | 申请日: | 2016-04-29 |
公开(公告)号: | CN111860772A | 公开(公告)日: | 2020-10-30 |
发明(设计)人: | 刘少礼;宋琎;陈云霁;陈天石 | 申请(专利权)人: | 中科寒武纪科技股份有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063;G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100191 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 执行 人工 神经网络 pooling 运算 装置 方法 | ||
1.一种用于执行人工神经网络pooling运算的装置,其特征在于,所述装置用于执行pooling运算的指令,所述装置包括控制器单元和运算模块,其中,
所述控制器单元用于将指令译码成控制运算模块行为的控制信号,然后将控制信号发送至运算模块;
所述运算模块用于根据接收到的控制信号完成pooling运算。
2.如权利要求1所述的装置,其特征在于,所述运算模块具体用于完成maxpooling运算的求最大值运算,或用于完成avgpooling运算的累加和乘法运算。
3.如权利要求2所述的装置,其特征在于,对于avgpooling,在正向运算时,运算模块依次完成累加每一个输入向量;然后在运算模块中完成乘以1/kernel_size运算,得到输出向量,kernel_size表示pooling核kernel的大小。
4.如权利要求3所述的装置,其特征在于,对于avgpooling,在正向运算时,运算模块循环读取pooling核kernel的输入向量,做上述累加、乘法运算操作,得到新的kernel的输出向量,直至本层pooling运算结束。
5.如权利要求2所述的装置,其特征在于,对于avgpooling,在反向训练时,运算模块将输入梯度向量乘以1/kernel_size,得到输出梯度向量,kernel_size为pooling核kernel的大小。
6.如权利要求2所述的装置,其特征在于,对于maxpooling,在正向运算时,运算模块依次完成比较每一个输入向量大小,取最大值的操作,得到输出向量;运算模块循环读取pooling核kernel的输入向量,做上述比较大小的运算操作,得到新的kernel的输出向量同时保存每一个输出向量对应的索引向量,直至本层pooling运算结束。
7.如权利要求2所述的装置,其特征在于,对于maxpooling,在反向训练时,运算模块根据正向运算时保存的索引向量,将输入梯度向量对应输出至相应的存储位置,得到输出梯度向量。
8.如权利要求1-7中任一所述的装置,其特征在于,所述运算模块包括运算单元、数据依赖关系判断单元和神经元存储单元,
所述神经元存储单元用于缓存运算单元在计算过程中用到的输入数据和输出数据;
所述数据依赖关系判断单元是运算单元读写神经元存储单元的端口,同时用于保证对神经元存储单元中数据的读写不存在一致性冲突。
9.如权利要求8所述的装置,其特征在于,所述数据依赖关系判断单元用于判断尚未执行的控制信号与正在执行过程中的控制信号的数据之间是否存在依赖关系,如果不存在,允许该组控制信号立即发射,否则需要等到该条控制信号所依赖的所有控制信号全部执行完成后该组控制信号才允许被发射。
10.如权利要求1所述的装置,其特征在于,还包括指令存储单元和数据访问单元,其中
数据访问单元用于访问外部地址空间,完成数据的加载和存储;
指令存储单元用于通过数据访问单元读入指令并缓存读入的指令。
11.如权利要求1所述的装置,其特征在于,所述指令包括以下至少一种:
CONFIG指令,在每层人工神经网络计算开始前配置当前层计算需要的各种常数;
COMPUTE指令,完成每层人工神经网络的算术逻辑计算;
IO指令,实现从外部地址空间读入计算需要的输入数据以及在计算完成后将输出数据存回至外部地址空间;
NOP指令,用于清空当前装置内部所有控制信号缓存队列中的控制信号,保证NOP指令之前的所有指令全部指令完毕;
JUMP指令,用于执行控制器单元将要从指令存储单元读取的下一条指令地址的跳转,实现控制流的跳转;
MOVE指令,用于将装置内部地址空间某一地址的数据搬运至装置内部地址空间的另一地址。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科寒武纪科技股份有限公司,未经中科寒武纪科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010614965.5/1.html,转载请声明来源钻瓜专利网。