[发明专利]用于二值阵列张量处理器的方法有效
| 申请号: | 201910300871.8 | 申请日: | 2019-04-15 |
| 公开(公告)号: | CN110059805B | 公开(公告)日: | 2021-08-31 |
| 发明(设计)人: | 许喆;丁雪立;陈柏纲 | 申请(专利权)人: | 广州异构智能科技有限公司 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04 |
| 代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 何冲;黄隶凡 |
| 地址: | 511458 广东省广州市南沙区南*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 用于 阵列 张量 处理器 方法 | ||
1.一种用于二值阵列张量处理器的方法,其使用处理引擎二维阵列来计算特征张量和卷积核张量的卷积运算结果,其中所述特征张量可以表示成N组特征值,每一组特征值包含相同个数的特征值,所述卷积核张量可以表示成M组权重值,每一组权重值包含相同个数的权重值,其中N和M均为大于等于2的正整数,且M不小于N;所述方法包括:
根据所述处理引擎二维阵列的维度切割所述特征张量,以使切割后的特征张量适应所述处理引擎二维阵列的维度;
为每一组特征值分配一个特征ID,并为每一组权重值分配一个权重ID;
为所述处理引擎二维阵列中的每一个处理引擎分配一个特征本地ID和一个权重本地ID;
所述处理引擎二维阵列中的每一个处理引擎通过比较该处理引擎的特征本地ID和特征ID而匹配地接收一组特征值;
所述处理引擎二维阵列中的每一个处理引擎通过比较该处理引擎的权重本地ID和权重ID而匹配地接收一组权重值;
所述处理引擎二维阵列中的每一个处理引擎对匹配到的特征值和权重值进行卷积运算得到中间结果;
将多个所述中间结果进行叠传后作为所述特征张量和所述卷积核张量的卷积运算结果。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:根据所述特征张量的维度决定所述处理引擎二维阵列的维度。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:根据所述卷积核张量的维度决定所述处理引擎二维阵列的维度。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:对所述特征张量和所述卷积核张量均进行二值化处理,所述处理引擎对所述特征值和所述权重值进行二值化卷积运算得到二值化卷积运算中间结果。
5.根据权利要求4所述的方法,其特征在于,所述二值化处理指的是二值化成0或1。
6.根据权利要求5所述的方法,其特征在于,通过异或非逻辑门操作实现所述二值化卷积运算的相乘操作,通过数1的个数操作实现所述二值化卷积运算的相加操作。
7.根据权利要求5所述的方法,其特征在于,所述处理引擎将所述二值化卷积运算中间结果与训练好的门限值阈值进行比较,根据比较结果输出对所述二值化卷积运算中间结果进行正则化后得到的正则化结果。
8.根据权利要求7所述的方法,其特征在于,所述门限值阈值满足批次处理函数BatchNorm(a)=0;
所述批次处理函数BatchNorm(a)=γ·(a–μ)/σ+B,其中a为用于训练所述门限值阈值的神经网络的卷积结果,μ为向量的均值,σ为方差,γ为比例系数,B为偏置。
9.根据权利要求7所述的方法,其特征在于,所述方法还包括:通过简化合并批次处理操作和二值化操作来完成所述二值化卷积运算中间结果和所述门限值阈值的比较。
10.根据权利要求7所述的方法,其特征在于,所述方法还包括:通过Multicast配置所述特征值、所述权重值和所述门限值阈值到所述处理引擎。
11.根据权利要求1所述的方法,其特征在于,所述处理引擎二维阵列中的至少一个处理引擎在所述卷积运算后进行池化操作。
12.根据权利要求1所述的方法,其特征在于,所述方法还包括:根据所述特征张量和所述卷积核张量的信息设置所述处理引擎二维阵列中的一部分处理引擎为待机状态。
13.根据权利要求1所述的方法,其特征在于,所述方法还包括:更新所述处理引擎二维阵列的第一部分处理引擎的已经接收的权重值,保持所述处理引擎二维阵列的第二部分处理引擎的已经接收的权重值不变,并更新所述第二部分处理引擎的已经配置的特征值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州异构智能科技有限公司,未经广州异构智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910300871.8/1.html,转载请声明来源钻瓜专利网。





