[发明专利]基于动态精度可配运算的近似计算可重构阵列有效
申请号: | 201710882550.4 | 申请日: | 2017-09-26 |
公开(公告)号: | CN107783935B | 公开(公告)日: | 2021-03-19 |
发明(设计)人: | 刘波;郑梦瑶;夏梦雯;龚宇;杨军;时龙兴 | 申请(专利权)人: | 东南大学 |
主分类号: | G06F15/78 | 分类号: | G06F15/78 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 李玉平 |
地址: | 210000 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 动态 精度 运算 近似 计算 可重构 阵列 | ||
本发明公开了一种基于动态精度可配运算的近似计算可重构阵列,基于传统的可重构阵列,增加一个动态精度控制模块,用于实现如下操作:根据输入的配置信息,动态配置重构阵列里计算单元的迭代次数,以满足一定的精度需求;其硬件结构包括迭代控制器和配置控制器;迭代控制器用于调整乘法器的计算精度,通过动态配置迭代次数,可以满足不同计算精度的要求。配置控制器用于重新动态配置计算阵列模块。本发明设计简单,可行性好,通过动态调节迭代次数,从而实现了动态精度可配,减小计算复杂度和计算时间,并且降低了功耗,同时保证了一定的精度。
技术领域
本发明涉及一种基于动态精度可配运算的近似计算可重构阵列,属于人工神经网络技术领域。
背景技术
随着网络的日益庞大,在软件模型方面和硬件体系结构方面对网络压缩与适当处理精度的研究也越来越深入。尽管传统的树乘法器具有很高的准确度,但在减少面积和能量消耗方面存在问题。因此,引入了具有高能源效率的近似乘法器,用很少的精确度损失换取了更低的能耗。
可重构架构在处理某些神经网络时在性能和灵活性方面表现出优越性。随着神经网络的影响越来越大,对可重构计算架构的研究迫在眉睫。
我们进一步优化了迭代对数乘法器的近似乘数,提出了一种基于动态精度可配运算的近似计算可重构阵列。
发明内容
发明目的:为了解决现有技术中存在功耗过大、精度较低的问题,本发明提供一种基于动态精度可配运算的近似计算可重构阵列,不仅可以减少计算产生的功耗和时间,同时还保证了一定的计算精度,并且提高了计算的灵活性。
技术方案:一种基于动态精度可配运算的近似计算可重构阵列,应用于卷积神经网络、递归神经网络的网络加速、数字信号处理以及多媒体有关图像、视频压缩的处理。其中卷积神经网络主要用于实现图像识别和文字理解等;递归神经网络用于实现文件分类和语音识别。本发明的特点是在电路总控制器与传统的可重构阵列之间增加一个动态精度控制模块,用于实现如下操作:根据输入的配置信息,动态配置重构阵列里计算单元的迭代次数,以满足一定的精度需求;基于动态精度可配运算的近似计算可重构阵列,其硬件结构包括迭代控制器和配置控制器;
所述迭代控制器用于调整乘法器的计算精度,通过动态配置迭代次数,可以满足不同计算精度的要求。在迭代控制器中,网络输出同时传输到两个加法器,两个加法器的其他输入对应两个预设阈值的负值,通过加法器实现减法操作(加法器完成减去阈值),得到结果的符号位来确定迭代次数。当前输入队列在上一次计算之后从数据存储器中读取,结果通过输出队列传输到数据存储器。
所述迭代控制器,通过对输出的有效位进行评估,预测下一个时间步长的精度要求,从而可以根据先前结果的质量动态重构乘法器的迭代次数。动态调整近似乘数的迭代次数,对于卷积神经网络和递归神经网络的第n+1层(n=1、2、3…),预测的迭代次数取决于第n层中输出的最大值。通过对时间步长t时的输出进行评估,得到输出的最大值,并确定了卷积神经网络和递归神经网络第n层时计算的迭代次数。迭代次数的确定是根据网络输出的范围,预设2个阈值(阈值是16bit的定点二进制数),相应地将输出分为3个等级。每个级别对应一定的精度,表示迭代次数。
所述配置控制器用于重新动态配置计算阵列模块。配置控制器包括预定义配置上下文模块和动态生成配置上下文模块。两者并行运行,协同实现对计算阵列模块的动态配置。
其中,所述预定义配置上下文模块用于读取存储在配置内存中的配置上下文,以重新配置计算阵列,该模块包括地址控制单元、路由控制单元以及计算控制单元。
地址控制单元用于控制先入先出阵列的存储器访问地址,即动态指定先入先出阵列的数据来源地址。路由控制单元实现处理单元之间的互联方式,能够高灵活的控制数据流向。计算控制单元用于控制处理单元中乘法器和加法器的操作,从而实现计算阵列的配置。当地址控制单元确定数据来源的地址,读取数据并通过路由控制单元所确定的数据流向,输出到计算控制单元,实现相应的乘法或加法操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东南大学,未经东南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710882550.4/2.html,转载请声明来源钻瓜专利网。