[发明专利]一种基于小波变换减少IO开销的神经网络处理系统有效
申请号: | 201810408130.7 | 申请日: | 2018-04-28 |
公开(公告)号: | CN108665062B | 公开(公告)日: | 2020-03-10 |
发明(设计)人: | 张磊;金禄旸;张潇;陈云霁 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;H03M7/30 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 任岩 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 变换 减少 io 开销 神经网络 处理 系统 | ||
1.一种基于小波变换的神经网络处理系统,包括:
片下压缩单元,根据压缩指令对片下数据进行压缩并发送至片上;所述压缩指令包括:第一操作域,用于存储指令类型;第二操作域,用于存储源地址是否在片上信息;第三操作域,用于存储目的地址是否在片上信息;第四操作域,用于存储源地址是否使用寄存器;第五操作域,用于存储目的地址是否使用寄存器;第六操作域,用于存储源地址;第七操作域,用于存储目的地址;第八操作域,用于存储寄存器号;以及
片上计算装置,与所述片下压缩单元连接,用于接收所述压缩并发送至片上的数据,执行神经网络运算;
其中,所述压缩单元基于小波变换对所述片下数据进行压缩,所述小波变换为一维的小波变换或二维的小波变换;
利用小波基函数通过阈值法、截取法、舍高频和取低频法对所述片下数据进行压缩;
其中,利用所述压缩单元进行压缩的数据包括神经网络中的神经元数据和权值数据;
还包括:
片上解压缩单元,设于所述片上计算装置内,用于对经所述片下压缩单元压缩并发送至片上的数据进行解压缩;
片上压缩单元,设于所述片上计算装置内,用于对片上数据进行压缩并发送至片下;
所述片上计算装置还包括:存储单元、指令控制单元以及运算单元;其中,
所述存储单元用于存储运算指令以及经所述片下压缩单元压缩后的数据;
所述片上解压缩单元与所述存储单元连接,用于接收所述存储单元发送的压缩后的数据并进行解压缩;
所述指令控制单元与所述存储单元连接,用于接收所述存储单元发送的运算指令,并译码为相应的微指令;
所述运算单元与所述解压缩单元和所述指令控制单元连接,用于接收所述微指令以及经所述片上解压缩单元解压缩后的数据,并进行神经网络运算;
所述片上压缩单元,用于对所述运算单元输出的数据进行压缩并发送至片下。
2.根据权利要求1所述的神经网络处理系统,还包括:
片下解压缩单元,设于所述片上计算装置外,用于对经所述片上压缩单元压缩并发送至片下的数据进行解压缩。
3.根据权利要求2所述的神经网络处理系统,其中,通过PCIe总线、DMA、无线网络实现所述数据在片上与片下之间传输。
4.根据权利要求1所述的神经网络处理系统,其中,所述压缩单元及解压缩单元利用小波基函数对数据进行小波变换,所述小波基函数包括哈尔基函数、Daubechies小波基函数、Biorthogonal小波基函数、Mexican Hat小波基函数、Coiflets小波基函数、Symlets小波基函数、Morlet小波基函数、Meyer小波基函数、Gaus小波基函数、Dmeyer小波基函数、ReverseBior小波基函数。
5.根据权利要求2所述的神经网络处理系统,其中,利用所述解压缩单元进行解压缩的数据包括神经网络中的神经元数据和权值数据。
6.根据权利要求1所述的神经网络处理系统,其中,所述片上计算装置还包括:直接存储访问单元、指令缓存单元、输入权值缓存单元、输入神经元缓存单元以及输出缓存单元;其中,
所述直接存储访问单元用于在所述存储单元与所述指令缓存单元、所述输入权值缓存单元、所述输入神经元缓存单元和所述输出缓存单元之间进行数据读写;
所述指令缓存单元与所述直接存储访问单元连接,用于接收运算指令并发送至所述指令控制单元;
所述输入权值缓存单元与所述直接存储访问单元连接,用于接收权值数据并发送至所述片上解压缩单元;
所述输入神经元缓存单元与所述直接存储访问单元连接,用于接收神经元数据并发送至所述片上解压缩单元;
所述输出缓存单元与所述运算单元连接,用于接收运算单元输出的数据并发送至所述直接存储访问单元或发送至所述片上压缩单元。
7.根据权利要求6所述的神经网络处理系统,其中,所述片上计算装置还包括:预处理单元,与所述存储单元连接,用于对输入存储单元的数据进行预处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810408130.7/1.html,转载请声明来源钻瓜专利网。