[发明专利]一种深度学习卷积计算的方法和装置有效
申请号: | 201910231433.0 | 申请日: | 2019-03-26 |
公开(公告)号: | CN110009103B | 公开(公告)日: | 2021-06-29 |
发明(设计)人: | 陈海波 | 申请(专利权)人: | 深兰科技(上海)有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 黄志华 |
地址: | 200336 上海市长宁区威*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 深度 学习 卷积 计算 方法 装置 | ||
本发明公开了一种深度学习卷积计算的方法和装置,用以解决现有技术中存在深度学习需要大量SRAM支持卷积计算,运行成本比较高的问题。本发明实施例中,在计算中心对SRAM存储的至少一个目标数据进行卷积计算后,从DDR存储的未进行卷积计算的目标数据中选择至少一个目标数据;将选择的DDR存储的至少一个目标数据覆盖所述SRAM存储的卷积计算已使用的至少一个目标数据或存储到所述SRAM中的空白存储区域;其中,所述目标数据为特征图的行像素数据和/或所述特征图的卷积计算权重数据。如此,对卷积计算的数据进行切分,SRAM中存储的数据只需要是目标数据的数据量的整数倍,SRAM的需求量比较小,降低成本。
技术领域
本发明涉及图像处理技术领域,特别涉及一种深度学习卷积计算的方法和装置。
背景技术
深度学习的概念源于人工神经网络的研究。随着深度学习研究的深入,卷积神经网络的运算量已经发生了极大地变化,为了满足深度学习中的运算能力的需求,现一般通过下列方式:(一)通过ASIC(Application Specific Integrated Circuits,专用集成电路)提升深度学习速率;(二)通过FPGA(Field-Programmable Gate Array,现场可编程门阵列)提升深度学习速率;(三)通过GPU(Graphics Processing Unit,图形处理器)方案提升深度学习速率。
现有技术中在通过GPU方案提升卷积神经网络计算速度时,通常在一次卷积计算过程中,需要将参与卷积计算的所有的特征图以及对应的权重数据从DDR(Double DataRate Synchronous Dynamic Random Access Memory,双倍速率同步动态随机存储器)中读取出来并存储到SRAM(Static Random-Access Memory,静态随机存取存储器)中,再由SRAM将这些数据传送到卷积计算中心进行计算。
然而SRAM的成本是比较高昂的,在深度学习应用领域的不断发展的今天,深度学习过程中参与卷积计算的数据量是十分庞大的,在一次卷积计算过程中,就需要使用大面积的SRAM支持卷积计算,这样无疑会极大地增加运行成本。
综上所述,现有技术中深度学习需要大量SRAM支持卷积计算,运行成本比较高。
发明内容
本发明提供一种深度学习卷积计算的方法和装置,用以解决现有技术中存在深度学习需要大量SRAM支持卷积计算,运行成本比较高的问题。
第一方面,本发明实施例提供一种深度学习卷积计算的方法,该方法包括:
在计算中心对SRAM存储的至少一个目标数据进行卷积计算后,从DDR存储的未进行卷积计算的目标数据中选择至少一个目标数据;
将选择的DDR存储的至少一个目标数据覆盖所述SRAM存储的卷积计算已使用的至少一个目标数据或存储到所述SRAM中的空白存储区域;
其中,所述目标数据为特征图的行像素数据和/或所述特征图的卷积计算权重数据。
上述方法,首先在计算中心对SRAM存储的至少一个目标数据进行卷积计算后,从DDR存储的未进行卷积计算的目标数据中选择至少一个目标数据;随后,将选择的DDR存储的至少一个目标数据覆盖所述SRAM存储的卷积计算已使用的至少一个目标数据或存储到所述SRAM中的空白存储区域;其中,所述目标数据为特征图的行像素数据和/或所述特征图的卷积计算权重数据。如此,本发明实施例中特征图的行像素数据和/或所述特征图的卷积计算权重数据作为目标数据,可以直接明了的看出,SRAM中存储的数据只需要是特征图的行像素数据和/或所述特征图的卷积计算权重数据的数据量的整数倍,相对于现有技术中将所有的卷积计算需要的数据都存储到SRAM中,本发明实施例中SRAM的需求量比较小,故而可以减少SRAM的设置,降低深度学习运行成本。
在一种可能的实施方式中,所述从DDR存储的目标数据中选择至少一个目标数据,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深兰科技(上海)有限公司,未经深兰科技(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910231433.0/2.html,转载请声明来源钻瓜专利网。