[发明专利]神经网络的数据传输方法及相关产品有效
申请号: | 201711484341.0 | 申请日: | 2017-12-29 |
公开(公告)号: | CN109992198B | 公开(公告)日: | 2020-07-24 |
发明(设计)人: | 曹庆新;黎立煌;李炜 | 申请(专利权)人: | 深圳云天励飞技术有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06N3/02 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 数据传输 方法 相关 产品 | ||
本公开提供一种神经网络的数据传输方法及相关产品,所述方法包括如下步骤:获取存储器存储的权值数据的权值规格,比较权值规格与写入存储器规格的大小确定比较结果;依据所述比较结果将写入存储器划分成先入先出写入存储器和复用写入存储器;依据该比较结果确定该先入先出写入存储器和复用写入存储器的数据读取策略;依据该数据读取策略从先入先出写入存储器和复用写入存储器内读取权值加载至计算电路。本申请提供的技术方案具有功耗低,计算时间短的优点。
技术领域
本申请涉及人工智能技术领域,具体涉及一种神经网络的数据传输方法及相关产品。
背景技术
随着人工智能技术的日益成熟,各行各业的应用场景和产品需求爆发式增长;基于深度学习算法的人工智能应用得到广泛应用,而深度学习算法在硬件以及芯片实现过程中,普遍遇到一个关键问题:网络模型参数值即权值(WEIGHT)的大小一般为几十千比特到兆比特级别,如何有效的将权值加载到计算电路内进行计算成为当前急需解决的问题;现有技术方案无法实现对权值数据进行快速的传输,影响计算性能,延长计算时间,用户体验度低。
本申请实施例提供了一种神经网络的数据传输方法及相关产品,可以多次复用权值数据,减少权值加载的次数,节省数据传输带宽,节省计算时间的优点。
第一方面,本申请实施例提供一种神经网络的数据传输方法,所述方法包括如下步骤:
获取存储器存储的权值数据的权值规格,比较权值规格与写入存储器规格的大小确定比较结果;
依据所述比较结果将写入存储器划分成先入先出写入存储器和复用写入存储器;
依据该比较结果确定该先入先出写入存储器和复用写入存储器的数据读取策略;
依据该数据读取策略从先入先出写入存储器和复用写入存储器内读取权值加载至计算电路。
可选的,先入先出模式或先入先出与重复读取组合模式。
可选的,所述依据所述比较结果将写入存储器划分成先入先出写入存储器和复用写入存储器,依据该比较结果确定该先入先出写入存储器和复用写入存储器的数据读取策略,包括:
如比较结果为:权值规格=写入存储器规格,
配置所述先入先出写入存储器的起始地址为零,结束地址为写入存储器的最大地址值;
确定第一直接存储器以及第二直接存储器均为先入先出模式;
第一直接存储器将权值写入到存储器,第二直接存储器启动后,检测先入先出工作电平的电平,如先入先出工作电平的电平从高电平变化成低电平第二直接存储器从写入存储器内读取权值传输给计算电路。
可选的,所述依据所述比较结果将写入存储器划分成先入先出写入存储器和复用写入存储器,依据该比较结果确定该先入先出写入存储器和复用写入存储器的数据读取策略,包括:
权值规格写入存储器规格,将权值划分成第一部分权值以及第二部分权值;
将第一部分权值放置在复用写入存储器区域,所述复用写入存储器区域为能被第二直接存储器重复读取使用的写入存储器区域;
第二直接存储器启动第一任务和第二任务,第一任务用于从复用写入存储器区域重复获取第一部分权值;所述第二任务用于通过先入先出方式通过先入先出写入存储器区域动态从存储器加载该第二部分权值;
计算电路先利用第一部分权值进行运算,然后利用第二部分权值进行运算。
第二方面,提供一种计算装置,所述计算装置包括:存储器、第一直接存储器、写入存储器、第二直接存储器、计算电路和控制电路;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳云天励飞技术有限公司,未经深圳云天励飞技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711484341.0/2.html,转载请声明来源钻瓜专利网。