[发明专利]应用在神经网络数据处理中的向量融合计算方法及装置

说明书

本发明涉及神经网络领域，具体涉及一种应用在神经网络数据处理中的向量融合计算方法及装置，该方法及装置采用指令集控制的方式，将两种不同的Route算子和Shortcut算子在指令集中编码成不同的参数，通过状态机的方式控制系统的运行，指令集的SRAM存储网络各层的功能信息，然后在状态机的解码状态下对其进行解码，当解码出指令集的算子类型是Route或者Shortcut时，然后进行相应的算子处理。因为Route和Shortcut两个算子都是对网络层中的两个中间层进行数据处理，不管是进行拼接还是对应位置数据相加，都使得输出特征图的特征信息增加了，图片的后续处理精度都会得到提升。

技术领域

本发明涉及神经网络领域，具体而言，涉及一种应用在神经网络数据处理中的向量融合计算方法及装置。

背景技术

随着神经网络的结构越来越复杂，网络层数越来越深，网络的准确率开始达到了饱和甚至出现退化现象，所以越到后边网络越需要将其中的一些中间量做一些必要处理以确保网络数据的准确性和精度。因为在卷积神经网络中，随着网络层深越来越大，图片经过卷积或者池化等操作会剔除部分之前的数据信息，造成图片的特征信息部分丢失，进而导致图片识别的结果出现偏差或者错误。

现有技术对上述缺陷也有一些处理方法，但还是存在以下缺点：

1.对图片的处理是一页一页的，没有并行处理，在处理效率上比较低下。

2.图片从片下DDR到SRAM多次交互，数据的存储浪费延迟较大。

3.针对性强，但设计过程复杂，不能与系统其他算子模块很好集成，造成系统操作繁杂，能耗和资源开销较大。

发明内容

本发明实施例提供了一种应用在神经网络数据处理中的向量融合计算方法及装置，以至少解决现有技术处理输入特征图效率低下的技术问题。

根据本发明的一实施例，提供了一种应用在神经网络数据处理中的向量融合计算方法，包括以下步骤：

采用指令集控制的方式，将两种不同的Route算子和Shortcut算子在指令集中编码成不同的参数；

通过状态机的方式控制系统的运行，指令集的SRAM存储网络各层的功能信息，然后在状态机的解码状态下对其进行解码；

当解码出指令集的算子类型是Route或者Shortcut时，然后进行相应的算子处理。

进一步地，方法中开始时将两个不同的Route算子和Shortcut算子都有的过程集成在同一个状态中，后续到具体的各自向量数据处理的时候再分开到各自不同的处理状态。

进一步地，方法中Route算子和Shortcut算子都是在整个的状态机框架下实现，而且采用的是指令集配置和解码的方式，其中Route算子和Shortcut算子在系统前期的配置和解码过程相同，在指令集中的参数代码不同。

进一步地，方法具体包括：

首先系统进行前期的控制和配置过程，通过STATE_CFG_RAM在SRAM中存储指令集信息；

指令集信息配置完成之后状态机在STATE_DECODE_INST状态下对其进行解码，从而分析下一步做出什么动作；

当状态机解码到指令集中的网络层类型是Route或者Shortcut的时候，就会跳转到STATE_SHORT_ROUTE状态；其中Route算子或者Shortcut算子前期从片下DDR索引目标网络层的起始位置的过程是一样的，只是具体的参数不同，Route是要将两张特征图的数据传入到SRAM作拼接，得到目标的输出数据后再写回DDR，而Shortcut是要将两层特征图的数据传入到系统的计算单元PE当中作相应的加法，得到新的输出特征图的数据之后再写回到DDR。