[发明专利]兼容多维度卷积神经网络的Winograd处理方法、系统及介质

说明书

本发明公开了一种兼容多维度卷积神经网络的Winograd处理方法、系统及介质，其中方法包括以下步骤：根据网络维度进行判断，确定Winograd维度计算模式，进入Winograd转换步骤；将神经网络的激活输入Winograd激活转换模块进行转换计算；将神经网络的权重输入权重转换模块进行Winograd转换计算；将Winograd计算转换完成的激活和权重进行矩阵相乘，获得Winograd转化前的部分和；根据不同的Winograd卷积尺寸，判断部分和转换对应的计算模式，将部分和进行Winograd转换计算；根据不同Winograd维度模式，确定最终有效输出链路。本发明通过结合不同尺寸的Winograd公式，实现了在同一层神经网络计算过程中可灵活切换Winograd计算尺寸的功能，可广泛应用于卷积神经网络算法领域。

技术领域

本发明涉及卷积神经网络算法领域，尤其涉及一种兼容多维度卷积神经网络的Winograd处理方法、系统及介质。

背景技术

随着深度学习技术和卷积神经网络研究的发展，不同维度的网络都取得了卓越的性能和多样化的应用场景。因为不同网络维度的差异，卷积神经网络在硬件平台的实现和部署差异化日益增大，硬件设计缺乏支持多种网络维度的灵活性。同时，出于神经网络参数量庞大的考虑，Winograd算法被提出用于降低计算复杂度和乘法次数。但是不同维度卷积神经网络的Winograd公式存在差异，不能同时满足多维度卷积神经网络需求。

发明内容

为至少一定程度上解决现有技术中存在的技术问题之一，本发明的目的在于提供一种兼容多维度卷积神经网络的Winograd处理方法、系统及介质。

本发明所采用的技术方案是：

一种兼容多维度卷积神经网络的Winograd处理方法，包括以下步骤：

根据网络维度进行判断，确定Winograd维度计算模式，进入Winograd转换步骤；

在Winograd转换步骤中，将神经网络的激活输入Winograd激活转换模块进行转换计算；

将神经网络的权重输入权重转换模块进行Winograd转换计算；

将Winograd计算转换完成的激活和权重进行矩阵相乘，获得Winograd转化前的部分和；

根据不同的Winograd卷积尺寸，判断部分和转换对应的计算模式，将部分和进行Winograd转换计算；

根据不同Winograd维度模式，确定最终有效输出链路。

进一步，所述根据网络维度进行判断，确定Winograd维度计算模式，包括：

3D卷积神经网络的尺寸分为行列帧三个维度方向，2D神经网络方向分为行列两个维度方向，1D神经网络只有一个维度方向；

对于不同维度的网络数据，采用不同Winograd公式对激活、权重以及部分和进行转换处理及计算。

进一步，1D神经网络对应的Winograd计算公式为：

y＝G[(Bx)⊙(Aw)]

2D神经网络对应的Winograd计算公式为：

y＝G[(BxB^T)⊙(AwA^T)]G^T

3D神经网络对应的Winograd计算公式为：

y＝(G[((BxB^T)^RB^T)⊙((AwA^T)^RA^T)]G^T)^RG^T