[发明专利]一种基于FPGA的神经网络运算方法、装置及设备

权利要求书

1.一种基于FPGA的神经网络运算方法，其特征在于，包括：

获取神经网络模型；

统计多个FPGA对应的片上内存容量；

根据各所述FPGA的片上内存容量，将所述神经网络模型拆分为具有相应数据量的子模型；其中，各所述子模型的数据量不大于所对应的所述FPGA的片上内存容量；

将所述子模型分配至对应所述FPGA的片上内存；

根据各所述子模型之间的执行顺序设定相应各所述FPGA之间的数据流向，并根据所述执行顺序依次控制各所述FPGA基于相应的所述子模型执行神经网络运算。

2.根据权利要求1所述的基于FPGA的神经网络运算方法，其特征在于，所述根据各所述FPGA的片上内存容量，将所述神经网络模型拆分为具有相应数据量的子模型，包括：

统计所述神经网络模型中各网络层的层数据量；

基于各所述网络层的层数据量以及各所述FPGA的片上内存容量，依次计算各所述FPGA对应的目标网络层；

在所述神经网络模型中拆分得到各所述目标网络层对应的所述子模型。

3.根据权利要求2所述的基于FPGA的神经网络运算方法，其特征在于，所述层数据量包括参数量以及过程数据量；其中，所述过程数据量为相应所述网络层执行神经网络运算过程中产生数据的数据量。

4.根据权利要求3所述的基于FPGA的神经网络运算方法，其特征在于，统计所述神经网络模型中各网络层的参数量以及过程数据量，包括：

基于所述神经网络模型中各所述网络层的过滤器数量、通道数量以及卷积核尺寸统计得到相应的所述参数量，以及基于各所述网络层中所述过滤器数量以及中间数据的尺寸统计得到相应的所述过程数据量。

5.根据权利要求1所述的基于FPGA的神经网络运算方法，其特征在于，在所述统计多个FPGA对应的片上内存容量之前，所述方法还包括：

判断所述神经网络模型的数据量是否大于一个FPGA的片上内存容量；

如果所述神经网络模型的数据量大于一个FPGA的片上内存容量，则执行所述统计多个FPGA对应的片上内存容量的步骤。

6.根据权利要求1至5任意一项所述的基于FPGA的神经网络运算方法，其特征在于，当所述神经网络模型中参数的数据类型为浮点型时，在所述将所述神经网络模型拆分为具有相应数据量的子模型之前，所述方法还包括：

将所述神经网络模型中参数的数据类型由所述浮点型转化为定点型；

所述将所述神经网络模型拆分为具有相应数据量的子模型，包括：

将参数的数据类型转化后的所述神经网络模型拆分为具有相应数据量的所述子模型。

7.根据权利要求6所述的基于FPGA的神经网络运算方法，其特征在于，所述将所述神经网络模型中参数的数据类型由所述浮点型转化为定点型，包括：

获取所述神经网络模型中各通道的最大参数值；

根据各所述最大参数值计算相应各所述通道的量化系数；

基于各所述量化系数将所述神经网络模型中相应所述通道内参数的数据类型由所述浮点型转化为所述定点型。

8.一种基于FPGA的神经网络运算装置，其特征在于，包括：

模型获取模块，用于获取神经网络模型；

内存统计模块，用于统计多个FPGA对应的片上内存容量；

模型拆分模块，用于根据各所述FPGA的片上内存容量，将所述神经网络模型拆分为具有相应数据量的子模型；其中，各所述子模型的数据量不大于所对应的所述FPGA的片上内存容量；

模型分配模块，用于将所述子模型分配至对应所述FPGA的片上内存；

模型执行模块，用于根据各所述子模型之间的执行顺序设定相应各所述FPGA之间的数据流向，并根据所述执行顺序依次控制各所述FPGA基于相应的所述子模型执行神经网络运算。