[发明专利]神经网络加速器的确定方法、装置、设备以及存储介质

说明书

本申请实施例公开了一种神经网络加速器的确定方法、装置、设备以及存储介质。该方法包括：获取神经网络模型集合和加速器结构集合，神经网络模型集合包括至少一种神经网络模型，加速器结构集合包括至少一种加速器结构；基于神经网络模型集合和加速器结构集合，确定至少一个神经网络加速器，任一神经网络加速器由至少一种神经网络模型和一种加速器结构确定，并用于处理一种数据类型的数据；确定各神经网络加速器的设计参数，基于各设计参数，确定各神经网络加速器的性能指标；基于各性能指标，从各神经网络加速器中确定目标神经网络加速器。采用本申请实施例，可提升神经网络加速器的优化效果、适用性高。

技术领域

本申请涉及硬件设计领域，尤其涉及一种神经网络加速器的确定方法、装置、设备以及存储介质。

背景技术

近年来，以神经网络为代表的深度学习算法在许多领域取得了突破性进展，如计算机视觉领域、自然语言处理领域等。然而，随着识别率的提高，深度学习算法的计算复杂度和内存需求也急剧增加，当前的通用处理器无法满足其计算需求。主流的解决方法是采用现场可编程门阵列(Field-Programmable Gate Array,FPGA)构建神经网络加速器来提升计算性能。

当前，神经网络加速器设计主要考虑结构优化与数据类型优化。在结构优化方面，主要考虑硬件循环展开、脉动阵列、基于最优卷积快速矩阵乘法的硬件架构实现，并且大多数结构实现往往只针对部分设计参数进行优化。在数据类型优化方面，由于神经网络模型本身具有较好的鲁棒性，并不需要非常高的数据精度，因此通常也只针对有限的数据类型进行优化。

然而，在只针对结构或者数据类型中的一种进行优化时，神经网络加速器性能提升有限。在同时对结构和数据类型进行优化时，容易将结构优化和数据类型优化杂糅，并且也只针对单一神经网络模型负载进行优化，导致优化后的神经网络加速器的性能增益有限，从而为神经网络加速器的优化带来了较大的困难。

发明内容

本申请实施例提供一种神经网络加速器的确定方法、装置、设备以及存储介质，可提升神经网络加速器的优化效果、适用性高。

第一方面，本申请实施例提供一种神经网络加速器的确定方法，该方法包括：

获取神经网络模型集合和加速器结构集合，所述神经网络模型集合包括至少一种神经网络模型，所述加速器结构集合包括至少一种加速器结构；

基于所述神经网络模型集合和所述加速器结构集合，确定至少一个神经网络加速器，任一神经网络加速器由至少一种神经网络模型和一种加速器结构确定，并用于处理一种数据类型的数据；

确定各所述神经网络加速器的设计参数，基于各所述设计参数，确定各所述神经网络加速器的性能指标；

基于各所述性能指标，从各所述神经网络加速器中确定目标神经网络加速器。

可选地，上述基于上述神经网络模型集合和上述加速器结构集合，确定至少一个神经网络加速器，包括：

确定现场可编程逻辑门阵列FPGA异构平台对应的各运算资源的最大运算资源数、以及上述FPGA异构平台的最高时钟频率；

基于上述神经网络模型集合、上述加速器结构集合、各上述运算资源的最大运算资源数以及上述最高时钟频率，确定至少一个基于FPGA异构平台的神经网络加速器。

可选地，上述性能指标包括计算密度和性能值；

上述基于各上述设计参数，确定各上述神经网络加速器的性能指标，包括：

基于各上述设计参数，确定各上述神经网络加速器对应的神经网络模型的数据处理时延、数据运算总次数以及数据访存总次数；