[发明专利]状态信息获取装置和方法

说明书

本公开涉及状态信息获取装置和方法。所述状态信息获取装置包括：格式转换模块，用于将所述状态信息进行格式转换，获得转换后的状态信息；第一存储模块，包括片上存储器，所述片上存储器包括高速暂存存储器；第二存储模块，用于存储所述状态信息和/或所述转换后的状态信息。本公开可以获取神经网络处理装置在运行过程中的状态信息。

技术领域

本公开涉及信息处理技术领域，尤其涉及一种状态信息获取装置和方法。

背景技术

神经网络算法是最近非常流行的一种机器学习算法，在各种领域中都取得了非常好的效果，比如图像识别，语音识别，自然语言处理等。随着神经网络算法的发展，算法的复杂度也越来越高，为了提高识别度，模型的规模也在逐渐增大。用GPU和CPU处理起这些大规模的模型，要花费大量的计算时间，并且耗电量很大。在这种情况下，神经网络加速器被人们提出，用于进行神经网络算法处理的加速，并且达到降低功耗的效果。

发明内容

根据本公开的一方面，提供了一种状态信息获取装置，所述状态信息获取装置连接于神经网络处理装置，所述状态信息获取装置包括：

调试指令添加模块，用于在输入代码中添加调试指令，得到添加后的调试代码，其中，所述输入代码为所述神经网络处理装置的可运行代码，所述调试指令用于采集所述神经网络处理装置运行过程中的状态信息；

输入输出模块，连接于所述调试指令添加模块和所述神经网络处理装置，用于向所述神经网络处理装置输出所述调试代码，并输入来自所述神经网络处理装置的调试结果，所述调试结果中包括所述神经网络处理装置的状态信息；

状态信息获取模块，连接于所述输入输出模块，用于根据所述调试结果确定所述神经网络处理装置的状态信息。

在一种可能的实施方式中，所述调试指令添加模块包括：

插入位置确定子模块，用于确定所述输入代码中的一个或多个插入位置；

指令添加子模块，连接于所述插入位置确定子模块，用于分别在所述一个或多个插入位置处添加调试指令，得到添加后的调试代码。

在一种可能的实施方式中，所述装置还包括：

指令生成模块，连接于所述调试指令添加模块，用于生成所述调试指令，其中，所述调试指令包括状态信息存储指令，用于将所述神经网络处理装置运行过程中的状态信息存储到所述神经网络处理装置的第一存储模块中。

在一种可能的实施方式中，所述神经网络处理装置包括控制模块、运算模块及第一存储模块，所述运算模块包括主处理电路和多个从处理电路，

所述控制模块，用于根据输入的调试代码，得到多个运算指令，并将所述多个运算指令以及输入的待运算数据发送给所述主处理电路，其中所述多个运算指令中包括所述调试指令；

所述主处理电路，用于对所述待运算数据执行前序处理以获得处理后的运算数据，并与所述多个从处理电路之间传输所述运算数据、中间结果及运算指令中的至少一种；

每个从处理电路，用于根据所述主处理电路传输的运算数据及运算指令执行中间运算得到中间结果，并将所述中间结果传输给所述主处理电路；

所述主处理电路，用于对多个中间结果执行后续处理得到所述调试代码的最终计算结果；

所述第一存储模块用于根据调试指令，存储所述状态信息，其中，所述状态信息包括所述主处理电路的前序处理过程中的状态信息、所述多个从处理电路的中间运算过程中的状态信息、所述主处理电路的后续处理过程中的状态信息中的至少一种；

所述控制模块还用于根据所述状态信息生成调试结果，并向所述状态信息获取装置输出调试结果。

在一种可能的实施方式中，所述第一存储模块包括片上存储器，所述片上存储器包括高速暂存存储器。