[发明专利]指令块的处理方法及装置、存储介质、电子装置

说明书

本发明实施例提供了一种指令块的处理方法及装置、存储介质、电子装置，其中，所述方法包括：通过编译模块对神经网络模型的描述文件进行编译，得到镜像包，其中，镜像包包括：指令块组，指令块序表，跳转指令映射表，指令块组包括待处理的多个指令块，指令块序表用于指示所述多个指令块的运行顺序，以及运行指令块的执行设备，所述执行设备包括：处理器，加速设备，每一个所述指令块后设置有跳转指令，所述跳转指令映射表包括：跳转指令和下一个执行的指令块；加载所述镜像包，并按照所述指令块序表和所述跳转指令映射表处理所述指令块组，采用上述技术方案，解决了相关技术中对于一个或多个神经网络系统，如何调度处理不同的指令块等问题。

技术领域

本发明涉及神经网络领域，具体而言，涉及一种指令块的处理方法及装置、存储介质、电子装置。

背景技术

随着计算力的极大提高和大数据的获取便利，深度学习技术取得了巨大进步，越来越多的图像处理、自然语言分析等问题，能通过深度学习技术，得到很好的解决。

深度神经神经网络模型解决业务问题，需要执行推理(Inference)过程。执行推理运算的设备一般有中央处理器(Central Processing Unit，简称为CPU)，图形处理器(Graphics Processing Unit，简称为GPU)，现场可编程门阵列(Field Programable GateArray，简称为FPGA)等，在进行此类业务落地的过程中，要高效利用资源和快速获得结果，既需要对推理运算设备的计算、存储架构有深入理解，也需要对深度神经网络描述的运算要求有深刻理解。往往有较大难度，并会花费较长时间。

特别的，有些业务功能往往需要多个神经网络的组合来完成，比如，在人脸识别业务场景中，需先调用一深度神经网络模型检测图像中是否含有人的脸部图像(FaceDetection人脸检测)，如果有人的脸部图像，再将该图像输入另一种深度神经网络进行推理运算，获取该人脸图像的详细特征信息，进行辨别(Face Idnetification，人脸识别)，最终获得业务所需的结果。

针对相关技术中，对于一个或多个神经网络系统，如何调度处理不同的指令块等问题，目前尚未存在有效的解决方案。

发明内容

本发明实施例提供了一种指令块的处理方法及装置、存储介质、电子装置，以解决相关技术中对于一个或多个神经网络系统，如何调度处理不同的指令等问题。

根据本发明的一个实施例，提供了一种指令块的处理方法，包括：通过编译模块对神经网络模型的描述文件进行编译，得到镜像包，其中，所述镜像包包括：指令块组，指令块序表，跳转指令映射表，所述指令块组包括待处理的多个指令块，所述指令块序表用于指示所述多个指令块的运行顺序，以及运行指令块的执行设备，所述执行设备包括：处理器，加速设备，每一个所述指令块后设置有跳转指令，所述跳转指令映射表包括：所述跳转指令和下一个执行的指令块；加载所述镜像包，并按照所述指令块序表和所述跳转指令映射表处理所述指令块组的指令块。

在本发明实施例中，通过编译模块对神经网络模型的描述文件进行编译，得到镜像包，包括：通过编译模块对多个神经网络模型的描述文件进行编译，得到多个神经网络模型对应的镜像包。

在本发明实施例中，按照所述指令块序表和所述跳转指令映射表处理所述指令块组的指令块，包括：指示所述指令块序表中的执行设备按照所述指令块序表的运行顺序和所述跳转指令映射表处理所述指令块组的指令块。

在本发明实施例中，按照所述指令块序表和所述跳转指令映射表处理所述指令块组的指令块之后，所述方法还包括：对于每一个指令，在按照所述运行顺序处理完一个指令后，将得到的数据缓存到预先分配的缓存区中。