[发明专利]用于人工智能芯片的指令执行方法和装置

说明书

本申请实施例公开了用于人工智能芯片的指令执行方法和装置。该方法的一具体实施方式包括：接收中央处理单元发送的用于描述神经网络模型的描述信息，描述信息包括至少一条操作指令；对描述信息进行解析，获取至少一条操作指令；对于至少一条操作指令中的操作指令，确定执行该操作指令的专用执行部件，对所确定的专用执行部件进行加锁；将该操作指令发送到所确定的专用执行部件；响应于接收到用于指示该操作指令已执行完的通知，对所确定的专用执行部件进行解锁。该实施方式能够避免人工智能芯片与中央处理单元进行频繁交互，提高了人工智能芯片的性能。

技术领域

本申请实施例涉及计算机技术领域，具体涉及用于人工智能芯片的指令执行方法和装置。

背景技术

近年来，随着以深度学习为代表的模型算法的兴起和发展，神经网络模型已经广泛应用于各个领域，例如，语音识别、图像识别、自然语言处理等领域。

神经网络模型中存在大量的计算密集型算子，例如，矩阵计算、卷积、池化、激活、标准化等等。由于这些运算非常耗时，传统CPU(Central Processing Unit，中央处理单元)的运算能力难以满足需求，从而使得异构运算成为主流。并且因此开发出了各种神经网络专用处理器，诸如，GPU(Graphics Processing Unit，图形处理器)、FPGA(Field－Programmable Gate Array，现场可编程门阵列)、ASIC(Application SpecificIntegrated Circuits，专用集成电路)等神经网络专用处理器。

现有技术中，可以通过主机的CPU实现神经网络处理器的任务调度。例如，通过主机的CPU与神经网络处理器不断交互，从而实现对神经网络处理器的任务调度。

发明内容

本申请实施例提出了用于人工智能芯片的指令执行方法和装置。

第一方面，本申请实施例提供了一种用于人工智能芯片的指令执行方法，人工智能芯片包括至少一个通用执行部件和至少一个专用执行部件，该方法包括：接收中央处理单元发送的用于描述神经网络模型的描述信息，描述信息包括至少一条操作指令；对描述信息进行解析，获取至少一条操作指令；对于至少一条操作指令中的操作指令，确定执行该操作指令的专用执行部件，对所确定的专用执行部件进行加锁；将该操作指令发送到所确定的专用执行部件；响应于接收到用于指示该操作指令已执行完的通知，对所确定的专用执行部件进行解锁。

在一些实施例中，对所确定的专用执行部件进行加锁，包括：获取所确定的专用执行部件的锁；响应于获取成功，执行锁定操作。

在一些实施例中，对所确定的专用执行部件进行加锁，还包括：响应于获取失败，以轮询方式查询所确定的专用执行部件的锁定状态；响应于查询到所确定的专用执行部件的锁定状态为未锁定，继续获取所确定的专用执行部件的锁，进行锁定操作。

在一些实施例中，对所确定的专用执行部件进行加锁，还包括：响应于获取失败，进入等待状态；响应于接收到用于指示所确定的专用执行部件已解锁的唤醒通知，退出等待状态，继续获取所确定的专用执行部件的锁，进行锁定操作。

在一些实施例中，该方法还包括：响应于确定出至少一条操作指令已执行完，向中央处理单元发送用于指示至少一条操作指令已执行完的通知。

在一些实施例中，至少一个通用执行部件并联连接，至少一个专用执行部件串联连接。

在一些实施例中，至少一个通用执行部件包括可编程通用计算图形处理器，至少一个专用执行部件包括以下至少一种：卷积引擎、单数据处理器、平面数据处理器、通道数据处理器、专用内存和数据重构引擎。