[发明专利]一种用于人工智能芯片的指令执行方法

说明书

本发明提供一种用于人工智能芯片的指令执行方法。该执行方法，包括至少一个通用执行元件和至少一个专用执行元件，所述方法包括：接收中央处理单元发送的用于描述神经网络模型的描述信息，所述描述信息包括指令块或者指令团；所述指令块包括多条操作指令；对所述指令块进行解析，获取至少一条操作指令；对于所述至少一条操作指令中的操作指令，确定执行该操作指令的专用执行元件，对所确定的专用执行元件的操作指令进行加锁；将该操作指令发送到所确定的专用执行元件；响应于接收到用于指示该操作指令已执行完的通知。通过代码块内设置有并联指令和代码团内设置有串联指令，可以降低人工智能芯片与CPU进行频繁交互，提高了人工智能芯片的性能。

技术领域

本发明涉及人工智能芯片领域，具体为一种用于人工智能芯片的指令执行方法。

背景技术

近年来，随着以深度学习为代表的模型算法的兴起和发展，神经网络模型已经广泛应用于各个领域，例如，语音识别、图像识别、自然语言处理等领域。神经网络模型中存在大量的计算密集型算子，例如，矩阵计算、卷积、池化、激活、标准化等等。由于这些运算非常耗时，传统CPU(CentralProcessingUnit，中央处理单元)的运算能力难以满足需求，从而使得异构运算成为主流。并且因此开发出了各种神经网络专用处理器，诸如，GPU(GraphicsProcessingUnit，图形处理器)、FPGA(Field－ProgrammableGateArray，现场可编程门阵列)、ASIC(ApplicationSpecificIntegratedCircuits，专用集成电路)等神经网络专用处理器。

现有技术中，可以由GPU负责神经网络模型中计算密集型的计算任务，而由CPU负责控制GPU的运行。作为示例，CPU负责解析用户定义的静态计算图描述的深度学习模型，获得运算任务序列，将一个运算任务发送到GPU，然后等待GPU执行完运算任务，再将下一个运算任务发送GPU，……，以此类推，其运算过程中需要芯片与CPU多次交接，大大降低了芯片的工作效率。

发明内容

(一)解决的技术问题

针对现有技术的不足，本发明提供了一种用于人工智能芯片的指令执行方法，解决了多操作指令需要多次发送指令的问题，实现了一条序列操作只需要一个指令团，以及CPU的两次工作。

(二)技术方案

为实现以上目的，本发明通过以下技术方案予以实现：一种用于人工智能芯片的指令执行方法，包括至少一个通用执行元件和至少一个专用执行元件，所述方法包括：

接收中央处理单元发送的用于描述神经网络模型的描述信息，所述描述信息包括指令块或者指令团；

所述指令块包括多条操作指令；

对所述指令块进行解析，获取至少一条操作指令；

对于所述至少一条操作指令中的操作指令，确定执行该操作指令的专用执行元件，对所确定的专用执行元件的操作指令进行加锁；将该操作指令发送到所确定的专用执行元件；响应于接收到用于指示该操作指令已执行完的通知，所确定专用执行元件对接收到的操作指令进行解锁；

对所述指令团进行解析，获取至少一条操作指令；

对于所述至少一条操作指令中的操作指令，确定执行该操作指令的专用执行元件，对所确定的专用执行元件的操作指令进行加锁；将该操作指令发送到所确定的专用执行元件；响应于接收到用于指示该操作指令已执行完的通知，所确定的专用执行元件对接收到的操作指令进行解锁，发送操作指令对所述指令团进行下一步解析，再获取至少一条操作指令，至所述指令团无解析任务。

优选的，对所确定的专用执行元件进行加锁，包括：获取所确定的专用执行元件的锁；响应于获取成功，执行锁定操作。