[发明专利]一种高效的卷积神经网络运算指令集架构构建方法及装置、服务器

说明书

本发明提供了一种高效的卷积神经网络运算指令集架构构建方法，其中，指令由指令包进行组织，每个指令包包含多条指令；每条所述指令均包含用于标识本条指令所在指令包内的序号，以及指令包的起始和结尾标志的opcode信息；每个所述指令包均包含instinfo、instdepend、instpara信息；所述instinfo信息用于标识指令包的类型；所述instdepend信息，用于指定指令所需的硬件资源，以及指令间的依赖关系，结合调度策略，确保指令在乱序发射状态下得到正确的执行结果；所述instpara信息，用于指定指令包的其他参数信息。本发明所述的高效的卷积神经网络运算指令集架构及装置、服务器能够有效地提高卷积指令执行的并行度，加速卷积计算。

技术领域

本发明属于人工智能神经网络技术领域，尤其是涉及一种高效的卷积神经网络运算指令集架构构建方法及装置、服务器。

背景技术

卷积神经网络是近年来广泛应用于模式识别、图像处理等领域的一种高效识别算法，它具有结构简单、训练参数少和适应性强等特点。由于CNN(Convolutional NeuralNetworks)的特征检测层通过训练数据进行学习，所以在使用CNN时，避免了显示的特征抽取，而隐式地从训练数据中进行学习；再者由于同一特征映射面上的神经元权值相同，所以网络可以并行学习，这也是卷积网络相对于神经元彼此相连网络的一大优势。

在已有的计算机领域应用中，与卷积运算相关的应用十分普遍。在现有技术中，进行卷积神经网络运算的已知方案是使用通用处理器，该方法通过通用寄存器堆和通用功能部件来执行通用指令，从而执行卷积神经网络运算。然而，通用处理器多用于标量计算，在进行卷积神经网络运算时运算性能很低。

发明内容

有鉴于此，为克服上述缺陷，本发明旨在提出一种高效的卷积神经网络运算指令集架构构建方法及装置、服务器。

为达到上述目的，本发明的技术方案是这样实现的：

第一方面，本发明提供了一种高效的卷积神经网络运算指令集架构，指令由指令包进行组织，每个指令包包含多条指令；

每条所述指令均包含用于标识本条指令所在指令包内的序号，以及指令包的起始和结尾标志的opcode信息；

每个所述指令包均包含instinfo、instdepend、instpara信息；

所述instinfo信息用于标识指令包的类型，所述指令包的类型为多种，每种类型的指令包对应由一个独立的执行单元执行，不同类型的指令包由控制模块分发到对应的执行单元；

所述instdepend信息，用于指定指令所需的硬件资源，以及指令间的依赖关系，结合调度策略，确保指令在乱序发射状态下得到正确的执行结果；

所述instpara信息，用于指定指令包的其他参数信息。

进一步的，每个指令包所包含的指令条数是可变的，每个指令包包含的指令条数由该指令包所包含的信息量决定，每条指令占用64Bit内存空间。

进一步的，同一类型的指令包由执行单元按顺序执行；

多个执行单元之间可并行执行指令包。

进一步的，指令包的类型包括Load FM、load WT、Cal和Save；

所述的Load FM类型的指令包，用于将卷积运算所需的输入特征图数据由片外空间加载到片内空间；

所述的load WT类型的指令包，用于将卷积运算所需的权重和偏置参数由片外空间加载到片内空间；

所述的Cal类型的指令包，用于进行卷积运算，并将运算结果存储到片内空间；

所述的Save类型的指令包，用于将卷积运算得到的运算结果由片内空间存储到片外空间。