[发明专利]一种基于MobileNetV1网络推理任务的扩展指令集的系统

说明书

一种基于MobileNetV1网络推理任务的扩展指令集的系统，包括：ConvDepth指令，用于完成MobileNetV1网络中的一个Depthwise卷积层中的所有参数读取、运算以及运算结果回写的操作；ConvPoint指令，用于完成MobileNetV1网络中的一个Pointwise卷积层中的所有参数读取、运算以及运算结果回写的操作；BNandReLU指令，用于完成MobileNetV1网络中的一个BatchNorm和ReLU层中的所有参数读取、运算以及运算结果回写的操作。本发明让传统处理器可通过协处理器执行扩展指令，加速MobileNetV1的推理任务，提升性能，提高代码密度。

技术领域

本发明涉及神经网络推理任务硬件加速领域，尤其涉及一种基于MobileNetV1网络推理任务的扩展指令集的系统。

背景技术

随着算力的提升，近年来，卷积神经网络得到了快速发展各种深度学习网络模型相继提出，用于大型图像处理，推理任务的准确率逐渐提升，与此同时，网络的深度与参数量也逐渐增大，传统通用处理器不适用于大量的数据存取和计算操作，存在耗时长、功耗大等缺点，而MobileNetV1作为一种轻量化网络模型，在牺牲了一点可以接受的准确率的情况下，减少了参数量和运算量、降低了功耗，常用于移动端、嵌入式领域。

对于传统处理器，为了更好的部署卷积神经网络，通常使用扩展SIMD指令的方式，通过复数的执行单元来进行卷积网络运算中可并行的乘加运算来达到加速效果,然而短周期、细粒度的SIMD指令无法避免大量的控制逻辑，性能提升有限。

MobileNetV1网络模型结构，在获取输入特征图后，为第一层标准卷积处理，后接连续十三层的Depthwise卷积和Pointwise卷积运算，最后为平均池化层和全连接层。其中，Depthwise卷积和Pointwise卷积运算量占到整个网络的90％以上。

因此，为了充分利用MobileNetV1网络模型的特点，将卷积层、归一化层等操作固化为一条长周期、粗粒度的CISC指令的形式，通过接口传输用协处理器或额外的执行单元来完成复杂的控制逻辑和运算过程，从而提升传统处理器执行MobileNetV1网络推理任务的运算效率。

发明内容

为了克服现有技术的不足，本发明要解决的技术问题是提供一种基于MobileNetV1网络推理任务的扩展指令集的系统，以提升传统处理器执行MobileNetV1网络推理任务的运算效率。

为解决上述技术问题，本发明提供了如下技术方案：

一种基于MobileNetV1网络推理任务的扩展指令集的系统，其特征在于，所述指令集包括：ConvDepth指令、ConvPoint指令和BNandReLU指令；

所述ConvDepth指令，用于完成MobileNetV1网络中的一个Depthwise卷积层中的所有操作，包括参数的读取，运算以及运算结果的回写；

所述ConvPoint指令，用于完成MobileNetV1网络中的一个Pointwise卷积层中的所有操作，包括参数的读取，运算以及运算结果的回写；

所述BNandReLU指令，用于完成MobileNetV1网络中的一个BatchNorm和ReLU层中的所有操作，包括参数的读取，运算以及运算结果的回写。

进一步，所述ConvDepth指令，汇编格式为ConvDepth rs1,rs2,O,I,N,S；

所述指令中，rs1和rs2由主机寄存器提供，用以保存存放输入特征图数据的首地址“InputBaseAddr”、存放输出特征图数据的首地址“OutputBaseAddr”以及所用卷积核的首地址“KernelBaseAddr”；