[发明专利]基于移位量化操作的全定点卷积计算方法、系统及设备

摘要

本发明属于卷积神经网络领域，具体涉及了一种基于移位量化操作的全定点卷积计算方法、系统及设备，旨在解决现有的卷积计算方法内存占用和时间消耗大，难以在嵌入式设备上进行部署的问题。本发明包括：通过量化尺度参数公式和量化后偏置项参数公式获取待计算图像的卷积特征图的量化尺度参数和卷积核参数的量化尺度参数，进而计算偏置项参数的量化尺度参数，通过卷积核参数的量化尺度参数和偏置项参数对权重进行量化，进而获得量化运算结果，通过移位操作将中间结果进行量化，使得在前向计算过程中没有浮点运算的参与。本发明每一层仅需一个量化参数，减小内存占用和时间消耗，使得卷积模型可在嵌入式设备上部署。