[发明专利]用于神经网络参数实时动态解压缩的矢量量化解码硬件单元

权利要求书

1.一种卷积神经网络处理系统，包括：

输入层，被配置为接收输入数据；

解压缩器单元，被配置为接收利用矢量量化处理编码的编码内核数据，以及基于所述编码内核数据生成解压缩的内核数据；

卷积加速器，被配置为接收所述解压缩的内核数据，接收基于所述输入数据的特征数据，以及对所述特征数据和所述解压缩的内核数据执行卷积运算；以及

全连接层，被配置为从所述卷积加速器接收卷积数据，并且基于所述卷积数据生成预测数据。

2.根据权利要求1所述的系统，其中所述解压缩器单元包括查找表，所述查找表被配置为存储与所述编码内核数据相关联的码本数据。

3.根据权利要求2所述的系统，其中所述解压缩器单元包括索引流缓冲器，其中所述编码内核数据包括用于从所述查找表检索码矢量的索引数据。

4.根据权利要求3所述的系统，其中所述解压缩器单元通过基于所述索引数据从所述查找表检索码矢量，来生成所述解压缩的内核数据。

5.根据权利要求4所述的系统，其中所述编码内核数据包括所述码本数据，其中所述解压缩器单元被配置为接收所述码本数据、将所述码本数据存储在所述查找表中、接收所述索引数据、以及利用所述索引数据从所述码本数据检索所述码矢量。

6.根据权利要求2所述的系统，其中所述码本数据和所述索引数据是利用所述矢量量化处理生成的。

7.根据权利要求2所述的系统，进一步包括多个卷积加速器，其中所述解压缩器单元被配置为同时存储用于所述多个卷积加速器的码本数据。

8.根据权利要求1所述的系统，其中所述输入数据是来自图像传感器的图像数据。

9.根据权利要求8所述的系统，其中所述预测数据标识在所述图像数据中的特征。

10.根据权利要求1所述的系统，进一步包括定义卷积神经网络的多个卷积层的多个卷积加速器。

11.一种方法，包括：

利用卷积神经网络的解压缩单元接收编码内核数据，其中所述编码内核数据包括用于矢量量化码本的索引数据；

将所述矢量量化码本存储在所述解压缩单元的查找表中；

通过利用所述索引数据从所述查找表检索码矢量，利用所述解压缩单元生成解压缩的内核数据；

在所述卷积神经网络的卷积加速器处接收特征数据；

利用所述卷积加速器从所述解压缩单元接收所述解压缩的内核数据；以及

利用所述卷积加速器，对所述解压缩的内核数据和所述特征数据执行卷积运算。

12.根据权利要求11所述的方法，其中所述卷积神经网络在片上系统上实现，其中接收所述编码内核数据包括从所述片上系统外部的源接收所述编码内核数据。

13.根据权利要求12所述的方法，其中所述编码内核数据包括所述码本数据。

14.根据权利要求13所述的方法，其中所述编码内核数据包括用于所述卷积神经网络的第二卷积加速器的第二码本数据。

15.根据权利要求14所述的方法，还包括：

将所述第二矢量量化码本数据存储在所述解压缩单元的所述查找表中；

接收在所述编码内核数据中的第二索引数据；

通过利用所述第二索引数据从所述第二矢量量化码本检索码矢量，来生成第二解压缩的内核数据；以及，将所述第二解压缩的内核数据提供给所述第二卷积加速器。

16.根据权利要求11所述的方法，进一步包括基于所述特征数据和所述解压缩的内核数据，利用所述卷积神经网络生成预测数据。