[发明专利]稀疏深度卷积网络权重的压缩

权利要求书

1.一种操作神经网络的方法，包括：

接收稀疏权重向量集，其中所述稀疏权重向量集中的至少第一稀疏权重向量包括至少一个零权重元素和至少一个非零权重元素；

通过移除所述稀疏权重向量集中的至少所述第一稀疏权重向量中的至少一个零权重元素中的一者或多者以及将至少所述第一稀疏权重向量与所述稀疏权重向量集中的至少第二稀疏权重向量组合来压缩所述稀疏权重向量集以产生经压缩稀疏权重向量集；以及

基于所述经压缩稀疏权重向量集来操作所述神经网络。

2.根据权利要求1所述的方法，其特征在于，所述压缩所述稀疏权重向量集以产生所述经压缩稀疏权重向量集至少部分地基于至少所述第一稀疏权重向量中的至少一个非零权重元素的第一数目以及至少所述第二稀疏权重向量中的至少一个非零权重元素的第二数目。

3.根据权利要求1所述的方法，其特征在于，进一步包括：

确定针对所述经组合的至少所述第一稀疏权重向量和至少所述第二稀疏权重向量中的每个权重元素执行乘法累加(MAC)运算的时间；以及

将所确定的时间与预定义阈值进行比较，其中

所述压缩所述稀疏权重向量集以产生所述经压缩稀疏权重向量集至少部分地基于所述将所确定的时间与所述预定义阈值进行比较。

4.根据权利要求1所述的方法，其特征在于，进一步包括：

接收输入向量集；

向所述经压缩稀疏权重向量集中的至少一个稀疏权重向量选择地应用所述输入向量集中的第一输入向量，以计算与所述经压缩稀疏权重向量集中的每个稀疏权重向量相对应的相应部分和；

累加针对所述经压缩稀疏权重向量集中的每个稀疏权重向量的相应部分和；以及

至少部分地基于所累加的相应部分和来操作所述神经网络。

5.根据权利要求1所述的方法，其特征在于，进一步包括：

接收非稀疏权重向量集；以及

通过应用函数以将所述非稀疏权重向量集中的至少一个非稀疏权重向量中的至少一个非零权重元素调整为零来生成所述稀疏权重向量集。

6.根据权利要求1所述的方法，其特征在于，所述基于所述经压缩稀疏权重向量集来操作所述神经网络：

避免对所述经压缩稀疏权重向量集进行解压缩。

7.一种操作神经网络的方法，包括：

接收稀疏权重向量集，每个稀疏权重向量包括至少一个零权重元素和至少一个非零权重元素；

通过避免使用所述稀疏权重向量集中的每个稀疏权重向量中的所述至少一个零权重元素执行一个或多个计算来基于所述稀疏权重向量集执行稀疏计算，其中所述执行所述稀疏计算产生一个或多个部分和；以及

至少部分地基于所述一个或多个部分和来操作所述神经网络。

8.根据权利要求7所述的方法，其特征在于，进一步包括：

接收输入向量集，所述输入向量集中的第一输入向量中的每个输入对应于所述稀疏权重向量集中的稀疏权重向量中的权重元素，其中

所述基于所述稀疏权重向量集来执行所述稀疏计算进一步包括：控制对所述第一输入向量中与所述稀疏权重向量中的所述至少一个非零权重元素相对应的输入的选择。

9.根据权利要求7所述的方法，其特征在于，所述稀疏权重向量集被压缩，并且其中所述经压缩稀疏权重向量集在操作所述神经网络时保持被压缩。