[发明专利]利用稀疏三维（3D）分组卷积的通用模块化稀疏3D卷积设计

权利要求书

1.一种用于稀疏三维(3D)卷积加速的设备，包括：

一个或多个处理器，所述一个或多个处理器包括用于处理数据的图形处理器；以及

存储器，所述存储器用于存储数据，所述数据包括特征图；

其中，所述一个或多个处理器用于通过将共享3D卷积核/过滤器应用于输入特征图以产生输出特征图来在神经网络模型的卷积层中提供稀疏3D卷积加速，所述产生输出特征图包括：

通过将所述输入特征图分割为多个(G个)不相交输入分组来线性提高所述输入特征图的稀疏度；

通过以下方式生成与所述多个不相交输入分组相对应的多个不相交输出分组：针对所述多个不相交输入分组中的每个输入分组，对与所述输入分组的活动/有效体素的全部或子集相关联的所有输入特征值执行由所述共享3D卷积核/过滤器表示的卷积计算，以产生所述多个不相交输出分组的对应输出分组内的对应输出特征值；以及

通过顺序堆叠所述多个不相交输出分组来输出所述输出特征图。

2.如权利要求1所述的设备，其中，所述输入特征图的稀疏度为s％，并且代表所述多个不相交输入分组的平均输入分组的稀疏度为G*s％。

3.如权利要求1所述的设备，其中，所述顺序堆叠所述多个不相交输出分组包括将与所述多个不相交输出分组中的每一个的活动/有效体素相关联的所有输出特征值收集到所述输出特征图中。

4.如权利要求1所述的设备，其中，所述将所述输入特征图分割为多个(G个)不相交输入分组是沿着所述输入特征图的空间维度执行的并且应用于所有输入通道。

5.如权利要求4所述的设备，其中，参考包含多个条目的散列表高效地识别所述输入分组的活动/有效体素，其中，所述多个条目中的每个条目对应于特定的活动/有效体素并指定(i)所述特定活动/有效体素的按照w、h和d坐标形式的空间维度以及(ii)所述特定活动/有效体素已被分割到的所述多个不相交输入分组中的特定输入分组的分组标识符。

6.如权利要求1所述的设备，其中，所述将所述输入特征图分割为多个(G个)不相交输入分组是针对多个输入通道分组中的每一个独立执行的。

7.如权利要求1所述的设备，其中，所述将所述输入特征图分割为多个(G个)不相交输入分组包括基于随机生成的分组标识符划分所述输入特征图，所述分组标识符为所述活动/有效体素中的每一个指定所述多个不相交输入分组中的分组。

8.如权利要求1所述的设备，其中，所述将所述输入特征图分割为多个(G个)不相交输入分组包括生成分组标识符(GID)，所述分组标识符基于以下形式的映射函数指定所述活动/有效体素中的每一个将被分割到的所述多个不相交输入分组中的分组：

GID＝mod(aw+bh+cd；G)

其中，

mod是模运算；

(w，h，d)表示特定活动/有效体素在所述输入特征图中的位置；并且

a、b和c是用于控制所述分割的可配置参数。

9.一种用于稀疏三维(3D)卷积加速的方法，包括：

由在数据处理系统上实施的神经网络模型的卷积层接收输入特征图；

通过所述卷积层将所述输入特征图分割为多个(G个)不相交输入分组来线性提高所述输入特征图的稀疏度；

由所述卷积层通过以下方式生成与所述多个不相交输入分组相对应的多个不相交输出分组：针对所述多个不相交输入分组中的每个输入分组，对与所述输入分组的活动/有效体素的全部或子集的所有输入特征值执行由与所述卷积层相关联的共享3D卷积核/过滤器表示的卷积计算，以产生所述多个不相交输出分组的对应输出分组内的对应输出特征值；以及

由所述卷积层通过顺序堆叠所述多个不相交输出分组来输出输出特征图。

10.如权利要求9所述的方法，其中，所述输入特征图的稀疏度为s％，并且代表所述多个不相交输入分组的平均输入分组的稀疏度为G*s％。