[发明专利]子任务自适应神经网络

权利要求书

1.一种具有子任务自适应神经网络的计算系统，所述计算系统包括：

一个或多个处理器；以及

一个或多个非暂时性计算机可读介质，所述一个或多个非暂时性计算机可读介质共同存储：

包括基础神经网络的子任务自适应神经网络，所述基础神经网络具有多个参数，其中，所述基础神经网络已经被训练以执行包括在基本子任务的总集合中的多个基本子任务中的每一个；以及

指令，所述指令在由所述一个或多个处理器执行时使得所述计算系统执行操作，所述操作包括：

接收描述包括两个或更多个基本子任务的组合子任务的数据，所述组合子任务是基本子任务的所述总集合的子集，已经针对基本子任务的所述总集合训练了所述基础神经网络；

基于所述组合子任务来生成组合子任务专用修剪掩码，其中，所述组合子任务专用修剪掩码识别要修剪的所述基础神经网络的所述多个参数的子集；

修剪由所述组合子任务专用修剪掩码识别的所述基础神经网络的所述多个参数的所述子集以生成组合子任务专用神经网络；以及

在修剪所述多个参数的所述子集之后，提供所述组合子任务专用神经网络以用于所述组合子任务的执行。

2.根据权利要求1所述的计算系统，其中，基于所述组合子任务来生成所述组合子任务专用修剪掩码包括：

从存储中访问分别与包括在所述组合子任务中的所述两个或更多个基本子任务相关联的两个或更多个预定效用掩码；

组合所述两个或更多个预定效用掩码以生成组合子任务专用效用掩码；以及

对所述组合子任务专用效用掩码进行二进制化以生成所述组合子任务专用修剪掩码。

3.根据权利要求2所述的计算系统，其中，组合所述两个或更多个预定效用掩码以生成所述组合子任务专用效用掩码包括在逐元素的基础上执行用于所述两个或更多个预定效用掩码的最大值运算符。

4.根据权利要求2或权利要求3所述的计算系统，其中，对所述组合子任务专用效用掩码进行二进制化以生成所述组合子任务专用修剪掩码包括在逐元素的基础上将所述组合子任务专用效用掩码的每个值与阈值进行比较，其中，小于所述阈值的值被设置为0，并且大于所述阈值的值被设置为1。

5.根据权利要求1所述的计算系统，其中：

所述子任务自适应神经网络还包括修剪掩码生成神经网络；以及

基于所述组合子任务来生成所述组合子任务专用修剪掩码包括：

将描述所述组合子任务的所述数据输入到所述修剪掩码生成神经网络中；以及

接收所述组合子任务专用修剪掩码作为所述修剪掩码生成神经网络的输出，所述组合子任务专用修剪掩码由所述修剪掩码生成神经网络基于描述所述组合子任务的所述数据来产生。

6.根据任一项前述权利要求所述的计算系统，其中：

所述基础神经网络包括卷积神经网络，所述卷积神经网络包括多个滤波器；以及

所述组合子任务专用修剪掩码在逐滤波器的基础上识别要修剪的所述基础神经网络的所述多个滤波器的子集。

7.根据任一项前述权利要求所述的计算系统，其中：

所述操作还包括基于所述组合子任务来生成组合子任务专用缩放掩码，其中，所述组合子任务专用缩放掩码缩放所述基础神经网络的所述多个参数中的一个或多个，以偏移所述组合子任务专用修剪掩码的效果；以及

基于所述组合子任务来生成所述组合子任务专用修剪掩码包括根据所述组合子任务专用缩放掩码缩放所述组合子任务专用修剪掩码的中间版本。

8.根据任一项前述权利要求所述的计算系统，其中：

所述多个基本子任务包括分别与多个不同对象类相关联的多个辨识任务；以及

描述组合子任务的所述数据识别所述多个不同对象类中的两个或更多个。

9.根据任一项前述权利要求所述的计算系统，其中，所述多个基本子任务中的至少一个包括将输入分类成两个或多个不同的类。