[发明专利]选择用于有监督机器学习问题的神经网络架构

权利要求书

1.一种系统，包括：

处理硬件；以及

存储指令的存储器，所述指令使所述处理硬件执行操作，所述操作包括：

访问与机器学习问题相关联的机器学习问题空间和用于解决所述机器学习问题的多个未经训练的候选神经网络；

针对每个未经训练的候选神经网络，计算至少一个表达性度量，所述至少一个表达性度量捕获所述候选神经网络关于所述机器学习问题的表达性；

针对每个未经训练的候选神经网络，计算至少一个可训练性度量，所述至少一个可训练性度量捕获所述候选神经网络关于所述机器学习问题的可训练性；

基于所述至少一个表达性度量和所述至少一个可训练性度量，选择用于解决所述机器学习问题的至少一个候选神经网络；以及

提供表示所选择的所述至少一个候选神经网络的输出。

2.根据权利要求1所述的系统，其中所述至少一个表达性度量表示由所述未经训练的候选神经网络对来自所述机器学习问题空间的样本的分离的度量。

3.根据权利要求2所述的系统，其中所述分离的度量是大小。

4.根据权利要求2所述的系统，其中所述分离的度量是角度。

5.根据权利要求1所述的系统，其中所述至少一个可训练性度量表示在训练的第一阶段期间所述候选神经网络中的权重的随机梯度下降。

6.根据权利要求1所述的系统，其中选择用于解决所述机器学习问题的所述至少一个候选神经网络包括：

选择具有超过阈值的所述至少一个表达性度量并且所述至少一个可训练性度量在范围内的所述至少一个候选神经网络，其中所述范围由范围最小值和范围最大值限定。

7.根据权利要求1所述的系统，所述操作还包括：

训练所述至少一个候选神经网络以解决所述机器学习问题。

8.根据权利要求7所述的系统，所述操作还包括：

在所述机器学习问题空间上运行已训练的所述至少一个候选神经网络，以便解决所述机器学习问题；以及

提供由已训练的所述至少一个候选神经网络生成的对所述机器学习问题的解决方案。

9.一种存储指令的机器可读介质，所述指令使一个或多个机器执行操作，所述操作包括：

访问与机器学习问题相关联的机器学习问题空间和用于解决所述机器学习问题的多个未经训练的候选神经网络；

针对每个未经训练的候选神经网络，计算至少一个表达性度量，所述至少一个表达性度量捕获所述候选神经网络关于所述机器学习问题的表达性；

针对每个未经训练的候选神经网络，计算至少一个可训练性度量，所述至少一个可训练性度量捕获所述候选神经网络关于所述机器学习问题的可训练性；

基于所述至少一个表达性度量和所述至少一个可训练性度量，选择用于解决所述机器学习问题的至少一个候选神经网络；以及

提供表示所选择的所述至少一个候选神经网络的输出。

10.根据权利要求9所述的机器可读介质，其中所述至少一个表达性度量表示由所述未经训练的候选神经网络对来自所述机器学习问题空间的样本的分离的度量。

11.根据权利要求10所述的机器可读介质，其中所述分离的度量是大小。

12.根据权利要求10所述的机器可读介质，其中所述分离的度量是角度。

13.根据权利要求9所述的机器可读介质，其中所述至少一个可训练性度量表示在训练的第一阶段期间所述候选神经网络中的权重的随机梯度下降。