[发明专利]在训练神经网络中作为正则化器的冻结

权利要求书

1.一种系统，所述系统包括：

存储器，所述存储器存储计算机可执行组件；和

处理器，所述处理器执行存储在所述存储器中的计算机可执行组件，其中所述计算机可执行组件包括：

评估组件，所述评估组件识别神经网络的单元；

选择组件，所述选择组件选择所述神经网络的单元的子集；和

冻结组件，所述冻结组件冻结所述神经网络的单元的所述选定子集，使得针对训练运行将不更新来自单元的所述冻结子集的输出连接的权重。

2.根据权利要求1所述的系统，其中所述选择组件选择所述神经网络的层，并且所述冻结组件冻结所述神经网络的所述选定层，使得针对训练运行将不更新来自所述冻结层的输出连接的权重。

3.根据权利要求1所述的系统，其中所述选择组件随机地选择单元的所述子集。

4.根据权利要求2所述的系统，其中单元的所述选定子集的所述冻结减小所述神经网络对单元或层的所述冻结子集的依赖性。

5.根据权利要求2所述的系统，其中单元的所述选定子集的所述冻结减轻所述神经网络对单元或层的所述冻结子集的过度拟合。

6.根据权利要求2所述的系统，其中所述选择组件选择所述神经网络的层的块，并且所述冻结组件冻结所述神经网络的层的所述选定块，使得针对训练运行将不更新来自层的所述冻结块的输出连接的权重。

7.根据权利要求1所述的系统，其中执行冻结所述神经网络的选定单元来代替丢弃所述选定单元。

8.根据权利要求1所述的系统，其中除了丢弃所述神经网络的单元的另一个子集之外，还执行冻结所述神经网络的选定单元。

9.根据权利要求1所述的系统，还包括人工智能组件，所述人工智能组件促进单元的所述子集的选择。

10.一种方法，所述方法包括：

由包括处理器的系统识别神经网络的单元；

由所述系统选择所述神经网络的单元的子集；以及

由所述系统冻结所述神经网络的单元的所述选定子集，使得针对训练运行将不更新来自单元的所述冻结子集的输出连接的权重。

11.一种包括指令的计算机可读存储设备，所述指令响应于执行而致使包括处理器的系统执行操作，所述操作包括：

由所述处理器识别神经网络的单元；

由所述处理器选择所述神经网络的单元的子集；以及

由所述处理器冻结所述神经网络的单元的所述选定子集，使得针对训练运行将不更新来自单元的所述冻结子集的输出连接的权重。

12.根据权利要求11所述的计算机可读存储设备，其中所述操作还包括：

由所述处理器选择所述神经网络的层，并且冻结所述神经网络的所述选定层，使得针对训练运行将不更新来自所述冻结层的输出连接的权重。

13.根据权利要求11所述的计算机可读存储设备，其中所述操作还包括：

由所述处理器随机地选择单元的所述子集。

14.根据权利要求11所述的计算机可读存储设备，其中所述操作还包括：

由所述处理器选择所述神经网络的层的块，并且冻结所述神经网络的层的所述选定块，使得针对训练运行将不更新来自层的所述冻结块的输出连接的权重。