[发明专利]用于机器学习的设备和机器学习的计算机实现的方法

权利要求书

1.机器学习用于根据第一参数将数据集映射为任务的解的模型的计算机实现的方法，其特征在于，确定（204）第二参数以用于在第一次学习迭代中将所述第二参数分配给所述第一参数，以及确定（204）第三参数以用于根据所述第三参数和根据用于评估所述任务的解的度量来确定在至少一次学习迭代中改变所述第一参数的速率，其中确定（204）第二参数或第三参数包括确定（204-2a）初始值问题的解，所述解取决于所述度量关于所述第一参数的导数，其中确定（204-2a）所述解包括根据初始值确定所述初始值问题的解的第一部分，根据所述第一部分确定所述初始值问题的解的第二部分，确定（204-2c）所述第一部分的偏导数，确定（204-2c）所述第二部分的偏导数，并根据所述偏导数中的至少一个确定（204-2d）所述第二参数和/或所述第三参数。

2.根据权利要求1所述的方法，其特征在于，从分布中采样（204-1）所述任务。

3.根据权利要求2所述的方法，其特征在于，从所述分布中采样（204-1）一批任务，确定（204-2c）该批任务的多个偏导数，以及根据所述多个偏导数确定（204-2d）所述第二参数或所述第三参数。

4.根据权利要求2或3所述的方法，其特征在于，确定（204-2c）关于所述第一参数的偏导数，并根据所述偏导数的函数、特别是总和确定（204-2d）所述第二参数的变化，或者确定（204-2c）关于所述第三参数的偏导数并根据所述偏导数的函数、特别是总和确定所述第三参数的变化。

5.根据前述权利要求中任一项所述的方法，其特征在于，确定（204-2）第二参数包括在求解所述初始值问题的多个步骤的第一步骤中随机地初始化所述初始值。

6.根据权利要求5所述的方法，其特征在于，将所述第三参数在所述多个步骤的第一步骤中初始化为正标量或正标量的向量或矩阵。

7.根据前述权利要求中任一项所述的方法，其特征在于，确定（204-2）所述初始值问题的解包括利用常微分方程求解器根据显式龙格-库塔方法，特别是非欧拉方法来求解所述初始值问题。

8.根据前述权利要求中任一项所述的方法，其特征在于，为所述任务确定（204-2a）所述初始值问题的解的包括所述第一部分和所述第二部分的多个部分，并且将所述多个部分中的至少一部分存储（204-2b）在存储器中。

9.根据权利要求8所述的方法，其特征在于，根据所述初始值问题的解的多个部分为所述任务确定（204-2c）多个偏导数包括从存储器读取所述初始值问题的解的多个部分的第一子集并根据所述第一子集的初始值问题的解的至少一部分确定所述初始值问题的解的多个部分的第二子集。

10.根据前述权利要求中任一项所述的方法，其特征在于，根据常微分方程定义所述速率，所述常微分方程包括所述第一参数的时间过程关于时间的导数和所述度量的时间过程关于第一参数的时间过程的偏导数。

11.根据前述权利要求中任一项所述的方法，其特征在于，针对从所述分布中采样的不同批次的任务在迭代中确定不同的第二参数和/或第三参数，其中所述方法包括在至少一次迭代之后根据所述至少一次迭代的第二参数和/或第三参数改变所述第一参数。

12.根据前述权利要求中任一项所述的方法，其特征在于，在第一次迭代中将所述第二参数分配给所述第一参数，根据所述第三参数确定在该迭代中改变所述第一参数的速率，以及在第一次迭代中和/或在所述第一次迭代之后的第二次迭代中以所述速率改变所述第一参数。

13.用于机器学习模型的设备，其特征在于，所述设备被配置为执行根据权利要求1至12中任一项所述的方法中的步骤。

14.计算机程序，其特征在于，所述计算机程序包括计算机可读指令，当所述指令由计算机执行时，所述指令促使计算机执行根据权利要求1至12中任一项所述的方法中的步骤。