[发明专利]用于训练机器学习系统的方法和装置

权利要求书

1.一种用于训练机器学习系统（60）的计算机实现的方法，其中该机器学习系统被配置为：基于至少一个第一输入信号（x）以及多个第二输入信号（）和与这些第二输入信号对应的第二输出信号（）来确定与该第一输入信号（x）对应的第一输出信号（y），其中该第一输出信号（y）表征带有不确定性的分类和/或带有不确定性的回归，其中该方法为了该训练而包括如下步骤：

• 确定多个训练输入信号，所述多个训练输入信号彼此保持上下文关系，其中每个训练输入信号都分配有对应的训练输出信号；

• 将多个训练输入信号和训练输出信号划分成多个（）第二训练输入信号和对应的第二训练输出信号并且划分成至少一个第一训练输入信号（）和至少一个对应的第一训练输出信号（）；

• 确定多个（）第二训练输入信号和第二训练输出信号的上下文表示（）；

• 借助于该机器学习系统（60）的解码器（62）并且基于所确定的上下文表示（）和该第一训练输入信号（）来确定针对该至少一个第一训练输入信号（）的预测输出信号（）；

• 确定损失值，该损失值表征在该预测输出信号（）与该第一训练输出信号（）之间的区别，其中该损失值基于损失函数来被确定，其中该损失函数表征正态分布的概率密度函数或对数化概率密度函数；

• 确定编码器（61）和/或解码器（62）的多个参数关于该损失值的梯度；

• 基于所确定的梯度来改变所述多个参数。

2.根据权利要求1所述的方法，其中借助于该机器学习系统（60）对该第一输出信号（y）的确定包括如下步骤：

• 借助于该机器学习系统（60）的编码器（61）来确定多个潜在表示（），其中所述多个潜在表示中的潜在表示（）基于至少一个第二输入信号（）和与该第二输入信号（）对应的第二输出信号（）来被确定，其中该第二输入信号（）和该第二输出信号（）表征该第一输入信号（x）的上下文并且该潜在表示（）包括第一表示（）和第二表示，其中该第一表示（）表征期望值而且该第二表示（）表征方差；

• 基于所述多个潜在表示中的潜在表示（）的第一表示（）来确定第三表示（），其中该第三表示（）表征这些第一表示（）的累积；

• 基于所述多个潜在表示中的潜在表示（）的第二表示（）来确定第四表示（），其中该第四表示（）表征这些第二表示（）的累积；

• 借助于该机器学习系统（60）的解码器（62）来确定该第一输出信号（y），其中该解码器（62）基于该第三表示（）和该第四表示（）和该第一输入信号（x）来确定该第一输出信号（y）。

3.根据权利要求2所述的方法，其中在确定该损失值的步骤中，其中通过该解码器（62）所确定的预测输出信号（）的第一表示被用作该概率密度函数的期望值并且通过该解码器（62）所确定的预测输出信号（）的第二表示被用作该概率密度函数的方差或协方差矩阵。

4.根据权利要求2或3所述的方法，其中该机器学习系统（60）利用多个第一训练输入信号和训练输出信号来被训练，其中该损失值按照公式

来被确定，其中是多个第一训练输入信号，是相应被分配给这些第一训练输入信号的训练输出信号，是正态分布的概率密度函数，是该预测输出信号（）的借助于该解码器（62）所确定的第一表示，是该预测输出信号（）的借助于该解码器（62）所确定的第二表示，其中所确定的第一表示被用作该概率密度函数的期望值并且所确定的第二表示被用作该概率密度函数的方差或协方差矩阵。

5.根据权利要求2至4中任一项所述的方法，其中在确定该第四表示（）的步骤中，该第四表示（）按照公式

来被确定，其中是关于该第四表示（）的先验假设，是多个第二输入信号（）和第二输出信号（）中的第个输入信号和第个输出信号的潜在表示（）的由该编码器（61）所确定的第二表示（），而且表明逐元素的倒数值。