[发明专利]选择性反向传播

权利要求书

1.一种修改机器学习模型的各类别之间的训练数据的平衡的方法，包括：

至少部分地基于具有最少成员的类别的示例数目与当前类别的示例数目的比率来在训练所述模型时修改反向传播过程的梯度。

2.如权利要求1所述的方法，其特征在于，所述修改包括缩放所述梯度。

3.如权利要求1所述的方法，其特征在于，所述修改包括至少部分地基于对所述类别示例的采样来选择性地应用所述梯度。

4.如权利要求3所述的方法，其特征在于，对所述类别的所述采样是通过从每个训练历元中选择固定数目的示例来发生的。

5.如权利要求1所述的方法，其特征在于，所述采样是在不将示例放回训练历元中的情况下发生的。

6.一种用于修改机器学习模型的各类别之间的训练数据的平衡的装备，包括：

用于至少部分地基于具有最少成员的类别的示例数目与当前类别的示例数目的比率来确定用于修改梯度的因子的装置；以及

用于基于所确定的因子来修改与所述当前类别相关联的所述梯度的装置。

7.如权利要求6所述的装备，其特征在于，所述修改装置包括用于缩放所述梯度的装置。

8.如权利要求6所述的装备，其特征在于，所述修改装置包括用于至少部分地基于对所述类别示例的采样来选择性地应用所述梯度的装置。

9.如权利要求8所述的装备，其特征在于，对所述类别的所述采样是通过从每个训练历元中选择固定数目的示例来发生的。

10.如权利要求6所述的装备，其特征在于，所述采样是在不将示例放回训练历元中的情况下发生的。

11.一种用于修改机器学习模型的各类别之间的训练数据的平衡的装置，包括：

存储器；以及

耦合至所述存储器的至少一个处理器，所述至少一个处理器被配置成至少部分地基于具有最少成员的类别的示例数目与当前类别的示例数目的比率来在训练所述模型时修改反向传播过程的梯度。

12.如权利要求11所述的装置，其特征在于，所述至少一个处理器被配置成通过缩放所述梯度来进行修改。

13.如权利要求11所述的装置，其特征在于，所述至少一个处理器被配置成通过至少部分地基于对所述类别示例的采样选择性地应用所述梯度来进行修改。

14.如权利要求13所述的装置，其特征在于，对所述类别的所述采样是通过从每个训练历元中选择固定数目的示例来发生的。

15.如权利要求11所述的装置，其特征在于，所述采样是在不将示例放回训练历元中的情况下发生的。

16.一种用于修改机器学习模型的各类别之间的训练数据的平衡的非瞬态计算机可读介质，所述非瞬态计算机可读介质上记录有程序代码，所述程序代码包括：

用于至少部分地基于具有最少成员的类别的示例数目与当前类别的示例数目的比率来在训练所述模型时修改反向传播过程的梯度的程序代码。

17.如权利要求16所述的非瞬态计算机可读介质，其特征在于，所述用于修改的程序代码包括用于缩放所述梯度的程序代码。

18.如权利要求16所述的非瞬态计算机可读介质，其特征在于，所述用于修改的程序代码包括用于至少部分地基于对所述类别示例的采样来选择性地应用所述梯度的程序代码。