[发明专利]选择性反向传播

说明书

修改了机器学习模型的各类别之间的训练数据的平衡。在梯度阶段作出调整，其中利用选择性反向传播来修改成本函数，以基于数据集中的类别示例频度来调整或选择性地应用梯度。可基于具有最少成员的类别的示例数目与当前类别的示例数目的比率来确定用于修改梯度的因子。基于以上所确定的因子来修改与该当前类别相关联的梯度。

相关申请的交叉引用

本申请要求于2015年9月29日提交且题为“SELECTIVE BACKPROPAGATION(选择性反向传播)”的美国临时专利申请No.62/234,559的权益，其公开内容通过援引全部明确纳入于此。

背景

领域

本公开的某些方面一般涉及机器学习，尤其涉及修改机器学习模型的各类别之间的训练数据的平衡。

背景技术

可包括一群互连的人工神经元(例如，神经元模型)的人工神经网络是一种计算设备或者表示将由计算设备执行的方法。

卷积神经网络是一种前馈人工神经网络。卷积神经网络可包括神经元集合，其中每一个神经元具有感受野并且共同地拼出一输入空间。卷积神经网络(CNN)具有众多应用。具体而言，CNN已被广泛使用于模式识别和分类领域。

深度学习架构(诸如深度置信网络和深度卷积网络)是分层神经网络架构，其中第一层神经元的输出变成第二层神经元的输入，第二层神经元的输出变成第三层神经元的输入，依此类推。深度神经网络可被训练以识别特征阶层并且因此它们已被越来越多地用于对象识别应用。类似于卷积神经网络，这些深度学习架构中的计算可分布在处理节点群体上，其可被配置在一个或多个计算链中。这些多层架构可每次训练一层并且可使用反向传播来微调。

其他模型也可用于对象识别。例如，支持向量机(SVM)是可被应用于分类的学习工具。支持向量机包括对数据进行归类的分离超平面(例如，决策边界)。该超平面由监督式学习来定义。期望的超平面增加训练数据的裕量。换言之，超平面应该具有到训练示例的最大的最小距离。

尽管这些解决方案在数个分类基准上达到了优异的结果，但它们的计算复杂度可能极其高。另外，模型的训练可能是有挑战性的。

概述

在一个方面，公开了一种修改机器学习模型的各类别之间的训练数据的平衡的方法。该方法包括基于具有最少成员的类别的示例数目与当前类别的示例数目的比率来在训练该模型时修改反向传播过程的梯度。

另一方面公开了一种用于修改机器学习模型的各类别之间的训练数据的平衡的装备。该装备包括用于基于具有最少成员的类别的示例数目与当前类别的示例数目的比率来确定用于修改梯度的因子的装置。该装备还包括用于基于所确定的因子来修改与该当前类别相关联的梯度的装置。

另一方面公开了具有存储器以及耦合至该存储器的至少一个处理器的无线通信。该(诸)处理器被配置成基于具有最少成员的类别的示例数目与当前类别的示例数目的比率来在训练该模型时修改反向传播过程的梯度。

另一方面公开了一种其上记录有非瞬态程序代码的非瞬态计算机可读介质，该程序代码在被该(诸)处理器执行时使该(诸)处理器执行以下操作：至少部分地基于具有最少成员的类别的示例数目与当前类别的示例数目的比率来在训练模型时修改反向传播过程的梯度。

本公开的附加特征和优点将在下文描述。本领域技术人员应当领会，本公开可容易地被用作修改或设计用于实施与本公开相同的目的的其他结构的基础。本领域技术人员还应认识到，这样的等效构造并不脱离所附权利要求中所阐述的本公开的教导。被认为是本公开的特性的新颖特征在其组织和操作方法两方面连同进一步的目的和优点在结合附图来考虑以下描述时将被更好地理解。然而，要清楚理解的是，提供每一幅附图均仅用于解说和描述目的，且无意作为对本公开的限定的定义。

附图简要说明