[发明专利]用于训练混合模型的方法和设备

说明书

本公开的实施例涉及用于训练混合模型的方法和设备。该混合模型包括多个子模型。该方法包括：响应于接收到第一数据集，确定第一数据集相对于多个子模型的第一分布。该方法还包括：迭代执行以下操作至少一次，直至收敛条件被满足：基于第一分布，降低多个子模型中的第一子模型的第一子空间维度；以及基于降低后的第一子空间维度，更新第一分布。本公开的实施例能够实现自动学习用于降维的混合模型。

技术领域

本公开的实施例涉及机器学习领域，并且更具体地涉及用于训练混合模型的方法和设备。

背景技术

混合模型是一种使用混合分布的用于密度估计的概率模型，混合模型可以包括多个子模型。混合模型的示例包括但不限于高斯混合模型、分段线性混合模型，等等。这些模型已被广泛应用于多种领域，诸如图像分类、文档分类、模糊图像分割等。

数据降维(Dimensionality Reduction)是指通过线性或非线性映射将高维空间中的数据映射到低维空间中，从而获得高维数据的低维表示，数据降维能够减少原始数据的冗余性。在机器学习领域中，常见的数据降维方式包括主成分分析(PrincipalComponent Analysis，PCA)、线性判别分析(Linear Discriminant Analysis，LDA)、局部线性嵌入(Locally Linear Embedding，LLE)、拉普拉斯特征映射(Laplacian Eigenmaps)，等等。

混合概率主成分分析(Mixtures of Probabilistic Principle ComponentAnalyzers，MPPCA)是一种适用于大规模数据的降维方法。MPPCA方法例如可以应用到数据压缩、图像分析、时间序列预测、异常点检测，等等。MPPCA方法通常需要采用交叉验证的组合循环或者利用先验分布来估计混合模型中的每个子模型的子空间维度。

发明内容

本公开的实施例提供了一种用于训练混合模型的方法和设备，能够实现自动学习用于降维的混合模型。

根据本公开的一个方面，提供了一种用于训练混合模型的方法，该混合模型包括多个子模型。该方法包括：响应于接收到第一数据集，确定第一数据集相对于多个子模型的第一分布。该方法还包括：迭代执行以下操作至少一次，直至收敛条件被满足：基于第一分布，降低多个子模型中的第一子模型的第一子空间维度；以及基于降低后的第一子空间维度，更新第一分布。

根据本公开的另一方面，提供了一种用于训练混合模型的设备，该混合模型包括多个子模型。该设备包括至少一个处理单元，其被配置为：响应于接收到第一数据集，确定第一数据集相对于多个子模型的第一分布；以及迭代执行以下操作至少一次，直至收敛条件被满足：基于第一分布，降低多个子模型中的第一子模型的第一子空间维度；以及基于降低后的第一子空间维度，更新第一分布。

根据本公开的又一方面，提供了一种计算机可读存储介质。该计算机可读存储介质具有存储在其上的计算机可读程序指令。这些计算机可读程序指令可以用于执行根据本公开中的各个实施例所描述的方法的步骤。

提供发明内容部分是为了简化的形式来介绍对概念的选择，它们在下文的具体实施方式中将被进一步描述。发明内容部分无意标识本公开的关键特征或主要特征，也无意限制本公开的各个实施例的范围。

附图说明

通过结合附图对本公开示例性实施例进行更详细的描述，本公开的上述以及其它目的、特征和优势将变得更加明显，其中，在本公开示例性实施例中，相同的参考标号通常代表相同部件。

图1示出了根据本公开的实施例的用于训练混合模型的架构100的框图；

图2示出了根据本公开的实施例的用于训练混合模型的方法200的流程图；

图3示出了根据本公开的实施例的用于训练针对数据流的混合模型的方法300的流程图；以及