[发明专利]分级潜在变量模型估计设备

说明书

一种分级潜在结构设置单元81设置分级潜在结构，该分级潜在结构是其中潜在变量由树结构代表并且代表概率模型的分量位于树结构的最低级的节点处的结构。变分概率计算单元82计算路径潜在变量的变分概率，该路径潜在变量是在分级路径结构中的将根节点链接到目标节点的路径中包括的潜在变量。分量优化单元83优化用于计算出的变分概率的分量中的每个分量。门控函数优化单元84优化门控函数模型，该门控函数模型是用于基于分级潜在结构中的节点中的潜在变量的分量概率、根据该节点中的多变元数据确定分支方向的模型。

技术领域

本发明涉及一种用于估计用于多变元数据的分级潜在变量模型的分级潜在变量模型估计设备和分级潜在变量模型估计方法，以及一种具有其上记录的程序的计算机可读记录介质，该程序用于估计用于多变元数据的分级潜在变量模型。

背景技术

以从汽车、商店的销售表现、电力需求历史等获取的传感器数据为代表的数据是根据各种因素而被观测和累计的数据。例如，从汽车获取的传感器数据根据驾驶模式而变化。因此，数据被累计作为并非从一个因素、而是从各种因素产生的观测值。

对从其产生这样的数据的因素的分析可以被应用于工业上重要的情形。作为示例，分析汽车的故障原因支持对汽车的快速修理。作为另一示例，分析在销售与天气和/或当天时间之间的相关性支持减少脱销或者积压。作为又一示例，识别电力需求模式支持防止电力过量或者短缺。

另外，如果有可能分析如何进行在多个因素之间的切换，则可以通过组合为每个因素而获得的知识来执行预测。此外，它们的切换规则也可以被用作为用于营销的知识。这样的分析因此适用于更复杂的情形。

为了在逐个因素的基础上分离从多个因素产生的以上提到的数据，通常在建模中使用混合潜在变量模型。作为包括以上提到的切换规则的模型，提出了分级潜在变量模型(例如，参见非专利文献(NPL)1)。

为了使用这样的模型，有必要确定隐藏状态的数目、观测概率分布的类型和分布参数。在其中已知隐藏状态的数目和观测概率分布的类型的情况下，可以通过例如使用在NPL 2中描述的期望最大化算法来估计参数。因此，如何确定隐藏状态的数目和观测概率分布的类型是重要的。

确定隐藏状态的数目和观测概率的类型的问题通常被称为“模型选择问题”或者“系统标识问题”，并且对于构造可靠模型而言是极为重要的问题。相应地提出了用于确定隐藏状态的数目和观测概率的类型的各种方法。

作为一种用于确定隐藏状态的数目的方法，例如，提出了一种通过变分(variational)贝叶斯(Bayesian)方法最大化变分自由能量的方法(例如，参见NPL 3)。作为另一种用于确定隐藏状态的数目的方法，提出了一种使用分级狄利克雷(Dirichlet)过程先验分布的非参数贝叶斯方法(例如，参见NPL 4)。

另外，在NPL 5中描述了一种用于通过为混合模型近似完整边际似然度函数并且最大化它的下界(下限)来确定观测概率的类型的方法，该混合模型是潜在变量模型的典型示例。

引用列表

非专利文献

[NPL 1]C.Bishop,M.Svensen,Bayesian Hierarchical Mixtures of Experts,Proceedings of the Nineteenth Conference on Uncertainty in ArtificialIntelligence,p.57-64,2002.

[NPL 2]C.Bishop,Pattern Recognition and Machine Learning,Springer,p.423-459,2007.