[发明专利]一种易推理贝叶斯网络的学习方法

说明书

本发明属于机器学习技术领域，具体为一种易推理贝叶斯网络的学习方法，包括步骤1：为预训练，即初始化贝叶斯网络，利用训练数据判断两个节点之间的互信息值，通过互信息初始化贝叶斯网络；步骤2：为搜索，即在初始化的贝叶斯网络附近搜索与训练数据拟合程度更好的贝叶斯网络；步骤3：为寻找易推理的贝叶斯网络，即寻找一个推理效率高的贝叶斯网，其结构合理，通过对学习贝叶斯网络时的推理效率进行打分，变量序、变量消元和团树传播推理等进行分析与处理，构建新的评分函数，进而通过爬山法学习贝叶斯网络，从而构建出能在保证一定拟合程度的情况下的易推理的贝叶斯网络。为贝叶斯网络走向应用的过程中，满足实际需求。

技术领域

本发明涉及机器学习技术领域，具体为一种易推理贝叶斯网络的学习方法。

背景技术

贝叶斯网络是用来表示数据概率知识的模型,是以贝叶斯概率理论为基础的,是概率论与论相结合的产物。它可以获得数据集中各变量间的条件概率,判断变量间的因果关系。在许多现实的情况下,一些规则不能对数据进行全面描述。建立数据库完整的模型是比较困难的,而且所建立的模型也比较复杂。贝叶斯网络可以对规则进行补充,它的图形表示方式更容易理解。同时,它是一种数学模型,可以在不确定的情况下进行推理。但是随着贝叶斯网走向应用，由于评分函数的单一考虑与训练数据的吻合性，而忽视了学习出来的贝叶斯网络结构的推理效率，使得耗费了大量的资源学习所得的贝叶斯网络的推理效率低下，不能满足需求，所以如何在保证吻合度的情况下，使得学习所得的贝叶斯网络具有高效的推理效率就成为了关键。

发明内容

本部分的目的在于概述本发明的实施方式的一些方面以及简要介绍一些较佳实施方式。在本部分以及本申请的说明书摘要和发明名称中可能会做些简化或省略以避免使本部分、说明书摘要和发明名称的目的模糊，而这种简化或省略不能用于限制本发明的范围。

本发明提供一种易推理贝叶斯网络的学习方法，可以根据影响贝叶斯网络推理效率的多个因素(属性)对贝叶斯网络的推理效率和与训练数据的拟合程度进行综合评价。

为解决上述技术问题，根据本发明的一个方面，本发明提供了如下技术方案：

一种易推理贝叶斯网络的学习方法，其包括如下步骤：

步骤1：为预训练，即初始化贝叶斯网络，利用训练数据判断两个节点之间的互信息值，通过互信息初始化贝叶斯网络，训练数据为无缺省值的数据集，数据集提供的每一个数据项包含n个数据，分别对应n个节点的取值，每个节点的取值有多种情况，通过贝叶斯网络学习的过程中，首先要初始化贝叶斯网络，使用数据集两个节点之间的互信息来表达两个节点这间的相关性，当相关性达到一定程度时，就可以在贝叶斯网络中初始化边信息，遍历完任意两个n个节点中任意两个节点，初始化结束；

步骤2：为搜索，即在初始化的贝叶斯网络附近搜索与训练数据拟合程度更好的贝叶斯网络，寻找bic评分最高的贝叶斯网络，贝叶斯网络是具有n个节点的有向图，在对贝叶斯网络进行初始化之后，得到一个与训练数据初步拟合的贝叶斯网络，在这个贝叶斯网络的附近寻找与训练数据最拟合的贝叶斯网络结构；

步骤3：为寻找易推理的贝叶斯网络，即寻找一个推理效率高的贝叶斯网，在搜索到的贝叶斯网络附近搜索推理复杂度最低的贝叶斯网同时限制他的bic评分在一定的范围内，运用以上训练得到的贝叶斯网络集合，寻找一个在指定bic评分下的一个易推理的贝叶斯网络。

作为本发明所述的一种易推理贝叶斯网络的学习方法的一种优选方案，其中：步骤一包括：

步骤101：设定贝叶斯网络的节点数为n，训练数据有m组；

步骤102：初始化贝叶斯网络，计算任意两个节点之间的互信息，互信息公式：