[发明专利]基于支持向量机正则化路径的贝叶斯模型平均模型组合方法

权利要求书

1.一种基于支持向量机正则化路径的贝叶斯模型平均模型组合方法，该方法包括以下步骤：

步骤一，计算支持向量机2-分类模型的正则化路径，得到初始模型集；

根据正则化路径算法，在训练数据集上运行正则化路径算法，得到初始模型集                                                ，，中的模型个数等于svmpath算法的迭代次数，且为， 的取值范围大概为[4,6]，表示正类训练样本个数；表示负类训练样本个数；步骤二，在得到的正则化路径上应用贝叶斯公式求解模型的后验概率；

模型的先验被赋予一个简单的高斯过程，高斯过程先验的协方差矩阵是正定矩阵，作为SVM的核矩阵

                   

通过引入支持向量机的概率解释，模型的后验概率由贝叶斯公式求解；对支持向量机的损失函数进行逐点归一化，即令，为取遍所有可能值时的归一化常数，从而得到

                       

模型的后验概率为

    ，为给定样本，为决策函数的输出；

对于中的每一个模型，概率可计算出来，因此模型的后验概率为

                                 

步骤三，贝叶斯模型平均预测

为预测测试样本的标签，上贝叶斯模型平均组合方法的形式如下：

          

步骤四，得到预测输出

           

并得出测试误差率，测试误差率 = 分类错误样本/样本总数。