[发明专利]基于支持向量机正则化路径的贝叶斯模型平均模型组合方法

摘要

本发明公开了一种基于支持向量机正则化路径的贝叶斯模型平均模型组合方法，该方法包括以下步骤：计算支持向量机2-分类模型的正则化路径，得到初始模型集；在得到的正则化路径上应用贝叶斯公式求解模型的后验概率；贝叶斯模型平均预测；步骤四，得到预测输出；与广义近似交叉验证方法相比，基于支持向量机正则化路径的贝叶斯模型平均模型组合算法具有更低的分类误差，在保证较高预测精确率的同时，较大的减少了运行时间并降低了操作复杂度。

主权项

1.一种基于支持向量机正则化路径的贝叶斯模型平均模型组合方法，该方法包括以下步骤：步骤一，计算支持向量机2-分类模型的正则化路径，得到初始模型集；根据正则化路径算法，在训练数据集上运行正则化路径算法，得到初始模型集，，中的模型个数等于svmpath算法的迭代次数，且为，的取值范围大概为[4,6]，表示正类训练样本个数；表示负类训练样本个数；步骤二，在得到的正则化路径上应用贝叶斯公式求解模型的后验概率；模型的先验被赋予一个简单的高斯过程，高斯过程先验的协方差矩阵是正定矩阵，作为SVM的核矩阵通过引入支持向量机的概率解释，模型的后验概率由贝叶斯公式求解；对支持向量机的损失函数进行逐点归一化，即令，为取遍所有可能值时的归一化常数，从而得到模型的后验概率为，为给定样本，为决策函数的输出；对于中的每一个模型，概率可计算出来，因此模型的后验概率为步骤三，贝叶斯模型平均预测为预测测试样本的标签，上贝叶斯模型平均组合方法的形式如下：步骤四，得到预测输出并得出测试误差率，测试误差率 = 分类错误样本/样本总数。