[发明专利]一种基于混合多项分布的文本分类算法

摘要

本发明提供一种基于混合多项分布的文本分类算法，包括以下步骤：S1：输入训练集文本；S2：计算并保存所有文本类别C的概率分布；S3：初始化混合多项分布的参数值θ、πk以及分量个数K；S4：使用当前参数值θ、πk,计算完整数据的对数似然函数关于隐藏变量后验概率分布的期望；S5：用EM算法训练混合多项分布的参数值θ、πk；S6：对不同的所述分量个数K，分别画出模型对测试集和所述训练集的预测误差图线，选择预测误差最小的K值；S7：输出结果。本发明的有益效果在于，本发明将朴素贝叶斯算法结合混合多项分布，用EM算法对混合模型的参数进行估计，以提高模型的分类精度。

主权项

1.一种基于混合多项分布的文本分类算法，其特征在于，包括以下步骤：S1：输入训练集，其文本的类别集合为C＝{C1,C2,...,CS}，所述文本的属性特征集合为x＝{x1,x2,...,xd}；S2：计算并保存所有文本类别为Cj的概率分布，j＝1,2……S；S3：初始化混合多项分布的概率参数θ、权重πk以及分量个数K；S4：使用当前参数值θ、πk,计算完整数据的对数似然函数关于隐藏变量后验概率分布的期望；S5：用EM算法训练所述混合多项分布的参数值θ、πk；S6：对不同的所述分量个数K，分别画出模型对测试集和所述训练集的预测误差图线，选择预测误差最小的K值；S7：输出文本类别Cj的概率分布p(Cj)，混合多项分布的分量个数K和参数值θ、πk。