[发明专利]一种基于von Mises-Fisher概率模型的网页分类方法

权利要求书

1.一种基于von Mises-Fisher概率模型的网页分类方法，其特征在于：包括以下步骤，

步骤1：数据预处理:对于训练样本，去除无用信息，得到第一行为样本类别标签的样本文档；所述的训练样本为带有类别标签的网页；具体处理方法为：对网页正文内容中的长文本进行分词，将词语用“/”隔开；分词完毕后，去掉网页正文内容中的标点、符号、语气词和助词，并将已知的样本类别标签写入网页正文内容的第一行，从而得到规范的网页正文内容，即包含有用单词正文的样本文档；

步骤2：特征提取：采用向量空间模型对样本文档进行建模，统计样本文档中各单词作为特征，单词出现的频率作为特征值；

步骤3：特征筛选：计算单词的TF-IDF值，按TF-IDF值大小排序，筛选具有代表性的单词，组成最终的特征向量；所述的TF-IDF值的具体计算方法为：

TF-IDF＝TF*IDF

TF是指某一给定的单词在包含有用单词正文的样本文档中出现的频率，单词i的词频tf_i,j的计算公式为：

其中，n_i,j为单词i在包含有用单词正文的样本文档j中出现的次数，Σ_k n_k,j为包含有用单词正文的样本文档j中包含的单词总数，IDF，即逆向文档频率，某一特定单词i的逆向文档频率idf_i为：

其中，|D|为语料库中的包含有用单词正文的样本文档总数，C表示包含单词i的包含有用单词正文的样本文档总数；

将上述计算得到的单词的TF-IDF值按由大到小进行排序，保留每篇文档中排名前N的词语作为重要单词，滤掉排名N以后的词语，得到包含有用单词正文的样本文档的最终特征向量；

步骤4：建模：使用von Mises-Fisher混合概率模型对特征向量进行建模，得到各类别的von Mises-Fisher混合概率模型；

步骤5：网页分类：根据von Mises-Fisher混合概率模型，统计样本文档特征向量中出现的所有词汇在待分类网页中出现的次数，得到待分类网页的特征向量，将待分类网页的特征向量带入各概率密度函数，从而完成分类；

所述的von Mises-Fisher混合概率模型G(X)为：

其中，i＝1,2,…,I，I为多峰von Mises-Fisher概率模型中单峰von Mises-Fisher概率模型的个数，π_i表示第i个单峰von Mises-Fisher概率模型的权重；

所述的单峰von Mises-Fisher概率模型的概率密度函数f_p(X；μ,k)为：

f_p(X；μ,k)＝C_p(k)exp(kμ^TX)

其中，p为单峰von Mises-Fisher概率模型的概率密度函数分布的维度；μ为单峰vonMises-Fisher概率模型的平均方向；k为密度参数，是阶数为(p/2-1)的第一类修正贝塞尔函数；X＝M/L＝(x₁,x₂,……,x_n)，L＝|M|²，M为特征向量。