[发明专利]基于标签相关性的多标签AdaBoost集成方法

摘要

本发明公开了一种基于标签相关性的多标签AdaBoost集成方法，采用一种基于样本权重的stump决策树方法作为弱分类器，弱分类器的输出为样本标签的置信度，置信度大小紧密依赖于样本权重，构造方法简单、高效；本发明针对多分类问题，根据分类结果来判断标签之间的相似性，并融合到多标签AdaBoost算法的迭代训练中，将标签相关性分析融入到分类模型的训练中，相互促进、相互影响，最终提升强分类器性能；针对多标签分类问题，采用余弦相似度来计算标签相关性矩阵，把原始标签转换为模糊标签，并把模糊标签矩阵与分类器模型训练相结合。本发明方法易于实现，可提高多标签分类系统的效率，具有更好的分类效果。

主权项

一种基于标签相关性的多标签AdaBoost集成方法，其特征在于：包括如下步骤：步骤一、获取训练样本集X＝{(x₁,Y₁),...,(x_m,Y_m)}，x_i＝(x_i1,…x_id)∈R^d，表示样本空间有d个属性，Y_i是样本x_i的标签集，如果l∈Y_i，则Y(i,l)＝1,否则Y(i,l)＝‑1；步骤二、判断问题类型，若是多分类问题，则进入步骤四；若是多标签分类问题，则进入步骤三；步骤三、采用余弦相似度来计算标签相关矩阵R和模糊标签矩阵步骤四、初始化样本权重：w(i,l)＝1/(mK)，其中：m为样本个数，K为类别个数；步骤五、基于样本权重w^t(i,l)训练第t个弱分类器h_t，t＝1,2,…T，T为待集成的弱分类器个数；步骤六、判断问题类型，若是多分类问题，则进入步骤七；若是多标签分类问题，则进入步骤九；步骤七、根据临时强分类器f_t对样本集X的分类结果计算标签相似矩阵S_t：步骤八、对权值调整因子β_t赋值如下：如果h_t(x_i)＝l且S_t(y_i,l)＝1，则令β_t(i,l)＝c₂，否则β_t(i,l)＝c₁；然后进入步骤十；步骤九、对权值调整因子β_t赋值如下：如果且h_t(x_i,l)>0则令β_t(i,l)＝c₂，否则β_t(i,l)＝c₁；然后进入步骤十；步骤十、计算第t个弱分类器的权重α_t：u_t(x_i)＝Y_i(l)h_t(x_i,l)β_t(i,l)；步骤十一、更新权重并归一化：w_t+1(i,l)＝w_t(i,l)exp(‑α_tY_i(l)h_t(x_i,l)β_t(i,l))；步骤十二、判断t是否小于迭代次数T：如果是，返回步骤五；如果否，进入步骤十三；步骤十三、输出强分类器H(x)：对于多分类问题，则输出对于多标签分类问题，则输出