[发明专利]一种面向不平衡数据集的分类方法

说明书

一种面向不平衡数据集的分类方法，涉及类别失衡。针对数据源中存在类别不平衡的问题，大部分方法对多数类样本进行下采样，造成大量有用信息的损失，提供基于集成学习与逻辑回归充分合理地使用多数类样本，从而进一步提升分类效果的一种面向不平衡数据集的分类方法。包括数据准备和模型训练。每个弱学习器使用完全不同的多数类样本进行学习，相比传统的欠采样方法能让多数类样本信息能够被充分的利用；每个弱学习器使用不同的多数类样本、特征集合、训练参数势必会提高它们的多样性，从而提升集成效果；利用逻辑回归自适应的结合各个弱学习器的输出，相比传统的简单平均输出更加合理且抗干扰。

技术领域

本发明涉及类别失衡，尤其是涉及一种面向不平衡数据集的分类方法。

背景技术

类别失衡是指分类任务中不同类别的训练样例数目差别很大的情况，现实中，大多数分类任务面向的数据集都是不平衡的。目前，针对二分类数据集中类别失衡问题主要有两类缓解方法：第一类是直接对训练集的多数类样例进行“欠采样”，即去除一些多数类样例使得类别数目接近^[1-4]，然后再进行学习；第二类是对训练集里的少数类样例进行“过采样”^[5-6]，即增加少数类样例使得类别数目接近，然后再进行学习。过采样方法很容易产生过度拟合，尤其在类别严重失衡时此问题更为严重。欠采样方法时间开销远小于过采样方法，虽然相比过采样方法更加常用，但是这种方法会使得大量潜在的信息被丢弃。尤其是在总体样本数量本就不多的情况下，忽略潜在信息会带来更严重的问题。

在机器学习领域，集成学习^[7-10]是一个强有力的工具，它将多个弱学习器组合成一个强学习器，这个强学习器的表现远远优于单个弱学习器。根据误差-分歧分解理论^[11]，弱学习器的准确性越高，多样性越大，则最终集成的效果越好。

参考文献：

[1]Ming W,Zhang Z,Niu S,et al.Deep-Learning-Based Drug–TargetInteraction Prediction[J].Journal of Proteome Research,2017,16(4):1401.

[2]Yu H,Chen J,Xu X,et al.A Systematic Prediction of Multiple Drug-Target Interactions from Chemical,Genomic,and Pharmacological Data[J].PlosOne,2012,7(5):e37608.

[3]Xie L,Zhang Z,He S,et al.Drug—target interaction prediction witha deep-learning-based model[C]//IEEE International Conference onBioinformatics and Biomedicine.IEEE Computer Society,2017:469-476.

[4]Zheng X,He S,Song X,et al.DTI-RCNN:New Efficient Hybrid NeuralNetwork Model to Predict Drug–Target Interactions[C]//InternationalConference on Artificial Neural Networks.Springer,Cham,2018:104-114.