[发明专利]基于主动学习的不平衡数据分类方法

说明书

本发明公开了一种基于主动学习的不平衡数据分类方法，从原始无标签数据中随机抽样选取样本进行标注，作为初始训练数据；采用通用的机器学习模型对初始训练数据进行代价敏感学习训练；利用已训练的二元监督分类模型对原训练数据样本中所有未打标签的样本进行预测，根据不确定度来选择最不确定的N个样本；分别计算N个样本与已训练数据集中心点的欧式距离之和，从N个样本中根据距离的从大到小顺序选取M个样本；将选取的M个样本进行标记，加入至训练数据集；用通用的机器学习模型对初始训练数据集进行代价敏感学习训练；不断重复以上过程，迭代循环，直到选取的M个样本的平均不确定度小于设定的不确定度阈值，即停止训练。本发明的方法可以有效地在保持不平衡数据分类器性能的基础上，减少打标签的样本量，从而节省打标签的时间和人力成本。

技术领域

本发明涉及机器学习领域，特别是一种基于主动学习的不平衡数据分类方法。

背景技术

不平衡数据广泛存在于实际的应用之中，例如在信用卡交易领域里存在的欺诈交易与非欺诈交易等。由于此类数据类别的分布不平衡，传统的机器学习模型无法直接用到此类数据的分类中。解决不平衡数据分类的方法主要有重采样方法和代价敏感学习方法。其中，重采样方法又细分为欠采样、过采样、smote等方法。

传统的机器学习训练方式多为监督学习方式，即给定相关领域数据全部样本以及样本的标签，通过合适的机器学习模型进行训练，继而产生最终的分类器。这种学习方式需要将全部样本打上标签，会导致巨大的时间花费和人力成本花费。在这种背景下，研究者们提出用主动学习的方式去训练分类器。目前主动学习的方法的研究主要可分为以下几类：（1）基于不确定度的样本选择方法（2）基于委员会的样本选择方法（3）基于泛化误差缩减的方法。

K_means算法是一种迭代求解的聚类分析算法。首先，随机确定k个初始点的质心；然后将数据集中的每一个点分配到一个簇中，即为每一个点找到距其最近的质心，并将其分配给该质心所对应的簇；该步完成后，每一个簇的质心更新为该簇所有点的平均值。

发明内容

本发明的目的在于提供一种基于主动学习的不平衡数据分类方法。

实现本发明目的的技术解决方案为：一种基于主动学习的不平衡数据分类方法，所属方法包括以下步骤：

从原始无标签数据中随机抽样选取一定数量的样本，进行标注，作为初始训练数据。

用通用的机器学习模型对初始训练数据进行代价敏感学习训练，具体学习方式为计算训练数据集中正样本和负样本的比例，将负样本的比例作为训练中正样本的权重，将正样本的比例作为训练过程中负样本的权重，获取初始训练样本的二元监督分类模型。同时运用k_means聚类算法计算初始训练数据的中心点。

利用已训练的二元监督分类模型对原训练数据样本中所有未打标签的样本进行预测，根据不确定度来选择最不确定的N个样本。分别计算N个样本与已训练数据集中心点的欧式距离之和，从N个样本中根据距离的从大到小顺序选取M个样本，其中M小于N。将选取的M个样本进行标记，加入至训练数据集。用通用的机器学习模型对初始训练数据集进行代价敏感学习训练。

不断重复以上过程，迭代循环，直到选取的M个样本的平均不确定度小于设定的不确定度阈值，即停止训练。

本发明与现有技术相比，其显著优点：本发明的方法可以有效地在保持不平衡数据分类器性能的基础上，减少打标签的样本量，从而节省打标签的时间和人力成本。

附图说明

图1为本发明实施例的一种基于主动学习的不平衡数据分类方法的流程图。

具体实施方式

本发明可以用在信用卡欺诈交易检测、信息安全检测等领域。

本发明一种基于主动学习的不平衡数据分类方法，包括以下步骤：