[发明专利]一种增量式自训练框架及半监督宽度学习分类方法

说明书

本发明公开了一种增量式自训练框架及半监督宽度学习分类方法，框架包括初始化阶段，将所有未标记数据通过聚类方法和样本确定性大小形成有序的查询序列表，顺序选择部分数据初始化未标记数据池，同时使用初始标记数据训练基分类器，并标注未标记数据池中的数据；增量自更新阶段，根据选择度量值和设定阈值确定辅助训练数据并将其合并到标记训练数据集形成新的标记训练数据，用于更新基分类器；同时，顺序地从查询序列表中获取一批数据更新未标记数据池并用基分类器预测其新分类伪标签；重复增量自更新阶段，直到未标记数据池为空。本发明框架减少了大量重复运算，节省了资源，同时解决迭代造成的时间消耗问题，使其适用于大规模数据的应用。

技术领域

本发明属于半监督学习技术领域，具体涉及一种增量式自训练框架及半监督宽度学习分类方法。

背景技术

宽度学习系统(Broad Learning System，BLS)作为一种有效的增量分类方法，成功地解决了深度体系结构模型中参数多、耗时高的问题。宽度学习系统是一种单层网络结构，通过数学求解方式得到模型参数，高效地完成建模。鉴于高效性，宽度学习获得了大量科研学者和工业界的青睐。然而该方法仅通过标记数据建立有监督的识别模型，这限制了其适用性。

然而在现实生活和应用中，获取有标签的数据是耗时，耗成本的。特别是随着物联网和云计算等技术的快速发展，全球数据量呈爆炸式增长。在这种大数据背景下，所有数据都获得标签是几乎不可能的。而监督学习方法，如宽度学习无法利用未标记的样本，这不利于模型性能的提高。半监督学习作为一种兼容的方法，可以通过将大量未标记样本与少量标记样本相结合，建立一个高性能的识别模型，从而解决监督学习中的标记障碍。虽然自训练的半监督方法能够获得比较好的分类效果。但是其迭代学习的方式大大增加了其时间消耗。尤其是在大数据背景下，标准的自训练方法在广泛应用上并没有优势。

随着物联网和云计算等技术的快速发展，全球数据量呈爆炸式增长。在实际应用问题中，有越来越多的大规模数据，并且为如此大规模的数据进行标注是一件十分耗时耗力和耗材的事情。那么如何能够在少量标记样本的大规模数据场景下，实现快速高效的半监督分类是十分有意义的课题。

发明内容

本发明的主要目的在于克服现有技术的缺点与不足，提出一种增量式自训练框架及半监督宽度学习分类方法。

为了达到上述目的，本发明采用以下技术方案：

一种增量式自训练框架，包括初始化阶段和增量自更新阶段；

初始化阶段，将所有未标记数据通过聚类方法和样本确定性大小形成有序的查询序列表；

查询序列表部分用于初始化未标记数据池，同时采用现有标记样本初始化基分类器进行监督学习，并预测分类未标记数据池中的数据形成其伪标签，计算对应的选择度量值；

增量自更新阶段，根据选择度量值和设定阈值确定辅助训练数据并将其合并到标记训练数据集形成新的标记训练数据，用于更新基分类器；同时，顺序地从查询序列表中获取一批数据更新未标记数据池并用基分类器预测其新分类伪标签，形成带伪标签的未标记数据；

重复增量自更新阶段，直到未标记数据池为空。

进一步的，增量式自训练框架中涉及数据有八种，具体为：

初始标记数据未标记数据{X_U}、未标记数据池查询序列表Q、用于更新未标记数据池的批量数据Q_a、伪标签数据辅助训练数据以及新的标记数据其中l、s、t、q分别代表初始标记数据、未标记数据池、伪标签数据以及加入标记数据的样本的数量。

进一步的，步骤S1中，增量自更新阶段中，带伪标签的未标记数据按照选择度量值进行降序排列以减少辅助训练数据的对比选择时间；

进一步的，步骤S1中，增量自更新阶段中，从查询序列表中获取一批数据，该批数据的大小固定或自适应变化。