[发明专利]一种样本筛选方法、系统及神经网络模型训练方法

说明书

本发明涉及人工智能技术领域，提供一种样本筛选方法、系统及神经网络模型训练方法，通过计算未标注样本集和标注样本集之间的距离，并根据距离进行排序，得到排序结果；通过提取未标注样本集的表征参数，得到对应的活跃值；基于排序结果和活跃值，从未标注样本集中选择部分样本进行标注，得到新的标注样本集；本发明在选择与训练任务相关的样本的同时，还保持了对无关数据的低采样率，并避免了采集到与训练任务无关的离群点，从而保证了采样到有价值的样本，由此在神经网络模型的训练过程中，避免了与任务毫无关联的样本对训练结果的影响，进而提高了神经网络模型的识别精度。

技术领域

本发明涉及人工智能技术领域，特别是涉及一种样本筛选方法、系统及神经网络模型训练方法。

背景技术

主动学习是指利用不确定性采样，去寻找未标注数据集中信息量最大的数据进行标注，从而避免过分标注低信息量数据，标注样本的质量会影响模型的训练效果，进而影响模型的应用性能。

传统的主动学习方法如熵采样、边缘采样，会过分地对一些信息量很大但是非常相似的样本进行过采样，从而导致标注数据大量重复。

为了避免上述情况，传统的多样性采样策略会计算已有样本之间的余弦相似度来作为判断指标，当数据集中的相似度高于一定阈值，系统便自动放弃对该类数据的标注抽取，采用这种方案，虽然保证了数据不再重复，但导致抽取出来的未标注数据都是无效数据区的离群点，这些点的例子在整个未标注池中往往是孤例，对模型的训练没有任何作用；此外，未标注池的有效数据区代表样本点无法被采样，这些数据虽然信息量没有非常高，但往往是一个样本群的质心，非常有代表性，这些点经常由于与有效数据普遍相近而会被忽视。

发明内容

鉴于以上所述现有技术的缺点，本发明的目的在于提供一种样本筛选方法、系统及神经网络模型训练方法，用于解决现有技术中主动学习方法会过分采样，导致标注数据大量重复，进而影响训练得到的模型识别精度较低的问题。

本发明的第一方面提供一种样本筛选方法，包括：

构建第一训练集，所述第一训练集包括未标注样本集和标注样本集；

计算所述未标注样本集和所述标注样本集之间的距离，并按照从小到大的顺序进行排序，得到排序结果；

将所述未标注样本集输入预训练的神经网络模型中，提取对应的表征参数，计算各表征参数的活跃值；

根据所述排序结果和所述活跃值，从所述未标注样本集中选择部分样本进行标注，并将标注后的样本加入所述标注样本集中，形成新的标注样本集；

组合所述未标注样本集中剩余的样本、所述新的标注样本集，形成筛选后的第一训练集。

于本发明的一实施例中，所述计算所述未标注样本集和标注样本集之间的距离的步骤包括：

采用KM算法，分别对所述未标注样本集和所述标注样本集进行聚类分析，得到第一聚类群和第二聚类群；

从所述第一聚类群和所述第二聚类群中分别选择预设数量的聚类，提取每个聚类的质心；

计算来自第一聚类群的每个质心与来自第二类聚类群的所有质心的欧式距离之和，得到所述未标注样本集和标注样本集之间的距离。

于本发明的一实施例中，所述将所述未标注样本集输入预训练的神经网络模型中，提取对应的表征参数，计算各表征参数的活跃值的步骤包括：

将选自所述第一聚类群的每个聚类输入预训练的神经网络模型中，提取对应的表征参数；

计算每个表征参数的平均值，根据该平均值确定对应的活跃值；其中，平均值越大，对应的活跃值越高。

于本发明的一实施例中，所述根据所述排序结果，从所述未标注样本集中选择部分样本进行标注的步骤包括：