[发明专利]基于对抗插值的样本数据增强方法、装置、设备及介质

说明书

本发明公开了一种基于对抗插值的样本数据增强方法、装置、设备及介质，所述方法包括：获取已标注的第一样本数据，根据mixup算法对所述第一样本数据进行随机插值，得到第二样本数据；通过梯度下降方法调整插值比例，得到更新后的插值比例；根据所述更新后的插值比例，重新进行插值运算，得到增强的第三样本数据。根据本公开实施例提供的基于对抗插值的样本数据增强方法，利用对抗学习的方法来搜索插值比例，增强程度可以控制，可以生成更“难”的增强样本，从而提高分类模型在低资源情况下的准确度。

技术领域

本发明涉及数据处理技术领域，特别涉及一种基于对抗插值的样本数据增强方法、装置、设备及介质。

背景技术

现实场景使用图像分类模型、语音分类模型或者文本分类模型会遇到标注数据少(低资源)的问题。在低资源的情况下，比如每个类别只有少量样本，模型可能会过拟合导致其性能不达预期。这种过拟合情况在数据稀缺的情况下更加明显，例如每个类别只有5个样本的极端情况。

面对一个标注数据稀缺的低资源应用场景，数据增强是一种有效的技术方法，可以利用非常少量的标注语料得到一个有一定性能的基础模型，帮助破解低资源困局、减少对标注的需求，快速进入模型优化的迭代开发。

但是，现有技术中的数据增强方法都是单样本增强。例如：在文本分类的场景中，通常用GPT-2模型生成某个类别的合成样本，然后将合成样本放入训练集合训练模型，提升模型的泛化能力。这样的单样本增强的程度难以控制使得增强效果不能得到保证。而基于插值的数据增强利用两个不同类别的真实样本进行插值生成一个插值样本，会因插值比例不同而生成出不同“难易”程度的样本，从而影响到分类模型的效果。

发明内容

本公开实施例提供了一种基于对抗插值的样本数据增强方法、装置、设备及介质。解决了现有技术中标注数据少，影响模型训练效果的问题。为了对披露的实施例的一些方面有一个基本的理解，下面给出了简单的概括。该概括部分不是泛泛评述，也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念，以此作为后面的详细说明的序言。

第一方面，本公开实施例提供了一种基于对抗插值的样本数据增强方法，包括：

获取已标注的第一样本数据，根据mixup算法对第一样本数据进行随机插值，得到第二样本数据；

通过梯度下降方法调整插值比例，得到更新后的插值比例；

根据更新后的插值比例，重新进行插值运算，得到增强的第三样本数据。

在一个可选地实施例中，根据mixup算法对第一样本数据进行随机插值，得到第二样本数据，包括：

从第一样本数据中随机抽取两个样本；

从Beta分布中随机抽取一个插值比例，得到随机插值比例；

根据抽取的样本数据、随机插值比例以及mixup算法进行随机插值，得到第二样本数据。

在一个可选地实施例中，根据如下公式进行随机插值，得到第二样本数据：

λ～Beta(α，α)

其中，{xi,yi}和{xj,yj}表示抽取的样本数据，λ表示插值的比例，Beta(α,α)表示beta分布，g_k(x_i)和g_k(x_j)表示xi和xj经过网络编码后的数据，表示根据插值比例λ将位置K的词的表示g_k(x_i)和g_k(x_j)进行插值融合后的增强数据，表示对于xi和xj对应的标签yi和yj进行插值融合后的增强数据。