[发明专利]基于对抗学习的文本分类模型训练和文本分类方法及装置

说明书

说明书实施例提供了一种文本分类模型的训练方法和文本分类方法，文本分类模型包括文本分类网络、对抗文本生成网络，该方法包括：将第一文本样本输入对抗文本生成网络，获得第一对抗文本；根据第一对抗文本与第一文本样本的文本差异损失；确定第一对抗文本与第一文本样本对于文本分类网络的判别差异损失；以文本差异损失趋于变小、判别差异损失趋于变大为目标，训练对抗文本生成网络；将第二文本样本输入经过训练的对抗文本生成网络，生成第二对抗文本；将第二文本样本和所述第二对抗文本，输入文本分类网络，得到第二文本样本和第二对抗文本分别对应的分类结果,以该分类结果趋同于第二文本样本的分类标签为目标，更新文本分类网络。

技术领域

本说明书一个或多个实施例涉及机器学习领域和数据安全领域，尤其涉及一种基于对抗学习的文本分类模型训练和文本分类方法及装置。

背景技术

在大量业务领域中,例如反非法所得合法化制裁扫描、电商交易、内容安全等，存在着大量的文本对抗场景，攻击者会通过关键词改写、特殊字符、字符重复、音节替换、部分缺失、同/近义词替换、语种混写等各种对抗形式以干扰以文本分类模型为核心的风险控制系统的拦截，从而进行违规交易或者发表违规言论。

因此，需要一种在抗干扰能力方面鲁棒性更好的文本分类模型。

发明内容

本说明书中的实施例旨在提供更有效的文本分类模型的方法，解决现有技术中的不足。

根据第一方面,提供了一种文本分类模型的训练方法，所述文本分类模型包括文本分类网络、对抗文本生成网络，所述方法包括：

将第一文本样本输入对抗文本生成网络，获得第一对抗文本；

根据第一对抗文本与第一文本样本，确定文本差异损失；

确定所述第一对抗文本与第一文本样本对于所述文本分类网络的判别差异损失；

以所述文本差异损失趋于变小、所述判别差异损失趋于变大为目标，更新所述对抗文本生成网络；

将第二文本样本输入经过训练的所述对抗文本生成网络，生成第二对抗文本；

将所述第二文本样本和所述第二对抗文本，输入文本分类网络，得到第二文本样本和第二对抗文本分别对应的分类结果,以所述第二文本样本和第二对抗文本分别对应的分类结果趋同于所述第二文本样本的分类标签为目标，更新所述文本分类网络。

在一个实施例中,所述方法还包括，在确定所述第一对抗文本与第一文本样本对于所述文本分类网络的判别差异损失之前，对于所述文本分类网络进行预训练。

在一个实施例中,对于所述文本分类网络进行预训练，包括，基于第四文本样本和/或所述第一文本样本，对于所述文本分类网络进行预训练。

在一个实施例中,所述文本分类网络基于文本卷积网络TextCnn、长短期记忆网络LSTM中的一种。

在一个实施例中,所述根据第一对抗文本与第一文本样本，确定文本差异损失，包括，根据所述第一对抗文本与第一文本样本的文本编辑距离，确定文本差异损失。

在一个实施例中,所述确定所述第一对抗文本与第一文本样本对于所述文本分类网络的判别差异损失，包括：

将所述第一对抗文本与第一文本样本输入所述文本分类网络，分别获取所述第一对抗文本对应的文本分类网络的第一梯度，以及所述第一文本样本对应的文本分类网络的第二梯度；

根据第一梯度和第二梯度，确定所述第一对抗文本与第一文本样本对于文本分类模型的判别差异损失。

在一个实施例中,所述确定所述第一对抗文本与第一文本样本对于所述文本分类网络的判别差异损失，包括：