[发明专利]一种用于文本分类的词向量对抗样本生成方法及装置

说明书

本发明公开了一种用于文本分类的词向量对抗样本生成方法及装置，所述方法包括：对需要文本分类的英文文本进行初始化和词嵌入，转化为对应的向量表示；根据损失函数对英文文本的单词词向量反复进行偏导运算，直至神经网络模型输出的分类结果出错；基于修改后的单词词向量，采用欧式距离公式选取空间内最靠近被修改词向量的单词，构造攻击替代词集；根据攻击替代词集对英文文本的单词进行随机替换，生成对抗样本。本发明能够有效生成针对文本分类的词向量对抗样本，在保证不改变语义、不被人察觉且不影响人类对于文本的识别分类的前提下，使得神经网络文本分类器识别出错，并保证对抗样本在降低神经网络识别概率的同时不出现非法字符。

技术领域

本发明涉及计算机科学的自然语言处理技术领域，尤其是涉及一种用于文本分类的词向量对抗样本生成方法及装置。

背景技术

自然语言处理(natural language processing，简称NLP)是目前计算机科学研究的重点领域，文本分类是NLP领域的一个重要分支，主要用于智能地将大量未知类别的文本信息划分正确的类别。随着互联网时代的到来，数字化文本信息呈指数增长，对于文本的分类不能仅仅依靠于手工，通过借助基于神经网络的分类方法可以实现对文本进行快速自动分类，该方法不仅在分类精度上高于人工分类，而且能节省大量人力物力。

目前现有技术常用的文本分类方法主要为神经网络分类方法，虽然神经网络分类方法相比于传统分类方法大大提高了精确度，但是因为神经网络的不可解释性，基于神经网络的分类方法存在一些安全问题：对原始输入进行少量更改(人眼不可察觉)，即可造成分类器错误输出的严重后果。因此，针对神经网络的攻击方法立刻引发了学术界的研究热潮，目前大部分的攻击方法都围绕着如何快速有效地生成对抗样本。一般而言，通过技术手段生成一个和原始样本差别微小的对抗样本，该对抗样本能够使分类器识别出错，并且不易被人眼察觉，且不影响人的分类识别。目前现有的生成对抗样本技术提出利用快速梯度符号方法(Fast Gradient Sign Method，简称FGSM)对图像进行细微扰动生成对抗样本，使高精度的神经网络分类器识别出错。而NLP领域学者借鉴已有的图像对抗样本生成方法，提出了可应用于文本领域的攻击方法。通过向原始文本中加入不影响人类理解的单词或句子来欺骗问答系统，以达到获得错误答案的目的。

但是，在对现有技术的研究与实践过程中，本发明的发明人发现，快速梯度符号方法应用于图像领域，该攻击方法FGSM利用梯度生成对抗样本，虽然产生的噪点比较多，但是因为图像具有连续性，故人眼很难察觉。文本和图像最大的区别就在于文本是离散的，细微的改动也很容易被人眼察觉，故FGSM方法并不适用于文本分类领域。而上述技术中的第二项技术虽然是应用于文本领域，但因为攻击方法只利用少量的原始模型信息，所以对抗样本生成时间慢，算法效率低。并且该攻击方法对原始样本修改程度较大，容易被人察觉，所以并不能完美地实现不易察觉的攻击，同时该攻击方法主要应用于问答系统，在文本分类应用场景下并不能实现有效攻击。因此，亟需一种针对文本分类的词向量对抗样本生成方法，能够大量应用于文本分类的场景之下实现有效攻击。

发明内容

本发明实施例所要解决的技术问题在于，提供一种用于文本分类的词向量对抗样本生成方法及装置，有效生成针对文本分类的词向量对抗样本，使得神经网络文本分类器识别出错。

为解决上述问题，本发明的一个实施例提供了一种用于文本分类的词向量对抗样本生成方法，至少包括如下步骤：

对需要进行文本分类的英文文本进行初始化，将所述英文文本进行词嵌入，转化为对应的向量表示；

根据损失函数对英文文本中的单词词向量反复进行偏导运算，直至神经网络模型输出的分类结果出错；

基于修改后的单词词向量，采用欧式距离公式选取空间内最靠近被修改词向量的单词，构造攻击替代词集；

根据所述攻击替代词集对所述英文文本的单词进行随机替换，生成对抗样本。