[发明专利]一种用于文本分类的词向量对抗样本生成方法及装置

权利要求书

1.一种用于文本分类的词向量对抗样本生成方法，其特征在于，至少包括如下步骤：

对需要进行文本分类的英文文本进行初始化，将所述英文文本进行词嵌入，转化为对应的向量表示；

根据损失函数对英文文本中的单词词向量反复进行偏导运算，直至神经网络模型输出的分类结果出错，具体为：根据损失函数对英文文本中的单词词向量进偏导运算，得到损失函数沿输入单词词向量各维度的正向变化率；根据该正向变化率对输入单词词向量的各维度进行修改，使得在约束范围内损失函数最大化；反复进行上述步骤，以对英文文本中的多个单词进行修改，直至神经网络模型输出的分类结果出错；

基于修改后的单词词向量，采用欧式距离公式选取空间内最靠近被修改词向量的单词，构造攻击替代词集；

根据所述攻击替代词集对所述英文文本的单词进行随机替换，生成对抗样本。

2.根据权利要求1所述的用于文本分类的词向量对抗样本生成方法，其特征在于，还包括：

设计用于对文本进行分类的神经网络模型；所述神经网络模型包括输入层、隐藏层和输出层；

将训练文本转化为词向量表示后，输入至所述神经网络模型进行训练，得到所述神经网络模型的输出结果；

根据所述神经网络模型的输出结果和当前训练文本正确类别对神经网络模型参数进行修正，训练结束后固定所述神经网络模型参数。

3.根据权利要求1所述的用于文本分类的词向量对抗样本生成方法，其特征在于，所述将所述英文文本进行词嵌入，转化为对应的向量表示，具体为：

对所述英文文本中的每个单词进行word2vec词嵌入，将每个单词均转化为固定长度为m的词向量；

将所述英文文本表示为一个n*m的二维矩阵；其中，n为英文文本中的单词总数，m为预设的固定长度。

4.一种用于文本分类的词向量对抗样本生成装置，其特征在于，包括：

词嵌入模块，用于对需要进行文本分类的英文文本进行初始化，将所述英文文本进行词嵌入，转化为对应的向量表示；

词向量修改模块，用于根据损失函数对英文文本中的单词词向量反复进行偏导运算，直至神经网络模型输出的分类结果出错，具体为：根据损失函数对英文文本中的单词词向量进偏导运算，得到损失函数沿输入单词词向量各维度的正向变化率；根据该正向变化率对输入单词词向量的各维度进行修改，使得在约束范围内损失函数最大化；反复进行上述步骤，以对英文文本中的多个单词进行修改，直至神经网络模型输出的分类结果出错；

攻击替代词集模块，用于基于修改后的单词词向量，采用欧式距离公式选取空间内最靠近被修改词向量的单词，构造攻击替代词集；

对抗样本模块，用于根据所述攻击替代词集对所述英文文本的单词进行随机替换，生成对抗样本。

5.根据权利要求4所述的用于文本分类的词向量对抗样本生成装置，其特征在于，还包括：

神经网络模型模块，用于设计用于对文本进行分类的神经网络模型；所述神经网络模型包括输入层、隐藏层和输出层；

训练模块，用于将训练文本转化为词向量表示后，输入至所述神经网络模型进行训练，得到所述神经网络模型的输出结果；

参数修正模块，用于根据所述神经网络模型的输出结果和当前训练文本正确类别对神经网络模型参数进行修正，训练结束后固定所述神经网络模型参数。

6.根据权利要求4所述的用于文本分类的词向量对抗样本生成方法，其特征在于，所述词嵌入模块，具体为：

对所述英文文本中的每个单词进行word2vec词嵌入，将每个单词均转化为固定长度为m的词向量；

将所述英文文本表示为一个n*m的二维矩阵；其中，n为英文文本中的单词总数，m为预设的固定长度。

7.一种用于文本分类的词向量对抗样本生成的终端设备，其特征在于，包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至3中任意一项所述的用于文本分类的词向量对抗样本生成方法。

8.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质包括存储的计算机程序，其中，在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行如权利要求1至3中任意一项所述的用于文本分类的词向量对抗样本生成方法。