[发明专利]对抗样本生成方法、装置、电子设备及存储介质

权利要求书

1.一种对抗样本生成方法，其特征在于，包括：

获取包括文本段落、问题以及答案的三元组，所述问题为针对所述文本段落提出的问题，所述答案为基于所述文本段落生成的答案；

对所述问题中的预定类型的词进行替换，得到至少一个修改后的问题；

确定出所述问题对应的至少一个虚假答案，所述虚假答案与所述答案属于相同类型；

根据所述修改后的问题及所述虚假答案生成至少一个干扰句；

对生成的干扰句进行语法检查，过滤掉语法不正确的干扰句；

按照每次修改在所述文本段落中插入一个干扰句的方式，得到至少一个修改后的文本段落，选定一个修改后的文本段落作为所述对抗样本。

2.根据权利要求1所述的方法，其特征在于，

所述预定类型的词包括以下之一或任意组合：名词、形容词、命名实体、数字。

3.根据权利要求1所述的方法，其特征在于，

所述确定出所述问题对应的至少一个虚假答案包括：

确定所述答案所属的类型；

从斯坦福问答数据集中与所述答案属于相同类型的各答案中随机选出至少一个，作为所述虚假答案。

4.根据权利要求3所述的方法，其特征在于，

该方法进一步包括：获取所定义的至少两种不同类型；分别确定出所述斯坦福问答数据集中的各答案所属的类型。

5.根据权利要求1所述的方法，其特征在于，

所述根据所述修改后的问题及所述虚假答案生成至少一个干扰句包括：

确定对应的语法规则；

根据所述语法规则将任一修改后的问题与任一虚假答案进行组合，得到至少一个干扰句。

6.根据权利要求1所述的方法，其特征在于，

所述按照每次修改在所述文本段落中插入一个干扰句的方式，得到至少一个修改后的文本段落包括：

针对任一干扰句，分别将所述干扰句随机插入到所述文本段落中的至少一个位置，得到至少一个修改后的文本段落。

7.根据权利要求1所述的方法，其特征在于，

所述选定一个修改后的文本段落作为所述对抗样本包括：分别将各修改后的文本段落输入预先获取的阅读理解模型，根据所述阅读理解模型的输出确定出最具攻击性的修改后的文本段落，作为所述对抗样本。

8.根据权利要求1所述的方法，其特征在于，

该方法进一步包括：利用所述对抗样本对预先获取的阅读理解模型进行优化。

9.一种对抗样本生成装置，其特征在于，包括：信息获取单元以及样本生成单元；

所述信息获取单元，用于获取包括文本段落、问题以及答案的三元组，所述问题为针对所述文本段落提出的问题，所述答案为基于所述文本段落生成的答案；

所述样本生成单元，用于对所述问题中的预定类型的词进行替换，得到至少一个修改后的问题；确定出所述问题对应的至少一个虚假答案，所述虚假答案与所述答案属于相同类型；根据所述修改后的问题及所述虚假答案生成至少一个干扰句；对生成的干扰句进行语法检查，过滤掉语法不正确的干扰句；按照每次修改在所述文本段落中插入一个干扰句的方式，得到至少一个修改后的文本段落，选定一个修改后的文本段落作为所述对抗样本。

10.根据权利要求9所述的装置，其特征在于，

所述预定类型的词包括以下之一或任意组合：名词、形容词、命名实体、数字。

11.根据权利要求9所述的装置，其特征在于，

所述样本生成单元确定所述答案所属的类型，从斯坦福问答数据集中与所述答案属于相同类型的各答案中随机选出至少一个，作为所述虚假答案。

12.根据权利要求11所述的装置，其特征在于，

所述样本生成单元进一步用于，获取所定义的至少两种不同类型，分别确定出所述斯坦福问答数据集中的各答案所属的类型。