[发明专利]对抗攻击检测方法、装置及电子设备

说明书

本发明提供一种对抗攻击检测方法、装置及电子设备。方法包括：获取第一音频数据，以及从第一音频数据中获取预设时段的音频片段作为第二音频数据；将第一音频数据与第二音频数据分别输入音频识别模型，得到与第一音频数据对应的第一特征集，以及与第二音频数据对应的第二特征集，第一特征集包括与第一音频数据中的各音频片段对应的第一子特征，第二特征集包括至少一个与第二音频数据同音且与第二音频数据对应的第二特征；根据第一特征集中的第一子特征及第二特征集中的第二特征，确定第一音频数据是否为对抗样本，能够改善现有技术中因无法识别音频数据为对抗样本而使得攻击者通过对抗样本扰乱音频识别模型正常输出的技术问题。

技术领域

本发明涉及音频数据处理技术领域，具体而言，涉及一种对抗攻击检测方法、装置及电子设备。

背景技术

在语音识别系统中，具有将语音信号转录为音素这一功能的声学模型，依靠其深度神经网络的编解码能力，系统的语音识别率得到了很大的提升，甚至已达到人类可接受的水平。语音作为人工智能产品的主要入口，可以简单方便地执行特定指令或者控制相关设备，语音识别系统在智能手机、智能家居、智能车载等方面有广泛的应用，未来将会深入到人类生活和工作的各个环节当中。在现有技术中，这种趋势的发展存在一些风险，比如恶意者可能会利用系统的某一漏洞，在用户无察觉的情况下攻击语音识别系统，即攻击者通过对输入进行不可察觉的细微扰动，可以使深度神经网络以较高的置信度输出任意想要的分类。

发明内容

本发明提供一种对抗攻击检测方法、装置及电子设备。

为了实现上述目的，本发明实施例所提供的技术方案如下所示：

第一方面，本发明实施例提供一种对抗攻击检测方法，所述方法包括：

获取第一音频数据，以及从所述第一音频数据中获取预设时段的音频片段作为第二音频数据；

将所述第一音频数据与所述第二音频数据分别输入音频识别模型，得到与所述第一音频数据对应的第一特征集，以及与所述第二音频数据对应的第二特征集，所述第一特征集包括与所述第一音频数据中的各音频片段对应的第一子特征，所述第二特征集包括至少一个与所述第二音频数据同音且与所述第二音频数据对应的第二特征；

根据所述第一特征集中的第一子特征及所述第二特征集中的第二特征，确定所述第一音频数据是否为对抗样本。在本实施例提供的方法中，通过从第一音频数据中截取一个音频片段进行识别，然后将得到的特征与第一音频数据识别得到的特征进行比对，通过两特征之间的相似度来确定第一音频数据是否为对抗样本，有助于提高音频识别模型的安全性，避免因音频识别模型被对抗样本训练后输出异常的结果，从而改善现有技术中因无法识别音频数据为对抗样本而使得攻击者通过对抗样本扰乱音频识别模型正常输出的技术问题。

结合第一方面，在一些可选的实施方式中，根据所述第一特征集中的第一子特征及所述第二特征集中的第二特征，确定所述第一音频数据是否为对抗样本，包括：

根据所述第二特征的长度，从所述第一特征集中确定出至少一个与所述长度相同的第一特征，所述第一特征包括一个第一子特征或呈连续的至少两个第一子特征；

判断所述第一特征集与所述第二特征集中是否存在相似度大于或等于预设阈值的第一目标特征及第二目标特征；

当存在相似度大于或等于预设阈值的所述第一目标特征及所述第二目标特征时，确定表征所述第一音频数据不是对抗样本的第一检测结果；

当不存在相似度大于或等于所述预设阈值的所述第一目标特征及所述第二目标特征时，确定表征所述第一音频数据是对抗样本的第二检测结果。在本实施例提供的方法中，通过是否存在相似度大于或等于预设阈值的第一目标特征及第二目标特征来确定出第一音频数据是否为对抗样本，将音频识别得到的特征数字化，有助于快速确定出检测结果。